CN113572546B - 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 - Google Patents
一种基于CSI信号利用DenseNet网络进行人体活动识别方法 Download PDFInfo
- Publication number
- CN113572546B CN113572546B CN202110669373.8A CN202110669373A CN113572546B CN 113572546 B CN113572546 B CN 113572546B CN 202110669373 A CN202110669373 A CN 202110669373A CN 113572546 B CN113572546 B CN 113572546B
- Authority
- CN
- China
- Prior art keywords
- data
- csi
- human body
- layer
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 230000037081 physical activity Effects 0.000 title claims abstract description 25
- 230000009471 action Effects 0.000 claims abstract description 48
- 238000012545 processing Methods 0.000 claims abstract description 24
- 238000012549 training Methods 0.000 claims abstract description 18
- 230000009467 reduction Effects 0.000 claims abstract description 15
- 238000000513 principal component analysis Methods 0.000 claims abstract description 10
- 238000006243 chemical reaction Methods 0.000 claims abstract description 7
- 230000006854 communication Effects 0.000 claims abstract description 6
- 238000001914 filtration Methods 0.000 claims abstract 2
- 230000000694 effects Effects 0.000 claims description 22
- 239000011159 matrix material Substances 0.000 claims description 18
- 238000013461 design Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000012544 monitoring process Methods 0.000 claims description 10
- 230000001502 supplementing effect Effects 0.000 claims description 6
- 230000007704 transition Effects 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 5
- 239000013598 vector Substances 0.000 claims description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 4
- 238000005452 bending Methods 0.000 claims description 4
- 238000012360 testing method Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 238000012546 transfer Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 12
- 230000033001 locomotion Effects 0.000 description 11
- 230000008447 perception Effects 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 238000000605 extraction Methods 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000008054 signal transmission Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 206010011224 Cough Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000005021 gait Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 230000007787 long-term memory Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/309—Measuring or estimating channel quality parameters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/04—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
- G08B21/0407—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
- G08B21/043—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting an emergency event, e.g. a fall
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/32—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
- H04L9/3226—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using a predetermined code, e.g. password, passphrase or PIN
- H04L9/3231—Biological data, e.g. fingerprint, voice or retina
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
- H04W4/021—Services related to particular areas, e.g. point of interest [POI] services, venue services or geofences
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/33—Services specially adapted for particular environments, situations or purposes for indoor environments, e.g. buildings
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Computer Security & Cryptography (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Biodiversity & Conservation Biology (AREA)
- Electromagnetism (AREA)
- Psychiatry (AREA)
- Gerontology & Geriatric Medicine (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Quality & Reliability (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明属于人体活动识别技术领域,公开了一种基于CSI信号利DenseNet网络进行人体活动识别方法,在两个室内环境下采集动作数据,使用两台装有Intel 5300无线网卡的计算机作为收发器,并设置相应的参数;设备的发送端和接收端之间通信过程中,采用线性插值的方法补充丢失的数据;使用巴特沃斯低通滤波器滤除由于收发机内部功率转换产生的一些高频噪声,利用离散小波变换在整个带宽上去除低频噪声;使用主成分分析对数据进行降维处理,将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征,实现提升数据处理速度的目的;对网络框架进行设计,并选择相关的参数进行训练。本发明提高了识别精度,具有良好的鲁棒性以及可靠性。
Description
技术领域
本发明属于人体活动识别技术领域,尤其涉及一种基于CSI信号利用DenseNet网络进行人体活动识别方法。
背景技术
目前,随着计算机科学的极速发展,实现高层次人机交互是未来重要的发展方向,其中包括对人体行为活动的准确感知和理解。人体活动识别在摔倒检测、生理指标感知、群体感知和身份认证等方面都有重大意义。现阶段人体活动识别的技术手段主要有以下几种方式:基于计算机视觉的方法、佩戴传感器的方法和基于WiFi信号的方法。S.Herath、M.Harandi和F.Porikli发表论文“Going deeper into action recognition:A surveyImage and Vision Computing”,基于计算机视觉计算方法,利用摄像头拍摄的视频或图像采集人体活动图像序列,提取与人体动作相关的序列,再对其进行识别,这种方法是目前使用比较广泛的一种方法。但是该方法后续识别计算量大,对计算机硬件性能要求高,由于摄像头容易收到光线条件的制约、障碍物和监控死角等的影响,只能实现视距路径下一定范围内的感知,而且采集的动作图像序列会包含不必要的脸部信息,这可能导致隐私泄露的问题,使得在一些特殊场合不能使用。
基于专用传感器技术,将一些加速度计和陀螺仪等佩戴到人身体上,通过采集传感器参数分析相关动作的信息。K.Yatani和K.Truong发表论文“Bodyscope:A werableacoustic sensor for activity recognition”,利用声学传感器可以区分吃饭和咳嗽等行为。C.Bo和X.Jian发表论文“You are driving and texting:Detecting drivers usingpersonal smart phones by leveraging inertial sensors”,使用智能传感器检测驾驶行为。在Philips Lifeline产品中,将加速度计安装到人身体上对摔倒进行检测。基于传感器的方法能实现较为细粒度的感知,但是传感器设备昂贵,设备需要充换电,并且对于老年人等一些场景佩戴传感器是不方便的,所以不能大范围应用。
P.Bahl和V.Padmanabhan发表论文“Radar:An in-building RF-based userlocation and tracking system”,提出了Radar,这是一个基于WiFi的接收信号强度(RSS)进行室内定位的系统,是首次将wifi信号用来进行人体活动感知。M.Seifeldin、A.Saeed和A.Kosba发表论文“Nuzzer:A large-scale device-free passive localization systemforwireless environments”,基于信号强度对简单动作实现了检测,但是只能识别测试环境下是否有人在活动,而不能识别属于什么活动。虽然RSS使用起来很简单,也很容易测量,但它无法捕捉到由于人的运动而引起的信号的真实变化,因为即使环境中没有活动时,RSS也不是稳定的。
D.Halperin、W.Hu、A.Sheth和D.Wetherall在其文献“Tool release:Gathering802.11n traces with channel state information”中发布了基于商用网卡Intel 5300提取信道状态信息(CSI)的CSI tool工具,方便了在商用WiFi设备上获取CSI信息。RSS的采集是直接对接收到的wifi物理信号进行采样,在不解调的情况下直接测量接收信号的幅度、相位等原始信息。例如RSS信号可以从手机、电脑等程序接口直接读取,无需对设备进行改装或修改程序就能获取,但是RSS易受环境干扰,且值更新慢,不能实现实时更新,所以基于RSS的活动感知是粗粒度的感知,感知准确度也比较低。WiFi中采用正交频分复用(OFDM)技术,CSI是对信道状态的估计。每一条天线链路的每一个子载波都有相应的CSI值,假设发送端天线数目为,接收端天线数目为,子载波个数为m,那么每一个接收到的包都可表示为一个的CSI矩阵,这个矩阵就表示了当前传输链路的信道状态信息。
由于高噪声比,原始CSI测量不足以代表不同的人类活动。W.Wang、M.Shahzad和K.Ling等人在其文献“Device-free human activity recognition using commercialWiFi devices”中提出手动提取鉴别特征,常用的特征包括统计特征、多普勒频移特征、小波变换特征和时频图特征。然后将每个动作提取的特征建立数据库,选择合适的分类器进行分类。例如KNN算法和SVM算法,KNN算法思想是一个样本在特征空间最邻近的k个样本大多属于某一类别,则该样本也属于这个类别,KNN算法实现简单,但当样本不均衡时性能差;SVM算法使用非线性映射算法将空间线性不可分的低维输入转化成在高维空间中线性可分的问题,从而在高维空间中利用线性算法对非线性特征进行划分,但其缺点是在大容量样本上难以实施。
但是手工提取的特征需要专业的知识,而且由于特征提取和识别部分没有联合优化,泛化能力无法保证。S.Yousefi、H.Narui和S.Dayal等人发表论文“A surveyonbehaviorrecognition using WiFi channel state information”提出了CARM系统,采用长短时记忆网络(LSTM),称该系统能够自动学习代表性特征,并在特征学习过程中对事件信息进行编码。虽然识别准确率远远超出了机器学习分类器,但是仍有一些不足之处,比如在相似活动上表现不好,对CSI序列只考虑了时间维度的信息,而且LSTM的参数较多,训练花费的时间较长。
传统的机器学习分类器训练简单,但是手工提取的特征不足以用于后续的识别,识别效果不高;使用长短时记忆网络的方法,训练时间长,无需手工提取特征,但是只在CSI序列的时间维度上挖掘有关动作的信息。所以如何合理设计一个神经网络框架,使得能同时达到训练较快和识别效果较好的目标,并且不仅仅只利用CSI序列的时间维度,这是目前十分重要的研究方向,也是本发明所要解决的问题。
通过上述分析,现有技术存在的问题及缺陷为:
(1)现有技术中机器学习分类器手工提取的特征不足以用于后续的识别,识别效果不高。
(2)现有技术中使用长短时记忆网络的方法,训练时间长,只在CSI序列的时间维度上挖掘有关动作的信息。
解决以上问题及缺陷的难度为:CSI序列在时间和空间上具有关联性,现有的方法虽然采用了自动提取CSI序列特征,但是往往忽略了空间维度上的特征信息,因此,如何设计一种自动提取CSI序列特征,并且能够深度挖掘CSI序列的时间和空间关联性信息是具有挑战性的。
解决以上问题及缺陷的意义为:如果能够找到一种可以自动提取CSI序列特征的方法,这意味着可以减少人工提取特征带来的误差;此外,同时挖掘CSI序列的时间和空间关联性信息可以提升识别准确率,并且可以更细粒度的去分析CSI动作信号。
发明内容
针对现有技术存在的问题,本发明提供了一种基于CSI信号利用DenseNet网络进行人体活动识别方法。本发明利用DenseNet进行人体活动的识别方法为一种基于CSI利用DenseNet进行人体活动的识别方法,涉及WiFi无线信号的传输和深度学习,尤其针对日常活动和相似活动,设计了一种基于DenseNet深度学习框架,分析CSI的全局时空相关性,完全保留了动作样本的连续性,使用该深度学习框架挖掘全局相关信息,在采集的日常活动数据集上有很好的表现。
本发明是这样实现的,一种利用DenseNet进行人体活动的识别方法,所述DenseNet进行人体活动的识别方法,包括:
步骤一,在两个室内环境下采集动作数据,使用两台装有Intel 5300无线网卡的计算机作为收发器,并设置相应的参数;使用两台计算机收发数据,相比较传统的一台计算机和一个路由器收发数据,能够更精确的控制收发数据及设置相应的实验参数。
步骤二,设备的发送端和接收端之间通信过程中,采用线性插值的方法补充丢失的数据;采用线性插值的方法可以有效避免由于信号传输中的丢包现象而导致的部分信号特征丢失。
步骤三,使用巴特沃斯低通滤波器滤除由于收发机内部功率转换产生的一些高频噪声,利用离散小波变换在整个带宽上去除低频噪声;由于在实际环境中有大量的噪声,这会对信号产生干扰,使用巴特沃斯低通滤波器和离散小波对采集到的信号进行降噪,可以减少实际环境对CSI信号的干扰。
步骤四,使用主成分分析对数据进行降维处理,将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征,实现提升数据处理速度的目的;保留最重要的特征,舍弃掉一些次要的特征,可以降低处理数据的复杂度,并且提高运行效率。
步骤五,根据预处理完成后的数据,对网络框架进行设计,并选择相关的参数进行训练。设计最佳的网络框架以及相关参数,提取适当的特征用于识别,可以提高活动识别准确率。
进一步,所述步骤一中,两个室内环境的选择具体为:
第一个室内环境为一间办公室,大小为5m×6m,办公室内其他家具少;第二个室内环境为一间会议室,会议室内有大量桌椅,大小为9m×7m,发送天线与接收天线的距离为2m,天线高度距离底面为0.8m。
进一步,所述步骤一中,设置相应的参数的具体为:
设置发射天线Nr个数为1,接收天线Nt个数为3,CSI tool工作在监控模式下,由于监控模式精确地控制发送的参数,设置以1000Hz的采样率发送3000个包,每个动作应该在3s内完成,受试者在每个动作前后保持静止;
在IEEE 802.11n协议中,使用OFDM调制技术得到56个子载波;将收发机设置工作在5G频段的165信道上。
进一步,所述步骤一中,在两个室内环境下采集动作数据具体为:举手、挥手、弯腰、鼓掌、走路和坐下。
进一步,所述步骤二中,用线性插值的方法补充丢失的数据具体为:
线性插值为:
其中,X0,Y0,X1,Y1分别为CSI信号中任意两点的坐标值,X∈(X0,X1),Y为插值后的信号长度。
进一步,所述步骤四中,使用主成分分析对数据进行降维处理,具体过程为:
输入数据集X={x1,x2,...,xn},降维到k维;去平均值,每一位特征减去各自的平均值;
计算协方差矩阵,
计算协方差矩阵的特征值和特征向量,对特征值从大到小排序,选择其中最大的k个,然后将其对应的k个特征向量分别作为列向量组成特征向量矩阵,将数据转换到k个特征向量构建的新空间中。
进一步,所述步骤五中,对网络框架进行设计的具体过程为:
第一步,对WiFi CSI数据进行预处理后获得的数据格式为30×3000,对于高维且数据长度很长的数据,首先对其进行数据长度方向上进行裁剪,因此采用卷积核尺寸为7,步长为6的一维卷积对数据长度进行处理,即其中O为输出尺寸,N为数据长度;
第二步,设计第一组Dense_block层和Translation层,分别采用卷积和尺寸为1,步长为1以及卷积核尺寸为3,步长为1的一维卷积层;Dense_block层负责将输出进行拼接,使得Dense_block中每一层卷积层都能重复利用前一层卷积层的输出,从而充分挖掘CSI数据中隐藏的时间和空间关联性信息;
Translation层负责将Dense_block层输出的数据进行降维,以提高处理速度;
第三步,按照第二步中的设计思路,采用同样的策略设计第二组Dense_block层和Translation层;
第四步,按照第二步中的设计思路,采用同样的策略设计第三组Dense_block层和Translation层;在Dense_block层中卷积层的数量选择[2,4,8],以获得最佳的识别结果和最高的识别效率;
第五步,在网络的最后部分加入了全连接层;通过全连接层来输出固定大小的特征向量Φ(S)={Φ(S1),Φ(S2),…,Φ(Si)},其中k为动作种类数量。
进一步,所述步骤五中,选择相关的参数进行训练的具体过程为:
设定初始学习率lr=0.01,每训练十轮学习率递减一半;最后采用Adam算法来更新网络模型参数,以使得网络能够学习到CSI动作特征。
本发明另一目的在于提供一种接收用户输入程序存储介质,所存储的计算机程序使电子设备执行所述DenseNet进行人体活动的识别方法包括下列步骤:
步骤一,在两个室内环境下采集动作数据,使用两台装有Intel 5300无线网卡的计算机作为收发器,并设置相应的参数;
步骤二,设备的发送端和接收端之间通信过程中,采用线性插值的方法补充丢失的数据;
步骤三,使用巴特沃斯低通滤波器滤除由于收发机内部功率转换产生的一些高频噪声,利用离散小波变换在整个带宽上去除低频噪声;
步骤四,使用主成分分析对数据进行降维处理,将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征,实现提升数据处理速度的目的;
步骤五,根据预处理完成后的数据,对网络框架进行设计,并选择相关的参数进行训练。
本发明另一目的在于提供一种存储在计算机可读介质上的计算机程序产品,包括计算机可读程序,供于电子装置上执行时,提供用户输入接口以实施所述的DenseNet进行人体活动的识别方法。
结合上述的所有技术方案,本发明所具备的优点及积极效果为:本发明采用的技术方案不需要携带任何传感器,更加便捷;WiFi信号能够穿越障碍物,可实现非视距感知;WiFi信号是电磁波,识别不受光照、温度、湿度等外界条件影响;WiFi热点近乎无缝接入,识别成本低且不需要额外的设备部署;被动感知,不会泄露受试者的隐私。
本发明使用基于DenseNet的一维卷积神经网络方案,即在网络设计上,为了匹配CSI信号的高维特征,采用一维卷积对CSI信号进行深层次挖掘,并在这种设计方案下,改进现有的卷积神经网络来挖掘细粒度的CSI信号的时间和空间关联性信息,使得一方面能够让网络自动提取CSI信号的动作特征,降低手动提取CSI信号特征的难度;另一方面保证网络能够深层次的挖掘CSI动作特征,提升准确率。
本发明一方面采用了卷积神经网络来自动提取CSI动作特征,相比较传统的依赖于研究者的先验知识来提取特征,极大的提高了效率,并且即使在环境变化时,也具有良好的鲁棒性;另一方面采用将多层网络层的输出作为下一层网络的输出,可以重复提取前一层网络的特征信息,使得可以深层次的挖掘细粒度的CSI动作特征,同传统的卷积神经网络方法相比较,有更好的提取特征表现,从而提升了准确率和可靠性。本发明通过将卷积层的输出进行拼接,而不是丢弃掉上一层的输出,从而可以提取出CSI信号的时间和空间关联性信息,这样即使出现相似性的动作,也具有良好的识别性能,提升了系统的抗干扰性。
附图说明
图1是本发明实施例提供的利用DenseNet进行人体活动的识别方法流程图。
图2是本发明实施例提供的利用DenseNet进行人体活动的识别系统框图。
图3是本发明实施例提供的实验办公室环境图。
图4是本发明实施例提供的会议室环境图。
图5是本发明实施例提供的不同频段下的信号传输图。
图6是本发明实施例提供的采用DWT降噪前波形图。
图7是本发明实施例提供的采用DWT降噪后波形图。
图8是本发明实施例提供的采用PCA处理后的CSI信号图。
图9是本发明实施例提供的网络框架图。
图10是本发明实施例提供的办公室环境采集的动作混淆矩阵结果图。
图11是本发明实施例提供的会议室环境采集的动作混淆矩阵结果图。
图12是本发明实施例提供的对称性动作的混淆矩阵结果图。
图13是本发明实施例提供的不同网络结构的实验精度图。
图14是本发明实施例提供的与现有方法的对比图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
针对现有技术存在的问题,本发明提供了一种基于CSI信号利用DenseNet网络进行人体活动识别方法,下面结合附图对本发明作详细的描述。
本发明提供的DenseNet进行人体活动的识别方法业内的普通技术人员还可以采用其他的步骤实施,图1的本发明提供的DenseNet进行人体活动的识别方法仅仅是一个具体实施例而已。还有其他的实施例,例如在S101阶段采用基于Atheros网卡的Atheros-CSI-tool收集更多的子载波;在S102阶段采用离群点去除、取平均的方法去除由于设备内部发射功率和传输速率等变化引起的异常突变CSI值。
如图1所示,本发明实施例提供的DenseNet进行人体活动的识别方法,包括:
S101:在两个室内环境下采集动作数据,使用两台装有Intel 5300无线网卡的计算机作为收发器,并设置相应的参数;
S102:设备的发送端和接收端之间通信过程中,采用线性插值的方法补充丢失的数据。
S103:使用巴特沃斯低通滤波器滤除由于收发机内部功率转换产生的一些高频噪声,利用离散小波变换在整个带宽上去除低频噪声。
S104:使用主成分分析对数据进行降维处理,将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征,实现提升数据处理速度的目的。
S105:根据预处理完成后的数据,对网络框架进行设计,并选择相关的参数进行训练。
本发明实施例提供的S101中,两个室内环境的选择具体为:
第一个室内环境为一间办公室,大小为5m×6m,办公室内其他家具少;第二个室内环境为一间会议室,会议室内有大量桌椅,大小为9m×7m,发送天线与接收天线的距离为2m,天线高度距离底面为0.8m。
本发明实施例提供的S101中,设置相应的参数的具体为:
设置发射天线Nr个数为1,接收天线Nt个数为3,CSI tool工作在监控模式下,由于监控模式精确地控制发送的参数,设置以1000Hz的采样率发送3000个包,每个动作应该在3s内完成,受试者在每个动作前后保持静止;
在IEEE 802.11n协议中,使用OFDM调制技术得到56个子载波;将收发机设置工作在5G频段的165信道上。
本发明实施例提供的S101中,在两个室内环境下采集动作数据具体为:举手、挥手、弯腰、鼓掌和走路。
本发明实施例提供的S102中,用线性插值的方法补充丢失的数据具体为:
线性插值为:
其中,X0,Y0,X1,Y1分别为CSI信号中任意两点的坐标值,X∈(X0,X1),Y为插值后的信号长度。
本发明实施例提供的S104中,使用主成分分析对数据进行降维处理,具体过程为:
输入数据集X={x1,x2,...,xn},降维到k维;去平均值,每一位特征减去各自的平均值。
计算协方差矩阵,
计算协方差矩阵的特征值和特征向量,对特征值从大到小排序,选择其中最大的k个,然后将其对应的k个特征向量分别作为列向量组成特征向量矩阵,将数据转换到k个特征向量构建的新空间中。
本发明实施例提供的S105中,对网络框架进行设计的具体过程为:
第一步,对WiFi CSI数据进行预处理后获得的数据格式为30×3000,对于高维且数据长度很长的数据,首先对其进行数据长度方向上进行裁剪,因此采用卷积核尺寸为7,步长为6的一维卷积对数据长度进行处理,即其中O为输出尺寸,N为数据长度;
第二步,设计第一组Dense_block层和Translation层,分别采用卷积和尺寸为1,步长为1以及卷积核尺寸为3,步长为1的一维卷积层;Dense_block层负责将输出进行拼接,使得Dense_block中每一层卷积层都能重复利用前一层卷积层的输出,从而充分挖掘CSI数据中隐藏的时间和空间关联性信息;
Translation层负责将Dense_block层输出的数据进行降维,以提高处理速度;
第三步,按照第二步中的设计思路,采用同样的策略设计第二组Dense_block层和Translation层;
第四步,按照第二步中的设计思路,采用同样的策略设计第三组Dense_block层和Translation层;在Dense_block层中卷积层的数量选择[2,4,8],以获得最佳的识别结果和最高的识别效率。
第五步,在网络的最后部分加入了全连接层。通过全连接层来输出固定大小的特征向量Φ(S)={Φ(S1),Φ(S2),…,Φ(Si)},其中k为动作种类数量。
本发明实施例提供的S105中,选择相关的参数进行训练的具体过程为:
设定初始学习率lr=0.01,每训练十轮学习率递减一半。最后采用Adam算法来更新网络模型参数,以使得网络能够学习到CSI动作特征。
下面结合具体实施例对本发明的技术方案作详细的描述。
如图1所示,本发明的协作传输方法包括如下步骤:
步骤1,在两个室内环境下采集动作数据。第一个实验环境是一间办公室,办公室内布局如图3所示,大小为5m×6m,办公室内其他家具较少。第二个实验环境是一间会议室,会议室内有大量桌椅,大小为9m×7m,会议室内布局如图4所示。发送天线与接收天线的距离为2m,天线高度距离底面为0.8m。
步骤2,使用两台装有Intel 5300无线网卡的计算机作为收发器,每台计算机都是内核版本为4.2的Ubuntu 14.04系统,并安装了CSItool。设置发射天线Nr个数为1,接收天线Nt个数为3。CSI tool工作在监控模式下,因为监控模式可以精确地控制发送的参数,设置以1000Hz的采样率发送3000个包,所以每个动作应该在3s内完成,受试者在每个动作前后保持静止。在IEEE 802.11n协议中,使用OFDM调制技术得到56个子载波,但是CSItool只能捕获到其中30个子载波。
步骤3,WiFi信号在不同频段的干扰是不同的,在传输质量较差的信道中,WiFi信号受到的干扰较大,丢包率非常严重。如图5所示,在2.4G频段,CSI受到的干扰严重,丢包现象严重,而5G频段就相比之下好很多,所以本发明中的实验将收发机设置工作在5G频段的165信道上。
步骤4,在两个实验环境下采集了两个数据集,所有数据集中的志愿者都是研究生,有男生和女生,有高的和矮的,有胖的和瘦的。每个数据集有六个动作,每个志愿者做每个动作重复30次,动作分别是举手、挥手、弯腰、鼓掌、走路和坐下。
步骤5,在理想情况下,设备的发送端和接收端之间应该没有丢包。但是实际情况下,由于各种因素,如障碍物和硬件条件,仍然会出现少量丢包现象,这导致采集数据的长度低于理想的数据长度。所以要补充这些丢失的数据,以保证每个数据的长度一致,采用线性插值的方法,其中,X0,Y0,X1,Y1分别为CSI信号中任意两点的坐标值,X∈(X0,X1),Y为插值后的信号长度。
步骤6,使用巴特沃斯低通滤波器,可以滤除由于收发机内部功率转换产生的一些高频噪声,但对于低频噪声不能很好地去除。使用离散小波变换(DWT),可以在整个带宽上去除噪声。使用DWT去噪后的效果图如图6和图7所示。
步骤7,使用主成分分析(PCA)对数据进行降维处理,降维是将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征,从而实现提升数据处理速度的目的。输入数据集X={x1,x2,...,xn},降维到k维。去平均值,每一位特征减去各自的平均值。计算协方差矩阵,计算协方差矩阵的特征值和特征向量,对特征值从大到小排序,选择其中最大的k个,然后将其对应的k个特征向量分别作为列向量组成特征向量矩阵,将数据转换到k个特征向量构建的新空间中。如图8所示,对于挥手动作的CSI信号图进行PCA处理后,第一个主成分包含了很多噪声,而后的四个主成分信号模式变化趋势一致,故舍去第一个主成分。
步骤8,网络框架按以下步骤进行设计:
(8a):对WiFi CSI数据进行预处理后获得的数据格式为30×3000,对于这种高维且数据长度很长的数据,首先对其进行数据长度方向上进行裁剪,因此首先采用卷积核尺寸为7,步长为6的一维卷积对数据长度进行处理,即其中O为输出尺寸,N为数据长度,在本发明中,N=3000,F为卷积核尺寸,stride为卷积核步长,如图9所示。再对处理后的数据进行最大池化层降维。
(8b):设计第一组Dense_block层和Translation层,分别采用卷积和尺寸为1,步长为1以及卷积核尺寸为3,步长为1的一维卷积层。Dense_block层负责将输出进行拼接,使得Dense_block中每一层卷积层都能重复利用前一层卷积层的输出,从而能够充分挖掘CSI数据中隐藏的时间和空间关联性信息。
Translation层负责将Dense_block层输出的数据进行降维,由于将所有的输出进行拼接,会导致输出数据维度过高,使得处理数据的效率变低。因此,对数据进行降维可以加快处理速度。
(8c):按照(8b)中的设计思路,采用同样的策略设计第二组Dense_block层和Translation层。
(8d):按照(8b)中的设计思路,采用同样的策略设计第三组Dense_block层和Translation层。为了达到最佳的识别精度,在Dense_block层中卷积层的数量选取上,选择了[2,4,8],以获得最佳的识别结果和最高的识别效率。如图9所示。
(8e):为了获得每种动作的预测概率,在网络的最后部分加入了全连接层。通过全连接层来输出固定大小的特征向量Φ(S)={Φ(S1),Φ(S2),…,Φ(Si)},其中k为动作种类数量。
步骤9,相关参数选择及训练。为了能够使得网络能够学习到CSI动作特征,设定初始学习率lr=0.01,每训练十轮学习率递减一半。最后采用Adam算法来更新网络模型参数。
下面结合仿真实验对本发明的技术方案作详细的描述。
1、实验环境及设备
1)实验环境为两个典型的室内场所,分别为办公室和会议室。
2)实验设备包含两台装有CSI tool的电脑以及外接天线。
3)招募志愿者采集动作数据,动作包括一些手势和躯干型动作。
2、实验内容
在办公室中采集数据,发送设备和接收设备的距离为2m,高度为0.8m,并对数据进行处理,实验结果如图10所示。采取同样的实验设置在会议室采集数据,实验结果如11所示。
采集对称性动作,例如手举起和手方向,坐下和起立,每组动作采集180个动作样本,实验结果如图12所示。
验证网络层数对实验结果的影响,分别设计网络结构为[1,1,1],[2,2,4],[2,4,6],[2,4,8],[4,6,8],[6,8,10]的DenseNet网络,实验结果如图13所示。
将本发明与现有的CSI动作识别方法对比,实验结果如图14所示。
3、实验结果
图10和图11分别给出了在两个不同的环境中本发明的混淆矩阵结果。由图10和图11可知,本发明的在不同的环境中平均识别效率在96%以上。
图14给出了对称性动作(A1,A2,A3,A4)的识别结果。由图12可知,本发明在识别难度较高的对称性动作时,其识别结果在94%以上,具有良好的识别结果。
图13给出了网络结构的不同对实验结果的影响。由图13可知,当网络结构设计为[2,4,8]时,其识别精度最高,因此本发明采用了网络结构为[2,4,8]的DenseNet。
图14给出了本发明与现有的方法的对比。由图14可知,本发明在识别精度上优于现有的方法。
综上所述,本发明同现有的CSI动作识别方法相比,提高了识别精度;在环境变化时,本发明的识别精度趋于稳定,同时在识别一些难度高的动作时本发明也具有高精度的识别表现,这说明了本方法具有良好的鲁棒性以及可靠性。
应当注意,本发明的实施方式可以通过硬件、软件或者软件和硬件的结合来实现。硬件部分可以利用专用逻辑来实现;软件部分可以存储在存储器中,由适当的指令执行系统,例如微处理器或者专用设计硬件来执行。本领域的普通技术人员可以理解上述的设备和方法可以使用计算机可执行指令和/或包含在处理器控制代码中来实现,例如在诸如磁盘、CD或DVD-ROM的载体介质、诸如只读存储器(固件)的可编程的存储器或者诸如光学或电子信号载体的数据载体上提供了这样的代码。本发明的设备及其模块可以由诸如超大规模集成电路或门阵列、诸如逻辑芯片、晶体管等的半导体、或者诸如现场可编程门阵列、可编程逻辑设备等的可编程硬件设备的硬件电路实现,也可以用由各种类型的处理器执行的软件实现,也可以由上述硬件电路和软件的结合例如固件来实现。
本发明可以应用在摔倒检测方面,在S101阶段采集摔倒动作的数据集,对原始信号进行预处理,使用训练过的本发明设计的网络框架进行识别,将WiFI路由器设备安放卧室、客厅等房间即能对摔倒进行检测,在对老年人看护时,老年人状态的实时检测是一项重要的任务,摔倒是威胁老年人生命健康的最大杀手,对摔倒进行实时监测并报警,能够最大限度降低摔倒带来的后果;本发明还可以应用在身份认证方面,也就是步态识别,本发明中采集了走路动作的数据集并能达到96%的识别率,因为每个人的走路状态有个体差异性,可以在一定程度上鉴别用户的身份,这对辅助侦查、捕捉罪犯有很大的意义;对于本发明的举手、挥手、弯腰和鼓掌属于日常行为感知方面,这是智能家居很重要的一部分,可以实现人与机器的自然交互。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,都应涵盖在本发明的保护范围之内。
Claims (8)
1.一种利用DenseNet进行人体活动的识别方法,其特征在于,所述利用DenseNet进行人体活动的识别方法,包括:
在两个室内环境下采集动作数据,使用两台装有Intel 5300无线网卡的计算机作为收发器,并设置相应的参数;
设备的发送端和接收端之间通信过程中,采用线性插值的方法补充丢失的数据;
使用巴特沃斯低通滤波器滤除由于收发机内部功率转换产生的一些高频噪声,利用离散小波变换在整个带宽上去除低频噪声;
使用主成分分析对数据进行降维处理,将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征;
根据预处理完成的后数据,对网络框架进行设计,并选择相关的参数进行训练;
对网络框架进行设计的具体过程为:
第一步,对WiFi CSI数据进行预处理后获得的数据格式为30×3000,对于高维且数据长度很长的数据,首先对其进行数据长度方向上进行裁剪,因此采用卷积核尺寸为7,步长为6的一维卷积对数据长度进行处理,即,
其中,为输出尺寸,/>为数据长度,F为滤波器大小,stride为步长;
第二步,设计第一组Dense_block层和Translation层,分别采用卷积和尺寸为1,步长为1以及卷积核尺寸为3,步长为1的一维卷积层;Dense_block层负责将输出进行拼接,使得Dense_block中每一层卷积层都能重复利用前一层卷积层的输出,从而充分挖掘CSI数据中隐藏的时间和空间关联性信息;
Translation层负责将Dense_block层输出的数据进行降维,以提高处理速度;
第三步,按照第二步中的设计思路,采用同样的策略设计第二组Dense_block层和Translation层;
第四步,按照第二步中的设计思路,采用同样的策略设计第三组Dense_block层和Translation层;在Dense_block层中卷积层的数量选择[2,4,8],以获得最佳的识别结果和最高的识别效率;
第五步,在网络的最后部分加入了全连接层;通过全连接层来输出固定大小的特征向量,其中/>,/>为数域,i为正整数,表示第i个,/>为动作种类数量,/>为第i个活动类型。
2.如权利要求1所述利用DenseNet进行人体活动的识别方法,其特征在于,两个室内环境的选择具体为:第一个室内环境为一间办公室,大小为5m×6m,办公室内其他家具少;第二个室内环境为一间会议室,会议室内有大量桌椅,大小为9m×7m,发送天线与接收天线的距离为2m,天线高度距离底面为0.8m。
3.如权利要求1所述利用DenseNet进行人体活动的识别方法,其特征在于,所述设置相应的参数的具体为:设置发射天线个数为1,接收天线/>个数为3,CSI tool工作在监控模式下,由于监控模式精确地控制发送的参数,设置以1000Hz的采样率发送3000个包,每个动作应该在3s内完成,受试者在每个动作前后保持静止;在IEEE 802.11n协议中,使用OFDM调制技术得到56个子载波;将收发机设置工作在5G频段的165信道上。
4.如权利要求1所述利用DenseNet进行人体活动的识别方法,其特征在于,在两个室内环境下采集动作数据具体为:举手、挥手、弯腰、鼓掌、走路和坐下。
5.如权利要求1所述利用DenseNet进行人体活动的识别方法,其特征在于,用线性插值的方法补充丢失的数据具体为:
线性插值为:
;
其中,分别为CSI信号中任意两点的坐标值,/>,Y为插值后的信号长度。
6.如权利要求1所述利用DenseNet进行人体活动的识别方法,其特征在于,使用主成分分析对数据进行降维处理,具体过程为:
输入数据集,降维到k维;去平均值,每一位特征减去各自的平均值;
计算协方差矩阵,;
计算协方差矩阵的特征值和特征向量,对特征值从大到小排序,选择其中最大的k个,然后将其对应的k个特征向量分别作为列向量组成特征向量矩阵,将数据转换到k个特征向量构建的新空间中;
其中,与/>为要计算协方差的两个矩阵,E(X)和E(Y)分别是X和Y的期望值,n为样本数,/>和/>是第i个X变量和第i个Y变量的取值,/>和/>表示均值。
7.如权利要求1所述利用DenseNet进行人体活动的识别方法,其特征在于,选择相关的参数进行训练的具体过程为:设定初始学习率,每训练十轮学习率递减一半;最后采用Adam算法来更新网络模型参数,以使得网络能够学习到CSI动作特征。
8.一种接收用户输入程序存储介质,所存储的计算机程序使电子设备执行权利要求1~7任意一项所述利用DenseNet进行人体活动的识别方法包括下列步骤:
步骤一,在两个室内环境下采集动作数据,使用两台装有Intel 5300无线网卡的计算机作为收发器,并设置相应的参数;
步骤二,设备的发送端和接收端之间通信过程中,采用线性插值的方法补充丢失的数据;
步骤三,使用巴特沃斯低通滤波器滤除由于收发机内部功率转换产生的一些高频噪声,利用离散小波变换在整个带宽上去除低频噪声;
步骤四,使用主成分分析对数据进行降维处理,将高维度的数据保留下最重要的一些特征,去除噪声和不重要的特征,实现提升数据处理速度的目的;
步骤五,根据预处理完成的后数据,对网络框架进行设计,并选择相关的参数进行训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110669373.8A CN113572546B (zh) | 2021-06-16 | 2021-06-16 | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110669373.8A CN113572546B (zh) | 2021-06-16 | 2021-06-16 | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113572546A CN113572546A (zh) | 2021-10-29 |
CN113572546B true CN113572546B (zh) | 2023-09-19 |
Family
ID=78162151
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110669373.8A Active CN113572546B (zh) | 2021-06-16 | 2021-06-16 | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113572546B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115913415B (zh) * | 2022-11-09 | 2024-02-02 | 华工未来科技(江苏)有限公司 | 一种基于ris辅助的wifi信号动作识别方法、装置及存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112418014A (zh) * | 2020-11-09 | 2021-02-26 | 南京信息工程大学滨江学院 | 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11138469B2 (en) * | 2019-01-15 | 2021-10-05 | Naver Corporation | Training and using a convolutional neural network for person re-identification |
US11675066B2 (en) * | 2019-08-08 | 2023-06-13 | Syracuse University | Motion detection and classification using ambient wireless signals |
-
2021
- 2021-06-16 CN CN202110669373.8A patent/CN113572546B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112418014A (zh) * | 2020-11-09 | 2021-02-26 | 南京信息工程大学滨江学院 | 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113572546A (zh) | 2021-10-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106407905B (zh) | 基于机器学习的无线感知动作识别方法 | |
Li et al. | Wi-motion: A robust human activity recognition using WiFi signals | |
CN112036433B (zh) | 一种基于CNN的Wi-Move行为感知方法 | |
WO2020170221A1 (en) | Handling concept drift in wi-fi-based localization | |
EP3977793A1 (en) | Proximity-based model for indoor localization using wireless signals | |
WO2022148477A1 (zh) | 一种Wi-Fi人体检测的方法和智能设备 | |
Zhang et al. | WiFiMap+: high-level indoor semantic inference with WiFi human activity and environment | |
Chowdhury et al. | WiHACS: Leveraging WiFi for human activity classification using OFDM subcarriers' correlation | |
Zhu et al. | NotiFi: A ubiquitous WiFi-based abnormal activity detection system | |
CN111901028B (zh) | 一种基于多天线上csi的人体行为识别方法 | |
CN113326801A (zh) | 一种基于信道状态信息的人体移动方向识别方法 | |
CN113572546B (zh) | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 | |
CN114781463A (zh) | 一种跨场景鲁棒的室内摔倒无线检测方法及相关设备 | |
CN113743374B (zh) | 一种基于信道状态信息呼吸感知的人员身份识别方法 | |
Pan et al. | Dynamic hand gesture detection and recognition with WiFi signal based on 1d-CNN | |
Kabir et al. | CSI-IANet: An inception attention network for human-human interaction recognition based on CSI signal | |
Moshiri et al. | CSI-based human activity recognition using convolutional neural networks | |
CN109918994B (zh) | 一种基于商用Wi-Fi的暴力行为检测方法 | |
Duan et al. | APFNet: Amplitude-phase fusion network for CSI-based action recognition | |
CN113051972A (zh) | 一种基于WiFi的手势识别系统 | |
CN112380903B (zh) | 一种基于WiFi-CSI信号增强的人体活动识别方法 | |
Zeeshan et al. | CSI-based device-free joint activity recognition and localization using Siamese networks | |
Tong et al. | A fine-grained channel state information-based deep learning system for dynamic gesture recognition | |
Chen et al. | WiTT: Modeling and the evaluation of table tennis actions based on WIFI signals | |
CN114333044A (zh) | 一种非接触式连续行为感知方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |