CN108509910A - 基于fmcw雷达信号的深度学习手势识别方法 - Google Patents
基于fmcw雷达信号的深度学习手势识别方法 Download PDFInfo
- Publication number
- CN108509910A CN108509910A CN201810281177.1A CN201810281177A CN108509910A CN 108509910 A CN108509910 A CN 108509910A CN 201810281177 A CN201810281177 A CN 201810281177A CN 108509910 A CN108509910 A CN 108509910A
- Authority
- CN
- China
- Prior art keywords
- matrix
- signal
- network
- gesture
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Abstract
本发明公布了一种基于雷达信号的深度学习手势识别方法,首先通过雷达获取每一种手势的中频信号,并从中提取每一根发射天线和接收天线下的中频信号矩阵;其次,利用傅里叶变换对信号频率进行提取,得到信号中的距离和速度信息并且将数据进行预处理;然后,建立三维卷积神经网络和长短记忆网络,将处理后的雷达信号输入到网络进行训练;最后,根据深度学习网络提取的特征进行手势识别。本发明方法解决了传统识别算法使用条件受限以及鲁棒性差的问题,且能实现多种手势的精确分类。
Description
技术领域
本发明属于手势识别技术,具体涉及一种基于雷达信号的深度学习手势识别方法。
背景技术
在人机交互迅猛发展的时代,手势识别作为其极其重要的研究领域,已经引起了世界各国的高度重视。在手势识别初期,人们主要着重于基于传感器(Sensor),特别是基于数据手套(Data Glove)的手势识别研究。当时,研究人员佩戴一个集成了各种功能传感器的“手套”。该设备另一端连接到计算机,计算机可以获取到手的位置信息、手指的伸展信息等,从而进行手势的识别。后来随着计算机视觉的发展,基于视觉的人体手势识别研究成为实现新一代人机交互的一项关键技术,该技术主要是利用摄像头去采集人体手势动作的图像或视频,通过图像处理技术和计算机视觉的方法识别人体手势。
但以上手势识别技术一般都有很大的使用限制,首先,传统手势识别方法需要对特定的手势设计相应的特征,当更换手势动作时,相应的特征和权重也需要随之调整,而且上述方法的学习能力有限且算法鲁棒性较差;第二,摄像头在昏暗的光下很难捕捉到清晰图像,这样导致识别应用场景受到了很大的限制。
为了解决上述问题且为了对手势实现精确的分类,本发明提出了一种新的基于雷达信号的手势识别方法。
发明内容
本发明的目的是提供一种基于雷达信号和深度学习的手势分类方法,它能有效的解决传统识别使用环境受限以及算法鲁棒性差的问题,且能实现多种手势的精确分类。
本发明所述的基于雷达信号和深度学习的手势分类方法,包括以下步骤:
步骤一、设计手掌前推、后拉、左摆、右摆、前后推拉和左右挥动六个手势动作,并且利用调频连续波(Frequency Modulated Continuous Wave,FMCW)雷达采集训练和测试手势数据集的雷达源数据文件生成原始的中频信号矩阵A,
从原始中频信号矩阵A中提取某一发射天线和接收天线对应的帧信号矩阵Fk。
步骤二、构造汉明窗Whanming,并将其与帧信号矩阵Fk进行旁瓣抑制处理得到帧信号矩阵Fk′。
步骤三、将帧信号矩阵Fk′的每一列信号Fk′c进行傅里叶变换生成距离信号矩阵Sk。
步骤四、根据距离信号矩阵Sk中的频率分量计算信号所表示的实际距离,得到信号幅值矩阵Rk。
步骤五、将帧信号矩阵Sk的每一行行矩阵信号Skr进行傅里叶变换,生成速度信号矩阵S′k。
步骤六、根据速度信号矩阵S′k中频率分量计算信号所表示的实际速度,得到信号幅值矩阵R′k。
步骤七、计算信号序列B中各帧信号{B1 ... Bi ... Bf}(1≤i≤f)包含手势速度和距离信息的幅值矩阵(R1 R2 ... Rf)。
步骤八、将生成的幅值矩阵(R1 R2 ... Rf)预处理为深度学习网络的输入数据Xinput,并初始化网络权重。
步骤九、将输入信号矩阵Xinput进行卷积池化操作获取初步的浅层特征结果,得到池化矩阵Pool1。
步骤十、将池化矩阵Pool1重复步骤九中的卷积核池化操作,设置卷积核个数nkernel2,得到表示特征图的池化结果Pool2。
步骤十一、对池化结果Pool2进行进一步的卷积池化,提取深度特征结果,得到池化矩阵Pool3。
步骤十二、将Pool3按照步骤十一重复两次进行卷积核池化操作,得到nkernel5个f′×m′×n′维的特征映射图Pool5。
步骤十三、将nkernel5个f′×m′×n′维的特征映射图Feat5维度转置得到s1×s2维的特征向量Xfeature。
步骤十四、设置长短期记忆网络(Long Short-Term Memory,LSTM)的输入层为上一步骤中时间步长为s1输入维数为s2的特征向量Xfeature,令X=Xfeature,其中X的步长为s1,长短期记忆网络结构图如图9。
步骤十五、根据长短记忆网络的输入X,计算网络中输入门I、忘记门F、输出门O和候选隐藏状态G。
步骤十六、同过LSTM各个门计算网络隐层中最后一步的h×1维隐藏状态并作为特征结果X′feature。
步骤十七、将最终形如X′feature=[x1 x2 ... xh]T的特征结果送入归一化指数函数进行计算结果矩阵Xres,得到结果矩阵中值最大的角标y′=max(Xres),结果矩阵Xres的K个标量中第j个值表示中频信号矩阵A被三维卷积神经网络模型判别为第j类手势的概率,y′表示中频信号矩阵A被判别为某一类手势的结果。
步骤十八、根据网络判断的结果分类y′,计算分类结果的损失函数J(θ),并根据此分类函数对网络中的权重进行更新。
步骤十九、将测试手势数据集输入到步骤十八得到的深度学习网络中分类,得到手势分类结果y′。
所述步骤六包括以下步骤:
6.1提取在速度信号矩阵S′k的每个行矩阵信号S′kr中的相同频率分量组成列矩阵信号S′kc,具体形式如下:
S′kc=[c′k+c+d′k+ci c′k+n+c+d′k+n+ci ... c′k+(m-1)n+c+d′k+(m-1)n+ci]T(c=1,2,3,…,n)
6.2计算列矩阵信号S′kc在采样率R下的各个频率分量
6.3计算列信号矩阵S′ks下频率分量为fs时手势相对雷达的径向速度其中λ为波长,Tc为雷达产生信号矩阵B的时间。
6.4将上一步骤计算出的n个速度vs(s=1,2,3,…,n)按照步骤十八中n个的频率分量fc比例生成速度矩阵Y,具体为:
Y=[v1 v2 ... vn]T
6.5对速度信号矩阵S′k的每个元素求幅值,得到结果幅值矩阵R′k,具体如下:
所述步骤九包括以下步骤:
9.1将输入矩阵信号Xinput中每个kernel×kernel区域矩阵与nkernel1个卷积核矩阵K1进行卷积相乘,生成表示从矩阵信号Xinput中提取到的浅层特征的特征映射图Feat1,具体卷积操作如图7。
9.2将特征映射图Feat1矩阵在每个kpool×kpool区域矩阵内,用该区域中的最大值代表原来的kpool×kpool区域矩阵,生成表示将特征映射图Feat1信息压缩后的池化矩阵Pool1,具体操作如图8。
所述步骤十五包括以下步骤:
15.1随机初始化步长为s1的X中第一步X1的状态变量为Sstate,设置网络中隐层LSTM单元节点数为h。
15.2计算X总步长为s1中每一步的输入门I、忘记门F和输出门O并求其隐层状态S,其中X的第t步计算结果具体形式如下:
其中St-1为第t-1步的状态变量,Ui、Wi、Uf、Wf、Uo和Wo为随机初始化的权重矩阵。
15.3计算候选隐藏状态G=tanh(XtUg+St-1Wg),内部存储器的细胞状态Ct=Ct-1×F+G×I,以及第t步的输出隐层状态为St=tanh(Ct)×O,其中Ug和Wg为随机初始化的权重参数。本发明具有以下优点:本发明首先通过雷达获取各种手势的信号,并从中提取每种手势的运动参数,并按照时间顺序生成一个序列;然后,利用深度学习网络对采集的序列数据进行特征提取,得到特征向量;其次,为了更好的利用原序列数据中的连续性信息,根据特征向量的时间维度,将其送入长短记忆网络进行训练;最后,将最终的特征向量送入分类函数,得到分类结果。本发明方法采用雷达信号作为数据来源,适用场景广泛,无需考虑光照等外界因素。本发明利用深度学习网络针对源数据的特点进行特征提取,以达到更好地手势分类效果。
附图说明
图1为本发明的整体流程图;
图2为本发明中设计识别的具体手势;
图3为步骤十一中的距离信号矩阵Sk的目标距离仿真图;
图4为步骤十六中的速度信号矩阵S′k的目标速度仿真图;
图5为步骤二十结果幅值矩阵R′k仿真出的速度距离图;
图6为三维卷积神经网络和长短记忆网络的结构;
图7为三维卷积神经网络中的卷积方式;
图8为三维卷积神经网络的池化操作;
图9为长短记忆网络的网络结构图;
图10为长短记忆网络单元各个门的具体情况;
具体实施方式
步骤一、设计手掌前推、后拉、左摆、右摆、前后推拉和左右挥动六个手势动作,并且利用调频连续波(Frequency Modulated Continuous Wave,FMCW)雷达采集训练和测试手势数据集的雷达源数据文件生成原始的中频信号矩阵A:
从原始中频信号矩阵A中提取某一发射天线和接收天线对应的帧信号矩阵Fk,其中u表示矩阵A维度总长的一半,本实验中u=2097152。具体步骤如下:
1.1利用原始中频信号矩阵A生成中频复数信号列矩阵B,令B中第j个元素aj+bji的实部aj和虚部bj b等于A中第2×j和2×j+1个元素,具体为:
1.2将在原始中频信号矩阵A中表示一帧中频信号的列矩阵B拆为f帧{B1 ... Bi... Bf}(1≤i≤f),使得中频信号矩阵A中的第i帧帧信号Bi(1≤i≤f)为列矩阵B中的第i×l+1个元素到第(i+1)×l个元素,具体为:
其中f表示原始的中频信号矩阵A中信号的总帧数,l表示每一帧信号的长度,本实验中f=8,l=65536。
1.3将雷达的每根发射天线与每根接收天线成对相组合,计算出组合的总数为t=t1×t2,其中t表示发射天线和接收天线组合的总对数,t1为雷达的发射天线数目,t2为雷达接收天线数目,本实验中t=8,t1=2,t2=4。
1.4将帧信号Bi拆为t对发射接收天线生成的帧信号序列{Bi1 ... Bij ... Bit}(1≤j≤t),第i帧帧信号Bi中第j个天线对对应的单对天线帧信号Bij具体为:
其中p表示每一对天线对应的单对天线帧信号Bij的长度,本实验中p=8192。
1.5令信号矩阵A中每个帧信号的初始角标k=i×l+p×j,使得信号矩阵A中的第i帧第j对天线对应的单对天线帧信号为Bk=Bij,具体如下:
1.6将单对天线帧信号Bk重塑为m×n维的帧信号矩阵Fk,具体如下:
其中m为帧信号矩阵Fk的调频连续脉冲数目,n为Fk中每一行信号的采样点数目,本实验中m=64,n=128。
步骤二、构造汉明窗Whanming如下:
其中c1和c2为汉明窗参数,本实验中c1=0.54,c2=0.46,并将其与帧信号矩阵Fk进行旁瓣抑制处理得到帧信号矩阵Fk′,具体步骤如下:
2.1将步骤一得到的帧信号矩阵Fk中的每一列信号与汉明窗Whanming相乘,得到一个主瓣更为集中的帧信号矩阵Fk′,Fk′形式如下:
步骤三、将帧信号矩阵Fk′的每一列信号F′kc进行傅里叶变换生成距离信号矩阵Sk,具体步骤如下:
3.1将帧信号矩阵Fk′的每一列进行傅里叶变换得到由频率与目标到雷达的距离成正比的列矩阵信号:
3.2将n个频率与目标到雷达的距离成正比的列矩阵信号Skc组成距离信号矩阵Sk,具体形式如下:
步骤四、根据距离信号矩阵Sk中的频率分量计算信号所表示的实际距离,得到信号幅值矩阵Rk,具体计算步骤如下:
4.1提取距离信号矩阵Sk的每个列矩阵信号Skc中的相同的频率分量,组成行矩阵信号:
Skr=[ck+(r-1)n+1+dk+(r-1)n+1 ck+(r-1)n+2+dk+(r-1)n+2 ... ck+rn+dk+rn](r=1,2,3,…,m)
计算由每个调频连续脉冲中相同频点组成的行矩阵信号Skr在采样率R下的频率本实验中R=2000ks/ps。
4.2由行矩阵信号Skr的频率分量为fr计算雷达生成帧信号矩阵Fk′时前方目标手势的距离dr=2S×fr/C(r=1,2,3,…,m),其中S为雷达每个锯齿波频率随着时间增大的斜率,C为光速,本实验中S=105.202MHz/us,C=3×108m/s。
4.3将上述步骤中行矩阵信号Skr下m个不同频率分量fr计算出的距离dr(r=1,2,3,…,m)组成一个与雷达信号采样率频率fs均分为m个频率分量fr成正比的距离矩阵X,具体为:
X=[d1 d2 ... dm]T
4.4对距离信号矩阵Sk的每个元素求幅值,得到信号幅值矩阵Rk,具体如下:
步骤五、将帧信号矩阵Sk的每一行行矩阵信号Skr进行傅里叶变换,生成速度信号矩阵S′k,具体步骤如下:
5.1对所述步骤三计算出的距离信号矩阵Sk的每一行行矩阵信号Skr=[ck+(r-1)n+1+dk+(r-1)n+1i ck+(r-1)n+2+dk+(r-1)n+2i ... ck+rn+dk+rni](r=1,2,3,…,m)做傅里叶变换:
5.2得到频率与目标相对雷达的速度成正比的行矩阵信号S′kr后,将其组成的速度信号矩阵S′k,具体形式如下:
步骤六、根据速度信号矩阵S′k中频率分量计算信号所表示手势相对雷达的径向速度,得到信号幅值矩阵R′k,具体计算步骤如下:
6.1提取在速度信号矩阵S′k的每个行矩阵信号S′kr中的相同频率分量组成列矩阵信号S′kc,具体形式如下:
S′kc=[c′k+c+d′k+ci c′k+n+c+d′k+n+ci ... c′k+(m-1)n+c+d′k+(m-1)n+ci]T(c=1,2,3,…,n)
6.2计算列矩阵信号S′kc在采样率R下的各个频率分量
6.3计算列信号矩阵S′ks下频率分量为fs时手势相对雷达的径向速度其中λ为波长,Tc为雷达产生信号矩阵B的时间。
6.4将上一步骤计算出的n个速度vs(s=1,2,3,…,n)按照步骤十八中n个的频率分量fc比例生成速度矩阵Y,具体为:
Y=[v1 v2 ... vn]T
本实验中λ=0.004m,Tc=38us,fs=2000ksps。
6.5对速度信号矩阵S′k的每个元素求幅值,得到结果幅值矩阵R′k,具体如下:
步骤七、计算信号序列B中各帧信号{B1 ... Bi ... Bf}(1≤i≤f)包含手势速度和距离信息的幅值矩阵(R1 R2 ... Rf),具体步骤如下:
7.1计算出信号列矩阵Bi包含t个信号矩阵(Bi1 ... Bij ... Bit)对应的幅值矩阵R′k(R′i1 ... R′ij ... R′it)。
求取t个幅值矩阵R′k(R′i1 ... R′ij ... R′it)的平均值其中R′it表示中频信号矩阵A中的第i帧帧信号Bi的第t对发射接收天线中提取到的运动信息幅值矩阵。
7.2计算信号序列B中f帧信号(B1 B2 ... Bf)的幅值矩阵(R1 R2 ... Rf)。
步骤八、将生成的幅值矩阵(R1 R2 ... Rf)预处理为深度学习网络的输入数据Xinput,并初始化网络权重,具体步骤如下:
8.1将生成的f个二维幅值矩阵(R1 R2 ... Rf)合并为维度f×m×n的固定三维输入信号矩阵Xinput。
8.2随机生成维度为kernel×kernel×kernel表示网络权重的卷积核矩阵K1、K2、K3、K4、K5、K6、K7和K8各nkernel1、nkernel2、nkernel3、nkernel4、nkernel5、nkernel6、nkernel7和nkernel8个,本实验中nkernel1=64,nkernel2=128,nkernel3=256,nkernel4=256,nkernel5=512,nkernel6=512,nkernel7=512,nkernel8=512。
步骤九、将输入信号矩阵Xinput进行卷积池化操作获取初步的浅层特征结果,得到池化矩阵Pool1。
9.1将输入矩阵信号Xinput中每个kernel×kernel区域矩阵与nkernel1个卷积核矩阵K1进行卷积相乘,生成表示从矩阵信号Xinput中提取到的浅层特征的特征映射图Feat1,具体卷积操作如图7,本实验中nkernel1=64。
9.2将特征映射图Feat1矩阵在每个kpool×kpool区域矩阵内,用该区域中的最大值代表原来的kpool×kpool区域矩阵,生成表示将特征映射图Feat1信息压缩后的池化矩阵Pool1,具体操作如图8。
步骤十、将池化矩阵Pool1重复步骤九中的卷积核池化操作,设置卷积核个数nkernel2,得到表示特征图的池化结果Pool2。
步骤十一、对池化结果Pool2进行进一步的卷积池化,提取深度特征结果,得到池化矩阵Pool3,具体步骤如下:
11.1将池化矩阵Pool2与卷积核矩阵K3进行卷积操作,生成特征映射图Feat3,再与卷积矩阵K4卷积,生成特征映射图Feat4,再将Feat4进行池化,将特征压缩为Pool3。
步骤十二、将Pool3按照步骤十一重复两次进行卷积核池化操作,得到nkernel5个f′×m′×n′维的特征映射图Pool5,本实验中f′=1,m′=2,n′=4。
步骤十三、将nkernel5个f′×m′×n′维的特征映射图Feat5维度转置得到s1×s2维的特征向量Xfeature,本实验中s1=4,s2=1024。
步骤十四、设置长短期记忆网络(Long Short-TermMemory,LSTM)的输入层为上一步骤中时间步长为s1输入维数为s2的特征向量Xfeature,令X=Xfeature,其中X的步长为s1,长短期记忆网络结构图如图9。
步骤十五、根据长短记忆网络的输入X,计算网络中输入门I、忘记门F、输出门O和候选隐藏状态G,具体步骤如下:
15.1随机初始化步长为s1的X中第一步X1的状态变量为Sstate,设置网络中隐层LSTM单元节点数为h,本实验中h=4096。
15.2计算X总步长为s1中每一步的输入门I、忘记门F和输出门O并求其隐层状态S,其中X的第t步计算结果具体形式如下:
其中St-1为第t-1步的状态变量,Ui、Wi、Uf、Wf、Uo和Wo为随机初始化的权重矩阵。
15.3计算候选隐藏状态G=tanh(XtUg+St-1Wg),内部存储器的细胞状态Ct=Ct-1×F+G×I,以及第t步的输出隐层状态为St=tanh(Ct)×O,其中Ug和Wg为随机初始化的权重参数。
步骤十六、同过LSTM各个门计算网络隐层中最后一步的h×1维隐藏状态并作为特征结果X′feature。
步骤十七、将最终形如X′feature=[x1 x2 ... xh]T的特征结果送入归一化指数函数进行计算结果矩阵得到结果矩阵中值最大的角标y′=max(Xres),结果矩阵Xres的K个标量中第j个值表示中频信号矩阵A被三维卷积神经网络模型判别为第j类手势的概率,本实验中K=6,y′表示中频信号矩阵A被判别为某一类手势的结果。
步骤十八、根据网络判断的结果分类y′,计算分类结果的损失函数J(θ),并根据此分类函数对网络中的权重进行更新,具体步骤如下:
18.1设置损失函数为交叉熵损失函数其中m为训练样本数,y为训练集真实结果。
18.2设置学习率为lr,迭代次数为step,利用损失函数J(θ)训练3DCNN和LSTM网络结构中随机初试化的权重参数,本实验中其中lr=0.003,step=5000。
18.3使用反向传播算法更新三维卷积神经网络的权重参数(K1 K2... K8)和长短记忆网络的权重参数Ui、Wi、Uf、Wf、Uo、Wo、Ug和Wg,其中θ(l)指网络中第l层待更新的权重参数。
步骤十九、将测试手势数据集输入到步骤十八得到的深度学习网络中分类,得到手势分类结果y′。
Claims (3)
1.基于雷达信号的深度学习手势识别方法,其特征在于,包括以下步骤:
步骤一、设计手掌前推、后拉、左摆、右摆、前后推拉和左右挥动六个手势动作,并且利用调频连续波(Frequency Modulated Continuous Wave,FMCW)雷达采集训练和测试手势数据集的雷达源数据文件生成原始的中频信号矩阵A;
从原始中频信号矩阵A中提取某一发射天线和接收天线对应的帧信号矩阵Fk;
步骤二、构造汉明窗Whanming,并将其与帧信号矩阵Fk进行旁瓣抑制处理得到帧信号矩阵Fk′;
步骤三、将帧信号矩阵Fk′的每一列信号Fk′c进行傅里叶变换生成距离信号矩阵Sk;
步骤四、根据距离信号矩阵Sk中的频率分量计算信号所表示的实际距离,得到信号幅值矩阵Rk;
步骤五、将帧信号矩阵Sk的每一行行矩阵信号Skr进行傅里叶变换,生成速度信号矩阵S′k;
步骤六、根据速度信号矩阵S′k中频率分量计算信号所表示的实际速度,得到信号幅值矩阵R′k;
步骤七、计算信号序列B中各帧信号{B1 ... Bi ... Bf}(1≤i≤f)包含手势速度和距离信息的幅值矩阵(R1 R2 ... Rf);
步骤八、将生成的幅值矩阵(R1 R2 ... Rf)预处理为深度学习网络的输入数据Xinput,并初始化网络权重;
步骤九、将输入信号矩阵Xinput进行卷积池化操作获取初步的浅层特征结果,得到池化矩阵Pool1;
步骤十、将池化矩阵Pool1重复步骤九中的卷积核池化操作,设置卷积核个数nkernel2,得到表示特征图的池化结果Pool2;
步骤十一、对池化结果Pool2进行进一步的卷积池化,提取深度特征结果,得到池化矩阵Pool3;
步骤十二、将Pool3按照步骤十一重复两次进行卷积核池化操作,得到nkernel5个f′×m′×n′维的特征映射图Pool5;
步骤十三、将nkernel5个f′×m′×n′维的特征映射图Feat5维度转置得到s1×s2维的特征向量Xfeature;
步骤十四、设置长短期记忆网络(Long Short-Term Memory,LSTM)的输入层为上一步骤中时间步长为s1输入维数为s2的特征向量Xfeature,令X=Xfeature,其中X的步长为s1,长短期记忆网络结构图如图9;
步骤十五、根据长短记忆网络的输入X,计算网络中输入门I、忘记门F、输出门O和候选隐藏状态G;
步骤十六、同过LSTM各个门计算网络隐层中最后一步的h×1维隐藏状态Ss1,并作为特征结果X′feature;
步骤十七、将最终形如X′feature=[x1 x2 ... xh]T的特征结果送入归一化指数函数进行计算结果矩阵Xres,得到结果矩阵中值最大的角标y′=max(Xres),结果矩阵Xres的K个标量中第j个值表示中频信号矩阵A被三维卷积神经网络模型判别为第j类手势的概率,y′表示中频信号矩阵A被判别为某一类手势的结果;
步骤十八、根据网络判断的结果分类y′,计算分类结果的损失函数J(θ),并根据此分类函数对网络中的权重进行更新;
步骤十九、将测试手势数据集输入到步骤十八得到的深度学习网络中分类,得到手势分类结果y′。
2.根据权利要求1所述的基于雷达信号的深度学习手势识别方法,其特征在于将生成的幅值矩阵(R1 R2 ... Rf)预处理为深度学习网络的输入数据Xinput,利用三维卷积神经网络提取幅值矩阵中的手势特征。
3.根据权利要求1或2所述的基于雷达信号的深度学习手势识别方法,其特征在于根据输入信号X,使用长短记忆网络计算连续手势中的序列信息,所述步骤十五包括以下步骤:
15.1随机初始化步长为s1的X中第一步X1的状态变量为Sstate,设置网络中隐层LSTM单元节点数为h;
15.2计算X总步长为s1中每一步的输入门I、忘记门F和输出门O并求其隐层状态S,其中X的第t步计算结果具体形式如下:
其中St-1为第t-1步的状态变量,Ui、Wi、Uf、Wf、Uo和Wo为随机初始化的权重矩阵;
15.3计算候选隐藏状态G=tanh(XtUg+St-1Wg),内部存储器的细胞状态Ct=Ct-1×F+G×I,以及第t步的输出隐层状态为St=tanh(Ct)×O,其中Ug和Wg为随机初始化的权重参数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810281177.1A CN108509910B (zh) | 2018-04-02 | 2018-04-02 | 基于fmcw雷达信号的深度学习手势识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810281177.1A CN108509910B (zh) | 2018-04-02 | 2018-04-02 | 基于fmcw雷达信号的深度学习手势识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108509910A true CN108509910A (zh) | 2018-09-07 |
CN108509910B CN108509910B (zh) | 2021-09-28 |
Family
ID=63377807
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810281177.1A Active CN108509910B (zh) | 2018-04-02 | 2018-04-02 | 基于fmcw雷达信号的深度学习手势识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108509910B (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109188414A (zh) * | 2018-09-12 | 2019-01-11 | 北京工业大学 | 一种基于毫米波雷达的手势运动探测方法 |
CN109829509A (zh) * | 2019-02-26 | 2019-05-31 | 重庆邮电大学 | 基于融合神经网络的雷达手势识别方法 |
CN110133599A (zh) * | 2019-01-08 | 2019-08-16 | 西安电子科技大学 | 基于长短时记忆模型的智能雷达辐射源信号分类方法 |
CN110348288A (zh) * | 2019-05-27 | 2019-10-18 | 哈尔滨工业大学(威海) | 一种基于77GHz毫米波雷达信号的手势识别方法 |
CN110705501A (zh) * | 2019-10-14 | 2020-01-17 | 重庆邮电大学 | 一种提升fmcw雷达手势识别精度的干扰抑制算法 |
CN110941331A (zh) * | 2018-09-21 | 2020-03-31 | 国际商业机器公司 | 使用3d毫米波雷达的手势识别 |
CN111027458A (zh) * | 2019-08-28 | 2020-04-17 | 深圳大学 | 基于雷达三维轨迹特征的手势识别方法、装置及存储介质 |
CN111352111A (zh) * | 2018-12-21 | 2020-06-30 | 罗伯特·博世有限公司 | 对象的定位和/或分类 |
CN111414843A (zh) * | 2020-03-17 | 2020-07-14 | 森思泰克河北科技有限公司 | 手势识别方法及终端设备 |
CN111444820A (zh) * | 2020-03-24 | 2020-07-24 | 清华大学 | 一种基于成像雷达的手势识别方法 |
CN111624572A (zh) * | 2020-05-26 | 2020-09-04 | 京东方科技集团股份有限公司 | 一种人体手部与人体手势识别的方法及装置 |
CN111759305A (zh) * | 2019-04-02 | 2020-10-13 | 纬创资通股份有限公司 | 活体检测方法与活体检测系统 |
CN111796272A (zh) * | 2020-06-08 | 2020-10-20 | 桂林电子科技大学 | 穿墙雷达人体图像序列的姿态实时识别方法及计算机设备 |
CN112198966A (zh) * | 2020-12-08 | 2021-01-08 | 中南大学 | 基于fmcw雷达系统的笔画识别方法以及系统 |
US11639985B2 (en) | 2020-07-02 | 2023-05-02 | International Business Machines Corporation | Three-dimensional feature extraction from frequency modulated continuous wave radar signals |
TWI828185B (zh) * | 2022-06-09 | 2024-01-01 | 大陸商星宸科技股份有限公司 | 三維卷積運算裝置與三維卷積運算方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105654037A (zh) * | 2015-12-21 | 2016-06-08 | 浙江大学 | 一种基于深度学习和特征图像的肌电信号手势识别方法 |
CN106446801A (zh) * | 2016-09-06 | 2017-02-22 | 清华大学 | 基于超声主动探测的微手势识别方法及系统 |
US20170364160A1 (en) * | 2016-06-17 | 2017-12-21 | Texas Instruments Incorporated | Hidden markov model-based gesture recognition with fmcw radar |
-
2018
- 2018-04-02 CN CN201810281177.1A patent/CN108509910B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105654037A (zh) * | 2015-12-21 | 2016-06-08 | 浙江大学 | 一种基于深度学习和特征图像的肌电信号手势识别方法 |
US20170364160A1 (en) * | 2016-06-17 | 2017-12-21 | Texas Instruments Incorporated | Hidden markov model-based gesture recognition with fmcw radar |
CN106446801A (zh) * | 2016-09-06 | 2017-02-22 | 清华大学 | 基于超声主动探测的微手势识别方法及系统 |
Non-Patent Citations (4)
Title |
---|
ZHENYUAN ZHANG 等: "Latern: Dynamic Continuous Hand Gesture Recognition Using FMCW Radar Sensor", 《IEEE SENSORS JOURNAL》 * |
冯志全 等: "结合手势二进制编码和类-Hausdorff距离的手势识别", 《电子学报》 * |
左艳丽 等: "基于改进卷积神经网络的人体检测研究", 《现代电子技术》 * |
田增山 等: "LFMCW 雷达测距中的自适应频率校正", 《电讯技术》 * |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109188414A (zh) * | 2018-09-12 | 2019-01-11 | 北京工业大学 | 一种基于毫米波雷达的手势运动探测方法 |
CN110941331A (zh) * | 2018-09-21 | 2020-03-31 | 国际商业机器公司 | 使用3d毫米波雷达的手势识别 |
CN111352111A (zh) * | 2018-12-21 | 2020-06-30 | 罗伯特·博世有限公司 | 对象的定位和/或分类 |
CN110133599A (zh) * | 2019-01-08 | 2019-08-16 | 西安电子科技大学 | 基于长短时记忆模型的智能雷达辐射源信号分类方法 |
CN110133599B (zh) * | 2019-01-08 | 2022-12-06 | 西安电子科技大学 | 基于长短时记忆模型的智能雷达辐射源信号分类方法 |
CN109829509A (zh) * | 2019-02-26 | 2019-05-31 | 重庆邮电大学 | 基于融合神经网络的雷达手势识别方法 |
CN109829509B (zh) * | 2019-02-26 | 2022-11-22 | 重庆邮电大学 | 基于融合神经网络的雷达手势识别方法 |
CN111759305B (zh) * | 2019-04-02 | 2023-08-25 | 纬创资通股份有限公司 | 活体检测方法与活体检测系统 |
CN111759305A (zh) * | 2019-04-02 | 2020-10-13 | 纬创资通股份有限公司 | 活体检测方法与活体检测系统 |
CN110348288A (zh) * | 2019-05-27 | 2019-10-18 | 哈尔滨工业大学(威海) | 一种基于77GHz毫米波雷达信号的手势识别方法 |
CN110348288B (zh) * | 2019-05-27 | 2023-04-07 | 哈尔滨工业大学(威海) | 一种基于77GHz毫米波雷达信号的手势识别方法 |
CN111027458B (zh) * | 2019-08-28 | 2024-04-16 | 深圳大学 | 基于雷达三维轨迹特征的手势识别方法、装置及存储介质 |
CN111027458A (zh) * | 2019-08-28 | 2020-04-17 | 深圳大学 | 基于雷达三维轨迹特征的手势识别方法、装置及存储介质 |
CN110705501A (zh) * | 2019-10-14 | 2020-01-17 | 重庆邮电大学 | 一种提升fmcw雷达手势识别精度的干扰抑制算法 |
CN110705501B (zh) * | 2019-10-14 | 2022-09-20 | 重庆邮电大学 | 一种提升fmcw雷达手势识别精度的干扰抑制方法 |
CN111414843B (zh) * | 2020-03-17 | 2022-12-06 | 森思泰克河北科技有限公司 | 手势识别方法及终端设备 |
CN111414843A (zh) * | 2020-03-17 | 2020-07-14 | 森思泰克河北科技有限公司 | 手势识别方法及终端设备 |
CN111444820A (zh) * | 2020-03-24 | 2020-07-24 | 清华大学 | 一种基于成像雷达的手势识别方法 |
CN111624572A (zh) * | 2020-05-26 | 2020-09-04 | 京东方科技集团股份有限公司 | 一种人体手部与人体手势识别的方法及装置 |
US11797098B2 (en) | 2020-05-26 | 2023-10-24 | Boe Technology Group Co., Ltd. | Methods for recognizing human hand and hand gesture from human, and display apparatus |
CN111796272A (zh) * | 2020-06-08 | 2020-10-20 | 桂林电子科技大学 | 穿墙雷达人体图像序列的姿态实时识别方法及计算机设备 |
US11639985B2 (en) | 2020-07-02 | 2023-05-02 | International Business Machines Corporation | Three-dimensional feature extraction from frequency modulated continuous wave radar signals |
CN112198966B (zh) * | 2020-12-08 | 2021-03-16 | 中南大学 | 基于fmcw雷达系统的笔画识别方法以及系统 |
CN112198966A (zh) * | 2020-12-08 | 2021-01-08 | 中南大学 | 基于fmcw雷达系统的笔画识别方法以及系统 |
TWI828185B (zh) * | 2022-06-09 | 2024-01-01 | 大陸商星宸科技股份有限公司 | 三維卷積運算裝置與三維卷積運算方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108509910B (zh) | 2021-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108509910A (zh) | 基于fmcw雷达信号的深度学习手势识别方法 | |
CN108229444B (zh) | 一种基于整体和局部深度特征融合的行人再识别方法 | |
CN109086700B (zh) | 基于深度卷积神经网络的雷达一维距离像目标识别方法 | |
CN106355151B (zh) | 一种基于深度置信网络的三维sar图像目标识别方法 | |
CN110472627A (zh) | 一种端到端的sar图像识别方法、装置及存储介质 | |
CN112750140B (zh) | 基于信息挖掘的伪装目标图像分割方法 | |
CN111814875B (zh) | 基于样式生成对抗网络的红外图像中舰船样本扩充方法 | |
CN107229904A (zh) | 一种基于深度学习的目标检测与识别方法 | |
CN108182450A (zh) | 一种基于深度卷积网络的机载探地雷达目标识别方法 | |
Shi et al. | Human activity recognition based on deep learning method | |
CN107423398A (zh) | 交互方法、装置、存储介质和计算机设备 | |
CN110188794B (zh) | 一种深度学习模型的训练方法、装置、设备及存储介质 | |
CN107256414A (zh) | 基于空域特征图谱的极化sar图像卷积神经网络分类方法 | |
CN107657204A (zh) | 深层网络模型的构建方法及人脸表情识别方法和系统 | |
CN107316004A (zh) | 基于深度学习的空间目标识别方法 | |
CN105844627A (zh) | 一种基于卷积神经网络的海面目标图像背景抑制方法 | |
CN108008385A (zh) | 基于稀疏贝叶斯学习的干扰环境isar高分辨成像方法 | |
CN106599994A (zh) | 一种基于深度回归网络的视线估计方法 | |
CN112633459A (zh) | 训练神经网络的方法、数据处理方法和相关装置 | |
Szczuko | Deep neural networks for human pose estimation from a very low resolution depth image | |
CN107862329A (zh) | 一种基于深度置信网络的雷达一维距离像真假目标识别方法 | |
CN112686297B (zh) | 一种雷达目标运动状态的分类方法及系统 | |
CN108596155A (zh) | 一种sar雷达空中飞行目标识别系统 | |
CN112800882A (zh) | 一种基于加权双流残差网络的口罩人脸姿态分类方法 | |
CN107679487A (zh) | 失踪人口鉴别方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |