CN109583346A - 基于lstm-fc的脑电信号特征提取与分类识别方法 - Google Patents
基于lstm-fc的脑电信号特征提取与分类识别方法 Download PDFInfo
- Publication number
- CN109583346A CN109583346A CN201811394213.1A CN201811394213A CN109583346A CN 109583346 A CN109583346 A CN 109583346A CN 201811394213 A CN201811394213 A CN 201811394213A CN 109583346 A CN109583346 A CN 109583346A
- Authority
- CN
- China
- Prior art keywords
- lstm
- network
- model
- output
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Abstract
本发明涉及一种基于LSTM‑FC的脑电信号特征提取与分类识别方法,其特征在于,包括以下步骤:S1:脑电信号的采集与预处理;S2:定义基本的LSTM网络的模型结构;S3:将通过LSTM网络的特征矩阵经过两层FC网络,得到融合FC网络的LSTM模型,即LSTM‑FC模型;S4:将训练集输入相应的模型中进行训练,利用误差反向传播更新网络;S5:训练好相应的模型后,再将测试集输入模型中得到运动想象任务的最终的分类准确率,进而评估此模型的性能;S6:对比LSTM和LSTM‑FC两个模型的性能,得出最优的模型。
Description
技术领域
本发明属于人工智能的脑机接口技术领域,涉及一种基于长短时记忆神经网络(Long Short-Term Memory,LSTM)和全连接网络(Fully Connected Layers,FC)相结合的脑机接口(Brain-Computer Interface,BCI)系统中的运动想象分类识别方法,尤其是一种基于LSTM-FC的脑电信号特征提取与分类识别方法;该方法使用深度学习中的一种LSTM模型提取出能反映脑电信号的特性和其所承载的信息的特征矩阵,再利用FC网络进一步对LSTM所提取的特征信息进行融合提取,最后将所提取的特征矩阵映射到样本标记空间中实现端到端的脑电信号分类识别。
背景技术
BCI是一种可以实现大脑与外界设备相交互的通讯系统,它试图直接连接大脑的内部神经元活动与外部的设备,以期辅助、增强或修复人类的认知和动作感觉能力。这种不需要依赖人体外围组织和肌肉组织,就可以实现人机交互的通讯方式,在生物医学工程、人工智能、计算机技术以及军事航空等领域成为研究的热点。
BCI系统通过采集人脑内部神经元活动的电信号,一般称之为脑电信号,对这些脑电信号进行信息处理后会得到相应的控制命令信号,再将这些控制命令信号反馈给外部设备,以此实现设备操控。
根据脑电信号采集的方式不同,BCI可分为侵入式采集和非侵入式采集方式两种,其中侵入式的方法需要通过植入到大脑中的一个或多个微电极以峰值电位的形式来记录电活动,如皮质脑电图(Electrocorticography,ECoG);而在头皮的表面采集大脑运动电信号,如脑电图(Electroencephalography,EEG)则属于非侵入式方法,非入侵方式不需要打开脑部。
采集到的脑电信号中会包含着大量和认知行为同步的现象,其中,可以被解释为用户意图的脑电信号称之为BCI的控制信号。根据这些控制信号特点,BCI系统的研究范式一般有基于视觉诱发电位(Visual Evoked Potential,VEP)BCI、基于皮层慢电位(SlowCortical Potential,SCP)BCI、基于P300电位BCI和基于感知运动节律(Sensorimotorrhythms,SMR)BCI等。其中,基于SMR的BCI已经是多年研究和发展的重点,而运动想象(Motor Imagery,MI)是实现基于SMR的BCI的基本策略,也是时下最受关注的BCI范式。其中,运动想象是指在不能进行正常肢体运动的状态下,凭借大脑想象某种运动的思维过程。
基于运动想象的BCI系统的核心部分是对采集的脑电信号进行信息处理。其中,特征提取和分类识别是信息处理中最主要的两个环节,在BCI中一般采用传统的机器学习算法对脑电信号进行信息处理,如支持向量机(Support Vector Machine,SVM)、傅里叶变换(Fourier transform,FT)、线性判别式分析(Linear Discriminant Analysis,LDA)以及共空间模式(Common spatial pattern,CSP)等。传统的机器学习算法一般都需要繁琐的特征工程,同时在对脑电信号这种复杂的时序信号的建模上没有考虑到时序的关键信息,因此常常会导致特征信息的丢失,或者是需要依赖庞大的计算量,同时处理的效果很多时候也差强人意。此为现有技术的不足之处。
因此,针对现有技术中的上述缺陷,提供设计一种基于LSTM-FC的脑电信号特征提取与分类识别方法;以解决现有技术中存在的问题,是非常有必要的。
发明内容
本发明的目的在于,针对上述现有技术存在的缺陷,提供设计一种基于LSTM-FC的脑电信号特征提取与分类识别方法,以解决上述技术问题。
为实现上述目的,本发明给出以下技术方案:
一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,包括以下步骤:
S1:脑电信号的采集与预处理;
S2:定义基本的LSTM网络的模型结构;
S3:将通过LSTM网络的特征矩阵经过两层FC网络,得到融合FC网络的LSTM模型,即LSTM-FC模型;
S4:将训练集输入相应的模型中进行训练,利用误差反向传播更新网络;
S5:训练好相应的模型后,再将测试集输入模型中得到运动想象任务的最终的分类准确率,进而评估此模型的性能;
S6:对比LSTM和LSTM-FC两个模型的性能,得出最优的模型。
作为优选,所述步骤S2中:
在LSTM网络的模型结构中设置输入门(Input Gate),忘记门(Forget Gate)和输出门(Output Gate);三个门之间相互作用共同搭建LSTM网络的记忆模块,其数学表达式如下:
令第t时刻网络的脑电数据输入为xt,隐藏层状态为ht,则上一时刻的隐藏层状态为ht-1,在数据经过LSTM前向传输后,内部的各个状态变化可如下表示:
ft=δ(Wf·[ht-1,xt]+bf) (忘记门)
it=δ(Wi·[ht-1,xt]+bi) (输入门)
(输入值)
(新状态)
ot=δ(Wo·[ht-1,xt]+bo) (输出门)
ht=ot*tanh(Ct) (输出值)
其中,tanh为双曲正切函数,其数学表达式为:δ为sigmoid函数,其数学表达式为:Wf、Wi、WC、Wo和bi、bC、bo、bf均分别是网络中权值矩阵和偏差向量,需要进行训练的参数,其初始化值介于0-0.1之间,在训练过程中自动更新。
作为优选,所述步骤S3中:
定义FC网络的参数,将通过LSTM网络后的特征矩阵经过FC得到最终的LSTM-FC分类器。
FC网络是一种对输入的数据直接做线性变换关系的线性计算层,在每个FC网络层中,前面一层的每个单元都与后面一层的相连接,一个FC网络由线性与非线性两部分组成。其中,线性部分主要做线性转换,若将LSTM最终的输出值o=[o1,o2,...on]T作为FC网络的输入向量,其经过隐藏层后可得到线性的输出向量z=[z1,z2,...zm]T,公式表示如下:
z=Wq*o+bq
其中,Wq为当前FC网络的一个m*n的权值矩阵,bq为偏置向量,且bq=[bq0,bq1,...bqm]T。得到线性输出向量后,利用非线性函数即激活函数对输出进行转换得到输出层的输出向量y=[y0,y1,...yk]T,其中,常用的激活函数包括relu、sigmoid和tanh等。
作为优选,所述步骤S4中:
完成了LSTM-FC模型前向计算,接下来需要进行后向计算,即随时间反向传播(Back Propagation through time,BPTT)算法。反向传播传播的是误差或者称为损失,它是用来衡量网络的输出结果与真实结果相差多少的量,而这种可以衡量网络输出效果的函数便为“损失函数”或者“目标函数”,采用交叉熵损失函数:
Hy'(y)=-∑y′ilog(yi)
其中,y是网络预测的概率分布,y′是真实的分布。
然后,采用基于梯度下降算法进行网络参数更新,其中需要更新的参数Wf、Wi、WC、Wo、Wq和bi、bC、bo、bf、bq,分别用W和b来简记,则在更新过程中,整体样本的损失函数是一个关于W和b的函数,用H(W,b)表示,基于梯度下降算法的网络参数更新可采用如下的迭代公式::
其中,η为学习率,控制了权重的更新比率,为求偏导数操作。
最后使用优化算法来对网络的损失进行优化处理,常用的基于梯度下降的优化算法如随机梯度下降法、基于冲量(momentum)的优化算法、自适应梯度(adaptive gradient,Adagrad)优化算法、Adadelta优化算法、自适应矩估计(adaptive moment estimation,Adam)优化算法、RMSProp优化算法。
作为优选,所述步骤S5中:
网络训练好后,将测试集输入网络,计算分类准确度,其中训练集预测集的分类准确率计算方式均为:
本发明的有益效果在于,深度学习是机器学习的一个新领域,深度学习区别于传统机器学习算法的一个重要特点是采用了“端到端”(End-To-End Manner)的学习思想,它的目标是模拟人类大脑机制来解释由大量非线性变换组成的数据。数据通过端到端的信息处理,不需要人为的设计特征就可以自动的学习数据的特征,省去很多人工设计的工作。根据脑电信号的特点,本发明将采用深度学习中的循环神经网络(Recurrent NeuralNetworks,RNN)来进行建模,RNN是一种按照时间序列展开的神经网络模型,可以“记忆”一定的时间信息,为了记住更多的时间信息,本发明将引用改进型的RNN模型——LSTM模型。LSTM通过引入各种门机制,可以很好地“记忆”更多的信息,同时,相比较于普通的RNN模型,LSTM在训练的过程中不会容易产生梯度消失或者爆炸的现象。而脑电信号作为一种时序信号,使用LSTM进行可以直接在时序信息上进行建模,能够有效地提取到特征信息。
脑电数据同时也是一个非线性、非平稳的复杂信号,FC网络层是一种对输入的数据直接做线性变换关系的线性计算层,在每个FC网络层中,前面一层的每个单元都与后面一层的相连接,多个FC层的组合好比一个多层感知器,可以很好地解决非线性问题。但是正是由于其全连接的特性,FC网络最大诟病就是在训练过程中会有大量的参数冗余。然而,根据LSTM模型的训练特点,数据经过LSTM模型后会按时间先后顺序输出一组特征矩阵,其最后时刻的输出可以作为LSTM模型的最终输出结果,因此,将LSTM最后时刻的输出,即一维形式的矩阵作为FC网络的输入,可以极大地减少FC网络所需要训练的参数量,克服其缺点,同时利用FC网对特征数据进行进一步的特征提取,可以保证特征信息的充分利用,这对样本较少的数据而言很重要,因为数据量的大小在很大程度上决定深度学习算法效果的好差。
本发明将使用LSTM和FC网络,即LSTM-FC模型实现小样本脑电信号的特征提取与分类识别,通过基本的LSTM提取出能反映脑电信号特性的特征矩阵,再利用FC网络进行更深入地提取,最后将特征,最后再将特征映射到样本标记空间中实现端到端的脑电信号识别。实验证明,本发明的模型可以很好的分类出所有的脑电信号样本,并且利用端到端的实验模型,能将特征提取与分类识别工程共存于同一模型下进行,可以缩减人工预处理和后续处理,给予模型更多自动调节的空间,增加模型的整体契合度,最后通过显卡的配置加快了算法处理的时速,提高了整个模型的性能。
此外,本发明设计原理可靠,结构简单,具有非常广泛的应用前景。
由此可见,本发明与现有技术相比,具有突出的实质性特点和显著地进步,其实施的有益效果也是显而易见的。
附图说明
图1为本发明的流程框图。
图2为BCI系统中的脑电信号采集设备。
图3为RNN按时间展开后的结构图。
图4为LSTM的单元细节图,其中输入为Ct-1、ht-1、xt,输出为Ct、ht。
图5为FC网络的结构示意图。
图6为LSTM-FC模型的结构示意图。
图7为LSTM训练过程的部分衡量指标变化趋势:其中图(a)为训练过程中的分类准确率变化,图(b)为训练过程中的损失变化。
图8为LSTM-FC训练过程的部分衡量指标变化趋势:其中图(a)为训练过程中的分类准确率变化,图(b)为训练过程中的损失变化。
具体实施方式
下面结合附图并通过具体实施例对本发明进行详细阐述,以下实施例是对本发明的解释,而本发明并不局限于以下实施方式。
如图1所示,本发明提供的一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,包括以下步骤:
S1:脑电信号的采集与预处理;
本实施例采用的数据集属于基于运动想象的ECoG数据,采用侵入式的方式采集脑电信号,如图2所示,在被试者大脑右半球运动皮层表面放置一个8×8cm尺寸,规格为8×8的网格状铂电极。在实验中,受试者根据提示重复想象伸舌头和左小指两类运动,以1000Hz的采样率进行数据的采样。整个数据集包括训练集的数据、训练标签,测试集的数据以及测试标签。其中,训练集的数据格式为278×64×3000,测试集的标签格式为278×1,测试集的数据格式为100×64×3000,测试集的标签格式为100×1。数据集均采集于同样的受试者和相同的任务,由于采集时间的间隔、设备的状态甚至是受试者轻微的状态变化的影响,会降低脑电信号采集的准确性,同时也加大了分类的难度。
最后,对采集到的数据进行简单的预处理,即降采样过程。其中采样是指在原始采样序列中按照事先设置的采样间隔,等间隔地取出一些采样点,得到新的采样序列,本实施例将3000个采样点降到300,合适的采样速率可以有效地去除部分噪声和伪迹干扰,同时加快算法运行。
S2:定义基本的LSTM网络的模型结构;
RNN是按照时间的顺序展开来,如图3所示,由于其独特的设计结构,适合于处理和预测时间序列中间隔和延迟非常长的重要事件。
LSTM是在RNN的基础上发展而来的,相比较于普通的循环神经网络,LSTM的通过设置输入门(Input Gate),忘记门(Forget Gate)和输出门(Output Gate)来控制不同阶段的数据输入和输出,如图4所示是LSTM模型的单元细节图。LSTM的前向传播是一个相对比较复杂的过程,具体的每个“门”的定义如下:
(A)忘记门:忘记门决定了之前状态中的信息有多少该舍弃。忘记门输入的是当前时刻t的脑电数据为xt,若上一时刻的隐藏层输出为ht-1,则数据经过忘记门后的输出ft为:
ft=δ(Wf·[ht-1,xt]+bf)
其中,Wf和bf是忘记门所对应的权值矩阵与偏差向量,δ为sigmoid函数,其数学表达式为:
(B)输入门:输入门决定着什么样的输入信息应该保留。其由两个部分组成,分别使用两个不同的激活函数进行状态激活,第一部分使用了sigmoid激活函数,将读取到的ht-1和xt的内容输出为0和1之间的值,第二部分同样对ht-1和xt进行处理,不过采用tanh激活函数,这部分的输出刻印理解为待候选的记忆单元。用数学表达式即为:
it=δ(Wi·[ht-1,xt]+bi)
其中,Wi、WC、bi和bC是输入门所对应的权值矩阵与偏差向量。
其中,tanh为双曲正切函数,其数学表达式为:
前面的忘记门和输入门的结果都将作用于细胞状态ct,旧的控制参数ct-1和新生成的控制参数组合生成该时刻下最终的控制参数ct:
(C)输出门:细胞状态ct更新后,就需要进行计算输出,输出将会基于细胞状态ct。依旧是对ht-1和xt进行处理,输出门的最终状态如下公式表示:
ot=δ(Wo·[ht-1,xt]+bo)
ht=ot*tanh(Ct)
其中,Wo和bo是输出门所对应的权值矩阵与偏差向量,*为点乘操作。
上述过程完成了一个LSTM的数据处理过程,其中Wf、Wi、WC、Wo和bi、bC、bo、bf均是网络中需要进行训练的参数,其初始化接近0的较小值,在训练过程中自动更新。
本实施例将采用单层LSTM进行脑电信号特征的提取,取最后时刻的输出为单层LSTM网络的最终输出,可以降低网络运行时间的同时也为数据经过FC网络处理打下基础。
S3:将通过LSTM网络的特征矩阵经过两层FC网络,得到融合FC网络的LSTM模型,即LSTM-FC模型;
FC网络是一种对输入的数据直接做线性变换关系的线性计算层,FC网络可以作为特征提取层使用,学习特征的同时并能将特征进行融合,也可以在模型的最后作为最终的分类层使用,其中输出的神经元的值可以代表每个输出类别的概率。图5所示是一个简单的一维数据的FC网络,在每个FC网络层中,前面一层的每个单元都与后面一层的相连接,一个FC网络由线性与非线性两部分组成。其中,线性部分主要做线性转换,若将LSTM最终的输出值o=[o1,o2,...on]T作为FC网络的输入向量,其经过隐藏层后可得到线性的输出向量z=[z1,z2,...zm]T,公式表示如下:
z=Wq*o+bq
其中,Wq为当前FC网络的一个m*n的权值矩阵,其中,m和n均为某一个正整数,bq为偏置向量,且bq=[bq0,bq1,...bqm]T。得到线性输出向量后,利用非线性函数即激活函数对输出进行转换得到输出层的输出向量y=[y0,y1,...yk]T,k为某一正整数,其中,常用的激活函数有relu、sigmoid和tanh等。
为了能够处理非线性问题,FC网络最少需要两层,然而,层数过多将会导致计算量过大,本发明将采用两层FC网络对LSTM输出的特征矩阵进行进一步的特征提取,结合LSTM天然的信息处理方式,将LSTM最后一个时刻的输出作为FC模型的输入,在大大减少了FC网络训练的参数量的同时可以学习到更多特征,避免特征信息的丢失,整个LSTM-FC模型的简单架构如图6所示。
S4:将训练集输入相应的模型中进行训练,利用误差反向传播更新网络;
上述过程完成了LSTM-FC模型前向计算说明,神经网络算法的特点之一是可以进行后向计算,即随时间反向传播(Back Propagation through time,BPTT)算法。反向传播可以不断更新网络参数,使得模型更加精准。反向传播传播的是误差或者称为损失,它是用来衡量网络的输出结果与真实结果相差多少的量,而这种可以衡量网络输出效果的函数便为“损失函数”或者“目标函数”,其中,常用的损失函数由很多种,如有0-1损失函数、绝对值损失函数和均方误差损失函数,本实施例采用交叉熵损失函数:
Hy'(y)=-∑y′ilog(yi)
其中,y是网络预测的概率分布,y′是真实的分布。
采用基于梯度下降算法进行网络参数更新,其中LSTM-FC模型需要更新的参数是权值矩阵和偏差向量,即LSTM中的Wf、Wi、WC、Wo、bi、bC、bo、bf和FC网络中的Wq、bq,自然,若是LSTM模型,则FC网络中的Wq、bq不参与训练,为了方便起见,分别是使用W和b来简记网络中的权值矩阵和偏差向量。则在更新过程中,整体样本的损失函数是一个关于W和b的函数,用H(W,b)表示,基于梯度下降算法的网络参数更新可采用如下的迭代公式::
其中,η为学习率,控制了权重的更新比率,为求偏导数操作。
反向传播算法给出一个高效的方式在所有参数上使用梯度下降算法,从而使得网络在训练时的损失函数尽可能小,在网络训练过程中,常常会使用优化算法来对网络的损失函数进行优化处理,一个合适的优化算法可以使网络在训练中很快找到极优值,其中基于梯度下降的优化算法种类繁多,如随机梯度下降法、自适应梯度(adaptive gradient,Adagrad)优化算法、Adadelta优化算法、自适应矩估计(adaptive moment estimation,Adam)优化算法。
最后,通过将训练集数据输入定义好的模型中,通过网络不断迭代训练,不断调整网络参数,可以最终得到一个训练好的网络模型。
S5:训练好相应的模型后,再将测试集输入模型中得到运动想象任务的最终的分类准确率,进而评估此模型的性能;
将LSTM模型和LSTM-FC模型分别训练好以后,需要将新的数据集即测试集输入到已经训练好的模型中,进而实现模型性能的衡量,通过预测出的测试集标签与真实的标签进行比较,得到测试的分类正确率,其中测试与训练的分类准确率计算均可由下面的公式表示:
本实施例将深度学习的方法有效地应用到BCI系统中,通过LSTM进行特征的提取,再融合全连接网络将LSTM所提取的特征进行映射,得到LSTM-FC模型,实验表明,LSTM模型和融合FC后的LSTM-FC模型最终测试分类准确率均可以达到100%,高于目前所出现的所有准确率,并且端到端的模式可以缩减人工预处理和后续处理,给予模型更多自动调节的空间,增加模型的整体契合度,最后通过GPU的配置加快了算法处理的时速,提高了整个模型的性能。
S6:对比LSTM和LSTM-FC两个模型的性能,得出最优的模型。
本实施例中,实际上是构建了两个模型框架,一个是LSTM模型,另一个是LSTM-FC模型,其中,LSTM-FC模型是在LSTM-FC模型的基础上融合了FC网络得到的,根据LSTM的训练方式的特点,再结合FC网络连接的特点,可以在规避FC网络的劣势的同时,发挥FC网络的优势。实验证明,融合了FC网络的LSTM模型,即LSTM-FC在整个训练过程的算法所用时间和系统稳定性上均占有绝对优势,如图7和8所示是两个模型训练过程中的准确率与损失变化曲线图。在具体实验中,发现LSTM至少需要迭代750次,耗时90.29秒,准确率便可以达到100%,而LSTM-FC模型只要迭代近400次,耗时47.26秒,准确率就能达到100%。并且,在图7和8的(a)图中可以看出,在LSTM模型中,随着迭代的次数增长,其模型最终的结果也没有完全收敛,还在小范围内震荡,但是LSTM-FC模型则随着迭代的增长而渐渐收敛,其稳定性高于LSTM模型。综上所述,LSTM-FC模型因其准确性、耗时性和稳定性的优势,更加适用于实时、在线BCI系统中的处理算法。
以上公开的仅为本发明的优选实施方式,但本发明并非局限于此,任何本领域的技术人员能思之的没有创造性的变化,以及在不脱离本发明原理前提下所作的若干改进和润饰,都应落在本发明的保护范围内。
Claims (5)
1.一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,包括以下步骤:
S1:脑电信号的采集与预处理;
S2:定义基本的LSTM网络的模型结构;
S3:将通过LSTM网络的特征矩阵经过两层FC网络,得到融合FC网络的LSTM模型,即LSTM-FC模型;
S4:将训练集输入相应的模型中进行训练,利用误差反向传播更新网络;
S5:训练好相应的模型后,再将测试集输入模型中得到运动想象任务的最终的分类准确率,进而评估此模型的性能;
S6:对比LSTM和LSTM-FC两个模型的性能,得出最优的模型。
2.根据权利要求1所述的一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,所述步骤S2中:
在LSTM网络的模型结构中设置输入门,忘记门和输出门;三个门之间相互作用共同搭建LSTM网络的记忆模块,其数学表达式如下:
令第t时刻网络的脑电数据输入为xt,隐藏层状态为ht,则上一时刻的隐藏层状态为ht-1,在数据经过LSTM前向传输后,内部的各个状态变化可如下表示:
ft=δ(Wf·[ht-1,xt]+bf) 忘记门
it=δ(Wi·[ht-1,xt]+bi) 输入门
输入值
新状态
ot=δ(Wo·[ht-1,xt]+bo) 输出门
ht=ot*tanh(Ct) 输出值
其中,tanh为双曲正切函数,其数学表达式为:δ为sigmoid函数,其数学表达式为:Wf、Wi、WC、Wo和bi、bC、bo、bf均分别是网络中权值矩阵和偏差向量,需要进行训练的参数,其初始化值介于0-0.1之间,在训练过程中自动更新。
3.根据权利要求2所述的一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,所述步骤S3中:
定义FC网络的参数,将通过LSTM网络后的特征矩阵经过FC得到最终的LSTM-FC分类器;
FC网络线性部分做线性转换,将LSTM最终的输出值o=[o1,o2,...on]T作为FC网络的输入向量,其经过隐藏层后可得到线性的输出向量z=[z1,z2,...zm]T,公式表示如下:
z=Wq*o+bq
其中,Wq为当前FC网络的一个m*n的权值矩阵,bq为偏置向量,且bq=[bq0,bq1,...bqm]T;得到线性输出向量后,利用非线性函数即激活函数对输出进行转换得到输出层的输出向量y=[y0,y1,...yk]T,其中,常用的激活函数包括relu、sigmoid和tanh。
4.根据权利要求3所述的一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,所述步骤S4中:
完成了LSTM-FC模型前向计算,接下来需要进行后向计算,即随时间反向传播算法;反向传播传播的是误差或者称为损失,用来衡量网络的输出结果与真实结果相差多少的量,而这种可以衡量网络输出效果的函数便为“损失函数”或者“目标函数”,采用交叉熵损失函数:
Hy'(y)=-∑y′ilog(yi)
其中,y是网络预测的概率分布,y′是真实的分布;
然后,采用基于梯度下降算法进行网络参数更新,其中需要更新的参数Wf、Wi、WC、Wo、Wq和bi、bC、bo、bf、bq,分别用W和b来简记,则在更新过程中,整体样本的损失函数是一个关于W和b的函数,用H(W,b)表示,基于梯度下降算法的网络参数更新可采用如下的迭代公式::
其中,η为学习率,控制了权重的更新比率,为求偏导数操作;
最后使用优化算法来对网络的损失进行优化处理,常用的基于梯度下降的优化算法如随机梯度下降法、基于冲量的优化算法、自适应梯度优化算法、Adadelta优化算法、自适应矩估计优化算法、RMSProp优化算法。
5.根据权利要求4所述的一种基于LSTM-FC的脑电信号特征提取与分类识别方法,其特征在于,所述步骤S5中:
网络训练好后,将测试集输入网络,计算分类准确度,其中训练集预测集的分类准确率计算方式均为:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811394213.1A CN109583346A (zh) | 2018-11-21 | 2018-11-21 | 基于lstm-fc的脑电信号特征提取与分类识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811394213.1A CN109583346A (zh) | 2018-11-21 | 2018-11-21 | 基于lstm-fc的脑电信号特征提取与分类识别方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109583346A true CN109583346A (zh) | 2019-04-05 |
Family
ID=65923593
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811394213.1A Pending CN109583346A (zh) | 2018-11-21 | 2018-11-21 | 基于lstm-fc的脑电信号特征提取与分类识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109583346A (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110215212A (zh) * | 2019-04-19 | 2019-09-10 | 福州大学 | 一种基于低分辨率红外热成像的智能跌倒检测系统 |
CN110377049A (zh) * | 2019-06-29 | 2019-10-25 | 天津大学 | 基于脑-机接口的无人机集群编队队形重构控制方法 |
CN110516735A (zh) * | 2019-08-27 | 2019-11-29 | 天津科技大学 | 一种基于LSTM网络和Adam算法的天然气管道事件分类方法 |
CN110531861A (zh) * | 2019-09-06 | 2019-12-03 | 腾讯科技(深圳)有限公司 | 运动想象脑电信号的处理方法和装置及存储介质 |
CN110751032A (zh) * | 2019-09-20 | 2020-02-04 | 华中科技大学 | 一种无需校准的脑机接口模型的训练方法 |
CN110955152A (zh) * | 2019-12-02 | 2020-04-03 | 杭州创匠信息科技有限公司 | 基于脑机接口的智能家居控制方法及系统 |
CN110995631A (zh) * | 2019-11-06 | 2020-04-10 | 中国空间技术研究院 | 一种基于lstm和svm的通信信号调制模式识别方法及系统 |
CN110991226A (zh) * | 2020-01-16 | 2020-04-10 | 常熟理工学院 | 基于重构模型的人体运动意向检测方法 |
CN111938634A (zh) * | 2020-08-17 | 2020-11-17 | 江苏科技大学 | 一种皮层脑电传导为头皮脑电的电模型 |
CN112603334A (zh) * | 2020-12-18 | 2021-04-06 | 杭州电子科技大学 | 基于时序特征和堆叠Bi-LSTM网络的棘波检测方法 |
CN112910288A (zh) * | 2020-12-08 | 2021-06-04 | 上海交通大学 | 一种基于逆变器散热器温度预测的过温预警方法 |
CN113112017A (zh) * | 2021-04-16 | 2021-07-13 | 唐山市工人医院 | 基于神经流形的脑电分级与预后fpga解码系统 |
CN113128459A (zh) * | 2021-05-06 | 2021-07-16 | 昆明理工大学 | 一种基于多层次脑电信号表达下的特征融合方法 |
CN113177482A (zh) * | 2021-04-30 | 2021-07-27 | 中国科学技术大学 | 一种基于最小类别混淆的跨个体脑电信号分类方法 |
CN114129175A (zh) * | 2021-11-19 | 2022-03-04 | 江苏科技大学 | 基于lstm和bp的运动想象脑电信号的分类方法 |
CN115294413A (zh) * | 2022-10-10 | 2022-11-04 | 齐鲁工业大学 | 一种基于时序脑电数据的脑疾病分类方法 |
CN116304676A (zh) * | 2023-02-01 | 2023-06-23 | 瑞鞍星医疗科技(苏州)有限公司 | 脑活动状态分类模型训练方法、装置和设备 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160099010A1 (en) * | 2014-10-03 | 2016-04-07 | Google Inc. | Convolutional, long short-term memory, fully connected deep neural networks |
CN107495962A (zh) * | 2017-09-18 | 2017-12-22 | 北京大学 | 一种单导联脑电的睡眠自动分期方法 |
CN108090402A (zh) * | 2016-11-22 | 2018-05-29 | 上海银晨智能识别科技有限公司 | 一种基于循环神经网络的视频人脸识别方法及系统 |
CN108197648A (zh) * | 2017-12-28 | 2018-06-22 | 华中科技大学 | 一种基于lstm深度学习模型的水电机组故障诊断方法与系统 |
CN108388900A (zh) * | 2018-02-05 | 2018-08-10 | 华南理工大学 | 基于多特征融合和时空注意力机制相结合的视频描述方法 |
CN108416690A (zh) * | 2018-01-19 | 2018-08-17 | 中国矿业大学 | 基于深度lstm神经网络的电网负荷预测方法 |
CN108734276A (zh) * | 2018-04-28 | 2018-11-02 | 同济大学 | 一种基于对抗生成网络的模仿学习对话生成方法 |
CN109555566A (zh) * | 2018-12-20 | 2019-04-02 | 西安交通大学 | 一种基于lstm的汽轮机转子故障诊断方法 |
-
2018
- 2018-11-21 CN CN201811394213.1A patent/CN109583346A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160099010A1 (en) * | 2014-10-03 | 2016-04-07 | Google Inc. | Convolutional, long short-term memory, fully connected deep neural networks |
CN108090402A (zh) * | 2016-11-22 | 2018-05-29 | 上海银晨智能识别科技有限公司 | 一种基于循环神经网络的视频人脸识别方法及系统 |
CN107495962A (zh) * | 2017-09-18 | 2017-12-22 | 北京大学 | 一种单导联脑电的睡眠自动分期方法 |
CN108197648A (zh) * | 2017-12-28 | 2018-06-22 | 华中科技大学 | 一种基于lstm深度学习模型的水电机组故障诊断方法与系统 |
CN108416690A (zh) * | 2018-01-19 | 2018-08-17 | 中国矿业大学 | 基于深度lstm神经网络的电网负荷预测方法 |
CN108388900A (zh) * | 2018-02-05 | 2018-08-10 | 华南理工大学 | 基于多特征融合和时空注意力机制相结合的视频描述方法 |
CN108734276A (zh) * | 2018-04-28 | 2018-11-02 | 同济大学 | 一种基于对抗生成网络的模仿学习对话生成方法 |
CN109555566A (zh) * | 2018-12-20 | 2019-04-02 | 西安交通大学 | 一种基于lstm的汽轮机转子故障诊断方法 |
Non-Patent Citations (1)
Title |
---|
WENXIANG ZHANG等: "Using the Center Loss Function to Improve Deep Learning Performance for EEG Signal Classification", 《2018 TENTH INTERNATIONAL CONFERENCE ON ADVANCED COMPUTATIONAL INTELLIGENCE (ICACI)》 * |
Cited By (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110215212A (zh) * | 2019-04-19 | 2019-09-10 | 福州大学 | 一种基于低分辨率红外热成像的智能跌倒检测系统 |
CN110377049A (zh) * | 2019-06-29 | 2019-10-25 | 天津大学 | 基于脑-机接口的无人机集群编队队形重构控制方法 |
CN110377049B (zh) * | 2019-06-29 | 2022-05-17 | 天津大学 | 基于脑-机接口的无人机集群编队队形重构控制方法 |
CN110516735A (zh) * | 2019-08-27 | 2019-11-29 | 天津科技大学 | 一种基于LSTM网络和Adam算法的天然气管道事件分类方法 |
CN110516735B (zh) * | 2019-08-27 | 2023-05-26 | 天津科技大学 | 一种基于LSTM网络和Adam算法的天然气管道事件分类方法 |
WO2021043118A1 (zh) * | 2019-09-06 | 2021-03-11 | 腾讯科技(深圳)有限公司 | 运动想象脑电信号的处理方法和装置及存储介质 |
CN110531861A (zh) * | 2019-09-06 | 2019-12-03 | 腾讯科技(深圳)有限公司 | 运动想象脑电信号的处理方法和装置及存储介质 |
CN110751032A (zh) * | 2019-09-20 | 2020-02-04 | 华中科技大学 | 一种无需校准的脑机接口模型的训练方法 |
CN110751032B (zh) * | 2019-09-20 | 2022-08-02 | 华中科技大学 | 一种无需校准的脑机接口模型的训练方法 |
CN110995631A (zh) * | 2019-11-06 | 2020-04-10 | 中国空间技术研究院 | 一种基于lstm和svm的通信信号调制模式识别方法及系统 |
CN110955152A (zh) * | 2019-12-02 | 2020-04-03 | 杭州创匠信息科技有限公司 | 基于脑机接口的智能家居控制方法及系统 |
CN110991226A (zh) * | 2020-01-16 | 2020-04-10 | 常熟理工学院 | 基于重构模型的人体运动意向检测方法 |
CN111938634B (zh) * | 2020-08-17 | 2021-04-06 | 江苏科技大学 | 一种皮层脑电传导为头皮脑电的电模型 |
CN111938634A (zh) * | 2020-08-17 | 2020-11-17 | 江苏科技大学 | 一种皮层脑电传导为头皮脑电的电模型 |
CN112910288B (zh) * | 2020-12-08 | 2022-08-09 | 上海交通大学 | 一种基于逆变器散热器温度预测的过温预警方法 |
CN112910288A (zh) * | 2020-12-08 | 2021-06-04 | 上海交通大学 | 一种基于逆变器散热器温度预测的过温预警方法 |
CN112603334A (zh) * | 2020-12-18 | 2021-04-06 | 杭州电子科技大学 | 基于时序特征和堆叠Bi-LSTM网络的棘波检测方法 |
CN112603334B (zh) * | 2020-12-18 | 2022-04-08 | 杭州电子科技大学 | 基于时序特征和堆叠Bi-LSTM网络的棘波检测方法 |
CN113112017A (zh) * | 2021-04-16 | 2021-07-13 | 唐山市工人医院 | 基于神经流形的脑电分级与预后fpga解码系统 |
CN113177482A (zh) * | 2021-04-30 | 2021-07-27 | 中国科学技术大学 | 一种基于最小类别混淆的跨个体脑电信号分类方法 |
CN113128459A (zh) * | 2021-05-06 | 2021-07-16 | 昆明理工大学 | 一种基于多层次脑电信号表达下的特征融合方法 |
CN114129175A (zh) * | 2021-11-19 | 2022-03-04 | 江苏科技大学 | 基于lstm和bp的运动想象脑电信号的分类方法 |
CN115294413A (zh) * | 2022-10-10 | 2022-11-04 | 齐鲁工业大学 | 一种基于时序脑电数据的脑疾病分类方法 |
CN115294413B (zh) * | 2022-10-10 | 2023-01-24 | 齐鲁工业大学 | 一种基于时序脑电数据的脑疾病分类方法 |
CN116304676A (zh) * | 2023-02-01 | 2023-06-23 | 瑞鞍星医疗科技(苏州)有限公司 | 脑活动状态分类模型训练方法、装置和设备 |
CN116304676B (zh) * | 2023-02-01 | 2023-11-17 | 瑞鞍星医疗科技(苏州)有限公司 | 脑活动状态分类模型训练方法、装置和设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109583346A (zh) | 基于lstm-fc的脑电信号特征提取与分类识别方法 | |
Ding et al. | Deep extreme learning machine and its application in EEG classification | |
CN109614885A (zh) | 一种基于lstm的脑电信号快速分类识别方法 | |
CN109472194A (zh) | 一种基于cblstm算法模型的运动想象脑电信号特征识别方法 | |
Wang<? A3B2 show [zaq no=" AQ9"]?> et al. | Sensor fusion for myoelectric control based on deep learning with recurrent convolutional neural networks | |
Sahin et al. | Nonuniformly sampled data processing using LSTM networks | |
CN110321833A (zh) | 基于卷积神经网络和循环神经网络的人体行为识别方法 | |
CN109948427A (zh) | 一种基于长短时记忆模型的意念识别方法 | |
CN106096641A (zh) | 一种基于遗传算法的多模态情感特征融合方法 | |
Tang et al. | Hidden-layer visible deep stacking network optimized by PSO for motor imagery EEG recognition | |
Yang et al. | Emotion Recognition of EMG Based on Improved LM BP Neural Network and SVM. | |
Ye et al. | ECG generation with sequence generative adversarial nets optimized by policy gradient | |
CN104035563A (zh) | 基于w-pca和无监督ghsom的脑电信号识别方法 | |
Song et al. | EEG-based motor imagery classification with deep multi-task learning | |
CN107122050A (zh) | 基于csfl‑gdbn的稳态运动视觉诱发电位脑‑机接口方法 | |
CN106980831A (zh) | 基于自编码器的自亲缘关系识别方法 | |
CN114089834A (zh) | 一种基于时间-通道级联Transformer网络的脑电识别方法 | |
Jinliang et al. | EEG emotion recognition based on granger causality and capsnet neural network | |
Bai et al. | Emotional monitoring of learners based on EEG signal recognition | |
CN109359610A (zh) | 构建cnn-gb模型的方法及系统、数据特征分类方法 | |
Lu et al. | The detection of p300 potential based on deep belief network | |
CN110738093B (zh) | 基于改进小世界回声状态网络肌电的分类方法 | |
Wu et al. | Faster single model vigilance detection based on deep learning | |
Zhang et al. | An ECoG-based binary classification of BCI using optimized extreme learning machine | |
Ji et al. | A recognition method for Italian alphabet gestures based on convolutional neural network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190405 |