CN109614885A - 一种基于lstm的脑电信号快速分类识别方法 - Google Patents
一种基于lstm的脑电信号快速分类识别方法 Download PDFInfo
- Publication number
- CN109614885A CN109614885A CN201811393348.6A CN201811393348A CN109614885A CN 109614885 A CN109614885 A CN 109614885A CN 201811393348 A CN201811393348 A CN 201811393348A CN 109614885 A CN109614885 A CN 109614885A
- Authority
- CN
- China
- Prior art keywords
- lstm
- network
- model
- state
- door
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 31
- 230000006870 function Effects 0.000 claims abstract description 26
- 238000012360 testing method Methods 0.000 claims abstract description 15
- 238000013135 deep learning Methods 0.000 claims abstract description 10
- 238000012549 training Methods 0.000 claims description 19
- 238000013528 artificial neural network Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 12
- 230000015654 memory Effects 0.000 claims description 11
- 238000005457 optimization Methods 0.000 claims description 11
- 230000000306 recurrent effect Effects 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 7
- 230000004913 activation Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000008859 change Effects 0.000 claims description 4
- 230000001413 cellular effect Effects 0.000 claims description 2
- 210000004556 brain Anatomy 0.000 description 10
- 230000003340 mental effect Effects 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 5
- 238000011160 research Methods 0.000 description 5
- 230000003044 adaptive effect Effects 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 4
- 210000004027 cell Anatomy 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- BASFCYQUMIYNBI-UHFFFAOYSA-N platinum Chemical compound [Pt] BASFCYQUMIYNBI-UHFFFAOYSA-N 0.000 description 4
- 230000007177 brain activity Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000001054 cortical effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002566 electrocorticography Methods 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 210000003414 extremity Anatomy 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 229910052697 platinum Inorganic materials 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 206010010904 Convulsion Diseases 0.000 description 1
- 208000012661 Dyskinesia Diseases 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000002490 cerebral effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 210000003792 cranial nerve Anatomy 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000007831 electrophysiology Effects 0.000 description 1
- 238000002001 electrophysiology Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 208000028316 focal seizure Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 210000004934 left little finger Anatomy 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000000946 synaptic effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种基于LSTM的脑电信号快速分类识别方法，其特征在于，包括以下步骤：S1：脑电信号采集与预处理；S2：定义LSTM网络结构，并使用开源的深度学习架构TensorFlow搭建网络模型；S3：将真实的标签与预测的标签做对比，利用交叉熵损失函数计算出损失，再选择最佳的优化函数优化网络，提高训练的精确度；S4：利用训练好的模型预测出测试集的标签，并将其与真实的标签对比，对模型进行评估。
Description
技术领域
本发明属于人工智能的脑机接口技术领域，涉及一种基于长短时记忆(LongShort-Term Memory，LSTM)模型的脑机接口(Brain-Computer Interface，BCI)系统中运动想象分类识别的方法；尤其是一种基于LSTM的脑电信号快速分类识别方法。
背景技术
BCI是一种特殊的通讯系统，它不依赖于人体的外围神经和肌肉组织，就可以实现人脑与外部的通信交流，这种不需要语言或者动作支配的通信方式，可以实现由于神经系统混乱导致运动功能障碍的患者控制外部世界的能力，进而提高患者的生活质量。如今，BCI技术已引起国际上众多科技工作者的普遍关注，成为人工智能、生物医学工程、通信以及计算机技术等领域的研究热点。
基于运动想象的脑电信号的相关研究是BCI技术研究领域的一个重要组成部分。运动想象是指患者在不能进行正常肢体运动的状态下，凭借大脑想象某种运动的思维过程。通过记录下大脑活动时的脑波变化，再经过分类和识别处理得到肢体运动的意图识别，是基于运动想象的脑电信号研究分析的重要组成部分。脑电信号就是脑神经细胞电生理活动在大脑皮层的总体反映，不同生理状态，相应的脑电波形也会不同，目前根据脑电信号采集方式的不同，将BCI分为大致两种主要类型：侵入式BCI和非侵入式BCI，侵入式BCI通常利用植入到大脑中的一个或多个微电极记录大脑活动时的电活动，而非侵入式BCI是在受试者头上佩戴一种外部脑电检测装置记录大脑活动时的电活动。
BCI的核心部分是对采集的脑电信号进行正确而快速的特征提取与分类识别。对整个人脑独特的信息处理能力得益于其大规模的并行和分布式计算方式，承担大脑信息处理任务的是一种被称为神经元的细胞，神经元好比一个复杂的电化学设备，负责从上百个神经元中获取信息、处理信息并传递给其他神经元。受到这种生物神经网络功能运作的启发，人们构筑了一种类似于大脑神经突触连接的结构进行信息处理的数学模型，即人工神经网络(Artificial Neural Network，ANN)，与人类大脑的神经元不同的是，ANN不按照特定的物理距离连接，它具有独立的层和连接，还有数据传播方向。随着对现代神经科学研究和人工智能的发展，人们在对神经网络算法的研究日益加深，在此基础上提出了深度学习的概念。
深度学习是当今人工智能领域研究和应用开发的热点，是基于ANN发展起来的一项技术，深度学习之所以被称之为“深度”，是相对于传统的支持向量机(Support VectorMachine，SVM)、朴素贝叶斯分类器(Naive Bayes Classifier，NBC)、线性判别式分析(Linear Discriminant Analysis，LDA)等“浅层”学习方法而言的，深度学习通过调节网络参数，迭代学习来寻找到最佳的特征表达模型，不需要人工设计特征，就可以自动地学习数据的特征，省去很多人工设计的工作，同时可以更好地表达数据本身的特征。
在深度学习算法中，最具有代表性和使用最多的算法就是卷积神经网络(Convolution Neural Network，CNN)和循环神经网络(Recurrent Neural Networks，RNN)，其中相比较于CNN利用卷积核在待处理的数据上进行平移来提取特征的方法，RNN按时间序列展开的方式更加适用于BCI中的时序信号的处理。RNN模型中将时间的先后顺序信息加入到神经网络中，可以对过去的事情加以“记忆”，但是这种“记忆”是有限的，普通的RNN只能与前面若干序列有关，且在训练时容易产生梯度消失或者爆破的现象。此为现有技术的不足之处。
因此，针对现有技术中存在的缺陷，提供设计一种基于LSTM的脑电信号快速分类识别方法；以解决现有技术中的上述缺陷，是非常有必要的。
发明内容
本发明的目的在于，针对上述现有技术存在的缺陷，提供设计一种基于LSTM的脑电信号快速分类识别方法，以解决上述技术问题。
为实现上述目的，本发明给出以下技术方案：
一种基于LSTM的脑电信号快速分类识别方法，其特征在于，包括以下步骤：
S1：脑电信号采集与预处理；
S2：定义LSTM网络结构，并使用开源的深度学习架构TensorFlow搭建网络模型；
S3：将真实的标签与预测的标签做对比，利用交叉熵损失函数计算出损失，再选择最佳的优化函数降低损失值进行网络优化，进而提高训练的准确率；
S4：利用训练好的模型预测出测试集的标签，并将其与真实的标签对比，对模型进行评估。
作为优选，所述步骤S1中：
采用侵入式的方式进行脑电信号的采集，在患者大脑右半球运动皮层表面放置一个8×8cm尺寸，规格为8×8的网格状铂电极，通过64个数据的信道来记录ECoG。在实验中，受试者根据图像提示重复想象伸舌头和左小指的运动，以1000Hz的采样率进行数据的采样，并以1和-1来标记这两类运动想象。整个数据集包括训练集的数据和训练标签，以及测试集的数据和测试标签，数据以MATLAB的标准格式存储，其中，训练集的数据格式为278×64×3000，测试集的标签格式为278×1，测试集的数据格式为100×64×3000，测试集的标签格式为100×1。数据集均采集于同样的受试者和相同的任务，但是由于采集时间的间隔、设备的状态甚至是受试者轻微地状态变化都会影响到脑电数据的正确获取，加大了分类的难度。
另外，步骤S1中所述预处理过程主要是降采样过程，降采样是指在原始采样序列中按照事先设置的采样间隔，等间隔地取出一些采样点，得到新的采样序列。合适的采样速率不仅不会丢失数据的特征信息，还可以有效的去除部分噪声和伪迹干扰，提高运算速度。
作为优选，所述步骤S2中：
设循环神经网络网络的第t时刻输入为xt上一时刻的隐藏层状态为ht-1，本时刻的隐藏层状态ht与循环神经网络所表示的函数f将有如下表示：
ht＝f(xt,ht-1)＝δ(wxhxt+whhht-1+bh)
其中，wxh与whh为隐藏层对应的权值矩阵，bh是隐藏层对应的偏置向量，δ表示sigmoid函数。LSTM设置输入门(Input Gate)，遗忘门(Forget Gate)和输出门(OutputGate)，使得自循环的权重是变化的，当模型参数固定的情况下，不同时刻的积分尺度可以动态改变，从而避免了在训练过程中容易发生的梯度消失或者梯度膨胀的问题。LSTM结构的循环神经网络的前向传播是一个相对比较复杂的过程，具体的LSTM每个“门”的定义如下：
(A)遗忘门：在LSTM表示以一定的概率控制是否遗忘上一层的隐藏细胞状态。上一序列的隐藏状态为训练过程ht-1，当前序列的数据为xt，通过一个sigmoid激活函数，得到遗忘门的输出为ft。由于sigmoid的会将输出ft投影到[0,1]之间，因此这里的输出ft，实则是代表了遗忘上一层隐藏细胞状态的概率。用数学表达式即为：
ft＝δ(wxfxt+whfht-1+wcfct+bf)
其中，wxf、whf和wcf均为遗忘门所对应的权值矩阵，bf是遗忘门所对应的偏置向量
(B)输入门：负责处理当前序列位置的输入，由两部分组成，第一部分使用了sigmoid激活函数，输出为it，第二部分使用了tanh激活函数，输出为可以表示理解为待候选的记忆单元。用数学表达式即为：
it＝δ(wxixt+whiht-1+wcict-1+bi)
其中，tanh为双曲正切函数。wxi、whi、wci、wxc、whc均为输入门所对应的权值矩阵，bi和bc均是输入门所对应的偏置向量。
LSTM的状态更新：前面的遗忘门和输入门的结果都会作用于细胞状态ct，根据旧的控制参数ct-1，新生成的更新控制参数组合生成最终该时刻的控制参数ct，用以状态更新，具体数学表达式如下：
(C)输出门：根据新的状态更新值ct，就可以得到此时刻的LSTM输出。
ot＝δ(wxoxt+whoht-1+wcoct+bo)
ht＝ottanh(ct)
其中，wxo、who和wco均为输出门所对应的权值矩阵，bo是输出门所对应的偏置向量。
作为优选，所述步骤S3中：
机器学习中，为了衡量一个模型的好坏，需要一个指标，这个指标称为损失(loss)，然后尽量最小化这个指标，一个非常有用的loss函数就是“交叉熵”(cross-entropy)。交叉熵产生于信息论里面的信息压缩编码技术，但是它后来演变成为从博弈论到机器学习等其他领域里的重要技术手段。它的将真实的标签值与预测的标签值做对比，利用交叉熵损失函数定义网络损失，并将误差进行反向传播更新网络的权重和偏差,模型进行前向学习后，将得到网络的预测值，将其与真实值进行比较后会得到误差值，利用损失函数，或者代价函数来衡量误差，定义如下：
y是我们预测的概率分布，y′是真实的分布，Hy′(y)可代表总的误差值，若用H来简单表示，网络中所有的权值矩阵均用W简单表示，则在LSTM反向传播中，t时刻的输出误差梯度δht，和记忆单元ct的误差梯度δct可以由t+1时刻的梯度状态方向来进行推导：
得到梯度后，进一步计算遗忘门的所对应的权梯度wxf、whf和wcf，均以wf来代指，则权值的更新如下：
同理，以类似的计算方式可以得到输入门、输出门以及隐藏层的权值状态更新。
上述是基于梯度下降算法寻找网络损失函数的极优值，为了加快寻找速度，可以使用基于梯度的优化算法对网络进行优化，其中，可选择的优化算法种类繁多，如自适应梯度(adaptive gradient，Adagrad)优化算法、Adadelta优化算法、自适应矩估计(adaptivemoment estimation，Adam)优化算法、RMSProp优化算法。
作为优选，所述步骤S4中：
将模型训练好以后，需要测试集输入到已经训练好的模型中衡量模型的性能。通过预测出的测试集标签与真实的标签进行比较，得到测试的分类正确率,其中测试与训练的分类准确率计算均可由下面的公式表示：
本发明的有益效果在于，提高了分类的准确率：本发明将深度学习的方法有效地应用到BCI系统中，训练出LSTM模型，经过测试可得准确率为100％，优于目前现有的所有分类结果。
算法复杂度小：本发明采用简单的LSTM网络，相较于其他传统分类器和其他深度算法所需的网络深度与复杂度而言，本算法在保证分类精度的前提下，简化模型，直接使用一层LSTM网络的训练方式，可以实现端到端的信息处理，并且不需要人为设置特征，减少了大量的繁琐特征工程操作。对于BCI在实际中的应用而言，快速的分类效果会使得整个系统更具有时效性。
此外，本发明设计原理可靠，结构简单，具有非常广泛的应用前景。
由此可见，本发明与现有技术相比，具有突出的实质性特点和显著地进步，其实施的有益效果也是显而易见的。
附图说明
图1为本发明的整体流程框图。
图2为BCI系统中的脑电信号采集设备。
图3为LSTM的单元细节图，其中输入为ct-1、ht-1、xt，输出为ct、ht。
图4为LSTM按时间展开后的结构图。
图5为LSTM模型训练过程中的损失变化曲线图。
图6为LSTM模型训练过程中的准确率变化曲线图。
具体实施方式
下面结合附图并通过具体实施例对本发明进行详细阐述，以下实施例是对本发明的解释，而本发明并不局限于以下实施方式。
如图1所示，本发明提供的一种基于LSTM的脑电信号快速分类识别方法，其特征在于，包括以下步骤：
S1：脑电信号采集与预处理；
数据来源于BCI竞赛数据集，通过侵入式方法采集了一个患有病灶性癫痫患者的运动想象脑电信号，如图2所示，采用在患者大脑右半球运动皮层表面放置一个8×8cm尺寸，规格为8×8的网格状铂电极，通过64个信道来记录和采集患者基于运动想象的ECoG数据，然后将数据进行简单的滤波和降采样处理，消除部分噪声的干扰。
S2：定义LSTM网络结构，并使用开源的深度学习架构TensorFlow；
构建LSTM网络模型：本实施例采用LSTM网络结构,在训练过程中，当前隐藏层的状态由前一时刻的隐藏层状态以及当前时刻的输入而决定，LSTM将不断循环这一过程直至网络输入结束，LSTM是通过增加记忆单元、输入门、遗忘门和输出门等机制实现上述过程LSTM是一种时间递归神经网络。LSTM是在循环神经网络的基础上发展而来的，设循环神经网络网络的第t时刻输入为xt，上一时刻的隐藏层状态为ht-1，本时刻的隐藏层状态ht与循环神经网络所表示的函数f将有如下表示：
ht＝f(xt,ht-1)＝δ(wxhxt+whhht-1+bh)
其中，wxh与whh为网络的权值矩阵(Weight)，bh是网络的偏置向量(Bias)，δ表示sigmoid函数。为了克服训练过程中出现的梯度爆炸或者梯度消失的问题，引用了LSTM网络，LSTM结构的循环神经网络的前向传播是一个相对比较复杂的过程：
ft＝δ(wxfxt+whfht-1+wcfct+bf)
it＝δ(wxixt+whiht-1+wcict-1+bi)
ot＝δ(wxoxt+whoht-1+wcoct+bo)
ht＝ottanh(ct)
其中，tanh为双曲正切函数LSTM的三种门机制通过不同的参数来对记忆单元进行控制，如图3所示是LSTM的单元细节图，其中，遗忘门控制着记忆单元维持上一刻状态值的强度，输入门控制着新的输入进行记忆单元的强度，而输出门则是控制着记忆单元输出的强度，三种门机制的计算方式类似，但是却有着完全不同的参数，三种门之间相互协作，共同完成LSTM网络模型的搭建，如图4所示，是LSTM按时间展开后的模型。
S3：将真实的标签与预测的标签做对比，利用交叉熵损失函数计算出损失，再选择最佳的优化函数进行网络的优化处理，提高训练的准确率；
模型进行前向学习后，将得到网络的预测值，将其与真实值进行比较后会得到误差值，利用损失函数来衡量误差，同时，为了能够计算不连续且高维度的数据，这里引用交叉熵损失函数，定义如下：
y是我们预测的概率分布，y′是真实的分布，Hy′(y)可代表总的误差值，若用H来简单表示，则在LSTM反向传播中，t时刻的输出误差梯度δht，和记忆单元ct的误差梯度δct可以由t+1时刻的梯度状态方向来进行推导：
得到梯度后，进一步计算遗忘门的所对应的权梯度wxf、whf和wcf，均以wf来代指，则权值的更新如下：
同理，以类似的计算方式得到输入门、输出门以及隐藏门的权值状态更新。
同理，以类似的计算方式可以得到输入门、输出门以及隐藏层的权值状态更新。最后采用优化算法来进行网络优化，模型训练过程中的损失和准确率变化如图5和6所示。
S4：利用训练好的模型预测出测试集的标签，并将其与真实的标签对比，对模型进行评估。
其中测试与训练的分类准确率计算均可由下面的公式表示：
以上公开的仅为本发明的优选实施方式，但本发明并非局限于此，任何本领域的技术人员能思之的没有创造性的变化，以及在不脱离本发明原理前提下所作的若干改进和润饰，都应落在本发明的保护范围内。
Claims (4)
1.一种基于LSTM的脑电信号快速分类识别方法，其特征在于，包括以下步骤：
S1：脑电信号采集与预处理；
S2：定义LSTM网络结构，并使用开源的深度学习架构TensorFlow搭建网络模型；
S3：将真实的标签与预测的标签做对比，利用交叉熵损失函数计算出损失，再选择最佳的优化函数进行网络优化，提高训练的准确率；
S4：利用训练好的模型预测出测试集的标签，并将其与真实的标签对比，对模型进行评估。
2.根据权利要求1所述的一种基于LSTM的脑电信号快速分类识别方法，其特征在于，所述步骤S2中：
设循环神经网络网络的第t时刻输入为xt上一时刻的隐藏层状态为ht-1，本时刻的隐藏层状态ht与循环神经网络所表示的函数f将有如下表示：
ht＝f(xt,ht-1)＝δ(wxhxt+whhht-1+bh)
其中，wxh与whh为隐藏层对应的权值矩阵，bh是隐藏层对应的偏置向量，δ表示sigmoid函数；LSTM设置输入门，遗忘门和输出门，使得自循环的权重是变化的，当模型参数固定的情况下，不同时刻的积分尺度可以动态改变，从而避免了在训练过程中容易发生的梯度消失或者梯度膨胀的问题；具体的LSTM每个“门”的定义如下：
遗忘门：在LSTM表示以一定的概率控制是否遗忘上一层的隐藏细胞状态；上一序列的隐藏状态为训练过程ht-1，当前序列的数据为xt，通过一个sigmoid激活函数，得到遗忘门的输出为ft；由于sigmoid的会将输出ft投影到[0,1]之间，因此这里的输出ft，实则是代表了遗忘上一层隐藏细胞状态的概率；用数学表达式即为：
ft＝δ(wxfxt+whfht-1+wcfct+bf)
其中，wxf、whf和wcf均为遗忘门所对应的权值矩阵，bf是遗忘门所对应的偏置向量；
输入门：负责处理当前序列位置的输入，由两部分组成，第一部分使用了sigmoid激活函数，输出为it，第二部分使用了tanh激活函数，输出为可以表示理解为待候选的记忆单元；用数学表达式即为：
it＝δ(wxixt+whiht-1+wcict-1+bi)
其中，tanh为双曲正切函数；wxi、whi、wci、wxc、whc均为输入门所对应的权值矩阵，bi和bc均是输入门所对应的偏置向量；
LSTM的状态更新：前面的遗忘门和输入门的结果都会作用于细胞状态ct，根据旧的控制参数ct-1，新生成的更新控制参数组合生成最终该时刻的控制参数ct，用以状态更新，具体数学表达式如下：
输出门：根据新的状态更新值ct，就可以得到此时刻的LSTM输出；
ot＝δ(wxoxt+whoht-1+wcoct+bo)
ht＝ottanh(ct)
其中，wxo、who和wco均为输出门所对应的权值矩阵，bo是输出门所对应的偏置向量。
3.根据权利要求2所述的一种基于LSTM的脑电信号快速分类识别方法，其特征在于，所述步骤S3中：
模型进行前向学习后，将得到网络的预测值，将其与真实值进行比较后会得到误差值，利用损失函数，或者代价函数来衡量误差，定义如下：
y是我预测的概率分布，y′是真实的分布，Hy′(y)可代表总的误差值，若用H来简单表示，网络中所有的权值矩阵均用W简单表示，则在LSTM反向传播中，t时刻的输出误差梯度δht，和记忆单元ct的误差梯度δct可以由t+1时刻的梯度状态方向来进行推导：
得到梯度后，进一步计算遗忘门的所对应的权梯度wxf、whf和wcf，均以wf来代指，则权值的更新如下：
同理，以类似的计算方式可以得到输入门、输出门以及隐藏层的权值状态更新。
4.根据权利要求3所述的一种基于LSTM的脑电信号快速分类识别方法，其特征在于，所述步骤S4中：
将模型训练好以后，需要测试集输入到已经训练好的模型中衡量模型的性能；测试与训练的分类准确率计算均可由下面的公式表示：
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811393348.6A CN109614885A (zh) | 2018-11-21 | 2018-11-21 | 一种基于lstm的脑电信号快速分类识别方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811393348.6A CN109614885A (zh) | 2018-11-21 | 2018-11-21 | 一种基于lstm的脑电信号快速分类识别方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109614885A true CN109614885A (zh) | 2019-04-12 |
Family
ID=66003651
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811393348.6A Pending CN109614885A (zh) | 2018-11-21 | 2018-11-21 | 一种基于lstm的脑电信号快速分类识别方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109614885A (zh) |
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110188826A (zh) * | 2019-05-31 | 2019-08-30 | 湖南科技大学 | 基于智能电表数据的家用电器运行状态非侵入式检测方法 |
| CN110200624A (zh) * | 2019-07-02 | 2019-09-06 | 重庆大学 | 基于卷积神经网络-循环神经网络-支持向量机混合模型的疾病识别算法 |
| CN110427924A (zh) * | 2019-09-09 | 2019-11-08 | 桂林电子科技大学 | 一种基于lstm的心冲击信号自动多分类识别方法 |
| CN110516735A (zh) * | 2019-08-27 | 2019-11-29 | 天津科技大学 | 一种基于LSTM网络和Adam算法的天然气管道事件分类方法 |
| CN110955152A (zh) * | 2019-12-02 | 2020-04-03 | 杭州创匠信息科技有限公司 | 基于脑机接口的智能家居控制方法及系统 |
| CN111166328A (zh) * | 2020-01-06 | 2020-05-19 | 天津大学 | 基于多通道脑电数据和cnn-svm的癫痫脑电识别装置 |
| CN111436939A (zh) * | 2020-03-17 | 2020-07-24 | 佛山市台风网络科技有限公司 | 健康监测方法、系统、计算机设备及可读存储介质 |
| CN111897428A (zh) * | 2020-07-30 | 2020-11-06 | 太原科技大学 | 一种基于运动式脑机接口的手势识别方法 |
| CN112149898A (zh) * | 2020-09-21 | 2020-12-29 | 广东电网有限责任公司清远供电局 | 故障率预测模型的训练、故障率预测方法及相关装置 |
| CN112183368A (zh) * | 2020-09-29 | 2021-01-05 | 国网四川省电力公司经济技术研究院 | 基于lstm的电力系统低频振荡模态特征的快速辨识方法 |
| CN112466324A (zh) * | 2020-11-13 | 2021-03-09 | 上海听见信息科技有限公司 | 一种情绪分析方法、系统、设备及可读存储介质 |
| CN112667080A (zh) * | 2020-12-28 | 2021-04-16 | 西安电子科技大学 | 基于深度卷积对抗网络的脑电信号无人平台智能控制方法 |
| CN112765894A (zh) * | 2020-11-25 | 2021-05-07 | 北方工业大学 | 一种基于k-lstm的铝电解槽状态预测方法 |
| CN112890833A (zh) * | 2021-01-21 | 2021-06-04 | 河南省轻工业学校 | 一种基于鸽脑电信号对不同颜色刺激模式的预测方法 |
| CN113100785A (zh) * | 2021-04-14 | 2021-07-13 | 江南大学 | 一种基于凸合作博弈的脑电信号聚类方法 |
| CN113112017A (zh) * | 2021-04-16 | 2021-07-13 | 唐山市工人医院 | 基于神经流形的脑电分级与预后fpga解码系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108304787A (zh) * | 2018-01-17 | 2018-07-20 | 河南工业大学 | 基于卷积神经网络的道路目标检测方法 |
| CN108304917A (zh) * | 2018-01-17 | 2018-07-20 | 华南理工大学 | 一种基于lstm网络的p300信号检测方法 |
| CN108710947A (zh) * | 2018-04-10 | 2018-10-26 | 杭州善居科技有限公司 | 一种基于lstm的智能家居机器学习系统设计方法 |
-
2018
- 2018-11-21 CN CN201811393348.6A patent/CN109614885A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108304787A (zh) * | 2018-01-17 | 2018-07-20 | 河南工业大学 | 基于卷积神经网络的道路目标检测方法 |
| CN108304917A (zh) * | 2018-01-17 | 2018-07-20 | 华南理工大学 | 一种基于lstm网络的p300信号检测方法 |
| CN108710947A (zh) * | 2018-04-10 | 2018-10-26 | 杭州善居科技有限公司 | 一种基于lstm的智能家居机器学习系统设计方法 |
Cited By (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110188826A (zh) * | 2019-05-31 | 2019-08-30 | 湖南科技大学 | 基于智能电表数据的家用电器运行状态非侵入式检测方法 |
| CN110200624A (zh) * | 2019-07-02 | 2019-09-06 | 重庆大学 | 基于卷积神经网络-循环神经网络-支持向量机混合模型的疾病识别算法 |
| CN110516735A (zh) * | 2019-08-27 | 2019-11-29 | 天津科技大学 | 一种基于LSTM网络和Adam算法的天然气管道事件分类方法 |
| CN110516735B (zh) * | 2019-08-27 | 2023-05-26 | 天津科技大学 | 一种基于LSTM网络和Adam算法的天然气管道事件分类方法 |
| CN110427924A (zh) * | 2019-09-09 | 2019-11-08 | 桂林电子科技大学 | 一种基于lstm的心冲击信号自动多分类识别方法 |
| CN110955152A (zh) * | 2019-12-02 | 2020-04-03 | 杭州创匠信息科技有限公司 | 基于脑机接口的智能家居控制方法及系统 |
| CN111166328A (zh) * | 2020-01-06 | 2020-05-19 | 天津大学 | 基于多通道脑电数据和cnn-svm的癫痫脑电识别装置 |
| CN111436939A (zh) * | 2020-03-17 | 2020-07-24 | 佛山市台风网络科技有限公司 | 健康监测方法、系统、计算机设备及可读存储介质 |
| CN111897428A (zh) * | 2020-07-30 | 2020-11-06 | 太原科技大学 | 一种基于运动式脑机接口的手势识别方法 |
| CN111897428B (zh) * | 2020-07-30 | 2022-03-01 | 太原科技大学 | 一种基于运动式脑机接口的手势识别方法 |
| CN112149898A (zh) * | 2020-09-21 | 2020-12-29 | 广东电网有限责任公司清远供电局 | 故障率预测模型的训练、故障率预测方法及相关装置 |
| CN112149898B (zh) * | 2020-09-21 | 2023-10-31 | 广东电网有限责任公司清远供电局 | 故障率预测模型的训练、故障率预测方法及相关装置 |
| CN112183368A (zh) * | 2020-09-29 | 2021-01-05 | 国网四川省电力公司经济技术研究院 | 基于lstm的电力系统低频振荡模态特征的快速辨识方法 |
| CN112183368B (zh) * | 2020-09-29 | 2024-02-02 | 国网四川省电力公司经济技术研究院 | 基于lstm的电力系统低频振荡模态特征的快速辨识方法 |
| CN112466324A (zh) * | 2020-11-13 | 2021-03-09 | 上海听见信息科技有限公司 | 一种情绪分析方法、系统、设备及可读存储介质 |
| CN112765894B (zh) * | 2020-11-25 | 2023-05-05 | 北方工业大学 | 一种基于k-lstm的铝电解槽状态预测方法 |
| CN112765894A (zh) * | 2020-11-25 | 2021-05-07 | 北方工业大学 | 一种基于k-lstm的铝电解槽状态预测方法 |
| CN112667080B (zh) * | 2020-12-28 | 2023-05-23 | 西安电子科技大学 | 基于深度卷积对抗网络的脑电信号无人平台智能控制方法 |
| CN112667080A (zh) * | 2020-12-28 | 2021-04-16 | 西安电子科技大学 | 基于深度卷积对抗网络的脑电信号无人平台智能控制方法 |
| CN112890833A (zh) * | 2021-01-21 | 2021-06-04 | 河南省轻工业学校 | 一种基于鸽脑电信号对不同颜色刺激模式的预测方法 |
| CN113100785A (zh) * | 2021-04-14 | 2021-07-13 | 江南大学 | 一种基于凸合作博弈的脑电信号聚类方法 |
| CN113112017A (zh) * | 2021-04-16 | 2021-07-13 | 唐山市工人医院 | 基于神经流形的脑电分级与预后fpga解码系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109614885A (zh) | 一种基于lstm的脑电信号快速分类识别方法 | |
| Luo et al. | EEG-based emotion classification using spiking neural networks | |
| Liu et al. | Deep learning based on batch normalization for P300 signal detection | |
| CN106886792B (zh) | 一种基于分层机制构建多分类器融合模型的脑电情感识别方法 | |
| Rad et al. | Applying deep learning to stereotypical motor movement detection in autism spectrum disorders | |
| Wang et al. | Recognizing brain states using deep sparse recurrent neural network | |
| CN109820525A (zh) | 一种基于cnn-lstm深度学习模型的驾驶疲劳识别方法 | |
| Krishna et al. | An efficient mixture model approach in brain-machine interface systems for extracting the psychological status of mentally impaired persons using EEG signals | |
| CN111134666A (zh) | 一种多通道脑电数据的情绪识别方法及电子装置 | |
| Coyle et al. | Faster self-organizing fuzzy neural network training and a hyperparameter analysis for a brain–computer interface | |
| CN108304917A (zh) | 一种基于lstm网络的p300信号检测方法 | |
| CN113729707A (zh) | 一种基于fecnn-lstm的眼动和ppg多模态融合的情感识别方法 | |
| CN114052735B (zh) | 一种基于深度领域自适应的脑电情绪识别方法及系统 | |
| Castiblanco et al. | Myoelectric pattern recognition of hand motions for stroke rehabilitation | |
| CN111728590A (zh) | 基于动态功能连接的个体认知能力预测方法和系统 | |
| CN109063639A (zh) | 一种实时预测大脑行为的方法 | |
| Shao et al. | Single-channel SEMG using wavelet deep belief networks for upper limb motion recognition | |
| CN109948427A (zh) | 一种基于长短时记忆模型的意念识别方法 | |
| Li et al. | Emotion stimuli-based surface electromyography signal classification employing Markov transition field and deep neural networks | |
| Vallabhaneni et al. | Deep learning algorithms in eeg signal decoding application: a review | |
| Li et al. | Transfer learning-based muscle activity decoding scheme by low-frequency sEMG for wearable low-cost application | |
| Kanoga et al. | Subject transfer framework based on source selection and semi-supervised style transfer mapping for sEMG pattern recognition | |
| Hathaliya et al. | Parkinson and essential tremor classification to identify the patient’s risk based on tremor severity | |
| Wu et al. | Improving NeuCube spiking neural network for EEG-based pattern recognition using transfer learning | |
| Lv et al. | Cognitive computing for brain–computer interface-based computational social digital twins systems |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190412 |