CN106529476A - 一种基于深层堆叠网络的脑电信号特征提取及分类方法 - Google Patents

Abstract

本发明公开了一种基于深层堆叠网络的脑电信号特征提取及分类方法，首先使用Emotiv脑电信号采集仪采集脑电信号数据；对脑电信号进行去均值、滤波、归一化等预处理；然后使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练，提取单个通道的脑电信号，将训练得到的参数用于神经网络的参数初始化；最后采用批量梯度下降的方法对网络进行微调，对各通道的脑电信号特征进行有效融合；对网络进行性能测试并实现分类。本发明能够获得较高的分类准确率。

Description

一种基于深层堆叠网络的脑电信号特征提取及分类方法

技术领域

本发明涉及脑电信号的特征提取及分类方法技术领域，特别是一种基于深层堆叠网络的脑电信号特征提取及分类方法。

背景技术

脑-机接口(BCI)是一种直接通过人脑与计算机或外部设备进行交流的人机交互方式。BCI技术为瘫痪病人提供了新的信息交流渠道，可以提高病人的生活质量，并在医疗领域、认知科学、心理学、军事领域、娱乐和可穿戴智能装备领域都具有巨大的实用价值。

脑电信号(EEG)的识别是BCI的关键技术，包括信号预处理、特征提取和特征分类3个环节。常用的脑电信号特征提取方法有自回归(AR)模型、小波变换、共同空间模式(CSP)等。常用的特征分类方法包括线性判别式分析(LDA)，人工神经网络(ANN)，支持向量机(SVM)等。脑电信号是一种复杂的非线性随机信号，并且具有高维多通道的特点，导致对其进行建模困难，而深度学习具有强大的处理非线性和高维数据的能力，能够自动从原始数据中提取有效信息，因此很多深度学习的方法也被应用到脑电信号的分析中，为脑-机接口中脑电信号的特征提取及识别提供了一种新的思路。

传统的监督学习需要采集大量有标记的EEG数据用来训练分类器，获得大量的有标记样本不仅需要耗费大量的人力物力资源，并且在数据处理的过程中很可能剔除掉一些隐含的有用信息，所以使用传统的特征提取方法所提取的特征不足以用于对脑电信号的识别过程进行很好的分析。无监督学习虽然使用未标记的EEG数据训练分类器，但是由于缺乏有标记EEG数据的信息，容易导致模型的泛化能力下降，从而使得分类准确率不高。

因此，需要一种基于深层堆叠网络的脑电信号特征提取及分类方法。

发明内容

本发明的目的是提出基于深层堆叠网络的脑电信号特征提取及分类方法；该方法能减小未标记样本的浪费和提高模型的泛化能力。

本发明的目的是通过以下技术方案来实现的：

本发明提供的基于深层堆叠网络的脑电信号特征提取及分类方法，包括以下步骤：

采集脑电信号数据；

对脑电信号进行预处理；

使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练，提取单个通道的脑电信号，将训练得到的参数用于神经网络的参数初始化；

采用批量梯度下降的方法对神经网络进行微调，对各通道的脑电信号特征进行有效融合；

对神经网络进行性能测试并实现分类。

进一步，所述脑电信号是通过使用Emotiv脑电信号采集仪来采集的，所述Emotiv脑电信号采集仪将采集到的脑电信号经过放大和滤波之后，通过无线USB接收器进行传输。

进一步，所述脑电信号的预处理，具体包括以下步骤：

脑电信号进行去均值：计算脑电信号的平均幅值，然后将每个脑电信号都减去平均幅值，去除脑电信号的直流成分；

带通滤波：对脑电信号进行8-30Hz的带通滤波；

归一化：对进行带通滤波后的脑电信号在[0,1]范围内进行归一化处理。

进一步，所述使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练，具体步骤如下：

建立伯努利-伯努利RBM对称网络；

将经过预处理后的大量未标记的单通道脑电信号作为各个RBM的输入；

对各个通道的脑电信号进行独立的无监督特征学习。

进一步，所述伯努利-伯努利RBM对称网络包括可视层和隐藏层；

所述可视层v∈{0,1}^m用于表示观测数据，所述隐藏层h∈{0,1}ⁿ用于表示特征提取器；

所述RBM对称网络的能量函数表示为：

其中，θ＝{w,b,a}是模型参数，w_ij是可视单元i与隐藏单元j之间的连接权重；b_i和a_j分别为可视层和隐藏层的偏置；参数θ通过对似然概率的最大似然估计求得，为归一化常数；

按照以下公式计算隐含层条件概率为：

按照以下公式计算可视层条件概率为：

σ(x)＝1/(1+exp(-x))为sigmoid函数。

进一步，所述RBM对称网络的训练采用基于对比散度的快速训练算法，具体步骤如下：

首先将脑电信号映射给隐含层，然后再由隐含层重构脑电信号；最后将重构信号映射到隐含层，重复循环执行直到完成神经网络的训练。

由于采用了上述技术方案，本发明具有如下的优点：

本发明将受限玻尔兹曼机的无监督特征学习与深层堆叠网络的有监督训练过程相结合，利用RBM的无监督训练得到的权值对神经网络进行初始化，可以减小因随机初始化造成的梯度弥散问题。由于预训练充分利用了未标记样本，减小了未标记样本的浪费，并且采用的是各通道脑电信号独立训练的方式，可以避免各通道间的相互影响，而微调阶段使用批量模式的梯度下降法，采用矩阵计算的形式，便于实现算法的并行运算，网络的输入为所有通道的脑电信号，可以将各通道的脑电信号特征进行有效的融合，有利于分类识别率的提高。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

本发明的附图说明如下。

图1为基于深层堆叠网络的脑电信号特征提取及识别方法流程图。

图2为脑电信号半监督学习过程示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步说明。

如图所示，本实施例提供的基于深层堆叠网络的脑电信号特征提取及分类方法，包括以下步骤：

(1)采集脑电信号数据，脑电信号采集装置采用的是Emotiv脑电信号采集仪。Emotiv总共包含16个电极，其中CMS和DRL为两个参考电极，电极根据国际10-20标准电极安放法安放。信号的采样频率为128Hz，采集到的脑电信号经过放大和滤波之后，通过无线USB接收器传输到计算机上。实验在一个相对安静的环境下进行，实验开始时(t＝0s)，受试者静坐在椅子上，保持放松状态；t＝2s时，受试者根据电脑屏幕上的提示开始进行相应的想象左手或右手运动的实验任务；当t＝4s时，停止想象任务。每个受试者对每类想象任务完成后，稍作休息再重复以上试验。

(2)对原始数据进行预处理，由于脑电信号信噪比很低，一般包含了很多背景噪声，如工频杂波、眼电、心电、肌电等信号伪迹，为了降低背景噪声，提高信噪比，需要对原始数据进行预处理，包括去均值、带通滤波、归一化。将每个样本的幅值都减去其平均幅值，这样可以使脑电信号的均值为零，去除信号的直流成分，便于对其过程进行分析。由于想象左右手运动时发生的事件相关同步/去同步现象在主要表现在mu节律(8～13Hz)和beta节律(14～30Hz)上，因此对脑电信号进行8～30Hz的带通滤波。对于伯努利-伯努利RBM，只有当输入样本的值在[0,1]范围时，伯努利分布才有意义，于是对原始数据进行归一化处理。

(3)采用多个RBM对各个通道的脑电信号进行独立预训练，对单个通道的脑电信号进行特征提取。参见图2，将经过步骤102预处理后的大量未标记的单通道脑电信号作为各个RBM的输入，对各个通道的脑电信号进行独立的无监督特征学习。RBM是具有两层结构的对称网络，可视层v∈{0,1}^m表示观测数据，隐藏层h∈{0,1}ⁿ可视为一些特征提取器。RBM的能量函数表示为

其中θ＝{w,b,a}是模型参数，w_ij是可视单元i与隐藏单元j之间的连接权重；b_i和a_j分别为可视层和隐藏层的偏置。参数θ通过对似然概率的最大似然估计求得，被称为归一化常数。

由于同层节点之间相互独立，可求得模型的隐含层条件概率为可视层条件概率为σ(x)＝1/(1+exp(-x))为sigmoid函数。

RBM的训练采用基于对比散度(CD)的快速训练算法，通过将原始脑电信号映射给隐含层，由隐含层重构脑电信号，再将重构信号映射到隐含层，反复执行这一过程来完成对网络参数的预训练。

对RBM的具体训练步骤如下：

1)初始化可视单元的状态为v₁＝x，x＝[x₁,x₂,...,x_N]^T为经过步骤102预处理之后的脑电信号数据，N为样本数目，W、a、b为随机的较小数值；

2)在可视层状态已知的情况下，根据隐含层的条件概率计算隐藏单元的状态分布，从条件分布P(h₁|v₁)中抽取h_1j∈{0,1}；

3)由隐含层的状态根据可视层的条件概率计算可视单元的状态分布，从条件分布P(v₂|h₁)中抽取v_2i∈{0,1}；

4)计算隐藏单元的状态分布

5)根据重构前后可视层和隐含层的状态对参数进行更新，各个参数的更新公式如下：

其中α为学习率，P_data表示原始输入数据的分布，P_recon表示一步重构后模型定义的一个分布。

(4)RBM的预训练完成之后，将所有RBM的可视层在神经网络的输入层进行堆叠，并将学习到的参数用来初始化神经网络的输入权值。假设选取的通道数为n，每个通道采样点数为m，则每个RBM的样本包含m维特征，而有监督训练的输入样本则包含n*m维特征。若每个RBM学习到的参数为W_i(i＝1,2,...,n)，则初始化后的网络输入权值为W＝[W₁,...,W_i,...,W_n]。然后将少量带标签的包含所有通道脑电信号的数据作为该初始化网络的输入，采用深层堆叠网络的监督训练方式对网络进行微调，对各个通道脑电信号的特征进行有效的融合，使用矩阵计算的形式，便于实现算法的并行运算。

网络微调的目标是使实际输出Y与目标输出T之间的均方误差最小：

即最小化E＝Tr[(Y-T)(Y-T)^T]，其中T_r表示求矩阵的迹。

输出权值矩阵U的梯度可表示为令这个梯度为0，由于这是一个凸优化问题，所以可以直接得到U的一个闭合形式的解

U＝(HH^T)^-1HT^T (5)

U的确定与W的取值有关，因为H需要通过W来计算。微调的实质是利用W和U之间的结构关系，如式(5)，计算输入权值矩阵W的梯度。将上式带入W的梯度计算公式可以得到W的梯度

其中о表示内积运算，HH^T和(HH^T)^-1均为对称矩阵。输入权值W根据式(6)来进行更新，而输出权值U的更新则不需要迭代，直接根据式(5)便可计算得到。

(5)模型训练完成之后，将测试数据放入模型，利用已学习参数进行学习特征测试，最后根据各个特征进行判别分析，实现对脑电信号的分类。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的保护范围当中。

Claims (6)

1.一种基于深层堆叠网络的脑电信号特征提取及分类方法，其特征在于：包括以下步骤：

采集脑电信号数据；

对脑电信号进行预处理；

使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练，提取单个通道的脑电信号，将训练得到的参数用于神经网络的参数初始化；

采用批量梯度下降的方法对神经网络进行微调，对各通道的脑电信号特征进行有效融合；

对神经网络进行性能测试并实现分类。

2.如权利要求1所述的基于深层堆叠网络的脑电信号特征提取及分类方法，其特征在于：所述脑电信号是通过使用Emotiv脑电信号采集仪来采集的，所述Emotiv脑电信号采集仪将采集到的脑电信号经过放大和滤波之后，通过无线USB接收器进行传输。

3.如权利要求1所述的基于深层堆叠网络的脑电信号特征提取及分类方法，其特征在于：所述脑电信号的预处理，具体包括以下步骤：

脑电信号进行去均值：计算脑电信号的平均幅值，然后将每个脑电信号都减去平均幅值，去除脑电信号的直流成分；

带通滤波：对脑电信号进行8-30Hz的带通滤波；

归一化：对进行带通滤波后的脑电信号在[0,1]范围内进行归一化处理。

4.如权利要求1所述的基于深层堆叠网络的脑电信号特征提取及分类方法，其特征在于：所述使用多个受限玻尔兹曼机对单通道的脑电信号进行独立预训练，具体步骤如下：

建立伯努利-伯努利RBM对称网络；

将经过预处理后的大量未标记的单通道脑电信号作为各个RBM的输入；

对各个通道的脑电信号进行独立的无监督特征学习。

5.如权利要求1所述的基于深层堆叠网络的脑电信号特征提取及分类方法，其特征在于：所述伯努利-伯努利RBM对称网络包括可视层和隐藏层；

所述可视层v∈{0,1}^m用于表示观测数据，所述隐藏层h∈{0,1}ⁿ用于表示特征提取器；

所述RBM对称网络的能量函数表示为：

$\begin{array}{c}E(v,h;\mathrm{\θ})=-v^{T}wh-b^{T}v-a^{T}h\\ =-\underset{i=1}{\overset{m}{\Σ}}\underset{j=1}{\overset{n}{\Σ}}{w}_{ij}{v}_i{h}_j-\underset{i=1}{\overset{m}{\Σ}}{b}_i{v}_i-\underset{j=1}{\overset{n}{\Σ}}{a}_j{h}_j\end{array};$

其中，θ＝{w,b,a}是模型参数，w_ij是可视单元i与隐藏单元j之间的连接权重；b_i和a_j分别为可视层和隐藏层的偏置；参数θ通过对似然概率的最大似然估计求得，为归一化常数；

按照以下公式计算隐含层条件概率为：

$p(h_j=1|v;\mathrm{\θ})=\mathrm{\σ}(\underset{i}{\mathrm{\Σ}}{w}_{ij}{v}_i+a_j),$

按照以下公式计算可视层条件概率为：

$p(v_i=1|h;\mathrm{\θ})=\mathrm{\σ}(\underset{j}{\mathrm{\Σ}}{w}_{ij}{h}_j+b_i);$

σ(x)＝1/(1+exp(-x))为sigmoid函数。

6.如权利要求1所述的基于深层堆叠网络的脑电信号特征提取及分类方法，其特征在于：所述RBM对称网络的训练采用基于对比散度的快速训练算法，具体步骤如下：

首先将脑电信号映射给隐含层，然后再由隐含层重构脑电信号；最后将重构信号映射到隐含层，重复循环执行直到完成神经网络的训练。