CN104361345A - 基于约束极速学习机的脑电信号分类方法 - Google Patents
基于约束极速学习机的脑电信号分类方法 Download PDFInfo
- Publication number
- CN104361345A CN104361345A CN201410529244.9A CN201410529244A CN104361345A CN 104361345 A CN104361345 A CN 104361345A CN 201410529244 A CN201410529244 A CN 201410529244A CN 104361345 A CN104361345 A CN 104361345A
- Authority
- CN
- China
- Prior art keywords
- testfeature
- dimension
- trainfeature
- vector
- classification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明涉及一种基于约束极速学习机的脑电信号分类方法,包括采用固定的滑动时间窗将原始运动想象脑电信号平均分为S段子信号;对每一段子信号通过主成分分析方法进行降维;对降维后的特征向量通过线性判别分析方法再次降维,对于K种类别的脑电数据,得到K-1维的特征向量;对每一段子信号进行处理,得到S个K-1维的特征向量,组合后得到S*(K-1)维的特征;将S*(K-1)维特征送入约束极速学习机(CELM)进行分类。本发明应用CELM通过改变输入层节点与隐层节点之间的权重的选取方式,限制权重参数的随机性,从而既能提高运动想象脑电信号的分类准确率,又能保持ELM训练速度快的优势。
Description
技术领域
本发明属于模式识别领域,涉及一种基于约束极速学习机的脑电信号分类方法。
背景技术
脑机接口(Brain Computer Interface,BCI)可以让用户使用大脑内的活动而不是外部的肌肉与神经控制电脑或外部的设备。近几十年来,随着信号处理和机器学习等技术研究的发展,BCI研究逐渐成为热点。BCI技术不仅为脑疾病患者提供一种新的诊断方式,更重要的是实现一种人与外界通讯的新途径。运动想象脑电信号在BCI领域很常见,通过采集分析人们在想象身体某个部位运动或进行某种思维活动时的脑电信号,识别人们大脑的状态,进而控制外界装置。
在BCI研究中,对反应大脑不同思维状态的脑电信号进行识别是研究过程中的一个重要环节。寻求有效的特征提取方法和分类方法是提高识别准确率的关键。常用的脑电特征有频带能量,功率谱密度,自回归参数,自适应自回归参数等等。常用的脑电信号分类方法有支持向量机法,最近邻法,贝叶斯法,人工神经网络法等等。
在BCI系统中,脑电信号尤其是实时脑电信号要求较短的处理时间。一些分类算法只考虑到了较高的准确率忽略了处理耗时。因此,为适用于脑电信号的分类,应寻找一种算法达到高分类准确率与低处理耗时的平衡非常重要。
Huang提出的基于单隐层前馈神经网络(Single-hidden Layer Feed forward Neural Network,SLFN)的极速学习机(Extreme Learning Machine,ELM)方法,其训练速度与BP神经网络以及支持向量机(SVM)相比有明显提升。但ELM完全随机地选择输入层节点与隐层节点之间的权重,这种随机性会降低了应用ELM对脑电信号进行分类的正确率。Zhu提出了一种改进ELM的方法称为约束极速学习机(Constrained Extreme Learning Machine,CELM),约束了ELM的随机性。在CELM中,输入层节点与隐层节点之间的权重随机地从相邻两类样本的差分向量中选择,而不是从完全任意的向量中选择,权重选择的随机性受到了限制,而且仍然保持了ELM比一般分类方法训练速度快的特性。因此,如果将CELM应用于脑电信号分类,既可以保持ELM的分类方法训练速度快的优点,又能提高分类的准确率。
发明内容
针对现有技术中存在的上述问题,本发明采用改进的ELM即CELM对运动想象任务的脑电信号进行分类,提高其分类的准确率。
CELM的输入层节点与隐层节点之间的权重随机地从相邻两类样本的差分向量(差分向量的示意图如附图2所示)中选择,而不是像ELM那样从完全任意的向量中选择。ELM中,完全任意的向量选取出的参数会产生更多的隐层节点以满足算法的泛化能力要求。更多的隐层节点会消耗更多的处理时间,占用更多的计算资源,容易导致过拟合。为避免上面的问题,本发明中采用CELM的方法对运动想象脑电信号进行分类。
本发明所述方法包括以下步骤:
步骤1,对脑电信号进行特征提取,得到脑电信号的特征。
步骤1.1,采用固定的滑动时间窗将原始运动想象脑电信号分为S段子信号。S的取值取决于滑动时间窗的长度与原始脑电信号的长度。
步骤1.2,对步骤1.1所得到的每一段子信号通过主成分分析(Principal Component Analysis,PCA)方法进行降维,得到降维后的特征向量。
步骤1.3,将步骤1.2中得到的特征向量通过线性判别分析(Liner Discriminate Analysis,LDA)方法再次降维,对于K种类别的脑电数据,得到K-1维的特征向量。
步骤1.4,对每一段子信号均按照步骤1.2和步骤1.3进行处理,得到S个K-1维的特征向量,将这S个K-1维的特征向量进行组合,得到最终为S*(K-1)维的特征。
步骤2,将步骤1.4所得到的S*(K-1)维特征送入CELM进行分类,得到最终分类结果。
与现有技术相比,本发明的方法具有以下优点:
传统的ELM方法的输入层节点与隐层节点之间的权重是从完全随机任意的向量中选取的,会产生更多的隐层节点,降低分类识别率。本发明应用CELM通过改变输入层节点与隐层节点之间的权重的选取方式,限制权重参数的随机性,从而既能提高运动想象脑电信号的分类准确率,又能保持ELM训练速度快的优势。实验表明,应用本发明所述方法分类结果的正确率是92.78%,优于现有其它方法。同样特征的情况下,采用SVM和ELM的平均正确率分别为92.15%和89.04%。
附图说明
图1本发明所涉及方法的主流程图;
图2为CELM中差分向量的示意图:(a)为随机样本产生差分向量,(b)为完全随机向量,(c)为差分向量;
图3为CELM方法流程图。
具体实施方式
下面结合附图和实施实例对本发明做进一步的详细描述。
假设有一组训练数据集TrainData和一组测试数据集TestData,TrainData的样本量为N,维度为D;TestData的样本量为M,维度同样为D。其中TrainData与TestData中样本属于K个类别。
图1是本发明所涉及方法的主流程图,具体包括以下步骤:
步骤一,采用固定时间窗把TrainData和TestData均分成S段脑电子信号。TrainDatai代表训练数据集中第i段子信号,每段子信号的维度为Di(i=1,2,…,S)。TestDatai代表测试数据集中第i段子信号,每段子信号的维度为Di(i=1,2,…,S)。因为采用固定时间窗,窗口大小是固定的,所以D1=D2=…=Di。
步骤二,对步骤一所得到的每一段子信号TrainDatai和TestDatai通过主成分分析方法进行降维。将特征值从大到小进行排序后,再根据累计贡献率,只保留前m个最大特征值对应的特征向量组合MPCA=[Φ1,Φ2,...,Φm]作为投影空间向量。将TrainDatai和TestDatai同时投影到MPCA上,可得到PCA降维后的训练数据Traini和测试数据Testi:
Traini=TrainDatai·MPCA
Testi=TestDatai·MPCA
步骤三,对步骤二中得到的特征向量通过LDA方法进行二次降维,具体方法如下:
(1)根据LDA准则,利用Traini中不同类别样本的类间离散度矩阵以及同一类别样本的类内离散度矩阵计算出LDA的投影空间向量w*。
(2)把Traini与Testi投影到w*上,得到第i段脑电子信号的特征:
TrainFeaturei=Traini·w*
TestFeaturei=Testi·w*
步骤四,计算出所有的TrainFeaturei与TestFeaturei,并进行组合,得到最终的特征TrainFeature与TestFeature:
TrainFeature={TrainFeature1,TrainFeature2,…,TrainFeaturex}
TestFeature={TestFeature1,TestFeature2,…,TestFeaturex}
步骤五,用步骤四所得到的特征TrainFeature训练CELM分类器模型,将TestFeature送入训练好的模型进行分类。流程图如图3所示,具体方法如下:
(1)给定隐层节点个数L和激励函数g(x)。随机产生输入权值ai和偏置值bi。xi代表输入的第i个训练样本,yi代表xi对应的标签。因为送入分类器的是已经提取好的特征,故在本发明中,xi实际上代表TestFeaturei。
(2)从TrainFeature的两个不同类c1和c2中分别随机取两个样本和计算差分向量
(3)如果足够小,则从差分向量中删除继续执行步骤(2);如果与差分向量里面已有的向量平行,则从差分向量中删除继续执行步骤(2)。
(4)计算标准化差分向量计算对应的偏置
(5)用向量w和偏置b构造权重矩阵Wn×L和偏置向量b1×L。
(6)如果差分向量的个数小于L个,重复执行步骤(2)~(5)。
(7)计算隐含层的输出矩阵:
式中,G(ai,bi,x)=g(x·ai+bi)。
(8)通过最小二乘法计算隐层节点的输出权重矩阵βL×M:
βL×M=H+Y
式中,H+是广义逆矩阵,
(9)通过训练分类器模型,将TestFeature送入分类器进行分类,得到一组预测标签。预测标签与真实标签进行比较求出分类正确率。
(10)重复步骤(1)~(9)Z次,Z一般不小于50,计算出Z次的平均分类正确率作为最终的分类正确率。
本实施例选择BCI2003Ia标准数据集作为实验数据,该数据集是两类分类的运动想象脑电数据,分类结果的正确率是92.78%。本发明实施例的正确率比采用现有方法应用该数据的分类正确率都要高。并且同样特征的情况下,分类效果优于SVM的92.15%和ELM平均结果89.04%。
本发明将一种改进的极速学习机方法—CELM应用到运动想象脑电的分类中。该方法限制了ELM中参数选择的随机性,与传统的ELM方法相比提高了分类正确率同时保持了ELM方法训练时间快的优势。对于多类分类的脑电数据,可将其先转化为两类分类,继续使用本发明所使用的方法。
Claims (2)
1.基于约束极速学习机的脑电信号分类方法,包括:
步骤1,对脑电信号进行特征提取,得到脑电信号的特征;
处理对象为一组训练数据集TrainData和一组测试数据集TestData,TrainData的样本量为N,维度为D;TestData的样本量为M,维度同样为D;其中TrainData与TestData中样本属于K个类别;
步骤1.1,采用固定时间窗把TrainData和TestData均分成S段脑电子信号;TrainDatai代表训练数据集中第i段子信号,每段子信号的维度为Di,i=1,2,…,S;TestDatai代表测试数据集中第i段子信号,每段子信号的维度为Di,i=1,2,…,S,D1=D2=…=Di=W;
步骤1.2,对步骤1.1所得到的每一段子信号TrainDatai和TestDatai通过主成分分析方法进行降维;将特征值从大到小进行排序后,再根据累计贡献率,只保留前m个最大特征值对应的特征向量组合MPCA=[Φ1,Φ2,...,Φm]作为投影空间向量;将TrainDatai和TestDatai同时投影到MPCA上,可得到PCA降维后的训练数据Traini和测试数据Testi;
步骤1.3,对步骤1.2中得到的特征向量通过线性判别分析LDA方法进行二次降维:
根据LDA准则,利用Traini中不同类别样本的类间离散度矩阵以及同一类别样本的类内离散度矩阵计算出LDA的投影空间向量w*;
把Traini与Testi投影到w*上,得到第i段脑电子信号的特征:
TrainFeaturei=Traini·w*
TestFeaturei=Testi·w*
步骤1.4,对每一段子信号均按照步骤1.2和步骤1.3进行处理,计算出所有的TrainFeaturei与TestFeaturei,进行组合后得到最终的特征TrainFeature与TestFeature:
TrainFeature={TrainFeature1,TrainFeature2,…,TrainFeaturex}
TestFeature={TestFeature1,TestFeature2,…,TestFeaturex}
其特征在于还包括:
步骤2,用所述步骤1.4得到的特征TrainFeature训练约束极速学习机分类器模型,将TestFeature送入训练好的模型进行分类。
2.根据权利要求1所述的应用约束极速学习机对脑电信号进行分类的方法,其特征在于,所述步骤2进行分类的方法还包括以下步骤:
步骤2.1,给定隐层节点个数L和激励函数g(x);随机产生输入权值ai和偏置值bi;xi代表输入的第i个训练样本,即TestFeaturei,yi代表xi对应的标签;
步骤2.2,从TrainFeature的两个不同类c1和c2中分别随机取两个样本和,计算差分向量
步骤2.3,如果足够小,则从差分向量中删除继续执行步骤2.2;如果与差分向量里面已有的向量平行,则从差分向量中删除继续执行步骤2.2;
步骤2.4,计算标准化差分向量w和对应的偏置b:
步骤2.5,用向量w和偏置b构造权重矩阵Wn×L和偏置向量b1×L;
步骤2.6,如果差分向量的个数小于L个,重复执行步骤2.2~2.5;
步骤2.7,计算隐含层的输出矩阵:
式中,G(ai,bi,x)=g(x·ai+bi);
步骤2.8,通过最小二乘法计算隐层节点的输出权重矩阵βL×M:
βL×M=H+Y
式中,H+是广义逆矩阵,
步骤2.9,通过训练分类器模型,将TestFeature送入分类器进行分类,得到一组预测标签;预测标签与真实标签进行比较求出分类正确率;
步骤2.10,重复步骤2.1~2.9Z次,Z不小于50,计算出Z次的平均分类正确率作为最终的分类正确率。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410529244.9A CN104361345A (zh) | 2014-10-10 | 2014-10-10 | 基于约束极速学习机的脑电信号分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410529244.9A CN104361345A (zh) | 2014-10-10 | 2014-10-10 | 基于约束极速学习机的脑电信号分类方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104361345A true CN104361345A (zh) | 2015-02-18 |
Family
ID=52528603
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410529244.9A Pending CN104361345A (zh) | 2014-10-10 | 2014-10-10 | 基于约束极速学习机的脑电信号分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104361345A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104794505A (zh) * | 2015-04-28 | 2015-07-22 | 上海大学 | 一种多通道的脑电信号数据融合降维方法 |
CN104799852A (zh) * | 2015-05-19 | 2015-07-29 | 北京工业大学 | 基于超限学习机自编码的运动想象脑电信号特征的提取方法 |
CN104951797A (zh) * | 2015-06-09 | 2015-09-30 | 福州大学 | 一种基于ar系数空间的elm运动想象脑电分类方法 |
CN105852885A (zh) * | 2016-03-23 | 2016-08-17 | 陕西师范大学 | 基于改进超限学习机的n400诱发电位测谎方法 |
CN106485205A (zh) * | 2016-09-20 | 2017-03-08 | 北京工业大学 | 基于多层超限学习机的运动想象脑电信号分类方法 |
CN106503616A (zh) * | 2016-09-20 | 2017-03-15 | 北京工业大学 | 一种基于分层超限学习机的运动想象脑电信号分类方法 |
CN106951844A (zh) * | 2017-03-10 | 2017-07-14 | 中国矿业大学 | 一种基于深度极速学习机的脑电信号分类方法及系统 |
CN108537100A (zh) * | 2017-11-17 | 2018-09-14 | 吉林大学 | 一种基于pca和lda分析的心电信号身份识别方法及系统 |
CN109643579A (zh) * | 2017-07-03 | 2019-04-16 | 深圳市汇顶科技股份有限公司 | 质量评估方法及装置、模型建立方法及模块、穿戴设备 |
CN109977810A (zh) * | 2019-03-12 | 2019-07-05 | 北京工业大学 | 基于helm并结合ptsne和lda特征融合的脑电分类方法 |
CN111738073A (zh) * | 2020-05-16 | 2020-10-02 | 北京信息科技大学 | 一种光纤信号识别的系统和方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102499676A (zh) * | 2011-11-03 | 2012-06-20 | 北京工业大学 | 基于有效时间序列和电极重组的脑电信号分类系统和方法 |
CN103345640A (zh) * | 2013-07-02 | 2013-10-09 | 北京工业大学 | 一种面向持续想象脑电信号的分类方法 |
CN103413050A (zh) * | 2013-08-20 | 2013-11-27 | 北京工业大学 | 基于极速学习机的运动想象脑电信号投票策略分类方法 |
-
2014
- 2014-10-10 CN CN201410529244.9A patent/CN104361345A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102499676A (zh) * | 2011-11-03 | 2012-06-20 | 北京工业大学 | 基于有效时间序列和电极重组的脑电信号分类系统和方法 |
CN103345640A (zh) * | 2013-07-02 | 2013-10-09 | 北京工业大学 | 一种面向持续想象脑电信号的分类方法 |
CN103413050A (zh) * | 2013-08-20 | 2013-11-27 | 北京工业大学 | 基于极速学习机的运动想象脑电信号投票策略分类方法 |
Non-Patent Citations (3)
Title |
---|
LIJUAN DUAN ET AL.: ""A Voting Optimized Strategy Based on ELM for Improving Classification of Motor Imagery BCI Data"", 《COGNITIVE COMPUTATION》 * |
WENTAO ZHU ET AL.: ""Constrained Extreme Learning Machine:A novel highly discriminative random feedforward neural network"", 《2014 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS》 * |
张俊伟 等: ""小波变换在运动想象脑电分类中的应用"", 《现代电子技术》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104794505A (zh) * | 2015-04-28 | 2015-07-22 | 上海大学 | 一种多通道的脑电信号数据融合降维方法 |
CN104799852A (zh) * | 2015-05-19 | 2015-07-29 | 北京工业大学 | 基于超限学习机自编码的运动想象脑电信号特征的提取方法 |
CN104951797A (zh) * | 2015-06-09 | 2015-09-30 | 福州大学 | 一种基于ar系数空间的elm运动想象脑电分类方法 |
CN104951797B (zh) * | 2015-06-09 | 2018-07-17 | 福州大学 | 一种基于ar系数空间的elm运动想象脑电分类方法 |
CN105852885B (zh) * | 2016-03-23 | 2018-08-24 | 陕西师范大学 | 基于改进超限学习机的n400诱发电位测谎方法 |
CN105852885A (zh) * | 2016-03-23 | 2016-08-17 | 陕西师范大学 | 基于改进超限学习机的n400诱发电位测谎方法 |
CN106485205A (zh) * | 2016-09-20 | 2017-03-08 | 北京工业大学 | 基于多层超限学习机的运动想象脑电信号分类方法 |
CN106503616A (zh) * | 2016-09-20 | 2017-03-15 | 北京工业大学 | 一种基于分层超限学习机的运动想象脑电信号分类方法 |
CN106951844A (zh) * | 2017-03-10 | 2017-07-14 | 中国矿业大学 | 一种基于深度极速学习机的脑电信号分类方法及系统 |
CN109643579A (zh) * | 2017-07-03 | 2019-04-16 | 深圳市汇顶科技股份有限公司 | 质量评估方法及装置、模型建立方法及模块、穿戴设备 |
CN109643579B (zh) * | 2017-07-03 | 2023-08-11 | 深圳市汇顶科技股份有限公司 | 质量评估方法及装置、模型建立方法及模块、穿戴设备 |
CN108537100A (zh) * | 2017-11-17 | 2018-09-14 | 吉林大学 | 一种基于pca和lda分析的心电信号身份识别方法及系统 |
CN109977810A (zh) * | 2019-03-12 | 2019-07-05 | 北京工业大学 | 基于helm并结合ptsne和lda特征融合的脑电分类方法 |
CN109977810B (zh) * | 2019-03-12 | 2021-03-02 | 北京工业大学 | 基于helm并结合ptsne和lda特征融合的脑电分类方法 |
CN111738073A (zh) * | 2020-05-16 | 2020-10-02 | 北京信息科技大学 | 一种光纤信号识别的系统和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104361345A (zh) | 基于约束极速学习机的脑电信号分类方法 | |
US20210104021A1 (en) | Method and apparatus for processing image noise | |
Nti et al. | Performance of machine learning algorithms with different K values in K-fold cross-validation | |
CN106779087B (zh) | 一种通用机器学习数据分析平台 | |
Khafaga et al. | Novel Optimized Feature Selection Using Metaheuristics Applied to Physical Benchmark Datasets. | |
Zhang et al. | Multi-person brain activity recognition via comprehensive EEG signal analysis | |
CN103413050B (zh) | 基于极速学习机的运动想象脑电信号投票策略分类方法 | |
CN104573630B (zh) | 基于双支持向量机概率输出的多类脑电模式在线识别方法 | |
US11164565B2 (en) | Unsupervised learning system and method for performing weighting for improvement in speech recognition performance and recording medium for performing the method | |
Ruan et al. | Developing fast predictors for large-scale time series using fuzzy granular support vector machines | |
CN106485205A (zh) | 基于多层超限学习机的运动想象脑电信号分类方法 | |
CN104834940A (zh) | 一种基于支持向量机的医疗影像检查疾病分类方法 | |
CN106503616A (zh) | 一种基于分层超限学习机的运动想象脑电信号分类方法 | |
CN102156871A (zh) | 基于类别相关的码本和分类器投票策略的图像分类方法 | |
CN112800998A (zh) | 融合注意力机制和dmcca的多模态情感识别方法及系统 | |
Zhou et al. | Data preprocessing strategy in constructing convolutional neural network classifier based on constrained particle swarm optimization with fuzzy penalty function | |
CN114578967B (zh) | 一种基于脑电信号的情感识别方法及系统 | |
Al Zorgani et al. | Comparative study of image classification using machine learning algorithms | |
CN107423697A (zh) | 基于非线性融合深度3d卷积描述子的行为识别方法 | |
Gill et al. | Human Action Detection using EfficientNetB3 Model | |
Nikolaidis et al. | Learning from higher-layer feature visualizations | |
Moustakidis et al. | Feature selection based on a fuzzy complementary criterion: application to gait recognition using ground reaction forces | |
Xu et al. | Research on context-aware group recommendation based on deep learning | |
Shtino et al. | Comparative Study of K-NN, Naive Bayes and SVM for Face Expression Classification Techniques | |
Cai et al. | ACF: An Adaptive Compression Framework for Multimodal Network in Embedded Devices |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20150218 |