CN105550705A - 一种基于改进自训练学习的脑电信号识别方法 - Google Patents

一种基于改进自训练学习的脑电信号识别方法 Download PDF

Info

Publication number
CN105550705A
CN105550705A CN201510922194.5A CN201510922194A CN105550705A CN 105550705 A CN105550705 A CN 105550705A CN 201510922194 A CN201510922194 A CN 201510922194A CN 105550705 A CN105550705 A CN 105550705A
Authority
CN
China
Prior art keywords
sample
unmarked
unmarked sample
marker samples
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510922194.5A
Other languages
English (en)
Other versions
CN105550705B (zh
Inventor
甘海涛
罗志增
范影乐
高发荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhu Digital Information Industrial Park Co ltd
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN201510922194.5A priority Critical patent/CN105550705B/zh
Publication of CN105550705A publication Critical patent/CN105550705A/zh
Application granted granted Critical
Publication of CN105550705B publication Critical patent/CN105550705B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种改进自训练半监督学习的脑电信号识别方法。首先对采集到的EEG信号进行预处理,利用半监督extreme?energy?ratio算法提取标记和未标记样本的特征向量,然后利用标记样本训练支持向量机(SVM),并对未标记样本进行预测,再选择具有高置信度的未标记样本及其对应的预测标签,加入标记样本集中,并相应地从未标记样本集中删除,依次循环迭代,最后完成对所有未标记样本的标注。本发明不仅大大减少了用户在使用BCI系统之前的训练时间,而且有效地提高了识别精度和鲁棒性。

Description

一种基于改进自训练学习的脑电信号识别方法
技术领域
本发明属于脑-机接口领域,涉及一种基于改进自训练学习的脑电信号识别方法。
背景技术
脑-机接口技术(BCI)作为一种新型的人机交互技术,通过采集人的大脑信号,经预处理、特征提取和模式识别等对大脑信号进行建模,生成控制指令,实现大脑对外部设备的控制。由于其在医学、军事、娱乐等领域具有广泛的应用前景,BCI已成为神经康复、信息科学等领域的研究热点。在现有基于EEG的BCI系统中,运动想象作为一种自发EEG,不需要肌肉和肢体的真实参与,想象运动也能产生同样的脑电节律调制现象,还可以实现异步通信等特点,目前已成为BCI领域研究的热点之一。
提高对运动想象模式的识别率是BCI系统的核心所在,要获得高性能的识别算法需要用户长时间的训练,以获取充足的标记样本。而长时间的训练给用户带来很大的工作量及精神负担,也给BCI系统使用带来了不便。为此如何减少用户的训练时间是BCI系统实际应用中面临的问题之一。李远清等人于2008年首次将半监督学习算法引入EEG信号识别中,用于识别右手/脚两类运动想象任务(数据集Iva),获得了良好的效果。半监督学习算法通常包含自训练学习算法、协同训练学习算法、基于图的学习算法、半监督支持向量机(TSVM)等,其中自训练学习算法由于其使用简便,已广泛应用于基于半监督学习算法的脑电信号识别中。龙锦益等人于2010年提出了一种结合特征提取的自训练学习算法,在自训练迭代过程中加入了参数选择(通道、波段),在两类运动想象任务识别中取得98.4%的识别率。朱向阳等人于2014年提出了一种结合特征提取的协同训练半监督分类算法,迭代更新共空间模式(CSP)特征和训练线性判别/贝叶斯判别两个分类器,在两类运动想象任务中获得了81.9%的识别率。但在自训练学习算法框架中,初始的标记样本通常较少,如果采用监督特征提取算法,将导致初始提取的特征性能较差,从而降低自训练学习算法的性能。而如果采用无监督特征提取算法,由于无监督特征提取算法没有很好地考虑样本的判别信息,不具有判别能力,也很难达到预期效果。
发明内容
本发明针对如何减少BCI系统对用户的训练时间,提出一种改进自训练学习的脑电信号识别方法。基本思路是首先利用半监督extremeenergyratio(EER)算法提取标记和未标记样本的特征向量,然后利用标记样本训练SVM分类器,识别未标记样本,选择具有高置信度的样本及其预测标签,加入标记样本集中,并相应地从未标记样本集中删除,依次循环迭代,最后完成对所有未标记样本的标注,并获得最终支持向量机(SVM)分类器。本方法能够更为有效而充分地挖掘未标记样本的信息,提高了BCI系统的识别性能和鲁棒性。
技术方案:一种基于改进自训练学习的脑电信号识别方法,包含以下步骤:
步骤一:输入标记和未标记EEG信号;
设有两类想象任务,标记样本分别为XA和XB,标签为yi∈{-1,1},样本数量分别为nA和nB,未标记样本为Xu,样本数量为u,Xi∈RN×T,Xi为单个的EEG信号,i={1,…,nA,…,nA+nB,…,nA+nB+u},其中N为通道数量,T为采样时间;
步骤二:对EEG信号进行预处理;
步骤三:利用半监督特征提取算法提取标记和未标记样本的特征向量;
步骤四:利用标记样本训练SVM分类器,对未标记样本进行预测;
步骤五:利用SVM的预测结果,选择高置信度的样本及其预测标签加入标记样本集中,并从对应的未标记样本集中删除;
步骤六:如果未标记样本全部已被标记,则可利用原标记样本和新增的标记样本训练SVM,对未知样本进行识别;如果未标记样本不为空,则返回步骤三。
与现有的基于半监督学习的脑电信号识别算法相比,本发明充分挖掘了未标记样本的信息,利用半监督EER算法提取特征向量,提高了系统识别率和鲁棒性。
附图说明
图1为本发明具体实施流程图;
具体实施方式
下面结合说明书附图进一步阐明本发明,应理解这些实施例仅用于说明本发明而不用于限制本发明的范围,在阅读了本发明之后,本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。
如图1所示,本发明的实施主要包含三个步骤:(1)采用半监督EER算法在标记和未标记样本上计算映射矩阵,提取特征向量;(2)利用标记样本训练SVM,对未标记样本进行预测;(3)利用SVM的预测结果,将高置信度的未标记样本及其预测标签加入标记样本集中,并从相应的未标记样本集中删除。
步骤1,输入标记和未标记EEG信号
设有两类想象任务,标记样本分别为XA和XB,标签为yi∈{-1,1},样本数量分别为nA和nB,未标记样本为Xu,样本数量为u,Xi∈RN×T,Xi为单个的EEG信号,i={1,…,nA,…,nA+nB,…,nA+nB+u},其中N为通道数量,T为采样时间;
步骤2,对EEG信号进行预处理;
步骤3,利用半监督EER算法提取标记和未标记样本的特征向量;
首先利用两类标记样本计算协方差矩阵:
C A = 1 n A Σ i n A X i A ( X i A ) ′ t r ( X i A ( X i A ) ′ ) - - - ( 1 )
C B = 1 n B Σ i n B X i B ( X i B ) ′ t r ( X i B ( X i B ) ′ ) - - - ( 2 )
然后,计算样本Xi的时域邻接矩阵Wi,其定义如下:
k、t为采样时刻,r为阈值;
依据邻接矩阵Wi计算样本Xi的Laplacian矩阵Li=Di-Wi,其中Di为对角阵, D i , k k = Σ k = 1 T W i , k t , .
计算未标记样本的正则项R
R = 1 u Σ i u X i u L i ( X i u ) ′ t r ( X i u L i ( X i u ) ′ ) - - - ( 4 )
最终可得到最优空域滤波器由((1-α)CB+αR)-1CA的前m个特征向量和((1-α)CA+αR)-1CB的前m个特征向量组成;α∈[0,1]
利用该空域滤波器对标记和未标记样本进行映射,提取Xi对应的特征向量xi
步骤4,利用标记样本训练SVM分类器,对未标记样本进行预测;
SVM通过最小化如下目标函数获得最优判别面:
m i n 1 2 w ′ w + C Σ i = 1 n A + n B ξ i
yi(<w,xi>+b)≥1-ξi
&xi; i &GreaterEqual; 0 , &ForAll; i = 1 , ... , n A + n B
(5)
C为惩罚因子,ξi为松弛变量,(w,b)为判别面;
求取最优判别面(w,b)后,可通过判决函数f(x)=sign(<w,x>+b)预测未标记样本的标签。
步骤5,利用SVM的预测结果,选择高置信度的样本及其预测标签加入标记样本集中,并从对应的未标记样本集中删除。
通过判别函数f(x)可得到未标记样本的标签,但还需要求出未标记样本属于各类的置信度,以便对未标记样本进行筛选。
未标记样本属于某一类的置信度(或可能性)可由未标记样本到判别面的距离确定,距离公式如下:
d i = | f ( x i ) | | | w | | - - - ( 6 )
距离di越大,未标记样本xi属于某一类的可能性越高,置信度也就越高,所以未标记样本xi的置信度输出为:
p ( x i ) = d i max ( d i ) - - - ( 7 )
在得到未标记样本的置信度后,选择前s个置信度最高的样本及其预测标签加入标记样本集中,并从未标记样本集中删除。
步骤6,如果未标记样本全部已被标记,则可利用原标记样本和新增的标记样本训练SVM,对未知样本进行识别;如果未标记样本不为空,则转至步骤3,依次迭代提取特征和更新分类器。

Claims (4)

1.一种改进自训练半监督学习的脑电信号识别方法,其特征在于,该方法包含以下步骤:
步骤一:输入标记和未标记EEG信号;
设有两类想象任务,标记样本分别为XA和XB,标签为yi∈{-1,1},样本数量分别为nA和nB,未标记样本为Xu,样本数量为u,Xi∈RN×T,Xi为单个的EEG信号,i={1,…,nA,…,nA+nB,…,nA+nB+u},其中N为通道数量,T为采样时间;
步骤二:对EEG信号进行预处理;
步骤三:利用半监督特征提取算法提取标记和未标记样本的特征向量;
步骤四:利用标记样本训练SVM分类器,对未标记样本进行预测;
步骤五:利用SVM的预测结果,选择高置信度的样本及其预测标签加入标记样本集中,并从对应的未标记样本集中删除;
步骤六:如果未标记样本全部已被标记,则可利用原标记样本和新增的标记样本训练SVM,对未知样本进行识别;如果未标记样本不为空,则返回步骤三。
2.根据权利要求1所述的一种改进自训练半监督学习的脑电信号识别方法,其特征在于:步骤三中,利用半监督特征提取算法提取标记和未标记样本的特征向量;具体如下:
首先利用两类标记样本计算协方差矩阵:
C A = 1 n A &Sigma; i n A X i A ( X i A ) &prime; t r ( X i A ( X i A ) &prime; ) - - - ( 1 )
C B = 1 n B &Sigma; i n B X i B ( X i B ) &prime; t r ( X i B ( X i B ) &prime; ) - - - ( 2 )
然后,计算样本Xi的时域邻接矩阵Wi,其定义如下:
k、t为采样时刻,r为阈值;
依据邻接矩阵Wi计算样本Xi的Laplacian矩阵Li=Di-Wi,其中Di为对角阵, D i , k k = &Sigma; k = 1 T W i , k t , ;
计算未标记样本的正则项R
R = 1 u &Sigma; i u X i u L i ( X i u ) &prime; t r ( X i u L i ( X i u ) &prime; ) - - - ( 4 )
最终可得到最优空域滤波器由((1-α)CB+αR)-1CA的前m个特征向量和((1-α)CA+αR)-1CB的前m个特征向量组成;α∈[0,1]
利用该空域滤波器对标记和未标记样本进行映射,提取Xi对应的特征向量xi
3.根据权利要求1所述的一种改进自训练半监督学习的脑电信号识别方法,其特征在于:步骤四中,利用标记样本训练SVM分类器,对未标记样本进行预测;具体如下:
SVM通过最小化如下目标函数获得最优判别面:
m i n 1 2 w &prime; w + C &Sigma; i = 1 n A + n B &xi; i
yi(<w,xi>+b)≥1-ξi(5)
&xi; i &GreaterEqual; 0 , &ForAll; i = 1 , ... , n A + n B
C为惩罚因子,ξi为松弛变量,(w,b)为判别面,其中w为变量系数,b为常量;
求取最优判别面(w,b)后,可通过判决函数f(x)=sign(<w,x>+b)预测未标记样本的标签。
4.根据权利要求1所述的一种改进自训练半监督学习的脑电信号识别方法,其特征在于:步骤五中,利用SVM的预测结果,选择高置信度的样本及其预测标签加入标记样本集中,并从对应的未标记样本集中删除;具体如下:
未标记样本属于某一类的置信度可由未标记样本到判别面的距离确定,距离公式如下:
d i = | f ( x i ) | | | w | | - - - ( 6 )
距离di越大,未标记样本xi属于某一类的可能性越高,置信度也就越高,所以未标记样本xi的置信度输出为:
p ( x i ) = d i max ( d i ) - - - ( 7 )
在得到未标记样本的置信度后,选择前s个置信度最高的样本及其预测标签加入标记样本集中,并从未标记样本集中删除。
CN201510922194.5A 2015-12-11 2015-12-11 一种基于改进自训练学习的脑电信号识别方法 Active CN105550705B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510922194.5A CN105550705B (zh) 2015-12-11 2015-12-11 一种基于改进自训练学习的脑电信号识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510922194.5A CN105550705B (zh) 2015-12-11 2015-12-11 一种基于改进自训练学习的脑电信号识别方法

Publications (2)

Publication Number Publication Date
CN105550705A true CN105550705A (zh) 2016-05-04
CN105550705B CN105550705B (zh) 2018-11-23

Family

ID=55829888

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510922194.5A Active CN105550705B (zh) 2015-12-11 2015-12-11 一种基于改进自训练学习的脑电信号识别方法

Country Status (1)

Country Link
CN (1) CN105550705B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106778865A (zh) * 2016-12-13 2017-05-31 重庆邮电大学 一种多域特征下的半监督脑电信号睡眠分期方法
CN108873705A (zh) * 2018-07-19 2018-11-23 杭州电子科技大学 一种基于非线性pid的hh神经元同步控制方法
CN109858511A (zh) * 2018-11-30 2019-06-07 杭州电子科技大学 基于协同表示的安全半监督超限学习机分类方法
CN111166326A (zh) * 2019-12-23 2020-05-19 杭州电子科技大学 基于自适应风险度的安全半监督学习的脑电信号识别方法
CN112587155A (zh) * 2020-12-12 2021-04-02 中山大学 一种基于自监督学习的脑电波图异常检测的方法及装置
CN113762346A (zh) * 2021-08-06 2021-12-07 广东工业大学 一种融合脑区因果特征的半监督自闭症识别方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050238209A1 (en) * 2004-04-21 2005-10-27 Fuji Xerox Co., Ltd. Image recognition apparatus, image extraction apparatus, image extraction method, and program
CN102063374A (zh) * 2011-01-07 2011-05-18 南京大学 一种使用半监督信息进行聚类的回归测试用例选择方法
CN103559401A (zh) * 2013-11-08 2014-02-05 渤海大学 基于半监督主元分析的故障监控方法
CN104392456A (zh) * 2014-12-09 2015-03-04 西安电子科技大学 基于深度自编码器和区域图的sar图像分割方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050238209A1 (en) * 2004-04-21 2005-10-27 Fuji Xerox Co., Ltd. Image recognition apparatus, image extraction apparatus, image extraction method, and program
CN102063374A (zh) * 2011-01-07 2011-05-18 南京大学 一种使用半监督信息进行聚类的回归测试用例选择方法
CN103559401A (zh) * 2013-11-08 2014-02-05 渤海大学 基于半监督主元分析的故障监控方法
CN104392456A (zh) * 2014-12-09 2015-03-04 西安电子科技大学 基于深度自编码器和区域图的sar图像分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
刘美春: "《基于运动想象的脑-机接口系统模式识别算法研究》", 《中国博士学位论文全文数据库 信息科技辑》 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106778865A (zh) * 2016-12-13 2017-05-31 重庆邮电大学 一种多域特征下的半监督脑电信号睡眠分期方法
CN106778865B (zh) * 2016-12-13 2019-10-01 重庆邮电大学 一种多域特征下的半监督脑电信号睡眠分期方法
CN108873705A (zh) * 2018-07-19 2018-11-23 杭州电子科技大学 一种基于非线性pid的hh神经元同步控制方法
CN109858511A (zh) * 2018-11-30 2019-06-07 杭州电子科技大学 基于协同表示的安全半监督超限学习机分类方法
CN111166326A (zh) * 2019-12-23 2020-05-19 杭州电子科技大学 基于自适应风险度的安全半监督学习的脑电信号识别方法
CN112587155A (zh) * 2020-12-12 2021-04-02 中山大学 一种基于自监督学习的脑电波图异常检测的方法及装置
CN113762346A (zh) * 2021-08-06 2021-12-07 广东工业大学 一种融合脑区因果特征的半监督自闭症识别方法及系统
CN113762346B (zh) * 2021-08-06 2023-11-03 广东工业大学 一种融合脑区因果特征的半监督自闭症识别方法及系统

Also Published As

Publication number Publication date
CN105550705B (zh) 2018-11-23

Similar Documents

Publication Publication Date Title
CN105550705A (zh) 一种基于改进自训练学习的脑电信号识别方法
Tao et al. An object detection system based on YOLO in traffic scene
CN102968626B (zh) 一种人脸图像匹配的方法
CN104143079B (zh) 人脸属性识别的方法和系统
CN109325443A (zh) 一种基于多实例多标签深度迁移学习的人脸属性识别方法
CN109902590A (zh) 深度多视图特征距离学习的行人重识别方法
CN102622610B (zh) 一种基于分类器集成的手写维文字符识别方法
CN104573630B (zh) 基于双支持向量机概率输出的多类脑电模式在线识别方法
CN102622590B (zh) 基于人脸-指纹协同的身份识别方法
CN105930864A (zh) 一种基于abc-svm的脑电信号特征分类方法
CN102609693A (zh) 基于模糊二维核主成分分析的人脸识别方法
CN104361313A (zh) 一种基于多核学习异构特征融合的手势识别方法
CN106548149A (zh) 监控视频序列中人脸微表情图像序列的识别方法
CN104156690B (zh) 一种基于图像空间金字塔特征包的手势识别方法
CN112379779B (zh) 一种基于迁移学习的动态手势识别虚拟交互系统
CN110472506A (zh) 一种基于支持向量机和神经网络优化的手势识别方法
CN103489000A (zh) 一种人体动作识别训练系统的实现方法
Zhong et al. Palmprint and dorsal hand vein dualmodal biometrics
CN108573241A (zh) 一种基于融合特征的视频行为识别方法
Chen et al. Patient emotion recognition in human computer interaction system based on machine learning method and interactive design theory
Hoque et al. Bdsl36: A dataset for bangladeshi sign letters recognition
Youme et al. Generalization of Bangla sign language recognition using angular loss functions
CN115187910A (zh) 视频分类模型训练方法、装置、电子设备及存储介质
CN113505719B (zh) 基于局部-整体联合知识蒸馏算法的步态识别模型压缩系统及方法
CN107423697A (zh) 基于非线性融合深度3d卷积描述子的行为识别方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20201111

Address after: 310012 room 2603, building 8, No. 2, xiyuanba Road, Sandun Town, Xihu District, Hangzhou City, Zhejiang Province

Patentee after: HANGZHOU ZHUILIE TECHNOLOGY Co.,Ltd.

Address before: Hangzhou City, Zhejiang province 310018 Xiasha Higher Education Park No. 2 street

Patentee before: HANGZHOU DIANZI University

TR01 Transfer of patent right
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20201202

Address after: 241100 8 / F, building 5, Wuhu TONGHANG Innovation Park, Wanbi Town, Wuhu City, Anhui Province

Patentee after: Wuhu Digital Information Industrial Park Co.,Ltd.

Address before: 310012 room 2603, building 8, No. 2, xiyuanba Road, Sandun Town, Xihu District, Hangzhou City, Zhejiang Province

Patentee before: HANGZHOU ZHUILIE TECHNOLOGY Co.,Ltd.

EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20160504

Assignee: ZHEJIANG QIPINTONG NETWORK TECHNOLOGY CO.,LTD.

Assignor: Wuhu Digital Information Industrial Park Co.,Ltd.

Contract record no.: X2021330000733

Denomination of invention: An EEG signal recognition method based on improved self training learning

Granted publication date: 20181123

License type: Common License

Record date: 20211109

EC01 Cancellation of recordation of patent licensing contract
EC01 Cancellation of recordation of patent licensing contract

Assignee: ZHEJIANG QIPINTONG NETWORK TECHNOLOGY CO.,LTD.

Assignor: Wuhu Digital Information Industrial Park Co.,Ltd.

Contract record no.: X2021330000733

Date of cancellation: 20240204