CN103488297B - 一种基于脑机接口的在线半监督文字输入系统及方法 - Google Patents

一种基于脑机接口的在线半监督文字输入系统及方法 Download PDF

Info

Publication number
CN103488297B
CN103488297B CN201310461601.8A CN201310461601A CN103488297B CN 103488297 B CN103488297 B CN 103488297B CN 201310461601 A CN201310461601 A CN 201310461601A CN 103488297 B CN103488297 B CN 103488297B
Authority
CN
China
Prior art keywords
character
machine classifier
vector machine
support vector
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310461601.8A
Other languages
English (en)
Other versions
CN103488297A (zh
Inventor
顾正晖
张锦涛
俞祝良
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201310461601.8A priority Critical patent/CN103488297B/zh
Publication of CN103488297A publication Critical patent/CN103488297A/zh
Application granted granted Critical
Publication of CN103488297B publication Critical patent/CN103488297B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于脑机接口的在线半监督文字输入系统及方法,该系统包括脑电信号采集系统,用于采集用户脑电信号,并对采集到的脑电信号进行处理;信号处理模块,用于将采集的脑电信号进行低通滤波、次数平均和下采样处理,然后将电极帽所有通道的数据依次串接起来构成一个样本特征向量;在线分类模块,用于根据信号处理模块提取的特征,对最小二乘支持向量机分类器进行在线更新并用其进行在线分类;视觉刺激界面,用于诱发用户产生P300信号,并且在该界面上显示用户需要输入的字符,显示最小二乘支持向量机分类器预测的结果。本发明大大减少了用户使用系统之前的训练时间,并且具有准确度高的优点。

Description

一种基于脑机接口的在线半监督文字输入系统及方法
技术领域
本发明涉及脑机接口领域,特别涉及一种基于脑机接口的在线半监督文字输入系统及方法。
背景技术
脑机接口是在人脑和外界之间建立不依赖于常规大脑信息输出通路(外围神经和肌肉组织)的一种通信系统。通过这种通道,人就可以直接通过脑来表达思想或操作其它设备,而不需要通过语言或肢体的动作,是一种全新的通讯和控制方式。特别是,近年来脑科学、计算机科学、信号处理技术的飞速发展以及残疾人需求意识的不断提高,使得脑机接口技术不断发展。
脑机接口技术的研究具有重要的意义,并且具有多方面的用途。一个重要用途是能够为思维正常但有运动功能障碍的人如严重脊髓损伤等或者有语言功能障碍的人提供与他人交流的机会;它还可以为人们提供不需要人为操作的新的人机通讯方式和控制方式;脑机接口同时能够通过包含的精神和状态信息丰富游戏的趣味性,增加用户游戏的体验度等。目前我国60岁人口已经达到1.34亿,残疾人口也达到5千多万,这对我国对老年人和残疾人的服务保障提出了新的挑战。迫切需要相应方面的研究,来提高老年人或者残疾人的自理能力和生活质量,让他们更好的享受生活、体验生活。
其中针对于具有运动障碍及语音障碍的用户与外界通信最常用的交流方式就是文字,用户通过脑机接口在计算机输入其所想表达的文字,以发送信息或控制外部设备做出相应的操作。现有的基于脑机接口的文字输入系统在使用之前要经过较长时间的训练,因为在这过程中需要采集足够的有标签数据训练分类器,这个时间可能需要数分钟或者更长。另外在某些情况下,同一个用户的不同使用阶段脑电信号发生变化,就需要对分类器进行重新的间歇性训练或矫正(此时中断用户的使用),否则分类器的性能就会下降。而进行重新的间歇性训练就会中断用户的使用,降低了使用效率。
现有的脑机接口系统包括有监督学习和半监督学习的方式。
有监督学习就是利用有标签数据对分类器进行训练,该方式在训练过程中要利用采集到的所有数据(要经过特征提取的特征向量)以及它们的标签对分类器进行训练,得到一个分类器。这个过程就需要得到所有有标签数据之后才能够训练分类器。从用户的角度来看,用户就不能够自由输入字符,他就要按照要求进行训练。一般要得到一个好的分类器,即对特征向量预测要足够准确,就需要有大量的样本特征向量进行训练。所以一般的这种字符输入脑机接口系统就是首先要给用户带上电极帽,按照系统提示注视目标字符,由系统去采集数据。一般需要采集20个目标字符以上(就是训练阶段用户要按照系统提示的字符去注视20个字符以上)的数据,之后系统就会利用所有这些有标签特征向量对分类器进行训练,因此这个训练过程的时间就很长;并且这种方式的数据量很大,计算过程就会很长。之后系统还要对这些数据进行特征提取后对分类器进行训练。在用户真正能够使用系统后,就是利用这个已经训练好的分类器对特征向量进行分类,将结果反馈给用户。
现有传统的大多数半监督脑机接口需要经过初始训练来收集有标签数据,但是相对更长的时间来收集无标签数据。分类器就是利用这两种类型的数据来进行训练。从用户的角度来看,在用户可以使用这种系统之前,整个的训练时间就不但包括对有标签数据的采集,也包括对无标签数据的采集。因此,对于用户来讲,现有传统的半监督学习也就没有最小化整个的训练时间,实际上现有的这种半监学习和有监督学习时间差不多,只是利用两种类型的数据,因为某些情况下有标签数据不容易获取。这种方式是一种离线的方式,因为系统需要采集完所有的少量有标签数据和所有的无标签数据后,利用这些少量有标签数据和他们的标签以及无标签数据,才能对分类器进行训练,得到分类器。在这个过程中,系统不能交由用户使用,系统只能来采集这些数据,训练分类器。
发明内容
本发明的目的在于克服现有技术的缺点与不足,提供一种基于脑机接口的在线半监督文字输入系统。
本发明的另一个目的在于提供一种基于脑机接口的在线半监督文字输入方法。能够大大减少用户使用该系统之前的训练时间,并且具有准确度高的优点。
本发明的第一个目的通过下述技术方案实现:一种基于脑机接口的在线半监督文字输入系统,包括
脑电信号采集系统,用于采集用户脑电信号,并对采集到的脑电信号进行处理;
信号处理模块,用于将采集的脑电信号进行低通滤波、次数平均和下采样处理,然后将电极帽所有通道的数据依次串接起来构成一个样本特征向量;
在线分类模块,用于根据信号处理模块提取的特征,对最小二乘支持向量机分类器进行在线更新并用其进行在线分类;
视觉刺激界面,用于诱发用户产生P300信号,并且在该界面上显示用户需要输入的字符,显示最小二乘支持向量机分类器预测的结果。
优选的,所述视觉刺激界面上总共包含有40个字符,以4行10列的矩阵形式显示在计算机的屏幕上展示给用户。
优选的,所述视觉刺激界面上包含有两个编辑框,其中一个编辑框中显示用户训练阶段所要输入的系统的字符;另一个编辑框用于反馈显示用户在输入模式下所输入的字符。
本发明的第二个目的通过下述技术方案实现:一种基于脑机接口的在线半监督文字输入方法,包括系统初始化步骤、系统监督训练步骤和系统文字输入步骤:
系统初始化:
用户带上与计算机连接的电极帽,开启计算机屏幕的视觉刺激界面,在计算机屏幕视觉刺激界面上显示字符;其中每个字符按照随机顺序闪烁,设定在用户输入一个字符过程中,每个字符重复闪烁A次,相邻字符闪烁的时间间隔为C秒,相邻两个字符输入的时间间隔为B秒;
系统监督训练:
(1)系统随机选取m个目标字符,并提示用户输入这m个目标字符,用户注视需要输入的目标字符;在用户注视目标字符期间,计算机对用户的脑电信号数据进行采集;
(2)将采集的脑电信号进行低通滤波、次数平均和下采样处理,然后将电极帽所有通道的数据依次串接起来构成一个样本特征向量;
(3)将目标字符对应的特征向量标记为+1,将其它字符对应的特征向量标记为-1;然后采用这些特征向量及其对应标签的训练数据集建立初始最小二乘支持向量机分类器;
系统文字输入:
(a)首先系统转换为用户输入模式,用户注视界面中其要输入的字符,计算机对用户的脑电信号数据进行采集;
(b)将采集到的脑电信号进行低通滤波、次数平均和下采样处理后,提取每个字符的特征向量,形成称为块的数据集;
(c)计算当前块中每个字符特征向量对应于当前最小二乘支持向量机分类器的隐含变量值,将隐含变量值最大的特征向量对应的标签标记为+1,其它特征向量对应的标签标记为-1,作为它们的预测标签;
(d)根据各特征向量和各特征向量当前的预测标签对最小二乘支持向量机分类器进行在线更新;重新计算当前块中每个字符特征向量对应于更新后的最小二乘支持向量机分类器的隐含变量值,将隐含变量值最大的特征向量对应的标签标记为+1,其它特征向量对应的标签标记为-1,作为它们的预测标签;
(e)判断最小二乘支持向量机分类器的更新次数是否达到Z次;
若是,则进入步骤(g);
若否,则进入步骤(f);
(f)检测块中各特征向量前后两次的预测标签是否对应相等;
若是,则进入步骤(g);
若否,则进入步骤(d)继续更新最小二乘支持向量机分类器;
(g)停止更新,将预测标签为+1的特征向量对应的字符确定为输入字符,完成一个字符的输入;用户注视下一个要输入的字符,继续执行步骤(b)。
优选的,所述用户输入一个字符过程中,每个字符重复闪烁9次,相邻字符闪烁的时间间隔为25毫秒,相邻两个字符输入的时间间隔为3秒。
优选的,系统在训练阶段,所述步骤(1)中系统随机选取2~6个目标字符,并提示用户依次输入这2~6个目标字符;即所述m为2~6。
优选的,所述步骤(3)初始最小二乘支持向量机分类器建立过程如下:
(3-1)最小二乘支持向量机分类器的优化问题为:
其中为训练数据集,为一个训练样本特征向量,是训练样本特征向量对应的标签,L是训练样本特征向量的个数;e=[e1,...,eL]T为误差向量,γ≥0为正则化项,I为单位矩阵,标量为初始最小二乘支持向量机分类器的偏置,权值向量w∈Rd
(3-2)根据上述优化问题,得出优化问题的解,即初始最小二乘支持向量机分类器为:
初始最小二乘支持向量机分类器的隐含变量值为:
其中为向量的第i个元素;
x∈Rd为测试样本特征向量;
i=1,...,L,j=1,...,L;Kij为矩阵K∈RL×L的第i行第j列元素,I∈RL×L为一个单位矩阵,向量1中所有元素都为1,即1=[1...1]T,其与同维;
是由训练数据集的标签组成的标签向量;
则向量以及标量由下面式子求得:
HL=K+γ-1I,
权值向量w由下式给出:
更进一步的,系统文字输入阶段,所述步骤(c)中,块D中各特征向量对应的预测标签通过以下步骤得到:
(c-1)根据当前最小二乘支持向量机分类器y(x)计算该分类器的隐含变量值s(x);
其中当前最小二乘支持向量机分类器y(x)为:
y ( x ) = s i g n ( Σ i = 1 N a i ( 0 ) K ( x , x i ) + b ( 0 ) ) , i = 1 , ... , N ;
则对应当前最小二乘支持向量机分类器y(x)的隐含变量值s(x)为:
s ( x ) = Σ i = 1 N a i ( 0 ) K ( x , x i ) + b ( 0 ) , i = 1 , ... , N ;
其中数据集为当前最小二乘支持向量机分类器y(x)对应训练数据集,N表示数据集DN中特征向量的个数,xi表示特征向量,yi表示特征向量xi对应的标签;当前最小二乘支持向量机分类器y(x)的模型矩阵为HN,向量 a ( 0 ) = [ a 1 ( 0 ) ... a N ( 0 ) ] T ;
(c-2)根据当前最小二乘支持向量机分类器y(x)的隐含变量值s(x)计算当前块中每个特征向量对应于当前最小二乘支持向量机分类器的隐含变量值,然后从中选取出最大值,所述最大值为:
s ( x ‾ p ) ( 0 ) = m a x { s ( x ‾ j ) ( 0 ) } j = 1 M , p ∈ [ 1 , M ] ;
其中为步骤(b)得到的块的数据集,M表示块中特征向量的个数,表示块中的特征向量,为块中特征向量对应于当前最小二乘支持向量机分类器的隐含变量值;
(c-3)将块中特征向量对应的标签标记为+1,将块中的其他特征向量对应的标签j=1,...,M且j≠p标记为-1,作为块各特征向量的预测标签。
更进一步的,所述步骤(d)中最小二乘支持向量机分类器更新过程如下:
(d-1)联合当前最小二乘支持向量机分类器对应训练数据集DN、块数据集及块数据集中各特征向量的当前预测标签为增量数据集记增量数据集中的标签组成的标签向量为:
y ~ ( 0 ) = [ y 1 , y 2 ... y N , y ‾ 1 ( 1 ) , y ‾ 2 ( 0 ) ... y ‾ M ( 0 ) ] T ;
其中为步骤(c-3)中得到的块中各特征向量当前的预测标签;
(d-2)根据标签向量和增量数据集的增量模型矩阵HN+M的逆得到更新后最小二乘支持向量机分类器y(x)(1)为:
y ( x ) ( 1 ) = sin g ( Σ i = 1 N a i ( 1 ) K ( x , x i ) + Σ j = 1 M a N + j ( 1 ) K ( x , x ‾ j ) + b ( 1 ) ) , i = 1 , ... , N , j = 1 , ... , M ;
其中 b ( 1 ) = 1 T H N + M - 1 y ~ ( 0 ) ( 1 T H N + M - 1 1 ) - 1 , a ( 1 ) = H N + M - 1 ( y ~ ( 0 ) - b ( 1 ) 1 ) ; 向量1中所有元素都为1,即1=[1...1]T,其与同维数;
其中,为增量数据集的增量模型矩阵HN+M的逆,根据对应训练数据集DN的最小二乘支持向量机分类器模型矩阵HN的逆矩阵得到:
H N + M - 1 = A C C T B ,
B = ( V M - U M T W M ) - 1 ,
A = H N - 1 + W M BW M T ,
C=-WMB;
其中 H N - 1 = ( H N - 1 + ( H N - 1 ) T ) / 2 , W M = H N - 1 U M ;
其中UM∈RN×Mi=1,...,N,j=1,...,M;ui,j为矩阵UM∈RM的第i行j列元素,VM∈RM×M为:
优选的,所述步骤(e)中的Z为3。
本发明相对于现有技术具有如下的优点及效果:
(1)本发明在初始训练过程中只需要几个字符的监督学习,通过初始训练得到有标签的特征向量,利用这些特征向量和它们的标签建立一个初始的最小二乘支持向量机分类器;然后转入用户输入模式,此时用户可以按照自己的意愿自由注视目标字符,在这种模式下,计算机通过电极帽采集到脑电信号为无标签数据,提取无标签数据的特征向量,形成一个称为块的数据集,然后利用当前最小二乘支持向量机分类器预测出块中各特征向量的标签,根据各特征向量和特征向量当前的预测标签在线不断更新最小二乘支持向量机分类器,待各特征向量的前后预测标签满足相同的情况或者分类器在线更新次数达到一定值时,停止更新,并将预测结果反馈给用户,经过大概5-25个字符以上的自由输入之后最小二乘支持向量机分类器就可以达到很高的分类准确率,大约为90%-100%。由于我们利用初始训练的少量的有标签数据以及之后适量的无标签数据对最小二乘支持向量机分类器进行不断的迭代训练;其中初始训练的时间不会超过70s,因此单调沉闷和耗时的训练过程就会被大大减少。
(2)本发明在最小二乘向量机分类器进行在线更新过程中,利用当前最小二乘支持向量机分类器的模型矩阵HN的逆矩阵,求新的增量模型矩阵HN+M的逆,从而得到更新后的最小二乘支持向量机分类器,大大降低了本发明方法计算的复杂度以及节省了计算时间。
附图说明
图1是本发明系统组成框图。
图2是本发明视觉刺激界面的示意图。
图3是本发明方法的流程图。
具体实施方式
下面结合实施例及附图对本发明作进一步详细的描述,但本发明的实施方式不限于此。
实施例
如图1所示,本实施例公开了一种基于脑机接口的在线半监督文字输入系统,包括
视觉刺激界面,用于诱发用户产生P300信号,并且在该界面上显示各字符;如图2所示,视觉刺激界面上总共包含有40个不同的字符和两个编辑框,其中40个字符以4行10列的矩阵形式显示在计算机的屏幕上展示给用户。视觉刺激界面上的两个编辑框,其中一个编辑框中显示用户训练阶段所要输入的系统的字符;提醒用户在训练阶段所要输入的字符;另一个编辑框用于反馈显示用户在输入模式下所输入的字符。
脑电信号采集系统,用于采集用户脑电信号,并对采集到的脑电信号进行处理。
信号处理模块,用于将采集的脑电信号进行低通滤波、次数平均和下采样处理,然后将电极帽所有通道的数据依次串接起来构成一个样本特征向量。
在线分类模块,用于根据信号处理模块提取的特征向量,对最小二乘向量机分类器进行在线更新并用其进行在线分类。
如图3所示,本实施例还公开了一种基于脑机接口的在线半监督文字输入方法,包括系统初始化步骤,系统监督训练步骤和系统文字输入步骤:
系统初始化:
用户首先带上电极帽,调整电极帽位置满足国际10-20系统的标准;接着向电极帽中每个电极注入导电胶,并确定所有重要导联电极处于导通状态;然后开启计算机屏幕的视觉刺激界面,在计算机屏幕视觉刺激界面上显示字符,提示用户准备后,用户可以开始注视目标字符;其中界面上每个字符按照随机顺序闪烁,在用户输入一个字符过程中,每个字符重复闪烁9次,相邻字符闪烁的时间间隔为25毫秒,相邻两个字符输入的时间间隔为3秒。当完成9次闪烁之后,完成一个字符的输入,系统停止闪烁3秒中,用于给用户作输入下一个字符的准备。
系统监督训练:
(1)系统随机选取3个目标字符,并显示在如图2所示的input下的编辑框中,用于提示用户需要依次输入这3个目标字符,用户根据该编辑框上的3个字符,注视需要输入的目标字符;在用户注视目标字符期间,即界面中每个字符闪烁9次的过程中,计算机对用户的脑电信号数据进行采集。在这过程中目标字符也可以选择2、4、5或6个等合适的数量。
(2)将采集的脑电信号进行低通滤波、次数平均和下采样处理,然后将电极帽所有通道的数据依次串接起来构成一个样本特征向量。
(3)将目标字符对应的特征向量标记为+1,将其它字符对应的特征向量标记为-1;然后采用这些特征向量建立初始最小二乘支持向量机分类器;其中本实施例中初始最小二乘支持向量机分类器如下:
(3-1)最小二乘支持向量机分类器的优化问题为:
其中为训练数据集,为一个训练样本特征向量,是训练样本特征向量对应的标签,L是训练样本特征向量的个数;e=[e1,...,eL]T为误差向量,γ≥0为正则化项,I为单位矩阵,标量为最小二乘支持向量机分类器的偏置,权值向量w∈Rd
(3-2)根据上述优化问题,得出优化问题的解,即初始最小二乘支持向量机分类器为:
定义初始最小二乘支持向量机分类器的隐含变量值为:
其中为向量的第i个元素;
x∈Rd为测试样本特征向量;
i=1,...,L,j=1,...,L;Kij为矩阵K∈RL×L的第i行第j列元素,I∈RL×L为一个单位矩阵,向量1中所有元素都为1,即1=[1...1]T,其与同维;
是由训练数据集的标签组成的标签向量;
则向量以及标量由下面式子求得:
HL=K+γ-1I,
权值向量w由下式给出:
系统文字输入:
(a)首先系统转换为用户输入模式,用户通过注视界面中的字符输入其要输入的字符,计算机对用户的脑电信号数据进行采集。
(b)将采集到的脑电信号进行低通滤波、平均和下采样处理后,提取每个字符的特征向量,形成称为块的数据集。
(c)计算当前块中每个字符特征向量对应于当前最小二乘支持向量机分类器的隐含变量值,将隐含变量值最大的特征向量对应的标签标记为+1,其它特征向量对应的标签标记为-1,作为它们的预测标签;本实施例块D中各特征向量对应的预测标签通过以下步骤得到:
(c-1)根据当前最小二乘支持向量机分类器y(x)计算该分类器的隐含变量值s(x);
其中当前最小二乘支持向量机分类器y(x)为:
y ( x ) = s i g n ( Σ i = 1 N a i ( 0 ) K ( x , x i ) + b ( 0 ) ) , i = 1 , ... , N ;
则对应当前最小二乘支持向量机分类器y(x)的隐含变量值s(x)为:
s ( x ) = Σ i = 1 N a i ( 0 ) K ( x , x i ) + b ( 0 ) , i = 1 , ... , N ;
其中数据集为当前最小二乘支持向量机分类器y(x)对应训练数据集,N表示数据集DN中特征向量的个数,xi表示特征向量,yi表示特征向量xi对应的标签;当前最小二乘支持向量机分类器y(x)的模型矩阵为HN,向量 a ( 0 ) = [ a 1 ( 0 ) ... a N ( 0 ) ] T .
(c-2)根据当前最小二乘支持向量机分类器y(x)的隐含变量值s(x)计算当前块中每个特征向量对应于当前最小二乘支持向量机分类器的隐含变量值,然后从中选取出最大值,所述最大值为:
s ( x ‾ p ) ( 0 ) = m a x { s ( x ‾ j ) ( 0 ) } j = 1 M , p ∈ [ 1 , M ] ;
其中为步骤(b)得到的块的数据集,M表示块中特征向量的个数,表示块中的特征向量,为块中特征向量对应于当前最小二乘支持向量机分类器的隐含变量值。
(c-3)将块中特征向量对应的标签标记为+1,将块中的其他特征向量对应的标签j=1,...,M且j≠p标记为-1,作为块各特征向量的预测标签。
(d)根据各特征向量和各特征向量当前的预测标签对最小二乘支持向量机分类器进行在线更新;重新计算当前块中每个字符特征向量对应于更新后的最小二乘支持向量机分类器的隐含变量值,将隐含变量值最大的特征向量对应的标签标记为+1,其它特征向量对应的标签标记为-1,作为它们的预测标签;具体步骤如下:
(d-1)联合当前最小二乘支持向量机分类器对应训练数据集DN、块数据集及块数据集中各特征向量的当前预测标签为增量数据集记增量数据集中的标签组成的标签向量为:
y ~ ( 0 ) = [ y 1 , y 2 ... y N , y ‾ 1 ( 0 ) , y ‾ 2 ( 0 ) ... y ‾ M ( 0 ) ] T ;
其中为步骤(c-3)中得到的块中各特征向量当前的预测标签。
(d-2)根据标签向量和增量数据集的增量模型矩阵HN+M的逆得到更新后最小二乘支持向量机分类器y(x)(1)为:
y ( x ) ( 1 ) = s i g n ( Σ i = 1 N a i ( 1 ) K ( x , x i ) + Σ j = 1 M a N + j ( 1 ) K ( x , x ‾ j ) + b ( 1 ) ) , i = 1 , ... , N , j = 1 , ... , M ;
其中 b ( 1 ) = 1 T H N + M - 1 y ~ ( 0 ) ( 1 T H N + M - 1 1 ) - 1 , a ( 1 ) = H N + M - 1 ( y ~ ( 0 ) - b ( 1 ) 1 ) ; 向量1中所有元素都为1,即1=[1...1]T,其与同维数;
其中,为增量数据集的增量模型矩阵HN+M的逆,根据对应训练数据集DN的最小二乘支持向量机分类器模型矩阵HN的逆矩阵得到:
H N + M - 1 = A C C T B ,
B = ( V M - U M T W M ) - 1 ,
A = H N - 1 + W M BW M T ,
C=-WMB;
其中 H N - 1 = ( H N - 1 + ( H N - 1 ) T ) / 2 , W M = H N - 1 U M ;
其中UM∈RN×Mi=1,...,N,j=1,...,M;ui,j为矩阵UM∈RM的第i行j列元素,VM∈RM×M为:
(d-3)对应更新后最小二乘支持向量机分类器y(x)(1)的隐含变量值s(x)(1)为:
s ( x ) ( 1 ) = ( Σ i = 1 N a i ( 1 ) K ( x , x i ) + Σ i = 1 N a N + j ( 1 ) K ( x , x ‾ j ) + b ( 1 ) ) , i = 1 , ... , N , j = 1 , ... , M ;
其中为向量a(1)的第i个元素,为向量a(1)的第N+j个元素;
(d-4)重新计算当前块中每个字符特征向量对应于更新后的最小二乘支持向量机分类器y(x)(1)的隐含变量值,从中选取出最大值,所述最大值为:
s ( x ‾ q ) ( 1 ) = m a x { s ( x ‾ j ) ( 1 ) } j = 1 M , q ∈ [ 1 , M ] ;
其中为当前块中特征向量对应于更新后最小二乘支持向量机分类器的隐含变量值。
(d-5)将块中特征向量对应的标签标记为+1,将块D中的其他特征向量对应的标签j=1,...,M且j≠q标记为-1,作为块各特征向量的预测标签。
(e)判断最小二乘支持向量机分类器的更新次数是否达到Z次;
若是,则进入步骤(g);
若否,则进入步骤(f);
(f)检测块中各特征向量前后两次的预测标签是否对应相等;
若是,则进入步骤(g);
若否,则进入步骤(d)继续更新最小二乘支持向量机分类器;
(g)停止更新,将预测标签为+1的特征向量对应的字符确定为输入字符,完成一个字符的输入,并且反馈在如图3所示界面中input左边的编辑框中。用户注视下一个要输入的字符,继续执行步骤(b),以完成接下来其他字符的输入。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。

Claims (7)

1.一种基于脑机接口的在线半监督文字输入方法,其特征在于,包括系统初始化步骤、系统监督训练步骤和系统文字输入步骤:
系统初始化:
用户带上与计算机连接的电极帽,开启计算机屏幕的视觉刺激界面,在计算机屏幕视觉刺激界面上显示字符;其中每个字符按照随机顺序闪烁,设定在用户输入一个字符过程中,每个字符重复闪烁A次,相邻字符闪烁的时间间隔为C秒,相邻两个字符输入的时间间隔为B秒;
系统监督训练:
步骤(1)系统随机选取m个目标字符,并提示用户输入这m个目标字符,用户注视需要输入的目标字符;在用户注视目标字符期间,计算机对用户的脑电信号数据进行采集;
步骤(2)将采集的脑电信号进行低通滤波、次数平均和下采样处理,然后将电极帽所有通道的数据依次串接起来构成一个样本特征向量;
步骤(3)将目标字符对应的特征向量标记为+1,将其它字符对应的特征向量标记为-1;然后采用这些特征向量及其对应标签的训练数据集建立初始最小二乘支持向量机分类器;
系统文字输入:
步骤(a)首先系统转换为用户输入模式,用户注视界面中其要输入的字符,计算机对用户的脑电信号数据进行采集;
步骤(b)将采集到的脑电信号进行低通滤波、次数平均和下采样处理后,提取每个字符的特征向量,形成称为块的数据集;
步骤(c)计算当前块中每个字符特征向量对应于当前最小二乘支持向量机分类器的隐含变量值,将隐含变量值最大的特征向量对应的标签标记为+1,其它特征向量对应的标签标记为-1,作为它们的预测标签;
步骤(d)根据各特征向量和各特征向量当前的预测标签对最小二乘支持向量机分类器进行在线更新;重新计算当前块中每个字符特征向量对应于更新后的最小二乘支持向量机分类器的隐含变量值,将隐含变量值最大的特征向量对应的标签标记为+1,其它特征向量对应的标签标记为-1,作为它们的预测标签;
步骤(e)判断最小二乘支持向量机分类器的更新次数是否达到Z次;
若是,则进入步骤(g);
若否,则进入步骤(f);
步骤(f)检测块中各特征向量前后两次的预测标签是否对应相等;
若是,则进入步骤(g);
若否,则进入步骤(d)继续更新最小二乘支持向量机分类器;
步骤(g)停止更新,将预测标签为+1的特征向量对应的字符确定为输入字符,完成一个字符的输入;用户注视下一个要输入的字符,继续执行步骤(b)。
2.根据权利要求1所述的基于脑机接口的在线半监督文字输入方法,其特征在于,设定用户输入一个字符过程中,每个字符重复闪烁9次,相邻字符闪烁的时间间隔为25毫秒,相邻两个字符输入的时间间隔为3秒。
3.根据权利要求1所述的基于脑机接口的在线半监督文字输入方法,其特征在于,系统在训练阶段,所述步骤(1)中系统随机选取2~6个目标字符,并提示用户依次输入这2~6个目标字符;即所述m为2~6。
4.根据权利要求1所述的基于脑机接口的在线半监督文字输入方法,其特征在于,所述步骤(3)初始最小二乘支持向量机分类器建立过程如下:
步骤(3-1)最小二乘支持向量机分类器的优化问题为:
min||w||2+γ||e||2
其中为训练数据集,为一个训练样本特征向量,是训练样本特征向量对应的标签,L是训练样本特征向量的个数;e=[e1,...,eL]T为误差向量,γ≥0为正则化项,I为单位矩阵,标量为初始最小二乘支持向量机分类器的偏置,权值向量w∈Rd
步骤(3-2)根据步骤(3-1)中最小二乘支持向量机分类器优化问题,得出优化问题的解,即初始最小二乘支持向量机分类器为:
初始最小二乘支持向量机分类器的隐含变量值为:
其中为向量的第i个元素;
x∈Rd为测试样本特征向量;
i=1,...,L,j=1,...,L;Kij为矩阵K∈RL×L的第i行第j列元素,I∈RL×L为一个单位矩阵,向量1中所有元素都为1,即1=[1...1]T,其与同维;
是由训练数据集的标签组成的标签向量;
则向量以及标量由下面式子求得:
HL=K+γ-1I,
权值向量w由下式给出:
5.根据权利要求4所述的基于脑机接口的在线半监督文字输入方法,其特征在于,系统文字输入阶段,所述步骤(c)中,块中各特征向量对应的预测标签通过以下步骤得到:
步骤(c-1)根据当前最小二乘支持向量机分类器y(x)计算该分类器的隐含变量值s(x);
其中当前最小二乘支持向量机分类器y(x)为:
y ( x ) = s i g n ( Σ i = 1 N a i ( 0 ) K ( x , x i ) + b ( 0 ) ) , i = 1 , ... , N ;
则对应当前最小二乘支持向量机分类器y(x)的隐含变量值s(x)为:
s ( x ) = Σ i = 1 N a i ( 0 ) K ( x , x i ) + b ( 0 ) , i = 1 , ... , N ;
其中数据集为当前最小二乘支持向量机分类器y(x)对应训练数据集,N表示数据集DN中特征向量的个数,xi表示特征向量,yi表示特征向量xi对应的标签;当前最小二乘支持向量机分类器y(x)的模型矩阵为HN,向量 a ( 0 ) = [ a 1 ( 0 ) ... a N ( 0 ) ] T ;
步骤(c-2)根据当前最小二乘支持向量机分类器y(x)的隐含变量值s(x)计算当前块中每个特征向量对应于当前最小二乘支持向量机分类器的隐含变量值,然后从中选取出最大值,所述最大值为:
s ( x ‾ p ) ( 0 ) = m a x { s ( x ‾ j ) ( 0 ) } j = 1 M , p ∈ [ 1 , M ] ;
其中为步骤(b)得到的块的数据集,M表示块中特征向量的个数,表示块中的特征向量,为块中特征向量对应于当前最小二乘支持向量机分类器的隐含变量值;
步骤(c-3)将块中特征向量对应的标签标记为+1,将块中的其他特征向量对应的标签j=1,...,M且j≠p标记为-1,作为块各特征向量的预测标签。
6.根据权利要求5所述的基于脑机接口的在线半监督文字输入方法,其特征在于,所述步骤(d)中最小二乘支持向量机分类器更新过程如下:
步骤(d-1)联合当前最小二乘支持向量机分类器对应训练数据集DN、块数据集及块数据集中各特征向量的当前预测标签为增量数据集记增量数据集中的标签组成的标签向量为:
y ~ ( 0 ) = [ y 1 , y 2 ... y N , y ‾ 1 ( 0 ) , y ‾ 2 ( 0 ) ... y ‾ M ( 0 ) ] T ;
其中为步骤(c-3)中得到的块中各特征向量当前的预测标签;
步骤(d-2)根据标签向量和增量数据集的增量模型矩阵HN+M的逆得到更新后最小二乘支持向量机分类器y(x)(1)为:
y ( x ) ( 1 ) = s i g n ( Σ i = 1 N a i ( 1 ) K ( x , x i ) + Σ j = 1 M a N + j ( 1 ) K ( x , x ‾ j ) + b ( 1 ) ) , i = 1 , ... , N , j = 1 , ... , M ;
其中 b ( 1 ) = 1 T H N + M - 1 y ~ ( 0 ) ( 1 T H N + M - 1 1 ) - 1 , a ( 1 ) = H N + M - 1 ( y ~ ( 0 ) - b ( 1 ) 1 ) ; 向量1中所有元素都为1,即1=[1...1]T,其与同维数;
其中,为增量数据集的增量模型矩阵HN+M的逆,根据对应训练数据集DN的最小二乘支持向量机分类器模型矩阵HN的逆矩阵得到:
H N + M - 1 = A C C T B ,
B = ( V M - U M T W M ) - 1 ,
A = H N - 1 + W M BW M T ,
C=-WMB;
其中 H N - 1 = ( H N - 1 + ( H N - 1 ) T ) / 2 , W M = H N - 1 U M ;
其中UM∈RN×Mi=1,...,N,j=1,...,M;ui,j为矩阵UM∈RM的第i行j列元素,VM∈RM×M为:
步骤(d-3)对应更新后最小二乘支持向量机分类器y(x)(1)的隐含变量值s(x)(1)为:
s ( x ) ( 1 ) = ( Σ i = 1 N a i ( 1 ) K ( x , x i ) + Σ j = 1 M a N + j ( 1 ) K ( x , x ‾ j ) + b ( 1 ) ) , i = 1 , ... , N , j = 1 , ... , M ;
其中为向量a(1)的第i个元素,为向量a(1)的第N+j个元素;
步骤(d-4)重新计算当前块中每个字符特征向量对应于更新后的最小二乘支持向量机分类器y(x)(1)的隐含变量值,从中选取出最大值,所述最大值为:
s ( x ‾ q ) ( 1 ) = m a x { s ( x ‾ j ) ( 1 ) } j = 1 M , q ∈ [ 1 , M ] ;
其中为当前块中特征向量对应于更新后最小二乘支持向量机分类器的隐含变量值;
步骤(d-5)将块中特征向量对应的标签标记为+1,将块中的其他特征向量对应的标签j=1,...,M且j≠q标记为-1,作为块各特征向量的预测标签。
7.根据权利要求1所述的基于脑机接口的在线半监督文字输入方法,其特征在于,所述步骤(e)中的Z为3。
CN201310461601.8A 2013-09-30 2013-09-30 一种基于脑机接口的在线半监督文字输入系统及方法 Active CN103488297B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310461601.8A CN103488297B (zh) 2013-09-30 2013-09-30 一种基于脑机接口的在线半监督文字输入系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310461601.8A CN103488297B (zh) 2013-09-30 2013-09-30 一种基于脑机接口的在线半监督文字输入系统及方法

Publications (2)

Publication Number Publication Date
CN103488297A CN103488297A (zh) 2014-01-01
CN103488297B true CN103488297B (zh) 2016-04-13

Family

ID=49828585

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310461601.8A Active CN103488297B (zh) 2013-09-30 2013-09-30 一种基于脑机接口的在线半监督文字输入系统及方法

Country Status (1)

Country Link
CN (1) CN103488297B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105677043B (zh) * 2016-02-26 2018-12-25 福州大学 运动想象脑机接口的两阶段自适应训练方法
CN106778865B (zh) * 2016-12-13 2019-10-01 重庆邮电大学 一种多域特征下的半监督脑电信号睡眠分期方法
CN106983509B (zh) * 2017-04-24 2018-08-31 华南理工大学 一种具有实时打标功能的便携式脑电采集系统
CN111338482B (zh) * 2020-03-04 2023-04-25 太原理工大学 一种基于监督自编码的脑控字符拼写识别方法及系统
CN112162634A (zh) * 2020-09-24 2021-01-01 华南理工大学 一种基于seeg信号的数字输入脑机接口系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009075737A (ja) * 2007-09-19 2009-04-09 Nec Corp 半教師あり学習方法、半教師あり学習装置及び半教師あり学習プログラム
EP2180436A1 (fr) * 2008-10-23 2010-04-28 Commissariat A L'energie Atomique Système de procédé d'apprentissage semi-supervisé pour la classification de données à partir de paramètres discriminants
CN101515199B (zh) * 2009-03-24 2011-01-05 北京理工大学 一种基于视线跟踪和p300脑电电位的字符输入装置
CN101576772B (zh) * 2009-05-14 2011-07-27 天津工程师范学院 基于虚拟仪器稳态视觉诱发电位脑机接口系统及控制方法
CN102508545A (zh) * 2011-10-24 2012-06-20 天津大学 一种视觉P300-Speller脑-机接口方法
CN103150578A (zh) * 2013-04-09 2013-06-12 山东师范大学 一种基于半监督学习的支持向量机分类器训练方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050085744A1 (en) * 2003-10-20 2005-04-21 Stmicroelectronics S.R.I. Man-machine interfaces system and method, for instance applications in the area of rehabilitation
US8432390B2 (en) * 2004-07-30 2013-04-30 Extreme Reality Ltd Apparatus system and method for human-machine interface
US7412425B2 (en) * 2005-04-14 2008-08-12 Honda Motor Co., Ltd. Partially supervised machine learning of data classification based on local-neighborhood Laplacian Eigenmaps
EP2564592A4 (en) * 2010-04-30 2015-06-17 Thomson Licensing METHOD AND APPARATUS FOR MEASURING VIDEO QUALITY USING AT LEAST ONE SEMI-SUPERVISED LEARNING RECTIFIER FOR PREDICTING AN AVERAGE OBSERVATION NOTE
CN101853400B (zh) * 2010-05-20 2012-09-26 武汉大学 基于主动学习和半监督学习的多类图像分类方法
WO2011150407A2 (en) * 2010-05-28 2011-12-01 The Regents Of The University Of California Cell-phone based wireless and mobile brain-machine interface
CN102200833B (zh) * 2011-05-13 2013-05-15 天津大学 一种Speller BCI系统及其控制方法
CN102184019B (zh) * 2011-05-16 2013-01-02 天津大学 基于隐性注意的视听联合刺激脑-机接口方法
CN103150023B (zh) * 2013-04-01 2016-02-10 北京理工大学 一种基于脑机接口的光标控制系统及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009075737A (ja) * 2007-09-19 2009-04-09 Nec Corp 半教師あり学習方法、半教師あり学習装置及び半教師あり学習プログラム
EP2180436A1 (fr) * 2008-10-23 2010-04-28 Commissariat A L'energie Atomique Système de procédé d'apprentissage semi-supervisé pour la classification de données à partir de paramètres discriminants
CN101515199B (zh) * 2009-03-24 2011-01-05 北京理工大学 一种基于视线跟踪和p300脑电电位的字符输入装置
CN101576772B (zh) * 2009-05-14 2011-07-27 天津工程师范学院 基于虚拟仪器稳态视觉诱发电位脑机接口系统及控制方法
CN102508545A (zh) * 2011-10-24 2012-06-20 天津大学 一种视觉P300-Speller脑-机接口方法
CN103150578A (zh) * 2013-04-09 2013-06-12 山东师范大学 一种基于半监督学习的支持向量机分类器训练方法

Also Published As

Publication number Publication date
CN103488297A (zh) 2014-01-01

Similar Documents

Publication Publication Date Title
CN103488297B (zh) 一种基于脑机接口的在线半监督文字输入系统及方法
CN101515199B (zh) 一种基于视线跟踪和p300脑电电位的字符输入装置
CN108664932B (zh) 一种基于多源信息融合的学习情感状态识别方法
CN109117731A (zh) 一种课堂教学认知负荷测量系统
CN110353673B (zh) 一种基于标准互信息的脑电通道选择方法
CN109255366B (zh) 一种针对在线学习的情感状态调节系统
CN103690165A (zh) 一种跨诱发模式情绪脑电识别建模方法
CN113180701B (zh) 一种用于图像标签标注的脑电信号深度学习方法
CN111930238B (zh) 基于动态ssvep范式的脑机接口系统实现方法及装置
CN110367976B (zh) 脑电波信号检测方法、相关设备和存储介质
Zhang et al. Teaching chinese sign language with a smartphone
CN110393525A (zh) 一种基于深度循环自编码器的大脑活动检测方法
Rad et al. Stereotypical motor movement detection in dynamic feature space
Zhao et al. Two-stage spatial temporal deep learning framework for functional brain network modeling
CN110123266A (zh) 一种基于多模态生理信息的机动决策建模方法
CN117313852B (zh) 基于多模态数据的个性化教学知识图谱更新方法及系统
CN114569142A (zh) 基于类脑计算的手势识别方法、系统及手势识别装置
CN110675953A (zh) 利用人工智能和大数据筛查识别精神病患者的方法
CN113792626A (zh) 一种基于教师非言语行为的教学过程评价方法
CN116844080B (zh) 疲劳程度多模态融合检测方法、电子设备及存储介质
CN105528505A (zh) 线上自动化诊断学习风格系统及方法
Thomas et al. CoAdapt P300 speller: optimized flashing sequences and online learning
CN112274154B (zh) 基于脑电样本权重调整的跨被试疲劳驾驶分类方法
CN108629362A (zh) 一种面向移动环境的学习行为习惯发现量化系统及方法
CN108074240A (zh) 识别方法、识别装置、计算机可读存储介质及程序产品

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant