CN108920699A - 一种基于N2pc的目标识别反馈系统及方法 - Google Patents
一种基于N2pc的目标识别反馈系统及方法 Download PDFInfo
- Publication number
- CN108920699A CN108920699A CN201810780109.XA CN201810780109A CN108920699A CN 108920699 A CN108920699 A CN 108920699A CN 201810780109 A CN201810780109 A CN 201810780109A CN 108920699 A CN108920699 A CN 108920699A
- Authority
- CN
- China
- Prior art keywords
- user
- feedback
- n2pc
- identification
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/015—Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Neurosurgery (AREA)
- General Health & Medical Sciences (AREA)
- Neurology (AREA)
- Health & Medical Sciences (AREA)
- Dermatology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于N2pc的目标识别反馈系统,包括:离线训练模块,用于通过对用户进行视觉刺激,使用户搜索目标并产生N2pc,并采集用户脑电数据以及用户直接反馈的搜索结果,进而利用搜索结果和用户脑电数据中的N2pc特征作为训练样本训练分类器;在线模块,用于在用户进行目标搜索时实时采集用户的脑电数据,并利用所述分类器通过分类所述脑电数据的N2pc特征得以识别用户目标搜索的结果;所述在线模块包括反馈模块,用于当在线模块认定无法识别用户目标搜索的结果时,向用户提供有助于搜索的反馈。本发明还公开了一种基于N2pc的目标识别反馈方法,具有提高搜索效率的技术效果。
Description
技术领域
本发明涉及视觉搜索人机交互领域,具体涉及一种基于N2pc的目标识别及反馈的BCI系统及方法。
背景技术
N2pc是一种与空间选择性注意密切相关的ERP成分。“N”代表负波(negative),“2”是指该成分大约出现在刺激后的200ms-300ms之间。“pc”指的是它的头皮分布位置,目标刺激的对侧脑后区域(posterior contralateral)。由于N2pc的对侧性,可以用于目标位置的识别。近20多年来,N2pc在空间注意与视觉选择等领域得到了广泛的研究。目前,由于有关空间注意的研究还停留在知觉层面和视觉短时记忆层面,所以,比较常见的N2pc范式有视觉搜索范式和视觉短时记忆范式及其变式。目前存在的实验范式大多是基于虚拟场景,如在电脑屏幕上通过将刺激物显示在不同位置来激发N2pc。
脑机接口(Brain-Computer Interface,BCI)指的是在人或动物脑与外部设备间建立的直接连接通路。根据传递信息的情况,脑机接口可以分为两类:单向脑机接口和双向脑机接口。单向脑机接口计算机接受脑传来的命令,或者发送信号到脑,不能同时发送和接受信号。双向脑机接口可以使得脑和计算机双方同时进行信息的交换。
近年来有很多国家及知名企业投入到了脑机接口领域。如美国在1989年率先提出了全国性脑科学计划,欧盟在1991年出台“欧洲脑十年计划”。企业如2017年三月,ElonMusk宣布投资成立脑机接口公司Neuralink,2017年4月,Facebook宣布“意念打字”项目。
目前在脑机接口领域,基于SSVEP(steady-status visual evoked potential,当人受到某一特定频率的刺激时,大脑会反映出与刺激相关的脑电信号)的脑机接口系统是一种较为常见的形式。清华大学高上凯教授的团队设计的基于SSVEP的环境控制系统,测试至少能区分48个目标,并且实现了对周围电子设备的控制。P300事件相关电位也被用于脑机接口的控制中,P300是一种内源性的诱发成分,与SSVEP一样,仅需很少的训练。在基于P300的打字系统,鼠标控制等得到广泛应用。由于需要重复的刺激来保证系统的稳定性,其信息传输率不是很高。另外,基于MI(运动想象,Motor imagery)的BCI研究也表现突出。MI指一种自发性脑电信号,研究表明,mu和beta节律与人的运动有关。实际运动的时候可以检测到这两种节律,“想象”运动,运动区也会产生这两种节律。通过运动想象脑机接口还可以用于神经康复训练,中国专利CN107315478A公开了基于一种运动想象上肢智能康复机器人系统及其训练方法。
N2pc是基于内隐的注意,虽然SSVEP和P300虽然可以利用内隐的机制,但它们的性能会大大降低,Volosyak等人(2011)使用外显的SSVEP注意信号,在5分类中达到了96.79%的分类正确率,而Kelly(2005)使用内隐的SSVEP信号分类,在两分类实现了71%的平均分类正确率。而在需要内隐注意定向的情况下,比如闭锁综合症患者,采用基于N2pc的分类具有很大的应用前景。Blasco等人(2012)利用N2pc与P300进行BCI控制,实现残疾人的交流,以及健康人控制机器人浏览互联网。基于P300的目标识别一般用于识别突出目标,不能定位目标位置,而使用N2pc可以实现对侧向目标的定位。
然而,提高搜索效率,是现有的基于真实场景的视觉搜索系统亟需解决的问题。
发明内容
本发明的目的之一是提供了一种基于N2pc的目标识别反馈系统,通过引入反馈来提高搜索速度,实现更为快速的识别。
一种基于N2pc的目标识别反馈系统,包括:
离线训练模块,用于通过对用户进行视觉刺激,使用户搜索目标并产生N2pc,并采集用户脑电数据以及用户直接反馈的搜索结果,进而利用搜索结果和用户脑电数据中N2pc特征作为训练样本训练分类器;
在线模块,用于在用户进行目标搜索时实时采集用户的脑电数据,并利用所述分类器通过分类所述脑电数据的N2pc特征得以识别用户目标搜索的结果;
其中,所述在线模块包括反馈模块,用于当在线模块认定无法识别用户目标搜索的结果时,向用户提供有助于搜索的反馈。
本系统通过N2pc特征实现目标判别,采集已知搜索结果的训练样本训练分类器,并用该分类器对实时采集用户脑电数据的N2pc特征进行分类,从而识别出用户当前的搜索结果,而在没有识别出结果的情况下,通过反馈来帮助用户进行进一步搜索;用户脑中出现明确的结果时,例如在图像中识别出需要识别的目标,并定位目标的位置,系统则会识别出这一结果,避免用户长时间停滞在无法得出搜索结果的情况下,进而提高了搜索的效率;对用户进行反馈的形式有很多,例如,放大图像,提高疑似目标在画面中的占比,或是提高图像的锐度和清晰度等,都是有助于用户识别的反馈形式。
进一步,所述离线训练模块还用于获取用户的自我精神评估,并在统计用户在某精神状态下直接反馈的搜索结果的正确率以及反馈结果所用的时间,从而拟合出不同精神状态下的时间-感知性能曲线,并根据所述时间-感知性能曲线,确定向不同精神状态下的用户提供所述反馈的时间阈值;
以及,通过用户在不同精神状态下的脑电数据训练疲劳水平判别分类器;
所述离线训练模块还用于,利用所述疲劳水平判别分类器通过分类脑电数据得以识别用户当前的精神状态,并根据该状态选择向用户提供所述反馈的时间阈值。
为了提高效率,系统在一设定的等待时长内保持原有的无反馈的状态,超过该时长还没有得到识别结果则会进行反馈以帮助用户搜索。无论哪种反馈,都是一种人工干预,某些反馈可能会因为信息量的改变而改变用户的判断,某些则还会增加系统的运算成本;而另一方面用户的精神状态则会影响其作出正确判断的速度;时间-感知性能曲线指的是目标搜索时间与目标搜索正确率的函数关系,不同精神状态下的时间-感知性能曲线反应了精神状态对作出正确判断的速度的影响;总的来说,这一曲线一定是上升的趋近于1(100%正确);但在差的精神状态下,曲线上升的速度要慢于好的精神状态下,于是本系统通过不同精神状态下的时间-感知性能曲线来确定不同精神状态下的时间阈值,换句话说,就是在用户精神状态较差时等待的时间长一些以留足时间让用户作出判断,而精神状态较好时则等待的时间短一些从而提高效率。
本方案采用动态时间阈值设定,避免由于过长的时间阈值导致效率下降,或者由于过短的时间阈值造成在不必给出反馈的情况下给出反馈所带来的误判和运算成本增加。
进一步,所述离线训练模块通过以下过程建立时间-感知性能曲线:
目标搜索正确率使用d′指数来表示,d′指数使用命中率H和误报率F来计算:
d′=Z(H)–Z(F)
其中Z(o)是标准累积分布的反函数;
使用回归的方法来获得关于时间l和d′的指数关系函数:
d′(t)=a(1-θ-bt)
建立关于时间t和感知性能PC的函数关系如下:
TC(t)=m(t)×H(t)n(t)×(1F(t))
m(t)和n(t)分别表示目标出现和不出现的概率,m(t)+n(t)=1。
进一步,所述分类器为正则化线性判别分析分类器。
具有好的分类性能而且有高的计算性能。
进一步,所述反馈模块提供的反馈为呈现反馈界面,所述反馈界面为原画面的局部放大画面。
放大的图像,提高了需要识别的区域在画面中的占比,从而加快用户的识别。
本发明的目的之二,是提供一种基于N2pc的目标识别反馈方法,包括以下内容:
训练步骤,通过对用户进行视觉刺激,使用户搜索目标并产生N2pc,并采集用户脑电数据以及用户直接反馈的搜索结果,进而利用搜索结果和用户脑电数据中N2pc特征作为训练样本训练分类器;
识别步骤:在用户进行目标搜索时实时采集用户的脑电数据,并利用所述分类器通过分类所述脑电数据的N2pc特征得以识别用户目标搜索的结果;
还包括,反馈步骤:当识别步骤认定无法识别用户目标搜索的结果时,向用户提供有助于搜索的反馈。
本方案通过N2pc特征实现目标判别,采集已知搜索结果的训练样本训练分类器,并利用该分类器对实时采集用户的脑电数据的N2pc特征进行分类,从而还原出用户当前的搜索结果,而在没有识别出结果的情况下,通过反馈来帮助用户进行进一步搜索;用户脑中出现明确的结果时,例如,在图像中识别出需要识别的目标,并定位目标的位置,系统则会识别出这一结果,避免用户长时间停滞在无法得出搜索结果的情况下,进而提高了搜索的效率;对用户进行反馈的形式有很多,例如,放大图像,提高疑似目标在画面中的占比,或是提高图像的锐度和清晰度等,都是有助于用户识别的反馈形式。
进一步,所述训练步骤还包括,获取用户的自我精神评估,并统计用户在某精神状态下直接反馈的搜索结果的正确率以及反馈结果所用的时间,从而拟合出不同精神状态下的时间-感知性能曲线,并根据所述时间-感知性能曲线确定向不同精神状态下的用户提供所述反馈的时间阈值;
以及,通过用户在不同精神状态下的脑电数据训练疲劳水平判别分类器;
所述识别步骤还包括,利用所述疲劳水平判别分类器通过分类脑电数据得以识别用户当前的精神状态,并根据该状态选择向用户提供所述反馈的时间阈值。
为了提高效率,系统在一设定的等待时长内保持原有的无反馈的状态,超过该时长还没有得到识别结果则会进行反馈以帮助用户搜索。无论哪种反馈,都是一种人工干预,某些反馈可能会因为信息量的改变而改变用户的判断,某些则还会增加系统的运算成本;而另一方面用户的精神状态则会影响其作出正确判断的速度;时间-感知性能曲线指的是目标搜索时间与目标搜索正确率的函数关系,不同精神状态下的时间-感知性能曲线反应了精神状态对作出正确判断的速度的影响;总的来说,这一曲线一定是上升的趋近于1(100%正确);但在差的精神状态下,曲线上升的速度要慢于好的精神状态下,于是本系统通过不同精神状态下的时间-感知性能曲线来确定不同精神状态下的时间阈值,换句话说,就是在用户精神状态较差时等待的时间长一些以留足时间让用户作出判断,而精神状态较好时则等待的时间短一些从而提高效率。
本方法避免一刀切的时间阈值设定,采用动态的时间阈值设定,从而避免过长的阈值导致效率下降,而过短的阈值造成在不必给出反馈的情况下给出反馈从而带来误判和运算成本的增加。
进一步,在所述训练步骤中通过以下过程建立时间-感知性能曲线:
目标搜索正确率使用d′指数来表示,d′指数使用命中率H和误报率F来计算:
d′=Z(H)-Z(F)
其中z(o)是标准累积分布的反函数;
使用回归的方法来获得关于时间t和d′的指数关系函数:
d′(t)=a(1-e-bt)
建立关于时间t和感知性能PC的函数关系如下:
PC(t)=m(t)×H(t)+n(t)×(1-F(t))
m(t)和n(t)分别表示目标出现和不出现的概率,m(t)+n(t)=1。
进一步,所述分类器为正则化线性判别分析分类器。
具有好的分类性能而且有高的计算性能。
进一步,所述反馈步骤中给出的反馈为呈现反馈界面,所述反馈界面为原画面的局部放大画面。
放大的图像,提高了需要识别的区域在画面中的占比,从而加快用户的识别。
附图说明
图1为本发明实施例中的于N2pc的视觉搜索反馈系统的结构示意图。
图2为本发明实施例中离线训练模块的实验范式实例图。
图3为本发明实施例中脑电数据处理的流程图。
图4为本发明实施例中在线目标识别的流程图。
具体实施方式
本实施例提供了一种基于N2pc的目标识别反馈系统,如图1所示,包括呈现刺激范式及反馈模块,信号采集及处理模块。刺激模块呈现的刺激会诱发用户引起事件相关电位。在在线控制中,数据处理模块处理脑电信号并发送控制信号,反馈模块来实现实时地反馈。系统中,信号传输均采用UDP的协议,以此来提高实时性。
为了更好的说明本发明的技术效果,本实施例在本发明原有设计的基础上,还增添了以结果验证为目的技术内容。
在离线试验中,基于Python开发视觉搜索范式。图2示出了范式流程事例。实验开始时,首先出现中央固定十字,指示用户准备开始实验,持续0.5s。用户注视中央十字,尽量不眨眼,并保持注意力集中。接下来屏幕上显示刺激图片,刺激序列背景为真实场景,包括三种杂波水平的图片,图片中央有一个红色十字。场景中会出现行人,也可能没有行人,行人随机地出现在中央“十”字的左侧或者右侧,呈现时间包括5种情况:200ms,400ms,600ms,800ms,1000ms。在图片呈现期间,用户需要快速搜索行人位置,并对行人出现的位置做出正确且快速的反应,当行人出现在“十”字的左边时用户需要点击鼠标左键,出现在右边是点击鼠标右键,如果没有行人则不需要按键。系统记录用户的反应数据并采集脑电数据。
执行5次试验后,进行精神状态的评估,评估用户的注意力,挫败感,疲劳度。然后进入下一个周期,循环执行20次。即刺激图片出现100次,进行20次的精神状态评估。5种呈现时间各进行两次。
脑电采集的电极安放采用国际标准10-20系统,采样率为1000Hz。图3示出的是离线数据处理流程图。主要包括数据预处理,N2pc特征的提取,精神状态特征提取,训练分类器,得到最优分类器模型。本优选实例中,选择的预处理有以下步骤:
滤波,选用带通滤波0.1~30HZ,去除噪声干扰。
阈值去除眼电伪迹,阈值设置为正负60uv,消除由于眼动等伪迹的干扰。
基线校正,选用刺激图片出现前200ms作为基线,消除基线漂移影响。
数据重参考,减少参考电极影响。
利用分类算法对离线采集的数据进行模式识别,训练最优的分类器。在本优选示例中,采用的特征是N2pc事件相关电位,N2pc在200ms-350ms之间出现。采用特征提取方法选择用户特定的N2pc时间窗口,具体步骤如下:
由于不同用户的N2pc出现时间具有差异,选取用户特定的出现N2pc的时间窗口,提取对应标签,作为训练集。
用于目标识别的电极采用后部的电极(PO7/PO8,P7/P8,PO3/PO4和O1/O2),计算电极对200-350ms时间段的差异波形,由左半球电极(PO7,P7,PO3和O1)减去对应右半球电极(PO8,P8,PO4和O2),得到左右视野(目标出现在左视野和右视野)以及没有目标三种情况的差异波形,对左右视野差异数据集进行配对T检验,找到有显著性差异的时间段,即N2pc出现的时间段。
得到N2pc出现的时间窗口之后,下面进行基于单个试验的N2pc特征提取,在计算出的差异波形数据集中,对每一个试验,计算差异波形时间窗口内的平均振幅,得到训练特征数据集。
本实施例判别不同的疲劳水平下用户的分类性能,用于精神状态判别采用的电极包括:F3,F1,Fz,F2,F4,C3,C1,Cz,C2,C4,CPz,P1,Pz,P2和Poz。将每个通道theta,alpha,beta频段的频谱能量作为特征,根据量表分数提取不同疲劳状态下的数据,由于自我报告的主观性,将五级量表转化为二分类,采用交叉验证的方法,利用训练数据减少类的数量,其步骤包括:首先找到数量少的类(小于10%),然后计算与其它类之间的欧式距离,将距离最小的类识别为同一类,重复这个过程,直到最后只剩下两个类。这样得到两种疲劳水平的数据集,然后训练疲劳水平判别分类器。
训练分类器,由于shrinkage LDA(shrinkage Linear Discriminant Analysis,正则化线性判别分析)不仅具有好的分类性能而且有高的计算性能,我们使用sLDA算法对训练集数据进行训练,得到分类器。对于目标识别一共训练两个分类器,一个用于识别是否存在目标(T vs.NT分类器,T表示目标存在,NT表示目标不存在),一个用于识别目标出现的位置(RVF vs.LVF分类器,RVF表示右视野目标,LVF表示左视野目标)。T vs.NT分类器的计算采用目标存在和目标不存在两个差异波数据集来训练。目标存在的数据集为左右视野数据集,由于左右视野数据的差异波特征存在正负差异,对数据求平方,这样就得到目标存在和目标不存在两个数据集,然后训练出分类器。如果目标存在时,需要判定目标出现的位置,所以需要训练RVF vs.LVF分类器,用来识别目标相对于中央固定点的位置。RVF vs.LVF分类器的训练数据集为左视野数据集和右视野数据集。为了得到稳定可靠的分类模型,采用留一交叉验证的方法进行验证,得到最优参数的分类模型。训练出来的分类器用于在线控制的数据处理模块,实现实时判别。
其中shrinkage LDA分类器的计算过程如下:
线性判别分析(LDA)将N维输入向量映射到一个超平面,决策边界由超平面公式决定:WTx+b=0,输入b为偏差项,W定义为
W=∑-1(μ2 μ1)
μi是类别i的均值,∑是类别1和类别2共同的协方差矩阵。对于只有少量数据点的高维数据,可能会使估计变得不精确,使∑c变成奇异的,这会导致原始协方差矩阵的大特征值估计过大,小的特征值估计过小,可能降低分类性能。所以采用收缩的方法来补偿估计的系统性偏差。
令为N维特征向量
μ和∑为均值和协方差的无偏估计,为了补偿估计误差,将∑由下式替代
∑Y=(1-γ)∑+γνI
式中,正则化参数γ∈(0,1),I是单位矩阵,平均特征值ν=trace(∑)/d。对于给定的新输入测试向量x,可以通过如下计算进行分类:
y=sign(Wτx+b)
如果WTx+b为正或零,则y=+1,如果WTx+b为负,则y=-1。
时间性能曲线的构建步骤包括:
拟合不同精神状态下时间-感知性能曲线是指精神状态良好和精神状态不好两种情况下目标搜索时间与目标搜索正确率的函数关系,本实施例评估不同疲劳水平下的时间性能曲线,目标搜索正确率使用信号检测理论中的d′指数来表示,d′指数使用命中率H和误报率F来计算:
d′=Z(H)-Z(F)
其中Z(o)是标准累积分布的反函数。使用回归的方法来获得关于时间t和d′的指数关系函数。
d′(t)=a(1-e-b)
建立用户关于时间t和感知性能PC的函数关系如下:
PC(t)=m(t)×H(t)+n(t)×(1-F(t))
m(t)和n(t)分别表示目标出现和不出现的概率,m(t)+n(t)=1。计算出的两种疲劳水平下的时间性能关系用于在线训练的反馈模块中,用来确定呈现反馈界面的时间点。
分别构建疲劳水平高和疲劳水平低两种情况下的时间性能曲线。
在线实验范式跟离线实验范式略有不同。不同的是在线范式没有评估模块和用户反馈模块。当刺激图片出现之后,会发送信号给数据采集模块,采集模块接收到信号后开始收集数据,在线数据处理模块对数据进行实时的处理,然后利用离线训练出的分类器进行模式识别,在模式识别中,首先判断是否存在目标,采用离线训练出来的T vs.NT分类器进行分类,如果没有目标且用户确认没有目标,进入下一张图片,如果用户没有找到目标,系统放大图片,辅助用户找到目标;如果识别出存在目标,利用训练出来的RVF vs.LVF分类器识别目标位置。本实施里示例中,系统同时判别用户疲劳水平,根据疲劳水平来确定反馈模块激活的时间点,如果在设定时间长度内识别目标位置,系统反馈笑脸,指示目标位置,用户确认后进入下一次的搜索。如果在设定时间内没有找到目标,反馈系统放大图片,用户进行进一步搜索。
在线BCI系统中,信号处理模块通过mex方式联合编程,利用matlab平台来处理原始数据。上面已经提到,当刺激图片出现时,范式系统会给信号处理模块发送信号,发送信号是通过建立套接字和UDP协议来发送。信号处理模块收到信号后,处理特定时间窗口的数据,时间窗口由离线数据处理得出。在线模块的实验范式呈现是基于python平台的,为了能够同步地发送信号,系统采用了多线程编程的方式。当刺激图片出现时,就给处理模块发送信号。信号处理之后,利用反馈模块进行反馈。发送信息依旧采用UDP协议,以此来降低时延带来的误差。接受信息依旧采用多线程的方式,当刺激图片出现时就接受信号。
本实施例的特征提取中,采用了4对电极:PO7/PO8,P7/P8,PO3/PO4和O1/O2。利用特征提取方法获得每个用户差异最大的时间段。对于两个分类器(即识别目标是否存在的Tvs.NT分类器,以及识别目标位置的RVF vs.LVF分类器)的泛化能力的评估和系统的信息传输率,6个用户测试了本系统,整个在线识别的工作流程如图4所示,而分类器性能评估如表1:
表1各用户对应的分类器的正确率及传输速度
从表1可以看出,本系统中,采用基于N2pc事件相关电位的目标识别系统有良好的目标识别效果,且具有较高的信息传输率,可以对目标进行有效识别,实现对目标(如威胁目标)的快速搜索。
本发明是采用基于N2pc的目标识别反馈系统,利用反馈可以比没有反馈的情况下实现更快的目标搜索速度,6个用户测试了没有反馈的目标搜索和有反馈的目标搜索,目标搜索的平均反应时如表2所示:
表2各用户对应的目标搜索的平均反应时
从结果可以发现,使用反馈可以实现更快的反应,提高目标搜索的速度。通过本系统的辅助搜索,对用户进行实时反馈,可以提高目标搜索的速度同时也保持了较高的识别正确率。
以上所述的仅是本发明的实施例,方案中公知的具体结构及特性等常识在此未作过多描述,所属领域普通技术人员知晓申请日或者优先权日之前发明所属技术领域所有的普通技术知识,能够获知该领域中所有的现有技术,并且具有应用该日期之前常规实验手段的能力,所属领域普通技术人员可以在本申请给出的启示下,结合自身能力完善并实施本方案,一些典型的公知结构或者公知方法不应当成为所属领域普通技术人员实施本申请的障碍。应当指出,对于本领域的技术人员来说,在不脱离本发明结构的前提下,还可以作出若干变形和改进,这些也应该视为本发明的保护范围,这些都不会影响本发明实施的效果和专利的实用性。本申请要求的保护范围应当以其权利要求的内容为准,说明书中的具体实施方式等记载可以用于解释权利要求的内容。
Claims (10)
1.一种基于N2pc的目标识别反馈系统,包括:
离线训练模块,用于通过对用户进行视觉刺激,使用户搜索目标并产生N2pc,并采集用户脑电数据以及用户直接反馈的搜索结果,进而利用搜索结果和用户脑电数据中N2pc特征作为训练样本训练分类器;
在线模块,用于在用户进行目标搜索时实时采集用户的脑电数据,并利用所述分类器通过分类所述脑电数据的N2pc特征得以识别用户目标搜索的结果;
其特征在于:所述在线模块包括反馈模块,用于当在线模块认定无法识别用户目标搜索的结果时,向用户提供有助于搜索的反馈。
2.根据权利要求1所述的基于N2pc的目标识别反馈系统,其特征在于:所述离线训练模块还用于获取用户的自我精神评估,并统计用户在某精神状态下直接反馈的搜索结果的正确率以及反馈结果所用的时间,从而拟合出不同精神状态下的时间-感知性能曲线,并根据所述时间-感知性能曲线确定向不同精神状态下的用户提供所述反馈的时间阈值;
以及,通过用户在不同精神状态下的脑电数据训练疲劳水平判别分类器;
所述识别步骤还包括,利用所述疲劳水平判别分类器通过分类脑电数据得以识别用户当前的精神状态,并根据该状态选择向用户提供所述反馈的时间阈值。
3.根据权利要求2所述的基于N2pc的目标识别反馈系统,其特征在于:所述离线训练模块通过以下过程建立时间-感知性能曲线:
目标搜索正确率使用d′指数来表示,d′指数使用命中率H和误报率F来计算:
d′=Z(H)–Z(F)
其中Z(o)是标准累积分布的反函数;
使用回归的方法来获得关于时间t和d′的指数关系函数:
d′(t)=a(1-e-bt)
建立关于时间t和感知性能PC的函数关系如下:
PC(t)=m(t)×H(t)+n(t)×(1-F(t))
m(t)和n(t)分别表示目标出现和不出现的概率,m(t)+n(t)=1。
4.根据权利要求1所述的基于N2pc的目标识别反馈系统,其特征在于所述分类器为正则化线性判别分析分类器。
5.根据权利要求1所述的基于N2pc的目标识别反馈系统,其特征在于:所述反馈模块提供的反馈为呈现反馈界面,所述反馈界面为原画面的局部放大画面。
6.一种基于N2pc的目标识别反馈方法,包括以下内容:
训练步骤,用于通过对用户进行视觉刺激,使用户搜索目标并产生N2pc,并采集用户脑电数据以及用户直接反馈的搜索结果,进而利用搜索结果和用户脑电数据中N2pc特征作为训练样本训练分类器;
识别步骤:用于在用户进行目标搜索时实时采集用户的脑电数据,并利用所述分类器通过分类所述脑电数据的N2pc特征得以识别用户目标搜索的结果;
其特征在于:还包括反馈步骤:当识别步骤认定无法识别用户目标搜索的结果时,向用户提供有助于搜索的反馈。
7.根据权利要求6所述的基于N2pc的目标识别反馈方法,其特征在于:所述训练步骤还包括,获取用户的自我精神评估,并统计用户在某精神状态下直接反馈的搜索结果的正确率以及反馈结果所用的时间,从而拟合出不同精神状态下的时间-感知性能曲线,并根据所述时间-感知性能曲线确定向不同精神状态下的用户提供所述反馈的时间阈值;
以及,通过用户在不同精神状态下的脑电数据训练疲劳水平判别分类器;
所述识别步骤还包括,利用所述疲劳水平判别分类器通过分类脑电数据得以识别用户当前的精神状态,并根据该状态选择向用户提供所述反馈的时间阈值。
8.根据权利要求7所述的基于N2pc的目标识别反馈方法,其特征在于:在所述训练步骤中通过以下过程建立时间-感知性能曲线:
目标搜索正确率使用d′指数来表示,d′指数使用命中率H和误报率F来计算:
d′=Z(H)–Z(F)
其中Z(o)是标准累积分布的反函数;
使用回归的方法来获得关于时间t和d′的指数关系函数:
d′(t)=a(1-e-bt)
建立关于时间t和感知性能PC的函数关系如下:
PC(t)=m(t)×H(t)+n(t)×(1-F(t))
m(t)和n(t)分别表示目标出现和不出现的概率,m(t)+n(t)=1。
9.根据权利要求6所述的基于N2pc的目标识别反馈方法,其特征在于:所述分类器为正则化线性判别分析分类器。
10.根据权利要求6所述的基于N2pc的目标识别反馈方法,其特征在于:所述反馈步骤中给出的反馈为呈现反馈界面,所述反馈界面为原画面的局部放大画面。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810780109.XA CN108920699B (zh) | 2018-07-16 | 2018-07-16 | 一种基于N2pc的目标识别反馈系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810780109.XA CN108920699B (zh) | 2018-07-16 | 2018-07-16 | 一种基于N2pc的目标识别反馈系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108920699A true CN108920699A (zh) | 2018-11-30 |
CN108920699B CN108920699B (zh) | 2021-08-17 |
Family
ID=64413950
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810780109.XA Active CN108920699B (zh) | 2018-07-16 | 2018-07-16 | 一种基于N2pc的目标识别反馈系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108920699B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111914711A (zh) * | 2020-07-24 | 2020-11-10 | 上海大学 | 一种基于脑电的多阶段渐进式目标识别训练系统及方法 |
CN112633312A (zh) * | 2020-09-30 | 2021-04-09 | 深圳睿瀚医疗科技有限公司 | 基于ssmvep-erp-osr混合脑机接口的自动寻优算法 |
WO2022116155A1 (zh) * | 2020-12-04 | 2022-06-09 | 中国科学院深圳先进技术研究院 | 情绪加工倾向的确定方法及相关产品 |
CN114690913A (zh) * | 2022-03-28 | 2022-07-01 | 北京大学 | 基于视觉诱发宽频反应的意念打字方法及脑机接口系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101515200A (zh) * | 2009-04-03 | 2009-08-26 | 北京工业大学 | 基于瞬态视觉诱发脑电的目标选择方法 |
CN102866775A (zh) * | 2012-09-04 | 2013-01-09 | 同济大学 | 基于多模式融合的脑机接口控制系统及方法 |
CN104503580A (zh) * | 2014-12-25 | 2015-04-08 | 天津大学 | 一种对稳态视觉诱发电位脑-机接口目标的识别方法 |
CN105496404A (zh) * | 2015-11-25 | 2016-04-20 | 华南理工大学 | 基于脑机接口辅助crs-r量表听觉惊吓的评估方法 |
-
2018
- 2018-07-16 CN CN201810780109.XA patent/CN108920699B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101515200A (zh) * | 2009-04-03 | 2009-08-26 | 北京工业大学 | 基于瞬态视觉诱发脑电的目标选择方法 |
CN102866775A (zh) * | 2012-09-04 | 2013-01-09 | 同济大学 | 基于多模式融合的脑机接口控制系统及方法 |
CN104503580A (zh) * | 2014-12-25 | 2015-04-08 | 天津大学 | 一种对稳态视觉诱发电位脑-机接口目标的识别方法 |
CN105496404A (zh) * | 2015-11-25 | 2016-04-20 | 华南理工大学 | 基于脑机接口辅助crs-r量表听觉惊吓的评估方法 |
Non-Patent Citations (2)
Title |
---|
ANA MATRAN-FERNANDEZ等: "Brain–Computer Interfaces for Detection and", 《IEEE》 * |
ROBERT STEINHAUSER等: "Neural signatures of adaptive post-error adjustments in visual search", 《NEUROIMAGE》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111914711A (zh) * | 2020-07-24 | 2020-11-10 | 上海大学 | 一种基于脑电的多阶段渐进式目标识别训练系统及方法 |
CN111914711B (zh) * | 2020-07-24 | 2024-03-29 | 上海大学 | 一种基于脑电的多阶段渐进式目标识别训练系统及方法 |
CN112633312A (zh) * | 2020-09-30 | 2021-04-09 | 深圳睿瀚医疗科技有限公司 | 基于ssmvep-erp-osr混合脑机接口的自动寻优算法 |
WO2022116155A1 (zh) * | 2020-12-04 | 2022-06-09 | 中国科学院深圳先进技术研究院 | 情绪加工倾向的确定方法及相关产品 |
CN114690913A (zh) * | 2022-03-28 | 2022-07-01 | 北京大学 | 基于视觉诱发宽频反应的意念打字方法及脑机接口系统 |
Also Published As
Publication number | Publication date |
---|---|
CN108920699B (zh) | 2021-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10948990B2 (en) | Image classification by brain computer interface | |
US20230367389A9 (en) | Systems, methods, apparatuses and devices for detecting facial expression and for tracking movement and location in at least one of a virtual and augmented reality system | |
Singh et al. | Transforming sensor data to the image domain for deep learning—An application to footstep detection | |
CN108920699A (zh) | 一种基于N2pc的目标识别反馈系统及方法 | |
US9530048B2 (en) | Automated facial action coding system | |
CN109993068B (zh) | 一种基于心率和面部特征的非接触式的人类情感识别方法 | |
WO2023036015A1 (zh) | 一种基于多维身体状态感知的疲劳检测方法及系统 | |
CN108175425A (zh) | 一种分析处理装置和潜能值测验的认知指标分析方法 | |
CN112617835A (zh) | 一种基于迁移学习的多特征融合疲劳检测方法 | |
CN108647657A (zh) | 一种基于多元行为数据的云端教学过程评价方法 | |
CN112884063A (zh) | 基于多元时空卷积神经网络的p300信号检测识别方法 | |
Bartlett et al. | Towards automatic recognition of spontaneous facial actions | |
Yasser et al. | Detection of confusion behavior using a facial expression based on different classification algorithms | |
Królak et al. | Eye-blink controlled human-computer interface for the disabled | |
CN113723571A (zh) | 一种点阵笔书写判断握笔姿势的方法 | |
Bajaj et al. | AI based novel approach to detect driver drowsiness | |
CN104866470A (zh) | 一种基于用户眼球的单词查询方法 | |
Jia et al. | Decision level fusion for pulse signal classification using multiple features | |
Hollenstein | Leveraging cognitive processing signals for natural language understanding | |
Gu et al. | An integrated Gaussian mixture model to estimate vigilance level based on EEG recordings | |
Sims et al. | A neural architecture for detecting confusion in eye-tracking data | |
Korsun et al. | Convolutional neural networks emotion recognition and blink characteristics analysis for operator state estimation | |
CN109645993A (zh) | 一种提高跨个体脑-机接口识别性能的主动学习法 | |
Bernhardt et al. | Detecting emotions from everyday body movements | |
Gopalamma et al. | Analysis of Body Language and Detecting State of Mind using CNN |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |