CN117195154A - 一种脑机接口系统及脑机接口系统的性能测试方法 - Google Patents

一种脑机接口系统及脑机接口系统的性能测试方法 Download PDF

Info

Publication number
CN117195154A
CN117195154A CN202311235750.2A CN202311235750A CN117195154A CN 117195154 A CN117195154 A CN 117195154A CN 202311235750 A CN202311235750 A CN 202311235750A CN 117195154 A CN117195154 A CN 117195154A
Authority
CN
China
Prior art keywords
brain
test
computer interface
electroencephalogram
motor imagery
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311235750.2A
Other languages
English (en)
Inventor
陈小刚
崔红岩
李萌
张若晴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Biomedical Engineering of CAMS and PUMC
Original Assignee
Institute of Biomedical Engineering of CAMS and PUMC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Biomedical Engineering of CAMS and PUMC filed Critical Institute of Biomedical Engineering of CAMS and PUMC
Priority to CN202311235750.2A priority Critical patent/CN117195154A/zh
Publication of CN117195154A publication Critical patent/CN117195154A/zh
Pending legal-status Critical Current

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

本发明公开了一种脑机接口系统及脑机接口系统的性能测试方法,该系统包括:脑电数据采集模块,用于获取被试者在脑机接口测试任务中的原始脑电数据,并对原始脑电数据进行划分得到至少一个待处理脑电序列;脑电特征提取模块,用于根据各待处理脑电序列下与听觉注意测试任务对应的听觉特征矩阵,并确定各脑电序列下与运动想象测试任务对应的运动想象特征矩阵;系统性能评估模块,用于基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性。实现了构建基于运动想象和听觉稳态诱发电位相结合的混合脑机接口系统,并对脑机接口系统进行系统性能评估,以得到系统性能更好,且测试结果更准确的混合脑机接口系统。

Description

一种脑机接口系统及脑机接口系统的性能测试方法
技术领域
本发明涉及脑机接口技术领域,尤其涉及一种脑机接口系统及脑机接口系统的性能测试方法。
背景技术
目前,脑机接口技术广泛应用于各个领域,其中,脑机接口技术包括单一模态脑机接口技术和混合脑机接口技术。
然而,单一模态脑机接口系统在系统性能、适应人群和应用场景等方面均存在一定的局限性,即脑机接口盲的情况。近年来,随着混合脑机接口的发展,可以同时对多种脑活动信号的信号处理,如,将运动想象和稳态视觉诱发电位进行结合以用于目标分类。但是,目前的脑机接口系统在进行脑机信号分析时存在系统不稳定,可能导致出现测试结果不准确的问题,因此,提高混合脑机接口系统的系统准确性十分重要。
基于此,需要对混合脑机接口系统的系统性能进行准确的测试评估,以得到性能更加的混合脑机接口系统。
发明内容
本发明提供了一种脑机接口系统及脑机接口系统的性能测试方法,以解决现有技术中尚未使用运动想象和听觉稳态诱发电位结合来构建混合脑机接口,以及现有的脑机接口系统在对被试者进行脑机接口测试时存在系统性能不稳定或测试结果不准确的问题。
第一方面,本发明实施例提供了一种脑机接口系统,包括:脑电数据采集模块、脑电特征提取模块和系统性能评估模块;其中,
所述脑电数据采集模块,用于获取被试者在脑机接口测试任务中的原始脑电数据,并对所述原始脑电数据进行划分得到至少一个待处理脑电序列;其中,所述脑机接口测试任务中包括听觉注意测试任务和运动想象测试任务;
所述脑电特征提取模块,用于针对各待处理脑电序列,确定当前脑电序列下与所述听觉注意测试任务对应的听觉特征矩阵,并确定所述当前脑电序列下与所述运动想象测试任务对应的运动想象特征矩阵;
所述系统性能评估模块,用于基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性;其中,所述脑机接口系统与所述被试者相连接。
第二方面,本发明实施例还提供了一种脑机接口系统的性能测试方法,其特征在于,应用于脑机接口系统,所述脑机接口系统包括脑电数据采集模块、脑电特征提取模块和系统性能评估模块;其中,所述脑机接口系统的性能测试方法,包括:
通过所述脑电数据采集模块获取被试者在脑机接口测试任务中的原始脑电数据,并对所述原始脑电数据进行划分得到至少一个待处理脑电序列;其中,所述脑机接口测试任务中包括听觉注意测试任务和运动想象测试任务;
通过所述脑电特征提取模块,针对各待处理脑电序列,确定当前脑电序列下与所述听觉注意测试任务对应的听觉特征矩阵,并确定所述当前脑电序列下与所述运动想象测试任务对应的运动想象特征矩阵;
通过所述系统性能评估模块,基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性;其中,所述脑机接口系统与所述被试者相连接。
本发明实施例的技术方案,脑电数据采集模块,用于获取被试者在脑机接口测试任务中的原始脑电数据,并对原始脑电数据进行划分得到至少一个待处理脑电序列;脑电特征提取模块,用于针对各待处理脑电序列,确定当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵,并确定当前脑电序列下与运动想象测试任务对应的运动想象特征矩阵;系统性能评估模块,用于基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性。本技术方案基于脑机接口系统向被试者同时进行听觉注意测试任务刺激和运动想象测试任务刺激,以获取被试者在测试过程中的原始脑电数据。进一步的,根据测试过程中的不同的试次将原始脑电数据进行划分得到至少一个待处理脑电序列,在此基础上,根据各待处理脑电序列对应的听觉特征矩阵和运动想象特征矩阵得到待融合矩阵,并基于预先构建的分类模型对待融合矩阵进行两类任务的分类处理,得到与各待处理脑电序列对应的分类结果。进一步的,通过测试过程中所有试次的待处理脑电序列的任务分类结果,对脑机接口系统进行系统性能测试,以得到脑机接口系统的系统评估属性,并根据系统评估属性对脑机接口系统进行性能评估。解决了现有技术中尚未使用运动想象和听觉稳态诱发电位结合来构建混合脑机接口,以及现有的脑机接口系统在对被试者进行脑机接口测试时存在系统性能不稳定或测试结果不准确的问题,实现了构建基于运动想象和听觉稳态诱发电位相结合的混合脑机接口系统,并对脑机接口系统进行系统性能评估,以得到系统性能更好,且测试结果更准确的混合脑机接口系统。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种脑机接口系统的结构示意图;
图2是根据本发明实施例一提供的一种脑机接口测试任务的测试示意图;
图3是根据本发明实施例一提供的一种基于听觉注意任务和运动想象任务对被试者进行任务刺激的示意图;
图4是根据本发明实施例一提供的一种脑电数据采集模块的结构示意图;
图5是根据本发明实施例一提供的一种待处理脑电序列的处理过程的示意图;
图6是根据本发明实施例一提供的一种脑电特征提取模块的结构示意图;
图7是根据本发明实施例一提供的一种系统性能评估模块的结构示意图;
图8是根据本发明实施例一提供的一种确定两类任务的分类结果的示意图;
图9是根据本发明实施例二提供的一种脑机接口系统的性能测试方法的流程图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“运动想象”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。
在对本技术方案进行详细阐述之前,先对本技术方案的应用场景进行简单介绍,以便更加清楚地理解本技术方案。近年来,混合脑机接口通过将多种脑活动信号相结合来构建脑机接口系统,使系统的实用性和鲁棒性等性能有了较大的提升。如,将运动想象与稳态视觉诱发电位结合用于目标分类等,而相对于单一模态的系统而言,这种混合范式的分类精度更高脑机接口盲(Brain-Computer Interface illiteracy,BCI)的比例也有所下降。听觉稳态反应(auditory steady-state response,ASSR)是由周期性调幅、调频或既调幅又调频的持续调制声等诱发的稳态脑电反应,在40Hz刺激频率处ASSR响应最为显著,被认为是评估精神分裂病症的神经性同步改变的潜在生物标志物。需要说明的是,双耳分频的刺激方式能够诱发对应频率的脑电数据频率,从而有效地对左右耳接收到的声音进行分类识别,而在现有研究中尚未将运动想象和听觉稳态诱发电位结合来构建混合脑机接口。基于此,本技术方案中提出一种基于运动想象和听觉稳态响应相结合的混合脑机接口系统。
实施例一
图1为本发明实施例一提供了一种脑机接口系统的结构示意图,本实施例可适用于基于听觉稳态诱发电位和运动想象构建混合脑机接口系统,并对脑机接口系统进行系统性能测试,以得到系统性能更好,且测试结果更准确的混合脑机接口系统的情况。
如图1所示,该系统包括:脑电数据采集模块100、脑电特征提取模块200和系统性能评估模块300;其中,
脑电数据采集模块100,用于获取被试者在脑机接口测试任务中的原始脑电数据,并对原始脑电数据进行划分得到至少一个待处理脑电序列。
在本技术方案中,脑机接口测试任务中包括听觉注意测试任务和运动想象测试任务。所谓听觉注意测试任务是指利用双耳分频听觉注意的特性对被试者进行听觉想象测试的任务。所谓运动想象测试任务是指通过向被试者展示预先设置的测试图像,并要求被试者做出与测试图像相符的动作的测试任务。在实际应用中,将脑机接口系统与被试者相连接后,通过脑机接口系统向被试者同时施加听觉注意测试任务和运动想象测试任务,并将采集得到的被试者在测试过程中产生的脑电数据作为原始电脑数据。待处理脑电序列可以理解为对原始脑电数据进行数据分割后得到的脑电片段。
示例性地,基于脑机接口测试任务对被试者进行测试的过程中包括多个试次,如,在一次脑机接口测试任务中设计30个试次,且30个试次中左/右两类任务分别为15个试次。在将被试者与脑机接口系统进行连接后,基于脑机接口系统中的脑电数据采集模块100采集被试者在测试过程中的脑电数据。在本技术方案中,将与被试者对应的包含所有试次的脑电数据作为原始脑电数据。进一步的,将原始脑电数据中与不同试次对应的测试时段对原始脑电数据进行划分,得到与各试次对应的待处理脑电序列。
脑电特征提取模块200,用于针对各待处理脑电序列,确定当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵,并确定当前脑电序列下与运动想象测试任务对应的运动想象特征矩阵。
在本技术方案中,由于脑机接口测试任务中的听觉注意测试任务和运动想象测试任务为同时进行的,因此,在各待处理脑电序列中同时包含与听觉注意测试任务对应的脑电数据和与运动想象测试任务对应的脑电数据。在此基础上,在得到至少一个待处理脑电序列后,以其中一个待处理脑电序列为当前脑电序列为例,基于脑电特征提取模块200可以从当前脑电序列中提取与听觉注意测试对应的听觉注意特征,并根据听觉注意特征生成相应的听觉特征矩阵,以基于听觉特征矩阵对被试者进行听觉稳态响应的分析。同时,从当前脑电序列中提取与运动想象测试任务对应的运动想象特征,并根据运动想象特征生成相应的运动想象特征矩阵,以基于运动想象特征矩阵对被试者进行运动想象特征的分析。
系统性能评估模块300,用于基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性。
其中,脑机接口系统与被试者相连接。脑机接口系统即为与被试者相连接的,且需要进行系统性能测试的脑机接口系统。系统评估属性可以用于表征脑机接口的性能好坏,系统评估属性越高,则表示脑机接口系统的系统性能越好,反之,系统评估属性越低,则表示脑机接口系统的系统性能越差。
在实际应用中,为了保证脑机接口在对测试用户测试的准确性,需要保证脑机接口的性能,基于此,本技术方案可以根据被试者的脑电数据对脑机接口系统进行性能测试,并得到与脑机接口系统相对应的系统评估属性。
具体的,对被试者对应的至少一个待处理脑电序列分别进行特征提取,可以得到与各待处理脑电序列对应的听觉特征矩阵和运动想象特征矩阵。需要说明的是,听觉特征矩阵中包含被试者在测试过程中的听觉注意测试的特征信息,运动想象特征矩阵中包含被试者在测试过程中的运动想象测试的特征信息。
示例性地,在听觉注意测试过程中,被试者根据提示的语义信息做出与语义信息相一致的动作,并所做动作是否与语义信息相一致确定被试者的听觉测试结果,在此过程中,根据被试者的测试过程中的当前脑电序列可以得到相应的听觉特征矩阵,以根据听觉特征矩阵完成对被试者的听觉注意测试的结果分类。例如,语义信息为“左手握拳”,若被试者同时做出左手握拳的动作,则被试者在此测试中的听觉注意测试结果为正常;反之,若被试者做出右手握拳、不响应、双手握拳或其他与语义信息不一致的动作,则被试者在此测试中的听觉注意测试结果为异常。
相类似的,在运动想象测试过程中,被试者应根据提供的测试图像执行相应的动作,并根据被试者所做的动作是否与测试图像一致确定被试者的运动想象测试结果,在此过程中,根据当前脑电序列可以提取相应的运动现象特征矩阵,以根据运动想象特征矩阵完成对被试者的运动想象测试的结果分类。例如,测试图像为“左手进行连续抓握,右手不做任何动作”,若被试者所做动作与测试图像一致,则确定被试者在此测试过程中的运动想象测试结果为正常;反之,若被试者所做动作与测试图像不一致,则确定被试者在此测试过程中的运动想象测试结果为异常。
在上述示例的基础上,脑机接口系统可以根据被试者所有的待处理脑电序列中的听觉特征矩阵和运动想象矩阵完成对被试者的测试结果的分类,进一步的,根据所有试次的分类结果是否与被试者的真实测试结果相一致对脑机接口系统进行系统性能的测试,并得到与脑机接口系统对应的系统评估属性。其中,所谓真实测试结果即为在测试过程中记录的测试结果。若基于脑机接口系统对被试者每个试次的分类结果均与被试者相应试次的真实测试结果一致,则表示脑机接口系统的系统性能非常好。换句话说,基于脑机接口系统的分类结果与相应的真实测试结果一致的次数越多,则脑机接口系统的系统性能越好。
在上述实施例的基础上,再次参见图1,脑机接口系统还包括:刺激控制模块400、听觉注意刺激模块500和运动想象刺激模块600;其中,刺激控制模块400,用于生成听觉注意测试任务和运动想象测试任务,并将听觉注意测试任务下发至听觉注意刺激模块500,将运动想象测试任务下发至运动想象刺激模块600;听觉注意刺激模块500,用于获取听觉注意测试任务,基于听觉测试任务对被试者的左耳播放第一语义提示信息,并对左耳施加第一载波频率,以及对第一载波频率叠加第一调制频率;对被试者的右耳播放第二语义提示信息,对右耳施加第二载波频率,以及对第二载波频率叠加第二调制频率;其中,第一语义提示信息与第二语义提示信息不同,第一载波频率与第二载波频率相等,第一调制频率和第二调制频率不同;运动想象刺激模块600,用于获取运动想象测试任务,并基于运动想象测试任务中的至少一组抓握测试图像对被试者进行图像刺激,其中,抓握测试图像用于引导被试者执行与抓握测试图像对应的目标抓握动作。
其中,目标抓握动作是指与抓握测试图像相一致的抓握动作。如,抓握测试图像中为“左手抓握,右手张开”,则被试者的目标抓握动作为“左手抓握,右手张开”。
在一个具体的例子中,如图2所示,在实验正式开始前,基于脑机接口系统中的刺激控制模块400可以生成听觉注意测试任务和运动想象测试任务,并将听觉注意测试任务下发至听觉注意刺激模块500。在实验开始后,设置5s的空白时间用于令被试者放松且集中注意力,然后进入一个试次的任务。首先,基于听觉刺激模块500以伪随机的方式设置语义信息出现在被试者耳朵的一侧用来提示听觉注意侧和令被试者注意提示侧收到的声音刺激进行抓握动作运动想象,语义信息的呈现时间与提示时间相同,均为1s。然后,分别为被试者左右耳施加40Hz和41Hz的声音刺激。任务结束后,设置1s的休息时间,在休息时间内不为双耳提供任何声音刺激。以上以左/右耳刺激为例为一个试次的测试过程,每种语义信息出现在左/右耳的顺序随机,每一组测试中包含30个试次,30个试次中左/右两类任务分别15个试次。
对于语义信息的设置,为使被试者能够明确在接下来试次的想象任务和听觉注意任务中应进行的任务类别侧。其语音信息具体为“左手抓握”和“右手抓握”(即,第一语义信息或第二语义信息)。两侧的语义信息提示以伪随机的顺序出现,当一侧为语义信息提示时,为另一侧添加相同时间长度的环境噪声刺激,以模拟真实场景下的声音干扰。
对于听觉刺激任务,如图3所示,使用双耳分频的形式同时进行听觉刺激,采用载波频率为1000Hz的幅度调制(即,与被试者左耳和右耳分别对应的第一载波频率和第二载波频率),调制方式为正弦调制。对左耳和右耳的声音刺激的调制频率分别为40Hz(即,与被试者左耳对应的第一调制频率)和41Hz(即,与被试者右耳对应的第二调制频率),声音刺激类型分别为click声和chirp声。声音刺激播放装置为分别置于被试者左耳侧和右耳侧30cm处的两个外放音响装置。提示任务开始后,两侧音响分别同时播放40Hz和41Hz的两种声音刺激,令被试者注意提示侧的声音刺激即可。
同时,对于运动想象任务,再次参见图3,基于运动想象刺激模块600令被试者以放松的姿态坐下后,在距离其90cm的位置放置一个分辨率为1920×1080显示器,实验前准备的5s时间内,显示器中左侧与右侧位置分别显示左右两只手的握拳状态图片(即,抓握测试图像)。实验进入1s提示阶段,语义信息提示开始播放,与此同时,对应的在显示器中的同侧手由握拳状态变为张开状态,而另一侧手仍保持握拳状态,任务开始后,目标侧手的握拳和张开图片以固定的节奏交替呈现来达到手部进行抓握动作的动画效果,被试者则跟随显示器中的动画提示完成对应侧手的抓握运动想象。当进入1s休息阶段时,两侧手均恢复为握拳状态。以上由呈现于显示器中的图片序列来进行运动想象任务的提示,通过让被试者进行相应动作的运动观察来增强运动想象的效果,在一定程度上弱化单纯的主观运动想象带来的主观性与随机性。
可选的,语义提示信息的呈现时间与运动想象测试任务的任务执行时间相同。
可选的,语义提示信息包括与被试者的左耳对应的左手抓握或与被试者的右耳对应的右手抓握,调制频率包括与左耳对应的第一调制频率以及与右耳对应的第二调制频率,第一调制频率和第二调制频率的频率差值小于预设频率差值。
在上述实施例的基础上,可选的,如图4所示,脑电数据采集模块100,包括:脑电数据采集单元110、窗口设置单元120和序列划分单元130。
其中,脑电数据采集单元110,用于获取被试者在脑机接口测试任务中的原始脑电数据;窗口设置单元120,用于根据预设窗口长度设置待使用时间窗口;序列划分单元130,用于基于待使用时间窗口对原始脑电数据进行序列划分,得到至少一个待处理脑电序列。
在本技术方案中对原始脑电数据进行划分时可以基于窗口划分的方式划分。预设窗口长度可以理解为对原始脑电数据进行划分时采用的划分窗口的长度,如,可以根据每个试次对应的时间长度设置预设窗口长度。待使用时间窗口是指对原始脑电数据进行划分的窗口,其窗口长度为预设窗口长度。
具体的,在对被试者进行脑电测试之前,基于窗口设置单元120根据脑机接口测试任务中每个试次的测试时长设置预设窗口长度,并根据预设窗口长度设置待使用时间窗口。进一步的,在对被试者进行测试时,基于脑电数据采集单元110采集被试者测试过程中的原始脑电数据,并基于序列划分单元130根据待使用时间窗口对原始脑电数据进行序列划分,得到至少一个待处理脑电序列。
在本技术方案中,基于听觉稳态响应与运动想象相结合的脑机接口技术,旨在提高运动想象范式的系统性能。该方法通过为双耳设置不同的声音刺激频率,同时进行左右手的运动想象用于左右手分类,同时添加语义信息用于提示听觉注意侧和运动想象任务侧。
在上述示例的基础上,如图5所示,对于两类别的分析方法,首先使用滑动时间窗方法设置待使用时间窗口,并基于待使用时间窗口将两种任务期间的2s时间周期分割为多个脑电数据子序列(即,待处理脑电序列)。如,待处理脑电子序列对应的任务时段为[0,1s],[0.5s,1.5s]和[1s,2s]。
可选的,如图6所示,脑电特征提取模块200,包括:听觉特征提取单元210,听觉特征提取单元210包括:听觉测试频段确定子单元211、模板确定子单元212、子矩阵确定子单元213和听觉特征矩阵确定子单元214。
其中,听觉测试频段确定子单元211,用于确定当前脑电序列对应的至少一个听觉测试频段;模板确定子单元212,用于针对各听觉测试频段,确定当前听觉测试频段下当前脑电序列对应的参考信号模板;子矩阵确定子单元213,用于基于当前听觉测试频段和参考信号模板,确定当前脑电序列在当前听觉测试频段下的听觉特征子矩阵;听觉特征矩阵确定子单元214,用于基于至少一个听觉测试频段的听觉特征子矩阵,得到当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵。
在实际应用中,对被试者进行听觉注意测试时,对被试者的左右耳分别施加相同的载波频率,并在与左耳对应的载波频率上施加第一调制频率,在于右耳对应的载波频率上施加第二调制频率,基于此,在被试者每个试次所对应的待处理脑电序列中可以包括不同的听觉测试频段。例如,需要对被试者在[30Hz,90Hz]频段内的听觉注意测试,以其中一个待处理脑电序列为当前脑电序列为例,基于听觉测试频段确定子单元211可以将当前脑电序列对应的测试频段进行划分,得到至少一个听觉测试频段,如,[30Hz,35Hz)、[35Hz,40Hz)……[85Hz,90Hz]。或者,对测试频段进行划分时,也可以是依次划分,如,得到的至少一个听觉测试频段包括[30Hz,35Hz)、[32Hz,36Hz)、[33Hz,37Hz)……[85Hz,90Hz],再次参见图5。在本技术方案中,对测试频段的具体划分方式不做具体限定,可以根据实际测试需求自定义划分。
进一步的,在对每个测试频段进行处理的方法相类似,以其中一个听觉测试频段为当前听觉测试频段为例,基于模板确定子单元212构建基于两种刺激频率对应的参考信号模板。继而,根据听觉稳态诱发反应(ASSR)对应的不同的测试频段,并基于子矩阵确定单元213分别与参考信号模板进行典型相关性分析,得到两种信号的典型相关系数(即,听觉特征子矩阵)。进一步的,基于听觉特征矩阵确定子单元214基于至少一个听觉测试频段的听觉特征子矩阵,得到当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵。
在上述示例的基础上,在当前脑电序列中包括与被试者的左耳对应的测试信息,以及与被试者右耳对应的测试信息,且对左耳和右耳时间的测试频段是不同的,因此,需要分别确定与左耳的听觉测试频段对应的参考信号模板和与右耳听觉测试频段对应的参考信号模板。以左耳对应的参考信号模板为例,与当前听觉测试频段对应的参考信号模板如下所示:
其中,Yf表示参考信号模板,f为听觉刺激的调制频率,Nh表示谐波数目,Np为采样点个数,fs表示采样频率,t表示任务时间。
其中,f为左耳fL或右耳fR对应的调制频率,在本技术方案中所述Nh可以设置为2。
基于此,左耳的当前听觉测试频段和参考信号模板之间的相关系数可以表示为:
ρ=ρ(XTWX(XYf),YTWY(XYf))
其中,ρ表示当前听觉测试频段和参考信号模板之间的相关系数,WX(XYf)表示当前脑电序列X对应的权重系数,WY(XYf)表示参考信号模板Y对应的权重系数,Yf表示参考信号模板。
在上述示例的基础上,以相同的方式确定与右耳的当前听觉测试频段对应的参考信号模板,并确定与右耳的当前听觉测试频段和相应的参考信号模板之间的相关系数。进一步的,基于左耳对应的相关系数和右耳对应的相关系数得到当前脑电序列在当前听觉测试频段下的听觉特征子矩阵。
进一步的,依据相同的方式确定其余各待处理脑电序列对应的听觉特征子矩阵,并基于所有待处理脑电序列对应的听觉特征子矩阵得到当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵。
可选的,再次参见图6,脑电特征提取模块200,包括:运动想象特征提取单元220,运动想象特征提取单元220包括:想象测试频段确定子单元221、投影矩阵确定子单元222、待使用矩阵确定子单元223和运动想象特征矩阵确定子单元224。
其中,想象测试频段确定子单元221,用于确定当前脑电序列对应的至少一个运动想象测试频段;投影矩阵确定子单元222,用于针对各运动想象测试频段,确定当前运动想象测试频段下当前脑电序列对应的空间投影矩阵;待使用矩阵确定子单元223,用于基于当前脑电序列和空间投影矩阵的乘积,得到当前脑电序列在当前运动想象测试频段下的待使用矩阵;运动想象特征矩阵确定子单元224,用于基于至少一个运动想象测试频段的待使用矩阵的特征值,得到当前脑电序列下与运动想象测试任务对应的运动想象特征矩阵。
在实际应用中,在每个时间对应的待处理脑电序列中的不同频段分别使用共空间模式(CSP)提取与被试者在运动想象测试过程中对应的空间特征,并利用矩阵的对角化找到一组最优空间滤波器进行投影,以使两类信号的方差差异化最大,从而得到据具有较高区分度的特征向量。
对于CSP分析方法,以单个试次为例,通过以下公式可以确定被试者的左手和右手在运动想象测试任务下的脑电数据对应的协方差矩阵:
其中,HL表示左手的脑电数据对应的协方差矩阵,L表示左手标签,trac表示矩阵对角线上元素的和,XL表示左手标签对应的脑电数据。
其中,HR表示右手的脑电数据对应的协方差矩阵,R表示右手标签,trace表示矩阵对角线上元素的和,XR表示右手标签对应的脑电数据。
进一步的,基于被试者的左手对应的协方差矩阵与右手对应的协方差矩阵之和,得到混合空间协方差矩阵H。
在混合空间协方差矩阵H的基础上进行白化处理,并基于以下公式对矩阵H进行特征值分解,以使左手和右手执行的任务的脑电数据尽量不相关:
H=UλUT
其中,H表示混合空间协方差矩阵,U表示矩阵λ的特征向量矩阵,λ是基于H的特征值构成的对角阵。
根据得到的特征向量矩阵和对角阵,可以得到白化矩阵为:
其中,P表示白化矩阵,λ是基于H的特征值构成的对角阵,U表示矩阵λ的特征向量矩阵。
进一步的,确定与当前脑电序列对应的空间投影矩阵。具体的,使用白化矩阵分别对左手和右手两种任务对应的协方差矩阵进行处理:
然后,对SL和SR进行离散K-L变换,在信息损失最小的情况下选取特征,删去部分特征,使得剩下的特征更加有利于分类。具体的,可以基于以下公式进行特征提取:
其中,SL和SR分别代表左手和右手对应的白化后的矩阵,B代表SL和SR的特征向量,λL和λR分别为SL和SR对应的特征值的对角阵。
SL和SR具有相同的特征向量B,且两个特征值的对角阵λLR=I,即两类矩阵的特征值相加为1,则将两种特征值分别按降序和升序排列,整理后为:
其中,IL+IR=1,σm则代表特征值对角阵共有m维。
在此基础上,空间滤波器的空间投影矩阵W可以表示为:
W=BTP
其中,W表示空间投影矩阵,P表示白化矩阵,B表示SL和SR的特征向量。
进一步的,提取左手和右手分类任务对应的特征。首先,基于空间投影矩阵W对当前脑电序列进行投影处理,得到:
其中,W表示空间投影矩阵,ZL表示左手对应的投影后的矩阵,ZR表示右手对应的投影后的矩阵,XL表示左手对应的待测试脑电信号数据,XR表示左手对应的待测试脑电信号数据。
则,左手对应的特征矩阵可以用以下公式表示:
其中,fL左手对应的特征矩阵表示,ZL表示左手对应的投影后的矩阵,var()表示求括号内数据的方差。
右手对应的特征矩阵可以用以下公式表示:
其中,fR右手对应的特征矩阵表示,ZR表示右手对应的投影后的矩阵,var()表示求括号内数据的方差。
可选的,如图7所示,系统性能评估模块300,包括:待融合矩阵确定单元310和评估属性确定单元320。
其中,待融合矩阵确定单元310,用于针对各待处理脑电序列,将当前脑电序列对应的听觉特征矩阵和运动想象特征矩阵进行矩阵拼接,得到待融合矩阵;评估属性确定单元320,用于基于至少一个待融合矩阵,确定脑机接口系统的系统评估属性。
具体的,以其中一个待处理脑电序列为当前脑电序列为例,在根据当前脑电序列得到对应的听觉特征矩阵和运动想象矩阵后,将两个矩阵进行矩阵拼接处理,得到待融合矩阵。进一步的,基于各待融合矩阵进行任务分类,并根据分类结果确定脑机接口系统的系统评估属性。
可选的,评估属性确定单元320,包括:分类结果确定子单元321和评估属性确定子单元322。
其中,分类结果确定子单元321,用于针对各待融合矩阵,基于预先构建的分类模型确定当前待融合矩阵对应的分类结果;评估属性确定子单元322,用于基于至少一个分类结果中与预设分类结果相一致的分类结果数量,确定脑机接口系统的系统评估属性。
其中,分类模型可以用于根据待融合矩阵确定对被试者的左右手测试任务的测试结果的分类,如,分类模型可以为基于线性核函数的支持向量机(support vectormachines,SVM),或者还可以是其他的二分类模型等。
在上述示例的基础上,如图8所示,针对各待处理脑电序列对应的待融合矩阵,基于预先构建的分类模型对各待处理脑电序列的左右手测试任务的测试结果进行分类。
具体的,可以基于以下公式进行分类:
/>
其中,xi为第个特征向量,yi为xi的类标记,K(x,xi)为该支持向量机的核函数,为拉格朗日乘子向量,b*为常数,sign为决策函数。
进一步的,对各待融合矩阵对应的左右手分类结果进行分值属性评估,以及每个待处理脑电序列对应的分类结果,如,直接根据每个待处理脑电序列对应的分值评估属性对脑机接口系统进行系统性能的评估。在本技术方案中,也可以在输出各待处理脑电序列对应的分值评估属性后,为得到最终分类结果,将所有左右手分类结果对应的待融合矩阵分别进行相加,并根据最后的融合分值评估属性完成本次脑机接口测试任务的分类处理。
本发明实施例的技术方案,脑电数据采集模块,用于获取被试者在脑机接口测试任务中的原始脑电数据,并对原始脑电数据进行划分得到至少一个待处理脑电序列;脑电特征提取模块,用于针对各待处理脑电序列,确定当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵,并确定当前脑电序列下与运动想象测试任务对应的运动想象特征矩阵;系统性能评估模块,用于基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性。本技术方案基于脑机接口系统向被试者同时进行听觉注意测试任务刺激和运动想象测试任务刺激,以获取被试者在测试过程中的原始脑电数据。进一步的,根据测试过程中的不同的试次将原始脑电数据进行划分得到至少一个待处理脑电序列,在此基础上,根据各待处理脑电序列对应的听觉特征矩阵和运动想象特征矩阵得到待融合矩阵,并基于预先构建的分类模型对待融合矩阵进行两类任务的分类处理,得到与各待处理脑电序列对应的分类结果。进一步的,通过测试过程中所有试次的待处理脑电序列的任务分类结果,对脑机接口系统进行系统性能测试,以得到脑机接口系统的系统评估属性,并根据系统评估属性对脑机接口系统进行性能评估。解决了现有技术中尚未使用运动想象和听觉稳态诱发电位结合来构建混合脑机接口,以及现有的脑机接口系统在对被试者进行脑机接口测试时存在系统性能不稳定或测试结果不准确的问题,实现了构建基于运动想象和听觉稳态诱发电位相结合的混合脑机接口系统,并对脑机接口系统进行系统性能评估,以得到系统性能更好,且测试结果更准确的混合脑机接口系统。
实施例二
图9为本发明实施例二提供的一种脑机接口系统的性能测试方法,其特征在于,应用于脑机接口系统,脑机接口系统包括脑电数据采集模块、脑电特征提取模块和系统性能评估模块。
如图9所示,该方法包括:
S110、通过脑电数据采集模块获取被试者在脑机接口测试任务中的原始脑电数据,并对原始脑电数据进行划分得到至少一个待处理脑电序列。
其中,脑机接口测试任务中包括听觉注意测试任务和运动想象测试任务。
S120、通过脑电特征提取模块,针对各待处理脑电序列,确定当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵,并确定当前脑电序列下与运动想象测试任务对应的运动想象特征矩阵。
S130、通过系统性能评估模块,基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性。
其中,脑机接口系统与被试者相连接。
本发明实施例的技术方案脑机接口系统的性能测试方法,其特征在于,应用于脑机接口系统,脑机接口系统包括脑电数据采集模块、脑电特征提取模块和系统性能评估模块;其中,脑机接口系统的性能测试方法,包括:通过脑电数据采集模块获取被试者在脑机接口测试任务中的原始脑电数据,并对原始脑电数据进行划分得到至少一个待处理脑电序列;通过脑电特征提取模块,针对各待处理脑电序列,确定当前脑电序列下与听觉注意测试任务对应的听觉特征矩阵,并确定当前脑电序列下与运动想象测试任务对应的运动想象特征矩阵;通过系统性能评估模块,基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性。本技术方案基于脑机接口系统向被试者同时进行听觉注意测试任务刺激和运动想象测试任务刺激,以获取被试者在测试过程中的原始脑电数据。进一步的,根据测试过程中的不同的试次将原始脑电数据进行划分得到至少一个待处理脑电序列,在此基础上,根据各待处理脑电序列对应的听觉特征矩阵和运动想象特征矩阵得到待融合矩阵,并基于预先构建的分类模型对待融合矩阵进行两类任务的分类处理,得到与各待处理脑电序列对应的分类结果。进一步的,通过测试过程中所有试次的待处理脑电序列的任务分类结果,对脑机接口系统进行系统性能测试,以得到脑机接口系统的系统评估属性,并根据系统评估属性对脑机接口系统进行性能评估。解决了现有技术中尚未使用运动想象和听觉稳态诱发电位结合来构建混合脑机接口,以及现有的脑机接口系统在对被试者进行脑机接口测试时存在系统性能不稳定或测试结果不准确的问题,实现了构建基于运动想象和听觉稳态诱发电位相结合的混合脑机接口系统,并对脑机接口系统进行系统性能评估,以得到系统性能更好,且测试结果更准确的混合脑机接口系统。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (10)

1.一种脑机接口系统,其特征在于,包括:脑电数据采集模块、脑电特征提取模块和系统性能评估模块;其中,
所述脑电数据采集模块,用于获取被试者在脑机接口测试任务中的原始脑电数据,并对所述原始脑电数据进行划分得到至少一个待处理脑电序列;其中,所述脑机接口测试任务中包括听觉注意测试任务和运动想象测试任务;
所述脑电特征提取模块,用于针对各待处理脑电序列,确定当前脑电序列下与所述听觉注意测试任务对应的听觉特征矩阵,并确定所述当前脑电序列下与所述运动想象测试任务对应的运动想象特征矩阵;
所述系统性能评估模块,用于基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性;其中,所述脑机接口系统与所述被试者相连接。
2.根据权利要求1所述的系统,其特征在于,还包括:刺激控制模块、听觉注意刺激模块和运动想象刺激模块;其中,
所述刺激控制模块,用于生成听觉注意测试任务和运动想象测试任务,并将所述听觉注意测试任务下发至所述听觉注意刺激模块,将所述运动想象测试任务下发至所述运动想象刺激模块;
所述听觉注意刺激模块,用于获取听觉注意测试任务,基于所述听觉测试任务对所述被试者的左耳播放第一语义提示信息,并对所述左耳施加第一载波频率,以及对所述第一载波频率叠加第一调制频率;对所述被试者的右耳播放第二语义提示信息,对所述右耳施加第一载波频率,并对所述右耳施加第二载波频率,以及对所述第二载波频率叠加第二调制频率;其中,所述第一语义提示信息与所述第二语义提示信息不同,所述第一载波频率与所述第二载波频率相等,所述第一调制频率和所述第二调制频率不同;
所述运动想象刺激模块,用于获取运动想象测试任务,并基于所述运动想象测试任务中的至少一组抓握测试图像对所述被试者进行图像刺激,其中,所述抓握测试图像用于引导所述被试者执行与所述抓握测试图像对应的目标抓握动作。
3.根据权利要求2所述的系统,其特征在于,所述语义提示信息的呈现时间与所述运动想象测试任务的任务执行时间相同。
4.根据权利要求2所述的系统,其特征在于,所述语义提示信息包括与所述被试者的左耳对应的左手抓握或与所述被试者的右耳对应的右手抓握,所述调制频率包括与所述左耳对应的第一调制频率以及与所述右耳对应的第二调制频率,所述第一调制频率和所述第二调制频率的频率差值小于预设频率差值。
5.根据权利要求1所述的系统,其特征在于,所述脑电数据采集模块,包括:脑电数据采集单元、窗口设置单元和序列划分单元;其中,
所述脑电数据采集单元,用于获取被试者在脑机接口测试任务中的原始脑电数据;
所述窗口设置单元,用于根据预设窗口长度设置待使用时间窗口;
所述序列划分单元,用于基于所述待使用时间窗口对所述原始脑电数据进行序列划分,得到至少一个待处理脑电序列。
6.根据权利要求1所述的系统,其特征在于,所述脑电特征提取模块,包括:听觉特征提取单元,所述听觉特征提取单元包括听觉测试频段确定单元、模板确定单元、子矩阵确定单元和听觉特征矩阵确定单元;其中,
所述听觉测试频段确定单元,用于确定当前脑电序列对应的至少一个听觉测试频段;
所述模板确定单元,用于针对各听觉测试频段,确定当前听觉测试频段下所述当前脑电序列对应的参考信号模板;
所述子矩阵确定单元,用于基于所述当前听觉测试频段和所述参考信号模板,确定所述当前脑电序列在所述当前听觉测试频段下的听觉特征子矩阵;
所述听觉特征矩阵确定单元,用于基于至少一个所述听觉测试频段的听觉特征子矩阵,得到所述当前脑电序列下与所述听觉注意测试任务对应的听觉特征矩阵。
7.根据权利要求1所述的系统,其特征在于,所述脑电特征提取模块,包括:运动想象特征提取单元,所述运动想象特征提取单元包括想象测试频段确定子单元、投影矩阵确定子单元、待使用矩阵确定子单元和运动想象特征矩阵确定子单元;其中,
所述想象测试频段确定子单元,用于确定当前脑电序列对应的至少一个运动想象测试频段;
所述投影矩阵确定子单元,用于针对各运动想象测试频段,确定当前运动想象测试频段下所述当前脑电序列对应的空间投影矩阵;
所述待使用矩阵确定子单元,用于基于所述当前脑电序列和所述空间投影矩阵的乘积,得到所述当前脑电序列在所述当前运动想象测试频段下的待使用矩阵;
所述运动想象特征矩阵确定子单元,用于基于至少一个所述运动想象测试频段的待使用矩阵的特征值,得到所述当前脑电序列下与所述运动想象测试任务对应的运动想象特征矩阵。
8.根据权利要求1所述的系统,其特征在于,所述系统性能评估模块,包括:待融合矩阵确定单元和评估属性确定单元;其中,
所述待融合矩阵确定单元,用于针对各所述待处理脑电序列,将所述当前脑电序列对应的听觉特征矩阵和运动想象特征矩阵进行矩阵拼接,得到待融合矩阵;
所述评估属性确定单元,用于基于至少一个待融合矩阵,确定脑机接口系统的系统评估属性。
9.根据权利要求8所述的系统,其特征在于,所述评估属性确定单元,包括:分类结果确定子单元和评估属性确定子单元;其中,
所述分类结果确定子单元,用于针对各待融合矩阵,基于预先构建的分类模型确定当前待融合矩阵对应的分类结果;
所述评估属性确定子单元,用于基于至少一个分类结果中与预设分类结果相一致的分类结果数量,确定所述脑机接口系统的系统评估属性。
10.一种脑机接口系统的性能测试方法,其特征在于,应用于脑机接口系统,所述脑机接口系统包括脑电数据采集模块、脑电特征提取模块和系统性能评估模块;其中,所述脑机接口系统的性能测试方法,包括:
通过所述脑电数据采集模块获取被试者在脑机接口测试任务中的原始脑电数据,并对所述原始脑电数据进行划分得到至少一个待处理脑电序列;其中,所述脑机接口测试任务中包括听觉注意测试任务和运动想象测试任务;
通过所述脑电特征提取模块,针对各待处理脑电序列,确定当前脑电序列下与所述听觉注意测试任务对应的听觉特征矩阵,并确定所述当前脑电序列下与所述运动想象测试任务对应的运动想象特征矩阵;
通过所述系统性能评估模块,基于所有待处理脑电序列的听觉特征矩阵和运动想象特征矩阵,确定脑机接口系统的系统评估属性;其中,所述脑机接口系统与所述被试者相连接。
CN202311235750.2A 2023-09-22 2023-09-22 一种脑机接口系统及脑机接口系统的性能测试方法 Pending CN117195154A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311235750.2A CN117195154A (zh) 2023-09-22 2023-09-22 一种脑机接口系统及脑机接口系统的性能测试方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311235750.2A CN117195154A (zh) 2023-09-22 2023-09-22 一种脑机接口系统及脑机接口系统的性能测试方法

Publications (1)

Publication Number Publication Date
CN117195154A true CN117195154A (zh) 2023-12-08

Family

ID=88994306

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311235750.2A Pending CN117195154A (zh) 2023-09-22 2023-09-22 一种脑机接口系统及脑机接口系统的性能测试方法

Country Status (1)

Country Link
CN (1) CN117195154A (zh)

Similar Documents

Publication Publication Date Title
CN110169770B (zh) 情绪脑电的细粒度可视化系统和方法
Wu et al. Fuzzy integral with particle swarm optimization for a motor-imagery-based brain–computer interface
CN106569604B (zh) 视听双模态语义匹配和语义失配协同刺激脑机接口方法
US20070060830A1 (en) Method and system for detecting and classifying facial muscle movements
Liu et al. A fuzzy psycho-physiological approach to enable the understanding of an engineer’s affect status during CAD activities
Sawangjai et al. EEGANet: Removal of ocular artifacts from the EEG signal using generative adversarial networks
JPS63226340A (ja) 脳神経活動の位置と内部域の時間的関係を表示する方法とその装置
CN110974212A (zh) 一种融合心电和肌电特征的康复训练运动状态监测方法及系统
CN108143409A (zh) 睡眠阶段分期方法及装置
Williams et al. 10 years of EPOC: A scoping review of Emotiv’s portable EEG device
US20180224936A1 (en) Brain to brain communication system for social media
CN104571504B (zh) 一种基于想象动作的在线脑‑机接口方法
CN111714118A (zh) 一种基于集成学习的脑认知模型融合方法
CN108523883A (zh) 一种基于实际动作建模的左右食指连续运动想象识别系统
KR101714708B1 (ko) 뇌운동관련전위 기반 뇌-컴퓨터 인터페이스 장치 및 방법
CN109770896A (zh) 梦境图像重现方法、装置及存储介质、服务器
CN114756121A (zh) 基于脑机接口的虚拟现实可交互式情绪检测与调控系统
CN111026267A (zh) Vr脑电意念控制接口系统
KR20050068939A (ko) 차량용 정보 시스템의 사용성 평가 시스템
CN116700495A (zh) 基于稳态视觉诱发电位和运动想象的脑机交互方法和设备
Ahmed et al. Effective hybrid method for the detection and rejection of electrooculogram (EOG) and power line noise artefacts from electroencephalogram (EEG) mixtures
CN117195154A (zh) 一种脑机接口系统及脑机接口系统的性能测试方法
KR102094936B1 (ko) Bci 시스템의 신뢰성 향상 방법
Hossain et al. Cognitive load measurement using galvanic skin response for listening tasks
CN111222578A (zh) 一种运动想象eeg信号的在线处理方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination