CN110824979B - 一种无人设备控制系统和方法 - Google Patents

一种无人设备控制系统和方法 Download PDF

Info

Publication number
CN110824979B
CN110824979B CN201910979326.6A CN201910979326A CN110824979B CN 110824979 B CN110824979 B CN 110824979B CN 201910979326 A CN201910979326 A CN 201910979326A CN 110824979 B CN110824979 B CN 110824979B
Authority
CN
China
Prior art keywords
brain
target
sending
control
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910979326.6A
Other languages
English (en)
Other versions
CN110824979A (zh
Inventor
王春慧
江京
印二威
邓宝松
闫野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Defense Technology Innovation Institute PLA Academy of Military Science
China Astronaut Research and Training Center
Original Assignee
National Defense Technology Innovation Institute PLA Academy of Military Science
China Astronaut Research and Training Center
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Defense Technology Innovation Institute PLA Academy of Military Science, China Astronaut Research and Training Center filed Critical National Defense Technology Innovation Institute PLA Academy of Military Science
Priority to CN201910979326.6A priority Critical patent/CN110824979B/zh
Publication of CN110824979A publication Critical patent/CN110824979A/zh
Application granted granted Critical
Publication of CN110824979B publication Critical patent/CN110824979B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/04Programme control other than numerical control, i.e. in sequence controllers or logic controllers
    • G05B19/042Programme control other than numerical control, i.e. in sequence controllers or logic controllers using digital processors
    • G05B19/0423Input/output
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/20Pc systems
    • G05B2219/25Pc structure of the system
    • G05B2219/25257Microcontroller

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请公开了一种无人设备控制系统和方法,包括:交互模块,显示控制选项或模式识别结果,将事件时刻发送至脑电波采集模块;脑电波采集模块,采集脑电波信号,与事件时刻进行同步,得到数字信号;处理模块,对数字信号进行预处理、特征提取和模式识别;监督模块,对脑控能力进行监测或纠错,发送模式识别结果至交互模块或发送控制命令至无人设备。通过交互模块、脑电波采集模块和处理模块对脑电波进行处理,得到特征和模式识别结果,能够对采集到的脑电波信号进行快速处理和反应;使用监督模块对脑控能力进行监测或纠错,能够提高识别结果的可靠性和稳定性,从而提高整个系统的可靠性、稳定性和实用性,满足实际应用。

Description

一种无人设备控制系统和方法
技术领域
本申请涉及增强现实技术领域,尤其涉及一种无人设备控制系统和方法。
背景技术
基于脑-机接口(Brain-Computer Interface,BCI),能够构建人与机器之间双向交互、相互适应及协同工作的新方式,最终达到生物智能和机器智能的融合。脑机融合可以形成更加高级的人机混合智能形式,同时在科技创新方面产生颠覆性的影响。BCI是人类与人工智能相互协作的方式,可以确保人类不会被人工智能征服,并形成人机混合智能。我国已经在2016年于天宫二号上开展了脑机交互实验,从而证明了将BCI技术应用于太空任务的可行性。在2019年世界机器人大会上产生了新的脑控打字纪录:通过脑电波(Electroencephalogram,EEG)实现了691.55bits/min的理想信息传输速率(ITR)。该信息传输速率相当于在100%准确率下以0.413秒输出一个英文字母(单字母信息量按4.76bit/min计算)。而普通人用手在触屏手机上打字的速度是每分钟600比特。也就是说,这位选手凭借脑电波打字的最快速度,可以超过普通人用触屏手机打字。
通过增强现实(Augmented reality,AR)技术可以实现多维态势信息的表达,最终转换成人类可以接收和理解的信号,如文字、图像或声音等。实验证实,人类获取信息的83%来自视觉,因此,视觉是人类认识和改造世界的主要途径。多维态势信息的最佳展示方式是通过可视化技术将数据转换成图形或者图像显示出来。通过AR技术可以构造现实场景下的沉浸式虚拟交互界面,使用户能够以机器人的第三视角来输出控制指令。AR通过计算机生成有益且环境敏感的内容并叠加到现实世界中,以增强物理世界。在BCI的环境下,AR可以作为一种更友好和直观的真实世界用户界面,因此更容易进行无缝且目标牵引的交互。
尽管BCI系统具有更加自然的人机交互方式,但是目前大多仍处于实验室研究阶段,距离实际应用还有较大差距,且大多使用传统的信息显示方式,如平面液晶显示屏,少有基于AR的沉浸式虚拟交互界面。近年来,基于BCI技术的新型人机交互系统的性能如信息传输速率已经有了较大的发展,但是由于脑电波的非定常性和非平稳性特点,使得系统的可靠性、稳定性较差,这严重影响了用户的使用体验,也无法满足实际应用的需求。
综上所述,需要提供一种可靠性高、稳定性强、信息呈现效果好且能够满足实际应用的实用性强的控制系统和方法。
发明内容
为解决以上问题,本申请提出了一种无人设备控制系统和方法。
一方面,本申请提出一种无人设备控制系统,包括:
交互模块,用于显示控制选项或模式识别结果,将事件时刻发送至脑电波采集模块;
脑电波采集模块,用于采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块,用于对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块,用于对脑控能力进行监测或纠错,根据特征计算脑控置信度或纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备。
优选地,所述交互模块包括:
视觉刺激单元,用于根据显示指令生成控制选项和/或确认信息,发送至显示单元;
结果反馈单元,用于根据模式识别结果或纠错结果,生成显示指令,发送至视觉刺激单元;
事件发生单元,用于将视觉刺激单元发送控制选项和/或确认信息至显示单元的事件时刻发送至脑电波采集模块。
优选地,所述脑电波采集模块包括:
电极单元,用于采集用户的脑电波信号;
放大单元,用于对脑电波信号进行放大,发送至同步单元;
同步单元,用于将事件时刻与放大后的脑电波信号进行同步,将同步好的脑电波信号发送至模数转换单元;
模数转换单元,用于对同步后的脑电波信号进行模数转换,得到数字信号;
数据发送单元,用于将所述数字信号发送至信号处理模块。
优选地,所述处理模块,包括:
预处理单元,用于对数字信号进行采样、滤波和去除噪声处理后,发送至特征提取单元;
特征提取单元,用于根据数字信号中同步的事件时刻,提取数字信号的特征,得到刺激特征或反馈特征,发送至模式识别单元和监督模块;
模式识别单元,用于计算所述刺激特征或反馈特征的得分,得到模式识别结果,发送至监督模块。
优选地,所述监督模块包括:
脑控能力监测单元,用于根据接收到的所述刺激特征,判断用户的脑控置信度,若脑控置信度大于等于置信阈值,则发送模式识别结果至交互模块;
自动纠错单元,用于根据所述反馈特征和模式识别结果,生成纠错结果或控制命令,发送纠错结果至交互模块或发送控制命令至无人设备。
优选地,所述脑电波采集模块,还包括:
检测单元,用于检测电极单元的阻抗,判断各电极是否与用户头部接触良好。
优选地,所述事件时刻包括:刺激呈现时刻和反馈呈现时刻。
优选地,各所述控制选项的显示方式包括采样不同频率的正弦信号产生不同频率的闪烁,用于诱发大脑产生稳态视觉诱发电位。
第二方面,本申请提出一种无人设备控制方法,包括:
交互模块显示控制选项,将事件时刻发送至脑电波采集模块;
脑电波采集模块采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块对脑控能力进行监测,根据特征计算脑控置信度,发送模式识别结果至交互模块。
优选地,在所述发送模式识别结果至交互模块之后,还包括:
交互模块显示模式识别结果,将事件时刻发送至脑电波采集模块;
脑电波采集模块采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块对脑控能力进行纠错,根据特征计算纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备。
本申请的优点在于:通过交互模块显示控制选项或模式识别结果,信息呈现效果好,同时通过脑电波采集模块采集脑电波信号与事件时刻进行同步后,使用处理模块进行处理,得到特征和模式识别结果,能够对采集到的脑电波信号进行快速处理和反应;使用监督模块对脑控能力进行监测或纠错,根据脑控置信度或纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备,能够提高识别结果的可靠性和稳定性,从而提高整个系统的可靠性、稳定性和实用性,满足实际应用。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选事实方案的目的,而并不认为是对本申请的限制。而且在整个附图中,用同样的参考符号表示相同的部件。在附图中:
图1是本申请提供的一种无人设备控制系统的示意图;
图2是本申请提供的一种无人设备控制系统的实施方式的结构示意图;
图3是本申请提供的一种无人设备控制系统的脑电波信号采集的位置示意图;
图4是本申请提供的一种无人设备控制方法的步骤示意图;
图5是本申请提供的另一种无人设备控制方法的步骤示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施方式。虽然附图中显示了本公开的示例性实施方式,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施方式所限制。相反,提供这些实施方式是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
根据本申请的实施方式,提出一种无人设备控制系统,如图1所示,包括:
交互模块101,用于显示控制选项或模式识别结果,将事件时刻发送至脑电波采集模块;
脑电波采集模块102,用于采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块103,用于对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块104,用于对脑控能力进行监测或纠错,根据特征计算脑控置信度或纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备。
交互模块包括:
视觉刺激单元,用于根据显示指令生成控制选项和/或确认信息,发送至显示单元;
结果反馈单元,用于根据模式识别结果或纠错结果,生成显示指令,发送至视觉刺激单元;
事件发生单元,用于将视觉刺激单元发送控制选项和/或确认信息至显示单元的事件时刻发送至脑电波采集模块。
脑电波采集模块包括:
电极单元,用于采集用户的脑电波信号;
放大单元,用于对脑电波信号进行放大,发送至同步单元;
同步单元,用于将事件时刻与放大后的脑电波信号进行同步,将同步好的脑电波信号发送至模数转换单元;
模数转换单元,用于对同步后的脑电波信号进行模数转换,得到数字信号;
数据发送单元,用于将所述数字信号发送至信号处理模块。
处理模块,包括:
预处理单元,用于对数字信号进行采样、滤波和去除噪声处理后,发送至特征提取单元;
特征提取单元,用于根据数字信号中同步的事件时刻,提取数字信号的特征,得到刺激特征或反馈特征,发送至模式识别单元和监督模块;
模式识别单元,用于计算所述刺激特征或反馈特征的得分,得到模式识别结果,发送至监督模块。
监督模块包括:
脑控能力监测单元,用于根据接收到的所述刺激特征,判断用户的脑控置信度,若脑控置信度大于等于置信阈值,则发送模式识别结果至交互模块;
自动纠错单元,用于根据所述反馈特征和模式识别结果,生成纠错结果或控制命令,发送纠错结果至交互模块或发送控制命令至无人设备。
脑电波采集模块,还包括:
检测单元,用于检测电极单元的阻抗,判断各电极是否与用户头部接触良好。
所述事件时刻包括:刺激呈现时刻和反馈呈现时刻。
各所述控制选项的显示方式包括采样不同频率的正弦信号产生不同频率的闪烁,用于诱发大脑产生稳态视觉诱发电位。
刺激特征的提取,可以提取频域和/或时域特征。
反馈特征的提取,可以提取频域和/或时域特征。
在本申请实施例的另一种实施方式中,视觉刺激单元和结果反馈单元还能够分别发送信号至显示单元。即视觉刺激单元根据显示指令生成控制选项,发送至显示单元;结果反馈单元根据模式识别结果或纠错结果,生成确认信息的显示指令,发送至显示单元。事件发生单元将视觉刺激单元发送控制选项显示单元的事件时刻(刺激呈现时刻)以及结果反馈单元发送确认信息至显示单元的事件时刻(反馈呈现时刻)发送至脑电波采集模块。
控制选项的显示指令根据无人设备的被控情况,实时生成。
交互模块还包括显示单元。
显示单元用于进行增强现实显示。可以安装或集成在增强显示眼镜中。
下面,对本申请的实施方式进行进一步说明。
如图2所示,交互模块中的视觉刺激单元根据显示指令生成控制选项和/或确认信息,发送至显示单元显示,显示单元以集成在增强现实眼镜中为例,将与各控制选项对应的不同频率的定频视觉刺激通过增强现实眼镜显示。定频视觉刺激能够刺激大脑产生不同频率的脑电波信号。同时,事件发生单元将视觉刺激单元发送控制选项和/或确认信息至显示单元的事件时刻发送至脑电波采集模块。
脑电波采集模块采集脑电波信号,对脑电波信号进行放大,将事件时刻与放大后的脑电波信号进行同步后,进行模数转换,通过数据发送单元发送给处理模块。通过同步单元实现脑电波与事件时刻(视觉的刺激呈现时刻和/或反馈呈现时刻)的同步(匹配)。脑电波采集模块包括顺序连接的电极单元、放大单元、同步单元、模数转换单元和数据发送单位。脑电波采集模块还包括检测单元,用于检查系统是否连接完好,通过检测电极阻抗来检验各电极与用户头部是否接触良好,并通过用户闭眼的方式检测α波,以确保所采集的EEG信号没有被高频噪声污染。
脑电波采集模块可以将用户注视叠加在真实操控环境上的定频视觉刺激时的脑电波信号实时记录下来。
如图3所示,为本申请实施例的一种脑电波信号采集的位置图,电极单元包括无创脑电电极。无创脑电电极采用国际10-20标准,利用64通道脑电波采集设备采集位于用户头部枕区的33个电极(Fp1,Fp2,F7,F3,Fz,F4,F8,FC5,FC1,FC2,FC6,T7,C3,Cz,C4,T8,CP5,CP1,CP2,CP6,P7,P3,Pz,P4,P8,PO5,PO3,POz,PO4,PO6,O1,Oz,O2)处的脑电波信号,参考电极放置在头顶,接地电极放在前额叶,为适应实际使用场合的需要,可采用干电极。
脑电波信号经过放大单元和模数转换单元后,成为用于识别的数字信号。
优选地,放大单元和模数转换单元可与电极单元(无创脑电电极)一起集成在电极帽上,并通过数据发送单元采用无线传输的方式将数字信号传入处理模块进行处理。
同步单元用于交互模块中的事件发生单元与脑电波采集模块中采集到的脑电波数据进行同步,从而得到可以用于高性能模板同步算法(High-Performance TemplateMatching Algorithm)的脑电波数据(数字信号)。
处理模块包括预处理单元、特征提取单元和模式识别单元,用于对数字信号的时频特征(时域特征和/或频域特征)进行提取与识别。优选地,处理模块将数字信号在时域上分别提取脑电频率和时间成分。
对于刺激呈现之后的数字信号(与刺激呈现时刻进行同步的数字信号)提取频域上的特征。
优选地,预处理单元对数字信号进行截取,得到数据片段,将数据片段降采样到250Hz,利用切比雪夫I型无限脉冲响应(InfiniteImpulseResponse,IIR)滤波器进行7-90Hz带通滤波,并用50Hz的陷波滤波器去除常见的电源噪音。用滤波器组分析的方法将数据片段分解为n(n=1,2,…,5)个子频带,所用到的滤波器为IIR滤波器,对于第n个频带,其截止频率分别是n×8Hz和90Hz,使用MATLAB上的filtfilt()函数进行0相位的正向和反向滤波,得到刺激特征。模式识别单元采用CCA、TRCA等算法计算各个刺激频率所对应的得分,通过比较各个刺激频率得分的大小,识别目标刺激频率(人眼所关注的控制选项的刺激频率),得到模式识别结果。
由于各控制选项可以使用不同的刺激频率(即在增强现实显示屏上显示的控制选项的频率的不同的),所以当人眼关注不同的刺激频率产生的图像时,产生的脑电波信号也会不同。
对于反馈呈现之后的数字信号(与反馈呈现时刻进行同步的数字信号)提取时域上的特征,得到反馈特征。当显示的反馈结果(确认信息)不是用户想要的结果时,脑电波信号中会产生特异性的错误相关电位(ErrP)特征。根据ErrP成分在时域上的特征,预处理单元通过截取每个反馈结果事件发生后0~800ms的数字信号的方式进行特征提取,求得错误或者正确事件对应的分数,根据分数得到模式识别结果。其中该部分数据的预处理过程包括50Hz陷波滤波和0.05-45-Hz带通滤波,并降采样到25Hz。
模式识别单元中的分类器可以根据实际需要采用线性判别分析、支持向量机、人工神经网络等。
典型关联分析(Canonical Correlation Analysis,CCA)算法,是一种多元统计分析方法,它通过计算两组变量之间的典型相关系数,来反映两组指标之间的整体相关性。它的基本原理是:为了从总体上把握两组指标之间的相关关系,分别在两组变量中提取有代表性的两个综合变量U1和V1(分别为两个变量组中各变量的线性组合),利用这两个综合变量之间的相关关系来反映两组指标之间的整体相关性。任务相关分量分析(Task-RelevantComponent Analysis,TRCA)算法,通过最大化试次之间的协方差计算数字信号中各导联的最优线性组合,从而找到任务相关成分。
监督模块用于人机互监督,包括脑控能力监测单元和自动纠错单元。脑控能力监测单元建立用户的实时脑控能力与数字信号之间的函数,利用处理模块得到的刺激特征计算模式识别结果的脑控置信度,并以此度量脑控能力的大小,只有当脑控置信度达到预设的置信阈值,监督模块才会输出控制选项的模式识别结果,否则继续等待数字信号的累积。自动纠错单元利用脑电波监测技术,建立脑力负荷和注意水平的生理指标体系与评估模型,实现“机→人”操控的监测与预警,构建生理参数与脑控能力之间的关联特征模型。自动纠错单元根据反馈特征的模式识别结果,生成纠错结果或控制命令。若错误事件对应的分数超过错误反馈阈值,则发送纠错结果至交互模块,若正确事件对应的分数超过正确反馈阈值,则发送控制命令至无人设备。
当处理模块发送刺激特征和模式识别结果至监督模块时,模式识别结果包括得分最大的两个控制选项。
纠错结果为得分第二大的控制选项。即当错误事件对应的分数超过错误反馈阈值,则发送得分第二大的控制选项至交互模块进行显示,让用户进行再次确认。
根据刺激特征计算得到的模式识别结果以及刺激特征,发送至脑控能力监测单元。
根据反馈特征计算得到的模式识别结果,发送至自动纠错单元。
交互模块包括结果反馈单元、视觉刺激单元和事件发生单元。结果反馈单元主要用于根据目标的识别结果(模式识别结果)或纠错结果生成显示指令,发送至视觉刺激单元。视觉刺激单元根据显示指令生成控制选项和/或确认信息,发送至增强现实眼镜中显示。
优选地,视觉刺单元可以集成在增强现实眼镜中,采用正弦信号采样的方式编码模拟定频正弦刺激,进而诱发稳态视觉诱发电位(Steady-State Visual EvokedPotentials,SSVEP)特征电位。事件发生单元将刺激呈现开始的时刻(刺激呈现时刻)和反馈呈现开始的时刻(反馈呈现时刻)发送给脑电波采集模块,通过同步单元实现事件时刻与脑电波数据的同步。
对于衡量脑控能力的识别结果的脑控置信度,其具体计算步骤如下:
1、脑控能力监测单元从处理模块中得到刺激呈现开始后的脑电频域成分中所有刺激频率的特征值,以及反馈呈现后脑电时域成分的特征值。
2、通过判断稳态视觉诱发电位特征值最大值所对应的刺激是目标的脑控置信度S是否超过置信阈值K,来确定用户当前的脑控能力是否可以可靠地输出模式识别结果,此时计算出的置信度代表用于当前的脑控能力。若其值大于阈值,则输出识别结果;否则,返回刺激呈现部分,继续采集脑电波信号。所述刺激是目标的脑控置信度S计算公式如下:
Figure BDA0002234655250000101
式中,Am为各刺激频率处特征值最大值所对应的刺激,在本申请的实施方式中,认为特征值最大的刺激为目标,因此Am表示通过算法所识别和预测出的目标,X=[x1,x2,…,xN]为各刺激频率处的特征值,N为刺激的数目,P表示概率。由于无任何先验信息的情况下,各刺激为目标的概率相等,且各刺激为目标相互独立。因此:
Figure BDA0002234655250000111
3、通过离线实验建立目标和非目标所对应的特征值的概率分布,由于目标识别时,将特征值最大的刺激识别为目标,其余刺激识别为非目标,因此利用每个试次(每个刺激呈现之后下个刺激呈现之前的实验数据)最大特征值建立目标的概率分布,其余特征值建立非目标的概率分布。假设各个刺激为目标的事件独立且各刺激的特征值服从高斯分布。则目标和非目标特征值的概率密度函数服从正态分布,可以表示为:
Figure BDA0002234655250000112
Figure BDA0002234655250000113
式中,xT和xNT分别为目标和非目标的特征值,μ和σ为均值和标准差,符号~表示服从某个分布,在此表示xT服从
Figure BDA0002234655250000114
分布,xNT服从
Figure BDA0002234655250000115
分布。那么对于某刺激是目标或者非目标的概率就可以表示为相应分布的累积概率密度函数
Figure BDA0002234655250000116
其中f(x)为概率密度函数。
4、因此,根据
Figure BDA0002234655250000117
可以计算出特征值最大值所对应的刺激是目标的脑控置信度S。
无人设备包括:无人飞行器、无人车、无人船和无人潜航器等。
根据本申请的实施方式,还提出一种无人设备控制方法,如图4所示,包括:
S101,交互模块显示控制选项,将事件时刻发送至脑电波采集模块;
S102,脑电波采集模块采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
S103,处理模块对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
S104,监督模块对脑控能力进行监测,根据特征计算脑控置信度,发送模式识别结果至交互模块。
在发送模式识别结果至交互模块之后,还包括:
交互模块显示模式识别结果,将事件时刻发送至脑电波采集模块;
脑电波采集模块采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块对脑控能力进行纠错,根据特征计算纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备。
下面,以图5为例,对本申请的一种实施方式进行进一步说明。
系统启动开始按钮,进行控制系统初始化。
通过交互模块呈现视觉刺激,同时,脑电波采集模块采集脑电波信号,与事件时刻进行同步后,转换为数字信号。
处理模块对数字信号进行预处理,提取出特征进而计算模式识别结果。将特征和模式识别结果发送至监督模块计算脑控置信度;判断置信度是否超过预设的置信阈值。
如果脑控置信度没有达到置信阈值,则返回视觉刺激呈现。
如果脑控置信度达到或超过置信阈值,则将模式识别结果发送至交互模块进行呈现(显示确认信息),交互模块发送反馈呈现时刻至脑电波采集模块。用户对显示的确认信息的正确与否的响应将反应在脑电波信号上。对此脑电波信号(与此反馈呈现时刻进行同步的脑电波信号)进行处理,检测是否有错误相关电位。
如果检测到错误相关电位,则进行自动纠错,具体地,将得分第二大的模式识别结果对应的控制选项呈现给用户,并将更正之后的结果发送给结果反馈单元。
如果未检测到错误相关电位,则输出控制命令至无人设备,即将指令发送给无人设备执行相应的操作。
本申请的实施方式中,通过交互模块和增强现实显示控制选项或模式识别结果,信息呈现效果好,同时通过脑电波采集模块采集脑电波信号与事件时刻进行同步后,使用处理模块进行处理,得到特征和模式识别结果,能够对采集到的脑电波信号进行快速处理和反应;使用监督模块对脑控能力进行监测或纠错,根据脑控置信度或纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备,能够提高模式识别结果的可靠性和稳定性,从而提高整个系统的可靠性、稳定性和实用性;使用电极和增强现实显示能够增加使用的舒适度,满足实际应用。利用脑电波采集模块、处理模块、监督模块和交互模块等实现的脑机交互方式,使脑电驱动无人设备的系统佩戴简单、轻便、通用性强、可靠性好,同时适用于多种应用场景。脑-机接口与人机互监督技术相结合的脑机交互方法实现脑电波驱动的无人设备系统的操控,相比于传统的无脑控能力监测和自动纠错等功能的脑机接口系统,性能更加稳定可靠,由于可以减少错误结果的输出,用户体验更好。操控无人设备的系统通过增强现实实现三维立体沉浸式呈现方式,相比传统系统,可以实现多角度呈现,具有更强的真实感,并且制作成本低、周期短。由于能够通过脑电波对无人设备进行操控,所以本申请的实施方式还能够用于用户在肢体受限情况下的无人系统操控,并且能够确保高操控性、高可靠性和高精确性。
以上所述,仅为本申请较佳的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (9)

1.一种无人设备控制系统,其特征在于,包括:
交互模块,用于显示控制选项或模式识别结果,将事件时刻发送至脑电波采集模块;
脑电波采集模块,用于采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块,用于对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块,用于对脑控能力进行监测或纠错,根据特征计算脑控置信度或纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备;所述监督模块包括:脑控能力监测单元,用于根据接收到的刺激特征,判断用户的脑控置信度,若脑控置信度大于等于置信阈值,则发送模式识别结果至交互模块;自动纠错单元,用于根据反馈特征和模式识别结果,生成纠错结果或控制命令,发送纠错结果至交互模块或发送控制命令至无人设备;
其中,脑控置信度的具体计算步骤如下:
①脑控能力监测单元从处理模块中得到刺激呈现开始后的脑电频域成分中所有刺激频率的特征值,以及反馈呈现后脑电时域成分的特征值;
②通过判断稳态视觉诱发电位特征值最大值所对应的刺激是目标的脑控置信度S是否超过置信阈值K,来确定用户当前的脑控能力是否可以可靠地输出模式识别结果,此时计算出的置信度代表用于当前的脑控能力;若其值大于阈值,则输出识别结果;否则,返回刺激呈现部分,继续采集脑电波信号;所述刺激是目标的脑控置信度S计算公式如下:
Figure FDA0002637334130000021
式中,Am为各刺激频率处特征值最大值所对应的刺激,特征值最大的刺激为目标,因此Am表示通过算法所识别和预测出的目标,X=[x1,x2,…,xN]为各刺激频率处的特征值,N为刺激的数目,P表示概率;由于无任何先验信息的情况下,各刺激为目标的概率相等,且各刺激为目标相互独立;因此:
Figure FDA0002637334130000022
③通过离线实验建立目标和非目标所对应的特征值的概率分布,由于目标识别时,将特征值最大的刺激识别为目标,其余刺激识别为非目标,因此利用每个试次最大特征值建立目标的概率分布,其余特征值建立非目标的概率分布,其中,每个试次表示每个刺激呈现之后下个刺激呈现之前的实验数据;假设各个刺激为目标的事件独立且各刺激的特征值服从高斯分布;则目标和非目标特征值的概率密度函数服从正态分布,可以表示为:
Figure FDA0002637334130000023
Figure FDA0002637334130000024
式中,xT和xNT分别为目标和非目标的特征值,μ和σ为均值和标准差,符号~表示服从某个分布,在此表示xT服从
Figure FDA0002637334130000025
分布,xNT服从
Figure FDA0002637334130000026
分布;那么对于某刺激是目标或者非目标的概率就可以表示为相应分布的累积概率密度函数
Figure FDA0002637334130000027
其中f(x)为概率密度函数;
④根据
Figure FDA0002637334130000031
计算出特征值最大值所对应的刺激是目标的脑控置信度S。
2.如权利要求1所述的控制系统,其特征在于,所述交互模块包括:
视觉刺激单元,用于根据显示指令生成控制选项和/或确认信息,发送至显示单元;
结果反馈单元,用于根据模式识别结果或纠错结果,生成显示指令,发送至视觉刺激单元;
事件发生单元,用于将视觉刺激单元发送控制选项和/或确认信息至显示单元的事件时刻发送至脑电波采集模块。
3.如权利要求1所述的控制系统,其特征在于,所述脑电波采集模块包括:
电极单元,用于采集用户的脑电波信号;
放大单元,用于对脑电波信号进行放大,发送至同步单元;
同步单元,用于将事件时刻与放大后的脑电波信号进行同步,将同步好的脑电波信号发送至模数转换单元;
模数转换单元,用于对同步后的脑电波信号进行模数转换,得到数字信号;
数据发送单元,用于将所述数字信号发送至信号处理模块。
4.如权利要求1所述的控制系统,其特征在于,所述处理模块,包括:
预处理单元,用于对数字信号进行采样、滤波和去除噪声处理后,发送至特征提取单元;
特征提取单元,用于根据数字信号中同步的事件时刻,提取数字信号的特征,得到刺激特征或反馈特征,发送至模式识别单元和监督模块;
模式识别单元,用于计算所述刺激特征或反馈特征的得分,得到模式识别结果,发送至监督模块。
5.如权利要求1所述的控制系统,其特征在于,所述脑电波采集模块,还包括:
检测单元,用于检测电极单元的阻抗,判断各电极是否与用户头部接触良好。
6.如权利要求1所述的控制系统,其特征在于,所述事件时刻包括:刺激呈现时刻和反馈呈现时刻。
7.如权利要求1所述的控制系统,其特征在于,各所述控制选项的显示方式包括采样不同频率的正弦信号产生不同频率的闪烁,用于诱发大脑产生稳态视觉诱发电位。
8.一种无人设备控制方法,其特征在于,包括:
交互模块显示控制选项,将事件时刻发送至脑电波采集模块;
脑电波采集模块采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块对脑控能力进行监测,根据特征计算脑控置信度,发送模式识别结果至交互模块;
所述监督模块包括:脑控能力监测单元,用于根据接收到的刺激特征,判断用户的脑控置信度,若脑控置信度大于等于置信阈值,则发送模式识别结果至交互模块;自动纠错单元,用于根据反馈特征和模式识别结果,生成纠错结果或控制命令,发送纠错结果至交互模块或发送控制命令至无人设备;
其中,脑控置信度的具体计算步骤如下:
①脑控能力监测单元从处理模块中得到刺激呈现开始后的脑电频域成分中所有刺激频率的特征值,以及反馈呈现后脑电时域成分的特征值;
②通过判断稳态视觉诱发电位特征值最大值所对应的刺激是目标的脑控置信度S是否超过置信阈值K,来确定用户当前的脑控能力是否可以可靠地输出模式识别结果,此时计算出的置信度代表用于当前的脑控能力;若其值大于阈值,则输出识别结果;否则,返回刺激呈现部分,继续采集脑电波信号;所述刺激是目标的脑控置信度S计算公式如下:
Figure FDA0002637334130000051
式中,Am为各刺激频率处特征值最大值所对应的刺激,特征值最大的刺激为目标,因此Am表示通过算法所识别和预测出的目标,X=[x1,x2,…,xN]为各刺激频率处的特征值,N为刺激的数目,P表示概率;由于无任何先验信息的情况下,各刺激为目标的概率相等,且各刺激为目标相互独立;因此:
Figure FDA0002637334130000052
③通过离线实验建立目标和非目标所对应的特征值的概率分布,由于目标识别时,将特征值最大的刺激识别为目标,其余刺激识别为非目标,因此利用每个试次最大特征值建立目标的概率分布,其余特征值建立非目标的概率分布,其中,每个试次表示每个刺激呈现之后下个刺激呈现之前的实验数据;假设各个刺激为目标的事件独立且各刺激的特征值服从高斯分布;则目标和非目标特征值的概率密度函数服从正态分布,可以表示为:
Figure FDA0002637334130000061
Figure FDA0002637334130000062
式中,xT和xNT分别为目标和非目标的特征值,μ和σ为均值和标准差,符号~表示服从某个分布,在此表示xT服从
Figure FDA0002637334130000063
分布,xNT服从
Figure FDA0002637334130000064
分布;那么对于某刺激是目标或者非目标的概率就可以表示为相应分布的累积概率密度函数
Figure FDA0002637334130000065
其中f(x)为概率密度函数;
④根据
Figure FDA0002637334130000066
计算出特征值最大值所对应的刺激是目标的脑控置信度S。
9.如权利要求8所述的控制方法,其特征在于,在所述发送模式识别结果至交互模块之后,还包括:
交互模块显示模式识别结果,将事件时刻发送至脑电波采集模块;
脑电波采集模块采集脑电波信号,与事件时刻进行同步,得到数字信号,发送至处理模块;
处理模块对数字信号进行预处理、提取特征、模式识别后,发送特征和模式识别结果至监督模块;
监督模块对脑控能力进行纠错,根据特征计算纠错结果,发送模式识别结果至交互模块或发送控制命令至无人设备。
CN201910979326.6A 2019-10-15 2019-10-15 一种无人设备控制系统和方法 Active CN110824979B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910979326.6A CN110824979B (zh) 2019-10-15 2019-10-15 一种无人设备控制系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910979326.6A CN110824979B (zh) 2019-10-15 2019-10-15 一种无人设备控制系统和方法

Publications (2)

Publication Number Publication Date
CN110824979A CN110824979A (zh) 2020-02-21
CN110824979B true CN110824979B (zh) 2020-11-17

Family

ID=69549332

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910979326.6A Active CN110824979B (zh) 2019-10-15 2019-10-15 一种无人设备控制系统和方法

Country Status (1)

Country Link
CN (1) CN110824979B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111543986B (zh) * 2020-05-12 2021-03-02 清华大学 一种无需硬件连接的脑电事件同步方法
CN111967333B (zh) * 2020-07-20 2023-04-07 中国人民解放军军事科学院国防科技创新研究院 一种信号生成方法、系统、存储介质及脑机接口拼写器
CN112684896A (zh) * 2020-12-31 2021-04-20 无锡集沁智能科技有限公司 一种适用于低视力患者的智能仿生眼镜及其控制方法
CN113199469B (zh) * 2021-03-23 2022-07-08 中国人民解放军63919部队 空间机械臂系统、空间机械臂系统的控制方法及存储介质
CN113110743B (zh) * 2021-04-20 2023-10-13 中国人民解放军63919部队 一种并行脑眼融合系统和方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103345640A (zh) * 2013-07-02 2013-10-09 北京工业大学 一种面向持续想象脑电信号的分类方法
CN105051647A (zh) * 2013-03-15 2015-11-11 英特尔公司 基于生物物理信号的搜集时间和空间模式的大脑计算机接口(bci)系统
WO2019035744A1 (ru) * 2017-08-18 2019-02-21 Общество С Ограниченной Ответственностью "Нейроленд" Система и способ для бесконтактного управления пользовательским интерфейсом

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104914994A (zh) * 2015-05-15 2015-09-16 中国计量学院 基于稳态视觉诱发电位的飞行器控制系统和飞行控制方法
CN106214391B (zh) * 2016-07-21 2020-09-08 山东建筑大学 基于脑机接口的智能护理床及其控制方法
WO2018117439A1 (ko) * 2016-12-23 2018-06-28 계명대학교 산학협력단 뇌-컴퓨터 인터페이스(bci)를 이용한 게임 방식의 재활 시스템 및 그 제어방법
CN107661099A (zh) * 2017-08-03 2018-02-06 天津大学 一种检测不同脑力负荷水平下运动状态的脑电分析方法
CN107346179A (zh) * 2017-09-11 2017-11-14 中国人民解放军国防科技大学 基于诱发式脑机接口的多移动目标选择方法
CN109471528A (zh) * 2018-10-19 2019-03-15 天津大学 一种用于脑-机接口系统的脑-机互适应系统
CN110209073A (zh) * 2019-05-31 2019-09-06 湖南大佳数据科技有限公司 基于增强现实的脑机交互载人移动平台系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105051647A (zh) * 2013-03-15 2015-11-11 英特尔公司 基于生物物理信号的搜集时间和空间模式的大脑计算机接口(bci)系统
CN103345640A (zh) * 2013-07-02 2013-10-09 北京工业大学 一种面向持续想象脑电信号的分类方法
WO2019035744A1 (ru) * 2017-08-18 2019-02-21 Общество С Ограниченной Ответственностью "Нейроленд" Система и способ для бесконтактного управления пользовательским интерфейсом

Also Published As

Publication number Publication date
CN110824979A (zh) 2020-02-21

Similar Documents

Publication Publication Date Title
CN110824979B (zh) 一种无人设备控制系统和方法
CN103838378B (zh) 一种基于瞳孔识别定位的头戴式眼睛操控系统
CN112990074B (zh) 基于vr的多场景自主式控制的混合脑机接口在线系统
CN113110743B (zh) 一种并行脑眼融合系统和方法
WO2019001360A1 (zh) 一种基于视觉刺激的人机交互方法
CN108646915B (zh) 结合三维视线跟踪和脑机接口控制机械臂抓取物体的方法和系统
CN110658742A (zh) 多模态协同操控的轮椅控制系统及方法
CN109605385A (zh) 一种混合脑机接口驱动的康复辅助机器人
US11262851B2 (en) Target selection based on human gestures
CN212112406U (zh) 一种基于用户eog信号和头部姿态的驱动装置
WO2017215177A1 (zh) 一种虚拟现实中内容交互的方法和装置
CN106109164A (zh) 康复系统及康复系统的控制方法
CN106708273B (zh) 一种基于eog的开关装置及开关键实现方法
CN110442233A (zh) 一种基于手势交互的增强现实键鼠系统
CN106406534A (zh) 一种脑波参与控制的虚拟现实游戏设计技术
WO2021154606A1 (en) Human-machine interface using biopotential sensor and location sensor
CN109805923A (zh) 可穿戴设备、信号处理方法及装置
CN113082448A (zh) 基于脑电信号和眼动仪的虚拟沉浸式自闭症儿童治疗系统
CN104714645A (zh) 人机交互方法和人机交互设备
CN111273578A (zh) 基于Alpha波和SSVEP信号控制的实时脑控机器人系统及控制方法
CN113110745B (zh) 视觉刺激系统、视觉刺激产生方法及脑机接口系统
Fujisawa et al. EEG-based navigation of immersing virtual environment using common spatial patterns
Kim et al. Wearable hybrid brain-computer interface for daily life application
CN111967333A (zh) 一种信号生成方法、系统、存储介质及脑机接口拼写器
CN110882134A (zh) 跨障意图识别方法、外骨骼机器人跨障控制方法及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant