CN111584027B - 融合复杂网络和图卷积的脑控康复系统运动想象识别系统 - Google Patents
融合复杂网络和图卷积的脑控康复系统运动想象识别系统 Download PDFInfo
- Publication number
- CN111584027B CN111584027B CN202010364649.7A CN202010364649A CN111584027B CN 111584027 B CN111584027 B CN 111584027B CN 202010364649 A CN202010364649 A CN 202010364649A CN 111584027 B CN111584027 B CN 111584027B
- Authority
- CN
- China
- Prior art keywords
- motor imagery
- entropy
- eeg
- electroencephalogram
- brain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/30—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Pathology (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Computing Systems (AREA)
- Heart & Thoracic Surgery (AREA)
- Computational Linguistics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Artificial Intelligence (AREA)
- Veterinary Medicine (AREA)
- Physical Education & Sports Medicine (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
一种融合复杂网络和图卷积的脑控康复系统运动想象识别系统,被试者通过观看手部握拳与伸展动作视频进行运动想象,同时脑电信号采集设备采集被试者的运动想象EEG脑电信号;运动意图识别模块对获得的运动想象EEG脑电信号构建多熵复杂网络,提取运动想象EEG脑电信号中符号波动、频率能量分布和幅值波动方面的特征,输入图卷积神经网络中对握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号进行分类与辨识,将分类结果传输到脑控康复系统,促使被试者执行手部握拳与伸展动作;该脑控康复系统使得运动意图和肢体感觉之间形成闭环通路,逐渐增强被试者的肌肉强度和神经传导速度,促进受损大脑运动区域的恢复,逐渐恢复活动能力。
Description
技术领域
本发明涉及一种运动想象识别系统。特别是涉及一种融合复杂网络和图卷积的脑控康复系统运动想象识别系统。
背景技术
脑-机接口(BCI)系统提供了人脑与外部设备之间的连接途径,该系统首先采集大脑活动信号,接着通过信号处理部分检测用户的意图,最后将意图转化为指令控制外部设备。运动想象是一种经典的BCI范式,人在想象肢体运动时,会引起大脑运动感知皮层某一区域的激活,运动感知皮层的激活会引发皮层电位变化,这种电信号称为运动想象信号。不同的运动想象任务会在大脑感觉运动皮层的不同区域观察到振荡活动。应用运动想象的BCI系统在神经科学和康复领域具有重要价值,已被用于脑卒中患者大脑的神经传输功能恢复,帮助患者恢复受损的运动功能。基于运动想象的康复系统可以将患者的运动意图转化为患者的肢体运动,帮助患者更好地进行主动康复训练。关于运动想象的研究,主要在于对采集的运动想象EEG信号进行分类和特征提取。共空间模式(CSP)是运动想象研究中用于提取特征的经典方法,其他特征提取和降维方法,例如独立分量分析(ICA)和主成分分析(PCA)也经常用于提高运动想象分类精度。在分类部分,许多传统算法,如支持向量机(SVM)和线性判别分析(LDA)已被广泛应用。但是由于脑电信号具有微弱、噪声大等特点,目前还无法实现对运动想象信号的精准分类,对于运动想象信号特征的准确提取还需要进一步探索。复杂网络作为新兴的非线性复杂系统分析工具,能够对复杂系统进行表征和特征提取。图卷积能够对图进行处理,提取其中更高层次的特征并对信号进行分类。将复杂网络和图卷积神经网络相结合能够提高运动想象信号的分类准确率,增强脑控康复系统的适用性。
发明内容
本发明所要解决的技术问题是,提供一种可以实现握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号特征提取与辨识,并转化为指令控制脑控康复系统的融合复杂网络和图卷积的脑控康复系统运动想象识别系统。
本发明所采用的技术方案是:一种融合复杂网络和图卷积的脑控康复系统运动想象识别系统,被试者通过观看手部握拳与伸展动作视频进行运动想象,同时脑电信号采集设备采集被试者的运动想象EEG脑电信号;运动意图识别模块对获得的运动想象EEG脑电信号进行预处理,构建多熵复杂网络,该多熵复杂网络能够融合多通道运动想象EEG脑电信号,提取运动想象EEG脑电信号中符号波动、频率能量分布和幅值波动方面的特征;运动意图识别模块将多熵复杂网络的邻接矩阵输入图卷积神经网络中对握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号进行分类与辨识,将分类结果传输到脑控康复系统,促使被试者执行手部握拳与伸展动作;该脑控康复系统使得运动意图和肢体感觉之间形成闭环通路,逐渐增强被试者的肌肉强度和神经传导速度,促进受损大脑运动区域的恢复,最终实现患者通过自主训练重新获得受损的运动功能。
所述的脑控康复系统包括:与所述运动意图识别模块相连的主控制器,与所述主控制器相连的肌电信号采集和多通道电刺激输出模块,所述肌电信号采集和多通道电刺激输出模块根据主控制器的控制指令对被试者上肢施加电刺激,并将电刺激后的肌电信号反馈给主控制器,主控制器根据从运动意图识别模块接收的分类结果和电刺激后的肌电信号生成控制指令,控制肌电信号采集和多通道电刺激输出模块对被试者上肢进行刺激,帮助被试者进行上肢康复训练。
所述的运动意图识别模块具体包括如下步骤:
1)被试者分别观看手部握拳视频与手部伸展视频,同时对视频相应动作进行运动想象,通过脑电信号采集设备采集被试者握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号,统称为运动想象EEG脑电信号,并对运动想象EEG脑电信号进行预处理;
2)对预处理后的每一电极的运动想象EEG脑电信号分别计算加权排列熵S1、小波包能量熵S2和幅值熵S3三种熵,对所述的三种熵基于min-max标准化方法进行归一化;
3)将步骤2)所述加权排列熵S1、小波包能量熵S2和幅值熵S3这三种熵构建成特征向量[S1,S2,S3];
4)基于步骤3)所述特征向量构建多熵复杂网络;
5)对每个被试者的每一个运动想象EEG脑电信号中的握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号分别构建多熵复杂网络,将多熵复杂网络的邻接矩阵及其分类标签送入图卷积神经网络中进行特征学习和分类;
6)将分类结果传输到脑控康复系统对被试者上肢进行刺激。
步骤1)所述的采集被试者握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号,是通过根据10-20国际标准导联分布的脑电极帽采集C3、C4、F3、F4、P3、P4、T7、T8、Cz九个电极的运动想象EEG脑电信号,并进行预处理,预处理是对运动想象EEG脑电信号进行去伪迹,8-30Hz的带通滤波,以及去平均,得到能够用于实现运动想象状态辨识的运动想象EEG脑电信号:
其中Xc,i表示c电极采集的运动想象EEG脑电信号中第i个采样点,L表示等长的各电极对应的通道中的采样点个数。
步骤2)所述的分别计算加权排列熵S1、小波包能量熵S2和幅值熵S3三种熵具体如下:
其中,Xc,i表示c电极采集的运动想象EEG脑电信号中第i个采样点,L表示c电极对应的通道中的采样点个数,表示c电极对应的通道生成的第u个相空间向量,d为嵌入维数,取d=4,τ为延迟时间,取τ=1,L-(d-1)τ表示从运动想象EEG脑电信号获得的相空间向量的个数,将每一个相空间向量中的元素按照幅值大小进行排序后映射为一个符号πc,u,会得到L-(d-1)τ个符号,其中包括小于等于d!种不同的符号,所有种类符号的集合为其中r表示第r种符号,c=C3,C4,F3,F4,P3,P4,T7,T8,Cz;每一个相空间向量映射的符号πc,u都属于所有种类符号的集合即
加权排列熵HWPE由以下公式计算:
其中pη是第η个频段能量的概率,小波包分解使用Daubechies 4小波基(db4),分解为5层,即f=5。
其中,Nγ是幅值落入第γ个区间的采样点的个数。幅值熵HAE通过下式计算:
HAE=-∑γpγlnpγ
随着信号幅值的离散度增加,幅值熵HAE增大。
步骤4)所述的构建多熵复杂网络,包括:
将运动想象EEG脑电信号每一电极对应的通道作为节点,计算两两节点对应特征向量之间的二范数距离,采用稀疏度方法确定阈值,稀疏度值选择为20%,如果两个节点之间的二范数距离小于阈值则这两个节点间存在连边,得到多熵复杂网络;如果多熵复杂网络的两节点之间存在连边,则多熵复杂网络的邻接矩阵对应两节点的位置值为1,如果多熵复杂网络的两节点之间不存在连边,则多熵复杂网络的邻接矩阵对应两节点的位置值为0。多熵复杂网络的邻接矩阵的维度为Q×Q,Q为节点数量,等于电极数量,即Q=9;
所述计算二范数距离Rκ,ν是,设定节点κ的特征向量为[Sκ,1,Sκ,2,Sκ,3],节点ν的特征向量[Sν,1,Sν,2,Sν,3],由如下公式计算:
其中,Q为节点数量,等于电极数量,即Q=9。
步骤5)所述的图卷积神经网络的网络结构包括四个图卷积层、两个图池化层和一个全连接层,两个图卷积层和一个图池化层依次连接组成一个图卷积模块,共构成两个依次连接的图卷积模块,后一个图卷积模块的输出是全连接层的输入;每个图卷积层都表示为如下非线性映射函数:
Hl+1=σ(AHlWl)
其中,Hl为第l个图卷积层特征,A为多熵复杂网络邻接矩阵,Wl是第l个图卷积层的参数矩阵,σ(·)为激活函数,采用ReLU函数;
经过四次图卷积和两次池化操作,提取出运动想象EEG脑电信号中的能够进行类别区分的特征,最后将该特征展平后输入全连接层,进行运动想象类别辨识。
步骤6)包括:
(1)交替播放手部握拳与伸展动作视频,被试者观看视频并进行相应动作的运动想象,脑电信号采集设备采集被试者运动想象EEG脑电信号;
(2)运动意图识别模块对运动想象EEG脑电信号进行预处理,构建多熵复杂网络,将多熵复杂网络邻接矩阵输入图卷积神经网络,以提取信号特征与信号辨识,得到被试者的运动意图并传输到主控制器;
(3)肌电信号采集和多通道电刺激输出模块中的若干肌电信号采集点采集被试者上肢肌肉的肌电信号,并传输到主控制器;
(4)主控制器根据运动意图识别模块得到被试者的运动意图,结合上肢肌肉的肌电信号,决策出刺激电流、刺激脉宽、刺激频率和刺激时间,控制肌电信号采集和多通道电刺激输出模块中的若干电刺激点;
(5)根据主控制器指令,若干电刺激点对运动意图所对应的上肢多块肌肉施加电刺激,使被试者按想象意图进行手部握拳或伸展运动。
本发明的融合复杂网络和图卷积的脑控康复系统运动想象识别系统,通过构建多熵复杂网络进一步输入图卷积神经网络对握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号进行特征提取与辨识,并转化为指令控制脑控康复系统,帮助上肢运动通路损伤以致于活动受限的病患进行康复训练,逐渐恢复他们的活动能力,促进基于运动想象的BCI在康复医疗中的应用。
附图说明
图1是本发明中运动意图识别模块的流程图;
图2是本发明中单次运动想象EEG脑电信号采集时序图;
图3是本发明融合复杂网络和图卷积的脑控康复系统运动想象识别系统的整体框图;
图4是本发明中便携式脑电采集设备的框图;
图5是本发明中肢体功能性电刺激设备的结构示意图;
图6是本发明中肌电信号采集和多通道电刺激输出模块的示意图。
图中
1:脑电信号采集设备 2:运动意图识别模块
3:脑控智能康复系统 3.1:主控制器
3.2:肌电信号采集和多通道电刺激输出模块
3.2.1:电刺激点 3.2.2:肌电信号采集点
具体实施方式
下面结合实施例和附图对本发明的融合复杂网络和图卷积的脑控康复系统运动想象识别系统做出详细说明。
如图3所示,本发明的融合复杂网络和图卷积的脑控康复系统运动想象识别系统,被试者通过观看手部握拳与伸展动作视频进行运动想象,同时便携式脑电信号采集设备采集被试者的运动想象EEG脑电信号;运动意图识别模块对获得的运动想象EEG脑电信号进行预处理,构建多熵复杂网络,该多熵复杂网络能够融合多通道运动想象EEG脑电信号,提取运动想象EEG脑电信号中符号波动、频率能量分布和幅值波动方面的特征;运动意图识别模块将多熵复杂网络的邻接矩阵输入图卷积神经网络中对握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号进行分类与辨识,将分类结果传输到脑控康复系统,促使被试者执行手部握拳与伸展动作;该脑控康复系统使得运动意图和肢体感觉之间形成闭环通路,逐渐增强被试者的肌肉强度和神经传导速度,促进受损大脑运动区域的恢复,最终实现患者通过自主训练重新获得受损的运动功能。
所述的便携式脑电采集设备,是采用申请号为201810168228.X、发明名称为“便携式脑电采集设备及其在SSVEP和运动想象中的应用”的专利申请所公开的结构,如图4所示,包括,系统供电电路11、脑电极帽转接线12、PGA放大电路13、AD转换器14、STM32处理器15和WIFI模块16,其中,所述脑电极帽转接线12的输入端连接脑电极帽用于采集脑电信号,输出端依次连接PGA放大电路13、AD转换器4和STM32处理器15,所述STM32处理器15分别连接PGA放大电路13和AD转换器14用于对PGA放大电路13和AD转换器14的工作状态进行控制,所述WIFI模块16连接STM32处理器15用于通过无线局域网使STM32处理器15与上位机进行通信,所述系统供电电路11分别连接PGA放大电路13、AD转换器14、STM32处理器15和WIFI模块16用于提供电源。所述脑电极帽即为电极帽。
如图3所示,本发明中所述的脑控智能康复系统包括:与所述运动意图识别模块相连的主控制器3.1,与所述主控制器3.1相连的肌电信号采集和多通道电刺激输出模块3.2,所述肌电信号采集和多通道电刺激输出模块3.2根据主控制器3.1的控制指令对被试者上肢施加电刺激,并将电刺激后的肌电信号反馈给主控制器3.1,主控制器3.1根据从运动意图识别模块接收的分类结果和电刺激后的肌电信号生成控制指令,控制肌电信号采集和多通道电刺激输出模块3.2对被试者上肢进行刺激,帮助被试者进行上肢康复训练。
如图1所示,本发明所述的运动意图识别模块具体包括如下步骤:
1)被试者分别观看手部握拳视频与手部伸展视频,同时对视频相应动作进行运动想象,通过便携式脑电采集设备采集被试者握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号,统称为运动想象EEG脑电信号,并对运动想象EEG脑电信号进行预处理;
所述的采集被试者握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号,是通过根据10-20国际标准导联分布的脑电极帽采集C3、C4、F3、F4、P3、P4、T7、T8、Cz九个电极的运动想象EEG脑电信号,并进行预处理。实验开始前,各被试自行进行多次手部握拳与伸展的想象训练以提高信号质量。实验时,被试者端坐在电脑屏幕前。单次运动想象EEG脑电信号采集时序图如图2所示,实验一开始,一个黑色十字出现于屏幕中央,伴随有短暂的语音提示。两秒过后,屏幕会随机出现手部握拳或伸展的视频,视频停留时间为4s,被试根据视频中手部动作想象相应的动作,直至t=6s时视频消失。经过短暂的休息后,重复上述过程进行下一个运动想象任务。
预处理是对运动想象EEG脑电信号进行去伪迹,8-30Hz的带通滤波,以及去平均,得到能够用于实现运动想象状态辨识的运动想象EEG脑电信号:
其中Xc,i表示c电极采集的运动想象EEG脑电信号中第i个采样点,L表示等长的各电极对应的通道中的采样点个数。
2)对预处理后的每一电极的运动想象EEG脑电信号分别计算加权排列熵S1、小波包能量熵S2和幅值熵S3三种熵,对所述的三种熵基于min-max标准化方法进行归一化;这三种熵可从不同角度刻画、提取时间序列非线性特征,加权排列熵可从时间序列波动模式,即符号表示角度刻画复杂性,小波包能量熵和幅值熵可分别从频率能量分布和幅值波动角度提取特征;其中,所述的分别计算加权排列熵S1、小波包能量熵S2和幅值熵S3三种熵具体如下:
其中,Xc,i表示c电极采集的运动想象EEG脑电信号中第i个采样点,L表示c电极对应的通道中的采样点个数,表示c电极对应的通道生成的第u个相空间向量,d为嵌入维数,取d=4,τ为延迟时间,取τ=1,L-(d-1)τ表示从运动想象EEG脑电信号获得的相空间向量的个数,将每一个相空间向量中的元素按照幅值大小进行排序后映射为一个符号πc,u,会得到L-(d-1)τ个符号,其中包括小于等于d!种不同的符号,所有种类符号的集合为其中r表示第r种符号,c=C3,C4,F3,F4,P3,P4,T7,T8,Cz;每一个相空间向量映射的符号πc,u都属于所有种类符号的集合即
以四维向量举例,说明将相空间向量中的元素按照幅值大小进行排序后映射为一个符号πc,u的过程:该四维向量的幅值排序为a2>a1>a3>a4,由此该四维向量可以根据下标变换为符号2134,最多可得4!,即24种符号。如果相空间向量中具有幅值相同的元素,则出现时间早的元素判定为相对较大的值,出现时间晚的元素判定为相对较小的值;
加权排列熵HWPE由以下公式计算:
其中pη是第η个频段能量的概率,小波包分解使用Daubechies 4小波基(db4),分解为5层,即f=5;
其中,Nγ是幅值落入第γ个区间的采样点的个数。幅值熵HAE通过下式计算:
HAE=-∑γpγlnpγ
随着信号幅值的离散度增加,幅值熵HAE增大。
3)将步骤2)所述加权排列熵S1、小波包能量熵S2和幅值熵S3这三种熵构建成特征向量[S1,S2,S3];
4)基于步骤3)所述特征向量构建多熵复杂网络;所述的构建多熵复杂网络,包括:
将运动想象EEG脑电信号每一电极对应的通道作为节点,计算两两节点对应特征向量之间的二范数距离,采用稀疏度方法确定阈值,稀疏度值选择为20%,如果两个节点之间的二范数距离小于阈值则这两个节点间存在连边,得到多熵复杂网络;如果多熵复杂网络的两节点之间存在连边,则多熵复杂网络的邻接矩阵对应两节点的位置值为1,如果多熵复杂网络的两节点之间不存在连边,则多熵复杂网络的邻接矩阵对应两节点的位置值为0。多熵复杂网络的邻接矩阵的维度为Q×Q,Q为节点数量,等于电极数量,即Q=9。
所述计算二范数距离Rκ,ν是,设定节点κ的特征向量为[Sκ,1,Sκ,2,Sκ,3],节点ν的特征向量[Sν,1,Sν,2,Sν,3],由如下公式计算:
其中,Q为节点数量,等于电极数量,即Q=9。
5)对每个被试者的每一个运动想象EEG脑电信号中的握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号分别构建多熵复杂网络,将多熵复杂网络的邻接矩阵及其分类标签送入图卷积神经网络中进行特征学习和分类;
所述的图卷积神经网络的网络结构包括四个图卷积层、两个图池化层和一个全连接层,两个图卷积层和一个图池化层依次连接组成一个图卷积模块,共构成两个依次连接的图卷积模块,后一个图卷积模块的输出是全连接层的输入;每个图卷积层都表示为如下非线性映射函数:
Hl+1=σ(AHlWl)
其中,Hl为第l个图卷积层特征,A为多熵复杂网络邻接矩阵,Wl是第l个图卷积层的参数矩阵,σ(·)为激活函数,采用ReLU函数;
经过四次图卷积和两次池化操作,提取出运动想象EEG脑电信号中的能够进行类别区分的特征,最后将该特征展平后输入全连接层,进行运动想象类别辨识。
6)将分类结果传输到脑控康复系统对被试者上肢进行刺激,如图3所示,包括:
(1)交替播放手部握拳与伸展动作视频,被试者观看视频并进行相应动作的运动想象,脑电信号采集设备采集被试者运动想象EEG脑电信号;
(2)运动意图识别模块对运动想象EEG脑电信号进行预处理,构建多熵复杂网络,将多熵复杂网络邻接矩阵输入图卷积神经网络,以提取信号特征与信号辨识,得到被试者的运动意图并传输到主控制器;
(3)肌电信号采集和多通道电刺激输出模块中的若干肌电信号采集点采集被试者上肢肌肉的肌电信号,并传输到主控制器;
(4)主控制器根据运动意图识别模块得到被试者的运动意图,结合上肢肌肉的肌电信号,决策出刺激电流、刺激脉宽、刺激频率和刺激时间,具体地,设置的刺激电流为5~140mA,刺激脉宽为50~500us,刺激频率为10~100Hz,控制肌电信号采集和多通道电刺激输出模块中的若干电刺激点;
(5)根据主控制器指令,若干电刺激点对运动意图所对应的上肢多块肌肉施加电刺激,使被试者按想象意图进行手部握拳或伸展运动。基于运动想象的脑控康复系统,使得运动意图和肢体感觉之间形成闭环通路,逐渐增强被试者的肌肉强度和神经传导速度,促进受损大脑运动区域的恢复,最终实现被试者通过自主训练重新获得肢体的运动功能。
该步骤是在如图5所示的肢体功能性电刺激设备上实现,所述的设备包括安装有便携式脑电采集设备1、对下肢进行电刺激和进行肌电信号采集的肌电信号采集和多通道电刺激输出模块3.2,座椅4的靠背上部设有滑动杆,可调节便携式脑电采集设备1的高度;所述的肌电信号采集和多通道电刺激输出模块的结构示意图如图6所示,包括若干电刺激点3.2.1和肌电信号采集点3.2.2。
具体进行上肢康复训练时,被试者坐于座椅之上,通过调节滑动杆将所述脑电信号采集设备调整到适合患者的高度,将电极帽佩戴于被试者头部,将被试者上肢置于安装在座椅上的所述肌电信号采集和多通道电刺激输出模块中,被试者通过进行运动想象完成上肢的自主康复训练。
以上对本发明和实施例的描述,并不局限于此,实施例中的描述仅是本发明的实施方式之一,在不脱离本发明创造宗旨的情况下,任何不经创造性的设计出与该技术方案类似的结构或实施例,均属本发明的保护范围。
Claims (6)
1.一种融合复杂网络和图卷积的脑控康复系统运动想象识别系统,其特征在于,被试者通过观看手部握拳与伸展动作视频进行运动想象,同时脑电信号采集设备采集被试者的运动想象EEG脑电信号;运动意图识别模块对获得的运动想象EEG脑电信号进行预处理,构建多熵复杂网络,该多熵复杂网络能够融合多通道运动想象EEG脑电信号,提取运动想象EEG脑电信号中符号波动、频率能量分布和幅值波动方面的特征;运动意图识别模块将多熵复杂网络的邻接矩阵输入图卷积神经网络中对握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号进行分类与辨识,将分类结果传输到脑控康复系统,促使被试者执行手部握拳与伸展动作;该脑控康复系统使得运动意图和肢体感觉之间形成闭环通路,逐渐增强被试者的肌肉强度和神经传导速度,促进受损大脑运动区域的恢复,最终实现患者通过自主训练重新获得受损的运动功能;
所述的运动意图识别模块具体包括如下步骤:
1)被试者分别观看手部握拳视频与手部伸展视频,同时对视频相应动作进行运动想象,通过脑电信号采集设备采集被试者握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号,统称为运动想象EEG脑电信号,并对运动想象EEG脑电信号进行预处理;
2)对预处理后的每一电极的运动想象EEG脑电信号分别计算加权排列熵S1、小波包能量熵S2和幅值熵S3三种熵,对所述的三种熵基于min-max标准化方法进行归一化;
3)将步骤2)所述加权排列熵S1、小波包能量熵S2和幅值熵S3这三种熵构建成特征向量[S1,S2,S3];
4)基于步骤3)所述特征向量构建多熵复杂网络;所述的构建多熵复杂网络,包括:
将运动想象EEG脑电信号每一电极对应的通道作为节点,计算两两节点对应特征向量之间的二范数距离,采用稀疏度方法确定阈值,稀疏度值选择为20%,如果两个节点之间的二范数距离小于阈值则这两个节点间存在连边,得到多熵复杂网络;如果多熵复杂网络的两节点之间存在连边,则多熵复杂网络的邻接矩阵对应两节点的位置值为1,如果多熵复杂网络的两节点之间不存在连边,则多熵复杂网络的邻接矩阵对应两节点的位置值为0;多熵复杂网络的邻接矩阵的维度为Q×Q,Q为节点数量,等于电极数量,即Q=9;
5)对每个被试者的每一个运动想象EEG脑电信号中的握拳运动想象EEG脑电信号和手部伸展运动想象EEG脑电信号分别构建多熵复杂网络,将多熵复杂网络的邻接矩阵及其分类标签送入图卷积神经网络中进行特征学习和分类;所述的图卷积神经网络的网络结构包括四个图卷积层、两个图池化层和一个全连接层,两个图卷积层和一个图池化层依次连接组成一个图卷积模块,共构成两个依次连接的图卷积模块,后一个图卷积模块的输出是全连接层的输入;每个图卷积层都表示为如下非线性映射函数:
Hl+1=σ(AHlWl)
其中,Hl为第l个图卷积层特征,A为多熵复杂网络邻接矩阵,Wl是第l个图卷积层的参数矩阵,σ(·)为激活函数,采用ReLU函数;
经过四次图卷积和两次池化操作,提取出运动想象EEG脑电信号中的能够进行类别区分的特征,最后将该特征展平后输入全连接层,进行运动想象类别辨识;
6)将分类结果传输到脑控康复系统对被试者上肢进行刺激。
2.根据权利要求1所述的融合复杂网络和图卷积的脑控康复系统运动想象识别系统,其特征在于,所述的脑控康复系统包括:与所述运动意图识别模块相连的主控制器,与所述主控制器相连的肌电信号采集和多通道电刺激输出模块,所述肌电信号采集和多通道电刺激输出模块根据主控制器的控制指令对被试者上肢施加电刺激,并将电刺激后的肌电信号反馈给主控制器,主控制器根据从运动意图识别模块接收的分类结果和电刺激后的肌电信号生成控制指令,控制肌电信号采集和多通道电刺激输出模块对被试者上肢进行刺激,帮助被试者进行上肢康复训练。
4.根据权利要求1所述的融合复杂网络和图卷积的脑控康复系统运动想象识别系统,其特征在于,步骤2)所述的分别计算加权排列熵S1、小波包能量熵S2和幅值熵S3三种熵具体如下:
其中,Xc,i表示c电极采集的运动想象EEG脑电信号中第i个采样点,L表示c电极对应的通道中的采样点个数,表示c电极对应的通道生成的第u个相空间向量,d为嵌入维数,取d=4,τ为延迟时间,取τ=1,L-(d-1)τ表示从运动想象EEG脑电信号获得的相空间向量的个数,将每一个相空间向量中的元素按照幅值大小进行排序后映射为一个符号πc,u,会得到L-(d-1)τ个符号,其中包括小于等于d!种不同的符号,所有种类符号的集合为其中r表示第r种符号,c=C3,C4,F3,F4,P3,P4,T7,T8,Cz;每一个相空间向量映射的符号πc,u都属于所有种类符号的集合即
加权排列熵HWPE由以下公式计算:
其中pη是第η个频段能量的概率,小波包分解使用Daubechies 4小波基(db4),分解为5层,即f=5;
其中,Nγ是幅值落入第γ个区间的采样点的个数;幅值熵HAE通过下式计算:
HAE=-∑γpγlnpγ
随着信号幅值的离散度增加,幅值熵HAE增大。
6.根据权利要求1所述的融合复杂网络和图卷积的脑控康复系统运动想象识别系统,其特征在于,步骤6)包括:
(1)交替播放手部握拳与伸展动作视频,被试者观看视频并进行相应动作的运动想象,脑电信号采集设备采集被试者运动想象EEG脑电信号;
(2)运动意图识别模块对运动想象EEG脑电信号进行预处理,构建多熵复杂网络,将多熵复杂网络邻接矩阵输入图卷积神经网络,以提取信号特征与信号辨识,得到被试者的运动意图并传输到主控制器;
(3)肌电信号采集和多通道电刺激输出模块中的若干肌电信号采集点采集被试者上肢肌肉的肌电信号,并传输到主控制器;
(4)主控制器根据运动意图识别模块得到被试者的运动意图,结合上肢肌肉的肌电信号,决策出刺激电流、刺激脉宽、刺激频率和刺激时间,控制肌电信号采集和多通道电刺激输出模块中的若干电刺激点;
(5)根据主控制器指令,若干电刺激点对运动意图所对应的上肢多块肌肉施加电刺激,使被试者按想象意图进行手部握拳或伸展运动。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010364649.7A CN111584027B (zh) | 2020-04-30 | 2020-04-30 | 融合复杂网络和图卷积的脑控康复系统运动想象识别系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010364649.7A CN111584027B (zh) | 2020-04-30 | 2020-04-30 | 融合复杂网络和图卷积的脑控康复系统运动想象识别系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111584027A CN111584027A (zh) | 2020-08-25 |
CN111584027B true CN111584027B (zh) | 2022-03-11 |
Family
ID=72124616
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010364649.7A Active CN111584027B (zh) | 2020-04-30 | 2020-04-30 | 融合复杂网络和图卷积的脑控康复系统运动想象识别系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111584027B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113499524A (zh) * | 2021-07-23 | 2021-10-15 | 华南理工大学 | 一种利用运动想象脑电图检测的辅助康复训练系统 |
CN114176920A (zh) * | 2021-12-20 | 2022-03-15 | 曲阜师范大学 | 一种基于脑电控制的智能轮椅 |
CN114847972B (zh) * | 2022-04-25 | 2024-05-10 | 燕山大学 | 一种经颅脑刺激多通道数据采集系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108597584A (zh) * | 2018-03-06 | 2018-09-28 | 上海大学 | 结合稳态视觉诱发电位及运动想象的三阶段脑控上肢康复方法 |
CN109243569A (zh) * | 2018-06-29 | 2019-01-18 | 苏州大学 | 基于大脑信息识别被试自发想象物体位移方位的识别方法 |
CN110400619A (zh) * | 2019-08-30 | 2019-11-01 | 上海大学 | 一种基于表面肌电信号的手功能康复训练方法 |
CN110534180A (zh) * | 2019-08-20 | 2019-12-03 | 西安电子科技大学 | 深度学习人机互适应运动想象脑机接口系统和训练方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7269456B2 (en) * | 2002-05-30 | 2007-09-11 | Collura Thomas F | Repetitive visual stimulation to EEG neurofeedback protocols |
US7120486B2 (en) * | 2003-12-12 | 2006-10-10 | Washington University | Brain computer interface |
CN106096727B (zh) * | 2016-06-02 | 2018-12-07 | 腾讯科技(深圳)有限公司 | 一种基于机器学习的网络模型构造方法及装置 |
-
2020
- 2020-04-30 CN CN202010364649.7A patent/CN111584027B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108597584A (zh) * | 2018-03-06 | 2018-09-28 | 上海大学 | 结合稳态视觉诱发电位及运动想象的三阶段脑控上肢康复方法 |
CN109243569A (zh) * | 2018-06-29 | 2019-01-18 | 苏州大学 | 基于大脑信息识别被试自发想象物体位移方位的识别方法 |
CN110534180A (zh) * | 2019-08-20 | 2019-12-03 | 西安电子科技大学 | 深度学习人机互适应运动想象脑机接口系统和训练方法 |
CN110400619A (zh) * | 2019-08-30 | 2019-11-01 | 上海大学 | 一种基于表面肌电信号的手功能康复训练方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111584027A (zh) | 2020-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111584027B (zh) | 融合复杂网络和图卷积的脑控康复系统运动想象识别系统 | |
CN110765920B (zh) | 基于卷积神经网络的运动想象分类方法 | |
CN111584030A (zh) | 基于深度学习和复杂网络的意念控制智能康复系统及应用 | |
CN110495880B (zh) | 基于经颅电刺激脑肌耦合的运动障碍皮层可塑性管理方法 | |
CN110732082B (zh) | 一种经颅直流电刺激和功能性电刺激的运动功能康复方法 | |
CN113398422B (zh) | 基于运动想象-脑机接口和虚拟现实的康复训练系统及方法 | |
CN108681396B (zh) | 基于脑-肌电双模态神经信号的人机交互系统及其方法 | |
CN101711709B (zh) | 利用眼电和脑电信息的电动假手控制方法 | |
CN111584031B (zh) | 基于便携式脑电采集设备的脑控智能肢体康复系统及应用 | |
CN100594858C (zh) | 一种脑电肌电联合控制的电动假手的控制方法 | |
CN104548347A (zh) | 一种纯意念神经肌肉电刺激控制与神经功能评价系统 | |
CN111584029B (zh) | 基于判别式对抗网络的脑电自适应模型及在康复中的应用 | |
CN110495893B (zh) | 一种运动意图连续脑肌电多层次动态融合识别系统及方法 | |
CN107981997B (zh) | 一种基于人脑运动意图的智能轮椅控制方法及系统 | |
CN111616681B (zh) | 基于便携式脑电采集设备和深度学习的麻醉状态监测系统 | |
CN111616682A (zh) | 基于便携式脑电采集设备的癫痫发作预警系统及应用 | |
CN110262658B (zh) | 一种基于强化注意的脑机接口字符输入系统及实现方法 | |
CN111584032B (zh) | 基于胶囊网络的新型脑控智能康复方法及应用 | |
CN104571504A (zh) | 一种基于想象动作的在线脑-机接口方法 | |
CN107562191A (zh) | 基于混合特征的精细想象动作在线脑‑机接口方法 | |
CN111631848A (zh) | 基于脑机混合智能的意念控制假肢系统 | |
CN113143676B (zh) | 一种基于脑肌电协同的外肢体手指的控制方法 | |
Awan et al. | Effective classification of EEG signals using K-nearest neighbor algorithm | |
Aljalal et al. | Feature extraction of EEG based motor imagery using CSP based on logarithmic band power, entropy and energy | |
CN110472595B (zh) | 脑电信号的识别模型构建方法、装置以及识别方法、装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |