CN111317468B - 脑电信号分类方法、装置、计算机设备和存储介质 - Google Patents

脑电信号分类方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN111317468B
CN111317468B CN202010124738.4A CN202010124738A CN111317468B CN 111317468 B CN111317468 B CN 111317468B CN 202010124738 A CN202010124738 A CN 202010124738A CN 111317468 B CN111317468 B CN 111317468B
Authority
CN
China
Prior art keywords
frequency band
target
classified
machine learning
learning model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010124738.4A
Other languages
English (en)
Other versions
CN111317468A (zh
Inventor
王新民
郑青青
洪晓林
马锴
郑冶枫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202010124738.4A priority Critical patent/CN111317468B/zh
Publication of CN111317468A publication Critical patent/CN111317468A/zh
Application granted granted Critical
Publication of CN111317468B publication Critical patent/CN111317468B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Psychiatry (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Psychology (AREA)
  • Evolutionary Computation (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physiology (AREA)
  • Signal Processing (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请涉及一种脑电信号分类方法、装置、计算机设备和存储介质。所述方法包括:获取待分类脑电信号;对所述待分类脑电信号提取多个目标频段的信号特征,得到各个所述目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;获取各个所述频段特征对应的目标权重,分别根据各个所述频段特征对应的目标权重,得到各个所述频段特征各自对应的目标频段的目标分类特征;根据各个所述目标分类特征进行分类处理,得到目标用户标识对应的所述待分类脑电信号的分类结果。采用本方法能够提高脑电信号分类的准确性。

Description

脑电信号分类方法、装置、计算机设备和存储介质
技术领域
本申请涉及计算机技术领域,特别是涉及一种脑电信号分类方法、装置、计算机设备和存储介质。
背景技术
随着计算机技术的发展,出现了脑机接口技术(brain-computer interface,BCI),脑机接口技术可以在人脑和外部设备之间建立连接,达到不依赖人体肌肉与外部环境进行交流和控制的目的。BCI技术主要处理过程包括记录大脑活动,得到脑电(Electroencephalography,EEG)信号,对脑电信号进行特征提取,根据提取的特征进行分类,根据分类结果控制外部设备。
传统技术中,在对某个个体的脑电信号进行特征提取时,通常是在一个固定的频段提取特征,根据提取的特征来进行分类,这样一来会丢失一些其他频段的对分类有帮助的特征,导致分类的准确率低。
发明内容
基于此,有必要针对上述技术问题,提供一种能够脑电信号分类准确性的脑电信号分类方法、装置、计算机设备和存储介质。
一种脑电信号分类方法,所述方法包括:获取待分类脑电信号;对所述待分类脑电信号提取多个目标频段的信号特征,得到各个所述目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;获取各个所述频段特征对应的目标权重,分别根据各个所述频段特征对应的目标权重,得到各个所述频段特征各自对应的目标频段的目标分类特征;根据各个所述目标分类特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
一种脑电信号分类装置,所述装置包括:信号获取模块,用于获取待分类脑电信号;特征提取模块,用于对所述待分类脑电信号提取多个目标频段的信号特征,得到各个所述目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;权重获取模块,用于获取各个所述频段特征对应的目标权重,分别根据各个所述频段特征对应的目标权重,得到各个所述频段特征各自对应的目标频段的目标分类特征;分类模块,用于根据各个所述目标分类特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:获取待分类脑电信号;对所述待分类脑电信号提取多个目标频段的信号特征,得到各个所述目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;获取各个所述频段特征对应的目标权重,分别根据各个所述频段特征对应的目标权重,得到各个所述频段特征各自对应的目标频段的目标分类特征;根据各个所述目标分类特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:获取待分类脑电信号;对所述待分类脑电信号提取多个目标频段的信号特征,得到各个所述目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;获取各个所述频段特征对应的目标权重,分别根据各个所述频段特征对应的目标权重,得到各个所述频段特征各自对应的目标频段的目标分类特征;根据各个所述目标分类特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
上述脑电信号分类方法、装置、计算机设备和存储介质,在获取到待分类脑电信号后,对待分类脑电信号提取多个目标频段的信号特征,得到各个目标频段对应的频段特征,进一步获取各个频段特征对应的目标权重,分别根据各个频段特征对应的目标权重,得到各个频段特征各自对应的目标频段的目标分类特征,根据目标分类特征进行分类处理最终得到分类结果,由于提取了多个目标频段的频段特征,且目标频段是与待分类脑电信号对应的目标用户标识相对应的频段,因此能够尽可能多的提取到对分类有帮助的特征,提高分类的准确性,同时通过各个目标频段的目标权重来得到各个频段的目标分类特征,得到的多个目标分类特征充分考虑到了各个频段的频段特征的重要程度,进一步提高了分类的准确性。
附图说明
图1为一个实施例中脑电信号分类方法的流程示意图;
图2为一个实施例中获取注意力权重的流程示意图;
图3为一个实施例中分类处理步骤的流程示意图;
图4为一个实施例中机器学习模型的网络结构的示意图;
图5为另一个实施例中脑电信号分类方法的流程示意图;
图6为又一个实施例中脑电信号分类方法的流程示意图;
图7为一个实施例中脑电信号分类装置的结构框图;
图8为一个实施例中特征提取模块的结构框图;
图9为一个实施例中权重获取模块的结构框图;
图10为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在一个实施例中,如图1所示,提供了一种脑电信号分类方法,本实施例以该方法应用于终端进行举例说明,可以理解的是,该方法也可以应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括以下步骤:
步骤102,获取待分类脑电信号。
其中,待分类脑电信号指的是需要进行分类的脑电信号。脑电信号指的是通过非侵入式脑机接口设备采集到的头皮处脑部的生物电压信号。对采集到的脑电信号通常以脑电图的形式进行保存。脑电图指的是对脑电信号进行放大记录得到的曲线图。脑机接口指的是人或动物的脑与外部机器交换信息的通道。
在一个实施例中,待分类脑电信号可以是用户的运动想象(Motor Imagery)脑电信号,也就是用户想象某个部位运动时产生的脑电信号,例如,用户想象左手运动时产生的脑电信号。
具体地,可通过预设数量的电极置于用户的头部以采集用户的待分类脑电信号,采集的待分类脑电信号传输至终端,终端可以将脑电信号进行记录并以脑电图的形式进行保存。
步骤104,对待分类脑电信号提取多个目标频段的信号特征,得到各个目标频段对应的频段特征;目标频段是与待分类脑电信号对应的目标用户标识相对应的频段。
其中,目标用户标识指的目标用户对应的身份标识,目标用户标识可以由字母、数字、特殊符号中的一种或者多种组成。目标用户是待分类脑电信号对应的来源用户,例如,待分类脑电信号是在张三的脑部采集的,则张三为目标用户。目标频段是与待分类脑电信号对应的目标用户标识相对应的频段。可以理解的是,对于不同的用户而言,其对应的脑电信号中关键信息所处的频段通常是不一样。这里的关键信息指的是与目标任务有关的重要信息。目标任务例如可以是运动想象任务。
具体地,对于不同用户的待分类脑电信号,终端需要根据该用户对应的多个目标频段,从该待分类脑电信号中提取对应的信号特征,将根据每一个目标频段提取到的信号特征作为该目标频段对应的频段特征。
在一个实施例中,终端在获取到待分类脑电信号后,可以将该待分类脑电信号输入由多个滤波器组成的滤波器组中,通过各个滤波器分别输出不同频段对应频段特征。其中,滤波器组中各个滤波器的参数需要根据该待分类脑电信号对应的目标用户的先验知识预先设置,从而得到与该用户对应的目标频段的频段特征。
在另一个实施例中,终端在获取到待分类脑电信号后,可以将该待分类脑电信号分别输入多个不同尺度的时间卷积神经网络中,通过时间卷积神经网络在时间维度对待分类脑电信号进行卷积,提取频段特征,由于各时间卷积神经网络尺度不相同,因此,各时间卷积神经网络可以提取不同频段的特征。其中,时间卷积神经网络的网络参数根据目标用户标识对应的训练样本训练得到,因此能够提取到与该待分类脑电信号对应的目标用户相对应的多个目标频段的频段特征。
步骤106,获取各个频段特征对应的目标权重,分别根据各个频段特征对应的目标权重,得到各个频段特征各自对应的目标频段的目标分类特征。
其中,目标权重用于表征目标频段对应的频段特征与关键信息的相关度,目标权重越大,表示该目标频段对应的频段特征与关键信息的相关度越大,而与关键信息的相关度越大的频段特征,其对分类的重要性也是越大的。
在一个实施例中,可根据先验知识预先对目标用户标识对应的各个目标频段设置对应的目标权重并进行存储,那么,终端在得到各个目标频段对应的频段特征后,可以直接通过查询获取到各个频段特征对应的目标权重。
在另一个实施例中,终端在得到各个目标频段对应的频段特征后,可将得到的频段特征输入到预先训练好的通道注意力网络中,通过通道注意力网络的注意力机制获取各个频段特征对应的注意力权重,将获取到的注意力权重作为频段特征对应的目标权重。
进一步,终端可以将各个频段特征分别与各自对应的目标权重相乘,从而得到各个目标频段对应的目标分类特征。
步骤108,根据各个目标分类特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
具体地,分类处理指的是根据目标分类特征在预设的多个类别中确定待分类脑电信号所属的类别。在一个实施例中,待分类脑电信号为运动想象脑电信号时,预设的分类类别可以是运动想象类别,具体可以包括“左手”、“右手”、“双脚”和“舌头”四个类别,其中,“左手”类别表示想象左手运动,“右手”类别表示想象右手运动,“双脚”类别表示想象双脚运动,而“舌头”类别则表示想象舌头运动。
分类结果用于表征待分类脑电信号所属的具体的类别。在一个实施例中,分类结果可以是用于表征待分类脑电信号所属类别的类别标识,例如,用向量(1,0,0,0)表示“左手”类别,用向量(0,1,0,0)表示“右手”类别,用向量(0,0,1,0)表示“双脚”类别,用向量(0,0,0,1)表示“舌头”类别。在另一个实施例中,分类结果可以是用于表征待分类脑电信号所属类别的概率,例如,分类结果可以是包括第一概率、第二概率、第三概率以及第四概率的向量,其中,第一概率、第二概率、第三概率以及第四概率分别用于表征待分类脑电信号属于“左手”、“右手”、“双脚”和“舌头”的可能性大小。
在一个实施例中,终端在根据各个目标分类特征进行分类处理时,可以将各个目标分类特征融合后,输入至分类器中,通过该分类器得到待分类脑电信号对应的分类结果。其中的分类器指的是预先根据目标用户标识对应的训练样本进行有监督的机器学习训练得到的机器学习模型。
上述脑电信号分类方法中,终端在获取到待分类脑电信号后,对待分类脑电信号提取多个目标频段的信号特征,得到各个目标频段对应的频段特征,进一步获取各个频段特征对应的目标权重,分别根据各个频段特征对应的目标权重,得到各个频段特征各自对应的目标频段的目标分类特征,根据目标分类特征进行分类处理最终得到分类结果,由于提取了多个目标频段的频段特征,且目标频段是与待分类脑电信号对应的目标用户标识相对应的频段,因此能够尽可能多的提取到对分类有帮助的特征,提高分类的准确性,同时通过各个目标频段的目标权重来得到各个频段的目标分类特征,得到的多个目标分类特征充分考虑到了各个频段的频段特征的重要程度,进一步提高了分类的准确性。
在一个实施例中,对待分类脑电信号提取与目标用户标识对应的多个目标频段的信号特征,得到各个目标频段对应的频段特征包括:获取目标用户标识对应的机器学习模型;机器学习模型为根据目标用户标识对应的训练样本训练得到的;将待分类脑电信号输入机器学习模型中;机器学习模型包括多个不同尺度的时间卷积层;通过多个不同尺度的时间卷积层分别对待分类脑电信号在时间维度进行卷积,得到各个目标频段对应的频段特征。
在本申请实施例中的机器学习模型是通过样本学习具备脑电信号分类能力的模型。该机器学习模型具体可以是端到端的模型,输入端为目标用户的待分类脑电信号,输出端为预测的分类结果。机器学习模型可以为多层网络结构,不同的网络层对输入其的数据进行不同的处理,并输出处理结果至下一层网络层。机器学习模型可以是终端预先训练好并存储至本地的模型,也可以是终端通过网络从其他计算机设备获取得到并存储至本地的模型。
具体地,终端在获取到目标用户对应的待分类脑电信号后,可以将该待分类脑电信号分别输入机器学习模型的多个不同尺度的时间卷积层中,各个时间卷积层分别从时间维度对待分类脑电信号进行卷积操作提取特征,由于各个时间卷积层的尺度并不相同,因此,可以得到不同频段的时间域特征。可以理解的是,由于时间域特征是在时间域进行卷积得到的,在时间域进行卷积可以看成是对频域信息选择,那么得到时间域特征也就是该频域信息对应频段的频段特征。
需要说明的是,本实施例中的不同尺度的时间卷积层在机器学习模型中是并列关系,时间卷积层的数量可以根据实际需要进行设定。时间卷积层的尺度是由时间卷积层对应的卷积核的大小来决定的。
在一个实施例中,为保证提取的频段特征对应的多个频段范围尽可能覆盖更大的范围,其中卷积核大小的选取规则为:在单个尺度的网络层中取得性能极值,且各个不同尺度的网络层的尺度间隔不能太相近,基于此,在一个具体的实施例中,可设置三个不同尺度的时间卷积层,卷积核尺度大小分别为25x1、41x1、55x1。可以理解的是,本实施例中对时间卷积层的数量以及卷积核的尺寸不做限定,实际操作中可根据需要进行设置。
本实施例中,每一个时间卷积层中包括多个卷积核,这些卷积核可以看成是自适应滤波器,在根据目标用户的训练样本对机器学习模型进行训练时,这些卷积核能够对目标用户的训练样本特征进行自适应地学习以调整其自身网络参数,因此当将待分类脑电信号输入训练好的机器学习模型后,这些时间卷积层的卷积核能够准确地提取到与目标用户对应的目标频段的信号特征。
待分类脑电信号为时空结构的二维信号,其信号尺寸为N x M ,其中,N为待分类脑电信号的时间维数,M为待分类脑电信号的空间维数,将待分类脑电信号输入至多个不同尺度的时间卷积层后,对于每一个时间卷积层,该时间卷积层的每一个卷积核都会对待分类脑电信号进行一次卷积,并输出对应的特征张量,时间卷积层最终输出的频段特征为各个特征张量组合的结果,那么将信号尺寸为N x M的待分类脑电信号输入至一个时间卷积层后,输出的频段特征为三维数据,其尺寸为L x N x M,其中L为该时间卷积层中卷积核的个数,也就是该频段特征中包括L个N x M的特征张量,这些特征张量也可以称为该频段特征的特征通道(以下简称通道)。
本实施例中,通过将待分类脑电信号输入到多个不同尺度的时间卷积神经网络中,通过多个不同尺度的时间卷积神经网络可以准确地提取到与目标用户对应的多个目标频段的频段特征。
在一个实施例中,机器学习模型还包括注意力分配网络;对待分类脑电信号提取与目标用户标识对应的多个目标频段的信号特征,得到各个目标频段对应的频段特征包括:将各个目标频段对应的频段特征输入注意力分配网络中;在注意力分配网络中,分别获取各个频段特征对应的注意力权重,分别根据各个频段特征对应的注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征。
其中,注意力分配网络是本申请实施例的机器学习模型中,基于注意力机制(attention mechanism)对各个目标频段对应的频段特征分配注意力权重的网络层。
本实施例中,终端通过将待分类信号输入多个不同的时间卷积层后,可以将得到的各个目标频段对应的频段特征输入机器学习模型的注意力结构中,由于机器学习模型是根据目标用户标识对应的训练样本训练得到,那么注意力分配网络的网络参数是对目标用户标识对应的训练样本进行学习得到的,因此,根据该注意力网络可以获取到目标用户对应的多个不同目标频段各自的注意力权重,该注意力权重也就是目标频段对应的目标权重,终端可以将各个注意权重与各自对应的频段特征相乘,得到各个目标频段的目标分类特征。
本实施例中,通过在机器学习模型的注意力分配网络中获取各个频段特征对应的注意力权重,可以准确快速地得到各个频段特征对应的目标权重。
在一个实施例中,将各个目标频段对应的频段特征输入注意力分配网络中包括:拼接各个频段特征,得到第一频段融合特征;将第一频段融合特征输入注意力分配网络中;在注意力分配网络中,分别获取各个频段特征对应的注意力权重,分别根据各个频段特征对应的注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征包括:在注意力分配网络中,分别获取第一频段融合特征中各个频段特征对应的子特征的子注意力权重,分别根据各个频段特征对应的子注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征。
其中,拼接指的是将多个频段特征进行组合,得到一个频段特征,得到的频段特征为第一频段融合特征。可以理解的是,由于第一频段融合特征为多个频段特征拼接得到的,那么第一频段融合特征中包含通道数量为各个频段特征的通道数量之和。举个例子,假设待分类脑电信号尺寸为1000 x 22,机器学习模型中包括三个时间卷积层,对应的卷积核的个数分别为20、30、40,则三个时间卷积层最终输出的频段特征的信号尺寸分别为20 x1000x 22、30 x1000 x 22、40 x1000 x 22,融合这三个频段特征得到的第一频段融合特征的信号尺寸为90 x1000 x 22,其包括90个信号尺寸为1000 x 22的特征张量,也就是90个通道。
本实施例中,终端在将各个目标频段对应的频段特征输入注意力分配网络中时,可以对各个频段特征进行融合,得到第一频段融合特征,将第一频段融合特征输入到注意力分配网络中,由于进行了特征融合,减少了特征数量,可以减少计算量,提高注意力权重获取效率。
第一频段融合特征中与各个频段特征对应的子特征指的是第一频段融合特征中与各个频段特征对应的特征张量,由于频段特征是由多个特征张量组合而成的,特征张量可以看成是频段特征的特征分量,每一个特征分量对频段特征的贡献度是不同的,通过注意力分配网络可以获取到这些特征张量的子注意力权重。可以理解的是,这里的子注意权重特指注意力分配网络中获取到的特征张量的注意力权重。
本实施例中,由于第一频段融合特征是由多个频段特征拼接得到的,那么在第一频段融合特征中各个频段特征对应的特征张量都是没有发生变化的,那么终端在注意力分配网络中获取到的这些特征张量的子注意力权重,也就是其对应的频段特征的目标权重,可见,本实施例中每一个频段特征将对应多个目标权重。进一步,终端可以将各个子注意力权重分别与各自对应的子特征相乘,得到各个目标频段的目标分类特征。
举例说明,假设机器学习模型中包括三个不同尺度的时间卷积层,通过这三个时间卷积层输出三个不同目标频段的频段特征分别为X、Y、Z,其中频段特征X包括40个通道分别为X1、X2、……、X40,频段特征Y包括40个通道分别为Y1、Y2、……、Y40,频段特征Z包括40个通道分别为Z1、Z2、……、Z40,则拼接得到的第一频段融合特征的包括120个通道分别为X1、X2、……、X40、Y1、Y2、……、Y40、Z1、Z2、……、Z40,在注意力分配网络中可以分别获取这120个通道各自对应的子注意力权重,则X1、X2、……、X40对应的子注意力权重为频段特征X的注意力权重,Y1、Y2、……、Y40对应的子注意力权重为频段特征Y的注意力权重,Z1、Z2、……、Z40的子注意力权重为频段特征Z的注意力权重,终端分别将通道X1、X2、……、X40与各自对应的子注意力权重相乘得到频段特征X对应的目标分类特征,将通道Y1、Y2、……、Y40与各自对应的子注意力权重相乘得到频段特征Y对应的目标分类特征,将通道Z1、Z2、……、Z40与各自对应的子注意力权重相乘得到频段特征Z对应的目标分类特征,从而得到三个不同目标频段的目标分类特征。
在一个实施例中,注意力分配网络包括第一池化层、第一卷积层、第二卷积层以及激励函数层,如图2所示,在注意力分配网络中,分别获取各个频段特征对应的注意力权重包括:
步骤202,在第一池化层对第一频段融合特征进行全局平均池化,得到池化特征。
其中,全局平均池化指的是,对于第一频段融合特征中的每一个通道,将该通道内所有像素相加求平均,得到一个数值,用该数值表示该通道对应的特征张量,那么对第一频段融合特征全局平均池化后,将得到与第一频段融合特征的通道数相同数量的数值,这些数值组成池化特征。
举个例子,假设第一频段融合特征的尺寸为120 x 1000 x22,其包含120个尺寸为1000 x22的特征张量,也就是120个通道,将每一个通道内的所有像素相加后求平均值得到的值分别为X1,X2,……,X120,则得到的池化特征可以表示为(X1 X2,……,X120),该池化特征的尺寸为120 x 1。
可见,终端将原来的三维数据(第一频段融合特征)全局平均池化后,得到了二维数据(池化特征),也就是说全局平均池化减少了参数数量,从而可以减少计算量。
步骤204,在第一卷积层对池化特征进行压缩处理。
其中,第一卷积层为包含多个尺寸为1*1卷积核的卷积神经网络。第一卷积层中卷积核的数量少于第一频段融合特征的通道数量。
具体地,终端将池化特征向量输入到第一卷积层中,通过第一卷积层对池化特征进行压缩处理,压缩处理的过程也就是通过1*1卷积核对池化特征进行特征提取的过程,并且由于第一卷积层中卷积核的数量少于第一频段融合特征的通道数量,压缩处理后得到的池化特征的维度相对于压缩处理前会降低。
举个例子,池化特征的尺寸为120 x 1,第一卷积层包含15个卷积核,每个卷积核进行特征提取后得到一个特征张量,也就是说最终得到15个特征张量,那么第一卷积层输出特征的尺寸为15 x 1,相较于原来的120 x 1明显减低了维度。
步骤206,在第二卷积层将压缩处理后的池化特征的维度调整至与池化特征向量一致。
其中,第二卷积层为包含多个尺寸为1*1卷积核的卷积神经网络。为了将压缩处理后的池化特征的维度调整至与原来的池化特征向量一致,第二卷积层包含的卷积核的数量需要与第一频段融合特征的通道数量一致,如上面的例子中,需要将第一卷积层输出特征的尺寸为15 x 1调整至与原来的池化特征(尺寸为120 x 1),那么第二卷积层中需要设置120个1*1的卷积核。由于第二卷积层可以将压缩处理后的池化特征的维度调整至与原来的池化特征向量一致,因此第二卷积层对压缩处理后的池化特征的操作可以看成是升维的过程。
步骤208,将调整后的池化特征输入激励函数层,得到第一频段融合特征中与各个频段特征对应的子特征的子注意力权重,并将各个子注意力权重与各自对应的子特征相乘,得到各个目标频段的目标分类特征,各个目标分类特征用于拼接得到第二频段融合特征。
具体地,终端将调整后的池化特征输入激励函数层,通过激励函数层的sigmoid函数得到调整后的池化特征中各个通道对应的激励权重,由于池化特征是对第一频段融合特征进行全局平均池化得到的,那么池化特征中的各个通道也就是第一频段融合特征中的通道,因此各个通道的激励权重也就是各个频段特征对应的子特征的子注意力权重。
在得到各个子特征的子注意力权重后,终端将各个子注意力权重分别与各自对应的子特征相乘,从而得到各个目标频段对应的目标分类特征,由于各个目标频段在输入注意力网络之前进行拼接,因此,得到的目标分类特征也会进行拼接,目标分类特征用于拼接得到第二频段融合特征。
本实施例中,通过对第一频段融合特征进行全局平均池化后,对池化特征进行升维和降维,并通过激活函数求得子注意力权重,增加了注意力网络的非线性,最终得到的第二频段融合特征具有较强的特征表达能力,从而可以进一步提升分类的准确性。
在一个实施例中,根据各个目标分类特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果包括:对第一频段融合特征及第二频段融合特征进行相加,得到目标频段融合特征;在机器学习模型的空间卷积层,对目标频段融合特征进行空间卷积,得到中间特征;根据中间特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
具体地,由于终端在得到第二频段融合特征之前,通过第二卷积层将压缩处理后的池化特征的维度调整至与池化特征向量一致,那么第一频段融合特征和第二频段融合特征为两个同维度的特征,终端可以将这两个特征的对应值进行相加得到目标频段融合特征,以实现跳层连接,形成残差网络,残差网络可以在不影响模型训练效率的前提下,通过增加模型的网络深度,来提升模型的性能,使得分类的结果更加准确。
在得到目标频段融合特征后,终端将目标频段融合特征输入机器学习模型的空间卷积层,通过空间卷积层在空间维度对目标频段融合特征提取特征,也就是将目标频段融合特征的多个空间维度映射至同一个统一的空间维度,得到中间特征,根据该中间特征进行分类处理,可以得到目标用户标识对应的待分类脑电信号的分类结果。
在一个实施例中,机器学习模型还包括第二池化层、展平层以及全连接层;如图3所示,根据中间特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果包括:
步骤302,通过机器学习模型的第二池化层,对中间特征进行池化操作。
具体地,终端将中间特征输入机器学习模型的第二池化层,通过第二池化层对中间特征进行平均池化,平均池化指的是将中间特征领域中的所有像素累加后求平均,平均池化后可以减少参与分类计算的参数,提升分类效率。
步骤304,通过机器学习模型的展平层,对池化操作后的中间特征进行展平处理。
具体地,终端将第二池化层的输出特征继续输入至展平层,展平层的作用是将数据展平为适合神经网络的结构,具体在本实施例中,通过展平层,将第二池化层的输出的特征展平为适合全连接层的一维特征。
步骤306,通过机器学习模型的全连接层,将展平处理后的中间特征映射为目标特征向量。
具体地,终端将展平层的输出特征输入至全连接层中,在全连接层中,将展平层的输出特征映射为多个目标特征向量,其中,目标特征向量的个数与预设的分类类别数相同。
在一个实施例中,机器学习模型中可设置两层或两层以上的全连接层,以增加网络的非线性。
步骤308,根据目标特征向量进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
具体地,终端可以将目标特征向量输入至softmax函数中,以得到目标用户标识对应的待分类脑电信号的分类结果。
在一个实施例中,该脑电信号分类方法还包括:获取目标用户标识对应的训练样本;训练样本包括脑电信号样本及与脑电信号样本对应的训练标签;将脑电信号样本输入机器学习模型,经过机器学习模型所包括的各层依次处理后,输出脑电信号样本对应的预测标签;根据预测标签和训练标签的差异反向传播调整机器学习模型的网络参数,以训练机器学习模型。
其中,目标用户标识对应的训练样本指的是目标用户对应的已确定分类结果的脑电信号样本以及对应的分类结果,这个分类结果即作为训练标签。预测标签也就是通过机器学习模型对脑电信号样本的分类结果进行预测得到的预测结果。
具体地,终端在获取到目标用户标识对应的训练样本后,将训练样本中的脑电信号样本输入机器学习模型,经过机器学习模型所包括的各层依次处理后,输出脑电信号样本对应的预测标签,根据预测标签与训练标签的差异构建损失函数,再按照最小化该损失函数的方向反向传播,调整机器学习模型的模型参数并继续训练,直至满足训练结束条件。
在一个实施例中,可采用交叉熵损失函数softmax loss作为机器学习模型的损失函数,公式如下:
其中,和/>分别为训练标签和预测标签。
在一个实施例中,终端可以基于SGD(Stochastic Gradient Descent)的梯度下降法调整机器学习模型的模型参数,并采用Xavier来初始化模型参数。
在一个实施例中,机器学习模型的网络结构如图4 所示,参照图4,该机器学习模型包括第一时间卷积层、第二时间卷积层、第三时间卷积层、融合层、注意力分配网络、空间卷积层、池化层、展平层、第一全连接层、第二全连接层以及softmax层,在本实施例中,终端将脑电信号样本输入机器学习模型,经过机器学习模型所包括的各层依次处理后,输出脑电信号样本对应的预测标签,具体包括以下步骤:
1、将脑电信号样本分别输入第一时间卷积层、第二时间卷积层以及第三时间卷积层,通过第一时间卷积层、第二时间卷积层以及第三时间卷积层分别对待分类脑电信号在时间维度进行卷积,得到各个目标频段对应的频段特征。
2、将各个目标频段对应的频段特征输入融合层,通过融合层拼接各个频段特征,得到第一频段融合特征。
3、将第一频段融合特征输入注意力分配网络中,分别获取第一频段融合特征中与各个频段特征对应的子特征的子注意力权重,分别根据各个频段特征对应的子注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征,各个目标分类特征用于拼接得到第二频段融合特征。
4、对第一频段融合特征及第二频段融合特征进行相加,得到目标频段融合特征。
5、将目标频段融合特征输入空间卷积层,通过空间卷积层对目标频段融合特征进行空间卷积,得到中间特征。
6、将中间特征输入池化层,通过池化层对中间特征进行池化操作。
7、将池化操作后的中间特征输入展平层,通过展平层对池化操作后的中间特征进行展平处理。
8、将展平处理后的中间特征输入全连接层,通过全连接层将展平处理后的中间特征映射为目标特征向量。
9、将目标特征向量输入softmax层,通过该层的softmax函数对目标特征向量进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
在一个具体的实施例中,待分类脑电信号的信号尺寸为1000x22,机器学习模型各层输出特征的尺寸以及网络参数如表1所示。
表1
上述实施例中,由于训练得到的机器学习模型为端到端的机器学习模型,只需要输入待分类脑电信号即可直接得到分类结果,无需过多手工提取特征的先验知识,同时由于采用了多尺度时间卷积神经网络来提取特征,可以提升分类结果的准确性,进一步,由于采用了注意力机制,不需要为每个用户单独调试超参数,就能训练出高效有用的机器学习模型,使得脑机接口的应用更加容易。
继续参考图4,在一个实施例中,注意力分配网络包括池化层、第一卷积层、第二卷积层以及激励函数层,上述实施例中步骤3将第一频段融合特征输入注意力分配网络中,分别获取第一频段融合特征中与各个频段特征对应的子特征的子注意力权重,分别根据各个频段特征对应的子注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征,具体包括:
1、将第一频段融合特征输入池化层,在池化层对第一频段融合特征进行全局平均池化,得到池化特征。
2、将池化特征输入第一卷积层,在第一卷积层对池化特征进行压缩处理。
3、将压缩处理后的池化特征输入第二卷积层,在第二卷积层将压缩处理后的池化特征的维度调整至与池化特征向量一致。
4、将调整后的池化特征输入激励函数层,在激励函数层通过sigmoid函数得到第一频段融合特征中与各个频段特征对应的子特征的子注意力权重,并将各个子注意力权重与各自对应的子特征相乘,得到各个目标频段的目标分类特征。
本实施例中,注意力分配网络各层输出特征的尺寸以及网络参数如表2所示。
表2
在一个实施例中,将脑电信号样本输入机器学习模型,经过机器学习模型所包括的各层依次处理后,输出脑电信号样本对应的预测标签包括:在机器学习模型的池化层,获取预设失活概率,以预设失活概率对池化层对应的神经元进行失活处理;根据失活处理后的池化层对输入池化层的脑电信号样本进行池化处理。
具体地,在一次的训练过程中,当数据传输到池化层时,终端获取预设的失活概率,以该失活概率对池化层对应的神经元进行失活处理,失活处理也就是对池化层的神经元以该预设概率进行丢弃(dropout),丢弃的神经元将停止工作,然后将数据通过保留下的神经元继续前向传播,最后将得到的损失结果通过保留下的神经元反向传播,反向传播完成后,在保留下的神经元上按照随机梯度下降法更新对应的参数。每次训练都不断重复该过程,直至训练结束。
在一个实施例中,预设失活概率为0.5。
本实施例中,通过对神经元以预设失活概率进行失活处理,由于每次训练被丢弃的神经元通常都不相同,相当于每次训练都在训练不同的网络,整个训练过程就相当于对很多个不同的神经网络取平均,而不同的网络产生不同的过拟合,一些互为“反向”的拟合相互抵消,从而可以有效地减少过拟合。
在一个实施例中,如图5所示,提供了一种脑电信号分类方法,包括以下步骤:
步骤502,获取待分类脑电信号。
步骤504,从待分类脑电信号对应的多个子信号中,过滤掉非目标子信号。
本实施例中,待分类脑电信号为运动想象脑电信号。可通过多个电极,以预设的采样率在多个电极通道对目标用户的头部进行信号采集,从采集的数据中截取预设时长的数据,得到待分类脑电信号。其中,每一个电极通道采集到的数据为待分类脑电信号对应的一个子信号。非目标子信号指的是与运动想象任务无关的子信号。例如,采集到的眼电信号即为非目标子信号。
在一个具体的实施例中,可采集目标用户的22个电极脑电信号和3个电极眼电信号,采样率为250Hz,终端可截取运动想象区间的信号,从2s-6s共4s的数据,作为待分类脑电信号。由于采样频率为250Hz,将得到一个时间维度为1000的待分类脑电信号。进一步,终端过滤掉3个电极眼电信号。
步骤506,将过滤后的待分类脑电信号进行滤波处理。
具体地,终端可选择0-38Hz的带通滤波器,例如三阶的巴特沃斯滤波器,对待分类脑电信号进行带通滤波处理,以去除由眼动等无关生理噪声和工频干扰带来的影响。
步骤508,将滤波处理后的待分类脑电信号进行标准化处理。
可以理解,由于采集设备或者目标用户精神状态的影响,导致待分类脑电信号往往噪声很大,对待分类脑电信号进行标准化处理可以起到去除噪声,平滑信号的作用。
在一个实施例中,信号标准化处理可采用指数加权移动平均法,权重参数可设置为0.999。可以理解的是,本申请也可以采用其他的信号标准化处理方法,比如均值方差标准化和CSP(common spatial pattern,,共空间模式)算法等,本申请在此对具体的信号标准化处理方法不做限制。
步骤510,对标准化处理后的待分类脑电信号提取的多个目标频段的信号特征,得到各个目标频段对应的频段特征。
步骤512,获取各个频段特征对应的目标权重,分别根据各个频段特征对应的目标权重,得到各个频段特征各自对应的目标频段的目标分类特征。
步骤514,根据各个目标分类特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
本实施例中,通过对待分类脑电信号过滤掉非目标子信号、滤波处理以及信号标准化处理,使得得到的待分类脑电信号包含尽可能少的干扰信息,提升分类结果的准确性。
在一个具体的实施例中,如图6所示,提供了一种脑电信号分类方法,本实施例中,待分类脑电信号为运动想象脑电信号。参照图6,本实施例中,终端在获取到待分类脑电信号后,对待分类脑电信号进行信号预处理,包括通道选择、带通滤波及信号标准化,再输入到包含多尺度卷积神经网络的机器学习模型中自动提取关键的时域和空间域特征,并结合注意力机制来进一步强化分类准确性,最终,机器学习模型预测出待分类脑电信号所对应的运动想象类别。
其中,对信号预处理的具体解释可参考前述实施例中步骤504-步骤508的描述,通过包含多尺度卷积神经网络的机器学习模型并结合注意力机制实现分类的具体解释可参考前述实施例中的描述,本申请在此不再赘述。
在一个实施例中,待分类脑电信号为运动想象脑电信号;该脑电信号分类方法还包括:根据分类结果生成控制指令,控制指令用于控制目标设备执行与分类结果对应的控制操作;目标设备包括外骨骼机器人、电动轮椅、游戏设备中的任意一种。
具体地,控制指令用于控制外骨骼机器人时,可用于偏瘫、脑卒中患者运动功能的主动式康复;控制指令用于控制电动轮椅结合时,可帮助肢体行动不便的用户自由活动出行;控制指令用于控制游戏设备,例如脑控VR(Virtual Reality,虚拟现实)游戏设备时,可实现人体通过意念想象控制虚拟世界物体的活动。
本实施例中,通过生成控制指令控制目标设备执行与分类结果对应的控制操作,实现了在没有任何肢体运动的情况下,通过大脑想象肢体运动开控制外部设备。
应该理解的是,虽然图1-图3,以及图5-图6的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1-图3,以及图5-图6中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图7所示,提供了一种脑电信号分类装置700,该装置可以采用软件模块或硬件模块,或者是二者的结合成为计算机设备的一部分,该装置具体包括:
信号获取模块702,用于获取待分类脑电信号;
特征提取模块704,用于对待分类脑电信号提取多个目标频段的信号特征,得到各个目标频段对应的频段特征;目标频段是与待分类脑电信号对应的目标用户标识相对应的频段;
权重获取模块706,用于获取各个频段特征对应的目标权重,分别根据各个频段特征对应的目标权重,得到各个频段特征各自对应的目标频段的目标分类特征;
分类模块708,用于根据各个目标分类特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
在一个实施例中,如图8所示,特征提取模块704包括:
模型获取单元704A,用于获取目标用户标识对应的机器学习模型;机器学习模型为根据目标用户标识对应的训练样本训练得到的;
第一输入单元704B,用于将待分类脑电信号输入机器学习模型中;机器学习模型包括多个不同尺度的时间卷积层;通过多个不同尺度的时间卷积层分别对待分类脑电信号在时间维度进行卷积,得到各个目标频段对应的频段特征。
在一个实施例中,如图9所示,权重获取模块706包括:
第二输入单元706B,将各个目标频段对应的频段特征输入注意力分配网络中;
权重获取单元706C,用于在注意力分配网络中,分别获取各个频段特征对应的注意力权重,分别根据各个频段特征对应的注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征。
在一个实施例中,第二输入单元706B还用于拼接各个频段特征,得到第一频段融合特征;将第一频段融合特征输入注意力分配网络中;权重获取单元706C还用于在注意力分配网络中,分别获取第一频段融合特征中与各个频段特征对应的子特征的子注意力权重,分别根据各个频段特征对应的子注意力权重,得到各个频段特征各自对应的目标频段的目标分类特征。
在一个实施例中,注意力分配网络包括第一池化层、第一卷积层、第二卷积层以及激励函数层;权重获取单元706C还用于在第一池化层对第一频段融合特征进行全局平均池化,得到池化特征;在第一卷积层对池化特征进行压缩处理;在第二卷积层将压缩处理后的池化特征的维度调整至与池化特征向量一致;将调整后的池化特征输入激励函数层,得到第一频段融合特征中与各个频段特征对应的子特征的子注意力权重,并将各个子注意力权重与各自对应的子特征相乘,得到各个目标频段的目标分类特征,各个目标分类特征用于拼接得到第二频段融合特征。
在一个实施例中,分类模块708还用于对第一频段融合特征及第二频段融合特征进行相加,得到目标频段融合特征;在机器学习模型的空间卷积层,对目标频段融合特征进行空间卷积,得到中间特征;根据中间特征进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
在一个实施例中,机器学习模型还包括第二池化层、展平层以及全连接层;分类模块708还用于通过机器学习模型的第二池化层,对中间特征进行池化操作;通过机器学习模型的展平层,对池化操作后的中间特征进行展平处理;通过机器学习模型的全连接层,将展平处理后的中间特征映射为目标特征向量;根据目标特征向量进行分类处理,得到目标用户标识对应的待分类脑电信号的分类结果。
在一个实施例中,该脑电信号分类装置还包括:训练模块,用于获取目标用户标识对应的训练样本;训练样本包括脑电信号样本及与脑电信号样本对应的训练标签;将脑电信号样本输入机器学习模型,经过机器学习模型所包括的各层依次处理后,输出脑电信号样本对应的预测标签;根据预测标签和训练标签的差异反向传播调整机器学习模型的网络参数,以训练机器学习模型。
在一个实施例中,训练模块还用于在机器学习模型的池化层,获取预设失活概率,以预设失活概率对池化层对应的神经元进行失活处理;根据失活处理后的池化层对输入池化层的脑电信号样本进行池化处理。
在一个实施例中,该脑电信号分类装置还包括:预处理模块,用于从待分类脑电信号对应的多个子信号中,过滤掉非目标子信号;将过滤后的待分类脑电信号进行滤波处理;将滤波处理后的待分类脑电信号进行标准化处理;特征提取模块704还用于对标准化处理后的待分类脑电信号提取与目标用户标识对应的多个目标频段的信号特征,得到各个目标频段对应的频段特征。
在一个实施例中,待分类脑电信号为运动想象脑电信号;该脑电信号分类装置还包括:控制模块,用于根据分类结果生成控制指令,控制指令用于控制目标设备执行与分类结果对应的控制操作;目标设备包括外骨骼机器人、电动轮椅、游戏设备中的任意一种。
关于脑电信号分类装置的具体限定可以参见上文中对于脑电信号分类方法的限定,在此不再赘述。上述脑电信号分类装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图10所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种脑电信号分类方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图10中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (16)

1.一种脑电信号分类方法,所述方法包括:
获取待分类脑电信号;将所述待分类脑电信号输入机器学习模型中;所述机器学习模型包括多个并列的不同尺度的时间卷积层和注意力分配网络;
通过所述多个并列的不同尺度的时间卷积层分别对所述待分类脑电信号在时间维度进行卷积,得到各个目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;
拼接各个所述频段特征,得到第一频段融合特征;
将所述第一频段融合特征输入所述注意力分配网络中;
在所述注意力分配网络包括的第一池化层对所述第一频段融合特征进行全局平均池化,得到池化特征向量;所述池化特征向量的维度与所述第一频段融合特征中包含的通道数一致;
在所述注意力分配网络包括的第一卷积层对所述池化特征向量进行压缩处理,获得压缩处理后的所述池化特征向量;所述压缩处理后的所述池化特征向量的维度小于所述池化特征向量;
在所述注意力分配网络包括的第二卷积层将压缩处理后的所述池化特征的维度调整至与所述池化特征向量一致;
将调整后的所述池化特征输入所述注意力分配网络包括的激励函数层,得到所述第一频段融合特征中与各个所述频段特征中每个通道对应的子注意力权重,并将各个所述子注意力权重与各自对应的通道相乘,得到各个所述目标频段的目标分类特征,各个所述目标分类特征用于拼接得到第二频段融合特征;所述频段特征中的通道为所述频段特征中包含的特征张量;
对所述第一频段融合特征及所述第二频段融合特征进行相加,得到目标频段融合特征,根据所述目标频段融合特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述目标频段融合特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果包括:
在所述机器学习模型的空间卷积层,对所述目标频段融合特征进行空间卷积,得到中间特征;
根据所述中间特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
3.根据权利要求2所述的方法,其特征在于,所述机器学习模型还包括第二池化层、展平层以及全连接层;所述根据所述中间特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果包括:
通过所述机器学习模型的第二池化层,对所述中间特征进行池化操作;
通过所述机器学习模型的展平层,对池化操作后的中间特征进行展平处理;
通过所述机器学习模型的全连接层,将展平处理后的所述中间特征映射为目标特征向量;
根据所述目标特征向量进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述目标用户标识对应的训练样本;所述训练样本包括脑电信号样本及与所述脑电信号样本对应的训练标签;
将所述脑电信号样本输入所述机器学习模型,经过所述机器学习模型所包括的各层依次处理后,输出所述脑电信号样本对应的预测标签;
根据所述预测标签和所述训练标签的差异反向传播调整所述机器学习模型的网络参数,以训练所述机器学习模型。
5.根据权利要求4所述的方法,其特征在于,所述将所述脑电信号样本输入所述机器学习模型,经过所述机器学习模型所包括的各层依次处理后,输出所述脑电信号样本对应的预测标签包括:
在所述机器学习模型的池化层,获取预设失活概率,以所述预设失活概率对所述池化层对应的神经元进行失活处理;
根据失活处理后的所述池化层对输入所述池化层的所述脑电信号样本进行池化处理。
6.根据权利要求1所述的方法,其特征在于,在所述将所述待分类脑电信号输入所述机器学习模型中之前,所述方法还包括:
从所述待分类脑电信号对应的多个子信号中,过滤掉非目标子信号;
将过滤后的所述待分类脑电信号进行滤波处理;
将滤波处理后的所述待分类脑电信号进行标准化处理;
所述将所述待分类脑电信号输入所述机器学习模型中,包括:
将标准化处理后的所述待分类脑电信号输入所述机器学习模型中。
7.根据权利要求1至6任意一项所述的方法,其特征在于,所述待分类脑电信号为运动想象脑电信号;所述方法还包括:
根据所述分类结果生成控制指令,所述控制指令用于控制目标设备执行与所述分类结果对应的控制操作;
所述目标设备包括外骨骼机器人、电动轮椅、游戏设备中的任意一种。
8.一种脑电信号分类装置,其特征在于,所述装置包括:
信号获取模块,用于获取待分类脑电信号;
第一输入单元,用于将所述待分类脑电信号输入机器学习模型中;所述机器学习模型包括多个并列的不同尺度的时间卷积层和注意力分配网络;通过所述多个并列的不同尺度的时间卷积层分别对所述待分类脑电信号在时间维度进行卷积,得到各个目标频段对应的频段特征;所述目标频段是与所述待分类脑电信号对应的目标用户标识相对应的频段;
权重获取模块,用于拼接各个所述频段特征,得到第一频段融合特征;将所述第一频段融合特征输入所述注意力分配网络中;在所述注意力分配网络包括的第一池化层对所述第一频段融合特征进行全局平均池化,得到池化特征向量;所述池化特征向量的维度与所述第一频段融合特征中包含的通道数一致;在所述注意力分配网络包括的第一卷积层对所述池化特征向量进行压缩处理,获得压缩处理后的所述池化特征向量;所述压缩处理后的所述池化特征向量的维度小于所述池化特征向量;在所述注意力分配网络包括的第二卷积层将压缩处理后的所述池化特征的维度调整至与所述池化特征向量一致;将调整后的所述池化特征输入所述注意力分配网络包括的激励函数层,得到所述第一频段融合特征中与各个所述频段特征中每个通道对应的子注意力权重,并将各个所述子注意力权重与各自对应的通道相乘,得到各个所述目标频段的目标分类特征,各个所述目标分类特征用于拼接得到第二频段融合特征;所述频段特征中的通道为所述频段特征中包含的特征张量;
分类模块,用于对所述第一频段融合特征及所述第二频段融合特征进行相加,得到目标频段融合特征,根据所述目标频段融合特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
9.根据权利要求8所述的装置,其特征在于,所述分类模块还用于:
在所述机器学习模型的空间卷积层,对所述目标频段融合特征进行空间卷积,得到中间特征;
根据所述中间特征进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
10.根据权利要求9所述的装置,其特征在于,所述机器学习模型还包括第二池化层、展平层以及全连接层;所述分类模块还用于:通过所述机器学习模型的第二池化层,对所述中间特征进行池化操作;通过所述机器学习模型的展平层,对池化操作后的中间特征进行展平处理;通过所述机器学习模型的全连接层,将展平处理后的所述中间特征映射为目标特征向量;根据所述目标特征向量进行分类处理,得到所述目标用户标识对应的所述待分类脑电信号的分类结果。
11.根据权利要求8所述的装置,其特征在于,所述装置还包括:训练模块,用于获取所述目标用户标识对应的训练样本;所述训练样本包括脑电信号样本及与所述脑电信号样本对应的训练标签;将所述脑电信号样本输入所述机器学习模型,经过所述机器学习模型所包括的各层依次处理后,输出所述脑电信号样本对应的预测标签;根据所述预测标签和所述训练标签的差异反向传播调整所述机器学习模型的网络参数,以训练所述机器学习模型。
12.根据权利要求11所述的装置,其特征在于,所述训练模块还用于:
在所述机器学习模型的池化层,获取预设失活概率,以所述预设失活概率对所述池化层对应的神经元进行失活处理;
根据失活处理后的所述池化层对输入所述池化层的所述脑电信号样本进行池化处理。
13.根据权利要求8所述的装置,其特征在于,所述装置还包括:预处理模块,用于从所述待分类脑电信号对应的多个子信号中,过滤掉非目标子信号;将过滤后的所述待分类脑电信号进行滤波处理;将滤波处理后的所述待分类脑电信号进行标准化处理;特征提取模块还用于对标准化处理后的所述待分类脑电信号提取与所述目标用户标识对应的多个目标频段的信号特征,得到各个所述目标频段对应的频段特征。
14.根据权利要求8至13任意一项所述的装置,其特征在于,所述待分类脑电信号为运动想象脑电信号;所述装置还包括:控制模块,用于根据所述分类结果生成控制指令,所述控制指令用于控制目标设备执行与所述分类结果对应的控制操作;所述目标设备包括外骨骼机器人、电动轮椅、游戏设备中的任意一种。
15.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
16.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
CN202010124738.4A 2020-02-27 2020-02-27 脑电信号分类方法、装置、计算机设备和存储介质 Active CN111317468B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010124738.4A CN111317468B (zh) 2020-02-27 2020-02-27 脑电信号分类方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010124738.4A CN111317468B (zh) 2020-02-27 2020-02-27 脑电信号分类方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN111317468A CN111317468A (zh) 2020-06-23
CN111317468B true CN111317468B (zh) 2024-04-19

Family

ID=71165389

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010124738.4A Active CN111317468B (zh) 2020-02-27 2020-02-27 脑电信号分类方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN111317468B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112257658B (zh) * 2020-11-11 2023-10-10 微医云(杭州)控股有限公司 一种脑电信号的处理方法、装置、电子设备及存储介质
CN112528804A (zh) * 2020-12-02 2021-03-19 西安电子科技大学 基于生成对抗网络的肌电信号降噪和分类方法
CN112507881A (zh) * 2020-12-09 2021-03-16 山西三友和智慧信息技术股份有限公司 一种基于时间卷积神经网络的sEMG信号分类方法及系统
CN113180692B (zh) * 2021-02-11 2023-01-20 北京工业大学 一种基于特征融合和注意力机制的脑电信号分类识别方法
CN113693613B (zh) * 2021-02-26 2024-05-24 腾讯科技(深圳)有限公司 脑电信号分类方法、装置、计算机设备及存储介质
CN112597986B (zh) * 2021-03-05 2021-06-08 腾讯科技(深圳)有限公司 生理电信号分类处理方法、装置、计算机设备和存储介质
CN113069117A (zh) * 2021-04-02 2021-07-06 中山大学 一种基于时间卷积神经网络的脑电情绪识别方法及系统
CN113133769A (zh) * 2021-04-23 2021-07-20 河北师范大学 基于运动想象脑电信号的设备控制方法、装置及终端
CN113655884A (zh) * 2021-08-17 2021-11-16 河北师范大学 设备控制方法、终端及系统
CN115251909B (zh) * 2022-07-15 2024-04-30 山东大学 基于时空卷积神经网络的脑电信号评估听力的方法及装置
CN115035605B (zh) * 2022-08-10 2023-04-07 广东履安实业有限公司 基于深度学习的动作识别方法、装置、设备及存储介质
CN116702001A (zh) * 2023-04-06 2023-09-05 博睿康科技(常州)股份有限公司 信号检测方法在生理信号分类中的应用

Citations (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104166548A (zh) * 2014-08-08 2014-11-26 同济大学 基于运动想象脑电数据的深度学习方法
CN104970790A (zh) * 2015-06-11 2015-10-14 昆明理工大学 一种运动想象脑电波解析方法
CN107092887A (zh) * 2017-04-21 2017-08-25 重庆邮电大学 一种基于Multi‑bands FDBN的运动想象脑电信号的特征提取方法
WO2018094720A1 (zh) * 2016-11-24 2018-05-31 浙江大学 基于临床脑电信号控制机械手运动的脑机接口系统及其应用
CN108445751A (zh) * 2018-02-28 2018-08-24 天津大学 融合递归图与深度学习的多目标ssvep意念控制法及应用
CN108960299A (zh) * 2018-06-15 2018-12-07 东华大学 一种多类运动想象脑电信号的识别方法
CN109472194A (zh) * 2018-09-26 2019-03-15 重庆邮电大学 一种基于cblstm算法模型的运动想象脑电信号特征识别方法
CN109599129A (zh) * 2018-11-13 2019-04-09 杭州电子科技大学 基于注意力机制和卷积神经网络的语音抑郁症识别方法
CN109730818A (zh) * 2018-12-20 2019-05-10 东南大学 一种基于深度学习的假手控制方法
CN109846477A (zh) * 2019-01-29 2019-06-07 北京工业大学 一种基于频带注意力残差网络的脑电分类方法
CN109886358A (zh) * 2019-03-21 2019-06-14 上海理工大学 基于多时空信息融合卷积神经网络的人体行为识别方法
CN110008674A (zh) * 2019-03-25 2019-07-12 浙江大学 一种高泛化性的心电信号身份认证方法
CN110263606A (zh) * 2018-08-30 2019-09-20 周军 基于端到端卷积神经网络的头皮脑电特征提取分类方法
CN110287801A (zh) * 2019-05-29 2019-09-27 中国电子科技集团公司电子科学研究院 一种微表情识别算法
CN110353675A (zh) * 2019-08-14 2019-10-22 东南大学 基于图片生成的脑电信号情感识别方法及装置
CN110490881A (zh) * 2019-08-19 2019-11-22 腾讯科技(深圳)有限公司 医学影像分割方法、装置、计算机设备及可读存储介质
CN110515456A (zh) * 2019-08-14 2019-11-29 东南大学 基于注意力机制的脑电信号情感判别方法及装置
CN110531861A (zh) * 2019-09-06 2019-12-03 腾讯科技(深圳)有限公司 运动想象脑电信号的处理方法和装置及存储介质
CN110674738A (zh) * 2019-09-23 2020-01-10 长沙理工大学 一种左右手脑电信号识别方法及相关装置
CN110765920A (zh) * 2019-10-18 2020-02-07 西安电子科技大学 基于卷积神经网络的运动想象分类方法
KR20200018868A (ko) * 2018-08-13 2020-02-21 한국과학기술원 강화학습을 이용한 적응형 뇌파 분석 방법 및 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11373672B2 (en) * 2016-06-14 2022-06-28 The Trustees Of Columbia University In The City Of New York Systems and methods for speech separation and neural decoding of attentional selection in multi-speaker environments

Patent Citations (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104166548A (zh) * 2014-08-08 2014-11-26 同济大学 基于运动想象脑电数据的深度学习方法
CN104970790A (zh) * 2015-06-11 2015-10-14 昆明理工大学 一种运动想象脑电波解析方法
WO2018094720A1 (zh) * 2016-11-24 2018-05-31 浙江大学 基于临床脑电信号控制机械手运动的脑机接口系统及其应用
CN107092887A (zh) * 2017-04-21 2017-08-25 重庆邮电大学 一种基于Multi‑bands FDBN的运动想象脑电信号的特征提取方法
CN108445751A (zh) * 2018-02-28 2018-08-24 天津大学 融合递归图与深度学习的多目标ssvep意念控制法及应用
CN108960299A (zh) * 2018-06-15 2018-12-07 东华大学 一种多类运动想象脑电信号的识别方法
KR20200018868A (ko) * 2018-08-13 2020-02-21 한국과학기술원 강화학습을 이용한 적응형 뇌파 분석 방법 및 장치
CN110263606A (zh) * 2018-08-30 2019-09-20 周军 基于端到端卷积神经网络的头皮脑电特征提取分类方法
CN109472194A (zh) * 2018-09-26 2019-03-15 重庆邮电大学 一种基于cblstm算法模型的运动想象脑电信号特征识别方法
CN109599129A (zh) * 2018-11-13 2019-04-09 杭州电子科技大学 基于注意力机制和卷积神经网络的语音抑郁症识别方法
CN109730818A (zh) * 2018-12-20 2019-05-10 东南大学 一种基于深度学习的假手控制方法
CN109846477A (zh) * 2019-01-29 2019-06-07 北京工业大学 一种基于频带注意力残差网络的脑电分类方法
CN109886358A (zh) * 2019-03-21 2019-06-14 上海理工大学 基于多时空信息融合卷积神经网络的人体行为识别方法
CN110008674A (zh) * 2019-03-25 2019-07-12 浙江大学 一种高泛化性的心电信号身份认证方法
CN110287801A (zh) * 2019-05-29 2019-09-27 中国电子科技集团公司电子科学研究院 一种微表情识别算法
CN110353675A (zh) * 2019-08-14 2019-10-22 东南大学 基于图片生成的脑电信号情感识别方法及装置
CN110515456A (zh) * 2019-08-14 2019-11-29 东南大学 基于注意力机制的脑电信号情感判别方法及装置
CN110490881A (zh) * 2019-08-19 2019-11-22 腾讯科技(深圳)有限公司 医学影像分割方法、装置、计算机设备及可读存储介质
CN110531861A (zh) * 2019-09-06 2019-12-03 腾讯科技(深圳)有限公司 运动想象脑电信号的处理方法和装置及存储介质
CN110674738A (zh) * 2019-09-23 2020-01-10 长沙理工大学 一种左右手脑电信号识别方法及相关装置
CN110765920A (zh) * 2019-10-18 2020-02-07 西安电子科技大学 基于卷积神经网络的运动想象分类方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
基于C-LSTM模型的端到端多粒度运动想象脑电信号分析方法;李海峰;徐聪;马琳;;信号处理;20180825(第08期);全文 *
多尺度输入3D卷积融合双流模型的行为识别方法;宋立飞;翁理国;汪凌峰;夏旻;;计算机辅助设计与图形学学报;20181115(第11期);全文 *
多类运动想象脑电信号特征提取与分类;段锁林;尚允坤;潘礼正;;计算机测量与控制;20160225(第02期);全文 *

Also Published As

Publication number Publication date
CN111317468A (zh) 2020-06-23

Similar Documents

Publication Publication Date Title
CN111317468B (zh) 脑电信号分类方法、装置、计算机设备和存储介质
Zhao et al. A multi-branch 3D convolutional neural network for EEG-based motor imagery classification
Zhang et al. Spatiotemporal sparse Bayesian learning with applications to compressed sensing of multichannel physiological signals
Alyasseri et al. EEG signals denoising using optimal wavelet transform hybridized with efficient metaheuristic methods
CN111209885B (zh) 一种手势信息处理方法、装置、电子设备及存储介质
Mullen et al. Real-time neuroimaging and cognitive monitoring using wearable dry EEG
Barachant et al. Riemannian geometry applied to BCI classification
Shanmuganathan et al. R-CNN and wavelet feature extraction for hand gesture recognition with EMG signals
Gupta et al. Performance enhancement of mental task classification using EEG signal: a study of multivariate feature selection methods
WO2022179548A1 (zh) 脑电信号分类方法、装置、设备、存储介质及程序产品
Singh et al. Small sample motor imagery classification using regularized Riemannian features
WO2022183966A1 (zh) 脑电信号分类方法、装置、设备、存储介质及程序产品
CN114424940A (zh) 基于多模态时空特征融合的情绪识别方法及系统
Subasi et al. The Ensemble Machine Learning‐Based Classification of Motor Imagery Tasks in Brain‐Computer Interface
Nagarajan et al. Relevance-based channel selection in motor imagery brain–computer interface
Reddy et al. Driver drowsiness detection: An approach based on intelligent brain–computer interfaces
Bhandari et al. Emotion recognition and classification using EEG: A review
Fauzi et al. Energy extraction method for EEG channel selection
Fan et al. Joint filter-band-combination and multi-view CNN for electroencephalogram decoding
Anupama et al. Real-time EEG based object recognition system using Brain Computer Interface
KR102300459B1 (ko) 딥러닝 기반의 뇌-컴퓨터 인터페이스를 위한 공간-주파수 특징맵을 생성하는 장치 및 방법
Forney et al. Echo state networks for modeling and classification of EEG signals in mental-task brain-computer interfaces
Tiwari et al. EEG signals to digit classification using deep learning-based one-dimensional convolutional neural network
CN111882036A (zh) 卷积神经网络训练方法、脑电信号识别方法、装置和介质
CN115721323A (zh) 一种脑机接口信号识别方法、系统及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40024870

Country of ref document: HK

SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant