CN111772629B - 一种脑认知技能移植的方法 - Google Patents

一种脑认知技能移植的方法 Download PDF

Info

Publication number
CN111772629B
CN111772629B CN202010513742.XA CN202010513742A CN111772629B CN 111772629 B CN111772629 B CN 111772629B CN 202010513742 A CN202010513742 A CN 202010513742A CN 111772629 B CN111772629 B CN 111772629B
Authority
CN
China
Prior art keywords
electroencephalogram
stimulation
model
brain
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010513742.XA
Other languages
English (en)
Other versions
CN111772629A (zh
Inventor
王丽娜
徐颂
刘晶晶
王清华
高晓颖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Aerospace Automatic Control Research Institute
Original Assignee
Beijing Aerospace Automatic Control Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Aerospace Automatic Control Research Institute filed Critical Beijing Aerospace Automatic Control Research Institute
Priority to CN202010513742.XA priority Critical patent/CN111772629B/zh
Publication of CN111772629A publication Critical patent/CN111772629A/zh
Application granted granted Critical
Publication of CN111772629B publication Critical patent/CN111772629B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/047Probabilistic or stochastic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

本发明涉及一种脑认知技能移植的方法,(1)设计脑电信号采集实验范式与一定相关刺激模式;(2)同步采集多通道脑电信号数据,并对采集后的原始脑电信号进行有效成分提取;(3)确定N个被试人员在相关刺激下的脑电高效特征;(4)构建N个基于卷积循环神经网络的脑认知子模型,并完成模型训练;(5)构建N个脑电信号分类子模型,并完成模型训练;(6)获得N个脑认知分类器;(7)验证N个脑认知分类器的准确度,如果满足要求,则送入后续步骤;否则,返回步骤(4);(8)构建融合模型并进行测试,得到融合模型的性能属性值;(9)对所述的性能属性值进行判决,若符合要求,则实现脑认知技能移植;否则,返回步骤(8)重新执行,直至符合要求。

Description

一种脑认知技能移植的方法
技术领域
本发明涉及一种脑认知技能移植的方法,属于智能信息处理技术领域。
背景技术
研究类人脑神经网络模型和计算方法,开发受脑启发的类脑智能技术,是未来智能化时代的关键领域,也是新一轮科技革命的重心。类脑智能技术能够适用于人类相对计算机更具优势的信息处理任务,如机器的环境感知、交互、自主决策与智能控制等。传统人工神经网络结构忽略了大量与实现类脑智能密切相关的生物规则。开展基于神经电生理的脑认知机理研究,以及基于脑认知的智能分析策略研究,能够从仿生学角度搭建类人脑神经网络模型,实现对认知技能的学习逼近和对人脑神经网络工作原理的充分表达。因此,本发明的提出有利于推出新型神经网络学习模型,并为创新神经网络结构模式,开发受脑启发的类脑智能网络结构提供技术途径。
对大脑认知系统进行辨识分析对深入理解面向相关感官刺激的脑认知机理有重要的指导意义。研究表明,人脑认知系统分级处理,从低层级系统区提取特征,到高层级的认知行为。高层的特征是低层特征的组合,从低层到高层的特征表示越来越强,越来越表现意图。从神经电生理角度出发,对人脑认知机制与脑电信号展开深入研究,利用前沿人工智能领域知识,设计脑认知技能移植的方法,旨在构建新型符合人脑认知模式的相关刺激处理系统,能够更好的为理解人体认知机理提供新的思路,为面向复杂智能信息处理术提供理论依据与解决途径。
发明内容
本发明解决的技术问题是:设计了一种脑认知技能移植的方法,实现了将人脑认知能力迁移到相关刺激下的智能信息处理。
本发明解决技术的方案是:一种脑认知技能移植的方法,包括下列步骤:
(1)针对智能信息处理应用需求,设计脑电信号采集实验范式与一定相关刺激模式;
(2)令N个被试人员分别按照所设计的实验范式进行操作,同步采集记录N个被试人员在实验范式中相关刺激下的多通道脑电信号数据,并对采集后的原始脑电信号进行有效成分提取;
(3)对N个被试人员有效脑电信号进行关键特征提取以及特征选择,确定N个被试人员在相关刺激下的脑电高效特征;
(4)对N个被试人员构建N个脑认知子模型R1~RN,以相关刺激信号为输入,脑电高效特征为输出,完成模型训练;
(5)对N个被试人员构建N个脑电信号分类子模型D1~DN,以脑电高效特征为输入,相关刺激分类结果为输出,完成模型训练;
(6)组合脑认知子模型与脑电信号分类子模型,以脑认知子模型的输出作为对应脑电信号分类子模型的输入,从而获得N个脑认知分类器S1~SN
(7)验证N个脑认知分类器的准确度,如果满足要求,则送入后续步骤;否则,返回步骤(4)重新进行训练;
(8)基于集成学习策略实现对N个脑认知分类器的融合集成,构建融合模型并进行测试,得到融合模型的性能属性值;
(9)对所述的性能属性值进行判决,判决融合模型是否符合要求,若符合要求,则实现脑认知技能移植;否则,返回步骤(8)重新执行,直至符合要求。
优选的,相关刺激模式包括两类刺激信息,两类刺激信息在实验过程中随机出现,其中一类为目标刺激,另一类为干扰刺激。
优选的,每次刺激持续时间为0.4s-0.5s,相邻刺激之间设置的时间间隔为0.4s-0.5s,实验过程中要求被试人员对刺激出现次数进行默记。
优选的,一轮实验中目标刺激出现的数目占总刺激数目的8%-10%。
优选的,通过下述步骤对原始脑电信号进行有效成分提取:
(1.1)采用截止频率为0.1Hz-0.3Hz的高通FIR数字滤波器和截止频率为30Hz-35Hz的低通FIR数字滤波器,滤除低频、高频噪声;
(1.2)利用主成分分析算法PCA,将步骤(1.1)处理后的脑电信号白化处理,并且降低多通道脑电信号维度;
(1.3)利用独立成分分析算法ICA,分解步骤(1.2)处理后的脑电信号获得独立分量,从而找到干扰成分并去除,从而获得脑电信息有效成分。
优选的,所述的特征提取中涉及的关键特征包括脑电信号的时域特征、频域特征与熵值特征;
时域特征提取法包括方差计算、直方图表征、峰值检测、过零点分析;
频域特征提取方法包括幅度谱、相位谱、功率谱及能量谱分析;
熵值特征提取方法包括多尺度近似熵、样本熵、排列熵分析。
优选的,所述的脑电高效特征选择方法通过定量评定各项单类特征下的分类准确率指标。
优选的,步骤(4)通过下述方式实现:
(4.1)分别以实验范式中的相关刺激信号作为输入数据,N个被试在实验范式相关刺激下脑电数据的高效特征作为输出数据,形成数据集;
(4.2)对N个被试分别构建脑认知子模型,利用上述(4.1)中的数据集按照交叉验证原则对模型展开训练,并得到拟合准确度结果;
(4.3)若拟合准确度满足要求,则得到模型最优配置参数,获得训练好的脑认知子模型R1~RN;若拟合准确率不满足要求,则返回上述(4.2)继续训练。
优选的,通过下述步骤构建脑认知子模型:
(4.2.1)构建面向实验范式中相关刺激的VGG网络结构;
(4.2.2)构建基于VGG网络低层特征的边缘信息通道网络,利用该通道提取来自VGG网络中conv1-2和conv2-2的低层特征,获得相关刺激中的目标边界,进而得到边缘信息特征图;
(4.2.3)构建基于VGG网络高层特征的语义信息通道网络,利用该通道提取来自VGG网络中conv3-3,conv4-3和conv5-3的高层特征,获得相关刺激中的语义信息,进而得到语义信息特征图;
(4.2.4)将所述的边缘信息通道网络和语义信息通道网络进行拼接融合,得到双通道检测模型,同时,将对应的边缘信息特征图与语义信息特征图进行拼接得到融合特征图;
(4.2.5)构建区域推荐网络,以所述融合特征图作为输入,得到目标推荐区域;
(4.2.6)构建回归网络,以目标推荐区域连同所述的融合特征图以区域下采样的方式一起作为输入,获取脑电高效特征;
上述构建的双通道检测模型以及区域推荐网络与回归网络形成脑认知子模型。
优选的,通过下述步骤得到边缘信息特征图:
(4.2.2.1)提取来自VGG网络中conv1-2和conv2-2的低层特征,并将每部分低层特征上采样到conv1-2特征图大小;
(4.2.2.2)构建3×3×64的卷积层模块,将(4.2.2.1)中上采样得到低层特征输入到该卷积层,卷积层的输出记为低层局部特征A;
(4.2.2.3)构建空间注意力网络模块,利用该模块将(4.2.2.2)中得到的低层局部特征A进行处理,得到边缘信息特征图;
具体通过下述步骤(S1)-(S4)完成空间注意力网络模块的构建:
(S1)将低层局部特征A送入一层卷积层生成两个新的二维特征图B和C;将B进行转置,并与C进行矩阵相乘,并进一步经过softmax层计算得到空间注意力图S;
(S2)与步骤(1.1.1)同时,将低层局部特征A送入一层卷积得到一个新的二维特征图D;
(S3)将S与D进行矩阵相乘,得到的结果转为三维特征图R;
(S4)将R与A进行逐元素相加得到最终边缘信息特征图E。
优选的,通过下述步骤得到语义信息特征图:
(4.2.3.1)提取来自VGG网络中conv3-3,conv4-3和conv5-3的高层特征,并将每部分高层特征上采样到conv1-2特征图大小;
(4.2.3.2)构建多尺度语义感知模块,将(4.2.3.1)中上采样得到高层特征输入到卷积层,获取多级感受野的高层局部特征;
(4.2.3.3)构建通道注意力机制网络模块,将(4.2.3.2)中得到的高层局部特征输入到该网络模块,输出语义信息特征图;
具体通过下述步骤(A1)-(A3)完成通道注意力机制网络模块的构建:
(A1)将高层局部特征进行转置,并与高层局部特征本身相乘,并进一步经过softmax层计算得到通道注意力图X;
(A2)与步骤(A1)同时,将高层局部特征与通道注意力图X进行矩阵相乘,得到的结果转为三维特征图;
(A3)将步骤(A2)中的三维特征图与高层局部特征进行逐元素相加得到最终语义信息特征图。
优选的,步骤(5)通过下述方式实现:
(5.1)分别以N个被试在实验范式下的脑电数据对应的脑电高效特征数据为输入数据,以实验范式中的相关刺激信号的真实标签为输出数据,形成数据集;
(5.2)对N个被试分别构建脑电信号分类子模型,利用上述(5.1)中的数据集按照交叉验证原则对模型展开训练,并得到分类准确率结果;
(5.3)若分类准确率满足要求,则得到模型最优配置参数,获得训练好的脑电信号分类子模型;若分类准确率不满足要求,则返回上述(5.2)继续训练。
优选的,所述的脑电信号分类子模型采用XGBoost分类器模型构建。
优选的,使用基于加权投票的随机森林模型构建集成学习器,得到集成学习融合模型。
优选的,所述的基于加权投票的随机森林模型的集成学习器构建步骤如下:
(8.1)令N个训练好的脑认知分类器在相同刺激下的输出结果作为独立的输出O1~ON,并组合成输出向量[O1,O2,…,ON],以相应刺激信号的真实标签为输出数据,形成数据集;
(8.2)设计随机森林模型,利用(8.1)中的数据集按照交叉验证原则划分训练集与测试集,并对随机森林模型进行训练,得到随机森林模型的分类准确度指标;
(8.3)计算单个脑认知分类器的加权权重,形成基于加权投票随机森林模型的集成学习器。
优选的,所述交叉验证原则中训练集与测试集划分比例为7:3。
优选的,所述单个脑认知分类器加权权重获取方法为:计算每一个脑认知分类器对当前训练样本的准确度,并把它除以随机森林模型的分类准确度作为当前脑认知分类器的权重。
优选的,所述的性能属性值主要包括相关刺激信息的分类识别准确率、相关刺激信息的分类识别召回率、单个刺激信号处理时间。
本发明与现有技术相比的有益效果是:
(1)本发明采用的脑认知技能移植方法与传统信息处理方法相比,能够有效借鉴人脑认知技能优势,在当前复杂环境下的信息处理方面有较高的准确性与鲁棒性。
(2)本发明将脑认知技能迁移到智能信息处理领域,突破了传统基于计算机数据处理模式,从基础理论层面为复杂信息处理的理解模式提供新思路。
(3)本发明开展基于脑认知的智能信息处理系统能够为新型类脑神经网络模型和计算方法,以及受脑启发的类脑智能技术开发提供技术思路,并从计算角度为脑认知机理的分析提供一定的理论帮助。
附图说明
图1为本发明流程图;
图2为本发明实验范式示意图;
图3为本发明眼电干扰去除流程图;
图4为本发明构建脑认知网络整体结构图;
图5为本发明构建空间注意力模块流程图;
图6为本发明设计多尺度语义感知模块示意图;
图7为本发明构建通道注意力模块示意图。
具体实施方式
下面结合实施例及附图1-7对本发明作进一步阐述。
如图1所示,为本发明方法流程图,具体步骤如下:
(1)针对智能信息处理应用需求与脑认知技能优势,设计脑电信号采集实验范式与一定相关刺激模式;
本部分以视觉刺激为例,介绍相关刺激条件下的脑电信号采集实验范式设计及脑电信号采集情况:
一共设计2类刺激:
Figure BDA0002529377850000071
图片信息中包含所感兴趣的目标物,设为目标刺激;
Figure BDA0002529377850000072
图片信息中不含有目标物,设为干扰刺激。
具体实验流程为:被试人员坐在电脑屏幕前约0.6米处,允许被试根据自己的身高调试合适的座位高度,戴上脑电采集设备的电极帽,正视前方播放视觉刺激图片的电脑屏幕;实验开始前确保被试已经了解实验的详细流程;一共进行五轮实验,首先屏幕显示该次实验是倒数第几轮,能让被试清楚的知道实验的进度,持续0.5s,然后是0.5s的灰屏,每次视觉刺激图片呈现与灰屏组合称为一次trial,每一个trial中都包含了0.5s的图片显示时间和0.5s的灰屏时间。一轮实验中目标图片比例为8%-10%(例如每150张图片为一轮实验,其包含10-15张目标图片),且每个目标图片的前后均无目标图片。每轮实验间间隔保证被试充足休息,直到被试休息好了才开始下次实验。实验范式示意图如图2所示。
(2)令N个被试人员分别按照所设计的实验范式进行操作,同步采集记录N个被试人员在实验范式中相关刺激下的多通道脑电信号数据,并对采集后的原始脑电信号进行有效成分提取;
根据实验范式流程利用脑电采集设备开展脑电信号采集工作。本发明令N个被试人员按照相同的实验范式流程,同步记录采集的脑电信号G。所述被试人员i(1<=i<=N)的脑电信号为Gi(1<=i<=N)。
直接采集到的脑电(EEG)信号极其微弱,易受到各种干扰噪声的影响,且脑电信号具有较强的非平稳性和随机性,影响因素较多。因而,本发明对原始脑电信号进行了有效成分提取,具体包括以下两项:
1).滤波
由奈圭斯特定理可知,若采集的原始信号中包含频率高于两倍采样频率的信号,则会出现频率混叠现象,故需选择一个较低的频率作为截止频率,一般在实际应用中,采样频率至少为截止频率的3倍。EEG中包含噪声在频率上与有用信号的差异较大。在认知神经科学实验中,事件相关电位(event-related potential,ERP)波形中的大部分有用成分的频率范围在0.01Hz到30Hz之间。故可设置截止频率为30~35Hz的低通滤波器,对噪声信息进行过滤,且对ERP波形造成的影响较小。许多实验中还需用滤波器衰减极低频信号,从而去除记录过程中由于非神经活动而引起的缓慢电压变化。例如,出汗、电极电阻漂移等会使EEG基线电压产生缓慢且持续的变化,从而出现缓慢长时间的电压漂移,使波形产生较大失真,这时可利用0.1~0.3Hz截止频率的高通滤波器,过滤掉那些极低的频率。
2).有效成分分析
与EEG信号相比,干扰电位通常较大,这就会降低叠加平均后ERP波形的信噪比。某些类型的干扰并不是随机出现的,导致叠加平均并不能消除这些干扰,最终使得平均ERP波形出现差异。眼电干扰幅值范围为50~200,频率为0.1~20Hz,是脑电信号中最为常见的干扰成分。眼电干扰通过放置在眼睛附近的双极性电极记录得到,可分为水平眼电(HEOG)、垂直眼电(VEOG)和径向眼电(REOG),分别反映了眼球的水平运动、垂直眨眼运动和眼球的转动。眼电干扰持续时间较短,一般不超过300ms,其幅值和频率与脑电信号相近,给脑电信号的分析带来极大的干扰。此类成分的去除首先需要要求被试在实验过程中减少眼动,以此最大程度地去除水平眼点和径向眼电。而眨眼造成的垂直眼电无法通过对被试要求得到解决。本发明设计独立成分分析(ICA)和主成分分析(PCA)相结合的方法对实验记录多通道脑电信号中的垂直眼电干扰进行去除,具体流程如下:
①PCA处理
PCA的主要作用是将信号白化处理,信号的白化处理是指对任意的多维信号通过一个线性变换使其成为白色信号的过程,其变换矩阵称为白化矩阵。白色信号是指各个分量相互统计独立并且方差为1,即协方差矩阵是单一矩阵的信号。同时,PCA还有降低维度,简化ICA计算量的作用。设T为观测信号x(t)的白化矩阵,则:
Figure BDA0002529377850000091
其中,
Figure BDA0002529377850000092
为白化处理后的信号,所以有:
Figure BDA0002529377850000093
②ICA处理
ICA的主要作用是分解PCA处理后的信号获得独立分量,从而找到干扰成分并去除。ICA是在假设源信号相互统计独立的基础上,在源信号和信号混合矩阵未知的情况下,试图将一组随机变量表示成统计独立变量的线性组合,是多维数据的线性组合分析方法。第一步的白化处理便是为了保证。用矩阵的形式定义ICA的线性模型为:
Figure BDA0002529377850000094
X=AS (4)
式(2)中,xi为观测信号,si称为源信号,A为混合矩阵。
在ICA算法处理中,因为源信号S与混合矩阵A均为未知,因此只能构建一个解混矩阵W,希望输出的信号Y尽可能逼近S。即
y(t)=Wx(t)=WAs(t)=Gs(t) (5)
其中,G称为系统矩阵,最理想的情况是G=I,即Y=S。此时成功恢复了源信号。
上述步骤获得的各分量中与眼电导联VEOG、HEOG相似度高的分量我们便认为是眼电成分,并予以剔除,将剩余的成分进行逆ICA运算重构脑电信号。眼电干扰的去除流程图3所示。
(3)对N个被试人员有效脑电信号进行关键特征提取以及特征选择,确定N个被试人员在相关刺激下的脑电高效特征;
首先,特征提取是实现脑电信号分类的重要步骤,能否充分提取相关刺激下的脑电信号有效特征直接影响后续计算步骤的设计与性能。针对相关刺激下脑电特征提取问题,本发明提取以下三类特征:
Figure BDA0002529377850000101
时域特征。指在时域中直接提取特征,主要为方差、直方图、峰值检测、过零点分析。时域分析具备较强的直观性以及更明确的物理意义,可以体现大脑活动的重要信息。
Figure BDA0002529377850000102
频域特征。主要指EEG信号的幅度谱、相位谱、功率谱及能量谱等指标。具体提取方法包括傅里叶变换、经典谱估计和现代谱估计、相干分析。
Figure BDA0002529377850000103
熵值特征:主要包括多通道脑电信号的多尺度近似熵、样本熵、排列熵分析。
其次,特征选择是从特征提取后的原始特征集合中选择出一些最具有统计意义的特征以降低特征数据集维度的过程,其目的是使系统的特定指标最优化。包含以上全部三类特征的原始特征中存在大量与分类无关的信息,部分特征还存在相关性较大的冗余情况。这些无关和冗余信息将降低后续分类算法的性能。因此,设计特征选择原则,从原始特征集中选择能够实现有效脑电分类的高效特征子集,形成脑电高效特征向量。本发明设计采用定量评定各项单类特征下的分类准确率指标的方式获得脑电高效特征。
(4)按照预设对N个被试构建N个脑认知子模型,并完成模型训练;
现有的脑认知子模型可以采用现有的发育思路与内部动机思路进行构建,本发明给出一种独创的优选方法,提出的基于卷积循环神经网络的脑认知子模型的网络整体结构如图4所示,N个脑认知模型网络结构均按照如下构建。
首先,需要构建基于VGG网络高层和低层目标特征的双通道检测模型,利用该模型获取所述相关刺激中提取的融合特征图,网络结构设计情况介绍如下:
a.由于CNN低层的特征语义信息比较少,但是目标位置信息准确,高层的特征语义信息比较丰富,但是目标位置信息比较粗略。因此,提出一个分别利用VGG网络高层和低层目标特征的双通道检测模型;
b.对于低层目标特征,构建空间注意力模块(Spatial attention module,SAM)(如图5所示),关注有效的低层特征并获得比较清晰的目标边界。SAM通过对所有位置的特征进行加权求和,有选择地在每个位置聚合特征,因此具有相似特征的任意两个位置,无论在空间上相距多远,都可以相互促进,从而提高了类内紧凑性和语义一致性。SAM模块设计情况详细介绍如下:
例如,给定一个局部特征A∈RC×H×W,首先将它送入卷积层生成两个新的特征图B和C。因此,B和C降为二维(RC×N,N=H×W)。然后,将B进行转置(B∈N×C),并与C进行矩阵相乘,进一步经过softmax层计算得到空间注意力图S∈RN×N。与此同时,将A送入卷积得到一个新的特征图D∈RC×H×W,并将其转为二维,再将S与D进行矩阵相乘,得到的结果转为三维特征图RC×H×W,最后与A进行逐元素相加得到最终结果E∈RC×H×W。结果特征图E中每个位置的最终特征是所有位置的特征与原始特征的加权和,因此,它具有全局上下文视图,并根据空间主义图有选择地聚合上下文信息,相似的语义特征能够实现相互促进,从而提高了类内紧凑性和语义一致性。
c.对于高层目标特征,设计多尺度语义感知模块(Multi-scale semanticawareness module,MSA)(如图6所示),利用不同尺度的卷积获取多级感受野的高层特征,各层网络设计参数可见图6;
d.进一步,构建通道注意力模块(Channel attention module,CAM)(如图6所示),加强全局语义信息的关联,选择恰当的区域和感受野。通道注意力模块通过整合各通道映射之间的相关特征,选择性地强调相互依赖的通道映射,提高特征对目标对象的语义信息表达能力。CAM模块结构与SAM模块类似,不同之处在于我们直接从原始特征A上计算通道注意力图X∈RC×C,而不经过一层卷积操作;
e.设计空间注意力模块与通道注意力模块的拼接融合,分别经过两种注意力机制的高级特征和低级特征在信息表达上是互补的,我们将其融合起来得到对目标信息表达能力更丰富的融合特征图;
其次,基于双通道注意力机制下的融合特征图,构建区域推荐网络与回归网络,形成完整的卷积循环神经网络的脑认知模型,网络设计情况介绍如下:
a.将融合得到的特征图数据分别送入后续区域推荐网络(Region ProposalNetwork,RPN)和回归网络,形成完整的CRNN网络结构;
b.基于以上网络结构,利用脑电信号采集实验范式设计中的相关刺激数据集作为输入刺激数据,脑电高效特征数据集作为输出数据,开展模型训练与测试。
(5)对N个被试构建N个基于XGBoost的脑电信号分类子模型,并完成模型训练;
基于被试实验范式中相关刺激下脑电信号的高效特征数据及相关刺激真实标签,设计面向相关刺激识别的脑电信号分类模型。XGBoost(eXtreme Gradient Boosting)是一种基于树的能够自动处理稀疏数据的提升学习算法,其模型结构中的优化目标函数中加入了正则化项的结构化损失函数,能够有效减小其生成模型过拟合的风险,是一种性能优良的分类器。本发明设计的基于XGBoost的脑电信号分类模型构建步骤如下所示:
a.分别以N个被试在实验范式下的脑电数据对应的脑电高效特征数据为输入数据,以实验范式中的相关刺激信号的真实标签为输出数据,形成训练数据集;
b.对N个被试分别构建XGBoost模型,利用上述步骤a中的训练数据集按照交叉验证原则对模型展开训练,并得到分类准确率结果;
c.若分类准确率满足要求,则得到模型最优配置参数,获得训练好的XGBoost脑电信号分类子模型;若分类准确率不满足要求,则返回上述步骤b继续训练。
(6)组合脑认知子模型与脑电信号分类子模型,以脑认知子模型的输出作为脑电信号分类子模型的输入,从而获得N个脑认知分类器S1~SN
脑认知分类器S1~SN的获取方法是组合训练好的脑认知子模型与脑电信号分类子模型,具体是以脑认知子模型的输出作为对应脑电信号分类子模型的输入,从而脑认知分类器实现对相关刺激的分类识别。基于多个被试独立脑电信号数据,应用提出的脑认知子模型,能够拟合相关刺激信号到脑电高效特征的转化,逐步逼近人脑对相关刺激信号的认知过程。进一步,利用具有高度灵活性的XGBoost分类器给出实时分类结果,从而实现对个性化脑认知技能移植,具体训练实现步骤如下:
a.选定单个被试样本数据,将数据分成训练集和测试集两部分;
b.在训练集上应用脑认知模型对人脑认知能力的在线逼近拟合;同时,应用XGBoost分类器对人体脑电高效特征数据进行分类训练;
c.在测试样本上测试训练好的脑认知模型,获取预测脑电高效特征数据,继而利用XGBoost分类器对预测脑电特征数据进行分类,得到分类准确度,评估模型性能。
使用训练集对模型进行训练后,再使用该被试的原始测试集对模型评估,得到相应的预测识别结果。为了评估模型的性能,通常应用交叉验证方法对模型进行评估。对数据集多次划分为不同的训练集和测试集,对所有测试数据得到的分类结果进行检验,得到分类识别的准确率。当准确率达到要求指标后,表明模型对相关刺激下个体脑识别技能进行了充分学习拟合,即得到个性化脑认知分类器。
(7)基于集成学习策略对N个脑认知分类器进行融合,并进行测试,得到融合模型的性能属性值;
基于单个被试的个性化脑认知模型能够充分拟合单个被试的脑认知规律,有效迁移特定被试的脑认知技能。但鉴于不同被试对相关刺激存在认知差异,因此基于单个被试的个性化脑认知识别模型的表征能力泛化性较弱。本发明借鉴集成学习思想,通过学习若干有差异的个性化学习器,并利用集成学习策略对子模型分类结果进行融合集成,作为最终的输出。相对于单个学习器,集成学习算法能够有效的融合群体智慧,在大多数情况下可以显著提高学习系统的泛化能力。本发明设计基于加权投票随机森林模型的集成学习器,实现对N个脑认知分类器的融合集成,具体实施步骤如下所示:
a.令N个训练好的脑认知分类器S1~SN在相同刺激下的输出结果作为独立的输出O1~ON,并组合成输出向量[O1,O2,…,ON];
b.以实验范式中的相同刺激下,N个脑认知分类器的输出向量为输入数据,以相应刺激信号的真实标签为输出数据,形成数据集;
c.设计随机森林模型,以上述N个脑认知分类器的输出向量作为输入,输出相应刺激分类识别结果,以步骤b中的数据集按照交叉验证原则对随机森林模型进行训练,并得到随机森林模型的分类精确度指标;
d.计算每一个脑认知分类器对当前训练样本的平均精确度,并把它除以随机森林模型的训练精度作为当前脑认知分类器的权重,形成基于加权投票随机森林模型的集成学习器,得到集成学习融合模型;
e.对集成学习融合模型进行预测分析,并给出模型预测结果的性能属性值;
f.用判断准则评定性能属性值,若性能属性满足准则,则得到模型最优配置参数,实现脑认知模型的融合;若分类准确率不满足要求,则返回上述步骤c继续训练。
性能属性值包括相关刺激信息的分类识别准确率、相关刺激信息的分类识别召回率、单个刺激信号处理时间;
性能属性值判定准则例如:
①相关刺激信息的分类识别准确率>85%;
②相关刺激信息的分类识别召回率>85%;
③单个刺激信号处理时间<100ms。
在实际工程应用中,按照步骤(2)至(6)对采集到的多被试脑电信号及相关刺激进行处理,按照步骤(7)完成个性化脑认知模型的集成融合,进而完成面向相关刺激信息的脑认知技能移植。
本发明未详细说明部分属于本领域技术人员的公知常识。

Claims (18)

1.一种脑认知技能移植的方法,其特征在于包括下列步骤:
(1)针对智能信息处理应用需求,设计脑电信号采集实验范式与一定相关刺激模式;
(2)令N个被试人员分别按照所设计的实验范式进行操作,同步采集记录N个被试人员在实验范式中相关刺激下的多通道脑电信号数据,并对采集后的原始脑电信号进行有效成分提取;
(3)对N个被试人员有效脑电信号进行关键特征提取以及特征选择,确定N个被试人员在相关刺激下的脑电高效特征;
(4)对N个被试人员构建N个脑认知子模型R1~RN,以相关刺激信号为输入,脑电高效特征为输出,完成模型训练;
(5)对N个被试人员构建N个脑电信号分类子模型D1~DN,以脑电高效特征为输入,相关刺激分类结果为输出,完成模型训练;
(6)组合脑认知子模型与脑电信号分类子模型,以脑认知子模型的输出作为对应脑电信号分类子模型的输入,从而获得N个脑认知分类器S1~SN
(7)验证N个脑认知分类器的准确度,如果满足要求,则送入后续步骤;否则,返回步骤(4)重新进行训练;
(8)基于集成学习策略实现对N个脑认知分类器的融合集成,构建融合模型并进行测试,得到融合模型的性能属性值;
(9)对所述的性能属性值进行判决,判决融合模型是否符合要求,若符合要求,则实现脑认知技能移植;否则,返回步骤(8)重新执行,直至符合要求。
2.根据权利要求1所述的方法,其特征在于:相关刺激模式包括两类刺激信息,两类刺激信息在实验过程中随机出现,其中一类为目标刺激,另一类为干扰刺激。
3.根据权利要求2所述的方法,其特征在于:每次刺激持续时间为0.4s-0.5s,相邻刺激之间设置的时间间隔为0.4s-0.5s,实验过程中要求被试人员对刺激出现次数进行默记。
4.根据权利要求2所述的方法,其特征在于:一轮实验中目标刺激出现的数目占总刺激数目的8%-10%。
5.根据权利要求1所述的方法,其特征在于:通过下述步骤对原始脑电信号进行有效成分提取:
(1.1)采用截止频率为0.1Hz-0.3Hz的高通FIR数字滤波器和截止频率为30Hz-35Hz的低通FIR数字滤波器,滤除低频、高频噪声;
(1.2)利用主成分分析算法PCA,将步骤(1.1)处理后的脑电信号白化处理,并且降低多通道脑电信号维度;
(1.3)利用独立成分分析算法ICA,分解步骤(1.2)处理后的脑电信号获得独立分量,从而找到干扰成分并去除,从而获得脑电信息有效成分。
6.根据权利要求1所述的方法,其特征在于:所述的特征提取中涉及的关键特征包括脑电信号的时域特征、频域特征与熵值特征;
时域特征提取法包括方差计算、直方图表征、峰值检测、过零点分析;
频域特征提取方法包括幅度谱、相位谱、功率谱及能量谱分析;
熵值特征提取方法包括多尺度近似熵、样本熵、排列熵分析。
7.根据权利要求6所述的方法,其特征在于:所述的脑电高效特征选择方法通过定量评定各项单类特征下的分类准确率指标。
8.根据权利要求1所述的方法,其特征在于:步骤(4)通过下述方式实现:
(4.1)分别以实验范式中的相关刺激信号作为输入数据,N个被试在实验范式相关刺激下脑电数据的高效特征作为输出数据,形成数据集;
(4.2)对N个被试分别构建脑认知子模型,利用上述(4.1)中的数据集按照交叉验证原则对模型展开训练,并得到拟合准确度结果;
(4.3)若拟合准确度满足要求,则得到模型最优配置参数,获得训练好的脑认知子模型R1~RN;若拟合准确率不满足要求,则返回上述(4.2)继续训练。
9.根据权利要求8所述的方法,其特征在于:通过下述步骤构建脑认知子模型:
(4.2.1)构建面向实验范式中相关刺激的VGG网络结构;
(4.2.2)构建基于VGG网络低层特征的边缘信息通道网络,利用该通道提取来自VGG网络中conv1-2和conv2-2的低层特征,获得相关刺激中的目标边界,进而得到边缘信息特征图;
(4.2.3)构建基于VGG网络高层特征的语义信息通道网络,利用该通道提取来自VGG网络中conv3-3,conv4-3和conv5-3的高层特征,获得相关刺激中的语义信息,进而得到语义信息特征图;
(4.2.4)将所述的边缘信息通道网络和语义信息通道网络进行拼接融合,得到双通道检测模型,同时,将对应的边缘信息特征图与语义信息特征图进行拼接得到融合特征图;
(4.2.5)构建区域推荐网络,以所述融合特征图作为输入,得到目标推荐区域;
(4.2.6)构建回归网络,以目标推荐区域连同所述的融合特征图以区域下采样的方式一起作为输入,获取脑电高效特征;
上述构建的双通道检测模型以及区域推荐网络与回归网络形成脑认知子模型。
10.根据权利要求9所述的方法,其特征在于:通过下述步骤得到边缘信息特征图:
(4.2.2.1)提取来自VGG网络中conv1-2和conv2-2的低层特征,并将每部分低层特征上采样到conv1-2特征图大小;
(4.2.2.2)构建3×3×64的卷积层模块,将(4.2.2.1)中上采样得到低层特征输入到该卷积层,卷积层的输出记为低层局部特征A;
(4.2.2.3)构建空间注意力网络模块,利用该模块将(4.2.2.2)中得到的低层局部特征A进行处理,得到边缘信息特征图;
具体通过下述步骤(S1)-(S4)完成空间注意力网络模块的构建:
(S1)将低层局部特征A送入一层卷积层生成两个新的二维特征图B和C;将B进行转置,并与C进行矩阵相乘,并进一步经过softmax层计算得到空间注意力图S;
(S2)与步骤(1.1.1)同时,将低层局部特征A送入一层卷积得到一个新的二维特征图D;
(S3)将S与D进行矩阵相乘,得到的结果转为三维特征图R;
(S4)将R与A进行逐元素相加得到最终边缘信息特征图E。
11.根据权利要求9所述的方法,其特征在于:通过下述步骤得到语义信息特征图:
(4.2.3.1)提取来自VGG网络中conv3-3,conv4-3和conv5-3的高层特征,并将每部分高层特征上采样到conv1-2特征图大小;
(4.2.3.2)构建多尺度语义感知模块,将(4.2.3.1)中上采样得到高层特征输入到卷积层,获取多级感受野的高层局部特征;
(4.2.3.3)构建通道注意力机制网络模块,将(4.2.3.2)中得到的高层局部特征输入到该网络模块,输出语义信息特征图;
具体通过下述步骤(A1)-(A3)完成通道注意力机制网络模块的构建:
(A1)将高层局部特征进行转置,并与高层局部特征本身相乘,并进一步经过softmax层计算得到通道注意力图X;
(A2)与步骤(A1)同时,将高层局部特征与通道注意力图X进行矩阵相乘,得到的结果转为三维特征图;
(A3)将步骤(A2)中的三维特征图与高层局部特征进行逐元素相加得到最终语义信息特征图。
12.根据权利要求1所述的方法,其特征在于:步骤(5)通过下述方式实现:
(5.1)分别以N个被试在实验范式下的脑电数据对应的脑电高效特征数据为输入数据,以实验范式中的相关刺激信号的真实标签为输出数据,形成数据集;
(5.2)对N个被试分别构建脑电信号分类子模型,利用上述(5.1)中的数据集按照交叉验证原则对模型展开训练,并得到分类准确率结果;
(5.3)若分类准确率满足要求,则得到模型最优配置参数,获得训练好的脑电信号分类子模型;若分类准确率不满足要求,则返回上述(5.2)继续训练。
13.根据权利要求12所述的方法,其特征在于:所述的脑电信号分类子模型采用XGBoost分类器模型构建。
14.根据权利要求1所述的方法,其特征在于:使用基于加权投票的随机森林模型构建集成学习器,得到集成学习融合模型。
15.根据权利要求14所述的方法,其特征在于:所述的基于加权投票的随机森林模型的集成学习器构建步骤如下:
(8.1)令N个训练好的脑认知分类器在相同刺激下的输出结果作为独立的输出O1~ON,并组合成输出向量[O1,O2,…,ON],以相应刺激信号的真实标签为输出数据,形成数据集;
(8.2)设计随机森林模型,利用(8.1)中的数据集按照交叉验证原则划分训练集与测试集,并对随机森林模型进行训练,得到随机森林模型的分类准确度指标;
(8.3)计算单个脑认知分类器的加权权重,形成基于加权投票随机森林模型的集成学习器。
16.根据权利要求12所述的方法,其特征在于:所述交叉验证原则中训练集与测试集划分比例为7:3。
17.根据权利要求15所述的方法,其特征在于:所述单个脑认知分类器加权权重获取方法为:计算每一个脑认知分类器对当前训练样本的准确度,并把它除以随机森林模型的分类准确度作为当前脑认知分类器的权重。
18.根据权利要求1所述的方法,其特征在于:所述的性能属性值主要包括相关刺激信息的分类识别准确率、相关刺激信息的分类识别召回率、单个刺激信号处理时间。
CN202010513742.XA 2020-06-08 2020-06-08 一种脑认知技能移植的方法 Active CN111772629B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010513742.XA CN111772629B (zh) 2020-06-08 2020-06-08 一种脑认知技能移植的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010513742.XA CN111772629B (zh) 2020-06-08 2020-06-08 一种脑认知技能移植的方法

Publications (2)

Publication Number Publication Date
CN111772629A CN111772629A (zh) 2020-10-16
CN111772629B true CN111772629B (zh) 2023-03-24

Family

ID=72753553

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010513742.XA Active CN111772629B (zh) 2020-06-08 2020-06-08 一种脑认知技能移植的方法

Country Status (1)

Country Link
CN (1) CN111772629B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112257658B (zh) * 2020-11-11 2023-10-10 微医云(杭州)控股有限公司 一种脑电信号的处理方法、装置、电子设备及存储介质
CN113558636B (zh) * 2021-07-05 2024-04-02 杭州电子科技大学 基于音乐脑电信号排列熵对阿尔茨海默症患者痴呆程度分类的方法
CN118013366B (zh) * 2024-02-18 2024-07-05 天津大学 一种自然阅读环境下基于脑电信号的目标辨识分类方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106560848A (zh) * 2016-10-09 2017-04-12 辽宁工程技术大学 模拟生物双向认知能力的新型神经网络模型及训练方法
CN107169569A (zh) * 2017-04-17 2017-09-15 湖南本体信息科技研究有限公司 一种逻辑推理机、机器模拟人脑学习和工作的方法及人工智能系统
CN108182473A (zh) * 2017-12-12 2018-06-19 中国科学院自动化研究所 基于类脑脉冲神经网络的全尺度分布式全脑模拟系统
CN109190692A (zh) * 2018-08-21 2019-01-11 北京师范大学 基于生物大脑认知和抉择机理的运动物体识别方法及系统
KR20190030612A (ko) * 2017-09-14 2019-03-22 고려대학교 산학협력단 사용자 독립적 뇌-컴퓨터 인터페이스 제공 시스템 및 그 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106560848A (zh) * 2016-10-09 2017-04-12 辽宁工程技术大学 模拟生物双向认知能力的新型神经网络模型及训练方法
CN107169569A (zh) * 2017-04-17 2017-09-15 湖南本体信息科技研究有限公司 一种逻辑推理机、机器模拟人脑学习和工作的方法及人工智能系统
KR20190030612A (ko) * 2017-09-14 2019-03-22 고려대학교 산학협력단 사용자 독립적 뇌-컴퓨터 인터페이스 제공 시스템 및 그 방법
CN108182473A (zh) * 2017-12-12 2018-06-19 中国科学院自动化研究所 基于类脑脉冲神经网络的全尺度分布式全脑模拟系统
CN109190692A (zh) * 2018-08-21 2019-01-11 北京师范大学 基于生物大脑认知和抉择机理的运动物体识别方法及系统

Also Published As

Publication number Publication date
CN111772629A (zh) 2020-10-16

Similar Documents

Publication Publication Date Title
CN111714118B (zh) 一种基于集成学习的脑认知模型融合方法
CN111783942B (zh) 一种基于卷积循环神经网络的脑认知过程模拟方法
Chen et al. EEG-based biometric identification with convolutional neural network
CN110070105B (zh) 基于元学习实例快速筛选的脑电情绪识别方法、系统
Sturm et al. Interpretable deep neural networks for single-trial EEG classification
Delorme et al. EEGLAB, SIFT, NFT, BCILAB, and ERICA: new tools for advanced EEG processing
Wang et al. Recognizing brain states using deep sparse recurrent neural network
CN111772629B (zh) 一种脑认知技能移植的方法
CN109784023B (zh) 基于深度学习的稳态视觉诱发脑电身份识别方法及系统
Carlson et al. An introduction to time-resolved decoding analysis for M/EEG
Lahane et al. A review of recent trends in EEG based Brain-Computer Interface
Chuang et al. IC-U-Net: a U-Net-based denoising autoencoder using mixtures of independent components for automatic EEG artifact removal
Lahiri et al. Evolutionary perspective for optimal selection of EEG electrodes and features
Qiao et al. Ternary-task convolutional bidirectional neural turing machine for assessment of EEG-based cognitive workload
Borra et al. A lightweight multi-scale convolutional neural network for P300 decoding: analysis of training strategies and uncovering of network decision
Zhang et al. Deep Learning Models for EEG-based Rapid Serial Visual Presentation Event Classification.
Abibullaev et al. A brute-force CNN model selection for accurate classification of sensorimotor rhythms in BCIs
CN113974627B (zh) 一种基于脑机生成对抗的情绪识别方法
Shi et al. Categorizing objects from MEG signals using EEGNet
Khoshnevis et al. Diagnosis of Parkinson’s disease using higher order statistical analysis of alpha and beta rhythms
Sahu et al. Brain and Behavior Computing
Li et al. Decoupling representation learning for imbalanced electroencephalography classification in rapid serial visual presentation task
Yadahalli et al. Facial micro expression detection using deep learning architecture
Bandana Das et al. Person identification using autoencoder-CNN approach with multitask-based EEG biometric
Wang et al. Residual learning attention cnn for motion intention recognition based on eeg data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant