CN109255309A - 面向遥感图像目标检测的脑电与眼动融合方法及装置 - Google Patents

面向遥感图像目标检测的脑电与眼动融合方法及装置 Download PDF

Info

Publication number
CN109255309A
CN109255309A CN201810989759.5A CN201810989759A CN109255309A CN 109255309 A CN109255309 A CN 109255309A CN 201810989759 A CN201810989759 A CN 201810989759A CN 109255309 A CN109255309 A CN 109255309A
Authority
CN
China
Prior art keywords
attentively
eeg data
eye movement
feature
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810989759.5A
Other languages
English (en)
Other versions
CN109255309B (zh
Inventor
曾颖
张驰
王晓娟
宋喜玉
舒君
童莉
闫镔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Information Engineering University of PLA Strategic Support Force
Original Assignee
Information Engineering University of PLA Strategic Support Force
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Information Engineering University of PLA Strategic Support Force filed Critical Information Engineering University of PLA Strategic Support Force
Priority to CN201810989759.5A priority Critical patent/CN109255309B/zh
Publication of CN109255309A publication Critical patent/CN109255309A/zh
Application granted granted Critical
Publication of CN109255309B publication Critical patent/CN109255309B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02Preprocessing
    • G06F2218/04Denoising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/285Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Biomedical Technology (AREA)
  • Dermatology (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

本发明提供一种面向遥感图像目标检测的脑电与眼动融合方法及装置。该方法包括:步骤1.同步采集被试在注视遥感图像时的眼动数据和脑电数据;步骤2.分别对所述眼动数据和脑电数据进行预处理;步骤3.根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集;步骤4.根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集;步骤5.采用AdaBoost算法对所述注视点特征样本集、瞳孔特征样本集、注视相关电位时空特征样本集和脑电频率特征样本集中各特征进行分类,根据分类决策结果对所述各特征进行融合。本发明通过融合多模神经特征提高了遥感图像目标检测的准确率和稳定性。

Description

面向遥感图像目标检测的脑电与眼动融合方法及装置
技术领域
本发明涉及图像处理技术领域,尤其涉及面向遥感图像目标检测的脑电与眼动融合方法及装置。
背景技术
遥感图像目标检测旨在对遥感图像中的特定目标进行精确检测与定位,是从遥感图像中获取有用信息的关键技术, 对于提升复杂遥感信息情报分析获取能力具有重要意义。遥感图像目标检测是遥感图像信息处理的重要组成部分, 军事方面,可用于搜索和检测军事目标,例如机场、港口、军事基地等大型设施的检测,以及飞机、车辆、舰船等具体目标的检测和统计;民用方面,则可应用于气象、农业、地理等诸多行业。
近年来,随着人工智能等机器识别算法的快速发展,基于机器智能的遥感图像目标检测技术在高分辨率遥感图像目标识别以及一些特定目标识别上得到了广泛的应用,并且获得了较高的目标检测精度。但这些方法严重依赖于图像信息和特定目标,只能针对特定目标进行训练,并且需要大量的训练样本库及训练时间,可移植性差。一方面,遥感图像的成像会受成像卫星、成像环境、成像条件以及成像物体本身等因素影响,成像卫星的成像条件会影响图像的分辨率,造成图像目标与真实目标形态发生较大变化;云层等外界物体的遮挡会严重降低目标区域的清晰度以及图像目标的完整性;目标的高速运动以及目标自动隐身与反探测能力提高会使目标形态产生极大的扭曲,给图像目标识别带来较大难度。另一方面由于任务本身的需要,对一些不确定目标以及特殊目标,无法事先获取大量的训练样本,难以通过机器视觉进行精确检测。
人类视觉相对于机器视觉具备更加强大的认知功能,大脑会对眼睛看到刺激产生特定的神经信号,利用这些信号开发的新型“脑机交互技术”,将融合人类智能和机器智能的特点,能够作为机器视觉遥感图像目标识别的补充手段,通过人本身的经验以及认知能力提高对图像信息的识别率,突破传统基于机器智能的遥感图像目标检测中某些瓶颈问题。相对于传统的人工判别实时性差、人机交互效率低等问题,脑机交互技术的发展将减少人工判别的工作量,提高人机交互的效率。
然而,需要指出的是,目前基于遥感图像目标检测技术均未将脑电和眼动信号融合。如何将脑电、眼动等多模神经信号相融合,从而将融合后的脑机交互技术应用于遥感图像目标检测以提高遥感目标检测精度,是非常有意义的。
发明内容
为解决现有技术中存在的上述问题,本发明提供一种面向遥感图像目标检测的脑电与眼动融合方法及装置。
一方面,本发明提供一种面向遥感图像目标检测的脑电与眼动融合方法,该方法包括:
步骤1.同步采集被试在注视遥感图像时的眼动数据和脑电数据;
步骤2. 分别对所述眼动数据和脑电数据进行预处理;
步骤3.根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集;
步骤4.根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集;
步骤5. 采用AdaBoost算法对所述注视点特征样本集、瞳孔特征样本集、注视相关电位时空特征样本集和脑电频率特征样本集中各特征进行分类,根据分类决策结果对所述各特征进行融合。
进一步地,所述步骤2具体包括:
眼动数据预处理包括对眼动数据进行去噪,并重新生成注视区域;脑电数据预处理包括采用低通滤波器对脑电数据进行滤波,在将脑电数据降采样至预设频率后,对脑电数据进行分段得到注视脑电数据和基线脑电数据。
进一步地,所述步骤4具体包括:
采用全时程波幅分析方法对预处理后的脑电数据进行检测,确定所述脑电数据中的多种注视相关电位成分;
分别构建与所述多种注视相关电位成分一一对应的多种xDAWN滤波器,并采用所述多种xDAWN滤波器对所述多种注视相关电位成分进行滤波,得到多个注视相关电位时空特征。
进一步地,所述步骤4具体包括:
采用短时傅里叶变换以预设频率间隔等间隔获取预设频率范围内的脑电数据的功率谱;根据所述功率谱,计算所述预设频率范围内各频率点处的脑电数据的能量值。
另一方面,本发明提供一种面向遥感图像目标检测的脑电与眼动融合装置,该装置包括:
数据采集模块,用于同步采集被试在注视遥感图像时的眼动数据和脑电数据;
预处理模块,用于对所述眼动数据和脑电数据进行预处理;
眼动特征提取模块,用于根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集;
脑电特征提取模块,用于根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集;
特征融合模块,用于采用AdaBoost算法对所述注视点特征样本集、瞳孔特征样本集、注视相关电位时空特征样本集和脑电频率特征样本集中各特征进行分类,根据分类决策结果对所述各特征进行融合。
进一步地,所述预处理模块具体包括:
眼动数据预处理子模块,用于对眼动数据进行去噪,并重新生成注视区域;
脑电数据预处理子模块,用于采用低通滤波器对脑电数据进行滤波,在将脑电数据降采样至预设频率后,对脑电数据进行分段得到注视脑电数据和基线脑电数据。
进一步地,所述脑电特征提取模块具体包括:
注视相关电位成分检测子模块,用于采用全时程波幅分析方法对预处理后的脑电数据进行检测,确定所述脑电数据中的多种注视相关电位成分;
注视相关电位时空特征确定子模块,用于构建与所述多种注视相关电位成分一一对应的多种xDAWN滤波器,并采用所述多种xDAWN滤波器对所述多种注视相关电位成分进行滤波,得到多个注视相关电位时空特征。
进一步地,所述脑电特征提取模块具体还包括:
功率谱获取子模块,用于采用短时傅里叶变换以预设频率间隔等间隔获取所述注视脑电数据的功率谱;
能量值计算子模块,用于根据所述功率谱,计算所述注视脑电数据在各频率点处的能量值。
本发明的有益效果:
本发明提供的面向遥感图像目标检测的脑电与眼动融合方法及装置,通过对自由视觉搜索过程中与视觉信息加工相关的脑电数据和眼动数据分析,针对眼动数据中包含的信息有限、无法准确判断人在注视过程中的认知活动,而脑电数据不能定位人眼注视的感兴趣区域的问题,一方面,利用基于眼动注视信息的感兴趣区域分析技术构建可能含目标的待选区域集合,另一方面,融合与目标识别相关的脑电和眼动多模神经信号特征,从可能含目标的待选区域集合中检测图像目标区域,实现遥感图像目标的识别和定位。并且实验结果表明,本发明通过融合多模神经特征提高了遥感图像目标检测的准确率和稳定性。
附图说明
图1为本发明实施例提供的基于模块权能的内核模块隔离方法的流程示意图;
图2为本发明实施例提供的被试1频率维数与SVM分类准确率的曲线示意图;
图3为本发明实施例提供的被试2频率维数与SVM分类准确率的曲线示意图;
图4为本发明实施例提供的所有被试选择频率的频率分布示意图;
图5为本发明实施例提供的四种特征的检测结果示意图;
图6为本发明实施例提供的面向遥感图像目标检测的脑电与眼动融合装置的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例提供的面向遥感图像目标检测的脑电与眼动融合方法的流程示意图。如图1所示,该方法包括以下步骤:
S101、同步采集被试在注视遥感图像时的眼动数据和脑电数据;
具体地,本步骤中的被试是指接受遥感图像刺激的对象。例如,可分别通过脑电记录仪和眼动跟踪仪采集多个被试在接受相同刺激图像的脑电图和眼动电图,以及同一被试在不同试次刺激下的脑电图和眼动电图作为后续数据处理的源数据。
S102、分别对所述眼动数据和脑电数据进行预处理;
具体地,本步骤中的预处理包括对脑电数据进行滤波,对眼动数据进行去噪、重新生成注视点。
S103、根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集;
具体地,本步骤中的注视点特征样本集由所有被试对相同刺激图像所产生的注视点特征以及同一被试对不同刺激图像所产生的注视点特征组成;瞳孔特征样本集由所有被试对相同刺激图像所产生的瞳孔特征以及同一被试对不同刺激图像所产生的瞳孔特征组成。
注视点特征具体可从注视总时间、第一个注视点时间、注视点时间平均值、注视点时间标准差、注视点时间最大值、注视区域内注视点个数和注视点分布的离散度这些方面进行统计;其中,注视点时间指被试在注视目标时随时间会产生多个注视点,每个注视点均会有一停留时间,该停留时间称为注视点时间。以及瞳孔特征具体可从瞳孔直径均值、瞳孔直径最大值、瞳孔直径变化率均值、瞳孔直径变化率最大值和瞳孔直径变化在0-1Hz 范围内功率谱密度这些方面进行统计。由于瞳孔直径变化比较慢,因此本发明实施例仅统计0-1Hz范围内功率谱密度。可以理解的是,功率谱密度范围可以根据瞳孔直径变化快慢的具体情况,进行适应性调整。此外,在统计提取完上述眼动特征,即注视点特征和瞳孔特征,可采用Pearson相关系数对各特征进行优化。
S104、根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集;
具体地,本步骤中的注视相关电位时空特征样本集由所有被试在相同刺激图像下的所诱发的注视相关电位时空特征以及同一被试在不同试次所诱发的注视相关电位时空特征组成; 脑电频率特征样本集由所有被试在相同刺激图像下的各频率点处的能量值以及同一被试在不同试次中各频率点处的能量值组成。
S105、采用AdaBoost算法对所述注视相关电位时空特征样本集、脑电频率特征样本集、注视点特征样本集和瞳孔特征样本集中各特征进行分类,根据分类决策结果对所述各特征进行融合。
具体地,本步骤具体包括以下处理流程:
S1051、对S103和S104步骤中所确定的 4个特征样本集的样本权重进行初始化,由于所有特征都具有相同大小的样本集,若每个特征下的样本集大小为N,则初始化各特征样本集的样本权重均为1/N。
S1052、采用逻辑回归分类器在不同特征样本集上构建M个弱分类器,分别得到所述M个弱分类器的样本集合。同时,可以计算出每个弱分类器的错误率。
S1053、确定最小错误率所对应的弱分类器,计算该弱分类器的融合系数,进而更新各特征样本集的样本权重,基于所述样本权重重新构建弱分类器。
S1054、多次执行S1052和S1053,经过多轮迭代后,可得到J(J小于等于M)组有效的弱分类器,同时计算所述J组弱分类器的融合系数。按各弱分类器的融合系数线性组合,从而生成强分类器。
由上述内容可知,本发明实施例提供的面向遥感图像目标检测的脑电与眼动融合方法,首先对同一时间段内的注视相关电位时空特征、脑电频率特征、注视点特征和瞳孔特征进行提取及优化,然后采用基于 AdaBoost 的集成学习方法对同一时间段内的多组特征进行迭代学习,在每一轮迭代的过程中,都会对所有弱分类器决策结果进行筛选,不断更新各特征样本的样本权重,改变训练数据的分布,将误差最小的分类器所对应的特征集作为本轮迭代的特征,从而实现对所有特征自适应融合,最后生成强分类器实现对挑选出的特征进行融合决策。所以,一方面,本发明利用基于眼动注视信息的感兴趣区域分析技术构建可能含目标的待选区域集合,另一方面,本发明融合与目标识别相关的脑电和眼动多模神经信号特征,从可能含目标的待选区域集合中检测图像目标区域,实现遥感图像目标的识别和定位,提高了遥感图像目标检测的准确率和稳定性。
在上述实施例的基础上,眼动数据预处理包括对眼动数据进行去噪,并重新生成注视区域;脑电数据预处理包括采用低通滤波器对脑电数据进行滤波,在将脑电数据降采样至预设频率后,对脑电数据进行分段得到注视脑电数据和基线脑电数据。
具体地,对眼动数据预处理主要包括去噪和生成注视区域两部分。去噪是对眼动跟踪仪采集的无效数据和注视点在图片外的数据进行去除,从而达到简化数据集的目的。生成注视区域可通过密度聚类算法生成一个新的注视点。
对脑电数据预处理主要包括滤波和分段。滤波可采用低通巴特沃斯滤波器对脑电数据进行滤波,然后将脑电数据降采样至300Hz。脑电数据分段可以注视点起始时刻为分段基准点,截取所述注视点起始时刻之后的1000ms的脑电数据作为注视脑电数据,截取所述注视点起始时刻之前的200ms脑电数据作为基线脑电数据。
需要说明的是,本发明实施例中的“300Hz”,“1000ms”,“200ms” 均为经验值。为降低处理计算量,一般均需要对数据降采样处理,在满足奈奎斯特采样定理且不影响实验效果的情况下,将脑电数据降采样至300Hz。并且,通常一次眼动的数据效应持续时间不会太长,所以取值为“1000ms”和“200ms”。可以理解的是,采样频率以及注视脑电数据和基线脑电数据的截取时间范围可以根据具体情况进行适应性调整。
通过对眼动数据和脑电数据进行预处理,去除噪声和不关心的部分,可以提高数据有效性。
在上述实施例的基础上,所述S104具体包括:
采用全时程波幅分析方法对预处理后的脑电数据进行检测,确定所述脑电数据中的多种注视相关电位成分;
分别构建与所述多种注视相关电位成分一一对应的多种xDAWN滤波器,并采用所述多种xDAWN滤波器对所述多种注视相关电位成分进行滤波,得到多个注视相关电位时空特征。
在上述实施例的基础上,所述S104具体包括:
采用短时傅里叶变换以预设频率间隔等间隔获取所述注视脑电数据的功率谱;根据所述功率谱,计算所述注视脑电数据在各频率点处的能量值。
具体地,对 0-60Hz 范围内脑电频率特征进行分析。采用短时傅里叶变换以频率间隔 1Hz 等间隔地获取注视点起始时刻后 1000ms 的脑电数据的功率谱,并进一步求取各个频率的能量值。
需要说明的是,本发明实施例中的脑电频率特征范围“0-60Hz”和频率间隔“1Hz”均为经验值,可以理解的是,可以根据具体情况进行适应调整。
下面通过具体的实验数据对本发明所提供的技术方案作进一步解释说明。实验内容如下:
实验采用包含 Tobii 眼动插件的 Eprime2.0 进行编写,共分为练习实验和正式实验两个部分,练习旨在让被试进一步熟悉实验过程,练习中会对图片中的目标个数进行提示,并通过真值框标定的方式对被试的注视过程进行引导,练习实验中所采集的实验数据不计入分析。正式实验分为 4 个序列,每个序列包含 55 张图片。正式过程不再出现目标个数和真值框引导,实验过程中要求被试自由对图片目标进行查找。实验开始需要对眼动数据进行校准,实验过程中每个序列结束后会给被试 1min 左右的调整时间,两个序列结束后会有5-10min的休息时间,并对眼动数据进行再次校准。
实验中,每个 block 开始前会呈现一段指导语,指导被试进行下一步实验,然后进入一个图片刺激呈现的循环直到每个block中包含的55张刺激图片全部呈现完毕。实验过程中,刺激出现之前会呈现1个1000ms注视提示符,图像刺激出现被试自由的对图片目标进行搜索,搜索完毕后按键进入下一张刺激图片,图像刺激最长呈现时间不超过为5min。
实验结果如下:
本发明通过全时程波幅分析的方法对目标注视点和非目标注视点诱发的注视相关电位(Eye Fixation Related Potential,EFRP)成分进行分析。现为本发明实施T检验,得到第20-30个(80ms左右)采样点之间以及第90个(300ms)采样点左右的区域在较多数导联上存在显著性差异。在自由视觉搜索实验中共诱发出两种差异性EFRP成分,一种早期的ERP成分,出现在80ms左右正性成分P100,另一种出现在300ms左右的正性成分P300。P100也就是早期的lama响应,是视觉研究中最为显著的EFRP成分,这与许多文献取得了一致的研究结果。P300的出现主要是目标相对于非目标的小概率致,在大范围的遥感图像中,目标区域相对于非目标区域是一个小概率的存在,可以类似为一个oddball实验范式,发现目标相当于一个小概率事件,会诱发出P300电位。
(1)时频特征分析
将所有目标试次与非目标试次的时频特征进行叠加平均并与注视点起始时刻之前的200ms的基线进行相减,结果得到与目标注视点相关的脑电频率特征与非目标注视相关的脑电频率特征存在明显差异,目标相关的脑电频率特征在整个时间段内相对于非目标相关脑电频率特征呈现出更加丰富的变化,非目标相关的脑电频率特征相对于基线变化波动较小,这说明与目标相关的注视活动和意识活动诱发出了丰富的脑电频率特征。
(2)频率特征选择结果分析
对所有被试选择的频率特征进行统计,由于不同被试脑电数据存在个体差异性,不同特征的重要性在被试之间存在不同。为使分类性能达到最优,不同被试需要选择频率特征维数和频率范围。图2和图3是2名被试在五折交叉验证的条件下,频率维数与SVM分类准确率的曲线图。从图2和图3中可以看出频率维数增加到一定程度后,分类准确率会呈现一定稳定趋势。被试1频率维数为30时分类性能达到最佳,准确率为87.08%,被试2在频率维数为41时达到最优,准确率为83.83%。
在分类性能最佳条件下,不同被试选择的频率不同。在最优分类条件下,对所有被试挑选的频率范围进行统计分析,计算各个范围选择频率维数占总选择维数的百分比,图4本发明实施例提供的所有被试选择频率的频率分布示意图,从图4中可以看出,10-20Hz范围内的频率对目标识别精度贡献率最大,其次是50Hz以上的频率,所有被试选择的频率集中在10Hz以上。这个结果表明与目标检测相关的频率能量主要集中在alpha(8-16 Hz)、beta(16-30 Hz)、gamma(30-60Hz)三个频率范围内。
(3)检测性能分析
现分别利用四种不同特征对被试的注视行为进行识别,结果如图5所示。从图5中可以看出,相对于眼动特征和注视相关电位时空特征,脑电频率特征具有更好的检测性能,将脑电频率特征与注视相关电位时空特征和眼动特征相结合,极大的提高了目标的检测性能。相对于ERP在RSVP实验中的检测结果,在自由视觉搜索过程中诱发出的EFRP检测性能明显降低,这主要是由于在自由搜索实验中被试不再被要求控制眼睛运动,导致眼动伪迹的增加,进而降低了EFRP成分的信噪比。
图6为本发明实施例提供的面向遥感图像目标检测的脑电与眼动融合装置的结构示意图。如图所示,该装置包括:数据采集模块601、预处理模块602、眼动特征提取模块603、脑电特征提取模块604和特征融合模块605。其中,
数据采集模块601用于同步采集被试在注视遥感图像时的眼动数据和脑电数据;预处理模块602用于对所述眼动数据和脑电数据进行预处理;眼动特征提取模块603根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集; 脑电特征提取模块604根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集; 特征融合模块605用于采用AdaBoost算法对所述注视相关电位时空特征样本集、脑电频率特征样本集、注视点特征样本集和瞳孔特征样本集中各特征进行分类,根据分类决策结果所述各特征进行融合。
在上述实施例的基础上,所述预处理模块具体包括:眼动数据预处理子模块和脑电数据预处理子模块。其中:
眼动数据预处理子模块用于对眼动数据进行去噪,并重新生成注视区域;脑电数据预处理子模块用于采用低通滤波器对脑电数据进行滤波,在将脑电数据降采样至预设频率后,对脑电数据进行分段得到注视脑电数据和基线脑电数据。
在上述各实施例的基础上,所述脑电特征提取模块具体包括:注视相关电位成分检测子模块和注视相关电位时空特征确定子模块。其中:
注视相关电位成分检测子模块用于采用全时程波幅分析方法对预处理后的脑电数据进行检测,确定所述脑电数据中的多种注视相关电位成分;注视相关电位时空特征确定子模块用于构建与所述多种注视相关电位成分一一对应的多种xDAWN滤波器,并采用所述多种xDAWN滤波器对所述多种注视相关电位成分进行滤波,得到多个注视相关电位时空特征。
在上述各实施例的基础上,所述脑电特征提取模块具体还包括:功率谱获取子模块和能量值计算子模块。其中:功率谱获取子模块用于采用短时傅里叶变换以预设频率间隔等间隔获取所述注视脑电数据的功率谱;能量值计算子模块用于根据所述功率谱,计算所述注视脑电数据在各频率点处的能量值。
需要说明的是,本发明所提供的面向遥感图像目标检测的脑电与眼动融合装置是为了实现上述方法的,其功能具体可参考上述方法实施例,此处不在赘述。
本发明实施例提供的面向遥感图像目标检测的脑电与眼动融合装置,通过对自由视觉搜索过程中与视觉信息加工相关的脑电数据和眼动数据分析,针对眼动数据中包含的信息有限,无法准确判断人在注视过程中的认知活动,而脑电数据不能定位人眼注视的感兴趣区域的问题,一方面,利用基于眼动注视信息的感兴趣区域分析技术构建可能含目标的待选区域集合,另一方面,融合与目标识别相关的脑电和眼动多模神经信号特征,从可能含目标的待选区域集合中检测图像目标区域,实现遥感图像目标的识别和定位。并且实验结果表明,本发明通过融合多模神经特征提高了遥感图像目标检测的准确率和稳定性。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (8)

1.面向遥感图像目标检测的脑电与眼动融合方法,其特征在于,包括:
步骤1.同步采集被试在注视遥感图像时的眼动数据和脑电数据;
步骤2. 分别对所述眼动数据和脑电数据进行预处理;
步骤3.根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集;
步骤4.根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集;
步骤5.采用AdaBoost算法对所述注视点特征样本集、瞳孔特征样本集、注视相关电位时空特征样本集和脑电频率特征样本集中各特征进行分类,根据分类决策结果对所述各特征进行融合。
2.根据权利要求1所述的方法,其特征在于,所述步骤2具体包括:
眼动数据预处理包括对眼动数据进行去噪,并重新生成注视区域;
脑电数据预处理包括采用低通滤波器对脑电数据进行滤波,在将脑电数据降采样至预设频率后,对脑电数据进行分段得到注视脑电数据和基线脑电数据。
3.根据权利要求1所述的方法,其特征在于,所述步骤4具体包括:
采用全时程波幅分析方法对预处理后的脑电数据进行检测,确定所述脑电数据中的多种注视相关电位成分;
分别构建与所述多种注视相关电位成分一一对应的多种xDAWN滤波器,并采用所述多种xDAWN滤波器对所述多种注视相关电位成分进行滤波,得到多个注视相关电位时空特征。
4.根据权利要求2所述的方法,其特征在于,所述步骤4具体包括:
采用短时傅里叶变换以预设频率间隔等间隔获取所述注视脑电数据的功率谱;
根据所述功率谱,计算所述注视脑电数据在各频率点处的能量值。
5.面向遥感图像目标检测的脑电与眼动融合装置,其特征在于,包括:
数据采集模块,用于同步采集被试在注视遥感图像时的眼动数据和脑电数据;
预处理模块,用于对所述眼动数据和脑电数据进行预处理;
眼动特征提取模块,用于根据预处理后的眼动数据,确定注视区域内的注视点特征样本集和瞳孔特征样本集;
脑电特征提取模块,用于根据预处理后的脑电数据,确定注视相关电位时空特征样本集和脑电频率特征样本集;
特征融合模块,用于采用AdaBoost算法对所述注视点特征样本集、瞳孔特征样本集、注视相关电位时空特征样本集和脑电频率特征样本集中各特征进行分类,根据分类决策结果对所述各特征进行融合。
6.根据权利要求5所述的装置,其特征在于,所述预处理模块具体包括:
眼动数据预处理子模块,用于对眼动数据进行去噪,并重新生成注视区域;
脑电数据预处理子模块,用于采用低通滤波器对脑电数据进行滤波,在将脑电数据降采样至预设频率后,对脑电数据进行分段得到注视脑电数据和基线脑电数据。
7.根据权利要求5所述的装置,其特征在于,所述脑电特征提取模块具体包括:
注视相关电位成分检测子模块,用于采用全时程波幅分析方法对预处理后的脑电数据进行检测,确定所述脑电数据中的多种注视相关电位成分;
注视相关电位时空特征确定子模块,用于构建与所述多种注视相关电位成分一一对应的多种xDAWN滤波器,并采用所述多种xDAWN滤波器对所述多种注视相关电位成分进行滤波,得到多个注视相关电位时空特征。
8.根据权利要求6所述的装置,其特征在于,所述脑电特征提取模块具体还包括:
功率谱获取子模块,用于采用短时傅里叶变换以预设频率间隔等间隔获取所述注视脑电数据的功率谱;
能量值计算子模块,用于根据所述功率谱,计算所述注视脑电数据在各频率点处的能量值。
CN201810989759.5A 2018-08-28 2018-08-28 面向遥感图像目标检测的脑电与眼动融合方法及装置 Active CN109255309B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810989759.5A CN109255309B (zh) 2018-08-28 2018-08-28 面向遥感图像目标检测的脑电与眼动融合方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810989759.5A CN109255309B (zh) 2018-08-28 2018-08-28 面向遥感图像目标检测的脑电与眼动融合方法及装置

Publications (2)

Publication Number Publication Date
CN109255309A true CN109255309A (zh) 2019-01-22
CN109255309B CN109255309B (zh) 2021-03-23

Family

ID=65049357

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810989759.5A Active CN109255309B (zh) 2018-08-28 2018-08-28 面向遥感图像目标检测的脑电与眼动融合方法及装置

Country Status (1)

Country Link
CN (1) CN109255309B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110428470A (zh) * 2019-06-18 2019-11-08 中国人民解放军军事科学院国防科技创新研究院 一种基于脑电辅助的增强现实眼镜眼动交互自标定方法
CN111466909A (zh) * 2020-04-14 2020-07-31 清华大学 基于脑电特征的目标检测方法和系统
CN111966218A (zh) * 2020-07-20 2020-11-20 中国人民解放军军事科学院国防科技创新研究院 一种二维光标控制方法和装置
CN112099619A (zh) * 2020-08-11 2020-12-18 东南大学 一种混合视线脑机接口的时间窗长度自适应选择方法
CN112346569A (zh) * 2020-11-05 2021-02-09 江苏集萃脑机融合智能技术研究所有限公司 一种瞳孔脑电混合脑机接口平台及其处理方法
CN113729708A (zh) * 2021-09-10 2021-12-03 上海理工大学 一种基于眼动技术的谎言评判方法
CN114161414A (zh) * 2021-12-03 2022-03-11 中国科学院沈阳自动化研究所 一种基于脑电和视觉的水下机械手控制系统及方法

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011143039A2 (en) * 2010-05-12 2011-11-17 Ochslabs Inc. Sequential low energy neurofeedback system
CN102521505A (zh) * 2011-12-08 2012-06-27 杭州电子科技大学 用于控制意图识别的脑电和眼电信号决策融合方法
US20120172743A1 (en) * 2007-12-27 2012-07-05 Teledyne Licensing, Llc Coupling human neural response with computer pattern analysis for single-event detection of significant brain responses for task-relevant stimuli
CN103340637A (zh) * 2013-06-06 2013-10-09 同济大学 基于眼动与脑电融合的驾驶员警觉度智能监控系统及方法
CN104504404A (zh) * 2015-01-23 2015-04-08 北京工业大学 一种基于视觉行为的网上用户类型识别方法及系统
CN104665849A (zh) * 2014-12-11 2015-06-03 西南交通大学 一种基于多生理信号多模型交互的高铁调度员应激检测方法
CN104965584A (zh) * 2015-05-19 2015-10-07 西安交通大学 基于ssvep与osp的混合脑-机接口方法
CN105105774A (zh) * 2015-10-09 2015-12-02 吉林大学 基于脑电信息的驾驶人警觉度监测方法及监测系统
CN106108894A (zh) * 2016-07-18 2016-11-16 天津大学 一种提高情绪识别模型时间鲁棒性的情绪脑电识别方法
US20170053304A1 (en) * 2014-04-28 2017-02-23 Tobii Ab Determination of attention towards stimuli based on gaze information
CN107274223A (zh) * 2017-06-13 2017-10-20 杭州电子科技大学 融合脑电信号与注视跟踪特征的广告评估方法
CN107961007A (zh) * 2018-01-05 2018-04-27 重庆邮电大学 一种结合卷积神经网络和长短时记忆网络的脑电识别方法
CN108280414A (zh) * 2018-01-17 2018-07-13 重庆大学 一种基于能量特征的运动想象脑电信号的识别方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120172743A1 (en) * 2007-12-27 2012-07-05 Teledyne Licensing, Llc Coupling human neural response with computer pattern analysis for single-event detection of significant brain responses for task-relevant stimuli
WO2011143039A2 (en) * 2010-05-12 2011-11-17 Ochslabs Inc. Sequential low energy neurofeedback system
CN102521505A (zh) * 2011-12-08 2012-06-27 杭州电子科技大学 用于控制意图识别的脑电和眼电信号决策融合方法
CN103340637A (zh) * 2013-06-06 2013-10-09 同济大学 基于眼动与脑电融合的驾驶员警觉度智能监控系统及方法
US20170053304A1 (en) * 2014-04-28 2017-02-23 Tobii Ab Determination of attention towards stimuli based on gaze information
CN104665849A (zh) * 2014-12-11 2015-06-03 西南交通大学 一种基于多生理信号多模型交互的高铁调度员应激检测方法
CN104504404A (zh) * 2015-01-23 2015-04-08 北京工业大学 一种基于视觉行为的网上用户类型识别方法及系统
CN104965584A (zh) * 2015-05-19 2015-10-07 西安交通大学 基于ssvep与osp的混合脑-机接口方法
CN105105774A (zh) * 2015-10-09 2015-12-02 吉林大学 基于脑电信息的驾驶人警觉度监测方法及监测系统
CN106108894A (zh) * 2016-07-18 2016-11-16 天津大学 一种提高情绪识别模型时间鲁棒性的情绪脑电识别方法
CN107274223A (zh) * 2017-06-13 2017-10-20 杭州电子科技大学 融合脑电信号与注视跟踪特征的广告评估方法
CN107961007A (zh) * 2018-01-05 2018-04-27 重庆邮电大学 一种结合卷积神经网络和长短时记忆网络的脑电识别方法
CN108280414A (zh) * 2018-01-17 2018-07-13 重庆大学 一种基于能量特征的运动想象脑电信号的识别方法

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
ANNE-MARIE BROUWER等: ""EEG and Eye Tracking Signatures of Target Encoding during Structured Visual Search"", 《FRONTIERS IN HUMAN NEUROSCIENCE》 *
BERTRAND RIVET*等: ""xDAWN Algorithm to Enhance Evoked Potentials: Application to Brain–Computer Interface"", 《IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING》 *
M. MURUGAPPAN等: ""Wireless EEG signals based Neuromarketing system using Fast Fourier Transform (FFT)"", 《2014 IEEE 10TH INTERNATIONAL COLLOQUIUM ON SIGNAL PROCESSING AND ITS APPLICATIONS》 *
XIAOJUAN WANG等: ""Combining Multiple ERP Components for Detecting Targets in Remote-Sensing Images"", 《2017 9TH INTERNATIONAL CONFERENCE ON INTELLIGENT HUMAN-MACHINE SYSTEMS AND CYBERNETICS (IHMSC)》 *
YIFEI LU等: ""Combining Eye Movements and EEG to Enhance Emotion Recognition"", 《PROCEEDINGS OF THE TWENTY-FOURTH INTERNATIONAL JOINT CONFERENCE ON ARTIFICIAL INTELLIGENCE (IJCAI 2015)》 *
李幼军等: ""基于高斯核函数支持向量机的脑电信号时频特征情感多类识别"", 《北京工业大学学报》 *
郭琛等: ""用于眼动检测和脑电采集的数据同步方法"", 《仪器仪表学报》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110428470A (zh) * 2019-06-18 2019-11-08 中国人民解放军军事科学院国防科技创新研究院 一种基于脑电辅助的增强现实眼镜眼动交互自标定方法
CN110428470B (zh) * 2019-06-18 2021-12-03 中国人民解放军军事科学院国防科技创新研究院 一种基于脑电辅助的增强现实眼镜眼动交互自标定方法
CN111466909A (zh) * 2020-04-14 2020-07-31 清华大学 基于脑电特征的目标检测方法和系统
CN111966218A (zh) * 2020-07-20 2020-11-20 中国人民解放军军事科学院国防科技创新研究院 一种二维光标控制方法和装置
CN112099619A (zh) * 2020-08-11 2020-12-18 东南大学 一种混合视线脑机接口的时间窗长度自适应选择方法
CN112099619B (zh) * 2020-08-11 2024-02-06 东南大学 一种混合视线脑机接口的时间窗长度自适应选择方法
CN112346569A (zh) * 2020-11-05 2021-02-09 江苏集萃脑机融合智能技术研究所有限公司 一种瞳孔脑电混合脑机接口平台及其处理方法
CN113729708A (zh) * 2021-09-10 2021-12-03 上海理工大学 一种基于眼动技术的谎言评判方法
CN113729708B (zh) * 2021-09-10 2023-06-20 上海理工大学 一种基于眼动技术的谎言评判方法
CN114161414A (zh) * 2021-12-03 2022-03-11 中国科学院沈阳自动化研究所 一种基于脑电和视觉的水下机械手控制系统及方法
CN114161414B (zh) * 2021-12-03 2023-09-19 中国科学院沈阳自动化研究所 一种基于脑电和视觉的水下机械手控制系统及方法

Also Published As

Publication number Publication date
CN109255309B (zh) 2021-03-23

Similar Documents

Publication Publication Date Title
CN109255309A (zh) 面向遥感图像目标检测的脑电与眼动融合方法及装置
Mao et al. EEG-based biometric identification with deep learning
CN110353673B (zh) 一种基于标准互信息的脑电通道选择方法
US8265743B2 (en) Fixation-locked measurement of brain responses to stimuli
CN112641450B (zh) 面向动态视频目标检测的时变脑网络重构方法
CN103631941B (zh) 基于脑电的目标图像检索系统
Wunderlich et al. Eye movement‐related brain potentials during assisted navigation in real‐world environments
CN111714118B (zh) 一种基于集成学习的脑认知模型融合方法
CN110598608B (zh) 非接触式与接触式协同的心理生理状态智能监测系统
Solon et al. Decoding P300 variability using convolutional neural networks
Haider et al. Performance enhancement in P300 ERP single trial by machine learning adaptive denoising mechanism
CN108324292A (zh) 基于脑电信号的室内视觉环境满意度分析方法
CN107480635B (zh) 一种基于双模态分类模型融合的扫视信号识别方法及系统
CN112346569A (zh) 一种瞳孔脑电混合脑机接口平台及其处理方法
CN109009098A (zh) 一种运动想象状态下的脑电信号特征识别方法
CN108958489A (zh) 一种基于脑电和眼动仪的图像感兴趣区域快速检出方法
Miao et al. Priming cross-session motor imagery classification with a universal deep domain adaptation framework
Ouyang et al. Handling EEG artifacts and searching individually optimal experimental parameter in real time: a system development and demonstration
Stoica et al. Multi-brain fusion and applications to intelligence analysis
CN111466909A (zh) 基于脑电特征的目标检测方法和系统
Gao et al. An ICA/HHT hybrid approach for automatic ocular artifact correction
Xie et al. Detection of weak small image target based on brain-computer interface
Hu et al. EEG authentication system based on auto-regression coefficients
CN112168167A (zh) 一种脑磁图单次听觉诱发信号检测方法及电子装置
CN106333675B (zh) 清醒状态下的脑电信号数据类型的标注方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant