CN111580645B - 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 - Google Patents

一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 Download PDF

Info

Publication number
CN111580645B
CN111580645B CN202010315015.2A CN202010315015A CN111580645B CN 111580645 B CN111580645 B CN 111580645B CN 202010315015 A CN202010315015 A CN 202010315015A CN 111580645 B CN111580645 B CN 111580645B
Authority
CN
China
Prior art keywords
visual
stimulation
calibration
veps
partition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010315015.2A
Other languages
English (en)
Other versions
CN111580645A (zh
Inventor
明东
周晓宇
许敏鹏
肖晓琳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN202010315015.2A priority Critical patent/CN111580645B/zh
Publication of CN111580645A publication Critical patent/CN111580645A/zh
Application granted granted Critical
Publication of CN111580645B publication Critical patent/CN111580645B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Neurosurgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Health & Medical Sciences (AREA)
  • Dermatology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

本发明公开了一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,包括:根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式;根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入,脑电采集系统实时采集头皮脑电信号,将信号经放大、滤波后输入计算机;计算机对脑电信号进行降采样及有效特征数据段截取,并借助空间滤波提取VEPs特征,基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置;当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标。

Description

一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法
技术领域
本发明涉及视线跟踪领域,尤其涉及一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法。
背景技术
视线追踪技术是利用机械、电子、光学、计算机算法等各种检测手段获取受试者当前视觉注意方向的技术,它广泛应用于人机交互、心理研究、虚拟现实和军事等多个领域。目前,精度较高、应用较多的视线追踪技术为瞳孔-角膜反射技术。瞳孔-角膜反射技术通过近红外光源照射眼睛使其产生明显的反射现象,后通过摄像机记录反射光构成的图像,利用亮瞳孔和暗瞳孔的原理,提取出眼球图像内的瞳孔,用角膜反射法校正摄像机与眼球的相对位置,以角膜反射点作为摄像机和眼球的相对位置的基点,瞳孔中心位置坐标表示视线位置。在实际应用中,光源及摄像机的安装要求显示器具有较高的装配深度。由于近红外光源对眼部的直接照射,为确保安全性,使用者的活动范围和设备的使用时间常常受到限制。此外,视线追踪的精度受使用者的头部影响较大。
脑-机接口(Brain-Computer Interface,BCI)是一个将中枢神经系统活动直接转化为人工输出的系统,它能够替代、修复、增强、补充或者改善中枢神经系统的正常输出,从而改善中枢神经系统与内外环境之间的交互作用。BCI通过采集和分析不同刺激下受试者的脑电信号,再使用一定的工程技术手段建立起人脑与计算机或其它电子设备之间的交流和控制通道。目前,BCI已在医学临床、游戏开发、军事、交通、社会科学及认知科学等领域显露出其应用前景。在各种类型的BCI中,基于VEPs的BCI系统是发展较为成熟的一种类型。VEPs是使用者眼部受到外部光线刺激,在其大脑初级视觉皮层区域检测到的电信号。
根据视网膜映射原理可知,VEPs对不同空间位置处的视觉刺激表现出空间特异性。如图1所示,视觉系统由视神经、视交叉神经、视束、外侧膝状体、视放射、初级视觉皮层构成。光通过左侧或右侧角膜刺激视网膜上的感光杆、视锥细胞、并通过视神经及视交叉神经传导至丘脑处的外侧膝状核,最终视觉信号传递至初级视觉皮层。由于视交叉神经的对侧性质,左侧视野的视觉信息将被传导至视觉皮层的右侧枕叶。视觉纤维在枕叶皮层投射时上半视野投射到距状裂下唇,下半视野投射到距状裂上唇。更具体地,视觉刺激所在视野与相应视觉信号传递至的视觉皮层区域对应关系如图2所示。
发明内容
本发明提供了一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,本发明基于视网膜映射原理利用VEPs的空间特异性结合特征解码算法实现视线追踪和定位,与传统的视线追踪技术相比,该技术具有抗头部运动干扰性强、安全性好等特点。进一步完善系统的构成,有望实现一种有效的实时视线追踪技术,详见下文描述:
一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,所述方法包括以下步骤:
根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式;
根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入,脑电采集系统实时采集头皮脑电信号,将信号经放大、滤波后输入计算机;
计算机对脑电信号进行降采样及有效特征数据段截取,并借助空间滤波算法提取VEPs特征,基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置;
当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标。
进一步地,所述根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式具体为:
(1)确定“视觉标定刺激”图形的大小及形状,以及该刺激下最大可分面积;
(2)依据最大可分面积及屏幕大小将屏幕分为n个分区;
(3)各个分区以一固定位置为原点建立“XoY分区坐标系”,分区内“视觉标定刺激”初始位置位于分区中心O’0(x0,y0)处,同时设“视觉中心位置”位于所在分区的M(x,y)处,x0,y0为“视觉标定刺激”的初始坐标,M(x,y)为“视觉中心位置”的实际所在位置;
(4)在分区内建立视觉标定刺激空间映射模型。
其中,所述在分区内建立视觉标定刺激空间映射模型具体为:
分区内以O’0(x0,y0)为原点,选择M个基方向,训练阶段,采集用户注视各个基方向下不同位置时的VEPs,并采用空间特征提取算法分别提取同一基方向下VEPs的共有特征并构建方位模板Ti(i=1,2,3,...,M)。
其中,所述基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息具体为:
“视觉标定刺激”分时闪烁于各分区中央,仅在t1~t2时间段内检测到具有较强空间位置特征的VEPs,解码VEPs特征初步判定“视觉中心位置”的位置,记为
Figure BDA0002460110440000031
在确定“视觉中心位置”M所在分区及初步判定M在
Figure BDA0002460110440000032
处后,反复调整“视觉标定刺激”的位置,并解码VEP响应空间特征,直至获取满足精度要求的“视觉中心位置”坐标。
进一步地,所述反复调整“视觉标定刺激”的位置具体为:
“视觉标定刺激”的位置调整参数Δx,Δy是关于当前“视觉标定刺激”位置(xl,yl)和该“视觉标定刺激”下M位置计算结果
Figure BDA0002460110440000033
的函数;
当M’l+1M’l、M’l-1M’l均小于等于δ时,判定M位于以ΔM’l+1M’lM’l-1重心为圆点,δ为半径的圆内。
本发明提供的技术方案的有益效果是:
1、本发明根据视觉诱发电位的空间特异性对视觉刺激进行空间编码,并借助VEPs特征提取算法对刺激进行解码,为视线追踪提供了一种全新的方式;
2、刺激空间编码时,视觉刺激出现在周围视野而不是中央视野,从而避免长时间使用时的视觉疲劳,且为中央视野保留空闲状态更有利于该方法的实际应用,同时相比于常用的瞳孔-角膜反射技术中红外光照射眼部,该发明具有更好的安全性;
3、通过离线实验验证,微弱视觉刺激呈现在周围视野不同视角不同方位处诱发出的VEPs具有一定可分性,证明利用该方法有望实现高舒适度的交互体验;
4、本发明可以用于认知行为学研究、心理学研究、人机交互等领域,进一步研究可以得到完整的视线追踪系统,有望获得可观的社会效益和经济效益。
附图说明
图1为视觉传输通路示意图;
图2为视野与初级视觉皮层空间映射关系图;
图3为视线追踪系统结构示意图;
图4为划分分区及A分区刺激坐标系示意图;
图5为判定分区及初步位置的刺激序列示意图;
图6为A分区内高精度视线追踪刺激序列示意图;
图7为分区内高精度视线追踪流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面对本发明实施方式作进一步地详细描述。
视觉诱发电位(Visual Evoked Potentials,VEPs)是枕区大脑皮质对视觉刺激产生的电反应,反映了视网膜在接受视觉刺激后,经视觉传输通路传导至枕叶皮层而引起的电位变化。根据视网膜映射原理,当刺激呈现于视野中的位置不同时,诱发初级视觉皮层相应特定区域的电活动,头皮电极检测到VEPs呈现空间分布特异性。本方法根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,并基于模板匹配方法解码VEPs空间特征,设计了一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法。借助该方法,可实现对用户视线的实时追踪。
其技术流程是:设计刺激范式、搭建脑电信号采集装置、采集操作者脑电信号、对脑电信号进行预处理,提取VEPs特征、解码VEPs空间特征,确定“视觉中心”所在位置。
图3为本发明的结构示意图。该设计包括:液晶显示刺激界面、脑电采集、脑电预处理、VEPs特征提取、VEPs特征识别、视线中心位置的判定等部分。使用时,操作者坐在距离刺激界面固定距离的椅子上,操作者根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入操作者,脑电采集系统实时采集操作者头皮脑电信号,将信号经放大、滤波后输入计算机,计算机对脑电信号进行降采样及有效特征数据段截取等预处理,并借助空间滤波算法提取VEPs特征,后基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置,当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标。
一、周围视野视觉标定刺激空间模型建立
在进行视线追踪过程前需建立周围视野视觉刺激空间模型。该部分主要包括以下几个步骤:
(1)确定“视觉标定刺激”图形的大小及形状等参数,以及该刺激下最大可分面积S0=2Rx×2Ry,Rx为该刺激下最大可分横向半径,Ry为该刺激下最大可分纵向半径。
(2)依据S0及屏幕大小S=(lx×ly)将屏幕分为n个分区。为确保屏幕任意位置均可实现视线追踪,要求n∈N,其中集合N={n|S≤nS0}。
(3)各个分区以一固定位置为原点建立“XoY分区坐标系”,分区内“视觉标定刺激”初始位置位于分区中心O’0(x0,y0)处,同时设“视觉中心位置”位于所在分区的M(x,y)处,x0,y0为“视觉标定刺激”的初始坐标,M(x,y)为“视觉中心位置”的实际所在位置。
(4)在分区内建立视觉标定刺激空间映射模型。
图4表示的为以半径为δ的白色圆点为“视觉标定刺激”图形时,划分分区及A分区刺激坐标系示意图。依据该“视觉标定刺激”下最大可分面积为2Rx×2Ry及屏幕大小4Rx×4Ry将屏幕分为A、B、C、D 4个分区。以A分区一点为原点,建立“XoY分区坐标系”。图中所示A分区“视觉标定刺激”位于A分区中心点O’0(x0,y0)处,“视觉中心位置”位于M(x,y)处。分区内以O’0(x0,y0)为原点,选择M个基方向,如上、下、左、右四个方向。训练阶段,采集用户注视各个基方向下不同位置时的VEPs,并采用空间特征提取算法分别提取同一基方向下VEPs的共有特征并构建方位模板Ti(i=1,2,3,...,M)。
本发明中,为了降低刺激对于使用者注视过程的影响,可将单一“视觉标定刺激”图形转变为“多个散点”,每次刺激各个散点位置在一定范围内随机改变。此外,为了提升使用舒适度,可根据用户调节“视觉标定刺激”的亮度、形状、大小和颜色等物理属性。
二、视线追踪实现过程
建立周围视野视觉刺激的空间模型后,具体实现高精度视线追踪的过程可分为以下两个步骤:
1)确定“视觉中心位置”所在分区及初步判定“视觉标定刺激”的坐标位置;
为确定“视觉中心位置”所在分区及初步判定“视觉标定刺激”的坐标位置,“视觉标定刺激”分时闪烁于各分区中央(即同一时刻屏幕中仅包含一处“视觉标定刺激”),如图5所示。图5中“视觉中心位置”位于A分区,则仅在t1~t2时间段内检测到具有较强空间位置特征的VEPs,解码VEPs特征初步判定“视觉中心位置”的位置,记为
Figure BDA0002460110440000051
2)反复调整“视觉标定刺激”位置,获得符合精度要求的“视觉中心位置”坐标。
图5为以A分区内高精度视线追踪为例的刺激序列示意图。图6中“十字”、“三角”仅用于标记示意当前刺激下“视觉中心位置”的计算值及真值,实际刺激序列显示图像中并不存在。图7为分区内高精度视线追踪流程图。
结合图6、图7说明,为达到精度为δ的视线追踪,在确定“视觉中心位置”M所在分区及初步判定M在
Figure BDA0002460110440000052
处后,反复调整“视觉标定刺激”的位置,并解码VEP响应空间特征,直至获取满足精度要求的“视觉中心位置”坐标。“视觉标定刺激”的位置调整参数Δx,Δy是关于当前“视觉标定刺激”位置(xl,yl)和该“视觉标定刺激”下M位置计算结果
Figure BDA0002460110440000061
的函数。最终当M’l+1M’l、M’l-1M’l均小于等于δ时,可判定M位于以ΔM’l+1M’lM’l-1重心为圆点,δ为半径的圆内。
本发明实施例对各器件的型号除做特殊说明的以外,其他器件的型号不做限制,只要能完成上述功能的器件均可。
本领域技术人员可以理解附图只是一个优选实施例的示意图,上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (4)

1.一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,其特征在于,所述方法包括以下步骤:
根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式;
根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入,脑电采集系统实时采集头皮脑电信号,将信号经放大、滤波后输入计算机;
计算机对脑电信号进行降采样及有效特征数据段截取,并借助空间滤波算法提取VEPs特征,基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置;
当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标;
其中,所述根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式具体为:
(1)确定“视觉标定刺激”图形的大小及形状,以及该刺激下最大可分面积;
(2)依据最大可分面积及屏幕大小将屏幕分为n个分区;
(3)各个分区以一固定位置为原点建立“XoY分区坐标系”,分区内“视觉标定刺激”初始位置位于分区中心O'0(x0,y0)处,同时设“视觉中心位置”位于所在分区的M(x,y)处,O'0(x0,y0)为“视觉标定刺激”的初始坐标,M(x,y)为“视觉中心位置”的实际所在位置;
(4)在分区内建立视觉标定刺激空间映射模型。
2.根据权利要求1所述的一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,其特征在于,所述在分区内建立视觉标定刺激空间映射模型具体为:
分区内以O'0(x0,y0)为原点,选择M个基方向,训练阶段,采集用户注视各个基方向下不同位置时的VEPs,并采用空间特征提取算法分别提取同一基方向下VEPs的共有特征并构建方位模板Ti,i=1,2,3,...,M。
3.根据权利要求1所述的一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,其特征在于,所述基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息具体为:
“视觉标定刺激”分时闪烁于各分区中央,仅在t1~t2时间段内检测到具有较强空间位置特征的VEPs,解码VEPs特征初步判定“视觉中心位置”的位置,记为
Figure FDA0003667373170000011
在确定“视觉中心位置”M所在分区及初步判定M在
Figure FDA0003667373170000012
处后,反复调整“视觉标定刺激”的位置,并解码VEP响应空间特征,直至获取满足精度要求的“视觉中心位置”坐标。
4.根据权利要求3所述的一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,其特征在于,所述反复调整“视觉标定刺激”的位置具体为:
“视觉标定刺激”的位置调整参数△x,△y是关于当前“视觉标定刺激”位置(xl,yl)和该“视觉标定刺激”下M位置计算结果
Figure FDA0003667373170000021
的函数;
当M'l+1M'l、M'l-1M'l均小于等于δ时,判定M位于以△M'l+1M'lM'l-1重心为圆点,δ为半径的圆内。
CN202010315015.2A 2020-04-21 2020-04-21 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 Active CN111580645B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010315015.2A CN111580645B (zh) 2020-04-21 2020-04-21 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010315015.2A CN111580645B (zh) 2020-04-21 2020-04-21 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法

Publications (2)

Publication Number Publication Date
CN111580645A CN111580645A (zh) 2020-08-25
CN111580645B true CN111580645B (zh) 2022-08-30

Family

ID=72124483

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010315015.2A Active CN111580645B (zh) 2020-04-21 2020-04-21 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法

Country Status (1)

Country Link
CN (1) CN111580645B (zh)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105824418B (zh) * 2016-03-17 2018-11-27 天津大学 一种基于非对称视觉诱发电位的脑-机接口通讯系统
CN107463249A (zh) * 2017-06-29 2017-12-12 南京航空航天大学 基于vr头显视觉诱发电位的脑机接口系统及控制方法
CN109271020B (zh) * 2018-08-23 2020-09-01 西安交通大学 一种基于眼动追踪的稳态视觉诱发脑机接口性能评价方法
CN109828664B (zh) * 2019-01-15 2020-11-17 西安交通大学 基于感觉反馈动态调整的稳态视觉诱发电位脑机接口方法

Also Published As

Publication number Publication date
CN111580645A (zh) 2020-08-25

Similar Documents

Publication Publication Date Title
EP3709861B1 (en) Systems for visual field analysis
Kohli et al. A review on Virtual Reality and Augmented Reality use-cases of Brain Computer Interface based applications for smart cities
CN104603673B (zh) 头戴式系统以及使用头戴式系统计算和渲染数字图像流的方法
CN109645994B (zh) 一种基于脑-机接口系统辅助评估视觉定位的方法
Tamietto et al. Seeing fearful body language overcomes attentional deficits in patients with neglect
JP2020532031A (ja) 高速視標追跡機能を有する脳−コンピュータインタフェース
US20150079560A1 (en) Wearable Monitoring and Training System for Focus and/or Mood
KR20190005219A (ko) 사용자 건강 분석을 위한 증강 현실 시스템들 및 방법들
CN110600103B (zh) 一种提升视力的可穿戴智能服务系统
CN110585592B (zh) 一种个性化电子针灸装置及其生成方法与生成装置
Pun et al. Brain-computer interaction research at the Computer Vision and Multimedia Laboratory, University of Geneva
Velichkovsky et al. Measurement-related issues in the investigation of active vision
Petrova et al. Cultural influences on oculomotor inhibition of remote distractors: Evidence from saccade trajectories
CN111580645B (zh) 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法
Rubinstein et al. Optokinetic nystagmus suppression as an index of the allocation of visual attention
CN106445140B (zh) 静视野自动识别的非注意事件相关电位脑-机接口方法
Wu et al. Intelligent command and control of uav based on brain computer and eye tracking combined technology
CN115282430A (zh) 一种用于空间注意力能力提升的神经反馈训练系统及训练方法
Shen et al. An active and passive upper limb rehabilitation training system based on a hybrid brain–computer interface
Krishnan et al. Real-Time Eye Tracking Using Heat Maps
Cotrina Toward Brain-Computer Interaction in Paralysis: A New Approach Based on Visual Evoked Potentials and Depth-of-Field
Li et al. Control of a humanoid robot via N200 potentials
KR102377135B1 (ko) 노인의 인지 기능 측정 방법 및 시스템
Andreeßen Towards real-world applicability of neuroadaptive technologies: investigating subject-independence, task-independence and versatility of passive brain-computer interfaces
Huang et al. 66‐3: Research on Wearable Brain‐Computer Interface Based on SSVEP

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant