CN111580645B - 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 - Google Patents
一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 Download PDFInfo
- Publication number
- CN111580645B CN111580645B CN202010315015.2A CN202010315015A CN111580645B CN 111580645 B CN111580645 B CN 111580645B CN 202010315015 A CN202010315015 A CN 202010315015A CN 111580645 B CN111580645 B CN 111580645B
- Authority
- CN
- China
- Prior art keywords
- visual
- stimulation
- calibration
- veps
- partition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/015—Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Neurosurgery (AREA)
- General Health & Medical Sciences (AREA)
- Neurology (AREA)
- Health & Medical Sciences (AREA)
- Dermatology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明公开了一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,包括:根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式;根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入,脑电采集系统实时采集头皮脑电信号,将信号经放大、滤波后输入计算机;计算机对脑电信号进行降采样及有效特征数据段截取,并借助空间滤波提取VEPs特征,基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置;当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标。
Description
技术领域
本发明涉及视线跟踪领域,尤其涉及一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法。
背景技术
视线追踪技术是利用机械、电子、光学、计算机算法等各种检测手段获取受试者当前视觉注意方向的技术,它广泛应用于人机交互、心理研究、虚拟现实和军事等多个领域。目前,精度较高、应用较多的视线追踪技术为瞳孔-角膜反射技术。瞳孔-角膜反射技术通过近红外光源照射眼睛使其产生明显的反射现象,后通过摄像机记录反射光构成的图像,利用亮瞳孔和暗瞳孔的原理,提取出眼球图像内的瞳孔,用角膜反射法校正摄像机与眼球的相对位置,以角膜反射点作为摄像机和眼球的相对位置的基点,瞳孔中心位置坐标表示视线位置。在实际应用中,光源及摄像机的安装要求显示器具有较高的装配深度。由于近红外光源对眼部的直接照射,为确保安全性,使用者的活动范围和设备的使用时间常常受到限制。此外,视线追踪的精度受使用者的头部影响较大。
脑-机接口(Brain-Computer Interface,BCI)是一个将中枢神经系统活动直接转化为人工输出的系统,它能够替代、修复、增强、补充或者改善中枢神经系统的正常输出,从而改善中枢神经系统与内外环境之间的交互作用。BCI通过采集和分析不同刺激下受试者的脑电信号,再使用一定的工程技术手段建立起人脑与计算机或其它电子设备之间的交流和控制通道。目前,BCI已在医学临床、游戏开发、军事、交通、社会科学及认知科学等领域显露出其应用前景。在各种类型的BCI中,基于VEPs的BCI系统是发展较为成熟的一种类型。VEPs是使用者眼部受到外部光线刺激,在其大脑初级视觉皮层区域检测到的电信号。
根据视网膜映射原理可知,VEPs对不同空间位置处的视觉刺激表现出空间特异性。如图1所示,视觉系统由视神经、视交叉神经、视束、外侧膝状体、视放射、初级视觉皮层构成。光通过左侧或右侧角膜刺激视网膜上的感光杆、视锥细胞、并通过视神经及视交叉神经传导至丘脑处的外侧膝状核,最终视觉信号传递至初级视觉皮层。由于视交叉神经的对侧性质,左侧视野的视觉信息将被传导至视觉皮层的右侧枕叶。视觉纤维在枕叶皮层投射时上半视野投射到距状裂下唇,下半视野投射到距状裂上唇。更具体地,视觉刺激所在视野与相应视觉信号传递至的视觉皮层区域对应关系如图2所示。
发明内容
本发明提供了一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,本发明基于视网膜映射原理利用VEPs的空间特异性结合特征解码算法实现视线追踪和定位,与传统的视线追踪技术相比,该技术具有抗头部运动干扰性强、安全性好等特点。进一步完善系统的构成,有望实现一种有效的实时视线追踪技术,详见下文描述:
一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,所述方法包括以下步骤:
根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式;
根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入,脑电采集系统实时采集头皮脑电信号,将信号经放大、滤波后输入计算机;
计算机对脑电信号进行降采样及有效特征数据段截取,并借助空间滤波算法提取VEPs特征,基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置;
当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标。
进一步地,所述根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式具体为:
(1)确定“视觉标定刺激”图形的大小及形状,以及该刺激下最大可分面积;
(2)依据最大可分面积及屏幕大小将屏幕分为n个分区;
(3)各个分区以一固定位置为原点建立“XoY分区坐标系”,分区内“视觉标定刺激”初始位置位于分区中心O’0(x0,y0)处,同时设“视觉中心位置”位于所在分区的M(x,y)处,x0,y0为“视觉标定刺激”的初始坐标,M(x,y)为“视觉中心位置”的实际所在位置;
(4)在分区内建立视觉标定刺激空间映射模型。
其中,所述在分区内建立视觉标定刺激空间映射模型具体为:
分区内以O’0(x0,y0)为原点,选择M个基方向,训练阶段,采集用户注视各个基方向下不同位置时的VEPs,并采用空间特征提取算法分别提取同一基方向下VEPs的共有特征并构建方位模板Ti(i=1,2,3,...,M)。
其中,所述基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息具体为:
进一步地,所述反复调整“视觉标定刺激”的位置具体为:
当M’l+1M’l、M’l-1M’l均小于等于δ时,判定M位于以ΔM’l+1M’lM’l-1重心为圆点,δ为半径的圆内。
本发明提供的技术方案的有益效果是:
1、本发明根据视觉诱发电位的空间特异性对视觉刺激进行空间编码,并借助VEPs特征提取算法对刺激进行解码,为视线追踪提供了一种全新的方式;
2、刺激空间编码时,视觉刺激出现在周围视野而不是中央视野,从而避免长时间使用时的视觉疲劳,且为中央视野保留空闲状态更有利于该方法的实际应用,同时相比于常用的瞳孔-角膜反射技术中红外光照射眼部,该发明具有更好的安全性;
3、通过离线实验验证,微弱视觉刺激呈现在周围视野不同视角不同方位处诱发出的VEPs具有一定可分性,证明利用该方法有望实现高舒适度的交互体验;
4、本发明可以用于认知行为学研究、心理学研究、人机交互等领域,进一步研究可以得到完整的视线追踪系统,有望获得可观的社会效益和经济效益。
附图说明
图1为视觉传输通路示意图;
图2为视野与初级视觉皮层空间映射关系图;
图3为视线追踪系统结构示意图;
图4为划分分区及A分区刺激坐标系示意图;
图5为判定分区及初步位置的刺激序列示意图;
图6为A分区内高精度视线追踪刺激序列示意图;
图7为分区内高精度视线追踪流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面对本发明实施方式作进一步地详细描述。
视觉诱发电位(Visual Evoked Potentials,VEPs)是枕区大脑皮质对视觉刺激产生的电反应,反映了视网膜在接受视觉刺激后,经视觉传输通路传导至枕叶皮层而引起的电位变化。根据视网膜映射原理,当刺激呈现于视野中的位置不同时,诱发初级视觉皮层相应特定区域的电活动,头皮电极检测到VEPs呈现空间分布特异性。本方法根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,并基于模板匹配方法解码VEPs空间特征,设计了一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法。借助该方法,可实现对用户视线的实时追踪。
其技术流程是:设计刺激范式、搭建脑电信号采集装置、采集操作者脑电信号、对脑电信号进行预处理,提取VEPs特征、解码VEPs空间特征,确定“视觉中心”所在位置。
图3为本发明的结构示意图。该设计包括:液晶显示刺激界面、脑电采集、脑电预处理、VEPs特征提取、VEPs特征识别、视线中心位置的判定等部分。使用时,操作者坐在距离刺激界面固定距离的椅子上,操作者根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入操作者,脑电采集系统实时采集操作者头皮脑电信号,将信号经放大、滤波后输入计算机,计算机对脑电信号进行降采样及有效特征数据段截取等预处理,并借助空间滤波算法提取VEPs特征,后基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置,当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标。
一、周围视野视觉标定刺激空间模型建立
在进行视线追踪过程前需建立周围视野视觉刺激空间模型。该部分主要包括以下几个步骤:
(1)确定“视觉标定刺激”图形的大小及形状等参数,以及该刺激下最大可分面积S0=2Rx×2Ry,Rx为该刺激下最大可分横向半径,Ry为该刺激下最大可分纵向半径。
(2)依据S0及屏幕大小S=(lx×ly)将屏幕分为n个分区。为确保屏幕任意位置均可实现视线追踪,要求n∈N,其中集合N={n|S≤nS0}。
(3)各个分区以一固定位置为原点建立“XoY分区坐标系”,分区内“视觉标定刺激”初始位置位于分区中心O’0(x0,y0)处,同时设“视觉中心位置”位于所在分区的M(x,y)处,x0,y0为“视觉标定刺激”的初始坐标,M(x,y)为“视觉中心位置”的实际所在位置。
(4)在分区内建立视觉标定刺激空间映射模型。
图4表示的为以半径为δ的白色圆点为“视觉标定刺激”图形时,划分分区及A分区刺激坐标系示意图。依据该“视觉标定刺激”下最大可分面积为2Rx×2Ry及屏幕大小4Rx×4Ry将屏幕分为A、B、C、D 4个分区。以A分区一点为原点,建立“XoY分区坐标系”。图中所示A分区“视觉标定刺激”位于A分区中心点O’0(x0,y0)处,“视觉中心位置”位于M(x,y)处。分区内以O’0(x0,y0)为原点,选择M个基方向,如上、下、左、右四个方向。训练阶段,采集用户注视各个基方向下不同位置时的VEPs,并采用空间特征提取算法分别提取同一基方向下VEPs的共有特征并构建方位模板Ti(i=1,2,3,...,M)。
本发明中,为了降低刺激对于使用者注视过程的影响,可将单一“视觉标定刺激”图形转变为“多个散点”,每次刺激各个散点位置在一定范围内随机改变。此外,为了提升使用舒适度,可根据用户调节“视觉标定刺激”的亮度、形状、大小和颜色等物理属性。
二、视线追踪实现过程
建立周围视野视觉刺激的空间模型后,具体实现高精度视线追踪的过程可分为以下两个步骤:
1)确定“视觉中心位置”所在分区及初步判定“视觉标定刺激”的坐标位置;
为确定“视觉中心位置”所在分区及初步判定“视觉标定刺激”的坐标位置,“视觉标定刺激”分时闪烁于各分区中央(即同一时刻屏幕中仅包含一处“视觉标定刺激”),如图5所示。图5中“视觉中心位置”位于A分区,则仅在t1~t2时间段内检测到具有较强空间位置特征的VEPs,解码VEPs特征初步判定“视觉中心位置”的位置,记为
2)反复调整“视觉标定刺激”位置,获得符合精度要求的“视觉中心位置”坐标。
图5为以A分区内高精度视线追踪为例的刺激序列示意图。图6中“十字”、“三角”仅用于标记示意当前刺激下“视觉中心位置”的计算值及真值,实际刺激序列显示图像中并不存在。图7为分区内高精度视线追踪流程图。
结合图6、图7说明,为达到精度为δ的视线追踪,在确定“视觉中心位置”M所在分区及初步判定M在处后,反复调整“视觉标定刺激”的位置,并解码VEP响应空间特征,直至获取满足精度要求的“视觉中心位置”坐标。“视觉标定刺激”的位置调整参数Δx,Δy是关于当前“视觉标定刺激”位置(xl,yl)和该“视觉标定刺激”下M位置计算结果的函数。最终当M’l+1M’l、M’l-1M’l均小于等于δ时,可判定M位于以ΔM’l+1M’lM’l-1重心为圆点,δ为半径的圆内。
本发明实施例对各器件的型号除做特殊说明的以外,其他器件的型号不做限制,只要能完成上述功能的器件均可。
本领域技术人员可以理解附图只是一个优选实施例的示意图,上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,其特征在于,所述方法包括以下步骤:
根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式;
根据个人意图注视某一目标点,带有空间方位信息的视觉标定刺激通过视觉通路输入,脑电采集系统实时采集头皮脑电信号,将信号经放大、滤波后输入计算机;
计算机对脑电信号进行降采样及有效特征数据段截取,并借助空间滤波算法提取VEPs特征,基于VEPs特征识别算法解码出“视觉标定刺激”与“视觉中心位置”间的方位信息,并计算“视觉标定刺激位置调整参数”反馈调节视觉标定刺激呈现位置;
当连续多次计算视线中心位置一致时,停止调整视觉标定刺激位置,并输出视线中心位置坐标;
其中,所述根据大脑对视觉刺激响应的空间特异性原理对刺激进行编码,设计刺激范式具体为:
(1)确定“视觉标定刺激”图形的大小及形状,以及该刺激下最大可分面积;
(2)依据最大可分面积及屏幕大小将屏幕分为n个分区;
(3)各个分区以一固定位置为原点建立“XoY分区坐标系”,分区内“视觉标定刺激”初始位置位于分区中心O'0(x0,y0)处,同时设“视觉中心位置”位于所在分区的M(x,y)处,O'0(x0,y0)为“视觉标定刺激”的初始坐标,M(x,y)为“视觉中心位置”的实际所在位置;
(4)在分区内建立视觉标定刺激空间映射模型。
2.根据权利要求1所述的一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法,其特征在于,所述在分区内建立视觉标定刺激空间映射模型具体为:
分区内以O'0(x0,y0)为原点,选择M个基方向,训练阶段,采集用户注视各个基方向下不同位置时的VEPs,并采用空间特征提取算法分别提取同一基方向下VEPs的共有特征并构建方位模板Ti,i=1,2,3,...,M。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010315015.2A CN111580645B (zh) | 2020-04-21 | 2020-04-21 | 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010315015.2A CN111580645B (zh) | 2020-04-21 | 2020-04-21 | 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111580645A CN111580645A (zh) | 2020-08-25 |
CN111580645B true CN111580645B (zh) | 2022-08-30 |
Family
ID=72124483
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010315015.2A Active CN111580645B (zh) | 2020-04-21 | 2020-04-21 | 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111580645B (zh) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105824418B (zh) * | 2016-03-17 | 2018-11-27 | 天津大学 | 一种基于非对称视觉诱发电位的脑-机接口通讯系统 |
CN107463249A (zh) * | 2017-06-29 | 2017-12-12 | 南京航空航天大学 | 基于vr头显视觉诱发电位的脑机接口系统及控制方法 |
CN109271020B (zh) * | 2018-08-23 | 2020-09-01 | 西安交通大学 | 一种基于眼动追踪的稳态视觉诱发脑机接口性能评价方法 |
CN109828664B (zh) * | 2019-01-15 | 2020-11-17 | 西安交通大学 | 基于感觉反馈动态调整的稳态视觉诱发电位脑机接口方法 |
-
2020
- 2020-04-21 CN CN202010315015.2A patent/CN111580645B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN111580645A (zh) | 2020-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3709861B1 (en) | Systems for visual field analysis | |
Kohli et al. | A review on Virtual Reality and Augmented Reality use-cases of Brain Computer Interface based applications for smart cities | |
CN104603673B (zh) | 头戴式系统以及使用头戴式系统计算和渲染数字图像流的方法 | |
CN109645994B (zh) | 一种基于脑-机接口系统辅助评估视觉定位的方法 | |
Tamietto et al. | Seeing fearful body language overcomes attentional deficits in patients with neglect | |
JP2020532031A (ja) | 高速視標追跡機能を有する脳−コンピュータインタフェース | |
US20150079560A1 (en) | Wearable Monitoring and Training System for Focus and/or Mood | |
KR20190005219A (ko) | 사용자 건강 분석을 위한 증강 현실 시스템들 및 방법들 | |
CN110600103B (zh) | 一种提升视力的可穿戴智能服务系统 | |
CN110585592B (zh) | 一种个性化电子针灸装置及其生成方法与生成装置 | |
Pun et al. | Brain-computer interaction research at the Computer Vision and Multimedia Laboratory, University of Geneva | |
Velichkovsky et al. | Measurement-related issues in the investigation of active vision | |
Petrova et al. | Cultural influences on oculomotor inhibition of remote distractors: Evidence from saccade trajectories | |
CN111580645B (zh) | 一种基于周围视野标定刺激诱发脑电解码的视线跟踪方法 | |
Rubinstein et al. | Optokinetic nystagmus suppression as an index of the allocation of visual attention | |
CN106445140B (zh) | 静视野自动识别的非注意事件相关电位脑-机接口方法 | |
Wu et al. | Intelligent command and control of uav based on brain computer and eye tracking combined technology | |
CN115282430A (zh) | 一种用于空间注意力能力提升的神经反馈训练系统及训练方法 | |
Shen et al. | An active and passive upper limb rehabilitation training system based on a hybrid brain–computer interface | |
Krishnan et al. | Real-Time Eye Tracking Using Heat Maps | |
Cotrina | Toward Brain-Computer Interaction in Paralysis: A New Approach Based on Visual Evoked Potentials and Depth-of-Field | |
Li et al. | Control of a humanoid robot via N200 potentials | |
KR102377135B1 (ko) | 노인의 인지 기능 측정 방법 및 시스템 | |
Andreeßen | Towards real-world applicability of neuroadaptive technologies: investigating subject-independence, task-independence and versatility of passive brain-computer interfaces | |
Huang et al. | 66‐3: Research on Wearable Brain‐Computer Interface Based on SSVEP |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |