CN104809424B - 一种基于虹膜特征实现视线追踪的方法 - Google Patents

一种基于虹膜特征实现视线追踪的方法 Download PDF

Info

Publication number
CN104809424B
CN104809424B CN201410032487.1A CN201410032487A CN104809424B CN 104809424 B CN104809424 B CN 104809424B CN 201410032487 A CN201410032487 A CN 201410032487A CN 104809424 B CN104809424 B CN 104809424B
Authority
CN
China
Prior art keywords
iris
image
current
plane
sight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410032487.1A
Other languages
English (en)
Other versions
CN104809424A (zh
Inventor
黃通兵
任冬淳
沈丁成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing 7Invensun Technology Co Ltd
Original Assignee
Beijing 7Invensun Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing 7Invensun Technology Co Ltd filed Critical Beijing 7Invensun Technology Co Ltd
Priority to CN201410032487.1A priority Critical patent/CN104809424B/zh
Publication of CN104809424A publication Critical patent/CN104809424A/zh
Application granted granted Critical
Publication of CN104809424B publication Critical patent/CN104809424B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种基于虹膜特征实现视线追踪的方法,该方法首次提取虹膜内部纹理特征,通过匹配当前和基准的虹膜图像中的特征点,得到当前虹膜图像相对基准虹膜图像的旋转、平移向量,结合当前帧和基准虹膜图像中虹膜大小、基准虹膜中心到摄像机光心距离以及基准虹膜平面的视线方向计算得到当前帧的视线方向,最后根据视线经过当前帧虹膜中心的特点得到视线。本发明的优势在于:图像处理获取准确的虹膜特征点相对容易;硬件要求简单,只需要一个摄像机,用于拍摄虹膜特征即可;头部运动并不影响视线追踪结果;最少一个标定点就可满足算法需要,标定过程简单实现方便。

Description

一种基于虹膜特征实现视线追踪的方法
技术领域
本发明涉及计算机视觉、图像处理以及摄影几何学等技术领域,尤其涉及一种基于虹膜特征实现视线追踪的方法。
背景技术
视线追踪是利用眼动测量设备测量眼睛的运动情况,估计视线方向或者视线落点位置的技术。由于对视线的直接、准确估计,视线追踪技术在人机交互、医学诊断和残疾人康复等领域有广泛的应用,在虚拟现实和智能感知领域也有很好的应用前景。现有的测量眼睛运动情况的方法主要有:机械记录法、电磁记录法、电流记录法和光学记录法。其中机械记录法和电磁记录法需要在眼睛上附着辅助设备用于测量眼睛运动;电流记录法需要在眼睛周围放置电极用于测量眼睛运动;光学记录法则只需要用照相机或摄像机记录被试者的眼睛运动情况。光学记录法由于其对硬件复杂度要求相对较低,而且被试体验更好,因此被广泛使用。
现有的基于眼睛图像信息的视线追踪方法主要包括两个步骤:相关特征提取和视线估计。常用的特征主要包括:瞳孔轮廓、瞳孔中心、虹膜轮廓、虹膜中心、眼角以及外界光源(一般为红外光源)在角膜上的反射点(普尔钦斑)。现有的视线估计算法主要包括:(1)瞳孔-角膜反射法[1-5]、(2)虹膜-巩膜边缘法[6]、(3)基于外观的方法[7]和(4)双普金野法[8]。其中,(1)瞳孔-角膜反射法首先需要检测瞳孔中心的位置以及角膜反射点的位置,为了准确检测瞳孔,一些算法使用了亮暗瞳技术[9],但角膜反射点的引入对瞳孔检测带来影响。基于瞳孔中心和角膜反射点的视线追踪方法主要有:瞳孔中心与角膜反射向量法[2,3]、交比不变性方法[4]和基于眼球三维模型的视线估计方法[5]。瞳孔中心与角膜反射向量法计算简单,但头动对视线追踪效果影响较大,虽然有一些补偿算法[3],但较好的补偿算法往往需要大量的标定点。利用交比不变性方法[4]也对头动敏感,而且需要四个角膜反射点,硬件系统较为复杂,同时,引入四个角膜反射点也增加了图像处理工作的复杂性。基于眼球三维模型的视线估计方法[5]需要计算角膜中心、瞳孔中心的空间位置并通过已标定的光轴和视轴夹角来计算视线,在计算角膜中心和瞳孔中心时需要确定角膜曲率半径、眼球中心到角膜中心的距离、房水与角膜之间的折射率等参数,这些参数也是通过标定计算后得到的。因此,标定过程的计算量非常大。(2)虹膜—巩膜边缘法是通过检测虹膜和巩膜交界的圆在相机拍摄的图片中呈现的大小和椭圆(虹膜和巩膜交界的圆在照相机中成像为椭圆)形状,来估计视线方向。由于虹膜和巩膜交界的圆的上半部分和下半部分分别被上眼皮和下眼皮遮挡,因此图像中虹膜和巩膜交界圆的准确检测较为困难。(3)基于外观的方法对眼睛的整体图片进行处理并估计视线方向,这种方法往往需要非常大的训练样本,也就是需要非常多的标定点。(4)双普金野法需要昂贵、复杂的硬件装置。
综上所述,现有的基于眼睛图像信息的视线追踪算法的主要问题有:(1)由于眼睛特征选择和引入角膜反射点等因素,给图像处理带来了困难,不易提取稳定、准确的特征。(2)一些算法需要复杂的硬件装置,如:双普金野法。(3)头部运动(头部相对照相机运动)带来的视线追踪不准确。(4)需要较多的标定点(一些算法本身需要较多标定点,如:基于外观的视线追踪方法;一些算法为了补偿头部运动需要较多标定点),每次视线追踪时均需要标定。
[1].Cowey A.The basis of a method of perimetry with monkeys.QuarterlyJournal of Experimental Psychology,1963,15(2):81-90.
[2].Merchant J,Morrissette R,Porterfield J L.Remote measurement ofeye direction allowing subject motion over one cubic foot of space.IEEETransactions on Biomedical Engineering,1974(4):309-317.
[3].Morimoto C H,Mimica M R M.Eye gaze tracking techniques forinteractive applications.Computer Vision and Image Understanding,2005,98(1):4-24.
[4].Yoo D H,Kim J H,Lee B R,et al.Non-contact eye gaze trackingsystem by mapping of corneal reflections.In Proceedings of the5th IEEEInternational Conference on Automatic Face and Gesture Recognition,2002:94-99.
[5].Guestrin E D,Eizenman M.General theory of remote gaze estimationusing the pupil center and corneal reflections[J].IEEE Transactions onBiomedical Engineering,2006,53(6):1124-1133.
[6].Wang J G,Sung E,Venkateswarlu R.Estimating the eye gaze from oneeye.Computer Vision and Image Understanding,2005,98(1):83-103.
[7].Baluja S,Pomerleau D.Non-intrusive gaze tracking using artificialneural networks.CARNEGIE-MELLON UNIV PITTSBURGH PA DEPT OF COMPUTER SCIENCE,1994.
[8].Cornsweet T N,Crane H D.Accurate two-dimensional eye trackerusing first and fourth Purkinje images.JOSA,1973,63(8):921-928.
[9].Hutchinson T E,White Jr K P,Martin W N,et al.Human-computerinteraction using eye-gaze input.IEEE Transactions on Systems,Man andCybernetics,1989,19(6):1527-1534.
发明内容
本发明的目的在于提供一种基于虹膜特征实现视线追踪的方法,该方法提取虹膜内部纹理特征,通过匹配当前和基准的虹膜图像中的特征点,得到当前虹膜平面相对基准虹膜平面的旋转、平移向量,结合基准虹膜平面的视线方向和当前虹膜中心位置,进而得到视线方向。该方法能有效克服现有基于眼睛图像信息的视线追踪方法中的(1)眼睛图像处理困难、(2)硬件装置复杂、(3)对头部运动不鲁棒、(4)标定过程复杂的问题。
为了实现上述目的,本发明采用的技术方案如下:
一种基于虹膜特征实现视线追踪的方法,提取虹膜内部纹理特征,通过匹配当前虹膜图像和基准虹膜图像中的特征点,得到当前虹膜平面相对基准虹膜平面的旋转变换关系,结合基准虹膜平面的视线方向和当前虹膜平面中的虹膜中心位置,计算得出当前视线。
优选的,所述基准虹膜平面是指标定时的虹膜平面;基准虹膜图像是指图像采集装置获得的所述基准虹膜平面的图像;所述基准虹膜平面的视线方向是通过标定确定的与所述基准虹膜平面相对应的视线方向。
优选的,所述当前虹膜图像和所述基准虹膜图像中的特征点是根据虹膜纹理特征的稳定性,在虹膜图像中满足平移、尺度缩放、旋转不变特性的像素点;通过三个以上特征点匹配,得到所述当前虹膜图像和所述基准虹膜图像的对应关系。
优选的,通过所述当前虹膜图像和所述基准虹膜图像中虹膜的大小、所述基准虹膜平面到图像采集装置的距离、所述当前虹膜图像和所述基准虹膜图像的对应关系,计算求得所述当前虹膜平面相对所述基准虹膜平面的旋转变换关系。
优选的,通过计算拟合虹膜轮廓构成椭圆的面积,得到所述当前虹膜图像和所述基准虹膜图像中虹膜的大小。
优选的,通过标定方法,得到所述基准虹膜平面到图像采集装置的距离。
优选的,通过标定方法,得到所述基准虹膜平面的视线方向。
优选的,通过计算拟合虹膜轮廓构成椭圆的中心,结合所述当前虹膜图像和所述基准虹膜图像中虹膜的大小、所述基准虹膜平面到图像采集装置的距离,计算得到所述当前虹膜平面中的虹膜中心位置。
本发明的有益效果是:
本发明公开了一种基于虹膜特征实现视线追踪的方法,该方法首次提取虹膜内部纹理特征,通过匹配当前和基准的虹膜图像中的特征点,得到当前虹膜图像相对基准虹膜图像的旋转、平移向量,结合当前帧和基准虹膜图像中虹膜大小、基准虹膜中心到摄像机光心距离以及基准虹膜平面的视线方向计算得到当前帧的视线方向,最后根据视线经过当前帧虹膜中心的特点得到视线。该方法的主要优点有:(1)图像处理获取准确的虹膜特征点相对容易,由于眼睛中可以匹配的虹膜特征点非常丰富,而最少选取三个特征点就可以进行匹配。因此,提取虹膜特征点不需要对整张眼睛图像进行非常准确的图像处理,只需要准确提取三个以上虹膜特征点即可,图像处理相对容易。(2)硬件要求简单,只需要一个摄像机,用于拍摄虹膜特征。(3)头部运动并不影响视线追踪结果。本发明基于匹配当前和基准的虹膜图像特征点,计算当前虹膜平面相对基准虹膜平面的旋转变换关系,进而计算视线。在本发明中,头部运动不会影响当前虹膜平面相对基准虹膜平面的旋转变换关系的计算,因此不会影响最终的视线计算。(4)最少一个标定点就可满足算法需要。同时,由于虹膜特征的唯一性(每个人的虹膜特征不同),因此,每个用户只需一次记录标定值即可,不需要每次使用进行标定。
附图说明
图1是本发明的基于虹膜特征实现视线追踪方法适用情况(远距离设备)示例图;
图2是本发明的基于虹膜特征实现视线追踪方法适用情况(穿戴式设备)示例图;
图3是本发明的基于虹膜特征实现视线追踪方法的流程图;
图4是本发明的基于虹膜特征实现视线追踪方法中标定视线方向方法的示意图;
图5是用户虹膜特征库构建及使用流程图;
图6是虹膜图像示意图;
其中:1---人体头部;2---屏幕;3---摄像机;4---眼睛;5---视线;6---光轴;7---虹膜内边缘;8---虹膜外边缘;9---虹膜。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施方式仅仅用以解释本发明,并不用于限定本发明。
本发明公开了一种基于虹膜特征实现视线追踪的方法,该方法首次提取虹膜内部纹理特征,通过匹配当前和基准的虹膜图像中的特征点,得到当前虹膜平面相对基准虹膜平面的旋转变换关系,结合基准虹膜平面的视线方向和当前虹膜中心位置,进而得到视线方向。
本发明适用于摄像机和注视屏幕相对位置已知的视线追踪问题,如图1、2。如:摄像机和注视屏幕均静止的情况(远距离设备,图1)、摄像机和注视屏幕相对静止的情况(穿戴式设备,图2)和摄像机和注视屏幕相对运动可测量的情况。
本发明公开了一种基于虹膜特征实现视线追踪的方法,该方法首先需要通过标定得到摄像机内部参数、基准虹膜图像中虹膜纹理特征、虹膜大小以及基准虹膜平面的虹膜中心到摄像机光心距离以及视线方向。在视线计算过程中,通过匹配当前帧虹膜图像与基准虹膜图像的特征点,可以得到当前和基准虹膜图像的单应性矩阵。当前虹膜平面相对基准虹膜平面的旋转变换矩阵,是通过当前和基准虹膜图像中虹膜的大小、基准虹膜平面到图像采集装置的距离、当前和基准虹膜图像的单应性矩阵计算求得。得到当前帧虹膜平面相对基准虹膜平面的旋转变换矩阵后,结合基准虹膜平面相对应的视线方向和当前虹膜中心位置,计算视线。下面将详细介绍该方法的整个流程(如图3)。
(1)用户和设备视觉系统标定
本发明提出的基于虹膜特征实现视线追踪的方法,是通过匹配当前和基准的虹膜图像中的特征点,得到当前虹膜平面相对基准虹膜平面的旋转、平移向量,进而计算得到视线方向。因此,需要通过标定的方法,首先得到摄像机内参(摄像机焦距、每个像素在像素坐标系下x轴和y轴方向上的物理尺寸、摄像机主点在像素坐标系下的坐标、像素物理坐标的斜向畸变角);其次得到基准虹膜图像中虹膜纹理特征、虹膜大小以及基准虹膜平面的虹膜中心到摄像机光心距离;最后得到基准虹膜平面相对应的视线方向。
摄像机内部参数是进行视线计算的前提条件。在摄像机坐标系下,不考虑透镜的畸变,虹膜平面上虹膜特征点Pi的坐标为(xi,yi,zi),对于内参为C的摄像机,其像素坐标为pi(ui,vi),满足如下方程:
Figure BDA0000460980590000061
公式(1)中f为成像平面到摄像机焦平面的距离,即摄像机焦距。dx,dy表示像素坐标系中每个像素在x轴和y轴方向上的物理尺寸;(u0,v0)是摄像机主点在像素坐标系下的坐标,γ是像素物理坐标的斜向畸变角。矩阵C只与摄像机内部结构相关,称为摄像机内参。通过标定,可以确定摄像机内参矩阵C。
基准虹膜图像中虹膜纹理特征、虹膜大小以及基准虹膜平面的虹膜中心到摄像机光心距离也是进行视线计算的重要条件。其中,基准虹膜图像的虹膜纹理特征是用于与当前虹膜图像的纹理特征进行匹配,用于计算当前虹膜图像相对基准虹膜图像的单应性矩阵。由于单摄像机只能获得物体的二维信息,而视线需在三维空间中进行计算。在已知摄像机内参的前提下,通过当前帧虹膜大小、基准虹膜大小和基准虹膜中心到摄像机光心距离,可以求得当前虹膜平面在摄像机坐标系下的三维坐标,进而得到当前虹膜平面相对基准虹膜平面的旋转变换关系,从而进行视线追踪。
基准虹膜平面对应的视线方向是虹膜特征匹配方法进行视线计算的重要前提条件。本发明提出了一种摄像机坐标系下标定虹膜平面对应视线方向的方法。具体如下:在摄像机坐标系下,调整摄像机位置,使摄像机光轴垂直于虹膜平面,并以摄像机所在位置为视线方向,记录此时的虹膜图像、虹膜到摄像机的距离。于是得到在摄像机坐标系下,视线方向为(0,0,1)所对应的虹膜平面,如图4。
同时,由于虹膜特征的唯一性(每个人的虹膜特征不同),因此,只需一次记录标定值即可,不需要每次使用进行标定,如图5。
(2)虹膜特征提取
本发明提取的虹膜特征包括用于当前虹膜平面与基准虹膜平面匹配的特征点和用于计算虹膜中心及大小的虹膜特征。
虹膜是指人眼中位于瞳孔和巩膜之间的直径约为12mm,厚度约为0.5mm的环状组织,如图6所示。它位于晶状体前方,角膜后方。虹膜总体上呈现一种由里向外的放射状结构,包含斑点、条纹、细丝等细节特征(纹理特征),这些特征近似位于一个平面上,并且这些特征早期形成便终生不变,而且虹膜与巩膜交接处形成的近似圆的大小也不会发生变化。
由于瞳孔的大小会随入射光量的强弱而变化,因此对虹膜纹理特征的提取带来一定的影响。为此,可首先对虹膜图像进行预处理,即对虹膜图像进行归一化处理。本发明采用将虹膜由直角坐标系下的环形转变为极坐标系下具有固定尺寸的矩形区域,用于补偿光线变化对虹膜特征提取的影响。
虹膜特征点检测是实时提取虹膜图像内部角点,通过这些角点在图像中的位置来获取当前帧与基准虹膜图像角点间的对应关系,得到当前虹膜平面相对基准虹膜平面的旋转、平移向量,进而计算得到视线方向。为了使当前和基准虹膜图像中的特征点在匹配中更加准确,选取的虹膜特征点具有平移、尺度缩放、旋转、亮度等变化下的不变性特征。其中,每一个特征点对应一个特征向量v(m维)。本发明提取虹膜图像的SIFT(Scale-invariantfeature transform)特征(128维),但不仅限于提取该特征,如Canny特征、Harris特征和Surf特征等。
提取SIFT特征点的实现过程如下:首先在尺度空间(利用不同尺度的高斯差分核与图像卷积生成的高斯差分尺度空间)进行特征检测,选出候选特征点。其次,筛选候选特征点,去除对比度低的特征点和不稳定的边缘点,并通过数据拟合确定特征点所在位置和尺度。再次,使用特征点邻域梯度的主方向作为该点的方向特征。最后,计算得到对尺度和旋转的不变性的特征向量(根据每个特征点的位置、所在尺度和方向在选定的特征空间中构建特征向量)。SIFT特征的检测与描述可分为以下四个阶段:尺度空间极值检测,特征点位置与尺度的定位,特征点的方向分配和特征向量的生成。
计算视线方向,还需要虹膜中心的位置信息和虹膜大小。可以通过多种方法计算虹膜中心和大小,包括:虹膜轮廓拟合的椭圆(或圆)的中心、瞳孔拟合的椭圆(或圆)的中心(近似虹膜中心)等方法。本发明采用拟合虹膜轮廓椭圆的方法求解虹膜中心和大小,但不仅限于该方法。首先对眼睛图片进行阈值处理,其次根据眼睫毛的边缘特性和方向特性选择出眼睫毛区域,最后在非眼睫毛区域对虹膜-巩膜交接的椭圆进行拟合,最终确定虹膜中心位置(拟合椭圆的中心)和虹膜大小(拟合椭圆的面积)。
(3)匹配当前虹膜图像特征点和基准虹膜图像特征点
匹配当前和基准的虹膜图像中的特征点,可以得到当前虹膜平面相对基准虹膜平面的旋转、平移向量。在已知基准虹膜图像中的视线方向,可以计算得到当前的视线方向。
特征点匹配方法有多种,可以直接使用当前虹膜图像特征点的特征向量与基准虹膜图像特征点的特征向量直接匹配,但不仅限于该方法进行匹配。当前帧有n个特征点,每个特征点i对应的特征向量为vi(i=1,2,3,…,n),基准虹膜平面有n0个特征点,每个特征点j对应的特征向量为v0 j(j=1,2,3,…,n0),对于当前帧中的特征点i(i=1,2,3,…,n)与基准虹膜图像特征点j对应特征向量的距离Dis(vi,v0 j):
Figure BDA0000460980590000091
公式(2)中vik,v0 jk表示特征向量vi,v0 j的第k个分量。当前帧中特征点p与基准帧特征点q匹配,则其分别对应的特征向量vp,v0 q需满足:
Figure BDA0000460980590000092
Figure BDA0000460980590000093
通过公式(3)和公式(4)可以进行特征点匹配,但这种直接匹配的方法准确度不够高。为此,本发明采用随机抽样一致性算法方法(RANdom SAmple Consensus)进行特征点精确匹配,但不仅限于该方法进行精确匹配。
RANSAC算法的基本思想如下:(a)从数据集中任意选定最小需求的数据样本,并使用最小数据样本求出初始模型;(b)在初始模型中求取问题的解集,符合解的约束条件,则解称为内点,否则称为外点;(c)如果内点的数目大于设定的阈值,则用内点数重新估计模型参数并结束;(d)如果内点的数目小于设定的阈值,则重新在数据集中选取数据样本,重复上述的步骤;(e)经过多次采样,选取最多内点数目的模型,并使用这些内点重新计算模型的参数,完成计算过程。
得到当前帧和基准帧虹膜图像的匹配特征后,两个图像会存在平移、旋转、尺度的变化,用单应性矩阵M来表示,则有
Figure BDA0000460980590000094
公式(5)中,(xi,yi,1)为当前帧特征点齐次坐标,(x0 i,y0 i,1)为基准虹膜图像特征点齐次坐标。因此最少找到三个匹配的特征点即可求解矩阵M,而当匹配点多于三个的时候,可以采用最小二乘的方法,求得矩阵M,此时得到的矩阵M将更为准确。
(4)视线计算
在步骤(3)中通过特征点匹配得到的单应性矩阵M是当前虹膜平面图像与基准虹膜平面图像的对应关系。因此,当前帧虹膜平面上特征点Pi在摄像机成像pi与基准帧虹膜平面上特征点P0 i在摄像机成像p0 i对应关系为:
Figure BDA0000460980590000101
在标定过程中,记录了基准虹膜平面中虹膜中心到摄像机光心的距离。结合基准虹膜大小和当前帧虹膜大小,计算当前帧虹膜到摄像机光心的距离,如下:
Figure BDA0000460980590000102
公式(7)中,Si,S0 i分别表示当前帧与基准虹膜轮廓拟合椭圆的面积,zi,z0 i分别表示当前帧与基准虹膜平面虹膜中心到摄像机光心的距离。于是可计算得到当前帧虹膜到摄像机光心的距离zi,结合已经标定得到的摄像机内参矩阵C,可以得到摄像机坐标系下,当前帧虹膜平面上特征点Pi与基准帧虹膜平面上特征点P0 i的对应关系,如下:
Figure BDA0000460980590000103
公式(8)中,α、β表示比例因子。对公式(8)中矩阵C-1M进行分解,可得Pi与P0 i对应的旋转平移矩阵R和T,通过旋转矩阵R可得Pi与P0 i之间的旋转向量,结合P0 i时刻的视线方向n0和当前帧虹膜中心位置E(xE,yE,zE),可以得到当前帧的视线为过点E(xE,yE,zE),方向n为Rn0的直线,视点为该直线与屏幕的交点。
虽然现在有一些基于虹膜识别的视线追踪方法,但是这些方法主要基于虹膜—巩膜边缘特征进行视线追踪,如:张登银等人提出的一种基于虹膜识别的视线跟踪定位方法,利用虹膜—巩膜边缘得到虹膜瞳孔中心位置,然后将其与基准位置做比较,得到视线方向。而本发明是提取虹膜内部纹理特征,通过匹配当前和基准的虹膜图像中的特征点,得到当前虹膜平面相对基准虹膜平面的旋转、平移向量,进而得到视线方向。
概括的讲,本发明公开了一种基于虹膜特征实现视线追踪的方法。本发明适用于摄像机和注视屏幕相对位置已知的视线追踪问题,如:摄像机和注视屏幕均静止的情况(远距离设备)、摄像机和注视屏幕相对静止的情况(穿戴式设备)和摄像机和注视屏幕相对运动可测量的情况。该方法首先需要通过标定得到摄像机内部参数、基准虹膜图像中虹膜纹理特征、虹膜大小以及基准虹膜平面的虹膜中心到摄像机光心距离以及视线方向。在视线计算过程中,通过匹配当前帧虹膜图像与基准虹膜图像的特征点,可以得到当前和基准虹膜图像的对应关系。当前虹膜平面相对基准虹膜平面的旋转变换矩阵,是通过当前和基准虹膜图像中虹膜的大小、基准虹膜平面到图像采集装置的距离、当前和基准虹膜图像的对应关系计算求得。得到当前帧虹膜平面相对基准虹膜平面的旋转变换矩阵后,结合基准虹膜平面相对应的视线方向和当前虹膜中心位置,计算视线。
通过采用本发明公开的上述技术方案,得到了如下有益的效果:
本发明公开了一种基于虹膜特征实现视线追踪的方法,该方法首次提取虹膜内部纹理特征,通过匹配当前和基准的虹膜图像中的特征点计算视线方向,主要优点有:(1)图像处理获取准确的虹膜特征点相对容易,由于眼睛中可以匹配的虹膜特征点非常丰富,而最少选取三个特征点就可以进行匹配。因此,提取虹膜特征点不需要对整张眼睛图像进行非常准确的图像处理,只需要准确提取三个以上虹膜特征点即可,图像处理相对容易。(2)硬件要求简单,只需要一个摄像机,用于拍摄虹膜特征。(3)头部运动并不影响视线追踪结果。本发明基于匹配当前和基准的虹膜图像特征点,计算当前虹膜平面相对基准虹膜平面的旋转变换关系,进而计算视线。在本发明中,头部运动不会影响当前虹膜平面相对基准虹膜平面的旋转变换关系的计算,因此不会影响最终的视线计算。(4)最少一个标定点就可满足算法需要。同时,由于虹膜特征的唯一性(每个人的虹膜特征不同),因此,每个用户只需一次记录标定值即可,不需要每次使用进行标定。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视本发明的保护范围。

Claims (5)

1.一种基于虹膜特征实现视线追踪的方法,其特征在于,提取虹膜内部纹理特征,通过匹配当前虹膜图像和基准虹膜图像中的虹膜特征点,得到所述当前虹膜图像和所述基准虹膜图像的对应关系,
通过所述当前虹膜图像和所述基准虹膜图像中虹膜的大小、基准虹膜平面到图像采集装置的距离、所述当前虹膜图像和所述基准虹膜图像的对应关系,计算求得当前虹膜平面相对所述基准虹膜平面的旋转变换关系,
通过标定方法,得到基准虹膜平面的视线方向,
所述当前虹膜平面相对基准虹膜平面的旋转变换关系,结合基准虹膜平面的视线方向和当前虹膜平面中的虹膜中心位置,计算得出当前视线;
所述当前虹膜图像和所述基准虹膜图像中的特征点是根据虹膜纹理特征的稳定性,在虹膜图像中满足平移、尺度缩放、旋转不变特性的像素点;通过三个以上特征点匹配,得到所述当前虹膜图像和所述基准虹膜图像的对应关系。
2.根据权利要求1所述的方法,其特征在于,所述基准虹膜平面是指标定时的虹膜平面;基准虹膜图像是指图像采集装置获得的所述基准虹膜平面的图像;所述基准虹膜平面的视线方向是通过标定确定的与所述基准虹膜平面相对应的视线方向。
3.根据权利要求1所述的方法,其特征在于,通过计算拟合虹膜轮廓构成椭圆的面积,得到所述当前虹膜图像和所述基准虹膜图像中虹膜的大小。
4.根据权利要求1所述的方法,其特征在于,通过标定方法,得到所述基准虹膜平面到图像采集装置的距离。
5.根据权利要求1所述的方法,其特征在于,通过计算拟合虹膜轮廓构成椭圆的中心,结合所述当前虹膜图像和所述基准虹膜图像中虹膜的大小、所述基准虹膜平面到图像采集装置的距离,计算得到所述当前虹膜平面中的虹膜中心位置。
CN201410032487.1A 2014-01-23 2014-01-23 一种基于虹膜特征实现视线追踪的方法 Active CN104809424B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410032487.1A CN104809424B (zh) 2014-01-23 2014-01-23 一种基于虹膜特征实现视线追踪的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410032487.1A CN104809424B (zh) 2014-01-23 2014-01-23 一种基于虹膜特征实现视线追踪的方法

Publications (2)

Publication Number Publication Date
CN104809424A CN104809424A (zh) 2015-07-29
CN104809424B true CN104809424B (zh) 2020-11-10

Family

ID=53694235

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410032487.1A Active CN104809424B (zh) 2014-01-23 2014-01-23 一种基于虹膜特征实现视线追踪的方法

Country Status (1)

Country Link
CN (1) CN104809424B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105654040B (zh) * 2015-12-24 2020-01-03 华为技术有限公司 基于虹膜的测距方法和移动终端
CN105913487B (zh) * 2016-04-09 2018-07-06 北京航空航天大学 一种基于人眼图像中虹膜轮廓分析匹配的视线方向计算方法
CN105974808A (zh) * 2016-06-30 2016-09-28 宇龙计算机通信科技(深圳)有限公司 基于虚拟现实设备的控制方法、控制装置及虚拟现实设备
CN106408602A (zh) * 2016-11-09 2017-02-15 东莞市珑骧电子科技有限公司 一种cnc视觉系统图像特征匹配方法
CN109960966A (zh) * 2017-12-21 2019-07-02 上海聚虹光电科技有限公司 基于机器学习的驾驶员视线判断方法
CN110363555B (zh) * 2018-04-10 2024-04-09 释空(上海)品牌策划有限公司 基于视线跟踪视觉算法的推荐方法和装置
CN108898572B (zh) * 2018-04-19 2020-11-13 北京七鑫易维信息技术有限公司 光斑提取方法
CN109377528B (zh) * 2018-11-05 2020-12-29 北京科技大学 一种基于双眼策略的虹膜半径标定方法
CN112183160A (zh) * 2019-07-04 2021-01-05 北京七鑫易维科技有限公司 视线估计方法及装置
CN112200873B (zh) * 2020-10-21 2023-12-22 郑州诚优成电子科技有限公司 一种基于虹膜特征的角膜内皮细胞计数仪定位照相方法
CN113192132B (zh) * 2021-03-18 2022-07-29 魔珐(上海)信息科技有限公司 眼神捕捉方法及装置、存储介质、终端

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101517615A (zh) * 2006-09-29 2009-08-26 冲电气工业株式会社 个人认证系统和个人认证方法
WO2012177542A1 (en) * 2011-06-18 2012-12-27 Identix Incorporated Systems and methods for detecting a specular reflection pattern for biometric analysis
CN103077386A (zh) * 2013-02-06 2013-05-01 北京中科虹霸科技有限公司 一种级联的视频流虹膜图像质量检测方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101122949A (zh) * 2007-08-30 2008-02-13 中国科学技术大学 一种基于局部频率特征和局部方向特征的虹膜识别方法
CN101930543B (zh) * 2010-08-27 2012-06-27 南京大学 一种自拍视频中眼睛图像的调正方法
US9443343B2 (en) * 2010-11-24 2016-09-13 Samsung Electronics Co., Ltd. Method and apparatus for realistically reproducing eyeball
CN103136519A (zh) * 2013-03-22 2013-06-05 中国移动通信集团江苏有限公司南京分公司 一种基于虹膜识别的视线跟踪定位方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101517615A (zh) * 2006-09-29 2009-08-26 冲电气工业株式会社 个人认证系统和个人认证方法
WO2012177542A1 (en) * 2011-06-18 2012-12-27 Identix Incorporated Systems and methods for detecting a specular reflection pattern for biometric analysis
CN103077386A (zh) * 2013-02-06 2013-05-01 北京中科虹霸科技有限公司 一种级联的视频流虹膜图像质量检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
A multi-texture approach for estimating iris positions in the eye using 2.5D Active Appearance Models;Hanan Salam, et al.;《2012 19th IEEE International Conference on Image Processing》;20121231;1833-1836 *

Also Published As

Publication number Publication date
CN104809424A (zh) 2015-07-29

Similar Documents

Publication Publication Date Title
CN104809424B (zh) 一种基于虹膜特征实现视线追踪的方法
CN106056092B (zh) 基于虹膜与瞳孔的用于头戴式设备的视线估计方法
CN106168853B (zh) 一种自由空间头戴式视线跟踪系统
CN107357429B (zh) 用于确定视线的方法、设备和计算机可读存储介质
CN105094300B (zh) 一种基于标准化眼睛图像的视线追踪系统及方法
KR100949743B1 (ko) 고글 형태를 갖는 착용형 시선 추적 장치 및 방법
KR101909006B1 (ko) 화상 위치 맞춤 장치, 화상 위치 맞춤 방법, 및 화상 위치 맞춤 프로그램
CN106529409A (zh) 一种基于头部姿态的眼睛注视视角测定方法
CN108985210A (zh) 一种基于人眼几何特征的视线追踪方法及系统
US20220100268A1 (en) Eye tracking device and a method thereof
US20220301217A1 (en) Eye tracking latency enhancements
JP2016173313A (ja) 視線方向推定システム、視線方向推定方法及び視線方向推定プログラム
CN109684915A (zh) 瞳孔跟踪图像处理方法
JP2018099174A (ja) 瞳孔検出装置及び瞳孔検出方法
CN112069986A (zh) 高龄老人眼动机器视觉跟踪方法及装置
CN111339982A (zh) 一种基于特征的多级瞳孔中心定位技术实现方法
CN106843492B (zh) 一种多人视点校准系统及方法
Panigrahi et al. A method for localizing the eye pupil for point-of-gaze estimation
JP3711053B2 (ja) 視線測定装置及びその方法と、視線測定プログラム及びそのプログラムを記録した記録媒体
CN109917908B (zh) 一种ar眼镜的图像获取方法及系统
CN112183160A (zh) 视线估计方法及装置
Chaudhary et al. Enhancing the precision of remote eye-tracking using iris velocity estimation
Canessa et al. The perspective geometry of the eye: toward image-based eye-tracking
JP2015123262A (ja) 角膜表面反射画像を利用した視線計測方法及びその装置
Chaudhary et al. $ pi_t $-Enhancing the Precision of Eye Tracking using Iris Feature Motion Vectors

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant