CN106371566A - 用于眼部追踪的校正模块、方法及计算机可读取记录媒体 - Google Patents

用于眼部追踪的校正模块、方法及计算机可读取记录媒体 Download PDF

Info

Publication number
CN106371566A
CN106371566A CN201510570298.4A CN201510570298A CN106371566A CN 106371566 A CN106371566 A CN 106371566A CN 201510570298 A CN201510570298 A CN 201510570298A CN 106371566 A CN106371566 A CN 106371566A
Authority
CN
China
Prior art keywords
eye
image
user
cursor
pupil
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510570298.4A
Other languages
English (en)
Inventor
邹嘉骏
林伯聪
赖昀旸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Utechzone Co Ltd
Original Assignee
Utechzone Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Utechzone Co Ltd filed Critical Utechzone Co Ltd
Publication of CN106371566A publication Critical patent/CN106371566A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种用于眼部追踪的校正模块,其包含有一图像生成器、一取像调整器、以及一运算器。该图像生成器用于校正路径上显示一供用户注视的光标动画,该光标动画上的光标系沿着该校正路径移动。该取像调整器于该光标移动时,连续透过摄像装置撷取该用户的眼部影像,藉以记录该用户的复数个眼部注视方向。该运算器系经由该使用者的该复数个眼部注视方向组成一校正信息坐标序列,藉由该校正信息坐标序列,透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围,并将该UI眼动数据表上的UI眼动分布范围分别映像到显示屏上的对应位置。本发明还公开了一种用于眼部追踪的校正方法以及一种计算机可读取记录媒体。

Description

用于眼部追踪的校正模块、方法及计算机可读取记录媒体
技术领域
本发明系有关于一种用于眼部追踪的校正模块,尤指一种提供滑动式的影像动画藉以对用户注视方向进行校正的校正模块。
背景技术
操控计算机的方式已经随着计算机效能增进而渐渐有所改变,传统上来说,使用鼠标、键盘、绘图笔来对计算机系统输入讯号,虽然方便快速,但在特殊地情况下,比方说,渐冻人以及受伤之后导致肢体不全,残障,等等无法简单快速操作鼠标、键盘、绘图板等等输入工作的人来说,此类简单的输入方式已经无法满足其对于计算机或相关电子周边产品的顺畅使用体验。
基于上述,人眼追踪(Eye tracking)技术已逐渐受到重视,并且渐渐地应用于相关辅助应用中。此种技术的主要内容即为利用相关侦测技术,如摄影机,录像机,光学传感器等接收传感器来截取人眼睛信息,并且将其对应于相关之显示屏幕、操作接口等,供用户单纯利用眼睛转动即可达到简易与直觉地操作效果。
目前对于人眼追踪技术来说,一般而言,可以简单地区分为两个大类,其一为接触式人眼追踪技术,其二为非接触式人眼追踪技术。其中,接触式人眼追踪技术包含如,配戴具有感应线圈之隐形眼镜,或是在两眼四周黏贴电极来提供相关眼动信息;而非接触式人眼追踪技术又可分为需要使用者配戴特殊设备的头戴式(Head-mount)及免头戴式(Free-head),又头戴式人眼追踪技术为了排除使用者头部移动所造成的误差,其利用摄影机撷取眼球影像之时,将摄影机与光源架设于使用者头上;而免头戴式人眼追踪技术要克服的就是因为使用者头部移动而造成之误差。
承上,接触式人眼追踪技术毕竟需要额外的对象黏贴于人体上,此情形极容易造成明显之异物感,而异物感对于使用者而言,具有极大的不适感,影响其操作期间之使用者体验;另外,非接触式头戴式人眼追踪技术虽然不需额外的对象黏贴于人体上,但仍需要配戴笨重之感应头盔等相关侦测对象,令用户头部承载相当之重量单位,不论是长期使用或是短时间使用,基本上无法令使用者感受良好,对于活动空间的需求也相对提高,实际使用上限制其实不少。
是故,虽然此技术在使用者头部移动时,会造成误差,但是改善了以上所述之黏贴对象以及乘载重量之许多使用者体验,免头戴式人眼追踪技术即受到使用者以及开发者青睐,而对于其误差之改善主要是利用影像分析为主轴,进而发展出各种不同之眼睛追踪技术。先前有利用一预先建立的头部的三维计算机模型,并寻找三维空间中定义为眼睛及眉毛的区域,将这些区域投射到二维影像空间,然后藉由分析二维影像空间的相素强度值找出眼球位置。此技术需事先建立用户头部的三维计算机模型且追踪运算方法复杂,要配合强大运算功能的处理器始有办法降低处理时间,成本十分昂贵。
再者,不论使用何种人眼追踪方法,侦测眼球的移动一向是诸多开发者强调的重点之一,其精准度已经到达基本水平,而操作过程中导致较多困难之处是在于眼球的坐标映像(MAPPING)至显示屏幕上的坐标的准确度,此部分误差偶而会相对较大,需要特别经过一些校正的手续,才可以使其准确地映像至屏幕坐标。通常的做法是在使用者第一次使用时,让用户注视屏幕的四个角落,再将这四个点所侦测到的眼球坐标数据作为校正点,将这些数据视为正确映像至显示屏幕的点,其他的点即可用此四点套入内插法得到。此方法虽然简单易懂,但是由于校正时需要额外校正步骤,一但更换新的用户,或是用户的特征有所变化,就需要重新校正,故此校正方法并非较佳之使用者体验。
发明内容
本发明之主要目的,在于提供一种具有较佳使用体验的眼部追踪校正模块、校正方法。
为达到上述目的,本发明系提供一种用于眼部追踪的校正模块,其包含有一图像生成器、一取像调整器、以及一运算器。该图像生成器用于校正路径上显示一供用户注视的光标动画,该光标动画上的光标系沿着该校正路径移动。该取像调整器于该光标移动时,连续透过摄像装置撷取该用户的眼部影像,藉以记录该用户的复数个眼部注视方向。该运算器系经由该使用者的该复数个眼部注视方向组成一校正信息坐标序列,藉由该校正信息坐标序列透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围,并将该UI眼动数据表上的UI眼动分布范围分别映像到显示屏上的对应位置。
进一步地,该运算器系于该校正路径上定义1~n个校正点或校正区域,该取像调整器系于该显示屏上的光标移动至该校正点或该校正区域时透过眼迹追踪系统取得并记录1~n个眼部注视方向以组成该校正信息坐标序列。
进一步地,该UI眼动数据表系为角度-面积平面图,该影像分析模块经由该用户眼部影像撷取出一瞳孔及二光斑,该运算器系依据该瞳孔及该二光斑得到一落于该角度-面积平面图上的原始坐标,透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
进一步地,该UI眼动数据表系为角度-距离平面图,该影像分析模块经由该用户眼部影像撷取出一瞳孔及一光斑,该运算器系依据该瞳孔及该光斑得到一落于该角度-距离平面图的原始坐标,透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
进一步地,该校正路径系为穿过该显示屏两侧的直线。
进一步地,该光标动画系为一滑动式光标图形,该滑动式光标图形包含有所述光标,以及一供该光标于其上移动的路径图形。
本发明之另一目的,在于提供一种用于眼部追踪的校正方法,其包含有以下步骤:(a)于校正路径上显示一供用户注视的光标动画,并使该光标动画上的光标沿该校正路径移动;(b)于该光标移动时,连续透过摄像装置撷取该用户的眼部影像,藉以记录该用户的眼部注视方向;(c)经由该使用者的该眼部注视方向组成一校正信息坐标序列,藉由该校正信息坐标序列,透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围,并将该UI眼动数据表上的UI眼动分布范围分别映像到显示屏上的对应位置。
进一步地,该校正信息坐标序列系由以下步骤所取得:于该校正路径上定义1~n个校正点或校正区域;于该显示屏上的光标移动至该校正点或该校正区域时分别记录1~n个眼部注视方向以组成该校正信息坐标序列。
进一步地,该使用者的眼部注视方向系由以下步骤取得:透过该影像分析模块经由该用户的眼部影像撷取出一瞳孔及二光斑;于瞳孔中心定义一基线以及该二光斑位置至该瞳孔中心的连线;藉由该瞳孔中心及该二光斑位置界定一面积,藉由该二连线与该基线界定一夹角;依据该面积以及该夹角得到一落于角度-面积平面图的原始坐标;透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
进一步地,该使用者的眼部注视方向系由以下步骤取得:透过该影像撷取模块经由该用户的眼部影像撷取出一瞳孔及一光斑;于瞳孔中心定义一基线以及该光斑至该瞳孔中心间之第一连线;藉由光斑位置及该瞳孔中心界定一距离,藉由该第一连线与该基线界定一夹角;依据该距离以及该夹角得到一落于角度-距离平面图的原始坐标;透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
进一步地,该瞳孔系藉由以下方式取得:调整该眼部影像的对比,而获得一加强影像;对该加强影像进行去杂点处理,而获得一去杂点影像;对该去杂点影像进行一边缘锐利化处理,而获得一锐化影像;对该锐化影像进行一二值化处理,而获得一二值化影像;再次对该二值化影像进行该边缘锐利化处理,而获得该瞳孔的目标影像。
进一步地,该校正路径系为朝该显示屏两侧延伸的直线。
进一步地,该光标动画系为一滑动式光标图形,该滑动式光标图形包含有所述光标,以及一供该光标于其上移动的路径图形。
进一步地,于步骤(c)中,该用户的眼部影像系由以下步骤取得:(c1)藉由摄像装置拍摄用户的脸部,取得用户的脸部影像;(c2)撷取出用户脸部影像中的鼻孔影像,并定义二鼻孔位置;(c3)藉由该鼻孔位置依据脸部比例向上一段距离,定义一眼部搜寻框;(c4)对该眼部搜寻框进行图像处理,藉以取得该用户的眼部影像。
本发明的还提供一种计算机可读取记录媒体,当计算机加载并执行后,系可完成以下之方法:(a)于校正路径上显示一供用户注视的光标动画,并使该光标动画上的光标沿该校正路径移动;(b)于该光标移动时,连续透过影像分析模块撷取该用户的眼部影像,藉以记录该用户的眼部注视方向;(c)经由该使用者的该眼部注视方向组成一校正信息坐标序列,藉由该校正信息坐标序列,透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围,并将该UI眼动数据表上的UI眼动分布范围分别映像到显示屏上的对应位置。
进一步地,该校正信息坐标序列系由以下步骤所取得:于该校正路径上定义1~n个校正点或校正区域;于该显示屏上的光标移动至该校正点或该校正区域时分别记录1~n个眼部注视方向以组成该校正信息坐标序列。
进一步地,该使用者的眼部注视方向系由以下步骤取得:透过该影像分析模块经由该用户的眼部影像撷取出一瞳孔及二光斑;于瞳孔中心定义一基线以及该二光斑位置至该瞳孔中心的连线;藉由该瞳孔中心及该二光斑位置界定一面积,藉由该二连线与该基线界定一夹角;依据该面积以及该夹角得到一落于角度-面积平面图的原始坐标;透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
进一步地,该使用者的眼部注视方向系由以下步骤取得:透过该影像撷取模块经由该用户的眼部影像撷取出一瞳孔及一光斑;于瞳孔中心定义一基线以及该光斑至该瞳孔中心间之第一连线;藉由光斑位置及该瞳孔中心界定一距离,藉由该第一连线与该基线界定一夹角;依据该距离以及该夹角得到一落于角度-距离平面图的原始坐标;透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
进一步地,该瞳孔系藉由以下方式取得:调整该眼部影像的对比,而获得一加强影像;对该加强影像进行去杂点处理,而获得一去杂点影像;对该去杂点影像进行一边缘锐利化处理,而获得一锐化影像;对该锐化影像进行一二值化处理,而获得一二值化影像;再次对该二值化影像进行该边缘锐利化处理,而获得该瞳孔的目標影像。
进一步地,该校正路径系为朝该显示屏两侧延伸的直线。
进一步地,该光标动画系为一滑动式光标图形,该滑动式光标图形包含有所述的光标,以及一供该光标于其上移动的路径图形。
进一步地,于步骤(c)中,该用户的眼部影像系由以下步骤取得:(c1)藉由摄像装置拍摄用户的脸部,取得用户的脸部影像;(c2)撷取出用户脸部影像中的鼻孔影像,并定义二鼻孔位置;(c3)藉由该鼻孔位置依据脸部比例向上一段距离,定义一眼部搜寻框;(c4)对该眼部搜寻框进行图像处理,藉以取得该用户的眼部影像。
是以,本发明系比起先前技术具有以下之优势功效:
1.本发明可藉由滑动式光标图形对眼动追踪仪进行校正,其操作方式简便易懂,更符合人体直觉操作的习惯。
2.本发明系可一次性对眼动追踪仪进行校正,与传统的校正方式相较而言,无须进行繁复的校正步骤。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的附图。
图1,系为眼迹追踪系统的结构框图。
图2,系为眼控密码操作接口的示意图。
图3,系为眼动锁的结构框图。
图4,系为具有接目装置的眼动锁的操作示意图。
图5,系为接目装置的剖面示意图。
图6,系为具有眼控屏幕的眼动锁的操作示意图。
图7,系为远距分析眼部影像的演算流程示意图。
图8,系为眼动锁的演算流程示意图。
图9,系为眼部注视方向的撷取示意图(一)。
图10,系为眼部注视方向的撷取示意图(二)。
图11,系为滑动式校正光标的示意图。
图12,系为分布预测的转换示意图。
图13,系为图形扭正的示意图。
图14,系为UI眼动数据表的示意图。
图15,系为校正步骤的流程示意图。
附图标记说明:
100-眼迹追踪系统、10-摄像装置、111-处理器、112-储存单元、20-计算机主机、21-影像分析模块、22-图像处理模块、23-注视方向映像模块、24-操作接口生成模块、25-数据库、30-显示屏、70-校正模块、71-图像生成器、72-取像调整器、73-运算器、110-电脑主机、113-处理器、114-储存单元,101-眼动追踪机制、102-密码比对单元、103-解锁控制单元、104-警示单元、40-操作接口、41-密码键、42-紧急求救键、43-操作光标、44-修正键、45-输入键、46-密码输入窗口、50-光标动画、51-光标、52-校正路径、80-眼动锁具、81-接目装置、811-外壳、812-窗口、813-摄像装置、814-照射灯具、816-显示屏、817-反射镜、82-计算机主机、90-眼动锁、91-摄像装置、92-显示屏、93-计算机主机、C1-瞳孔中心位置、S1-光斑位置、S2-光斑位置、S3-光斑位置、L1-连线、L2-基线、θ1-角度参数、θ2-角度参数、θ3-角度参数、T1-校正信息坐标序列、T2-分布范围、N-UI眼动分布范围。
具体实施方式
兹就本案之结构特征暨操作方式,并配合图式加以说明,谨述于后,以提供审查参阅。
请参阅「图1」,系眼迹追踪系统的方块示意图,如图所示:
本发明系为一种用于眼部追踪的校正模块70,所述的校正技术,系配合应用于眼迹追踪系统100上,藉由于显示屏30上显示一滑动式光标图形动画,追踪用户的眼部注视方向并配合数据库25中的校正样本进行调校,进而完成眼部注视方向与显示屏30像元矩阵间的校正。
所述的眼迹追踪系统100系用以撷取用户的眼部影像,并针对该眼部影像进行影像分析,藉以将用户的视线转换至相对于显示屏30上的位置,透过用户的注视方向操纵显示屏30上的操作接口。该眼迹追踪系统100主要包含有一拍摄使用者脸部的摄像装置10、一供用户注视操作的显示屏30、以及一连接该摄像装置10及该显示屏30的计算机主机20。
所述的摄像装置10及显示屏30系配合计算机主机20操作,用以撷取使用者的脸部或眼部信息,本发明中的该摄像装置10可为一般的平面摄影机、或为可测量距离的主动式深度摄影机(Active-Depth Camera)、双目摄影机(TwinCam)等,于本发明中不予以限制。该摄像装置10系可搭配照射光源,藉以于使用者的虹膜上形成光斑,作为图像处理时可供参考的参考点。该显示屏30系用以显示操作接口,供用户注视操作,该显示屏30上系包含有由复数个像素元所组成的像元矩阵,经过映像处理后,光标将依用户的注视方向移动至像元矩阵上的相对位置。
计算机主机20主要包含有处理器111,以及连接于该处理器111的储存单元112。在本实施例中,处理器111以及储存单元112可共同构成一计算机或处理器,例如是个人计算机、工作站、主计算机或其他型式之计算机或处理器,在此并不限制其种类。
在本实施例中,处理器111可耦接于储存单元112。处理器例如是中央处理器(Central Processing Unit;CPU),或是其他可程序化的一般用途或特殊用途的微处理器(Microprocessor)、数字信号处理器(Digital Signal Processor;DSP)、可程序化控制器、特殊应用集成电路(Application Specific IntegratedCircuits;ASIC)、可程序化逻辑设备(Programmable Logic Device;PLD)或其他类似装置或这些装置的组合。于本实施例中,处理器111系用以加载储存单元112内的程序,藉以完成眼部追踪以及眼部追踪的校正方法。
本发明依其功能的不同,可分为不同的功能模块,该功能模块系分别储存于该储存单元112内并由处理器111挂载执行。该功能模块可分为影像分析模块21、图像处理模块22、注视方向映像模块23、操作接口生成模块24、数据库25、以及校正模块70。
该影像分析模块21系连接至该摄像装置10,透过该摄像装置10取得用户的脸部或眼部影像。该影像分析模块21于取得摄像装置10所拍摄的脸部影像或眼部影像时,系可针对该脸部或眼部影像进行灰阶处理、二值化处理(Threshold)、锐化处理(Sharpening)、连通区域检测(Blob Detection)、噪声去除、上色等图像处理之程序,藉由上述的图像处理方式,可撷取出影像中的感兴趣部位,进一步地可由所撷取到的感兴趣部位撷取出影像中的参考数值,藉由该参考数值取得使用者的注视方向。
该图像处理模块22系对应于该影像分析模块21,系可将影像分析模块21所取得的眼部注视方向的参数值(如角度、面积、距离等数值),分别作为横轴或纵轴的变量,标示于角度-面积、或角度-距离平面图上,此时,将得到位于上述平面图上的原始坐标。
该注视方向映像模块23系对应于该图像处理模块22,系可经由图像处理模块22取得原始坐标,并将该原始坐标映像至显示屏30上的像元矩阵上,藉以将光标移动至该像元矩阵上所对应的像素位置。
该操作接口生成模块24系用于在显示屏30上显示一操作接口40,所述之操作接口40如「图2」所示(在此系举眼动锁的操作接口为例),包含有密码键41、紧急求救键42、修正键44、输入键45、密码输入窗口46、及供用户操作的操作光标43。该密码键41系供用户将相对应之数字密码输入至该密码输入窗口46,当用户欲对操作接口上的数字进行输入时,仅需将操作光标43停留至所欲点选的按键上一段时间,即可完成输入。当用户密码输入错误时,用户可藉由该修正键44删除输入错误的密码。于密码输入完成时,用户可藉由该输入键45完成密码输入。该紧急求救键42系供使用者遇到紧急情况时,藉由远程连结至救援中心,以提供实时的救援。
请一并参阅「图3」,本发明系可应用于一眼动锁200上,该眼动锁200的电脑主机110除包含有眼迹追踪系统100的各种功能外(在此将上述眼动追踪仪的各种功能定义为眼动追踪机制101)外,更包含有密码比对单元102、对应于该密码比对单元102的警示单元104、以及对应于该密码比对单元102的解锁控制单元103。用户可藉由上述的操作接口进行密码输入,于输入密码正确时,将透过解锁控制单元103传递一开启讯号开启锁具,或是于密码输入错误时由警示单元104产生警示讯号。有关于眼动锁的技术,以下系举二较佳实施例说明之。
请参阅「图4」及「图5」,本发明可用于具备接目装置81的眼动锁具80上,所述的眼动锁具80包含有具有警报器的计算机主机82、以及可供使用者拾取用以覆盖于眼上的接目装置81。所述的接目装置81系包含有一外壳811、一设置于该外壳811一侧的窗口812、一设置于该窗口812周侧以撷取用户眼部影像的摄像装置813、一或二设置于该窗口812周侧的照射灯具814、一对应于该窗口812的显示屏816、以及一设置于该窗口812及该显示屏816之间的反射镜817。该照射灯具814系用于使用者眼部上形成光斑,该反射镜817系用以将显示屏816的影像反射至用户的眼部。该计算机主机82可安装于门禁系统、车用计算机、保险箱或其他类此具备锁具的装置等,用户可藉由该接目装置81,操作显示屏816上的操作光标,藉以输入相对应之密码及指令。
请参阅「图6」,本发明之校正模块可用于具有眼控屏幕的眼动锁90上,所述的眼动锁90包含有显示屏92、连接于该显示屏92的计算机主机93、以及用以捕捉用户脸部信息的摄像装置91。该计算机主机93同接目装置81的电脑主机110一样具备身份认证功能。如「图7」所示,于其中一较佳实施态样中,该眼控屏幕系可经由以下步骤透过用户的脸部信息撷取出用户的眼部信息:
藉由摄像装置91拍摄用户的脸部,取得用户的脸部影像(步骤S301);
撷取出用户脸部影像中的鼻孔影像,并定义二鼻孔位置(步骤S302);
藉由该鼻孔位置依据统计上脸部五官比例,定义一眼部搜寻框(步骤S303);
对该眼部搜寻框进行图像处理,藉以取得该用户的眼部影像(步骤S304)。
该计算机主机93可安装于门禁系统、车用计算机、保险箱或其他类此具备锁具的装置等,用户可远距离操作显示屏92上的光标,并透过该光标输入相对应之密码及指令。
请一并参阅「图3」、「图4」、「图5」及「图8」系揭示上述眼动锁的工作流程:
于起始时,计算机主机82系处于待机状态(步骤S201),并藉由摄像装置813判断是否有用户靠近或是否有眼睛停留在方框中(步骤S202)。于判定有使用者靠近或是判定有眼睛停留在方框中的情况时,透过摄像装置813收集用户的眼动数据(步骤S203)。接续,使用者系可藉由眼控方式输入密码(步骤S204),于密码输入完成时,该密码比对单元102系判定密码是否正确(步骤S205)。当判定该密码为正确时,系将一启动讯息传送至该解锁控制单元103,并开启门锁(步骤S206)。当密码输入错误时或是输入操作接口40上的紧急求救键42时,系将错误讯息或警示讯息传送至该警示单元,藉以发出警示讯号(步骤S207)。在此须注意的是,当操作的过程中使用者离开使用范围时,该密码锁装置将复归至起始的待机状态(步骤S208)。
有关于眼部注视方向的取得方式,请参阅「图9」及「图10」:
请先参阅「图9」,于其中一较佳实施态样中,使用者的眼部注视方向系藉由以下方式取得:开始时,透过照射光源于使用者虹膜上形成一光斑,影像分析模块21定位用户眼部的瞳孔中心位置C1以及光斑位置S1,依据该瞳孔中心位置C1以及光斑位置S1之间的连线L1得到一距离值L,另外,依据瞳孔中心位置C1设定一基线L2,并计算该连线L1与该基线L2之间的角度参数θ1。接续,藉由图像处理模块22将该距离值L及该角度值标示于角度-距离平面图上,藉以得到一原始坐标,最后透过注视方向映像模块23,将该原始坐标转换为显示屏30上的像元位置,藉以移动该操作光标43。
接续,请参阅「图10」,于另一较佳实施态样中,使用者的眼部注视方向系可藉由以下方式取得:首先,透过二不同方向的照射光源,于使用者的虹膜上映射二不同的光斑。接续,由影像分析模块21定位用户眼部的瞳孔中心位置C1以及二光斑位置S2、S3,并依据该瞳孔中心位置定义一基线K,并依据该瞳孔中心位置C1及该二光斑位置S2、S3计算得到一面积参数,并藉由该瞳孔中心位置与其中一光斑位置取得一连线,该连线与基线K之间的角度值为θ2,藉由该瞳孔中心位置与另一光斑位置取得另一连线,该另一连线与基线K之间的角度为θ3,取其中一角度值θ2或θ3或取二角度值θ2、θ3的平均可取得一角度参数。接续,藉由图像处理模块22将该面积参数及该角度参数标示于角度-面积平面图上,藉以得到一原始坐标,最后透过注视方向映像模块23,将该原始坐标转换为显示屏30上的像元位置,藉以移动该光标。
其中,该影像分析模块21系可透过以下方式取得瞳孔中心位置C1及光斑位置S1、S2、S3:
调整该眼部影像的对比,而获得一加强影像;对该加强影像进行去杂点处理,而获得一去杂点影像;对该去杂点影像进行一边缘锐利化处理,而获得一锐化影像;对该锐化影像进行一二值化处理,而获得一二值化影像;再次对该二值化影像进行该边缘锐利化处理,而获得该瞳孔的目标影像。
有关于本发明之校正模块以下将辅以图式进行更为详尽的说明:
请返回参阅「图1」,本发明之校正模块70系透过一校正路径连续撷取用户的眼部注视方向,并藉由复数个眼部注视方向所构成校正信息坐标序列对注视方向映像模块进行校正,该校正模块70主要包含有一图像生成器71、一取像调整器72、以及一运算器73。
该图像生成器71系于校正路径上显示一供用户注视的光标动画50,该光标动画50上的光标51系沿着该校正路径52移动。所述之校正路径52系对应于该显示屏30的像元矩阵上,于校正程序中,该运算器73系于该校正路径上定义1~n个校正点或校正区域,校正点或校正区域的数量可以决定眼迹追踪系统100的精确度。
该取像调整器72于该光标51移动时,连续透过摄像装置10撷取该用户的眼部影像,藉以记录该用户的复数个眼部注视方向。具体而言,该取像调整器72系于该显示屏30上的光标51移动至该校正点或该校正区域时透过眼迹追踪系统100取得并记录1~n个眼部注视方向,以组成该校正信息坐标序列。所捕捉到的眼部注视方向可包含角度-面积、或角度-距离之数值,用以将该数值填入角度-面积、或角度-距离平面图上(于本发明系揭示角度-距离的实施方式),用以确认眼部注视方向的位置。
该运算器73系经由该使用者的该复数个眼部注视方向组成一校正信息坐标序列T1,藉由该校正信息坐标序列T1透过转换函式于UI(User Interface,用户界面)眼动数据表上建立复数个UI眼动分布范围N,并将该UI眼动数据表上的UI眼动分布范围N分别映像到显示屏上的对应位置。于一较佳实施态样中,该UI眼动数据表系为角度-面积平面图,影像分析模块21经由该用户眼部影像撷取出一瞳孔及二光斑,该运算器73系依据该瞳孔及该二光斑得到落于该角度-面积平面图上的原始坐标,透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。于另一较佳实施态样中,该UI眼动数据表系为角度-距离平面图,该影像分析模块经由该用户眼部影像撷取出一瞳孔及一光斑,该运算器系依据该瞳孔及该光斑得到一落于该角度-距离平面图的原始坐标,透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
详细的算法,请参阅「图11」至「图15」,于第一次使用时,必须先进行校正步骤,令用户注视校正模块于显示屏上所产生的校正动画,进一步对该注视方向映像模块进行校正。
请先参阅「图11」,于本实施态样中,该校正路径系为穿过该显示屏两侧的直线。图像生成器71系于该校正路径上形成一滑动式的光标动画50,该滑动式光标动画50包含有光标51、以及一供该光标于其上移动的校正路径52。接续,请一并参阅「图12」、「图13」、「图14」及「图15」,以下系以单一光斑的实施态样进行描述,本实施态样的校正程序如下:
步骤S21:首先,该操作接口生成模块于校正路径上先显示一供用户注视的光标动画50,该光标动画50包含有光标51及对应于校正路径的校正路径52,并使该光标动画50上的光标51沿该校正路径移动;
步骤S22:于该光标51移动时,该取像调整器72系于该光标51移动至对应于该校正路径上的复数个位置时分别指示该摄像装置10撷取该用户的眼部影像。具体方式为,该取像调整器72预先于该校正路径上定义1~n个校正点或校正区域,当光标沿该校正路径移动至所定义的第n校正点或校正区域时,该取像调整器72系驱动该摄像装置10记录该用户的眼部影像,并藉由该眼部影像记录第n校正点时瞳孔中心及光斑位置所界定的角度以及距离,并将该角度及距离所对应的点分别标注于角度-距离分布图上,藉以组成一校正信息坐标序列T1。(于另一实施态样中,可藉由该瞳孔中心位置及该二光斑位置界定一面积参数、以及一角度参数,并将点标注于角度-面积分布图上。)
步骤S23:经由该用户于校正路径上的该眼部注视方向取得一校正信息坐标序列T1后,藉由该校正信息坐标序列T1,透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围N,并将该UI眼动数据表上的UI眼动分布范围N分别映像到显示屏30上的对应位置。
有关于所述的转换函式,具体如下:
于建立完成校正信息坐标序列T1后,藉由内建于数据库25内的模型,可藉由该校正信息坐标序列T1内的复数个取样点进行分布预测(PredictiveDistribution),对应地产生整幅近似于矩形或扇形的分布范围(如图12所示),所取得的矩形或扇形的分布范围系藉由仿射转换(Affine Transform)、透视转换(Perspective Transform)、坐标变形(Coordinate Warping)、双线性差值算法(Bilinear Interpolation)、或双三次插值算法(Bicubic Interpolation)转换成对应于UI眼动数据表上规则的矩形分布(如图13所示)。于分布预测完成时,依据数据库25中对应的模型,将可对应的产生至少围绕对应于像元矩阵上UI图像周侧的取样点,藉此可便于后续建立相对应的UI眼动分布范围N。此时,透过UI眼动数据表上预先定义的复数个UI眼动分布范围N,可直接定义UI图像对应于UI眼动数据表上的对应范围,藉由该UI眼动数据表即可藉由内插对应法对应的得到使用者注视方向所对应的UI图像(如图14所示)。
综上所述,本发明可藉由滑动式光标图形对眼动追踪仪进行校正,其操作方式简便易懂,更符合人体直觉操作的习惯。此外,本发明系可一次性对眼动追踪仪进行校正,与传统的校正方式相较而言,无须进行繁复的校正步骤。
本发明虽以较佳实施例揭露如上,然其并非用以限定本发明的范围,任何熟习此项技艺者,在不脱离本发明之精神和范围内,当可做些许的更动与润饰,因此本发明之保护范围当视后附之申请专利范围所界定者为准。

Claims (15)

1.一种用于眼部追踪的校正模块,其包含有:
一图像生成器,其于校正路径上显示一供用户注视的光标动画,该光标动画上的光标系沿着该校正路径移动;
一取像调整器,于该光标移动时,连续透过摄像装置撷取该用户的眼部影像,藉以记录该用户的复数个眼部注视方向;以及
一运算器,系经由该使用者的该复数个眼部注视方向组成一校正信息坐标序列,藉由该校正信息坐标序列透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围,并将该UI眼动数据表上的UI眼动分布范围分别映像到显示屏上的对应位置。
2.如权利要求1所述的校正模块,其特征在于,该运算器系于该校正路径上定义1~n个校正点或校正区域,该取像调整器系于该显示屏上的光标移动至该校正点或该校正区域时透过眼迹追踪系统取得并记录1~n个眼部注视方向以组成该校正信息坐标序列。
3.如权利要求2所述的校正模块,其特征在于,该UI眼动数据表系为角度-面积平面图,该影像分析模块经由该用户眼部影像撷取出一瞳孔及二光斑,该运算器系依据该瞳孔及该二光斑得到一落于该角度-面积平面图上的原始坐标,透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
4.如权利要求2所述的校正模块,其特征在于,该UI眼动数据表系为角度-距离平面图,该影像分析模块经由该用户眼部影像撷取出一瞳孔及一光斑,该运算器系依据该瞳孔及该光斑得到一落于该角度-距离平面图的原始坐标,透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
5.如权利要求1所述的校正模块,其特征在于,该校正路径系为穿过该显示屏两侧的直线。
6.如权利要求1-5其中一项所述的校正模块,其特征在于,该光标动画系为一滑动式光标图形,该滑动式光标图形包含有所述光标,以及一供该光标于其上移动的路径图形。
7.一种用于眼部追踪的校正方法,其特征在于,其包含有以下步骤:
(a)于校正路径上显示一供用户注视的光标动画,并使该光标动画上的光标沿该校正路径移动;
(b)于该光标移动时,连续透过摄像装置撷取该用户的眼部影像,藉以记录该用户的眼部注视方向;以及
(c)经由该使用者的该眼部注视方向组成一校正信息坐标序列,藉由该校正信息坐标序列透过转换函式于UI眼动数据表上建立复数个UI眼动分布范围,并将该UI眼动数据表上的UI眼动分布范围分别映像到显示屏上的对应位置。
8.如权利要求7所述的校正方法,其特征在于,该校正信息坐标序列系由以下步骤所取得:于该校正路径上定义1~n个校正点或校正区域;于该显示屏上的光标移动至该校正点或该校正区域时分别记录1~n个眼部注视方向以组成该校正信息坐标序列。
9.如权利要求8所述的校正方法,其特征在于,该使用者的眼部注视方向系由以下步骤取得:
透过该影像分析模块经由该用户的眼部影像撷取出一瞳孔及二光斑;
于瞳孔中心定义一基线以及该二光斑位置至该瞳孔中心的连线;
藉由该瞳孔中心及该二光斑位置界定一面积,藉由该二连线与该基线界定一夹角;
依据该面积以及该夹角得到一落于角度-面积平面图的原始坐标;
透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
10.如权利要求8所述的校正方法,其特征在于,该使用者的眼部注视方向系由以下步骤取得:
透过该影像撷取模块经由该用户的眼部影像撷取出一瞳孔及一光斑;
于瞳孔中心定义一基线以及该光斑至该瞳孔中心间之第一连线;
藉由光斑位置及该瞳孔中心界定一距离,藉由该第一连线与该基线界定一夹角;
依据该距离以及该夹角得到一落于角度-距离平面图的原始坐标;
透过该原始坐标判断使用者注视方向所对应的UI眼动分布范围。
11.如权利要求9或10所述的校正方法,其特征在于,该瞳孔系藉由以下方式取得:
调整该眼部影像的对比,而获得一加强影像;
对该加强影像进行去杂点处理,而获得一去杂点影像;
对该去杂点影像进行一边缘锐利化处理,而获得一锐化影像;
对该锐化影像进行一二值化处理,而获得一二值化影像;以及
再次对该二值化影像进行该边缘锐利化处理,而获得该瞳孔的目标影像。
12.如权利要求7所述的校正方法,其特征在于,该校正路径系为朝该显示屏两侧延伸的直线。
13.如权利要求12所述的校正方法,其特征在于,该光标动画系为一滑动式光标图形,该滑动式光标图形包含有所述光标,以及一供该光标于其上移动的路径图形。
14.如权利要求7所述的校正方法,其特征在于,于步骤(c)中,该用户的眼部影像系由以下步骤取得:
(c1)藉由摄像装置拍摄用户的脸部,取得用户的脸部影像;
(c2)撷取出用户脸部影像中的鼻孔影像,并定义二鼻孔位置;
(c3)藉由该鼻孔位置依据脸部比例向上一段距离,定义一眼部搜寻框;以及
(c4)对该眼部搜寻框进行图像处理,藉以取得该用户的眼部影像。
15.一种计算机可读取记录媒体,其特征在于,当计算机加载并执行后,系可完成如权利要求7-14中任一项所述的校正方法。
CN201510570298.4A 2015-07-24 2015-09-09 用于眼部追踪的校正模块、方法及计算机可读取记录媒体 Pending CN106371566A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW104124164A TWI617948B (zh) 2015-07-24 2015-07-24 用於眼部追蹤的校正模組及其方法及電腦可讀取紀錄媒體
TW104124164 2015-07-24

Publications (1)

Publication Number Publication Date
CN106371566A true CN106371566A (zh) 2017-02-01

Family

ID=57880570

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510570298.4A Pending CN106371566A (zh) 2015-07-24 2015-09-09 用于眼部追踪的校正模块、方法及计算机可读取记录媒体

Country Status (2)

Country Link
CN (1) CN106371566A (zh)
TW (1) TWI617948B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108491823A (zh) * 2018-03-30 2018-09-04 百度在线网络技术(北京)有限公司 用于生成人眼识别模型的方法和装置
CN108733999A (zh) * 2018-04-24 2018-11-02 浙江大华技术股份有限公司 一种解锁方法及装置、终端设备和可读存储介质
CN108733206A (zh) * 2017-04-25 2018-11-02 广东虚拟现实科技有限公司 一种坐标对齐方法、系统和虚拟现实系统
CN109389619A (zh) * 2017-08-09 2019-02-26 宏碁股份有限公司 视觉范围映射方法及相关眼球追踪装置与系统
CN110377158A (zh) * 2019-07-22 2019-10-25 北京七鑫易维信息技术有限公司 基于变化视场范围的眼球追踪的校准方法及电子设备
CN110908511A (zh) * 2019-11-08 2020-03-24 Oppo广东移动通信有限公司 触发重新校正的方法及相关装置
CN111399633A (zh) * 2019-01-03 2020-07-10 见臻科技股份有限公司 针对眼球追踪应用的校正方法
CN113655622A (zh) * 2021-09-18 2021-11-16 物芯智能科技有限公司 一种应用在ar及vr折射屏眼动自动调焦系统
CN111240464B (zh) * 2018-11-28 2023-05-30 简韶逸 眼球追踪的校正方法和其装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3410347A1 (en) 2017-05-22 2018-12-05 HTC Corporation Eye tracking method, electronic device, and non-transitory computer readable storage medium
CN108510542B (zh) * 2018-02-12 2020-09-11 北京七鑫易维信息技术有限公司 匹配光源与光斑的方法和装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101807110A (zh) * 2009-02-17 2010-08-18 由田新技股份有限公司 瞳孔定位方法及系统
CN101872237A (zh) * 2009-04-23 2010-10-27 由田新技股份有限公司 瞳孔追踪方法与系统及用于瞳孔追踪的校正方法与模组
TW201516755A (zh) * 2013-10-25 2015-05-01 Utechzone Co Ltd 電子文件標記方法及裝置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI261785B (en) * 2004-02-19 2006-09-11 Chung Shan Inst Of Science Eye ball tracking method
TWI275977B (en) * 2005-07-07 2007-03-11 Chung Shan Inst Of Science Eye-controlled system of virtual keyboard
TWI432172B (zh) * 2008-10-27 2014-04-01 Utechzone Co Ltd Pupil location method, pupil positioning system and storage media
TWI398796B (zh) * 2009-03-27 2013-06-11 Utechzone Co Ltd Pupil tracking methods and systems, and correction methods and correction modules for pupil tracking

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101807110A (zh) * 2009-02-17 2010-08-18 由田新技股份有限公司 瞳孔定位方法及系统
CN101872237A (zh) * 2009-04-23 2010-10-27 由田新技股份有限公司 瞳孔追踪方法与系统及用于瞳孔追踪的校正方法与模组
TW201516755A (zh) * 2013-10-25 2015-05-01 Utechzone Co Ltd 電子文件標記方法及裝置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10802606B2 (en) 2017-04-25 2020-10-13 Guangdong Virtual Reality Technology Co., Ltd. Method and device for aligning coordinate of controller or headset with coordinate of binocular system
CN108733206A (zh) * 2017-04-25 2018-11-02 广东虚拟现实科技有限公司 一种坐标对齐方法、系统和虚拟现实系统
CN109389619B (zh) * 2017-08-09 2022-03-01 宏碁股份有限公司 视觉范围映射方法及相关眼球追踪装置与系统
CN109389619A (zh) * 2017-08-09 2019-02-26 宏碁股份有限公司 视觉范围映射方法及相关眼球追踪装置与系统
CN108491823B (zh) * 2018-03-30 2021-12-24 百度在线网络技术(北京)有限公司 用于生成人眼识别模型的方法和装置
CN108491823A (zh) * 2018-03-30 2018-09-04 百度在线网络技术(北京)有限公司 用于生成人眼识别模型的方法和装置
CN108733999A (zh) * 2018-04-24 2018-11-02 浙江大华技术股份有限公司 一种解锁方法及装置、终端设备和可读存储介质
CN111240464B (zh) * 2018-11-28 2023-05-30 简韶逸 眼球追踪的校正方法和其装置
CN111399633A (zh) * 2019-01-03 2020-07-10 见臻科技股份有限公司 针对眼球追踪应用的校正方法
CN111399633B (zh) * 2019-01-03 2023-03-31 见臻科技股份有限公司 针对眼球追踪应用的校正方法
CN110377158A (zh) * 2019-07-22 2019-10-25 北京七鑫易维信息技术有限公司 基于变化视场范围的眼球追踪的校准方法及电子设备
CN110908511A (zh) * 2019-11-08 2020-03-24 Oppo广东移动通信有限公司 触发重新校正的方法及相关装置
CN110908511B (zh) * 2019-11-08 2022-03-15 Oppo广东移动通信有限公司 触发重新校正的方法及相关装置
CN113655622A (zh) * 2021-09-18 2021-11-16 物芯智能科技有限公司 一种应用在ar及vr折射屏眼动自动调焦系统

Also Published As

Publication number Publication date
TW201704934A (zh) 2017-02-01
TWI617948B (zh) 2018-03-11

Similar Documents

Publication Publication Date Title
CN106371566A (zh) 用于眼部追踪的校正模块、方法及计算机可读取记录媒体
US11874910B2 (en) Facial recognition authentication system including path parameters
US11521423B2 (en) Occlusion detection for facial recognition processes
US11693938B2 (en) Facial recognition authentication system including path parameters
Tonsen et al. Invisibleeye: Mobile eye tracking using multiple low-resolution cameras and learning-based gaze estimation
Yoo et al. A novel non-intrusive eye gaze estimation using cross-ratio under large head motion
CN102830797B (zh) 一种基于视线判断的人机交互方法及系统
EP3608755B1 (en) Electronic apparatus operated by head movement and operation method thereof
US20140275948A1 (en) Information terminal device
US20210160441A1 (en) Parallax correction using cameras of different modalities
CN108595008B (zh) 基于眼动控制的人机交互方法
JP2019505898A (ja) 外科織物内の血液構成要素の量の評価方法
CN107003721A (zh) 用于眼睛跟踪系统的改进校准
CN110163806A (zh) 一种图像处理方法、装置以及存储介质
TW201519112A (zh) 具有小寬幅生物感測器之分段式導引功能的電子設備及其導引方法
WO2019114814A1 (zh) 非接触式掌纹获取装置及其方法
Cristina et al. Model-based head pose-free gaze estimation for assistive communication
JP2009009280A (ja) 3次元署名認証システム
JP6870474B2 (ja) 視線検出用コンピュータプログラム、視線検出装置及び視線検出方法
CN109522887A (zh) 一种视线追踪方法、装置、设备及存储介质
CN106618479A (zh) 瞳孔追踪系统及其方法
JP2009211563A (ja) 画像認識装置、画像認識方法、画像認識プログラム、ジェスチャ動作認識システム、ジェスチャ動作認識方法、及びジェスチャ動作認識プログラム
Xu et al. Affect-preserving privacy protection of video
KR101501165B1 (ko) 눈동자 추적을 이용한 안구 마우스
TW201533609A (zh) 以輔助燈光相對位置為基礎之瞳孔定位方法、其系統以及其電腦程式產品

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170201