CN113190115B - 眼球追踪方法及虚拟现实设备 - Google Patents

眼球追踪方法及虚拟现实设备 Download PDF

Info

Publication number
CN113190115B
CN113190115B CN202110450897.8A CN202110450897A CN113190115B CN 113190115 B CN113190115 B CN 113190115B CN 202110450897 A CN202110450897 A CN 202110450897A CN 113190115 B CN113190115 B CN 113190115B
Authority
CN
China
Prior art keywords
image
eyeball
preset
area
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110450897.8A
Other languages
English (en)
Other versions
CN113190115A (zh
Inventor
鹿丽华
王朋杰
王平平
张金杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Goertek Inc
Original Assignee
Goertek Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Goertek Inc filed Critical Goertek Inc
Priority to CN202110450897.8A priority Critical patent/CN113190115B/zh
Publication of CN113190115A publication Critical patent/CN113190115A/zh
Priority to PCT/CN2021/137720 priority patent/WO2022227594A1/zh
Application granted granted Critical
Publication of CN113190115B publication Critical patent/CN113190115B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns

Abstract

本发明公开了一种眼球追踪方法及虚拟现实设备,所述眼球追踪方法应用于虚拟现实设备,所述虚拟现实设备包括至少两个摄像头,各所述摄像头的拍摄区域部分重合,所述眼球追踪方法包括:获取至少两个所述摄像头同一时刻拍摄的图像;叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像;根据所述目标图像进行眼球追踪,能够提升眼球追踪的准确率。

Description

眼球追踪方法及虚拟现实设备
技术领域
本发明涉及虚拟现实设备领域,尤其涉及一种眼球追踪方法及虚拟现实设备。
背景技术
虚拟现实设备为了实现特定的功能,需要追踪用户的眼球,在进行眼球追踪时,可以通过一个具有较大视场的摄像头拍摄包含用户眼部的图像,进一步追踪用户的眼球,在通过上述方式进行眼球追踪时,视场过大导致摄像头拍摄的图像的边缘存在畸变的现象,使得在通过畸变的图像进行眼球追踪时,眼球追踪的准确率较低。
发明内容
本发明的主要目的在于提供一种眼球追踪方法及虚拟现实设备,旨在解决眼球追踪的准确率较低的技术问题。
为实现上述目的,本发明提供一种眼球追踪方法,所述眼球追踪方法应用于虚拟现实设备,所述虚拟现实设备包括至少两个摄像头,各所述摄像头的拍摄区域部分重合,所述眼球追踪方法包括:
获取至少两个所述摄像头同一时刻拍摄的图像;
叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像;
根据所述目标图像进行眼球追踪。
可选地,所述眼球追踪方法还包括:
获取预设摄像头拍摄的图像,所述预设摄像头的数量为一个;
判断所述预设摄像头拍摄的图像是否包含所述眼球区域;
在所述预设摄像头拍摄的图像不包含所述眼球区域时,启动至少两个所述摄像头,并执行获取至少两个所述摄像头同一时刻拍摄的图像的步骤;
在所述预设摄像头拍摄的图像包含所述眼球区域时,根据所述预设摄像头拍摄的图像,进行眼球追踪。
可选地,判断所述预设摄像头拍摄的图像是否包含所述眼球区域的步骤包括:
获取所述预设摄像头拍摄的图像中的光斑数量;
判断所述光斑数量是否大于或等于预设光斑数量,其中,在所述光斑数量大于或等于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中包含所述眼球区域,在所述光斑数量小于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中不包含所述眼球区域。
可选地,所述获取所述预设摄像头拍摄的图像中的光斑数量的步骤包括:
获取所述预设摄像头拍摄的图像中各个像素点的亮度值;
确定所述亮度值在预设亮度范围内的像素点为目标像素点;
确定由所述目标像素点构成的区域为所述光斑;
确定所述预设摄像头拍摄的图像中的所述光斑数量。
可选地,所述根据所述目标图像进行眼球追踪的步骤包括:
根据所述目标图像中光斑的位置,追踪眼球的位置。
可选地,所述获取至少两个所述摄像头同一时刻拍摄的图像的步骤之后,还包括:
确定各个所述图像中的目标区域,所述目标区域为畸变程度在预设畸变程度范围内的区域;
从各所述图像中剪裁出所述图像中的所述目标区域得到目标图像;
所述叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像的步骤包括:
叠加所述目标图像中的重合区域,以得到包括眼球区域的所述目标图像。
可选地,所述确定各个所述图像中的目标区域的步骤包括:
确定每个所述图像中像素点的标准成像高度以及所述像素点的实际成像高度,所述标准成像高度为所述摄像头采集的图像不产生畸变情况下,所述像素点到所述摄像头的光轴的距离,所述实际成像高度为实际拍摄的图像中,所述像素点到所述摄像头的光轴的距离;
根据每个所述图像的所述标准成像高度以及所述实际成像高度,确定每个所述图像的各个所述像素点的畸变率;
确定每个所述图像中,所述畸变率小于预设畸变率的所述像素点所在的区域为所述目标区域。
可选地,所述叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像的步骤之前,还包括:
提取各个所述图像中的特征点,其中,所述特征点为与相邻像素点的灰度值的差值绝对值大于预设差值的像素点;
确定两个所述图像之间匹配的所述特征点为所述重合区域。
此外,为实现上述目的,本发明还提供一种虚拟现实设备,所述虚拟现实设备包括至少两个摄像头、处理器、存储器以及存储在所述存储器并可在所述处理器上运行的眼球追踪程序,其中:各所述摄像头的拍摄区域部分重合;所述眼球追踪程序被所述处理器执行时实现上述任一项所述的眼球追踪方法的步骤。
可选地,所述虚拟现实设备还包括光学模组,所述摄像头的数量为两个,两个所述摄像头设置于所述光学模组出光侧的外表面,且沿所述外表面的中心呈对称分布。
本发明实施例提出的一种眼球追踪方法及虚拟现实设备,通过获取至少两个摄像头同一时刻拍摄的图像,叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像,根据目标图像进行眼球追踪,从而能够通过两个摄像头拍摄不同的图像,以实现拍摄眼球的不同区域的效果,叠加各图像的重合区域,从而实现图像拼接,得到包含眼球区域的目标图像,目标图像中包括的眼球区域更完整,在根据目标图像进行眼球追踪时,避免眼球区域存在缺失而造成的眼球追踪不准确,从而能够提升眼球追踪的准确率。
附图说明
图1是本发明实施例方案涉及的虚拟现实设备的结构示意图;
图2为本发明眼球追踪方法第一实施例的流程示意图;
图3为本发明眼球追踪方法第二实施例的流程示意图;
图4为本发明眼球追踪方法第三实施例的流程示意图;
图5为本发明眼球追踪方法第四实施例的流程示意图;
图6为本发明眼球追踪方法涉及的虚拟现实设备的一实施例的示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,图1是本发明实施例方案涉及的虚拟现实设备的结构示意图。
如图1所示,该虚拟现实设备可以包括:处理器1001,例如CPU,存储器1002,通信总线1003,摄像头1004。其中,通信总线1003用于实现这些组件之间的连接通信。存储器1002可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1002可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的虚拟现实设备的结构并不构成对虚拟现实设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1002中可以包括操作系统以及眼球追踪程序。
在图1所示的虚拟现实设备中,而处理器1001可以用于调用存储器1002中存储的眼球追踪程序,并执行以下操作:
获取至少两个所述摄像头同一时刻拍摄的图像;
叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像;
根据所述目标图像进行眼球追踪。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
获取预设摄像头拍摄的图像,所述预设摄像头的数量为一个;
判断所述预设摄像头拍摄的图像是否包含所述眼球区域;
在所述预设摄像头拍摄的图像不包含所述眼球区域时,启动至少两个所述摄像头,并执行获取至少两个所述摄像头同一时刻拍摄的图像的步骤;
在所述预设摄像头拍摄的图像包含所述眼球区域时,根据所述预设摄像头拍摄的图像,进行眼球追踪。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
获取所述预设摄像头拍摄的图像中的光斑数量;
判断所述光斑数量是否大于或等于预设光斑数量,其中,在所述光斑数量大于或等于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中包含所述眼球区域,在所述光斑数量小于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中不包含所述眼球区域。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
获取所述预设摄像头拍摄的图像中各个像素点的亮度值;
确定所述亮度值在预设亮度范围内的像素点为目标像素点;
确定由所述目标像素点构成的区域为所述光斑;
确定所述预设摄像头拍摄的图像中的所述光斑数量。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
根据所述目标图像中光斑的位置,追踪眼球的位置。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
确定各个所述图像中的目标区域,所述目标区域为畸变程度在预设畸变程度范围内的区域;
从各所述图像中剪裁出所述图像中的所述目标区域得到目标图像;
叠加所述目标图像中的重合区域,以得到包括眼球区域的所述目标图像。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
确定每个所述图像中像素点的标准成像高度以及所述像素点的实际成像高度,所述标准成像高度为所述摄像头采集的图像不产生畸变情况下,所述像素点到所述摄像头的光轴的距离,所述实际成像高度为实际拍摄的图像中,所述像素点到所述摄像头的光轴的距离;
根据每个所述图像的所述标准成像高度以及所述实际成像高度,确定每个所述图像的各个所述像素点的畸变率;
确定每个所述图像中,所述畸变率小于预设畸变率的所述像素点所在的区域为所述目标区域。
进一步地,处理器1001可以调用存储器1002中存储的眼球追踪程序,还执行以下操作:
提取各个所述图像中的特征点,其中,所述特征点为与相邻像素点的灰度值的差值绝对值大于预设差值的像素点;
确定两个所述图像之间匹配的所述特征点为所述重合区域。
参照图2,本发明第一实施例提供一种眼球追踪方法,所述眼球追踪方法包括:
步骤S10,获取至少两个所述摄像头同一时刻拍摄的图像;
在本实施例中,执行主体为虚拟现实设备。本实施例中的虚拟现实设备包括至少两个摄像头,各摄像头的拍摄区域部分重合。
虚拟现实设备在进行眼球追踪时,需要通过摄像头拍摄人眼区域的图像,结合该图像实现眼球追踪,具体而言,可以通过红外光源照射在人眼区域,基于人眼的光学特性,在人眼形成光斑,通过红外摄像头可以采集得到该光斑,在眼球转动的情况下,眼球上的光斑会随之移动,在人眼正视前方时角膜上的光斑的数量和位置,与人眼视线倾斜时的角膜上的光斑的数量和位置不同,基于此可以结合光斑追踪眼球和视线,而在通过一个摄像头拍摄人眼时,由于摄像头本身的视场可能较小,在角膜上的光斑处于偏离摄像头的一侧时,摄像头的视场可能无法覆盖角膜上的光斑所在的区域,使得在通过光斑进行眼球追踪时,光斑数量不完整,追踪不准确,为了能够让单个摄像头拍摄到完整的眼球区域,可以增大摄像头的视场,以使其覆盖完整的区域,然而,在增大摄像头的视场的过程中,由于摄像头中的光学镜组的特性,拍摄的图像的边缘会产生畸变,而光斑可能分布在存在畸变的边缘部分,光斑自身的位置并不准确,在通过光斑的位置进行眼球位置的追踪时,眼球追踪也就不准确,为解决上述问题,本实施例采用两个摄像头拍摄同一眼球所在的区域,可以理解的是,为了使得两个摄像头拍摄同一眼球所在的区域,可以预先调试两个摄像头在虚拟现实设备中的拍摄角度,以达到拍摄同一眼球所在的区域的目的,需要注意的是,在叠加各图像时,需要使各图像存在重合区域,为了使各图像存在重合区域,可以预先设置摄像头的位置和角度,比如,可以将两个摄像头分布在对称的两侧,以拍摄不同的区域,从而在得到包含眼球区域的目标图像时,即可根据目标图像进行眼球追踪,此时的图像更完整,且光斑数量更完整,从而能够在根据光斑的位置进行眼球追踪时,提升眼球追踪的准确率。
本实施例中的摄像头的数量为两个以上,由于在将各图像进行拼接时,需要叠加重合区域,而眼球的位置是实时变化的,因此需要获取同一时刻各个摄像头拍摄的图像;其中,摄像头的数量可以设置为两个,也可以设置两个以上,设置两个摄像头的目的在于,提升眼球追踪的准确率的同时,避免太多的摄像头同时工作导致功耗过大。
步骤S20,叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像;
在得到各个图像之后,叠加各图像的重合区域,以将各图像拼接为一幅图像,在拼接时,需要首先确定重合区域,确定的方法为提取各个图像中的特征点,其中,特征点为与相邻像素点的灰度值的差值绝对值大于预设差值的像素点,或者,也可以将特征点视作图像中边缘上曲率较大的点,即两个边缘的交点,在提取特征点时,可以采用SIFT(ScaleInvariant Feature Transform,尺度不变特征变换)进行特征点提取,在提取特征点之后,确定两个图像之间匹配的特征点为重合区域,进行特征匹配,在进行特征匹配时,可以采用暴力匹配法(Brute Force Matcher),以进行图像拼接。
眼球区域指能够形成光斑的眼球结构所在的全部区域,目标图像为叠加重合区域所得到的图像,目标图像用于进行眼球追踪。
步骤S30,根据所述目标图像进行眼球追踪。
在得到目标图像之后,根据目标图像中的光斑的位置进行眼球位置的追踪,或者,若是采用其他方式实现眼球追踪,比如根据图像中亮瞳图像以及暗瞳图像进行眼球追踪,其也可以通过本实施例所述的全部方法依次获取图像,叠加重合区域得到目标图像,根据目标图像进行眼球追踪,从而实现提升眼球追踪的准确率的效果。
在本实施例中,通过获取至少两个摄像头拍摄的图像,叠加各个图像中的重合区域,以得到包括眼球区域的目标图像,根据目标图像进行眼球追踪,从而能够通过两个摄像头拍摄不同的图像,以实现拍摄眼球的不同区域的效果,叠加各图像中的重合区域,从而实现图像拼接,得到包含眼球区域的目标图像,目标图像中包括的眼球区域更完整,在根据目标图像进行眼球追踪时,避免眼球区域存在缺失,从而能够提升眼球追踪的准确率。
参照图3,本发明第二实施例提供一种眼球追踪方法,基于上述图2所示的第一实施例,所述眼球追踪方法还包括:
步骤S40,获取预设摄像头拍摄的图像,所述预设摄像头的数量为一个;
在通过两个摄像头进行眼球追踪的情况下,由于两个摄像头同时工作会增加虚拟现实设备的功耗,因此,本实施例仅在根据单个摄像头采集的图像进行眼球追踪的准确性较低的情况下,才通过两个以上摄像头拍摄的图像进一步实现眼球追踪,而在单个摄像头拍摄的图像能够满足眼球追踪的准确性要求的情况下,通过单个摄像头拍摄的图像进行眼球追踪,以降低虚拟现实设备的功耗。
预设摄像头为预先设定的一摄像头,预设摄像头用于根据其拍摄的图像确定是否需要启动两个摄像头。可以在检测到虚拟现实设备启动之后,即启动预设摄像头。
步骤S50,判断所述预设摄像头拍摄的图像是否包含所述眼球区域;
本实施例中所指的眼球区域为预先指定的包括某部分眼球的区域,比如,该眼球区域为一预先设定的包含完整的眼球结构的区域,判断预设摄像头拍摄的图像中是否包括眼球区域时,可以通过图像识别算法检测眼球的图像,并比对预设的完整眼球区域的图像,以判断拍摄的图像中眼球部分是否完整,在其完整的情况下,可以视作预设摄像头拍摄的图像中包括眼球区域,或者,在通过眼球中的光斑实现眼球追踪时,也可以通过光斑的数量间接的确定眼球部分是否完整,在完整的情况下,确定预设摄像头拍摄的图像包含眼球区域。
步骤S60,在所述预设摄像头拍摄的图像不包含所述眼球区域时,启动至少两个所述摄像头,并执行获取至少两个所述摄像头同一时刻拍摄的图像的步骤;
在预设摄像头拍摄的图像不包含眼球区域的情况下,通过预设摄像头拍摄的图像进行眼球追踪会导致眼球追踪得准确率较低,此时则通过至少两个摄像头拍摄的图像实现眼球追踪,以提升眼球追踪的准确率,其中,在启动摄像头时,所启动的至少两个摄像头中包括预设摄像头。
步骤S70,在所述预设摄像头拍摄的图像包含所述眼球区域时,根据所述预设摄像头拍摄的图像,进行眼球追踪。
在预设摄像头拍摄的图像包含该眼球区域的情况下,为了降低功耗,此时仅通过预设摄像头拍摄的图像,进行眼球追踪,眼球追踪的方法包括但不限于通过图像中光斑的位置进行眼球追踪,并且,也可以根据光斑的位置进行视线的追踪。
在本实施例中,通过获取预设摄像头拍摄的图像,判断预设摄像头拍摄的图像中是否包含眼球区域,在预设摄像头拍摄的图像不包含眼球区域的时,启动至少两个摄像头,并获取至少两个摄像头同一时刻拍摄的图像,进一步实现眼球追踪,而在预设摄像头拍摄的图像包含眼球区域时,根据预设摄像头拍摄的图像进行眼球追踪,从而能够在单个摄像头拍摄的图像进行眼球追踪的准确度较高时,仅通过单个摄像头拍摄的图像进行眼球追踪,以降低功耗,而在单个摄像头拍摄的图像进行眼球追踪的准确度较低时,通过至少两个摄像头拍摄的图像进行眼球追踪,从而提升眼球追踪的准确率。
参照图4,本发明第三实施例提供一种眼球追踪方法,基于上图3所示的第二实施例,所述步骤S50包括:
步骤S51,获取所述预设摄像头拍摄的图像中的光斑数量;
在判断预设摄像头拍摄的图像是否包含眼球区域时,还可以通过图像中光斑的数量进行判断,其原因在于,在拍摄的图像中,仅有眼球部分存在光斑,而在拍摄不完整的情况下,处于眼球部分边缘的区域可能没有被拍摄到,此时眼球边缘部分的光斑也就无法拍摄到,因此,在拍摄的图像包含眼球区域的情况下,或者在包含完整的眼球区域的情况下,光斑的数量应当在预设的标准之上,比如,如果红外光源的数量为8个,那么在角膜上形成的光斑的数量也是8个,如果光斑的达到8个,那么则说明拍摄的图像是完整的,即拍摄的图像包含眼球区域。
此外,在获取光斑数量时,需要确定图像中哪部分区域属于光斑,为此,本实施例通过获取预设摄像头拍摄的图像中各个像素点的亮度值,并根据光斑的亮度特性,确定亮度值在预设亮度范围内的像素点为目标像素点,确定由目标像素点构成的区域为光斑,从而确定了图像中的光斑,进一步可计算出预设摄像头拍摄的图像中的光斑数量。
步骤S52,判断所述光斑数量是否大于或等于预设光斑数量,其中,在所述光斑数量大于或等于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中包含所述眼球区域,在所述光斑数量小于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中不包含所述眼球区域。
在确定了光斑数量之后,若光斑数量大于或者等于预设光斑数量,则说明完整拍摄到了眼球部分,此时确定预设摄像头拍摄的图像中包含眼球区域,若光斑数量小于预设光斑数量,则表明未完整拍摄到眼球部分,此时确定预设摄像头拍摄的图像中不包含眼球区域;在叠加各图像的重合区域之后,根据目标图像中光斑的位置,追踪眼球的位置,在通过光斑位置进行眼球追踪时,可以确定光斑的坐标,并基于光斑的坐标确定瞳孔的坐标,根据瞳孔的坐标实现眼球追踪。
在本实施例中,通过获取预设摄像头拍摄的图像中各个像素点的亮度值,确定亮度值在预设亮度范围内的像素点为目标像素点,确定由目标像素点构成的区域为光斑,从而确定了图像中的光斑,进一步确定了图像中光斑的数量,从而计算得到了图像中的光斑数量,以便根据光斑数量,判断图像中是否包含眼球区域,判断的方式简单,判断的效率较高。
参照图5,本发明第四实施例提供一种眼球追踪方法,基于上图2所示的第一实施例,所述步骤S10之后还包括:
步骤S80,确定各个所述图像中的目标区域,所述目标区域为畸变程度在预设畸变程度范围内的区域;
步骤S90,从各所述图像中剪裁出所述图像中的所述目标区域得到目标图像;
目标区域为图像中畸变程度在预设畸变程度范围内的像素点组成的区域,畸变程度为图像中像素点的位置偏离其标准位置的程度,预设畸变程度范围为限定可接受的畸变程度的范围的参数,重合区域指各目标区域之间相同像素点组成的区域。剪裁指将目标区域从图像中分离出来,剪裁后得到不包括图像的其他部分的目标区域。
在获取到各摄像头拍摄的图像之后,为了避免图像畸变产生的干扰,需要提取图像中畸变程度较小,也就是畸变程度在预设畸变程度范围内的区域,摄像头的不同视场对应的拍摄图像的畸变程度不同,在视场比较大时,畸变程度较大,在视场比较小时,畸变程度较小,并且,图像在产生畸变时,图像中各像素点的畸变程度的特点为,沿图像中心向图像四周畸变程度逐渐增大,因此在确定目标区域时,可以选取图像中心区域的部分区域作为目标区域。为了确定目标区域,可以确定每个图像中像素点的标准成像高度以及像素点的实际成像高度,标准成像高度为在图像不产生畸变的情况下,像素点到摄像头的光轴的距离,实际成像高度为实际拍摄的图像中,像素点到光轴的距离。摄像头的焦距越短,视场越大,畸变程度就越大,光线在透过摄像头的镜头中心时产生偏离而产生畸变,在产生畸变时,图像中的像素点偏离其原本应处的位置,本实施例以光轴作为基准,定义标准成像高度以及实际成像高度;进一步根据每个图像的标准成像高度以及实际成像高度,确定每个图像的各个所述像素点的畸变率;
本实施例中,采用畸变率衡量图像的畸变程度,畸变率越大,畸变程度越大,畸变率的计算方式为,确定实际成像高度与标准成像高度的差值,将该差值与标准成像高度的比值作为畸变率;此外,也可以根据标准成像高度、实际成像高度以及摄像头的焦距确定畸变率。确定每个图像中,畸变率小于预设畸变率的像素点所在的区域为目标区域。
预设畸变率为预先设定的指示图像中像素点的畸变程度的参数,预设畸变率用于描述图像畸变的可接受程度,在畸变率小于预设畸变率时,图像畸变程度是可接受的,因此,可以将畸变率小于预设畸变率的像素点所在的区域作为目标区域,从而得到畸变程度较小的区域。
所述步骤S20包括:
步骤S21,叠加所述目标图像中的重合区域,以得到包括眼球区域的所述目标图像。
在得到畸变程度在预设畸变程度范围内的各图像的目标区域之后,需要将目标区域拼接得到目标图像;由于在通过两个摄像头拍摄人眼图像时,两个摄像头拍摄的图像仍可能存在畸变,为此,本实施例获取两个图像中畸变程度在预设畸变程度范围内的目标区域,并叠加目标区域得到目标图像,从而能够减少畸变对眼球追踪的干扰。
在本实施例中,确定每个图像中像素点的标准成像高度以及像素点的实际成像高度,根据每个图像的标准成像高度以及实际成像高度,确定每个图像的各个像素点的畸变率,确定每个图像中,畸变率小于预设畸变率的像素点所在的区域为目标区域,从而确定了目标区域,确定目标区域的方式比较简单,效率较高,并且获取了畸变程度较小的目标区域,叠加剪裁后的目标区域,得到目标图像,从而使得目标图像的畸变程度更小,能够进一步提升眼球追踪的准确率。
参照图6,本发明又一实施例提供一种虚拟现实设备,该虚拟现实设备包括眼球追踪程序,眼球追踪程序被处理器执行时可以执行上述任一实施例所述的眼球追踪方法,其中,虚拟现实设备包括两个摄像头10,通过两个摄像头10拍摄图像,能拍摄不同区域的图像,从而通过拼接得到更完整的图像,各摄像头10的拍摄区域部分重合,可以通过设置合适的角度和位置使拍摄区域重合;虚拟现实设备还包括光学模组30,摄像头10的数量为两个,两个摄像头10设置于所述光学模组30出光侧的外表面,且沿外表面的中心呈对称分布。摄像头10为红外摄像头,虚拟现实设备还包括红外光源20,红外光源可以分布在光学模组出光侧的四周,红外光源的数量可以根据需要设定,比如设定为8,红外光源20用于在眼球中形成红外光斑,红外摄像头用于拍摄红外图像,红外图像中包括红外光斑。图中示出的为单只眼球对应的摄像头的分布,为了拍摄到两只眼球,可以再设置另外两个摄像头用于拍摄另一眼球的图像。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台虚拟现实设备执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种眼球追踪方法,其特征在于,所述眼球追踪方法应用于虚拟现实设备,所述虚拟现实设备包括至少两个摄像头,各所述摄像头的拍摄区域部分重合,所述眼球追踪方法包括:
获取预设摄像头拍摄的图像,所述预设摄像头的数量为一个;
判断所述预设摄像头拍摄的图像是否包含眼球区域;
在所述预设摄像头拍摄的图像不包含所述眼球区域时,启动至少两个所述摄像头,并获取至少两个所述摄像头同一时刻拍摄的图像;
叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像;
根据所述目标图像进行眼球追踪。
2.如权利要求1所述的眼球追踪方法,其特征在于,所述眼球追踪方法还包括:
在所述预设摄像头拍摄的图像包含所述眼球区域时,根据所述预设摄像头拍摄的图像,进行眼球追踪。
3.如权利要求2所述的眼球追踪方法,其特征在于,判断所述预设摄像头拍摄的图像是否包含所述眼球区域的步骤包括:
获取所述预设摄像头拍摄的图像中的光斑数量;
判断所述光斑数量是否大于或等于预设光斑数量,其中,在所述光斑数量大于或等于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中包含所述眼球区域,在所述光斑数量小于所述预设光斑数量时,确定所述预设摄像头拍摄的图像中不包含所述眼球区域。
4.如权利要求3所述的眼球追踪方法,其特征在于,所述获取所述预设摄像头拍摄的图像中的光斑数量的步骤包括:
获取所述预设摄像头拍摄的图像中各个像素点的亮度值;
确定所述亮度值在预设亮度范围内的像素点为目标像素点;
确定由所述目标像素点构成的区域为所述光斑;
确定所述预设摄像头拍摄的图像中的所述光斑数量。
5.如权利要求4所述的眼球追踪方法,其特征在于,所述根据所述目标图像进行眼球追踪的步骤包括:
根据所述目标图像中光斑的位置,追踪眼球的位置。
6.如权利要求1所述的眼球追踪方法,其特征在于,所述获取至少两个所述摄像头同一时刻拍摄的图像的步骤之后,还包括:
确定各个所述图像中的目标区域,所述目标区域为畸变程度在预设畸变程度范围内的区域;
从各所述图像中剪裁出所述图像中的所述目标区域得到目标图像;
所述叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像的步骤包括:
叠加所述目标图像中的重合区域,以得到包括眼球区域的所述目标图像。
7.如权利要求6所述的眼球追踪方法,其特征在于,所述确定各个所述图像中的目标区域的步骤包括:
确定每个所述图像中像素点的标准成像高度以及所述像素点的实际成像高度,所述标准成像高度为所述摄像头采集的图像不产生畸变情况下,所述像素点到所述摄像头的光轴的距离,所述实际成像高度为实际拍摄的图像中,所述像素点到所述摄像头的光轴的距离;
根据每个所述图像的所述标准成像高度以及所述实际成像高度,确定每个所述图像的各个所述像素点的畸变率;
确定每个所述图像中,所述畸变率小于预设畸变率的所述像素点所在的区域为所述目标区域。
8.如权利要求1-7任一项所述的眼球追踪方法,其特征在于,所述叠加各所述图像中的重合区域,以得到包括眼球区域的目标图像的步骤之前,还包括:
提取各个所述图像中的特征点,其中,所述特征点为与相邻像素点的灰度值的差值绝对值大于预设差值的像素点;
确定两个所述图像之间匹配的所述特征点为所述重合区域。
9.一种虚拟现实设备,其特征在于,所述虚拟现实设备包括至少两个摄像头、处理器、存储器以及存储在所述存储器并可在所述处理器上运行的眼球追踪程序,其中:各所述摄像头的拍摄区域部分重合;所述眼球追踪程序被所述处理器执行时实现如权利要求1至8中任一项所述的眼球追踪方法的步骤。
10.如权利要求9所述的虚拟现实设备,其特征在于,所述虚拟现实设备还包括光学模组,所述摄像头的数量为两个,两个所述摄像头设置于所述光学模组出光侧的外表面,且沿所述外表面的中心呈对称分布。
CN202110450897.8A 2021-04-25 2021-04-25 眼球追踪方法及虚拟现实设备 Active CN113190115B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110450897.8A CN113190115B (zh) 2021-04-25 2021-04-25 眼球追踪方法及虚拟现实设备
PCT/CN2021/137720 WO2022227594A1 (zh) 2021-04-25 2021-12-14 眼球追踪方法及虚拟现实设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110450897.8A CN113190115B (zh) 2021-04-25 2021-04-25 眼球追踪方法及虚拟现实设备

Publications (2)

Publication Number Publication Date
CN113190115A CN113190115A (zh) 2021-07-30
CN113190115B true CN113190115B (zh) 2022-11-22

Family

ID=76978857

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110450897.8A Active CN113190115B (zh) 2021-04-25 2021-04-25 眼球追踪方法及虚拟现实设备

Country Status (2)

Country Link
CN (1) CN113190115B (zh)
WO (1) WO2022227594A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG11202108917PA (en) * 2019-02-18 2021-09-29 Nec Corp Image pick-up apparatus, method, system, and computer readable medium
CN113190115B (zh) * 2021-04-25 2022-11-22 歌尔股份有限公司 眼球追踪方法及虚拟现实设备
CN117280303A (zh) * 2022-03-28 2023-12-22 京东方科技集团股份有限公司 眼球跟踪装置、方法以及显示设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106469038A (zh) * 2016-09-26 2017-03-01 南京酷派软件技术有限公司 基于多屏终端的显示屏切换方法及装置
CN106527662A (zh) * 2016-11-04 2017-03-22 歌尔科技有限公司 一种虚拟现实设备及其显示屏的控制方法、装置
CN111524175A (zh) * 2020-04-16 2020-08-11 东莞市东全智能科技有限公司 非对称式多摄像头的深度重建及眼动追踪方法及系统
CN112416125A (zh) * 2020-11-17 2021-02-26 青岛小鸟看看科技有限公司 Vr头戴式一体机

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103747236A (zh) * 2013-12-30 2014-04-23 中航华东光电有限公司 结合人眼跟踪的立体视频处理系统及方法
CN104994288B (zh) * 2015-06-30 2018-03-27 广东欧珀移动通信有限公司 一种拍照方法及用户终端
CN105141938B (zh) * 2015-08-18 2017-12-01 深圳先进技术研究院 视线定位装置
WO2017054196A1 (zh) * 2015-09-30 2017-04-06 华为技术有限公司 一种启动眼球追踪功能的方法及移动设备
EP3646581A1 (en) * 2017-06-30 2020-05-06 PCMS Holdings, Inc. Method and apparatus for generating and displaying 360-degree video based on eye tracking and physiological measurements
CN109087411A (zh) * 2018-06-04 2018-12-25 上海灵纽智能科技有限公司 一种基于分布式摄像头阵列的人脸识别锁
CN113190115B (zh) * 2021-04-25 2022-11-22 歌尔股份有限公司 眼球追踪方法及虚拟现实设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106469038A (zh) * 2016-09-26 2017-03-01 南京酷派软件技术有限公司 基于多屏终端的显示屏切换方法及装置
CN106527662A (zh) * 2016-11-04 2017-03-22 歌尔科技有限公司 一种虚拟现实设备及其显示屏的控制方法、装置
CN111524175A (zh) * 2020-04-16 2020-08-11 东莞市东全智能科技有限公司 非对称式多摄像头的深度重建及眼动追踪方法及系统
CN112416125A (zh) * 2020-11-17 2021-02-26 青岛小鸟看看科技有限公司 Vr头戴式一体机

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"双目视觉运动目标跟踪定位系统的设计";李鹏飞,田瑜;《测控技术》;20180430;第37卷(第4期);全文 *

Also Published As

Publication number Publication date
WO2022227594A1 (zh) 2022-11-03
CN113190115A (zh) 2021-07-30

Similar Documents

Publication Publication Date Title
CN113190115B (zh) 眼球追踪方法及虚拟现实设备
JP6595726B2 (ja) 両眼視野/単眼視野間の移行
US6215891B1 (en) Eye image recognition method eye image selection method and system therefor
US20180173950A1 (en) Image processing apparatus and image processing method
JP4445454B2 (ja) 顔中心位置検出装置、顔中心位置検出方法、及び、プログラム
US20110103655A1 (en) Fundus information processing apparatus and fundus information processing method
EP1499110A2 (en) Detecting and correcting red-eye in a digital-image
DE202018101818U1 (de) Augennahe Anzeige mit Einzelbildrendering auf der Grundlage der Analyse einer reflektierten Wellenfront für die Augenchrakterisierung
KR20040089122A (ko) 사용자 상호작용없이 적목현상 부분들을 제거하기 위한이미지 처리
JP2004005167A (ja) 目位置特定方法および装置
CN105395163A (zh) 眼科设备和眼科设备的控制方法
JP5278984B2 (ja) 画像解析装置及び画像解析プログラム
CN109377462A (zh) 眼底图像处理方法及设备
CN108510446B (zh) 视网膜图像的叠加方法及视网膜图像的叠加装置
KR20090110348A (ko) 물체 형상 생성 방법, 물체 형상 생성 장치 및 프로그램
CN111178307A (zh) 注视方向识别方法、装置及电子设备和存储介质
CN113674157B (zh) 眼底图像拼接方法、计算机装置和存储介质
CN112966575B (zh) 一种应用于智慧社区的目标人脸识别方法及装置
TWI416433B (zh) 紅眼影像偵測方法及其相關裝置
JP3540731B2 (ja) 眼底画像変形合成方法、そのプログラムを記録した記録媒体、及び眼底画像変形合成装置
CN109360270B (zh) 基于人工智能的3d人脸姿态对齐方法及装置
CN108510497B (zh) 视网膜图像病灶信息的显示方法及显示装置
JP4664805B2 (ja) 顔端検出装置、顔端検出方法、及び、プログラム
JPWO2019107342A1 (ja) パノラマ眼底画像生成装置、およびプログラム
CN112386813B (zh) 用于激光治疗的成像获取系统、方法、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant