CN112749600A - 人眼位置确定方法及相关产品 - Google Patents
人眼位置确定方法及相关产品 Download PDFInfo
- Publication number
- CN112749600A CN112749600A CN201911062923.9A CN201911062923A CN112749600A CN 112749600 A CN112749600 A CN 112749600A CN 201911062923 A CN201911062923 A CN 201911062923A CN 112749600 A CN112749600 A CN 112749600A
- Authority
- CN
- China
- Prior art keywords
- human eye
- image
- user
- determining
- human
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 210000001508 eye Anatomy 0.000 claims abstract description 340
- 238000001514 detection method Methods 0.000 claims abstract description 53
- 210000005252 bulbus oculi Anatomy 0.000 claims abstract description 45
- 230000015654 memory Effects 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 14
- 238000004891 communication Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 abstract description 12
- 230000009286 beneficial effect Effects 0.000 abstract description 9
- 238000004364 calculation method Methods 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请实施例公开了一种人眼位置确定方法及相关产品,应用于电子设备,其中,该方法包括:通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率;根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。本申请实施例有利于降低眼球追踪中人眼位置定位的计算量,加速人眼的提取。
Description
技术领域
本申请涉及电子设备技术领域,具体涉及一种人眼位置确定方法及相关产品。
背景技术
眼球追踪(Eye-tracking)是将识别瞳孔的技术应用来操控设备的一种方式,随着技术的发展,眼球追踪在电子设备中的使用也越来越广泛。
眼球追踪技术涉及到人眼提取,目前眼球追踪方案的提取人眼的方法存在计算量大、效率较低的问题。
发明内容
本申请实施例提供了一种人眼位置确定方法及相关产品,以期降低人眼提取的运算量,加速人眼的提取。
第一方面,本申请实施例提供了一种人眼位置确定方法,所述方法包括:
通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率;
根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;
根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
第二方面,本申请实施例提供了一种人眼位置确定装置,应用于电子设备,所述装置包括:
采集单元,用于通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息;
第一确定单元,用于根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;
第二确定单元,根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
第三方面,本申请实施例提供一种电子设备,包括处理器、存储器、通信接口,以及一个或多个程序,所述一个或多个程序被存储在所述存储器中,并且被配置由所述处理器执行,所述程序包括用于执行本申请实施例第一方面中的步骤的指令。
第四方面,本申请实施例提供了.一种计算机存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如本实施例第一方面中所描述的部分或全部步骤。
第五方面,本申请实施例提供了一种计算机程序产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
可以看出,本申请实施例中所描述的人眼位置确定方法及相关产品,能够通过运动检测摄像头采集第一用户的第一人眼影像信息,并通过眼球追踪摄像头采集所述第一用户的第二人眼影像信息,进而根据所述第一人眼影像信息确定用户的人眼的参考区域,再根据所述参考区域以及所述第二人眼影像信息,确定用户的人眼的目标位置所在,其中,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率,这样有利于降低眼球追踪中人眼位置定位的计算量,加速人眼的提取。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种电子设备的结构示意图;
图2是本申请实施例提供的一种人眼位置确定方法的流程示意图;
图2-1是本申请实施例涉及的软件框架中关于人眼位置确定部分的示意图;
图3是本申请实施例提供的另一种人眼位置确定方法的流程示意图;
图4是本申请实施例提供的一种电子设备的结构示意图;
图5是本申请实施例提供的一种人眼位置确定装置的功能单元组成框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本申请实施例所涉及到的电子设备可以是具备通信能力的电子设备,该电子设备可以包括各种具有无线通信功能的手持设备、车载设备、可穿戴设备、计算设备或连接到无线调制解调器的其他处理设备,以及各种形式的用户设备(User Equipment,UE),移动台(Mobile Station,MS),终端设备(terminal device)等等。
目前,眼球追踪方案的提取人眼方法还是原始传统的图像检测如对比度算法,通过对整张图像进行检测,检测出人眼的位置来定位,计算量大,效率低。
针对上述问题,本申请实施例提供一种人眼位置确定方法和相关产品,下面结合附图对本申请实施例进行详细介绍。
请参阅图1,图1是本申请实施例提供的一种电子设备100的结构示意图,上述电子设备100包括:壳体110、设置于壳体110内的电路板120和设置于所述壳体110上的运动检测摄像头130和眼球追踪摄像头140,所述电路板120上设置有处理器121和存储器122。
其中,所述眼球追踪摄像头140可以是红外摄像头,所述运动检测摄像头130可以是能感知可见光源的摄像头,可以获取彩色图像,例如高清摄像头、白光摄像头等。电子设备100能分别通过所述运动检测摄像头130和所述眼球追踪摄像头140获取用户的人眼影像信息。
请参阅图2,图2是本申请实施例提供的一种人眼位置确定方法的流程示意图,如图所示,本人眼位置确定方法包括:
S201,电子设备通过运动检测摄像头采集第一用户的第一人眼影像信息,并通过眼球追踪摄像头采集所述第一用户的第二人眼影像信息;
其中,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率;第一用户是指被进行眼球追踪的用户,具体实现中,用户可以手持电子设备,将装有运动检测摄像头与眼球追踪摄像头的一面朝向用户的面部、眼睛,从而,可以通过运动检测摄像头和眼球追踪摄像头分别获取用户的人眼影像信息。
图像分辨率是指图像中存储的信息量,是每英寸图像内有多少个像素点,分辨率越高的图像越清晰,数据量也越大。
本申请实施例所述运动检测摄像头可以是能感知可见光源的摄像头,可以获取彩色图像,所述眼球追踪摄像头可以是红外摄像头。
S202,根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;
S203,根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
具体实现中,由于用户在注视电子设备时,电子设备和人脸是相对静止的,而眼睛是实时运动的,所以可以通过运动检测摄像头定位到影像中的运动部分,以此来定位人眼的位置,电子设备可以通过运动检测摄像头和人眼追踪摄像头分别采集到人眼影像信息,之后定位出运动检测摄像头采集的第一人眼影像信息中人眼位置的参考区域,然后再根据参考区域和人眼追踪摄像头采集的第二人眼影像信息,定位出眼球追踪摄像头中人眼的目标位置。
上述步骤可以通过软件框架中设置的相应的模块实现,请参见图2-1,图2-1是本申请实施例涉及的软件框架中关于人眼位置确定部分的示意图。
其中,包括眼球追踪服务(OEyeTrackerService)模块、眼球追踪算法(EyeTrackerAlgo)模块、运动检测模块。启动眼球追踪服务之后,眼球追踪服务模块控制打开电子设备的眼球追踪摄像头和运动检测摄像头,通过运动检测摄像头和眼球追踪摄像头采集了用户的人眼影像信息,之后眼球追踪服务模块请求两个摄像头的数据,将眼球追踪摄像头采集的人眼影像信息送到眼球追踪检查算法模块,将运动检测摄像头集的人眼影像信息送到运动检测模块,运动检测模块检测到人眼的参考区域,并将其给到眼球追踪算法模块,眼球追踪算法模块根据运动检测模块提供的参考区域和眼球追踪摄像头采集的人眼影像信息确定人眼的目标位置,提取人眼。
可以看出,本申请实施例中,电子设备通过运动检测摄像头采集第一用户的第一人眼影像信息,并通过眼球追踪摄像头采集所述第一用户的第二人眼影像信息,进而根据所述第一人眼影像信息确定用户的人眼的参考区域,再根据所述参考区域以及所述第二人眼影像信息,确定用户的人眼的目标位置所在,其中,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率,有利于降低眼球追踪中人眼位置定位的计算量,加速人眼的提取。
在一个可能的示例中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间和所述第二图像的第二采集时间相同。
其中,运动检测摄像头和眼球追踪摄像头采集图像的时间相同,即通过运动检测摄像头采集一张人眼图像的同时,也通过眼球追踪摄像头采集了一张一人图像,这样两个摄像头在同一时刻各自工作,快速的定位出运动检测摄像头采集的第一图像中人眼位置的参考区域,并实时根据第一图像确定的参考区域和眼球追踪摄像头获取的第二图像,确定用户人眼的目标位置。
可见,本示例中,运动检测摄像头和眼球追踪摄像头同时采集图像,两个摄像头并行工作,运动检测摄像头采集到的第一图像之后就快速定位出人眼位置的参考区域,并实时根据参考区域和眼球追踪摄像头采集的第二图像进行人眼目标位置的定位,有利于提高人眼提取的速度。
在本可能的示例中,所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域,包括:确定所述第一图像中所述第一用户的人眼的第一位置;根据所述第一图像分辨率和所述第二图像分辨率确定位置补偿系数;根据所述位置补偿系数放大所述第一位置,得到所述第一用户的人眼的参考区域。
这是考虑到通过运动检测摄像头获取的第一图像分辨率较低,图像中的位置可能存在误差,在根据第一图像确定位置时,可能存在定位不准确的问题,故在确定用户人眼的参考区域时,先定位出第一图像中的用户人眼的位置,再根据一定的位置补偿系数对确定出的人眼位置进行放大,以此来减少误差带来的影响。
具体实现中,位置补偿系数可以是第一图像分辨率和第二图像分辨率的比值,在确定了第一位置之后,可以将所述第一位置按照这个比值大小放大,进而得到人眼的参考区域。
可见,本示例中,通过运动检测摄像头获取第一图像,确定第一图像中用户人眼的第一位置,再根据第一图像和第二图像各自的分辨率确定位置补偿系数,根据上述位置补偿系数来放大确定的第一位置,得到人眼的参考区域,有利于减少位置定位的误差。
在一个可能的示例中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间先于所述第二图像的第二采集时间。
具体实现中,通过运动检测摄像头和眼球追踪摄像头采集图像的时间是对应的,只是两个采集图像不同时进行,通过眼球追踪摄像头采集第二图像的时间,滞后于通过运动检测摄像头采集第一图像的时间。运动检测摄像头采集第一图像之后,可以先对采集的图像进行处理,比如提前开始人眼参考区域的确定。
可见,本示例中,通过运动检测摄像头采集第一图像的时间,在通过眼球追踪摄像头采集第二图像的时间之前,可以提前对运动检测摄像头采集到的第一图像进行处理,有利于提高人眼提取的效率。
在本可能的示例中,所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域,包括:确定所述第一图像中所述第一用户的人眼的第一位置;根据所述第一采集时间和所述第二采集时间的时间间隔预测所述第一用户的人眼的参考移动距离;根据所述参考移动距离全向或定向补偿所述第一位置,得到所述第一用户的人眼的参考区域。
这是考虑到在所述运动检测摄像头先采集第一图像,所述人眼追踪摄像头滞后采集第二图像时,用户人眼的运动,在确定参考区域时,需要对滞后时间中人眼运动可能导致的位置变化进行补偿,所以在确定第一图像用户的人眼的第一位置之后,根据滞后时间即第一采集时间和第二采集时间的时间间隔预测人眼的参考移动距离,进而根据所述参考移动距离全向或定向补偿所述第一位置,得到用户的人眼的参考区域。
其中,所述根据所述第一采集时间和所述第二采集时间的时间间隔预测所述第一用户的人眼的参考距离,可以是通过对人眼之前运动的速度进行分析,分析出可能的运动速度之后,结合时间间隔大小进行计算得到的。例如,根据运动检测摄像头之前采集的两张图像中人眼的位置,和两次采集图像间隔的时间,计算出人眼运动的速度,将这个运动的速度作为所述时间间隔内人眼的运动速度,和所述时间间隔一起计算出人眼的参考移动距离。
全向补偿是指无分别的,覆盖全面的补偿,定向补偿可以结合用户的历史数据和当前应用场景进行分析预测,针对特定方向进行补偿,举例来说,当前已经确定了第一图像中人眼的位置,并预测出了人眼的参考移动距离,在对所述第一位置进行补偿时,如果选择全向补偿,就在所述第一位置,向所有方向补偿参考移动距离,这样的覆盖全面,但是耗时更长,如果选择定向补偿,在所述第一位置,向某特定方向补偿参考移动距离,例如根据之前用户人眼的运动方向是向右以及现在用户仍需要执行跟之前相同的操作,预测出用户的人眼运动方向是向右,就在第一位置向右补偿参考移动距离,得到用户的人眼的参考区域。
可见,本示例中,在确定用户的人眼的参考区域时,先确定所述第一图像中所述第一用户的人眼的第一位置,并根据所述第一采集时间和所述第二采集时间的时间间隔预测所述第一用户的人眼的参考移动距离,最后根据所述参考移动距离全向或定向补偿所述第一位置,得到所述第一用户的人眼的参考区域,有利于更准确的确定的人眼参考区域。
在一个可能的示例中,所述第一人眼影像信息包括在由前往后的N1个时间节点连续采集的N1帧图像,N1为大于或等于2的正整数;所述第二人眼影像信息包括在所述N1个时间节点中任意一个时间节点采集到的单张图像。
举例来说,从0时刻开始,每间隔0.1秒通过运动检测摄像头采集一帧图像,共采集了6帧图像,全部这6帧图像就是第一人眼影像信息,而人眼追踪摄像头采集的图像可以是,任何一次运动检测摄像头采集图像的时刻,例如,在0.3秒时,通过人眼追踪摄像头采集了一帧图像,这一帧图像就是第二人眼影像信息。
可见,本示例中,第一人眼影像信息包括在由前往后的多个时间节点连续采集的多帧图像,所述第二人眼影像信息包括在所述多个时间节点中任意一个时间节点采集到的单张图像,即第一人眼影像信息采集时间包含第二人眼图像的采集时间,通过对运动检测摄像头采集的多帧图像综合进行处理,得到人眼参考区域,在根据所述参考区域确定人眼追踪摄像头采集的单张图像中人眼的目标,有利于提高结果的准确性。
在本可能的示例中,所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域,包括:确定所述N1帧图像中影像信息发生运动的参考运动区域;根据所述参考运动区域确定所述第一用户的人眼的参考区域。
举例来说,用户观看电子设备时,电子设备和人脸相对静止,人眼会相对运动。在用户注视电子设备某一位置时,人眼还是会在一定范围内轻微运动,电子设备通过运动检测摄像头从0时刻开始,每间隔1时刻采集一帧图像,共采集了10帧图像,对这10帧图像做分析,检测出图像中发生运动的区域,发现运动是在小范围进行的,可以找到10帧图像中运动区域共同的中心区域,将这个区域作为人眼的参考区域。
可见,本示例中,在确定用户的人眼的参考区域时,先确定出多帧图像中影像信息发生运动的参考运动区域,再根据这个参考运动区域确定人眼的参考区域,有利于更加准确的定位出人眼的位置。
在一个可能的示例中,所述根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置,包括:确定所述第二人眼影像信息中与所述参考区域对应的目标区域;对所述目标区域进行人眼提取,得到所述第一用户的人眼的目标位置。
举例来说,在根据第一人眼影像信息确定用户的人眼的参考区域之后,可以根据这个参考区域的位置坐标,以及第一人眼影像信息中位置坐标与第二人眼影像信息中的位置坐标的关系,找到第二人眼影像信息中参考区域对应的目标区域,然后对所述目标区域进行人眼提取,得到人眼的目标位置。
可见,本示例中,在根据第一人眼影像信息确定用户的人眼的参考区域之后,通过第二人眼影像信息中区域与第一人眼影像信息中区域的对应关系,确定所述第二人眼影像信息中与所述参考区域对应的目标区域,对所述目标区域进行人眼识别,得到所述第一用户的人眼的目标位置,通过对应关系来确定人眼区域,有利于提高结果的准确性,针对目标区域进行人眼提取,不需要对全部影像信息进行人眼提取,节省了时间。
与上述图2所示的实施例一致的,请参阅图3,图3是本申请实施例提供的另一种人眼位置确定方法的流程示意图,如图所示,所述人眼位置确定方法包括以下步骤:
S301,电子设备通过运动检测摄像头采集第一用户的第一人眼影像信息,并通过眼球追踪摄像头采集所述第一用户的第二人眼影像信息;
其中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间和所述第二图像的第二采集时间相同;
S302,确定所述第一图像中所述第一用户的人眼的第一位置;
S303,根据所述第一图像分辨率和所述第二图像分辨率确定位置补偿系数;
S304,根据所述位置补偿系数放大所述第一位置,得到所述第一用户的人眼的参考区域;
S305,根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
可以看出,本申请实施例中,电子设备通过运动检测摄像头采集第一用户的第一人眼影像信息,并通过眼球追踪摄像头采集所述第一用户的第二人眼影像信息,其中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,再确定所述第一图像中所述第一用户的人眼的第一位置,根据所述第一图像分辨率和所述第二图像分辨率确定位置补偿系数,进而根据所述位置补偿系数放大所述第一位置,得到所述第一用户的人眼的参考区域,最后根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置,其中,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率。所述第一图像第一采集时间和所述第二图像的第二采集时间相同,即所述运动检测摄像头和所述眼球追踪摄像头同时采集图像,有利于减少眼球追踪中人眼位置定位的计算量,加速人眼的提取。
与上图2、图3所示的实施例一致的,请参阅图4,图4是本申请实施例提供的一种电子设备的结构示意图,如图所示,所述电子设备400包括应用处理器410、存储器420、通信接口430以及一个或多个程序421,其中,所述一个或多个程序421被存储在上述存储器420中,且被配置由上述应用处理器410执行,所述一个或多个程序421包括用于执行上述方法实施例中任一步骤的指令。
在一个可能的示例中,所述程序421中的指令用于执行以下操作:
通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率;根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
可以看出,本申请实施例所描述的电子设备,能够通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息,进而根据所述第一人眼影像信息确定用户的人眼的参考区域,再根据所述参考区域以及所述第二人眼影像信息,确定用户的人眼的目标位置所在,其中,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率,有利于降低眼球追踪中人眼位置定位的计算量,加速人眼的提取。
在一个可能的示例中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间和所述第二图像的第二采集时间相同。
在一个可能的示例中,在所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域方面,所述程序421中的指令具体用于执行以下操作:
确定所述第一图像中所述第一用户的人眼的第一位置;根据所述第一图像分辨率和所述第二图像分辨率确定位置补偿系数;根据所述位置补偿系数放大所述第一位置,得到所述第一用户的人眼的参考区域。
在一个可能的示例中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间先于所述第二图像的第二采集时间。
在一个可能的示例中,在所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域方面,所述程序421中的指令具体用于执行以下操作:
确定所述第一图像中所述第一用户的人眼的第一位置;根据所述第一采集时间和所述第二采集时间的时间间隔预测所述第一用户的人眼的参考移动距离;根据所述参考移动距离全向或定向补偿所述第一位置,得到所述第一用户的人眼的参考区域。
在一个可能的示例中,所述第一人眼影像信息包括在由前往后的N1个时间节点连续采集的N1帧图像,N1为大于或等于2的正整数;所述第二人眼影像信息包括在所述N1个时间节点中任意一个时间节点采集到的单张图像。
在一个可能的示例中,在所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域方面,所述程序421中的指令具体用于执行以下操作:
确定所述N1帧图像中影像信息发生运动的参考运动区域;根据所述参考运动区域确定所述第一用户的人眼的参考区域。
在一个可能的示例中,在所述根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置方面,所述程序421中的指令具体用于执行以下操作:
确定所述第二人眼影像信息中与所述参考区域对应的目标区域;对所述目标区域进行人眼提取,得到所述第一用户的人眼的目标位置。
上述主要从方法侧执行过程的角度对本申请实施例的方案进行了介绍。可以理解的是,电子设备为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所提供的实施例描述各个步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例可以根据上述方法示例对电子设备进行功能单元的划分,例如,可以对应各个功能划分各个功能单元,也可以将两个或两个以上的功能集成在一个处理单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。需要说明的是,本申请实施例中对单元的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
图5是本申请实施例提供的一种人眼位置确定装置的功能单元组成框图。该人眼位置确定装置500应用于支持眼球跟踪控制的电子设备,所述电子设备包括运动检测摄像头和眼球追踪摄像头,所述电子设备根据人眼位置确定方法进行人眼位置确定,所述人眼位置确定装置包括:采集单元501、第一确定单元502和第二确定单元503,其中,
所述采集单元501,用于通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率;
所述第一确定单元502,用于根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;
所述第二确定单元503,用于根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
可以看出,本申请实施例提供的一种人眼位置确定装置,能通过运动检测摄像头采集第一用户的第一人眼影像信息,并通过眼球追踪摄像头采集所述第一用户的第二人眼影像信息,进而根据所述第一人眼影像信息确定用户的人眼的参考区域,再根据所述参考区域以及所述第二人眼影像信息,确定用户的人眼的目标位置所在,其中,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率,有利于降低眼球追踪中人眼位置定位的计算量,加速人眼的提取。
在一个可能的示例中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间和所述第二图像的第二采集时间相同。
在一个可能的示例中,在所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域方面,所述第一确定单元具体用于:
确定所述第一图像中所述第一用户的人眼的第一位置;根据所述第一图像分辨率和所述第二图像分辨率确定位置补偿系数;根据所述位置补偿系数放大所述第一位置,得到所述第一用户的人眼的参考区域。
在一个可能的示例中,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间先于所述第二图像的第二采集时间。
在一个可能的示例中,在所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域方面,所述第一确定单元具体用于:
确定所述第一图像中所述第一用户的人眼的第一位置;根据所述第一采集时间和所述第二采集时间的时间间隔预测所述第一用户的人眼的参考移动距离;根据所述参考移动距离全向或定向补偿所述第一位置,得到所述第一用户的人眼的参考区域。
在一个可能的示例中,所述第一人眼影像信息包括在由前往后的N1个时间节点连续采集的N1帧图像,N1为大于或等于2的正整数;所述第二人眼影像信息包括在所述N1个时间节点中任意一个时间节点采集到的单张图像。
在一个可能的示例中,在所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域方面,所述第一确定单元具体用于:
确定所述N1帧图像中影像信息发生运动的参考运动区域;根据所述参考运动区域确定所述第一用户的人眼的参考区域。
在一个可能的示例中,在所述根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置方面,所述第二确定单元具体用于:
确定所述第二人眼影像信息中与所述参考区域对应的目标区域;对所述目标区域进行人眼提取,得到所述第一用户的人眼的目标位置。
可以理解的是,由于方法实施例与装置实施例为相同技术构思的不同呈现形式,因此,本申请中方法实施例部分的内容应同步适配于装置实施例部分,此处不再赘述。
本申请实施例还提供一种计算机存储介质,其中,该计算机存储介质存储用于电子数据交换的计算机程序,该计算机程序使得计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤,上述计算机包括电子设备。
本申请实施例还提供一种计算机程序产品,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。该计算机程序产品可以为一个软件安装包,上述计算机包括电子设备。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置,可通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例上述方法的全部或部分步骤。而前述的存储器包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储器中,存储器可以包括:闪存盘、只读存储器(英文:Read-Only Memory,简称:ROM)、随机存取器(英文:Random Access Memory,简称:RAM)、磁盘或光盘等。
以上对本申请实施例进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (11)
1.一种人眼位置确定方法,其特征在于,应用于电子设备,所述电子设备包括运动检测摄像头和眼球追踪摄像头,所述方法包括:
通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息,所述第一人眼影像信息的第一图像分辨率小于所述第二人眼影像信息的第二图像分辨率;
根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;
根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
2.根据权利要求1所述的方法,其特征在于,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间和所述第二图像的第二采集时间相同。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域,包括:
确定所述第一图像中所述第一用户的人眼的第一位置;
根据所述第一图像分辨率和所述第二图像分辨率确定位置补偿系数;
根据所述位置补偿系数放大所述第一位置,得到所述第一用户的人眼的参考区域。
4.根据权利要求1所述的方法,其特征在于,所述第一人眼影像信息为第一图像,所述第二人眼影像信息为第二图像,所述第一图像第一采集时间先于所述第二图像的第二采集时间。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域,包括:
确定所述第一图像中所述第一用户的人眼的第一位置;
根据所述第一采集时间和所述第二采集时间的时间间隔预测所述第一用户的人眼的参考移动距离;
根据所述参考移动距离全向或定向补偿所述第一位置,得到所述第一用户的人眼的参考区域。
6.根据权利要求1所述的方法,其特征在于,所述第一人眼影像信息包括在由前往后的N1个时间节点连续采集的N1帧图像,N1为大于或等于2的正整数;所述第二人眼影像信息包括在所述N1个时间节点中任意一个时间节点采集到的单张图像。
7.根据权利要求6所述的方法,其特征在于,所述根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域,包括:
确定所述N1帧图像中影像信息发生运动的参考运动区域;
根据所述参考运动区域确定所述第一用户的人眼的参考区域。
8.根据权利要求1-7任一项所述的方法,其特征在于,所述根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置,包括:
确定所述第二人眼影像信息中与所述参考区域对应的目标区域;
对所述目标区域进行人眼提取,得到所述第一用户的人眼的目标位置。
9.一种人眼位置确定装置,其特征在于,应用于电子设备,所述电子设备包括运动检测摄像头和眼球追踪摄像头,所述装置包括:
采集单元,用于通过所述运动检测摄像头采集第一用户的第一人眼影像信息,并通过所述眼球追踪摄像头采集所述第一用户的第二人眼影像信息;
第一确定单元,用于根据所述第一人眼影像信息确定所述第一用户的人眼的参考区域;
第二确定单元,根据所述参考区域和所述第二人眼影像信息确定所述第一用户的人眼的目标位置。
10.一种电子设备,其特征在于,包括处理器、存储器、通信接口,以及一个或多个程序,所述一个或多个程序被存储在所述存储器中,并且被配置由所述处理器执行,所述程序包括用于执行如权利要求1-8任一项所述的方法中的步骤的指令。
11.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911062923.9A CN112749600B (zh) | 2019-10-31 | 2019-10-31 | 人眼位置确定方法及相关产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911062923.9A CN112749600B (zh) | 2019-10-31 | 2019-10-31 | 人眼位置确定方法及相关产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112749600A true CN112749600A (zh) | 2021-05-04 |
CN112749600B CN112749600B (zh) | 2024-03-12 |
Family
ID=75644970
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911062923.9A Active CN112749600B (zh) | 2019-10-31 | 2019-10-31 | 人眼位置确定方法及相关产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112749600B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113221713A (zh) * | 2021-05-06 | 2021-08-06 | 新疆爱华盈通信息技术有限公司 | 一种多媒体播放设备的智能旋转方法、装置及计算机设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140014868A (ko) * | 2012-07-26 | 2014-02-06 | 엘지이노텍 주식회사 | 시선 추적 장치 및 이의 시선 추적 방법 |
KR20140014870A (ko) * | 2012-07-26 | 2014-02-06 | 엘지이노텍 주식회사 | 시선 추적 장치 및 이의 시선 추적 방법 |
CN104580943A (zh) * | 2013-10-28 | 2015-04-29 | 原相科技股份有限公司 | 影像感测系统和方法以及眼球追踪系统和方法 |
CN109271914A (zh) * | 2018-09-07 | 2019-01-25 | 百度在线网络技术(北京)有限公司 | 检测视线落点的方法、装置、存储介质和终端设备 |
CN110114739A (zh) * | 2016-12-23 | 2019-08-09 | 微软技术许可有限责任公司 | 具有低延迟和低功率的眼睛跟踪系统 |
CN110245601A (zh) * | 2019-06-11 | 2019-09-17 | Oppo广东移动通信有限公司 | 眼球追踪方法及相关产品 |
-
2019
- 2019-10-31 CN CN201911062923.9A patent/CN112749600B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140014868A (ko) * | 2012-07-26 | 2014-02-06 | 엘지이노텍 주식회사 | 시선 추적 장치 및 이의 시선 추적 방법 |
KR20140014870A (ko) * | 2012-07-26 | 2014-02-06 | 엘지이노텍 주식회사 | 시선 추적 장치 및 이의 시선 추적 방법 |
CN104580943A (zh) * | 2013-10-28 | 2015-04-29 | 原相科技股份有限公司 | 影像感测系统和方法以及眼球追踪系统和方法 |
CN110114739A (zh) * | 2016-12-23 | 2019-08-09 | 微软技术许可有限责任公司 | 具有低延迟和低功率的眼睛跟踪系统 |
CN109271914A (zh) * | 2018-09-07 | 2019-01-25 | 百度在线网络技术(北京)有限公司 | 检测视线落点的方法、装置、存储介质和终端设备 |
CN110245601A (zh) * | 2019-06-11 | 2019-09-17 | Oppo广东移动通信有限公司 | 眼球追踪方法及相关产品 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113221713A (zh) * | 2021-05-06 | 2021-08-06 | 新疆爱华盈通信息技术有限公司 | 一种多媒体播放设备的智能旋转方法、装置及计算机设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112749600B (zh) | 2024-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11164323B2 (en) | Method for obtaining image tracking points and device and storage medium thereof | |
US20160373723A1 (en) | Device and method for augmented reality applications | |
US10440284B2 (en) | Determination of exposure time for an image frame | |
CN106560840B (zh) | 一种图像信息识别处理方法及装置 | |
EP2602692A1 (en) | Method for recognizing gestures and gesture detector | |
EP3594848B1 (en) | Queue information acquisition method, device and computer readable storage medium | |
US10621730B2 (en) | Missing feet recovery of a human object from an image sequence based on ground plane detection | |
CN105556539A (zh) | 检测兴趣区域的检测装置和方法 | |
EP3748533A1 (en) | Method, apparatus, and storage medium for obtaining object information | |
CN108921212B (zh) | 一种图像匹配方法、移动终端及计算机可读存储介质 | |
CN111667504B (zh) | 一种人脸追踪方法、装置及设备 | |
CN110191369A (zh) | 图像截取方法、装置、设备及存储介质 | |
CN114022531A (zh) | 图像处理方法、电子设备和存储介质 | |
CN109948479B (zh) | 工厂的监控方法、装置及设备 | |
CN111629242A (zh) | 一种图像渲染方法、装置、系统、设备及存储介质 | |
JP6991045B2 (ja) | 画像処理装置、画像処理装置の制御方法 | |
CN112749600A (zh) | 人眼位置确定方法及相关产品 | |
CN110933314B (zh) | 追焦拍摄方法及相关产品 | |
CN117455989A (zh) | 室内场景slam追踪方法、装置、头戴式设备及介质 | |
CN112149431A (zh) | 一种翻译方法及电子设备、可读存储介质 | |
CN113780291B (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
JP2017162179A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN106921826B (zh) | 拍照模式的处理方法及装置 | |
CN106028140A (zh) | 一种终端用户身份登录方法和系统 | |
CN110784648B (zh) | 一种图像处理方法和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |