CN110221696A - 眼球追踪方法及相关产品 - Google Patents

眼球追踪方法及相关产品 Download PDF

Info

Publication number
CN110221696A
CN110221696A CN201910503422.3A CN201910503422A CN110221696A CN 110221696 A CN110221696 A CN 110221696A CN 201910503422 A CN201910503422 A CN 201910503422A CN 110221696 A CN110221696 A CN 110221696A
Authority
CN
China
Prior art keywords
preset
acquisition frame
application program
image acquisition
frame rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910503422.3A
Other languages
English (en)
Other versions
CN110221696B (zh
Inventor
王文东
陈岩
方攀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201910503422.3A priority Critical patent/CN110221696B/zh
Publication of CN110221696A publication Critical patent/CN110221696A/zh
Application granted granted Critical
Publication of CN110221696B publication Critical patent/CN110221696B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements

Abstract

本申请实施例公开了一种眼球追踪方法及相关产品,应用于电子设备,所述方法包括:确定所述电子设备当前运行的第一应用程序;在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。本申请具有用户体验度高的优点。

Description

眼球追踪方法及相关产品
技术领域
本申请涉及电子设备技术领域,具体涉及一种眼球追踪方法及相关产品。
背景技术
随着眼球追踪技术的快速发展,眼球追踪技术在电子设备中的应用逐渐广泛,通过眼球追踪技术,可以实现无需直接触碰便能对电子设备进行控制。
一般情况下,眼球追踪技术的实现需要消耗大量的能源,应用眼球追踪技术的部分电子设备通常需要通过连接电源以支持眼球追踪功能,对于通过电池供电的电子设备来说,眼球追踪功能功耗过高,导致电子设备待机时间缩短、发热严重,用户体验度低下。
发明内容
本申请实施例提供了一种眼球追踪方法及相关产品,能够通过确定当前应用程序的类别,依据类别执行调整图像采集帧率,依据该图像帧率执行眼球跟踪算法,降低了眼球追踪的功耗,提高了用户体验度。
第一方面,本申请实施例提供一种眼球追踪方法,所述方法应用于电子设备,所述方法包括:
确定所述电子设备当前运行的第一应用程序;
在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;
根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
第二方面,本申请实施例提供一种电子设备,所述电子设备包括:处理器,其中:
所述处理器,用于确定所述电子设备当前运行的第一应用程序;在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
第三方面,本申请实施例提供一种眼球追踪装置,应用于电子设备,所述装置包括:
确定单元,用于确定所述电子设备当前运行的第一应用程序;
适配单元,用于在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;
执行单元,用于根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
第四方面,本申请实施例提供一种电子设备,包括处理器、存储器、通信接口以及一个或多个程序,其中,上述一个或多个程序被存储在上述存储器中,并且被配置由上述处理器执行,上述程序包括用于执行本申请实施例第一方面中的步骤的指令。
第五方面,本申请实施例提供了一种计算机可读存储介质,其中,上述计算机可读存储介质存储用于电子数据交换的计算机程序,其中,上述计算机程序使得计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。
第六方面,本申请实施例提供了一种计算机程序产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
可以看出,本申请通过确定所述电子设备当前运行的第一应用程序;在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能,实现了依据当前应用程序调节图像采集帧率,从而降低眼球追踪的功耗,提高了用户体验度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1A是本申请实施例公开的一种电子设备的结构示意图。
图1B是本申请实施例提供的一种眼球追踪方法的流程示意图。
图2A是本申请实施例中提供的一种确定图像采集帧率的方法的流程示意图。
图2B是本申请实施例中提供的一种动态调节采集帧率的方法的流程示意图。
图2C是本申请实施例中提供的一种调节视频应用的图像采集帧率的方法的流程示意图。
图2D是本申请实施例中提供的一种调节游戏应用的图像采集帧率的方法的流程示意图。
图3是本申请实施例中提供的一种电子设备的结构示意图。
图4是本申请实施例中所涉及的图片的眼球追踪装置400的功能单元组成框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结果或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本申请实施例所涉及到的电子设备可以包括各种具有无线通信功能的手持设备(例如智能手机或平板电脑)、计算设备或连接到无线调制解调器的其他处理设备,以及各种形式的用户设备(user equipment,UE),移动台(mobile station,MS),终端设备(terminal device)等等。
下面对本申请实施例进行详细介绍。
请参阅图1A,图1A是本申请实施例公开的一种电子设备的结构示意图,电子设备100包括存储和处理电路110,以及与所述存储和处理电路110连接的传感器170,其中:
电子设备100可以包括控制电路,该控制电路可以包括存储和处理电路110。该存储和处理电路110可以存储器,例如硬盘驱动存储器,非易失性存储器(例如闪存或用于形成固态驱动器的其它电子可编程只读存储器等),易失性存储器(例如静态或动态随机存取存储器等)等,本申请实施例不作限制。存储和处理电路110中的处理电路可以用于控制电子设备100的运转。该处理电路可以基于一个或多个微处理器,微控制器,数字信号处理器,基带处理器,功率管理单元,音频编解码器芯片,专用集成电路,显示驱动器集成电路等来实现。
存储和处理电路110可用于运行电子设备100中的软件,例如互联网浏览应用程序,互联网协议语音(Voice over Internet Protocol,VOIP)电话呼叫应用程序,电子邮件应用程序,媒体播放应用程序,操作系统功能等。这些软件可以用于执行一些控制操作,例如,基于照相机的图像采集,基于环境光传感器的环境光测量,基于接近传感器的接近传感器测量,基于诸如发光二极管的状态指示灯等状态指示器实现的信息显示功能,基于触摸传感器的触摸事件检测,与在多个(例如分层的)显示屏上显示信息相关联的功能,与执行无线通信功能相关联的操作,与收集和产生音频信号相关联的操作,与收集和处理按钮按压事件数据相关联的控制操作,以及电子设备100中的其它功能等,本申请实施例不作限制。
电子设备100可以包括输入-输出电路150。输入-输出电路150可用于使电子设备100实现数据的输入和输出,即允许电子设备100从外部设备接收数据和也允许电子设备100将数据从电子设备100输出至外部设备。输入-输出电路150可以进一步包括传感器170。传感器170包括物质传感器,还可以包括环境光传感器,基于光和电容的接近传感器,指纹识别模组,触摸传感器(例如,基于光触摸传感器和/或电容式触摸传感器,其中,物质传感器用于采集皮肤电容量,触摸传感器可以是触控显示屏的一部分,也可以作为一个触摸传感器结构独立使用),加速度传感器,摄像头,和其它传感器等,摄像头可以为前置摄像头或者后置摄像头,指纹识别模组可集成于显示屏下方,用于采集指纹图像,指纹识别模组可以为以下至少一种:光学指纹识别模组、或者超声波指纹识别模组等等,在此不作限定。上述前置摄像头可以设置前面显示屏的下方,上述后置摄像头可以设置在后面显示屏的下方。当然上述前置摄像头或后置摄像头也可以不和显示屏集成设置,当然在实际应用中,上述前置摄像头或后置摄像头还可以为升降结构,本申请具体实施方式并不限制上述前置摄像头或后置摄像头的具体结构。
输入-输出电路150还可以包括一个或多个显示屏,当为多个显示屏时,例如2个显示屏时,一个显示屏可以设置在电子设备的前面,另一个显示屏可以设置在电子设备的后面,例如显示屏130。显示屏130可以包括液晶显示屏,有机发光二极管显示屏,电子墨水显示屏,等离子显示屏,使用其它显示技术的显示屏中一种或者几种的组合。显示屏130可以包括触摸传感器阵列(即,显示屏130可以是触控显示屏)。触摸传感器可以是由透明的触摸传感器电极(例如氧化铟锡(ITO)电极)阵列形成的电容式触摸传感器,或者可以是使用其它触摸技术形成的触摸传感器,例如音波触控,压敏触摸,电阻触摸,光学触摸等,本申请实施例不作限制。
电子设备100还可以包括音频组件140。音频组件140可以用于为电子设备100提供音频输入和输出功能。电子设备100中的音频组件140可以包括扬声器,麦克风,蜂鸣器,音调发生器以及其它用于产生和检测声音的组件。
通信电路120可以用于为电子设备100提供与外部设备通信的能力。通信电路120可以包括模拟和数字输入-输出接口电路,和基于射频信号和/或光信号的无线通信电路。通信电路120中的无线通信电路可以包括射频收发器电路、功率放大器电路、低噪声放大器、开关、滤波器和天线。举例来说,通信电路120中的无线通信电路可以包括用于通过发射和接收近场耦合电磁信号来支持近场通信(Near Field Communication,NFC)的电路。例如,通信电路120可以包括近场通信天线和近场通信收发器。通信电路120还可以包括蜂窝电话收发器和天线,无线局域网收发器电路和天线等。
电子设备100还可以进一步包括电池,电力管理电路和其它输入-输出单元160。输入-输出单元160可以包括按钮,操纵杆,点击轮,滚动轮,触摸板,小键盘,键盘,照相机,发光二极管和其它状态指示器等。
用户可以通过输入-输出电路150输入命令来控制电子设备100的操作,并且可以使用输入-输出电路150的输出数据以实现接收来自电子设备100的状态信息和其它输出。
基于上述图1A所描述的电子设备,可以用于实现如下功能:
所述处理器,用于确定所述电子设备当前运行的第一应用程序;在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。在一种可选的技术方案中,
存储和处理电路110,具体用于获取预设的分类规则,从所述分类规则中获取多个类别与所述多个类别对应的多个设定程序集;对所述第一应用程序与所述多个设定程序集执行匹配操作,确定所述多个设定程序集中包含所述第一应用程序的第一设定程序集;确定所述第一设定程序集对应的类别为所述第一应用程序对应的第一类别;依据类别与采集帧率的映射关系确定所述第一类别对应的采集帧率为所述第一图像采集帧率。
在一种可选的技术方案中,
存储和处理电路110,具体用于获取所述电子设备所运行的多个应用程序中每个应用程序所占用的中央处理器使用率,确定所述多个应用程序中所述中央处理器使用率中的最大值对应的应用程序为所述第一应用程序。
在一种可选的技术方案中,
存储和处理电路110,具体用于接收预设时间内的多个图像数据,对所述多个图像数据执行眼球追踪算法得到多个眼球坐标;从所述多个眼球坐标中确定基准坐标,计算所述多个眼球坐标与所述基准坐标的多个坐标距离,计算所述多个坐标距离对应的均方差,判断所述均方差是否小于预设的第一阈值,如所述均方差小于所述第一阈值,依据预设的第一采集帧率对所述第一图像采集帧率进行更新;如所述均方差不小于所述第一阈值,判断所述均方差是否大于预设的第二阈值,如所述均方差不大于所述第二阈值,依据预设的第二采集帧率对所述第一图像采集帧率进行更新;如所述均方差大于所述第二阈值,依据预设的第三采集帧率对所述第一图像采集帧率进行更新。
在一种可选的技术方案中,
存储和处理电路110,具体用于如所述第一应用程序为视频应用,所述预设功能为播放进度调节功能;获取环境亮度数据,判断所述环境亮度数据是否小于预设的亮度阈值,如所述环境亮度数据小于所述预设的亮度阈值,获取预设的第一规则,依据所述第一规则对所述第一图像采集帧率进行更新;如所述环境亮度数据不小于所述预设的亮度阈值,获取预设的第二规则,依据所述第二规则对所述第一图像采集帧率进行更新。
存储和处理电路110,还用于如所述第一应用程序为游戏应用,所述预设功能为视角调节功能;获取当前游戏时长,判断所述游戏时长是否大于预设的时间阈值,如所述游戏时长大于所述预设的时间阈值,获取预设的第三规则,依据所述第三规则对所述第一图像采集帧率进行更新;如所述游戏时长小于所述预设的时间阈值,获取预设的第四规则,依据所述第四规则对所述第一图像采集帧率进行更新。
请参阅图1B,图1B是本申请实施例提供的一种眼球追踪方法的流程示意图,如图所示,应用于如图1A所示的电子设备,本眼球追踪方法包括:
步骤101、确定所述电子设备当前运行的第一应用程序。
可选的,获取该电子设备所运行的多个应用程序中每个应用程序所占用的中央处理器使用率,确定该多个应用程序中该中央处理器使用率中的最大值对应的应用程序为第一应用程序,例如,获取到电子设备运行的四个应用程序对应的四个中央处理器使用率,第一应用的第一中央处理器使用率为10%,第二应用的第二中央处理器使用率为1%,第三应用的第三中央处理器使用率为0.5%,第四应用的第四中央处理器使用率为0.2%,则确定第一应用为该第一应用程序。
步骤102、在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现。
可选的,检测到第一应用程序的预设功能的启用请求时,例如,如第一应用程序为视频应用,则该预设功能可以包括:播放进度调节功能,如第一应用程序为游戏应用,则该预设功能可以包括:视角调节功能,如第一应用为办公应用,则该预设功能可以包括:文件阅读控制功能,在此不做限定;确定失配该第一应用程序的第一图像采集帧率,其中,具体包括:获取预设的分类规则,从该分类规则中获取多个类别、多个类别对应的多个设定程序集,该多个设定程序集中的任一设定程序集包括:一个或一个以上应用程序,对该第一应用程序与该多个设定程序集执行匹配操作,该匹配操作用于确定该多个设定程序集中包含该第一应用程序的设定程序集,确定该设定程序集为第一设定程序集,确定第一设定程序集对应的第一类别;获取类别与采集帧率的映射关系,依据该类别与采集帧率的映射关系确定该第一类别对应的第一图像采集帧率。
进一步地,该第一应用程序的预设功能通过该电子设备预先配置的眼球追踪算法实现,该眼球追踪算法可以包括:眼球中心定位跟踪算法等,在此不作限定。
步骤103、根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
可选的,依据该第一图像采集帧率启动摄像模组,接收预设时间内的多个图像数据,对该多个图像数据执行眼球追踪算法得到多个眼球坐标,其中,对该多个图像数据执行眼球追踪算法得到多个眼球坐标具体包括:对图像数据进行预处理,预处理包括:图像二值化、归一化、平滑滤波、小波变换等等,在此不作限定,得到处理后的图像数据,将预处理后的图像数据作为训练好的的特征提取模型的输入。得到预处理后的图像数据对应的特征,依据特征确定图像数据中的眼部位置,其中,依据特征确定图像数据中的眼部位置包括:依据特征确定图像数据中亮度最大的位置、依据特征确定图像中包含的圆形的位置等等,在此不作限定,依据裁剪该眼部位置对应的眼部图像,对该眼部图像执行眼球追踪计算,眼球追踪计算用于依据眼部图像计算该眼部图像对应的视线坐标。
进一步地,从该多个眼球坐标中确定基准坐标,计算该多个眼球坐标与该基准坐标的坐标距离,计算该多个坐标距离对应的均方差,获取预设的第一阈值,判断该均方差是否小于该第一阈值,如该均方差小于该第一阈值,依据预设的第一采集帧率对该第一图像采集帧率进行更新,如该均方差不小于该第一阈值,获取预设的第二阈值,如该均方差不大于该第二阈值,依据预设的第二采集帧率对该第一图像采集帧率进行更新,如该均方差大于该第二阈值,依据预设的第三采集帧率对该第一图像采集帧率进行更新;依据该第一图像采集帧率执行眼球追踪算法完成预设功能。
上述终端启动摄像模组的方式可以有多种,例如在一种可选的实施例中,可以通过一个特定的按钮来确定是否启动摄像模组。当然在另一种可选的实施例中,可以通过满足设定触发条件时,启动摄像模组采集的皮肤电容量,该触发条件可以是一个特定的操作来确定是否启动物质传感器,该特定的操作包括但不限于,特定的手势、或者生物识别验证,该生物识别验证包括但不限于:人脸识别验证、指纹识别验证、静脉识别验证等等。本申请具体实施方式并不限制上述启动摄像模组的方案。
可选的,确定该第一应用程序是否为视频应用,如确定该第一应用程序为视频应用,确定该第一应用程序的预设功能,该预设功能可以包括:播放进度调节功能;依据该第一图像采集帧率执行眼球追踪算法后,获取当前的环境亮度数据,获取预设的亮度阈值,判断该环境亮度数据是否小于该亮度阈值,如该环境亮度数据小于该亮度阈值,获取预设的第一规则,依据该第一规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能;如该环境亮度数据不小于该亮度阈值,获取预设的第二规则,依据该第二规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
可选的,获取第一图像采集帧率后,确定该第一应用程序是否为游戏应用,如确定该第一应用程序为游戏应用,确定该第一应用程序的预设功能,该预设功能可以包括:视角调节功能;依据该第一图像采集帧率执行眼球追踪算法后,获取当前的游戏时长,获取预设的时间阈值,判断该游戏时长是否小于该时间阈值,如该游戏时长小于该时间阈值,获取预设的第三规则,依据该第三规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能;如该游戏时长不小于该时间阈值,获取预设的第二规则,依据该第二规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
参阅图2A,图2A提供了一种确定图像采集帧率的方法,如图2A所示的确定图像采集帧率的方法采用如图1A所示的电子设备执行,该方法如图2A所示,包括如下步骤:
步骤201A、获取预设的分类规则,从所述分类规则中获取多个类别与所述多个类别对应的多个设定程序集。
可选的,获取预设的分类规则,该分类规则包括:多个类别与多个类别对应的多个设定程序集,该多个设定程序集中的任一设定程序集包括:一个或一个以上设定程序。
步骤202A、对所述第一应用程序与所述多个设定程序集执行匹配操作,确定所述多个设定程序集中包含所述第一应用程序的第一设定程序集。
可选的,对该第一应用程序与该多个设定程序集执行匹配操作,该匹配操作用于确定该多个设定程序集中包含该第一应用程序的设定程序集,确定该设定程序集为第一设定程序集,其中,该匹配操作具体包括:从该多个设定程序集中确定第一待定设定程序集,判断该第一待定设定程序集是否包括该第一应用程序,如该第一待定设定程序包括该第一应用程序,确定该第一待定设定程序集为该第一设定程序集;如该第一待定设定程序不包括该第一应用程序,获取第二待定设定程序集,判断该第二待定设定程序集是否包括该第一应用程序,如该第二待定设定程序集包括该第一应用程序,确定该第二待定设定程序集为该第一设定程序集。
步骤203A、确定所述第一设定程序集对应的类别为所述第一应用程序对应的第一类别,依据类别与采集帧率的映射关系确定所述第一类别对应的采集帧率为所述第一图像采集帧率。
可选的,确定该第一设定程序集对应的类别为该第一应用程序对应的第一类别,获取类别与采集帧率的映射关系,依据该类别与采集帧率的映射关系确定该第一类别对应的采集帧率为第一图像采集帧率。
参阅图2B,图2B提供了一种动态调节采集帧率的方法,如图2B所示的动态调节采集帧率的方法采用如图1A所示的电子设备执行,该方法如图2B所示,包括如下步骤:
步骤201B、接收预设时间内的多个图像数据,对所述多个图像数据执行眼球追踪算法得到多个眼球坐标。
可选的,依据该第一图像采集帧率启动摄像模组,接收预设时间内的多个图像数据,对该多个图像数据执行眼球追踪算法得到多个眼球坐标,其中,对该多个图像数据执行眼球追踪算法得到多个眼球坐标具体包括:对图像数据进行预处理,预处理包括:图像二值化、归一化、平滑滤波、小波变换等等,在此不作限定,得到处理后的图像数据,将预处理后的图像数据作为训练好的的特征提取模型的输入。得到预处理后的图像数据对应的特征,依据特征确定图像数据中的眼部位置,其中,依据特征确定图像数据中的眼部位置包括:依据特征确定图像数据中亮度最大的位置、依据特征确定图像中包含的圆形的位置等等,在此不作限定,依据裁剪该眼部位置对应的眼部图像,对该眼部图像执行眼球追踪计算,眼球追踪计算用于依据眼部图像计算该眼部图像对应的视线坐标。
步骤202B、从所述多个眼球坐标中确定基准坐标,计算所述多个眼球坐标与所述基准坐标的多个坐标距离,计算所述多个坐标距离对应的均方差,判断所述均方差是否小于预设的第一阈值,如所述均方差小于所述第一阈值,依据预设的第一采集帧率对所述第一图像采集帧率进行更新。
可选的,从该多个眼球坐标中确定基准坐标,依据笛卡尔距离公式一次计算该基准坐标与该多个眼球坐标的多个坐标距离,获取均方差计算公式,依据该均方差计算公式计算该多个坐标距离的均方差,获取预设的第一阈值,判断该均方差是否大于该第一阈值,如该均方差大于该第一阈值,获取第一阈值对应的第一采集帧率,依据该第一采集帧率对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
步骤203B、如所述均方差不小于所述第一阈值,判断所述均方差是否大于预设的第二阈值,如所述均方差不大于所述第二阈值,依据预设的第二采集帧率对所述第一图像采集帧率进行更新,如所述均方差大于所述第二阈值,依据预设的第三采集帧率对所述第一图像采集帧率进行更新。
可选的,如该均方差不小于该第一阈值,获取预设的第二阈值,判断该均方差是否大于该第二阈值,如该均方差不大于该第二阈值,获取该第二阈值对应的第二采集帧率,依据该第二采集帧率对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能;如该均方差大于该第二阈值,获取该第二阈值对应的第三采集帧率,依据该第三采集帧率对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
参阅图2C,图2C提供了一种调节视频应用的图像采集帧率的方法,如图2C所示的调节视频应用的图像采集帧率采用如图1A所示的电子设备执行,该方法如图2C所示,包括如下步骤:
步骤201C、确定所述第一应用程序为视频应用,所述预设功能为播放进度调节功能。
可选的,获取第一图像采集帧率后,确定该第一应用程序是否为视频应用,如确定该第一应用程序为视频应用,确定该第一应用程序的预设功能,该预设功能可以包括:播放进度调节功能。
步骤202C、获取环境亮度数据,判断所述环境亮度数据是否小于预设的亮度阈值,如所述环境亮度数据小于所述预设的亮度阈值,获取预设的第一规则,依据所述第一规则对所述第一图像采集帧率进行更新。
可选的,依据该第一图像采集帧率执行眼球追踪算法后,获取当前的环境亮度数据,获取预设的亮度阈值,判断该环境亮度数据是否小于该亮度阈值,如该环境亮度数据小于该亮度阈值,获取预设的第一规则,依据该第一规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
步骤203C、如所述环境亮度数据不小于所述预设的亮度阈值,获取预设的第二规则,依据所述第二规则对所述第一图像采集帧率进行更新。
可选的,如该环境亮度数据不小于该亮度阈值,获取预设的第二规则,依据该第二规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
参阅图2D,图2D提供了一种调节游戏应用的图像采集帧率的方法,如图2D所示的调节游戏应用的图像采集帧率的方法采用如图1A所示的电子设备执行,该方法如图2D所示,包括如下步骤:
步骤201D、确定所述第一应用程序为游戏应用,所述预设功能为视角调节功能。
可选的,获取第一图像采集帧率后,确定该第一应用程序是否为游戏应用,如确定该第一应用程序为游戏应用,确定该第一应用程序的预设功能,该预设功能可以包括:视角调节功能。
步骤202D、获取当前游戏时长,判断所述游戏时长是否大于预设的时间阈值,如所述游戏时长大于所述预设的时间阈值,获取预设的第三规则,依据所述第三规则对所述第一图像采集帧率进行更新。
可选的,依据该第一图像采集帧率执行眼球追踪算法后,获取当前的游戏时长,获取预设的时间阈值,判断该游戏时长是否小于该时间阈值,如该游戏时长小于该时间阈值,获取预设的第三规则,依据该第三规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
步骤203D、如所述游戏时长小于所述预设的时间阈值,获取预设的第四规则,依据所述第四规则对所述第一图像采集帧率进行更新。
可选的,如该游戏时长不小于该时间阈值,获取预设的第二规则,依据该第二规则对该第一图像采集帧率进行更新,得到更新后的第一图像采集帧率,依据该更新后的第一图像采集帧率执行眼球追踪计算以完成预设功能。
如图3所示,图3提供了一种电子设备,该所述电子设备包括处理器301和存储器302,其中
所述处理器301,用于确定所述电子设备当前运行的第一应用程序;在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
在一种可选的实施方案中,处理器301,具体用于获取预设的分类规则,从所述分类规则中获取多个类别与所述多个类别对应的多个设定程序集;对所述第一应用程序与所述多个设定程序集执行匹配操作,确定所述多个设定程序集中包含所述第一应用程序的第一设定程序集;确定所述第一设定程序集对应的类别为所述第一应用程序对应的第一类别,依据类别与采集帧率的映射关系确定所述第一类别对应的采集帧率为所述第一图像采集帧率。
在一种可选的实施方案中,处理器301,具体用于:获取所述电子设备所运行的多个应用程序中每个应用程序所占用的中央处理器使用率,确定所述多个应用程序中所述中央处理器使用率中的最大值对应的应用程序为所述第一应用程序。
在一种可选的实施方案中,处理器301,具体用于:接收预设时间内的多个图像数据,对所述多个图像数据执行眼球追踪算法得到多个眼球坐标;从所述多个眼球坐标中确定基准坐标,计算所述多个眼球坐标与所述基准坐标的多个坐标距离,计算所述多个坐标距离对应的均方差,判断所述均方差是否小于预设的第一阈值,如所述均方差小于所述第一阈值,依据预设的第一采集帧率对所述第一图像采集帧率进行更新;如所述均方差不小于所述第一阈值,判断所述均方差是否大于预设的第二阈值,如所述均方差不大于所述第二阈值,依据预设的第二采集帧率对所述第一图像采集帧率进行更新;如所述均方差大于所述第二阈值,依据预设的第三采集帧率对所述第一图像采集帧率进行更新。
在一种可选的实施方案中,处理器301,具体用于:如所述第一应用程序为视频应用,所述预设功能为播放进度调节功能;获取环境亮度数据,判断所述环境亮度数据是否小于预设的亮度阈值,如所述环境亮度数据小于所述预设的亮度阈值,获取预设的第一规则,依据所述第一规则对所述第一图像采集帧率进行更新;如所述环境亮度数据不小于所述预设的亮度阈值,获取预设的第二规则,依据所述第二规则对所述第一图像采集帧率进行更新。
在一种可选的实施方案中,处理器301,具体用于:如所述第一应用程序为游戏应用,所述预设功能为视角调节功能;获取当前游戏时长,判断所述游戏时长是否大于预设的时间阈值,如所述游戏时长大于所述预设的时间阈值,获取预设的第三规则,依据所述第三规则对所述第一图像采集帧率进行更新;如所述游戏时长小于所述预设的时间阈值,获取预设的第四规则,依据所述第四规则对所述第一图像采集帧率进行更新。
图4是本申请实施例中所涉及的图片的眼球追踪装置400的功能单元组成框图。该图片的眼球追踪装置400,应用于电子设备,所述装置400包括:确定单元401、适配单元402和执行单元403,其中,
确定单元401,用于确定所述电子设备当前运行的第一应用程序;
适配单元402,用于在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;
执行单元403,用于根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
本申请实施例还提供一种计算机存储介质,其中,该计算机存储介质存储用于电子数据交换的计算机程序,该计算机程序使得计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤,上述计算机包括电子设备。
本申请实施例还提供一种计算机程序产品,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。该计算机程序产品可以为一个软件安装包,上述计算机包括电子设备。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置,可通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例上述方法的全部或部分步骤。而前述的存储器包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储器中,存储器可以包括:闪存盘、只读存储器(英文:Read-Only Memory,简称:ROM)、随机存取器(英文:Random Access Memory,简称:RAM)、磁盘或光盘等。
以上对本申请实施例进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

Claims (10)

1.一种眼球追踪方法,其特征在于,应用于电子设备,所述方法包括:
确定所述电子设备当前运行的第一应用程序;
在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;
根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
2.根据权利要求1所述的方法,其特征在于,所述确定适配所述第一应用程序的第一图像采集帧率包括:
获取预设的分类规则,从所述分类规则中获取多个类别与所述多个类别对应的多个设定程序集;
对所述第一应用程序与所述多个设定程序集执行匹配操作,确定所述多个设定程序集中包含所述第一应用程序的第一设定程序集;
确定所述第一设定程序集对应的类别为所述第一应用程序对应的第一类别,依据类别与采集帧率的映射关系确定所述第一类别对应的采集帧率为所述第一图像采集帧率。
3.根据权利要求1所述的方法,其特征在于,所述确定所述电子设备当前运行的第一应用程序包括:
获取所述电子设备所运行的多个应用程序中每个应用程序所占用的中央处理器使用率,确定所述多个应用程序中所述中央处理器使用率中的最大值对应的应用程序为所述第一应用程序。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能包括:
接收预设时间内的多个图像数据,对所述多个图像数据执行眼球追踪算法得到多个眼球坐标;
从所述多个眼球坐标中确定基准坐标,计算所述多个眼球坐标与所述基准坐标的多个坐标距离,计算所述多个坐标距离对应的均方差,判断所述均方差是否小于预设的第一阈值,如所述均方差小于所述第一阈值,依据预设的第一采集帧率对所述第一图像采集帧率进行更新;
如所述均方差不小于所述第一阈值,判断所述均方差是否大于预设的第二阈值,如所述均方差不大于所述第二阈值,依据预设的第二采集帧率对所述第一图像采集帧率进行更新;
如所述均方差大于所述第二阈值,依据预设的第三采集帧率对所述第一图像采集帧率进行更新。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述确定适配所述第一应用程序的第一图像采集帧率之后还包括:
如所述第一应用程序为视频应用,所述预设功能为播放进度调节功能;
获取环境亮度数据,判断所述环境亮度数据是否小于预设的亮度阈值,如所述环境亮度数据小于所述预设的亮度阈值,获取预设的第一规则,依据所述第一规则对所述第一图像采集帧率进行更新;
如所述环境亮度数据不小于所述预设的亮度阈值,获取预设的第二规则,依据所述第二规则对所述第一图像采集帧率进行更新。
6.根据权利要求1-4任一项所述的方法,其特征在于,所述确定适配所述第一应用程序的第一图像采集帧率之后包括:
如所述第一应用程序为游戏应用,所述预设功能为视角调节功能;
获取当前游戏时长,判断所述游戏时长是否大于预设的时间阈值,如所述游戏时长大于所述预设的时间阈值,获取预设的第三规则,依据所述第三规则对所述第一图像采集帧率进行更新;
如所述游戏时长小于所述预设的时间阈值,获取预设的第四规则,依据所述第四规则对所述第一图像采集帧率进行更新。
7.一种电子设备,其特征在于,所述电子设备包括:处理器,其中:
所述处理器,用于确定所述电子设备当前运行的第一应用程序;在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
8.一种眼球追踪装置,其特征在于,包括:
确定单元,用于确定所述电子设备当前运行的第一应用程序;
适配单元,用于在检测到针对所述第一应用程序的预设功能的启用请求时,确定适配所述第一应用程序的第一图像采集帧率,所述预设功能通过所述电子设备预配置的眼球追踪算法实现;
执行单元,用于根据所述第一图像采集帧率执行眼球追踪算法,以完成所述预设功能。
9.一种电子设备,其特征在于,包括处理器、存储器,所述存储器用于存储一个或多个程序,并且被配置由所述处理器执行,所述程序包括用于执行如权利要求1-6任一项所述的方法中的步骤的指令。
10.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-6任一项所述的方法。
CN201910503422.3A 2019-06-11 2019-06-11 眼球追踪方法及相关产品 Active CN110221696B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910503422.3A CN110221696B (zh) 2019-06-11 2019-06-11 眼球追踪方法及相关产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910503422.3A CN110221696B (zh) 2019-06-11 2019-06-11 眼球追踪方法及相关产品

Publications (2)

Publication Number Publication Date
CN110221696A true CN110221696A (zh) 2019-09-10
CN110221696B CN110221696B (zh) 2021-06-08

Family

ID=67816447

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910503422.3A Active CN110221696B (zh) 2019-06-11 2019-06-11 眼球追踪方法及相关产品

Country Status (1)

Country Link
CN (1) CN110221696B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113626778A (zh) * 2020-05-08 2021-11-09 百度在线网络技术(北京)有限公司 用于唤醒设备的方法、装置、电子设备和计算机存储介质
CN117148959A (zh) * 2023-02-27 2023-12-01 荣耀终端有限公司 眼动追踪的帧率调整方法及相关装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160035419A (ko) * 2014-09-23 2016-03-31 주식회사 비주얼캠프 두부 착용형 시선 추적 입력 장치 및 이를 이용하는 입력 방법
CN106816134A (zh) * 2017-01-24 2017-06-09 广东欧珀移动通信有限公司 显示帧率调整方法、装置和终端设备
CN109426331A (zh) * 2017-08-25 2019-03-05 上海拆名晃信息科技有限公司 一种应用于眼球追踪的信号同步方法
CN109460706A (zh) * 2018-09-30 2019-03-12 北京七鑫易维信息技术有限公司 应用于终端的眼球追踪信息处理方法和装置
CN109542217A (zh) * 2018-10-12 2019-03-29 深圳市元征科技股份有限公司 一种眼球追踪显示方法以及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160035419A (ko) * 2014-09-23 2016-03-31 주식회사 비주얼캠프 두부 착용형 시선 추적 입력 장치 및 이를 이용하는 입력 방법
CN106816134A (zh) * 2017-01-24 2017-06-09 广东欧珀移动通信有限公司 显示帧率调整方法、装置和终端设备
CN109426331A (zh) * 2017-08-25 2019-03-05 上海拆名晃信息科技有限公司 一种应用于眼球追踪的信号同步方法
CN109460706A (zh) * 2018-09-30 2019-03-12 北京七鑫易维信息技术有限公司 应用于终端的眼球追踪信息处理方法和装置
CN109542217A (zh) * 2018-10-12 2019-03-29 深圳市元征科技股份有限公司 一种眼球追踪显示方法以及装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113626778A (zh) * 2020-05-08 2021-11-09 百度在线网络技术(北京)有限公司 用于唤醒设备的方法、装置、电子设备和计算机存储介质
CN113626778B (zh) * 2020-05-08 2024-04-02 百度在线网络技术(北京)有限公司 用于唤醒设备的方法、装置、电子设备和计算机存储介质
CN117148959A (zh) * 2023-02-27 2023-12-01 荣耀终端有限公司 眼动追踪的帧率调整方法及相关装置

Also Published As

Publication number Publication date
CN110221696B (zh) 2021-06-08

Similar Documents

Publication Publication Date Title
CN109583356A (zh) 指纹识别方法及相关产品
CN110286738A (zh) 指纹采集方法及相关产品
CN104765446A (zh) 电子设备和控制电子设备的方法
CN110287925A (zh) 阅读翻页控制方法及相关产品
CN109614865A (zh) 指纹识别方法及相关产品
CN107016337B (zh) 一种指纹识别方法及移动终端
CN109283996A (zh) 显示控制方法及相关产品
CN110099219A (zh) 全景拍摄方法及相关产品
CN109543570A (zh) 指纹识别方法及相关产品
CN108769377A (zh) 天线控制方法及相关产品
CN110475020A (zh) 设备控制方法及相关产品
CN109376700A (zh) 指纹识别方法及相关产品
CN110210395A (zh) 静脉图像采集方法及相关产品
CN110427741A (zh) 指纹识别方法及相关产品
CN109144454A (zh) 双面屏显示控制方法及相关产品
CN110363535A (zh) 支付异常提醒方法及相关产品
CN110221696A (zh) 眼球追踪方法及相关产品
CN110188666A (zh) 静脉采集方法及相关产品
CN110276328A (zh) 指纹识别方法及相关产品
CN113253964A (zh) 数据管理方法、装置、设备及存储介质
CN108874281A (zh) 一种应用程序启动方法及终端设备
CN108989546A (zh) 电子装置的接近检测方法及相关产品
CN108668018A (zh) 移动终端、音量控制方法及相关产品
CN110244848B (zh) 阅读控制方法及相关设备
CN110263757A (zh) 指纹识别方法及相关产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant