CN115083325A - 一种设备控制方法、装置、电子设备和存储介质 - Google Patents

一种设备控制方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN115083325A
CN115083325A CN202210586095.4A CN202210586095A CN115083325A CN 115083325 A CN115083325 A CN 115083325A CN 202210586095 A CN202210586095 A CN 202210586095A CN 115083325 A CN115083325 A CN 115083325A
Authority
CN
China
Prior art keywords
user
display screen
eye
viewing
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210586095.4A
Other languages
English (en)
Inventor
杨亚军
游城
魏学华
杨克庆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Stereo Technology Co ltd
Original Assignee
Shenzhen Stereo Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Stereo Technology Co ltd filed Critical Shenzhen Stereo Technology Co ltd
Priority to CN202210586095.4A priority Critical patent/CN115083325A/zh
Publication of CN115083325A publication Critical patent/CN115083325A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0041Operational features thereof characterised by display arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0041Operational features thereof characterised by display arrangements
    • A61B3/005Constructional features of the display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0075Apparatus for testing the eyes; Instruments for examining the eyes provided with adjusting devices, e.g. operated by control lever
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/14Arrangements specially adapted for eye photography

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明实施例刚开了一种设备控制方法、装置、电子设备和存储介质,设备控制方法应用在终端中,终端设置有显示屏幕,方法包括:获取用户眼睛的第一眼部参数,第一眼部参数用于表征用户眼睛虹膜的位置;根据第一眼部参数确定用户眼睛与显示屏幕之间的观看信息,其中,观看信息包括第一观看距离、观看角度和观看时间;并根据第一眼部参数判断用户眼睛是否注视在显示屏幕上,得到判断结果;当判断结果表征用户注视在显示屏幕上,根据观看信息确定显示屏幕的工作模式。本发明在进行显示屏幕控制的时候,可以在用户注视显示屏幕时才执行控制,并根据观看信息确定显示屏幕的工作模式,从而提升用户体验,有利于近视防控。

Description

一种设备控制方法、装置、电子设备和存储介质
技术领域
本发明涉及显示控制技术领域,特别是涉及一种设备控制方法、装置、电子设备和存储介质。
背景技术
长时间近距离平面固视是近视形成的第一大主因,平面固视顾名思义就是人的眼睛在一个相对固定的视线距离内,观看二维平面的事物。
目前为了避免用户长时间观看显示屏幕,通过显示屏幕页面内容的观看时间对显示屏幕进行控制,如根据视频播放固定时间、游戏的游玩时间或者屏幕的点亮时长等。然而,通上述页面内容来得到的观看时间对显示屏幕进行控制容易出现误判,如显示屏幕在显示时用户不一定正在观看屏幕,此时对显示屏幕进行控制就会影响用户体验。
发明内容
本发明实施例提供了一种设备控制方法、装置、电子设备和存储介质,能够根据用户眼睛是否观看显示屏幕进行设备控制,提升用户体验,有利于近视防控。
第一方面,本发明实施例提供了一种设备控制方法,应用在终端中,所述终端设置有显示屏幕,包括:获取用户眼睛的第一眼部参数,所述第一眼部参数用于表征用户眼睛虹膜的位置;根据所述第一眼部参数确定用户眼睛与所述显示屏幕之间的观看信息,其中,所述观看信息包括第一观看距离、观看角度和观看时间;并根据所述第一眼部参数判断用户眼睛是否注视在所述显示屏幕上,得到判断结果;当所述判断结果表征用户注视在所述显示屏幕上,根据所述观看信息确定所述显示屏幕的工作模式。
在一些实施例中,所述终端设置有前置摄像头;所述获取用户眼睛的第一眼部参数,包括:获取用户的脸部图像,所述脸部图像是由所述前置摄像头拍摄得到的;根据所述脸部图像解析得到第一眼眶位置信息和第一虹膜位置信息,其中,所述第一眼眶位置信息用于表征用户眼眶的位置,所述第一虹膜位置信息用于表征用户眼睛虹膜的位置;根据所述第一眼眶位置信息和所述第一虹膜位置信息得到第一眼部参数。
在一些实施例中,所述观看信息包括第一观看距离;所述根据所述第一眼部参数判断用户眼睛是否注视在所述显示屏幕上,得到判断结果,包括:控制所述显示屏幕进行显示;获取所述显示屏幕在用户眼睛上的第一光影;根据所述第一观看距离、所述第一眼部参数和所述第一光影判断用户眼睛是否注视在所述显示屏幕上,得到所述判断结果。
在一些实施例中,所述根据所述第一观看距离、所述第一眼部参数和所述第一光影判断用户眼睛是否注视在所述显示屏幕上,得到判断结果,包括:根据所述第一观看距离匹配对应距离下的坐标映射关系表;计算所述第一光影的光影坐标;根据所述第一眼部参数和所述光影坐标,在所述坐标映射关系表中查表得到查表结果;根据所述查表结果中是否存在用户眼睛注视在所述显示屏幕上的注视坐标,得到所述判断结果。
在一些实施例中,所述方法还包括:在所述显示屏幕上显示样本光标;获取用户眼睛注视所述样本光标时的第二眼部参数和第二光影,其中,所述第二眼部参数用于表征用户眼睛虹膜的位置,所述第二光影为所述显示屏幕或所述样本光标在用户眼睛上的光影;获取用户眼睛注视所述样本光标时到所述显示屏幕的第二观看距离;在所述第二观看距离下,记录所述第二眼部参数和所述第二光影的对应关系,以建立所述样本光标的坐标映射关系表。
在一些实施例中,所述在所述显示屏幕上显示样本光标,包括:将所述显示屏幕均匀划分成多个显示区域;分别在各个所述显示区域上显示样本光标;所述在所述第二观看距离下,记录所述第二眼部参数和所述第二光影的对应关系,以建立所述样本光标的坐标映射关系表,包括:依次在各个所述显示区域上显示所述样本光标;当用户所处的观看位置不变时,在所述第二观看距离下,分别记录用户依次观看各个所述样本光标对应的多个所述第二眼部参数和多个所述第二光影的对应关系,以建立所述样本光标的坐标映射关系表。
在一些实施例中,所述获取用户眼睛注视所述样本光标时的第二眼部参数和第二光影,包括:当所述第二观看距离有多个,获取多个不同的所述第二观看距离下的用户眼睛注视所述样本光标时的第二眼部参数和第二光影;或者,在所述第二观看距离下,获取用户眼睛在不同的观看角度注视所述样本光标时的第二眼部参数和第二光影;其中,所述观看角度为用户脸部所在平面与所述显示屏幕所形成的角度。
在一些实施例中,所述第一眼部参数根据用户的脸部图像解析得到;所述根据所述第一眼部参数确定用户眼睛与所述显示屏幕之间的观看信息,包括:根据所述第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息,根据所述左眼瞳孔位置信息和所述右眼瞳孔位置信息计算得到在所述脸部图像中用户的画面瞳孔间距;根据所述画面瞳孔间距,计算得到用户眼睛到所述显示屏幕的第一观看距离;或者,根据所述第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息;根据所述左眼瞳孔位置信息和所述右眼瞳孔位置信息从所述脸部图像中计算得到用户的画面脸部间距,并根据所述画面脸部间距得到画面脸部比例;获取预设的标准脸部比例;根据所述画面脸部比例和所述标准脸部比例,得到用户与所述显示屏幕之间的观看角度;又或者,根据所述第一眼部参数计算用户眼睛注视在所述显示屏幕上的时间之和,得到用户眼睛注视在所述显示屏幕上的观看时间。
在一些实施例中,所述根据所述画面瞳孔间距,计算得到用户眼睛到所述显示屏幕的第一观看距离,包括:获取预设的标准瞳孔间距;获取所述前置摄像头拍摄的所述脸部图像的焦距,并根据所述焦距得到所述脸部图像对应到成像点的初始距离;根据所述画面瞳孔间距与所述标准瞳孔间距得到第一比例,根据所述第一比例和所述初始距离得到用户眼睛到所述显示屏幕的第一观看距离;或者,获取预设的距离查询表;根据所述画面瞳孔间距从所述距离查询表中查表得到用户眼睛到所述显示屏幕的第一观看距离;又或者,获取参考距离、参考物体尺寸以及所述前置摄像头拍摄的参考物体对应的画面尺寸;获取预设的标准瞳孔间距;根据所述参考距离、所述参考物体尺寸、所述画面尺寸、所述画面瞳孔间距和所述标准瞳孔间距得到用户眼睛到所述显示屏幕的第一观看距离。
在一些实施例中,所述根据所述观看信息确定所述显示屏幕的工作模式,包括:当所述观看信息表征的信息大小在预设的第一阈值范围内,控制所述显示屏幕进入第一工作模式,所述第一工作模式包括控制所述显示屏幕显示提示内容和调节所述显示屏幕的显示亮度中的至少一种;当所述观看信息表征的信息大小在预设的第二阈值范围内,控制所述显示屏幕进入第二工作模式,所述第二工作模式包括关闭所述显示屏幕。
在一些实施例中,当所述观看信息表征的信息大小在预设的第一阈值范围内,所述方法还包括:控制所述终端发出第一声音提示和控制所述终端发出第一震动提示中的至少一种;当所述观看信息表征的信息大小在预设的第二阈值范围内,所述方法还包括:控制所述终端发出第二声音提示和控制所述终端发出第二震动提示中的至少一种。
在一些实施例中,所述观看信息包括观看时间;所述根据所述观看信息确定所述显示屏幕的工作模式,包括:获取用户的年龄信息;当所述年龄信息表征用户为儿童,根据所述观看时间控制所述显示屏幕进入第三工作模式,所述第三工作模式包括根据所述观看时间间隔控制所述显示屏幕的打开或关闭。
在一些实施例中,所述前置摄像头为屏下摄像头,所述屏下摄像头设置在所述显示屏幕的中心位置。
第二方面,本发明实施例还提供了一种设备控制装置,包括:第一模块,用于获取用户眼睛的第一眼部参数,所述第一眼部参数用于表征用户眼睛虹膜的位置;第二模块,用于根据所述第一眼部参数确定用户眼睛与所述显示屏幕之间的观看信息,其中,所述观看信息包括第一观看距离、观看角度和观看时间;第三模块,用于并根据所述第一眼部参数判断用户眼睛是否注视在所述显示屏幕上,得到判断结果;第四模块,用于当所述判断结果表征用户注视在所述显示屏幕上,根据所述观看信息确定所述显示屏幕的工作模式。
第三方面,本发明实施例还提供了一种电子设备,其特征在于,包括存储器、处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如本发明第一方面实施例所述的设备控制方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述存储介质存储有程序,所述程序被处理器执行实现如本发明第一方面实施例所述的设备控制方法。
本发明实施例至少包括以下有益效果:本发明实施例提供了一种设备控制方法、装置、电子设备和存储介质,设备控制方法应用在终端中,终端设置有显示屏幕,通过执行设备控制方法,本发明实施例可以获取用户眼睛虹膜的位置,得到第一眼部参数,根据用户虹膜的位置来确定用户与显示屏幕之间的第一观看距离、观看角度和观看时间,并可以根据用户虹膜的位置来判断用户是否注视在显示屏幕上,在进行显示屏幕控制的时候,可以在用户注视显示屏幕时才执行控制,并根据观看信息确定显示屏幕的工作模式,从而提升用户体验,有利于近视防控。
附图说明
图1是本发明一个实施例提供的人眼内部结构示意图;
图2是本发明一个实施例提供的终端的示意图;
图3是本发明一个实施例提供的设备控制方法的流程示意图;
图4是本发明另一个实施例提供的设备控制方法的流程示意图;
图5是本发明另一个实施例提供的设备控制方法的流程示意图;
图6a是本发明一个实施例提供的实际图像中的光影的示意图;
图6b是本发明一个实施例提供的看向不同方向时光影的位置的示意图;
图7是本发明另一个实施例提供的设备控制方法的流程示意图;
图8是本发明另一个实施例提供的设备控制方法的流程示意图;
图9是本发明一个实施例提供的设备控制方法的应用场景图;
图10是本发明另一个实施例提供的设备控制方法的流程示意图;
图11是本发明另一个实施例提供的设备控制方法的流程示意图;
图12是本发明另一个实施例提供的设备控制方法的流程示意图;
图13是本发明另一个实施例提供的设备控制方法的流程示意图;
图14a是本发明一个实施例提供的脸部图像的示意图;
图14b是本发明另一个实施例提供的脸部图像的示意图;
图15是本发明另一个实施例提供的设备控制方法的流程示意图;
图16是本发明一个实施例提供的相对镜头(成像点)成像的示意图;
图17是本发明一个实施例提供的通过三角形原理计算第一观看距离的示意图;
图18是本发明一个实施例提供的根据参考系得到第一观看距离的示意图;
图19是本发明另一个实施例提供的根据参考系得到第一观看距离的示意图;
图20是本发明另一个实施例提供的设备控制方法的流程示意图;
图21是本发明另一个实施例提供的设备控制方法的流程示意图;
图22是本发明一个实施例提供的设备控制装置的结构示意图;
图23是本发明一个实施例提供的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
应了解,在本发明实施例的描述中,多个(或多项)的含义是两个以上,大于、小于、超过等理解为不包括本数,以上、以下、以内等理解为包括本数。如果有描述到“第一”、“第二”等只是用于区分技术特征为目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
长时间近距离平面固视是近视形成的第一大主因,平面固视顾名思义就是人的眼睛,眼睛在一个相对固定的视线距离内,观看二维平面的事物,如看书、看报纸、看手机、看电视等非三维立体的事物,长时间的平面固视,会让我们眼睛的睫状肌长时间无法对晶状体进行调节,久而久之,眼睛睫状肌的收缩和拉伸功能,以及晶状体的调节能力都会慢慢的弱化。
可以理解的是,人眼是一个球形的晶状体,通常眼睛的晶状体是球状的,当中充满透明的凝胶状的物质,有一个聚焦用的晶状体,还有个可以控制进入眼睛光线多少的虹膜。如图1,人的眼睛有三层外套,由三个透明的结构包覆著组成,最外层由角膜组成,中间的一层由睫状体、和虹膜组成,在这些外套内的是房水、玻璃体、和柔韧的晶状体,水样液是一种清澈的液体,包含在两个区域:晶状体暴露的区域,在角膜和虹膜中间的眼前房,晶状体被由透明的细纤维组成的睫状体悬韧带(睫状小带)悬吊著。玻璃体、眼后房是比眼前房大的清澈胶状物,位置在晶状体的后面和其余的地区,包覆在小带和晶状体的周围。
当我们眼睛的晶状体,不能正常的调节视距,就会呈现模糊的视线,也就是我们所说的近视,目前为了避免用户长时间观看显示屏幕,通过显示屏幕页面内容的观看时间对显示屏幕进行控制,如根据视频播放固定时间、游戏的游玩时间或者屏幕的点亮时长等。然而,申请人发现,通过上述页面内容来得到的观看时间对显示屏幕进行控制容易出现误判,显示屏幕在显示时用户不一定正在观看屏幕,例如,当用户在通过终端看电子书籍或打游戏时,可能将终端放在桌面上而离开去处理其他事情,待其他事情处理完后回来继续观看显示屏幕,此时若通过相关技术中的控制方法,其累计的时间就并不是用户真实观看显示屏幕的时间,对显示屏幕进行控制就会影响用户体验。
基于此,本发明实施例提供了一种设备控制方法、装置、电子设备和存储介质,设备控制方法可应用于终端中,终端设置有显示屏幕,通过执行设备控制方法,能够根据用户眼睛观看显示屏幕的情况进行设备控制,从而提升用户体验,有利于近视防控。
本发明实施例中可以获取用户眼睛虹膜的位置,根据用户虹膜的位置来确定用户与显示屏幕之间的第一观看距离、观看角度和观看时间,并可以根据用户虹膜的位置来判断用户是否注视在显示屏幕上,在进行显示屏幕控制的时候,可以在用户注视显示屏幕时才执行控制,并根据观看信息确定显示屏幕的工作模式,从而提升用户体验,有利于近视防控。
本发明实施例中的终端可以为移动终端设备,也可以为非移动终端设备。移动终端设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载终端设备、可穿戴设备、超级移动个人计算机、上网本、个人数字助理等;非移动终端设备可以为个人计算机、电视机、柜员机或者自助机等;本发明实施方案不作具体限定。
终端可以包括处理器,外部存储器接口,内部存储器,通用串行总线(universalserial bus,USB)接口,充电管理模块,电源管理模块,电池,移动通信模块,无线通信模块,音频模块,扬声器,受话器,麦克风,耳机接口,传感器模块,按键,马达,指示器,前置摄像头,后置摄像头,显示屏幕,以及用户标识模块(subscriber identification module,SIM)卡接口等。终端可以通过前置摄像头,后置摄像头,视频编解码器,GPU,显示屏幕以及应用处理器等实现拍摄功能。
前置摄像头或后置摄像头用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP(image signal processor,图像信号处理器)转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端可以包括1个或N个前置摄像头,N为大于1的正整数。
终端通过GPU,显示屏幕,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏幕和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏幕用于显示图像,视频等。显示屏幕包括显示面板。显示面板可以采用液晶显示屏幕(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。
在一实施例中,显示屏幕可以是裸眼3D显示屏,通过裸眼3D显示屏可以对多媒体数据进行处理,将其拆分成左右两部分,例如,将2D视频裁剪成两部分,并改变两部分的出光折射方向,用户眼睛在观看后,能看到一个3D的画面,所成的3D画面具有一个负视差,可以显示在用户与显示屏幕之间,实现裸眼3D观看效果,又或者,显示屏幕为2D显示屏,终端可以外置一个3D光栅贴膜,对2D显示屏的出射光进行折射,使得用户在通过3D光栅贴膜观看显示屏幕后,观看到一个3D的显示效果。
示例性的,如图2,本发明实施例中以终端为手机为例子,例如,手机上的前置面板10上设置有前置摄像头11,可以获取图像信息,前置面板10上还设置有显示屏幕12,可以进行画面显示,可以理解的是,当终端为3D视觉训练终端,或者可以显示3D画面的手机时,通过显示屏幕12可以显示3D画面。
需要说明的是,本发明实施例中的前置摄像头11,可以与所设置的显示屏幕12同面设置,且前置摄像头11的位置固定,在一实施例中,前置摄像头11可以垂直显示屏幕12也可以不垂直12,前置摄像头11可以位于显示屏幕12之内也可以位于显示屏幕12的周边,如图2,此外,前置摄像头11还可以与显示屏幕12有垂直距离,以使得前置摄像头11与显示屏幕12不处于一个平面上,终端根据不同设置的前置摄像头11均可以进行参数上的校验,以实现本发明实施例中的设备控制方法。
下面就本发明实施例中的设备控制方法、装置、电子设备和存储介质进行介绍,首先介绍本发明实施例中的设备控制方法。
参照图3,本发明实施例中提供了一种设备控制方法,可应用在终端中,设备控制方法可以包括但不限于步骤S101至步骤S104。
步骤S101,获取用户眼睛的第一眼部参数,第一眼部参数用于表征用户眼睛虹膜的位置。
步骤S102,根据第一眼部参数确定用户眼睛与显示屏幕之间的观看信息,其中,观看信息包括第一观看距离、观看角度和观看时间。
步骤S103,并根据第一眼部参数判断用户眼睛是否注视在显示屏幕上,得到判断结果。
步骤S104,当判断结果表征用户注视在显示屏幕上,根据观看信息确定显示屏幕的工作模式。
需要说明的是,本发明实施例中的设备控制方法,可以应用在终端等设备中,终端设置有显示屏幕,通过执行本发明实施例中的设备控制方法,能够根据用户眼睛观看显示屏幕的情况进行设备控制,并根据用户的观看情况确定显示屏幕的工作模式,有利于近视防控。具体的,终端可以获取用户眼睛虹膜的位置,得到第一眼部参数,根据第一眼部参数确定用户眼睛与显示屏幕之间的观看信息,其中,观看信息包括第一观看距离、观看角度和观看时间,并根据第一眼部参数判断用户眼睛是否注视在显示屏幕上,得到判断结果,在判断得到用户正在观看显示屏幕后,可以根据用户注视显示屏幕的情况确定显示屏幕的工作模式,例如,根据用户实际观看显示屏幕的时长确定显示屏幕的工作模式,又或者,根据用户实际观看显示屏幕时的距离远近确定显示屏幕的工作模式,又或者,根据用户实际观看显示屏幕的观看角度确定显示屏幕的工作模式,可以理解的是,本发明实施例是在基于获取用户的虹膜位置后,通过第一眼部参数判断用户是否在观看显示屏幕之后进行的控制方法,能够根据用户的真实观看情况控制显示屏幕的显示,有利于近视防控。
可以理解的是,当用户以不同的角度观看东西时,其眼睛也会随着转动,人眼睛中虹膜的位置会随着人眼观看不同方向而随之移动,因此本发明实施例通过获取人眼的虹膜的位置,得到第一眼部参数来进行人眼观看情况的判断。
参照图4,在一实施例中,终端设置有前置摄像头,上述步骤S101中还可以包括但不限于步骤S201至步骤S204。
步骤S201,获取用户的脸部图像,脸部图像是由前置摄像头拍摄得到的。
步骤S202,根据脸部图像解析得到第一眼眶位置信息和第一虹膜位置信息,其中,第一眼眶位置信息用于表征用户眼眶的位置,第一虹膜位置信息用于表征用户眼睛虹膜的位置。
步骤S203,根据第一眼眶位置信息和第一虹膜位置信息得到第一眼部参数。
需要说明的是,本发明实施例中通过终端上设置的前置摄像头来获取图像,并最终得到本发明实施例中所需要的第一眼部参数,具体的,本发明实施例先通过前置摄像头拍摄得到用户的脸部图像,并对脸部图像进行解析,得到用户的第一眼眶位置信息和第一虹膜位置信息,其中,第一眼眶位置信息表示的是用户眼眶的位置,眼眶是指人脸上眼皮的边缘所构成的框,是容纳眼球等组织的类似四边锥形的骨腔,左右各一,互相对称,且成人眶深约4到5cm,第一虹膜位置信息表示的是用户眼睛中虹膜的位置,通过第一虹膜位置信息和第一眼眶位置信息之间的位置关系,可以得到用户虹膜在眼睛中当前所处的位置,可以理解的是,本发明实施例中可以获取用户双眼的第一眼眶位置信息和第一虹膜位置信息,也可以只获取其中一只眼睛的第一眼眶位置信息和第一虹膜位置信息,对此不做具体限制。此外,虹膜的中心即为瞳孔中心点,根据第一虹膜位置信息也可以得到用户的瞳孔位置。
需要说明的是,本发明实施例中的设备控制方法,可以通过终端上设置的前置摄像头来获取用户的脸部图像,从而无需额外设置传感器或摄像头,本申请通过终端自带的前置摄像头即可实现图像的获取,进而根据识别到的脸部图像得到用户眼睛虹膜的位置,本发明实施例只需要一个具备前置摄像头的终端即可实现设备控制方法,成本低,适用于现有技术中的智能手机、平板电脑、3D训练终端等设备中。
需要说明的是,本发明实施例中的脸部图像,可以由前置摄像头直接识别到用户的脸部获取得到,在一实施例中,脸部图像由前置摄像头获取的图像进行裁剪处理得到,例如,终端通过前置摄像头获取图像,图像中包含了用户的脸部,也将可能包含一些其他杂物,可能会对虹膜识别造成干扰,因此本发明实施例通过对图像进行裁剪,裁剪去用户的脸部区域得到脸部图像,以提高识别的准确率。
参照图5,在一实施例中,观看信息包括第一观看距离,上述步骤S103中还可以包括但不限于步骤S301至步骤S303。
步骤S301,控制显示屏幕进行显示。
步骤S302,获取显示屏幕在用户眼睛上的第一光影。
步骤S303,根据第一观看距离、第一眼部参数和第一光影判断用户眼睛是否注视在显示屏幕上,得到判断结果。
需要说明的是,本发明实施例中的设备控制方法,先控制显示屏幕进行显示,显示屏幕点亮后发光显示,随后获取用户眼睛的第一眼部参数和第一光影,其中,第一眼部参数是用于表征用户眼睛虹膜的位置的参数信息,通过第一眼部参数可以知道用户的虹膜在眼睛中所处的位置,第一光影为显示屏幕在用户眼睛上的光影,显示屏幕发光之后,基于人眼的特性,将在人眼的光学镜面中形成光影,然后再获取用户眼睛到显示屏幕的第一观看距离,根据第一观看距离、第一眼部参数和第一光影判断用户眼睛是否注视在显示屏幕上,得到判断结果,使得本发明实施例中可以根据用户眼睛的注视情况来判断是否正在观看显示屏幕。
具体的,由于人眼是一个球形结构,如图6a,基于人眼具有光学镜面的物理特性,人眼在观看发光的显示屏幕后,眼睛中将存在显示屏幕的光影,当人眼面对显示屏幕不同角度和位置时,所形成的光影在人眼中的位置也是不同的,其表现在当人眼观看显示屏幕的角度和位置不同时,如图6b,光影与眼睛虹膜之间的相对位置也会不一样,因此本发明实施例在获取人眼中的第一光影后,结合第一观看距离和第一眼部参数即可判断用户眼睛是否注视在显示屏幕上,可以理解的是,图6a和图6b中的光影可以为上述实施例中的第一光影。
需要说明的是,本发明实施例中通过图像处理实现对脸部图像进行识别,从而得到所需要的第一眼眶位置信息、第一虹膜位置信息和第一光影,具体的,本发明实施例基于预设的检测器对脸部图像进行人脸眼睛区域检测,得到第一眼眶位置信息,并将脸部图像转换为灰度图像,并对灰度图像进行二值化处理,得到第一预处理图像,根据第一预处理图像中矩形或圆形的噪声图像得到第一光影,其中矩形或圆形的噪声图像即为经过图像处理后显示屏幕在人眼中的光影,进一步的,再对第一预处理图像进行腐蚀和膨胀处理,并剔除图像中的噪声,得到第二预处理图像,由于人眼的虹膜呈圆形,因此利用圆形的结构元素提取第二预处理图像中表征用户眼睛虹膜的圆形区域的位置,得到用户眼睛的第一虹膜位置信息。
在一实施例中,本发明实施例基于opencv实现对脸部图像的处理,并使用级联分类器作为检测器进行人脸识别,级联分类器是基于局部二值模式(Local Binary Pattern,LBP)特征与哈尔(Haar-like features,HAAR)特征实现的,基于LBP与HAAR特征针对特定目标训练得到的分类器数据,可以保存、加载、有效的进行对象识别,LBP算子在图像中的每个像素点都可以得到一个LBP编码,对图像提取原始的LBP算子之后,所得到的原始LBP特征仍然是图像,因此本发明实施例基于训练好的LBP特征级联检测器,在使用的时候通过调用相关的人脸检测级联分析器数据,在截取人脸区域后,取其上半部分,然后将上半部分均匀分为左右两个部分,即为人眼睛的左右两部分,再根据眼睛所占的上半部分的比例截取眼睛区域,完成对眼睛区域的选择标定,不仅如此,还再通过opencv中的眼睛级联检测器实现眼睛检测,将检测到的眼睛对象子图像缓存作为模板,以便当检测器无法检测到眼睛区域时,使用上述制作得到的模板图像来完成对眼睛区域的匹配,在进行虹膜定位时,对上述标定的眼睛区域,进行二值化处理,从而可以得到眼睛的轮廓,从而得到第一眼眶位置信息,要想得到虹膜的位置,可以通过一个圆形的结构元素,对这张图像做个开操作(先腐蚀再膨胀),此时,中心的圆形区域还存在噪声,需要先把这个噪声剔除,其中就包括矩形或圆形的光影,因此可以得到第一光影。随后通过圆形的结构元素提取虹膜位置,得到第一虹膜位置信息,例如,可以将该圆形的结构的中心位置作为虹膜的位置,即将圆形结构的中心位置作为第一虹膜位置信息。
可以理解的是,本发明实施例中以基于opencv实现对脸部图像的处理来得到第一眼眶位置信息、第一虹膜位置信息和第一光影为例子,并不代表为对本发明实施例的限制。
参照图7,在一实施例中,上述步骤S303中还可以包括但不限于步骤S401至步骤S404。
步骤S401,根据第一观看距离匹配对应距离下的坐标映射关系表。
步骤S402,计算第一光影的光影坐标。
步骤S403,根据第一眼部参数和光影坐标,在坐标映射关系表中查表得到查表结果。
步骤S404,根据查表结果中是否存在用户眼睛注视在显示屏幕上的注视坐标,得到判断结果。
需要说明的是,本发明实施例中可以根据第一观看距离、第一眼部参数和第一光影得到用户的观看的角度,这个角度是人眼相对应显示屏幕中心法线的角度,从而根据角度的不同来得到用户是否观看在显示屏幕上,在另一实施例中,可以根据预设的坐标映射关系表来判断用户是否注视在显示屏幕的坐标范围内。
具体的,本发明实施例中根据不同的观看距离建立不同的坐标映射关系表,坐标映射关系表是根据第一眼部参数和第一光影得到对应的注视坐标的映射表,本发明实施例先根据第一观看距离的值,匹配对应距离下的坐标映射关系表,并根据第一光影计算其光影坐标,可以理解的是,光影坐标可以是第一光影的几何中心点或平均点,可以根据实际情况进行设置,而第一光影的形状可以为矩形或圆形,表示显示屏幕的光影在经过图像处理后形成的形状,本发明实施例根据第一眼部参数和光影坐标,在坐标映射关系表中查表得到用户眼睛注视在显示屏幕上的注视坐标,可以理解的是,判断结果通过注视坐标是否对应在显示屏幕上来得到,可以表示为显示屏幕上的某一个具体位置,判断结果也可以通过注视坐标是否在对应的坐标范围内来得到,坐标映射关系表可以表示为显示屏幕的坐标范围,当其表示为显示范围时,若查表结果得到的坐标在这个坐标范围内,说明用户注视在显示屏幕上,而不用具体到计算哪个坐标点。因此本发明实施例中的设备控制方法可以通过坐标映射关系表,来得到用户眼睛是否注视在显示屏幕上,得到判断结果,简单高效,无需终端去进行复杂的计算,无需消耗大量的计算资源。
参照图8,在一实施例中,设备控制方法中还可以包括但不限于步骤S501至步骤S504。
步骤S501,在显示屏幕上显示样本光标。
步骤S502,获取用户眼睛注视样本光标时的第二眼部参数和第二光影,其中,第二眼部参数用于表征用户眼睛虹膜的位置,第二光影为显示屏幕或样本光标在用户眼睛上的光影。
步骤S503,获取用户眼睛注视样本光标时到显示屏幕的第二观看距离。
步骤S504,在第二观看距离下,记录第二眼部参数和第二光影的对应关系,以建立样本光标的坐标映射关系表。
需要说明的是,本发明实施例中可以预先根据样本数据建立坐标映射关系表,以便在查表的过程中直接根据预先建立的坐标映射关系表来得到注视坐标是否在显示屏幕的坐标范围内,在预先建立坐标映射关系表的过程中,先通过在显示屏幕上显示样本光标,样本光标可以是在显示屏幕中存在的一个亮点或亮环,并且样本光标可以闪烁显示,以便用户观察注意,随后获取用户眼睛注视样本光标时的第二眼部参数和第二光影,其中,第二眼部参数用于表征用户眼睛虹膜的位置,第二光影为显示屏幕或样本光标在用户眼睛上的光影,可以理解的是,第二眼部参数与上述实施例中的第一眼部参数类似,第二光影与上述实施例中的第一光影类似,均可以理解为根据样本得到的和根据实际情况得到的数据,在此不做具体限制,随后获取用户眼睛注视样本光标时到显示屏幕的第二观看距离,第二观看距离时用户在观看样本光标时与显示屏幕之间的距离,当用户所处的位置不同,第二观看距离可以有多个,最终在第二观看距离下,记录第二眼部参数和第二光影的对应关系,以建立样本光标的坐标映射关系表,因此所建立的坐标映射关系表是不同观看距离下的映射表。
如图9,可以理解的是,当判断结果通过注视坐标是否在对应的坐标范围内来得到,坐标映射关系表可以表示为显示屏幕的坐标范围,本发明实施例中的样本光标可以沿着显示屏幕周围显示,表示显示屏幕的坐标范围。
参照图10,在一实施例中,上述步骤S501中还可以包括但不限于步骤S601至步骤S602。
步骤S601,将显示屏幕均匀划分成多个显示区域。
步骤S602,分别在各个显示区域上显示样本光标。
需要说明的是,本发明实施例中需要通过坐标映射关系表建立针对显示屏幕上多个显示区域的坐标映射关系,因此将显示屏幕均匀划分成多个显示区域,并分别在各个显示区域上显示样本光标,可以理解的是,终端可以依次在各个显示区域上显示样本光标,也可以随机在任意一个显示区域显示样本光标,在一实施例中,终端将显示屏幕划分成100个区域,通过眼球转动改变注视点,通过眼睛关注的注视点来采集人眼参数,把屏幕分成若干个区域,例如100个区域,对眼睛注视每一个区域进行标注,例如被标注区域在被标注时闪烁,这时眼睛注视这个区域,对左右眼的眼球位置特征进行标注,从而获取对应的第二眼部参数和第二光影。
参照图11,在一实施例中,上述步骤S504中还可以包括但不限于步骤S701至步骤S702。
步骤S701,依次在各个显示区域上显示样本光标。
步骤S702,当用户所处的观看位置不变时,在第二观看距离下,分别记录用户依次观看各个样本光标对应的多个第二眼部参数和多个第二光影的对应关系,以建立样本光标的坐标映射关系表。
需要说明的是,本发明实施例分别根据显示的样本光标,在固定的距离不变的情况下依次收集各个样本光标对应的多个第二眼部参数和多个第二光影的对应关系,以建立样本光标的坐标映射关系表,所建立的坐标映射关系表可以更表征某个位置不变时用户观看显示屏幕的第二眼部参数和第二光影。
具体的,假定显示屏幕在用户的正前方,用户双眼注视显示屏幕正中心的样本光标,在眼球的中心有样本光标的光影,此时样本光标在左眼睛的右边,左眼睛向右看,样本光标影射在左眼睛的光影在眼球中心点的左边,样本光标在右眼睛的左边,右眼睛向左看,样本光标影射在右眼睛的光影在眼球中心点的右边,随后标注眼球上的光影(样本光标在眼球上的影子)位置,这样就标注出注视屏幕正中心时的第二光影(光标在眼球上的影子)。向上看的时候,光影在眼球的下方,向左上方看时光影在眼球的右下方(右眼的光影更偏右),标注光标在左右眼眼球上光影位置,其他方向不再赘述,对用户观看显示屏幕上下左右一百个样本光标的眼部情况进行标注,分别记录用户依次观看各个样本光标对应的多个第二眼部参数和多个第二光影的对应关系,以建立样本光标的坐标映射关系表。
参照图12,在一实施例中,上述步骤S502中还可以包括但不限于步骤S801至步骤S802。
步骤S801,当第二观看距离有多个,获取多个不同的第二观看距离下的用户眼睛注视样本光标时的第二眼部参数和第二光影。
步骤S802,或者,在第二观看距离下,获取用户眼睛在不同的观看角度注视样本光标时的第二眼部参数和第二光影;其中,观看角度为用户脸部所在平面与显示屏幕所形成的角度。
可以理解的是,当用户所处的距离不同,终端上前置摄像头所拍摄的图像就不同,用户眼睛观看显示屏幕的转动情况就不同,例如,当用户眼睛距离显示屏幕较近,用户观看显示屏幕最上方与最下方的位置时,眼睛的转动较大,而当用户眼睛距离显示屏幕较远,用户观看显示屏幕最上方与最下方的位置时,眼睛的转动将变小很多,本发明实施例中的第二观看距离为多个,用户在不同的观看距离下注视样本光标,从而在多个不同的第二观看距离下,分别记录第二眼部参数和第二光影的对应关系,以建立样本光标的坐标映射关系表,因此所建立的坐标映射关系表是根据多个不同观看距离下的映射表,因此当获取用户眼睛到显示屏幕的第一观看距离后,可以查到得到对应的第二观看距离下的坐标映射关系表,更准确地识别该距离下用户眼睛的注视情况。
在一实施例中,本发明实施例根据人眼位于显示屏幕前的30cm、40cm……90㎝、100㎝,分别进行标注,建立不同距离下,注视点的样本光标与人眼中眼部参数和光影的对应关系,用户在实际使用过程中,根据屏幕与人眼的距离,调用在目前距离下的坐标映射关系表,可以判定用户在不同距离下的注视情况。
需要说明的是,当旋转显示屏幕的角度,例如向右后方旋转屏幕5°,这时显示屏幕影射在眼球上的影子左边大右边小,本发明实施例中在建立坐标映射关系表时,根据用户脸部所在平面与显示屏幕形成的角度不同分别进行测量,例如,当用户与显示屏幕之间的距离保持在第二观看距离不变,分别在用户正对显示屏幕时建表一次,并在5°、10°或30°等角度时建表,可以根据实际需要设置,所建立的坐标映射关系表,满足当用户以不同角度观看显示屏幕时,依然能得到一个准确的注视情况,当用户以不同的角度观看显示屏幕时,前置摄像头就可以获取不同角度下用户观看显示屏幕的图像,从而最终所建立的坐标映射关系表可以满足在用户不同角度观看时依然能得到一个准确的注视情况。
示例性的,可以综合前述方式,通过测量不同距离、角度下用户眼睛观看样本光标时的参数,建立基于不同角度、距离下用户注视的坐标映射关系表,满足实际应用中当用户所处的不同角度、距离观看显示屏幕时都能查表得到对应的注视情况。可以理解的是,测量越多的样本光标对应的人眼的参数,建立的表格精度越高,所得到的判断结果就更精确,同样的,测量越多距离下、越多角度下人眼的参数,建立的表格精度也越高,所得到的判断结果就更精确。
需要说明的是,本发明实施例中除了直接根据第一眼部参数、第一光影查找第一观看距离下的坐标映射关系表来得到注视坐标外,还可以通过获取预设的拟合坐标模型或神经网络模型,并将第一观看距离、第一眼部参数和第一光影输入至拟合坐标模型或神经网络模型中,得到用户眼睛注视在显示屏幕上的注视坐标,进而得到判断结果,在此不做具体限制。
参照图13,在一实施例中,第一眼部参数根据用户的脸部图像解析得到,上述步骤S102中还可以包括但不限于步骤S901至步骤S903。
步骤S901,根据第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息,根据左眼瞳孔位置信息和右眼瞳孔位置信息计算得到在脸部图像中用户的画面瞳孔间距;根据画面瞳孔间距,计算得到用户眼睛到显示屏幕的第一观看距离。
步骤S902,或者,根据第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息;根据左眼瞳孔位置信息和右眼瞳孔位置信息从脸部图像中计算得到用户的画面脸部间距,并根据画面脸部间距得到画面脸部比例;获取预设的标准脸部比例;根据画面脸部比例和标准脸部比例,得到用户与显示屏幕之间的观看角度。
步骤S903,又或者,根据第一眼部参数计算用户眼睛注视在显示屏幕上的时间之和,得到用户眼睛注视在显示屏幕上的观看时间。
需要说明的是,本发明实施例中的设备控制方法,可以基于摄像头进行测距,通过获取用户的脸部图像,脸部图像是由前置摄像头拍摄得到的,对脸部图像进行瞳孔识别,根据左眼虹膜位置信息和右眼虹膜位置信息的中心点即可分别得到用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息,根据用户双眼的左眼瞳孔位置信息和右眼瞳孔位置信息,计算得到在脸部图像中用户的画面瞳孔间距,可根据显示屏幕的像素数量确定,最后根据画面瞳孔间距,计算得到用户眼睛到显示屏幕的观看距离,即为第一观看距离,本发明实施例可以通过终端上设置的前置摄像头实现测距,通过前置摄像头获取的图像解析得到用户的瞳孔位置,并计算出所需要的画面瞳孔间距,画面瞳孔间距是表征所获取的图像中用户的瞳孔间距,并根据画面瞳孔间距可以计算得到用户眼睛到显示屏幕的观看距离,测距成本低,无需额外设置其他传感器,即可实现测距。
可以理解的是,终端通过前置摄像头获取得到脸部图像,脸部图像上用户的瞳孔间距即为画面瞳孔间距,在前置摄像头进行拍摄的过程中,以摄像头为参照物的话,用户对摄像头来讲位置是可以随时发生变化的,通过摄像头成像,用户在不同距离,所成的像大小都不一样,如图14a和图14b,在图14a中,用户距离摄像头较近,所成的像中用户的脸部大小就要大一些,因此瞳孔间距就大一些,而在图14b中,用户距离摄像头较远,所成的像中用户的脸部大小就要小一些,因此瞳孔间距就小一些,本发明实施例通过前置摄像头拍摄的用户图像中的瞳孔间距的大小,就可以判断用户眼睛到显示屏幕的第一观看距离。
示例性的,可以利用已知尺寸的参考物体在已知距离上测量,并根据预设公式计算得到观看距离。例如,在显示屏幕前方50厘米有一个10厘米的参考物体(如尺子),根据前置摄像头的参数特性,照出的照片,10厘米的物体在前置摄像头所得的图像中会变成确定的尺寸(可根据像素数量确定),现在已知所成的图像中是6.3厘米的目标物体(即两个瞳孔),在照片中的尺寸大小已经确定,因此可以计算得到目标物体到显示屏幕的距离。
需要说明的是,瞳孔间距就是用户双眼瞳孔之间的距离,也可简称瞳距,指的是双眼瞳孔正中心之间的长度,一个成年人的瞳孔间距正常值范围在58-64mm之间,瞳孔间距本身是个人的遗传和发育决定的,因此不同年龄的瞳孔间距不一样,对某一用户来讲,其瞳孔间距是一定的,因此根据脸部图像中的画面瞳孔间距的大小即可判断得到用户距离终端的远近,以此进行计算得到用户眼睛到显示屏幕的第一观看距离。
需要说明的是,本发明实施例中通过前置摄像头识别用户的图像,无需设置额外的传感器设备,即可实现测距,设计成本低,无需额外的硬件设置,可应用到具有前置摄像头的终端中,可以理解的是,终端的处理器可以执行本发明实施例中的方法,通过前置摄像头来获取图像,并最终由处理器计算,即可实现精确的测距。
需要说明的是,用户在观看显示屏幕时,可能会以一定的角度来观看,对前置摄像头来讲,所获取的图像是一个二维的平面图像,单纯根据图像分辨不出用户脸部转动的角度。基于此,本发明实施例通过脸部比例的判断来得到用户的观看角度,先根据第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息,根据左眼瞳孔位置信息和右眼瞳孔位置信息从脸部图像中计算得到用户的画面脸部间距,此时左眼瞳孔位置信息和右眼瞳孔位置信息起到的定位的作用,再结合人脸识别,框选用户的脸部区域,计算其脸部的长宽,从而得到画面脸部比例,随后获取预设的标准脸部比例,标准脸部比例是用户现实中的脸部比例,即为实际脸部比例,标准脸部比例可以是默认设置的,也可以是用户输入的,在此不再赘述,可以理解的是,本发明实施例可以计算脸部图像中用户脸部的长跟宽,得到画面脸部比例,当用户脸部正对前置摄像头时,此时用户脸部的宽与长的比值最大,即比例最大,而随着用户脸部的转动,前置摄像头所获取的脸部图像中用户脸部的宽与长的比值会减少,根据画面脸部比例和标准脸部比例即可得到用户的观看角度。
需要说明的是,本发明实施例中根据画面脸部比例与标准脸部比例进行分析对比以得到转动角度,对比分析的依据可以根据实验预先建立与角度的映射关系,例如,在一实施例中,根据样本画面脸部比例与标准脸部比例的对比关系,记录各个情况下的观看角度,以便后续直接根据画面脸部比例和标准脸部比例得到用户脸部的转动角度,在另一实施例中,还可以将画面脸部比例和标准脸部比例的数值输入到神经网络模型中,得到观看角度,神经网络模型可以根据样本中的数据建立得到,本发明实施例不进行具体限制。
需要说明的是,本发明实施例中计算得到的观看时间是累计得到的,具体的,由于本发明实施例中可以根据用户的虹膜位置来判断用户的观看情况,因此可以对用户眼睛凝视在显示屏幕的时间进行累计,例如,假设当用户开始观看显示屏幕,并先达到15分钟后,用户转头跟别人聊天,此时根据识别的瞳孔位置信息,判断用户虽然人在前置摄像头的拍摄范围内,但是并不在观看显示屏幕,因此时间累计暂停,当用户跟别人聊天1分钟后重新观看显示屏幕时,继续累计时长,从而得到真实的观看时间。
参照图15,在一实施例中,上述步骤S902中的根据画面瞳孔间距,计算得到用户眼睛到显示屏幕的第一观看距离还可以包括但不限于步骤1001至步骤S1003。
步骤1001,获取预设的标准瞳孔间距;获取前置摄像头拍摄的脸部图像的焦距,并根据焦距得到脸部图像对应到成像点的初始距离;根据画面瞳孔间距与标准瞳孔间距得到第一比例,根据第一比例和初始距离得到用户眼睛到显示屏幕的第一观看距离。
步骤1002,或者,获取预设的距离查询表;根据画面瞳孔间距从距离查询表中查表得到用户眼睛到显示屏幕的第一观看距离。
步骤1003,又或者,获取参考距离、参考物体尺寸以及前置摄像头拍摄的参考物体对应的画面尺寸;获取预设的标准瞳孔间距;根据参考距离、参考物体尺寸、画面尺寸、画面瞳孔间距和标准瞳孔间距得到用户眼睛到显示屏幕的第一观看距离。
需要说明的是,在根据画面瞳孔间距计算得到用户眼睛到显示屏幕的第一观看距离中,具体的,本发明实施例先获取预设的标准瞳孔间距,标准瞳孔间距是用户现实中的瞳孔间距,标准瞳孔间距可以是默认设置的,例如,设置为63mm,又或者,标准瞳孔间距可以是用户输入的,因此用户可以精确输入瞳孔间距,也可以通过大数据及人工智能分析,不同年龄段、不同性别的人瞳孔间距不同,把这个数据分析结论置换63mm的成年人瞳孔间距,可以获得更精准的瞳孔间距,可以获得更精准的第一观看距离。随后获取前置摄像头拍摄的脸部图像的焦距,并根据焦距得到脸部图像对应到成像点的初始距离,最终根据画面瞳孔间距与标准瞳孔间距得到第一比例,根据第一比例和初始距离可以得到用户眼睛到显示屏幕的第一观看距离。
可以理解的是,每个摄像头在拍摄的时候都应具有一定的视场角(FOV)和焦距,每一个摄像头的焦距和视场角都是一一对应的,可以通过公开方式获得也可以进行测量得到,视场角就是摄像头视锥体的两端的夹角,焦距是摄像头的镜头到内部的“传感器”的距离,但是,实际上的摄像头,传感器在镜头后面,为了简化,可以假设镜头在传感器的前面,相对镜头镜像,可以得到图16所示的画面,如,传感器所在的平面即为脸部图像所在平面,所成的脸部图像相当于在镜头所在平面的上方,镜头所在的位置可以描述为本发明实施例中的成像点,成像点所在平面在脸部图像所在平面的下方,并且平行设置,因此根据焦距即可得到脸部图像所在平面相对于成像点所在平面的位置,在一实施例中,根据焦距可以得到脸部图像所在平面和成像点所在平面之间的距离,定义为初始距离。
可以理解的是,脸部图像所在平面即对应到显示屏幕所在的平面,根据前置摄像头拍摄的广角和焦距所决定,在一实施例中,脸部图像所在平面即为显示屏幕所在平面,又或者,脸部图像所在平面加减一个小距离既可以得到显示屏幕所在的平面,这可以预先根据所采用的前置摄像头的物理参数测算得到,并应用在后续的处理中,本发明实施例以脸部图像所在平面即为显示屏幕所在平面为例子。
需要补充的是,本发明实施例中根据焦距来得到初始距离,也可以获取拍摄的视场角得到初始距离,但是由于视场角和焦距是一一对应的关系,因此以获取焦距进行处理为例子,需要说明的是,初始距离可以根据相机成像的特性计算得到,也可以预先测算得到,但是可以理解的是,每个不同的焦距都将对应一个初始距离,在此不做具体限制。
可以理解的是,如图17,根据摄像头成像的特性,用户的实际瞳孔间距的线段,与成像点之间形成一个三角形,且画面瞳孔间距的线段位于该三角形中,并与实际瞳孔间距的线段平行,在一实施例中,画面瞳孔间距所在的线段与成像点形成的三角形,和实际瞳孔间距所在的线段与成像点形成的三角形为相似三角形,由于初始距离已知,且画面瞳孔间距和实际瞳孔间距可以得到第一比例,因此根据初始距离和第一比例可以得到用户眼睛到显示屏幕之间的第一观看距离。
需要说明的是,在得到用户眼睛到显示屏幕的第一观看距离的过程中,根据三角形的特性进行计算,在一实施例中,定义图17中画面瞳孔间距所在线段和成像点之间的三角形为第一三角形,定义图17中实际瞳孔间距所在线段和成像点之间的三角形为第二三角形,第一三角形和第二三角形为相似三角形。
如图17中,根据第一比例和初始距离可以得到用户眼睛到成像点的距离,第一比例为画面瞳孔间距Q除以实际瞳孔间距K,随后将初始距离H0除以第一比例,得到距离H1,最终将距离H1减去初始距离H0,可以得到用户眼睛到显示屏幕的第一观看距离H,H的计算公式如下:
H=H1-H0 (1)
H1=H0/(Q/K) (2)
在一实施例中,本发明实施例可以根据用户脸部的转动角度得到更精确的第一观看距离,进行矫正,具体的,用户在观看显示屏幕时,可能会以一定的角度来观看,对前置摄像头来讲,所获取的图像是一个二维的平面图像,单纯根据图像分辨不出用户脸部转动的角度,若此时直接计算瞳孔间距,会造成误差,从而导致测距不准,因此可以根据前置摄像头的具体位置进行几何学计算,对参数进行修正。此外,当瞳孔不在前置摄像头正前方,也通过几何学原理进行修正,当显示屏幕与前置摄像头不在一个平面上,也可以根据距离差进行修正,对比本发明实施例不做具体限制。
此外,需要说明的是,本发明实施例中的第一观看距离也可以根据预设的距离查询表查询得到,具体的,本发明实施例中可以预先建立画面瞳孔距离到第一观看距离的映射关系表,在计算得到第一观看距离的过程中,先获取预设的距离查询表,并根据测量得到的画面瞳孔间距从距离查询表中查表得到用户眼睛到显示屏幕的第一观看距离。
需要说明的是,上述实施例中的距离查询表可以根据样本中的数据计算得到,可以理解的是,当需要通过测量用户的脸部比例进行误差消减时,距离查询表同样可以基于转动角度建立,在此不做具体限制。
此外,需要说明的是,本发明实施例中也可以根据建立参考系来得到第一观看距离,具体的,本发明实施例先在终端前放置一个参考物体,测量参考物体到显示屏幕的参考距离以及参考物体的物体尺寸,通过前置摄像头拍摄参考物体成像,在所成的像中计算参考物体在图像中的尺寸,得到画面尺寸,随后据此可以建立参考系,因此通过获取预设的标准瞳孔间距,即可以根据参考距离、参考物体尺寸、画面尺寸、画面瞳孔间距和标准瞳孔间距得到用户眼睛到显示屏幕的第一观看距离。
具体的,本发明先根据标准瞳孔间距除以画面瞳孔间距得到第一系数,再根据参考物体尺寸处于画面尺寸得到第二系数,用参考距离除以第二系数得到第三系数,最终根据第三系数与第一系数的乘积得到用户眼睛到显示屏幕的第一观看距离,此外,画面尺寸和画面瞳孔间距均可以根据显示屏幕的像素点计算得到,例如,如图18和图19中,当标准参考物体的物体尺寸为10cm,参考距离为50cm,画面尺寸为AB,并以标准瞳孔间距为6.3cm为例子,画面瞳孔间距为ab,此时第一系数为6.3÷ab,第二系数为10÷AB,最终可以建立第一观看距离h的公式如下:
50÷(10÷AB)=h÷(6.3÷ab) (3)
由于画面尺寸AB和画面瞳孔间距ab已知,根据公式(3)即可以得到第一观看距离h。
参照图20,在一实施例中,上述步骤S104中还可以包括但不限于步骤S1101至步骤S1102。
步骤S1101,当观看信息表征的信息大小在预设的第一阈值范围内,控制显示屏幕进入第一工作模式,第一工作模式包括控制显示屏幕显示提示内容和调节显示屏幕的显示亮度中的至少一种。
步骤S1102,当观看信息表征的信息大小在预设的第二阈值范围内,控制显示屏幕进入第二工作模式,第二工作模式包括关闭显示屏幕。
需要说明的是,本发明实施例根据观看信息的大小不同执行不同的控制,使得显示屏幕可以处于不同的工作模式,具体的,当观看信息表征的信息大小在预设的第一阈值范围内,控制显示屏幕进入第一工作模式,第一工作模式包括控制显示屏幕显示提示内容和调节显示屏幕的显示亮度中的至少一种,当观看信息表征的信息大小在预设的第二阈值范围内,控制显示屏幕进入第二工作模式,第二工作模式包括关闭显示屏幕。
当观看信息为第一观看距离时,第一阈值范围为第一距离阈值范围,第二阈值范围为第二距离阈值范围,例如,第一距离阈值范围大于第二距离阈值范围,当用户处于第一距离阈值范围内时,表示到显示屏幕的距离已经接近了,需要发出提醒,因此控制显示屏幕显示提示内容和调节显示屏幕的显示亮度中的至少一种,可以在显示屏幕上显示提醒标志,或者调低显示屏幕的亮度,当用户继续靠近显示屏幕,来到第二距离阈值范围内时,说明此时距离已经很近了,继续观看不利于用眼健康,需要强制关闭显示屏幕,以保护用户的眼睛,保障用眼健康,有利于近视防控。
当观看信息为观看角度时,第一阈值范围为第一角度阈值范围,第二阈值范围为第二距离角度范围,例如,第一角度阈值范围小于第二角度阈值范围,当用户处于第一角度阈值范围内时,表示到显示屏幕的观看角度已经倾斜达到一定程度了,需要发出提醒,因此控制显示屏幕显示提示内容和调节显示屏幕的显示亮度中的至少一种,可以在显示屏幕上显示提醒标志,或者调高显示屏幕的亮度,当用户继续扩大观看角度,来到第二角度阈值范围内时,说明此时角度已经很大了,继续观看不利于用眼健康,需要强制关闭显示屏幕,以保护用户的眼睛,保障用眼健康,有利于近视防控。
当观看信息为观看时间时,第一阈值范围为第一时间阈值范围,第二阈值范围为第二时间阈值范围,例如,第一时间阈值范围小于第二时间阈值范围,当用户处于第一时间阈值范围内时,表示观看时间已经较长了,需要发出提醒,因此控制显示屏幕显示提示内容和调节显示屏幕的显示亮度中的至少一种,可以在显示屏幕上显示提醒标志,或者调低显示屏幕的亮度,当用户继续观看显示屏幕,来到第二时间阈值范围内时,说明此时观看时间已经很久了,继续观看不利于用眼健康,需要强制关闭显示屏幕,以保护用户的眼睛,保障用眼健康,有利于近视防控。
可以理解的是,当观看信息包括其他信息时,也可以根据观看信息的不同执行不同的控制,在此不做具体限制。
在一实施例中,当观看信息表征的信息大小在预设的第一阈值范围内,设备控制方法中还可以包括但不限于:
控制终端发出第一声音提示和控制终端发出第一震动提示中的至少一种。
当观看信息表征的信息大小在预设的第二阈值范围内,设备控制方法中还可以包括但不限于:
控制终端发出第二声音提示和控制终端发出第二震动提示中的至少一种。
需要说明的是,本发明实施例中可以根据用户观看显示屏幕的观看情况发出提示信息,具体的,可以发出声音提示信息、图形提示信息、震动提示信息等,例如,当判断用户太靠近显示屏幕是,发出提示信息,通过声音、图形或震动提示用户观看过近,需要远离显示屏幕,又例如,当判断用户观看时间过长时,发出提示信息,通过声音、图形或震动提示用户观看时间超过健康时长,需要停止观看或关闭显示屏幕以便用户进行休息,又或者,当判断用户的观看角度不对,发出提示信息,通过声音、图形或震动提示用户观看角度不正常,需要矫正观看角度,避免因此角度造成的对眼睛的伤害,如造成散光等危害,从而有利于近视防控。
需要说明的是,本发明实施例中计算得到的观看时间是累计得到的,本发明实施例可以根据用户的观看时间间隔控制显示屏幕,例如,当累计的观看时间达到20分钟后,控制显示屏幕关闭,并发出声音、震动提示,关闭显示屏幕20秒后,再打开显示屏幕,从而避免用户一次性观看时间过长而对视力造成的伤害,可以理解的是,根据多长时间进行关闭、以及关闭多长时间,可以根据健康规定进行自定义设置,也可以根据用户需求进行设置。
参照图21,在一实施例中,观看信息包括观看时间,上述步骤S104中还可以包括但不限于步骤S1201至步骤S1202。
步骤S1201,获取用户的年龄信息。
步骤S1202,当年龄信息表征用户为儿童,根据观看时间控制显示屏幕进入第三工作模式,第三工作模式包括根据观看时间间隔控制显示屏幕的打开或关闭。
需要说明的是,本发明实施例中可以判断用户为儿童用户,可以获取用户的年龄信息来判断,从而进入儿童控制模式,在儿童控制模式下,根据观看时间间隔控制显示屏幕的打开或关闭,例如,当累计的观看时间达到10分钟后,控制显示屏幕关闭,并发出声音、震动提示,关闭显示屏幕1分钟后,再打开显示屏幕,从而避免用户一次性观看时间过长而对视力造成的伤害,可以理解的是,根据多长时间进行关闭、以及关闭多长时间,可以根据健康规定进行自定义设置,也可以根据用户需求进行设置,但是在儿童控制模式下的可观看时间比成年人模式下的要短,休息时间则要求更长。
在一实施例中,终端可以通过获取的用户的脸部图像来识别用户的年龄信息,例如,终端将拍摄得到的脸部图像输入到预设的年龄预测网络(如caffe模型等)中,通过年龄预测网络输出用户的年龄信息;又或者,根据脸部图像提取人的面部(感兴趣区域,ROI),并通过年龄检测器的算法去预测人物的年龄得到年龄信息;又或者,通过识别脸部图像中用户的瞳孔间距与脸部比例,跟预设的对比库中进行对比得到年龄信息,不同年龄段用户的瞳孔间距不同,且儿童的脸部比例更小;又或者,识别脸部图像中用户脸部的皮肤平滑程度,根据平滑程度得到用户的年龄信息。此外,也可以通过用户的输入来得到年龄信息,在此不做具体限制。
在一实施例中,前置摄像头为屏下摄像头,显示屏幕为OLED屏幕,因此可以将前置摄像头设置在显示屏幕的下方,具体的,屏下摄像头设置在显示屏幕的中心位置,通过设置在显示屏幕的中心位置,在此处获取用户的脸部图像,可以更加精准测量用户的瞳孔间距,实现更高精度的测距,也可以更加精确判断用户眼睛的注视情况。
参照图22,本发明实施例中还提供了一种设备控制装置,装置包括:
第一模块2201,用于获取用户眼睛的第一眼部参数,第一眼部参数用于表征用户眼睛虹膜的位置。
第二模块2202,用于根据第一眼部参数确定用户眼睛与显示屏幕之间的观看信息,其中,观看信息包括第一观看距离、观看角度和观看时间。
第三模块2203,用于并根据第一眼部参数判断用户眼睛是否注视在显示屏幕上,得到判断结果。
第四模块2204,用于当判断结果表征用户注视在显示屏幕上,根据观看信息确定显示屏幕的工作模式。
需要说明的是,本发明实施例中的设备控制装置可以实现上述任意一个实施例中的设备控制方法,设备控制装置可以是手机、平板电脑、3D视觉训练终端等终端设备,其中,设备控制装置通过执行设备控制方法,可以获取用户眼睛虹膜的位置,得到第一眼部参数,根据用户虹膜的位置来确定用户与显示屏幕之间的第一观看距离、观看角度和观看时间,并可以根据用户虹膜的位置来判断用户是否注视在显示屏幕上,在进行显示屏幕控制的时候,可以在用户注视显示屏幕时才执行控制,并根据观看信息确定显示屏幕的工作模式,从而提升用户体验,有利于近视防控。
需要说明的是,上述第一模块2201、第二模块2202、第三模块2203和第四模块2204可以是终端上的各个功能模块,在一实施例中,上述模块均可以为处理器中的各个功能模块,均可以由终端上设置的处理器所执行,本发明实施例中仅以功能模块的方式体现设备控制装置的硬件结构,并不代表为对本发明实施例的限制。
图23示出了本发明实施例提供的电子设备2300。电子设备2300包括:处理器2301、存储器2302及存储在存储器2302上并可在处理器2301上运行的计算机程序,计算机程序运行时用于执行上述的设备控制方法。
处理器2301和存储器2302可以通过总线或者其他方式连接。
存储器2302作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序,如本发明实施例描述的设备控制方法。处理器2301通过运行存储在存储器2302中的非暂态软件程序以及指令,从而实现上述的设备控制方法。
存储器2302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储执行上述的设备控制方法。此外,存储器2302可以包括高速随机存取存储器2302,还可以包括非暂态存储器2302,例如至少一个储存设备存储器件、闪存器件或其他非暂态固态存储器件。在一些实施方式中,存储器2302可选包括相对于处理器2301远程设置的存储器2302,这些远程存储器2302可以通过网络连接至该电子设备2300。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实现上述的设备控制方法所需的非暂态软件程序以及指令存储在存储器2302中,当被一个或者多个处理器2301执行时,执行上述的设备控制方法,例如,执行图3中的方法步骤S101至步骤S104、图4中的方法步骤S201至步骤S203、图5中的方法步骤S301至步骤S303、图7中的方法步骤S401至步骤S404、图8中的方法步骤S501至步骤S504、图10中的方法步骤S601至步骤S602、图11中的方法步骤S701至步骤S702、图12中的方法步骤S801至步骤S802、图13中的方法步骤S901至步骤S903、图15中的方法步骤S1001至步骤S1003、图20中的方法步骤S1101至步骤S1102、图21中的方法步骤S1201至步骤S1202。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、储存设备存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包括计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
还应了解,本发明实施例提供的各种实施方式可以任意进行组合,以实现不同的技术效果。以上是对本发明的较佳实施进行了具体说明,但本发明并不局限于上述实施方式,熟悉本领域的技术人员在不违背本发明精神的共享条件下还可作出种种等同的变形或替换。

Claims (16)

1.一种设备控制方法,应用在终端中,所述终端设置有显示屏幕,其特征在于,所述方法包括:
获取用户眼睛的第一眼部参数,所述第一眼部参数用于表征用户眼睛虹膜的位置;
根据所述第一眼部参数确定用户眼睛与所述显示屏幕之间的观看信息,其中,所述观看信息包括第一观看距离、观看角度和观看时间;
并根据所述第一眼部参数判断用户眼睛是否注视在所述显示屏幕上,得到判断结果;
当所述判断结果表征用户注视在所述显示屏幕上,根据所述观看信息确定所述显示屏幕的工作模式。
2.根据权利要求1所述的设备控制方法,其特征在于,所述终端设置有前置摄像头;所述获取用户眼睛的第一眼部参数,包括:
获取用户的脸部图像,所述脸部图像是由所述前置摄像头拍摄得到的;
根据所述脸部图像解析得到第一眼眶位置信息和第一虹膜位置信息,其中,所述第一眼眶位置信息用于表征用户眼眶的位置,所述第一虹膜位置信息用于表征用户眼睛虹膜的位置;
根据所述第一眼眶位置信息和所述第一虹膜位置信息得到第一眼部参数。
3.根据权利要求1所述的设备控制方法,其特征在于,所述观看信息包括第一观看距离;所述根据所述第一眼部参数判断用户眼睛是否注视在所述显示屏幕上,得到判断结果,包括:
控制所述显示屏幕进行显示;
获取所述显示屏幕在用户眼睛上的第一光影;
根据所述第一观看距离、所述第一眼部参数和所述第一光影判断用户眼睛是否注视在所述显示屏幕上,得到所述判断结果。
4.根据权利要求3所述的设备控制方法,其特征在于,所述根据所述第一观看距离、所述第一眼部参数和所述第一光影判断用户眼睛是否注视在所述显示屏幕上,得到判断结果,包括:
根据所述第一观看距离匹配对应距离下的坐标映射关系表;
计算所述第一光影的光影坐标;
根据所述第一眼部参数和所述光影坐标,在所述坐标映射关系表中查表得到查表结果;
根据所述查表结果中是否存在用户眼睛注视在所述显示屏幕上的注视坐标,得到所述判断结果。
5.根据权利要求4所述的设备控制方法,其特征在于,所述方法还包括:
在所述显示屏幕上显示样本光标;
获取用户眼睛注视所述样本光标时的第二眼部参数和第二光影,其中,所述第二眼部参数用于表征用户眼睛虹膜的位置,所述第二光影为所述显示屏幕或所述样本光标在用户眼睛上的光影;
获取用户眼睛注视所述样本光标时到所述显示屏幕的第二观看距离;
在所述第二观看距离下,记录所述第二眼部参数和所述第二光影的对应关系,以建立所述样本光标的坐标映射关系表。
6.根据权利要求5所述的设备控制方法,其特征在于,所述在所述显示屏幕上显示样本光标,包括:
将所述显示屏幕均匀划分成多个显示区域;
分别在各个所述显示区域上显示样本光标;
所述在所述第二观看距离下,记录所述第二眼部参数和所述第二光影的对应关系,以建立所述样本光标的坐标映射关系表,包括:
依次在各个所述显示区域上显示所述样本光标;
当用户所处的观看位置不变时,在所述第二观看距离下,分别记录用户依次观看各个所述样本光标对应的多个所述第二眼部参数和多个所述第二光影的对应关系,以建立所述样本光标的坐标映射关系表。
7.根据权利要求5所述的设备控制方法,其特征在于,所述获取用户眼睛注视所述样本光标时的第二眼部参数和第二光影,包括:
当所述第二观看距离有多个,获取多个不同的所述第二观看距离下的用户眼睛注视所述样本光标时的第二眼部参数和第二光影;
或者,在所述第二观看距离下,获取用户眼睛在不同的观看角度注视所述样本光标时的第二眼部参数和第二光影;其中,所述观看角度为用户脸部所在平面与所述显示屏幕所形成的角度。
8.根据权利要求1所述的设备控制方法,其特征在于,所述第一眼部参数根据用户的脸部图像解析得到;所述根据所述第一眼部参数确定用户眼睛与所述显示屏幕之间的观看信息,包括:
根据所述第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息,根据所述左眼瞳孔位置信息和所述右眼瞳孔位置信息计算得到在所述脸部图像中用户的画面瞳孔间距;根据所述画面瞳孔间距,计算得到用户眼睛到所述显示屏幕的第一观看距离;
或者,根据所述第一眼部参数确定用户眼睛的左眼瞳孔位置信息和右眼瞳孔位置信息;根据所述左眼瞳孔位置信息和所述右眼瞳孔位置信息从所述脸部图像中计算得到用户的画面脸部间距,并根据所述画面脸部间距得到画面脸部比例;获取预设的标准脸部比例;根据所述画面脸部比例和所述标准脸部比例,得到用户与所述显示屏幕之间的观看角度;
又或者,根据所述第一眼部参数计算用户眼睛注视在所述显示屏幕上的时间之和,得到用户眼睛注视在所述显示屏幕上的观看时间。
9.根据权利要求8所述的设备控制方法,其特征在于,所述根据所述画面瞳孔间距,计算得到用户眼睛到所述显示屏幕的第一观看距离,包括:
获取预设的标准瞳孔间距;获取前置摄像头拍摄的所述脸部图像的焦距,并根据所述焦距得到所述脸部图像对应到成像点的初始距离;根据所述画面瞳孔间距与所述标准瞳孔间距得到第一比例,根据所述第一比例和所述初始距离得到用户眼睛到所述显示屏幕的第一观看距离;
或者,获取预设的距离查询表;根据所述画面瞳孔间距从所述距离查询表中查表得到用户眼睛到所述显示屏幕的第一观看距离;
又或者,获取参考距离、参考物体尺寸以及所述前置摄像头拍摄的参考物体对应的画面尺寸;获取预设的标准瞳孔间距;根据所述参考距离、所述参考物体尺寸、所述画面尺寸、所述画面瞳孔间距和所述标准瞳孔间距得到用户眼睛到所述显示屏幕的第一观看距离。
10.根据权利要求1或8所述的设备控制方法,其特征在于,所述根据所述观看信息确定所述显示屏幕的工作模式,包括:
当所述观看信息表征的信息大小在预设的第一阈值范围内,控制所述显示屏幕进入第一工作模式,所述第一工作模式包括控制所述显示屏幕显示提示内容和调节所述显示屏幕的显示亮度中的至少一种;
当所述观看信息表征的信息大小在预设的第二阈值范围内,控制所述显示屏幕进入第二工作模式,所述第二工作模式包括关闭所述显示屏幕。
11.根据权利要求10所述的设备控制方法,其特征在于,当所述观看信息表征的信息大小在预设的第一阈值范围内,所述方法还包括:
控制所述终端发出第一声音提示和控制所述终端发出第一震动提示中的至少一种;
当所述观看信息表征的信息大小在预设的第二阈值范围内,所述方法还包括:
控制所述终端发出第二声音提示和控制所述终端发出第二震动提示中的至少一种。
12.根据权利要求1或8所述的设备控制方法,其特征在于,所述观看信息包括观看时间;所述根据所述观看信息确定所述显示屏幕的工作模式,包括:
获取用户的年龄信息;
当所述年龄信息表征用户为儿童,根据所述观看时间控制所述显示屏幕进入第三工作模式,所述第三工作模式包括根据所述观看时间间隔控制所述显示屏幕的打开或关闭。
13.根据权利要求2所述的设备控制方法,其特征在于,所述前置摄像头为屏下摄像头,所述屏下摄像头设置在所述显示屏幕的中心位置。
14.一种设备控制装置,其特征在于,包括:
第一模块,用于获取用户眼睛的第一眼部参数,所述第一眼部参数用于表征用户眼睛虹膜的位置;
第二模块,用于根据所述第一眼部参数确定用户眼睛与显示屏幕之间的观看信息,其中,所述观看信息包括第一观看距离、观看角度和观看时间;
第三模块,用于并根据所述第一眼部参数判断用户眼睛是否注视在所述显示屏幕上,得到判断结果;
第四模块,用于当所述判断结果表征用户注视在所述显示屏幕上,根据所述观看信息确定所述显示屏幕的工作模式。
15.一种电子设备,其特征在于,包括存储器、处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至14中任意一项所述的设备控制方法。
16.一种计算机可读存储介质,其特征在于,所述存储介质存储有程序,所述程序被处理器执行实现如权利要求1至14中任意一项所述的设备控制方法。
CN202210586095.4A 2022-05-27 2022-05-27 一种设备控制方法、装置、电子设备和存储介质 Pending CN115083325A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210586095.4A CN115083325A (zh) 2022-05-27 2022-05-27 一种设备控制方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210586095.4A CN115083325A (zh) 2022-05-27 2022-05-27 一种设备控制方法、装置、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN115083325A true CN115083325A (zh) 2022-09-20

Family

ID=83248448

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210586095.4A Pending CN115083325A (zh) 2022-05-27 2022-05-27 一种设备控制方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN115083325A (zh)

Similar Documents

Publication Publication Date Title
JP5602155B2 (ja) ユーザインタフェース装置および入力方法
CN109086726A (zh) 一种基于ar智能眼镜的局部图像识别方法及系统
CN107272904B (zh) 一种图像显示方法及电子设备
CN109002164B (zh) 头戴显示设备的显示方法、装置及头戴显示设备
WO2015024327A1 (zh) 视力保护成像装置及视力保护成像方法
CN105763829A (zh) 一种图像处理方法及电子设备
CN107260506B (zh) 基于眼动的3d视觉训练系统、智能终端及头戴设备
EP4354201A1 (en) Virtual reality display device, image presentation method, storage medium and program product
WO2020020022A1 (zh) 视觉识别方法及其系统
CN110826374B (zh) 监测人眼注视时间的方法和装置、存储介质、电子设备
CN114910052B (zh) 一种基于摄像头的测距方法、控制方法、装置和电子设备
TW201814356A (zh) 頭戴顯示裝置與其鏡片位置調整方法
CN108124150A (zh) 虚拟现实头戴显示设备及通过其观察真实场景的方法
CN111213375B (zh) 信息处理装置、信息处理方法以及程序
CN107436681A (zh) 自动调节文字的显示大小的移动终端及其方法
CN108133189B (zh) 医院候诊信息显示方法
CN114255204A (zh) 弱视训练方法、装置、设备及存储介质
CN113325947A (zh) 一种显示方法、装置、终端设备及存储介质
CN107291233B (zh) 头戴3d显示设备的视觉优化系统、智能终端及头戴设备
CN114895790A (zh) 一种人机交互方法、装置、电子设备和存储介质
CN110537897A (zh) 视线追踪方法和装置、计算机可读存储介质、电子设备
US20190281280A1 (en) Parallax Display using Head-Tracking and Light-Field Display
CN112926523A (zh) 基于虚拟现实的眼球追踪方法、系统
JP2023090721A (ja) 画像表示装置、画像表示用プログラム及び画像表示方法
CN115083325A (zh) 一种设备控制方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination