CN103593051B - 头戴式显示设备 - Google Patents

头戴式显示设备 Download PDF

Info

Publication number
CN103593051B
CN103593051B CN201310556394.4A CN201310556394A CN103593051B CN 103593051 B CN103593051 B CN 103593051B CN 201310556394 A CN201310556394 A CN 201310556394A CN 103593051 B CN103593051 B CN 103593051B
Authority
CN
China
Prior art keywords
eyeball
user
display screen
speckle
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310556394.4A
Other languages
English (en)
Other versions
CN103593051A (zh
Inventor
吴先超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201310556394.4A priority Critical patent/CN103593051B/zh
Publication of CN103593051A publication Critical patent/CN103593051A/zh
Application granted granted Critical
Publication of CN103593051B publication Critical patent/CN103593051B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提供一种头戴式显示设备,所述头戴式显示设备包括:显示屏幕;眼球跟踪单元,跟踪眼球视线位置,并提供眼球视线位置信息;控制器,接收所述眼球视线位置信息,判断眼球视线落在所述显示屏幕的显示区域之外是否超过预定时间,如果超过预定时间,则控制所述显示屏幕的显示区域进入无显示模式。

Description

头戴式显示设备
技术领域
本发明属于自动电源管理领域,涉及一种头戴式显示设备。
背景技术
头戴式显示设备(Head Mounted Display,HMD)指的是可以戴在头上的显示设备。HMD一般使用“近眼光学系统”来在距离眼球几厘米的显示屏幕(例如镜片)上显示图形图片等多媒体信息。根据显示屏幕的数量,HMD可以细分为“单镜片HMD”和“双镜片HMD”。一些HMD只显示一张“计算机生成图像”(CGI),而一些种类的HMD则可以以“现实世界视角”的方式显示叠加的CGI。后者一般又称为“增强的现实”,因为使用者的对于现实世界的图像信息被附着在显示设备上的图像给“强化”了。具体来说,就是用户既可以通过透明的镜片观看自己周围的外部世界,也可以通过控制系统在镜片上显示一些多媒体信息,例如文字(在前方看到的一座大厦的名字,距离自己最近的餐馆的位置以及其招牌菜、菜单等即时信息)。
HMD具有许多实用性的和娱乐性的应用。例如,航天应用允许飞行员在眼光不从飞行路线上移开的前提下,查看至关重要的飞行控制信息。公共安全应用可以包括跟踪显示地图信息以及犯罪嫌疑人的面部自动识别匹配信息等。其他应用领域也可以包括视频游戏、远程医疗、远程控制等。由于该技术还处于早期阶段,随着该技术的发展,将会有更多的实用性和娱乐性的应用出现。但是,目前这些应用被限制在成本、尺寸、显示区域、以及用来实现当前HMD的传统光学设备的效率问题等。并且,其他一些尚未彻底解决的技术问题将会随着HMD的迅猛发展而被逐步攻克并实现其在市场上的广泛应用。
另一方面,眼球跟踪技术近期被广泛关注。某些便携式设备(例如三星galaxy s4手机)已经集成该功能,实现诸如用户兴趣点记录、屏幕控制(如翻页、下拉显示)等诸多功能。
头戴式显示设备中的电池的续航能力直接影响着用户的使用体验。然而,目前使用手指触摸式控制或者声音控制的电源管理,需要用户主动付出比较多的交互成本,从而降低了用户使用可头戴式显示设备的体验效果。
发明内容
针对上述问题,本发明提出一种头戴式显示设备,通过眼球跟踪技术来自动控制头戴式显示设备的电源,从而节省用户的交互成本。
根据本发明的一方面,一种头戴式显示设备包括:显示屏幕;眼球跟踪单元,跟踪眼球视线位置,并提供眼球视线位置信息;控制器,接收所述眼球视线位置信息,判断眼球视线落在所述显示屏幕的显示区域之外是否超过预定时间,如果超过预定时间,则控制所述显示屏幕的显示区域进入无显示模式。
如果眼球视线落在所述显示屏幕的显示区域之外超过第一预定时间,则控制器控制所述显示屏幕的显示区域进入暗化模式;如果在第一预定时间之后眼球视线落在所述显示屏幕的显示区域之外超过第二预定时间,则控制器控制所述显示屏幕的显示区域进入无显示模式。
如果在第一预定时间之后的第二预定时间内眼球视线落在所述显示屏幕的显示区域内,则控制器控制所述显示屏幕的显示区域进入亮化显示模式。
眼球跟踪单元包括:红外光源,朝向用户的眼睛发射红外光;红外摄像头,接收被用户眼球瞳孔反射的红外光,并提供眼球视线位置信息。
如果红外摄像头在与显示屏幕的预定距离内没有捕获到用户眼球超过预定时间,则控制器控制所述显示屏幕的显示区域进入无显示模式。
如果红外摄像头在与显示屏幕的预定距离内没有捕获到用户眼球超过第三预定时间,则控制器控制所述显示屏幕的显示区域进入暗化模式;如果红外摄像头在第三预定时间之后在与显示屏幕的预定距离内没有捕获到用户眼球超过第四预定时间,则控制器控制所述显示屏幕的显示区域进入无显示模式。
如果红外摄像头在第三预定时间之后的第四预定时间内捕获到用户的眼球视线位置位于显示屏幕的显示区域内,则控制器控制所述显示屏幕的显示区域进入亮化显示模式。
在显示屏幕的显示区域处于无显示模式下,用户通过下列方式中的一种重新开启显示屏幕的显示区域:用户通过触摸设置在头戴式显示设备中的触摸板使得显示屏幕的显示区域进入开启状态;用户通过语音开启指令使得显示屏幕的显示区域进入开启状态。
可头戴式显示设备还包括:存储器,存储关于用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系的数据。眼球跟踪单元捕获用户眼球的图像,控制器根据捕获的用户眼球的图像确定用户眼球的移动方向,将确定的用户眼球的移动方向与存储器中存储的用户眼球的移动方向进行匹配;如果匹配,则控制器根据存储器中存储的用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系,来开启/关闭显示屏幕。
控制器从捕获的用户眼球的图像识别用户眼球的位置,以确定用户眼球的移动方向。眼球位置的识别包括眼球图像捕获、眼球类似物估计和眼球边界检测。眼球图像捕获包括:眼球跟踪单元捕获一帧用户眼球的图像;控制器将捕获的图像转换为灰度图像;控制器对灰度图像进行高斯模糊过滤。眼球类似物估计包括:对于用户眼球图像中的每一个当前像素,分别基于当前像素在横向和纵向绘制两条直线,得到当前像素周围的8个相邻区域;分别计算所述8个相邻区域的像素的灰度的平均值;将当前像素的灰度与所述8个相邻区域的像素的灰度的平均值进行比较,如果当前像素的灰度比所述8个相邻区域中的6个相邻区域的像素的灰度的平均值大,则将当前像素估计为眼球类似物像素。眼球边界检测包括:将眼球类似物像素转换成斑点区域集合;去除宽度大于2w或者高度大于2h的斑点、宽度小于w/4或者高度小于w/4的斑点以及取向大于45度的斑点;如果只剩最后一个斑点,则所述斑点被确定为与眼球对应的图像;如果多于一个斑点,则去除斑点区域集合中最上面的斑点,或者去除形状最不接近圆或椭圆的斑点,直到只剩最后一个斑点,所述斑点被识别为用户眼球,其中,w表示用户眼球图像中眼球的宽度,h表示用户眼球图像中眼球的高度。
控制器从识别的用户眼球确定用户眼球瞳孔的位置,以获得用户的眼球移动方向,其中,对于被识别为眼球的斑点,控制器构建瞳孔识别三角形,将所述三角形的中心点识别为瞳孔的中心点,从而得到瞳孔的位置。
眼球跟踪单元捕获用户眼球的图像,控制器根据捕获的用户眼球的图像确定用户快速连续眨眼次数,如果用户快速连续眨眼次数达到预定次数,则控制器切换显示屏幕的开启/关闭状态。
根据本发明的另一方面,一种头戴式显示设备包括:显示屏幕;眼球跟踪单元,捕获用户眼球的图像;控制器,从捕获的用户眼球的图像识别用户眼球的位置,以确定用户眼球的移动方向,存储器,存储关于用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系的数据,其中,控制器将确定的用户眼球的移动方向与存储器中存储的用户眼球的移动方向进行匹配;如果匹配,则控制器根据存储器中存储的用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系,来开启/关闭显示屏幕。
根据本发明的另一方面,提供一种头戴式显示设备的自动电源管理方法,所述头戴式显示设备包括显示屏幕、眼球跟踪单元以及控制器,所述方法包括:眼球跟踪单元跟踪眼球视线位置,并提供眼球视线位置信息;控制器接收所述眼球视线位置信息,判断眼球视线落在显示屏幕的显示区域之外是否超过预定时间,如果超过预定时间,则控制显示屏幕的显示区域进入无显示模式。
本发明可以有效地根据用户眼球视线位置的变化,来自动控制头戴式显示设备的电源管理以及显示屏幕的显示区域的明亮灰度控制,在无需用户主动提供触屏操作或者声音控制等的前提下,能够达到更好的用户体验效果。本发明能够自动识别用户眼球位置和瞳孔位置,并基于眼球位置和瞳孔位置来自动控制显示屏幕的显示区域的开启/关闭。本发明可以更好地取代目前用户主动控制的交互方式,降低了用户的使用成本。
附图说明
通过结合附图,从下面的实施例的描述中,本发明这些和/或其它方面及优点将会变得清楚,并且更易于理解,其中:
图1是示出根据本发明实施例的头戴式显示设备的前向视角示意图;
图2是示出根据本发明实施例的用户的眼球视线位置从显示屏幕2的显示区域内变化到显示区域外的示意图(前向视角示意图);
图3是示出根据本发明实施例的用户的眼球视线位置从显示屏幕2的显示区域内变化到显示区域外的示意图(用户视角示意图);
图4示出根据本发明实施例的头戴式显示设备的自动电源管理方法的流程图;
图5是头戴式显示设备的眼球跟踪单元和控制器的交互过程;
图6示出了处理前的一帧彩色用户眼球图像和处理后的一帧黑白灰度的用户眼球图像;
图7示出了根据本发明的用户眼球图像中的每一个当前像素的8个相邻区域的划分;
图8示出了根据本发明的眼球类似物像素的估计结果;
图9示出了根据本发明的确定斑点是否接近圆或椭圆的示例;
图10示出了根据本发明的确定用户眼球瞳孔位置的示例;
图11示出了根据本发明的眼球位置和瞳孔位置的识别结果的示例。
具体实施方式
以下参照附图来详细描述本发明的实施例。根据HMD的显示屏幕的数量,HMD可以细分为单镜片HMD和双镜片HMD。本发明可同时适用于单镜片HMD以及双镜片HMD。
图1是示出根据本发明实施例的头戴式显示设备的前向视角示意图。
参照图1,头戴式显示设备可包括显示屏幕2、眼球跟踪单元3和控制器4。图1中的标号1表示头戴式显示设备的框架。框架1可由特定材料(例如碳纤维等轻质材料)制成。显示屏幕2、眼球跟踪单元3和控制器4可安装在头戴式显示设备的框架1中。
显示屏幕2可被设置有触摸式控制界面或者麦克风配合声音识别模块等来接受用户的触摸式以及声音等控制信息,实现交互。
显示屏幕2可以是一个显示屏幕或两个显示屏幕(即,左显示屏幕21和右显示屏幕22),分别对应于单镜片HMD和双镜片HMD。
眼球跟踪单元3跟踪眼球视线位置,并提供眼球视线位置信息。
具体地,眼球跟踪单元3可包括红外光源31和红外摄像头32。红外光源31朝向用户的眼睛发射红外光。红外摄像头32接收被用户眼球瞳孔反射的红外光,并提供眼球视线位置信息。红外摄像头32可以是针孔式红外摄像头。红外光源31可以是红外发光二极管或红外激光二极管。
控制器4接收眼球视线位置信息,判断眼球视线是否落在显示屏幕2的显示区域之内,如果眼球视线落在显示屏幕2的显示区域之外超过预定时间,则控制相应的显示屏幕2的显示区域进入无显示模式。显示屏幕2的显示区域可以是矩形显示区域。此外,如果确定用户的眼球视线落在显示屏幕2的显示区域之内,可确定用户佩戴了头戴式显示设备,用户的眼球与显示屏幕2的距离基本保持不变。
具体地,如果眼球视线落在显示屏幕2的显示区域之外超过第一预定时间(例如2秒),则控制器4控制相应的显示屏幕2的显示区域进入暗化模式。如果在第一预定时间之后的第二预定时间内眼球视线落在显示屏幕2的显示区域内,则控制器4控制相应的显示屏幕2的显示区域进入亮化显示模式。如果在第一预定时间之后眼球视线落在显示屏幕2的显示区域之外超过第二预定时间(例如1秒),则控制器4控制相应的显示屏幕2的显示区域进入无显示模式。此时,显示屏幕2可变为普通的透明镜片,控制器4可进入休眠状态。
此外,如果用户没有佩戴头戴式显示设备超过预定时间,即,如果红外摄像头32在与显示屏幕2的预定距离内没有捕获到用户眼球超过预定时间,则控制器4控制相应的显示屏幕2的显示区域进入无显示模式(头戴式显示设备进入待机模式)。
具体地,如果红外摄像头32在与显示屏幕2的预定距离内没有捕获到用户眼球超过第三预定时间(例如2秒),则控制器4控制相应的显示屏幕2的显示区域进入暗化模式。如果红外摄像头32在第三预定时间之后在与显示屏幕2的预定距离内没有捕获到用户眼球超过第四预定时间(例如1秒),则控制器4控制相应的显示屏幕2的显示区域进入无显示模式。此时,显示屏幕2可变为普通的透明镜片,控制器4可进入休眠状态(待机模式)。
如果红外摄像头32在第三预定时间之后的第四预定时间内捕获到用户的眼球视线位置位于显示屏幕2的显示区域内(“捕获到用户的眼球视线位置位于显示屏幕2的显示区域内”则意味着“用户的眼球在与显示屏幕2的预定距离内”),则控制器4控制相应的显示屏幕2的显示区域进入亮化显示模式。
图2是示出根据本发明实施例的用户的眼球视线位置从显示屏幕2的显示区域内变化到显示区域外的示意图(前向视角示意图)。图3是示出根据本发明实施例的用户的眼球视线位置从显示屏幕2的显示区域内变化到显示区域外的示意图(用户视角示意图)。图2和图3中的矩形方框表示显示屏幕2的显示区域。
例如,当用户的眼球视线位置从显示屏幕2的显示区域移动到显示区域之外(外部世界)的时候,对应的显示屏幕2在第一预定时间的延迟(例如2秒)之后转暗,之后再经历第二预定时间的延迟(例如1秒)之后,显示区域彻底消失。
图4示出根据本发明实施例的头戴式显示设备的自动电源管理方法的流程图。
参照图4,在步骤401,眼球跟踪单元3跟踪用户的眼球视线位置,并提供用户的眼球视线位置信息。
在步骤402,控制器4接收用户的眼球视线位置信息,判断用户的眼球视线是否落在显示屏幕2的显示区域之内。
如果用户的眼球视线落在显示屏幕2的显示区域之外,则在步骤403,控制器4确定用户的眼球视线落在显示屏幕2的显示区域之外是否超过第一预定时间。
如果用户的眼球视线落在显示屏幕2的显示区域之外超过第一预定时间,则在步骤404,控制器4控制相应的显示屏幕2的显示区域进入暗化模式。
接着,在步骤405,确定在第一预定时间之后用户的眼球视线位置位于显示屏幕2的显示区域之外是否超过第二预定时间(例如1秒)。
如果确定在第一预定时间之后用户的眼球视线位置位于显示屏幕2的显示区域之外超过第二预定时间,则在步骤406,控制器4控制相应的显示屏幕2的显示区域进入无显示模式。
另外,如果在步骤402确定用户的眼球视线落在显示屏幕2的显示区域之内,则在步骤407,控制器4控制相应的显示屏幕2的显示区域进入亮化显示模式。此外,如果在步骤405确定在第二预定时间期间用户的眼球视线落在显示屏幕2的显示区域之内,则在步骤407,控制器4控制相应的显示屏幕2的显示区域进入亮化显示模式。
图5是头戴式显示设备的眼球跟踪单元和控制器的交互过程。眼球跟踪3(例如可以是红外摄像头32)可按照脉冲信号的频次来定期地向控制器4传送“是”或“否”这两种信号;高频次代表“是”信号,“是”信号表示“用户的眼球视线落在显示屏幕的显示区域之内”;低频次代表“否”信号,“否”信号表示“用户的眼球视线落在显示屏幕的显示区域之外/在预定距离内没有捕获到用户的眼球”。
此外,在显示屏幕2的显示区域处于无显示模式下,用户可以以如下任何一种方式重新开启显示屏幕2的显示区域:
1、触摸板控制,可在头戴式显示设备的框架1上设置一个可感知的触摸板,在显示屏幕2的显示区域处于无显示模式下(头戴式显示设备处于待机模式下),如果用户主动触摸(例如划线或者点击)该触摸板,则显示屏幕2的显示区域进入开启状态;
2、声音控制,通过用户的语音开启指令(例如用户说“开启”)来让显示屏幕2的显示区域进入开启状态。
除了头戴式显示设备检测用户眼球视线的位置以进行自动电源管理之外,还可通过用户眼球的定向移动或用户有规律的眨眼来进行可头戴式显示设备的自动电源管理(即,控制是点亮还是变暗可头戴式显示设备的显示屏幕2的显示区域)。
对于用户眼球的定向移动,可头戴式显示设备的存储器(未示出)可存储关于用户眼球的移动方向与显示屏幕2的开启/关闭之间的对应关系的数据。用户眼球的定向移动可以是从左下到右上移动、从左上到右下移动等。例如,眼球从左下到右上移动可对应于显示屏幕2的开启,眼球从左上到右下移动可对应于显示屏幕2的关闭,反之亦然,本发明不限于此。用户可通过输入装置更改这种对应关系。
眼球跟踪单元3(红外摄像头32)捕获用户眼球的图像,控制器4根据捕获的用户眼球的图像确定用户眼球的移动方向,将确定的用户眼球的移动方向与存储器中存储的用户眼球的移动方向进行匹配。如果匹配,则控制器4根据存储器中存储的用户眼球的移动方向与显示屏幕2的开启/关闭之间的对应关系,来开启/关闭显示屏幕2。
在可头戴式显示设备最初被手动通过电源开关开启的时候,可提示用户登记多种用来控制显示屏幕2的开启/关闭的眼球移动方向。这样,在以后的使用中,当用户眼球移动方向和已经登记的多种用于开启/关闭功能的眼球移动方向相匹配时,开启/关闭功能直接被执行。这样,可以简单而快捷地让用户快速而简便地控制可头戴式显示设备的显示屏幕2的开启/关闭。
对于用户有规律的眨眼,控制器4可根据用户的眨眼次数控制显示屏幕2的开启/关闭。
具体地,眼球跟踪单元3(红外摄像头32)捕获用户眼球的图像,控制器4根据捕获的用户眼球的图像确定用户快速连续眨眼次数,如果用户快速连续眨眼次数达到预定次数(例如2次),则控制器4切换显示屏幕2的开启/关闭状态(例如,如果显示屏幕2的当前状态是开启状态,则控制器4将显示屏幕2切换为关闭状态;如果显示屏幕2的当前状态是关闭状态,则控制器4将显示屏幕2切换为开启状态)。
此外,控制器4根据捕获的用户眼球的图像确定用户闭眼持续时间,如果用户闭眼持续时间超过预定时间(例如2秒),则控制器4将显示屏幕2切换为关闭状态。
特别地,在显示屏幕2关闭时,为了防止误操作引起的误关机,在用户连续快速眨眼达到预定次数之后,如果用户再次快速眨眼达到预定次数,则可头戴式显示设备彻底进入关闭状态;否则,可头戴式显示设备对用户最初的预定次数的快速眨眼不进行响应。
下面描述识别用户眼球和瞳孔的处理。识别出用户眼球之后,可以获得用户的闭眼时间以及眨眼次数;识别出瞳孔的位置之后,可以获得到用户的眼球移动(视线移动)方向,从而为随后的方向匹配做好准备。
眼球位置的识别处理主要包括眼球图像捕获、眼球类似物估计和眼球边界检测。
眼球图像捕获包括如下处理:眼球跟踪单元3(红外摄像头32)捕获一帧用户眼球的图像;控制器4将捕获的图像转换为灰度图像;控制器4对灰度图像进行高斯模糊过滤,得到处理后的用户眼球的图像。
图6中的(a)和(b)分别示出了处理前的一帧彩色用户眼球图像和处理后的一帧黑白灰度的用户眼球图像。
眼球类似物估计包括如下处理:对于用户眼球图像中的每一个当前像素(假设其坐标为(a,b)),分别基于当前像素在横向和纵向绘制两条直线(纵向两条直线分别为x=a-1,x=a+1;横向两条直线分别为y=b-1,y=b+1),从而得到当前像素周围的8个相邻区域(即,左上区域、正上区域、右上区域、右中区域、右下区域、正下区域、左下区域、左中区域);分别计算8个相邻区域的像素的灰度的平均值;将当前像素的灰度与8个相邻区域的像素的灰度的平均值进行比较,如果当前像素的灰度比8个相邻区域中的6个相邻区域的像素的灰度的平均值大(灰度更深),则将当前像素估计为眼球类似物像素。
所述眼球类似物估计基于下面的事实:眼球的颜色(灰度)接近于一个黑色的圆形/椭圆形,圆形/椭圆形“黑色”眼球的周围是灰度更浅的眼白,因此圆形/椭圆形区域上的每个像素都比圆形/椭圆形之外的像素灰度更深一些。
图7示出了根据本发明的用户眼球图像中的每一个当前像素的8个相邻区域的划分。优选地,如果期望的眼球大小是w×h像素(即,w表示用户眼球图像中眼球的宽度,h表示用户眼球图像中眼球的高度),则8个相邻区域中的左上区域、右上区域、右下区域、左下区域的尺寸为(w/2)×(h/2),正上区域和正下区域的尺寸为1×(h/2),右中区域和左中区域的尺寸为(w/2)×1。
图8示出了根据本发明的眼球类似物像素的估计结果。
眼球边界检测包括如下处理:将眼球类似物像素转换成斑点区域集合;去除宽度大于2w或者高度大于2h的斑点、宽度小于w/4或者高度小于w/4的斑点以及取向大于45度的斑点;如果只剩最后一个斑点,则所述斑点被确定为与眼球对应的图像;如果多于一个斑点,则去除斑点区域集合中最上面的斑点,或者去除形状最不接近圆或椭圆的斑点,直到只剩最后一个斑点,所述斑点被识别为用户眼球。
在判断一个斑点是否是接近圆或者椭圆的时候,可采用如下方式:1、斑点的最左边的点和最右边的点的连线的线段长度和斑点的最上边的点以及最下边的点的线段长度相比较,优先选择差异最小的斑点;2、确定如上的两个线段的交点以及交点附近的区域的点是否都在这基于两个线段所绘制的圆形区域以及椭圆形区域以内,优先选择像素数匹配度高的斑点。图9示出了上述确定过程。
在识别出用户眼球之后,可以获得用户的闭眼时间以及眨眼次数。
对于用户瞳孔的位置,采用和眼球定位类似的方式,因为瞳孔相对于眼白和眼黑部分,其灰度存在进一步变化。对于被识别为眼球的斑点,构建瞳孔识别三角形,将三角形的中心点识别为瞳孔的中心点,进而得到瞳孔的位置,如图10所示。
在识别出瞳孔的位置之后,可以获得用户的眼球移动(视线移动)方向。
图11示出了眼球位置和瞳孔位置的识别结果。
虽然上面描述了本发明的实施例,但是本发明不限于此,可以有其它变型。例如,眼球跟踪单元捕获用户眼球的图像,控制器从捕获的用户眼球的图像识别用户眼球的位置,以确定用户眼球的移动方向,将确定的用户眼球的移动方向与存储器中存储的用户眼球的移动方向进行匹配;如果匹配,则控制器根据存储器中存储的用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系,来开启/关闭显示屏幕。眼球位置的识别包括眼球图像捕获、眼球类似物估计和眼球边界检测,这些处理与前述相同,因此不再重复描述。
本发明可以有效地根据用户眼球视线位置的变化,来自动控制头戴式显示设备的电源管理以及显示屏幕的显示区域的明亮灰度控制,在无需用户主动提供触屏操作或者声音控制等的前提下,能够达到更好的用户体验效果。本发明能够自动识别用户眼球位置和瞳孔位置,并基于眼球位置和瞳孔位置来自动控制显示屏幕的显示区域的开启/关闭。本发明可以更好地取代目前用户主动控制的交互方式,降低了用户的使用成本。
虽然本发明是参照其示例性的实施例被具体描述和显示的,但是本领域的普通技术人员应该理解,在不脱离由权利要求限定的本发明的精神和范围的情况下,可以对其进行形式和细节的各种改变。

Claims (13)

1.一种头戴式显示设备,包括:
显示屏幕;
眼球跟踪单元,跟踪眼球视线位置,并提供眼球视线位置信息;
控制器,接收所述眼球视线位置信息,判断眼球视线落在所述显示屏幕的显示区域之外是否超过预定时间,如果超过预定时间,则控制所述显示屏幕的显示区域进入无显示模式,
其中,所述头戴式显示设备还包括:存储器,存储关于用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系的数据,
眼球跟踪单元捕获用户眼球的图像,控制器根据捕获的用户眼球的图像确定用户眼球的移动方向,将确定的用户眼球的移动方向与存储器中存储的用户眼球的移动方向进行匹配;如果匹配,则控制器根据存储器中存储的用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系,来开启/关闭显示屏幕,
其中,控制器从捕获的用户眼球的图像识别用户眼球的位置,以确定用户眼球的移动方向,
眼球位置的识别包括眼球图像捕获、眼球类似物估计和眼球边界检测,
眼球图像捕获包括:眼球跟踪单元捕获一帧用户眼球的图像;控制器将捕获的图像转换为灰度图像;控制器对灰度图像进行高斯模糊过滤,
眼球类似物估计包括:对于用户眼球图像中的每一个当前像素,分别基于当前像素在横向和纵向绘制两条直线,得到当前像素周围的8个相邻区域;分别计算所述8个相邻区域的像素的灰度的平均值;将当前像素的灰度与所述8个相邻区域的像素的灰度的平均值进行比较,如果当前像素的灰度比所述8个相邻区域中的6个相邻区域的像素的灰度的平均值大,则将当前像素估计为眼球类似物像素,
眼球边界检测包括:将眼球类似物像素转换成斑点区域集合;去除宽度大于2w或者高度大于2h的斑点、宽度小于w/4或者高度小于w/4的斑点以及取向大于45度的斑点;如果只剩最后一个斑点,则所述斑点被确定为与眼球对应的图像;如果多于一个斑点,则去除斑点区域集合中最上面的斑点,或者去除形状最不接近圆或椭圆的斑点,直到只剩最后一个斑点,所述斑点被识别为用户眼球,其中,w表示用户眼球图像中眼球的宽度,h表示用户眼球图像中眼球的高度。
2.根据权利要求1所述的头戴式显示设备,其中,如果眼球视线落在所述显示屏幕的显示区域之外超过第一预定时间,则控制器控制所述显示屏幕的显示区域进入暗化模式;如果在第一预定时间之后眼球视线落在所述显示屏幕的显示区域之外超过第二预定时间,则控制器控制所述显示屏幕的显示区域进入无显示模式。
3.根据权利要求2所述的头戴式显示设备,其中,如果在第一预定时间之后的第二预定时间内眼球视线落在所述显示屏幕的显示区域内,则控制器控制所述显示屏幕的显示区域进入亮化显示模式。
4.根据权利要求1-3中任意一项所述的头戴式显示设备,其中,眼球跟踪单元包括:红外光源,朝向用户的眼睛发射红外光;红外摄像头,接收被用户眼球瞳孔反射的红外光,并提供眼球视线位置信息。
5.根据权利要求4所述的头戴式显示设备,其中,如果红外摄像头在与显示屏幕的预定距离内没有捕获到用户眼球超过预定时间,则控制器控制所述显示屏幕的显示区域进入无显示模式。
6.根据权利要求5所述的头戴式显示设备,其中,如果红外摄像头在与显示屏幕的预定距离内没有捕获到用户眼球超过第三预定时间,则控制器控制所述显示屏幕的显示区域进入暗化模式;如果红外摄像头在第三预定时间之后在与显示屏幕的预定距离内没有捕获到用户眼球超过第四预定时间,则控制器控制所述显示屏幕的显示区域进入无显示模式。
7.根据权利要求6所述的头戴式显示设备,其中,如果红外摄像头在第三预定时间之后的第四预定时间内捕获到用户的眼球视线位置位于显示屏幕的显示区域内,则控制器控制所述显示屏幕的显示区域进入亮化显示模式。
8.根据权利要求1所述的头戴式显示设备,其中,在显示屏幕的显示区域处于无显示模式下,用户通过下列方式中的一种重新开启显示屏幕的显示区域:
用户通过触摸设置在头戴式显示设备中的触摸板使得显示屏幕的显示区域进入开启状态;
用户通过语音开启指令使得显示屏幕的显示区域进入开启状态。
9.根据权利要求1所述的头戴式显示设备,其中,控制器从识别的用户眼球确定用户眼球瞳孔的位置,以获得用户的眼球移动方向,
其中,对于被识别为眼球的斑点,控制器构建瞳孔识别三角形,将所述三角形的中心点识别为瞳孔的中心点,从而得到瞳孔的位置。
10.根据权利要求1所述的头戴式显示设备,其中,眼球跟踪单元捕获用户眼球的图像,控制器根据捕获的用户眼球的图像确定用户快速连续眨眼次数,如果用户快速连续眨眼次数达到预定次数,则控制器切换显示屏幕的开启/关闭状态。
11.一种头戴式显示设备,包括:
显示屏幕;
眼球跟踪单元,捕获用户眼球的图像;
控制器,从捕获的用户眼球的图像识别用户眼球的位置,以确定用户眼球的移动方向,
存储器,存储关于用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系的数据,
其中,控制器将确定的用户眼球的移动方向与存储器中存储的用户眼球的移动方向进行匹配;如果匹配,则控制器根据存储器中存储的用户眼球的移动方向与显示屏幕的开启/关闭之间的对应关系,来开启/关闭显示屏幕,
其中,控制器从捕获的用户眼球的图像识别用户眼球的位置的处理包括眼球图像捕获、眼球类似物估计和眼球边界检测,
眼球图像捕获包括:将眼球跟踪单元捕获的一帧用户眼球的图像转换为灰度图像;对灰度图像进行高斯模糊过滤,
眼球类似物估计包括:对于用户眼球图像中的每一个当前像素,分别基于当前像素在横向和纵向绘制两条直线,得到当前像素周围的8个相邻区域;分别计算所述8个相邻区域的像素的灰度的平均值;将当前像素的灰度与所述8个相邻区域的像素的灰度的平均值进行比较,如果当前像素的灰度比所述8个相邻区域中的6个相邻区域的像素的灰度的平均值大,则将当前像素估计为眼球类似物像素,
眼球边界检测包括:将眼球类似物像素转换成斑点区域集合;去除宽度大于2w或者高度大于2h的斑点、宽度小于w/4或者高度小于w/4的斑点以及取向大于45度的斑点;如果只剩最后一个斑点,则所述斑点被确定为与眼球对应的图像;如果多于一个斑点,则去除斑点区域集合中最上面的斑点,或者去除形状最不接近圆或椭圆的斑点,直到只剩最后一个斑点,所述斑点被识别为用户眼球,其中,w表示用户眼球图像中眼球的宽度,h表示用户眼球图像中眼球的高度。
12.根据权利要求11所述的头戴式显示设备,其中,控制器从识别的用户眼球确定用户眼球瞳孔的位置,以获得用户的眼球移动方向,
其中,对于被识别为眼球的斑点,控制器构建瞳孔识别三角形,将所述三角形的中心点识别为瞳孔的中心点,从而得到瞳孔的位置。
13.根据权利要求11所述的头戴式显示设备,其中,眼球跟踪单元捕获用户眼球的图像,控制器根据捕获的用户眼球的图像确定用户快速连续眨眼次数,如果用户快速连续眨眼次数达到预定次数,则控制器切换显示屏幕的开启/关闭状态。
CN201310556394.4A 2013-11-11 2013-11-11 头戴式显示设备 Active CN103593051B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310556394.4A CN103593051B (zh) 2013-11-11 2013-11-11 头戴式显示设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310556394.4A CN103593051B (zh) 2013-11-11 2013-11-11 头戴式显示设备

Publications (2)

Publication Number Publication Date
CN103593051A CN103593051A (zh) 2014-02-19
CN103593051B true CN103593051B (zh) 2017-02-15

Family

ID=50083235

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310556394.4A Active CN103593051B (zh) 2013-11-11 2013-11-11 头戴式显示设备

Country Status (1)

Country Link
CN (1) CN103593051B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI633336B (zh) * 2017-02-24 2018-08-21 宏碁股份有限公司 頭戴式顯示器、其視野校正方法以及混合實境顯示系統

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105204604B (zh) * 2014-05-30 2019-03-01 华为技术有限公司 一种眼球交互控制设备
EP2958074A1 (en) 2014-06-17 2015-12-23 Thomson Licensing A method and a display device with pixel repartition optimization
CN105717640B (zh) * 2014-12-05 2018-03-30 北京蚁视科技有限公司 基于微透镜阵列的近眼显示器
EP3037915B1 (en) * 2014-12-23 2017-08-16 Nokia Technologies OY Virtual reality content control
JP6392374B2 (ja) * 2014-12-25 2018-09-19 マクセル株式会社 ヘッドマウントディスプレイシステム及びヘッドマウントディスプレイ装置の操作方法
US9690374B2 (en) * 2015-04-27 2017-06-27 Google Inc. Virtual/augmented reality transition system and method
CN104834446B (zh) * 2015-05-04 2018-10-26 惠州Tcl移动通信有限公司 一种基于眼球追踪技术的显示屏多屏控制方法及系统
US10136214B2 (en) * 2015-08-11 2018-11-20 Google Llc Pairing of media streaming devices
CN105380590B (zh) * 2015-10-27 2017-11-07 杭州镜之镜科技有限公司 一种具有眼位检测功能的设备及其实现方法
DE102015226580A1 (de) 2015-12-22 2017-06-22 Audi Ag Verfahren zum Betreiben eines Virtual-Reality-Systems und Virtual-Reality-System
CN105700363B (zh) * 2016-01-19 2018-10-26 深圳创维-Rgb电子有限公司 一种智能家居设备语音控制装置的唤醒方法及系统
CN105912109A (zh) * 2016-04-06 2016-08-31 众景视界(北京)科技有限公司 头戴式可视设备的屏幕自动开关装置和头戴式可视设备
CN106200961A (zh) * 2016-07-10 2016-12-07 上海青橙实业有限公司 移动终端、可穿戴设备及输入方法
CN107765840A (zh) * 2016-08-22 2018-03-06 深圳纬目信息技术有限公司 一种基于双目测量的泛头戴式设备的视线追踪方法设备
CN106598239A (zh) * 2016-12-06 2017-04-26 栗明 一种基于含眼控的交互模块的头戴显示设备中的红外灯透射装置
CN106774992A (zh) * 2016-12-16 2017-05-31 深圳市虚拟现实技术有限公司 虚拟现实空间定位特征点识别方法
CN108733204A (zh) * 2017-04-20 2018-11-02 上海耕岩智能科技有限公司 一种眼球追踪操作的方法和装置
CN110610669A (zh) 2018-06-15 2019-12-24 深圳富泰宏精密工业有限公司 显示模块及具有该显示模块的电子装置
CN110610668B (zh) * 2018-06-15 2022-05-06 深圳富泰宏精密工业有限公司 智能眼镜
CN109086108B (zh) * 2018-06-29 2021-04-27 福建天晴数码有限公司 一种界面布局合理性检测的方法及系统
CN110308794A (zh) * 2019-07-04 2019-10-08 郑州大学 具有两种显示模式的虚拟现实头盔及显示模式的控制方法
CN112419986A (zh) * 2019-08-20 2021-02-26 Oppo广东移动通信有限公司 头戴式显示设备的图像显示方法、装置及系统
CN111475243A (zh) * 2020-04-03 2020-07-31 广东小天才科技有限公司 一种页面加载方法及系统
CN111722716B (zh) * 2020-06-18 2022-02-08 清华大学 眼动交互方法、头戴式设备和计算机可读介质
CN113269044A (zh) * 2021-04-27 2021-08-17 青岛小鸟看看科技有限公司 头戴式显示设备的显示控制方法、装置及头戴式显示设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5991085A (en) * 1995-04-21 1999-11-23 I-O Display Systems Llc Head-mounted personal visual display apparatus with image generator and holder
CN101141567A (zh) * 2006-09-08 2008-03-12 索尼株式会社 图像获取和显示设备以及图像获取和显示方法
CN101506868A (zh) * 2006-09-08 2009-08-12 索尼株式会社 显示设备和显示方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5167545B2 (ja) * 2006-03-31 2013-03-21 国立大学法人静岡大学 視点検出装置
CN102129554B (zh) * 2011-03-18 2013-01-16 山东大学 一种基于视线跟踪的密码输入控制方法
CN102779502A (zh) * 2011-05-11 2012-11-14 中兴通讯股份有限公司 一种控制终端屏幕的方法及终端
US8235529B1 (en) * 2011-11-30 2012-08-07 Google Inc. Unlocking a screen using eye tracking information

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5991085A (en) * 1995-04-21 1999-11-23 I-O Display Systems Llc Head-mounted personal visual display apparatus with image generator and holder
CN101141567A (zh) * 2006-09-08 2008-03-12 索尼株式会社 图像获取和显示设备以及图像获取和显示方法
CN101506868A (zh) * 2006-09-08 2009-08-12 索尼株式会社 显示设备和显示方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI633336B (zh) * 2017-02-24 2018-08-21 宏碁股份有限公司 頭戴式顯示器、其視野校正方法以及混合實境顯示系統

Also Published As

Publication number Publication date
CN103593051A (zh) 2014-02-19

Similar Documents

Publication Publication Date Title
CN103593051B (zh) 头戴式显示设备
US11145096B2 (en) System and method for augmented reality interaction
US20220103748A1 (en) Touchless photo capture in response to detected hand gestures
CN110168618B (zh) 增强现实控制系统和方法
US10613330B2 (en) Information processing device, notification state control method, and program
CN102566756B (zh) 用于扩展现实显示的基于理解力和意图的内容
US9223401B1 (en) User interface
CN103984097B (zh) 头戴式显示装置、头戴式显示装置的控制方法以及图像显示系统
JP6095763B2 (ja) ジェスチャ登録装置、ジェスチャ登録プログラムおよびジェスチャ登録方法
EP2920765B1 (en) Modifying virtual object display properties to increase power performance of augmented reality devices
US11320655B2 (en) Graphic interface for real-time vision enhancement
US20210407205A1 (en) Augmented reality eyewear with speech bubbles and translation
US20160054565A1 (en) Information processing device, presentation state control method, and program
US20130241805A1 (en) Using Convergence Angle to Select Among Different UI Elements
US20130007668A1 (en) Multi-visor: managing applications in head mounted displays
CN114531951B (zh) 自动视频捕捉和合成系统
CN113709410A (zh) 基于mr眼镜的人眼视觉能力增强的方法、系统及设备
CN107533375A (zh) 场景图像分析模块
US20220214547A1 (en) Methods and systems for controlling media content presentation on a smart glasses display
CN110082910A (zh) 用于在显示镜上展示表情符号的方法和设备
WO2022005715A1 (en) Augmented reality eyewear with 3d costumes
US11747622B2 (en) Methods and systems for controlling media content presentation on a smart glasses display
KR20230025913A (ko) 기분 공유를 갖는 증강 현실 안경류
CN117321537A (zh) 眼睛佩戴设备动态功率配置
CN105938250A (zh) 多层式增强现实智能眼镜

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20140219

Assignee: Beijing Intellectual Property Management Co.,Ltd.

Assignor: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd.

Contract record no.: X2023110000098

Denomination of invention: Headworn display device

Granted publication date: 20170215

License type: Common License

Record date: 20230822

EE01 Entry into force of recordation of patent licensing contract