CN108292040A - 优化头戴式显示器屏幕上的内容定位的方法 - Google Patents
优化头戴式显示器屏幕上的内容定位的方法 Download PDFInfo
- Publication number
- CN108292040A CN108292040A CN201680057812.7A CN201680057812A CN108292040A CN 108292040 A CN108292040 A CN 108292040A CN 201680057812 A CN201680057812 A CN 201680057812A CN 108292040 A CN108292040 A CN 108292040A
- Authority
- CN
- China
- Prior art keywords
- user
- hmd
- offset
- scene
- method described
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/38—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
- G02C7/00—Optical parts
- G02C7/02—Lenses; Lens systems ; Methods of designing lenses
- G02C7/06—Lenses; Lens systems ; Methods of designing lenses bifocal; multifocal ; progressive
-
- G—PHYSICS
- G02—OPTICS
- G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
- G02C7/00—Optical parts
- G02C7/02—Lenses; Lens systems ; Methods of designing lenses
- G02C7/08—Auxiliary lenses; Arrangements for varying focal length
- G02C7/086—Auxiliary lenses located directly on a main spectacle lens or in the immediate vicinity of main spectacles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0181—Adaptation to the pilot/driver
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/0693—Calibration of display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Optics & Photonics (AREA)
- Ophthalmology & Optometry (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computer Graphics (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
一种在交互式HMD会话期间调整显示给用户的内容以补偿所述用户的头部倾斜的系统和方法。所述用户的头部倾斜致使所显示的内容偏离所述用户在所述HMD中的所述屏幕的舒适观看区域来显示。以多种方式来确定所述偏移,并且然后调整所显示的图像以减少或基本上消除所述偏移。所述调整可以补偿如在交互式HMD会话期间可能发生的站立、坐着、倾斜、躺下等不同的用户姿势。所述用户的头部倾斜可以由用户的身体姿势、身体形态导致或由于致使所述用户无意地倾斜他的头部的校正透镜而导致。
Description
技术领域
本公开总体上涉及虚拟环境,并且更具体地涉及用于基于用户的观看取向的检测和/或基于用户利用校正透镜进行的观看取向而优化头戴式显示器(HMD)屏幕上的内容放置的方法和系统。
背景技术
人机交互领域中的一种快速发展的技术是各种头戴式显示器 (HMD),其可以被佩戴在用户的头上并且具有位于用户的一只或两只眼睛前面的一个或两个显示器。这种类型的显示器具有涉及模拟包括视频游戏、医学、运动训练、娱乐应用等虚拟现实的多个商业应用。在游戏领域中,这些显示器可以用于例如渲染三维(3D)虚拟游戏世界。
尽管在HMD领域中已经取得了很大的进步,但该技术仍然需要进步,以便将物理现实带入到与HMD中呈现的虚拟环境中所渲染的虚拟对象进行实际用户交互。
在该上下文中,出现了以下实施方案。
发明内容
广义地说,本公开通过提供一种用于动态地调整显示在HMD中的屏幕上的图像以补偿佩戴HMD的用户的头部倾斜的系统和方法来满足这些需求。如将要描述的,头部倾斜可能是由于用户佩戴校正眼镜、具有双焦透镜的眼镜或由于用户的观看姿势而造成的。在各种示例中,当用户倾斜他的头以直接观看时,用户可以这样做以避免直接通过他或她的校正眼镜的双焦线观看。在一些情况下,用户可能不会有意地避免双焦线,但是由于习惯或癖好,用户可能仍倾向于倾斜他或她的头(例如,向下),以模仿看向眼镜双焦线的顶部部分。在其它情况下,用户可能会抬起头或甚至是侧身,或者是进行任何头部倾斜的变化。在一个配置中,可以完成校准过程以检测由给定用户做出的头部倾斜量,并且一旦例如通过偏移对该倾斜进行量化,则可以对显示在HMD上的内容进行调整,使得倾斜被消除、最小化或减小,从而为用户提供更舒适的观看姿势。例如通过使内容向上、向下、以某种角度等移位来调整内容的另一个好处是:当用户被要求专注于特定内容(例如在游戏或应用中)时,用户的头部移动将会与预期方向一致。因此,向用户提供更高的准确度,使得用HMD进行的专注于特定内容的移动将更准确地指向用户需要观看、介接、凝视或通过查看进行选择或其组合的场景中的内容或对象。
应理解,本公开可以多种方式实现,包括作为过程、设备、系统、计算机可读介质或装置。下面描述本公开的若干创造性实施方案。
一个实施方案提供了一种虚拟现实系统,所述虚拟现实系统包括耦接到计算装置的头戴式显示器,所述计算装置能够生成虚拟现实环境,所述虚拟现实环境包括被渲染并显示在HMD上的多个虚拟现实场景。计算装置可以包括用于接收来自用户输入装置或HMD的输入的输入装置接口。输入装置接口处理指令以选择用于在HMD中显示的内容。计算装置还可以包括虚拟现实空间生成模块,其用于以虚拟现实场景的形式渲染HMD中的选定内容,和HMD移动模块。可以提供HMD运动模块以跟踪HMD在真实空间中的移动。在一些实施方案中,可以使用集成在HMD中的惯性传感器来完成跟踪。在其它实施方案中,可以使用HMD(例如放置在HMD上的LED或其它标记)的捕获图像来完成跟踪。更进一步地,可以通过惯性跟踪和图像跟踪两者来完成跟踪。在一个配置中,可以进行跟踪以识别HMD在真实空间中的第一位置和姿势。HMD移动模块还可以在用户正观看感兴趣的特定对象(例如,场景中的内容、目标标线(reticle)等) 时识别HMD的第二位置和姿势。在一个实施方案中,识别在第一位置和第二位置之间的偏移,所述偏移指示补偿用户在观看感兴趣的特定对象时所做出的头部倾斜的量。通过使用偏移,可以调整或移位场景中渲染的内容,使得用户不需要应用头部倾斜或不需要应用过多头部倾斜来观看对象。在一些实施方案中,通过使用偏移调整场景,可以更好地关联显示给用户的内容,使得系统可以知道用户何时正在观看HMD中显示的特定内容。
一个优点是,当用户想要观看场景中的特定内容时,用户的头部移动将对应于用户想要观看的位置或内容。作为示例,在需要用户观看或凝视特定内容的应用或游戏中,用户将移动他或她的头去看特定位置。通过了解用户的偏移,可以校正场景中内容的定位,使得用户可以准确地观看、查看、凝视或识别感兴趣的内容。如上所述,可以在校准阶段期间测量偏移,并且可以将偏移保存到用户的配置文件。在其它方法中,可以在用户与内容交互期间动态地或被动地测量偏移。例如,当系统注意到用户未准确地查看或注视特定内容时,可以进行偏移的背景测量。随着时间的推移,如果重复偏移,则可以具有一定程度上的确定性地假定,用户确实具有由于头部倾斜而造成的偏移。场景内容的这种调整是技术进步,其避免了提供既不能精确地匹配用户的自然姿势或头部倾斜习惯也不能考虑到带有校正眼镜的用户的HMD系统。然而,应理解,用户的头部倾斜或者具有一定头部倾斜的观看习惯可能不仅仅是由于佩戴校正眼镜所致,因为一些人只是有头部倾斜习惯。
一个实施方案提供了一种用于优化场景在头戴式显示器(HMD) 的屏幕上显示时的定位的方法。所述方法可以包括检测HMD在三维空间中的初始取向,HMD的初始取向是用户的舒适观看位置。对象在场景中渲染在HMD的屏幕上显示的场景中的选定位置处。提示用户观察所显示的对象并检测HMD的引导取向。可以确定三维空间中的在初始取向和引导取向之间的偏移。可以应用偏移来调整在HMD 屏幕中显示的后续场景的定位。偏移也可以被保存到用户的配置文件,以便每当用户使用HMD时都允许调用偏移。在用户使用HMD 期间,可以不断地监测和调整偏移。
从下面结合附图进行的、通过举例方式说明本公开的原理的详细描述中,本公开的其它方面和优点将变得明显。
附图说明
通过下面结合附图进行的详细描述,将容易地理解本公开。
图1示出了根据所公开实施方案的用于视频游戏的交互式游戏玩法的系统。
图2示出了根据所公开实施方案的HMD。
图3示出了使用能够将视频游戏内容渲染给用户的HMD的客户端系统的游戏玩法的一个示例。
图4示出了根据所公开实施方案的在使用期间佩戴HMD的用户。
图5A示出了根据所公开实施方案的在使用期间的HMD。
图5B-5D示出了根据所公开实施方案的不同的人体姿势。
图6A和图6B示出了根据所公开实施方案的佩戴HMD的不同的人体姿势。
图7A-7D示出了根据所公开实施方案的在用户的眼睛与HMD的屏幕上所显示的图像中的标线之间插入的校正透镜。
图7E和图7F示出了根据所公开实施方案的在观看HMD的屏幕上所显示的图像时用户的头部倾斜。
图8是根据所公开实施方案的用于头部倾斜调整待显示在HMD 中的所渲染图像的系统的简化示意图。
图9是根据所公开实施方案的内容源的简化示意图。
图10是示出根据所公开实施方案的在调整HMD中所显示的图像时执行的方法操作的流程图。
图11是示出根据所公开实施方案的在跟踪HMD的移动时执行的方法操作的更详细的流程图。
图12是示出根据所公开实施方案的头戴式显示器的示例部件的图。
图13示出了信息服务提供商架构的实施方案。
具体实施方式
现在将描述用于动态调整显示在HMD中的屏幕上的图像以补偿佩戴HMD的用户的头部倾斜的若干示例性实施方案。本领域技术人员应理解,本公开可在没有本文所述具体细节中的一些或全部细节的情况下来实践。
通常,当用户佩戴HMD时,用户将向一个方向或另一个方向倾斜他们的头部,诸如稍稍向前倾斜他们的头部。因此,显示在HMD 中的图像可能不能与用户的中心视线适当地对准。这种图像不对准可能会导致用户眼睛疲劳,并降低用户与虚拟环境交互的准确性。例如,用户可以使用HMD来执行在虚拟环境中组装复杂装置的错综复杂的任务。然而,图像不对准会导致用户不断放错复杂装置中的部件。一种调整HMD中的屏幕上显示的图像以补偿用户的头部倾斜的方法包括确定由用户的头部倾斜引起的偏移,并然后向上、向下或向一侧或其组合地移位所显示的图像以补偿偏移。校正由于用户的头部倾斜所致图像未对准将导致用户与HMD的虚拟环境之间的更加无缝的交互。校正由于用户的头部倾斜所致的图像未对准还允许用户在使用HMD期间进行多个不同的头部倾斜,并且这允许更舒适的使用,使得用户不需要将其头部保持在一个特定的取向或在延长的时间段内倾斜,因为这可能最终变得不舒适和麻烦。
将参考图5A-11进行与头部倾斜检测和校正有关的更多细节。但是,应理解,所有附图均应被理解,因为实施方案可以各种配置进行组合和组装以定义具体的实现方式。
图1示出了根据所公开实施方案的用于视频游戏的交互式游戏玩法的系统。示出了佩戴头戴式显示器(HMD)102的用户100。HMD 102以与眼镜、护目镜或头盔类似的方式佩戴,并且被配置来向用户 100显示视频游戏或其它内容。借助于提供紧密接近用户眼睛的显示机构(例如,光学器件和显示屏)和被输送到HMD的内容的格式, HMD 102被配置来向用户提供沉浸式体验。在一个示例中,HMD 102 可以向用户的每一只眼睛提供显示区域,所述显示区域占据用户的大部分或甚至全部视野。HMD屏幕可具有约30至约500帧每秒(Hz) 的刷新速率。在一个实现方式中,HMD屏幕可具有约60Hz或约120Hz 的可选刷新速率。
在一个实施方案中,HMD 102可连接到计算机106。到计算机 106的连接122可以是有线的或无线的。计算机106可以是任何通用或专用计算机,包括但不限于:游戏控制台、个人计算机、膝上型计算机、平板计算机、移动装置、蜂窝电话、平板电脑、瘦客户端、机顶盒、媒体流式传输装置等。在一些实施方案中,HMD 102可以直接连接到诸如互联网的网络110,这可以允许云游戏而不需要单独的本地计算机。在一个实施方案中,计算机106可被配置来执行视频游戏(和其它数字内容),并且输出来自视频游戏的视频和音频,以供 HMD 102渲染。计算机106在本文中还被称为客户端系统106,所述客户端系统106在一个示例中是视频游戏控制台。
在一些实施方案中,计算机106可以是本地或远程计算机,并且计算机可运行仿真软件。在云游戏实施方案中,计算机106是远程的并且可由可在数据中心虚拟化的多个计算服务表示,其中游戏系统/ 逻辑可被虚拟化并且经由网络110分配给用户。
用户100可操作控制器104以提供用于视频游戏的输入。在一个示例中,相机108可被配置来捕获用户100位于的交互式环境的图像。这些所捕获的图像可被分析来确定用户100、HMD 102和控制器104 的位置和移动。在一个实施方案中,控制器104包括一个(或多个) 灯,所述灯可被跟踪以确定其定位/位置及姿势。另外,如下文更详细地描述,HMD 102可包括一个或多个灯200A-K,在玩游戏期间所述灯可被跟踪作为标记以基本上实时确定HMD 102的位置和姿势。
相机108可包括用于捕获来自交互式环境的声音的一个或多个麦克风。由麦克风阵列捕获的声音可被处理来识别声音源的位置。来自所识别位置的声音可被选择性地利用或处理,以便排除不是来自所识别位置的其它声音。此外,相机108可被定义成包括多个图像捕获装置(例如,立体相机对)、IR相机、深度相机及其组合。
在一些实施方案中,计算机106可在计算机106的处理硬件上以本地方式执行游戏。游戏或内容可以任何形式获得,诸如物理介质形式(例如,数字光盘、磁带、卡、拇指驱动器、固态芯片或卡等),或借助于经由网络110从互联网下载。在另一个实施方案中,计算机106充当经由网络与云游戏提供商112通信的客户端。云游戏提供商 112可维护和执行用户100正在玩的视频游戏。计算机106将来自 HMD 102、控制器104和相机108的输入传输给云游戏提供商112,所述云游戏提供商处理所述输入以影响正执行的视频游戏的游戏状态。来自正执行的视频游戏的输出(诸如视频数据、音频数据和触觉反馈数据)被传输到计算机106。计算机106还可在传输之前处理数据,或可将数据直接传输到相关装置。例如,视频和音频流被提供给 HMD 102,而振动反馈命令被提供给控制器104或其它输入装置,例如手套、衣服、HMD 102或其两个或更多个的组合。
在一个实施方案中,HMD 102、控制器104和相机108本身可能是联网装置,所述联网装置连接至网络110以与云游戏提供商112通信。例如,计算机106可以是不另外执行视频游戏处理但促进网络流量通过的本地网络装置(诸如路由器)。HMD 102、控制器104和相机108到网络的连接124可以是有线的或无线的。在一些实施方案中,可从任何内容源120获得在HMD 102上执行或可在显示器107上显示的内容。示例性内容源可包括例如,提供可下载内容和/或流式传输内容的互联网网站。在一些示例中,内容可包括任何类型的多媒体内容,如电影、游戏、静态/动态内容、图片、社交媒体内容、社交媒体网站等。
如下面更加详细地描述,用户100可能正在HMD 102上玩游戏,其中这类内容是沉浸式3D交互式内容。当玩家正在玩游戏时,可将 HMD 102上的内容共享到显示器107。在一个实施方案中,共享给显示器107的内容可以允许接近用户100或远距离的其它用户一起看用户玩游戏。在更多实施方案中,在显示器107上观看用户100玩游戏的另一个用户可与玩家100交互地参与。举例来说,观看显示器107 上的游戏玩法的用户可控制游戏场景中的角色、提供反馈、提供社交交互和/或提供评论(经由文本、经由语音、经由动作、经由手势等),这使得没有佩戴HMD 102的用户能够与用户100、游戏玩法或HMD 102中正渲染的内容以社交方式交互。
图2示出了根据所公开实施方案的HMD 102。如图所示,HMD 102包括多个灯200A-K(例如,其中200K和200J被定位成朝向 HMD头带210的背面或后面)。这些灯中的每一个可被配置成具有特定形状和/或位置,并且可以被配置来具有相同或不同的颜色。灯 200A、200B、200C和200D布置在HMD 102的前表面上。灯200E 和200F布置在HMD 102的侧表面上。并且灯200G和200H布置在 HMD 102的转角处,以便跨越HMD 102的前表面和侧表面。应理解,可以在用户使用HMD 102的交互式环境的所捕获图像中识别所述灯。
基于对灯的识别和跟踪,可确定交互式环境中的HMD 102的位置和姿势。还应理解,灯200A-K中的一些可为可见或不可见的,这取决于HMD 102相对于图像捕获装置的特定位置和姿势。此外,不同的灯部分(例如,灯200G和200H)可被暴露用于图像捕获,这取决于HMD 102相对于图像捕获装置的位置和姿势。在一些实施方案中,惯性传感器安置在HMD102中,所述惯性传感器可在无需灯 200A-K的情况下提供关于取向的反馈。在一些实施方案中,灯和惯性传感器一起工作,以允许位置/运动数据的混合和选择。
在一个实施方案中,灯可以被配置来将HMD 102的当前状态指示给附近的其他人。例如,灯200A-K中的一些或全部可被配置成具有特定颜色布置、强度布置;被配置成闪烁,具有特定开/关配置或指示HMD 102的当前状态的其它布置。举例来说,灯200A-K可以被配置来在视频游戏的活跃游戏过程(大体上是在游戏的活跃时间线期间或场景内发生的游戏过程)相对视频游戏的其它非活跃游戏过程方面期间显示不同的配置,诸如导航菜单界面或配置游戏设置(期间游戏时间线或场景可能不活跃或暂停)。灯200A-K还可以被配置来指示游戏过程的相对强度等级。例如,当游戏过程的强度提高时,灯 200A-K的强度或闪烁速率可能提高。
HMD 102可能另外包括一个或多个麦克风。在所示的实施方案中,HMD 102包括限定在HMD 102的前表面上的麦克风204A和 204B,以及限定在HMD 102的侧表面上的麦克风204C。通过利用麦克风204A-C的阵列,可以处理来自麦克风中的每一个的声音,以确定声音的来源的位置。可以各种方式来利用该信息,包括排除不需要的声音源,将声音源与视觉识别相关联等。
HMD 102可能还包括一个或多个图像捕获装置。在所示的实施方案中,示出HMD102包括图像捕获装置202A和202B。通过利用一对立体图像捕获装置,可以从HMD 102的视角捕获环境的三维 (3D)图像和视频。可以将这类视频呈现给用户,以在用户佩戴HMD 102的同时向用户提供“视频透视”能力。也就是说,虽然从严格意义上来说用户无法看穿HMD102,但是由图像捕获装置202A和202B 捕获的视频可以仍然提供相当于能够看到HMD 102的外部环境就如同看穿HMD 102的功能。
此类视频可利用虚拟元素来增强,以便提供增强的现实体验,或可与虚拟元素以其它方式组合或混合。虽然在所示的实施方案中,示出HMD 102的前表面上有两个相机,但是应理解,可能存在任何数量的面向外部的相机,或者单个相机可以安装在HMD 102上并且定向在任何方向上。例如,在另一个实施方案中,可能有相机安装在 HMD 102的侧面上,以提供对环境的额外全景图像捕获。在一个实施方案中,前置相机(RCG,和/或深度相机)可以用于跟踪用户的手或手套的位置和姿势以及运动。如下面将要描述的,来自前置相机捕获的图像数据的信息可用于提供更精细的分辨率,并且当与虚拟对象介接时以其它方式提供改善的触觉反馈给用户。
图3示出了使用能够将视频游戏内容渲染给用户100的HMD 102的客户端系统106的游戏玩法的一个示例。渲染的可以是场景的一个对象或许多对象。对象可以是场景中可见的事物,并且事物可以是VR空间、视频游戏、交互式内容、交互式游戏、学习游戏或学习内容、旅行内容、图片、图像等中典型的角色、人物、建筑物、景观以及通常图形生成的内容。在该说明,提供给HMD 102的游戏内容处于丰富的交互式3-D空间中。如上面所讨论,游戏内容可以下载至客户端系统106,或者在一个实施方案中可由云处理系统执行。云游戏服务112可以包括用户140的数据库,所述用户被允许访问特定游戏,与其它朋友共享体验,发表评论以及管理其账号信息。
云游戏服务112还可以存储特定用户的游戏数据150,所述游戏数据可在游戏过程期间、未来游戏过程期间使用,可共享至社交媒体网络,或者用于存储奖品、奖项、状态、排名等。社交数据160也可以由云游戏服务112进行管理。社交数据160可由单独的社交媒体网络来管理,所述社交媒体网络可经由互联网110与云游戏服务112介接。经由互联网110,可以连接任何数量的客户端系统106以用于访问内容以及与其它用户交互。
继续参考图3的示例,在HMD 102中看到的三维交互式场景可以包括游戏玩法,诸如3-D视图中图示的角色。例如P1的一个角色可以由佩戴HMD 102的用户100控制。该示例示出两个玩家之间的篮球场景,其中在3-D视图中,HMD用户100正在另一个角色身上扣球。另一个角色可以是游戏的AI(人工智能)角色,或者可以由另一个用户或多个用户(Pn)控制。示出佩戴HMD 102的用户100 正在围绕使用空间移动,其中HMD可基于用户的头部移动和身体位置来回移动。示出相机108定位在房间中显示屏幕上方,然而,为了使用HMD 102,可以将相机108放置在可以捕获HMD 102的图像的任何位置处。为此,示出用户100从相机108和显示器107转身约 90度,因为HMD 102中渲染的内容可以取决于从相机108的视角而言HMD102被定位的方向。当然,在HMD 102使用期间,用户100 将来回移动,转动其头部,在各个方向上观看,在可能需要利用由 HMD渲染的动态虚拟场景时。
图4示出了根据所公开实施方案的在使用期间佩戴HMD 102的用户。在该示例中,示出了使用相机108正在跟踪HMD 102位置的外跟踪过程来跟踪402HMD 102。相机108使用从由相机108捕获的视频帧获得的图像数据来跟踪HMD 102位置。在其它实施方案中,跟踪还可以或替代地使用来自HMD本身的惯性数据。在各种实施方案中,跟踪用户的头部/HMD可以包括从图像跟踪和惯性跟踪获得的混合数据。另外,示出了还可以使用从由相机108捕获的视频帧获得的图像数据对控制器进行跟踪404。还示出HMD 102经由电缆406 连接到计算系统106的配置。在一个实施方案中,HMD 102从相同电缆获得电力或可以连接到另一个电缆。在又一实施方案中,HMD 102可具有可再充电的电池,以便避免额外的电源线。在又其它实施方案中,可以使用或不使用手套来跟踪用户的手。
在一些实施方案中,HMD体验在屏幕的中心具有用于选择对象或激活事件的明确或隐含的标线。一些HMD用户,特别是那些佩戴双焦点透镜的用户,因这些体验而苦恼,因为他们眼镜中的焦缝通常与标线的位置对齐。在一个实施方案中,一旦为特定用户识别了偏移,则该偏移可以存储在用户的设置(例如,配置文件)中。可以存储在用户设置中的其它数据可以包括用户的IPD(瞳孔间距)。作为优点,识别由于头部倾斜引起的偏移或偏移参数将确保使用中央标线的许多或所有HMD体验获得持续良好的体验。可以使用各种方法来调整目标标线配置。一些示例可包括选择“高标线”、“中心标线”或“低标线”。例如,可以将某些用户归类为通过导致高标线或低标线而非中心标线的头部倾斜来观看屏幕中心的用户。如果用户是中心标线用户,则不会进行任何调整。对于高或低,调整或偏移可以预定义为特定的数字,即使该数字对用户来说不精确。在其它配置中,可以测量精确或近似精确的偏移。在又其它实施方案中,可以为进入选择的用户预设偏移,例如,像“佩戴双焦透镜”或“不佩戴双焦透镜”。在更进一步的实施方案中,可以使用滑块或操纵杆来将标线重新定位到舒适的位置。此外,例如,其它实施方案可以提供选择对象。选择对象可以是任何可显示的图形或可见的事物。例如,如果在校准步骤期间使用选择对象,则选择对象可以是屏幕中间的红色正方形。然后,要求用户移动他们的头部,直到红色正方形处于舒适的标线位置。
如可以理解,存在许多有价值的其它应用特定设置,尽管不够通用而作为用户设置。例如,如果用户注视的中心用于激活事件,则用户可能想要配置目标区域的半径/灵敏度。考虑到这些广泛的实施方案,以下示例将说明识别头部倾斜的方式,以及校正或调整内容以补偿特定用户的头部倾斜而改善用户HMD体验的方式。
图5A示出了根据所公开实施方案的在使用期间的HMD 102。 HMD 102包括用于向用户显示虚拟图像的屏幕102A。出于讨论的目的,屏幕102A被示为与HMD 102分开。通常,诸如标线502的中心焦点是显示在屏幕102A上的图像的一部分,诸如射击游戏或用户需要游戏装置或图像的任何其它类型的功能可能需要的部分。其它中心焦点可以是在屏幕102A上显示的图像的中心点523。
HMD 102包括垂直Y'轴和水平Z'轴。还应理解,HMD 102还包括X'轴,其垂直于页面通过垂直Y'矢量和水平Z'矢量的交点。随着用户相对于虚拟世界使HMD来回移动,HMD 102使用垂直Y'轴、水平Z'轴和X'轴来渲染显示在屏幕102A上的虚拟世界图像的视角。 HMD102可以包括能够跟踪HMD的运动的惯性传感器,从而随着用户相对于虚拟世界使HMD来回移动,提供渲染在屏幕102A上显示的虚拟世界图像的视角所需的移动和取向信息。
相机108可以包括可以与垂直Y轴对准或平行的焦平面108A。相机108还可以或者替代地跟踪HMD 102的移动和取向,从而随着用户相对于虚拟世界使HMD来回移动,提供渲染在屏幕102A上显示的虚拟世界图像的视角所需的移动和取向信息。
理想地,HMD 102的垂直Y'矢量和水平Z'矢量与在真实世界中垂直于实际水平Z轴的实际垂直Y轴对准或平行,使得显示在屏幕102A上的虚拟环境与用户存在并移动的真实世界对准。然而,真实世界并不是一个理想的世界,并且每个人类用户都有自己的形态、大小和身体姿势。
图5B-5D示出了根据所公开实施方案的不同的人体姿势 510A-510C。如图5B所示,理想的人体姿势510A使头部与真实世界的垂直Y轴大致对准,其中眼睛的中心视线沿着与真实世界Z轴基本上平行的矢量Z'522。令人遗憾地是,所有用户都没有理想的人体姿势510A。
如图5B所示,常见的身体姿势510B包括稍微屈身或向前弯曲颈部和/或肩部,导致当头部向下和向前弯曲时,头部与真实世界的垂直Y轴基本上不对准。因此,用户的脸部向下倾斜。由于用户脸部的向下倾斜,用户倾向于通过向上倾斜用户的中心视线来进行补偿,以便沿着矢量Z'522对准用户眼睛的中心视线。
如图5C所示,常见的身体姿势510C包括稍微抬高的脸部,导致当头部向上弯曲时,头部与真实世界的垂直Y轴基本上不对准。因此,用户的脸部向上倾斜。由于用户脸部的向上倾斜,用户倾向于通过向下倾斜用户的中心视线来进行补偿,以便沿着矢量Z'522对准用户眼睛的中心视线。
图6A和图6B示出了根据所公开实施方案的佩戴HMD 102的不同的人体姿势510B和510C。如图6A所示,稍微屈身或向前弯曲颈部和/或肩部的姿势510B。稍微屈身或向前弯曲颈部和/或肩部姿势 510B可以是用户初始佩戴HMD 102时的初始姿势。初始取向可以包括对真实世界的物理参考,例如重力,或者对HMD 102周围的真实世界环境中的事物(例如相机108或房间内的地板或墙壁,房间中用户佩戴HMD)的方向或相对参考。
在引导或提示用户观察显示在屏幕102A中的对象之前,可以提示用户移动到舒适的观看姿势或位置。舒适的观看位置是当用户在佩戴HMD 102时朝向用户前方的方向观看时。然而,用户不会被提示查看任何特定对象或位置。目标是捕捉用户正常、轻松的姿势。
当用户被引导或提示观察显示在屏幕102A中的对象时,用户将通过向上查看用户中心视线中的结果以沿着与真实世界Z轴大致对准的矢量Z'522'下降来补偿他们的姿势。然而,由于用户的向前头部倾斜,HMD Z轴向下移位到真实世界Z轴下方的角度θ以及用户中心视线沿着矢量Z'522'。因此,用户的视觉落在显示图像中的位置524 上,该位置在屏幕102A上显示的图像的中心点523上方偏移距离 +Z”。在补偿其向前弯曲颈部和/或肩部姿势的同时,用户可以将HMD 102移动到与初始取向不同的引导取向。初始取向和引导取向之间的偏移也可以由相机108和/或HMD 102内的惯性传感器来确定。
如图6B所示,稍微抬高的脸部姿势510C初始取向和向下看的用户补偿导致用户的中心视线沿着与真实世界Z轴大致对准的矢量 Z'522'下降。然而,由于用户的向上头部倾斜,HMD Z轴向下移位到高于真实世界Z轴的角度α以及用户的中心视线沿着矢量Z'522'。因此,用户的视觉落在显示图像中的位置526上,该位置在屏幕102A 上显示的图像的中心点523下方偏移距离–Z”'。
当用户的中心视线落在偏离屏幕102A上所显示的图像的中心点 523的位置上时,用户可以体验到不适和眼睛疲劳。此外,该偏移还可导致HMD 102使标线渲染在偏离用户的中心视线的位置处,并且因此可以使得瞄准功能不太准确。
图7A-7D示出了根据所公开实施方案的在用户的眼睛103和显示在HMD 102的屏幕102A上的图像中的标线520之间插入的校正透镜515、515'。如图7A所示,典型的人眼具有约3-5度的中心视线范围525。当显示在HMD的屏幕102A上的图像偏离用户的中心视线范围525时,图像可能失焦或者以其它方式对用户来说不清晰。作为减少显示图像中的数据内容的方法,在屏幕102A上显示的图像还可以在显示图像的位于图像的中心点523之外或偏离图像的中心点 523的部分中具有减少的分辨率量。当图像的中心点523未与用户的中心视线范围525对准时,用户可能体验到眼睛疲劳并且具有不太理想的显示图像的视野。
在图7A中还示出了插置在用户的眼睛103和包括显示在屏幕 102A上的标线520的图像之间的校正透镜515。校正透镜515可以包括于佩戴在用户眼睛前方的眼镜中,或者作为与用户眼睛的表面接触的接触透镜或者甚至植入到用户眼睛内的植入式校正透镜。校正透镜515是单视线校正透镜,因为其具有单个光学校正,使得提供相同的视线校正功能,而不管用户通过透镜观看的角度如何。佩戴单视线校正透镜的用户通常不会抬头或俯视以观看近处或远处或中间距离处的图像。
如图7B所示,在用户的眼睛103与包括显示在屏幕102A上的标线520的图像之间插置多焦点校正透镜515'。多焦点校正透镜515' 在透镜的上半部分具有第一视线校正并且在透镜的下半部分具有第二视线校正。多焦点校正透镜515'可以被包括在佩戴在用户眼睛前方的眼镜中或作为与用户眼睛的表面接触的接触透镜或者甚至植入到用户眼睛内的植入式校正透镜。如图所示,多焦点校正透镜515'可以是具有两个透镜视线校正部分的双焦点校正透镜。替代地,多焦点校正透镜515'可以是具有三个透镜视线校正部分的三焦点透镜。多焦点校正透镜515'可以包括三个以上透镜视线校正部分。
多焦点校正透镜515'可以是渐进式透镜,其中透镜的每个视线校正部分被混合在一起而没有可见的分界线来分隔视线校正部分中的每一个。通常,多焦点校正透镜515'在透镜上部的第一视线校正与透镜下部的第二视线校正之间包括可见分界线516。分界线516通常沿着矢量Z'522与用户的眼睛103的中心视线对准,所述矢量也与显示图像的标线520基本上对准。分界线516因此遮掩了标线520。
佩戴多焦点透镜(无论是具有可见分界线还是没有可见分界线的渐进式多焦点校正透镜)的用户通常会将他们的头稍微往后倾斜,如图7C所示,以便将他们的中心视线532调整为位于分界线516的上方或者将其中心视线引导通过校正透镜的选定部分以在远处观看事物。如图7D所示,佩戴多焦点透镜的用户通常会将其头部稍微向前倾斜,以便将他们的中心视线532'调整到分界线516之下或者将其中心视线引导通过校正透镜的选定部分以便较近距离观看事物。因此,佩戴多焦点校正透镜的用户通常在使用HMD 102时可无意地将他们的头部向前或向后倾斜。用户无意地向前或向后倾斜他们的头部可能导致与上面在以上图6A和图6B中所述的相同的偏移问题。然而, HMD可以补偿用户的头部倾斜以保持标线520与用户的中心视线 532、532'对准。
图7E和图7F示出了根据所公开实施方案的在观看显示在HMD 102的屏幕102A上的图像时用户的头部倾斜。显示的图像可以包括拿着棒球的棒球运动员。用户可以被引导观察并因此引导用户的中心视线朝向棒球运动员或运动员的手中的棒球。棒球运动员可以站着不动或移动,或者棒球运动员可以只是拿着棒球或投掷棒球。当用户引导他们的中心视线朝向棒球或棒球运动员时,HMD 102可以跟踪用户的眼睛。
在一个实现方式中,HMD可以利用指向用户眼睛的一个或多个相机或检测器来直接跟踪用户的眼睛移动。HMD可以将用户的检测到的眼睛运动提供给游戏控制台或服务器进行处理,以确定用户是否准确地跟踪了运动员或棒球或者所显示图像中的某一其它交互式对象。在另一个实现方式中,HMD可以通过测量用户可如何准确识别棒球的移动来间接跟踪用户的眼睛移动。举例来说,当棒球接近在屏幕中显示的交互式场景中的用户时,可以请求用户在棒球处挥动虚拟棒球棒。当用户重复估计棒球的路径太高或太低并因此错过使用用户的虚拟棒球棒击打棒球时,则用户错过棒球的量可被解释为+Z或-Z 偏移。
前面的示例说明了用户的头部向前倾斜并且朝向稍微向下或向后的方向引导他们的脸部并且使他们的脸部朝向稍微向上的方向。然而,应理解,用户可以将他们的头部侧向地倾斜到一侧或另一个侧,诸如将他们的头部向其右侧或向其左侧倾斜。除了向前和向下或者向后和向上倾斜他们的头部之外或替代地,用户可以将他们的头部倾斜到一侧。HMD可以与检测用户的向前和向后头部倾斜类似的方式检测用户的侧向头部倾斜。类似地,HMD102可以调整所显示的图像以补偿用户的侧向头部倾斜,其方式与针对用户的向前或向后头部倾斜调整所显示图像相同。
图8是根据所公开实施方案的用于头部倾斜调整待显示在HMD 102中的所渲染图像的系统850的简化示意图。系统850包括游戏控制台106,所述游戏控制台耦接到云网络110和云游戏提供商112以及内容源120。游戏控制台106还耦接到头戴式显示器102、其它外围装置例如用户输入装置812。(例如,手套、控制器、运动控制器、惯性传感器、光控制器、磁控制器等)
游戏控制台106包括内容选择模块816、输入装置接口814、VR 空间生成模块818和HMD移动模块820。内容选择模块816包括内容接口817和虚拟现实内容选择模块810。
在操作中,内容接口817从各种内容源120接收虚拟现实内容。内容倾斜调整模块810根据通过输入装置接口814从各种输入装置和从HMD移动模块820接收到的输入,来调整与由用户的头部倾斜引起的检测到的偏移相对应的来自内容接口817的虚拟现实内容的适当部分。作为示例,当用户的头部倾斜向上时,如上面的图6B所示,内容倾斜调整模块810从HMD 102上的一个或多个传感器和/或从在 HMD外部并指向HMD的相机108接收输入,所述相机检测到HMD 的倾斜,并且调整HMD中的屏幕102A上的所显示内容以补偿用户的头部倾斜,以便将所显示内容在用户的中心视线上重新居中。内容接口817将经调整的VR内容输出到VR空间生成模块818。VR空间生成模块818生成HMD 102中呈现的虚拟环境或空间。
图9是根据所公开实施方案的内容源120的简化示意图。内容源 120包括若干模块,所述模块包括VR内容库920。在VR内容库920 内包括多个内容空间922A-n。VR内容926提供VR内容选择模块810 所需的数据以限定显示在HMD 102上的虚拟空间。
对象3D空间配置模块930提供所显示对象的3D特征。这些3D 特征可以包括所显示对象的重量、形状、纹理和颜色。
对象声音配置文件932提供对应于所显示的虚拟对象和虚拟空间的声音。例如,在HMD上显示的虚拟空间中存在风吹动树叶的声音、远处雷声和动物声音。对象物理学配置文件934提供在虚拟空间中显示的各种对象的物理运动和纹理特性。VR内容选择模块810和VR空间生成模块使用在虚拟空间内播放的对象的运动、纹理、声音、位置和姿势以及位置中的每一个,以在显示在HMD 102上的VR空间中生成对象。
图10是示出根据所公开实施方案的在调整显示在HMD 102中的图像时执行的方法操作1000的流程图。在操作1005中,虚拟空间通过HMD 102渲染并显示给用户。存在于虚拟空间中的各种虚拟对象也显示给用户。在操作1010中,虚拟空间被调整来补偿用户的头部倾斜。作为示例,用户可以使HMD 102向上、向下或向左或向右以及以其组合方式倾斜。
在操作1015中,游戏控制台106提供与用户的头部倾斜相对应地调整的附加虚拟环境。这向用户提供顺畅的扫掠感觉,其中显示的虚拟图像居中在用户的中心视线上,而不是HMD 102的屏幕102A 的中央部分上。
图11是示出根据所公开实施方案的在跟踪HMD 102的移动时执行的方法操作1100的更详细的流程图。在操作1105中,用户佩戴 HMD 102。HMD 102被佩戴在位于用户脸上并定位于用户眼睛上方的舒适位置。在操作1110中,在HMD 102的屏幕102A上向用户显示虚拟空间的图像。
在操作1115中,提示用户观察显示在屏幕102A上的虚拟空间图像中的特定位置或对象。当提示用户观察选定的对象或位置时,他们将倾向于放松并且使他们的头部处于向前、向后、对于他们来说舒适的侧向倾斜的任何位置,例如舒适位置或姿势,并且引导他们的中心视线朝向选定对象。
在操作1120中,检测显示图像中用户的中心视线所指向的位置。可通过测量用户的表现来确定检测到所显示图像中用户的中心视线所指向的位置。例如,在操作1115中可引导用户跟随移动对象,并且当对象位于显示图像中的特定位置时试图击中对象。然而,由于用户的头部倾斜,用户的中心视线将在一定程度上偏离移动对象的理想位置,并且可以确定偏移的量。引导用户将他们的注意力集中于特定位置或对象并检测显示图像中用户的中心视线所指向的位置的过程可以被执行多次以改善检测到的偏移,诸如上面在图6A和图6B中所述的+Z和-Z偏移。
在另一个示例中,可以特别要求用户查看显示图像中的一个或多个移动或固定位置或对象,并且然后确认对用户来说图像是清楚地处于焦点还是不清楚地处于焦点。用户可以向HMD 102和/或游戏控制器提供输入(例如,按下按钮或口头指示或其它输入)以指示对象处于焦点或不处于焦点中。
在另一个示例中,可以指示用户观看标线520,如图7A-7D所示。在另一个示例中,可以引导用户观察或观看显示在虚拟空间中的特定对象,例如固定或移动的对象。引导用户专注于特定对象可以成为校准过程的一部分,其中特别提示用户将他们的注意力引导到选定对象。替代地,校准过程可以是用户正在用HMD 102体验的游戏或其它虚拟空间活动的一部分,并且用户的注意力指向HMD的屏幕102A 上显示的虚拟空间的所显示图像内的某一动作。VR内容倾斜调整模块810可以提供引导和/或反馈以提示用户何时处于初始取向或何时停止移动。在一个实现方式中,VR内容倾斜调整模块810还可以在校准完成时提示用户,使得系统可以捕获初始取向和引导取向两者的坐标。举例来说,提示可以包括在屏幕上显示诸如OK或GOOD的视觉提示或者诸如音调或口头指令的可听提示,或者可以提示用户提供诸如口头响应的输入或向游戏控制器提供按钮输入以指示在屏幕 102A中显示的场景得到改善。
在另一个实施方式中,可以在选定的时间段或阈值时间段之后捕获引导取向。例如,选定的时间段可以在约0.5秒和约2秒之间。替代地,选定的时间段可以相对于在屏幕102A上呈现的交互式内容,并且当用户完成与内容交互的一部分(例如完成游戏过程的一部分) 时确定时间。在另一个实现方式中,选定的时间段可以是在选定对象被渲染之后。阈值时间段也可以在用户从初始取向移动以查看对象位置所需的预期时间段之后。
在操作1125中,如果在操作1120中检测到的偏移未超过预选量,则方法操作可以结束,因为不需要对显示在屏幕上的图像进行调整。应理解,图像调整过程可以继续进行,且因此,即使当前迭代没有找到可测量的由于用户的头部倾斜所致的偏移,也可能在用户使用 HMD期间在稍后时间处存在附加头部倾斜。举例来说,如果用户在 HMD的使用期间最初站立,则用户可以具有一个姿势,其中存在显著的头部向前和向下倾斜,HMD然后可以调整图像以补偿由用户的头部倾斜引起的偏移。稍后,在HMD的相同使用期间,用户可坐在椅子上或躺在床上,且因此,用户的头部倾斜可能改变,并且图像可能需要不同的调整来补偿用户的改变头部倾斜。
如果在操作1120中检测到的偏移超过预选量,则方法操作可以在操作1130中继续,其中可以调整显示在屏幕102A中的图像以补偿检测到的偏移。补偿检测到的偏移可以包括调整图像,使得所显示的图像的中心与用户的中心视线对准。返回到上面在图7E和图7F 中向用户投掷棒球的示例,如果检测到的偏移是+Z偏移,如图7E所示,则图像可以向上调整+Z的量或+Z的函数,例如+Z的一定比例。然后可以重复方法操作1100的偏移检测过程以确定经调整的图像是否将检测到的偏移减小到小于预选量。
检测到的偏移的附加使用可以包括将偏移保存到用户的配置文件,以便每当用户在随后使用HMD中使用HMD时允许调用偏移。存储在用户的配置文件中的偏移值可以在使用HMD期间定期或连续更新。举例来说,当用户开始HMD使用会话时,可以首先从用户的配置文件中调用偏移值,且然后当用户的当前HMD会话结束时,可将修改的偏移存储在用户的配置文件中,或者甚至在用户的HMD会话期间进行一次或多次。应理解,为了将偏移值保存到用户的配置文件,HMD 102和/或游戏控制台和/或游戏服务器必须收集用户的身份并访问用户的配置文件。在一个实现方式中,用户的身份信息可以通过用户输入的数据或生物统计数据或其组合来获得。
在一些实施方案中,操作可以包括检测用户的身份。身份可以通过用户输入密码、语音检测、生物统计检测、指纹检测、登录用户、用户账户的访问等来检测。一旦用户被识别,就可以访问用户的配置文件。所述配置文件可以被保存到数据库,例如,在本地或远程服务器上的用户数据库。在一个实施方案中,所述配置文件保存了将被用于例如在使用HMD的会话期间启用校正的偏移(以及其它校正数据或元数据)。
在一个实施方案中,后续场景与要在HMD上渲染的交互式内容相关联。例如,后续场景可以是游戏、应用、游览、会议或多玩家交互。
在一个实施方案中,场景或后续场景以游戏、应用、广告、程序或其组合的形式提供交互式内容。
在一个实施方案中,当佩戴HMD时用户使用至少一个校正透镜,使得用户具有针对当使用一副眼镜时设定的舒适的观看位置。
在一个配置中,至少一个校正透镜是多焦点透镜,并且在透镜上部中的第一视线校正与透镜下部中的第二视线校正之间具有可见的分界线。例如,可见的分界线可以影响用户在观看对象时的引导取向。
在一个实施方案中,调整后续场景的定位减少了观看所述特定对象时的偏移。例如,某些对象是作为场景中渲染的交互式内容的主题的对象。
在一个实施方案中,HMD在三维空间中的初始取向是属于真实世界环境,并且真实世界环境具有物理参考。物理参考可以是重力方向、地面、桌子、房间中的物理对象、观看HMD的相机或其组合。
在一个实施方案中,为佩戴HMD时朝向用户前方的方向观看的用户定义舒适的观看位置。
在一个实施方案中,场景中的对象是可从多个其它图形图像中识别的图形图像。图形图像可以是叠加在场景中的对象上的标线。此外,图形图像是场景中的交互式对象。
在一些实施方案中,场景中的位置在屏幕上的预定义坐标处(例如,显示屏幕上的中心位置、侧位置、顶部位置、底部位置或特定像素坐标位置或当用户在特定时间点在特定位置观看时HMD的屏幕上渲染的图像。
在一个实施方案中,引导取向在HMD所在的三维空间中具有真实世界坐标。
在一些实施方案中,提示是由与HMD介接的计算装置生成。提示是可听提示、视觉提示或可听和视觉提示的组合中的一者,或者还可以包括触觉反馈。在一个实施方案中,在HMD的校准期间为用户生成提示。在另一个实施方案中,在与HMD的交互式会话期间生成提示。
在一个实施方案中,在阈值时间段之后捕获引导取向。阈值时间段是在从初始取向移动以查看对象位置所需的预期时间段之后。在另一个配置中,提示包括在一段时间内保持观看对象的请求。
在一个示例中,偏移与真实世界空间中的坐标和真实世界中的参考相关联。偏移可以具有垂直偏移参数或水平偏移参数或其组合。偏移也可以根据由HMD中的惯性传感器检测到的确定的位置变化来测量。更进一步地,偏移可以通过由相机捕获的HMD的检测图像来测量,该相机被引导以观看由相机捕获的一个或多个图像帧中的HMD 的移动。在又其它配置中,通过HMD的惯性传感器中检测到的变化与HMD的发光二极管的捕获图像数据的组合来测量偏移。更进一步地,可以为所有用户预定义偏移。一些用户可能是中心标线用户,一些用户可能是低标线用户,而另一个些用户可能是高标线用户。在这个意义上,标线指的是用户引导HMD指向的位置。例如,如果用户将头部向后倾斜以直接向前观看,则用户是高标线用户。在这种情况下,系统可以应用预定义的校正偏移。这种配置使得能够针对用户应用偏移,而无需实际测量。
参考图12,示出了根据所公开实施方案的头戴式显示器102的示例性部件的图。应理解,从HMD 102可以包括或排除更多或更少的部件,这取决于启用的配置和功能。头戴式显示器102可包括用于执行程序指令的处理器2000。存储器2002被提供用于存储目的,并且可包括易失性和非易失性存储器两者。包括显示器2004,所述显示器提供用户可观看的视觉界面。
显示器2004可以由一个单一显示器限定,或者以针对每只眼睛的独立显示屏幕的形式限定。当提供两个显示屏时,可能分别提供左眼和右眼视频内容。视频内容的单独呈现给每只眼睛例如可以提供对三维(3D)内容的更好的沉浸式控制。如上所述,在一个实施方案中,通过使用针对一只眼睛的输出向第二屏幕107提供HMD 102的第二屏幕内容,并且然后对内容进行格式化以呈2D格式显示。在一个实施方案中,一只眼睛可以是左眼视频馈送,但是在其它实施方案中,其可以是右眼视频馈送。
可以提供电池2006作为头戴式显示器102的电源。在其它实施方案中,电源可包括插座连接电源。在其它实施方案中,可提供插座连接电源和电池2006。运动检测模块2008可包括各种运动敏感硬件中的任一种,诸如磁力计2010、加速计2012和陀螺仪2014。
加速计2012是用于测量加速度和由重力引起的反作用力的装置。单轴和多轴(例如,六轴)模型能够检测不同方向上的加速度的量值和方向。加速计用于感测倾斜度、振动和冲击。在一个实施方案中,三个加速计2012被用于提供重力的方向,其给出用于两个角度(世界空间俯仰和世界空间滚转)的绝对参考。
磁力计2010测量头戴式显示器附近的磁场的强度和方向。在一个实施方案中,在头戴式显示器内使用三个磁力计2010,从而确保用于世界空间偏转角的绝对参考。在一个实施方案中,磁力计被设计为跨越±80微特斯拉的地球磁场。磁力计受金属影响,并且提供对实际偏转单调的偏转测量。磁场可由于环境中的金属而扭曲,这导致偏转测量的扭曲。如果必要的话,则可使用来自诸如陀螺仪或相机的其它传感器的信息来校准该扭曲。在一个实施方案中,加速计2012和磁力计2010一起使用以获得头戴式显示器102的倾角和方位角。
陀螺仪2014是用于基于角动量原理测量或维持位置和姿势的装置。在一个实施方案中,三个陀螺仪2014基于惯性感测提供关于跨越相应轴线(x、y和z)的移动的信息。陀螺仪帮助检测快速旋转。然而,陀螺仪可以随着时间漂移而不存在绝对参考。这需要定期重设陀螺仪,所述重设可使用其它可用信息来进行,诸如基于对象的视觉跟踪、加速计、磁力计等进行位置和姿势确定。
相机2016被提供用于捕获真实环境的图像和图像流。在HMD 102中可包括一个以上相机(任选地),包括后置相机(当用户正在观看HMD 102的显示时,相机被引导为远离用户),以及前置相机(当用户正在观看HMD 102的显示时,相机被引导为面向用户)。另外,在HMD 102中可包括用于感测真实环境中的对象的深度信息的深度相机2018。
HMD 102包括用于提供音频输出的扬声器2020。此外,可包括麦克风2022以用于从真实环境捕获音频,包括来自周围环境的声音、由用户发出的语音等。HMD 102包括用于提供触觉反馈给用户的触觉反馈模块2024。在一个实施方案中,触觉反馈模块2024能够引起HMD 102的移动和/或振动,以便向用户提供触觉反馈。
提供LED 2026作为头戴式显示器102的状态的视觉指示器。例如,LED可以指示电池量、电源通电等。提供读卡器2028以使得头戴式显示器102能够从存储器卡读取信息和向存储器卡写入信息。包括USB接口2030作为用于启用手持式外围装置的连接或到其它装置(诸如其它便捷式装置、计算机等)的连接的接口的一个示例。在 HMD 102的各种实施方案中,可包括各种类型的接口中的任一种以启用HMD 102的更好的连接性。
可包括WiFi模块2032用于经由无线联网技术启用至互联网的连接。此外,HMD 102可包括用于实现到其它装置的无线连接的蓝牙模块2034。还可包括通信链路2036,以用于连接到其它装置。在一个实施方案中,通信链路2036利用红外传输进行无线通信。在其它实施方案中,通信链路2036可利用各种无线或有线传输协议中的任一种来与其它装置进行通信。
包括输入按钮/传感器2038来为用户提供输入接口。可包括各种类别的输入接口中的任何一个,诸如按钮、手势、触摸板、操纵杆、轨迹球等。超声通信模块2040可包括在HMD102中,以用于促进经由超声技术与其它装置进行通信。
包括生物传感器2042来实现对来自用户的生理数据的检测。在一个实施方案中,生物传感器2042包括一个或多个干电极,用于经由用户的皮肤检测用户的生理电信号、声音检测、眼睛视网膜检测以识别用户/外形等。
HMD 102的前述部件已仅作为HMD 102中可包括的示例性部件被描述。在本公开的各种实施方案中,HMD 102可包括或可不包括各种前面提及部件中的一些部件。出于促进如本文所述的本公开各方面的目的,HMD 102的实施方案可另外包括目前未描述、但在本领域已知的其它部件。
本领域技术人员应理解,在本公开的各种实施方案中,前面提及的手持式装置可结合显示器上显示的交互式应用来利用,以提供各种交互功能。本文所描述的示例性实施方案仅以举例的方式而并非限制的方式提供。
在一个实施方案中,本文所提及的客户端和/或客户端装置可包括头戴式显示器(HMD)、终端、个人计算机、游戏控制台、平板计算机、电话、机顶盒、自助服务终端、无线装置、数字板、独立装置、手持式玩游戏装置等等。通常,客户端被配置来接收编码的视频流、对视频流进行解码并且将所得视频呈现给用户,例如游戏的玩家。接收编码的视频流和/或对视频流进行解码的过程通常包括在客户端的接收缓冲器中存储个别视频帧。可在与客户端成一体的显示器上或者在诸如监视器或电视的单独装置上将视频流呈现给用户。
客户端被任选地配置来支持一个以上游戏玩家。例如,游戏控制台可被配置来支持两个、三个、四个或更多个同时用户(例如,P1、 P2、…Pn)。这些用户中的每一个可以接收或共享视频流,或者单个视频流可包括专门针对每个玩家生成的例如基于每个用户的视角生成的帧区域。任何数量的客户端可以是本地的(例如,协同定位的) 或者是地理上分散的。在游戏系统中包括的客户端数量可能非常广泛,从一个或两个到数千个、数万个或更多。如本文所使用,术语“游戏玩家”或“用户”用于指玩游戏的人,并且术语“玩游戏装置”用于指玩游戏所使用的装置。在一些实施方案中,玩游戏装置可以指多个计算装置,所述计算装置协作来向用户传达游戏体验。
例如,游戏控制台和HMD可以与视频服务器系统协作,以传达通过HMD观看的游戏。在一个实施方案中,游戏控制台从视频服务器系统接收视频流,并且游戏控制台转发视频流或者将视频流更新至 HMD和/或电视以进行渲染。
更进一步地,HMD可以用来查看所产生或使用的任何类型的内容和/或与之交互,诸如视频游戏内容、电影内容、视频剪辑内容、网络内容、广告内容、比赛内容、博弈游戏内容、会议呼叫/会议内容、社交媒体内容(例如,邮件、消息、媒体流、友员事件和/或游戏过程)、视频部分和/或音频内容、以及被制作用于在互联网上经由浏览器和应用从来源消费的内容以及任何类型的流式传输内容。当然,前述内容列表并非限制性的,因为可以渲染任何类型的内容,前提是所述内容可在HMD中查看,或者可以渲染至屏幕或HMD的屏幕。
客户端可以但不要求还包括被配置来修改所接收视频的系统。例如,客户端可以被配置来执行进一步渲染,将一个视频图像重叠在另一个视频图像上,剪辑视频图像等等。例如,客户端可以被配置来接收诸如I帧、P帧和B帧等各种类型的视频帧,以及将这些帧处理成用于显示给用户的图像。在一些实施方案中,客户端中的成员被配置来执行进一步渲染、遮蔽、转换成3-D、转换成2D、失真消除、调整大小或视频流上的类似操作。客户端中的成员被任选地配置来接收一个以上音频或视频流。
客户端的输入装置可包括例如单手游戏控制器、双手游戏控制器、手势辨识系统、视线辨识系统、语音辨识系统、键盘、操纵杆、指向装置、力反馈装置、运动和/或位置感测装置、鼠标、触摸屏、神经接口、相机、尚未开发的输入装置等等。
视频源可包括渲染逻辑例如硬件、固件和/或软件存储在诸如存储装置等计算机可读介质上。该渲染逻辑被配置来基于游戏状态创建视频流的视频帧。渲染逻辑的全部或一部分任选地安置在一个或多个图形处理单元(GPU)内。渲染逻辑通常包括被配置用于确定对象之间的三维空间关系和/或用于基于游戏状态和视角来应用适当纹理等的处理级。渲染逻辑可以产生被编码的原始视频。例如,可以根据 Adobe标准、HTML-5、.wav、H.264、H.263、On2、VP6、VC-1、 WMA、Huffyuv、Lagarith、MPG-x.Xvid.FFmpeg、x264、VP6-8、realvideo、mp3等等编码原始视频。编码过程产生视频流,所述视频流被任选地封装以用于递送至装置上的解码器。视频流的特征在于帧大小和帧速率。典型的帧大小包括800x 600、1280x 720(例如, 720p)、1024x 768、1080p,但是也可以使用任何其它帧大小。帧速率是每秒钟的视频帧数量。视频流可包括不同类型的视频帧。例如, H.264标准包括“P”帧和“I”帧。I帧包括用来刷新显示装置上的全部宏块/像素的信息,而P帧包括用来刷新所述宏块/像素的子集的信息。P 帧通常在数据大小上小于I帧。如本文中所使用,术语“帧大小”意在指帧内的像素数。术语“帧数据大小”用来指存储所述帧所需的字节数。
在一些实施方案中,客户端可以是通用计算机、专用计算机、游戏控制台、个人计算机、膝上型计算机、平板计算机、移动计算装置、便携式游戏装置、蜂窝电话、机顶盒、流式传输介质接口/装置、智能电视或联网显示器,或者能够被配置来完成如本文所定义的客户端的功能性的任何其它计算装置。在一个实施方案中,云游戏服务器被配置来检测用户正在利用的客户端装置的类型,并且为用户的客户端装置提供适当的云游戏体验。例如,图像设置、音频设置和其它类型的设置可被优化用于用户的客户端装置。
图13示出了信息服务提供商架构的实施方案。信息服务供应商 (ISP)2170递送大量信息服务至地理上分散的且经由网络2150连接的用户2182。ISP可以递送仅一种类型的服务,诸如股票价格更新,或者多种服务,诸如广播媒体、新闻、运动、游戏等。另外,由每一ISP提供的服务是动态的,也就是说,可在任何时间点添加服务或解除服务。因此,向特定个体提供特定类型的服务的ISP可以随时间而改变。例如,当用户在其家乡时,可由极为靠近用户的ISP对用户进行服务,并且当用户旅行到不同的城市时,可由不同的ISP对用户进行服务。家乡的ISP将所需的信息和数据传送至新的ISP,使得用户信息“跟随”用户去往新的城市,以使数据更为接近用户并且更易于访问。在另一个实施方案中,可以在管理用户信息的主机ISP与在主机 ISP的控制下与用户直接介接的服务器ISP之间建立主机-服务器关系。在另一个实施方案中,随着客户端在全球移动而将数据从一个ISP 传送至另一个ISP,以使处于较佳位置以对用户进行服务的ISP作为递送这些服务的ISP。
ISP 2170包括应用服务提供商(ASP)2106,其经由网络向客户提供基于计算机的服务。使用ASP模型提供的软件有时也称为按需软件或软件即服务(SaaS)。提供对特定应用程序(诸如客户关系管理)的访问的简单形式是通过使用诸如HTTP的标准协议。应用软件驻留在供应商的系统上,并且由用户通过使用HTML通过web浏览器、通过供应商提供的专用客户端软件或诸如瘦客户端的其它远程接口进行访问。
在广泛的地理区域上递送的服务常常使用云计算。云计算是一种风格的计算,其中动态可扩展的且常常是虚拟化的资源被提供作为互联网上的服务。用户无需是“云”中对用户进行支持的技术基础设施的专家。云计算可以划分成不同的服务,诸如基础设施即服务(IaaS)、平台即服务(PaaS)和软件即服务(SaaS)。云计算服务常常提供从 web浏览器接入的在线共用商业应用,而软件和数据被存储在服务器上。术语云被用作互联网的比喻(例如,使用服务器、存储装置和逻辑),基于互联网在计算机网络图中是如何被描绘的,并且是其所隐藏的复杂基础设施的抽象化。
另外,ISP 2170包括游戏处理服务器(GPS)2108,其被游戏客户端用来玩单个玩家和多玩家视频游戏。在互联网上玩的大多数视频游戏都经由至游戏服务器的连接进行操作。通常,游戏使用专用服务器应用,所述专用服务器应用从玩家收集数据并将所述数据分配给其它玩家。这比对等布置更加高效和有效,但是其要求单独的服务器来托管服务器应用在另一个实施方案中,GPS在玩家之间建立通信,以及其相应玩游戏装置在无需依赖集中式GPS的情况下交换信息。
专用GPS是独立于客户端运行的服务器。此类服务器通常在位于数据中心的专用硬件上运行,从而提供更多带宽和专用处理能力。对于大多数基于PC的多玩家游戏来说,专用服务器是托管游戏服务器的优选方法。大型多玩家在线游戏在通常由拥有游戏名称的软件公司托管的专用服务器上运行,从而允许所述专用服务器控制并更新内容。
广播处理服务器(BPS)2110将音频或视频信号分配给听众。对非常小范围的听众进行广播有时称为窄播。广播分配的最终一站是信号如何抵达收听者或观看者,并且所述信号可以与无线电台或TV台一样在空中传播至天线或接收器,或者可经由电台或直接从网络进入有线TV或有线广播(或“无线电缆”)。互联网还可以将收音机或TV 带给接收者,尤其是使用允许信号和带宽被共享的多信道广播。在过去,广播一直受到地理区域的限制,诸如国家广播或区域广播。然而,随着互联网的迅速扩散,广播不再受地理限定,因为内容可以到达世界上几乎任何国家。
存储服务提供商(SSP)2112提供计算机存储空间和相关管理服务。SSP还提供周期性备份和归档。通过提供存储即服务,用户可以根据需要订购更大的存储空间。另一个主要优点是,SSP包括备份服务,并且当用户的计算机硬盘驱动器损坏时用户将不会丢失其所有数据。另外,多个SSP可以具有用户数据的全部或部分副本,从而允许用户高效地访问数据,这独立于用户所在地或用于访问数据的装置。例如,在用户移动时,用户可访问家用计算机以及移动电话中的个人文件。
通信提供商2114提供至用户的连接。一种通信提供商是互联网服务提供商(ISP),其提供对互联网的访问。ISP使用数据传输技术连接其客户,所述数据传输技术适合于递送互联网协议数据报,诸如拨号上网、DSL、缆线调制解调器、光纤、无线或专用高速互连。通信提供商还可以提供讯息传输服务,诸如电子邮件、即时通讯和SMS 短信。另一类型的通信提供商是网络服务提供商(NSP),其通过提供对互联网的直接主干访问来出售带宽或网络访问。网络服务提供商可由以下各项组成:电信公司、数据载体、无线通信提供商、互联网服务提供商、提供高速互联网访问的有线电视运营商等。
数据交换2104将ISP 2170内的若干模块互连,并且经由网络 2150将这些模块连接至用户2182。数据交换2104可以覆盖小区域,其中ISP 2170的所有模块很靠近,或者当不同的模块在地理上分散时可以覆盖大的地理区域。例如,数据交换2104可包括数据中心柜内的快速千兆以太网(或更快)或者洲际虚拟区域网(VLAN)。
用户2182使用客户端装置2120访问远程服务,所述客户端装置包括至少CPU、显示器和I/O。客户端装置可以是PC、移动电话、上网本、平板电脑、游戏系统、PDA等。在一个实施方案中,ISP 2170 辨识客户端所使用的装置类型,并且对所采用的通信方法进行调整。在其它情况下,客户端装置使用诸如html的标准通信方法来访问ISP 2170。
本公开的实施方案可以借助各种计算机系统配置来实践,所述计算机系统配置包括手持式装置、微处理器系统、基于微处理器的或可编程的消费型电子产品、小型计算机、大型计算机等等。本公开也可在分布式计算环境下实践,其中由通过基于有线的或无线的网络链接的远程处理装置来执行任务。
考虑到上文实施方案,应理解,本公开可采用涉及存储在计算机系统中的数据的各种计算机实现的操作。这些操作是需要对物理量进行物理操纵的操作。本文中描述的形成本公开的一部分的任何操作都是有用的机器操作。本公开还涉及一种用于执行这些操作的装置或设备。所述设备可出于所要求的目的而专门构造而成,或所述设备可为由存储于计算机中的计算机程序选择性地激活或配置的通用计算机。具体来说,各种通用机器可与根据本文的教示所编写的计算机程序一起使用,或者可更方便地构造更专门的设备来执行所要求的操作。
本公开还可体现为计算机可读介质上的计算机可读代码。所述计算机可读介质是可存储数据的任何数据存储装置,所述数据随后可由计算机系统读取。计算机可读介质的示例包括硬盘驱动器、网络附接存储装置(NAS)、只读存储器、随机存取存储器、CD-ROM、CD-R、 CD-RW、磁带以及其它光学和非光学数据存储装置。所述计算机可读介质可以包括分布在网络耦接计算机系统上的计算机可读有形介质,使得计算机可读代码以分布式方式存储和执行。
尽管以特定顺序描述了所述方法操作,但应理解,其它内务处理操作可以在各操作之间执行,或者可以调整操作以使得它们在稍微不同的时间发生,或者各操作可以分布在系统中,所述系统允许处理操作以与所述处理相关的各种间隔发生,只要重叠操作的处理以所需方式执行即可。
虽然出于清楚理解的目的相当详细地描述了前述公开内容,但应理解,可在所附权利要求书的范围内实践某些改变和修改。因此,本公开的实施方案被认为是说明性的而非限制性的,并且本公开不限于本文给出的细节,而可在所述实施方案的范围和等效物内进行修改。
Claims (30)
1.一种用于优化场景在头戴式显示器(HMD)的屏幕上显示时的定位的方法,其包括:
检测所述HMD在三维空间中的初始取向,所述HMD的所述初始取向是用户的舒适观看位置;
在所述场景中渲染对象,所述渲染致使所述对象显示在如在所述HMD的所述屏幕上显示的所述场景中的位置处;
检测所述HMD在所述三维空间中的引导取向,响应于引导所述用户观察所述场景中的所述对象的提示,佩戴所述HMD的所述用户将所述HMD从所述初始取向移动之后,检测所述引导取向;
确定三维空间中在所述初始取向和所述引导取向之间的偏移;以及
将所述偏移保存到所述用户的配置文件,所述偏移被应用来调整后续场景在为所述用户渲染时的定位,使得所述后续场景中的某些对象被渲染在所述屏幕上以使得能够接近所述用户的所述舒适观看位置观看所述某些对象。
2.根据权利要求1所述的方法,其还包括,
检测所述用户的身份;以及
获得所述用户的所述配置文件,所述配置文件具有将在所述HMD的使用会话期间使用的所述偏移。
3.根据权利要求1所述的方法,其中所述后续场景与将在所述HMD上渲染的交互式内容相关联。
4.根据权利要求1所述的方法,其中所述场景或后续场景以游戏、应用、广告、程序或其组合的形式提供交互式内容。
5.根据权利要求1所述的方法,其中当佩戴所述HMD时,所述用户使用至少一个校正透镜,使得所述用户具有针对当使用一副眼镜时设定的所述舒适观看位置。
6.根据权利要求5所述的方法,其中所述至少一个校正透镜是多焦点透镜,并且在所述多焦点透镜的上部中的第一视线校正与所述多焦点透镜的下部中的第二视线校正之间具有可见的分界线,所述可见分界线影响所述用户在观看所述对象时的所述引导取向。
7.根据权利要求1所述的方法,其中调整所述后续场景的所述定位减小在观看所述某些对象时的所述偏移。
8.根据权利要求1所述的方法,其中所述某些对象是作为在所述场景中渲染的交互式内容的主题的对象。
9.根据权利要求1所述的方法,其中所述HMD在三维空间中的所述初始取向是属于真实世界环境,所述真实世界环境具有物理参考。
10.根据权利要求1所述的方法,其中所述舒适观看位置被定义为所述用户在佩戴所述HMD时朝向所述用户前方的方向观看。
11.根据权利要求1所述的方法,其中所述场景中的所述对象是可从多个其它图形图像中识别的图形图像。
12.根据权利要求11所述的方法,其中所述图形图像是叠加在所述场景中的对象上的标线。
13.根据权利要求11所述的方法,其中所述图形图像是所述场景中的交互式对象。
14.根据权利要求1所述的方法,其中所述场景中的所述位置在所述屏幕上的预定义坐标处。
15.根据权利要求1所述的方法,其中所述引导取向在所述HMD所处的所述三维空间中具有真实世界坐标。
16.根据权利要求1所述的方法,其中所述提示由与所述HMD介接的计算装置生成,所述提示为可听提示、视觉提示或可听和视觉提示的组合中的一者。
17.根据权利要求1所述的方法,其中在所述HMD的校准期间为所述用户生成所述提示。
18.根据权利要求1所述的方法,其中所述提示在与所述HMD的交互式会话期间生成。
19.根据权利要求1所述的方法,其中在阈值时间段之后捕获所述引导取向,所述阈值时间段是在从所述初始取向移动以查看所述对象的所述位置所需的预期时间段之后。
20.根据权利要求1所述的方法,其中所述提示包括在一段时间内保持观看所述对象的请求。
21.根据权利要求1所述的方法,其中所述偏移与真实世界空间中的坐标和真实世界中的参考相关联。
22.根据权利要求1所述的方法,其中所述偏移具有垂直偏移参数。
23.根据权利要求1所述的方法,其中所述偏移具有水平偏移参数。
24.根据权利要求1所述的方法,其中所述偏移是根据由所述HMD中的惯性传感器检测到的经确定的位置变化来测量。
25.根据权利要求1所述的方法,其中所述偏移是通过由相机捕获的所述HMD的检测图像来测量,所述相机被引导成观看所述HMD在由所述相机捕获的一个或多个图像帧中的移动。
26.根据权利要求1所述的方法,其中所述偏移是通过所述HMD的惯性传感器中检测到的变化与所述HMD的发光二极管的捕获图像数据的组合来测量。
27.一种用于优化场景在头戴式显示器(HMD)的屏幕上显示时的定位的方法,其包括:
检测所述HMD在三维空间中的初始取向,所述HMD的所述初始取向是用户的舒适观看位置;
在所述场景中渲染对象,所述渲染致使所述对象显示在如在所述HMD的所述屏幕上显示的所述场景中的位置处;
检测所述HMD在所述三维空间中的引导取向,在佩戴所述HMD的所述用户将所述HMD从所述初始取向移动以观察所述场景中的所述对象之后,检测所述引导取向;
确定三维空间中在所述初始取向和所述引导取向之间的偏移;以及
将所述偏移保存到所述用户的配置文件,所述偏移被应用来调整后续场景在为所述用户渲染时的定位,使得所述后续场景中的某些对象被渲染在所述屏幕上以使得能够接近所述用户的所述舒适观看位置观看所述某些对象。
28.根据权利要求27所述的方法,其中所述对象被显示在如在所述HMD的所述屏幕中显示的所述场景中的第二位置处,并且然后确定第二偏移,所述第二偏移被保存到所述配置文件以代替所述偏移。
29.根据权利要求27所述的方法,其中所述对象被显示在交互式会话中,并且所述初始取向和所述引导取向被动地捕获以确定所述偏移。
30.根据权利要求27所述的方法,其中被动地捕获所述初始取向和所述引导取向在一段时间内发生一次或多次,而不需要引导所述用户观察所述对象的提示。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562235351P | 2015-09-30 | 2015-09-30 | |
US62/235,351 | 2015-09-30 | ||
PCT/IB2016/001450 WO2017055910A1 (en) | 2015-09-30 | 2016-09-15 | Methods for optimizing positioning of content on a screen of a head mounted display |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108292040A true CN108292040A (zh) | 2018-07-17 |
CN108292040B CN108292040B (zh) | 2020-11-06 |
Family
ID=57209634
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680057812.7A Active CN108292040B (zh) | 2015-09-30 | 2016-09-15 | 优化头戴式显示器屏幕上的内容定位的方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10360877B2 (zh) |
EP (1) | EP3335070B1 (zh) |
JP (1) | JP6548821B2 (zh) |
CN (1) | CN108292040B (zh) |
WO (1) | WO2017055910A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110478914A (zh) * | 2019-08-28 | 2019-11-22 | 武汉宇宙寓言影视发展有限公司 | 一种仿真儿童摇摆机的控制方法、系统及装置 |
CN110780445A (zh) * | 2018-11-12 | 2020-02-11 | 芋头科技(杭州)有限公司 | 用于装配光学成像系统的主动校准的方法及系统 |
CN112514418A (zh) * | 2018-08-03 | 2021-03-16 | 华为技术有限公司 | 用于提供位置相关程序内容的用户节点、网络节点和方法 |
CN112634680A (zh) * | 2020-12-29 | 2021-04-09 | 厦门城市职业学院(厦门市广播电视大学) | 一种咖啡制作流程的vr展示装置及其使用方法 |
CN113253851A (zh) * | 2021-07-16 | 2021-08-13 | 中国空气动力研究与发展中心计算空气动力研究所 | 一种基于眼动跟踪的沉浸式流场可视化人机交互方法 |
CN113709415A (zh) * | 2021-08-20 | 2021-11-26 | 翰和文化教育(深圳)有限公司 | Vr720°全景场景数据交互系统及其使用方法 |
Families Citing this family (57)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6313432B2 (ja) * | 2013-06-09 | 2018-04-18 | 株式会社ソニー・インタラクティブエンタテインメント | 頭部装着ディスプレイ |
CN103353667B (zh) * | 2013-06-28 | 2015-10-21 | 北京智谷睿拓技术服务有限公司 | 成像调整设备及方法 |
CN103353677B (zh) | 2013-06-28 | 2015-03-11 | 北京智谷睿拓技术服务有限公司 | 成像装置及方法 |
CN103353663B (zh) | 2013-06-28 | 2016-08-10 | 北京智谷睿拓技术服务有限公司 | 成像调整装置及方法 |
CN103424891B (zh) | 2013-07-31 | 2014-12-17 | 北京智谷睿拓技术服务有限公司 | 成像装置及方法 |
CN103439801B (zh) | 2013-08-22 | 2016-10-26 | 北京智谷睿拓技术服务有限公司 | 视力保护成像装置及方法 |
CN103605208B (zh) | 2013-08-30 | 2016-09-28 | 北京智谷睿拓技术服务有限公司 | 内容投射系统及方法 |
CN103500331B (zh) | 2013-08-30 | 2017-11-10 | 北京智谷睿拓技术服务有限公司 | 提醒方法及装置 |
US20170092002A1 (en) * | 2015-09-30 | 2017-03-30 | Daqri, Llc | User interface for augmented reality system |
US10281743B2 (en) | 2015-10-01 | 2019-05-07 | Verily Life Sciences Llc | Eye convergence detection with contact lenses |
US10222632B2 (en) | 2015-10-01 | 2019-03-05 | Verily Life Sciences Llc | Lens-to-lens communication for contact lenses |
US20170195563A1 (en) * | 2016-01-05 | 2017-07-06 | 360fly, Inc. | Body-mountable panoramic cameras with wide fields of view |
US10394057B2 (en) * | 2016-02-08 | 2019-08-27 | Verily Life Sciences Llc | Eyes closed interface |
US10591728B2 (en) * | 2016-03-02 | 2020-03-17 | Mentor Acquisition One, Llc | Optical systems for head-worn computers |
US10386655B2 (en) | 2016-07-27 | 2019-08-20 | Verily Life Sciences Llc | Device, system and method for detecting overlap of an ophthalmic device by an eyelid |
US10678397B2 (en) * | 2016-09-26 | 2020-06-09 | Htc Corporation | Method for providing demonstration information in simulation environment, and associated simulation system |
WO2018067357A2 (en) * | 2016-10-05 | 2018-04-12 | Magic Leap, Inc. | Periocular test for mixed reality calibration |
US20200068140A1 (en) * | 2016-10-25 | 2020-02-27 | Benjamin Ee Pao WUNG | Neutral environment recording device |
US10867445B1 (en) * | 2016-11-16 | 2020-12-15 | Amazon Technologies, Inc. | Content segmentation and navigation |
GB2557593A (en) * | 2016-12-09 | 2018-06-27 | Sony Interactive Entertainment Inc | Virtual reality |
US20190156792A1 (en) * | 2017-01-10 | 2019-05-23 | Shenzhen Royole Technologies Co., Ltd. | Method and system for adjusting display content and head-mounted display |
US20180267615A1 (en) * | 2017-03-20 | 2018-09-20 | Daqri, Llc | Gesture-based graphical keyboard for computing devices |
US10268263B2 (en) * | 2017-04-20 | 2019-04-23 | Microsoft Technology Licensing, Llc | Vestibular anchoring |
US10281977B2 (en) * | 2017-05-25 | 2019-05-07 | Acer Incorporated | Virtual reality systems with human interface device emulation and related methods |
US10609902B2 (en) * | 2017-07-27 | 2020-04-07 | Command Sight, Inc. | Animal wearable head mountable display system |
US10630873B2 (en) | 2017-07-27 | 2020-04-21 | Command Sight, Inc. | Animal-wearable first person view system |
US11861136B1 (en) * | 2017-09-29 | 2024-01-02 | Apple Inc. | Systems, methods, and graphical user interfaces for interacting with virtual reality environments |
US10839576B2 (en) * | 2017-10-27 | 2020-11-17 | Magic Leap, Inc. | Virtual reticle for augmented reality systems |
US11303814B2 (en) * | 2017-11-09 | 2022-04-12 | Qualcomm Incorporated | Systems and methods for controlling a field of view |
CA3087333A1 (en) | 2018-01-17 | 2019-07-25 | Magic Leap, Inc. | Eye center of rotation determination, depth plane selection, and render camera positioning in display systems |
IL311004A (en) | 2018-01-17 | 2024-04-01 | Magic Leap Inc | Display systems and methods for determining registration between a display and a user's eyes |
EP3520868A1 (en) * | 2018-02-06 | 2019-08-07 | Gree, Inc. | Game processing system, method of processing game, and program for processing game |
CN116328317A (zh) | 2018-02-06 | 2023-06-27 | 日本聚逸株式会社 | 应用处理系统、应用处理方法以及应用处理程序 |
JP6908573B2 (ja) * | 2018-02-06 | 2021-07-28 | グリー株式会社 | ゲーム処理システム、ゲーム処理方法、及びゲーム処理プログラム |
US10981067B2 (en) * | 2018-02-06 | 2021-04-20 | Gree, Inc. | Game processing system, method of processing game, and storage medium storing program for processing game |
US20190351441A1 (en) * | 2018-05-15 | 2019-11-21 | Carlisle Fluid Technologies, Inc. | Vibrating spray applicator system |
CN109031688B (zh) * | 2018-06-11 | 2019-11-15 | 歌尔股份有限公司 | 一种光学模组中显示屏的定位方法以及定位装置 |
CN109316741A (zh) * | 2018-07-17 | 2019-02-12 | 派视觉虚拟现实(深圳)软件技术有限公司 | 一种vr场景中控制角色移动的方法、装置及设备 |
JP7382387B2 (ja) | 2018-07-24 | 2023-11-16 | マジック リープ, インコーポレイテッド | ディスプレイとユーザの眼との間の位置合わせを決定するためのディスプレイシステムおよび方法 |
JP2018207517A (ja) * | 2018-08-17 | 2018-12-27 | 株式会社コロプラ | ヘッドマウントデバイスにおける表示を制御するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および情報処理装置 |
US11042649B1 (en) | 2018-09-12 | 2021-06-22 | Massachusetts Mutual Life Insurance Company | Systems and methods for secure display of data on computing devices |
US11227060B1 (en) | 2018-09-12 | 2022-01-18 | Massachusetts Mutual Life Insurance Company | Systems and methods for secure display of data on computing devices |
US10893043B1 (en) * | 2018-09-12 | 2021-01-12 | Massachusetts Mutual Life Insurance Company | Systems and methods for secure display of data on computing devices |
US11366514B2 (en) * | 2018-09-28 | 2022-06-21 | Apple Inc. | Application placement based on head position |
CN112912825A (zh) | 2018-10-24 | 2021-06-04 | Pcms控股公司 | 用于虚拟现实的感兴趣区域估计的系统和方法 |
US10983352B2 (en) | 2019-01-15 | 2021-04-20 | Apple Inc. | Display system with virtual image distance adjustment and corrective lenses |
EP3690822A1 (en) | 2019-01-30 | 2020-08-05 | Koninklijke Philips N.V. | Image representation of a scene |
CN110083241B (zh) * | 2019-04-26 | 2022-02-11 | 南京邮电大学 | 一种用于vr头盔控制无人机运动的映射机制 |
EP4270159A3 (en) | 2019-09-26 | 2024-01-03 | Apple Inc. | Wearable electronic device presenting a computer-generated reality environment |
WO2021062278A1 (en) | 2019-09-27 | 2021-04-01 | Apple Inc. | Environment for remote communication |
CN114830247A (zh) * | 2019-12-19 | 2022-07-29 | 爱尔康公司 | 用于视力矫正设备的用户的个性化辅助系统 |
US11860439B1 (en) | 2020-05-06 | 2024-01-02 | Apple Inc. | Head-mounted electronic device with alignment sensors |
US11960345B2 (en) * | 2021-05-25 | 2024-04-16 | Samsung Electronics Co., Ltd. | System and method for controlling operational modes for XR devices for performance optimization |
CN117813541A (zh) * | 2021-07-30 | 2024-04-02 | 伊奎蒂公司 | 交互式标线 |
US11691072B2 (en) * | 2021-08-24 | 2023-07-04 | Sony Interactive Entertainment LLC | Aiming display automation for head mounted display applications |
US20230415033A1 (en) * | 2022-06-28 | 2023-12-28 | Niantic, Inc. | Compact Head-Mounted Augmented Reality System |
US11947122B1 (en) * | 2022-12-08 | 2024-04-02 | Varjo Technologies Oy | Tracking system and method incorporating selective control of light sources of controller |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2002069017A1 (en) * | 2001-02-21 | 2002-09-06 | Three-Five Systems, Inc. | Optically corrective lenses for head-mounted computer display |
US20090128482A1 (en) * | 2007-11-20 | 2009-05-21 | Naturalpoint, Inc. | Approach for offset motion-based control of a computer |
CN102540464A (zh) * | 2010-11-18 | 2012-07-04 | 微软公司 | 提供环绕视频的头戴式显示设备 |
CN102656595A (zh) * | 2010-03-10 | 2012-09-05 | 英派尔科技开发有限公司 | 在增强现实中通过动态建模来进行鲁棒对象识别 |
CN103886124A (zh) * | 2012-12-21 | 2014-06-25 | 达索系统德尔米亚公司 | 虚拟对象的方位校正 |
WO2014155072A2 (en) * | 2013-03-25 | 2014-10-02 | Sony Computer Entertainment Europe Limited | Display |
JP2015503141A (ja) * | 2011-10-28 | 2015-01-29 | マジック リープ, インコーポレイテッド | 拡張現実および仮想現実のためのシステムおよび方法 |
CN204650069U (zh) * | 2015-06-08 | 2015-09-16 | 江苏水晶石信息科技有限公司 | 防蓝光虚拟现实眼镜 |
US20150261291A1 (en) * | 2014-03-14 | 2015-09-17 | Sony Computer Entertainment Inc. | Methods and Systems Tracking Head Mounted Display (HMD) and Calibrations for HMD Headband Adjustments |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5341462B2 (ja) * | 2008-10-14 | 2013-11-13 | キヤノン株式会社 | 収差補正方法、画像処理装置および画像処理システム |
US20120120103A1 (en) * | 2010-02-28 | 2012-05-17 | Osterhout Group, Inc. | Alignment control in an augmented reality headpiece |
US8957948B2 (en) * | 2010-08-24 | 2015-02-17 | Siemens Corporation | Geometric calibration of head-worn multi-camera eye tracking system |
US8223024B1 (en) * | 2011-09-21 | 2012-07-17 | Google Inc. | Locking mechanism based on unnatural movement of head-mounted display |
JP5799776B2 (ja) * | 2011-11-29 | 2015-10-28 | 株式会社バッファロー | 情報表示装置及びプログラム |
US20140160170A1 (en) * | 2012-12-06 | 2014-06-12 | Nokia Corporation | Provision of an Image Element on a Display Worn by a User |
JP6361649B2 (ja) * | 2013-03-29 | 2018-07-25 | ソニー株式会社 | 情報処理装置、通知状態制御方法及びプログラム |
US9239460B2 (en) * | 2013-05-10 | 2016-01-19 | Microsoft Technology Licensing, Llc | Calibration of eye location |
KR102336879B1 (ko) * | 2015-05-20 | 2021-12-08 | 삼성전자주식회사 | 화면을 표시하는 전자 장치, 그 제어 방법 |
WO2017033777A1 (ja) * | 2015-08-27 | 2017-03-02 | 株式会社コロプラ | ヘッドマウントディスプレイシステムを制御するプログラム |
EP3353631A1 (en) * | 2015-09-24 | 2018-08-01 | Tobii AB | Eye-tracking enabled wearable devices |
-
2016
- 2016-09-15 EP EP16788197.8A patent/EP3335070B1/en active Active
- 2016-09-15 WO PCT/IB2016/001450 patent/WO2017055910A1/en active Application Filing
- 2016-09-15 JP JP2018516174A patent/JP6548821B2/ja active Active
- 2016-09-15 CN CN201680057812.7A patent/CN108292040B/zh active Active
- 2016-09-16 US US15/268,482 patent/US10360877B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2002069017A1 (en) * | 2001-02-21 | 2002-09-06 | Three-Five Systems, Inc. | Optically corrective lenses for head-mounted computer display |
US20090128482A1 (en) * | 2007-11-20 | 2009-05-21 | Naturalpoint, Inc. | Approach for offset motion-based control of a computer |
CN102656595A (zh) * | 2010-03-10 | 2012-09-05 | 英派尔科技开发有限公司 | 在增强现实中通过动态建模来进行鲁棒对象识别 |
CN102540464A (zh) * | 2010-11-18 | 2012-07-04 | 微软公司 | 提供环绕视频的头戴式显示设备 |
JP2015503141A (ja) * | 2011-10-28 | 2015-01-29 | マジック リープ, インコーポレイテッド | 拡張現実および仮想現実のためのシステムおよび方法 |
CN103886124A (zh) * | 2012-12-21 | 2014-06-25 | 达索系统德尔米亚公司 | 虚拟对象的方位校正 |
WO2014155072A2 (en) * | 2013-03-25 | 2014-10-02 | Sony Computer Entertainment Europe Limited | Display |
US20150261291A1 (en) * | 2014-03-14 | 2015-09-17 | Sony Computer Entertainment Inc. | Methods and Systems Tracking Head Mounted Display (HMD) and Calibrations for HMD Headband Adjustments |
CN204650069U (zh) * | 2015-06-08 | 2015-09-16 | 江苏水晶石信息科技有限公司 | 防蓝光虚拟现实眼镜 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112514418A (zh) * | 2018-08-03 | 2021-03-16 | 华为技术有限公司 | 用于提供位置相关程序内容的用户节点、网络节点和方法 |
US11587293B2 (en) | 2018-08-03 | 2023-02-21 | Huawei Technologies Co., Ltd. | Providing location-based augmented reality content |
CN110780445A (zh) * | 2018-11-12 | 2020-02-11 | 芋头科技(杭州)有限公司 | 用于装配光学成像系统的主动校准的方法及系统 |
CN110478914A (zh) * | 2019-08-28 | 2019-11-22 | 武汉宇宙寓言影视发展有限公司 | 一种仿真儿童摇摆机的控制方法、系统及装置 |
CN112634680A (zh) * | 2020-12-29 | 2021-04-09 | 厦门城市职业学院(厦门市广播电视大学) | 一种咖啡制作流程的vr展示装置及其使用方法 |
CN113253851A (zh) * | 2021-07-16 | 2021-08-13 | 中国空气动力研究与发展中心计算空气动力研究所 | 一种基于眼动跟踪的沉浸式流场可视化人机交互方法 |
CN113709415A (zh) * | 2021-08-20 | 2021-11-26 | 翰和文化教育(深圳)有限公司 | Vr720°全景场景数据交互系统及其使用方法 |
Also Published As
Publication number | Publication date |
---|---|
US10360877B2 (en) | 2019-07-23 |
US20170092235A1 (en) | 2017-03-30 |
JP6548821B2 (ja) | 2019-07-24 |
EP3335070A1 (en) | 2018-06-20 |
CN108292040B (zh) | 2020-11-06 |
JP2019502971A (ja) | 2019-01-31 |
EP3335070B1 (en) | 2020-11-25 |
WO2017055910A1 (en) | 2017-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108292040A (zh) | 优化头戴式显示器屏幕上的内容定位的方法 | |
CN107533230B (zh) | 头戴式显示器用追踪系统 | |
JP6431198B2 (ja) | ヘッドマウントディスプレイ、ヘッドマウントディスプレイの移動を追跡する方法および記憶媒体 | |
CN105573486B (zh) | 具有与移动计算设备介接的接口的头戴式设备(hmd)系统 | |
CN107548470B (zh) | 头戴式显示器上的夹捏和保持手势导航 | |
CN106255916B (zh) | 跟踪头戴式显示器(hmd)的方法和系统以及用于hmd头带调整的校准 | |
CN109475774A (zh) | 虚拟现实环境中的视图位置处的观众管理 | |
CN109069933A (zh) | 在vr环境中的观众视角 | |
US11347303B2 (en) | Systems and methods for determining movement of a controller with respect to an HMD | |
CN109478095A (zh) | 用于使虚拟现实环境中的特定内容聚焦的hmd转换 | |
CN109069932A (zh) | 观看与虚拟现实(vr)用户互动性相关联的vr环境 | |
CN110270088A (zh) | 异步虚拟现实交互 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |