CN106659932A - 头戴式显示器中的传感刺激管理 - Google Patents

头戴式显示器中的传感刺激管理 Download PDF

Info

Publication number
CN106659932A
CN106659932A CN201580042623.8A CN201580042623A CN106659932A CN 106659932 A CN106659932 A CN 106659932A CN 201580042623 A CN201580042623 A CN 201580042623A CN 106659932 A CN106659932 A CN 106659932A
Authority
CN
China
Prior art keywords
user
game
hmd
intensity
level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201580042623.8A
Other languages
English (en)
Other versions
CN106659932B (zh
Inventor
茅晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Computer Entertainment Inc filed Critical Sony Computer Entertainment Inc
Publication of CN106659932A publication Critical patent/CN106659932A/zh
Application granted granted Critical
Publication of CN106659932B publication Critical patent/CN106659932B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/211Input arrangements for video game devices characterised by their sensors, purposes or types using inertial sensors, e.g. accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • A63F13/49Saving the game status; Pausing or ending the game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/67Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor adaptively or by learning from player actions, e.g. skill level adjustment or by storing successful combat sequences for re-use
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80Special adaptations for executing a specific game genre or game mode
    • A63F13/822Strategy games; Role-playing games
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80Special adaptations for executing a specific game genre or game mode
    • A63F13/825Fostering virtual characters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

提出用于管理由头戴式显示器(HMD)生成的传感刺激的方法、系统和计算机程序。一种方法包括:用于标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态的操作。此外,所述方法包括:用于基于从用户对所述游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值的操作。所述用户强度等级表示在所述用户对所述游戏的玩打过程中通过用户的所述HMD向所述相应用户呈现的传感刺激的水平。此外,所述方法包括:用于向所述HMD呈现所述游戏强度值以便在所述游戏的执行过程中显现的操作。

Description

头戴式显示器中的传感刺激管理
技术领域
本发明实施方案涉及用于改进头戴式装置(HMD)的可用性的方法,并且更具体地,涉及用于管理由HMD生成的传感刺激的方法、系统和计算机程序。
背景技术
通常,HMD是围绕用户的头部佩戴的便携式装置,使得位于距眼睛短距离处的显示器提供图像以供用户交互。HMD有时提供混合的现实生活和虚拟生活环境,其中用户能够看见由计算装置创建的图像以及一些现实实况图像。HMD在其他时间提供对用户阻断外部世界、同时在HMD显示器上提供虚拟世界的沉浸式体验。
然而,因为HMD的计算能力可能不足以刷新显示器上的图像,所以当用户通过HMD中的显示器观看现实世界或虚拟世界时可能存在问题。这可导致HMD用户出现动晕症或晕眩。当用户被中断(例如,接收电话呼叫)并且用户想要快速离开HMD环境时,这种现象尤为严重。
需要允许用户从通过HMD观察的虚拟世界转移出来而不会使用户不舒适的HMD。
实施方案正是在此背景下产生。
发明内容
提出用于管理由头戴式显示器(HMD)生成的传感刺激的方法、装置、系统和计算机程序。应理解的是,本发明可以众多方式来实现,诸如方法、设备、系统、装置或计算机可读介质上的计算机程序。下文描述若干实施方案。
在一个实施方案中,一种方法包括:用于标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态的操作。此外,所述方法包括:用于基于从用户对游戏的玩打获得的用户强度等级来确定游戏状态的游戏强度值的操作。用户强度等级表示在用户对游戏的玩打过程中通过用户的HMD向相应用户呈现的传感刺激的水平。此外,所述方法包括:用于向HMD呈现游戏强度值以便在游戏的执行过程中显现的操作。在一个实施方案中,所述方法的操作由处理器执行。
在另一个实施方案中,一种方法包括:用于标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态的操作。所述方法还包括:用于基于从用户对游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值的操作。用户强度等级表示在用户对游戏的玩打过程中通过用户的HMD向相应用户呈现的传感刺激的水平。另外,所述方法包括:用于基于玩打游戏的用户的简档标识所述用户的用户强度参数的操作,以及用于基于总体游戏强度值和用户强度参数调整向HMD呈现的多媒体内容的强度的操作。
在又另一个实施方案中,提供存储计算机程序的非暂态计算机可读存储介质。所述计算机可读存储介质包括用于标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态的程序指令,以及用于基于从用户对游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值的程序指令。用户强度等级表示在用户对游戏的玩打过程中通过用户的HMD向相应用户呈现的传感刺激的水平。此外,所述存储介质包括用于向HMD呈现游戏强度值以便在游戏的执行过程中显现的程序指令。
在另一个实施方案中,头戴式显示器(HMD)包括:头部附接部分;观看模块,其联接到所述头部附接部分;通信模块;以及处理器,其被配置来执行游戏。所述观看模块显现图像内容,并且所述处理器被配置来标识游戏的游戏状态。所述处理器还被配置来基于从用户对游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值,用户强度等级表示在用户对游戏的玩打过程中通过用户的HMD向相应用户呈现的传感刺激的水平。另外,所述处理器还被配置来在所显现图像内容中呈现游戏强度值。
在又另一个实施方案中,头戴式显示器(HMD)包括:头部附接部分;观看模块,其用于显现图像内容;一个或多个惯性传感器,其用于跟踪HMD的运动;一个或多个摄像机,其被配置来捕获佩戴HMD的用户的眼睛的图像;通信模块;以及处理器,其被配置来执行游戏。所述观看模块联接到头部附接部分。另外,所述处理器标识游戏的游戏状态,并且基于HMD的运动并基于佩戴HMD的用户的凝视确定所述游戏状态的用户强度值。用户的凝视基于对所捕获图像的图像分析来跟踪。所述处理器还基于从用户对游戏的玩打获得的用户强度等级标识所述游戏状态的游戏强度值,用户强度等级表示在用户对游戏的玩打过程中通过用户的HMD向相应用户呈现的传感刺激的水平。另外,所述处理器还被配置来在所显现图像内容中呈现用户强度值和游戏强度值。
根据以下结合附图进行的详述,其他方面将变清楚。
附图说明
结合附图来参阅以下描述可最好地理解实施方案。
图1展示根据一个实施方案的正与多个装置、包括头戴式装置(HMD)交互的用户。
图2展示根据一个实施方案的从现实生活到增强现实到虚拟世界视图的转变。
图3A-3C展示根据一个实施方案的用于离开在HMD的显示器上示出的虚拟环境的方法。
图4A展示根据一个实施方案的从HMD视角看的不同沉浸阶段。
图4B展示用于离开虚拟现实的不同实施方案。
图4C是根据一个实施方案的基于用户输入跟踪游戏中的强度水平的图表。
图5展示用于实现本文所呈现的实施方案的架构。
图6展示根据一个实施方案的针对虚拟世界的不同区域所收集的强度标签的图形表示。
图7A展示根据一个实施方案的包括强度等级的显示捕获。
图7B是根据一个实施方案的用于对游戏中的强度水平进行评级的界面。
图8A展示根据一个实施方案的用于对强度数据加标签的语音命令。
图8B是根据一个实施方案的用于配置难度和强度水平以便玩打游戏的界面。
图9A是根据一个实施方案的用于基于多个强度因素计算游戏强度的流程图。
图9B是根据一个实施方案的用于设定用于离开用头戴式显示器(HMD)玩打的游戏的离开战略的流程图。
图9C是根据一个实施方案的用于向正用HMD玩打游戏的用户呈现强度数据的流程图。
图10展示可用于实现实施方案的装置的架构。
图11是根据各种实施方案的游戏系统的方框图。
具体实施方式
以下实施方案描述用于管理由头戴式显示器(HMD)生成的传感刺激的方法、装置、系统和计算机程序。将显而易见的是,本发明实施方案可在没有这些具体细节中的一些或全部的情况下实践。在其他情况下,众所周知的过程操作尚未进行详细描述,以免不必要地混淆本发明实施方案。
在一些实施方案中,针对佩戴HMD的用户提供沉浸到虚拟世界中的水平的强度等级信息。等级信息可以若干方式来提供,诸如图标、滑动标尺、色度指示器、计数器或计量器,并且等级信息是供在HMD中呈现的内容如何激进或强烈的指示器。内容越强烈,用户越可能会体验到晕眩或不友好的体验。可从多个用户、诸如从附属于社交网络或游戏网络的玩家收集特定内容的等级信息。收集游戏的不同部分的难度和强度的等级,并且在HMD中显示基于这种所收集信息的信息,以使用户形成对游戏和多媒体输出的强度的期望。
这种等级动态收集可用于向不熟悉特定游戏的其他用户提供对使用头戴式显示器玩打的特定游戏或游戏的特定部分的强度的提前通知。
图1展示根据一个实施方案的正与多个装置、包括头戴式装置(HMD)102交互的用户。用户114正佩戴HMD 102,其包括在用户的眼睛近处显现图像的显示器110。在一个实施方案中,图像以3D形式显现。尽管本文所呈现的实施方案参考HMD 102上的显示器来描述,但其他实施方案可使用其他视图显现方法,诸如将图像投影在用户的视网膜上。
在一个实施方案中,计算装置106执行在HMD 102上显示的游戏。因此,计算装置106与HMD 102协作来显示图像以用于玩打游戏。对游戏操作的处理可在计算装置106上、HMD 102上或计算装置106和HMD 102两者中完成。在另一个实施方案中,对游戏操作的处理可由与计算装置106和/或HMD 102协作来显示图像以用于玩打游戏的联网游戏服务器124或一群远程游戏服务器(未示出)执行。在又一个实施方案中,HMD 102与游戏服务器124协作以用于玩打游戏。
在图1的实施方案中,HMD 102与计算装置106进行无线(例如,WiFi、蓝牙等)通信。在其他实施方案(未示出)中,HMD 102可直接电线连接到计算装置106,或通过网络(例如,互联网)与计算装置106通信。例如,计算装置106可以是网络上的提供游戏服务的服务器。在一些实施方案中,HMD是自主游戏玩打装置,并且游戏可直接在HMD上执行,而无需外部装置来运行游戏。
在一个实施方案中,一个摄像机(或多个摄像机)联接到计算装置106。如果计算装置106是网络上的服务器,那么摄像机104可以是通过网络(例如,通过互联网)向计算装置发送图像的联网摄像机。摄像机104可以是以下各项中的一项或多项:常规图像摄像机、立体摄像机(即,具有从玩打区域捕获图像的两个或更多个镜头)、红外摄像机、深度摄像机、3D摄像机等。
用摄像机104拍摄的图像可被处理以跟踪HMD 102的位置和移动。另外,图像还可用于跟踪用户或用户的特征(例如,用户的头部、用户的嘴部、用户的手部、用户的躯干等)、控制器(例如,单手控制器116、双手控制器118)或玩打区域中的任何其他元件的位置和运动。
在一个实施方案中,用户可通过语音识别提供命令,所述语音识别可由计算装置106通过借助于一个或多个麦克风120进行的声音捕获来执行,或者可由在一个实施方案中还包括一个或多个麦克风的HMD 102执行。在另一个实施方案中,用户114还可通过由计算装置106分析和识别的手势来送入输入。
在一个实施方案中,计算装置106还连接到可执行一些游戏操作的显示器108。例如,显示器108可在用户戴上HMD 102之前向用户提供指令。在另一个实施方案中,显示器108提供相同或类似的在HMD上示出的显示,这样附近的其他玩家可感知用户114关于在HMD102上显示的游戏的进度。
在一个实施方案中,用户拿着一个或多个控制器116。计算机装置106跟踪控制器的位置和移动,并且与控制器的运动有关的操作或用控制器送入的输入可用作游戏的输入。例如,控制器可表示剑柄,并且剑显示在游戏场景中。当用户移动控制器时,剑与控制器同步地在虚拟世界中移动。这样,玩家能够执行其中剑是武器的战斗游戏操作。
在一个实施方案中,计算装置106计算HMD 102与游戏控制器116之间的相对位置。相对位置然后可由游戏用于使游戏对象与HMD 102同步地移动。
计算装置还可跟踪第二控制器116,所述第二控制器116也可链接到在HMD的显示器上显现的游戏对象。例如,第二控制器可以是盾,并且用户能够用剑和盾在虚拟世界中进行战斗。在其他实施方案中,控制器可在游戏中用于其他目的,诸如武器(例如,枪、步枪或任何类型的射击武器、斧头、激光枪、转向装置—摩托车的转向盘或手柄—闪光灯、锤子、盾等。
在另一个实施方案中,用户还可与双手控制器交互,所述双手控制器可以与单手控制器类似的方式来使用。例如,双手控制器可用作转向盘。
在另一个实施方案中,用控制器送入(诸如通过按压控制器上的按钮)的输入可用于执行游戏中的命令。例如,用户可使用控制器上的按钮来使游戏中的化身移动,以便发射武器、抓取对象等。
应注意,图1所展示的实施方案是示例性的。其他实施方案可利用不同装置、不同数目的装置,在不同装置之间具有或多或少的交互,使用其他通信方式(例如,超声的),促进多玩家游戏(其中佩戴相应HMD的两个用户玩打相同游戏)等。因此,图1所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图2展示根据一个实施方案的从现实生活到增强现实到虚拟世界视图的转变。增强现实(AR)是物理的现实世界环境的实况、直接或间接视图,所述环境的元素由计算机生成的传感输入(诸如声音、视频或图形)增强。增强现实与叫做介导现实的一般概念有关,在介导现实中,现实的视图由计算机修改(可能地甚至是减弱而不是增强)。相比之下,虚拟现实用模拟的现实世界替换现实世界。关于环境及其对象的仿真信息可叠置在现实世界上。
一些HMD允许将计算机生成的图像(CGI)叠加在增强现实视图上以创建增强现实或混合现实。结合现实世界视图与CGI可通过借助于部分反光镜投影CGI并且直接观看现实世界来完成。这种方法常常叫做光学透视法。结合现实世界视图与CGI还可通过从摄像机接受视频并且电子地混合视频与CGI来电子地完成。这种方法常常叫做视频透视法。
在一个实施方案中,HMD包括捕获用户前面的世界的前向摄像机(从用户的面部面向外)。由摄像机捕获的视频或图像然后可在显示器上复现以创建透视视图。为了将虚拟对象放置在现实场景上,HMD需要知道如何标识现实世界中可放置虚拟对象的地方。例如,可将虚拟角色放置在桌子或别的平坦表面上。当然,在其他实施方案中,可将虚拟对象放置成在房间上浮动,并且HMD需要做的是在与HMD相距一定距离处、没有现实世界对象位于其中的地方呈现虚拟对象。
在一个实施方案中,HMD使用视频图像来确定对象在房间中的位置。摄像机可以是用于确定相对于游戏对象的距离的立体摄像机或深度摄像机。一旦HMD确定平坦表面,就可将虚拟对象放置在那个表面上。
在另一个实施方案中,现实世界对象的位置由联接到与HMD通信的计算装置(诸如游戏控制台)的摄像机计算。计算装置还跟踪HMD的位置,这样计算装置可计算房间中的对象相对于HMD的相对于位置。计算机装置将这个信息传输到HMD,以便提供关于现实世界环境及对象位置的信息。
从现实实况图像到HMD上所显示的虚拟世界的突然转变可使场景混乱并造成了晕眩的可能性。此外,如果HMD呈现大量迅速改变的传感信息(例如,在3-D显示器中呈现很多运动和移动元素),晕眩或头晕也是可能的。
在一个实施方案中,为了使用户适应进入到虚拟世界中,提供中间增强现实视图。首先,向用户提供透视视图202。之后,在第二视图204中,将游戏对象210(例如,角色,尽管可使用任何其他虚拟对象)放置在增强现实视图中。例如,可将游戏对象210放置在桌子顶部、或放置成悬挂在墙壁上、或在放置在TV屏幕中、或放置在游戏控制台顶部等。
然后,可使现实世界视图逐渐淡出,从而产生仅具有游戏对象210的虚拟视图206。之后,可使其他游戏对象逐渐淡入到视图中,直到在视图208中显现出完整虚拟世界为止。
在一个实施方案中,虚拟世界以圆形方式从游戏对象210扩张,直到虚拟场景填满整个显示器为止。在另一个实施方案中,一次一个地将虚拟对象添加到虚拟场景,直到已经添加所有虚拟对象为止。
在一些实施方案中,使虚拟场景冻结(即,无虚拟对象处于运动中),直到整个虚拟场景被填满并且玩家完全适应进入为止。
应注意,图2所展示的实施方案是示例性的。其他实施方案可利用不同转变、不同虚拟对象、不同操作次序等。因此,图2所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图3A-3C展示根据一个实施方案的用于离开在HMD的显示器上示出的虚拟环境的方法。图3A展示根据一个实施方案的在HMD的显示器上示出的游戏场景。在一些实施方案中,凝视跟踪和HMD运动跟踪用于区分扫描输出HMD显示器上的不同区域的优先级。
在一个实施方案中,屏幕可划分成多个区域或区段,并且区域以不同优先级并且以不同分辨率水平来更新。这意味着一些区域可比其他区域更频繁地或以更高分辨率来刷新。
HMD跟踪帮助确定用户将要将他们的凝视投向哪里,因为当用户将要改变他们的凝视时,存在使头部在同一方向上移动的自然本能,即使头部的移动在与眼睛的移动相比时可能是轻微的。例如,如果用户正看着正前方并且头部(与HMD一起)开始朝左移动,那么计算装置预计用户将要向左移动他们的凝视。响应于这种检测,屏幕左侧上的区域与屏幕右侧上的区域相比以更高优先级被显现。事实上,非常可能的是:朝向屏幕右侧边框的区域随着场景朝向左侧位移而将从视图消失。
通过区分扫描输出不同区域的优先级,有可能通过以下方式给予用户更好的体验:聚焦在用户所看的地方或用户接着将要看的地方,并且更有效地应用计算机资源以使得能够更快且以更好质量显现用户的视图。
本文所呈现的实施方案参考虚拟-现实显示器来描述,其中屏幕排他地示出由计算装置创建的场景。然而,本文所呈现的原理还可应用于增强现实游戏,其中屏幕上的视图是现实世界图像和计算装置生成的图像的组合。在一个实施方案中,在扩展虚拟世界上玩打游戏。用户在任何时间仅看见虚拟世界的一部分,并且用户能够在虚拟世界中四处移动。当用户在虚拟世界中四处移动时,虚拟世界的其他部分暴露出来。
在一些实施方案中,当前用户视点304与用户视点304之外的区域相比被给予更高显现优先级。用户视点被定义为显示器上用户正将他们的视线聚焦在的地方。因此,大部分游戏交互在用户视点304内发生。当然,用户的凝视的中心在视点304周围。
许多人在他们的视野内能够看见从向左约90°延伸到向右约90°的区域。然而,尽管人可感觉到在用户视域的周边上的区域内的一些运动或变化,但不能清晰地感知这些周边区域。
在图3A所示的实施方案中,视点被定义为屏幕上的矩形区段,其中用户的凝视的中心位于这个矩形区段内。然而,可定义其他类型的视点区域。例如,在一个实施方案中,将视点区域定义为用户在屏幕上的凝视点周围的圆。参考从眼睛之间的中点到屏幕上的凝视点的线来定义观看角度。然后通过观看角度确定视点圆的半径。在一些实施方案中,观看角度可具有在5°至45°范围内的值,但其他值也是可能的。
在一些实施方案中,显现策略要求:给予具有游戏角色的区域(例如,区域308、306)比不具有游戏角色的区域更高的显现优先级。在其他实施方案中,另一种显现策略给予游戏角色和被游戏评级为重要游戏对象的特殊游戏对象更高扫描输出优先级。例如,重要游戏对象可以是安全门、汽车或飞机中的导航控制台、舒缓游戏上的目标、敌方飞行器等。一般来说,重要游戏对象是用户可作用于其上的对象,而不重要的游戏对象在背景中显现以填充场景。
区域306(包括游戏角色310和312)和区域308是具有游戏角色的区域,并且与显示器的剩余部分相比被给予更高显现优先级。当然,在一些实施方案中,这仅仅是计算最终显现优先级时的一个因素,因为显现优先级可按一些其他规则更改,诸如当用户正移动他们的凝视或他们的头部时。
在一个实施方案中,当用户快速移动他们的头部时,屏幕上可能发生模糊化,因为快速运动要求快速更新显示器,并且HMD所具有的计算资源可能不足以跟上用户的运动。为了避免在HMD处于快速运动中时的模糊化,显现策略开始快速刷新与用户的运动相关联的区域,并且可能以较低的频率或以较低的分辨率刷新别的区域。一旦HMD停止移动,就恢复扫描输出图像的更高质量。
此外,应注意,为了预测用户的凝视的轨迹,计算装置在预定时间段内跟踪用户的凝视的轨迹,并且还在预定时间段(或别的时间段)内跟踪HMD的轨迹。历史数据用于通过分析凝视运动和HMD运动的趋势来预测用户的凝视的轨迹。
图3A展示当用户被提供完全交互性和3-D效应从而完全沉浸到虚拟世界中时HMD的显示器上的呈现。
图3B展示根据一个实施方案的在用于使用户适应离开的操作开始之后显示器上的呈现。当用户开始离开过程时,HMD通过降低向用户呈现的强度来开始使用户适应。在一个实施方案中,在离开的同时,交互性、3-D效应、传感强度等逐渐减弱。
在图3B的示例性实施方案中,在取下HMD之前,显示器上的一些视觉元素逐渐消除并且3-D效应减弱以开始将用户的感觉调整到显示器上的2D呈现。
通过消除显示器的一些图形元素(例如,背景),在显示器上向用户提供较少的元素。例如,如果用户正在战斗中间,那么与战斗无关的图形元素可被删除、变灰、变透明等,以降低它们对用户的视觉影响。然而,与战斗有关的其他部分(例如,敌方、武器、盾等)在用户适应离开的同时仍得以维持,因为这些元素如果突然移除的话将是更加引人注意的。
在一个实施方案中,用户视点304内的元素保持不变,因为那是用户将他们的注意力聚焦在的地方。在另一个实施方案中,具有游戏角色的区域(例如,306和308)在离开过程的初始阶段过程中也保持不变。
另外,离开过程还可降低元素在显示器上移动的速度。换句话说,游戏中的动作减慢以减弱由HMD产生的传感输出。例如,场景中的树叶或汽车可更缓慢地移动。还有,在一个实施方案中,HMD可逐渐从3-D效应转变到2-D效应。
图3C展示图3B的显示器上的处理之后的下一操作。图3C已经减少显示器上的元素以在显示器上呈现极简约视图。当然,从图3A显示器到图3C显示器的转变过程在一定时间段(其可根据不同实施方案而改变)内完成。
此时,向用户提供可移除HMD的信号,并且因为适应化操作,用户将能够安全地移除HMD,从而降低在用户开始从由HMD呈现的虚拟世界之外的现实世界接收传感输入时晕眩(vertical)或迷失方向的可能性。
应注意,图3A-3C所展示的实施方案是示例性的。其他实施方案可利用不同类似的视点区域、不同类型的显示器、不同显现策略等。因此,图3A-3C所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图4A展示根据一个实施方案的从HMD视角看的不同沉浸阶段。当用户在玩打游戏时被打断时,重要的是用户在不破坏用户在游戏中的进度的情况下继续游戏活动(例如,游戏返回到用户曾经所处的相同地方)。例如,用户可能讨厌仅仅因为某人电话呼叫她而在游戏中失去生命。
在一个实施方案中,系统检测离开命令并且开始适应离开,如先前所讨论。系统(例如,HMD、游戏控制台或两者)保存游戏状态以使得用户能够在他所停止的相同地方返回到游戏中。在一个实施方案中,游戏保持游戏活动的历史,并且当玩家返回时,游戏玩打在对应于用户开始离开过程之前的短时间的点处继续。例如,用户可能已经被现实生活事件打断,并且用户可能已经花费数秒来送入离开命令。这一延迟可能以用户损失一些游戏进度为代价。为了避免对游戏不满意,游戏返回到一点,在所述点处,假设用户仍完全参与玩打游戏是安全的。在一些实施方案中,使用余量间隔,其被定义为恢复时间与送入离开命令时的时间之间的差。恢复时间是当玩家返回到游戏时游戏得以继续的时间。
图4A展示玩家进入和离开游戏的方式的实例。出于描述目的,将沉浸水平定义为用户对HMD的适应化程度。完全沉浸水平是指用户已经适应HMD,并且低沉浸水平是指用户尚未经历适应化过程以开始使用HMD。在完全沉浸水平中,由HMD提供的传感输出处于高水平,包括完全3D图形、虚拟对象、环绕声、快速移动对象等的可能。
初始地,在t0时,用户戴上HMD并且开始适应进入。一会儿之后,在t1时,用户已经适应并且开始玩打游戏。之后一会儿,在t3时,游戏检测到用户需要适应离开,因为用户已经送入命令,或因为系统已经检测到可能的问题。
当在t4时适应离开的过程结束之后,用户能够取下HMD。之后在t5时,用户再次戴上HMD并且请求再次适应进入。在t6时,用户已经适应进入并且游戏继续。
在一个实施方案中,游戏在恰好与游戏在用户开始适应离开的时间t3时所处的状态相同的状态下继续。在其他实施方案中,游戏将继续对应于开始离开过程时的时间之前的时间(诸如在t2时)的游戏状态。
图4B展示用于离开虚拟现实的不同实施方案。图4B展示玩家随时间推移的示例性沉浸水平。在初始斜升时段(其中引入虚拟现实)之后,玩家玩打游戏,其中沉浸水平根据不同游戏活动改变。
如果游戏正在停止,那么问题是算出适应化过程应多缓慢或多快速。这将取决于玩家所沉浸的程度、正发生的游戏活动(例如,在战役中间或仅仅沿着虚拟现实世界走动)等。
如果玩家送入从虚拟现实游戏出来的指令,那么使玩家适应于离开虚拟现实的过程开始。存在玩家可从游戏出来的若干方式。在一个实施方案中,玩家立即出来,即所有虚拟元素从HMD的显示器消除,并且向玩家呈现黑屏(例如,屏幕上没有图像)或现实世界的视图。在一些情景中,立即离开可降低玩家的晕眩(vertical)或物理不舒适,因为感官没有时间因其他逐渐变化而变混乱。
在本文中称为突然停机的另一个实施方案中,玩家非常快速地(尽管不是即刻地)从虚拟世界被带出。例如,玩家在数秒内(诸如在1至5秒的范围内,或在3至10秒的范围内,尽管其他值也是可能的)从虚拟世界转到现实世界。
在本文中称为软着陆的另一个实施方案中,适应化具有其中迅速消除虚拟现实元素、之后少量引入现实世界元素的初始阶段。在本文中称为突然着陆的又另一个实施方案中,存在其中缓慢消除虚拟现实、之后迅疾改变成现实世界视图的初始阶段。
应注意,这些实施方案是示例性的。其他实施方案可利用不同适应化速率来离开虚拟现实。因此,图4B所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
实施方案分析多个因素以确定最佳离开策略。这些因素包括以下各项中的一项或多项:玩家简档(例如,年龄、经验)、游戏级别、游戏难度、游戏活动、玩家已经沉浸的时间量、游戏设置(例如,开发者设定推荐用于离开VR的参数)、头戴式耳机的特性、环境温度、HMD显示器的当前亮度(例如,玩家正处于夜晚环境,或玩家可能处于非常明亮的白天)等。
例如,如果用户正在玩打保龄球的游戏并且少量元素正在屏幕上移动,那么可相当迅疾地减少或抑制虚拟现实元素。然而,如果玩家正在虚拟世界中搭乘以很快的速度移动的过山车,那么离开过程将是低的,可从降低过山车的速度并减少显示器上的虚拟元素的量开始。
依据用户决定离开HMD时的当前强度水平,调整适应化过程以尽可能早地离开游戏而不会使玩家不舒适。如果玩家正在进行低强度活动(例如,在虚拟世界中四处行走),离开可比玩家正在进行高强度活动(例如,与龙战斗)的情况迅速。
图4C是根据一个实施方案的基于用户输入跟踪游戏中的强度水平的图表。为了为用户限定离开策略,知道游戏的内容并且评估用户以限定使用户适应于尽可能快地离开游戏而不产生不舒适的离开策略。
然而,由于标识游戏状态和用户状态所涉及的所有可能的变量,确定内容可能是复杂的问题。例如,一些游戏包括可造成以下情况的随机事件:在虚拟世界的某个部分中具有化身的用户可经历与虚拟世界的相同部分中的第二用户不同的游戏体验。
在一个实施方案中,为了在玩打游戏时确定强度水平,向用户提供选项以送入标识用户在不同时间所经历的强度(即,沉浸水平)的强度标签Ii
图4C是示出若干玩家随时间推移的沉浸水平的图表。初始斜升时段对于所有玩家都是类似的,并且之后玩家经历不同的沉浸度。本文所呈现的实施方案允许玩家在不同时间对沉浸水平加标签。例如,玩家1已经限定标签I11、I12、I13和I14,玩家2已经限定标签I21、I22等。标签中的第一下标对应于用户,并且第二下标是由用户送入的标签的顺序符。在其他实施方案中,标签还与虚拟世界中用户当前正在其中玩打游戏的区域相关联,如以下参考图6更详细描述的。
每个标签Ii由一对值(i,t)限定,其中i是沉浸水平并且t是标签被创建的时间(例如,i1和t1对应于I11)。每个沉浸水平值是由对应用户在一个时间点标识的强度水平。沉浸水平可以依据用户和用户在游戏中正在做的事情而改变。例如,在整个虚拟世界中,一些用户可能更缓慢地移动而其他用户可能更快速地移动(例如,行走对比驾驶交通工具)。此外,玩家可视察虚拟世界的不同区域。用户可从龙旁边走过并错过它,因此,与使龙卷入战斗的用户相比具有强度较低的体验。在玩打游戏时,玩家具有不同体验。
在一个实施方案中,由用户送入的标签被添加到用户简档并且可保存在游戏控制台中、网络服务器中、HMD中或其组合中。
图5展示用于实现本文所呈现的实施方案的架构。在这个图示中,向HMD提供的游戏内容处于丰富的交互式3-D空间中。游戏内容可下载到客户端系统506,或在一个实施方案中可由云游戏服务512执行。云游戏服务112可包括用户514的数据库,用户514被允许访问特定游戏502、与其他朋友分享经验、发评论以及管理他们的账户信息。
云游戏服务512还可存储特定用户的游戏数据518,所述游戏数据518可在游戏玩打、未来游戏玩打、共享到社交媒体网络过程中使用,或可用于存储战利品、奖品、状态、等级等。社交数据520也可由云游戏服务512管理。云游戏服务512还可包括用户简档510,其中用户简档包括关于用户的信息,所述信息可包括以下各项中的一项或多项:用户名、用户人口统计信息、历史数据、游戏数据、强度标签(本文中也称为用户强度分数、或沉浸分数、或沉浸水平、或强度等级)、HMD配置设置、社交数据以及其他数据。
用户强度分数也由云游戏服务512保持。另外,强度分数508还可由客户端系统保持或捕获。在一个实施方案中,云游戏服务512与客户端装置506协作以共享有关强度水平、游戏数据、用户简档数据和社交数据的信息。
社交数据可由单独的社交媒体网络管理,所述社交媒体网络可通过互联网504与云游戏服务512对接。通过互联网504,可连接任何数目的客户端系统506,以便访问内容并且与其他用户交互。
在HMD中所观看的三维交互式场景可包括游戏玩法,诸如3-D视图中所展示的角色。在一个实施方案中,角色或化身由佩戴HMD的用户控制。
游戏逻辑可在云游戏服务512和客户端系统506或两者中执行。游戏逻辑与玩打游戏的不同用户通信,以便捕获用户数据,包括强度等级。
在一个实施方案中,用户的简档包括正在玩打的游戏的数据。在一个实施方案中,用户的简档包括下列值中的至少一个或多个:
-用户元数据
-用户设置
-历史统计
-共享历史
-多玩家活动
-游戏分数
-强度等级
-由用户设定用于玩打一个或多个游戏的强度设置,包括默认强度设置
-所玩打的级别,以及
-社交屏幕
社交屏幕是正在用HMD玩打的游戏在标准TV或PC显示器中的呈现,所述显示器允许不具有HMD的用户跟随游戏动作或甚至参与游戏。社交屏幕可被呈现给HMD佩戴用户附近的用户或通过网络连接的远程用户。
应注意,图5所展示的实施方案是示例性的。其他实施方案可利用不同数据组织,或以不同方式组织相同数据,或将数据结合到单个数据库中等。因此,图5所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图6展示根据一个实施方案的针对虚拟世界的不同区域所收集的强度标签的图形表示。在一个实施方案中,根据虚拟世界中用户(例如,用户的化身)在送入强度等级时所处的区域对由用户送入的强度等级进行分类。
图6示出虚拟空间内的强度等级的三维表示。x轴和y轴对应于虚拟世界的地图的坐标。第三维度i对应于强度值。在图6中,强度标签由垂直线表示,垂直线的长度对应于所述送入的强度的值。
在一个实施方案中,在虚拟世界内限定强度游戏区域(例如,602)。强度游戏区域可由游戏开发者限定,或可由对用户所送入的强度标签的统计分析限定。例如,分析强度标签并标识强度标签的集群,其中每个集群包括高集中度的强度标签。这些集群通常对应于具有高活动性的游戏区域,诸如搭乘过山车、交战、射击目标、危险区域等。
在一个实施方案中,集群用于向用户提供强度值,并且通知用户:用户所处的区域或用户正进入的区域可能是高强度水平区域。在一个实施方案中,用户可对游戏进行定制,以便对HMD上所呈现的强度水平加边界。例如,用户可标识:用户想要仅在“中等强度”等级处玩打。这样,游戏将降低在高强度区域中向用户呈现的传感输出(例如,沉浸水平),以便在中等强度水平下呈现游戏。
在一个实施方案中,还根据某个因素(例如,人口统计)来对强度等级进行分类,以便标识由用户送入的所感知强度值的趋势。例如,可根据用户的年龄、性别、地理位置、玩打游戏所花费的时间量、所达到的级别、所达到的分数、所赢得的战利品等。分类可针对整个游戏执行,或针对游戏的部分、诸如集群602执行。
图表604是根据他们在虚拟世界的集群或区域内的用户的年龄的、由用户加标签的强度值的柱状图。例如,较老玩家对刺激感官的虚拟现实元素的敏感度可比较新玩家强。因此,强度标签将趋向于对于较老用户来说更高。当然,这个图表仅作为实例来呈现,并且当测量强度水平时,也可发现其他类型的分布。
强度等级被保存在存储设备中,并且当某人开始玩打游戏时,用户可观看其他用户的等级并且看见游戏的强度水平或游戏的章节。用户可能想要设定设置以排除“非常高”或以上的强度设置,因为用户在这些水平下会变头晕。可能的是为容易晕眩的用户创建游戏的“低强度”版,类似于R级电影供在TV中呈现或用于非R受众的编辑版。此外,在一个实施方案中,游戏中的一些强烈活动对于玩打游戏的“低强度”版的用户可能受抑制。
另外,等级可按游戏内的类别(例如,取决于游戏活动)来分解,并且在一个实施方案中,用户具有观看强度水平的细节的选项。
在一个实施方案中,用户被给予用户可能正在进入沉浸水平提高的区域或活动的警告。这将使玩家针对即将到来的提高水平的传感输入做准备。
图7A展示根据一个实施方案的包括强度等级的显示捕获。在一个实施方案中,游戏显示器包括若干游戏参数,包括分数、玩家在游戏中所达到的级别、示出化身的剩余能量值的能量条、强度等级条(例如,具有高强度水平,因为化身正忙于与龙战斗)、玩家所赢得的货币(例如,硬币)量等。
在一个实施方案中,游戏基于一个或多个参数(包括跟踪用户行为(例如,平衡、反应时间、反常移动、反常眼运动、升高的心率、用户跌倒等)的物理表现)、当前活动的程序限定的参数、所玩打的时间量、用户经验等来计算当前用户强度值。当前用户强度值被显示给用户以基于用户情形提供强度值,所述强度值不同于基于来自玩打游戏的用户团体的输入所计算的所显示强度值。
另外,显示器呈现对如玩家所感知到的当前强度水平进行评级的选项(即,“ ”)。如果玩家选择评级选项,游戏捕获强度标签,诸如以下参考图7B的实例中所示的强度标签。
玩家可用由用户接口所提供的任何方式来选择评级选项,诸如通过用鼠标光标在字词评级上进行点击,或通过将凝视固定在字词评级上,或通过推动控制器上的按钮,或通过给出言语命令(例如,“对强度进行评级”),通过做出手势等。
图7B是根据一个实施方案的用于对游戏中的强度水平进行评级的界面。在玩家已经如以上参考图7A所讨论地选择评级选项之后,提供界面712以用于对强度等级加标签。指示以下内容的消息被提供给用户:强度等级值是预期的(例如,“在以下条上选择等级水平以标记这项活动的强度水平”)。
强度条714提供供用户选择强度值的标度。在条714下方,提供了从低到极端的强度属性。玩家然后放置标记716以标识这项活动的强度。
为了放置标记716,玩家可使用用户接口所提供的任何输入方法,诸如通过推动控制器上的按钮以提高或降低强度、用鼠标点击、提供言语命令(例如,“高强度”)、将凝视固定在强度条714上等。
应注意,图7A和7B所展示的实施方案是示例性的。其他实施方案可利用不同GUIS、不同选项、不同方式来捕获强度标签(例如,从1至10或1至100)等。因此,图7A和7B所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图8A展示根据一个实施方案的用于对强度数据加标签的语音命令。在一个实施方案中,当被提示时,用户可口头地指示强度水平(例如,“强度非常高”)。在另一个实施方案中,用户可在佩戴HMD时的任何时间通过说出若干强度送入命令中的一个来送入强度水平。
通过允许玩家在任何时间送入强度水平,玩家将更加有可能花费时间来标识沉浸水平。在一个实施方案中,游戏暂停短时段以补偿送入强度值的时间损失(例如,1至5秒,尽管其他值也是可能的,诸如1至15秒)。
在一个实施方案中,游戏为在玩打游戏时送入强度水平而奖赏玩家。例如,每次玩家送入强度标签时,游戏可给予玩家一定量的货币或能量,或游戏可在玩家完成与对强度值加标签有关的目标(例如,送入25个强度标签)之后给予玩家更大的奖赏(例如,额外一条命或新武器)。
在其他实施方案中,游戏可基于对用户行为的物理观察(例如,利用在HMD外部并且具有用户身体的观看角度的摄像机)在不同时间分配强度标签。例如,如果用户变得不稳定并且似乎失去她的平衡,那么游戏可标识高强度活动的标签值。另外,HMD可跟踪玩家的眼睛并且确定反常行为(例如,眼睛的迅速移动)以确定高强度标签。此外,游戏可跟踪HMD本身的运动(例如,通过监测信息HMD中的惯性传感器所提供的陀螺仪信息)并且确定用户何时变得不稳定或跌倒,在这种情况下高强度标签被创建。
图8B是根据一个实施方案的用于配置难度和强度水平以便玩打游戏的界面。在游戏开始时,或在游戏过程中,玩家具有配置游戏参数(诸如游戏难度872和期望强度水平874)的选项。
在一个实施方案中,通过选择五个单选按钮中的一个来选择强度水平874,每个单选按钮对应于以下强度选项中的一个:低、稍微、平均、强烈以及非常强烈。在其他实施方案中,其他选择强度的方式也是可能的,诸如通过选择三个选项(例如,轻、平均或高)中的一个,或通过在一定范围内(例如,从1至10的评级,其中10对应于最高可能强度,或从1至100)进行选择,或通过提高或降低来自先前所玩打的游戏的强度水平(例如,来自先前所玩打的较低强度水平)。
一旦用户设定了强度,游戏将调整传感输出以便适应所选择水平。例如,如果用户想要平均强度,与高于平均的强度相关联的游戏活动将被消除或被转变以递送期望强度。
图9A是根据一个实施方案的用于基于多个强度因素计算游戏强度的流程图。虽然顺序地呈现并描述了这个图表中的各种操作,但普通技术人员将理解:所述操作中的一些或全部可按不同次序执行、组合起来或省略掉、或并行地执行。
在一个实施方案中,基于多个因素动态地计算HMD所递送的强度I。每个因素有助于关于在给定时间提供的强度的水平进行确定。
确定强度的因素可包括以下各项中的一项或多项:用户的物理表示、用于选择强度的用户输入、游戏的用户配置、玩打游戏时的用户输入的速率(例如,迅速推动控制器上的按钮可指示:用户正完全忙于游戏并采取高强度阶段)、虚拟世界的不同区域和不同活动的游戏限定的强度水平、用户的简档、来自其他用户的强度等级等。
在一个实施方案中,在操作902中跟踪用户活动。所述方法从操作902进行到操作904,在操作904中,进行检查以确定用户是否处于压力下(例如,通过反常地移动)。如果用户未处于压力下,所述方法往回进行到操作902,并且如果用户处于压力下,所述方法进行到操作906,在操作906中,向用户提供警告。所述方法从操作906进行到操作908,在操作908中,提示908用户:用户是否希望停止游戏或当前活动。如果用户想要停止,所述方法进行到操作910,在操作910中,发起离开规程。然而,如果用户不希望停止,所述方法进行到操作912,在操作912中,基于所观察到的用户物理活动调整强度因素i1
关于强度因素i2,在操作914中,计算机程序等待关于强度设置的用户输入。在操作916中,检测用户强度输入i,并且所述方法从操作916进行到操作918,在操作918中,基于用户强度输入调整强度因素i2。例如,如果用户感觉到被压倒,用户可以说出“降低强度”,从而引起游戏降低强度水平。
关于强度因素i3,在操作920中,跟踪或监测用户输入的速率。在一个实施方案中,用户输入的速率被计算为每分钟(或持续一些其他时段,像5秒)在控制器上推动的数目,并且在另一个实施方案中,用户输入的速率是基于所推动的按钮和所发出的言语命令(例如,每时间段按钮推动和所发出的言语命令的数目)。
所述方法从操作920进行到操作922,在操作922中,基于在操作920中确定的用户输入的速率调整强度因素i3
关于强度因素i4,在操作924中,基于当前游戏状态的开发者限定的强度水平确定强度因素i4。游戏状态可基于以下各项中的一项或多项:虚拟世界中的位置、正在发生的游戏活动、玩家已经沉浸在虚拟世界中的时间量、玩家的经验等。
在操作926中,基于在操作912、918、922和924中确定的多个强度因素(即,i1、i2、i3和i4)计算当前游戏状态的全球强度值I。在操作928中,将所计算强度值I存储在存储器中。
应注意,图9A所展示的实施方案是示例性的。其他实施方案可利用不同强度因素或不同数目的强度因素。因此,图9A所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图9B是根据一个实施方案的用于设定用于离开用头戴式显示器(HMD)玩打的游戏的离开战略的流程图。虽然顺序地呈现并描述了这个图表中的各种操作,但普通技术人员将理解:所述操作中的一些或全部可按不同次序执行、组合起来或省略掉、或并行地执行。
在操作942中,检测离开请求(例如,用户选择暂停或结束游戏的选项或者取下HMD的选项)。所述方法从操作942进行到操作944,在操作944中,游戏基于不同游戏参数标识当前游戏状态,如以上所讨论。所述方法从操作944进行到操作946,在操作946中,基于从多个用户获得的用户简档、游戏状态以及当前游戏状态的用户强度等级来确定当前个人强度I。当前个人强度I被限定为由HMD产生的传感输出强度的当前值。
所述方法从操作946进行到操作948,在操作948中,基于用户的当前强度水平和其他离开因素(诸如参考图9A所讨论的因素)限定离开策略。所述方法从操作948进行到操作950,在操作950中,游戏基于离开策略转变以使玩家适应离开(参看例如以上参考图3A-3C所描述的转变)。
当玩家在操作950中转变出来之后,所述方法进行到操作952,在操作952中,向用户提供通知:离开过程完成并且用户现在可取下HMD。
图9C是根据一个实施方案的用于向正用HMD玩打游戏的用户呈现强度数据的流程图。虽然顺序地呈现并描述了这个图表中的各种操作,但普通技术人员将理解:所述操作中的一些或全部可按不同次序执行、组合起来或省略掉、或并行地执行。
在操作962中,标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态。所述方法从操作962进行到操作964,在操作964中,基于从用户对游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值。用户强度等级表示在用户对游戏的玩打过程中通过用户的HMD向相应用户呈现的传感刺激的水平。
所述方法从操作964进行到操作966,用于向HMD呈现游戏强度值以便在游戏的执行过程中显现。在一个实施方案中,所述方法的操作由处理器执行。
图10展示可用于实现实施方案的装置的架构。头戴式显示器是计算装置并且包括常存在于计算装置上的模块,诸如处理器804、存储器816(RAM、ROM等)、一个或多个电池806或其他电源以及永久存储设备848(诸如硬盘)。
通信模块允许HMD与其他便携式装置、其他计算机、其他HMD、服务器等交换信息。通信模块包括通用串行总线(USB)连接器846、通信链路852(诸如以太网)、超声通信856、蓝牙858和WiFi 854。
用户接口包括用于输入和输出的模块。输入模块包括输入按钮、传感器和开关810、麦克风832、触敏屏幕(未示出,可用于配置或初始化HMD)、前摄像机840、后摄像机842、凝视跟踪摄像机844。其他输入/输出装置、诸如键盘或鼠标还可通过通信链路、诸如USB或蓝牙连接到便携式装置。
输出模块包括用于在用户的眼睛前面显现图像的显示器814。一些实施方案可包括一个显示器、两个显示器(每只眼睛一个)、微型投影仪或其他显示技术。其他输出模块包括发光二极管(LED)834(还可用于HMD的视觉跟踪)、振动-触觉反馈850、扬声器830和声音定位模块812,所述声音定位模块812针对将要递送到扬声器或耳机的声音执行声音定位,从而提供在HMD中显现或显示的对象的3D声音模拟以提供实时3D效应声音。其他输出装置、诸如耳机还可通过通信模块连接到HMD。
可被包括以促进运动跟踪的元件包括LED 834、用于视觉识别的一个或多个对象836以及红外灯838。
来自不同装置的信息可由位置模块828使用来计算HMD的位置。这些模块包括磁力计818、加速度计820、陀螺仪822、全球定位系统(GPS)模块824以及罗盘826。另外,位置模块可分析用摄像机和麦克风捕获的声音或图像数据以计算位置。再有,位置模块可执行确定便携式装置的位置或附近的其他装置的位置的测试,诸如WiFi ping测试或超声测试。
虚拟现实发生器808使用由位置模块计算的位置如先前所描述地创建虚拟或增强现实。虚拟现实发生器808可与其他计算装置(例如,游戏控制台、互联网服务器等)协作以生成用于显示模块814的图像。远程装置可发送用于在屏幕上创建游戏对象的屏幕更新或指令。
HMD 802可用于玩打游戏,如以上所讨论,或者用于任何其他沉浸式体验。在一个实施方案中,HMD用于对现实世界位置、诸如酒店进行虚拟审查。这样,考虑是否要到某一酒店的用户可用HMD进行虚拟旅行,以检查酒店设施和住宿。在一个实施方案中,如果用户喜欢酒店,用户还可在虚拟旅行过程中通过访问提供价格、选择和可用日期的菜单来预订酒店。
在另一个实施方案中,HMD可用于购物,诸如通过用HMD游历实体商店或虚拟商店。当用户在商店中四处移动时,用户能够检查不同物品(例如,待售制品)。如果用户想要购买一个或多个物品,菜单被提供以用于给所希望制品结账(例如,虚拟结账)。
在另一个实施方案中,虚拟旅行可用于虚拟旅游,从而允许佩戴HMD的用户游历全世界的不同位置(例如,中国长城、金门大桥、埃菲尔铁塔等)。可提供允许用户进行游历预订以视察所希望位置的选项。
在一个实施方案中,HMD用于教育。使用HMD,学生可访问沉浸在虚拟现实中的虚拟课程,或者学生可在教室环境中访问课堂材料。例如,我们的学生可与提供有关不同艺术作品的描述的教师一起游历虚拟博物馆。在一个实施方案中,HMD的视图由教师设定,并且学生游历与教师共享相同图像的虚拟世界。这样,在教师给予演讲的时候,学生可能不会好奇并视察博物馆的其他区域。
在一个实施方案中,用于虚拟现实发生器的显现引擎利用对用户运动的前向预测,所述前向预测预测用户将视察虚拟世界的哪些部分。例如,如果用户开始向右转头,显现引擎将开始生成到当前视图右侧的数据,假设用户将继续向右转。另外,显现引擎可向右侧上的图像提供比左侧上的图像更高的分辨率,因为用户正将她的注意力朝右转。
在一个实施方案中,应用程序编程接口(API)被提供以供开发者访问HMD的功能性。API可被提供用于在HMD上执行程序,以及用于访问HMD内的功能性的远程调用。另外,API可提供用于访问与HMD相关联的另一个装置的接口,所述另一个装置诸如与HMD通信的游戏控制台,或与HMD对接的任何其他装置(例如,连接到游戏控制台的摄像机,其跟踪佩戴HMD的用户的移动)。在一个实施方案中,软件开发工具包(SDK)被提供来辅助开发者创建采用API的功能性的应用程序。
应理解,图10所展示的实施方案是便携式装置的示例性实现方式。其他实施方案可利用不同模块、模块的子集,或者向不同模块分配相关任务。另外,HMD的元件可具有不同大小,其中一些HMD具有小型化部件以减小HMD的大小。在一个实施方案中,HMD可看起来像一对眼镜,其中虚拟或增强世界呈现在眼镜的玻璃上或投影到佩戴HMD的用户的视网膜上。因此,图10所展示的实施方案不应解释为是排他性或限制性的,而是示例性或说明性的。
图11是根据各种实施方案的游戏系统1100的方框图。游戏系统1100被配置来通过网络1115将视频流提供给一个或多个客户端1110。游戏系统1100通常包括视频服务器系统1120和任选的游戏服务器1125。视频服务器系统1120被配置来以最低的服务质量向一个或多个客户端1110提供视频流。例如,视频服务器系统1120可接收改变视频游戏的状态或所述视频游戏内的观看角度的游戏命令,并且以最小的滞后时间向客户端1110提供反映这种状态变化的更新后的视频流。视频服务器系统1120可被配置来以广泛多种替代视频格式提供视频流。
在本文中作为1110A、1110B等单独提及的客户端1110可包括头戴式显示器、终端、个人计算机、游戏控制台、平板计算机、电话、机顶盒、电话亭、无线装置、数字垫、独立装置、手持式游戏玩打装置和/或类似装置。通常,客户端1110被配置来接收编码的视频流,对视频流进行解码,并且将所得的视频呈现给用户,例如游戏玩家。接收编码的视频流和/或对视频流进行解码的过程通常包括将单独视频帧存储在客户端的接收缓冲器中。可以在与客户端1110成一体的显示器上或在诸如监测器或电视机等单独装置上将视频流呈现给用户。客户端1110任选地被配置来支持多于一个游戏玩家。例如,游戏控制台可被配置来支持两个、三个、四个或更多个同时的玩家。这些玩家中的每一个可接收单独的视频流,或单个视频流可包括针对每个玩家特别生成(例如,基于每个玩家的观看角度生成)的帧的区域。客户端1110任选地在地理上是分散的。游戏系统1100中所包括的客户端的数目可从一个或两个广泛变化到几千个、几万个或更多个。如本文所使用,术语“游戏玩家”用于指代玩打游戏的人,并且术语“玩游戏装置”用于指代用于玩打游戏的装置。在一些实施方案中,游戏玩打装置可以是指多个计算装置,其进行合作来向用户递送游戏体验。例如,游戏控制台或HMD可与视频服务器系统1120合作来递送通过HMD观看的游戏。在一个实施方案中,游戏控制台从视频服务器系统1120接收视频流,并且游戏控制台将视频流或对视频流的更新转发给HMD以便显现。
客户端1110被配置来通过网络1115接收视频流。网络1115可以是任何类型的通信网络,其包括电话网络、互联网、无线网络、电力线网络、局域网、广域网、私有网络和/或类似网络。在典型的实施方案中,通过诸如TCP/IP或UDP/IP的标准协议来传达视频流。或者,通过专有标准来传达视频流。
客户端1110的典型实例是个人计算机,其包括处理器、非易失性存储器、显示器、解码逻辑、网络通信能力以及输入装置。解码逻辑可包括存储在计算机可读介质上的硬件、固件和/或软件。用于解码(和编码)视频流的系统在本领域中是熟知的,并且根据所使用的具体编码方案而变化。
客户端1110可(但不需要)还包括被配置来用于修改接收到的视频的系统。例如,客户端可被配置来:执行进一步显现,将一个视频图像叠加在另一个视频图像上,修剪视频图像,和/或类似操作。例如,客户端1110可被配置来接收各种类型的视频帧,诸如I帧、P帧和B帧,并且被配置来将这些帧处理成图像以向用户显示。在一些实施方案中,客户端1110的构件被配置来对视频流执行进一步显现、阴影处理、转换成3-D、针对HMD光学器件的光学失真处理或类似操作。客户端1110的构件任选地被配置来接收多于一个的音频或视频流。客户端1110的输入装置可包括:例如,单手游戏控制器、双手游戏控制器、手势识别系统、凝视识别系统、语音识别系统、键盘、操纵杆、指向装置、力反馈装置、运动和/或位置传感装置、鼠标、触摸屏、神经接口、摄像机、尚未开发出的输入装置,和/或类似装置。
客户端1110所接收的视频流(和任选的音频流)是由视频服务器系统1120生成并提供。正如在本文其他地方进一步描述的,这个视频流包括视频帧(并且音频流包括音频帧)。视频帧(例如,它们在适当数据结构中包括像素信息)被配置来有意义地构成向用户显示的图像。如本文所使用,术语“视频帧”用于指代主要包括被配置来构成(例如,实现)向用户示出的图像的信息的帧。本文中关于“视频帧”的大部分教义也可适用于“音频帧”。
客户端1110通常被配置来从用户接收输入。这些输入可包括游戏命令,所述游戏命令被配置来改变视频游戏的状态或以其他方式影响游戏玩法。游戏命令可使用输入装置接收,和/或可由在客户端1110上执行的计算指令自动生成。接收到的游戏命令通过网络1115从客户端1110传达到视频服务器系统1120和/或游戏服务器1125。例如,在一些实施方案中,游戏命令通过视频服务器系统1120传达到游戏服务器1125。在一些实施方案中,游戏命令的单独拷贝从客户端1110传达到游戏服务器1125和视频服务器系统1120。游戏命令的传达任选地取决于命令的标识。游戏命令任选地通过用来向客户端1110A提供音频或视频流的不同路线或通信信道而从客户端1110A传达。
游戏服务器1125任选地由不同于视频服务器系统1120的实体来操作。例如,游戏服务器1125可由多玩家游戏发行商来操作。在这个实例中,视频服务器系统1120任选地被游戏服务器1125视为客户端,并且任选地被配置成从游戏服务器1125的角度看表现为执行现有技术游戏引擎的现有技术客户端。视频服务器系统1120与游戏服务器1125之间的通信任选地通过网络1115发生。因此,游戏服务器1125可以是向多个客户端发送游戏状态信息的现有技术多玩家游戏服务器,所述客户端中的一个是视频服务器系统1120。视频服务器系统1120可被配置来同时与游戏服务器1125的多个实例通信。例如,视频服务器系统1120可被配置来向不同用户提供多个不同视频游戏。这些不同视频游戏中的每一个可由不同游戏服务器1125支持和/或由不同实体发行。在一些实施方案中,视频服务器系统1120的若干地理上分布式实例被配置来向多个不同用户提供游戏视频。视频服务器系统1120的这些实例中的每一个可与游戏服务器1125的同一实例通信。视频服务器系统1120与一个或多个游戏服务器1125之间的通信任选地通过专用通信信道发生。例如,视频服务器系统1120可通过高带宽信道连接到游戏服务器1125,所述高带宽信道专门用于这两个系统之间的通信。
视频服务器系统1120至少包括:视频源1130、I/O装置1145、处理器1150以及非暂态存储设备1155。视频服务器系统1120可包括一个计算装置或分布在多个计算装置当中。这些计算装置任选地通过诸如局域网的通信系统连接。
视频源1130被配置来提供视频流,例如,流式传输视频或形成运动图片的一系列视频帧。在一些实施方案中,视频源1130包括视频游戏引擎和显现逻辑。视频游戏引擎被配置来:从玩家接收游戏命令,并且基于接收到的命令维持视频游戏的状态的拷贝。这个游戏状态包括游戏环境中的对象的位置,以及典型地观看角度。游戏状态还可包括对象的性质、图像、颜色和/或纹理。游戏状态通常基于游戏规则以及游戏命令(诸如,移动、转动、攻击、设置焦点、互动、使用和/或类似命令)来维持。游戏引擎的部分任选地设置在游戏服务器1125内。游戏服务器1125可基于使用地理上分散的客户端从多个玩家接收到的游戏命令来维持游戏状态的拷贝。在这些情况下,游戏服务器1125将游戏状态提供给视频源1130,在视频源1130中,存储游戏状态的拷贝并且执行显现。游戏服务器1125可通过网络1115直接从客户端1110接收游戏命令,和/或可通过视频服务器系统1120接收游戏命令。
视频源1130通常包括显现逻辑,例如存储在计算机可读介质诸如存储设备1155上的硬件、固件和/或软件。这个显现逻辑被配置来基于游戏状态创建视频流的视频帧。显现逻辑的全部或部分任选地设置在图形处理单元(GPU)内。显现逻辑通常包括被配置用于确定对象之间的三维空间关系且/或用于基于游戏状态和观看角度来应用适当纹理等的处理级。显现逻辑产生原始视频,原始视频然后常常在传达给客户端1110之前被编码。例如,原始视频可根据Adobe标准、.wav、H.264、H.263、On2、VP6、VC-1、WMA、Huffyuv、Lagarith、MPG-x.、Xvid.、FFmpeg、x264、VP6-8、realvideo、mp3或类似标准来编码。编码过程产生视频流,所述视频流任选地被打包以便递送到远程装置上的解码器。视频流由帧大小和帧速率来表征。典型的帧大小包括800x 600、1280x 720(例如720p)、1024x 768,但是可使用任何其他帧大小。帧速率是每秒的视频帧数。视频流可包括不同类型的视频帧。例如,H.264标准包括“P”帧和“I”帧。I帧包括用来刷新显示装置上的全部宏块/像素的信息,而P帧包括用来刷新所述宏块/像素的子集的信息。P帧的数据大小通常小于I帧。如本文中所使用,术语“帧大小”意在指帧内的像素数。术语“帧数据大小”用来指代存储所述帧所需的字节数。
在替代实施方案中,视频源1130包括诸如摄像机的视频录制装置。此摄像机可用来生成可包括在计算机游戏的视频流中的延迟视频或实况视频。所得的视频流任选地包括所显现的图像和使用静态摄像机或视频摄像机录制的图像两者。视频源1130还可包括被配置来存储将要包括在视频流中的先前所录制视频的存储装置。视频源1130还可包括:被配置来检测对象(例如,人)的运动或位置的运动或定位传感装置;以及被配置来基于所检测运动和/或位置来确定游戏状态或产生视频的逻辑。
视频源1130任选地被配置来提供被配置来放在其他视频上的叠加。例如,这些叠加可包括命令界面、登入指令、发给游戏玩家的消息、其他游戏玩家的图像、其他游戏玩家的视频馈送(例如,网络摄像机视频)。在客户端1110A包括触摸屏界面或凝视检测界面的实施方案中,所述叠加可包括虚拟键盘、操纵杆、触摸板和/或类似物。在叠加的一个实例中,将玩家的语音叠加在音频流上。视频源1130任选地还包括一个或多个音频源。
在其中视频服务器系统1120被配置来基于来自多于一个玩家的输入来维持游戏状态的实施方案中,每个玩家可具有不同观看角度,观看角度包括观看的位置和方向。视频源1130任选地被配置来基于玩家的观看角度给每个玩家提供单独的视频流。此外,视频源1130可被配置来向客户端1110中的每一个提供不同的帧大小、帧数据大小和/或编码。视频源1130任选地被配置来提供3-D视频。
I/O装置1145被配置用于视频服务器系统1120,用来发送和/或接收信息,诸如视频、命令、对信息的请求、游戏状态、凝视信息、装置运动、装置位置、用户运动、客户端身份、玩家身份、游戏命令、安全信息、音频和/或类似信息。I/O装置1145通常包括通信硬件诸如网卡或调制解调器。I/O装置1145被配置来与游戏服务器1125、网络1115和/或客户端1110通信。
处理器1150被配置来执行本文中讨论的视频服务器系统1120的各种部件内所包括的逻辑,例如软件。例如,处理器1150可编程有软件指令,以便执行视频源1130、游戏服务器1125和/或客户端限定器1160的功能。视频服务器系统1120任选地包括处理器1150的多于一个实例。处理器1150还可编程有软件指令,以便执行视频服务器系统1120所接收的命令或协调本文中讨论的游戏系统1100的各种元件的操作。处理器1150可包括一个或多个硬件装置。处理器1150是电子处理器。
存储设备1155包括非暂态模拟和/或数字存储装置。例如,存储设备1155可包括被配置来存储视频帧的模拟存储装置。存储设备1155可包括计算机可读数字存储设备,例如,硬盘驱动器、光盘驱动器或固态存储设备。存储设备1115(例如,通过适当的数据结构或文件系统)被配置来存储视频帧、人工帧、包括视频帧和人工帧两者的视频流、音频帧、音频流和/或类似物。存储设备1155任选地分布在多个装置当中。在一些实施方案中,存储设备1155被配置来存储本文在其他地方所讨论的视频源1130的软件部件。这些部件可按在需要时随时可供应的格式来存储。
视频服务器系统1120任选地还包括客户端限定器1160。客户端限定器1160被配置用于远程确定诸如客户端1110A或1110B的客户端的能力。这些能力可包括客户端1110A本身的能力以及位于客户端1110A与视频服务器系统1120之间的一个或多个通信信道的能力两者。例如,客户端限定器1160可被配置来测试通过网络1115的通信信道。
客户端限定器1160可手动或自动地确定(例如,发现)客户端1110A的能力。手动确定包括:与客户端1110A的用户通信并询问用户提供能力。例如,在一些实施方案中,客户端限定器1160被配置来在客户端1110A的浏览器内显示图像、文本和/或类似物。在一个实施方案中,客户端1110A是包括浏览器的HMD。在另一实施方案中,客户端1110A是具有浏览器的游戏控制台,所述浏览器可显示在HMD上。所显示对象请求用户送入客户端1110A的信息,诸如操作系统、处理器、视频解码器类型、网络连接类型、显示器分辨率等。用户所送入的信息被传达回客户端限定器1160。
自动确定可例如通过在客户端1110A上执行代理程序和/或通过向客户端1110A发送测试视频来进行。代理程序可包括嵌入网页中或作为加载项安装的计算指令,诸如java脚本。代理程序任选地由客户端限定器1160提供。在各种实施方案中,代理程序可发现:客户端1110A的处理能力、客户端1110A的解码和显示能力、客户端1110A与视频服务器系统1120之间的通信信道的滞后时间可靠性和带宽、客户端1110A的显示器类型、客户端1110A上存在的防火墙、客户端1110A的硬件、在客户端1110A上执行的软件、客户端1110A内的注册表项和/或类似物。
客户端限定器1160包括存储在计算机可读介质上的硬件、固件和/或软件。客户端限定器1160任选地设置在与视频服务器系统1120的一个或多个其他元件分开的计算装置上。例如,在一些实施方案中,客户端限定器1160被配置来确定客户端1110与视频服务器系统1120的多于一个实例之间的通信信道的特性。在这些实施方案中,客户端限定器所发现的信息可用来确定视频服务器系统1120的哪个实例最适合于向客户端1110中的一个递送流式传输视频。
实施方案可通过各种计算机系统配置来实践,所述计算机系统配置包括手持式装置、微处理器系统、基于微处理器的或可编程的消费型电子器件、小型计算机、大型计算机等。实施方案也可在分布式计算环境中实践,其中由通过网络链接的远程处理装置执行任务。
考虑到以上实施方案,应理解,所述实施方案可采用涉及存储于计算机系统中的数据的各种计算机实施的操作。这些操作是需要对物理量进行物理操纵的操作。本文描述的形成实施方案的部分的任何操作都是有用的机器操作。实施方案还涉及用于执行这些操作的装置或设备。所述设备可特别地被构造用于所需目的,诸如专用计算机。当被限定为专用计算机时,计算机在仍能够操作用于专门用途的同时,还可执行不是专门用途的部分的其他处理、程序执行或例程。或者,操作可由通用计算机处理,所述通用计算机由存储在计算机存储器、高速缓存中或通过网络获得的一个或多个计算机程序选择性地激活或配置。当数据通过网络来获得时,数据可由网络上的其他计算机(例如,计算资源)的云处理。
一个或多个实施方案也可被制造为计算机可读介质上的计算机可读代码。计算机可读介质是可存储数据的任何数据存储装置,所述数据随后可由计算机系统读取。计算机可读介质的实例包括硬盘驱动器、网络附加存储设备(NAS)、只读存储器、随机存取存储器、CD-ROM、CD-R、CD-RW、磁带以及其他光学和非光学数据存储装置。计算机可读介质可包括分布在网络联接的计算机系统之上的计算机可读有形介质,使得计算机可读代码以分布式方式来存储和执行。
尽管以特定次序描述了方法操作,但应理解,可在操作之间执行其他内务处理操作,或者可以调整操作以使得它们在略微不同的时间发生,或者可以分布在系统中,所述系统允许处理操作以与所述处理相关联的各种时间间隔发生,只要叠加操作的处理以所需方式执行即可。
虽然为了清楚理解的目的而略微详细地描述了前述实施方案,但很显然,可以在所附权利要求的范围内实践某些变化和修改。因此,本发明的实施方案被认为是说明性的而非限制性的,并且实施方案不限于本文所给出的细节,而可在所附权利要求书的范围和等效物内进行修改。

Claims (25)

1.一种方法,其包括:
标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态;
基于从用户对所述游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值,所述用户强度等级表示在所述用户对所述游戏的玩打过程中通过用户的HMD向所述相应用户呈现的传感刺激的水平;以及
向所述HMD呈现所述游戏强度值以供在所述游戏的执行过程中显现,其中所述方法的操作由处理器执行。
2.如权利要求1所述的方法,其中所述用户强度等级是从对在所述用户玩打过程中所述游戏正递送的强度进行主观评级的用户来接收。
3.如权利要求1所述的方法,其中所述用户强度等级是基于所述相应用户在玩打所述游戏时的物理响应。
4.如权利要求3所述的方法,其中所述物理响应通过借助所述HMD中的摄像机监测所述用户的眼睛或者借助所述HMD中的惯性传感器跟踪HMD运动中的一项或多项来跟踪。
5.如权利要求3所述的方法,其中所述物理响应通过所述HMD外部的摄像机跟来踪,所述摄像机与同所述HMD通信的计算装置通信。
6.如权利要求1所述的方法,其中所述用户强度等级是基于以下各项中的一项或多项:当前游戏水平、或用户玩打历史、或用户年龄、或针对所述游戏状态的用户输入的速率。
7.如权利要求1所述的方法,其中确定所述游戏强度值还包括:
基于所述游戏中正在发生的游戏活动的类型标识针对所述游戏状态的游戏开发者强度设置中的一个或多个。
8.如权利要求1所述的方法,其中确定所述游戏强度值还包括:
计算与以下各项有关的参数的加权平均:由用户送入的强度输入、用户在玩打所述游戏时的物理响应、当前游戏水平、用户玩打历史、用户年龄、针对所述游戏状态的用户输入的速率、针对所述游戏状态的游戏开发者强度设置或正在发生的游戏活动的类型。
9.如权利要求1所述的方法,其中所述游戏状态包括由佩戴所述HMD的用户控制的化身在虚拟世界中的位置以及所述游戏中正由所述化身执行的活动。
10.如权利要求1所述的方法,其中呈现所述游戏强度值还包括:
呈现以下各项中的一项或多项:游戏强度条、或数值、或声音、或言语输出、或选自与相应游戏强度值相关联的多种颜色的颜色。
11.如权利要求1所述的方法,其中所述HMD的所述显示器上所呈现的视图包括以3D形式呈现的虚拟现实场景。
12.如权利要求1所述的方法,其还包括:
接收从所述游戏离开的命令;
基于所述游戏强度值确定离开策略;以及
基于所述离开策略转变所述HMD的显示器上所呈现的视图。
13.一种方法,其包括:
标识正被执行以供在头戴式显示器(HMD)上显示的游戏的游戏状态;
基于从用户对所述游戏的玩打获得的用户强度等级来确定所述游戏状态的总体游戏强度值,所述用户强度等级表示在所述用户对所述游戏的玩打过程中通过用户的HMD向所述相应用户呈现的传感刺激的水平;
基于玩打所述游戏的用户的简档标识所述用户的用户强度参数;以及
基于所述总体游戏强度值和所述用户强度参数调整向所述HMD呈现的多媒体内容的强度,其中所述方法的操作由处理器执行。
14.如权利要求13所述的方法,其中所述简档包括由所述用户为玩打所述游戏而配置的所希望强度水平。
15.如权利要求13所述的方法,其中所述简档包括所述用户的技术水平、关于所述用户的人口统计信息、社交链路、所述用户的游戏配置以及所述用户的玩打历史。
16.如权利要求13所述的方法,其中所述传感刺激包括以下各项中的一项或多项:所述显示器的变化速率、3D效应、声音、所述显示器上的图形元素的数目、所述HMD的震动、在所述显示器上移动的对象的数目或所显示颜色的数目。
17.如权利要求13所述的方法,其中调整所述多媒体内容的强度还包括:
基于所述用户的年龄确定强度约束的存在。
18.如权利要求13所述的方法,其还包括:
接收改变所述多媒体内容的强度的用户输入;以及
响应于所接收用户输入改变所述多媒体内容的强度。
19.一种头戴式显示器(HMD),其包括:
头部附接部分;
观看模块,其联接到所述头部附接部分,用于显现图像内容;
通信模块;以及
处理器,其被配置来执行游戏,其中所述处理器标识所述游戏的游戏状态,并且基于从用户对所述游戏的玩打获得的用户强度等级来确定所述游戏状态的游戏强度值,所述用户强度等级表示在所述用户对所述游戏的玩打过程中通过用户的HMD向所述相应用户呈现的传感刺激的水平,并且所述处理器还被配置来在所显现图像内容中呈现所述游戏强度值。
20.如权利要求19所述的头戴式显示器,其还包括:
一个或多个扬声器,其中所述处理器还被配置来基于所述游戏强度值调整通过所述一个或多个扬声器输出的声音。
21.如权利要求19所述的头戴式显示器,其还包括:
一个或多个惯性传感器,其用于跟踪所述HMD的运动。
22.如权利要求19所述的头戴式显示器,其还包括:
一个或多个摄像机,其被配置来捕获佩戴所述HMD的用户的眼睛的图像,其中所述处理器基于对所捕获图像的图像分析跟踪佩戴所述HMD的所述用户的凝视。
23.一种头戴式显示器(HMD),其包括:
头部附接部分;
观看模块,其联接到所述头部附接部分,用于显现图像内容;
一个或多个摄像机,其设置在所述HMD中并且在用户佩戴所述HMD时朝向所述用户的眼睛的位置定向;
通信模块;以及
处理器,其被配置来执行管理所述图像内容的所述显现的代码,所述处理器还被配置来处理在由所述用户佩戴时的眼睛凝视信息,所述眼睛凝视信息用于估计所显现图像内容的强度。
24.如权利要求23所述的头戴式显示器,其还包括:
一个或多个惯性传感器,其用于跟踪所述HMD的运动,其中所述处理器还被配置来分析所述HMD的所述运动以改进对所述强度的所述估计。
25.如权利要求23所述的头戴式显示器,其中多个强度值在显现所述图像内容的同时被存储,每个强度值与估计所述强度值时的所述图像内容的相应时间间隔相关联。
CN201580042623.8A 2014-08-08 2015-07-20 头戴式显示器中的传感刺激管理 Active CN106659932B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201462035344P 2014-08-08 2014-08-08
US62/035,344 2014-08-08
US14/712,575 2015-05-14
US14/712,575 US9990774B2 (en) 2014-08-08 2015-05-14 Sensory stimulus management in head mounted display
PCT/US2015/041104 WO2016022279A2 (en) 2014-08-08 2015-07-20 Sensory stimulus management in head mounted display

Publications (2)

Publication Number Publication Date
CN106659932A true CN106659932A (zh) 2017-05-10
CN106659932B CN106659932B (zh) 2020-02-11

Family

ID=53783975

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580042623.8A Active CN106659932B (zh) 2014-08-08 2015-07-20 头戴式显示器中的传感刺激管理

Country Status (4)

Country Link
US (4) US9990774B2 (zh)
EP (1) EP3177376B1 (zh)
CN (1) CN106659932B (zh)
WO (1) WO2016022279A2 (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107551554A (zh) * 2017-09-29 2018-01-09 广州云友网络科技有限公司 基于虚拟现实的实现室内运动场景模拟系统和方法
CN108227921A (zh) * 2017-12-30 2018-06-29 北京工业大学 一种基于沉浸式虚拟现实设备的数字曾侯乙编钟交互系统
CN109529351A (zh) * 2018-11-19 2019-03-29 网易(杭州)网络有限公司 游戏中虚拟对象的行为能力控制方法、装置及存储介质
CN111095922A (zh) * 2017-09-14 2020-05-01 三星电子株式会社 电子设备及其操作方法
CN111413120A (zh) * 2020-03-27 2020-07-14 上海景和国际展览有限公司 一种基于树莓派的4d平台惯性检测系统
US11245887B2 (en) 2017-09-14 2022-02-08 Samsung Electronics Co., Ltd. Electronic device and operation method therefor
US20230005262A1 (en) * 2019-11-25 2023-01-05 Alon Melchner System and method for dynamic synchronization between real and virtual environments

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9358461B2 (en) * 2012-12-26 2016-06-07 Sony Interactive Entertainment America Llc Systems and methods for ranking of cloud executed mini-games based on tag content and social network content
US9898865B2 (en) * 2015-06-22 2018-02-20 Microsoft Technology Licensing, Llc System and method for spawning drawing surfaces
JP6504453B2 (ja) * 2015-07-01 2019-04-24 カシオ計算機株式会社 画像送信装置、画像送信方法及びプログラム
US10149958B1 (en) * 2015-07-17 2018-12-11 Bao Tran Systems and methods for computer assisted operation
US10213688B2 (en) * 2015-08-26 2019-02-26 Warner Bros. Entertainment, Inc. Social and procedural effects for computer-generated environments
US10511895B2 (en) * 2015-10-09 2019-12-17 Warner Bros. Entertainment Inc. Cinematic mastering for virtual reality and augmented reality
US10962780B2 (en) * 2015-10-26 2021-03-30 Microsoft Technology Licensing, Llc Remote rendering for virtual images
CN109196447B (zh) * 2016-03-31 2022-06-17 奇跃公司 使用姿势和多dof控制器与3d虚拟对象的交互
US10068553B2 (en) * 2016-09-12 2018-09-04 Intel Corporation Enhanced rendering by a wearable display attached to a tethered computer
JP6373920B2 (ja) 2016-09-14 2018-08-15 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム
JP6298130B2 (ja) * 2016-09-14 2018-03-20 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム
CN111610858B (zh) * 2016-10-26 2023-09-19 创新先进技术有限公司 基于虚拟现实的交互方法及装置
CN109890472A (zh) * 2016-11-14 2019-06-14 华为技术有限公司 一种图像渲染的方法、装置及vr设备
CN108509824B (zh) * 2017-02-24 2020-08-18 亮风台(上海)信息科技有限公司 基于ar设备的物品特征标识方法以及检查物品的系统
EP3367215B1 (en) * 2017-02-27 2019-09-18 LG Electronics Inc. Electronic device for providing virtual reality content
IL251189A0 (en) * 2017-03-15 2017-06-29 Ophir Yoav Gradual transition between two-dimensional and three-dimensional augmented reality simulations
EP3599536A4 (en) * 2017-03-21 2020-04-08 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM
US10222860B2 (en) * 2017-04-14 2019-03-05 International Business Machines Corporation Enhanced virtual scenarios for safety concerns
US11068058B2 (en) 2017-07-11 2021-07-20 Htc Corporation Control method and immersive system for generating haptic feedback
US11113887B2 (en) * 2018-01-08 2021-09-07 Verizon Patent And Licensing Inc Generating three-dimensional content from two-dimensional images
EP3751422A4 (en) * 2018-02-07 2021-04-21 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND PROGRAM
US10726765B2 (en) 2018-02-15 2020-07-28 Valve Corporation Using tracking of display device to control image display
JP2019152980A (ja) * 2018-03-01 2019-09-12 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US10755486B2 (en) * 2018-04-19 2020-08-25 Disney Enterprises, Inc. Occlusion using pre-generated 3D models for augmented reality
US20200211295A1 (en) * 2018-11-09 2020-07-02 Edx Technologies, Inc. Methods and devices for transitioning among realities mediated by augmented and/or virtual reality devices
US11934244B2 (en) * 2019-03-06 2024-03-19 Sony Interactive Entertainment Inc. Low battery switchover
US11056127B2 (en) 2019-04-30 2021-07-06 At&T Intellectual Property I, L.P. Method for embedding and executing audio semantics
US11315326B2 (en) * 2019-10-15 2022-04-26 At&T Intellectual Property I, L.P. Extended reality anchor caching based on viewport prediction
US20230073281A1 (en) * 2020-02-28 2023-03-09 The Regents Of The University Of California Methods and Systems for Difficulty-Adjusted Multi-Participant Interactivity
CN112704876B (zh) * 2020-12-30 2022-10-04 腾讯科技(深圳)有限公司 虚拟对象互动模式的选择方法、装置、设备及存储介质
US11731048B2 (en) 2021-05-03 2023-08-22 Sony Interactive Entertainment LLC Method of detecting idle game controller
CN117396254A (zh) * 2021-05-28 2024-01-12 微软技术许可有限责任公司 提供用于无干扰的在线游戏体验的个性化内容
CN113713390B (zh) * 2021-09-14 2023-03-21 北京字跳网络技术有限公司 一种交互方法、装置以及计算机存储介质
US11964197B2 (en) * 2021-09-16 2024-04-23 Voyetra Turtle Beach, Inc. Video game controller with performance tracking
US11967147B2 (en) * 2021-10-01 2024-04-23 At&T Intellectual Proerty I, L.P. Augmented reality visualization of enclosed spaces
WO2023182667A1 (ko) * 2022-03-21 2023-09-28 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
US20230381649A1 (en) * 2022-05-27 2023-11-30 Sony Interactive Entertainment LLC Method and system for automatically controlling user interruption during game play of a video game
US20240203066A1 (en) * 2022-09-23 2024-06-20 Apple Inc. Methods for improving user environmental awareness

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130215147A1 (en) * 2012-02-17 2013-08-22 Esight Corp. Apparatus and Method for Enhancing Human Visual Performance in a Head Worn Video System
CN103383491A (zh) * 2013-07-03 2013-11-06 成都理想境界科技有限公司 一种视透率可调的头戴显示装置
CN103501868A (zh) * 2011-04-28 2014-01-08 微软公司 对分开的计算机游戏元素的控制
CN103559256A (zh) * 2013-11-01 2014-02-05 百度在线网络技术(北京)有限公司 通过头戴式设备管理多媒体日志的方法、装置和系统
US20140130126A1 (en) * 2012-11-05 2014-05-08 Bjorn Markus Jakobsson Systems and methods for automatically identifying and removing weak stimuli used in stimulus-based authentication

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6854089B1 (en) * 1999-02-23 2005-02-08 International Business Machines Corporation Techniques for mapping graphical user interfaces of applications
US20050246638A1 (en) 2004-04-30 2005-11-03 Microsoft Corporation Presenting in-game tips on a video game system
US9108108B2 (en) 2007-09-05 2015-08-18 Sony Computer Entertainment America Llc Real-time, contextual display of ranked, user-generated game play advice
US10786736B2 (en) 2010-05-11 2020-09-29 Sony Interactive Entertainment LLC Placement of user information in a game space
US9304319B2 (en) * 2010-11-18 2016-04-05 Microsoft Technology Licensing, Llc Automatic focus improvement for augmented reality displays
US8423892B1 (en) * 2011-04-13 2013-04-16 Zynga Inc. System and method for monitoring player interactions with branded virtual objects in a virtual environment
CN104274971B (zh) * 2013-07-12 2019-08-13 富泰华工业(深圳)有限公司 游戏控制系统及方法
US20150031426A1 (en) * 2013-07-25 2015-01-29 Ross Alloway Visual Information Targeting Game
US9630105B2 (en) 2013-09-30 2017-04-25 Sony Interactive Entertainment Inc. Camera based safety mechanisms for users of head mounted displays
US20150119130A1 (en) * 2013-10-31 2015-04-30 Microsoft Corporation Variable audio parameter setting

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103501868A (zh) * 2011-04-28 2014-01-08 微软公司 对分开的计算机游戏元素的控制
US20130215147A1 (en) * 2012-02-17 2013-08-22 Esight Corp. Apparatus and Method for Enhancing Human Visual Performance in a Head Worn Video System
US20140130126A1 (en) * 2012-11-05 2014-05-08 Bjorn Markus Jakobsson Systems and methods for automatically identifying and removing weak stimuli used in stimulus-based authentication
CN103383491A (zh) * 2013-07-03 2013-11-06 成都理想境界科技有限公司 一种视透率可调的头戴显示装置
CN103559256A (zh) * 2013-11-01 2014-02-05 百度在线网络技术(北京)有限公司 通过头戴式设备管理多媒体日志的方法、装置和系统

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111095922A (zh) * 2017-09-14 2020-05-01 三星电子株式会社 电子设备及其操作方法
CN111095922B (zh) * 2017-09-14 2021-11-05 三星电子株式会社 电子设备及其操作方法
US11245887B2 (en) 2017-09-14 2022-02-08 Samsung Electronics Co., Ltd. Electronic device and operation method therefor
CN107551554A (zh) * 2017-09-29 2018-01-09 广州云友网络科技有限公司 基于虚拟现实的实现室内运动场景模拟系统和方法
CN108227921A (zh) * 2017-12-30 2018-06-29 北京工业大学 一种基于沉浸式虚拟现实设备的数字曾侯乙编钟交互系统
CN109529351A (zh) * 2018-11-19 2019-03-29 网易(杭州)网络有限公司 游戏中虚拟对象的行为能力控制方法、装置及存储介质
CN109529351B (zh) * 2018-11-19 2023-03-24 网易(杭州)网络有限公司 游戏中虚拟对象的行为能力控制方法、装置及存储介质
US20230005262A1 (en) * 2019-11-25 2023-01-05 Alon Melchner System and method for dynamic synchronization between real and virtual environments
CN111413120A (zh) * 2020-03-27 2020-07-14 上海景和国际展览有限公司 一种基于树莓派的4d平台惯性检测系统

Also Published As

Publication number Publication date
WO2016022279A3 (en) 2016-03-31
US20160042566A1 (en) 2016-02-11
WO2016022279A2 (en) 2016-02-11
US11037371B2 (en) 2021-06-15
US20200098193A1 (en) 2020-03-26
CN106659932B (zh) 2020-02-11
US20180293803A1 (en) 2018-10-11
US20210312717A1 (en) 2021-10-07
EP3177376B1 (en) 2019-10-30
US10489983B2 (en) 2019-11-26
EP3177376A2 (en) 2017-06-14
US9990774B2 (en) 2018-06-05

Similar Documents

Publication Publication Date Title
CN106659932A (zh) 头戴式显示器中的传感刺激管理
US11176731B2 (en) Field of view (FOV) throttling of virtual reality (VR) content in a head mounted display
TWI786701B (zh) 用於在hmd環境中利用傳至gpu之預測及後期更新的眼睛追蹤進行快速注視點渲染的方法及系統以及非暫時性電腦可讀媒體
KR102506504B1 (ko) 인공 지능을 사용하는 음성 지원 시스템
US20230414899A1 (en) Classifying a discomfort level of a user when interacting with virtual reality (vr) content
JP6408629B2 (ja) ヘッドマウントディスプレイでユーザーの動きに応答する画像レンダリング
CN107683166B (zh) 用于限制头戴式显示器上的视觉活动的过滤和父母控制方法
JP2021524102A (ja) 予測サッカード着地点に基づく動的グラフィックスレンダリング
CN107735152A (zh) 用于虚拟现实(vr)观看的扩展视野重新渲染
CN109314800A (zh) 用于将用户注意力引导到基于位置的游戏进行伴随应用的方法和系统
US20230345084A1 (en) System, method, and program for distributing video
Duchowski Serious gaze
US11921918B2 (en) Heads up display in virtual reality
US20230381649A1 (en) Method and system for automatically controlling user interruption during game play of a video game
CN109417651A (zh) 使用基于位置的游戏配套应用程序生成挑战

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant