CN114761095A - 用于视频游戏和电子竞技的光场显示系统 - Google Patents

用于视频游戏和电子竞技的光场显示系统 Download PDF

Info

Publication number
CN114761095A
CN114761095A CN201980102729.0A CN201980102729A CN114761095A CN 114761095 A CN114761095 A CN 114761095A CN 201980102729 A CN201980102729 A CN 201980102729A CN 114761095 A CN114761095 A CN 114761095A
Authority
CN
China
Prior art keywords
holographic
display
gaming system
game
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980102729.0A
Other languages
English (en)
Inventor
B·E·比弗森
T·伯宁格
J·S·卡拉夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Light Field Lab Inc
Original Assignee
Light Field Lab Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Light Field Lab Inc filed Critical Light Field Lab Inc
Publication of CN114761095A publication Critical patent/CN114761095A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/27Output arrangements for video game devices characterised by a large display in a public venue, e.g. in a movie theatre, stadium or game arena
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an MPEG-stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/428Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/10Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images using integral imaging methods
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • G02B30/28Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays involving active lenticular arrays
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/1335Structural association of cells with optical devices, e.g. polarisers or reflectors
    • G02F1/133524Light-guides, e.g. fibre-optic bundles, louvered or jalousie light-guides
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H3/00Holographic processes or apparatus using ultrasonic, sonic or infrasonic waves for obtaining holograms; Processes or apparatus for obtaining an optical image from them

Abstract

一种光场(LF)显示系统实施全息视频游戏。所述LF显示系统包含显示全息游戏内容的LF显示器组合件。所述LF显示系统还可以包含:感觉反馈组合件,所述感觉反馈组合件通过投影超声波向用户提供触觉反馈;跟踪系统,所述跟踪系统可以跟踪用户的一个或多个身体部位;以及控制器,所述控制器执行游戏应用程序并且生成用于所述LF显示器组合件的显示指令。所述LF显示系统可以实施交互式视频游戏,所述交互式视频游戏跟踪玩家的身体部位并向所述玩家提供用于描绘游戏中交互,如爆炸或冲击的视觉反馈和触觉反馈两者。所述视频游戏可以被实施为LF游戏网络的一部分。

Description

用于视频游戏和电子竞技的光场显示系统
相关申请的交叉引用
本申请涉及国际申请第PCT/US2017/042275号、第PCT/US2017/042276号、第PCT/US2017/042418号、第PCT/US2017/042452号、第PCT/US2017/042462号、第PCT/US2017/042466号、第PCT/US2017/042467号、第PCT/US2017/042468号、第PCT/US2017/042469号、第PCT/US2017/042470号和第PCT/US2017/042679号,所有这些国际申请通过引用以其整体并入本文。
背景技术
本公开涉及视频游戏,并且更具体地涉及用于视频游戏的光场显示器。
常规视频游戏通常生成如计算机或电视屏幕等平面二维显示表面的内容,所述显示表面向玩家描绘游戏世界的一部分。所显示的游戏内容通常限于特定视点,如由玩家控制的游戏角色所观看的游戏世界的一部分。以这种方式在二维屏幕上显示游戏内容使向玩家和观看者提供的沉浸式和互动式体验的能力受到限制。类似地,在如可以由竞技场中的大量观众成员观看的大屏幕等二维表面上显示电子竞技(电竞(eSports))比赛的游戏内容还限制了游戏内容观看者的沉浸式体验。
发明内容
本公开引入了一种用于在呈现空间(例如,区域、家庭影院、如游戏厅或酒吧等公共场所等)中显示游戏应用程序的全息内容的光场(LF)显示系统。所述LF显示系统包含形成所述呈现空间中的表面(例如,壁、地板、桌面等)的LF显示模块,所述LF显示模块各自具有显示区域并且平铺在一起以形成无缝显示表面,所述无缝显示表面具有有效显示区域,所述有效显示区域比单个模块的面积更大。所述LF显示模块显示游戏应用程序的全息内容,使得所述呈现空间中的观看者可以感知所述游戏应用程序。
在一些实施例中,所述全息内容可以是由游戏应用程序在另一个呈现空间内产生、由内容创建系统创建以供在所述呈现空间中显示和/或从数据存储装置访问以供在所述呈现空间中显示的视频游戏数据的再现、转播或同播。所述全息内容可以由负责管理所述全息内容的数字权限的网络系统管理。例如,所述呈现空间中的观看者可以支付交易费用来访问用于在所述呈现空间中显示的全息内容。
在一些实施例中,所述LF显示系统包含跟踪系统,所述跟踪系统可以跟踪观看者身体运动或观看者对全息内容的响应。在一些实施例中,所述LF显示系统包含观看者概况分析系统,所述观看者概况分析系统可以存储所述全息内容的观看者的特征。所述跟踪系统和所述概况分析系统一起可以监测和存储所述呈现空间中的观看者的特征。创建以供在呈现空间中显示的全息内容可以基于所监测或所存储的信息中的任一种。在一些实施例中,所述LF显示系统可以含有感觉反馈系统,所述感觉反馈系统提供增强所述全息内容的其它感觉刺激,如触觉表面投影或使用超声能的压力波。
在一些实施例中,用户可以与所述全息内容交互,并且所述交互可以充当全息内容创建系统的输入。例如,所述LF显示系统可以用于实施全息视频游戏。所述跟踪系统跟踪所述用户的身体部位(如所述用户的躯干或手)中的一个或多个身体部位的真实世界定位,并且视频游戏应用程序基于所跟踪的身体部位的所述真实世界定位确定在游戏世界中的游戏中定位。所述视频游戏应用程序处理发生在所述游戏世界中的所述游戏中定位处的游戏中交互。所述游戏中交互可以是例如游戏中对象与所述游戏中定位处的游戏角色之间的碰撞,或者爆炸半径涵盖所述游戏中定位的爆炸。LF显示器组合件显示描绘所述游戏中交互的全息内容,并且感觉反馈组合件发出表示所述游戏中交互的超声波压力波。
附图说明
图1是根据一个或多个实施例的呈现全息对象的光场显示模块的图。
图2A是根据一个或多个实施例的光场显示模块的一部分的横截面。
图2B是根据一个或多个实施例的光场显示模块的一部分的横截面。
图3A是根据一个或多个实施例的光场显示模块的透视图。
图3B是根据一个或多个实施例的包含交织的能量中继装置的光场显示模块的横截面视图。
图4A是根据一个或多个实施例的以二维方式平铺以形成单面无缝表面环境的光场显示系统的一部分的透视图。
图4B是根据一个或多个实施例的在多面无缝表面环境中的光场显示系统的一部分的透视图。
图4C是根据一个或多个实施例的具有处于翼状配置的聚合表面的光场显示系统的俯视图。
图4D是根据一个或多个实施例的具有处于倾斜配置的聚合表面的光场显示系统的侧视图。
图4E是根据一个或多个实施例的在房间的前壁上具有聚合表面的光场显示系统的俯视图。
图4F是根据一个或多个实施例的在房间的前壁上具有聚合表面的LF显示系统的侧视图的侧视图。
图5A是根据一个或多个实施例的光场显示系统的框图。
图5B展示了根据一个或多个实施例的示例LF电影游戏网络。
图6A-6B展示了根据一些示例实施例的内置在房间中的LF游戏系统。
图7展示了根据一个或多个实施例的桌面LF游戏系统。
图8是展示了根据一个或多个实施例的用于实施采用LF显示系统的全息视频游戏的方法的流程图。
图9展示了根据一个或多个实施例的包含用于显示全息视频游戏内容的LF显示系统的竞技场的横截面。
图10展示了根据一个或多个实施例的内置到桌子中的LF显示系统。
图11是展示了根据一个或多个实施例的用于实施全息电子竞技比赛的过程的流程图。
具体实施方式
概述
在游戏应用程序的呈现空间中实施光场(LF)显示系统。LF显示系统被配置成将由游戏应用程序生成的视频游戏数据以全息内容的形式呈现。例如,游戏应用程序可以是第三人称动作冒险视频游戏、竞技视频游戏、棋盘游戏的数字实现或一些其它游戏应用程序。LF显示系统包括被配置成呈现包含一个或多个全息对象的全息内容的LF显示器组合件,所述全息对象将对LF显示系统的视见体中的一个或多个观看者可见。全息对象可以是视频游戏数据和/或视频游戏内容,并且可以包含虚拟玩家、设置、场景、图形信息、游戏状态信息等。LF显示器组合件可以在呈现空间中的一个或多个表面(例如,场)中的一些或全部表面上方形成多边无缝表面。LF显示系统可以将全息内容呈现给呈现空间中的观看者。观看者通常位于呈现空间中,但可以是处于可以观看呈现空间中的全息内容的位置的任何人。此外,虽然在本文中通常被称为“观看者”,但观看者还可以是与生成可以表示为呈现空间中的全息内容的视频游戏数据的游戏应用程序交互(例如,观看游戏应用程序、执行游戏应用程序、输入到游戏应用程序、从游戏应用程序接收输出等)的任何人。
全息内容的全息对象还可以通过其它感觉刺激(例如,触觉和/或音频)增强。例如,LF显示系统中的超声发射器可以发射超声压力波,所述超声压力波为全息对象中的一些或全部全息对象提供触觉表面。全息内容可以包含另外的视觉内容(即,2D或3D视觉内容)。在多个发射器实施中,协调发射器以确保启用凝聚性体验是系统的一部分(即,全息对象在任何给定的时间点提供正确的触觉感受和感觉刺激)。
在一些实施例中,LF显示系统包含在呈现空间中形成游戏显示区域(例如,游戏设置、虚拟世界的表示、玩家或观察者在游戏中体验到的场景等)的多个LF显示模块。形成游戏显示区域的LF显示模块可被配置成将游戏应用程序的全息内容投影到呈现空间内的LF显示器的视见体中的观看者。在本公开中,假设“呈现空间中的观看者”是指呈现空间内的LF显示系统的视见体之一中的观看者。视见体在以下更详细地描述。以这种方式,呈现空间中的观看者可以在游戏显示区域中感知由游戏应用程序生成的全息视频游戏数据。例如,LF显示系统可以显示多玩家在线战斗竞技场游戏、大逃杀游戏、实时战略游戏、模拟游戏或与游戏应用程序相关联的任何其它内容中的人物。在一些实施例中,LF显示系统可以创建用于显示给呈现空间中的观看者的全息内容。例如,LF显示系统可以在呈现空间中创建扩展虚拟设置,所述扩展虚拟设置增加了在游戏显示区域中呈现的全息视频游戏数据的体验。在一实施例中,呈现空间再现体育竞技场的一部分。在一实施例中,呈现空间可以位于竞技场中,或者可以位于酒吧、家庭娱乐系统、桌面呈现系统或公共呈现系统中。
在一些实施例中,LF显示系统可以包含使得系统能够发出至少一种类型的能量,并且同时吸收至少一种类型的能量(用于创建全息内容)的元件。例如,LF显示系统可以发出用于观看的全息对象,以及用于产生用于触觉感知的触觉表面的超声波两者。同时,LF显示系统可以吸收用于跟踪观看者和用于其它场景分析的成像信息和用于检测用户做出的触摸响应的超声波。作为实例,此系统可以投影被扔到呈现空间中的观众中的全息球。当观看者虚拟“触摸到”全息球时,LF显示系统给观看者带来球在他们手中的错觉,并且可以同时投影与球的表面重合的触觉表面以使观看者感觉到全息球的存在。执行环境的能量感测的显示系统组件可以通过发出能量并吸收能量的双向能量元件集成到显示表面中,或者所述显示系统组件可以是与显示表面分离的专用传感器。例如,LF显示系统可以包含与显示表面分离的专用超声换能器和图像捕获装置。
LF显示系统可以是LF游戏应用程序网络的一部分。LF游戏应用程序网络允许将LF数据记录在一个位置(例如,第一竞技场)、编码、传输到不同位置(例如,第二竞技场)、解码并以全息内容的形式显示给呈现空间中位于不同位置中的观看者。这使多个位置中的观看者感知到不同位置中发生的实时游戏应用程序。在一些实施例中,LF显示系统包含管理全息内容的数字权限的网络系统。
光场显示系统
图1是根据一个或多个实施例的呈现全息对象120的光场(LF)显示模块110的图100。LF显示模块110是光场(LF)显示系统的一部分。LF显示系统使用一个或多个LF显示模块来呈现包含至少一个全息对象的全息内容。LF显示系统可以向一个或多个观看者呈现全息内容。在一些实施例中,LF显示系统还可以用其它感觉内容(例如,触摸、音频、气味、温度等)来增强全息内容。例如,如下文所讨论的,聚焦超声波的投影可以生成可以模拟全息对象中的一些或全部全息对象的表面的半空中触觉感觉。LF显示系统包含一个或多个LF显示模块110,并且在下文中关于图2-4详细地讨论。
LF显示模块110是向一个或多个观看者(例如,观看者140)呈现全息对象(例如,全息对象120)的全息显示器。LF显示模块110包含能量装置层(例如,发射电子显示器或声学投影装置)和能量波导层(例如,光学透镜阵列)。另外,LF显示模块110可以包含能量中继层,以用于将多个能量源或检测器组合在一起以形成单个表面。在高水平处,能量装置层生成能量(例如,全息内容),然后根据一个或多个四维(4D)光场函数使用能量波导层将所述能量引导到空间中的区域。LF显示模块110还可以同时投影和/或感测一种或多种类型的能量。例如,LF显示模块110可以能够在视见体中投影全息图像以及超声触觉表面,同时从视见体检测成像数据。LF显示模块110的操作在下文关于图2-3详细地讨论。
LF显示模块110使用一个或多个4D光场函数(例如,从全光函数派生)来在全息对象体160内生成全息对象。全息对象可以是三维(3D)、二维(2D)或其某种组合。此外,全息对象可以是多色的(例如,全色)。全息对象可以投影在屏幕平面前面、屏幕平面后面,或者被屏幕平面分开。可以呈现全息对象120,使得在全息对象体160内的任何地方都可以感知到所述全息对象。全息对象体160内的全息对象对观看者140来说可以看起来是漂浮在空间中的。
全息对象体160表示观看者140可以在其中感知全息对象的体。全息对象体160可以在显示区域150的表面前面延伸(即,朝向观看者140),使得全息对象可以呈现在显示区域150的平面前面。另外,全息对象体160可以在显示区域150的表面后面延伸(即,远离观看者140),从而允许将全息对象呈现为好像其在显示区域150的平面后面。换句话说,全息对象体160可以包含源自显示区域150的所有射线(例如,被投影),并且可以会聚以创建全息对象。本文中,射线可以会聚在显示表面前面、显示表面处或显示表面后面的点处。更简单地,全息对象体160涵盖观看者可以从中感知全息对象的所有体。
视见体130是空间的体,从所述空间可完全看到通过LF显示系统呈现在全息对象体160内的全息对象(例如,全息对象120)。可以将全息对象呈现在全息对象体160内,并在视见体130内对其进行观看,使得所述全息对象与实际对象没有区别。全息对象是通过投影与物理上存在时从对象表面生成的相同射线而形成的。
在一些情况下,全息对象体160和对应的视见体130可以相对较小-使得其被设计用于单个观看者,如在下文关于图10和11详细地描述。在其它实施例中,可以放大和/或平铺LF显示模块以创建更大的全息对象体和可以容纳大范围观看者(例如,1到数千个)的对应的视见体,如在下文关于例如图4A-4F、6A-6B、7A-7B、8和9A-9B详细地描述。可以构建本公开中所呈现的LF显示模块,使得LF显示器的整个表面含有全息成像光学装置,没有无效或死角空间,并且不需要边框。在这些实施例中,LF显示模块可以被平铺,使得成像区域在LF显示模块之间的接缝上是连续的,并且使用眼睛的视敏度几乎无法检测到平铺的模块之间的连接点。值得注意的是,在一些配置中,尽管在本文中不详细地描述,但是显示表面的一些部分可以不包含全息成像光学装置。
视见体130的柔性大小和/或形状允许观看者不受约束在视见体130内。例如,观看者140可以移动到视见体130内的不同定位,并且从对应的视角看到全息对象120的不同视图。为了说明,参考图1,观看者140相对于全息对象120位于第一定位,使得全息对象120看起来是海豚的正面视图。观看者140可以相对于全息对象120移动到其它位置以看到海豚的不同视图。例如,观看者140可以移动使得他/她看到海豚的左侧、海豚的右侧等,就非常像观看者140正在观看实际的海豚一样并且改变他/她与实际的海豚的相对定位以看到海豚的不同视图。在一些实施例中,全息对象120对于视见体130内的所有观看者可见,所有观看者到全息对象120的视线不受阻碍(即,未被对象/人阻挡)。这些观看者可以不受约束,使得其可以在视见体内四处移动以看到全息对象120的不同视角。因此,LF显示系统可以呈现全息对象,使得多个不受约束的观看者可以在现实世界空间中同时看到全息对象的不同视角,就好像全息对象是物理上存在的一样。
相比之下,常规显示器(例如,立体、虚拟现实、增强现实或混合现实)通常要求每个观看者穿戴某种外部装置(例如,3-D眼镜、近眼显示器或头戴式显示器)以看到内容。另外地和/或可替代地,常规的显示器可以要求观看者被约束到特定的观看位置(例如,在相对于显示器具有固定位置的椅子上)。例如,当观看由立体显示器示出的对象时,观看者总是聚焦在显示表面上,而不是聚焦在对象上,并且显示器将始终呈现对象的仅两个视图,所述视图将跟随试图在所述感知的对象周围移动的观看者,从而导致所述对象的感知失真。然而,利用光场显示器,通过LF显示系统呈现的全息对象的观看者不需要穿戴外部装置,也不必被限制在特定定位以看到全息对象。LF显示系统以观看者可见的方式呈现全息对象,与观看者可看见物理对象的方式几乎相同,而无需特殊的护目镜、眼镜或头戴式附件。进一步地,观看者可以从视见体内的任何位置观看全息内容。
值得注意的是,全息对象体160内的全息对象的潜在位置受体的大小的限制。为了增加全息对象体160的大小,可以增加LF显示模块110的显示区域150的大小和/或可以以形成无缝显示表面的方式将多个LF显示模块平铺在一起。无缝显示表面的有效显示区域大于各个LF显示模块的显示区域。与平铺LF显示模块有关的一些实施例在下文关于图4A-4F、6A-6B、7A-7B、8和9A-9B详细地描述。如图1所展示的,显示区域150是例如矩形的,从而导致全息对象体160是角锥形。在其它实施例中,显示区域可以具有某个其它形状(例如,六边形),这也影响对应的视见体的形状。
另外,尽管上文讨论聚焦于将全息对象120呈现在全息对象体160的位于LF显示模块110与观看者140之间的一部分内,但是LF显示模块110可以另外将内容呈现在显示区域150的平面后面的全息对象体160中。例如,LF显示模块110可以使显示区域150看起来是全息对象120正跳出的海洋表面。并且所显示的内容可以使得观看者140能够通过所显示的表面进行观看以看到水下的海洋生物。此外,LF显示系统可以生成在全息对象体160周围无缝地移动的内容,包含在显示区域150的平面后面和前面。
图2A展示了根据一个或多个实施例的LF显示模块210的一部分的横截面200。LF显示模块210可以是LF显示模块110。在其它实施例中,LF显示模块210可以是显示区域形状与显示区域150不同的另一LF显示模块。在所展示的实施例中,LF显示模块210包含能量装置层220、能量中继层230和能量波导层240。LF显示模块210的一些实施例具有与此处所描述的组件不同的组件。例如,在一些实施例中,LF显示模块210不包含能量中继层230。类似地,可以以与此处所描述的方式不同的方式在组件之间分配功能。
此处所描述的显示系统呈现了复制了现实世界中通常包围对象的能量的能量发射。此处,将发射的能量从显示表面上的每个坐标引导朝向特定的方向。换句话说,显示表面上的各个坐标充当发射的能量的投影位置。来自显示表面的朝向能量使许多能量射线汇聚,这由此可以创建全息对象。例如,对于可见光,LF显示器将从投影位置投影出非常多的可以会聚在全息对象体的任何点处的射线,因此从定位得比被投影的对象更远的观看者的视角看,所述射线似乎来自定位在此空间的区域中的真实对象的表面。以此方式,LF显示器生成了从观看者的视角离开此对象表面的反射射线。观看者视角可以在任何给定的全息对象上发生变化,并且观看者将看到所述全息对象的不同视图。
如本文所描述的,能量装置层220包含一个或多个电子显示器(例如,发射显示器,如OLED)和一个或多个其它能量投影和/或能量接收装置。一个或多个电子显示器被配置成根据显示指令(例如,来自LF显示系统的控制器)显示内容。一个或多个电子显示器包含多个像素,每个像素具有独立控制的强度。可以在LF显示器中使用许多类型的商用显示器,如发射LED和OLED显示器。
能量装置层220还可以包含一个或多个声学投影装置和/或一个或多个声学接收装置。声学声投影装置生成与全息对象250互补的一个或多个压力波。所生成的压力波可以是例如可听的、超声的或其某种组合。超声压力波的阵列可以用于体触觉感觉(例如,在全息对象250的表面处)。可听压力波用于提供可以补充全息对象250的音频内容(例如,沉浸式音频)。例如,假设全息对象250是海豚,则可以使用一个或多个声学投影装置来(1)生成与海豚的表面并置的触觉表面,使得观看者可以触摸全息对象250;并且(2)提供与海豚发出的响声(如咔哒声、唧喳声或吱吱)相对应的音频内容。声学接收装置(例如,麦克风或麦克风阵列)可以被配置成监测LF显示模块210的本地区域内的超声和/或可听压力波。
能量装置层220还可以包含一个或多个成像传感器。成像传感器可以对可见光波段中的光敏感,并且在一些情况下,可以对其它波段中的光(例如,红外)敏感。成像传感器可以是例如互补金属氧化物半导体(CMOS)阵列、电荷耦接装置(CCD)、光电检测器阵列、捕获光的某个其它传感器或其某种组合。LF显示系统可以使用由一个或多个成像传感器捕获的数据来用于定位跟踪观看者的位置。
在一些配置中,能量中继层230在能量装置层220与能量波导层240之间中继能量(例如,电磁能、机械压力波等)。能量中继层230包含一个或多个能量中继元件260。每个能量中继元件包含第一表面265和第二表面270,并且其在两个表面之间中继能量。每个能量中继元件的第一表面265可以耦接到一个或多个能量装置(例如,电子显示器或声学投影装置)。能量中继元件可以由例如玻璃、碳、光纤、光学膜、塑料、聚合物或其某种组合构成。另外,在一些实施例中,能量中继元件可以调整在第一表面265与第二表面270之间通过的能量的放大率(增加或减少)。如果中继器提供放大率,则中继器可以采取被称为锥体的粘合锥形中继器的阵列的形式,其中锥体的一端的面积可以基本上大于相对端的面积。锥体的大端可以粘合在一起以形成无缝能量表面275。一个优点在于每个锥体的多个小端上都创建了空间,以容纳多个能量的机械包膜,如多个显示器的边框。此另外的房间允许将能量源并排放置在小锥体侧上,其中每个能量源的有效区域将能量引导到小锥体表面中并中继到大无缝能量表面。使用锥形中继器的另一个优点是,在由锥体的大端形成的组合的无缝能量表面上没有非成像死空间。不存在边界或边框,并且因此然后可以根据眼睛的视敏度将无缝能量表面平铺在一起以形成几乎没有接缝的更大的表面。
相邻的能量中继元件的第二表面汇聚在一起以形成能量表面275。在一些实施例中,相邻的能量中继元件的边缘之间的间隔小于由具有例如20/40视力的人眼的视敏度所定义的最小可感知轮廓,使得能量表面275从视见体285内的观看者280的视角来看是有效地无缝的。
在一些实施例中,相邻的能量中继元件的第二表面与可以包含压力、热和化学反应中的一个或多个的处理步骤融合在一起,以这种方式在其之间不存在接缝。并且仍在其它实施例中,通过将连续的中继材料块的一侧模制成小锥体端的阵列来形成能量中继元件的阵列,每个能量中继元件被配置成将能量从附接到小锥形端的能量装置传输到面积较大的从未细分的单个组合表面。
在一些实施例中,能量中继元件中的一个或多个能量中继元件表现出能量局部化,其中在基本上法向于表面265和270的纵向方向上的能量传输效率远高于在垂直横向平面中的传输效率,并且其中在能量波在表面265与表面270之间传播时,能量密度在此横向平面中是高度局部的。能量的这种局部化使得能量分布(如图像)在这些表面之间高效地中继,而分辨率没有任何显著的损失。
能量波导层240使用能量波导层240中的波导元件将能量从能量表面275上的位置(例如,坐标)引导到从显示表面向外进入全息视见体285的特定能量传播路径。能量传播路径由至少由相对于波导的能量表面坐标位置确定的两个角度尺寸限定。波导与空间2D坐标相关联。这四个坐标一起形成一个四维(4D)能量场。作为实例,对于电磁能,能量波导层240中的波导元件将来自无缝能量表面275上的位置的光沿着不同的传播方向引导通过视见体285。在各个实例中,根据4D光场函数将光进行引导以在全息对象体255内形成全息对象250。
能量波导层240中的每个波导元件可以是例如由一个或多个元件构成的小透镜。在一些配置中,小透镜可以是正透镜。正透镜可以具有球形、非球形或自由形式的表面轮廓。另外,在一些实施例中,波导元件中的一些或全部波导元件可以包含一个或多个另外的光学组件。另外的光学组件可以是例如能量抑制结构,如挡板、正透镜、负透镜、球形透镜、非球形透镜、自由形式的透镜、液晶透镜、液体透镜、折射元件、衍射元件或其某种组合。在一些实施例中,小透镜和/或另外的光学组件中的至少一个能够动态地调整其光功率。例如,小透镜可以是液晶透镜或液体透镜。小透镜和/或至少一个另外的光学组件的表面轮廓的动态调整可以提供对从波导元件投影的光的另外的方向控制。
在所展示的实例中,LF显示器的全息对象体255具有由射线256和射线257形成的边界,但是可以由其它射线形成。全息对象体255是连续的在能量波导层240前面(即,朝向观看者280)和在其后面(即,远离观看者280)两者延伸的体。在所展示的实例中,用户可以感知的射线256和射线257以相对于显示表面277的法线的最大角度从LF显示模块210的相对边缘投影,但是射线可以是其它投影的射线。射线限定了显示器的视场,并因此限定了全息视见体285的边界。在一些情况下,射线限定了全息视见体,在所述全息视见体中可以在没有渐晕的情况下(例如,理想的视见体)观察整个显示器。随着显示器的视场增加,射线256和射线257的会聚点将更靠近显示器。因此,具有较大视场的显示器允许观看者280在更近的观看距离处看到整个显示器。另外,射线256和257可以形成理想的全息对象体。可以在视见体285中的任何地方看到以理想全息对象体呈现的全息对象。
在一些实例中,可以将全息对象呈现给视见体285的仅一部分。换句话说,全息对象体可以被划分成任何数量的视见子体(例如,视见子体290)。另外,可以将全息对象投影到全息对象体255的外部。例如,全息对象251呈现在全息对象体255之外。因为全息对象251呈现在全息对象体255之外,所以不能从视见体285中的每个位置对其进行观看。例如,全息对象251可以从视见子体290中的位置可见,但是从观看者280的位置不可见。
例如,转到图2B以展示从不同视见子体观看全息内容。图2B展示了根据一个或多个实施例的LF显示模块的一部分的横截面200。图2B的横截面与图2A的横截面相同。然而,图2B展示了从LF显示模块210投影的不同组射线。射线256和射线257仍形成全息对象体255和视见体285。然而,如所示的,从LF显示模块210的顶部投影的射线和从LF显示模块210的底部投影的射线重叠以在视见体285内形成各个视见子体(例如,视见子体290A、290B、290C和290D)。第一视见子体(例如,290A)中的观看者可以能够感知在全息对象体255中呈现的全息内容,其它视见子体(例如,290B、290C和290D)中的观看者则无法进行感知。
更简单地,如图2A所展示的,全息对象体255是其中全息对象可以通过LF显示系统呈现的体,使得所述全息对象可以被视见体285中的观看者(例如,观看者280)感知。以此方式,视见体285是理想视见体的实例,而全息对象体255是理想对象体的实例。然而,在各种配置中,观看者可以在其它示例全息对象体中感知通过LF显示系统200呈现的全息对象。更一般而言,当观看从LF显示模块投影的全息内容时,将应用“视线指南”。视线指南断言,由观看者的眼睛位置和正在被观看的全息对象形成的线必须与LF显示表面相交。
因为根据4D光场函数呈现了全息内容,因此当观看通过LF显示模块210呈现的全息内容时,观看者280的每只眼睛看到全息对象250的不同视角。此外,在观看者280在视见体285内移动时,他/她还将看到全息对象250的不同视角,如同在视见体285内的其它观看者一样。如本领域普通技术人员将意识到的,4D光场函数在本领域中是众所周知的,并且在本文中将不进一步详细说明。
如本文中更详细描述的,在一些实施例中,LF显示器可以投影多于一种类型的能量。例如,LF显示器可以投影两种类型的能量,例如,机械能和电磁能。在此配置中,能量中继层230可以包含两个单独的能量中继器,所述能量中继器在能量表面275处交织在一起,但是被分离使得能量被中继到两个不同的能量装置层220。此处,一个中继器可以被配置成传输电磁能,而另一个中继器可以被配置成传输机械能。在一些实施例中,机械能可以从能量波导层240上的电磁波导元件之间的位置投影,从而有助于形成抑制光从一个电磁波导元件传输到另一个的结构。在一些实施例中,能量波导层240还可以包含根据来自控制器的显示指令沿特定传播路径传输聚焦的超声的波导元件。
注意,在替代性实施例(未示出)中,LF显示模块210不包含能量中继层230。在这种情况下,能量表面275是使用能量装置层220内的一个或多个相邻电子显示器形成的发射表面。并且在一些实施例中,在没有能量中继层的情况下,相邻电子显示器的边缘之间的间隔小于由具有20/40视力的人眼的视敏度所定义的最小可感知轮廓,使得能量表面从视见体285内的观看者280的视角来看是有效地无缝的。
LF显示模块
图3A是根据一个或多个实施例的LF显示模块300A的透视图。LF显示模块300A可以是LF显示模块110和/或LF显示模块210。在其它实施例中,LF显示模块300A可以是某个其它LF显示模块。在所展示的实施例中,LF显示模块300A包含能量装置层310和能量中继层320以及能量波导层330。LF显示模块300A被配置成从显示表面365呈现全息内容,如本文所描述的。为方便起见,显示表面365在LF显示模块300A的框架390上以虚线轮廓展示,但更准确地说是直接在由框架390的内边缘界定的波导元件前面的表面。显示表面365包含可以从其投影能量的多个投影位置。LF显示模块300A的一些实施例具有与此处所描述的组件不同的组件。例如,在一些实施例中,LF显示模块300A不包含能量中继层320。类似地,可以以与此处所描述的方式不同的方式在组件之间分配功能。
能量装置层310是能量装置层220的实施例。能量装置层310包含四个能量装置340(在图中三个是可见的)。能量装置340可以全部是相同类型(例如,所有电子显示器)或者可以包含一种或多种不同类型(例如,包含电子显示器和至少一个声能装置)。
能量中继层320是能量中继层230的实施例。能量中继层320包含四个能量中继装置350(在图中三个是可见的)。能量中继装置350可以全部中继相同类型的能量(例如,光)或者可以中继一种或多种不同类型(例如,光和声音)。中继装置350中的每个中继装置包含第一表面和第二表面,能量中继装置350的第二表面被布置成形成单个无缝能量表面360。在所展示的实施例中,中继装置350中的每个中继装置是锥形的,使得第一表面具有比第二表面小的表面积,这允许在锥体的小端上容纳能量装置340的机械包膜。由于整个区域都可以投影能量,因此这也可以使无缝能量表面无边界。这意味着可以通过将LF显示模块300A的多个实例放置在一起而没有死空间或边框的方式来平铺此无缝能量表面,使得整个组合的表面是无缝的。在其它实施例中,第一表面和第二表面的表面积相同。
能量波导层330是能量波导层240的实施例。能量波导层330包含多个波导元件370。如上文关于图2所讨论的,能量波导层330被配置成根据4D光场函数沿着特定的传播路径从无缝能量表面360引导能量,以形成全息对象。应注意,在所展示的实施例中,能量波导层330由框架390界定。在其它实施例中,不存在框架390和/或减小框架390的厚度。框架390的厚度的去除或减小可以有助于将LF显示模块300A与另外的LF显示模块平铺。
应注意,在所展示的实施例中,无缝能量表面360和能量波导层330是平坦的。在未示出的替代性实施例中,无缝能量表面360和能量波导层330可以在一个或多个维度上弯曲。
LF显示模块300A可以配置有驻留在无缝能量表面的表面上的另外的能量源,并允许除了光场之外的能量场的投影。在一个实施例中,声能场可以从安装在无缝能表面360上的任何数量的位置的静电扬声器(未展示)投影出来。进一步地,LF显示模块300A的静电扬声器定位在光场显示模块300A内,使得双能量表面同时投影声场和全息内容。例如,静电扬声器可以形成有一个或多个传输一些波长的电磁能的隔膜元件,并由一个或多个导电元件(例如,将一个或多个隔膜元件夹在中间的平面)驱动。静电扬声器可以被安装在无缝能量表面360上,使得隔膜元件覆盖波导元件中的一些波导元件。扬声器的导电电极可以与被设计成抑制电磁波导之间的光传输的结构共同定位,和/或定位在电磁波导元件(例如,框架390)之间的位置。在各种配置中,扬声器可以投影可听的声音和/或产生触觉表面的聚焦超声能的许多来源。
在一些配置中,能量装置340可以感测能量。例如,能量装置可以是麦克风、光传感器、声学换能器等。因此,能量中继装置还可以将能量从无缝能量表面360中继到能量装置层310。换句话说,当能量装置和能量中继装置340被配置成同时发射和感测能量(例如,发射光场和感测声音)时,LF显示模块的无缝能量表面360形成双向能量表面。
更广泛地,LF显示模块340的能量装置340可以是能量源或能量传感器。LF显示模块300A可以包含充当能量源和/或能量传感器的各种类型的能量装置,以促进向用户投影高质量全息内容。其它源和/或传感器可以包含热传感器或源、红外传感器或源、图像传感器或源、生成声能的机械能换能器、反馈源等。许多其它传感器或源也是可能的。进一步地,LF显示模块可以平铺使得LF显示模块可以形成组合件,所述组合件从大聚合无缝能量表面投影和感测多种类型的能量
在LF显示模块300A的各个实施例中,无缝能量表面360可以具有各个表面部分,其中每个表面部分被配置成投影和/或发射特定类型的能量。例如,当无缝能量表面是双能量表面时,无缝能量表面360包含投影电磁能的一个或多个表面部分以及投影超声能的一个或多个其它表面部分。投影超声能的表面部分可以定位于电磁波导元件之间的无缝能量表面360上,和/或与被设计成抑制电磁波导元件之间的光传输的结构处于同一位置。在无缝能量表面是双向能量表面的实例中,能量中继层320可以包含在无缝能量表面360处交织的两种类型的能量中继装置。在各个实施例中,无缝能量表面360可以被配置成使得表面的在任何特定波导元件370下方的部分是所有能量源、所有能量传感器或能量源和能量传感器的混合。
图3B是根据一个或多个实施例的包含交织的能量中继装置的LF显示模块300B的横截面视图。能量中继装置350A在连接到能量装置340A的能量中继第一表面345A与无缝能量表面360之间传输能量。能量中继器350B在连接到能量装置340B的能量中继第一表面345B与无缝能量表面360之间传输能量。两个中继装置在连接到无缝能量表面360的交织的能量中继装置352处交织。在此配置中,表面360含有能量装置340A和340B两者的交织的能量位置,所述两者可以是能量源或能量传感器。因此,LF显示模块300B可以被配置为用于投影多于一种类型的能量的双能量投影装置,或者被配置为用于同时投影一种类型的能量并且感测另一种类型的能量的双向能量装置。LF显示模块300B可以是LF显示模块110和/或LF显示模块210。在其它实施例中,LF显示模块300B可以是某个其它LF显示模块。
LF显示模块300B包含与图3A中的LF显示模块300A的组件类似地配置的许多组件。例如,在所展示的实施例中,LF显示模块300B包含能量装置层310、能量中继层320、无缝能量表面360和能量波导层330,包含至少与关于图3A所描述的功能相同的功能。另外,LF显示模块300B可以呈现和/或接收来自显示表面365的能量。值得注意的是,与图3A中的LF显示模块300A的组件相比,LF显示模块300B的组件可替代地连接和/或朝向。LF显示模块300B的一些实施例具有与此处所描述的组件不同的组件。类似地,可以以与此处所描述的方式不同的方式在组件之间分配功能。图3B展示了可以被平铺以产生具有更大面积的双能量投影表面或双向能量表面的单个LF显示模块300B的设计。
在一个实施例中,LF显示模块300B是双向LF显示系统的LF显示模块。双向LF显示系统可以同时从显示表面365投影能量并感测能量。无缝能量表面360含有在无缝能量表面360上紧密交织的能量投影位置和能量感测位置两者。因此,在图3B的实例中,能量中继层320以与图3A的能量中继层不同的方式进行配置。为方便起见,LF显示模块300B的能量中继层在本文中将被称为“交织的能量中继层”。
交织的能量中继层320包含两个支脚:第一能量中继装置350A和第二能量中继装置350B。在图3B中,支脚中的每个支脚被展示为浅色阴影区域。支脚中的每个支脚可以由柔性中继材料制成,并形成有足够的长度以用于各种大小和形状的能量装置。在交织的能量中继层的一些区域中,两个支脚在接近无缝能量表面360时紧紧地交织在一起。在所展示的实例中,交织的能量中继装置352被展示为深色阴影区域。
当在无缝能量表面360处交织时,能量中继装置被配置成向/从不同能量装置中继能量。能量装置位于能量装置层310处。如所展示的,能量装置340A连接到能量中继装置350A,并且能量装置340B连接到能量中继装置350B。在各个实施例中,每个能量装置可以是能量源或能量传感器。
能量波导层330包含波导元件370,以将来自无缝能量表面360的能量波沿着投影的路径引导朝向一系列会聚点。在此实例中,在一系列会聚点处形成了全息对象380。值得注意的是,如所展示的,全息对象380处的能量的会聚发生在显示表面365的观看者侧(即,前侧)。然而,在其它实例中,能量的会聚可以在全息对象体中的任何地方,在显示表面365前面和显示表面365后面两者延伸。波导元件370可以同时将进入的能量引导到能量装置(例如,能量传感器),如下文所描述的。
在LF显示模块300B的一个示例实施例中,发射显示器用作能量源(例如,能量装置340A),并且成像传感器用作能量传感器(例如,能量装置340B)。以此方式,LF显示模块300B可以同时投影全息内容并且检测来自显示表面365前面的体的光。以此方式,LF显示模块300B的此实施例同时用作LF显示器和LF传感器。
在一个实施例中,LF显示模块300B被配置成同时将光场从显示表面上的投影位置投影到显示表面前面,并在投影位置捕获来自显示表面前面的光场。在此实施例中,能量中继装置350A将无缝能量表面360处的定位在波导元件370下方的第一组位置连接到能量装置340A。在一个实例中,能量装置340A是具有源像素阵列的发射显示器。能量中继装置340B将无缝能量表面360处的定位在波导元件370下方的第二组位置连接到能量装置340B。在一个实例中,能量装置340B是具有传感器像素阵列的成像传感器。LF显示模块300B可以被配置成使得无缝能量表面365处的在特定波导元件370下方的位置是所有发射显示位置、所有成像传感器位置或这些位置的某种组合。在其它实施例中,双向能量表面可以投影和接收各种其它形式的能量。
在LF显示模块300B的另一个示例实施例中,LF显示模块被配置成投影两种不同类型的能量。例如,在一个实施例中,能量装置340A是被配置成发射电磁能的发射显示器,并且能量装置340B是被配置成发射机械能的超声换能器。因此,可以从无缝能量表面360处的各个位置投影光和声音两者。在此配置中,能量中继装置350A将能量装置340A连接到无缝能量表面360并中继电磁能。能量中继装置被配置成具有使得所述能量中继装置高效传输电磁能的性质(例如,变化的折射率)。能量中继装置350B将能量装置340B连接到无缝能量表面360并中继机械能。能量中继装置350B被配置成具有用于超声能的高效传输的性质(例如,具有不同声学阻抗的材料的分布)。在一些实施例中,机械能可以从能量波导层330上的波导元件370之间的位置投影。投影机械能的位置可以形成用于抑制光从一个电磁波导元件传输到另一个电磁波导元件的结构。在一个实例中,投影超声机械能的在空间上分离的位置阵列可以被配置成在空中形成三维触觉形状和表面。表面可以与投影的全息对象(例如,全息对象380)重合。在一些实例中,阵列上的相位延迟和幅度变化可以帮助形成触觉形状。
在各个实施例中,具有交织的能量中继装置的LF显示模块300B可以包含多个能量装置层,其中每个能量装置层包含特定类型的能量装置。在这些实例中,能量中继层被配置成在无缝能量表面360与能量装置层310之间中继适当类型的能量。
平铺的LF显示模块
图4A是根据一个或多个实施例的以二维方式平铺以形成单面无缝表面环境的LF显示系统400的一部分的透视图。LF显示系统400包含被平铺以形成阵列410的多个LF显示模块。更明确地说,阵列410中的小方块中的每个小方块表示平铺的LF显示模块412。LF显示模块412可以与LF显示模块300A或300B相同。阵列410可以覆盖例如房间的表面(例如,壁)的一些或全部。LF阵列可以覆盖其它表面,例如桌面、广告牌、圆形建筑等。
阵列410可以投影一个或多个全息对象。例如,在所展示的实施例中,阵列410投影全息对象420和全息对象422。LF显示模块412的平铺允许更大的视见体,并且允许对象被投影到距阵列410更远的距离。例如,在所展示的实施例中,视见体是大约阵列410前面和后面的整个区域,而不是LF显示模块412前面(和后面)的局部体。
在一些实施例中,LF显示系统400将全息对象420呈现给观看者430和观看者434。观看者430和观看者434接收全息对象420的不同视角。例如,向观看者430呈现全息对象420的直接视图,而向观看者434呈现全息对象420的更倾斜的视图。随着观看者430和/或观看者434的移动,向其呈现全息对象420的不同视角。这允许观看者通过相对于全息对象移动而在视觉上与全息对象进行交互。例如,在观看者430在全息对象420周围行走时,只要全息对象420保留在阵列410的全息对象体中,观看者430就看到全息对象420的不同侧面。因此,观看者430和观看者434可以同时在真实世界空间中看到全息对象420,就好像所述全息对象真实存在一样。另外,观看者430和观看者434不需要为了观看全息对象420而穿戴外部装置,因为全息对象420以与物理对象将是可见的几乎相同的方式对观看者可见。另外,此处,全息对象422被展示在阵列后面,因为阵列的视见体在阵列的表面后面延伸。以此方式,可以将全息对象422呈现给观看者430和/或观看者434。
在一些实施例中,LF显示系统400可以包含跟踪系统,所述跟踪系统跟踪观看者430和观看者434的定位。在一些实施例中,所跟踪的定位是观看者的定位。在其它实施例中,所跟踪的定位是观看者的眼睛的定位。眼睛的定位跟踪与注视跟踪不同,后者跟踪眼睛正在看的地方(例如,使用朝向来确定注视位置)。观看者430的眼睛和观看者434的眼睛位于不同的位置。
在各种配置中,LF显示系统400可以包含一个或多个跟踪系统。例如,在所展示的图4A的实施例中,LF显示系统包含在阵列410外部的跟踪系统440。此处,跟踪系统可以是耦接到阵列410的相机系统。关于图5A更详细地描述了外部跟踪系统。在其它示例实施例中,跟踪系统可以如本文所描述的并入到阵列410中。例如,包含在阵列410中的含有双向能量表面的一个或多个LF显示模块412的能量装置(例如,能量装置340)可以被配置成捕获阵列410前面的观看者的图像。在任何情况下,LF显示系统400的一个或多个跟踪系统确定关于观看通过阵列410呈现的全息内容的观看者(例如,观看者430和/或观看者434)的跟踪信息。
跟踪信息描述了观看者的位置或观看者的一部分(例如,观看者的一只或两只眼睛,或观看者的肢体)的位置在空间(例如,相对于跟踪系统)中的位置。跟踪系统可以使用任何数量的深度确定技术来确定跟踪信息。深度确定技术可以包含例如结构光、飞行时间、立体成像、某个其它深度确定技术或其某种组合。跟踪系统可以包含被配置成确定跟踪信息的各种系统。例如,跟踪系统可以包含一个或多个红外源(例如,结构化光源)、可以捕获红外图像的一个或多个成像传感器(例如,红-蓝-绿-红外相机)以及执行跟踪算法的处理器。跟踪系统可以使用深度估计技术来确定观看者的定位。在一些实施例中,如本文所描述的,LF显示系统400基于观看者430和/或观看者434的所跟踪的定位、运动或手势来生成全息对象。例如,LF显示系统400可以响应于观看者进入阵列410的阈值距离和/或特定定位内而生成全息对象。
LF显示系统400可以部分地基于跟踪信息来呈现针对每个观看者定制的一个或多个全息对象。例如,可以向观看者430呈现全息对象420,而不是全息对象422。类似地,可以向观看者434呈现全息对象422,而不是全息对象420。例如,LF显示系统400跟踪观看者430和观看者434中的每个观看者的定位。LF显示系统400基于观看者相对于全息对象要被呈现的地方的定位来确定对所述观看者应当可见的全息对象的视角。LF显示系统400选择性地投影来自与所确定的视角相对应的特定像素的光。因此,观看者434和观看者430可以同时具有可能完全不同的体验。换句话说,LF显示系统400可以将全息内容呈现给视见体的视见子体(即,类似于图2B中所示的视见子体290A、290B、290C和290D)。例如,如所展示的,因为LF显示系统400可以跟踪观看者430的定位,所以LF显示系统400可以向包围观看者430的视见子体呈现空间内容(例如,全息对象420),并且向包围观看者434的视见子体呈现野生动物园内容(例如,全息对象422)。相比之下,常规系统将必须使用单独的耳机来提供类似的体验。
在一些实施例中,LF显示系统400可以包含一个或多个感觉反馈系统。感觉反馈系统提供增强全息对象420和422的其它感觉刺激(例如,触觉、音频或气味)。例如,在所展示的图4A的实施例中,LF显示系统400包含在阵列410外部的感觉反馈系统442。在一个实例中,感觉反馈系统442可以是耦接到阵列410的静电扬声器。关于图5A更详细地描述了外部感觉反馈系统。在其它示例实施例中,如本文所描述的,可以将感觉反馈系统并入到阵列410中。例如,包含在阵列410中的LF显示模块412的能量装置(例如,图3B中的能量装置340A)可以被配置成将超声能投影到阵列前面的观看者和/或从阵列前面的观看者接收成像信息。在任何情况下,感觉反馈系统向观看通过阵列410呈现的全息内容(例如,全息对象420和/或全息对象422)的观看者(例如,观看者430和/或观看者434)呈现感觉内容和/或从所述观看者接收感觉内容。
LF显示系统400可以包含感觉反馈系统442,所述感觉反馈系统包含在阵列外部的一个或多个声学投影装置。可替代地或另外地,LF显示系统400可以包含一个或多个集成到阵列410中的声学投影装置,如本文所描述的。声学投影装置可以由被配置成投影体触觉表面的超声源阵列组成。在一些实施例中,对于全息对象的一个或多个表面,如果观看者的一部分在一个或多个表面的阈值距离内,则触觉表面可以与全息对象重合(例如,在全息对象420的表面处)。体触觉感觉可以允许用户触摸和感觉全息对象的表面。多个声学投影装置还可以投影可听压力波,所述可听压力波向观看者提供音频内容(例如,沉浸式音频)。因此,超声压力波和/或可听压力波可以起到补充全息对象的作用。
在各个实施例中,LF显示系统400可以部分地基于所跟踪的观看者的位置来提供其它感觉刺激。例如,图4A中所展示的全息对象422是狮子,并且LF显示系统400可以使全息对象422在视觉上(即,全息对象422似乎在咆哮)和听觉上(即,一个或多个声学投影装置投影压力波)均咆哮,使观看者430将其感知为全息对象422发出的狮子的咆哮。
注意,在所展示的配置中,可以以类似于图2中的LF显示系统200的视见体285的方式来限制全息视见体。这可以限制观看者将通过单个壁显示单元经历的感知到的沉浸感的量。解决此问题的一种方法是使用沿着多个侧面被平铺的多个LF显示模块,如下文关于图4B-4F所描述的。
图4B是根据一个或多个实施例的在多面无缝表面环境中的LF显示系统402的一部分的透视图。LF显示系统402与LF显示系统400基本上类似,除了将多个LF显示模块平铺以创建多面无缝表面环境之外。更具体地,将LF显示模块平铺以形成作为六面聚合无缝表面环境的阵列。在图4B中,多个LF显示模块覆盖房间的所有壁、天花板和地板。在其它实施例中,多个LF显示模块可以覆盖壁、地板、天花板或其某种组合中的一些但不是全部。在其它实施例中,多个LF显示模块被平铺以形成某个其它聚合无缝表面。例如,壁可以是弯曲的,使得形成圆柱形的聚合能量环境。此外,如下面关于图6-9所描述的,在一些实施例中,LF显示模块可以被平铺以形成呈现空间中的表面(例如,壁等)。
LF显示系统402可以投影一个或多个全息对象。例如,在所展示的实施例中,LF显示系统402将全息对象420投影到由六面聚合无缝表面环境包围的区域中。在此实例中,LF显示系统的视见体也含在六面聚合无缝表面环境内。注意,在所展示的配置中,观看者434可以定位在全息对象420与LF显示模块414之间,所述LF显示模块投影用于形成全息对象420的能量(例如,光和/或压力波)。因此,观看者434的定位可以防止观看者430感知由来自LF显示模块414的能量形成的全息对象420。然而,在所展示的配置中,存在至少一个其它LF显示模块,例如,LF显示模块416,所述LF显示模块不受阻碍(例如,被观看者434)并且可以投影能量以形成全息对象420并且被观看者430观察到。以此方式,在空间中被观看者遮挡可能导致全息投影的一些部分消失,但是这种影响比如果体的仅一侧填充有全息显示面板的影响小得多。全息对象422被展示为六面聚合无缝表面环境的壁的“外部”,因为全息对象体在聚合表面后面延伸。因此,观看者430和/或观看者434可以将全息对象422感知为其可以在整个中移动的经包围的六面环境的“外部”。
如上文参考图4A所描述的,在一些实施例中,LF显示系统402主动跟踪观看者的定位并且可以基于所跟踪的定位动态地指示不同的LF显示模块呈现全息内容。因此,多面配置可以提供更稳健的环境(例如,相对于图4A),以提供全息对象,其中不受约束的观看者可以自由地在由多面无缝表面环境包围的整个区域中移动。
值得注意的是,各种LF显示系统可以具有不同的配置。进一步地,每种配置可以具有表面的特定朝向,所述表面聚合形成无缝显示表面(“聚合表面”)。也就是说,可以将LF显示系统的LF显示模块平铺以形成各种聚合表面。例如,在图4B中,LF显示系统402包含平铺以形成近似于房间的壁的六面聚合表面的LF显示模块。在一些其它实例中,聚合表面可以仅出现在表面的一部分(例如,壁的一半)上,而不是整个表面(例如,整个壁)上。本文描述了一些实例。
在一些配置中,LF显示系统的聚合表面可以包含聚合表面,所述聚合表面被配置成朝向局部化视见体投影能量。将能量投影到局部化视见体允许通过例如以下方式的更高质量的观看体验:增加特定视见体中的投影的能量的密度,增加观看者在所述视见体中的FOV,并使视见体更接近显示表面。
例如,图4C展示了具有呈“翼状”配置的聚合表面的LF显示系统450A的俯视图。在此实例中,LF显示系统450A定位在具有前壁452、后壁454、第一侧壁456、第二侧壁458、天花板(未示出)和地板(未示出)的房间中。第一侧壁456、第二侧壁458、后壁454、地板和天花板都正交。LF显示系统450A包含平铺以形成覆盖前壁的聚合表面460的LF显示模块。前壁452以及因此聚合表面460包含三个部分:(i)第一部分462,所述第一部分与后壁454(即,中心表面)大致上平行,(ii)第二部分464,所述第二部分将第一部分462连接到第一侧壁456并成一定角度放置以朝向房间的中心(即,第一侧表面)投影能量,以及(iii)第三部分466,所述第三部分将第一部分462连接到第二侧壁458并成一定角度放置以朝向房间的中心(即,第二侧面)投影能量。第一部分是房间中的竖直平面,并具有水平轴和竖直轴。第二部分和第三部分沿水平轴朝向房间的中心成角度。
在此实例中,LF显示系统450A的视见体468A位于房间的中心,并且被聚合表面460的三个部分部分地包围。至少部分包围观看者的聚合表面(“包围表面”)增加了观看者的沉浸式体验。
为了说明,考虑例如仅具有中心表面的聚合表面。参考图2A,如上文所描述的,从显示表面的任一端投影的射线创建理想的全息体和理想的视见体。现在考虑,例如,中心表面是否包含两个朝向观看者成角度的侧面。在这种情况下,射线256和射线257将从中心表面的法线以更大的角度投影。因此,视见体的视场将增加。类似地,全息视见体将更靠近显示表面。另外,由于两个第二部分和第三部分倾斜得更靠近视见体,所以从显示表面以固定距离投影的全息对象更靠近所述视见体。
为简化起见,仅具有中心表面的显示表面具有平面视场、(中心)显示表面与视见体之间的平面阈值间隔以及全息对象与视见体之间的平面接近度。添加一个或多个朝向观看者成角度的侧表面,增加了相对于平面视场的视场,相对于平面间隔,减小了显示表面与视见体之间的间隔,并相对于平面接近度,增加了显示表面与全息对象之间的接近度。使侧表面朝向观看者进一步成角度进一步增加了视场,减小了间隔并增加了接近度。换句话说,侧表面的成角度的放置增加了观看者的沉浸式体验。
另外,如下文关于图6所描述的,偏转光学装置可以用于优化视见体针对LF显示参数的视见体的大小和定位(例如,尺寸和FOV)。
返回到图4D,在类似的实例中,图4D展示了具有呈“倾斜”配置的聚合表面的LF显示系统450B的侧视图。在此实例中,LF显示系统450B定位在具有前壁452、后壁454、第一侧壁(未示出)、第二侧壁(未示出)、天花板472和地板474的房间中。第一侧壁、第二侧壁、后壁454、地板474和天花板472都正交。LF显示系统450B包含平铺以形成覆盖前壁的聚合表面460的LF显示模块。前壁452以及因此聚合表面460包含三个部分:(i)第一部分462,所述第一部分与后壁454(即,中心表面)大致上平行,(ii)第二部分464,所述第二部分将第一部分462连接到天花板472并成一定角度以朝向房间的中心(即,第一侧表面)投影能量,以及(iii)第三部分464,所述第三部分将第一部分462连接到地板474并成角度以朝向房间的中心(即,第二侧表面)投影能量。第一部分是房间中的竖直平面,并具有水平轴和竖直轴。第二部分和第三部分沿竖直轴朝向房间的中心成角度。
在此实例中,LF显示系统450B的视见体468B位于房间的中心,并且被聚合表面460的三个部分部分地包围。与图4C所示的配置类似,两个侧面部分(例如,第二部分464和第三部分466)成一定角度以包围观看者并形成包围表面。从全息视见体468B中的任何观看者的视角来看,包围表面增加了观看FOV。另外,包围表面允许视见体468B更靠近显示器的表面,使得投影的对象显得更靠近。换句话说,侧表面的成角度放置增加了视场,减小了间隔,并增加了聚合表面的接近度,由此增加了观看者的沉浸式体验。进一步地,如下文将要讨论的,偏转光学装置可以用于优化视见体468B的大小和位置。
与如果第三部分466没有倾斜相比,聚合表面460的侧面部分的倾斜配置使得全息内容能够被呈现为更靠近视见体468B。例如,与如果使用具有平坦的前壁的LF显示系统相比,从呈倾斜配置的LF显示系统呈现的角色的下肢(例如,腿)可能看起来更靠近并且更真实。
另外,LF显示系统的配置及其所处的环境可以通知视见体和视见子体的形状和位置。
图4E例如展示了具有在房间的前壁452上的聚合表面460的LF显示系统450C的俯视图。在此实例中,LF显示系统450D定位在具有前壁452、后壁454、第一侧壁456、第二侧壁458、天花板(未示出)和地板(未示出)的房间中。
LF显示系统450C从聚合表面460投影各种射线。射线从显示表面上的每个定位投影到以视见体为中心的角度范围中。从聚合表面460的左侧投影的射线具有水平角度范围481,从聚合表面的右侧投影的射线具有水平角度范围482,并且从聚合表面460的中心投影的射线具有水平角度范围483。在这些点之间,投影射线可以具有如下文关于图6所描述的角度范围的中间值。以此方式在跨越显示表面的投影射线中具有梯度偏转角创建了视见体468C。进一步地,此配置避免了在将射线投影到侧壁456和458中时浪费显示器的分辨率。
图4F展示了具有在房间的前壁452上的聚合表面460的LF显示系统450D的侧视图。在此实例中,LF显示系统450E定位在具有前壁452、后壁454、第一侧壁(未示出)、第二侧壁(未示出)、天花板472和地板474的房间中。在此实例中,地板是分层的使得每一层都从前壁向后壁逐步移动上升。此处,地板的每一层包含视见子体(例如,视见子体470A和470B)。分层地板允许不重叠的视见子体。换句话说,每个视见子体具有从视见子体到不通过另一视见子体的聚合表面460的视线。换句话说,这种朝向产生了“体育场就座”效果,其中各层之间的竖直偏移使视线畅通无阻,从而使每一层都可以“查看”其它层的视见子体。包含不重叠的视见子体的LF显示系统可以提供比具有确实重叠的视见体的LF显示系统更高的观看体验。例如,在图4F所示的配置中,可以向视见子体470A和470B中的观众投影不同的全息内容。
LF显示系统的控制
图5A是根据一个或多个实施例的LF显示系统500的框图。LF显示系统500包括LF显示器组合件510和控制器520。LF显示器组合件510包含投影光场的一个或多个LF显示模块512。LF显示模块512可以包含源/传感器系统514,所述源/传感器系统包含投影和/或感测其它类型的能量的集成能量源和/或能量传感器。控制器520包含数据存储器522、网络接口524和LF处理引擎530。控制器520还可以包含跟踪模块526和观看者概况分析模块528。在一些实施例中,LF显示系统500还包含感觉反馈系统570和跟踪系统580。在图1、2、3和4的背景中描述的LF显示系统是LF显示系统500的实施例。在其它实施例中,LF显示系统500包括比本文所描述的模块另外的或更少的模块。类似地,可以以与此处描述的方式不同的方式在模块和/或不同实体之间分配功能。LF显示系统500的应用程序也将在下文关于图6-9详细地讨论。
LF显示器组合件510在全息对象体中提供全息内容,所述全息对象体对于定位在视见体内的观看者可以是可见的。LF显示器组合件510可以通过执行从控制器520接收的显示指令来提供全息内容。全息内容可以包含投影在LF显示器组合件510的聚合表面前面、LF显示器组合件510的聚集表面后面或其某种组合的一个或多个全息对象。下文更详细地描述用控制器520生成显示指令。
LF显示器组合件510使用包含在LF显示器组合件510中的一个或多个LF显示模块(例如,LF显示模块110、LF显示系统200和LF显示模块300中的任一个)来提供全息内容。为了方便起见,一个或多个LF显示模块在本文中可以被描述为LF显示模块512。LF显示模块512可以被平铺以形成LF显示器组合件510。LF显示模块512可以被构造为各种无缝表面环境(例如,单面、多面、呈现空间的壁、弯曲的表面等)。也就是说,平铺的LF显示模块形成聚合表面。如先前所描述的,LF显示模块512包含呈现全息内容的能量装置层(例如,能量装置层220)和能量波导层(例如,能量波导层240)。LF显示模块512还可以包含能量中继层(例如,能量中继层230),当呈现全息内容时,所述能量中继层在能量装置层与能量波导层之间转移能量。
LF显示模块512还可以包含其它集成系统,所述其它集成系统被配置成用于如先前所描述的能量投影和/或能量感测。例如,光场显示模块512可以包含被配置成投影和/或感测能量的任何数量的能量装置(例如,能量装置340)。为了方便起见,本文可以将LF显示模块512的集成能量投影系统和集成能量感测系统聚合描述为源/传感器系统514。源/传感器系统514被集成在LF显示模块512内,使得源/传感器系统514与LF显示模块512共享相同的无缝能量表面。换句话说,LF显示器组合件510的聚合表面包含LF显示模块512和源/传感器模块514两者的功能。也就是说,包含具有源/传感器系统514的LF显示模块512的LF组合件510可以在当投影光场的同时投影能量和/或感测能量。例如,LF显示器组合件510可以包含LF显示模块512和源/传感器系统514,所述源/传感器系统被配置为如先前所描述的双能量表面或双向能量表面。
在一些实施例中,LF显示系统500使用感觉反馈系统570用其它感觉内容(例如,协调的触摸、音频或气味等)增强所生成的全息内容。感觉反馈系统570可以通过执行从控制器520接收的显示指令来增强全息内容的投影。通常,感觉反馈系统570包含在LF显示器组合件510外部的任何数量的感觉反馈装置(例如,感觉反馈系统442)。一些示例感觉反馈装置可以包含协调的声学投影和接收装置、香气投影装置、温度调整装置、力致动装置、压力传感器、换能器等。在一些情况下,感觉反馈系统570可以具有与光场显示器组合件510类似的功能,并且反之亦然。例如,感觉反馈系统570和光场显示器组合件510两者都可以被配置成产生声场。作为另一个实例,感觉反馈系统570可以被配置成在没有光场显示器510组合件的情况下生成触觉表面。
为了说明,在光场显示系统500的示例实施例中,感觉反馈系统570可以包含一个或多个声学投影装置。一个或多个声学投影装置被配置成在执行从控制器520接收的显示指令时产生与全息内容互补的一个或多个压力波。所生成的压力波可以是例如可听的(用于声音)、超声的(用于触摸)或其某种组合。类似地,感觉反馈系统570可以包含香气投影装置。香气投影装置可以被配置成在执行从控制器接收到的显示指令时向目标区域中的一些或全部目标区域提供香味。香气装置可以连接到空气循环系统(例如,管道、风扇或通风口)中,以协调目标区域内的空气流动。进一步地,感觉反馈系统570可以包含温度调整装置。温度调整装置被配置成在执行从控制器520接收的显示指令时增加或降低目标区域中的一些或全部目标区域的温度。
在一些实施例中,感觉反馈系统570被配置成从LF显示系统500的观看者接收输入。在这种情况下,感觉反馈系统570包含用于从观看者接收输入的各种感觉反馈装置。传感器反馈装置可以包含如声学接收装置(例如,麦克风)、压力传感器、操纵杆、运动检测器、换能器等装置。感觉反馈系统可以将检测到的输入传输到控制器520以协调生成全息内容和/或感觉反馈。
为了说明,在光场显示器组合件的示例实施例中,感觉反馈系统570包含麦克风。麦克风被配置成记录由一个或多个观看者产生的音频(例如,口头命令、对话、喘息、尖叫、笑声等)。感觉反馈系统570将所记录的音频作为观看者输入提供给控制器520。控制器520可以使用观看者输入来生成全息内容。类似地,感觉反馈系统570可以包含压力传感器。压力传感器被配置成测量由观看者施加到压力传感器的力。感觉反馈系统570可以将所测量的力作为观看者输入提供给控制器520。
在一些实施例中,LF显示系统500包含跟踪系统580。跟踪系统580包含被配置成确定目标区域中的观看者的定位、移动和/或特征的任何数量的跟踪装置。通常,跟踪装置在LF显示器组合件510的外部。一些示例跟踪装置包含相机组合件(“相机”)、深度传感器、结构化灯、LIDAR系统、卡片扫描系统或可以跟踪目标区域内的观看者的任何其它跟踪装置。
跟踪系统580可以包含用光照亮目标区域中的一些或全部目标区域的一个或多个能量源。然而,在一些情况下,当呈现全息内容时,目标区域被来自LF显示器组合件510的自然光和/或环境光照亮。当执行从控制器520接收的指令时,能量源投影光。光可以是例如结构化光图案、光脉冲(例如,IR闪光灯)或其某种组合。跟踪系统可以投影以下中的光:可见波段(约380nm到750nm)、红外(IR)波段(约750nm到1700nm)、紫外波段(10nm到380nm)、电磁光谱的某个其它部分或其某种组合。源可以包含例如发光二极管(LED)、微型LED、激光二极管、TOF深度传感器、可调激光器等。
当执行从控制器520接收的指令时,跟踪系统580可以调整一个或多个发射参数。发射参数是影响光如何从跟踪系统580的源投影的参数。发射参数可以包含例如亮度、脉冲率(包含连续照明)、波长、脉冲长度、影响光如何从源组合件投影的某个其它参数或其某种组合。在一个实施例中,源在飞行时间操作中投影光脉冲。
跟踪系统580的相机捕获从目标区域反射的光(例如,结构化光图案)的图像。当执行从控制器520接收的跟踪指令时,相机捕获图像。如先前所描述的,光可以由跟踪系统580的源投影。相机可以包含一个或多个相机。也就是说,相机可以是例如光电二极管的阵列(1D或2D)、CCD传感器、CMOS传感器、检测由跟踪系统580投影的光中的一些或全部光的某个其它装置或其某种组合。在一个实施例中,跟踪系统580可以含有在LF显示器组合件510外部的光场相机。在其它实施例中,相机被包含作为包含在LF显示器组合件510中的LF显示源/传感器模块514的一部分。例如,如先前所描述的,如果光场模块512的能量中继元件是在能量装置层220处交织发射显示器和成像传感器两者的双向能量层,则LF显示器组合件510可以被配置成同时投影光场并记录来自显示器前面观看区域的成像信息。在一个实施例中,从双向能量表面捕获的图像形成光场相机。相机将捕获的图像提供给控制器520。
当执行从控制器520接收的跟踪指令时,跟踪系统580的相机可以调整一个或多个成像参数。成像参数是影响相机如何捕获图像的参数。成像参数可以包含例如帧速率、光圈、增益、曝光长度、帧定时、滚动快门或全局快门捕获模式、影响相机如何捕获图像的某个其它参数或其某种组合。
控制器520控制LF显示器组合件510和LF显示系统500的任何其它组件。控制器520包括数据存储522、网络接口524、跟踪模块526、观看者概况分析模块528和光场处理引擎530。在其它实施例中,控制器520包括比本文所描述的模块另外的或更少的模块。类似地,可以以与此处描述的方式不同的方式在模块和/或不同实体之间分配功能。例如,跟踪模块526可以是LF显示器组合件510或跟踪系统580的一部分。
数据存储装置522是存储用于LF显示系统500的信息的存储器。所存储的信息可以包含显示指令、跟踪指令、发射参数、成像参数、目标区域的虚拟模型、跟踪信息、由相机捕获的图像、一个或多个观看者概况、针对光场显示器组合件510的校准数据、针对LF显示系统510的配置数据(包含LF模块512的分辨率和朝向)、所期望的视见体几何形状、用于包含3D模型的图形创建的内容、场景和环境、材质和纹理以及LF显示系统500可以使用的其它信息或其某种组合。数据存储522是存储器,如只读存储器(ROM)、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)或其某种组合。
网络接口524允许光场显示系统通过网络与其它系统或环境进行通信。在一个实例中,LF显示系统500通过网络接口524从远程光场显示系统接收全息内容。在另一个实例中,LF显示系统500使用网络接口524将全息内容传输到远程数据存储。
跟踪模块526跟踪观看由LF显示系统500呈现的内容的观看者。为此,跟踪模块526生成控制跟踪系统580的一个或多个源和/或一个或多个相机的操作的跟踪指令,并将跟踪指令提供给跟踪系统580。跟踪系统580执行跟踪指令,并将跟踪输入提供给跟踪模块526。
跟踪模块526可以确定一个或多个观看者在目标区域内的位置(例如,坐在呈现空间的座位上)。所确定的定位可以相对于例如某个参考点(例如,显示表面)。在其它实施例中,所确定的定位可以在目标区域的虚拟模型内。所跟踪定位可以是例如观看者的所跟踪定位和/或观看者的一部分的所跟踪定位(例如,眼睛位置、手位置等)。跟踪模块526使用来自跟踪系统580的相机的一个或多个捕获的图像来确定定位。跟踪系统580的相机可以分布在LF显示系统500周围,并且可以捕获立体图像,从而允许跟踪模块526被动地跟踪观看者。在其它实施例中,跟踪模块526主动跟踪观看者。也就是说,跟踪系统580照亮目标区域的某个部分,对目标区域进行成像,并且跟踪模块526使用飞行时间和/或结构化光深度确定技术来确定位置。跟踪模块526使用所确定的位置来生成跟踪信息。
跟踪模块526还可以从LF显示系统500的观看者接收跟踪信息作为输入。跟踪信息可以包含与由LF显示系统500向观看者提供的各种输入选项相对应的身体移动。例如,跟踪模块526可以跟踪观看者的身体移动,并将任何各种移动作为输入分配到LF处理引擎530。跟踪模块526可以将跟踪信息提供给数据存储522、LF处理引擎530、观看者概况分析模块528、LF显示系统500的任何其它组件或其某种组合。
为了提供跟踪模块526的上下文,考虑了显示视频游戏的LF显示系统500的示例实施例,在所述视频游戏中,队伍通过摧毁敌方队伍的基地来击败敌方队伍。响应于内容,观看者在空中挥舞拳头以显示其兴奋。跟踪系统580可以记录观看者的手的移动,并将记录传输到跟踪模块526。如先前所描述的,这可以通过跟踪系统580来实现,所述跟踪系统包含在光场显示器组合件510外部的相机、深度传感器或其它装置,或者同时投影光场图像并记录图像的显示表面,其中从显示表面记录的图像可以是光场图像或这些装置的任何组合。跟踪模块526在记录中跟踪观看者的手的运动,并将输入发送到LF处理引擎530。如下文所描述的,观看者概况分析模块528确定图像中的信息指示观看者的手的运动与肯定响应相关联。因此,如果识别出足够的观看者具有肯定响应,则LF处理引擎530生成适当的全息内容以庆祝胜利。例如,LF处理引擎530可以在场景中投影纸屑。
LF显示系统500包含被配置成标识和对观看者进行概况分析的观看者概况分析模块528。观看者概况分析模块528生成一个观看者(或多个观看者)观看由LF显示系统500显示的全息内容的概况。观看者概况分析模块528部分地基于观看者输入和所监测的观看者行为、动作和反应来生成观看者概况。观看者概况分析模块528可以访问从跟踪系统580获得的信息(例如,所记录的图像、视频、声音等)并处理所述信息以确定各种信息。在各个实例中,观看者概况分析模块528可以使用任何数量的机器视力或机器听力算法来确定观看者行为、动作和反应。所监测的观看者行为可以包含例如观看者的微笑、欢呼、鼓掌、大笑、惊吓、尖叫、兴奋程度、后坐力、其它手势变化或观看者的移动等。
更一般地,观看者概况可以包含所接收和/或所确定的关于观看来自LF显示系统的全息内容的观看者的任何信息。例如,每个观看者概况可以记录所述观看者对由LF显示系统500显示的内容的动作或响应。下文提供了可以包含在观看者概况中的一些示例信息。
在一些实施例中,观看者概况可以描述呈现空间内的观看者对呈现空间中显示的视频游戏内容(例如,团队、内容的类型、结果等)的响应。例如,观看者概况可以指示观看者通常对具有马头加蓝色盾牌的吉祥物的特定电竞团队做出积极响应。
在一些实施例中,观看者概况可以指示观看游戏应用程序的观看者或玩游戏应用程序的玩家的特征。例如,呈现空间中的用户穿着特定服装。在这种情况下,观看者概况可以生成准确表示特定装备的虚拟化身。进一步地,特定装备可以指示关于观看者的一些特征。更广泛地,存储的关于观看者的观看者特征可以是例如年龄、性别、种族、服装、在呈现空间中的观看位置等。
在一些实施例中,观看者概况可以指示观看者关于游戏应用程序内容、呈现空间特征或两者的偏好。例如,观看者概况可以指示观看者仅喜欢观看适合其家人中的每个人的年龄的全息内容。在另一个实例中,观看者概况可以指示全息对象体以显示全息内容(例如,在壁上),并且指示全息对象体不显示全息内容(例如,在其头部上方)。观看者概况还可以指示观看者更喜欢在其附近呈现触觉接口,或者更喜欢避开所述触觉接口。
在另一实例中,观看者概况指示特定观看者的游戏应用程序的历史。例如,观看者概况分析模块528确定观看者或观看者组先前已执行游戏应用程序。因此,LF显示系统500可以显示参考在执行游戏应用程序时采取的先前动作的全息内容。作为一个实例,包含全息内容的游戏应用程序可以包括难度增加以触发胜利的一系列四个任务。观看者概况表明观看者已经完成了前四个任务中的两个任务。因此,游戏应用程序将第三个任务的全息视频游戏内容呈现给观看者。视频游戏内容可以参考在第一任务或第二任务中采取的动作。
在一些实施例中,观看者概况也可以描述一组观看者而不是特定观看者的特征和偏好。例如,观看者概况分析模块528可以生成在呈现空间中观看通过游戏应用程序生成的视频游戏内容的观众的观看者概况。在一个实例中,观看者概况分析模块528创建观看广播游戏应用程序的比赛的电竞事件的观看者的观看者概况。概况表明,54.3%的观看者是年龄介于20与35之间的男性,并且对游戏应用程序做出积极响应。概况还表明其余46.7%的观看者对游戏应用程序做出一般响应。先前所描述的信息和特征中的任一项都可以应用于一组观看者。
观看者概况分析模块528还可以从一个第三方系统(或多个第三方系统)访问与一个特定观看者(或多个特定观看者)相关联的概况,以建立观看者概况。例如,观看者使用链接到所述观看者的社交媒体帐户的第三方供应商购买电竞事件的票券。当观看者使用其票券进入用于游戏应用程序的呈现空间时,观看者概况分析模块528可以访问来自他的社交媒体帐户的信息以建立(或增强)观看者概况。
在一些实施例中,数据存储522包含存储由观看者概况分析模块528生成、更新和/或维护的观看者概况的观看者概况存储。可以由观看者概况分析模块528随时在数据存储中更新观看者概况。例如,在一个实施例中,当特定观看者观看由LF显示系统500提供的全息内容时,观看者概况存储在其观看者概况中接收并存储关于特定观看者的信息。在此实例中,观看者概况分析模块528包含面部识别算法,所述面部识别算法可以识别观看者并在其观看呈现的全息内容时肯定地标识所述观看者。为了说明,在观看者进入LF显示系统500的目标区域时,跟踪系统580获得观看者的图像。观看者概况分析模块528输入所捕获的图像,并使用面部识别算法来标识观看者的面部。所标识的面部与概况存储中的观看者概况相关联,并且因此,所获得的关于所述观看者的所有输入信息可以存储在其概况中。观看者概况分析模块还可以利用卡标识扫描仪、语音标识符、射频标识(RFID)芯片扫描仪、条形码扫描仪等来肯定地标识观看者。
在观看者概况分析模块528可以肯定地标识观看者的实施例中,观看者概况分析模块528可以确定每个观看者对LF显示系统500的每次访问。观看者概况分析模块528然后可以将每次访问的时间和日期存储在每个观看者的观看者概况中。类似地,观看者概况分析模块528可以在每次其出现时存储从观看者接收的来自感觉反馈系统570、跟踪系统580和/或LF显示器组合件510的任何组合的输入。观看者概况系统528可以另外从控制器520的其它模块或组件接收关于观看者的另外的信息,然后可以将所述另外的信息与观看者概况一起存储。控制器520的其它组件然后也可以访问所存储的观看者概况,以用于确定随后要提供给所述观看者的内容。
LF处理引擎530生成包含光场数据以及针对LF显示系统500所支持的所有感觉域的数据的全息内容。例如,LF处理引擎530可以以光栅化格式(“光栅化数据”)生成4D坐标,所述4D坐标在由LF显示器组合件510执行时使LF显示器组合件510呈现全息内容。LF处理引擎530可以从数据存储522访问光栅化数据。另外,LF处理引擎530可以从矢量化数据集构建光栅化数据。下文描述了矢量化数据。LF处理引擎530还可以生成提供增强全息对象的感觉内容所需的感觉指令。如上文所描述的,当由LF显示系统500执行时,感觉指令可以生成由LF显示系统500支持的触觉表面、声场和其它形式的感觉能量。LF处理引擎530可以从数据存储装置522访问感觉指令,或从矢量化数据集构建感觉指令。4D坐标和感觉数据聚合地将全息内容表示为可由LF显示系统执行以生成全息和感觉内容的显示指令。更一般地,全息内容可以采取具有以下的CG内容的形式:理想的光场坐标、实时动作内容、光栅化数据、矢量化数据、由一组中继器传输的电磁能、发送给一组能量装置的指令、一个或多个能量表面上的能量位置、从显示表面投影的一组能量传播路径、对观看者或观众可见的全息对象以及许多其它类似形式。
描述通过LF显示系统500中的各种能量源的能量流的光栅化数据量非常大。虽然当从数据存储装置522访问时在LF显示系统500上显示光栅化数据是可能的,但有效地传输、接收(例如,通过网络接口524)并随后在LF显示系统500上显示光栅化数据是不可行的。例如,采用表示通过游戏应用程序生成的少量数据的光栅化数据以用于LF显示系统500的全息投影。在此实例中,LF显示系统500包含含有数千兆像素的显示器,并且光栅化数据含有显示器上每个像素位置的信息。光栅化数据的对应大小巨大(例如,每秒数千兆字节的全息内容),并且对于通过网络接口524在商业网络上进行高效转移来说难管理。对于包含全息内容的实时流式传输的应用程序,高效转移问题可能会被放大。当需要使用来自传感反馈系统570或跟踪模块526的输入进行交互式体验时,会出现仅在数据存储522上存储光栅化数据的另外的问题。为了实现交互式体验,由LF处理引擎530生成的光场内容可以响应于感觉或跟踪输入而实时修改。换句话说,在一些情况下,不能简单地从数据存储装置522读取LF内容。
因此,在一些配置中,表示由LF显示系统500显示的全息内容的数据可以以矢量化数据格式(“矢量化数据”)转移到LF处理引擎530。矢量化数据可以比光栅化数据小几个数量级。进一步地,矢量化数据提供高图像质量,同时具有实现数据的高效共享的数据集大小。例如,矢量化数据可以是从更密集的数据集导出的稀疏数据集。因此,基于如何从密集光栅化数据中采样稀疏矢量化数据,矢量化数据可以在图像质量与数据传输大小之间具有可调整的平衡。用于生成矢量化数据的可调采样能够优化给定网络速度的图像质量。因此,矢量化数据能够通过网络接口524高效传输全息内容。矢量化数据还使全息内容能够通过商业网络进行实时流式传输。
总之,LF处理引擎530可以生成从以下导出的全息内容:从数据存储522访问的光栅化数据、从数据存储522访问的矢量化数据或通过网络接口524接收的矢量化数据。在各种配置中,矢量化数据可以在数据传输之前由编码器进行编码,并且在接收之后由LF控制器520内的解码器进行解码。编码器和解码器对可以是同一专有系统编解码器的一部分。在一些实例中,对矢量化数据进行编码以增加与数据压缩相关的数据安全并实现游戏应用程序改进。例如,通过网络接口接收的矢量化数据可以是从全息流媒体应用程序接收的经编码的矢量化数据。在一些实例中,矢量化数据可以需要解码器、LF处理引擎530或这两者来访问在矢量化数据中编码的信息内容。编码器和/或解码器系统可供消费者使用或授权给第三方供应商。可以采用其它实例编码和/或解码方案来传输和/或呈现全息内容。
矢量化数据以可以支持交互式体验的方式含有由LF显示系统500支持的感觉域中的每个感觉域的所有信息。例如,针对交互式全息体验的矢量化数据可以包含可以为由LF显示系统500支持的感觉域中的每个感觉域提供准确物理学的任何矢量化性质。矢量化性质可以包含可以合成地编程、捕获、计算评估等的任何性质。LF处理引擎530可以被配置成将矢量化数据中的矢量化性质转换为光栅化数据。LF处理引擎530然后可以使用LF显示器组合件510投影从矢量化数据转换的全息内容。在各种配置中,矢量化性质可以包含以下:一个或多个红/绿/蓝/α信道(RGBA)+深度图像;具有或不具有不同分辨率的深度信息的多视图图像,所述多视图图像可以包含一张高分辨率中心图像和其它分辨率较低的视图;材料性质,如反照率和反射率;表面法线;其它光学效果;表面标识;几何对象坐标;虚拟相机坐标;显示平面位置;照明坐标;表面的触觉刚度;触觉延展性;触觉强度;声场的振幅和坐标、环境条件、与用于纹理或温度的机械感受器有关的体感能量矢量、音频和任何其它感觉域性质。许多其它矢量化性质也是可能的。
LF显示系统500还可以生成交互式观看体验。换句话说,全息内容可以响应于输入刺激,所述输入刺激含有关于观看者位置、手势、交互、与全息内容进行的交互的信息或从观看者概况分析模块528和/或跟踪模块526导出的其它信息。例如,在实施例中,LF处理系统500使用通过游戏应用程序生成并通过网络接口524接收的实时视频游戏数据的矢量化数据创建交互式观看体验。在另一实例中,如果全息对象需要响应于观看者交互而立即沿某个方向移动,则LF处理引擎530可以更新场景的渲染,使得全息对象沿所述所需方向移动。这可能需要LF处理引擎530施用矢量化数据集来基于具有适当的对象放置和移动、碰撞检测、遮挡、颜色、阴影、照明等的3D图形场景实时地渲染光场,从而正确地响应于观看者交互。LF处理引擎530将矢量化数据转换成光栅化数据以供LF显示器组合件510呈现。LF显示系统500可采用允许LF显示系统近似实时地呈现全息内容的各种其它编码/解码技术。
光栅化数据包含表示实时游戏应用程序数据的全息内容指令和感觉指令(显示指令)。LF显示器组合件510通过执行显示指令同时投影实时游戏应用程序数据的全息内容和感觉内容。LF显示系统500通过跟踪模块526和观看者概况分析模块528监测观看者与所呈现的实时游戏应用程序数据的交互(例如,声音响应、触摸等)。响应于观看者交互,LF处理引擎可以通过生成另外的全息和/或感觉内容以显示给观看者来创建交互式体验。
为了说明,考虑了包含LF处理引擎530的LF显示系统500的示例实施例,所述LF处理引擎生成表示在执行游戏应用程序期间从呈现空间的天花板掉落的气球的多个全息对象。观看者可以移动以触摸表示气球的全息对象。对应地,跟踪系统580跟踪观看者的手相对于全息对象的移动。观看者的移动由跟踪系统580记录并发送到控制器520。跟踪模块526连续确定观看者的手的运动并将已确定的运动发送到LF处理引擎530。LF处理引擎530确定观看者的手在场景中的放置,调整图形的实时渲染以在全息对象中包含任何所需的改变(如定位、颜色或遮挡)。LF处理引擎530指示LF显示器组合件510(和/或感觉反馈系统570)使用体触觉投影系统(例如,使用超声扬声器)生成触觉表面。所生成的触觉表面对应于全息对象的至少一部分,并且占据与全息对象的外部表面中的一些或全部外部表面基本上相同的空间。LF处理引擎530使用跟踪信息来动态地指示LF显示器组合件510将触觉表面的位置与经渲染的全息对象的位置一起移动,使得给予观看者触摸气球的视觉和触觉感知两者。更简单地,当观看者观看他的手触摸全息气球时,观看者同时感觉到指示其手触摸了全息气球的触觉反馈,并且气球响应于触摸而改变定位或运动。在一些实例中,并非在从数据存储装置522访问的游戏应用程序中生成的内容中呈现和交互式气球,所述交互式气球可以作为经由网络接口524从实时流式应用程序接收到的全息内容的一部分接收。换句话说,LF显示系统500显示的全息内容可以是全息内容实时流。
LF处理引擎530可以提供用于在执行游戏应用程序之前、期间和/或之后显示给呈现空间中的观看者的全息内容以增强呈现空间体验。全息内容可以由游戏应用程序的发布者提供、由呈现空间提供、由广告商提供、由LF处理引擎530生成等。全息内容可以为与游戏应用程序、游戏应用程序的流派、呈现空间的位置、广告等相关联的内容。在任何情况下,全息内容可存储在数据存储装置522中,或通过网络接口524以矢量化格式流式传输到LF显示系统500。例如,由游戏应用程序生成的视频游戏内容可以在通过LF显示模块增强的呈现空间中显示在壁上。游戏应用程序的经销商可以提供用于在开始执行游戏应用程序之前呈现在壁显示器上的全息内容。LF处理引擎530访问全息内容并且在执行游戏应用程序之前将来自显示器的所访问内容呈现在呈现空间的壁上。在另一实例中,具有LF显示系统500的呈现空间位于旧金山(San Francisco)。如果没有提供游戏应用程序特定的内容,呈现空间的LF显示系统会存储用于在执行游戏应用程序之前呈现的金门大桥(Golden Gate Bridge)的全息表示。此处,因为未提供游戏应用程序特定的全息内容,所以LF处理引擎530会访问金门大桥并且将金门大桥呈现在呈现空间中。在另一实例中,广告商已将其产品的全息内容以广告形式提供给呈现空间以在执行游戏应用程序之后显示。在执行游戏应用程序结束之后,LF处理引擎530在观看者离开呈现空间时向其呈现广告。在其它实例中,如下文所描述,LF处理引擎可以动态地生成用于在影院的壁上显示的全息内容。
LF处理引擎500还可以修改全息内容以适于正呈现全息内容的呈现空间。例如,并非每个呈现空间都具有相同的大小、相同的座椅数量或相同的技术配置。因此,LF处理引擎530可修改全息内容,使得其将被适当地显示在呈现空间中。在一个实施例中,LF处理引擎530可访问呈现空间的配置文件,包含呈现空间的布局、分辨率、视场、其它技术规范等。LF处理引擎530可以基于配置文件中包含的信息来渲染和呈现全息内容。
LF处理引擎530还可以创建全息内容以由LF显示系统500显示。重要的是,此处,创建用于显示的全息内容不同于访问或接收用于显示的全息内容。也就是说,当创建内容时,LF处理引擎530生成用于显示的全新内容,而不是访问先前生成和/或接收的内容。LF处理引擎530可以使用来自跟踪系统580、感觉反馈系统570、观看者概况分析模块528、跟踪模块526或其某种组合的信息来创建用于显示的全息内容。在一些实例中,LF处理引擎530可以访问来自LF显示系统500的元件的信息(例如,跟踪信息和/或观看者概况),基于所述信息创建全息内容,并且作为响应,使用LF显示系统500显示创建的全息内容。当由LF显示系统500显示时,创建的全息内容可以用其它感觉内容(例如,触摸、音频或气味)增强。进一步地,LF显示系统500可以存储创建的全息内容,使得其可以在将来显示。
LF显示系统的动态内容生成
在一些实施例中,LF处理引擎530并入人工智能(AI)模型以创建全息内容以供LF显示系统500显示。AI模型可以包含监督或无监督的学习算法,包含但不限于回归模型、神经网络、分类器或任何其它AI算法。AI模型可以用于基于由LF显示系统500(例如,通过跟踪系统580)记录的观看者信息来确定观看者偏好,所述观看者信息可以包含关于观看者的行为的信息。
AI模型可以从数据存储522访问信息以创建全息内容。例如,AI模型可以从数据存储522中的一个观看者概况或多个观看者概况访问观看者信息,或者可以从LF显示系统500的各个组件接收观看者信息。为了说明,AI模型可以确定观看者喜欢观看表演者佩戴领结的全息内容。AI模型可以基于一组观看者对包含佩戴蝴蝶结的演员的先前观看的全息内容的肯定反应或响应来确定偏好。换句话说,AI模型可以根据学习到的那些观看者的偏好来创建个性化针对一组观看者的全息内容。因此,例如,AI模型可以为使用LF显示系统500由一组观看者观看的全息内容中显示的演员创建蝴蝶结。AI模型还可以将学习到的每个观看者的偏好存储在数据存储522的观看者概况存储中。在一些实例中,AI模型可以为单个观看者而不是一组观看者创建全息内容。
可以用于标识观看者的特性、标识反应和/或基于所标识的信息生成全息内容的AI模型的一个实例是具有节点层的卷积神经网络模型,其中当前层的节点处的值是先前层的节点处的值的变换。通过连接当前层和先前层的一组权重和参数确定模型中的变换。例如,并且AI模型可以包含五个节点层:层A、B、C、D和E。从层A到层B的变换由函数W1给出,从层B到层C的变换由W2给出,从层C到层D的变换由W3给出,并且从层D到层E的变换由W4给出。在一些实例中,还可以通过用于在模型中的先前层之间进行变换的一组权重和参数来确定变换。例如,从层D到层E的变换W4可以基于用于完成从层A到B的变换W1的参数。
到模型的输入可以是通过跟踪系统580拍摄的被编码到卷积层A上的图像,并且模型的输出是从输出层E解码的全息内容。可替代地或另外,输出可以是所确定的图像中的观看者的特性。在此实例中,AI模型在识别层C中识别表示观看者特征的图像中的潜在信息。AI模型将卷积层A的维度降低到识别层C的维度,以识别图像中的任何特性、动作、响应等。在一些实例中,AI模型然后增加标识层C的维度以生成全息内容。
来自跟踪系统580的图像被编码到卷积层A。在卷积层A中输入的图像可以与标识层C中的各种特性和/或反应信息等相关。这些元件之间的相关性信息可以通过在对应层之间应用一组变换来检索。也就是说,AI模型的卷积层A表示经编码的图像,并且模型的标识层C表示微笑的观看者。给定图像中微笑的观看者可以通过将变换W1和W2应用于卷积层A的空间中的图像的像素值来标识。用于变换的权重和参数可以指示图像中含有的信息与微笑的观看者的标识之间的关系。例如,权重和参数可以是包含在表示图像中的微笑的观看者的信息中的形状、颜色、大小等的量化。权重和参数可以基于历史数据(例如,先前跟踪的观看者)。
在标识层C中标识图像中的微笑的观看者。标识层C基于关于图像中的微笑的观看者的潜在信息表示所标识的微笑的观看者。
所标识的图像中的微笑的观看者可以用来生成全息内容。为了生成全息内容,AI模型从标识层C开始,并将变换W2和W3应用于标识层C中的给定所标识的微笑的观看者的值。变换产生输出层E中的一组节点。用于变换的权重和参数可以指示所标识的微笑的观看者与特定全息内容和/或偏好之间的关系。在一些情况下,全息内容直接从输出层E的节点输出,而在其它情况下,内容生成系统将输出层E的节点解码到全息内容。例如,如果输出是一组标识的特性,则LF处理引擎可以使用特性来生成全息内容。
另外,AI模型可以包含被称为中间层的层。中间层是不对应于图像、不标识特性/反应等或不生成全息内容的层。例如,在给出的实例中,层B是卷积层A与标识层C之间的中间层。层D是标识层C与输出层E之间的中间层。隐藏层是标识的不同方面的潜在表示,所述潜在表示在数据中未观察到,但是当标识特性和生成全息内容时可以控制图像的元件之间的关系。例如,隐藏层中的节点可以与共享“笑的人微笑”的共性的输入值和标识值具有强连接(例如,大的权重值)。作为另一个实例,隐藏层中的另一个节点可以与共享“害怕的人尖叫”的共性的输入值和标识值具有强连接。当然,神经网络中可以存在任何数量的链接。另外,每个中间层是功能的组合,例如,残差块、卷积层、池化操作、跳过连接、串联等。任何数量的中间层B都可以用于将卷积层减少到标识层,并且任何数量的中间层D都可以用于将标识层增加到输出层。
在一个实施例中,AI模型包含已经用强化学习训练的确定性方法(由此创建强化学习模型)。所述模型被训练为使用来自跟踪系统580的测量结果作为输入并且使用所创建全息内容的改变作为输出来提高执行游戏应用程序期间的体验的质量。
强化学习是机器学习系统,其中机器学习“做什么”-如何将情况映射到动作-从而最大化数字奖励信号。不告知学习者(例如,LF处理引擎530)要采取哪些动作(例如,生成规定的全息内容),而是通过尝试所述动作发现哪些动作产生最高的奖励(例如,通过使更多人欢呼来提高全息内容的质量)。在一些情况下,动作不仅可以影响即时奖励,而且影响下一种情况,并因此影响所有后续奖励。试错搜索和延迟奖励这两个特性是强化学习的两个区别特征。
强化学习不是通过表征学习方法来定义的,而是通过表征学习问题来定义的。基本上,强化学习系统捕获学习代理与其环境进行交互以实现目标所面临的问题的那些重要方面。换句话说,在生成表演者的歌曲的实例中,强化学习系统捕获关于呈现空间中的观看者的信息(例如,年龄、性情等)。这种代理感测环境的状态并且采取影响状态的动作以实现一个目标或多个目标(例如,创建观看者将为其欢呼的流行歌曲)。在其最基本形式中,强化学习的制定包含学习者的三个方面:感觉、动作和目标。继续以歌曲为例,LF处理引擎530使用跟踪系统580的传感器来感测环境的状态,向环境中的观看者显示全息内容,并实现作为观看者对所述歌曲的接收的度量的目标。
强化学习中出现的挑战之一是探索与利用之间的权衡。为了增加系统中的奖励,强化学习代理更喜欢过去尝试过的并且发现要有效产生奖励的动作。然而,要发现产生奖励的动作,学习代理会选择之前未选择的动作。代理“利用”其已经知道的信息以获得奖励,但是其也“探索”信息以便将来做出更好的动作选择。学习代理尝试各种动作,并逐渐偏爱那些看起来最好的动作,同时仍尝试新动作。在随机任务上,每个动作通常都会尝试多次,以获得对其预期奖励的可靠估计。例如,如果LF处理引擎创建了LF处理引擎知道的将导致观看者在长时间段后笑的全息内容,则LF处理引擎可以改变全息内容,使得直到观看者笑的时间减少。
进一步地,强化学习考虑了目标导向的代理与不确定的环境进行交互的整个问题。强化学习代理有明确的目标,可以感测其环境的各方面,并可以选择接收高奖励的动作(即,咆哮的人群)。此外,尽管代理面临的环境存在显著的不确定性,但其通常仍在进行操作。当强化学习涉及计划时,系统将解决计划与实时动作选择之间的相互作用,以及如何获取和改善环境要素的问题。为了使强化学习取得进步,必须分离和研究重要的子问题,子问题在完整的交互式寻求目标的代理中起明确作用。
强化学习问题是机器学习问题的框架,在所述框架中,处理交互并执行动作以实现目标。学习者和决策者被称为代理(例如,LF处理引擎530)。与之交互的事物(包括代理外部的所有事物)被称为环境(例如,呈现空间中的观看者等)。这两个持续地进行交互,代理选择动作(例如,创建全息内容),并且环境响应于这些动作并将新情况呈现给代理。环境还带来了奖励,即,代理试图随时间最大化的特殊数值。在一种背景下,奖励起到使观看者对全息内容的肯定反应最大化的作用。完整的环境规范定义了作为强化学习问题的一个实例的任务。
为了提供更多上下文,代理(例如,LF处理引擎530)与环境在一系列离散时间步长(即,t=0、1、2、3等)中的每个离散时间步长中交互。在每个时间步长t处,代理接收环境状态st的一些表示(例如,来自跟踪系统580的测量结果)。状态st在S内,其中S是可能状态的集合。基于状态st和时间步长t,代理选择动作at(例如,使执行者进行拆分)。动作at在A(st)内,其中A(st)是可能动作的集合。一个时间状态之后,部分作为其动作的结果,代理接收数字奖励rt+1。状态rt+1在R内,其中R是可能奖励的集合。一旦代理接收到奖励,代理就会选择新状态st+1。
在每个时间步长处,代理都会实施从状态到选择每个可能动作的概率的映射。此映射被称为代理的政策并且被表示为πt,其中如果st=s,则πt(s,a)是at=a的概率。强化学习方法可以决定代理如何由于代理动作产生的状态和奖励来更改其策略。代理的目标是使随着时间的推移接收到的奖励的总量最大化。
这种强化学习框架非常灵活,并且可以以许多不同的方式(例如,生成全息内容)应用于许多不同的问题。框架提出,无论感觉、记忆和控制设备的细节如何,学习目标导向行为的任何问题(或目的)都可以减少到代理与其环境之间来回传递的三个信号:一个信号表示由代理做出的选择(动作)、一个信号表示做出选择的依据(状态)以及一个信号定义代理目标(奖励)。
当然,AI模型可以包含任何数量的机器学习算法。可以采用的一些其它AI模型是线性和/或逻辑回归、分类和回归树、k均值聚类、矢量量化、生成式对抗网络等。无论情况如何,通常,LF处理引擎530从跟踪模块526和/或观看者概况分析模块528进行输入,并且作为响应,机器学习模型创建全息内容。类似地,AI模型可以引导全息内容的渲染。
在实例中,LF处理引擎530增强游戏应用程序的虚拟角色。LF处理引擎530可以使用存储在数据存储装置522中的观看者概况中包含的信息来增强虚拟角色。例如,存储的观看者概况中包含的信息表明,大量观看者被莫霍克头(mohawk)的武士女祭司所吸引。因此,LF处理引擎530增强虚拟角色,使得其通过LF显示系统500显示为具有橙色莫霍克头的女性野蛮人萨满。更明确地,LF处理引擎530访问呈现空间中的观看者的观看者概况。LF处理引擎530将每个观看者概况中的信息参数化(例如,量化)。例如,LF处理引擎530可以对如观看者的年龄、位置、性别、偏好等特征进行量化。进一步地,LF处理引擎530可以将观看者概况中包含的其它信息参数化。例如,观看者概况可以指示观看者已执行包含四位强大女主角的游戏应用程序,更喜欢玩法师类,并且总体上更喜欢其角色的疯狂发型。观看者概况可以将这种趋势量化(例如,生成指示观看者对女运动员的关注的评分)。LF处理引擎530将参数化的用户概况输入到AI模型(例如,神经网络)中,所述AI模型被配置成基于输入参数生成虚拟运动员的特征,并且作为响应接收虚拟角色的特征。然后LF处理引擎530将虚拟运动员的特征输入到AI模型(例如,程序化生成算法)中,所述AI模型被配置成生成给定一组身体特征的运动员并生成虚拟女运动员。虽然本公开通常使用角色的实例作为在游戏应用程序中对用户进行控制的实体,但在一些游戏(如解谜游戏或独立游戏)中,受控的实体可以是没有感情的对象。例如,在全息视频游戏中,解谜游戏可以具有通过某个3D光标移动的块。
LF处理引擎530可以基于呈现空间中所示的游戏应用程序而创建全息内容。例如,呈现空间中所示的游戏应用程序可以与描述游戏应用程序的特征的一组元数据相关联。所述元数据可以包含例如设置、流派、游戏应用程序类型、主题、标题、游戏时间等。LF处理引擎530可以访问描述游戏应用程序的元数据中的任何元数据,并且作为响应生成存在于呈现空间中的全息内容。例如,题为“卓越杯(Excellent Bowl)”的游戏应用程序为即将在用LF显示系统500增强的呈现空间中进行的游戏。LF处理引擎530访问游戏应用程序的元数据以创建用于游戏应用程序开始之前的呈现空间的壁的全息内容。此处,元数据包含适于卓越杯的充满活力的体育场设置。LF处理引擎530将元数据输入到AI模型中,并且作为响应接收用于在呈现空间的壁上显示的全息内容。在此实例中,LF处理引擎530创建用于在游戏应用程序开始进行之前在呈现空间的壁上显示的海边日落。
在一实例中,LF处理引擎530基于存在于包含LF显示系统500的呈现空间的观看者来创建全息内容。例如,一组观看者进入呈现空间以观看游戏应用程序的电竞事件,所述电竞事件将通过由LF显示系统500显示的全息内容而得到增强。观看者概况分析模块528生成呈现空间中的观看者的观看者概况,以及表示呈现空间中的所有观看者的聚合观看者概况。LF处理引擎530访问聚合观看者概况并创建用于显示给呈现空间中的观看者的全息内容。例如,呈现空间中的观看者是一组观看为冠军而努力的团队的电竞粉丝,因此聚合观看者概况包含指示电竞粉丝可能喜欢与竞技团队的超级粉丝相称的全息内容的信息(例如,通过参数化并输入到AI模型中)。因此,LF处理引擎530生成使得呈现空间为更喧闹的气氛(例如,泡沫手指、吟颂、噪声制造机等)的全息内容。
在一实例中,LF处理引擎530基于观看游戏应用程序的执行的观看者的响应来创建全息内容。例如,呈现空间中的观看者正在观看通过游戏应用程序生成并以全息内容的形式在通过LF显示系统500增强的呈现空间中呈现的视频游戏数据。跟踪模块526和观看者概况分析模块528监测观看视频游戏数据的观看者的反应。例如,跟踪模块526可以在观看者观看视频游戏数据时获得所述观看者的图像。跟踪模块526标识观看者,并且观看者概况分析模块528可以使用机器视觉算法基于图像中包含的信息来确定观看者的反应。例如,AI模型可以用于标识观看视频游戏数据的观看者是否在微笑,并且因此,观看者概况分析模块528可以基于微笑在观看者概况中表明观看者是否对视频游戏数据做出积极或消极响应。也可以确定其它反应。跟踪模块可以确定关于观看者的信息,所述信息包含观看者的定位、观看者的移动、观看者的手势、观看者的表情、观看者的年龄、观看者的性别、观看者的种族或观看者穿戴的衣物。此信息可以与观看者概况分析模块528共享以生成观看者概况。
LF处理引擎530可基于先前存在或提供的广告内容来创建全息内容。换句话说,例如,LF处理引擎530可以通过网络接口524从网络系统请求广告,作为响应,网络系统提供全息内容,并且LF处理引擎530创建用于显示包含广告的全息内容。广告的一些实例可以包含产品、文本、视频等。可以基于所述视见体中的观看者将广告呈现给特定的视见体。类似地,全息内容可以通过广告(例如,产品放置)来增强视频游戏数据。最通常地,如先前所描述的,LF处理引擎530可以基于呈现空间中的观看者的特性和/或反应中的任何特性和/或反应来创建广告内容。
创建内容的前述实例不是限制性的。最广泛地,LF处理引擎530创建全息内容以用于显示给LF显示系统500的观看者。可以基于LF显示系统500中包含的信息中的任何信息来创建全息内容。
游戏网络
图5B展示了根据一个或多个实施例的示例LF游戏网络550,所述游戏网络包含一个或多个游戏系统(例如,游戏系统560A、560B、560C等)。每个游戏系统可以包含LF显示系统(例如,LF显示系统500A、500B等)和游戏应用程序,或者可以是具有游戏应用程序的独立游戏系统(例如,游戏系统560C)。LF显示系统可以与本文所述的LF显示系统(例如,LF显示系统100、400、500)类似地进行配置。游戏应用程序是被配置成执行可以产生全息视频游戏数据的视频游戏的软件块。在一些实施例中,游戏应用程序可以产生全息视频游戏数据和2D数据两者,或者其可以是游戏应用程序的单独版本,其中所述版本中的仅一个版本产生全息视频游戏数据。
LF显示系统可以使用全息视频游戏数据来生成用于呈现视频游戏数据的全息视频游戏内容。LF游戏网络550还包含游戏服务器554、网络系统556和网络552。如以下更详细描述的,游戏服务器可以用于管理游戏(即管理和/或协调游戏应用程序590)。网络系统可以被配置成管理游戏应用程序、视频游戏数据和全息视频游戏内容的数字权限和分配。网络552是允许信息在LF游戏网络550中的实体之间传播的网络。在其它实施例中,LF游戏网络550包括除了本文所描述的那些实体之外的额外或更少的实体。类似地,可以以与此处所描述的方式不同的方式在不同实体之间分配功能。
更广泛地,游戏服务器554生成视频游戏数据。在一些实施例中,此视频游戏数据可以是全息视频游戏内容。在其它实施例中,游戏服务器554管理一个或多个游戏应用程序实例的视频游戏。游戏服务器可以执行规则、保持对游戏状态的跟踪和/或使多个游戏应用程序之间的游戏状态同步。在这些实施例中,每个视频游戏应用程序590可以生成用于通过对应LF显示系统500A或500B呈现的全息视频游戏内容。全息视频游戏内容可以包含全息视频内容,连同可以在显示视频游戏时通过LF显示系统投影的事件的任何所记录的感觉数据或合成数据。例如,感觉数据可以包含所记录的音频、所记录的图像、所记录的与对象的交互等。可使用许多其它类型的感觉数据。为了说明,所记录的视觉内容可以包含:3D图形场景、3D模型、对象放置、纹理、颜色、阴影和照明;可以使用AI模型和较大数据集的类似视频游戏转化成全息形式的2D视频游戏数据;来自用具有或不具有深度信道的许多相机进行的相机绑定的多视点相机数据;全光相机数据;CG内容;或如本文所描述的事件的其它类型的所记录的感觉数据。
在一些配置中,全息视频游戏内容可以通过专有编码器编码以执行将视频游戏的全息视频游戏内容消减为如上所述的矢量化数据格式的编码操作。在一些情况下,游戏服务器554生成全息视频游戏内容并将所述全息视频游戏内容编码为矢量化格式,如上所述,然后将所述全息视频游戏内容在网络554之上发送。将数据编码为矢量化数据可以包含图像处理、音频处理或可以产生更容易在网络552之上传输的消减的数据集的任何其它计算。编码器可以支持由制作视频游戏的行业专业人员使用的格式。在其它配置中,游戏服务器554可以将全息视频游戏内容传输到网络系统556和/或LF显示系统而不对内容进行编码。在其它配置中,游戏服务器554将正常视频游戏数据传输到视频游戏应用程序590,所述视频游戏应用程序生成全息视频游戏数据,所述全息视频游戏数据然后可以被编码为用于LF显示系统500A或500B的矢量化格式。
每个游戏系统(例如,560A、560B、560C)可以通过网络接口(例如,网络接口524)从网络552接收视频游戏数据。在一些实施例中,如上所述,视频游戏数据可以是可能地以矢量化格式编码的全息视频游戏数据,并且每个LF显示系统500的LF处理引擎530包含用于解码经编码的全息视频游戏内容的解码器。在其它实施例中,通过游戏应用程序590接收正常视频游戏数据,并且游戏应用程序生成全息视频游戏数据,所述全息视频游戏数据在被发送到LF处理引擎530之前可以进行编码或可以不进行编码。在接收到经编码的数据后,LF处理引擎530通过将解码器所提供的解码算法应用于接收到的经编码的全息游戏内容生成针对LF显示器组合件510的光栅化数据。在一些实例中,LF处理引擎可以另外地使用来自如本文所述的LF显示系统的跟踪模块、观看者概况分析模块和感觉反馈系统的输入生成针对LF显示系统的光栅化数据。在一些实施例中,生成用于LF显示器组合件510的光栅化数据再现了通过游戏应用程序590生成的游戏内容,所述游戏应用程序反过来由游戏服务器554管理。重要的是,每个LF显示系统500A和500B生成适于LF显示器组合件在游戏系统所位于的地方的几何形状、分辨率等方面的特定配置的光栅化数据。在一些配置中,编码和解码过程是可以提供给显示客户或第三方许可的专有编码/解码系统对(或“编解码器”)的一部分。在一些情况下,编码/解码系统对可以被实施为可以向内容创建者提供公共编程接口的专有API。
在一些配置中,LF游戏网络550中的各个LF游戏系统560A、560B可以具有分别对应于对应LF显示系统500A、500B的不同LF显示器组合件510的不同硬件配置。硬件配置可以包含物理系统的布置、能量源、能量传感器、触觉接口、感觉能力、分辨率、视场、LF显示模块配置或LF游戏网络550中的系统的任何其它硬件描述。每个硬件配置可以生成或利用呈不同数据格式的感觉数据。因此,解码器系统可以被配置成解码用于其将在上面呈现的LF显示系统的经编码的游戏内容。例如,LF游戏系统560A执行游戏应用程序590,所述游戏应用程序生成作为对应LF显示系统500A的输入的全息游戏内容。LF显示系统500A具有第一硬件配置,并且解码系统访问描述游戏系统560A的此第一硬件配置的信息。解码系统使用访问的硬件配置解码经编码的游戏内容,使得经解码的游戏内容可以被接收型LF显示系统500A的LF处理引擎530处理。LF处理引擎530生成并呈现用于第一硬件配置的光栅化游戏内容,但是以与任何特定硬件配置的分辨率、视场、所投影的每度射线等无关的格式生成。以类似方式,通过LF游戏系统560B的游戏应用程序590生成的类似全息游戏内容可以通过第二硬件配置呈现。通常,可以生成用于任何游戏系统(例如,游戏系统560A、560B)的全息游戏内容,而不管对应LF显示系统500A、500B的LF显示器组合件的硬件配置如何。硬件配置中可以包含的各个其它方面可包含:分辨率、所投影的每度射线的数量、视场、显示表面上的偏转角以及显示表面的维度等。另外,硬件配置还可以包含LF显示器组合件的多个显示面板、显示面板的相对朝向、显示面板的高度、显示面板的宽度以及显示面板的布局。
类似地,LF游戏网络550中的各个游戏系统可以具有不同的几何朝向。几何朝向反映了包含游戏系统的LF显示系统的各个模块和系统的物理大小、布局和布置。因此,解码器系统可以被配置成解码用于呈几何配置的其将在上面呈现的LF显示系统的经编码的游戏内容。例如,包含具有第一几何配置的LF显示系统(例如,LF显示系统500A)的游戏系统(例如,游戏系统560A)从游戏服务器(例如,游戏服务器554)接收经编码的游戏内容,从而生成与任何特定几何配置无关的游戏内容。解码系统访问描述LF显示系统560A的第一几何配置的信息。解码系统使用访问的几何配置解码经编码的游戏内容,使得经解码的游戏内容可以被接收型LF显示系统500A的LF处理引擎530处理。LF处理引擎530生成并呈现第一几何配置的内容,但是所述内容是以与特定几何配置无关的格式记录的。以类似方式,通过游戏服务器554生成的全息内容可以通过任何LF游戏系统(例如,LF显示系统560B)呈现,无论几何配置如何。可以包含在几何配置中的各个其它方面可以包含:LF显示器组合件的显示面板(或表面)的数量、显示面板的相对朝向。
类似地,LF游戏网络550中的各个游戏显示区域空间可以具有不同配置。呈现空间配置反映以下中的任一项:全息对象体的数量和/或定位、视见体的数量和/或定位,以及相对于LF显示系统的观看位置的数量和/或定位。因此,解码器系统可以被配置成解码用于其将在其中呈现的游戏显示区域的经编码的游戏内容。例如,具有带具有第一游戏显示区域空间的LF显示器组合件510的LF显示系统(例如,LF显示系统500A)的游戏系统(例如,游戏系统560A)接收来自游戏应用程序590的生成用于通用游戏显示区域(或一些其它空间)的经编码的游戏内容。解码系统访问描述特定于LF显示系统500A的游戏显示区域空间的信息。解码系统解码用于适当游戏显示区域的经编码的视频游戏内容,使得可以由安装在游戏显示区域中的LF处理引擎530处理经解码的数据。LF处理引擎530生成并呈现用于游戏显示区域的内容,但是所述内容被生成用于在一般游戏显示区域中呈现。
网络系统556是被配置成管理游戏内容在LF游戏网络550中的系统之间的传输的任何系统。例如,网络系统556可以从游戏系统560A接收对游戏内容的请求并且促进游戏内容从游戏服务器554传输到显示系统500A。网络系统556还可以存储游戏内容、观看者概况、额外全息或感觉内容等,以用于传输到LF游戏网络550中的其它游戏系统560和/或由其它游戏系统存储。网络系统556还可以包含LF处理引擎530,所述LF处理引擎可以生成如前所述的全息内容。
网络系统556可以包含用于管理游戏内容的数字权限的数字权限管理(DRM)模块。如前所述,在一些情况下,游戏服务器仅与一个或多个游戏应用程序590交换正常非全息游戏状态数据。例如,游戏服务器554可以将全息内容传输到网络系统556,并且DRM模块可以使用数字加密格式对全息内容加密。在其它实例中,游戏服务器554将所记录的光场数据编码为可以由DRM模块管理的全息内容格式。网络系统556可以将数字加密密钥的密钥提供给LF游戏系统560A或560B的LF显示系统,使得每个对应LF显示系统500A或500B可以分别解密全息内容并随后向观看者显示全息内容。最通常地,网络系统556和/或游戏服务器554编码视频游戏数据,并且LF显示系统可以解码视频游戏数据。
网络系统556可以充当先前所记录的和/或所创建的全息内容(例如,游戏内容)的储存库。每条全息内容可以与交易费用相关联,使得当接收到交易费用时,使网络系统556将全息内容传输到提供交易费用的LF显示系统500。例如,LF显示系统500A可以通过网络552请求访问全息内容。所述请求包含用于全息内容的交易费用。作为响应,网络系统556将全息内容传输到LF显示系统以向观看者显示。在其它实例中,网络系统556还可以起到存储在网络系统中的全息内容的订阅服务的作用。在另一实例中,游戏服务器554实时处理游戏数据并且生成表示视频游戏的全息内容。游戏系统560A将对游戏内容的请求传输到游戏服务器554。所述请求包含用于游戏内容的交易费用。作为响应,游戏服务器554传输游戏内容以供在游戏系统上显示。作为实例,游戏系统560A的用户可以将付款传输到网络系统556以访问用于其在游戏应用程序590中的角色的特定装备。更通常地,网络系统556可以充当交换交易费用和/或管理跨网络552的全息内容数据流的中介。另外,在一些情况下,网络系统能够修改全息内容,使得其可通过接收全息内容的LF显示系统呈现。
在一些实例中,网络系统556可以充当用于游戏应用程序的平台(例如,STEAM)。在这种情况下,网络系统可以存储保存文件、配置文件、数字权限、付款信息、游戏系统配置信息等。进一步地,网络系统可以存储不同的游戏应用程序,使得游戏网络550中的游戏系统可以访问和下载额外游戏应用程序。网络系统550还可以存储前述与特定游戏应用程序相关联的信息中的任何信息。例如,网络系统可以存储安装在网络中的特定游戏系统上的第一游戏应用程序和第二游戏应用程序的数字权限。在另一实例中,网络系统可以存储多个游戏应用程序的保存文件,使得用户可以从LF游戏网络556内的不同游戏系统访问保存文件。
网络552表示LF游戏网络550中的系统之间的通信路径。在一个实施例中,网络是因特网,但也可以是任何网络,包含但不限于局域网(LAN)、城域网(MAN)、广域网(WAN)、移动、有线或无线网络、云计算网络、专用网络或虚拟专用网络以及其任何组合。另外,可以使用常规加密技术对连接中的所有或部分链接进行加密,如安全套接层(SSL)、安全HTTP和/或虚拟专用网络(VPN)。在另一实施例中,实体可以使用代替或除了上述技术的定制和/或专用数据通信技术。
游戏网络中的游戏应用程序
如上所述,游戏系统可以包含各种LF游戏系统560A、560B,每个游戏系统分别具有对应的LF显示系统500A、500B,并且游戏系统可以联网在一起以形成LF游戏网络550。在游戏网络550内,游戏系统执行游戏应用程序。游戏应用程序可以在独立硬件上执行,或者可以并入到LF显示系统中。在任一情况下,游戏应用程序都是允许用户参与视频游戏的软件程序。视频游戏包含各种类别,包含例如模拟、策略、大逃杀等。视频游戏生成可以为执行游戏应用程序的用户提供娱乐的内容。
通过游戏应用程序(例如,游戏应用程序590)生成的视频游戏内容可以以全息内容的形式显示在LF显示系统(例如,LF显示系统500A)上。游戏应用程序590将表示视频游戏内容的几种数据格式之一提供给控制器(例如,控制器520),并且LF处理引擎(例如,LF处理引擎530)由视频游戏内容生成全息内容。
在一实施例中,输入到控制器520中的数据(“输入数据”)源自于游戏应用程序590。例如,输入数据可以表示来自游戏应用程序内的计算机生成(“CG”)的场景。场景可以包含例如几何形状、纹理、照明和材料性质。场景可以根据几种方法来渲染。例如,用对应于具有或不具有深度信道的多个视角的多个视图如下进行渲染:以4D或5D(4D+深度)光场的形式,以深度图像的形式(即,允许每个X-Y能源位置坐标具有多个RGBAZ(红色、绿色、蓝色、α和Z)样品的格式),以具有较大分辨率的中心视图和对应于较低分辨率的多个视角的多个侧视图的形式,以用于获得较低数据带宽的深度图的形式,以具有对应于仅记录了增量RGB信道数据集差异的不同视角的多个侧视图的多个视图形式。渲染可以组合任何数量的方法,也可以包含本文未公开的其它方法。更通常地,输入数据可以以保留光场数据和描述光强度随每个投影的全息表面上的视角的变化的数据的格式渲染。
在一实施例中,游戏应用程序590将关于显示器组合件510的硬件配置(如分辨率、每度射线、几何形状等)的元数据提供给游戏服务器554,所述游戏服务器554使用这些元数据来生成光栅化LF数据,然后在网络552之上将所述光栅化LF数据提供给LF显示系统,可能地用于进一步操纵以将在显示在LF显示器组合件510上之前的显示校准(例如,所需的变形、局部颜色校准等)考虑在内。在其它实施例中,游戏服务器554支持多种常见硬件配置,并且将LF数据的多于一个流递送到游戏应用程序590。
在一些实例中,可以向游戏应用程序或游戏系统提供能够由输入数据生成全息内容的工具。例如,可以向游戏应用程序提供工具包、文库、编解码器、应用程序编程接口(API)等(“工具”),所述工具使渲染的输入数据能够转化为全息输出数据并呈现给LF显示系统500内的LF控制器520的LF处理引擎530。进一步地,所述工具可以允许游戏应用程序和/或游戏系统转化针对特定LF显示系统的输入数据。例如,考虑到LF显示系统的多个模型,游戏应用程序可以采用使输入数据可用于LF显示系统的所有这些模型的工具。
还可以由输入到LF处理引擎530的视频游戏数据生成用于不同能量域(例如,音频、触觉等)的全息内容。例如,输入数据可以包含来自游戏的音频数据(例如声音或枪声)。LF处理引擎530可以生成具有所编码的音频数据的全息内容。在另一实例中,输入数据可以包含用于表面纹理或用于传播压力波(例如来自爆炸或徒手格斗)的触觉信息。在这种情况下,LF处理引擎530可以生成使得具有作为感觉反馈系统570的一部分的超声波换能器的LF显示系统能够生成超声能量波和/或表示全息视频游戏数据内的表面的触觉表面的全息内容。在一些情况下,LF处理引擎530可以解译不具有感觉数据的输入数据并且生成用于所述数据的感觉内容。例如,输入数据可以仅包含爆炸的视觉表示,并且LF处理引擎530可以生成包含对爆炸的触觉反馈的对应全息内容。
可以在LF游戏网络内以多种方式实施游戏应用程序。例如,游戏应用程序可以被实施为客户端-服务器游戏应用程序。在这些实例中,存在负责管理游戏状态的授权单玩家或多玩家服务器(例如,游戏服务器554)。在一个或多个游戏系统(例如,LF游戏系统560A)上执行的一个或多个玩家客户端(例如,游戏应用程序590)可以连接到此游戏服务器并参与游戏,由此影响游戏状态。在此,游戏服务器554可以使用多种方法管理一个或多个游戏应用程序的游戏体验,所述方法包含例如收集来自游戏系统的输入、收集来自客户端的时间戳、使连接的游戏系统之间的游戏状态同步、执行游戏应用程序的全局规则、验证并执行游戏应用程序动作、将游戏状态快照发送到连接的游戏系统等。其它实例也是可能的。
客户端-服务器架构使游戏应用程序590能够将用户输入转发到游戏服务器554以供执行。例如,用户由本地计算装置(例如,LF游戏系统560A)执行游戏应用程序,并且游戏服务器554驻留在远离玩家的计算装置上。在一实施例中,游戏系统560A可以执行游戏应用程序的一个版本(例如,游戏应用程序590),并且服务器可以运行游戏应用程序的相同版本。在此实施例中,没有在网络552之上转移全息视频游戏数据转移。在另一实施例中,游戏服务器554可以执行被配置成管理多玩家连接性的游戏应用程序的版本。游戏服务器554接收从在游戏系统560A上执行的游戏应用程序590采样的输入数据,并使用所述输入生成全息视频游戏内容。在至少一个实施例中,此全息视频游戏数据被编码(例如,编码为矢量化格式)并在网络552之上转移到LF游戏系统560A、560B。
在客户端-服务器架构中,游戏应用程序的游戏状态由游戏服务器554维护。游戏状态包含执行游戏所需的所有数据和逻辑。游戏状态信息的一些实例包含例如当前玩家来源、定位以及构成单个时间点时的游戏快照的所有对象。通常,访问游戏服务器554的游戏系统不允许定义主游戏状态,而是从服务器接收所述游戏状态。然而,为了给玩家提供即时响应的错觉,游戏系统可以预测游戏的流程,并且对显示给玩家的游戏状态进行软更改。在这种情况下,游戏服务器554可以在从服务器到达时通过与服务器的游戏状态更新协调来调整或甚至消除这些变化中的一些变化。当更新后的服务器游戏状态到达时,根据更新后的游戏状态以及游戏系统已发送到服务器但尚未被告知收到的玩家输入重新计算游戏系统处的游戏应用程序的预测状态。响应于游戏系统,游戏服务器554还可以通过将使用如滞后补偿等技术进行的网络延迟考虑在内来计算游戏状态(例如,将时间倒退适当的量,以便确定拍摄客户端在激发拍摄时看到了什么以确定是否在较早时间击中目标)。游戏系统从运行游戏逻辑的游戏服务器554接收到的数据有时被称为游戏数据。
在一些实施例中,图5B中所示的LF游戏网络可以具有替代配置。例如,在一个实施例中,游戏应用程序590既是服务器也是客户端。游戏应用程序590在所述应用程序开始允许通过网络进行其它连接的时间(可能地游戏中期)之前可以是单玩家游戏而不是服务器。应用程序则是多玩家游戏的授权方,并且也是单玩家游戏客户端和接口。有时这可以被实施为生成服务器作为游戏的子进程。我的世界(Minecraft)将是此游戏的实例,其设计方式使得应用程序的子进程是仅监听本地主机的服务器,除非应用程序的用户点击UI按钮(即使游戏正在运行并且角色处于由子服务器进程驱动的世界中),所述UI按钮然后打开到网络接口524的端口。
在另一实例中,游戏应用程序可以被实施为LF游戏网络550内的具有远程渲染的游戏即服务(gaming-as-a-service)(RR-GaaS)架构(“远程渲染架构”)。在远程渲染架构中,游戏应用程序的实例存在于LF游戏网络550中的远程服务器(例如,游戏服务器554)上。编码器模块渲染游戏场景的每一帧,压缩针对场景的数据,并且将针对场景的数据传输到客户端(例如,LF游戏系统560A)。接收数据的LF游戏系统解码并显示全息视频游戏数据。在从游戏服务器554流式传输数据时,操作游戏系统的玩家与游戏系统上显示的内容交互。玩家响应被编码并发送到游戏服务器554上的解码器,并且游戏服务器554解码这些玩家响应并采用这些玩家相应作为游戏状态的控制输入。这种远程渲染模型需要大带宽来将视频转移到本地客户端,但其将游戏引擎的计算保持在游戏服务器554上。
在远程渲染架构中,游戏服务器可以采用LF处理引擎(例如,LF处理引擎530),所述LF处理引擎生成在游戏服务器554上管理的游戏的全息内容。游戏服务器554将全息视频游戏内容压缩为矢量化格式,用编解码器解码所述全息视频游戏内容,并且通过网络552将数据传输到LF游戏系统560A、560B。接收型LF游戏系统560A、560B的LF显示系统500A、500B将矢量化数据解码为光栅化格式以用于分别使用LF显示系统500A、500B向客户端显示。
在远程渲染架构中,LF游戏系统560A、560B的LF显示系统500A、500B可以将精确的硬件配置(例如分辨率、FOV的、显示面板拓扑、偏转角、校准数据等)和/或在显示全息视频游戏内容时游戏系统560A、560B的对应LF显示器组合件510的视见体考虑在内。在一实例中,LF显示系统可以读取一组配置或数据库文件以生成用于呈现全息内容的适当显示指令。解码型编解码器可以是用于编码数据的同一编解码器,并且这可以是LF显示系统制造商或游戏开发商专有的。类似于上面讨论的客户端-服务器架构,作为对更新后的全息视频游戏内容的响应的玩家输入可以被采样并使用常规装置(例如键盘或操纵杆)转发到游戏服务器550。
在另一实例中,游戏应用程序可以被实施为LF游戏网络550内的具有本地渲染的游戏即服务(LR-GaaS)架构(“本地渲染架构”)。在本地渲染架构中,游戏应用程序的实例存在于LF游戏网络550中的游戏服务器上,但游戏服务器554不渲染用于发送到游戏系统的全息视频内容。相反,游戏服务器554接受来自一个或多个连接的游戏系统的输入,对输入执行游戏逻辑,并且随后确定连接的游戏系统的游戏状态。游戏服务器554通过网络552将游戏状态数据传输到连接的游戏系统,并且每个游戏系统在本地渲染游戏状态的全息视频游戏内容。在一实施例中,游戏服务器554将游戏状态数据作为允许每个游戏系统独立地绘制每个帧的高级渲染指令来传输。在另一实施例中,游戏应用程序的实例可以在游戏系统上本地执行,并且游戏服务器被配置成传输游戏状态数据以更新本地游戏应用程序的游戏状态。在这种情况下,游戏应用程序可以每秒多次本地更新和渲染当前游戏状态(例如,以解决对手的移动或其它游戏动作)。
在此本地渲染架构中,在游戏系统上执行的游戏应用程序可以向本地执行的LF显示系统500的LF处理引擎530提供几种数据格式之一。此外,LF处理引擎530使用此数据来渲染针对LF显示器组合件的光栅化视频数据,从而将游戏系统的硬件配置、视见体等考虑在内以适当地呈现渲染后的全息视频游戏内容。
在另一实例中,游戏应用程序可以被实施为LF游戏网络550内的对等架构。在对等架构中,游戏服务器554不管理全局游戏状态。相反,每个连接的游戏系统控制其本地游戏状态。在总体假设此信息可靠且正确的情况下,对等点(例如,游戏系统)向所有其它对等点发送数据,并从其它对等点接收数据。在此架构中,对等点中的一个或多个对等点可以使用LF显示系统渲染游戏的视图。此过程类似于此处和以上描述的方法。游戏系统还可以将矢量化全息视频游戏内容或视频游戏数据传输到其它连接的游戏系统和/或旁观者。
LF游戏网络550的各种架构有几种不同的收入模型。例如,LF游戏网络550可以采用订阅服务。也就是说,LF游戏网络可能需要用于管理LF游戏网络550内的游戏应用程序590的传输、执行和/或管理的付款。在付款中可以是一段时间(例如,每月)、按游戏订阅特定游戏或用于访问游戏服务器554上的游戏服务的付款。
在一实施例中,订阅可以包含不同的层级。每个不同的层级可以对应于全息内容体验的不同水平。例如,最低层级可以包含渲染较低水平,而最高层级包含渲染的较高水平。在另一实例中,每个层级可以包含额外感觉体验。为了说明,第一层级可以仅包含光场和听觉内容,而第二层级包含光场、听觉和触觉内容。在一些实例中,可以保留游戏应用程序的二维表示的层级,使得所述层级可以被不具有LF显示系统的游戏系统使用。包含LF显示系统的游戏系统可以增加游戏市场的价值,特别是在可购买的内容可以以全息图的形式观看的情况下。
LF游戏系统可以支持游戏应用程序的各种类型的旁观者。在一实施例中,LF游戏系统560A、560B的LF显示系统500A、500B可以将通过LF显示系统呈现的渲染后的全息视频游戏内容压缩为矢量化格式,用编解码器编码所述内容,并且LF游戏系统可以通过网络552将数据以实时流的形式传输给其它旁观者。流可以采用各种格式。例如,游戏系统可以流式传输对应于不同视图的经压缩的视频。第一视图可以是游戏动作的独立视图。第二视图可以定位于提供流的游戏系统的视点。LF游戏网络550中的旁观者可以在LF游戏系统上执行游戏应用程序的实例以观看全息视频游戏内容。所述流可以实时或在小的时间延迟的情况下更新旁观者的本地游戏应用程序的游戏数据。时间延迟可以由于网络延迟而存在,或者被有意插入以便于防止作弊(例如,通过缓冲来自游戏流源的数据)。旁观者不提供游戏应用程序的输入,而只是游戏状态的观察者。这样的旁观者可以选择将流渲染为用于2D显示的单个视图、用于自动立体观看的多个视图或用于旁观者光场显示的全息数据。所有这些渲染方法都可以以每游戏、每游戏系列、一段时间内的订阅模式或某种类似布置的形式提供,以换取数字权限管理系统的付款。在另一实施例中,可以将流发送到其它观看者可观看的流式服务(例如Twitch)。
LF游戏网络550中的游戏服务器554可以支持具有游戏状态的二维表示和/或四维表示两者的游戏应用程序。也就是说,游戏服务器可以渲染游戏中用于传统2D视频输出的场景,或者可以渲染用于4D光场输出的场景。4D光场输出可以与可用于光场显示器(例如,触觉表面)的额外能量域内容相关联。不同类型的表示可以采用数字权限管理系统并交换用于付款的内容,如本文所述。
游戏网络中的电竞
LF游戏网络可以被配置成支持电子竞技(“电竞”)。电竞是使用视频游戏进行的比赛的形式,其采取有组织的多玩家视频游戏比赛,特别是职业玩家之间、个人或作为团队的形式。电竞联赛通常发生在物理位置,并发生在现场观众面前。例如,电竞对抗赛可能发生在改建的篮球竞技场,在所述竞技场中玩家在场上采用计算机系统,并且将视频游戏呈现在竞技场中的大显示表面上。
通常,在电竞对抗赛期间,在本公开中将被称为观察者的专门旁观者具有在竞技场本地运行的游戏的实例。观察者可以在比赛内四处移动并将其视点呈现给竞技场中的大型监测器,使得在场的观众可以观看玩家进行比赛。此观察者还可以通过网络将其视点在线流式传输给更广泛的观众。观察者可以采用上述的旁观模式。
电竞竞技场可以被配置成使用LF显示系统来显示全息视频游戏内容。LF显示系统可以以多种方式进行配置。例如,LF显示系统500的LF显示器组合件510的表面可以是竞技场的地板。其它示例配置包含舞台的水平表面、在竞技场内可见的壁式安装的垂直显示器、弯曲显示表面等。在所有这些情况下,显示系统呈现全息视频游戏内容,以便竞技场中的观看者可观看所述内容。LF显示系统可具有如本文所述的多种几何形状。例如,LF显示系统可以包含中央显示器、具有朝观众成角度的侧面显示器的中央显示器、朝观众或围绕观众弯曲的显示表面、或显示表面拓扑的一些其它变体。
在竞技场内,游戏应用程序的实例执行游戏数据并将数据提供给LF处理引擎530。LF处理引擎渲染游戏内的场景,并且以竞技场中的LF显示系统的全息对象体内的全息视频游戏内容的形式呈现渲染后的场景。可以将如本文所述的竞技场显示器组合件的硬件配置、视见体几何形状等考虑在内来生成全息视频游戏数据。LF处理引擎可以由观察者、任何玩家或正在用游戏数据实时更新的游戏引擎的任何其它实例生成视点。
电竞事件也可以远程观看。例如,远程观察者可以执行游戏应用程序的实例。代表电竞的数据甚至可以通过网络接收并输入到位于远程位置的LF显示系统。位于远程位置的LF显示系统包含渲染和呈现电竞事件的全息视频游戏数据的LF处理引擎。与以上类似,本地观察者可能能够在远程位置管理所呈现的视点。还可能的是可以将观察者的视点直接同播到不运行游戏的实例的LF显示系统。例如,电竞竞技场内的玩家或观察者之一的LF显示系统可以将游戏数据实时压缩为矢量化数据,并通过网络将此数据流式传输到具有LF显示系统的一个或多个远程客户端。远程客户端可以解码矢量化数据,并以类似于已经针对远程渲染架构描述的方法投影全息内容。可以采用按次计费结构来从观看此类事件中产生收入。
用于视频游戏的光场显示系统
图6A-6B展示了根据一些示例实施例的内置在房间中的LF游戏系统。房间(例如,房间600A和房间600B)包含至少第一壁602和第二壁604并且可以是观看者610的起居室。此处,房间包含LF显示系统,其中LF显示模块阵列(“LF阵列”)620覆盖壁602和壁604。虽然图示的LF显示系统内置在壁中的两个壁中,但其可以内置在房间600的任何其它方面中。LF阵列620被配置成将全息视频游戏内容(例如,全息对象606和608)呈现给房间中的观看者(例如,观看者610)。在所图示的实例中,观看位置是房间600内的任何地方,但也可以是其它位置。在图6中,LF阵列620为LF显示器组合件510的实施例。进一步地,包含LF显示器组合件510的LF显示系统是LF显示系统500的实施例。
LF阵列620呈现通过游戏应用程序生成的视频游戏数据的全息视频游戏内容。房间中的观看者610可能能够感知所呈现的全息内容并与所述内容交互。在此实例中,来自网络系统556的视频游戏数据被游戏应用程序接收,所述游戏应用程序将视频游戏数据转化为全息视频游戏内容,并将全息内容呈现给LF显示系统500的控制器520以向房间内的一个或多个观看者(例如610)显示。视频游戏应用程序生成具有各种游戏中对象的游戏世界,如游戏角色、项和事件(例如,爆炸)。视频游戏应用程序还生成传输到网络系统556的输入,并且游戏应用程序接收针对游戏世界的游戏数据。
此处,LF阵列呈现描绘游戏世界的一部分的全息游戏内容。全息游戏内容包含在全息对象体中的对应真实世界定位处描绘游戏世界中的游戏中对象的全息对象。全息对象体可以在显示表面的前面(例如,在壁的前面)延伸到房间中,并且还可以在显示表面的后面(例如,在壁的后面)延伸。
在图6A的房间600A中,全息游戏内容包含向用户呈现的全息游戏内容的一部分中的全息对象606和全息对象608。这两个全息对象描绘了游戏世界中的不同游戏中对象。第一全息对象606描绘了站在观看者610前面的外星人,并且第二全息对象608描绘了发生在观看者610左侧的爆炸。尽管图6A中未示出,但全息游戏内容还可以包含在LF阵列620的显示表面后面延伸的全息对象体的一部分中的全息对象。例如,全息游戏内容可以使其看起来就像用户站在火星的表面上,其中在显示表面后面显示的表面上的全息对象描绘了远处岩石和其它游戏中对象。
观看者610站在房间600A中,并且可以观看全息游戏内容。在呈现全息游戏内容的同时,LF显示系统的跟踪系统可以跟踪用户的身体部位中的一个或多个身体部位的真实世界定位。例如,LF显示系统跟踪用户的手、手臂或躯干等,并且确定游戏世界中每个所跟踪的身体部位的对应定位。在一些实施例中,跟踪系统包含一个或多个2D相机、光场相机、一个或多个深度传感器或这些的组合。游戏应用程序可以被配置成接受此身体部位定位数据作为用户输入,从而允许用通过LF显示系统获取的跟踪信息更新游戏世界。
如以上更详细描述的,LF显示系统可以跟踪观看者610的一个或多个身体部位。例如,LF显示系统可以跟踪用户上半身、观看者610的眼睛或观看者610的手的定位。所跟踪的定位可以用于表示房间内的用户的身体部位的整体定位或特定定位。LF显示系统跟踪一个或多个身体部位的定位并且更新在房间600A中以全息内容形式呈现的游戏世界中的对应定位。
LF显示系统可以向观看者提供在执行游戏应用程序期间发生的交互的感觉提示。跟踪数据可以用于增强或确定这些交互的发生。例如,如果观看者正在参与战争游戏,则当游戏世界中的对应定位(即,与观看者610对应的定位)进入游戏对象所占据的空间体时,游戏中交互就会发生。例如,如果正在跟踪观看者的手,则当观看者610向前伸手以使他的手进入描绘外星人606的全息对象所占据的空间体时,游戏中交互就会发生。观看者的手的定位可以由房间600A内的LF显示系统的跟踪模块跟踪,并且作为用户输入提供给游戏应用程序。作为响应,游戏应用程序可以生成针对多于一个能量域的全息视频游戏数据。例如,全息视频游戏数据可以由LF显示系统处理,从而产生视觉提示(例如,显示对触摸做出反应的全息外星人)和触觉反馈(例如,表示外星人的皮肤的体触觉表面)两者。这为观看者610提供了触摸外星人的触觉感觉和视觉反馈,这实现了提供用户与真实外星人交互的错觉的沉浸式体验。
作为另一实例,当游戏世界中移动的游戏中对象与对应于所跟踪的身体部位的定位碰撞时,游戏中交互发生。例如,如果正在跟踪用户的躯干,并且将此所跟踪的身体定位作为用户输入提供给游戏应用程序,则游戏应用程序内的碰撞检测逻辑可以检测到当移动的对象与用户的躯干碰撞时游戏中交互发生。游戏应用程序可以生成到房间600A的LF显示系统的控制器的多感觉全息内容,所述控制器进而提供视觉提示(例如,显示从用户躯干反弹的全息对象)和触觉反馈(例如,在用户的躯干上生成体触觉表面)两者的组合以向用户提供被移动的对象撞击的物理感觉和视觉反馈两者。
在一些实例中,游戏中交互也可以在游戏世界中的事件发生在与所跟踪的身体部位相对应的定位的阈值距离内的情况下发生。与前面的实例一样,当游戏应用程序生成多感觉全息数据以指示游戏中交互发生时,LF显示系统可以提供视觉提示与触觉反馈的组合。例如,在图6A所示的实例中,爆炸(一种类型的事件)在对应于用户的定位的阈值距离内发生。对于图6A所示的爆炸事件,LF显示系统显示描绘爆炸的全息对象608并且还呈现触觉反馈(例如,触觉压力波612)以模拟被爆炸的爆炸波击中的物理感觉。游戏应用程序可以基于所跟踪的观看者610的定位、所跟踪的观看者610的移动或本文描述的任何信息来确定对游戏中事件的触觉反馈的幅度、定位、方向等。
在图6B的房间600B中,LF显示系统正在向观看者610呈现全息用户接口614。此处,LF显示系统跟踪观看者610的定位并且在与所跟踪的观看者的定位对应的定位处显示全息UI 614。LF显示系统可以在距观看者610的阈值距离内的定位处呈现全息UI。例如,阈值距离可以对应于普通成年人手臂的长度,使得全息UI 614被投影在观看者610的手臂伸手的范围内。当观看者610在房间到处移动时,LF显示系统继续跟踪观看者610的定位,并且LF显示系统相应地移动全息UI 614,使得全息UI 614显示在相对于观看者610的同一定位处。在一些实施例中,LF显示系统还可以跟踪观看者对UI 614的接口元件的选择,并将此所跟踪的数据作为输入提供给游戏应用程序。
全息UI 614可以描绘包含观看者610可以选择的一个或多个用户接口元件的接口。UI元件可以通过游戏应用程序控制各种功能,如访问菜单或选择用户的游戏中角色拥有的项。在其它实施例中,全息用户接口是如互联网浏览器等非游戏应用程序的一部分,并且UI元件控制应用程序的各种功能。
LF显示系统可以跟踪观看者610的身体部位(例如,观看者的手中的一只手或两只手)的定位,使得观看者610可以与全息UI 614交互。例如,游戏应用程序可以使用由LF显示系统的跟踪模块526提供的用户的手的定位来确定用户的手在UI元件的同一定位中,并且随后确定观看者610与所述元件交互。作为响应,游戏应用程序可以生成适当的全息视频游戏内容以及触觉内容以向用户传达用户已成功选择UI元件。例如,当观看者与全息UI 614的特定部分交互时,可以指示LF显示系统改变所选UI元件的颜色并朝用户的手投影超声波。这种视觉反馈与触觉反馈的组合提供了更加沉浸式体验,所述更加沉浸式体验提供了用户正在触摸真实世界触摸表面并且与所述表面交互的印象。
图7展示了根据一个或多个实施例的桌面LF游戏系统。此处,桌面LF游戏系统700包含内置到桌子708中的LF显示系统,其中LF显示模块阵列(“LF阵列”)720位于桌子708的顶表面702上。LF阵列720被配置成将通过游戏应用程序生成的全息视频游戏内容呈现给位于可以观看桌子708的顶表面702的观看位置的观看者。在图7中,LF阵列720为LF显示器组合件510的实施例。进一步地,LF显示系统是LF显示系统500的实施例。
LF阵列720呈现通过游戏应用程序生成的全息视频游戏内容,使得所述内容出现在桌子708的顶表面702上。视频游戏内容包含表示按钮的全息对象704。观看者能够感知所呈现的全息对象704并与所述全息对象交互。例如,观看者可以使用其手706以与全息对象704交互(例如,通过按下按钮),并且随后,LF显示系统可以跟踪手的运动,并且将手的定位提供给视频游戏应用程序。视频游戏应用程序可以确定按钮被按下,并因此生成更新后的全息视频游戏数据以供显示(例如,爆炸发生)。
另外,LF显示系统可以被配置成接收来自观看者的其它类型的交互(例如,听觉提示、视觉提示等)并且作为响应改变向用户呈现的全息视频游戏内容。作为说明,桌子708旁的观看者可以声明“暂停游戏”,LF显示系统记录音频,识别音频,并且作为响应暂停游戏应用程序。类似地,桌子708旁的观看者可以与全息内容交互以旋转通过LF阵列720显示的游戏世界的视图。作为说明,观看者可以使用其手创建旋转通过LF阵列720显示的游戏中世界的视图的手势。为此,LF显示系统捕获做出手势的观看者的图像序列,识别手势,并且作为响应旋转全息内容。
图8是展示了根据一个或多个实施例的用于实施采用LF显示系统的全息视频游戏的方法的流程图。也就是说,通过LF显示系统(例如,LF显示系统500)执行方法800。方法800可以包含额外或更少的步骤,并且所述步骤可以以不同次序发生。进一步地,可以在执行所述方法期间将各个步骤或步骤的组合重复任何次数。
LF显示系统跟踪810观看者的身体部位中的一个或多个身体部位的真实世界定位。例如,在上面关于图6A和6B描述的房间大小的系统中,LF显示系统的跟踪系统可以跟踪观看者的多个身体部位(例如,观看者的头部、手和躯干)。
LF显示系统确定820游戏世界中对应于所跟踪的身体部位的真实世界定位的游戏中定位。例如,LF显示系统的控制器维护真实世界三维定位到游戏世界中的游戏中三维定位的映射,并且使用所述映射来标识游戏世界中对应于所跟踪的身体部位的真实世界定位的游戏中定位。
LF显示系统向游戏应用程序提供所跟踪的身体部位的游戏世界定位作为用户输入830。游戏应用程序可以确定在游戏世界中的游戏中位置处发生的游戏中交互。如上面关于图6A和6B所描述的,游戏中交互在与所跟踪的身体部位相对应的游戏中位置越界进入游戏世界中的游戏中对象所占据的体时(例如,当观看者“触摸”图6A中的外星人时)发生。游戏中交互还可以发生在与所跟踪的身体部位相对应的定位的阈值距离内(例如,观看者在图6A中的爆炸的爆炸半径内)的游戏世界中的事件时。响应于确定游戏中交互已经发生,游戏应用程序可以向LF显示系统的控制器提供用于一个或多个能量域的全息内容。游戏中交互由视觉、触觉和其它感觉反馈的某种组合表示,以向观看者传达交互正在发生并提供适当的多感觉反馈。
LF显示系统的控制器接收840针对描绘游戏中交互的视觉、触觉和其它感觉域的全息视频游戏数据。例如,描绘游戏中交互的全息内容可以描绘对被触摸做出反应的游戏中对象(例如,外星人)或在观看者的定位的阈值距离内发生的游戏中事件(例如,爆炸)。
控制器生成850用于呈现描绘游戏中交互的一个或多个能量域的全息内容的指令。LF显示系统显示850表示游戏中交互的全息内容。如果反馈包含多感觉反馈,则LF显示系统采取适当动作来提供850多感觉反馈。例如,LF显示系统可以生成触觉接口、播放声音或生成表示游戏中交互的光场。提供多感觉反馈得到创造了观看者正在与真实对象交互的错觉的沉浸式观看者体验。控制器生成用于显示用于如上所述的LF显示器组合件510的特定硬件配置以及感觉反馈系统570的硬件配置的视觉、触觉和其它感觉域(例如,用于生成触觉表面的超声换能器配置的几何形状)的指令。
用于电子竞技的光场显示系统
图9展示了根据一个或多个实施例的包含用于显示全息视频游戏内容的LF显示系统的竞技场的横截面。在图9中,竞技场900被配置成显示全息视频游戏内容930作为电竞比赛的一部分。在图9中,LF显示系统940是LF显示系统500的实施例。全息视频游戏内容通过游戏应用程序生成并通过LF显示系统940呈现。LF显示系统940可以用于显示电竞对抗赛中通常玩的任何类型的视频游戏的全息游戏内容,如体育模拟游戏(例如,麦登橄榄球(MADDEN NFL))、实时策略游戏(例如,星际争霸(STARCRAFT))、战斗竞技场游戏(例如DOTA2、英雄联盟(LEAGUE OF LEGENDS))或射击游戏(例如使命召唤(CALL OF DUTY))。
在所展示的实例中,竞技场900包含被配置成表示电竞对抗赛期间策略游戏的战场的展示舞台。舞台被以类似于其它大型竞技场的方式定位的观看位置922包围。舞台902的顶表面覆盖有LF显示模块阵列,使得舞台上方的区域形成游戏显示区域910,所述游戏显示区域是LF显示系统940的全息对象体。应当注意,虽然游戏显示区域仅显示在舞台902上方,但游戏显示区域也在舞台902下方延伸,这与图2A中所示的全息对象体255类似。LF显示系统940将全息视频游戏内容930呈现在游戏显示区域910中,使得竞技场900中的观看者可以感知全息视频游戏内容930。在竞技场900中,观看位置922以倾斜度定位,使得每个观看位置的视线都允许从视见体(例如,视见体920A)无阻碍地观看竞技内容930。此处,竞技场900包含围绕舞台902的一个视见体,包含视见体920A和920B,使得所有观看者都被呈现有相同的全息视频游戏内容。在其它配置中,可以存在多于一个视见体。
更通常地,LF显示系统940可以具有基本上水平或近似水平的显示表面。在几个实例中,LF显示系统可包含显示表面,所述显示表面为(i)竞技场的地板的至少某些部分,(ii)舞台的至少某些部分,(iii)竞技场中的壁,(iv)许多竞技场中常见的高架显示板,或(v)竞技场中升高的观看平台的至少某些部分。其它类型的水平表面也是可能的。在所展示的配置中,观看者相对于显示表面升高并向下看以观看从显示表面投影的全息视频游戏内容,并且观看者可以部分或完全围绕显示表面。光场显示表面还存在许多其它配置,包含具有大致阵列布置在LF显示表面的前面并且在本公开的其它地方进行了描述的观看位置的竖直安装的显示表面(图4C中所示的450A,图4D中所示的450B,以及图4E中所示的450C)以及弯曲的LF显示表面。
为清楚起见,游戏显示区域910被展示为有界正方形,但游戏显示区域910可以仅仅是其中全息视频游戏内容930可以投影的实际游戏显示区域的一部分。例如,游戏显示区域910可以进一步朝竞技场900的顶部延伸和/或延伸到舞台902中,如前所述。另外,游戏显示区域910的一部分和视见体920(例如920A和920B)在空间上可以重叠。虽然展示为部分重叠,但游戏显示区域910和视见体920在空间上可以完全重叠。空间重叠是观看者可以与如前所述的全息视频游戏内容930交互的区域。
还展示了分别从参与电竞比赛的第一玩家906和第二玩家904接收输入的第一控制终端910和第二控制终端912。控制终端各自在执行游戏应用程序,所述游戏应用程序接收来自玩家的输入,所述输入改变玩家定位,行使玩家选择,如激活盾牌或提供特殊能力,或引起如激发武器等事件。所述玩家输入由视频游戏应用程序用于更新游戏状态,并生成呈现到游戏显示区域中的全息视频游戏数据。在一些实例中,来自每个玩家的输入在执行游戏应用程序期间控制游戏世界中的相应角色。换言之,来自第一玩家906的控制输入控制游戏显示区域910中的第一角色,并且来自第二玩家904的控制输入控制游戏显示区域中的第二角色。在一些实施例中,来自每个用户的控制输入可以控制多个角色。例如,如果游戏应用程序是策略游戏,则从每个用户接收到的控制输入可以控制每个玩家的相应军队中的多个角色。
控制输入可以将游戏显示区域910中的角色移动到不同定位。控制输入还可以控制角色以执行游戏中动作,如激发武器、捡起对象、投掷对象或进行近战攻击。除了控制角色外,控制输入还可以指示菜单选项或其它UI元件的选择,如足球模拟游戏的播放调用接口中的选择。在所展示的实例中,控制输入从由两个玩家操作的控制终端接收。每个控制终端是能够从用户接收用户输入并将输入发送到游戏应用程序的装置,所述游戏应用程序生成要在LF显示系统940上显示的全息视频游戏数据。
通常,控制终端是计算装置。例如,在图9所示的实施例中,控制终端是桌上型计算机,并且玩家通过键盘、鼠标、操纵杆、滚轮、具有多个控件的游戏控制台或其它一些输入装置来提供用户输入。在其它实例中,控制终端可以是其它计算装置,其可以包含例如便携式计算机、触摸屏、手持式装置、全息UI(如关于图6B描述的UI)、一些其它输入装置,或其某种组合。
控制终端还可以并入LF显示系统的组件中的一些或所有组件。例如,控制终端可以被实施为以上关于图6A-6B描述的房间大小的LF游戏系统,在这种情况下,控制终端通过以上述方式跟踪用户的身体部位来接收用户输入:或者通过跟踪用户的手以允许游戏应用程序检测与全息UI的交互(如关于图6B描述的),或者通过跟踪用户的身体的一个或多个部位来检测与全息对象的交互(如关于图6A描述的),或两者的某种组合。
控制终端中的每个控制终端显示描绘游戏世界的区的游戏内容。在一个实施例中,控制终端的用户可以控制正在显示的区。例如,如果游戏应用程序是实时策略游戏或战斗竞技场游戏,则用户可以通过与地图接口交互或将鼠标光标移动到屏幕的边缘来改变游戏世界的所显示区。在控制终端被实施为计算装置的实施例中,所述区显示在计算装置的显示器上。在控制终端通过LF显示系统的组件实施的实施例中,所述区可以以全息内容的形式显示。
在一些实例中,显示在控制终端(例如,控制终端912)上的游戏内容的某些部分以全息视频游戏内容930的形式显示在游戏显示区域910中。因此,在图9的实例中,LF显示系统940显示与在控制终端之一上提供的视点相对应的全息视频游戏内容。以这种方式,竞技场中的观看者还可以感知玩家(例如,玩家904)在控制终端(例如,控制终端912)处与之交互的游戏内容、视图、内容等。另外,所呈现的全息视频游戏内容930可以包含玩家未看到或未与之交互的全息内容。例如,全息视频游戏内容可以包含描绘其它虚拟对象(例如,建筑物、周围环境等)、游戏世界中的事件(例如,爆炸、任务状态等)、广告、覆盖、评论、玩家统计等的对象。
在一实施例中,第三控制终端处的第三用户(例如,不控制游戏应用程序中的任何角色的观察用户)生成在游戏显示区域910中显示的全息视频游戏内容930。为了说明,第三控制终端(未图示)可以正在运行视频游戏应用程序,所述视频游戏应通过游戏数据更新并向第三用户(未图示)呈现用户接口以选择通过LF显示系统显示的全息视频游戏内容。第三用户可以仅是必须选择视频游戏内的由其渲染全息视频的视点但可能不允许将用户输入输入到游戏并且可能不允许改变游戏状态的旁观者。这可以允许第三用户选择和显示游戏世界的其中如大型战斗等主要游戏中事件正在发生的区。在其它实例中,第三用户可能能够在玩家视点之间进行选择、显示覆盖、用额外感觉内容增强全息视频游戏内容930,并且总体上增加观看者在竞技场900中的观看体验。在一些情况下,旁观者可以具有服务器的“管理员”权限,并且可以在游戏中出现错误(例如,玩家卡在某个地方或某些其它漏洞)时使用这些权力来更改游戏状态。在一些情况下,可以存在管理员旁观者和观察者旁观者两者。在某些场景中(例如非竞争性电竞),管理员,无论她/他是否是主要旁观者,都可以基于观众输入来改变游戏状态。
在一些实施例中,控制终端(例如,控制终端910)捕获其相应玩家(例如,玩家906)的图像,并且玩家的表示以全息视频游戏内容930的一部分的形式显示。这向竞技场900中的观看者提供了电竞对抗赛期间玩家的视图,使得观看者可以看到玩家的面部表情和肢体语言。在控制终端捕获并显示玩家的视频的实施例中,视见体920A、920B中的观看者可以观看玩家正在执行的与游戏交互的物理姿势,这可以增强观看者的乐趣。
LF显示系统940还可以包含向场馆900中的观看者提供触觉反馈或其它形式的反馈的感觉反馈组合件。例如,如果游戏世界中发生爆炸或冲击,LF显示系统可以产生超声波压力波并朝竞技场900中的观看者投影所述波,使得观看者可以体验“爆炸”的机械能。在一些实例中,这发生在游戏显示区域910与视见体920重叠的区中。
在一实施例中,LF显示系统被配置成通过网络传输信息(例如,以内容流的形式)。在各种配置中,信息可以是视频游戏数据、全息视频游戏内容、视频游戏数据或全息视频游戏内容的压缩表示等。在网络之上传输的信息可以通过其它LF显示系统接收,使得全息视频游戏内容可以在另一位置显示。这允许不在场馆900中的观看者观看电竞对抗赛。下面关于图10描述了从网络接收流式全息视频游戏内容的显示系统的实例。
图10展示了根据示例实施例的内置到桌子中的LF显示系统。LF显示系统1040包含LF显示器组合件,所述LF显示器组合件包含位于桌子1004的顶表面上的LF显示模块阵列(“LF阵列”1020)。虽然如图所示,LF显示器1040系统内置到桌子1004中,但其可以内置到其它平面表面(例如,地板、壁等)中。LF阵列1020被配置成将全息视频游戏内容1030呈现给位于可以观看桌子1004的顶表面的观看位置的观看者。在所展示的实例中,观看者1032位于桌子1004周围的观看位置,使得每个观看者1032可以感知通过LF阵列1020呈现的全息视频游戏内容1030。如先前描述的,位于其它观看位置的观看者也可以感知通过LF阵列1020呈现的全息视频游戏内容1030。在图10中,LF阵列1020为LF显示器组合件510的实施例。进一步地,LF显示系统1040是LF显示系统500的实施例。
LF阵列1020呈现网球模拟游戏的全息视频游戏内容1030,使得所述全息视频游戏内容出现在桌子1004的顶表面上。观看者1032能够感知所呈现的全息内容1030并与所述全息内容交互。在此实例中,LF显示系统通过网络输入视频游戏数据,将视频游戏数据转化为全息视频游戏内容,并且在桌子1004的顶表面上呈现全息视频游戏内容1030。
在一些实施例中,观看者1032可以与LF显示系统1040交互以改变所呈现的全息视频游戏内容1030。例如,LF显示系统可以被配置成接收听觉提示、视觉提示等并且作为响应改变全息视频游戏内容1030。作为说明,观看者1032可以声明“显示鸟瞰视图”,LF显示系统记录音频,识别音频,并且作为响应改变所显示的全息视频游戏内容1030的视点。类似地,观看者1032可以与全息内容1030交互以旋转通过桌子显示的视图。作为说明,观看者可以用一只手触摸所呈现的全息视频游戏内容1030中的玩家并且用另一只手做出旋转手势。在这种情况下,LF显示系统捕获做出手势的观看者的图像,识别手势,并且作为响应旋转全息内容。
在一些配置中,LF显示系统1040可以另外或可替代地呈现来自在服务器(例如,TWITCH、YOUTUBE)上实施的流式服务的全息视频游戏内容。例如,LF显示系统1040可以呈现允许用户在预先记录的全息游戏内容的不同项(例如,预先记录的电竞对抗赛、其它预先记录的游戏)和/或全息游戏内容的不同实时流(例如,实时电竞对抗赛、视频游戏主播的实时流)之间进行选择的用户接口。在接收到用户对全息游戏内容的项或信道的选择时,LF显示系统1040向流式服务发送对所选全息游戏内容的请求,流式服务向LF显示系统1040发送全息视频游戏内容,并且LF显示系统1040呈现全息游戏内容。
图11是展示了根据一个或多个实施例的用于实施全息视频游戏系统的过程的流程图。过程1100通过包含游戏应用程序的全息视频游戏系统执行,所述游戏应用程序生成通过LF显示系统(例如,LF显示系统500)显示的全息视频游戏数据。方法1100可以包含额外或更少的步骤,并且所述步骤可以以不同次序发生。进一步地,可以在执行所述方法期间将各个步骤或步骤的组合重复任何次数。
全息视频游戏系统执行游戏应用程序以产生针对光场游戏体验的视频游戏数据。游戏应用程序可以在LF显示系统(例如,LF显示系统500)或被配置成执行游戏应用程序的某个其它计算装置上执行。
在执行游戏应用程序期间,用户产生可以影响游戏状态的多种控制输入,并且全息视频游戏系统接收1110控制输入。控制输入可以由与LF显示系统的接口交互的用户产生。例如,用户可以点击他的鼠标来使游戏中的角色移动。另外,控制输入可以通过解译由用户产生的声音、动作、手势等的LF显示系统来产生。例如,用户可以推出她的手,并且手的定位和手势通过跟踪系统580捕获并且通过LF显示系统内的跟踪模块526分析。这种所跟踪的手动作可以输入到游戏应用程序中,这使得游戏应用程序中的角色推出她的剑。
游戏应用程序使用接收到的控制输入生成1120全息视频游戏数据。例如,游戏应用程序可以接收并解译鼠标点击并且生成表示角色的移动的视频游戏数据。类似地,游戏应用程序可以接收并解译与推力相对应的动作并且使角色推出她的剑。在一些情况下,可以通过网络接收控制输入,并且作为响应生成全息视频游戏数据。LF显示系统接收全息视频游戏数据。
全息视频游戏系统的LF显示器使用全息视频游戏数据生成1130用于全息视频游戏内容的显示指令。例如,LF显示系统可以生成用于LF显示器组合件的对应于角色的移动或任何其它场景的显示指令。显示指令可以包含用于投影多于一种类型的能量的指令。例如,显示指令可以包含用于投影视觉全息对象的指令,以及用于投影位于全息对象附近或与全息对象重合的体触觉表面的指令。
LF显示器呈现1140全息视频游戏数据。继续以上实例,显示指令在被执行时呈现呈全息视频游戏内容的形式的角色移动的视频游戏数据。在许多实例中,视频游戏数据和全息视频游戏内容可以通过位于同一位置的全息视频游戏系统生成。然而,在一些情况下,视频游戏数据和全息视频游戏内容可以在不同位置生成。例如,视频游戏数据可以在远程服务器处生成并且随后通过网络传输到具有游戏应用程序和LF显示系统的位置。游戏应用程序可以生成直接提供给LF显示系统并向玩家和/或一个或多个观看者显示的全息视频游戏数据。
全息视频游戏系统使用LF显示系统呈现全息视频游戏内容。在各种配置中,全息视频游戏内容可以以第一格式接收,并且在呈现之前转化为第二格式。进一步地,全息视频游戏内容可以进行修改使得其适于呈现全息视频游戏内容的LF显示系统的硬件配置(例如,游戏显示区域)。例如,全息视频游戏数据可以被转化为用于基于呈现全息视频游戏内容的LF显示系统的配置以较低分辨率、在较小空间中、与额外感觉内容等一起呈现。
为了进行扩展,全息视频游戏系统基于控制输入持续生成新视频游戏数据,并且随后生成表示视频游戏数据的全息视频游戏数据,并且呈现全息视频游戏数据。全息视频游戏数据可以包含例如场景几何形状、视点、纹理、照明以及用于渲染响应于那些用户控制输入而没有可察觉到的延迟的光场的其它场景信息。例如,全息视频游戏系统生成用于游戏世界的区的全息视频游戏内容。游戏世界可以是完全交互的,使得用户可以与游戏世界交互,并且那些交互充当控制输入。交互式控制输入随后可以改变向用户呈现的游戏世界。
额外配置信息
对本公开的实施例的前述描述出于说明的目的而呈现;这并不旨在穷举或将本公开限制于所公开的精确形式。相关领域的技术人员可以理解,根据以上公开,许多修改和变化是可能的。
此描述的一些部分根据信息上的操作的算法和符号表示来描述本公开的实施例。这些算法描述和表示通常由数据处理领域的技术人员用来将其工作的实质有效地传递给本领域的其它技术人员。这些操作虽然在功能上、计算上或逻辑上进行了描述,但应理解为通过计算机程序或等效电路、微代码等来实施。此外,在不失一般性的情况下,将这些操作的布置称为模块有时也被证明很方便。所描述的操作及其相关模块可以以软件、固件、硬件或其任何组合具体化。
可以单独地或与其它装置组合地利用一个或多个硬件或软件模块来执行或实施本文所描述的步骤、操作或过程中的任何步骤、操作或过程。在一个实施例中,用计算机程序产品来实施软件模块,所述计算机程序产品包括含有计算机程序代码的计算机可读介质,所述计算机可读介质可以由计算机处理器执行以执行所描述的步骤、操作或过程中的任何或所有步骤、操作或过程。
本公开的实施例还可以涉及用于执行本文中的操作的设备。此设备可以被特殊构造用于所需目的,和/或其可以包括由存储在计算机中的计算机程序选择性地激活或重新配置的通用计算装置。此计算机程序可以存储于非暂时性有形计算机可读存储介质或适合于存储电子指令的任何类型的介质中,所述介质可以耦接到计算机系统总线。此外,在说明书中提及的任何计算系统可以包含单个处理器,或者可以是采用多处理器设计以得到增加的计算能力的架构。
本公开的实施例还可以涉及通过本文所描述的计算过程生产的产品。这种产品可以包括由计算过程产生的信息,其中信息被存储在非暂时性有形计算机可读存储介质上,并且可以包含计算机程序产品的任何实施例或本文所描述的其它数据组合。
最后,说明书中使用的语言主要是出于可读性和指导目的而选择的,并且可能未选择其来描绘或限制本发明的主题。因此,意图是本公开的范围不受此具体实施方式的限制,而是受基于其所附的申请的任何权利要求的限制。因此,实施例的公开旨在说明而非限制在以下权利要求中所阐述的本公开的范围。

Claims (107)

1.一种游戏系统,其包括:
游戏应用程序,所述游戏应用程序被配置成在执行所述游戏应用程序期间产生针对光场游戏体验的全息视频游戏数据;
光场(LF)显示器组合件,所述LF显示器组合件被配置成呈现全息内容;以及
光场处理引擎,所述光场处理引擎被配置成:
接收所述全息视频游戏数据;并且
生成用于所述光场显示器组合件的显示指令,所述显示指令用于使用所述LF显示器组合件以全息内容的形式呈现所述全息视频游戏数据,所述全息内容表示所述光场游戏体验内的场景。
2.根据权利要求1所述的游戏系统,其中:
所述LF处理引擎被进一步配置成确定所述LF显示器组合件的硬件配置,并且
所述LF处理引擎被进一步配置成基于所述LF显示器组合件的所述硬件配置生成表示所述场景的全息内容。
3.根据权利要求2所述的游戏系统,其中所述硬件配置包含以下中的任一项:
分辨率;
所呈现的每度射线的数量;
视场;
显示表面上的偏转角;以及
所述显示表面的维度。
4.根据权利要求1所述的游戏系统,其中:
所述LF处理引擎被进一步配置成确定所述LF显示器组合件的几何朝向;并且
所述LF处理引擎被进一步配置成基于LF显示系统的所述几何朝向几何朝向生成表示所述场景的全息内容。
5.根据权利要求4所述的游戏系统,其中所述几何朝向包含以下中的任一项:
所述LF显示器组合件的多个显示面板;
所述显示面板的相对朝向;
所述显示面板的高度;
所述显示面板的宽度;以及
所述显示面板的布局。
6.根据权利要求1所述的游戏系统,其中:
所述LF处理引擎被进一步配置成确定所述LF显示器组合件的位置的配置,并且
所述LF处理引擎被进一步配置成基于所述LF显示器组合件的所述位置的所述配置生成表示所述场景的全息内容。
7.根据权利要求6所述的游戏系统,其中所述位置的所述配置包含以下中的任一项:
一个或多个全息对象体;
一个或多个视见体;以及
执行所述游戏应用程序的用户相对于所述LF显示器组合件的位置。
8.根据权利要求1所述的游戏系统,其中针对所述LF游戏体验的所述全息视频游戏数据包括以下中的任一项:与所述LF游戏体验中的场景相对应的几何形状、纹理、照明性质和材料性质。
9.根据权利要求1所述的游戏系统,其中针对所述LF游戏体验的所述全息视频游戏数据被渲染为以下中的任一项:
所述光场游戏体验的所述场景内的一个或多个视点;
表示所述光场游戏体验的光场;
包括多个红色、绿色、蓝色和α样品的深度图像;
通过所述光场游戏体验中的一个或多个表面的照明几何形状和视见几何形状的函数确定的反射率。
10.根据权利要求1所述的游戏系统,其中针对所述光场游戏体验的所述全息视频游戏数据被渲染为所述光场游戏体验的所述场景内的一个或多个视点,并且所述一个或多个视点中的第一视点对应于相较于其它视点具有更大分辨率的中心视图。
11.根据权利要求1所述的游戏系统,其中所述全息视频游戏数据被渲染为所述光场游戏体验的场景内的一个或多个视点,并且所述视点中的至少一些视点以相较于其它视点更低的分辨率渲染。
12.根据权利要求1所述的游戏系统,其中所述全息视频游戏数据被渲染为一个或多个体触觉表面,所述全息视频游戏数据将所述体触觉表面描述为以下中的任一项:表面纹理、材料硬度、延展性或触觉强度。
13.根据权利要求1所述的游戏系统,其中所述全息视频游戏数据被渲染为一个或多个体触觉表面,所述全息视频游戏数据将所述体触觉表面描述为声场,所述声场包括在一个或多个坐标处生成的声波的一个或多个振幅。
14.根据权利要求1所述的游戏系统,其进一步包括:
编码器,所述编码器用于将所述全息视频游戏数据编码为经编码的视频游戏数据;以及
解码器,所述解码器被配置成在生成用于所述光场显示器组合件的所述显示指令时解码所述经编码的全息视频游戏数据。
15.根据权利要求14所述的游戏系统,其中所述经编码的全息视频游戏数据呈第一格式,并且经解码的全息视频游戏数据是第二格式。
16.根据权利要求15所述的游戏系统,其中所述第一格式是矢量化数据格式,并且所述第二格式是光栅化数据格式。
17.根据权利要求14所述的游戏系统,其中所述解码器采用专有编解码器以解码所述经编码的全息视频游戏数据。
18.根据权利要求1所述的游戏系统,其中所述经编码的全息视频游戏数据以能由专有编解码器解码的格式编码。
19.根据权利要求1所述的游戏系统,其进一步包括:
网络接口,所述网络接口被配置成通过网络连接从游戏服务器接收全局游戏信息,并且
其中所述游戏应用程序被进一步配置成使用从所述服务器接收到的所述全局游戏数据产生全息视频游戏数据。
20.根据权利要求19所述的游戏系统,其中所述游戏服务器位于与所述游戏系统相同的位置。
21.根据权利要求19所述的游戏系统,其中所述游戏服务器位于与所述游戏系统不同的位置。
22.根据权利要求19所述的游戏系统,其中所述全息视频游戏内容呈现给电竞比赛的观众。
23.根据权利要求1所述的游戏系统,其中游戏服务器通过网络连接管理所述光场游戏体验。
24.根据权利要求1所述的游戏系统,其中管理所述光场游戏体验包括以下中的任一项:
收集来自所有客户端的输入;
收集来自所述客户端的时间戳;
保持在玩家之间同步的游戏世界状态;
确保所有玩家客户端都按规则玩游戏;
验证并执行玩家移动;或
将所述游戏世界状态的定期快照发送到所有客户端。
25.根据权利要求1所述的游戏系统,其进一步包括:
网络接口,所述网络接口被配置成通过网络连接将所述光场游戏体验的数据传输到游戏服务器。
26.根据权利要求1所述的游戏系统,其中所述光场游戏体验的所述数据包含以下中的任一项:玩家的定位、时间戳、玩家的动作或所述光场游戏体验中的对象的状态。
27.根据权利要求1所述的游戏系统,其进一步包括:
网络接口,所述网络接口被配置成通过网络连接从游戏服务器接收所述全息视频游戏数据的至少某个部分。
28.根据权利要求27所述的游戏系统,其中从所述服务器接收到的所述全息视频游戏内容呈第一数据格式,并且所述游戏系统进一步包括:
解码器,所述解码器被配置成将呈所述第一数据格式的所述全息视频游戏内容解码为第二数据格式,所述第二数据格式被配置成生成用于LF显示器组合件的显示指令。
29.根据权利要求1所述的游戏系统,其中所述游戏应用程序被配置成在旁观者模式下操作,在所述旁观者模式下,所述游戏应用程序生成用于从所述场景内的旁观者视点观看所述光场游戏体验的视频游戏数据。
30.根据权利要求29所述的游戏系统,其中所述游戏应用程序不生成充当用于影响所述光场游戏体验的游戏状态的输入的视频游戏数据。
31.根据权利要求1所述的游戏系统,其中所述游戏应用程序通过网络连接将所述全息视频游戏数据传输到一个或多个额外LF显示器组合件。
32.根据权利要求31所述的游戏系统,其中所述一个或多个额外LF显示器组合件位于与所述LF显示器组合件不同的位置。
33.根据权利要求31所述的游戏系统,其中所述一个或多个额外LF显示器组合件位于家庭、剧院、酒吧、竞技场或体育场。
34.根据权利要求1所述的游戏系统,其中所述游戏系统位于家庭、剧院、酒吧、竞技场或体育场。
35.根据权利要求1所述的游戏系统,其中所述游戏应用程序被配置成生成处于多个服务水平中的一个服务水平下的视频游戏数据,所述服务水平中的每个服务水平对应于通过所述LF显示器组合件呈现的不同质量全息内容。
36.根据权利要求35所述的游戏系统,其中每个服务水平与对应订阅价格相关联。
37.根据权利要求35所述的游戏系统,其中所述游戏应用程序将订阅费用提供给管理所述光场游戏体验的游戏服务器。
38.根据权利要求35所述的游戏系统,其中每个服务水平受对应数字权限管理保护方案保护。
39.根据权利要求35所述的游戏系统,其中第一服务水平包含包括视觉信息的全息内容,并且第二服务水平包含包括视觉信息和听觉信息的全息内容。
40.根据权利要求35所述的游戏系统,其中第一服务水平包含包括视觉信息的全息内容,并且第二服务水平包含包括视觉信息和触觉信息的全息内容。
41.根据权利要求1所述的游戏系统,其中所述游戏应用程序通过网络连接将所述视频游戏数据传输到LF显示器组合件,所述LF显示器组合件被配置成将所述视频游戏数据以全息内容的形式呈现给电竞比赛的观众。
42.根据权利要求41所述的游戏系统,其中所述观众和所述LF显示器组合件位于与所述游戏应用程序不同的位置。
43.根据权利要求1所述的游戏系统,其中
所述LF显示器组合件被配置成呈现声学内容,并且
所述LF处理引擎被进一步配置成:
接收所述全息视频游戏数据;并且
生成用于所述光场显示器组合件的音频指令,所述音频指令用于以所述光场游戏体验的所述场景内的听觉内容的形式呈现所述全息视频游戏数据。
44.根据权利要求1所述的游戏系统,其中所呈现的全息内容包含第一类型的能量和第二类型的能量。
45.根据权利要求44所述的LF显示系统,其中所述第一类型的能量为电磁能,并且所述第二类型的能量为超声能。
46.根据权利要求45所述的LF显示系统,其中所述超声能形成体触觉表面。
47.根据权利要求44所述的LF显示系统,其中所述第一类型的能量和所述第二类型的能量在同一位置呈现,使得所述LF显示器组合件在全息对象处或附近呈现体触觉表面。
48.根据权利要求1所述的游戏系统,其进一步包括:
光场记录组合件,所述光场记录组合件包括一个或多个被配置成以光场内容的形式记录电磁能的能量传感器。
49.根据权利要求48所述的游戏系统,其中所述全息视频游戏数据包含所记录的光场内容。
50.根据权利要求49所述的游戏系统,其中所述游戏应用程序基于所述所记录的光场内容产生全息视频游戏内容。
51.根据权利要求1所述的游戏系统,其进一步包括:
光场记录组合件,所述光场记录组合件包括一个或多个被配置成以听觉内容的形式记录声能的能量传感器。
52.根据权利要求51所述的游戏系统,其中所述全息视频游戏数据包含所记录的听觉内容。
53.根据权利要求51所述的游戏系统,其中所述游戏应用程序基于所述所记录的听觉内容产生全息视频游戏内容。
54.根据权利要求1所述的游戏系统,其进一步包括:
光场记录组合件,所述光场记录组合件包括一个或多个被配置成记录机械能的压力传感器。
55.根据权利要求54所述的游戏系统,其中所述全息视频游戏数据包含所记录的机械能。
56.根据权利要求54所述的游戏系统,其中所述游戏应用程序基于所述所记录的机械能产生全息视频游戏内容。
57.一种游戏系统,其包括:
游戏应用程序,所述游戏应用程序被配置成在执行所述游戏应用程序期间生成针对光场游戏体验的多个输入;
网络接口,所述网络接口被配置成:
通过网络连接将所述多个输入传输到游戏服务器;并且
通过所述网络连接接收包括用于呈现所述光场游戏体验的所述全息视频游戏内容的多个显示指令的全息视频游戏内容;以及
光场(LF)显示器组合件,所述LF显示器组合件被配置成输入所述显示指令并且以所述光场游戏体验内的场景的形式呈现所述全息视频游戏内容。
58.根据权利要求57所述的游戏系统,其中:
所述游戏系统被进一步配置成访问所述LF显示器组合件的硬件配置,
所述网络接口被进一步配置成将所述LF显示器组合件的所述硬件配置传输到所述游戏服务器,并且
接收到的表示所述场景的全息内容被配置成使用具有所述硬件配置的LF显示器组合件来呈现。
59.根据权利要求58所述的游戏系统,其中所述硬件配置包含以下中的任一项:
分辨率;
所呈现的每度射线的数量;
视场;
显示表面上的偏转角;以及
所述显示表面的维度。
60.根据权利要求57所述的游戏系统,其中:
所述游戏系统被进一步配置成访问所述LF显示器组合件的几何朝向,并且
所述网络接口被进一步配置成将所述LF显示器组合件的几何配置传输到所述游戏服务器,并且
所述接收到的表示所述场景的全息内容被配置成使用具有所述几何朝向的LF显示器组合件来呈现。
61.根据权利要求60所述的游戏系统,其中所述几何朝向包含以下中的任一项:
所述LF显示器组合件的多个显示面板;
所述显示面板的相对朝向;
所述显示面板的高度;
所述显示面板的宽度;以及
所述显示面板的布局。
62.根据权利要求57所述的游戏系统,其中:
所述游戏系统被进一步配置成访问所述LF显示器组合件的位置的配置,
所述网络接口被进一步配置成将所述LF显示器组合件的所述位置的所述配置传输到所述游戏服务器,并且
所述接收到的表示所述场景的全息内容被配置成使用在具有所述配置的位置中的LF显示系统来呈现。
63.根据权利要求62所述的游戏系统,其中所述位置的所述配置包含以下中的任一项:
一个或多个全息对象体;
一个或多个视见体;以及
执行所述游戏应用程序的用户相对于所述LF显示器组合件的位置。
64.根据权利要求57所述的游戏系统,其中针对所述LF游戏体验的所述全息视频游戏数据包括以下中的任一项:与所述LF游戏体验中的场景相对应的几何形状、纹理、照明性质和材料性质。
65.根据权利要求57所述的游戏系统,其中针对所述LF游戏体验的接收到的全息视频游戏数据包括以下中的任一项:
所述光场游戏体验的所述场景内的一个或多个视点;
表示所述光场游戏体验的光场;
包括多个红色、绿色、蓝色和α样品的深度图像;
通过所述光场游戏体验中的一个或多个表面的照明几何形状和视见几何形状的函数确定的反射率。
66.根据权利要求57所述的游戏系统,其中针对所述光场游戏体验的所述全息视频游戏数据包括所述光场游戏体验的所述场景内的一个或多个视点,并且所述一个或多个视点中的第一视点对应于相较于其它视点具有更大分辨率的中心视图。
67.根据权利要求57所述的游戏系统,其中所述全息视频游戏包括所述光场游戏体验的所述场景内的一个或多个视点,并且所述视点中的至少一些视点以相较于其它视点更低的分辨率渲染。
68.根据权利要求57所述的游戏系统,其中所述全息视频游戏数据被渲染为一个或多个体触觉表面,所述全息视频游戏数据将所述体触觉表面描述为以下中的任一项:表面纹理、材料硬度、延展性或触觉强度。
69.根据权利要求57所述的游戏系统,其中所述全息视频游戏数据被渲染为一个或多个体触觉表面,所述全息视频游戏数据将所述体触觉表面描述为声场,所述声场包括一个或多个坐标处的声波的一个或多个振幅。
70.根据权利要求57所述的游戏系统,其中所述接收到的全息视频游戏数据是经编码的全息视频游戏数据,并且所述游戏系统进一步包括:
解码器,所述解码器被配置成在接收到所述经编码的全息视频游戏内容时将所述经编码的全息视频游戏数据解码为经解码的全息视频游戏数据。
71.根据权利要求70所述的游戏系统,其中所述经编码的全息视频游戏数据呈第一格式,并且所述经解码的全息视频游戏数据呈第二格式。
72.根据权利要求71所述的游戏系统,其中所述第一格式是矢量化数据格式,并且所述第二格式是光栅化数据格式。
73.根据权利要求70所述的游戏系统,其中所述解码器采用专有编解码器以解码经编码的流式全息内容。
74.根据权利要求57所述的游戏系统,其中所述经编码的全息视频游戏数据以能由专有编解码器解码的格式编码。
75.根据权利要求57所述的游戏系统,其中所述游戏服务器位于与所述游戏系统相同的位置。
76.根据权利要求57所述的游戏系统,其中所述游戏服务器位于与所述游戏系统不同的位置。
77.根据权利要求57所述的游戏系统,其中所述全息视频游戏内容呈现给电竞比赛的观众。
78.根据权利要求57所述的游戏系统,其中所述游戏服务器通过网络连接管理所述光场游戏体验。
79.根据权利要求57所述的游戏系统,其中管理所述光场游戏体验包括:
收集来自所有客户端的输入;
收集来自所述客户端的时间戳;
保持在玩家之间同步的游戏世界状态;
确保所有玩家客户端都按规则玩游戏;
验证并执行玩家移动;或
将所述游戏世界状态的定期快照发送到所有客户端。
80.根据权利要求57所述的游戏系统,其中所述游戏应用程序被配置成在旁观者模式下操作,在所述旁观者模式下,所述游戏应用程序生成用于从所述场景内的旁观者视点观看所述光场游戏体验的视频游戏数据。
81.根据权利要求80所述的游戏系统,其中所述游戏应用程序不生成充当用于影响所述光场游戏体验的游戏状态的输入的视频游戏数据。
82.根据权利要求57所述的游戏系统,其中网络接口被进一步配置成通过所述网络连接将全息视频游戏数据传输到一个或多个额外LF显示器组合件。
83.根据权利要求82所述的游戏系统,其中所述一个或多个额外LF显示器组合件位于与所述LF显示器组合件不同的位置。
84.根据权利要求82所述的游戏系统,其中所述一个或多个额外LF显示器组合件位于家庭、剧院、酒吧、竞技场或体育场。
85.根据权利要求57所述的游戏系统,其中所述游戏系统位于家庭、剧院、酒吧、竞技场或体育场。
86.根据权利要求57所述的游戏系统,其中所述游戏应用程序被配置成生成处于多个服务水平中的一个服务水平下的视频游戏数据,所述服务水平中的每个服务水平对应于通过所述LF显示器组合件呈现的不同质量全息内容。
87.根据权利要求86所述的游戏系统,其中每个服务水平与对应订阅价格相关联。
88.根据权利要求86所述的游戏系统,其中所述游戏应用程序将订阅费用提供给管理所述光场游戏体验的游戏服务器。
89.根据权利要求86所述的游戏系统,其中每个服务水平受对应数字权限管理保护方案保护。
90.根据权利要求86所述的游戏系统,其中第一服务水平包含包括视觉信息的全息内容,并且第二服务水平包含包括视觉信息和听觉信息的全息内容。
91.根据权利要求86所述的游戏系统,其中第一服务水平包含包括视觉信息的全息内容,并且第二服务水平包含包括视觉信息和触觉信息的全息内容。
92.根据权利要求57所述的游戏系统,其中所述网络接口被进一步配置成通过网络连接将所述全息视频游戏数据传输到LF显示器组合件,所述LF显示器组合件被配置成将所述视频游戏数据以全息内容的形式呈现给电竞比赛的观众。
93.根据权利要求92所述的游戏系统,其中所述观众和所述LF显示器组合件位于与所述游戏系统不同的位置。
94.根据权利要求57所述的游戏系统,其中:
所述LF显示器组合件被配置成呈现声学内容,并且
所述接收到的全息视频游戏数据进一步包括用于所述光场显示器组合件的音频指令,所述音频指令用于以所述光场游戏体验的所述场景内的听觉内容的形式呈现所述全息视频游戏数据。
95.根据权利要求57所述的游戏系统,其中所呈现的全息内容包含第一类型的能量和第二类型的能量。
96.根据权利要求95所述的LF显示系统,其中所述第一类型的能量为电磁能,并且所述第二类型的能量为超声能。
97.根据权利要求96所述的LF显示系统,其中所述超声能形成体触觉表面。
98.根据权利要求95所述的LF显示系统,其中所述第一类型的能量和所述第二类型的能量在同一位置呈现,使得所述LF显示器组合件呈现体触觉表面。
99.根据权利要求57所述的游戏系统,其进一步包括:
光场记录组合件,所述光场记录组合件包括一个或多个被配置成以光场内容的形式记录电磁能的能量传感器。
100.根据权利要求99所述的游戏系统,其中所述网络接口被进一步配置成将所记录的光场内容传输到所述游戏服务器。
101.根据权利要求100所述的游戏系统,其中所述接收到的全息视频游戏内容基于传输到所述游戏服务器的所述所记录的光场内容。
102.根据权利要求57所述的游戏系统,其进一步包括:
光场记录组合件,所述光场记录组合件包括一个或多个被配置成以听觉内容的形式记录声能的能量传感器。
103.根据权利要求102所述的游戏系统,其中所述网络接口被进一步配置成将所记录的听觉内容传输到所述游戏服务器。
104.根据权利要求102所述的游戏系统,其中所述接收到的全息视频游戏内容基于传输到所述游戏服务器的所述所记录的听觉内容。
105.根据权利要求57所述的游戏系统,其进一步包括:
光场记录组合件,所述光场记录组合件包括一个或多个被配置成记录机械能的压力传感器。
106.根据权利要求105所述的游戏系统,其中所述网络接口被进一步配置成将所记录的机械能的表示传输到所述视频游戏服务器。
107.根据权利要求105所述的游戏系统,其中所述接收到的全息视频游戏内容基于传输到所述游戏服务器的所述所记录的机械能的所述表示。
CN201980102729.0A 2019-12-03 2019-12-03 用于视频游戏和电子竞技的光场显示系统 Pending CN114761095A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2019/064268 WO2021112830A1 (en) 2019-12-03 2019-12-03 Light field display system for video games and electronic sports

Publications (1)

Publication Number Publication Date
CN114761095A true CN114761095A (zh) 2022-07-15

Family

ID=76222646

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980102729.0A Pending CN114761095A (zh) 2019-12-03 2019-12-03 用于视频游戏和电子竞技的光场显示系统

Country Status (8)

Country Link
US (1) US11938398B2 (zh)
EP (1) EP4069387A4 (zh)
JP (1) JP2023512869A (zh)
KR (1) KR20220106770A (zh)
CN (1) CN114761095A (zh)
AU (1) AU2019477064A1 (zh)
CA (1) CA3157637A1 (zh)
WO (1) WO2021112830A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220188877A1 (en) * 2020-12-16 2022-06-16 Bidstack Group PLC Methods and systems for video game live streaming
WO2023076957A1 (en) * 2021-10-27 2023-05-04 Magic Leap, Inc. Acoustic playback waveguide for wearable xr glasses
JP7212744B1 (ja) 2021-11-17 2023-01-25 株式会社Dr.健康クラブ トレーニングサポートシステム、トレーニングサポートプログラム及びトレーニングサポート方法
WO2023238105A1 (en) * 2022-06-09 2023-12-14 Lightguide, Inc. Virtual buttons for augmented reality light guided assembly system and calibration method

Family Cites Families (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL192610C (nl) 1990-12-13 1997-11-04 Enschede & Zonen Grafisch Beelddrager en werkwijze voor het op een beelddrager drukken van een beeld.
WO2006012678A1 (en) 2004-08-03 2006-02-09 Silverbrook Research Pty Ltd Walk-up printing
US20080144174A1 (en) 2006-03-15 2008-06-19 Zebra Imaging, Inc. Dynamic autostereoscopic displays
JP2009530661A (ja) 2006-03-15 2009-08-27 ゼブラ・イメージング・インコーポレイテッド 動的裸眼立体視ディスプレイ
US10108146B2 (en) 2007-08-11 2018-10-23 Massachusetts Institute Of Technology Anisotropic leaky-mode modulator for holographic video displays
US20140300695A1 (en) 2007-08-11 2014-10-09 Massachusetts Institute Of Technology Full-Parallax Acousto-Optic/Electro-Optic Holographic Video Display
US8149265B2 (en) 2007-08-11 2012-04-03 Massachusetts Institute Of Technology Holographic video display system
KR101908033B1 (ko) * 2008-07-10 2018-12-10 리얼 뷰 이미징 리미티드 광시야각 디스플레이들 및 사용자 인터페이스들
US20100156895A1 (en) 2008-10-26 2010-06-24 Zebra Imaging, Inc. Processing Pre-recorded Hogel Data
US11277598B2 (en) 2009-07-14 2022-03-15 Cable Television Laboratories, Inc. Systems and methods for network-based media processing
CN103718189B (zh) 2011-06-15 2017-05-24 惠普发展公司,有限责任合伙企业 安全图像打印
CN102231044A (zh) 2011-06-29 2011-11-02 浙江大学 基于多屏拼接的体视三维显示装置
US8525829B2 (en) 2011-09-19 2013-09-03 Disney Enterprises, Inc. Transparent multi-view mask for 3D display systems
US8593564B2 (en) 2011-09-22 2013-11-26 Apple Inc. Digital camera including refocusable imaging mode adaptor
US8917453B2 (en) 2011-12-23 2014-12-23 Microsoft Corporation Reflective array waveguide
US9612395B2 (en) 2012-01-26 2017-04-04 Corning Incorporated Optical fiber with a variable refractive index profile
CN102591124A (zh) 2012-02-21 2012-07-18 浙江大学 基于拼接光场的横向大视场三维显示方法及系统
KR20130112541A (ko) 2012-04-04 2013-10-14 삼성전자주식회사 플레놉틱 카메라 장치
US9860522B2 (en) 2012-08-04 2018-01-02 Paul Lapstun Head-mounted light field display
US9841563B2 (en) 2012-08-04 2017-12-12 Paul Lapstun Shuttered waveguide light field display
US8754829B2 (en) 2012-08-04 2014-06-17 Paul Lapstun Scanning light field camera and display
CA2896985A1 (en) 2013-01-03 2014-07-10 Meta Company Extramissive spatial imaging digital eye glass for virtual or augmediated vision
US9417762B2 (en) 2013-01-09 2016-08-16 Northrop Grumman Systems Corporation System and method for providing a virtual immersive environment
US9241197B2 (en) * 2013-01-25 2016-01-19 Cisco Technology, Inc. System and method for video delivery over heterogeneous networks with scalable video coding for multiple subscriber tiers
US9310769B2 (en) 2013-03-28 2016-04-12 Disney Enterprises, Inc. Coarse integral holographic display
US10408613B2 (en) * 2013-07-12 2019-09-10 Magic Leap, Inc. Method and system for rendering virtual content
US9304492B2 (en) 2013-10-31 2016-04-05 Disney Enterprises, Inc. Scalable and tileable holographic displays
CN103616770B (zh) 2013-12-12 2016-02-17 北京理工大学 基于多投影机和透射式散射屏幕的周视三维显示装置
US9615068B2 (en) 2014-01-15 2017-04-04 Disney Enterprises, Inc. Optical vortex 3D displays
CN103777455B (zh) 2014-02-25 2016-08-17 浙江大学 基于光场拼接的球形沉浸式三维显示方法及系统
US9465361B2 (en) 2014-03-31 2016-10-11 Disney Enterprises, Inc. Image based multiview multilayer holographic rendering algorithm
CN105334690B (zh) 2014-08-14 2018-07-27 台达电子工业股份有限公司 环绕光场显示器及其操作方法
US20160299531A1 (en) * 2015-03-17 2016-10-13 Roel Vertegaal Cylindrical Computing Device with Flexible Display
US9740169B2 (en) 2015-03-19 2017-08-22 Disney Enterprises, Inc. Holographic high power illumination distribution system
US9602047B2 (en) 2015-03-24 2017-03-21 Ecole Polytechnique Federale De Lausanne (Eplf) Self-tracking solar concentrator device
US10591869B2 (en) 2015-03-24 2020-03-17 Light Field Lab, Inc. Tileable, coplanar, flat-panel 3-D display with tactile and audio interfaces
US9712810B2 (en) 2015-06-03 2017-07-18 Disney Enterprises, Inc. Tracked automultiscopic 3D tabletop display
FR3046692B1 (fr) * 2016-01-07 2018-01-05 Urgo Recherche Innovation Et Developpement Analyse numerique d'une image numerique representant une plaie pour sa caracterisation automatique
IL301884A (en) 2016-01-19 2023-06-01 Magic Leap Inc Augmented reality systems and methods that use reflections
WO2017127897A1 (en) 2016-01-27 2017-08-03 Paul Lapstun Shuttered waveguide light field display
US10154253B2 (en) 2016-08-29 2018-12-11 Disney Enterprises, Inc. Multi-view displays using images encoded with orbital angular momentum (OAM) on a pixel or image basis
US10560689B2 (en) 2017-11-28 2020-02-11 Paul Lapstun Viewpoint-optimized light field display
EP3737997A4 (en) * 2018-01-14 2021-09-29 Light Field Lab, Inc. SYSTEMS AND METHODS FOR RENDERING DATA OF A 3D ENVIRONMENT
US10792576B2 (en) 2018-02-28 2020-10-06 Sony Interactive Entertainment LLC Player to spectator handoff and other spectator controls

Also Published As

Publication number Publication date
EP4069387A4 (en) 2023-11-01
WO2021112830A1 (en) 2021-06-10
CA3157637A1 (en) 2021-06-10
EP4069387A1 (en) 2022-10-12
US20220409995A1 (en) 2022-12-29
KR20220106770A (ko) 2022-07-29
AU2019477064A1 (en) 2022-05-26
US11938398B2 (en) 2024-03-26
JP2023512869A (ja) 2023-03-30

Similar Documents

Publication Publication Date Title
US11691066B2 (en) Light field display system for sporting events
US11428933B2 (en) Light field display system for performance events
US11938398B2 (en) Light field display system for video games and electronic sports
US20190073830A1 (en) Program for providing virtual space by head mount display, method and information processing apparatus for executing the program
US11212514B2 (en) Light field display system for cinemas
US20220329917A1 (en) Light Field Display System for Adult Applications
US20220308359A1 (en) Light field display system for gaming environments

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination