CN112526750A - 头戴式显示器 - Google Patents
头戴式显示器 Download PDFInfo
- Publication number
- CN112526750A CN112526750A CN202010986378.9A CN202010986378A CN112526750A CN 112526750 A CN112526750 A CN 112526750A CN 202010986378 A CN202010986378 A CN 202010986378A CN 112526750 A CN112526750 A CN 112526750A
- Authority
- CN
- China
- Prior art keywords
- display
- head
- camera
- mounted display
- head mounted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 210000003128 head Anatomy 0.000 claims abstract description 108
- 238000000034 method Methods 0.000 claims description 37
- 230000003287 optical effect Effects 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 6
- 238000012545 processing Methods 0.000 description 31
- 230000033001 locomotion Effects 0.000 description 15
- 230000005540 biological transmission Effects 0.000 description 9
- 230000001953 sensory effect Effects 0.000 description 9
- 230000036541 health Effects 0.000 description 8
- 230000004044 response Effects 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 230000003190 augmentative effect Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000007613 environmental effect Effects 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013503 de-identification Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000004962 physiological condition Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 230000004270 retinal projection Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000001429 visible spectrum Methods 0.000 description 1
- 238000009528 vital sign measurement Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0176—Head mounted characterised by mechanical features
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
本公开涉及头戴式显示器,该头戴式显示器包括显示单元、头部支撑件和相机。显示单元包括用于输出图形内容的显示器。头部支撑件耦接到显示单元用于接合用户的头部,以支撑显示单元使得显示器位于用户的眼睛前方。相机各自耦接到显示单元或头部支撑件中的一者。相机具有水平重叠以共同为头戴式显示器提供水平360度的头戴式显示器视场的相机视场。
Description
技术领域
本公开涉及头戴式显示器,具体涉及带有用于观察环境的相机的头戴式显示器。
背景技术
头戴式显示器是佩戴在用户头部上的计算机设备,其向用户提供图形内容,诸如计算机生成现实(例如,增强现实;将在下面更详细地讨论)的图形内容。
发明内容
本文公开了具有相机的头戴式显示器的实施方式。
在一种实施方式中,头戴式显示器包括显示单元、头部支撑件和相机。显示单元包括用于输出图形内容的显示器。头部支撑件耦接到显示单元用于接合用户的头部,以支撑显示单元使得显示器位于用户的眼睛前方。相机各自耦接到显示单元或头部支撑件中的一者。相机具有水平重叠以共同为头戴式显示器提供水平360度的头戴式显示器视场的相机视场。
相机可以被定位在用户头部的顶部下方。水平360度的头戴式显示器视场可以围绕用户的头部延伸。相机中的一个或多个相机可以是耦接到头部支撑件的支撑件安装式相机。头部支撑件可以围绕用户的头部延伸。相机中的一个或多个相机可以是耦接到显示单元的显示器安装式相机。
在一种实施方式中,头戴式显示器包括显示单元、头部支撑件和相机。显示单元包括显示器。头部支撑件耦接到显示单元用于接合用户的头部,以支撑显示单元使得显示器位于用户的眼睛前方。相机各自耦接到显示单元或头部支撑件中的一者。头戴式显示器向光学透视(optical passthrough)或前向场视频透视(forward-field videopassthrough)中的一者提供前向视场,该前向视场是通过光学透视或前向场视频透视中的一者对用户可见的环境的跨度。头戴式显示器用显示器通过由相机从前向视场之外的扩展视场捕获的环境的图像来提供扩展场视频透视。
在一种实施方式中,头戴式显示器包括显示单元、头部支撑件和相机。显示单元包括显示器。头部支撑件耦接到显示单元用于接合用户的头部,以支撑显示单元使得显示器位于用户的眼睛前方。相机各自耦接到显示单元或头部支撑件中的一者。相机各自耦接到显示单元或头部支撑件中的一者。相机具有水平重叠以共同为头戴式显示器提供水平360度的头戴式显示器视场的相机视场。头戴式显示器存储360度的图形内容,该图形内容包括由相机从头戴式显示器视场捕获的图像。
附图说明
在阅读本公开时通过结合附图对以下具体实施方式得以最佳理解。应当强调的是,根据惯例,附图的各种特征部不是成比例的。相反,为了清楚起见,各种特征部的尺寸被任意扩大或缩小。
图1A为头戴式显示器的顶视图。
图1B为图1A的头戴式显示器的侧视图。
图1C为图1A的头戴式显示器的变型的侧视图。
图2为图1A的头戴式显示器的控制器的示例性硬件配置的示意图。
图3至图8为具有不同的相机配置的图1A的头戴式显示器的变型的顶视图。
图9A为示出从图1A的头戴式显示器及其变型的数据传输的图。
图9B为用图1A的头戴式显示器及其变型生成扩展视图图形内容的方法的流程图。
图10A为示出图1A的头戴式显示器及其变型的前向视场和扩展视场的顶视图。
图10B为示出图10A的头戴式显示器的前向视场和扩展视场的侧视图。
图10C至图10F为图1A的输出扩展场图形内容的头戴式显示器的显示器及其变型的后视图。
图10G为用图1A的头戴式显示器及其变型输出扩展场图形内容的方法的流程图。
图11为用图1A的头戴式显示器及其变型感测环境的方法。
具体实施方式
本文公开了具有若干相机的头戴式显示器的实施方案,所述若干相机可以用于生成图形内容,提供环境的视频透视,并且/或者感测环境中的对象、人物或事件。
参考图1A和图1B,头戴式显示器100包括显示单元110、相机120,以及头部支撑件130。显示单元110被配置为定位在用户的眼睛前方并且向其显示图形内容,而头部支撑件130接合用户的头部,以将显示单元110支撑在相对于用户眼睛的合适的位置。相机120耦接到显示单元110和/或头部支撑件130。
显示单元110一般包括底架112、一个或多个显示器114(例如,如图所示为两个)、控制器116、各种其他电子器件118,以及相机120中的一个或多个相机。底架112是大体上刚性的结构,该结构耦接到并且支撑用户眼睛前方的一个或多个显示器114以向其显示图形内容。如图所示,底架112被配置作为包含一个或多个显示器114并且覆盖用户的眼睛的外壳(例如,壳体)。显示单元110还可以包括面部接口(未标记),该面部接口是耦接到底架112以接合用户的面部并且支撑其显示单元110的顺应性结构。面部接口可以填充底架112和用户的面部之间的间隙,以防止环境光到达用户的眼睛,并且因此被称为光密封件。
显示器114中的每个显示器为显示面板,诸如微型有机发光二极管显示器(microOLED)、有机发光二极管显示器(OLED)、液晶显示器(LCD)或其他合适的显示器。显示器114可以被认为包括一个或多个光学元件(未单独示出),诸如使来自显示器114的光折射以向用户提供图形内容的透镜。
显示器114被定位在用户眼睛的前方,并且阻止(例如,阻挡)用户查看其后方的物理环境。如下面更详细地讨论的,头戴式显示器100可以用显示器114提供物理环境的视频透视。该视频透视包括物理环境的图像,用头戴式显示器将这些图像显示给用户与通过相机120捕获这些图像基本同步。
另选地,如图1C所示,头戴式显示器100'是头戴式显示器100的变型,并且被配置为提供物理环境的光学透视。头戴式显示器100'的更多细节将在下面更详细地讨论。
控制器116操作头戴式显示器100的各种部件,并且实现本文所述的各种功能和方法。虽然控制器116被示出为包含在底架112中,但是控制器116可以被设置在远离显示单元110的位置,诸如与其进行有线或无线通信。如图2所示,控制器116通常包括处理器216a、存储器216b、存储装置216c、通信接口216d以及总线216e,控制器116的其他部件通过该总线进行通信。处理器216a可以是任何合适的处理设备,诸如中央处理单元(CPU)。存储器216b是易失性高速电子存储设备,诸如随机存取存储器模块(RAM)或其他类型的存储器。存储装置216c是非易失性电子存储设备,该非易失性电子存储设备例如包括软件编程,该软件编程包含由处理器216a实现以控制各种其他部件的指令。通信接口216d允许传感器接收和发送各种信号,诸如传感器信息或用于操作显示器114的显示信号。总线216e允许控制器116的各种其他部件之间的通信。控制器116也应该被认为包括可具有专用目的的一个或多个附加的控制器或处理器(例如,图像信号处理器)。
再次参考图1A和图1B,头戴式显示器100包括各种其他电子器件118,所述各种其他电子器件可以包括电力电子器件、传感器,以及音频输出设备。电力电子器件诸如电池为其他电子部件(例如,显示器114和控制器116)提供了电功率。传感器可以被配置作为一种或多种不同类型的传感器,用于监测不同的状况,诸如用于测量环境温度的温度计,用于感测用户和/或头戴式显示器的位置、取向和/或动作的运动传感器(例如,加速度计和/或GPS),用于感测用户的语音和/或环境声音的声音传感器(例如,麦克风),以及/或者用于感测用户的生理状况(例如,心率)的生理传感器。音频输出设备诸如扬声器或耳机输出声音。
相机120具有用于本文所述的应用和方法的任何合适的类型。例如,相机120中的每个相机可以包括图像传感器和使光折射和/或反射到图像传感器的光学元件(例如,透镜)。图像传感器将光转化为图像传感器信号,并且可以例如是互补金属氧化物半导体(CMOS)或电荷耦合器件(CCD)传感器。图像传感器可检测合适的光谱(例如,可见光谱)中的光,并且对于本文所述的应用和用途具有合适的分辨率。如下面更详细地讨论的,相机120可耦接到显示单元110和/或头部支撑件130。对相机120将在下面更详细地讨论。在一些应用中,相机120可具有彼此不同的特征。例如,提供视频透视的相机120可以是彩色相机,而仅用于感测环境的相机可以是黑白相机。
头部支撑件130耦接到显示单元110并且接合用户的头部以支撑其上的显示单元110。如图所示,头部支撑件130是围绕用户的头部延伸的带,并且还可以在用户头部的顶部上方延伸(如图所示)。头部支撑件130可以可移除地耦接到显示单元110,如图1A中的虚线所示的头部支撑件130所指示,使得(例如,具有不同的大小和/或功能性的)其他头部支撑件可以耦接到显示单元110。在一些情况下,头部支撑件130可以包括电子部件(例如,相机120),或者此类电子部件可以与其可移除地耦接。在这种情况下,头部支撑件130与显示单元110形成机械连接,并且还形成用于在相机120和显示单元110之间传输数据的数据连接和/或用于在头部支撑件130(例如,其上的相机120)和显示单元110之间传输功率的电气连接。在头部支撑件130能够可移除地耦接到显示单元的情况下,在显示单元110和头部支撑件130之间形成可移除的数据连接、可移除的电气连接和/或可移除的机械连接。对头部支撑件130的其他细节和变型将在下面更详细地讨论。
参考图1C,头戴式显示器100'向用户提供物理环境的光学透视,使得物理环境对用户直接可见(即,在没有显示器100'的输出的情况下)。头戴式显示器100'的显示单元110'包括底架112'和一个或多个显示器114',以及控制器116(未示出)、各种其他电子器件118(未显示),以及先前所述的相机120。底架112'是大体上刚性的结构,该结构耦接到并且支撑用户眼睛前方的一个或多个显示器114'以向其显示图形内容。底架112'被配置作为耦接到并支撑显示器114的框架(例如,开放框架)。与底架112不同,底架112'具有大体上开放的结构,该结构准许用户查看基本上无阻挡的物理环境(例如,类似于眼镜或护目镜)。例如,底架112'可大体上延伸到用户的眼睛上方。如图所示,显示器114'可以包括投影仪114a'和反射器114b',该反射器反射由投影仪114a'发射的光以向用户的眼睛提供图形内容。投影仪114a'可以是能够发射具有合适的分辨率的光以提供图形内容的任何紧凑型投影仪。反射器114b'既是反射性的以反射来自投影仪114a'的光,也是透明的以准许用户观察穿过其中的物理环境(即,提供光学透视)。反射器114b'可以例如是透明玻璃或塑料部件。头部支撑件130'被配置作为贴合在用户耳朵上方的细长构件(例如,眼镜腿),但是可以被构造成作为如先前针对头部支撑件130所述的条带。
参考图3至图8,讨论了头戴式显示器100的变型,包括相机的不同安装和功能配置。在下面的讨论和附图中,不同的头戴式显示器100中的每个头戴式显示器的相机120及其变型以在十位上具有“2”的附图标号来标识,并且可以被进一步标识为在个位上具有“2”的显示器安装式相机或在个位上具有“4”的支撑件安装式相机(例如,322、324、422、424等)。如上所述,头戴式显示器100包括若干相机120。相机120中的每个相机具有视场,该视场是可由相机查看的环境区域,并且在本文中被称为相机视场。相机视场由从相机120发出的虚线箭头表示。
相机120的相机视场彼此重叠,以共同为头戴式显示器100(或其变型)提供在本文中被称为HMD视场的视场。如图3至图5所示,相机120(例如,322、324、422、424)的相机视场在头戴式显示器100的周围彼此完全水平重叠,从而在用户头部周围完全地彼此水平重叠,使得HMD视场为水平360度。为了简单起见,图6至图8中省略了相机的视场。
相机120根据位置、取向以及相机视场进行配置。相机120中的每个相机的位置是指其相对于用户的头部和/或彼此的位置。相机120中的每个相机的取向是指相机120面向的方向(例如,其光轴的方向),该方向可以相对于用户的头部和/或彼此进行测量。相机120中的每个相机的相机视场可以由水平和垂直角度范围(例如,水平相机视场)来表征。
相机120除了其相应的位置、取向和视场之外,还可以根据数量、安装结构(即,相机安装到的结构,诸如显示单元110或头部支撑件130)、固定性(即,在位置和/或取向上被固定或可移动)、可移动性(即,与安装结构成一体或可移除地耦接)和/或相机特征(例如,视场、光谱或分辨率,等等)进行配置。为了在说明书和权利要求书中区分相机120中的不同的相机,可以用不同的数字标识符(例如,第一相机、第二相机等)和/或可配置的特征或其组合(例如,位置、取向、安装结构、固定性、可移动性或其他相机特征)来指代每个相机120。
在图3中所示的示例中,头戴式显示器包括相机120中的八个相机。相机120的第一子集耦接到显示单元110(例如,如图所示为三个),而相机120的第二子集耦接到头部支撑件130(例如,如图所示为五个)。相机120中耦接到显示单元110的那些(即,第一子集的)相机可以被称为显示器安装式相机322。相机120中耦接到头部支撑件130的那些(即,第二子集的)相机可以被称为支撑件安装式相机324。
相机322、324围绕用户的头部均匀地(即,以45度的间隔)定位,取向成相对于相机322、324中的相邻相机以45度相对用户的头部面向外,并且具有由从相机发出的虚线箭头指示的90度的水平相机视场。相机322、324中的每个相机的水平相机视场与相邻的两个相机322、324中的每个相机的水平视场重叠,使得相机322、324共同提供HMD视场。如上文所示和参考,相机322、324的相机视场在头戴式显示器100周围彼此完全水平重叠,使得HMD视场为水平360度。相机322、324中形成水平360度的HMD视场的那些相机都可以定位在用户头部的顶部下方(例如,在用户的眼睛高度的两英寸内)。相机120中的其他相机(未示出;参见图1A和图1B)可以面向上。
相机120可以与头戴式显示器100成一体(例如,整体地耦接到该头戴式显示器)。成一体或整体地耦接被认为是允许移除以维修或替换相机120,但不允许用户重复移除和重新耦接。显示器安装式相机322与显示单元110成一体。支撑件安装式相机324与头部支撑件130成一体。
如上所述,头部支撑件130用机械连接耦接到显示单元110以支撑显示单元110,并且用电气连接来在两者间进行功率和/或数据传输(例如,从相机120向控制器116发送图像信号)。头部支撑件130可以可移除地耦接到显示单元110,以便与具有不同特征(例如,大小和/或功能性)的其他头部支撑件互换。
相机120彼此之间基本上处于固定关系。显示单元110的底架112是刚性的,并且显示器安装式相机322在底架112上的基本上固定的位置和取向上耦接到该底架。头部支撑件130的一部分是刚性的,诸如刚性的外部部分,并且支撑件安装式相机324在头部支撑件130上的基本上固定的位置和取向上耦接到该头部支撑件的刚性部分。头部支撑件130的与用户的头部接合的另一部分可以是顺应性的,诸如顺应性的内部部分,并且出于舒适和重量分配的目的而与用户头部的形状相符。最终,头部支撑件130能够以预先确定的关系刚性地耦接到底架112,使得当头部支撑件130耦接到显示单元110时,显示器安装式相机322和支撑件安装式相机324相对于彼此处于基本上固定的位置和取向。在相机120相对于彼此基本上固定在预先确定的位置和取向的情况下,例如当将由相机120捕获的图像拼接在一起以形成组合图像时,可以改善(例如,以更高的质量或更有效地执行)由此捕获的图像的共同处理(如下所述)。
关于固定位置和取向的术语“基本上”包括相机120相对于彼此的小的移动,例如,当底架112弯曲,头部支撑件130的刚性部分弯曲,或者底架112和头部支撑件130相对于彼此移动时。相机120相对于相机120中的相邻相机的这种小的移动是平均所有相机120的相对尺寸的10%或更少,例如5%或更少。例如,在相机120中的八个相机被均匀地间隔开和取向的情况下,相机120中的相邻相机被取向成两者间成45度,其5%为2.25度。
参考图4,头戴式显示器400是头戴式显示器100的变型,该变型替代地包括相机120中的六个相机。相机120包括显示器安装式相机422和支撑件安装式相机424。显示器安装式相机422与显示单元110成一体,并且包括左前方相机422LF、右前方相机422RF、左侧相机422LS,以及右侧相机422RS。左前方相机422LF和右前方相机422RF在显示单元110的前侧上间隔开并且在基本前向的方向上取向(例如,光轴平行或大致平行,诸如相对于平行在15度、10度或5度或更小的角度内)。左侧相机422LS和右侧相机422RS被定位在显示单元110的相对侧上,并且在基本面向侧面的方向上取向(例如,光轴被取向成45度或更大的角度,诸如相对于左前方相机422LF或相邻的右前方相机422RF的前向方向或光轴成45度、60度、75度、90度或更大的角度)。显示器安装式相机422中的每个显示器安装式相机具有与相邻的显示器安装式相机422的相机视场重叠的相机视场(由从显示器安装式相机发出的虚线箭头指示)。例如,如图所示,显示器安装式相机具有水平120度的相机视场,其中前方相机和侧方相机相对于彼此成90度取向。
支撑件安装式相机424与头部支撑件130成一体,并且包括左后方相机424LR和右后方相机424RR。左后方相机424LR和右后方相机424RR在头部支撑件130上间隔开,并且被取向成彼此以及与相邻的显示器安装式相机422具有重叠的相机视场。例如,如图所示,支撑件安装式相机424具有120度的水平视场并且相对于彼此成90度取向并且相对于与其相邻的显示器安装式相机422成45度取向。因此,显示器安装式相机422和支撑件安装式相机424的相机视场彼此重叠,以共同提供360度的HMD视场。
参考图5,头戴式显示器500是先前描述的头戴式显示器的变型,该变型替代地包括相机120中的十个相机,这十个相机以先前所述的方式集成并且基本上固定。相机120包括先前所述的显示器安装式相机322、支撑件安装式相机324、左前方相机422LF,以及右前方相机422RF。相机120中的不同相机可用于不同的目的,诸如左前方相机422LF和右前方相机422RF提供前视视频透视(例如,彩色并且/或者相比于相机322、324具有更高的分辨率),并且相机322、324生成360度的图形内容(例如,由于均匀地间隔开)并且/或者提供扩展视频透视(例如,相比于前视视频透视更多地看向侧方和/或后方)。
参考图6,头戴式显示器600是先前所述的头戴式显示器的变型,该变型包括显示器安装式相机622和支撑件安装式相机624。显示器安装式相机622在基本上固定的位置和取向上与显示单元110成一体,可以与显示器安装式相机322、422(例如,如图所示的422LF、422RF)相同或不同。支撑件安装式相机624耦接到头部支撑件630,该头部支撑件准许支撑件安装式相机624相对于彼此移动,使得它们的相对位置和/或取向可变化。例如,头部支撑件630可以是可扩展的,如在支撑件安装式相机624之间延伸的外部虚线箭头所指示,这允许支撑件安装式相机624中的一个或多个支撑件安装式相机(例如,全部且彼此独立)能够相对于彼此以及相对于显示单元110和其上的显示器安装式相机622改变位置。替代地或另选地(如图所示),头部支撑件630可以是柔性的,使得支撑件安装式相机624中的一个或多个支撑件安装式相机(例如,全部且彼此独立)可相对于彼此以及相对于显示单元110和其上的显示器安装式相机622改变取向,如围绕支撑件安装式相机624中的每个支撑件安装式相机的虚线箭头所指示。在支撑件安装式相机624相对于彼此以及相对于显示器安装式相机622可移动的情况下,支撑件安装式相机624具有足够大的相机视场,这些相机视场彼此重叠并且与显示器安装式相机622的视场重叠,以说明此类移动并且提供360度的HMD视场。
头部支撑件630可以另外包括相机传感器(未示出),这些相机传感器用于测量支撑件安装式相机624相对于彼此以及相对于显示单元110和其上的显示器安装式相机622的位置和/或取向。支撑件安装式相机624的相对位置和/或取向的这种测量可以例如用作处理由此捕获的图像(例如,拼接在一起)以形成360度的图形内容时的输入。
参考图7,头戴式显示器700是先前所述的头戴式显示器的变型,该变型包括与显示单元110成一体的显示器安装式相机622和与头部支撑件730成一体的支撑件安装式相机724。支撑件安装式相机724被布置在一个或多个相机组725中,诸如左侧相机组725LS、右侧相机组725RS,以及后方相机组725R。相机组725中的每个相机包括彼此基本上处于固定位置和取向的支撑件安装式相机724中的两个或更多个支撑件安装式相机。例如,相机组725中的两个或更多个支撑件安装式相机724耦接到刚性的相机底架726(例如,板)。相机组725中的每个相机组的支撑件安装式相机724可以面向外,光轴彼此平行延伸,这可用于提供立体视觉和/或三角测量以确定从头戴式显示器700到在环境中检测到的对象的距离。
头部支撑件730准许相机组725之间的相对移动,使得支撑件安装式相机724的位置和/或其取向可以相对于其他组的那些支撑件安装式相机724和/或显示单元110及其显示器安装式相机622改变。如同头部支撑件630,头部支撑件730可以是可扩展的,使得相机组725(及其支撑件安装式相机)可以相对于彼此以及相对于显示单元110和其上的显示器安装式相机622改变位置。替代地或另外地(如图所示),头部支撑件730可以是柔性的,使得相机组725(及其支撑件安装式相机724)可以相对于彼此以及相对于显示单元110和其上显示器安装式相机622改变取向。在支撑件安装式相机724的相机组725相对于彼此以及相对于显示器安装式相机622可移动的情况下,支撑件安装式相机724具有足够大的相机视场,这些相机视场彼此重叠并且与显示器安装式相机622的相机视场重叠,以说明此类移动并且提供360度的HMD视场。
头部支撑件730可以另外包括相机传感器(未示出),这些相机传感器用于测量相机组725和其支撑件安装式相机724相对于彼此以及相对于显示单元110和其上的显示器安装式相机622的位置和/取向。相对位置和/或取向的这种测量可以例如用作处理由此捕获的图像(例如,拼接在一起)以形成360度的图形内容时的输入。
虽然将头戴式显示器700讨论为具有三个相机组725,每个相机组具有两个支撑件安装式相机724,但是头戴式显示器700可以具有更少或更多的相机组725(例如,一个、两个、四个或更多个),并且每个相机组725可以具有两个以上的相机(例如,三个、四个或更多个)。更进一步,头戴式显示器可以包括支撑件安装式相机724和彼此组合的相机组725中的各个相机。
参考图8,头戴式显示器800是先前所述的头戴式显示器的变型,该变型包括可从其移除的相机120。代替上述任何集成相机或除上述任何集成相机之外,头戴式显示器800可以包括可以分别能够可移除地耦接到显示单元810和头部支撑件830的可移除的显示器安装式相机822和/或可移除的支撑件安装式相机824。显示单元810是显示单元110的变型,该变型还包括机械连接和电气连接,用于机械耦接和电耦接到可移除的显示器安装式相机822。可移除的显示器安装式相机822可单独耦接到显示单元810,或者可以被提供为可移除的相机组模块(如图所示),该可移除的相机组模块包括耦接到相机模块底架823的可移除的显示器安装式相机822中的两个或更多个(例如,如图所示为四个)可移除的显示器安装式相机。当相机模块底架823机械耦接到显示单元810时,可移除的显示器安装式相机822可以处于具有重叠的相机视场的基本上固定的位置和取向(例如,如同显示器安装式相机322和/或622)。
头部支撑件830是先前所述的头部支撑件的变型,该变型还包括机械连接和电气连接,用于机械耦接和电耦接到可移除的支撑件安装式相机824。可移除的支撑件安装式相机824可单独耦接到显示单元810,或者可以被提供为一个或多个可移除的相机组模块,该一个或多个可移除的相机组模块包括耦接到相机模块底架825的可移除的支撑件安装式相机824中的两个或多个(例如,各自如图所示为两个)可移除的支撑件安装式相机。当相机模块底架825机械耦接到头部支撑件830时,其上可移除的支撑件安装式相机824可以是可移除的(例如,其中相机模块底架825和/或头部支撑件830在两者间可扩展以及/或者是柔性的)或者相对于彼此和/或显示单元810和可移除的显示器安装式相机822处于基本上固定的位置(例如,其中相机模块底架825是刚性的)。在可移除的支撑件安装式相机824相对于彼此和/或可移除的显示器安装式相机822可移动的情况下,可移除的支撑件安装式相机824具有水平相机视场,这些水平相机视场彼此重叠并且与可移除的显示器安装式相机822的视场充分重叠,以说明此类相对移动并且提供360度的HMD视场。
头戴式显示器100、100'、400、500、600、700、800的变型可以包括相机120的足以提供360度的扩展视场的更少或更多的相机(例如,相机120中的两个、三个、四个、五个、七个、九个、十一个或更多个相机)。此外,显示单元110、810,头部支撑件130、130'、630、730、830,相机120(例如,322、324、422、424、522、524、622、624、724、822、824),相机组或相机组模块可在头戴式显示器中相互结合使用。
参考图9至图11,头戴式显示器100及其变型(例如,100'、400、500、600、700、800及其变型)可用于生成360度的图形内容,提供视频透视以及/或者感测环境中的主题。为了便于参考,下面将参照头戴式显示器100讨论用途和方法,但是除非另有说明,否则应理解为适用于其他头戴式显示器100'、400、500、600、700、800。
参考图9A至图9B,头戴式显示器100生成扩展场图形内容。扩展场图形内容由相机120同时捕获的具有重叠的相机视场的图像形成。扩展场图形内容可以是360度的图形内容,该图形内容从具有中心参考诸如头戴式显示器100和/或用户的头部周围彼此完全重叠的相机视场的相机生成。扩展场图形内容通过与头戴式显示器100的相机120同时捕获图像,处理图像以生成组合图像(即,扩展场图形内容),并且从头戴式显示器100传输图像或组合图像来生成。扩展场图形内容(例如,由相机捕获的图像或组合图像)由头戴式显示器100(例如,控制器116的存储装置216c)存储,并且可以用头戴式显示器100或其他查看设备902(诸如,其他头戴式显示器、个人计算机、平板计算机或电话)进行查看。
由相机120同时捕获奇异图像(singular image),如上所述,这些相机具有彼此重叠以形成HMD视场(例如,呈水平360度)的相机视场。图像可以随时间的推移而被捕获,作为视频的帧。
对奇异图像进行处理以生成形成扩展场图形内容的组合图像。更具体地,奇异图像被单独处理(例如,去马赛克)并且使用合适的算法拼接在一起以形成组合图像或一系列组合图像,该组合图像或一系列组合图像形成扩展场图形内容(例如,360度的图像或360度的视频)。在奇异图像的视场重叠的区域中,组合图像可以包括来自每个奇异图像的图像数据或者从来自每个奇异图像的图像数据导出。图像的处理可由头戴式显示器100执行,诸如由控制器116或其另一个处理器执行。另选地,图像可以被传输给头戴式显示器100到中间计算设备904(如箭头905所表示),该中间计算设备然后处理图像以形成扩展场图形内容。中间计算设备904可以是能够处理图像以生成扩展场图形内容的任何合适的设备(例如,类似于控制器116进行配置)。
扩展场图形内容被传输到查看设备902以供以后进行显示。扩展场图形内容可以任何合适的方式(例如,可传输存储设备、直接有线或无线传输或间接有线和/或无线传输,诸如通过计算网络)传输到其他查看设备。扩展场图形内容可以在由头戴式显示器100生成时从该头戴式显示器直接或间接地传输到查看设备902(如箭头903所指示)。另选地,扩展场图形内容可以在从由中间计算设备904生成时从该中间计算设备直接或间接地传输到查看设备902(如箭头906所指示)。
扩展场图形内容然后可以由查看设备902输出。查看设备902包括显示器并且输出的视场小于扩展场图形内容的视场,因此在给定时间仅显示扩展场图形内容的一部分。查看设备902的用户可以例如通过提供平移指令(例如,在头戴式显示器的情况下旋转一个人的头部)来控制在给定时间显示的扩展场图形内容的部分。
参考图9B,提供了一种用于用头戴式显示器生成扩展场图形内容的方法900。方法900通常包括用头戴式显示器的相机捕获910图像,处理920图像以生成扩展场图形内容(例如,360度的图形内容),以及从头戴式显示器传输930图像或扩展场图形内容。方法900还可以包括用另一个查看设备输出940扩展场图形内容。
用头戴式显示器的相机诸如头戴式显示器100的相机120或其变型来执行图像的捕获910。相机由控制器诸如控制器116或另一个处理器操作。相机具有彼此重叠以共同形成可以围绕用户的头部呈水平360度的HMD视场的相机视场。
处理920图像以生成扩展场图形内容包括单独地处理图像(例如,去马赛克),并且将彼此同时捕获的那些图像拼接在一起以生成组合图像或连续的组合图像(例如,视频)。处理920可以由头戴式显示器执行,诸如由控制器(例如,控制器116)或者其其他的处理设备执行。组合图像形成扩展场图形内容。
传输930由头戴式显示器执行,诸如通过其(例如,用于扩展场图形内容的有线或无线传输的)通信接口执行。360度的图形内容的传输930是例如到另一个查看设备或者到存储设备。
如图9B的流程图中的虚线所指示,可替代地在处理920之前执行传输930。在这种情况下,传输930是对在捕获910期间捕获的图像到另一个计算设备的传输。然后,由另外的计算设备诸如中间计算设备904执行图像的处理920(例如,将图像拼接以形成组合图像),以生成扩展场图形内容。
方法900还可以包括用另一个查看设备输出940扩展场图形内容。输出940可进一步被认为包括用另外的查看设备接收扩展场图形内容。另外的查看设备902可以例如是另一个头戴式显示器、平板计算机或电话。扩展场图形内容通过由其控制器或其他处理器操作的显示器输出。另外的查看设备的显示视场可小于图形内容的扩展视场,在这种情况下,用户可以向另外的设备提供输入,诸如通过移动另外的设备,以改变图形内容的扩展视场中位于另外的查看设备的显示视场内的部分。
参考图10A至图10G,头戴式显示器100提供用户所处环境的视频透视。视频透视可以被认为是图形内容,并且包括由头戴式显示器100的相机120捕获的图像,并且由显示器114与相机120的捕获基本上同时输出(即,在图像的捕获和输出之间具有低等待时间)。因此,用户可经由视频透视基本上实时地观察环境。视频透视可提供有头戴式显示器100(即,该头戴式显示器不提供光学透视)或其变型,或者提供有可提供光学透视的头戴式显示器100'。
参考图10A至图10F,在头戴式显示器100的情况下,视频透视既包括对应于头戴式显示器100的前向视场1082的前向场视频透视1014A,也包括从扩展视场1084截取的扩展场视频透视1014B。图10A和图10B分别示出了水平方向和垂直方向上的前向视场1082和扩展视场1084。图10C至图10F示出了另选方式,其中前向场视频透视1014A和扩展场视频透视1014B可以在空间上布置在显示器114上。
首先参考图10A和图10B,前向视场1082是对用户可见的具有前向场视频透视1014A的环境的跨度。例如,如果从前向场视频透视1014A中显示的图像包括来自用户前方135度的水平跨度的环境,则前向视场1082为水平135度。前向视场1082被取向成相对于头戴式显示器100在前向方向上,并且可以约等于人的视场(例如,水平约200度,垂直约135度)或更小。例如,前向视场1082可以在约水平90度至水平180度之间或更小(例如,在90度至140度之间,或者在90度至160度之间),诸如水平120度或135度。替代地或另外地,前向视场1082可以在约60度和约135度之间垂直。
使用头戴式显示器100的一个或多个前向相机来提供前向视场1082。在一个示例中,头戴式显示器100包括两个前向相机和显示器114中的两个显示器(即,左右显示器,如图1A所示),这两个前向相机(即,相机120的左右相机,诸如关于图4和图5描述的左前方相机422LF和右前方相机422RF)提供前向视场1082。前向场视频透视1014A作为图像输出在显示器114中的右侧显示器上,这些图像捕获自相机120中的右侧相机而不是相机120中的左侧相机,并且作为图像输出在显示器114中的左侧显示器上,这些图像捕获自相机120中的左侧相机而不是相机120中的右侧相机。
仍参考图10A和图10B,扩展场视频透视1014B包括来自扩展视场1084的图像、组合图像或它们的部分。扩展场视频透视1014B可以但不必包括跨越整个扩展视场1084的图像。扩展视场1084是HMD视场的一部分,在前向视场1082之外。例如,HMD视场可以是水平360度,其中135度形成前向视场1082,其余的225度形成扩展视场1084(即,在135度的前向视场1082之外)。
扩展视场1084由上述头戴式显示器100的相机120或其变型提供。扩展场视频透视1014B作为图像输出在一个或多个显示器114上,这些图像可以包括来自相机120中的一个相机的奇异图像、组合图像(即,如上所述,来自相机120中的多个相机的拼接在一起的图像)或它们的部分。
如图10C至图10F所示,显示器114可以不同的方式输出前向场视频透视1014A和扩展场视频透视1014B。例如,如图10C所示,扩展场视频透视1014B可以是唯一显示的图形内容。另选地,如图10D至图10F所示,图形内容可以包括扩展场视频透视1014B和前向场视频透视1014A。前向场视频透视1014A可以形成显示器114的面积的大部分(例如,60%、75%、80%、90%或更多),而扩展场视频透视1014B可以形成其面积的少部分(例如,40%、25%、20%、10%或更少)。在图10D所示的示例中,扩展场视频透视1014B在空间上定位在前向场视频透视1014A的上方(例如,当跨越显示器114的宽度的90%或更多时),或者可以定位在其下方。在图10E所示的示例中,扩展场视频透视1014B被前向场视频透视1014A(例如,作为图片中的图片)包围。在图10F所示的示例中,扩展场视频透视1014B设置在前向场视频透视1014A的左侧和/或右侧(均如图所示)。
扩展场视频透视1014B的位置可针对用户预先确定,或者可以由用户根据用户偏好来选择。
扩展场视频透视1014B的显示可以不同的方式发生。在一个示例中,连续显示扩展场视频透视1014B。在另一个示例中,根据用户输入(例如,选择打开或关断扩展场视频透视1014B)来显示扩展场视频透视1014B。在另一个示例中,头戴式显示器100向用户提供提示(例如,用户可选择的视觉和/或听觉提示),作为响应,用户可以提供用户输入以显示或不显示扩展场视频透视1014B。可以根据各种标准来将提示提供给用户,诸如在扩展视场1084中用相机120对事件(例如,移动)或对象(例如,危险或人)的检测和/或识别。在又一个示例中,直接响应于扩展视场1084中对事件或对象的检测和/或识别而来显示扩展场视频透视1014B。
在提供具有前向视场1082的光学透视的头戴式显示器100'的情况下,该前向视场是用户可见的环境的跨度并且可以被称为光学视场。如果没有被头戴式显示器100'阻挡,则前向视场1082或光学视场可以例如是水平约200度×垂直约135度。在这种情况下,扩展视场1084在用户的光学视场之外。头戴式显示器100'可以通过上面关于图10C至图10F描述的任何方式提供扩展场视频透视1014B(例如,如图10C所示占据整个显示器114',如图10D所示在显示器114'的顶部或底部,如图10E所示被显示器114'的其他部分包围,或者如图10F所示在显示器114'的左侧和/或右侧)。
参考图10G,提供了一种用于提供环境的视频透视的方法1000。方法1000通常包括提供扩展场视频透视的第一子方法1002,并且还可以包括提供前向场视频透视的第二子方法1004。第一子方法1002通常包括从扩展视场捕获1012环境图像,1022将图像处理到扩展场视频透视,并且输出1032扩展场视频透视。第二子方法1004通常包括从前向视场捕获1014环境图像,1024处理图像以形成前向视场视频透视,并且输出1034前向视场视频透视。
图像的捕获1012由一个或多个相机诸如相机120执行,该相机由控制器或处理器诸如控制器116操作。相机中的一个或多个相机具有在扩展视场诸如扩展视场1084中的相机视场(例如,在用户的前向视场或光学视场之外)。相机的视场可以重叠。
图像的处理1022由控制器或其他处理器诸如控制器116执行。控制器处理来自单个相机或多个相机的连续图像,以生成适合作为扩展场视频透视显示的图形内容。此类处理可以包括对奇异图像去马赛克,将奇异图像拼接在一起以形成组合图像,并且/或者确定其将被显示为扩展场视频透视的子部分。
扩展场视频透视的输出1032包括用头戴式显示器的一个或多个显示器,诸如由控制器或其他处理器操作的头戴式显示器100的显示器114来显示形成扩展场视频透视的那些图像、组合图像或它们的部分。扩展场视频透视的输出1032与图像的捕获1012同时(即,具有低等待时间)执行。扩展场图形内容的输出1032可以在没有(例如,具有光学透视的)前向场视频透视输出的情况下以及/或者与(例如,如第二子方法1004中提供的)前向场视频透视同时执行。扩展场视频透视可以由显示器通过上关于图10C至图10F所述的任何方式输出,并且可以响应于用户输入以及/或者响应于在扩展视场中的事件和/或对象的感测而连续地执行该操作。
方法1000还可以包括提供前向场视频透视的第二子方法1004,该第二子方法包括捕获1014、处理1024和输出1034。利用由控制器或处理器诸如控制器116操作的一个或多个前向相机诸如相机120(例如,左前方相机422LF和右前方相机422RF)来执行环境的图像的捕获1014。一个或多个前向相机各自具有从头戴式显示器向前延伸的视场。例如,一个前向相机可以与用户的一只眼睛和/或头戴式显示器的显示器相关联(例如,具有左相机和右相机,以将左显示器和右显示器上的前向场视频透视分别输出到左眼和右眼)。
图像的处理1024由控制器或其他处理器诸如控制器116执行。控制器处理来自单个相机或多个相机的连续图像,以生成适合作为前视视频透视显示的图形内容。此类处理可以包括奇异图像的去马赛克和/或确定其将被显示为扩展场视频透视的子部分。为了减少图像的捕获1014与前向场视频透视的输出1034之间的等待时间,减少以及/或者以其他方式限制(例如,通过不拼接此类图像)形成前向场图形内容的图像的处理可能是有利的。
前向场视频透视的输出1034包括用头戴式显示器的一个或多个显示器,诸如由控制器或其他处理器操作的头戴式显示器100的显示器114来显示形成前向场视频透视的那些图像、组合图像或它们的部分。前向场视频透视的输出1034与图像的捕获1012同时(即,具有低等待时间)执行。前向场视频透视的输出1034可以与(例如,如第一子方法1002中所提供的)扩展场视频透视的输出1032同时执行。显示器114可以通过上文关于图10C至图10F描述的任何方式来输出前向场视频透视。例如,前向场视频透视相比于扩展场视频透视可以在更大的区域上输出并且/或者在捕获形成视频透视的图像时具有较低的等待时间。
应当注意,方法1000可以结合方法900来执行。例如,包括扩展场视频透视1014B的视频透视可以被提供为生成360度的图形内容,诸如用被执行为相同操作的捕获910、1012、1014。
参考图11,头戴式显示器100或其变型可以使用相机120在扩展视场1084中进行感测,如果(例如,对于头戴式显示器100及其变型)提供了前向场视频透视1014A,则该扩展视场可以在前向视场1082之外,或者在(例如,对于头戴式显示器100'及其变型)提供的情况下,该扩展视场可以在光学视场之外。例如,头戴式显示器100可以被配置为通过用控制器116或其他处理器处理由相机120捕获的图像来检测和/或识别环境主题(例如,环境中的事件、人物和/或对象)。通过检测和/或识别环境主题,头戴式显示器100可以例如通过提供环境主题的视觉和/或听觉警报,提供环境主题的视频透视,以及/或者向用户提供提示以查看环境主题的此类视频透视来为用户提供更大的空间意识。例如,可以响应于在扩展视场1084中检测到主题而提供扩展场视频透视1014B。
提供一种用于在头戴式显示器的扩展视场中进行感测的方法1100。方法1100通常包括用具有扩展视场的相机捕获1110图像,处理1120图像以检测主题,并且输出1130主题指示符。图像的处理1120可以包括图像的图像处理1122(例如,对奇异图像去马赛克以及/或者拼接奇异图像以形成组合图像)和在处理后的图像内的主题检测1124的子操作。
图像的捕获1110由一个或多个相机诸如相机120执行,该相机由控制器或处理器诸如控制器116操作。相机中的一个或多个相机具有在扩展视场诸如扩展视场1084中的相机视场(例如,在用户的前向视场或光学视场之外)。相机的视场可以重叠。
图像的处理1120由控制器或其他处理器诸如控制器116执行。例如使用计算机视觉或任何其他合适的算法或软件对图像进行处理,以检测、识别和/或定位主题(例如,事件、人物和/或对象)。
图像的处理1120可以包括图像处理1122和主题检测1124的子操作。图像处理1122包括图像的初始处理,诸如奇异图像的去马赛克和将奇异图像拼接在一起以形成组合图像。主题检测1124包括处理图像以在扩展视场中识别事件(例如,动作或移动)、人物(例如,人类)和/或对象(例如,类型对象,诸如危险)。主题检测1124还可以包括例如通过表征事件、人物和/或对象的类型以及/或者通过标识特定的事件、人物和/或对象来标识此类主题。主题检测1124还可以包括例如当在来自多个相机的图像中检测到主题时,使用三角测量法来确定主题的位置和/或运动。
主题指示符的输出1130包括例如由控制器或其他处理器诸如控制器116操作的显示器诸如显示器114来提供所检测到的主题的图形或音频指示符。主题指示符可以例如包括提供扩展场视频透视1014B。
应当注意,方法1100可以结合方法900和/或方法100来执行。例如,捕获1110可以与捕获910、1012和/或1014的相同操作来执行。
物理环境是指人们在没有电子系统帮助的情况下能够感测和/或交互的物理世界。物理环境诸如物理公园包括物理物品,诸如物理树木、物理建筑物和物理人。人们能够诸如通过视觉、触觉、听觉、味觉和嗅觉来直接感测物理环境和/或与物理环境交互。
相反,计算机生成现实(CGR)环境是指人们经由电子系统感测和/或交互的完全或部分模拟的环境。在CGR中,跟踪人的物理运动的一个子集或其表示,并且作为响应,以符合至少一个物理定律的方式调节在CGR环境中模拟的一个或多个虚拟对象的一个或多个特征。例如,CGR系统可以检测人的头部转动,并且作为响应,以与此类视图和声音在物理环境中变化的方式类似的方式调节呈现给人的图形内容和声场。在一些情况下(例如,出于可达性原因),对CGR环境中虚拟对象的特征的调节可以响应于物理运动的表示(例如,声音命令)来进行。
人可以利用其感官中的任一者来感测CGR对象和/或与CGR对象交互,包括视觉、听觉、触觉、味觉和嗅觉。例如,人可以感测音频对象和/或与音频对象交互,该音频对象创建3D或空间音频环境,该3D或空间音频环境提供3D空间中点音频源的感知。又如,音频对象可以使能音频透明度,该音频透明度在有或者没有计算机生成的音频的情况下选择性地引入来自物理环境的环境声音。在某些CGR环境中,人可以感测和/或只与音频对象交互。
CGR的示例包括虚拟现实和混合现实。
虚拟现实(VR)环境是指被设计成对于一个或多个感官完全基于计算机生成的感官输入的模拟环境。VR环境包括人可以感测和/或交互的多个虚拟对象。例如,树木、建筑物和代表人的化身的计算机生成的图像是虚拟对象的示例。人可以通过在计算机生成的环境内人的存在的模拟、和/或通过在计算机生成的环境内人的物理运动的一个子组的模拟来感测和/或与VR环境中的虚拟对象交互。
与被设计成完全基于计算机生成的感官输入的VR环境相比,混合现实(MR)环境是指被设计成除了包括计算机生成的感官输入(例如,虚拟对象)之外还引入来自物理环境的感官输入或其表示的模拟环境。在虚拟连续体上,混合现实环境是完全物理环境作为一端和虚拟现实环境作为另一端之间的任何状况,但不包括这两端。
在一些MR环境中,计算机生成的感官输入可以对来自物理环境的感官输入的变化进行响应。另外,用于呈现MR环境的一些电子系统可以跟踪相对于物理环境的位置和/或取向,以使虚拟对象能够与真实对象(即,来自物理环境的物理物品或其表示)交互。例如,系统可以导致运动使得虚拟树木相对于物理地面看起来是静止的。
混合现实的示例包括增强现实和增强虚拟。
增强现实(AR)环境是指其中一个或多个虚拟对象叠加在物理环境或其表示之上的模拟环境。例如,用于呈现AR环境的电子系统可具有透明或半透明显示器,人可以透过该显示器直接查看物理环境。该系统可以被配置为在透明或半透明显示器上呈现虚拟对象,使得人利用该系统感知叠加在物理环境之上的虚拟对象。另选地,系统可以具有不透明显示器和一个或多个成像传感器,成像传感器捕获物理环境的图像或视频,这些图像或视频是物理环境的表示。系统将图像或视频与虚拟对象组合,并在不透明显示器上呈现组合物。人利用系统经由物理环境的图像或视频而间接地查看物理环境,并且感知叠加在物理环境之上的虚拟对象。如本文所用,在不透明显示器上显示的物理环境的视频被称为“透传视频”,意味着系统使用一个或多个图像传感器捕获物理环境的图像,并且在不透明显示器上呈现AR环境时使用那些图像。进一步另选地,系统可以具有投影系统,该投影系统将虚拟对象投射到物理环境中,例如作为全息图或者在物理表面上,使得人利用该系统感知叠加在物理环境之上的虚拟对象。
增强现实环境也是指其中物理环境的表示被计算机生成的感官信息进行转换的模拟环境。例如,在提供透传视频中,系统可以对一个或多个传感器图像进行转换以施加与成像传感器所捕获的视角不同的选择视角(例如,视点)。又如,物理环境的表示可以通过图形地修改(例如,放大)其部分而进行转换,使得经修改部分可以是原始捕获图像的代表性的但不是真实的版本。再如,物理环境的表示可以通过以图形方式消除其部分或将其部分进行模糊处理而进行转换。
增强虚拟(AV)环境是指虚拟或计算机生成环境结合了来自实体环境的一项或多项感官输入的模拟环境。感官输入可以是物理环境的一个或多个特征的表示。例如,AV公园可以具有虚拟树木和虚拟建筑物,但人的脸部是从对物理人拍摄的图像逼真再现的。又如,虚拟对象可以采用一个或多个成像传感器所成像的物理物品的形状或颜色。再如,虚拟对象可以采用符合太阳在物理环境中的位置的阴影。
有许多不同类型的电子系统使人能够感测和/或与各种CGR环境交互。示例包括头戴式系统、基于投影的系统、平视显示器(HUD)、集成有显示能力的车辆挡风玻璃、集成有显示能力的窗户、被形成为被设计用于放置在人眼睛上的透镜的显示器(例如,类似于隐形眼镜)、耳机/听筒、扬声器阵列、输入系统(例如,具有或没有触觉反馈的可穿戴或手持控制器)、智能电话、平板电脑、和台式/膝上型计算机。头戴式系统可以具有一个或多个扬声器和集成的不透明显示器。另选地,头戴式系统可以被配置为接受外部不透明显示器(例如,智能电话)。头戴式系统可以结合用于捕获物理环境的图像或视频的一个或多个成像传感器、和/或用于捕获物理环境的音频的一个或多个麦克风。头戴式系统可以具有透明或半透明显示器,而不是不透明显示器。透明或半透明显示器可以具有媒介,代表图像的光通过该媒介被引导到人的眼睛。显示器可以利用数字光投影、OLED、LED、uLED、硅基液晶、激光扫描光源或这些技术的任意组合。媒介可以是光学波导、全息图媒介、光学组合器、光学反射器、或它们的任意组合。在一个实施方案中,透明或半透明显示器可被配置为选择性地变得不透明。基于投影的系统可以采用将图形图像投影到人的视网膜上的视网膜投影技术。投影系统也可以被配置为将虚拟对象投影到物理环境中,例如作为全息图或在物理表面上。
如上所述,本技术的一个方面在于采集和使用可从各种来源获得的数据来生成图形内容。本公开预期,在一些实例中,这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可包括人口统计数据、基于定位的数据、电话号码、电子邮件地址、twitter ID、家庭地址、与用户的健康或健身等级相关的数据或记录(例如,生命信号测量、药物信息、锻炼信息)、出生日期、或任何其他识别信息或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,个人信息数据可以用于生成图形内容。此外,本公开还预期个人信息数据有益于用户的其他用途。例如,健康和健身数据可用于向用户的总体健康状况提供见解,或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。此外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。此外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。例如,生成图形内容,本技术可被配置为允许用户在注册服务期间或其后随时选择参与收集个人信息数据的“选择加入”或“选择退出”。除了提供“选择加入”和“选择退出”选项外,本公开设想提供与访问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访问,然后就在个人信息数据被应用访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集定位数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如,可以基于非个人信息数据或绝对最小量的个人信息(诸如与用户相关联的设备所请求的内容、其他非个人信息或公开可用信息)来生成图形内容。
Claims (22)
1.一种头戴式显示器,包括:
显示单元,所述显示单元具有用于输出图形内容的显示器;
头部支撑件,所述头部支撑件耦接到所述显示单元用于接合用户的头部,以支撑所述显示单元使得所述显示器位于所述用户的眼睛前方;和
相机,所述相机各自耦接到所述显示单元或所述头部支撑件中的一者,其中所述相机具有水平重叠以共同为所述头戴式显示器提供水平360度的头戴式显示器视场的相机视场。
2.根据权利要求1所述的头戴式显示器,其中当所述头戴式显示器被佩戴在所述用户的头部时,所述相机定位在所述用户的所述头部的顶部下方。
3.根据权利要求2所述的头戴式显示器,其中所述水平360度的头戴式显示器视场围绕所述用户的所述头部延伸。
4.根据前述权利要求中任一项所述的头戴式显示器,其中所述相机中的一个或多个相机是耦接到所述头部支撑件并由所述头部支撑件支撑的支撑件安装式相机。
5.根据权利要求4所述的头戴式显示器,其中所述头部支撑件围绕所述用户的所述头部延伸。
6.根据权利要求4所述的头戴式显示器,其中所述头部支撑件能够可移除地耦接到所述显示单元。
7.根据权利要求6所述的头戴式显示器,其中所述头部支撑件和所述显示单元形成在所述支撑件安装式相机和所述显示单元之间传输数据的可移除的数据连接。
8.根据权利要求4至7中任一项所述的头戴式显示器,其中所述支撑件安装式相机与所述头部支撑件成一体。
9.根据权利要求4至7中任一项所述的头戴式显示器,其中所述支撑件安装式相机可移除地耦接到所述头部支撑件。
10.根据权利要求5所述的头戴式显示器,其中所述相机中的一个或多个相机是耦接到所述显示单元并由所述显示单元支撑的显示器安装式相机。
11.根据权利要求1至3中任一项所述的头戴式显示器,其中所述相机中的一个或多个相机是耦接到所述显示单元并由所述显示单元支撑的显示器安装式相机。
12.根据权利要求11所述的头戴式显示器,其中所述显示器安装式相机与所述显示单元成一体。
13.一种头戴式显示器,包括:
显示单元,所述显示单元具有显示器;
头部支撑件,所述头部支撑件耦接到所述显示单元用于接合用户的头部,以支撑所述显示单元使得所述显示器位于所述用户的眼睛前方;和
相机,所述相机各自耦接到所述显示单元或所述头部支撑件中的一者;
其中所述头戴式显示器向光学透视或前向场视频透视中的一者提供前向视场,所述前向视场是通过所述光学透视或所述前向场视频透视中的一者对所述用户可见的环境的跨度;并且
其中所述头戴式显示器用所述显示器通过由所述相机从所述前向视场之外的扩展视场捕获的所述环境的图像来提供扩展场视频透视。
14.根据权利要求13所述的头戴式显示器,其中所述头戴式显示器提供所述光学透视,并且所述前向视场是所述用户在前向方向上直接可见的所述环境的所述跨度。
15.根据权利要求14所述的头戴式显示器,其中所述扩展视场在所述前向方向上水平200度的跨度之外。
16.根据权利要求13所述的头戴式显示器,其中所述头戴式显示器提供所述前向场视频透视,并且所述前向视场是通过所述前向场视频透视对所述用户可见的所述环境的所述跨度。
17.根据权利要求16所述的头戴式显示器,其中所述前向视场为水平160度或更小。
18.根据权利要求16至17中任一项所述的头戴式显示器,其中所述扩展场视频透视是以下中的至少一者:由所述前向场视频透视包围、定位在所述前向场视频透视上方或下方、或定位到所述前向场视频透视的一侧。
19.根据权利要求13至17中任一项所述的头戴式显示器,其中所述扩展场视频透视的所述图像包括由所述相机从所述扩展视场捕获的奇异图像、组合图像或它们的部分中的一者或多者。
20.一种头戴式显示器,包括:
显示单元,所述显示单元具有显示器;
头部支撑件,所述头部支撑件耦接到所述显示单元用于接合用户的头部,以支撑所述显示单元使得所述显示器位于所述用户的眼睛前方;和
相机,所述相机各自耦接到所述显示单元或所述头部支撑件中的一者,其中所述相机具有水平重叠以共同为所述头戴式显示器提供水平360度的头戴式显示器视场的相机视场;
其中所述头戴式显示器存储360度的图形内容,所述360度的图形内容包括由所述相机从所述头戴式显示器视场捕获的图像。
21.根据权利要求20所述的头戴式显示器,其中所述头戴式显示器通过拼接所述图像以形成构成所述360度的图形内容的组合图像来处理所述图像。
22.根据权利要求20至21中任一项所述的头戴式显示器,其中所述头戴式显示器通过由所述相机捕获的所述图像来提供视频透视。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962902426P | 2019-09-19 | 2019-09-19 | |
US62/902,426 | 2019-09-19 | ||
US17/011,376 US11800231B2 (en) | 2019-09-19 | 2020-09-03 | Head-mounted display |
US17/011,376 | 2020-09-03 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112526750A true CN112526750A (zh) | 2021-03-19 |
Family
ID=74880033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010986378.9A Pending CN112526750A (zh) | 2019-09-19 | 2020-09-18 | 头戴式显示器 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11800231B2 (zh) |
CN (1) | CN112526750A (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11622100B2 (en) * | 2021-02-17 | 2023-04-04 | flexxCOACH VR | 360-degree virtual-reality system for dynamic events |
WO2024118062A1 (en) * | 2022-11-29 | 2024-06-06 | Magic Leap, Inc. | Method and system for reducing optical artifacts in augmented reality devices |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070046776A1 (en) * | 2005-08-29 | 2007-03-01 | Hiroichi Yamaguchi | Stereoscopic display device and control method therefor |
CN206365527U (zh) * | 2016-12-09 | 2017-08-01 | 点子建有限公司 | 一种集成智能头戴式设备 |
CN107615759A (zh) * | 2015-06-10 | 2018-01-19 | 索尼互动娱乐股份有限公司 | 头戴式显示器、显示控制方法以及程序 |
US20180052329A1 (en) * | 2016-05-02 | 2018-02-22 | Futurewei Technologies, Inc. | Head mounted display content capture and sharing |
CN110168600A (zh) * | 2017-01-11 | 2019-08-23 | 高通股份有限公司 | 调整360度视频的截顶正方形棱锥投影的视场 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5495576A (en) | 1993-01-11 | 1996-02-27 | Ritchey; Kurtis J. | Panoramic image based virtual reality/telepresence audio-visual system and method |
WO2006110584A2 (en) | 2005-04-07 | 2006-10-19 | Axis Engineering Technologies, Inc. | Stereoscopic wide field of view imaging system |
US9129430B2 (en) * | 2013-06-25 | 2015-09-08 | Microsoft Technology Licensing, Llc | Indicating out-of-view augmented reality images |
US9686466B1 (en) | 2013-06-27 | 2017-06-20 | Google Inc. | Systems and methods for environment content sharing |
JP5769032B2 (ja) * | 2013-07-29 | 2015-08-26 | カシオ計算機株式会社 | 撮像装置、撮像方法及びプログラム |
CN106304842A (zh) * | 2013-10-03 | 2017-01-04 | 舒朗科技公司 | 用于定位和地图创建的增强现实系统和方法 |
US9649558B2 (en) | 2014-03-14 | 2017-05-16 | Sony Interactive Entertainment Inc. | Gaming device with rotatably placed cameras |
US20160253561A1 (en) * | 2014-08-04 | 2016-09-01 | Bae Systems Information And Electronic Systems Integration Inc. | Face mounted extreme environment thermal sensor |
US10750153B2 (en) | 2014-09-22 | 2020-08-18 | Samsung Electronics Company, Ltd. | Camera system for three-dimensional video |
JP6484349B2 (ja) | 2015-05-27 | 2019-03-13 | グーグル エルエルシー | カメラリグおよび立体画像キャプチャ |
US10217189B2 (en) | 2015-09-16 | 2019-02-26 | Google Llc | General spherical capture methods |
US20180190011A1 (en) | 2017-01-04 | 2018-07-05 | Osterhout Group, Inc. | Content rendering systems for head-worn computers |
CN105607259A (zh) * | 2016-03-01 | 2016-05-25 | 上海小蚁科技有限公司 | 一种可穿戴装置和运动管理方法 |
CA2927046A1 (en) | 2016-04-12 | 2017-10-12 | 11 Motion Pictures Limited | Method and system for 360 degree head-mounted display monitoring between software program modules using video or image texture sharing |
US10502363B2 (en) * | 2016-05-17 | 2019-12-10 | Occipital, Inc. | Self-contained mixed reality head mounted display |
JP6711137B2 (ja) * | 2016-05-25 | 2020-06-17 | 富士通株式会社 | 表示制御プログラム、表示制御方法および表示制御装置 |
US10062353B2 (en) * | 2016-06-27 | 2018-08-28 | Intel Corporation | System to compensate for visual impairment |
JP6440910B2 (ja) * | 2016-07-29 | 2018-12-19 | 三菱電機株式会社 | 表示装置、表示制御装置および表示制御方法 |
JP6732617B2 (ja) | 2016-09-21 | 2020-07-29 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および画像生成方法 |
KR102632795B1 (ko) * | 2016-09-21 | 2024-02-02 | 삼성전자주식회사 | 컨텐츠와 연관된 네비게이터 표시 방법 및 이를 구현한 전자 장치 |
KR102382865B1 (ko) | 2017-06-28 | 2022-04-05 | 삼성전자주식회사 | 카메라 모듈, 카메라 모듈을 포함하는 전자 장치 |
SG11202004924VA (en) * | 2018-01-24 | 2020-06-29 | Darix Sarl | Head-mountable augmented vision system for displaying thermal images |
-
2020
- 2020-09-03 US US17/011,376 patent/US11800231B2/en active Active
- 2020-09-18 CN CN202010986378.9A patent/CN112526750A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070046776A1 (en) * | 2005-08-29 | 2007-03-01 | Hiroichi Yamaguchi | Stereoscopic display device and control method therefor |
CN107615759A (zh) * | 2015-06-10 | 2018-01-19 | 索尼互动娱乐股份有限公司 | 头戴式显示器、显示控制方法以及程序 |
US20180052329A1 (en) * | 2016-05-02 | 2018-02-22 | Futurewei Technologies, Inc. | Head mounted display content capture and sharing |
CN206365527U (zh) * | 2016-12-09 | 2017-08-01 | 点子建有限公司 | 一种集成智能头戴式设备 |
CN110168600A (zh) * | 2017-01-11 | 2019-08-23 | 高通股份有限公司 | 调整360度视频的截顶正方形棱锥投影的视场 |
Also Published As
Publication number | Publication date |
---|---|
US11800231B2 (en) | 2023-10-24 |
US20210092292A1 (en) | 2021-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113661431B (zh) | 头戴式设备的光学模块 | |
US11825103B2 (en) | Gaze-driven recording of video | |
US11308686B1 (en) | Captured image data in a computer-generated reality environment | |
US20210325678A1 (en) | Electronic Devices with Optical Modules | |
CN112540670A (zh) | 具有手指传感器的电子设备 | |
CN212112404U (zh) | 头戴式设备及用于共享数据的系统 | |
US20230359037A1 (en) | Head-Mounted Display With Low Light Operation | |
CN110488489B (zh) | 用于头戴式壳体的眼睛登记 | |
US11800231B2 (en) | Head-mounted display | |
US20240061252A1 (en) | Head-Mounted Device With Optical Module Illumination Systems | |
US11137596B2 (en) | Optical adjustment for head-mountable device | |
CN112415748A (zh) | 头戴式设备的颗粒控制 | |
US11729373B1 (en) | Calibration for head-mountable devices | |
US11899214B1 (en) | Head-mounted device with virtually shifted component locations using a double-folded light path | |
US11927761B1 (en) | Head-mounted display systems | |
US20240069688A1 (en) | Head-Mounted Electronic Device with Magnification Tool | |
US11749018B1 (en) | Eye enrollment for head-mounted enclosure | |
US11885965B1 (en) | Head-mounted display and display modules thereof | |
US11709365B1 (en) | Motor temperature sensor for head-mountable device | |
US20230228999A1 (en) | Head-mountable device and connector | |
WO2024044556A1 (en) | Head-mounted electronic device with magnification tool | |
WO2023192047A1 (en) | Energy efficient context relevant processing for content |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |