CN112241200A - 头戴式设备的对象跟踪 - Google Patents
头戴式设备的对象跟踪 Download PDFInfo
- Publication number
- CN112241200A CN112241200A CN202010676320.4A CN202010676320A CN112241200A CN 112241200 A CN112241200 A CN 112241200A CN 202010676320 A CN202010676320 A CN 202010676320A CN 112241200 A CN112241200 A CN 112241200A
- Authority
- CN
- China
- Prior art keywords
- electronic device
- head
- mounted device
- characteristic
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004891 communication Methods 0.000 claims description 25
- 230000003068 static effect Effects 0.000 claims description 10
- 230000009471 action Effects 0.000 claims description 9
- 230000000007 visual effect Effects 0.000 abstract description 14
- 238000000034 method Methods 0.000 description 31
- 238000001514 detection method Methods 0.000 description 27
- 230000033001 locomotion Effects 0.000 description 27
- 230000007246 mechanism Effects 0.000 description 23
- 238000005516 engineering process Methods 0.000 description 19
- 230000007613 environmental effect Effects 0.000 description 19
- 230000003287 optical effect Effects 0.000 description 19
- 238000012545 processing Methods 0.000 description 15
- 230000036541 health Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 230000001953 sensory effect Effects 0.000 description 9
- 230000003190 augmentative effect Effects 0.000 description 8
- 210000003128 head Anatomy 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 7
- 238000003032 molecular docking Methods 0.000 description 6
- 239000000126 substance Substances 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- CBENFWSGALASAD-UHFFFAOYSA-N Ozone Chemical compound [O-][O+]=O CBENFWSGALASAD-UHFFFAOYSA-N 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 230000008451 emotion Effects 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 239000002245 particle Substances 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013503 de-identification Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 230000004270 retinal projection Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 229910052710 silicon Inorganic materials 0.000 description 2
- 239000010703 silicon Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000001429 visible spectrum Methods 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000030808 detection of mechanical stimulus involved in sensory perception of sound Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000020169 heat generation Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000010399 physical interaction Effects 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000009528 vital sign measurement Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
Abstract
本公开涉及头戴式设备的对象跟踪。本文公开了一种头戴式设备,所述头戴式设备可与另一个设备和/或对象一起操作,针对所述另一个设备和/或对象采集信息以便于其表示的视觉显示。对象可设置有允许头戴式设备确定所述对象的标识和特性(例如,位置、取向、距离等)两者的指示符。附加地或另选地,所述头戴式设备可确定附接到对象的电子设备的标识和特性(例如,位置、取向、距离等)两者以用于产生所述对象的虚拟表示。附加地或另选地,所述头戴式设备可从附接到对象的电子设备接收数据以用于产生所述对象的虚拟表示。所述对象的所述虚拟表示可类似于所述物理对象,即使在所述对象本身未被独立分析的情况下。
Description
相关申请的交叉引用
本申请要求2019年7月17日提交的名称为“OBJECT TRACKING FOR HEAD-MOUNTEDDEVICES”的美国临时申请No.62/875,410的权益,其全部内容以引用方式并入本文。
技术领域
本说明书整体涉及头戴式设备,并且更具体地讲,涉及头戴式设备的对象跟踪。
背景技术
用户可佩戴头戴式设备以在该用户的视野内显示视觉信息。头戴式设备可以用作虚拟现实(VR)系统、增强现实(AR)系统和/或混合现实(MR)系统。用户可以观察由头戴式设备提供的输出,诸如在显示器上提供的视觉信息。显示器可以可选地允许用户观察头戴式设备外部的环境。由头戴式设备提供的其他输出可以包括音频输出和/或触觉反馈。用户可以通过提供用于由头戴式设备的一个或多个部件进行处理的输入来进一步与该头戴式设备交互。例如,在设备安装到用户的头部的同时,该用户可以提供触觉输入、语音命令和其他输入。
附图说明
本主题技术的一些特征在所附权利要求书中被示出。然而,出于解释的目的,在以下附图中阐述了本主题技术的若干实施方案。
图1示出了根据本公开的一些实施方案的头戴式设备的透视图。
图2示出了根据本公开的一些实施方案的头戴式设备、个人设备和电子设备的视图。
图3示出了根据本公开的一些实施方案的头戴式设备和电子设备的框图。
图4示出了根据本公开的一些实施方案的提供个人设备的表示的头戴式设备的显示器。
图5示出了根据本公开的一些实施方案的具有指示符的对象的透视图。
图6示出了根据本公开的一些实施方案的基于指示符的操作头戴式设备以确定输入设备的标识和特性的方法。
图7示出了根据本公开的一些实施方案的电子设备和个人设备的透视图。
图8示出了根据本公开的一些实施方案的附接到个人设备的电子设备的透视图。
图9示出了根据本公开的一些实施方案的附接到个人设备的电子设备的透视图。
图10示出了根据本公开的一些实施方案的操作头戴式设备以确定电子设备的特性并显示附接到该电子设备的个人设备的表示的方法。
图11示出了根据本公开的一些实施方案的电子设备和个人设备的透视图。
图12示出了根据本公开的一些实施方案的附接到个人设备的电子设备的透视图。
图13示出了根据本公开的一些实施方案的操作头戴式设备以从传感器设备收集数据并显示附接到传感器设备的个人设备的表示的方法。
具体实施方式
下面示出的具体实施方式旨在作为本主题技术的各种配置的描述并且不旨在表示本主题技术可被实践的唯一配置。附图被并入本文并且构成具体实施方式的一部分。具体实施方式包括具体的细节旨在提供对本主题技术的透彻理解。然而,对于本领域的技术人员来说将清楚和显而易见的是,本主题技术不限于本文示出的具体细节并且可在没有这些具体细节的情况下被实践。在一些情况下,以框图形式示出了熟知的结构和部件,以便避免使本主题技术的概念模糊。
头戴式设备,诸如头戴式显示器、头戴式耳机、护目镜、智能眼镜、平视显示器等,可以执行可穿戴设备包括的部件(例如,传感器、电路和其他硬件)管理的一系列功能。
头戴式设备可以配备有宽泛范围的面向外和面向内的传感器。这些传感器可识别并跟踪对象、表面和用户手势,诸如手和身体运动。此类传感器的功能可受到诸如部件成本、设备尺寸、设备重量、热量生成、可用的计算能力和/或由于设备相对于其他对象或用户处于特定定位而发生的遮挡之类的因素的限制。
头戴式设备可从设备收集数据和/或与设备相关的数据,并且进行有助于向用户显示表示(例如,虚拟渲染)的过程的某些确定。例如,对象可设置有允许头戴式设备确定对象的标识和特性(例如,位置、取向、距离等)两者的指示符。因此,可使用相同的指示符来确定以类似于物理对象的方式产生对象的虚拟表示所必需的信息。
又如,能够由头戴式设备识别的电子设备可以保持电子设备和对象之间的固定相对位置和取向的方式附接到另一个对象。头戴式设备可确定电子设备的标识和特性(例如,位置、取向、距离等)两者。关于电子设备的信息可用于以类似于物理对象的方式产生对象的虚拟表示。
又如,电子设备可附接到另一个对象并收集被传输到头戴式设备以用于分析的数据。头戴式设备可基于该数据确定电子设备的标识和特性(例如,位置、取向、距离等)两者。从电子设备接收的信息可用于以类似于物理对象的方式产生对象的虚拟表示。
对电子设备的分析不需要头戴式设备独立地识别和分析每个对象,而是可提供足够的约束以确定另一个对象的特性,而不需要独立地分析另一个对象。通过此类分析,可改善对象识别、手和身体跟踪、表面映射和/或数字重建的速度和准确性。又如,该方法可提供空间、表面、对象、手势和用户的更有效且更高效的映射。
下面参考图1至图13来讨论这些实施方案和其他实施方案。然而,本领域的技术人员将容易地理解,本文相对于这些附图所给出的详细描述仅出于说明性目的,而不应被理解为是限制性的。
根据一些实施方案,例如如图1所示,头戴式设备100包括框架190,该框架佩戴在用户的头部上。框架190可定位在用户的眼睛的前面以在用户的视场内提供信息。框架190可提供鼻垫或另一特征部以搁置在用户的鼻部上。框架190可利用固定元件120支撑在用户的头部上。固定元件120可沿用户的头部的相对侧缠绕或延伸。固定元件120可以包括用于缠绕或以其他方式接合或放置在用户耳朵上的耳机。应当理解,可以应用其他配置将头戴式设备100固定到用户的头部上。例如,除了头戴式设备100的所示部件之外或代替该头戴式设备的所示部件,可以使用一个或多个绑带、条带、束带、盖帽、帽子或其他部件。又如,固定元件120可包括多个部件以接合用户的头部。
框架190可以在其外围区域周围提供结构,以将框架190的任何内部部件支撑在它们的组装位置。例如,框架190可以包封并支撑各种内部部件(包括例如集成电路芯片、处理器、存储器设备和其他电路),以为头戴式设备100提供计算和功能操作,如本文进一步所述。框架190和/或固定元件120之内和/或之上可以包括任何数量的部件,并且这些部件可以可操作地连接到彼此。
框架190可包括和/或支撑一个或多个相机150。该相机150可以定位在框架190的外侧上或附近,以捕获头戴式设备100外部的视图的图像。所捕获的图像可用于显示给用户或存储用于任何其他目的。附加地或另选地,其他传感器、输入设备和/或输出设备可以定位在框架190的外侧处或外侧上。
现在参考图2,系统1的头戴式设备100可与对象90和/或电子设备50结合使用。任选地,该头戴式设备的操作可在用户例如用用户的手20操作对象90和/或电子设备50时进行。
头戴式设备100可以捕获相机150的视场内的对象90、电子设备50和/或手20的一个或多个视图的方式来操作相机150。可在头戴式设备100的显示器110上产生捕获到的图像以供用户10观察。如本文所用,相机是可光学地捕获环境(例如,在可见光光谱之内和/或之外)的视图的设备。附加地或另选地,头戴式设备100可与对象90和/或电子设备50通信。头戴式设备100可基于所采集的与对象90、电子设备50和/或手20相关的信息向用户提供一个或多个输出。用户可通过头戴式设备100的显示器110观察对象90、电子设备50、手20和/或其表示,如本文进一步所讨论的。
显示器110可任选地透射来自物理环境的光以供用户查看。此类显示器110可以包括光学性质,诸如用于基于来自物理环境的入射光进行视力校正的透镜。附加地或另选地,显示器110可以作为用户视场内的显示器提供信息。此类信息可通过排除物理环境的视图或除了(例如,覆盖)物理环境来提供。附加地或另选地,其他传感器、输入设备和/或输出设备可以定位在框架190的内侧处或内侧上。
物理环境是指人们在没有电子系统帮助的情况下能够感测和/或交互的物理世界。物理环境诸如物理公园包括物理物品,诸如物理树木、物理建筑物和物理人。人们能够诸如通过视觉、触觉、听觉、味觉和嗅觉来直接感测物理环境和/或与物理环境交互。
相反,计算机生成现实(CGR)环境是指人们经由电子系统感知和/或交互的完全或部分模拟的环境。在CGR中,跟踪人的物理运动的一个子集或其表示,并且作为响应,以符合至少一个物理定律的方式调节在CGR环境中模拟的一个或多个虚拟对象的一个或多个特性。例如,CGR系统可以检测人的头部转动,并且作为响应,以与此类视图和声音在物理环境中变化的方式类似的方式调节呈现给人的图形内容和声场。在一些情况下(例如,出于可达性原因),对CGR环境中虚拟对象的特性的调节可以响应于物理运动的表示(例如,声音命令)来进行。
人可以利用其感官中的任一者来感测CGR对象和/或与CGR对象交互,包括视觉、听觉、触觉、味觉和嗅觉。例如,人可以感测音频对象和/或与音频对象交互,该音频对象创建3D或空间音频环境,该3D或空间音频环境提供3D空间中点音频源的感知。又如,音频对象可以使能音频透明度,该音频透明度在有或者没有计算机生成的音频的情况下选择性地引入来自物理环境的环境声音。在某些CGR环境中,人可以感测和/或只与音频对象交互。
CGR的示例包括虚拟现实和混合现实。
虚拟现实(VR)环境是指被设计成对于一个或多个感官完全基于计算机生成的感官输入的模拟环境。VR环境包括人可以感测和/或交互的多个虚拟对象。例如,树木、建筑物和代表人的化身的计算机生成的图像是虚拟对象的示例。人可以通过在计算机生成的环境内人的存在的模拟、和/或通过在计算机生成的环境内人的物理运动的一个子组的模拟来感测和/或与VR环境中的虚拟对象交互。
与被设计成完全基于计算机生成的感官输入的VR环境相比,混合现实(MR)环境是指被设计成除了包括计算机生成的感官输入(例如,虚拟对象)之外还引入来自物理环境的感官输入或其表示的模拟环境。在虚拟连续体上,混合现实环境是完全物理环境作为一端和虚拟现实环境作为另一端之间的任何状况,但不包括这两端。
在一些MR环境中,计算机生成的感官输入可以对来自物理环境的感官输入的变化进行响应。另外,用于呈现MR环境的一些电子系统可以跟踪相对于物理环境的定位和/或取向,以使虚拟对象能够与真实对象(即,来自物理环境的物理物品或其表示)交互。例如,系统可以导致运动使得虚拟树木相对于物理地面看起来是静止的。
混合现实的示例包括增强现实和增强虚拟。
增强现实(AR)环境是指其中一个或多个虚拟对象叠加在物理环境或其表示之上的模拟环境。例如,用于呈现AR环境的电子系统可具有透明或半透明显示器,人可以透过该显示器直接查看物理环境。该系统可以被配置成在透明或半透明显示器上呈现虚拟对象,使得人利用该系统感知叠加在物理环境之上的虚拟对象。另选地,系统可以具有不透明显示器和一个或多个成像传感器,成像传感器捕获物理环境的图像或视频,这些图像或视频是物理环境的表示。系统将图像或视频与虚拟对象组合,并在不透明显示器上呈现组合物。人利用系统经由物理环境的图像或视频而间接地查看物理环境,并且感知叠加在物理环境之上的虚拟对象。如本文所用,在不透明显示器上显示的物理环境的视频被称为“透传视频”,意味着系统使用一个或多个图像传感器捕获物理环境的图像,并且在不透明显示器上呈现AR环境时使用那些图像。进一步另选地,系统可以具有投影系统,该投影系统将虚拟对象投射到物理环境中,例如作为全息图或者在物理表面上,使得人利用该系统感知叠加在物理环境之上的虚拟对象。
增强现实环境也是指其中物理环境的表示被计算机生成的感官信息进行转换的模拟环境。例如,在提供透传视频中,系统可以对一个或多个传感器图像进行转换以施加与成像传感器所捕获的视角不同的选择视角(例如,视点)。又如,物理环境的表示可以通过图形地修改(例如,放大)其部分而进行转换,使得经修改部分可以是原始捕获图像的代表性的但不是真实的版本。再如,物理环境的表示可以通过以图形方式消除其部分或将其部分进行模糊处理而进行转换。
增强虚拟(AV)环境是指其中虚拟或计算机生成的环境结合来自物理环境的一个或多个感官输入的模拟环境。感官输入可以是物理环境的一个或多个特性的表示。例如,AV公园可以具有虚拟树木和虚拟建筑物,但人的脸部是从对物理人拍摄的图像逼真再现的。又如,虚拟对象可以采用一个或多个成像传感器所成像的物理物品的形状或颜色。再如,虚拟对象可以采用符合太阳在物理环境中的位置的阴影。
有许多不同类型的电子系统使人能够感测和/或与各种CGR环境交互。示例包括头戴式系统、基于投影的系统、平视显示器(HUD)、集成有显示能力的车辆挡风玻璃、集成有显示能力的窗户、被形成为被设计用于放置在人的眼睛上的透镜的显示器(例如,类似于隐形眼镜)、耳机/听筒、扬声器阵列、输入系统(例如,具有或不具有触觉反馈的可穿戴或手持控制器)、智能电话、平板电脑、和台式/膝上型计算机。头戴式系统可以具有一个或多个扬声器和集成的不透明显示器。另选地,头戴式系统可以被配置为接受外部不透明显示器(例如,智能电话)。头戴式系统可以结合用于捕获物理环境的图像或视频的一个或多个成像传感器、和/或用于捕获物理环境的音频的一个或多个麦克风。头戴式系统可以具有透明或半透明显示器,而不是不透明显示器。透明或半透明显示器可以具有媒介,代表图像的光通过该媒介被引导到人的眼睛。显示器可以利用数字光投影、OLED、LED、uLED、硅基液晶、激光扫描光源或这些技术的任意组合。媒介可以是光学波导、全息图媒介、光学组合器、光学反射器、或它们的任意组合。在一个实施方案中,透明或半透明显示器可被配置成选择性地变得不透明。基于投影的系统可以采用将图形图像投影到人的视网膜上的视网膜投影技术。投影系统也可以被配置成将虚拟对象投影到物理环境中,例如作为全息图或在物理表面上。
现在参考图3,电子设备和头戴式设备的部件可被提供并且能够操作地连接以实现本文所述的性能。图3示出了根据本公开的一个或多个实施方案的头戴式设备100的简化框图。应当理解,可以在头戴式设备100的框架和/或固定元件中的任一个或两个上设置本文描述的部件。
如图3所示,头戴式设备100可包括具有一个或多个处理单元的处理器170,该一个或多个处理单元包括其上存储有指令的存储器218或被配置为访问其上存储有指令的存储器218。该指令或计算机程序可被配置为执行相对于头戴式设备100所述的操作或功能中的一者或多者。处理器170可被实现为能够处理、接收或传输数据或指令的任何电子设备。例如,处理器170可包括以下项中的一者或多者:微处理器、中央处理单元(CPU)、专用集成电路(ASIC)、数字信号处理器(DSP)或此类设备的组合。如本文所述,术语“处理器”意在涵盖单个处理器或处理单元、多个处理器、多个处理单元或一个或多个其他适当配置的计算元件。
存储器218可存储可由头戴式设备100使用的电子数据。例如,存储器218可存储电子数据或内容,诸如例如音频和视频文件、文档和应用、设备设置和用户偏好、用于各种模块、数据结构或数据库的定时和控制信号或数据等。存储器218可被配置为任何类型的存储器。仅以举例的方式,存储器218可被实现成随机存取存储器、只读存储器、闪存存储器、可移动存储器、或其他类型的存储元件或此类设备的组合。
头戴式设备100还可包括用于为用户显示视觉信息的显示器110。显示器110可提供视觉(例如,图像或视频)输出。显示器110可以是或包括不透明、透明和/或半透明的显示器。显示器110可具有透明或半透明的媒介,代表图像的光通过该媒介被引导到用户的眼睛。显示器110可利用数字光投影、OLED、LED、uLED、硅基液晶、激光扫描光源或这些技术的任意组合。媒介可以是光学波导、全息图媒介、光学组合器、光学反射器、或它们的任意组合。在一个实施方案中,透明或半透明显示器可被配置成选择性地变得不透明。基于投影的系统可以采用将图形图像投影到人的视网膜上的视网膜投影技术。投影系统也可以被配置成将虚拟对象投影到物理环境中,例如作为全息图或在物理表面上。头戴式设备100可包括光学子组件214,该光学子组件被配置为有助于光学地调节和正确地投影由显示器110显示的基于图像的内容以用于近距离观看。光学子组件214可包括一个或多个透镜、反射镜或其他光学设备。
头戴式设备100可包括用于捕获头戴式设备100外部环境的视图的相机150。该相机150可包括光学传感器,诸如光电二极管或光电二极管阵列。附加地或另选地,相机150可包括各种类型的光学传感器中的一者或多者,所述光学传感器被布置为各种构型以用于检测本文所述的用户输入。相机150可被配置为捕获位于相机150的视场内的场景或对象的图像。可以根据多种数字格式中的任一种将图像存储在数字文件中。在一些实施方案中,头戴式设备100包括相机,该相机包括由电荷耦合器件(CCD)和/或互补金属氧化物半导体(CMOS)器件形成的图像传感器、光伏电池单元、光电阻部件、激光扫描仪等。应当认识到,相机可包括其他运动感测设备。
相机150可提供一个或多个窗口(例如,开口、传输介质和/或透镜)以透射光以用于图像捕获和/或检测。窗口可包括透光材料。窗口可为透射光提供光学效果。例如,窗口可包括相对于图像传感器设置的一个或多个光学部件,包括例如透镜、漫射器、滤光器、快门等。还应当理解,头戴式设备100可包括任何数量的相机。相机可被定位和取向成捕获不同的视图。例如,一个相机可从一个视角捕获对象的图像,而另一相机可从另一视角捕获对象的图像。附加地或另选地,另一相机可捕获对象的未被第一相机捕获的图像。
附加地或另选地,头戴式设备100可包括指向外部环境的一个或多个环境传感器160。此类环境传感器160可以包括检测头戴式设备100的环境中的一个或多个条件的任何传感器。例如,环境传感器160可包括成像设备、热传感器、接近传感器、运动传感器、湿度传感器、化学传感器、光传感器和/或UV传感器。环境传感器160可以被配置为基本上感测任何类型的特性,诸如但不限于图像、压力、光、触摸、力、温度、位置、运动等。例如,环境传感器160可以是光电探测器、温度传感器、光或光学传感器、大气压力传感器、湿度传感器、磁体、陀螺仪、加速度计、化学传感器、臭氧传感器、微粒计数传感器等等。传感器可以用于感测相邻环境中的环境条件。
头戴式设备100可包括惯性测量单元(“IMU”)180,该惯性测量单元提供关于头戴式设备100的特性的信息,诸如其惯性角度。例如,IMU180可包括一个六自由度IMU,该六自由度IMU可基于六个自由度(x、y、z、θx、θy和θz)计算出头戴式设备的位置、速度和/或加速度。IMU 180可包括加速度计、陀螺仪和/或磁力计中的一者或多者。附加地或另选地,头戴式设备100可用用于检测头戴式设备100的运动和加速度的一个或多个其他运动传感器(诸如加速度计、陀螺仪、全球定位传感器、倾斜传感器等)检测头戴式设备100的运动特性。IMU180可以将数据提供给处理器170以进行处理。
头戴式设备100可包括用于跟踪佩戴头戴式设备100的用户的特征的一个或多个用户传感器140。例如,用户传感器140可以执行面部特征检测、面部运动检测、面部识别、眼动跟踪、用户心情检测、用户情绪检测、语音检测等。此类眼动跟踪可以用于确定要在显示器110上显示的信息的定位和/或要由头戴式设备100分析的视图的一部分(例如,对象)。又如,用户传感器140可以是用于跟踪生物计量特性(诸如健康和活性量度)的生物传感器。用户传感器140可以包括生物传感器,该生物传感器被配置为测量生物计量,诸如心电图(ECG)特性、皮肤电阻性以及用户的身体的其他电性质。附加地或另选地,生物传感器可以被配置为测量体温、暴露于紫外线辐射以及其他健康相关信息。
头戴式设备100可包括电池220,该电池可为头戴式设备100的部件进行充电和/或供电。电池220还可对连接到头戴式设备100(诸如便携式电子设备202)的部件进行充电和/或供电,如本文进一步所述。
头戴式设备100可包括输入/输出部件226,该输入/输出部件可包括用于允许用户提供输入和/或接收输出的任何合适的部件。输入/输出部件226可包括例如一个或多个按钮、表冠、按键、拨号盘、触控板、麦克风、触觉设备等。附加地或另选地,输入/输出部件226可包括用于将头戴式设备100连接到其他设备的任何合适的部件。合适的部件可包括例如音频/视频插孔、数据连接器、或任何附加的或另选的输入/输出部件。
头戴式设备100可包括用于使用任何合适的通信协议与一个或多个服务器或其他设备进行通信的通信元件228。例如,通信元件228可支持Wi-Fi(例如,802.11协议)、以太网、蓝牙、高频系统(例如,900MHz、2.4GHz和5.6GHz通信系统)、红外、TCP/IP(例如,TCP/IP层的每层中使用的任何协议)、HTTP、BitTorrent、FTP、RTP、RTSP、SSH、任何其他通信协议或其任何组合。通信元件228还可包括用于传输和接收电磁信号的天线。
头戴式设备100可包括如本文所述的麦克风230。该麦克风230可以可操作地连接到处理器170,以用于声音水平的检测和检测的通信以进行进一步处理,如本文中进一步描述的。
头戴式设备100可包括如本文所述的扬声器222。该扬声器222可以可操作地连接到处理器170,以控制扬声器输出,包括声音水平,如本文进一步描述的。
头戴式设备100可任选地连接到便携式电子设备202,该便携式电子设备可提供某些功能。为了简洁起见,图3将不详细描述便携式电子设备202。然而应当理解,便携式电子设备202可以包括各种特征的各种形式来体现,这些特征中的一些或全部可被头戴式设备100利用(例如,输入/输出、控制、处理、电池等)。便携式电子设备202可提供手持式形状因数(例如,重量轻、适配在口袋中的小型便携式电子设备等)。尽管不限于这些,但示例包括媒体播放器、电话(包括智能电话)、PDA、计算机等。便携式电子设备202可包括用于向用户呈现媒体的图形部分的屏幕213。屏幕213可用作头戴式设备100的主屏幕。
头戴式设备100可包括可操作以接收便携式电子设备202的扩展坞206。扩展坞206可包括连接器(例如,闪电接口、USB、火线、电源、DVI等),该连接器可插入便携式电子设备202的互补连接器中。扩展坞206可包括用于帮助在接合期间将连接器对准并且将便携式电子设备202物理地耦接到头戴式设备100的特征。例如,扩展坞206可限定用于放置便携式电子设备202的腔。扩展坞206还可包括用于将便携式电子设备202固定在该腔内的保持特征。扩展坞206上的连接器可用作便携式电子设备202和头戴式设备100之间的通信接口。
图3也示出了根据本公开的一个或多个实施方案的电子设备50的简化框图。
如图3所示,电子设备50可包括具有一个或多个处理单元的处理器370,该一个或多个处理单元包括其上存储有指令的存储器或被配置为访问其上存储有指令的存储器。这些指令或计算机程序可被配置为执行相对于电子设备50所述的操作或功能中的一者或多者。处理器370可被实现为能够处理、接收或传输数据或指令的任何电子设备。例如,处理器370可包括以下项中的一者或多者:微处理器、中央处理单元(CPU)、专用集成电路(ASIC)、数字信号处理器(DSP)或此类设备的组合。如本文所述,术语“处理器”意在涵盖单个处理器或处理单元、多个处理器、多个处理单元或一个或多个其他适当配置的计算元件。
电子设备50可包括输入/输出部件326,该输入/输出部件可包括用于允许用户提供输入和/或接收输出的任何合适的部件。输入/输出部件326可包括例如一个或多个按钮、表冠、按键、拨号盘、触控板、麦克风、触摸屏、触觉设备等。附加地或另选地,输入/输出部件326可包括用于将电子设备50连接到其他设备的任何合适的部件。合适的部件可包括例如音频/视频插孔、数据连接器、或任何附加的或另选的输入/输出部件。
电子设备50可包括惯性测量单元(“IMU”)380,该惯性测量单元提供关于电子设备50的特性的信息,诸如其惯性角度。例如,IMU 380可包括一个六自由度IMU,该六自由度IMU可基于六个自由度(x、y、z、θx、θy和θz)计算出电子设备的位置、速度和/或加速度。IMU 380可包括加速度计、陀螺仪和/或磁力计中的一者或多者。附加地或另选地,电子设备50可用用于检测电子设备50的运动和加速度的一个或多个其他运动传感器(诸如加速度计、陀螺仪、全球定位传感器、倾斜传感器等)检测电子设备50的运动特性。IMU 380可将数据提供给处理器370以进行处理。
附加地或另选地,电子设备50可包括指向外部环境的一个或多个环境传感器360。此类环境传感器360可包括检测电子设备50的环境中的一个或多个条件的任何传感器。例如,环境传感器360可包括成像设备、热传感器、接近传感器、运动传感器、湿度传感器、化学传感器、光传感器、音频传感器(例如,麦克风)和/或UV传感器。环境传感器360可被配置为基本上感测任何类型的特性,诸如但不限于图像、压力、光、触摸、力、温度、位置、运动、声音等。例如,环境传感器360可以是光电探测器、温度传感器、光或光学传感器、大气压力传感器、湿度传感器、磁体、陀螺仪、加速度计、化学传感器、臭氧传感器、微粒计数传感器等。传感器可以用于感测相邻环境中的环境条件。
电子设备50可包括用于捕获电子设备50外部环境的视图的相机350。相机350可包括光学传感器,诸如光电二极管或光电二极管阵列。附加地或另选地,相机350可包括被布置为各种配置以用于检测本文所述的用户输入的各种类型的光学传感器中的一者或多者。该相机350可被配置为捕获位于相机350的视场内的场景或对象的图像。可以根据多种数字格式中的任一种将图像存储在数字文件中。在一些实施方案中,电子设备50包括相机,该相机包括由电荷耦合器件(CCD)和/或互补金属氧化物半导体(CMOS)器件形成的图像传感器、光伏电池单元、光电阻部件、激光扫描仪等。应当认识到,相机可包括其他运动感测设备。
电子设备50可包括用于发射能够由头戴式设备100检测到的输出的发射器390。该发射器可产生输出,诸如光、声音、电磁辐射等。头戴式设备100可检测发射器390的输出(例如,用环境传感器160)以确定其特性和电子设备50的特性,如本文进一步所讨论的。
电子设备50可包括用于使用任何合适的通信协议经由通信元件228与一个或多个服务器或其他设备诸如头戴式设备100进行通信的通信元件328。例如,通信元件328可支持Wi-Fi(例如,802.11协议)、以太网、蓝牙、高频系统(例如,900MHz、2.4GHz和5.6GHz通信系统)、红外、TCP/IP(例如,TCP/IP层的每层中使用的任何协议)、HTTP、BitTorrent、FTP、RTP、RTSP、SSH、任何其他通信协议或其任何组合。通信元件328还可包括用于传输和接收电磁信号的天线。
现在参考图4,头戴式设备100的显示器110可提供对象490、电子设备450和/或用户的手420或用户的其他部分的视图。在显示器110的视图中提供的一个或多个对象可对应于环境中的物理对象。例如,头戴式设备100的相机可捕获对象、电子设备和/或用户的手的视图。基于捕获到的视图,显示器110可提供包括该物理对象的图像的显示。
附加地或另选地,显示器110可提供对应于外部环境中的物理对象的虚拟对象的显示。例如,对象490、电子设备450和/或手420可被渲染为具有基于外部环境中的物理对象的检测的特征(例如,位置、取向、颜色、尺寸等)的虚拟对象。因此,虚拟表示可便于用户与外部环境中的对应物理对象的物理交互。因此,用户可与虚拟表示的物理对象进行物理交互。
附加地或另选地,显示器110可提供不对应于外部环境中的物理对象的虚拟对象的显示。例如,即使当外部环境中不存在对应对象时,对象490和/或电子设备450也可被渲染为虚拟对象。又如,虚拟对象可由显示器110显示,好像从另一个对象延伸那样。此类虚拟对象仅可能够通过显示器110被观察到。应当理解,视图可包括物理对象和虚拟对象的视图。
附加地或另选地,可从显示器110上的表示中省略外部环境中的一个或多个物理对象。例如,对象490可虚拟地表示在显示器110上,但电子设备450可被省略,使得仅显示对象490。尽管如此,对应电子设备仍可由头戴式设备操作和分析以便于对象490的表示。
所显示的项目(例如,手420)中的一个或多个或其部分可与促进其可见性以及其他对象的可见性的特征一起显示。例如,手420可显示(例如,渲染)为半透明的(例如,半不透明的),使得对象490和/或电子设备450的部分可透过手420来查看。附加地或另选地,手420的部分可以是完全透明的,而其他部分可为至少部分地不透明的,使得透明的部分提供对下面的对象(例如,对象490和/或电子设备450)的查看。对象490和/或电子设备450可设置有突出显示、发光、轮廓、阴影或允许其部分透过手420更加清晰能够看见的其他对比特征。
现在参考图5,对象可设置有一个或多个指示符,以便于头戴式设备识别对象并确定其特性。图5的对象500可对应于图2和图3的对象90和/或图2和图3的电子设备50。附加地或另选地,图5的对象500可由头戴式设备100可视地表示为图4的对象490和/或电子设备450。
对象500可包括能够由头戴式设备检测并且能够由头戴式设备表示(例如,在视觉上)的任何对象。例如,对象500可以是供用户操作的输入设备。尽管对象500被示为键盘,但是应当理解,可设想其他类型的输入设备,诸如数字键盘、电话拨号键盘、安全性代码输入键盘、自定义键盘等。其他类型的输入设备包括触控板、鼠标、轨迹球、游戏控制器、遥控器等。附加地或另选地,对象500可以是电子设备。例如,对象500可以是电话、平板计算设备、移动计算设备、手表、膝上型计算设备、触笔、数字媒体播放器、能够穿戴的设备(衣服、手套、鞋子、珠宝、服饰等)、显示器、电视机等。附加地或另选地,对象500可以是外部环境中用于由头戴式设备在虚拟环境中表示的任何对象。
对象500可包括限定对象500的外周边的至少一部分的外壳510。外壳510可支撑对象500的内部部件,同时提供观察者能够看见的外表面。外壳510可包括能够供用户在视觉上和/或触觉上检测到的形状、颜色和/或纹理。对象500还可包括一个或多个输入构件520,诸如按键和/或触摸板。用户可在对象500的操作期间操作输入构件520。
对象500可包括用于将其自身识别到头戴式设备的一个或多个指示符。如图5所示,可在对象500的不同区域处提供指示符530a、指示符530b、指示符530c和/或指示符530d。虽然示出了一种类型的指示符,但将认识到,可采用各种类型的指示符。例如,指示符可包括图案、符号、文本(字母和/或数字)、图像、条形码(例如,通用产品代码)、QR码等。此类指示符可形成为对比暗(例如,黑色)和亮(例如,白色)部分的图案。应当理解,此类符号可设置在人眼的能够看见的光谱之内或外部。在指示符反射能够看见的光谱外部的光的情况下,它对用户来说可以是不能看见的。例如,指示符可包括紫外线反射油墨和/或红外线反射油墨。因此,指示符可提供识别能力而不能被用户注意到。
此类指示符可以能够由头戴式设备检测到的方式布置。此外,指示符的布置可被头戴式设备识别为对应于特定类型的对象。因此,给定类型的对象(例如,品牌、型号、样式等)上的一种布置可不同于不同类型的对象上的指示符的不同布置。因此,该布置可用作标识符以允许头戴式设备将对象500识别为一种类型。然后可以由头戴式设备检索和应用关于对象类型的信息,例如用于其视觉表示。此类信息可涉及对象的静态特征,诸如尺寸、形状、颜色等。应当理解,静态特征是在对应设备的操作期间不改变的特征。
相同的指示符可以能够由头戴式设备识别以确定对象的特性。例如,指示符可用于确定对象的动态特性,诸如位置、取向、距头戴式设备的距离、配置、状态等。应当理解,此类动态特性可随时间推移而改变。因此,确定此类特性可能是有用的,使得可以便于头戴式设备准确表示(例如,虚拟渲染)对象的方式应用与对象500的标识相关的信息。此类表示可基于指示符的更新的检测重复地、周期性地或恒定地更新。
如图5所示,指示符中的每个指示符(例如,指示符530a、指示符530b、指示符530c和指示符530d)可与指示符中的另一个指示符不同。例如,指示符中的至少一些指示符(例如,指示符530a、指示符530b、指示符530c和指示符530d)可具有独特或不同的尺寸、形状、颜色等。又如,指示符中的至少一些指示符(例如,指示符530a、指示符530b、指示符530c和指示符530d)可在相对于彼此的独特或不同取向上具有相同或类似的形状。
在指示符中的每个指示符位于对象500的已知部分处(例如,在外壳510上)的情况下,头戴式设备可识别每个指示符的定位和/或取向以确定头戴式设备的视场内的对应部分的定位。指示符在视场内的相对空间关系还可便于确定对象500相对于头戴式设备的取向。指示符在视场内的相对位置还可便于确定对象500和头戴式设备之间的距离。当距离已知时,头戴式设备还可推断出对象500附近的其他对象定位在类似的距离处。
对象500的识别以及一个或多个动态特性的确定允许头戴式设备提供对象的一个或多个表示,诸如表示对象500的视觉和/或虚拟渲染。例如,头戴式设备可经由其显示器向用户提供对象500的表示。此类表示可包括与对象500和/或特性相关的任何信息诸如标签、文本指示、图形特征和/或其他信息。附加地或另选地,表示可包括在显示器上显示的作为物理对象500的替代的虚拟对象。因此,可用虚拟对象替换和/或增强来自物理环境的所识别的对象500。然后,用户可基于头戴式设备提供的对象的虚拟表示与外部环境中的对象500进行交互(例如,触觉地)。
现在参考图6,提供了一种操作包括头戴式设备的系统的方法以实现本文所述的结果。方法600可至少部分地由头戴式设备执行以确定对象的标识和特性。附加地或另选地,至少一些步骤可部分地由可操作地连接到头戴式设备的另一个设备执行。应当理解,图6中所示的方法600仅为示例,并且可利用比图6所示的那些步骤附加的步骤和/或更少的步骤来执行方法。
在操作610中,头戴式设备捕获对象的一个或多个视图,包括由对象提供的指示符。在操作620中,头戴式设备基于对象的视图和/或指示符确定(例如,用处理器)对象的标识。标识可包括对象的静态特征(例如,尺寸、形状、颜色等)。在操作630中,头戴式设备基于对象的视图和/或指示符确定(例如,用处理器)对象的特性。该特性可包括对象的动态特性(例如,位置、取向、距头戴式设备的距离、配置、状态等)。在操作640中,头戴式设备可基于所确定的标识和所确定的特性显示对象的表示。该表示可包括可在头戴式设备的显示器上输出以供用户观察的对象的视觉和/或虚拟表示。
现在参考图7和图8,电子设备可附接到对象以便于通过头戴式设备确定其特性。图7和图8的电子设备700可对应于图2和图3的电子设备50,并且图7和图8的对象790可对应于图2和图3的对象90。附加地或另选地,图7和图8的电子设备700可由头戴式设备在视觉上表示为图4的电子设备450,并且图7和图8的对象790可由头戴式设备在视觉上表示为图4的对象490。
电子设备700可包括能够由头戴式设备检测到的任何电子设备。例如,电子设备700可以是供用户操作的输入设备。虽然电子设备700被示为智能手表(例如,没有腕带),但是应当理解,可设想其他类型的电子设备,诸如电话、平板计算设备、移动计算设备、膝上型计算设备、游戏控制器、触笔、数字媒体播放器、能够穿戴的设备(衣服、手套、鞋子、珠宝、服饰等)、显示器、电视机等。应当理解,电子设备700可用于除由头戴式设备可检测性之外的目的并提供功能。因此,电子设备700可以是当与对象790一起使用时提供一组功能并且当不与对象790一起使用时提供另一组功能的设备。
对象790可以是能够由头戴式设备表示(例如,在视觉上)的任何对象。例如,对象790可以是外部环境中用于由头戴式设备在虚拟环境中表示的任何对象。附加地或另选地,对象790可以是可供用户操作和/或操纵的任何对象。虽然对象790被示为控制器(例如,方向盘),但是应当理解,可设想其他类型的对象,诸如工具、仪器、体育用品装备项目、游戏控制器等。此类项目可在使用期间供用户握持和/或操纵。例如,对象790在空间中的位置、取向、移动和/或其他操纵可被解释为用户输入。附加地或另选地,对象790可以是输入设备。例如,对象790可以是键盘、触控板、鼠标、轨迹球、游戏控制器、遥控器、触笔、操纵杆等。此类项目可在使用期间供用户握持和/或操纵。例如,用户可以被解释为输入的方式操作对象790的输入部件。
如图7所示,电子设备700可包括电子设备附接元件720,并且对象790可包括对象附接元件792。电子设备700可经由电子设备附接元件720和对象附接元件792以能够释放的方式附接到对象790。在彼此附接时,电子设备700和对象790可保持固定相对位置和取向。因此,在彼此附接时,电子设备700的位置和/或取向可用于基于电子设备700和对象790之间的已知空间关系确定对象790的位置和/或取向。
作为附接机构的示例,对象790的对象附接元件792可横向地或以其他方式插入到电子设备700的电子设备附接元件720(例如,信道)中。因此,对象790可被配置为相对于电子设备700滑动。附加地或另选地,对象附接元件792可被按压、卡扣配合或以其他方式向前插入到电子设备附接元件720中。一旦插入,对象附接单元792就可被锁定或以其他方式固定在电子设备附接元件720内。
可提供附加或另选的机构以将对象790相对于电子设备700锁定在位。例如,可包括机构诸如锁、闩锁、搭锁、螺钉,扣钩、螺纹、磁铁、销、过盈(例如,摩擦)配合、滚花压机、卡口和/或其组合以当对象附接元件792和电子设备附接元件720彼此接合时将对象790锁定到电子设备700。对象790可仍然相对于电子设备700保持锁定,直到释放机构被致动。释放机构可设置在电子设备700和/或对象790的外表面上以供用户访问。在锁定机构相对于电子设备700将对象790锁定在位的情况下,释放机构当被致动时可移动并作用在锁定机构上以使其释放。例如,释放机构当被致动时可释放先前将对象790锁定到电子设备700上的一个或多个锁、闩锁、搭锁、螺钉,扣钩、螺纹、磁铁、销、过盈(例如,摩擦)配合、滚花压机、卡口和/或其组合。释放机构和锁定机构之间的至少一些交互可在电子设备700和/或对象790内。
电子设备700可包括限定电子设备700的外周边的至少一部分的外壳710。该外壳710可支撑电子设备700的内部部件,同时提供观察者能够看见的外表面。该外壳710可包括能够由头戴式设备在视觉上或以其他方式检测到的形状、颜色、表面特征、轮廓和/或纹理。附加地或另选地,电子设备700可将在视觉上识别电子设备700的特征输出(例如,通过显示器)到头戴式设备。附加地或另选地,电子设备700可包括用于将其自身识别到头戴式设备的一个或多个指示符,诸如本文所讨论的那些。电子设备700的特征能够由头戴式设备检测到,并且能够由头戴式设备识别为对应于特定类型的电子设备。因此,给定类型的电子设备的特征(例如,品牌、型号、样式等)可不同于不同类型的电子设备的特征。因此,这些特征可用作标识符以允许头戴式设备将电子设备700识别为一种类型。然后可由头戴式设备检索和应用关于对象类型的信息,例如用于确定其动态特性和/或其视觉表示。例如,这些特性可用于确定对象的动态特性,诸如位置、取向、距头戴式设备的距离、配置、状态等。应当理解,此类动态特性可随时间推移而改变。因此,确定此类特性可能是有用的,使得可以便于头戴式设备准确表示(例如,虚拟渲染)电子设备700和/或对象790的方式应用与电子设备700的标识相关的信息。此类表示可基于指示符的更新的检测重复地、周期性地或恒定地更新。
在电子设备700的特征位于电子设备700的已知部分处(例如,在外壳710上)的情况下,头戴式设备可识别每个指示符的定位和/或取向以确定头戴式设备的视场内的对应部分的定位。特征在视场内的相对位置还可便于确定电子设备700相对于头戴式设备的取向。指示符在视场内的相对位置还可便于确定电子设备700和头戴式设备之间的距离。当距离已知时,头戴式设备还可推断出电子设备700附近的其他对象定位在类似的距离处。
确定与电子设备700相关的一个或多个特性可便于确定对象790的一个或多个特性。例如,在彼此附接时,电子设备700和对象790可保持固定相对位置和取向。因此,在彼此附接时,电子设备700的位置和/或取向可用于基于电子设备700和对象790之间的已知空间关系确定对象790的位置和/或取向。因此,无需直接观察对象790就可实现与对象790相关的一个或多个特性的确定。因此,对象790需要设置有便于头戴式设备直接检测和/或识别的任何特征。尽管如此,应当理解,可任选地提供此类特征以用于直接检测和/或识别。附加地或另选地,对象790不需要设置有任何电子部件(例如,输入/输出部件、传感器等)以便于供用户的操作。尽管如此,应当理解,可任选地提供此类特征以用于接收输入和/或执行对象790处的检测。
电子设备700的识别及其一个或多个动态特性的确定允许头戴式设备提供电子设备700和/或对象790的一个或多个表示,诸如表示电子设备700和/或对象790的视觉和/或虚拟渲染。例如,头戴式设备可经由其显示器向用户提供电子设备700和/或对象790的表示。此类表示可包括与电子设备700、对象790和/或其特性相关的任何信息,诸如标签、文本指示、图形特征和/或其他信息。附加地或另选地,表示可包括在显示器上显示的作为物理电子设备700和/或物理对象790的替代的虚拟项目。因此,可用虚拟项目替换和/或增强来自物理环境的所识别的电子设备700和/或对象790。然后,用户可基于头戴式设备提供的虚拟表示与外部环境中的电子设备700和/或对象790进行交互(例如,触觉地)。
应当理解,可提供对象790的表示而不提供电子设备700的表示。例如,头戴式设备可显示对象790的表示,而不显示电子设备700的表示。因此,显示对象790的表示所需的确定可完全基于对电子设备700的观察。这些表示不需要包括电子设备700的表示,所显示的表示可基于该电子设备的表示。
头戴式设备可被操作以执行手势识别。例如,数据可由头戴式设备捕获、处理和/或生成,其中数据包括电子设备700和/或对象790的捕获视图。手势识别可涉及检测用户在对象790的操作期间实现的对象790的位置、取向和/或运动。如本文所讨论的,此类确定可基于电子设备700的检测,即使当用户与对象790而不是电子设备700直接交互时也是如此。用户对对象790的操作可被解释为由头戴式设备处理和响应的用户输入。例如,对象790的位置、取向和/或运动的特定一个、一系列和/或序列可被解释为用户输入,并且头戴式设备可作为响应执行动作。
现在参考图9,其示出了与电子设备700一起使用的另一个对象780。图9的电子设备700可对应于图2和图3的电子设备50,并且图9的对象780可对应于图2和图3的对象90。附加地或另选地,图9的电子设备700可由头戴式设备在视觉上表示为图4的电子设备450,并且图9的对象780可由头戴式设备在视觉上表示为图4的对象490。
虽然对象780在图9中被示为控制器(例如,游戏控制器),但是应当理解,这是又一个示例,并且可使用多种对象,如本文所讨论的。如图9所示,对象780可包括用于以能够释放的方式接合电子设备700的对象附接元件782,如本文所讨论的。确定与电子设备700相关的一个或多个特性可便于确定对象780的一个或多个特性。头戴式设备可显示对象790和/或电子设备700的表示。用户对对象780的操作可被解释为由头戴式设备处理和响应的用户输入。
现在参考图10,提供了一种操作包括头戴式设备的系统的方法以实现本文所述的结果。方法800可至少部分地由头戴式设备执行以确定电子设备和/或对象的标识和特性。附加地或另选地,至少一些步骤可部分地由可操作地连接到头戴式设备的另一个设备执行。应当理解,图10中所示的方法800仅为示例,并且可用比图10所示的那些步骤附加的步骤和/或更少的步骤来执行方法。
在操作810中,头戴式设备捕获附接到对象的电子设备的一个或多个视图。头戴式设备可任选地基于电子设备的视图确定(例如,用处理器)电子设备的标识,并且/或者可基于用户输入和/或其他输入确定标识。标识可包括电子设备的静态特征(例如,尺寸、形状、颜色等)。在操作820中,头戴式设备基于电子设备的视图确定(例如,用处理器)电子设备的特性。该特性可包括电子设备的动态特性(例如,位置、取向、距头戴式设备的距离、配置、状态等)。在操作840中,头戴式设备可基于所确定的特性以及/或者电子设备和对象之间的已知空间关系确定(例如,用处理器)并显示对象的表示。该表示可包括可在头戴式设备的显示器上输出以供用户观察的对象的视觉和/或虚拟表示。附加地或另选地,头戴式设备可基于所确定的特性以及/或者电子设备和对象之间的已知空间关系确定(例如,用处理器)对象的特性,并且将该特性解释为用户输入,如本文所讨论的。
现在参考图11,电子设备可附接到对象以便于通过头戴式设备确定其特性。图11的电子设备900可对应于图2和图3的电子设备50,并且图11的对象990可对应于图2和图3的对象90。附加地或另选地,图11的电子设备900可由头戴式设备在视觉上表示为图4的电子设备450,并且图11的对象990可由头戴式设备在视觉上表示为图4的对象490。
电子设备900可包括与头戴式设备通信的任何电子设备。例如,电子设备900可以是供用户操作的输入设备。虽然电子设备900被示为触笔,但是应当理解,可设想其他类型的电子设备,诸如电话、平板计算设备、移动计算设备、膝上型计算设备、游戏控制器、手表、数字媒体播放器、能够穿戴的设备(衣服、手套、鞋子、珠宝、服饰等)、显示器、电视机等。应当理解,电子设备900可用于除由头戴式设备可检测性之外的目的并提供功能。因此,电子设备900可以是当与对象990一起使用时提供一组功能并且当不与对象990一起使用时提供另一组功能的设备。
对象990可以是能够由头戴式设备表示(例如,在视觉上)的任何对象。例如,对象990可以是外部环境中用于由头戴式设备在虚拟环境中表示的任何对象。附加地或另选地,对象990可以是可供用户操作和/或操纵的任何对象。虽然对象990被示为运动设备项目(例如,网球拍),但是应当理解,可设想其他类型的对象,诸如工具、仪器、游戏控制器等。此类项目可在使用期间供用户握持和/或操纵。例如,对象990在空间中的位置、取向、移动和/或其他操纵可被解释为用户输入。附加地或另选地,对象990可以是输入设备。例如,对象990可以是键盘、触控板、鼠标、轨迹球、游戏控制器、遥控器、触笔、操纵杆等。此类项目可在使用期间供用户握持和/或操纵。例如,用户可以被解释为输入的方式操作对象990的输入部件。
如图11所示,对象990可包括对象附接元件992。电子设备900可经由对象附接元件992(和/或电子设备的特征,诸如电子设备附接元件)以能够释放的方式附接到对象990。在彼此附接时,电子设备900和对象990可保持固定相对位置和取向。因此,在彼此附接时,电子设备900的位置和/或取向可用于基于电子设备900和对象990之间的已知空间关系确定对象990的位置和/或取向。
作为附接机构的示例,对象990的对象附接元件992可接收电子设备900的至少一部分。因此,对象990可包含和/或保护电子设备900。任选地,当附接到对象990时电子设备900不需要能够看见。可提供附加或另选的机构以将对象990相对于电子设备900锁定在位。例如,可包括机构诸如锁、闩锁、搭锁、螺钉,扣钩、螺纹、磁铁、销、过盈(例如,摩擦)配合、滚花压机、卡口和/或其组合以将对象990锁定到电子设备900。对象990可仍然相对于电子设备900保持锁定,直到释放机构被致动。释放机构可设置在电子设备900和/或对象990的外表面上以供用户访问。在锁定机构相对于电子设备900将对象990锁定在位的情况下,释放机构当被致动时可移动并作用在锁定机构上以使其释放。例如,释放机构当被致动时可释放先前将对象990锁定到电子设备900上的一个或多个锁、闩锁、搭锁、螺钉,扣钩、螺纹、磁铁、销、过盈(例如,摩擦)配合、滚花压机、卡口和/或其组合。释放机构和锁定机构之间的至少一些交互可在电子设备900和/或对象990内。
电子设备900可感测其特性并将对应数据传送到头戴式设备。例如,电子设备900可包括惯性测量单元(“IMU”),如相对于图3的电子设备50所讨论的。因此,电子设备900可检测并传送电子设备900的特性,诸如位置、取向、速度和/或加速度。此类检测可由传感器提供,诸如包括加速度计、陀螺仪和/或磁力仪中的一者或多者的IMU。应当理解,可提供应当理解,可提供用于检测电子设备900的运动特性的其他检测机构。
附加地或另选地,电子设备900可包括一个或多个环境传感器,如相对于图3的电子设备50所讨论的。例如,环境传感器可包括相机、成像设备、热传感器、接近传感器、运动传感器、湿度传感器、化学传感器、光传感器、音频传感器(例如,麦克风)和/或UV传感器。环境传感器可被配置为基本上感测任何类型的特性,诸如但不限于图像、压力、光、触摸、力、温度、位置、运动、声音等。例如,环境传感器360可以是光电探测器、温度传感器、光或光学传感器、大气压力传感器、湿度传感器、磁体、陀螺仪、加速度计、化学传感器、臭氧传感器、微粒计数传感器等。传感器可以用于感测相邻环境中的环境条件。
由电子设备900进行的检测可被传送到头戴式设备,如相对于图3的电子设备50和头戴式设备100所讨论的。例如,这些检测可被传送并用于确定对象990的动态特性,诸如位置、取向、距头戴式设备的距离、配置、状态等。应当理解,此类动态特性可随时间推移而改变。因此,检测和传送此类特性可能是有用的,使得可以便于头戴式设备准确表示(例如,虚拟渲染)电子设备900和/或对象990的方式应用与电子设备900和/或对象990相关的信息。
确定与电子设备900相关的一个或多个特性可便于确定对象990的一个或多个特性。例如,在彼此附接时,电子设备900和对象990可保持固定相对位置和取向。因此,在彼此附接时,电子设备900的位置和/或取向可用于基于电子设备900和对象990之间的已知空间关系确定对象990的位置和/或取向。因此,无需直接观察对象990就可实现与对象990相关的一个或多个特性的确定。因此,对象990需要设置有便于头戴式设备直接检测和/或识别的任何特征。尽管如此,应当理解,可任选地提供此类特征以用于直接检测和/或识别。附加地或另选地,对象990不需要设置有任何电子部件(例如,输入/输出部件、传感器等)以便于供用户的操作。尽管如此,应当理解,可任选地提供此类特征以用于接收输入和/或执行对象990处的检测。
应当理解,从电子设备900传送到头戴式设备的所检测到的特性可与头戴式设备进行的检测(诸如基于头戴式设备的视场的检测)组合。此类信息可由头戴式设备组合并由此应用。头戴式设备的其他检测也可包括在内,诸如来自电子设备900的发射的检测。例如,电子设备900可发射由头戴式设备检测到的光或另一种发射。此类检测可用于推断电子设备900面向的方向和/或发射光投射到其上的表面的特征。
电子设备900的识别及其一个或多个动态特性的确定允许头戴式设备提供电子设备900和/或对象990的一个或多个表示,诸如表示电子设备900和/或对象990的视觉和/或虚拟渲染。例如,头戴式设备可经由其显示器向用户提供电子设备900和/或对象990的表示。此类表示可包括与电子设备900、对象990和/或其特性相关的任何信息,诸如标签、文本指示、图形特征和/或其他信息。附加地或另选地,表示可包括在显示器上显示的作为物理电子设备900和/或物理对象990的替代的虚拟项目。因此,可用虚拟项目替换和/或增强来自物理环境的所识别的电子设备900和/或对象990。然后,用户可基于头戴式设备提供的虚拟表示与外部环境中的电子设备900和/或对象990进行交互(例如,触觉地)。
应当理解,可提供对象990的表示而不提供电子设备900的表示。例如,头戴式设备可显示对象990的表示,而不显示电子设备900的表示。因此,显示对象990的表示所需的确定可完全基于对电子设备900的观察。这些表示不需要包括电子设备900的表示,所显示的表示可基于该电子设备的表示。
头戴式设备可被操作以执行手势识别。例如,数据可由头戴式设备捕获、处理和/或生成,其中数据包括电子设备900和/或对象990的捕获视图。手势识别可涉及检测用户在对象990的操作期间实现的对象990的位置、取向和/或运动。如本文所讨论的,此类确定可基于电子设备900的检测,即使当用户与对象990而不是电子设备900直接交互时也是如此。用户对对象990的操作可被解释为由头戴式设备处理和响应的用户输入。例如,对象990的位置、取向和/或运动的特定一个、一系列和/或序列可被解释为用户输入,并且头戴式设备可作为响应执行动作。
现在参考图9,其示出了与电子设备900一起使用的另一个对象980。图9的电子设备900可对应于图2和图3的电子设备50,并且图9的对象980可对应于图2和图3的对象90。附加地或另选地,图9的电子设备900可由头戴式设备在视觉上表示为图4的电子设备450,并且图9的对象980可由头戴式设备在视觉上表示为图4的对象490。
虽然对象980在图9中被示为鞋子,但是应当理解,这是又一个示例,并且可使用多种对象,如本文所讨论的。如图9所示,对象980可包括用于以能够释放的方式接合电子设备900的一个或多个对象附接元件982,如本文所讨论的。确定与电子设备900相关的一个或多个特性可便于确定对象980的一个或多个特性。头戴式设备可显示对象990和/或电子设备900的表示。用户对对象980的操作可被解释为由头戴式设备处理和响应的用户输入。
现在参考图13,提供了一种操作包括头戴式设备的系统的方法以实现本文所述的结果。方法1000可至少部分地由头戴式设备和/或电子设备执行以确定电子设备和/或对象的特性。附加地或另选地,至少一些步骤可部分地由可操作地连接到头戴式设备的另一个设备执行。应当理解,图13中所示的方法1000仅为示例,并且可用比图13所示的那些步骤附加的步骤和/或更少的步骤来执行方法。
在操作1010中,当操作电子设备的传感器(例如,IMU、环境传感器、相机等)时进行检测并且/或者收集与电子设备的特性相关的数据。该特性可包括电子设备的动态特性(例如,位置、取向、距头戴式设备的距离、配置、状态等)。该数据可在电子设备附接到对象时收集。在操作1020中,来自传感器的数据从电子设备传输到头戴式设备。在操作1030中,头戴式设备可基于数据(例如,指示所确定的特性)以及/或者电子设备和对象之间的已知空间关系确定(例如,用处理器)并显示对象的表示。该表示可包括可在头戴式设备的显示器上输出以供用户观察的对象的视觉和/或虚拟表示。附加地或另选地,头戴式设备可基于所确定的特性以及/或者电子设备和对象之间的已知空间关系确定(例如,用处理器)对象的特性,并且将该特性解释为用户输入,如本文所讨论的。
因此,本公开的实施方案提供了一种包括头戴式设备和另一个设备和/或对象的系统,针对所述另一个设备和/或对象采集信息以便于其表示的视觉显示。对象可设置有允许头戴式设备确定对象的标识和特性(例如,位置、取向、距离等)两者的指示符。附加地或另选地,头戴式设备可确定附接到对象的电子设备的标识和特性(例如,位置、取向、距离等)两者以用于产生对象的虚拟表示。附加地或另选地,头戴式设备可从附接到对象的电子设备接收数据以用于产生对象的虚拟表示。对象的虚拟表示可类似于物理对象,即使在该对象本身未被独立分析的情况下。
为了方便起见,下文将本公开的各方面的各种示例描述为条款。这些示例以举例的方式提供,并且不限制主题技术。
条款A:一种系统,所述系统包括:对象,所述对象供用户操作,所述对象包括所述对象的外表面上的指示符;头戴式设备,所述头戴式设备包括:相机,所述相机用于捕获所述指示符的视图;处理器,所述处理器被配置为基于所述指示符的所述视图确定所述对象的标识和所述对象的特性;以及显示器,所述显示器被配置为基于所述对象的所述标识和所述对象的所述特性示出所述对象的表示。
条款B:一种头戴式设备,所述头戴式设备包括:相机,所述相机用于捕获以下各项的视图:对象,所述对象供用户握持或佩戴;电子设备,所述电子设备以能够释放的方式耦接到所述对象,使得所述电子设备相对于所述对象保持固定位置和取向;处理器,所述处理器被配置为基于所述电子设备的所述视图确定所述电子设备的特性;以及显示器,所述显示器被配置为基于所述特性以及所述电子设备和所述对象之间的已知空间关系示出所述对象的表示。
条款C:一种头戴式设备,所述头戴式设备包括:通信元件,所述通信元件被配置为在电子设备以能够释放的方式耦接到对象时从所述电子设备接收由所述电子设备的传感器检测到的特性使得所述电子设备相对于所述对象保持固定位置和取向;以及处理器,所述处理器被配置为基于所述电子设备的所述特性以及所述电子设备和所述对象之间的已知空间关系确定所述对象的特性;以及显示器,所述显示器被配置为基于所述对象的所述特性示出所述对象的表示。
条款D:一种系统,所述系统包括:根据条款A、B或C所述的头戴式设备中的一个或多个。
上述条款中的一个或多个可包括下述特征中的一个或多个。应当注意,以下条款中的任一个可彼此以任何组合组合,并被放置到相应的独立条款中,例如,条款A、B、C或D中。
条款1:所述处理器被进一步配置为基于所述指示符在所述指示符的所述视图内的定位和取向以及所述指示符之间或之中的已知空间关系确定所述对象的所述特性。
条款2:所述对象选自:键盘、触控板、鼠标、轨迹球、游戏控制器、遥控器、触笔和操纵杆。
条款3:所述特性是包括位置、取向或距所述头戴式设备的距离的动态特性。
条款4:所述表示包括虚拟对象,所述虚拟对象在由所述头戴式设备的所述显示器提供的视图中替换所述对象。
条款5:所述处理器被进一步配置为通过以下方式确定所述电子设备的所述特性:基于所述电子设备的所述视图确定所述电子设备的标识;基于所述电子设备的所述标识确定所述电子设备的静态特征;并且基于所述电子设备的所述视图确定所述电子设备的所述特性,其中所述视图包括所述静态特征。
条款6:所述静态特征包括所述电子设备的尺寸、形状或颜色。
条款7:所述电子设备选自:智能手表、电话、平板计算设备、触笔和数字媒体播放器。
条款8:所述处理器被进一步配置为:基于所述特性以及所述电子设备和所述对象之间的所述已知空间关系检测用户输入;并且执行对应于所述用户输入的动作。
条款9:所述对象,所述对象包括第一附接元件;以及所述电子设备,所述电子设备包括用于以能够释放的方式接合所述对象的所述第一附接元件的第二附接元件。
条款10:所述电子设备选自:智能手表、电话、平板计算设备、触笔和数字媒体播放器。
条款11:所述处理器被进一步配置为:基于所述对象的所述特性检测用户输入;并且执行对应于所述用户输入的动作。
条款12:所述通信元件是第一通信元件;所述对象,所述对象包括第一附接元件;并且所述电子设备包括:所述传感器;第二附接元件,所述第二附接元件用于以能够释放的方式接合所述对象的所述第一附接元件;以及第二通信元件,所述第二通信元件用于将所述特性传输到所述头戴式设备的所述第一通信元件。
条款13:所述电子设备还包括光发射器,所述光发射器被配置为将光投影到表面上;并且所述头戴式设备还包括相机,所述相机用于捕获所述电子设备的视图和投影到所述表面上的所述光,其中所述对象的所述表示还基于所述电子设备的所述视图和投影到所述表面上的所述光。
如上所述,本技术的一个方面可以包括采集和使用得自各种来源的数据。本公开预期,在一些实例中,这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可包括人口统计数据、基于定位的数据、电话号码、电子邮件地址、twitter ID、家庭地址、与用户的健康或健身等级相关的数据或记录(例如,生命信号测量、药物信息、锻炼信息)、出生日期、或任何其他识别信息或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,健康和健身数据可用于向用户的总体健康状况提供见解,或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。此外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。此外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。例如,就广告递送服务而言,本发明的技术可被配置为在注册服务期间或之后任何时候允许用户选择“选择加入”或“选择退出”参与对个人信息数据的收集。在另一示例中,用户可以选择不为目标内容递送服务提供情绪相关数据。在另一个示例中,用户可选择限制情绪相关数据被保持的时间长度,或完全禁止基础情绪状况的开发。除了提供“选择加入”和“选择退出”选项外,本公开设想提供与访问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访问,然后就在个人信息数据被应用访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集定位数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如,可通过基于非个人信息数据或绝对最低数量的个人信息诸如与用户相关联的设备所请求的内容、对内容递送服务可用的其他非个人信息或公开可用的信息来推断偏好,从而选择内容并将该内容递送至用户。
除非特别指出,否则以单数形式提及的元素并不意味着是唯一的,而是指一个或多个。例如,“一个”模块可指一个或多个模块。以“一个”,“一种”,“该”或“所述”为前缀的元素在没有进一步的限制的情况下不排除存在另外的相同的元素。
标题和副标题(如果有的话)仅用于方便,并不限制本发明。“示例性”一词用于表示用作示例或说明。在使用术语“包括”、“具有”等的意义上,此类术语旨在以类似于术语“包含”的方式是包含性的,因为在用作权利要求中的过渡词时解释为包含。诸如第一和第二等的关系术语可用于将一个实体或动作与另一个实体或动作区分开,而不一定要求或暗示这些实体或动作之间的任何实际的此类关系或顺序。
短语诸如方面、该方面、另一方面、一些方面、一个或多个方面、具体实施、该具体实施、另一具体实施、一些具体实施、一个或多个具体实施、实施方案、该实施方案、另一实施方案、一些实施方案、一个或多个实施方案、配置、该配置、其他配置、一些配置、一个或多个配置、主题技术、公开、本公开、其他变型等等都是为了方便,并不意味着涉及这样的一个或多个短语的公开对于主题技术是必不可少的,或者此类公开适用于主题技术的所有配置。涉及此类一个或多个短语的公开可适用于所有配置或一个或多个配置。涉及此类一个或多个短语的公开可提供一个或多个示例。短语诸如方面或一些方面可指代一个或多个方面,反之亦然,并且这与其他前述短语类似地应用。
在一系列项目之前的短语“至少一个”,用术语“和”或“或”分开项目中的任一者,将列表作为整体修改而不是列表中的每个成员。短语“至少一个”不需要选择至少一个项目;相反,该短语允许包括任何一个项目中的至少一个和/或项目的任何组合中的至少一个和/或每个项目中的至少一个的含义。举例来说,短语“A、B和C中的至少一个”或“A、B或C中的至少一个”中的每个短语仅指A、仅指B或仅指C;A、B和C的任意组合;和/或A、B和C中的每一个中的至少一个。
应该理解,公开的步骤、操作或过程的具体顺序或层次是示例性方法的说明。除非另有明确说明,否则可理解的是,步骤、操作或过程的具体顺序或层次可以不同的顺序执行。步骤、操作或过程中的一些可同时执行。所附方法权利要求书(如果有的话)以示例顺序呈现各个步骤、操作或过程的元素,并不意味着限于所呈现的特定顺序或层次。这些可以串行、线性、并行或不同的顺序执行。应当理解,所描述的指令、操作和系统通常可一起集成在单个软件/硬件产品中,或者被封装到多个软件/硬件产品中。
在一个方面,术语耦接等可指代直接耦接。另一方面,术语耦接等可指间接耦接。
术语诸如顶部、底部、前部、后部、侧部、水平、竖直等是指任意的参照系,而不是指通常的重力参照系。因此,此类术语可在重力参考系中向上、向下、对角或水平延伸。
提供本公开是为了使本领域的技术人员能够实践本文所述的各个方面。在一些情况下,以框图形式示出了熟知的结构和部件,以便避免使本主题技术的概念模糊。本公开提供了本主题技术的各种示例,并且本主题技术不限于这些示例。这些方面的各种修改对于本领域技术人员将是显而易见的,并且这里描述的原理可应用于其他方面。
本领域的普通技术人员已知或稍后悉知的贯穿本公开描述的各个方面的元素的所有结构和功能等同物通过引用明确地并入本文,并且旨在被权利要求书所涵盖。此外,本文所公开的任何内容并非旨在提供给公众,而与该公开是否明确地被陈述在权利要求中无关。根据35U.S.C.§112第六段的规定,不需要解释任何权利要求元素,除非使用短语“方法用以”明确陈述了该元素,或者就方法权利要求而言,使用短语“步骤用以”陈述了该元素。
标题、背景、附图的简要说明、摘要和附图在此被结合到本公开中,并且被提供作为本公开的说明性示例,而不是作为限制性描述。认为它们不会被用来限制权利要求的范围或含义。另外,在详细描述中可看出,为了使本公开简化的目的,描述提供了例示性示例,并且各种特征在各种具体实施中被组合在一起。公开的方法不应被解释为反映所要求保护的主题需要比每个权利要求中明确记载的特征更多的特征的意图。相反,如权利要求所反映的,发明主题在于少于单个公开的配置或操作的所有特征。权利要求由此被并入到具体实施方式中,每个权利要求本身作为单独要求保护的主题。
权利要求不旨在限于本文所述的方面,而是要被赋予与权利要求的语言一致的全部范围,并且涵盖所有的法律等同物。尽管如此,这些权利要求都不包含不符合适用专利法要求的主题,也不应该以此类方式解释。
Claims (20)
1.一种系统,包括:
对象,所述对象供用户操作,所述对象包括所述对象的外表面上的指示符;以及
头戴式设备,所述头戴式设备包括:
相机,所述相机用于捕获所述指示符的视图;
处理器,所述处理器被配置为基于所述指示符的所述视图确定所述对象的标识和所述对象的特性;和
显示器,所述显示器被配置为基于所述对象的所述标识和所述对象的所述特性示出所述对象的表示。
2.根据权利要求1所述的系统,其中所述处理器被进一步配置为基于所述指示符在所述指示符的所述视图内的定位和取向以及所述指示符之间或之中的已知空间关系确定所述对象的所述特性。
3.根据权利要求1所述的系统,其中所述对象选自:键盘、触控板、鼠标、轨迹球、游戏控制器、遥控器、触笔和操纵杆。
4.根据权利要求1所述的系统,其中所述特性是包括位置、取向或距所述头戴式设备的距离的动态特性。
5.根据权利要求1所述的系统,其中所述表示包括虚拟对象,所述虚拟对象在由所述头戴式设备的所述显示器提供的视图中替换所述对象。
6.一种头戴式设备,包括:
相机,所述相机用于捕获以下各项的视图:
对象,所述对象供用户握持或佩戴;
电子设备,所述电子设备以能够释放的方式耦接到所述对象,使得所述电子设备相对于所述对象保持固定位置和取向;
处理器,所述处理器被配置为基于所述电子设备的所述视图确定所述电子设备的特性;以及
显示器,所述显示器被配置为基于所述特性以及所述电子设备和所述对象之间的已知空间关系示出所述对象的表示。
7.根据权利要求6所述的头戴式设备,其中所述处理器被进一步配置为通过以下方式确定所述电子设备的所述特性:
基于所述电子设备的所述视图确定所述电子设备的标识;
基于所述电子设备的所述标识确定所述电子设备的静态特征;以及
基于所述电子设备的所述视图确定所述电子设备的所述特性,其中所述视图包括所述静态特征。
8.根据权利要求7所述的头戴式设备,其中所述静态特征包括所述电子设备的尺寸、形状或颜色。
9.根据权利要求6所述的头戴式设备,其中所述电子设备选自:智能手表、电话、平板计算设备、触笔和数字媒体播放器。
10.根据权利要求6所述的头戴式设备,其中所述特性是包括位置、取向或距所述头戴式设备的距离的动态特性。
11.根据权利要求6所述的头戴式设备,其中所述表示包括虚拟对象,所述虚拟对象在由所述头戴式设备的所述显示器提供的视图中替换所述对象。
12.根据权利要求6所述的头戴式设备,其中所述处理器被进一步配置为:
基于所述特性以及所述电子设备和所述对象之间的所述已知空间关系检测用户输入;以及
执行对应于所述用户输入的动作。
13.一种系统,包括:
根据权利要求6所述的头戴式设备;
所述对象,所述对象包括第一附接元件;以及
所述电子设备,所述电子设备包括用于以能够释放的方式接合所述对象的所述第一附接元件的第二附接元件。
14.一种头戴式设备,包括:
通信元件,所述通信元件被配置为在电子设备以能够释放的方式耦接到对象时从所述电子设备接收由所述电子设备的传感器检测到的特性使得所述电子设备相对于所述对象保持固定位置和取向;和
处理器,所述处理器被配置为基于所述电子设备的所述特性以及所述电子设备和所述对象之间的已知空间关系确定所述对象的特性;以及
显示器,所述显示器被配置为基于所述对象的所述特性示出所述对象的表示。
15.根据权利要求14所述的头戴式设备,其中所述电子设备选自:智能手表、电话、平板计算设备、触笔和数字媒体播放器。
16.根据权利要求14所述的头戴式设备,其中所述电子设备的所述特性是包括位置、取向或距所述头戴式设备的距离的动态特性。
17.根据权利要求14所述的头戴式设备,其中所述表示包括虚拟对象,所述虚拟对象在由所述头戴式设备的所述显示器提供的视图中替换所述对象。
18.根据权利要求14所述的头戴式设备,其中所述处理器被进一步配置为:
基于所述对象的所述特性检测用户输入;以及
执行对应于所述用户输入的动作。
19.一种系统,包括:
根据权利要求14所述的头戴式设备,其中所述通信元件是第一通信元件;
所述对象,所述对象包括第一附接元件;以及
所述电子设备包括:
所述传感器;
第二附接元件,所述第二附接元件用于以能够释放的方式接合所述对象的所述第一附接元件;和
第二通信元件,所述第二通信元件用于将所述特性传输到所述头戴式设备的所述第一通信元件。
20.根据权利要求19所述的系统,其中:
所述电子设备还包括光发射器,所述光发射器被配置为将光投影到表面上;并且
所述头戴式设备还包括相机,所述相机用于捕获所述电子设备的视图和投影到所述表面上的所述光,其中所述对象的所述表示还基于所述电子设备的所述视图和投影到所述表面上的所述光。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962875410P | 2019-07-17 | 2019-07-17 | |
US62/875,410 | 2019-07-17 | ||
US16/920,333 | 2020-07-02 | ||
US16/920,333 US11189059B2 (en) | 2019-07-17 | 2020-07-02 | Object tracking for head-mounted devices |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112241200A true CN112241200A (zh) | 2021-01-19 |
Family
ID=74170671
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010676320.4A Pending CN112241200A (zh) | 2019-07-17 | 2020-07-14 | 头戴式设备的对象跟踪 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112241200A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115813332A (zh) * | 2023-02-17 | 2023-03-21 | 成都信和创业科技有限责任公司 | 一种模拟眼球运动的眼动仪检测装置 |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140035819A1 (en) * | 2012-08-03 | 2014-02-06 | Research In Motion Limited | Method and Apparatus Pertaining to an Augmented-Reality Keyboard |
CN104182050A (zh) * | 2014-08-29 | 2014-12-03 | 百度在线网络技术(北京)有限公司 | 头戴式智能设备和具有该头戴式智能设备的投影系统 |
US20160140764A1 (en) * | 2013-06-11 | 2016-05-19 | Sony Computer Entertainment Europe Limited | Head-mountable apparatus and systems |
CN106055090A (zh) * | 2015-02-10 | 2016-10-26 | 李方炜 | 利用移动装置的虚拟现实和增强现实控制 |
CN106104361A (zh) * | 2014-02-18 | 2016-11-09 | 摩致实验室有限公司 | 与移动计算装置一起使用的头戴式显示器眼罩 |
US20160357261A1 (en) * | 2015-06-03 | 2016-12-08 | Oculus Vr, Llc | Virtual Reality System with Head-Mounted Display, Camera and Hand-Held Controllers |
US20170249745A1 (en) * | 2014-05-21 | 2017-08-31 | Millennium Three Technologies, Inc. | Fiducial marker patterns, their automatic detection in images, and applications thereof |
CN107250891A (zh) * | 2015-02-13 | 2017-10-13 | Otoy公司 | 头戴式显示器与真实世界对象之间的相互通信 |
US20170352184A1 (en) * | 2016-06-06 | 2017-12-07 | Adam G. Poulos | Optically augmenting electromagnetic tracking in mixed reality |
US20180197336A1 (en) * | 2017-01-09 | 2018-07-12 | Samsung Electronics Co., Ltd | System and method for augmented reality control |
US20180350150A1 (en) * | 2017-05-19 | 2018-12-06 | Magic Leap, Inc. | Keyboards for virtual, augmented, and mixed reality display systems |
CN109069920A (zh) * | 2017-08-16 | 2018-12-21 | 广东虚拟现实科技有限公司 | 手持式控制器、跟踪定位方法以及系统 |
WO2019017976A1 (en) * | 2017-07-21 | 2019-01-24 | Hewlett-Packard Development Company, L.P. | PHYSICAL INPUT DEVICE IN VIRTUAL REALITY |
US10237509B1 (en) * | 2016-08-05 | 2019-03-19 | Apple Inc. | Systems with keyboards and head-mounted displays |
US20190113966A1 (en) * | 2017-10-17 | 2019-04-18 | Logitech Europe S.A. | Input device for ar/vr applications |
US20190302898A1 (en) * | 2018-04-02 | 2019-10-03 | Microsoft Technology Licensing, Llc | Constellation-based augmentation of mouse form-factor for virtual reality applications |
-
2020
- 2020-07-14 CN CN202010676320.4A patent/CN112241200A/zh active Pending
Patent Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140035819A1 (en) * | 2012-08-03 | 2014-02-06 | Research In Motion Limited | Method and Apparatus Pertaining to an Augmented-Reality Keyboard |
US20160140764A1 (en) * | 2013-06-11 | 2016-05-19 | Sony Computer Entertainment Europe Limited | Head-mountable apparatus and systems |
CN106104361A (zh) * | 2014-02-18 | 2016-11-09 | 摩致实验室有限公司 | 与移动计算装置一起使用的头戴式显示器眼罩 |
US20170249745A1 (en) * | 2014-05-21 | 2017-08-31 | Millennium Three Technologies, Inc. | Fiducial marker patterns, their automatic detection in images, and applications thereof |
CN104182050A (zh) * | 2014-08-29 | 2014-12-03 | 百度在线网络技术(北京)有限公司 | 头戴式智能设备和具有该头戴式智能设备的投影系统 |
CN106055090A (zh) * | 2015-02-10 | 2016-10-26 | 李方炜 | 利用移动装置的虚拟现实和增强现实控制 |
CN107250891A (zh) * | 2015-02-13 | 2017-10-13 | Otoy公司 | 头戴式显示器与真实世界对象之间的相互通信 |
US20160357261A1 (en) * | 2015-06-03 | 2016-12-08 | Oculus Vr, Llc | Virtual Reality System with Head-Mounted Display, Camera and Hand-Held Controllers |
US20170352184A1 (en) * | 2016-06-06 | 2017-12-07 | Adam G. Poulos | Optically augmenting electromagnetic tracking in mixed reality |
US10237509B1 (en) * | 2016-08-05 | 2019-03-19 | Apple Inc. | Systems with keyboards and head-mounted displays |
US20190174088A1 (en) * | 2016-08-05 | 2019-06-06 | Apple Inc. | Display System |
US20180197336A1 (en) * | 2017-01-09 | 2018-07-12 | Samsung Electronics Co., Ltd | System and method for augmented reality control |
CN110168618A (zh) * | 2017-01-09 | 2019-08-23 | 三星电子株式会社 | 增强现实控制系统和方法 |
US20180350150A1 (en) * | 2017-05-19 | 2018-12-06 | Magic Leap, Inc. | Keyboards for virtual, augmented, and mixed reality display systems |
WO2019017976A1 (en) * | 2017-07-21 | 2019-01-24 | Hewlett-Packard Development Company, L.P. | PHYSICAL INPUT DEVICE IN VIRTUAL REALITY |
CN109069920A (zh) * | 2017-08-16 | 2018-12-21 | 广东虚拟现实科技有限公司 | 手持式控制器、跟踪定位方法以及系统 |
US20190113966A1 (en) * | 2017-10-17 | 2019-04-18 | Logitech Europe S.A. | Input device for ar/vr applications |
US20190302898A1 (en) * | 2018-04-02 | 2019-10-03 | Microsoft Technology Licensing, Llc | Constellation-based augmentation of mouse form-factor for virtual reality applications |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115813332A (zh) * | 2023-02-17 | 2023-03-21 | 成都信和创业科技有限责任公司 | 一种模拟眼球运动的眼动仪检测装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8696113B2 (en) | Enhanced optical and perceptual digital eyewear | |
JP2022504382A (ja) | ヘッドマウントデバイス用のモジュールシステム | |
US20150185482A1 (en) | Enhanced optical and perceptual digital eyewear | |
CN210136443U (zh) | 电子设备和电子系统 | |
US20150131159A1 (en) | Enhanced optical and perceptual digital eyewear | |
US11137908B2 (en) | Keyboard operation with head-mounted device | |
US11714494B2 (en) | Ring input devices | |
US11175734B1 (en) | Wrist tracking devices | |
CN212112404U (zh) | 头戴式设备及用于共享数据的系统 | |
CN213659407U (zh) | 头戴式设备的冠部输入和反馈 | |
CN112540670A (zh) | 具有手指传感器的电子设备 | |
CN215006563U (zh) | 头戴式设备 | |
CN111856751B (zh) | 具有低光操作的头戴式显示器 | |
US11189059B2 (en) | Object tracking for head-mounted devices | |
US11361735B1 (en) | Head-mountable device with output for distinguishing virtual and physical objects | |
US20240077937A1 (en) | Devices, methods, and graphical user interfaces for controlling avatars within three-dimensional environments | |
US20240020371A1 (en) | Devices, methods, and graphical user interfaces for user authentication and device management | |
CN112241200A (zh) | 头戴式设备的对象跟踪 | |
US20230229010A1 (en) | Head-mountable device for posture detection | |
CN112526750A (zh) | 头戴式显示器 | |
US11828944B1 (en) | Head-mounted device with optical module illumination systems | |
US11763560B1 (en) | Head-mounted device with feedback | |
US11789276B1 (en) | Head-mounted device with pivoting connectors | |
US11954249B1 (en) | Head-mounted systems with sensor for eye monitoring | |
US11715355B1 (en) | Crown input and feedback for head-mountable devices |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |