CN106797430B - 遥现体验 - Google Patents

遥现体验 Download PDF

Info

Publication number
CN106797430B
CN106797430B CN201580054914.9A CN201580054914A CN106797430B CN 106797430 B CN106797430 B CN 106797430B CN 201580054914 A CN201580054914 A CN 201580054914A CN 106797430 B CN106797430 B CN 106797430B
Authority
CN
China
Prior art keywords
display
light
equipment
standby
window
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201580054914.9A
Other languages
English (en)
Other versions
CN106797430A (zh
Inventor
A·R·L·特拉维斯
A·乔治欧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN106797430A publication Critical patent/CN106797430A/zh
Application granted granted Critical
Publication of CN106797430B publication Critical patent/CN106797430B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • H04N7/144Constructional details of the terminal equipment, e.g. arrangements of the camera and the display camera and display on the same optical axis, e.g. optically multiplexing the camera and display for eye to eye contact
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/0816Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light by means of one or more reflecting elements
    • G02B26/0833Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light by means of one or more reflecting elements the reflecting element being a micromechanical device, e.g. a MEMS mirror, DMD
    • G02B26/0858Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light by means of one or more reflecting elements the reflecting element being a micromechanical device, e.g. a MEMS mirror, DMD the reflecting means being moved or deformed by piezoelectric means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本描述涉及在视频通信场景期间创建类似窗口的体验。一个示例可以包括包含了可引导的光偏转元件阵列的空间光偏转器。所述示例还可以包括相对于空间光偏转器被定位的楔设备。所述示例还可以包括被定位在楔设备的端部以接收所捕捉的光的相机。

Description

遥现体验
附图简述
附图例示了本文档中所传达的概念的实现。所例示的实现的特征可通过参考以下结合附图的描述来更容易地理解。在可行的情况下,各附图中相同的附图标记被用来指代相同的元素。此外,每个附图标记的最左边的数字传达其中首次引入该附图标记的附图及相关联的讨论。
图1-8示出根据本发明概念的一些实现的示例窗口-模拟场景或系统。
图9示出了根据本发明概念的一些实现的示例窗口-模拟设备的部分剖切透视图。
图10-13示出根据本发明概念的一些实现的窗口-模拟设备的示例的截面视图。
图14示出了根据本发明概念的一些实现的示例窗口-模拟系统。
图15示出了根据本发明概念的一些实现的示例窗口-模拟流程图。
详细描述
各设备便利于人们如何在面对面讨论中进行交互。人们可以以各种方式,例如语音、姿势、眼睛注视、他们如何面向彼此,等等来交流。各设备可能不能在远程场景中提供这样的特征。
本发明涉及可以既呈现图像又捕捉图像的显示设备。例如,显示设备可以是一种平板数字显示器,其能够从该平板数字显示器处捕捉类似于由在该平板数字显示器之后的点所捕捉的图像的图像。当与类似但位于远程的伴随显示设备组合时,该显示设备可以将该用户看作一个玻璃面板(例如窗口),但是当用户透过该显示设备查看时,该用户看到在世界的另一部分中的场景,反之亦然。为此,一些实现可以使用具有大面积的相机的束偏转面的可引导阵列的组合,所述相机具有低集光率(例如光线的相对角在通过设备的折射和/或反射期间通常被保留)。涉及这一类似窗口效果的场景的示例相对于图1-8被描述。用于实现类似窗口效果的示例设备配置相对于图9-13被描述。
图1-8共同示出涉及类似窗口效果或窗口模拟的用例场景或系统100。该系统涉及第一或本地用户102(1)以及第二或远程用户102(2)。(为便于解释,在每个位置处仅仅示出了单个用户,但是该系统可以处理在给定位置处的多个用户)。第一设备104(1)与第一用户102(1)位于同处,而第二设备(例如远程伴随设备)104(2)与第二用户102(2)位于一处。出于解释的目的,该设备可以具有显示图像的正面106和相对的背面108。在所示的视图中,第一设备104(1)的正面106是可见的,而第二设备104(2)的背面108是可见的。(图10-13示出具有所指示的正面和背面这两者的设备的截面图)。窗口-模拟控制器110可以与相应的设备104协作地工作。
出于简要的目的,图1-8的下述解释是针对第一用户102(1)描述的。然而,注意,类似的过程可以同时相对于第二用户102(2)发生。
在图1中,关于第一用户102(1)相对于第一设备104(1)的眼睛相关信息可以被收集。眼睛相关信息可以涉及用户相对于第一设备的相对位置、从第一用户的眼睛到第一设备的距离和/或用户相对于第一设备查看的方向(例如注视方向)等等。在系统100中,眼睛相关信息由线112表示。注意,在这种情况中,使用了以用户的眼睛之间为中心的单条线。其它实现可为每个眼睛单独执行相同的过程以创建如用户所察觉的3D图像(例如左和右立体图像)。也需注意,如果多个用户看着设备104(1),可为他们中的每个人确定一条(与线112)类似的线,或在3D图像的情况下为他们中的每个人确定两条线。
在图2中,第一用户的眼睛相关信息可以在第二设备104(2)处被使用以确定为第一用户捕捉哪个光线。一种考虑这样做的方式是第一用户的模拟202。所述模拟以虚像形式被示出,因为其是出于解释的目的被提供。所述模拟可以包括模拟线112的线204。出于解释的目的,线204延伸穿过设备104(2)进入场景中(例如到第二用户102(2))。所述模拟可以被定位在第二设备之后(例如面向背面108)以模仿在第一设备104(1)的正面的第一用户的位置。这样,所述模拟的位置、从所述模拟到第二设备的距离以及所述模拟查看的方向可以由眼睛相关信息来定义。这样,被模拟的线204可以定义如果第一用户透过第二设备104(2)查看时他将看到的事物的中心。
图3示出第一用户102(1)(例如用户的模拟202)透过第二设备104(2)的背面108将查看到什么的表示302。表示302以虚像形式被示出,因为在第二设备的背面上实际上并不存在图像。第二设备104(2)可以捕捉撞击到第二设备的正面的光,所述光将创建表示302的图像。关于该光的图像信息可以被传送给第一设备104(1)。从一个角度来看,线204可以被认为是从第一用户的眼睛发出的中心轴。所捕捉的光可以是在中心轴的角度α内的光,该光将撞击第一用户的眼睛。表示302可以被认为是撞击第二设备104(2)的正面的光的区域,所述光在角度α内并且如果它没有碰到第二设备104(2)其将撞击模拟202的眼睛。
图4示出了呈现对应于图3的表示302的图像402的第一设备104(1)。第一设备可以基于从第二设备104(2)获得的图像信息生成所述图像。这样,图像402重新创建如果第一用户透过设备104(1)查看时他将看到什么,就如同他在与从第一设备的前方时相同的相对位置、距离和眼睛注视方向处透过设备104(2)的背面进行查看那样。
图5示出第一用户102(1)的后续视图。此时,第一用户位于相同的相对位置并离第一设备104(1)相同的距离,但是他将他的注视如由线502所表示地进行移位(与图1的线112相比较而言)。该经更新的眼睛相关信息可以被发送给第二设备104(2)。
图6示出经更新的模拟202和线204以反映来自第一设备104(1)的新的眼睛相关信息。
图7示出在第二设备104(2)处的经更新的表示302。表示302可以表示如果第一用户102(1)透过第一设备104(1)进行查看并在第二设备104(2)之外时将在他的眼睛中终止的光线。关于该表示302的图像信息可以被传送给第一设备104(1)。
图8示出在第一设备104(1)上基于表示302生成的图像402。正如图4中,向第一用户102(1)呈现与他相对于第一设备的定位、位置和眼睛注视相对应的图像402,即使用于该图像的信息在第二设备104(2)处被收集。
从一个角度来看,图1-8示出可以如何收集相对于第一设备的眼睛相关信息。该眼睛相关信息可以被用于捕捉在第二设备处将以其它方式穿过该第二设备并到达由该眼睛相关信息所定义的点的光。关于所捕捉的光的图像信息可以被发送给第一设备。第一设备可以从所述图像信息中生成可被第一用户看见但对于其它用户可能不可见(例如由于他们的眼睛不在与用户的眼睛相同的位置处)的图像。该过程可以同时针对与第二设备104(2)相关联的第二用户进行重复。
图9示出设备104(第一设备104(1)或第二设备104(2))的正面106的部分剖视图。出于简要的目的,仅仅示出了单个设备,但如相对于图1-8所解释的,该设备可以与另一个远程伴随设备协作地工作。在该示例中,设备包括显示器或显示屏902、空间光偏转器(例如光引导元件)904、楔设备906和背光908。在这种情况中,设备104还包括窗口-模拟控制器110和一对红、绿、蓝+深度(RGBD)相机910(1)和910(2)。图10-13是示出图9所示的基本配置的变型的截面图。
最初,窗口-模拟控制器110可以利用RGBD相机910(1)和910(2)来确定眼睛相关信息。例如,通过RGBD相机,窗口-模拟控制器110可以标识用户的脸部和/或眼睛,确定从用户的脸部和/或眼睛到显示器902的距离,以及用户看向哪一方向。例如,可以利用脸部识别软件分析来自RGBD相机的彩色图像以标识所述脸部和眼睛。进一步的分析可以指示眼睛正在观看的方向。深度图像可以提供从显示器到眼睛的距离和相对位置。窗口-模拟控制器110可以将该眼睛相关信息发送给远程伴随设备,并从远程伴随设备接收类似的眼睛相关信息。随后,窗口-模拟控制器110可以基于来自远程设备的图像信息交替地显示图像(例如投影光)和捕捉图像(例如撞击在显示器902的正面106的光)。窗口-模拟控制器110可以以用户不可察觉的速率来执行这些交替功能,例如以50赫兹或更高的速率(例如以避免抖动)。
图10-13示出几种不同的设备配置,以104A、104B、104C和104D进行区分。一些元素对于所述不同的配置来说是公共的,并且这样就不再在每个附图中重新介绍或讨论。
图10示出设备配置104A。设备104A包括从正面106到背面108彼此抵靠并置的显示器902、空间光偏转器904、楔设备906和背光908在这种情况中,显示器902被表示为透明有机发光二极管(OLED)显示器1002。空间光偏转器904被表示为电润湿棱镜阵列1004,其包括多个可选择地可控制的棱镜1005(不是全部的棱镜都被以细节标明)。在这个实现中,棱镜是从具有不同的折射率的两种液体中形成的。简言之,在两种液体之间的分界角是由在这些液体和侧壁之间的电场来设定的。所述液体之一具有高折射率,另一个具有低折射率,这样,当分界倾斜时,其用作可变角度的棱镜。楔设备906被表示为棱镜板1006、透明楔1008和至少一个相机1010。所述相机可以是沿x参考轴在透明楔的宽端部处定位以捕捉撞击显示器的光的特定y轴列的单个相机或相机阵列。
基于来自远程设备的眼睛相关信息,窗口-模拟控制器110可以选择性地对各个体棱镜1005供能。被施加给个体棱镜的电压量可以影响在两种液体之间的分界1012(不是全部的都被以细节标明)。分界确定由棱镜引起的折射度,并且这样所述电压可以被用于“引导”个体棱镜的角度。例如,将分界角1012(1)与分界角1012(2)以及在各个光线1014(1)和1014(2)的折射角中相关联的区别进行比较。这样,窗口-模拟控制器110可以确定要捕捉哪个光线(例如以特定角度撞击在透明OLED 1002上的特定位置的那些光线)。这些光线可以穿过透明OLED并以针对个体棱镜所选的角度被折射以使得所述光线以容易被透明楔1008捕捉的角度进入到楔设备906。所捕捉的光将趋向于在透明楔内反射直到其到达在其上定位了相机1010的厚端部。
如注意到的,存在沿x参考方向沿透明楔1008定位的多个相机1010。窗口-模拟控制器110可以从在y参考方向中在所捕捉的光线之下对齐的一个或多个所述相机获得图像。注意,窗口-模拟控制器可以从所有相机获得图像,但这往往可能产生大量的过剩数据,所述过剩数据可能压垮处理和/或网络资源。相反,窗口-模拟控制器可以选择沿透明楔1008的(诸)相机以获得感兴趣的光线。窗口-模拟控制器可以将图像信息发送给远程伴随设备以供呈现。在这个捕捉阶段期间,窗口-模拟控制器110可以关闭背光908以避免在透明楔1008中的不想要的光污染。
同时,在捕捉阶段期间,窗口-模拟控制器110可以已经从远程伴随设备接收到图像信息。在投影阶段期间,窗口-模拟控制器110可以开启背光908。窗口-模拟控制器可以使用所接收的图像信息在透明OLED 1002上生成对应的图像。该图像可以由观看设备104A的正面106的用户从如在眼睛相关信息中所定义的定位、位置和眼睛注视方向来查看。这个过程可以被认为是一个循环(例如一个捕捉阶段和一个投影阶段),并且如上所述可以以用户不可察觉的快速率被重复(例如50赫兹或更高)。
从一个角度来看,所描述的配置可以用作平面显示器(例如在z参考方向上是薄的),该平面显示器可以捕捉来自设备104A的观看者的全方向和全距离的光线。楔设备相机1010(例如多个相机中的个体相机)可以被选择以捕捉撞击楔设备的特定列的光线。空间光偏转器904可以在沿所述列的特定点处和/或从特定方向将光线以一个角度引导入楔设备906,这样,它们将在楔设备的透明楔1008中被陷获并最终由相机1010捕捉。
图11示出另一个设备配置104B。该设备配置在几个方面与图10的设备104A类似。值得注意的区别包括加入了以类似于相机1010的方式被沿着透明楔1008的宽端部定位的投影仪1102。设备104B的捕捉阶段类似于如上相对于图10所述的捕捉阶段。在投影阶段中,窗口-模拟控制器110可以使得来自远程伴随设备的图像信息提供要从投影仪1102投影入透明楔1008的图像的基础。所述图像可以投影到透明楔的前表面之外并由电润湿棱镜阵列1004引导。从电润湿棱镜阵列1004的正面发射出的图像的形状可以被用户的眼睛看见。这样,在这个情况中,投影仪1102、透明楔1008以及电润湿棱镜阵列1004用作显示器,并且这样没有利用专用的显示组件,例如图10的透明OLED显示器1002。这样,类似的功能可以以更少和/或可能更加廉价的组件来实现。
从一个角度来看,设备104B的捕捉方面类似于图10的设备104A的捕捉方面。然而,投影阶段不同之处在于:图像的光线是从投影仪1102沿x参考轴发射出的,并且随后在它们离开楔设备906之后由空间光偏转器904引导来为用户创建图像。
图12示出了类似于图10的设备104A的另一设备配置104C。在这种情况中,设备104C可以包括镜阵列1202。镜阵列的个体镜1203可以是相对于诸如x参考轴之类的单个参考轴可调节的或可引导的。镜阵列可以使用各种技术被装配。在一个这样的情况中,每个镜1203可以被固定到压电元件(未示出),其被个别地电耦合到窗口-模拟控制器110。镜阵列1202可以与电润湿棱镜阵列1004协作地工作以将特定光线以下述方式引导入透明楔1008中:光线在透明楔中被传播直到被相机1010捕捉。窗口-模拟控制器110可以选择性地可变地对压电元件供能以便以如下角度来定向个体镜1203:将感兴趣的光线以临界角反射到透明楔1008上,使得所述光线被透明楔向下反射到相机1010。不在感兴趣的光线所撞击的位置处的其它个体镜可以被不同地定向,以便撞击它们的光线不被透明楔捕捉到。例如,窗口-模拟控制器可以选择性地可变地对压电元件供能以便以如下角度定向镜阵列1202中的个体镜1203:将感兴趣的光线以临界角反射到透明楔1008上的,使得所述光线被透明楔向下反射到相机1010。镜阵列1202中的不在感兴趣的光线所撞击的位置处的其它个体镜子1203可以被不同地定向,以便撞击它们的光线不被透明楔1008捕捉到。
图13示出另一个设备配置104D。在这种情况中,镜阵列1202中的个体镜1203可以由窗口模拟控制器110在两个移动轴(例如相对于x和y参考轴)中选择性地个别地可控制。这样,在这种配置中,镜阵列可以用作空间光偏转器904以取代在图10-12中使用的电润湿棱镜阵列1004。实际上,在捕捉阶段中,镜阵列可以被调节以将特定光线引导到透明楔1008中以由相机1010捕捉。注意,这些光线可能已经从正面106穿过了透明楔1008并随后撞击镜阵列1202的个体镜1203。镜1203可以以更可能被透明楔1008陷获的角度在透明楔处反射回光。在投影阶段期间,来自投影仪1102的光可以退出透明楔1008并(例如由镜阵列1202所引导地)在期望的方向(例如朝向用户的眼睛)被反射。
从一个角度来看,上述配置表示了偏转器可以改变楔相机的视点(左/右、上/下、和/或前/后)以捕捉将被用户看见的光的各种方式的示例。以类似的方式,偏转器可以如所期望地将出射光朝着用户偏转。
示例系统
图14示出一个示例窗口-模拟系统1400。所述系统示出用作设备104(如上相对于图1-13所述)的两个设备配置和用作桌面类型设备的另一设备形状因子104E。个体设备可以包括如上参考图1-13所述的元素的示例,例如窗口-模拟控制器110以及处理器1402和/或存储/存储器1404。而且,个体设备,例如设备104,可以包括这些组件或与包括这些组件的另一个设备(例如设备1406)协作地工作。而且,个体设备可以利用远程资源,例如基于云的资源1408。例如,窗口-模拟控制器110的一个实例可以在基于云的资源上被实现。窗口-模拟控制器的该基于云的版本可以执行上面有关图1-13的描述中的窗口-模拟控制器的本地实例所描述的一些或全部功能。替换地或附加地,设备104的实例包括其它元素,诸如总线、图形卡(例如,图形处理单元(GPU)、网络硬件)、话筒和扬声器(以提供对应于如上相对于图1-8所述的视觉图像的音频信号)等,出于简明的目的未在此被示出或讨论。
从一个角度来看,设备104可以被看作是计算机。处理器1402可以执行计算机可读指令形式的数据以提供功能。数据(诸如计算机可读指令和/或用户相关数据)可被存储在存储1404上,诸如对计算机而言可以是内部或外部的存储。存储可包括易失性或非易失性存储器、硬盘驱动器、闪存设备、和/或光存储设备(例如,CD、DVD等)等等中的任何一个或多个。如本文所使用的,术语"计算机可读介质"可包括信号。相反,术语"计算机可读存储介质"排除信号。计算机可读存储介质包括"计算机可读存储设备"。计算机可读存储设备的示例包括诸如RAM之类的易失性存储介质、诸如硬盘驱动器、光盘和闪存存储器之类的非易失性存储介质,以及其他。
在一些配置中,设备104可包括片上系统(SOC)类型设计。在这一情况下,计算机所提供的功能可被集成在单个SOC或多个耦合的SOC上。一个或多个处理器可被配置成与共享资源(诸如存储器、存储等),和/或与一个或多个专用资源(诸如被配置成执行某些特定功能的硬件块)进行协调。从而,如本文是使用的术语“处理器”还可指代中央处理单元(CPU)、图形处理单元(GPU)、控制器、微控制器、处理器核、或适用于在常规计算架构以及SOC设计两者中实现的其他类型的处理设备。
其他计算机的示例可包括传统的计算设备,诸如个人计算机、桌面计算机、笔记本计算机、蜂窝电话、智能电话、个人数字助理、平板或平板类型计算机、相机、大型显示设备、交互式数字显示器、智能可穿戴设备、娱乐设备和/或各种不断演进或仍待开发的类型的计算设备中的任一者。在一些情况中,显示设备可以包括各计算机元素,并且这样被认为是计算机。在其它情况中,显示设备可以与计算机通信并被计算机控制。
方法示例
图15示出示例方法1500。
在这种情况中,在框1502,所述方法可以标识关于正在看着显示设备的用户的眼睛相关信息。
在框1504,该方法可将眼睛相关信息发送到远程伴随设备。
在框1506,所述方法可以从远程伴随显示设备接收图像数据,所述图像数据与用户在如由眼睛相关信息所定义地透过远程伴随显示设备查看时将看见的事物相对应。
在框1508,所述方法可以获得关于正在看着远程伴随显示设备的远程用户的其它眼睛相关信息。
在框1510,所述方法可以以交替的方式捕捉与远程用户在如由其它眼睛相关信息所定义地透过远程伴随显示设备查看时将看见的事物相对应的其它图像数据和使得图像以和眼睛相关信息相一致地被呈现在用户的显示设备上。
所述的方法可以由以上结合图1-14描述的系统和/或设备来执行,和/或由其他设备和/或系统来执行。描述方法的次序并不旨在被解释为限制,并且任何数量的所描述的动作都可以按任何次序进行组合以实现该方法或实现替换方法。此外,方法还可以用任何合适的硬件、软件、固件或其组合来实现,以使得设备可实现该方法。在一种情况下,该方法作为指令集被存储在计算机可读存储介质上,以便计算设备的执行使得该计算设备执行该方法。
附加的示例
在上文中描述了各个示例。附加示例在下文中描述。一个示例是作为系统,所述系统可以包括具有前和背表面的显示器以及抵靠显示器的背表面并置的空间光偏转器。所述系统还可包括抵靠空间光偏转器并置的楔设备和与楔设备相关联的相机。所述系统还可包括被配置为接收关于在远程显示器前方的远程用户的信息的窗口-模拟控制器。所述信息可以包括远程用户相对于远程显示器的位置和远程用户正在看着的方向。窗口-模拟控制器可以被配置为模拟远程用户在所述显示器之后的位置处并以所述方向观看所述显示器。窗口-模拟控制器可以被配置用于标识将穿过所述显示器并对于所模拟的远程用户可见的光的区域,并使得所述空间光偏转器将所述光的区域引导入楔设备中并使得相机捕捉来自楔设备的光的区域的图像。所述窗口-模拟控制器被进一步配置成使得图像被发送到远程显示器。
以上和/或以下示例的任何组合,其中所述第一部分包括外壳部分而所述第二部分包括另一外壳部分。
以上和/或以下示例的任何组合,其中所述空间光偏转器包括可独立控制的电润湿棱镜阵列。
以上和/或以下示例的任何组合,其中所述显示器被实现为透明有机发光二极管(OLED)显示器。
以上和/或以下示例的任何组合被实现在单个设备上。
以上和/或以下示例的任何组合,其中远程用户的位置包括远程用户的左眼和右眼中的每一者的不同位置,并且窗口-模拟控制器被配置为执行对左眼的模拟以及随后对右眼的模拟以捕捉一对立体图像。
以上和/或以下示例的任何组合还包括被定位以感测显示器的前方的空间的深度相机。窗口-模拟控制器被配置为处理来自深度相机的信号以标识用户的眼睛相对于显示器的前方的位置和用户正在看着的方向。窗口-模拟控制器被进一步配置为将用户的眼睛的位置和用户正在看着的方向发送给远程显示器。
以上和/或以下示例的任何组合还包括被配置为进一步引导光的区域以供由楔设备捕捉的可独立控制的镜阵列。
以上和/或以下示例的任何组合,其中可独立控制的镜阵列被定位在楔设备上与空间光偏转器相对的一侧上,或可独立控制的镜阵列被定位在楔设备上与空间光偏转器相同的一侧上。
以上和/或以下示例的任何组合,其中可独立控制的镜阵列是可沿单个轴控制的,或者其中可独立控制的镜阵列是可沿两个轴控制的。
以上和/或以下示例的任何组合还包括被定位在楔设备上与空间光偏转器相对的一侧上并被配置为将随机定向的光朝着显示器的背面投影的背光。
以上和/或以下示例的任何组合,其中相机包括沿楔设备的宽端部定位的相机阵列,并且其中窗口-模拟控制器被配置为标识哪些个体相机捕捉了所述图像。
以上和/或以下示例的任何组合,其中所述楔设备包括被定位在棱镜板附近的透明楔。
以上和/或以下示例的任何组合还包括与楔设备相关联的并被配置成通过显示器产生远程图像的投影仪。
以上和/或以下示例的任何组合,其中所述窗口-模拟控制器被进一步配置为以对用户不可察觉的速率以交替方式使得图像被捕捉和远程图像被产生。
以上和/或以下示例的任何组合,其中所述系统包括显示器和远程显示器。
以上和/或以下示例的任何组合,其中所述远程用户包括多个远程用户,并且其中所述窗口-模拟控制器被配置为使得针对多个用户的每个用户捕捉个体图像。
另一个示例是作为设备,所述设备可以包括具有前和背表面并被配置为投影来自前表面的光的显示器。所述设备还可以包括抵靠背表面并置并被配置为接收穿过显示器的其它光并折射所述其它光的空间光偏转器。所述设备还可以包括楔设备,该楔设备可以被配置为接收从空间光偏转器所折射的其它光。所述设备还可以包括相机,所述相机可以被配置为捕捉由楔设备所捕捉的经折射的其它光。
以上和/或以下示例的任何组合,其中所述空间光偏转器包括可独立控制的电润湿棱镜阵列。
以上和/或以下示例的任何组合,其中投影自显示器的前表面的光对应于在远程设备处捕捉的图像。
又另一个示例是作为一种设备,该设备包括透明显示器和定位在透明显示器之后的可独立控制的电润湿棱镜阵列。所述设备还可以包括被定位在所述阵列之后的楔设备。所述设备还可以包括被配置为标识从特定方向穿过显示器的光,所述光将在楔之后的特定点处会聚。窗口-模拟控制器被配置为调整个体电润湿棱镜以使得撞击个体电润湿棱镜的光以一个角度被折射,以便所述光更可能被楔设备捕捉而不穿过到达特定点。
又一个示例是作为一种设备,该设备可以包括包含可引导光偏转元件阵列的空间光偏转器以及在与空间光偏转器成光接收关系来定位的楔设备。所述设备还包括被定位在楔设备的端部以接收来自楔设备的光的相机。
以上和/或以下示例的任何组合,其中所述空间光偏转器相对于光源是在楔设备的前方或其中所述空间光偏转器相对于光源是在楔设备的后面。
以上和/或以下示例的任何组合,其中所述空间光偏转器包括棱镜阵列或镜阵列。
以上和/或以下示例的任何组合,其中所述相机包括多个线性安置的相机。
以上和/或以下示例的任何组合还包括被配置为将不同的光投影到楔设备的至少一个投影仪。
以上和/或以下示例的任何组合还包括被配置为标识来自特定方向的光,所述光将在楔设备之后的特定点处会聚。窗口-模拟控制器被配置为调整空间光偏转器的个体区域以使得撞击个体区域的光以一个角度被折射或反射,以便所述光更可能被楔设备捕捉而不穿过到达特定点。
以上和/或以下示例的任何组合,其中所述相机包括多个线性安置的相机。
以上和/或以下示例的任何组合,其中所述窗口-模拟控制器被进一步配置为以交替方式控制相机和投影仪。
又一个示例是作为一种方法或过程,所述方法或过程可以标识关于正在看着显示设备的用户的眼睛相关信息,并可以将眼睛相关信息发送给远程伴随显示设备。所述方法可以从远程伴随显示设备接收图像数据,所述图像数据与用户在如由眼睛相关信息所定义地透过远程伴随显示设备查看时将看见的事物相对应。所述方法可以获得关于正在看着远程伴随显示设备的远程用户的其它眼睛相关信息。以交替的方式,所述方法可以捕捉与远程用户在如由其它眼睛相关信息所定义地透过显示设备查看时将看见的事物相对应的其它图像数据,并使得图像以与眼睛相关信息相一致地被呈现在用户的显示设备上。
又一个示例是作为用于标识关于正在看着显示设备的用户的眼睛相关信息并将眼睛相关信息发送给远程伴随显示设备的装置。所述示例可以包括用于从远程伴随显示设备接收图像数据的装置,所述图像数据与用户在如由眼睛相关信息所定义地透过远程伴随显示设备查看时将看见的事物相对应。所述示例可以包括用于获得关于正在看着远程伴随显示设备的远程用户的其它眼睛相关信息的装置。所述示例包括用于捕捉与远程用户在如由其它眼睛相关信息所定义地透过显示设备查看时将看见的事物相对应的其它图像数据的装置,以及使得图像以与眼睛相关信息相一致地被呈现在用户的显示设备上的装置。
结语
尽管已用对结构特征和/或方法动作专用的语言描述了涉及窗口-模拟的技术、方法、设备、系统等,但可以理解,所附权利要求书中定义的主题不必限于所述具体特征或动作。相反,上述具体特征和动作是作为实现所要求保护的方法、设备、系统等的示例性形式而公开的。

Claims (20)

1.一种用于显示的系统,包括:
具有前和背表面的显示器;
抵靠所述显示器的所述背表面并置的空间光偏转器;
抵靠所述空间光偏转器被并置的楔设备,所述楔设备包括透明楔;
与所述楔设备相关联的相机;以及
被配置为接收关于在远程显示器的前方的远程用户的信息的窗口-模拟控制器,所述信息包括所述远程用户相对于所述远程显示器的位置以及所述远程用户正在看着的方向,所述窗口-模拟控制器被配置为模拟所述远程用户位于所述显示器之后的位置处并以所述方向看着所述显示器,所述窗口-模拟控制器被配置为标识将穿过所述显示器并对于所模拟的远程用户可见的光的区域,并使得所述空间光偏转器将所述光的区域引导入所述楔设备中并使得所述相机捕捉来自所述楔设备的所述光的区域的图像,所述窗口-模拟控制器被进一步配置成使得所述图像被发送到所述远程显示器。
2.如权利要求1所述的系统,其特征在于,所述空间光偏转器包括能独立控制的电润湿棱镜阵列。
3.如权利要求1所述的系统,其特征在于,所述显示器被实现为透明有机发光二极管(OLED)显示器。
4.如权利要求1所述的系统,其特征在于,所述系统被实现在单个设备上。
5.如权利要求1所述的系统,其特征在于,所述远程用户的所述位置包括所述远程用户的左眼和右眼者的每一者的不同位置,并且其中所述窗口-模拟控制器被配置为执行对所述左眼的模拟以及随后对所述右眼的模拟以捕捉一对立体图像。
6.如权利要求1所述的系统,其特征在于,还包括被定位以感测所述显示器的前方的空间的深度相机,所述窗口-模拟控制器被配置为处理来自所述深度相机的信号以标识所述用户的眼睛相对于所述显示器的前方的位置以及所述用户正看着的方向,所述窗口-模拟控制器还被配置为将所述用户的眼睛的位置和所述用户正看着的方向发送给所述远程显示器。
7.如权利要求1所述的系统,其特征在于,还包括被配置为进一步引导所述光的区域以供由所述楔设备捕捉的能独立控制的镜阵列。
8.如权利要求7所述的系统,其特征在于,所述能独立控制的镜阵列被定位在所述楔设备上与所述空间光偏转器相对的一侧上,或其中所述能独立控制的镜阵列被定位在所述楔设备上与所述空间光偏转器相同的一侧上。
9.如权利要求7所述的系统,其特征在于,所述能独立控制的镜阵列的个体镜是能沿单个轴控制的,或者其中所述能独立控制的镜阵列的所述个体镜是能沿两个轴控制的。
10.如权利要求1所述的系统,其特征在于,还包括被定位在所述楔设备上与所述空间光偏转器相对的一侧上并被配置为将随机定向的光朝着所述显示器的背面投影的背光。
11.如权利要求1所述的系统,其特征在于,所述相机包括沿所述楔设备的宽端部定位的相机阵列,并且其中所述窗口-模拟控制器被配置为标识哪些个体相机捕捉了所述图像。
12.如权利要求1所述的系统,其特征在于,所述透明楔被定位在棱镜板附近。
13.如权利要求1所述的系统,其特征在于,还包括与所述楔设备相关联的并被配置成通过所述显示器产生远程图像的投影仪。
14.如权利要求13所述的系统,其特征在于,所述窗口-模拟控制器被进一步配置为以对所述用户不可察觉的速率以交替方式使得所述图像被捕捉和所述远程图像被产生。
15.如权利要求13所述的系统,其特征在于,所述系统包括所述显示器和所述远程显示器。
16.如权利要求1所述的系统,其特征在于,所述远程用户包括多个远程用户,并且其中所述窗口-模拟控制器被配置成使得针对所述多个远程用户的每个远程用户捕捉个体图像。
17.一种用于显示的设备,包括:
具有前和背表面并被配置为投影来自所述前表面的光的显示器;
抵靠所述背表面并置并被配置为接收穿过所述显示器的其它光并折射所述其它光的空间光偏转器;
被配置为接收从所述空间光偏转器所折射的其它光的楔设备,所述楔设备包括透明楔;以及
被配置为捕捉由所述楔设备所捕捉的经折射的其它光的相机。
18.如权利要求17所述的设备,其特征在于,所述空间光偏转器包括可独立控制的电润湿棱镜阵列。
19.如权利要求17所述的设备,其特征在于,投影自所述显示器的所述前表面的光对应于在远程设备处捕捉的图像。
20.一种用于显示的设备,包括:
包括可引导的光偏转元件阵列的空间光偏转器;
与所述空间光偏转器成光接收关系来定位的楔设备,所述楔设备包括透明楔;以及
被定位在所述楔设备的端部以接收来自所述楔设备的光的相机。
CN201580054914.9A 2014-10-10 2015-10-07 遥现体验 Active CN106797430B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/512,296 US9602767B2 (en) 2014-10-10 2014-10-10 Telepresence experience
US14/512,296 2014-10-10
PCT/US2015/054354 WO2016057593A1 (en) 2014-10-10 2015-10-07 Telepresence experience

Publications (2)

Publication Number Publication Date
CN106797430A CN106797430A (zh) 2017-05-31
CN106797430B true CN106797430B (zh) 2019-07-02

Family

ID=54347852

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580054914.9A Active CN106797430B (zh) 2014-10-10 2015-10-07 遥现体验

Country Status (4)

Country Link
US (1) US9602767B2 (zh)
EP (1) EP3205088B1 (zh)
CN (1) CN106797430B (zh)
WO (1) WO2016057593A1 (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9681096B1 (en) * 2016-07-18 2017-06-13 Apple Inc. Light field capture
KR20180056174A (ko) 2016-11-18 2018-05-28 삼성전자주식회사 콘텐츠 처리 방법 및 이를 지원하는 전자 장치
DE102017216843B4 (de) 2017-09-22 2024-03-21 Audi Ag Verfahren und System zum Anzeigen zumindest eines Raumausschnitts, wobei der Raumausschnitt abhängig von einer Augenposition einer Person angezeigt wird
US10554928B2 (en) * 2018-04-17 2020-02-04 Microsoft Technology Licensing, Llc Telepresence device
US11089265B2 (en) 2018-04-17 2021-08-10 Microsoft Technology Licensing, Llc Telepresence devices operation methods
CN108924529B (zh) 2018-07-25 2020-03-17 北京小米移动软件有限公司 图像显示的控制方法及装置
US11064154B2 (en) * 2019-07-18 2021-07-13 Microsoft Technology Licensing, Llc Device pose detection and pose-related image capture and processing for light field based telepresence communications
US11082659B2 (en) 2019-07-18 2021-08-03 Microsoft Technology Licensing, Llc Light field camera modules and light field camera module arrays
US11270464B2 (en) 2019-07-18 2022-03-08 Microsoft Technology Licensing, Llc Dynamic detection and correction of light field camera array miscalibration
US11553123B2 (en) 2019-07-18 2023-01-10 Microsoft Technology Licensing, Llc Dynamic detection and correction of light field camera array miscalibration
US11336833B1 (en) 2021-02-26 2022-05-17 Microsoft Technology Licensing, Llc Remote user field of view-based camera orienting

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1262105C (zh) * 2000-11-30 2006-06-28 剑桥平投影显示有限公司 平板照相机、三维照相机、影印机和视频会议装置
WO2007047685A2 (en) * 2005-10-17 2007-04-26 I2Ic Corporation Combined video display and camera system
CN102447877A (zh) * 2010-10-19 2012-05-09 微软公司 使用移动设备姿势的优化遥现

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030090579A1 (en) * 2001-02-19 2003-05-15 Haruki Ohe Mobile information terminal device and camera unit
US6819469B1 (en) 2003-05-05 2004-11-16 Igor M. Koba High-resolution spatial light modulator for 3-dimensional holographic display
US7197213B2 (en) 2004-08-26 2007-03-27 Nortel Networks Limited System and method for controlling deflection of optical beams
GB0619226D0 (en) 2006-09-29 2006-11-08 Cambridge Flat Projection Efficient wedge projection
US7548677B2 (en) 2006-10-12 2009-06-16 Microsoft Corporation Interactive display using planar radiation guide
DE102009001202B3 (de) * 2009-02-26 2010-09-09 Seereal Technologies S.A. Kamerasystem mit Augenfinder-Modulen
US8514260B2 (en) 2009-05-28 2013-08-20 Microsoft Corporation Establishing eye contact in video conferencing
US20110044582A1 (en) 2009-08-21 2011-02-24 Microsoft Corporation Efficient collimation of light with optical wedge
CN102033410B (zh) 2009-09-30 2013-11-20 鸿富锦精密工业(深圳)有限公司 拍摄系统
KR101632317B1 (ko) 2010-02-04 2016-06-22 삼성전자주식회사 2차원/3차원 전환가능한 영상 표시 장치
US8587682B2 (en) 2010-02-12 2013-11-19 Nvidia Corporation Display system, method, and computer program product for capturing images using multiple integrated image sensors
US8793104B2 (en) 2010-08-12 2014-07-29 Kuan Wen Chen Flat panel display device
US20120287323A1 (en) 2011-05-09 2012-11-15 John Norvold Border Imaging apparatus with dual switchable beam deflectors
US9235057B2 (en) 2012-05-18 2016-01-12 Reald Inc. Polarization recovery in a directional display device
US8823641B2 (en) 2012-05-22 2014-09-02 Delphi Technologies, Inc. System for projecting 3D images and detecting gestures
US9110354B2 (en) * 2012-09-20 2015-08-18 Palo Alto Research Center Incorporated Steerable illumination source for a compact camera
US20160004302A1 (en) * 2014-07-07 2016-01-07 Alcatel-Lucent Usa Inc. Eye Contact During Video Conferencing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1262105C (zh) * 2000-11-30 2006-06-28 剑桥平投影显示有限公司 平板照相机、三维照相机、影印机和视频会议装置
WO2007047685A2 (en) * 2005-10-17 2007-04-26 I2Ic Corporation Combined video display and camera system
CN102447877A (zh) * 2010-10-19 2012-05-09 微软公司 使用移动设备姿势的优化遥现

Also Published As

Publication number Publication date
US20160105640A1 (en) 2016-04-14
CN106797430A (zh) 2017-05-31
US9602767B2 (en) 2017-03-21
EP3205088B1 (en) 2022-10-26
WO2016057593A1 (en) 2016-04-14
EP3205088A1 (en) 2017-08-16

Similar Documents

Publication Publication Date Title
CN106797430B (zh) 遥现体验
CN1197372C (zh) 通信系统
CN102540464B (zh) 提供环绕视频的头戴式显示设备
CN105704479B (zh) 3d显示系统用的测量人眼瞳距的方法及系统和显示设备
Krum et al. Augmented reality using personal projection and retroreflection
US9746752B1 (en) Directional projection display
CN109565567A (zh) 三维遥现系统
CN106131536A (zh) 一种裸眼3d增强现实互动展示系统及其展示方法
CN108886578A (zh) 用于增强现实姿势对准的虚拟提示
WO2015043098A1 (zh) 一种多视角裸眼立体显示系统及其显示方法
WO2015078161A1 (zh) 一种采用指向性背光结构的无辅助立体显示装置
CN102445756A (zh) 用于扩展现实显示的自动焦点改善
JP7242690B2 (ja) 表示システム
CN109640070A (zh) 一种立体显示方法、装置、设备及存储介质
CN104516492A (zh) 一种基于3d全息投影的人机交互技术
CN109856808A (zh) 悬浮显示装置
EP2965172B1 (en) Process for making an audio-visual interface
CN107908002A (zh) 增强和混合现实的装置及方法
CN101587404A (zh) 基于摄像头的后定位装置和方法及其应用
US9195127B1 (en) Rear projection screen with infrared transparency
IJsselsteijn et al. A room with a cue: The efficacy of movement parallax, occlusion, and blur in creating a virtual window
CN106886289B (zh) 一种双用户互动的全息显示装置
TWI608255B (zh) 立體浮空影像顯示裝置
CN107222689A (zh) 基于vr镜头的实景切换方法及装置
CN210626781U (zh) 一种兼容2d图像显示的立体显示装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant