CN110325897A - 具有扩展的调节范围调整的近眼显示器 - Google Patents

具有扩展的调节范围调整的近眼显示器 Download PDF

Info

Publication number
CN110325897A
CN110325897A CN201880013349.5A CN201880013349A CN110325897A CN 110325897 A CN110325897 A CN 110325897A CN 201880013349 A CN201880013349 A CN 201880013349A CN 110325897 A CN110325897 A CN 110325897A
Authority
CN
China
Prior art keywords
eyes
lenslet array
user
change
lenslet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880013349.5A
Other languages
English (en)
Other versions
CN110325897B (zh
Inventor
约翰·D·佩罗特
帕特里克·卢尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Priority claimed from PCT/US2018/018432 external-priority patent/WO2018217252A1/en
Publication of CN110325897A publication Critical patent/CN110325897A/zh
Application granted granted Critical
Publication of CN110325897B publication Critical patent/CN110325897B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/10Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images using integral imaging methods
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/29Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the position or the direction of light beams, i.e. deflection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Nonlinear Science (AREA)
  • Ophthalmology & Optometry (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Liquid Crystal (AREA)

Abstract

近眼显示器系统(100)包括用于显示包括基元图像(122)阵列的近眼光场帧(120)的显示面板(118)和用于追踪用户眼睛(132)的姿态的眼睛追踪组件(106、108)。系统进一步包括小透镜阵列(124)和渲染组件(104)以基于用户眼睛的姿态来调整集成光场帧(120)中的基元图像(122)阵列的焦点。一种方法,包括:使用近眼显示器系统(100)的眼睛追踪组件(106、108)确定用户眼睛的姿态并且基于该姿态来确定形成集成光场帧(120)的基元图像阵列的期望的焦点。方法进一步包括基于该姿态来改变从小透镜阵列(124)投射出的光的焦距。

Description

具有扩展的调节范围调整的近眼显示器
背景技术
头戴式显示器(HMD)和其他近眼显示器系统可以利用集成光场(integrallightfield)显示器或其他计算显示器来提供三维(3D)图形的有效显示。通常,集成光场显示器采用一个或多个显示面板和叠加在一个或多个显示面板上的小透镜、针孔或其他光学特征的阵列。渲染系统渲染基元图像(elemental image)阵列,其中每一个基元图像表示来自对应的视角或虚拟相机位置的物体或场景的图像或视图。因为分辨率与小透镜的密度成比例,所以这样的集成光场显示器通常表现出在分辨率与调节(accommodation)范围之间的折衷。因此,为了提供令人满意的分辨率,采用集成光场显示器的常规近眼显示器系统通常具有限制显示器分辨率的低密度的大尺寸的小透镜或具有限制调节范围的高密度的小尺寸的小透镜。
附图说明
通过参考附图,可以更好地理解本公开并且使本公开的许多特征和优点对于本领域技术人员是显而易见的。在不同附图中相同的附图标记的使用指示相似或完全相同的项。
图1是图示出根据一些实施例的、采用眼睛追踪和对应的基元图像移位以提供动态焦距调整的近眼显示器系统的图。
图2是图示出根据一些实施例的、图1的近眼显示器系统中的动态焦距调整的示例的图。
图3是图示出根据一些实施例的、图1的近眼显示器系统中的动态焦距调整的附加示例的图。
图4是图示出根据一些实施例的、用于图1的近眼显示器系统中的动态焦距调整的方法的流程图。
图5是图示出根据一些实施例的、图1的近眼显示器系统中的动态调节范围调整的示例的图。
图6是图示出根据一些实施的、用于图1的近眼显示器系统中的动态焦距调整的示例变焦小透镜阵列的图。
具体实施方式
图1-6图示出用于近眼显示器系统中的基于用户眼睛姿态的动态焦距和调节范围调整的示例方法和系统。在至少一个实施例中,近眼显示器系统采用计算显示器向用户显示影像的集成光场帧以向用户提供沉浸式虚拟现实(VR)或增强现实(AR)体验。每一个集成光场帧由基元图像阵列组成,其中每一个基元图像表示来自不同对应视点的物体或场景的视图。小透镜阵列叠加在显示面板上并且操作以将基元图像阵列作为单个自由立体(autostereoscopic)图像呈现给用户。
因为计算显示器的分辨率与小透镜尺寸与小透镜焦距的比率成比例,所以使用大的小透镜来增加分辨率的尝试通常导致减少的焦距和调节范围,反之亦然。为了在不相应减小调节范围的情况下提供改进的分辨率,在至少一个实施例中,本文描述的近眼显示器系统利用动态技术,其中眼睛追踪组件被用于确定用户眼睛的当前姿态(位置和/或旋转)并且基于该当前姿态,确定要施加到可变率(variable-index)材料的电压,通过所述电压使从小透镜投射出的光的焦距改变以基于用户眼睛的当前姿态来改变图像中的对焦部分被感知的方式。作为示例,材料的折射率可以初始地被设置以生成可以在其内以对焦方式感知物体的第一调节范围。随后,材料的折射率可以改变以生成可以在其内以对焦方式感知物体的第二调节范围。随着用户的注视改变,材料的折射率被改变以动态地调整可以在其内以对焦方式感知物体的调节范围。因此,响应于用户眼睛的姿态的改变而动态地改变折射率并转变调节范围有效地提供了大的调节范围而不需要相应减少近眼显示器系统的分辨率。
图1图示出根据至少一个实施例的包含动态调节范围调整的近眼显示器系统100。在所描绘的示例中,近眼显示器系统100包括计算显示子系统102、渲染组件104和一个或多个眼睛追踪组件,诸如用于追踪用户左眼的眼睛追踪组件106和用于追踪用户右眼的眼睛追踪组件108中的一个或两个。计算显示子系统102包括安装在装置114(例如护目镜、眼镜等)中的左眼显示器110和右眼显示器112,所述装置114将显示器110、112分别放置在用户的左眼和右眼的前方。
如视图116所示,显示器110、112中的每一个包括至少一个显示面板118以显示集成光场帧的序列或系列(在下文中为了便于参考称为“光场帧”),所述集成光场帧的序列或系列中的每一个包括基元图像122的阵列120。为了便于参考,在本文中基元图像122的阵列120也可称为光场帧120。显示器110、112中的每一个进一步包括叠加在显示面板118上的小透镜126(通常也称为“微透镜”)的阵列124。通常,小透镜阵列124中的小透镜126的数量等于阵列120中的基元图像122的数量,但在其他实施方式中,小透镜126的数量可以少于或大于基元图像122的数量。注意到为了便于说明,尽管图1的示例图示出基元图像122的5x4阵列和对应的小透镜126的5x4阵列120,在通常的实施方式中,光场帧120中的基元图像122的数量和小透镜阵列124中的小透镜126的数量通常高得多。此外在一些实施例中,针对显示器110、112中的每一个实现单独的显示面板118,而在其他实施例中,左眼显示器110和右眼显示器112共享单个显示面板118,其中显示面板118的左半部分用于左眼显示器110并且显示面板118的右半部分用于右眼显示器112。
图1的横截面视图128描绘了小透镜阵列124的沿着线A-A的横截面视图,小透镜阵列124叠加在显示面板118上以使得小透镜阵列124叠加在显示面板118的显示表面130上以布置在显示器表面130与对应的用户眼睛132之间。在此配置中,每一个小透镜126将显示表面130的对应区域聚焦到眼睛的瞳孔134上,其中每一个这样的区域至少部分地与一个或多个相邻的区域重叠。因此,在这样的计算显示配置中,在基元图像122的阵列120显示在显示面板118的显示表面130处并且然后由眼睛132通过小透镜阵列124观看时,用户将基元图像122的阵列120感知为场景的单个图像。因此,在对用户的左眼和右眼两者并行地执行此过程并且在其间实现适当的视差时,结果是向用户呈现自由立体三维(3D)影像。
还如图1所示,渲染组件104包括一个或多个处理器的集合——诸如图示出的中央处理单元(CPU)136和图形处理单元(GPU)138、140以及诸如系统存储器142的一个或多个存储组件以存储由处理器136、138、140访问和执行的软件程序或其他可执行指令,以便操纵处理器136、138、140中的一个或多个以执行如本文所述的各个任务。这样的软件程序包括例如包括用于如下所述的调节范围调整过程的可执行指令的渲染程序144和包括用于也如下所述的眼睛追踪过程的可执行指令的眼睛追踪程序146。
在操作中,渲染组件104从本地或远程内容源150接收渲染信息148,其中渲染信息148表示图形数据、视频数据或表示作为要在显示子系统102处渲染和显示的影像的对象的物体或场景的其他数据。通过执行渲染程序144,CPU 136使用渲染信息148将绘图指令发送到GPU138、140,继而所述GPU138、140利用绘图指令使用各种众所周知的VR/AR计算/光场渲染过程中的任一个并行地渲染用于在左眼显示器110处显示的一系列光场帧151和用于在右眼显示器112处显示的一系列光场帧153。作为此渲染过程的一部分,CPU 136可以从惯性管理单元(IMU)154接收姿态信息150,其中姿态信息150表示显示子系统102的当前姿态并且控制一对或多对光场帧151、153的渲染以反映来自当前姿态的物体或场景的视点。
如下面详细描述的,渲染组件104可以进一步使用来自眼睛追踪组件106、108中的一个或两个的眼睛姿态信息针对要显示的光场帧移位基元图像122从小透镜阵列124到眼睛132的投射的焦距并且由此针对如此显示的光场帧调整基元图像122中的一个或多个的焦点。为此,眼睛追踪组件106、108均可以包括:用于使用IR光照射对应的眼睛的一个或多个红外(IR)光源(本文称为“IR照明器”);一个或多个成像相机,用于将从对应的眼睛的反射的IR光捕获为对应的眼睛图像(眼睛图像信息156);用于将反射的IR光引导到成像相机的一个或多个反射镜、波导、分束器等;以及一个或多个处理器,用于执行眼睛追踪程序146以根据所捕获的眼睛图像确定对应的眼睛的当前位置、当前定向或两者(在本文中单独地或统称为“姿态”)。各种众所周知的眼睛追踪设备和技术中的任一个可以被采用作为眼睛追踪组件146、148来追踪用户的一个或两个眼睛。
在常规的基于计算显示器的系统中,叠加在显示器上的小透镜阵列的性质通常是固定的(即小透镜的物理尺寸和/或材料构造是固定的并且对于全部小透镜通常是相同的),这继而导致小透镜的光学性质是固定的。作为结果,改变用户感知所显示的影像的焦点通常包括机械致动以将小透镜阵列物理地移动到更靠近或更远离用户的眼睛。在近眼显示器系统中,小透镜的小的焦距使近眼显示器系统具有小的透镜-显示器间隔公差。作为结果,小透镜阵列的初始构造中的任何不准确或者在操作期间的机械平移中的不准确可能导致对用户对所显示影像的感知的不期望的影响,诸如在所显示的影像中的物体的失焦或模糊。
如本文所述,在至少一个实施例中,近眼显示器系统100通过实现可变焦距小透镜阵列来改进对显示的影像的焦点的调整的准确度,该可变焦距小透镜阵列被配置为将投射的影像的焦距调整到与用户眼睛的当前姿态更接近地对准。这是通过使用眼睛追踪组件106、108来追踪用户的一个或两个眼睛以针对要显示的对应光场帧确定眼睛中的一个或两个的当前姿态来完成的。在当前姿态被确定的情况下,然后渲染组件104电调整从小透镜阵列中的小透镜126中的一个或多个投射的光的焦距以相对于用户的眼睛132改变正被渲染的光场帧内的基元图像122中的一个或多个的焦点。对焦点的这种改变使得由显示面板118显示的物体从用户的视角对焦或离焦。以这种方式,小透镜126的焦距可以动态地调整以更好地适应用户眼睛的当前姿态。
在一些实施例中,小透镜阵列124包括由向列型液晶盒(nematic liquidcrystal)构造的小透镜。向列型液晶盒是使用例如电压源(未示出)而电可寻址的。对小透镜126的所施加的电压的变化使小透镜的折射率改变,从而改变小透镜的焦距。在其他实施例中,(诸如由向列型液晶盒或被配置为具有可变焦距的其他可变焦光学组件构造的)可变率材料层158被定位以被布置在显示面板118与小透镜阵列124之间,而不是使用由向列型液晶盒构造的小透镜。
尽管此处在向列型液晶的场境(context)下进行描述,但是本领域技术人员将认识到的是,在不脱离本公开的范围的情况下,可以使用任何可变率材料和/或可变焦光学组件。例如,这样的光学部件可包括但不限于可变形薄膜反射镜(DMM)、流体透镜、空间光调制器(SLM)、电光聚合物等。另外,在一些其他实施例中,从小透镜阵列124投射的光的焦距可以通过将可变率小透镜或可变率材料层与机械致动器(未示出)组合以改变小透镜阵列124、可变率材料层158、显示面板118和眼睛132之间的物理距离来进一步调整。例如,这样的机械致动器可包括压电、音圈或电活性聚合物致动器。
在一个实施例中,电压被整体施加到小透镜阵列124或可变率材料层158。因此,每一个个体小透镜126或整个可变率材料层158接收相同的电压以调整其折射率,从而改变从整个小透镜阵列124投射的光的焦距。这实现了与将小透镜阵列124机械地致动和平移以更接近或更远离眼睛132相同的效果,并且进一步改进了实现期望的焦距的准确度。在另一个实施例中,小透镜126中的每一个可单独寻址并且可以接收彼此不同的电压。类似地,可以使用与小透镜阵列的规格(dimension)相匹配的规格来对可变率材料层158进行像素化;可变率材料层158的像素化区域中的每一个可以是可单独寻址的。这允许更大程度地控制从每一个小透镜126投射的光的焦距。因此,从每一个小透镜126投射的光的焦距是可调制的并且基元图像122中的每一个可以表示距图像中的物体具有不同视距的图像的不同部分。为了提供对焦点的控制的进一步粒度,在一些实施例中,可以在子小透镜层级以这样的规格来对可变率材料层158进行像素化:使得与每一个小透镜126对应的每一个基元图像122的不同部分可以被单独寻址到唯一的焦距。
替选地,为了提供对焦点的控制的进一步粒度,在其他实施例中,近眼显示器系统100包括可选的相位掩模160,所述相位掩模160被放置以被布置在显示面板118和小透镜阵列124之间。例如,如图1中所示,可选的相位掩模160是像素化的空间光调制器(SLM),其从显示器118(或在一些实施例中,从可变率材料158)接收射入光并在空间上调制输出光束的相位。因此,每一个小透镜126将接收针对不同光线具有多个空间上变化的相位的入射光束,使得每一个基元图像122的不同部分可以被聚焦到不同的焦距。
在其他实施例中,小透镜阵列124或可变率材料层158可以被划分为两个或更多个分区。可以用相同的电压对每一个分区进行寻址,从而仅改变该分区的焦距。例如,小透镜阵列124或可变率材料层158可以被划分为均接收不同的电压信号的四个相等的象限,划分为可单独寻址的行,划分为单独的列等。本领域技术人员将认识到的是,在不脱离本公开的范围的情况下,可以使用将小透镜阵列124或可变率材料层158划分为空间上变化的可寻址分区的任何划分。
为了说明,图2描绘了计算显示器——诸如在使用可变率小透镜的近眼显示器系统100中使用的计算显示器——的横截面视图200。如此视图中所示,小透镜阵列124的小透镜126中的每一个用作向眼睛132的单独“投射器”,其中每一个“投射器”与一个或多个相邻投射器重叠以形成来自在显示面板118处显示的基元图像阵列的合成虚像202。为了说明,小透镜126-1投射来自虚像202的区域210的对应的基元图像(由区域204表示),小透镜126-2投射来自虚像202的虚拟区域212的对应的基元图像(由区域206表示)并且小透镜126-3投射来自虚像202的虚拟区域214的对应的基元图像(由区域208表示)。如图2所示,区域210和212在子区域216中重叠,区域212和214在子区域220中重叠并且全部三个区域210、212、214在子区域218中重叠。
因此,假设在此示例中定位在显示面板118的区域206处的基元图像在第一时间t1时被眼睛132聚焦,小透镜126-2的折射率可以被(例如由渲染组件104)计算并且被电气改变,使得来自小透镜126-2的包含图像数据的光聚焦在眼睛132的后部的第一焦点222处。因此,虚像202的区域212部分在第一时间t1时显现为处于对焦状态。随后,假设在此示例中用户在第二时间t2时看向别处以聚焦在定位在显示面板118的区域204处的基元图像上。为了考虑用户眼睛的向新姿态的改变,小透镜126-2的折射率可以被(例如由渲染组件104)计算并且被电气改变,使得来自小透镜126-2的包含图像数据的光聚焦在第二焦点224处,使得用户眼睛的调节范围不能将图像的该部分对焦。因此,虚像202的区域212部分在第二时间t2时显现为是离焦的(例如模糊的)。
在替选实施例中,图3描绘了计算显示器——诸如在使用可变率材料层的近眼显示器系统100中使用的计算显示器——的横截面视图300。如此视图中所示,小透镜阵列124的小透镜126中的每一个用作向眼睛132的单独“投射器”,其中每一个“投射器”与一个或多个相邻投射器重叠以形成来自在显示面板118处显示的基元图像阵列的合成虚像202。为了说明,小透镜126-1投射来自虚像302的区域310的对应的基元图像(由区域304表示),小透镜126-2投射来自虚像302的虚拟区域312的对应的基元图像(由区域306表示)并且小透镜126-3投射来自虚像302的虚拟区域314的对应的基元图像(由区域308表示)。如图3所示,区域310和312在子区域316中重叠,区域312和314在子区域320中重叠并且全部三个区域310、312、314在子区域318中重叠。在图3所图示的实施例中,可变率材料层158(诸如先前参考图1所讨论的)改变其折射率以改变小透镜126上的光的入射角,这继而改变从小透镜126投射的光的焦距。
因此,假设在此示例中定位在显示面板118的区域306处的基元图像在第一时间t1时被眼睛132聚焦,可变率材料层158的折射率可以被(例如由渲染组件104)计算并且被电气改变,使得从小透镜126-2投射的包含图像数据的光聚焦在眼睛132的后部的第一焦点322处。因此,虚像302的区域312部分在第一时间t1时显现为处于对焦状态。随后,假设在此示例中用户在第二时间t2时看向别处以聚焦在定位在显示面板118的区域304处的基元图像上。为了考虑用户眼睛的向新姿态的改变,可变率材料层158的折射率可以被(例如由渲染组件104)计算并且被电气改变,使得来自小透镜126-2的包含图像数据的光聚焦在第二焦点324,使得用户眼睛的调节范围不能将图像的该部分对焦。因此,虚像302的区域312部分在第二时间t2时显现为是离焦的(例如模糊的)。
图4图示出根据一些实施例的,用于使用具有可调整的焦距的小透镜来渲染光场帧以提供动态图像焦点调整的近眼显示器系统100的操作的方法400。方法400图示出针对左眼显示器110或右眼显示器112中的一个的用于渲染和显示光场帧的过程的一次迭代,并且从而针对显示器110、112中的每一个并行地重复执行所图示的过程以在不同的时间点针对每一个眼睛生成和显示不同的光场帧的流或序列,并且从而向用户提供3D、自由立体的VR或AR体验。
针对要生成和显示的光场帧,方法400在框402处开始,由此渲染组件402识别将要作为光场帧显示给用户的对应眼睛的图像内容。在至少一个实施例中,渲染组件104接收表示来自诸如陀螺仪、加速计、磁力计、全球定位系统(GPS)传感器等的各种姿态相关的传感器的数据的IMU信息152并且根据IMU信息150确定用于将显示器110、112安装在用户眼睛附近的装置114(例如,HMD)的当前姿态。通过执行渲染程序144,CPU 136可以根据此当前姿态确定对象场景或物体的对应的当前视点,并且根据此视点和作为渲染信息148被提供的场景或物体的图形和空间描述来确定要针对当前姿态渲染的影像。
在框404处,通过执行眼睛追踪程序146,CPU 136确定用户的对应的眼睛的当前姿态。如本文所说明的,眼睛的当前姿态可以使用各种眼睛追踪技术中的任一个来确定。通常,这种技术包括捕获从眼睛的瞳孔和角膜反射的IR光的一个或多个图像。然后,眼睛追踪程序146可以操纵CPU 136或GPU 138、140分析图像以基于瞳孔反射或角膜反射中的一个或两个的对应位置来确定眼睛的姿态。此外,瞳孔相对于角膜的定向继而可用于确定眼睛的定向(即眼睛的注视方向)。应该注意的是,尽管在图4中将框404示出为在框404后面,但是框404的过程可以在框402的过程之前、期间或之后执行。
在确定了用户眼睛的当前姿态的情况下,在框406处,渲染程序144操纵CPU 136基于用户眼睛的当前姿态来计算小透镜阵列124中的一个或多个小透镜126的(例如到期望的焦点或焦平面的)的焦距。如上面所说明的,焦距表示在观看从小透镜投射的(携带图像数据的)光时达到最锐聚焦的距离。特别地,期望的焦距旨在允许用户的眼睛注视所指向的图像元素(例如虚像中的物体、个体、场景等)在通过小透镜126投射之后被感知为对焦。即,期望的焦距用于动态地调整从小透镜投射的光线会聚的距离以匹配眼睛的当前姿态,从而改变图像内容的不同视图被感知的焦点。
在至少一个实施例中,期望的焦距的计算是至少部分地基于使用用户眼睛相对于显示面板118的当前姿态来进行的对用户正将他或她的注视指向的虚像中的虚拟物体的识别。为了说明,参考由图5的横截面视图500所示的示例场景,虚像可以包括旨在由眼睛132感知的不同深度处的多个物体。例如,虚像包括表示虚像内分别定位在深度d1和d2处的椰子502和树504的图像数据。假设在此示例中,在框404中确定的眼睛的当前姿态确定用户的注视聚焦在椰子502上,可以计算期望的焦距,使得从小透镜126-3投射的包含椰子502的图像数据的光聚焦在眼睛132后部的第一焦点508处。因此,虚像中的椰子502将显现为是对焦的。
在一些实施例中,期望的焦距的计算进一步包括调节范围的确定,所述调节范围通常指的是虚像中的物体将被感知为对焦的深度范围。定位在调节范围内的物体可以被感知为是对焦的;定位在调节范围之外(即,在距眼睛太近或太远的虚拟深度处)的物体将不会被感知为是对焦的,即使眼睛的当前姿态正直接注视该调节范围之外的物体。例如再次参考图5,由于树504定位在调节范围506之外,所以即使眼睛的当前姿态直接注视树504,树504也不会被感知为对焦。
相反如果已经确定了调节范围512,则椰子502和树504两者可以显现为对于眼睛132是对焦的。特别地,假设在此示例中,在框404中确定的眼睛的当前姿态确定在第一时间t1时用户的注视聚焦在椰子502上,由于虚像中的椰子502定位在调节范围512内,所以虚像中的椰子502显现为是对焦的。在一些实施例中,在第一时间t1时,虚像中的树504定位在调节范围512内,但是由于眼睛的当前姿态聚焦在椰子502上,所以树504不会被感知为对焦。即,调节范围的确定进一步包括:确定一个或多个期望的焦距,使得定位在调节范围内但未被用户的注视聚焦的物体不被感知为完全对焦。
可以确定焦距以提供聚焦区域和散焦区域中的一个或多个,在所述聚焦区域中指向的注视感知处于对焦的物体,在所述散焦区域中提供散焦模糊,从而以视网膜模糊的形式提供调节提示以帮助深度感知的模拟。然而,在随后的时间t2时,如果用户的注视被改变为聚焦在树504上,则由于虚像中的树504定位在调节范围512内,所以虚像中的树504将显现为是对焦的。类似地,椰子502定位在调节范围512内,但是由于在第二时间t2时眼睛的当前姿态聚焦在树504上,所以椰子502不被感知为是对焦的。
在其他实施例中,在框406中的期望的焦距的计算可以可选地包括对用户眼睛中存在的屈光不正(例如近视、远视)的补偿。例如,可以对集成光场中的每一个部分的期望的焦距应用平面移位以校正用户的近视或远视,使得通常必须佩戴矫正透镜(例如眼镜或隐形眼镜)的用户能够以对焦状态观看图像而无需佩戴这种矫正透镜。由于环境条件或制造的组装公差,类似的补偿也可以被应用以处置机械/热漂移。
在确定了期望的焦距的情况下,在框408处,渲染程序144操纵CPU 136计算要施加到可变率材料的电压。作为此过程的一部分,CPU136还指令所计算的电压被施加以引起可变率材料的折射率的变化,这继而导致进入和离开本文所讨论的小透镜的光的入射角的变化。例如,返回参考图1和图2,一些实施例包括用可变率材料构造小透镜。因此,将所计算的电压直接施加到小透镜上来改变小透镜的进入和离开小透镜阵列的光的折射率和入射角。在其他实施例中,诸如关于图3所讨论的,可变率材料可以作为布置在显示面板118与小透镜阵列124之间的层被提供。在这样的实施例中,将所计算的电压仅直接施加到可变率材料层158来改变进入和离开可变率材料层158的光的折射率和入射角。然而,对进入和离开可变率材料层158的光的入射角的改变导致对由小透镜阵列124接收的光的入射角的改变,从而改变小透镜126的焦点和焦距。GPU随后在框210处渲染光场帧并将光场帧提供到计算显示器110、112中的对应一个以在框406和框408的对焦距的调整的情况下来向用户的眼睛132显示。还应注意的是,尽管在图4中将框410图示为方法400的最后的步骤,但是框410的过程也可以在框402的过程之前、期间或之后执行。
如上面所说明的,本文描述的动态调节范围调整和焦距改变过程利用眼睛追踪组件(例如,眼睛追踪组件106、108)来确定对应眼睛的当前姿态。此眼睛追踪组件通常包括:用于照射眼睛一个或多个IR照明器,用于捕获来自眼睛的IR反射的影像的成像相机,用于将来自眼睛的IR反射光引导到成像相机的一个或多个透镜、波导或其他光学元件以及执行软件程序以分析所捕获的影像的一个或多个处理器。
图5示出了根据一些实施例的,用于使用可变率材料进行调节范围扩展的附加示例计算显示器,诸如在近眼显示器系统100中使用的那些计算显示器。如由横截面视图500所示,在此配置中,小透镜阵列124中的小透镜126中的每一个用作向眼睛132的单独的“投射器”,其中每一个“投射器”与一个或多个相邻的投射器重叠以形成来自在显示面板118处显示的基元图像阵列的合成虚像。
如视图500所示,虚像可以包括旨在由眼睛132感知的不同深度处的多个物体。例如,虚像包括表示虚像内分别定位在深度d1和d2处的椰子502和树504的图像数据。假设在此示例中眼睛132的当前姿态确定在第一时间t1时用户的注视聚焦在椰子502上,可变率材料层158的折射率可以被(例如由渲染组件104)计算并且被电气改变,使得从小透镜投射的包含图像数据的光与调节范围506相关联。
从小透镜126-3投射的椰子502的图像数据被聚焦在眼睛132后部的第一焦点508处。因此,虚像中的椰子502在第一时间t1时显现为是对焦的。然而,基于在第一时间t1时的可变率材料层158的折射率,来自小透镜126-1的包含树504的图像数据的光被聚焦在第二焦点510处。换句话说,树504定位在调节范围506之外。因此,虚像中的树504在第一时间t1时显现为是离焦的(例如模糊的)。相反,如果已经计算了可变率材料层158的折射率以产生调节范围512,则椰子502和树504两者对于眼睛132将显现为是对焦的。
图6是图示出根据一些实施例的,用于图1的近眼显示器系统中的动态焦距调整的示例变焦小透镜阵列的图。如顶视图600所示,在此配置中,小透镜阵列124包括立方相位板604的第一阵列602和立方相位板604的第二阵列606。第一立方相位板阵列602相对于第二立方相位板阵列604的空间平移——诸如通过在如图6所图示出的两个阵列之间的横向位移——改变立方相位板604的焦距。通过平移两个叠覆的立方相位函数,可变二次(即变焦)效应被引入。类似地,诸如Lohmann-Alvarez变焦透镜的小透镜阵列124可包括两个自由曲面相位板阵列,在所述Lohmann-Alvarez变焦透镜中透镜的焦距通过透镜之间的横向位移而改变。这通过使用良好定义的表面函数而实现动态焦距调整。在一些实施例中,上述技术的某些方面可以由执行软件的处理系统中的一个或多个处理器实现。软件包括存储或以其他方式有形地体现在非暂时性计算机可读存储介质上的一个或多个可执行指令集合。软件可以包括指令和某些数据,所述指令和某些数据在由一个或多个处理器执行时,操纵一个或多个处理器以执行上述技术的一个或多个方面。非暂时性计算机可读存储介质可包括例如磁盘或光盘存储设备、固态存储设备——诸如闪存、高速缓存、随机存取存储器(RAM)或其他一个或多个非易失性存储设备等。存储在非暂时性计算机可读存储介质上的可执行指令可以处于源代码、汇编语言代码、目标代码或由一个或多个处理器解译或以其他方式能够执行的其他指令格式。
计算机可读存储介质可以包括在使用期间可由计算机系统访问以用于向计算系统提供指令和/或数据的任何存储介质或存储介质的组合。这样的存储介质可以包括但不限于光学介质(例如光盘(CD)、数字通用光盘(DVD)、蓝光光盘)、磁介质(例如软盘、磁带或磁性硬盘驱动器)、易失性存储器(例如随机存取存储器(RAM)或高速缓冲存储器)、非易失性存储器(例如只读存储器(ROM)或闪存)或基于微机电系统(MEMS)的存储介质。计算机可读存储介质可以嵌入在计算系统(例如系统RAM或ROM)中、固定地附接到计算系统(例如磁性硬盘驱动器)、可移除地附接到计算系统(例如光盘或基于通用串行总线(USB)的闪存)或经由有线或无线网络耦合到计算机系统(例如网络可访问存储(NAS))。
注意的是,并非需要上述一般性描述中的全部活动或元素,可能不需要特定活动或设备的一部分,并且除了那些所描述的,可以执行一个或多个进一步的活动或者包括一个或多个进一步的元素。此外,活动被列出的顺序不一定是它们执行的顺序。而且,已经参考特定实施例描述了概念。然而,本领域普通的技术人员认识到的是,在不脱离所附权利要求书中所阐述的本公开的范围的情况下,可以进行各种修改和改变。因此,说明书和附图应被视为说明性的而非限制性的意义并且全部这样的修改旨在包括在本公开的范围内。
上面已经参考特定实施例描述了益处、其他优点和问题的解决方案。然而,益处、优点、问题的解决方案以及可能导致任何益处,优点或解决方案发生或变得更加明显的任何特征不应被解释为任何或全部的权利要求的关键的、必需的或必要的特征。此外,因为所公开的主题可以以与受益于本文教导的本领域技术人员显而易见的方式不同但等同的方式进行修改和实践,所以以上公开的特定实施例仅是说明性的。除了在所附的权利要求书中描述的之外,不旨在对本文所示的构造或设计的细节进行限制。因此显而易见的是,上面公开的特定实施例可以改变或修改,并且全部这样的变化都被认为在所公开的主题的范围内。因此,本文所要求的保护如在所附的权利要求书中所阐明的。

Claims (20)

1.在近眼显示器系统(100)中,一种方法,包括:
使用所述近眼显示器系统(100)中的眼睛追踪组件(106、108)确定用户眼睛(132)的第一姿态;
基于所述用户眼睛的所述第一姿态,确定形成集成光场帧(120)的基元图像(122)阵列的期望的焦点;
基于所述用户眼睛(132)的所述第一姿态,改变从小透镜阵列(124)投射出的光的焦距;
在所述集成光场帧(120)内的位置处渲染所述基元图像(122)阵列;以及
在所述近眼显示器系统(100)的显示面板(118)处显示所述集成光场帧。
2.根据权利要求1所述的方法,其中,确定所述用户眼睛的所述第一姿态包括:
使用被布置在所述显示面板(118)与叠加在所述显示面板上的所述小透镜阵列(124)之间的成像相机捕获所述用户眼睛(132)的影像。
3.根据权利要求1所述的方法,其中,改变所述焦距包括:
向被布置在所述显示面板(118)与所述小透镜阵列(124)之间的可变率材料(158)施加电压以引起所述可变率材料(158)的折射率的改变,其中所述折射率的改变导致进入和离开所述小透镜阵列(124)的光的入射角的改变。
4.根据权利要求1所述的方法,其中,改变所述焦距包括:
向包括可变率材料的所述小透镜阵列(124)中的一个或多个小透镜(126)施加电压以引起所述一个或多个小透镜(126)的折射率的改变,其中所述折射率的改变导致进入和离开所述小透镜阵列(124)的光的入射角的改变。
5.根据权利要求1所述的方法,其中,改变所述焦距包括:
向与所述小透镜阵列(124)的第一部分相关联的可变率材料施加电压以引起所述可变率材料的折射率的改变,其中所述小透镜阵列(124)的所述第一部分是相对于所述小透镜阵列的第二部分可独立寻址的,并且进一步其中所述折射率的改变导致进入和离开所述第一部分的光的入射角的改变而不改变进入和离开所述小透镜阵列的所述第二部分的光的入射角。
6.根据权利要求1所述的方法,其中,确定所述基元图像阵列的所述期望的焦点进一步包括:
确定所述期望的焦点(222)以补偿所述用户眼睛(132)中的已有屈光不正。
7.根据权利要求1所述的方法,其中,确定所述基元图像阵列的所述期望的焦点包括:
相对于所述集成光场帧内的其他物体(504)的虚拟深度,识别所述用户眼睛的所述第一姿态所聚焦的目标物体(502)的虚拟深度。
8.在近眼显示器系统中,一种方法,包括:
使用所述近眼显示器系统(100)中的眼睛追踪组件(106、108),在第一时间时确定用户眼睛(132)的、相对于所述近眼显示器系统(100)的显示面板(118)的第一姿态;
渲染包括基元图像(122)阵列的集成光场帧(120);
使用与基于所述用户眼睛的所述第一姿态的、第一调节范围(506)相关联的小透镜阵列(124)呈现所述集成光场帧(120)以用于显示;
使用所述眼睛追踪组件(106、108)在第二时间时确定所述用户眼睛(132)的、相对于所述显示面板的第二姿态,所述第二姿态与所述第一姿态不同;以及
基于所述用户眼睛的所述第二姿态将所述小透镜阵列的所述第一调节范围(506)调整到第二调节范围(512)并且使用所述小透镜阵列(124)呈现所述集成光场帧(120)以用于显示,所述第二调节范围(512)与所述第一调节范围(506)不同。
9.根据权利要求8所述的方法,其中,将所述第一调节范围调整到所述第二调节范围包括:
向被布置在所述显示面板(118)与所述小透镜阵列(124)之间的可变率材料(158)施加电压以引起所述可变率材料(158)的折射率的改变,其中所述折射率的改变导致进入和离开所述小透镜阵列(124)的光的入射角的改变。
10.根据权利要求8所述的方法,其中,将所述第一调节范围调整到所述第二调节范围包括:
向包括可变率材料的所述小透镜阵列(124)中的一个或多个小透镜(126)施加电压以引起所述一个或多个小透镜的折射率的改变,其中所述折射率的改变导致进入和离开所述小透镜阵列(124)的光的入射角的改变。
11.根据权利要求8所述的方法,其中,将所述第一调节范围调整到所述第二调节范围包括:
向与所述小透镜阵列(124)的第一部分相关联的可变率材料施加电压以引起所述可变率材料的折射率的改变,其中所述小透镜阵列的所述第一部分是相对于所述小透镜阵列(124)的第二部分可独立寻址的,并且进一步其中所述折射率的改变导致进入和离开所述第一部分的光的入射角的改变而不改变进入和离开所述小透镜阵列(124)的所述第二部分的光的入射角。
12.根据权利要求8所述的方法,进一步包括:
相对于所述集成光场帧内的其他物体(504)的虚拟深度,识别所述用户眼睛的所述第一姿态所聚焦的物体(502)的虚拟深度;以及
计算所述第一调节范围(506),使得所述小透镜阵列(124)的折射率将处于所述第一调节范围内的虚拟深度处的其他物体呈现为是对焦的。
13.根据权利要求8所述的方法,进一步包括:
相对于所述集成光场帧内的其他物体(504)的虚拟深度,识别所述用户眼睛的所述第一姿态所聚焦的目标物体(502)的虚拟深度;以及
计算所述第一调节范围(506),使得在所述用户眼睛的注视聚焦在所述目标物体(502)上时,所述小透镜阵列(124)的折射率将处于所述第一调节范围内的虚拟深度处的其他物体呈现为是离焦的。
14.一种近眼显示器系统,包括:
显示面板(118),所述显示面板(118)用于显示包括基元图像(122)阵列的集成光场帧(120);
眼睛追踪组件(106、108),所述眼睛追踪组件(106、108)用于追踪用户眼睛(132)的姿态;
小透镜阵列(124),所述小透镜阵列(124)用于向所述用户眼睛(132)呈现所述集成光场帧(120);以及
渲染组件(104),所述渲染组件(104)用于基于所述用户眼睛的所述姿态来调整所述集成光场帧(120)中的所述基元图像阵列的焦点。
15.根据权利要求11所述的近眼显示器系统,其中,所述渲染组件通过以下来调整所述基元图像阵列的所述焦点:
相对于所述集成光场帧内的其他物体(504)的虚拟深度,识别所述用户眼睛的所述姿态所聚焦的目标物体(502)的虚拟深度;以及
向与所述小透镜阵列(124)相关联的可变率材料施加电压以引起所述可变率材料的折射率的改变以改变进入和离开所述小透镜阵列(124)的光的入射角。
16.根据权利要求14所述的近眼显示器系统,其中,所述小透镜阵列包括可变率材料,并且进一步其中,所述渲染组件通过以下来调整所述基元图像阵列的所述焦点:
向所述小透镜阵列(124)中的一个或多个小透镜(126)施加电压以引起所述一个或多个小透镜(126)的折射率的改变并改变进入和离开所述小透镜阵列(124)的光的入射角。
17.根据权利要求14所述的近眼显示器系统,进一步包括:
被布置在所述显示面板(118)与所述小透镜阵列(124)之间的可变率材料(158),其中,向所述可变率材料(158)施加电压引起所述可变率材料的折射率的改变并且改变进入和离开所述小透镜阵列(124)的光的入射角。
18.根据权利要求14所述的近眼显示器系统,其中,所述眼睛追踪组件包括:
一个或多个红外(IR)照明器的集合,所述一个或多个红外(IR)照明器的集合用于将光投射到所述用户眼睛上;以及
成像相机,所述成像相机被布置在所述小透镜阵列(124)和所述显示面板(118)之间并且通过所述小透镜阵列(124)朝向所述用户眼睛(132)被定向。
19.一种渲染系统,包括:
至少一个处理器(136、138、140);
输入,所述输入用于从眼睛追踪组件(106、108)接收数据,所述数据指示用户眼睛的、相对于近眼显示面板(118)的姿态;以及
存储组件(142),所述存储组件(142)用于存储可执行指令集合,所述可执行指令集合被配置为操纵所述至少一个处理器(136、138、140)以渲染包括基元图像(122)阵列的集成光场帧(120),所述可执行指令集合进一步被配置为操纵所述至少一个处理器(136、138、140)以基于所述用户眼睛(132)的所述姿态来调整所述集成光场帧(120)中的所述基元图像阵列的焦点。
20.根据权利要求19所述的渲染系统,其中,所述可执行指令集合被配置为操纵所述至少一个处理器以通过以下来调整所述焦点:
相对于所述集成光场帧内的其他物体(504)的虚拟深度,识别所述用户眼睛(132)的所述姿态所聚焦的目标物体(502)的虚拟深度;以及
计算电压,所述电压要被施加到与小透镜阵列相关联的可变率材料以引起所述可变率材料的折射率的改变来改变进入和离开所述小透镜阵列(124)的光的入射角。
CN201880013349.5A 2017-05-26 2018-02-15 具有扩展的调节范围调整的近眼显示器 Active CN110325897B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762511567P 2017-05-26 2017-05-26
US62/511,567 2017-05-26
PCT/US2018/018432 WO2018217252A1 (en) 2017-05-26 2018-02-15 Near-eye display with extended accommodation range adjustment

Publications (2)

Publication Number Publication Date
CN110325897A true CN110325897A (zh) 2019-10-11
CN110325897B CN110325897B (zh) 2021-10-22

Family

ID=68112769

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880013349.5A Active CN110325897B (zh) 2017-05-26 2018-02-15 具有扩展的调节范围调整的近眼显示器

Country Status (2)

Country Link
EP (1) EP3566093A1 (zh)
CN (1) CN110325897B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113376837A (zh) * 2021-06-09 2021-09-10 Oppo广东移动通信有限公司 近眼显示光学系统、近眼显示设备及方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102445756A (zh) * 2010-11-18 2012-05-09 微软公司 用于扩展现实显示的自动焦点改善
US20140292620A1 (en) * 2012-08-04 2014-10-02 Paul Lapstun Near-Eye Light Field Display
US20140340390A1 (en) * 2013-05-17 2014-11-20 Nvidia Corporation System, method, and computer program product to produce images for a near-eye light field display having a defect
US20150262424A1 (en) * 2013-01-31 2015-09-17 Google Inc. Depth and Focus Discrimination for a Head-mountable device using a Light-Field Display System
CN106249423A (zh) * 2015-06-12 2016-12-21 群创光电股份有限公司 显示装置及其操作方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102445756A (zh) * 2010-11-18 2012-05-09 微软公司 用于扩展现实显示的自动焦点改善
US20140292620A1 (en) * 2012-08-04 2014-10-02 Paul Lapstun Near-Eye Light Field Display
US20150262424A1 (en) * 2013-01-31 2015-09-17 Google Inc. Depth and Focus Discrimination for a Head-mountable device using a Light-Field Display System
US20140340390A1 (en) * 2013-05-17 2014-11-20 Nvidia Corporation System, method, and computer program product to produce images for a near-eye light field display having a defect
CN106249423A (zh) * 2015-06-12 2016-12-21 群创光电股份有限公司 显示装置及其操作方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113376837A (zh) * 2021-06-09 2021-09-10 Oppo广东移动通信有限公司 近眼显示光学系统、近眼显示设备及方法

Also Published As

Publication number Publication date
CN110325897B (zh) 2021-10-22
EP3566093A1 (en) 2019-11-13

Similar Documents

Publication Publication Date Title
US11435576B2 (en) Near-eye display with extended accommodation range adjustment
Jang et al. Retinal 3D: augmented reality near-eye display via pupil-tracked light field projection on retina
JP6423945B2 (ja) 表示装置、およびプロジェクタを用いた表示方法
US11852890B2 (en) Near-eye display system
KR102438618B1 (ko) 동적 시야 가변 초점 디스플레이 시스템
US11480784B2 (en) Binocular display with digital light path length modulation
US10404975B2 (en) Retroreflective light field display
US10241329B2 (en) Varifocal aberration compensation for near-eye displays
JP2020515090A (ja) 画像レンダラと光コンバイナとを用いる表示装置および表示方法
US11221487B2 (en) Method and device of field sequential imaging for large field of view augmented/virtual reality
CN110325897A (zh) 具有扩展的调节范围调整的近眼显示器
Zhang et al. Design and implementation of an optical see-through near-eye display combining Maxwellian-view and light-field methods
KR20180062953A (ko) 디스플레이 장치 및 컨텍스트 디스플레이와 프로젝터를 이용하여 디스플레이하는 방법
JP2002330452A (ja) 立体画像表示装置
JP2023512878A (ja) 照明オプティクスのための回折素子の偏光ベース多重化
KR102135888B1 (ko) 프로젝션 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant