CN116113890A - 计算全息图数据的设备和方法 - Google Patents
计算全息图数据的设备和方法 Download PDFInfo
- Publication number
- CN116113890A CN116113890A CN202180055305.0A CN202180055305A CN116113890A CN 116113890 A CN116113890 A CN 116113890A CN 202180055305 A CN202180055305 A CN 202180055305A CN 116113890 A CN116113890 A CN 116113890A
- Authority
- CN
- China
- Prior art keywords
- hologram
- circuit
- data
- scene
- preprocessing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 238000004364 calculation method Methods 0.000 claims abstract description 320
- 238000007781 pre-processing Methods 0.000 claims abstract description 277
- 238000012545 processing Methods 0.000 claims abstract description 61
- 238000010606 normalization Methods 0.000 claims description 113
- 238000004458 analytical method Methods 0.000 claims description 29
- 238000012937 correction Methods 0.000 claims description 29
- 238000009826 distribution Methods 0.000 claims description 28
- 230000003287 optical effect Effects 0.000 claims description 19
- 238000013461 design Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 14
- 230000008859 change Effects 0.000 claims description 13
- 230000004075 alteration Effects 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 9
- 230000000694 effects Effects 0.000 claims description 9
- 238000005286 illumination Methods 0.000 claims description 9
- 230000003213 activating effect Effects 0.000 claims description 7
- 230000007547 defect Effects 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 claims description 7
- 238000009877 rendering Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 5
- 238000003384 imaging method Methods 0.000 claims description 4
- 239000000758 substrate Substances 0.000 claims description 4
- 230000002085 persistent effect Effects 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 description 25
- 239000011295 pitch Substances 0.000 description 25
- 230000006870 function Effects 0.000 description 21
- 230000008901 benefit Effects 0.000 description 14
- 238000012546 transfer Methods 0.000 description 14
- 238000011161 development Methods 0.000 description 11
- 230000001419 dependent effect Effects 0.000 description 9
- 230000009471 action Effects 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000010363 phase shift Effects 0.000 description 6
- 230000001360 synchronised effect Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 230000003139 buffering effect Effects 0.000 description 5
- 239000002918 waste heat Substances 0.000 description 4
- 230000007423 decrease Effects 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000020169 heat generation Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0808—Methods of numerical synthesis, e.g. coherent ray tracing [CRT], diffraction specific
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/02—Details of features involved during the holographic process; Replication of holograms without interference recording
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0841—Encoding method mapping the synthesized field into a restricted set of values representative of the modulator parameters, e.g. detour phase coding
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0891—Processes or apparatus adapted to convert digital holographic data into a hologram
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/22—Processes or apparatus for obtaining an optical image from holograms
- G03H1/2294—Addressing the hologram to an active spatial light modulator
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0808—Methods of numerical synthesis, e.g. coherent ray tracing [CRT], diffraction specific
- G03H2001/0825—Numerical processing in hologram space, e.g. combination of the CGH [computer generated hologram] with a numerical optical element
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/22—Processes or apparatus for obtaining an optical image from holograms
- G03H1/2202—Reconstruction geometries or arrangements
- G03H2001/2236—Details of the viewing window
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2210/00—Object characteristics
- G03H2210/30—3D object
- G03H2210/36—Occluded features resolved due to parallax selectivity
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2226/00—Electro-optic or electronic components relating to digital holography
- G03H2226/02—Computing or processing means, e.g. digital signal processor [DSP]
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2226/00—Electro-optic or electronic components relating to digital holography
- G03H2226/05—Means for tracking the observer
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2240/00—Hologram nature or properties
- G03H2240/20—Details of physical variations exhibited in the hologram
- G03H2240/40—Dynamic of the variations
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Holo Graphy (AREA)
Abstract
本发明涉及用于至少一个全息图计算电路的预处理电路、设备以及用于计算全息图的方法。预处理电路包括用于接收要显示的场景的数据的输入接口装置、用于对接收到的数据以定义的方式进行处理并且将数据转换成包括显示场景所需的特定参数的与系统无关的格式的处理装置、以及用于将经过转换的数据输出并传送到至少一个全息图计算电路的输出接口装置。
Description
本发明涉及一种具有全息图计算芯片架构的设备,特别是用于至少一个全息图计算电路的预处理电路。
此外,本发明还涉及一种用于计算显示优选三维场景或对象的全息图的设备。此外,本发明还涉及一种用于实时计算全息图的流水线和用于计算和编码全息图的方法,该全息图可以用于例如使用全息显示设备或显示器显示三维场景和对象。
因此,本发明公开并描述了用于内容预处理、用于全息图计算以及用于在三维光调制装置上输出计算出的全息图的芯片架构及其各个方面。这样的芯片架构的一种可能的应用可以是用于显示优选三维信息(例如场景或对象)的全息显示设备或显示器,然而,应用不限于这样的显示设备。
例如,在WO 2004/044659 A2、WO 2006/066919 A1、WO 2008/138979A1或WO 2011/121130 A9中描述了全息显示设备或显示器和用于计算全息数据或全息图的计算方法,其中这些文献的内容在此也将全部并入本文。特别地,全息图和子全息图的概念及其含义在这些文件中详细描述,下文将参考这些文件。在这种情况下,整体全息图(也称为全息图)由限定数量的子全息图形成,这些子全息图相互重叠以生成要显示的三维场景或对象的全息图。
在现有技术中,例如,在全息图或子全息图计算中,方法基于利用对称性,特别是镜像对称性,即,只需为二维(2D)子全息图的一个象限(即四分之一)计算全息图值。剩余三个象限的值不是显式计算的,而是使用2D子全息图的第一象限的计算值来确定剩余三个象限的值,具体地,通过沿着2D子全息图的主轴对第一象限的值进行相应镜像来生成或复制2D子全息图的第一象限的计算结果的值。镜像对称性可以被理解为至少一个轴对称和/或一个点对称,其中点对称可以特别地与子全息图的中心点相关。
然而,使用这种方法计算子全息图的工作量仍然非常大。因此,申请人已经开发了一种使这种工作量最小化并且进一步有利地利用对称性以便充分地计算子全息图的方法。现在将简要描述在US 2016/0132021A1中公开的用于计算2D子全息图的方法,其中US2016/0132021A1的内容也将全部并入本文。
在US 2016/0132021A1中公开了一种用于计算子全息图或整体全息图的设备和方法。用于显示三维场景的对象点的全息显示设备具有空间光调制装置,此处空间光调制装置具有像素矩阵。此处一个像素也可以有多个子像素。在这种情况下,像素然后对应于宏像素。要计算的2D子全息图包含可分配给空间光调制装置的像素的复数,并且具有旋转对称性,因为它仅描绘了三维场景的一个对象点。在此文中,复数尤其应理解为数学意义上的复数。用于计算显示三维场景的对象点的2D子全息图的设备的特征在于,2D子全息图包括沿着从2D子全息图的原点到2D子全息图的最大半径的穿过2D子全息图的截面的半1D子全息图,其中确定每个像素的半径,并且通过电子电路将2D子全息图的每个像素永久地分配给具有相等或相似半径的半1D子全息图中的至少一个像素。此处最大半径是包围2D子全息图的圆的半径。与该2D子全息图的原点具有相同距离的2D子全息图的像素(因此,半径相等的所有像素)的幅度值和相位值因此是相同的。因此,一个这样的像素的计算也足以能够将这些值用于相同半径的其他像素。
为了有效地缩短计算由这样的2D子全息图的叠加生成的全息图的计算时间和计算工作量,电子电路将相等或至少相似半径的像素分配给半1D子全息图中的像素,半1D子全息图具有上述从2D子全息图的原点到最大半径的位置,半1D子全息图是2D子全息图的一部分,具有相应的半径,并且仍然只对这一个像素执行计算。由于借助于电子电路的永久分配,因此不需要用于为该步骤确定其他像素的半径、其附加寻址或添加查找表的附加步骤。这种电子电路可实现为数字电路。然而,模拟电路也是可用的。
在该设备的一个实施例中,2D子全息图的每个像素在此可以通过电子电路永久地分配给半1D子全息图中的至少一个像素,使得2D子全息图的像素的半径对应于半1D个子全息图中像素的半径乘以方向相关的拉伸因子。
为此,电子电路可以以硬接线矩阵的形式实现。
电子电路在此在现场可编程门阵列(FPGA)(即,可编程电路)和/或专用集成电路(ASIC)上实现。
如上所述,在2D子全息图旋转对称性的情况下,与该2D子全息图的原点具有相同距离的2D子全息图的像素(即,半径相等的所有像素)的幅度值和相位值是相同的。然而,空间光调制装置中像素矩阵形式的排列(其中像素具有定义的大小和定义的间距)的结果是,对于半1D子全息图的像素的特定半径值,计算幅度值和相位值,但是像素阵列包含在对象点的2D子全息图中,其半径值偏离半1D子全息图的半径值。在小偏差的情况下,仍然使用为半1D子全息图计算的相应值。然而,在2D子全息图的像素的半径与半1D子全息图中的特定像素的半径存在较大偏差的情况下,通过使用具有与相关2D子全息图像素半径相似的半径的半1D子全息图的两个或更多个像素的值来确定所需的幅度值和相位值是有利的。原则上,这可以以线性形式发生,也可以以非线性形式、平方形式发生,或者总体上以指数形式发生。后者是合理的,因为量化误差朝着2D子全息图的边缘增加,即朝着更大的半径增加。
因此,该设备在其电子电路中具有用于通过关联半1D子全息图的两个或更多个像素来生成中间值并且将2D子全息图中的对应像素分配给这些中间值的装置。
为了生成要显示的整个三维场景的全息图,US 2016/0132021A1中的用于计算这种全息图的设备具有上述用于计算该三维场景的对象点的2D子全息图的设备。此外,用于计算这种全息图的该设备还具有用于将使用用于计算2D子全息图的设备生成的2D子全息图从极坐标转换为笛卡尔坐标并且还从笛卡尔坐标转换为极坐标的装置,用于根据三维场景的对象点的位置和该场景的观察者的位置将2D子全息图定位在空间光调制装置上的装置,以及用于通过将相同像素的相应的实部和虚部相加来叠加要显示的三维场景的各个对象点的相应2D子全息图的装置。
此外,在US 2016/0132021A1中描述了借助于子全息图进行基于硬件的全息图实时计算的流水线。这种流水线以可编程电路的形式体现,以便稍后更改或添加新的功能单元。此处,该流水线具有用于计算子全息图并且直接激活空间光调制装置的装置。该流水线基于现场可编程门阵列(FPGA)和/或专用集成电路(ASIC)来实现。
这种流水线包含彼此电子互连的功能单元。图1示出了具有ASIC(专用集成电路)11的典型全息图计算流水线10的结构框图,这也例如在US 2016/0132021A1中使用。在这种情况下,在单个ASIC 11中提供计算全息图所使用或需要的所有功能单元。从图1中可以看出,要显示的信息的数据12,特别是场景的对象点的数据,通过接口13提供给ASIC 11,ASIC11通过输入处理模块14接收并处理对象点的数据12,以描述要重建的场景。然后,要显示的三维场景的这些数据在ASIC 11中借助于预处理模块15进行处理,并通过简单的用户定义接口16传送到ASIC 11中的全息图计算模块17,该全息图计算模块17将数据用于全息图计算。在这种情况下,全息图计算模块17负责全息图的合成、累加和编码。然后,计算出的全息图经由输出接口18输出,并经由具有高带宽的简单接口19从ASIC 11传送到空间光调制装置(SLM)20进行显示。这些功能单元永久地集成在ASIC 11或电路中。如图1中虚线所示,单个ASIC 11包括输入处理模块14、预处理模块15、全息图计算模块17和输出接口18。
从总体上看,在空间光调制装置中编码的全息图的计算是非常密集的计算,其结果是必须开发和生产非常大且复杂的电路,例如图1所示的ASIC。此外,在通过电路进行计算的过程中产生了相对大量的废热,这些废热必须消散。由于所使用的数据流的带宽非常高,尤其是在ASIC的输出接口和空间光调制装置之间,如图1所示,长度较短的数据线是优选的,因为数据传送的功耗占总功耗的比例很大。然而,在数据线长度较短的情况下,有更多的可能性降低功耗。空间光调制装置通常从多个侧面(即,左/右边缘或上/下边缘)电连接到线路,以便传送数据流。结果是,空间光调制装置的尺寸越大,数据线长度越长。然而,单个电路,例如图1所示的ASIC形式,也意味着这是专门为单个空间光调制装置开发的,并且通常只能用于该单个空间光调制装置,很难用于其他空间光调制装置或全息显示设备,特别是,在全息图所需的计算能力显著不同或接口处的带宽显著差异的情况下。
因此,本发明的目的是改进开头提到的那种用于计算的全息图的设备和方法,以克服或消除现有技术的缺点。特别地,与现有技术的设备和方法相比,功耗或能量成本将降低并保持较低。此外,这样的设备的生产将简化并且成本将降低。
二维和/或三维场景的显示在这里也应理解为二维和/或者三维场景的重建。
根据本发明,通过具有根据权利要求1的特征的预处理电路来实现本发明的目的。
根据本发明,提供了用于至少一个全息图计算电路的预处理电路。预处理电路具有用于接收要显示的场景(优选三维场景)的数据的输入接口装置、用于对接收到的数据进行定义处理并且将数据转换成包括显示场景所需的特定参数的与系统无关的格式的处理装置,以及用于将经过转换的数据输出并传送到至少一个全息图计算电路的输出接口装置。
为了避开和避免上述缺点和问题,根据本发明,将现有技术中已知的用于计算全息图的电路的各个功能划分为多个分开的电路或装置。这意味着根据本发明,使用或利用至少两个电路来计算全息图,其替代根据现有技术的单个电路,或者根据现有技术用于计算全息图的单个已知电路被分成至少两个电路。现在根据本发明提供了一种预处理电路,该预处理电路在将要计算的全息图的数据传送到至少一个全息图计算电路并在其中使用以用于直接计算全息图之前对这些数据进行处理或预处理。然而,现在在预处理电路中实现在由预处理电路和全息图计算电路组成的整个计算系统中只需要一次的功能,即场景数据的预处理。因此,该功能仅实现一次。原则上该功能不在全息图计算电路中直接计算全息图中实现,从而有利地将数据的预处理与全息图数据的直接计算分开,并且可以将它们设置在彼此分开或隔离的至少两个电路中。以这种方式,现在根据本发明提供了预处理电路和至少一个全息图计算电路,其中这两种电路被设计为独立或分开的电路,并且彼此独立地操作。
因此,根据本发明的预处理电路仅包括对全息图的输入或传送数据进行预处理的装置或模块。全息图的直接计算不通过预处理电路进行。为了实现数据的预处理,预处理电路包括输入接口装置、处理装置和输出接口装置。输入接口装置用于接收要显示的优选三维场景的数据。处理装置被提供用于对接收到的数据进行定义的处理并且将数据转换成包含显示优选三维场景所需的特定参数的与系统无关的格式。处理装置因此根据定义的要求处理数据,并且随后将要显示的场景的经过预处理的数据转换为可针对至少一个空间光调制装置处理的通用格式。这意味着经过预处理的数据不是针对特殊的空间光调制装置定制。这里,通过应用空间光调制装置的定义的特定参数来实现向与系统无关的格式的转换。这些参数可以是例如关于要使用的波长、关于所使用的空间光调制装置的屏蔽、关于所需的或现有的分辨率、关于例如观察者与空间光调制装置之间的距离、关于校正表和校正参数以便执行例如失真或波长相关像差、接口信息项、接口配置或通用接口参数的特定校正的信息项。
相比之下,输出接口装置被提供用于输出经过转换的数据并将其分配给至少一个全息图计算电路。因此,在预处理电路中预处理的这些数据随后被传送到至少一个全息图计算电路,至少一个全息图计算电路随后使用这些数据来计算全息图。
由于具有至少两个分开的电路的设计,有利的是,不仅可以使用一个全息图计算电路(这在原理上是可行的),而且可以使用多个(即,至少两个)全息图计算电路,全息图计算电路仅用于直接计算全息图,全息图计算电路相对于计算出的全息图随后编码所针对的空间光调制装置的布置可以以更优化的方式进行,这将在下文中详细讨论。
由于在预处理电路中外包和实现了在数据预处理期间只需要一次的功能,因此可以显著减少和降低全息图计算电路的尺寸(大小)和生产成本。由于预处理电路主要执行简单的图像处理,并且与全息图计算电路相比需要很少的计算能力,因此预处理电路的功耗很低,因此就不那么重要。因此,这里还可以有利地使用更大且更具成本效益的结构宽度(所谓的技术节点),由此可以降低开发成本和生产成本。预处理电路可以设计为可重复使用。然而,由于这种预处理电路的开发和生产明显比全息图计算电路的开发与生产便宜,所以空间光调制装置的各种产品的修改或检查是可以想到并且可行的,还能够在预处理电路的输入侧实现各种新的接口和格式以及新的功能。
预处理电路被实现为独立或分开的电路。它独立于全息图计算电路工作。这使得整体功耗和生产成本降低,由于作为独立电路的预处理电路仅执行在计算过程中仅需执行一次的功能,因此至少一个后续的独立或分开的全息图计算电路也仅基于由预处理电路传送的数据来执行全息图的计算。以此方式,全息图计算电路计算所需的功耗可以保持较低。
本发明的进一步有利的实施例和改进源自进一步的从属权利要求。
预处理电路可以有利地实现为现场可编程门阵列(FPGA)或专用集成电路(ASIC)。实现为FPGA(现场可编程门阵列)可以更具成本效益,这取决于生产件数。
预处理电路通过输入接口装置(所谓的标准接口)接收要计算和显示的优选三维场景的数据、参数和程序。这里,输入接口装置可以被设计为例如DisplayPort(显示端口)、HDMI(高清晰度多媒体接口)、一个或多个网络接口,或者也可以被设计成具有所需带宽的任何其他接口。
此处有利的是,提供给预处理电路的数据、参数和程序以加密格式提供。
优选三维场景的数据可以以各种格式供应或提供,例如,作为三维点云、三维体积,或作为来自一个或多个平面的一个或多个视图的扫描图像或二维矩阵的汇编,即,由颜色和深度特征组成的图像,可能在多个平面中以实现全息图中的透明度或体积。可以使用任意其他格式。然而,数据的分辨率是灵活的,其中空间光调制装置的实现产品可能实现用于内容回放的特定最大分辨率。接收和处理针对全息显示器通过预处理准备或评估的传统二维数据的可能性代表了一个特殊的特征。
预处理电路可以执行各种预处理动作。预处理电路的处理装置执行这些预处理动作。处理装置可以设计为,例如,针对优选三维场景的所显示的对象点的每个波长(颜色)和每个视图分别执行颜色校正、亮度校正和/或位置校正。因此,从总体上看,处理装置被设计用于校正场景显示中的像差。然而,处理装置也可以被设计用于评估、改进、调整和/或总体上改变接收到的数据。
借助于预处理电路中的处理装置的这些数据预处理动作也可以用于例如校正所采用的全息显示设备中提供的光学系统的各种效应。因此,根据本发明,处理装置可以被设计用于校正像差或全息显示设备中提供的光学系统对要显示的场景具有负面影响的效应。
所使用的显示优选三维场景的光的每个波长(颜色)的不同校正也可以借助于预处理电路或预处理电路的处理装置来执行,以便在必要时不同地补偿所采用的全息显示设备的光学系统中的波长相关效应。
在本发明的另一实施例中,处理装置可以被设计用于对要显示的场景的观察者的至少一只眼睛的视觉缺陷进行定义的校正。还可以使用预处理电路的处理装置来执行对观察所显示的场景的观察者的一只或两只眼睛的视觉缺陷的有限的后续校正。为此,处理装置可以以这样的方式处理要计算的全息图的数据,即对借助于全息图显示的场景的对象点在每个维度/方向上进行单独地移动、旋转和/或变形。
在本发明的一个特别有利的实施例中,处理装置被设计成在结合注视点渲染使用眼睛跟踪数据时,要显示的场景的分辨率、细节程度和/或全息质量基于观察者的眼睛在观察者的视野的限定区域中的观看方向是可调整的。
使用眼睛跟踪数据来实时跟踪观察者的眼睛,可以实现所谓的注视点渲染,因为可以基于观察者眼睛的当前或预测的观看方向来调整优选三维场景的分辨率、细节程度和/或全息质量。场景的分辨率、细节程度和/或全息质量这里可以借助于预处理装置通过处理接收到的数据来调整,使得观察三维场景时在观察者眼睛中央凹的边缘区域中,提供降低的场景的分辨率、降低的细节程度和/或降低的全息质量。相反,在观察者眼睛的观看方向上,所显示的场景具有高分辨率、高细节程度和/或高全息质量,而在观察者不直接观看或瞄准的场景的边缘区域中,分辨率、细节程度和和/或全息质量降低。还可以减少光的波长(颜色)的数量。这意味着可以通过处理装置以这样的方式处理场景的数据,即场景的分辨率、细节程度和/或全息质量在其边缘区域中降低。使用这样的经过预处理的数据,然后可以在将这些数据传送到至少一个全息图计算电路之后计算所需的全息图。以此方式,可以减少或降低至少一个全息图计算电路中用于计算要显示的优选三维场景的全息图的功耗。这种处理还可以用于限定所使用的光的哪些波长必须显示在观察者的外围视野中,以便在至少一个全息图计算电路中节省额外的能量。
此外,有利地,处理装置可以被设计成控制至少一个空间光调制装置或全息显示设备的可控组件。
处理装置还可以承担至少一个空间光调制装置或全息显示设备的总体控制。这意味着,处理装置或从总体上看,预处理电路可以以限定的方式激活或控制至少一个空间光调制装置或全息显示设备的所有电子或可控组件。这种可控组件或系统可以是例如包括至少一个光源(例如激光器或LED)的照明装置,或者用于移动或跟踪虚拟可视区域/观察者窗口的装置。用于调制和操纵至少一个空间光调制装置中的入射光波以实现同步和有效的操作和交互的有源光学元件的控制也可以借助于处理装置或预处理电路来进行。
在本发明的另一个有利实施例中,可以在预处理电路的处理装置中使用由具有在运行时可切换的路径或在运行时可以切换一次的路径的永久逻辑和至少一个处理器组成的组合。预处理电路在其处理装置中使用由具有在运行时可切换的路径或在运行时可以切换一次的路径的永久逻辑和具有至少一个处理器核的至少一个嵌入式处理器组成的组合,其中有利地可以使用多个处理器或处理器核,所需程序和模块在多个处理器或处理器核上运行(其数量取决于任务、要计算的数据量和并行计算路径的数量),以便执行所有所需任务。没有程序或处理器或处理器核的处理装置的实施例也是可以想到和实现的。
预处理电路的另一功能是实现用于对计算出的全息图编码所针对的至少一个空间光调制装置以及当然源驱动器或通用组件和电路进行直接计时和控制的时序控制器,以便驱动至少一个空间光调制装置并将计算出的全息图的数据传送到至少一个空间光调制装置的像素或像素单元中。对于提供多个(即,至少两个)全息图计算电路的情况,全息图计算电路效仿预处理电路并且也被设计为独立的,这些全息图计算电路借助于预处理电路根据上述对至少一个空间光调制装置的控制而同步,以实现平滑操作。换言之,可以在预处理电路中提供用于生成控制信号和/或同步信号的时序控制器。
从现有技术中还已知,为了在编码步骤(编码)的情况下执行复数数据的归一化,通常需要对全息图进行缓冲,以便能够在至少一个空间光调制装置的具有有限分辨率的像素上显示数据。例如,位数被定义为每个(子)像素8位,然而,其中存在取决于应用的任意值。
全息图的归一化可以理解为最简单的方法,例如,确定全息图中所有复数的最大绝对值,即最大量级或幅度。然后,该量级用于将全息图中的所有值缩放到可用值范围(对应于位数)。然而,其他归一化方法也是可行的,例如,基于直方图的全息图归一化。
根据现有技术的全息图的典型归一化需要完整的数据集,使得完整的全息图可以以全值分辨率执行,通常通过具有非常高的位分辨率(例如≥16位)的浮点或离散值执行,以便在可以对离散值执行归一化之前确定归一化参数,即,所使用的空间光调制装置的位数。因此,全息图要么必须缓冲在外部存储器中,要么缓冲在用于计算的电路中,例如在ASIC本身中。然而,具有相应大存储容量的ASIC的尺寸(芯片尺寸)将非常大,并且生产成本非常高。相比之下,使用外部存储器意味着更高的功耗和更高数量级的复杂性。合适的外部存储器在成本和功耗方面非常昂贵,这是因为额外的高速数据线数量多,高性能存储器电路成本高,并且需要相应的使用许可证。所有这些因素使得这种电路或ASIC不盈利或效率低下,并且几乎不可能成为空间光调制装置的竞争产品。因此,这两种可能性都不能提供有利可图的解决方案。
因此,在本发明的一个特别有利的实施例中,处理装置可以被设计为执行要显示的场景的数据的分析,以便实现或执行全息图的归一化或全息图归一化。
为了在全息图计算、编码的最后步骤中实现全息图的归一化或全息图归一化,根据本发明,预处理电路的处理装置对要显示的优选三维场景的数据进行特殊分析,以便实现近似正确的全息图归一化。以这种方式,可以避免整个全息图的缓冲,从而后续的全息图计算电路不需要缓冲存储器。原则上不需要全息图数据的绝对精确的归一化,因为一般来说,小的偏差只会导致全息图或显示的优选三维场景的亮度的几乎不可察觉的变化。因此,在全息图计算电路中避免缓冲存储器显著地或成数量级地降低了全息图计算电路的复杂性和功耗。
此外,有利地,预处理电路的特征在于,通过计算路径的可变激活,对于至少一个空间光调制装置的各种变量和/或全息图分辨率和/或场景分辨率和/或者至少一个空间光调制装置的参数具有可扩展性(scalability)。
此外,根据本发明,还通过具有根据权利要求13的特征的设备实现了本发明的目的。
根据本发明,提出了一种用于计算通过全息显示设备显示场景的全息图的设备,该全息显示设备包括至少一个空间光调制装置。根据本发明的用于计算全息图的设备包括根据本发明的上述预处理电路和至少一个全息图计算电路,至少一个全息图计算电路用于计算全息图并且针对至少一个空间光调制装置编码全息图。
因此,该设备包括根据本发明的预处理电路(其在上文中详细解释)和至少一个(优选至少两个)全息图计算电路,使得计算全息图所需的各个功能被划分到多个设备上,即,多个独立或分开的电路。因此,至少一个全息图计算电路可以被实现为独立的电路,或者至少一个全息图计算电路可以独立于预处理电路来实现。
与现有技术的1-芯片方法或单个电路相比,根据本发明的所述架构的实现方式解决了以下技术障碍。预处理电路以及至少一个全息图计算电路可以被重新用作空间光调制装置的各种产品的组件。以ASIC形式实现的电路通常开发成本较高,但在大规模生产时生产成本相对较低。因此,根据本发明的这种电路的可重用性增加了件数,从而降低了生产成本。此外,根据本发明的全息图计算电路的设计可以有利地借助于根据本发明提供的预处理电路来销售。这一事实反过来也允许生产商对空间光调制装置的接口进行特定调整,并选择合适的独立制造技术。由于提供了至少两个电路,即预处理电路和至少一个全息图计算电路,每个单独的电路可以在其芯片尺寸上进行优化。这意味着每个芯片或每个电路仅实现必要的功能,从而不提供较大的死区(未占用)或关闭区域。与根据图1的现有技术的1-芯片形式的电路相比,具有重要且决定性的优点,例如,即,在空间光调制装置以及因此全息显示设备的操作中的功耗和产热的优化,以及由于所提供的可扩展性由于全息图计算电路可用于空间光调制装置的不同变型而产生的空间需求或集成密度和生产成本。换句话说,可以为至少一个空间光调制装置的不同实施例或设计提供至少一个全息图计算电路。
与预处理电路类似,至少一个全息图计算电路也可以被实现为现场可编程门阵列(FPGA)或专用集成电路(ASIC)。
根据本发明,至少一个全息图计算电路可以包括用于接收由预处理电路处理的数据的输入接口装置、用于计算和编码全息图的全息图计算装置以及用于将计算出的全息图的数据传送到至少一个空间光调制装置的输出接口装置。
至少一个全息图计算电路的输入接口装置由此接收在预处理电路中处理或预处理的以与系统无关的格式或以可由全息图计算电路处理的通用格式的数据。换言之,由预处理电路处理的场景的数据的供应以与系统无关的格式提供给至少一个全息图计算电路。为此,至少一个全息图计算电路可以有利地设计为可以直接使用以与系统无关的格式提供的场景数据并且可以计算全息图。然而,特殊情况也是可能的,场景的输入数据不是以与系统无关的格式提供的,因此还必须在至少一个全息图计算电路中进行预处理。然而,类似于由预处理电路实现的复杂预处理不会发生。
然后,至少一个全息图计算电路的全息图计算装置根据这些传送过来的数据计算全息图,并针对空间光调制装置编码全息图。此外,至少一个全息图计算电路还具有输出接口装置,该输出接口装置将计算出的全息图的数据传送到空间光调制装置。
至少一个全息图计算电路可以以高度集成的方式设计为至少一个空间光调制装置的一部分。为此,至少一个全息图计算电路可以设置或布置在所谓的源驱动器附近。当前的发展也奠定了这样的基础,即根据本发明的这种全息图计算电路和预处理电路可以直接应用于至少一个空间光调制装置的基板(玻璃上的芯片)。换言之,至少一个全息图计算电路可以被设计为至少一个空间光调制装置的一部分,或者可以直接在至少一个空间光调制装置的基板上实施。
此外,优选地,提供至少两个全息图计算电路,它们彼此串联和/或并联连接。
特别有利的是,提供多个全息图计算电路,例如实现为ASIC。这至少两个全息图计算电路可以被布置为例如接近空间光调制装置的连接部或源驱动器。为此,全息图计算电路可以彼此串联连接,并且可以布置在空间光调制装置的侧表面区域中。还可以将全息图计算电路彼此并联连接和布置。此外,由全息图计算电路的串联电路和并联电路组成的组合也可以是有利的,特别是在提供了大量的全息图计算电路的情况下。另外,划分为多个全息图计算电路还具有显著的优点,可以通过多个小点(热点)而不是如现有技术中的电路那样通过一个大点来均匀地耗散废热。要使用的全息图计算电路的数量由空间光调制装置所需的计算能力和所需的带宽产生。这两者通常也随着空间光调制装置的尺寸而变化,这意味着空间光调制装置的面积越大,全息图计算电路的数量应该越大。全息图计算电路接近空间光调制装置的边缘或空间光调制装置的源驱动器使得能够实现短数据线,这相应有利地减少了在非常高的数据速率下的功耗。
这里可以灵活地设计全息图计算电路或每个全息图计算电路到空间光调制装置的接口或输出接口装置,并且因此可以实现数据速率、传送线的数量和要使用的协议的适配。为此,在空间光调制装置的生产中,可以在全息图计算电路上永久地激活或配置相应的数据路径。一方面,这可以在全息图计算电路初始化期间的运行时间发生,或者也可以通过全息图计算中的配置桥(反熔丝)永久设置。
可以有利地提供外部数据接口装置,用于向预处理电路加密地提供数据和程序。该外部数据接口装置可用于将预处理电路使用的数据和在预处理电路上执行的程序以加密形式提供给预处理电路。
为此,提供给预处理电路的加密数据和程序可以以加密形式存储在非易失性存储器上。在这种情况下,非易失性存储器可以设置在外部或内部,即预处理电路的外部或内部。通过这种方式可以避免有害的访问。
根据本发明,特别有利地,在预处理电路和至少一个全息图计算电路之间可以实现相互认证或真实性检查。这是在真实性检查方面的措施,以防止未经授权复制预处理电路或至少一个全息图计算电路。
这具有的优点是,根据本发明的由预处理电路和至少一个全息图计算电路构成的设备或者独立或分开的电路(预处理电路以及全息图计算电路)在每种情况下都可以作为独立的产品销售。为此,电路的设计,即“源代码”或RTL设计,可以作为加密IP核心提供。因此,该IP核心只能由用于FPGA或ASIC设计的EDA工具(电子设计自动化)读取和处理。
预处理电路执行特殊任务,其中隐藏并实现了关于校准空间光调制装置、校正全息图以及适配/利用优选三维场景的大量知识。空间光调制装置或全息显示设备的每个产品需要至少一个用于激活至少一个全息图计算电路的预处理电路。通过诸如预处理电路中受保护的非外部可读数据区域(EEPROM,外部可写,仅内部可读)之类的措施,可以使用加密技术来实现用于预处理电路和至少一个全息图计算电路之间的真实性检查的相互认证,并加密传送信道。私钥可以基于通用或先前已知的加密方法(例如TLS或SSL)存储在预处理电路的受保护区域中,私钥是解密空间光调制装置的参数和外部或内部非易失性存储器上的程序所需的。预处理电路和至少一个全息图计算电路因此也可以相互认证,以便在每种情况下检查和证明它们的真实性。例如,如果该检查失败,则相应的电路、预处理电路和/或全息图计算电路可以被置于特殊的无效模式。其效果可以是多方面的,例如,在空间光调制装置或全息显示设备上叠加相应的信息项、停止全息显示设备的操作、以显示的优选三维场景的显著降低的质量操作或类似措施操作。
此外,根据本发明的设备可以特别有利地具有以下特征:通过计算路径的可变激活,预处理电路和/或至少一个全息图计算电路对于至少一个空间光调制装置的各种变量和/或全息图分辨率和/或场景分辨率和/或者至少一个空间光调制装置的参数具有可扩展性。
全息图计算电路因此可以与空间光调制装置结合以多种方式使用或利用。如果满足例如关于至少相似像素间距的纵横比的特定要求,则同一个全息图计算电路也可以用于空间光调制装置的各种产品中,因此可以避免用于计算空间光调制装置的每个产品的全息图的电路的昂贵开发和生产。与尺寸较大的一个电路(例如ASIC)相比,形状较小的电路(如ASIC)还具有在生产中可实现更高产量的优点。此外,开发和验证也不那么复杂。还可以通过使用较小的工艺结构来减少电流消耗。在要提供高件数的全息图计算电路的情况下,这是值得的,这通过概括和划分为多个或至少两个全息图计算电路来辅助。原则上,提供至少两个全息图计算电路也能够销售全息图计算线路的设计。
根据本发明,通过具有根据权利要求25的特征的全息显示设备进一步实现了本发明的目的。
根据本发明的全息显示设备包括以下特征:
-根据本发明的上述预处理电路,
-用于计算全息图的根据本发明的至少一个上述全息图计算电路,以及
-对计算出的全息图进行编码所针对的至少一个空间光调制装置。
与现有技术的全息显示设备相比,根据本发明的这种全息显示设备具有显著更低的功耗、在显示设备的操作中更低的发热、更低的生产成本和用于计算全息图的优化电路。此外,关于显示设备的各个组件(特别是关于预处理电路和全息图计算电路)所描述的优点也适用于此。
使用至少一个全息图计算电路计算出的全息图的数据可以经由至少一个源驱动器传送到至少一个空间光调制装置。换言之,可以提供至少一个源驱动器,使用该源驱动器,可以将使用至少一个全息图计算电路计算出的全息图的数据传送到至少一个空间光调制装置。
此外,根据本发明的全息显示设备可以包括至少一个照明装置和光学系统,该照明装置包括至少一个光源,通过该光学系统结合至少一个空间光调制装置可以重建场景。
此外,本发明的发明目的还通过具有根据权利要求28的特征的用于实时计算全息图的流水线来实现。
根据本发明的用于实时计算全息图的流水线包括根据本发明的用于预处理场景数据并且直接激活至少一个空间光调制装置的组件的上述预处理电路以及根据本发明的用于计算全息图的至少一个上述全息图计算电路,其中预处理电路和至少一个全息图计算电路各自基于现场可编程门阵列(FPGA)和/或专用集成电路(ASIC)来实现。
在空间光调制装置上显示的全息图使用电路的计算和输出,特别是基于所描述的设备和下文将描述的方法,下文以借助于子全息图基于硬件实时计算全息图和直接激活至少一个空间光调制装置的流水线的形式描述。根据本发明的这种流水线的区别在于,它包括预处理电路和至少一个全息图计算电路,预处理电路和至少一个全息图计算电路都形成独立或分开的电路。
因此,根据本发明的用于实时计算全息图的流水线包括用于预处理优选三维场景的数据并且直接激活至少一个空间光调制装置的预处理电路和用于计算全息图的至少一个全息图计算电路。此外,根据本发明的用于实时计算全息图的流水线的特征在于,预处理电路和至少一个全息图计算电路基于现场可编程门阵列(FPGA)和/或专用集成电路(ASIC)来实现。
特别地,这样的流水线可以包括根据本发明的用于计算全息图(特别是子全息图)、用于显示优选三维场景或由对象点构建的场景的设备。
特别有利地,预处理电路和至少一个全息图计算电路在运行时是可配置的。
实现为现场可编程门阵列(FPGA)和/或专用集成电路(ASIC)的预处理电路和至少一个全息图计算电路可以是后续可配置的,即,也可以在运行期间仍然是可配置的。
根据本发明的流水线的预处理电路和至少一个全息图计算电路彼此电互连,其中预处理电路实现以下基本功能:
-经由输入接口装置接收描述要重建和显示的场景的数据(例如对象点),
-通过处理装置对接收到的要显示的场景的数据进行预处理,特别是进行定义的处理并且将数据转换成包括显示场景所需的特定参数的与系统无关的格式,以及
-经由输出接口装置将经过预处理并且经过转换的数据输出和传送到至少一个全息图计算电路,
其中全息图计算电路实现以下基本功能:
-经由输入接口装置接收由预处理电路预处理的数据,
-通过全息图计算装置计算和编码全息图,以及
-经由输出接口装置将计算出的全息图的数据传送到至少一个空间光调制装置。
预处理电路和至少一个全息图计算电路集成在整体电路中,但在运行时是可配置的,即,它们不分配给特定的空间光调制装置。换言之,预处理电路和全息图计算电路不旨在用于特定类型的空间光调制装置,或者不是专门为定义的类型而研发,而是可以在启动时通过相应的配置来适应其环境(空间光调制装置的类型等)。如有必要,它们可以随后重新配置。这使得这样的流水线能够被设计成可以实时计算和输出一维和二维全息图,并且可以支持各种编码类型和输出模式。
总体而言,预处理电路和至少一个全息图计算电路是独立的或分开的电路,它们以这样的方式彼此连接,即使得至少一个全息图计算电路可以通过预处理电路激活,但是预处理电路和至少一个全息图计算电路没有被分配给特定的空间光调制装置和/或全息显示设备。
此外,根据本发明的流水线可以通过数据处理中的高并行性来确保在低时钟频率下的高计算能力。这对于最小功耗而言尤其重要。
通过计算路径的可变激活,流水线对于至少一个空间光调制装置的各种尺寸和/或全息图分辨率和/或场景分辨率和/或至少一个空间光调制装置的参数的可扩展性也被视为优点。流水线相应地包含可停用且也可再次激活的计算路径。
因此,与根据本发明的全息图计算的通用实现方式相结合的另一个重要方面是可扩展性。全息图计算电路因此可以与至少一个空间光调制装置结合多次使用或利用。如果满足某些条件,例如,关于至少相似像素间距的纵横比,同一个全息图计算电路也可以用于空间光调制装置的各种产品中。生产ASIC形式的先前已知电路的巨大成本因素可能对这一目的起决定性作用。如果相同类型的电路因此可以在一个产品或多个产品中多次使用,则可以避免用于计算空间光调制装置的每个产品的全息图的电路的昂贵开发和生产。与尺寸大的电路(例如ASIC)相比,形状小的电路(如ASIC)另外具有在生产中可以实现更高产量的优点。此外,开发和验证也不那么复杂。
为了降低根据本发明的全息图计算电路的功耗和件数的成本,可以寻求更小的工艺结构。在计划了大件数全息图计算电路的情况下,这是值得的,这是通过将其概括并划分为多个或至少两个全息图计算电路来辅助的。
原则上,提供至少一个全息图计算电路也能够销售全息图计算电路的设计。这使得例如空间光调制装置的生产者能够适配他们自己的工艺和接口,并使用他们自己的或适合他们的生产方法。
特别地,全息图计算电路的功能将结合US 2016/0132021A1和下文所述的全息图归一化方法来查看,上述文件的内容在此被整体并入本文,并且如本文开头简要描述的其所公开的用于计算全息图的方法可以通过根据本发明的全息图计算电路来实现。
此外,本发明的发明目的还通过具有根据权利要求34的特征的用于计算全息图的方法来实现。
根据本发明的方法被提供用于计算通过全息显示设备显示场景的全息图,该全息显示设备包括至少一个空间光调制装置,其中通过预处理电路和至少一个全息图计算电路来执行全息图的计算。
根据本发明的方法使用两个(或更多个)独立或分开的电路(预处理电路和至少一个全息图计算电路)来计算要显示的优选三维场景的全息图。
这里有利地,预处理电路处理数据,处理数据在用于计算全息图的预处理中仅需要一次,并且至少一个全息图计算电路根据由预处理电路提供的数据计算为至少一个空间光调制装置编码而提供的全息图,并将其输出到至少一个空间光调制装置。
因此,在计算全息图的预处理中仅使用或需要一次的功能仅实现一次。因此,该功能在单独的预处理电路中实现。预处理电路主要仅执行简单的图像处理,例如,改变和改进数据、将数据适配到全息显示设备的光学系统、校正像差等,如上所述,因此与执行所需全息图的实际计算的至少一个全息图计算电路的计算能力相比需要低的计算能力。
在本发明的一个实施例中,预处理电路的输入接口装置可以以加密格式接收要显示的场景的数据(例如在权限管理的情况下),解密这些数据,并将它们传送到预处理电路中的预处理装置。
因此,预处理电路经由输入接口装置接收要显示的优选三维场景的数据(例如场景的对象点的数据),并解密这些加密数据。输入接口装置可以是标准接口,例如显示端口、HDMI、一个或多个网络接口或具有所需带宽的任何其他接口。场景的数据可以以各种格式提供,例如,作为三维点云、作为三维体积,或作为来自一个或多个平面的一个或多个视图的扫描图像或二维(2D)矩阵的汇编,即,由颜色和深度特征组成的图像,可能在多个平面中,以实现全息图中的透明度或体积是可行的。任何其他格式也是可行的,特别是经典的二维格式或立体格式,然后可以由预处理电路相应地转换成三维格式。然而,场景的数据的分辨率是灵活的,其中空间光调制装置或全息显示设备的实现的产品也可以实现用于再现优选三维场景的内容的特定最大分辨率。
根据本发明,然后可以借助于预处理电路的预处理装置根据要显示的场景对传送过来的数据进行预处理,并且可以在考虑至少一个空间光调制装置的特定参数的情况下将经过预处理的数据转换成与系统无关的格式。
预处理装置根据定义的参数和规范对传送过来的数据进行预处理并且随后将这些要显示的场景的经过预处理以计算全息图的数据在应用至少一个空间光调制装置的特定参数的情况下转换成可由至少一个后续全息图计算电路处理的通用格式。这些特定参数例如可以是关于波长、关于空间光调制装置的扫描、关于场景或全息图的分辨率、关于例如观察者与空间光调制装置之间的距离、校正表和校正参数的信息项,以便执行例如失真或波长相关像差、界面信息项、界面配置和界面参数的某些校正。
预处理电路的预处理装置可以执行各种预处理动作。这些可以包括例如场景的所显示的对象点的颜色校正和位置校正。也可以在数据中执行预处理动作,例如,以校正全息显示设备中提供的光学系统的各种效应。还可以通过预处理装置在数据中对每个波长(颜色)进行不同的校正,以便在必要时对光学系统中的波长相关效应进行不同的补偿。因此,总体来说,要显示的场景的像差可以由预处理装置校正,通过预处理装置生成像差校正数据。
此外,要显示的场景的观察者的眼睛的视觉缺陷可以借助于预处理装置通过场景的虚拟移动、旋转和/或变形来校正。
还可以借助于预处理装置在预处理电路中对所显示场景的观察者的视觉缺陷进行后续校正。为此,数据在预处理装置中以这样的方式处理,即对场景的对象点在每个维度上进行单独地移动、旋转和/或变形。
特别有利的是:要显示的场景的分辨率、细节程度和/或全息质量通过预处理装置在考虑观察者的眼睛的观看方向的情况下进行调整,使得通过至少一个全息图计算电路的全息图计算装置计算出的显示的场景在其边缘区域中具有降低的分辨率、降低的细节程度和/或将降低的全息质量。
在以下情况下该过程是特别有利的:在应用眼睛跟踪数据的情况下(即,在实时跟踪观察者的至少一只眼睛的观看方向的情况下)实现所谓的注视点渲染。在这种情况下,基于观察者眼睛的当前和/或预测的观看方向来调整要显示的优选三维场景的分辨率、细节程度和/或全息质量。场景的分辨率、细节程度和/或全息质量可以在眼睛中央凹的边缘区域或显示场景的边缘区域中降低,由此可以影响并因此降低用于计算场景的全息图的至少一个全息图计算电路中的功耗。为此目的计算用户眼睛的观看方向。由于在由全息图的预计算、计算和输出组成的系统中,在全息图的计算开始和全息图在至少一个空间光调制装置上的随后显示之间存在延迟,因此可以根据延迟时间来预测或估计场景的观察者的眼睛的观看方向移动。
此外,在本发明的另一个有利实施例中,将要显示的场景的遮挡数据传送到预处理电路,预处理电路从传送的遮挡数据中提取用于生成场景的对象点的所需信息。
预处理装置或总体上看预处理电路的其他功能是控制至少一个空间光调制装置和/或全息显示设备的其他组件,总体上与计算出的全息图在至少一个空间光调制装置上的输出同步。换言之,用于显示场景的全息显示设备的可控组件可以通过预处理电路来激活,其中组件的控制与计算出的全息图在至少一个空间光调制装置上的输出同步地进行。
除其他外,这些包括照明装置的激活,特别是至少一个光源或背光的激活,如上所述的眼睛跟踪数据的处理,以及将这些数据提供给相关组件,用于至少一个可视范围/观察者窗口的光偏转或跟踪的组件的激活,用于调制和操纵空间光调制装置中的光波的有源光学元件的控制。
此外,预处理电路还可以执行以下功能。例如,预处理电路可以执行场景的二维(2D)数据到场景的三维(3D)数据的转换,即所谓的2D/3D转换。从三维场景的多个视图生成深度数据也是可行的。此外,如上所述,可以生成额外的三维数据以填充由于全息视差而导致的场景中的阴影,即,生成遮挡数据。这种生成尤其可以在三维场景的点云类型数据的帮助下进行,或者在提供了具有/不具有透明度的多个图像平面的情况下进行。
预处理电路的另一任务是将要显示的优选三维场景的要计算的数据分配给一个或多个全息图计算电路。这通过数据接口装置进行。为此,使用预处理电路的预处理装置生成的数据可以在考虑至少一个空间光调制装置的特定参数的情况下被转换成与系统无关的格式,并且经由预处理电路的输出接口装置传送到至少一个全息图计算电路以计算要显示的场景的全息图。
至少一个空间光调制装置的特定参数、数据和用于预处理要显示的接收到的场景的程序可以以加密形式传送到预处理电路,其中这些数据、参数和程序可以预先加密存储在非易失性存储器上。非易失性存储器可以在外部或内部提供,即在预处理电路的外部或内部提供。这样,从外部进行外部或未经授权的访问是不可能的,或者变得更加困难。
可以在预处理电路中提供或使用时序控制器,以生成定义的信号。至少一个光调制装置以及为此目的提供的用于驱动至少一个空间光调制装置的至少一个源驱动器因此可以经由预处理电路的时序控制器来计时和控制。此外,时序控制器还被设计成激活其他组件和电路。还可以使用时序控制器将要显示的优选三维场景的计算出的数据传送到空间光调制装置的像素或像素单元中。在提供多个全息图计算电路的情况下,全息图计算电路可以借助于时序控制器根据空间光调制装置的这种控制而同步,以实现平滑和高效的操作。
在本发明的一个特别有利的实施例中,可以对要显示的场景的数据进行至少一个分析,即一个或多个分析,以在预处理电路内进行全息图归一化。
预处理电路被有利地设计成使得可以借助于预处理电路、优选地在全息图计算电路中执行全息图归一化。以这种方式,在通过执行计算的电路(即,全息图计算电路)来计算全息图的步骤中,不执行全息图的归一化,而是可以通过不负责直接计算全息图的单独的电路(这里是预处理电路)来执行全息图的归一化。这具有巨大的优点,即用于计算全息图的电路,这里是根据本发明的全息图计算电路,不再需要大的存储器容量来缓冲全息图的完整数据集。这是因为根据本发明可以在没有缓冲或没有缓冲存储器的情况下进行全息图的归一化。
与至少一个全息图计算电路分开形成的预处理电路基于要显示的优选三维场景的数据执行特殊的和定义的分析,以在全息图计算电路内在全息图计算的最后步骤(编码)实现全息图归一化,以便实现近似正确的全息图归一化。为此,至少一个全息图计算电路因此不需要缓冲存储器,从而可以更便宜地制造该电路并且其尺寸更小,这使得能够更经济地制造。
用于全息图归一化的全息图归一化参数的确定在这里可以有利地通过对传送到预处理电路的输入接口装置的数据的分析来执行。为此,执行以下步骤:
-分析场景的对象点的深度分布以及它们在观察区域中的横向分布,
-结合观察区域中对象点的相应深度来分析对象点的亮度分布,以及
-确定对象点的总数。
因此,全息图归一化基于对进入预处理电路的数据流的分析,其中观察和评估观察区域中对象点的分布、观察区域中对象点的亮度分布以及对象点的总数的特征,以确定场景的填充程度。这些信息项可以通过统计方法分析并存储在例如直方图中,以便能够以有效的方式读取相关参数以进行归一化。可以另外确定关于优选三维场景的结构、分布和设计的进一步统计数据。
通过分析逐帧显示的场景的变化,可以由预处理电路中的分析模块估计全息图归一化参数,并将其传送到至少一个全息图计算电路中的编码模块,该编码模块将这些估计的全息图归一化参数应用于计算出的通过的全息图数据以进行归一化。
这意味着可以通过分析优选三维场景从一帧到另一帧的变化来估计预期的全息图归一化参数的变化。该估计被传送到至少一个全息图计算电路中的编码模块,该编码模块将估计的归一化参数应用到通过的全息图数据。根据本发明,全息图因此不像现有技术中那样被缓冲,而是在其通过时直接被进一步处理。同时,编码模块基于优选三维场景的通过的数据确定全息图归一化参数的实际正确值,并在帧结束时将该值返回到预处理电路中的分析模块。换句话说,通过用于全息图编码的通过的计算出的数据,可以由编码模块确定全息图归一化参数的正确值,并将其传送回预处理电路中的分析模块。该分析模块使用上一帧的该正确测量值进行误差评估和动态调整,即所谓的微调,以改进下一帧的全息图归一化参数的更新估计。
总之,可以指出,通过分析当前(优选三维)场景的变化以及使用场景的上一帧的已知正确的全息图归一化参数来执行场景的当前帧的新全息图归一化参数的估计。
例如,总体上可以定义以下关系或规则来估计全息图的归一化参数:
·如果三维场景从一帧到另一帧的平均亮度变亮或变暗,则全息图中的最大量级必须增大或减小,因为全息图中平均量级增大或减小。
·然而,对于上述关系,还必须另外考虑场景的亮度动态。例如,为了能够适当地在黑暗中再现黑暗场景,全息图中的最大量级必须相应地被定义并设置得较高。这意味着在选择全息图中的最大量级时必须考虑场景亮度与最大亮度的比率,并且应该近似为全息图的最大量级与设置的最大量级的比率。
·相反,如果优选的三维场景变得更深(更扩展)或被压缩,即,如果三维场景的对象点改变了它们与观察者的距离,则全息图的最大量级应该或必须相应地增加或减小。
这些用于控制归一化的规则或算法仅形成一个示例。因此,任意变体及其组合是可行的并且可以根据计算出的并且经过归一化的全息图编码所针对的至少一个空间光调制装置的类型和性能来定义。
应用机器学习或人工智能(AI)的方法代替永久定义的规则也是一个优选实施例,因为在各种优选三维参考场景的训练步骤的范围内,指定并训练期望的行为,从而在新的未知三维场景中应用AI的阶段,通过AI为全息图的归一化确定良好的估计值。在本发明的这个实施例中,在没有拟定特定规则的情况下,基于训练的AI模型执行估计。
在将估计的全息图归一化参数应用于全息图之后,借助于所确定的实际全息图归一化参数,在当前帧结束时执行对该估计有多好的比较。因此,在每一帧结束时,即在当前计算的全息图完全通过之后,将估计的全息图归一化参数和全息图归一化参数的正确值彼此比较。因此,在优选三维场景的再现和显示中由此产生的可能的亮度偏差仍然可以通过空间光调制装置上的照明装置或光源的曝光时间的轻微变化来补偿,因为用于要显示的优选三维场景的数据直到这一点为止仅被记录在空间光调制装置中,但是为空间光调制装置编码的全息图的曝光之后才开始,以便重建场景。对于全息图归一化参数的绝对不正确估计的情况,照明装置的光源,例如激光器,甚至可以暂时不首先打开,以避免优选三维场景的不正确显示。然后跳过这个不正确的帧,这对观察者来说看起来像一个黑屏。由于现在已知正确的全息图归一化参数,对全息图归一化参数的后续估计将再次接近正确。这种情况通常仅在接收到的、优选三维场景中发生非常突然的场景变化的情况下发生。由于空间光调制装置的高帧速率,省略或不显示帧(导致黑帧)将很难被重建场景的观察者觉察到。在观察者的感知中,黑帧至少比不正确的归一化全息图(最坏的情况下,看起来像闪光灯)更不易察觉或者干扰更小。
如从US 2016/0132021A1中已知的并且也在上文中描述的,要重建的场景的对象点每个都在空间光调制装置上以子全息图编码,并且叠加以形成整体全息图。为了简化子全息图的编码,可以使用根据本发明的简化场景点描述或对象点描述。以下使用“简化对象点描述”。在根据本发明的预处理电路中执行根据本发明的简化对象点描述。换言之,根据本发明的预处理电路被设计为执行或实施简化对象点描述。为了根据本发明的这种简化对象点描述,对整体全息图的子全息图的相位分布进行以下计算。这可以以近似形式进行,如果这看起来有利的话。
首先,根据对象点距空间光调制装置的距离来计算焦距f,对象点将在该距离上被编码为子全息图:
其中z是对象点到空间光调制装置的距离,其中对象点在空间光调制装置和观察者之间时,z是正值,并且d是观察者到空间光调制装置的距离。
然后,子全息图的每个像素的相位如下计算:
其中,λ是所使用的光的波长,rxy是从子全息图的中心到各个复杂子全息图像素的半径,Φ0是对象点的相位偏移,f是上述计算的焦距。
由此,可以使用焦距f代替观察者到空间光调制装置和到对象点或场景点的实际距离来描述相位分布。此外,通过这种描述,场景深度范围上的非线性消失。这是因为,从观察者的角度看,在空间光调制装置后面很远的区域中,对象点偏移对子全息图中的相位分布的影响在深度上非常小,而相反,对象点移动对空间光调制装置前面区域中的子全息图的相位分布影响很大。因此,与对象点的位置描述相比,焦距允许更有效地转换成数字形式。
这里假设空间光调制装置中的复杂全息图像素的规则等距二维结构。在全息图像素的这种结构中,在空间光调制装置的像素px和py的距离中计算像素的离散值。如果这些变量现在被归一化,例如,这里可以使用水平像素间距px(缩写为p),则使用归一化半径Rxy、归一化焦距F和归一化波长L使用以下公式计算像素的相位:
归一化半径Rxy是无量纲的,始终具有正值,并且随子全息图的面积而变化。其值可以永久分配给子全息图生成中的离散子全息图像素。这也可以以永久的方式结合在至少一个全息图计算电路的相应实现中,由此能够降低至少一个全息图计算电路的复杂度,并且可以利用诸如精确波长或精确像素间距之类的变化的单独参数来增加可重用性。
例如,如果尽管像素间距p变化,但像素几何形状的纵横比在两个全息显示设备之间是相同的,使得对于离散的子全息图像素,归一化半径Rxy是恒定的,则这将不会影响至少一个全息图计算电路的重要部件。可以利用这样的简化,使得至少一个全息图计算电路支持多个全息显示设备,同时具有高的技术和经济效率。
在变换归一化焦距时,使用实际像素间距作为归一化参数px并不是绝对必要的。如果不使用该值,则优点仍然导致预处理电路和至少一个全息图计算电路之间的更有效的传送。相反,如果实际像素间距用作归一化参数,或者在子全息图编码到实际像素间距之前在至少一个全息图计算电路中对其进行校正,因此,可以永久地将至少一个全息图计算电路的电路部件分配给归一化半径Rxy并且至少一个全息图计算电路将支持多个全息显示设备,而不管这种永久分配。
通过这种方式,保留了三个参数,它们描述了对象点的子全息图像素的相位值,与空间光调制装置的性能无关。以下三个参数决定了子全息图的相位值:
-归一化焦距F,
-归一化波长L,以及
-对象点的相位偏移Φ0。
指定为值F的归一化焦距是无量纲的,但有符号。根据观察者观察到的对象点是在空间光调制装置之前还是之后生成或重建,值F具有正号或负号。对象点的生成可以与凸形或凹形成像系统对平行光束的成像进行比较。子全息图形成这样的透镜或光学元件。归一化焦距F改变可以重建和观察优选的三维场景的观察区域中对象点的深度平面。然而,避免了奇点F=0。
指定为值L的归一化波长也是无量纲的,但总是正的,并且仅在空间光调制装置的曝光改变的情况下变化。
对象点的相位偏移Φ0是一个自由参数,添加到子全息图的所有像素的相位。
从总体上看,在本发明的一个实施例中,因此可以将要显示的场景的对象点在每种情况下都编码在子全息图中,其中预处理电路对于对象点的子全息图的相位值的描述,确定以下参数并将其传送到至少一个全息图计算电路,用于计算场景的对象点的子全息图的相位:
-焦距或折射率,其根据观察区域中对象点的深度而变化,以及
-对象点的相位偏移。
用于描述对象点的子全息图的像素的相位值的焦距可以有利地定义为归一化焦距F=f/p或其倒数,其中f是对象点的焦距,p是常数,其优选地可以在至少一个空间光调制装置的像素间距处定义。
在实践中,用于计算对象点的子全息图的相位分布的计算公式可以近似(“菲涅耳近似”),以降低相位计算的复杂性。泰勒级数展开可用于此目的,其结果是在第一个元素之后终止:
值F'=F*L=F*λ/p2或
现在可以引入。
值F'在这里被指定为波长归一化焦距,因此是一个有符号的无量纲变量,和归一化焦距F一样。
用于以与系统无关的形式描述对象点的子全息图的像素的相位值的焦距可以有利地定义为波长归一化焦距F'=fλ/p2或其倒数,其中f是对象点的焦距,λ是光的波长,p是常数,其优选地可以在至少一个空间光调制装置的像素间距处定义。
对于使用近似计算的情况,除了相位偏移Φ0之外,波长归一化焦距F'现在允许完整描述对象点的子全息图的相位分布。
现在可以有利地借助于至少一个全息图计算电路使用以下公式计算三维场景的对象点的子全息图的相位:
其中Rxy是子全息图的每个像素从其中心到像素间距的半径,F'是对象点的波长归一化焦距,Φ0是对象点相位偏移。
波长归一化焦距F'现在是影响子全息图内相对相位分布的唯一参数。这允许至少一个全息图计算电路内的电路部件或计算装置的进一步永久互连,同时在各种全息显示设备中重复使用全息图计算电路。在这种情况下,参数(例如光的波长、对象点到观察者的距离或像素的大小)可能会变化,这只会改变波长归一化焦距F'的值,而不会改变至少一个全息图计算电路。
在变换波长归一化焦距时,使用实际像素间距作为归一化参数px不是绝对必要的。如果不使用该值,则仍会产生预处理电路和全息图计算电路之间更有效传送的优点。相反,如果实际像素间距用作归一化参数,或者如果在子全息图编码到实际像素间距之前在全息图计算电路中对其进行校正,全息图计算电路的电路部件对归一化半径Rxy的分配可以永久地进行,并且一个全息图计算电路将支持多个全息显示设备,尽管这是永久的分配。
因此,对于在其输入接口装置处场景的对象点的描述仅使用上述简化的参数(优选波长归一化焦距F')的至少一个全息图计算电路的实现方式包括独立于实际的特定参数而针对空间光调制装置实现的电子电路。因此,根据本发明的全息图计算电路可以在提供各种波长、各种距离范围和不同像素间距的情况下应用于各种类型的空间光调制装置。以此方式,全息图计算电路也可以用于各种全息显示设备。
因此,所使用的空间光调制装置的特定参数不仅必须为根据本发明的预处理电路所知或传送到预处理电路,预处理电路将要显示的优选三维场景的对象点转换成上述简化的独立的对象点描述(与系统无关的格式),并将其传送到至少一个全息图计算电路。换言之,借助于预处理电路,场景的对象点可以被生成为简化的对象点描述,被转换成与系统无关的格式,并且被传送到至少一个全息图计算电路,用于计算三维场景的对象点的子全息图的相位。
在预处理电路和至少一个全息图计算电路之间的接口上使用波长归一化焦距F'或归一化焦距允许比在对象点的位置描述的情况下更有效的数字数据传送,因为通过这种描述,非线性在场景的深度范围内消失。
当然,F和F'的值或数据也可以以数学推导的形式传送,例如,通过与常数相乘和/或变换成倒数(即,折射率而不是焦距),并以各种数字数据格式传送到至少一个全息图计算电路。
特别有利的是:距子全息图中心具有相等距离的场景的对象点的子全息图的像素的相位值使用永久地分配给该距离的至少一个全息图计算电路的电路部件来计算。以这种方式,可以简化至少一个全息图计算电路,这节省了生产和设计的成本以及其操作的能量。此外,同一个全息图计算电路因此可以以简单的方式用于各种全息显示设备。
现在存在有利地设计本发明的教导和/或将所描述的示例性实施例或设计彼此组合的各种可行性。为此,一方面参考依赖于其他独立权利要求的权利要求,另一方面参考以下基于附图对本发明的优选示例性实施例的解释,其中还解释了本发明的总体优选设计。这里原则上基于所描述的示例性实施例来解释本发明,但不限于此。
在附图中:
图1显示了根据现有技术用于计算全息图的设备的图形表示;
图2显示了根据本发明用于计算全息图的设备或流水线的图形表示;
图3显示了根据本发明用于归一化全息图数据的方法的图形表示;
图4示出了根据本发明用于将数据转换成与系统无关的格式的方法的图形表示;和
图5原则上显示了根据本发明用于重建优选三维场景的全息显示设备。
图2显示了根据本发明用于计算全息图的设备的图形表示。图2中的设备同时也代表了实时计算全息图的流水线。根据本发明的设备或流水线包括预处理电路60和至少一个全息图计算电路70。在根据图2所示的示例性实施例中,提供了多个全息图计算电路40,这里总共有四个,其中全息图计算电路70的数量可以取决于对全息图进行编码所针对的空间光调制装置80(以下称为SLM)的尺寸,这将在下文中详细讨论。原则上,也可以仅提供一个全息图计算电路70。预处理电路60和全息图计算电路70各自被实现为独立或分开的电路。因此,它们可以作为独立电路进行查看、生产和销售。然而,预处理电路60和全息图计算电路70可以永久地彼此连接,例如有线连接,并且以这种方式形成根据图2的用于计算全息图的设备。电路60和70都可以实现或体现为现场可编程门阵列(FPGA)或专用集成电路(ASIC)。在本示例性实施例中,电路60和70各自被实现为ASIC。
预处理电路60经由简单的用户定义的或客户特定的接口S连接到全息图计算电路70。为了生成和计算全息图,全息图随后传送到SLM 80并为其进行编码,预处理装置60包括输入接口装置61、处理装置62和输出接口装置63。输入接口装置61接收要在全息图中计算和编码的场景的对象点的数据64,其中这里假定三维场景。然而,也可以显示二维场景。为此,输入接口装置61可以具有标准接口,例如,一个或多个DisplayPort或HDMI接口、一个或多个网络接口、或者具有所需带宽的任何其他接口。为此,三维场景的数据64可以以各种格式提供。例如,它们可以被设计为三维点云、三维体积,或者也可以被设计为来自观察区域中的一个或多个平面(即,颜色表示和深度的图像,可能在用于实现全息图中的透明度或体积的多个平面中)的一个或多个视图的扫描图像或二维(2D)矩阵的汇编。任何其他格式也是可能的。然而,数据64的分辨率是灵活的,其中所提供的计算出的全息图随后编码所针对的SLM可以实现用于三维场景的再现和重建的特定最大分辨率。
预处理电路60使用的数据64和在预处理电路上执行的程序通过外部数据接口以加密形式提供给预处理电路50。此外,这些数据64和程序被加密存储在外部非易失性存储器65上。预处理电路60使用由具有可在运行时切换或切换一次的路径的永久逻辑和具有至少一个处理器核的至少一个嵌入式处理器组成的组合,其中也可以使用多个处理器或处理器核,一个或多个程序和模块在多个处理器或处理器核上运行以执行全息图预计算所需的所有任务。然而,不使用程序或处理器的实施例也是可行的。
此外,输入接口装置61根据处理装置62的要求对接收到的三维场景的数据64进行解密和处理,并将其作为数据64-1传递给处理装置62。然后,处理装置62根据要计算的全息图的限定的要求来处理这些数据64-1。这意味着处理装置62对传送到其的数据64-1执行各种预处理动作。这些可以包括例如要显示的三维场景中的像差的校正。处理装置62也可以被限定为使得可以通过该装置来校正全息显示设备中提供的光学系统对要显示的三维场景具有负面影响的效应。例如,可以借助于处理装置62来执行要显示的三维场景的对象点的颜色校正和/或位置校正,其中数据64-1以这样的方式被预处理,即该校正随后在场景的显示中发生。还可以设计数据64-1的预处理动作,以便对光的每个波长(颜色)进行不同的校正,然后使用光来照明SLM 80以重建三维场景,以便在必要时不同地补偿全息显示设备的光学系统中的波长相关效应。此外,处理装置62还可以执行预处理动作,以对要显示的场景的观察者的至少一只眼睛的视觉缺陷进行定义的校正。在这里,可以以三维场景的对象点在每个维度或方向上被单独地移动、旋转和/或变形的方式来执行对眼部视觉缺陷的这种后续校正。
使用眼睛跟踪数据,即,用于实时跟踪观察者的眼睛,例如找出观察者当前正朝哪个方向观看,或者观察者此时瞄准或观看三维场景的哪个部分,也可以实现所谓的注视点渲染,其中要显示的三维场景的分辨率是基于观察者眼睛的当前观看方向或预测的观看方向来调整的。为此,可以有利地在眼睛中央凹的边缘区域中降低场景的分辨率、细节程度和/或全息质量,由此显著降低在全息图计算电路中计算场景的功耗。因此,在观察者的视野的限定区域中,三维场景的分辨率、细节程度和/或全息质量可以相应地进行调整。这里有利的是降低三维场景的边缘区域中的分辨率、细节程度和/或全息质量。为此,计算观察者眼睛的观看方向。由于电路60和70在计算开始和随后在SLM 80上显示全息图之间的延迟,有必要根据延迟时间预测或估计未来观察者眼睛的观看方向移动。
此外,预处理电路60还承担SLM 80的其他组件的控制,其中控制通常与全息图在SLM 80上的输出同步进行。预处理电路60的处理装置62还可以承担或执行其他功能。这些可以包括例如将二维(2D)场景数据转换为三维(3D)场景数据,即所谓的2D/3D转换,从三维场景的多个视图生成深度数据,或者还生成用于填充由于全息视差而产生的阴影的附加三维数据(所谓的遮挡数据)。可以特别借助点云状三维场景数据来生成遮挡数据或者在提供具有/不具有透明度的多个图像平面的情况下生成遮挡数据。在这种情况下,场景的遮挡数据被传送到预处理电路60。然后,预处理电路60从这些数据中提取所需的信息,以便能够从传送的遮挡数据中生成场景的对象点。
在处理装置62已经相应地预处理或处理了数据64-1之后,这些现在经过预处理和可选地经过校正的三维场景的数据64-2随后被转换成可用于随后的全息图计算电路70处理的通用格式或转换成与系统无关的格式。为此,SLM 80的特定参数也被并入数据64-2的转换中。这些参数例如是关于入射到SLM 80上的光所使用的波长、SLM 80的扫描、SLM的分辨率的信息项、关于距离(例如观察者的眼睛与SLM 80之间的距离)、校正表和校正参数的信息项,以便执行特定的校正,例如,失真或波长相关像差、界面信息项、界面配置和界面参数的校正。
经过转换的数据64-2被传送到输出接口装置63,输出接口装置将这些用于计算全息图的经过预处理的数据64-2以低带宽传送到各个单独的全息图计算电路70。
如图2所示,这里使用了四个全息图计算电路70,它们效仿单独的预处理电路60。与预处理电路60一样,全息图计算电路70也各自被设计为独立或分开的电路,并且优选地在此被实现为ASIC。全息图计算电路70作为FPGA的实现方式也是可行的,并且取决于所使用的全息图计算电路的数量或要生产的设备的数量(件数)可以是更具成本效益的。如上所述,有利的是,不仅在数量上可以使用一个全息图计算电路70,而且使用限定数量的多个全息图计算电路70。要使用的全息图计算电路70的数量有利地取决于全息图所需的计算能力以及全息图向SLM 80传送所需的带宽。计算能力和带宽通常也随着SLM 80的大小或尺寸而改变。这意味着SLM 80的尺寸越大,使用更多数量的全息图计算电路70就越有利。此外,提供多个全息图计算电路70具有在全息图计算中经由多个小点(热点)更均匀地耗散所产生的废热的优点,在仅一个全息图计算电路70的情况下,在全息图计算中经由一个大点耗散所产生的废热。在图2中,每两个全息图计算电路70彼此并联连接,其中相应的两个全息图计算电路70相互串联连接或形成串联电路。当然,将全息图计算电路相对于彼此和SLM布置的其他可能性也是可行的。以此方式,每两个全息图计算电路70被布置在SLM 80的两个相对侧上,使得两个单独的线路或传送线S从预处理电路60连接到串联中首先提供的相应全息图计算电路70。串联中提供的第二全息图计算电路70在此通过相应的线路连接到第一全息图计算电路70,如图2所示。全息图计算电路70接近SLM 80的边缘或空间光调制装置的源驱动器81能够实现短数据线,这显著降低了在非常高的数据速率下的功耗。
全息图计算电路70因此可以位于SLM 80的连接部附近。还可以将全息图计算电路集成到SLM 80中作为其一部分。在这种情况下,它们可以设置在源驱动器附近。目前的发展还可以推动这种全息图计算电路或电路可以直接应用于SLM的基板(玻璃上的芯片)。
到SLM 80的接口在这里被灵活地设计,并且能够调整数据速率、传送线的数量和要使用的协议。为此,在结合全息图计算电路70生产SLM 80时,相应的数据路径可以被永久地激活或配置在全息图计算电路70上。一方面,这可以在全息图计算电路70初始化时的运行时间发生,或者可以通过配置桥(反熔丝)永久设置。
结合全息图计算的通用实现,特别要强调的一个方面是可扩展性。这种全息图计算电路70可以在根据图2的设备或流水线内多次使用,因此也可以在用于显示三维场景或对象的全息显示设备中多次使用。如果满足某些要求,例如,关于至少相似像素间距的纵横比,同一个全息图计算电路也可以用于根据图2的设备或全息显示设备的各种产品中。这对于ASIC或FPGA的生产成本来说尤其有利,因为它们可能是巨大的。因此,如果相同类型的ASIC或FPGA可以在设备中多次使用,这将节省根据本发明的全息图计算电路每个产品或设备的昂贵开发和生产。与尺寸较大的ASIC或FPGA相比,尺寸较小的ASIC或FPGA另外具有显著的优点,即可以在生产中实现更高的产量。因此,开发和测试更不复杂。
为了减少全息图计算电路的功耗和件数成本,可以寻求更小的工艺结构。如果还计划了大件数的全息图计算电路,这是值得的,这有助于推广和提供多个全息图计算电路。
原则上,提供独立的全息图计算电路和与直接全息图计算分开的独立或分开的预处理电路有利地实现了全息图计算电路设计和预处理电路设计的销售。这又使得例如SLM或全息显示设备的生产商能够调整他们自己的工艺和接口,并使用他们自己的或适合他们的生产方法。
借助于全息图计算电路70,在由预处理电路60传送三维场景的经过预处理的数据64-2之后,现在计算用于场景的所需全息图的数据,场景的所需全息图的数据由场景的对象点的经过计算和叠加的子全息图形成。在根据图2的每种情况下串联连接的第一全息图计算电路70仅从用于计算全息图的传送过来的数据中提取在每种情况中用于计算全息图的一部分所需的数据并且将剩余数据传送到串联中提供的第二全息图计算电路70,第二全息图计算电路70使用这些数据还计算整个全息图或全息图的一部分。数据流不改变地被引导通过全息图计算电路70,其中每个全息图计算电路70仅提取用于计算全息图其所需的数据。为此,根据图2中的放大图示的全息图计算电路70具有输入接口装置71、全息图计算装置72和输出接口装置73。输入接口装置71接收由预处理电路60预处理并以与系统无关的格式提供的三维场景的数据64-2,并将它们传送到全息图计算装置72以计算全息图。在全息图计算装置72中,全息图的计算、三维场景的对象点的单个子全息图的累加以形成场景的整体全息图,以及全息图的编码在此进行,如图2所示。然后将计算出的三维场景的全息图或计算出的待编码的全息图的数据传送到输出接口装置,输出接口装置然后将这些数据输出到源驱动器81。源驱动器81进而将编码的全息图的数据传送到SLM 80,然后在SLM 80中记录所需三维场景的计算和编码的全息图。
为此,可以在预处理电路60中实现时序控制器66(TCON)。该时序控制器66在此用于生成控制信号、同步信号和/或时钟信号,使得SLM 80和源驱动器71可以被直接计时和控制。此外,时序控制器66还可以激活通用组件和电路,以便驱动SLM 80并将数据传送到SLM80的像素或像素单元中。全息图计算电路70根据SLM 80的该控制而同步,以便实现SLM 70的平滑操作。
此外,预处理电路60承担SLM 80和全息显示设备的组件的总体控制,SLM 80具有这些组件,即,所有电子或可控组件,例如照明装置的至少一个光源或用于偏转光的装置。借助于预处理电路60,还可以控制用于调制和操纵SLM 80或全息显示设备中的入射光波的有源光学元件以实现同步和有效的操作和交互。
预处理电路60仅执行特殊任务,其中实现了与SLM 80的校准、全息图的校正和三维场景的适配/升级有关的许多功能。这是因为每个SLM产品或全息显示设备需要至少一个用于激活至少一个全息图计算电路70的预处理电路60。在预处理电路60中通过各种措施,例如外部可写但仅内部可读的受保护的非外部可读数据区(EEPROM),可以使用加密技术,例如TSL或SSL,以便实现全息图计算电路70和预处理电路60的相互认证,以便在这两个电路60和70之间进行真实性检查。为此,私钥可以存储在预处理电路60的受保护区域中,这是对外部(或内部)非易失性存储器65上的终端参数和程序进行解密所需的。预处理电路60和全息图计算电路70可以以这种方式相互认证,以各自证明其真实性。例如,如果该认证失败,则相应的电路、预处理电路60和/或全息图计算电路70可以被置于特殊的无效模式。这可能具有这样的效果,例如,在SLM 80中覆盖相应的信息项,停止SLM或全息显示设备的操作,或者也以显著降低的质量显示所显示的三维场景。然而,这些只是几个例子,当然,无效模式的其他可能性也是可行的。
图3显示了归一化全息图的方法序列。根据现有技术,全息图的缓冲对于在编码步骤的背景下执行三维场景的复数数据的归一化是必要的,以便能够在具有有限分辨率的SLM的像素上显示数据。为此,需要完整的数据集,即全值分辨率的完整全息图,以便在可以对离散值执行归一化之前确定全息图归一化参数。为此,全息图可以缓冲在外部存储器中或存储在电路本身中。然而,这些方法成本高且功耗高。
为了避免这些缺点,在根据本发明的方法中避免了缓冲存储器,使得全息图计算电路70的复杂性和功耗可以减少几个数量级。因此,根据图3的用于归一化全息图的根据本发明的方法在不缓冲完整数据集或完整全息图的情况下执行。
应用意义内的全息图归一化可以被视为最简单的方法,例如,定义全息图中所有复数的最大绝对值,即,例如,最大量级/幅度。其他归一化方法或其组合也是可能的,例如,基于直方图的归一化。
为了在全息图计算、编码的最后步骤中实现全息图归一化,预处理电路60基于三维场景的数据执行特殊分析,即,至少一个分析,以便实现近似正确的全息图归一化,而全息图计算电路70不需要缓冲存储器或外部存储器。然而,不需要全息图数据的绝对精确的归一化,因为小的偏差只会导致全息图的显示亮度几乎不可察觉的变化。归一化全息图的方法基于对输入数据流的分析。在该分析中观察到三维场景的以下描述特征。分析或评估三维场景的对象点的深度分布及其在观察区域中的横向分布。此外,结合观察区域中对象点的相应深度来分析或评估对象点的亮度分布。此外,确定三维场景的对象点的总数,以便确定观察区域中场景的填充程度。这些信息项都可以通过统计方法进行分析和研究。所分析的信息项可以例如存储在直方图中,以便能够读取用于有效地归一化全息图的相关参数。当然,可以分析三维场景的进一步统计数据。
由于分析了三维场景从一帧到另一帧的变化,可以估计全息图归一化参数的变化。由预处理电路60估计的这些全息图归一化参数被传送到全息图计算电路70中的编码模块,该编码模块将用于归一化的估计参数应用于的通过的全息图数据。因此,在根据图3的方法中,计算出的全息图不在全息图计算电路70或外部存储器中缓冲,而是直接在通道中进一步处理。同时,编码模块基于全息图的通过数据确定全息图归一化参数的实际正确值,并在当前帧结束时将该值返回到预处理电路60中的分析模块91。该分析模块91使用上一帧的该正确测量值来进行误差评估和全息图归一化参数的动态调整,即所谓的微调,以便改进下一帧的更新估计。
以这种方式,可以通过分析当前三维场景的变化并使用上一帧的已知正确的全息图归一化参数来执行当前帧的全息图的新归一化参数的估计。
总体上,可以为全息图的归一化参数的估计定义以下关系或规则。这些包括,例如:
·如果三维场景或场景序列在逐帧显示期间其光强度平均变亮或变暗,则最大量级将增大或减小,因为全息图中的量级平均增大或减小。
·然而,另外,场景的亮度动态也需要考虑。为了例如使光强度较暗的场景也可以相应地再现为较暗,全息图中的最大量级因此被定义为高,即,场景亮度与最大亮度的比率在选择最大量级时也要考虑,并且近似为全息图的最大量级与设置的最大量级的比率。
·相比之下,如果三维场景变得更深,即更扩展或更压缩,这意味着对象点与观察者之间的距离发生了改变,则全息图的最大量级将相应地增大或减小。
然而,用于估计全息图的归一化参数的这些规则或算法仅形成示例,其中任意变体和组合是可能的。这些可以根据所使用的SLM的类型和性能进行定义。
也可以应用机器学习或人工智能(AI)方法代替永久定义的规则。为此,在针对各种三维参考场景的训练步骤的范围内,可以指定并因此训练预期的行为,从而在AI应用于新的未知三维场景的阶段中,由AI确定用于全息图归一化的良好估计值。在该实施例中,基于训练的AI模型来执行归一化参数的估计,而不需要拟定特定规则。
在应用估计的全息图归一化参数之后,在当前帧结束时,即,在当前计算的全息图完整通过之后,借助于所确定的实际全息图归一化参数,在这两个参数之间进行比较以确定估计有多好。在再现要显示的三维场景时由此产生的可能的亮度偏差仍然可以通过照明装置的至少一个光源对SLM的曝光时间的轻微变化来补偿,但此后仅执行SLM中全息图的曝光。对于全息图归一化参数的绝对不正确估计的情况,例如,光源(例如激光器)甚至可以暂时不打开或者可以关闭,以避免三维场景的不正确显示。这种不正确的帧可以通过这种方式被跳过,这样这个帧对观察者来说就像一个黑屏。由于全息图归一化参数的计算,现在已知准确的全息图归一化参数,因此根据图3所示的周期中的全息图归一化参数的后续估计再次几乎正确。这种不正确显示的情况通常仅发生在接收的三维场景中发生非常突然的场景变化的情况下。由于SLM的高帧速率,省略帧(即,黑帧)将很难被所显示的三维场景的观察者感知到。对于观察者来说,黑帧至少比不正确的归一化全息图(其作用类似于闪光灯)更不易察觉或者干扰更小。
下文将根据图3描述归一化全息图的方法的更详细序列。执行全息图归一化的主要部分的预处理电路60包括分析模块91,使用分析模块91执行全息图的归一化。对于全息图的归一化,为第一帧提供要显示的三维场景的当前数据,如可以在分析模块91的左上区域中看到的。从这些数据中提取确定用于归一化与该场景相关联的全息图的归一化参数所需的数据。在这种情况下,分析进入分析模块91的数据流的关于三维场景的上述特征,即,例如,通过确定场景的对象点的深度、亮度、颜色及其在观察区域中的横向分布等。当然,要分析的场景的上述特征也适用于此,并且在这里没有再次详细提及这些特征的情况下,也要具体说明。三维场景的这些提取的特征或提取的数据随后被存储在直方图或存储器中,从而可以容易且有效地读取或提取数据的相关参数。此外,后续帧的这些数据被存储在另一存储器中,使得作为上一帧或前一帧的数据的这些数据也可以被合并到后续帧的场景的全息图归一化参数的确定中。所提取的存储特征现在用于估计三维场景的全息图的归一化参数。在估计全息图归一化参数之后,然后提供当前估计的全息图归一化参数,这些参数被传送到一个或多个全息图计算电路70中的编码模块92,如图3所示。然后,编码模块92将这些用于归一化的估计的全息图归一化参数应用于通过的全息图数据,因此这些数据不存储在任何位置。这意味着全息图因此不会被缓冲,而是在通过时直接被进一步处理。此外,编码模块92在全息图通过期间基于通过的数据确定全息图归一化参数的实际正确值。在帧结束时,全息图归一化参数的这个正确值再次被传送回预处理电路60的分析模块91。在将估计的全息图归一化参数应用于通过的全息图之后,在分析模块91中将估计出的全息图归一化参数和计算出的全息归一化参数的正确值相互比较,并且确定全息图归一化参数的估计有多好。由此产生的偏差,例如,三维场景再现中的亮度偏差,然后可以通过微调(例如,通过照明装置的光源改变SLM的曝光时间)来补偿或弥补。这是可行的,因为归一化全息图的数据已经被传送并记录在SLM中,但尚未进行三维场景重建的曝光。如果偏差足够大,以致三维场景被错误地重建或显示,则光源也完全不能打开照亮SLM。
在将三维场景的全息图的正确归一化参数传送到分析模块91之后,三维场景的前一帧的这些全息图归一化参数也被合并到下一帧或后续帧的全息图归一化参数的估计中。要在下一帧中显示的三维场景的提取的数据或特征也被合并到下一帧的该估计中,其再次存储在直方图或存储器中,以及先前三维场景的数据或特性。估计的全息图归一化参数被再次传送到编码模块92,并应用于通过的全息图数据。同时,编码模块92确定全息图归一化参数的正确值,从而随后将两个值(即,估计值和正确计算值)彼此比较,并且如果需要,通过微调来衰减或消除偏差。由于要显示的当前三维场景的变化的分析和场景的上一帧的正确全息图归一化参数的使用,以这种方式对当前帧执行新全息图归一化参数的估计。
对于要显示的后续帧或三维场景,使用所描述的过程来执行全息图的归一化。
如图3中的全息图计算电路70所示,全息图计算在其中进行,由此生成或创建全息图。该全息图被传送到编码模块92,在编码模块92中,全息图归一化参数被应用于通过的全息图。以这种方式,生成经过编码的、经过归一化的全息图,该全息图被记录在SLM 80中。
图4显示了一种方法,使用该方法,在预处理电路中处理或生成的要显示的三维场景的数据可以转换为与系统无关的格式或无量纲格式。
例如,如从US 2016/0132021A1中已知的,借助于全息显示设备,要重建的三维场景的对象点被编码在SLM上的子全息图中。为了生成对象点的各个子全息图,对于编码子全息图的SLM的每个像素,计算相位和幅度,SLM使用该相位和幅度调制用于显示三维场景的光。在这种情况下,相位特别是由诸如要从SLM显示的对象点的距离或间隔、波长和像素的间隔(像素间距)之类的参数产生的。在计算极坐标幅度和相位之后,执行计算步骤,即将相位和幅度到具有实值和虚值的笛卡尔空间的转换。这使得计算的子全息图能够与整个全息图中的其他子全息图进行累加或叠加。
这里不再进一步描述使用子全息图计算全息图的进一步基础。这些例如从US2016/0132021A1中已知。
简化对象点描述用于将预处理电路中的经过预处理的数据转换为与系统无关的格式。为此,如有必要,甚至以近似形式计算对象点的子全息图的相位分布,如下所示。
根据图4,在预处理电路中提供要显示的三维场景的各个对象点的到SLM的距离z的数据后,根据场景中要显示的对象点的距离计算子全息图的焦距f:
其中z是对象点到SLM的距离,在SLM和场景的观察者之间的对象点的显示中具有正值,d是观察者到SLM的距离。因此,对象点到SLM的距离也包含在焦距f的计算中,如图4所示。
然后使用以下公式计算子全息图的每个像素的相位:
其中,λ是所使用的光的波长,rxy是从子全息图的中心到各个复杂子全息图像素的半径,Φ0是对象点的相位偏移。
在这种情况下,如果已知焦距,则可以确定观察者到SLM和到对象点的实际距离与对象点的子全息图的相位分布无关。在可以显示三维场景的观察区域的深度范围上的非线性,如从场景的观察者观察到的以下知识,对象点偏移对SLM之后的子全息图中的相位分布的影响在深度上非常小,而相比之下,对象点偏移对SLM前面的子全息图中的相位分布的影响较大,也变得无关紧要。
如果这些变量现在被归一化,其中,例如,水平像素间距px(这里缩写为p),或者这里也可以优选地使用另一个值,则使用归一化半径Rxy、归一化焦距F和归一化波长L使用以下公式来计算像素的相位:
归一化半径Rxy是一个无量纲值,它总是正的,并且随子全息图的面积而变化。它测量子全息图上像素与子全息图中心的距离。它的值可以永久地分配给一组在子全息图生成中具有相同或相似半径的离散子全息图像素。值RXY也可以作为永久变量结合在至少一个全息图计算电路的相应实现中,通过该永久变量,能够降低至少一个全息图计算电路的复杂度,并且利用变化的单独参数(例如所使用的精确波长或精确像素间距)来提高可重用性。
这样,保留了三个参数,它们描述了三维场景中对象点的子全息图的相位分布,与所使用的SLM的性能无关。这三个参数是:
-归一化焦距F,其值是无量纲的,但有符号。这意味着符号取决于观察者观察到的对象点是在SLM前面还是后面生成的,例如,凸透镜函数或凹透镜函数被写入子全息图中。此外,归一化焦距F的值根据观察区域中对象点的深度平面而变化。然而,避免了奇点F=0。
-归一化波长L,也是无量纲的,但总是正的。然而,归一化波长L的值仅在SLM曝光变化或改变的情况下变化,并且
-对象点的相位偏移Φ0。
有利的是近似上述相位的计算公式,以便降低相位计算的复杂性。在第一个元素之后终止的泰勒级数展开导致:
现在可以引入波长归一化焦距F',其中:
因此,波长归一化焦距F'与归一化焦距F一样,是一个带符号的无量纲变量。根据图4,现在可以为三维场景的各个对象点的每个子全息图计算出波长归一化焦距F'。为此,如图4所示,所用光的波长λ(即显示三维场景的颜色)以及SLM的像素间距也包含在计算中。
这些参数,即用于显示三维场景的波长λ、SLM的像素间距以及观察者到SLM的距离d,在借助于至少一个全息图计算电路的全息图编码中不再需要。
对于使用相位近似计算并结合相位偏移Φ0的情况,波长归一化焦距F'现在允许完整描述对象点的子全息图的相位分布。
这些以简化对象点描述形式的数据现在作为与系统无关的格式在预处理电路中提供,并且被传送或传输到至少一个全息图计算电路以计算全息图。借助于至少一个全息图计算电路,现在使用以下公式计算对象点或全息图的子全息图的相位:
因此,波长归一化焦距F'是影响子全息图内相对相位分布的唯一参数。这一事实允许对至少一个全息图计算电路内的电路部件或计算装置的显著简化,因为对于半径仅使用波长归一化焦距的除法和使用相位偏移的加法。如果将归一化半径Rxy永久地分配给至少一个全息图计算电路内的电路部件或计算装置,则因子Rxy 2也可以在电路创建中定义,这可以意味着对至少一个全息图计算电路的显著简化。
同时,波长归一化焦距F'增加了全息图计算电路在各种全息显示设备中的可能的可重用性,这取决于参数的变化,例如所使用的波长、场景和SLM到观察者的距离、或者SLM中像素的纵横比。同时,波长归一化焦距F'增加了传送效率,因为改变焦距描述的优点适用。
因此,波长归一化焦距F'表示三维场景的对象点的子全息图的相位分布的最大的与系统无关的描述,在全息图计算电路中具有同时的优化选项。子全息图的像素的相位值现在可以借助于至少一个全息图计算电路的许多类似设计的电路部件来计算,其中电路部件各自被分配有像素到子全息图中心的归一化半径Rxy或归一化距离,并且它们的半径或距离可以有效地定义为常数。这些单独的电路部件现在仍然只包含使用波长归一化焦距F'的常数除法和使用相位偏移Φ0的加法。
在输入接口装置上仅使用上述以与系统无关的格式形式的简化参数(特别是波长归一化焦距F')的至少一个全息图计算电路的实现方式因此由电子电路组成,该电子电路可以独立于SLM的特定参数来实现并且因此可用于具有各种波长、场景、观察者和SLM之间的各种距离范围以及不同像素间距的各种类型的SLM。以此方式,全息图计算电路可以用于各种SLM和各种全息显示设备。
在变换归一化焦距时,使用实际像素间距作为归一化参数p不是绝对必要的。如果不使用该值,则优点仍然是预处理电路和全息图计算电路之间的更有效的传送。相反,如果实际像素间距用作归一化参数,或者在子全息图编码到实际像素间距之前在至少一个全息图计算电路中对其进行校正,则可以永久地将至少一个全息图计算电路的电路部件分配到归一化半径Rxy,并且至少一个全息图计算电路将支持多个全息显示设备,而不管这种永久分配。
因此,SLM的特定参数只需传送到预处理电路,预处理电路将三维场景的对象点的数据转换成所描述的简化的独立对象点描述或与系统无关的格式,并将其传送到至少一个全息图计算电路。
在预处理电路和至少一个全息图计算电路之间的接口处使用波长归一化焦距F'或归一化焦距F允许比在对象点的位置描述的情况下更有效的数字数据传送,因为由于这种描述,非线性在场景的深度范围内消失。
当然,F和F'的值或数据也可以以数学推导的形式传送,例如,通过与常数相乘和/或传递倒数,即折射率而不是焦距,并且以各种数字格式传送到至少一个全息图计算电路。
用于重建或显示三维场景的全息显示设备100原则上在图5的顶视图中示出。
全息显示设备100包括照明装置、具有至少一个光学元件的光学系统102以及作为光调制光学元件的SLM 103,该照明装置具有用于发射基本相干光的光源101。全息图通过设备104被编码在SLM 103中,SLM 103具有用于光调制的像素。通过使用基本上相干的光照射SLM 103,利用要显示的三维场景的信息由全息图调制光,从而重建三维场景。
此外,全息显示设备100包括设备104,设备104包括预处理电路105和至少一个全息图计算电路106,如上所述并如图2至图4所示。预处理电路105和至少一个全息图计算电路106被设计为独立或分开的电路,并因此形成组合的设备104。然而,它们也可以被设计为单独的独立电路,它们不一起形成设备。因此,这些电路105和106具有一系列功能,并被配置为计算和编码三维场景的计算机生成的全息图,并为至少一个光源101、SLM 103以及在可以调节的变型中为光学系统102提供相应的控制信号,如图2至图4所述。为此,设备104经由通信链路107连接到这些组件。
此外,全息显示设备100包括观察者平面108。然而,该观察者平面108不是物理上存在的永久平面。相反,它是虚拟的,并且它到SLM 103的距离可以随着观察者的眼睛109到SLM 103的距离变化而变化。可视区域或观察者窗口110被定义在该观察者平面108中,该可视区域或观察者窗口110也是虚拟的。如果观察者的眼睛109位于观察者窗口110的位置并且他通过观察者窗口观看,则观察者可以在观察者区域中观察到生成的重建三维场景111,该三维场景111可以在观察平面108和SLM 103之间延伸并且另外延伸到观察者区域之外。
三维场景111在此可以在观察者平面108和全息图被编码的SLM 103之间重建。然而,从观察者平面108观看,三维场景也可以在SLM 103后面显示和可见。三维场景也可能在整个区域上延伸,因此在观察者平面108和SLM 103之间以及SLM 103之后延伸。
设备104现在被设计或配置为执行如上所述的根据本发明的方法,使用该方法,使用计算机生成的全息图对SLM 103进行编码通过以下方式来执行,通过预处理电路处理数据,这在计算要显示的三维场景的全息图的预处理期间仅需要一次,并且通过至少一个全息图计算电路执行借助于由预处理电路提供的数据的全息图的实际计算。根据图4,预处理电路105以与系统无关的格式向至少一个全息图计算电路106提供经过预处理的数据,如图4的方法所公开的。此外,通过预处理电路105对全息图进行归一化,如图3所述。
本发明不限于这里所示的示例性实施例。如果可能,还将涵盖示例性实施例的组合。最后,非常特别地注意到,上述示例性实施例仅用于描述所要求保护的教导,但所要求保护的教导不限于示例性实施例。
Claims (54)
1.一种用于至少一个全息图计算电路的预处理电路,包括:
-输入接口装置,用于接收要显示的场景的数据,
-处理装置,用于对接收到的数据以定义的方式进行处理并且将所述数据转换成包括显示所述场景所需的特定参数的与系统无关的格式,以及
-输出接口装置,用于将经过转换的数据输出并传送到至少一个全息图计算电路。
2.根据权利要求1所述的预处理电路,其特征在于,所述预处理电路被实现为现场可编程门阵列(FPGA)或专用集成电路(ASIC)。
3.根据权利要求1或2所述的预处理电路,其特征在于,提供给所述预处理电路的所述数据、参数和程序以加密格式提供。
4.根据前述权利要求中任一项所述的预处理电路,其特征在于,所述处理装置被设计为校正场景显示中的成像误差。
5.根据前述权利要求中任一项所述的预处理电路,其特征在于,所述处理装置被设计为校正成像误差或校正全息显示设备中提供的光学系统对要显示的场景具有负面影响的效应。
6.根据前述权利要求中任一项所述的预处理电路,其特征在于,所述处理装置被设计为使得在结合注视点渲染使用眼睛跟踪数据时,要显示的场景的分辨率、细节程度和/或全息质量基于观察者的眼睛在所述观察者的视野的限定区域中的观看方向是可调整的。
7.根据权利要求6所述的预处理电路,其特征在于,借助于所述处理装置,所述场景的数据被处理成使得所述场景在其边缘区域中的分辨率、细节程度和/或全息质量降低。
8.根据前述权利要求中任一项所述的预处理装置,其特征在于,所述处理装置被设计为控制至少一个空间光调制装置或全息显示设备的可控组件。
9.根据前述权利要求中任一项所述的预处理电路,其特征在于,在所述处理装置中使用具有在运行时可切换的路径或在运行时可切换一次的路径的永久逻辑与至少一个处理器的组合。
10.根据前述权利要求中任一项所述的预处理电路,其特征在于,提供了用于生成控制信号和/或同步信号的时序控制器。
11.根据前述权利要求中任一项所述的预处理电路,其特征在于,所述处理装置被设计为执行要显示的场景的数据的分析,以便执行全息图归一化。
12.根据前述权利要求中任一项所述的预处理电路,其特征在于,通过计算路径的可变激活,所述预处理电路对于所述至少一个空间光调制装置的各种变量和/或全息图分辨率和/或场景分辨率和/或者所述至少一个空间光调制装置的参数具有可扩展性。
13.一种用于计算通过全息显示设备显示场景的全息图的设备,所述全息显示设备包括至少一个空间光调制装置,所述设备包括:
-根据权利要求1至12中任一项所述的预处理电路,以及
-至少一个全息图计算电路,用于计算全息图并且为所述至少一个空间光调制装置编码全息图。
14.根据权利要求13所述的设备,其特征在于,所述至少一个全息图计算电路被实现为现场可编程门阵列(FPGA)或专用集成电路(ASIC)。
15.根据权利要求13或14所述的设备,其特征在于,所述至少一个全息图计算电路包括:
-输入接口装置,用于接收由所述预处理电路处理的数据,
-全息图计算装置,用于计算和编码全息图,以及
-输出接口装置,用于将计算出的全息图的数据传送到所述至少一个空间光调制装置。
16.根据权利要求13至15中任一项所述的设备,其特征在于,所述至少一个全息图计算电路被设计为所述至少一个空间光调制装置的一部分,或者直接在所述至少一个空间光调制装置的基板上实施。
17.根据权利要求13至16中任一项所述的设备,其特征在于,提供至少两个全息图计算电路,所述至少两个全息图计算电路彼此串联和/或并联连接。
18.根据权利要求13至17中任一项所述的设备,其特征在于,由所述预处理电路处理的场景的数据以与系统无关的格式提供给所述至少一个全息图计算电路。
19.根据权利要求18所述的设备,其特征在于,所述至少一个全息图计算电路被设计成可以直接使用以与系统无关的格式提供的场景的数据并且可以计算全息图。
20.根据权利要求13至19中任一项所述的设备,其特征在于,提供用于向所述预处理电路加密地提供数据和程序的外部数据接口装置。
21.根据权利要求20所述的设备,其特征在于,提供给所述预处理电路的加密数据和程序以加密形式存储在非易失性存储器上。
22.根据权利要求13至21中任一项所述的设备,其特征在于,在所述预处理电路和所述至少一个全息图计算电路之间实现相互认证。
23.根据权利要求13至22中任一项所述的设备,其特征在于,通过计算路径的可变激活,所述预处理电路和/或所述至少一个全息图计算电路对于所述至少一个空间光调制装置的各种变量和/或全息图分辨率和/或场景分辨率和/或者所述至少一个空间光调制装置的参数具有可扩展性。
24.根据权利要求13至23中任一项所述的设备,其特征在于,所述至少一个全息图计算电路被提供用于所述至少一个空间光调制装置的各种实施例或设计。
25.一种全息显示设备,包括:
-根据权利要求1至12中任一项所述的预处理电路,
-用于计算全息图的至少一个全息图计算电路,以及
-计算出的全息图编码所针对的至少一个空间光调制装置。
26.根据权利要求25所述的全息显示设备,其特征在于,提供至少一个源驱动器,使用所述源驱动器,利用所述至少一个全息图计算电路计算出的全息图的数据可传送到所述至少一个空间光调制装置。
27.根据权利要求25或26所述的全息显示设备,其特征在于,提供包括至少一个光源的照明装置和光学系统,通过所述照明装置和光学系统结合所述至少一个空间光调制装置可重建场景。
28.一种用于实时计算全息图的流水线,包括用于预处理场景的数据并且直接激活至少一个空间光调制装置的组件的预处理电路和用于计算全息图的至少一个全息图计算电路,其中所述预处理电路和所述至少一个全息图计算电路各自基于现场可编程门阵列(FPGA)和/或专用集成电路(ASIC)来实现。
29.根据权利要求28所述的流水线,其特征在于,所述预处理电路和所述至少一个全息图计算电路在运行时是可配置的。
30.根据权利要求28或29所述的流水线,其特征在于,所述预处理电路包括用于接收描述要显示的场景的数据的接收接口装置、用于预处理要显示的场景的数据的处理装置和用于将经过预处理的数据输出并传送到所述至少一个全息图计算电路的输出接口装置。
31.根据权利要求28至30中任一项所述的流水线,其特征在于,所述至少一个全息图计算电路包括用于接收由所述预处理电路预处理的数据的输入接口装置、用于计算和编码全息图的全息图计算装置和用于将计算出的全息图的数据传送到所述至少一个空间光调制装置的输出接口装置。
32.根据权利要求28至31中任一项所述的流水线,其特征在于,所述预处理电路和所述至少一个全息图计算电路是分开的电路,它们彼此连接使得所述至少一个全息图计算电路能够通过所述预处理电路来激活,但是所述预处理电路和所述至少一个全息图计算电路没有被分配给特定的空间光调制装置和/或全息显示设备。
33.根据权利要求28至32中任一项所述的流水线,其特征在于,通过计算路径的可变激活,所述预处理电路和/或所述全息图计算电路对于所述至少一个空间光调制装置的各种变量和/或全息图分辨率和/或场景分辨率和/或所述至少一个空间光调制装置的参数具有可扩展性。
34.一种用于计算通过全息显示设备显示场景的全息图的方法,所述全息显示设备包括至少一个空间光调制装置,其中所述全息图的计算通过预处理电路和至少一个全息图计算电路来执行。
35.根据权利要求34所述的方法,其特征在于,所述预处理电路处理数据,处理数据在预处理以计算全息图中仅需要一次,并且所述至少一个全息图计算电路根据由所述预处理电路提供的数据计算提供用于针对所述至少一个空间光调制装置编码的全息图,并将全息图输出到所述至少一个空间光调制装置。
36.根据权利要求34或35所述的方法,其特征在于,所述预处理电路的输入接口装置以加密格式接收要显示的场景的数据,对其进行解密,并将其传送到所述预处理电路的预处理装置。
37.根据权利要求36所述的方法,其特征在于,借助于所述预处理装置,根据要显示的场景来预处理所传送的数据,并且在考虑所述至少一个空间光调制装置的特定参数的情况下将经过预处理的数据转换成与系统无关的格式。
38.根据权利要求36或37中任一项所述的方法,其特征在于,通过所述预处理装置来校正要显示的场景的像差,通过所述预处理装置生成像差的校正数据。
39.根据权利要求36至38中任一项所述的方法,其特征在于,借助于所述预处理装置,通过所述场景的虚拟移动、旋转和/或变形来校正要显示的场景的观察者的眼睛的视觉缺陷。
40.根据权利要求36至39中任一项所述的方法,其特征在于,通过所述预处理装置,在考虑观察者的眼睛的观看方向的情况下,调整要显示的场景的分辨率、细节程度和/或全息质量,使得通过所述至少一个全息图计算电路的全息图计算装置计算出的显示的场景在其边缘区域中具有降低的分辨率、降低的细节程度和/或降低的全息质量。
41.根据权利要求34至40中任一项所述的方法,其特征在于,将要显示的场景的遮挡数据传送到所述预处理电路,所述预处理电路从传送的遮挡数据中提取用于生成场景的对象点的所需信息。
42.根据权利要求36至41中任一项所述的方法,在考虑所述至少一个空间光调制装置的特定参数的情况下,将使用所述预处理装置生成的数据转换成与系统无关的格式并且将其经由所述预处理电路的输出接口装置传送到所述至少一个全息图计算电路以用于计算要显示的场景的全息图。
43.根据权利要求34至42中任一项所述的方法,其特征在于,借助于所述预处理电路激活全息显示设备的可控组件以显示所述场景,其中所述组件的控制与计算出的全息图在所述至少一个空间光调制装置上的输出同步地进行。
44.根据权利要求34至43中任一项所述的方法,其特征在于,所述至少一个空间光调制装置的特定参数、数据和用于对要显示的场景进行预处理的程序以加密形式存储在非易失性存储器上,其中这些数据以加密形式传送到所述预处理电路。
45.根据权利要求34至44中任一项所述的方法,其特征在于,所述至少一个空间光调制装置和用于驱动所述至少一个空间光调制装置的至少一个源驱动器经由所述预处理电路的时序控制器计时和控制。
46.根据权利要求34至45中任一项所述的方法,其特征在于,在所述预处理电路内对要显示的场景的数据进行至少一次分析以进行全息图归一化。
47.根据权利要求46所述的方法,其特征在于,为了确定用于全息图归一化的全息图归一化参数,通过以下步骤执行对传送到输入接口装置的数据的分析:
-分析场景中对象点的深度分布及其在观察区域中的横向分布,
-结合所述观察区域中所述对象点的相应深度来分析所述对象点的亮度分布,以及
-确定对象点的总数。
48.根据权利要求47所述的方法,其特征在于,通过分析要显示的场景从一帧到另一帧的变化,由所述预处理电路中的分析模块估计全息图归一化参数,并将其传送到所述至少一个全息图计算电路中的编码模块,所述编码模块将这些估计的全息图归一化参数应用于计算出的通过的全息图数据以进行归一化。
49.根据权利要求48所述的方法,其特征在于,通过用于全息图编码的通过的计算出的数据,由所述编码模块确定所述全息图归一化参数的正确值,并将其传送回所述预处理电路中的所述分析模块。
50.根据权利要求48或49中任一项所述的方法,其特征在于,在每帧结束时,将估计的全息图归一化参数和所述全息图归一化参数的正确值彼此比较。
51.根据前述权利要求34至50中任一项所述的方法,其特征在于,在每种情况下,将要显示的场景的对象点编码在子全息图中,以描述对象点的子全息图的像素的相位值,由所述预处理电路确定以下参数,并将其传送到所述至少一个全息图计算电路以用于计算所述场景的对象点的子全息图的相位:
-焦距或折射率,其根据观察区域中对象点的深度而变化,以及
-对象点的相位偏移。
52.根据权利要求51所述的方法,其特征在于,用于描述对象点的子全息图的像素的相位值的焦距被定义为归一化焦距F=f/p或其倒数,其中f是对象点的焦距,p是优选地定义在所述至少一个空间光调制装置的像素间距上的常数。
53.根据权利要求51所述的方法,其特征在于,用于描述对象点的子全息图的像素的相位值的焦距以与系统无关的形式被定义为波长归一化焦距F'=fλ/p2或其倒数,其中f是对象点的焦距,λ是光的波长,并且p是优选地定义在所述至少一个空间光调制装置的像素间距上的常数。
54.根据权利要求51至53中任一项所述的方法,其特征在于,距子全息图中心具有相等距离的场景的对象点的子全息图的像素的相位值使用永久地分配给所述距离的至少一个全息图计算电路的电路部件来计算。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP20190266 | 2020-08-10 | ||
EP20190266.5 | 2020-08-10 | ||
PCT/EP2021/072109 WO2022033996A2 (de) | 2020-08-10 | 2021-08-06 | Vorrichtung und verfahren zur berechnung von hologrammdaten |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116113890A true CN116113890A (zh) | 2023-05-12 |
Family
ID=77398559
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180055305.0A Pending CN116113890A (zh) | 2020-08-10 | 2021-08-06 | 计算全息图数据的设备和方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20230315014A1 (zh) |
KR (1) | KR20230050404A (zh) |
CN (1) | CN116113890A (zh) |
DE (1) | DE112021004254A5 (zh) |
TW (1) | TW202209026A (zh) |
WO (1) | WO2022033996A2 (zh) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4473133B2 (ja) | 2002-11-13 | 2010-06-02 | シーリアル、テクノロジーズ、ゲーエムベーハー | 映像ホログラムおよび映像ホログラム再生装置 |
DE102004063838A1 (de) | 2004-12-23 | 2006-07-06 | Seereal Technologies Gmbh | Verfahren und Einrichtung zum Berechnen computer generierter Videohologramme |
DE102007023737B4 (de) | 2007-05-16 | 2009-01-02 | Seereal Technologies S.A. | Verfahren zum Generieren von Videohologrammen in Echtzeit zur Erweiterung einer 3D-Rendering-Graphikpipeline |
DE102007023739B4 (de) * | 2007-05-16 | 2018-01-04 | Seereal Technologies S.A. | Verfahren zum Rendern und Generieren von Farbvideohologrammen in Echtzeit und holographische Wiedergabeeinrichtung |
GB2466023A (en) * | 2008-12-08 | 2010-06-09 | Light Blue Optics Ltd | Holographic Image Projection Systems |
CN102918466B (zh) | 2010-04-01 | 2016-11-16 | 视瑞尔技术公司 | 用于在全息系统中编码包含透明物体的三维场景的方法和装置 |
DE112014002704A5 (de) * | 2013-06-06 | 2016-03-03 | Seereal Technologies S.A. | Vorrichtung und Verfahren zur Berechnung von Hologrammdaten |
-
2021
- 2021-08-06 DE DE112021004254.8T patent/DE112021004254A5/de active Pending
- 2021-08-06 CN CN202180055305.0A patent/CN116113890A/zh active Pending
- 2021-08-06 KR KR1020237008392A patent/KR20230050404A/ko active Search and Examination
- 2021-08-06 WO PCT/EP2021/072109 patent/WO2022033996A2/de active Application Filing
- 2021-08-06 US US18/020,791 patent/US20230315014A1/en active Pending
- 2021-08-10 TW TW110129465A patent/TW202209026A/zh unknown
Also Published As
Publication number | Publication date |
---|---|
DE112021004254A5 (de) | 2023-06-01 |
WO2022033996A3 (de) | 2022-08-11 |
US20230315014A1 (en) | 2023-10-05 |
WO2022033996A2 (de) | 2022-02-17 |
KR20230050404A (ko) | 2023-04-14 |
TW202209026A (zh) | 2022-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11635621B2 (en) | 2D/3D holographic display system | |
US9939781B2 (en) | Image phase retrieval | |
JP6704018B2 (ja) | ニアアイ装置 | |
JP6770429B2 (ja) | 通信を行うホログラフィック・ディスプレイ | |
Lee et al. | Tomographic near-eye displays | |
US20170363869A1 (en) | Holographic Image Projection with Holographic Correction | |
US10146180B2 (en) | Projection display and method for displaying at least one of two-dimensional and three-dimensional scene or of content | |
US20170085846A1 (en) | Efficient, dynamic, high contrast lensing with applications to imaging, illumination and projection | |
KR20080058407A (ko) | 홀로그램을 이용한 이미지 디스플레이 방법 및 장치 | |
CN102171619A (zh) | 全息图像显示系统 | |
CA2687364A1 (en) | Method for generating video holograms in real time for extending a 3d rendering graphics pipeline | |
WO2012069811A2 (en) | Holographic systems | |
US8368743B2 (en) | Interface and circuit arrangement, in particular for holographic encoding units or holographic reproduction devices | |
CN116113890A (zh) | 计算全息图数据的设备和方法 | |
KR20220146169A (ko) | 자유형상 곡면을 포함하는 홀로그래픽 디스플레이 장치 및 그 동작 방법 | |
WO2019062306A1 (zh) | 全息显示方法和全息显示装置 | |
CN115202174B (zh) | 基于光场图像的全息体视图获取方法、系统和应用 | |
CN102722095B (zh) | 一种用于生成全息干涉条纹的方法及系统 | |
Damberg | Computational projection display: towards efficient high brightness projection in cinema | |
WO2022212189A1 (en) | Data-efficient photorealistic 3d holography | |
KR20230112962A (ko) | 홀로그램의 깊이를 변조하는 방법 및 장치와, 이를 이용하는 홀로그래픽 디스플레이 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |