CN111213068B - 利用低分辨率像素成像的飞行时间深度相机 - Google Patents

利用低分辨率像素成像的飞行时间深度相机 Download PDF

Info

Publication number
CN111213068B
CN111213068B CN201880067397.2A CN201880067397A CN111213068B CN 111213068 B CN111213068 B CN 111213068B CN 201880067397 A CN201880067397 A CN 201880067397A CN 111213068 B CN111213068 B CN 111213068B
Authority
CN
China
Prior art keywords
illumination patterns
different illumination
time
pattern
depth camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201880067397.2A
Other languages
English (en)
Other versions
CN111213068A (zh
Inventor
M·J·劳伦松
J·W·海尔米格
H·J·门希
N·沃克
J·J·范登贝尔赫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tongkuai Optoelectronic Device Co ltd
Original Assignee
Tongkuai Optoelectronic Device Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tongkuai Optoelectronic Device Co ltd filed Critical Tongkuai Optoelectronic Device Co ltd
Publication of CN111213068A publication Critical patent/CN111213068A/zh
Application granted granted Critical
Publication of CN111213068B publication Critical patent/CN111213068B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • G01S7/4815Constructional features, e.g. arrangements of optical elements of transmitters alone using multiple transmitters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/484Transmitters

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本发明描述了一种飞行时间深度相机(200),所述飞行时间深度相机(200)包括VCSEL阵列(100)、光学布置结构(210)、分析评估器(255)以及包括至少一个检测器像素(222)的光检测器(220),其中,VCSEL阵列(100)或光学布置结构(210)被布置为能够在飞行时间深度相机(200)的限定的视场(300)中的参考面中提供不同照明图案(20),其中,光检测器(220)被布置为能够检测所述不同照明图案(20),其中,分析评估器(255)被布置为能够基于检测到的不同照明图案(20)以预定像素数量P的分辨率重建视场(300)的深度图像(50),其中,检测的不同照明图案(20)的数量N为所述预定像素数量P的至少5%、优选为所述预定像素数量P的至少10%以及最优选为所述预定像素数量P的至少20%。本发明还涉及执行飞行时间测量的方法以及相应的计算机程序载体。

Description

利用低分辨率像素成像的飞行时间深度相机
技术领域
本发明涉及一种利用低分辨率像素成像的飞行时间深度相机、一种相应的执行飞行时间测量的方法以及涉及一种相应的计算机程序载体。
背景技术
结构化光投影方法适合于测量对象的三维形状(或3D形状)。本领域中已知的通常用于3D形状测量的结构化光投影方法为条纹投影或云纹法。这种已知的云纹法通常包括:投影周期性的光图案,其可以是两个相干光束的干涉的结果;在所述对象上形成变形的线图案;以及由所述变形的线图案和参考线图案来合成对象的3D形状。结构化光投影技术的一种应用是测量工厂和实验室中的对象、机械零件和机器零件的3D形状。
在这方面,WO 2005/049840 A2公开了一种用于测量对象的三维形状(或3D形状)的方法和设备,该方法和设备特别适合于结构化光投影方法和干涉测量方法。
US2015/0362585 A1公开了一种用于使用被配置为光场光源的2-D平面VCSEL源进行3-D成像和扫描的设备和方法。
US2017/0115497 A1公开了一种编码图案产生器,该编码图案产生器包括发射器的表面发射阵列和用于产生编码图案的两个光学元件。
发明内容
本发明的目的在于提供一种用于提供3-D或深度图像的改进的设备和方法。
根据第一方面,提供一种飞行时间深度相机。飞行时间深度相机包括VCSEL阵列、光学布置结构、分析评估器以及包括至少一个检测器像素的光检测器。VCSEL阵列和/或光学布置结构被布置为能够在飞行时间深度相机的限定的视场中的参考面中提供不同照明图案。光检测器被布置为能够检测所述不同照明图案。分析评估器被布置为能够基于检测的不同照明图案以预定像素数量P的分辨率重建视场的深度图像。检测的不同照明图案的数量N为所述预定像素数量P的至少5%、优选为所述预定像素数量P的至少10%以及最优选为所述预定像素数量P的至少20%。检测的不同照明图案的数量N可以小于预定像素数量P。检测的不同照明图案的数量N可以小于所述预定像素数量P的50%、优选地小于所述预定像素数量P的40%以及最优选地小于所述预定像素数量P的30%。
高分辨率深度图像通常需要高分辨率检测器。这样的高分辨率检测器例如是在阵列布置结构中的单光子雪崩二极管(SPAD:single photon avalanche diode)。上面描述的飞行时间深度相机通过拆分在光检测器、光学布置结构和VCSEL阵列之间的复杂性而避免这样的极端方案。光检测器的每个检测器像素提供视场的一个照明图案的独立图像。这意味着,如果仅有一个检测器像素,则光学布置结构和VCSEL阵列提供所有检测的不同照明图案。在两个、三个、四个或更多个检测器像素的情况下,可以减少所提供的照明图案的数量,其中,每个检测器像素检测视场中的不同照明图案,即使所提供的照明图案是相同的,每个检测器像素也能够检测视场中的照明图案的至少一部分。最后,用于将照明图案成像到相应的检测器像素的成像光学器件确定是否每个检测器像素确定了视场中的整个场景的不同照明图案。因为不是场景的每个子部分都提供附加信息,所以检测的不同照明图案的总数量不需要与深度图像的分辨率相同。该方法基于这样的理解:可压缩信号或图像的非自适应线性测量的小的集合包含足够的信息用于进行重建和处理。实际上,这实现作为标准飞行时间相机的一种反转的飞行时间深度相机:能够产生投影在视场中的场景上的大量(近似)正交投影图案的照明器与低分辨率、在极端情况下与收集来自场景的所有反射光的单像素相机一起使用。收集的数据通过重建算法处理,以产生具有所需分辨率的多像素图像。计算机重建算法针对投影光图案中的每个从例如单个传感器像素提取数据,并且产生视场中的场景的多像素深度图像。这样的算法的示例在论文“Structured CompressedSensing:From Theory to Applications”;Marco F.Duarte et al.;arXiv:1106.6224v2[cs.IT]28Jul 2011(https://arxiv.org/pdf/1106.6224.pdf)中给出。该论文通过引用被包含于此。该方法可以使用比所成像的像素少得多的数量的图案,这主要是因为大多数图像是可压缩的——它们可以通过比原始像素数据少的信息量来表示——例如在图像压缩(例如,JPEG压缩)中被使用。取决于飞行时间深度相机的视场中的场景结构,检测对应于深度图像的像素数量的仅5%的数量的不同照明图案可能是足够的。这意味着,例如,100×100像素的深度图像仅需要500个检测的不同照明图案(近似正交的投影图案)。例如,这种方法可以使得能够使用高时间分辨率(单个像素)的光检测器,其由于复杂性和成本而未实施为阵列。
可以借助于VCSEL阵列和光学布置结构的组合提供的不同照明图案可以是伪随机照明图案(噪声图案)。
VCSEL阵列可以是可寻址VCSEL阵列。VCSEL阵列被布置为能够通过对VCSEL阵列的不同VCSEL寻址来提供不同照明图案。单个VCSEL或不同的VCSEL组可以是可寻址的,从而单个VCSEL或VCSEL组可以通过提供相应的驱动电流来独立地开启或关闭。
VCSEL阵列的VCSEL可以以随机图案布置,使得通过VCSEL阵列提供的不同照明图案的数量增加。VCSEL的规则图案(例如,方形或六边形等)可具有这样的效应:所提供的照明图案没有充分不同来用于深度图像的重建。因此,VCSEL的台面可以以随机图案分布(例如,台面相对于规则参考图案的随机移位)。如果仅同时开启VCSEL阵列的VCSEL或VCSEL组中的一部分(例如,同时开启包括3×3个VCSEL或VCSEL组的VCSEL阵列中的5个VCSEL或VCSEL组),则VCSEL的这种随机图案可以实现更多独特的照明图案。此外,可以通过随机分布VCSEL的不同形状的发光区域(例如,圆形、矩形、三角形、不同尺寸等)来增加照明图案的随机性。
VCSEL阵列的被布置为能够同时被寻址的一个可寻址VCSEL或多个可寻址VCSEL被布置为能够对光学布置结构照明,从而用照明图案照明限定的视场。在这种情况下,与光学布置结构组合的VCSEL阵列的每个开关状态可以被布置为能够对飞行时间深度相机的视场中的整个场景照明。
可替代地或附加地,VCSEL阵列的被布置为能够同时被寻址的一个或多个可寻址VCSEL可以被布置能够为对光学布置结构照明,从而用照明图案照明限定的视场的子部分。限定的视场的两个、三个、四个或更多个子部分可以覆盖该视场。VCSEL阵列的不同开关状态和光学布置结构的组合可以例如扫描限定的视场的不同的子部分。在这种情况下,具有限定的像素分辨率的深度图像的重建将需要在每个子区域提供相应数量的检测的不同照明图案。
光学布置结构可以例如包括复制光学结构(例如,棱柱结构)。复制光学结构被布置为能够跨越照明图案复制通过VCSEL阵列提供的光图案,使得照明图案包括两个、三个、四个或更多个子照明图案。在这种情况下,照明图案包括多个(基本上)相同的子照明图案。因此,可以借助于VCSEL阵列的不同开关状态提供的有限数量的不同照明图案可以被重复使用。如果检测器包括多于一个检测器像素,则使用例如子照明图案的棋盘图案可能是有益的。飞行时间相机的光学成像装置可以被布置为能够仅将子照明图案的一部分子照明图案(在极端情况下仅一个子照明图案)成像到一个检测器像素。在这种情况下,检测器像素能够进行并行处理,并且因此能够减少深度图像的重建时间。因此,将低分辨率检测器与可寻址VCSEL阵列组合会是有益的,以在可接受的重建时间内用低分辨率检测器提供高分辨率的深度图像。
VCSEL阵列可以是例如包括4×4个VCSEL或VCSEL组(16个可开关段)的VCSEL阵列。可以同时开关八个段,以提供一个照明图案。这在理想的情况下实现12870个不同照明图案,其中,针对相应的检测器像素,每个照明图案与其他照明图案充分不同(伪随机),以有助于深度图像的重建。分辨率为160×160——(P=25600像素)的深度图像将需要N=5120个检测的不同照明图案,以满足上面描述的20%标准。因此,4×4的VCSEL阵列将足以提供所需数量的检测的不同照明图案。
光学布置结构可以可替代地或附加地被布置为能够通过改变光学布置结构的光学特性来提供不同照明图案的至少一部分。光学布置结构的光学特性的改变可实现通过光学布置结构提供的与VCSEL阵列提供的激光无关的不同照明图案。
检测的不同照明图案的数量N可以通过检测器像素的数量D和提供的不同照明图案的数量来确定。提供的不同照明图案的数量由通过可寻址VCSEL阵列提供的不同照明图案的数量V和通过光学布置结构提供的不同照明图案的数量O的乘积V×O给出。V可被选择为在4到0.7×N之间、优选地在10到0.5×N之间以及最优选地在50到取整数的((N)的平方根)+1之间。光学布置结构可以例如被布置为能够利用一种固定配置的VCSEL阵列提供O=200个不同照明图案(例如,伪随机照明图案)。在这种情况下,即使仅有一个检测器像素,为满足20%的要求,可寻址VCSEL阵列可以提供V=26个不同照明图案以提供N=5200个检测的不同照明图案也将是足够的。在这种情况下,包括3×3个VCSEL或VCSEL组的VCSEL阵列将是足够的。如果同时开启9个段中的5个段(VCSEL或VCSEL组),则这样的VCSEL阵列理论上可提供达V=126个不同照明图案(V=(9×8×7×6×5)/(1×2×3×4×5))。在这种情况下,VCSEL阵列的这些不同开关状态中的仅一小部分可以用于提供不同照明图案也将是足够的。因此,可能的是使用具有被布置为规则图案的VCSEL的简单VCSEL阵列,使得从光检测器的角度而言,理论上可以通过VCSEL阵列提供的照明图案的接近80%对于有助于重建深度图像而言非常相似。
光学布置结构可以包括第一光学元件和第二光学元件。光学布置结构可以被布置为能够改变第一光学元件和第二光学元件之间的空间关系。第一光学元件和第二光学元件的任何种类的相对运动(距离、旋转、平行运动、倾斜……)都可以用于提供不同照明图案。可以使用两个、三个、四个或更多个光学元件。
第一光学元件可以是第一衍射光学元件和/或第二光学元件可以是第二衍射光学元件。衍射光学元件(DOE:diffractive optical element)是一种光学膜,所述光学膜已在一个或两个表面上构建了一组微结构,这些微结构的特征长度约等于所实施的光的波长。这些特征由于光的衍射而产生光学效果。可利用DOE来实施受控光分布图案和特定光学功能、例如透镜。全息图是DOE的一种。通常,这样的膜由不同高度的微米尺寸正方形(其中,高度差为光的波长的数量级)或斑块的微光栅形成。当使用如研究论文“Encodeddiffractive optics for full-spectrum computational imaging”;Felix Heide etal.Scientific Reports 6;Article number:33543(2016);doi:10.1038/srep33543(https://www.nature.com/articles/srep33543)中所述的适当的设计方法改变两个DOE的关系时,两个DOE可以被设计为能够产生这样一组不同的投影图案。该研究论文通过引用被包含于此。
这种方法的优点如下:
除了用于改变光学元件的关系的致动器——例如能够使每个光学元件绕它们的中心旋转的致动器外,不需要电子驱动器或额外的有源组件;
来自VCSEL阵列的所有光都用于照明场景——光学元件重新定向光而不是使其熄灭。在光学元件本身中会损失一些光,但是使用例如两个DOE的实际光学器件指示出这种损失不超过50%,并且出色的设计可以进一步降低这种损失;
通过适当的设计,使用至少两个DOE可以几乎消除零级的高投影强度(利用单个DOE的问题);
诸如DOE的光学元件膜是平坦且低成本的,因此光学器件的成本和复杂性不会过高。
光学布置结构可以可替代地或附加地包括用于提供不同照明图案的空间光调制器或微镜装置。空间光调制器可以例如是基于LCD的空间光调制器。可替代地,空间光调制器可以是与畸变装置(例如,一个致动器或多个致动器)组合的光学元件(例如,DOE),畸变装置被布置为能够改变光学元件的部分的空间布置结构,以提供不同照明图案(例如,DOE的弯曲)。
光检测器可以包括比预定像素数量P少的检测器像素。如上所述,光检测器可以包括少于10个检测器像素、更优选地少于5个检测器像素以及最优选为一个检测器像素。
根据第二方面,提供一种以预定像素数量P的分辨率从限定的视场提供深度图像的方法。所述方法包括以下步骤:
改变VCSEL阵列与光学布置结构之间的光学相互作用,
通过改变所述光学相互作用来提供多个不同照明图案,
检测所述不同照明图案,其中,在限定的视场中的参考面中检测的不同照明图案的数量N为所述预定像素数量P的至少5%、优选为所述预定像素数量P的至少10%以及最优选为所述预定像素数量P的至少20%,
基于检测的不同照明图案重建视场的深度图像。
方法步骤需要按上述顺序执行。
根据第三方面,提供一种计算机程序载体。计算机程序载体包括代码工具,代码工具能够保存在根据上述任何实施例的飞行时间深度相机的至少一个存储装置上或者能够保存在包括飞行时间深度相机的装置的至少一个存储装置上。代码工具被布置为使得上面描述的方法可以借助于飞行时间深度相机的至少一个处理装置来执行或者借助于包括飞行时间深度相机的装置的至少一个处理装置来执行。
存储装置或处理装置(例如,电驱动器、分析评估器等)可以被飞行时间深度相机包括或者被包括飞行时间深度相机的装置包括。包括飞行时间深度相机的装置的第一存储装置和/或第一处理装置可以与被飞行时间深度相机所包括的第二存储装置和/或第二处理装置交互。
一个存储装置或多个存储装置可以是被布置为能够存储信息、尤其是数字信息的任何物理装置。存储装置可以尤其选自组固态存储器或光学存储器。
一个存储装置或多个处理装置可以是被布置为能够执行数据处理、尤其是数字数据处理的任何物理装置。处理装置可以尤其选自组处理器、微处理器或专用集成电路(ASIC)。
应当理解,根据本发明的飞行时间深度相机和根据本发明的方法具有相似和/或相同的实施例。
下面定义其他有利的实施例。
附图说明
参考下文描述的实施例,本发明的这些和其他方面将变得清楚并得以阐明。
现将参考附图基于实施例以示例的方式描述本发明。
在附图中:
图1示出了第一图案投影仪的原理简图。
图2示出了第一飞行时间深度相机的原理简图。
图3示出了重建深度图像的方法的原理简图。
图4示出了第二图案投影仪的原理简图。
图5示出了第三图案投影仪的原理简图。
图6示出了第四图案投影仪的原理简图。
图7示出了第二飞行时间深度相机的原理简图。
图8示出了提供深度图像的方法的原理简图。
在附图中,相似的附图标记始终指代相似的对象。附图中的对象不必然按比例绘制。
具体实施方式
现将借助于附图描述本发明的各种实施例。
图1示出了可以在飞行时间深度相机200中使用的第一图案投影仪205的原理简图。图案投影仪205包括VCSEL阵列100,VCSEL阵列100包括以规则矩形图案布置的十六个VCSEL 130。在此实施例中,VCSEL阵列100的VCSEL 130布置在一个共同的半导体基体(单个VCSEL阵列芯片)上。VCSEL阵列100可以可替代地包括两个、三个、四个或更多个VCSEL阵列芯片。VCSEL阵列100被布置为使得所有VCSEL 130同时向光学布置结构210发射激光10。光学布置结构210能够通过将激光10变换为变换后激光150而在限定的视场中的参考面上投影多个伪随机照明图案20。在这种情况下,光学布置结构210包括LCD空间光调制器,以提供大量(例如,500个)伪随机照明图案20。LCD空间光调制器可以借助于适合的控制器(未示出)来控制。
图2示出了第一飞行时间深度相机200的原理简图。飞行时间深度相机200包括具有可寻址VCSEL阵列100和衍射光学元件(DOE:diffractive optical element)的图案投影仪205,可寻址VCSEL阵列100包括500个VCSEL 130,衍射光学元件(DOE)具有用于与通过VCSEL阵列100提供的一个照明图案结合来提供200个不同照明图案20的畸变装置。图案投影仪205被布置为能够通过将激光10变换为变换后激光150来提供4000个不同照明图案20。飞行时间深度相机200还包括光检测器220,光检测器220包括四个检测器像素以及相应的成像光学器件(未示出)。成像光学器件被布置为能够对从视场中的借助于照明图案20被照明的场景接收的反射激光215成像。图案投影仪205和光检测器220构成飞行时间传感器模块207,飞行时间传感器模块207被布置为能够提供多达4×4000个检测到的照明图案。第一飞行时间深度相机200还包括分析评估器255,分析评估器255接收关于在限定的时刻适时提供的照明图案20的信息以及通过光检测器220检测到的相应的检测的照明图案的数据。分析评估器255被布置为能够借助于通过图案投影仪205和光检测器220提供的关于在预定时间段内确定的多达4×4000个不同照明图案20的信息来重建深度图像50。分析评估器255还可包括被布置为能够控制图案投影仪205和检测器220的控制器,或者可由被布置为能够控制图案投影仪205和检测器220的控制器所包括。第一飞行时间深度相机200还可包括电源(例如,可充电电池)和/或用于接收电力的电接口。
图3示出了重建深度图像50的方法的原理简图。在左侧示出了不同照明图案20。每个照明图案20对应于借助于光检测器220的相应的检测器像素检测到的视场300中的检测的照明图案32。检测的照明图案32在步骤430中与关于相应的照明图案20的信息组合使用,以借助于适合的重建算法(见上文)重建在视场300中可见的场景的深度图像50。
图4示出了可以在飞行时间深度相机200中使用的第二图案投影仪205的原理简图。总体配置与关于图1所讨论的相似。在这种情况下,VCSEL阵列100是可开关阵列,在该可开关阵列中,单个VCSEL 130或VCSEL 130组可以单独地开启或关闭。VCSEL 130可以与适合的光学装置、例如微透镜组合,以对光学布置结构210照明。发射激光的VCSEL 130或VCSEL130组与光学布置结构210的组合优选地使得视场300中的整个场景被照明图案20照明。在这种情况下,光学布置结构210包括畸变装置和一个衍射光学元件。畸变装置被布置为能够改变衍射光学元件的部分的空间布置结构,以提供不同照明图案20。因此,可开关VCSEL阵列100和光学布置结构210的组合能够投影多个照明图案20,如图3所述,所述多个照明图案20可以用于重建视场中的场景的深度图像50。VCSEL阵列100可以是例如包括可以单独开关的总共8组VCSEL(段)的4×2阵列。VCSEL阵列100可以被布置为使得在每个开关状态下同时开启4个段。这实现70个不同的开关状态,并因此得到可以通过VCSEL阵列100提供的多达V=70个不同照明图案20。光学布置结构210可以被布置为能够提供O=50个不同照明图案。在P=160×160像素的情况下,这将实现多达N=3500个不同照明图案20,足以满足10%的标准。
图5示出了可以在飞行时间深度相机200中使用的第三图案投影仪205的原理简图。图案投影仪205包括被布置为使得所有VCSEL 130同时发射激光脉冲10的VCSEL阵列100。光学布置结构包括第一光学装置212(例如,第一DOE)和第二光学装置214(例如,第二DOE)。第一光学装置212和第二光学装置214之间的空间关系可以借助于操纵器217来改变。在该实施例中,操纵器217被布置为能够使第一光学装置212和第二光学装置214相对于彼此(一个DOE被固定)绕共同的轴线以0.5°的步长旋转。这实现可以用于重建在视场300中的场景的深度图像50的720个不同照明图案20。
图6示出了可以在飞行时间深度相机200中使用的第四图案投影仪205的原理简图。总体配置与关于图4所讨论的相似。在这种情况下,VCSEL阵列100是可开关阵列,在可开关阵列中,单个VCSEL 130或VCSEL 130组可以单独地开启或关闭。VCSEL阵列100可以例如是包括可以单独开关的总共16组VCSEL(段)的4×4阵列。VCSEL阵列100可以被布置为使得在每个开关状态下同时开启8个段。第四图案投影仪205还包括光学布置结构210,光学布置结构210包括可开关光调制器,可开关光调制器被布置为能够提供O个不同照明图案。光学布置结构210还包括复制光学结构216,复制光学结构216被布置为能够复制可以通过可开关光调制器提供的照明图案,使得视场中提供的不同照明图案20包括通过可开关光调制器提供的四个照明图案的阵列。第四图案投影仪205被布置为能够与包括2×2的传感器像素222的传感器220交互(见图7)。每个传感器像素222被布置为能够监测四个照明图案的阵列中的子照明图案中的一个。这得到四个图像,其中,每个图像的特征在于每检测器像素222的160/2×160/2、即80×80的子分辨率(在总分辨率为160×160像素的情况下)。因此,对于每个检测器像素222有6400个像素。在该特定实施例中,传感器像素222的贡献量为D=4。为了重建深度图像50的4个四分之一中的一个,可能需要20%的不同照明图案20。这得到V×O=1280个不同照明图案,所述照明图案需要通过VCSEL阵列100和光学布置结构210的组合来提供。在本实施例中,考虑到总分辨率P=160×160,检测到的不同照明图案的总数量N由N=D×V×O给出。每个传感器像素222检测V×O个(在此实施例中为1280个)图案,以重建深度图像50的被相应传感器像素222覆盖或观察到的部分。在此实施例中,深度图像50的被单个传感器像素222观察到的部分的特征在于分辨率P/D。
对于VCSEL阵列100,仅查看投影到视场300的相应部分中的那些段就是足够的。VCSEL阵列100的特征可在于4×4个段,然后,四分之一图像中的每个将“看见”2×2的分段VCSEL阵列110,其对于一半的段同时被照明仅产生V=6个不同照明图案20。然后,光学布置结构将需要产生O=214个不同照明图案20。
出于说明目的,在分辨率P=160×160的情况下,可以比较不同的情况:
光检测器200:2×2的4个传感器像素222;D=4
对于每个图像部分,需要1280个不同照明图案20
VCSEL阵列100:4×4的16个段,但对于每个单独的传感器像素222,仅4个段有效地可操作,所以V=6个图案
光学布置结构210:O=214个图案,以满足20%的条件
光检测器200:1×1的1个传感器像素222;D=1
需要5120个不同照明图案20
VCSEL阵列100:4×4的16个段——原则上可以产生12870个不同照明图案20,其中有8个段被照明。然而,由于VCSEL段图案不是像素级的伪随机噪声而是大的斑点,因此它们可能不太“有用”。对于图像重建的“有用”的VCSEL图案的可位于段的数量至段组合的数量之间。照明图案可能彼此太靠近,以至于不能用作对图像重建完全有用的不同照明图案,它们在一起没有足够的噪声。避免这种影响的一种选择是使用如上所述的以随机图案布置的VCSEL 130。
光学布置结构210:为了在此基础上满足20%的条件,几乎不需要不同照明图案20,而实际上为了在重建的深度图像50中获得精细的像素细节,可提供约100个不同照明图案20。
图7示出了飞行时间深度相机200的原理简图。飞行时间深度相机200包括VCSEL阵列100和光学布置结构210。VCSEL阵列100被布置为能够发射激光10,该激光10随后被光学布置结构210变换为变换后激光150,以对视场300照明。变换后激光150的一部分被场景中的对象反射,从而反射的激光被光学成像装置240(即,透镜或透镜布置结构)接收,光学成像装置240将接收到的激光成像到光检测器220。反射的激光在光检测器220中引起相应的电信号,该电信号表示适时在特定时刻检测到的检测的照明图案。电驱动器230被布置为能够电驱动VCSEL阵列100或可选地分开驱动VCSEL阵列100的每个VCSEL 130或VCSEL 130的子组,以能够在视场300中实现多个不同照明图案20。此外,电驱动器230被布置为能够驱动光学布置结构210,以能够在视场300中实现多个不同照明图案20。控制器250与电驱动器230连接,以控制VCSEL阵列100和光学布置结构210。控制器250还与光检测器220连接,以接收由通过光检测器220检测到的反射激光引起的电信号。飞行时间深度相机200包括分析评估器255,在此实施例中,分析评估器255被控制器250包括,以基于借助于光检测器220检测的多个照明图案20并通过关于VCSEL阵列100和光学布置结构210提供的照明图案20的相应信息,来重建视场300中的场景的深度图像50。在此实施例中,飞行时间深度相机200包括用于传输深度图像50的图像数据的接口235。接口235可替代地或附加地被布置为能够传输响应于通过光检测器220接收的反射激光而通过光检测器220提供的电信号的原始数据。
图8示出了从以预定像素数量的分辨率从限定的视场提供深度图像的方法的处理流程的原理简图。在步骤410中,改变VCSEL阵列100和光学布置结构210之间的光学相互作用。在步骤420中,通过改变光学相互作用提供多个不同照明图案20。在步骤430中,检测不同照明图案,例如通过可包括一个单个检测器像素的光检测器220来检测不同照明图案。在限定的视场中的参考面中检测的不同照明图案的数量为预定像素数量的至少5%、优选为预定像素数量的至少10%以及最优选为预定像素数量的至少20%。在步骤440中,基于检测的不同照明图案20来重建视场300的深度图像50。
光学投影系统(例如,2个DOE)包含产生多个类似噪声的投影图像的能力,这些图像由于修改光学器件的组件之间的关系而从一个图案变为另一图案,光学投影系统用于生成例如单像素飞行时间数据成像系统(压缩采样成像)所需的多个投影图案。一个或两个以上激光脉冲以各个不同的图案投影,并且单个“斗式”传感器从反射的光中收集最终的飞行时间数据。然后,计算机重建算法由该数据的全部集合产生完整的高分辨率深度图像50。飞行时间相机可包括:
1.一种图案产生系统,通过该图案生成系统,一个或多个VCSEL芯片发送光脉冲穿过2个(或更多个)光学元件(例如,DOE),并且通过光学元件衍射的光作为噪声图案被投影到视场中的场景上。
2.单个像素ToF传感器记录从视场中的整个场景反射的光的时间和强度。
3.光学元件之间的关系例如通过使外部光学元件相对于内部光学元件少量旋转(例如10度)来改变。
4.VCSEL发送另一光脉冲穿过光学器件,不同的噪声图像投影到场景上,并且再次通过单个像素ToF传感器记录来自整个场景的反射光。
5.在完成完整的一套光学元件的位置改变后——例如,每个光学元件每次改变可以旋转10度的角度,因此2个光学元件的投影图案的总数量为36×36=1296——获取全部数据集合。
6.一种重建算法,该重建算法已知通过图案产生系统产生的全套图案、获取数据集合并且重建高分辨率深度图像50。
尽管已经在附图和前述描述中详细示出和描述了本发明,但是这种示出和描述应被认为是说明性或示例性的,而不是限制性的。
通过阅读本公开,其他修改对于本领域技术人员将是显而易见的。这样的修改可以包括本领域中已知的并且可以代替或附加于已经在此描述的特征使用的其他特征。
通过研究附图、公开内容和所附的权利要求,本领域技术人员可以理解和实现所公开的实施例的变型。在权利要求中,词语“包括”不排除其他元件或步骤,而单数形式不排除多个元件或步骤。特定措施被记载在相互不同的从属权利要求中的这个事实不表示这些措施的组合不能被有利地使用。
权利要求中的任何附图标记不应被解释为限制权利要求的范围。
附图标记列表:
10 激光
20 照明图案
32 视场中的检测的照明图案
50 深度图像
100 VCSEL阵列
130 VCSEL
150 变换后激光
200 飞行时间深度相机
205 图案投影仪
207 飞行时间传感器模块
210 光学布置结构
212 第一光学装置
214 第二光学装置
215 反射激光
216 复制光学结构
217 操纵器
220 光检测器
230 电驱动器
235 接口
240 光学成像装置
250 控制器
255 分析评估器
300 视场
410 改变光学相互作用步骤
420 提供照明图案步骤
430 检测照明图案步骤
440 重建深度图像步骤

Claims (12)

1.一种飞行时间深度相机(200),所述飞行时间深度相机(200)包括VCSEL阵列(100)、光学布置结构(210)、分析评估器(255)以及包括至少一个检测器像素(222)的光检测器(220),其中,VCSEL阵列(100)或光学布置结构(210)被布置为能够在飞行时间深度相机(200)的限定的视场(300)中的参考面中提供不同照明图案(20),其中,光检测器(220)被布置为能够检测所述不同照明图案(20),其中,分析评估器(255)被布置为能够基于检测的不同照明图案(20)以预定像素数量P的分辨率重建视场(300)的深度图像(50),其中,检测的不同照明图案(20)的数量N为所述预定像素数量P的至少5%,其中,VCSEL阵列(100)是可寻址VCSEL阵列,其中,VCSEL阵列(100)被布置为能够通过对VCSEL阵列(100)的不同VCSEL(130)寻址来提供不同照明图案(20),其中,光学布置结构(210)包括复制光学结构(216),其中,复制光学结构被布置为能够跨越照明图案(20)复制通过VCSEL阵列(100)提供的光图案,使得照明图案(20)包括两个、三个、四个或更多个子照明图案,其中,光检测器(220)被布置为能够使得各个检测器像素(222)检测相应的子照明图案。
2.根据权利要求1所述的飞行时间深度相机(200),其中,所述不同照明图案(20)是伪随机照明图案。
3.根据权利要求1所述的飞行时间深度相机(200),其中,VCSEL阵列(100)的VCSEL(130)以随机图案布置,使得通过VCSEL阵列(100)提供的不同照明图案(20)的数量增加。
4.根据权利要求1所述的飞行时间深度相机(200),其中,检测的不同照明图案(20)的数量N为所述预定像素数量P的至少10%。
5.根据权利要求1所述的飞行时间深度相机(200),其中,检测的不同照明图案(20)的数量N为所述预定像素数量P的至少20%。
6.根据前述权利要求中的任一项所述的飞行时间深度相机(200),其中,检测的不同照明图案的数量N小于所述预定像素数量P。
7.根据权利要求6所述的飞行时间深度相机(200),其中,检测的不同照明图案的数量N小于所述预定像素数量P的50%。
8.根据权利要求6所述的飞行时间深度相机(200),其中,检测的不同照明图案的数量N小于所述预定像素数量P的40%。
9.一种以预定像素数量P的分辨率从限定的视场(300)提供深度图像(50)的方法,所述方法包括以下步骤:
改变VCSEL阵列(100)与光学布置结构(210)之间的光学相互作用,其中,VCSEL阵列(100)是可寻址VCSEL阵列,
通过改变所述光学相互作用来提供多个不同照明图案(20),
检测所述不同照明图案(20),其中,在限定的视场(300)中的参考面中检测的不同照明图案(20)的数量N为所述预定像素数量P的至少5%,
基于检测的不同照明图案(20)重建视场(300)的深度图像(50),
通过对可寻址VCSEL阵列的不同VCSEL(130)寻址来提供不同的照明图案(20),
借助于光学布置结构(210)包括的复制光学结构(216)跨越照明图案(20)复制通过可寻址VCSEL阵列(100)提供的光图案,使得照明图案(20)包括两个、三个、四个或更多个子照明图案,以及
通过各个检测器像素(222)检测相应的子照明图案。
10.根据权利要求9所述的方法,其中,在限定的视场(300)中的参考面中检测的不同照明图案(20)的数量N为所述预定像素数量P的至少10%。
11.根据权利要求9所述的方法,其中,在限定的视场(300)中的参考面中检测的不同照明图案(20)的数量N为所述预定像素数量P的至少20%。
12.一种包括代码工具的计算机程序载体,所述代码工具能够保存在根据权利要求1至8中的任一项所述的飞行时间深度相机(200)所包括的至少一个存储装置上或者能够保存在包括飞行时间深度相机(200)的装置的至少一个存储装置上,其中,所述代码工具被布置为使得根据权利要求9至11中的任一项所述的方法能够借助于飞行时间深度相机(200)所包括的至少一个处理装置来执行或者借助于包括飞行时间深度相机(200)的装置的至少一个处理装置来执行。
CN201880067397.2A 2017-09-01 2018-08-29 利用低分辨率像素成像的飞行时间深度相机 Active CN111213068B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP17188935.5 2017-09-01
EP17188935.5A EP3451023A1 (en) 2017-09-01 2017-09-01 Time-of-flight depth camera with low resolution pixel imaging
PCT/EP2018/073219 WO2019043052A1 (en) 2017-09-01 2018-08-29 DEPTH TIME CAMERA WITH LOW RESOLUTION PIXEL IMAGING

Publications (2)

Publication Number Publication Date
CN111213068A CN111213068A (zh) 2020-05-29
CN111213068B true CN111213068B (zh) 2023-12-19

Family

ID=59761810

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880067397.2A Active CN111213068B (zh) 2017-09-01 2018-08-29 利用低分辨率像素成像的飞行时间深度相机

Country Status (6)

Country Link
US (1) US11796640B2 (zh)
EP (2) EP3451023A1 (zh)
JP (1) JP2020531856A (zh)
KR (1) KR20200045549A (zh)
CN (1) CN111213068B (zh)
WO (1) WO2019043052A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN208572292U (zh) * 2018-03-18 2019-03-01 宁波舜宇光电信息有限公司 深度信息摄像模组及其基座组件和电子设备
WO2020025382A1 (en) * 2018-08-01 2020-02-06 Lumileds Holding B.V. Depth map generator
DE102018222777A1 (de) * 2018-12-21 2020-06-25 Robert Bosch Gmbh Optoelektronischer Sensor und Verfahren zum Betreiben eines optoelektronischen Sensors
DE102018251719A1 (de) 2018-12-27 2020-07-02 Robert Bosch Gmbh Verfahren und Steuergerät zur Regelung eines Füllstands eines Speichers eines Katalysators für eine Abgaskomponente bei fehlender Sondenbetriebsbereitschaft
US11587247B1 (en) 2019-04-03 2023-02-21 Meta Platforms Technologies, Llc Synchronous event driven readout of pixels in a detector for direct time-of-flight depth sensing
WO2021040476A1 (ko) 2019-08-30 2021-03-04 엘지이노텍 주식회사 Tof 카메라
DE102019217165A1 (de) * 2019-11-07 2021-05-12 Robert Bosch Gmbh Betriebsverfahren und Steuereinheit für ein LiDAR-System, LiDAR-System und Vorrichtung
US11480684B2 (en) * 2020-06-18 2022-10-25 Meta Platforms Technologies, Llc Time of flight depth system including an illumination source with addressable illumination blocks
KR20220075016A (ko) 2020-11-26 2022-06-07 삼성전자주식회사 이미징 장치
FR3117587B1 (fr) * 2020-12-11 2022-12-23 Commissariat Energie Atomique Méthode de mesure compressive de la distribution statistique d’une grandeur physique
CN113395501B (zh) * 2021-06-15 2022-03-08 北京理工大学 一种基于互补性质的傅里叶单像素成像方法
JP7413426B2 (ja) * 2022-03-18 2024-01-15 維沃移動通信有限公司 投光装置、測距装置及び電子機器
WO2024115392A1 (en) * 2022-11-28 2024-06-06 Ams-Osram Ag Method for configuring a field of view of a low resolution time of flight sensor, system, computer program and computer-readable storage medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008021465A1 (de) * 2008-04-29 2009-11-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Entfernungsmesssystem
CN102385237A (zh) * 2010-09-08 2012-03-21 微软公司 基于结构化光和立体视觉的深度相机
CN105115445A (zh) * 2015-09-14 2015-12-02 杭州光珀智能科技有限公司 基于深度相机与双目视觉复合的三维成像系统及成像方法
CN105705964A (zh) * 2013-10-09 2016-06-22 微软技术许可有限责任公司 发射结构化光的照射模块
CN105992960A (zh) * 2014-02-10 2016-10-05 微软技术许可有限责任公司 用于深度相机的vcsel阵列

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1687588A2 (en) 2003-11-17 2006-08-09 University de Liege Process and apparatus for measuring the three-dimensional shape of an object
CN104783757B (zh) * 2009-06-17 2018-01-05 3形状股份有限公司 聚焦扫描设备
US8736818B2 (en) * 2010-08-16 2014-05-27 Ball Aerospace & Technologies Corp. Electronically steered flash LIDAR
US8982363B2 (en) * 2011-10-07 2015-03-17 Massachusetts Institute Of Technology Method and apparatus to determine depth information for a scene of interest
US8743923B2 (en) * 2012-01-31 2014-06-03 Flir Systems Inc. Multi-wavelength VCSEL array to reduce speckle
US9268012B2 (en) * 2013-07-12 2016-02-23 Princeton Optronics Inc. 2-D planar VCSEL source for 3-D imaging
US9874638B2 (en) * 2014-03-06 2018-01-23 University Of Waikato Time of flight camera system which resolves direct and multi-path radiation components
EP3161520B1 (en) * 2014-06-27 2021-10-13 HRL Laboratories, LLC Compressive scanning lidar
US9823350B2 (en) * 2014-07-31 2017-11-21 Raytheon Company Linear mode computational sensing LADAR
WO2016024200A2 (en) * 2014-08-12 2016-02-18 Mantisvision Ltd. Structured light projection and imaging
US20160205378A1 (en) * 2015-01-08 2016-07-14 Amir Nevet Multimode depth imaging
KR102597579B1 (ko) * 2015-10-21 2023-11-01 프린스톤 옵트로닉스, 인크. 코딩된 패턴 투영기
US10007994B2 (en) * 2015-12-26 2018-06-26 Intel Corporation Stereodepth camera using VCSEL projector with controlled projection lens
US9992474B2 (en) * 2015-12-26 2018-06-05 Intel Corporation Stereo depth camera using VCSEL with spatially and temporally interleaved patterns

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008021465A1 (de) * 2008-04-29 2009-11-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Entfernungsmesssystem
WO2009132761A1 (de) * 2008-04-29 2009-11-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Entfernungsmesssystem
CN102385237A (zh) * 2010-09-08 2012-03-21 微软公司 基于结构化光和立体视觉的深度相机
CN105705964A (zh) * 2013-10-09 2016-06-22 微软技术许可有限责任公司 发射结构化光的照射模块
CN105992960A (zh) * 2014-02-10 2016-10-05 微软技术许可有限责任公司 用于深度相机的vcsel阵列
CN105115445A (zh) * 2015-09-14 2015-12-02 杭州光珀智能科技有限公司 基于深度相机与双目视觉复合的三维成像系统及成像方法

Also Published As

Publication number Publication date
WO2019043052A1 (en) 2019-03-07
US11796640B2 (en) 2023-10-24
EP3676637A1 (en) 2020-07-08
JP2020531856A (ja) 2020-11-05
EP3676637B1 (en) 2022-11-02
US20200217931A1 (en) 2020-07-09
CN111213068A (zh) 2020-05-29
EP3451023A1 (en) 2019-03-06
KR20200045549A (ko) 2020-05-04

Similar Documents

Publication Publication Date Title
CN111213068B (zh) 利用低分辨率像素成像的飞行时间深度相机
US11294056B2 (en) LIDAR with spatial light modulator
US10218963B2 (en) Scanning projectors and image capture modules for 3D mapping
KR102401671B1 (ko) 홀로그램 광 검출 및 거리 측정 시스템
EP3500820A1 (en) Structured light projector
US20040037462A1 (en) Pattern recognition and other inventions
EP3341967B1 (en) Imaging apparatus and method
KR20170002386A (ko) 소형 3d 깊이 캡처 시스템
JP2002525762A (ja) パターン認識に関する改良
CN111649691A (zh) 基于单像素探测器的数字条纹投影三维成像系统及方法
EP3136712A1 (en) Imaging apparatus and method
CN114127617A (zh) 用于具有高精度和实时对象跟踪的3d姿态测量的系统和方法
GB2541675A (en) Imaging apparatus and method
CN110199206B (zh) 全息光探测和测距
JP2020136837A (ja) 3次元画像用の撮像装置および3次元画像用の撮像表示装置
CN111771311B (zh) 具有不规则发射图案的激光器布置结构
EP1417453A1 (en) Device and method for 3d imaging
EP3913754A1 (en) Light source for structured light, structured light projection apparatus and system
US11460551B2 (en) Virtual array method for 3D robotic vision
GB2529708A (en) System and method for condition detection
Barta Gonzàlez Single pixel imaging: a study of the illumination system position
CN116229122A (zh) 结构光图像立体匹配方法、系统、设备及存储介质
Wu et al. Optical calibration of a digital micromirror device (DMD)-based compressive imaging (CI) system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
CB02 Change of applicant information

Address after: Ulm

Applicant after: Tongkuai optoelectronic device Co.,Ltd.

Address before: Ulm

Applicant before: Tongkuai photonics Co.,Ltd.

CB02 Change of applicant information
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant