CN102314707A - 对2d图像的扫描束深度映射 - Google Patents

对2d图像的扫描束深度映射 Download PDF

Info

Publication number
CN102314707A
CN102314707A CN2011101288239A CN201110128823A CN102314707A CN 102314707 A CN102314707 A CN 102314707A CN 2011101288239 A CN2011101288239 A CN 2011101288239A CN 201110128823 A CN201110128823 A CN 201110128823A CN 102314707 A CN102314707 A CN 102314707A
Authority
CN
China
Prior art keywords
image
depth
light
modulation
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2011101288239A
Other languages
English (en)
Inventor
J·卢蒂安
S·巴斯彻
D·伊
J·R·刘易斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of CN102314707A publication Critical patent/CN102314707A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4817Constructional features, e.g. arrangements of optical elements relating to scanning
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本发明公开了对2D图像的扫描束深度映射。一种用于构建对象的3D表示的方法,包括用相机捕捉该对象的2D图像。该方法还包括在对象上扫描已调制照射束,以便一次照射该对象的多个目标区域,并且从反射自每一目标区域的照射束中测试光的调制方面。使用移动反射镜光束扫描仪来扫描该照射束,并且可以使用光检测器来测量该调制方面。该方法还包括基于为每一目标区域所测量的调制方面来计算深度方面,并且将该深度方面与2D图像的对应像素相关联。

Description

对2D图像的扫描束深度映射
技术领域
本发明涉及图像处理技术,尤其涉及图像处理中三维图像的构建。
背景技术
在各种应用中,某种形式的深度映射被用于构建对象或环境的三维(3D)模型。这些应用的范围从例如飞行器导航到机器人到视频游戏。在某些深度映射方法中,以可接受的高二维(2D)映射分辨率和可接受的高帧率来询问该对象或环境可能成为挑战。其他挑战包括通过浅的深度范围来提供精细的、不变的深度分辨率,并且将深度映射与低成本的2D映射技术结合。
发明内容
因此,本发明的一个实施例提供了一种用于构建对象的3D表示的方法,该表示包括亮度以及深度信息。该方法包括用相机捕捉对象的2D图像,该2D图像包括像素阵列以及每一像素的至少一个亮度值。该方法还包括在对象上扫描已调制照射束,以便一次照射该对象的多个目标区域,并且从反射自每一目标区域的照射束中测试光的调制方面。如此处公开的,可以使用移动反射镜光束扫描仪来扫描照射束,并且可以使用光检测器来测量调制方面。该方法还包括基于为每一目标区域所测量的调制方面来计算深度方面,并且将深度方面与2D图像的对应像素相关联。
应该理解,提供以上发明内容以通过简化形式介绍以下详细描述中进一步描述的概念的精选。这并不旨在标识所要求保护主题的关键或必要特征,所要求保护主题的范围由详细描述所附的权利要求书来定义。此外,要求保护的主题不限于解决本文所述的任何缺点的实现。
附图说明
FIG.图1示意性示出根据本发明实施例的3d模型器的平面图。
图2示意性示出根据本发明实施例的由照射束扫描的对象的视图。
图3示意性示出根据本发明实施例的来自图2的详细描述具有相关联的深度方面的2D图像的示例像素结构的部分。
图4示出根据本发明实施例的用于校准3D模型器的示例方法。
图5示出根据本发明实施例的用于构建对象的3D表示的示例方法。
具体实施方式
现在参照所示的特定实施例,通过示例来描述本发明的主题。在一个或多个实施例中基本相同的组件、过程步骤和其它元素被协调地标识并且以重复最小的方式描述。然而应该注意,协调地标识的元素还可以在某种程度上不同。还应该注意,本发明中包括的附图是示意性的并且通常未按照比例绘制。相反,附图中所示的各种绘制比例、纵横比和组件数量可以有目的地失真,以使特定特征或关系更加显见。
图1示例性示出一个实施例中3D模型器10的平面图。3D模型器被安排成与对象12相对,并且被配置成构建一对象的3D表示——即用于编码该对象的3D模型,这包括亮度和深度信息两者。
3D模型器10包括相机14——数码相机,它被配置成捕捉对象12的2D图像并且将该图像编码成像素阵列,每一像素具有至少一个可变亮度和/或色彩值。此处使用的术语‘像素’符合数码成像领域中的常见使用;图像的像素可相应地被排列在跨笛卡尔坐标X和Y的矩形阵列中。在图1中示出的实施例中,相机包括透镜16、光圈18以及光检测器阵列20。透镜通过光圈对来自对象的光进行聚焦,并且聚焦于形成2D图像的检测器阵列上。光检测器可以是例如CMOS、CCD、和/或光电二极管阵列。在一个实施例中,光检测器阵列可包括各种色敏光检测器元件。因此,相机14可以是彩色相机,并且2D图像可以是每一像素具有两个、三个或更多颜色专用亮度值的彩色图像。此外,相机的波长敏感度可扩展到红外或近红外。
在一个实施例中,相机14可被配置以供标准SVGA分辨率——即,它可形成具有沿第一轴的800或更多像素以及沿与第一轴正交的第二轴的600或更多像素的2D图像。在其他实施例中,相机可被配置以供更高或更低的分辨率——例如640x480的VGA分辨率。在一个实施例中,相机可被配置成不仅捕捉该对象的静态2D图像,还捕捉一系列快速连续的2D图像。因此,相机可以是摄像机,该摄像机按适用于视频应用的帧速率来捕捉图像——例如,按每秒三十至六十帧。
在图1中示出的实施例中,滤光器22覆盖光圈18,使得只有穿过滤光器的光到达光检测器阵列20。其他实施例可包括一系列这样排列的滤光器——例如,偏振、干涉、和/或色彩滤光器。以此方式,相机14可被配置成对一个或多个预定义的偏振状态或波长范围的光进行成像。
在图1中示出的实施例中,相机14在操作上被耦合到控制器24。控制器被配置成命令并且控制相机的2D图像捕捉,并且接收所捕捉的2D图像。控制器24还可控制3D模型器10或其中安装3D模型器的系统的其他功能。例如,控制器可包括被配置成执行视频游戏应用的玩游戏设备。因此,3D模型器构建的对象12的3D表示可以编码视频游戏应用的输入数据。在一个实施例中,对象可以是视频游戏应用的用户(即,玩家)。3D表示可以编码例如对象的手臂运动、手势和/或姿势。在这些应用中,合适的深度感测范围可以在1至5米的数量级,这与当前公开的示例配置一致。然而,可以注意到本发明决不限于视频游戏应用,并且同样可以设想其他应用和深度感测范围。
在此处考虑的实施例中,由相机14捕捉的2D图像可能无法对与X和Y轴正交的Z方向中的对象12的轮廓进行具体地编码。因此,3D模型器10包括被配置成将深度方面与所捕捉的2D图像的每一像素相关联的附加元件部分。为此,3D模型器被配置成将在时间上的已调制光投射到对象上,并且检测从对象反射回的在时间上的已调制光。可将在反射光的调制中相对于投射光的滞后和/或延迟与已调制光被投射的对象的区域以外的距离相关。此外,通过将已调制光投射到对象的非常小的目标区域上,并且通过在整个对象上扫描该目标区域,3D模型器可被配置成将对象的轮廓映射在Z方向上。为了启用这一功能,3D模型器包括移动反射镜光束扫描仪,如以下进一步描述的。与深度分辨率随着深度增加而减少的其他方法形成对比,在该方法中,按基本上不变的分辨率来感测深度。
现在继续图1,3D模型器10包括激光器26,该激光器26被排列成将其发射引导到低发散照射束28上。在一个实施例中,激光器可以是配置成发射红外光的二极管激光器。如图1所示,激光器在操作上被耦合到控制器24;因此,控制器可被配置成通过控制当前或施加于激光器的电流或电压或按任何其他合适方式来调制照射束的强度。3D模型器还可包括机械地耦合到底座32的反射镜30。反射镜可以包括任何合适的镜面反射器。在一个实施例中,反射镜可以是具有0.1至10毫米的直径的基本圆形。在其他实施例中,可协作地使用两个或多个反射镜,并且这些反射镜可以是圆形、椭圆形和/或另一合适形状。底座可以是支持反射镜并允许反射镜关于两个不同转动轴偏转的任何弹性装备。例如,底座可以是弯曲底座。在一个实施例中,反射镜和底座可以实现共振机械系统。例如,反射镜-底座系统可以呈现几百的共振品质因数。
图1示出在操作上耦合到控制器24的第一换能器34和第二换能器36。第一和第二换能器被配置成使反射镜分别绕第一转动轴38(垂直附图平面定向)和第二转动轴40偏转。第一和第二转动轴彼此并不平行,而且在某些实施例中可以垂直,如图1所示。在此处所示的实施例中,位于双轴底座上的单个反射镜绕垂直转动轴偏转。在其他实施例中,相同的效果可以通过使用各自位于单轴底座上的串联排列的两个反射镜来实现。
在本文所预期的实施例中,第一换能器34和第二换能器36可以包括诸如压电、电磁或静电换能器。控制器24被配置成向每个换能器施加驱动信号(即,改变换能器的驱动电压或电流)并由此影响反射镜30的偏转。在一个特定实施例中,换能器34和36是当跨紧密间隔的板或梳施加高电压时向反射镜提供偏转力的静电换能器。缺乏铁磁或压电材料,静电换能器可以使用标准微机电系统(MEMS)工艺来制造并且可以相对的低成本获得。
如图1所示,照射束28从反射镜30向对象12反射。相应地,控制反射镜绕第一转动轴38和第二转动轴40的偏转允许照射束在对象上行进以照射对象的目标区域42、背景或前景。更精确地,控制反射镜绕第一旋转轴的偏转确定照射目标区域沿X轴的位置,以及控制反射镜绕第二旋转轴偏转确定照射目标区域沿Y轴的位置。
在按以上描述的方式中,换能器34和36可被驱动以使反射镜30偏转,使得照射束28在对象12上扫描。为了映射对象的轮廓,控制器24被配置成在照射束正在对象上扫描的同时与施加到换能器34和36的驱动信号同步地寻址2D图像的各种像素。寻址2D图像的像素包括将所计算的深度方面与该像素相关联,如以下进一步描述的。
在一个实施例中,换能器34和36可通过按接近反射镜底座系统的共振频率的脉冲列频率的脉冲来驱动。因此,照射束28可按沿李萨图周期性地变化的速率来扫描该对象——即,
X(t)=aX*sin(2*π*fX*t+φX),(1)
Y(t)=aY*sin(2*π*fY*t+φY),(2)
其中X(t)和Y(t)定义了根据扫描幅度因子aX和aY、扫描频率fX和fY、相位项φX和φY以及时间t的照射目标区域42的坐标。为了示出某些扫描特征,图2示出描绘出对象12上的李萨图44的照射目标区域42。图2示出相对于图1的对象旋转并且如同在所捕捉的2D图像中出现一样定向的对象。当然,照射目标区域可以绘制出用于适当高分辨率的更高阶李萨图。
图3示意性示出使用相关联的深度方面来详细描述2D图像的示例像素结构的来自图2的一部分。具体而言,2D图像的每一像素被示为具有红色(red)亮度方面、绿色(green)亮度方面、蓝色(blue)亮度方面以及深度(depth)方面。
现在返回图1,3D模型器10包括对象光检测器46,该对象光检测器46被安排成与对象12相对并被配置成接收来自从对象反射的照射束28的光。对象光检测器可以包括光电二极管或光电倍增管,并且可以无透镜以在广角上检测光。在另一实施例中,广角反射或折射光学器件可被用于收集来自照射束的光并且将其引导到检测器上。在又一些实施例中,可出于此目的使用经由全内反射操作的一个或多个光导。在图1所示的实施例中,光通过滤光器47透射到对象光检测器,滤光器可以是例如干涉滤光器或滤色器。对象光检测器被配置成检测来自照射束的窄带光,使得该对象光检测器对由环境光造成的干涉较不敏感。在一个实施例中,滤光器可被配置成使由激光器发射的波长或偏振状态范围的光透过,并且阻挡不是由激光器发射的波长或偏振状态范围的光。
3D模型器还包括传感器板48和参考光检测器50。参考光检测器被安排成接收一小部分来自照射束28的光。传感器板将该小部分朝参考光检测器反射,同时将大部分光朝向反光镜30传送。在一个实施例中,参考光检测器可与对象光检测器基本相同,并且可接收通过滤光器52的光——滤光器52与滤光器47基本相同。
如图1所示,对象光检测器46和参考光检测器50两者在操作上被耦合到控制器24。通过接收并处理来自两个光检测器的输出,控制器可被配置成测量从对象12反射的光相对于从传感器板48反射的光的调制滞后和/或延迟。通过推断,这一滞后或延迟将与从传感器板到对象的照射目标区域42的光程长度直接相关。当照射束在对象的接近区域上扫描时,控制器将测量相对短的调制滞后或延迟;当照射束在对象的远离区域上扫描时,控制器将测量较长的调制滞后或延迟。因此,控制器可被配置成基于所测量的滞后或延迟来计算照射目标区域的深度方面。在其他实施例中,3D模型器可包括附加的光检测器,并且可按任何合适方式对来自各个光检测器的信号进行平均或以其他方式组合,以便计算深度方面。
在某些实施例中,3D模型器的准确度可经由校准来改进。因此,如图1所示,在3D模型器的校准期间,校准对象54可被安排成与3D模型器相对。在一个实施例中,校准对象可包括垂直定向的漫反射屏——即,垂直于X、Y平面。在校准期间,校准对象可被安排在距3D模型器预先确定的或已知的距离(例如1米)。如下文进一步描述的,校准对象可被用于至少两个不同模式的校准:第一模式,用于将每一所计算的深度方面映射到所捕捉的2D图像的对应像素,以及第二模式,用于定义所计算的深度方面。注意,相机的X、Y与扫描图案的X’、Y’之间的匹配将取决于通过扫描束确定的Z,除非2D相机和扫描仪是光学对齐的。这是由于视差。对于Z的每个值,在X、Y与X’、Y’之间存在直接匹配。
在另一个实施例中,被安排在不同深度位置的多个校准元件可被用于作为校准对象54的替代或附加。这些校准元件可提供相对于背景的较大亮度对比。例如,白色和/或灰色校准元素可与黑色背景一起使用。以此方式,可容易地将由相机成像的校准元件与经由光检测器和扫描束系统所检测的对应调制方面相关。校准元件的2D(X、Y)空间位置由此可在来自相机的图像中容易地标识。在其余为空的场景中的这些校准元件的深度允许为每一对象建立确定的深度方面(Z)。因此,在合适的校准过程中,表示校准元素的配置的数据可与所成像的场景几何相关。
因此,上述示例配置允许用于对象的3D模型的编码各种方法。现在继续参照以上配置,通过示例来描述一些此类方法。然而,应该理解,本文所述的方法以及完全落在本发明范围内的其它等效方案也可以经由其它配置来实现。
图4示出根据本发明的用于校准3D模型器的示例方法56。方法利用如上所述的校准对象。在58,调制照射束并在校准对象上扫描以便在校准对象上照射校准图案。在校准期间,可按通过整数划分的fx和/或fy导出的频率对照射束进行脉冲调制。如此获得的校准图案可包括一系列线或点。在60,捕捉在这样形成图案的照射下的校准对象的2D图像。图像可由3D模型器的相机来捕捉——例如相机14。在62,校准图案的一个或多个特征(例如线和点)位于2D图像中,以便定义2D映射函数。换言之,确定特征的X和/或Y坐标。在64,基于这些坐标,定义2D映射函数,用于将照射束下的每一目标区域映射到2D图像的像素。在一个实施例中,2D映射函数可以如上述等式1和2中描述的,带有所定义的幅度因子和相位项,使得X(t)和Y(t)与此处确定的X和Y坐标重合。在校准图案的多个特征的坐标被定位的实施例中,可使用全局最小平方适应来获得幅度因子和相位项的最优集合,以供在2D映射函数中使用。
继续图4,在66,测量从校准对象反射的光的调制方面,以便定义深度映射函数。所测量的具体调制方面在本发明的各实施例有所不同。以下将参考图5描述诸如相位延迟和脉冲延迟等某些示例调制方面。无论所测量的具体调制方面如何,在方法56的68,定义深度映射函数用于将每一所测量的调制方面变换成对应的深度方面。为定义深度映射函数,将所测量的调制方面与深度方面相关的可调整参数可以被设置或调整,使得在校准期间所测量的深度方面与3D模型器10与校准对象54之间预先确定的或已知的距离相对应。68之后,该方法返回。
图5示出在一个实施例中用于构建对象的3D表示的示例方法70。在72,捕捉对象的2D图像。基本如上所述,2D图像可由3D模型器的相机来捕捉。在74,在对象上扫描调制照射束,以便一次照射对象的多个目标区域。基本如上所述,可使用移动反射镜光束扫描仪来在对象上扫描照射束。在本发明的不同实施例中,照射束可被不同地调制。在一个实施例中,照射束可以是脉冲调制的——即相对窄的脉冲串,具有小于百分之五十的占空比。例如,脉冲串可包括200MHz频率的2纳秒脉冲。在其他实施例中,照射束可以被波调制成任何周期性函数。在一个这样的实施例中,照射束可以被调制成正弦波;在一个示例中,可使用30MHz的正弦波调制。
在76,使用一个或多个光检测器来测量从每一目标区域反射的光的调制方面。如以上注意的,在本发明的不同实施例中,可以测量不同的调制方面。
在一个实施例中,其中照射束是脉冲调制的,可以在76测量脉冲延迟(即相对脉冲定时)并且用于计算深度方面。例如,如果参考光检测器50在时间tR检测到调制脉冲,并且对象光检测器46在时间tS检测到相同的调制脉冲,则从传感器板48到照射目标区域42以及回到对象光检测器46的光程的长度L将由下式给出:
L=(tS-tR)/c,(3)
其中c是光在空气中的速度。由此,通过同时监视两个光检测器的输出以及通过对延迟tS-tR估计,可以确定的L值。
在另一个实施例中,其中照射束是波调制的,可以在76测量相位延迟(即相对调制相位)并且用于计算深度方面。例如,如果对照射束的强度进行正弦调制,则参考光检测器50的输出会是:
PR*sin(ω*t),(4)
但对象光检测器46的输出会是:
PS*sin(ω*t+ω*L/c),(5)
其中PR和PS是常数,并且ω是调制的角频率。由此,通过同时监视光检测器的输出以及通过应用合适的相位检测方法,可以确定的L值。
在78,基于所测量的调制方面来计算每一目标区域的深度方面。在反射镜30相对于对象12更接近于传感器板48的实施例中,
L≈2*sqrt((ΔX)2+(ΔY)2+(ΔZ)2),(6)
其中ΔX、ΔY和ΔZ是从反射镜30分别沿X、Y和Z轴到照射目标区域42的距离。经由等式1和2,可为正扫描的照射目标区域确定ΔX和ΔY。因此,可以容易地为该目标区域计算深度方面ΔZ。在80,为每一目标区域所计算的深度方面与2D图像的对应像素相关联。在一个实施例中,2D映射函数可用于此目的——在先前方法的64处定义2D映射函数。因此,将深度方面与2D图像的对应像素相关联可包括将多个目标区域映射到2D图像的对应多个像素。
在又一实施例中,经由校准所确定的深度映射函数(例如在方法56的68处)可被用于细化根据方法70来计算的深度方面。非理想的控制器电路可引起对参考光检测器与对象光检测器的不相等的响应时间,这在所计算的脉冲延迟或相位延迟中可导致系统错误。因此,深度映射函数可被用于将所测量的脉冲延迟或相位延迟从明显变换成细化值,尽管有这样的非理想性。
在此处设想的实施例中,调制方面随着照射束在对象上扫描被周期性地测量,由此定义了沿X轴的深度采样分辨率、以及沿Y轴的深度采样分辨率。换言之,当照射束28正在对象上被扫描时,对沿X轴的给定分辨率以及对于沿Y轴的给定分辨率,照射目标区域42的位置可能是已知的。这些分辨率可受各种因素的限制,例如,包括反射镜30的偏转幅度、照射束28的散度以及驱动换能器34和36的时钟脉冲频率。在某些实施例中,沿一个轴或两个轴的深度采样分辨率可以低于沿相同轴的2D图像的分辨率。在这些实施例中,鉴于以上参考的2D映射函数,将深度方面与所捕捉的2D图像的每一像素相关联可包括将所计算的深度方面与几何上最接近于照射目标区域的像素相关联。深度方面随后可通过对几何上不是最接近于目标区域的像素的内插来估计。由此,可基于与图像的其他像素相关联的两个或更多深度方面来对2D图像的像素内插一深度方面。此外,在所捕捉的2D图像在相同对象的一系列所捕捉的视频帧之中的实施例中,与该系列所捕捉的视频帧中对应像素相关联的深度方面可被一起平均,以便在所计算的深度方面实现更好的信噪比。
应该理解,在某些实施例中,可以省略本文所述和/或所示的某些进程步骤而不背离本公开的范围。类似地,可以不总是要求所述的进程步骤序列实现目标结果,而是为了示出和描述简单而提供的。所示动作、功能或操作中的一个或多个可以重复执行,这取决于所使用的特定策略。
最后,可以理解,此处描述的制品、系统和方法在本质上是示例性的,并且这些具体实施例或示例不被认为是限制意义,因为多个变型是可能的。因此,本公开包括此处所公开的各种系统和方法的所有新颖和非显而易见的组合和子组合,及其任何和所有的等效方案。

Claims (15)

1.一种用于构建对象(12)的3D表示的方法(70),所述表示包括亮度和深度信息,所述方法包括:
用相机(14)捕捉(72)所述对象的2D图像,所述2D图像包括像素阵列以及每一像素的至少一个亮度值;
用移动反射镜光束扫描仪(10)在对象上扫描(74)调制照射束(28),以便一次照射所述对象的多个目标区域(42);
用光检测器(46)测量(76)来自从所述目标区域的每一个所反射的照射束的光的调制方面;
基于所测量的调制方面为所述目标区域的每一个计算(78)深度方面;以及
将为所述目标区域的每一个所计算的深度方面与所述2D图像的对应像素相关联(80)。
2.如权利要求1所述的方法,其特征在于,测量所述调制方面包括测量相位延迟。
3.如权利要求1所述的方法,其特征在于,测量所述调制方面包括测量脉冲延迟。
4.如权利要求1所述的方法,其特征在于,将所述深度方面与所述2D图像的对应像素相关联包括将多个目标区域映射到所述2D图像的对应的多个像素。
5.如权利要求4所述的方法,其特征在于,将所述多个目标区域映射到所述2D图像的对应的多个像素包括:
在校准对象上调制并扫描所述照射束,以便将校准图案投射在所述校准对象上;
捕捉所述校准对象的2D图像;
将所述校准图案的一个或多个特征定位在所述2D图像中,以便定义2D映射函数;以及
应用所述2D映射函数以将所述多个目标区域映射到所述对应的多个像素。
6.如权利要求5所述的方法,其特征在于,还包括测量从所述校准对象反射的光的调制方面以定义深度映射函数,其中计算所述深度方面包括将所述深度映射函数应用于为所述目标区域的每一个所测量的调制方面。
7.如权利要求4所述的方法,其特征在于,随所述照射束在所述对象上扫描周期性地测量所述调制方面,由此定义沿轴的深度采样分辨率,其中所述深度采样分辨率低于沿相同轴的2D图像的分辨率,并且所述方法还包括基于与所述对应的多个像素相关联的两个或多个深度方面来为所述2D图像的像素内插一深度方面。
8.如权利要求1所述的方法,其特征在于,捕捉所述2D图像包括捕捉具有每一像素两个或更多色彩专用亮度值的色彩图像。
9.如权利要求1所述的方法,其特征在于,所捕捉的2D图像在一系列所捕捉的相同对象的视频帧之中。
10.一种用于构建对象(12)的3D表示的系统(10),所述表示包括亮度和深度信息,所述系统包括:
相机(14),被设置成与所述对象相对,并且被配置成捕捉所述对象的2D图像;
至少一个激光器(26),被设置成引导光进入照射束(28);
控制器(24),被配置成调制所述照射束的强度,并且接收来自所述相机的2D图像;
反射镜(30),被耦合到底座(32),并且被配置成反射所述照射束;
换能器(34、36),操作上被耦合到所述控制器并且被配置成偏转所述反射镜,使得调制照射束在所述对象上扫描从而一次照射所述对象的多个目标区域(42);以及
第一光检测器(60),操作上被耦合到所述控制器,并且被配置成测量来自从所述目标区域的每一个所反射的照射束的光的调制方面,
其中,所述控制器还被配置成基于为所述目标区域的每一个所测量的调制方面来计算深度方面,并且将为所述目标区域的每一个所计算的深度方面与所述2D图像的对应像素相关联。
11.如权利要求10所述的系统,其特征在于,还包括传感器板,被设置在所述激光与所述反射镜之间,并且被配置成将所述照射束的一部分反射到第二光检测器,所述第二光检测器在操作上被耦合到所述控制器并且被配置成为所述对象的多个目标区域的每一个测量从所述传感器板反射的光的调制方面。
12.如权利要求10所述的系统,其特征在于,还包括光通过滤光器,通过所述滤光器光被允许射入所述第一光检测器,所述滤光器被配置成使由所述激光器发射的波长或偏振状态范围的光透过、并且阻挡不是由所述激光器发射的波长或偏振状态范围的光。
13.如权利要求10所述的系统,其特征在于,所述激光器是红外发射激光器。
14.如权利要求10所述的系统,其特征在于,所述相机是红外的以及可见光敏感的相机。
15.如权利要求10所述的系统,其特征在于,所述控制器被进一步配置成执行视频游戏应用,其中所述对象的3D表示是所述视频游戏应用的输入数据。
CN2011101288239A 2010-05-12 2011-05-11 对2d图像的扫描束深度映射 Pending CN102314707A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/778,864 2010-05-12
US12/778,864 US8330804B2 (en) 2010-05-12 2010-05-12 Scanned-beam depth mapping to 2D image

Publications (1)

Publication Number Publication Date
CN102314707A true CN102314707A (zh) 2012-01-11

Family

ID=44911449

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2011101288239A Pending CN102314707A (zh) 2010-05-12 2011-05-11 对2d图像的扫描束深度映射

Country Status (2)

Country Link
US (1) US8330804B2 (zh)
CN (1) CN102314707A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105573505A (zh) * 2016-01-28 2016-05-11 异视科技(北京)有限公司 车载平视显示器、空间定位方法及汽车
CN108541304A (zh) * 2015-04-29 2018-09-14 苹果公司 具有灵活扫描图案的飞行时间深度映射
CN110325879A (zh) * 2017-02-24 2019-10-11 亚德诺半导体无限责任公司 用于压缩三维深度感测的系统和方法
CN113614486A (zh) * 2019-01-17 2021-11-05 大学健康网络 用于创伤和组织标本的三维成像、测量和显示的系统、方法和设备

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL165212A (en) 2004-11-15 2012-05-31 Elbit Systems Electro Optics Elop Ltd Device for scanning light
WO2007043036A1 (en) 2005-10-11 2007-04-19 Prime Sense Ltd. Method and system for object reconstruction
US9330324B2 (en) 2005-10-11 2016-05-03 Apple Inc. Error compensation in three-dimensional mapping
CN101496033B (zh) 2006-03-14 2012-03-21 普莱姆森斯有限公司 利用散斑图案的三维传感
US8494252B2 (en) 2007-06-19 2013-07-23 Primesense Ltd. Depth mapping using optical elements having non-uniform focal characteristics
US8462207B2 (en) 2009-02-12 2013-06-11 Primesense Ltd. Depth ranging with Moiré patterns
US8786682B2 (en) 2009-03-05 2014-07-22 Primesense Ltd. Reference image techniques for three-dimensional sensing
US9582889B2 (en) 2009-07-30 2017-02-28 Apple Inc. Depth mapping based on pattern matching and stereoscopic information
US8830227B2 (en) 2009-12-06 2014-09-09 Primesense Ltd. Depth-based gain control
US8982182B2 (en) 2010-03-01 2015-03-17 Apple Inc. Non-uniform spatial resource allocation for depth mapping
US10739460B2 (en) 2010-08-11 2020-08-11 Apple Inc. Time-of-flight detector with single-axis scan
US9098931B2 (en) 2010-08-11 2015-08-04 Apple Inc. Scanning projectors and image capture modules for 3D mapping
WO2012066501A1 (en) 2010-11-19 2012-05-24 Primesense Ltd. Depth mapping using time-coded illumination
US9131136B2 (en) 2010-12-06 2015-09-08 Apple Inc. Lens arrays for pattern projection and imaging
US9030528B2 (en) 2011-04-04 2015-05-12 Apple Inc. Multi-zone imaging sensor and lens array
US9329080B2 (en) 2012-02-15 2016-05-03 Aplle Inc. Modular optics for scanning engine having beam combining optics with a prism intercepted by both beam axis and collection axis
US9651417B2 (en) * 2012-02-15 2017-05-16 Apple Inc. Scanning depth engine
EP2828833B1 (en) 2012-03-22 2017-03-08 Apple Inc. Gimbaled scanning mirror array
US9335220B2 (en) 2012-03-22 2016-05-10 Apple Inc. Calibration of time-of-flight measurement using stray reflections
WO2014016794A1 (en) 2012-07-26 2014-01-30 Primesense Ltd. Dual-axis scanning mirror
US9297889B2 (en) 2012-08-14 2016-03-29 Microsoft Technology Licensing, Llc Illumination light projection for a depth camera
US9482863B2 (en) 2012-10-23 2016-11-01 Apple Inc. Production of micro-mechanical devices
EP2728306A1 (en) * 2012-11-05 2014-05-07 Hexagon Technology Center GmbH Method and device for determining three-dimensional coordinates of an object
US9869768B2 (en) * 2013-01-09 2018-01-16 Lg Electronics Inc. Device for detecting distance and apparatus for processing images comprising same
EP2972081B1 (en) 2013-03-15 2020-04-22 Apple Inc. Depth scanning with multiple emitters
US9294758B2 (en) * 2013-04-18 2016-03-22 Microsoft Technology Licensing, Llc Determining depth data for a captured image
WO2014203110A1 (en) 2013-06-19 2014-12-24 Primesense Ltd. Integrated structured-light projector
CN106415361B (zh) 2014-01-19 2018-11-13 苹果公司 用于装有万向接头的扫描镜阵列的耦接方案
WO2016018413A1 (en) * 2014-07-31 2016-02-04 Hewlett-Packard Development Company, L.P. Object capture and illumination
US9784838B1 (en) 2014-11-26 2017-10-10 Apple Inc. Compact scanner with gimbaled optics
US9835853B1 (en) 2014-11-26 2017-12-05 Apple Inc. MEMS scanner with mirrors of different sizes
US9798135B2 (en) 2015-02-16 2017-10-24 Apple Inc. Hybrid MEMS scanning module
US10132616B2 (en) 2015-04-20 2018-11-20 Samsung Electronics Co., Ltd. CMOS image sensor for 2D imaging and depth measurement with ambient light rejection
US11002531B2 (en) 2015-04-20 2021-05-11 Samsung Electronics Co., Ltd. CMOS image sensor for RGB imaging and depth measurement with laser sheet scan
US10250833B2 (en) 2015-04-20 2019-04-02 Samsung Electronics Co., Ltd. Timestamp calibration of the 3D camera with epipolar line laser point scanning
US11736832B2 (en) 2015-04-20 2023-08-22 Samsung Electronics Co., Ltd. Timestamp calibration of the 3D camera with epipolar line laser point scanning
US20160309135A1 (en) 2015-04-20 2016-10-20 Ilia Ovsiannikov Concurrent rgbz sensor and system
US9703096B2 (en) 2015-09-30 2017-07-11 Apple Inc. Asymmetric MEMS mirror assembly
US9897801B2 (en) 2015-09-30 2018-02-20 Apple Inc. Multi-hinge mirror assembly
US10324171B2 (en) 2015-12-20 2019-06-18 Apple Inc. Light detection and ranging sensor
WO2017219021A1 (en) * 2016-06-17 2017-12-21 Schroeder James E Apparatus and method for imaging and modeling the surface of a three-dimensional (3-d) object
US10298913B2 (en) 2016-08-18 2019-05-21 Apple Inc. Standalone depth camera
US10488652B2 (en) 2016-09-21 2019-11-26 Apple Inc. Prism-based scanner
US10200683B2 (en) * 2016-12-21 2019-02-05 Microvision, Inc. Devices and methods for providing foveated scanning laser image projection with depth mapping
US10153614B1 (en) 2017-08-31 2018-12-11 Apple Inc. Creating arbitrary patterns on a 2-D uniform grid VCSEL array
CN112740666A (zh) 2018-07-19 2021-04-30 艾科缇弗外科公司 自动手术机器人视觉系统中多模态感测深度的系统和方法
CN111316119A (zh) * 2018-12-28 2020-06-19 深圳市大疆创新科技有限公司 雷达仿真方法及装置
KR20220021920A (ko) 2019-04-08 2022-02-22 액티브 서지컬, 인크. 의료 이미징을 위한 시스템 및 방법
WO2021034371A1 (en) 2019-08-18 2021-02-25 Apple Inc. Force-balanced micromirror with electromagnetic actuation
WO2021035094A1 (en) 2019-08-21 2021-02-25 Activ Surgical, Inc. Systems and methods for medical imaging

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002039716A (ja) * 2000-07-25 2002-02-06 Olympus Optical Co Ltd 距離画像入力装置
US20030052252A1 (en) * 2001-09-20 2003-03-20 Toshinobu Sugiyama Solid-state image pickup apparatus and control method thereof
CN1471932A (zh) * 2002-07-29 2004-02-04 邢瑞忠 一种治疗短暂性脑缺血发作的药物及其制备方法
CN1742294A (zh) * 2003-01-25 2006-03-01 螺旋划痕有限公司 制作包含深度信息的图像的方法和装置
CN101635860A (zh) * 2008-07-25 2010-01-27 三星电子株式会社 成像方法和设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6052100A (en) 1994-03-16 2000-04-18 The United States Of America Represented By The Secertary Of The Navy Computer controlled three-dimensional volumetric display
AU4882797A (en) 1997-11-13 1999-06-07 3Dv Systems Ltd. Three dimension imaging by dual wavelength triangulation
DK1631788T3 (da) 2003-05-16 2007-07-23 Univ Bruxelles Digitalt holografisk mikroskop til 3D billedfrembringelse og en proces til anvendelse deraf
GB2429522A (en) 2005-08-26 2007-02-28 Univ Kent Canterbury Optical mapping apparatus
WO2008079301A2 (en) 2006-12-21 2008-07-03 Massachusetts Institute Of Technology Methods and apparatus for 3d surface imaging using active wave-front sampling

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002039716A (ja) * 2000-07-25 2002-02-06 Olympus Optical Co Ltd 距離画像入力装置
US20030052252A1 (en) * 2001-09-20 2003-03-20 Toshinobu Sugiyama Solid-state image pickup apparatus and control method thereof
CN1471932A (zh) * 2002-07-29 2004-02-04 邢瑞忠 一种治疗短暂性脑缺血发作的药物及其制备方法
CN1742294A (zh) * 2003-01-25 2006-03-01 螺旋划痕有限公司 制作包含深度信息的图像的方法和装置
CN101635860A (zh) * 2008-07-25 2010-01-27 三星电子株式会社 成像方法和设备

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108541304A (zh) * 2015-04-29 2018-09-14 苹果公司 具有灵活扫描图案的飞行时间深度映射
CN105573505A (zh) * 2016-01-28 2016-05-11 异视科技(北京)有限公司 车载平视显示器、空间定位方法及汽车
CN105573505B (zh) * 2016-01-28 2018-12-14 未来(北京)黑科技有限公司 车载平视显示器、空间定位方法及汽车
CN110325879A (zh) * 2017-02-24 2019-10-11 亚德诺半导体无限责任公司 用于压缩三维深度感测的系统和方法
CN110325879B (zh) * 2017-02-24 2024-01-02 亚德诺半导体国际无限责任公司 用于压缩三维深度感测的系统和方法
CN113614486A (zh) * 2019-01-17 2021-11-05 大学健康网络 用于创伤和组织标本的三维成像、测量和显示的系统、方法和设备

Also Published As

Publication number Publication date
US20110279648A1 (en) 2011-11-17
US8330804B2 (en) 2012-12-11

Similar Documents

Publication Publication Date Title
CN102314707A (zh) 对2d图像的扫描束深度映射
JP7534377B2 (ja) 色によるパノラマlidar結果の増強
KR102454144B1 (ko) 동기화된 회전식 lidar 및 롤링 셔터 카메라 시스템
CN113538591A (zh) 一种距离测量装置与相机融合系统的标定方法及装置
US10116920B2 (en) Balancing colors in a scanned three-dimensional image
US20090322859A1 (en) Method and System for 3D Imaging Using a Spacetime Coded Laser Projection System
US6600168B1 (en) High speed laser three-dimensional imager
US9435891B2 (en) Time of flight camera with stripe illumination
CN104221059B (zh) 基于衍射感测镜子位置
CN109557522A (zh) 多射束激光扫描仪
EP3063584B1 (en) Scanning laser projector with a local obstruction detection and method of detecting a local obstruction in a scanning laser projector
EP3345050B1 (en) Dynamic constancy of brightness or size of projected content in a scanning display system
CN105425245B (zh) 一种基于相干探测的远距离高重频激光三维扫描装置
US10643349B2 (en) Method of calibrating a camera and a laser scanner
US20140211193A1 (en) Structured light and time of flight depth capture with a MEMS ribbon linear array spatial light modulator
WO2011053616A2 (en) Three dimensional imaging device, system, and method
CN105143820A (zh) 利用多个发射器进行深度扫描
CN207114752U (zh) 一种单激光器多线束扫描雷达
KR20100019576A (ko) 거리 센서 시스템 및 방법
JP2012521545A (ja) 環境を光学的に走査および測定する方法
US11887278B2 (en) System and method for training a neural network to fill gaps between scan points in images and to de-noise point cloud images
CN105900166A (zh) 图像投影装置以及图像投影装置的调整方法和控制方法
US11035980B2 (en) Laser scanner with projector
JP7409443B2 (ja) 撮像装置
CN109061635A (zh) 旋转扫描系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: MICROSOFT TECHNOLOGY LICENSING LLC

Free format text: FORMER OWNER: MICROSOFT CORP.

Effective date: 20150727

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20150727

Address after: Washington State

Applicant after: Micro soft technique license Co., Ltd

Address before: Washington State

Applicant before: Microsoft Corp.

C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20120111