CN101496033B - 利用散斑图案的三维传感 - Google Patents

利用散斑图案的三维传感 Download PDF

Info

Publication number
CN101496033B
CN101496033B CN2007800166255A CN200780016625A CN101496033B CN 101496033 B CN101496033 B CN 101496033B CN 2007800166255 A CN2007800166255 A CN 2007800166255A CN 200780016625 A CN200780016625 A CN 200780016625A CN 101496033 B CN101496033 B CN 101496033B
Authority
CN
China
Prior art keywords
target
speckle pattern
image
image capture
diffuser
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2007800166255A
Other languages
English (en)
Other versions
CN101496033A (zh
Inventor
A·施庞特
Z·扎尔威斯科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Prime Sense Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from PCT/IL2006/000335 external-priority patent/WO2007043036A1/en
Application filed by Prime Sense Ltd filed Critical Prime Sense Ltd
Publication of CN101496033A publication Critical patent/CN101496033A/zh
Application granted granted Critical
Publication of CN101496033B publication Critical patent/CN101496033B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/557Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras

Abstract

一种用于目标(28)的3D映射的装置(20),包括照明组件(30),照明组件(30)包括相干光源(32)和漫射体(33),相干光源(32)和漫射体(33)被布置为将主散斑图案投射到目标上。单图像捕获组件(38)被布置为从相对于照明组件的单一、固定位置和角度捕获主散斑图案的图像。处理器(24)被连接以处理在单一、固定角度所捕获的主散斑图案从而导出目标的3D图。

Description

利用散斑图案的三维传感
相关申请的交叉引用
本申请要求享有于2006年3月24日提交的美国临时专利申请60/785,187的权益。本申请是于2006年3月14日提交的享有2005年10月11日提交的美国临时专利申请60/724,903权益的PCT专利申请PCT/IL2006/000335的继续部分申请。所有这些相关申请都转让给本专利申请的受让人,并且这些相关申请的公开内容在此都以引用的方式纳入本说明书。
技术领域
本发明一般涉及用于对三维(3D)目标进行映射(mapp ing)的方法和系统,更具体而言,涉及利用散斑图案进行3D光学成像。
背景技术
当相干光束通过漫射体而投射到一表面上时,可在该表面上观察到主散斑图案。主散斑由漫射光束的不同分量之间的干涉造成。术语“主散斑(primary speckle)”在本专利申请和权利要求书中以此种意义使用,以区别于由来自目标粗糙表面的相干光的漫反射所造成的副散斑。
Hart在台湾专利TW527528B和美国专利申请09/616,606中描述了高速3D成像系统中的散斑图案的使用,上述专利的公开内容在此以引用的方式纳入本说明书。该系统包括带主动式成像元件和CCD元件的单透镜摄像机子系统,以及相关性处理子系统。所述主动式成像元件可以是使离焦图像之间非等边间隔能够调整从而实现更大景深和更高亚像素位移精确度的旋转小孔。散斑图案被投射到目标上,由此产生的图案的图像可从多角度获取。使用图像相关性技术将这些图像局部互相关,并且通过使用相对的摄像机位置信息将该表面分解以计算每个局部互相关区域的三维坐标。
另一种基于散斑的3D成像技术是由Hunter等人在美国专利6,101,269中所描述,该美国专利的公开内容在此以引用的方式纳入本说明书。一随机的散斑图案被投射在3D表面上,并被多个摄像机成像以获得多个二维数字图像。这些二维图像被处理以获得该表面的三维特征。
发明内容
本发明的实施方案利用主散斑图案对3D目标进行准确的实时映射。在上述所提及的PCT专利申请中所描述的方法和系统,以及在下文中所进一步描述的实施方案,能够使用单相干光源和单图像传感器执行这种3D映射,其中所述图像传感器在相对于该光源的固定角度上保持静止。
在本发明的一方面,在已知轮廓的参考表面上初始捕获散斑图案的参考图像。然后通过捕获投射到目标上的散斑图案的图像并将该图像与参考图像进行比较,来确定该目标的3D轮廓。
在本发明的另一方面,随着目标移动,捕获目标上的散斑图案的连续图像。每个图像都与一个或多个其先前的图像相比较以追踪该目标在三维中的运动。在下文所述的一实施方案中,光源和图像传感器被保持处于线性对齐,从而允许通过计算在连续图像之间的一维相关系数而实现快速且准确的运动追踪。
在一些实施方案中,使用了新颖的照明和图像处理方案以增强3D映射系统的精确性、景深和计算速度。
因而,根据本发明的一实施方案,提供了一种用于目标的3D映射的装置,包括:
照明组件,包括相干光源和漫射体,所述相干光源和漫射体被布置为将主散斑图案投射到该目标上;
单图像捕获组件,该单图像捕获组件被布置为从相对于所述照明组件的单一、固定位置和角度来捕获所述目标上的主散斑图案的图像;以及
处理器,该处理器被连接以处理在所述单一、固定角度处所捕获的主散斑图案的图像,从而导出所述目标的3D图(3D map)。
在一些实施方案中,该装置包括安装件,该安装件连接至所述照明组件和所述图像捕获组件,从而使所述图像捕获组件与所述照明组件保持处于固定空间关系。在一实施方案中,图像捕获组件包括:以限定第一和第二相互垂直的轴线的直线图案布置的探测器元件阵列;以及具有入射光瞳的物镜光学系统,该物镜光学系统被配置为将图像聚焦到所述阵列上,其中所述照明组件和所述图像捕获组件被该安装件校直从而限定一设备轴线,该设备轴线平行于所述第一轴线并穿过所述入射光瞳以及斑点(spot),在该斑点处由所述相干光源所发出的光束经过漫射体。因此,处理器被布置为通过找到在一个或多个所述图像中所捕获的主散斑图案和该主散斑图案的参考图像之间仅沿所述第一轴线的偏移量来导出3D图。
在一些实施方案中,处理器被布置为通过找到在一个或多个所述图像中所捕获的所述目标的多个区域上的主散斑图案和该主散斑图案的参考图像之间的各自偏离量来导出所述3D图,其中所述各自偏移量表示在所述区域和所述图像捕获组件之间的各自距离。通常,所述图像捕获组件位于距所述照明组件一预定间距处,并且所述各自偏移量与所述各自距离成比例,该比例由所述间距确定。在一所公开的实施方案中,由所述照明组件所投射的所述主散斑图案包括具有特征尺寸的散斑,并且其中所述图像中的所述散斑的尺寸在所述图像上随着取决于该间距的公差的变化而变化,其中所述间距被选择以将所述公差维持在预定界限内。
附加地或可替代地,处理器被布置为使用所述图像捕获组件中的扭曲参数模型来将所述各自偏移量与所述3D图中的各自坐标相关。进一步,附加地或可替代地,处理器被布置,以通过找到在所述目标的第一区域中的所述主散斑图案和在相对于该第一区域的第一偏移量处的所述参考图像的对应区域之间的初始匹配来找到所述各自偏移量,并基于所述第一偏移量,应用区域增长过程来找到相邻于所述第一区域的像素的所述各自偏移量。
在一所公开的实施方案中,处理器被布置为处理在所述目标正在移动时所捕获的连续图像,从而对该目标的3D运动进行映射,其中所述目标是人体的一部分,并且3D运动包括由所述人体的一部分做出的姿势,并且所述处理器被连接以响应于所述姿势向计算机应用提供输入。
在一些实施方案中,照明组件包括光束形成器,该光束形成器被布置为减小由所述漫射体在该装置传感体积上所创建的所述散斑图案的对比度的变化。在一实施方案中,所述光束形成器包括衍射光学组件(DOE)和被布置为限定所述漫射体的傅立叶平面的透镜,其中所述DOE位于所述傅立叶平面上。该光束形成器可被布置为减小从该漫射体所发出的光的发散度,或被布置为将从漫射体所发出的遍及横向于所述照明组件的光轴的平面的光的强度均衡化。
在一实施方案中,处理器包括光学相关器,所述光学相关器包括含有参考散斑图案的衍射光学组件(DOE),并且所述图像捕获组件包括微透镜阵列,该微透镜阵列被布置为将所述目标的多个子图像投射到所述DOE上,从而生成表示所述目标的3D坐标的各自相关峰。
在一些实施方案中,相干光源的相干长度小于1cm。附加地或可替代地,所述主散斑图案包括具有特征尺寸的散斑,并且所述照明组件被配置为允许所述散斑的特征尺寸通过改变所述相干光源和所述漫射体之间的距离而得到调整。
根据本发明的一实施方案,同样也提供了一种用于目标的3D映射的方法,包括:
使用来自光源的一束漫射相干光来照明目标,从而将主散斑图案投射到该目标上;
从相对于所述光源的单一、固定位置和角度处捕获所述目标上的主散斑图案的图像;以及
处理在所述单一、固定角度处所捕获的主散斑图案的图像,从而导出所述目标的3D图。
根据本发明的一实施方案,另外提供了一种用于目标的3D映射的装置,包括:
照明组件,该照明组件包括相干长度小于1cm的相干光源,以及漫射体,所述相干光源和所述漫射体被布置为将主散斑图案投射于所述目标上;
图像捕获组件,该图像捕获组件被布置为捕获所述目标上的主散斑图案的图像;以及
处理器,该处理器被连接以处理所述主散斑图案的图像从而导出所述目标的3D图。
在一实施方案中,相干光源的相干长度小于0.5mm。附加地或可替代地,相干光源的发散度大于5°。
根据下列详细说明的实施方案以及附图,可更加详尽地理解本发明,所述附图如下:
附图说明
图1是根据本发明一实施方案的3D映射系统的示意性图示;
图2是根据本发明一实施方案的散斑成像设备的示意性俯视图;
图3是根据本发明一实施方案的示意性图示3D映射方法的流程图;图4是根据本发明另一实施方案的3D映射系统中所使用的照明组件的示意性侧视图;
图5是根据本发明一实施方案的光束形成器的示意性侧视图;
图6是根据本发明又一实施方案的光束形成器的示意性侧视图;
图7是根据本发明的再一实施方案的3D映射系统中所使用的光学相关器的示意性侧视图。
具体实施方式
图1是根据本发明一实施方案的3D映射系统20的示意性图示。系统20包括散斑成像设备22,该设备22生成主散斑图案并将其投射于目标28上,以及捕获在该目标上呈现的主散斑图案的图像。设备22的设计和操作细节将在下列附图中示出,并在下文中参考这些附图进行描述。
图像处理器24处理由设备22所生成的图像数据,以导出目标28的3D图。术语“3D图”,如在本专利申请和权利要求书中所使用的,是指表示目标表面的3D坐标集。基于图像数据来导出这样的图也可被称为“3D重构”。执行这种重构的图像处理器24,可包括通用计算机处理器,该处理器被软件编程以执行下文所述的功能。例如,该软件可通过网络以电子形式下载到处理器24中,或其可替代地在诸如光、磁或电子存储介质之类的有形介质上提供。可替代地或另外地,该图像处理器的一些或全部功能可在诸如定制或半定制集成电路或可编程数字信号处理器(DSP)之类的专用硬件上实现。尽管处理器24在图1中以示例方式显示为与成像设备22相分隔的单元,然而处理器24的一些或全部处理功能可通过在成像设备外壳内或与该成像设备相关联的合适的专用电路来实现。
由处理器24所生成的3D图可用于范围广泛的不同目的。例如,该图可被发送至诸如显示器26之类的输出设备,以显示该目标的假3D图。在图1所示的实例中,目标28包括受试者身体的全部或部分(例如手)。在这种情况下,系统20可用于提供基于姿势的用户接口,其中由设备22的装置所检测的用户运动来控制诸如游戏之类的交互式计算机应用,替代诸如鼠标、操纵杆或其他辅助设备的触摸型接口元件。可替代地,系统20可用于创建其他类型的目标的3D图,用于其中需要3D坐标分布(profile)的几乎任何应用中。
图2是根据本发明一实施方案的设备22的示意性俯视图。照明组件30包括通常为激光器的相干光源32,以及漫射体33。(在本专利申请文本中,术语“光”是指任何类型的光辐射,包括红外和紫外线以及可见光。)由光源32所发出的光束在半径w0的斑点34处穿过漫射体33,从而生成发散光束36。如在上述PCT/IL2006/000335的PCT专利申请中所提到的,只要zobj1和Zobj2处于由物距zobj处的散斑图案的轴向尺寸Δz所给定的距离范围内, ΔZ = ( Z obj w 0 ) 2 λ ,则由漫射体34在距离Zobj1和Zobj2处所生成的主散斑图案将是彼此良好近似的线性缩放型式。
图像捕获组件38捕获投射到目标28上的散斑图案的图像。组件38包括物镜光学系统39,该光学系统将图像聚焦到图像传感器40。通常,传感器40包括诸如基于CCD或CMOS的图像传感器阵列之类的探测器元件直线阵列41。光学系统39有一入射光瞳42,该光瞳与图像传感器的尺寸一起限定了图像捕获组件的视场44。设备22的传感体积(sensing volume)包括在光束36和视场44之间的交叠区域46。
由照明组件30在距离Zobj处所投射的特征横向散斑尺寸(由散斑图案的二阶统计量所定义)为 ΔX = Z obj w 0 λ 。本发明人已发现,对于最佳图像处理性能,成像到传感器40上的散斑尺寸应根据范围和分辨率要求在一到十像素之间,即每个由光学系统39成像到传感器40上的散斑应在水平方向上跨越一到十个探测器元件41。在通常应用中,在两到三个像素之间的散斑尺寸可产生良好效果。
从上述关于散斑尺寸ΔX的公式中可以看出,由于斑点34的半径w0随着距光源的距离减小而增大,所以可通过改变光源32和漫射体33之间的距离来调整散斑尺寸。因此,照明组件30的散斑参数可通过横向移动光源来简单控制,而无需使用透镜或其他光学系统。可用该方式来调整照明组件30,以与不同尺寸和分辨率的图像传感器以及放大倍率变化的物镜光学系统一起工作。假定该小散斑尺寸由上述参数控制,则有着高发散度(5°或更大)和短相干长度(小于1cm,在一些情况下甚至小于0.5mm)的诸如激光二极管之类的不昂贵光源可在系统20中使用并取得良好效果。
照明组件30和图像捕获组件38被安装件43保持处于固定空间关系。在图2示出的实施方案中,该安装件包括保持住所述组件的外壳。可替代地,任何其他合适类型的机械安装件都可用于维持在照明组件和图像捕获组件之间的期望的空间关系。在下文中所描述的设备22的配置和处理技术可以运用简单图像捕获组件进行3D映射,而无需使照明组件和图像捕获组件之间进行相对移动,也无需移动部件。图像捕获组件38因此在相对于照明组件30的一单一、固定的角度处捕获图像。
为简化3D图的计算以及简化因目标28的移动而在该图中引起的变化的计算,如下文所述,期望安装件43保持住组件30和38,使得穿过入射光瞳42和斑点34的中心的轴线平行于传感器40的轴线中的一条。换言之,使用探测器元件阵列41的行和列来定义相互垂直的X轴和Y轴(其原点位于物镜光学系统39的光轴上),该穿过光瞳42和斑点34的轴线应平行于其中一条阵列轴线,为了方便起见该轴线为X轴。这种布置的优点在下文中将进一步解释。
组件30和38的各自光轴(其分别穿过斑点34和光瞳42的中心)相隔距离S。因此,Zobj的变化将引起由图像捕获组件38所捕获的目标图像中散斑图案的扭曲。具体而言,通过三角测量,在图2中可看出,目标上的点在Z方向上的移动δZ,将引起图像中所观察到的散斑图案的相伴随的横向移动δX,因此
Figure G2007800166255D00071
目标上的点的Z坐标,以及Z坐标随时间的移动,可通过测量由组件38所捕获的图像中的散斑的X坐标相对于在已知距离Z处所获得的参考图像的移动而来确定。换言之,每个区域内所捕获的图像的散斑组都与参考图像相比较,从而在参考图像中找到最接近的匹配散斑组。图像中匹配散斑组之间的相对移动给出了所捕获的图像的区域相对于参考图像在Z方向上的移动。该散斑图案的移动可使用图像相关或其他在本领域中公知的图像匹配计算方法进行测量。一些示例性方法在上述PCT专利申请中进行了描述。另一种与设备22相关的非常有用的方法在2006年3月24日提交的美国临时专利申请60/785,202中进行了描述,其转让给本专利申请的受让人,并且其公开文本在此以引用的方式纳入本说明书。
此外,在图2所示的布置中,其中穿过光瞳42和斑点34的X轴平行于传感器40的X轴,带有δZ的散斑图案的移动将严格处于X方向,而没有Y分量的移动(只要由光学系统39所造成的扭曲可被忽略)。因此,图像匹配计算被简化,而仅需要寻找因X移动的最接近的匹配散斑组。换言之,为确定当前图像中区域相对于参考图像(其可以是散斑图案的任何先前的图像)的δZ,仅需要检查当前图像区域对照参考图像的X移动的拷贝,以便于找到给出了相对于参考图像的最佳匹配的移动δX的值。
可替代地,如果设备22各元件的几何校准偏离上述标准,或者如果透镜扭曲很明显,则处理器可使用参数模型以对该偏差进行补偿。换言之,该已知偏差可被测量或者建模,并且处理器可接着根据偏差参数模型来检查当前图像相对于参考图像而移动一合适的(X,Y)移动量的区域的拷贝,从而找到目标表面实际的3D坐标。
通常,为了构造和计算的方便,可选择系统20的运行参数从而使S<<Zobj。(另一方面,因系统20的Z方向分辨率取决于比率S/Zobj,所以S必须相对于该系统的预期工作距离足够大,从而能够达到预期的分辨率。)只要S<<Zobj,那么从照明组件和图像捕获组件到每个目标点的各自距离很接近,但通常不会完全相等。因此,由组件38所捕获的散斑图案的图像中的散斑的尺度可在区域46中以公差γ变化。本领域中所公知的计算方法,一些已在上述提及的PCT专利申请中得到描述,可用于补偿在将当前图像的区域与参考图像的相应区域相匹配的过程中的这些尺度变化。
然而,通常为避免对处理器24形成太大的计算负荷,希望的是将γ维持在根据匹配窗口尺寸和特征散斑尺寸的某一预定界限内。通常,发明人已发现,应限制γ,从而使特征窗口的尺度变化不超过单个散斑尺寸的30%。假定图像捕获组件38的视场对角为θ,则
Figure G2007800166255D00091
因此,当 S &CenterDot; sin ( &theta; ) &CenterDot; N 2 &CenterDot; Z obj < 0.3 &lambda; Z obj w 0 &CenterDot; psize ( Z obj ) 时,就获得对于尺寸为N的窗口而言的局部散斑图案的基本尺度不变,其中psize(Zobj)是在Zobj处的像素的尺寸。在这些条件下,通常可计算由组件38所捕获的连续图像帧中的目标在Z方向的移动,而无需明确考虑散斑尺度的变化。
图3是示意性图示根据本发明一实施方案的使用系统20进行3D映射的方法的流程图。该方法尤其基于如下认识,即,由照明组件30所投射的散斑图案不随时间流逝而明显变化。因此,投射到目标上的散斑图案的单个图像,由图像捕获组件38在相对于组件的确定位置和角度处所捕获,该图像可用于精确计算目标的3D图。
在对目标进行映射前,在校准步骤50,通过将来自组件30的散斑图案投射到距设备22已知距离处的已知空间轮廓的目标上来校准该设备22。典型地,为此目的,在已知距离Zobj上延伸过区域46的平坦目标被用作校准靶。图像捕获组件38捕获目标的参考图像,该参考图像被存储在处理器24的存储器中。该校准步骤可在制造时进行,并且只要在设备22的不同组件之间没有不受控制的相对运动,那么存储在存储器中的参考图像就将可以用于该场中。为节省存储器并简化接下来的计算,参考图像可用数据简化的形式保存,诸如基于阈值的二进制图像,其适用于将要使用的匹配算法。
当系统20准备使用时,在初始图像捕获步骤52,系统20被启动以使用设备22捕获感兴趣的目标(在本实例中为目标28)的图像。在图计算步骤54,处理器24比较该图像和所存储的校准图像中的散斑图案。该图像的暗区域通常被分类为阴影区,其中其像素值低于某一阈值(或者不包含相关的散斑信息),从该阴影区不能导出深度(Z)信息。如在本领域中所公知的,该图像的剩余部分可使用自适应阈值被二进制化,或被数据简化以用于有效匹配参考图像。
处理器24选择在图像非阴影部分内的某个窗口,并比较该窗口内的子图像和该参考图像的各部分,直到找到该参考图像中的与该子图像最佳匹配的部分。如上文所述且如图2所示,当组件30和38沿X轴对齐时,处理器可充分比较子图像和参考图像的在X方向上相对于子图像所被取代的部分(如上所述,受制于最高达缩放系数γ的散斑图案的尺度)。处理器使用子图像相对于参考图像的匹配部分的横向偏移,基于上述解释的三角测量原则来确定在子图像中的目标28的表面的区域的Z坐标。如果目标表面的区域是倾斜的,而非朝向于X-Y平面中,则子图像中的散斑图案将显示扭曲。处理器24可以可选地分析该散斑扭曲以便估计倾斜角度,并从而提高3D映射的精确度。
处理器24可使用第一窗口的图坐标作为用于确定该图像相邻区域坐标的起点。具体而言,一旦处理器已经找到该图像的某一区域和参考图像中的对应区域之间存在高相关性,则该区域相对于参考图像的偏移量可作为图像中相邻像素偏移量的良好的预测值。处理器意在将这些相邻像素与参考图像进行匹配,其中偏移量等于初始匹配区域的小范围或处于其中。用这种方式,处理器增长匹配区域的范围,直至到达该范围的边缘。因此继续运行该处理器以确定该图像所有非阴影区域的Z坐标,直至其已经完成目标28的3D轮廓。这种方法的优点在于,即使使用小窗口和较差信噪比的图像,也可提供快速、健壮的匹配。上述PCT专利申请中描述了为此目的可使用的计算方法的内容。
在上述步骤的最后,处理器24将计算出该目标表面的在初始图像中可见的部分的完整的3D图。然而,在下个图像步骤56,可易于扩展该方法以捕获和分析连续图像从而追踪该目标的3D运动。设备22以某一预定帧率捕获连续图像,并且处理器24基于每个连续图像来更新3D图。如果希望,可对应于所存储的、校准的参考图像来计算该3D图。可替代地,由于该目标通常不会从一图像帧向下一图像帧移动得太大,所以使用每个连续图像来作为下一帧的参考图像常常更为有效。
因此,在移动计算步骤58,处理器24可比较每个连续图像和先前图像,从而计算每个子图像中的散斑相对于先前图像中的相同散斑在X方向的移动。通常,该移动仅为几个像素,这样可快速有效地进行计算。在每个新图像以该方式进行处理后,在新的图输出步骤60,处理器24输出已更新的3D图。该图像捕获和更新过程因而可无限次地进行。因为连续3D图易于计算,所以系统20能够以实时视频速率(量级为30帧/秒乃至更快)运行和输出图坐标,同时使用简单、低成本的成像和处理硬件。而且,如上所述,即使不能从先前图像中计算出局部移动,但有效的图像匹配计算和区域增长也能够使系统20以视频速度运行。
系统20的这些性能使其适合用于宽范围应用中,尤其是用于基于人的姿势来实现机器接口的应用。在这种接口中,计算机(其可包括处理器24或可接收由该处理器输出的3D图)识别3D图中的某一体积或某些体积,其对应于使用者身体的各部分,诸如胳膊、手、和/或者手指,也可能是头、躯干以及其他肢体等等。计算机被编程以识别对应于这些身体部位的某些运动的姿势,并响应于这些姿势来控制计算机应用。这类姿势和应用的实例包括:
·鼠标平移和点击——计算机解释用户的手和手指的动作,仿佛用户正在桌上移动鼠标和点击鼠标按钮。
·徒手指向、选择和平移计算机屏幕上的目标。
·计算机游戏,其中用户姿势可击中、抓握、移动和释放游戏中所使用的真实的或虚拟的目标。
·用于残疾用户的计算机接口,基于传感该用户所能够做出的有限范围的动作。
·在虚拟的键盘上打字。
其他的应用对于本领域中的普通技术人员来说将是明显的。
现在回到图2,随着光束36传播超出瑞利距离,落在目标28上的照明强度以接近于Z2的比例减小。投射到目标上的散斑图案的对比度也相应下降,尤其是存在光源32的波长的较强的环境光时。系统20可在其内提供有用结果的深度(Z坐标)范围可能因为在较大Z处的弱照明而受到限制。如在本领域中公知的,可通过自适应控制和图像处理的方法来减轻这种限制。此类的一些合适方法在上述PCT专利申请PCT/IL2006/000335中被描述。可替代地或另外地,如下文所述,可应用光束形成来改善照明轮廓。
图4是根据本发明一实施方案的照明组件70的示意性侧视图,照明组件70可在系统20中使用以增强该系统的有用深度范围。组件70包括源32和漫射体33,以及光束形成器72。光束形成器被设计以产生光束74,该光束74在中间区域76中具有减小的发散度,同时仍保持在该区域内轴向距离为Z的散斑图案的线性缩放比例。因此,在整个区域76上的目标28的图像中维持高散斑对比度,这样就增大了3D映射系统所覆盖的深度范围。下面所描述的是,在区域76中所执行的可用于实现这种增强效果的多种光学设计。
图5是根据本发明一实施方案的光束形成器72的示例性侧视图。该光束形成器包括衍射光学元件(DOE)80和旋转三棱镜82。DOE80可紧靠漫射体33,或者甚至被包括作为漫射体自身表面上的蚀刻或沉积层。可使用各种衍射设计来减少区域76中的光束发散度。例如,DOE80可包括中心位于源32光轴上的同心圈的图案,该图案带有随机分布的环半径。旋转三棱镜82有一中心位于光轴上的圆锥轮廓,即它是一种旋转对称棱镜。DOE80和旋转三棱镜82均具有沿光轴产生长聚焦区的效果,因此这些元件中的任一个都可单独用于产生一缩小光束发散度的区域。也可通过共同使用所述两个元件来进一步增强其发散度的减小。
图6是根据本发明另一实施方案的光束形成器90的示意性侧视图。光束形成器90包括DOE92以及焦距为F的透镜94和96。如图所示,这些透镜与漫射体33和DOE92相分隔的距离等于它们的焦距,以使得DOE位于该漫射体的傅立叶平面上。因此,该漫射体的傅立叶变换乘上了DOE的传递函数。在远场,该散斑图案乘上了该DOE上的图案的傅立叶变换。
如上文图4所示,可选择该DOE图案从而使其傅立叶变换提供减小的发散度,和/或更多穿过照明光束的均匀照明。后一目标可通过设计在其中心区域较周围透射更低的元件92来实现(与来自漫射体33的光束的角强度分布相反,该分布趋向于在中心更亮而随着距光轴角度的增大而变暗)。其他为了在感兴趣体积上获得更大的均匀散斑对比度的DOE92或DOE80(图5)的设计,对于本领域的普通技术人员是显而易见的,并被认为在本发明的范围内。
图7是根据本发明一实施方案的可在系统20中使用以确定目标28的Z坐标区域的光学相关器110的示意性侧视图。换言之,相关器110使用光学技术来执行上文所述的处理器24的一些功能。该相关器能以非常快的速度近乎同时地并行确定目标的多个区域的坐标。因此在以快速目标运动为特征的应用中尤为有用。
微透镜阵列116形成在组件30散斑照明下的目标28的多个子图像。小孔阵列118限制阵列116中微透镜的视场,使得每个子图像包含仅来自窄角范围的光。第二微透镜阵列120将子图像投射到DOE122上。阵列120与子图像平面分隔的距离等于阵列中微透镜的焦距,并与DOE122分隔开相等的距离。后微透镜阵列124位于DOE122和传感器40之间,与它们中每一个均分隔开与微透镜的焦距相等的距离。
DOE122包括参考衍射图案,该图案是将与目标28的散斑图像相比较的参考散斑图案的空间傅立叶变换。例如,使用在与照明源相距已知距离处的平坦表面,该参考衍射图案可以是在步骤50(图3)所形成的校准散斑图像的傅立叶变换。在这种情况下,参考衍射图案可以被沉积或蚀刻到DOE的表面。可替代地,DOE122可包括空间光调制器(SLM),该空间光调制器被驱动以动态投射参考衍射图案。
在任一情况下,相关器110将目标的子图像(由阵列116中的微透镜形成)与傅立叶空间中的参考散斑图案相乘。因此,由微透镜阵列124投射到传感器40上的强度分布对应于带有参考散斑图案的每个子图像的互相关。通常,传感器上的强度分布将包括多个相关峰,每个峰对应于子图像中的一个。相对于对应于子图像(如在阵列118中由对应小孔所定义)的轴线的每个峰的横向偏移量与目标28的对应区域上的散斑图案的横向位移成比例。如上文所说明的,该位移又与相对于参考散斑图案平面的区域的Z方向位移成比例。因此,可处理该传感器40的输出以确定每个子图像区域的Z坐标,并从而计算目标的3D图。
尽管上述实施方案涉及的是上文所述的系统20的具体配置和设备22的设计,然而本发明的某些原则可类似地应用于基于散斑的3D映射的其他类型的系统和设备中。例如,上述实施方案的多个方面可应用于使用多图像捕获组件,或者其中图像捕获组件和照明组件相对于彼此可移动的系统中。
因此将认识到,上述实施方案是通过示例的方式被引用,并且本发明不限于上文已经具体示出和描述的内容。更确切地说,本发明的范围包括在上文中所描述的各种特征的组合和子组合,以及在本领域中的普通技术人员在阅读上述说明书后所想到的在现有技术中还未公开的变化和修改。

Claims (42)

1.一种用于目标的3D映射的装置,包括:
照明组件,包括相干光源和漫射体,所述相干光源和所述漫射体被布置为将主散斑图案投射到所述目标上;
单图像捕获组件,该单图像捕获组件被布置为从相对于所述照明组件的单一、固定位置和角度来捕获所述目标上的主散斑图案的图像,其中所述单图像捕获组件包括
探测器元件阵列,该探测器元件阵列被布置为直线图案,该直线图案限定第一和第二相互垂直的轴线;以及
物镜光学系统,该物镜光学系统具有入射光瞳并被布置为将所述图像聚焦到所述阵列上;
处理器,该处理器被连接以处理在所述单一、固定位置和角度处所捕获的主散斑图案的图像,从而导出所述目标的3D图;以及
安装件,该安装件连接至所述照明组件和所述单图像捕获组件,从而使所述单图像捕获组件与所述照明组件保持处于固定空间关系,所述单图像捕获组件在相对于所述照明组件的所述单一、固定位置和角度处。
2.根据权利要求1所述的装置,其中所述照明组件和所述单图像捕获组件被所述安装件校直,从而限定一设备轴线,该设备轴线平行于所述第一轴线并穿过所述入射光瞳以及斑点,在该斑点处由所述相干光源所发出的光束经过所述漫射体。
3.根据权利要求2所述的装置,其中所述处理器被布置为通过找到在一个或多个所述图像中所捕获的主散斑图案和该主散斑图案的参考图像之间仅沿所述第一轴线的偏移量来导出所述3D图。
4.根据权利要求1所述的装置,其中所述处理器被布置为通过找到在一个或多个所述图像中所捕获的所述目标的多个区域上的主散斑图案和所述主散斑图案的参考图像之间的各自偏移量来导出所述3D图,其中所述各自偏移量表示在所述多个区域和所述单图像捕获组件之间的各自距离。
5.根据权利要求4所述的装置,其中所述单图像捕获组件位于距所述照明组件一预定间距处,并且所述各自偏移量与所述各自距离成比例,该比例由所述间距确定。
6.根据权利要求5所述的装置,其中由所述照明组件所投射的所述主散斑图案包括具有特征尺寸的散斑,并且其中所述图像中的所述散斑的尺寸在所述图像上随着取决于所述间距的公差的变化而变化,并且其中所述间距被选择以将所述公差维持在预定界限内。
7.根据权利要求4所述的装置,其中所述处理器被布置为使用所述单图像捕获组件中的扭曲参数模型来将所述各自偏移量与所述3D图中的各自坐标相关。
8.根据权利要求4所述的装置,其中所述处理器被布置,以通过找到在所述目标的第一区域中的所述主散斑图案和在相对于所述第一区域的第一偏移量处的所述参考图像的对应区域之间的初始匹配来找到所述各自偏移量,并基于所述第一偏移量,应用区域增长过程来找到相邻于所述第一区域的像素的所述各自偏移量。
9.根据权利要求1至8中任一权利要求所述的装置,其中所述处理器被布置为处理在所述目标正在移动时所捕获的连续图像,从而对所述目标的3D运动进行映射。
10.根据权利要求9所述的装置,其中所述目标是人体的一部分,并且其中所述3D运动包括由所述人体的一部分做出的姿势,并且其中所述处理器被连接以响应于所述姿势向计算机应用提供输入。
11.根据权利要求1至8中任一权利要求所述的装置,其中所述照明组件包括光束形成器,该光束形成器被布置为减小由所述漫射体在所述光束与所述图像的视场之间的交叠区域内所创建的所述散斑图案的对比度的变化。
12.根据权利要求11所述的装置,其中所述光束形成器包括衍射光学元件。
13.根据权利要求12所述的装置,其中所述光束形成器包括被布置为限定所述漫射体的傅立叶平面的透镜,并且其中所述衍射光学元件位于所述傅立叶平面上。
14.根据权利要求11所述的装置,其中所述光束形成器被布置为减小从所述漫射体中所发出的光的发散度。
15.根据权利要求11所述的装置,其中所述光束形成器被布置为将从所述漫射体所发出的遍及横向于所述照明组件的光轴的平面的光的强度均衡化。
16.根据权利要求1和4至8中任一权利要求所述的装置,其中所述单图像捕获组件包括光学相关器。
17.根据权利要求16所述的装置,其中所述光学相关器包括:
含有参考散斑图案的衍射光学元件;
小孔阵列;
微透镜阵列,该微透镜阵列被布置为穿过所述小孔阵列将所述目标的多个子图像投射到所述衍射光学元件上;以及
图像传感器,该图像传感器被布置为接收来自所述衍射光学元件的强度分布,该强度分布包括表示所述目标的3D坐标的各自相关峰。
18.根据权利要求1至8中任一权利要求所述的装置,其中所述相干光源的相干长度小于1cm。
19.根据权利要求1至8中任一权利要求所述的装置,其中所述主散斑图案包括具有特征尺寸的散斑,并且其中所述照明组件被配置为允许所述散斑的特征尺寸通过改变所述相干光源与所述漫射体之间的距离而得到调整。
20.一种用于目标的3D映射的方法,包括:
使用来自光源的一束漫射相干光来照明目标,从而将主散斑图案投射到所述目标上;
使用单图像捕获组件从相对于所述光源的单一、固定位置和角度处捕获所述目标上的主散斑图案的图像,在捕获所述图像时所述单图像捕获组件与所述照明组件保持处于固定空间关系,所述单图像捕获组件在相对于所述照明组件的所述单一、固定位置和角度处,
其中所述单图像捕获组件包括以直线图案布置的探测器元件阵列,该直线图案限定第一和第二相互垂直的轴线;以及
处理在所述单一、固定位置和角度处所捕获的主散斑图案的图像,从而导出所述目标的3D图。
21.根据权利要求20所述的方法,其中所述光源包括漫射体,并且其中捕获所述图像包括使所述图像捕获组件的入射光瞳与一斑点对准,在该斑点处光束沿平行于所述第一轴线的设备轴线穿过所述漫射体。
22.根据权利要求21所述的方法,其中处理所述图像包括找到在一个或多个所述图像中所捕获的主散斑图案和该主散斑图案的参考图像之间仅沿所述第一轴线的偏移量。
23.根据权利要求20所述的方法,其中处理所述图像包括找到在一个或多个所述图像中所捕获的所述目标的多个区域上的主散斑图案和所述主散斑图案的参考图像之间的各自偏移量,其中所述各自偏移量表示在所述区域和所述图像捕获组件之间的各自距离。
24.根据权利要求23所述的方法,其中所述各自偏移量与所述各自距离成比例,该比例由所述固定位置距离所述光源的间距确定。
25.根据权利要求24所述的方法,其中所述主散斑图案包括具有特征尺寸的散斑,并且其中所述图像中的所述散斑的尺寸在所述图像上随着取决于所述间距的公差的变化而变化,并且其中捕获所述图像包括选择所述间距从而将所述公差维持在预定界限内。
26.根据权利要求23所述的方法,其中找到所述各自偏移量包括使用所述图像捕获组件中的扭曲参数模型来将所述各自偏移量与所述3D图中的各自坐标相关。
27.根据权利要求23所述的方法,其中找到所述各自偏移量包括找到在所述目标的第一区域中的所述主散斑图案和在相对于所述第一区域的第一偏移量处的所述参考图像的对应区域之间的初始匹配,以及基于所述第一偏移量,应用区域增长过程来找到相邻于所述第一区域的像素的所述各自偏移量。
28.根据权利要求20、21和24至27中任一权利要求所述的方法,其中处理所述图像包括处理在所述目标正在移动时所捕获的连续图像,从而对所述目标的3D运动进行映射。
29.根据权利要求28所述的方法,其中所述目标是人体的一部分,并且其中所述3D运动包括由所述人体的一部分做出的姿势,并且处理所述图像包括响应于所述姿势向计算机应用提供输入。
30.根据权利要求20至27中任一权利要求所述的方法,其中照明所述目标包括形成光束以便于减小由所述光源在所述光束与所述图像的视场之间的交叠区域内所创建的所述散斑图案的对比度的变化。
31.根据权利要求30所述的方法,其中形成所述光束包括使所述光束穿过衍射光学元件。
32.根据权利要求31所述的方法,其中所述光源包括漫射体,并且其中使所述光束穿过包括将所述衍射光学元件布置在所述漫射体的傅立叶平面上。
33.根据权利要求30所述的方法,其中形成所述光束包括减小所述光束的发散度。
34.根据权利要求30所述的方法,其中形成所述光束包括将遍及横向于所述光源的光轴的平面的所述光束的强度均衡化。
35.根据权利要求20至27中任一权利要求所述的方法,其中捕获所述图像包括将光学相关器应用于所述图像。
36.根据权利要求35所述的方法,其中所述光学相关器包括包含参考散斑图案的衍射光学元件,并且其中捕获所述图像包括将所述目标的多个子图像投射到所述衍射光学元件上,从而生成来自所述衍射光学元件的强度分布,该强度分布包括表示所述目标的3D坐标的各自相关峰。
37.根据权利要求20至27中任一权利要求所述的方法,其中所述相干光源的相干长度小于1cm。
38.根据权利要求20至27中任一权利要求所述的方法,其中照明所述目标包括使来自所述相干光源的光穿过漫射体以便于创建所述主散斑图案,并且其中所述主散斑图案包括具有特征尺寸的散斑,并且其中所述方法包括通过改变在所述相干光源和所述漫射体之间的距离来调整所述散斑的所述特征尺寸。
39.一种用于目标的3D映射的装置,包括:
照明组件,该照明组件包括相干长度小于1cm的相干光源,以及漫射体,所述相干光源和所述漫射体被布置为将主散斑图案投射于所述目标上;
单图像捕获组件,该单图像捕获组件被布置为从相对于所述照明组件的单一、固定位置和角度来捕获所述目标上的主散斑图案的图像,其中所述单图像捕获组件包括
探测器元件阵列,该探测器元件阵列被布置为直线图案,该直线图案限定第一和第二相互垂直的轴线;以及
物镜光学系统,该物镜光学系统具有入射光瞳并被布置为将所述图像聚焦到所述阵列上;
处理器,该处理器被连接以处理在所述单一、固定位置和角度处所捕获的主散斑图案的图像,从而导出所述目标的3D图;以及
安装件,该安装件连接至所述照明组件和所述单图像捕获组件,从而使所述单图像捕获组件与所述照明组件保持处于固定空间关系,所述单图像捕获组件在相对于所述照明组件的所述单一、固定位置和角度处。
40.根据权利要求39所述的装置,其中所述相干光源的相干长度小于0.5mm。
41.根据权利要求39或40所述的装置,其中所述相干光源的发散度大于5°。
42.根据权利要求39或40所述的装置,其中所述主散斑图案包括具有特征尺寸的散斑,并且其中所述照明组件被配置为允许所述散斑的特征尺寸通过改变所述相干光源和所述漫射体之间的距离而得到调整。
CN2007800166255A 2006-03-14 2007-03-08 利用散斑图案的三维传感 Active CN101496033B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
PCT/IL2006/000335 WO2007043036A1 (en) 2005-10-11 2006-03-14 Method and system for object reconstruction
ILPCT/IL2006/000335 2006-03-14
US78518706P 2006-03-24 2006-03-24
US60/785,187 2006-03-24
PCT/IL2007/000306 WO2007105205A2 (en) 2006-03-14 2007-03-08 Three-dimensional sensing using speckle patterns

Publications (2)

Publication Number Publication Date
CN101496033A CN101496033A (zh) 2009-07-29
CN101496033B true CN101496033B (zh) 2012-03-21

Family

ID=38509871

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007800166255A Active CN101496033B (zh) 2006-03-14 2007-03-08 利用散斑图案的三维传感

Country Status (5)

Country Link
US (2) US8390821B2 (zh)
JP (1) JP5174684B2 (zh)
KR (1) KR101331543B1 (zh)
CN (1) CN101496033B (zh)
WO (1) WO2007105205A2 (zh)

Families Citing this family (204)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110096182A1 (en) * 2009-10-25 2011-04-28 Prime Sense Ltd Error Compensation in Three-Dimensional Mapping
US9330324B2 (en) * 2005-10-11 2016-05-03 Apple Inc. Error compensation in three-dimensional mapping
US8400494B2 (en) 2005-10-11 2013-03-19 Primesense Ltd. Method and system for object reconstruction
KR101408959B1 (ko) * 2006-03-14 2014-07-02 프라임센스 엘티디. 삼차원 감지를 위한 깊이 가변 광 필드
KR101331543B1 (ko) 2006-03-14 2013-11-20 프라임센스 엘티디. 스페클 패턴을 이용한 3차원 센싱
JP5592070B2 (ja) * 2006-03-14 2014-09-17 プライム センス リミティド 三次元検知のために深度変化させる光照射野
CN103778635B (zh) * 2006-05-11 2016-09-28 苹果公司 用于处理数据的方法和装置
US8350847B2 (en) * 2007-01-21 2013-01-08 Primesense Ltd Depth mapping using multi-beam illumination
US8265793B2 (en) 2007-03-20 2012-09-11 Irobot Corporation Mobile robot for telecommunication
WO2008120217A2 (en) 2007-04-02 2008-10-09 Prime Sense Ltd. Depth mapping using projected patterns
US8150142B2 (en) 2007-04-02 2012-04-03 Prime Sense Ltd. Depth mapping using projected patterns
WO2008155770A2 (en) 2007-06-19 2008-12-24 Prime Sense Ltd. Distance-varying illumination and imaging techniques for depth mapping
FR2921719B1 (fr) 2007-09-28 2010-03-12 Noomeo Procede de construction d'une image de synthese d'une surface tridimensionnelle d'un objet physique
DE102007058590B4 (de) * 2007-12-04 2010-09-16 Sirona Dental Systems Gmbh Aufnahmeverfahren für ein Bild eines Aufnahmeobjekts und Aufnahmevorrichtung
US9035876B2 (en) 2008-01-14 2015-05-19 Apple Inc. Three-dimensional user interface session control
US8166421B2 (en) * 2008-01-14 2012-04-24 Primesense Ltd. Three-dimensional user interface
US8933876B2 (en) 2010-12-13 2015-01-13 Apple Inc. Three dimensional user interface session control
US8384997B2 (en) * 2008-01-21 2013-02-26 Primesense Ltd Optical pattern projection
EP2235584B1 (en) * 2008-01-21 2020-09-16 Apple Inc. Optical designs for zero order reduction
US8456517B2 (en) 2008-07-09 2013-06-04 Primesense Ltd. Integrated processor for 3D mapping
GB2463724B (en) * 2008-09-26 2011-05-04 Cybula Ltd Forming 3D images
FR2940423B1 (fr) 2008-12-22 2011-05-27 Noomeo Dispositif de numerisation tridimensionnelle a reconstruction dense
US8462207B2 (en) 2009-02-12 2013-06-11 Primesense Ltd. Depth ranging with Moiré patterns
US8786682B2 (en) 2009-03-05 2014-07-22 Primesense Ltd. Reference image techniques for three-dimensional sensing
US8717417B2 (en) 2009-04-16 2014-05-06 Primesense Ltd. Three-dimensional mapping and imaging
AU2010262191B2 (en) 2009-06-17 2015-04-23 3Shape A/S Focus scanning apparatus
US9582889B2 (en) 2009-07-30 2017-02-28 Apple Inc. Depth mapping based on pattern matching and stereoscopic information
US8565479B2 (en) 2009-08-13 2013-10-22 Primesense Ltd. Extraction of skeletons from 3D maps
CN102022979A (zh) 2009-09-21 2011-04-20 鸿富锦精密工业(深圳)有限公司 三维光学感测系统
US8963829B2 (en) 2009-10-07 2015-02-24 Microsoft Corporation Methods and systems for determining and tracking extremities of a target
US8564534B2 (en) * 2009-10-07 2013-10-22 Microsoft Corporation Human tracking system
US8867820B2 (en) 2009-10-07 2014-10-21 Microsoft Corporation Systems and methods for removing a background of an image
US7961910B2 (en) 2009-10-07 2011-06-14 Microsoft Corporation Systems and methods for tracking a model
JP5588310B2 (ja) * 2009-11-15 2014-09-10 プライムセンス リミテッド ビームモニタ付き光学プロジェクタ
US8830227B2 (en) * 2009-12-06 2014-09-09 Primesense Ltd. Depth-based gain control
JP4783456B2 (ja) * 2009-12-22 2011-09-28 株式会社東芝 映像再生装置及び映像再生方法
US20110187878A1 (en) 2010-02-02 2011-08-04 Primesense Ltd. Synchronization of projected illumination with rolling shutter of image sensor
US20110188054A1 (en) * 2010-02-02 2011-08-04 Primesense Ltd Integrated photonics module for optical projection
US8786757B2 (en) 2010-02-23 2014-07-22 Primesense Ltd. Wideband ambient light rejection
US8787663B2 (en) * 2010-03-01 2014-07-22 Primesense Ltd. Tracking body parts by combined color image and depth processing
US8982182B2 (en) * 2010-03-01 2015-03-17 Apple Inc. Non-uniform spatial resource allocation for depth mapping
WO2011127646A1 (en) * 2010-04-13 2011-10-20 Nokia Corporation An apparatus, method, computer program and user interface
US8918213B2 (en) 2010-05-20 2014-12-23 Irobot Corporation Mobile human interface robot
WO2011146259A2 (en) 2010-05-20 2011-11-24 Irobot Corporation Mobile human interface robot
US8935005B2 (en) 2010-05-20 2015-01-13 Irobot Corporation Operating a mobile robot
US9014848B2 (en) 2010-05-20 2015-04-21 Irobot Corporation Mobile robot system
US8918209B2 (en) 2010-05-20 2014-12-23 Irobot Corporation Mobile human interface robot
US8594425B2 (en) 2010-05-31 2013-11-26 Primesense Ltd. Analysis of three-dimensional scenes
US8670029B2 (en) * 2010-06-16 2014-03-11 Microsoft Corporation Depth camera illuminator with superluminescent light-emitting diode
US9201501B2 (en) 2010-07-20 2015-12-01 Apple Inc. Adaptive projector
JP5791131B2 (ja) 2010-07-20 2015-10-07 アップル インコーポレイテッド 自然な相互作用のための相互作用的現実拡張
CN103097925B (zh) 2010-08-06 2016-04-13 旭硝子株式会社 衍射光学元件和计测装置
JP5834602B2 (ja) 2010-08-10 2015-12-24 旭硝子株式会社 回折光学素子及び計測装置
US9098931B2 (en) 2010-08-11 2015-08-04 Apple Inc. Scanning projectors and image capture modules for 3D mapping
US9036158B2 (en) 2010-08-11 2015-05-19 Apple Inc. Pattern projector
US9348111B2 (en) 2010-08-24 2016-05-24 Apple Inc. Automatic detection of lens deviations
US8582867B2 (en) 2010-09-16 2013-11-12 Primesense Ltd Learning-based pose estimation from depth maps
US8959013B2 (en) 2010-09-27 2015-02-17 Apple Inc. Virtual keyboard for a non-tactile three dimensional user interface
IL208568B (en) * 2010-10-07 2018-06-28 Elbit Systems Ltd Mapping, discovering and tracking objects in an external arena by using active vision
JP5760391B2 (ja) 2010-11-02 2015-08-12 旭硝子株式会社 回折光学素子及び計測装置
KR20120046973A (ko) * 2010-11-03 2012-05-11 삼성전자주식회사 움직임 정보 생성 방법 및 장치
WO2012066501A1 (en) 2010-11-19 2012-05-24 Primesense Ltd. Depth mapping using time-coded illumination
US9167138B2 (en) 2010-12-06 2015-10-20 Apple Inc. Pattern projection and imaging using lens arrays
US8872762B2 (en) 2010-12-08 2014-10-28 Primesense Ltd. Three dimensional user interface cursor control
EP2466560A1 (en) 2010-12-20 2012-06-20 Axis AB Method and system for monitoring the accessibility of an emergency exit
CA2824606A1 (en) 2010-12-30 2012-07-05 Irobot Corporation Mobile human interface robot
US8930019B2 (en) 2010-12-30 2015-01-06 Irobot Corporation Mobile human interface robot
US8717488B2 (en) 2011-01-18 2014-05-06 Primesense Ltd. Objective optics with interference filter
WO2012107892A2 (en) 2011-02-09 2012-08-16 Primesense Ltd. Gaze detection in a 3d mapping environment
JP5948949B2 (ja) * 2011-06-28 2016-07-06 旭硝子株式会社 回折光学素子及び計測装置
US9052512B2 (en) 2011-03-03 2015-06-09 Asahi Glass Company, Limited Diffractive optical element and measuring apparatus
JP5948948B2 (ja) * 2011-03-03 2016-07-06 旭硝子株式会社 回折光学素子及び計測装置
US9030528B2 (en) 2011-04-04 2015-05-12 Apple Inc. Multi-zone imaging sensor and lens array
CN102760234B (zh) 2011-04-14 2014-08-20 财团法人工业技术研究院 深度图像采集装置、系统及其方法
JP5214062B1 (ja) * 2011-04-28 2013-06-19 三洋電機株式会社 情報取得装置および物体検出装置
US9024872B2 (en) 2011-04-28 2015-05-05 Sharp Kabushiki Kaisha Head-mounted display
EP2530442A1 (en) 2011-05-30 2012-12-05 Axis AB Methods and apparatus for thermographic measurements.
JP5926500B2 (ja) * 2011-06-07 2016-05-25 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP5298161B2 (ja) * 2011-06-13 2013-09-25 シャープ株式会社 操作装置及び画像形成装置
US8881051B2 (en) 2011-07-05 2014-11-04 Primesense Ltd Zoom-based gesture user interface
US9377865B2 (en) 2011-07-05 2016-06-28 Apple Inc. Zoom-based gesture user interface
US9459758B2 (en) 2011-07-05 2016-10-04 Apple Inc. Gesture-based interface with enhanced features
US8869073B2 (en) * 2011-07-28 2014-10-21 Hewlett-Packard Development Company, L.P. Hand pose interaction
US8908277B2 (en) 2011-08-09 2014-12-09 Apple Inc Lens array projector
US8749796B2 (en) 2011-08-09 2014-06-10 Primesense Ltd. Projectors of structured light
US8971572B1 (en) 2011-08-12 2015-03-03 The Research Foundation For The State University Of New York Hand pointing estimation for human computer interaction
US9030498B2 (en) 2011-08-15 2015-05-12 Apple Inc. Combining explicit select gestures and timeclick in a non-tactile three dimensional user interface
US9122311B2 (en) 2011-08-24 2015-09-01 Apple Inc. Visual feedback for tactile and non-tactile user interfaces
US9218063B2 (en) 2011-08-24 2015-12-22 Apple Inc. Sessionless pointing user interface
US9002099B2 (en) 2011-09-11 2015-04-07 Apple Inc. Learning-based estimation of hand and finger pose
FR2980292B1 (fr) 2011-09-16 2013-10-11 Prynel Procede et systeme d'acquisition et de traitement d'images pour la detection du mouvement
US9462210B2 (en) 2011-11-04 2016-10-04 Remote TelePointer, LLC Method and system for user interface for interactive devices using a mobile device
DE102011121696A1 (de) * 2011-12-16 2013-06-20 Friedrich-Schiller-Universität Jena Verfahren zur 3D-Messung von tiefenlimitierten Objekten
EP2611169A1 (fr) 2011-12-27 2013-07-03 Thomson Licensing Dispositif d'acquisition d'images stereoscopiques
SI2618316T1 (sl) 2012-01-23 2018-12-31 Novomatic Ag Kolo sreče z nadzorom s kretnjami
JP5985661B2 (ja) 2012-02-15 2016-09-06 アップル インコーポレイテッド 走査深度エンジン
US10937239B2 (en) 2012-02-23 2021-03-02 Charles D. Huston System and method for creating an environment and for sharing an event
US10600235B2 (en) 2012-02-23 2020-03-24 Charles D. Huston System and method for capturing and sharing a location based experience
EP2817785B1 (en) * 2012-02-23 2019-05-15 Charles D. Huston System and method for creating an environment and for sharing a location based experience in an environment
US9229534B2 (en) 2012-02-28 2016-01-05 Apple Inc. Asymmetric mapping for tactile and non-tactile user interfaces
US8958911B2 (en) 2012-02-29 2015-02-17 Irobot Corporation Mobile robot
KR101898490B1 (ko) * 2012-02-29 2018-09-13 엘지전자 주식회사 홀로그래픽 디스플레이 장치 및 3차원 동영상의 중복성을 이용한 홀로그램 생성 방법
CN104221059B (zh) 2012-03-22 2017-05-10 苹果公司 基于衍射感测镜子位置
WO2013144807A1 (en) 2012-03-26 2013-10-03 Primesense Ltd. Enhanced virtual touchpad and touchscreen
US9047507B2 (en) 2012-05-02 2015-06-02 Apple Inc. Upper-body skeleton extraction from depth maps
CN103424077A (zh) * 2012-05-23 2013-12-04 联想(北京)有限公司 运动检测装置、检测方法和电子设备
CN102681183B (zh) * 2012-05-25 2015-01-07 合肥鼎臣光电科技有限责任公司 基于透镜阵列的双向三维成像和裸眼三维显示系统
US10048779B2 (en) * 2012-06-30 2018-08-14 Hewlett-Packard Development Company, L.P. Virtual hand based on combined data
US8896594B2 (en) * 2012-06-30 2014-11-25 Microsoft Corporation Depth sensing with depth-adaptive illumination
WO2014033614A1 (en) 2012-08-27 2014-03-06 Koninklijke Philips N.V. Patient-specific and automatic x-ray system adjustment based on optical 3d scene detection and interpretation
US9019267B2 (en) 2012-10-30 2015-04-28 Apple Inc. Depth mapping with enhanced resolution
DE102012110460A1 (de) * 2012-10-31 2014-04-30 Audi Ag Verfahren zum Eingeben eines Steuerbefehls für eine Komponente eines Kraftwagens
US9661304B2 (en) * 2012-10-31 2017-05-23 Ricoh Company, Ltd. Pre-calculation of sine waves for pixel values
JP6155448B2 (ja) 2012-11-01 2017-07-05 アイカム エルエルシー 3d撮像し、マッピングし、ネットワーク化しおよびインタフェースするための無線手首コンピューティングおよびコントロールするデバイスおよび方法
US9152234B2 (en) 2012-12-02 2015-10-06 Apple Inc. Detecting user intent to remove a pluggable peripheral device
NL2010213C2 (en) 2013-01-31 2014-08-04 Lely Patent Nv Camera system, animal related system therewith, and method to create 3d camera images.
US9217665B2 (en) 2013-01-31 2015-12-22 Hewlett Packard Enterprise Development Lp Viewing-angle imaging using lenslet array
JP6044403B2 (ja) * 2013-03-18 2016-12-14 富士通株式会社 撮像装置、撮像方法、および撮像プログラム
US10268885B2 (en) 2013-04-15 2019-04-23 Microsoft Technology Licensing, Llc Extracting true color from a color and infrared sensor
CN103268608B (zh) * 2013-05-17 2015-12-02 清华大学 基于近红外激光散斑的深度估计方法及装置
US10401498B2 (en) * 2013-06-06 2019-09-03 Ams Sensors Singapore Pte. Ltd. Sensor system with active illumination
US9615812B2 (en) 2013-06-19 2017-04-11 Koninklijke Philips N.V. Calibration of imagers with dynamic beam shapers
CN105324631B (zh) 2013-06-19 2018-11-16 苹果公司 集成结构化光投影仪
US9208566B2 (en) 2013-08-09 2015-12-08 Microsoft Technology Licensing, Llc Speckle sensing for motion tracking
JP6387964B2 (ja) 2013-09-02 2018-09-12 Agc株式会社 計測装置
TWI485361B (zh) * 2013-09-11 2015-05-21 Univ Nat Taiwan 三維形貌輪廓量測裝置及其方法
KR102159996B1 (ko) * 2013-12-16 2020-09-25 삼성전자주식회사 이벤트 필터링 장치 및 이를 이용한 동작 인식 장치
US9528906B1 (en) 2013-12-19 2016-12-27 Apple Inc. Monitoring DOE performance using total internal reflection
JP6359466B2 (ja) * 2014-01-13 2018-07-18 フェイスブック,インク. サブ解像度での光学的検出
WO2015118120A1 (en) 2014-02-07 2015-08-13 3Shape A/S Detecting tooth shade
WO2015148604A1 (en) 2014-03-25 2015-10-01 Massachusetts Institute Of Technology Space-time modulated active 3d imager
US10349037B2 (en) 2014-04-03 2019-07-09 Ams Sensors Singapore Pte. Ltd. Structured-stereo imaging assembly including separate imagers for different wavelengths
US10455212B1 (en) * 2014-08-25 2019-10-22 X Development Llc Projected pattern motion/vibration for depth sensing
USD733141S1 (en) 2014-09-10 2015-06-30 Faro Technologies, Inc. Laser scanner
US9841496B2 (en) 2014-11-21 2017-12-12 Microsoft Technology Licensing, Llc Multiple pattern illumination optics for time of flight system
US9881235B1 (en) 2014-11-21 2018-01-30 Mahmoud Narimanzadeh System, apparatus, and method for determining physical dimensions in digital images
TWI564754B (zh) * 2014-11-24 2017-01-01 圓剛科技股份有限公司 空間運動感測器與空間運動感測方法
CN107209960B (zh) * 2014-12-18 2021-01-01 脸谱科技有限责任公司 用于提供虚拟现实环境的用户界面的系统、设备及方法
CN107864667A (zh) 2014-12-27 2018-03-30 贾迪安光学技术有限公司 用于检测表面的多个振动的系统及方法
FI126498B (en) * 2014-12-29 2017-01-13 Helmee Imaging Oy Optical measurement system
US10186034B2 (en) 2015-01-20 2019-01-22 Ricoh Company, Ltd. Image processing apparatus, system, image processing method, calibration method, and computer-readable recording medium
US9958758B2 (en) * 2015-01-21 2018-05-01 Microsoft Technology Licensing, Llc Multiple exposure structured light pattern
US10509147B2 (en) 2015-01-29 2019-12-17 ams Sensors Singapore Pte. Ltd Apparatus for producing patterned illumination using arrays of light sources and lenses
US9817159B2 (en) 2015-01-31 2017-11-14 Microsoft Technology Licensing, Llc Structured light pattern generation
JP6575795B2 (ja) 2015-03-11 2019-09-18 パナソニックIpマネジメント株式会社 人感検知システム
US9530215B2 (en) * 2015-03-20 2016-12-27 Qualcomm Incorporated Systems and methods for enhanced depth map retrieval for moving objects using active sensing technology
US10001583B2 (en) 2015-04-06 2018-06-19 Heptagon Micro Optics Pte. Ltd. Structured light projection using a compound patterned mask
US9525863B2 (en) 2015-04-29 2016-12-20 Apple Inc. Time-of-flight depth mapping with flexible scan pattern
WO2016183395A1 (en) * 2015-05-13 2016-11-17 Oculus Vr, Llc Augmenting a depth map representation with a reflectivity map representation
US10722200B2 (en) * 2015-06-04 2020-07-28 Siemens Healthcare Gmbh Apparatus and methods for a projection display device on X-ray imaging devices
JP6566768B2 (ja) * 2015-07-30 2019-08-28 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
US10012831B2 (en) 2015-08-03 2018-07-03 Apple Inc. Optical monitoring of scan parameters
US10043279B1 (en) 2015-12-07 2018-08-07 Apple Inc. Robust detection and classification of body parts in a depth map
US11057608B2 (en) 2016-01-04 2021-07-06 Qualcomm Incorporated Depth map generation in structured light system
JP6668763B2 (ja) 2016-01-13 2020-03-18 セイコーエプソン株式会社 画像認識装置、画像認識方法および画像認識ユニット
JP6668764B2 (ja) 2016-01-13 2020-03-18 セイコーエプソン株式会社 画像認識装置、画像認識方法および画像認識ユニット
JP6631261B2 (ja) 2016-01-14 2020-01-15 セイコーエプソン株式会社 画像認識装置、画像認識方法および画像認識ユニット
US10154234B2 (en) * 2016-03-16 2018-12-11 Omnivision Technologies, Inc. Image sensor with peripheral 3A-control sensors and associated imaging system
KR101745651B1 (ko) * 2016-03-29 2017-06-09 전자부품연구원 손 제스처 인식 시스템 및 방법
US10489924B2 (en) 2016-03-30 2019-11-26 Samsung Electronics Co., Ltd. Structured light generator and object recognition apparatus including the same
JP6607121B2 (ja) 2016-03-30 2019-11-20 セイコーエプソン株式会社 画像認識装置、画像認識方法および画像認識ユニット
US10474297B2 (en) 2016-07-20 2019-11-12 Ams Sensors Singapore Pte. Ltd. Projecting a structured light pattern onto a surface and detecting and responding to interactions with the same
US10241244B2 (en) 2016-07-29 2019-03-26 Lumentum Operations Llc Thin film total internal reflection diffraction grating for single polarization or dual polarization
US10481740B2 (en) 2016-08-01 2019-11-19 Ams Sensors Singapore Pte. Ltd. Projecting a structured light pattern onto a surface and detecting and responding to interactions with the same
US10775508B1 (en) * 2016-08-19 2020-09-15 Apple Inc. Remote sensing device
US10073004B2 (en) 2016-09-19 2018-09-11 Apple Inc. DOE defect monitoring utilizing total internal reflection
US10366278B2 (en) 2016-09-20 2019-07-30 Apple Inc. Curvature-based face detector
TWI587206B (zh) * 2016-11-24 2017-06-11 財團法人工業技術研究院 互動顯示裝置及系統
US10499039B2 (en) 2016-12-15 2019-12-03 Egismos Technology Corporation Path detection system and path detection method generating laser pattern by diffractive optical element
US10158845B2 (en) 2017-01-18 2018-12-18 Facebook Technologies, Llc Tileable structured light projection for wide field-of-view depth sensing
US10620447B2 (en) * 2017-01-19 2020-04-14 Cognex Corporation System and method for reduced-speckle laser line generation
EP3615967B1 (en) * 2017-04-24 2023-03-01 Magic Leap, Inc. Tracking optical flow of backscattered laser speckle patterns
CN110662989A (zh) 2017-05-26 2020-01-07 Agc株式会社 衍射光学元件、投影装置及计测装置
US11494897B2 (en) 2017-07-07 2022-11-08 William F. WILEY Application to determine reading/working distance
US10527711B2 (en) * 2017-07-10 2020-01-07 Aurora Flight Sciences Corporation Laser speckle system and method for an aircraft
EP3652555B1 (en) 2017-08-31 2024-03-06 SZ DJI Technology Co., Ltd. A solid state light detection and ranging (lidar) system system and method for improving solid state light detection and ranging (lidar) resolution
EP3622315A4 (en) * 2017-08-31 2020-12-16 SZ DJI Technology Co., Ltd. SEMICONDUCTOR LIGHT DISTANCE DETECTION AND TELEMETRY (LIDAR) SYSTEM
US11314399B2 (en) 2017-10-21 2022-04-26 Eyecam, Inc. Adaptive graphic user interfacing system
JP6970376B2 (ja) 2017-12-01 2021-11-24 オムロン株式会社 画像処理システム、及び画像処理方法
US10310281B1 (en) 2017-12-05 2019-06-04 K Laser Technology, Inc. Optical projector with off-axis diffractive element
US10545457B2 (en) 2017-12-05 2020-01-28 K Laser Technology, Inc. Optical projector with off-axis diffractive element and conjugate images
US10317684B1 (en) 2018-01-24 2019-06-11 K Laser Technology, Inc. Optical projector with on axis hologram and multiple beam splitter
CN110161786B (zh) 2018-02-12 2021-08-31 深圳富泰宏精密工业有限公司 光投射模块、三维影像感测装置及其感测方法
CN108663800B (zh) * 2018-04-16 2021-03-19 华东交通大学 光学加密与解密方法、装置及系统
US11422292B1 (en) 2018-06-10 2022-08-23 Apple Inc. Super-blazed diffractive optical elements with sub-wavelength structures
WO2019240010A1 (ja) 2018-06-11 2019-12-19 Agc株式会社 回折光学素子、投影装置および計測装置
CN110619996B (zh) * 2018-06-20 2022-07-08 株式会社村田制作所 电感器及其制造方法
US11675114B2 (en) 2018-07-23 2023-06-13 Ii-Vi Delaware, Inc. Monolithic structured light projector
DE102018129143B4 (de) * 2018-11-20 2021-06-17 Carl Zeiss Industrielle Messtechnik Gmbh Variabler messobjektabhängiger Kameraaufbau und Kalibrierung davon
CN109541875B (zh) * 2018-11-24 2024-02-13 深圳阜时科技有限公司 一种光源结构、光学投影模组、感测装置及设备
WO2020136658A1 (en) * 2018-12-28 2020-07-02 Guardian Optical Technologies Ltd Systems, devices and methods for vehicle post-crash support
CN113454676A (zh) * 2019-02-18 2021-09-28 指纹卡有限公司 光学生物特征成像装置和操作光学生物特征成像装置的方法
US11029408B2 (en) * 2019-04-03 2021-06-08 Varjo Technologies Oy Distance-imaging system and method of distance imaging
US10509128B1 (en) 2019-04-12 2019-12-17 K Laser Technology, Inc. Programmable pattern optical projector for depth detection
US11681019B2 (en) 2019-09-18 2023-06-20 Apple Inc. Optical module with stray light baffle
US11506762B1 (en) 2019-09-24 2022-11-22 Apple Inc. Optical module comprising an optical waveguide with reference light path
GB2589121A (en) * 2019-11-21 2021-05-26 Bae Systems Plc Imaging apparatus
CN111650759A (zh) * 2019-12-31 2020-09-11 北京大学 近红外光斑投影的多焦距微透镜阵列遥感光场成像系统
WO2021144658A1 (en) * 2020-01-17 2021-07-22 Antishock Technologies, Ltd. System and method for monitoring fluid management to a patient
US11754767B1 (en) 2020-03-05 2023-09-12 Apple Inc. Display with overlaid waveguide
US11843221B2 (en) * 2020-03-30 2023-12-12 Namuga, Co., Ltd. Light source module for emitting high density beam and method for controlling the same
CA3188141A1 (en) * 2020-06-30 2022-01-06 Kneedly Ab Solution for determination of supraphysiological body joint movements
EP3993385A1 (en) 2020-10-29 2022-05-04 Universitat de València A multiperspective photography camera device
CN114255233B (zh) * 2022-03-01 2022-05-31 合肥的卢深视科技有限公司 散斑图的质量评价方法、装置、电子设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN2364507Y (zh) * 1999-03-18 2000-02-16 香港生产力促进局 小型非接触对称输入式三维外形扫描头
CN1159566C (zh) * 1999-05-14 2004-07-28 北京三维世界科技有限公司 三维成像系统

Family Cites Families (165)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2951207A1 (de) * 1978-12-26 1980-07-10 Canon Kk Verfahren zur optischen herstellung einer streuplatte
US4542376A (en) * 1983-11-03 1985-09-17 Burroughs Corporation System for electronically displaying portions of several different images on a CRT screen through respective prioritized viewports
JPS6079108U (ja) * 1983-11-08 1985-06-01 オムロン株式会社 スペツクル距離計
JPH0762869B2 (ja) 1986-03-07 1995-07-05 日本電信電話株式会社 パタ−ン投影による位置形状計測方法
US4843568A (en) * 1986-04-11 1989-06-27 Krueger Myron W Real time perception of and response to the actions of an unencumbered participant/user
JPH0615968B2 (ja) * 1986-08-11 1994-03-02 伍良 松本 立体形状測定装置
JP2714152B2 (ja) * 1989-06-28 1998-02-16 古野電気株式会社 物体形状測定方法
US5075562A (en) * 1990-09-20 1991-12-24 Eastman Kodak Company Method and apparatus for absolute Moire distance measurements using a grating printed on or attached to a surface
GB9116151D0 (en) 1991-07-26 1991-09-11 Isis Innovation Three-dimensional vision system
US5483261A (en) * 1992-02-14 1996-01-09 Itu Research, Inc. Graphical input controller and method with rear screen image detection
EP0559978B1 (en) * 1992-03-12 1998-08-05 International Business Machines Corporation Image processing method
US5636025A (en) * 1992-04-23 1997-06-03 Medar, Inc. System for optically measuring the surface contour of a part using more fringe techniques
JP3353365B2 (ja) * 1993-03-18 2002-12-03 静岡大学長 変位および変位速度測定装置
US5856871A (en) * 1993-08-18 1999-01-05 Applied Spectral Imaging Ltd. Film thickness mapping using interferometric spectral imaging
CN1174611A (zh) * 1994-09-05 1998-02-25 米高技术有限公司 衍射表面及其制造方法
US6041140A (en) * 1994-10-04 2000-03-21 Synthonics, Incorporated Apparatus for interactive image correlation for three dimensional image production
JPH08186845A (ja) 1994-12-27 1996-07-16 Nobuaki Yanagisawa 焦点距離制御式立体テレビ
US5630043A (en) * 1995-05-11 1997-05-13 Cirrus Logic, Inc. Animated texture map apparatus and method for 3-D image displays
IL114278A (en) * 1995-06-22 2010-06-16 Microsoft Internat Holdings B Camera and method
JPH11510248A (ja) * 1995-07-18 1999-09-07 ザ バッド カンパニー 像の深度が拡張されたモアレ干渉測定のシステム及び方法
JPH09261535A (ja) * 1996-03-25 1997-10-03 Sharp Corp 撮像装置
DE19638727A1 (de) 1996-09-12 1998-03-19 Ruedger Dipl Ing Rubbert Verfahren zur Erhöhung der Signifikanz der dreidimensionalen Vermessung von Objekten
JP3402138B2 (ja) * 1996-09-27 2003-04-28 株式会社日立製作所 液晶表示装置
IL119341A (en) * 1996-10-02 1999-09-22 Univ Ramot Phase-only filter for generating an arbitrary illumination pattern
IL119831A (en) 1996-12-15 2002-12-01 Cognitens Ltd A device and method for three-dimensional reconstruction of the surface geometry of an object
WO1998028593A1 (en) 1996-12-20 1998-07-02 Pacific Title And Mirage, Inc. Apparatus and method for rapid 3d image parametrization
US5838428A (en) * 1997-02-28 1998-11-17 United States Of America As Represented By The Secretary Of The Navy System and method for high resolution range imaging with split light source and pattern mask
JPH10327433A (ja) 1997-05-23 1998-12-08 Minolta Co Ltd 合成画像の表示装置
US6008813A (en) * 1997-08-01 1999-12-28 Mitsubishi Electric Information Technology Center America, Inc. (Ita) Real-time PC based volume rendering system
DE19736169A1 (de) 1997-08-20 1999-04-15 Fhu Hochschule Fuer Technik Verfahren zur Verformungs- oder Schwingungsmessung mittels elektronischer Speckle-Pattern-Interferometrie
US6101269A (en) * 1997-12-19 2000-08-08 Lifef/X Networks, Inc. Apparatus and method for rapid 3D image parametrization
US6438272B1 (en) 1997-12-31 2002-08-20 The Research Foundation Of State University Of Ny Method and apparatus for three dimensional surface contouring using a digital video projection system
DE19815201A1 (de) * 1998-04-04 1999-10-07 Link Johann & Ernst Gmbh & Co Meßanordnung zur Erfassung von Dimensionen von Prüflingen, vorzugsweise von Hohlkörpern, insbesondere von Bohrungen in Werkstücken, sowie Verfahren zur Messung solcher Dimensionen
US6731391B1 (en) * 1998-05-13 2004-05-04 The Research Foundation Of State University Of New York Shadow moire surface measurement using Talbot effect
DE19821611A1 (de) * 1998-05-14 1999-11-18 Syrinx Med Tech Gmbh Verfahren zur Erfassung der räumlichen Struktur einer dreidimensionalen Oberfläche
GB2352901A (en) 1999-05-12 2001-02-07 Tricorder Technology Plc Rendering three dimensional representations utilising projected light patterns
US6377700B1 (en) 1998-06-30 2002-04-23 Intel Corporation Method and apparatus for capturing stereoscopic images using image sensors
JP3678022B2 (ja) 1998-10-23 2005-08-03 コニカミノルタセンシング株式会社 3次元入力装置
US6084712A (en) * 1998-11-03 2000-07-04 Dynamic Measurement And Inspection,Llc Three dimensional imaging using a refractive optic design
US8965898B2 (en) 1998-11-20 2015-02-24 Intheplay, Inc. Optimizations for live event, real-time, 3D object tracking
US6759646B1 (en) * 1998-11-24 2004-07-06 Intel Corporation Color interpolation for a four color mosaic pattern
JP2001166810A (ja) * 1999-02-19 2001-06-22 Sanyo Electric Co Ltd 立体モデル提供装置及び方法
US6259561B1 (en) * 1999-03-26 2001-07-10 The University Of Rochester Optical system for diffusing light
US6751344B1 (en) * 1999-05-28 2004-06-15 Champion Orthotic Investments, Inc. Enhanced projector system for machine vision
US6512385B1 (en) * 1999-07-26 2003-01-28 Paul Pfaff Method for testing a device under test including the interference of two beams
US6268923B1 (en) * 1999-10-07 2001-07-31 Integral Vision, Inc. Optical method and system for measuring three-dimensional surface topography of an object having a surface contour
JP2001141430A (ja) 1999-11-16 2001-05-25 Fuji Photo Film Co Ltd 画像撮像装置及び画像処理装置
LT4842B (lt) * 1999-12-10 2001-09-25 Uab "Geola" Hologramų spausdinimo būdas ir įrenginys
US6301059B1 (en) * 2000-01-07 2001-10-09 Lucent Technologies Inc. Astigmatic compensation for an anamorphic optical system
US6700669B1 (en) 2000-01-28 2004-03-02 Zheng J. Geng Method and system for three-dimensional imaging using light pattern having multiple sub-patterns
US6937348B2 (en) * 2000-01-28 2005-08-30 Genex Technologies, Inc. Method and apparatus for generating structural pattern illumination
JP4560869B2 (ja) * 2000-02-07 2010-10-13 ソニー株式会社 メガネなし表示システムおよびバックライトシステム
JP4265076B2 (ja) * 2000-03-31 2009-05-20 沖電気工業株式会社 多画角カメラ、及び自動撮影装置
KR100355718B1 (ko) * 2000-06-10 2002-10-11 주식회사 메디슨 스티어링이 가능한 프로브를 사용한 3차원 초음파 영상시스템 및 영상 형성 방법
US6810135B1 (en) * 2000-06-29 2004-10-26 Trw Inc. Optimized human presence detection through elimination of background interference
TW527518B (en) * 2000-07-14 2003-04-11 Massachusetts Inst Technology Method and system for high resolution, ultra fast, 3-D imaging
US7227526B2 (en) * 2000-07-24 2007-06-05 Gesturetek, Inc. Video-based image control system
US6686921B1 (en) * 2000-08-01 2004-02-03 International Business Machines Corporation Method and apparatus for acquiring a set of consistent image maps to represent the color of the surface of an object
US6754370B1 (en) * 2000-08-14 2004-06-22 The Board Of Trustees Of The Leland Stanford Junior University Real-time structured light range scanning of moving scenes
US6639684B1 (en) 2000-09-13 2003-10-28 Nextengine, Inc. Digitizer using intensity gradient to image features of three-dimensional objects
US6813440B1 (en) * 2000-10-10 2004-11-02 The Hong Kong Polytechnic University Body scanner
JP3689720B2 (ja) 2000-10-16 2005-08-31 住友大阪セメント株式会社 三次元形状測定装置
JP2002152776A (ja) 2000-11-09 2002-05-24 Nippon Telegr & Teleph Corp <Ntt> 距離画像符号化方法及び装置、並びに、距離画像復号化方法及び装置
JP2002191058A (ja) * 2000-12-20 2002-07-05 Olympus Optical Co Ltd 3次元画像取得装置および3次元画像取得方法
JP2002213931A (ja) 2001-01-17 2002-07-31 Fuji Xerox Co Ltd 3次元形状計測装置および3次元形状計測方法
US6841780B2 (en) * 2001-01-19 2005-01-11 Honeywell International Inc. Method and apparatus for detecting objects
JP2002365023A (ja) 2001-06-08 2002-12-18 Koji Okamoto 液面計測装置及び方法
US6825985B2 (en) * 2001-07-13 2004-11-30 Mems Optical, Inc. Autostereoscopic display with rotated microlens and method of displaying multidimensional images, especially color images
US6741251B2 (en) * 2001-08-16 2004-05-25 Hewlett-Packard Development Company, L.P. Method and apparatus for varying focus in a scene
WO2003071410A2 (en) * 2002-02-15 2003-08-28 Canesta, Inc. Gesture recognition system using depth perceptive sensors
US7369685B2 (en) * 2002-04-05 2008-05-06 Identix Corporation Vision-based operating method and system
US7811825B2 (en) 2002-04-19 2010-10-12 University Of Washington System and method for processing specimens and images for optical tomography
US7385708B2 (en) * 2002-06-07 2008-06-10 The University Of North Carolina At Chapel Hill Methods and systems for laser based real-time structured light depth extraction
US7006709B2 (en) * 2002-06-15 2006-02-28 Microsoft Corporation System and method deghosting mosaics using multiperspective plane sweep
US20040001145A1 (en) * 2002-06-27 2004-01-01 Abbate Jeffrey A. Method and apparatus for multifield image generation and processing
US6859326B2 (en) * 2002-09-20 2005-02-22 Corning Incorporated Random microlens array for optical beam shaping and homogenization
KR100624405B1 (ko) 2002-10-01 2006-09-18 삼성전자주식회사 광부품 실장용 기판 및 그 제조방법
US7194105B2 (en) * 2002-10-16 2007-03-20 Hersch Roger D Authentication of documents and articles by moiré patterns
US20040130730A1 (en) * 2002-11-21 2004-07-08 Michel Cantin Fast 3D height measurement method and system
US7103212B2 (en) * 2002-11-22 2006-09-05 Strider Labs, Inc. Acquisition of three-dimensional images by an active stereo technique using locally unique patterns
US20040174770A1 (en) * 2002-11-27 2004-09-09 Rees Frank L. Gauss-Rees parametric ultrawideband system
US7639419B2 (en) * 2003-02-21 2009-12-29 Kla-Tencor Technologies, Inc. Inspection system using small catadioptric objective
US7127101B2 (en) * 2003-03-10 2006-10-24 Cranul Technologies, Inc. Automatic selection of cranial remodeling device trim lines
US20040213463A1 (en) * 2003-04-22 2004-10-28 Morrison Rick Lee Multiplexed, spatially encoded illumination system for determining imaging and range estimation
US7539340B2 (en) 2003-04-25 2009-05-26 Topcon Corporation Apparatus and method for three-dimensional coordinate measurement
CA2435935A1 (en) 2003-07-24 2005-01-24 Guylain Lemelin Optical 3d digitizer with enlarged non-ambiguity zone
US20070057946A1 (en) * 2003-07-24 2007-03-15 Dan Albeck Method and system for the three-dimensional surface reconstruction of an object
US20050111705A1 (en) * 2003-08-26 2005-05-26 Roman Waupotitsch Passive stereo sensing for 3D facial shape biometrics
US7187437B2 (en) * 2003-09-10 2007-03-06 Shearographics, Llc Plurality of light sources for inspection apparatus and method
US6934018B2 (en) * 2003-09-10 2005-08-23 Shearographics, Llc Tire inspection apparatus and method
US7874917B2 (en) * 2003-09-15 2011-01-25 Sony Computer Entertainment Inc. Methods and systems for enabling depth and direction detection when interfacing with a computer program
US7112774B2 (en) * 2003-10-09 2006-09-26 Avago Technologies Sensor Ip (Singapore) Pte. Ltd CMOS stereo imaging system and method
US20050135555A1 (en) 2003-12-23 2005-06-23 Claus Bernhard Erich H. Method and system for simultaneously viewing rendered volumes
US7250949B2 (en) 2003-12-23 2007-07-31 General Electric Company Method and system for visualizing three-dimensional data
US8134637B2 (en) 2004-01-28 2012-03-13 Microsoft Corporation Method and system to increase X-Y resolution in a depth (Z) camera using red, blue, green (RGB) sensing
US7961909B2 (en) * 2006-03-08 2011-06-14 Electronic Scripting Products, Inc. Computer interface employing a manipulated object with absolute pose detection component and a display
WO2005076198A1 (en) * 2004-02-09 2005-08-18 Cheol-Gwon Kang Device for measuring 3d shape using irregular pattern and method for the same
US7427981B2 (en) * 2004-04-15 2008-09-23 Avago Technologies General Ip (Singapore) Pte. Ltd. Optical device that measures distance between the device and a surface
US7308112B2 (en) * 2004-05-14 2007-12-11 Honda Motor Co., Ltd. Sign based human-machine interaction
WO2006008637A1 (en) * 2004-07-23 2006-01-26 Ge Healthcare Niagara, Inc. Method and apparatus for fluorescent confocal microscopy
US20060017656A1 (en) * 2004-07-26 2006-01-26 Visteon Global Technologies, Inc. Image intensity control in overland night vision systems
JP4904264B2 (ja) 2004-07-30 2012-03-28 エクストリーム リアリティー エルティーディー. 3d空間次元に基づく画像処理のためのシステムおよび方法
US7120228B2 (en) * 2004-09-21 2006-10-10 Jordan Valley Applied Radiation Ltd. Combined X-ray reflectometer and diffractometer
JP2006128818A (ja) 2004-10-26 2006-05-18 Victor Co Of Japan Ltd 立体映像・立体音響対応記録プログラム、再生プログラム、記録装置、再生装置及び記録メディア
IL165212A (en) 2004-11-15 2012-05-31 Elbit Systems Electro Optics Elop Ltd Device for scanning light
US7076024B2 (en) * 2004-12-01 2006-07-11 Jordan Valley Applied Radiation, Ltd. X-ray apparatus with dual monochromators
US20060156756A1 (en) * 2005-01-20 2006-07-20 Becke Paul E Phase change and insulating properties container and method of use
US20060221218A1 (en) * 2005-04-05 2006-10-05 Doron Adler Image sensor with improved color filter
US7599071B2 (en) 2005-04-06 2009-10-06 Dimensional Photonics International, Inc. Determining positional error of an optical component using structured light patterns
US7560679B1 (en) 2005-05-10 2009-07-14 Siimpel, Inc. 3D camera
US7609875B2 (en) * 2005-05-27 2009-10-27 Orametrix, Inc. Scanner system and method for mapping surface of three-dimensional object
US8400494B2 (en) 2005-10-11 2013-03-19 Primesense Ltd. Method and system for object reconstruction
US20110096182A1 (en) 2009-10-25 2011-04-28 Prime Sense Ltd Error Compensation in Three-Dimensional Mapping
US8018579B1 (en) 2005-10-21 2011-09-13 Apple Inc. Three-dimensional imaging and display system
EP1949339A2 (en) 2005-11-04 2008-07-30 Clean Earth Technologies, Llc Tracking using an elastic cluster of trackers
US7856125B2 (en) 2006-01-31 2010-12-21 University Of Southern California 3D face reconstruction from 2D images
CN101496032B (zh) 2006-02-27 2011-08-17 普莱姆传感有限公司 使用斑纹解相关的距离映射的方法及设备
KR101331543B1 (ko) 2006-03-14 2013-11-20 프라임센스 엘티디. 스페클 패턴을 이용한 3차원 센싱
KR101408959B1 (ko) * 2006-03-14 2014-07-02 프라임센스 엘티디. 삼차원 감지를 위한 깊이 가변 광 필드
JP5592070B2 (ja) 2006-03-14 2014-09-17 プライム センス リミティド 三次元検知のために深度変化させる光照射野
US7869649B2 (en) 2006-05-08 2011-01-11 Panasonic Corporation Image processing device, image processing method, program, storage medium and integrated circuit
US8488895B2 (en) 2006-05-31 2013-07-16 Indiana University Research And Technology Corp. Laser scanning digital camera with pupil periphery illumination and potential for multiply scattered light imaging
US8139142B2 (en) 2006-06-01 2012-03-20 Microsoft Corporation Video manipulation of red, green, blue, distance (RGB-Z) data including segmentation, up-sampling, and background substitution techniques
WO2008014826A1 (en) 2006-08-03 2008-02-07 Alterface S.A. Method and device for identifying and extracting images of multiple users, and for recognizing user gestures
US7737394B2 (en) 2006-08-31 2010-06-15 Micron Technology, Inc. Ambient infrared detection in solid state sensors
WO2008029345A1 (en) 2006-09-04 2008-03-13 Koninklijke Philips Electronics N.V. Method for determining a depth map from images, device for determining a depth map
US7256899B1 (en) * 2006-10-04 2007-08-14 Ivan Faul Wireless methods and systems for three-dimensional non-contact shape sensing
US8542421B2 (en) 2006-11-17 2013-09-24 Celloptic, Inc. System, apparatus and method for extracting three-dimensional information of an object from received electromagnetic radiation
US8090194B2 (en) 2006-11-21 2012-01-03 Mantis Vision Ltd. 3D geometric modeling and motion capture using both single and dual imaging
US7990545B2 (en) * 2006-12-27 2011-08-02 Cambridge Research & Instrumentation, Inc. Surface measurement of in-vivo subjects using spot projector
US7840031B2 (en) 2007-01-12 2010-11-23 International Business Machines Corporation Tracking a range of body movement based on 3D captured image streams of a user
US8350847B2 (en) 2007-01-21 2013-01-08 Primesense Ltd Depth mapping using multi-beam illumination
US20080278572A1 (en) * 2007-04-23 2008-11-13 Morteza Gharib Aperture system with spatially-biased aperture shapes and positions (SBPSP) for static and dynamic 3-D defocusing-based imaging
US20080212835A1 (en) * 2007-03-01 2008-09-04 Amon Tavor Object Tracking by 3-Dimensional Modeling
WO2008120217A2 (en) 2007-04-02 2008-10-09 Prime Sense Ltd. Depth mapping using projected patterns
US8150142B2 (en) * 2007-04-02 2012-04-03 Prime Sense Ltd. Depth mapping using projected patterns
US8488868B2 (en) * 2007-04-03 2013-07-16 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Generation of a depth map from a monoscopic color image for rendering stereoscopic still and video images
US7835561B2 (en) 2007-05-18 2010-11-16 Visiongate, Inc. Method for image processing and reconstruction of images for optical tomography
WO2008155770A2 (en) 2007-06-19 2008-12-24 Prime Sense Ltd. Distance-varying illumination and imaging techniques for depth mapping
JP5160643B2 (ja) 2007-07-12 2013-03-13 トムソン ライセンシング 2次元画像からの3次元オブジェクト認識システム及び方法
JP4412362B2 (ja) 2007-07-18 2010-02-10 船井電機株式会社 複眼撮像装置
US20090060307A1 (en) 2007-08-27 2009-03-05 Siemens Medical Solutions Usa, Inc. Tensor Voting System and Method
DE102007045332B4 (de) 2007-09-17 2019-01-17 Seereal Technologies S.A. Holographisches Display zum Rekonstruieren einer Szene
KR100858034B1 (ko) 2007-10-18 2008-09-10 (주)실리콘화일 단일 칩 활력 이미지 센서
US8166421B2 (en) * 2008-01-14 2012-04-24 Primesense Ltd. Three-dimensional user interface
US8176497B2 (en) * 2008-01-16 2012-05-08 Dell Products, Lp Method to dynamically provision additional computer resources to handle peak database workloads
EP2235584B1 (en) * 2008-01-21 2020-09-16 Apple Inc. Optical designs for zero order reduction
US8384997B2 (en) 2008-01-21 2013-02-26 Primesense Ltd Optical pattern projection
DE102008011350A1 (de) 2008-02-27 2009-09-03 Loeffler Technology Gmbh Vorrichtung und Verfahren zur Echtzeiterfassung von elektromagnetischer THz-Strahlung
US8121351B2 (en) 2008-03-09 2012-02-21 Microsoft International Holdings B.V. Identification of objects in a 3D video using non/over reflective clothing
US8035806B2 (en) 2008-05-13 2011-10-11 Samsung Electronics Co., Ltd. Distance measuring sensor including double transfer gate and three dimensional color image sensor including the distance measuring sensor
US8456517B2 (en) * 2008-07-09 2013-06-04 Primesense Ltd. Integrated processor for 3D mapping
US8462207B2 (en) 2009-02-12 2013-06-11 Primesense Ltd. Depth ranging with Moiré patterns
US8786682B2 (en) 2009-03-05 2014-07-22 Primesense Ltd. Reference image techniques for three-dimensional sensing
US8717417B2 (en) 2009-04-16 2014-05-06 Primesense Ltd. Three-dimensional mapping and imaging
US8503720B2 (en) 2009-05-01 2013-08-06 Microsoft Corporation Human body pose estimation
US8744121B2 (en) * 2009-05-29 2014-06-03 Microsoft Corporation Device for identifying and tracking multiple humans over time
EP2275990B1 (de) 2009-07-06 2012-09-26 Sick Ag 3D-Sensor
US9582889B2 (en) 2009-07-30 2017-02-28 Apple Inc. Depth mapping based on pattern matching and stereoscopic information
US8773514B2 (en) 2009-08-27 2014-07-08 California Institute Of Technology Accurate 3D object reconstruction using a handheld device with a projected light pattern
US8830227B2 (en) 2009-12-06 2014-09-09 Primesense Ltd. Depth-based gain control
US8320621B2 (en) 2009-12-21 2012-11-27 Microsoft Corporation Depth projector system with integrated VCSEL array
US8982182B2 (en) 2010-03-01 2015-03-17 Apple Inc. Non-uniform spatial resource allocation for depth mapping
US8330804B2 (en) 2010-05-12 2012-12-11 Microsoft Corporation Scanned-beam depth mapping to 2D image
US8654152B2 (en) 2010-06-21 2014-02-18 Microsoft Corporation Compartmentalizing focus area within field of view

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN2364507Y (zh) * 1999-03-18 2000-02-16 香港生产力促进局 小型非接触对称输入式三维外形扫描头
CN1159566C (zh) * 1999-05-14 2004-07-28 北京三维世界科技有限公司 三维成像系统

Also Published As

Publication number Publication date
KR20080111474A (ko) 2008-12-23
US9063283B2 (en) 2015-06-23
US8390821B2 (en) 2013-03-05
WO2007105205A2 (en) 2007-09-20
US20090096783A1 (en) 2009-04-16
WO2007105205A3 (en) 2009-04-23
JP5174684B2 (ja) 2013-04-03
CN101496033A (zh) 2009-07-29
KR101331543B1 (ko) 2013-11-20
JP2009531655A (ja) 2009-09-03
US20130136305A1 (en) 2013-05-30

Similar Documents

Publication Publication Date Title
CN101496033B (zh) 利用散斑图案的三维传感
US20210297651A1 (en) Three dimensional depth mapping using dynamic structured light
US10228240B2 (en) Depth mapping using structured light and time of flight
CN101496032B (zh) 使用斑纹解相关的距离映射的方法及设备
JP7237024B2 (ja) 少なくとも1つの物体の位置を決定するための検出器
CN101501442B (zh) 三维传感的深度变化光场
US8761495B2 (en) Distance-varying illumination and imaging techniques for depth mapping
US9330324B2 (en) Error compensation in three-dimensional mapping
JP2009531655A5 (zh)
CN101957994B (zh) 三维传感的深度变化光场
Makhov et al. Study of possibilities for light marker coordinate measuring with light field digital cameras
US11809134B2 (en) Method and apparatus of automatic optical inspection using scanning holography
Yan et al. Used digital speckle correlation method to realize orientation function of optical mouse
Horiuchi et al. Application of the light field for a simulation to evaluate the MTF of optical lens systems using rendering

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: APPLE COMPUTER, INC.

Free format text: FORMER OWNER: PRIME SENSE LTD.

Effective date: 20141023

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20141023

Address after: American California

Patentee after: Apple Computer, Inc.

Address before: Israel Ramat Hasayue

Patentee before: Prime Sense Ltd.