CN103261836B - 形状测量设备及形状测量方法 - Google Patents

形状测量设备及形状测量方法 Download PDF

Info

Publication number
CN103261836B
CN103261836B CN201180059344.4A CN201180059344A CN103261836B CN 103261836 B CN103261836 B CN 103261836B CN 201180059344 A CN201180059344 A CN 201180059344A CN 103261836 B CN103261836 B CN 103261836B
Authority
CN
China
Prior art keywords
shape
measurement target
image
light
illuminator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201180059344.4A
Other languages
English (en)
Other versions
CN103261836A (zh
Inventor
庄沱
光本大辅
大西康裕
小岛岳史
施里·纳瓦尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Publication of CN103261836A publication Critical patent/CN103261836A/zh
Application granted granted Critical
Publication of CN103261836B publication Critical patent/CN103261836B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2509Color coding
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30152Solder

Abstract

本发明提供一种精确地测量镜面对象的三维形状和空间位置的技术。在照明装置用光照射测量目标时用摄像头获取测量目标的图像,从而得到用于形状测量的图像。由用于形状测量的图像来计算测量目标表面的法线取向,且由该计算的结果来还原所述表面的三维形状。所述摄像头在投影仪向测量目标投射条纹图案时获取测量目标的图像,由此获得用于测距的图像。通过分析得到的用于测距的图像来获得测量目标表面的高度信息。通过结合由法线计算还原得到的三维形状以及由测距得到的高度信息来确定测量目标的三维形状和空间位置。

Description

形状测量设备及形状测量方法
技术领域
本发明涉及一种对测量目标的表面三维形状进行测量的技术。
背景技术
已知有一种通过分析摄像头所获取的测量目标的图像来测量测量目标表面形状(三维形状)的技术。就测量镜面对象的表面形状的技术而言,例如,有这样一种方法,其中使用具有不同特征的多组照明以用反射自所述镜面的光来获取所述镜面对象的多幅图像,并且由所述图像来计算对象表面的法线方向(例如,参见日本专利第3553652号)。当在对象表面的多个点处求得法线时,则通过将法线转换成梯度以对所述梯度进行积分(integrate)就能够还原对象表面的三维形状(例如,参见日本未审查专利公开第3-218407号)。就测量漫射对象(diffusing object)的表面形状的技术而言,有这样一种方法,其中将条纹图案(fringe pattern)投射到对象上以分析根据对象表面的不规则所产生的图案变形,由此分析所述对象表面的三维形状。作为漫射对象表面形状的测量技术的典型示例,已知的有光学切割(optical cutting)法、相移法、以及条纹分析法(例如,参见日本未审查专利公开第2002-286433和2007-196193号)。
在自动测量设备或自动检查设备领域,存在着对诸如金属等镜面对象的表面形状进行精确测量的需要。例如,在电路板(board)外观检查设备的焊接检查中,存在着对焊接部分中的三维形状进行准确识别的需求,以便无误差地检测焊盘与芯片之间的接触失效或者短路的存在。
然而,在传统的测量技术中产生了下列问题。在日本专利第3553652号和日本未审查专利公开第3-218407号揭示的方法中,虽然能够还原对象的表面形状,但由于无法测量摄像头(camera)深度方向(Z方向)的距离(即,摄像头与对象表面之间的距离),所以在还原的表面形状的三维空间中不能指定出Z方向的位置(高度)。例如,对于焊接检查,当在焊接部分中高度未知时,便存在未准确检查到焊接量过剩或不足或者焊料与焊盘之间存在空隙的风险。另一方面,在日本未审查专利公开第2002-286433和2007-196193号揭示的方法中,虽然能够测量对象表面的Z方向位置(高度),但这些方法并不适用于镜面对象的测量。这是因为,对于具有强镜面反射的对象,投射图案的反射光强度根据对象表面的反射性质而变化,从而使得测量精度不稳定,并且无法准确地还原出表面形状。
鉴于上述情况作出本发明,并且本发明的目的在于提供一种对镜面对象的三维形状和空间位置进行精确测量的技术。
发明内容
为了实现以上目的,在本发明中,通过结合由法线计算还原得到的对象表面三维形状以及由测距功能得到的对象表面高度(距参考位置的距离)信息来确定测量目标的三维形状和空间位置。
具体而言,本发明提供一种形状测量设备,其对测量目标的三维形状进行测量,所述设备包括:照明装置,其用光照射放置在平台上的所述测量目标;成像装置,其获取所述测量目标的图像;形状计算装置,其由图像来计算所述测量目标的表面上多个点处法线的取向,该图像是在所述照明装置用光照射所述测量目标时通过用所述成像装置执行成像来得到的,所述形状计算装置由所述法线的取向的计算结果来计算所述测量目标的表面的三维形状;测距装置,其对于所述测量目标的表面上的至少一个点来测量距预定参考位置的距离;以及确定装置,其确定所述测量目标的表面的三维形状的空间位置,所述三维形状是通过所述形状计算装置使用由所述测距装置获得的有关所述距离的信息来得到的。
根据这一配置,通过法线计算能够精确地还原镜面对象表面的三维形状。另外,通过使用由测距装置得到的距离信息能够确定所还原的三维形状的空间位置,从而能够简便且精确地测量测量目标的三维形状还有测量目标的空间位置。
优选地,所述测距装置包括投影装置,该投影装置向所述测量目标投射条纹图案或格栅图案,并且所述测距装置通过分析所述测量目标的图像来计算所述测量目标的表面上所述点的距离,所述测量目标的图像是在投射所述条纹图案或格栅图案时获取到的。在本发明中,因为三维形状是通过图像分析来测量的,还采用了图像分析技术用于测距,这使得能够通过硬件的共享来获得诸如设备配置的简化和小型化等效果。
优选地,所述成像装置还充当所述测距装置获取用于测距的图像所用的装置。也即,观察系统(成像装置)由形状测量和测距所共享。因此,能够免除形状测量结果和测距结果的图像坐标之间的校准,从而简化了处理并提高了精度。
优选地,所述照明装置为包括具有预定尺寸的发光区域的面光源,并且发自所述发光区域中多个位置的多组光在光谱分布上彼此不同。通过使用这种照明装置,能够仅通过一次测量(照明和图像获取)来确定测量目标的三维形状,且因此能够缩短测量时间。
优选地,所述照明装置为这样的面光源,该面光源所发出的光中有多个不同的照明图案彼此叠加,或者该面光源顺序发出所述多个照明图案,并且每个所述照明图案被设为使得发射强度相对于绕中心轴所成的角度而线性地变化,平行于所述平台以通过所述测量目标所放置的点的特定直线被限定为所述中心轴。通过使用这种照明装置,即使对象具有不均一的反射特性或粗糙表面也能执行精确的测量。偶尔,由于结构设计因素,精确的线性度难以实现。在这种情况下,线性度可大体得以实现。也即,在本发明的方案中,“发射强度线性地变化”意味着包括“发射强度大体线性地变化”的概念。
本发明的方案可被认为是包括至少部分所述装置的形状测量设备。本发明的方案可被认为是包括至少部分所述处理的形状测量方法或者实现所述方法的程序。通过组合尽可能多的所述装置和所述处理步骤可作出本发明。
根据本发明,能够精确地测量镜面对象的三维形状和空间位置。进一步,能够针对单纯镜面对象、单纯漫射对象、或者其中混合有镜面对象和漫射对象的对象来精确地测量三维形状和空间位置。
附图说明
图1为示意性显示形状测量设备的硬件配置的图示;
图2为按RGB的每一个显示照明装置的发光区域颜色图案的图示;
图3A和图3B为描绘出照明装置的发光区域中RGB的每一个颜色的变化的图示,其中图3A为透视图,且图3B为侧视图;
图4为描绘出测量目标表面的法线取向与发光区域的对应关系的图示;
图5为显示测量处理流程的流程图;
图6为示意性显示测量处理的流程的图示;
图7为描绘出照明装置的颜色图案的效果的图示;
图8为描绘出反射特性的图示;
图9为用于描绘入射光和反射光的图示;
图10为用于描绘镜面叶瓣抵消效果的图示;
图11A至图11C为分别显示照明图案的变型的图示;
图12A和图12B为分别显示照明图案的变型的图示;
图13为显示包括板状照明装置的形状测量设备的配置的图示;以及
图14A和图14B为用于描绘板状照明装置中的照明图案的图示。
具体实施方式
下面将参照附图描述本发明的优选实施例。根据本发明实施例的形状测量设备通过图像分析的手段来执行镜面对象的三维测量。本实施例的形状测量设备可应用于诸如自动测量设备、自动检查设备、和机器人视觉等各种领域的对象识别中。例如,该形状测量设备优选可应用于电路板外观检查设备(AOI系统)中的焊接检查以及金属加工产品表面的不规则度检查。
<测量设备的整体配置>
将参照图1描述本实施例形状测量设备的整体配置。图1为示意性示出形状测量设备硬件配置的图示。
该形状测量设备大体包括测量平台5、检查头H、以及信息处理装置6。照明装置3、投影仪(projector)2、以及摄像头(图像传感器)1附连至检查头H。照明装置3用测量光照射放置在测量平台5上的测量目标4。投影仪2向测量目标4的表面投射一特定条纹图案。摄像头1从垂直上方获取测量目标4的图像。信息处理装置6包括CPU(中央处理单元)60、内存(memory)61、存储装置62、检查头控制单元63、图像输入单元64、投影仪控制单元65、照明装置控制单元66、平台控制单元67、用户界面(I/F)68、以及显示单元69。检查头控制单元63具有控制检查头H在Z方向(垂直于测量平台5的方向)上的移动的功能,并且平台控制单元67具有控制测量平台5在XY方向上的移动的功能。投影仪控制单元65具有控制投影仪2的照明和熄灭或者控制投影仪2的投射图案改变的功能。照明装置控制单元66具有控制照明装置3的照明和熄灭(在出现需要时还控制照明图案的改变)的功能。图像输入单元64具有捕捉来自摄像头1的数码图像的功能。用户I/F68为由用户操作的输入装置。用户I/F68的示例包括指点装置(pointing device)、触摸板、以及键盘。测量结果被显示在显示单元69的屏幕上。例如,显示单元69由液晶显示器形成。
本实施例的形状测量设备具有两个测量功能,即,“形状测量”和“测距(ranging)”。本实施例形状测量设备的其中一个特征在于,通过结合由形状测量功能得到的对象表面三维形状以及由测距功能得到的对象表面有关的距离(高度)信息,能够简单并精确地确定测量目标4的三维形状和空间位置。在这种情况下,形状测量功能由照明装置3、摄像头1、和信息处理装置6形成,而测距功能由投影仪2、摄像头1、和信息处理装置6形成。也即,在这两个测量功能中,虽然使用了不同的光源,但却是使用同一个观察系统(摄像头1)来测量反射自测量目标4的光。
在测量期间,检查头H和测量平台5相对移动,且测量目标4被置于预定测量位置(在图1的示例中为照明装置3的中心(摄像头1的光轴与测量平台5的交点))。在照明装置3用测量光照射测量目标4时获取用于形状测量的图像,然后投影仪2投射颜色图案以获取用于测距的图像。可按相反次序来执行形状测量和测距。信息处理装置6通过图像输入单元64捕捉由摄像头1获取的图像,且该图像被用于图像分析。将详细描述每个测量功能的配置和处理。
<形状测量>
形状测量功能为对测量目标表面的三维形状进行测量的功能。在这种情况下,由于诸如金属等镜面对象成为测量目标,所以采用了使用结构化照明(structuredlighting)来测量对象表面的法线以还原其表面形状的下述方法。
(照明装置)
照明装置3为具有如图1所示穹顶形状的表面光源,且整个穹顶形均为发光区域。在照明装置3的顶部和侧部分别设置有用于摄像头1和投影仪2的开口。例如,照明装置3可由穹顶形滤色片(color filter)和用白光从外部照射测量目标4的光源形成。可选地,多个LED芯片可阵列在穹顶内部以通过漫射板(diffuser plate)来照射测量目标4。可选地,可将液晶显示器或有机电致发光(EL)显示器形成为穹顶形来构成照明装置3。
优选地,将照明装置3的发光区域形成为半球穹顶形从而使得测量目标4被来自全方位的光照射。因此,能够测量全方位的法线。尽管如此,发光区域也可形成为任意形状,只要测量目标4能被来自与测量目标的法向对应的位置的光照射到。例如,当表面的法线取向基本限于垂直方向时,则没有必要用来自水平方向(浅角度方向)的光来照射测量目标4。
发光被设置为使得在照明装置3发光区域中的所有位置处发出具有不同光谱分布的多组光(pieces of light)。例如,当通过组合红光(R)、绿光(G)、和蓝光(B)三个颜色的光分量来实现发光时,则每个RGB分量的发射强度如图2所示沿穹顶上的不同方向而变化。在该示例中,变化方向被设为相对于彼此成120度。通过RGB分量的组合,发光区域中各个位置处的发光在RGB分量的组合上都互不相同。因此,在所有位置上发射出具有不同光谱分布的多组光,并且发光可被设为使得所述具有不同光谱分布(RGB的强度比)的多组光依入射方向而入射至测量目标4。不仅可使用三个颜色分量,还可使用三个或更多的颜色分量(颜色通道)。
图3A和图3B显示图2其中一个分量光束的强度(照明图案)变化。图3A为显示其中一个分量光束的等色(等发光强度)线的透视图。图3B为对应于图3A的侧视图。穹顶(半球)与通过穹顶直径的平面的相交线成为如图3A和图3B所示的等色线。为了便利起见,图2以及图3A和图3B显示出每个RGB分量的发射强度都以逐级的方式变化(在图2以及图3A和图3B中为八级变化)。然而,实际上每个分量光束的发射强度(亮度)是连续地变化的。发射强度的变化被设为相对于角度成线性地变化。更具体而言,假设Lmin为发射强度的最小值,Lmax为发射强度的最大值,θ为由水平面(测量平台5)和包括等色线的平面所成的角度,则等色线上的发射强度L(θ)被设为满足L(θ)=Lmin+(Lmax-Lmin)×(θ/π)的关系。如图3A所示,在定义了“极点”时,θ构成经度,且本实施例的光源分布(照明图案)可被表达为相对于经度成线性地变化。可选地,假设中心轴为平行于测量平台5并通过测量目标所放置的点O的直线,则照明图案可表达为使得发射强度相对于绕中心轴的角度θ成线性地变化。
通过利用具有上述光源分布(照明图案)的照明装置能够仅由一幅图像来测量测量目标的表面形状(法线取向)。这将参照图4加以描述。假设测量目标4表面上某一点处的法线具有箭头N、天顶角θ、和方位角φ的取向。在这种情况下,光从照明装置3的区域R发出并入射至测量目标4,且由摄像头1获取的图像所属点的颜色成为反射自测量目标4的光。因而,与表面成法线的取向(θ,φ)以及入射光的方向(照明装置3的发光区域中的位置)彼此成一对一地关联。由于从不同方向入射的多组光具有不同的光谱分布(具有不同光谱分布的多组光从发光区域的所有位置处发出),所以通过查验所获取图像的颜色(光谱分布)能够相对于天顶角和方位角来计算所述点处的法线取向。
(法线计算和形状还原)
下面将参照图5和图6描述与形状测量相关的功能和处理流程。图5为显示形状测量设备的测量处理流程的流程图,图6示意性显示出测量处理的流程。图5中所示的处理是以这样的方式实现的,其使得信息处理装置6的CPU60从存储装置62中读取程序以执行该程序。所述的部分或所有功能模块可由ASIC或PLD(Programmable Logic Device,可编程逻辑器件)形成。
CPU60通过图像输入单元64捕捉用于形状测量的图像,并在测量目标部分的每个像素中由该用于形状测量的图像计算与反射光的光谱分量有关的特征量(featurequantity)(步骤S10)。在本实施例中,由于照明装置3所投射的光中组合有红光(R)、绿光(G)、和蓝光(B)这三组分量的光,所以使用RGB分量的比例来作为所述特征量。例如,在每个RGB分量中最大亮度都被标准化为1,且可使用(R,G,B)的组合作为所述特征量。可选地,可使用某个颜色(在本例中为G)与其他颜色之比作为所述特征量,例如R/(R+G)或B/(B+G)。
如上所述,测量目标4的颜色,即步骤S10中计算的特征量与法线的取向彼此成一对一地关联。描述所述法线取向与特征量值的关联关系的表格被存储在信息处理装置6的存储装置62中。由照明装置3和摄像头1对诸如球体等形状已知的对象的图像进行获取以预先查验所述法线与特征量的关联关系,这使得能够制成所述表格。例如,在使用球体对象时,能够查验来自关注像素的中心的位置,以通过计算来确定法线的取向。然后通过计算出该位置处的特征量就能够查验法线取向与特征量的关联关系。
在所述表格中还可描述法线与RGB值的关联关系、入射光的方向(天顶角和方位角)与特征量值的关联关系、入射光的方向与RGB值的关联关系,以代替所述法线与特征量的关联关系。可选地,当法线取向与摄像头1获取的光谱分布之间的关系能够由几何排布等等来用公式表示时,则可使用公式表示的方程来计算法线。
CPU60由所述表格以及从输入图像计算出的特征量来计算测量目标4表面上每一点处的法线取向(步骤S11)。图6的(a)部分显示由半球体测量目标4的图像计算出的法线图示例。该法线图是通过用单位向量在测量目标表面的每一点处示出法线而得到的。
CPU60将步骤S11中得到的多点的法线转换成多个梯度并连接所述多个梯度以还原三维形状(步骤S12)。步骤S10至S12中的处理被称为“积分(integration)”。图6的(b)部分显示从(a)部分的法线图还原出的形状。根据所述积分,能够精确地还原镜面对象的表面三维形状。然而,由于通过梯度的构建仅计算出每一点处的相对高度,所以在所还原的整个三维形状中绝对高度(空间位置)是未知的。下面将描述对所述积分进行补充的测距功能。
<测距>
测距功能用于对测量目标表面的高度(距预定参考位置的距离)进行测量。在本例中,与测量目标表面上的点有关的高度信息是通过利用相移法(phase shift method)来得到的。
相移法是这样一种技术,其中条纹图案被投射到测量目标表面以分析因表面不规则而导致的图案变形,由此来执行表面的三维测量。具体而言,在相移法中,在向对象表面投射亮度按正弦波方式变化的条纹图案的同时获取对象表面图像的处理随着亮度变化的相位改变而重复多次,由此得到在明亮度(brightness)上互不相同的多幅图像。因为每幅图像上同一像素的明亮度(密度值)都类似地以与条纹图案变化周期相同的周期而变化,所以通过将所述正弦波应用于每个像素明亮度的变化就能求得每个像素的相位。通过确定与预定参考位置(诸如测量平台表面和电路板表面)的相位之间的相位差,便能根据参考位置计算出所述距离(高度)。
如上所述,相移法原则上并不适于镜面对象的三维测量。然而,在实际镜面对象中,反射光中略微包括有漫反射分量,或者存在取向朝着规则反射方向的表面。因此,存在很少的能够精确测量其所在处高度的点。在本实施例中,由于通过法线积分得到了测量目标4的三维形状,所以在测距中只需要精确得到对象表面上至少一个点(优选为多个点)的高度信息。为此目的,相移法实际上能够足以得到使用。
将参照图5和图6描述测距有关的功能以及处理流程。
CPU60通过图像输入单元64捕捉用于测距的图像(步骤S20)。在本例中,得到了四幅图像而条纹图案的相位偏离了π/2。CPU60通过将正弦波应用于每个像素的明亮度变化来确定每个像素的相位(步骤S21)。图6的(c)部分显示出由半球体测量目标4的图像计算出的相位图示例。该相位图是通过用相同的明亮度示出具有相同相位的像素来得到。然后CPU60通过三角测量原理由每个像素的相位来计算距离(高度)(步骤S22)。图6的(d)部分显示由此得到的测距结果。在与图6的(b)部分相比时,会发现通过相移得到的测距结果因大变动(large variation)而具有低精度。
<空间位置的确定>
在通过上述处理得到测量目标4的还原形状和测距结果时,通过结合所述还原形状和测距结果来确定还原形状的空间位置(高度)。具体而言,CPU60执行从所有像素的测距结果中选取具有高可靠度的测距结果(高度信息)的处理(步骤S30)。可使用表示像素明亮度变化的曲线与正弦波之间匹配程度的分数(score)来作为可靠性的评估指标。所述分数是在步骤S21中搜索到与像素明亮度变化匹配最佳的正弦波时确定的值。在本例中,仅选取可靠度值高于预定阈值的像素的测距结果。图6的(e)部分显示出选取的测距结果的示例。在与(d)部分比较时,发现变动有显著减小。所述可靠度的评估指标并不限于像素明亮度变化曲线与正弦波之间的匹配度,还可使用由明亮度变化确定的相位幅值或者由规则反射分量的强度确定的值作为可靠度的评估指标。
CPU60使用步骤S30中得到的测距结果(高度信息)来安置(position)测量目标4的还原形状(步骤S31)。在本例中,与测距结果最适配的还原形状的Z方向位置是通过最小二乘法来确定。因此,如图6的(f)部分所示,能够固定测量目标4的三维形状和位置。
在本实施例中,是基于可靠度来选择测距结果(高度信息)。然而,在即使基于所有测距结果执行三维形状定位都得到实际上没有问题的精度时,或者在测距结果具有低分数时,所述选择并不是必须的。在执行所述选择时,所述评估指标并不限于以上所述的那些,而是可使用任意的评估指标。
<实施例的优点>
根据本实施例的形状测量设备,通过测距所确定的高度信息与通过形状测量所确定的还原形状相结合,这使得能够精确地测量镜面对象表面的三维形状和空间位置。观察系统(摄像头)由测距和形状测量共享,从而有利地使得能够免除形状测量结果与测距结果之间XY坐标(图像坐标)的定位。当在测距和形状测量中使用不同的观察系统时,则有必要指明通过测距得到的高度信息所表达的是通过形状测量得到的表面形状的哪一点处的高度,并且难以精确地执行位置识别处理。因此,特别优选的是,从简化处理和提高精度的立场来看,能够免除形状测量结果与测距结果之间的校准。进一步,观察系统的共享还有助于设备的小型化和成本降低。
在作为形状测量的照明所使用的照明装置3中,具有不同光谱分布的多组光沿所有的入射角方向入射,从而仅从一幅图像就能够对于天顶角分量和方位角分量来确定测量目标4的法线取向。仅获取一次所述图像,并且通过查验其中存储有法线与特征量之间关联关系的表格来计算法线的取向,从而能够简便地(快速)测量出测量目标4的表面形状。
当获取漫射对象(反射特性具有兰伯特(Lambertian)特性的对象)的图像时,图像中混合有来自各个方向的多组入射光。本实施例里,在照明装置3的发光区域中,有RGB三组分量的光如图2所示沿均分的方向(相对于彼此成120度)变化,并且RGB三组分量光的变化角度也是均衡的。因此,如图7所示,来自所有方位角方向的每一个颜色的光强度的和对于每个颜色而言在任意天顶角处都相同。即使对所有天顶角进行积分,光强度的和也相同。因此,入射至被置于漫射对象垂直方向的摄像头的RGB多组分量光具有相同的强度,并且用白色的反射光来获取所述漫射对象的图像。也即,当要获取图像的目标既包括镜面对象(测量目标)也包括漫射对象时,能够测量镜面对象的表面形状,并且能够像用白光照射所述漫射对象那样获取该漫射对象的图像。因此,例如,在执行焊接检查时,能够基于目标颜色来检查除了焊料之外的目标(诸如电路板和IC)。
即使所述目标具有不均一的反射特性也能通过利用照明装置3来精确地执行测量。这将在下面加以描述。如图8所示,入射至并不具有完美镜面的对象的光的反射光包括沿规则反射方向尖锐且狭窄的光(镜面尖峰(spike))以及沿偏离规则反射方向的方向散布的光(镜面叶瓣(lobe))。镜面叶瓣意指由测量目标表面上的微小不规则表面(微面元(microfacet))所导致的镜面反射光的散布。镜面叶瓣的散布随着微面元取向的波动(也即,随着表面粗糙化)而加剧。另一方面,随着微面元散布波动的减小,测量目标表面则接近完美镜面的状态。这里,反射特性由与规则反射方向间的偏离(角度)以及叶瓣与尖峰间的光强度之比来表示。在具有不均一反射特性的对象中,镜面叶瓣的形状根据各表面位置处的表面粗糙度而变化。在具有极其粗糙表面的对象中,反射光仅包括镜面叶瓣。在本例中,镜面叶瓣与镜面尖峰之比接近于1,并且镜面叶瓣与镜面尖峰彼此之间几乎无法区分开。
由于镜面叶瓣的散布,使得所获取的图像中的亮度值不仅受到来自对应于对象表面位置的发光区域(图4中为区域R)的光的影响,而且还受到来自该发光区域周围的光的影响。也即,在具有粗糙表面的对象中,来自对应于规则反射方向的发光区域的光与来自其周围区域的光混合在一起,由此观察到不同于完美镜面的光谱特性。
在这种情况下,如果执行照明而使得来自所述周围区域的光恰好被抵消以使光谱特性保持为与完美镜面类似,则能够类似于具有完美镜面的对象那样来测量具有不均一反射特性的对象或者具有粗糙表面的对象。为了实现具有不均一反射特性的对象或者具有粗糙表面的对象的测量,原则上按如下来设置照明装置3的光源分布(照明图案)。
具体而言,如图9所示,假设Li(p,θi,φi)为从入射角(θi,φi)的方向入射至测量点p的光源的辐射度(radiance),则以下等式适用于p点处的任意法向矢量以及发光区域上的任意点对称区域Ω:
[等式1]
∫∫ΩLi(p,θii)·f(p,θiirr)sinθiii=kfLi(p,θrr)
其中p为对象表面上的测量点,(θi,φi)为光源的入射方向(θ为天顶角分量且φ为方位角分量,下同),(θr,φr)为光源的光的反射方向(摄像头的视轴方向),f为p点的反射特性,Ω为反射特性f中镜面叶瓣的预期立体角(prospect solid angle),且kf为辐射度的衰减率(取决于对象表面的反射特性)。
在本实施例的照明装置3中,多组RGB分量光中每组的发射强度被设定为相对于角度(经度)成线性地变化(见图2以及图3A和图3B)。所述亮度相对于角度(经度)成线性变化的照明图案是所述等式的近似解之一。通过叠加多组RGB分量光的图案而得到的照明装置3的照明图案也成为所述等式的一个近似解。
通过使用这一照明图案可抵消镜面叶瓣的影响,这将参照图10从另一视角加以描述。图10显示亮度变化方向的一维方向,在该方向上获得接近理想的光以便于描述本实施例中照明图案的效果。如图10所示,仅考虑来自位于角度a(规则反射方向)、角度a+α、和角度a-α处位置的几组光。假设来自位于角度a+α和a-α处位置的几组光的叶瓣系数σ彼此相同。假设照明装置3的发射强度与角度成比例,且假设位于角度a-α、a、和a+α处的每个位置中的发射强度为(a-α)L、aL、和(a+α)L。反射自所述三个点处的多组光被结合为σ(a-α)L+aL+σ(a+α)L=(1+2σ)aL,且发现来自周围区域的光的漫射光的影响被抵消了。虽然在本例中仅考虑了两个点a±α,但容易理解整体来自周围区域的光的漫射光的影响都被抵消了。这同样适用于每组RGB分量光,且因此由RGB色的发射强度之比所表达的特征量变得与完美镜面反射相同。因此,即使对象具有不均一的反射特性,但类似于完美镜面反射,由获取的一幅图像也能精确地得到测量目标的表面形状。
上述说明是以得到理想效果的方向作出的。虽然线性度在其他方向上有所衰退(collapse)从而不能准确抵消漫反射的影响,但能够在实际上没有问题的范围内去除所述漫反射的影响。
<照明装置的改型>
在本实施例的照明装置中使用了这样的图案,其中RGB三色中每一色的发射强度沿按角度相对于彼此相差120度的各方向变化且相重叠。然而,所述照明图案不限于此。例如,像如图11A所示其中三个颜色沿向下、向右、向左的方向变化的图案,其中三个颜色沿不同方向变化的图案可加以组合。并不总是必须三个颜色根据角度而变化,如图11B所示还可使用这样的图案,其中以一个颜色在整个表面上用均一的亮度而剩下两个颜色根据角度沿不同方向变化的方式来发光。
在以上实施例中,使用叠加着具有不同颜色通道的照明图案的照明装置,仅通过一次测量(照明和图像获取)就能够还原目标的三维形状。可选地,虽然与以上实施例相比测量时间有所延长,但也可通过以至少两种照明图案顺序地照明来获取图像,并使用得到的多幅图像来还原三维形状。使用这一方法也能够得到相同的还原结果。如果在切换照明图案时获取图像,则如图11C所示还能够使用具有不同亮度分布的多个单色照明图案(在这种情况下,可使用单色摄像头)。
以上实施例使用的照明图案中发射强度是相对于沿经度方向的角度成线性地变化。然而,照明图案不限于此。例如,如图12A和图12B所示优选使用发射强度沿纬度方向成线性变化的照明图案。这种照明图案也是所述等式的近似解之一,并且也能够实质上抵消镜面叶瓣的影响以检测规则反射光。
照明装置3的形状不限于穹顶形(半球体形状),而是还可使用如图13所示的平板形。也可使用板被弯曲为弧形的形状。即使在具有以上多个形状的照明装置3中,当将照明图案设为使得发光区域中各个位置处的发光光谱分布彼此不同时,就能够通过一次测量来还原测量目标4的三维形状。在图14A的示例中,叠加有发射强度向右增大的红光(R)图案、发射强度向左增大的绿光(G)图案、以及发射强度向上增大的蓝光(B)图案。即使在这种情况下,如图14B所示,通过在每个图案中使发射强度根据角度θ成线性变化就能够实质上抵消镜面叶瓣的影响。这里,θ为绕通过P点(测量目标所布置的点)且平行于测量平台5的直线所成的角度。可选地,θ还可表示为由平行于测量平台5的平面以及通过照明装置3的发光区域上的等发射强度线(等色线)和P点的平面所形成的角度。
<其他改型>
在以上实施例中,是通过相移法来执行测距。可选地,只要能得到有关对象表面的高度信息则可使用任意测距方法。其中,从共享观察系统(摄像头)的角度看,优选采用这样的测距方法,其中通过向对象投射条纹或格栅图案以执行图案变形的图像分析来获得高度信息。这种测距方法例如包括:光学切割法、条纹分析法等等。不言而喻,还可采用除图像分析之外的测距方法。例如,可使用其中使用了X光、红外线、或超声波的测距传感器。在任意方法中,当能够在对象表面上指定至少一点的高度时,就能够通过结合高度信息和由法线积分得到的还原形状来确定三维形状和位置。

Claims (7)

1.一种形状测量设备,其对测量目标的三维形状进行测量,所述设备包括:
照明装置,其用光照射放置在平台上的所述测量目标;
成像装置,其获取所述测量目标的图像;
形状计算装置,其由图像来计算所述测量目标的表面上多个点处法线的取向,该图像是在所述照明装置用光照射所述测量目标时通过用所述成像装置执行成像来得到的,所述形状计算装置由所述法线的取向的计算结果,将多点的法线转换成多个梯度并连接所述多个梯度,来计算所述测量目标的表面的三维形状;
测距装置,其对于所述测量目标的表面上至少一个点来测量距预定参考位置的距离;以及
确定装置,其确定所述测量目标的表面的三维形状的空间位置,所述三维形状是通过所述形状计算装置使用由所述测距装置获得的有关所述距离的信息来得到的。
2.根据权利要求1所述的形状测量设备,其中所述测距装置包括投影装置,该投影装置向所述测量目标投射条纹图案或格栅图案,并且
所述测距装置通过分析所述测量目标的图像来计算所述测量目标的表面上所述点的距离,所述测量目标的图像是在投射所述条纹图案或格栅图案时获取到的。
3.根据权利要求2所述的形状测量设备,其中所述成像装置还充当所述测距装置获取用于测距的图像所用的装置。
4.根据权利要求1至3中任一项所述的形状测量设备,其中所述照明装置为包括具有预定尺寸的发光区域的面光源,并且
发自所述发光区域中多个位置的多组光在光谱分布上彼此不同。
5.根据权利要求1至3中任一项所述的形状测量设备,其中所述照明装置为这样的面光源,该面光源所发出的光中有多个不同的照明图案彼此叠加,或者该面光源顺序发出所述多个照明图案,并且
每个所述照明图案被设为使得发射强度相对于绕中心轴所成的角度而线性地变化,平行于所述平台以通过所述测量目标所放置的点的特定直线被限定为所述中心轴。
6.根据权利要求4所述的形状测量设备,其中所述照明装置为这样的面光源,该面光源所发出的光中有多个不同的照明图案彼此叠加,或者该面光源顺序发出所述多个照明图案,并且
每个所述照明图案被设为使得发射强度相对于绕中心轴所成的角度而线性地变化,平行于所述平台以通过所述测量目标所放置的点的特定直线被限定为所述中心轴。
7.一种形状测量方法,用于对测量目标的三维形状进行测量,所述方法包括以下步骤:
用光照射放置于平台上的所述测量目标;
在用所述光照射所述测量目标时对所述测量目标成像;
由成像步骤中得到的图像来计算所述测量目标的表面上多个点处法线的取向,并由该计算的结果,将多点的法线转换成多个梯度并连接所述多个梯度,来计算所述测量目标的表面的三维形状;
对于所述测量目标的表面上至少一个点来测量距预定参考位置的距离;以及
确定所述测量目标的表面的三维形状的空间位置,所述三维形状是在形状计算步骤中使用测距步骤中获得的有关所述距离的信息来得到的。
CN201180059344.4A 2010-10-08 2011-10-03 形状测量设备及形状测量方法 Active CN103261836B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/901,123 2010-10-08
US12/901,123 US8334985B2 (en) 2010-10-08 2010-10-08 Shape measuring apparatus and shape measuring method
PCT/US2011/054534 WO2012047774A2 (en) 2010-10-08 2011-10-03 Shape measuring apparatus and shape measuring method

Publications (2)

Publication Number Publication Date
CN103261836A CN103261836A (zh) 2013-08-21
CN103261836B true CN103261836B (zh) 2017-03-08

Family

ID=45924897

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180059344.4A Active CN103261836B (zh) 2010-10-08 2011-10-03 形状测量设备及形状测量方法

Country Status (6)

Country Link
US (1) US8334985B2 (zh)
JP (1) JP5648749B2 (zh)
CN (1) CN103261836B (zh)
DE (1) DE112011103402T5 (zh)
TW (1) TW201229453A (zh)
WO (1) WO2012047774A2 (zh)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5567908B2 (ja) * 2009-06-24 2014-08-06 キヤノン株式会社 3次元計測装置、その計測方法及びプログラム
FI125320B (en) * 2012-01-05 2015-08-31 Helmee Imaging Oy ORGANIZATION AND SIMILAR METHOD FOR OPTICAL MEASUREMENTS
JP5900037B2 (ja) * 2012-03-08 2016-04-06 オムロン株式会社 画像処理装置およびその制御方法
US8823930B2 (en) * 2012-08-07 2014-09-02 Carl Zeiss Industrielle Messtechnik Gmbh Apparatus and method for inspecting an object
CN102865849B (zh) * 2012-10-19 2015-04-08 广州市盛光微电子有限公司 一种用于测距的拍摄装置及测距方法
KR101438157B1 (ko) * 2012-11-12 2014-09-05 주식회사 고영테크놀러지 기판 검사방법
WO2014156723A1 (ja) * 2013-03-27 2014-10-02 株式会社ニコン 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、及び形状測定プログラム
DE102013211802A1 (de) * 2013-06-21 2014-12-24 Siemens Aktiengesellschaft Dynamikerhöhung bei der farbkodierten Triangulation
JP5633058B1 (ja) * 2013-07-19 2014-12-03 株式会社三次元メディア 3次元計測装置及び3次元計測方法
US9459094B2 (en) * 2013-09-12 2016-10-04 Hong Kong Applied Science and Technology Research Institute Company Limited Color-encoded fringe pattern for three-dimensional shape measurement
US9911203B2 (en) * 2013-10-02 2018-03-06 Given Imaging Ltd. System and method for size estimation of in-vivo objects
JP6287360B2 (ja) * 2014-03-06 2018-03-07 オムロン株式会社 検査装置
CN106164654B (zh) * 2014-04-02 2018-11-20 株式会社普利司通 接合状态判断方法及成型装置
WO2015180039A1 (zh) * 2014-05-27 2015-12-03 华为技术有限公司 天线工程参数的获取方法和设备及系统
JP6256249B2 (ja) * 2014-08-08 2018-01-10 オムロン株式会社 計測装置、基板検査装置、及びその制御方法
CN104655052B (zh) * 2015-02-13 2018-01-23 深圳市维新登拓医疗科技有限公司 扫描仪及其成像方法
EP3057067B1 (en) * 2015-02-16 2017-08-23 Thomson Licensing Device and method for estimating a glossy part of radiation
CN106878697A (zh) * 2016-06-29 2017-06-20 鲁班嫡系机器人 一种拍摄方法及其成像方法、装置和设备
US10502556B2 (en) * 2016-07-20 2019-12-10 Mura Inc. Systems and methods for 3D surface measurements
JP2018151832A (ja) * 2017-03-13 2018-09-27 キヤノン株式会社 情報処理装置、情報処理方法、および、プログラム
US11173394B2 (en) * 2017-05-18 2021-11-16 Sony Interactive Entertainment Inc. Information processing apparatus and normal line information acquisition method
TWI810174B (zh) * 2018-02-09 2023-08-01 揚明光學股份有限公司 用於量測的光學裝置及其量測方法
JP6933776B2 (ja) * 2018-05-08 2021-09-08 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および被写体情報取得方法
JP6934565B2 (ja) 2018-05-08 2021-09-15 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および被写体情報取得方法
JP7212240B2 (ja) * 2018-06-11 2023-01-25 オムロン株式会社 計測システムおよび計測方法
US10679367B2 (en) * 2018-08-13 2020-06-09 Hand Held Products, Inc. Methods, systems, and apparatuses for computing dimensions of an object using angular estimates
US11815465B2 (en) * 2019-03-08 2023-11-14 Gemological Institute Of America, Inc. (Gia) Portable high-resolution gem imaging system
CN113614487A (zh) * 2019-03-26 2021-11-05 索尼集团公司 图像处理装置、图像处理方法和图像处理程序
CN112857234A (zh) * 2019-11-12 2021-05-28 峻鼎科技股份有限公司 结合物体二维和高度信息的测量方法及其装置
CN210807443U (zh) * 2019-12-27 2020-06-19 苏州康代智能科技股份有限公司 一种拱形照明装置及具有其的成像系统
CN112986284A (zh) * 2021-02-20 2021-06-18 苏州天准科技股份有限公司 一种复合式光源结构及光学检测装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1564929A (zh) * 2002-02-01 2005-01-12 Ckd株式会社 三维测定装置、滤色光栅条纹片及照明机构
KR100585270B1 (ko) * 2005-12-14 2006-05-30 에이티아이 주식회사 2개 영상을 이용한 물체 표면 형상 및 컬러 정보 획득시스템 및 방법
US7106432B1 (en) * 2002-09-27 2006-09-12 Kla-Tencor Technologies Corporation Surface inspection system and method for using photo detector array to detect defects in inspection surface
CN101363804A (zh) * 2007-08-09 2009-02-11 欧姆龙株式会社 基板外观检查装置
JP2010071782A (ja) * 2008-09-18 2010-04-02 Omron Corp 3次元計測装置およびその方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH061162B2 (ja) * 1984-03-02 1994-01-05 株式会社日立製作所 視覚装置
JPH0797022B2 (ja) 1989-09-11 1995-10-18 株式会社東芝 形状測定装置、形状測定方法、および形状測定装置の校正方法
JPH0560528A (ja) * 1991-09-03 1993-03-09 Hitachi Ltd 立体情報入力装置
JP3057960B2 (ja) * 1993-06-22 2000-07-04 トヨタ自動車株式会社 三次元形状加工物の評価装置
JPH07306023A (ja) * 1994-05-10 1995-11-21 Shigeki Kobayashi 形状計測装置、検査装置及び製品製造方法
JP3553652B2 (ja) 1994-08-19 2004-08-11 茂樹 小林 形状計測装置、検査装置、及び製品の製造方法
JP3869876B2 (ja) * 1995-12-19 2007-01-17 キヤノン株式会社 画像計測方法及び画像計測装置
JP3940484B2 (ja) * 1998-01-27 2007-07-04 富士通エフ・アイ・ピー株式会社 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体
US7065242B2 (en) * 2000-03-28 2006-06-20 Viewpoint Corporation System and method of three-dimensional image capture and modeling
JP3984608B2 (ja) * 2000-10-20 2007-10-03 松下電器産業株式会社 レンジファインダ装置
JP3629532B2 (ja) 2001-03-27 2005-03-16 国立大学法人 和歌山大学 連続移動物体のリアルタイム形状計測方法及びシステム
JP2003021507A (ja) * 2001-07-09 2003-01-24 Mitsubishi Heavy Ind Ltd 3次元形状認識装置及びその方法
EP1347418A3 (en) * 2002-02-28 2005-11-23 Canon Europa N.V. Texture map editing
JP3637416B2 (ja) * 2002-11-20 2005-04-13 株式会社三次元メディア 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム
JP4183576B2 (ja) * 2003-08-08 2008-11-19 株式会社ミツトヨ 走査型面形状測定装置および面形状測定方法
TWI412735B (zh) 2004-10-08 2013-10-21 Koninkl Philips Electronics Nv 測試表面之光學檢測
EP1808810A4 (en) * 2004-11-04 2013-07-24 Nec Corp 3D-FORM-ESTIMATING SYSTEM AND PICTURE GENERATION SYSTEM
JP4613626B2 (ja) * 2005-02-04 2011-01-19 旭硝子株式会社 鏡面形状測定方法および装置並びに検査方法および装置
JP4230525B2 (ja) * 2005-05-12 2009-02-25 有限会社テクノドリーム二十一 3次元形状計測方法およびその装置
JP4839827B2 (ja) * 2005-12-26 2011-12-21 コニカミノルタセンシング株式会社 3次元測定装置
JP2007196193A (ja) 2006-01-30 2007-08-09 Takuma Co Ltd 火の粉消火装置
KR100749829B1 (ko) 2006-05-26 2007-08-16 장민준 3차원 광측정장치
JP4950787B2 (ja) * 2007-07-12 2012-06-13 株式会社東芝 画像処理装置及びその方法
JP4629136B2 (ja) * 2008-10-15 2011-02-09 富士フイルム株式会社 測距装置および測距方法並びにプログラム
JP2011145109A (ja) * 2010-01-12 2011-07-28 Topcon Corp 光波距離測定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1564929A (zh) * 2002-02-01 2005-01-12 Ckd株式会社 三维测定装置、滤色光栅条纹片及照明机构
US7106432B1 (en) * 2002-09-27 2006-09-12 Kla-Tencor Technologies Corporation Surface inspection system and method for using photo detector array to detect defects in inspection surface
KR100585270B1 (ko) * 2005-12-14 2006-05-30 에이티아이 주식회사 2개 영상을 이용한 물체 표면 형상 및 컬러 정보 획득시스템 및 방법
CN101363804A (zh) * 2007-08-09 2009-02-11 欧姆龙株式会社 基板外观检查装置
JP2010071782A (ja) * 2008-09-18 2010-04-02 Omron Corp 3次元計測装置およびその方法

Also Published As

Publication number Publication date
DE112011103402T5 (de) 2013-08-22
JP5648749B2 (ja) 2015-01-07
US8334985B2 (en) 2012-12-18
CN103261836A (zh) 2013-08-21
US20120086950A1 (en) 2012-04-12
TW201229453A (en) 2012-07-16
WO2012047774A3 (en) 2012-06-21
WO2012047774A2 (en) 2012-04-12
JP2013543591A (ja) 2013-12-05

Similar Documents

Publication Publication Date Title
CN103261836B (zh) 形状测量设备及形状测量方法
US8363929B2 (en) Shape measurement apparatus and calibration method
CN102388291B (zh) 轮廓测定仪、测量设备和观测设备
JP5900037B2 (ja) 画像処理装置およびその制御方法
US7433055B2 (en) Device for the examination of optical properties of surfaces
US8717578B2 (en) Profilometer, measuring apparatus, and observing apparatus
CN105372259B (zh) 测量装置、基板检查装置以及其控制方法、存储媒体
US8970835B2 (en) Optical characteristic measuring apparatus
JP6791631B2 (ja) 画像生成方法及び検査装置
JP2022177166A (ja) 検査方法、プログラム、及び、検査システム
US20220130112A1 (en) Hybrid photogrammetry
JP5867123B2 (ja) 3次元形状計測装置およびキャリブレーション方法
JP2009097940A (ja) 形状測定装置
Krzesłowski et al. Novel calibration procedure for SVBRDF estimation of 3D objects using directional illumination and structured light projection

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant