CN102713671A - 点群数据处理装置、点群数据处理方法和点群数据处理程序 - Google Patents

点群数据处理装置、点群数据处理方法和点群数据处理程序 Download PDF

Info

Publication number
CN102713671A
CN102713671A CN201080056247.5A CN201080056247A CN102713671A CN 102713671 A CN102713671 A CN 102713671A CN 201080056247 A CN201080056247 A CN 201080056247A CN 102713671 A CN102713671 A CN 102713671A
Authority
CN
China
Prior art keywords
point
group data
dimensional
point group
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201080056247.5A
Other languages
English (en)
Inventor
北村和男
高地伸夫
N.德阿普佐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Topcon Corp
Original Assignee
Topcon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Topcon Corp filed Critical Topcon Corp
Publication of CN102713671A publication Critical patent/CN102713671A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

点群数据处理装置(1)具备非面去除部(16),从测定对象物的点群数据中去除非面区域的点;面标注部(17),对由非面去除部(16)去除的点以外的点,将同一标签赋予同一面上的点;三维边缘抽取部(11),基于由面标注部(17)区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;二维边缘抽取部(12),从由面标注部(17)区分的面内抽取二维边缘;和边缘统合部(13),统合三维边缘与二维边缘。

Description

点群数据处理装置、点群数据处理方法和点群数据处理程序
技术领域
本发明涉及点群数据处理装置,尤其涉及从测定对象物的点群数据中抽取其特征、自动且短时间地生成三维形状的点群数据处理装置。
背景技术
作为由测定对象物的点群数据生成三维形状的方法,有连结邻接点而形成多边形的方法。但是,为了对点群数据的数万~数千万的点形成多边形,会花费庞大的处理时间,使用不便。因此,公开有从点群数据中仅抽取三维特征(边缘或面)而自动生成三维折线(polyline)的技术(例如专利文献1~3)。
在专利文献1记载的发明中,扫描激光装置扫描三维对象,生成点云(point cloud、点群)。基于扫描点所涉及的深度与法线的变化,将点云分割成边缘点与非边缘点的群。通过使各群拟合(fit)于几何学原图,使拟合后的几何学原图扩展、交叉,从而生成三维形状。
在专利文献2记载的发明中,由点群数据形成区段(三角多边形),基于邻接的多边形彼此的连续性、法线方向、或距离,抽取边缘和面。另外,使用最小二乘法,将各区段的点群数据的平面性或曲面性置换成平面方程式或曲面方程式,进行分群,生成三维形状。
在专利文献3记载的发明中,对三维点群数据设定二维矩形区域,求出对应于该矩形区域的测定点的合成法线矢量。旋转移动矩形区域内的全部测量点,以使合成法线矢量与Z轴方向一致。对矩形区域内的各测量点求出Z值的标准偏差σ,在标准偏差σ超过规定值的情况下,将与矩形区域的中心点对应的测量点作为噪音处理。
专利文献1:日本特表2000-509150号公报;
专利文献2:日本特开2004-272459号公报;
专利文献3:日本特开2005-024370号公报。
发明内容
鉴于这种背景,本发明目的在于提供一种从测定对象物的点群数据中抽取其特征、自动且短时间地生成三维形状的技术。
权利要求1记载的发明是一种点群数据处理装置,其特征在于,具备:非面去除部,从测定对象物的点群数据中去除非面区域的点;面标注部,对于由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;三维边缘抽取部,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;二维边缘抽取部,从由所述面标注部区分的面内,抽取二维边缘;和边缘统合部,统合所述三维边缘与所述二维边缘。
根据权利要求1记载的发明,能够从测定对象物的点群数据中抽取其特征,自动且短时间地生成三维形状。另外,所谓测定对象物的特征主要由构成立体的三维边缘与构成平面和曲面(下面简称为面)内的图案的二维边缘构成。三维边缘是位置和方向不同的面彼此的交线和各面的外缘,二维边缘是在同一面内色浓度急剧变化的线或点。这里,三维边缘构成测定对象的轮廓线。所谓轮廓线是指为视觉上把握测定对象物的外观所需的、形成该测定对象物的外形的线的集合体(outline:轮廓线)。具体地,弯曲的部分和曲率急剧变小的部分成为轮廓线。轮廓线不限于仅以外侧轮廓的部分为对象,以凸状凸出的部分为特征的缘的部分或以凹状收进去的部分(例如沟构造的部分)为特征的缘的部分也成为对象。由轮廓线可得到所谓线图,能够进行容易把握对象物的外观的图像显示。实际的轮廓线存在于面与面的边界或边缘部分,但在本发明中,这些部分因为作为非面区域从点群数据中去除,所以例如通过算出所区分的面彼此的交线或凸包线来求出轮廓线。
权利要求2记载的发明特征在于:在权利要求1记载的发明中,还具备法线算出部,求出以所述点群数据的各点为中心的局部平面,算出所述局部平面的法线。
根据权利要求2记载的发明,能够基于点群数据的各点上的法线方向,抽取同一面上的点,按每个面区分点群数据的点。
权利要求3记载的发明特征在于:在权利要求2记载的发明中,还具备局部曲率算出部,求出所述法线的3个轴分量的标准偏差,得到所述标准偏差的平方和的平方根,从而算出局部曲率。
根据权利要求3记载的发明,能够基于点群数据的各点上法线的差异(局部曲率),去除非面区域的点。
权利要求4记载的发明特征在于:在权利要求3记载的发明中,所述非面去除部基于所述局部曲率,去除非面区域的点。
根据权利要求4记载的发明,能够去除由于面的方向变化而产生的尖锐的三维边缘、或由于局部曲率大的曲面而产生的平滑的三维边缘、或包含噪音的非面区域的点。
权利要求5记载的发明特征在于:在权利要求2记载的发明中,所述非面去除部基于所述局部平面的拟合精度,去除非面区域的点。
    根据权利要求5记载的发明,能够去除因遮挡(occlusion)(被面前的物体遮住而看不见里面的物体的状态)而发生的三维边缘或包含噪音的非面区域的点。即,局部平面的拟合精度例如是用于局部平面的算出的各点与局部平面的距离的平均值,因遮挡而产生的三维边缘由于里面的物体的点与面前物体的点的三维位置大不相同,所以能够利用局部平面的拟合精度来去除这种三维边缘或包含噪音的非面区域的点。
权利要求6记载的发明特征在于:在权利要求2记载的发明中,所述非面去除部基于注目点与邻接点上的共平面性,去除非面区域的点。
根据权利要求6记载的发明,注目点与邻接点上的共平面性是各法线与连结注目点与邻接点的线段之内积正交而为零的条件。利用该条件,能够去除由于面方向变化而产生的尖锐的三维边缘或包含噪音的非面区域的点。
权利要求7记载的发明特征在于:在权利要求2记载的发明中,所述面标注部基于注目点与邻接点上的所述法线的角度差,将同一标签赋予同一面上的点。
根据权利要求7记载的发明,能够按每个面区分点群数据的点。
权利要求8记载的发明特征在于:在权利要求1记载的发明中,还具备噪音去除部,基于由所述面标注部区分的面的面积,去除噪音。
根据权利要求8记载的发明,可仅抽取对测定对象物赋予特征的面。
权利要求9记载的发明特征在于:在权利要求1记载的发明中,还具备标签扩展部,对未由所述面标注部赋予标签的点,赋予最近旁面的标签,扩展所述标签。
根据权利要求9记载的发明,通过将赋予构成面的点的标签赋予距该面最近的非面区域的点,能够基于所区分的面彼此的交线或呈凸状将面包围的凸包线的至少一个来抽取三维边缘。
权利要求10记载的发明特征在于:在权利要求1记载的发明中,所述点群数据是将各点的三维坐标与二维图像结合的数据。
根据权利要求10记载的发明,能够将图像处理技术应用于仅以三维坐标难以抽取的二维边缘的抽取。
权利要求11记载的发明特征在于:在权利要求10记载的发明中,所述二维边缘抽取部从对应于由所述面标注部区分的面的所述二维图像的区域内,抽取二维边缘。
根据权利要求11记载的发明,能够去除主要构成立体的三维边缘,仅抽取构成面内的图案的二维边缘。
权利要求12记载的发明特征在于:在权利要求10记载的发明中,所述二维边缘抽取部从对应于由所述面标注部区分的面的所述二维图像的区域内抽取二维边缘,并基于位于所述二维边缘近旁的三维边缘的三维位置,判定所述二维边缘。
根据权利要求12记载的发明,能够基于构成该面外缘的三维边缘的三维位置,确认从二维图像中抽取的二维边缘的三维位置。
权利要求13记载的发明特征在于,在权利要求1记载的发明中,还具备:旋转照射部,对测定对象物旋转照射测距光;测距部,基于所述测距光的飞行时间,对从自身位置至测定对象物上的测定点的距离进行测距;照射方向检测部,检测所述测距光的照射方向;和三维坐标运算部,基于所述距离和所述照射方向,运算所述测定点的三维坐标。
根据权利要求13记载的发明,能够取得由三维坐标构成的点群数据。
权利要求14记载的发明特征在于:在权利要求1记载的发明中,还具备格栅形成部,在所述点群数据的点间距离不固定的情况下,形成等间隔的格栅,登录距所述格栅的交点最近的点。
根据权利要求14记载的发明,能够补正点群数据的点间距离。
权利要求15记载的发明特征在于,在权利要求13记载的发明中,还具备:摄像部,对所述测定对象物进行摄像,取得二维图像;和链接形成部,形成将所述测定点的三维坐标与所述二维图像结合的点群数据。
根据权利要求15记载的发明,能够基于三维坐标抽取构成立体的三维边缘,并基于二维图像抽取构成面内的图案的二维边缘(色浓度急剧变化的线或点)。
权利要求16记载的发明特征在于,在权利要求1记载的发明中,还具备:摄影部,从不同方向在重复的摄影区域中对测定对象物进行摄影;特征点对应建立部,对由所述摄影部得到的重复图像内的特征点建立对应;摄影位置姿势测定部,测定所述摄影部的位置和姿势;和三维坐标运算部,基于所述摄影部的位置和姿势与所述重复图像内的特征点的位置,运算特征点的三维坐标。
根据权利要求16记载的发明,能够取得由三维坐标构成的点群数据。
权利要求17记载的发明是一种点群数据处理程序,用于使计算机执行以下步骤:非面去除步骤,从测定对象物的点群数据中去除非面区域的点;面标注步骤,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;三维边缘抽取步骤,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;二维边缘抽取步骤,从由所述面标注部区分的面内,抽取二维边缘;和边缘统合步骤,统合所述三维边缘与所述二维边缘。
根据权利要求17记载的发明,能够从测定对象物的点群数据中抽取其特征,自动且短时间地生成三维形状。
权利要求18记载的发明是一种点群数据处理方法,其特征在于,具备:非面去除步骤,从测定对象物的点群数据中去除非面区域的点;面标注步骤,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;三维边缘抽取步骤,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;二维边缘抽取步骤,从由所述面标注部区分的面内,抽取二维边缘;和边缘统合步骤,统合所述三维边缘与所述二维边缘。
根据权利要求18记载的发明,能够从测定对象物的点群数据中抽取其特征,自动且短时间地生成三维形状。
权利要求19记载的发明是一种点群数据处理装置,其特征在于,具备:非面去除部,从测定对象物的点群数据中去除非面区域的点;面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;三维边缘抽取部,抽取由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,作为三维边缘;二维边缘抽取部,从由所述面标注部区分的面内,抽取二维边缘;和边缘统合部,统合所述三维边缘与所述二维边缘。
权利要求20记载的发明是一种点群数据处理装置,其特征在于,具备:非面去除部,从测定对象物的点群数据中去除非面区域的点;面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;三维轮廓抽取部,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取所述测定对象物的三维轮廓;二维轮廓抽取部,从由所述面标注部区分的面内,抽取二维轮廓;和轮廓统合部,统合所述三维轮廓与所述二维轮廓。
权利要求21记载的发明是一种点群数据处理装置,其特征在于,具备:非面去除部,从测定对象物的点群数据中去除非面区域的点;面抽取部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点,抽取构成所述测定对象物的多个面;和三维形状抽取部,基于在所述面抽取部抽取的所述多个面,抽取所述测定对象物的三维形状。
发明效果
根据本发明,能够从测定对象物的点群数据中抽取其特征,自动且短时间地生成三维形状。
 附图说明
图1是点群数据处理装置的框图;
图2是表示运算部的处理流程的流程图;
图3是表示x轴方向的法线矢量的强度图像(nvx)的附图代用照片;
图4是表示y轴方向的法线矢量的强度图像(nvy)的附图代用照片;
图5是表示z轴方向的法线矢量的强度图像(nvz)的附图代用照片;
图6是表示x轴方向的曲率图像(stdnvx)的附图代用照片;
图7是表示y轴方向的曲率图像(stdnvy)的附图代用照片;
图8是表示z轴方向的曲率图像(stdnvz)的附图代用照片;
图9是表示局部曲率图像(crv)的附图代用照片;
图10是表示局部平面算出中使用的点与局部平面的距离的图;
图11是说明共平面性的判定方法的说明图;
图12是在二维空间上表示非面去除的结果的附图代用照片;
图13是在三维空间上表示非面去除的结果的附图代用照片;
图14是以与图13不同的方向表示非面去除的结果的附图代用照片;
图15是在二维空间上表示面标注的结果的附图代用照片;
图16是在三维空间上表示面标注的结果的附图代用照片;
图17是表示噪音去除的结果的附图代用照片;
图18是在二维空间上表示标签扩展的结果的附图代用照片;
图19是在三维空间上表示标签扩展的结果的附图代用照片;
图20是表示邻接的2个面相交的区间的图;
图21是表示由邻接的2个面的交线构成的三维边缘的附图代用照片;
图22是表示基于凸包线的三维边缘的附图代用照片;
图23是表示抽取的二维边缘的附图代用照片;
图24是表示二维空间和三维空间上显示的三维边缘与二维边缘的附图代用照片;
图25是表示点群数据处理装置的构成的截面图;
图26是表示点群数据处理装置的构成的截面图;
图27是控制部的框图;
图28是运算部的框图;
图29是表示点群数据的二维图像与三维坐标的链接构造的图;
图30是表示点间距离不固定的点群数据的图;
图31是表示形成的格栅的图;
图32是在三维空间中表示登录于格栅交点的点群的附图代用照片;
图33是在二维空间中表示登录于格栅交点的点群的附图代用照片;
图34是表示点群数据处理装置的构成的框图;
图35是运算部的框图;
图36是表示直线的尖锐的三维边缘的图(A)、表示直线的平滑的三维边缘的图(B)、表示曲线的尖锐的三维边缘的图(C)和表示曲线的平滑的三维边缘的图(D);
图37是平滑的三维边缘的截面图;
图38是表示算出凸包线的原理的概念图。
符号说明
1  点群数据处理装置、2  点群数据、3  数据输入部、4  运算部、5  存储部、6  操作部、7  显示部、8  数据输出部、9  格栅形成部、10  面抽取部、11  三维边缘抽取部、12  二维边缘抽取部、13  边缘统合部、14  法线算出部、15  局部曲率算出部、16  非面去除部、17  面标注部、18  噪音去除部、19  标签扩展部、20  三维折线、22  校平部、23  旋转机构部、24  测距部、25  摄像部、26  控制部、27  主体部、28  旋转照射部、29  台盘、30  下部外壳(casing)、31  销、32  调整螺钉、33  拉伸弹簧、34  校平电机、35  校平驱动齿轮、36  校平从动齿轮、37  倾斜传感器、38  水平转动电机、39  水平转动驱动齿轮、40  水平转动齿轮、41  旋转轴部、42  旋转基盘、43  轴承部件、44  水平角检测器、45  主体部外壳、46  镜筒、47  光轴、48  分束器、49,50  光轴、51  脉冲激光光源、52  开孔镜、53  束腰变更光学系统、54  测距感光部、55  高低角用转动镜、56  投光光轴、57  聚光透镜、58  图像感光部、59  投光外壳、60  法兰部、61  镜支撑板、62  转动轴、63  高低角齿轮、64  高低角检测器、65  高低角用驱动电机、66  驱动齿轮、67  准星照门、68  外部存储装置、69  水平驱动部、70  高低驱动部、71 校平驱动部、72  距离数据处理部、73  图像数据处理部、74  三维坐标运算部、75  链接形成部、76,77  摄影部、78  特征投影部、79  校正用被摄体、80  目标、81  摄影位置姿势测定部、82  特征点对应建立部、83  背景去除部、84  特征点抽取部、85  对应点探索部、86  三维坐标运算部、87  误对应点判定部、88  视差判定部、89  空间判定部、90  形态判定部、91,92  面、93  虚拟的三维边缘、94  圆柱、95  真的三维边缘、301  轮廓线、302  面、303  非面区域、304  面。
具体实施方式
1.第1实施方式
下面,参照附图来说明点群数据处理装置的一例。
(点群数据处理装置的构成)
图1是点群数据处理装置的框图。点群数据处理装置1基于测定对象物的点群数据2,抽取测定对象物的特征,生成基于该特征的三维形状。测定对象物的特征主要由构成立体的三维边缘、以及构成平面和曲面(下面简称为面)内的图案的二维边缘构成。三维边缘是位置和方向不同的面彼此的交线或各面的外缘,二维边缘是同一面内色浓度急剧变化的线或点。点群数据处理装置1生成的三维形状是基于该特征的示意形状,是由三维边缘与二维边缘构成的三维折线20。
如图1所示,点群数据处理装置1具备数据输入部3、运算部4、存储部5、操作部6、显示部7、数据输出部8。数据输入部3是闪存等外部存储部件、或硬盘等磁存储部件、或连接于LAN(Local Area Network:局域网)或WAN(Wide Area Network:广域网)等的连接部件,运算部4是CPU(Central Processing Unit:中央处理器)、或ASIC(Application Specific Integrated Circuit:专用集成电路)、或FPGA(Field Programmable Gate Array:现场可编程门阵列)等PLD(Programmable Logic Device:可编程逻辑器件)等运算部件。存储部5是RAM(Random Access Memory:随机存取存储器)等主存储部件,操作部6是鼠标和键盘或触摸屏等操作部件。显示部7是液晶显示器等显示部件,数据输出部8使用与数据输入部3一样的构成。
运算部4由操作部6操作,运算部4从数据输入部3输入点群数据2。点群数据2主要由三维坐标与RGB强度(二维图像)构成。从数据输入部3输入的点群数据2存储在存储部5中,运算部4基于存储部5中存储的点群数据,抽取测定对象物的三维边缘和二维边缘。由运算部4抽取的三维和二维边缘作为三维折线20,显示于显示部7。显示部7能在二维空间和三维空间上同时显示三维折线20。另外,三维折线20能作为CAD(Computer Aided Design:计算机辅助设计)数据输出到数据输出部8。
下面,详细说明运算部4的构成。运算部4具备面抽取部10、三维边缘抽取部11、二维边缘抽取部12和边缘统合部13。这些由CPU执行的程序、或ASIC或FPGA等PLD构成。面抽取部10从点群数据2中抽取面。面抽取部10由法线算出部14、局部曲率算出部15、非面去除部16、面标注部17、噪音去除部18、标签扩展部19构成。
法线算出部14算出各点的局部平面上的法线矢量,局部曲率算出部15算出局部区域内的法线矢量的差异(局部曲率)。非面去除部16基于(1)局部曲率高的部分、(2)局部平面的拟合精度、(3)共平面性来去除非面区域的点。另外,所谓非面区域为不是平面且不是曲面的区域,但有时取决于(1) ~(3)的阈值而包含曲率高的曲面。面标注部17对残存的点,基于法线矢量的连续性,将同一标签赋予同一面上的点。噪音去除部18将面积小的标签(面)作为噪音去除,标签扩展部19通过对无标签的点赋予最近旁面的标签,来扩展标签。结果,得以从点群数据2中抽取面。
另外,在依然残存无标签的点的情况下,也可通过自动调整非面去除部16、噪音去除部18、标签扩展部19中的各种阈值,再次进行标注。另外,在即便是标签不同的面但为同一面的情况下,也可统合标签。即,即便是不连续的面,也可向位置或方向相同的面彼此赋予相同标签。此时,图1所示的运算部4在标签扩展部19之后还具备再标注部或标签统合部。
三维边缘抽取部11基于由面抽取部10抽取到的面彼此的交线或呈凸状包围各面的凸包线的至少一个,抽取三维边缘。二维边缘抽取部12从由面抽取部10区分(区段化)的面内抽取二维边缘,并抽取与该二维边缘附近的三维边缘的三维位置大致相同的边缘,作为二维边缘。边缘统合部13统合三维边缘抽取部11抽取的三维边缘与二维边缘抽取部12抽取的二维边缘,生成三维折线20。边缘统合部13是算出测定对象物的三维轮廓的部件一例,是本发明的轮廓统合部的一例。另外,边缘统合部13统合以面抽取部10抽取的面为基础而抽取的三维边缘和二维边缘,算出把握三维测定对象物的形状所需的数据(在本例的情况下为三维折线)。在此含义下,边缘统合部13也是基于面抽取部10抽取的多个面来抽取测定对象物的三维形状的三维形状抽取部的一例。
另外,在点群数据2由从不同方向测定的多个点群数据(块)构成的情况下,按每个块重复进行运算部4的处理。之后,运算部4将各块中抽取到的三维边缘和二维边缘的点变换为同一坐标,生成由多个方向构成的三维折线20。
(点群数据处理装置的动作)
下面,详细说明运算部4中进行的面标注处理、进而基于由面标注处理标注的面来抽取测定对象物的三维形状的处理。图2是表示运算部的处理流程的流程图。执行该流程图的程序可由CDROM等计算机可读取的记录介质提供。
运算部4输入点群数据2(步骤S1),从点群数据2中抽取面(步骤S2)。另外,运算部4为了抽取面,算出各点的局部平面上的法线矢量(步骤S3)。下面,说明法线矢量的算出方法。
在以注目点为中心的3~7像素程度的正方区域(3×3、5×5等局部区域)中,从各点的三维坐标,求出局部平面的方程式(局部平面拟合)。局部平面的拟合中使用最小二乘法。此时,为了正确求出局部平面的方程式,优选求出式1所示的3个不同的平面方程式来比较。在式1的情况下,法线矢量(nvx,vny,vnz)为(a1,b1,-1)、(a2,-1,b2)、(-1,a3,b3)。另外,法线矢量的大小归一化为1(-1至1的范围)。
式1
Figure 375820DEST_PATH_IMAGE001
图3是表示x轴方向的法线矢量的强度图像(nvx)的附图代用照片,图4是表示y轴方向的法线矢量的强度图像(nvy)的附图代用照片,图5是表示z轴方向的法线矢量的强度图像(nvz)的附图代用照片。图3~图5表示使用7×7的局部平面的结果。
接着,算出局部区域内的法线矢量的差异(局部曲率)(步骤S4)。在以注目点为中心的3~7像素程度的正方区域中,求出各法线矢量的3个轴分量的强度值(nvx,nvy,nvz)的平均(mnvx,mnvy,mnvz),再求出标准偏差(stdnvx,stdnvy,stdnvz)。接着,如式2所示,算出标准偏差的平方和的平方根,作为局部曲率(Local Curveture:crv)。
式2
Figure 479911DEST_PATH_IMAGE002
图6是表示x轴方向的曲率图像(stdnvx)的附图代用照片,图7是表示y轴方向的曲率图像(stdnvy)的附图代用照片,图8是表示z轴方向的曲率图像(stdnvz)的附图代用照片。另外,图9是表示局部曲率图像(crv)的附图代用照片。
接着,去除非面区域的点(步骤S5)。即,为了抽取面(平面和曲面),事先去除能够判断为不是面的部分(非面区域)。非面去除的处理使用下面所示的3个方法中至少一个进行。另外,所谓非面区域为既不是平面也不是曲面的区域,而有时取决于(1) ~(3)的阈值而包含曲率高的曲面。
(1)局部曲率高的部分
去除步骤S4中求出的局部曲率高的部分的点。局部曲率表示注目点与其周边点上的法线矢量的差异,所以在面(平面和曲率小的曲面)中其值小,在面以外其值大。因此,若局部曲率比事先确定的阈值大,则判断为注目点不在面上。即,对图9的局部曲率进行图像二进制化,去除比阈值大的部分。
(2)局部平面的拟合精度
计算步骤S4中求出的局部平面的算出中使用的各点与该局部平面的距离,在这些距离的平均比事先设定的阈值大的情况下,判断为注目点不在面上。图10是表示局部平面算出中使用的点与局部平面的距离的图。局部平面L通过指定面上的点A来决定。设点A为局部平面的算出中使用的点P1~P8的平均坐标。
(3)共平面性的检查
图11是说明共平面性的判定方法的说明图。设局部平面p1与局部平面p2的各法线矢量为n1、n2,设连结决定面的点的矢量为r12。此时,若局部平面p1与局部平面p2在同一面上,则法线矢量为n1、n2与连结2局部平面间的r12的内积由于它们无限正交而接近零。利用该性质,若各内积值大的一方的值比事先确定的阈值大,则判断为注目点不在面上(式3)。
式3
包含由于面的方向变化而产生的尖锐的三维边缘或因曲率大的曲面而产生的平滑的三维边缘的非面区域能够由(1)的方法抽取,因为遮挡(被面前的物体遮住而看不见里面的物体的状态)而产生的包含三维边缘的非面区域由于点的位置急剧变化,所以能够由(2)的方法抽取,包含由于面的方向变化而产生的尖锐的三维边缘的非面区域能够由(3)的方法抽取。
图12~图14中示出分阶段进行以上3个方法的结果。图12是在二维空间上表示非面去除的结果的附图代用照片,图13是在三维空间上表示非面去除的结果的附图代用照片,图14是以与图13不同的方向表示非面去除的结果的附图代用照片。图中黑的部分是由该处理去除的像素,去除方向不同的面与面间的部分。另外,如图13和图14的圆框B所示,尽管是面区域,也存在被判定为非面的部分。该部分表示点群数据2的取得中通行的人。这样,通过去除非面,也能去除位于测定对象物前的树或通行的人等大的噪音。
接着,对残存的点,基于法线矢量的连续性,进行面标注(步骤S6)。具体地,在8近旁,如果注目点与邻接点上的法线矢量的角度差为事先确定的阈值以下,则贴上同一标签。在面标注之后,使用法线矢量的角度差或法线矢量的3个轴分量的标准偏差,判断标签(面)是否是平面或是曲率小的曲面。
图15是在二维空间上表示面标注的结果的附图代用照片,图16是在三维空间上表示面标注的结果的附图代用照片。另外,图15和图16中,面以10色分涂,但若标签不在8近旁连结,则既便是同一色的面,也不是同一面。
接着,将面积小的标签(面)作为噪音去除(步骤S7)。噪音去除也可与步骤S7的面标注处理同时进行。即,以边进行面标注边计数同一标签的点数,取消规定点数以下的标签的方式进行处理。图17是表示噪音去除的结果的附图代用照片。如图17所示,存在于上下端等的小的标签作为噪音被去除(在图上变黑)。
接着,对此前无标签的点赋予与最近旁面相同的标签。即,扩展已标注的面(步骤S8)。首先,求出赋予了标签的面的方程式,求出该面与无标签的点的距离。在无标签的点的周边存在多个标签(面)的情况下,选择该距离最短的标签。图18是在二维空间上表示标签扩展的结果的附图代用照片,图19是在三维空间上表示标签扩展的结果的附图代用照片。如图18和图19所示,在面的中间或面的端部分扩展标签。通过以上,得以从点群数据2中抽取面(步骤S2)。
另外,在依然残存无标签的点的情况下,通过自动调整非面去除(步骤S5)、噪音去除(步骤S7)和标签扩展(步骤S8)中的各种阈值,进行再次标注。例如,在非面去除(步骤S5)中,通过提高局部曲率的阈值,减少作为非面抽取的点数。或者,在标签扩展(步骤S8)中,通过提高无标签的点与最近旁面的距离的阈值,对无标签的点赋予更多的标签。
另外,在即便是标签不同的面但为同一面的情况下,也可统合标签。即,即便是不连续的面,也可向位置或方向相等的面彼此赋予相同标签。具体地,通过比较各面的法线矢量的位置和方向,抽取不连续的同一面,统合成任一面的标签。
接着,算出抽取到的面彼此的交线和呈凸状将面包围的凸包线,并据此抽取三维边缘(步骤S9)。下面,说明2个方法。另外,作为利用以下2个方法的方式,例如利用任一个方法的方式、利用双个以利用其平均或判定为更适当的运算结果的方式、取决于状况使用的方式。
(1)将交线设为三维边缘
在该方法中,取出邻接的2个面,认为它们为无限面,抽取2个面的交线,作为三维边缘。在步骤S6的面标注中,因为判断各标签是平面还是曲面,所以作为平面与平面、或平面与曲面、或曲面与曲面的交线,可求出三维边缘。
例如,在邻接的2个平面是平面与平面的情况下,求出2个面的法线矢量a、b,通过求出该法线矢量a、b的外积a×b,求出交线矢量(式4)。接着,从2个面的方程式,求出通过交线的1点。由此,交线决定。
式4
Figure 280957DEST_PATH_IMAGE004
另外,因为求出的交线是无限直线,所以算出2个面相交的区间,求出该区间的端点坐标,将该交线变为线段。图20是表示邻接的2个面相交的区间的图。图21是表示由邻接的2个面的交线构成的三维边缘的附图代用照片。在该方法中,因为在无邻接的面的情况下不能求出交线,所以在测定对象物的外侧部分不能抽取三维边缘。另外,图21的箭头所示的部分是未能取得点群数据的面,但因为该部分也无邻接的面,所以不能抽取三维边缘。
(2)基于凸包线得到三维边缘
在该方法中,抽取位于各标签(面)的外侧部分的点,连结这些点后设为三维边缘。具体地,在考虑比较一般的立方体对象物的情况下,在二维图像上抽取面的外侧部分的点,用线连结邻接点彼此,若注目点与其邻接点的线段所成的角比90o大,则去除注目点,连结邻接点彼此。通过重复上述步骤,形成将该面包围成凸状的凸包线。
下面,说明求出标签的凸包线、算出轮廓线的处理一例。图38(A)中表示沿Y轴方向延伸的轮廓线301。下面,说明算出近似轮廓线301的凸包线的方法一例。首先,考虑以Z-X面切图38(A)的切断面。图38(b)中概念地表示由Z-X面切得的切断面之一。图38(b)中表示标注的面302、304、面302与304之间的非面区域303。测定到的点B1、点B2、点B3是不包含在标注的面中的点,相当于注目点。在本例中,在非面区域303的中央部分中存在实际的轮廓线301。另外,图38(b)中,示出因激光的反射状态等引起的测定误差、测定到的点B2为偏离实际的非面区域303的位置的实例。
这里,算出通过实际轮廓线301近旁的凸包线。首先,在图38(B)中,求出邻接点A3。邻接点A3作为从面302的缘部分的点A2将面302延长至外侧的部分、与将邻接的其他面304延长至外侧的部分的交叉位置算出。这样,在面302的外侧抽取邻接点A3。这里,算出面302、与将包含邻接于面302的所标注面中包含的邻接点C1、邻接点C2的面304延长的面的交叉角θ0。接着,假设从邻接点A2连结非面区域303中存在的测定点B1、点B2、点B3各自的虚拟线,求出从面302的延长方向绕逆时针测定的角θ1、θ2、θ3。之后,从上述角θ1、θ2、θ3中采用上述角θ0以下的角,去除比角θ0大的角。在图38(B)的情况下,采用点B1、点B3,去除点B2。之后,算出连结所采用的点(此时为点B1、点B3)的近似曲线,设为凸包线。图38(B)中,表示基本无误差、作为近似曲线的凸包线与非面303的截面形状大致一致的情况(即连结点B1、点B3的近似曲线)与符号303所示的曲线大致一致的情况)。接着,如图38(C)所示,设求出的凸包线中、所标注的面与面的中间点、或近似曲线中设立的法线的角度为所标注面所成角的1/2的部位等为轮廓线位置(轮廓线通过点)。图38(C)中示出实线的轮廓线301与算出的轮廓线位置大致一致的情况。另外,构成凸包线的近似曲线也能够作为微小长度的直线连结来求出。以Y轴上的多个位置进行以上处理,算出连结该Y轴上算出的多个轮廓线通过点的线,作为轮廓线。这样,求出将图38(A)所示的弯曲的面的角部分包围成凸状的凸包线,基于该凸包线,算出近似于实际轮廓线301的三维边缘。
这里,若减小距离L的值,则虽然运算量增加,但分辨率提高,与实际轮廓线的错位变小。相反,若增大L的值,则虽然运算量减小,但分辨率下降,与实际轮廓线的错位变大。这样,能够通过L值的设定来变更算出精度。图22是表示基于凸包线的三维边缘一例的附图代用照片。
另外,作为抽取三维边缘的方法,也可适用充当典型的方法、从局部曲率等重复进行阈值处理、残留似三维边缘的对象并检测的方法。
接着,在对应于步骤S2中所区分的面的二维图像区域内抽取二维边缘,并抽取与该二维边缘附近的三维边缘的三维位置大致相同的边缘,作为二维边缘(步骤S10)。由此,抽取作为三维边缘难以抽取的、构成面内图案的二维边缘。图23是表示抽取的二维边缘的附图代用照片。例如,抽取图23所示的点线,作为二维边缘。
首先,使用拉普拉斯算符、普鲁伊特(Prewitt)、索贝尔(Sobel)、坎尼(Canny)等公知的边缘抽取算子,从对应于步骤S2区分的面的二维图像区域内抽取边缘。之后,比较构成抽取到的边缘的点的三维坐标的高度(z值)与构成其附近三维边缘的点的三维坐标的高度(z值),在该差为规定阈值以内的情况下,作为二维边缘抽取。即,判定构成二维图像上抽取出的边缘的点是否位于区段化的面上。
接着,统合步骤S9抽取的三维边缘与步骤S10抽取的二维边缘,形成三维折线20(步骤S11)。三维折线20显示于二维空间和三维空间上(步骤S12)。图24是表示二维空间和三维空间上显示的三维边缘与二维边缘的附图代用照片。若以二维空间和三维空间的任一来指定边缘,则对应的边缘显示于二维空间或三维空间上。另外,将三维折线20变换为规定格式的CAD数据后数据输出(步骤S13)。这样,算出用于基于所标注的面来把握测定对象物的外观的三维折线20。利用该三维折线20,能够显示或打印显示测定对象物的外观的三维模块。该三维折线20算出所涉及的一系列处理可作为基于所标注的面来抽取测定对象物的三维形状的处理来把握。如上所述,在本实施方式中,测定对象物作为多个面的集合体来处理,基于抽取到的多个面,执行该三维形状的把握。
(第1实施方式的优越性)
下面,说明第1实施方式的优越性。根据第1实施方式,按每个面区分点群数据2的各点,基于面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘,并从所区分的面内抽取二维边缘,统合三维边缘和二维边缘。这样,点群数据处理装置1由于不直接抽取由各种形状构成的边缘,所以抽取到的边缘中噪音少,能够从点群数据2中自动抽取三维边缘和二维边缘。另外,因为面能够比边缘容易抽取,所以能够在短时间内抽取边缘。
根据第1实施方式,作为面的集合体,把握测定对象物的外观形状。此时,从面的数据算出区分邻接的面的轮廓,作为三维边缘。根据该方法,因为作为容易处理为数据的面的集合来进行测定对象物的形状识别,所以能抑制运算的负担,较高速地把握测定对象物的定量形状。
另外,点群数据处理装置1基于局部曲率来去除非面区域的点。因此,能够去除由于面的方向变化而产生的尖锐的三维边缘、或因局部曲率大的曲面而产生的平滑的三维边缘、或包含噪音的非面区域的点。
因此,能够去除因遮挡(被面前的物体遮住而看不见里面物体的状态)而产生的三维边缘或包含噪音的非面区域的点。即,局部平面的拟合精度例如是局部平面的算出中使用的各点与局部平面的距离的平均值,因遮挡而产生的三维边缘中里面的物体的点与面前物体的点的三维位置大不相同,所以能够利用局部平面的拟合精度来去除这种三维边缘或包含噪音的非面区域的点。
另外,点群数据处理装置1基于注目点与邻接点上的共平面性,去除非面区域的点。注目点与邻接点上的共平面性是各法线与连结注目点与邻接点的线段之内积正交而为零的条件。可利用该条件,去除由于面方向变化而产生的尖锐的三维边缘或包含噪音的非面区域的点。
另外,点群数据处理装置1对未赋予标签的点,赋予最近旁面的标签,扩展该标签。即,通过将赋予构成面的点的标签赋予距该面最近的非面区域的面,能够基于所区分的面彼此的交线或呈凸状将面包围的凸包线的至少一个来抽取三维边缘。
并且,因为点群数据2是结合各点的三维坐标与二维图像的数据,所以可将图像处理技术应用于在仅由三维坐标难以抽取的二维边缘的抽取中。另外,因为从对应于由面标注部17区分的面的二维图像的区域内抽取二维边缘,所以能够去除主要构成立体的三维边缘,仅抽取构成面内图案的二维边缘。另外,因为基于位于二维边缘近旁的三维边缘的三维位置来判定二维边缘,所以能够基于构成该面外缘的三维边缘的三维位置,确认从二维图像中抽取的二维边缘的三维位置。
2.第2实施方式
下面,说明具备三维激光扫描仪的点群数据处理装置。对与第1实施方式一样的构成使用相同符号,省略其说明。
(点群数据处理装置的构成)
点群数据处理装置对测定对象物旋转照射测距光(激光),根据激光的飞行时间,对从自身位置至测定对象物上的测定点的距离进行测距。另外,点群数据处理装置检测激光的照射方向(水平角和高低角),并基于距离和照射方向,运算测定点的三维坐标。另外,点群数据处理装置取得对测定对象物所摄像的二维图像(各测定点的RGB强度),形成将二维图像与三维坐标结合的点群数据。并且,点群数据处理装置从所形成的点群数据,形成由三维边缘与二维边缘构成的三维折线。
图25和图26是表示点群数据处理装置的构成的截面图。点群数据处理装置1具备校平部22、旋转机构部23、主体部27和旋转照射部28。主体部27由测距部24、摄像部25、控制部26等构成。另外,图26中,为了方便说明,示出对图25所示的截面方向仅从旋转照射部28的侧面观察的状态。
校平部22具有台盘29、下部外壳30。下部外壳30由销31和2个调整螺钉32以3点支持于台盘29。下部外壳30以销31的顶端为支点偏斜。在台盘29与下部外壳30之间,设置拉伸弹簧33,以便台盘29与下部外壳30不彼此离开。
在下部外壳30的内部,设置2个校平电机34。2个校平电机34由控制部26彼此独立驱动。利用校平电机34的驱动,经由校平驱动齿轮35、校平从动齿轮36,调整螺钉32旋转,调整调整螺钉32向下方的突出量。另外,在下部外壳30的内部设置倾斜传感器37(参照图27)。2个校平电机34由倾斜传感器37的检测信号驱动,由此执行校平。
旋转机构部23在下部外壳30的内部具有水平角用驱动电机38。在水平角用驱动电机38的输出轴上嵌入水平转动驱动齿轮39。水平转动驱动齿轮39啮合于水平转动齿轮40。水平转动齿轮40设置在旋转轴部41。旋转轴部41设置在旋转基盘42的中央部。旋转基盘42经由轴承部件43设置在下部外壳30的上部。
另外,在旋转轴部41例如设置编码器作为水平角检测器44。水平角检测器44检测旋转轴部41相对下部外壳30的相对转角(水平角)。将水平角输入控制部26,控制部26基于该检测结果,控制水平角用驱动电机38。
主体部27具有主体部外壳45。主体部外壳45固接于旋转基盘42上。在主体部外壳45的内部设置镜筒46。镜筒46具有与主体部外壳45的旋转中心同心的旋转中心。镜筒46的旋转中心与光轴47一致。在镜筒46的内部设置作为光束分离部件的分束器48。分束器48具有透过可视光且反射红外线的功能。光轴47被分束器48分离成光轴49与光轴50。
测距部24设置在镜筒46的外周部。测距部24具有作为发光部的脉冲激光光源51。在脉冲激光光源51与分束器48之间,配置开孔镜52、变更激光的腰直径的腰变更光学系统53。测距光源部由脉冲激光光源51、光束腰变更光学系统53、开孔镜52构成。开孔镜52具有将脉冲激光从孔部52a导入分束器48、向测距感光部54反射从测定对象物反射回的反射激光的作用。
脉冲激光光源51通过控制部26的控制,在规定定时发出红外脉冲激光。红外脉冲激光由分束器48向高低角用转动镜55反射。高低角用转动镜55具有向测定对象物反射红外脉冲激光的作用。高低角用转动镜55通过沿高低角方向旋转,将沿铅直方向延伸的光轴47变换为高低角方向的投光光轴56。在分束器48与高低角用转动镜55之间且在镜筒46的内部配置聚光透镜57。
来自测定对象物的反射激光经高低角转动用镜55、聚光透镜57、分束器48、开孔镜52导入测距感光部54。另外,还通过内部参照光路将参照光导向测距感光部54。基于测距感光部54对反射激光感光的时间与激光通过内部参照光路由测距感光部54感光到的时间之差,测定从点群数据处理装置1至测定对象物的距离。
摄像部25具有图像感光部58。图像感光部58设置在镜筒46的底部。图像感光部58由将多个像素集合成平面状排列的部件、例如CCD(Charge Coupled Device:电荷耦合器件)构成。图像感光部58的各像素的位置由光轴50特定。例如,将光轴50作为原点,设定X-Y坐标,定义像素,作为该X-Y坐标的点。
旋转照射部28容纳在投光外壳59的内部。投光外壳59的周壁的一部分构成投光窗。如图26所示,在镜筒46的法兰部60中,面对设置一对镜支撑板61。转动轴62架设在镜支撑板61。高低角用转动镜55固接于转动轴62上。在转动轴62的一端部嵌入高低角齿轮63。在转动轴62的另一端侧设置高低角检测器64。高低角检测器64检测高低角用转动镜55的转动角,将其检测结果输出到控制部26。
一个在镜支撑板61装配有高低角用驱动电机65。驱动齿轮66嵌入在高低角用驱动电机65的输出轴。驱动齿轮66啮合于高低角齿轮63上。高低角用驱动电机65基于高低角检测器64的检测结果,由控制部26的控制适当驱动。
在投光外壳59的上部,设置准星照门67。准星照门67用于概略平行校正测定对象物。使用准星照门67的平行校正方向为与投光光轴56的延伸方向和转动轴62的延伸方向正交的方向。
图27是控制部的框图。控制部26输入来自水平角检测器44、高低角检测器64、倾斜传感器37的检测信号。另外,控制部26从操作部6输入操作指示信号。控制部26在驱动控制水平角用驱动电机38、高低角用驱动电机65、校平电机34的同时,控制显示作业状况、测定结果等的显示部7。在控制部26中能拆装地设置存储卡、HDD等外部存储装置68。
控制部26由运算部4、存储部5、水平驱动部69、高低驱动部70、校平驱动部71、距离数据处理部72、图像数据处理部73等构成。存储部5存储执行测距或高低角与水平角检测所需的序列程序、运算程序、执行测定数据处理的测定数据处理程序、执行图像处理的图像处理程序、用于使数据显示在显示部7中的图像显示程序等各种程序、用于统合管理这些各种程序的统合管理程序等,同时,存储测定数据、图像数据等各种数据。水平驱动部69驱动控制水平角用驱动电机38,高低驱动部70驱动控制高低角用驱动电机65,校平驱动部71驱动控制校平电机34。距离数据处理部72处理由测距部24得到的距离数据,图像数据处理部73处理由摄像部25得到的图像数据。
图28是运算部的框图。运算部4除第1实施方式中说明的图1的构成外,还具备链接形成部75、栅格形成部9。链接形成部75从距离数据处理部72输入距离数据,从水平角检测器44和高低角检测器64输入方向数据(水平角和高低角)。链接形成部75根据输入的距离数据与方向数据,算出以点群数据处理装置1的位置为原点(0,0,0)的各测定点的三维坐标(正交坐标)。例如,若设距离为r,水平角为Φ,高低角为θ,则测定点的三维坐标(x,y,z)由下式5得到。
式5
Figure 33012DEST_PATH_IMAGE005
另外,链接形成部75从图像数据处理部73输入图像数据。链接形成部75形成将图像数据(各测定点的RGB强度)与三维坐标结合的点群数据2。点群数据处理装置1能够取得从不同方向测定的测定对象物的点群数据2。因此,若设一个测定方向为1块,则点群数据2由多个块的二维图像与三维坐标构成。
图29是表示点群数据的二维图像与三维坐标的链接构造的图。图中左侧是二维数据构造,图中右侧为三维数据构造。二维数据由块数(blk)、块尺寸(nx,ny)、变换矩阵(RT)、参照矩阵(IDX)、存储点数(pts)、原图像(rgb,r,g,b,u)、处理图像(nvx,nvy,vnz,fe、mdx,mdy,mdz、crx,cry,crz,crv)、二维边缘的数量(eds)、构成二维边缘的点数(ne)、二维边缘的点列表构成。
块数(blk)表示测定方向的数量,块尺寸(nx,ny)表示1个块中的图像尺寸(纵横像素数)。变换矩阵(RT)表示将第2块以后的点群数据2仿射变换为第1块的坐标系时使用的4×4变换矩阵。参照矩阵(IDX)是用于从某个块的二维图像参照三维坐标(x,y,z)的索引,存储点数(pts)表示1个块内存储的点数。原图像由RGB强度值(rgb,r,g,b)与其亮度(u)构成。
另外,通过第1实施方式中说明的处理,处理图像存储在二维数据中。处理图像由法线矢量的3个轴强度值(nvx,nvy,vnz)、局部平面拟合精度(fe)、将局部区域中的法线矢量的3个轴平均值设为亮度色标(0,255)的(mdx,mdy,mdz)、和将局部区域中的法线矢量的3个轴标准偏差设为亮度色标(0,255)的(crx,cry,crz)、局部区域中的法线矢量的局部曲率(crv)构成。
并且,利用第1实施方式中说明的二维边缘的抽取处理,在二维数据中存储二维边缘的数量(eds)、构成二维边缘的点数(ne)、二维边缘的点列表(ILIST)。可利用二维边缘的点列表来参照各点的RGB强度值与亮度((rgb,r,g,b,u)。
另一方面,三维数据由全点数(n)、三维坐标(x,y,z)、块序号(blk)、图像内的位置(i,j)、处理数据(nvx,nvy,nvz,fe、mdx,mdy,mdz、mnvs,mnvy,mnvz、sdnvx,sdnvy,sdnvz,crv)、内部参照矩阵(IDXPT)构成。
全点数(n)是全部块的合计点数,将全部点坐标变换为第1块的坐标系中的三维坐标(x,y,z)。另外,各点的RGB强度值与亮度((rgb,r,g,b,u)可由块序号(blk)与图像内的位置(i,j)来参照。内部参照矩阵(IDXPT)是用于参照点的标识序号(ptid)的索引。
另外,通过第1实施方式中说明的处理,将处理数据存储在三维数据中。处理数据由法线矢量的3个轴强度值(nvx,nvy,nvz)、局部平面拟合精度(fe)、将局部区域中的法线矢量的3个轴平均值设为亮度色标(0,255)的(mdx,mdy,mdz)、局部区域中的法线矢量的3个轴平均值(mnvs,mnvy,mnvz)、局部区域中的法线矢量的3个轴标准偏差(sdnvx,sdnvy,sdnvz)和局部区域中的法线矢量的局部曲率(crv)构成。
并且,通过第1实施方式中说明的三维边缘的抽取处理,在三维数据中存储三维边缘的数量(eds)、构成三维边缘的点数(ne)、三维边缘的点列表(ELIST)。可利用三维边缘的点列表(ELIST)来参照各点的三维坐标(x,y,z)。
图28中,链接形成部75将以上的点群数据2输出到栅格形成部9。栅格形成部9在点群数据2的邻接点的点间距离不固定的情况下,形成等间隔格栅(网孔),登录距格栅的交点最近的点。或者,格栅形成部9使用线性内插法或双三次 (bicubic)法,在栅格的交点位置补正全部点。另外,在点群数据2的间点距离固定的情况下,可省略格栅形成部9的处理。
下面,说明格栅的形成步骤。图30是表示点间距离不固定的点群数据的图,图31是表示形成的格栅的图。如图30所示,求出各列的平均水平角H1-N,再算出列间的平均水平角的差分ΔHi,j,设该平均为格栅的水平间隔ΔH(式6)。垂直方向的间隔算出与各列中垂直方向邻接点的距离ΔVN,H,将图像尺寸W,H的图像整体中的ΔVN,H的平均设为垂直间隔ΔV(式7)。另外,如图31所示,形成算出的水平间隔ΔH和垂直间隔ΔV的格栅。
式6
Figure 855474DEST_PATH_IMAGE006
式7
Figure 309458DEST_PATH_IMAGE007
接着,登录距形成的格栅的交点最近的点。此时,对从交点至各点的距离设置规定阈值,限制登录。例如,设阈值为水平间隔ΔH和垂直间隔ΔV的1/2。另外,也可如线性内插法或双三次法那样加权对应于与交点的距离的权重后补正全部点。其中,在进行内插的情况下,为原本未测量的点。
图32是在三维空间中表示登录在格栅交点处的点群的附图代用照片,图33是在二维空间中表示登录在格栅交点处的点群的附图代用照片。图33中所示的黑的像素表示点群数据2测定时的数据去除、或格栅的交点限制距离内无近旁点。
(第2实施方式的优越性)
下面说明第2实施方式的优越性。根据第2实施方式,能否利用三维激光扫描仪来取得由二维图像与三维坐标构成的点群数据。另外,因为能够构成结合二维图像与三维坐标的点群数据,所以能够根据三维坐标抽取构成立体的三维边缘,根据二维图像来抽取构成面内图案的二维边缘(色浓度急剧变化的线或点)。由此,同时显示二维边缘与三维边缘,进行抽取或检查(图24)。
另外,在点群数据的点间距离不固定的情况下,因为形成等间隔格栅并登录距格栅的交点最近的点,所以能够补正点群数据的点间距离。
3.第3实施方式
下面,说明具备图像测量装置的点群数据处理装置。对与第1和第2实施方式一样的构成使用相同符号,省略其说明。
(点群数据处理装置的构成)
点群数据处理装置从不同方向,在重复的摄影区域中摄影测定对象物,对应重复图像内的特征点,基于事先求出的摄影部的位置和姿势与重复图像内的特征点的位置,运算特征点的三维坐标。或者,点群数据处理装置根据重复图像中的特征点的视差、测量空间和基准形态,判定误对应点,由此形成点群数据。在点群数据中,结合二维图像与三维坐标。点群数据处理装置还由点群数据来形成由三维边缘与二维边缘构成的三维折线。
图34是表示点群数据处理装置的构成框图。点群数据处理装置1具备摄影部76、77、特征投影部78、图像数据处理部73、运算部4、存储部5、操作部6、显示部7、数据输出部8。摄影部76、77中使用数码相机、摄像机、工业测量用CCD相机(Charge Coupled Device Camera:光电耦合器件相机)、CMOS相机(Complementary Metal Oxide Semiconductor Camera:互补金属氧化物半导体相机)等。摄影部76、77从不同摄影位置在重复的摄影区域中摄影测定对象物。另外,摄影部能够因测定对象物的大小或形状不同而为1个或多个。
特征投影部78中使用投影仪、激光装置等。特征投影部78对测定对象物投影随机点图案、点状光斑光、线性光隙光等图案。由此,在测定对象物的特征缺乏的部分中加入特征。主要用于无图案的中~小型人工物的精密测量的情况下。在通常位于屋外的较大测定对象物的测量、或不必精密测量的情况、或测定对象物中有特征的情况、能够涂布模样的情况下,省略特征投影部78。
图像数据处理部73将摄像部76、77摄影到的重复图像变换为运算部4能够处理的图像数据。存储部5存储测定摄影位置和姿势的程序、从重复图像内抽取特征点后对应的程序、基于摄影位置和姿势与重复图像内的特征点的位置来运算三维坐标的程序、判定误对应点后形成点群数据的程序、从点群数据中抽取面并抽取三维边缘和二维边缘的程序、用于使统合后的边缘显示在显示部7中的图像显示程序等各种程序,同时,存储点群数据或图像数据等各种数据。
操作部6向运算部4输出操作指示信号。显示部7显示运算部4的处理数据,数据输出部8输出运算部4的处理数据。运算部4从图像数据处理部73输入图像数据。运算部4在使用固定的2台以上的相机的情况下,基于校正用被摄体79的摄影图像,测定摄像部76、77的位置和姿势,从测定对象物的重复图像内抽取特征点并建立对应。在使用不固定的1台以上的相机的情况下,通过在各图像上测定数点(6点以上)在2个以上多个摄影图像上摄影的同一对应点,运算部4计算摄像部76、77的位置和姿势,并根据重复图像内的特征点的位置,运算测定对象物的三维坐标,形成点群数据2。运算部4再从点群数据2中抽取面,抽取和统合三维边缘和二维边缘,形成测定对象物的三维折线。
图35是运算部的框图。运算部4除图1的构成外,还具备摄影位置姿势测定部81、特征点对应建立部82、背景去除部83、特征点抽取部84、对应点探索部85、三维坐标运算部86、误对应点判定部87、视差判定部88、空间判定部89、形态判定部90。
摄影位置姿势测定部81在使用固定的2台以上的相机的情况下,从图像数据处理部73输入校正用被摄体79的摄影图像。在校正用被摄体79中以规定间隔粘贴目标80(回顾目标、或代码目标、或彩色代码目标),摄影位置姿势测定部81从校正用被摄体79的摄影图像中检测目标80的图像坐标,使用公知的相互标定法或单照片标定法或DLT(Direct Linear Transformation:直接线性变换)法或束(bundle)调整法,测定摄影部76、77的位置和姿势。另外,相互标定法、单照片标定法或DLT法、束调整(bundle adjustment、光束法平差)法既可单独使用也可组合使用。在使用不固定的1台以上的相机的情况下,通过在各图像上测定数点(6点以上)在2个以上的多个摄影图像上摄影的同一对应点,摄影位置姿势测定部81使用公知的相互标定法或单照片标定法或DLT(Direct Linear Transformation)法或束调整法,测定摄影部76、77的位置和姿势。另外,相互标定法、单照片标定法或DLT法、束调整法既可单独使用也可组合使用。
特征点对应建立部82从图像数据处理部73输入测定对象物的重复图像,从重复图像中抽取测定对象物的特征点并对应。特征点对应建立部82由背景去除部83、特征点抽取部84、对应点探索部85构成。背景去除部26(83)通过从拍摄测定对象物的摄影图像中减去未拍摄测定对象物的背景图像、或操作者利用操作部6来指定想测定的部位、或自动抽取测定部位(利用事先登录的模块或自动检测特征丰富的部位),生成仅拍摄测定对象物的背景去除图像。另外,在不必去除背景的情况下,可省略背景去除部26(83)的处理。
特征点抽取部84从背景去除图像中抽取特征点。在特征点的抽取中,使用索贝尔、拉普拉斯算子、普鲁伊特、罗伯茨(Roberts)等微分滤波器。对应点探索部85在一方图像内探索对应于另一方图像中抽取的特征点的对应点。在对应点的探索中,使用残差逐次检定法(Sequential Similarity Detection Algorithm Method:SSDA)、归一化相关法、方向符号对照法(Orientation Code Matching:OCM)等模板匹配。
三维坐标运算部86根据摄影位置姿势测定部81测定的摄像部76、77的位置和姿势、与特征点对应建立部82对应的特征点的图像坐标,运算各特征点的三维坐标。误对应点判定部87根据视差、测量空间和基准形态的至少一个,判定误对应点。误对应点判定部87由视差判定部88、空间判定部89、形态判定部90构成。
视差判定部88制作重复图像中对应的特征点的视差的直方图,将具有不在距视差平均值规定范围内的视差的特征点判定为误对应点。例如,设平均值±1.5σ(标准偏差)设为阈值。空间判定部89将距校正用被摄体70的重心位置规定距离的空间定义为测量空间,在由三维坐标运算部86运算的特征点的三维坐标超出该测量空间的情况下,将该特征点判定为误对应点。形态判定部90从三维坐标运算部86运算的特征点的三维坐标,形成或输入测定对象物的基准形态(粗面),基于基准形态与特征点的三维坐标的距离,判定误对应点。例如,根据特征点,形成具有规定长度以上边的TIN(Triangulated Irregular Network),并删除边长的TIN,从而形成粗面。接着,根据粗面与特征点的距离,判定误对应点。
形成去除了由误对应点判定部87判定的误对应点后的点群数据2。点群数据2如第2实施方式中说明的那样,具有结合二维图像与三维坐标的直接链接构造。在点群数据2的邻接点的点间距离不固定的情况下,如第2实施方式中说明的那样,运算部4必需在误对应点判定部87与面抽取部10之间具备格栅形成部9。此时,格栅形成部9形成等间隔的格栅(网孔),登录距格栅的交点最近的点。之后,如第1实施方式中说明的那样,从点群数据2中抽取面,抽取和统合三维边缘和二维边缘。
(第3实施方式的优越性)
下面,说明第3实施方式的优越性。根据第3实施方式,能够利用图像测量装置来取得由二维图像与三维坐标构成的点群数据。
4.第4实施方式
下面,说明三维边缘的抽取方法的变形例,即根据标注的面来抽取测定对象物的三维形状的方法的其他实例。对与第1~第3实施方式一样的构成使用相同符号,省略其说明。
图36是表示直线的尖锐的三维边缘的图(A)、表示直线的平滑的三维边缘的图(B)、表示曲线的尖锐的三维边缘的图(C)、与表示曲线的平滑的三维边缘的图(D)。图37是平滑的三维边缘的截面图。
图36(A)和(C)的实线所示的尖锐的三维边缘如图1的三维边缘抽取步骤9说明的那样,作为面彼此的交线(平面与平面、或平面与曲面、或曲面与曲面的交线)来抽取。另一方面,图36(B)和(D)的虚线所示的平滑的三维边缘如图37所示,图1的面抽取步骤S10中抽取的面91和面92的交线构成虚拟的三维边缘93。因此,也可求出接触面91和面92、且具有不在面91和面92上的点的圆柱94的方程式,由圆柱94的半径来求出真正的三维边缘95。
(第4实施方式的优越性)
下面,说明第4实施方式的优越性。根据第4实施方式,能够对应于三维边缘的种类来高精度地抽取三维边缘。
产业上的可利用性
本发明能够用于根据测定对象物的点群数据来生成测定对象物的三维形状数据的技术。
权利要求书(按照条约第19条的修改)
1.一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取部,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;
二维边缘抽取部,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合部,统合所述三维边缘与所述二维边缘。
2.根据权利要求1所述的点群数据处理装置,其特征在于,
还具备法线算出部,求出以所述点群数据的各点为中心的局部平面,算出所述局部平面的法线。
3.根据权利要求2所述的点群数据处理装置,其特征在于,
还具备局部曲率算出部,通过求出所述法线的3个轴分量的标准偏差,得到所述标准偏差的平方和的平方根,从而算出局部曲率。
4.根据权利要求3所述的点群数据处理装置,其特征在于,
所述非面去除部基于所述局部曲率,去除非面区域的点。
5.根据权利要求2所述的点群数据处理装置,其特征在于,
所述非面去除部基于所述局部平面的拟合精度,去除非面区域的点。
6.根据权利要求2所述的点群数据处理装置,其特征在于,
所述非面去除部基于注目点与邻接点上的共平面性,去除非面区域的点。
7.根据权利要求2所述的点群数据处理装置,其特征在于,
所述面标注部基于注目点与邻接点上的所述法线的角度差,将同一标签赋予同一面上的点。
8.根据权利要求1所述的点群数据处理装置,其特征在于,
还具备噪音去除部,基于由所述面标注部区分的面的面积,去除噪音。
9.根据权利要求1所述的点群数据处理装置,其特征在于,
还具备标签扩展部,对未由所述面标注部赋予标签的点,赋予最近旁面的标签,扩展所述标签。
10.根据权利要求1所述的点群数据处理装置,其特征在于,
所述点群数据是将各点的三维坐标与二维图像结合的数据。
11.根据权利要求10所述的点群数据处理装置,其特征在于,
所述二维边缘抽取部从与由所述面标注部区分的面对应的所述二维图像的区域内,抽取二维边缘。
12.根据权利要求10所述的点群数据处理装置,其特征在于,
所述二维边缘抽取部从与由所述面标注部区分的面对应的所述二维图像的区域内,抽取二维边缘,基于位于所述二维边缘近旁的三维边缘的三维位置,判定所述二维边缘。
13.根据权利要求1所述的点群数据处理装置,其特征在于,还具备:
旋转照射部,对测定对象物旋转照射测距光;
测距部,基于所述测距光的飞行时间,对从自身位置至测定对象物上的测定点的距离进行测距;
照射方向检测部,检测所述测距光的照射方向;和
三维坐标运算部,基于所述距离和所述照射方向,运算所述测定点的三维坐标。
14.根据权利要求1所述的点群数据处理装置,其特征在于,
还具备栅格形成部,在所述点群数据的点间距离不固定的情况下,形成等间隔栅格,登录距所述栅格的交点最近的点。
15.根据权利要求13所述的点群数据处理装置,其特征在于,还具备:
摄像部,对所述测定对象物进行摄像,取得二维图像;和
链接形成部,形成将所述测定点的三维坐标与所述二维图像结合的点群数据。
16.根据权利要求1所述的点群数据处理装置,其特征在于,还具备:
摄影部,从不同方向在重复的摄影区域中对测定对象物进行摄影;
特征点对应建立部,对由所述摄影部得到的重复图像内的特征点建立对应;
摄影位置姿势测定部,测定所述摄影部的位置和姿势;和
三维坐标运算部,基于所述摄影部的位置和姿势与所述重复图像内的特征点的位置,运算特征点的三维坐标。
17.一种点群数据处理程序,其特征在于,使计算机执行以下步骤:
非面去除步骤,从测定对象物的点群数据中去除非面区域的点;
面标注步骤,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取步骤,基于由所述面标注部区分的面彼此的交线和呈凸状将围包围的凸包线的至少一个,抽取三维边缘;
二维边缘抽取步骤,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合步骤,统合所述三维边缘与所述二维边缘。
18.一种点群数据处理方法,其特征在于,具备:
非面去除步骤,从测定对象物的点群数据中去除非面区域的点;
面标注步骤,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取步骤,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;
二维边缘抽取步骤,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合步骤,统合所述三维边缘与所述二维边缘。
19.一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取部,抽取由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,作为三维边缘;
二维边缘抽取部,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合部,统合所述三维边缘与所述二维边缘。
20.一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维轮廓抽取部,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取所述测定对象物的三维轮廓;
二维轮廓抽取部,从由所述面标注部区分的面内抽取二维轮廓;和
轮廓统合部,统合所述三维轮廓与所述二维轮廓。

Claims (21)

1. 一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取部,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;
二维边缘抽取部,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合部,统合所述三维边缘与所述二维边缘。
2. 根据权利要求1所述的点群数据处理装置,其特征在于,
还具备法线算出部,求出以所述点群数据的各点为中心的局部平面,算出所述局部平面的法线。
3. 根据权利要求2所述的点群数据处理装置,其特征在于,
还具备局部曲率算出部,通过求出所述法线的3个轴分量的标准偏差,得到所述标准偏差的平方和的平方根,从而算出局部曲率。
4. 根据权利要求3所述的点群数据处理装置,其特征在于,
所述非面去除部基于所述局部曲率,去除非面区域的点。
5. 根据权利要求2所述的点群数据处理装置,其特征在于,
所述非面去除部基于所述局部平面的拟合精度,去除非面区域的点。
6. 根据权利要求2所述的点群数据处理装置,其特征在于,
所述非面去除部基于注目点与邻接点上的共平面性,去除非面区域的点。
7. 根据权利要求2所述的点群数据处理装置,其特征在于,
所述面标注部基于注目点与邻接点上的所述法线的角度差,将同一标签赋予同一面上的点。
8. 根据权利要求1所述的点群数据处理装置,其特征在于,
还具备噪音去除部,基于由所述面标注部区分的面的面积,去除噪音。
9. 根据权利要求1所述的点群数据处理装置,其特征在于,
还具备标签扩展部,对未由所述面标注部赋予标签的点,赋予最近旁面的标签,扩展所述标签。
10. 根据权利要求1所述的点群数据处理装置,其特征在于,
所述点群数据是将各点的三维坐标与二维图像结合的数据。
11. 根据权利要求10所述的点群数据处理装置,其特征在于,
所述二维边缘抽取部从与由所述面标注部区分的面对应的所述二维图像的区域内,抽取二维边缘。
12. 根据权利要求10所述的点群数据处理装置,其特征在于,
所述二维边缘抽取部从与由所述面标注部区分的面对应的所述二维图像的区域内,抽取二维边缘,基于位于所述二维边缘近旁的三维边缘的三维位置,判定所述二维边缘。
13. 根据权利要求1所述的点群数据处理装置,其特征在于,还具备:
旋转照射部,对测定对象物旋转照射测距光;
测距部,基于所述测距光的飞行时间,对从自身位置至测定对象物上的测定点的距离进行测距;
照射方向检测部,检测所述测距光的照射方向;和
三维坐标运算部,基于所述距离和所述照射方向,运算所述测定点的三维坐标。
14. 根据权利要求1所述的点群数据处理装置,其特征在于,
还具备栅格形成部,在所述点群数据的点间距离不固定的情况下,形成等间隔栅格,登录距所述栅格的交点最近的点。
15. 根据权利要求13所述的点群数据处理装置,其特征在于,还具备:
摄像部,对所述测定对象物进行摄像,取得二维图像;和
链接形成部,形成将所述测定点的三维坐标与所述二维图像结合的点群数据。
16. 根据权利要求1所述的点群数据处理装置,其特征在于,还具备:
摄影部,从不同方向在重复的摄影区域中对测定对象物进行摄影;
特征点对应建立部,对由所述摄影部得到的重复图像内的特征点建立对应;
摄影位置姿势测定部,测定所述摄影部的位置和姿势;和
三维坐标运算部,基于所述摄影部的位置和姿势与所述重复图像内的特征点的位置,运算特征点的三维坐标。
17. 一种点群数据处理程序,其特征在于,使计算机执行以下步骤:
非面去除步骤,从测定对象物的点群数据中去除非面区域的点;
面标注步骤,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取步骤,基于由所述面标注部区分的面彼此的交线和呈凸状将围包围的凸包线的至少一个,抽取三维边缘;
二维边缘抽取步骤,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合步骤,统合所述三维边缘与所述二维边缘。
18. 一种点群数据处理方法,其特征在于,具备:
非面去除步骤,从测定对象物的点群数据中去除非面区域的点;
面标注步骤,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取步骤,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取三维边缘;
二维边缘抽取步骤,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合步骤,统合所述三维边缘与所述二维边缘。
19. 一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维边缘抽取部,抽取由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,作为三维边缘;
二维边缘抽取部,从由所述面标注部区分的面内抽取二维边缘;和
边缘统合部,统合所述三维边缘与所述二维边缘。
20. 一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面标注部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点;
三维轮廓抽取部,基于由所述面标注部区分的面彼此的交线和呈凸状将面包围的凸包线的至少一个,抽取所述测定对象物的三维轮廓;
二维轮廓抽取部,从由所述面标注部区分的面内抽取二维轮廓;和
轮廓统合部,统合所述三维轮廓与所述二维轮廓。
21. 一种点群数据处理装置,其特征在于,具备:
非面去除部,从测定对象物的点群数据中去除非面区域的点;
面抽取部,对由所述非面去除部去除的点以外的点,将同一标签赋予同一面上的点,抽取构成所述测定对象物的多个面;和
三维形状抽取部,基于所述面抽取部中抽取的所述多个面,抽取所述测定对象物的三维形状。
CN201080056247.5A 2009-12-11 2010-11-19 点群数据处理装置、点群数据处理方法和点群数据处理程序 Pending CN102713671A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009281883 2009-12-11
JP2009-281883 2009-12-11
PCT/JP2010/071188 WO2011070927A1 (ja) 2009-12-11 2010-11-19 点群データ処理装置、点群データ処理方法、および点群データ処理プログラム

Publications (1)

Publication Number Publication Date
CN102713671A true CN102713671A (zh) 2012-10-03

Family

ID=44145474

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080056247.5A Pending CN102713671A (zh) 2009-12-11 2010-11-19 点群数据处理装置、点群数据处理方法和点群数据处理程序

Country Status (5)

Country Link
US (1) US9207069B2 (zh)
JP (1) JP5480914B2 (zh)
CN (1) CN102713671A (zh)
DE (1) DE112010004767T5 (zh)
WO (1) WO2011070927A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103196392A (zh) * 2013-04-17 2013-07-10 武汉武大卓越科技有限责任公司 基于cameralink相机的三维断面采集测量系统与方法
CN104252153A (zh) * 2013-06-28 2014-12-31 鸿富锦精密工业(深圳)有限公司 Cnc加工程序生成系统及方法
CN106023096A (zh) * 2016-05-10 2016-10-12 上海交通大学 消除边缘锯齿化影响的图像匹配方法
CN107962549A (zh) * 2016-10-20 2018-04-27 因特利格雷特总部有限责任公司 用于机器人纸箱卸载的3d-2d视觉系统
CN108024778A (zh) * 2015-09-11 2018-05-11 国立研究开发法人科学技术振兴机构 结构推定装置、结构推定方法以及程序
CN110476037A (zh) * 2017-04-03 2019-11-19 富士通株式会社 距离信息处理装置、距离信息处理方法以及距离信息处理程序
CN110573901A (zh) * 2017-04-28 2019-12-13 深圳市大疆创新科技有限公司 激光传感器和视觉传感器的校准
CN110573908A (zh) * 2017-02-15 2019-12-13 丰田自动车株式会社 点群数据处理装置、方法和程序、车辆控制装置以及车辆
CN112132840A (zh) * 2020-09-01 2020-12-25 济南市房产测绘研究院(济南市房屋安全检测鉴定中心) 一种车载行道树点云分类与特征信息提取方法
CN113165641A (zh) * 2018-08-29 2021-07-23 佛吉亚歌乐电子有限公司 车载处理装置
US20210287356A1 (en) * 2020-03-10 2021-09-16 Nec Corporation Abnormal part display apparatus, abnormal part display system, abnormal part display method, and abnormal part display program
CN113838114A (zh) * 2021-09-22 2021-12-24 中南大学 一种基于边缘散焦追踪的高炉料面深度估计方法及系统
CN114310872A (zh) * 2021-11-29 2022-04-12 杭州电子科技大学 一种基于dgg点云分割网络的机械臂自动打菜方法

Families Citing this family (99)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9189862B2 (en) * 2010-06-10 2015-11-17 Autodesk, Inc. Outline approximation for point cloud of building
JP5067450B2 (ja) * 2010-06-29 2012-11-07 カシオ計算機株式会社 撮影装置、撮影装置の制御装置、撮影装置の制御プログラム、及び撮影装置の制御方法
WO2012141235A1 (ja) 2011-04-13 2012-10-18 株式会社トプコン 三次元点群位置データ処理装置、三次元点群位置データ処理システム、三次元点群位置データ処理方法およびプログラム
KR101907081B1 (ko) * 2011-08-22 2018-10-11 삼성전자주식회사 3차원 점군의 물체 분리 방법
KR101901588B1 (ko) * 2012-01-02 2018-09-28 삼성전자주식회사 물체 인식 방법과, 물체 인식을 위한 기술자 생성 방법, 물체 인식을 위한 기술자 생성 장치
CN103368901A (zh) * 2012-03-27 2013-10-23 复旦大学 基于大规模离散数据的云计算系统
US20140123507A1 (en) * 2012-11-02 2014-05-08 Qualcomm Incorporated Reference coordinate system determination
US10079968B2 (en) 2012-12-01 2018-09-18 Qualcomm Incorporated Camera having additional functionality based on connectivity with a host device
CN103903297B (zh) * 2012-12-27 2016-12-28 同方威视技术股份有限公司 三维数据处理和识别方法
US9530225B1 (en) * 2013-03-11 2016-12-27 Exelis, Inc. Point cloud data processing for scalable compression
JP5921469B2 (ja) * 2013-03-11 2016-05-24 株式会社東芝 情報処理装置、クラウドプラットフォーム、情報処理方法およびそのプログラム
DE102013108713B8 (de) * 2013-08-12 2016-10-13 WebID Solutions GmbH Verfahren zum Verifizieren der ldentität eines Nutzers
CN104574282B (zh) * 2013-10-22 2019-06-07 鸿富锦精密工业(深圳)有限公司 点云噪声点去除系统及方法
US9098754B1 (en) * 2014-04-25 2015-08-04 Google Inc. Methods and systems for object detection using laser point clouds
JP6590653B2 (ja) * 2014-11-19 2019-10-16 首都高技術株式会社 点群データ利用システム
WO2016084389A1 (ja) 2014-11-28 2016-06-02 パナソニックIpマネジメント株式会社 モデリング装置、3次元モデル生成装置、モデリング方法、プログラム
JP6248228B2 (ja) * 2015-02-18 2017-12-13 株式会社日立製作所 図面作成システム及び図面作成方法
US10268740B2 (en) 2015-10-14 2019-04-23 Tharmalingam Satkunarajah 3D analytics actionable solution support system and apparatus
US10557942B2 (en) * 2016-06-07 2020-02-11 DSCG Solutions, Inc. Estimation of motion using LIDAR
JP6771994B2 (ja) 2016-08-17 2020-10-21 株式会社トプコン 測定方法及びレーザスキャナ
US10066946B2 (en) 2016-08-26 2018-09-04 Here Global B.V. Automatic localization geometry detection
JP2018045587A (ja) 2016-09-16 2018-03-22 株式会社トプコン 画像処理装置、画像処理方法、画像処理用プログラム
JP6868992B2 (ja) 2016-09-27 2021-05-12 株式会社トプコン 画像処理装置、画像処理方法および画像処理用プログラム
CN106643578B (zh) * 2016-09-30 2018-12-21 信阳师范学院 一种基于点云数据的树干横断面轮廓曲线的断面积计算方法
US10657665B2 (en) * 2016-12-07 2020-05-19 Electronics And Telecommunications Research Institute Apparatus and method for generating three-dimensional information
KR20180065135A (ko) 2016-12-07 2018-06-18 삼성전자주식회사 셀프 구조 분석을 이용한 구조 잡음 감소 방법 및 장치
JP6910820B2 (ja) 2017-03-02 2021-07-28 株式会社トプコン 点群データ処理装置、点群データ処理方法、点群データ処理用プログラム
EP3602121A4 (en) 2017-03-29 2021-05-12 SZ DJI Technology Co., Ltd. CIRCUIT FOR PROCESSING LIGHT DETECTION AND DISTANCE MEASUREMENT (LIDAR) SIGNALS
CN110199204A (zh) 2017-03-29 2019-09-03 深圳市大疆创新科技有限公司 具有小形状因子的激光雷达传感器系统
EP3602749A4 (en) 2017-03-29 2020-03-25 SZ DJI Technology Co., Ltd. HOLLOW MOTOR APPARATUSES AND RELATED SYSTEMS AND METHODS
CN106931883B (zh) * 2017-03-30 2019-01-18 信阳师范学院 一种基于激光点云数据的树干材积获取方法
EP3615979A4 (en) 2017-04-28 2020-03-25 SZ DJI Technology Co., Ltd. ANGLE CALIBRATION IN A LIGHT DETECTION AND DISTANCE MEASURING SYSTEM
WO2018195986A1 (en) 2017-04-28 2018-11-01 SZ DJI Technology Co., Ltd. Calibration of laser sensors
CN107274422A (zh) * 2017-05-08 2017-10-20 燕山大学 一种基于法线信息和k邻域搜索结合的点云边缘提取方法
KR101858902B1 (ko) * 2017-06-26 2018-05-16 한국도로공사 컴포넌트를 활용한 점군 데이터의 객체 위치정보 추출 시스템
JP6861592B2 (ja) * 2017-07-14 2021-04-21 三菱電機株式会社 データ間引き装置、測量装置、測量システム及びデータ間引き方法
EP3455645A4 (en) 2017-07-20 2019-04-24 SZ DJI Technology Co., Ltd. SYSTEMS AND METHOD FOR OPTICAL SPACING MEASUREMENT
WO2019023892A1 (en) 2017-07-31 2019-02-07 SZ DJI Technology Co., Ltd. MOTION-BASED IMPRESSION CORRECTION IN POINT CLOUDS
JP6888216B2 (ja) 2017-08-31 2021-06-16 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 物体までの距離を測定するための装置および方法
JP7037302B2 (ja) 2017-09-06 2022-03-16 株式会社トプコン 測量データ処理装置、測量データ処理方法および測量データ処理用プログラム
JP7025156B2 (ja) 2017-09-19 2022-02-24 株式会社トプコン データ処理装置、データ処理方法およびデータ処理用プログラム
CN109697728B (zh) * 2017-10-20 2023-04-25 阿里巴巴集团控股有限公司 数据处理方法、装置、系统和存储介质
JP6874855B2 (ja) * 2017-11-06 2021-05-19 富士通株式会社 算出方法、算出プログラムおよび情報処理装置
US10989795B2 (en) * 2017-11-21 2021-04-27 Faro Technologies, Inc. System for surface analysis and method thereof
TWI815842B (zh) * 2018-01-16 2023-09-21 日商索尼股份有限公司 影像處理裝置及方法
JP2019128641A (ja) * 2018-01-22 2019-08-01 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP7043283B2 (ja) 2018-02-14 2022-03-29 株式会社トプコン 無人航空機の設置台、測量方法、測量装置、測量システムおよびプログラム
JP6992597B2 (ja) 2018-02-28 2022-01-13 富士通株式会社 流水位置検出装置、流水位置検出方法および流水位置検出プログラム
US11093759B2 (en) * 2018-03-06 2021-08-17 Here Global B.V. Automatic identification of roadside objects for localization
US10657388B2 (en) * 2018-03-13 2020-05-19 Honda Motor Co., Ltd. Robust simultaneous localization and mapping via removal of dynamic traffic participants
JP7133971B2 (ja) * 2018-04-27 2022-09-09 清水建設株式会社 3次元モデル生成装置及び3次元モデル生成方法
CN108830931B (zh) * 2018-05-23 2022-07-01 上海电力学院 一种基于动态网格k邻域搜索的激光点云精简方法
CN109118500B (zh) * 2018-07-16 2022-05-10 重庆大学产业技术研究院 一种基于图像的三维激光扫描点云数据的分割方法
US10877155B2 (en) 2018-09-25 2020-12-29 Topcon Corporation Survey data processing device, survey data processing method, and survey data processing program
US11200430B2 (en) * 2018-11-05 2021-12-14 Tusimple, Inc. Systems and methods for detecting trailer angle
CN109816664B (zh) * 2018-12-25 2023-05-09 西安中科天塔科技股份有限公司 一种三维点云分割方法及装置
SG11202108913UA (en) * 2019-02-18 2021-09-29 Rnvtech Ltd High resolution 3d display
US11049282B2 (en) * 2019-02-28 2021-06-29 Intelligrated Headquarters, Llc Vision calibration system for robotic carton unloading
CN110009745B (zh) * 2019-03-08 2023-01-06 浙江中海达空间信息技术有限公司 根据平面基元和模型驱动对点云提取平面的方法
JP6763992B2 (ja) * 2019-03-26 2020-09-30 株式会社デンソー ノイズ除去方法および物体認識装置
DE102019114572B3 (de) * 2019-05-29 2020-10-01 Technische Universität München Verfahren und system zur dreidimensionalen erfassung einer szene
CN110780307B (zh) * 2019-05-29 2023-03-31 武汉星源云意科技有限公司 基于电瓶车车载式激光点云移动测量系统获取道路横断面的方法
JP7242431B2 (ja) 2019-05-31 2023-03-20 公益財団法人かずさDna研究所 三次元計測装置、三次元計測方法および三次元計測用プログラム
US11288814B2 (en) * 2019-07-15 2022-03-29 Mujin, Inc. System and method of object detection based on image data
CN110443875B (zh) * 2019-07-25 2022-11-29 广州启量信息科技有限公司 一种基于建筑点云数据的轴线自动绘制系统
JP7313955B2 (ja) 2019-07-30 2023-07-25 株式会社トプコン 測量装置、測量方法および測量用プログラム
CN110473223B (zh) * 2019-08-15 2023-05-05 西南交通大学 基于接触网腕臂系统三维点云的二维图像辅助分割方法
JP7300930B2 (ja) 2019-08-26 2023-06-30 株式会社トプコン 測量データ処理装置、測量データ処理方法および測量データ処理用プログラム
JP7313998B2 (ja) * 2019-09-18 2023-07-25 株式会社トプコン 測量データ処理装置、測量データ処理方法および測量データ処理用プログラム
US10614340B1 (en) 2019-09-23 2020-04-07 Mujin, Inc. Method and computing system for object identification
JP6726417B1 (ja) * 2019-09-24 2020-07-22 株式会社PocketRD 特徴抽出装置、特徴抽出方法及びコンテンツ利用管理装置
CN110796671B (zh) * 2019-10-31 2022-08-26 深圳市商汤科技有限公司 数据处理方法及相关装置
CN112016570B (zh) * 2019-12-12 2023-12-26 天目爱视(北京)科技有限公司 用于背景板同步旋转采集中的三维模型生成方法
CN111127312B (zh) * 2019-12-25 2023-08-22 武汉理工大学 一种复杂物体点云提取圆的方法及扫描装置
CN111025331B (zh) * 2019-12-25 2023-05-23 湖北省空间规划研究院 一种基于旋转结构的激光雷达建图方法及其扫描系统
US20230051312A1 (en) * 2020-01-17 2023-02-16 Hewlett-Packard Development Company, L.P. Displacement maps
WO2021152340A1 (ja) * 2020-01-31 2021-08-05 日産自動車株式会社 物体認識方法及び物体認識装置
CN113297340B (zh) * 2020-02-23 2023-12-19 北京初速度科技有限公司 点云地图的矢量化、矢量地图转化点云地图的方法和装置
US11354547B2 (en) 2020-03-31 2022-06-07 Toyota Research Institute, Inc. Systems and methods for clustering using a smart grid
CN111666137B (zh) * 2020-04-26 2022-04-05 广州文远知行科技有限公司 数据标注方法、装置、计算机设备和存储介质
CN112308907B (zh) * 2020-05-18 2024-05-24 南京韦博智控科技有限公司 用飞行器对坡体进行近景摄影测量的航线规划方法
CN111710023B (zh) * 2020-06-16 2024-05-24 武汉称象科技有限公司 一种三维点云数据特征点提取方法及应用
JP2022023592A (ja) 2020-07-27 2022-02-08 株式会社トプコン 測量システム、測量方法および測量用プログラム
CN111898684A (zh) * 2020-07-31 2020-11-06 陈艳 一种基于多维点云数据的生物种属鉴别方法
CN112767319A (zh) * 2020-12-30 2021-05-07 无锡祥生医疗科技股份有限公司 基于点云数据分割的乳腺超声成像方法、装置及存储介质
CN113066162B (zh) * 2021-03-12 2022-04-29 武汉大学 一种用于电磁计算的城市环境快速建模方法
US20240157652A1 (en) * 2021-03-24 2024-05-16 Hewlett-Packard Development Company, L.P. Triangulation-based anomaly detection in three dimensional printers
CN113487180B (zh) * 2021-07-05 2023-03-24 河南理工大学 一种基于云平台的齿轮齿面评价方法
JP2023022517A (ja) * 2021-08-03 2023-02-15 株式会社東芝 計測システム及び計測プログラム
CN113420735B (zh) * 2021-08-23 2021-12-21 深圳市信润富联数字科技有限公司 一种轮廓提取方法、装置、设备及存储介质
CN113805179B (zh) * 2021-08-30 2024-03-08 南京航空航天大学 一种机载气象雷达目标的三维建模方法
US11928824B2 (en) * 2021-09-13 2024-03-12 International Business Machines Corporation Three-dimensional segmentation annotation
KR20230069670A (ko) 2021-11-12 2023-05-19 고려대학교 산학협력단 측정센서의 위치를 추정하는 장치 및 그 방법
CN114494609B (zh) * 2022-04-02 2022-09-06 中国科学技术大学 一种3d目标检测模型的构建方法、装置和电子设备
CN115239625B (zh) * 2022-06-21 2023-05-09 厦门微图软件科技有限公司 顶盖焊点云缺陷检测方法、装置、设备及存储介质
CN114859374B (zh) * 2022-07-11 2022-09-09 中国铁路设计集团有限公司 基于无人机激光点云和影像融合的新建铁路交叉测量方法
CN115984801A (zh) * 2023-03-07 2023-04-18 安徽蔚来智驾科技有限公司 点云目标检测方法、计算机设备、存储介质及车辆
CN117268498B (zh) * 2023-11-20 2024-01-23 中国航空工业集团公司金城南京机电液压工程研究中心 一种油量测量方法及系统
CN117274995B (zh) * 2023-11-22 2024-02-13 北京科技大学 基于点云数据的二维泡沫图像标签自动生成方法和装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5988862A (en) 1996-04-24 1999-11-23 Cyra Technologies, Inc. Integrated system for quickly and accurately imaging and modeling three dimensional objects
JP2004272459A (ja) 2003-03-06 2004-09-30 Cad Center:Kk 三次元形状の自動生成装置、自動生成方法、そのプログラム、及びそのプログラムを記録した記録媒体
JP4427656B2 (ja) 2003-07-01 2010-03-10 学校法人東京電機大学 測量データの処理方法
US20050140670A1 (en) * 2003-11-20 2005-06-30 Hong Wu Photogrammetric reconstruction of free-form objects with curvilinear structures
JP2006085333A (ja) * 2004-09-15 2006-03-30 Armonicos:Kk 非接触測定点群リバースシステム、非接触測定点群リバースエンジニアリング方法及びそのプログラム
US7944561B2 (en) * 2005-04-25 2011-05-17 X-Rite, Inc. Measuring an appearance property of a surface using a bidirectional reflectance distribution function
JP4344869B2 (ja) * 2007-02-16 2009-10-14 三菱電機株式会社 計測装置
US8179393B2 (en) * 2009-02-13 2012-05-15 Harris Corporation Fusion of a 2D electro-optical image and 3D point cloud data for scene interpretation and registration performance assessment

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103196392A (zh) * 2013-04-17 2013-07-10 武汉武大卓越科技有限责任公司 基于cameralink相机的三维断面采集测量系统与方法
CN104252153A (zh) * 2013-06-28 2014-12-31 鸿富锦精密工业(深圳)有限公司 Cnc加工程序生成系统及方法
CN108024778A (zh) * 2015-09-11 2018-05-11 国立研究开发法人科学技术振兴机构 结构推定装置、结构推定方法以及程序
CN106023096A (zh) * 2016-05-10 2016-10-12 上海交通大学 消除边缘锯齿化影响的图像匹配方法
CN106023096B (zh) * 2016-05-10 2019-02-22 上海交通大学 消除边缘锯齿化影响的图像匹配方法
CN107962549A (zh) * 2016-10-20 2018-04-27 因特利格雷特总部有限责任公司 用于机器人纸箱卸载的3d-2d视觉系统
CN110573908A (zh) * 2017-02-15 2019-12-13 丰田自动车株式会社 点群数据处理装置、方法和程序、车辆控制装置以及车辆
CN110573908B (zh) * 2017-02-15 2022-10-28 丰田自动车株式会社 点群数据处理装置、方法和程序、车辆控制装置以及车辆
CN110476037A (zh) * 2017-04-03 2019-11-19 富士通株式会社 距离信息处理装置、距离信息处理方法以及距离信息处理程序
CN110573901A (zh) * 2017-04-28 2019-12-13 深圳市大疆创新科技有限公司 激光传感器和视觉传感器的校准
CN113165641A (zh) * 2018-08-29 2021-07-23 佛吉亚歌乐电子有限公司 车载处理装置
US20210287356A1 (en) * 2020-03-10 2021-09-16 Nec Corporation Abnormal part display apparatus, abnormal part display system, abnormal part display method, and abnormal part display program
US11869179B2 (en) * 2020-03-10 2024-01-09 Nec Corporation Abnormal part display apparatus, abnormal part display system, abnormal part display method, and abnormal part display program
CN112132840A (zh) * 2020-09-01 2020-12-25 济南市房产测绘研究院(济南市房屋安全检测鉴定中心) 一种车载行道树点云分类与特征信息提取方法
CN112132840B (zh) * 2020-09-01 2023-11-07 济南市房产测绘研究院(济南市房屋安全检测鉴定中心) 一种车载行道树点云分类与特征信息提取方法
CN113838114A (zh) * 2021-09-22 2021-12-24 中南大学 一种基于边缘散焦追踪的高炉料面深度估计方法及系统
CN113838114B (zh) * 2021-09-22 2023-08-29 中南大学 一种基于边缘散焦追踪的高炉料面深度估计方法及系统
CN114310872A (zh) * 2021-11-29 2022-04-12 杭州电子科技大学 一种基于dgg点云分割网络的机械臂自动打菜方法
CN114310872B (zh) * 2021-11-29 2023-08-22 杭州电子科技大学 一种基于dgg点云分割网络的机械臂自动打菜方法

Also Published As

Publication number Publication date
WO2011070927A1 (ja) 2011-06-16
US9207069B2 (en) 2015-12-08
US20120256916A1 (en) 2012-10-11
JPWO2011070927A1 (ja) 2013-04-22
WO2011070927A8 (ja) 2012-06-07
DE112010004767T5 (de) 2013-01-24
JP5480914B2 (ja) 2014-04-23

Similar Documents

Publication Publication Date Title
CN102713671A (zh) 点群数据处理装置、点群数据处理方法和点群数据处理程序
CN102959355B (zh) 点群数据处理装置、点群数据处理系统、点群数据处理方法及点群数据处理程序
EP3006893B1 (en) Methods for improving the accuracy of dimensioning-system measurements
US10482621B2 (en) System and method for improved scoring of 3D poses and spurious point removal in 3D image data
US20180322623A1 (en) Systems and methods for inspection and defect detection using 3-d scanning
Wöhler 3D computer vision: efficient methods and applications
EP3742113B1 (en) System and method for marking images for three-dimensional image generation
CN106052646B (zh) 信息处理装置及信息处理方法
JP7037876B2 (ja) 自動工業検査における3dビジョンの使用
EP3497618B1 (en) Independently processing plurality of regions of interest
US20140168367A1 (en) Calibrating visual sensors using homography operators
CN103562934B (zh) 脸部位置检测
JP2017003525A (ja) 三次元計測装置
Ahmadabadian et al. Stereo‐imaging network design for precise and dense 3D reconstruction
JP5976089B2 (ja) 位置姿勢計測装置、位置姿勢計測方法、およびプログラム
US11450140B2 (en) Independently processing plurality of regions of interest
CN110288040A (zh) 一种基于拓扑验证的图像相似评判方法及设备
KR20230171859A (ko) 사물 식별 장치 및 이를 이용한 입체 영상 생성 방법
Doan et al. A low-cost digital 3d insect scanner
Toschi et al. Improving automated 3D reconstruction methods via vision metrology
Santo et al. Light structure from pin motion: Simple and accurate point light calibration for physics-based modeling
WO2023277906A1 (en) Synthetic images for machine learning
KR101775110B1 (ko) 고품질 텍스처 획득 방법 및 이를 위한 장치
Kainz et al. Estimation of camera intrinsic matrix parameters and its utilization in the extraction of dimensional units
do Rosário Vong Digital Multispectral Map Reconstruction Using Aerial Imagery

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20121003