CN111127556A - 基于3d视觉的目标物体识别和位姿估算方法以及装置 - Google Patents

基于3d视觉的目标物体识别和位姿估算方法以及装置 Download PDF

Info

Publication number
CN111127556A
CN111127556A CN201911196731.7A CN201911196731A CN111127556A CN 111127556 A CN111127556 A CN 111127556A CN 201911196731 A CN201911196731 A CN 201911196731A CN 111127556 A CN111127556 A CN 111127556A
Authority
CN
China
Prior art keywords
target object
point cloud
pose
suspected
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911196731.7A
Other languages
English (en)
Other versions
CN111127556B (zh
Inventor
刘彤
游敏
王星泽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Helin Technology Shanghai Co Ltd
Original Assignee
Helin Technology Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Helin Technology Shanghai Co Ltd filed Critical Helin Technology Shanghai Co Ltd
Priority to CN201911196731.7A priority Critical patent/CN111127556B/zh
Publication of CN111127556A publication Critical patent/CN111127556A/zh
Application granted granted Critical
Publication of CN111127556B publication Critical patent/CN111127556B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明公开了一种基于3D视觉的目标物体识别和位姿估算方法及装置。其中,所述方法包括:利用3D视觉模块对目标物体群采集第一点云图;对所述第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,其中,所述第二点云图为预先获取的单个目标物体的三维特征点云图;将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿。本发明的基于3D视觉的目标物体识别和位姿估算方法及装置能够快速准确地对无序堆放的物体群进行目标物体识别并估算位姿。

Description

基于3D视觉的目标物体识别和位姿估算方法以及装置
技术领域
本发明涉及机器视觉技术领域,尤其涉及一种基于3D视觉的目标物体识别和位姿估算方法以及装置。
背景技术
随着机器视觉技术的发展,机器视觉技术逐渐应用到工业场景中。传统的机器视觉技术通常应用在平面结构目标物体的识别和位姿估算场景中,难以对三维结构复杂的目标物体进行精确且快速的识别和位姿估算。
为了对三维结构复杂的目标物体进行精确且快速的识别和位姿估算,进而扩大机器视觉技术的应用范围,从而提升工业场景的自动化与智能化水平,一些结合三维视觉技术与前沿算法的解决方案的研究活跃在各研究机构和企事业单位内。例如,授权公告号为CN104596502B的中国发明专利就公开了一种基于CAD模型与单目视觉的物体位姿测量方法,该方法通过模板拍摄摄像机运动假设和迭代计算得到假设运动的模板拍摄摄像机与固定摄像机之间的运动关系,得到假设运动的模板拍摄摄像机和固定摄像机组成的双目系统外参数后,对目标进行三维重建,得到目标的三维点云数据,并与包含物体三维结构信息的CAD模型进行配准,得到当前世界坐标系下目标物体位姿与CAD模型的对应关系,准确计算出目标物体的位姿。
然而,在工业场景的实际应用过程中,机器视觉系统面对的往往是大量杂乱无序的目标物体所构成的目标物体群,单个目标物体之间存在相互堆叠掩盖以及摆放形态各异等特点,现有的技术方案难以精确快速地进行物体识别和位姿估算。
发明内容
本发明提供了一种基于3D视觉的目标物体识别和位姿估算方法以及装置,能够快速准确地对无序堆放的物体群进行目标物体识别并估算位姿。
第一方面,本发明提供了一种基于3D视觉的目标物体识别和位姿估算方法,其包括:利用3D视觉模块对目标物体群采集第一点云图;对所述第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,其中,所述第二点云图为预先获取的单个目标物体的三维特征点云图;将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿。
利用3D视觉模块对目标物体群采集第一点云图,再进行点云聚类分割处理,初步从群体中分离出单个疑似的目标;然后通过对比前述单个疑似目标与第二点云图,进一步地筛选疑似目标;最后通过筛选后的疑似目标与第二点云图进行点云配准,识别目标物体并同时获取目标物体相对所述3D视觉模块的位姿,由于所述3D视觉模块的坐标可确定,则能够确定目标物体的位姿。本发明的方法能够从无序的目标物体群中进行单个目标物体识别并能确定目标物体的位姿。
在一些具体的实施例中,所述对所述第一点云图进行点云聚类分割,包括:根据所述第一点云图的点云间欧氏距离以及所述第一点云图的的点云法向量夹角来进行聚类分割。对所述第一点云图进行点云聚类分割时,最少采取了根据点云间欧氏距离和点云法向量等特征来处理数据,很好地实现了点云聚类分割,将第一疑似目标物体分离出来。
在一些具体的实施例中,所述将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿,包括:将所述第二疑似目标物体与所述第二点云图进行点云粗配准,以识别目标物体并获取目标物体相对所述3D视觉模块的粗配准位姿;将所述第二疑似目标物体与所述第二点云图进行点云精细配准,结合所述粗配准位姿,以精确识别目标物体并获取目标物体相对所述3D视觉模块的精确位姿。
点云配准先后经过粗配准和精细配准两道工序,粗配准识别目标物体并获取目标物体相对所述3D视觉模块的粗配准位姿,精细配准对识别结果和位姿进行微调,获取更加精准的结果。
在一些具体的实施例中,所述第二点云图的获取方法包括:绘制单个目标物体的三维立体图;利用点云库对所述三维立体图进行处理,获得所述第二点云图。
所述第二点云图为实际单个目标物体获得的特征点云图,采用此种方式能够快速准确地获取第二点云图。
在一些具体的实施例中,通过对所述位姿进行几何约束验证过滤,获得所述位姿的置信度;根据所述置信度和预设的阈值,获得最终位姿。
根据位姿通过几何约束验证过滤,剔除错误位姿,合并重复位姿,并计算位姿得分,输出位姿结果
在一些具体的实施例中,所述通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,包括:在一些具体的实施例中,利用BoundingBox算法从全体的所述第一疑似目标物体中筛选出第二疑似目标物体。
BoundingBox算法能够从目标物体的整体尺寸形态的角度来进行筛选,利于提高筛选的准确性。
第二方面,本发明提供了一种基于3D视觉的目标物体识别和位姿估算装置,其包括:3D视觉模块,其用于对目标物体群采集第一点云图;点云聚类分割模块,其用于对所述第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;特征对比筛选模块,其用于通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,其中,所述第二点云图为预先获取的单个目标物体的三维特征点云图;特征提取模块,其用于提取所述第一疑似目标、所述第二疑似目标、所述第一点云图以及所述第二点云图的特征;配准模块,其用于将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿。
作为一种具体的实施例,所述配准模块包括有粗配准模块和精细配准模块;所述粗配准模块用于将所述第二疑似目标物体与所述第二点云图进行点云粗配准,以识别目标物体并获取目标物体相对所述3D视觉模块的粗配准位姿;所述精细配准模块用于将所述第二疑似目标物体与所述第二点云图进行点云精细配准,结合所述粗配准位姿,以精确识别目标物体并获取目标物体相对所述3D视觉模块的精确位姿。
作为一种具体的实施例,点云生成模块,其用于接收单个目标物体的绘制三维立体图,并利用点云库对所述三维立体图进行处理,获得所述第二点云图。
作为一种具体的实施例,位姿验证模块,其用于通过对所述位姿进行几何约束验证过滤,获得所述位姿的置信度;根据所述置信度和预设的阈值,获得最终位姿。
本发明的装置通过3D视觉模块对目标物体群采集第一点云图;然后利用点云聚类分割模块对所述第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;再利用特征对比筛选模块对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体;最后利用配准模块将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿;而特征提取模块则用于提取所述第一疑似目标、所述第二疑似目标、所述第一点云图以及所述第二点云图的特征。该装置实现了对无序目标物体群进行物体识别和位姿估算的技术效果。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的示意流程图;
图2A为本发明实施例1中获取的显示坐标轴的第一点云图;
图2B为本发明实施例1中获取的不显示坐标轴的第一点云图;
图3为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的坐标系示意图;
图4A为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的第二点云图;
图4B为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的三维立体图;
图5为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的第二疑似锥齿轮点云图;
图6为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的配准工序分解流程示意图;
图7为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的获得锥齿轮精准位姿示意图;
图8为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算方法的位姿变换示意图;
图9为本发明实施例1提供的一种基于3D视觉的目标物体识别和位姿估算装置的示意性框图;
图10A为本发明实施例2中获取的显示坐标轴的第一点云图;
图10B为本发明实施例2中获取的不显示坐标轴的第一点云图;
图11A为本发明实施例2提供的一种基于3D视觉的目标物体识别和位姿估算方法的第二点云图;
图11B为本发明实施例2提供的一种基于3D视觉的目标物体识别和位姿估算方法的三维立体图;
图12为本发明实施例2提供的一种基于3D视觉的目标物体识别和位姿估算方法的第二疑似连杆点云图;
图13为本发明实施例2提供的一种基于3D视觉的目标物体识别和位姿估算方法的获得连杆精准位姿示意图;
图14为本发明实施例2提供的一种基于3D视觉的目标物体识别和位姿估算方法的位姿变换示意图;
图15A为本发明实施例3中获取的显示坐标轴的第一点云图;
图15B为本发明实施例3中获取的不显示坐标轴的第一点云图;
图16A为本发明实施例3提供的一种基于3D视觉的目标物体识别和位姿估算方法的第二点云图;
图16B为本发明实施例3提供的一种基于3D视觉的目标物体识别和位姿估算方法的三维立体图;
图17为本发明实施例3提供的一种基于3D视觉的目标物体识别和位姿估算方法的第二疑似控制臂点云图;
图18为本发明实施例3提供的一种基于3D视觉的目标物体识别和位姿估算方法的获得控制臂精准位姿示意图;
图19为本发明实施例3提供的一种基于3D视觉的目标物体识别和位姿估算方法的位姿变换示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
实施例1
本实施例的基于3D视觉的目标物体识别和位姿估算方法实施于本实施例的基于3D视觉的目标物体识别和位姿估算装置中,所述装置可以应用在手眼系统和精准探测定位等领域,非常适合结合机械臂构成智能机器人。本实施例结合实际工业场景,对无序摆放的锥齿轮工件群进行单个锥齿轮识别以及锥齿轮位姿估算,请参阅图1,为本实施例的方法流程,本实施例的基于3D视觉的目标物体识别和位姿估算方法包括步骤S101~S106:
S101、利用3D视觉模块对锥齿轮群采集第一点云图。
如图2A和图2B所示,分别为上述显示坐标轴的第一点云图和不显示坐标轴的第一点云图,其中锥齿轮工件群四周的条形边框为盛装锥齿轮的盒体。3D视觉模块可以采用双目相机系统、单目相机结合结构光以及其他的3D成像技术。具体地,获取第一点云图的实现方式,可以采用市面上成熟的3D点云相机来实现,这些3D点云相机直接可以对场景拍摄生成点云图;当然,还可以先使用3D视觉技术采集深度图,然后通过点云库对深度图进行处理,最终获取所需的点云图。本领域技术人员对本段内容的实质应当了解,因此前述的两种获取第一点云图的方式,均应该落在本发明的权利要求范围之内。
本实施例以单目相机结合结构光的技术方案为例,3D视觉模块的相机分辨率为W*H,则点云数据包含W*H个点,每个点P含有(Xc,Yc,Zc)三维坐标信息,为各点在相机坐标系下的三维坐标。如图3所示,为相机成像的坐标示意图,相机光心为O点,Xc轴方向与单目相机的成像坐标系x轴平行,Yc轴方向与单目相机的成像坐标系y轴平行,Zc轴方向沿相机光轴方向,与成像平面垂直。已知相机的坐标信息,即可获知点P(Xc,Yc,Zc)的三维坐标信息。
S102、对第一点云图进行点云聚类分割,分离出单个的第一疑似锥齿轮点云。
面对第一点云图,首先需要从大量杂乱无序的点云中分离出单个的锥齿轮点云,因此需要对第一点云图进行点云聚类分割,具体的方式是通过点云间欧氏距离以及点云法向量夹角这些特征在进行点云聚类,聚类后一一分割出疑似的单个锥齿轮点云。
S103、通过对比第一疑似锥齿轮点云的特征与第二点云图的特征,从全体的第一疑似锥齿轮点云中筛选出第二疑似锥齿轮点云。
其中,第二点云图为预先获取的单个锥齿轮的三维特征点云图。前述三维特征点云图可以是具有单个锥齿轮所有形貌尺寸特征的点云图,也可以是具有部分特征的局部图,当然,在实际操作时,根据需要处理的工件外貌形态,可以适当地选择局部点云或者全部点云来作为三维特征点云图。
如图4A所示,为本实施例的单个锥齿轮的三维特征点云图,本实施例采用锥齿轮的全部点云数据。在本实施例中,关于单个锥齿轮的三维特征点云图,获取的方式为先绘制单个锥齿轮的三维立体图,再利用点云库对前述三维立体图进行处理,获得第二点云图。具体地,可以利用Solidworks或者Proe等三维绘图软件绘制前述三维立体图(如图4B所示的单个锥齿轮的绘制三维立体图),然后将三维立体图通过诸如PCL、CloudCompare或者Meshlab等点云库处理,获得单个锥齿轮的三维特征点云图。
对比第一疑似锥齿轮点云的特征与第二点云图的特征,可以进一步地对第一疑似锥齿轮点云进行筛选,杜绝错误的聚类分割。在此过程中,还可以采用BoundingBox算法(最小包围盒算法)来对第一疑似锥齿轮进行整体尺寸外形的筛选,进一步地提升筛选的可靠性。如图5所示,为第二疑似锥齿轮点云图。
为了使得后续步骤的结果更加精准,还可以对获得的第二疑似锥齿轮点云数据进行预处理,预处理为步骤S104:
S104、对第二疑似锥齿轮点云数据进行点云滤波、去噪以及降采样等预处理。
对第二疑似锥齿轮点云数据预处理可以利于后续的工序。
S105、将第二疑似锥齿轮点云与第二点云图进行配准,以识别单个锥齿轮并获取单个锥齿轮相对相机坐标的位姿。
点云配准最终识别出单个锥齿轮,同时能够计算出单个锥齿轮的相对相机坐标的位姿。
具体地,点云配准过程可以精细化,以便提升配准的精确性。如图6步骤S105可以包括有S1051至S1052的步骤:
S1051、将第二疑似锥齿轮点云与第二点云图进行点云粗配准,以识别单个锥齿轮并获取单个锥齿轮相对相机的粗配准位姿。
实际操作时,点云粗配准可以采用FPFH、SHOT、RANSAC或者PPF等算法来实施。
具体地,首先以同尺度s对第二点云图和第二疑似锥齿轮点云进行点云采样,第二点云图提取几何特征F={f1,f2,f3,…fn},第二疑似锥齿轮点云提取几何特征G={g1,g2,g3,…gm},F中的n个特征和G中的m个特征分别计算相似度。相似度满足条件的每个特征对计算变换矩阵,所有变换矩阵聚类投票,投票数最高的类别内的变换矩阵平均值作为第二疑似锥齿轮点云的粗配准位姿。
S1052、将第二疑似锥齿轮点云与第二点云图进行点云精细配准,结合前述粗配准位姿,以精确识别单个锥齿轮并获取单个锥齿轮相对相机的精确位姿。
实际操作时,点云精细配准可以采用NDT或者ICP等算法来实施。
在识别了锥齿轮并计算出锥齿轮的位姿后,优选地,对位姿计算结果进行验证,提高最终结果的可靠性,因此,还可以增设步骤S106:
S106、通过对位姿进行几何约束验证过滤,获得位姿的置信度;根据置信度和预设的阈值,获得最终位姿。
具体地,第一点云图由相机拍得,而相机的坐标信息已知,因此第一点云图的锥齿轮点云的位姿可以根据相机参数来计算。对比第一点云图中锥齿轮的位姿与本方法前述步骤计算出的锥齿轮的位姿,分析出置信度,再根据预设的置信度阈值,剔除错误位姿,合并重复位姿,如图7所示,获得精准的最终位姿。
对于锥齿轮位姿的表达,将绘制的三维立体图的坐标系与相机坐标系重合,锥齿轮位姿为绘制的三维立体图在坐标系中位姿变换到锥齿轮工件在场景中位姿的三维变换矩阵H,矩阵H维数为4*4,由旋转矩阵R和平移矩阵T构成,位姿变换示意图如图8所示,数学表达式为:
Figure BDA0002294830820000091
在识别某个锥齿轮并估算出该锥齿轮的位姿后,获取的锥齿轮位姿信息可以用于对机械臂发出指令,令机械臂精准地抓取该锥齿轮。在抓取一个锥齿轮之后,重复上述S101至S106的步骤,即可识别下一个锥齿轮并估算出锥齿轮的位姿,继续进行机械臂抓取动作。
本实施例针对前述的基于3D视觉的目标物体识别和位姿估算方法,提供一种实现前述方法的装置。请参阅图9,图9为本发明实施例提供的基于3D视觉的目标物体识别和位姿估算装置的示意性框图。该装置300包括:
3D视觉模块310,其用于对目标物体群采集第一点云图;以及,中央处理系统320,中央处理系统320包括有:
点云聚类分割模块321,其用于对第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;
特征对比筛选模块322,其用于通过对比第一疑似目标物体的特征与第二点云图的特征,从全体的第一疑似目标物体中筛选出第二疑似目标物体,其中,第二点云图为预先获取的单个目标物体的三维特征点云图;
特征提取模块324,其用于提取第一疑似目标、第二疑似目标、第一点云图以及第二点云图的特征;
配准模块325,其用于将第二疑似目标物体与第二点云图进行配准,以识别目标物体并获取目标物体相对3D视觉模块310的位姿;
其中,配准模块325包括有粗配准模块3251和精细配准模块3252;
粗配准模块3251用于将第二疑似目标物体与第二点云图进行点云粗配准,以识别目标物体并获取目标物体相对3D视觉模块310的粗配准位姿;
精细配准模块3252用于将第二疑似目标物体与第二点云图进行点云精细配准,结合粗配准位姿,以精确识别目标物体并获取目标物体相对3D视觉模块310的精确位姿。
为了提高装置输出结果的可靠性,该装置300还可以增设位姿验证模块326,其用于通过对位姿进行几何约束验证过滤,获得位姿的置信度;根据置信度和预设的阈值,获得最终位姿。
对于第二点云图,可以选择获取第二点云图的方式有预先用三维绘图软件绘制单个目标物体的三维立体图,然后将三维立体图点云化。在前述前提下,该装置300还包括有点云生成模块323,其用于接收单个目标物体的绘制三维立体图,并利用点云库对三维立体图进行处理,获得第二点云图。
由于说明书前面的内容已经对该3D视觉的目标物体识别和位姿估算方法进行了详细地介绍,所属领域的技术人员在阅读前述的3D视觉的目标物体识别和位姿估算方法实施例的技术方案后,可以清楚地得知本实施例中的3D视觉的目标物体识别和位姿估算装置300的工作过程。为了说明书的简洁性,在此不对装置300的具体工作过程做重复说明。
实施例2
本实施例与实施例1的技术原理相同,在本实施例中,目标物体为连杆。如图10A和图10B,分别为连杆的带有坐标轴的第一点云图和不带有坐标轴的第一点云图。图11A则为第二点云图,图11B为连杆的三维立体图。图12为经过聚类分割处理之后的第二疑似连杆点云图。图13为经过配准处理之后得到连杆位姿的结果图。图14为连杆位姿变换示意图。
连杆在3D视觉模块310拍取第一点云图后,依次经过点云聚类分割模块321的聚类分割处理、特征对比筛选模块322的筛选处理、配准模块325的配准处理,最终完成对无序摆放的连杆工件群的单个连杆的识别及其位姿的计算。
实施例3
本实施例与实施例1的技术原理相同,在本实施例中,目标物体为控制臂。
如图15A和图15B,分别为控制臂的带有坐标轴的第一点云图和不带有坐标轴的第一点云图。图16A则为第二点云图,图16B为控制臂的三维立体图。图17为经过聚类分割处理之后的第二疑似控制臂点云图。图18为经过配准处理之后得到控制臂位姿的结果图。图19为控制臂位姿变换示意图。
控制臂在3D视觉模块310拍取第一点云图后,依次经过点云聚类分割模块321的聚类分割处理、特征对比筛选模块322的筛选处理、配准模块325的配准处理,最终完成对无序摆放的控制臂工件群的单个控制臂的识别及其位姿的计算。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种基于3D视觉的目标物体识别和位姿估算方法,其特征在于,包括:
利用3D视觉模块对目标物体群采集第一点云图;
对所述第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;
通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,其中,所述第二点云图为预先获取的单个目标物体的三维特征点云图;
将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿。
2.根据权利要求1所述的方法,其特征在于,所述对所述第一点云图进行点云聚类分割,包括:
根据所述第一点云图的点云间欧氏距离以及所述第一点云图的的点云法向量夹角来进行聚类分割。
3.根据权利要求1所述的方法,其特征在于,所述将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿,包括:
将所述第二疑似目标物体与所述第二点云图进行点云粗配准,以识别目标物体并获取目标物体相对所述3D视觉模块的粗配准位姿;
将所述第二疑似目标物体与所述第二点云图进行点云精细配准,结合所述粗配准位姿,以精确识别目标物体并获取目标物体相对所述3D视觉模块的精确位姿。
4.根据权利要求1所述的方法,其特征在于,所述第二点云图的获取方法包括:
绘制单个目标物体的三维立体图;
利用点云库对所述三维立体图进行处理,获得所述第二点云图。
5.根据权利要求1所述的方法,其特征在于,该方法还包括:
通过对所述位姿进行几何约束验证过滤,获得所述位姿的置信度;
根据所述置信度和预设的阈值,获得最终位姿。
6.根据权利要求1所述的方法,其特征在于,所述通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,包括:
利用BoundingBox算法从全体的所述第一疑似目标物体中筛选出第二疑似目标物体。
7.一种基于3D视觉的目标物体识别和位姿估算装置,其特征在于,包括:
3D视觉模块,其用于对目标物体群采集第一点云图;
点云聚类分割模块,其用于对所述第一点云图进行点云聚类分割,分离出单个的第一疑似目标物体;
特征对比筛选模块,其用于通过对比所述第一疑似目标物体的特征与第二点云图的特征,从全体的所述第一疑似目标物体中筛选出第二疑似目标物体,其中,所述第二点云图为预先获取的单个目标物体的三维特征点云图;
特征提取模块,其用于提取所述第一疑似目标、所述第二疑似目标、所述第一点云图以及所述第二点云图的特征;
配准模块,其用于将所述第二疑似目标物体与所述第二点云图进行配准,以识别目标物体并获取目标物体相对所述3D视觉模块的位姿。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
所述配准模块包括有粗配准模块和精细配准模块;
所述粗配准模块用于将所述第二疑似目标物体与所述第二点云图进行点云粗配准,以识别目标物体并获取目标物体相对所述3D视觉模块的粗配准位姿;
所述精细配准模块用于将所述第二疑似目标物体与所述第二点云图进行点云精细配准,结合所述粗配准位姿,以精确识别目标物体并获取目标物体相对所述3D视觉模块的精确位姿。
9.根据权利要求7所述的装置,其特征在于,所述装置还包括:
点云生成模块,其用于接收单个目标物体的绘制三维立体图,并利用点云库对所述三维立体图进行处理,获得所述第二点云图。
10.根据权利要求7所述的装置,其特征在于,所述装置还包括:
位姿验证模块,其用于通过对所述位姿进行几何约束验证过滤,获得所述位姿的置信度;
根据所述置信度和预设的阈值,获得最终位姿。
CN201911196731.7A 2019-11-29 2019-11-29 基于3d视觉的目标物体识别和位姿估算方法以及装置 Active CN111127556B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911196731.7A CN111127556B (zh) 2019-11-29 2019-11-29 基于3d视觉的目标物体识别和位姿估算方法以及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911196731.7A CN111127556B (zh) 2019-11-29 2019-11-29 基于3d视觉的目标物体识别和位姿估算方法以及装置

Publications (2)

Publication Number Publication Date
CN111127556A true CN111127556A (zh) 2020-05-08
CN111127556B CN111127556B (zh) 2023-06-13

Family

ID=70497315

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911196731.7A Active CN111127556B (zh) 2019-11-29 2019-11-29 基于3d视觉的目标物体识别和位姿估算方法以及装置

Country Status (1)

Country Link
CN (1) CN111127556B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396654A (zh) * 2020-11-17 2021-02-23 闪耀现实(无锡)科技有限公司 用于在图像跟踪过程中确定跟踪对象的位姿的方法及装置
CN112734662A (zh) * 2020-12-30 2021-04-30 北京航空航天大学 一种针对锥齿轮磨损的机器视觉检测方法及系统
CN114879217A (zh) * 2022-07-12 2022-08-09 中国工程物理研究院应用电子学研究所 一种目标位姿的判断方法及系统
WO2024156228A1 (zh) * 2023-01-29 2024-08-02 深圳先进技术研究院 轴孔装配方法、系统、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3232404A1 (en) * 2016-04-13 2017-10-18 SICK, Inc. Method and system for measuring dimensions of a target object
CN109102547A (zh) * 2018-07-20 2018-12-28 上海节卡机器人科技有限公司 基于物体识别深度学习模型的机器人抓取位姿估计方法
CN110060330A (zh) * 2019-03-08 2019-07-26 武汉库柏特科技有限公司 一种基于点云图像的三维建模方法、装置和机器人

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3232404A1 (en) * 2016-04-13 2017-10-18 SICK, Inc. Method and system for measuring dimensions of a target object
CN109102547A (zh) * 2018-07-20 2018-12-28 上海节卡机器人科技有限公司 基于物体识别深度学习模型的机器人抓取位姿估计方法
CN110060330A (zh) * 2019-03-08 2019-07-26 武汉库柏特科技有限公司 一种基于点云图像的三维建模方法、装置和机器人

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张彪;曹其新;焦瑶;: "基于视点特征直方图的激光点云模型的位姿估计" *
苗中华;陈苏跃;何创新;金称雄;马世伟;徐双喜;: "基于3D视觉的青饲机拖车车斗自动识别与定位方法" *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396654A (zh) * 2020-11-17 2021-02-23 闪耀现实(无锡)科技有限公司 用于在图像跟踪过程中确定跟踪对象的位姿的方法及装置
WO2022105745A1 (zh) * 2020-11-17 2022-05-27 闪耀现实(无锡)科技有限公司 用于在图像跟踪过程中确定跟踪对象的位姿的方法及装置
CN112734662A (zh) * 2020-12-30 2021-04-30 北京航空航天大学 一种针对锥齿轮磨损的机器视觉检测方法及系统
CN112734662B (zh) * 2020-12-30 2022-11-15 北京航空航天大学 一种针对锥齿轮磨损的机器视觉检测方法及系统
CN114879217A (zh) * 2022-07-12 2022-08-09 中国工程物理研究院应用电子学研究所 一种目标位姿的判断方法及系统
CN114879217B (zh) * 2022-07-12 2022-10-21 中国工程物理研究院应用电子学研究所 一种目标位姿的判断方法及系统
WO2024156228A1 (zh) * 2023-01-29 2024-08-02 深圳先进技术研究院 轴孔装配方法、系统、电子设备及存储介质

Also Published As

Publication number Publication date
CN111127556B (zh) 2023-06-13

Similar Documents

Publication Publication Date Title
CN110135455B (zh) 影像匹配方法、装置及计算机可读存储介质
CN111127556B (zh) 基于3d视觉的目标物体识别和位姿估算方法以及装置
JP6681729B2 (ja) オブジェクトの3d姿勢およびオブジェクトのランドマーク点の3dロケーションを求める方法、およびオブジェクトの3d姿勢およびオブジェクトのランドマークの3dロケーションを求めるシステム
CN107063228B (zh) 基于双目视觉的目标姿态解算方法
CN108648194B (zh) 基于cad模型三维目标识别分割和位姿测量方法及装置
CN111652085B (zh) 基于2d与3d特征结合的物体识别方法
CN111476841B (zh) 一种基于点云和图像的识别定位方法及系统
CN103810475B (zh) 一种目标物识别方法及装置
CN113850865A (zh) 一种基于双目视觉的人体姿态定位方法、系统和存储介质
CN112067233B (zh) 一种用于风洞模型六自由度运动捕获方法
CN112200056B (zh) 人脸活体检测方法、装置、电子设备及存储介质
CN113034581B (zh) 基于深度学习的空间目标相对位姿估计方法
CN112712589A (zh) 一种基于激光雷达和深度学习的植株3d建模的方法和系统
CN112734652B (zh) 一种基于双目视觉的近红外血管图像投影校正方法
CN113393439A (zh) 一种基于深度学习的锻件缺陷检测方法
CN111553422A (zh) 手术器械自动识别回收方法及系统
CN110415363A (zh) 一种基于三目视觉的散乱物识别定位方法
CN114022542A (zh) 一种基于三维重建的3d数据库制作方法
CN110120013A (zh) 一种点云拼接方法及装置
CN112348890A (zh) 一种空间定位方法、装置及计算机可读存储介质
CN116921932A (zh) 焊接轨迹识别方法、装置、设备及存储介质
JP7178803B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム
CN117291930B (zh) 一种基于图片序列中目标物体分割的三维重建方法和系统
CN110599407B (zh) 基于向下倾角方向的多台tof相机人体降噪方法及系统
CN111783497B (zh) 视频中目标的特征确定方法、装置和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant