CN109702738B - 一种基于三维物体识别的机械臂手眼标定方法及装置 - Google Patents
一种基于三维物体识别的机械臂手眼标定方法及装置 Download PDFInfo
- Publication number
- CN109702738B CN109702738B CN201811311370.1A CN201811311370A CN109702738B CN 109702738 B CN109702738 B CN 109702738B CN 201811311370 A CN201811311370 A CN 201811311370A CN 109702738 B CN109702738 B CN 109702738B
- Authority
- CN
- China
- Prior art keywords
- calibration
- coordinate system
- calibration data
- mechanical arm
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Abstract
本发明公开了一种基于三维物体识别的机械臂手眼标定方法及装置,其中,标定方法包括:步骤S1、获取标定物在三维视角坐标系下的第一标定数据;步骤S2、获取所述标定物在机械臂坐标系中的第二标定数据;步骤S3、根据所述第一标定数据和所述第二标定数据,利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。本标定方法在光强较弱的环境下仍然能够实现高精度标定,且步骤简单,可操作性强,克服了现有标定方法精度低、步骤复杂、可操作性差、光照影响大的缺点。
Description
技术领域
本发明涉及图像识别处理领域,尤其涉及一种基于三维物体识别的机械臂手眼标定方法及装置。
背景技术
工业自动化作为全球工业4.0时代到来的主要标志,智能制造和无人工厂是未来工业自动化的趋势。在无人工厂中,机械臂取代人工做一些重复的分拣与装配工作不仅可以节省成本,还可以提高工作效率。更智能的视觉与精确的机械臂控制系统成为实现无人工厂的重要前提。
二维视觉发展多年已经有很成熟的理论和应用场景,但随着人们对机器的工作场景需求提高,二维视觉已经不能满足要求。三维视觉有着二维视觉不具备的天然优势,可以得到图像内像素点的精准距离信息,并且能在光强较低的环境下工作,所以基于三维视觉的机械臂抓取分拣系统越来越受到工业界重视。
基于三维视觉的机械臂手眼系统分为三维视觉和机械臂运动控制模块,想要机械臂实现精准自主抓取分拣目标物体,必须要有高精度的视觉识别系统与机械臂运动控制系统,而这两个系统分别工作在不同的坐标系下,所以需要高精度的标定方法将两个坐标系转到同一坐标系下。现有的标定方案大多为二维视觉对棋盘格进行特征提取与匹配来获取机械臂与相机的坐标关系,这种基于二维棋盘格标定方案步骤繁杂、对环境要求较苛刻,而且标定好后还不能得到被抓取物体的精确距离信息,不能适用很多抓取分拣工业元器件混叠场景的需要。
因此,现有技术还有待于改进和发展。
发明内容
鉴于上述现有技术的不足,本发明的目的在于提供一种基于三维物体识别的机械臂手眼标定方法及装置,旨在解决现有的基于二维棋盘格的标定方法步骤繁杂、对环境要求较苛刻、不够精准的问题。
本发明的技术方案如下:
一种基于三维物体识别的机械臂手眼标定方法,包括:
步骤S1、获取标定物在三维视角坐标系下的第一标定数据;
步骤S2、获取所述标定物在机械臂坐标系中的第二标定数据;
步骤S3、根据所述第一标定数据和所述第二标定数据,利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
所述的基于三维物体识别的机械臂手眼标定方法,其中,所述步骤S1 包括:
步骤S11、在三维视角坐标系下获取所述标定物的点云数据;
步骤S12、通过point-net多层感知网络对所述点云数据进行分割与识别,得到所述标定物的第一标定数据。
所述的基于三维物体识别的机械臂手眼标定方法,其中,所述步骤S3 包括:
其中,第一标定数据C′={p1′,p2′…pm′};pi′、pm′分别表示第一标定数据中的第i/m个标定数据;第二标定数据X={pr1,pr2…Prm},pri、prm分别表示第二标定数据中的第i/m个标定数据;
步骤S32、根据所述旋转矩阵和所述平移向量,求解得到所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
一种基于三维物体识别的机械臂手眼标定装置,包括:机械臂、设置在所述机械臂上的深度相机,用于对所述标定物进行三维视角坐标系下采集,以及分别与所述机械臂、所述深度相机信号连接的智能控制模块,用于:
计算标定物在三维视角坐标系中的第一标定数据;计算标定物在机械臂坐标系中的第二标定数据;并利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
所述的基于三维物体识别的机械臂手眼标定装置,其中,所述智能控制模块包括:
点云数据获取单元,用于获取所述标定物在所述深度相机的三维视角坐标系中的点云数据C={P1,P2,…Pn},其中,Pn表示第n个点云数据;
点云数据处理单元,用于:根据获取的所述点云数据,通过point-net 多层感知网络对所述点云数据进行分割与识别,得到所述标定物的第一标定数据C′={p1′,p2′…pm′},其中,pm′表示第一标定数据中的第m个标定数据。
所述的基于三维物体识别的机械臂手眼标定装置,其中,所述智能控制模块包括:
旋转矩阵和平移向量计算单元,用于:构建两组标定数据的目标函数
其中,第一标定数据C′={p1′,p2′…pm′};pi、pm′分别表示第一标定数据中的第i/m个标定数据;第二标定数据X={pr1,pr2…prm},pri、prm分别表示第二标定数据中的第i/m个标定数据;
转移矩阵计算单元,用于:根据所述旋转矩阵和所述平移向量,求解得到所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
所述的基于三维物体识别的机械臂手眼标定装置,其中,还包括;
机械臂底盘,用于承载所述机械臂;
机械电爪,连接在所述机械臂的末端,用于抓取物品。
有益效果:本发明首先获取标定物分别在三维视角坐标系和机械臂坐标系中的第一标定数据和第二标定数据,然后采用ICP(Iterative Closest Points)迭代最近算法得到三维视角坐标系中的坐标到机械臂坐标系中的转移矩阵。本发明不需要使用高精度黑白棋盘标定板,仅需有限个(≥3个) 规则的三维可识别物体,就可得到前述的转移矩阵。本标定方法在光强较弱的环境下仍然能够实现高精度标定,且步骤简单,可操作性强,克服了现有标定方法精度低、步骤复杂、可操作性差、光照影响大的缺点。
附图说明
图1为本发明的一种较佳实施的流程图。
图2为本发明的一种较佳实施例的侧视立体结构图。
图3为本发明的一种较佳实施例的俯视立体结构图。
图4为本发明的一种较佳实施例的正视立体结构图。
具体实施方式
本发明提供了一种基于三维物体识别的机械臂手眼标定方法及装置,为使本发明的目的、技术方案及效果更加清楚、明确,以下对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明提供了一种基于三维物体识别的机械臂手眼标定方法的较佳实施例,如图1所示,包括:
步骤S1、获取标定物在三维视角坐标系下的第一标定数据。
现有技术是采用二维视觉对棋盘格进行特征提取与匹配来获取机械臂与相机的坐标关系,这种基于二维棋盘格标定方案步骤繁杂而且对环境要求较苛刻,而且标定好后还不能得到被抓取物体的精确距离信息,不能适用很多抓取分拣工业元器件混叠场景的需要,因此本发明选用三维视角对标定物进行标定,可包括如下步骤:
步骤S11、在三维视角坐标系下获取所述标定物的点云数据。
可使用深度相机对标定物进行数据采集,其中标定物选用规则的三维可识别物体(至少3个),获取三维标定物点云数据C={P1,P2,…Pn},其中, Pn表示第n个点云数据。
步骤S12、通过point-net多层感知网络对所述点云数据进行分割与识别,得到所述标定物的第一标定数据C′={p1′,p2′…pm′};pm′表示第一标定数据中的第m个标定数据,m<<n。
步骤S2、获取所述标定物在机械臂坐标系中的第二标定数据。
通过移动机械臂准确抓取标定物,可以得到标定物在机械臂坐标系下的三维坐标数据,得到标定物的第二标定数据X={pr1,pr2…prm},prm表示第二标定数据中的第m个标定数据。
步骤S3、根据所述第一标定数据和所述第二标定数据,利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。具体处理过程可包括如下步骤:
步骤S31、构建两组标定数据的目标函数
通过初始化R和T(即分别置零),然后迭代计算目标函数,使得目标函数收敛到稳定值停止迭代,得到旋转矩阵R和平移向量T;其中,p′i表示第一标定数据中的第i个标定数据;pri分别表示第二标定数据中的第i个标定数据。
步骤S32、根据所述旋转矩阵和所述平移向量,求解目标函数,可得到所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
本发明通过point-net多层感知网络对三维标定物的识别,得到标定物在识别点位置深度相机坐标系下的三维坐标。然后通过移动机械臂到标定物的位置,得到标定物在机械臂坐标系下的三维坐标点。通过对两个坐标系下的三维标定物的三维坐标,应用ICP迭代最近算法算法求得两个坐标系旋转矩阵R和平移向量T,进而得到三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。本发明可以在不使用高精度黑白棋盘标定板的情况下,仅需有限个规则的三维可识别物体,在光强较弱的环境下仍然能够实现高精度标定且步骤简单可操作性强。克服了现有标定方法精度低、步骤复杂、可操作性差、光照影响大的缺点。
本发明还提供了一种基于三维物体识别的机械臂手眼标定装置的较佳实施例,如图2-图4所示,其特征在于,包括:机械臂4、设置在所述机械臂上的深度相机2,用于对标定物1进行三维视角坐标系下采集,以及分别与机械臂4、深度相机2信号连接的智能控制模块(不限定位置,可灵活设置,因此图中未画出),用于:
计算标定物在三维视角(即深度相机)坐标系中的第一标定数据;计算标定物在机械臂坐标系中的第二标定数据;并利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
具体的,所述智能控制模块可包括:
点云数据获取单元,用于获取所述标定物在所述深度相机的三维视角坐标系中的点云数据C={P1,P2,…Pn}。
点云数据处理单元,用于:根据获取的所述点云数据,通过point-net 多层感知网络对所述点云数据进行分割与识别,得到所述标定物的第一标定数据C′={p1′,p2′…pm′}。
作为另一个较佳实施,智能控制模块还可包括:
旋转矩阵和平移向量计算单元,用于:构建两组标定数据的目标函数
转移矩阵计算单元,用于:根据所述旋转矩阵和所述平移向量,求解得到所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
进一步的,所述的基于三维物体识别的机械臂手眼标定装置,如图2- 图4所示,还包括;
机械臂底盘5,用于承载所述机械臂;
机械电爪3,连接在所述机械臂的末端,用于抓取物品。
综上所述,本发明提供了一种基于三维物体识别的机械臂手眼标定方法及装置,本发明的标定方法,不需要使用高精度黑白棋盘标定板,仅需有限个(≥3个)规则的三维可识别物体,就可得到前述的转移矩阵。本标定方法在光强较弱的环境下仍然能够实现高精度标定,且步骤简单,可操作性强,克服了现有标定方法精度低、步骤复杂、可操作性差、光照影响大的缺点;本发明的装置,可以快速、高精度地得到抓取点深度相机三维坐标系到机械臂坐标系的转移矩阵,从而得到被抓取物在机械臂坐标系中的坐标,实现对物体的高精度识别抓取。本发明的装置结构简单,便于获取和构建。
应当理解的是,本发明的应用不限于上述的举例,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,所有这些改进和变换都应属于本发明所附权利要求的保护范围。
Claims (5)
1.一种基于三维物体识别的机械臂手眼标定方法,其特征在于,包括:
步骤S1、获取标定物在三维视角坐标系下的第一标定数据;
步骤S2、获取所述标定物在机械臂坐标系中的第二标定数据;
步骤S3、根据所述第一标定数据和所述第二标定数据,利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵;
所述步骤S3包括:
其中,第一标定数据C′={p′1,p′2…p′m};pi′、pm′分别表示第一标定数据中的第i/m个标定数据;第二标定数据X={pr1,pr2…prm},pri、prm分别表示第二标定数据中的第i/m个标定数据;
步骤S32、根据所述旋转矩阵和所述平移向量,求解得到所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
2.根据权利要求1所述的基于三维物体识别的机械臂手眼标定方法,其特征在于,所述步骤S1包括:
步骤S11、在三维视角坐标系下获取所述标定物的点云数据;
步骤S12、通过point-net多层感知网络对所述点云数据进行分割与识别,得到所述标定物的第一标定数据。
3.一种基于三维物体识别的机械臂手眼标定装置,其特征在于,包括:机械臂、设置在所述机械臂上的深度相机,用于对所述标定物进行三维视角坐标系下采集,以及分别与所述机械臂、所述深度相机信号连接的智能控制模块,用于:
计算标定物在三维视角坐标系中的第一标定数据;计算标定物在机械臂坐标系中的第二标定数据;并利用ICP迭代最近点算法求解得到:所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵;
所述智能控制模块包括:
旋转矩阵和平移向量计算单元,用于:构建两组标定数据的目标函数其中,R为旋转矩阵,T为平移向量,通过初始化R和T,然后迭代计算目标函数,使得目标函数收敛到稳定值停止迭代,得到迭代后的旋转矩阵R和迭代后的平移向量T;
其中,第一标定数据C′={p1′,p2′…pm′};pi′、pm′分别表示第一标定数据中的第i/m个标定数据;第二标定数据X={pr1,pr2…prm},pri、prm分别表示第二标定数据中的第i/m个标定数据;
转移矩阵计算单元,用于:根据所述旋转矩阵和所述平移向量,求解得到所述三维视角坐标系中的坐标到所述机械臂坐标系中的转移矩阵。
4.根据权利要求3所述的基于三维物体识别的机械臂手眼标定装置,其特征在于,所述智能控制模块包括:
点云数据获取单元,用于获取所述标定物在所述深度相机的三维视角坐标系中的点云数据C={P1,P2,…Pn},其中,Pn表示第n个点云数据;
点云数据处理单元,用于:根据获取的所述点云数据,通过point-net多层感知网络对所述点云数据进行分割与识别,得到所述标定物的第一标定数据C′={p1′,p2′…pm′},其中,pm′表示第一标定数据中的第m个标定数据。
5.根据权利要求3所述的基于三维物体识别的机械臂手眼标定装置,其特征在于,还包括;
机械臂底盘,用于承载所述机械臂;
机械电爪,连接在所述机械臂的末端,用于抓取物品。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811311370.1A CN109702738B (zh) | 2018-11-06 | 2018-11-06 | 一种基于三维物体识别的机械臂手眼标定方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811311370.1A CN109702738B (zh) | 2018-11-06 | 2018-11-06 | 一种基于三维物体识别的机械臂手眼标定方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109702738A CN109702738A (zh) | 2019-05-03 |
CN109702738B true CN109702738B (zh) | 2021-12-07 |
Family
ID=66254797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811311370.1A Active CN109702738B (zh) | 2018-11-06 | 2018-11-06 | 一种基于三维物体识别的机械臂手眼标定方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109702738B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110555889B (zh) * | 2019-08-27 | 2021-01-15 | 西安交通大学 | 一种基于CALTag和点云信息的深度相机手眼标定方法 |
CN110930442B (zh) * | 2019-11-26 | 2020-07-31 | 广东技术师范大学 | 基于标定块的机器人手眼标定中关键点位置确定方法与装置 |
CN110842901B (zh) * | 2019-11-26 | 2021-01-15 | 广东技术师范大学 | 基于一种新型三维标定块的机器人手眼标定方法与装置 |
CN111043963A (zh) * | 2019-12-31 | 2020-04-21 | 芜湖哈特机器人产业技术研究院有限公司 | 基于二维激光雷达的车厢容器的三维扫描系统测量方法 |
CN111121628A (zh) * | 2019-12-31 | 2020-05-08 | 芜湖哈特机器人产业技术研究院有限公司 | 基于二维激光雷达的车厢容器的三维扫描系统标定方法 |
CN111590593B (zh) * | 2020-06-19 | 2021-12-17 | 浙江大华技术股份有限公司 | 机械臂的标定方法、装置、系统及存储介质 |
CN111872922B (zh) * | 2020-07-29 | 2021-09-03 | 贵州电网有限责任公司 | 基于3d视觉传感器的三自由度并联机器人手眼标定方法 |
CN112091971B (zh) * | 2020-08-21 | 2021-10-12 | 季华实验室 | 机器人手眼标定方法、装置、电子设备和系统 |
CN116135492B (zh) * | 2023-04-20 | 2023-09-05 | 成都盛锴科技有限公司 | 一种轨道车辆车门自动拆装装置及方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2728374A1 (de) * | 2012-10-30 | 2014-05-07 | Technische Universität Darmstadt | Erfindung betreffend die Hand-Auge-Kalibrierung von Kameras, insbesondere Tiefenbildkameras |
CN104331894A (zh) * | 2014-11-19 | 2015-02-04 | 山东省科学院自动化研究所 | 一种基于双目立体视觉的机器人拆垛方法 |
CN106767393A (zh) * | 2015-11-20 | 2017-05-31 | 沈阳新松机器人自动化股份有限公司 | 机器人的手眼标定装置与方法 |
CN108582076A (zh) * | 2018-05-10 | 2018-09-28 | 武汉库柏特科技有限公司 | 一种基于标准球的机器人手眼标定方法及装置 |
CN108627178A (zh) * | 2018-05-10 | 2018-10-09 | 广东拓斯达科技股份有限公司 | 机器人手眼标定方法和系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100468857B1 (ko) * | 2002-11-21 | 2005-01-29 | 삼성전자주식회사 | 2차원 형상에 대한 투사 불변형 표현자를 이용한핸드/아이 캘리브레이션 방법 |
-
2018
- 2018-11-06 CN CN201811311370.1A patent/CN109702738B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2728374A1 (de) * | 2012-10-30 | 2014-05-07 | Technische Universität Darmstadt | Erfindung betreffend die Hand-Auge-Kalibrierung von Kameras, insbesondere Tiefenbildkameras |
CN104331894A (zh) * | 2014-11-19 | 2015-02-04 | 山东省科学院自动化研究所 | 一种基于双目立体视觉的机器人拆垛方法 |
CN106767393A (zh) * | 2015-11-20 | 2017-05-31 | 沈阳新松机器人自动化股份有限公司 | 机器人的手眼标定装置与方法 |
CN108582076A (zh) * | 2018-05-10 | 2018-09-28 | 武汉库柏特科技有限公司 | 一种基于标准球的机器人手眼标定方法及装置 |
CN108627178A (zh) * | 2018-05-10 | 2018-10-09 | 广东拓斯达科技股份有限公司 | 机器人手眼标定方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN109702738A (zh) | 2019-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109702738B (zh) | 一种基于三维物体识别的机械臂手眼标定方法及装置 | |
CN109344882B (zh) | 基于卷积神经网络的机器人控制目标位姿识别方法 | |
CN110555889B (zh) | 一种基于CALTag和点云信息的深度相机手眼标定方法 | |
CN108555908B (zh) | 一种基于rgbd相机的堆叠工件姿态识别及拾取方法 | |
CN110692082B (zh) | 学习装置、学习方法、学习模型、推算装置以及夹持系统 | |
CN110866969B (zh) | 基于神经网络与点云配准的发动机叶片重构方法 | |
CN111476841B (zh) | 一种基于点云和图像的识别定位方法及系统 | |
CN111178250A (zh) | 物体识别定位方法、装置及终端设备 | |
CN110102490B (zh) | 基于视觉技术的流水线包裹分拣装置和电子设备 | |
CN107705322A (zh) | 运动目标识别跟踪方法和系统 | |
CN110246127A (zh) | 基于深度相机的工件识别与定位方法和系统、分拣系统 | |
KR20220132617A (ko) | 포즈 검출 및 측정을 위한 시스템들 및 방법들 | |
CN111627072A (zh) | 一种对多传感器进行标定的方法、装置和存储介质 | |
CN108748149B (zh) | 一种复杂环境下基于深度学习的无标定机械臂抓取方法 | |
CN113409384A (zh) | 一种目标物体的位姿估计方法和系统、机器人 | |
CN110909644A (zh) | 基于强化学习的机械臂末端执行器抓取姿态调整方法及系统 | |
CN111553949A (zh) | 基于单帧rgb-d图像深度学习对不规则工件的定位抓取方法 | |
CN115609591B (zh) | 一种基于2D Marker的视觉定位方法和系统、复合机器人 | |
CN112950667A (zh) | 一种视频标注方法、装置、设备及计算机可读存储介质 | |
CN116766194A (zh) | 基于双目视觉的盘类工件定位与抓取系统和方法 | |
CN113172636B (zh) | 一种自动手眼标定方法、装置及存储介质 | |
CN116985141B (zh) | 一种基于深度学习的工业机器人智能控制方法及系统 | |
CN116188540A (zh) | 一种基于点云信息的目标识别和位姿估计方法 | |
CN115713547A (zh) | 运动轨迹的生成方法、装置及处理设备 | |
CN211890823U (zh) | 基于RealSense相机的四自由度机械臂视觉伺服控制系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |