CN111673735A - 一种基于单目视觉定位的机械臂控制方法及装置 - Google Patents
一种基于单目视觉定位的机械臂控制方法及装置 Download PDFInfo
- Publication number
- CN111673735A CN111673735A CN202010349776.XA CN202010349776A CN111673735A CN 111673735 A CN111673735 A CN 111673735A CN 202010349776 A CN202010349776 A CN 202010349776A CN 111673735 A CN111673735 A CN 111673735A
- Authority
- CN
- China
- Prior art keywords
- coordinate system
- camera
- target point
- world coordinate
- relative
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 239000011159 matrix material Substances 0.000 claims abstract description 127
- 230000009466 transformation Effects 0.000 claims abstract description 67
- 238000004891 communication Methods 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 230000001419 dependent effect Effects 0.000 claims description 3
- 230000003287 optical effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000011022 operating instruction Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J18/00—Arms
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/021—Optical sensing devices
- B25J19/023—Optical sensing devices including video camera means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Manipulator (AREA)
Abstract
本发明提供了一种基于单目视觉定位的机械臂控制方法及装置,首先获取目标物体的目标点在像素坐标系下的像素坐标,然后利用相机坐标系相对于机械臂末端的齐次变换矩阵及机械臂末端相对于世界坐标系的齐次变换矩阵进行转换,得到视线直线方程,最后在世界坐标系中,获取目标点所在平面的平面方程,并通过视线直线方程及平面方程,得到目标点的世界坐标,因此,与现有技术相比,本发明实施例无需两个单目摄像机,简化定位系统,操作简单,且不涉及图像特征点的匹配和最优距离的测算,简化处理算法,降低对硬件设备的要求。
Description
技术领域
本发明涉及一种机器视觉技术领域,特别是涉及一种基于单目视觉定位的机械臂控制方法及装置。
背景技术
随着智能化水平的提高与机器人使用的普及,基于机器视觉的机械臂移动控制受到广泛关注。基于机械视觉的机械臂移动控制是通过机器视觉获取目标定位,然后控制机械臂末端移动到目标物体执行抓取等相关操作。
目前普遍采用的机器视觉定位方法为双目视觉定位方法,即利用两个距离一定的单目摄像机采集图像,通过图像处理手段获取两单目摄像机图像中匹配点对之间的距离(即视差),然后结合视差与深度信息之间的对应关系,可获取目标物体距离信息,再结合距离与焦距,进一步获得X和Y方向的坐标信息。但是,该方法使用摄像机较多,造成定位系统复杂,不易操作,降低定位效率。
发明内容
有鉴于此,本发明提供一种基于单目视觉定位的机械臂控制方法及装置,主要目的在于解决现有技术中双目视觉定位方法使用摄像机较多,造成定位系统复杂,不易操作,降低定位效率的问题。
依据本发明一个方面,提供了一种应用于单目视觉定位的机械臂控制系统,所述系统包括机械臂及安装在所述机械臂末端的单目像机,其特征在于,包括:
建立像素坐标系、相机坐标系和世界坐标系;
获取目标物体的目标点在所述像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵;
根据所述目标点的像素坐标、相机的内参数矩阵、所述相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵,得到所述目标点相对于所述世界坐标系的视线向量;
根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵和所述目标点相对于所述世界坐标系的视线向量,得到视线直线方程;
在所述世界坐标系中,获取所述目标点所在平面的平面方程;
根据所述视线直线方程及所述平面方程,得到所述目标点的世界坐标;
根据所述目标点的世界坐标,控制所述机械臂按照预设策略对物体进行操作。
依据本发明另一个方面,提供了一种基于单目视觉定位的机械臂控制装置,包括:
坐标系构建模块,用于建立像素坐标系、相机坐标系和世界坐标系;
第一获取模块,用于获取目标物体的目标点在所述像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵;
视线向量确定模块,用于根据所述目标点的像素坐标、相机的内参数矩阵、所述相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵,得到所述目标点相对于所述世界坐标系的视线向量;
视线直线方程确定模块,用于根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵和所述目标点相对于所述世界坐标系的视线向量,得到视线直线方程;
第二获取模块,用于在所述世界坐标系中,获取所述目标点所在平面的平面方程;
世界坐标确定模块,用于根据所述视线直线方程及所述平面方程,得到所述目标点的世界坐标;
控制模块,用于根据所述目标点的世界坐标,控制所述机械臂按照预设策略对物体进行操作。
根据本发明的又一方面,提供了一种存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如上述基于单目视觉定位的机械臂控制方法对应的操作。
根据本发明的再一方面,提供了一种计算机设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行上述基于单目视觉定位的机械臂控制方法对应的操作。
借由上述技术方案,本发明实施例提供的技术方案至少具有下列优点:
本发明提供了一种基于单目视觉定位的机械臂控制方法及装置,首先获取目标物体的目标点在像素坐标系下的像素坐标,然后利用相机坐标系相对于机械臂末端的齐次变换矩阵及机械臂末端相对于世界坐标系的齐次变换矩阵进行转换,得到视线直线方程,最后在世界坐标系中,获取目标点所在平面的平面方程,并通过视线直线方程及平面方程,得到目标点的世界坐标,因此,与现有技术相比,本发明实施例无需两个单目摄像机,简化定位系统,操作简单,且不涉及图像特征点的匹配和最优距离的测算,简化处理算法,降低对硬件设备的要求。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种基于单目视觉定位的机械臂控制方法的流程图;
图2示出了本发明实施例提供的另一种基于单目视觉定位的机械臂控制方法的流程图;
图3示出了本发明实施例的应用场景图;
图4示出了本发明实施例提供的一种基于单目视觉定位的机械臂控制方法装置组成框图;
图5示出了本发明实施例提供的另一种基于单目视觉定位的机械臂控制方法装置组成框图;
图6示出了本发明实施例提供的一种计算机设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明实施例提供了一种基于单目视觉定位的机械臂控制方法,应用于单目视觉定位的机械臂控制系统,系统包括机械臂及安装在机械臂末端的单目像机,如图1所示,该方法包括:
步骤101:建立像素坐标系、机械臂末端相机坐标系和世界坐标系。
其中,世界坐标系可以根据目标物体的实际位置进行构建。相机坐标系的建立为在空间中,以将单目相机的光心,即单目像机的光轴中心确定为相机坐标系的原点,ZC轴与相机光轴重合,并且垂直于成像平面,且取摄影方向为正方向,从而建立相机坐标系OC-XCYCZC。相机坐标系的建立为在单目相机采集的图像平面上,可以图像平面左上角顶点确定为像坐标系的原点,以水平线和竖直线分别确定为u轴和v轴,从而建立像素坐标系,像素坐标系以像素点数量为坐标系单位。
步骤102:获取目标物体的目标点在像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵。
目标物体为机械臂所操作的物体,目标点为目标物体上的特定点,一般为目标物体的中心点。相机内参数矩阵和相机外参数矩阵可由相机标定获得。
步骤103:根据目标点的像素坐标、相机的内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵,得到目标点相对于世界坐标系的视线向量。
步骤104:相机坐标系相对于世界坐标系的齐次变换矩阵和目标点相对于世界坐标系的视线向量,得到视线直线方程。
步骤105:在世界坐标系中,获取目标点所在平面的平面方程。
步骤106:根据视线直线方程及平面方程,得到目标点的世界坐标。
步骤107:根据目标点的世界坐标,控制机械臂按照预设策略对物体进行操作。
本发明实施例提供了一种基于单目视觉定位的机械臂控制方法,首先获取目标物体的目标点在像素坐标系下的像素坐标,然后利用相机坐标系相对于机械臂末端的齐次变换矩阵及机械臂末端相对于世界坐标系的齐次变换矩阵进行转换,得到视线直线方程,最后在世界坐标系中,获取目标点所在平面的平面方程,并通过视线直线方程及平面方程,得到目标点的世界坐标,因此,与现有技术相比,本发明实施例无需两个单目摄像机,简化定位系统,操作简单,且不涉及图像特征点的匹配和最优距离的测算,简化处理算法,降低对硬件设备的要求。
本发明实施例提供了另一种基于单目视觉定位的机械臂控制方法,应用于单目视觉定位的机械臂控制系统,系统包括机械臂及安装在机械臂末端的单目像机,如图2所示,该方法包括:
步骤201:建立像素坐标系、机械臂末端相机坐标系和世界坐标系。
其中,世界坐标系可以根据目标物体的实际位置进行构建,以图3为例,目标物体为茶杯,茶杯放置在工作台上,世界坐标系的X轴和Y轴所形成的平面与工作台的上表面相平行,世界坐标系的Z轴与工作台的上表面相垂直,即坐标系Ob-XbYbZb。
相机坐标系的建立为在空间中,以将单目相机的光心,即单目像机的光轴中心确定为相机坐标系的原点,ZC轴与相机光轴重合,并且垂直于成像平面,且取摄影方向为正方向,从而建立相机坐标系OC-XCYCZC。相机坐标系的建立为在单目相机采集的图像平面上,可以图像平面左上角顶点确定为像坐标系的原点,以水平线和竖直线分别确定为u轴和v轴,从而建立像素坐标系,像素坐标系以像素点数量为坐标系单位。
步骤202:获取目标物体的目标点在像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵。
其中,目标物体为机械臂所操作的物体,目标点为目标物体上的特定点,一般为目标物体的中心点,以图3为例,目标物体为茶杯,并且将茶杯的杯口的中心点确定为目标点。
相机内参数矩阵和相机外参数矩阵可由单目相机采集多个标定板的图像,利用图像集对单目相机进行标定而得。具体地标定过程为:将单目相机对焦到棋盘格标定板上,棋盘格尺寸已知,通过不同角度对标定板进行拍摄,提取每个标定板图像中标定板的角点在图像中的像素位置,然后根据标定板的角点在图像中的像素位置和标定板的参数,然后利用张氏标定法进行相机标定,得到相机内参数矩阵。
目标物体为机械臂所操作的物体,目标点为目标物体上的特定点,一般为目标物体的中心点。相机内参数矩阵可由相机标定获得。
步骤203:根据目标点的像素坐标和相机的内参数矩阵,得到目标点在相机坐标系下的三维坐标表达式,目标点在相机坐标系下的三维坐标表达式为其中,为目标点的像素坐标,s为齐次变换匹配系数,为相机内参数矩阵,fx为像素平面X轴的焦距系数,fy为像素平面y轴的焦距系数,α为像素平面x轴的偏移量,β为像素平面y轴的偏移量,为目标点在相机坐标系下的三维坐标。
步骤204:根据目标点在相机坐标系下的三维坐标表达式,得到目标点相对于相机坐标系的视线向量,视线向量为
步骤205:根据相机外参数矩阵、机械臂末端相对于世界坐标系的齐次变换矩阵,按照如下公式,得到相机坐标系相对于世界坐标系的齐次变换矩阵;
机械臂末端相对于世界坐标系的齐次变换矩阵可基于机械臂运动学求解而得。机械臂运动学根据已知机械臂的各个关节角,计算机械臂末端相对于世界坐标系的位姿。具体地,机械臂运动学建模采用D-H四参数法,D-H四参数法是一种建立相对位姿的矩阵方法。利用齐次变换描述各个连杆相对于固定参考坐标系的空间几何关系,用一个4×4的齐次变换矩阵描述相邻两连杆的空间关系,推导出机械臂末端相对于世界坐标系的齐次变换矩阵
步骤206:根据相机坐标系相对于世界坐标系的齐次变换矩阵及目标点相对于相机坐标系的视线向量,按照如下公式,得到目标点相对于世界坐标系的视线向量;
其中,为目标点相对于世界坐标系的视线向量,为目标点在世界坐标系x轴的投影值,为目标点在世界坐标系y轴的投影值,为目标点在世界坐标系z轴的投影值,相机为相机坐标系相对于世界坐标系的齐次变换矩阵,为目标点相对于世界坐标系的视线向量,为目标点在相机坐标系X轴的投影值,为目标点在相机坐标系y轴的投影值,为目标点在相机坐标系z轴的投影值。
步骤207:根据相机坐标系相对于世界坐标系的齐次变换矩阵,得到相机原点在世界坐标系下的坐标。
步骤208:根据相机原点坐标和目标点相对于世界坐标系的视线向量,得到视线直线方程。
视线直线方程为其中,x、y和z为视线方程上的点的坐标,为目标点在世界坐标系x轴的投影值,为目标点在世界坐标系y轴的投影值,为目标点在世界坐标系z轴的投影值,t为因变量,xc、yc和zc为相机原点在世界坐标系下的坐标。
步骤209:在世界坐标系中,获取目标点所在平面的平面方程。
以图3为例,目标点所在的平面为茶杯杯口所在的平面,其平面方程为Z=H+h,其中,H为工作台上表面在世界坐标系中的高度,h为茶杯杯口所在平面在世界坐标系中的高度。
步骤210:根据视线直线方程及平面方程,得到目标点的世界坐标。
继续以图3为例,将步骤208的视线直线方程与平面方程联立,最后
z=H+h
步骤211:根据目标点的世界坐标,控制机械臂按照预设策略对物体进行操作。
预设策略可根据实际需求由工作人员设定,例如对目标点进行抓取等,以茶杯为例,预设策略可为对茶杯进行抓取,或者对茶杯进行注水等。
本发明实施例提供了一种基于单目视觉定位的机械臂控制方法,首先获取目标物体的目标点在像素坐标系下的像素坐标,然后利用相机坐标系相对于机械臂末端的齐次变换矩阵及机械臂末端相对于世界坐标系的齐次变换矩阵进行转换,得到视线直线方程,最后在世界坐标系中,获取目标点所在平面的平面方程,并通过视线直线方程及平面方程,得到目标点的世界坐标,因此,与现有技术相比,本发明实施例无需两个单目摄像机,简化定位系统,操作简单,且不涉及图像特征点的匹配和最优距离的测算,简化处理算法,降低对硬件设备的要求。
进一步的,作为对上述图1所示方法的实现,本发明实施例提供了一种基于单目视觉定位的机械臂控制装置,如图4所示,该装置包括:
坐标系构建模块401,用于建立像素坐标系、相机坐标系和世界坐标系;
第一获取模块402,用于获取目标物体的目标点在像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵;
视线向量确定模块403,用于根据目标点的像素坐标、相机的内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵,得到目标点相对于世界坐标系的视线向量;
视线直线方程确定模块404,用于根据相机坐标系相对于世界坐标系的齐次变换矩阵和目标点相对于世界坐标系的视线向量,得到视线直线方程;
第二获取模块405,用于在世界坐标系中,获取目标点所在平面的平面方程;
世界坐标确定模块406,用于根据视线直线方程及平面方程,得到目标点的世界坐标;
控制模块407,用于根据目标点的世界坐标,控制机械臂按照预设策略对物体进行操作。
进一步的,作为对上述图2所示方法的实现,本发明实施例提供了另一种装置,如图5所示,该装置包括:
坐标系构建模块501,用于建立像素坐标系、相机坐标系和世界坐标系;
第一获取模块502,用于获取目标物体的目标点在像素坐标系中的像素坐标、相机内参数矩阵和相机外参数矩阵;
视线向量确定模块503,用于根据目标点的像素坐标、相机的内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵,得到目标点相对于世界坐标系的视线向量;
视线直线方程确定模块504,用于根据相机坐标系相对于世界坐标系的齐次变换矩阵和目标点相对于世界坐标系的视线向量,得到视线直线方程;
第二获取模块505,用于在世界坐标系中,获取目标点所在平面的平面方程;
世界坐标确定模块506,用于根据视线直线方程及平面方程,得到目标点的世界坐标;
控制模块507,用于根据目标点的世界坐标,控制机械臂按照预设策略对物体进行操作。
进一步地,视线向量确定模块503包括:
视线向量确定单元5031,用于根据目标点的像素坐标和相机的内参数矩阵,得到目标点相对于相机坐标系的视线向量,视线向量的方向由相机坐标系的原点指向目标物体的中心;
视线向量转换单元5032,用于根据相机外参数矩阵、机械臂末端相对于世界坐标系的齐次变换矩阵及目标点相对于相机坐标系的视线向量,得到目标点相对于世界坐标系的视线向量。
进一步地,视线向量确定单元5031包括:
三位坐标表达式确定子单元50311,用于根据目标点的像素坐标和相机的内参数矩阵,得到目标点在相机坐标系下的三维坐标表达式,目标点在相机坐标系下的三维坐标表达式为其中,为目标点的像素坐标,s为齐次变换匹配系数,为相机内参数矩阵,fx为像素平面X轴的焦距系数,fy为像素平面y轴的焦距系数,α为像素平面x轴的偏移量,β为像素平面y轴的偏移量,为目标点在相机坐标系下的三维坐标。
视线向量计算子单元50312,用于根据目标点在相机坐标系下的三维坐标表达式,得到目标点相对于相机坐标系的视线向量,视线向量为
进一步地,视线向量转换单元5032包括:
齐次变换矩阵子确定单元50321,用于根据相机外参数矩阵、机械臂末端相对于世界坐标系的齐次变换矩阵,按照如下公式,得到相机坐标系相对于世界坐标系的齐次变换矩阵;
视线向量转换子单元50322,用于根据相机坐标系相对于世界坐标系的齐次变换矩阵及目标点相对于相机坐标系的视线向量,按照如下公式,得到目标点相对于世界坐标系的视线向量;
其中,为目标点相对于世界坐标系的视线向量,为目标点在世界坐标系x轴的投影值,为目标点在世界坐标系y轴的投影值,为目标点在世界坐标系z轴的投影值,相机为相机坐标系相对于世界坐标系的齐次变换矩阵,为目标点相对于世界坐标系的视线向量,为目标点在相机坐标系X轴的投影值,为目标点在相机坐标系y轴的投影值,为目标点在相机坐标系z轴的投影值。
进一步地,视线直线方程确定模块504包括:
相机原点坐标确定单元5041,用于根据相机坐标系相对于世界坐标系的齐次变换矩阵,得到相机原点在世界坐标系下的坐标。
视线直线方程确定单元5042,用于根据相机原点坐标和目标点相对于世界坐标系的视线向量,得到视线直线方程。
视线直线方程为其中,x、y和z为视线方程上的点的坐标,为目标点在世界坐标系x轴的投影值,为目标点在世界坐标系y轴的投影值,为目标点在世界坐标系z轴的投影值,t为因变量,xc、yc和zc为相机原点在世界坐标系下的坐标。
根据本发明一个实施例提供了一种存储介质,存储介质存储有至少一可执行指令,该计算机可执行指令可执行上述任意方法实施例中的基于单目视觉定位的机械臂控制方法。
图6示出了根据本发明一个实施例提供的一种计算机设备的结构示意图,本发明具体实施例并不对计算机设备的具体实现做限定。
如图6所示,该计算机设备可以包括:处理器(processor)602、通信接口(Communications Interface)604、存储器(memory)606、以及通信总线608。
其中:处理器602、通信接口604、以及存储器606通过通信总线608完成相互间的通信。
通信接口604,用于与其它设备比如客户端或其它服务器等的网元通信。
处理器602,用于执行程序610,具体可以执行上述基于单目视觉定位的机械臂控制方法实施例中的相关步骤。
具体地,程序610可以包括程序代码,该程序代码包括计算机操作指令。
处理器602可能是中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本发明实施例的一个或多个集成电路。计算机设备包括的一个或多个处理器,可以是同一类型的处理器,如一个或多个CPU;也可以是不同类型的处理器,如一个或多个CPU以及一个或多个ASIC。
存储器606,用于存放程序610。存储器606可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
程序610具体可以用于使得处理器602执行以下操作:
建立像素坐标系、机械臂末端相机坐标系和世界坐标系。
获取目标物体的目标点在像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和机械臂末端相对于世界坐标系的齐次变换矩阵。
目标物体为机械臂所操作的物体,目标点为目标物体上的特定点,一般为目标物体的中心点。相机内参数矩阵和相机外参数矩阵可由相机标定获得。
根据目标点的像素坐标和相机的内参数矩阵,得到目标点相对于相机坐标系的视线向量,视线向量的方向由相机坐标系的原点指向目标物体的中心。
根据相机外参数矩阵机械臂末端、机械臂末端相对于世界坐标系的齐次变换矩阵及目标点相对于相机坐标系的视线向量,得到目标点相对于世界坐标系的视线向量。
相机坐标系相对于世界坐标系的齐次变换矩阵和目标点相对于世界坐标系的视线向量,得到视线直线方程。
在世界坐标系中,获取目标点所在平面的平面方程。
根据视线直线方程及平面方程,得到目标点的世界坐标。
根据目标点的世界坐标,控制机械臂按照预设策略对物体进行操作。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包括在本发明的保护范围之内。
Claims (10)
1.一种基于单目视觉定位的机械臂控制方法,应用于单目视觉定位的机械臂控制系统,所述系统包括机械臂及安装在所述机械臂末端的单目像机,其特征在于,包括:
建立像素坐标系、相机坐标系和世界坐标系;
获取目标物体的目标点在所述像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵;
根据所述目标点的像素坐标、相机的内参数矩阵、所述相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵,得到所述目标点相对于所述世界坐标系的视线向量;
根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵和所述目标点相对于所述世界坐标系的视线向量,得到视线直线方程;
在所述世界坐标系中,获取所述目标点所在平面的平面方程;
根据所述视线直线方程及所述平面方程,得到所述目标点的世界坐标;
根据所述目标点的世界坐标,控制所述机械臂按照预设策略对物体进行操作。
2.根据权利要求1所述的方法,其特征在于,所述根据所述目标点的像素坐标、相机的内参数矩阵、所述相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵,得到所述目标点相对于所述世界坐标系的视线向量包括:
根据所述目标点的像素坐标和相机的内参数矩阵,得到所述目标点相对于所述相机坐标系的视线向量,所述视线向量的方向由所述相机坐标系的原点指向所述目标物体的中心;
根据所述相机外参数矩阵、所述机械臂末端相对于所述世界坐标系的齐次变换矩阵及所述目标点相对于所述相机坐标系的视线向量,得到所述目标点相对于所述世界坐标系的视线向量。
3.根据权利要求2所述的方法,其特征在于,所述根据所述目标点的像素坐标和相机的内参数矩阵,得到所述目标点相对于所述相机坐标系的视线向量包括:
根据所述目标点的像素坐标和相机的内参数矩阵,得到所述目标点在相机坐标系下的三维坐标表达式,所述目标点在相机坐标系下的三维坐标表达式为其中,为所述目标点的像素坐标,s为齐次变换匹配系数,为相机内参数矩阵,fx为像素平面X轴的焦距系数,fy为像素平面y轴的焦距系数,α为像素平面x轴的偏移量,β为像素平面y轴的偏移量,为目标点在相机坐标系下的三维坐标;
根据所述目标点在相机坐标系下的三维坐标表达式,得到所述目标点相对于所述相机坐标系的视线向量,所述视线向量为
4.根据权利要求2所述的方法,其特征在于,所述根据所述相机外参数矩阵、所述机械臂末端相对于所述世界坐标系的齐次变换矩阵及所述目标点相对于所述相机坐标系的视线向量,得到所述目标点相对于所述世界坐标系的视线向量包括:
根据所述相机坐标系相对于所述机械臂末端的齐次变换矩阵、所述机械臂末端相对于所述世界坐标系的齐次变换矩阵,按照如下公式,得到所述相机坐标系相对于所述世界坐标系的齐次变换矩阵;
根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵及所述目标点相对于所述相机坐标系的视线向量,按照如下公式,得到所述目标点相对于所述世界坐标系的视线向量;
5.根据权利要求1所述的方法,其特征在于,所述根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵和所述目标点相对于所述世界坐标系的视线向量,得到视线直线方程包括:
根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵,得到相机原点在世界坐标系下的坐标;
根据所述相机原点坐标和所述目标点相对于所述世界坐标系的视线向量,得到视线直线方程。
7.一种基于单目视觉定位的机械臂控制装置,其特征在于,包括:
坐标系构建模块,用于建立像素坐标系、相机坐标系和世界坐标系;
第一获取模块,用于获取目标物体的目标点在所述像素坐标系中的像素坐标、相机内参数矩阵、相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵;
视线向量确定模块,用于根据所述目标点的像素坐标、相机的内参数矩阵、所述相机外参数矩阵和所述机械臂末端相对于所述世界坐标系的齐次变换矩阵,得到所述目标点相对于所述世界坐标系的视线向量;
视线直线方程确定模块,用于根据所述相机坐标系相对于所述世界坐标系的齐次变换矩阵和所述目标点相对于所述世界坐标系的视线向量,得到视线直线方程;
第二获取模块,用于在所述世界坐标系中,获取所述目标点所在平面的平面方程;
世界坐标确定模块,用于根据所述视线直线方程及所述平面方程,得到所述目标点的世界坐标;
控制模块,用于根据所述目标点的世界坐标,控制所述机械臂按照预设策略对物体进行操作。
8.根据权利要求7所述的装置,其特征在于,所述视线向量确定模块包括:
视线向量确定单元,用于根据目标点的像素坐标和相机的内参数矩阵,得到目标点相对于相机坐标系的视线向量,视线向量的方向由相机坐标系的原点指向目标物体的中心;
视线向量转换单元,用于根据相机外参数矩阵、机械臂末端相对于世界坐标系的齐次变换矩阵及目标点相对于相机坐标系的视线向量,得到目标点相对于世界坐标系的视线向量。
9.一种存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如权利要求1-6中任一项所述的基于单目视觉定位的机械臂控制方法对应的操作。
10.一种计算机设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1-6中任一项所述的基于单目视觉定位的机械臂控制方法对应的操作。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010349776.XA CN111673735A (zh) | 2020-04-28 | 2020-04-28 | 一种基于单目视觉定位的机械臂控制方法及装置 |
SG11202113181UA SG11202113181UA (en) | 2020-04-28 | 2020-08-26 | Mechanical arm control method and device based on monocular vision positioning |
PCT/CN2020/111190 WO2021217976A1 (zh) | 2020-04-28 | 2020-08-26 | 一种基于单目视觉定位的机械臂控制方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010349776.XA CN111673735A (zh) | 2020-04-28 | 2020-04-28 | 一种基于单目视觉定位的机械臂控制方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111673735A true CN111673735A (zh) | 2020-09-18 |
Family
ID=72452610
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010349776.XA Pending CN111673735A (zh) | 2020-04-28 | 2020-04-28 | 一种基于单目视觉定位的机械臂控制方法及装置 |
Country Status (3)
Country | Link |
---|---|
CN (1) | CN111673735A (zh) |
SG (1) | SG11202113181UA (zh) |
WO (1) | WO2021217976A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113112545A (zh) * | 2021-04-15 | 2021-07-13 | 西安电子科技大学 | 基于计算机视觉的手持移动打印装置定位方法 |
CN113407030A (zh) * | 2021-06-25 | 2021-09-17 | 浙江商汤科技开发有限公司 | 视觉定位方法及相关装置、设备和存储介质 |
CN113781575A (zh) * | 2021-08-09 | 2021-12-10 | 上海奥视达智能科技有限公司 | 一种相机参数的标定方法、装置、终端和存储介质 |
CN114332231A (zh) * | 2022-03-04 | 2022-04-12 | 成都创像科技有限公司 | 视觉检测设备中机械手与相机的定位方法、装置及介质 |
CN115564836A (zh) * | 2022-11-10 | 2023-01-03 | 凌度(广东)智能科技发展有限公司 | 幕墙机器人的单目坐标转换方法、装置及电子设备 |
CN115781665A (zh) * | 2022-11-01 | 2023-03-14 | 深圳史河机器人科技有限公司 | 一种基于单目相机的机械臂控制方法、装置及存储介质 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113959345A (zh) * | 2021-11-17 | 2022-01-21 | 浙江浙能技术研究院有限公司 | 一种基于机器视觉的电站承压部件膨胀监测装置及方法 |
CN114055501A (zh) * | 2021-11-17 | 2022-02-18 | 长春理工大学 | 一种机器人抓取系统及其控制方法 |
CN114378822B (zh) * | 2022-01-19 | 2023-09-01 | 合肥工业大学 | 一种基于视觉的机器人机械臂末端位姿的调整方法 |
CN114683214B (zh) * | 2022-03-30 | 2024-09-17 | 武汉海微科技股份有限公司 | 一种车载屏幕壳体自动化打螺丝的视觉定位方法 |
CN114782533B (zh) * | 2022-04-19 | 2023-05-23 | 常州机电职业技术学院 | 一种基于单目视觉的线缆盘轴位姿确定方法 |
CN115070769B (zh) * | 2022-07-14 | 2024-09-10 | 中国科学院沈阳自动化研究所 | 一种大型重载液压机械臂的增量式运动控制方法 |
CN115556109B (zh) * | 2022-10-24 | 2024-06-11 | 深圳市通用测试系统有限公司 | 一种测试系统中机械臂的定位方法和装置 |
CN115578677B (zh) * | 2022-10-28 | 2023-04-18 | 众芯汉创(北京)科技有限公司 | 一种基于视频流的隐患抓拍和识别的智能装置 |
CN116408800B (zh) * | 2023-03-27 | 2024-01-09 | 中铁隧道局集团有限公司 | 一种基于孔位坐标的锚杆台车自动定位方法 |
CN116912333B (zh) * | 2023-09-12 | 2023-12-26 | 安徽炬视科技有限公司 | 一种基于作业围栏标定杆的相机姿态自标定方法 |
CN117290980B (zh) * | 2023-11-27 | 2024-02-02 | 江西格如灵科技股份有限公司 | 一种基于Unity平台的机械臂仿真方法及系统 |
CN117817667B (zh) * | 2024-01-26 | 2024-06-25 | 合肥工业大学 | 一种基于svd分解法的机械臂末端姿态调整方法 |
CN118181300B (zh) * | 2024-05-13 | 2024-08-02 | 广东电网有限责任公司佛山供电局 | 一种验电接地机器人的作业对象定位方法、装置和巡检系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103471500B (zh) * | 2013-06-05 | 2016-09-21 | 江南大学 | 一种单目机器视觉中平面坐标与空间三维坐标点的转换方法 |
JP2017071033A (ja) * | 2015-10-09 | 2017-04-13 | キヤノン株式会社 | 作業用基準物体、作業用基準物体の製造方法、ロボットアームの調整方法、ビジョンシステム、ロボット装置、及び指標用部材 |
CN107883929B (zh) * | 2017-09-22 | 2020-01-31 | 中冶赛迪技术研究中心有限公司 | 基于多关节机械臂的单目视觉定位装置及方法 |
CN108920996A (zh) * | 2018-04-10 | 2018-11-30 | 泰州职业技术学院 | 一种基于机器人视觉的小目标检测方法 |
JP7237483B2 (ja) * | 2018-07-18 | 2023-03-13 | キヤノン株式会社 | ロボットシステムの制御方法、制御プログラム、記録媒体、制御装置、ロボットシステム、物品の製造方法 |
CN109472829B (zh) * | 2018-09-04 | 2022-10-21 | 顺丰科技有限公司 | 一种物体定位方法、装置、设备和存储介质 |
CN109961485A (zh) * | 2019-03-05 | 2019-07-02 | 南京理工大学 | 一种基于单目视觉进行目标定位的方法 |
CN110370286B (zh) * | 2019-08-13 | 2022-04-12 | 西北工业大学 | 基于工业机器人和单目相机的定轴运动刚体空间位置识别方法 |
-
2020
- 2020-04-28 CN CN202010349776.XA patent/CN111673735A/zh active Pending
- 2020-08-26 WO PCT/CN2020/111190 patent/WO2021217976A1/zh active Application Filing
- 2020-08-26 SG SG11202113181UA patent/SG11202113181UA/en unknown
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113112545A (zh) * | 2021-04-15 | 2021-07-13 | 西安电子科技大学 | 基于计算机视觉的手持移动打印装置定位方法 |
CN113112545B (zh) * | 2021-04-15 | 2023-03-21 | 西安电子科技大学 | 基于计算机视觉的手持移动打印装置定位方法 |
CN113407030A (zh) * | 2021-06-25 | 2021-09-17 | 浙江商汤科技开发有限公司 | 视觉定位方法及相关装置、设备和存储介质 |
CN113407030B (zh) * | 2021-06-25 | 2023-08-25 | 浙江商汤科技开发有限公司 | 视觉定位方法及相关装置、设备和存储介质 |
CN113781575A (zh) * | 2021-08-09 | 2021-12-10 | 上海奥视达智能科技有限公司 | 一种相机参数的标定方法、装置、终端和存储介质 |
CN113781575B (zh) * | 2021-08-09 | 2024-01-12 | 上海奥视达智能科技有限公司 | 一种相机参数的标定方法、装置、终端和存储介质 |
CN114332231A (zh) * | 2022-03-04 | 2022-04-12 | 成都创像科技有限公司 | 视觉检测设备中机械手与相机的定位方法、装置及介质 |
CN114332231B (zh) * | 2022-03-04 | 2022-06-14 | 成都创像科技有限公司 | 视觉检测设备中机械手与相机的定位方法、装置及介质 |
CN115781665A (zh) * | 2022-11-01 | 2023-03-14 | 深圳史河机器人科技有限公司 | 一种基于单目相机的机械臂控制方法、装置及存储介质 |
CN115781665B (zh) * | 2022-11-01 | 2023-08-08 | 深圳史河机器人科技有限公司 | 一种基于单目相机的机械臂控制方法、装置及存储介质 |
CN115564836A (zh) * | 2022-11-10 | 2023-01-03 | 凌度(广东)智能科技发展有限公司 | 幕墙机器人的单目坐标转换方法、装置及电子设备 |
CN115564836B (zh) * | 2022-11-10 | 2023-03-17 | 凌度(广东)智能科技发展有限公司 | 幕墙机器人的单目坐标转换方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2021217976A1 (zh) | 2021-11-04 |
SG11202113181UA (en) | 2021-12-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111673735A (zh) | 一种基于单目视觉定位的机械臂控制方法及装置 | |
CN110355755B (zh) | 机器人手眼系统标定方法、装置、设备及存储介质 | |
CN107255476B (zh) | 一种基于惯性数据和视觉特征的室内定位方法和装置 | |
JP6622503B2 (ja) | カメラモデルパラメータ推定装置及びそのプログラム | |
CN111151463B (zh) | 一种基于3d视觉的机械臂分拣抓取系统及方法 | |
CN111801198A (zh) | 一种手眼标定方法、系统及计算机存储介质 | |
JP2018111140A (ja) | 画像処理システム、画像処理装置、ワークのピックアップ方法、および、ワークのピックアッププログラム | |
CN113256718B (zh) | 定位方法和装置、设备及存储介质 | |
CN113643384B (zh) | 坐标系标定方法、自动组装方法及装置 | |
CN115861445B (zh) | 一种基于标定板三维点云的手眼标定方法 | |
CN114310901B (zh) | 用于机器人的坐标系标定方法、装置、系统以及介质 | |
WO2020063058A1 (zh) | 一种多自由度可动视觉系统的标定方法 | |
CN111968180A (zh) | 基于参考平面的高精度物体多自由度姿态估计方法及系统 | |
JP7427370B2 (ja) | 撮像装置、画像処理装置、画像処理方法、撮像装置の校正方法、ロボット装置、ロボット装置を用いた物品の製造方法、制御プログラムおよび記録媒体 | |
CN116749198A (zh) | 一种基于双目立体视觉引导机械臂抓取方法 | |
CN116188591A (zh) | 多相机全局标定方法及装置、电子设备 | |
CN111666935A (zh) | 物品中心定位方法、装置以及物流系统和存储介质 | |
CN116242319A (zh) | 一种大范围运动物体的高精度双目视觉测量方法及装置 | |
CN113592956B (zh) | 一种基于显微检测机台的多镜头联合标定方法和装置 | |
CN115619877A (zh) | 单目线激光传感器与二轴机床系统的位置关系标定方法 | |
CN113870364B (zh) | 一种自适应的双目相机标定方法 | |
CN113255662A (zh) | 一种基于视觉成像的定位矫正方法、系统、设备及存储介质 | |
CN114359365A (zh) | 一种具有高分辨率的汇聚式双目视觉测量方法 | |
CN117455984B (zh) | 随臂式相机采集点的确定方法及装置 | |
CN112446928B (zh) | 一种拍摄装置的外参确定系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200918 |
|
RJ01 | Rejection of invention patent application after publication |