CN111966041A - 机器人的控制方法和装置 - Google Patents

机器人的控制方法和装置 Download PDF

Info

Publication number
CN111966041A
CN111966041A CN202010872846.XA CN202010872846A CN111966041A CN 111966041 A CN111966041 A CN 111966041A CN 202010872846 A CN202010872846 A CN 202010872846A CN 111966041 A CN111966041 A CN 111966041A
Authority
CN
China
Prior art keywords
target
template
image
target object
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010872846.XA
Other languages
English (en)
Other versions
CN111966041B (zh
Inventor
胡余生
刘志昌
陶旭蕾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gree Electric Appliances Inc of Zhuhai
Original Assignee
Gree Electric Appliances Inc of Zhuhai
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gree Electric Appliances Inc of Zhuhai filed Critical Gree Electric Appliances Inc of Zhuhai
Priority to CN202010872846.XA priority Critical patent/CN111966041B/zh
Publication of CN111966041A publication Critical patent/CN111966041A/zh
Application granted granted Critical
Publication of CN111966041B publication Critical patent/CN111966041B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/19Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/35Nc in input of data, input till input file format
    • G05B2219/35349Display part, programmed locus and tool path, traject, dynamic locus

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Image Analysis (AREA)
  • Manipulator (AREA)

Abstract

本申请公开了一种机器人的控制方法和装置。该方法包括:在检测到流水线上的目标物体触发光电开关后,采用相机对目标物体进行拍照,得到目标图像;基于目标图像确定目标物体的位置;根据目标物体的位置,确定在目标时间范围内目标物体在流水线上的移动距离;根据移动距离确定机器人的抓放点,以控制机器人在抓放点对目标物体进行装配。通过本申请,解决了相关技术中机器人的控制方式,导致生产效率较低的问题。

Description

机器人的控制方法和装置
技术领域
本申请涉及机器人控制技术领域,具体而言,涉及一种机器人的控制方法和装置。
背景技术
传统的机器人在工业生产中,由于物体的位置不定,要将其抓取、搬运或装配到指定位置需要人工辅助。或者,在机器人需要抓取物体时,需要将工业流水化生产过程中暂停,然后在抓取物体之后,再启动流水线的运行,该过程导致生产效率较低。
针对相关技术中机器人的控制方式,导致生产效率较低的问题,目前尚未提出有效的解决方案。
发明内容
本申请的主要目的在于提供一种机器人的控制方法和装置,以解决相关技术中机器人的控制方式,导致生产效率较低的问题。
为了实现上述目的,根据本申请的一个方面,提供了一种机器人的控制方法。该方法包括:在检测到流水线上的目标物体触发光电开关后,采用相机对所述目标物体进行拍照,得到目标图像;基于所述目标图像确定所述目标物体的位置;根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离;根据所述移动距离确定机器人的抓放点,以控制所述机器人在所述抓放点对所述目标物体进行装配。
进一步地,在检测到流水线上的目标物体触发光电开关后,对所述目标物体进行拍照,得到目标图像之前,所述方法还包括:将所述相机与所述机器人进行手眼标定,以统一所述相机的坐标系和所述机器人的坐标系。
进一步地,基于所述目标图像确定所述目标物体的位置包括:采用模板匹配定位算法,基于所述目标图像确定所述目标物体的位置。
进一步地,采用模板匹配定位算法,基于所述目标图像确定所述目标物体的位置包括:从所述目标图像中获取模板图像,其中,所述模板图像是需要在所述目标图像中待定位的区域图像;对所述模板图像进行图像去噪处理;从去噪处理后的模板图像中确定模板特征点;对所述模板特征点进行梯度方向量化,确定所述模板特征点所属的梯度方向;将所述模板特征点所属的梯度方向作为匹配特征,计算所述模板图像和所述目标图像的相似度;基于所述模板图像和所述目标图像的相似度确定所述目标物体的位置。
进一步地,从去噪处理后的模板图像中确定模板特征点包括:采用高斯金字塔对去噪处理后的模板图像进行分层处理;利用sobel边缘检测算子分别对分层后的图像进行卷积处理,得到图像中每个像素点处x和y方向上的偏导数dx和dy;依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度值;将所述模板图像中每个预设像素点区域内梯度值最大的点作为模板特征点,得到多个模板特征点。
进一步地,对所述模板特征点进行梯度方向量化,确定所述模板特征点所属的梯度方向包括:依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度方向角度;基于每个像素点的梯度方向角度进行梯度方向量化,将所有像素点的梯度方向划分为预设数量个方向;统计所述模板图像中目标区域内各个像素点的梯度方向的数目;将目标梯度方向作为所述模板特征点所属的梯度方向,其中,所述目标梯度方向是在所述目标区域内统计出的数目最多的梯度方向。
进一步地,采用相机对所述目标物体进行拍照,得到目标图像之前,所述方法还包括:分别将所述目标物体置于所述相机视野的不同角度处,分别拍摄预设数量的图像;将所述预设数量的图像为备用模板;基于所述模板图像和所述目标图像的相似度确定所述目标物体的位置包括:若所述模板图像和所述目标图像的相似度小于预设相似度,则采用所述模板图像对应的备用模板,对所述模板图像进行定位,以确定所述目标物体的位置。
进一步地,根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离包括:利用编码器计算所述流水线运动的速度;结合视觉检测时间和所述机器人运动节拍确定所述目标时间范围;根据所述流水线运动的速度和所述目标时间范围,计算所述目标物体在所述流水线上的移动距离。
为了实现上述目的,根据本申请的另一方面,提供了一种机器人的控制装置。该装置包括:获取单元,用于在检测到流水线上的目标物体触发光电开关后,采用相机对所述目标物体进行拍照,得到目标图像;第一确定单元,用于基于所述目标图像确定所述目标物体的位置;第二确定单元,用于根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离;第三确定单元,用于根据所述移动距离确定机器人的抓放点,以控制所述机器人在所述抓放点对所述目标物体进行装配。
为了实现上述目的,根据本申请的另一方面,提供了一种计算机可读的存储介质,所述存储介质包括存储的程序,其中,所述程序执行上述任意一项所述的机器人的控制方法。
为了实现上述目的,根据本申请的另一方面,提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行上述任意一项所述的机器人的控制方法。
通过本申请,采用以下步骤:在检测到流水线上的目标物体触发光电开关后,采用相机对目标物体进行拍照,得到目标图像;基于目标图像确定目标物体的位置;根据目标物体的位置,确定在目标时间范围内目标物体在流水线上的移动距离;根据移动距离确定机器人的抓放点,以控制机器人在抓放点对目标物体进行装配,解决了相关技术中机器人的控制方式,导致生产效率较低的问题,通过本申请,实现了机器人在流水线上动态抓取,提高机器人灵活性,提高生产效率。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例提供的机器人的控制方法的流程图;
图2是根据本申请实施例提供的基于视觉工业机器人抓取系统的示意图;
图3根据本申请实施例提供的机器人的控制方法中基于梯度方向的模板匹配的流程图;
图4是根据本申请实施例提供的机器人的控制方法中预估抓放点的示意图;
图5是根据本申请实施例提供的可选的机器人的控制方法的流程图;
图6是根据本申请实施例提供的存在高度差物体在相机下的定位偏差的示意图;
图7是根据本申请实施例提供的机器人的控制装置的示意图;
附图标记说明:
1-电机;2-编码器;3-工控机;4-光电开关;5-相机;6-光源;7-包装盒;8-工业机器人;9-工件;10-流水线;11-运动控制器。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
图1为本发明提出一种基于机器视觉的工业机器人抓取系统示意图,包括电机1、编码器2、工控机3、光电开关4、相机5、光源6、包装盒7、工业机器人8、工件9、流水线10和运动控制器11。工控机3分别控制相机5、光源6、光电开关4和运动控制器11,其中相机5和光源6位于流水线10的正上方。运动控制器11与编码器2、电机1和工业机器人8相连,分别控制电机1带动流水线10运动、工业机器人8。工业机器人8在视觉定位下抓取工件9到包装盒7中,实现工件的打包装配。
本发明提出的基于机器视觉的工业机器人抓取系统,在对图像定位识别时,一般采用模板匹配定位的方法,为了提高模板匹配算法的稳定性和鲁棒性,本发明提出了一种基于梯度方向的模板匹配方法。本方法利用图像梯度方向为特征的模板匹配方法,主要选取特征点的梯度方向,制作不同旋转角度、尺寸的模板,然后在目标图像中进行模板匹配。因为在光照变化时,图像边缘处的梯度值会随之改变,但梯度方向并不会发生变化,所以利用梯度方向作为模板特征将提高模板匹配算法的稳定性和鲁棒性。
下面结合优选的实施步骤对本发明进行说明,图2是根据本申请实施例提供的机器人的控制方法的流程图,如图2所示,该方法包括如下步骤:
步骤S101,在检测到流水线上的目标物体触发光电开关后,采用相机对目标物体进行拍照,得到目标图像。
当如图1所示出的流水线10上的包装盒7(对应上述的目标物体)触发光电开关4后,相机5被触发进行拍照,得到目标图像。
可选地,在本申请实施例提供的机器人的控制方法中,在检测到流水线上的目标物体触发光电开关后,对目标物体进行拍照,得到目标图像之前,该方法还包括:将相机与机器人进行手眼标定,以统一相机的坐标系和机器人的坐标系。
通过上述方案,利用手眼标定统一相机坐标系和机器人坐标系,以便基于相机拍得的图片对目标物体定位更加准确。
步骤S102,基于目标图像确定目标物体的位置。
采用模板匹配定位算法,基于目标图像确定目标物体的位置。
可选地,在本申请实施例提供的机器人的控制方法中,采用模板匹配定位算法,基于目标图像确定目标物体的位置包括:从目标图像中获取模板图像,其中,模板图像是需要在目标图像中待定位的区域图像;对模板图像进行图像去噪处理;从去噪处理后的模板图像中确定模板特征点;对模板特征点进行梯度方向量化,确定模板特征点所属的梯度方向;将模板特征点所属的梯度方向作为匹配特征,计算模板图像和目标图像的相似度;基于模板图像和目标图像的相似度确定目标物体的位置。
在上述方案中,如图3所示,通过相机采集的图片获取模板图像和目标图像,其中,模板图像可以从目标图像中框选ROI(感兴趣区域)来获得,模板图像是需要在目标图像中待定位的区域。利用高斯滤波对模板图像中的噪声进行去噪,从去噪处理后的模板图像中确定模板特征点;对模板特征点进行梯度方向量化,确定模板特征点所属的梯度方向;将模板特征点所属的梯度方向作为匹配特征,计算模板图像和目标图像的相似度;基于模板图像和目标图像的相似度确定目标物体的位置。
其中,根据相似度函数计算模板图像和目标图像的相似度及候选位置,算法采用梯度方向作为匹配特征,因此需要对模板图像的梯度方向特征和目标图像梯度方向特征进行相似度量,相似性度量公式为:
Figure BDA0002651697210000051
t∈R(c+r)
其中,
Figure BDA0002651697210000052
其中,ε(I,T,c):相似度量值;I:目标图像;c:目标图像上特征点的位置;O:模板图像;r:模板图像上特征点的位置;P:模板图像O中所有提取特征点位置的集合;T:目标图像I中r处为中心的邻域大小;ori(O,r):模板图像O上r处的梯度方向;ori(I,t):目标图像I上c处偏移r的梯度方向。
可选地,在本申请实施例提供的机器人的控制方法中,从去噪处理后的模板图像中确定模板特征点包括:采用高斯金字塔对去噪处理后的模板图像进行分层处理;利用sobel边缘检测算子分别对分层后的图像进行卷积处理,得到图像中每个像素点处x和y方向上的偏导数dx和dy;依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度值;将模板图像中每个预设像素点区域内梯度值最大的点作为模板特征点,得到多个模板特征点。
在上述方案中,采用高斯金字塔对模板图像进行分层处理;利用sobel算子分别对分层后的图像进行卷积处理,得到图像上每个像素点处x和y方向上的偏导数dx和dy。然后计算每个像素点的梯度值
Figure BDA0002651697210000061
选取模板图像中每个像素点5x5区域(对应上述的预设像素点区域)内梯度值最大的点作为模板特征点。
可选地,在本申请实施例提供的机器人的控制方法中,对模板特征点进行梯度方向量化,确定模板特征点所属的梯度方向包括:依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度方向角度;基于每个像素点的梯度方向角度进行梯度方向量化,将所有像素点的梯度方向划分为预设数量个方向;统计模板图像中目标区域内各个像素点的梯度方向的数目;将目标梯度方向作为模板特征点所属的梯度方向,其中,目标梯度方向是在目标区域内统计出的数目最多的梯度方向。
在上述方案中,计算每个像素点的梯度方向角度θ=arctan(dy/dx)。为了量化梯度方向图,在本申请中考虑了梯度方向,并将梯度方向量化为n等份,这种提取特征的方式对于梯度起到了主成分提取和放大的效果。例如,这里梯度角度划分为八个方向,按照就近原则将梯度角度分为0°,22.5°,45°,67.5°,90°,112.5°,135°,157.5°八个方向。通过统计图像中3x3领域(对应上述的目标区域)内每个像素点的量化梯度方向的数目(对应上述的预设数量个方向),保留数目最多的梯度方向(对应上述的目标梯度方向),将其作为模板特征点所属的梯度方向,使得梯度量化具有鲁棒性。
在本申请中还提出一种打分机制,一个模板特征点包含三个变量信息,x、y坐标和梯度方向,当模板特征点梯度方向和对应目标图像点的梯度方向一致时,加4分;方向相差22.5度,加1分;方向相差67.5和90度时,加0分。这样完全匹配的物体期望得分是100分,对于随机物体的期望得分是25分。按照这种打分机制,随机物体的匹配得分会小于正太分布得到的50分,至于不一致还给一分是因为方向有可能在交界处左右摇摆。这样的话,误匹配只会出现在跟实际物体部分相似的地方。通过这种打分机制,仅需降低匹配阈值即可检测存在部分遮挡的物体,同时不会因为随机物体的影响带来误匹配。
步骤S103,根据目标物体的位置,确定在目标时间范围内目标物体在流水线上的移动距离。
可选地,在本申请实施例提供的机器人的控制方法中,根据目标物体的位置,确定在目标时间范围内目标物体在流水线上的移动距离包括:利用编码器计算流水线运动的速度;结合视觉检测时间和机器人运动节拍确定目标时间范围;根据流水线运动的速度和目标时间范围,计算目标物体在流水线上的移动距离。
利用编码器2计算出流水线运动的速度:
Figure BDA0002651697210000071
其中r为编码器码盘的半径,t的编码器转一圈所用的时间。结合相机的视觉检测时间和机器人运动节拍所需时间的总和T和计算出的流水线速度v,可以得出包装盒7时间T内在流水线10上移动的距离s=vT。
步骤S104,根据移动距离确定机器人的抓放点,以控制机器人在抓放点对目标物体进行装配。
例如,根据包装盒7在时间T内在流水线10上移动的距离预估机器人在流水线上的抓放点,如图4所示。通过运动控制器11控制工业机器人8提前移动到抓放点处等待抓取。由于流水线的速度不稳定,设置的待抓放点与光电开关4触发位置的距离s’大于计算出的移动距离s。利用编码器2实时记录包装盒7在触发拍照后移动的距离x,当x等于设置的s’时,即包装盒7位于工业机器人预估抓放点时,运动控制器11发送信号到工业机器人8,将工件9放入包装盒7中,完成流水线上工件的装配。
如图5所示,可选地,整个流程还可以如下:首先对相机和机器人之间进行手眼标定,然后利用模板匹配定位算法确定目标物体的位置,根据编码器计算目标物体的运动速度,结合视觉检测时间和机器人运动节拍,预估机器人在流水线上的抓放点,控制机器人提前移动到抓放点处等待,根据编码器计算目标物体的移动距离,待其位于机器人抓放点时,发送信号控制机器人抓取目标物体,以便对目标物体进行装配。
可选地,在本申请实施例提供的机器人的控制方法中,采用相机对目标物体进行拍照,得到目标图像之前,该方法还包括:分别将目标物体置于相机视野的不同角度处,分别拍摄预设数量的图像;将预设数量的图像为备用模板;基于模板图像和目标图像的相似度确定目标物体的位置包括:若模板图像和目标图像的相似度小于预设相似度,则采用模板图像对应的备用模板,对模板图像进行定位,以确定目标物体的位置。
由于在模板匹配时,一些目标物体可能会存在高度差,而相机拍摄的图像属于二维平面,当目标物体不在相机视野的正下方时,会造成模板匹配算法在检测时输出的结果与实际位置存在偏差,如图6所示。在本申请中提出一种建立备用模板的方法,也就是在相机视野的四个边缘的角点位置,分别对目标物体设定模板。分别将目标物体置于相机视野的四个角处,分别拍摄四副图像,设置四个备用模板,然后进行模板匹配定位。当目标物体位于相机视野的边缘位置时,正常模板匹配得分会偏低,通过设定模板匹配算法的得分阈值,当正常模板匹配得分小于60分时,即可采用与该位置对应的备用模板进行定位,进而减小存在高度差的物体在模板匹配过程中的定位偏差。
综上,在本申请中提出一种基于视觉的工业机器人定位抓取系统,结合机器视觉定位和编码器测速,实现工业机器人在流水线上动态抓取物体。利用图像的梯度方向特征进行模板匹配,并设定合理的梯度响应规则,提高视觉定位算法在光照不均和目标遮挡时的鲁棒性;同时本申请还提出一种备用模板方法,对于存在高度差的目标,提升了其在相机视野的边缘处的定位精度。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例还提供了一种机器人的控制装置,需要说明的是,本申请实施例的机器人的控制装置可以用于执行本申请实施例所提供的用于机器人的控制方法。以下对本申请实施例提供的机器人的控制装置进行介绍。
图7是根据本申请实施例的机器人的控制装置的示意图。如图7所示,该装置包括:获取单元701、第一确定单元702、第二确定单元703和第三确定单元704。
具体地,获取单元701,用于在检测到流水线上的目标物体触发光电开关后,采用相机对目标物体进行拍照,得到目标图像;
第一确定单元702,用于基于目标图像确定目标物体的位置;
第二确定单元703,用于根据目标物体的位置,确定在目标时间范围内目标物体在流水线上的移动距离;
第三确定单元704,用于根据移动距离确定机器人的抓放点,以控制机器人在抓放点对目标物体进行装配。
综上,本申请实施例提供的机器人的控制装置,通过获取单元701在检测到流水线上的目标物体触发光电开关后,采用相机对目标物体进行拍照,得到目标图像;第一确定单元702基于目标图像确定目标物体的位置;第二确定单元703根据目标物体的位置,确定在目标时间范围内目标物体在流水线上的移动距离;第三确定单元704根据移动距离确定机器人的抓放点,以控制机器人在抓放点对目标物体进行装配,解决了相关技术中机器人的控制方式,导致生产效率较低的问题,实现了机器人在流水线上动态抓取,提高机器人灵活性,提高生产效率。
可选地,在本申请实施例提供的机器人的控制装置中,该装置还包括:标定单元,用于在检测到流水线上的目标物体触发光电开关后,对目标物体进行拍照,得到目标图像之前,将相机与机器人进行手眼标定,以统一相机的坐标系和机器人的坐标系。
可选地,在本申请实施例提供的机器人的控制装置中,第一确定单元包括:确定子单元,用于采用模板匹配定位算法,基于目标图像确定目标物体的位置。
可选地,在本申请实施例提供的机器人的控制装置中,确定子单元包括:第一获取模块,用于从目标图像中获取模板图像,其中,模板图像是需要在目标图像中待定位的区域图像;第一处理模块,用于对模板图像进行图像去噪处理;第一确定模块,用于从去噪处理后的模板图像中确定模板特征点;第二确定模块,用于对模板特征点进行梯度方向量化,确定模板特征点所属的梯度方向;第一计算模块,用于将模板特征点所属的梯度方向作为匹配特征,计算模板图像和目标图像的相似度;第三确定模块,用于基于模板图像和目标图像的相似度确定目标物体的位置。
可选地,在本申请实施例提供的机器人的控制装置中,第一确定模块包括:第一处理子模块,用于采用高斯金字塔对去噪处理后的模板图像进行分层处理;第二处理子模块,用于利用sobel边缘检测算子分别对分层后的图像进行卷积处理,得到图像中每个像素点处x和y方向上的偏导数dx和dy;第一计算子模块,用于依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度值;获取子模块,用于将模板图像中每个预设像素点区域内梯度值最大的点作为模板特征点,得到多个模板特征点。
可选地,在本申请实施例提供的机器人的控制装置中,第二确定模块包括:第二计算子模块,用于依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度方向角度;第三处理子模块,用于基于每个像素点的梯度方向角度进行梯度方向量化,将所有像素点的梯度方向划分为预设数量个方向;统计子模块,用于统计模板图像中目标区域内各个像素点的梯度方向的数目;确定子模块,用于将目标梯度方向作为模板特征点所属的梯度方向,其中,目标梯度方向是在目标区域内统计出的数目最多的梯度方向。
可选地,在本申请实施例提供的机器人的控制装置中,该装置还包括:第四确定单元,用于采用相机对目标物体进行拍照,得到目标图像之前,分别将目标物体置于相机视野的不同角度处,分别拍摄预设数量的图像;将预设数量的图像为备用模板;第三确定模块还用于若模板图像和目标图像的相似度小于预设相似度,则采用模板图像对应的备用模板,对模板图像进行定位,以确定目标物体的位置。
可选地,在本申请实施例提供的机器人的控制装置中,第二确定单元703包括:第二计算模块,用于利用编码器计算流水线运动的速度;第四确定模块,用于结合视觉检测时间和机器人运动节拍确定目标时间范围;第三计算模块,用于根据流水线运动的速度和目标时间范围,计算目标物体在流水线上的移动距离。
所述机器人的控制装置包括处理器和存储器,上述获取单元701、第一确定单元702、第二确定单元703和第三确定单元704等均作为程序单元存储在存储器中,由处理器执行存储在存储器中的上述程序单元来实现相应的功能。
处理器中包含内核,由内核去存储器中调取相应的程序单元。内核可以设置一个或以上,通过调整内核参数来实现机器人在流水线上动态抓取,提高机器人灵活性,提高生产效率。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM),存储器包括至少一个存储芯片。
本发明实施例提供了一种计算机可读的存储介质,其上存储有程序,该程序被处理器执行时实现所述机器人的控制方法。
本发明实施例提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行所述机器人的控制方法。
本发明实施例提供了一种设备,设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序,处理器执行程序时实现以下步骤:在检测到流水线上的目标物体触发光电开关后,采用相机对所述目标物体进行拍照,得到目标图像;基于所述目标图像确定所述目标物体的位置;根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离;根据所述移动距离确定机器人的抓放点,以控制所述机器人在所述抓放点对所述目标物体进行装配。
处理器执行程序时还实现以下步骤:在检测到流水线上的目标物体触发光电开关后,对所述目标物体进行拍照,得到目标图像之前,所述方法还包括:将所述相机与所述机器人进行手眼标定,以统一所述相机的坐标系和所述机器人的坐标系。
处理器执行程序时还实现以下步骤:基于所述目标图像确定所述目标物体的位置包括:采用模板匹配定位算法,基于所述目标图像确定所述目标物体的位置。
处理器执行程序时还实现以下步骤:采用模板匹配定位算法,基于所述目标图像确定所述目标物体的位置包括:从所述目标图像中获取模板图像,其中,所述模板图像是需要在所述目标图像中待定位的区域图像;对所述模板图像进行图像去噪处理;从去噪处理后的模板图像中确定模板特征点;对所述模板特征点进行梯度方向量化,确定所述模板特征点所属的梯度方向;将所述模板特征点所属的梯度方向作为匹配特征,计算所述模板图像和所述目标图像的相似度;基于所述模板图像和所述目标图像的相似度确定所述目标物体的位置。
处理器执行程序时还实现以下步骤:从去噪处理后的模板图像中确定模板特征点包括:采用高斯金字塔对去噪处理后的模板图像进行分层处理;利用sobel边缘检测算子分别对分层后的图像进行卷积处理,得到图像中每个像素点处x和y方向上的偏导数dx和dy;依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度值;将所述模板图像中每个预设像素点区域内梯度值最大的点作为模板特征点,得到多个模板特征点。
处理器执行程序时还实现以下步骤:对所述模板特征点进行梯度方向量化,确定所述模板特征点所属的梯度方向包括:依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度方向角度;基于每个像素点的梯度方向角度进行梯度方向量化,将所有像素点的梯度方向划分为预设数量个方向;统计所述模板图像中目标区域内各个像素点的梯度方向的数目;将目标梯度方向作为所述模板特征点所属的梯度方向,其中,所述目标梯度方向是在所述目标区域内统计出的数目最多的梯度方向。
处理器执行程序时还实现以下步骤:采用相机对所述目标物体进行拍照,得到目标图像之前,所述方法还包括:分别将所述目标物体置于所述相机视野的不同角度处,分别拍摄预设数量的图像;将所述预设数量的图像为备用模板;基于所述模板图像和所述目标图像的相似度确定所述目标物体的位置包括:若所述模板图像和所述目标图像的相似度小于预设相似度,则采用所述模板图像对应的备用模板,对所述模板图像进行定位,以确定所述目标物体的位置。
处理器执行程序时还实现以下步骤:根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离包括:利用编码器计算所述流水线运动的速度;结合视觉检测时间和所述机器人运动节拍确定所述目标时间范围;根据所述流水线运动的速度和所述目标时间范围,计算所述目标物体在所述流水线上的移动距离。本文中的设备可以是服务器、PC、PAD、手机等。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (11)

1.一种机器人的控制方法,其特征在于,包括:
在检测到流水线上的目标物体触发光电开关后,采用相机对所述目标物体进行拍照,得到目标图像;
基于所述目标图像确定所述目标物体的位置;
根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离;
根据所述移动距离确定机器人的抓放点,以控制所述机器人在所述抓放点对所述目标物体进行装配。
2.根据权利要求1所述的方法,其特征在于,在检测到流水线上的目标物体触发光电开关后,对所述目标物体进行拍照,得到目标图像之前,所述方法还包括:
将所述相机与所述机器人进行手眼标定,以统一所述相机的坐标系和所述机器人的坐标系。
3.根据权利要求1所述的方法,其特征在于,基于所述目标图像确定所述目标物体的位置包括:
采用模板匹配定位算法,基于所述目标图像确定所述目标物体的位置。
4.根据权利要求3所述的方法,其特征在于,采用模板匹配定位算法,基于所述目标图像确定所述目标物体的位置包括:
从所述目标图像中获取模板图像,其中,所述模板图像是需要在所述目标图像中待定位的区域图像;
对所述模板图像进行图像去噪处理;
从去噪处理后的模板图像中确定模板特征点;
对所述模板特征点进行梯度方向量化,确定所述模板特征点所属的梯度方向;
将所述模板特征点所属的梯度方向作为匹配特征,计算所述模板图像和所述目标图像的相似度;
基于所述模板图像和所述目标图像的相似度确定所述目标物体的位置。
5.根据权利要求4所述的方法,其特征在于,从去噪处理后的模板图像中确定模板特征点包括:
采用高斯金字塔对去噪处理后的模板图像进行分层处理;
利用sobel边缘检测算子分别对分层后的图像进行卷积处理,得到图像中每个像素点处x和y方向上的偏导数dx和dy;
依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度值;
将所述模板图像中每个预设像素点区域内梯度值最大的点作为模板特征点,得到多个模板特征点。
6.根据权利要求4所述的方法,其特征在于,对所述模板特征点进行梯度方向量化,确定所述模板特征点所属的梯度方向包括:
依据每个像素点处x和y方向上的偏导数dx和dy,计算每个像素点的梯度方向角度;
基于每个像素点的梯度方向角度进行梯度方向量化,将所有像素点的梯度方向划分为预设数量个方向;
统计所述模板图像中目标区域内各个像素点的梯度方向的数目;
将目标梯度方向作为所述模板特征点所属的梯度方向,其中,所述目标梯度方向是在所述目标区域内统计出的数目最多的梯度方向。
7.根据权利要求4所述的方法,其特征在于,
采用相机对所述目标物体进行拍照,得到目标图像之前,所述方法还包括:分别将所述目标物体置于所述相机视野的不同角度处,分别拍摄预设数量的图像;将所述预设数量的图像为备用模板;
基于所述模板图像和所述目标图像的相似度确定所述目标物体的位置包括:若所述模板图像和所述目标图像的相似度小于预设相似度,则采用所述模板图像对应的备用模板,对所述模板图像进行定位,以确定所述目标物体的位置。
8.根据权利要求1所述的方法,其特征在于,根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离包括:
利用编码器计算所述流水线运动的速度;
结合视觉检测时间和所述机器人运动节拍确定所述目标时间范围;
根据所述流水线运动的速度和所述目标时间范围,计算所述目标物体在所述流水线上的移动距离。
9.一种机器人的控制装置,其特征在于,包括:
获取单元,用于在检测到流水线上的目标物体触发光电开关后,采用相机对所述目标物体进行拍照,得到目标图像;
第一确定单元,用于基于所述目标图像确定所述目标物体的位置;
第二确定单元,用于根据所述目标物体的位置,确定在目标时间范围内所述目标物体在所述流水线上的移动距离;
第三确定单元,用于根据所述移动距离确定机器人的抓放点,以控制所述机器人在所述抓放点对所述目标物体进行装配。
10.一种计算机可读的存储介质,其特征在于,所述存储介质包括存储的程序,其中,所述程序执行权利要求1至8中任意一项所述的机器人的控制方法。
11.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1至8中任意一项所述的机器人的控制方法。
CN202010872846.XA 2020-08-26 2020-08-26 机器人的控制方法和装置 Active CN111966041B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010872846.XA CN111966041B (zh) 2020-08-26 2020-08-26 机器人的控制方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010872846.XA CN111966041B (zh) 2020-08-26 2020-08-26 机器人的控制方法和装置

Publications (2)

Publication Number Publication Date
CN111966041A true CN111966041A (zh) 2020-11-20
CN111966041B CN111966041B (zh) 2021-10-08

Family

ID=73390755

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010872846.XA Active CN111966041B (zh) 2020-08-26 2020-08-26 机器人的控制方法和装置

Country Status (1)

Country Link
CN (1) CN111966041B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113589756A (zh) * 2021-10-08 2021-11-02 华兴源创(成都)科技有限公司 位移传感信号触发装置、设备、检测系统及相关方法
CN113847894A (zh) * 2021-09-23 2021-12-28 深圳市人工智能与机器人研究院 一种机器人多定位系统坐标统一方法及系统
CN114693798A (zh) * 2020-12-31 2022-07-01 北京小米移动软件有限公司 机械手控制方法及装置
CN115049861A (zh) * 2022-06-14 2022-09-13 广东天太机器人有限公司 一种工业机器人的自动修正打磨方法及系统
CN115599092A (zh) * 2022-09-07 2023-01-13 格力电器(武汉)有限公司(Cn) 一种工件搬运控制方法、装置、设备及存储介质
CN116986218A (zh) * 2022-06-21 2023-11-03 九众九机器人有限公司 一种应用于流水线的工业用品定位方法和流水线设备

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103895042A (zh) * 2014-02-28 2014-07-02 华南理工大学 一种基于视觉引导的工业机器人工件定位抓取方法及系统
CN105930858A (zh) * 2016-04-06 2016-09-07 吴晓军 一种带旋转、缩放的快速高精度几何模板匹配方法
CN106092086A (zh) * 2016-06-12 2016-11-09 哈尔滨工程大学 一种基于全景视觉的快速、高鲁棒性的机器人室内定位方法
CN106182004A (zh) * 2016-08-01 2016-12-07 上海交通大学 基于视觉引导的工业机器人自动销孔装配的方法
CN107009391A (zh) * 2017-04-24 2017-08-04 珠海格力智能装备有限公司 机器人抓取定位装置、机器人抓取系统以及抓取方法
CN107423770A (zh) * 2017-08-03 2017-12-01 广东顺德西安交通大学研究院 一种面向高速生产线的机器人视觉定位方法
CN107618030A (zh) * 2016-07-16 2018-01-23 深圳市得意自动化科技有限公司 基于视觉的机器人动态跟踪抓取方法及系统
CN108846369A (zh) * 2018-06-25 2018-11-20 上海第二工业大学 一种基于机器视觉的齿轮匹配系统及其匹配方法
CN110524301A (zh) * 2019-09-23 2019-12-03 珠海格力智能装备有限公司 电机定子加工定位的方法
CN110660104A (zh) * 2019-09-29 2020-01-07 珠海格力电器股份有限公司 工业机器人视觉识别定位抓取方法、计算机装置以及计算机可读存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103895042A (zh) * 2014-02-28 2014-07-02 华南理工大学 一种基于视觉引导的工业机器人工件定位抓取方法及系统
CN105930858A (zh) * 2016-04-06 2016-09-07 吴晓军 一种带旋转、缩放的快速高精度几何模板匹配方法
CN106092086A (zh) * 2016-06-12 2016-11-09 哈尔滨工程大学 一种基于全景视觉的快速、高鲁棒性的机器人室内定位方法
CN107618030A (zh) * 2016-07-16 2018-01-23 深圳市得意自动化科技有限公司 基于视觉的机器人动态跟踪抓取方法及系统
CN106182004A (zh) * 2016-08-01 2016-12-07 上海交通大学 基于视觉引导的工业机器人自动销孔装配的方法
CN107009391A (zh) * 2017-04-24 2017-08-04 珠海格力智能装备有限公司 机器人抓取定位装置、机器人抓取系统以及抓取方法
CN107423770A (zh) * 2017-08-03 2017-12-01 广东顺德西安交通大学研究院 一种面向高速生产线的机器人视觉定位方法
CN108846369A (zh) * 2018-06-25 2018-11-20 上海第二工业大学 一种基于机器视觉的齿轮匹配系统及其匹配方法
CN110524301A (zh) * 2019-09-23 2019-12-03 珠海格力智能装备有限公司 电机定子加工定位的方法
CN110660104A (zh) * 2019-09-29 2020-01-07 珠海格力电器股份有限公司 工业机器人视觉识别定位抓取方法、计算机装置以及计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
刘云: "基于机器视觉引导技术在工业机器人抓取系统研究与设计", 《电子制作》 *
荆鑫: "基于模板匹配的视觉分拣方法及应用研究", 《中国优秀硕士学位论文全文数据库》 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114693798A (zh) * 2020-12-31 2022-07-01 北京小米移动软件有限公司 机械手控制方法及装置
CN114693798B (zh) * 2020-12-31 2023-12-26 北京小米移动软件有限公司 机械手控制方法及装置
CN113847894A (zh) * 2021-09-23 2021-12-28 深圳市人工智能与机器人研究院 一种机器人多定位系统坐标统一方法及系统
CN113847894B (zh) * 2021-09-23 2024-03-29 深圳市人工智能与机器人研究院 一种机器人多定位系统坐标统一方法及系统
CN113589756A (zh) * 2021-10-08 2021-11-02 华兴源创(成都)科技有限公司 位移传感信号触发装置、设备、检测系统及相关方法
CN113589756B (zh) * 2021-10-08 2021-12-14 华兴源创(成都)科技有限公司 位移传感信号触发装置、设备、检测系统及相关方法
CN115049861A (zh) * 2022-06-14 2022-09-13 广东天太机器人有限公司 一种工业机器人的自动修正打磨方法及系统
CN116986218A (zh) * 2022-06-21 2023-11-03 九众九机器人有限公司 一种应用于流水线的工业用品定位方法和流水线设备
CN116986218B (zh) * 2022-06-21 2024-06-04 九众九机器人有限公司 一种应用于流水线的工业用品定位方法和流水线设备
CN115599092A (zh) * 2022-09-07 2023-01-13 格力电器(武汉)有限公司(Cn) 一种工件搬运控制方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN111966041B (zh) 2021-10-08

Similar Documents

Publication Publication Date Title
CN111966041B (zh) 机器人的控制方法和装置
US11667036B2 (en) Workpiece picking device and workpiece picking method
US10937183B2 (en) Object dimensioning system and method
CN106033621B (zh) 一种三维建模的方法及装置
Pretto et al. Flexible 3D localization of planar objects for industrial bin-picking with monocamera vision system
CN112101378A (zh) 机器人重定位方法、装置及设备
CN109213202B (zh) 基于光学伺服的货物摆放方法、装置、设备和存储介质
CN113284178B (zh) 物体码垛方法、装置、计算设备及计算机存储介质
CN111383263A (zh) 机器人抓取物体系统、方法及装置
CN112116068B (zh) 一种环视图像拼接方法、设备及介质
CN114820781A (zh) 基于机器视觉的智能搬运方法、装置、系统及存储介质
CN112348890B (zh) 一种空间定位方法、装置及计算机可读存储介质
CN108156359A (zh) 智能工业相机
US20130100281A1 (en) Method, System and Computer Program Product for Detecting an Obstacle with a Camera
EP4207068A1 (en) Target object detection method and apparatus, and electronic device, storage medium and program
Rogelio et al. Object detection and segmentation using Deeplabv3 deep neural network for a portable X-ray source model
CN114092428A (zh) 图像数据处理方法、装置、电子设备和存储介质
CN114037595A (zh) 图像数据处理方法、装置、电子设备和存储介质
US20230009925A1 (en) Object detection method and object detection device
CN110223320B (zh) 物体检测跟踪方法和检测跟踪装置
CN114049380B (zh) 目标物体定位追踪方法、装置、计算机设备和存储介质
CN114782535B (zh) 工件位姿识别方法、装置、计算机设备及存储介质
WO2023082417A1 (zh) 抓取点信息获取方法、装置、电子设备和存储介质
CN114037753A (zh) 应用于智能设备的物体抓取方法、智能设备及存储介质
Bellandi et al. Development and characterization of a multi-camera 2D-vision system for enhanced performance of a drink serving robotic cell

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant