CN111702756A - 一种基于机器视觉的物体抓取方法、机器人及存储介质 - Google Patents

一种基于机器视觉的物体抓取方法、机器人及存储介质 Download PDF

Info

Publication number
CN111702756A
CN111702756A CN202010453831.XA CN202010453831A CN111702756A CN 111702756 A CN111702756 A CN 111702756A CN 202010453831 A CN202010453831 A CN 202010453831A CN 111702756 A CN111702756 A CN 111702756A
Authority
CN
China
Prior art keywords
conveyor belt
camera
image
calibration
position information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010453831.XA
Other languages
English (en)
Other versions
CN111702756B (zh
Inventor
周益和
邓辅秦
李伟科
黎豪润
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Chonvo Intelligent Co ltd
Original Assignee
Shenzhen Chonvo Intelligent Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Chonvo Intelligent Co ltd filed Critical Shenzhen Chonvo Intelligent Co ltd
Priority to CN202010453831.XA priority Critical patent/CN111702756B/zh
Publication of CN111702756A publication Critical patent/CN111702756A/zh
Application granted granted Critical
Publication of CN111702756B publication Critical patent/CN111702756B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/04Viewing devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Manipulator (AREA)

Abstract

本发明公开了一种基于机器视觉的物体抓取方法、机器人及存储介质,方法包括:通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体;若是,则对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息;根据所述位置信息对所述物体进行抓取。本发明通过对获取到的第一传送带图像采用背景差分法来确定传送带上是否有运动物体,对被遮挡或摆放过近的物体也能检测出来,不会造成物体漏拣,同时减少了红外检测装置的成本;对第一传送带图像进行模板匹配可以实现对物体的分类抓取。

Description

一种基于机器视觉的物体抓取方法、机器人及存储介质
技术领域
本发明涉及物体分拣技术领域,具体涉及一种基于机器视觉的物体抓取方法、机器人及存储介质。
背景技术
目前,亚洲已经是全球最大的工业机器人市场,IFR预测,在2020年到2022年间,工业机器人出货量平均每年增长12%,在2020年时将增至58.4万台。随着智能化设备的普及,工业机器人在汽车、家电、零件喷涂行业等行业应用越来越广泛。基于机器视觉开发的工业机器人在面对目标识别、物体定位等开发需求时,具有高精度,适应环境能力强的优点。物体分拣是企业生产中不可缺少的一环,这项工作虽然简单,但却需要不少的人员持续工作。在长时间的工作下,工作人员容易出现疲劳,容易出现分拣错误,造成企业损失。在这种情况下,使用具有机器视觉系统的工业机器人替代人类进行分拣、分包等操作,不仅提升了管理的工作效率,降低了人工成本,还加快了生产效率,提高分拣的准确率。
现有技术是通过红外触发摄像头,利用电脑端处理图像信息,发送控制信号给机器人抓取物体。现有技术中利用红外检测传送带物体,当红外检测到物体时触发一次摄像头拍摄物体,但遇到物体遮挡或摆放过近时,可能只会触发一次摄像头,造成物体漏拣。
因此,现有技术还有待于改进和发展。
发明内容
本发明要解决的技术问题在于,针对现有技术的上述缺陷,提供一种基于机器视觉的物体抓取方法、机器人及存储介质,旨在解决现有利用机器人进行物体分拣时是通过红外检测到物体时触发一次摄像头拍摄物体,当物体遮挡或摆放过近时,容易造成物体漏拣的问题。
本发明解决技术问题所采用的技术方案如下:
一种基于机器视觉的物体抓取方法,应用于与摄像机通讯连接的机器人,其中,包括步骤:
通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体;
若是,则对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息;
根据所述位置信息对所述物体进行抓取。
所述的基于机器视觉的物体抓取方法,其中,所述通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体的步骤之前还包括:
通过所述摄像机对预先设置的第一标定板进行拍照,获得所述第一标定板对应的标定图;
根据所述第一标定板和所述标定图对所述摄像机进行一次标定,获取所述摄像机的内参和畸变系数;
利用所述摄像机的内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,获得所述摄像机的单应性矩阵。
所述的基于机器视觉的物体抓取方法,其中,所述利用所述内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,获得所述摄像机的单应性矩阵的步骤之后还包括:
通过所述摄像机获取第二传送带图像,在所述第二传送带图像上选取传送带上任意第一目标点和第二目标点;
根据所述摄像机的单应性矩阵计算所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离;
根据所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离和所述第一目标点和所述第二目标点在所述传送带上的实际距离确定所述摄像机的标定精度。
所述的基于机器视觉的物体抓取方法,其中,所述通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体的步骤之前还包括:
通过所述摄像机对预先设置在所述传送带上的第二标定板进行拍照,获取所述摄像机拍照时刻对应的传送带的第一传送带编码值;
通过所述传送带将所述第二标定板移动到所述机器人的运动范围内,获取所述第二标定板移动到所述机器人的运动范围内的时刻对应的所述传送带的第二传送带编码值;
根据所述第一传送带编码值和所述第二传送带编码值获取第三传送带编码值。
所述的基于机器视觉的物体抓取方法,其中,所述对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息的步骤具体包括:
通过形态学操作对所述第一传送带图像进行优化,提取出所述第一传送带图像中的目标区域;
计算所述目标区域对应的最大外接矩形区域,对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息。
所述的基于机器视觉的物体抓取方法,其中,所述对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息的步骤之前还包括:
判断所述最大外接矩形区域的左上顶点是否超过所述第一传送带图像的左边界;
若是,则通过所述摄像机的内参和畸变系数对所述第一传送带图像进行校正。
所述的基于机器视觉的物体抓取方法,其中,所述对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息的步骤具体包括:
判断预先设置的模板库中是否有与所述最大外接矩形区域相匹配的模板;
若是,则将所述模板与所述第一传送带图像进行特征匹配,获得所述物体的物体信息;
根据所述物体信息和所述单应性矩阵获得所述物体的位置信息。
所述的基于机器视觉的物体抓取方法,其中,所述根据所述物体的位置信息对所述物体进行抓取的步骤之前还包括:
获取所述摄像机拍摄所述第一传送带图像的时刻对应的所述传送带的第四传送带编码值;
获取当前时刻所述传送带的第五传送带编码值,判断所述第四传送带编码值与所述第五传送带编码值的差值是否等于所述第三传送带编码值。
一种机器人,其中,包括:处理器、与处理器通信连接的存储介质,所述存储介质适于存储多条指令;所述处理器适于调用所述存储介质中的指令,以执行实现所述的基于机器视觉的物体抓取方法的步骤。
一种存储介质,其上存储有多条指令,其中,所述指令适于由处理器加载并执行,以执行实现所述的基于机器视觉的物体抓取方法的步骤。
本发明的有益效果:本发明通过对获取到的第一传送带图像采用背景差分法来确定传送带上是否有运动物体,对被遮挡或摆放过近的物体也能检测出来,不会造成物体漏拣,同时减少了红外检测装置的成本;对所述第一传送带图像进行模板匹配可以实现对物体的分类抓取。
附图说明
图1是本发明实施例提供的一种基于机器视觉的物体抓取方法的较佳实施例的流程图;
图2是本发明实施例提供的一种基于机器视觉的物体抓取方法的具体应用实施例的流程图;
图3是本发明实施例提供的一种机器人的功能原理图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了解决现有利用机器人进行物体的分拣时是通过红外检测到物体时触发一次摄像头拍摄物体,当物体遮挡或摆放过近时,容易造成物体漏拣的问题,本发明提供了一种基于机器视觉的物体抓取方法。
请参照图1,图1是本发明提供的一种基于机器视觉的物体抓取方法较佳实施例的流程图。
在本发明的较佳实施例中,所述基于机器视觉的物体抓取方法有三个步骤:
S100、通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体;
S200、若是,则对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息;
S300、根据所述位置信息对所述物体进行抓取。
由于现有机器人进行物体分拣时,是通过红外触发摄像头,利用电脑端处理图像信息,发送控制信号给机器人抓取物体。当红外检测到物体时触发一次摄像头拍摄物体,但遇到物体遮挡或摆放过近时,可能只会触发一次摄像头,造成物体漏拣。本实施例中为了解决上述问题,首先通过摄像机获取传送带对应的第一传送带图像,对所述第一传送带图像进行基于混合高斯模型的背景差分法(MOG2和morphologyEx函数)来判断所述传送带上是否有运动物体;若是,则对所述第一传送带图像进行校正和模板匹配,获得所述物体在传送带上的位置信息;根据所述物体的位置信息对所述物体进行抓取。本发明通过对获取到的第一传送带图像采用背景差分法来确定传送带上是否有运动物体,对被遮挡或摆放过近的物体也能检测出来,不会造成物体漏拣,同时减少了红外检测装置的成本;另外,本发明中对所述第一传送带图像进行模板匹配可以实现对物体的分类抓取。
在一具体实施方式中,所述步骤S100之前还包括:
M110、通过所述摄像机对预先设置的第一标定板进行拍照,获得所述第一标定板对应的标定图;
M120、根据所述第一标定板和所述标定图对所述摄像机进行一次标定,获取所述摄像机的内参和畸变系数;
M130、利用所述摄像机的内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,获得所述摄像机的单应性矩阵。
具体实施时,采用预先定制的第一标定板,通过所述摄像机对所述第一标定板进行拍照,获取所述第一标定板对应的标定图;然后通过所述第一标定板和所述标定图对所述摄像机进行一次标定,根据所述第一标定板和所述第一标定板对应的标定图中各角点的位置差异(calibrateCamera函数),获取所述摄像机的内参和畸变系数。随后利用所述摄像机的内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,利用findChessboardCorners函数确定校正后的所述标定图中各角点的像素坐标,通过findHomography函数计算标定图中各角点的像素坐标与各角点在第一标定板中的实际像素坐标的关系,获得所述摄像机的单应性矩阵。所述单应性矩阵用于将图像某点的像素坐标转换为摄像机-传送带坐标系下的坐标。
在一具体实施方式中,所述步骤M130之后还包括:
M140、通过所述摄像机获取第二传送带图像,在所述第二传送带图像上选取传送带上任意第一目标点和第二目标点;
M150、根据所述摄像机的单应性矩阵计算所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离;
M160、根据所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离和所述第一目标点和所述第二目标点在所述传送带上的实际距离确定所述摄像机的标定精度。
具体实施时,为了确定上述摄像机的标定精度,本实施例中对摄像机进行标定后,通过摄像机获取第二传送带图像,在所述第二传送带图像上选取所述传送带平面上的任意两点作为第一目标点和第二目标点;然后根据前述对摄像机进行标定获得的单应性矩阵计算所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离;根据所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离和所述第一目标点和所述第二目标点在所述传送带上的实际距离确定所述摄像机的标定精度;若所述摄像机的标定精度符合要求,则可进行后续步骤;若所述摄像机的标定精度不符合要求,则对所述摄像头继续进行标定。
在一具体实施方式中,所述步骤S100之前还包括:
R110、通过所述摄像机对预先设置在所述传送带上的第二标定板进行拍照,获取所述摄像机拍照时刻对应的传送带的第一传送带编码值;
R120、通过所述传送带将所述第二标定板移动到所述机器人的运动范围内,获取所述第二标定板移动到所述机器人的运动范围内的时刻对应的所述传送带的第二传送带编码值;
R130、根据所述第一传送带编码值和所述第二传送带编码值获取第三传送带编码值。
具体实施时,所述传送带上设置有编码器,本实施例中在检测传送带上是否有运动物体前,通过所述摄像机对预先设置在所述传送带上的第二标定板进行拍照,获取所述摄像机拍照时刻对应的所述传送带的第一传送带编码值;然后通过传送带将第二标定板移动到所述机器人的运动范围内,获取所述第二标定板移动到所述机器人的运动范围内的时刻对应的所述传送带的第二编码值;将所述第一传送带编码值与所述第二传送带编码值的差值作为所述第三传送带编码值。
在一具体实施方式中,所述步骤S200具体包括:
S210、通过形态学操作对所述第一传送带图像进行优化,提取出所述第一传送带图像中的目标区域;
S220、计算所述目标区域对应的最大外接矩形区域,对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息。
具体实施时,检测到传送带上有运动物体后,通过形态学操作中的开操作(morphologyEx函数)对所述传送带图像进行去噪,然后再利用形态学操作中的膨胀操作(dilate函数)扩大目标区域即感兴趣区域的范围;然后计算目标区域对应的最大外接矩形区域,对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息。
在一具体实施方式中,步骤S220中所述对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息的步骤之前还包括:
N221、判断所述最大外接矩形区域的左上顶点是否超过所述第一传送带图像的左边界;
N222、若是,则通过所述摄像机的内参和畸变系数对所述第一传送带图像进行校正。
具体实施时,在对最大外接矩形区域进行模板匹配前,先判断所述最大外接矩形区域的左上顶点是否超过所述第一传送带图像的左边界;若是,则通过前述步骤中对所述摄像机进行标定获得的所述摄像机的内参和畸变系数对所述第一传送带图像进行校正;若否,则通过所述摄像机重新获取第一传送带图像。
在一具体实施方式中,步骤S220中所述对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息的步骤具体包括:
S221、判断预先设置的模板库中是否有与所述最大外接矩形区域相匹配的模板;
S222、若是,则将所述模板与所述第一传送带图像进行特征匹配,获得所述物体的物体信息;
S223、根据所述物体信息和所述单应性矩阵获得所述物体的位置信息。
具体实施时,本实施例中预先设置有用于存储模板的模板库,计算所述目标区域对应的最大外接矩形区域后,判断所述模板库中是否有与所述最大外接矩形区域相匹配的模板;若是,则利用detectAndCompute函数将所述模板与所述第一传送带图像进行SURF特征匹配,获得所述物体的物体信息,即所述物体在第一传送带图像中的物体信息;然后利用前述对摄像机进行标定获得的所述摄像机的单应性矩阵将所述物体在第一传送带图像中的物体信息转换为所述物体在摄像机-机器人下的位置信息,此位置信息与机器人在用户坐标系下抓取的坐标值相同。具体地,将模板加入模板库时应先验证模板是否有足够多的特征保证完成SURF特征匹配,若SURF特征匹配效果差,则可仅由模板匹配完成对物体的定位,通过对匹配结果设置阈值还可用于检测物体表面是否有损坏。
在一具体实施方式中,所述步骤S300之前还包括:
S001、获取所述摄像机拍摄所述第一传送带图像的时刻对应的所述传送带的第四传送带编码值;
S002、获取当前时刻所述传送带的第五传送带编码值,判断所述第四传送带编码值与所述第五传送带编码值的差值是否等于所述第三传送带编码值。
具体实施时,为了提高机器人物体抓取的准确性,本实施例中在获取到物体的位置信息后,进一步获取所述摄像机拍摄所述第一传送带图像的时刻对应的所述传送带的第四传送带编码值和当前时刻所述传送带的第五传送带编码值,并判断第四传送带编码值与第五传送带编码值的差值是否等于所述第三传送带编码值,若是,则说明物体到达机器人的抓取范围内,根据物体的位置信息对物体进行抓取;若否,则说明物体还未到达机器人的抓取范围,传送带带动物体移动,继续获取当前传送带对应的第五传送带编码值,直到判断第四传送带编码值与第五传送带编码值的差值等于所述第三传送带编码值,根据物体的位置信息对物体进行抓取。
为了更好地理解本发明的技术,本发明还提供一种具体的应用实施例,如图2中所示,具体包括如下步骤:
步骤201、获取第一传送带图像;
步骤202、采用背景差分法判断传送带是否有物体运动;若否,则执行步骤201;若是,则执行步骤203;
步骤203、提取出第一传送带图像中的目标区域;
步骤204、计算目标区域对应的最大外接矩形区域;
步骤205、判断最大外接矩形区域的左上顶点是否超过左边界;若否,则执行步骤201;若是,则执行步骤206;
步骤206、通过摄像机的内参和畸变系数对第一传送带图像进行校正;
步骤207、判断模板库中是否有与最大外接矩形区域相匹配的模板;若否,则执行步骤201;若是,则执行步骤208;
步骤208、将模板与第一传送带图像进行特征匹配,获得物体的物体信息;
步骤209、根据物体信息和单应性矩阵获得物体的位置信息;
步骤210、获取摄像机拍摄第一传送带图像的时刻对应的传送带的第四传送带编码值;
步骤211、获取当前时刻传送带的第五传送带编码值;
步骤212、判断第四传送带编码值与第五传送带编码值的差值是否等于第三传送带编码值;若否,则执行步骤211;若是,则执行步骤213;
步骤213、根据位置信息对物体进行抓取。
基于上述实施例,本发明还提供了一种机器人,其原理框图可以如图3所示。机器人包括通过系统总线连接的处理器、存储器、网络接口、显示屏和温度传感器。其中,机器人的处理器用于提供计算和控制能力。机器人的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。机器人的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于机器视觉的物体抓取方法。机器人的显示屏可以是液晶显示屏或者电子墨水显示屏,机器人的温度传感器是预先在装置内部设置,用于检测内部设备的当前运行温度。
本领域技术人员可以理解,图3中示出的原理框图,仅仅是与本发明方案相关的部分结构的框图,并不构成对本发明方案所应用于其上的机器人的限定,具体的机器人可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种机器人,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时至少可以实现以下步骤:
通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体;
若是,则对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息;
根据所述位置信息对所述物体进行抓取。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:通过所述摄像机对预先设置的第一标定板进行拍照,获得所述第一标定板对应的标定图;根据所述第一标定板和所述标定图对所述摄像机进行一次标定,获取所述摄像机的内参和畸变系数;利用所述摄像机的内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,获得所述摄像机的单应性矩阵。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:通过所述摄像机获取第二传送带图像,在所述第二传送带图像上选取所述传送带上任意第一目标点和第二目标点;根据所述摄像机的单应性矩阵计算所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离;根据所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离和所述第一目标点和所述第二目标点在所述传送带上的实际距离确定所述摄像机的标定精度。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:通过所述摄像机对预先设置在所述传送带上的第二标定板进行拍照,获取所述摄像机拍照时刻对应的所述传送带的第一传送带编码值;通过所述传送带将所述第二标定板移动到所述机器人的运动范围内,获取所述第二标定板移动到所述机器人的运动范围内的时刻对应的所述传送带的第二传送带编码值;根据所述第一传送带编码值和所述第二传送带编码值获取第三传送带编码值。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:通过形态学操作对所述第一传送带图像进行优化,提取出所述第一传送带图像中的目标区域;计算所述目标区域对应的最大外接矩形区域,对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:判断所述最大外接矩形区域的左上顶点是否超过所述第一传送带图像的左边界;若是,则通过所述摄像机的内参和畸变系数对所述第一传送带图像进行校正。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:判断预先设置的模板库中是否有与所述最大外接矩形区域相匹配的模板;若是,则将所述模板与所述第一传送带图像进行特征匹配,获得所述物体的物体信息;根据所述物体信息和所述单应性矩阵获得所述物体的位置信息。
在其中的一个实施例中,该处理器执行计算机程序时还可以实现:获取所述摄像机拍摄所述第一传送带图像的时刻对应的所述传送带的第四传送带编码值;获取当前时刻所述传送带的第五传送带编码值,判断所述第四传送带编码值与所述第五传送带编码值的差值是否等于所述第三传送带编码值。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本发明所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
综上所述,本发明公开了一种基于机器视觉的物体抓取方法、机器人及存储介质,方法包括:通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体;若是,则对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息;根据所述位置信息对所述物体进行抓取。本发明通过对获取到的第一传送带图像采用背景差分法来确定传送带上是否有运动物体,对被遮挡或摆放过近的物体也能检测出来,不会造成物体漏拣,同时减少了红外检测装置的成本;对第一传送带图像进行模板匹配可以实现对物体的分类抓取。
应当理解的是,本发明的应用不限于上述的举例,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,所有这些改进和变换都应属于本发明所附权利要求的保护范围。

Claims (10)

1.一种基于机器视觉的物体抓取方法,应用于与摄像机通讯连接的机器人,其特征在于,包括步骤:
通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体;
若是,则对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息;
根据所述位置信息对所述物体进行抓取。
2.根据权利要求1所述的基于机器视觉的物体抓取方法,其特征在于,所述通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体的步骤之前还包括:
通过所述摄像机对预先设置的第一标定板进行拍照,获得所述第一标定板对应的标定图;
根据所述第一标定板和所述标定图对所述摄像机进行一次标定,获取所述摄像机的内参和畸变系数;
利用所述摄像机的内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,获得所述摄像机的单应性矩阵。
3.根据权利要求2所述的基于机器视觉的物体抓取方法,其特征在于,所述利用所述内参和畸变系数对所述标定图进行校正,根据校正后的所述标定图对所述摄像机进行二次标定,获得所述摄像机的单应性矩阵的步骤之后还包括:
通过所述摄像机获取第二传送带图像,在所述第二传送带图像上选取传送带上任意第一目标点和第二目标点;
根据所述摄像机的单应性矩阵计算所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离;
根据所述第一目标点和所述第二目标点在摄像机-传送带坐标系的距离和所述第一目标点和所述第二目标点在所述传送带上的实际距离确定所述摄像机的标定精度。
4.根据权利要求2所述的基于机器视觉的物体抓取方法,其特征在于,所述通过所述摄像机获取第一传送带图像,根据所述第一传送带图像采用背景差分法判断传送带上是否有运动物体的步骤之前还包括:
通过所述摄像机对预先设置在所述传送带上的第二标定板进行拍照,获取所述摄像机拍照时刻对应的传送带的第一传送带编码值;
通过所述传送带将所述第二标定板移动到所述机器人的运动范围内,获取所述第二标定板移动到所述机器人的运动范围内的时刻对应的所述传送带的第二传送带编码值;
根据所述第一传送带编码值和所述第二传送带编码值获取第三传送带编码值。
5.根据权利要求2所述的基于机器视觉的物体抓取方法,其特征在于,所述对所述第一传送带图像进行校正和模板匹配,获取所述物体的位置信息的步骤具体包括:
通过形态学操作对所述第一传送带图像进行优化,提取出所述第一传送带图像中的目标区域;
计算所述目标区域对应的最大外接矩形区域,对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息。
6.根据权利要求5所述的基于机器视觉的物体抓取方法,其特征在于,所述对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息的步骤之前还包括:
判断所述最大外接矩形区域的左上顶点是否超过所述第一传送带图像的左边界;
若是,则通过所述摄像机的内参和畸变系数对所述第一传送带图像进行校正。
7.根据权利要求6所述的基于机器视觉的物体抓取方法,其特征在于,所述对所述最大外接矩形区域进行模板匹配,获取所述物体的位置信息的步骤具体包括:
判断预先设置的模板库中是否有与所述最大外接矩形区域相匹配的模板;
若是,则将所述模板与所述第一传送带图像进行特征匹配,获得所述物体的物体信息;
根据所述物体信息和所述单应性矩阵获得所述物体的位置信息。
8.根据权利要求4所述的基于机器视觉的物体抓取方法,其特征在于,所述根据所述物体的位置信息对所述物体进行抓取的步骤之前还包括:
获取所述摄像机拍摄所述第一传送带图像的时刻对应的所述传送带的第四传送带编码值;
获取当前时刻所述传送带的第五传送带编码值,判断所述第四传送带编码值与所述第五传送带编码值的差值是否等于所述第三传送带编码值。
9.一种机器人,其特征在于,包括:处理器、与处理器通信连接的存储介质,所述存储介质适于存储多条指令;所述处理器适于调用所述存储介质中的指令,以执行实现上述权利要求1-8任一项所述的基于机器视觉的物体抓取方法的步骤。
10.一种存储介质,其上存储有多条指令,其特征在于,所述指令适于由处理器加载并执行,以执行实现上述权利要求1-8任一项所述的基于机器视觉的物体抓取方法的步骤。
CN202010453831.XA 2020-05-26 2020-05-26 一种基于机器视觉的物体抓取方法、机器人及存储介质 Active CN111702756B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010453831.XA CN111702756B (zh) 2020-05-26 2020-05-26 一种基于机器视觉的物体抓取方法、机器人及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010453831.XA CN111702756B (zh) 2020-05-26 2020-05-26 一种基于机器视觉的物体抓取方法、机器人及存储介质

Publications (2)

Publication Number Publication Date
CN111702756A true CN111702756A (zh) 2020-09-25
CN111702756B CN111702756B (zh) 2022-03-08

Family

ID=72538026

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010453831.XA Active CN111702756B (zh) 2020-05-26 2020-05-26 一种基于机器视觉的物体抓取方法、机器人及存储介质

Country Status (1)

Country Link
CN (1) CN111702756B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112276908A (zh) * 2020-10-23 2021-01-29 北京配天技术有限公司 工业机器人设备及其工件位置获取方法、系统和装置
CN113379743A (zh) * 2021-08-12 2021-09-10 山东中都机器有限公司 基于计算机视觉的输送机异常检测方法及系统
CN114419437A (zh) * 2022-01-12 2022-04-29 湖南视比特机器人有限公司 基于2d视觉的工件分拣系统及其控制方法和控制装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104217441A (zh) * 2013-08-28 2014-12-17 北京嘉恒中自图像技术有限公司 一种基于机器视觉的机械臂定位抓取方法
CN106845354A (zh) * 2016-12-23 2017-06-13 中国科学院自动化研究所 零件视图库构建方法、零件定位抓取方法及装置
CN107451601A (zh) * 2017-07-04 2017-12-08 昆明理工大学 基于时空上下文全卷积网络的运动工件识别方法
US10037865B2 (en) * 2015-09-14 2018-07-31 Jordan University Of Science And Technology System and method for providing real-time visual feedback to control multiple autonomous nano-robots
CN109961484A (zh) * 2017-12-22 2019-07-02 比亚迪股份有限公司 摄像头标定方法、装置和车辆
CN110315525A (zh) * 2018-03-29 2019-10-11 天津工业大学 一种基于视觉引导的机器人工件抓取方法
CN111152197A (zh) * 2020-04-08 2020-05-15 广东弓叶科技有限公司 机器人抓手跟踪抓取控制方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104217441A (zh) * 2013-08-28 2014-12-17 北京嘉恒中自图像技术有限公司 一种基于机器视觉的机械臂定位抓取方法
US10037865B2 (en) * 2015-09-14 2018-07-31 Jordan University Of Science And Technology System and method for providing real-time visual feedback to control multiple autonomous nano-robots
CN106845354A (zh) * 2016-12-23 2017-06-13 中国科学院自动化研究所 零件视图库构建方法、零件定位抓取方法及装置
CN107451601A (zh) * 2017-07-04 2017-12-08 昆明理工大学 基于时空上下文全卷积网络的运动工件识别方法
CN109961484A (zh) * 2017-12-22 2019-07-02 比亚迪股份有限公司 摄像头标定方法、装置和车辆
CN110315525A (zh) * 2018-03-29 2019-10-11 天津工业大学 一种基于视觉引导的机器人工件抓取方法
CN111152197A (zh) * 2020-04-08 2020-05-15 广东弓叶科技有限公司 机器人抓手跟踪抓取控制方法及系统

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112276908A (zh) * 2020-10-23 2021-01-29 北京配天技术有限公司 工业机器人设备及其工件位置获取方法、系统和装置
CN113379743A (zh) * 2021-08-12 2021-09-10 山东中都机器有限公司 基于计算机视觉的输送机异常检测方法及系统
CN113379743B (zh) * 2021-08-12 2021-10-29 山东中都机器有限公司 基于计算机视觉的输送机异常检测方法及系统
CN114419437A (zh) * 2022-01-12 2022-04-29 湖南视比特机器人有限公司 基于2d视觉的工件分拣系统及其控制方法和控制装置

Also Published As

Publication number Publication date
CN111702756B (zh) 2022-03-08

Similar Documents

Publication Publication Date Title
CN111702756B (zh) 一种基于机器视觉的物体抓取方法、机器人及存储介质
CN109165589B (zh) 基于深度学习的车辆重识别方法和装置
CN110796082B (zh) 铭牌文本检测方法、装置、计算机设备和存储介质
CN111144322A (zh) 一种分拣方法、装置、设备和存储介质
US11107246B2 (en) Method and device for capturing target object and video monitoring device
CN109670383B (zh) 视频遮蔽区域选取方法、装置、电子设备及系统
CN111445517A (zh) 机器人视觉末端定位方法、装置及计算机可读存储介质
US20220044004A1 (en) Method and device for detecting blurriness of human face in image and computer-readable storage medium
CN112712128A (zh) 基于神经网络的智能采摘方法、设备、存储介质及装置
CN109584237A (zh) 芯片检测方法、装置、计算机设备和存储介质
KR20220036803A (ko) 인쇄회로기판 인식마크 검출 장치 및 방법
CN112766275B (zh) 印章文字识别方法、装置、计算机设备和存储介质
CN113095445A (zh) 一种目标识别方法及装置
CN114187328B (zh) 一种物体检测方法、装置和电子设备
CN115937107A (zh) 一种两阶段坯布缺陷检测方法、系统、介质及计算机
CN112308061B (zh) 一种车牌字符识别方法及装置
CN114155471A (zh) 设计图纸与实物的核验方法、装置、计算机设备和系统
CN113870223A (zh) 设备屏幕漏液检测方法及装置
CN112529928A (zh) 零件组装检测方法、计算机设备及存储介质
TWI736063B (zh) 物件偵測方法以及電子裝置
JP4860452B2 (ja) テンプレートマッチングを用いたマーク位置決め方法及び装置
CN109064485B (zh) 一种基于cmt算法的特征库维护方法
CN109242894B (zh) 一种基于移动最小二乘法的图像对齐方法及系统
CN113635299A (zh) 一种机械臂的校正方法、终端设备及存储介质
CN112749664A (zh) 一种手势识别方法、装置、设备、系统及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant