CN109176521A - 一种机械臂及其抓取控制方法和系统 - Google Patents

一种机械臂及其抓取控制方法和系统 Download PDF

Info

Publication number
CN109176521A
CN109176521A CN201811092174.XA CN201811092174A CN109176521A CN 109176521 A CN109176521 A CN 109176521A CN 201811092174 A CN201811092174 A CN 201811092174A CN 109176521 A CN109176521 A CN 109176521A
Authority
CN
China
Prior art keywords
target
dimensional
crawl
crawl control
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811092174.XA
Other languages
English (en)
Inventor
蔡颖鹏
陈希
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Time Robot Technology Co Ltd
Original Assignee
Beijing Time Robot Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Time Robot Technology Co Ltd filed Critical Beijing Time Robot Technology Co Ltd
Priority to CN201811092174.XA priority Critical patent/CN109176521A/zh
Publication of CN109176521A publication Critical patent/CN109176521A/zh
Pending legal-status Critical Current

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture

Abstract

本申请提供了一种机械臂及其抓取控制方法和系统,该方法和系统应用于该机械臂。该抓取控制方法和系统能够根据待抓取的目标物体的二维图像和三维点云数据确定目标物体的物体位置、三维位姿和抓取控制策略,并以该抓取控制策略并根据物体位置和三维位姿控制机械臂对目标物体进行抓取。由于本方案中的参考因素包括了物体位置,且该抓取控制策略是根据目标物体的物体类型做出的,因此对于不同形状、类型和位置的目标物体都能够实现有效抓取。

Description

一种机械臂及其抓取控制方法和系统
技术领域
本申请涉及机器人技术领域,更具体地说,涉及一种机械臂及其抓取控制方法和系统。
背景技术
随着计算机技术和自动化技术的进一步发展,机器人在越来越多的领域得到广泛的应用,机器人在多数领域的外在形状往往不是人形,而是以机械臂的形式存在。在机械臂的应用过程中,对物体的抓取是其基础功能之一,而由于被抓取的目标物体的形状、类型、位置不一,因此,机械臂必须能够根据具体目标物体决定抓取策略才能实现有效抓取。
发明内容
有鉴于此,本申请提供一种机械臂及其抓取控制方法和系统,用于控制机械臂对目标物体进行有效抓取。
为了实现上述目的,现提出的方案如下:
一种抓取控制方法,应用于机械臂,所述抓取控制方法包括步骤:
利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
对所述二维图像进行识别,得到所述目标物体的物体位置和物体类型;
利用预置的三维点云模板对所述三维点云数据进行配准,得到所述目标物体的三维姿态;
根据所述物体类型从预置的专家知识库中匹配出所述目标物体的抓取控制策略;
根据所述物体位置和所述三维姿态以所述抓取控制策略控制所述机械臂对所述目标物体进行抓取。
可选的,所述对所述二维图像数据进行识别,包括:
通过在所述二维图像中遍历各个位置,搜寻所述目标物体的矩形框位置;
利用预先训练的物体检测模型对所述矩形框位置进行识别,得到所述物体位置和所述物体类型。
可选的,所述物体检测模型通过如下方法训练得到:
采集多个训练物体中每个训练物体的多角度多光照条件下的多个图片,从而得到多个训练样本,所述训练样本包括所述训练物体的物体位置、物体类型和所述多个图片数据;
利用所述训练样本进行有监督的深度学习,得到所述物体检测模型。
可选的,所述三维点云模板通过如下方法获取:
对物体进行三维重建,得到所述三维点云模板。
可选的,所述专家知识库中包括多个与不同物体类型相匹配的抓取控制策略,所述抓取控制策略包括最佳抓取点和力控策略。
一种抓取控制系统,应用于机械臂,,所述抓取控制系统包括:
数据获取模块,用于利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
图像识别模块,用于对所述二维图像进行识别,得到所述目标物体的物体位置和物体类型;
姿态识别模块,用于利用预置的三维点云模板对所述三维点云数据进行配准,得到所述目标物体的三维姿态;
策略选定模块,用于根据所述物体类型从预置的专家知识库中匹配出所述目标物体的抓取控制策略;
抓取执行模块,用于根据所述物体位置和所述三维姿态以所述抓取控制策略控制所述机械臂对所述目标物体进行抓取。
可选的,所述图像识别模块包括:
矩形搜寻单元,用于通过在所述二维图像中遍历各个位置,搜寻所述目标物体的矩形框位置;
识别执行单元,用于利用预先训练的物体检测模型对所述矩形框位置进行识别,得到所述物体位置和所述物体类型。
可选的,还包括模型训练模块,所述模型训练模块用于执行如下操作:
采集多个训练物体中每个训练物体的多角度多光照条件下的多个图片,从而得到多个训练样本,所述训练样本包括所述训练物体的物体位置、物体类型和所述多个图片数据;
利用所述训练样本进行有监督的深度学习,得到所述物体检测模型。
可选的,还包括模板计算模块,所述模板计算模块用于执行如下操作:
对物体进行三维重建,得到所述三维点云模板。
可选的,所述专家知识库中包括多个与不同物体类型相匹配的抓取控制策略,所述抓取控制策略包括最佳抓取点和力控策略。
一种机械臂,设置有如上所述的抓取控制系统。
一种机械臂,包括控制器,所述控制器设置有至少一个处理器,还设置有与所述处理器相连接的存储器,所述存储器存储有计算机程序或指令,所述处理器用于执行计算机程序或指令,以使所述控制器执行如下操作:
利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
对所述二维图像进行识别,得到所述目标物体的物体位置和物体类型;
利用预置的三维点云模板对所述三维点云数据进行配准,得到所述目标物体的三维姿态;
根据所述物体类型从预置的专家知识库中匹配出所述目标物体的抓取控制策略;
根据所述物体位置和所述三维姿态以所述抓取控制策略控制所述机械臂对所述目标物体进行抓取。
从上述的技术方案可以看出,本申请公开了一种机械臂及其抓取控制方法和系统,该方法和系统应用于该机械臂。该抓取控制方法和系统能够根据待抓取的目标物体的二维图像和三维点云数据确定目标物体的物体位置、三维位姿和抓取控制策略,并以该抓取控制策略并根据物体位置和三维位姿控制机械臂对目标物体进行抓取。由于本方案中的参考因素包括了物体位置,且该抓取控制策略是根据目标物体的物体类型做出的,因此对于不同形状、类型和位置的目标物体都能够实现有效抓取。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种抓取控制方法步骤流程图;
图2为本申请实施例提供的一种抓取控制系统的结构框图;
图3为本申请实施例提供的另一种抓取控制系统的结构框图;
图4为本申请实施例提供的又一种抓取控制系统的结构框图;
图5为本申请实施例提供的一种控制器的结构框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例一
图1为本申请实施例提供的一种抓取控制方法的步骤流程图。
如图1所示,本实施例提供的抓取控制方法应用于机械臂,具体来说应用于该机械臂的控制器,该抓取控制方法具体包括如下步骤:
S1、利用深度相机获取目标物体的二维图像和三维点云数据。
这里的目标物体是指待抓取的物体,即处于该机械臂所能作用范围内的物体,当对其进行抓取时,利用深度相机获取该目标物体的二维图像和三维点云数据。具体来说是接收设置在机械臂上相应位置的深度相机通过对目标物体进行采集所得到的二维图像和三维点云数据。
获取以上二维图像和三维点云的数据的目的是根据其得到该目标物体的物体位置和三维姿态。因为众所周知,对于目标物体的抓取的前提是准确估算目标物体相对于机械臂的三维坐标和三维姿态,上述的物体位置即可满足这里的三维坐标的需求,而对于所需要的三维姿态则通过下面的处理得到。
S2、通过对二维图像的识别得到目标物体的位置和物体类型。
在得到上述目标物体的二维图像后,对该二维图像进行识别,从而得到该目标物体的物体位置和物体类型,物体位置既是该目标物体相对于机械臂的三维坐标,而物体类型则是对于该目标物体形状、体积、材质和密度的综合描述。
在对该二维图像进行识别时,首先通过遍历该二维图像中各个位置的方式,从中搜寻目标物体在该二维图像中的矩形框及矩形框位置;然后利用预先训练的物体检测模型对该矩形框位置进行处理,从而得到该物体类型。
这里的物体检测模型可以通过如下方法进行训练:
首先,采集多个训练物体中每个训练物体的多个图片,这里的多个图片是指对于每个训练物体的多角度多光照条件下的多个图片,例如对于以个角度下多种光照条件下采集多个图片,再对于另一个角度下的多种光照条件下采集多个图片,从而构成每个训练物体的多个图片,通过采集多个训练物体的多个图片构成该训练样本,这些训练样本除包括图片外,还应该包括人工标注的训练物体的物体位置和物体种类。
然后,在利用上述训练样本进行有监督深度学习,从而得到上述的物体检测模型。
S3、利用三维点云模板对三维点云数据进行配准,得到目标物体的三维姿态。
在对目标物质的位置和物体类型进行识别之后或者同时,利用预置的三维点云模板对上述三维点云数据进行配准,通过配准确定该目标物体的三维姿态。具体而言,可以采用ICP等配准方法进行配准操作。
这里的三维点云模板通过如下方法获得:
对于相应的物体,根据该物体的进行三维重建,从而得到该物体的三维点云模板。具体而言,可以采用kinect等深度传感器获得点云数据,并对得到点云数据后对其进行滤波,从而获得该物体的三维点云模板。
S4、根据物体类型从专家知识库中匹配抓取控制策略。
在得到目标物体的物体类型后,根据该物体类型从专家知识库中进行匹配,从中确定出适应该目标物体的抓取控制策略。由于物体类型包括了物体形状、体积、材质和密度等因素,因此在专家知识库中存储有多种与相应物体类型相对应的抓取控制策略,以适应不同类型的目标物体。
为适应不同形状、体积、材质和密度的目标物体,相应抓取控制策略具体包括有最佳抓取点和力控策略。最佳抓取点是指机械臂的抓取机构与目标物体的接触点,而力控策略则包括了以何力量对该目标物体进行抓取。
S5、根据目标物体的物体位置和三维位姿并以抓取控制策略进行抓取。
在得到目标物体的物体位置和三维位姿后,以上述确定的抓取控制策略并根据该物体位置和三维位姿控制机械臂对该目标物体进行抓取。
从上述技术方案可以看出,本实施例提供了一种抓取控制方法,该方法应用于机械臂。该抓取控制方法能够根据待抓取的目标物体的二维图像和三维点云数据确定目标物体的物体位置、三维位姿和抓取控制策略,并以该抓取控制策略并根据物体位置和三维位姿控制机械臂对目标物体进行抓取。由于本方案中的参考因素包括了物体位置,且该抓取控制策略是根据目标物体的物体类型做出的,因此对于不同形状、类型和位置的目标物体都能够实现有效抓取。
实施例二
图2为本申请实施例提供的一种抓取控制系统的结构框图。
如图2所示,本实施例提供的抓取控制系统应用于机械臂,具体来说应用于该机械臂的控制器,该抓取控制系统具体包括数据获取模块10、图像识别模块20、姿态识别模块30、策略选定模块40和抓取执行模块50。
数据获取模块用于利用深度相机获取目标物体的二维图像和三维点云数据。
这里的目标物体是指待抓取的物体,即处于该机械臂所能作用范围内的物体,当对其进行抓取时,利用深度相机获取该目标物体的二维图像和三维点云数据。具体来说是接收设置在机械臂上相应位置的深度相机通过对目标物体进行采集所得到的二维图像和三维点云数据。
获取以上二维图像和三维点云的数据的目的是根据其得到该目标物体的物体位置和三维姿态。因为众所周知,对于目标物体的抓取的前提是准确估算目标物体相对于机械臂的三维坐标和三维姿态,上述的物体位置即可满足这里的三维坐标的需求,而对于所需要的三维姿态则通过下面的处理得到。
图像识别模块用于通过对二维图像的识别得到目标物体的位置和物体类型。
在得到上述目标物体的二维图像后,对该二维图像进行识别,从而得到该目标物体的物体位置和物体类型,物体位置既是该目标物体相对于机械臂的三维坐标,而物体类型则是对于该目标物体形状、体积、材质和密度的综合描述。
该模块具体包括矩形搜寻单元和识别执行单元,在对该二维图像进行识别时,矩形搜寻单元用于通过遍历该二维图像中各个位置的方式,从中搜寻目标物体在该二维图像中的矩形框及矩形框位置;识别执行单元利用预先训练的物体检测模型对该矩形框位置进行处理,从而得到该物体类型。
本方案还可以包括一个模型训练模块60,如图3所示,该模型训练模块具体用于对物体检测模型进行训练,具体的训练过程如下所述:
首先,采集多个训练物体中每个训练物体的多个图片,这里的多个图片是指对于每个训练物体的多角度多光照条件下的多个图片,例如对于以个角度下多种光照条件下采集多个图片,再对于另一个角度下的多种光照条件下采集多个图片,从而构成每个训练物体的多个图片,通过采集多个训练物体的多个图片构成该训练样本,这些训练样本除包括图片外,还应该包括人工标注的训练物体的物体位置和物体种类。
然后,在利用上述训练样本进行有监督深度学习,从而得到上述的物体检测模型。
姿态识别模块用于利用三维点云模板对三维点云数据进行配准,得到目标物体的三维姿态。
本模块用于在图像识别模块对目标物质的位置和物体类型进行识别之后或者同时,利用预置的三维点云模板对上述三维点云数据进行配准,通过配准确定该目标物体的三维姿态。具体而言,可以采用ICP等配准方法进行配准操作。
本申请中还可以包括一个模板计算模块70,如图4所示,该模块用于通过如下方式进行计算得到该三维点云模板:
对于相应的物体,根据该物体的二维图像进行三维重建,从而得到该物体的三维点云模板。具体而言,可以采用kinect等深度传感器获得点云数据,并对得到点云数据后对其进行滤波,从而获得该物体的三维点云模板。
策略选定模块用于根据物体类型从专家知识库中匹配抓取控制策略。
在得到目标物体的物体类型后,根据该物体类型从专家知识库中进行匹配,从中确定出适应该目标物体的抓取控制策略。由于物体类型包括了物体形状、体积、材质和密度等因素,因此在专家知识库中存储有多种与相应物体类型相对应的抓取控制策略,以适应不同类型的目标物体。
为适应不同形状、体积、材质和密度的目标物体,相应抓取控制策略具体包括有最佳抓取点和力控策略。最佳抓取点是指机械臂的抓取机构与目标物体的接触点,而力控策略则包括了以何力量对该目标物体进行抓取。
抓取执行模块用于根据目标物体的物体位置和三维位姿并以抓取控制策略进行抓取。
在得到目标物体的物体位置和三维位姿后,以上述确定的抓取控制策略并根据该物体位置和三维位姿控制机械臂对该目标物体进行抓取。
从上述技术方案可以看出,本实施例提供了一种抓取控制系统,该系统应用于机械臂。该抓取控制系统能够根据待抓取的目标物体的二维图像和三维点云数据确定目标物体的物体位置、三维位姿和抓取控制策略,并以该抓取控制策略并根据物体位置和三维位姿控制机械臂对目标物体进行抓取。由于本方案中的参考因素包括了物体位置,且该抓取控制策略是根据目标物体的物体类型做出的,因此对于不同形状、类型和位置的目标物体都能够实现有效抓取。
实施例三
本实施例提供了一种机械臂,该机械臂设置有上一实施例所提供的抓取控制系统,该系统具体包括数据获取模块、图像识别模块、姿态识别模块、策略选定模块和抓取执行模块。
数据获取模块用于利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
图像识别模块用于对二维图像进行识别,得到目标物体的物体位置和物体类型;
姿态识别模块用于利用预置的三维点云模板对三维点云数据进行配准,得到目标物体的三维姿态;
策略选定模块用于根据物体类型从预置的专家知识库中匹配出目标物体的抓取控制策略;
抓取执行模块用于根据物体位置和三维姿态以抓取控制策略控制机械臂对目标物体进行抓取。
从上述技术方案可以看出,该抓取控制系统能够根据待抓取的目标物体的二维图像和三维点云数据确定目标物体的物体位置、三维位姿和抓取控制策略,并以该抓取控制策略并根据物体位置和三维位姿控制机械臂对目标物体进行抓取。由于本方案中的参考因素包括了物体位置,且该抓取控制策略是根据目标物体的物体类型做出的,因此对于不同形状、类型和位置的目标物体都能够控制机械臂对其实现有效抓取。
实施例四
图5为本申请实施例提供的一种控制器的结构框图。
本实施例提供了一种机械臂,该机械臂设置有控制器,如图5所示,该控制器设置有至少一个处理器101和存储器102,两者之间通过数据总线103相连接。
存储器用于存储预先开发的计算机程序或指令,处理器则通过该数据总线获取并执行该计算机程序或指令,处理器通过执行该计算机程序或指令,能够使控制器实现如下操作:
利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
对二维图像进行识别,得到目标物体的物体位置和物体类型;
利用预置的三维点云模板对三维点云数据进行配准,得到目标物体的三维姿态;
根据物体类型从预置的专家知识库中匹配出目标物体的抓取控制策略;
根据物体位置和三维姿态以抓取控制策略控制机械臂对目标物体进行抓取。
从上述技术方案可以看出,通过上述操作可以能够根据待抓取的目标物体的二维图像和三维点云数据确定目标物体的物体位置、三维位姿和抓取控制策略,并以该抓取控制策略并根据物体位置和三维位姿控制机械臂对目标物体进行抓取。由于本方案中的参考因素包括了物体位置,且该抓取控制策略是根据目标物体的物体类型做出的,因此对于不同形状、类型和位置的目标物体都能够控制机械臂对其实现有效抓取。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本申请实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本申请实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请实施例是参照根据本申请实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本申请实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本申请所提供的技术方案进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

Claims (12)

1.一种抓取控制方法,应用于机械臂,其特征在于,所述抓取控制方法包括步骤:
利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
对所述二维图像进行识别,得到所述目标物体的物体位置和物体类型;
利用预置的三维点云模板对所述三维点云数据进行配准,得到所述目标物体的三维姿态;
根据所述物体类型从预置的专家知识库中匹配出所述目标物体的抓取控制策略;
根据所述物体位置和所述三维姿态以所述抓取控制策略控制所述机械臂对所述目标物体进行抓取。
2.如权利要求1所述的抓取控制方法,其特征在于,所述对所述二维图像数据进行识别,包括:
通过在所述二维图像中遍历各个位置,搜寻所述目标物体的矩形框位置;
利用预先训练的物体检测模型对所述矩形框位置进行识别,得到所述物体位置和所述物体类型。
3.如权利要求2所述的抓取控制方法,其特征在于,所述物体检测模型通过如下方法训练得到:
采集多个训练物体中每个训练物体的多角度多光照条件下的多个图片,从而得到多个训练样本,所述训练样本包括所述训练物体的物体位置、物体类型和所述多个图片数据;
利用所述训练样本进行有监督的深度学习,得到所述物体检测模型。
4.如权利要求1所述的抓取控制方法,其特征在于,所述三维点云模板通过如下方法获取:
对物体进行三维重建,得到所述三维点云模板。
5.如权利要求1所述的抓取控制方法,其特征在于,所述专家知识库中包括多个与不同物体类型相匹配的抓取控制策略,所述抓取控制策略包括最佳抓取点和力控策略。
6.一种抓取控制系统,应用于机械臂,其特征在于,所述抓取控制系统包括:
数据获取模块,用于利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
图像识别模块,用于对所述二维图像进行识别,得到所述目标物体的物体位置和物体类型;
姿态识别模块,用于利用预置的三维点云模板对所述三维点云数据进行配准,得到所述目标物体的三维姿态;
策略选定模块,用于根据所述物体类型从预置的专家知识库中匹配出所述目标物体的抓取控制策略;
抓取执行模块,用于根据所述物体位置和所述三维姿态以所述抓取控制策略控制所述机械臂对所述目标物体进行抓取。
7.如权利要求6所述的抓取控制系统,其特征在于,所述图像识别模块包括:
矩形搜寻单元,用于通过在所述二维图像中遍历各个位置,搜寻所述目标物体的矩形框位置;
识别执行单元,用于利用预先训练的物体检测模型对所述矩形框位置进行识别,得到所述物体位置和所述物体类型。
8.如权利要求7所述的抓取控制系统,其特征在于,还包括模型训练模块,所述模型训练模块用于执行如下操作:
采集多个训练物体中每个训练物体的多角度多光照条件下的多个图片,从而得到多个训练样本,所述训练样本包括所述训练物体的物体位置、物体类型和所述多个图片数据;
利用所述训练样本进行有监督的深度学习,得到所述物体检测模型。
9.如权利要求1所述的抓取控制系统,其特征在于,还包括模板计算模块,所述模板计算模块用于执行如下操作:
对物体进行三维重建,得到所述三维点云模板。
10.如权利要求1所述的抓取控制系统,其特征在于,所述专家知识库中包括多个与不同物体类型相匹配的抓取控制策略,所述抓取控制策略包括最佳抓取点和力控策略。
11.一种机械臂,其特征在于,设置有如权利要求6~10任一项所述的抓取控制系统。
12.一种机械臂,其特征在于,包括控制器,所述控制器设置有至少一个处理器,还设置有与所述处理器相连接的存储器,所述存储器存储有计算机程序或指令,所述处理器用于执行计算机程序或指令,以使所述控制器执行如下操作:
利用深度相机获取待抓取的目标物体的二维图像和三维点云数据;
对所述二维图像进行识别,得到所述目标物体的物体位置和物体类型;
利用预置的三维点云模板对所述三维点云数据进行配准,得到所述目标物体的三维姿态;
根据所述物体类型从预置的专家知识库中匹配出所述目标物体的抓取控制策略;
根据所述物体位置和所述三维姿态以所述抓取控制策略控制所述机械臂对所述目标物体进行抓取。
CN201811092174.XA 2018-09-19 2018-09-19 一种机械臂及其抓取控制方法和系统 Pending CN109176521A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811092174.XA CN109176521A (zh) 2018-09-19 2018-09-19 一种机械臂及其抓取控制方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811092174.XA CN109176521A (zh) 2018-09-19 2018-09-19 一种机械臂及其抓取控制方法和系统

Publications (1)

Publication Number Publication Date
CN109176521A true CN109176521A (zh) 2019-01-11

Family

ID=64908185

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811092174.XA Pending CN109176521A (zh) 2018-09-19 2018-09-19 一种机械臂及其抓取控制方法和系统

Country Status (1)

Country Link
CN (1) CN109176521A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109895095A (zh) * 2019-02-11 2019-06-18 赋之科技(深圳)有限公司 一种训练样本的获取方法、装置和机器人
CN110091331A (zh) * 2019-05-06 2019-08-06 广东工业大学 基于机械手的物体抓取方法、装置、设备以及存储介质
CN110125930A (zh) * 2019-04-18 2019-08-16 华中科技大学 一种基于机器视觉和深度学习的机械臂抓取控制方法
CN110271006A (zh) * 2019-07-19 2019-09-24 北京农业智能装备技术研究中心 机械臂视觉引导方法及装置
CN110363811A (zh) * 2019-06-21 2019-10-22 深圳前海达闼云端智能科技有限公司 用于抓取设备的控制方法、装置、存储介质及电子设备
CN110815213A (zh) * 2019-10-21 2020-02-21 华中科技大学 一种基于多维度特征融合的零件识别装配方法和装置
CN111168686A (zh) * 2020-02-25 2020-05-19 深圳市商汤科技有限公司 物体的抓取方法、装置、设备及存储介质
CN112045681A (zh) * 2020-09-02 2020-12-08 苏州三仲信息科技有限公司 获取安装孔位置的方法和安装牌照的方法、对应的装置
CN112223288A (zh) * 2020-10-09 2021-01-15 南开大学 一种视觉融合的服务机器人控制方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102982557A (zh) * 2012-11-06 2013-03-20 桂林电子科技大学 基于深度相机的空间手势姿态指令处理方法
CN103644894A (zh) * 2013-12-10 2014-03-19 大连交通大学 一种复杂曲面目标识别及三维位姿测量的方法
CN104626206A (zh) * 2014-12-17 2015-05-20 西南科技大学 一种非结构环境下机器人作业的位姿信息测量方法
CN106530297A (zh) * 2016-11-11 2017-03-22 北京睿思奥图智能科技有限公司 基于点云配准的物体抓取区域定位方法
CN107450885A (zh) * 2017-07-21 2017-12-08 上海交通大学 一种工业机器人与三维传感器的坐标变换求解方法
EP3311960A1 (en) * 2016-10-20 2018-04-25 Intelligrated Headquarters LLC 3d-2d vision system for robotic carton unloading
CN108399639A (zh) * 2018-02-12 2018-08-14 杭州蓝芯科技有限公司 基于深度学习的快速自动抓取与摆放方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102982557A (zh) * 2012-11-06 2013-03-20 桂林电子科技大学 基于深度相机的空间手势姿态指令处理方法
CN103644894A (zh) * 2013-12-10 2014-03-19 大连交通大学 一种复杂曲面目标识别及三维位姿测量的方法
CN104626206A (zh) * 2014-12-17 2015-05-20 西南科技大学 一种非结构环境下机器人作业的位姿信息测量方法
EP3311960A1 (en) * 2016-10-20 2018-04-25 Intelligrated Headquarters LLC 3d-2d vision system for robotic carton unloading
CN106530297A (zh) * 2016-11-11 2017-03-22 北京睿思奥图智能科技有限公司 基于点云配准的物体抓取区域定位方法
CN107450885A (zh) * 2017-07-21 2017-12-08 上海交通大学 一种工业机器人与三维传感器的坐标变换求解方法
CN108399639A (zh) * 2018-02-12 2018-08-14 杭州蓝芯科技有限公司 基于深度学习的快速自动抓取与摆放方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109895095A (zh) * 2019-02-11 2019-06-18 赋之科技(深圳)有限公司 一种训练样本的获取方法、装置和机器人
CN110125930A (zh) * 2019-04-18 2019-08-16 华中科技大学 一种基于机器视觉和深度学习的机械臂抓取控制方法
CN110125930B (zh) * 2019-04-18 2021-05-11 华中科技大学 一种基于机器视觉和深度学习的机械臂抓取控制方法
CN110091331A (zh) * 2019-05-06 2019-08-06 广东工业大学 基于机械手的物体抓取方法、装置、设备以及存储介质
CN110363811A (zh) * 2019-06-21 2019-10-22 深圳前海达闼云端智能科技有限公司 用于抓取设备的控制方法、装置、存储介质及电子设备
CN110271006A (zh) * 2019-07-19 2019-09-24 北京农业智能装备技术研究中心 机械臂视觉引导方法及装置
CN110815213A (zh) * 2019-10-21 2020-02-21 华中科技大学 一种基于多维度特征融合的零件识别装配方法和装置
CN110815213B (zh) * 2019-10-21 2021-03-19 华中科技大学 一种基于多维度特征融合的零件识别装配方法和装置
CN111168686A (zh) * 2020-02-25 2020-05-19 深圳市商汤科技有限公司 物体的抓取方法、装置、设备及存储介质
CN112045681A (zh) * 2020-09-02 2020-12-08 苏州三仲信息科技有限公司 获取安装孔位置的方法和安装牌照的方法、对应的装置
CN112223288A (zh) * 2020-10-09 2021-01-15 南开大学 一种视觉融合的服务机器人控制方法
CN112223288B (zh) * 2020-10-09 2021-09-14 南开大学 一种视觉融合的服务机器人控制方法

Similar Documents

Publication Publication Date Title
CN109176521A (zh) 一种机械臂及其抓取控制方法和系统
US20150224650A1 (en) Vision-guided electromagnetic robotic system
US9233469B2 (en) Robotic system with 3D box location functionality
JP2021051797A (ja) 自動パッケージ登録機構および自動検出パイプラインを備えたロボットシステム
JP2014161965A (ja) 物品取り出し装置
CN109483554B (zh) 基于全局和局部视觉语义的机器人动态抓取方法及系统
US11084168B2 (en) Article stacking apparatus and machine learning apparatus
Šuligoj et al. Object tracking with a multiagent robot system and a stereo vision camera
CN109333536A (zh) 一种机器人及其物体抓取方法和装置
Suzuki et al. Grasping of unknown objects on a planar surface using a single depth image
CN104541498A (zh) 一种图像采集方法及装置
CN108748149B (zh) 一种复杂环境下基于深度学习的无标定机械臂抓取方法
CN110539299B (zh) 机器手作业方法、控制器以及机器手系统
CN109955244B (zh) 一种基于视觉伺服的抓取控制方法、装置和机器人
CN112109086B (zh) 面向工业堆叠零件的抓取方法、终端设备及可读存储介质
CN108555902B (zh) 一种机器人分拣物品的方法、装置及机器人
CN109188902A (zh) 一种机器人学习方法、控制方法、装置、存储介质及主控设备
Holz et al. Fast edge-based detection and localization of transport boxes and pallets in rgb-d images for mobile robot bin picking
Lin et al. Vision based object grasping of industrial manipulator
Andersen et al. Using robot skills for flexible reprogramming of pick operations in industrial scenarios
Dyrstad et al. Bin Picking of Reflective Steel Parts Using a Dual-Resolution Convolutional Neural Network Trained in a Simulated Environment
Bdiwi et al. Robot control system with integrated vision/force feedback for automated sorting system
Spenrath et al. Statistical analysis of influencing factors for heuristic grip determination in random bin picking
Vaskevicius et al. Object recognition and localization for robust grasping with a dexterous gripper in the context of container unloading
Poss et al. Perceptionbased intelligent materialhandling in industrial logistics environments

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination