CN110420867A - 一种使用平面检测的自动分拣的方法 - Google Patents
一种使用平面检测的自动分拣的方法 Download PDFInfo
- Publication number
- CN110420867A CN110420867A CN201910684609.8A CN201910684609A CN110420867A CN 110420867 A CN110420867 A CN 110420867A CN 201910684609 A CN201910684609 A CN 201910684609A CN 110420867 A CN110420867 A CN 110420867A
- Authority
- CN
- China
- Prior art keywords
- plane
- box
- crawl
- sorting
- axis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/02—Measures preceding sorting, e.g. arranging articles in a stream orientating
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/34—Sorting according to other particular properties
Landscapes
- Manipulator (AREA)
Abstract
本发明提出了一种使用平面检测的自动分拣的方法。该方法的步骤如下:使用工业深度相机获取当前待分拣区域中盒子的图像信息然后根据平面检测算法计算出抓取点的位置和姿态;根据抓取点位置和姿态对工业机器人做运动姿态规划;利用盒子的轮廓信息对抓取后的姿态做矫正,使盒子的某个面正对一个方向;使用全方位条码扫描的策略来对盒子进行扫码,最终根据条码信息分类。与现有技术相比,本发明的优点和效果在于:提高分拣的处理速度以及条码的扫描识别效果。
Description
技术领域
本发明涉及一种无序堆叠环境下药品盒子的自动分拣技术,具体涉及一种使用平面检测的自动分拣的方法。
背景技术
自动分拣系统是先进配送中心所配备的重要设施之一。目前,国内外的大多数快递行业公司都配备有大型的自动分拣系统。这些自动分拣系统一般具有很高的分拣效率,自动分拣机是提高物流配送效率的一项关键因素。物流中心每天接收成百上千家供应商或货主通过各种运输工具送来的成千上万种商品,在最短的时间内将这些商品卸下并按商品品种、货主、储位或发送地点进行快速准确地分类,将这些商品运送到指定地点。自动分拣系统不受气候、时间、人的体力等限制,可以连续运行。同时,自动分拣系统每小时能处理的包装商品远远多于人工的处理量,而且分拣人员也不能在这种劳动强度下连续工作。因此,自动分拣系统的使用将会越来越广阔。
在一些小型的分拣现场,如普通的快递点、药品分配公司等,通常没有必要采用大型的自动分拣系统。一是地方小,不适合布置大型的分拣流水线;二是大型自动分拣系统造价十分昂贵。因此,这些分拣现场当前普遍采用人工分拣的方式,或者雇佣大量工人在一个小流水线旁进行分拣工作。近年来,随着居民消费水平的提高,人们网上购物越来越普遍,不断增长的包裹量对传统的人工分拣方式构成了严峻挑战。为了解决这些问题,迫切需要设计小型化的自动分拣系统。但是,不同于传统大型分拣设备识别传送带上一个个的物品的方式,小型自动分拣系统是分拣一个个堆叠在箱子里的物品。物体在箱中的位置、物体的姿态以及物体条码位置都是不确定的,这是设计堆叠环境下小型自动分拣系统的难点所在。
小型自动分拣系统一般由图像识别、抓取规划及检测分类等部分组成。
图像识别方面,有许多成熟的算法可以用来识别图像中物体的位置和姿态。第一种是基于霍夫变换的方法,这种方法由于需要匹配任意两点,因此时间复杂度较高,不能满足分拣系统的速度要求。第二种是基于模板匹配的方法,该方法预先得到物品图像的匹配模板,再对实际图像做匹配,可以得到物体的位置和姿态。但是这种方法存在两个问题,一个是对尺度变化敏感,一个是在遮挡情况下匹配效果变差。因此,在有堆叠环境下不能使用这种方法。第三种是是使用霍夫森林的办法,在第二种方法的基础上将模板分为多个部分,再通过随机森林来训练。该方法的匹配效果好,但是算法比较复杂。第四种是采用神经网络,其思路是输入图片,经过网络的学习,输出抓取点的位置和姿态。然而,使用该方法时,网络模型需要提前训练,而且该方法对电脑的配置要求较高。针对实际的应用场景,这些识别方法因为过于复杂而难以胜任,有些方法还要做前期工作,例如需要提前获取模板或者训练神经网络。因此,找到一种简单的识别方法应用于分拣场景是非常重要的。这种方法要求不用提前准备工作,而且要实现简单,准确率高,速度快。
抓取规划方面,针对包裹盒子状的物品,通常采用吸盘式的抓取方式。由于物品的位置和姿态都是不固定的,因此需要规划抓取时的机械手姿态。在这方面不同的机械手规划的方式不一样,但是都要调整姿态使得吸盘的朝向对准抓取面。这就需要用到旋转矩阵与欧拉角的计算,这方面的研究均已成熟。但是仅仅抓取物品是不够的,由于条码扫码的需要,在抓取之后还需要根据物品的轮廓信息对姿态进行矫正。
检测分类方面,目前大多数物品的商品信息采用条形码或者二维码来记录,而条码识别技术已经很成熟,例如超市收银台的扫码枪、高速收费口的嵌入式扫码器等。然而,在分拣的场景下,物品的条码位置是不确定的,有可能在任意面上,甚至可能被抓取的装置所遮挡,这对扫码条码的工作造成了一定的难度。之前的一些做法是扫描物体的一些面,如果没有扫到则重新抓取已扫过的面,对剩余的面再做一次扫描。另外一些做法则是将物品交给专门扫描条码的装置,再根据识别的信息重新抓取物品并进行后续的分类工作。这些做法普遍降低了条码识别和分类的效率,因此需要考虑对这些做法进行改进。
近年来,在堆叠环境下进行分拣这块领域取得了一定的发展。Bin Picking是机器人操作中的一类经典问题,也是本文中要解决的问题。把箱子中无序摆放的物体取出来分类,这对人类来说非常简单的一件事,但对于机器人自动化却是极具挑战性。箱子里的物体之间,物体和箱子之间存在大量的遮挡,这些遮挡一方面妨碍了对物体的感知,另一方面让机器人运动的碰撞检测变得很复杂。直到近几年来,伴随着计算机视觉和运动规划等学术界方面的进展,部分Bin Picking问题才开始出现稳定可靠的解决方案和商业化的可能,于是越来越多的机器人研究以Bin Picking作为背景,开始探索这方面技术落地的可能。一种实际的应用场景是在一些工厂的生产车间里,采用多摄像头系统来检测分拣箱中的物体,并且设计了专用的抓取装置来抓取零件。而零件的规格是统一的,只是散乱地堆叠在分拣箱中,因此不需要用到条码扫描系统。另一种应用场景比较简单,抓取一些规则形状的物品,依据颜色或者大小来分类。这些应用还比较简单,不能胜任更加复杂的堆叠情况。此外,在一项关于箱中物体分拣的亚马逊工业机器人挑战赛中,一些团队贡献了他们独特的分拣方案,例如使用多个相机捕捉物体并使用复杂的神经网络来得到物体的位置和姿态,再用机械手抓取并分类。这些都对自动分拣系统的进步起到了推动的作用,不过由于他们单次分拣的处理时间较长,而且分拣需要前期大量的建模训练等工作,因此还未能达到工业落地的需求。
本发明提出了一种使用平面检测的自动分拣的方法,其应用场景以盒状物体为主,例如快递包裹、药品、产品包装盒等。使用一个工业深度相机提取分拣箱中的物体的深度图像和点云,用于计算抓取点的位置和姿态。根据计算得到的抓取位置和姿态规划工业机器人的运动路径以及末端吸盘的姿态。当机械手抓取盒子后,使用全方位扫描条码的办法以快速识别物体并分类。由于该方法所需的分拣系统仅仅使用一个相机、一个机械手以及一套扫描条码的设备进行分拣,整套设备的成本低而且系统配置简单。
发明内容
为了解决上述现有技术所存在的问题,本发明提供一种使用平面检测的自动分拣的方法。
本发明的目的至少通过如下技术方案之一实现。
一种使用平面检测的自动分拣的方法,包括以下步骤:
S1、使用工业深度相机获取当前待分拣区域即分拣箱中待分拣盒子的图像信息然后根据平面检测算法计算出抓取点的位置和姿态;
S2、根据抓取点位置和姿态对工业机器人做运动姿态规划;
S3、利用盒子的轮廓信息对抓取后的盒子的姿态做矫正,然后通过工业机器人末端的吸盘抓取盒子,将盒子放入扫码设备中进行扫码;
S4、使用全方位条码扫描的策略来对待扫描的盒子进行扫码,最终根据条码信息分类。
进一步地,步骤S1的具体步骤如下:
S1.1、使用工业深度相机获取分拣箱中的盒子图像,利用工业深度相机提供的接口,获得彩色图像、深度图像、点云图像;
S1.2、采用平面检测算法将点云图像图像进行网格划分,计算出每个网格是否为一个平面,将相互靠近而且平面参数接近的网格聚合在一起组成一个平面;
S1.3、计算出所有的聚合后的平面的中点,并将其视为抓取点,得到抓取点离分拣箱底部的高度h,比较各个抓取点的优先级,得出最佳的抓取点的位置和姿态即法向量。
进一步地,在步骤S2中,需要根据最佳的抓取点的位置及法向量计算工业机器人即机械手的运动轨迹和末端姿态,具体步骤如下:
S2.1、根据从相机坐标系到机械手坐标系的旋转矩阵和平移矩阵,将相机坐标系下的抓取点的坐标和法向量转化为机械手坐标系下的抓取点坐标和法向量。相机坐标系的原点设置在工业深度相机的中心,X轴沿着工业深度相机的长边方向,Z轴取工业深度相机的视觉光轴。机械手坐标系的原点设置在工业机器人的基座底面的中心,X轴取底面的任意一边的方向,Z轴垂直于底面,方向向上。旋转矩阵U和平移矩阵T是通过事先完成的标定步骤得到的。所述标定步骤为:获取一系列点分别在相机坐标系的坐标P和在机械手坐标系下的坐标Q,通过奇异值分解求解方程Q=U*P+T,得到旋转矩阵U和平移矩阵T。
从相机坐标系下的抓取点的坐标Pcamera和法向量Vcamera转换到机械手坐标系下的抓取点的坐标Probot和法向量Vrobot的公式为:
Probot=U*Pcamera+T
Vrobot=U*Vcamera
S2.2、根据机械手坐标系下的抓取点坐标规划机械手末端的运动轨迹;所述规划的机械手末端的运动轨迹为:首先,机械手末端到达抓取点上方的安全高度;然后,机械手末端下降,达到抓取点时停止;机械手末端的吸盘吸取物体后,机械手末端上升到安全高度;最后,机械手末端移动到扫码设备处;
S2.3、根据机械手坐标系下的法向量规划机械手的末端姿态。
进一步地,步骤S3的具体步骤如下:
S3.1、用最小外接矩形的算法,对聚合后所有的平面网格点用最小矩形进行包络,得到的矩形视为盒子的轮廓。
S3.2、取所得轮廓的一条边的方向向量作为矫正用的向量,并视为机械手末端坐标系的X轴或Y轴;机械手末端坐标系的原点设置在机械手末端的吸盘处;步骤2中的机械手坐标系下的法向量视为机械手末端坐标系的Z轴。
S3.3、抓取盒子时,机械手末端坐标系的X轴或Y轴与盒子的一边朝向相同,达到姿态矫正的目的。
进一步地,在步骤S4中,需要对待扫描的盒子进行条码扫描得到盒子的信息,从而根据盒子的信息对盒子进行分类;为了提高条码扫描的效率,避免机械手末端做旋转或者重新抓取的动作,提出了全方位扫描条码的策略,这种策略是在待扫描条码的盒子的四周、下方以及斜上方分别用扫码器扫描,扫码器安装在扫码设备上。
进一步地,所述平面检测算法是将点云图像做网格划分,在每个网格中取三个以上的拟合点采用最小二乘法来拟合平面;再取3个及以上的检验点代入平面方程来检验误差。根据误差大小来判断网格是否为一个平面,并记录下该网格拟合的平面方程的参数。然后将相互靠近以及平面参数相近的网格采用并查的方法聚合成一个平面,由此得到一系列聚合后的平面及各平面的面积s,每个平面由一系列网格组成。
进一步地,判断抓取点的优先级时同时考虑了抓取点的位置高度以及抓取面的大小,公式如下:
其中σ表示抓取的优先级,其值越大表示越优先抓取;h表示抓取点离分拣箱底部的高度,hm表示深度相机到分拣箱底部的高度,s表示抓取点所在平面的面积,sm表示分拣箱底部的面积;ω1、ω2分别表示高度和面积的权重值,并且ω1+ω2=1,其中高度的权重ω1的取值区间为(0.8,1)。
进一步地,根据法向量求机械手末端姿态的方法是将法向量视为末端坐标系的Z轴,同时再任取一条与法向量垂直的向量作为末端坐标系的X轴或Y轴,即可得到末端坐标系在机械手坐标系下的表示,从而得到机械手坐标系到末端坐标系的旋转矩阵R:
其中[r11 r21 r31]T为步骤3所得的矫正用的向量的单位向量,[r13 r23 r33]T为步骤2所得的最佳抓取点所在的平面的单位法向量,剩下的[r12 r22 r32]T由[r11 r21 r31]T和[r13r23 r33]T两个向量叉乘得到;
机械手的末端姿态表示为[Rx,Ry,Rz],其中Rx,Ry,Rz称为欧拉角,表示由机械手的坐标系分别绕其X轴、Y轴、Z轴旋转对应的角度得到机械手末端的坐标系,欧拉角的计算公式为:
此处的atan2(a,b)表示反正切函数,返回以弧度表示的a/b的反正切,a、b为参变量。
进一步地,当出现条码扫描失败的情况时,选择以下两种解决方案中的一种:第一种,将盒子重新放入分拣箱,重新抓取盒子的另一个面再进行条码扫描;第二种,统一将不能识别的盒子放入一个箱子,等待人工处理或者倒入分拣箱重新分拣。
进一步地,平面方程表示为Ax+By+Cz+D=0,其中A2+B2+C2=1,(A,B,C)为平面的单位法向量,D为相机坐标系原点到平面的距离。
本发明与现有技术相比,具有如下优点和有益效果:
1、本方法所需要的设备简单,主要由工业深度相机、机械臂和扫码设备组成,配置简单,成本低,适用于小型分拣场景。
2、本方法能提高分拣的处理速度以及条码的扫描识别效果。
附图说明
图1是使用一种使用平面检测的自动分拣的方法的自动分拣系统的示意图;
图2是一种使用平面检测的自动分拣的方法的流程图;
图3是平面检测算法的示意图;
图4是使用全方位条码扫描策略的扫码设备的结构示意图。
图中:工业深度相机1,分拣箱2,盒子3,吸盘4,工业机器人5,扫码设备6,扫码器的固定支架7,机械手末端8,扫码器9。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,下面结合附图和实施例,对本发明的具体实施进行详细说明。
实施例:
如图1所示,使用一种使用平面检测的自动分拣的方法的自动分拣系统包括工业深度相机1、分拣箱2、工业机器人5和扫码设备6,工业机器人的机械手末端8安装有吸盘4,扫码设备6包括扫码器的固定支架7和扫码器9。
一种使用平面检测的自动分拣的方法,如图2所示,包括以下步骤:
S1、使用工业深度相机1获取当前待分拣区域即分拣箱2中待分拣盒子3的图像信息然后根据平面检测算法计算出抓取点的位置和姿态,包括以下步骤:
S1.1、使用工业深度相机1获取分拣箱中2的盒子图像,利用工业深度相机1提供的接口,获得彩色图像、深度图像、点云图像;
S1.2、采用平面检测算法,如图3a所示,将点云图像图像进行网格划分,计算出每个网格是否为一个平面,将相互靠近而且平面参数接近的网格聚合在一起组成一个平面。所述平面检测算法是将点云图像做网格划分,在每个网格中取三个以上的拟合点采用最小二乘法来拟合平面,平面方程表示为Ax+By+Cz+D=0,其中A2+B2+C2=1,(A,B,C)为平面的单位法向量,D为相机坐标系原点到平面的距离。如图3b所示,再取3个及以上的检验点代入平面方程来检验误差。根据误差大小来判断网格是否为一个平面,并记录下该网格拟合的平面方程的参数。然后将相互靠近以及平面参数相近的网格采用并查的方法聚合成一个平面,由此得到一系列聚合后的平面及各平面的面积s,每个平面由一系列网格组成。
S1.3、计算出所有的聚合后的平面的中点,并将其视为抓取点,得到抓取点离分拣箱2底部的高度h,比较各个抓取点的优先级,得出最佳的抓取点的位置和姿态即法向量。
判断抓取点的优先级时同时考虑了抓取点的位置高度以及抓取面的大小,公式如下:
其中σ表示抓取的优先级,其值越大表示越优先抓取;h表示抓取点离分拣箱2底部的高度,hm表示深度相机到分拣箱2底部的高度,s表示抓取点所在平面的面积,sm表示分拣箱2底部的面积;ω1、ω2分别表示高度和面积的权重值,并且ω1+ω2=1,其中高度的权重ω1的取值区间为(0.8,1)。
S2、根据抓取点位置和姿态对工业机器人5做运动姿态规划,即根据最佳的抓取点的位置及法向量计算工业机器人5即机械手的运动轨迹和末端姿态,具体步骤如下:
S2.1、根据从相机坐标系到机械手坐标系的旋转矩阵和平移矩阵,将相机坐标系下的抓取点的坐标和法向量转化为机械手坐标系下的抓取点坐标和法向量。相机坐标系的原点设置在工业深度相机1的中心,X轴沿着工业深度相机1的长边方向,Z轴取工业深度相机1的视觉光轴。机械手坐标系的原点设置在工业机器人5的基座底面的中心,X轴取底面的任意一边的方向,Z轴垂直于底面,方向向上。旋转矩阵U和平移矩阵T是通过事先完成的标定步骤得到的。在本实施例中,所述事先完成的标定步骤为“基于奇异值分解的机器人工具坐标系标定”,所述标定步骤为:获取一系列点分别在相机坐标系的坐标P和机械手坐标系下的坐标Q,通过奇异值分解求解方程Q=U*P+T,得到旋转矩阵U和平移矩阵T。
从相机坐标系下的抓取点的坐标Pcamera和法向量Vcamera转换到机械手坐标系下的抓取点的坐标Probot和法向量Vrobot的公式为:
Probot=U*Pcamera+T
Vrobot=U*Vcamera
S2.2、根据机械手坐标系下的抓取点坐标规划机械手末端的运动轨迹;所述规划的机械手末端8的运动轨迹为:首先,机械手末端8到达抓取点上方的安全高度;然后,机械手末端8下降,达到抓取点时停止;机械手末端8的吸盘4吸取物体3后,机械手末端8上升到安全高度;最后,机械手末端8移动到扫码设备6处;
S2.3、根据机械手坐标系下的法向量规划机械手的末端姿态。根据法向量求机械手末端姿态的方法是将法向量视为末端坐标系的Z轴,同时再任取一条与法向量垂直的向量作为末端坐标系的X轴或Y轴,即可得到末端坐标系在机械手坐标系下的表示,从而得到机械手坐标系到末端坐标系的旋转矩阵R:
其中[r11 r21 r31]T为步骤3所得的矫正用的向量的单位向量,[r13 r23 r33]T为步骤2所得的最佳抓取点所在的平面的单位法向量,剩下的[r12 r22 r32]T由[r11 r21 r31]T和[r13r23 r33]T两个向量叉乘得到;
机械手的末端姿态表示为[Rx,Ry,Rz],其中Rx,Ry,Rz称为欧拉角,表示由机械手坐标系分别绕其X轴、Y轴、Z轴旋转对应的角度得到机械手末端的坐标系,欧拉角的计算公式为:
此处的atan2(a,b)表示反正切函数,返回以弧度表示的a/b的反正切,a、b为参变量。
S3、利用盒子3的轮廓信息对抓取后的盒子3的姿态做矫正,然后通过工业机器人机械手末端8的吸盘4抓取盒子3,将盒子3放入扫码设备中进行扫码,具体步骤如下:
S3.1、用最小外接矩形的算法,对聚合后所有的平面网格点用最小矩形进行包络,得到的矩形视为盒子3的轮廓,本实施例中,所述最小外接矩形的算法为“利用重心原理的图像目标最小外接矩形快速算法”。
S3.2、取所得轮廓的一条边的方向向量作为矫正用的向量,并视为机械手末端坐标系的X轴或Y轴;机械手末端坐标系的原点设置在机械手末端8的吸盘4处;步骤2中的机械手坐标系下的法向量视为机械手末端坐标系的Z轴。
S3.3、抓取盒子3时,机械手末端坐标系的X轴或Y轴与盒子的一边朝向相同,达到姿态矫正的目的。
S4、使用全方位条码扫描的策略来对待扫描的盒子3进行扫码,最终根据条码信息分类;待分拣的盒子3需要进行条码扫描得到盒子3的信息,从而根据盒子3的信息对盒子3进行分类;为了提高条码扫描的效率,避免机械手末端8做旋转或者重新抓取的动作,提出了全方位扫描条码的策略,这种策略是在待扫描条码的盒子的四周、下方以及斜上方分别用扫码器9扫描。
如图4所示,扫码器的固定支架7的底部设置为十字架状,十字架状底部的4条支段等长,在底部中心点处设置有一个扫码器9,底部十字架的4条支段的四个端点处接有等高的竖直立方柱,各竖直立方柱与连接的支段成90度,4条竖直立方柱的中点处各设置有一个扫码器9,4条竖直立方柱顶端接有等长的向内屈的平行立方柱,平行立方柱与其对应的竖直立方柱所连接的支段平行,在4个平行立方柱的末端设置有方向为斜向下的扫码器9。9个扫码器9和扫码器的固定支架7组成扫码设备6。
在进行条码扫描时,由机械手末端8处安装的吸盘4抓取待分拣的盒子3放入扫码设备6中,使待分拣的盒子3的四周正对着4条竖直立方柱中间的扫码器9。
当出现条码扫描失败的情况时,选择以下两种解决方案中的一种:第一种,将盒子3重新放入分拣箱2,重新抓取盒子3的另一个面再进行条码扫描;第二种,统一将不能识别的盒子3放入一个箱子,等待人工处理或者倒入分拣箱2重新分拣。
Claims (10)
1.一种使用平面检测的自动分拣的方法,其特征在于,该方法包括以下步骤:
S1、使用工业深度相机获取当前待分拣区域即分拣箱中待分拣盒子的图像信息然后根据平面检测算法计算出抓取点的位置和姿态;
S2、根据抓取点的位置和姿态对工业机器人做运动姿态规划;
S3、利用盒子的轮廓信息对抓取后的盒子的姿态做矫正,然后通过工业机器人末端的吸盘抓取盒子,将盒子放入扫码设备中进行扫码;
S4、使用全方位条码扫描的策略来对待扫描的盒子进行扫码,最终根据条码信息分类。
2.根据权利要求1所述的一种使用平面检测的自动分拣的方法,其特征在于,步骤S1的具体步骤如下:
S1.1、使用工业深度相机获取分拣箱中的盒子图像,利用工业深度相机提供的接口,获得彩色图像、深度图像、点云图像;
S1.2、采用平面检测算法将点云图像图像进行网格划分,计算出每个网格是否为一个平面,将相互靠近而且平面参数接近的网格聚合在一起组成一个平面;
S1.3、计算出所有的聚合后的平面的中点,并将其视为抓取点,得到抓取点离分拣箱底部的高度h,比较各个抓取点的优先级,得出最佳的抓取点的位置和姿态即法向量。
3.根据权利要求1所述的一种使用平面检测的自动分拣的方法,其特征在于,在步骤S2中,需要根据最佳的抓取点的位置及法向量计算工业机器人即机械手的运动轨迹和末端姿态,具体步骤如下:
S2.1、根据从相机坐标系到机械手坐标系的旋转矩阵和平移矩阵,将相机坐标系下的抓取点的坐标和法向量转化为机械手坐标系下的抓取点坐标和法向量;相机坐标系的原点设置在工业深度相机的中心,X轴沿着工业深度相机的长边方向,Z轴为工业深度相机的视觉光轴;机械手坐标系的原点设置在工业机器人的基座底面的中心,X轴取底面的任意一边的方向,Z轴垂直于底面,方向向上;旋转矩阵U和平移矩阵T通过事先完成的标定步骤得到;所述标定步骤为:获取一系列点分别在相机坐标系的坐标P和在机械手坐标系下的坐标Q,通过奇异值分解求解方程Q=U*P+T,得到旋转矩阵U和平移矩阵T;
从相机坐标系下的抓取点的坐标Pcamera和法向量Vcamera转换到机械手坐标系下的抓取点的坐标Probot和法向量Vrobot的公式为:
Probot=U*Pcamera+T
Vrobot=U*Vcamera
S2.2、根据机械手坐标系下的抓取点坐标规划机械手末端的运动轨迹;所述规划的机械手末端的运动轨迹为:首先,机械手末端到达抓取点上方的安全高度;然后,机械手末端下降,达到抓取点时停止;机械手末端的吸盘吸取物体后,机械手末端上升到安全高度;最后,机械手末端移动到扫码设备处;
S2.3、根据机械手坐标系下的法向量规划机械手的末端姿态。
4.根据权利要求1所述的一种使用平面检测的自动分拣的方法,其特征在于,步骤S3的具体步骤如下:
S3.1、用最小外接矩形的算法,对聚合后所有的平面网格点用最小矩形进行包络,得到的矩形视为盒子的轮廓;
S3.2、取所得轮廓的一条边的方向向量作为矫正用的向量,并将其视为机械手末端坐标系的X轴或Y轴,机械手末端坐标系的原点设置在机械手末端的吸盘处;步骤2中的机械手坐标系下的法向量视为机械手末端坐标系的Z轴;
S3.3、抓取盒子时,机械手末端坐标系的X轴或Y轴与盒子的一边朝向相同,达到姿态矫正的目的。
5.根据权利要求1所述的一种使用平面检测的自动分拣的方法,其特征在于,在步骤S4中,需要对待扫描的盒子进行条码扫描得到盒子的信息,从而根据盒子的信息对盒子进行分类;为了提高条码扫描的效率,避免机械手末端做旋转或者重新抓取的动作,提出了全方位扫描条码的策略,这种策略是在待扫描条码的盒子的四周、下方以及斜上方分别用扫码器扫描,扫码器安装在扫码设备上。
6.根据权利要求2所述的一种使用平面检测的自动分拣的方法,其特征在于,所述平面检测算法是将点云图像做网格划分,在每个网格中取三个以上的拟合点采用最小二乘法来拟合平面;再取3个及以上的检验点代入平面方程来检验误差;根据误差大小来判断网格是否为一个平面,并记录下该网格拟合的平面方程的参数;然后将相互靠近以及平面参数相近的网格采用并查的方法聚合成一个平面,由此得到一系列聚合后的平面及各平面的面积s,每个平面由一系列网格组成。
7.根据权利要求2所述的一种使用平面检测的自动分拣的方法,其特征在于,判断抓取点的优先级时同时考虑了抓取点的位置高度以及抓取面的大小,公式如下:
其中σ表示抓取的优先级,其值越大表示越优先抓取;h表示抓取点离分拣箱底部的高度,hm表示深度相机到分拣箱底部的高度,s表示抓取点所在平面的面积,sm表示分拣箱底部的面积;ω1、ω2分别表示高度和面积的权重值,并且ω1+ω2=1,其中高度的权重ω1的取值区间为(0.8,1)。
8.根据权利要求3所述的一种使用平面检测的自动分拣的方法,其特征在于,根据法向量求机械手末端姿态的方法是将法向量视为末端坐标系的Z轴,同时再任取一条与法向量垂直的向量作为末端坐标系的X轴或Y轴,即可得到末端坐标系在机械手坐标系下的表示,从而得到机械手坐标系到末端坐标系的旋转矩阵R:
其中[r11 r21 r31]T为步骤3所得的矫正用的向量的单位向量,[r13 r23 r33]T为步骤2所得的最佳抓取点所在的平面的单位法向量,剩下的[r12 r22 r32]T由[r11 r21 r31]T和[r13 r23r33]T两个向量叉乘得到;
机械手的末端姿态表示为[Rx,Ry,Rz],其中Rx,Ry,Rz称为欧拉角,表示由机械手坐标系分别绕其X轴、Y轴、Z轴旋转对应的角度得到机械手末端的坐标系,欧拉角的计算公式为:
此处的atan2(a,b)表示反正切函数,返回以弧度表示的a/b的反正切,a、b为参变量。
9.根据权利要求5所述的一种使用平面检测的自动分拣的方法,其特征在于,当出现条码扫描失败的情况时,选择以下两种解决方案中的一种:第一种,将盒子重新放入分拣箱,重新抓取盒子的另一个面再进行条码扫描;第二种,统一将不能识别的盒子放入一个箱子,等待人工处理或者倒入分拣箱重新分拣。
10.根据权利要求6所述的一种使用平面检测的自动分拣的方法,其特征在于,平面方程表示为Ax+By+Cz+D=0,其中A2+B2+C2=1,(A,B,C)为平面的单位法向量,D为相机坐标系原点到平面的距离。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910684609.8A CN110420867A (zh) | 2019-07-26 | 2019-07-26 | 一种使用平面检测的自动分拣的方法 |
PCT/CN2019/114530 WO2021017233A1 (zh) | 2019-07-26 | 2019-10-31 | 一种使用平面检测的自动分拣的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910684609.8A CN110420867A (zh) | 2019-07-26 | 2019-07-26 | 一种使用平面检测的自动分拣的方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110420867A true CN110420867A (zh) | 2019-11-08 |
Family
ID=68412819
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910684609.8A Pending CN110420867A (zh) | 2019-07-26 | 2019-07-26 | 一种使用平面检测的自动分拣的方法 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110420867A (zh) |
WO (1) | WO2021017233A1 (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110900606A (zh) * | 2019-12-03 | 2020-03-24 | 江苏创能智能科技有限公司 | 一种基于小型机械臂手眼联动系统及其控制方法 |
CN112192577A (zh) * | 2020-12-03 | 2021-01-08 | 佛山隆深机器人有限公司 | 一种应用于机器人抓取场景的一拍多抓方法 |
CN112509145A (zh) * | 2020-12-22 | 2021-03-16 | 珠海格力智能装备有限公司 | 基于三维视觉的物料分拣方法和装置 |
CN112756275A (zh) * | 2020-12-30 | 2021-05-07 | 哈尔滨铭川运输有限公司 | 航空物流运输地勤分类器和使用方法 |
CN113284179A (zh) * | 2021-05-26 | 2021-08-20 | 吉林大学 | 一种基于深度学习的机器人多物体分拣方法 |
CN113370213A (zh) * | 2021-06-25 | 2021-09-10 | 成都飞机工业(集团)有限责任公司 | 一种机器人末端执行器的姿态计算方法 |
CN113500017A (zh) * | 2021-07-16 | 2021-10-15 | 上海交通大学烟台信息技术研究院 | 一种面向非结构化场景下物料分拣的智能系统和方法 |
CN113814970A (zh) * | 2021-08-12 | 2021-12-21 | 杭州迁移科技有限公司 | 工件抓取点优化计算方法、装置、设备及存储介质 |
CN114054358A (zh) * | 2021-11-15 | 2022-02-18 | 深圳市海铭德科技有限公司 | 物料分拣装置和方法 |
CN114061480A (zh) * | 2020-08-03 | 2022-02-18 | 上海飞机制造有限公司 | 一种用于检测工件外形的方法 |
CN115069587A (zh) * | 2022-06-20 | 2022-09-20 | 博睿自动化设备(广州)有限公司 | 一种用于芯片平面度检测的自动化设备及其使用方法 |
CN115302514A (zh) * | 2022-08-25 | 2022-11-08 | 江汉大学 | 一种协作机器人抓取果蔬的控制方法和装置 |
CN116899915A (zh) * | 2023-07-19 | 2023-10-20 | 华至云链科技(苏州)有限公司 | 设备数据实时同步方法及装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104511436A (zh) * | 2013-09-28 | 2015-04-15 | 沈阳新松机器人自动化股份有限公司 | 一种基于机器人视觉伺服技术的快递分拣方法及系统 |
US20160221187A1 (en) * | 2013-03-15 | 2016-08-04 | Industrial Perception, Inc. | Object Pickup Strategies for a Robotic Device |
CN207198051U (zh) * | 2017-08-04 | 2018-04-06 | 上海波创电气有限公司 | 一种手机壳表面自动检测系统 |
CN108109174A (zh) * | 2017-12-13 | 2018-06-01 | 上海电气集团股份有限公司 | 一种用于散乱零件随机分拣的机器人单目引导方法和系统 |
CN109230580A (zh) * | 2018-10-11 | 2019-01-18 | 西安中科光电精密工程有限公司 | 一种基于混放物料信息采集的拆垛机器人系统及方法 |
CN109277311A (zh) * | 2018-09-11 | 2019-01-29 | 广东宏穗晶科技服务有限公司 | 一种生产线分拣用扫码机器人 |
CN208679851U (zh) * | 2018-08-15 | 2019-04-02 | 吉林大学 | 一种基于条码识别的物体分拣装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IT1256774B (it) * | 1992-01-22 | 1995-12-15 | Vincenzo Priolo | Robot postale. |
CN101510308A (zh) * | 2009-03-26 | 2009-08-19 | 山东理工大学 | 产品模型点云边界特征快速提取方法 |
CN105499155A (zh) * | 2016-02-01 | 2016-04-20 | 先驱智能机械(深圳)有限公司 | 物体的抓取与分拣方法及分拣盘 |
CN107138432B (zh) * | 2017-04-05 | 2020-03-13 | 杭州迦智科技有限公司 | 非刚性物体分拣方法和装置 |
CN107748890A (zh) * | 2017-09-11 | 2018-03-02 | 汕头大学 | 一种基于深度图像的视觉抓取方法、装置及其可读存储介质 |
CN108080289A (zh) * | 2018-01-22 | 2018-05-29 | 广东省智能制造研究所 | 机器人分拣系统、机器人分拣控制方法及装置 |
CN109772718B (zh) * | 2019-02-12 | 2020-12-01 | 北京极智嘉科技有限公司 | 包裹地址识别系统、识别方法和包裹分拣系统、分拣方法 |
-
2019
- 2019-07-26 CN CN201910684609.8A patent/CN110420867A/zh active Pending
- 2019-10-31 WO PCT/CN2019/114530 patent/WO2021017233A1/zh active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160221187A1 (en) * | 2013-03-15 | 2016-08-04 | Industrial Perception, Inc. | Object Pickup Strategies for a Robotic Device |
CN104511436A (zh) * | 2013-09-28 | 2015-04-15 | 沈阳新松机器人自动化股份有限公司 | 一种基于机器人视觉伺服技术的快递分拣方法及系统 |
CN207198051U (zh) * | 2017-08-04 | 2018-04-06 | 上海波创电气有限公司 | 一种手机壳表面自动检测系统 |
CN108109174A (zh) * | 2017-12-13 | 2018-06-01 | 上海电气集团股份有限公司 | 一种用于散乱零件随机分拣的机器人单目引导方法和系统 |
CN208679851U (zh) * | 2018-08-15 | 2019-04-02 | 吉林大学 | 一种基于条码识别的物体分拣装置 |
CN109277311A (zh) * | 2018-09-11 | 2019-01-29 | 广东宏穗晶科技服务有限公司 | 一种生产线分拣用扫码机器人 |
CN109230580A (zh) * | 2018-10-11 | 2019-01-18 | 西安中科光电精密工程有限公司 | 一种基于混放物料信息采集的拆垛机器人系统及方法 |
Non-Patent Citations (1)
Title |
---|
王晏民等: "《深度图像化点云数据管理》", 31 December 2013, 测绘出版社 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110900606A (zh) * | 2019-12-03 | 2020-03-24 | 江苏创能智能科技有限公司 | 一种基于小型机械臂手眼联动系统及其控制方法 |
CN110900606B (zh) * | 2019-12-03 | 2022-08-09 | 江苏创能智能科技有限公司 | 一种基于小型机械臂手眼联动系统及其控制方法 |
CN114061480B (zh) * | 2020-08-03 | 2024-04-05 | 上海飞机制造有限公司 | 一种用于检测工件外形的方法 |
CN114061480A (zh) * | 2020-08-03 | 2022-02-18 | 上海飞机制造有限公司 | 一种用于检测工件外形的方法 |
CN112192577A (zh) * | 2020-12-03 | 2021-01-08 | 佛山隆深机器人有限公司 | 一种应用于机器人抓取场景的一拍多抓方法 |
CN112509145A (zh) * | 2020-12-22 | 2021-03-16 | 珠海格力智能装备有限公司 | 基于三维视觉的物料分拣方法和装置 |
CN112509145B (zh) * | 2020-12-22 | 2023-12-08 | 珠海格力智能装备有限公司 | 基于三维视觉的物料分拣方法和装置 |
CN112756275A (zh) * | 2020-12-30 | 2021-05-07 | 哈尔滨铭川运输有限公司 | 航空物流运输地勤分类器和使用方法 |
CN112756275B (zh) * | 2020-12-30 | 2023-04-11 | 运易通科技有限公司 | 航空物流运输地勤分类器和使用方法 |
CN113284179A (zh) * | 2021-05-26 | 2021-08-20 | 吉林大学 | 一种基于深度学习的机器人多物体分拣方法 |
CN113370213A (zh) * | 2021-06-25 | 2021-09-10 | 成都飞机工业(集团)有限责任公司 | 一种机器人末端执行器的姿态计算方法 |
CN113500017A (zh) * | 2021-07-16 | 2021-10-15 | 上海交通大学烟台信息技术研究院 | 一种面向非结构化场景下物料分拣的智能系统和方法 |
CN113500017B (zh) * | 2021-07-16 | 2023-08-25 | 上海交通大学烟台信息技术研究院 | 一种面向非结构化场景下物料分拣的智能系统和方法 |
CN113814970A (zh) * | 2021-08-12 | 2021-12-21 | 杭州迁移科技有限公司 | 工件抓取点优化计算方法、装置、设备及存储介质 |
CN114054358A (zh) * | 2021-11-15 | 2022-02-18 | 深圳市海铭德科技有限公司 | 物料分拣装置和方法 |
CN115069587A (zh) * | 2022-06-20 | 2022-09-20 | 博睿自动化设备(广州)有限公司 | 一种用于芯片平面度检测的自动化设备及其使用方法 |
CN115302514A (zh) * | 2022-08-25 | 2022-11-08 | 江汉大学 | 一种协作机器人抓取果蔬的控制方法和装置 |
CN116899915A (zh) * | 2023-07-19 | 2023-10-20 | 华至云链科技(苏州)有限公司 | 设备数据实时同步方法及装置 |
CN116899915B (zh) * | 2023-07-19 | 2024-01-09 | 华至云链科技(苏州)有限公司 | 设备数据实时同步方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2021017233A1 (zh) | 2021-02-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110420867A (zh) | 一种使用平面检测的自动分拣的方法 | |
DE102019009189B4 (de) | Robotersytem mit Fehlererkennung und dynamischem Packmechanismus | |
US11383380B2 (en) | Object pickup strategies for a robotic device | |
US10360531B1 (en) | Robot implemented item manipulation | |
DE102019130902B4 (de) | Ein Robotersytem mit dynamischem Packmechanismus | |
AU2015289915B2 (en) | Multiple suction cup control | |
US9630316B2 (en) | Real-time determination of object metrics for trajectory planning | |
DE102020127473A1 (de) | Robotersystem mit wandbasiertem packmechanismus und verfahren zum betreiben dieses systems | |
DE112019000172T5 (de) | Ein Robotersystem mit automatisiertem Paketabtast- und Registrierungsmechanismus und Verfahren zum Betreiben dieses Systems | |
US20170024896A1 (en) | Three Dimensional Scanning and Data Extraction Systems and Processes for Supply Chain Piece Automation | |
CN112802105A (zh) | 对象抓取方法及装置 | |
CN110049933A (zh) | 用于提供车辆中的物体处理的系统和方法 | |
US11875570B1 (en) | Updating agent position information | |
JP7387117B2 (ja) | 計算システム、方法及び非一時的コンピュータ可読媒体 | |
Cong et al. | Design and Development of Robot Arm System for Classification and Sorting Using Machine Vision. | |
CN110533371B (zh) | 一种具有安全装置的电力物联网设备的智能物流仓储系统及方法 | |
Li et al. | Autofeeding system for assembling the CBCs on automobile engine based on 3-D vision guidance | |
CN112802106A (zh) | 对象抓取方法及装置 | |
Zhang et al. | Research on cigarette packet recognition and stacking technology based on machine vision | |
Ko et al. | Design and evaluation of algorithms for stacking irregular 3D objects using an automated material handling system | |
JP7391342B2 (ja) | 計算システム、方法及び非一時的コンピュータ可読媒体 | |
Hu et al. | Research on 3D Object Pose Estimation Method in Intelligent Logistics | |
Yang et al. | Multi-class 4-DoF Carton Box Detection for Heterogeneous Robotic Container Unloading | |
CN116160450A (zh) | 用于机器人物体放置的系统和方法 | |
Liang et al. | 3D Eye-to-Hand Coordination for Uninstructed Robot Grasp Planning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191108 |