CN112369208B - 一种类球形果实的采摘顺序动态规划方法 - Google Patents
一种类球形果实的采摘顺序动态规划方法 Download PDFInfo
- Publication number
- CN112369208B CN112369208B CN202011380345.6A CN202011380345A CN112369208B CN 112369208 B CN112369208 B CN 112369208B CN 202011380345 A CN202011380345 A CN 202011380345A CN 112369208 B CN112369208 B CN 112369208B
- Authority
- CN
- China
- Prior art keywords
- picking
- fruit
- fruits
- sensing
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01D—HARVESTING; MOWING
- A01D46/00—Picking of fruits, vegetables, hops, or the like; Devices for shaking trees or shrubs
- A01D46/30—Robotic devices for individually picking crops
Abstract
本发明公开了一种类球形果实的采摘顺序动态规划方法,设计了将感知点与采摘点一起进行规划的动态收获感知方法。机械臂每次采摘或感知完成后经过判断进行权值更新,添加了果实深度信息的权值更新规则。本发明所提出的动态收获感知采摘顺序规划方法在动态规划方法的基础上将采摘的感知点与采摘点相结合,与传统的基于经验的采摘顺序规划方法、全局感知方法和批量感知等方法相比,所规划的采摘顺序不仅采摘路径短,且实时性强,提高了采摘机器人的采摘效率和采摘成功率。对所设计的动态收获感知采摘顺序规划方法进行了改进,加入了基于三维空间的前后果实采摘顺序规划,避免了因采摘顺序导致的果实破坏,降低了果实采摘破坏率。
Description
技术领域
本发明属于机器人果实采摘领域,特别涉及类球形果实的采摘,是用于植物大棚、植物工厂等果实量大、果实分布不均匀,需要采摘机器人独立完成采摘任务的领域。
背景技术
随着植物大棚、植物工厂的规模庞大化以及人力成本的提高,果蔬采摘与收获的智能化成为各国农业的迫切需求。伴随着计算机、图像处理等领域的技术突破,果蔬采摘机器人得到了迅速的发展。如美国弗罗里达大学开发的柑橘采摘机器人、以色列内盖夫本哈古里安大学开发的应用于商业温室中的甜椒采摘机器人、上海交通大学开发的双臂采摘机器人等。采摘机器人技术日趋成熟并逐渐向商用方向发展。
但是各国高校和研究所都致力于采摘机器人的果实识别和机械臂避障等方面的研究,鲜有对于果实采摘顺序的研究,采摘机器人几乎都是采用不进行任何优化策略的固定顺序采摘,效率低且易损伤果实。仅有的一些研究也都存在着许多弊端,如专利公开号为CN105773614B的“一种基于双目视觉的空间降维果实采摘顺序规划系统及方法”,该专利所述方法需要双目相机旋转多个角度才能获取全局信息,检测效率和采摘效率低;采摘顺序使用全局规划,实时性差,采摘机器人在执行采摘时果实位置可能已经发生了变化,采摘成功率低;对采摘目标进行了降维处理,其采摘顺序并不是最优;采摘顺序未考虑果实深度信息,可能对果实造成破坏。
发明内容
为了克服目前常用的基于经验规定的从上到下、从左到右的采摘方法采摘效率低、易造成果实损坏的问题,本发明从提高整体果实收获速度、提高果实采摘成功率、降低果实破坏率的角度考虑,提出了一种类球形果实的采摘顺序动态规划方法。
所述采摘顺序规划方法应用于采摘苹果、西红柿等类球形果实的采摘机器人。所述采摘机器人采用移动轮式机器人平台安装六自由度采摘机械臂、采摘机械臂末端安装深度相机的形式进行采摘。所述采摘机器人夹爪下方安装有与收获筐相连的软管,采摘机器人在每次采摘之后果实会直接沿着软管进入收获筐,采摘机器人不需要往返于采摘点与收获筐。移动机器人到达采摘区域后,深度相机进行环境感知,采集环境的RGBD图像,并利用深度学习算法对环境中的果实进行识别,将识别到的果实的中心点位置信息进行发布。下文中将深度相机进行感知的位置称为感知点,移动机器人每移动一次为一个新的地点。
由于采摘环境狭小,采摘机械臂与植物之间距离较近,相机拍摄范围有限,同一个地点深度相机进行一次感知无法获取该地点所有的环境信息,果实也会因为枝叶的遮挡无法在同一个感知点感知到所有的果实。因此在同一个采摘地点设置机械臂末端移动到不同的位置使深度相机能够在不同的位置进行多次感知。感知点的个数根据采摘环境的不同进行调整,直到能够使深度相机感知此采摘点的所有环境信息。
采摘顺序最优,即采摘机器人在保证采摘成功率的情况下完成整体采摘任务的采摘消耗总时间最短或采摘消耗总能量最小的果实采摘顺序。为了使整体采摘时间最短,只需让采摘机器人在每个地点的采摘时间最短。采摘机器人完成一个地点的所有果实的采摘时间可以由式(1)表示。
TA=TC+HCNH+SCNS (1)
式中:TA表示采摘机器人采摘完一个地点所有果实的采摘时间,TC表示机械臂从起始位置移动到所有采摘点和感知点消耗的总时间,HC表示所有的采摘点个数,HN表示机械臂在采摘位置进行一次采摘的时间(用于果实抓取和果梗分离等),SC表示所有的感知点个数,NS表示深度相机在感知点进行一次感知的时间,TW表示机械臂末端从一个位置移动到另一个位置所需的时间,W表示机械臂末端位置。
由式(1)可以看出,采摘机器人进行采摘消耗的总时间由机械臂移动到各采摘点和感知点花费的时间、采摘动作花费的时间和感知花费的时间组成。其中采摘动作花费的时间和感知花费的时间是固定的,采用任何采摘顺序均不会产生变化。因此要使整体采摘时间最短,只需使机械臂移动到各采摘点和感知点花费的时间TC最小,而机械臂进行一次移动的时间和移动的距离成正相关,因此即规划出一条最短路径,使机械臂末端执行器只经过一次所有果实采摘点,就将所有果实抓取完毕,且最终能够回到初始位置。采用动态规划的方法求取所述最短路径。
第一步,在第一感知点进行感知;
采摘机器人到达采摘位置后,此时采摘机械臂处于初始位置,双目相机在第一感知点即初始位置进行环境感知,双目相机将采集到的环境RGBD图像通过ROS进行发布,利用深度学习yolov3算法对双目相机采集到的RGBD图像进行订阅并处理;使用yolov3算法对环境RGBD图像进行识别,将识别到的果实i的中心点三维位置坐标(xi,yi,zi)通过ROS(RobotOperating System)机器人操作系统进行发布;将所有识别到的果实位置三维坐标组成一个果实位置的集合Va{a,b,c,.....,n},将采摘机械臂需要进行感知的所有感知点坐标组成一个感知点集合Vs{as,bs,cs.....,ns},则机械臂末端需要移动到的所有位置的三维坐标集合V=Va+Vs;
第二步,检测果实重叠情况;
提取果实位置坐标的x-y平面位置信息,所述x-y平面即垂直于双目相机法线,双目相机拍摄的RGB图像对应的平面;提取后的果实i中心点平面坐标为(xi,yi),所有检测到的果实位置组成果实位置的二维位置集合Vb{ab,bb,cb,....,nb};检测集合Vb中所有果实在x-y平面的重叠情况,即依次判断Vb中所有果实两两之间的距离lij,判断依据如式(3)所示:
式中(xi,yi)和(xj,yj)分别为i果实的中心点和j果实的中心点在x-y平面的坐标;r为较大的成熟果实半径;
根据式(3)判断两个果实在x-y平面的重叠情况,当两个果实间的距离lij≤2.5r,则判定两个果实发生重叠;根据式(3),对集合Vb中所有的果实位置进行两两计算,判断所有果实之间的重叠关系,并记录所有互为遮挡的果实组组成集合Vc;
第三步,果实间权重的计算及动态更新;
令权重cij等于i点到j点的距离,如式(4)所示:
其中i,j为集合V中的点,根据式(4)计算集合V中所有点两两之间的权重;
权重的计算:根据式(4)计算第一步中检测到的所有果实位置和感知点集合V中所有点两两之间的权重。
权重的动态更新:对在步骤二中判定为重叠的果实集合Vc中所有互为遮挡的果实进行权重更新;首先比较互为重叠的果实i和j的深度信息,如果zi-zj<0,则i果实在j果实之前,令深度信息更大的果实即被遮挡果实j与集合V中其他位置点之间的权重为无穷大,与遮挡j果实的果实i之间的权重为0,如式(5)所示:
当遮挡果实i被采摘,则判定先前被遮挡果实j不再被遮挡,即式(3)不再成立,则更新j果实的权重,使j果实的权重值再次以式(4)计算得到;
除了遮挡果实的权重更新外,机械臂在新的感知位置感知到了·新的果实后,也需要对集合V中所有点进行权重更新。
第四步,采用动态收获感知方法对采摘机器人采摘路径进行规划;将感知点和采摘点放到一起进行动态规划,即对集合V中所有点进行动态路径规划。令位置集合Vm为除了点m之外的所有采摘点和感知点的集合,即Vm=V-m;设采摘机械臂末端从初始位置s出发,令d(m,Vm)表示机械臂末端从采摘点m出发经过位置集合Vm中各个采摘点仅且一次,最后回到初始位置s的最短路径长度,则:
1)当移动位置集合Vm为空集时,那么d(m,Vm)表示采摘机械臂只有一个需要运动到达的位置点,机械臂采摘完成后直接从m回到了初始位置s,此时d(m,Vm)=cms(m≠s);cms为m点和s点的之间权重;
2)当移动位置集合Vm不为空,根据卡尔曼最优定理,整体的最优策略的子策略一定是最优的,那么就是对子问题的最优求解。在Vm这个位置点集合中,尝试对每一个位置点进行求解,枚举出所有的子路径,并得出最优解,依次求得子路径、子路径的子路径的最优解,直到集合Vm为空集,则问题转化为1),如式(6)所示:
d(m,V)=min(cmk+d(k,Vm-(k))) (6)
其中d(k,Vm-(k))为d(m,Vm)的子问题;cmk为m点和k点之间的权重。
综合1)和2)两种情况,机械臂最短路径动态规划方程如式(7)所示:
通过1)和2)的不断求解,对所有点依次迭代,求出所有路径的权重之和,则权重之和最小的路径即为所求的最短路径;最终求得采摘机械臂末端走完集合V中所有点的最短路径;
第五步,采摘机器人按照步骤四所求得的最短采摘路径进行采摘或感知,在每一次采摘或感知之后进行判断,如果存在剩余的果实或感知点,则采摘机器人再次进行第二步,判断果实重叠情况有无变化或有无新增的果实,如果有,则继续依次执行第三步-第五步;如果判断没有新增果实且果实重叠情况没有发生变化,则继续执行步骤五,直到判断此区域没有剩余的果实或感知点,则采摘机器人进入下一采摘地点进行采摘。
上述动态规划方法解决了采摘机器人在采摘点都已知的情况下的最短路径规划问题。采摘机器人在一个感知点无法感知全部的环境信息,需要在多个感知点进行感知获取全部的环境信息,以免发生果实遗漏的情况。感知点的规划对采摘顺序有着很大的影响,常见的规划方法有全局感知和批量感知方法等。全局感知即采摘机械臂先到所有的感知点将环境信息全部获取然后进行整体规划;批量感知方法先在感知点进行感知并将感知到的所有果实进行规划采摘,然后依次到后边的感知点进行感知和采摘;本发明所提出的动态收获感知方法,将所有的感知点与初始位置感知点感知到的果实放在一起进行动态路径规划,在每个感知点感知到新的果实后再次进行动态规划。动态收获感知方法保证了每一次采摘时的路径最优,将感知点也纳入整体路径规划,使得机械臂不需花费多余的时间在感知点之间运动,提高了整体采摘效率。
本发明添加了对重叠果实或者位置相近的前后生长的果实的采摘顺序规划。自然生长的果实常常出现果实重叠生长的现象,两个果实位置相近,一前一后生长,如果此时不对果实采摘顺序做任何处理,采摘机器人按照从左到右或从上到下顺序依次采摘,那么采摘机器人就有可能先采后边的果实,从而对前边的果实造成破坏。为了解决此问题,对所述的动态规划方法进行了改进,当检测到两个果实在x-y平面的位置相近,判断依据如式(3)所示,x-y平面为与深度相机深度信息垂直的平面。如果2个果实的x-y平面距离小于2r,则会发生重叠,给与多余的0.5r是给机械臂提供抓取的余量。如果检测到两个果实在x-y平面的距离较近,则比较两个果实的深度信息,di-dj,假设di-dj<0,即i果实在j果实之前,令深度信息更大的果实即被遮挡的果实j与其他果实之间的权重为无穷大,与遮挡此果实的果实i之间的权重为0,如式(5)所示,则此时动态路径规划算法必定会将被遮挡果实j的采摘顺序规划在遮挡果实a之后,因为只要所规划路径由果实j到果实i,则此条路径的值就因cji变为无穷大,必定不是最优解。在每一次采摘之后进行动态规划,当遮挡果实i被采摘,规划算法判定先前被遮挡果实j不再被遮挡,即式(3)不再成立,则更新j果实的权重,使其权重恢复正常,如式(3)所示,以正常的采摘点加入动态规划序列。这样就可以在确保不破坏果实的情况下保证采摘顺序最优。
本发明提出了针对采摘需要进行多次感知的问题,设计了将感知点与采摘点一起进行规划的动态收获感知方法。机械臂每次采摘或感知完成后经过判断进行权值更新,添加了果实深度信息的权值更新规则。
本发明的有益效果是所提出的动态收获感知采摘顺序规划方法在动态规划方法的基础上将采摘的感知点与采摘点相结合,与传统的基于经验的采摘顺序规划方法、全局感知方法和批量感知等方法相比,所规划的采摘顺序不仅采摘路径短,且实时性强,提高了采摘机器人的采摘效率和采摘成功率。对所设计的动态收获感知采摘顺序规划方法进行了改进,加入了基于三维空间的前后果实采摘顺序规划,避免了因采摘顺序导致的果实破坏,降低了果实采摘破坏率。
附图说明
图1为基于动态收获感知规划的采摘机器人采摘流程图;
图2为全局感知方法规划的采摘顺序;
图3为批量感知方法规划的采摘顺序;
图4为动态收获感知方法规划的采摘顺序;
图5为重叠果实权重更新说明图。
具体实施方式
下面结合附图,对本发明进行详细的说明。
实施例1
应用基于动态收获感知方法进行采摘的采摘机器人采摘流程图如图1所示。采摘机器人在到达采摘位置后,先在默认位置,即第一感知点进行感知,双目相机对环境信息进行采集并使用深度学习算法对果实进行识别和定位。将采集到的果实位置信息进行处理,对比所有果实位置,如果发现有果实位置相近,则对其果实权重进行更新,避免后方果实先采导致前方果实被破坏的情况。在果实权重更新后,利用动态收获感知规划方法对果实采摘顺序进行规划,机械臂按照规划路径进行采摘。采摘机器人在完成一个果实采摘完毕或完成一个感知点的感知后,判断是否有剩余果实或者感知点,如果有,则返回果实重叠情况判断,依次进行判断和循环,直到所有的果实和感知点均已完成,则采摘机器人进入下一地点进行采摘。
感知点在采摘顺序中的规划对采摘效率有着很大的影响,结合常见的两种规划方法:全局感知方法和批量感知方法,对比说明本发明所设计的动态收获感知方法的优点。图2所示为全局感知方法规划的采摘顺序,采摘机器人在第一感知点感知之后,对感知到的果实位置信息进行存储,先不进行采摘,而是到其余所有的感知点进行感知,在所有的感知点都感知完毕后,将所得到的所有位置信息进行综合处理,规划出一条最短路径,其采摘顺序可以简单表述为:感知+感知+感知→采摘。全局规划方法规划的路径较短,但是其实时性较差,所有的果实位置信息都是和第一次感知一起进行感知得到的,当果实枝干受到采摘机器人碰撞或者在采摘时发生的拽动等都会造成果实的易位,最后采摘的果实与感知发生的时间过久,位置信息很有可能发生变动,因此使用全局规划方法的采摘路径采摘成功率较低。
图3为批量感知方法规划的采摘顺序,采摘机器人在第一感知点感知之后,立马对感知到的果实进行路径规划和采摘,采摘机器人在采摘完于第一感知点感知到的所有果实后,才会到第二感知点进行感知,接下来依次进行感知→采摘→感知→采摘的循环,直到遍历所有感知点,采完所有果实。批量感知方法规划的采摘顺序实时性较好,但是其每次感知完全分离,规划的路径较长,采摘机器人经常在感知点和新感知到的果实之间运动,采摘效率较低。
图4为本发明所设计的动态收获感知方法规划的采摘顺序,采摘机器人在第一感知点进行感知之后,将采集到的果实信息和下一感知点的位置放在一起进行路径规划,在得到局部最短路径之后,采摘机器人进行采摘,当采摘机器人到达下一感知点时,深度相机再次进行感知,将在第二感知点感知到的果实和第一感知点采摘剩余的果实和下一感知点位置放在一起进行路径规划,接下来依次进行感知+采摘+感知+规划→采摘+感知+规划,直到遍历所有感知点,实现在采摘中进行感知的动态收获感知规划。在gazebo中对三种方法进行了多次仿真试验,仿真结果显示,采摘机器人使用动态收获感知方法进行采摘顺序规划完成采摘的时间比使用批量感知方法短12%,比使用全局感知方法短3%。虽然动态收获感知方法与全局采摘效率相差不大,但是在实际果实采集中,机械臂可能触碰植物或者在抓取收获过程中推动、拽动植物,导致其他果实易位。动态收获感知方法相较于全局采摘,采摘时距离获取果实位置信息时的时间间距更短,果实位置变动几率更小,位置信息更准确,抓取成功率更高。动态采摘规划方法不仅有着比全局感知方法更高效性的采摘路径并且有着批量感知方法的实时性。
结合图5对重叠果实路径规划方法进行详细说明。如图1所示,采摘机器人在对果实进行感知之后,需要对果实的重叠变化情况进行判断。由深度相机获取的果实位置信息是三维坐标信息,为了判断两个果实的重叠信息,需要判断两个果实在x-y平面的坐标位置之间是否有重叠情况,因为机械臂需要垂直于x-y平面进行抓取。为了避免视角变化带来的影响,所述进行对比的坐标都是由深度相机经过tf转换所获得的机械臂坐标系下的坐标。判断依据如式(3)所示,当果实i和果实j的中心点距离lij<2r时,则果实i与果实j发生了重叠的情况,但是考虑到果实大小不同和采摘机器人采摘时需要留有空间余量,因此将判定依据扩大为2.5r,即当i果实和j果实的中心距离lij<2.5r时即认为两果实发生了重叠。当两果实发生重叠时,要对其采摘的先后顺序进行设定。
如图5所示,如果采摘机器人没有用任何采摘规划策略进行随机采摘将可能先采摘j果实,那么i果实肯定会遭到机械臂的破坏或触碰导致掉落。因此当判定果实i和果实j发生重叠后,利用深度相机给出的深度信息比较两果实的深度位置情况,判定果实深度信息更深的果实j为被遮挡果实,i果实为遮挡果实,则需要改变被遮挡果实j的路径规划权重,使其采摘顺序排在遮挡果实i之后。令果实j与其他果实之间的权重为无穷大,与遮挡此果实的果实i之间的权重为0,则果实j的采摘顺序会排在遮挡果实i之后,如式(5)所示。动态规划方法在每次成功采摘后更新剩余果实位置并对果实重叠信息进行检测,如果果实i被采走,j果实不再被遮挡,则使j果实的权重恢复正常,如式(4)所示。则果实j将再次以正常未被遮挡果实被加入采摘规划序列进行采摘。
Claims (3)
1.一种类球形果实的采摘顺序动态规划方法,其特征在于,所述采摘顺序规划方法应用于采摘类球形果实的采摘机器人;具体包括步骤如下:
第一步,在第一感知点进行感知;
采摘机器人到达采摘位置后,此时采摘机械臂处于初始位置,双目相机在第一感知点即初始位置进行环境感知,双目相机将采集到的环境RGBD图像通过ROS进行发布,利用深度学习yolov3算法对双目相机采集到的RGBD图像进行订阅并处理;使用yolov3算法对环境RGBD图像进行识别,将识别到的果实i的中心点三维位置坐标(xi,yi,zi)通过ROS进行发布;将所有识别到的果实位置三维坐标组成一个果实位置的集合Va{a,b,c,…,n},将采摘机械臂需要进行感知的所有感知点坐标组成一个感知点集合Vs{as,bs,cs…,ns},则机械臂末端需要移动到的所有位置的三维坐标集合V=Va+Vs;
第二步,检测果实重叠情况;
提取果实位置坐标的x-y平面位置信息,所述x-y平面即垂直于双目相机法线,双目相机拍摄的RGB图像对应的平面;提取后的果实i中心点平面坐标为(xi,yi),所有检测到的果实位置组成果实位置的二维位置集合Vb{ab,bb,cb,…,nb};检测集合Vb中所有果实在x-y平面的重叠情况,即依次判断Vb中所有果实两两之间的距离lij,判断依据如式(3)所示:
式中(xi,yi)和(xj,yj)分别为i果实的中心点和j果实的中心点在x-y平面的坐标;r为较大的成熟果实半径;
根据式(3)判断两个果实在x-y平面的重叠情况,当两个果实间的距离lij≤2.5r,则判定两个果实发生重叠;根据式(3),对集合Vb中所有的果实位置进行两两计算,判断所有果实之间的重叠关系,并记录所有互为遮挡的果实组组成集合Vc;
第三步,果实间权重的计算及动态更新;
令权重cij等于i点到j点的距离,如式(4)所示:
其中i,j为集合V中的点,根据式(4)计算集合V中所有点两两之间的权重;
权重的计算:根据式(4)计算第一步中检测到的所有果实位置和感知点集合V中所有点两两之间的权重;
权重的动态更新:对在第二步中判定为重叠的果实集合Vc中所有互为遮挡的果实进行权重更新;首先比较互为重叠的果实i和j的深度信息,如果zi-zj<0,则i果实在j果实之前,令深度信息更大的果实即被遮挡果实j与集合V中其他位置点之间的权重为无穷大,与遮挡j果实的果实i之间的权重为0,如式(5 )所示:
当遮挡果实i被采摘,则判定先前被遮挡果实j不再被遮挡,即式(3)不再成立,则更新j果实的权重,使j果实的权重值再次以式(4)计算得到;
除了遮挡果实的权重更新外,机械臂在新的感知位置感知到了新的果实后,也需要对集合V中所有点进行权重更新;
第四步,采用动态收获感知方法对采摘机器人采摘路径进行规划;令位置集合Vm为除了点m之外的所有采摘点和感知点的集合,即Vm=V-m;设采摘机械臂末端从初始位置s出发,令d(m,Vm)表示机械臂末端从采摘点m出发经过位置集合Vm中各个采摘点仅且一次,最后回到初始位置s的最短路径长度,则:
1)当移动位置集合Vm为空集时,那么d(m,Vm)表示采摘机械臂只有一个需要运动到达的位置点,机械臂采摘完成后直接从m回到了初始位置s,此时d(m,Vm)=cms(m≠s);cms为m点和s点的之间权重;
2)当移动位置集合Vm不为空,在Vm这个位置点集合中,尝试对每一个位置点进行求解,枚举出所有的子路径,并得出最优解,依次求得子路径、子路径的子路径的最优解,直到集合Vm为空集,则问题转化为1),如式(6)所示:
d(m,V) =min(cmk+d(k,Vm-(k))) ( 6 )
其中d(k,Vm-(k))为d(m,Vm)的子问题;cmk为m点和k点之间的权重;
通过1)和2)的不断求解,对所有点依次迭代,求出所有路径的权重之和,则权重之和最小的路径即为所求的最短路径;最终求得采摘机械臂末端走完集合V中所有点的最短路径;
第五步,采摘机器人按照第四步 所求得的最短采摘路径进行采摘或感知,在每一次采摘或感知之后进行判断,如果存在剩余的果实或感知点,则采摘机器人再次进行第二步,判断果实重叠情况有无变化或有无新增的果实,如果有,则继续依次执行第三步-第五步;如果判断没有新增果实且果实重叠情况没有发生变化,则继续执行第五步 ,直到判断此区域没有剩余的果实或感知点,则采摘机器人进入下一采摘地点进行采摘。
2.根据权利要求1所述的类球形果实的采摘顺序动态规划方法,其特征在于,所述采摘机器人采用移动轮式机器人平台安装六自由度采摘机械臂、采摘机械臂末端安装深度相机的形式进行采摘;所述采摘机器人夹爪下方安装有与收获筐相连的软管,采摘机器人在每次采摘之后果实会直接沿着软管进入收获筐;移动机器人到达采摘区域后,深度相机进行环境感知,对果实进行识别、定位及遮挡判断;将所感知到的果实位置与感知点进行融合,利用动态规划方法规划出最短路径并采摘。
3.根据权利要求1所述的类球形果实的采摘顺序动态规划方法,其特征在于,第一步,感知点集合Vs中感知点的个数根据采摘环境确定,直到机械臂在所有感知点进行感知后能得到完整的环境信息为止。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011380345.6A CN112369208B (zh) | 2020-12-01 | 2020-12-01 | 一种类球形果实的采摘顺序动态规划方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011380345.6A CN112369208B (zh) | 2020-12-01 | 2020-12-01 | 一种类球形果实的采摘顺序动态规划方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112369208A CN112369208A (zh) | 2021-02-19 |
CN112369208B true CN112369208B (zh) | 2021-07-13 |
Family
ID=74590178
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011380345.6A Active CN112369208B (zh) | 2020-12-01 | 2020-12-01 | 一种类球形果实的采摘顺序动态规划方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112369208B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114029945B (zh) * | 2021-10-13 | 2023-04-28 | 大连理工大学 | 一种类球形果实采摘机械臂的抓取路径控制方法 |
CN115250744B (zh) * | 2022-07-29 | 2023-09-15 | 四川启睿克科技有限公司 | 一种多角度草莓采摘系统及方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003271933A (ja) * | 2002-03-18 | 2003-09-26 | Sony Corp | 顔検出装置及び顔検出方法並びにロボット装置 |
CN104636722A (zh) * | 2015-01-26 | 2015-05-20 | 江苏大学 | 一种采摘机器人的重叠果实快速跟踪识别方法 |
CN110281243A (zh) * | 2019-07-02 | 2019-09-27 | 佛山科学技术学院 | 一种采摘机器人作业序列规划方法 |
CN111328555A (zh) * | 2020-04-16 | 2020-06-26 | 深圳市飞研智能科技有限公司 | 一种无损水果自动采摘装置 |
CN111602517A (zh) * | 2020-05-28 | 2020-09-01 | 华南农业大学 | 一种串型水果分布式视觉主动感知方法及其应用 |
CN111753577A (zh) * | 2019-03-28 | 2020-10-09 | 天津工业大学 | 自动采摘机器人中的苹果识别与定位方法 |
-
2020
- 2020-12-01 CN CN202011380345.6A patent/CN112369208B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003271933A (ja) * | 2002-03-18 | 2003-09-26 | Sony Corp | 顔検出装置及び顔検出方法並びにロボット装置 |
CN104636722A (zh) * | 2015-01-26 | 2015-05-20 | 江苏大学 | 一种采摘机器人的重叠果实快速跟踪识别方法 |
CN111753577A (zh) * | 2019-03-28 | 2020-10-09 | 天津工业大学 | 自动采摘机器人中的苹果识别与定位方法 |
CN110281243A (zh) * | 2019-07-02 | 2019-09-27 | 佛山科学技术学院 | 一种采摘机器人作业序列规划方法 |
CN111328555A (zh) * | 2020-04-16 | 2020-06-26 | 深圳市飞研智能科技有限公司 | 一种无损水果自动采摘装置 |
CN111602517A (zh) * | 2020-05-28 | 2020-09-01 | 华南农业大学 | 一种串型水果分布式视觉主动感知方法及其应用 |
Non-Patent Citations (1)
Title |
---|
苹果采摘机器人快速跟踪识别重叠果实;赵德安等;《农业工程学报》;20150115;第22-26页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112369208A (zh) | 2021-02-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111602517B (zh) | 一种串型水果分布式视觉主动感知方法及其应用 | |
Ling et al. | Dual-arm cooperation and implementing for robotic harvesting tomato using binocular vision | |
SepúLveda et al. | Robotic aubergine harvesting using dual-arm manipulation | |
Zhao et al. | A review of key techniques of vision-based control for harvesting robot | |
CN112369208B (zh) | 一种类球形果实的采摘顺序动态规划方法 | |
Ge et al. | Instance segmentation and localization of strawberries in farm conditions for automatic fruit harvesting | |
Kurtser et al. | Planning the sequence of tasks for harvesting robots | |
Rong et al. | Fruit pose recognition and directional orderly grasping strategies for tomato harvesting robots | |
Chen et al. | Reasoning-based vision recognition for agricultural humanoid robot toward tomato harvesting | |
Xiong et al. | An improved obstacle separation method using deep learning for object detection and tracking in a hybrid visual control loop for fruit picking in clusters | |
CN110045731A (zh) | 一种路径规划方法、电子装置及计算机可读存储介质 | |
Zaenker et al. | Combining local and global viewpoint planning for fruit coverage | |
CN114029945A (zh) | 一种类球形果实采摘机械臂的抓取路径控制方法 | |
Parhar et al. | A deep learning-based stalk grasping pipeline | |
Park et al. | Human-centered approach for an efficient cucumber harvesting robot system: Harvest ordering, visual servoing, and end-effector | |
Rajendran et al. | Towards autonomous selective harvesting: A review of robot perception, robot design, motion planning and control | |
Jin et al. | Far-near combined positioning of picking-point based on depth data features for horizontal-trellis cultivated grape | |
Au et al. | The Monash Apple retrieving system: a review on system intelligence and apple harvesting performance | |
KR102572571B1 (ko) | 로봇 수확을 위한 과일 줄기 자세 인식 시스템 | |
Ahlin et al. | Apple picking using dual robot arms operating within an unknown tree | |
Kim et al. | 2D pose estimation of multiple tomato fruit-bearing systems for robotic harvesting | |
Au et al. | The Monash apple retrieving system | |
CN113146637A (zh) | 一种机器人笛卡尔空间的运动规划方法 | |
EP4002986A1 (en) | Method of controlling a robotic harvesting device | |
Choi et al. | Davis-ag: a synthetic plant dataset for developing domain-inspired active vision in agricultural robots |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |