CN114408597B - 基于3d视觉引导的货车装卸方法、系统及装卸车机器人 - Google Patents
基于3d视觉引导的货车装卸方法、系统及装卸车机器人 Download PDFInfo
- Publication number
- CN114408597B CN114408597B CN202210147685.7A CN202210147685A CN114408597B CN 114408597 B CN114408597 B CN 114408597B CN 202210147685 A CN202210147685 A CN 202210147685A CN 114408597 B CN114408597 B CN 114408597B
- Authority
- CN
- China
- Prior art keywords
- package
- height
- truck
- area
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G65/00—Loading or unloading
- B65G65/005—Control arrangements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G67/00—Loading or unloading vehicles
- B65G67/02—Loading or unloading land vehicles
- B65G67/24—Unloading land vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G2201/00—Indexing codes relating to handling devices, e.g. conveyors, characterised by the type of product or load being conveyed or handled
- B65G2201/02—Articles
- B65G2201/0285—Postal items, e.g. letters, parcels
Abstract
本发明公开了一种基于3D视觉引导的货车装卸方法、系统及装卸车机器人,本发明基于3D视觉引导的货车装卸方法包括:1)采集货车的3D图像;2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹;3)基于3D图像的深度信息获取各个包裹的高度信息,并获取包裹的最大高度;4)在识别出的包裹中选择一个包裹,该包裹的高度、包裹的最大高度之差小于设定值;5)将包裹从货车中取出。本发明可基于3D图像通过包裹的高度、包裹的最大高度之差来控制抓取包裹的方式,防止某一个区域抓取过多导致包裹倾倒、崩塌或者碰撞,可有效保护包裹,提高货车装卸过程中的安全性和可靠性。
Description
技术领域
本发明涉及物流的机器人自动装卸技术,具体涉及一种基于3D视觉引导的货车装卸方法、系统及装卸车机器人。
背景技术
现如今包裹流转的主要的运输方式有5种:铁路运输、水运、空运、卡车运输、管道运输,卡车运输在城市内运输所占比重最大。卡车在运输路线的时间安排上有很大的灵活性,并可以挨家挨户上门送货,发货人不必将物品由卡车转装货车再由货车卸货装上卡车,节约时间,在许多情况下,卡车运输与铁路运输比较具有较强运输力,而提供的服务一般更为迅速。相应的,卡车在上下包裹方面也一直处于比较灵活的状态,主要靠人工搬运,随着时代的发展人力成本也越来越高,且卸货工作体力劳动强度高,工人工作效率普遍偏低,而车上车下的高度差也导致安全风险较大,容易发生意外事故。因此,很有必要发明一种省力卸车自动码垛系统来解决上述问题。在通过省力卸车自动码垛系统来实现自动卸车过程中,针对某些重量较重的包裹,如果在卸载过程中针对某一个区域抓取过多,就容易导致包裹倾倒、崩塌或者碰撞,容易损坏包裹。因此,如何防止在卸货过程中包裹倾倒、崩塌或者碰撞,已成为一项亟待解决的关键技术问题。
发明内容
本发明要解决的技术问题:针对现有技术的上述问题,提供一种基于3D视觉引导的货车装卸方法、系统及装卸车机器人,本发明可基于3D图像通过包裹的高度、包裹的最大高度之差来控制抓取包裹的方式,防止某一个区域抓取过多导致包裹倾倒、崩塌或者碰撞,可有效保护包裹,提高货车装卸过程中的安全性和可靠性。
为了解决上述技术问题,本发明采用的技术方案为:
一种基于3D视觉引导的货车装卸方法,包括:
1)采集货车的3D图像;
2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹;
3)基于3D图像的深度信息获取各个包裹的高度信息,并获取包裹的最大高度;
4)在识别出的包裹中选择一个包裹,该包裹的高度、包裹的最大高度之差小于设定值;
5)将包裹从货车中取出。
可选地,步骤4)中在识别出的包裹中选择一个包裹时,选择包裹的优先级为包裹的高度信息,且高度越高的包裹选择的优先级越高。
可选地,步骤5)将包裹从货车中取出时采用的是带有吸盘抓手的作业臂机器人;步骤4)中在识别出的包裹中选择一个包裹时,还包括过滤掉无法抓取的包裹的步骤,且判断包裹是否无法抓取包括:基于该包裹在3D图像中每一个点的深度信息进行平面拟合得到该包裹的表面平面,计算表面平面的法向量,根据法向量分别计算出表面平面与水平面X、Y轴的夹角,如果与水平面X、Y轴的夹角两者任一超过设定值,则判定该包裹无法抓取。
可选地,步骤2)中识别出包裹区域中的包裹包括:基于3D图像的深度信息将包裹区域划分为多个包裹层区域并确定其对应的层高等级,将顶层的包裹层区域的保持原始大小不变,将其余各层的包裹层区域分别根据其层高等级放大对应的比例,然后再利用预先完成训练的图像识别模型来对各个包裹层区域进行包裹识别,从而得到各个包裹层区域的包裹识别框;然后将顶层以外的其余各层的包裹层区域内的包裹识别框按照放大的比例缩小,从而得到其在原始3D图像中的包裹识别框位置。
可选地,所述将其余各层的包裹层区域分别根据其层高等级放大对应的比例时,连续的层高等级之间放大的比例为等比或等差数组。
可选地,步骤5)之后还包括将从货车中取出的包裹放入笼车/托盘的步骤:
S1)采集笼车/托盘的3D图像;
S2)首先识别出3D图像中的码垛区域,然后识别出码垛区域中的码垛位;
S3)基于3D图像的深度信息获取各个码垛位的高度信息,并获取码垛位的最低高度;
S4)在识别出的码垛位中选择一个码垛位,该码垛位的高度、包裹的最低高度之差小于设定值,且该码垛位的高度不超过预设的最大高度;
S5)将从货车中取出的包裹放置到选择的码垛位。
可选地,步骤S4)中在识别出的码垛位中选择一个码垛位时,选择码垛位的优先级为包裹的高度信息,且高度越低的码垛位选择的优先级越高。
此外,本发明还提供一种基于3D视觉引导的货车装卸系统,包括相互连接的微处理器和存储器,该微处理器被编程或配置以执行所述基于3D视觉引导的货车装卸方法的步骤。
此外,本发明还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,该计算机程序用于被计算机设备执行以实施所述的基于3D视觉引导的货车装卸方法的步骤。
此外,本发明还提供一种基于3D视觉引导的货车装卸机器人,包括控制单元、立柱和支承在立柱上的导轨,所述导轨上设有可沿导轨行走的至少一组桁架臂,所述桁架臂上设有可沿桁架臂行走的作业臂机器人,所述作业臂机器人上设有固定高度的3D相机,所述作业臂机器人的Z轴机械臂末端设有用于抓放包裹的吸盘抓手,所述桁架臂以及作业臂机器人的控制端分别与控制单元相连,所述控制单元被编程或配置以执行前述基于3D视觉引导的货车装卸方法的步骤。
和现有技术相比,本发明主要具有下述优点:本发明基于3D视觉引导的货车装卸方法包括:1)采集货车的3D图像;2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹;3)基于3D图像的深度信息获取各个包裹的高度信息,并获取包裹的最大高度;4)在识别出的包裹中选择一个包裹,该包裹的高度、包裹的最大高度之差小于设定值;5)将包裹从货车中取出。本发明可基于3D图像通过包裹的高度、包裹的最大高度之差来控制抓取包裹的方式,防止某一个区域抓取过多导致包裹倾倒、崩塌或者碰撞,可有效保护包裹,提高货车装卸过程中的安全性和可靠性。
附图说明
图1为本发明实施例一方法的基本流程(将包裹从货车中取出)示意图。
图2为本发明实施例一中将从货车中取出包裹放入笼车/托盘的流程示意图。
图3为本发明实施例一中货车装卸机器人的结构示意图。
图4为图3中作业臂机器人区域的局部放大结构示意图。
图5为本发明实施例一中货车装卸机器人的工作流程示意图。
图6为本发明实施例二中货车的包裹区域划分示意图。
图7为本发明实施例三中码垛位的子区域划分示意图。
具体实施方式
实施例一:
如图1所示,本实施例基于3D视觉引导的货车装卸方法包括:
1)采集货车的3D图像;
2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹;
3)基于3D图像的深度信息获取各个包裹的高度信息,并获取包裹的最大高度;
4)在识别出的包裹中选择一个包裹,该包裹的高度、包裹的最大高度之差小于设定值;
5)将包裹从货车中取出。
本实施例基于3D视觉引导的货车装卸方法中包裹的高度、包裹的最大高度之差对应的设定值可以根据需要进行取值,一般可根据包裹的层高来进行取值,例如一般三层包裹不会导致包裹倾倒、崩塌或者碰撞,则可以取三层包裹作为该设定值。例如,本实施例中设定值为300毫米,则在识别出的包裹中选择一个包裹,该包裹的高度、包裹的最大高度之差小于300毫米,该300毫米的高度差不足以让包裹倾倒、崩塌或者碰撞,从而可有效保护包裹,提高货车装卸过程中的安全性和可靠性。
本实施例中,步骤1)采集货车的3D图像采用的是3D相机(深度相机),且优选方向为竖直方向拍摄采集货车的3D图像,以利于提升包裹识别的精度。毫无疑问,也可以安装为非竖直方向,而通过图像预处理进行图像矫正,或者通过提升图像识别模型精度的方式,同样也可以达到相似的效果,在此不再展开说明。
本实施例中,步骤2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹,均为采用深度学习神经网络实现,由于采用深度学习神经网络来进行图像识别为现有方法,本实施例方法仅涉及深度学习神经网络的运用,因此深度学习神经网络的详细实现在此不再展开说明。而且需要说明的是,步骤2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹中进行图像识别也不依赖于深度学习神经网络这一特定的识别模型,此外还可以根据需要采用其他可实现图像识别得到方法或模型。
本实施例中,步骤3)基于3D图像的深度信息获取各个包裹的高度信息,并获取包裹的最大高度;由于3D图像中每一个像素点都包含深度信息,该深度信息实际上可转换得到包裹的高度信息。假定3D相机(深度相机)、地面之间的距离为L,深度信息为L1,由于深度信息表示的是3D相机(深度相机)、包裹之间的距离,因此包裹的高度可表示为L-L1。
基于该包裹的高度、包裹的最大高度之差小于设定值的选择策略,步骤4)中在识别出的包裹中选择一个包裹时可根据需要选择不同的策略,例如逐层或区域进行选择的方式。作为一种可选的实施方式,本实施例步骤4)中在识别出的包裹中选择一个包裹时,选择包裹的优先级为包裹的高度信息,且高度越高的包裹选择的优先级越高,从而实现了一层一层抓取,而不是一个区域抓到底,可更好地保护包裹,提高货车装卸过程中的安全性和可靠性。
本实施例中,步骤5)将包裹从货车中取出时采用的是带有吸盘抓手的作业臂机器人;由于作业臂机器人的吸盘抓手无法旋转,所以对于倾斜度较大包裹无法适应,为了减少抓取包括失败的问题,本实施例中步骤4)中在识别出的包裹中选择一个包裹时,还包括过滤掉无法抓取的包裹的步骤,且判断包裹是否无法抓取包括:基于该包裹在3D图像中每一个点的深度信息进行平面拟合得到该包裹的表面平面,计算表面平面的法向量,根据法向量分别计算出表面平面与水平面X、Y轴的夹角,如果与水平面X、Y轴的夹角两者任一超过设定值,则判定该包裹无法抓取,通过过滤掉无法抓取的包裹,可减少损坏包裹的可能,可更好地保护包裹,提高货车装卸过程中的安全性和可靠性。
步骤2)中识别出包裹区域中的包裹时,由于3D相机(深度相机)安装高度固定,整车货物高度不同在相机视野里面货物的大小也不一样,简单来说就是最上层的包裹大小在镜头里面显示占比较大而最底层的包裹大小在镜头里面占比较小,加之受环境影响相机采集图像质量过低,以及包裹的形态不标准(编织袋蓬松状态)导致位置识别不准等可能因素,这种情况会导致识别出包裹区域中的包裹时存在误差,导致包裹无法精确识别。为了解决上述技术问题,本实施例3)增加二次定位流程,即步骤2)中识别出包裹区域中的包裹包括:基于3D图像的深度信息将包裹区域划分为多个包裹层区域并确定其对应的层高等级,将顶层的包裹层区域的保持原始大小不变,将其余各层的包裹层区域分别根据其层高等级放大对应的比例,然后再利用预先完成训练的图像识别模型来对各个包裹层区域进行包裹识别,从而得到各个包裹层区域的包裹识别框;然后将顶层以外的其余各层的包裹层区域内的包裹识别框按照放大的比例缩小,从而得到其在原始3D图像中的包裹识别框位置。通过上述方式,使得各层的包裹层区域的包裹图像大小比例基本一致,从而有利于提高图像识别模型对包裹的识别精度。其中,将包裹区域划分为多个包裹层区域可以根据需要进行选择,例如作为一种可选的实施方式,本实施例中将包裹区域划分为最多最高、中间和底层共三个包裹层区域,以适应包裹的高度、包裹的最大高度之差小于设定值(该设定值为三层包裹高度)。
将其余各层的包裹层区域分别根据其层高等级放大对应的比例时,其基本原则为使得各层的包裹层区域的包裹图像大小比例基本一致。考虑到包裹层高固定的因素,将其余各层的包裹层区域分别根据其层高等级放大对应的比例时,连续的层高等级之间放大的比例为等比或等差数组。例如,本实施例中采用等比数组,且相邻包裹层区域之间放大比例为10%。需要说明的是,本实施例中将包裹区域划分为最多最高、中间和底层共三个包裹层区域,但是也可能会存在中间层缺失的问题,比如中间层的包裹刚好已经抓完,此时虽然没有中间层,但是计算底层的放大比例时仍然需要考虑中间层,最高层为不放大,中间层为放大到110%,即使缺失了中间层,底层仍然应放大到中间层的110%,即最高层的121%,从而确保将其余各层的包裹层区域分别根据其层高等级放大对应的比例, 能够保证深度学习神经网络处理的图片中包裹样式信息基本保持一致,以此保证深度学习神经网络返回结果的一致性。
此外,除了从货车中取出包裹时存在某一个区域抓取过多导致包裹倾倒、崩塌或者碰撞的问题,在将从货车中取出的包裹放入笼车/托盘时,同样也会存在类似问题。为了解决将从货车中取出的包裹放入笼车/托盘时,由于层高差异过大导致包裹倾倒、崩塌或者碰撞的问题,本实施例步骤5)之后还包括将从货车中取出的包裹放入笼车/托盘的步骤:
S1)采集笼车/托盘的3D图像;
S2)首先识别出3D图像中的码垛区域,然后识别出码垛区域中的码垛位;
S3)基于3D图像的深度信息获取各个码垛位的高度信息,并获取码垛位的最低高度;
S4)在识别出的码垛位中选择一个码垛位,该码垛位的高度、包裹的最低高度之差小于设定值,且该码垛位的高度不超过预设的最大高度;
S5)将从货车中取出的包裹放置到选择的码垛位。
同理,本实施例基于3D视觉引导的货车装卸方法中码垛位的高度、包裹的最低高度之差对应的设定值可以根据需要进行取值,一般可根据包裹的层高来进行取值,例如一般三层包裹不会导致包裹倾倒、崩塌或者碰撞,则可以取三层包裹作为该设定值。例如,本实施例中码垛位的高度、包裹的最低高度之差对应的设定值同样为300毫米,此外也可以根据笼车/托盘以及包裹的大小和重量,选择与包裹的高度、包裹的最大高度之差对应的设定值不同;则在识别出的码垛位中选择一个码垛位,该码垛位的高度、包裹的最低高度之差小于300毫米,该300毫米的高度差不足以让包裹倾倒、崩塌或者碰撞,从而可有效保护包裹,提高货车装卸过程中的安全性和可靠性。
同理,步骤S4)中在识别出的码垛位中选择一个码垛位时可根据需要选择不同的策略,例如逐层或区域进行选择的方式。作为一种可选的实施方式,本实施例步骤S4)中在识别出的码垛位中选择一个码垛位时,选择码垛位的优先级为包裹的高度信息,且高度越低的码垛位选择的优先级越高,从而实现了一层一层堆放,而不是一个区域堆放到顶,可更好地保护包裹,提高货车装卸过程中的安全性和可靠性。
本实施例还提供一种基于3D视觉引导的货车装卸系统,包括相互连接的微处理器和存储器,该微处理器被编程或配置以执行前述基于3D视觉引导的货车装卸方法的步骤。此外,本实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,该计算机程序用于被计算机设备执行以实施前述的基于3D视觉引导的货车装卸方法的步骤。
如图3和图4所示,本实施例还提供一种基于3D视觉引导的货车装卸机器人,包括控制单元(如图3中的a所示)、立柱1和支承在立柱1上的导轨2,导轨2上设有可沿导轨2行走的至少一组桁架臂3,桁架臂3上设有可沿桁架臂3行走的作业臂机器人4,作业臂机器人4上设有固定高度的3D相机41,作业臂机器人4的Z轴机械臂末端设有用于抓放包裹的吸盘抓手42,吸盘抓手42与作业臂机器人4的末端法兰之间设有缓冲结构43,桁架臂3以及作业臂机器人4的控制端分别与控制单元相连,控制单元被编程或配置以执行前述基于3D视觉引导的货车装卸方法的步骤。其中,控制单元主要包括电控系统,也可以根据需要增加气控或液压控制系统,以用于控制和驱动桁架臂3以及作业臂机器人4。需要说明的是,本实施例中作业臂机器人4为Z轴机器人,此外也可以根据需要采用6轴工业机器人替换Z轴机器人,从而可使得提高作业臂机器人4的灵活性,适用于任何轨迹和角度的工作,但是带来的问题就是价格高、同时生产前的准备工作量大,因此需要根据实际情况选择。作为一种可选的实施方式,本实施例中基于3D视觉引导的货车装卸机器人具体包括左、右两组桁架臂3。此外,也可以布置更多组桁架臂3以提高卸货效率,但是这样也会导致机器人的生产成本增加,因此需要根据实际情况来选择应用桁架臂3的数量。
此外,考虑到某些编织袋形式的包裹结构比较松散,视觉识别的深度可能有较大偏差,为保证海绵吸盘能压实,可根据需要在吸盘抓手42与作业臂机器人4的末端法兰之间增加缓冲结构43,例如通过弹簧结构、橡胶结构、气囊结构相连,可使得使吸盘抓手42在竖直方向有一定弹性余量,从而可提高吸盘抓手42对松散结构的包裹的抓取成功率。参见图4,本实施例中的缓冲结构43包括平行布置的两块连接板431,两块连接板431之间连接有四个螺栓432,螺栓432上套设有弹簧433,弹簧433两侧分别抵触在不同连接板431的内侧,螺栓432位于连接板431的外侧通过螺丝头或螺母连接、位于连接板431的内侧仅通过弹簧433进行抵压定位,从而可使得缓冲结构43在纵向受力时可发生变形,在竖直方向有一定弹性余量,从而可提高吸盘抓手42对松散结构的包裹的抓取成功率。另外吸盘抓手42上可根据需要增加真空传感器,用于通过真空度判断是否实际抓取包裹成功。
如图5所示,本实施例中基于3D视觉引导的货车装卸机器人的应用步骤包括:
(1)左、右两组桁架臂3停在安全位置,等待货车停车到位。
(2)货车停车到位后,桁架臂3和作业臂机器人4(Z轴机器人)带动3D相机41到货车上方进行定位拍照;然后控制单元根据3D图像进行处理,执行步骤1)~4)选择目标包裹;
(3)控制单元执行步骤5),将桁架臂3运动到目标包裹的抓取位,作业臂机器人4下降到目标包裹的抓取高度,然后通过吸盘抓手42将包裹从货车中取出。之后,则控制作业臂机器人4下上升规避货车,将桁架臂3和作业臂机器人4结合将目标包裹送到笼车/托盘(如图3中的b所示)上侧。需要说明的都是,图3所示的笼车仅为笼车的一种示例性的形态,此处的笼车不依赖于图3的特定形态,例如其还可以为四周封闭、顶部开口的桶状结构,或者四周部分侧面为板状结构,或者为非四边形结构等等,在某些特别情况下,笼车还可以为一块托盘的极端特例。
(4)3D相机41到笼车/托盘上方进行定位拍照,然后控制单元根据3D图像码垛计算,即执行步骤S1)~S4)选择目标码垛位;
(5)控制单元执行步骤S5),将桁架臂3运动到目标码垛位,作业臂机器人4下降到目标包裹的放置高度,然后通过吸盘抓手42将包裹释放到笼车/托盘上的目标码垛位。若笼车/托盘装满,则用叉车将装满的笼车/托盘运走,更换新笼车/托盘以继续卸货。
(6)重复上述步骤(2)~(5)直至货车卸完,在货车卸完后,跳转步骤(1)。
实施例二:
本实施例为实施例一步骤4)在识别出的包裹中选择一个包裹时策略的替换。本实施例步骤4)中在识别出的包裹中选择一个包裹时,选择包裹的优先级为包裹区域的子区域,包裹区域被划分为多个子区域,只有一个子区域内高度、包裹的最大高度之差小于设定值的包裹全部抓取完毕以后才会进入下一个子区域。该方式的优点在于以较小的代价,可减少一层一层抓取时的运动,从而可提升装卸的效率。如图6所示,该货车的包裹区域被划分为多个子区域a~d,当某一轮卸货从子区域a开始卸货时,只有子区域a内高度、包裹的最大高度之差小于设定值的包裹全部抓取完毕以后才会进入子区域b,以此类推,最后才会将子区域d内高度、包裹的最大高度之差小于设定值的包裹全部抓取完毕;然后再可选择从子区域d或子区域a开始下一轮层高区间的卸货。
实施例三:
本实施例为实施例一步骤S4)识别出的码垛位中选择一个码垛位时策略的替换。本实施例中步骤S4)在识别出的码垛位中选择一个码垛位时时,考虑到笼车/托盘面积小、重量轻,从而相对货车更容易倾倒的特性,选择策略如下:预先将码垛区域划分为中心子区域a和围绕中心子区域a对称布置的多个边缘子区域,例如如图7所示,本实施例中为8个边缘子区域;优先选择中心子区域a的码垛位,然后按照十字法选择边缘子区域的码垛位:遍历选择相对中心子区域a对称的一对边缘子区域作为当前边缘子区域对(例如图7所示的两个边缘子区域b1和b2),在当前边缘子区域对中轮流选择码垛位,若选择完毕,再选择与该对边缘子区域垂直的另一对边缘子区域(例如图7所示的两个边缘子区域d1和d2)作为新的当前边缘子区域对,在当前边缘子区域对中轮流选择码垛位,若选择完毕,则继续遍历选择相对中心子区域a对称的一对边缘子区域作为当前边缘子区域对(例如图7所示的两个边缘子区域c1和c2),依次类推,直至中心子区域a和所有的边缘子区域的码垛位的高度达到预设的最大高度。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可读存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅是本发明的优选实施方式,本发明的保护范围并不仅局限于上述实施例,凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理前提下的若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (10)
1.一种基于3D视觉引导的货车装卸方法,其特征在于,包括:
1)采集货车的3D图像;
2)首先识别出3D图像中的包裹区域,然后识别出包裹区域中的包裹;
3)基于3D图像的深度信息获取各个包裹的高度信息,并获取包裹的最大高度,其中包裹的高度计算函数表达式方式为L-L1, L表示用于采集3D图像的3D相机或深度相机、地面之间的高度,L1表示用于采集3D图像的3D相机或深度相机、包裹之间的高度;
4)在识别出的包裹中选择一个包裹,该包裹的高度、包裹的最大高度之差小于不足以让包裹倾倒、崩塌或者碰撞的设定值;
5)将包裹从货车中取出。
2.根据权利要求1所述的基于3D视觉引导的货车装卸方法,其特征在于,步骤4)中在识别出的包裹中选择一个包裹时,选择包裹的优先级为包裹区域的子区域,仅在一个包裹区域的子区域中符合要求的包裹选择完毕后才会进入下一个子区域。
3.根据权利要求1所述的基于3D视觉引导的货车装卸方法,其特征在于,步骤5)将包裹从货车中取出时采用的是带有吸盘抓手的作业臂机器人;步骤4)中在识别出的包裹中选择一个包裹时,还包括过滤掉无法抓取的包裹的步骤,且判断包裹是否无法抓取包括:基于该包裹在3D图像中每一个点的深度信息进行平面拟合得到该包裹的表面平面,计算表面平面的法向量,根据法向量分别计算出表面平面与水平面X、Y轴的夹角,如果与水平面X、Y轴的夹角两者任一超过设定值,则判定该包裹无法抓取。
4.根据权利要求3所述的基于3D视觉引导的货车装卸方法,其特征在于,步骤2)中识别出包裹区域中的包裹包括:基于3D图像的深度信息将包裹区域划分为多个包裹层区域并确定其对应的层高等级,将顶层的包裹层区域的保持原始大小不变,将其余各层的包裹层区域分别根据其层高等级放大对应的比例,然后再利用预先完成训练的图像识别模型来对各个包裹层区域进行包裹识别,从而得到各个包裹层区域的包裹识别框;然后将顶层以外的其余各层的包裹层区域内的包裹识别框按照放大的比例缩小,从而得到其在原始3D图像中的包裹识别框位置。
5.根据权利要求4所述的基于3D视觉引导的货车装卸方法,其特征在于,所述将其余各层的包裹层区域分别根据其层高等级放大对应的比例时,连续的层高等级之间放大的比例为等比或等差数组。
6.根据权利要求1~5中任意一项所述的基于3D视觉引导的货车装卸方法,其特征在于,步骤5)之后还包括将从货车中取出的包裹放入笼车/托盘的步骤:
S1)采集笼车/托盘的3D图像;
S2)首先识别出3D图像中的码垛区域,然后识别出码垛区域中的码垛位;
S3)基于3D图像的深度信息获取各个码垛位的高度信息,并获取码垛位的最低高度;
S4)在识别出的码垛位中选择一个码垛位,该码垛位的高度、包裹的最低高度之差小于设定值,且该码垛位的高度不超过预设的最大高度;
S5)将从货车中取出的包裹放置到选择的码垛位。
7.根据权利要求6所述的基于3D视觉引导的货车装卸方法,其特征在于,步骤S4)中在识别出的码垛位中选择一个码垛位时,选择码垛位的优先级为包裹的高度信息,且高度越低的码垛位选择的优先级越高;或者选择包裹的优先级为码垛位的子区域,仅在一个码垛位的子区域堆放完毕后才会进入下一个子区域。
8.一种基于3D视觉引导的货车装卸系统,包括相互连接的微处理器和存储器,其特征在于,该微处理器被编程或配置以执行权利要求1~7中任意一项所述基于3D视觉引导的货车装卸方法的步骤。
9.一种计算机可读存储介质,其特征在于,该计算机可读存储介质中存储有计算机程序,该计算机程序用于被计算机设备执行以实施权利要求1~7中任意一项所述的基于3D视觉引导的货车装卸方法的步骤。
10.一种基于3D视觉引导的货车装卸车机器人,其特征在于,包括控制单元、立柱(1)和支承在立柱(1)上的导轨(2),所述导轨(2)上设有可沿导轨(2)行走的至少一组桁架臂(3),所述桁架臂(3)上设有可沿桁架臂(3)行走的作业臂机器人(4),所述作业臂机器人(4)上设有固定高度的3D相机(41),所述作业臂机器人(4)的Z轴机械臂末端设有用于抓放包裹的吸盘抓手(42),所述吸盘抓手(42)与作业臂机器人(4)的末端法兰之间设有缓冲结构(43),所述桁架臂(3)以及作业臂机器人(4)的控制端分别与控制单元相连,所述控制单元被编程或配置以执行权利要求1~7中任意一项所述的基于3D视觉引导的货车装卸方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210147685.7A CN114408597B (zh) | 2022-02-17 | 2022-02-17 | 基于3d视觉引导的货车装卸方法、系统及装卸车机器人 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210147685.7A CN114408597B (zh) | 2022-02-17 | 2022-02-17 | 基于3d视觉引导的货车装卸方法、系统及装卸车机器人 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114408597A CN114408597A (zh) | 2022-04-29 |
CN114408597B true CN114408597B (zh) | 2023-08-01 |
Family
ID=81262133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210147685.7A Active CN114408597B (zh) | 2022-02-17 | 2022-02-17 | 基于3d视觉引导的货车装卸方法、系统及装卸车机器人 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114408597B (zh) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104331894A (zh) * | 2014-11-19 | 2015-02-04 | 山东省科学院自动化研究所 | 一种基于双目立体视觉的机器人拆垛方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102009060551B4 (de) * | 2009-12-23 | 2011-09-01 | Deutsche Post Ag | Sensorsystem zur Erfassung von Oberflächenstrukturen mehrerer Stückgüter |
US9744669B2 (en) * | 2014-06-04 | 2017-08-29 | Intelligrated Headquarters, Llc | Truck unloader visualization |
US10124489B2 (en) * | 2016-02-26 | 2018-11-13 | Kinema Systems Inc. | Locating, separating, and picking boxes with a sensor-guided robot |
CN106395430A (zh) * | 2016-11-24 | 2017-02-15 | 南京景曜智能科技有限公司 | 一种3d立体视觉辅助装卸车系统 |
WO2019213904A1 (zh) * | 2018-05-10 | 2019-11-14 | 深圳蓝胖子机器人有限公司 | 一种货物装卸车和货物转运系统 |
US11440195B2 (en) * | 2018-07-25 | 2022-09-13 | Target Brands, Inc. | Autonomous cargo loading systems and methods |
CN110963319B (zh) * | 2019-11-06 | 2020-11-24 | 南京大学 | 一种考虑卸货顺序的装车方法 |
CN111768151A (zh) * | 2020-06-28 | 2020-10-13 | 战马物流(苏州)有限公司 | 一种货物装车用车辆装载方法及系统 |
CN113351522B (zh) * | 2021-06-11 | 2023-01-31 | 梅卡曼德(北京)机器人科技有限公司 | 物品分拣方法、装置及系统 |
-
2022
- 2022-02-17 CN CN202210147685.7A patent/CN114408597B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104331894A (zh) * | 2014-11-19 | 2015-02-04 | 山东省科学院自动化研究所 | 一种基于双目立体视觉的机器人拆垛方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114408597A (zh) | 2022-04-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7362755B2 (ja) | ロボットによる複数アイテムタイプのパレタイズおよびデパレタイズ | |
US11358811B2 (en) | Vision-assisted robotized depalletizer | |
US9492924B2 (en) | Moveable apparatuses having robotic manipulators and conveyors to facilitate object movement | |
CN109095059B (zh) | 无人装车系统及其装车方法 | |
CN107479581B (zh) | 货箱码放控制装置、系统、方法和存储介质 | |
US9205558B1 (en) | Multiple suction cup control | |
US9457970B1 (en) | Modular cross-docking system | |
KR102435562B1 (ko) | 로봇 컨테이너 핸들링 디바이스 및 방법 | |
CN110054121B (zh) | 一种智能叉车以及容器位姿偏移检测方法 | |
CN205471677U (zh) | 托盘式自动供料收盘设备 | |
JP2017520418A (ja) | 軌道計画のための物体測定基準のリアルタイム確定 | |
CA3155138A1 (en) | Vision-assisted robotized depalletizer | |
CN109319526B (zh) | 一种袋装物料的集装箱装车及储存系统及方法 | |
KR20190053850A (ko) | 로봇 손을 이용해 크레이트에 오브젝트를 자동화 적재하는 방법 | |
EP1489026B1 (en) | An automated system for storing pallets into and out of a warehouse | |
CN112850186A (zh) | 一种基于3d视觉的混合拆码垛方法 | |
CN110639820A (zh) | 一种无人快递自动化分拣系统 | |
CN109240293A (zh) | 一种工厂内物流运送管理方法 | |
CN110421542B (zh) | 一种箱类包裹装卸智能机器人 | |
CN114408597B (zh) | 基于3d视觉引导的货车装卸方法、系统及装卸车机器人 | |
TW202241663A (zh) | 可再定位機器人升降裝置 | |
EP4304819A1 (en) | Multi-pallet mixed-case robotic palletizer | |
CN114873526B (zh) | 一种自动挂接卸货装置及其双目识别卸货方法 | |
CN107127742A (zh) | 一种编制物袋装原烟包搬运的钢索机器人系统 | |
CN107450542A (zh) | 一种搬运小型物料用的agv小车及其工作方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |