CN113284178A - 物体码垛方法、装置、计算设备及计算机存储介质 - Google Patents

Abstract

本发明公开了一种物体码垛方法、装置、计算设备及计算机存储介质。上述方案能够多轮物体码垛流程并行执行，在本轮控制机器人带动目标码垛物体移动至第二3D相机的上方后，可以触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，而无需等待本轮物体码垛流程结束，另外，并不是等待识别确定目标码垛物体的3D尺寸信息再控制机器人移动，而是在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息，从而充分利用机器人移动的这段时间，节约时间，有效提升码垛效率；在执行物体码垛操作时，是基于三个3D相机采集的图像来完成码垛，实现精准码放，从而避免码垛后出现倒垛现象。

Description

物体码垛方法、装置、计算设备及计算机存储介质

技术领域

本发明涉及智能物流技术领域，具体涉及一种物体码垛方法、装置、计算设备及计算机存储介质。

背景技术

随着工业智能化的发展，通过机器人代替人工对物体(例如工业零件、箱体等)进行操作的情况越来越普及。例如，在智能物流领域，需要利用机器人将物体码放置物料框中，然而，由于码垛任务繁重，如何在更短的时间内码放更多的物体是现在迫切需要解决的问题，另外，当物体形状和大小不统一时的情况下，在物体码放过程中经常由于码放位置不合适而出现倒垛现象，这就迫切需要新的码垛方案来解决码放倒垛的问题。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的物体码垛方法、装置、计算设备及计算机存储介质。

根据本发明的一个方面，提供了一种物体码垛方法，包括：

触发第一3D相机采集至少一个待码垛物体的场景图像；

根据场景图像，识别确定目标码垛物体及对应的位姿信息，根据位姿信息控制机器人抓取目标码垛物体；

控制机器人带动目标码垛物体移动至第二3D相机的上方，触发第二3D相机采集目标码垛物体的物体图像，及触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像；

在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息；

根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作；

在机器人执行码垛操作后，触发第三3D相机采集码垛后物料框的垛型图像，以及，控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

根据本发明的另一方面，提供了一种物体码垛装置，包括：

触发模块，适于触发第一3D相机采集至少一个待码垛物体的场景图像；触发第二3D相机采集目标码垛物体的物体图像；触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像；在机器人执行码垛操作后，触发第三3D相机采集码垛后物料框的垛型图像，

识别模块，适于根据场景图像，识别确定目标码垛物体及对应的位姿信息；在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息，

抓取模块，适于根据位姿信息控制机器人抓取目标码垛物体；

控制模块，适于控制机器人带动目标码垛物体移动至第二3D相机的上方；根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作；控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，处理器、存储器和通信接口通过通信总线完成相互间的通信；

存储器用于存放至少一可执行指令，可执行指令使处理器执行上述物体码垛方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，存储介质中存储有至少一可执行指令，可执行指令使处理器执行如上述物体码垛方法对应的操作。

根据本发明提供的方案，多轮物体码垛流程可以并行执行，在本轮控制机器人带动目标码垛物体移动至第二3D相机的上方后，可以触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，而无需等待本轮物体码垛流程结束，另外，并不是等待识别确定目标码垛物体的3D尺寸信息再控制机器人移动，而是在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息，从而充分利用机器人移动的这段时间，节约时间，有效提升码垛效率；在执行物体码垛操作时，是基于三个3D相机采集的图像来完成码垛，实现精准码放，从而避免码垛后出现倒垛现象。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的物体码垛方法的流程示意图；

图2示出了根据本发明一个实施例的物体码垛装置的结构示意图；

图3示出了根据本发明一个实施例的计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。

图1示出了根据本发明一个实施例的物体码垛方法的流程示意图。如图1所示，该方法包括以下步骤：

步骤S101，触发第一3D相机采集至少一个待码垛物体的场景图像。

本实施例的主要目的是将传送装置传送过来的物体进行码垛，为了能够实现精准码垛，避免出现倒垛现象，借助了3D相机来进行物体码垛，具体地，若检测到来料装置输送物体后，向第一3D相机发送触发信号，第一3D相机在接收到触发信号后，采集至少一个待码垛物体的场景图像和深度图像，其中，场景图像为RGB图像，获取第一3D相机所采集的至少一个待码垛物体的场景图像，场景图像和深度图像一一对应，其中，第一3D相机设置在上方位置处，方向朝下。

步骤S102，根据场景图像，识别确定目标码垛物体及对应的位姿信息，根据位姿信息控制机器人抓取目标码垛物体。

若当前场景包含多个物体，在进行物体码垛时，需要从至少一个待码垛物体中确定目标码垛物体，以及确定目标码垛物体的位姿信息，其中，可以依据相关现有技术中的抓取策略来确定目标码垛物体，这里不做详细赘述。

具体地，基于场景图像和深度图像构建点云，利用点云分割技术，确定各个待码垛物体对应的点云，点云包括各个3D点的位姿信息，由此，可以确定各个待码垛物体的位姿信息，其中，位姿信息包括物体位置信息和物体姿态信息，反映了一个物体所在位置及朝向。此外，还可以根据激光探测器、LED等可见光探测器、红外探测器以及雷达探测器等元件生成点云，本发明对具体实现方式不作限定。在确定了目标码垛物体及对应的位姿信息，可以将位姿信息发送至机器人，以使机器人根据位姿信息来抓取目标码垛拣物体。

步骤S103，控制机器人带动目标码垛物体移动至第二3D相机的上方，触发第二3D相机采集目标码垛物体的物体图像，及触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像。

为了能够精准码垛，本实施例增设了第二3D相机，第二3D相机设置在下方位置处，方向朝上，第二3D相机所在位置是已知的，因此，可以根据第二3D相机的位置信息来控制机器人带动目标码垛物体移动至第二3D相机的上方。机器人带动目标物体到达第二3D相机的上方后做短暂的停留，需要说明的是机器人停留时间非常短。检测到目标码垛物体移动至第二3D相机的上方后，向第二3D相机发送触发信号，以控制第二3D相机采集目标码垛物体的物体图像和深度图像，其中，物体图像为RGB图像，获取第二3D相机所采集的目标码垛物体的物体图像，同样地，物体图像和深度图像一一对应。

为了进一步提升码垛效率，有效缩短码垛所需时间，本实施例在检测到机器人带动目标码垛物体移动至第二3D相机的上方后，就可以触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，即，不需要等待机器人本轮码垛结束，才控制第一3D相机进行下一轮物体码垛流程中的采集至少一个待码垛物体的场景图像。由于已经进行了下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，从而使得机器人在本轮码垛结束后，可以直接控制机器人进行目标物体的抓取，节约时间。

本实施例并没有控制第一3D相机持续不断地采集至少一个待码垛物体的场景图像，而是在检测到机器人带动目标码垛物体移动至第二3D相机的上方后，触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，主要是由于在一轮物体码垛流程中，抓取目标码垛物体后，场景会发生变化，持续采集会造成资源浪费，而且也会造成目标码垛物体的识别准确率低等问题，而在检测到机器人带动目标码垛物体移动至第二3D相机的上方后，再触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，能够有效避免采集不必要的场景图像，节约资源。

步骤S104，在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息。

本实施例的目的是实现物体码垛，因此，需要控制机器人带动目标码垛物体向物料框移动，为了有效缩短码垛所需时间，提升码垛效率，本实施例是在控制机器人向物料框移动过程中，来进行后续分析处理，有效利用了机器人向物料框移动的这段时间。

为了实现精准地将目标码垛物体码放至物料框中，避免倒垛现象出现，需要识别确定目标码垛物体的3D尺寸信息，即，目标码垛物体的长宽高，例如，根据物体图像和深度图像构建点云，点云包括各个3D点在空间的XYZ三轴的坐标值以及各个3D点自身的XYZ三轴朝向等信息，由此能够准确地确定出目标码垛物体的3D尺寸信息，3D尺寸信息能够反映出目标码垛物体的尺寸信息(例如，长、宽、高)。

具体地，可以通过如下方法来识别确定目标码垛物体的3D尺寸信息：

方法一：获取第二3D相机采集的深度图像，根据深度图像计算深度值；

根据机器人停留点高度值及深度值计算目标码垛物体的高度尺寸信息；

对物体图像进行分析，得到目标码垛物体的点云；

将目标码垛物体的点云中各个3D点正投影至XOY平面上，得到点云图像；

查找点云图像中被投影的投影区域，确定投影缺区域对应的外接矩形；

根据外接矩形的长宽尺寸信息及正投影映射关系，计算目标码垛物体的长宽尺寸信息。

具体地，获取第二3D相机采集的深度图像，深度图像中的像素值表示第二3D相机距离目标码垛物体的实际距离，因此，可以根据深度图像计算深度值，机器人停留在第二3D相机上方时距离第二3D相机的高度是固定的，因此，可以根据深度值及机器人停留点高度值来确定目标码垛物体的高度，目标码垛物体的高度是机器人停留点高度值与深度值的差值。

可以通过如下方法来计算待分类物体的长宽：根据物体图像和深度图像构建目标码垛物体的点云，将目标码垛物体的点云中各个3D点正投影至XOY平面上，通常情况下，有物体存在时，在点云图像上会存在2D投影点，不存在物体时，则不存在2D投影点，为了能够区分投影到XOY平面上的投影点，利用两种不同的颜色来呈现点云图像，3D点正投影至XOY平面上的投影点呈现同一种颜色，而未被投影的区域则呈现另一种颜色。在投影时，是对一个3D点进行透视投影到XOY平面上，得到的投影点的坐标为(x’，y’，0)。在本发明实施例中，根据投影方向对物体的点云中各个3D点进行透视投影的处理，比如，可以通过透视算法来实现，其中，透视算法可以采用本发明之前的透视算法、或者本发明之后的透视算法，这里不作具体限定。通过透射投影能够得到目标码垛物体在XOY平面上的点云图像。当然还可以采用其它投影方法，这里不再一一列举。

为了能够更好地计算目标码垛物体的长宽，可以进行膨胀腐蚀，填补点云图像中空白区域，进行连通域标记，取最大连通域，获取最大连通域的边缘，求边缘部分的最小外接矩形。最小外接矩形的长宽即为目标码垛物体的长宽，从而最终确定目标码垛物体的3D尺寸信息。

方法二：获取第二3D相机采集的深度图像，根据深度图像计算深度值；

根据机器人停留点高度值及深度值计算目标码垛物体的高度尺寸信息；

针对目标码垛物体，计算该物体对应的点云在XY坐标轴方向上对应的极大值和极小值；

根据XY坐标轴方向上对应的极大值和极小值以及高度尺寸信息，生成该物体对应的3D包围盒；

计算3D包围盒的长宽高，得到目标码垛物体的长宽高尺寸信息。

具体地，获取第二3D相机采集的深度图像，深度图像中的像素值表示第二3D相机距离目标码垛物体的实际距离，因此，可以根据深度图像计算深度值，机器人停留在第二3D相机上方时距离第二3D相机的高度是固定的，因此，可以根据深度值及机器人停留点高度值来确定目标码垛物体的高度，目标码垛物体的高度是机器人停留点高度值与深度值的差值。

目标码垛物体对应的点云包括各个3D点在空间的XYZ三轴的坐标值等，针对目标码垛物体，计算该目标码垛物体对应的点云在XY轴方向上对应的极大值和极小值。具体地，该目标码垛物体对应的点云在X轴上对应的极大值可表示为maxX，极小值可表示为minX；该目标码垛物体对应的点云在Y轴上对应的极大值可表示为maxY，极小值可表示为minY。

构建目标码垛物体对应的3D包围盒，3D包围盒的长宽高分别与XYZ三轴相平行，根据XY轴上对应的极大值和极小值，设置3D包围盒的长宽的起始位置和终止位置，根据目标码垛物体的高度尺寸信息设置3D包围盒的高度，从而生成该物体对应的3D包围盒。

例如，将目标码垛物体中心(即原点O)作为3D包围盒的中心，根据目标码垛物体对应的点云在X轴上对应的极小值minX和极大值maxX设置3D包围盒在X轴方向上的起始位置和终止位置，即3D包围盒的长的起始位置为minX，终止位置为maxX，可称3D包围盒的长对应于区间(minX，maxX)；同理，根据待分类物体对应的点云在Y轴上对应的极小值minY和极大值maxY设置3D包围盒在Y轴方向上的起始位置和终止位置，即3D包围盒的宽的起始位置为minY，终止位置为maxY，可称3D包围盒的宽对应于区间(minY，maxY)；根据目标码垛物体的高度尺寸信息设置3D包围盒在Z轴方向上的起始位置和终止位置，即3D包围盒的高的起始位置为minZ，终止位置为maxZ，可称3D包围盒的高对应于区间(minZ，maxZ)。

3D包围盒的长＝maxX-minX，3D包围盒的宽＝maxY-minY，3D包围盒的高＝maxZ-minZ，3D包围盒的长宽高即为待分类物体的长宽高，从而得到待分类物体的长宽高尺寸信息。

步骤S105，根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作。

上一轮垛型图像反映了物料框中当前垛型情况，是机器人在完成上一轮码垛操作后，触发第三3D相机采集的码垛后物料框中垛型的图像，上一轮垛型图像能够反映已码垛物体的尺寸信息，而3D尺寸信息反映了目标码垛物体的长宽高，因此，可以根据上一轮垛型图像及3D尺寸信息来控制机器人执行码垛操作。

可选地，通过如下方法来控制机器人执行码垛操作：根据上一轮垛型图像及3D尺寸信息，识别确定本轮目标码垛物体的物体码垛位置；根据物体码垛位置控制机器人执行码垛操作。

根据上一轮垛型图像和深度图像来构建点云，基于构建的点云，能够分析确定当前垛型各个位置的尺寸信息，3D尺寸信息反映了目标码垛物体的长宽高，将目标码垛物体的3D尺寸信息与当前垛型各个位置的尺寸信息进行匹配，确定本轮目标码垛物体的物体码垛位置，根据所确定的物体码垛位置控制机器人将目标码垛物体码放至相应的位置，完成码垛操作。由此实现了精准码放，避免码垛后出现倒垛现象。

步骤S106，在机器人执行码垛操作后，触发第三3D相机采集码垛后物料框的垛型图像，以及，控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

在机器人执行码垛操作后，为了便于控制机器人执行下一轮的码垛操作，需要向第三3D相机发送触发信号，触发第三3D相机采集码垛后物料框的垛型图像，该垛型图像反映了本轮码垛结束后，物料框中已码垛物体的垛型情况。由于已经触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，因此，在机器人执行码垛操作后，控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

在本发明一种可选实施方式中，为了实现精准地抓取，避免抓取的目标码垛物体与垛型实际所需的码垛物体相差较大的现象出现，可以通过如下方法来识别确定目标码垛物体：在控制机器人向来料装置移动过程中，根据场景图像及上一轮垛型图像，识别确定目标码垛物体及对应的位姿信息。

上一轮垛型图像反映了物料框当前垛型情况，当前垛型是由已码垛物体码放堆叠而成，因此，上一轮垛型图像能够反映已码垛物体的尺寸信息，从而能够根据上一轮垛型情况来确定出各个位置需要哪种规格尺寸的物体。

场景图像反映了当前场景中至少一个待码垛物体的分布情况，基于场景图像和深度图像构建点云，利用点云分割技术，确定各个待码垛物体对应的点云，点云包括各个3D点的位姿信息，由此，可以确定各个待码垛物体的位姿信息，并分析出各个待码垛物体的尺寸信息，需要说明的是，当多个物体存在堆叠时，分析得到可能是各个待码垛物体部分尺寸信息，例如，长宽、长高、宽高等。由此，可以根据场景图像及上一轮垛型图像，识别确定目标码垛物体及对应的位姿信息。需要说明的是，上述识别处理过程是在控制机器人向来料装置移动过程中进行的，从而充分利用了机器人移动这段时间，有效控制了码垛所需时间。

在本发明一种可选实施方式中，在触发第三3D相机采集码垛后物料框的垛型图像之前，方法还包括：检测机器人是否离开物料框上方；若是，则触发第三3D相机采集码垛后物料框的垛型图像。

为了节约资源，避免不必要的图像采集，需要检测机器人是否离开物料框上方，例如，可以通过图像检测方式或者红外检测方式，这里检测机器人是否离开物料框上方主要是为了确定是否向第三3D相机发送触发信号，若检测到机器人离开物料框上方，则向第三3D相机发送触发信号，触发第三3D相机采集码垛后物料框的垛型图像。在实际应用中，主要是通过机器人的机械臂来带动目标码垛物体移动，机器人可能并不会发生移动，因此，可以通过检测机械臂是否离开物料框上方。

在本发明一种可选实施方式中，第1轮物体码垛流程根据3D尺寸信息控制机器人执行码垛操作，在第1轮物体码垛流程中，并没有上一轮垛型图像，因此，仅根据3D尺寸信息控制机器人执行码垛操作。

根据本发明上述实施例提供的方法，多轮物体码垛流程可以并行执行，在本轮控制机器人带动目标码垛物体移动至第二3D相机的上方后，可以触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，而无需等待本轮物体码垛流程结束，另外，并不是等待识别确定目标码垛物体的3D尺寸信息再控制机器人移动，而是在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息，从而充分利用机器人移动的这段时间进行分析处理，节约时间，有效提升码垛效率，缩短了一轮码垛操作所需时间，例如，可以将一轮码垛操作所需时间控制在7秒内，甚至更短；在执行物体码垛操作时，是基于三个3D相机采集的图像来完成码垛，实现精准码放，从而避免码垛后出现倒垛现象。

图2示出了根据本发明一个实施例的物体码垛装置的结构示意图。如图2所示，该装置包括：触发模块201、识别模块202、抓取模块203、控制模块204。

触发模块201，适于触发第一3D相机采集至少一个待码垛物体的场景图像；触发第二3D相机采集目标码垛物体的物体图像；触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像；在机器人执行码垛操作后，触发第三3D相机采集码垛后物料框的垛型图像；

识别模块202，适于在控制机器人向物料框移动过程中，根据场景图像，识别确定目标码垛物体及对应的位姿信息；根据物体图像，识别确定目标码垛物体的3D尺寸信息；

抓取模块203，适于根据位姿信息控制机器人抓取目标码垛物体；

控制模块204，适于控制机器人带动目标码垛物体移动至第二3D相机的上方；根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作；控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

可选地，控制模块进一步适于：根据上一轮垛型图像及3D尺寸信息，识别确定本轮目标码垛物体的物体码垛位置；

根据物体码垛位置控制机器人执行码垛操作。

可选地，识别模块进一步适于：在控制机器人向来料装置移动过程中，根据场景图像及上一轮垛型图像，识别确定目标码垛物体及对应的位姿信息。

可选地，装置还包括：检测模块，适于检测机器人是否离开物料框上方；

触发模块进一步适于：若机器人离开物料框上方，则触发第三3D相机采集码垛后物料框的垛型图像。

可选地，第1轮物体码垛流程根据3D尺寸信息控制机器人执行码垛操作。

可选地，识别模块进一步适于：获取第二3D相机采集的深度图像，根据深度图像计算深度值；

根据机器人停留点高度值及深度值计算目标码垛物体的高度尺寸信息；

对物体图像进行分析，得到目标码垛物体的点云；

将目标码垛物体的点云中各个3D点正投影至XOY平面上，得到点云图像；

查找点云图像中被投影的投影区域，确定投影缺区域对应的外接矩形；

根据外接矩形的长宽尺寸信息及正投影映射关系，计算目标码垛物体的长宽尺寸信息。

可选地，识别模块进一步适于：获取第二3D相机采集的深度图像，根据深度图像计算深度值；

根据机器人停留点高度值及深度值计算目标码垛物体的高度尺寸信息；

针对目标码垛物体，计算该物体对应的点云在XY坐标轴方向上对应的极大值和极小值；

根据XY坐标轴方向上对应的极大值和极小值以及高度尺寸信息，生成该物体对应的3D包围盒；

计算3D包围盒的长宽高，得到目标码垛物体的长宽高尺寸信息。

根据本发明上述实施例提供的装置，多轮物体码垛流程可以并行执行，在本轮控制机器人带动目标码垛物体移动至第二3D相机的上方后，可以触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像，而无需等待本轮物体码垛流程结束，另外，并不是等待识别确定目标码垛物体的3D尺寸信息再控制机器人移动，而是在控制机器人向物料框移动过程中，根据物体图像，识别确定目标码垛物体的3D尺寸信息，从而充分利用机器人移动的这段时间进行分析处理，节约时间，有效提升码垛效率，缩短了一轮码垛操作所需时间，例如，可以将一轮码垛操作所需时间控制在7秒内，甚至更短；在执行物体码垛操作时，是基于三个3D相机采集的图像来完成码垛，实现精准码放，从而避免码垛后出现倒垛现象。

本申请实施例还提供了一种非易失性计算机存储介质，计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的物体码垛方法。

图3示出了根据本发明一个实施例的计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图3所示，该计算设备可以包括：处理器(processor)302、通信接口(Communications Interface)304、存储器(memory)306、以及通信总线308。

其中：处理器302、通信接口304、以及存储器306通过通信总线308完成相互间的通信。

通信接口304，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器302，用于执行程序310，具体可以执行上述物体码垛方法实施例中的相关步骤。

具体地，程序310可以包括程序代码，该程序代码包括计算机操作指令。

处理器302可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器306，用于存放程序310。存储器306可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序310具体可以用于使得处理器302执行上述任意方法实施例中的物体码垛方法。程序310中各步骤的具体实现可以参见上述物体码垛实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。

Claims (16)

1.一种物体码垛方法，包括：

触发第一3D相机采集至少一个待码垛物体的场景图像；

根据所述场景图像，识别确定目标码垛物体及对应的位姿信息，根据所述位姿信息控制机器人抓取目标码垛物体；

控制机器人带动目标码垛物体移动至第二3D相机的上方，触发第二3D相机采集目标码垛物体的物体图像，及触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像；

在控制机器人向物料框移动过程中，根据所述物体图像，识别确定目标码垛物体的3D尺寸信息；

根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作；

在机器人执行码垛操作后，触发第三3D相机采集码垛后物料框的垛型图像，以及，控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

2.根据权利要求1所述的方法，其中，所述根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作进一步包括：

根据上一轮垛型图像及3D尺寸信息，识别确定本轮目标码垛物体的物体码垛位置；

根据物体码垛位置控制机器人执行码垛操作。

3.根据权利要求1或2所述的方法，其中，所述根据场景图像，识别确定目标码垛物体及对应的位姿信息进一步包括：

在控制机器人向来料装置移动过程中，根据所述场景图像及上一轮垛型图像，识别确定目标码垛物体及对应的位姿信息。

4.根据权利要求1-3中任一项所述的方法，其中，在触发第三3D相机采集码垛后物料框的垛型图像之前，所述方法还包括：检测机器人是否离开物料框上方；

若是，则触发第三3D相机采集码垛后物料框的垛型图像。

5.根据权利要求1-4中任一项所述的方法，其中，第1轮物体码垛流程根据3D尺寸信息控制机器人执行码垛操作。

6.根据权利要求1-5中任一项所述的方法，其中，所述根据物体图像，识别确定目标码垛物体的3D尺寸信息进一步包括：

获取第二3D相机采集的深度图像，根据所述深度图像计算深度值；

根据机器人停留点高度值及所述深度值计算目标码垛物体的高度尺寸信息；

对所述物体图像进行分析，得到目标码垛物体的点云；

将目标码垛物体的点云中各个3D点正投影至XOY平面上，得到点云图像；

查找所述点云图像中被投影的投影区域，确定投影缺区域对应的外接矩形；

根据外接矩形的长宽尺寸信息及正投影映射关系，计算目标码垛物体的长宽尺寸信息。

7.根据权利要求1-5中任一项所述的方法，其中，所述根据物体图像，识别确定目标码垛物体的3D尺寸信息进一步包括：

获取第二3D相机采集的深度图像，根据所述深度图像计算深度值；

根据机器人停留点高度值及所述深度值计算目标码垛物体的高度尺寸信息；

针对目标码垛物体，计算该物体对应的点云在XY坐标轴方向上对应的极大值和极小值；

根据XY坐标轴方向上对应的极大值和极小值以及高度尺寸信息，生成该物体对应的3D包围盒；

计算3D包围盒的长宽高，得到目标码垛物体的长宽高尺寸信息。

8.一种物体码垛装置，包括：

触发模块，适于触发第一3D相机采集至少一个待码垛物体的场景图像；触发第二3D相机采集目标码垛物体的物体图像；触发第一3D相机执行下一轮物体码垛流程的采集至少一个待码垛物体的场景图像；在机器人执行码垛操作后，触发第三3D相机采集码垛后物料框的垛型图像；

识别模块，适于在控制机器人向物料框移动过程中，根据所述场景图像，识别确定目标码垛物体及对应的位姿信息；根据所述物体图像，识别确定目标码垛物体的3D尺寸信息；

抓取模块，适于根据所述位姿信息控制机器人抓取目标码垛物体；

控制模块，适于控制机器人带动目标码垛物体移动至第二3D相机的上方；根据上一轮垛型图像及3D尺寸信息控制机器人执行码垛操作；控制机器人执行下一轮物体码垛流程的抓取目标码垛物体。

9.根据权利要求8所述的装置，其中，所述控制模块进一步适于：根据上一轮垛型图像及3D尺寸信息，识别确定本轮目标码垛物体的物体码垛位置；

根据物体码垛位置控制机器人执行码垛操作。

10.根据权利要求8或9所述的装置，其中，所述识别模块进一步适于：

在控制机器人向来料装置移动过程中，根据所述场景图像及上一轮垛型图像，识别确定目标码垛物体及对应的位姿信息。

11.根据权利要求8-10中任一项所述的装置，其中，所述装置还包括：检测模块，适于检测机器人是否离开物料框上方；

所述触发模块进一步适于：若机器人离开物料框上方，则触发第三3D相机采集码垛后物料框的垛型图像。

12.根据权利要求8-11中任一项所述的装置，其中，第1轮物体码垛流程根据3D尺寸信息控制机器人执行码垛操作。

13.根据权利要求8-12中任一项所述的装置，其中，所述识别模块进一步适于：获取第二3D相机采集的深度图像，根据所述深度图像计算深度值；

根据机器人停留点高度值及所述深度值计算目标码垛物体的高度尺寸信息；

对所述物体图像进行分析，得到目标码垛物体的点云；

将目标码垛物体的点云中各个3D点正投影至XOY平面上，得到点云图像；

查找所述点云图像中被投影的投影区域，确定投影缺区域对应的外接矩形；

根据外接矩形的长宽尺寸信息及正投影映射关系，计算目标码垛物体的长宽尺寸信息。

14.根据权利要求8-12中任一项所述的装置，其中，所述识别模块进一步适于：获取第二3D相机采集的深度图像，根据所述深度图像计算深度值；

根据机器人停留点高度值及所述深度值计算目标码垛物体的高度尺寸信息；

针对目标码垛物体，计算该物体对应的点云在XY坐标轴方向上对应的极大值和极小值；

根据XY坐标轴方向上对应的极大值和极小值以及高度尺寸信息，生成该物体对应的3D包围盒；

计算3D包围盒的长宽高，得到目标码垛物体的长宽高尺寸信息。

15.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的物体码垛方法对应的操作。

16.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-7中任一项所述的物体码垛方法对应的操作。

Images