CN115159402B - 货物放取方法、装置、电子设备及机器可读存储介质 - Google Patents
货物放取方法、装置、电子设备及机器可读存储介质 Download PDFInfo
- Publication number
- CN115159402B CN115159402B CN202210692452.5A CN202210692452A CN115159402B CN 115159402 B CN115159402 B CN 115159402B CN 202210692452 A CN202210692452 A CN 202210692452A CN 115159402 B CN115159402 B CN 115159402B
- Authority
- CN
- China
- Prior art keywords
- goods
- pose
- stack
- sensor
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 84
- 230000008569 process Effects 0.000 claims abstract description 40
- 238000012545 processing Methods 0.000 claims abstract description 23
- 238000013135 deep learning Methods 0.000 claims description 6
- 238000007599 discharging Methods 0.000 claims description 6
- 230000011218 segmentation Effects 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66F—HOISTING, LIFTING, HAULING OR PUSHING, NOT OTHERWISE PROVIDED FOR, e.g. DEVICES WHICH APPLY A LIFTING OR PUSHING FORCE DIRECTLY TO THE SURFACE OF A LOAD
- B66F9/00—Devices for lifting or lowering bulky or heavy goods for loading or unloading purposes
- B66F9/06—Devices for lifting or lowering bulky or heavy goods for loading or unloading purposes movable, with their loads, on wheels or the like, e.g. fork-lift trucks
- B66F9/075—Constructional features or details
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66F—HOISTING, LIFTING, HAULING OR PUSHING, NOT OTHERWISE PROVIDED FOR, e.g. DEVICES WHICH APPLY A LIFTING OR PUSHING FORCE DIRECTLY TO THE SURFACE OF A LOAD
- B66F17/00—Safety devices, e.g. for limiting or indicating lifting force
- B66F17/003—Safety devices, e.g. for limiting or indicating lifting force for fork-lift trucks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Transportation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Geology (AREA)
- Mechanical Engineering (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Civil Engineering (AREA)
- Forklifts And Lifting Vehicles (AREA)
- Warehouses Or Storage Devices (AREA)
Abstract
本申请提供一种货物放取方法、装置、电子设备及机器可读存储介质，该方法包括：在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致；在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理；在所述货堆的顶层载具的位姿与底层载具的位姿不一致的情况下，进行告警处理。该方法可以提高叉车自动进行堆拆垛作业时的安全性。
Description
技术领域
本申请涉及机器人视觉感知领域，尤其涉及一种货物放取方法、装置、电子设备及机器可读存储介质。
背景技术
堆放拆垛作业是指把物品移动或举升到装运设备或固定设备的指定位置，再按所要求的状态放置的作业；而拆垛(卸下、卸出)作业则是其逆向作业。
随着机器人视觉感知技术的发展，已经可以通过叉车自动进行堆拆垛作业。
如何提高叉车自动进行堆拆垛作业时的安全性，成为一个热门研究方向。
发明内容
有鉴于此，本申请提供一种货物放取方法、装置、电子设备及机器可读存储介质。
根据本申请实施例的第一方面，提供一种货物放取方法，包括：
在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致；
在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理；
在所述货堆的顶层载具的位姿与底层载具的位姿不一致的情况下，进行告警处理。
根据本申请实施例的第二方面，提供一种货物放取装置，包括：
确定单元，用于在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致；
货物放取单元，用于在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理；
告警单元，用于在所述货堆的顶层载具的位姿与底层载具的位姿不一致的情况下，进行告警处理。
根据本申请实施例的第三方面，提供一种电子设备，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的机器可执行指令，所述处理器用于执行机器可执行指令，以实现第一方面提供的方法。
根据本申请实施例的第四方面，提供一种机器可读存储介质，所述机器可读存储介质内存储有机器可执行指令，所述机器可执行指令被处理器执行时实现第一方面提供的方法。
本申请实施例的货物放取方法，通过在放货/取货过程中，通过利用3D传感器分别获取货堆顶层载具和底层载具的传感器数据，并依据获取到的传感器数据分别确定货堆顶层载具的位姿和底层载具的位姿，在二者一致的情况下，进行放货/取货处理；在二者不一致的情况下，进行告警处理，提高了叉车自动进行堆拆垛作业时的安全性。
附图说明
图1是本申请实施例提供的一种货物放取方法的流程示意图；
图2是本申请实施例提供的一种货物放取方法的流程示意图；
图3是本申请实施例提供的一种货物放取装置的结构示意图；
图4是本申请示例性实施例示出的一种电子设备的硬件结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。
为了使本领域技术人员更好地理解本申请实施例提供的技术方案，并使本申请实施例的上述目的、特征和优点能够更加明显易懂，下面结合附图对本申请实施例中技术方案作进一步详细的说明。
需要说明的是，本申请实施例中各步骤的序号大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
请参见图1，为本申请实施例提供的一种货物放取方法的流程示意图，其中，该货物放取方案可以应用于叉车，例如，应用于叉车的智能控制芯片，如图1所示，该货物放取方法可以包括以下步骤：
步骤S100、在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致。若是，则转至步骤S110；否则，转至步骤S120。
步骤S110、进行放货/取货处理。
步骤S120、进行告警处理。
本申请实施例中，为了提高叉车自动进行堆拆垛作业时的安全性，叉车在自动进行堆拆垛作业的过程中，即在放货/取货的过程中，可以通过3D传感器分别获取当前操作的货堆的顶层载具的信息，以及当前操作的货堆的底层载具的信息。
示例性的，载具是指货堆中用于承载货物的容器，其可以包括但不限于货架、栈板等具有货物承载功能的全封闭、半封闭或开放式的容器，本申请对载具的形式不做具体限定。
叉车放货过程中，将载具与货物一起放在当前操作的货堆的顶层；叉车取货过程中，将顶层的载具与货物一起从当前操作的货堆中取走。
本申请实施例中，在获取到了货堆顶层载具的传感器数据以及货堆底层载具的传感器数据的情况下，可以依据获取到的传感器数据分别确定货堆顶层载具的位姿以及货堆底层载具的位姿，并确定货堆顶层载具的位姿与底层载具的位姿是否一致。
需要说明的是，若未特殊说明，本申请实施例中提及的顶层载具的位姿与底层载具的位姿是指同一坐标系下的位姿，如世界坐标系下的位姿(可以称为全局位姿)。
示例性的，二维平面中的位姿可以用x/y/θ来表示。其中x，y表示位置坐标。θ表示航向角。
以载具的全局位姿为例，载具的全局位姿中的航向角是指载具的x轴和世界坐标系的x轴之间的夹角。
示例性的，货堆顶层载具的第一位姿(记为(x1，y1，θ1))与货堆底层载具的第二位姿(记为(x2，y2，θ2))一致可以包括：x1与x2之前的差值(即|x1-x2|，下同)小于预设阈值(如Tx)，y1与y2之间的差值小于预设阈值(如Ty)，以及，θ1与θ2之间的差值小于预设阈值(如Tθ)。
示例性的，货堆顶层载具的第一位姿与货堆底层载具的第二位姿不一致可以包括：x1与x2之前的差值大于等于预设阈值，y1与y2之间的差值大于等于预设阈值，和/或，θ1与θ2之间的差值大于等于预设阈值。
本申请实施例中，在放货/取货过程中，若叉车确定当前操作的货堆的顶层载具的位姿与底层载具的位姿一致，则可以进行放货/取货处理；若叉车确定当前操作的货堆的顶层载具的位姿与底层载具的位姿不一致，即当前自动放货/取货存在安全风险，则可以进行告警处理。
需要说明的是，在本申请实施例中，在放货过程中，若当前操作的货堆中不存在货物，即当前需要放的货物为最底层的货物，可以不需要进行上述位姿校验。
此外，在放货/取货过程中，若当前操作的货堆中仅包括一层货物，即底层载具与顶层载具为同一载具，则也可以不需要进行上述位姿校验，或，默认位姿校验结果为一致。
可见，在图1所示方法流程中，通过在放货/取货过程中，通过利用3D传感器分别获取货堆顶层载具和底层载具的传感器数据，并依据获取到的传感器数据分别确定货堆顶层载具的位姿和底层载具的位姿，在二者一致的情况下，进行放货/取货处理；在二者不一致的情况下，进行告警处理，提高了叉车自动进行堆拆垛作业时的安全性。
在一些实施例中，载具的位姿通过以下方式确定：
利用深度学习实例分割的方法，从3D传感器的点云数据中获取属于货堆的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿。
示例性的，对于利用3D传感器获取到的点云数据，可以基于载具的固有特征，利用深度学习实例分割的方法，从点云数据中获取属于载具的点云。
例如，假设载具为栈板，由于栈板通常是平面加上若干条腿的结构，依据栈板的结构特征，可以利用深度学习实例分割的方法，从点云数据中获取属于载具的点云。
示例性的，可以对获取到的属于载具的点云进行平面拟合和位姿估计，确定载具的位姿。
在另一些实施例中，载具的位姿通过以下方式确定：
从3D传感器的点云数据中获取法向量与地面夹角在预设角度范围内的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿。
示例性的，对于由于载具被遮挡等原因无法获取到载具较为全面的传感器数据的场景，还可以依据载具的法向量通常垂直地面的特点，从3D传感器的点云数据中获取法向量与地面夹角在预设角度范围内的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿。
在一些实施例中，上述依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致，可以包括：
依据通过3D传感器获取到的传感器数据确定货堆的顶层载具的第一全局位姿，以及，通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
确定第一全局位姿与所述第二全局位姿是否一致。
示例性的，可以依据通过3D传感器获取到的传感器数据分别确定货堆顶层载具的全局位姿(可以称为第一全局位姿)以及底层载具的全局位姿(可以称为第二全局位姿)，确定货堆顶层载具的位姿与底层载具的位姿是否一致。
在一个示例中，上述依据通过3D传感器获取到的传感器数据确定货堆的顶层载具的第一全局位姿，可以包括：
依据通过第一3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿；
上述通过3D传感器获取到的传感器数据确定货堆的底层载具的第二全局位姿，可以包括：
依据通过第二3D传感器获取到的传感器数据确定货堆的底层载具的第二全局位姿；
其中，第一3D传感器和第二3D传感器部署在叉车的不同位置。
示例性的，为了提高货堆顶层载具位姿和底层载具位姿比较的准确性，叉车可以通过部署在不同位置的3D传感器(本文中称为第一3D传感器和第二3D传感器)分别获取货堆顶层载具的传感器数据和底层载具的传感器数据，以分别确定货堆顶层载具的位姿和底层载具的位姿，得到货堆顶层载具和底层载具的实时位姿，并确定货堆顶层载具的实时位姿与底层载具的实时位姿是否一致。
作为一种示例，第一3D传感器部署在叉车的叉尖位置；第二3D传感器部署在叉车本体的指定位置，在放货/取货过程中，货堆的底层载具在第二3D传感器的检测范围内。
示例性的，考虑到叉车在放货/取货过程中，通常需要根据指令将货叉举升到一定高度(可以称为指定高度，该指令高度可以根据控制平台下发的指令确定)，在正常情况下，该指定高度会与当前操作的货堆的高度匹配(高于该货堆的高度，但是与该货堆的高度之间的高度差小于预设高度阈值)，因此，可以通过在货叉的叉尖部署3D传感器，来获取叉车放货/取货过程中，货堆顶层载具的传感器数据。
此外，考虑到实际场景中，货堆底层载具的高度相对叉车通常是固定的，因此，可以通过在叉车车体的指定位置部署3D传感器，来获取叉车放货/取货过程中，货堆低层载具的传感器数据。
在一些实施例中，在放货过程中，本申请实施例提供的货物放取方法还可以包括：
依据通过3D传感器获取到的传感器数据，确定货堆的顶层是否满足放货要求；
在货堆的顶层不满足放货要求的情况下，进行告警处理；
上述在货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理，可以包括：
在货堆的顶层载具的位姿与底层载具的位姿一致，且货堆的顶层满足放货要求的情况下，进行放货处理。
示例性的，考虑到在叉车放货的过程中，若当前操作的货堆顶层存在过高或过低、或者尺寸过小等情况，叉车可能会无法将货物放到货堆之上，或者，将货物放到货堆之上后可能会掉落，造成安全风险。
相应地，对于放货过程，除了可以按照方式进行顶层载具的位姿与底层载具的位姿匹配之外，还需要判定货堆顶层是否满足放货要求。
在确定货堆的顶层不满足放货要求的情况下，可以进行告警处理。
示例性的，在货堆的顶层载具的位姿与底层载具的位姿一致，且货堆的顶层满足放货要求的情况下，可以进行放货处理。
在一个示例中，上述依据通过3D传感器获取到的传感器数据，确定货堆的顶层是否满足放货要求，可以包括：
依据通过3D传感器获取到的传感器数据，确定货堆的顶层的高度、尺寸以及平整度是否满足放货要求；
在货堆的顶层的高度、尺寸以及平整度均满足放货要求的情况下，确定货堆的顶层是否满足放货要求；
否则，确定货堆的顶层不满足放货要求。
示例性的，考虑到在货堆顶层过高的情况下，叉车将货叉举升到指定高度时可能会无法将货物放到货堆顶层。
在货堆顶层过低的情况下，叉车将货叉举升到指定高度时，该指定高度会与货堆顶层高度差过大，放下货物可能会使货物掉落。
此外，在货堆顶层尺寸过小(如面积过小、长度过小或宽度过小)，或，货堆顶层不够平整，如存在较大坡度的情况下，货物放到货堆顶层之后也容易掉落。
因此，可以依据货堆的顶层的高度、尺寸以及平整度等确定货堆顶层是否满足放货要求。
示例性的，叉车可以依据通过3D传感器获取到的传感器数据，分别确定货堆的顶层的高度、尺寸以及平整度是否满足放货要求。
示例性的，在货堆的顶层的高度、尺寸以及平整度均满足放货要求的情况下，确定货堆的顶层是否满足放货要求；
否则，确定货堆的顶层不满足放货要求。
在一个示例中，货堆的顶层的尺寸以及平整度通过以下方式确定：
依据高度信息和法向量信息，确定3D传感器的点云数据中的有效点云；
确定有效点云的最小外接四边形；
依据该最小外接四边形确定货堆的顶层的尺寸，以及，依据最小外接四边形内有效点的分布和占比确定货堆的顶层的平整度。
示例性的，在确定货堆顶层尺寸和平整度的过程中，可以依据高度信息和法向量信息，从3D传感器获取到的货堆顶层的点云数据中确定有效点云(即属于货堆顶层的点云，该货堆顶层可以是顶层载具上的货物的上表面，或者，顶层载具的上表面(在顶层载具上未放货物的情况下))，并确定该有效点云的最小外接四边形，依据该最小外接四边形确定货堆的顶层的尺寸，以及，依据最小外接四边形内有效点的分布和占比确定货堆的顶层的平整度。
作为一个示例，货堆的顶层的平整度是否满足放货要求，可以包括：
在所确定的最小外接四边形内存在目标子区域，和/或，该最小外接四边形内有效点的占比低于预设比例阈值的情况下，确定货堆的顶层的平整度不满足放货要求；
其中，该目标子区域为面积大于预设面积阈值，且不存在有效点云的区域。
示例性的，考虑到在货堆顶层存在较大凹陷，或，出现较为明显的起伏等情况下，叉车将货物放在货堆顶层之后会容易掉落，因此，可以通过确定按照上述方式确定的有效点云的最小外接四边形中有效点的占比(该最小外接四边形内有效点的数量与该最小外接四边形内点的总数的比值)，和/和，是否存在较大不包括有效点的子区域的方式，确定货堆顶层的平整度是否满足放货要求。
在最小外接四边形内存在目标子区域，和/或，最小外接四边形内有效点的占比低于预设比例阈值的情况下，可以确定货堆的顶层的平整度不满足放货要求。
示例性的，在最小外接四边形内不存在目标子区域，且该最小外接四边形内有效点的占比不低于预设比例阈值的情况下，可以确定货堆顶层的平正度满足放货要求。
作为一种示例，货堆的顶层的平整度是否满足放货要求，还可以包括：
对有效点云进行平面拟合，并确定拟合得到的平面的坡度；
在该坡度大于预设角度阈值的情况下，确定货堆的顶层的平整度不满足放货要求；
在最小外接四边形内不存在目标子区域、最小外接四边形内有效点的占比不低于预设比例阈值，以及该坡度不大于预设角度阈值的情况下，确定货堆的顶层的平整度满足放货要求。
示例性的，考虑到在货堆顶层存在较大坡度的情况下，叉车将货物放在货堆之上后，货物会存在掉落风险，因此，还可以对按照上述方式确定的货堆顶层的有效点云进行平面拟合，并确定拟合得到的平面的坡度。
在该坡度大于预设角度阈值的情况下，可以确定货堆的顶层的平整度不满足放货要求。
示例性的，在按照上述方式确定的最小外接四边形内不存在目标子区域、最小外接四边形内有效点的占比不低于预设比例阈值，以及该坡度不大于预设角度阈值的情况下，确定货堆的顶层的平整度满足放货要求。
为了使本领域技术人员更好地理解本申请实施例提供的技术方案，下面结合具体应用场景对本申请实施例提供的技术方案进行说明。
在该实施例中，在叉车的门架位置和叉尖位置安装3D传感器，门架上的3D传感器位置固定不动，叉尖上的3D传感器随着货叉的移动跟随着进行相应的移动。
如图2所示，在放货过程中，叉车可以将货叉抬叉到指定高度；然后通过叉尖3D传感器和门架3D传感器同时进行识别，门架3D传感器检测最下层栈板(以载具为栈板为例)的位姿(即上述底层载具的位姿)；叉尖3D传感器检测待放位置下一层栈板的位姿(即上述顶层载具的位姿)、货堆顶层的高度、尺寸和平整度。
校验两个3D传感器识别的位姿结果的一致性，以及货堆顶层是否满足放货要求。
最后，进行位姿调整和放货操作，或者，告警。
示例性的，如图2所示，叉车可以在依据叉尖3D传感器的传感器数据确定货堆顶层满足放货要求的情况下，进一步确定底层栈板位姿与顶层栈板位姿是否一致，并在底层栈板与顶层栈板位姿一致的情况下，叉车可以依据当前货堆的位姿(可以依据底层栈板位姿以及顶层栈板位姿确定)，调整待放下货物的位姿(即调整叉车的位姿)，并进行放货处理。
在货堆顶层不满足放货要求，或者，底层栈板与顶层栈板位姿不一致的情况下，可以进行告警处理。
在取货过程中，叉车可以将货叉抬叉到指定高度；然后通过叉尖3D传感器和门架3D传感器同时进行识别，门架3D传感器检测最下层栈板(以载具为栈板为例)的位姿(即上述底层载具的位姿)。
校验两个3D传感器识别的位姿结果的一致性。
最后，进行位姿调整和取货操作，或者，告警。
示例性的，如图2所示，叉车可以确定底层栈板位姿与顶层栈板位姿是否一致，并在底层栈板与顶层栈板位姿一致的情况下，叉车可以依据当前货堆的位姿(可以依据底层栈板位姿以及顶层栈板位姿确定)，调整叉车的位姿，并进行取货处理。
在货堆顶层不满足放货要求，或者，底层栈板与顶层栈板位姿不一致的情况下，可以进行告警处理。
以上对本申请提供的方法进行了描述。下面对本申请提供的装置进行描述：
请参见图3，为本申请实施例提供的一种货物放取装置的结构示意图，如图3所示，该货物放取装置可以包括：
确定单元310，用于在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致；
货物放取单元320，用于在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理；
告警单元330，用于在所述货堆的顶层载具的位姿与底层载具的位姿不一致的情况下，进行告警处理。
在一些实施例中，所述确定单元310确定载具的位姿，包括：
利用深度学习实例分割的方法，从3D传感器的点云数据中获取属于载具的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿。
或，
从3D传感器的点云数据中获取法向量与地面夹角在预设角度范围内的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿；
在一些实施例中，所述确定单元310依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致，包括：
依据通过3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿，以及，通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
确定所述第一全局位姿与所述第二全局位姿是否一致。
在一些实施例中，所述确定单元310依据通过3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿，包括：
依据通过第一3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿；
所述确定单元310通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿，包括：
依据通过第二3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
其中，所述第一3D传感器和所述第二3D传感器部署在叉车的不同位置。
在一些实施例中，所述第一3D传感器部署在叉车的叉尖位置；所述第二3D传感器部署在叉车本体的指定位置，在放货/取货过程中，所述货堆的底层载具在所述第二3D传感器的检测范围内。
在一些实施例中，所述确定单元310，还用于在放货过程中，依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层是否满足放货要求；
所述告警单元330，还用于在所述货堆的顶层不满足放货要求的情况下，进行告警处理；
所述货物放取单元320在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理，包括：
在所述货堆的顶层载具的位姿与底层载具的位姿一致，且所述货堆的顶层满足放货要求的情况下，进行放货处理。
在一些实施例中，所述确定单元310依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层是否满足放货要求，包括：
依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层的高度、尺寸以及平整度是否满足放货要求；
在所述货堆的顶层的高度、尺寸以及平整度均满足放货要求的情况下，确定所述货堆的顶层是否满足放货要求；
否则，确定所述货堆的顶层不满足放货要求。
在一些实施例中，所述确定单元310确定货堆的顶层的尺寸以及平整度，包括：
依据高度信息和法向量信息，确定3D传感器的点云数据中的有效点云；
确定所述有效点云的最小外接四边形；
依据所述最小外接四边形确定所述货堆的顶层的尺寸，以及，依据所述最小外接四边形内有效点的分布和占比确定所述货堆的顶层的平整度。
在一些实施例中，所述确定单元310确定货堆的顶层的平整度是否满足放货要求，包括：
在所述最小外接四边形内存在目标子区域，和/或，所述最小外接四边形内有效点的占比低于预设比例阈值的情况下，确定所述货堆的顶层的平整度不满足放货要求；
其中，所述目标子区域为面积大于预设面积阈值，且不存在有效点云的区域。
在一些实施例中，所述确定单元310确定所述货堆的顶层的平整度是否满足放货要求，还包括：
对所述有效点云进行平面拟合，并确定拟合得到的平面的坡度；
在该坡度大于预设角度阈值的情况下，确定所述货堆的顶层的平整度不满足放货要求；
在最小外接四边形内不存在所述目标子区域、所述最小外接四边形内有效点的占比不低于所述预设比例阈值，以及该坡度不大于预设角度阈值的情况下，确定所述货堆的顶层的平整度满足放货要求。
本申请实施例提供一种电子设备，包括处理器和存储器，其中，存储器存储有能够被所述处理器执行的机器可执行指令，处理器用于执行机器可执行指令，以实现上文描述的货物放取方法。
请参见图4，为本申请实施例提供的一种电子设备的硬件结构示意图。该电子设备可包括处理器401、存储有机器可执行指令的存储器402。处理器401与存储器402可经由系统总线403通信。并且，通过读取并执行存储器402中与货物放取逻辑对应的机器可执行指令，处理器401可执行上文描述的货物放取方法。
本文中提到的存储器402可以是任何电子、磁性、光学或其它物理存储装置，可以包含或存储信息，如可执行指令、数据，等等。例如，机器可读存储介质可以是：RAM(RadomAccess Memory，随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等)，或者类似的存储介质，或者它们的组合。
在一些实施例中，还提供了一种机器可读存储介质，如图4中的存储器402，该机器可读存储介质内存储有机器可执行指令，所述机器可执行指令被处理器执行时实现上文描述的货物放取方法。例如，所述存储介质可以是ROM、RAM、CD-ROM、磁带、软盘和光数据存储设备等。
需要说明的是，在本文中，诸如目标和目标等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅为本申请的较佳实施例而已，并不用以限制本申请，凡在本申请的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本申请保护的范围之内。
Claims (13)
1.一种货物放取方法，其特征在于，包括：
在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致；
在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理；
在所述货堆的顶层载具的位姿与底层载具的位姿不一致的情况下，进行告警处理；
若所述放货/取货过程为放货过程，则所述方法还包括：
依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层是否满足放货要求；
在所述货堆的顶层不满足放货要求的情况下，进行告警处理；
所述在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理，包括：
在所述货堆的顶层载具的位姿与底层载具的位姿一致，且所述货堆的顶层满足放货要求的情况下，进行放货处理。
2.根据权利要求1所述的方法，其特征在于，载具的位姿通过以下方式确定：
利用深度学习实例分割的方法，从3D传感器的点云数据中获取属于载具的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿；
或，
从3D传感器的点云数据中获取法向量与地面夹角在预设角度范围内的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿。
3.根据权利要求1所述的方法，其特征在于，所述依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致，包括：
依据通过3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿，以及，通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
确定所述第一全局位姿与所述第二全局位姿是否一致。
4.根据权利要求3所述的方法，其特征在于，所述依据通过3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿，包括：
依据通过第一3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿；
所述通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿，包括：
依据通过第二3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
其中，所述第一3D传感器和所述第二3D传感器部署在叉车的不同位置。
5.根据权利要求4所述的方法，其特征在于，所述第一3D传感器部署在叉车的叉尖位置；所述第二3D传感器部署在叉车本体的指定位置，在放货/取货过程中，所述货堆的底层载具在所述第二3D传感器的检测范围内。
6.根据权利要求1所述的方法，其特征在于，所述依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层是否满足放货要求，包括：
依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层的高度、尺寸以及平整度是否满足放货要求；
在所述货堆的顶层的高度、尺寸以及平整度均满足放货要求的情况下，确定所述货堆的顶层满足放货要求；
否则，确定所述货堆的顶层不满足放货要求。
7.根据权利要求6所述的方法，其特征在于，所述货堆的顶层的尺寸以及平整度通过以下方式确定：
依据高度信息和法向量信息，确定3D传感器的点云数据中的有效点云；
确定所述有效点云的最小外接四边形；
依据所述最小外接四边形确定所述货堆的顶层的尺寸，以及，依据所述最小外接四边形内有效点的分布和占比确定所述货堆的顶层的平整度。
8.根据权利要求7所述的方法，其特征在于，所述货堆的顶层的平整度是否满足放货要求，包括：
在所述最小外接四边形内存在目标子区域，和/或，所述最小外接四边形内有效点的占比低于预设比例阈值的情况下，确定所述货堆的顶层的平整度不满足放货要求；
其中，所述目标子区域为面积大于预设面积阈值，且不存在有效点云的区域。
9.根据权利要求8所述的方法，其特征在于，所述货堆的顶层的平整度是否满足放货要求，还包括：
对所述有效点云进行平面拟合，并确定拟合得到的平面的坡度；
在该坡度大于预设角度阈值的情况下，确定所述货堆的顶层的平整度不满足放货要求；
在最小外接四边形内不存在所述目标子区域、所述最小外接四边形内有效点的占比不低于所述预设比例阈值，以及该坡度不大于预设角度阈值的情况下，确定所述货堆的顶层的平整度满足放货要求。
10.一种货物放取装置，其特征在于，包括：
确定单元，用于在放货/取货过程中，依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致；
货物放取单元，用于在所述货堆的顶层载具的位姿与底层载具的位姿一致的情况下，进行放货/取货处理；
告警单元，用于在所述货堆的顶层载具的位姿与底层载具的位姿不一致的情况下，进行告警处理；
若所述放货/取货过程为放货过程，则所述装置还包括：
所述确定单元，还用于依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层是否满足放货要求；
所述告警单元，还用于在所述货堆的顶层不满足放货要求的情况下，进行告警处理；
所述货物放取单元，具体用于在所述货堆的顶层载具的位姿与底层载具的位姿一致，且所述货堆的顶层满足放货要求的情况下，进行放货处理。
11.根据权利要求10所述的装置，其特征在于，所述确定单元确定载具的位姿，包括：
利用深度学习实例分割的方法，从3D传感器的点云数据中获取属于载具的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿；
或，
从3D传感器的点云数据中获取法向量与地面夹角在预设角度范围内的点云，对获取到的点云进行平面拟合和位姿估计，确定载具的位姿；
和/或，
所述确定单元依据通过3D传感器获取到的传感器数据，确定货堆的顶层载具的位姿与底层载具的位姿是否一致，包括：
依据通过3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿，以及，通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
确定所述第一全局位姿与所述第二全局位姿是否一致；
其中，所述确定单元依据通过3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿，包括：
依据通过第一3D传感器获取到的传感器数据确定所述货堆的顶层载具的第一全局位姿；
所述确定单元通过3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿，包括：
依据通过第二3D传感器获取到的传感器数据确定所述货堆的底层载具的第二全局位姿；
其中，所述第一3D传感器和所述第二3D传感器部署在叉车的不同位置；
其中，所述第一3D传感器部署在叉车的叉尖位置；所述第二3D传感器部署在叉车本体的指定位置，在放货/取货过程中，所述货堆的底层载具在所述第二3D传感器的检测范围内；
和/或，
所述确定单元依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层是否满足放货要求，包括：
依据通过3D传感器获取到的传感器数据，确定所述货堆的顶层的高度、尺寸以及平整度是否满足放货要求；
在所述货堆的顶层的高度、尺寸以及平整度均满足放货要求的情况下，确定所述货堆的顶层满足放货要求；
否则，确定所述货堆的顶层不满足放货要求；
其中，所述确定单元确定货堆的顶层的尺寸以及平整度，包括：
依据高度信息和法向量信息，确定3D传感器的点云数据中的有效点云；
确定所述有效点云的最小外接四边形；
依据所述最小外接四边形确定所述货堆的顶层的尺寸，以及，依据所述最小外接四边形内有效点的分布和占比确定所述货堆的顶层的平整度；
其中，所述确定单元确定货堆的顶层的平整度是否满足放货要求，包括：
在所述最小外接四边形内存在目标子区域，和/或，所述最小外接四边形内有效点的占比低于预设比例阈值的情况下，确定所述货堆的顶层的平整度不满足放货要求；
其中，所述目标子区域为面积大于预设面积阈值，且不存在有效点云的区域；
其中，所述确定单元确定所述货堆的顶层的平整度是否满足放货要求，还包括：
对所述有效点云进行平面拟合，并确定拟合得到的平面的坡度；
在该坡度大于预设角度阈值的情况下，确定所述货堆的顶层的平整度不满足放货要求；
在最小外接四边形内不存在所述目标子区域、所述最小外接四边形内有效点的占比不低于所述预设比例阈值，以及该坡度不大于预设角度阈值的情况下，确定所述货堆的顶层的平整度满足放货要求。
12.一种电子设备，其特征在于，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的机器可执行指令，所述处理器用于执行机器可执行指令，以实现如权利要求1-9任一项所述的方法。
13.一种机器可读存储介质，其特征在于，所述机器可读存储介质内存储有机器可执行指令，所述机器可执行指令被处理器执行时实现如权利要求1-9任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210692452.5A CN115159402B (zh) | 2022-06-17 | 2022-06-17 | 货物放取方法、装置、电子设备及机器可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210692452.5A CN115159402B (zh) | 2022-06-17 | 2022-06-17 | 货物放取方法、装置、电子设备及机器可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115159402A CN115159402A (zh) | 2022-10-11 |
| CN115159402B true CN115159402B (zh) | 2024-06-25 |
Family
ID=83485234
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210692452.5A Active CN115159402B (zh) | 2022-06-17 | 2022-06-17 | 货物放取方法、装置、电子设备及机器可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115159402B (zh) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113104472A (zh) * | 2021-05-27 | 2021-07-13 | 厦门烟草工业有限责任公司 | 成品烟箱出入库系统 |
Family Cites Families (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2750979B2 (ja) * | 1992-05-13 | 1998-05-18 | 花王株式会社 | 荷姿修正方法及び荷姿修正機 |
| JPH05338713A (ja) * | 1992-06-15 | 1993-12-21 | Hitachi Electron Eng Co Ltd | 収納棚位置決め制御装置 |
| JP2886822B2 (ja) * | 1996-06-03 | 1999-04-26 | 岐阜プラスチック工業株式会社 | 運搬用パレット |
| JP2002019914A (ja) * | 2000-07-04 | 2002-01-23 | Okamura Corp | 自動倉庫における荷の移載装置 |
| JP2011011883A (ja) * | 2009-07-02 | 2011-01-20 | Murata Machinery Ltd | スタッカークレーン及び自動倉庫 |
| CN204823102U (zh) * | 2015-08-06 | 2015-12-02 | 湖北中烟工业有限责任公司 | 物流立库系统的托盘成品烟箱堆码外形检测装置 |
| CN108897246B (zh) * | 2018-08-17 | 2020-01-10 | 西门子工厂自动化工程有限公司 | 堆箱控制的方法、装置、系统及介质 |
| CN109436820B (zh) * | 2018-09-17 | 2024-04-16 | 武汉库柏特科技有限公司 | 一种货物垛的拆垛方法及拆垛系统 |
| CN109607105A (zh) * | 2018-12-17 | 2019-04-12 | 张家港康得新光电材料有限公司 | 一种取货系统、方法、装置及存储介质 |
| CN110054116B (zh) * | 2019-03-15 | 2021-01-08 | 广州蓝胖子机器人有限公司 | 应用于叉车的货叉导航方法、系统及无人叉车 |
| CN111746861B (zh) * | 2019-03-28 | 2022-02-18 | 广东科达洁能股份有限公司 | 一种托盘自动进给机 |
| CN110182718A (zh) * | 2019-04-25 | 2019-08-30 | 上海快仓智能科技有限公司 | 搬运机器人的控制方法及货物搬运系统 |
| CN111017804B (zh) * | 2019-11-08 | 2021-06-11 | 华中科技大学 | 一种智能移动转运系统及其转运方法 |
| CN110789900A (zh) * | 2019-11-19 | 2020-02-14 | 深圳市丰巢科技有限公司 | 一种货物存取方法、装置、智能仓和存储介质 |
| CN112849898B (zh) * | 2019-11-27 | 2023-02-28 | 北京极智嘉科技股份有限公司 | 一种自驱动机器人及自驱动机器人的搬运方法 |
| CN211309757U (zh) * | 2019-12-02 | 2020-08-21 | 苏州吉威特机械科技有限公司 | 一种基于仓库用多层托盘的自动化出入库设备 |
| CN211687092U (zh) * | 2020-01-13 | 2020-10-16 | 南京苏士达智能系统有限公司 | 一种动态检测预警装置 |
| JP7367615B2 (ja) * | 2020-06-03 | 2023-10-24 | トヨタ自動車株式会社 | パレット、パレットの積層システム及び積層方法 |
| CN111924766A (zh) * | 2020-08-03 | 2020-11-13 | 罗伯泰克自动化科技（苏州）有限公司 | 一种基于倾角检测堆垛机的歪斜检测载货台 |
| CN112365453A (zh) * | 2020-10-26 | 2021-02-12 | 上海东普信息科技有限公司 | 快递货物堆放的检测方法、装置、设备和存储介质 |
| CN112935703B (zh) * | 2021-03-19 | 2022-09-27 | 山东大学 | 识别动态托盘终端的移动机器人位姿校正方法及系统 |
| CN215624469U (zh) * | 2021-05-28 | 2022-01-25 | 苏州奥特兰恩自动化设备有限公司 | 一种智能仓储货架系统 |
-
2022
- 2022-06-17 CN CN202210692452.5A patent/CN115159402B/zh active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113104472A (zh) * | 2021-05-27 | 2021-07-13 | 厦门烟草工业有限责任公司 | 成品烟箱出入库系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115159402A (zh) | 2022-10-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102461759B1 (ko) | 지능형 지게차 및 컨테이너 위치 및 자세 편이 검출 방법 | |
| WO2021249568A1 (zh) | 仓储机器人的控制方法、装置、设备及可读存储介质 | |
| US9424470B1 (en) | Systems and methods for scale invariant 3D object detection leveraging processor architecture | |
| EP3169489B1 (en) | Real-time determination of object metrics for trajectory planning | |
| US9205558B1 (en) | Multiple suction cup control | |
| KR20210087065A (ko) | 자동 패키지 등록 시스템, 장치 및 방법 | |
| US9205562B1 (en) | Integration of depth points into a height map | |
| US20180107218A1 (en) | Ground Plane Detection to Verify Depth Sensor Status for Robot Navigation | |
| KR20180128072A (ko) | 창고 내비게이션을 위한 식별 정보 | |
| US11267138B2 (en) | Package identification code, sheet or sticker sheet displaying same, and robot hand used for same | |
| US20220016779A1 (en) | Autonomous Robot Packaging of Arbitrary Objects | |
| JP2023528920A (ja) | 倉庫ロボットの制御方法、装置、ロボットおよび倉庫システム | |
| WO2023124805A1 (zh) | 协同搬运处理方法、装置、电子设备及系统 | |
| CN116882855B (zh) | 一种防止货架侧翻的货位选择方法、装置及存储介质 | |
| US11977392B2 (en) | Identifying elements in an environment | |
| CN112686612A (zh) | 一种虚拟仓库的库存管理方法及系统 | |
| EP3418244B1 (en) | Loading a container on a landing target | |
| CN115159402B (zh) | 货物放取方法、装置、电子设备及机器可读存储介质 | |
| CN115546300A (zh) | 紧密摆放的托盘位姿识别方法和装置、计算机设备、介质 | |
| TW202318272A (zh) | 使用基於學習的手段將箱子放在托盤上的工作流程 | |
| US20220033123A1 (en) | Article package filling method, article packaging method and device, and control system | |
| CN115909204A (zh) | 一种基于集装箱吊具检测的车辆运动策略确定方法及装置 | |
| CN115330854A (zh) | 货物管理系统和货物管理方法 | |
| CN113515110B (zh) | 控制机器人堆垛的方法及装置 | |
| US20210347617A1 (en) | Engaging an element |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| CB02 | Change of applicant information |
Address after: 310051 room 304, B / F, building 2, 399 Danfeng Road, Binjiang District, Hangzhou City, Zhejiang Province Applicant after: Hangzhou Hikvision Robot Co.,Ltd. Address before: 310051 room 304, B / F, building 2, 399 Danfeng Road, Binjiang District, Hangzhou City, Zhejiang Province Applicant before: HANGZHOU HIKROBOT TECHNOLOGY Co.,Ltd. |
|
| CB02 | Change of applicant information | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |