CN116188577A - 托盘位姿检测方法及装置、设备、存储介质 - Google Patents
托盘位姿检测方法及装置、设备、存储介质 Download PDFInfo
- Publication number
- CN116188577A CN116188577A CN202310126445.3A CN202310126445A CN116188577A CN 116188577 A CN116188577 A CN 116188577A CN 202310126445 A CN202310126445 A CN 202310126445A CN 116188577 A CN116188577 A CN 116188577A
- Authority
- CN
- China
- Prior art keywords
- tray
- target
- image
- surface area
- resolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种托盘位姿检测方法及装置、设备、存储介质;所述方法包括:对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像;根据第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定;对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;根据第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率;根据第二目标特征图和目标平面方程,确定托盘的目标位姿。
Description
技术领域
本申请实施例涉及信息处理技术,涉及但不限于一种托盘位姿检测方法及装置、设备、存储介质。
背景技术
在仓库的出入库过程中,受到作业流程、设备精度、人工作业等因素影响,托盘码放的位置和姿态存在着较大的不确定性,会导致无人叉车无法快速、准确地识别托盘的位姿,从而无法满足仓储物流产业高效的作业需求。
且现有技术中,常使用三维点云的特征来描述并检测托盘位姿,如采用区域生长分割、RANSAC模型分割、角点检测和聚类等算法,但在这些算法的实现过程中,几何特征和特征点的提取通常会受到点云质量的影响,难以准确、稳定地提取出托盘的物理特征。同时点云数据量较大,在处理时通常耗时较长,难以在有限的硬件资源上实现快速的检测。
发明内容
有鉴于此,本申请实施例提供的托盘位姿检测方法及装置、设备、存储介质,能够提高对托盘位姿的检测准确度和检测速度。本申请实施例提供的托盘位姿检测方法及装置、设备、存储介质是这样实现的:
本申请实施例提供的托盘位姿检测方法,包括:
对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,目标区域为包含有托盘的区域,初始托盘图像为滤除点云图像中的背景区域后的图像;
根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定;
对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;
根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率;
根据第二目标特征图和目标平面方程,确定托盘的目标位姿。
在一些实施例中,根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,包括:
在第一分辨率下,对初始托盘图像进行映射处理,得到初始托盘图像在投影平面上的第一投影图像;根据预先确定的第一目标卷积核对第一投影图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定。
在一些实施例中,对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程,包括:
根据预先确定的托盘的总表面积,从第一目标特征图中提取得到候选托盘图像;对候选托盘图像进行平面拟合处理,得到对应的托盘平面图像和目标平面方程。
在一些实施例中,根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,包括:
在第二分辨率下,对托盘平面图像进行映射处理,得到托盘平面图像在投影平面上的第二投影图像,第二分辨率大于第一分辨率;
根据预先确定的第二目标卷积核对第二投影图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定。
在一些实施例中,目标分辨率包括第一分辨率和第二分辨率,目标投影图像包括第一投影图像和第二投影图像,根据预先确定的每一墩孔的表面积、托盘的总表面积和目标分辨率确定对应的目标卷积核,包括:
根据目标分辨率,确定与目标分辨率对应的目标投影图像的目标卷积核的尺寸;
确定多个墩孔的表面积之和为第一表面积,并确定托盘的总表面积与第一表面积之差为第二表面积;
在目标卷积核的尺寸下,确定第一数值与第一表面积的比值为墩孔区域对应的目标卷积核内各点的权值,并确定第二数值与第二表面积的比值为托盘中除墩孔区域外的其他区域对应的目标卷积核内各点的权值。
在一些实施例中,所述方法还包括:
在目标卷积核的尺寸下,确定第一数值与第一表面积的比值为所述墩孔区域对应的目标卷积核内各点的权值,并确定第二数值与第一表面积的比值为托盘中除墩孔区域外的其他区域对应的目标卷积核内各点的权值,第一数值与第二数值互为相反数;或
确定各脚墩的墩面区域对应的目标卷积核内各点的权值符合二维高斯分布,且各墩孔区域对应的目标卷积核内各点的权值与托盘中除墩孔区域外的其他区域对应的目标卷积核内各点的权值互为相反数。
在一些实施例中,根据第二目标特征图和目标平面方程,确定托盘的目标位姿,包括:
根据目标平面方程,确定第二目标特征图中每一点云对应的深度信息;
综合第二目标特征图中每一点云的二维坐标和各点云对应的深度信息,得到托盘的三维目标位姿。
本申请实施例提供的托盘位姿检测装置,包括:
提取模块,用于对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,目标区域为包含有托盘的区域,初始托盘图像为滤除点云图像中的背景区域后的图像;
卷积模块,用于根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定;
拟合模块,用于对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;
所述卷积模块,还用于根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率;
确定模块,用于根据第二目标特征图和目标平面方程,确定托盘的目标位姿。
本申请实施例提供的计算机设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现本申请实施例所述的方法。
本申请实施例提供的计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现本申请实施例提供的所述的方法。
本申请实施例所提供的托盘位姿检测方法、装置、计算机设备和计算机可读存储介质,通过对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像;并根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定;再对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;随后,根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率;最终根据第二目标特征图和目标平面方程,确定托盘的目标位姿。这样,先对托盘图像进行粗略位姿提取,再基于提取到的粗略位姿进行精准位置提取,能够提高对托盘位姿的检测准确度;另外,通过滤除掉点云图像中的干扰点云,还能够提高对托盘位姿的检测速度,从而解决背景技术中所提出的技术问题。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本申请的实施例,并与说明书一起用于说明本申请的技术方案。
图1为本申请实施例提供的托盘位姿检测方法的应用场景示意图;
图2为本申请实施例提供的托盘的结构示意图;
图3为本申请实施例提供的一种托盘位姿检测方法的实现流程示意图;
图4为本申请实施例提供的一种获取初始托盘图像的实现流程示意图;
图5为本申请实施例提供的另一托盘位姿检测方法的实现流程示意图;
图6为本申请实施例提供的确定目标卷积核的实现流程示意图;
图7为本申请实施例提供的目标卷积核的结构示意图;
图8为本申请实施例提供的候选托盘图像的构造示意图;
图9为本申请实施例提供的缺托盘位姿检测方法的实现流程示意图;
图10为本申请实施例提供的托盘位姿检测装置的结构示意图;
图11为本申请实施例提供的计算机设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请的具体技术方案做进一步详细描述。以下实施例用于说明本申请,但不用来限制本申请的范围。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
需要指出,本申请实施例所涉及的术语“第一\第二\第三”用以区别类似或不同的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
近年来随着智能物流和无人仓库的兴起,由无人叉车按照程序执行来实现货物的自动搬运与整理技术成为研究与应用热点。但在非结构化仓库的复杂环境中,受到作业流程、设备精度、人工作业等因素影响,托盘码放的位置和姿态存在着较大的不确定性,导致无人叉车无法快速、准确地识别托盘的位姿,从而无法满足仓储物流产业高效的作业需求。
且现有的托盘检测技术中,常使用三维点云的特征来描述并检测托盘位姿,但几何特征和特征点的方法通常会受到点云质量的影响,导致难以准确、稳定地提取出托盘的物理特征。同时由于点云数据量较大,在处理时通常耗时较长,难以在有限的硬件资源上实现快速的检测。因此,亟待开发高准确性且快速的无人叉车托盘位姿检测方法。
有鉴于此,本申请实施例提供一种托盘位姿检测方法及装置、设备、存储介质,能够提高对托盘位姿的检测准确度和检测速度。该方法应用于检测设备,该检测设备在实施的过程中可以为各种类型的具有检测功能和信息处理能力的设备。例如,所述检测设备可以包括深度相机、激光雷达、红外相机、红外扫描仪等。该方法所实现的功能可以通过检测设备中的处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该检测设备至少包括处理器和存储介质。
以下将结合附图进行详细描述。
如图1所示,图1是本申请实施例公开的一种托盘位姿检测方法的应用场景示意图,该应用场景下,托盘位姿检测系统中包括无人叉车11和安装在无人叉车上的检测设备12。
无人叉车11可以为潜伏式AGV(Automated Guided Vehicle,自动导引运输车)、平衡重AGV、叉车式AGV等,本申请实施例对此并不作限定。
其中,无人叉车是一种智能工业车辆机器人,它融合了叉车技术和AGV技术,与普通AGV相比,它除了能完成点对点的物料搬运之外,更能实现多个生产环节对接的物流运输,不仅擅长高位仓库、库外收货区、产线转运三大场景,而且在重载、特殊搬运等场景也有着不可替代的作用。通过无人叉车的应用,可以解决工业生产和仓储物流作业过程中物流量大、人工搬运劳动强度高等问题。
按照产品特性,目前叉车式AGV应用较多的场景包括高位仓库、库外收货区、产线转运等。尤其是在制造企业的多样化物料搬运作业场景中,无人叉车可根据进入库、出库、产线、存储等环节的不同需求,实现多种功能。
检测设备12可以为深度相机、激光雷达、红外相机、红外扫描仪等任意具有探测和感知功能的装置。且在本申请实施例中,对于检测设备12的数量也不作限定,其可以为一个或多个。
在本申请实施例中,对于检测设备12的安装位置不作限定。如在一优选的实施例中,检测设备12可安装在无人叉车11的叉臂根部间的中点处,以对仓库中的托盘进行位姿检测。
在介绍本申请技术方案之前,首先对托盘的构造进行解释,图2提供一种托盘的结构示意图,如图2所示,托盘中包括多个托盘脚墩201和上卡板202,且相邻托盘脚墩201之间存在墩孔203。这里,将托盘脚墩201所在区域称为脚墩的墩面区域。
图3为本申请实施例提供的托盘位姿检测方法的实现流程示意图,能够提高对托盘位姿的检测准确度和检测速度。如图3所示,该方法应用于无人叉车上安装的检测设备,该方法可以包括以下步骤301至步骤305:
步骤301,对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,目标区域为包含有托盘的区域,初始托盘图像为滤除点云图像中的背景区域后的图像。
在本申请实施例中,控制设备可向无人叉车发送移动指令,以控制无人叉车行驶到检测点,该检测点可为距离托盘1.5m-3m之间的任意位置。当无人叉车行驶至检测点后,即可通过其上安装的检测设备,采集得到托盘所在区域的点云图像,并在采集到点云图像后,对点云图像进行区域提取,从而滤除点云图像中的背景区域,仅保留托盘的图像,将其称为初始托盘图像。这样,能够有效避免背景区域中的干扰点云对托盘位姿确定精确度的影响,且能够降低后续计算托盘位姿时的点云计算量,提高计算速度。
在一些实施例中,可通过执行如下步骤401至步骤402来实现步骤301:
步骤401,获取托盘的初始位姿。
当无人叉车行驶至检测点后,即可通过其上安装的检测设备,采集得到托盘的初始位姿,该初始位姿为托盘相对于检测设备的位姿,如可用(x,y,z,theta)表示。
其中,x,y,z是指以检测设备的中心点为基础坐标系,托盘相对于检测设备的中心点的横向距离、纵向距离和深度方向距离,theta是指托盘中心点相对于检测设备的中心点之间的夹角。
步骤402,根据托盘的初始位姿和预设的感兴趣区域阈值,对点云图像进行区域提取,得到初始托盘图像,初始托盘图像为滤除点云图像中的背景区域后的图像。
所谓感兴趣区域(region of interest,ROI),是指从被处理的图像以方框、圆、椭圆、不规则多边形等方式勾勒出需要处理的图像区域,这个区域是在对该图像进行分析时所关注的重点。
在本申请实施例中,在获取到托盘的初始位姿(粗略位姿)后,即可根据预设的感兴趣区域阈值,结合托盘的初始位姿,从获取到的点云图像中,将托盘区域作为感兴趣区域提取出来,从而滤除掉点云图像中的背景区域的干扰。
这样,能够有效避免背景区域中的干扰点云对托盘位姿确定精确度的影响,且能够降低后续计算托盘位姿时的点云计算量,提高计算速度和精度。
步骤302,根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定。
在本申请实施例中,会预先在检测设备中输入托盘的尺寸信息,如图2所示,托盘的尺寸信息至少包括托盘脚墩201的宽度、托盘脚墩201的高度、上卡板202的高度、墩孔203的宽度和托盘的整体高度等。在一些实施例中,若托盘存在下卡板,则该托盘的尺寸信息还可包括下卡板的高度。
在获取到托盘的尺寸信息后,检测设备即可计算得到托盘的各部位的表面积信息,如确定得到每一墩孔的表面积和托盘的总表面积。
可以理解地,对图像进行卷积处理,实质是对图像中的像素点进行滤波,以过滤出感兴趣的,有益的信息。基于卷积核类型的不同,对图像进行卷积处理得到的目标特征图中包含的特征侧重点也不同。
且为确定图像所对应的目标卷积核,需确定目标卷积核的尺寸和在该尺寸下的每一像素点的权值。
因此,为更加贴合实际需求,提高检测精确度,在本申请实施例中,在提取得到初始托盘图像后,可根据存储的每一墩孔的表面积、托盘的总表面积和第一分辨率来共同确定初始托盘图像对应的第一目标卷积核。其中,具体可根据第一分辨率(即初始托盘图像的分辨率)来确定第一目标卷积核的尺寸,并根据每一墩孔的表面积和托盘的总表面积来确定第一目标卷积核中每一像素点的权值。
在一些实施例中,可以通过执行如下实施例中的步骤503至步骤504来实现步骤302。
步骤303,对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程。
在本申请实施例中,对于对第一目标特征图进行拟合处理的方式不作限定,如可以采用随机采样一致性(RANdom Sample Consensus,RANSAC)算法对第一目标特征图进行平面拟合,从而得到第一目标特征图对应的托盘平面图像。这样,能够滤除掉第一目标特征图中的其他干扰物体和干扰点云的影响,提升托盘位姿检测的准确度和速度。
另外,在对第一目标特征图进行拟合处理时,即可从第一目标特征图中随机选择三个点云数据(点云坐标已知),代入公式1所示的目标平面方程中,计算得到a,b,c,d的具体取值,从而确定出目标平面方程的构成。
ax+by+cz+d=0 (公式1);
其中,a为点云横轴坐标的系数,b为点云纵轴坐标的系数,c为点云竖轴坐标的系数,d为截距。
步骤304,根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率。
这里,对于第二目标卷积核的确定方式如步骤302中确定第一目标卷积核的方式相同,在此不再赘述。区别在于第二目标卷积核的尺寸大小是基于第二分辨率确定的,而第一目标卷积核的尺寸大小是基于第一分辨率确定的。
在本申请实施例中,第二分辨率大于第一分辨率,由于初始托盘图像对应的分辨率为第一分辨率,托盘平面图像对应的分辨率为第二分辨率,则托盘平面图像的清晰度远大于初始托盘图像的清晰度,当然,托盘平面图像中包含的点云数据量也较多。
在本申请实施例中,对于卷积处理的具体方式不作限定。如在一些实施例中,由于在点云数据量较多的情况下,使用全局卷积会占用较多的计算资源,则此处可使用滑窗卷积的卷积方式对第二目标特征图进行卷积处理。所谓滑窗卷积,是指使用该第二目标卷积核,以一定的步长间隔对托盘平面图像进行卷积处理的。也就是说,并非是对托盘平面图像中的每一个点云均进行卷积处理的,而是对部分点云进行卷积处理,从而得到托盘的精准平面位姿的。
当然,这里对于步长的数值设定也不作限定,可根据实际需求设定。
在一些实施例中,可通过执行如下实施例中的步骤505至步骤509来实现步骤304。
步骤305,根据第二目标特征图和目标平面方程,确定托盘的目标位姿。
可以理解地,在得到第二目标特征图后,即可得到托盘的精准平面位姿(二维坐标(x0,y0)),但为确定托盘的目标位姿,还需知道托盘相对于检测设备的中心点的竖轴距离,也即竖轴坐标z0。
因此,在本申请实施例中,可基于已知的第二目标特征图中各点云的横纵坐标,以及目标平面方程,共同确定每一点云对应的竖轴坐标,从而得到托盘的三维目标位姿。
在一些实施例中,可以通过执行如下步骤510至步骤511来实现步骤305。
在本申请实施例中,通过对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像;并根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定;再对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;随后,根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率;最终根据第二目标特征图和目标平面方程,确定托盘的目标位姿。这样,先对托盘图像进行粗略位姿提取,再基于提取到的粗略位姿进行精准位置提取,能够提高对托盘位姿的检测准确度;另外,通过滤除掉点云图像中的干扰点云,还能够提高对托盘位姿的检测速度。
本申请实施例再提供一种托盘位姿检测方法,图5为本申请实施例提供的托盘位姿检测方法的实现流程示意图,如图5所示,该方法可以包括以下步骤501至步骤511:
步骤501,对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,目标区域为包含有托盘的区域,初始托盘图像为滤除点云图像中的背景区域后的图像。
步骤502,在第一分辨率下,对初始托盘图像进行映射处理,得到初始托盘图像在投影平面上的第一投影图像。
这里,对初始托盘图像进行映射处理,可以为在第一分辨率下,将初始托盘图像沿着z轴方向做平面投影,从而得到第一分辨率下的投影图像,该投影图像为二维平面图像。也即,将原本的三维初始托盘图像转换为二维平面图像,从而能够有效降低数据量,提高数据处理速度。
所谓投影图像的分辨率,是指该投影图像中单位表面积内的点云数量,基于分辨率的不同,投影图像的显示清晰度也不同。在一些实施例中,第一分辨率为较低的分辨率,在投影后则可得到较低分辨率下的第一投影图像。也就是说,第一投影图像的清晰度较低。
在一些实施例中,投影平面为XOY平面。当然,本申请实施例中对于将初始托盘图像进行投影的方向不作限定,也可以为将初始托盘图像沿着x轴方向或y轴方向做投影,可根据具体需求进行设定。
在本申请实施例中,对于对初始托盘图像做平面投影的具体方式也不作限定,如可以为对初始托盘图像沿着z轴方向做正交投影。
步骤503,根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率确定第一目标卷积核。
基于卷积核的不同,对图像进行卷积处理得到的目标特征图中包含的特征侧重点也不同。因此,为更加贴合实际需求,并提高检测精确度,在本申请实施例中,是根据预先确定的每一墩孔的表面积、托盘的总表面积和待进行卷积的投影图像的分辨率,来共同确定出需使用的目标卷积核的。
进一步地,在卷积运算中,卷积核的权值分布代表了对当前区域的惩罚和增益,如基于墩孔区域、非墩孔区域和墩面区域的特性,可对墩孔区域、非墩孔区域和墩面区域分别设置不同的惩罚和增益,也即对墩孔区域、非墩孔区域和墩面区域设置不同的卷积核。
基于此,在一些实施例中,为确定出第一投影图像中包含的托盘中不同区域分别对应的第一目标卷积核,可通过执行如下步骤601至步骤603来实现:
步骤601,根据第一投影图像的分辨率,确定第一投影图像对应的第一目标卷积核的尺寸。
所谓投影图像的分辨率,是指该投影图像中单位表面积内的点云数量,基于分辨率的不同,投影图像的显示清晰度也不同。而在确定卷积核的具体构成时,需先确定当前卷积处理中所使用的目标卷积核的尺寸。为更加贴合实际需求,可根据投影图像的分辨率,确定该投影图像对应的目标卷积核的尺寸。
在本申请实施例中,对于根据第一投影图像的分辨率确定第一投影图像对应的第一目标卷积核的尺寸的具体方式并不作限定。
如在一些实施例中,可以确定第一投影图像中的托盘脚墩的墩面区域对应的第一目标卷积核的尺寸与脚墩的宽高等比例。这里,对于第一目标卷积核的形式不作限定,该第一目标卷积核可以为正方形,也可以为长方形。当第一目标卷积核为正方形时,可以表现为如图7所示的3*3尺寸的卷积核。
步骤602,确定多个墩孔的表面积之和为第一表面积,并确定托盘的总表面积与第一表面积之差为第二表面积。
如图2所示,托盘中包括多个墩孔203,则确定这多个墩孔203的表面积之和为第一表面积,将托盘中除墩孔203之外的其他区域的表面积作为第二表面积。
其中,将多个墩孔的表面积之和(即第一表面积)用size_hole表示,将托盘的总表面积用size_all表示,将第二表面积用size_all-size_hole表示。
步骤603,在第一目标卷积核的尺寸下,根据第一表面积和第二表面积,确定托盘中各区域对应的目标卷积核。
在本申请实施例中,第一目标卷积核的确定方式可以包括如下方式:
(1)确定第一数值与第一表面积的比值为墩孔区域对应的第一目标卷积核内各点的权值,并确定第二数值与第二表面积的比值为托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值。
在本申请实施例中,对于第一数值和第二数值的具体数值不作限定,如可以设置第一数值为1,第二数值为-1。则墩孔区域对应的第一目标卷积核内各点的权值为1/size_hole,托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值为-1/(size_all-size_hole)。
当然,在另一些实施例中,基于相同的第一目标卷积核的设定逻辑,此处也可确定第一数值与单个墩孔区域的表面积的比值为各墩孔区域对应的第一目标卷积核内各点的权值,并确定第二数值与第三表面积的比值为托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值,该第三表面积为托盘总表面积与单个墩孔区域的表面积之差。
(2)确定第一数值与第一表面积的比值为墩孔区域对应的第一目标卷积核内各点的权值,并确定第二数值与第一表面积的比值为托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值,第一数值与第二数值互为相反数。
若设置第一数值为1,第二数值为-1。则墩孔区域对应的第一目标卷积核内各点的权值为1/size_hole,托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值为-1/size_hole。
当然,在另一些实施例中,基于相同的第一目标卷积核的设定逻辑,此处也可确定第一数值与单个墩孔区域的表面积的比值为各墩孔区域对应的第一目标卷积核内各点的权值,并确定第二数值与单个墩孔区域的表面积的比值为托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值,第一数值与第二数值互为相反数。
(3)确定各脚墩的墩面区域对应的第一目标卷积核内各点的权值符合二维高斯分布,且各墩孔区域对应的第一目标卷积核内各点的权值与托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值互为相反数。
需要说明的是,令各脚墩的墩面区域对应的第一目标卷积核内各点的权值符合二维高斯分布,可以使得构成墩面区域的点云在x方向和y方向上具有更强的抗噪音能力,从而使得该方法能够适用于存在噪音情况下的托盘位姿的检测。
设置各墩孔区域对应的第一目标卷积核内各点的权值与托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值互为相反数,即为设置各墩孔区域对应的第一目标卷积核内各点的权值与托盘中除墩孔区域外的其他区域对应的第一目标卷积核内各点的权值的比值为1:-1。
基于上述提供的多种第一目标卷积核的确定方式,在实际使用时,可根据实际需求选择其中一种使用,从而使得卷积方式更具有灵活性,且更贴合实际生产需求,进而能够提高对托盘位姿检测的精确度。
步骤504,根据第一目标卷积核对第一投影图像进行卷积处理,得到第一目标特征图。
需要说明的是,在使用目标卷积核对投影图像进行卷积处理时,即为根据预先确定的第一投影图像中的墩孔区域、墩面区域和托盘中除上述区域以外的其他区域分别对应的第一目标卷积核,对上述各区域分别进行卷积处理的,从而得到第一投影图像所对应的第一目标特征图。其中,该第一目标特征图中包含托盘在XOY面上的粗略位姿。
步骤505,根据预先确定的托盘的总表面积,从第一目标特征图中提取得到候选托盘图像。
可以理解地,如上述步骤302所述,在对托盘进行位姿检测之前,会先将托盘的尺寸信息输入至检测设备中,如将托盘脚墩201的宽度、托盘脚墩201的高度、上卡板202的高度、墩孔203的宽度和托盘的整体高度等尺寸信息输入至检测设备中,这样,检测设备即可得知托盘的总表面积。
在得到投影图像对应的目标特征图后,即可基于已知的托盘的总表面积,从目标特征图中再次提取,得到候选托盘图像。则该候选托盘图像中进一步过滤了目标特征图中的干扰点云,并降低了点云处理数据量,从而能够在后续基于候选托盘图像进行托盘位姿检测时,提高检测准确度和检测速度。
如图8所示,给出一种候选托盘图像的构造示意图,该候选托盘图像由多个点云构成。
步骤506,对候选托盘图像进行平面拟合处理,得到对应的托盘平面图像和目标平面方程。
步骤507,在第二分辨率下,对托盘平面图像进行映射处理,得到托盘平面图像在投影平面上的第二投影图像,第二分辨率大于第一分辨率。
这里,对托盘平面图像进行映射处理的方式与步骤502中对初始托盘图像进行映射处理的方式相同,在此不再赘述。区别在于第二投影图像的分辨率为第二分辨率,第一投影图像的分辨率为第一分辨率,则第二投影图像的分辨率高于第一投影图像的分辨率,也即,第二投影图像中的点云数量远大于第一投影图像中的点云数量。
步骤508,根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率确定第二目标卷积核。
这里,对于第二目标卷积核的确定方式如步骤302中确定第一目标卷积核的方式相同,在此不再赘述。区别在于第二目标卷积核的尺寸大小是基于第二分辨率确定的,而第一目标卷积核的尺寸大小是基于第一分辨率确定的。
步骤509,根据第二目标卷积核对第二投影图像进行卷积处理,得到第二目标特征图。
在本申请实施例中,对于对第二投影图像进行卷积处理的具体方式不作限定。如在一些实施例中,由于在点云数据量较多的情况下,使用全局卷积会占用较多的计算资源,则此处可使用滑窗卷积的卷积方式对第二目标特征图进行卷积处理。所谓滑窗卷积,是指使用该第二目标卷积核,以一定的步长间隔对托盘平面图像进行卷积处理的。也就是说,并非是对托盘平面图像中的每一个点云均进行卷积处理的,而是对部分点云进行卷积处理,从而得到托盘的精准平面位姿的。
需注意,由于第二投影图像对应的分辨率为第二分辨率,而第二分辨率为较高的分辨率,则在卷积处理后,得到的第二目标特征图中包含托盘在XOY面上的精准位姿。
步骤510,根据目标平面方程,确定第二目标特征图中每一点云对应的深度信息。
在本申请实施例中,根据目标平面方程,确定第二目标特征图中每一点云对应的深度信息,可通过如下公式2来实现:
其中,z0为每一点云对应的深度信息,a为点云横轴坐标的系数,b为点云纵轴坐标的系数,c为点云竖轴坐标的系数,d为截距,x0为点云横坐标,y0为点云纵坐标。
步骤511,综合第二目标特征图中每一点云的二维坐标和各点云对应的深度信息,得到托盘的三维目标位姿。
在计算得到每一点云对应的深度信息z0后,即可综合第二目标特征图中包含的每一点云的横纵坐标,得到每一点云的三维坐标,从而得到托盘的三维目标位姿。
在本申请实施例中,通过对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像;在第一分辨率下,对初始托盘图像进行映射处理,得到初始托盘图像在投影平面上的第一投影图像;根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率确定第一目标卷积核;根据第一目标卷积核对第一投影图像进行卷积处理,得到第一目标特征图;根据预先确定的托盘的总表面积,从第一目标特征图中提取得到候选托盘图像;并对候选托盘图像进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;再根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率确定第二目标卷积核;并根据第二目标卷积核对第二投影图像进行卷积处理,得到第二目标特征图;最终根据目标平面方程,确定第二目标特征图中每一点云对应的深度信息,从而综合第二目标特征图中每一点云的二维坐标和各点云对应的深度信息,得到托盘的三维目标位姿。这样,能够有效降低在托盘位姿检测过程中的点云数据量,并利用更加贴合实际需求的卷积核对获取到的图像进行卷积处理,使得提取到的托盘特征更加精准,从而有效提升托盘位姿检测的准确度和速度。
下面将说明本申请实施例在一个实际的应用场景中的示例性应用。
图9为本申请实施例提供的托盘位姿检测方法的总体流程。如图9所示,该方法包括如下步骤901至步骤907:
步骤901,在无人叉车的叉臂根部间的中点处安装ToF相机(即检测设备),也可根据实际条件安装在其他位置或使用其他传感器。
步骤902,在ToF相机中设置配置文件,在配置文件中输入托盘信息,包括托盘脚墩的宽度、托盘脚墩的高度、两个托盘脚墩之间的距离、托盘高度和上下卡板高度。
步骤903,控制无人叉车行驶到检测点(ToF相机距托盘1.5~3.0m),对ToF相机下发初始位姿ideal_pose(即x,y,z,theta)。
步骤904,ToF相机根据下发的初始位姿ideal_pose和预设ROI阈值,对采集到的深度图像(即点云图像)进行ROI提取。
步骤905,在相机坐标系下,ToF相机对深度图像的ROI区域(即初始托盘图像)内的点云按照输入的低分辨率重新沿z方向做正交投影,得到新的低分辨率的投影图像(low_resolution_img)(即第一投影图像)。
步骤906,按步骤902中的托盘先验信息,分别生成高低分辨率下与托盘正面等比例的长方形卷积核kernel(该卷积核与投影图像分辨率相同)。
具体的,卷积运算中卷积核的权重分布代表了对墩孔区域和非墩孔区域的惩罚和增益,设托盘正面(相机坐标系下XOZ)面积为size_all、托盘正面墩孔面积为size_hole,采用的构造核型为等权卷积核,即将卷积核中对应托盘的孔区的权值设为-1/size_hole,其余区域(包含脚墩和上下卡板)的权值设为1/(size_all-size_hole)。
步骤907,一阶段低分辨率卷积:使用步骤906中的低分辨等权卷积核(即第一目标卷积核)对low_resolution_img图像进行卷积,得到的托盘在XOY面的粗位姿。
步骤908,依据XOY面粗位姿和先验的托盘大小信息,沿XOY面拓宽后取出候选的托盘点(即候选托盘图像)。
步骤909,采用RANSAC平面搜索算法,提取候选的托盘点中的托盘面点云,并计算平面方程(即目标平面方程),如上述实施例中的公式1所示。
步骤910,对托盘面数据点按照输入的高分辨率重新沿z方向做正交投影,得到新的高分辨率的投影图像(high_resolution_img)(即第二投影图像)。
步骤911,二阶段高分辨率卷积:由于高分辨率下全局卷积占用计算资源较多,因此使用步骤906中高分辨率等权卷积核(即第二目标卷积核),对high_resolution_img图像进行以粗位姿为中心的限定范围的滑窗卷积,得到XOY面精确的位姿(x0,y0)。
步骤912,结合精确位姿(x0,y0)和托盘面方程信息,根据上述实施例中的公式2计算物体在三维空间下的最终姿态(即目标位姿)。
应该理解的是,虽然上述各流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,上述各流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
基于前述的实施例,本申请实施例提供一种托盘位姿检测装置,该装置包括所包括的各模块、以及各模块所包括的各单元,可以通过处理器来实现;当然也可通过具体的逻辑电路实现;在实施的过程中,处理器可以为中央处理器(CPU)、微处理器(MPU)、数字信号处理器(DSP)或现场可编程门阵列(FPGA)等。
图10为本申请实施例提供的托盘位姿检测装置的结构示意图,如图10所示,所述装置1000包括提取模块1001、卷积模块1002、拟合模块1003和确定模块1004,其中:
提取模块1001,用于对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,目标区域为包含有托盘的区域,初始托盘图像为滤除点云图像中的背景区域后的图像;
卷积模块1002,用于根据预先确定的第一目标卷积核对初始托盘图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定;
拟合模块1003,用于对第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;
所述卷积模块1002,还用于根据预先确定的第二目标卷积核对托盘平面图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定,第二分辨率大于第一分辨率;
确定模块1004,用于根据第二目标特征图和目标平面方程,确定托盘的目标位姿。
在一些实施例中,所述卷积模块1002,具体用于在第一分辨率下,对初始托盘图像进行映射处理,得到初始托盘图像在投影平面上的第一投影图像;根据预先确定的第一目标卷积核对第一投影图像进行卷积处理,得到第一目标特征图,第一目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第一分辨率所确定。
在一些实施例中,所述拟合模块1003,具体用于根据预先确定的托盘的总表面积,从第一目标特征图中提取得到候选托盘图像;对候选托盘图像进行平面拟合处理,得到对应的托盘平面图像和目标平面方程。
在一些实施例中,所述卷积模块1002,具体还用于在第二分辨率下,对托盘平面图像进行映射处理,得到托盘平面图像在投影平面上的第二投影图像,第二分辨率大于第一分辨率;根据预先确定的第二目标卷积核对第二投影图像进行卷积处理,得到第二目标特征图,第二目标卷积核为根据预先确定的每一墩孔的表面积、托盘的总表面积和第二分辨率所确定。
在一些实施例中,所述确定模块1004,还用于根据目标分辨率,确定与目标分辨率对应的目标投影图像的目标卷积核的尺寸;确定多个墩孔的表面积之和为第一表面积,并确定托盘的总表面积与第一表面积之差为第二表面积;在目标卷积核的尺寸下,确定第一数值与第一表面积的比值为墩孔区域对应的目标卷积核内各点的权值,并确定第二数值与第二表面积的比值为托盘中除墩孔区域外的其他区域对应的目标卷积核内各点的权值。
在一些实施例中,所述确定模块1004,还用于在目标卷积核的尺寸下,确定第一数值与第一表面积的比值为所述墩孔区域对应的目标卷积核内各点的权值,并确定第二数值与第一表面积的比值为托盘中除墩孔区域外的其他区域对应的目标卷积核内各点的权值,第一数值与第二数值互为相反数;或确定各脚墩的墩面区域对应的目标卷积核内各点的权值符合二维高斯分布,且各墩孔区域对应的目标卷积核内各点的权值与托盘中除墩孔区域外的其他区域对应的目标卷积核内各点的权值互为相反数。
在一些实施例中,所述确定模块1004,具体用于根据目标平面方程,确定第二目标特征图中每一点云对应的深度信息;综合第二目标特征图中每一点云的二维坐标和各点云对应的深度信息,得到托盘的三维目标位姿。
以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请装置实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
需要说明的是,本申请实施例中图10所示的托盘位姿检测装置对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。也可以采用软件和硬件结合的形式实现。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述的方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得电子设备执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
本申请实施例提供一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图11所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种托盘位姿检测方法。
本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中提供的方法中的步骤。
本申请实施例提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述方法实施例提供的方法中的步骤。
本领域技术人员可以理解,图11中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,本申请提供的托盘位姿检测装置可以实现为一种计算机程序的形式,计算机程序可在如图11所示的计算机设备上运行。计算机设备的存储器中可存储组成该采样装置的各个程序模块,比如,图10所示的提取模块、卷积模块、拟合模块和确定模块。各个程序模块构成的计算机程序使得处理器执行本说明书中描述的本申请各个实施例的托盘位姿检测方法中的步骤。
这里需要指出的是:以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请存储介质、存储介质和设备实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”或“一些实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”或“在一些实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。上文对各个实施例的描述倾向于强调各个实施例之间的不同之处,其相同或相似之处可以互相参考,为了简洁,本文不再赘述。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如对象A和/或对象B,可以表示:单独存在对象A,同时存在对象A和对象B,单独存在对象B这三种情况。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者设备中还存在另外的相同要素。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个模块或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或模块的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的模块可以是、或也可以不是物理上分开的,作为模块显示的部件可以是、或也可以不是物理模块;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部模块来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能模块可以全部集成在一个处理单元中,也可以是各模块分别单独作为一个单元,也可以两个或两个以上模块集成在一个单元中;上述集成的模块既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本申请上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得电子设备执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
本申请所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
本申请所提供的几个产品实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的产品实施例。
本申请所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
以上所述,仅为本申请的实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种托盘位姿检测方法,其特征在于,所述托盘包括多个托盘脚墩,相邻托盘脚墩之间存在墩孔,所述方法包括:
对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,所述目标区域为包含有托盘的区域,所述初始托盘图像为滤除所述点云图像中的背景区域后的图像;
根据预先确定的第一目标卷积核对所述初始托盘图像进行卷积处理,得到第一目标特征图,所述第一目标卷积核为根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和第一分辨率所确定;
对所述第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;
根据预先确定的第二目标卷积核对所述托盘平面图像进行卷积处理,得到第二目标特征图,所述第二目标卷积核为根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和第二分辨率所确定,所述第二分辨率大于所述第一分辨率;
根据所述第二目标特征图和所述目标平面方程,确定所述托盘的目标位姿。
2.根据权利要求1所述的方法,其特征在于,所述根据预先确定的第一目标卷积核对所述初始托盘图像进行卷积处理,得到第一目标特征图,包括:
在所述第一分辨率下,对所述初始托盘图像进行映射处理,得到所述初始托盘图像在投影平面上的第一投影图像;
根据预先确定的第一目标卷积核对所述第一投影图像进行卷积处理,得到第一目标特征图,所述第一目标卷积核为根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和所述第一分辨率所确定。
3.根据权利要求1所述的方法,其特征在于,所述对所述第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程,包括:
根据预先确定的所述托盘的总表面积,从所述第一目标特征图中提取得到候选托盘图像;
对所述候选托盘图像进行平面拟合处理,得到对应的所述托盘平面图像和所述目标平面方程。
4.根据权利要求1所述的方法,其特征在于,所述根据预先确定的第二目标卷积核对所述托盘平面图像进行卷积处理,得到第二目标特征图,包括:
在所述第二分辨率下,对所述托盘平面图像进行映射处理,得到所述托盘平面图像在所述投影平面上的第二投影图像,所述第二分辨率大于所述第一分辨率;
根据预先确定的第二目标卷积核对所述第二投影图像进行卷积处理,得到第二目标特征图,所述第二目标卷积核为根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和所述第二分辨率所确定。
5.根据权利要求1至4任一项所述的方法,其特征在于,目标分辨率包括第一分辨率和第二分辨率,目标投影图像包括第一投影图像和第二投影图像,根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和目标分辨率确定对应的目标卷积核,包括:
根据所述目标分辨率,确定与所述目标分辨率对应的目标投影图像的目标卷积核的尺寸;
确定多个所述墩孔的表面积之和为第一表面积,并确定所述托盘的总表面积与所述第一表面积之差为第二表面积;
在所述目标卷积核的尺寸下,确定所述第一数值与所述第一表面积的比值为墩孔区域对应的目标卷积核内各点的权值,并确定所述第二数值与所述第二表面积的比值为所述托盘中除所述墩孔区域外的其他区域对应的目标卷积核内各点的权值。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
在所述目标卷积核的尺寸下,确定第一数值与所述第一表面积的比值为所述墩孔区域对应的目标卷积核内各点的权值,并确定第二数值与所述第一表面积的比值为所述托盘中除所述墩孔区域外的其他区域对应的目标卷积核内各点的权值,所述第一数值与所述第二数值互为相反数;或
确定各脚墩的墩面区域对应的目标卷积核内各点的权值符合二维高斯分布,且各所述墩孔区域对应的目标卷积核内各点的权值与所述托盘中除所述墩孔区域外的其他区域对应的目标卷积核内各点的权值互为相反数。
7.根据权利要求1所述的方法,其特征在于,所述根据所述第二目标特征图和所述目标平面方程,确定所述托盘的目标位姿,包括:
根据所述目标平面方程,确定所述第二目标特征图中每一点云对应的深度信息;
综合所述第二目标特征图中每一点云的二维坐标和各点云对应的深度信息,得到所述托盘的三维目标位姿。
8.一种托盘位姿检测装置,其特征在于,包括:
提取模块,用于对获取到的目标区域的点云图像进行区域提取,得到初始托盘图像,所述目标区域为包含有托盘的区域,所述初始托盘图像为滤除所述点云图像中的背景区域后的图像;
卷积模块,用于根据预先确定的第一目标卷积核对所述初始托盘图像进行卷积处理,得到第一目标特征图,所述第一目标卷积核为根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和第一分辨率所确定;
拟合模块,用于对所述第一目标特征图进行平面拟合处理,得到对应的托盘平面图像和目标平面方程;
所述卷积模块,还用于根据预先确定的第二目标卷积核对所述托盘平面图像进行卷积处理,得到第二目标特征图,所述第二目标卷积核为根据预先确定的每一所述墩孔的表面积、所述托盘的总表面积和第二分辨率所确定,所述第二分辨率大于所述第一分辨率;
确定模块,用于根据所述第二目标特征图和所述目标平面方程,确定所述托盘的目标位姿。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310126445.3A CN116188577A (zh) | 2023-02-08 | 2023-02-08 | 托盘位姿检测方法及装置、设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310126445.3A CN116188577A (zh) | 2023-02-08 | 2023-02-08 | 托盘位姿检测方法及装置、设备、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116188577A true CN116188577A (zh) | 2023-05-30 |
Family
ID=86445788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310126445.3A Pending CN116188577A (zh) | 2023-02-08 | 2023-02-08 | 托盘位姿检测方法及装置、设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116188577A (zh) |
-
2023
- 2023-02-08 CN CN202310126445.3A patent/CN116188577A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110879994A (zh) | 基于形状注意力机制的三维目测检测方法、系统、装置 | |
CN114820465B (zh) | 点云检测模型训练方法、装置、电子设备及存储介质 | |
Quadros et al. | An occlusion-aware feature for range images | |
CN113253737B (zh) | 货架检测方法及装置、电子设备、存储介质 | |
CN115018895A (zh) | 无人叉车高位货架放货方法、装置、设备及存储介质 | |
CN113111513B (zh) | 传感器配置方案确定方法、装置、计算机设备及存储介质 | |
CN116128841A (zh) | 托盘位姿检测方法及装置、无人叉车、存储介质 | |
CN115546202B (zh) | 一种用于无人叉车的托盘检测与定位方法 | |
CN111553946A (zh) | 用于去除地面点云的方法及装置、障碍物检测方法及装置 | |
CN115546300A (zh) | 紧密摆放的托盘位姿识别方法和装置、计算机设备、介质 | |
CN114179788A (zh) | 自动泊车方法、系统、计算机可读存储介质及车机端 | |
CN116071547A (zh) | 托盘位姿检测方法及装置、设备、存储介质 | |
CN111273701A (zh) | 一种云台视觉控制系统以及控制方法 | |
CN111369611A (zh) | 图像像素深度值优化方法及其装置、设备和存储介质 | |
CN112150522A (zh) | 遥感图像的配准方法、装置、设备、存储介质及系统 | |
CN116188577A (zh) | 托盘位姿检测方法及装置、设备、存储介质 | |
CN113589263A (zh) | 一种多个同源传感器联合标定方法及系统 | |
CN116342695B (zh) | 无人叉车放货检测方法及装置、无人叉车、存储介质 | |
Douillard et al. | Fft-based terrain segmentation for underwater mapping | |
CN116342858B (zh) | 物体检测方法、装置、电子设备及存储介质 | |
CN110857859A (zh) | 障碍物检测方法及装置 | |
CN117359608A (zh) | 机器人运动控制法以及装置 | |
CN115953374A (zh) | 地面滤除及障碍物检测方法、装置、电子设备和存储介质 | |
CN117953041A (zh) | 一种基于深度相机的最小矩形包确定装置 | |
CN117854031A (zh) | 一种斑马线检测方法及装置、相关产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |