CN110852279A - 托盘识别和定位方法、设备及计算机可读存储介质 - Google Patents
托盘识别和定位方法、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN110852279A CN110852279A CN201911104810.0A CN201911104810A CN110852279A CN 110852279 A CN110852279 A CN 110852279A CN 201911104810 A CN201911104810 A CN 201911104810A CN 110852279 A CN110852279 A CN 110852279A
- Authority
- CN
- China
- Prior art keywords
- tray
- imaging
- distance
- projection
- parameters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明公开了一种托盘识别和定位方法、设备及计算机可读存储介质,所述方法包括:基于车辆上所安装的摄像装置获取成像图像,并获取所述成像图像中的投影面积;根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘;根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位。本发明托盘的识别不受应用环境的限制,且获取投影面积的方式简单,可快速实时处理图像;在识别托盘的基础上,基于托盘在成像图像中的成像参数来确定托盘与车辆之间的位置关系,简化了托盘定位的难度,提高了所确定位置关系的准确性,有利于基于位置关系来实现自动化的精准运输。
Description
技术领域
本发明涉及智能驾驶技术领域,尤其涉及一种托盘识别和定位方法、设备及计算机可读存储介质。
背景技术
随着智能技术的发展,自动化物流和仓储系统是未来的发展趋势;作为运输装置的智能叉车也在其中起到了重要的作用。智能叉车除了需要自主导航外,还需要动态识别安放货物的托盘,同时确定托盘的姿态和位置,以精准完成自动搬运任务。
目前托盘的识别没有非常通用和成熟的技术,一方面通过给托盘添加人工标签来进行识别,但是该方法需要对托盘做改造,人工成本高;另一方面通过单目、双目或深度摄像头基于图像识别托盘,但该方法受到了应用环境的限制(例如受光线的影响大),并且由于程序运算量大而无法得出实时处理图像的效果。在托盘识别技术不成熟的同时,也增加了托盘定位的难度,不能准确进行托盘定位,不利于自动化的精准运输。
发明内容
本发明的主要目的在于提供一种托盘识别和定位方法、设备及计算机可读存储介质,旨在解决现有中托盘识别技术不成熟,不能准确定位托盘的技术问题。
为实现上述目的,本发明提供一种托盘识别和定位方法,所述托盘识别和定位方法包括步骤:
基于车辆上所安装的摄像装置获取成像图像,并获取所述成像图像中的投影面积;
根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘;
根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位。
优选地,所述根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
读取所述摄像装置的安装参数,其中,所述安装参数包括安装角度、垂直视场角度、水平视场角度、有效像素行数和有效像素列数;
检测所述托盘的投影面距离和所述托盘中第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数;
根据所述安装角度、垂直视场角度、水平视场角度、有效像素行数、投影面距离和第二元素的成像参数,确定中间坐标值;
根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素行数、有效像素列数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数。
优选地,所述根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素列数、有效像素行数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
将所述有效像素列数、有效像素行数以及中间坐标值分别和所述第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数进行计算,生成所述第一元素的坐标值,第二元素的坐标值以及第三元素的坐标值;
根据所述第一元素的坐标值和所述第三元素的坐标值,生成所述托盘与所述摄像装置之间的偏差角度;
根据所述第二元素的坐标值,确定所述托盘与所述摄像装置之间的偏移距离和安装距离,并将所述偏差角度、偏移距离和安装距离确定为所述定位参数。
优选地,所述确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位的步骤之后包括:
根据所述偏差角度、偏移距离和安装距离,对所述车辆的姿态进行调整,以基于所述车辆对所述托盘进行搬运。
优选地,所述根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘的步骤包括:
判断所述投影面积是否在预设面积范围内,若在所述预设面积范围内,则识别所述成像图像中的投影元素;
获取所述投影元素的元素信息,并根据所述元素信息,识别所述成像图像中的托盘,其中所述元素信息包括元素数量、元素距离和元素高度。
优选地,所述根据所述元素信息,识别所述成像图像中的托盘的步骤包括:
逐一判断所述元素数量与预设数量是否匹配,所述元素距离与预设距离是否匹配,以及所述元素高度与预设高度是否匹配;
若所述元素数量与预设数量匹配,所述元素距离与预设距离匹配,且所述元素高度与预设高度匹配,则将与所述投影面积对应的物体识别为托盘。
优选地,所述获取所述成像图像中的投影面积的步骤包括:
识别所述成像图像中的待识别物,并对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度;
读取所述待识别物在第二预设方向上的成像距离,并根据所述投影高度和所述成像距离,生成所述成像图像中的投影面积。
优选地,所述对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度的步骤包括:
读取所述摄像装置的安装高度、安装角度、视场角度和有效像素行数,并检测所述摄像装置与所述待识别物之间的测量深度值,以及所述待识别物的所在像素行数;
根据所述安装角度、视场角度、有效像素行数和所在像素行数,确定与所述待识别物对应的像素所在行的偏角;
根据所述测量深度值和所述像素所在行的偏角,确定所述待识别物在第一预设方向上的投影中间值;
根据所述安装高度和所述投影中间值,生成所述待识别物的投影高度。
此外,为实现上述目的,本发明还提供一种托盘识别和定位设备,所述托盘识别和定位设备包括存储器、处理器和存储在所述存储器上并可在所述处理器上运行的托盘识别和定位程序,所述托盘识别和定位程序被所述处理器执行时实现如上所述的托盘识别和定位方法的步骤。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有托盘识别和定位程序,所述托盘识别和定位程序被处理器执行时实现如上所述的托盘识别和定位方法的步骤。
本发明先通过车体上安装的摄像装置获取成像图像,再从成像图像中获取到投影面积,依据投影面积和成像图像中的投影元素,来识别成像图像的托盘。因采用的摄像装置不受环境光影响,全黑环境中可以使用,使得托盘的识别不受应用环境的限制,且获取投影面积的方式简单,可快速实时处理图像。进而依据摄像装置的安装参数和托盘的成像参数,来确定托盘和摄像装置之间的定位参数,以此实现托盘的定位。因摄像装置安装在车辆上,托盘的定位其实质为确定托盘与车辆之间的位置关系。在识别托盘的基础上,基于托盘在成像图像中的成像参数来确定托盘与车辆之间的位置关系,简化了托盘定位的难度,提高了所确定位置关系的准确性,有利于基于位置关系来实现自动化的精准运输。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的结构示意图;
图2是本发明托盘识别和定位方法第一实施例的流程示意图;
图3是本发明托盘识别和定位方法第二实施例的流程示意图;
图4是本发明托盘识别和定位方法第三实施例的流程示意图;
图5是本发明托盘识别和定位方法中成像图像的投影元素示意图;
图6是本发明托盘识别和定位方法中托盘与摄像装置之间的定位示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,图1是本发明实施例方案涉及的硬件运行环境的结构示意图。
如图1所示,该托盘识别和定位设备可以包括:处理器1001,例如CPU,用户接口1003,网络接口1004,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的托盘识别和定位设备结构并不构成对托盘识别和定位设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及托盘识别和定位程序。其中,操作系统是管理和控制托盘识别和定位设备硬件和软件资源的程序,支持托盘识别和定位程序以及其它软件或程序的运行。
在图1所示的托盘识别和定位设备中,用户接口1003主要用于连接客户端(用户端),与客户端进行数据通信;网络接口1004主要用于连接后台服务器,与后台服务器进行数据通信;而处理器1001可以用于调用存储器1005中存储的托盘识别和定位程序,并执行以下操作:
基于车辆上所安装的摄像装置获取成像图像,并获取所述成像图像中的投影面积;
根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘;
根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位。
进一步地,所述根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
读取所述摄像装置的安装参数,其中,所述安装参数包括安装角度、垂直视场角度、水平视场角度、有效像素行数和有效像素列数;
检测所述托盘的投影面距离和所述托盘中第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数;
根据所述安装角度、垂直视场角度、水平视场角度、有效像素行数、投影面距离和第二元素的成像参数,确定中间坐标值;
根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素行数、有效像素列数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数。
进一步地,所述根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素列数、有效像素行数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
将所述有效像素列数、有效像素行数以及中间坐标值分别和所述第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数进行计算,生成所述第一元素的坐标值,第二元素的坐标值以及第三元素的坐标值;
根据所述第一元素的坐标值和所述第三元素的坐标值,生成所述托盘与所述摄像装置之间的偏差角度;
根据所述第二元素的坐标值,确定所述托盘与所述摄像装置之间的偏移距离和安装距离,并将所述偏差角度、偏移距离和安装距离确定为所述定位参数。
进一步地,所述确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位的步骤之后,处理器1001可以用于调用存储器1005中存储的托盘识别和定位程序,并执行以下操作:
根据所述偏差角度、偏移距离和安装距离,对所述车辆的姿态进行调整,以基于所述车辆对所述托盘进行搬运。
进一步地,所述根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘的步骤包括:
判断所述投影面积是否在预设面积范围内,若在所述预设面积范围内,则识别所述成像图像中的投影元素;
获取所述投影元素的元素信息,并根据所述元素信息,识别所述成像图像中的托盘,其中所述元素信息包括元素数量、元素距离和元素高度。
进一步地,所述根据所述元素信息,识别所述成像图像中的托盘的步骤包括:
逐一判断所述元素数量与预设数量是否匹配,所述元素距离与预设距离是否匹配,以及所述元素高度与预设高度是否匹配;
若所述元素数量与预设数量匹配,所述元素距离与预设距离匹配,且所述元素高度与预设高度匹配,则将与所述投影面积对应的物体识别为托盘。
进一步地,所述获取所述成像图像中的投影面积的步骤包括:
识别所述成像图像中的待识别物,并对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度;
读取所述待识别物在第二预设方向上的成像距离,并根据所述投影高度和所述成像距离,生成所述成像图像中的投影面积。
进一步地,所述对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度的步骤包括:
读取所述摄像装置的安装高度、安装角度、视场角度和有效像素行数,并检测所述摄像装置与所述待识别物之间的测量深度值,以及所述待识别物的所在像素行数;
根据所述安装角度、视场角度、有效像素行数和所在像素行数,确定与所述待识别物对应的像素所在行的偏角;
根据所述测量深度值和所述像素所在行的偏角,确定所述待识别物在第一预设方向上的投影中间值;
根据所述安装高度和所述投影中间值,生成所述待识别物的投影高度。
基于上述的结构,提出托盘识别和定位方法的各个实施例。
参照图2,图2为本发明托盘识别和定位方法第一实施例的流程示意图。
本发明实施例提供了托盘识别和定位方法的实施例,需要说明的是,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
具体地,托盘识别和定位方法包括:
步骤S10,基于车辆上所安装的摄像装置获取成像图像,并获取所述成像图像中的投影面积;
本实施例的托盘识别和定位方法应用于自动化物流和仓储系统的智能自动驾驶过程中,对仓储系统中用于安放货物的托盘进行识别和定位,以确保车辆准确完成自动搬运任务;其中,用于实现自动驾驶的AGV(Automated Guided Vehicle,自动引导运输车)小车的车辆上安装有摄像装置,该摄像装置优选为立体相机;AGV小车在行驶过程中,立体相机实时对行驶方向的前方进行拍摄成像,生成行驶前方的成像图像。
同时,本实施例预先建立有三维空间坐标系,该三维空间坐标系以立体相机所在位置作为坐标原点,以车辆所在平面为XY平面,以与XY平面垂直的上部空间为Y轴正方向所在空间;其中对于XY平面,车辆行驶正前方为Y轴方向,车辆右侧与Y轴方向垂直的方向为X轴方向。
在获取到成像图像之后,将前方地面上诸如污点之类的物质在成像图像中所形成的干扰数据进行去除,并识别其中可能是托盘的物体,可能是托盘的物体包括未放置货物的空托盘和放置有货物的托盘两种类型。此后,将三维空间坐标系中X轴和Z轴所形成的平面作为投影平面,将可能是托盘的物体进行截取,截取地面以上一定高度(如5cm)的部分投影到该投影平面中,得到托盘横截面的投影,计算投影的面积,以此得到成像图像中的投影面积。
步骤S20,根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘;
可理解地,车辆行驶路径中可能存在各种类型的障碍物,障碍物通过立体相机的成像,也会在呈现在成像图像中,并经过投影生成投影面积。但是相对于托盘的规则形状,障碍物的形状多种多样,使得障碍物所生成投影面积与托盘所生成投影面积具有较大的差异性,可以设定预设面积来对两者进行区分。考虑到某些障碍物的面积较大,使得通过预设面积也难以区分,需要在预设面积的基础上结合托盘的特征进行区分。本实施例将托盘底部的三个支撑柱做为托盘的特征和障碍物进行区分,将托盘的支撑柱在成像图像中的成像作为成像图像的投影元素;通过投影面积和投影元素的结合,来识别成像图像中的托盘。具体地,根据投影面积和成像图像中的投影元素,识别成像图像中的托盘的步骤包括:
步骤S21,判断所述投影面积是否在预设面积范围内,若在所述预设面积范围内,则识别所述成像图像中的投影元素;
步骤S22,获取所述投影元素的元素信息,并根据所述元素信息,识别所述成像图像中的托盘,其中所述元素信息包括元素数量、元素距离和元素高度。
考虑到托盘的尺寸一致,摄像装置在安装到车辆上之后,其成像角度不变,使得拍摄托盘的成像尺寸基本一致,即托盘在X轴和Z轴所形成投影平面上的投影面积基本一致。据此,预先设置预设面积范围,将获取的投影图像中的投影面积和该预设面积范围对比,判断投影面积是否在预设面积范围内;若在预设面积范围内,则对成像图像中的投影元素进行识别;若不在预设面积范围内,则将投影面积对应的物体识别为障碍物剔除。
进一步地,在对成像图像中投影元素识别过程中,先按照设定的高度范围对投影面积的底部进行截取,得到底部截图;再对底部截图进行腐蚀、高斯滤波、面积计算、距离计算等处理,得到投影元素的元素信息。若成像图像中不具有投影元素则经腐蚀和高斯滤波之后,所计算的面积以及距离为0,此时判定成像图像中不具有投影元素,将投影面积对应的物体识别为障碍物进行剔除操作。若所计算的面积以及距离不为0,则判定成像图像中具有投影元素,依据计算的面积和距离生成投影元素的元素信息。所生成的元素信息包含元素数量、元素距离和元素高度,分别表征支撑柱的数量、相邻支撑柱之间的距离和各支撑柱的高度。通过判断投影元素中所包含的元素数量、元素间距离和元素高度是否满足托盘中支撑柱的要求,来识别成像图像中的托盘。请参照图5,图5中标号1.1为摄像装置的垂直视场角度;标号1.3为摄像装置的安装位置;标号1.4为车体;标号1.5为托盘货物;标号1.6为摄像装置的安装高度;标号2.1-2.2为摄像装置的最高和最低检测边缘;标号3.1-3.2为检测的高度范围;标号4.1-4.3为识别后的投影元素。其中,摄像装置的最高和最低检测边缘通过预先调整摄像装置的安装角度设定,高度范围为依据托盘支撑柱的高度设定。
具体地,根据所述元素信息,识别所述成像图像中的托盘的步骤包括:
步骤S221,逐一判断所述元素数量与预设数量是否匹配,所述元素距离与预设距离是否匹配,以及所述元素高度与预设高度是否匹配;
步骤S222,若所述元素数量与预设数量匹配,所述元素距离与预设距离匹配,且所述元素高度与预设高度匹配,则将与所述投影面积对应的物体识别为托盘。
更进一步地,根据实际使用的托盘所具有的支撑柱数量、相邻支撑柱之间的距离和支撑柱高度,预先设定预设数量,预设距离和预设高度。逐一判断元素信息中的元素数量与预设数量是否一致,元素信息中的元素距离与预设距离是否一致,以及元素信息中的元素高度与预设高度是否一致;若元素数量与预设数量一致,元素距离与预设距离一致,且元素高度与预设高度一致;则说明投影元素的元素数量、元素距离和元素高度均符合各自的要求,从而可判定成像图像中与投影面积对应的物品为托盘。若元素数量、元素距离和元素高度中存在任意一项与其自身要求不一致,则判定投影面积对应的物品或者托盘放置错误。如元素数量与预设数量不一致,则说明投影面积对应的物品不具有三个支撑柱,判定不是托盘;或者虽然元素数量与预设数量一致,但是元素距离与预设距离不一致,说明投影面积对应的物品不是托盘或者两个托盘放置位置错误,导致支撑脚连在一起,此时也不将其识别为托盘进行处理。
步骤S30,根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位。
进一步地,在识别出成像图像中的托盘之后,读取摄像装置的安装参数;安装参数包含摄像装置的安装角度、垂直视场角度、水平视场角度、有效像素行数和有效像素列数等;其中有效像素行数为立体相机在Y轴方向的成像最大像素值,有效像素列数为立体相机在X轴方向的成像最大像素值。同时检测托盘在成像图像中的成像参数,该成像参数为托盘中三个支撑柱的成像参数,包括各支撑柱所在像素行数、所在像素列数和深度值等。通过安装参数和成像参数来确定托盘与摄像之间的定位参数,定位参数包括托盘中心线与摄像装置中心线之间的偏差角度、偏移距离和安装距离,以表征托盘与摄像装置之间的相对位置,对托盘进行定位。请参照图6,图6中,标号1.1为摄像装置的垂直视场角度;标号1.2为摄像装置的水平视场角度;标号1.3为摄像装置的安装位置;标号1.4为车辆;标号1.5为货物和托盘;标号1.6为摄像装置的安装高度;标号2.3为托盘与摄像装置安装平面的安装距离;标号2.4为托盘中心与摄像装置中心的偏移距离;标号2.5为托盘中心与摄像装置中心的偏差角度。
因摄像装置安装在车辆上,托盘的定位实质表征了托盘与车辆之间的相对位置;在对托盘定位之后,依据偏差角度、偏移距离和安装距离所表征托盘与车辆之间的位置差异,对车辆的姿态进行调整。其中调整可通过车辆本身的控制中心进行,也可通过与车辆通信连接的上位机进行;当由车辆的控制中心进行调整时,控制中心依据偏差角度、偏移距离和安装距离控制车辆旋转,前进或后退,以将车辆的中心线调整为与托盘的中心线重合;当由上位机进行调整时,将偏差角度、偏移距离和安装距离发送到上位机,由上位机根据偏差角度、偏移距离和安装距离来控制车辆旋转,前进或后退,以将车辆的中心线调整为与托盘的中心线重合。通过调整使得车辆的运输部件(如叉车的货叉部)对准托盘的插孔,此后,控制中心或者上位机依据托盘的类型,即托盘是否放置有货物,来控制对托盘进行搬运。
本实施例先通过车体上安装的摄像装置获取成像图像,再从成像图像中获取到投影面积,依据投影面积和成像图像中的投影元素,来识别成像图像的托盘。因采用的摄像装置不受环境光影响,全黑环境中可以使用,使得托盘的识别不受应用环境的限制,且获取投影面积的方式简单,可快速实时处理图像。进而依据摄像装置的安装参数和托盘的成像参数,来确定托盘和摄像装置之间的定位参数,以此实现托盘的定位。因摄像装置安装在车辆上,托盘的定位其实质为确定托盘与车辆之间的位置关系。在识别托盘的基础上,基于托盘在成像图像中的成像参数来确定托盘与车辆之间的位置关系,简化了托盘定位的难度,提高了所确定位置关系的准确性,有利于基于位置关系来实现自动化的精准运输。
进一步地,提出本发明托盘识别和定位方法第二实施例。
参照图3,图3为本发明托盘识别和定位方法第二实施例的流程示意图。
所述托盘识别和定位方法第二实施例与所述托盘识别和定位方法第一实施例的区别在于,所述获取所述成像图像中的投影面积的步骤包括:
步骤S11,识别所述成像图像中的待识别物,并对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度;
步骤S12,读取所述待识别物在第二预设方向上的成像距离,并根据所述投影高度和所述成像距离,生成所述成像图像中的投影面积。
本实施例将三维空间坐标系中的Z轴设为第一预设方向,并将其中的X轴设为第二预设方向。将成像图像中识别的可能是托盘的物体设为待识别物,并对待识别物进行第一预设方向上的投影,生成待识别物在Z轴上的投影高度。此后,对待识别物在第二预设方向上的成像距离进行读取,即读取待识别物在X轴上的成像距离。对投影高度和成像距离进行相乘,得到成像图像中的投影面积。
需要说明的是,投影面积其实质为托盘横截面积在X轴和Z轴所形成平面上投影的面积,未放置于货物的空托盘和放置有货物的托盘在本身的横截面积上相等;只是在成像的过程中,摄像装置相对于托盘侧面进行成像,使得托盘侧面部分也会成像;而放置有货物的托盘侧面高度明显高于未放置有货物的托盘侧面高度,使得放置有货物的托盘成像面积大于未放置有货物的托盘成像面积;相应地,放置有货物的托盘的投影面积也大于未放置有货物的托盘的投影成像面积。
具体地,所述对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度的步骤包括:
步骤S121,读取所述摄像装置的安装高度、安装角度、视场角度和有效像素行数,并检测所述摄像装置与所述待识别物之间的测量深度值,以及所述待识别物的所在像素行数;
步骤S122,根据所述安装角度、视场角度、有效像素行数和所在像素行数,确定与所述待识别物对应的像素所在行的偏角;
步骤S123,根据所述测量深度值和所述像素所在行的偏角,确定所述待识别物在第一预设方向上的投影中间值;
步骤S124,根据所述安装高度和所述投影中间值,生成所述待识别物的投影高度。
进一步地,为了获取待识别物在第一预设方向上的投影高度,对摄像装置的安装参数进行读取。读取的安装参数包括安装高度H、安装角度θ、视场角度ω和有效像素行数L。同时,检测待识别物到摄像装置之间的测量深度值D',以及待识别物的所在像素行数n';再将安装角度θ、视场角度ω、所在像素行数n'和有效像素行数L传输到公式(1)中,通过公式(1)计算,得到与待识别物对应的像素所在行的偏角α';其中公式(1)为:
α'=θ-(ω/2)+(ω*n'/L) (1);
在通过公式(1)计算得到与待识别物对应的像素所在行的偏角α'之后,将偏角α'和测量深度值D'传输到公式(2)中,通过公式(2)计算,得到Z轴方向上的投影中间值hc;其中公式(2)为:
hc=D'*Sin(α') (2);
此后,在安装高度H和投影中间值hc之间做差值,所得到的差值结果即为待识别物的投影高度hz。
本实施例通过计算待识别物在Z轴方向上的投影高度,并由投影高度和成像距离来生成投影面积;通过投影面积的大小来待识别物是否为托盘;以此对投影面积过大或过小的待识别物进行剔除,确保了托盘识别的准确性。
进一步地,提出本发明托盘识别和定位方法第三实施例。
参照图4,图4为本发明托盘识别和定位方法第三实施例的流程示意图。
所述托盘识别和定位方法第三实施例与所述托盘识别和定位方法第一或第二实施例的区别在于,所述根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
步骤S31,读取所述摄像装置的安装参数,其中,所述安装参数包括安装角度、垂直视场角度、水平视场角度、有效像素行数和有效像素列数;
步骤S32,检测所述托盘的投影面距离和所述托盘中第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数;
步骤S33,根据所述安装角度、垂直视场角度、水平视场角度、有效像素行数、投影面距离和第二元素的成像参数,确定中间坐标值;
步骤S34,根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素行数、有效像素列数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数。
更进一步地,本实施例结合摄像装置的安装参数和托盘的成像参数,来确定托盘与摄像装置之间的定位参数。对摄像装置的安装参数进行读取,安装参数包括安装角度θ、垂直视场角度ωz、水平视场角度ωh、有效像素行数L和有效像素列数C,以通过该类安装参数结合检测托盘的成像参数来对托盘进行定位。将托盘中的支撑柱分别作为托盘的第一元素、第二元素和第三元素;检测第一元素的所在像素行数n1和所在像素列数m1、第二元素的所在像素行数n2和所在像素列数m2,以及第三元素的所在像素行数n3和所在像素列数m3,形成各自的成像参数(n1,m1)、(n2,m2)和(n3,m3),同时检测第二元素的深度值d2作为托盘的投影面距离;将该检测得到的托盘投影面距离d2,以及第一元素、第二元素和第三元素的成像参数(n1,m1)、(n2,m2)和(n3,m3)一并作为托盘的成像参数。
进一步地,对安装角度θ、垂直视场角度ωz、第二元素的成像参数中的所在像素行数n2和有效像素行数L,通过公式(3)进行计算,得到第二元素所在行的偏角α2;其中公式(3)为:
α2=θ-(ωz/2)+(ωz*n2/L) (3);
在通过公式(3)计算得到第二元素所在行的偏角α2之后,将偏角α2和投影面距离d2传输到公式(4)中,通过公式(4)计算,得到托盘截面投影距离Hz;其中公式(4)为:
Hz=d2*Cos(α2) (4)。
进一步地,依据托盘截面投影距离Hz,对摄像装置成像的最远投影点的绝对值坐标(|Xmax|,|Ymax|)和最近投影点的绝对值坐标(|Xmin|,|Ymin|)进行计算。具体地,将水平视场角度ωh、托盘截面投影距离Hz、安装角度θ、垂直视场角度ωz传输到公式(5)中,通过公式(5)的计算,得到最远投影点的绝对值坐标中|Xmax|数值;将托盘截面投影距离Hz、安装角度θ、垂直视场角度ωz传输到公式(6)中,通过公式(6)的计算,得到最远投影点的绝对值坐标中|Ymax|数值;同时,将水平视场角度ωh、托盘截面投影距离Hz、安装角度θ、垂直视场角度ωz传输到公式(7)中,通过公式(7)的计算,得到最近投影的绝对值坐标中|Xmin|数值;将托盘截面投影距离Hz、安装角度θ、垂直视场角度ωz传输到公式(8)中,通过公式(8)的计算,得到最近投影的绝对值坐标中|Ymin|数值。其中公式(5)、(6)、(7)、(8)分别为:
|Xmax|=Tan(0.5*ωh)*Hz/Cos(θ-0.5*ωz) (5);
|Ymax|=Hz/Tan(θ-0.5*ωz) (6);
|Xmin|=Tan(0.5*ωh)*Hz/Cos(θ+0.5*ωz) (7);
|Ymin|=Hz/Tan(θ+0.5*ωz) (8)。
将该计算得到的(|Xmax|,|Ymax|)和(|Xmin|,|Ymin|)作为中间坐标值,以通过中间坐标值结合摄像装置的有效像素,以及第一元素、第二元素和第三元素各自的成像参数,来对托盘进行定位。具体地,根据第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素列数、有效像素行数和中间坐标值,确定托盘与摄像装置之间的定位参数的步骤包括:
步骤S341,将所述有效像素列数、有效像素行数以及中间坐标值分别和所述第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数进行计算,生成所述第一元素的坐标值,第二元素的坐标值以及第三元素的坐标值;
步骤S342,根据所述第一元素的坐标值和所述第三元素的坐标值,生成所述托盘与所述摄像装置之间的偏差角度;
步骤S343,根据所述第二元素的坐标值,确定所述托盘与所述摄像装置之间的偏移距离和安装距离,并将所述偏差角度、偏移距离和安装距离确定为所述定位参数。
更进一步地,对托盘与摄像转置之间的偏差角度、偏移距离和安装距离进行计算,以通过偏差角度、便宜距离和安装距离来对托盘进行定位。具体地,预先依据有效像素行列、有效像素列数和中间坐标值设定公式(9)和公式(10),将第一元素、第二元素和第三元素的成像参数(n1,m1)、(n2,m2)和(n3,m3)分别传输到公式(9)和公式(10)中,通过公式(9)和公式(10)的计算,得到第一元素、第二元素和第三元素的坐标值(XA,YA)、(XB,YB)和(XC,YC)。其中,公式(9)和(10)分别为:
X=m-0.5C+m/C*(|Xmax|-|Xmin|)+|Xmin| (9);
Y=n/L*(|Ymax|-|Ymin|)+|Ymin| (10)。
需要说明的是,公式(9)中的m和公式(10)中的n为变量,在成像参数替换后,计算得到的X和Y的数值,即为坐标值。
进一步地,预先设定有公式(11),将第一元素的坐标值(XA,YA)和第三元素的坐标值(XC,YC)传输到公式(11)中,得到第一元素和第二元素之间所形成直线的斜率k;由斜率k来通过公式(12)来计算得到托盘与摄像装置之间的角度偏差α。其中,公式(11)和公式(12)分别为:
k=(YA-YC)/(XA-XC) (11);
α=tan-1k (12)。
此外,对第二元素中坐标值的XB值进行绝对值处理,得到托盘与摄像装置之间的偏移距离D;同时对第二元素中坐标值的YB值进行绝对值处理,得到托盘与摄像装置之间的安装距离L。以此,将经计算得到的角度偏差α、偏移距离D和安装距离L作为托盘与摄像装置之间的定位参数。通过定位参数来表征的托盘与摄像装置之间的相对位置,对托盘进行定位,进而由车辆对托盘进行搬运。
本实施例通过角度偏差、偏移距离和安装距离来表征托盘与摄像装置之间的相对位置,实现托盘的定位;以此,确定托盘与摄像装置之间的位置关系,提高了所确定位置关系的准确性,有利于车辆对托盘的准确高效搬运,实现了自动化的精准运输。
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有托盘识别和定位程序,所述托盘识别和定位程序被处理器执行时实现如上所述的托盘识别和定位方法的步骤。
本发明计算机可读存储介质具体实施方式与上述托盘识别和定位方法各实施例基本相同,在此不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种托盘识别和定位方法,其特征在于,所述托盘识别和定位方法包括以下步骤:
基于车辆上所安装的摄像装置获取成像图像,并获取所述成像图像中的投影面积;
根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘;
根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位。
2.如权利要求1所述的托盘识别和定位方法,其特征在于,所述根据所述摄像装置的安装参数和所述托盘的成像参数,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
读取所述摄像装置的安装参数,其中,所述安装参数包括安装角度、垂直视场角度、水平视场角度、有效像素行数和有效像素列数;
检测所述托盘的投影面距离和所述托盘中第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数;
根据所述安装角度、垂直视场角度、水平视场角度、有效像素行数、投影面距离和第二元素的成像参数,确定中间坐标值;
根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素行数、有效像素列数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数。
3.如权利要求2所述的托盘识别和定位方法,其特征在于,所述根据所述第一元素的成像参数、第二元素的成像参数、第三元素的成像参数、有效像素列数、有效像素行数和中间坐标值,确定所述托盘与所述摄像装置之间的定位参数的步骤包括:
将所述有效像素列数、有效像素行数以及中间坐标值分别和所述第一元素的成像参数、第二元素的成像参数以及第三元素的成像参数进行计算,生成所述第一元素的坐标值,第二元素的坐标值以及第三元素的坐标值;
根据所述第一元素的坐标值和所述第三元素的坐标值,生成所述托盘与所述摄像装置之间的偏差角度;
根据所述第二元素的坐标值,确定所述托盘与所述摄像装置之间的偏移距离和安装距离,并将所述偏差角度、偏移距离和安装距离确定为所述定位参数。
4.如权利要求3所述的托盘识别和定位方法,其特征在于,所述确定所述托盘与所述摄像装置之间的定位参数,以对所述托盘进行定位的步骤之后包括:
根据所述偏差角度、偏移距离和安装距离,对所述车辆的姿态进行调整,以基于所述车辆对所述托盘进行搬运。
5.如权利要求1所述的托盘识别和定位方法,其特征在于,所述根据所述投影面积和所述成像图像中的投影元素,识别所述成像图像中的托盘的步骤包括:
判断所述投影面积是否在预设面积范围内,若在所述预设面积范围内,则识别所述成像图像中的投影元素;
获取所述投影元素的元素信息,并根据所述元素信息,识别所述成像图像中的托盘,其中所述元素信息包括元素数量、元素距离和元素高度。
6.如权利要求5所述的托盘识别和定位方法,其特征在于,所述根据所述元素信息,识别所述成像图像中的托盘的步骤包括:
逐一判断所述元素数量与预设数量是否匹配,所述元素距离与预设距离是否匹配,以及所述元素高度与预设高度是否匹配;
若所述元素数量与预设数量匹配,所述元素距离与预设距离匹配,且所述元素高度与预设高度匹配,则将与所述投影面积对应的物体识别为托盘。
7.如权利要求1-6任一项所述的托盘识别和定位方法,其特征在于,所述获取所述成像图像中的投影面积的步骤包括:
识别所述成像图像中的待识别物,并对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度;
读取所述待识别物在第二预设方向上的成像距离,并根据所述投影高度和所述成像距离,生成所述成像图像中的投影面积。
8.如权利要求7所述的托盘识别和定位方法,其特征在于,所述对所述待识别物进行第一预设方向上的投影,生成所述待识别物的投影高度的步骤包括:
读取所述摄像装置的安装高度、安装角度、视场角度和有效像素行数,并检测所述摄像装置与所述待识别物之间的测量深度值,以及所述待识别物的所在像素行数;
根据所述安装角度、视场角度、有效像素行数和所在像素行数,确定与所述待识别物对应的像素所在行的偏角;
根据所述测量深度值和所述像素所在行的偏角,确定所述待识别物在第一预设方向上的投影中间值;
根据所述安装高度和所述投影中间值,生成所述待识别物的投影高度。
9.一种托盘识别和定位设备,其特征在于,所述托盘识别和定位设备包括存储器、处理器和存储在所述存储器上并可在所述处理器上运行的托盘识别和定位程序,所述托盘识别和定位程序被所述处理器执行时实现如权利要求1至8中任一项所述的托盘识别和定位方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有托盘识别和定位程序,所述托盘识别和定位程序被处理器执行时实现如权利要求1至8中任一项所述的托盘识别和定位方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911104810.0A CN110852279B (zh) | 2019-11-12 | 2019-11-12 | 托盘识别和定位方法、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911104810.0A CN110852279B (zh) | 2019-11-12 | 2019-11-12 | 托盘识别和定位方法、设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110852279A true CN110852279A (zh) | 2020-02-28 |
CN110852279B CN110852279B (zh) | 2022-05-03 |
Family
ID=69601033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911104810.0A Active CN110852279B (zh) | 2019-11-12 | 2019-11-12 | 托盘识别和定位方法、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110852279B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111369544A (zh) * | 2020-03-09 | 2020-07-03 | 广州市技田信息技术有限公司 | 一种托盘定位检测方法、装置及智能叉车 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105139416A (zh) * | 2015-10-10 | 2015-12-09 | 北京微尘嘉业科技有限公司 | 一种基于图像信息和深度信息的物体识别方法 |
CN105955259A (zh) * | 2016-04-29 | 2016-09-21 | 南京航空航天大学 | 基于多窗口实时测距的单目视觉agv的精确定位方法及系统 |
CN105976375A (zh) * | 2016-05-06 | 2016-09-28 | 苏州中德睿博智能科技有限公司 | 一种基于rgb-d类传感器的托盘识别和定位方法 |
US20170221221A1 (en) * | 2014-02-13 | 2017-08-03 | Industry Academic Cooperation Foundation Of Yeungnam University | Distance measurement method using vision sensor database |
CN110058591A (zh) * | 2019-04-24 | 2019-07-26 | 合肥柯金自动化科技股份有限公司 | 一种基于激光雷达与深度摄像机混合导航的agv系统 |
CN110132274A (zh) * | 2019-04-26 | 2019-08-16 | 中国铁道科学研究院集团有限公司电子计算技术研究所 | 一种室内定位方法、装置、计算机设备及存储介质 |
-
2019
- 2019-11-12 CN CN201911104810.0A patent/CN110852279B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170221221A1 (en) * | 2014-02-13 | 2017-08-03 | Industry Academic Cooperation Foundation Of Yeungnam University | Distance measurement method using vision sensor database |
CN105139416A (zh) * | 2015-10-10 | 2015-12-09 | 北京微尘嘉业科技有限公司 | 一种基于图像信息和深度信息的物体识别方法 |
CN105955259A (zh) * | 2016-04-29 | 2016-09-21 | 南京航空航天大学 | 基于多窗口实时测距的单目视觉agv的精确定位方法及系统 |
CN105976375A (zh) * | 2016-05-06 | 2016-09-28 | 苏州中德睿博智能科技有限公司 | 一种基于rgb-d类传感器的托盘识别和定位方法 |
CN110058591A (zh) * | 2019-04-24 | 2019-07-26 | 合肥柯金自动化科技股份有限公司 | 一种基于激光雷达与深度摄像机混合导航的agv系统 |
CN110132274A (zh) * | 2019-04-26 | 2019-08-16 | 中国铁道科学研究院集团有限公司电子计算技术研究所 | 一种室内定位方法、装置、计算机设备及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111369544A (zh) * | 2020-03-09 | 2020-07-03 | 广州市技田信息技术有限公司 | 一种托盘定位检测方法、装置及智能叉车 |
CN111369544B (zh) * | 2020-03-09 | 2023-11-03 | 广州市技田信息技术有限公司 | 一种托盘定位检测方法、装置及智能叉车 |
Also Published As
Publication number | Publication date |
---|---|
CN110852279B (zh) | 2022-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9529945B2 (en) | Robot simulation system which simulates takeout process of workpieces | |
JP6767998B2 (ja) | 画像の線からのカメラの外部パラメータ推定 | |
US20170039694A1 (en) | Method for detecting objects in a warehouse and/or for spatial orientation in a warehouse | |
CN110816355B (zh) | 车辆充电方法、设备及计算机可读存储介质 | |
US20190164310A1 (en) | Camera registration in a multi-camera system | |
US10430969B2 (en) | Method for recognizing objects in a warehouse, and industrial truck with an apparatus for recognizing objects in a warehouse | |
CN110796118B (zh) | 获取运输设备的姿态调整参数方法、运输设备及存储介质 | |
EP3510562A1 (en) | Method and system for calibrating multiple cameras | |
CN112362055B (zh) | 姿态估计方法、装置和电子设备 | |
JP7174074B2 (ja) | 画像処理装置、作業ロボット、基板検査装置および検体検査装置 | |
CN110837814A (zh) | 车辆导航方法、装置及计算机可读存储介质 | |
CN109492688B (zh) | 焊缝跟踪方法、装置及计算机可读存储介质 | |
CN110826512B (zh) | 地面障碍物检测方法、设备及计算机可读存储介质 | |
WO2020189154A1 (ja) | 物品検出装置、物品検出方法、及び産業車両 | |
CN114252414A (zh) | 检验胶路状态的装置及其检验方法 | |
CN110816522B (zh) | 车辆姿态的控制方法、设备及计算机可读存储介质 | |
CN110764110A (zh) | 路径导航方法、装置及计算机可读存储介质 | |
CN115018895A (zh) | 无人叉车高位货架放货方法、装置、设备及存储介质 | |
CN110852279B (zh) | 托盘识别和定位方法、设备及计算机可读存储介质 | |
CN114170521B (zh) | 一种叉车托盘对接识别定位方法 | |
CN110876053A (zh) | 图像处理装置、驾驶支援系统及记录介质 | |
WO2019098901A1 (en) | Method and image processing system for facilitating estimation of volumes of load of a truck | |
CN110852278B (zh) | 地面标识线识别方法、设备及计算机可读存储介质 | |
JP2021024718A (ja) | 位置姿勢推定装置 | |
CN113345023B (zh) | 箱体的定位方法、装置、介质和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |