CN113888618B - 一种物体单件分离方法与系统 - Google Patents

一种物体单件分离方法与系统 Download PDF

Info

Publication number
CN113888618B
CN113888618B CN202111166822.3A CN202111166822A CN113888618B CN 113888618 B CN113888618 B CN 113888618B CN 202111166822 A CN202111166822 A CN 202111166822A CN 113888618 B CN113888618 B CN 113888618B
Authority
CN
China
Prior art keywords
camera
coordinate system
erection
coordinates
cameras
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111166822.3A
Other languages
English (en)
Other versions
CN113888618A (zh
Inventor
张文利
赵庭松
刘钰昕
郑超
王宇飞
彭新宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN202111166822.3A priority Critical patent/CN113888618B/zh
Publication of CN113888618A publication Critical patent/CN113888618A/zh
Application granted granted Critical
Publication of CN113888618B publication Critical patent/CN113888618B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/34Sorting according to other particular properties
    • B07C5/342Sorting according to other particular properties according to optical properties, e.g. colour
    • B07C5/3422Sorting according to other particular properties according to optical properties, e.g. colour using video scanning devices, e.g. TV-cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/083Shipping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Development Economics (AREA)
  • Geometry (AREA)
  • Multimedia (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明公开了一种物体单件分离方法,包括:以一定的高度差并且以对单件物体能够在整个视野尺寸覆盖的规则架设多台2D相机;获取多台2D相机分别采集的多幅图像,对采集后的多幅图像利用物体的特征信息将有高度差的两相机间的物体关联匹配;对不同高度相机中对同一物体成像大小利用相机成像原理计算物体的实际空间尺寸,并输出准确的物体位置信息。本发明还公开了相应的物体单件分离系统,实现全自动化多并排物体的单件分离,提升物体分拣或识别效率,降低在单件分离系统中视觉装置的架设成本,解决目前单件分离系统的视觉系统硬件成本昂贵,对物体定位不准确和实用性不高的问题。

Description

一种物体单件分离方法与系统
技术领域
本发明涉及计算机视觉和智慧物流技术领域,尤其涉及一种物体单件分离方法和系统。
背景技术
近年来,视觉检测技术在物体单件分离领域获取了广泛的应用,包括物体自动搬运、分拣,物流仓储自动化识别、抓取等。物体分拣是电子商务的核心环节,随着我国电商平台的快速发展和交通运输日益快捷,导致物流行业业务量激增。为了增加物流的处理效率,在各中转站和快递点的物流分拣中通常需要借助动力源驱动传送带等输送装置将大量的包裹堆输送至不同位置进行单件分离,以便于后续对物体进行扫描、识别、分拣等工作。
目前电商和快递行业的分拣作业现场通常采用人工分离的方式,将大量输送进来的包裹进行人工分离,任务量繁重劳动强度大且效率不高。部分研究人员提出基于视觉的单件分离方法与系统来代替人工进行物体的单件分离,但这些方法在获取物体位置信息时,除图像采集装置外大多需要额外的硬件装置辅助。
中国发明专利申请CN201910162842.X公开了除相机架设外还需要多个光电传感器辅助,利用相机判断包裹是否存在并排现象,然后利用多个光电传感器对并排包裹定位,给并排包裹下的不同传送带一个速度差来达到包裹分离的效果。
现有技术存在对光电传感器的布设位置要求高,布设复杂,定位不够准确,难以处理多物体并排的情况。
也有人尝试仅用视觉采集装置对物体进行定位,这些方法大多都采用多个3D相机,将多个3D相机采集的物体图像进行拼接以覆盖整个视野,对视野内的物体定位后将位置信息发送给分离装置和靠边装置后完成单件分离。在实际工程应用时,需要获取速度为0~2m/s传送带上的高质量物体图像,因此对相机的传输接口、相机延迟、图像分辨率、每秒传输帧数等参数要求较高,满足要求的3D相机价格昂贵,且单个3D相机采集图像时视野盲区较大。需采用多个3D相机部署视觉装置,成本高昂,不利于大规模在流水线架设。
也有人尝试将前述技术结合后进一步研究,如中国发明专利申请CN201911168246.9公开了一种并排包裹的分离装置及其方法,具体实施步骤包括:包裹分散装置,先将包裹输送至分散装置,从输送线到达分散装置的包裹,通过输送方向存在的角度差对包裹进行分散,相邻包裹之间留有间隙;随后为检测识别装置,3D相机获取包裹图像,将4个3D相机拍摄视野图像拼接,通过视觉算法对比去除拍照重复的部分,获取整个视野范围的包裹图像,并在图像中建立坐标系。利用边缘检测算法提取图像中包裹轮廓的坐标信息,根据每个包裹的相对位置、尺寸等信息,筛选出最靠前的第一包裹,第一包裹所在位置皮带为第一皮带集合,其余包裹为第二包裹,第二包裹所在位置皮带为第二皮带集合。通过皮带差分控制模块将第一皮带集合调快,将第二皮带集合调慢或停止,达到包裹并行分离的效果。将并行分离后的包裹输送至单件分离模块实现包裹靠边分离。
该专利方法需使用多个3D相机拼接获取完整的视野尺寸,一方面总体的硬件成本较高,另一方面使用图像拼接去除各相机拍照重复的部分,浪费部分相机视野,另外目前图像拼接会造成重叠区域对齐偏差等影响包裹位置输出;且一般的深度相机对矮包裹检测效果差,受光照等外界环境影响大、鲁棒性差,架设条件较为苛刻,不适于流水线大规模架设。该方法使用边缘检测算法获取包裹位置,而传统边缘检测算法精度不高会造成包裹位置输出误差。该方法对并行包裹处理复杂,耗时量大,输送大量并行包裹时处理不及时易发生包裹的堆叠,且对尺寸相似的包裹分离效果差。以上问题导致该方法实用性下降。
因此,目前还没有一套同时满足低成本且能实现高效、高精度的物体分离的系统及对应的分离识别方法。
发明内容
为了解决现有技术中存在的问题,本发明提供了如下技术方案。
本发明一方面提供了一种物体单件分离方法,包括:
以一定的高度差并且以对物体能够在整个视野尺寸覆盖的规则架设多台2D相机;
获取多台2D相机分别采集的多幅图像,对采集后的多幅图像利用物体的特征信息将有高度差的两相机间的物体关联匹配;
对不同高度相机中对同一物体成像大小利用相机成像原理计算物体的实际空间尺寸,并输出准确的物体位置信息。
优选的,所述以一定的高度差并且以对物体能够在整个视野尺寸覆盖的规则架设多台2D相机包括:
S10,根据预先设置的相机架设策略和相机标定策略进行相机架设和相机标定,所述相机包括高位架设2D相机和低位架设2D相机,所述低位架设2D相机的高度低于所述高位架设2D相机;
所述获取多台2D相机分别采集的多幅图像,对采集后的多幅图像利用物体的特征信息将有高度差的两相机间的物体关联匹配包括:
S30,所述高位架设2D相机采用俯视或斜视的方式获取视野内的第一物体图像,并建立像素图像坐标系;
S40,所述低位架设2D相机采用俯视或斜视的方式获取视野内的第二物体图像,并建立像素图像坐标系;
S50,进行旋转目标检测,基于深度学习的旋转目标检测模型获取第一物体图像和第二物体图像的检测框后获得同一物体在高位架设2D相机的多个角点像素图像坐标系坐标和低位架设2D相机的多个角点像素图像坐标系坐标,作为计算物体的实际空间尺寸的输入;
S60,设置关联匹配区域,并根据重识别算法模型对每件物体在高位架设2D相机的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,实现跨高位架设2D相机和低位架设2D相机的同一物体的识别,并输出同一物体跨相机间相同的ID号;
所述对不同高度相机中对同一物体成像大小利用相机成像原理计算物体的实际空间尺寸,并输出准确的物体位置信息包括:
S70,将所述像素图像坐标系转化为成像平面坐标系,误差消除并获取所述物体在成像平面坐标系的坐标和实际空间尺寸,其中误差消除用于消除因多件物体高度不同在相机成像时“远小近大”的特点造成的位置信息输出误差;
S80,建立世界坐标系并将参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标,所述参数包括物体的成像平面坐标系中的坐标和相机内参;
S90,根据所述世界坐标系坐标,实施物体单件分离。
优选的,所述S10的所述相机架设策略包括:至少需要两个具有一定高度差的2D相机俯视或斜视架设在物体传送装置上方;所述2D相机之间视野互补,覆盖整个需输出物体位置信息的区域;
所述相机标定策略包括:所述相机标定包括将有高度差的所述2D相机所成图像在同一实际空间视野区域进行坐标转换,获取同一实际空间位置坐标在不同相机间的像素图像坐标,最终获取两个2D相机对同一实际空间坐标的像素点映射关系,即视为完成一次相机标定;所述方法完成两次相机标定,包括0高度平面和最大高度平面两高度差2D相机之间像素点的映射关系,0高度映射关系视为第一映射关系,最大高度平面映射关系视为第二映射关系。
优选的,在所述步骤S10与所述步骤S30之间还包括步骤S20,将多件物体拉开一定间隙,将黏连物体进行分离,所述步骤S20由系统的黏连分离模块完成。
优选的,所述步骤S60包括:
S601,获取高位架设2D相机的第一物体图像的检测框结果;
S602,根据所述相机架设策略与所述相机标定策略中所述高位架设2D相机和所述低位架设2D相机在0高度平面和最大高度平面之间的标定分别获取的第一映射关系和第二映射关系,获得所述低位架设2D相机在0高度标定的所述第一映射关系下的第二物体图像中同一物体第一关联框和最大高度平面标定的所述第二映射关系下的第二物体图像第二关联框;
S603,将所述第一关联框和所述第二关联框之间的所有区域框出,设置为关联匹配区域;
S604,重复步骤S601-S603获得每件物体的所述高位架设2D相机检测框结果,并计算对应物体在所述低位架设2D相机中的关联匹配区域;
S605,将物体图像数据经过训练后获得重识别算法模型,利用物体的表面特征信息对高位架设2D相机获得的每件物体的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,获得跨相机间的同一物体识别,并输出同一物体跨相机间相同的ID号。
优选的,所述S50采用旋转yolov5、R2CNN、RRPN、Glinding vertex、P-RSDet或SCRDet旋转目标检测模型。
优选的,所述S70包括:
S701,根据所述同一物体在高位架设2D相机的多个角点像素图像坐标系坐标和低位架设2D相机的多个角点像素图像坐标系坐标分别计算同一物体在高位相机和低位相机中因远小近大成像出的不同像素长、宽;
S702,以影像集合中心O为原点,平行于影像画幅边缘线分别建立像素图像坐标系的X、Y轴,进而根据相机覆盖的视野尺寸和相机分辨率建立成像平面坐标系,获取像素点长度和实际物理长度的对应关系;
S703,由相机小孔成像原理计算单件物体真实长度、宽度和高度信息,确定单件物体在成像平面坐标系的真实坐标以消除误差,确定所述物体的实际空间尺寸并转化为成像平面坐标系坐标。
优选的,所述S80包括:
S801,以高位架设2D相机的光心为原点,以成像平面坐标系为X、Y轴,以相机到标定的0高度平面的垂直方向为Z轴,建立相机坐标系;
S802,以相机坐标系的原点为世界坐标系的原点,建立世界坐标系,此时所述相机坐标系等于所述世界坐标系;
S803,将所述物体在成像平面坐标系的坐标、相机焦距参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标。
优选的,所述S90由皮带机和靠边装置构成的单件分离模块实施。
本发明的第二方面还提供一种物体单件分离系统,包括:
相机架设与标定模块,用于根据预先设置的相机架设策略和相机标定策略进行相机架设和相机标定,所述相机包括高位架设2D相机以及低位架设2D相机,所述低位架设2D相机的高度低于所述高位架设2D相机;
第一物体图像获取模块,用于通过所述高位架设2D相机采用俯视或斜视的方式获取视野内的第一物体图像;
第二物体图像获取模块,用于通过所述低位架设2D相机采用俯视或斜视的方式获取视野内的第二物体图像;
旋转目标检测模块,用于进行旋转目标检测,基于深度学习的旋转目标检测模型获取第一物体图像和第二物体图像的检测框后获得同一物体在高位架设2D相机的多个角点像素图像坐标系坐标和低位架设2D相机的多个角点像素图像坐标系坐标,并计算单件物体的实际尺寸;
关联匹配模块,用于设置关联匹配区域,并根据重识别算法模型对每件物体在高位架设2D相机的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,实现跨高位架设2D相机和低位架设2D相机的同一物体的识别,并输出同一物体跨相机间相同的ID号;
误差消除及物体尺寸计算模块,用于误差消除并获取所述物体在成像平面坐标系的坐标和实际空间尺寸,其中误差消除用于消除因多件物体高度不同造成在相机中成像时“远小近大”的特点造成的位置信息输出误差;
坐标转换模块,用于建立世界坐标系并将所述物体的参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标;
物体单件分离模块,包括皮带机和靠边装置,用于根据所述世界坐标系坐标,控制不同区域的皮带以不同速度运转进行并行分离输出,实现物体单件分离。
本发明提供物体单件分离系统和方法,具有如下有益效果:
根据具有高度差的2D相机对同一物体尺寸成像大小不同的特点,以相机小孔成像原理计算物体的实际尺寸,进而获取物体世界坐标系坐标,将该坐标输入到单件分离模块实现准实时、高精度的单件分离。该基于旋转目标检测的多个2D相机物体包裹单件分离方法与系统,采用2D相机代替3D相机检测包裹实际尺寸,输出物体世界坐标,解决工程应用中设备成本高昂和3D相机对矮物体检测效果不佳的问题。本方法相机架设相对简单,多角度镜头可以有效减少物体间遮挡盲区,提升检测效果。
附图说明
图1为本发明优选实施例的方法流程示意图。
图2为本发明优选实施例中相机标定的方法原理图。
图3为本发明优选实施例中相机标定在中点俯视镜头和角点斜视镜头中实现的方法原理图。
图4为本发明优选实施例中基于相机标定设置关联匹配区域方法原理图。
图5为本发明优选实施例中基于相机标定设置关联匹配区域方法流程图。
图6为本发明优选实施例中世界坐标系计算方法原理图。
图7为本发明优选实施例中世界坐标系计算方法流程图。
图8为本发明优选实施例中相机架设策略方法原理示意图。
具体实施方式
为了更好地理解上述技术方案,下面将结合说明书附图以及具体的实施方式对上述技术方案做详细的说明。
本发明提供的方法可以在如下的终端环境中实施,该终端可以包括一个或多个如下部件:处理器、存储器和显示屏。其中,存储器中存储有至少一条指令,所述指令由处理器加载并执行以实现下述实施例所述的方法。
处理器可以包括一个或者多个处理核心。处理器利用各种接口和线路连接整个终端内的各个部分,通过运行或执行存储在存储器内的指令、程序、代码集或指令集,以及调用存储在存储器内的数据,执行终端的各种功能和处理数据。
存储器可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory,ROM)。存储器可用于存储指令、程序、代码、代码集或指令。
显示屏用于显示各个应用程序的用户界面。
除此之外,本领域技术人员可以理解,上述终端的结构并不构成对终端的限定,终端可以包括更多或更少的部件,或者组合某些部件,或者不同的部件布置。比如,终端中还包括射频电路、输入单元、传感器、音频电路、电源等部件,在此不再赘述。
需要说明的是,本实施例的物体具体指代多件物流传送带上的包裹,在描述包裹位置的过程中,使用了像素图像坐标系、成像平面坐标系、(摄像机)相机坐标系、世界坐标系共四个坐标系。本实施例最终的技术目的在于输出每个包裹的世界坐标系坐标,并将坐标发送至靠边装置,实现包裹单件分离,但2D相机初始采集的第一和第二包裹图像信息首先建立的为像素图像坐标系,因此存在坐标系的转化过程,具体的转化过程为:像素图像坐标系→成像平面坐标系→(摄像机)相机坐标系→世界坐标系。
其中:
像素图像坐标系(u-v):以图像左上角为原点建立以像素为单位建立的直角坐标系。u和v代表像素的行数和列数。
成像平面坐标系(o-xy):以影像几何中心O为原点,x,y轴方向分别为平行于影像画幅边缘线的二维坐标系。单位为所成像实际空间范围单位像素点所对应的物理尺寸,如1毫米/像素,x和y代表水平和垂直方向距离原点的物理距离。
(摄像机)相机坐标系(oe-xeyeze):以摄像机或相机光心为原点,z轴与光轴重合,也就是z轴指向相机的前方(即与成像平面垂直),x轴和y轴的正方向与成像平面坐标系平行。
世界坐标系(ow-xwywzw):由于相机可以安放在环境中的任意位置,因此在环境中选择一个基准坐标系来描述摄像机的位置,并用其描述环境中任何物体的位置,该坐标系被称为世界坐标系。
本优选实施例以物流应用为场景,因此对应的提供了一种物流包裹单件分离方法,包括:
以一定的高度差并且以对包裹能够在整个视野尺寸覆盖的规则架设多台2D相机;
获取多台2D相机分别采集的多幅图像,对采集后的多幅图像利用包裹的特征信息将有高度差的两相机间的包裹关联匹配;
对不同高度相机中对同一包裹成像大小利用相机成像原理计算包裹的实际空间尺寸,并输出准确的包裹位置信息。
如图1所示,物流包裹单件分离方法包括:
S10,根据预先设置的相机架设策略和相机标定策略进行相机架设和相机标定,本实施例中相机包括一台高位架设2D相机和一台或两台低位架设2D相机,当然本领域技术人员可以设定任一数量的高位架设2D相机或者低位架设2D相机,所述低位架设2D相机的高度低于所述高位架设2D相机;
S30,所述高位架设2D相机采用俯视或斜视的方式获取视野内的第一包裹图像,并建立像素图像坐标系;
S40,所述低位架设2D相机采用俯视或斜视的方式获取视野内的第二包裹图像,并建立像素图像坐标系;
S50,进行旋转目标检测,基于深度学习的旋转目标检测模型获取第一包裹图像和第二包裹图像的检测框后获得同一包裹在高位架设2D相机的四个角点像素图像坐标系坐标和低位架设2D相机的四个角点像素图像坐标系坐标,作为S70的输入以计算包裹的实际空间尺寸;
S60,设置关联匹配区域,并根据重识别算法模型对每个包裹在高位架设2D相机的第一包裹图像在低位架设2D相机中的关联匹配区域进行关联匹配,实现跨高位架设2D相机和低位架设2D相机的同一包裹的识别,并输出同一包裹跨相机间相同的ID号;
S70,将所述像素图像坐标系转化为成像平面坐标系,误差消除并获取所述包裹在成像平面坐标系的坐标和实际空间尺寸,其中误差消除用于消除因多个包裹高度不同在相机成像时“远小近大”的特点造成的位置信息输出误差;
S80,建立世界坐标系并将参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标,所述参数包括包裹的成像平面坐标系中的坐标和相机内参;
S90,根据所述世界坐标系坐标,实施包裹单件分离。
本实施例由皮带机和靠边装置构成的单件分离模块实施,包括:控制不同区域的皮带以不同速度运转进行并行分离,分离后经过靠边装置输出单队列有间隔的包裹。当然也可以采用拨叉等本领域技术人员容易想到的结构形式构成靠边装置。
其中,S10的相机架设策略包括:至少需要两个具有一定高度差的2D相机俯视或斜视架设在包裹传送装置上方;所述2D相机之间视野互补,覆盖整个需输出包裹位置信息的区域。
如图8所示,本实施例的架设策略共使用三个相机,确保每个相机视野都覆盖整个单件分离模块。在视野区域对角线的顶点架设两低位相机称为角点相机;在视野区域中心点架设一个高位相机称为中点相机。两角点相机在同一高度,与中点相机保持一定高度差。其中中点相机居中,能够消除拍摄范围不均匀带来的误差。对于小范围的拍摄和货物匹配的情况,可以考虑仅采用一个中点相机和一个角点相机。
相机标定策略包括:将有高度差的所述2D相机所成图像在同一实际空间视野区域进行坐标转换,获取同一实际空间位置坐标在不同相机间的像素图像坐标,最终获取两个2D相机对同一实际空间坐标的像素点映射关系,即视为完成一次相机标定。
对于本实施例,需完成两次相机标定,标定中,将输送装置平面视为0高度平面,常见物流包裹最大高度的平面视为最大高度平面,本实施例为70cm。0高度映射关系视为第一映射关系,最大高度平面映射关系视为第二映射关系。当然,根据不同地域对于物流包裹运输装置的规定,该最大高度平面可以进行相应地高度调整,均为本领域技术人员可以进行的选择。
如图2所示,为相机标定的方法原理图,图2仅示出了相机1、2的像素点坐标匹配原理,相机2、3的像素点坐标匹配原理与此完全相同。相机标定的方法目的在于实现如图8中相机1、2间像素点坐标匹配以及如图8中相机2、3间像素点坐标匹配。
具体的,第一次相机标定:对视野范围内0高度平面标定,获取0高度平面上两高度差2D相机之间像素点的映射关系;
第二次相机标定:对视野范围内最大高度平面标定,获取最大高度平面上两高度差2D相机之间的像素点映射关系。
同时,以2D相机左上角为原点建立图像坐标系,进而根据相机覆盖的视野尺寸和相机分辨率建立成像平面坐标系,获取像素点长度和实际物理长度的对应关系。
图3中,A、B、C、D为在中点俯视镜头所检测包裹表面的检测框的四个角点像素图像坐标,A1、B1、C1、D1为由第一映射关系H1在角点斜视镜头中得出的四个角点像素图像坐标,A2、B2、C2、D2为由第二映射关系H2在角点斜视镜头中得出的四个角点像素图像坐标。
作为优选的实施方式,在所述步骤S10与所述步骤S30之间还包括步骤S20,将多件物体拉开一定间隙,将黏连物体进行分离,步骤S20的实施由系统的黏连分离模块完成。在物流包裹分离应用场景下,黏连分离模块由散射皮带机构成,密集排布的物流包裹由输送装置输送到散射皮带机上,从而能够将包裹拉开一定间隙,实现黏连包裹分离,方便后续标定后的高位架设2D相机和低位架设2D相机能够顺利采集到清晰的包裹图像。
具体地,步骤S60包括:
S601,获取高位架设2D相机的第一物体图像的检测框结果;
S602,根据所述相机架设策略与所述相机标定策略中所述高位架设2D相机和所述低位架设2D相机在0高度平面和最大高度平面之间的标定分别获取的第一映射关系和第二映射关系,获得所述低位架设2D相机在0高度标定的所述第一映射关系下的第二物体图像中同一物体第一关联框和最大高度平面标定的所述第二映射关系下的第二物体图像第二关联框;
S603,将所述第一关联框和所述第二关联框之间的所有区域框出,设置为关联匹配区域;
S604,重复步骤S601-S603获得每件物体的所述高位架设2D相机检测框结果,并计算对应物体在所述低位架设2D相机中的关联匹配区域;
S605,将物体图像数据经过训练后获得重识别算法模型,利用物体的表面特征信息对高位架设2D相机获得的每件物体的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,获得跨相机间的同一物体识别,并输出同一物体跨相机间相同的ID号。
如图4所示,左侧为中点俯视镜头中包裹表面的检测框以及A、B、C、D四个角点,右侧为角点俯视镜头中该包裹的关联匹配区域,以及由第一映射关系H1得到的A1(ua1,va1)、B1(ub1,vb1)、C1(uc1,vc1)、D1(ud1,vd1)和由第二映射关系得到的A2(ua2,va2)、B2(ub2,vb2)、C2(uc2,vc2)、D2(ud2,vd2)像素图像坐标。该区域的设置步骤为:
(1)求出ua1、ub1、uc1、ud1、ua2、ub2、uc2、ud2的最大值umax记为right,最小值umin记为left;
(2)同步骤(1)求出vmax记为top,vmin记为bottom;
(3)该关联匹配区域在角点斜视镜头的左上角点坐标为(left,top),右下角点坐标为(right,bottom),并绘制该矩形区域即为关联匹配区域。
本实施例涉及包裹高度均在0-70cm之间,所以该方式所设置的关联匹配区域即可确定中间俯视镜头检测到的包裹在角点斜视镜头中的大致区域。
其中,本实施例中,S60还可以通过轻量化深度学习检测模型实现旋转目标检测。
如图5所示,为设置关联匹配区域流程图,通过相机标定部分,可以得到两个相机中二维坐标的映射关系,并且可以看到相同长宽不同高度的物体在同一个图像中的位置框也不同,因此框出包含高度在0-70cm范围的一个大框,并将该框的信息映射到另一个相机的图像中,得到一个跨相机的关联匹配区域。
作为优选的实施方式,S50采用旋转yolov5、R2CNN、RRPN、Glinding vertex、P-RSDet或SCRDet旋转目标检测模型。
作为优选的实施方式,S70包括:
S701,根据所述同一物体在高位架设2D相机的四个角点像素图像坐标系坐标和低位架设2D相机的四个角点像素图像坐标系坐标分别计算同一物体在高位相机和低位相机中因远小近大成像出的不同像素长、宽;
S702,以影像集合中心O为原点,X、Y轴方向分别为平行于影像画幅边缘线建立像素图像坐标系,进而根据相机覆盖的视野尺寸和相机分辨率建立成像平面坐标系,获取像素点长度和实际物理长度的对应关系;
S703,由相机小孔成像原理计算单件物体真实长度、宽度和高度信息,确定单件物体在成像平面坐标系的真实坐标以消除误差,确定所述物体的实际空间尺寸并转化为成像平面坐标系坐标。
作为优选的实施方式,S80包括:
S801,以高位架设2D相机的光心为原点,以成像平面坐标系为X、Y轴,以相机到标定的0高度平面的垂直方向为Z轴,建立相机坐标系;
S802,以相机坐标系的原点为世界坐标系的原点,建立世界坐标系,此时所述相机坐标系等于所述世界坐标系;
S803,将所述物体在成像平面坐标系的坐标、相机焦距参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标。
如图6所示,世界坐标系的计算原理示意图,基本原理在于先解决近大远小的问题,求出包裹的真实尺寸后,再转化为世界坐标系的对应坐标。其中,像距Ⅰ为相机1的光圈到相机内部成像平面的距离,像距Ⅱ为相机2的光圈到相机内部成像平面的距离。
如图7所示,世界坐标系的转换计算方法流程图,部分属于现有技术,在此不再赘述。
如图8所示,当计算获取对应的世界坐标系坐标后,利用视野尺寸中线将视野尺寸一分为二:
当包裹位于左半视野尺寸时调用相机1、2;
当包裹位于右半视野尺寸时调用相机2、3;
跨视野尺寸包裹,分别调用相机1、2和相机2、3计算求均值。
作为优选的实施方式,步骤S90由4*7规格的皮带机和靠边装置构成的单件分离模块实施,包括:控制不同区域的皮带以不同速度运转进行并行分离,分离后经过靠边装置输出单队列有间隔的包裹。
在物流应用场景下,皮带机通常为4*7规格的,随着应用场景的变化或者物流行业应用的发展,皮带机的规格可以进行相应的变化,或者进行人为的设置和修改,均在本发明的保护范围内。
本实施例的第二方面,提供一种物流包裹单件分离系统,包括:
相机架设与标定模块,用于根据预先设置的相机架设策略和相机标定策略进行相机架设和相机标定,所述相机包括高位架设2D相机以及低位架设2D相机,所述低位架设2D相机的高度低于所述高位架设2D相机;
第一包裹图像获取模块,用于通过所述高位架设2D相机采用俯视或斜视的方式获取视野内的第一包裹图像;
第二包裹图像获取模块,用于通过所述低位架设2D相机采用俯视或斜视的方式获取视野内的第二包裹图像;
旋转目标检测模块,用于进行旋转目标检测,基于深度学习的旋转目标检测模型获取第一包裹图像和第二包裹图像的检测框后获得同一包裹在高位架设2D相机的四个角点像素图像坐标系坐标和低位架设2D相机的四个角点像素图像坐标系坐标,并计算单件包裹的实际尺寸;
关联匹配模块,用于设置关联匹配区域,并根据重识别算法模型对每个包裹在高位架设2D相机的第一包裹图像在低位架设2D相机中的关联匹配区域进行关联匹配,实现跨高位架设2D相机和低位架设2D相机的同一包裹的识别,并输出同一包裹跨相机间相同的ID号;
误差消除及包裹尺寸计算模块,用于误差消除并获取所述包裹在成像平面坐标系的坐标和实际空间尺寸,其中误差消除用于消除因多个包裹高度不同造成在相机中成像时“远小近大”的特点造成的位置信息输出误差;
坐标转换模块,用于建立世界坐标系并将所述包裹的参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标;
包裹单件分离模块,包括皮带机和靠边装置,用于根据所述世界坐标系坐标,控制不同区域的皮带以不同速度运转进行并行分离输出,实现包裹单件分离。
本实施例通过具有高度差的2D相机对同一物流货物尺寸成像大小不同的特点,以关联匹配区域的坐标匹配的简易方式获得货物的匹配和多个图像信息,利用匹配成功的货物和两个货物检测结果的成像大小,调用不同的相机获得跨视野尺寸货物,分别调用不同组别的高低相机利用小孔成像原理计算出货物实际尺寸,解决工程应用中设备成本高昂和3D相机对矮货物检测效果不佳的问题。
本方法相机架设相对简单,多角度镜头可以有效减少货物间遮挡盲区,提升检测效果。该设备水平方向位置检测误差在5cm以内,竖直高度方向的位置检测分辨率达到0.1cm。对于薄片状较矮的包裹,在图像形成过程中如果发生较矮的包裹被遮挡的情况,默认包裹高度为5cm。对于不规则形状包裹,利用检测算法增加包裹表面检测角点数量,对于多个角点分别采用小孔成像原理,计算三维尺寸和包裹位置,增加准确性,或者对于坐标和关联区域的确定会多次求取均值,尽可能地精确。
本发明所述的分离方法与系统,可以用在物流包裹上,以替代人工实现对物流包裹高效单件分离。通过旋转目标检测技术实现对传送带上输送的物流包裹检测,获取包裹实时位置,最后由分离皮带机实现货物包裹的分离、拉距及排队。本发明可实现全自动化多并排物流包裹的单件分离,提升物流包裹分拣效率,降低在单件分离系统中视觉装置的架设成本,解决目前单件分离系统的视觉系统硬件成本昂贵、对包裹定位不准确和实用性不高的问题。
进一步地,本发明的方案可以将物体的应用场景扩展到对任何可相对移动物体的体积、位置和/或质量等典型参数的检测,包括养殖业中生猪等通过传送带和2D相机的配合,以测量其体积,获知生长状况以及出栏决策。当然,还可以延伸到任何与2D相机具有相对位移的检测场景中,均在本发明的保护范围内。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (9)

1.一种物体单件分离方法,其特征在于,包括:
以一定的高度差并且以对物体能够在整个视野尺寸覆盖的规则架设多台2D相机;
获取多台2D相机分别采集的多幅图像,对采集后的多幅图像利用物体的特征信息将有高度差的两相机间的物体关联匹配;
对不同高度相机中对同一物体成像大小利用相机成像原理计算物体的实际空间尺寸,并输出准确的物体位置信息;
所述获取多台2D相机分别采集的多幅图像,对采集后的多幅图像利用物体的特征信息将有高度差的两相机间的物体关联匹配包括:
S30,高位架设2D相机采用俯视或斜视的方式获取视野内的第一物体图像,并建立像素图像坐标系;
S40,低位架设2D相机采用俯视或斜视的方式获取视野内的第二物体图像,并建立像素图像坐标系;
S50,进行旋转目标检测,基于深度学习的旋转目标检测模型获取第一物体图像和第二物体图像的检测框后获得同一物体在高位架设2D相机的多个角点像素图像坐标系坐标和低位架设2D相机的多个角点像素图像坐标系坐标,作为计算物体的实际空间尺寸的输入;
S60,设置关联匹配区域,并根据重识别算法模型对每件物体在高位架设2D相机的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,实现跨高位架设2D相机和低位架设2D相机的同一物体的识别,并输出同一物体跨相机间相同的ID号;
所述对不同高度相机中对同一物体成像大小利用相机成像原理计算物体的实际空间尺寸,并输出准确的物体位置信息包括:
S70,将像素图像坐标系转化为成像平面坐标系,误差消除并获取物体在成像平面坐标系的坐标和实际空间尺寸,其中误差消除用于消除因多件物体高度不同在相机中成像时“远小近大”的特点,造成的位置信息输出误差;
S80,建立世界坐标系并将参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标,参数包括物体的成像平面坐标系中的坐标和相机内参;
S90,根据世界坐标系坐标,实施物体单件分离;
步骤S60具体包括:
S601,获取高位架设2D相机的第一物体图像的检测框结果;
S602,根据相机架设策略与相机标定策略中高位架设2D相机和低位架设2D相机在0高度平面和最大高度平面之间的标定分别获取的第一映射关系和第二映射关系,获得低位架设2D相机在0高度标定的第一映射关系下的第二物体图像中同一物体第一关联框和最大高度平面标定的第二映射关系下的第二物体图像第二关联框;
S603,将第一关联框和第二关联框之间的所有区域框出,设置为关联匹配区域;
S604,重复步骤S601-S603获得每件物体的高位架设2D相机检测框结果,并计算对应物体在低位架设2D相机中的关联匹配区域;
S605,将物体图像数据经过训练后获得重识别算法模型,利用物体的表面特征信息对高位架设2D相机获得的每件物体的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,获得跨相机间的同一物体识别,并输出同一物体跨相机间相同的ID号。
2.根据权利要求1所述的一种物体单件分离方法,其特征在于,
所述以一定的高度差并且以对物体能够在整个视野尺寸覆盖的规则架设多台2D相机包括:
S10,根据预先设置的相机架设策略和相机标定策略进行相机架设和相机标定,相机包括高位架设2D相机和低位架设2D相机,低位架设2D相机的高度低于高位架设2D相机。
3.根据权利要求2所述的一种物体单件分离方法,其特征在于,
步骤S10的相机架设策略包括:至少需要两个具有一定高度差的2D相机俯视或斜视架设在物体传送装置上方;2D相机之间视野互补,覆盖整个需输出物体位置信息的区域;
步骤S10的相机标定策略包括:相机标定包括将有高度差的2D相机所成图像在同一实际空间视野区域进行坐标转换,获取同一实际空间位置坐标在不同相机间的像素图像坐标,最终获取两个2D相机对同一实际空间坐标的像素点映射关系,即视为完成一次相机标定;用重复所述完成一次相机标定的方法完成两次相机标定,即确定0高度平面和最大高度平面两高度差2D相机之间像素点的映射关系,其中0高度映射关系视为第一映射关系,最大高度平面映射关系视为第二映射关系。
4.根据权利要求2所述的一种物体单件分离方法,其特征在于,
在步骤S10与步骤S30之间还包括步骤S20,将多件物体拉开一定间隙,将黏连物体进行分离,步骤S20由黏连分离模块完成。
5.根据权利要求1所述的一种物体单件分离方法,其特征在于,
S50采用旋转yolov5、R2CNN、RRPN、Glinding vertex、P-RSDet或SCRDet旋转目标检测模型。
6.根据权利要求1所述的一种物体单件分离方法,其特征在于,步骤S70具体包括:
S701,根据同一物体在高位架设2D相机的多个角点像素图像坐标系坐标和低位架设2D相机的多个角点像素图像坐标系坐标分别计算同一物体在高位相机和低位相机中因远小近大成像出的不同像素长和宽;
S702,以影像集合中心O为原点,平行于影像画幅边缘线分别建立像素图像坐标系的X、Y轴,进而根据相机覆盖的视野尺寸和相机分辨率建立成像平面坐标系,获取像素点长度和实际物理长度的对应关系;
S703,由相机小孔成像原理计算单件物体真实长度、宽度和高度信息,确定单件物体在成像平面坐标系的真实坐标以消除误差,确定物体的实际空间尺寸并转化为成像平面坐标系坐标。
7.根据权利要求1所述的一种物体单件分离方法,其特征在于,步骤S80具体包括:
S801,以高位架设2D相机的光心为原点,以成像平面坐标系为X、Y轴,以相机到标定的0高度平面的垂直方向为Z轴,建立相机坐标系;
S802,以相机坐标系的原点为世界坐标系的原点,建立世界坐标系,此时相机坐标系等于世界坐标系;
S803,将物体在成像平面坐标系的坐标、相机焦距参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标。
8.根据权利要求1所述的一种物体单件分离方法,其特征在于,步骤S90由皮带机和靠边装置构成的单件分离模块实施。
9.一种物体单件分离系统,用于实施权利要求1所述的物体单件分离方法,其特征在于,包括:
相机架设与标定模块,用于根据预先设置的相机架设策略和相机标定策略进行相机架设和相机标定,相机包括高位架设2D相机以及低位架设2D相机,低位架设2D相机的高度低于高位架设2D相机;
第一物体图像获取模块,用于通过高位架设2D相机采用俯视或斜视的方式获取视野内的第一物体图像;
第二物体图像获取模块,用于通过低位架设2D相机采用俯视或斜视的方式获取视野内的第二物体图像;
旋转目标检测模块,用于进行旋转目标检测,基于深度学习的旋转目标检测模型获取第一物体图像和第二物体图像的检测框后获得同一物体在高位架设2D相机的多个角点像素图像坐标系坐标和低位架设2D相机的多个角点像素图像坐标系坐标,并计算单件物体的实际尺寸;
关联匹配模块,用于设置关联匹配区域,并根据重识别算法模型对每件物体在高位架设2D相机的第一物体图像在低位架设2D相机中的关联匹配区域进行关联匹配,实现跨高位架设2D相机和低位架设2D相机的同一物体的识别,并输出同一物体跨相机间相同的ID号;
误差消除及物体尺寸计算模块,用于误差消除并获取物体在成像平面坐标系的坐标和实际空间尺寸,其中误差消除用于消除因多件物体高度不同造成在相机中成像时“远小近大”的特点造成的位置信息输出误差;
坐标转换模块,用于建立世界坐标系并将物体的参数在世界坐标系中进行转换,计算获取对应的世界坐标系坐标;
物体单件分离模块,包括皮带机和靠边装置,用于根据世界坐标系坐标,控制不同区域的皮带以不同速度运转进行并行分离输出,实现物体单件分离。
CN202111166822.3A 2021-09-30 2021-09-30 一种物体单件分离方法与系统 Active CN113888618B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111166822.3A CN113888618B (zh) 2021-09-30 2021-09-30 一种物体单件分离方法与系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111166822.3A CN113888618B (zh) 2021-09-30 2021-09-30 一种物体单件分离方法与系统

Publications (2)

Publication Number Publication Date
CN113888618A CN113888618A (zh) 2022-01-04
CN113888618B true CN113888618B (zh) 2024-05-10

Family

ID=79005317

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111166822.3A Active CN113888618B (zh) 2021-09-30 2021-09-30 一种物体单件分离方法与系统

Country Status (1)

Country Link
CN (1) CN113888618B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115892844A (zh) * 2022-11-17 2023-04-04 金锋馥(滁州)科技股份有限公司 一种包裹单件分离系统伺服电机结构新布局

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110017773A (zh) * 2019-05-09 2019-07-16 福建(泉州)哈工大工程技术研究院 一种基于机器视觉的包裹体积测量方法
CN110569704A (zh) * 2019-05-11 2019-12-13 北京工业大学 一种基于立体视觉的多策略自适应车道线检测方法
CN110648367A (zh) * 2019-08-15 2020-01-03 大连理工江苏研究院有限公司 一种基于多层深度与彩色视觉信息的几何体目标定位方法
CN111340873A (zh) * 2020-02-28 2020-06-26 广东工业大学 一种多视角图像的物体最小外包络尺寸测算方法
CN112508784A (zh) * 2020-11-20 2021-03-16 中南大学 一种基于图像拼接的平面物体轮廓模型的全景图方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110017773A (zh) * 2019-05-09 2019-07-16 福建(泉州)哈工大工程技术研究院 一种基于机器视觉的包裹体积测量方法
CN110569704A (zh) * 2019-05-11 2019-12-13 北京工业大学 一种基于立体视觉的多策略自适应车道线检测方法
CN110648367A (zh) * 2019-08-15 2020-01-03 大连理工江苏研究院有限公司 一种基于多层深度与彩色视觉信息的几何体目标定位方法
CN111340873A (zh) * 2020-02-28 2020-06-26 广东工业大学 一种多视角图像的物体最小外包络尺寸测算方法
CN112508784A (zh) * 2020-11-20 2021-03-16 中南大学 一种基于图像拼接的平面物体轮廓模型的全景图方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于阴影的夜间物体单目定位技术;曾曙光 等;光学与光电技术;20160210(第01期);第83-88页 *

Also Published As

Publication number Publication date
CN113888618A (zh) 2022-01-04

Similar Documents

Publication Publication Date Title
CN109523552B (zh) 基于视锥点云的三维物体检测方法
CN109948661B (zh) 一种基于多传感器融合的3d车辆检测方法
CN102006425B (zh) 一种基于多摄像机的视频实时拼接方法
CN113643280B (zh) 一种基于计算机视觉的板材分拣系统及方法
CN102646343A (zh) 车辆检测装置
Kang et al. Accurate fruit localisation using high resolution LiDAR-camera fusion and instance segmentation
CN107767424A (zh) 多相机系统的标定方法、多相机系统及终端设备
CN112097732A (zh) 一种基于双目相机的三维测距方法、系统、设备及可读存储介质
CN114049557A (zh) 一种基于深度学习的垃圾分选机器人视觉识别方法
CN102879404B (zh) 工业结构化场景中医用胶囊缺陷自动检测的系统
CN113888618B (zh) 一种物体单件分离方法与系统
CN108377374A (zh) 用于产生与图像相关的深度信息的方法和系统
CN114331986A (zh) 一种基于无人机视觉的坝体裂纹识别与测量方法
CN1360440A (zh) 一种微型实时立体视觉机
CN114241269A (zh) 一种用于岸桥自动控制的集卡视觉融合定位系统
CN204148152U (zh) 大型多品种混搭内衣自动化分拣生产线
CN114324398A (zh) 一种药食品包装标签智能视觉检测系统及检测方法
CN117392423A (zh) 基于激光雷达的目标物的真值数据预测方法、装置及设备
CN116228854B (zh) 一种基于深度学习的包裹自动分拣方法
CN117422858A (zh) 一种双光图像目标检测方法、系统、设备和介质
CN112614176A (zh) 一种带式传送机物料体积测量方法、装置及存储介质
CN113888617B (zh) 一种关联区域多相机物体匹配方法与系统
CN116309882A (zh) 一种面向无人叉车应用的托盘检测和定位方法及系统
CN116630917A (zh) 一种车道线检测方法
CN216655386U (zh) 一种物体分离机

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant