CN113546869B - 物料分选设备、方法以及存储介质 - Google Patents

物料分选设备、方法以及存储介质 Download PDF

Info

Publication number
CN113546869B
CN113546869B CN202010331809.8A CN202010331809A CN113546869B CN 113546869 B CN113546869 B CN 113546869B CN 202010331809 A CN202010331809 A CN 202010331809A CN 113546869 B CN113546869 B CN 113546869B
Authority
CN
China
Prior art keywords
images
image
spliced
camera
horizontal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010331809.8A
Other languages
English (en)
Other versions
CN113546869A (zh
Inventor
王斌
程阵
李亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Meyer Optoelectronic Technology Inc
Original Assignee
Hefei Meyer Optoelectronic Technology Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Meyer Optoelectronic Technology Inc filed Critical Hefei Meyer Optoelectronic Technology Inc
Priority to CN202010331809.8A priority Critical patent/CN113546869B/zh
Publication of CN113546869A publication Critical patent/CN113546869A/zh
Application granted granted Critical
Publication of CN113546869B publication Critical patent/CN113546869B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/34Sorting according to other particular properties
    • B07C5/342Sorting according to other particular properties according to optical properties, e.g. colour
    • B07C5/3422Sorting according to other particular properties according to optical properties, e.g. colour using video scanning devices, e.g. TV-cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/36Sorting apparatus characterised by the means used for distribution
    • B07C5/363Sorting apparatus characterised by the means used for distribution by means of air
    • B07C5/365Sorting apparatus characterised by the means used for distribution by means of air using a single separation means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Sorting Of Articles (AREA)

Abstract

本发明公开了一种物料分选设备、方法及存储介质,所述设备包括输送机构;剔除机构,用于剔除输送机构上输送的物料;至少两种相机,每种相机均为多个,每种相机均沿输送机构的宽度方向依次设置在输送机构上所输送物料的一侧,各相机均用于采集物料图像,其中,输送机构的宽度方向与输送机构的物料输送方向垂直;数据处理器,数据处理器与剔除机构、各相机分别连接,用于对各相机采集的物料图像进行数据处理,以识别出需剔除的物料,以及控制剔除机构剔除需剔除的物料。该物料分选设备,能够提高物料的预测识别精度,进而能够提高物料分选的准确性。

Description

物料分选设备、方法以及存储介质
技术领域
本发明涉及物料分选技术领域,尤其涉及一种物料分选设备、方法及存储介质。
背景技术
目前,在物料(如塑料瓶)分选技术中,因物料与背景部分重叠,无法准确提取物料轮廓,在物料多时无法很好的解决物料粘连的问题,使得物料分选机器的工作效率低,分选准确率不高。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的第一个目的在于提出一种物料分选设备,以提高物料的预测识别精度,同时提高物料分选的准确率。
本发明的第二个目的在于提出一种物料分选方法。
本发明的第三个目的在于提出一种计算机可读存储介质。
为了实现上述目的,本发明第一方面实施例提出了一种物料分选设备,该设备包括输送机构;剔除机构;至少两种相机,每种相机均为多个,每种相机均沿所述输送机构的宽度方向依次设置在所述输送机构上所输送物料的一侧,各相机均用于采集物料图像,其中,所述输送机构的宽度方向与所述输送机构的物料输送方向垂直;数据处理器,所述数据处理器与所述剔除机构、各所述相机分别连接,用于对各所述相机采集的物料图像进行拼接处理得到拼接图像,并利用深度学习算法对所述拼接图像进行物料识别,以识别出需剔除的物料,以及控制所述剔除机构剔除所述需剔除的物料。
根据本发明的物料分选设备,通过至少两种相机采集输送机构上输送的物料图像,进而对所采集到的图像进行拼接处理得到拼接图像,并利用深度学习算法对所述拼接图像进行物料识别,以识别出需剔除的物料。由此,该设备能够提高物料的预测识别精度,进而能够提高物料分选的准确性。
为达上述目的,本发明第二方面实施例提出了一种物料分选方法,该方法用于上述实施例的物料分选设备,该方法包括以下步骤:获取各相机采集的物料图像;对各相机采集的物料图像进行拼接处理得到拼接图像;利用深度学习算法对所述拼接图像进行物料识别,以识别出需剔除的物料;控制所述剔除机构剔除所述需剔除的物料。
根据本发明实施例的物料分选方法,首先对至少两种相机所获取的物料图像拼接处理得到拼接图像,再利用深度学习算法随拼接图像进行物料识别,由此可准确识别出需剔除的物料,进而控制剔除机构可准确将需剔除的物料剔除。
为达上述目的,本发明第三方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时,实现如上述实施例所述的物料分选方法。
根据本发明实施例的计算机可读存储介质,在其上存储的与上述实施例所述的物料分选方法对应的程序被处理器执行时,能够提高物料的预测识别精度,同时提高物料分选的准确率。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是本发明实施例的物料分选设备的结构示意图;
图2是本发明一个示例的图像横向拼接过程的示意图;
图3是本发明一个示例的图像纵向拼接过程的示意图;
图4是本发明一个示例的物料拼接图像的示意图;
图5是本发明一个示例的预测图像选取过程的示意图;
图6是本发明另一个示例的物料拼接图像的示意图;
图7是本发明一个示例的识别结果的示意图;
图8是本发明一个示例的数据融合过程的示意图;
图9是本发明实施例的物料分选方法的流程图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的物料分选设备、方法及存储介质。
图1是本发明实施例的物料分选设备的结构示意图。
在该实施例中,如图1所示,物料分选设备100包括输送机构10、剔除机构20、至少两种相机30和数据处理器40。其中,物料分选设备100可以是整瓶机,用于分选瓶子。
参见图1,输送机构10可包括输送带,用于输送物料,如塑料瓶。
在该实施例中,每种相机均为多个,每种相机均沿输送机构10的宽度方向依次设置在输送机构10上所输送物料的一侧,各相机均用于采集物料图像,其中,输送机构10的宽度方向与输送机构10的物料输送方向垂直。在图1中示出了相机30包括两种,分别为第一相机和第二相机,其中,多个第一相机分别为第一个第一相机301、第二个第一相机302、…、第n个第一相机30n;多个第二相机分别为第一个第二相机311、第二个第二相机312、…、第n个第二相机31n。
可选地,至少两种相机可包括可见光相机、红外相机、X光相机中的至少两种,其中,可见光相机采集的图像可用于识别物料的颜色,红外相机采集的物料图像可用于识别物料的材质,如PET、非PET材质,X光相机采集的物料图像可用于识别物料的内部缺陷。由此,通过至少两种相机的设置即可识别出同一物料的至少两种类别,有利于物料的分选。
数据处理器40与剔除机构20、各相机分别连接,用于对各相机采集的物料图像进行拼接处理得到拼接图像,并利用深度学习算法对拼接图像进行物料识别,以识别出需剔除的物料,以及控制剔除机构20剔除需剔除的物料。
该物料分选设备,通过对至少两种相机采集的多个图像进行拼接处理得到拼接图像,进而利用深度学习算法对拼接图像进行物料识别,以识别出需剔除的物料。由此,该设备能够提高物料的预测识别精度,进而能够提高物料分选的准确性。
在本发明的一个实施例中,参见图1,剔除机构20包括多个喷嘴,多个喷嘴沿输送机构10宽度方向依次设置。其中,输送机构10上的第一个喷嘴和最后一个喷嘴可以作为相机拍摄视域的起始位置和终止位置。
在该实施例中,各喷嘴上可均设置有机械件,该机械件是可拆卸安装的,数据处理器40还用于:在输送机构10输送物料前,根据各相机采集的物料图像中的机械件,确定物料图像中喷嘴对应图像的像素位置;以及在输送机构10输送物料时,基于喷嘴对应图像的像素位置,对各相机采集的物料图像进行拼接处理。
作为一个示例,参见图1,物料分选设备100包括两种相机,分别记为第一相机和第二相机。需要说明的是,因每一种相机的视域、焦距不同,有效像素区域也不同,但实际分选过程中需要同一个物料出现在的横向坐标基本一致,以实现物料准确剔除,如可见光图像识别出的剔除、红外图像识别出的保留,可以将各相机与喷嘴布局如图1所示,以使第一相机与第二相机一一对应,保证第一相机与其对应的第二相机采集的物料图像的视域交叠尽可能的多。
在该示例中,基于喷嘴对应图像的像素位置,对各相机采集的物料图像进行拼接处理,可包括:在输送机构10输送物料时,基于喷嘴对应图像的像素位置,截取各第一相机和各第二相机采集的物料图像的有效像素区域,其中,相邻两第一相机对应的有效像素区域无重叠区域,相邻两第二相机对应的有效像素区域无重叠区域,且所有第一相机对应的有效像素区域覆盖的物料区域,与所有第二相机对应的有效像素区域覆盖的物料区域完全重叠;将各第一相机对应的有效像素区域进行横向拼接得到第一个第一横拼图像,将各第二相机对应的有效像素区域进行横向拼接得到第二个第二横拼图像;对第一个第一横拼图像进行横向缩放处理,将经过缩放处理的第一个第一横拼图像和第二个第一横拼图像记为第一个第二横拼图像和第二个第二横拼图像,其中,第一个第二横拼图像与第二个第二横拼图像的宽度相同;将第一个第二横拼图像与第二个第二横拼图像进行纵向拼接得到拼接图像。
举例而言,假设物料分选设备100仅包括图1中的左侧的三个第一相机和三个第二相机,且第一相机为可见光相机、第二相机为红外相机。为保证可见光相机视域与红外相机视域的起始、终止位置相同,按照起始喷嘴(喷嘴1)和终止喷嘴(喷嘴5)进行有效像素区域的提取,从而降低拼接处理后的位置偏差,具体处理流程如下:
步骤1:截取每个相机(可见光、红外)的有效像素区域。
具体地,确定相邻两可见光(红外)相机视域有交叠的喷嘴,即对应图1中的喷嘴2(第一相机301与第一相机302视域交叠区域的喷嘴)、喷嘴3(第二相机311和第二相机312视域交叠区域的喷嘴)和喷嘴4(第一相机302和第一相机303、第二相机312和第二相机313视域交叠区域的喷嘴)。
在对应喷嘴上安装定制机械件,该机械件与相机视域垂直,可将喷嘴位置对应显示到相机采集的图像中,通过图像中的上升沿或下降沿获取喷嘴对应图像的像素位置。如图1中第一相机301的有效像素区域为喷嘴1的像素位置至喷嘴2的像素位置,依次类推。
步骤2:将截取后的有效像素区域分可见光、红外进行横向拼接(如图2所示)。
其中,三张可见光图像拼接得到第一个第一横拼图像,三张红外图像拼接得到第二个第一横拼图像。
步骤3:将两种类型图像的宽度进行统一(如图3所示)。
具体地,计算第一个第一横拼图像和第二个第一横拼图像的宽度比例,并按照该比例将第一个第一横拼图像进行缩放处理,将经过缩放处理的第一个第一横拼图像和第二个第一横拼图像记为第一个第二横拼图像和第二个第二横拼图像,其中,第一个第二横拼图像与第二个第二横拼图像的尺寸(宽度)相同。当然,也可按照比例对第二个第一横拼图像进行缩放处理,以使处理后的图像与第一个第一横拼图像的尺寸(宽度)相同;也可将第一个第一横拼图像、第二个第一横拼图像均缩放处理至预设宽度。
步骤4:将各第二横拼图像进行纵向拼接。
其中,可在拼接处增加背景区域(实际应用数据如图4所示),以防止第一个第二横拼图像、第二个第二横拼图像拼接处的误识别。
作为一个示例,在对第二相机采集的物料图像进行横向拼接之前,对第二相机采集的物料图像进行拋行处理,以降低第二相机采集的物料图像的帧频。
具体地,各相机采集的物料图像横向分辨率均相同,例如可以是512,帧频为5K。实际处理时,为降低图像分辨率,提高运算效率,同时在不影响识别率的前提下,数据处理器40可将第二相机采集的物料图像进行抛行处理,即隔一行抛一行,将帧频降至2.5K。通过抛行处理,可以减少数据的冗余,从而提高计算效率。需要说明的是,图3、图4中示出下排的第二图像、第三图像均为拋行处理后的图像。
作为一个示例,根据各第二横拼图像得到拼接图像,还可包括:对上一次得到的各第二横拼图像中的后mi行数据和当前得到的各第二横拼图像中的ni行数据进行纵向拼接,记经本步骤处理得到的图像和未经本步骤处理的第二横拼图像为第三横拼图像,其中,ni表示第i个第二横拼图像的总行数,mi、ni均为正数,且m1/n1=…=mi/ni=…=mM/nM<1,M为相机的种类数,i=1,2,…,M。
类似的,可在各第三横拼图像之间的拼接处设置背景区域,以防止拼接处的误识别。
具体而言,数据处理器40每采集ni行数据进行一次预测,预测图像为当前采集的ni行数据加上一个ni行的最后mi行(mi<ni)数据,该处理方式可保证物料被分割时较为完整的显示在一幅图像中(如图5所示,图5中mi=m,ni=n),由此可提高算法的识别精度。
其中,ni的取值越大,物料被分割的比例就越低,对识别的影响就越小;mi的取值越大,被分割的瓶子完整出现在图5中图像1或图像2中的概率就越大,当ni大于最大尺寸物料如瓶子的长度且mi大于ni/2时,即能保证每个瓶子可完整出现在同一图像中。
但实际应用时,ni和mi的取值受制于物料从视点运动到剔除机构20的时间及数据处理器40算法运算耗时的影响,一是要保证ni行图像采集加(ni+mi)行图像预测时间不能超过物料从视点运动到剔除机构20的时间,否则在物料到达剔除机构20时无法正确执行剔除动作;二是(ni+mi)行图像预测的耗时要小于ni行图像采集的耗时,才能保证下一幅ni行图像到来时,上一幅图像已计算完毕。数据处理器40实际处理的预测图像如图6所示,需要指出的是,图6中的红外图像为经拋行处理后的图像,故在得到拼接图像时,取上一幅红外图像的mi/2行数据,当前的红外图像包含ni/2行数据(图6中mi=m,ni=n)。
作为一个示例,利用深度学习算法对拼接图像进行物料识别,以识别出需剔除的物料,包括:利用深度学习算法对拼接图像进行物料识别,以从拼接图像中的各横拼图像中识别出目标区域,以及目标区域对应的目标类别,再根据个目标区域在对应横拼图像中的位置,计算各横拼图像中目标区域的重叠面积,最后根据重叠面积及其对应的目标区域和目标类别确定所需要剔除的物料。
具体实施时,可以在拼接图像的每个横拼图像中识别出所有物料区域,每个物料区域即为一个目标区域,针对每个横拼图像可以根据物料不同的性质来判断其类别,例如,拼接图像为可见光图像,则可以识别其中的目标区域的颜色类别,可以包括蓝色、红色等等,拼接图像为红外光图像,则可以识别其中的目标区域的材质类别,可以包括PET材质和非PET材质;按照各个目标区域在各横拼图像中的位置,该过程可以将各横拼图像的尺寸进行统一,将各横拼图像对齐,计算各横拼图像中目标区域的重叠面积,例如,拼接图像包括三个横拼图像,从三个横拼图像中分别取一个目标区域,计算它们的重叠区域,遍历所有目标区域,然后根据重叠面积、目标区域和对应的目标类别确定需要剔除的物料。通过拼接图像快速实现对物料多种属性的识别,以及根据识别结果进行分类,提高了识别分选效率。
本发明采用的深度学习算法属于有监督学习,需要通过已有的训练样本得到一个最优模型,再利用这个模型将所有的输入映射为相应的输出,对输出进行简单的判断从而实现预测和分类。具体实施时,需先在设备上拍摄物料图像即获取样本,图片经过合并拼接处理后进行物料的人工标注,标注信息包括物料的类别及区域,以可见光和红外的拼接图像为例,可见光图像标记物料的颜色类别,红外图像标记物料的材质类别;标注完成后将图像及标注信息输入至深度学习神经网络,通过不断的迭代优化训练出最优模型;设备运行时,会将实时图像输入该模型,从而预测出物料的类别及区域。
在本发明的一个实施例中,物料分选设备包括两种相机,目标类别包括第一物料类别和第二物料类别,对应的目标区域包括第一识别区域和第二识别区域。
在该实施例中,利用深度学习算法对拼接图像进行物料识别,以从拼接图像中的各横拼图像中识别出目标区域,以及目标区域对应的目标类别,可包括:利用深度学习算法对拼接图像进行物料识别,以从拼接图像的一个横拼图像中识别出第一识别区域和第一识别区域对应的第一物料类别,从拼接图像的另一个横拼图像中识别第二识别区域和第二识别区域对应的第二物料类别;根据各目标区域在对应横拼图像中的位置,计算各横拼图像中目标区域的重叠面积,可包括:根据第一识别区域对应横拼图像中的位置,第二识别区域对应横拼图像中的位置,计算第一识别区域与第二识别区域的重叠面积;根据重叠面积及其对应的目标区域和目标类别,确定所需剔除的物料,可包括:将重叠面积与预设阈值进行比对,并根据比对结果、第一物料类别和第二物料类别确定需剔除的物料。
具体地,根据比对结果、第一物料类别和第二物料类别确定需剔除的物料,可包括:获取目标剔除任务,其中,目标剔除任务为剔除第一类别和第二类别的物料;如果第一物料类别不为第一类别,则确定第一物料类别的物料不为需剔除的物料;如果所述重叠面积大于0,对应的第一识别区域的第一物料类别为第一类别,且对应的第二识别区域的第二物料类别为第二类别,则确定第一识别区域的物料为需剔除的物料;如果所述重叠面积大于0,对应的第一识别区域的第一物料类别为第一类别,且对应的第二识别区域的第二物料类别不为第二类别,且重叠面积小于预设阈值,则确定第一识别区域中非重叠区域中的物料为需剔除的物料;如果对应的第一识别区域的第一物料类别为第一类别,且对应的第二识别区域的第二物料类别不为第二类别,且重叠面积大于或者等于预设阈值,则确定第一识别区域的物料不为需剔除的物料。
具体而言,得到拼接图像后,数据处理器40可利用深度学习算法对拼接图像中的物料进行预设识别。以可见光图像、红外图像为例,可见光图像负责颜色识别,可分为透明、蓝、绿、瓷白及杂色;红外图像负责材质识别,可分为PET及非PET。实际分选中,为保证成品的选净率,考虑到碎标签、瓶盖等不易剔除物料的影响,可选择剔除好料。
物料分选设备100对应的上位机界面,可提供各类别物料剔除或保留的选择,用户可根据实际需要设置剔除或保留的物料,以剔除蓝瓶且保留非PET为例,即需剔除的物料为可见光图像识别出是蓝色且对应红外图像识别出的材质不为非PET,具体处理流程如下:
步骤1:分别获取可见光图像(即上述的一个第三横拼图像)的物料类别Ccolor及识别区域Rcolor和红外图像(即上述的另一个第三横拼图像)的物料类别Cinfra及识别区域Rinfra(如图7所示)。
步骤2:将红外图像纵向拉伸(保持与可见光图像相同的宽高比)后与可见光图像进行数据融合(如图8所示)。
具体地,数据融合,即将相同宽高比的可见光图像、红外图像位置对齐,计算每个物料区域的重叠面积,例如,包括可以计算后续的蓝瓶方框与非PET方框的重叠面积。
步骤3:根据两者的类别及重叠区域进行剔除数据的计算。
具体地,令IOU(Rcolor,Rinfra)为可见、红外拼接后的重叠区域,p为设定的重叠区域阈值。若Ccolor不为蓝瓶,则不剔除;若重叠面积大于0,Ccolor为蓝瓶且Cinfra为PET,则剔除Rcolor区域中的物料;若重叠面积大于0,Ccolor为蓝瓶且Cinfra为非PET且IOU(Rcolor,Rinfra)<p,则保留Rcolor和Rinfra重叠的区域,其它Rcolor区域的物料仍然剔除;若Ccolor为蓝瓶且Cinfra为非PET且IOU(Rcolor,Rinfra)≥p,则不剔除。其中,在确定出需剔除的物料后,数据处理器40可控制剔除机构20中与确定出的需剔除的物料对应的喷嘴喷气,以将确定出的需剔除的物料剔除。
针对预先设置的是剔除蓝色且不为非PET的物料,上述方式(记为方式一)可见光图像中框选出的是蓝瓶,红外图像中框选出的是非PET瓶子,对应的非重叠区域为需剔除的物料。对应的,如果可见光图像中框选出的是蓝瓶,红外图像中框选出的是PET瓶子,则可在重叠面积大于预设阈值p的时候,剔除对应蓝瓶,该方式记为方式二。
上述两种方式均可以实现剔除蓝色且不为非PET的物料,但方式一相较于方式二存在如下优点:
第一,由于提取可见光和红外有效像素区域时有一定偏差,导致瓶子在可见光和红外区域的横坐标不能完全对应,再加上算法识别物料框的误差,导致方式二中的阈值不能设置太高,若降低阈值,则会在多个瓶子靠近或粘连时误剔除出非PET瓶,而非PET瓶属于恶杂,将严重影响成品质量;
第二,实际分选时,PET瓶占比大(98%左右),但在红外图像中有小部分PET瓶无法识别,若选择方式二,则会有一定比例漏选,严重影响带出比(即坏料中好料的占比,比例越高,带出比越差,其中,默认剔除出去的是好料,不剔除的是坏料)。
因此,实际分选时,若设置剔除蓝色且不为非PET的物料,则可采用上述方式一进行分选。
综上,本发明实施例的物料分选设备,能够提高物料的预测识别精度,同时提高物料分选的准确率。
图9是本发明一个实施例的物料分选方法的流程图。
在该实施例中,物料分选方法用于上述实施例的物料分选设备。
如图9所示,物料分选方法包括以下步骤:
S10,获取各相机采集的物料图像。
S20,对各相机采集的物料图像进行拼接处理得到拼接图像。
作为一个示例,剔除机构包括多个喷嘴,多个喷嘴沿输送机构依次设置,各喷嘴上均设置有可拆卸安装的机械件,物料分选方法还可包括:在输送机构输送物料前,根据各相机采集的物料图像中的机械件,确定物料图像中喷嘴对应图像的像素位置。
在本发明的一个实施例中,对各相机采集的物料图像进行拼接处理得到拼接图像,可包括:在输送机构输送物料时,基于喷嘴对应图像的像素位置,截取各相机采集的物料图像的有效像素区域,其中,每种相机的相邻两相机对应的有效像素区域无重叠区域,且每种相机对应的有效像素区域覆盖的物料区域一致;将每种相机对应的有效像素区域进行横向拼接得到多个第一横拼图像,其中,每个第一横拼图像对应一种相机;对多个第一横拼图像中的至少一个进行横向缩放处理,其中,记经横向缩放和未经横向缩放的第一横拼图像为第二横拼图像,各第二横拼图像的横向尺寸(宽度)相同;根据各第二横拼图像得到拼接图像。
在该实施例中,作为一个示例,根据各第二横拼图像得到拼接图像,可包括:将各第二横拼图像进行纵向拼接得到拼接图像,相邻两个第二横拼图像之间无间隔拼接,或者间隔背景区域拼接。
举例而言,物料分选设备可包括两种相机,分别记为第一相机和第二相机。具体地,对各相机采集的物料图像进行拼接处理得到拼接图像,可包括:在输送机构输送物料时,基于喷嘴对应图像的像素位置,截取各第一相机和各第二相机采集的物料图像的有效像素区域,其中,相邻两第一相机对应的有效像素区域无重叠区域,相邻两第二相机对应的有效像素区域无重叠区域,且所有第一相机对应的有效像素区域覆盖的物料区域,与所有第二相机对应的有效像素区域覆盖的物料区域完全重叠;将各第一相机对应的有效像素区域进行横向拼接得到第一个第一横拼图像,将各第二相机对应的有效像素区域进行横向拼接得到第二个第一横拼图像;对第一个第一横拼图像进行横向缩放处理,将经过缩放处理的第一个第一横拼图像和第二个第一横拼图像记为第一个第二横拼图像和第二个第二横拼图像,其中,第一个第二横拼图像与第二个第二横拼图像的宽度相同;将第一个第二横拼图像与第二个第二横拼图像进行纵向拼接得到拼接图像。
作为另一个示例,根据各第二横拼图像得到拼接图像,可包括:对上一次得到的各第二横拼图像中的后mi行数据和当前得到的各第二横拼图像中的ni行数据进行纵向拼接,记经本步骤处理得到的图像和未经本步骤处理的第二横拼图像为第三横拼图像,其中,ni表示第i个第二横拼图像的总行数,mi、ni均为正数,且m1/n1=…=mi/ni=…=mM/nM<1,M为相机的种类数,i=1,2,…,M。
在该实施例中,作为一个示例,根据各第三横拼图像得到拼接图像,可包括:将各第三横拼图像进行纵向拼接得到拼接图像,相邻两个第三横拼图像之间无间隔拼接,或者间隔背景区域拼接。
可选地,可对至少一种相机采集的物料图像进行拋行处理,以降低至少一种相机采集的物料图像的帧频。例如,物料分选设备包括第一相机和第二相机时,在对第二相机采集的物料图像进行横向拼接之前,对第二相机采集的物料图像进行拋行处理,以降低第二相机采集的物料图像的帧频。
S30,利用深度学习算法对拼接图像进行物料识别,以识别出需剔除的物料。
具体地,利用深度学习算法对拼接图像进行物料识别,以从拼接图像中的各横拼图像中识别出目标区域,以及目标区域对应的目标类别,再根据个目标区域在对应横拼图像中的位置,计算各横拼图像中目标区域的重叠面积,最后根据重叠面积及其对应的目标区域和目标类别确定所需要剔除的物料。
在本发明的一个实施例中,物料分选设备包括两种相机,目标类别包括第一物料类别和第二物料类别,对应的目标区域包括第一识别区域和第二识别区域。
在该实施例中,利用深度学习算法对拼接图像进行物料识别,以从拼接图像中的各横拼图像中识别出目标区域,以及目标区域对应的目标类别,包括:利用深度学习算法对拼接图像进行物料识别,以从拼接图像的一个横拼图像中识别出第一识别区域和第一识别区域对应的第一物料类别,从拼接图像的另一个横拼图像中识别第二识别区域和第二识别区域对应的第二物料类别;根据各目标区域在对应横拼图像中的位置,计算各横拼图像中目标区域的重叠面积,包括:根据第一识别区域对应横拼图像中的位置,第二识别区域对应横拼图像中的位置,计算第一识别区域与第二识别区域的重叠面积;根据重叠面积及其对应的目标区域和目标类别,确定所要剔除的物料,包括:将重叠面积与预设阈值进行比对,并根据比对结果、第一物料类别和第二物料类别确定需剔除的物料。
其中,根据比对结果、第一物料类别和第二物料类别确定需剔除的物料,包括:获取目标剔除任务,其中,目标剔除任务为剔除第一类别和第二类别的物料;如果第一物料类别不为第一类别,则确定第一物料类别的物料不为需剔除的物料;如果重叠面积大于0,第一物料类别为第一类别且对应的第二物料类别为第二类别也就是对应的第一识别区域的第一物料类别为第一类别,对应的第二识别区域的第二物料类别为第二类别,则确定第一识别区域的物料为需剔除的物料;如果重叠面积大于0,第一物料类别为第一类别且对应的第二物料类别不为第二类别也就是对应的第一识别区域的第一物料类别为第一类别,对应的第二识别区域的第二物料类别为不为第二类别,且重叠面积小于预设阈值,则确定第一识别区域中非重叠区域中的物料为需剔除的物料;如果重叠面积大于0,第一物料类别为第一类别且对应的第二物料类别不为第二类别也就是对应的第一识别区域的第一物料类别为第一类别,对应的第二识别区域的第二物料类别为不为第二类别,且重叠面积大于或者等于预设阈值,则确定第一识别区域的物料不为需剔除的物料。
S40,控制剔除机构剔除需剔除的物料。
需要说明的是,本发明实施例的物料分选方法的其他具体实施方式可参见上述实施例的物料分选设备的具体实施方式。
综上,本发明实施例的物料分选方法,能够提高物料的预测识别精度,同时提高物料分选的准确率。
进一步地,本发明提出了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时,实现上述实施例中的物料分选方法。
本发明实施例的计算机可读存储介质,在其上存储的与上述物料分选方法对应的计算机程序被处理器执行时,能够提高物料的预测识别精度,同时提高物料分选的准确率。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触,或第一和第二特征通过中间媒介间接接触。而且,第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (12)

1.一种物料分选设备,其特征在于,包括:
输送机构;
剔除机构;所述剔除机构包括多个喷嘴,多个所述喷嘴沿所述输送机构宽度方向依次设置;
至少两种相机,每种相机均为多个,每种相机均沿所述输送机构的宽度方向依次设置在所述输送机构上所输送物料的一侧,各相机均用于采集物料图像,其中,所述输送机构的宽度方向与所述输送机构的物料输送方向垂直;
数据处理器,所述数据处理器与所述剔除机构、各所述相机分别连接,用于对各所述相机采集的物料图像进行拼接处理得到拼接图像,并利用深度学习算法对所述拼接图像进行物料识别,以识别出需剔除的物料,以及控制所述剔除机构剔除所述需剔除的物料,其中,所述对各所述相机采集的物料图像进行拼接处理得到拼接图像,包括:
基于所述喷嘴对应图像的像素位置,截取各所述相机采集的物料图像的有效像素区域,其中,每种相机的相邻两相机对应的有效像素区域无重叠区域,且每种相机对应的有效像素区域覆盖的物料区域一致;
将每种相机对应的有效像素区域进行横向拼接得到多个第一横拼图像,其中,每个第一横拼图像对应一种相机;
对所述多个第一横拼图像中的至少一个进行横向缩放处理,其中,记经横向缩放和未经横向缩放的第一横拼图像均为第二横拼图像,以使各所述第二横拼图像横向尺寸相同;
根据各所述第二横拼图像得到所述拼接图像;
所述根据各所述第二横拼图像得到所述拼接图像,包括:
将各所述第二横拼图像进行纵向拼接得到所述拼接图像。
2.如权利要求1所述的物料分选设备,其特征在于,各所述喷嘴上均可拆卸安装有机械件,所述数据处理器还用于:
在所述输送机构输送物料前,根据各相机采集的物料图像中的机械件,确定所述物料图像中喷嘴对应图像的像素位置;以及
在所述输送机构输送物料时,基于所述喷嘴对应图像的像素位置,对各所述相机采集的物料图像进行拼接处理。
3.如权利要求1所述的物料分选设备,其特征在于,所述至少两种相机包括可见光相机、红外相机、X光相机中的至少两种。
4.一种物料分选方法,其特征在于,所述物料分选方法用于如权利要求1-3中任一项所述的物料分选设备,所述物料分选方法包括以下步骤:
获取各相机采集的物料图像;
对各相机采集的物料图像进行拼接处理得到拼接图像;
利用深度学习算法对所述拼接图像进行物料识别,以识别出需剔除的物料;
控制所述剔除机构剔除所述需剔除的物料;
其中,所述剔除机构包括多个喷嘴,多个所述喷嘴沿所述输送机构宽度方向依次设置,所述对各相机采集的物料图像进行拼接处理得到拼接图像,包括:
基于所述喷嘴对应图像的像素位置,截取各所述相机采集的物料图像的有效像素区域,其中,每种相机的相邻两相机对应的有效像素区域无重叠区域,且每种相机对应的有效像素区域覆盖的物料区域一致;
将每种相机对应的有效像素区域进行横向拼接得到多个第一横拼图像,其中,每个第一横拼图像对应一种相机;
对所述多个第一横拼图像中的至少一个进行横向缩放处理,其中,记经横向缩放和未经横向缩放的第一横拼图像为第二横拼图像,以使各所述第二横拼图像横向尺寸相同;
根据各所述第二横拼图像得到所述拼接图像;
所述根据各所述第二横拼图像得到所述拼接图像,包括:
将各所述第二横拼图像进行纵向拼接得到所述拼接图像。
5.如权利要求4所述的物料分选方法,其特征在于,相邻两个第二横拼图像之间无间隔拼接,或间隔背景区域拼接。
6.如权利要求4所述的物料分选方法,其特征在于,所述根据各所述第二横拼图像得到所述拼接图像,包括:
对上一次得到的各第二横拼图像中的后mi行数据和当前得到的各第二横拼图像中的ni行数据进行纵向拼接,记经本步骤处理得到的图像和未经本步骤处理的第二横拼图像为第三横拼图像,其中,ni表示第i个第二横拼图像的总行数,mi、ni均为正数,且m1/n1=…=mi/ni=…=mM/nM<1,M为相机的种类数,i=1,2,…,M;
将各所述第三横拼图像进行纵向拼接得到所述拼接图像,相邻两个第三横拼图像之间无间隔拼接,或间隔背景区域拼接。
7.如权利要求4所述的物料分选方法,其特征在于,所述方法还包括:对至少一种所述相机采集的物料图像进行拋行处理,以降低至少一种所述相机采集的物料图像的帧频。
8.如权利要求4-7中任一项所述的物料分选方法,其特征在于,所述利用深度学习算法对所述拼接图像进行物料识别,以识别出需剔除的物料,包括:
利用深度学习算法对所述拼接图像进行物料识别,以从所述拼接图像中的各横拼图像中识别出目标区域,以及所述目标区域对应的目标类别;
根据各所述目标区域在对应横拼图像中的位置,计算各横拼图像中目标区域的重叠面积;
根据所述重叠面积及其对应的目标区域和目标类别,确定所需剔除的物料。
9.如权利要求8所述的物料分选方法,其特征在于,所述物料分选设备包括两种相机,所述目标类别包括第一物料类别和第二物料类别,对应的目标区域包括第一识别区域和第二识别区域;
所述利用深度学习算法对所述拼接图像进行物料识别,以从所述拼接图像中的各横拼图像中识别出目标区域,以及所述目标区域对应的目标类别,包括:
利用深度学习算法对所述拼接图像进行物料识别,以从所述拼接图像的一个横拼图像中识别出所述第一识别区域和所述第一识别区域对应的所述第一物料类别,从所述拼接图像的另一个横拼图像中识别所述第二识别区域和所述第二识别区域对应的所述第二物料类别;
所述根据各所述目标区域在对应横拼图像中的位置,计算各横拼图像中目标区域的重叠面积,包括:
根据所述第一识别区域对应横拼图像中的位置,所述第二识别区域对应横拼图像中的位置,计算所述第一识别区域与所述第二识别区域的重叠面积;
所述根据所述重叠面积及其对应的目标区域和目标类别,确定所需剔除的物料,包括:
将所述重叠面积与预设阈值进行比对,并根据比对结果、所述第一物料类别和所述第二物料类别确定所述需剔除的物料。
10.如权利要求9所述的物料分选方法,其特征在于,所述根据比对结果、所述第一物料类别和所述第二物料类别确定所述需剔除的物料,包括:
获取目标剔除任务,其中,所述目标剔除任务为剔除第一类别和第二类别的物料;
如果所述重叠面积大于0,所述第一物料类别为所述第一类别,且对应的所述第二物料类别为所述第二类别,则确定所述第一识别区域的物料为所述需剔除的物料;
如果所述重叠面积大于0,所述第一物料类别为所述第一类别,对应的所述第二物料类别不为所述第二类别,且所述重叠面积小于所述预设阈值,则确定所述第一识别区域中非重叠区域中的物料为所述需剔除的物料。
11.如权利要求4-7中任一项所述的物料分选方法,其特征在于,各所述喷嘴上均可拆卸安装有机械件,所述方法还包括:
在所述输送机构输送物料前,根据各相机采集的物料图像中的机械件,确定所述物料图像中喷嘴对应图像的像素位置。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现如权利要求4-10中任一项所述的物料分选方法。
CN202010331809.8A 2020-04-24 2020-04-24 物料分选设备、方法以及存储介质 Active CN113546869B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010331809.8A CN113546869B (zh) 2020-04-24 2020-04-24 物料分选设备、方法以及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010331809.8A CN113546869B (zh) 2020-04-24 2020-04-24 物料分选设备、方法以及存储介质

Publications (2)

Publication Number Publication Date
CN113546869A CN113546869A (zh) 2021-10-26
CN113546869B true CN113546869B (zh) 2022-12-23

Family

ID=78101226

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010331809.8A Active CN113546869B (zh) 2020-04-24 2020-04-24 物料分选设备、方法以及存储介质

Country Status (1)

Country Link
CN (1) CN113546869B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114749393B (zh) * 2022-05-18 2024-01-19 安徽唯嵩光电科技有限公司 一种双相机物料识别单元、识别系统及色选机
CN115178496A (zh) * 2022-07-11 2022-10-14 合肥美亚光电技术股份有限公司 输送装置、分选设备
CN117755760A (zh) * 2023-12-27 2024-03-26 广州市智汇诚信息科技有限公司 一种应用于送料器的视觉选料方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101562706B (zh) * 2009-05-22 2012-04-18 杭州华三通信技术有限公司 一种图像拼接方法和设备
CN103813154B (zh) * 2012-11-15 2016-12-21 展讯通信(上海)有限公司 多视点图像获取方法、装置及三维照相机、三维摄像机
CN105957012A (zh) * 2016-05-31 2016-09-21 青岛海信移动通信技术股份有限公司 一种图片拼接方法及移动终端
CN105957015B (zh) * 2016-06-15 2019-07-12 武汉理工大学 一种螺纹桶内壁图像360度全景拼接方法及系统
CN107661862B (zh) * 2016-07-27 2020-11-03 边隆祥 快递自动分拣阵列式照相机系统
CN108340509B (zh) * 2018-02-11 2019-11-15 合肥美亚光电技术股份有限公司 物料分选系统和物料分选方法
CN109544527B (zh) * 2018-11-16 2021-08-03 凌云光技术股份有限公司 一种基于硬卡编程的玻璃表面缺陷的检测方法及装置
CN110756457A (zh) * 2019-10-17 2020-02-07 广州乔拓科技有限公司 墙地砖自动识别分类系统及方法
CN113888617A (zh) * 2021-09-30 2022-01-04 北京工业大学 一种关联区域多相机物体匹配方法与系统
CN114289332A (zh) * 2022-01-20 2022-04-08 湖南视比特机器人有限公司 工件分拣的视觉识别与定位方法、装置及分拣系统

Also Published As

Publication number Publication date
CN113546869A (zh) 2021-10-26

Similar Documents

Publication Publication Date Title
CN113546869B (zh) 物料分选设备、方法以及存储介质
CN109242820B (zh) 机器学习装置、检查装置以及机器学习方法
US11774735B2 (en) System and method for performing automated analysis of air samples
CN103150536B (zh) 为了解码尝试而对图像中的码候选排序的方法和装置
US20230196096A1 (en) Deep Learning Platforms for Automated Visual Inspection
US20130222634A1 (en) Systems and methods to analyze an immunoassay test strip comb member
CN105783730A (zh) 螺钉的检测方法、装置、系统及检测机
CN111709948A (zh) 容器瑕疵检测方法和装置
CN110199317A (zh) 使用手持设备对木板的自动检测、计数和测量
CN111776392B (zh) 贴标设备、装置和系统及贴标方法及存储介质
US20220386571A1 (en) Fish counting system, fish counting method, and program
CN113030095A (zh) 一种偏光片外观缺陷检测系统
JP2011112431A (ja) カラーフィルタ表裏欠陥の分別方法、及び分別装置
WO2021041422A1 (en) Ai-powered autonomous 3d printer
EP3699578A1 (en) System for improved fabric inspection
CN117773357A (zh) 一种标签缺陷鉴别、裁切和收集方法以及系统
CN113145473A (zh) 一种水果智能分拣系统及方法
CN114577805A (zh) 一种MiniLED背光面板缺陷检测方法及装置
CN116563276A (zh) 一种化纤长丝在线缺陷检测方法及检测系统
CN115953726A (zh) 机器视觉的集装箱箱面破损检测方法和系统
CN110838107B (zh) 变角度光学视频智能检测3c透明构件缺陷的方法及装置
CN115672778A (zh) 一种智能视觉识别系统
CN106906520A (zh) 电子识别残次蚕茧的方法及其蚕茧筛选系统
JP7159615B2 (ja) 画像処理装置、及び、ロボットシステム
JP6975423B2 (ja) 全周画像生成装置および全周画像生成方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant