CN102639259B - 使用模式识别的检查装置和方法 - Google Patents

使用模式识别的检查装置和方法 Download PDF

Info

Publication number
CN102639259B
CN102639259B CN201080040307.4A CN201080040307A CN102639259B CN 102639259 B CN102639259 B CN 102639259B CN 201080040307 A CN201080040307 A CN 201080040307A CN 102639259 B CN102639259 B CN 102639259B
Authority
CN
China
Prior art keywords
defect
thumbnail
standard
classification
sorting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201080040307.4A
Other languages
English (en)
Other versions
CN102639259A (zh
Inventor
G·哈米德
C·D·马拉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Buller UK Limited
Original Assignee
Buhler Sortex Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Buhler Sortex Ltd filed Critical Buhler Sortex Ltd
Publication of CN102639259A publication Critical patent/CN102639259A/zh
Application granted granted Critical
Publication of CN102639259B publication Critical patent/CN102639259B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/34Sorting according to other particular properties
    • B07C5/342Sorting according to other particular properties according to optical properties, e.g. colour
    • B07C5/3422Sorting according to other particular properties according to optical properties, e.g. colour using video scanning devices, e.g. TV-cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/34Sorting according to other particular properties
    • B07C5/342Sorting according to other particular properties according to optical properties, e.g. colour
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/85Investigating moving fluids or granular solids

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Sorting Of Articles (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

检查装置包括用于将物品流传送到成像区的进料系统。相机在成像区由该流生成图像数据以由计算机处理。计算机包括用于根据图像数据识别区域中的缺陷以及用于对所识别的缺陷分级的模式识别系统。模式识别系统被编程以根据多种缺陷标准来操作。计算机还耦合到图形用户界面以在该界面上将根据图像数据识别的区域显示为缩略图,并且在至少两种缺陷标准中的每一种标准下根据区域中所识别的缺陷的分级来设置所述缩略图。来自所生成的图像数据的区域通常定义为围绕每个所识别的缺陷且以该缺陷为中心。这些区域或缩略图可以重叠。

Description

使用模式识别的检查装置和方法
技术领域
本发明涉及光学分选机,尤其是用于分选诸如谷物、稻米、坚果、豆类、水果和蔬菜等的大批量食品的光学分选机。这类装置的例子在国际专利No.WO98/018574和欧洲专利No.0 838 274的说明书中有所描述,其公开内容结合于此作为参考。在这种类型的分选机中,待分选的颗粒流自由飞行(free flight)传送到分选区,在该分选区通过来自设置于下落路径附近的排出器的通常为空气的气体的吹拂将要去除的物品排出。在这种机器中所需的吞吐量通常由其它场所的加工厂的产率所决定。不过,通常情况下所需的吞吐量是高的,且以每小时的吨数来测量。
也可参考我们在今天递交的基于英国申请No:9012388.6的题为“DefectViewer For Sorting Machines”的国际专利申请,其公开内容结合于此作为参考。
背景技术
食品生产商使用光学分选机将缺陷从产品流中去除,以使得所分选出的产品符合商定的等级或质量标准,同时最大化总产率。质量标准通常针对不同类型的缺陷明确各自的最高污染物水平。例如,在分选稻米时,缺陷会是被昆虫破坏的虫噬粒、白垩粒和黄粒,具有对于这三种污染物的最高水平,即:<0.1%虫噬粒,<1%白垩粒和<0.2%的黄粒。因此,为了优化总产率,操作者的目的在于构建分选装置,以使得分选出的稻米具有刚好低于最高允许水平的这些污染物的浓度。在此使用的术语“缺陷(defect)”应理解为包括被分选的物品上的瑕疵以及基于此原因或彼原因而不令人满意的整个物品,并且包括异物或无关产品。
光学分选机通过使用用于在成像区连续产生产品流中产品的图像的已知技术来识别确定所分选的产品中的缺陷;以及根据在图像中识别的缺陷对排出器发出指令。通常,每个分选标准针对一种不同类型的缺陷。然而,因为物品具有多种类型的缺陷或因为分选标准并不是完全独立的,因此具体的分选标准也可检测另一种类型的缺陷。例如,设计成检测虫噬粒的适于稻米的分选标准也可识别出一些白垩粒和一些黄粒以便去除。此外,即使一种特定标准将通常识别一种类型缺陷的大多数,但其也会错误地将一些良品分类为缺陷。随着分选标准的灵敏度增加,更多的缺陷被去除。然而,这也有可能增加亮品被去除的比例。
导致将良品从产品流无意去除的另一个因素是产品流中产品的密度。在合理的吞吐量下,有缺陷的产品通常由良品包围着,排出器的动作不会实现完美的分离。换言之,当目标在于去除缺陷时,可接受的产品连同有缺陷的产品被去除。即使排出器喷嘴的尺寸小于分选物品的尺寸,也是这种情况。为了确保有缺陷的物品被排出,吹气的大小或其与产品流的交汇区域被扩展以应对有缺陷物品的位置和速度两者的不确定性。该区域可通过多个排出器同时喷射和/或延长吹气的持续时间来扩展。排出器通常设置为横跨产品流一侧的阵列,因此该布置中气体与产品流交汇的区域通过多个排出器同时喷射而横向扩展以及通过吹气的持续时间延长而纵向扩展。
上述问题使操作者难于优化独立分选装置的设置。总是不清楚调整哪种分选标准或条件,即使清楚调整哪种分选标准或条件,也不清楚改变哪些参数或改变多少,或者不清楚是否需要调整吹气与产品流交汇区域的大小。本发明寻求使这样的操作方便。
在计算机视觉领域中,公知的技术是将模式识别系统的输出“背投影”到原始图像数据上。例如,欧洲专利No.0645727A2的说明书(结合于此作为参考)描述了一种装置,用于在X射线图像中突出显示(背投影)已经由计算机辅助诊断系统识别为疑似异常的区域。
在计算机视觉领域中,还公知用于微调模式识别系统的简单而有效的技术是向操作者提供该背投影数据的视觉反馈,同时调节模式识别系统的一个或多个参数;例如由M.Jones和J.Rehg在IEEE计算机学会会议关于计算机视觉与模式识别的论文中所述的“Skin-Tool”,1999年,第1卷,1-280页,其结合于此作为参考。
模式识别系统通常包括用于提取信息的特征提取器和根据给定的标准处理这些信息的分类器。这种系统在美国专利No.3636513和3638188中有所描述,上述专利结合于此作为参考。
在许多工业检查和分选任务中,往往存在不止一种类型的缺陷。在该情况下辅助操作者微调缺陷识别的公知技术是显示根据类型成组布置的所检测到缺陷的图像,例如美国专利7424146(其结合于此作为参考)描述了一种图形用户界面,其使得操作者可以改变一个或多个参数并显示不同组的成员的后续变化。
在许多分选应用中,所需的吞吐量是给定的,因此质量和产量之间进行权衡。美国专利申请2005/0273720A1(其结合于此作为参考)描述了一种实用工具,其用于储存来自一批产品的图像数据,且使得操作者看到根据所识别的缺陷特性(即质量控制)以及排出的项目数目(即产率)来改变模式识别系统的一个或多个参数的效果。
在食品分选机器领域中,英国专利No.2452164A和美国专利No.7298870的说明书(其结合于此作为参考)描述了一种图形用户界面,其用于调整一个或多个分选标准的阈值,同时操作者可看到所存储图像的视图,突出显示所检测到的缺陷的位置且结合有缺陷的谷物轮廓,并突出显示哪些排出器朝谷物喷射。
发明内容
本发明涉及可为上述类型的分选机的一部分的或用于单独分析产品流的检查装置。该装置包括用于将物品流传送到成像区的进料系统以及用于在成像区生成图像数据的相机。计算机处理来自相机的图像数据。根据本发明,计算机包括用于根据图像数据识别区域中的缺陷以及用于对所识别的缺陷分级的模式识别系统,该系统被编程为根据多种缺陷标准进行操作。计算机耦合到图形用户界面以在界面上将来自图像数据的区域显示为子图像或缩略图,且在至少两种缺陷标准中的每一种标准下根据区域内所识别的缺陷的分级来布置该子图像或缩略图。来自所生成的图像数据的区域通常定义为围绕每一个所识别的缺陷且以所述缺陷为中心。这些区域或缩略图可以重叠。
在本发明的一个实施例中,该模式识别系统包括用于从图像数据中提取信息的特征提取器以及用于解释这样的信息的分类器。当一种缺陷标准是形状或尺寸以及具有根据形状的缺陷的缩略图包括相应缺陷或物品的侧影时,可以使用这种系统。
本发明的装置中的计算机通常编程为以灵敏度水平定义每一种标准下的合格分级,并且在显示中以处于相同水平的合格分级顺序地显示所述图像。通常情况下,根据表现出多于一种标准下的缺陷的物品推导出的缩略图仅以以下顺序显示,在所述顺序中分级低于其在至少另一种标准下相对于其合格分级的分级。至少一个灵敏度水平优选是可变的。
根据本发明的装置以下述方式操作,即在图形用户界面上的显示包括未表现出缺陷的缩略图。这可通过调整灵敏度水平使得流中的每一物品有效地构成或具有缺陷来完成。计算机编程为以灵敏度水平定义合格分级的装置也可以这种方式操作,即界面上的显示仅仅示出具有分级为合格分级之下的缺陷的缩略图。
本发明还包括上述装置的变型,其适于检查可由相机感知的多批材料的瑕疵或其它特征。进料系统当然可以不同,并且模式识别系统适于识别该批材料上的缺陷,以在图形用户界面上显示缩略图。
在根据本发明的装置中,计算机通常由物品流生成并处理图像数据,而无需产生可视图像。但是,计算机也可耦合到该图形用户界面或另一图形用户界面以生成这样的可视图像。
根据本发明的装置可适于通过包括下述以作为分选机执行,该装置包括在成像区下游的分选区,以及在分选区的用于选择性地将物品从流中排出,特别是通过以脉冲排放诸如空气的气体的排出器。缺陷标准是分选标准;以及计算机适于处理来自相机的图像数据并且根据分选标准对排出器发出指令。优选地,分选标准包括斑点分选、颜色分选、尺寸分选以及形状分选中的至少两种。
在使用本发明的分选装置中,模式识别系统通常包括用于识别对应于所述物品流中的潜在缺陷的像素的颜色分类器和用于确定所识别的潜在缺陷像素是否保证相应物品排出的空间滤波器。保证相应物品被排出的潜在缺陷和潜在缺陷像素可分开地突出显示在所显示的图像上。
如在我们今天提交的共同待决的申请中所述以及上述的装置,本发明的装置也使得可以估计排出物品相对于流中的物品总数的比例。图像数据由计算机进行分析以识别该流中对应于产品流中的物品的像素,不管其是否有缺陷。计算机适于将被排出的物品的图像数据中的这种像素的数目相对于这种像素的总数计算为在该流中被排出的物品的比例的估计值。虽然由任何流图像的计算当然特定于该图像,一系列这样的计算将给作为整体的产品流中被排出产品的比例提供有用指导。作为百分比的这些比例在界面上可显示为邻近一列分级缩略图,相邻的分级缩略图均具有对于一种标准或标准组合的灵敏度设定上。
本发明涉及一种检查装置,包括:进料系统,用于将物品流传送到成像区;相机,用于在所述成像区根据所述流生成图像数据;以及,计算机,用于处理来自所述相机的图像数据;其特征在于,所述计算机包括模式识别系统,该模式识别系统用于根据所述图像数据识别区域中的缺陷以及用于对所识别的缺陷分级,所述系统被编程为根据多种缺陷标准进行操作,并且其中,所述计算机耦合到图形用户界面以在所述界面上将所述区域显示为缩略图,并且在至少两种缺陷标准的每一种标准下根据所述区域中所识别的缺陷的分级来布置所述缩略图。
本发明还涉及一种使用根据上述的装置检查物品流的方法,所述方法包括:a)将所述物品流传送到成像区;b)在所述成像区根据所述物品流生成图像数据;c)使用模式识别系统处理所述图像数据以根据所述图像数据识别区域中的缺陷以及根据多种缺陷标准对所识别的缺陷分级;以及,d)将所述区域显示为缩略图,并且在至少两种缺陷标准中的每一种标准下根据所述区域中所识别的缺陷的分级来设置所述缩略图。
附图说明
从下述对仅以示例方式给出的优选实施例的描述将明了本发明的上述及其它特征和优势,其中参考将针对所附的示意图给出。在附图中:
图1是在我们的国际专利WO2004/024350说明书中公开类型的光学分选机的侧视图;
图2示出计算机处理操作的细节;
图3示出特定模式识别系统的细节;
图4示出说明气体脉冲与产品流交汇的两个区域的图形用户界面的一部分;
图5示出由图形用户界面显示的产品流的显示图像;
图6示出从图5的显示图像中提取的图块的图库;
图7示出相对单一分选标准的来自产品流图像的缩略图的重新布置;
图8示出如图7所示的从来自同一产品流图像的缩略图的重新布置,但扩展到包括第二分选标准;
图9列出根据两种不同的分选标准对来自产品流图像的缩略图范围内的缺陷分级;
图10a和10b示出灵敏度改变如何改变缺陷的整体分级;
图11示出缩略图根据其中的产品的形状如何被分级;
图12示出两个重叠的缩略图;以及
图13示出带有所示附加严重缺陷的缩略图。
具体实施方式
如图1所示,本发明涉及的该类光学装置具有进料机构,该进料机构包括进料料斗组件2和用于将待分选的物品流传送通过成像区6到分选区8的斜槽4。线扫描相机10从成像区生成图像数据,该图像数据传递给耦合到图形用户界面14的计算机12。计算机12处理图像数据,以识别产品流中待去除的物品,并且如此指令排出器阵列16在产品流处排放空气脉冲以使从产品流选择的物品偏离到排出料斗18。保持在产品流中的产品继续进入接受料斗20内。在食品加工行业中公知从产品流排出劣质品的这种方式。线扫描相机可以是可见光或红外线、紫外线、X射线、单色或多色的。
确定产品流中具有特定缺陷的产品是否被去除的一个标准或多个标准可以是几个替代方案中的一个或多个,其中四个为尺寸、形状、斑点和颜色。通过改变分选条件的缺陷参数,操作者可以控制装置的性能。本发明的目的在于向操作者提供有用指导,以便能够做出或应当做出这样的调整。
图2示出图1中计算机12的一些细节。其包括存储器22、处理器24和系统控制器26。处理器24包括模式识别系统29,并且为了检测缺陷位置的目的,所述处理器适于将一组分类标准应用于接收自相机10的图像数据。该处理器还包括用于生成合适排出器数据以及向排出器16发出指令的选择器28。模式识别系统29和选择器28分别根据缺陷参数和排出参数来操作。这些参数由系统控制器26设定。在处理器24的每个级产生的数据被传递到系统控制器26。系统控制器26依次将数据传递到图形用户界面14以及传递来自图形用户界面14的数据。装置的操作者可在图形用户界面14处调整缺陷参数和排出参数。操作者响应于在图形用户界面14处提供的信息做出这些调整。
分选标准在两个基本级,即特征提取器和分类器中实施。每个分选标准的性能由多个缺陷参数控制,其中之一是常规的灵敏度参数。灵敏度通常表示为百分比,其中0%对应很少或没有缺陷,以及100%对应许多或所有检测到的缺陷。特征提取器和分类器都可具有缺陷参数,且灵敏度参数可与特征提取器或分类器相关联。特征提取器计算图像数据的基于特征的表示。分类器根据该特征数据识别缺陷。
图3示出使用颜色分选标准的模式识别系统。图像数据传递到颜色分类器30,其执行初始提取步骤,且识别图像数据或像素的每一块是否属于指定组的缺陷颜色。来自颜色分类器的输出,称为分类数据,识别哪些像素对应于潜在缺陷。对于单色图像数据,优选的颜色分类是通过将第一阈值应用于像素强度上来完成的。设定该阈值的缺陷参数是分选标准的灵敏度。对于多色图像数据,优选的颜色分类器是多维颜色空间中的判定边界。控制该判定边界的位置的缺陷参数是该分选标准的灵敏度。
分类数据传递到空间滤波器32。空间滤波器根据尺寸,即在图像上的本地邻近区域内的分类像素的数量,过滤分类数据。空间滤波器的尺寸和本地邻近区域的尺寸是空间滤波器的缺陷参数。来自该级的输出信号是指示哪些像素对应于缺陷的颜色缺陷数据。除了空间滤波器的尺寸设置为一个像素之外,斑点分选标准类似于颜色分类标准。
在对物品进行尺寸分选时,所提取的特征通常是物品的面积以及分类器是关于物品的尺寸的阈值。在这种情况下,只有一个缺陷参数,即确定尺寸阈值的灵敏度调整。物品的尺寸分选依赖于产品流的吞吐量足够低以使得能够看到独立的物品彼此分开。在形状分选时,特征提取器提取物品或部分物品的形状特征以形成形状特征向量。分类器基于其形状特征向量将每个物品或部分物品识别为接受或缺陷。特征提取器和分类器都可具有很多的缺陷参数。形状分类标准的灵敏度控制分类器的判定边界的位置。
处理器24中的模式识别系统29可根据为选择器28生成不同缺陷数据的许多单独的分选标准来操作。所有的缺陷数据相组合以产生对于排出器16的指令。组合缺陷数据的优选手段是简单的或(OR)装置。换句话说,如果任何分选标准决定一个像素对应一个缺陷,那么排出器16必须受到关于该像素的指令。
在产生对于排出器的指令时,对缺陷数据进行过滤,并且在横向和在产品流的流动方向上扩展。用于扩展来自排出器的吹气的交汇区域的优选机制包括提供用于激活相邻排出器的选项的第一排出参数和指定来自每个排出器的每次吹气的持续时间的第二排出参数。该持续时间通常限定为由相机捕捉到一个扫描线所花费的时间的整数倍。
图形用户界面14显示产品流在成像区的图像。在图4中示出来自这样的图像的部分,为便于说明,该部分图像为具有排出器两倍的像素的布置。优选的图像分辨率通常远高于排出器分辨率,例如高16个倍增因子。缺陷数据按比例缩小到排出器的分辨率。在图示的情况下,所产生的排出器数据是表明排出器状态的每一扫描线的每个排出器的布尔信号;如由图中的“1”或“0”所示的开或关。这些当然不会出现在所显示的图像中。
在正常的分选时,提供给排出器的指令被延迟,以允许产品流中的所选择物品从相机10的视线流动到排出器16的排出线所花费的时间,以及允许吹气从排出器到达产品所花费的时间。
为了对装置进行微调,操作者选择操作的诊断模式。在成像区的产品流的部分的快照图像捕获到储存器22。如与在装置的正常运行中的图像数据相同的方式对图像进行分析,但是优选复制各自的硬件和软件,以使得能够继续正常分选,同时操作者查看机器诊断以及考虑作为改变排出和缺陷参数的结果可能发生的情况。
图形用户界面14具有四个诊断设备;缺陷查看器;“罪犯图库”;排出的百分比估计;以及缺陷浏览器。使用缺陷查看器设备,界面显示图像以及在所显示的图像上突出显示来自排出器的空气脉冲与产品流的交汇区域,如图5所示。这在图4中以所指示的两个区示出。在区34中,具有延展的两个像素的一个排出器在包括两条扫描线的时段内喷射。在区36中,均类似于区34的两个区与在对应于两条扫描线的时段内喷射的一个排出器相邻,并且相邻的排出器在先前喷射的排出器的持续时间的中途开始的类似时段内被激活。
界面上的缺陷查看器设备可指示对应于分类数据和缺陷数据的像素。在使用多个不同的颜色分类标准时,通过以区别的颜色突出显示相应的像素可以达到该目的。优选的颜色方案在于对于每个分选标准使用不同色调,并且饱和颜色用于缺陷像素以及不饱和颜色(即较浅颜色)用于分类像素。缺陷查看器设备提供在以每一分类标准识别的像素之间切换的选项。该设备还提供调整相应的缺陷参数,结果,存储于存储器中的图像数据被重新分析,并相应改变所显示的图像。以该方式,操作者可在单个快照图像中看到任何参数变化的整体效果。
缺陷查看器设备使得操作者能够通过调整排出参数来调整排出器吹气与产品流的交汇区域的尺寸。操作者能够非常迅速地看到哪个分选条件触发哪些排出器吹气,以及如果区域边界涵盖显示为良品的所显示图像的一部分,则操作者知道哪个或哪些标准需要调整。类似地,如果表明存在缺陷的突出显示的分类像素未处于交汇区域内,则操作者知道增加相应分选标准的灵敏度会导致这样缺陷的产品被排出。
如下面所讨论的,可根据严重性,对缺陷进行分级。分选机可根据缺陷的严重性调整排出器吹气的交汇区域的尺寸。这对于确保将具有严重缺陷的物品从产品流中排出是期望的。在所显示图像中将识别出任何这样的变化。交汇区域的尺寸可直接与缺陷的严重性相关,并由机器自动确定。也可由机器操作者调整该关系。
为了看到大样本产品的实际效果,操作者可以重复多个图像的捕获和分析。存储器可存储所捕获的图像,并且如果需要,这些图像可以是产品流的连续部分,使得操作者在该分析的指引下沿着产品流部分进行浏览。
在图形用户界面上提供的第二诊断设备是“罪犯图库”。这通过从界面上的产品流图像提取交汇区域并将其以单独屏幕进行显示以便检查来组合。为了容易识别和显示,每个区域的边界被解析成正方形或长方形的图块(patch),然后显示每个图块。在图6中示出限定图块的方式,其示出从图5的表示以图库组合在图块内的相应区域。如图6所示,同类分类数据的每个连接区域的边缘在每个图块上突出显示。应该意识到图6的图库可扩展以包括来自产品流部分的不同图像和/或序列图像的图块,且每个图块当然可以用已经导致其选择的分选标准进行标记。图块的图库提供被识别的缺陷的本质的现有指示,并且向操作者提供控制分选过程的有用信息。
根据正在组合的信息应该意识到可以基于上述种类的单个或多个产品流图像来计算产品流中排出产品的比例的估计。存储器22中的数据可以再次进行分析以将图像中的每个像素识别为对应于物品的存在或不存在。这可使用已知技术从单色和多色图像数据容易地完成。然后排出百分比可以估计为对应于排出气体与产品流的交汇区域中的物品的像素数相对于对应于产品流图像中的物品总量的像素数的比率。当然可在操作员每一次对缺陷或排出参数进行调整时重新计算该估计值。
由图形用户界面提供的第四个诊断设备是缺陷浏览器。缺陷浏览器从存储于存储器22内的图像数据中提取子图像或缩略图,并根据相应的分选标准来对每个缩略图分级。缩略图的分级是该分选标准的最低灵敏度,在该最低灵敏度下缺陷首先被排出。该灵敏度可通过依次扫描每个分选标准的灵敏度范围来获得,而所有其它的缺陷参数保持在设定于分选机上的值。然而,对于一些标准而言,这样的扫描不是必要的。其以分级级别排列缩略图。当每个提取的缩略图涵盖来自产品流的一个产品且仅仅一个产品时最容易理解该过程,当产品吞吐量相对低时,这是唯一可行的。在那些情况下,可以识别单独的物品以及从图像数据中提取的缩略图,即使缩略图并不必然是正方形的。
在大多数光学分选机中,吞吐量过高以至精确识别单独对象是不可行的。为了应对这种情况,在所描述的装置中的缺陷浏览器设备中,具有相同尺寸和形状的所有缩略图通过使缩略图处于围绕所显示图像中的每个感兴趣区域的中心来提取。通过依次增加每个分选标准的灵敏度并且合并所有由此产生的缺陷数据以形成感兴趣的区域,可以检测感兴趣的区域。我们应首先考虑缩略图不重叠的情况。
图7示出使用缺陷浏览器设备将根据仅仅一个分选标准布置的缩略图显示在图形用户界面上的显示图像,在这种情况下是斑点分选。这由对应于该标准的特定灵敏度的多行的单列表示。在图7中,缩略图根据缺陷将以分选标准首先排出的灵敏度成组显示。跨过显示器中心的是标记灵敏度当前设定的黑体水平线。位于该线下方的所有缩略图在名义上被排出,而位于该线上方的所有缩略图名义上被接受。缺陷浏览器设备包括用于调整该灵敏度设定的控制器。这样的调整使得行相对于该线偏移。界面并未大到足以显示对应于所有的可用灵敏度设定的行,因此通常提供用于浏览设定的扩展范围或整个范围。
图8示出添加第二分选标准的结果,在这种情况下,是颜色分选。每个缩略图根据其相对于当前的灵敏度设定的分级来显示,当前灵敏度设定同样由黑体水平线指示。在分选标准中对于缩略图的相对分级是其相对于该标准的当前灵敏度的分级。只显示在一个分选标准,即具有最低的相对分级的标准下的缩略图。因此,不会出现根据斑点分选标准的如图7所示的缩略图。其原因是在斑点分选标准下处于一个相对分级的缩略图根据颜色分选标准处于更低的相对分级。在斑点分选下出现在列中的缩略图由于其相对更低的分级已经被转移到覆盖颜色分选的列。在最低相对分级由两种分选标准共享的特殊情况下,则应用优先原则;即,一个标准优先于另一标准。
由于本发明的装置使用像素颜色以颜色分选来识别缺陷,其可以容易地适于示出这样的缺陷的边界或边缘。该信息可具有相当大的价值。
如从图7和图8中可以看出的,斑点分选的“当前”灵敏度水平设定为“43”,而对于颜色分选,灵敏度水平设定为“70”。如图所示,根据斑点分选标准具有分级44以及根据颜色分选标准具有分级68的缩略图将仅仅在其相对分级更低的颜色分选列中出现。
在如图7和图8所示的显示的右手侧,根据具体的一个或多个灵敏度设定指示排出的估计百分比。如可以看出的,由于添加了颜色分选标准,其从3%增加至7.7%。如果灵敏度设定调整,其当然也将改变,并且在确定做出何种调整时对操作者提供了有用的信息。可以针对每行从而为一系列的不同机器配置提供排出百分比。该装置还可包括使得操作者能够禁用在一个或多种缺陷标准下的分析的设备。这使得操作者专注于一个缺陷标准或标准的不同组合,并观察在这些情况下改变灵敏度水平的实际效果。
如果操作者改变灵敏度水平之一或两者,则这将使得缩略图从一列移动到另一列。这在图10A和图10B中基于十八个缩略图示出,这些缩略图的最低灵敏度在图9的表中给出。在图10A中,灵敏度水平是在图9中用处于斑点分选或颜色分选列的相应缩略图示出的那些。在界面的屏幕上所看到的内容以虚线轮廓示出。在图10B中,斑点分选的灵敏度水平从43增加至45。斑点分选列降低,使得斑点和颜色分选的当前灵敏度保持水平对准,将可看到处于图10A的颜色分选列中的缩略图“J”现在处于图10B的斑点分选列内。其原因是当该标准的敏感性水平增加时其根据斑点分选标准的相对分级较低。
使用缺陷浏览器设备进行分类的缩略图的尺寸和形状也可以分级。这对于待分选的不同类型产品具有不同的重要性。按尺寸分选的典型类型是面积、长度和宽度。按形状分选的典型类型是曲率(诸如锐角和凹度)、长宽比和圆度。在尺寸或形状分选的情况下,物品可由其侧影显示,因此缩略图的边界是不必要的,且不显示在图形用户界面上。图11示出两种这样的标准如何显示在图形用户界面上。
为了便于解释,以上描述假定计算机根据每一缺陷标准顺序地处理图像数据。然而,在实践中,可以不是这种情况。每一个识别的缺陷将通常基于每一缺陷标准单独处理并且由此分级。
上述分析基于缩略图不重叠的情况。然而,缩略图可包含多个感兴趣的区域,并且因此与其它缩略图重叠,如图12所示。可以在每个缩略图代表单个物品的基础上进行,并如上所示那样进行。然而,这会导致在界面上不止一次显示相同的缺陷。此外,最严重的缺陷可能只是在缩略图的一个角落,如图13所示,由此不能在界面上清楚示出触发缩略图的识别的图像真正部分。在这种情况下,在严重缺陷将显示在另一个缩略图的基础上,不显示该缩略图。
用于处理重叠缩略图的优选方法是将每个缩略图与以其为中心的感兴趣区域相关联。对于该缩略图的每一分选标准的最低灵敏度是基于将其相关联的感兴趣区域作为缺陷检测。如果第一缩略图包含另一感兴趣区域,那么在显示第一缩略图之前考虑该第二区域的缩略图;相邻的缩略图。如果相邻的缩略图与感兴趣区域相关联,该感兴趣区域是比第一缩略图的感兴趣区域更严重的缺陷,那么第一缩略图不显示在界面上。
图形用户界面当然呈现可分析的电子图像。它还允许使用“变倍”功能聚焦显示器上的单独图像,以放大这样的单独图像或一组相邻图像。
缺陷浏览器使得使操作者一目了然,对于灵敏度设定的整个范围检测到哪些缺陷。缩略图的组的分级使得更容易看到从严重到边际排出、以及从边际接受到良品的缺陷的基本分级。由于灵敏度水平的任意改变,可以容易看到该分级。排出百分比估计值的同时显示也告知操作者预期产率。
缺陷浏览器还使得操作者能够微调不是灵敏度设定的缺陷参数。当针对分选标准调整缺陷参数时,在图形用户界面上的相应列内的组的成员关系变化。由此可对参数进行微调,直到所述列内的缩略图组的布置由操作者直觉同意以由缺陷的严重性对缩略图分级。
缺陷浏览器还使得操作者能够仅仅将显示专注于用于排出而分类的产品,以及由缺陷的严重性分级。这可以通过屏幕滚动,或仅仅是遮挡处于敏感性水平之上的所有图像来完成。其优点在于操作者可能更关注被排出的物品以及由哪些分选条件排出。
使用在所述装置中提供的诊断功能对分选机如何进行调整以控制质量和/或产量提供指导。一旦分析且准许进行实质的调整,它们可以应用于操作机器。当然随后使用这些功能也可以监测所做的任何改变。

Claims (22)

1.检查装置,包括:
进料系统,用于将物品流传送到成像区;
相机,用于在所述成像区根据所述流生成图像数据;以及
计算机,用于处理来自所述相机的图像数据;
其特征在于,所述计算机包括模式识别系统,该模式识别系统用于根据所述图像数据识别区域中的缺陷以及用于对所识别的缺陷分级,所述系统被编程为根据多种缺陷标准进行操作,并且其中,所述计算机耦合到图形用户界面以在所述界面上将所述区域显示为缩略图,并且在至少两种缺陷标准的每一种标准下根据所述区域中所识别的缺陷的分级来布置所述缩略图。
2.根据权利要求1所述的检查装置,其中,所述计算机编程为生成所述流的可视图像。
3.根据权利要求1或2所述的装置,其中,所述模式识别系统包括用于从所述图像数据中提取信息的特征提取器,以及用于解释这样的信息的分类器。
4.根据权利要求1或2所述的装置,其中,所述缺陷标准的其中之一是形状或尺寸,以及所显示的缩略图包括相应物品的侧影。
5.根据权利要求1或2所述的装置,其中,所述计算机编程为以灵敏度水平定义每一种标准下的合格分级,并且在所述显示中以处于相同水平的所述合格分级顺序地显示所述缩略图。
6.根据权利要求5所述的装置,其中所述合格分级在所显示的图像中是可识别和可视的。
7.根据权利要求5所述的装置,其中,仅显示具有分级于所述合格分级之下的缺陷的缩略图。
8.根据权利要求5所述的装置,其中,具有多于一种标准下的缺陷的缩略图仅以以下顺序显示,在所述顺序中所述缺陷相对于其合格分级的分级低于在至少另一种标准下的分级。
9.根据权利要求5所述的装置,其中,至少一个所述灵敏度水平是可变的。
10.根据权利要求1或2所述的装置,其中,来自所述图像数据的所述区域定义为围绕每一个所识别的缺陷且以所述缺陷为中心。
11.根据权利要求10所述的装置,其中,所述区域重叠。
12.根据权利要求10所述的装置,其中,在一区域中除了位于其中心的缺陷以外还有一缺陷位于所述区域内并且该额外的缺陷以低于该中心的缺陷的水平分级时,所述缩略图不包括在所显示的图像内。
13.根据权利要求1或2所述的装置,其中,所述计算机编程为将未表现出缺陷的物品的图像显示在所述图形用户界面上。
14.根据权利要求1或2所述的装置,包括所述成像区下游的分选区;位于所述分选区的排出器,选择性激活排出器以将物品从所述流中排出;其中所述标准是分选标准;并且其中所述计算机适于处理来自所述相机的图像数据以及根据分选标准对所述排出器发出指令。
15.根据权利要求14所述的装置,其中,所述分选标准包括斑点分选、颜色分选、尺寸分选以及形状分选中的至少两种。
16.根据权利要求14所述的装置,其中,所述计算机适于分割所述图像数据以识别对应于所述流的部分中的所有物品的像素以及对应于根据所述分选标准将被排出的物品的像素;并且所述计算机适于比较所述像素的数目以估计所述流中被排出的物品的比例。
17.根据权利要求14所述的装置,其中,所述计算机包括模式识别系统,该模式识别系统包括用于识别对应于所述物品流中的潜在缺陷的像素的颜色分类器和用于确定所识别的潜在缺陷像素是否保证相应物品被排出的空间滤波器。
18.根据权利要求17所述的装置,其中,由所述颜色分类器识别的潜在缺陷突出显示在所显示的图像上。
19.根据权利要求17所述的装置,其中,保证相应物品被排出的潜在缺陷像素突出显示在所显示的图像上。
20.根据权利要求1或2所述的装置,其中,所述进料系统用于将一批材料传送到所述成像区,并且其中,所述模式识别系统适于识别该批材料上的缺陷,用以显示在所述图形用户界面上。
21.一种使用根据权利要求1-19中的任一项所述的装置检查物品流的方法,所述方法包括:
a)将所述物品流传送到成像区;
b)在所述成像区根据所述物品流生成图像数据;
c)使用模式识别系统处理所述图像数据以根据所述图像数据识别区域中的缺陷以及根据多种缺陷标准对所识别的缺陷分级;以及
d)将所述区域显示为缩略图,并且在至少两种缺陷标准中的每一种标准下根据所述区域中所识别的缺陷的分级来设置所述缩略图。
22.一种使用根据权利要求20所述的装置检查一批材料的方法,所述方法包括:
a)将该批材料传送到成像区;
b)在所述成像区根据该批材料生成图像数据;
c)使用模式识别系统处理所述图像数据以根据所述图像数据识别区域中的缺陷以及根据多种缺陷标准对所识别的缺陷分级;以及
d)将所述区域显示为缩略图,并且在至少两种缺陷标准中的每一种标准下根据所述区域中所识别的缺陷的分级来设置所述缩略图。
CN201080040307.4A 2009-07-16 2010-07-05 使用模式识别的检查装置和方法 Active CN102639259B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GB0912390A GB2471886A (en) 2009-07-16 2009-07-16 Inspection apparatus
GB0912390.2 2009-07-16
PCT/GB2010/001290 WO2011007117A1 (en) 2009-07-16 2010-07-05 Inspection apparatus and method using pattern recognition

Publications (2)

Publication Number Publication Date
CN102639259A CN102639259A (zh) 2012-08-15
CN102639259B true CN102639259B (zh) 2014-03-19

Family

ID=41058072

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080040307.4A Active CN102639259B (zh) 2009-07-16 2010-07-05 使用模式识别的检查装置和方法

Country Status (8)

Country Link
US (1) US9446434B2 (zh)
EP (1) EP2454028B1 (zh)
JP (1) JP5607156B2 (zh)
CN (1) CN102639259B (zh)
BR (1) BR112012000943A2 (zh)
GB (1) GB2471886A (zh)
IN (1) IN2012DN00885A (zh)
WO (1) WO2011007117A1 (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2481804A (en) 2010-07-05 2012-01-11 Buhler Sortex Ltd Dual sensitivity browser for optical sorting machines
GB201202352D0 (en) 2012-02-10 2012-03-28 Buhler Sortex Ltd Illumination and detection system
EP3073401A1 (en) * 2015-03-27 2016-09-28 Fujifilm Corporation Failed image management apparatus, operation method of failed image management apparatus, and failed image management system
KR102357741B1 (ko) * 2015-05-06 2022-02-03 삼성전자주식회사 가스 처리 방법 빛 그 전자 장치
US10126247B2 (en) * 2015-07-30 2018-11-13 Zeon Chemicals L.P. Rubber crumb inspection system
US10302598B2 (en) 2016-10-24 2019-05-28 General Electric Company Corrosion and crack detection for fastener nuts
US10478863B2 (en) 2017-06-27 2019-11-19 Key Technology, Inc. Method and apparatus for sorting
US10512942B2 (en) * 2017-10-30 2019-12-24 Optisort, Llc System and method for sorting objects
WO2019113313A1 (en) * 2017-12-07 2019-06-13 Walmart Apollo, Llc System and method for the distributed approval of image-based claims
JP7239588B2 (ja) * 2017-12-19 2023-03-14 テトラ ラバル ホールディングス アンド ファイナンス エス エイ 包装容器における欠陥検出の方法
CN108545538A (zh) * 2018-05-23 2018-09-18 拓卡奔马机电科技有限公司 铺布机布料破损检测方法及系统
CN109060841A (zh) * 2018-08-11 2018-12-21 珠海宝利通耗材有限公司 打印机碳粉盒质量影像检测评价方法及系统
CN110059596B (zh) * 2019-04-03 2020-07-07 北京字节跳动网络技术有限公司 一种图像识别方法、装置、介质和电子设备
JP7447834B2 (ja) 2021-01-28 2024-03-12 株式会社サタケ 光学式選別機

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5692621A (en) * 1994-11-02 1997-12-02 Sortex Limited Sorting apparatus
US5887073A (en) * 1995-09-01 1999-03-23 Key Technology, Inc. High speed mass flow food sorting apparatus for optically inspecting and sorting bulk food products
US6124560A (en) * 1996-11-04 2000-09-26 National Recovery Technologies, Inc. Teleoperated robotic sorting system
CN1288156A (zh) * 1999-09-10 2001-03-21 株式会社佐竹制作所 用至少两个不同的门限等级分拣颗粒状物体的方法和装置
CN1691990A (zh) * 2002-09-13 2005-11-02 索尔泰克斯公司 大批量流动产品的质量评估

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3638188A (en) 1969-10-17 1972-01-25 Westinghouse Electric Corp Classification method and apparatus for pattern recognition systems
US3636513A (en) 1969-10-17 1972-01-18 Westinghouse Electric Corp Preprocessing method and apparatus for pattern recognition
JPH0581408A (ja) * 1991-09-19 1993-04-02 Hiyuutec:Kk 欠点画像表示方法
CA2132138C (en) 1993-09-29 2004-01-06 Shih-Ping Wang Computer-aided diagnosis system and method
US5873470A (en) 1994-11-02 1999-02-23 Sortex Limited Sorting apparatus
US6191859B1 (en) 1996-10-28 2001-02-20 Sortex Limited Optical systems for use in sorting apparatus
US6266437B1 (en) * 1998-09-04 2001-07-24 Sandia Corporation Sequential detection of web defects
JP2000146847A (ja) 1998-11-16 2000-05-26 Kett Electric Laboratory クラスタリング及びボロノイ分割を利用したニューラル ネットワークを用いた穀類粒判別装置
DE19955919C1 (de) * 1999-11-20 2001-05-31 Daimler Chrysler Ag Verfahren zur Erkennung von Objekten in Bildern auf der Bildpixelebene
JP2002312762A (ja) 2001-04-12 2002-10-25 Seirei Ind Co Ltd ニューラルネットワークを利用した穀粒選別装置
JP4095860B2 (ja) 2002-08-12 2008-06-04 株式会社日立ハイテクノロジーズ 欠陥検査方法及びその装置
JP4438358B2 (ja) 2003-09-04 2010-03-24 株式会社サタケ 表示調整機構を具えた粒状物色彩選別機
US7522664B1 (en) * 2003-09-10 2009-04-21 Krishnamurthy Bhaskar Remote live video inspection
US7590260B2 (en) 2003-09-25 2009-09-15 Siemens Aktiengesellschaft Method and apparatus for video coding by validation matrix
CA2567280A1 (en) 2004-05-21 2005-12-01 Pressco Technology Inc. Graphical re-inspection user setup interface
US7424902B2 (en) * 2004-11-24 2008-09-16 The Boeing Company In-process vision detection of flaw and FOD characteristics
JP4902121B2 (ja) 2005-01-21 2012-03-21 ヤンマー株式会社 粒状物色彩選別機
JP4691453B2 (ja) 2006-02-22 2011-06-01 株式会社日立ハイテクノロジーズ 欠陥表示方法およびその装置
JP5082676B2 (ja) * 2007-08-23 2012-11-28 株式会社サタケ 光学式穀物選別機

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5692621A (en) * 1994-11-02 1997-12-02 Sortex Limited Sorting apparatus
US5887073A (en) * 1995-09-01 1999-03-23 Key Technology, Inc. High speed mass flow food sorting apparatus for optically inspecting and sorting bulk food products
US6124560A (en) * 1996-11-04 2000-09-26 National Recovery Technologies, Inc. Teleoperated robotic sorting system
CN1288156A (zh) * 1999-09-10 2001-03-21 株式会社佐竹制作所 用至少两个不同的门限等级分拣颗粒状物体的方法和装置
CN1691990A (zh) * 2002-09-13 2005-11-02 索尔泰克斯公司 大批量流动产品的质量评估

Also Published As

Publication number Publication date
US20120188363A1 (en) 2012-07-26
GB0912390D0 (en) 2009-08-26
JP2012533075A (ja) 2012-12-20
BR112012000943A2 (pt) 2020-07-28
EP2454028A1 (en) 2012-05-23
WO2011007117A1 (en) 2011-01-20
JP5607156B2 (ja) 2014-10-15
EP2454028B1 (en) 2014-04-02
GB2471886A (en) 2011-01-19
CN102639259A (zh) 2012-08-15
IN2012DN00885A (zh) 2015-07-10
US9446434B2 (en) 2016-09-20

Similar Documents

Publication Publication Date Title
CN102639259B (zh) 使用模式识别的检查装置和方法
CN102655951B (zh) 使用图形用户界面的分选装置和方法
US6999614B1 (en) Power assisted automatic supervised classifier creation tool for semiconductor defects
DE69637172T2 (de) Hochgeschwindigkeits sortierapparat für den lebensmittelmassentransport zur optischen inspektion und sortierung von grossvolumigen lebensmitteln
Kılıç et al. A classification system for beans using computer vision system and artificial neural networks
EP2923305B1 (en) Method for scoring and controlling quality of food products in a dynamic production line
JP5371916B2 (ja) 検査システムにおける対話型閾値調整方法及びシステム
RU2621485C2 (ru) Способ и устройство для обработки собранных корнеплодных культур
EP2788918A1 (en) Method and apparatus for automatic detection of features in an image and method for training the apparatus
JP6754155B1 (ja) 教師データ生成装置、検査装置およびコンピュータプログラム
CN110647851B (zh) 生产线产能监控方法、装置及系统
US20220318985A1 (en) Training data generation device, inspection device and program
CN1691990A (zh) 大批量流动产品的质量评估
GB2481804A (en) Dual sensitivity browser for optical sorting machines
CN115672778A (zh) 一种智能视觉识别系统
WO2023175348A1 (en) Improvements in or relating to inspection and quality control
WO2023233265A1 (en) Method and system for performing quality control of objects in an apparatus which produces the objects in continuous cycle
Buzera et al. Modern techniques for automatic classification of products
CN116894956A (zh) 特征量选择方法以及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: England Atsushi

Patentee after: Buller UK Limited

Address before: England Atsushi

Patentee before: Buhler Sortex Ltd.

CP01 Change in the name or title of a patent holder