CN114596242A - 缺陷检测方法、装置、电子设备及计算机可读存储介质 - Google Patents

缺陷检测方法、装置、电子设备及计算机可读存储介质 Download PDF

Info

Publication number
CN114596242A
CN114596242A CN202011395618.4A CN202011395618A CN114596242A CN 114596242 A CN114596242 A CN 114596242A CN 202011395618 A CN202011395618 A CN 202011395618A CN 114596242 A CN114596242 A CN 114596242A
Authority
CN
China
Prior art keywords
image
detected
attention
defect
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011395618.4A
Other languages
English (en)
Inventor
杨顺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
TCL Technology Group Co Ltd
Original Assignee
TCL Technology Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by TCL Technology Group Co Ltd filed Critical TCL Technology Group Co Ltd
Priority to CN202011395618.4A priority Critical patent/CN114596242A/zh
Publication of CN114596242A publication Critical patent/CN114596242A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0004—Industrial image inspection
    • G06T7/001—Industrial image inspection using an image reference approach
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30108—Industrial image inspection
    • G06T2207/30148—Semiconductor; IC; Wafer
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本申请适用于工业自动化技术领域，提供了一种缺陷检测方法、装置、电子设备及计算机可读存储介质，方法包括：获取待检测图像；将待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像；确定目标图像中的缺陷区域。由于注意力生成对抗网络中引入了注意力机制，使得受到注意力机制关注前景和背景图像有了明显的区分，利用注意力生成对抗网络对待检测图像进行处理，获得的目标图像可以是对前景图像增强、修改、或去除的图像，利用这样的目标图像检测缺陷区域，对待检测图像中被检测对象的缺陷实现自动的检测，可以省去手动标注的环节，提高检测效率，节省人工成本。

Description

缺陷检测方法、装置、电子设备及计算机可读存储介质
技术领域
本申请涉及工业自动化技术领域，尤其涉及一种缺陷检测方法、装置、电子设备及计算机可读存储介质。
背景技术
在工业生产中，产品的质量检测是极为重要的一个流程。质量检测中最为重要的环节为缺陷检测。为了帮助工业生产中定位缺陷来源，通常需要对被检测对象的图像做工业缺陷区域的检测、分类和分割。
目前，对被检测对象的图像做工业缺陷区域的检测、分类和分割的方法，需要对含工业缺陷被检测对象的图像做精细轮廓标注，会消耗大量的人力成本去做手工标注，而且标注周期较长。因此，需要一种能自动检测缺陷的方法，以提高筛选的缺陷图像的效率，节省质检人力成本。
发明内容
本申请实施例提供了一种缺陷检测方法、装置、电子设备及计算机可读存储介质，可以解决自动检测缺陷问题。
第一方面，本申请实施例提供了一种缺陷检测方法，包括：
获取待检测图像；
将待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像；
确定目标图像中的缺陷区域。
应理解，由于注意力生成对抗网络中引入了注意力机制，使得受到注意力机制关注前景和背景图像有了明显的区分，将待检测图像输入预存的注意力生成对抗网络进行处理，获得的目标图像可以是对前景图像增强、修改、或去除的图像，利用这样的目标图像检测缺陷区域，对图像中被检测对象的缺陷实现自动的检测，可以省去手动标注的环节，提高检测效率，节省人工成本。
第二方面，本申请实施例提供了一种缺陷检测装置，包括：
待检测图像获取模块，用于获取待检测图像；
待检测图像处理模块，用于将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像；
缺陷区域确定模块，用于确定所述目标图像中的缺陷区域。
第三方面，本申请实施例提供了一种电子设备，电子设备包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述第一方面的方法步骤。
第四方面，本申请实施例提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现上述第一方面的方法步骤。
第五方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行上述第一方面的方法步骤。
可以理解的是，上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的注意力生成对抗网络结构示意图；
图2是本申请一实施例提供的缺陷检测方法的流程示意图；
图3A1是本申请一实施例提供的注意力生成对抗网络输入的待检测图像；
图3A2是本申请一实施例提供的注意力生成对抗网络输出的背景图像；
图3A3是本申请一实施例提供的注意力生成对抗网络输出的注意力掩模图像；
图3B1是本申请另一实施例提供的注意力生成对抗网络输入的待检测图像；
图3B2是本申请另一实施例提供的注意力生成对抗网络输出的背景图像；
图3B3是本申请另一实施例提供的注意力生成对抗网络输出的注意力掩模图像；
图4是本申请另一实施例提供的缺陷检测方法的流程示意图；
图5是本申请另一实施例提供的缺陷检测方法的流程示意图；
图6A1是本申请一实施例提供的注意力生成对抗网络输入的待检测图像；
图6A2是本申请一实施例提供的注意力生成对抗网络输出的注意力掩模图像；
图6A3是本申请一实施例提供的采用缺陷框标注待检测图像中缺陷区域的示例；
图6B1是本申请另一实施例提供的注意力生成对抗网络输入的待检测图像；
图6B2是本申请一实施例提供的注意力生成对抗网络输出的注意力掩模图像；
图6B3是本申请一实施例提供的采用缺陷框标注待检测图像中缺陷区域的示例图；
图7是本申请另一实施例提供的缺陷检测方法的流程示意图；
图8A是本申请一实施例提供的对目标图像中缺陷区域分割的示例图；
图8B是本申请另一实施例提供的对目标图像中缺陷区域分割的示例图；
图9是本申请实施例提供的缺陷检测装置的结构示意图；
图10是本申请实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
在说明本申请实施例提供的缺陷检测方法之前，为方便对本申请实施例的理解，下面对本申请实施例提供的缺陷检测方法的原理以及本申请实施例中涉及的相关概念进行说明。
在工业生产中，产品的质量检测是极为重要的一个流程。质量检测中最为重要的环节为缺陷检测。
在一些场景中，工业领域生产产品时，通过基于工业视觉的自动质量检测设备获取被检测对象的图像，并对这些图像进行初步筛选。筛选出大量的包含工业缺陷的被检测对象的图像。为了帮助工业生产中定位缺陷的问题来源，通常需要对包含工业缺陷的图像做工业缺陷区域的检测、分类和分割。工业缺陷图像的检测和分割，需要对大量的工业缺陷图像做精细轮廓标注，会消耗大量的人力成本去做手工标注，而且标注周期较长。
在另一些场景中，目前的基于深度学习的缺陷分类方法需要对训练图像的缺陷进行标注，人工标注效率低；为了适用于各类缺陷，每一类都需要收集一定数量的缺陷图像作为训练样本进行训练。然而实际生产线上缺陷种类分布不均，一些较为少见但对电路造成严重影响的缺陷难以收集足够的数量进行分割网络的训练，拖慢开发迭代周期。
对于工厂来说，更是需要能够应对不同拍摄参数，不同缺陷种类的通用缺陷/检测分割算法，可以高效处理机台筛选的缺陷图像，从而节省质检人力成本。
因此，需要一种能自动检测缺陷的方法，一方面，可以提高筛选的缺陷图像的效率；另一方面，可以为基于深度学习的缺陷分类模型提供训练样本，或者在训练样本较少的情况下自动完成对被检测对象的缺陷进行标注；再一方面，可以应对不同拍摄参数，不同缺陷种类的通用缺陷/检测分割算法。
一些缺陷检测和分割的方法中，基于单张图像的分割算法较为成熟，主要分为聚类法、边缘检测法、区域生长法、图分法及深度学习网络等。对于工业产品来说，大部分严重缺陷发生在特定部件上，缺陷的纹理特征会受到部件纹理的影响，影响基于聚类或区域生长的分割准确性。此外，自动质量检测设备拍摄缺陷图像时光照不恒定，相机在运动过程中进行拍摄易于出现失焦的情况，部分缺陷对比度较低而边缘不清晰。不恒定的图像亮度及不清晰的边缘限制了边缘检测法、区域生长法、图分法等分割方法的性能。因此，目前工业界还通过深度学习的方式对工业视觉图像内的缺陷进行分割，如掩码感兴趣区域CNN网络(Mask RCNN)、Unet、Deeplab等用于图像分割的深度学习网络。基于深度学习的缺陷分割方法主要难点在于需要对训练图像的缺陷进行像素级标注，标注效率低；为了适用于各类缺陷，每一类都需要收集一定数目的缺陷图像进行训练，然而实际生产线上缺陷种类分布不均，一些较为少见但对电路造成严重影响的缺陷难以收集足够的数量进行分割网络的训练，拖慢开发迭代周期。
本申请实施例提供了一种基于注意力生成对抗网络(Attention GenerativeAdversarial Networks，AttentionGAN)的缺陷检测方法，可以自动标注和分割工业图像缺陷，该方法自动标注和检测的整体准确率远高于传统算法，并且相对人工标注效率更高，成本更低，有广泛的使用场景。
注意力生成对抗网络是在循环生成对抗网络(cycleGAN)中引入注意力网络，图1是本申请实施例提供的一种注意力生成对抗网络的结构示意图。图1中展示了源域X的输入图像x，经过注意力网络生成目标域Y的图像Gy的过程，以及，生成的图像Gy经过注意力网络还原到源域X的重建图像Rx的过程。
在训练本申请实施例提供的注意力生成对抗网络的过程中，通过非对称训练样本，重点训练源域X到目标域Y的注意力掩模生成器(Attention Mask Generator)
Figure BDA0002814980210000061
和源域X到目标域Y内容掩模生成器(Content Mask Generator)
Figure BDA0002814980210000062
网络模型训练完成后，在推理过程中，注意力掩模生成器处理输入图像，能生成前景注意力掩模
Figure BDA0002814980210000063
和背景注意力掩模
Figure BDA0002814980210000064
内容掩模生成器能对多通道的注意力掩模部分生成需要转换的内容掩模(Content Mask)Cy。
如下公式(1)所示，产生生成图像过程中包含了前景注意力掩模
Figure BDA0002814980210000065
和背景注意力掩模
Figure BDA0002814980210000066
的作用。
Figure BDA0002814980210000067
图1所示的注意力生成对抗网络中，注意力掩模生成器产生1通道的背景注意力掩模
Figure BDA0002814980210000071
和n-1通道的前景注意力掩模
Figure BDA0002814980210000072
前景注意力掩模
Figure BDA0002814980210000073
是将输入图像x的前景(马)突显出来，背景则被忽略掉。这样前景注意力掩模
Figure BDA0002814980210000074
与内容掩模Cy进行按点相乘，就会凸显出马，而背景就被置于很低的值。将这个背景注意力掩模
Figure BDA0002814980210000075
与输入图像x按点相乘，得到输入图像x的背景，而输入图像x的前景则被置于很低的值。然后两者按点进行相加，得到最终去除前景图像的输出结果，即生成图像Gy。其中通道数n可以根据经验取值，也可经过多次测试确定合适的值。这样处理的好处是让图像转换主要侧重在需要转换的前景上，背景部分本质上是不需要转换的。图1中的符号
Figure BDA0002814980210000076
表示按点相加，符号
Figure BDA0002814980210000077
表示按点相乘，符号
Figure BDA0002814980210000078
表示按通道分类。
应理解，由于cycleGAN从目标域Y到源域X的重建过程与上述过程是一致的，因此训练注意力循环对抗网络时的重建过程，即从目标域Y到源域X的生成过程，这里不再赘述，具体的可以参考现有技术中对注意力生成对抗网络的介绍。
应理解，图1示出的注意力生成对抗网络仅是一种示例，在实施本申请实施例时，可以对图1的网络进行调整以适应实际需要。在本申请的实施例中，能获得前景图像的注意力掩模，和/或能获得去除前景图像的目标域输出结果的注意力生成对抗网络均可适用于本申请实施例。
图2示出了本申请实施例提供的缺陷检测的方法，应用于电子设备，在一个具体的示例中，该电子设备可以为缺陷检测设备，可由电子设备的软件和/或硬件实现。如图2所示，该方法包括步骤S110至S130。各个步骤的具体实现原理如下：
S110，获取待检测图像。
在本申请的一些实施例中，待检测图像可以是电子设备通过图像获取装置，例如摄像头等，直接在生产线获取的被检测对象的图像。被检测对象可以是例如电路板等需要进行缺陷检测的器件或产品。
在本申请的另一些实施例中，待检测图像可以是通过生产线的检测机台获取的图像。待检测图像也可以是经过检测机台预先筛选过，检测机台初步判断包含工业缺陷的被检测对象的图像。
S120，将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像。
其中，目标图像可以是图1所示注意力生成对抗网络中间输出的注意力掩模图像；也可以是目标域的最终输出图像，即生成图像Gy。注意力掩模图像可以是任意一个通道的前景注意力掩模
Figure BDA0002814980210000081
也可以是背景注意力掩模
Figure BDA0002814980210000082
在一些实施例中，采用的注意力生成对抗网络只生成前景注意力掩模Ay，则注意力掩模图像可以为前景注意力掩模Ay，也可以为背景注意力掩模(1-Ay)。在一些实施例中目标域的最终输出图像是通过注意力生成对抗网络去除被检测对象的缺陷的背景图像。
图3A1和图3B1是被检测对象的待检测图像的示例；图3A2和图3B2是通过注意力生成对抗网络处理，获得的去除了被检测对象中的缺陷的背景图像的示例；图3A3和图3B3是通过注意力生成对抗网络处理，获得的被检测对象的注意力掩模图像的示例。
在本申请的一些实施例中，电子设备利用经过训练的注意力生成对抗网络对目标图像进行处理，提取中间输出的注意力掩模图像作为目标图像。
在本申请的另一些实施例中，电子设备利用经过训练的注意力生成对抗网络对目标图像进行处理，提取最终输出的目标域的去除缺陷的背景图像作为目标图像。
S130，确定所述目标图像中的缺陷区域。
在本申请的一些实施例中，目标图像是注意力生成对抗网络的中间输出的注意力掩模图像，对该注意力掩模图像进行图像处理以确定目标图像中的缺陷区域。
在本申请的另一些实施例中，目标图像是目标域的最终输出图像，利用目标域的最终输出图像进行图像处理以确定目标图像中的缺陷区域。在一个具体的实施例中，可以是通过注意力生成对抗网络去除被检测对象的缺陷的背景图像，通过比较该背景图像和输入图像之间的差异以确定目标图像中的缺陷区域。
在一些实施例中，待检测图像为检测机台获取的待检测印刷电路板的图像，检测机台包括印刷电路板生产线中的印刷电路板检测设备。检测机台可以包括相机、摄像头、深度相机等图像获取装置。检测机台用于拍摄经过其拍摄区域的待检测印刷电路板。缺陷区域对应于工业缺陷在待检测印刷电路板中的位置。待检测印刷电路板中的工业缺陷包括但不限于翘曲、断路、短路、裂纹、褶皱或铜箔脱落等缺陷。
应理解，由于注意力生成对抗网络中引入了注意力机制，会对前景图像进行针对性的处理，使得受到注意力机制关注前景和背景图像有了明显的区分。利用注意力生成对抗网络对待检测图像进行处理，获得的目标图像可以是对前景图像增强、修改、或去除的图像，因此，可以利用注意力生成对抗网络的输出的目标图像，对图像中被检测对象的缺陷实现自动的检测，可以省去手动标注的环节，提高检测效率，节省人工成本。
在上述图2所示的缺陷检测方法的实施例的基础上，图4示出了本申请实施例提供的缺陷检测方法的一种实施方式，如图4所示，在步骤S110，获取待检测图像之前，方法还包括步骤S001：
S001，采用源域图像集和目标域图像集对未训练的注意力生成对抗网络进行训练，得到注意力生成对抗网络；其中，源域图像集中的图像为第一图像，目标域图像集中的图像为第二图像，第一图像为含缺陷的被检测对象的图像，第二图像为不含缺陷的被检测对象的图像，源域图像集与目标域图像集为非配对图像集。
其中，源域图像为含缺陷的被检测对象的图像，目标域图像为不含缺陷的被检测对象的图像。
在本申请的一些实施例中，电子设备训练注意力生成对抗网络的过程包括，注意力生成对抗网络首先学习将含有工业缺陷的被检测对象的目标图像，生成为不含有工业缺陷的图像，但是保留原图像内容。然后注意力生成对抗网络将生成的不含工业缺陷的图像输入到判别模型中进行判别，确定判别模型是否能够识别出生成器生成的图像是合成的不含工业缺陷的图像，或者是误判为真实的不含工业缺陷的图像，并计算判别损失。同时注意力生成对抗网络的另一个生成模型将不含工业缺陷的被检测对象的图像生成出含有工业缺陷的重建图像；将此生成的含工业缺陷的重建图像与原输入含工业缺陷的目标图像相比较，并计算重建损失。判别损失与重建损失加在一起就作为模型训练的损失。
为了得到好的处理效果、避免过拟合，深度学习需要大量数据进行网络训练。但是目前大规模的工业缺陷配对数据集非常少，这是因为配对数据较难采集，且后续对齐较为困难。本申请为了降低采集配对数据的成本，采用非配对的数据集，即各种包含缺陷被检测对象的图像构成的源域图像集X，和无缺陷的被检测对象的图像构成的目标域图像集Y。然后，再将由此源域图像集和目标域图像集用于训练注意力生成对抗网络。
在上述图2或图4所示的缺陷检测方法的实施例的基础上，图5示出了本申请实施例提供的缺陷检测方法的一种实施方式，如图5所示，步骤S120，将待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像，可以替换为步骤S120’；相应的，步骤S130，包括步骤S1311和S1312。
S120’，将待检测图像输入预存的注意力生成对抗网络进行处理，输出注意力掩模图像；将注意力掩模图像作为目标图像。
在本申请的一些实施例中，电子设备在利用如图1所示的注意力生成对抗网络对待处理图像进行处理的过程中，将注意力掩模图像提取出来，将注意力掩模图像作为目标图像。注意力掩模图像可以是任意一个通道的前景注意力掩模
Figure BDA0002814980210000101
也可以是背景注意力掩模
Figure BDA0002814980210000102
在另一些实施例中，电子设备采用的注意力生成对抗网络只生成前景注意力掩模Ay，则注意力掩模图像可以为前景注意力掩模Ay，也可以为背景注意力掩模(1-Ay)。
S1311，对注意力掩模图像进行直方图匹配，得到均衡图像。
其中，直方图匹配又称为直方图规定化，是指将一幅图像的直方图变成规定形状的直方图而进行的图像增强方法。
需要指出的是，注意力掩模本身的值域范围较小，通过直方图匹配的方式将值域拉宽，从而方便通过阈值化处理，进而确定缺陷位置。具体的，由于缺陷区域的像素灰度值和正常区域的像素灰度值差异比较接近，一般在50左右，不容易设一个固定的阈值将二者分开。直方图匹配操作后灰度范围拉大，原本缺陷区域的像素灰度值和正常区域的像素灰度值差异二者差异比较明显，更方便设定阈值对包含被检测对象缺陷的区域进行提取。
S1312，确定均衡图像中的缺陷区域。
在本申请的一些实施例中，确定均衡图像中的缺陷区域，包括：
对均衡图像进行阈值化处理，得到种子位置；
根据种子位置，采用预存的区域分割算法确定均衡图像中注意力测度大于第一阈值的第一区域，第一区域为缺陷区域。
其中，阈值化处理可以理解为，一幅图像包括目标物体、背景还有噪声，要想从多值的数字图像中直接提取出目标物体，可以设定一个阈值T，用T将图像的数据分成两部分，像素灰度值大于T的像素群和小于T的像素群。
其中，基于区域的分割方法是以直接寻找区域为基础的分割技术，区域生长是从一组代表不同生长区域的种子像素开始，接下来将种子像素邻域里符合条件的像素合并到种子像素所代表的生长区域中，并将新添加的像素作为新的种子像素继续合并过程，直到找不到符合条件的新像素为止。
需要指出的是，缺陷的边界区域与正常区域中间存在一个过渡区域。在本申请的一些实施例中，首先通过阈值化得到缺陷的中心区域，而后通过区域生长的方式找到缺陷的真实边界，使得对缺陷区域的分割结果更加准确。
在一些可选的实施例中，根据第一区域的边界，在均衡注意力掩模图像中的缺陷位置生成缺陷框。
在本申请的另一些实施例中，在获取待检测图像之后，方法还包括：
获取预估的待检测图像的缺陷长度；
相应的，确定均衡图像中的缺陷区域，包括：
根据缺陷长度确定滑动窗的参数；
采用滑动窗的参数在均衡图像中搜索注意力测度最大的区域，注意力测度最大的区域为缺陷区域。
注意力掩模图像中的像素灰的度值，即为注意力测度，注意力测度代表该像素被注意力网络关注的程度。
在一些实施方式中，电子设备获得的待检测图像是检测机台预先筛选过的图像。检测机台初步筛选出包含工业缺陷的被检测对象的图像。检测机台通过邻域比较的方式比较的方式估计该区域边长。检测机台会在一个低分辨率的灰度图上大致估计缺陷的尺寸，并将该尺寸当成一个已知信息和高清的待检测图像一起发送到电子设备。邻域比较的方式，是将目标像素和邻域像素进行比较，如果目标像素与其邻域像素的差异比较大，则认为该像素属于缺陷区域的像素。在低分辨率的图像上，一个像素可以代表高分辨率几个像素，这样如果在低分辨率的图像上发现2像素相连像素域周围像素差异较大，那可能在高分辨率图像上要采用2A边长的滑动窗，A是低分辨率图像和高分辨率图像间的分辨率差异的系数。
在一些实施例中，采用图5所示的缺陷检测方法检测到的缺陷区域，并采用方框标记待检测图像的缺陷区域，可以将标记缺陷的待检测图像作为训练缺陷分类网络的样本，从而减少了手动标记的工作，提高了效率，节省了人工成本。
图6A1和图6B1是被检测对象的待检测图像的示例；图6A2和图6B2是通过注意力生成对抗网络处理，获得的被检测对象的注意力掩模图像；图6A3和图6B3是通过对注意力掩模图像运用图5的缺陷检测方法确定的缺陷区域，并采用方形缺陷框标注的示例。
参考图1，在一般的对注意力生成对抗网络的应用中，在对前景图像进行处理，例如将前景图像中的马伪造成斑马，或者将前景图像中没有表情的人脸伪造成微笑或者其他表情的人脸时，中间输出的注意力掩模(包括前景注意力掩模
Figure BDA0002814980210000132
和背景注意力掩模
Figure BDA0002814980210000133
)图像用来帮助将生成对抗网络将是将前景突显出来，背景则忽略掉。从而就会只凸显出马，而背景就是很低的值，进而避免将背景进行过度处理，导致背景被大幅修改。可见，中间输出的注意力掩模图像是，为了获得生成图像Gy的辅助作用。
本申请发明人创造性的发现，经过训练的注意力生成对抗网络中间输出的注意力掩模图像，注意力掩模中缺陷区域的注意力测度，即像素灰度值，会明显易异于其他正常区域。本申请发明人创造性的将该注意力掩模图像提取出来用于工业场景中的缺陷检测，可以在少量缺陷训练样本的情况下，实现对被测对象的自动缺陷检测，从而减少了人力成本。
在上述图4所示的缺陷检测方法的实施例的基础上，图7示出了本申请实施例提供的一种缺陷检测的实施方式，如图7所示，步骤S120，将待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像，可以替换为步骤S120”；相应的，步骤S130，包括步骤S1321和S1322。
S120”，将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出去除待检测图像中的缺陷的背景图像，将背景图像作为目标图像。
在本申请的一些实施例中，采用图4所示缺陷检测方法采用的的训练集训练得到的注意力生成对抗网络。当电子设备向该注意力生成对抗网络输入待检测图像后，其最终输出的目标域图像为去除待检测图像中被检测对象的缺陷的背景图像。电子设备将该背景图像作为目标图像进行后续的图像后处理。
S1321，比较待检测图像和目标图像的像素相似度。
在本申请的实施例中，电子设备比较待检测图像和目标图像的像素相似度的方式可以采用包括但不限于绝对差值和(sum of absolute difference,SAD)或残差平方和(sum of squared error,SSE)等单个像素比较的相似度测度；还可以采用包括但不限于特征相似度(feature similarity，FSIM)或结构相似度(structural similarity，SSIM)等基于像素领域比较的相似度的方式。对图像进行像素相似度的比较为现有技术，这里不再赘述。
S1322，将目标图像中像素相似度低于相似度阈值的像素构成的像素块作为缺陷区域。
在本申请的一些实施例中，相似度阈值为预先设定的值。可以理解，电子设备将待检测图像和目标图像进行像素级比较时，相似度低于相似度阈值的像素，极有可能是被检测对象的缺陷位置对应的像素。电子设备将像素相似度低于相似度阈值的像素构成的像素块标记出来作为缺陷区域。应理解，电子设备标记缺陷区域的像素即相当于对待检测图像进行了图像分割。图8A，和图8B示出的是对待检测图像中的被检测对象的工业缺陷的分割结果示例。
在本申请的另一些实施例中，在将目标图像中像素相似度低于相似度阈值的像素构成的像素块作为缺陷区域之后，方法还包括：
采用预存的形态学滤波算法对目标图像进行滤波处理，得到优化图像，该优化图像不包括干扰缺陷区域。
在一个具体的示例中，电子设备采用开运算，即先腐蚀再膨胀的方式对标记了缺陷区域的待检测图像进行滤波处理。进行形态学滤波的目的在于去除一些形状不规则，尺寸较小的区域。由于一些图像噪声的影响，比较待检测图像和目标图像的像素相似度，差值较大的区域可能由重建误差导致，但其尺寸通常较小，此时可以通过形态学滤波去除这些噪声，以获得更准确的分割结果。
应理解，参考图1，在一般的对注意力生成对抗网络的应用中，在对前景图像进行处理，例如将前景图像中的马伪造成斑马，或者将前景图像中没有表情的人脸伪造成微笑或者其他表情的人脸。目标域的输出图像Gy即为利用生成对抗网络所需要的最终结果。或者说，应用注意力生成对抗网络的最终目的是生成伪造图像。本申请发明人创造性的发现，由于存在注意力机制，注意力生成对抗网络输入的待检测图像的前景区域和输出图像的前景区域会存在较大差异。若输入的待检测图像为包含工业缺陷的图像，输出的目标域图像为去除了工业缺陷的背景图像，则通过将输入图像和输出图像相比较，可以明显的突出前景图像，即被检测对象的工业缺陷的区域。由于注意力机制，输出的背景图像的非缺陷区域与输入的图像相近。将比较结果用于对工业缺陷区域的检测和更为精细的对工业缺陷区域的图像分割，可以在少量缺陷训练样本的情况下，实现对被测对象的自动缺陷检测，从而减少了人力成本。
在一些实施例中，缺陷分割的目的在于得到像素级精度的缺陷位置，经过分割的输出图像可以进一步的用于判定缺陷与各个部件之间的相交关系，并评估缺陷对面板质量的影响。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
对应于上述图2所示的缺陷检测方法，图9示出的是本申请实施例提供的一种缺陷检测装置900，包括：
待检测图像获取模块910，用于获取待检测图像。
待检测图像处理模块920，用于将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像。
缺陷区域确定模块930，用于确定目标图像中的缺陷区域。
可以理解的是，以上实施例中的各种实施方式和实施方式组合及其有益效果同样适用于本实施例，这里不再赘述。
图10为本申请一实施例提供的电子设备的结构示意图。在一个具体的示例中，该电子设备可以为缺陷检测设备。如图10所示，该实施例的电子设备D10包括：至少一个处理器D100(图10中仅示出一个)处理器、存储器D101以及存储在存储器D101中并可在至少一个处理器D100上运行的计算机程序D102，处理器D100执行计算机程序D102时实现上述任意各个方法实施例中的步骤。或者，处理器D100执行计算机程序D102时实现上述各装置实施例中各模块/单元的功能。
电子设备D10可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。该电子设备可包括，但不仅限于，处理器D100、存储器D101。本领域技术人员可以理解，图10仅仅是电子设备D10的举例，并不构成对电子设备D10的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括输入输出设备、网络接入设备、图像获取设备等。
所称处理器D100可以是中央处理单元(Central Processing Unit，CPU)，该处理器D100还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器D101在一些实施例中可以是电子设备D10的内部存储单元，例如电子设备D10的硬盘或内存。存储器D101在另一些实施例中也可以是电子设备D10的外部存储设备，例如电子设备D10上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，存储器D101还可以既包括电子设备D10的内部存储单元也包括外部存储设备。存储器D101用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等，例如计算机程序的程序代码等。存储器D101还可以用于暂时地存储已经输出或者将要输出的数据。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请实施例还提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行时实现可实现上述各个方法实施例中的步骤。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括：能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/网络设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/网络设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (11)

1.一种缺陷检测方法，其特征在于，包括：
获取待检测图像；
将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像；
确定所述目标图像中的缺陷区域。
2.如权利要求1所述的方法，其特征在于，在所述获取待检测图像之前，所述方法还包括：
采用源域图像集和目标域图像集对未训练的注意力生成对抗网络进行训练，得到所述注意力生成对抗网络；其中，所述源域图像集中的图像为第一图像，所述目标域图像集中的图像为第二图像，所述第一图像为含缺陷的被检测对象的图像，所述第二图像为不含缺陷的被检测对象的图像，所述源域图像集与所述目标域图像集为非配对图像集。
3.如权利要求1或2所述的方法，其特征在于，所述将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像，包括：
所述将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出注意力掩模图像；
所述确定所述目标图像中的缺陷区域，包括：
对所述注意力掩模图像进行直方图匹配，得到均衡图像；
确定所述均衡图像中的缺陷区域。
4.如权利要求3所述的方法，其特征在于，所述确定所述均衡图像中的缺陷区域，包括：
对所述均衡图像进行阈值化处理，得到种子位置；
根据所述种子位置，采用预存的区域分割算法确定所述均衡图像中注意力测度大于第一阈值的第一区域，所述第一区域为缺陷区域。
5.如权利要求3所述的方法，其特征在于，在所述获取待检测的图像之后，所述方法还包括：
获取预估的所述待检测图像的缺陷长度；
所述确定所述均衡图像中的缺陷区域，包括：
根据所述缺陷长度确定滑动窗的参数；
采用所述滑动窗的参数在所述均衡图像中搜索注意力测度最大的区域，所述注意力测度最大的区域为缺陷区域。
6.如权利要求2所述的方法，其特征在于，所述将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像，包括：
将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出去除所述待检测图像中的缺陷的背景图像，将所述背景图像作为所述目标图像；
所述确定所述目标图像中的缺陷区域，包括：
比较所述待检测图像和所述目标图像的像素相似度；
将所述目标图像中像素相似度低于相似度阈值的像素构成的像素块作为缺陷区域。
7.如权利要求6所述的方法，其特征在于，在所述将所述目标图像中像素相似度低于相似度阈值的像素构成的像素块作为缺陷区域之后，所述方法还包括：
采用预存的形态学滤波算法对所述目标图像进行滤波处理，得到优化图像，所述优化图像不包括干扰缺陷区域。
8.如权利要求1所述的方法，其特征在于，所述待检测图像包括检测机台获取的待检测印刷电路板的图像，所述检测机台为印刷电路板生产线中的印刷电路板检测设备；所述缺陷区域对应于工业缺陷在所述待检测印刷电路板中的位置。
9.一种缺陷检测装置，其特征在于，包括：
待检测图像获取模块，用于获取待检测图像；
待检测图像处理模块，用于将所述待检测图像输入预存的注意力生成对抗网络进行处理，输出目标图像；
缺陷区域确定模块，用于确定所述目标图像中的缺陷区域。
10.一种电子设备，其特征在于，所述电子设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至8任一项所述的方法。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的方法。
CN202011395618.4A 2020-12-03 2020-12-03 缺陷检测方法、装置、电子设备及计算机可读存储介质 Pending CN114596242A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011395618.4A CN114596242A (zh) 2020-12-03 2020-12-03 缺陷检测方法、装置、电子设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011395618.4A CN114596242A (zh) 2020-12-03 2020-12-03 缺陷检测方法、装置、电子设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN114596242A true CN114596242A (zh) 2022-06-07

Family

ID=81802479

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011395618.4A Pending CN114596242A (zh) 2020-12-03 2020-12-03 缺陷检测方法、装置、电子设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN114596242A (zh)

Similar Documents

Publication Publication Date Title
CN109961049B (zh) 一种复杂场景下香烟品牌识别方法
CN108562589B (zh) 一种对磁路材料表面缺陷进行检测的方法
KR20190063839A (ko) 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템
CN111008961B (zh) 一种输电线路设备缺陷检测方法及其系统、设备、介质
CN111145209A (zh) 一种医学图像分割方法、装置、设备及存储介质
CN110135514B (zh) 一种工件分类方法、装置、设备及介质
JP2006067585A (ja) デジタル画像におけるキャプションを位置特定及び抽出する方法及び装置
CN105931246A (zh) 一种基于小波变换和遗传算法的织物瑕疵检测方法
CN105095835A (zh) 行人检测方法及系统
CN109858570A (zh) 图像分类方法及系统、计算机设备及介质
CN110599453A (zh) 一种基于图像融合的面板缺陷检测方法、装置及设备终端
Wah et al. Analysis on feature extraction and classification of rice kernels for Myanmar rice using image processing techniques
CN113888462A (zh) 一种裂纹识别方法、系统、可读介质及存储介质
Rhee Detection of spliced image forensics using texture analysis of median filter residual
CN112784835A (zh) 圆形印章的真实性识别方法、装置、电子设备及存储介质
CN117094975A (zh) 钢铁表面缺陷检测方法、装置及电子设备
Gui et al. A fast caption detection method for low quality video images
Hommos et al. Hd Qatari ANPR system
Singh et al. ANPR Indian system using surveillance cameras
CN105354833A (zh) 一种阴影检测的方法和装置
Babu et al. A feature based approach for license plate-recognition of Indian number plates
Lin et al. Locating license plate based on edge features of intensity and saturation subimages
CN115131355A (zh) 利用电子设备数据检测防水布异常的智能方法
CN114596242A (zh) 缺陷检测方法、装置、电子设备及计算机可读存储介质
Rani et al. Object Detection in Natural Scene Images Using Thresholding Techniques

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination