CN114913148A - 基于无监督学习的丝印疵点检测方法、装置及存储介质 - Google Patents
基于无监督学习的丝印疵点检测方法、装置及存储介质 Download PDFInfo
- Publication number
- CN114913148A CN114913148A CN202210512149.2A CN202210512149A CN114913148A CN 114913148 A CN114913148 A CN 114913148A CN 202210512149 A CN202210512149 A CN 202210512149A CN 114913148 A CN114913148 A CN 114913148A
- Authority
- CN
- China
- Prior art keywords
- image
- abnormal
- network
- reconstruction
- defect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000007547 defect Effects 0.000 title claims abstract description 140
- 238000000034 method Methods 0.000 title abstract description 40
- 230000002159 abnormal effect Effects 0.000 claims abstract description 179
- 238000001514 detection method Methods 0.000 claims abstract description 41
- 230000006870 function Effects 0.000 claims description 22
- 238000012549 training Methods 0.000 claims description 17
- 238000004458 analytical method Methods 0.000 claims description 16
- 238000005070 sampling Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 5
- 238000000605 extraction Methods 0.000 claims description 5
- 238000000926 separation method Methods 0.000 claims description 3
- 230000002950 deficient Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 8
- 238000007650 screen-printing Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000004927 fusion Effects 0.000 description 6
- 238000007639 printing Methods 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000002547 anomalous effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000010183 spectrum analysis Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30124—Fabrics; Textile; Paper
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及丝印疵点检测技术领域。公开了一种基于无监督学习的丝印疵点检测方法、装置及存储介质。基于无监督学习的丝印疵点检测方法包括：获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像；比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像；将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。通过本发明，提高了丝印疵点检测的准确度。
Description
技术领域
本发明涉及丝印疵点检测技术领域，尤其涉及基于无监督学习的丝印疵点检测方法、装置及存储介质。
背景技术
随着现代工业化的迅速发展，人们对于印刷工业产品的要求也越来越高，然而，在实际印刷过程中往往会出现许多缺印、错印现象。因传统人工检测存在效率低、人工成本高、疲劳误检等一系列问题，现在广泛采用视觉检测系统对缺陷进行在线检测。
随着计算机视觉技术的不断发展，基于深度学习的缺陷识别技术日益成熟，有效提高了缺陷的识别速度和识别精度。其中，监督学习模型在缺陷样本的检测中是最为普遍的，通常是使用大量的缺陷标注样本来训练模型。但是，在实际的丝印检测工业中，缺陷样本的形态多样、图像纹理变换复杂且无规律性，对于疵点检测较为困难。
发明内容
本发明的主要目的在于提供一种基于无监督学习的丝印疵点检测方法、装置及存储介质，旨在解决在丝印缺陷样本形态多样、图像纹理变换复杂的条件下难以实现缺陷检测的技术问题。
为实现上述目的，本发明提供一种基于无监督学习的丝印疵点检测方法，所述基于无监督学习的丝印疵点检测方法包括以下步骤：
获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像；
比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像；
将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
可选地，所述方法还包括生成模拟的异常图像，所述生成模拟的异常图像的步骤还包括：
由柏林噪声生成器随机生成噪声图像，并对所述噪声图像进行二值化处理得到模拟异常图像掩膜和反掩膜；
从预设的源图像数据集上采样一个异常纹理源图像，并对所述异常纹理源图像进行数据增强；
获取正常样本图像，并基于所述正常样本图像、模拟异常图像掩膜和反掩膜以及数据增强后的异常纹理源图像，得到模拟的异常图像。
可选地，对所述异常纹理源图像进行数据增强的步骤包括：
从预设的集合中随机选取一种或多种方式对所述异常纹理源图像进行增强采样，其中，所述预设的集合中至少包括亮度变化、锐度、曝光度、颜色变化和色调分离。
可选地，所述方法还包括生成模拟的异常图像，所述生成模拟的异常图像的步骤还包括：
从预设的源图像数据集中选择一个源图像，并基于所述源图像随机生成贴片；
获取正常样本图像，并将所述贴片粘贴至所述正常样本图像上，得到模拟的异常图像。
可选地，还包括：
基于模拟的异常图像，对重构网络进行训练，将所述异常图像和重构图像之间的重构误差作为重构损失函数，训练所述重构网络直至重构损失函数趋于收敛。
可选地，比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像的步骤包括：
采用区域分析方法比较所述异常图像和重构图像的差异，确定疵点所在的缺陷图像块；
对所述异常图像和重构图像进行逐像素比较，在所述缺陷图像块中初步定位疵点，得到残差图像。
可选地，还包括：
利用所述异常图像、重构图像和残差图像对判别网络进行初始训练，对所述重构网络和判别网络的总损失函数进行计算，直至所述总损失函数的值降到最低。
可选地，所述重构网络包括一个编码器和一个解码器，所述判别网络包括一个卷积网络，所述判别网络共用所述重构网络的编码器完成特征提取。
此外，为实现上述目的，本发明还提供一种基于无监督学习的丝印疵点检测装置，其特征在于，所述丝印疵点检测装置包括：
重构模块，用于获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像；
初步定位模块，用于比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像；
精确定位模块，用于将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
此外，为实现上述目的，本发明还提供一种存储介质，所述存储介质上存储有丝印疵点检测程序，所述丝印疵点检测程序被处理器执行时实现如上所述的基于无监督学习的丝印疵点检测方法的步骤。
本发明通过重构输入图像获得无缺陷的重构图像，并比较异常图像和重构图像的差异对存在的缺陷区域进行初步检测，最终利用判别网络得到精确定位疵点的异常分数图，实现对缺陷图像的准确检测。
附图说明
图1为本发明基于无监督学习的丝印疵点检测方法一实施例的流程示意图；
图2为本发明丝印疵点检测方法一实施例的流程图；
图3为本发明丝印疵点检测方法另一实施例的流程示意图；
图4为本发明生成异常图像的流程示意图；
图5为本发明模拟异常图像生成的示例图；
图6为本发明无缺陷丝印图像及利用柏林噪声得到的丝印缺陷图像；
图7为本发明生成异常图像的另一流程示意图；
图8为本发明无缺陷丝印图像及利用泊松融合得到的丝印缺陷图像；
图9为本发明重构网络的结构图；
图10为本发明ConvBlocks的结构图；
图11为本发明重构网络每层的结构图；
图12为本发明丝印异常图像及残差图像；
图13为本发明丝印异常图像及异常分数图；
图14为本发明实施例方案涉及的硬件运行环境的丝印疵点检测设备结构示意图；
图15为本发明丝印疵点检测装置一实施例的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
参照图1，图1为本发明基于无监督学习的丝印疵点检测方法一实施例的流程示意图。本发明公开的基于无监督学习的丝印疵点检测方法包括：
步骤S101，获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像。
重构网络用于重建输入图像，即对于输入的有缺陷的异常图像，通过该重构网络可以输出无缺陷的重构图像。具体地，如图2所示，本实施例中的重构网络可以由一个编码器和一个解码器构成。
步骤S102，比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像。
参见图2，在图像重建之后，需要分析输入的异常图像与输出的重构图像之间的差异，以检测疵点所在位置。在本实施例中主要采取图像差分分析方法，通常包括三个步骤：(1)利用区域分析方法进行粗略分析，检测出有缺陷的区域，避免将背景像素误判为缺陷；(2)对异常图像和重构图像进行逐像素比较，得到初步的残差图像；(3)结合(1)和(2)的结果，对缺陷进行更为精确的分割，得到初步定位疵点的残差图像。
步骤S103，将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
基于图像差分分析方法得到的残差图像大致定位了缺陷所在位置，但是仍然存在缺陷区域与背景分割不明确的问题，因此，本发明提出了一种用于对缺陷精确定位的判别网络，将异常图像、重构图像和残差图像作为判别网络的输入，最后输出精确定位疵点的异常分数图。
在本发明中，判别网络由一个卷积网络构成，判别网络的输入端是异常图像、重构图像和残差图像的通道级联，输出端是与异常图像大小相同的异常分数图。现有的其他方法中使用的判别网络仍然包含特征提取网络，这极大增加了计算量以及网络的复杂度，为此本发明将重构网络中的特征提取器再次利用，用重构网络的编码器完成了判别网络的特征提取，减小计算量以及模型的复杂度。
该方法是基于一个训练良好的网络模型重构出输入图像的假设，即对于有缺陷的样本图像，通过该网络模型可以重构出无缺陷的样本图像。因此，通过对有缺陷图像进行重构，可以计算出无缺陷样本和有缺陷样本之间的差异，从而实现对缺陷样本的精确定位，该过程可以表示为：
Ire＝R(Isrc)
Mo＝D(Isrc,Irec,Imask)
其中，Isrc表示利用正常样本I生成的异常图像，Irec表示重构网络输出的重构图像，Imask表示利用离散余弦变换得到的残差图像，R表示重构网络，D表示定位缺陷的判别网络，M0表示判别网络输出的异常分数图。
本发明提出的丝印疵点检测方法是通过一个重构网络和一个判别网络来实现的。重构网络经过训练，能检测并重构输入图像中异常区域的异常，将输入图像中的异常区域重构为无异常区域，同时还能保持输入图像中的非异常区域不变。其次，还引入了差分分析方法来计算异常图像和重构图像之间的差异，得到残差图像。判别网络可以联合异常图像、重构图像和残差图像的嵌入特征，生成准确定位疵点的异常分数图。
本实施例中通过重构网络将异常图像重构为无缺陷的重构图像，并引入图像差分分析方法比较异常图像和重构图像的差异，得到初步定位疵点的残差图像，最终通过将异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图，实现对缺陷图像的准确检测。
图3为本发明丝印疵点检测方法另一实施例的流程示意图。如图3所示，基于无监督学习的丝印疵点检测方法包括：
步骤S201：生成模拟的异常图像。
参见图2，在一些实施例中，在训练阶段，通过对正常图像进行数据处理，将正常样本图像模拟为有缺陷的异常图像，获得任意数量的异常样本，解决了实际丝印检测工业缺陷样本少的问题，便于在没有真实异常样本的情况下对网络模型进行训练。
进一步地，如图4所示，步骤S201：生成模拟的异常图像的步骤可以包括：
步骤S2011，由柏林噪声生成器随机生成噪声图像，并对所述噪声图像进行二值化处理得到模拟异常图像掩膜和反掩膜。
图5是模拟异常图像生成的示例图，具体地，由柏林噪声生成器随机生成噪声图像，以此获得各种形状的异常噪声图像(图5，p)，并通过均匀随机采样的阈值对各种形状的异常噪声图像进行二值化，生成模拟异常图像掩膜Ma和反掩膜
步骤S2012，从预设的源图像数据集上采样一个异常纹理源图像，并对所述异常纹理源图像进行数据增强。
具体地，从一个与输入图像分布无关的源图像数据集上采样一个异常纹理源图像(图5，A)，然后从预设的集合随机选取一种或多种方式对异常纹理源图像A进行增强采样，预设的集合中至少包括亮度变化、锐度、曝光度、颜色变化和色调分离。
步骤S2013，获取正常样本图像，并基于所述正常样本图像、模拟异常图像掩膜和反掩膜以及数据增强后的异常纹理源图像，得到模拟的异常图像。
具体地，将增强后的异常纹理源图像A和模拟异常图像掩膜Ma相乘，正常图像I和模拟异常图像掩膜Ma相乘，正常图像I和模拟异常图像掩膜的反掩膜
相乘，将三个相乘的结果相加得到最后的模拟异常图像Ia，可用如下公式来表示：
其中，β是超参数，β的范围在[0.1，1.0]之间。
如图6所示，左边是正常的无缺陷丝印图像，右边是利用柏林噪声模拟的有缺陷丝印图像。上述异常图像生成方法可以从单个纹理生成不同的异常图像，同时可以生成无数包含正常图像、模拟异常图像和模拟异常图像的掩膜作为模型训练的样本。
进一步地，如图7所示，步骤S201：生成模拟的异常图像的步骤也可以包括：
步骤S2011a，从预设的源图像数据集中选择一个源图像，并基于所述源图像随机生成贴片。
进一步地，从一个与输入图像分布无关的源图像数据集上选择一个源图像，然后从该源图像上随机选择一个贴片，贴片的大小、形状可以随意调整不作限制。
可选地，在本实施例中，从该源图像上随机选择一个矩形贴片，且在同一个目标图像上可以添加多个矩形贴片。
步骤S2012a，获取正常样本图像，并将所述贴片粘贴至所述正常样本图像上，得到模拟的异常图像。
进一步地，可以将上述贴片粘贴到目标图像上的不同位置，利用泊松融合，将贴片无缝融入到目标图像上，得到异常图像。
将一个无关联图像粘贴到正常样本图像上，常见的方法在对图像的部分进行粘贴的过程中会引起明显的不连续性，而本发明中采用泊松融合的方法，可以将一张图像的部分无缝地粘贴到目标图像上。
具体地，对于源图像g以及要生成的异常图像f*，在区域Ω内求一个插值f，定义为公式(1-1)，以得到在边界条件
上f的最小化值，并根据泊松偏微分方程(公式1-2)得到异常图像f*在狄利克雷边界下的唯一解。
其中，梯度v如公式(1-3)所示，公式(1-4)表示求得的源图像g的梯度或是源图像g和异常图像f*混合区域的梯度。
如图8所示，左边是正常的无缺陷丝印图像，右边是利用泊松融合模拟得到的有缺陷丝印图像。本实施例采用泊松融合实现裁剪后的矩形贴片与目标图像的无缝融合，将正常样本图像模拟为有缺陷的异常图像，便于在没有真实异常样本的情况下对网络模型进行训练。
可以理解地，步骤S201可以仅执行步骤S2011～步骤S2013的方法，通过柏林噪声的方式生成异常图像；也可以仅执行步骤S2011a～步骤S2012a的方法，通过泊松融合的方式生成异常图像；也可以部分异常图像通过柏林噪声的方式生成，执行步骤S2011～步骤S2013的方法，部分异常图像通过泊松融合的方式生成，执行步骤S2011a～步骤S2012a的方法。
步骤S202，基于模拟的异常图像，对重构网络进行训练。
重构网络用于重建输入图像，即对于输入的有缺陷的异常图像，通过该重构网络可以输出无缺陷的重构图像。
具体地，如图9所示，编码器和解码器主要是由四个卷积块ConvBlocks和四个反卷积块DeconvBlocks组成。其中，ConvBlocks的结构如图10所示，ConvBlocks包含两个卷积层，两个归一化BN层和两个LeakyReLU层，在重构网络中，不包含池化层以及上采样层。具体地，在每个ConvBlocks中，第一个卷积层的步长为2，第二个卷积层的步长为1，而DeconvBlocks中则相反，第一个卷积层的步长为1，第二个卷积层的步长为2。
可选地，重构网络中还包含两个卷积层E_pre和E_post，以及两个反卷积层D_pre和D_post进行预处理和后处理。如图9所示，E_pre层包括一个卷积核大小为5的卷积层、一个BN层以及一个LeakyReLU层，E_post层包括一个卷积核大小为8的卷积层和一个BN层。而D_pre则是一个卷积核大小为8的反卷积层，D_post是一个卷积核大小为5的反卷积层。从图中不难看出，在重构网络中，特征图的大小是严格对称的。随着编码器下采样的进行，感受野会一步步扩大，原始图像特征相当于被压缩了，也会丢掉一些原始图像的细节信息，严格对称的特征图使用跳级连接保存了原始图像由于下采样丢失的细节信息，使得整个网络可以很好的记住图像的所有信息。
在一些实施例中，重构网络每层的结构如图11所示。
进一步地，可以基于模拟的异常图像，对重构网络进行训练。
可选地，可以将所述异常图像和重构图像之间的重构误差作为重构损失函数，训练所述重构网络直至趋于收敛。
为了实现高精度的重构图像，有效检测纹理分布不均匀图像上的缺陷，本发明中引入了基于结构相似度(structural similarity index，SSIM)的加权损失函数，在重构网络的训练阶段，利用异常图像和重建后的重构图像之间的重构误差作为重构的损失函数，来进一步改善图像重构的质量，可以表示为：
L(Isrc，Irec)＝Diff(Isrc，Irec+λ||WN||F
其中，WN是重构网络的超参数，λ||WN||F是为了避免过拟合引入的常规项，Diff(Isrc,Irec)为两幅图像Isrc和Irec之间的差值比较函数。
计算重构误差，目前使用最广泛的比较函数是均方误差(MSE)函数，可以定义为：
其中H、W为原始输入的异常图像的宽度、高度，Gsrc(i,j)、Grec(i,j)分别为异常图像Isrc和重构图像Irec中像素(i,j)的灰度值，i，j表示每个像素点的坐标。
然而，MSE函数更适合纹理分布均匀的图像，本发明中的异常图像上存在多个分布不均匀的纹理，在重构过程中，缺陷部分是相对关键的地方，而缺陷部分的纹理又较为复杂。因此，在训练阶段，重构网络可以在纹理相对均匀的区域快速获得较小的重构误差，而在临近缺陷边缘的过渡区域重构误差较大。由于上述问题产生的巨大差异，即使基于SSIM的加权损失函数接近收敛，重构图像仍然是模糊的，会导致检测的缺陷定位不准。
在本发明中，为了解决上述问题，在计算重构误差时，可以通过修改每个区域的权值来解决。对于缺陷部分所在区域赋予高的权重值，而对于纹理相对均匀的区域，则赋予较低的权重值。这样，重构网络就会专注于提高重要区域的重构质量，而不是对所有区域都表现一致。
在重构网络中，通过一个窗口滑过异常图像，提取到一系列的图像块，并计算出每个图像块的方差，得到方差图，可以表示为：
其中，V(i,j)为像素(i,j)的方差值，Pij为从异常图像中提取的以(i,j)为中心的图像块,Gp(i′,j′)表示Pij中每个图像块像素点(i′,j′)的灰度值，
表示Pij的平均灰度值，Nrc表示Pij中的像素点个数。可以看出，方差可以在一定程度上描述纹理的复杂性，复杂纹理区域由于灰度值的急剧变化而具有较高的方差值。因此，可以根据方差赋值如下：
其中，W(i,j)表示权重图中像素(i,j)的权重值，权重值的取值范围在0到1之间，b是平衡高方差和低方差区域重要性的偏差值，Cnorm是保证W(i,j)和为1的标准化参数。传统的均方误差可以写为：
由于MSE函数只是逐像素的比较，缺乏区域信息。因此，利用异常图像和重构图像中两个区域之间的结构相似度来度量重构误差。SSIM的计算过程可以表示为：
SSIM(x，y)＝l(x，y)α×c(x，y)β×s(x，y）γ
其中，x、y表示比较中的两个图像块，α、β、γ为自定义系数，l(x,y)、c(x,y)、s(x,y)分别表示亮度、对比度、结构的比较函数，μx和μy表示平均强度，
和
表示方差，σxy表示x和y之间的相关系数，c1、c2和c3为小常数，避免在分母非常接近于零时计算不稳定。在本实施例中，为了简化表达式，设定α＝β＝γ＝1，c3＝c2/2，因此，得到的SSIM公式为：
Ls(x，y)＝1-SSIM(x，y)
Ls(x,y)为基于SSIM的损失函数，将SSIM与加权平均相结合，重构网络训练阶段最终采用的重构损失函数可表示为：
其中，Isrc和Irec分别为异常图像和重构图像，其中(i，j)代表图像补丁以像素为中心提取Isrc和Irec，并分别对每块图像补丁添加权重。
传统的深度卷积网络通常利用输入图像与重构图像之间的MSE损失函数来训练参数，但是无法适用于纹理分布不均匀的图像，本发明提供的基于SSIM的加权损失函数设计方法，在计算损失函数时采用加权平均方法来适应纹理分布的不均匀性，提高了重构图像的质量。
步骤S203，获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像。
具体地，该异常图像可以是真实异常样本，也可以是模拟的异常图像。
当异常图像是真实异常样本时，可用于丝印疵点检测；当异常图像是模拟的异常图像时，可用于丝印疵点检测水平的验证。
步骤S204，采用区域分析方法比较所述异常图像和重构图像的差异，确定疵点所在的缺陷图像块。
在完成图像重构后，需要对异常图像和重构图像之前的差异进行分析，以初步检测出缺陷所在位置。
在一些实施例中，利用区域分析方法大致定位可能存在缺陷的区域，具体操作为：分别将异常图像和重构图像细分为大小为N*N，步长为S的图像块，本实施例中将N和S设为32。然后，通过频谱分析来测量异常图像块和重构图像块之间的差异，判断是否存在缺陷，测量是通过离散余弦变换实现的，离散余弦变换可以表示为：
其中，f(i，j)为图像块中像素位置(i，j)的灰度值，c(u)和c(v)均为系数，F(u，v)表示经过离散余弦变换后振幅谱图像(u，v)的值，u、v表示振幅谱图像中的像素坐标。
步骤S204，对所述异常图像和重构图像进行逐像素比较，在所述缺陷图像块中初步定位疵点，得到残差图像。
由于缺陷和背景之间存在很大的灰度差，因此，缺陷处图像的图谱图像中存在额外的高能量分量，这样缺陷区域的平均振幅值就会大于重构图像块的平均振幅值。由于离散余弦变换的能量集中效应，离散余弦变换对缺陷区域非常敏感，而对重构后的正常区域的变换保持鲁棒性，所以离散余弦变换可以作为一种缺陷特征提取方法，计算图像块的平均振幅值作为特征，以此来区分缺陷块和正常块，可以表示为如下公式：
其中，p为图像块，fDCT(p)表示从p中提取的特征，L为均值计算中统计的范围，在本实施例中取值为8，F(u，v)表示p对应的离散余弦变换结果的振幅值，F(0，0)会受到p的平均灰度值的影响，干扰后续的判断，所以在此处减去F(0，0)。
在测试阶段，对原始图像和重构图像进行基于离散余弦变换的特征图像块的计算，将正常的图像块和缺陷的图像块区别开来，可以写为：
其中，r∈(1,....,Rr)，c∈(1,....,Rc)，Rr＝(H-N)/S+1，Rc＝(W-N)/S+1，ε是一个阈值，
表示Imask在(r,c)区域的分析结果。
如图12所示，左边是模拟得到的异常图像，右边是经过图像差分分析的残差图像。本实施例中利用区域分析方法大致定位可能会存在缺陷的区域，提高了对缺陷进行精确分割的性能。
步骤S205：将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
基于离散余弦变换的差分分析方法得到的残差图像，可以大致定位缺陷图像块中缺陷所处位置，但是，缺陷所处位置仍然存在缺陷区域和背景分割不明确的问题，对缺陷位置的精确定位，还需要通过判别网络来实现。
本发明提出了一种编码器-解码器-判别器的网络架构，其中，重构网络由一个编码器和一个解码器组成，判别网络由一个判别器构成，更具体地，是由一个卷积网络构成，同时，为了减小计算量以及网络模型的复杂度，本发明中的判别网络共用了重构网络的特征提取器，利用重构网络的编码器完成了判断网络的特征提取。判别网络的输入端是异常图像、重构图像和残差图像的通道级联，由于重构网络的正态恢复特性，异常图像与重构图像有着明显的异常特征。将这些异常特征和残差图像上的异常特征融合，利用判别网络学习异常图像和正常样本图像之间的差距，从而输出与异常图像大小相同的异常分数图。如图13所示，左边是模拟得到的异常图像，右边是经过判别网络输出的异常分数图，从图中可以清晰看到疵点所在位置。
在重构网络中经常使用l2loss，该重构网络基于相邻像素之间是相互独立的，同时，为了实现高精度的重构图像，本发明中还引入了基于SSIM的加权损失函数，综合以上损失函数，重构网络和判别网络的总损失可以表示为：
Lrec(Isrc,Irec)＝δL(Isrc,Irec)+l2(Isrc,Irec)
其中，δ是一个超参数。重构网络将异常图像重构为正常图像，判别网络则通过检测重构的差值进行缺陷的精确定位。
在判别网络输出上应用Focal Loss(Lseg)增强对缺陷精确定位分割的鲁棒性，考虑重构网络和判别网络的目标，在训练时，总的损失函数为：
L(Isrc,Irec,Ma,Mo)＝Lrec(Isrc,Irec)+Lseg(Ma,Mo)
其中，Ma为缺陷图像的真实标签(ground truth)，Mo为判别网络最后输出的异常分数图。训练时，当总损失函数的值降到最低，模型的训练达到最优效果，训练好的模型就可以用于对真实缺陷的检测。
如图14所示，图14为本发明实施例方案涉及的硬件运行环境的丝印疵点检测设备结构示意图。
本发明实施例丝印疵点检测设备可以是PC，也可以是便携计算机、服务器等具有数据处理能力终端设备。
如图14所示，该丝印疵点检测设备可以包括：处理器1001，例如CPU，网络接口1004，用户接口1003，存储器1005，通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard)，可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选地可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatile memory)，例如磁盘存储器。存储器1005可选地还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解，图14中示出的丝印疵点检测设备结构并不构成对丝印疵点检测设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
如图14所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及丝印疵点检测程序。
在图14所示的丝印疵点检测设备中，网络接口1004主要用于连接后台服务器，与后台服务器进行数据通信；用户接口1003主要用于连接客户端(用户端)，与客户端进行数据通信；而处理器1001可以用于调用存储器1005中存储的丝印疵点检测程序，并执行以上基于无监督学习的丝印疵点检测方法的各实施例的操作。
参照图15，图15为本发明丝印疵点检测装置一实施例的功能模块示意图。
丝印疵点检测装置包括：
重构模块10，用于获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像；
初步定位模块20，用于比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像；
精确定位模块30，用于将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
进一步地，丝印疵点检测装置还包括异常图像生成模块40，异常图像生成模块40具体包括：
噪声生成单元，用于由柏林噪声生成器随机生成噪声图像，并对所述噪声图像进行二值化处理得到模拟异常图像掩膜和反掩膜；
数据增强单元，用于从预设的源图像数据集上采样一个异常纹理源图像，并对所述异常纹理源图像进行数据增强；
异常模拟单元，用于获取正常样本图像，并基于所述正常样本图像、模拟异常图像掩膜和反掩膜以及数据增强后的异常纹理源图像，得到模拟的异常图像。
进一步地，异常图像生成模块40包括：
贴片生成单元，用于从预设的源图像数据集中选择一个源图像，并基于所述源图像随机生成贴片；
贴片粘贴单元，用于获取正常样本图像，并将所述贴片粘贴至所述正常样本图像上，得到模拟的异常图像。
进一步地，丝印疵点检测装置还包括：
重构训练模块50，用于基于模拟的异常图像，对重构网络进行训练；
网络收敛模块60，用于将所述异常图像和重构图像之间的重构误差作为重构损失函数，训练所述重构网络直至趋于收敛。
进一步地，初步定位模块20包括：
分析单元，用于采用区域分析方法比较所述异常图像和重构图像的差异，确定疵点所在的缺陷图像块；
比较单元，用于对所述异常图像和重构图像进行逐像素比较，在所述缺陷图像块中初步定位疵点，得到残差图像。
本发明丝印疵点检测装置的具体实施例与上述基于无监督学习的丝印疵点检测方法的各个实施例基本相同，在此不做赘述。
此外，本发明实施例还提出一种存储介质，所述存储介质上存储丝印疵点检测程序，所述丝印疵点检测程序被处理器执行时实现如上述的基于无监督学习的丝印疵点检测方法的步骤。
本发明计算机存储介质的具体实施例与上述基于无监督学习的丝印疵点检测方法的各个实施例基本相同，在此不做赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种基于无监督学习的丝印疵点检测方法，其特征在于，所述基于无监督学习的丝印疵点检测方法包括以下步骤：
获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像；
比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像；
将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
2.如权利要求1所述的基于无监督学习的丝印疵点检测方法，其特征在于，所述方法还包括生成模拟的异常图像，所述生成模拟的异常图像的步骤包括：
由柏林噪声生成器随机生成噪声图像，并对所述噪声图像进行二值化处理得到模拟异常图像掩膜和反掩膜；
从预设的源图像数据集上采样一个异常纹理源图像，并对所述异常纹理源图像进行数据增强；
获取正常样本图像，并基于所述正常样本图像、模拟异常图像掩膜和反掩膜以及数据增强后的异常纹理源图像，得到模拟的异常图像。
3.如权利要求2所述的基于无监督学习的丝印疵点检测方法，其特征在于，对所述异常纹理源图像进行数据增强的步骤包括：
从预设的集合中随机选取一种或多种方式对所述异常纹理源图像进行增强采样，其中，所述预设的集合中至少包括亮度变化、锐度、曝光度、颜色变化和色调分离。
4.如权利要求1所述的基于无监督学习的丝印疵点检测方法，其特征在于，所述方法还包括生成模拟的异常图像，所述生成模拟的异常图像的步骤包括：
从预设的源图像数据集中选择一个源图像，并基于所述源图像随机生成贴片；
获取正常样本图像，并将所述贴片粘贴至所述正常样本图像上，得到模拟的异常图像。
5.如权利要求1～4任一项所述的基于无监督学习的丝印疵点检测方法，其特征在于，还包括：
基于模拟的异常图像，对重构网络进行训练，将所述异常图像和重构图像之间的重构误差作为重构损失函数，训练所述重构网络直至趋于收敛。
6.如权利要求1～4任一项所述的基于无监督学习的丝印疵点检测方法，其特征在于，比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像的步骤包括：
采用区域分析方法比较所述异常图像和重构图像的差异，确定疵点所在的缺陷图像块；
对所述异常图像和重构图像进行逐像素比较，在所述缺陷图像块中初步定位疵点，得到残差图像。
7.如权利要求1～4任一项所述的基于无监督学习的丝印疵点检测方法，其特征在于，还包括：
利用所述异常图像、重构图像和残差图像对判别网络进行初始训练，对所述重构网络和判别网络的总损失函数进行计算，直至所述总损失函数的值降到最低。
8.如权利要求1～4任一项所述的基于无监督学习的丝印疵点检测方法，其特征在于，所述重构网络包括一个编码器和一个解码器，所述判别网络包括一个卷积网络，所述判别网络共用所述重构网络的编码器完成特征提取。
9.一种基于无监督学习的丝印疵点检测装置，其特征在于，所述丝印疵点检测装置包括：
重构模块，用于获取异常图像，并将所述异常图像输入至重构网络中，获得无缺陷的重构图像；
初步定位模块，用于比较所述异常图像和所述重构图像的差异，得到初步定位疵点的残差图像；
精确定位模块，用于将所述异常图像、重构图像和残差图像输入至判别网络中，得到精确定位疵点的异常分数图。
10.一种存储介质，其特征在于，所述存储介质上存储有丝印疵点检测程序，所述丝印疵点检测程序被处理器执行时实现如权利要求1至8中任一项所述的基于无监督学习的丝印疵点检测方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210512149.2A CN114913148A (zh) | 2022-05-11 | 2022-05-11 | 基于无监督学习的丝印疵点检测方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210512149.2A CN114913148A (zh) | 2022-05-11 | 2022-05-11 | 基于无监督学习的丝印疵点检测方法、装置及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114913148A true CN114913148A (zh) | 2022-08-16 |
Family
ID=82767455
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210512149.2A Pending CN114913148A (zh) | 2022-05-11 | 2022-05-11 | 基于无监督学习的丝印疵点检测方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114913148A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115187601A (zh) * | 2022-09-13 | 2022-10-14 | 山东滨州八匹马塑料化纤制品有限公司 | 基于图像理解的深海渔网生产过程缺陷检测方法 |
| CN115439476A (zh) * | 2022-11-07 | 2022-12-06 | 成都博视广达科技有限责任公司 | 基于图像分析的丝印缺陷检测方法及装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113255738A (zh) * | 2021-05-06 | 2021-08-13 | 武汉象点科技有限公司 | 一种基于自注意力生成对抗网络的异常图像检测方法 |
| CN113344903A (zh) * | 2021-06-25 | 2021-09-03 | 江南大学 | 一种基于变分自编码器的玻璃瑕疵检测方法 |
| CN113658115A (zh) * | 2021-07-30 | 2021-11-16 | 华南理工大学 | 一种基于深度卷积生成对抗网络的图像异常检测方法 |
-
2022
- 2022-05-11 CN CN202210512149.2A patent/CN114913148A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113255738A (zh) * | 2021-05-06 | 2021-08-13 | 武汉象点科技有限公司 | 一种基于自注意力生成对抗网络的异常图像检测方法 |
| CN113344903A (zh) * | 2021-06-25 | 2021-09-03 | 江南大学 | 一种基于变分自编码器的玻璃瑕疵检测方法 |
| CN113658115A (zh) * | 2021-07-30 | 2021-11-16 | 华南理工大学 | 一种基于深度卷积生成对抗网络的图像异常检测方法 |
Non-Patent Citations (1)
| Title |
|---|
| CHENGKAN LV等: "A Novel Pixel-Wise Defect Inspection Method Based on Stable Background Reconstruction", IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT, vol. 70, 17 November 2020 (2020-11-17), pages 2 - 8 * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115187601A (zh) * | 2022-09-13 | 2022-10-14 | 山东滨州八匹马塑料化纤制品有限公司 | 基于图像理解的深海渔网生产过程缺陷检测方法 |
| CN115439476A (zh) * | 2022-11-07 | 2022-12-06 | 成都博视广达科技有限责任公司 | 基于图像分析的丝印缺陷检测方法及装置 |
| CN115439476B (zh) * | 2022-11-07 | 2023-03-14 | 成都博视广达科技有限责任公司 | 基于图像分析的丝印缺陷检测方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107665492B (zh) | 基于深度网络的结直肠全景数字病理图像组织分割方法 | |
| CN114913148A (zh) | 基于无监督学习的丝印疵点检测方法、装置及存储介质 | |
| CN113298757A (zh) | 一种基于u-net卷积神经网络的金属表面缺陷检测方法 | |
| CN107808138B (zh) | 一种基于FasterR-CNN的通信信号识别方法 | |
| CN112102229A (zh) | 一种基于深度学习的工业ct检测缺陷的智能识别方法 | |
| CN111951284B (zh) | 一种基于深度学习的光学遥感卫星图像精细化云检测方法 | |
| CN109241867B (zh) | 采用人工智能算法识别数字岩心图像的方法及装置 | |
| CN113643268A (zh) | 基于深度学习的工业制品缺陷质检方法、装置及存储介质 | |
| CN113298780A (zh) | 一种基于深度学习的儿童骨龄评估方法及系统 | |
| CN117392042A (zh) | 缺陷检测方法、缺陷检测设备及存储介质 | |
| CN114743102A (zh) | 一种面向家具板材的瑕疵检测方法、系统及装置 | |
| US20190272627A1 (en) | Automatically generating image datasets for use in image recognition and detection | |
| CN115601332A (zh) | 一种基于语义分割的嵌入式指纹模块外观检测方法 | |
| CN116703885A (zh) | 一种基于Swin Transformer的表面缺陷检测方法及系统 | |
| CN115620283B (zh) | 基于计算机视觉的猪肉大理石纹表型数据测量方法及装置 | |
| CN118314054B (zh) | 基于林草湿地图斑的图像增强方法 | |
| CN116778269A (zh) | 一种基于自编码器重构产品表面缺陷检测模型构建方法 | |
| CN113763384B (zh) | 工业质检中的缺陷检测方法、缺陷检测装置 | |
| CN118115835A (zh) | 导光板缺陷小样本数据扩充方法、系统、设备及存储介质 | |
| CN113256563A (zh) | 基于空间注意力机制的精品罐表面缺陷检测方法和系统 | |
| CN111325724B (zh) | 隧道裂纹区域检测方法和装置 | |
| Wang et al. | Fast blur detection algorithm for UAV crack image sets | |
| CN117274173A (zh) | 一种语义与结构蒸馏的无参考图像质量评价方法 | |
| CN111860500A (zh) | 一种鞋印磨损区域检测与描边方法 | |
| CN111882521A (zh) | 一种细胞涂片的图像处理方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |