CN115690094B - 基于自监督网络的工业缺陷检测方法和系统 - Google Patents

Abstract

本发明提供了一种基于自监督网络的工业缺陷检测方法和系统，其中，所述方法包括以下步骤：基于自监督网络构建自监督语义分割模型；根据自监督语义分割模型确定待标注图像的所有标注目标掩膜；判断每个标注目标掩膜的面积是否小于目标面积阈值；若是，则剔除对应的标注目标掩膜；确定剔除处理后的标注目标掩膜上的所有目标的边缘点；转换边缘点为语义标注，并且每个目标设定为同一类别；根据语义标注自动标注待标注图像以用于工业缺陷检测。本发明通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

Description

基于自监督网络的工业缺陷检测方法和系统

技术领域

本发明涉及工业缺陷检测技术领域，具体涉及一种基于自监督网络的工业缺陷检测方法和一种基于自监督网络的工业缺陷检测系统。

背景技术

随着深度学习的不断发展，深度学习应用领域也越来越多。训练深度学习网络，需要大量的标注数据，但是标注数据是很消耗人力和时间，尤其是标注精细的语义分割数据，需要标注员使用标注工具，沿着目标边缘精细的描边。但是，依靠标注员人工获取精细的语义标注数据，不仅非常耗时、成本非常高，而且由于标注员长时间标注的疲劳，可能会导致边缘描的不准确，而造成语义标注数据精度难以保证。

发明内容

本发明为解决上述技术问题，提供了一种基于自监督网络的工业缺陷检测方法，通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

本发明采用的技术方案如下：

一种基于自监督网络的工业缺陷检测方法，包括以下步骤：基于自监督网络构建自监督语义分割模型；根据所述自监督语义分割模型确定待标注图像的所有标注目标掩膜；判断每个所述标注目标掩膜的面积是否小于目标面积阈值；若是，则剔除对应的标注目标掩膜；确定剔除处理后的所述标注目标掩膜上的所有目标的边缘点；转换所述边缘点为语义标注，并且每个所述目标设定为同一类别；根据所述语义标注自动标注待标注图像以用于工业缺陷检测。

根据本发明的一个实施例，所述自监督网络为MaskContrast，所述基于自监督网络构建自监督语义分割模型，具体包括以下步骤：采用resnet18替换所述MaskContrast中backbone的resnet50。

根据本发明的一个实施例，所述确定剔除处理后的所述标注目标掩膜上的所有目标的边缘点，具体包括以下步骤：采用形态学闭操作处理剔除处理后的待标注图像；采用densecrf算法处理形态学闭操作处理后的待标注图像；采用findContours函数处理densecrf算法处理后的待标注图像，以确定所述标注目标掩膜上的所有目标的边缘点。

根据本发明的一个实施例，所述转换所述边缘点为语义标注，并且每个所述目标设定为同一类别，具体包括以下步骤：采用labelme标注文件格式将所述边缘点转换为语义标注文件，并将每个所述目标设定为同一类别。

根据本发明的一个实施例，所述根据所述语义标注自动标注待标注图像以用于工业缺陷检测，具体包括以下步骤：判断所述语义标注对应的类别是否为真实类别；若否，则修改所述语义标注对应的类别为真实类别；判断所述语义标注是否符合设定标准；若否，则修正所述语义标注；判断所述语义标注是否存在漏标；若是，则加标所述语义标注以得到最终语义标注；根据所述最终语义标注自动标注待标注图像以用于工业缺陷检测。

一种基于自监督网络的工业缺陷检测系统，包括：建模模块，所述建模模块用于基于自监督网络构建自监督语义分割模型；掩膜识别模块，所述掩膜识别模块用于根据所述自监督语义分割模型确定待标注图像的所有标注目标掩膜；判断模块，所述判断模块用于判断每个所述标注目标掩膜的面积是否小于目标面积阈值；第一处理模块，所述第一处理模块用于剔除对应的标注目标掩膜；第二处理模块，所述第二处理模块用于确定剔除处理后的所述标注目标掩膜上的所有目标的边缘点；第三处理模块，所述第三处理模块用于转换所述边缘点为语义标注，并且每个所述目标设定为同一类别；目标检测模块，所述目标检测模块用于根据所述语义标注自动标注待标注图像以用于工业缺陷检测。

一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现上述实施例所述的基于自监督网络的工业缺陷检测方法。

一种非临时性计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述实施例所述的基于自监督网络的工业缺陷检测方法。

本发明的有益效果如下：

本发明通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

附图说明

图1为本发明实施例的基于自监督网络的工业缺陷检测方法的流程图；

图2为本发明一个实施例的基于自监督网络的工业缺陷检测方法的流程图；

图3为本发明实施例的基于自监督网络的工业缺陷检测系统的方框示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为本发明实施例的基于自监督网络的工业缺陷检测方法的流程图。

如图1所示，本发明实施例的基于自监督网络的工业缺陷检测方法，包括以下步骤：

S1，基于自监督网络构建自监督语义分割模型。

具体地，自监督网络可为MaskContrast，可采用resnet18替换MaskContrast中backbone的resnet50，以得到自监督语义分割模型。

S2，根据自监督语义分割模型确定待标注图像的所有标注目标掩膜。

具体地，可根据自监督语义分割模型推理待标注图像，以得到待标注图像中所有标注目标的掩膜。

S3，判断每个标注目标掩膜的面积是否小于目标面积阈值。

S4，若是，则剔除对应的标注目标掩膜。

具体地，可计算每个标注目标掩膜的面积area，并可判断每个标注目标掩膜的面积area是否小于目标面积阈值The，若是，则可剔除对应的标注目标掩膜，由此，能够剔除待标注图像中的小面积掩膜，从而能够提高标注的速度。

S5，确定剔除处理后的标注目标掩膜上的所有目标的边缘点。

具体地，可采用形态学闭操作处理剔除处理后的待标注图像，并可采用densecrf算法处理形态学闭操作处理后的待标注图像，然后可采用findContours函数处理densecrf算法处理后的待标注图像，以确定标注目标掩膜上的所有目标的边缘点。其中，findContours函数为opencv中的findContours函数。

其中，需要说明的是，通过形态学闭操作处理剔除处理后的待标注图像，将对整张待标注图像先进行膨胀操作，每个标注目标掩膜像素会沿着周围向外增加，如果两个标注目标掩膜之间的距离小于间距阈值，则该两个标注目标掩膜将连结起来，然后再进行腐蚀，标注目标掩膜向外扩张的像素，会向内减少，直到恢复到膨胀前，但是连结起来的标注目标掩膜不会断开，由此，能够将同一物体断开的目标连接成一个目标。

此外，还需要说明的是，通过densecrf算法处理形态学闭操作处理后的待标注图像，能够使得标注目标掩膜的目标边缘与待标注图像的待标注目标边缘更加贴合。

S6，转换边缘点为语义标注，并且每个目标设定为同一类别。

具体地，采用labelme标注文件格式将边缘点转换为语义标注文件，并将每个目标设定为同一类别。

S7，根据语义标注自动标注待标注图像以用于工业缺陷检测。

具体地，可先判断语义标注对应的类别是否为真实类别，若否，则修改语义标注对应的类别为真实类别；进而可判断语义标注是否符合设定标准，若否，则修正语义标注；然后可判断语义标注是否存在漏标，若是，则加标语义标注以得到最终语义标注；最后可根据最终语义标注自动标注待标注图像以用于工业缺陷检测。

下面将结合图2整体说明本发明的基于自监督网络的工业缺陷检测方法的具体流程。

如图2所示，本发明的基于自监督网络的工业缺陷检测方法，具体包括以下步骤：

S01，获取无标注数据；

S02，根据无标注数据训练自监督语义分割模型；

S03，根据训练后的自监督语义分割模型推理待标注图像，以得到待标注图像中所有标注目标的掩膜；

S04，采用形态学闭操作剔除待标注图像中的小面积掩膜，使同一物体断开的掩膜连接；

S05，采用densecrf算法处理形态学闭操作处理后的待标注图像；

S06，采用findContours函数处理densecrf算法处理后的待标注图像确定标注目标掩膜上的所有目标的边缘点；

S07，采用labelme标注文件格式将边缘点转换为语义标注文件，并将每个目标设定为同一类别；

S08，判断语义标注对应的类别是否为真实类别，若否，则执行步骤S09，若是，则执行步骤S10；

S09，修改语义标注对应的类别为真实类别；

S10，判断语义标注是否符合设定标准，若否，则执行步骤S11，若是，则执行步骤S12；

S11，修正语义标注；

S12，判断语义标注是否存在漏标，若是，则执行步骤S13，若否，则执行步骤S14；

S13，加标语义标注以得到最终语义标注；

S14，根据最终语义标注自动标注待标注图像以用于工业缺陷检测。

本发明的有益效果如下：

本发明通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

对应上述实施例，本发明还提出了一种基于自监督网络的工业缺陷检测系统。

如图3所示，本发明实施例的基于自监督网络的工业缺陷检测系统，包括建模模块10、掩膜识别模块20、判断模块30、第一处理模块40、第二处理模块50、第三处理模块60和目标检测模块70。其中，建模模块10用于基于自监督网络构建自监督语义分割模型；掩膜识别模块20用于根据自监督语义分割模型确定待标注图像的所有标注目标掩膜；判断模块30用于判断每个标注目标掩膜的面积是否小于目标面积阈值；第一处理模块40用于剔除对应的标注目标掩膜；第二处理模块50用于确定剔除处理后的标注目标掩膜上的所有目标的边缘点；第三处理模块60用于转换边缘点为语义标注，并且每个目标设定为同一类别；目标检测模块70用于根据语义标注自动标注待标注图像以用于工业缺陷检测。

在本发明的一个实施例中，自监督网络可为MaskContrast，建模模块10可通过采用resnet18替换MaskContrast中backbone的resnet50，以得到自监督语义分割模型。

在本发明的一个实施例中，掩膜识别模块20可具体用于根据自监督语义分割模型推理待标注图像，以得到待标注图像中所有标注目标的掩膜。

在本发明的一个实施例中，判断模块30可具体用于计算每个标注目标掩膜的面积area，并可判断每个标注目标掩膜的面积area是否小于目标面积阈值The，若是，则可通过第一处理模块40剔除对应的标注目标掩膜，由此，能够剔除待标注图像中的小面积掩膜，从而能够提高标注的速度。

在本发明的一个实施例中，第二处理模块50可具体用于采用形态学闭操作处理剔除处理后的待标注图像，并可采用densecrf算法处理形态学闭操作处理后的待标注图像，然后可采用findContours函数处理densecrf算法处理后的待标注图像，以确定标注目标掩膜上的所有目标的边缘点。其中，findContours函数为opencv中的findContours函数。

其中，需要说明的是，通过形态学闭操作处理剔除处理后的待标注图像，将对整张待标注图像先进行膨胀操作，每个标注目标掩膜像素会沿着周围向外增加，如果两个标注目标掩膜之间的距离小于间距阈值，则该两个标注目标掩膜将连结起来，然后再进行腐蚀，标注目标掩膜向外扩张的像素，会向内减少，直到恢复到膨胀前，但是连结起来的标注目标掩膜不会断开，由此，能够将同一物体断开的目标连接成一个目标。

此外，还需要说明的是，通过densecrf算法处理形态学闭操作处理后的待标注图像，能够使得标注目标掩膜的目标边缘与待标注图像的待标注目标边缘更加贴合。

在本发明的一个实施例中，第三处理模块60可具体用于采用labelme标注文件格式将边缘点转换为语义标注文件，并将每个目标设定为同一类别。

在本发明的一个实施例中，目标检测模块70可具体用于先判断语义标注对应的类别是否为真实类别，若否，则修改语义标注对应的类别为真实类别；进而可判断语义标注是否符合设定标准，若否，则修正语义标注；然后可判断语义标注是否存在漏标，若是，则加标语义标注以得到最终语义标注；最后可根据最终语义标注自动标注待标注图像以用于工业缺陷检测。

下面将结合图2整体说明本发明的基于自监督网络的工业缺陷检测系统的具体工作过程。

如图2所示，本发明的基于自监督网络的工业缺陷检测系统，具体工作过程如下：

S01，获取无标注数据；

S02，根据无标注数据训练自监督语义分割模型；

S03，根据训练后的自监督语义分割模型推理待标注图像，以得到待标注图像中所有标注目标的掩膜；

S04，采用形态学闭操作剔除待标注图像中的小面积掩膜，使同一物体断开的掩膜连接；

S05，采用densecrf算法处理形态学闭操作处理后的待标注图像；

S06，采用findContours函数处理densecrf算法处理后的待标注图像确定标注目标掩膜上的所有目标的边缘点；

S07，采用labelme标注文件格式将边缘点转换为语义标注文件，并将每个目标设定为同一类别；

S08，判断语义标注对应的类别是否为真实类别，若否，则执行步骤S09，若是，则执行步骤S10；

S09，修改语义标注对应的类别为真实类别；

S10，判断语义标注是否符合设定标准，若否，则执行步骤S11，若是，则执行步骤S12；

S11，修正语义标注；

S12，判断语义标注是否存在漏标，若是，则执行步骤S13，若否，则执行步骤S14；

S13，加标语义标注以得到最终语义标注；

S14，根据最终语义标注自动标注待标注图像以用于工业缺陷检测。

本发明的有益效果如下：

本发明通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

对应上述实施例，本发明还提出一种计算机设备。

本发明实施例的计算机设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行该计算机程序时，可实现上述实施例的基于自监督网络的工业缺陷检测方法。

根据本发明实施例的计算机设备，处理器执行存储在存储器上的计算机程序时，通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

对应上述实施例，本发明还提出一种非临时性计算机可读存储介质。

本发明实施例的非临时性计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时可实现上述实施例的基于自监督网络的工业缺陷检测方法。

根据本发明实施例的非临时性计算机可读存储介质，处理器执行存储在其上的计算机程序时，通过最终语义标注自动标注待标注图像，不仅提高了语义分割标注的速度，还能够避免人工标注产生的人为误差，从而能够保证标注的准确度和精度，并能够降低标注成本。

在本发明的描述中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。“多个”的含义是两个或两个以上，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必针对相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备（如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统）使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例（非穷尽性列表）包括以下：具有一个或多个布线的电连接部（电子装置），便携式计算机盘盒（磁装置），随机存取存储器（RAM），只读存储器（ROM），可擦除可编辑只读存储器（EPROM或闪速存储器），光纤装置，以及便携式光盘只读存储器（CDROM）。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列（PGA），现场可编程门阵列（FPGA）等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (7)

1.一种基于自监督网络的工业缺陷检测方法，其特征在于，包括以下步骤：

基于自监督网络构建自监督语义分割模型；

根据所述自监督语义分割模型确定待标注图像的所有标注目标掩膜；

判断每个所述标注目标掩膜的面积是否小于目标面积阈值；

若是，则剔除对应的标注目标掩膜；

确定剔除处理后的所述标注目标掩膜上的所有目标的边缘点；

转换所述边缘点为语义标注，并且每个所述目标设定为同一类别；

根据所述语义标注自动标注待标注图像以用于工业缺陷检测，

根据所述语义标注自动标注待标注图像以用于工业缺陷检测，具体包括：判断所述语义标注对应的类别是否为真实类别；若否，则修改所述语义标注对应的类别为真实类别；判断所述语义标注是否符合设定标准；若否，则修正所述语义标注；判断所述语义标注是否存在漏标；若是，则加标所述语义标注以得到最终语义标注；根据所述最终语义标注自动标注待标注图像以用于工业缺陷检测。

2.根据权利要求1所述的基于自监督网络的工业缺陷检测方法，其特征在于，所述自监督网络为MaskContrast，所述基于自监督网络构建自监督语义分割模型，具体包括以下步骤：

采用resnet18替换所述MaskContrast中backbone的resnet50。

3.根据权利要求2所述的基于自监督网络的工业缺陷检测方法，其特征在于，所述确定剔除处理后的所述标注目标掩膜上的所有目标的边缘点，具体包括以下步骤：

采用形态学闭操作处理剔除处理后的待标注图像；

采用densecrf算法处理形态学闭操作处理后的待标注图像；

采用findContours函数处理densecrf算法处理后的待标注图像，以确定所述标注目标掩膜上的所有目标的边缘点。

4.根据权利要求2所述的基于自监督网络的工业缺陷检测方法，其特征在于，所述转换所述边缘点为语义标注，并且每个所述目标设定为同一类别，具体包括以下步骤：

采用labelme标注文件格式将所述边缘点转换为语义标注文件，并将每个所述目标设定为同一类别。

5.一种基于自监督网络的工业缺陷检测系统，其特征在于，包括：

建模模块，所述建模模块用于基于自监督网络构建自监督语义分割模型；

掩膜识别模块，所述掩膜识别模块用于根据所述自监督语义分割模型确定待标注图像的所有标注目标掩膜；

判断模块，所述判断模块用于判断每个所述标注目标掩膜的面积是否小于目标面积阈值；

第一处理模块，所述第一处理模块用于剔除对应的标注目标掩膜；

第二处理模块，所述第二处理模块用于确定剔除处理后的所述标注目标掩膜上的所有目标的边缘点；

第三处理模块，所述第三处理模块用于转换所述边缘点为语义标注，并且每个所述目标设定为同一类别；

目标检测模块，所述目标检测模块用于根据所述语义标注自动标注待标注图像以用于工业缺陷检测，

所述目标检测模块具体用于：判断所述语义标注对应的类别是否为真实类别；若否，则修改所述语义标注对应的类别为真实类别；判断所述语义标注是否符合设定标准；若否，则修正所述语义标注；判断所述语义标注是否存在漏标；若是，则加标所述语义标注以得到最终语义标注；根据所述最终语义标注自动标注待标注图像以用于工业缺陷检测。

6.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时，实现根据权利要求1-4中任一项所述的基于自监督网络的工业缺陷检测方法。

7.一种非临时性计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现根据权利要求1-4中任一项所述的基于自监督网络的工业缺陷检测方法。

Images