CN117523338A - 基于缺陷迁移技术的缺陷检测方法和系统 - Google Patents

Abstract

本发明提供了一种基于缺陷迁移技术的缺陷检测方法和系统，该方法包括以下步骤：获取目标设备的第一样本图像，并获取相关设备的历史样本图像集；分别对历史样本图像集进行缺陷特征提取以获取相应的第一缺陷特征图像集；对第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像；分别计算第一缺陷特征图像集与第二缺陷特征图像的相似度；根据各相似度提取第三缺陷特征图像集；将第三缺陷特征图像集中的缺陷特征分别迁移至目标设备的良品图像，获取第四缺陷特征图像集；根据第四缺陷特征图像集和第一样本图像训练目标检测模型；根据目标检测模型进行缺陷检测。由此，大大增强了训练出的目标检测模型对目标设备的适应能力和泛化能力。

Description

基于缺陷迁移技术的缺陷检测方法和系统

技术领域

本发明涉及缺陷检测技术领域，具体涉及一种基于缺陷迁移技术的缺陷检测方法和一种基于缺陷迁移技术的缺陷检测系统。

背景技术

在对新产品进行缺陷检测时，常常面临用于训练目标检测模型的数据量少且分布不均匀的情况。

相关技术中，通常是通过对图像数据进行一系列的图像变换操作来进行数据增强。然而，采用该方式进行数据增强以训练目标检测模型时，目标检测模型对新产品的适应能力和泛化能力较差。

发明内容

本发明为解决上述技术问题，提供了一种基于缺陷迁移技术的缺陷检测方法，根据缺陷的相似度将历史样本图像中的缺陷特征迁移至目标设备的良品图像中，从而大大增强了训练出的目标检测模型对目标设备的适应能力和泛化能力。

本发明采用的技术方案如下：

一种基于缺陷迁移技术的缺陷检测方法，包括以下步骤：获取目标设备的第一样本图像，并获取所述目标设备的相关设备的历史样本图像集；分别对所述历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集；对所述第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像；分别计算所述第一缺陷特征图像集中各第一缺陷特征图像与所述第二缺陷特征图像的相似度；根据各所述相似度从所述第一缺陷特征图像集中提取第三缺陷特征图像集；将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中，以获取相应的第四缺陷特征图像集；根据所述第四缺陷特征图像集和所述第一样本图像训练生成目标检测模型；根据所述目标检测模型对所述目标设备进行缺陷检测。

在本发明的一个实施例中，根据各所述相似度从所述第一缺陷特征图像集中提取所述第三缺陷特征图像集，具体包括：在所述第一缺陷特征图像集中选取所述相似度大于预设相似度的缺陷特征图像以生成所述第三缺陷特征图像集。

在本发明的一个实施例中，根据各所述相似度从所述第一缺陷特征图像集中提取所述第三缺陷特征图像集，具体包括：按照所述相似度从高到低的顺序将所述第一缺陷特征图像集中的各缺陷特征图像依次排列；按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取所述第三缺陷特征图像集。

在本发明的一个实施例中，采用风格迁移模型将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中。

一种基于缺陷迁移技术的缺陷检测系统，包括：第一获取模块，所述第一获取模块用于获取目标设备的第一样本图像，并获取所述目标设备的相关设备的历史样本图像集；第二获取模块，所述第二获取模块用于分别对所述历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集；第三获取模块，所述第三获取模块用于对所述第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像；计算模块，所述计算模块用于分别计算所述第一缺陷特征图像集中各第一缺陷特征图像与所述第二缺陷特征图像的相似度；提取模块，所述提取模块用于根据各所述相似度从所述第一缺陷特征图像集中提取第三缺陷特征图像集；第四获取模块，所述第四获取模块用于将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中，以获取相应的第四缺陷特征图像集；生成模块，所述生成模块用于根据所述第四缺陷特征图像集和所述第一样本图像训练生成目标检测模型；检测模块，所述检测模块用于根据所述目标检测模型对所述目标设备进行缺陷检测。

在本发明的一个实施例中，所述提取模块具体用于：在所述第一缺陷特征图像集中选取所述相似度大于预设相似度的缺陷特征图像以生成所述第三缺陷特征图像集。

在本发明的一个实施例中，所述提取模块具体用于：按照所述相似度从高到低的顺序将所述第一缺陷特征图像集中的各缺陷特征图像依次排列；按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取所述第三缺陷特征图像集。

在本发明的一个实施例中，所述第四获取模块具体用于：采用风格迁移模型将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中。

本发明的有益效果：

本发明根据缺陷的相似度将历史样本图像中的缺陷特征迁移至目标设备的良品图像中，从而大大增强了训练出的目标检测模型对目标设备的适应能力和泛化能力。

附图说明

图1为本发明实施例的基于缺陷迁移技术的缺陷检测方法的流程图；

图2为本发明实施例的基于缺陷迁移技术的缺陷检测系统的方框示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1是根据本发明实施例的基于缺陷迁移技术的缺陷检测方法的流程图。

如图1所示，本发明实施例的基于缺陷迁移技术的缺陷检测方法可包括以下步骤：

S1，获取目标设备的第一样本图像，并获取目标设备的相关设备的历史样本图像集。

其中，可通过图像采集设备，例如，相机等设备，采集目标设备的图像信息以获取第一样本图像。

目标设备可为新产品，目标设备的相关设备可为旧产品。例如，目标设备可为最新款手机，目标设备的相关设备可为前一款手机。

可直接从数据库中提取出相关设备的历史样本图像集。其中，作为一种可能的实施方式，该历史样本数据集可为相关设备出厂时，在对相关设备进行缺陷检测时获取并存储的样本图像数据。

S2，分别对历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集。

可采用预训练的CNN(Convolutional Neural Networks，卷积神经网络)模型分别对历史样本图像集中的各历史样本图像进行缺陷特征提取，以分别获取相应的第一缺陷特征图像，并由各第一缺陷特征图像组成第一缺陷特征图像集。

S3，对第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像。

其中，可采用显著性检测算法，例如，HC(Hierarchical Clustering，层次聚类)算法对第一样本图像中包含缺陷特征的显著性区域进行显著性特征提取以获取相应的第二缺陷特征图像。

S4，分别计算第一缺陷特征图像集中各第一缺陷特征图像与第二缺陷特征图像的相似度。

其中，可采用传统的相似度计算方法分别计算第一缺陷特征图像集中各第一缺陷特征图像与第二缺陷特征图像的相似度，在此不做一一赘述。

S5，根据各相似度从第一缺陷特征图像集中提取第三缺陷特征图像集。

在本发明的一个实施例中，根据各相似度从第一缺陷特征图像集中提取第三缺陷特征图像集，具体包括：在第一缺陷特征图像集中选取相似度大于预设相似度的缺陷特征图像以生成第三缺陷特征图像集。

在本发明的另一个实施例中，根据各相似度从第一缺陷特征图像集中提取第三缺陷特征图像集，具体包括：按照相似度从高到低的顺序将第一缺陷特征图像集中的各缺陷特征图像依次排列；按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取第三缺陷特征图像集。

具体而言，为了增强数据搜索的多样性，本发明提出了两种相似性搜索策略。其中，可先计算各相似度中的最大相似度与最小相似度的差值，如果该差值大于或等于预设差值，则采用第一种相似性搜索策略，即在第一缺陷特征图像集中选取相似度大于预设相似度(可根据实际情况进行标定)的缺陷特征图像以生成第三缺陷特征图像集；如果该差值小于预设差值，则采用第二种相似性搜索策略，即按照相似度从高到低的顺序将第一缺陷特征图像集中的各缺陷特征图像依次排列，并按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取第三缺陷特征图像集。

S6，将第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至目标设备的良品图像中，以获取相应的第四缺陷特征图像集。

在本发明的一个实施例中，可采用风格迁移模型将第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至目标设备的良品图像中。相比于采用直接贴图的方式，该方式生成的缺陷图像边界更自然。

S7，根据第四缺陷特征图像集和第一样本图像训练生成目标检测模型。

S8，根据目标检测模型对目标设备进行缺陷检测。

具体而言，首先可将第四缺陷特征图像集和第一样本图像合并，并对合并后的图像进行数据增强以生成图像训练集，然后，通过图像训练集训练生成目标检测模型。最后，根据目标检测模型对目标设备进行缺陷检测。

由此，通过基于缺陷相似性搜索技术和风格迁移技术，将历史数据中的有用信息和经验迁移到新数据中，增强了目标检测模型对新数据的适应能力和泛化能力，目标检测模型能够更好地识别和分类新数据中的缺陷，减少误判和漏检的情况；利用搜索到的历史缺陷样本和风格迁移技术，将历史缺陷样本转移到新数据的良品途中，形成扩充后的数据集，既增加了数据的多样性和丰富性，有助于提升模型的鲁棒性，同时也能解决数据类别不平衡问题，改善模型的性能平衡；传统的目标检测模型通常需要大量标注数据进行训练，但标注数据的获取和准确性都是一项具有挑战性和昂贵的任务，本发明通过利用历史数据中的信息，减少了对新数据的标注需求，从而降低了目标检测模型训练的数据标注成本；基于缺陷迁移技术的目标检测模型的性能提升方法使质检过程更加自动化和高效。模型能够更快速、准确地检测和分类产品缺陷，大大减少了人工质检的工作量和时间成本。这对于工业生产线上的质检环节将带来显著的效率提升和成本降低。

综上所述，根据本发明实施例的基于缺陷迁移技术的缺陷检测方法，获取目标设备的第一样本图像，并获取目标设备的相关设备的历史样本图像集，以及分别对历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集，并对第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像，以及分别计算第一缺陷特征图像集中各第一缺陷特征图像与第二缺陷特征图像的相似度，并根据各相似度从第一缺陷特征图像集中提取第三缺陷特征图像集，以及将第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至目标设备的良品图像中，以获取相应的第四缺陷特征图像集，并根据第四缺陷特征图像集和第一样本图像训练生成目标检测模型，以及根据目标检测模型对目标设备进行缺陷检测。由此，根据缺陷的相似度将历史样本图像中的缺陷特征迁移至目标设备的良品图像中，从而大大增强了训练出的目标检测模型对目标设备的适应能力和泛化能力。

对应上述实施例的基于缺陷迁移技术的缺陷检测方法，本发明还提出了一种基于缺陷迁移技术的缺陷检测系统。

如图2所示，本发明实施例的基于缺陷迁移技术的缺陷检测系统可包括：第一获取模块100、第二获取模块200、第三获取模块300、计算模块400、提取模块500、第四获取模块600、生成模块700和检测模块800。

其中，第一获取模块100用于获取目标设备的第一样本图像，并获取目标设备的相关设备的历史样本图像集；第二获取模块200用于分别对历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集；第三获取模块300用于对第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像；计算模块400用于分别计算第一缺陷特征图像集中各第一缺陷特征图像与第二缺陷特征图像的相似度；提取模块500用于根据各相似度从第一缺陷特征图像集中提取第三缺陷特征图像集；第四获取模块600用于将第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至目标设备的良品图像中，以获取相应的第四缺陷特征图像集；生成模块700用于根据第四缺陷特征图像集和第一样本图像训练生成目标检测模型；检测模块800用于根据目标检测模型对目标设备进行缺陷检测。

在本发明的一个实施例中，提取模块500具体用于：在第一缺陷特征图像集中选取相似度大于预设相似度的缺陷特征图像以生成第三缺陷特征图像集。

在本发明的一个实施例中，提取模块500具体用于：按照相似度从高到低的顺序将第一缺陷特征图像集中的各缺陷特征图像依次排列；按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取第三缺陷特征图像集。

在本发明的一个实施例中，第四获取模块600具体用于：采用风格迁移模型将第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至目标设备的良品图像中。

需要说明的是，本发明的缺陷检测系统更具体的实施例可参照上述的烟花爆竹的缺陷检测方法的实施例，在此不再详述。

根据本发明实施例的缺陷检测系统，通过第一获取模块获取目标设备的第一样本图像，并获取目标设备的相关设备的历史样本图像集，以及通过第二获取模块分别对历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集，并通过第三获取模块对第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像，以及通过计算模块分别计算第一缺陷特征图像集中各第一缺陷特征图像与第二缺陷特征图像的相似度，并通过提取模块根据各相似度从第一缺陷特征图像集中提取第三缺陷特征图像集，以及通过第四获取模块将第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至目标设备的良品图像中，以获取相应的第四缺陷特征图像集，并通过生成模块根据第四缺陷特征图像集和第一样本图像训练生成目标检测模型，以及通过检测模块根据目标检测模型对目标设备进行缺陷检测。由此，根据缺陷的相似度将历史样本图像中的缺陷特征迁移至目标设备的良品图像中，从而大大增强了训练出的目标检测模型对目标设备的适应能力和泛化能力。

在本发明的描述中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。“多个”的含义是两个或两个以上，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必针对相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (8)

1.一种基于缺陷迁移技术的缺陷检测方法，其特征在于，包括以下步骤：

获取目标设备的第一样本图像，并获取所述目标设备的相关设备的历史样本图像集；

分别对所述历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集；

对所述第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像；

分别计算所述第一缺陷特征图像集中各第一缺陷特征图像与所述第二缺陷特征图像的相似度；

根据各所述相似度从所述第一缺陷特征图像集中提取第三缺陷特征图像集；

将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中，以获取相应的第四缺陷特征图像集；

根据所述第四缺陷特征图像集和所述第一样本图像训练生成目标检测模型；

根据所述目标检测模型对所述目标设备进行缺陷检测。

2.根据权利要求1所述的基于缺陷迁移技术的缺陷检测方法，其特征在于，根据各所述相似度从所述第一缺陷特征图像集中提取所述第三缺陷特征图像集，具体包括：

在所述第一缺陷特征图像集中选取所述相似度大于预设相似度的缺陷特征图像以生成所述第三缺陷特征图像集。

3.根据权利要求1所述的基于缺陷迁移技术的缺陷检测方法，其特征在于，根据各所述相似度从所述第一缺陷特征图像集中提取所述第三缺陷特征图像集，具体包括：

按照所述相似度从高到低的顺序将所述第一缺陷特征图像集中的各缺陷特征图像依次排列；

按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取所述第三缺陷特征图像集。

4.根据权利要求1所述的基于缺陷迁移技术的缺陷检测方法，其特征在于，

采用风格迁移模型将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中。

5.一种基于缺陷迁移技术的缺陷检测系统，其特征在于，包括：

第一获取模块，所述第一获取模块用于获取目标设备的第一样本图像，并获取所述目标设备的相关设备的历史样本图像集；

第二获取模块，所述第二获取模块用于分别对所述历史样本图像集中的各历史样本图像进行缺陷特征提取以获取相应的第一缺陷特征图像集；

第三获取模块，所述第三获取模块用于对所述第一样本图像进行显著性特征提取以获取相应的第二缺陷特征图像；

计算模块，所述计算模块用于分别计算所述第一缺陷特征图像集中各第一缺陷特征图像与所述第二缺陷特征图像的相似度；

提取模块，所述提取模块用于根据各所述相似度从所述第一缺陷特征图像集中提取第三缺陷特征图像集；

第四获取模块，所述第四获取模块用于将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中，以获取相应的第四缺陷特征图像集；

生成模块，所述生成模块用于根据所述第四缺陷特征图像集和所述第一样本图像训练生成目标检测模型；

检测模块，所述检测模块用于根据所述目标检测模型对所述目标设备进行缺陷检测。

6.根据权利要求5所述的基于缺陷迁移技术的缺陷检测系统，其特征在于，所述提取模块具体用于：

在所述第一缺陷特征图像集中选取所述相似度大于预设相似度的缺陷特征图像以生成所述第三缺陷特征图像集。

7.根据权利要求5所述的基于缺陷迁移技术的缺陷检测系统，其特征在于，所述提取模块具体用于：

按照所述相似度从高到低的顺序将所述第一缺陷特征图像集中的各缺陷特征图像依次排列；

按照预设比例对排列后的第一缺陷特征图像集进行均匀采样以获取所述第三缺陷特征图像集。

8.根据权利要求5所述的基于缺陷迁移技术的缺陷检测系统，其特征在于，所述第四获取模块具体用于：

采用风格迁移模型将所述第三缺陷特征图像集中各缺陷特征图像中的缺陷特征分别迁移至所述目标设备的良品图像中。