CN116309554B - 缺陷检测网络的构建及缺陷检测方法、装置和设备 - Google Patents
缺陷检测网络的构建及缺陷检测方法、装置和设备 Download PDFInfo
- Publication number
- CN116309554B CN116309554B CN202310532588.4A CN202310532588A CN116309554B CN 116309554 B CN116309554 B CN 116309554B CN 202310532588 A CN202310532588 A CN 202310532588A CN 116309554 B CN116309554 B CN 116309554B
- Authority
- CN
- China
- Prior art keywords
- defect
- image
- network
- query
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000007547 defect Effects 0.000 title claims abstract description 859
- 238000001514 detection method Methods 0.000 title claims abstract description 162
- 238000010276 construction Methods 0.000 title claims description 10
- 239000013598 vector Substances 0.000 claims abstract description 105
- 238000000034 method Methods 0.000 claims abstract description 92
- 238000012549 training Methods 0.000 claims abstract description 90
- 238000003709 image segmentation Methods 0.000 claims abstract description 66
- 230000011218 segmentation Effects 0.000 claims abstract description 47
- 230000008569 process Effects 0.000 claims description 34
- 238000013507 mapping Methods 0.000 claims description 26
- 230000003044 adaptive effect Effects 0.000 claims description 21
- 238000004891 communication Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 17
- 230000009466 transformation Effects 0.000 claims description 16
- 238000003860 storage Methods 0.000 claims description 12
- 230000006870 function Effects 0.000 claims description 10
- 239000011159 matrix material Substances 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 5
- 238000013519 translation Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 26
- 238000005516 engineering process Methods 0.000 description 13
- 230000002950 deficient Effects 0.000 description 8
- 230000005236 sound signal Effects 0.000 description 8
- 238000002372 labelling Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000007306 turnover Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Quality & Reliability (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供一种缺陷检测网络的构建及缺陷检测方法、装置和设备。在本申请实施例中，能够获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层；基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
Description
技术领域
本申请涉及深度学习技术领域，尤其涉及一种缺陷检测网络的构建及缺陷检测方法、装置和设备。
背景技术
在工业缺陷检测领域中，由于工业产品的种类繁多，而且每类工业产品的异常种类也很多，如果采用人工肉眼进行质检，效率极低而且对人工的精力和熟练程度也是极大的考验。而如果搜集所有的异常数据进行深度学习模型的训练，则会耗费巨大的工作量，而且实际应用中，带有缺陷的样本数量也较少，也会导致深度学习模型的训练不够充分，从而限制其缺陷或异常的检测性能。
针对此，相关技术有提出一些基于有监督学习范式的缺陷检测算法，例如基于目标检测网络或者基于图像分割的缺陷检测算法构建的缺陷检测网络。这类缺陷检测技术则需要搜集成百上千张带有缺陷的图集，制定要检测的缺陷类别，以及逐个对有缺陷的图集中的各个图像进行缺陷类别和缺陷位置的标注，最后基于已标注的图集数据对构建的缺陷检测网络进行训练。
然而，上述这种缺陷检测网络训练完成之后，其能够检测的缺陷类别就会固定为训练时标注的缺陷类别，如果想要新增或删除待检测的缺陷类别，则需要重新对所构建的缺陷检测网络进行训练。显然，这一方面将会增加缺陷检测网络的更新周期，另一方面，缺陷检测网络的检测性能也受限于训练时的缺陷样本量、训练技巧等因素，从而限制了深度学习技术在缺陷检测任务中的应用和普及。
发明内容
本申请的多个方面提供一种缺陷检测网络的构建及缺陷检测方法、装置和设备，用简化缺陷检测网络的训练过程，以扩展缺陷检测网络的适应场景。
本申请实施例提供一种缺陷检测网络的构建方法，包括：获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，所述多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，所述自适应池用于将所述多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，所述全连接层用于将所述自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示；基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从所述输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
本申请实施例提供一种缺陷检测方法，所述方法包括：获取待检测的目标图像；通过缺陷检测网络中的图像分割网络对所述目标图像进行图像编码，得到所述目标图像的特征向量，所述缺陷检测网络为基于上述所述的缺陷检测网络的构建方法构建得到；通过所述缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从所述目标图像的特征向量中检索得到所述目标图像的缺陷位置和缺陷类别，其中，所述缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由所述缺陷检测网络中的缺陷特征编码网络提取得到。
本申请实施例还提供一种缺陷检测网络的构建装置，包括：数据获取模块，用于获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；网络训练模块，用于基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，所述多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，所述自适应池用于将所述多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，所述全连接层用于将所述自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示；网络构建模块，用于基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
本申请实施例还提供一种缺陷检测装置，包括：图像获取模块，用于获取待检测的目标图像；特征编码模块，用于通过所述缺陷检测网络中的图像分割网络对所述目标图像进行图像编码，得到所述目标图像的特征向量；缺陷检测模块，用于通过所述缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的特征向量表示为提示信息，从所述目标图像的特征向量中检索得到所述目标图像的缺陷位置和缺陷类别，其中，所述缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由所述缺陷检测网络中的缺陷特征编码网络提取得到。
本申请实施例还提供一种电子设备，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行如上述的缺陷检测网络的构建方法，或如上述的缺陷检测方法。
本申请实施例还提供一种存储有计算机程序的计算机可读存储介质，当所述计算机程序被处理器执行时，致使所述处理器实现本申请实施例提供的缺陷检测网络的构建方法或缺陷检测方法中的步骤。
本申请实施例提供的缺陷检测网络的构建方法，缺陷检测网络构建过程中只需要基于多个存在缺陷的缺陷图像，以及用于标注多个缺陷图像的缺陷类别和缺陷位置的标注信息的分割任务数据集，训练用于提取缺陷图像的特征向量表示的缺陷特征编码网络，在此过程中由于缺陷特征编码网络不涉及到缺陷位置和缺陷类别的预测训练，因此能够极大地简化网络训练过程以及提高网络训练效率。再将训练得到的缺陷特征编码网络和能够以缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，对输入图像进行缺陷位置和缺陷类别进行检索的图像分割网络进行结合，构建得到缺陷检测网络，由于充分利用了缺陷特征编码网络提取得到的各缺陷类别的缺陷图像的特征向量表示，再结合图像分割网络的基于提示信息的分割能力，能够有效提高缺陷检测网络的缺陷检测准确率。而且在需要增加一些缺陷类别的缺陷检测时，只需要在缺陷特征编码网络侧增加这些缺陷类别的缺陷图像的特征向量表示即可，无需重新对缺陷特征编码网络进行训练，更不用对整个缺陷检测网络进行重新训练，有效提高了缺陷检测网络的网络更新效率。
本申请实施例中提供的缺陷检测方法，应用于缺陷检测网络，能够获取待检测的目标图像，以及通过缺陷检测网络中的图像分割网络对目标图像进行图像编码，得到目标图像的特征向量，最后便可通过缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从目标图像的特征向量中检索得到目标图像的缺陷位置和缺陷类别，结合缺陷特征编码网络和图像分割网络对待检测的目标图像进行缺陷检测，由于充分利用了缺陷特征编码网络提取得到的各缺陷类别的缺陷图像的特征向量表示，再结合图像分割网络的基于提示信息的分割能力，能够有效提高缺陷检测网络的缺陷检测准确率。而且缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由缺陷检测网络中的缺陷特征编码网络提取得到，可根据需要进行添加和删除操作，能够简化待检测的缺陷类别的更新操作，以及提升缺陷检测网络的泛化能力和通用性。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本申请示例性实施例提供的一种缺陷检测网络的构建方法的流程示意图；
图2为本申请实施例提供的缺陷检测网络的构建方法中的图像分割网络的结构示意图；
图3为本申请实施例提供的缺陷检测网络中缺陷特征编码网络的训练过程示意图；
图4为本申请实施例提供的缺陷检测网络的架构示意图；
图5为本申请实施例提供的一种缺陷检测方法的流程示意图；
图6为本申请示例性实施例提供的缺陷检测方法中删除待检测的缺陷类别的示意图；
图7为本申请示例性实施例提供的缺陷检测方法中添加待检测的缺陷类别的示意图；
图8为本申请实施例提供的缺陷检测方法应用于一种实际场景的示意图；
图9为本申请示例性实施例提供的一种缺陷检测网络的构建装置的结构示意图；
图10为本申请示例性实施例提供的一种缺陷检测装置的结构示意图；
图11为本申请示例性实施例提供的一种电子设备的结构示意图；
图12为本申请示例性实施例提供的另一种电子设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
为简化缺陷检测网络的训练过程，从而扩展缺陷检测网络的适应场景，在本申请一些实施例中提供一种缺陷检测网络的构建方法及其缺陷检测方法。其中，缺陷检测网络构建过程中只需要基于多个存在缺陷的缺陷图像，以及用于标注多个缺陷图像的缺陷类别和缺陷位置的标注信息的分割任务数据集，训练用于提取缺陷图像的特征向量表示的缺陷特征编码网络，在此过程中由于缺陷特征编码网络不涉及到缺陷位置和缺陷类别的预测训练，因此能够极大地简化网络训练过程以及提高网络训练效率。
再将训练得到的缺陷特征编码网络和能够以缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，对输入图像进行缺陷位置和缺陷类别进行检索的图像分割网络进行结合，构建得到缺陷检测网络，由于充分利用了缺陷特征编码网络提取得到的各缺陷类别的缺陷图像的特征向量表示，再结合图像分割网络的基于提示信息的分割能力，能够有效提高缺陷检测网络的缺陷检测准确率。而且在需要增加一些缺陷类别的缺陷检测时，只需要在缺陷特征编码网络侧增加这些缺陷类别的缺陷图像的特征向量表示即可，无需重新对缺陷特征编码网络进行训练，更不用对整个缺陷检测网络进行重新训练，有效提高了缺陷检测网络的网络更新效率。
以下结合附图，详细说明本申请各实施例提供的技术方案。
图1为本申请示例性实施例提供的一种缺陷检测网络的构建方法的流程示意图。如图1所示，该方法包括：
步骤110，获取分割任务数据集，分割任务数据集包括多个缺陷图像，以及用于标注多个缺陷图像的缺陷类别和缺陷位置的标注信息。
其中，分割任务数据集中的数据可包括两部分：第一部分可来源于实际工业应用场景，是工业场景下的多个存在缺陷的缺陷图像，这部分数据需要被人工或其他标注方式对其缺陷位置和缺陷类别进行标注；第二部分则可来源于网络上公开的分割任务数据集，比如VOC、COCO等公开可用的分割任务数据集，这部分数据集中的数据既可以是包含任意物体的正常图像，也可包括有多个存在缺陷的缺陷图像，且都有相应的标注信息，比如是缺陷图像时标注信息可包括用于标注各缺陷图像的缺陷类别和缺陷位置的信息，是包含任意物体的正常图像时标注信息可包括用于标注其中物体位置和物体名称的信息。应理解，由于工业场景下的缺陷图像的数量可能较为有限，因此，可将上述第二部分数据作为工业场景下的缺陷数据的补充。
步骤120，基于分割任务数据集，训练得到缺陷特征编码网络，缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，自适应池用于将多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，全连接层用于将自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示。
其中，缺陷特征编码网络可基于常规的适用于图像分类任务的深度卷积神经网络设计得到，该类网络通常具有很强的适用性，包括但不限于LeNet、ResNet18 、MobileNet等轻量化分类网络。待检测缺陷类别的缺陷图像块为基于待检测缺陷类别的缺陷图像中缺陷区域的最小外接矩形确定得到的。
在一些示例性的实施例中，为使得缺陷特征编码网络能够对缺陷图像的缺陷位置特征和缺陷类别特征进行提取，可对分割任务数据集进行处理，生成既包含有缺陷图像块（即完整包含有缺陷部位的最小图像块）和缺陷类别之间对应关系的数据集，又包含有缺陷位置、缺陷类别和缺陷图像的原图之间对应关系的数据集。具体地，基于分割任务数据集，训练得到缺陷特征编码网络，包括：
基于分割任务数据集，生成缺陷特征编码网络的训练数据，缺陷特征编码网络的训练数据由查询图像块数据集和查询集构成，其中，查询图像块数据集中包括查询图像块和对应的缺陷类别，查询集由缺陷查询缺陷类别、类别掩码图像和查询原图构成，查询图像块和查询原图为基于多个缺陷图像得到，查询缺陷类别为基于多个缺陷图像的缺陷类别得到，类别掩码图像为基于多个缺陷图像和对应的缺陷区域得到；
基于缺陷特征编码网络的训练数据，训练得到缺陷特征编码网络。
其中，缺陷类别和查询缺陷类别的含义可以是一样的。查询图像块数据集中所包含的查询图像块和对应的缺陷类别之间是存在映射关系的，同样，查询集中的缺陷查询缺陷类别、类别掩码图像和查询原图之间也是存在映射关系的。
在一些示例性的实施例中，为提高缺陷特征编码网络的训练效率，可对多个缺陷图像进行处理，以去除与缺陷类别无关的其他矩形区域，从而直接建立多个缺陷图像中各缺陷区域的最小外接矩形与缺陷类别之间的映射关系。具体地，基于分割任务数据集，生成缺陷特征编码网络的训练数据，包括：
确定多个缺陷图像中各缺陷区域的最小外接矩形；
将多个缺陷图像中各缺陷区域的最小外接矩形中的非缺陷区域的像素值填充为指定像素值，得到填充后的多个缺陷图像中各缺陷区域的最小外接矩形；
将填充后的多个缺陷图像中各缺陷区域的最小外接矩形作为查询图像块数据集中的查询图像块，并在查询图像块数据集中保存各查询图像块中的缺陷类别，以得到查询图像块数据集。
应理解，为进一步避免缺陷无关区域对缺陷特征编码网络在特征提取过程中的干扰，提高网络训练效率，可将多个缺陷图像中各缺陷区域的最小外接矩形中的非缺陷区域的像素值填充为指定像素值，得到填充后的多个缺陷图像中各缺陷区域的最小外接矩形。作为一种可选的实施方式，该指定像素值可以是128。
在一些示例性的实施例中，为了使得训练得到的缺陷特征编码网络还能够对缺陷图像的缺陷位置的特征进行提取，可对各缺陷图像的原图进行处理，以获取能够指示各缺陷图像的缺陷位置的二值化掩码图像，并建立二值化掩码图像、缺陷图像的原图以及缺陷类别之间的映射关系。具体地，基于分割任务数据集，生成缺陷特征编码网络的训练数据，包括：
基于多个缺陷图像以及对应的缺陷类别，获取去重缺陷类别集合，去重缺陷类别集合中的各缺陷类别具备唯一性；
将去重缺陷类别集合中各缺陷类别对应的缺陷图像的分割掩码区域标记为1，以及将去重缺陷类别集合中各缺陷类别对应的缺陷图像中除分割掩码区域的其他区域标记为0，得到各缺陷类别对应的二值化掩码图像；
将多个缺陷图像作为查询集中的查询原图，将各缺陷类别对应的二值化掩码图像作为查询集中的类别掩码图像，以及将各缺陷类别作为查询集中的查询缺陷类别。
其中，基于多个缺陷图像以及对应的缺陷类别，获取去重缺陷类别集合，具体可将重复的缺陷类别去除，即每种缺陷类别保留一张缺陷图像即可，使得去重缺陷类别集合中的各缺陷类别具备唯一性。
显然，在将去重缺陷类别集合中各缺陷类别对应的缺陷图像的分割掩码区域标记为1，以及将去重缺陷类别集合中各缺陷类别对应的缺陷图像中除分割掩码区域的其他区域标记为0，得到各缺陷类别对应的二值化掩码图像可作为指示各缺陷类别的缺陷在缺陷图像的原图上对应的缺陷位置。
应理解，查询集在保存查询原图、类别掩码图像以及查询缺陷类别的同时，也保存了查询原图、类别掩码图像以及查询缺陷类别之间的映射关系。
在一些示例性的实施例中，为提高缺陷特征编码网络的训练效率，可按批次执行训练步骤，对于每批次选择的指定数量的类别掩码图像以及对应的指定数据的查询原图，可进行合并处理，分别得到批类别掩码图像，以及批查询原图。具体地，基于缺陷特征编码网络的训练数据，训练得到缺陷特征编码网络，包括：
从查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图；
将指定数量的类别掩码对象进行合并，得到批类别掩码图像，以及将指定数量的查询原图进行合并，得到批查询原图；
按照预设的权重更新次数，执行更新缺陷特征编码网络的网络权重的过程；
按照预设的小轮次重复训练次数，重复执行从查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图，至按照预设的权重更新次数，执行更新缺陷特征编码网络的网络权重的过程的步骤，训练得到缺陷特征编码网络。
应理解，在网络训练时，网络训练的次数通常需要达到几十万次以上，在按照预设的小轮次重复训练次数，重复执行从查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图，至更新缺陷特征编码网络的网络权重的过程的步骤之后，还可按照预设的大轮次重复训练次数，重复执行上述缺陷特征编码网络的训练步骤。
在一些示例性的实施例中，更新缺陷特征编码网络的网络权重的过程包括：
从查询图像块数据集中，选择与批类别掩码图像中各类别掩码图像的缺陷类别一致的多个目标查询图像块，多个目标查询图像块的数量与批类别掩码图像中的类别掩码图像的数量一致；
分别对多个目标查询图像块进行预设的几何图像变换操作，并对几何图像变换操作后的多个目标查询图像进行合并操作，得到合并后的查询图像块，预设的几何图像变换操作包括翻转、平移、旋转、缩放和仿射变换中的至少一种；
将合并后的查询图像块作为缺陷特征编码网络的输入，得到特征编码矩阵；将特征编码矩阵作为提示信息输入至图像分割网络，以及利用图像分割网络的图像编码模块对批查询原图进行特征编码，得到批查询原图的特征向量；
利用图像分割网络的特征解码模块，根据提示信息对批查询原图的特征向量进行解码，得到批查询原图中各缺陷区域的预测结果；
基于批查询原图中各缺陷区域的预测结果以及批类别掩码图像以及预设的损失函数计算公式，确定损失值，以及通过梯度回传方式基于损失值更新缺陷特征编码网络的网络权重。
其中，图像分割网络用于以缺陷特征编码网络对输入图像的指定维度的特征向量表示为提示信息，从输入图像中检索得到输入图像的缺陷位置和缺陷类别。图2为图像分割网络的结构示意图，在图2中，图像分割网络可包括三个模块，具体为图像编码模块、提示信息编码模块和特征解码模块。其中，图像编码模块旨在映射待分割的输入图像到图像特征空间。提示信息编码模块则是负责映射输入的提升信息到提升信息的特征空间，其中提示信息可包括三种形式，第一种是点形式的提示信息，用于以点的形式提示待分割的输入图像中需要被检索（也就是分割）的目标区域的位置和形态，第二种是目标框形式的提示信息，用于以目标框的形式提示待分割的输入图像中需要被检索的目标区域的位置和形态，第三种则是文字形式的提示信息，用于以文字的形式提示待分割的输入图像中需要被检索的目标区域的描述。特征解码模块主要有两个功能，一是整合图像编码模块和提示信息编码模块分别输出的两个特征向量embedding，然后从这个两个特征向量embedding的特征图feature map解码出最终的分割mask（即图像检索结果）。
本申请实施例基于此，对图2所示图像分割网络进行改进，将提示信息编码模块替换为缺陷特征编码网络，由缺陷特征编码网络对待检测的缺陷类别的缺陷图像进行特征提取，得到待检测的缺陷类别的特征向量表示，并将该待检测的缺陷类别的特征向量表示作为图像分割网络的提示信息输入至图像分割网络。
为进一步提升缺陷特征编码网络的性能，在选择与批类别掩码图像中各类别掩码图像的缺陷类别一致的多个目标查询图像块之后，可对这些目标查询图像块进行翻转、平移、旋转、缩放和仿射变换等几何图像变换操作。
在计算损失值时，可综合考虑Dice Loss和Focal loss这两种损失。预设的损失函数计算公式为，其中，DiceLoss即/>的计算公式为，Focal loss即。
其中，为上文所述批类别掩码图像，/>和/>分别是Dice Loss和Focal loss这两种损失的权重，/>是预测结果（包括各缺陷图像的缺陷位置和缺陷类别），α和γ是Focal loss中参数。
下面结合图3所示的缺陷特征编码网络的训练过程示意图，详细描述基于缺陷特征编码网络的训练数据，训练得到缺陷特征编码网络的过程，其中，该过程可包括：
S1，设置训练参数，其中，训练步数为N_inter，批处理大小为BS，优化器可选择Adam，学习率可设置为lr=0.001，并设置Cosine Decay为学习率更新策略，网络输入尺寸640*640设置为，每批重复训练次数可设置为L。
S2，对于每个训练批次，可按照如下的步骤进行训练：
S21，随机从查询集Query_Set中选择BS个类别掩码图像Gt及其对应的查询原图Image，并分别将BS个类别掩码图像Gt进行合并操作，构成批类别掩码图像B_Query_GTs，以及将BS个查询原图进行合并操作，构成批查询原图B_Query_Images；
S22，根据批类别掩码图像B_Query_GTs中每个类别掩码图像Gt的缺陷类别，随机从查询图像块数据集Query Patches选择一个相同缺陷类别的查询图像块Patch，并对查询图像块Patch随机进行翻转、平移、旋转、缩放、仿射变换等几何图像变换操作，以此方式，得到批类别掩码图像B_Query_GTs各类别掩码图像对应的各查询图像块，并对这些查询图像块进行合并操作，得到合并后的查询图像块B_Query Patches；
S23，将合并后的查询图像块B_Query_Patches作为缺陷特征编码网络Que_Net的输入，得到特征编码矩阵Que_Mat，作为提示信息输入至图像分割网络SAM，以及利用图像分割网络SAM的图像编码模块，对批查询原图B_Query_Images进行特征编码得到批查询原图B_Query_Images的特征向量F；
S24，利用图像分割网络SAM的特征解码模块，根据提示信息Que_Mat对批查询原图B_Query_Images的特征向量F进行解码，得到批查询原图中各缺陷区域和对应的缺陷类别的预测结果Preds；
S25，基于预测结果Preds和批类别掩码图像B_Query_GTs，以及预设的损失函数计算公式计算损失值Loss，并通过梯度回传方式基于损失值Loss更新缺陷特征编码网络Que_Net的网络权重；
S26，重复执行步骤S22-S25 L（即上文所述的权重更新次数）次；
S27，重复执行步骤S21- S26 Int(N_inter/L)（即上文所述的预设的小轮次重复训练次数）次后停止。
其中，模型的优化器选用动量随机梯度下降优化算法，momentum：0.9，初始化学习率0.0001，训练数据规模为15.6万张图片，训练50万轮（即上文所述的预设的大轮次重复训练次数）后停止，得到缺陷特征编码网络。显然，相比于训练图像检测网络SAM，缺陷特征编码网络Que_Net训练所依赖的数据量和计算成本大大降低，从而保证了缺陷检测网络落地的可行性。
步骤130，基于缺陷特征编码网络和图像分割网络，构建缺陷检测网络，图像分割网络用于：以缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从输入图像中检索得到输入图像的缺陷位置和缺陷类别。
图4为本申请实施例构建的缺陷检测网络的结构示意图，该缺陷检测网络包括两个网络，即缺陷特征编码网络Que_Net和图像分割网络SAM，其中，缺陷特征编码网络Que_Net用于对待检测的缺陷类别对应缺陷图像块进行特征提取，以获取待检测的缺陷类别对应缺陷图像块的特征向量表示，该待检测的缺陷类别对应缺陷图像块的特征向量表示作为图像分割网络SAM的提示信息，输入至图像分割网络SAM，使得图像分割网络SAM依据待检测的缺陷类别对应缺陷图像块的特征向量表示，对查询原图进行检索，以在查询原图中定位待检测的缺陷类别对应的缺陷区域，即得到查询原图的预测结果。
本申请实施例提供的缺陷检测网络的构建方法，缺陷检测网络构建过程中只需要基于多个缺陷图像，以及用于标注多个缺陷图像的缺陷类别和缺陷位置的标注信息的分割任务数据集，训练用于提取缺陷图像的特征向量表示的缺陷特征编码网络，在此过程中由于缺陷特征编码网络不涉及到缺陷位置和缺陷类别的预测训练，因此能够极大地简化网络训练过程以及提高网络训练效率。再将训练得到的缺陷特征编码网络和能够以缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，对输入图像进行缺陷位置和缺陷类别进行检索的图像分割网络进行结合，构建得到缺陷检测网络，由于充分利用了缺陷特征编码网络提取得到的各缺陷类别的缺陷图像的特征向量表示，再结合图像分割网络的基于提示信息的分割能力，能够有效提高缺陷检测网络的缺陷检测准确率。而且在需要增加一些缺陷类别的缺陷检测时，只需要在缺陷特征编码网络侧增加这些缺陷类别的缺陷图像的特征向量表示即可，无需重新对缺陷特征编码网络进行训练，更不用对整个缺陷检测网络进行重新训练，有效提高了缺陷检测网络的网络更新效率。
图5为本申请示例性实施例提供的一种缺陷检测方法的流程示意图，该方法应用于图1~图4所述的缺陷检测网络的构建方法得到的缺陷检测网络。如图5所示，该方法包括：
步骤510，获取待检测的目标图像。
步骤520，通过缺陷检测网络中的图像分割网络对目标图像进行图像编码，得到目标图像的特征向量。
步骤530，通过缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从目标图像的特征向量中检索得到目标图像的缺陷位置和缺陷类别，其中，缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由缺陷检测网络中的缺陷特征编码网络提取得到。
在一些示例性的实施例中，在对待检测的目标图像进行缺陷检测之前，可对需要进行的检测项（即多个指定缺陷类别）的缺陷特征进行注册，以根据这些完成注册的检测项的缺陷特征进行缺陷检测。具体地，多个指定缺陷类别的缺陷特征的注册过程，包括：
通过缺陷特征编码网络对包含有多个指定缺陷类别的缺陷图像进行特征提取，得到多个指定缺陷类别中各指定缺陷类别对应的指定维度的特征向量表示；
将多个指定缺陷类别中各指定缺陷类别对应的指定维度的特征向量表示，添加到缺陷查询集合中，以完成多个指定缺陷类别的缺陷特征的注册，一个指定缺陷类别对应于一个缺陷标识。
其中，缺陷查询集合中的多个指定缺陷类别的缺陷特征，与上述实施例中的缺陷特征编码网络Que_Net的训练过程中得到的特征编码矩阵Que_Mat属于同一特征空间的表征。作为一种实施方式，多个指定缺陷类别的缺陷特征的注册过程，可包括：给定待检测的多个检测项（即多个指定缺陷类别），每个检测项可用一个缺陷图像块Patch表示，对每个缺陷图像块可执行如下操作：
步骤1，利用缺陷特征编码网络Que_Net对缺陷图像块Patch进行特征提取得到指定维度的特征向量表示Qurey_Feature；
步骤2，通过缺陷注册模块将Qurey_Feature添加到缺陷查询集合Reg_Set(Reg_Set)中，N表示检测项的数量，即多个指定缺陷类别的数量，d为指定维度，R为检测项。
在一些示例性的实施例中，可缺陷查询集合中直接删除不需要的检测项（即指定缺陷类别），具体地，在本申请实施例提供的缺陷检测方法还包括：
获取待删除的指定缺陷类别的目标缺陷标识；
从缺陷查询集合中，删除目标缺陷标识对应的指定缺陷类别的特征向量表示。
图6为本申请示例性实施例提供的缺陷检测方法中删除待检测的缺陷类别的示意图。在图6中，每个指定缺陷类别都有一个唯一的缺陷标识，在删除某一指定缺陷类别（比如缺陷标识为1的指定缺陷类别）时，可获取该指定缺陷类别的目标缺陷标识（图6所示的ID=1），再从缺陷查询集合中，删除目标缺陷标识对应的指定缺陷类别的特征向量表示即可，得到的缺陷查询集合Reg_Set则为Reg_Set∈。
在一些示例性的实施例中，还可根据需要添加检测项即新添加一种待检测的缺陷类别，具体地，本申请实施例提供的缺陷检测方法还包括：
获取待添加的缺陷类别对应的图像块；
将待添加的缺陷类别对应的图像块输入至缺陷特征编码网络，以输出待添加的缺陷类别对应的图像块的指定维度的缺陷特征表示；
将待添加的缺陷类别对应的图像块的缺陷特征表示和对应的缺陷标识，添加至缺陷查询集合中。
图7为本申请示例性实施例提供的缺陷检测方法中添加待检测的缺陷类别的示意图。在添加检测项，可利用缺陷特征编码网络Que_Net提取得到待添加的缺陷类别对应的图像块的特征向量表示Qurey_Feature，再利用缺陷注册模块把待添加的缺陷类别对应的图像块的特征向量表示Qurey_Feature和对应的缺陷标识添加到缺陷查询集合Reg_Set中，则Reg_Set则从Reg_Set∈转变为Reg_Set∈/>。
图8为本申请实施例提供的缺陷检测方法应用于一种实际场景的示意图。在图8中，可通过图像分割网络，以缺陷查询集合Reg_Set中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从目标图像的特征向量中检索得到目标图像的缺陷位置和缺陷类别，即得到目标图像的检测结果。
本申请实施例中提供的缺陷检测方法，应用于缺陷检测网络，能够获取待检测的目标图像，以及通过缺陷检测网络中的图像分割网络对目标图像进行图像编码，得到目标图像的特征向量，最后便可通过缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从目标图像的特征向量中检索得到目标图像的缺陷位置和缺陷类别，结合缺陷特征编码网络和图像分割网络对待检测的目标图像进行缺陷检测，由于充分利用了缺陷特征编码网络提取得到的各缺陷类别的缺陷图像的特征向量表示，再结合图像分割网络的基于提示信息的分割能力，能够有效提高缺陷检测网络的缺陷检测准确率。而且缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由缺陷检测网络中的缺陷特征编码网络提取得到，可根据需要进行添加和删除操作，能够简化待检测的缺陷类别的更新操作，以及提升缺陷检测网络的泛化能力和通用性。
另外，本实施例提供的方法可应用于任何存在缺陷或缺陷检测的应用场景中，仅需要对用于进行缺陷特征提取的缺陷特征编码网络进行训练，而且该网络一旦训练完成，在后续添加或删除新的待检测缺陷类别时，只需通过缺陷特征编码网络对包含有新的待检测缺陷类别的缺陷图像进行特征提取，并将提取得到的特征向量表示添加至缺陷查询集合即可，无需重新对缺陷特征编码网络进行训练，有效提高缺陷特征编码网络，以及利用缺陷特征编码网络和图像分割网络构建得到的缺陷检测网络的网络训练和更新效率，提高缺陷检测网络的适用性和可扩展性。
需要说明的是，上述实施例所提供方法的各步骤的执行主体均可以是同一设备，或者，该方法也由不同设备作为执行主体。比如，步骤110至步骤130的执行主体可以为设备A；又比如，步骤110至步骤120的执行主体可以为设备A，步骤130的执行主体可以为设备B；等等。
还需要说明的是，本申请实施例提供的缺陷检测网络的构建方法及缺陷检测方法的网络训练和缺陷检测的思路，不仅局限于缺陷检测的场景，将缺陷检测替换为其他目标检测，比如更加通用普适的物体（车辆、人、猫等物体）检测场景中，上述发明构思中的网络训练、网络构建方法也同样适用于这类场景中。
另外，在上述实施例及附图中的描述的一些流程中，包含了按照特定顺序出现的多个操作，但是应该清楚了解，这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如110、120、510、等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作可以按顺序执行或并行执行。需要说明的是，本文中的“第一”、“第二”等描述，是用于区分不同的消息、设备、模块等，不代表先后顺序，也不限定“第一”和“第二”是不同的类别。
图9为本申请示例性实施例提供的一种缺陷检测网络的构建装置900的结构示意图。如图9所示，该装置900包括：数据获取模块910、网络训练模块920和网络构建模块930，其中：
数据获取模块910，用于获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；
网络训练模块920，用于基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，所述多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，所述自适应池用于将所述多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，所述全连接层用于将所述自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示；
网络构建模块930，用于基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从所述输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
可选地，所述网络训练模块920，具体用于：
基于所述分割任务数据集，生成缺陷特征编码网络的训练数据，所述缺陷特征编码网络的训练数据由查询图像块数据集和查询集构成，其中，所述查询图像块数据集中包括查询图像块和对应的缺陷类别，所述查询集由缺陷查询缺陷类别、类别掩码图像和查询原图构成，所述查询图像块和所述查询原图为基于所述多个缺陷图像得到，所述查询缺陷类别为基于所述多个缺陷图像的缺陷类别得到，所述类别掩码图像为基于所述多个缺陷图像和对应的缺陷区域得到；
基于所述缺陷特征编码网络的训练数据，训练得到所述缺陷特征编码网络。
可选地，所述网络训练模块920，具体用于：
确定所述多个缺陷图像中各缺陷区域的最小外接矩形；
将所述多个缺陷图像中各缺陷区域的最小外接矩形中的非缺陷区域的像素值填充为指定像素值，得到填充后的所述多个缺陷图像中各缺陷区域的最小外接矩形；
将填充后的所述多个缺陷图像中各缺陷区域的最小外接矩形作为所述查询图像块数据集中的查询图像块，并在查询图像块数据集中保存各查询图像块中的缺陷类别，以得到所述查询图像块数据集。
可选地，所述网络训练模块920，具体用于：
基于所述多个缺陷图像以及对应的缺陷类别，获取去重缺陷类别集合，所述去重缺陷类别集合中的各缺陷类别具备唯一性；
将所述去重缺陷类别集合中各缺陷类别对应的缺陷图像的分割掩码区域标记为1，以及将所述去重缺陷类别集合中各缺陷类别对应的缺陷图像中除分割掩码区域的其他区域标记为0，得到各缺陷类别对应的二值化掩码图像；
将所述多个缺陷图像作为所述查询集中的查询原图，将各所述缺陷类别对应的二值化掩码图像作为所述查询集中的类别掩码图像，以及将各所述缺陷类别作为所述查询集中的查询缺陷类别。
可选地，所述网络训练模块920，具体用于：
从所述查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图；
将所述指定数量的类别掩码对象进行合并，得到批类别掩码图像，以及将所述指定数量的查询原图进行合并，得到批查询原图；
按照预设的权重更新次数，执行更新所述缺陷特征编码网络的网络权重的过程；
按照预设的小轮次重复训练次数，重复执行从所述查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图，至按照预设的权重更新次数，更新所述缺陷特征编码网络的网络权重的过程的步骤，训练得到所述缺陷特征编码网络。
可选地，所述网络训练模块920在更新所述缺陷特征编码网络的网络权重的过程时，具体用于：
从所述查询图像块数据集中，选择与所述批类别掩码图像中各类别掩码图像的缺陷类别一致的多个目标查询图像块，多个所述目标查询图像块的数量与所述批类别掩码图像中的类别掩码图像的数量一致；
分别对多个所述目标查询图像块进行预设的几何图像变换操作，并对几何图像变换操作后的多个目标查询图像进行合并操作，得到合并后的查询图像块，所述预设的几何图像变换操作包括翻转、平移、旋转、缩放和仿射变换中的至少一种；
将所述合并后的查询图像块作为所述缺陷特征编码网络的输入，得到特征编码矩阵；将所述特征编码矩阵作为提示信息输入至所述图像分割网络，以及利用所述图像分割网络的图像编码模块对所述批查询原图进行特征编码，得到所述批查询原图的特征向量；
利用所述图像分割网络的特征解码模块，根据所述提示信息对所述批查询原图的特征向量进行解码，得到所述批查询原图中各缺陷区域的预测结果；
基于所述批查询原图中各缺陷区域的预测结果以及所述批类别掩码图像以及预设的损失函数计算公式，确定损失值，以及通过梯度回传方式基于所述损失值更新所述缺陷特征编码网络的网络权重。
缺陷检测网络的构建装置能够实现图1~图4的方法实施例的方法，具体可参考图1~图4所示实施例的缺陷检测网络的构建方法，不再赘述。
图10为本申请示例性实施例提供的一种缺陷检测装置的结构示意图。如图11所示，该装置1000包括：图像获取模块1010、特征编码模块1020、缺陷检测模块1030，其中：
图像获取模块1010，用于获取待检测的目标图像；
特征编码模块1020，用于通过缺陷检测网络中的图像分割网络对所述目标图像进行图像编码，得到所述目标图像的特征向量；
缺陷检测模块1030，用于通过所述缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的特征向量表示为提示信息，从所述目标图像的特征向量中检索得到所述目标图像的缺陷位置和缺陷类别，其中，所述缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由所述缺陷检测网络中的缺陷特征编码网络提取得到。
其中，缺陷检测网络的构建方法具体可参考图1~图4所示实施例的缺陷检测网络的构建方法中的相关过程描述，不再赘述。
可选地，所述装置还包括：
标识获取模块，用于获取待删除的指定缺陷类别的目标缺陷标识；
缺陷删除模块，用于从所述缺陷查询集合中，删除所述目标缺陷标识对应的指定缺陷类别的特征向量表示。
可选地，所述装置还包括：
图像块获取模块，用于获取待添加的缺陷类别对应的图像块；
特征提取模块，用于将所述待添加的缺陷类别对应的图像块输入至所述缺陷特征编码网络，以输出所述待添加的缺陷类别对应的图像块的指定维度的缺陷特征表示；
缺陷添加模块，用于将所述待添加的缺陷类别对应的图像块的缺陷特征表示和对应的缺陷标识，添加至所述缺陷查询集合中。
缺陷检测装置能够实现图5~图8的方法实施例的方法，具体可参考图5~图8所示实施例的缺陷检测方法，不再赘述。
本申请实施例还提供一种电子设备，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行如上述的缺陷检测网络的构建方法，或如上述的缺陷检测方法。具体地，图11为本申请示例性实施例提供的一种电子设备的结构示意图。如图11所示，该设备包括：第一存储器111和第一处理器112。
第一存储器111，用于存储计算机程序，并可被配置为存储其它各种数据以支持在计算设备上的操作。这些数据的示例包括用于在计算设备上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图像，视频等。
第一处理器112，与第一存储器111耦合，用于执行第一存储器111中的计算机程序，以用于：获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，所述多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，所述自适应池用于将所述多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，所述全连接层用于将所述自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示；基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从所述输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
进一步，如图11所示，该电子设备还包括：第一通信组件113、第一显示器114、第一电源组件115、第一音频组件116等其它组件。图11中仅示意性给出部分组件，并不意味着电子设备只包括图11所示组件。另外，根据流量回放设备的实现形态的不同，图11中虚线框内的组件为可选组件，而非必选组件。例如，当电子设备实现为智能手机、平板电脑或台式电脑等终端设备时，可以包括图11中虚线框内的组件；当电子设备实现为常规服务器、云服务器、数据中心或服务器阵列等服务端设备时，可以不包括图11中虚线框内的组件。
相应地，本申请实施例还提供一种存储有计算机程序的计算机可读存储介质，计算机程序被第一处理器执行时，致使第一处理器能够实现上述缺陷检测网络的构建方法实施例中的步骤。
上述图11中的第一通信组件被配置为便于通信组件所在设备和其他设备之间有线或无线方式的通信。第一通信组件所在设备可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，第一通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述第一通信组件还可以包括近场通信（NFC）模块，射频识别（RFID）技术，红外数据协会（IrDA）技术，超宽带（UWB）技术，蓝牙（BT）技术等。
上述图11中的第一存储器可以由任何类别的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器（SRAM），电可擦除可编程只读存储器（EEPROM），可擦除可编程只读存储器（EPROM），可编程只读存储器（PROM），只读存储器（ROM），磁存储器，快闪存储器，磁盘或光盘。
上述图11中的第一显示器包括屏幕，其屏幕可以包括液晶显示器（LCD）和触摸面板（TP）。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。
上述图11中的第一电源组件，为第一电源组件所在设备的各种组件提供电力。第一电源组件可以包括电源管理系统，一个或多个电源，及其他与为第一电源组件所在设备生成、管理和分配电力相关联的组件。
上述图11中的第一音频组件，可被配置为输出和/或输入音频信号。例如，第一音频组件包括一个麦克风（MIC），当第一音频组件所在设备处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在第一存储器或经由第一通信组件发送。在一些实施例中，第一音频组件还包括一个扬声器，用于输出音频信号。
图12为本申请示例性实施例提供的另一种电子设备的结构示意图。如图12所示，该设备包括：第二存储器121和第二处理器122。
第二存储器121，用于存储计算机程序，并可被配置为存储其它各种数据以支持在计算设备上的操作。这些数据的示例包括用于在计算设备上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图像，视频等。
第二处理器122，与第二存储器121耦合，用于执行第二存储器121中的计算机程序，以用于：获取待检测的目标图像；通过缺陷检测网络中的图像分割网络对所述目标图像进行图像编码，得到所述目标图像的特征向量；通过所述缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从所述目标图像的特征向量中检索得到所述目标图像的缺陷位置和缺陷类别，其中，所述缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由所述缺陷检测网络中的缺陷特征编码网络提取得到。
其中，缺陷检测网络的构建方法可详见图1~图4所述的缺陷检测网络的构建方法的实施例。
进一步，如图12所示，该电子设备还包括：第二通信组件123、第二显示器124、第二电源组件125、第二音频组件126等其它组件。图12中仅示意性给出部分组件，并不意味着电子设备只包括图12所示组件。另外，根据流量回放设备的实现形态的不同，图12中虚线框内的组件为可选组件，而非必选组件。例如，当电子设备实现为智能手机、平板电脑或台式电脑等终端设备时，可以包括图12中虚线框内的组件；当电子设备实现为常规服务器、云服务器、数据中心或服务器阵列等服务端设备时，可以不包括图12中虚线框内的组件。
相应地，本申请实施例还提供一种存储有计算机程序的计算机可读存储介质，计算机程序被第二处理器执行时，致使第二处理器能够实现上述缺陷检测方法实施例中的步骤。
上述图12中的第二通信组件被配置为便于通信组件所在设备和其他设备之间有线或无线方式的通信。第二通信组件所在设备可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，第二通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述第二通信组件还可以包括近场通信（NFC）模块，射频识别（RFID）技术，红外数据协会（IrDA）技术，超宽带（UWB）技术，蓝牙（BT）技术等。
上述图12中的第二存储器可以由任何类别的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器（SRAM），电可擦除可编程只读存储器（EEPROM），可擦除可编程只读存储器（EPROM），可编程只读存储器（PROM），只读存储器（ROM），磁存储器，快闪存储器，磁盘或光盘。
上述图12中的第二显示器包括屏幕，其屏幕可以包括液晶显示器（LCD）和触摸面板（TP）。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。
上述图12中的第二电源组件，为第二电源组件所在设备的各种组件提供电力。第二电源组件可以包括电源管理系统，一个或多个电源，及其他与为第二电源组件所在设备生成、管理和分配电力相关联的组件。
上述图12中的第二音频组件，可被配置为输出和/或输入音频信号。例如，第二音频组件包括一个麦克风（MIC），当第二音频组件所在设备处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在第二存储器或经由第二通信组件发送。在一些实施例中，第二音频组件还包括一个扬声器，用于输出音频信号。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器 (RAM) 和/或非易失性内存等形式，如只读存储器 (ROM) 或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存 (PRAM)、静态随机存取存储器 (SRAM)、动态随机存取存储器 (DRAM)、其他类别的随机存取存储器 (RAM)、只读存储器 (ROM)、电可擦除可编程只读存储器 (EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘 (DVD) 或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体 (transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。
Claims (12)
1.一种缺陷检测网络的构建方法，其特征在于，包括：
获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；
基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，所述多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，所述自适应池用于将所述多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，所述全连接层用于将所述自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示；
基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从输入图像中检索得到所述输入图像的缺陷位置和缺陷类别；
其中，所述缺陷特征编码网络用于对包含有新的待检测缺陷类别的缺陷图像进行特征提取，并将提取得到的特征向量表示添加至缺陷查询集合中，所述缺陷查询集合中包含有多个指定缺陷类别的缺陷特征的特征向量表示，所述图像分割网络用于以所述缺陷查询集合中的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从所述输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
2.如权利要求1所述的方法，其特征在于，所述基于所述分割任务数据集，训练得到缺陷特征编码网络，包括：
基于所述分割任务数据集，生成缺陷特征编码网络的训练数据，所述缺陷特征编码网络的训练数据由查询图像块数据集和查询集构成，其中，所述查询图像块数据集中包括查询图像块和对应的缺陷类别，所述查询集由缺陷查询缺陷类别、类别掩码图像和查询原图构成，所述查询图像块和所述查询原图为基于所述多个缺陷图像得到，所述查询缺陷类别为基于所述多个缺陷图像的缺陷类别得到，所述类别掩码图像为基于所述多个缺陷图像和对应的缺陷区域得到；
基于所述缺陷特征编码网络的训练数据，训练得到所述缺陷特征编码网络。
3.如权利要求2所述的方法，其特征在于，所述基于所述分割任务数据集，生成缺陷特征编码网络的训练数据，包括：
确定所述多个缺陷图像中各缺陷区域的最小外接矩形；
将所述多个缺陷图像中各缺陷区域的最小外接矩形中的非缺陷区域的像素值填充为指定像素值，得到填充后的所述多个缺陷图像中各缺陷区域的最小外接矩形；
将填充后的所述多个缺陷图像中各缺陷区域的最小外接矩形作为所述查询图像块数据集中的查询图像块，并在查询图像块数据集中保存各查询图像块中的缺陷类别，以得到所述查询图像块数据集。
4.如权利要求2或3所述的方法，其特征在于，所述基于所述分割任务数据集，生成缺陷特征编码网络的训练数据，包括：
基于所述多个缺陷图像以及对应的缺陷类别，获取去重缺陷类别集合，所述去重缺陷类别集合中的各缺陷类别具备唯一性；
将所述去重缺陷类别集合中各缺陷类别对应的缺陷图像的分割掩码区域标记为1，以及将所述去重缺陷类别集合中各缺陷类别对应的缺陷图像中除分割掩码区域的其他区域标记为0，得到各缺陷类别对应的二值化掩码图像；
将所述多个缺陷图像作为所述查询集中的查询原图，将各所述缺陷类别对应的二值化掩码图像作为所述查询集中的类别掩码图像，以及将各所述缺陷类别作为所述查询集中的查询缺陷类别。
5.如权利要求4所述的方法，其特征在于，所述基于所述缺陷特征编码网络的训练数据，训练得到所述缺陷特征编码网络，包括：
从所述查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图；
将所述指定数量的类别掩码对象进行合并，得到批类别掩码图像，以及将所述指定数量的查询原图进行合并，得到批查询原图；
按照预设的权重更新次数，执行更新所述缺陷特征编码网络的网络权重的过程；
按照预设的小轮次重复训练次数，重复执行从所述查询集中随机选择指定数量的类别掩码图像以及对应的指定数量的查询原图，至按照预设的权重更新次数，执行更新所述缺陷特征编码网络的网络权重的过程的步骤，训练得到所述缺陷特征编码网络。
6.如权利要求5所述的方法，其特征在于，所述更新所述缺陷特征编码网络的网络权重的过程包括：
从所述查询图像块数据集中，选择与所述批类别掩码图像中各类别掩码图像的缺陷类别一致的多个目标查询图像块，多个所述目标查询图像块的数量与所述批类别掩码图像中的类别掩码图像的数量一致；
分别对多个所述目标查询图像块进行预设的几何图像变换操作，并对几何图像变换操作后的多个目标查询图像进行合并操作，得到合并后的查询图像块，所述预设的几何图像变换操作包括翻转、平移、旋转、缩放和仿射变换中的至少一种；
将所述合并后的查询图像块作为所述缺陷特征编码网络的输入，得到特征编码矩阵；将所述特征编码矩阵作为提示信息输入至所述图像分割网络，以及利用所述图像分割网络的图像编码模块对所述批查询原图进行特征编码，得到所述批查询原图的特征向量；
利用所述图像分割网络的特征解码模块，根据所述提示信息对所述批查询原图的特征向量进行解码，得到所述批查询原图中各缺陷区域和对应的缺陷类别的预测结果；
基于所述批查询原图中各缺陷区域的预测结果以及所述批类别掩码图像以及预设的损失函数计算公式，确定损失值，以及通过梯度回传方式基于所述损失值更新所述缺陷特征编码网络的网络权重。
7.一种缺陷检测方法，其特征在于，所述方法包括：
获取待检测的目标图像；
通过缺陷检测网络中的图像分割网络对所述目标图像进行图像编码，得到所述目标图像的特征向量，所述缺陷检测网络为基于权利要求1~6中任一所述的缺陷检测网络的构建方法构建得到；
通过所述缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从所述目标图像的特征向量中检索得到所述目标图像的缺陷位置和缺陷类别，其中，所述缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由所述缺陷检测网络中的缺陷特征编码网络提取得到；
多个所述指定缺陷类别的缺陷特征的注册过程，包括：
通过所述缺陷特征编码网络对包含有多个所述指定缺陷类别的缺陷图像进行特征提取，得到多个所述指定缺陷类别中各指定缺陷类别对应的指定维度的特征向量表示；
将多个所述指定缺陷类别中各指定缺陷类别对应的指定维度的特征向量表示，添加到所述缺陷查询集合中，以完成多个所述指定缺陷类别的缺陷特征的注册，一个所述指定缺陷类别对应于一个缺陷标识；
获取待添加的缺陷类别对应的图像块；
将所述待添加的缺陷类别对应的图像块输入至所述缺陷特征编码网络，以输出所述待添加的缺陷类别对应的图像块的指定维度的缺陷特征表示；
将所述待添加的缺陷类别对应的图像块的缺陷特征表示和对应的缺陷标识，添加至所述缺陷查询集合中。
8.如权利要求7所述的方法，其特征在于，所述方法还包括：
获取待删除的指定缺陷类别的目标缺陷标识；
从所述缺陷查询集合中，删除所述目标缺陷标识对应的指定缺陷类别的特征向量表示。
9.一种缺陷检测网络的构建装置，其特征在于，包括：
数据获取模块，用于获取分割任务数据集，所述分割任务数据集包括多个缺陷图像，以及用于标注所述多个缺陷图像的缺陷类别和缺陷位置的标注信息；
网络训练模块，用于基于所述分割任务数据集，训练得到缺陷特征编码网络，所述缺陷特征编码网络包括多层卷积网络模块、自适应池和全连接层，所述多层卷积网络模块用于提取待检测缺陷类别的缺陷图像块的高层特征，所述自适应池用于将所述多层卷积网络模块提取的缺陷图像块的高层特征映射为指定尺寸的特征向量，所述全连接层用于将所述自适应池映射得到的指定尺寸的高层特征映射为指定维度的特征向量表示；
网络构建模块，用于基于所述缺陷特征编码网络和图像分割网络，构建缺陷检测网络，所述图像分割网络用于：以所述缺陷特征编码网络对待检测缺陷类别的缺陷图像块的指定维度的特征向量表示为提示信息，从输入图像中检索得到所述输入图像的缺陷位置和缺陷类别；
其中，所述缺陷特征编码网络用于对包含有新的待检测缺陷类别的缺陷图像进行特征提取，并将提取得到的特征向量表示添加至缺陷查询集合中，所述缺陷查询集合中包含有多个指定缺陷类别的缺陷特征的特征向量表示，所述图像分割网络用于以所述缺陷查询集合中的多个指定缺陷类别的缺陷特征的特征向量表示为提示信息，从所述输入图像中检索得到所述输入图像的缺陷位置和缺陷类别。
10.一种缺陷检测装置，其特征在于，包括：
图像获取模块，用于获取待检测的目标图像；
特征编码模块，用于通过缺陷检测网络中的图像分割网络对所述目标图像进行图像编码，得到所述目标图像的特征向量，所述缺陷检测网络为基于权利要求1~6中任一所述的缺陷检测网络的构建方法构建得到；
缺陷检测模块，用于通过所述缺陷检测网络中的图像分割网络，以缺陷查询集合中注册的多个指定缺陷类别的特征向量表示为提示信息，从所述目标图像的特征向量中检索得到所述目标图像的缺陷位置和缺陷类别，其中，所述缺陷查询集合中注册的多个指定缺陷类别的缺陷特征的特征向量表示，由所述缺陷检测网络中的缺陷特征编码网络提取得到；
其中，多个所述指定缺陷类别的缺陷特征的注册过程，包括：通过所述缺陷特征编码网络对包含有多个所述指定缺陷类别的缺陷图像进行特征提取，得到多个所述指定缺陷类别中各指定缺陷类别对应的指定维度的特征向量表示；将多个所述指定缺陷类别中各指定缺陷类别对应的指定维度的特征向量表示，添加到所述缺陷查询集合中，以完成多个所述指定缺陷类别的缺陷特征的注册，一个所述指定缺陷类别对应于一个缺陷标识；
图像块获取模块，用于获取待添加的缺陷类别对应的图像块；
特征提取模块，用于将所述待添加的缺陷类别对应的图像块输入至所述缺陷特征编码网络，以输出所述待添加的缺陷类别对应的图像块的指定维度的缺陷特征表示；
缺陷添加模块，用于将所述待添加的缺陷类别对应的图像块的缺陷特征表示和对应的缺陷标识，添加至所述缺陷查询集合中。
11.一种电子设备，其特征在于，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行如权利要求1至6任一项所述的缺陷检测网络的构建方法，或如权利要求7至8任一所述的缺陷检测方法中的步骤。
12.一种存储有计算机程序的计算机可读存储介质，其特征在于，当所述计算机程序被处理器执行时，致使所述处理器实现如权利要求1至6任一项所述的缺陷检测网络的构建方法，或如权利要求7至8任一所述的缺陷检测方法中的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310532588.4A CN116309554B (zh) | 2023-05-12 | 2023-05-12 | 缺陷检测网络的构建及缺陷检测方法、装置和设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310532588.4A CN116309554B (zh) | 2023-05-12 | 2023-05-12 | 缺陷检测网络的构建及缺陷检测方法、装置和设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116309554A CN116309554A (zh) | 2023-06-23 |
| CN116309554B true CN116309554B (zh) | 2023-08-22 |
Family
ID=86827231
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310532588.4A Active CN116309554B (zh) | 2023-05-12 | 2023-05-12 | 缺陷检测网络的构建及缺陷检测方法、装置和设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116309554B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116542984A (zh) * | 2023-07-07 | 2023-08-04 | 浙江省北大信息技术高等研究院 | 五金件缺陷检测方法、装置、计算机设备及存储介质 |
| CN117333493B (zh) * | 2023-12-01 | 2024-03-15 | 深圳市志达精密科技有限公司 | 一种基于机器视觉的显示器底座生产用检测系统以及方法 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110276754A (zh) * | 2019-06-21 | 2019-09-24 | 厦门大学 | 一种表面缺陷检测方法、终端设备及存储介质 |
| CN111325713A (zh) * | 2020-01-21 | 2020-06-23 | 浙江省北大信息技术高等研究院 | 基于神经网络的木材缺陷检测方法、系统及存储介质 |
| CN112381788A (zh) * | 2020-11-13 | 2021-02-19 | 北京工商大学 | 一种基于双分支匹配网络的零部件表面缺陷增量检测方法 |
| CN113298789A (zh) * | 2021-05-28 | 2021-08-24 | 国网陕西省电力公司电力科学研究院 | 绝缘子缺陷检测方法、系统、电子设备及可读存储介质 |
| CN113642576A (zh) * | 2021-08-24 | 2021-11-12 | 凌云光技术股份有限公司 | 一种目标检测及语义分割任务中训练图像集合的生成方法及装置 |
| CN113658120A (zh) * | 2021-08-06 | 2021-11-16 | 广东电网有限责任公司佛山供电局 | 电力设备的缺陷识别方法、装置、计算机设备和存储介质 |
| CN113689383A (zh) * | 2021-07-27 | 2021-11-23 | 南京旭锐软件科技有限公司 | 一种图像处理方法、装置、设备及存储介质 |
| US11216932B1 (en) * | 2021-03-26 | 2022-01-04 | Minds AI Technologies Ltd | Electronic substrate defect detection |
| CN114187441A (zh) * | 2021-12-08 | 2022-03-15 | 深圳市商汤科技有限公司 | 接触网部件缺陷检测方法、装置、电子设备及存储介质 |
| CN114359283A (zh) * | 2022-03-18 | 2022-04-15 | 华东交通大学 | 基于Transformer的缺陷检测方法和电子设备 |
| CN115439427A (zh) * | 2022-08-26 | 2022-12-06 | 常州大学 | 基于级联yolo-gan的晶圆缺陷检测及定位算法 |
| CN115797349A (zh) * | 2023-02-07 | 2023-03-14 | 广东奥普特科技股份有限公司 | 一种缺陷检测方法、装置和设备 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109949286A (zh) * | 2019-03-12 | 2019-06-28 | 北京百度网讯科技有限公司 | 用于输出信息的方法和装置 |
| EP3916635B1 (en) * | 2020-05-26 | 2023-05-10 | Fujitsu Limited | Defect detection method and apparatus |
-
2023
- 2023-05-12 CN CN202310532588.4A patent/CN116309554B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110276754A (zh) * | 2019-06-21 | 2019-09-24 | 厦门大学 | 一种表面缺陷检测方法、终端设备及存储介质 |
| CN111325713A (zh) * | 2020-01-21 | 2020-06-23 | 浙江省北大信息技术高等研究院 | 基于神经网络的木材缺陷检测方法、系统及存储介质 |
| CN112381788A (zh) * | 2020-11-13 | 2021-02-19 | 北京工商大学 | 一种基于双分支匹配网络的零部件表面缺陷增量检测方法 |
| US11216932B1 (en) * | 2021-03-26 | 2022-01-04 | Minds AI Technologies Ltd | Electronic substrate defect detection |
| CN113298789A (zh) * | 2021-05-28 | 2021-08-24 | 国网陕西省电力公司电力科学研究院 | 绝缘子缺陷检测方法、系统、电子设备及可读存储介质 |
| CN113689383A (zh) * | 2021-07-27 | 2021-11-23 | 南京旭锐软件科技有限公司 | 一种图像处理方法、装置、设备及存储介质 |
| CN113658120A (zh) * | 2021-08-06 | 2021-11-16 | 广东电网有限责任公司佛山供电局 | 电力设备的缺陷识别方法、装置、计算机设备和存储介质 |
| CN113642576A (zh) * | 2021-08-24 | 2021-11-12 | 凌云光技术股份有限公司 | 一种目标检测及语义分割任务中训练图像集合的生成方法及装置 |
| CN114187441A (zh) * | 2021-12-08 | 2022-03-15 | 深圳市商汤科技有限公司 | 接触网部件缺陷检测方法、装置、电子设备及存储介质 |
| CN114359283A (zh) * | 2022-03-18 | 2022-04-15 | 华东交通大学 | 基于Transformer的缺陷检测方法和电子设备 |
| CN115439427A (zh) * | 2022-08-26 | 2022-12-06 | 常州大学 | 基于级联yolo-gan的晶圆缺陷检测及定位算法 |
| CN115797349A (zh) * | 2023-02-07 | 2023-03-14 | 广东奥普特科技股份有限公司 | 一种缺陷检测方法、装置和设备 |
Non-Patent Citations (1)
| Title |
|---|
| 机器视觉在钢化玻璃缺陷检测中的应用研究;杨杰等;《计算机技术与发展》;第23卷(第3期);第211-214页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116309554A (zh) | 2023-06-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN116309554B (zh) | 缺陷检测网络的构建及缺陷检测方法、装置和设备 | |
| CN110288049B (zh) | 用于生成图像识别模型的方法和装置 | |
| CN110019616B (zh) | 一种poi现势状态获取方法及其设备、存储介质、服务器 | |
| CN116597039B (zh) | 图像生成的方法和服务器 | |
| CN108399409A (zh) | 图像分类方法、装置及终端 | |
| CN115797349B (zh) | 一种缺陷检测方法、装置和设备 | |
| CN116128894A (zh) | 图像分割方法、装置及电子设备 | |
| CN109816023B (zh) | 用于生成图片标签模型的方法和装置 | |
| CN113158856B (zh) | 一种提取遥感图像中目标区域的处理方法和装置 | |
| CN115631205B (zh) | 图像分割及模型训练的方法、装置及设备 | |
| CN112925939A (zh) | 图片搜索方法、描述信息生成方法、设备及存储介质 | |
| CN115424153A (zh) | 目标检测方法、装置、设备及存储介质 | |
| CN116051684A (zh) | 一种图文生成方法、装置、设备及存储介质 | |
| CN113516615B (zh) | 一种样本生成方法、系统、设备及存储介质 | |
| CN117253233B (zh) | 一种字符擦除方法、装置和设备 | |
| CN117252822A (zh) | 缺陷检测网络的构建及缺陷检测方法、装置和设备 | |
| CN116610308B (zh) | 代码管理方法及装置、电子设备及存储介质 | |
| CN116612474B (zh) | 对象检测方法、装置、计算机设备及计算机可读存储介质 | |
| CN117333383B (zh) | 一种表面缺陷检测方法、装置和设备 | |
| CN112149836B (zh) | 一种机器学习程序更新方法、装置及设备 | |
| CN113420844B (zh) | 物体缺陷检测方法、装置、电子设备和存储介质 | |
| CN115205576A (zh) | 图像分类、数据分类、模型训练方法、设备及存储介质 | |
| CN116189167A (zh) | 图像检测模型的训练、图像检测方法及装置 | |
| CN118214888A (zh) | 一种直播看点智能生成方法、装置以及设备 | |
| CN116977791A (zh) | 多任务模型训练方法、任务预测方法、装置、计算机设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |