CN110717880B - 一种缺陷检测方法、装置及电子设备 - Google Patents
一种缺陷检测方法、装置及电子设备 Download PDFInfo
- Publication number
- CN110717880B CN110717880B CN201810759588.7A CN201810759588A CN110717880B CN 110717880 B CN110717880 B CN 110717880B CN 201810759588 A CN201810759588 A CN 201810759588A CN 110717880 B CN110717880 B CN 110717880B
- Authority
- CN
- China
- Prior art keywords
- training
- sample
- deep learning
- learning network
- calibration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000007547 defect Effects 0.000 title claims abstract description 107
- 238000001514 detection method Methods 0.000 title claims abstract description 92
- 238000012549 training Methods 0.000 claims abstract description 255
- 238000013135 deep learning Methods 0.000 claims abstract description 238
- 238000012360 testing method Methods 0.000 claims abstract description 195
- 238000012805 post-processing Methods 0.000 claims abstract description 18
- 238000000034 method Methods 0.000 claims description 34
- 238000012795 verification Methods 0.000 claims description 32
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 description 13
- 230000002950 deficient Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 239000004744 fabric Substances 0.000 description 7
- 238000012545 processing Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30124—Fabrics; Textile; Paper
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供了一种缺陷检测方法、装置及电子设备，缺陷检测方法包括：获取待检测图像；将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图；其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到；对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。通过本方案，可以提高缺陷检测的准确度。
Description
技术领域
本发明涉及机器学习技术领域，特别是涉及一种缺陷检测方法、装置及电子设备。
背景技术
物品表面的斑点、凹坑、划痕、色差、缺损等缺陷，直接影响着物品的美观、性能等属性，因此，需要对物品进行缺陷检测。缺陷检测是指识别物品表面是否存在缺陷、确定缺陷区域及缺陷类型，传统的缺陷检测是通过人眼观察的方式实现的。这种缺陷检测方式不仅人工耗时大，且易出现检测错误。随着机器视觉检测技术的发展，深度学习方法已取代了人工检测，通过对物品进行拍照，对拍摄得到的待检测图像进行深度学习运算，分析得到待检测图像中的缺陷区域，进而实现了机器自动化地检测物品表面缺陷。
深度学习是机器学习中的一个新兴领域，通过建立深度学习网络，模仿人脑的机制来解析数据。基于深度学习的缺陷检测方法中，通过将待检测图像输入到预先训练得到的深度学习网络，可以得到缺陷的类别以及缺陷区域在待检测图像中的位置等信息。
深度学习网络的训练过程主要包括：对获取的有缺陷的样本进行标定，并将已标定的标定样本分成训练集、验证集和测试集；基于训练集对深度学习网络进行训练；通过验证集来调整深度学习网络的参数；通过测试集来测试深度学习网络测试性能。但是，由于对有缺陷的样本的搜集难度大，导致缺陷检测的准确度低。
发明内容
本发明实施例的目的在于提供一种缺陷检测方法、装置及电子设备，以提高缺陷检测的准确度。具体技术方案如下：
第一方面，本发明实施例提供了一种缺陷检测方法，所述方法包括：
获取待检测图像；
将所述待检测图像输入预先训练的主深度学习网络，得到所述待检测图像的检测结果图；其中，所述主深度学习网络基于标定样本训练得到；所述标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对所述未标定样本进行标定得到的标定样本；所述辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到；
对所述检测结果图进行后处理，确定所述待检测图像中的缺陷区域及缺陷类型。
可选的，所述辅助深度学习网络的训练方式，包括：
获取训练集、测试集以及验证集，其中，所述训练集、所述测试集以及所述验证集中分别包括多个预先标定的标定样本，所述训练集中的标定样本用于训练所述主深度学习网络，所述测试集中的标定样本用于在添加至所述训练集中后对所述主深度学习网络进行重新训练，所述验证集中的标定样本用于在被所述主深度学习网络测试时得到测试性能；
从所述测试集中，获取正样本集以及负样本集；其中，所述正样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能得到提升；所述负样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能未得到提升；
基于所述正样本集以及所述负样本集，对辅助深度学习网络进行训练。
可选的，所述从所述测试集中，获取正样本集以及负样本集，包括：
基于所述训练集，对主深度学习网络进行训练，并利用训练后的主深度学习网络，对所述验证集进行测试，得到第一测试性能；
从所述测试集中提取至少一个标定样本，并在所述训练集中添加所提取的各所述标定样本；
基于添加各所述标定样本的训练集，对主深度学习网络进行二次训练，并利用二次训练后的主深度学习网络，对所述验证集进行测试，得到第二测试性能；
若确定所述第二测试性能大于所述第一测试性能、且所述第二测试性能与所述第一测试性能的差值大于第一预设阈值，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为正样本；
若确定所述第二测试性能小于或等于所述第一测试性能，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为负样本；
返回执行所述从所述测试集中提取至少一个标定样本，得到多个正样本及多个负样本；
获取所述多个正样本组成的正样本集、以及所述多个负样本组成的负样本集。
可选的，所述从所述测试集中提取至少一个标定样本，包括：
按照预设顺序，从所述测试集中提取至少一个标定样本；
或者，
从所述测试集中随机提取至少一个标定样本。
可选的，所述主深度学习网络的训练方式，包括：
获取训练集以及待选择集，其中，所述训练集中包括多个已标定的标定样本，所述待选择集中包括多个未标定样本；
将所述待选择集中的各未标定样本分别输入预先训练的辅助深度学习网络，得到各未标定样本的样本概率；
对样本概率大于第二预设阈值的未标定样本进行标定，得到新标定样本；
将所述新标定样本添加至所述训练集，得到更新的训练集；
基于所述更新的训练集，对主深度学习网络进行训练；
判断训练后的主深度学习网络的检测性能是否达到第三预设阈值；
若否，则返回执行所述获取训练集以及待选择集；
若是，则确定完成训练的主深度学习网络。
第二方面，本发明实施例提供了一种缺陷检测装置，所述装置包括：
获取模块，用于获取待检测图像；
检测模块，用于将所述待检测图像输入预先训练的主深度学习网络，得到所述待检测图像的检测结果图；其中，所述主深度学习网络基于标定样本训练得到；所述标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对所述未标定样本进行标定得到的标定样本；所述辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到；
后处理模块，用于对所述检测结果图进行后处理，确定所述待检测图像中的缺陷区域及缺陷类型。
可选的，所述装置还包括：第一训练模块；
所述第一训练模块，用于：获取训练集、测试集以及验证集，其中，所述训练集、所述测试集以及所述验证集中分别包括多个预先标定的标定样本，所述训练集中的标定样本用于训练所述主深度学习网络，所述测试集中的标定样本用于在添加至所述训练集中后对所述主深度学习网络进行重新训练，所述验证集中的标定样本用于在被所述主深度学习网络测试时得到测试性能；
从所述测试集中，获取正样本集以及负样本集；其中，所述正样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能得到提升；所述负样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能未得到提升；
基于所述正样本集以及所述负样本集，对辅助深度学习网络进行训练。
可选的，所述第一训练模块，具体用于：
基于所述训练集，对主深度学习网络进行训练，并利用训练后的主深度学习网络，对所述验证集进行测试，得到第一测试性能；
从所述测试集中提取至少一个标定样本，并在所述训练集中添加所提取的各所述标定样本；
基于添加各所述标定样本的训练集，对主深度学习网络进行二次训练，并利用二次训练后的主深度学习网络，对所述验证集进行测试，得到第二测试性能；
若确定所述第二测试性能大于所述第一测试性能、且所述第二测试性能与所述第一测试性能的差值大于第一预设阈值，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为正样本；
若确定所述第二测试性能小于或等于所述第一测试性能，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为负样本；
返回执行所述从所述测试集中提取至少一个标定样本，得到多个正样本及多个负样本；
获取所述多个正样本组成的正样本集、以及所述多个负样本组成的负样本集。
可选的，所述第一训练模块，具体用于：
按照预设顺序，从所述测试集中提取至少一个标定样本；
或者，
从所述测试集中随机提取至少一个标定样本。
可选的，所述装置还包括：第二训练模块；
所述第二训练模块，用于：
获取训练集以及待选择集，其中，所述训练集中包括多个已标定的标定样本，所述待选择集中包括多个未标定样本；
将所述待选择集中的各未标定样本分别输入预先训练的辅助深度学习网络，得到各未标定样本的样本概率；
对样本概率大于第二预设阈值的未标定样本进行标定，得到新标定样本；
将所述新标定样本添加至所述训练集，得到更新的训练集；
基于所述更新的训练集，对主深度学习网络进行训练；
判断训练后的主深度学习网络的检测性能是否达到第三预设阈值；
若否，则返回执行所述获取训练集以及待选择集；
若是，则确定完成训练的主深度学习网络。
第三方面，本发明实施例提供了一种电子设备，包括处理器和存储器，其中，
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的计算机程序时，实现本发明实施例第一方面所述的方法步骤。
本发明实施例提供的一种缺陷检测方法、装置及电子设备，获取待检测图像，通过将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图，对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。对于无法确定是否存在缺陷的未标定样本，或者新获取的还未进行标定的未标定样本，由于辅助深度学习网络是基于主深度学习网络反馈的测试性能训练得到的，并通过辅助深度学习网络对未标定样本进行标定，能够引导主深度学习网络不断优化，有效减缓有缺陷的样本搜集难度大的问题，进而提高了缺陷检测的准确度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例的缺陷检测方法的流程示意图；
图2a为本发明实施例的布匹存在错纱缺陷的示意图；
图2b为本发明实施例的布匹存在坏针缺陷的示意图；
图2c为本发明实施例的布匹存在开幅线缺陷的示意图；
图2d为本发明实施例的布匹存在破洞缺陷的示意图；
图3为本发明实施例的缺陷检测框架示意图；
图4为本发明实施例基于深度学习的缺陷检测方法的具体实现流程示意图；
图5为本发明实施例的深度学习网络的训练流程示意图；
图6为本发明实施例的缺陷检测装置的结构示意图；
图7为本发明实施例的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
为了提高缺陷检测的准确度，本发明实施例提供了一种缺陷检测方法、装置及电子设备。
下面，首先对本发明实施例所提供的一种缺陷检测方法进行介绍。
本发明实施例所提供的一种缺陷检测方法的执行主体可以为一种电子设备，该电子设备用于实现图像处理、目标识别等功能，电子设备中至少包括可以完成逻辑处理的芯片。实现本发明实施例所提供的一种缺陷检测方法的方式可以为设置于执行主体中的软件、硬件电路和逻辑电路中的至少一种。
如图1所示，本发明实施例所提供的一种缺陷检测方法，可以包括如下步骤：
S101，获取待检测图像。
待检测图像为需要进行缺陷检测的图像，待检测图像可以为数据库中已存储的物品图像，也可以为对物品进行实时拍摄得到的图像。示例性地，需要进行缺陷检测的物品为布匹，待检测图像即为对布匹进行拍摄得到的图像，该待检测图像中的布匹可能存在如图2a(错纱)、图2b(坏针)、图2c(开幅线)或者图2d(破洞)所示的缺陷。
待检测图像可以为对原始图像进行感兴趣区域提取和亮度变换等预处理后得到的图像，原始图像为数据库中存储的物品图像或者对物品进行实时拍摄得到的图像，感兴趣区域为原始图像中的指定区域，例如，缺陷易出现在原始图像的左下角占原始图像面积三分之一的区域，则感兴趣区域可以为原始图像的左下角占原始图像面积三分之一的区域。
S102，将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图。
其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。
在进行主深度学习网络的训练时，初始的样本集可以是搜集无缺陷和有缺陷的样本，对少量的部分样本进行标定得到，标定内容包括是否为缺陷样本或缺陷的位置或缺陷的类型等，所搜集的样本为图像数据。可以根据当前的划分策略对初始的样本集进行划分，例如，按照划分比例(6:2:2)对初始的样本集进行划分，得到训练集、验证集和测试集，并确定未标定样本组成待选择集，当然，待选择集中还可以包括获取的新样本。
如图3所示，为本发明实施例的缺陷检测框架示意图。对于主深度学习网络的训练，可以是基于标定样本进行训练，并且在训练过程中主深度学习网络将对测试集的测试性能反馈给辅助深度学习网络，辅助深度学习网络基于测试性能进行训练，并对未标定样本进行处理、标定，再将新的标定样本输入主深度学习网络进行训练，通过上述训练过程的循环，可以提升主深度学习网络的缺陷检测准确度。在初始的样本集中可以只对少量样本进行标定，由于辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到，因此，通过辅助深度学习网络标定的样本仅为对检测性能影响大的样本，降低了标定的成本。样本的标定过程可以是人工标定，也可以是机器根据预设的规则标定。
主深度学习网络输出的检测结果图，可以是基于主深度学习网络的运算，得到待检测图像是否有缺陷的概率，基于该概率生成概率图。
可选的，辅助深度学习网络的训练方式，可以包括：获取训练集、测试集以及验证集，其中，训练集、测试集以及验证集中分别包括多个预先标定的标定样本，训练集中的标定样本用于训练主深度学习网络，测试集中的标定样本用于在添加至训练集中后对主深度学习网络进行重新训练，验证集中的标定样本用于在被主深度学习网络测试时得到测试性能；从测试集中，获取正样本集以及负样本集，其中，正样本集中的标定样本在添加至训练集后，使得基于添加标定样本后的训练集训练得到的主深度学习网络对验证集的测试性能得到提升；负样本集中的标定样本在添加至训练集后，使得基于添加标定样本后的训练集训练得到的主深度学习网络对验证集的测试性能未得到提升；基于正样本集以及负样本集，对辅助深度学习网络进行训练。
通过在训练集中添加测试集中的标定样本，对主深度学习网络进行重新训练，再基于训练的主深度学习网络对验证集的测试性能进行测试，可以得到测试性能提升的正样本和测试性能未提升的负样本。基于正样本构成的正样本集以及负样本构成的负样本集，对辅助深度学习网络进行训练，这样，通过辅助深度学习网络的运算所标定的标定样本，在主深度学习网络基于这些标定样本进行训练时，引导主深度学习网络向测试性能更好的方向优化，能够使得主深度学习网络的测试性能不断提升。
可选的，上述从测试集中，获取正样本集以及负样本集的步骤，可以包括：基于训练集，对主深度学习网络进行训练，并利用训练后的主深度学习网络，对验证集进行测试，得到第一测试性能；从测试集中提取至少一个标定样本，并在训练集中添加所提取的各标定样本；基于添加各标定样本的训练集，对主深度学习网络进行二次训练，并利用二次训练后的主深度学习网络，对验证集进行测试，得到第二测试性能；若确定第二测试性能大于第一测试性能、且第二测试性能与第一测试性能的差值大于第一预设阈值，则确定在训练集中添加的测试集中的至少一个标定样本为正样本；若确定第二测试性能小于或等于第一测试性能，则确定在训练集中添加的测试集中的至少一个标定样本为负样本；返回执行从测试集中提取至少一个标定样本的步骤，得到多个正样本及多个负样本；获取多个正样本组成的正样本集、以及多个负样本组成的负样本集。
使用训练集可以对主深度学习网络进行训练，使用训练后的主深度学习网络对验证集进行测试，即可得到测试性能，在对测试集中的各标定样本进行正样本集和负样本集的划分时，参与测试性能比较的训练集分别为当前的训练集和添加了测试集中标定样本的训练集，当前的训练集可以为初始的训练集，也可以为在初始的训练集的基础上添加了新标定的标定样本的训练集。每一次从测试集中提取至少一个标定样本加入训练集进行主深度学习网络的训练，直至测试集中的指定数目的标定样本都参与完主深度学习网络的训练为止。对于负样本的确定，可以是在第二测试性能小于第一测试性能、且第一测试性能与第二测试性能的差值大于第四阈值时。
可选的，从测试集中提取至少一个标定样本的步骤，可以包括：按照预设顺序，从测试集中提取至少一个标定样本；或者，从测试集中随机提取至少一个标定样本。
预设顺序可以为各标定样本在测试集中的存储顺序，也可以为各标定样本的标识大小等。由于单个标定样本对于主深度学习网络的性能可能并没有提升，但是累加多个标定样本后能够提升性能，因此，可以每次从测试集中提取至少一个标定样本加入训练集进行主深度学习网络的训练，所提取的标定样本的数目与应用场景有关。
可选的，主深度学习网络的训练方式，可以包括：获取训练集以及待选择集，其中，训练集中包括多个已标定的标定样本，待选择集中包括多个未标定样本；将待选择集中的各未标定样本分别输入预先训练的辅助深度学习网络，得到各未标定样本的样本概率；对样本概率大于第二预设阈值的未标定样本进行标定，得到新标定样本；将新标定样本添加至训练集，得到更新的训练集；基于更新的训练集，对主深度学习网络进行训练；判断训练后的主深度学习网络的检测性能是否达到第三预设阈值；若否，则返回执行获取训练集以及待选择集的步骤；若是，则确定完成训练的主深度学习网络。
训练集中的标定样本既包括初始获取的样本中初始标定的标定样本，又包括上一次通过辅助深度学习网络标定的标定样本；待选择集中既包括初始获取的样本中未标定的未标定样本，又包括在缺陷检测方法运行时新获取的新样本。样本概率反映了未标定样本对于提高主深度学习网络性能有效性的概率，概率越高越说明该未标定样本对于提高主深度学习网络性能有效性越高，因此，可以保留概率较高的未标定样本进行标定，对未标定样本进行标定的过程可以是人工标定，也可以是机器标定。由于标定样本的数目得到扩充，因此，可以在原训练集中添加新标定的样本，并重新对主深度学习网络进行训练，再重复执行辅助深度学习网络和主深度学习网络训练的流程，直至主深度学习网络的检测性能达到第三预设阈值，主深度学习网络的检测性能可以为主深度学习网络对缺陷的检出率、准确率等。
主深度学习网络和辅助深度学习网络可以为相同架构的深度学习网络，也可以为不同架构的深度学习网络，通常情况下，在对主深度学习网络和辅助深度学习网络进行训练前，可以选择相同网络参数、相同架构的深度学习网络。
S103，对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。
在得到主深度学习网络输出的概率图后，可以对概率图进行二值化、形状过滤等后处理，通过后处理的操作，可以得到待检测图像对应的二值图等，并且通过形状过滤可以得到二值图中准确标识缺陷的区域，从而能够准确的确定待检测图像中的缺陷区域及缺陷类型。
如图4所示，为本发明实施例基于深度学习的缺陷检测方法的具体实现流程。主要包括如下步骤：第一步，对待检测图像进行感兴趣区域提取和亮度变换等预处理；第二步，使用主深度学习网络对预处理后的待检测图像进行检测，输出其是否有缺陷的概率；第三步，对第二步输出的概率图进行二值化、形状过滤等后处理。
应用本实施例，获取待检测图像，通过将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图，对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。对于无法确定是否存在缺陷的未标定样本，或者新获取的还未进行标定的未标定样本，由于辅助深度学习网络是基于主深度学习网络反馈的测试性能训练得到的，并通过辅助深度学习网络对未标定样本进行标定，能够引导主深度学习网络不断优化，有效减缓有缺陷的样本搜集难度大的问题，进而提高了缺陷检测的准确度。
如图5所示，为本发明实施例的深度学习网络的训练流程。主深度学习网络训练的步骤主要包括：
第一步，搜集无缺陷和有缺陷的样本，并对少量部分样本进行标定。
第一步即为图5中的S501。
第二步，将标定的样本集分成训练集、验证集和测试集，未标定的样本集作为待选择集。
第二步即为图5中的S502。
第三步，使用训练集中的标定样本对主深度学习网络进行训练。
第四步，使用第三步得到的主深度学习网络对验证集进行测试，得到性能A。
第五步，从测试集中顺序或随机挑选出至少一个标定样本放入训练集中，对主深度学习网络进行重新训练。
第六步，使用第五步得到的主深度学习网络对验证集进行测试，得到性能B。
第三步至第六步即为图5中的S503。
第七步，如果性能B超出性能A一定阈值，则将第五步中选取的单样本作为正样本；如果性能B不超过性能A，则将第五步中选取的单样本作为负样本。
第八步，重复第五步至第七步，得到正样本集和负样本集。
第七步至第八步即为图5中的S504。
第九步，使用第八步中的正样本集和负样本集对辅助深度学习网络进行训练。
第九步即为图5中的S505。
第十步，使用第九步得到的辅助深度学习网络对待选择集中的样本进行测试，给予未标定样本对于提高主深度学习网络性能有效性的概率，并保留概率高的样本。
第十步即为图5中的S506。
第十一步，对提高深度学习网络性能概率高的未标定样本进行人工标定。
第十一步即为图5中的S507。
第十二步，将第十一步新标定的样本加入训练集，重新对主深度学习网络进行训练。
第十二步即为图5中的S508。
第十三步，重复第四步至第十二步，直到主深度学习网络的检测性能达到要求。
第十三步即为图5中的S509，若主深度学习网络的检测性能不能达到要求，则返回执行S504。
应用本实施例，对于无法确定是否存在缺陷的未标定样本，或者新获取的还未进行标定的未标定样本，由于辅助深度学习网络是基于主深度学习网络的测试性能结果训练得到的，并通过辅助深度学习网络对未标定样本进行标定，能够引导主深度学习网络不断优化，有效减缓有缺陷的样本搜集难度大的问题，进而提高了缺陷检测的准确度。
基于上述方法实施例，本发明实施例还提供了一种缺陷检测装置，如图6所示，该缺陷检测装置包括：
获取模块610，用于获取待检测图像。
检测模块620，用于将所述待检测图像输入预先训练的主深度学习网络，得到所述待检测图像的检测结果图；其中，所述主深度学习网络基于标定样本训练得到；所述标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对所述未标定样本进行标定得到的标定样本；所述辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。
后处理模块630，用于对所述检测结果图进行后处理，确定所述待检测图像中的缺陷区域及缺陷类型。
可选的，所述装置还可以包括：第一训练模块。
所述第一训练模块，可以用于：获取训练集、测试集以及验证集，其中，所述训练集、所述测试集以及所述验证集中分别包括多个预先标定的标定样本，所述训练集中的标定样本用于训练所述主深度学习网络，所述测试集中的标定样本用于在添加至所述训练集中后对所述主深度学习网络进行重新训练，所述验证集中的标定样本用于在被所述主深度学习网络测试时得到测试性能；从所述测试集中，获取正样本集以及负样本集；其中，所述正样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能得到提升；所述负样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能未得到提升；基于所述正样本集以及所述负样本集，对辅助深度学习网络进行训练。
可选的，所述第一训练模块，具体可以用于：基于所述训练集，对主深度学习网络进行训练，并利用训练后的主深度学习网络，对所述验证集进行测试，得到第一测试性能；从所述测试集中提取至少一个标定样本，并在所述训练集中添加所提取的各所述标定样本；基于添加各所述标定样本的训练集，对主深度学习网络进行二次训练，并利用二次训练后的主深度学习网络，对所述验证集进行测试，得到第二测试性能；若确定所述第二测试性能大于所述第一测试性能、且所述第二测试性能与所述第一测试性能的差值大于第一预设阈值，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为正样本；若确定所述第二测试性能小于或等于所述第一测试性能，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为负样本；返回执行所述从所述测试集中提取至少一个标定样本，得到多个正样本及多个负样本；获取所述多个正样本组成的正样本集、以及所述多个负样本组成的负样本集。
可选的，所述第一训练模块，具体可以用于：按照预设顺序，从所述测试集中提取至少一个标定样本；或者，从所述测试集中随机提取至少一个标定样本。
可选的，所述装置还可以包括：第二训练模块。
所述第二训练模块，可以用于：获取训练集以及待选择集，其中，所述训练集中包括多个已标定的标定样本，所述待选择集中包括多个未标定样本；将所述待选择集中的各未标定样本分别输入预先训练的辅助深度学习网络，得到各未标定样本的样本概率；对样本概率大于第二预设阈值的未标定样本进行标定，得到新标定样本；将所述新标定样本添加至所述训练集，得到更新的训练集；基于所述更新的训练集，对主深度学习网络进行训练；判断训练后的主深度学习网络的检测性能是否达到第三预设阈值；若否，则返回执行所述获取训练集以及待选择集；若是，则确定完成训练的主深度学习网络。
应用本实施例，获取待检测图像，通过将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图，对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。对于无法确定是否存在缺陷的未标定样本，或者新获取的还未进行标定的未标定样本，由于辅助深度学习网络是基于主深度学习网络反馈的测试性能训练得到的，并通过辅助深度学习网络对未标定样本进行标定，能够引导主深度学习网络不断优化，有效减缓有缺陷的样本搜集难度大的问题，进而提高了缺陷检测的准确度。
为了提高缺陷检测的准确度，本发明实施例还提供了一种电子设备，如图7所示，该电子设备包括处理器701和存储器702，其中，
所述存储器702，用于存放计算机程序；
所述处理器701，用于执行所述存储器702上所存放的计算机程序时，实现如上述缺陷检测方法的任一步骤。
上述存储器可以包括RAM(Random Access Memory，随机存取存储器)，也可以包括NVM(Non-Volatile Memory，非易失性存储器)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述处理器可以是通用处理器，包括GPU(Graphics Processing Unit，图形处理器)、CPU(Central Processing Unit，中央处理器)、NP(Network Processor，网络处理器)等；还可以是DSP(Digital Signal Processor，数字信号处理器)、ASIC(ApplicationSpecific Integrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本实施例中，该电子设备的处理器通过读取存储器中存储的计算机程序，并通过运行该计算机程序，能够实现：获取待检测图像，通过将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图，对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。对于无法确定是否存在缺陷的未标定样本，或者新获取的还未进行标定的未标定样本，由于辅助深度学习网络是基于主深度学习网络反馈的测试性能训练得到的，并通过辅助深度学习网络对未标定样本进行标定，能够引导主深度学习网络不断优化，有效减缓有缺陷的样本搜集难度大的问题，进而提高了缺陷检测的准确度。
另外，相应于上述实施例所提供的缺陷检测方法，本发明实施例提供了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述缺陷检测方法的任一步骤。
本实施例中，计算机可读存储介质在运行时执行本发明实施例所提供的缺陷检测方法的应用程序，因此能够实现：获取待检测图像，通过将待检测图像输入预先训练的主深度学习网络，得到待检测图像的检测结果图，对检测结果图进行后处理，确定待检测图像中的缺陷区域及缺陷类型。其中，主深度学习网络基于标定样本训练得到；标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对未标定样本进行标定得到的标定样本；辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到。对于无法确定是否存在缺陷的未标定样本，或者新获取的还未进行标定的未标定样本，由于辅助深度学习网络是基于主深度学习网络反馈的测试性能训练得到的，并通过辅助深度学习网络对未标定样本进行标定，能够引导主深度学习网络不断优化，有效减缓有缺陷的样本搜集难度大的问题，进而提高了缺陷检测的准确度。
对于电子设备以及计算机可读存储介质实施例而言，由于其所涉及的方法内容基本相似于前述的方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备及计算机可读存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (9)
1.一种缺陷检测方法，其特征在于，所述方法包括：
获取待检测图像；
将所述待检测图像输入预先训练的主深度学习网络，得到所述待检测图像的检测结果图；其中，所述主深度学习网络基于标定样本训练得到；所述标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对所述未标定样本进行标定得到的标定样本；所述辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到；样本概率反映了未标定样本对于提高主深度学习网络性能有效性的概率；
对所述检测结果图进行后处理，确定所述待检测图像中的缺陷区域及缺陷类型；
所述辅助深度学习网络的训练方式，包括：
获取训练集、测试集以及验证集，其中，所述训练集、所述测试集以及所述验证集中分别包括多个预先标定的标定样本，所述训练集中的标定样本用于训练所述主深度学习网络，所述测试集中的标定样本用于在添加至所述训练集中后对所述主深度学习网络进行重新训练，所述验证集中的标定样本用于在被所述主深度学习网络测试时得到测试性能；
从所述测试集中，获取正样本集以及负样本集；其中，所述正样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能得到提升；所述负样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能未得到提升；
基于所述正样本集以及所述负样本集，对辅助深度学习网络进行训练。
2.根据权利要求1所述的方法，其特征在于，所述从所述测试集中，获取正样本集以及负样本集，包括：
基于所述训练集，对主深度学习网络进行训练，并利用训练后的主深度学习网络，对所述验证集进行测试，得到第一测试性能；
从所述测试集中提取至少一个标定样本，并在所述训练集中添加所提取的各所述标定样本；
基于添加各所述标定样本的训练集，对主深度学习网络进行二次训练，并利用二次训练后的主深度学习网络，对所述验证集进行测试，得到第二测试性能；
若确定所述第二测试性能大于所述第一测试性能、且所述第二测试性能与所述第一测试性能的差值大于第一预设阈值，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为正样本；
若确定所述第二测试性能小于或等于所述第一测试性能，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为负样本；
返回执行所述从所述测试集中提取至少一个标定样本，得到多个正样本及多个负样本；
获取所述多个正样本组成的正样本集、以及所述多个负样本组成的负样本集。
3.根据权利要求2所述的方法，其特征在于，所述从所述测试集中提取至少一个标定样本，包括：
按照预设顺序，从所述测试集中提取至少一个标定样本；
或者，
从所述测试集中随机提取至少一个标定样本。
4.根据权利要求1-3任一所述的方法，其特征在于，所述主深度学习网络的训练方式，包括：
获取训练集以及待选择集，其中，所述训练集中包括多个已标定的标定样本，所述待选择集中包括多个未标定样本；
将所述待选择集中的各未标定样本分别输入预先训练的辅助深度学习网络，得到各未标定样本的样本概率；
对样本概率大于第二预设阈值的未标定样本进行标定，得到新标定样本；
将所述新标定样本添加至所述训练集，得到更新的训练集；
基于所述更新的训练集，对主深度学习网络进行训练；
判断训练后的主深度学习网络的检测性能是否达到第三预设阈值；
若否，则返回执行所述获取训练集以及待选择集；
若是，则确定完成训练的主深度学习网络。
5.一种缺陷检测装置，其特征在于，所述装置包括：
获取模块，用于获取待检测图像；
检测模块，用于将所述待检测图像输入预先训练的主深度学习网络，得到所述待检测图像的检测结果图；其中，所述主深度学习网络基于标定样本训练得到；所述标定样本包括，根据将未标定样本输入预先训练的辅助深度学习网络得到的样本概率，对所述未标定样本进行标定得到的标定样本；所述辅助深度学习网络基于主深度学习网络反馈的测试性能训练得到；样本概率反映了未标定样本对于提高主深度学习网络性能有效性的概率；
后处理模块，用于对所述检测结果图进行后处理，确定所述待检测图像中的缺陷区域及缺陷类型；
所述装置还包括：第一训练模块；
所述第一训练模块，用于：获取训练集、测试集以及验证集，其中，所述训练集、所述测试集以及所述验证集中分别包括多个预先标定的标定样本，所述训练集中的标定样本用于训练所述主深度学习网络，所述测试集中的标定样本用于在添加至所述训练集中后对所述主深度学习网络进行重新训练，所述验证集中的标定样本用于在被所述主深度学习网络测试时得到测试性能；
从所述测试集中，获取正样本集以及负样本集；其中，所述正样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能得到提升；所述负样本集中的标定样本在添加至所述训练集后，使得基于添加所述标定样本后的训练集训练得到的主深度学习网络对所述验证集的测试性能未得到提升；
基于所述正样本集以及所述负样本集，对辅助深度学习网络进行训练。
6.根据权利要求5所述的装置，其特征在于，所述第一训练模块，具体用于：
基于所述训练集，对主深度学习网络进行训练，并利用训练后的主深度学习网络，对所述验证集进行测试，得到第一测试性能；
从所述测试集中提取至少一个标定样本，并在所述训练集中添加所提取的各所述标定样本；
基于添加各所述标定样本的训练集，对主深度学习网络进行二次训练，并利用二次训练后的主深度学习网络，对所述验证集进行测试，得到第二测试性能；
若确定所述第二测试性能大于所述第一测试性能、且所述第二测试性能与所述第一测试性能的差值大于第一预设阈值，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为正样本；
若确定所述第二测试性能小于或等于所述第一测试性能，则确定在所述训练集中添加的所述测试集中的至少一个标定样本为负样本；
返回执行所述从所述测试集中提取至少一个标定样本，得到多个正样本及多个负样本；
获取所述多个正样本组成的正样本集、以及所述多个负样本组成的负样本集。
7.根据权利要求6所述的装置，其特征在于，所述第一训练模块，具体用于：
按照预设顺序，从所述测试集中提取至少一个标定样本；
或者，
从所述测试集中随机提取至少一个标定样本。
8.根据权利要求5-7任一所述的装置，其特征在于，所述装置还包括：第二训练模块；
所述第二训练模块，用于：
获取训练集以及待选择集，其中，所述训练集中包括多个已标定的标定样本，所述待选择集中包括多个未标定样本；
将所述待选择集中的各未标定样本分别输入预先训练的辅助深度学习网络，得到各未标定样本的样本概率；
对样本概率大于第二预设阈值的未标定样本进行标定，得到新标定样本；
将所述新标定样本添加至所述训练集，得到更新的训练集；
基于所述更新的训练集，对主深度学习网络进行训练；
判断训练后的主深度学习网络的检测性能是否达到第三预设阈值；
若否，则返回执行所述获取训练集以及待选择集；
若是，则确定完成训练的主深度学习网络。
9.一种电子设备，其特征在于，包括处理器和存储器，其中，
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的计算机程序时，实现权利要求1-4任一所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810759588.7A CN110717880B (zh) | 2018-07-11 | 2018-07-11 | 一种缺陷检测方法、装置及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810759588.7A CN110717880B (zh) | 2018-07-11 | 2018-07-11 | 一种缺陷检测方法、装置及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110717880A CN110717880A (zh) | 2020-01-21 |
| CN110717880B true CN110717880B (zh) | 2022-07-05 |
Family
ID=69209055
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810759588.7A Active CN110717880B (zh) | 2018-07-11 | 2018-07-11 | 一种缺陷检测方法、装置及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110717880B (zh) |
Family Cites Families (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5379812B2 (ja) * | 2011-01-06 | 2013-12-25 | 日本電信電話株式会社 | データ抽出装置、データ抽出方法、及びプログラム |
| CN102496061A (zh) * | 2011-11-25 | 2012-06-13 | 河海大学 | 基于主动学习的神经网络样本选择方法及其装置 |
| US9881053B2 (en) * | 2016-05-13 | 2018-01-30 | Maana, Inc. | Machine-assisted object matching |
| CN106126751A (zh) * | 2016-08-18 | 2016-11-16 | 苏州大学 | 一种具有时间适应性的分类方法及装置 |
| CN108090499B (zh) * | 2017-11-13 | 2020-08-11 | 中国科学院自动化研究所 | 基于最大信息三元组筛选网络的数据主动标注方法和系统 |
| CN107833220B (zh) * | 2017-11-28 | 2021-06-11 | 河海大学常州校区 | 基于深度卷积神经网络与视觉显著性的织物缺陷检测方法 |
| CN108009589A (zh) * | 2017-12-12 | 2018-05-08 | 腾讯科技（深圳）有限公司 | 样本数据处理方法、装置和计算机可读存储介质 |
| CN108038853B (zh) * | 2017-12-18 | 2020-05-26 | 浙江工业大学 | 一种基于卷积神经网络和主动学习的瓷砖表面缺陷识别方法 |
-
2018
- 2018-07-11 CN CN201810759588.7A patent/CN110717880B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN110717880A (zh) | 2020-01-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108615071B (zh) | 模型测试的方法及装置 | |
| CN110402487B (zh) | 对从晶片检测的缺陷进行分类的方法和装置 | |
| JP6403261B2 (ja) | 分類器生成装置、外観検査装置、分類器生成方法、及びプログラム | |
| CN110619618A (zh) | 一种表面缺陷检测方法、装置及电子设备 | |
| JP2019050376A5 (zh) | ||
| CN110807491A (zh) | 车牌图像清晰度模型训练方法、清晰度检测方法及装置 | |
| CN113344886A (zh) | 晶圆表面缺陷检测方法和设备 | |
| US10546213B2 (en) | Method for evaluating the authenticity of a painting as well as a corresponding use | |
| CN104867225A (zh) | 一种纸币的面向识别方法及装置 | |
| CN112528975A (zh) | 工业质检方法、装置和计算机可读存储介质 | |
| CN114945938A (zh) | 缺陷实际面积的检测方法、显示面板的检测方法及装置 | |
| CN113762274B (zh) | 一种答题卡目标区域检测方法、系统、存储介质及设备 | |
| CN112513927A (zh) | 基于卷积神经网络的风力涡轮机叶片缺陷检查 | |
| CN116385380A (zh) | 基于深度特征的缺陷检测方法、系统、设备及存储介质 | |
| JP2020085583A (ja) | 検査装置及び検査方法 | |
| JP2017054331A (ja) | 画像分類方法、分類器の構成方法および画像分類装置 | |
| CN114140463A (zh) | 一种焊接缺陷识别方法、装置、设备及存储介质 | |
| CN108470194A (zh) | 一种特征筛选方法及装置 | |
| CN106528665A (zh) | Aoi设备测试文件查找方法和系统 | |
| CN110717880B (zh) | 一种缺陷检测方法、装置及电子设备 | |
| CN111611781B (zh) | 数据标注方法、问答方法、装置及电子设备 | |
| CN111179245B (zh) | 图像质量检测方法、装置、电子设备和存储介质 | |
| CN116071335A (zh) | 墙面验收方法、装置、设备及存储介质 | |
| CN114240929B (zh) | 一种色差检测方法及装置 | |
| US20210342688A1 (en) | Neural network training method, device and storage medium based on memory score |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |