CN113763384B - 工业质检中的缺陷检测方法、缺陷检测装置 - Google Patents
工业质检中的缺陷检测方法、缺陷检测装置 Download PDFInfo
- Publication number
- CN113763384B CN113763384B CN202111323065.6A CN202111323065A CN113763384B CN 113763384 B CN113763384 B CN 113763384B CN 202111323065 A CN202111323065 A CN 202111323065A CN 113763384 B CN113763384 B CN 113763384B
- Authority
- CN
- China
- Prior art keywords
- segmentation
- module
- convolution
- layer
- receptive field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000007547 defect Effects 0.000 title claims abstract description 90
- 238000001514 detection method Methods 0.000 title claims abstract description 78
- 238000007689 inspection Methods 0.000 title claims abstract description 27
- 230000011218 segmentation Effects 0.000 claims abstract description 122
- 238000012549 training Methods 0.000 claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 31
- 238000012706 support-vector machine Methods 0.000 claims abstract description 19
- 238000002372 labelling Methods 0.000 claims abstract description 13
- 238000012360 testing method Methods 0.000 claims abstract description 8
- 230000011731 head segmentation Effects 0.000 claims description 40
- 238000012545 processing Methods 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 6
- 230000006870 function Effects 0.000 description 56
- 238000004364 calculation method Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 7
- 239000000463 material Substances 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Evolutionary Biology (AREA)
- Software Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种工业质检中的缺陷检测方法、缺陷检测装置,涉及工业质检技术领域,所述方法包括:将数据集进行多边形标注后分为训练集和测试集;将训练集输入分割模型以进行语义分割,分割模型包括反转残差模块阶段和感受野对齐模块;对分割模型做梯度下降并不断更新迭代,以获取前置分割模型;获取前置分割模型的分割结果,并送入支持向量机进行训练以获取训练后的缺陷检测模型;根据训练后的缺陷检测模型进行缺陷检测。本发明的主干网络采用反转残差模块搭配感受野对齐模块,可以提升最终检测效率,解决了感受野过小导致的类别分类不准确问题,还将语义分割与支持向量机相结合,解决了语义分割网络直接用于缺陷检测时容易过检的问题。
Description
技术领域
本发明涉及工业质检技术领域,具体涉及一种工业质检中的缺陷检测方法和一种工业质检中的缺陷检测装置。
背景技术
语义分割卷积网络是目前工业质检领域一个非常常用的深度学习技术,不仅可以直接使用该类模型进行缺陷的像素级检测,另外也可以在普通的目标检测(仅检出目标框)的基础上再套用该类模型提取边缘以便进一步分析检测结果。
目前,使用较多的语义分割模型主要为U-Net(使用全卷积网络进行语义分割的算法)、PSPNet(Pyramid Scene Parsing Network,金字塔场景解析网络)、DeepLab(结合了深度卷积神经网络和概率图模型进行语义分割的算法)、BiSeNet(一种实时语义分割网络)等,上述语义分割模型一般是将多个浅层的细节丰富的特征图与深层的具有高级语义信息的特征图进行堆栈并用于预测,因此在诸如医学领域的毛细血管分割与工业缺陷检测的划痕此类比较精细的目标上有比较不错的检测效果。
然而,如果直接将上述语义分割模型直接用于工业检测存在如下问题:U-Net由于其浅层细节信息在整个网络中权重过大,导致对于较为复杂的缺陷形态检测精度并不佳;此外,同样是由于大量的浅层具有丰富细节的特征图参与运算,导致训练与推理速度并不理想;PSPNet、DeepLab之类的语义分割模型推理速度太慢,无法满足工业现场的速度需求;BiSeNet通过双分支结构分别负责高级语义信息的提取与细节信息的提取,并通过融合模块来融合两类特征用于最终预测,但细节分支感受野太小,能起到的作用有限,导致其在对精细度要求较高的工业缺陷检测领域效果并不理想。
同时,由于语义分割网络本身的特性(逐像素分类),容易导致过检,也使得语义分割网络在工业缺陷检测中有着诸多掣肘。
发明内容
为解决上述技术问题,本发明的第一个目的在于提出一种工业质检中的缺陷检测方法,本发明的主干网络采用反转残差模块搭配感受野对齐模块,反转残差模块具有参数量少、计算快的特点,从而可以提升最终检测效率,感受野对齐模块可以解决感受野过小会导致的类别分类不准确问题,同时并不会增加太多计算负担,本发明还将语义分割与支持向量机相结合,解决了语义分割网络直接用于缺陷检测时容易过检的问题。
本发明的第二个目的在于提出一种工业质检中的缺陷检测装置。
本发明采用的技术方案如下:
本发明第一方面的实施例提出了一种工业质检中的缺陷检测方法,包括以下步
骤:获取数据集,将所述数据集的缺陷进行多边形标注后分为训练集和测试集;将所述训练
集输入分割模型以进行语义分割,其中,所述分割模型包括反转残差模块阶段和感受野对
齐模块;获取所述分割模型的损失函数,并根据所述损失函数对所述分割模型做梯度下降
并不断更新迭代,以获取前置分割模型;获取前置分割模型的分割结果,所述分割结果包括
缺陷与过杀;获取所述分割结果中缺陷所占像素数量的最大值,并根据所述缺陷所占
像素数量的最大值将所有分割结果标准化后送入二分类支持向量机进行训练,以获
取训练后的缺陷检测模型;获取工业现场工件图片并送入所述训练后的缺陷检测模型,以
获取缺陷检测结果。
本发明上述提出的工业质检中的缺陷检测方法还可以具有如下附加技术特征:
根据本发明的一个实施例,所述分割模型包括:依次串联的第一反转残差模块阶段、第二反转残差模块阶段、第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段;第一感受野对齐模块,所述第一感受野对齐模块的输入端与所述第三反转残差模块阶段的输出端相连;第二感受野对齐模块,所述第二感受野对齐模块的输入端与所述第四反转残差模块阶段的输出端相连;第三感受野对齐模块,所述第三感受野对齐模块的输入端与所述第五反转残差模块阶段的输出端相连;第一连接层,所述第一连接层的输入端分别与所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的输出端相连;第一头部分割层,所述第一头部分割层的输入端与所述第一连接层的输出端相连,所述第一头部分割层包括中间层和上采样模块,且所述第一头部分割层的上采样模块为通道数为1024的卷积核。
根据本发明的一个实施例,所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的结构相同,其中,所述第一感受野对齐模块包括:第二连接层和依次串联的第一增强单元、第一卷积单元、第二增强单元、第三增强单元、第二卷积单元、第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元,所述第二连接层的输入端分别与所述第三卷积单元、所述第四卷积单元、所述第五卷积单元和所述第六卷积单元的输出相连,所述第二连接层的输出端作为所述第一感受野对齐模块的输出端,其中,第一增强单元、所述第二增强单元和所述第三增强单元的结构相同,所述第一增强单元包括:通道拆分单元,所述通道拆分单元用于将输入数据在通道维度平分为第一部分和第二部分;3*3卷积核,所述3*3卷积核用于对第一部分的输入数据进行3*3卷积处理;第三连接层,所述第三连接层用于对第二部分的输入数据和进行3*3卷积处理后的第一部分的输入数据进行连接操作;1*1卷积核,所述1*1卷积核用于对所述第三连接层的输出进行1*1卷积处理。
根据本发明的一个实施例,所述分割模型还包括:第二头部分割层,所述第二头部分割层的数量四个,所述第二头部分割层分别与所述第三反转残差模块阶段、所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块相连,且所述第二头部分割层采用通道数为128的卷积核作为中间层。
根据本发明的一个实施例,根据所述第一头部分割层的损失函数和所述第二头部分割层的损失函数的和值获取所述分割模型的损失函数。
根据本发明的一个实施例,根据以下公式获取所述第一头部分割层的损失函数或者所述第二头部分割层的损失函数:
其中,loss为所述第一头部分割层的损失函数或者所述第二头部分割层的损失函
数,为第一预设值,为第二预设值,为逆序排序的交叉熵损失的第个
值,为图片与标签求交叉熵损失后值大于的数量,为多边形标注
结果中的第个实例,为第个实例所对应图片的模型输出结果,为正整数。
根据本发明的一个实施例,根据以下公式获取所述支持向量机的核函数:
本发明第二方面的实施例提出了一种工业质检中的缺陷检测装置,包括:第一获
取模块,所述第一获取模块用于获取数据集,将所述数据集的缺陷进行多边形标注后分为
训练集和测试集;分割模型,所述分割模型用于将所述训练集进行语义分割,其中,所述分
割模型包括反转残差模块阶段和感受野对齐模块;第一训练模块,所述第一训练模块用于
获取所述分割模型的损失函数,并根据所述损失函数对所述分割模型做梯度下降并不断更
新迭代,以获取前置分割模型;第二获取模块,所述第二获取模块用于获取前置分割模型的
分割结果,所述分割结果包括缺陷与过杀;第二训练模块,所述第二训练模块用于获取所述
分割结果中缺陷所占像素数量的最大值,并根据所述缺陷所占像素数量的最大值将所有分割结果标准化后送入二分类支持向量机进行训练,以获取训练后的缺陷检测
模型;检测模块,所述检测模块用于获取工业现场工件图片并送入所述训练后的缺陷检测
模型,以获取缺陷检测结果。
本发明上述提出的工业质检中的缺陷检测装置还可以具有如下附加技术特征:
根据本发明的一个实施例,所述分割模型包括:依次串联的第一反转残差模块阶段、第二反转残差模块阶段、第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段;第一感受野对齐模块,所述第一感受野对齐模块的输入端与所述第三反转残差模块阶段的输出端相连;第二感受野对齐模块,所述第二感受野对齐模块的输入端与所述第四反转残差模块阶段的输出端相连;第三感受野对齐模块,所述第三感受野对齐模块的输入端与所述第五反转残差模块阶段的输出端相连;第一连接层,所述第一连接层的输入端分别与所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的输出端相连;第一头部分割层,所述第一头部分割层的输入端与所述第一连接层的输出端相连,所述第一头部分割层包括中间层和上采样模块,且所述第一头部分割层的上采样模块为通道数为1024的卷积核。
根据本发明的一个实施例,所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的结构相同,其中,所述第一感受野对齐模块包括:第二连接层和依次串联的第一增强单元、第一卷积单元、第二增强单元、第三增强单元、第二卷积单元、第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元,所述第二连接层的输入端分别与所述第三卷积单元、所述第四卷积单元、所述第五卷积单元和所述第六卷积单元的输出相连,所述第二连接层的输出端作为所述第一感受野对齐模块的输出端,其中,第一增强单元、所述第二增强单元和所述第三增强单元的结构相同,所述第一增强单元包括:通道拆分单元,所述通道拆分单元用于将输入数据在通道维度平分为第一部分和第二部分;3*3卷积核,所述3*3卷积核用于对第一部分的输入数据进行3*3卷积处理;第三连接层,所述第三连接层用于对第二部分的输入数据和进行3*3卷积处理后的第一部分的输入数据进行连接操作;1*1卷积核,所述1*1卷积核用于对所述第三连接层的输出进行1*1卷积处理。
根据本发明的一个实施例,所述分割模型还包括:第二头部分割层,所述第二头部分割层的数量为四个,四个所述第二头部分割层分别与所述第三反转残差模块阶段、所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块相连,且所述第二头部分割层采用通道数为128的卷积核作为中间层。
根据本发明的一个实施例,根据所述第一头部分割层的损失函数和所述第二头部分割层的损失函数的和值获取所述分割模型的损失函数。
根据本发明的一个实施例,根据以下公式获取所述第一头部分割层的损失函数或者所述第二头部分割层的损失函数:
其中,loss为所述第一头部分割层的损失函数或者所述第二头部分割层的损失函
数,为第一预设值,为第二预设值,为逆序排序的交叉熵损失的第个
值,为图片与标签求交叉熵损失后值大于的数量,为多边形标注
结果中的第个实例,为第个实例所对应图片的模型输出结果,为正整数。
根据本发明的一个实施例,根据以下公式获取所述支持向量机的核函数:
本发明的有益效果:
本发明的主干网络采用反转残差模块搭配感受野对齐模块,反转残差模块具有参数量少、计算快的特点,从而可以提升最终检测效率,感受野对齐模块可以解决感受野过小会导致的类别分类不准确问题,同时并不会增加太多计算负担,本发明还将语义分割与支持向量机相结合,解决了语义分割网络直接用于缺陷检测时容易过检的问题。
附图说明
图1是根据本发明一个实施例的工业质检中的缺陷检测方法的流程图;
图2是根据本发明一个实施例的工业质检中的缺陷检测方法中的分割模型的网络结构示意图;
图3是根据本发明一个实施例的工业质检中的缺陷检测方法中的感受野对齐模块的网络结构示意图;
图4是根据本发明一个实施例的工业质检中的缺陷检测方法中的增强单元的网络结构示意图;
图5是根据本发明另一个实施例的工业质检中的缺陷检测方法中的分割模型的网络结构示意图;
图6是根据本发明一个实施例的工业质检中的缺陷检测装置的方框示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1是根据本发明一个实施例的工业质检中的缺陷检测方法的流程图。如图1所示,该方法包括以下步骤:
S1,获取数据集,将数据集的缺陷进行多边形标注后分为训练集和测试集。
具体地,数据集可以为通过工业现场采集的工业现场工件图像,可以通过开源工具labelme对数据集的缺陷进行多边形标注,多边形标注可以实现缺陷的位置及轮廓(像素级),然后将数据集的80%用作训练集,20%用作测试集。
S2,将训练集输入分割模型以进行语义分割,其中,分割模型包括反转残差模块阶段和感受野对齐模块。
进一步地,如图2所示,分割模型包括:依次串联的第一反转残差模块阶段、第二反转残差模块阶段、第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段,第一感受野对齐模块,第二感受野对齐模块,第三感受野对齐模块,第一连接层,第一头部分割层。
其中,第一感受野对齐模块的输入端与第三反转残差模块阶段的输出端相连;第二感受野对齐模块的输入端与第四反转残差模块阶段的输出端相连;第三感受野对齐模块的输入端与第五反转残差模块阶段的输出端相连;第一连接层的输入端分别与第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块的输出端相连;第一头部分割层的输入端与第一连接层的输出端相连,第一头部分割层包括中间层和上采样模块,且第一头部分割层的上采样模块为通道数为1024的卷积核。
具体地,如图2所示,图2中的数字代表该阶段输出特征图的长(宽)相对原图的长(宽)的比值。如图2所示,在本发明的缺陷检测方法的模型结构中,反转残差模块阶段包括至少一个反转残差模块,反转残差模块阶段用于特征提取并降低特征提取时数据处理量,感受野对齐模块用于提高低级特征(也就是输入特征)的感受野,从而提高低级特征的准确度,连接层可以实现识别特征的分类和位置,头部分割层用于计算特征中属于不同种类的概率分布情况。
在本发明的缺陷检测方法的模型结构中,主要使用反转残差模块作为主干的组成
模块,传统残差模块以一个高通道数的特征向量作为输入,通过一个的卷积核将高通
道特征压缩,再使用的卷积核进行计算,最后使用的卷积核映射回高通道特征,
而本发明的反转残差模块阶段则相反,以低通道数特征为输入,先将该输入扩张到高通道
数获取更多特征然后再压缩回低通道,因为高通道仅在每个模块的卷积计算处使用,
而且相关技术的数据库中对卷积计算有优化,例如Nvidia的cuDNN库(用于深度神经
网络的图形处理器加速库),因此本发明的缺陷检测方法采用的网络具有参数量少、计算快
的特点,搭配压缩解压模块来强调不同通道的重要性,可以提升最终检测效果。此外,在缺
陷检测方法的网络中的部分激活函数被更换成了hard-swish,该激活函数具有更好的非线
性,该函数及其导数如下:
为了能提高小尺寸物体的检测效果,在主干网络的第三、四、五个下采样阶段(即第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段),将输出特征依次送入第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块进行处理。
在本发明的一个实施例中,第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块的基础单元结构相同,其中,如图3所示,第一感受野对齐模块包括:第二连接层和依次串联的第一增强单元、第一卷积单元、第二增强单元、第三增强单元、第二卷积单元、第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元,第二连接层的输入端分别与第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元的输出相连,第二连接层的输出端作为第一感受野对齐模块的输出端。
在本发明的一个实施例中,第一至第六卷积单元结构相同,为3x3卷积核。
在本发明的一个实施例中,第一增强单元、第二增强单元和第三增强单元的结构相同,如图4所示,第一增强单元包括:通道拆分单元、3*3卷积核、第三连接层和1*1卷积核,其中,通道拆分单元用于将输入数据在通道维度平分为第一部分和第二部分;3*3卷积核用于对第一部分的输入数据进行3*3卷积处理;第三连接层用于对第二部分的输入数据和进行3*3卷积处理后的第一部分的输入数据进行连接操作;1*1卷积核用于对第三连接层的输出进行1*1卷积处理。
具体地,如图3所示,图3中的数字,即数字64、32、16分别对应层输出特征的通道数,最终将最后四层输出的特征进行concat连接并作为最终输出。本发明中的感受野对齐模块中通过增强单元可以实现节省运算时间的目的,具体而言,将输入向量在通道维度平分为两部分,一部分使用3x3的卷积核进行卷积处理,另一部分直接与卷积后的前一部分串联,用于保留信息,并紧跟一个通道交叉模块(1*1卷积核)来增强特征之间的联系,这样每次计算量就几乎减半,在提升感受野的同时压缩通道数,从而进一步减少计算量,取最后的64/C 层的输出连接起来作为最后的总的输出,其中,C为目标下采样通道数。
更进一步地,在本发明的一个实施中,如图5所示,分割模型还可以包括:第二头部分割层,第二头部分割层的数量为四个,四个第二头部分割层分别与第三反转残差模块阶段、第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块相连,且第二头部分割层采用通道数为128的卷积核作为中间层。
具体地,本发明实施例中的第二头部分割层与第一头部分割层的区别在于,第一头部分割层使用通道数为1024的卷积核作为中间层,第二头部分割层使用通道数为128的卷积核作为中间层。
根据本发明的一个实施例,可以通过与原图片(标准图片)对应标注计算损失,根据第一头部分割层的损失函数和第二头部分割层的损失函数的和值获取分割模型的损失函数。即根据四个第二头部分割层和第一头部分割层损失函数的和值获取分割模型的损失函数,由此,可以直接将损失传递到网络后面部分计算梯度,从而加速收敛,提高整个网络的训练速度。
具体可以根据以下公式获取其中一个第一头部分割层的损失函数或者第二头部分割层的损失函数:
其中,loss为第一头部分割层的损失函数或者第二头部分割层的损失函数,
为第一预设值,为第二预设值,N为损失数量,为逆序排序的交叉熵损失的第个值,为图片与标签求交叉熵损失后值大于的数量,为多边
形标注结果中的第个实例,为第个实例所对应图片的模型输出结果,为正整数。
S3,获取分割模型的损失函数,并根据损失函数对分割模型做梯度下降并不断更新迭代,以获取前置分割模型。
S4,获取前置分割模型的分割结果,分割结果包括缺陷与过杀或者缺陷与良品。
具体地,根据整个分割模型的损失函数做梯度下降,并不断更新迭代,得到最终的前置分割模型,通过该模型对数据集中的图片进行分割得到分割结果,将这些分割结果与原标签做对比,进一步将分割结果分为缺陷与过杀(良品)两类,原标签为标准标签,可以提前预存。
具体地,可以通过获取分割结果中单个缺陷所占像素数量的最大值,即最大
的缺陷所占的像素数量,并将分割结果标准化为该长度,不足该长度部分补0,然后将标准
化后的数据与其标签(缺陷或者过检)送入二分类支持向量机进行训练,以获取最终的缺陷
检测模型。
根据本发明的一个实施例,根据以下公式获取支持向量机的核函数:
S6,获取工业现场工件图片并送入训练后的缺陷检测模型,以获取缺陷检测结果。
具体地,将训练后的缺陷检测模型布署到现场流水线机台上的计算机中,通过光学相机获取工业现场工件图片,并将其送入计算机中的训练后的缺陷检测模型,通过该模型计算获得检测结果。如果预测结果有缺陷,则将对应工件送入缺陷品物料盒;如果预测结果没有缺陷,则将对应工件送入良品物料盒。
综上所述,本发明的工业质检中的缺陷检测方法,主干网络采用反转残差模块搭配感受野对齐模块,反转残差模块具有参数量少、计算快的特点,从而可以提升最终检测效率,感受野对齐模块可以解决感受野过小会导致的类别分类不准确问题,同时并不会增加太多计算负担,本发明还将语义分割与支持向量机相结合,解决了语义分割网络直接用于缺陷检测时容易过检的问题。
与上述的工业质检中的缺陷检测方法相对应,本发明还提出一种工业质检中的缺陷检测装置。由于本发明的装置实施例是与上述的方法实施例相对应,对于装置实施例中未披露的细节可参照上述的方法实施例,本发明中不再进行赘述。
图6是根据本发明一个实施例的工业质检中的缺陷检测装置的方框示意图,如图6所示,该装置包括:第一获取模块1、分割模型2、第一训练模块3、第二获取模块4、第二训练模块5和检测模块6。
其中,第一获取模块1用于获取数据集,将数据集的缺陷进行多边形标注后分为训
练集和测试集;分割模型2用于将训练集进行语义分割,其中,分割模型2包括反转残差模块
阶段和感受野对齐模块;第一训练模块3用于获取分割模型的损失函数,并根据损失函数对
分割模型做梯度下降并不断更新迭代,以获取前置分割模型;第二获取模块4用于获取前置
分割模型的分割结果,分割结果包括缺陷与过杀;第二训练模块5用于获取分割结果中缺陷
所占像素数量的最大值,并根据缺陷所占像素数量的最大值将所有分割结果标准
化后送入二分类支持向量机进行训练,以获取训练后的缺陷检测模型;检测模块6用于获取
工业现场工件图片并送入训练后的缺陷检测模型,以获取缺陷检测结果。
根据本发明的一个实施例,分割模型2包括:依次串联的第一反转残差模块阶段、第二反转残差模块阶段、第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段;第一感受野对齐模块,第一感受野对齐模块的输入端与第三反转残差模块阶段的输出端相连;第二感受野对齐模块,第二感受野对齐模块的输入端与第四反转残差模块阶段的输出端相连;第三感受野对齐模块,第三感受野对齐模块的输入端与第五反转残差模块阶段的输出端相连;第一连接层,第一连接层的输入端分别与第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块的输出端相连;第一头部分割层,第一头部分割层的输入端与第一连接层的输出端相连,第一头部分割层包括中间层和上采样模块,且第一头部分割层的上采样模块为通道数为1024的卷积核。
根据本发明的一个实施例,第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块的基础单元结构相同,其中,第一感受野对齐模块包括:第二连接层和依次串联的第一增强单元、第一卷积单元、第二增强单元、第三增强单元、第二卷积单元、第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元,第二连接层的输入端分别与第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元的输出相连,第二连接层的输出端作为第一感受野对齐模块的输出端,其中,第一增强单元、第二增强单元和第三增强单元的结构相同,第一增强单元包括:通道拆分单元,通道拆分单元用于将输入数据在通道维度平分为第一部分和第二部分;3*3卷积核,3*3卷积核用于对第一部分的输入数据进行3*3卷积处理;第三连接层,第三连接层用于对第二部分的输入数据和进行3*3卷积处理后的第一部分的输入数据进行连接操作;1*1卷积核,1*1卷积核用于对第三连接层的输出进行1*1卷积处理。
根据本发明的一个实施例,分割模型2还包括:第二头部分割层,第二头部分割层的数量为四个,四个第二头部分割层分别与第三反转残差模块阶段、第一感受野对齐模块、第二感受野对齐模块和第三感受野对齐模块相连,且第二头部分割层采用通道数为128的卷积核作为中间层。
根据本发明的一个实施例,根据第一头部分割层的损失函数和第二头部分割层的损失函数的和值获取分割模型的损失函数。
根据本发明的一个实施例,根据以下公式获取第一头部分割层的损失函数或者第二头部分割层的损失函数:
其中,loss为第一头部分割层的损失函数或者第二头部分割层的损失函数,
为第一预设值,为第二预设值,N为损失数量,为逆序排序的交叉熵损失的第个值,为图片与标签求交叉熵损失后值大于的数量,为多边
形标注结果中的第个实例,为第个实例所对应图片的模型输出结果,为正整数。
根据本发明的一个实施例,根据以下公式获取支持向量机的核函数:
综上所述,根据本发明实施例的工业质检中的缺陷检测装置,主干网络采用反转残差模块搭配感受野对齐模块,反转残差模块具有参数量少、计算快的特点,从而可以提升最终检测效率,感受野对齐模块可以解决感受野过小会导致的类别分类不准确问题,同时并不会增加太多计算负担,本发明还将语义分割与支持向量机相结合,解决了语义分割网络直接用于缺陷检测时容易过检的问题。
在本发明的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必针对相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、 “示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (8)
1.一种工业质检中的缺陷检测方法,其特征在于,包括以下步骤:
获取数据集,将所述数据集的缺陷进行多边形标注后分为训练集和测试集;
将所述训练集输入分割模型以进行语义分割,其中,所述分割模型包括反转残差模块阶段和感受野对齐模块;
获取所述分割模型的损失函数,并根据所述损失函数对所述分割模型做梯度下降并不断更新迭代,以获取前置分割模型;
获取前置分割模型的分割结果,所述分割结果包括缺陷与过杀或者缺陷与良品;
获取工业现场工件图片并送入所述训练后的缺陷检测模型,以获取缺陷检测结果;
其中,所述分割模型包括:
依次串联的第一反转残差模块阶段、第二反转残差模块阶段、第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段;
第一感受野对齐模块,所述第一感受野对齐模块的输入端与所述第三反转残差模块阶段的输出端相连;
第二感受野对齐模块,所述第二感受野对齐模块的输入端与所述第四反转残差模块阶段的输出端相连;
第三感受野对齐模块,所述第三感受野对齐模块的输入端与所述第五反转残差模块阶段的输出端相连;
第一连接层,所述第一连接层的输入端分别与所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的输出端相连;
第一头部分割层,所述第一头部分割层的输入端与所述第一连接层的输出端相连,所述第一头部分割层包括中间层和上采样模块,且所述第一头部分割层的上采样模块为通道数为1024的卷积核。
2.根据权利要求1所述的工业质检中的缺陷检测方法,其特征在于,所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的结构相同,其中,所述第一感受野对齐模块包括:第二连接层和依次串联的第一增强单元、第一卷积单元、第二增强单元、第三增强单元、第二卷积单元、第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元,所述第二连接层的输入端分别与所述第三卷积单元、所述第四卷积单元、所述第五卷积单元和所述第六卷积单元的输出端相连,所述第二连接层的输出端作为所述第一感受野对齐模块的输出端,其中,
所述第一增强单元、所述第二增强单元和所述第三增强单元的结构相同,所述第一增强单元包括:
通道拆分单元,所述通道拆分单元用于将输入数据在通道维度平分为第一部分和第二部分;
3*3卷积核,所述3*3卷积核用于对第一部分的输入数据进行3*3卷积处理;
第三连接层,所述第三连接层用于对第二部分的输入数据和进行3*3卷积处理后的第一部分的输入数据进行连接操作;
1*1卷积核,所述1*1卷积核用于对所述第三连接层的输出进行1*1卷积处理。
3.根据权利要求2所述的工业质检中的缺陷检测方法,其特征在于,所述分割模型还包括:
第二头部分割层,所述第二头部分割层的数量为四个,四个所述第二头部分割层分别与所述第三反转残差模块阶段、所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块相连,且所述第二头部分割层采用通道数为128的卷积核作为中间层。
4.根据权利要求3所述的工业质检中的缺陷检测方法,其特征在于,根据所述第一头部分割层的损失函数和所述第二头部分割层的损失函数的和值获取所述分割模型的损失函数。
7.一种工业质检中的缺陷检测装置,其特征在于,包括:
第一获取模块,所述第一获取模块用于获取数据集,将所述数据集的缺陷进行多边形标注后分为训练集和测试集;
分割模型,所述分割模型用于将所述训练集进行语义分割,其中,所述分割模型包括反转残差模块阶段和感受野对齐模块;
第一训练模块,所述第一训练模块用于获取所述分割模型的损失函数,并根据所述损失函数对所述分割模型做梯度下降并不断更新迭代,以获取前置分割模型;
第二获取模块,所述第二获取模块用于获取前置分割模型的分割结果,所述分割结果包括缺陷与过杀;
检测模块,所述检测模块用于获取工业现场工件图片并送入所述训练后的缺陷检测模型,以获取缺陷检测结果;
其中,所述分割模型包括:
依次串联的第一反转残差模块阶段、第二反转残差模块阶段、第三反转残差模块阶段、第四反转残差模块阶段和第五反转残差模块阶段;
第一感受野对齐模块,所述第一感受野对齐模块的输入端与所述第三反转残差模块阶段的输出端相连;
第二感受野对齐模块,所述第二感受野对齐模块的输入端与所述第四反转残差模块阶段的输出端相连;
第三感受野对齐模块,所述第三感受野对齐模块的输入端与所述第五反转残差模块阶段的输出端相连;
第一连接层,所述第一连接层的输入端分别与所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的输出端相连;
第一头部分割层,所述第一头部分割层的输入端与所述第一连接层的输出端相连,所述第一头部分割层包括中间层和上采样模块,且所述第一头部分割层的上采样模块为通道数为1024的卷积核。
8.根据权利要求7所述的工业质检中的缺陷检测装置,其特征在于,所述第一感受野对齐模块、所述第二感受野对齐模块和所述第三感受野对齐模块的结构相同,其中,所述第一感受野对齐模块包括:第二连接层和依次串联的第一增强单元、第一卷积单元、第二增强单元、第三增强单元、第二卷积单元、第三卷积单元、第四卷积单元、第五卷积单元和第六卷积单元,所述第二连接层的输入端分别与所述第三卷积单元、所述第四卷积单元、所述第五卷积单元和所述第六卷积单元的输出端相连,所述第二连接层的输出端作为所述第一感受野对齐模块的输出端,其中,
第一增强单元、所述第二增强单元和所述第三增强单元的结构相同,所述第一增强单元包括:
通道拆分单元,所述通道拆分单元用于将输入数据在通道维度平分为第一部分和第二部分;
3*3卷积核,所述3*3卷积核用于对第一部分的输入数据进行3*3卷积处理;
第三连接层,所述第三连接层用于对第二部分的输入数据和进行3*3卷积处理后的第一部分的输入数据进行连接操作;
1*1卷积核,所述1*1卷积核用于对所述第三连接层的输出进行1*1卷积处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111323065.6A CN113763384B (zh) | 2021-11-10 | 2021-11-10 | 工业质检中的缺陷检测方法、缺陷检测装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111323065.6A CN113763384B (zh) | 2021-11-10 | 2021-11-10 | 工业质检中的缺陷检测方法、缺陷检测装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113763384A CN113763384A (zh) | 2021-12-07 |
CN113763384B true CN113763384B (zh) | 2022-03-15 |
Family
ID=78784800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111323065.6A Active CN113763384B (zh) | 2021-11-10 | 2021-11-10 | 工业质检中的缺陷检测方法、缺陷检测装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113763384B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114255213A (zh) * | 2021-12-08 | 2022-03-29 | 四川启睿克科技有限公司 | 基于语义对齐的缺陷检测方法及系统 |
CN113888542B (zh) * | 2021-12-08 | 2022-03-22 | 常州微亿智造科技有限公司 | 产品缺陷检测方法和装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110059758B (zh) * | 2019-04-24 | 2020-07-10 | 海南长光卫星信息技术有限公司 | 一种基于语义分割的遥感影像养殖塘检测方法 |
CN110782462B (zh) * | 2019-10-30 | 2022-08-09 | 浙江科技学院 | 一种基于双流特征融合的语义分割方法 |
CN112233059B (zh) * | 2020-08-13 | 2024-07-16 | 浙江理工大学 | 基于分割+决策的二阶段残差注意力网络的导光板缺陷检测方法 |
CN112906707B (zh) * | 2021-05-10 | 2021-07-09 | 武汉科技大学 | 一种表面缺陷图像的语义分割方法、装置及计算机设备 |
-
2021
- 2021-11-10 CN CN202111323065.6A patent/CN113763384B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113763384A (zh) | 2021-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111027547B (zh) | 一种针对二维图像中的多尺度多形态目标的自动检测方法 | |
CN112348787B (zh) | 物体缺陷检测模型的训练方法、物体缺陷检测方法及装置 | |
WO2023077404A1 (zh) | 缺陷检测方法、装置和系统 | |
KR102166458B1 (ko) | 인공신경망 기반의 영상 분할을 이용한 불량 검출 방법 및 불량 검출 장치 | |
US10853932B2 (en) | Method of defect detection on a specimen and system thereof | |
CN111402226A (zh) | 一种基于级联卷积神经网络的表面疵点检测方法 | |
CN113763384B (zh) | 工业质检中的缺陷检测方法、缺陷检测装置 | |
CN111681273A (zh) | 图像分割方法、装置、电子设备及可读存储介质 | |
CN106355579A (zh) | 烟条表面褶皱的缺陷检测方法 | |
CN116012291A (zh) | 工业零件图像缺陷检测方法及系统、电子设备和存储介质 | |
CN112001901A (zh) | 基于卷积神经网络的苹果缺陷检测方法及系统 | |
CN113469950A (zh) | 一种基于深度学习的复合绝缘子异常发热缺陷的诊断方法 | |
CN112819796A (zh) | 烟丝异物识别方法及设备 | |
CN112215217B (zh) | 模拟医师阅片的数字图像识别方法及装置 | |
CN109584206B (zh) | 零件表面瑕疵检测中神经网络的训练样本的合成方法 | |
CN117011222A (zh) | 一种电缆缓冲层缺陷检测方法、装置、存储介质和设备 | |
CN112200766A (zh) | 基于区域关联神经网络的工业产品表面缺陷检测方法 | |
CN116109627B (zh) | 基于迁移学习和小样本学习缺陷检测方法、装置及介质 | |
CN111179278B (zh) | 一种图像检测的方法、装置、设备和存储介质 | |
Menon et al. | Digital grading and sorting of fruits | |
CN117173550A (zh) | 合成孔径声纳图像水下小目标检测方法及系统 | |
CN110033443B (zh) | 一种显示面板缺陷检测方法 | |
CN114792300B (zh) | 一种基于多尺度注意力x光断针检测方法 | |
CN113947567B (zh) | 基于多任务学习的缺陷检测方法 | |
CN115601675A (zh) | 一种基于Swin-transformer与yolov5模型集成的手术器械清点方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |