CN110610475B - 一种深度卷积神经网络的视觉缺陷检测方法 - Google Patents
一种深度卷积神经网络的视觉缺陷检测方法 Download PDFInfo
- Publication number
- CN110610475B CN110610475B CN201910607197.8A CN201910607197A CN110610475B CN 110610475 B CN110610475 B CN 110610475B CN 201910607197 A CN201910607197 A CN 201910607197A CN 110610475 B CN110610475 B CN 110610475B
- Authority
- CN
- China
- Prior art keywords
- layer
- neural network
- decoupling
- sample set
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
Abstract
本发明为一种具有结构解耦功能深度卷积神经网络的视觉缺陷检测方法,该方法用于光伏电池片表面缺陷检测,创造性的通过将SEF的结构解耦功能集成到CNN中,同时保留公共卷积层的特征提取能力,加强了模型对复杂裂纹缺陷特征的提取的有效性和准确性,实现了特征与背景的去耦合;对比于VGG16和GO‑CNN表面缺陷检测方法,设计的结构解耦神经网络模型在三个指标(精度、召回率、F‑测度)上都提升3%左右,而且可以有效的解决电池片表面背景纹理复杂、裂纹缺陷特征多样、形状随机的问题,缺陷识别的准确率达到99%。
Description
技术领域
本发明涉及光伏电池缺陷检测技术领域,主要涉及一种基于结构解耦功能的深度卷积神经网络的视觉缺陷检测方法。
背景技术
目前基于图像的智能视觉检测方法已经成为太阳能电池表面质量控制的重要技术组成部分,做好太阳能表面质量检测,不仅可以提升电池组件的使用寿命,也可以提高太阳能电池的发电效率。
在太阳能电池的生产过程中,热应力,锯损伤蚀刻,蚀刻时间,运输和处理过程中产生的物理应力等不可避免地导致太阳能电池中的裂缝缺陷。太阳能电池中的裂纹缺陷不仅会降低电池效率,还会降低可靠性。因此,早期发现太阳能电池中的裂缝对于避免有缺陷的太阳能电池进入光伏模块的下一生产步骤是至关重要的。有效的裂纹缺陷检测在太阳能电池的智能制造过程中变得越来越重要,可以显著提高制造生产线中光伏模块的质量。
在过去的十年中,已经提出了许多方法来检查各种复杂背景下的裂缝。对于太阳能电池的裂缝检测,Tsai等人(D.M.Tsai,C.C.Chang,S.M.Chao,“Micro-crack inspectionin heterogeneously textured solar wafers using anisotropic diffusion,”Image.Vis.Comput.,vol.28,no.3,pp.491-501,2010.)应用各向异性扩散方案,利用灰度和梯度特征来解决异质纹理问题和微裂纹与多粒度背景之间的相似性。然而,这些方法仅显示其对线形裂纹的有效性,并且仅在非常有限的数据集上可以实现,其表达大量图像的特征的能力弱,适应性方面存在明显的缺陷。因此,一些具有强大特征提取能力的机器学习方法正在受到越来越多的关注。
最近,为了更全面地表现目标特征,已经采用了一些深度学习方法来实现裂纹缺陷检测的优异性能,陈等人(F.C.Chen,J.Mohammad R,“NB-CNN:Deep Learning-BasedCrack Detection Using Convolutional Neural Network and Naive Bayes DataFusion,”IEEE Trans.Ind.Electron.,vol.65,no.5,pp.4392-4400,2018)提出了一个基于CNN和Naive Bayes数据融合方案的NB-CNN框架,用于核电站视频帧的裂缝检测,并达到98.3%的命中率。然而,该方法主要解决了微小裂缝和噪声模式的挑战性问题,没有涉及复杂结构的裂缝。
任等人(R.Ren,T.Hung,K.C.Tan,“A Generic Deep-Learning-Based Approachfor Automated Surface Inspection,”IEEE Trans.Cybern.,vol.48,no.3,pp.929-940,Mar.2018.)提出了一种自动表面检测(ASI)的通用方法,它实现了图像分类和缺陷分割。首先,构建基于图像补丁特征的补丁分类器。然后,该方法基于贴片特征生成缺陷热图,并通过对热图进行阈值处理和分割来预测缺陷区域。但是,该方法仍然仅适用于小数据集,仅实现了均匀纹理中的表面缺陷的检查。
关于如何在复杂背景纹理中实现目标检查的结构保存和复杂背景抑制的CNN模型,现有技术中并没有涉及,因此我们提出了一种新颖的深度学习框架,它具有结构解耦功能,融合了可操纵的证据过滤器(SEF)进行裂缝检测。结构和纹理背景实现了解耦,并且可以从非均匀纹理背景中正确地检测各种类型的裂缝。
因此,本发明提出一种具有结构解耦功能的新颖深度学习框架,解决太阳能电池表面非均匀复杂纹理背景下的复杂裂纹缺陷检测问题,提高光伏电池产品的整体质量。
发明内容
为了解决太阳能电池表面非均匀复杂纹理背景下的复杂裂纹缺陷检测问题,本发明提供了一种具有结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,该方法用于光伏电池片表面缺陷检测,能对太阳能电池表面这种缺陷形状随机、背景复杂的缺陷进行检测,且具有更高的准确性和适应性,缺陷识别的准确率达到99%。
本方法包括下述步骤:
第一步,图像预处理:
1-1图像获取:利用红外相机采集图像,去除背景后获得近红外图片,该红外图片作为原始数据集;
1-2图像切割:在步骤1-1的基础上,利用滑动分割法将步骤1-1获得红外图片的原始数据集分割成N个小图片,所述N个小图片作为目标图像;
1-3测试样本集制作:对步骤1-2获得的N个所述目标图像进行人工分选,并添加缺陷种类标签,从中随机抽取20%的所述目标图像作为测试样本集;
1-4训练样本集、验证样本集制作:在步骤1-3的基础上,提取剩余的80%所述目标图像的红外信息图片,并将所有图片尺寸量化为统一的尺寸,从而分别得到统一尺度的训练样本集和验证样本集;
第二步,结构解耦神经网络模型搭建:
2-1结构解耦特征提取层设计:
结构解耦神经网络中第一卷积层的内核由SEF和公共参数的参数生成,然后通过连接最后一维中所有计算出的卷积核来获得完整的卷积核,通过这种方式将SEF的结构解耦功能集成到CNN中,同时保留公共卷积层的特征提取能力,所述公共卷积层内核用作结构解耦神经网络中第一卷积层的权重,称所述第一卷积层为“SD-Conv”,在所述“SD-Conv”层中,输入所述步骤1-4得到的所述训练样本集以及所述验证样本集数据,经过所述“SD-Conv”层计算,再依次进行正则化层和最大池化层运算,得到输出结果A;
结构解耦神经网络第二层包括两个卷积层和一个最大池化层,结构解耦神经网络第一层“SD-Conv”的输出结果A作为结构解耦神经网络第二层的输入,连续经过两个卷积层和一个最大池化层,得到输出结果B;
结构解耦神经网络第三层包括两个卷积层和一个最大池化层:结构解耦神经网络第二层得到的输出结果B经过所述结构解耦神经网络第三层中的卷积层和最大池化层计算后,得到输出结果特征;
2-2分类层设计:
将步骤2-1得到的所述输出结果特征,作为本层的输入,输入人工全连接神经网络层,经过标准化计算后,输入平均正则化层,得到输出结果C,所述输出结果C通过Softmax分类器进行分类得到分类结果;
2-3分割层设计:
将步骤2-1得到的所述输出结果特征,作为本层的输入,输入到类激活映射层,得到响应裂纹热力图,所述响应裂纹热力图通过分割器进行分割得到分割结果;
完成结构解耦神经网络模型“SD-CNN”搭建;
第三步,图像特征提取及分类分割:
3-1参数初始化:
初始化所有权重值、偏置值、批量归一化尺度因子值,并将初始化的参数数据输入步骤2-4获得的所述结构解耦神经网络模型,设置网络的初始学习率;
3-2开始训练:
将步骤1-4中获取的所述训练样本集输入步骤3-1初始化参数后的结构解耦神经网络,得到红外图像的输出特征值矩阵;
3-3更新参数:
将步骤1-4中获取的验证样本集输入步骤3-2训练后的结构解耦神经网络,根据步骤3-2提取到的所述红外图像的输出特征值矩阵,将所述验证样本集图像特征载入softmax分类器中进行分类,将所述步骤2-2获得的分类结果与标签信息进行对比,返回错误率error和损失函数loss到步骤3-2训练后的结构解耦神经网络,使用梯度下降算法将梯度损失传递到所述步骤2-4获取的结构解耦神经网络模型中,更新可训练参数;
3-4输出模型:重复训练步骤3-3,当损失函数loss不大于0.005时且周期数高于50时,停止训练,得到最终结构解耦神经网络模型;
3-5测试分类分割效果:将步骤1-3获取的测试样本集数据输入步骤3-4中获得的最终结构解耦神经网络,得到预测的类别与缺陷的区域;
3-6结束光伏电池裂纹缺陷检测。
具体的,所述步骤2-1中对于所述SD-Conv层中的SEF内核第一层中的SEF内核采用如下方式进行计算:
将内核重新转换为16个大小为7×7×3×16的4D内核;
将SEF内核和16个大小为7×7×3×16公共内核连接起来生成32个大小为7×7×3×32的4D卷积核。
具体的,所述步骤3-3中的标签信息来自步骤1-3经人工分选并添加缺陷种类后得到的标签信息,所述标签信息与图片类别一一对应,所述标签信息为数字或者字母。
具体的,所述步骤2-2分类层中的人工全连接神经网络层的深度为2,宽度为512。
具体的,该方法依据的平台为Windows X64,使用TensorFlow编程实现,训练使用的电脑CPU为酷睿i7系列,内存为32GB,显卡为双GTX1080显卡。
与现有技术相比,本发明的有益效果是:
1、对于传统人工提取特征的机器学习方法,仅在非常有限的数据集上实现,并且表达大量图像的特征的能力弱,在适应性方面存在明显的缺陷。而EL图像面临各种裂纹与非均匀织构背景之间耦合的问题,如裂纹与背景之间的低对比度,以及随机分布的晶粒等淹没的裂纹,使分类和分割变得困难。
2、而针对太阳能电池片裂纹形态多样,背景干扰严重的特点,第二步设计的结构解耦神经网络模型,该模型融合了可操纵证据滤波器的结构解耦功能,增强了其特征提取能力,从而使背景和各种形态裂缝结构信息的解耦成为现实,提高缺陷的分类和分割的性能,满足了实时检测的要求。
3、通过抑制非均匀纹理背景和增强裂缝结构,提供更好的裂缝结构突出性能,强化模型对非均匀纹理背景图像信息特征的提取能力,构建出结构解耦神经网络模型。
4、相对比于普通CNN和GO-CNN深度学习表面缺陷检测方法,设计的结构解耦神经网络模型在三个指标(精度、召回率、F-测度)上都提升3%左右。而且可以有效的解决电池片表面背景纹理复杂、裂纹缺陷特征多样、形状随机的问题,强化了模型的提取能力,提高了缺陷与背景特征的分离能力,具有更高的准确性和更强的适应性,且缺陷识别的准确率达到99%。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明检测方法的流程图,
图2为实施例1的结构解耦神经网络模型结构示意图。
图3为实施例1的结构解耦神经网络模型的第一层细节图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参照图1-3所示,为了解决太阳能电池表面非均匀复杂纹理背景下的复杂裂纹缺陷检测问题,本发明提供了一种具有结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,该方法用于光伏电池片表面缺陷检测,能对太阳能电池表面这种缺陷形状随机、背景复杂的缺陷进行检测,且具有更高的准确性和适应性,缺陷识别的准确率达到99%。
本方法包括下述步骤:
第一步,图像预处理:
1-1图像获取:利用红外相机采集图像,去除背景后获得近红外图片,该红外图片作为原始数据集;
1-2图像切割:在步骤1-1的基础上,利用滑动分割法将步骤1-1获得红外图片的原始数据集分割成N个小图片,所述N个小图片作为目标图像;
1-3测试样本集制作:对步骤1-2获得的N个所述目标图像进行人工分选,并添加缺陷种类标签,从中随机抽取20%的所述目标图像作为测试样本集;
1-4训练样本集、验证样本集制作:在步骤1-3的基础上,提取剩余的80%所述目标图像的红外信息图片,并将所有图片尺寸量化为统一的尺寸,从而分别得到统一尺度的训练样本集和验证样本集;
第二步,结构解耦神经网络模型搭建:
2-1结构解耦特征提取层设计:
结构解耦神经网络中第一卷积层的内核由SEF和公共参数的参数生成,然后通过连接最后一维中所有计算出的卷积核来获得完整的卷积核,通过这种方式将SEF的结构解耦功能集成到CNN中,同时保留公共卷积层的特征提取能力,所述公共卷积层内核用作结构解耦神经网络中第一卷积层的权重,称所述第一卷积层为“SD-Conv”,在所述“SD-Conv”层中,输入所述步骤1-4得到的所述训练样本集以及所述验证样本集数据,经过所述“SD-Conv”层计算,再依次进行正则化层和最大池化层运算,得到输出结果A;
结构解耦神经网络第二层包括两个卷积层和一个最大池化层,结构解耦神经网络第一层“SD-Conv”的输出结果A作为结构解耦神经网络第二层的输入,连续经过两个卷积层和一个最大池化层,得到输出结果B;
结构解耦神经网络第三层包括两个卷积层和一个最大池化层:结构解耦神经网络第二层得到的输出结果B经过所述结构解耦神经网络第三层中的卷积层和最大池化层计算后,得到输出结果特征;
2-2分类层设计:
将步骤2-1得到的所述输出结果特征,作为本层的输入,输入人工全连接神经网络层,经过标准化计算后,输入平均正则化层,得到输出结果C,所述输出结果C通过Softmax分类器进行分类得到分类结果;
2-3分割层设计:
将步骤2-1得到的所述输出结果特征,作为本层的输入,输入到类激活映射层,得到响应裂纹热力图,所述响应裂纹热力图通过分割器进行分割得到分割结果;
完成结构解耦神经网络模型“SD-CNN”搭建;
第三步,图像特征提取及分类分割:
3-1参数初始化:
初始化所有权重值、偏置值、批量归一化尺度因子值,并将初始化的参数数据输入步骤2-4获得的所述结构解耦神经网络模型,设置网络的初始学习率;
3-2开始训练:
将步骤1-4中获取的所述训练样本集输入步骤3-1初始化参数后的结构解耦神经网络,得到红外图像的输出特征值矩阵;
3-3更新参数:
将步骤1-4中获取的验证样本集输入步骤3-2训练后的结构解耦神经网络,根据步骤3-2提取到的所述红外图像的输出特征值矩阵,将所述验证样本集图像特征载入softmax分类器中进行分类,将所述步骤2-2获得的分类结果与标签信息进行对比,返回错误率error和损失函数loss到步骤3-2训练后的结构解耦神经网络,使用梯度下降算法将梯度损失传递到所述步骤2-4获取的结构解耦神经网络模型中,更新可训练参数;
3-4输出模型:重复训练步骤3-3,当损失函数loss不大于0.005时且周期数高于50时,停止训练,得到最终结构解耦神经网络模型;
3-5测试分类分割效果:将步骤1-3获取的测试样本集数据输入步骤3-4中获得的最终结构解耦神经网络,得到预测的类别与缺陷的区域;
3-6结束光伏电池裂纹缺陷检测。
具体的,所述步骤2-1中对于所述SD-Conv层中的SEF内核第一层中的SEF内核采用如下方式进行计算:
将内核重新转换为16个大小为7×7×3×16的4D内核;
将SEF内核和16个大小为7×7×3×16公共内核连接起来生成32个大小为7×7×3×32的4D卷积核。
具体的,所述步骤3-3中的标签信息来自步骤1-3经人工分选并添加缺陷种类后得到的标签信息,所述标签信息与图片类别一一对应,所述标签信息为数字或者字母。
具体的,所述步骤2-2分类层中的人工全连接神经网络层的深度为2,宽度为512。
具体的,该方法依据的平台为Windows X64,使用TensorFlow编程实现,训练使用的电脑CPU为酷睿i7系列,内存为32GB,显卡为双GTX1080显卡。
具体实施例
本实施例基于多光谱深度卷积神经网络的视觉缺陷检测方法,该方法包括三个步骤单元:
第一步,图像预处理:
1-1图像获取:利用红外相机采集图像,去除背景后获得近红外图片,该红外图片作为原始数据集;
1-2图像切割:在步骤1-1的基础上,利用滑动分割法将步骤1-1的原始数据集分割成小图片,该小图片作为目标图像;
相机拍摄的原始EL图像的大小高度和宽度为1024×1024像素。在模型训练过程中,为了保证训练速度,减轻模型训练的压力,保留缺陷信息,需要对原始图像进行分块。我们可以从每个高分辨率图像中提取64个分辨率为128×128的小块。
1-3测试样本集制作:对步骤1-2的目标图像进行人工分选,并添加缺陷种类标签,从中随机抽取20%的目标图像作为测试样本集;
人工分选为目标添加类别标签,深度学习通过学习目标标签和目标图像之间的联系,得到目标图像的特征,利用学习到的特征去检测未添加标签的图片,判定其检测的准确率,从而评估模型性能。
1-4训练样本集、验证样本集制作:在步骤1-3的基础上,提取剩余目标图像的红外信息图片,得到统一尺度的训练样本集、验证样本集;
第二步,结构解耦神经网络模型搭建:
2-1结构解耦特征提取层设计:结构解耦神经网络中第一卷积层的内核由SEF和公共参数的参数生成。然后通过连接最后一维中所有计算出的卷积核来获得完整的卷积核。通过这种方式,我们可以将SEF的结构解耦功能集成到CNN中,同时保留公共卷积层的特征提取能力,该卷积内核用作结构解耦神经网络中第一个卷积层的权重,我们称第一层为“SD-Conv”。在这一层中,输入数据经过“SD-Conv”后,再依次进行正则化层和最大池化层运算,得到输出结果A;
结构解耦神经网络第二层包括两个卷积层和一个最大池化层,结构解耦神经网络第一层的输出作为结构解耦神经网络第二层的输入,连续经过两个卷积层和一个最大池化层,得到输出结果B;
结构解耦神经网络第三层包括两个卷积层和一个最大池化层:经过结构解耦神经网络第三层中的卷积层和最大池化层输出结果特征;
2-2分类层设计:将步骤2-1得到的输出结果特征,作为本层的输入,输入人工全连接神经网络层,经过标准化计算后,输入平均正则化层,得到输出结果;该输出结果通过Softmax分类器进行分类得到分类结果;
2-3分割层设计:将步骤2-1得到的输出结果特征,作为本层的输入,输入到类激活映射层,得到响应裂纹热力图,该热力图通过分割器进行分割得到分割结果;至此完成结构解耦神经网络模型(简称SD-CNN)的搭建;
第三步,图像特征提取及分类分割:
3-1参数初始化:初始化所有权重值、偏置值、批量归一化尺度因子值,并将初始化的参数数据输入构解耦神经网络,设置网络的初始学习率;
3-2开始训练:将训练样本集输入步骤3-1初始化参数后的结构解耦神经网络,得到红外图像的输出特征值矩阵;
3-3更新参数:将验证样本集输入步骤3-2训练后的结构解耦神经网络,根据步骤3-2提取到的输出特征值矩阵,将验证样本集图像特征载入softmax分类器中进行分类,将分类结果与标签进行对比,返回错误率error和损失函数loss到步骤3-2训练后的结构解耦神经网络,并使用梯度下降算法将梯度损失传递到每个卷积核的参数,更新可训练参数;
3-4输出模型:重复训练步骤3-3,当损失函数loss不大于0.005时且周期数高于50时,停止训练,得到最终的结构解耦神经网络模型;
3-5测试分类分割效果:将测试样本集数据输入最终的结构解耦神经网络,得到预测的类别与缺陷的区域;
3-6结束光伏电池裂纹缺陷检测。
本发明方法中开始训练中,首先初始化权重,在训练过程中权重会不断优化,SD-CNN利用输出与标签之间的差值来反向控制网络权重的变化,利用随机梯度下降(SGD)来求解SD-CNN反向传播的最优值,通过该算法更新可训练参数。
图2是结构解耦卷积神经网络模型示意图,图中:
128x128x3是指结构解耦神经网络模型输入图片的大小;
SD-Conv为生成的解耦解耦卷积层;
Conv为卷积层;
RelU为非线性激活函数;
Pooling为最大池化层,即选择邻域内特征点的最大值作为输出;
FC1024指包含1024个神经元的全连接层;
Dropout是指每次训练时随机让网络的某些隐含层节点失活,在当次训练中不起作用;
Softmax指分类器;
CAM指类激活图,便于分析模型的特征提取能力。
图3是结构解耦神经网络模型的第一层细节图,图中,对于SD-CNN模型第一层中的SEF内核,我们首先设定初始值σ0=1,d0=1,θ∈[-π/2,π/2],步长为π/16,步长为π/6,生成48个大小为7×7的2D内核,然后将内核重新转换为16个大小为7×7×3×16的4D内核,最后,将SEF内核和16个大小为7×7×3×16公共内核连接起来生成32个大小为7×7×3×32的4D卷积核。
对电池片进行人工筛选和分类,最终获得无缺陷图片7380张,缺陷裂纹图片7809张,其中根据裂缝和纹理背景的几何特征将数据集细分为8类。
实验在Windows X64的平台下完成,使用TensorFlow编程实现,训练使用的电脑CPU为酷睿i7系列,内存为32GB,显卡为双GTX1080显卡。结构解耦CNN模型的学习率选为λ=0.0001,训练步数为10000次,Dropout每次训练的全连接层随机失效的神经元比例为50%。
本发明利用精度、召回率和F-度量衡量网络性能:
把精度、召回率和F-度量分别定义为:
其中TP表示真阳性,即标记为有缺陷的图像被正确检测;FP表示假阳性,即标记为良好的图像被错误地检测为有缺陷;FN表示假阴性,即标记为有缺陷的图像被错误的检测为无缺陷;TN表示真阴性,即标记为无缺陷的图像被正确检测为非缺陷。
将本实施例方法的实验结果与其他深度学习模型进行对比分析:
VGG16和GO-CNN在表面缺陷检测领域都有着很好的效果。因此,选择以上两种常用的机器学习方法作为对比实验;选用精度(pression)、召回率(recall)、F-测度(F-measure)三个常用缺陷检测性能指标;
对比实验结果见下表:
从上表可知,SD-CNN相较于VGG16和GO-CNN方法对有无缺陷图片三个实验指标(精度、召回率、F-测度)都提升3%左右,可以达到99%,对太阳能电池表面这种缺陷形状随机、背景复杂的缺陷检测问题,SD-CNN模型具有更高的准确性和适应性。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
Claims (5)
1.一种基于结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,该方法用于光伏电池片表面缺陷检测,其特征在于,包括下述步骤:
第一步,图像预处理:
1-1图像获取:利用红外相机采集图像,去除背景后获得近红外图片,该红外图片作为原始数据集;
1-2图像切割:在步骤1-1的基础上,利用滑动分割法将步骤1-1获得红外图片的原始数据集分割成N个小图片,所述N个小图片作为目标图像;
1-3测试样本集制作:对步骤1-2获得的N个所述目标图像进行人工分选,并添加缺陷种类标签,从中随机抽取20%的所述目标图像作为测试样本集;
1-4训练样本集、验证样本集制作:在步骤1-3的基础上,提取剩余的80%所述目标图像的红外信息图片,并将所有图片尺寸量化为统一的尺寸,从而分别得到统一尺度的训练样本集和验证样本集;
第二步,结构解耦神经网络模型搭建:
2-1结构解耦特征提取层设计:
结构解耦神经网络中第一卷积层的内核由SEF和公共参数的参数生成,然后通过连接最后一维中所有计算出的卷积核来获得完整的卷积核,通过这种方式将SEF的结构解耦功能集成到CNN中,同时保留公共卷积层的特征提取能力,所述公共卷积层内核用作结构解耦神经网络中第一卷积层的权重,称所述第一卷积层为“SD-Conv”,在所述“SD-Conv”层中,输入所述步骤1-4得到的所述统一尺度的训练样本集和验证样本集,经过所述“SD-Conv”层计算,再依次进行正则化层和最大池化层运算,得到输出结果A;
结构解耦神经网络第二层包括两个卷积层和一个最大池化层,结构解耦神经网络第一层“SD-Conv”的输出结果A作为结构解耦神经网络第二层的输入,连续经过两个卷积层和一个最大池化层,得到输出结果B;
结构解耦神经网络第三层包括两个卷积层和一个最大池化层:结构解耦神经网络第二层得到的输出结果B经过所述结构解耦神经网络第三层中的卷积层和最大池化层计算后,得到输出结果特征;
2-2分类层设计:
将步骤2-1得到的所述输出结果特征,作为本层的输入,输入人工全连接神经网络层,经过标准化计算后,输入平均正则化层,得到输出结果C,所述输出结果C通过Softmax分类器进行分类得到分类结果;
2-3分割层设计:
将步骤2-1得到的所述输出结果特征,作为本层的输入,输入到类激活映射层,得到响应裂纹热力图,所述响应裂纹热力图通过分割器进行分割得到分割结果;
完成结构解耦神经网络模型“SD-CNN”搭建;
第三步,图像特征提取及分类分割:
3-1参数初始化:
初始化所有权重值、偏置值、批量归一化尺度因子值,并将初始化的参数数据输入步骤2-3获得的所述结构解耦神经网络模型,设置网络的初始学习率;
3-2开始训练:
将步骤1-4中获取的所述训练样本集输入步骤3-1初始化参数后的结构解耦神经网络,得到红外图像的输出特征值矩阵;
3-3更新参数:
将步骤1-4中获取的验证样本集输入步骤3-2训练后的结构解耦神经网络,根据步骤3-2提取到的所述红外图像的输出特征值矩阵,将所述验证样本集图像特征载入softmax分类器中进行分类,将所述步骤2-2获得的通过Softmax分类器进行分类得到分类结果与标签信息进行对比,返回错误率error和损失函数loss到步骤3-2训练后的结构解耦神经网络,使用梯度下降算法将梯度损失传递到所述步骤2-3获取的结构解耦神经网络模型中,更新可训练参数;
3-4输出模型:重复训练步骤3-3,当损失函数loss不大于0.005时且周期数高于50时,停止训练,得到最终结构解耦神经网络模型;
3-5测试分类分割效果:将步骤1-3获取的测试样本集数据输入步骤3-4中获得的最终结构解耦神经网络,得到预测的类别与缺陷的区域;
3-6结束光伏电池裂纹缺陷检测。
3.根据权利要求1所述的基于结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,其特征在于:所述步骤3-3中的标签信息来自步骤1-3经人工分选并添加缺陷种类后得到的标签信息,所述标签信息与图片类别一一对应,所述标签信息为数字或者字母。
4.根据权利要求1所述的基于结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,其特征在于:所述步骤2-2分类层设计中的人工全连接神经网络层的深度为2,宽度为512。
5.根据权利要求1-4任一项所述的基于结构解耦功能的深度卷积神经网络的视觉缺陷检测方法,其特征在于:该方法依据的平台为Windows X64,使用TensorFlow编程实现,训练使用的电脑CPU为酷睿i7系列,内存为32GB,显卡为双GTX1080显卡。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910607197.8A CN110610475B (zh) | 2019-07-07 | 2019-07-07 | 一种深度卷积神经网络的视觉缺陷检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910607197.8A CN110610475B (zh) | 2019-07-07 | 2019-07-07 | 一种深度卷积神经网络的视觉缺陷检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110610475A CN110610475A (zh) | 2019-12-24 |
CN110610475B true CN110610475B (zh) | 2021-09-03 |
Family
ID=68889729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910607197.8A Active CN110610475B (zh) | 2019-07-07 | 2019-07-07 | 一种深度卷积神经网络的视觉缺陷检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110610475B (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111291814B (zh) * | 2020-02-15 | 2023-06-02 | 河北工业大学 | 基于卷积神经网络与信息熵数据融合策略的裂纹识别算法 |
CN111612747B (zh) * | 2020-04-30 | 2023-10-20 | 湖北煌朝智能自动化装备有限公司 | 产品表面裂缝快速检测方法及检测系统 |
CN112001411B (zh) * | 2020-07-10 | 2022-07-29 | 河海大学 | 一种基于fpn结构的大坝裂缝检测算法 |
CN111967165B (zh) * | 2020-08-28 | 2023-07-21 | 华北电力大学(保定) | 一种分布式光伏系统出力估计方法 |
TWI732683B (zh) * | 2020-09-17 | 2021-07-01 | 翁敏航 | 太陽能發電模組缺陷智慧診斷系統與方法 |
TWI732682B (zh) * | 2020-09-17 | 2021-07-01 | 翁敏航 | 太陽能發電模組失效分析系統與方法 |
TWI777307B (zh) * | 2020-11-20 | 2022-09-11 | 南臺學校財團法人南臺科技大學 | 在太陽能模組影像中以深度學習進行太陽能電池瑕疵辨識的方法、電腦程式及電腦可讀取媒體 |
CN112509046B (zh) * | 2020-12-10 | 2021-09-21 | 电子科技大学 | 一种弱监督的卷积神经网络图像目标定位方法 |
CN113838034B (zh) * | 2021-09-27 | 2023-11-21 | 力度工业智能科技(苏州)有限公司 | 基于机器视觉的糖果包装表面缺陷快速检测方法 |
CN115457611B (zh) * | 2022-10-21 | 2023-04-21 | 中国矿业大学 | 一种基于特征解耦网络的静脉识别方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104680508A (zh) * | 2013-11-29 | 2015-06-03 | 华为技术有限公司 | 卷积神经网络和基于卷积神经网络的目标物体检测方法 |
CN106778464A (zh) * | 2016-11-09 | 2017-05-31 | 深圳市深网视界科技有限公司 | 一种基于深度学习的行人重识别方法和装置 |
CN109409384A (zh) * | 2018-09-30 | 2019-03-01 | 内蒙古科技大学 | 基于细粒度图像的图像识别方法、装置、介质及设备 |
CN109447977A (zh) * | 2018-11-02 | 2019-03-08 | 河北工业大学 | 一种基于多光谱深度卷积神经网络的视觉缺陷检测方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6863150B1 (en) * | 2003-09-25 | 2005-03-08 | Mitsubishi Denki Kabushiki Kaisha | Electric power steering control apparatus |
-
2019
- 2019-07-07 CN CN201910607197.8A patent/CN110610475B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104680508A (zh) * | 2013-11-29 | 2015-06-03 | 华为技术有限公司 | 卷积神经网络和基于卷积神经网络的目标物体检测方法 |
CN106778464A (zh) * | 2016-11-09 | 2017-05-31 | 深圳市深网视界科技有限公司 | 一种基于深度学习的行人重识别方法和装置 |
CN109409384A (zh) * | 2018-09-30 | 2019-03-01 | 内蒙古科技大学 | 基于细粒度图像的图像识别方法、装置、介质及设备 |
CN109447977A (zh) * | 2018-11-02 | 2019-03-08 | 河北工业大学 | 一种基于多光谱深度卷积神经网络的视觉缺陷检测方法 |
Non-Patent Citations (2)
Title |
---|
"Solar Cell Surface Defect Inspection";H. Chen, Y. Pang, Q. Hu, et al;《arxiv:1812.06220》;20181215;全文 * |
刘英等." 基于优化卷积神经网络的木材缺陷检测".《林业工程学报》.2019, * |
Also Published As
Publication number | Publication date |
---|---|
CN110610475A (zh) | 2019-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110610475B (zh) | 一种深度卷积神经网络的视觉缺陷检测方法 | |
CN111598861B (zh) | 基于改进的Faster R-CNN模型的非均匀纹理小缺陷的检测方法 | |
CN109447977B (zh) | 一种基于多光谱深度卷积神经网络的视觉缺陷检测方法 | |
CN109376792B (zh) | 基于多通道残差神经网络的光伏电池外观缺陷分类方法 | |
CN111667455B (zh) | 一种刷具多种缺陷的ai检测方法 | |
CN103593670B (zh) | 一种基于在线序列极限学习机的铜板带表面缺陷检测方法 | |
CN109509187B (zh) | 一种针对大分辨率布匹图像中的小瑕疵的高效检验算法 | |
CN109272500B (zh) | 基于自适应卷积神经网络的织物分类方法 | |
CN109376591B (zh) | 深度学习特征与视觉特征联合训练的船只目标检测方法 | |
CN110689011A (zh) | 多尺度联合卷积神经网络的太阳能电池板缺陷检测方法 | |
CN109684922B (zh) | 一种基于卷积神经网络的多模型对成品菜的识别方法 | |
CN111223093A (zh) | 一种aoi缺陷检测方法 | |
CN109544522A (zh) | 一种钢板表面缺陷检测方法及系统 | |
Wan et al. | Ceramic tile surface defect detection based on deep learning | |
CN114022420A (zh) | 一种自动识别光伏电池el组件缺陷的检测方法 | |
CN111898621A (zh) | 一种轮廓形状识别方法 | |
CN109948527B (zh) | 基于集成深度学习的小样本太赫兹图像异物检测方法 | |
CN114581782B (zh) | 一种基于由粗到精检测策略的细微缺陷检测方法 | |
CN114973032A (zh) | 一种基于深度卷积神经网络的光伏板热斑检测方法及装置 | |
CN112258490A (zh) | 基于光学和红外图像融合的低发射率涂层智能探损方法 | |
CN113362277A (zh) | 一种基于深度学习的工件表面缺陷检测和分割方法 | |
CN110689060B (zh) | 一种基于聚合特征差异学习网络的异源图像匹配方法 | |
CN116385430A (zh) | 一种机器视觉瑕疵检测方法、装置、介质及设备 | |
CN115170520A (zh) | 一种基于结构对比信息叠层的金属网栅缺陷检测方法 | |
CN111178405A (zh) | 一种融合多种神经网络的相似物体识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |