CN110570410B - 一种自动识别检测焊缝缺陷的检测方法 - Google Patents
一种自动识别检测焊缝缺陷的检测方法 Download PDFInfo
- Publication number
- CN110570410B CN110570410B CN201910835427.6A CN201910835427A CN110570410B CN 110570410 B CN110570410 B CN 110570410B CN 201910835427 A CN201910835427 A CN 201910835427A CN 110570410 B CN110570410 B CN 110570410B
- Authority
- CN
- China
- Prior art keywords
- training
- image
- network
- weld
- defect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N23/00—Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Immunology (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Pathology (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
本发明为一种自动识别检测焊缝缺陷的检测方法,该方法基于Faster R‑CNN网络的深度学习算法来检测焊缝缺陷,首先对采集到的焊缝缺陷图像进行预处理然后随机抽取20%作测试,对剩余图像进行人工分选,并添加标签,用作训练;将训练样本输入到Faster R‑CNN神经网络进行训练,然后对得到的模型做测试,最终达到检测的效果。该检测方法采用Faster R‑CNN网络对焊缝缺陷图像进行特征提取,避免了传统手工提取特征的低效性和不确定性,同时检测过程还具备较强的鲁棒性。将深度学习技术和图像处理技术相结合,用深度学习的方法对焊缝缺陷进行检测,本发明方法初始设置学习率为0.001时,模型分类准确率达到99.3%,明显提升了检测精度并且提升了检测速度。
Description
技术领域
本发明属于焊接检测领域,具体涉及一种自动识别检测焊缝缺陷的检测方法。
背景技术
当今制造业中焊接是当前最重要的一种加工手段。随着焊接的产品数量急剧增加,产品结构复杂程度也越来越高,在焊接过后如何对其进行焊缝质量的检测也越来越苛刻,焊接后的焊缝缺陷如夹渣、气孔、裂纹、未焊透、未熔合等焊缝缺陷都对之后的生产效率有着极其重要的影响。因此,必须对焊接产品的所有焊缝进行缺陷识别与检测,提高产品质量。
传统的缺缝缺陷检测方法是需要专业人员借助相应的工具对胶片进行缺陷判断分析。然而,这种检测方式明显的特点就是操作流程繁琐速度慢,易受外界影响和以往自身经验的约束,况且人眼长时间在强光状态下进行判断分析,也会对眼睛有所伤害并且影响身体健康。没有经验的工人可能会错过一些低对比度缺陷或错误地将一些正常区域识别为缺陷。即使是有经验的工人在长时间工作后也会犯同样的错误。
另外,陈红英等人(陈英红,杜明坤.基于Fast-RCNN与结构光纵焊缝三维形态参数检测方法[J].中国测试,2018,44(12):85-90.)首先应用Fast-RCNN卷积神经网络从视觉图像中检测并定位焊缝区域、测量焊缝宽度。但是在训练测试的时间开销上较大,检测速度较慢,无法满足实时工业要求。
因此,能有效地改善和解决人工评定方法带来的困难成为专业人士热门研究的工作。在这样的情况下,开发一种能够快速进行智能检测焊缝缺陷的检测方法,提高焊接产品的整体质量,降低焊接行业的总体成本,从而促进焊接产业的整体发展。
发明内容
针对现有技术的不足,本发明拟解决的技术问题是,提供一种检测焊缝缺陷的检测方法。该检测方法基于Faster R-CNN的焊缝缺陷自动识别检测方法来检测焊缝缺陷,缺陷识别准确率高、检测速度快,时间短。
本发明解决所述技术问题所采用的技术方案是:
一种自动识别检测焊缝缺陷的检测方法,该方法包括以下步骤:
第一步:图像预处理:
图像获取:通过X光射线机获取焊缝图像;
图像形态调整和边缘处理:对采集的焊缝缺陷图像进行旋转、平移及对比度加深预处理操作以扩充焊缝缺陷数据库;然后采用区域形态学处理去除图像中的不必要的部分,对图像中焊缝图像的边缘进行最小二乘法边缘提取与拟合,将原本图像中曲线边界拟合成直线,从而获得具有有效边缘的目标图像,最后再对采集的所有焊缝图像及预处理得到的焊缝缺陷图像均进行尺寸归一化操作,得到统一尺度的图像,形成焊缝图像库;
训练样本集、验证样本集制作:在焊缝图像库中随机选取50~60%作为训练样本集,选取10~20%为验证样本集,再对训练样本集和验证样本集都进行人工分选并添加缺陷类型标签;
第二步:基于Faster R-CNN的焊缝缺陷网络训练:
网络模型Faster R-CNN:包括特征提取部分、RPN部分、RoI Pooling部分和分类回归部分,特征提取部分把焊缝缺陷图像输入到ResNet-50卷积神经网络中,从中提取出特征图,该特征图可共享用于后续的RPN部分和RoI Pooling部分;在RPN部分直接用RPN生成了检测框,输出多个候选区域,RPN部分的Proposal Layer层利用RPN获得的多个候选区域的大致位置继续训练,获得焊缝缺陷更准确的位置信息;ROI Pooling部分利用前面获取到的焊缝缺陷精确的位置,从特征图中抠出要用于分类的目标,RPN部分、RoI Pooling部分共同构成RPN网络;分类回归网络部分输出候选区域所属的类,达到分类的效果;
参数设置:参数的初始化,初始化所有权重值、偏置值、批量归一化尺度因子值,设置ResNet-50卷积神经网络的初始学习率、批处理参数,并将初始化的参数数据输入到ResNet-50卷积神经网络,设置网络的初始学习率为0.001;
开始训练:将训练样本集输入初始化参数设定好后的ResNet-50卷积神经网络中,再对ResNet-50卷积神经网络的每层引入BN层进行归一化处理,之后对ResNet-50卷积神经网络进行多尺度特征融合,把ResNet-50卷积神经网络结构后三个阶段的特征融合在一起,融合后再加入一个卷积层用来降低维度,得到焊缝缺陷图像多维输出特征图;然后把RPN网络和分类回归网络当成一个网络来进行训练,把RPN网络和分类回归网络整合到一个网络内一起进行训练;并用验证样本集进行验证,得到训练好的Faster R-CNN的焊缝缺陷网络;
第三步:检测
将待测试的焊缝图像进行与训练样本一样的尺寸归一化操作,然后输入第二步训练好的改进的Faster R-CNN焊缝缺陷网络,得到待测试的结果图片,待测试的结果图片中标记有缺陷类别,并框选出缺陷所在位置。
在第一步的焊缝图像库中随机抽取20%的焊缝图像作为测试样本集,其余均为训练样本集和验证样本集,验证样本集占除测试样本集外总数量的20%,测试样本集用于测试第二步训练好的Faster R-CNN的焊缝缺陷网络的正确性。
第一步中尺寸归一化操作时尺寸大小为128*128;第二步中参数初始化时batch_size设置为256。
ResNet-50卷积神经网络结构中,第一阶段的卷积核大小为7*7,步长为2,然后经过最大池化,池化核为3*3,步长为2;第二阶段的卷积核为5*5,步长为2;第三阶段、第四阶段、第五阶段的卷积核均为3*3,步长为1。
一种计算机可读存储介质,存储于具有显示器的电子设备结合使用的计算机程序,所述计算机程序可被处理器执行以完成上述第二步基于Faster R-CNN的焊缝缺陷网络训练的步骤。
所述的存储介质,显示器中具有操作界面,该操作界面中包括一级界面和二级界面,一级界面上有训练按钮和测试按钮,点击一级界面后分别进入相应的二级界面;点击训练按钮进入的训练界面,该训练界面中包括训练信息显示区域、选择图片按钮、训练图片总数显示框、重置按钮、开始训练按钮、保存训练模型按钮、停止训练按钮、退出训练按钮及预处理选择区域,预处理选择区域中含有裁剪尺寸归一化选项、旋转选项、平移选项及对比度加深选项;点击测试按钮进入的测试界面,该测试界面中包括原始图片显示区域、检测图片显示区域、检测信息显示区域、检测结果曲线图显示区域、选择模型按钮、选择图片按钮、开始测试按钮、停止测试按钮、保存检测图片、测试图片总数显示框、正常图片总数显示框、缺陷图片总数显示框、退出测试按钮及缺陷分类。
与现有技术相比,本发明的有益效果是:
本发明自动识别检测焊缝缺陷的检测方法与检测装置,该方法基于Faster R-CNN网络的深度学习算法来检测焊缝缺陷,首先对采集到的焊缝缺陷图像进行预处理然后随机抽取20%作测试,对剩余图像进行人工分选,并添加标签,用作训练;将训练样本输入到Faster R-CNN神经网络进行训练,然后对得到的模型做测试,最终达到检测的效果。该检测方法采用Faster R-CNN网络对焊缝缺陷图像进行特征提取,避免了传统手工提取特征的低效性和不确定性,同时检测过程还具备较强的鲁棒性。将深度学习技术和图像处理技术相结合,用深度学习的方法对焊缝缺陷进行检测,Hou W(Hou W,Wei Y,Guo J,etal.Automatic Detection ofWelding Defects using Deep Neural Network[C]//2018.)对焊缝缺陷进行检测的识别率是91.84%,本发明方法初始设置学习率为0.001时,模型分类准确率达到99.3%;明显提升了检测精度并且提升了检测速度。
本发明中的操作界面可以简洁明了对焊缝缺陷进行操作识别检测,把不同缺陷的焊缝图片放在一起进行训练,并且可以把测试好的焊缝缺陷图片进行分类,把不同的焊缝缺陷分到相应的类别中。能用于夹渣、气孔、裂纹等明显的焊缝缺陷的检测,面对复杂的焊缝缺陷如未焊透、未熔合等提取也能达到很好的效果。
本发明方法中对Faster R-CNN网络进行改进,将原模型的特征提取部分模型替换成ResNet-50网络进行训练,同时对RPN网络和分类回归网络进行端到端的近似联合训练,这样可以大大减少模型的大小,并且在性能上有很大提升。
本发明所采用的是128*128焊缝缺陷图片小尺寸,相对于大图片来说训练和检测时间大大减少,同时在ResNet-50网络中将后三个阶段的特征融合在一起,融合后再加入一个卷积层用来降低维度,可以防止过拟合出现,第二阶段的卷积核调整为5*5,步长为2,保证检测精度的前提下,缩短了时间,整体上显著提升效率。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明自动识别检测焊缝缺陷的检测方法的流程图。
图2为一种自动识别检测焊缝缺陷的训练界面,
训练信息显示区域21、选择图片按钮22、训练图片总数显示框23、裁剪尺寸归一化选项24、旋转选项25、平移选项26、对比度加深选项27、重置按钮28、开始训练按钮29、保存训练模型按钮211、停止训练按钮210、退出训练按钮212,其中训练的焊缝缺陷包括裂纹、气孔、未焊透、夹渣等。
图3为一种自动识别检测焊缝缺陷的检测界面,原始图片显示区域31、检测图片显示区域32、检测信息显示区域33、检测结果曲线图显示区域34、选择模型按钮35、选择图片按钮36、开始测试按钮37、停止测试按钮38、保存检测图片39、测试图片总数显示框310、正常图片总数显示框311、缺陷图片总数显示框312及退出测试按钮313,缺陷分类314。
图4(1)为焊缝缺陷中裂纹缺陷的初始图像,图4(2)为焊缝缺陷中裂纹缺陷的检测结果。
图5为本发明自动识别检测焊缝缺陷的检测方法Faster R-CNN的流程框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明一种自动识别检测焊缝缺陷的检测方法,该方法用于焊缝缺陷的检测,包括以下步骤:
第一步:图像预处理:
图像获取:通过X光射线机获取焊缝图像(焊缝图像包括有缺陷和无缺陷的图像);
图像形态调整和边缘处理:由于采集到的焊缝缺陷图像数量明显少于正常区域图像,因此对采集的焊缝缺陷图像进行旋转、平移、对比度加深等预处理操作以扩充焊缝缺陷数据库;然后采用区域形态学处理去除图像中的不必要的部分,对图像中焊缝图像的边缘进行最小二乘法边缘提取与拟合,将原本图像中曲线边界拟合成直线,从而获得具有有效边缘的目标图像,最后再对采集的所有焊缝图像及预处理得到的焊缝缺陷图像均进行尺寸归一化操作,得到统一尺度的图像,形成焊缝图像库;
测试样本集制作:在上述处理好的焊缝图像库中进行人工随机分选,从中随机抽取20%的焊缝图像作为测试样本集;
训练样本集、验证样本集制作:选取完测试样本之后,对训练样本集和验证样本集都进行人工分选并添加缺陷类型标签;
第二步:基于Faster R-CNN的焊缝缺陷网络训练:
网络模型Faster R-CNN:主要由特征提取部分、RPN部分、RoI Pooling部分和分类回归部分四个部分构成。特征提取部分把焊缝缺陷图像输入到ResNet-50卷积神经网络中,通过卷积、池化等操作,从中提取出特征图,该特征图可共享用于后续的RPN部分和RoIPooling部分;在RPN部分直接用RPN生成了检测框,大大提升了检测框生成速度,输出多个候选区域,RPN部分的Proposal Layer利用RPN获得的多个候选区域的大致位置继续训练,获得焊缝缺陷更准确的位置信息;ROI Pooling部分利用前面获取到的焊缝缺陷精确的位置,从特征图中抠出要用于分类的目标;分类回归网络部分主要是输出候选区域所属的类,达到分类的效果,并且可以对候选区域在图像中的精确位置进行检测。
参数设置:参数的初始化,初始化所有权重值、偏置值、批量归一化尺度因子值,设置网络的初始学习率,batch_size(批处理参数),并将初始化的参数数据输入到ResNet-50卷积神经网络,设置网络的初始学习率为0.001;
开始训练:将训练样本集输入初始化参数设定好后的ResNet-50卷积神经网络中,再对ResNet-50网络的每层引入BN层(批量标准化)进行归一化处理,之后对ResNet-50网络进行多尺度特征融合,把ResNet-50网络结构后三个阶段的特征融合在一起,融合后再加入一个卷积层用来降低维度,得到焊缝缺陷图像多维输出特征图,焊缝缺陷图像多维输出特征图用于后续的RPN网络(RPN部分、RoI Pooling部分)共享;然后对RPN网络和分类回归网络进行端到端的近似联合训练,联合训练就是把RPN网络和分类回归网络当成一个网络来进行训练,不再是单独交替训练RPN和分类回归网络,把RPN网络和分类回归网络整合到一个网络内一起进行训练,这样的训练方式比交替训练的训练时间减少,性能更高。
在训练的过程中,把验证样本集输入到正在训练中的Faster R-CNN的焊缝缺陷网络中进行验证,用于监控模型是否发生过拟合,以便决定是否需要中止训练重新调整参数。
第三步:检测
将待测试的焊缝图像进行与训练样本一样的尺寸归一化操作,然后输入第二步训练好的改进的Faster R-CNN焊缝缺陷网络,得到待测试的结果图片,待测试的结果图片中标记有缺陷类别,并框选出缺陷所在位置。
上述检测方法中,第一步中尺寸归一化操作时尺寸大小为128*128;第二步中参数初始化时batch_size设置为256。
本发明还保护一种加载有自动识别检测焊缝缺陷的检测方法的存储介质,该存储介质的操作界面中包括一级界面和二级界面,一级界面上有训练按钮和测试按钮,点击一级界面后分别进入相应的二级界面,图2为点击训练按钮进入的训练界面,该训练界面中包括训练信息显示区域21、选择图片按钮22、训练图片总数显示框23、重置按钮28、开始训练按钮29、保存训练模型按钮211、停止训练按钮210、退出训练按钮212及预处理选择区域,预处理选择区域中含有裁剪尺寸归一化选项24、旋转选项25、平移选项26及对比度加深选项27。图3为点击测试按钮进入的测试界面,该测试界面中包括原始图片显示区域31、检测图片显示区域32、检测信息显示区域33、检测结果曲线图显示区域34、选择模型按钮35、选择图片按钮36、开始测试按钮37、停止测试按钮38、保存检测图片39、测试图片总数显示框310、正常图片总数显示框311、缺陷图片总数显示框312、退出测试按钮313、及缺陷分类314。
具体操作如下:
1.选取缺陷图像进行模型训练:点击图2中的选择图片按钮22选择进行训练的焊缝图片,选择后的图像自动保存在焊缝训练文件夹中,然后对图片进行预处理,在图2中预处理选择区域,点击裁剪尺寸归一化选项24,把焊缝图片裁剪成统一尺寸,之后可以采用旋转选项25、平移选项26、对比度加深选项27来扩充训练样本集,经过预处理后的图片可以在训练图片总数显示框23中显示最终进行训练的焊缝图片的总数。如果要重新选择可以点击重置按钮28重新选取缺陷图片。
2.开始训练,点击图2训练界面中开始训练按钮29开始训练,训练过程通过加载预训练模型Faster RCNN,包括参数的初始化,初始化所有权重值、偏置值、批量归一化尺度因子值,设置网络的初始学习率;然后将训练样本集输入Faster RCNN神经网络中进行训练,中途想要停止训练点击停止训练按钮210,得到焊缝检测模型,即训练好的Faster R-CNN的焊缝缺陷网络,最后点击保存训练模型按钮211。训练过程中,每次迭代过程都会在训练信息显示区域中显示训练拟合曲线,拟合曲线上有loss信息(loss为损失函数,预测值与真实值的偏差),若损失函数的值高于0.5%,则需要重新设置初始化参数,重新训练。退出训练界面点击退出训练按钮212。
3.进行测试,进入测试界面,点击选择模型按钮35选择训练好的模型进行测试。然后点击选择图片按钮36选择进行测试的焊缝图片。准备好后点击开始测试按钮37,此时得到实时检测结果,原图和检测结果图分别显示在原始图片显示区域31和检测图片显示区域32中,如图4显示了焊缝缺陷裂纹缺陷的原图和检测结果,此时检测图片的信息如焊缝缺陷类型、检测图片尺寸、检测所需时间等显示在检测信息显示区域33中,所有检测图片是否有缺陷(有缺陷显示1,无缺陷显示0)汇总曲线显示在检测结果曲线图显示区域34中。测试结束后,进行测试的焊缝图片总数显示在测试图片总数显示框310中,其中无缺陷的图片数量显示在正常图片总数显示框311中,有缺陷的焊缝图片数量显示在缺陷图片总数显示框312中,能方便查看进行测试以及测试后缺陷和非缺陷的张数。退出测试界面则点击退出测试按钮313。
实施例1
本实施例一种自动识别检测焊缝缺陷的检测方法,该方法用于焊缝缺陷的检测,包括以下步骤:
1.图像预处理
图像获取:通过X光射线机获取焊缝图像;
图像形态调整和边缘处理:首先对采集的焊缝缺陷图像进行预处理,由于采集到的焊缝缺陷图像数量明显少于正常区域图像,为了扩充焊缝缺陷数据库,对采集到的焊缝图像的预处理方式至少包括图像裁剪尺寸归一化、旋转、平移、对比度加深等;标注的对象是焊缝缺陷,人工使用LabelImg对缺陷区域进行标注;采用区域形态学处理去除图像中的不必要的部分,对图像中焊缝图像的边缘进行最小二乘法边缘提取与拟合,将原本图像中曲线边界拟合成直线,从而获得具有有效边缘的目标图像;(实验时共选取了有缺陷图片1095张,其中裂纹467张,标记为crack;气孔268张,标记为gp;夹渣160张,标记为SI;未焊透124张,标记为lop;未熔合76张,标记为lof)。无缺陷的焊缝图像按照上述的尺寸归一化处理进行处理。
测试样本集制作:对上述处理好的焊缝缺陷图像进行人工随机分选,从中随机抽取20%的焊缝缺陷图像作为测试样本集;
训练样本集、验证样本集制作:选取完测试样本之后,提取剩余焊缝缺陷图像的通道信息图片,并将所有图片尺寸量化为统一的小尺寸,从而分别得到统一尺度的训练样本集、验证样本集;
本实施例所使用的图片尺寸是128x128大小。
加载预训练模型进行深度学习训练,先对Faster R-CNN模型参数进行初始化,初始化所有权重值、偏置值、批量归一化尺度因子值,设置网络的初始学习率,并将初始化的参数数据输入卷积神经网络。
所述Faster R-CNN提出了一种有效定位目标区域的方法:具体的,如图5所示,主要由特征提取部分、RPN部分、RoI Pooling部分和分类回归部分四个部分构成。特征提取方面把焊缝缺陷图像输入到ResNet-50卷积神经网络中,通过卷积、池化等操作,从中提取出特征图,该特征图可共享用于后续的RPN网络;在RPN部分直接用RPN生成了检测框,大大提升了检测框生成速度。ROI Pooling部分利用前面获取到的焊缝缺陷精确的位置,从特征图中抠出要用于分类的目标;分类回归网络部分主要是输出候选区域所属的类,达到分类的效果,和候选区域在图像中的精确位置进行检测。
所述ResNet-50网络结构为ResNet-50模型中,第一阶段的卷积核大小为7*7,步长为2,然后经过最大池化,池化核为3*3,步长为2,第二阶段的卷积核调整为5*5,步长为2(保证检测精度的前提下,缩短了时间),第三阶段、第四阶段、第五阶段的卷积核均为3*3,步长为1,把ResNet-50网络结构后三个阶段的特征融合在一起,融合后再加入一个卷积层用来降低维度,在ResNet-50网络最后和降维卷积层之前加入一个平均池化层,防止过拟合,降维卷积层的卷积核大小写3*3,步长为1,目的是防止过拟合,使输入输出的空间变换更具有鲁棒性。
其次再将第一步得到的训练样本集输入到模型中进行训练得到训练好的模型。
所述模型参数初始化如下:学习率设置为0.001,学习率的下降因子为0.1,最大迭代次数为20000,正则项的权值衰减为0.0005。
然后将焊缝图像输入步骤2训练好的深度学习模型然后用焊缝测试集进行测试。得到缺陷类别并定位缺陷的精确位置。具体的,如图4(1)所示为一种焊缝缺陷中裂纹缺陷的初始图像,图4(2)为焊缝缺陷中裂纹缺陷检测结果,crack是缺陷类型,框代表缺陷位置,缺陷位置被方框精确标记出来,框上的数字代表检测结果的置信度,最大值为1,数字值越高代表检测结果越准确。
为了选取图像训练测试得到结果并把缺陷按类型划分(缺陷如夹渣、气孔、裂纹、未焊透、未熔合等),便于后续查看操作。
本发明的测试结果表明,本发明采用改进的Faster R-CNN模型,应用到焊缝检测当中,对每类焊缝缺陷(甚至是复杂的焊缝缺陷)检测的准确率均达到了98%以上,可以实现快速进行智能检测焊缝缺陷。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
本发明未述及之处适用于现有技术。
Claims (4)
1.一种自动识别检测焊缝缺陷的检测方法,该方法包括以下步骤:
第一步:图像预处理:
图像获取:通过X光射线机获取焊缝图像;
图像形态调整和边缘处理:对采集的焊缝缺陷图像进行旋转、平移及对比度加深预处理操作以扩充焊缝缺陷数据库;然后采用区域形态学处理去除图像中的不必要的部分,对图像中焊缝图像的边缘进行最小二乘法边缘提取与拟合,将原本图像中曲线边界拟合成直线,从而获得具有有效边缘的目标图像,最后再对采集的所有焊缝图像及预处理得到的焊缝缺陷图像均进行尺寸归一化操作,得到统一尺度的图像,形成焊缝图像库;
训练样本集、验证样本集制作:在焊缝图像库中随机选取50~60%作为训练样本集,选取10~20%为验证样本集,再对训练样本集和验证样本集都进行人工分选并添加缺陷类型标签;
第二步:基于Faster R-CNN的焊缝缺陷网络训练:
网络模型Faster R-CNN:包括特征提取部分、RPN部分、RoI Pooling部分和分类回归部分,特征提取部分把焊缝缺陷图像输入到ResNet-50卷积神经网络中,从中提取出特征图,该特征图可共享用于后续的RPN部分和RoI Pooling部分;在RPN部分直接用RPN生成了检测框,输出多个候选区域,RPN部分的Proposal Layer层利用RPN获得的多个候选区域的大致位置继续训练,获得焊缝缺陷更准确的位置信息;ROI Pooling部分利用前面获取到的焊缝缺陷精确的位置,从特征图中抠出要用于分类的目标,RPN部分、RoI Pooling部分共同构成RPN网络;分类回归网络部分输出候选区域所属的类,达到分类的效果;
参数设置:参数的初始化,初始化所有权重值、偏置值、批量归一化尺度因子值,设置ResNet-50卷积神经网络的初始学习率、批处理参数,并将初始化的参数数据输入到ResNet-50卷积神经网络,设置网络的初始学习率为0.001;
开始训练:将训练样本集输入初始化参数设定好后的ResNet-50卷积神经网络中,再对ResNet-50卷积神经网络的每层引入BN层进行归一化处理,之后对ResNet-50卷积神经网络进行多尺度特征融合,把ResNet-50卷积神经网络结构后三个阶段的特征融合在一起,融合后再加入一个卷积层用来降低维度,得到焊缝缺陷图像多维输出特征图;然后把RPN网络和分类回归网络当成一个网络来进行训练,把RPN网络和分类回归网络整合到一个网络内一起进行训练;并用验证样本集进行验证,得到训练好的Faster R-CNN的焊缝缺陷网络;
ResNet-50卷积神经网络结构中,第一阶段的卷积核大小为7*7,步长为2,然后经过最大池化,池化核为3*3,步长为2;第二阶段的卷积核为5*5,步长为2;第三阶段、第四阶段、第五阶段的卷积核均为3*3,步长为1;
第三步:检测
将待测试的焊缝图像进行与训练样本一样的尺寸归一化操作,然后输入第二步训练好的改进的Faster R-CNN焊缝缺陷网络,得到待测试的结果图片,待测试的结果图片中标记有缺陷类别,并框选出缺陷所在位置;
第一步中尺寸归一化操作时尺寸大小为128*128;第二步中参数初始化时batch_size设置为256。
2.根据权利要求1所述的自动识别检测焊缝缺陷的检测方法,其特征在于,在第一步的焊缝图像库中随机抽取20%的焊缝图像作为测试样本集,其余均为训练样本集和验证样本集,验证样本集占除测试样本集外总数量的20%,测试样本集用于测试第二步训练好的Faster R-CNN的焊缝缺陷网络的正确性。
3.一种计算机可读存储介质,存储于具有显示器的电子设备结合使用的计算机程序,所述计算机程序可被处理器执行以完成权利要求1所述第二步基于Faster R-CNN的焊缝缺陷网络训练的步骤。
4.根据权利要求3所述的存储介质,其特征在于,显示器中具有操作界面,该操作界面中包括一级界面和二级界面,一级界面上有训练按钮和测试按钮,点击一级界面后分别进入相应的二级界面;点击训练按钮进入的训练界面,该训练界面中包括训练信息显示区域、选择图片按钮、训练图片总数显示框、重置按钮、开始训练按钮、保存训练模型按钮、停止训练按钮、退出训练按钮及预处理选择区域,预处理选择区域中含有裁剪尺寸归一化选项、旋转选项、平移选项及对比度加深选项;点击测试按钮进入的测试界面,该测试界面中包括原始图片显示区域、检测图片显示区域、检测信息显示区域、检测结果曲线图显示区域、选择模型按钮、选择图片按钮、开始测试按钮、停止测试按钮、保存检测图片、测试图片总数显示框、正常图片总数显示框、缺陷图片总数显示框、退出测试按钮及缺陷分类。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910835427.6A CN110570410B (zh) | 2019-09-05 | 2019-09-05 | 一种自动识别检测焊缝缺陷的检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910835427.6A CN110570410B (zh) | 2019-09-05 | 2019-09-05 | 一种自动识别检测焊缝缺陷的检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110570410A CN110570410A (zh) | 2019-12-13 |
CN110570410B true CN110570410B (zh) | 2022-03-22 |
Family
ID=68777834
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910835427.6A Active CN110570410B (zh) | 2019-09-05 | 2019-09-05 | 一种自动识别检测焊缝缺陷的检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110570410B (zh) |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111199543A (zh) * | 2020-01-07 | 2020-05-26 | 南京航空航天大学 | 一种基于卷积神经网络的冰柜表面缺陷检测 |
CN111507945B (zh) * | 2020-03-31 | 2022-08-16 | 成都数之联科技股份有限公司 | 一种使用无缺陷图训练深度学习缺陷检测模型的方法 |
CN111583183B (zh) * | 2020-04-13 | 2022-12-06 | 成都数之联科技股份有限公司 | 一种用于pcb板图像缺陷检测的数据增强方法和系统 |
CN111932489B (zh) * | 2020-06-03 | 2024-02-20 | 西安电子科技大学 | 焊缝缺陷检测方法、系统、存储介质、计算机设备、终端 |
CN111681231B (zh) * | 2020-06-10 | 2023-04-18 | 厦门理工学院 | 基于目标检测的工业焊接图像缺陷的检测方法 |
CN111899216A (zh) * | 2020-06-16 | 2020-11-06 | 西安交通大学 | 一种高铁接触网绝缘子紧固件的异常检测方法 |
CN111768380A (zh) * | 2020-06-29 | 2020-10-13 | 上海仪电(集团)有限公司中央研究院 | 一种工业零配件表面缺陷检测方法 |
CN111798447B (zh) * | 2020-07-18 | 2023-03-10 | 太原理工大学 | 一种基于Faster RCNN的深度学习塑化材料缺陷检测方法 |
CN112116557B (zh) * | 2020-08-12 | 2022-02-22 | 西安交通大学 | 一种射线图像焊缝区域缺陷探测方法、存储介质及设备 |
CN111929314A (zh) * | 2020-08-26 | 2020-11-13 | 湖北汽车工业学院 | 一种轮毂焊缝视觉检测方法及检测系统 |
CN112083017A (zh) * | 2020-09-10 | 2020-12-15 | 上海航天精密机械研究所 | 焊缝内部缺陷智能检测装置、方法及介质 |
CN112465851B (zh) * | 2020-09-27 | 2023-08-01 | 华南理工大学 | 一种基于压力容器表面焊缝表面轮廓曲线的参数检测方法 |
CN111882557B (zh) * | 2020-09-28 | 2021-01-05 | 成都睿沿科技有限公司 | 一种焊接缺陷检测方法、装置、电子设备及存储介质 |
CN112465746B (zh) * | 2020-11-02 | 2024-03-05 | 新疆天维无损检测有限公司 | 一种射线底片中小缺陷检测方法 |
CN112365491A (zh) * | 2020-11-27 | 2021-02-12 | 上海市计算技术研究所 | 容器焊缝检测的方法、电子设备及存储介质 |
CN112509046B (zh) * | 2020-12-10 | 2021-09-21 | 电子科技大学 | 一种弱监督的卷积神经网络图像目标定位方法 |
CN112419316A (zh) * | 2020-12-14 | 2021-02-26 | 国网浙江省电力有限公司 | 一种跨设备可见光纹理缺陷检测方法及装置 |
CN112733765A (zh) * | 2021-01-15 | 2021-04-30 | 天津大学 | 一种基于深度学习的钻孔图像裂隙参数自动提取方法 |
CN113034446A (zh) * | 2021-03-08 | 2021-06-25 | 国网山东省电力公司平邑县供电公司 | 一种变电站设备缺陷自动识别方法及系统 |
CN113496480A (zh) * | 2021-05-13 | 2021-10-12 | 西安数合信息科技有限公司 | 一种焊缝图像缺陷的检测方法 |
CN113177529B (zh) * | 2021-05-27 | 2024-04-23 | 腾讯音乐娱乐科技(深圳)有限公司 | 识别花屏的方法、装置、设备及存储介质 |
CN113298806A (zh) * | 2021-06-18 | 2021-08-24 | 上海市机械施工集团有限公司 | 焊接缺陷智能检测方法、装置、焊接设备和存储介质 |
CN113674218B (zh) * | 2021-07-28 | 2024-06-14 | 中国科学院自动化研究所 | 焊缝特征点提取方法、装置、电子设备与存储介质 |
CN113674247B (zh) * | 2021-08-23 | 2023-09-01 | 河北工业大学 | 一种基于卷积神经网络的x射线焊缝缺陷检测方法 |
CN113781415B (zh) * | 2021-08-30 | 2024-06-07 | 广州大学 | 一种x射线图像的缺陷检测方法、装置、设备及介质 |
CN114022420B (zh) * | 2021-10-21 | 2024-05-31 | 河北工业大学 | 一种自动识别光伏电池el组件缺陷的检测方法 |
CN114549472A (zh) * | 2022-02-23 | 2022-05-27 | 天津大学 | 一种基于深度学习的焊缝图像缺陷的检测方法 |
CN115229374B (zh) * | 2022-07-07 | 2024-04-26 | 武汉理工大学 | 一种基于深度学习的汽车白车身焊缝质量检测方法、装置 |
CN115187595A (zh) * | 2022-09-08 | 2022-10-14 | 北京东方国信科技股份有限公司 | 端塞焊缝缺陷检测模型训练方法、检测方法和电子设备 |
CN115494092A (zh) * | 2022-10-08 | 2022-12-20 | 山东大学 | 基于快速卷积神经网络的碳纤维气瓶无损检测方法及系统 |
CN116664509A (zh) * | 2023-05-29 | 2023-08-29 | 理工特智科技(重庆)有限公司 | 多模型协同决策的射线图像缺陷识别方法、系统和设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109816669A (zh) * | 2019-01-30 | 2019-05-28 | 云南电网有限责任公司电力科学研究院 | 一种识别电力设备缺陷的改进Mask R-CNN图像实例分割方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10706530B2 (en) * | 2017-09-11 | 2020-07-07 | International Business Machines Corporation | Object detection |
CN108257114A (zh) * | 2017-12-29 | 2018-07-06 | 天津市万贸科技有限公司 | 一种基于深度学习的输电设备缺陷自动识别方法 |
CN108734694A (zh) * | 2018-04-09 | 2018-11-02 | 华南农业大学 | 基于faster r-cnn的甲状腺肿瘤超声图像自动识别方法 |
CN109300121B (zh) * | 2018-09-13 | 2019-11-01 | 华南理工大学 | 一种心血管疾病诊断模型的构建方法、系统及该诊断装置 |
CN109376792B (zh) * | 2018-11-07 | 2022-02-18 | 河北工业大学 | 基于多通道残差神经网络的光伏电池外观缺陷分类方法 |
CN109992171A (zh) * | 2019-03-28 | 2019-07-09 | 鲁东大学 | 人体行为识别方法及装置 |
-
2019
- 2019-09-05 CN CN201910835427.6A patent/CN110570410B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109816669A (zh) * | 2019-01-30 | 2019-05-28 | 云南电网有限责任公司电力科学研究院 | 一种识别电力设备缺陷的改进Mask R-CNN图像实例分割方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110570410A (zh) | 2019-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110570410B (zh) | 一种自动识别检测焊缝缺陷的检测方法 | |
TWI525317B (zh) | 整合影像分析與資料挖礦之自動光學檢測缺陷影像分類方法 | |
CN110136101B (zh) | 一种基于孪生距离比对的轮胎x光病疵检测方法 | |
EP4280153A1 (en) | Defect detection method, apparatus and system | |
US11830174B2 (en) | Defect inspecting device, defect inspecting method, and storage medium | |
CN110402487B (zh) | 对从晶片检测的缺陷进行分类的方法和装置 | |
US9293298B2 (en) | Defect discovery and inspection sensitivity optimization using automated classification of corresponding electron beam images | |
CN111982916A (zh) | 一种基于机器视觉的焊缝表面缺陷检测方法及系统 | |
CN113222913B (zh) | 一种电路板缺陷检测定位方法、装置和存储介质 | |
WO2024002187A1 (zh) | 缺陷检测方法、缺陷检测设备及存储介质 | |
CN110689524B (zh) | 一种无参考在线图像清晰度评价方法与系统 | |
CN112513927A (zh) | 基于卷积神经网络的风力涡轮机叶片缺陷检查 | |
US20050002562A1 (en) | Image recognition apparatus and image recognition method, and teaching apparatus and teaching method of the image recognition apparatus | |
CN115035092A (zh) | 基于图像的瓶体检测方法、装置、设备及存储介质 | |
CN103839271A (zh) | 一种基于最佳匹配的图像纹理合成方法 | |
CN113077416A (zh) | 一种基于图像处理的焊点焊接缺陷检测方法与系统 | |
CN109685756A (zh) | 影像特征自动辨识装置、系统及方法 | |
CN111738991A (zh) | 一种焊缝缺陷的数字射线检测模型的创建方法 | |
TW202219494A (zh) | 缺陷檢測方法及檢測裝置 | |
CN116309475A (zh) | 自动检测滚筒齿座焊接质量的机器视觉检测方法 | |
CN115810014A (zh) | 一种基于图片中子图块的电极帽端面缺陷检测方法 | |
CN114596296A (zh) | 一种高灵敏度的热轧钢卷端面缺陷识别系统及方法 | |
Candra et al. | Computer Vision Implementation in Scratch Inspection and Color Detection on The Car Roof Surface | |
Wang et al. | Method for detecting internal cracks in joints of composite metal materials based on dual-channel feature fusion | |
JP2022013285A (ja) | 機械学習方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |