CN110363253A - 一种基于卷积神经网络的热轧带钢表面缺陷分类方法 - Google Patents
一种基于卷积神经网络的热轧带钢表面缺陷分类方法 Download PDFInfo
- Publication number
- CN110363253A CN110363253A CN201910676299.5A CN201910676299A CN110363253A CN 110363253 A CN110363253 A CN 110363253A CN 201910676299 A CN201910676299 A CN 201910676299A CN 110363253 A CN110363253 A CN 110363253A
- Authority
- CN
- China
- Prior art keywords
- model
- vgg16
- adam
- rolled strip
- hot rolled
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30136—Metal
Abstract
本发明公开了一种基于卷积神经网络的热轧带钢表面缺陷分类方法,属于计算机深度学习领域。本发明首先从NEU数据库中获取热轧带钢表面缺陷典型图像样本,并对样本进行预处理;然后搭建卷积神经网络VGG16模型,基于VGG16模型并结合SGD或Adam优化算法,搭建若干种用于热轧带钢表面缺陷的分类模型;然后基于搭建的若干种分类模型,对步获取的热轧带钢表面缺陷典型图像样本进行识别分类;然后对若干种分类模型所得的结果进行评价,得出最优的分类模型;最后基于最优分类模型,进行热轧带刚表面缺陷分类。本发明的方法识别热轧带钢表面缺陷的准确率高,分类速度快,能够有效地应用于现场实时检测热轧带钢的表面缺陷。
Description
技术领域
本发明涉及计算机深度学习领域,具体涉及一种基于卷积神经网络的热轧带钢表面缺陷 分类方法。
背景技术
在实际热轧带钢生产过程中,因各种物理和化学因素及热轧工艺的复杂性,导致带钢表 面易出现压入氧化皮、划痕、麻面、夹杂、斑块、裂缝等各式各样的缺陷,给产品制造商带 来巨大的经济和商业声誉损失。热轧带钢表面温度高,幅射光强,并且存在水、氧化铁皮及 不均匀光照影响等问题,已经成为采用机器视觉对其进行缺陷检测的主要难点之一,同时其 缺陷形态多样、类内差异大、类间相似性高,更增加了热轧带钢表面缺陷识别算法的开发难 度。在目前热轧带钢的缺陷分类任务中,分类准确率和分类速度一直相互制约的两个指标, 在满足识别精度的同时很难达到实时性要求。因此,实时、正确的热轧带钢表面缺陷分类研 究对带钢生产和质量控制非常重要。
申请号为201410038260.8的专利公开了一种带钢表面缺陷的特征提取与分类方法。该发 明是基于发明人提取的带钢表面样本数据库的基准采样尺寸表,获得基准采样图像,通过对 基准采样图像构造梯度大小-方向共生矩阵,对基准采样图像的缺陷内区域构造灰度大小-方 向共生矩阵,生成特征向量样本的训练库,用K-最近邻和R-最近邻相结合的方法,修剪训练 样本集并提取倍数因子,并利用修剪后样本的倍数因子改进分类器,获得多类别分类器模型。 同时,根据基准采样尺寸表,将缺陷测试样本转为基准采样图像,然后提取25为的特征量, 并输入到多类别分类器模型,完成缺陷的自动识别。由于该发明能够实现尺度和旋转不变, 抑制其它不利因素的影响,因此该方法可提高识别的效率与精度。
申请号为201610439036.9的专利公开了一种带钢表面缺陷识别方法及装置。该发明提供 了一种带钢表面缺陷识别方法及装置,该方法包括:建立缺陷识别模型、获取带钢表面图片、 对带钢表面图片进行预处理、提取预处理后的带钢表面图像的方向梯度直方图HOG特征以 及灰度共生矩阵GLCM特征、通过缺陷识别模型对提取的HOG特征及GLCM特征进行识别, 确定出带钢表面的缺陷信息。该发明实现了通过建立的缺陷识别模型对提取的多种特征进行 识别后,可以快速、准确地识别出图像的缺陷信息,大大提高了缺陷的识别率,识别出的缺 陷的准确性跟高,且能够有效克服几何、光学不变性以及旋转性对图像特征描述所带来的问 题,对于面积型缺陷的识别率很高。
以上方法属于实验方法,都可以对热轧带钢缺陷种类进行预测,但是也存在着同样的缺 点,如耗时耗力,持有不同程度的“假阳性”,“假阴性”特征,使得结果分析比较困难等 等。随着深度学习技术的飞速发展,并在生产生活中深度学习的应用也逐渐普及,计算方法 在深度学习领域的应用也使得热轧带钢图像缺陷的预测取得了极大的改善。对热轧带钢表面 缺陷种类的预测,主要涉及到对缺陷图像特征提取的网络结构搭建的研究与实现,且取得了 不错的成果。近年来,基于机器视觉的热轧带钢表面缺陷检测是一种非接触式的自动检测技 术,已成为缺陷检测领域的研究热点。非接触式的检测技术通过各种特征提取方法对热轧带 钢表面缺陷图像的纹理、边缘等特征进行描绘,同时通过各式各样的分类器区分缺陷图像种 类,并获得了优异的分类性能。但是这些方法很难将图像中包含的所有特征全部提取出来并 有效利用。卷积神经网络被提出后,使热轧带钢表面缺陷的分类准确率和检测速度大幅提升, 但分类准确率低或无法满足实时性要求的问题仍然存在,同时,现有的卷积神经网络模型训 练参数多、系统消耗大、占用内存,同时深层网络会存在“梯度弥散”问题,并且需要利用大 量的样本数据进行预测,这也给热轧带钢表面缺陷分类带来了一定困难。
发明内容
技术问题:本发明提供一种基于卷积神经网络的热轧带钢表面缺陷分类方法,能够降低 网络结构深度和宽度,减少训练参数量、系统消耗和内存占用,并在一定程度上缓解深层网 络“梯度弥散”问题,同时利用较少的热轧带钢表面缺陷图像对缺陷种类进行预测,分类准 确率高,分类时间短。
技术方案:本发明基于卷积神经网络的热轧带钢表面缺陷分类方法,其步骤为:
S1:从NEU数据库中获取热轧带钢表面缺陷典型图像样本,并对样本进行预处理;
S2:搭建卷积神经网络VGG16模型,基于VGG16模型并结合SGD或Adam优化算法, 搭建四种用于热轧带钢表面缺陷的分类模型;
S3:基于步骤S1搭建的若干种分类模型,对步骤S1获取的热轧带钢表面缺陷典型图像 样本进行识别分类;
S4:对步骤S3中的四种分类模型所得的结果进行评价,得出最优的分类模型。
S5:基于最优的分类模型,进行热轧带刚表面缺陷分类。
进一步地,所述步骤S2中若干种分类模型包括如下模型中的任意两种以上的组合:
(1)基于VGG16模型,采用SGD优化算法进行求解,搭建VGG16-SGD模型;
(2)基于VGG16模型,采用Adam优化算法进行求解,搭建VGG16-Adam模型;
(3)基于VGG16模型,使用一个含有512个神经元的全连接层,采用Adam优化算法进行求解,搭建Dense(512)-Adam模型;
(4)基于Dense(512)-Adam模型,在所述全连接层后增加批规范化层,采用Adam 优化算法进行求解,搭建BN-Adam模型。
进一步地,所述步骤S1包括以下子步骤;
S1.1:将获取的样本以1:1比例分为训练集和测试集,所述训练集和测试集均包含6种类 别;
S1.2:对训练集和测试集中的样本进行归一化处理。
进一步地,所述步骤S2中的VGG16模型包括13个卷积层、5个最大池化层、3个全连接层、1个Softmax输出层,所述卷积层的卷积核大小为3×3,步长为2,所述最大池化层大小为2×2,步长为2,所述3个全连接层中有两个包括4096个神经元的全连接层。
进一步地,所述步骤S3采用VGG16-SGD模型对热轧带钢表面缺陷图像进行分类的步骤 为:
S3.1.1:基于VGG16模型,采用SGD优化算法进行求解,搭建VGG16-SGD模型;
S3.1.2:计算VGG16-SGD模型训练参数的个数;
S3.1.3:初始化VGG16-SGD模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对VGG16-SGD模型进行训练,进 行参数更新,并保存训练好的模型;
S3.1.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
进一步地,所述步骤S3采用VGG16-Adam模型对热轧带钢表面缺陷图像进行分类的步 骤为:
S3.2.1:基于VGG16模型,采用Adam优化算法进行求解,搭建VGG16-Adam模型;
S3.2.2:计算VGG16-Adam模型训练参数个数;
S3.2.3:初始化VGG16-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对VGG16-Adam模型进行训练,进行参数更新,并保存训练好的模型;
S3.2.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
进一步地,所述步骤S3采用Dense(512)-Adam模型对热轧带钢表面缺陷图像进行分 类的步骤为:
S3.3.1:基于VGG16模型,使用一个含有512个神经元的全连接层替代VGG16模型中的两个含有4096个神经元的全连接层,采用Adam优化算法进行求解,搭建Dense(512)-Adam模型;
S3.3.2:计算Dense(512)-Adam模型训练参数个数;
S3.3.3:初始化Dense(512)-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对Dense(512)-Adam模型进行训练,进行参数更新,并保存训练好的模型;
S3.3.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
进一步地,所述步骤S3采用BN-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.4.1:基于Dense(512)-Adam模型,在含有512个神经元的全连接层后增加批规范 化层,采用Adam优化算法进行求解,搭建BN-Adam模型;
S3.4.2:计算BN-Adam模型训练参数个数;
S3.4.3:初始化BN-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训 练好的参数,上层参数初始化为零,输入训练集样本对BN-Adam模型进行训练,进行参数更新,并保存训练好的模型;
S3.4.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
进一步地,所述评价指标分类准确率和收敛时间的数学表示如下:
A.分类准确率:
B.收敛时间:
Time=T1-T2
式中,TP表示真阳性数目,即正确预测出来的正样本的数目;TN表示真阴性数目,即 正确预测出来的负样本数目;FP表示假阳性数目,即预测出来的样本中,本是负样本被错误 预测成正样本的数目;FN表示假阴性数目,即预测出来的样本中,本是正样本被错误预测成 负样本的数目;T1表示模型开始训练的时间;T2表示模型开始稳定的时间。
进一步地,所述BN-Adam模型训练到批规范化层时,需采用规范化算法进行训练,规 范化算法BN描述如下:
输入:批处理(mini-batch)输入x:β={x1,...,m}式中xi是激活函数输入,m为mini-batch 大小,γ和β为初始化学习参数;
输出:规范化后网络响应{yi=BNγ,β(xi)};
(1)计算批处理数据均值μβ,公式为:
(2)计算批处理数据方差公式为:
(3)规范化,公式为:
(4)尺度变换和偏移,公式为:
yi=γxi+β=BNγ,β(xi)
(5)返回学习参数γ和β。
有益效果:采用本发明提供的技术方案,与已有的公知技术相比,具有如下显著效果:
(1)本发明基于卷积神经网络的热轧带钢表面缺陷分类方法,基于VGG16模型,并采 用SGD或Adam优化算法,搭建多种网络模型,通过对比,得出最优的神经网络模型,用于对热轧带钢表面缺陷进行分类,从而搭建出更适用于热轧带钢表面缺陷进行分类的神经网络 模型。基于卷积神经网络,仅使用相对较少的数据进行训练并生成网络参数,达到良好的预 测效果,并通过分类正确率、收敛时间指标证明本发明方法的优越性。
(2)本发明中的最优的神经网络模型,采用自适应学习率的Adam优化算法对神经网络 模型进行求解,加快了模型收敛速度。采用一个含有512个全连接层替代VGG16模型中的 两个含有4096个神经元的全连接层,极大地降低了网络结构深度和宽度以减少训练参数量, 同时减少训练过程中的系统消耗和内存占用。
(3)本发明基于卷积神经网络的热轧带钢表面缺陷分类方法,通过增加批规范化层,在 一定程度上缓解了深层网络“梯度弥散”问题,使训练得到的模型更加平稳。
附图说明
图1为本发明基于卷积神经网络的热轧带钢表面缺陷分类方法的流程图;
图2为NEU数据库中6种典型的缺陷图像样本;
图3为本发明基于卷积神经网络的热轧带钢表面缺陷分类方法的网络结构图;
图4为本发明基于卷积神经网络的热轧带钢表面缺陷分类方法的网络搭建流程图;
图5为本发明基于卷积神经网络的热轧带钢表面缺陷分类方法的网络结构中显示每层需 要训练的参数量的流程图。
具体实施方式
为进一步了解本发明的内容,结合附图和实施例对本发明作详细描述。
本发明基于卷积神经网络的热轧带钢表面缺陷分类方法,以对热轧带钢表面缺陷识别为 例,如图1所示,其步骤如下:
S1:从NEU数据库中获取热轧带钢表面缺陷典型图像样本,并对样本进行预处理。
NEU数据库指(Northeastern University,东北大学)表面缺陷数据库,可以在该数据库 中得到热轧带钢表面六种典型表面缺陷的图像,如图2所示,该数据图像中,包括裂纹、压 入氧化皮、麻面、斑块、夹杂、划痕共6种典型的热轧带钢表面缺陷图像。
该步骤中,包括以下两个子步骤:
S1.1:将获取的样本以1:1比例分为训练集和测试集,所述训练集和测试集均包含6种类 别;
S1.2:对训练集和测试集中的样本进行归一化处理。
S2:搭建卷积神经网络VGG16模型,基于VGG16模型并结合SGD或Adam优化算法, 搭建若干种用于热轧带钢表面缺陷的分类模型。其中VGG16模型采用的传统的VGG16模型 的神经网络结构,包括13个卷积层、5个最大池化层、3个全连接层、1个Softmax输出层, 所述卷积层的卷积核大小为3×3,步长为2,所述最大池化层大小为2×2,步长为2,所述3 个全连接层中有两个包括4096个神经元的全连接层,网络结构图如图2所示。下面对神经网 络中的概念进行解释说明:
1)卷积层
卷积的过程就是对输入数据进行映射,即使用一个卷积核在输入图像或者特征图上按照 提前设定的步长进行滑动,每滑动一个步长,卷积核便与其相对应位置的特征图作一个卷积 计算,输出的特征图作为下一层的输入。假设输入图像的大小为W1*H1*D1,卷积核个数为 K,卷积核大小为F*F,步长为S,边界填充为P,关于卷积特征图的计算公式如下:
D2=K
经过计算后,输出的特征图f为:
f=W2*H2*D2
2)池化层
图像经过卷积层得到的特征图容易因为维数过大而产生过拟合,所以往往在卷积层后使 用池化层(采样层)来缩小矩阵尺寸。VGG16模型中的最大池化(max pooling)是通过计算 图像中某一特定区域内某个特定特征的最大值,并用此最大值替代选定区域特征的方法压缩 特征维度。
3)激活函数
经过卷积后输出的值,需输入到激活函数中,如图2所示,本发明中VGG16模型网络中采用的激活函数是Relu函数,ReLu函数具有线性、非饱和的特性,可以很好地抑制梯度消失,其函数定义如下,
其中y表示因变量,x为自变量。
4)全连接层
全连接层在卷积神经网络中相当于“分类器”。卷积、池化和激活函数等操作是将原始 数据映射到隐层特征空间,全连接层则是将学到的“分布式特征表示”映射到样本空间。卷 积层中的相互连接是采用稀疏连接的方式,即上一层的特征图中只有部分区域连接到下一层。 而全连接则不同,其上一层特征图中的每个神经元都与输入层的神经元相连,因而得名“全 连接”。
5)随机失活:随机失活是指在神经网络训练过程中随机让网络的某些节点不工作,那些 不工作的节点可以暂时认为不是网络结构的一部分。其基本思想是通过组织特征检测器的共 同作用来提高神经网络的泛化能力。
6)交叉熵损失函数:由于本研究是多分类问题,训练后的参数会有多个结果,因此选择 交叉熵损失函数。交叉熵损失函数刻画的是实际输出(概率)与期望输出(概率)的距离, 也就是交叉熵的值越小,两个概率分布就越接近。假设概率分布p为期望输出(标签),概率 分布q为实际输出,H(p,q)为交叉熵。
H(p,q)=-∑xp(x)logq(x)
该步骤中,具体搭建了如下四种模型:
(1)基于VGG16模型,采用SGD优化算法进行求解,搭建VGG16-SGD模型。
(2)基于VGG16模型,采用Adam优化算法进行求解,搭建VGG16-Adam模型;
(3)基于VGG16模型,使用一个含有512个神经元全连接层,采用Adam优化算法进行求解,搭建Dense(512)-Adam模型;
(4)基于Dense(512)-Adam模型,在所述全连接层后增加批归规范化层,采用Adam优化算法进行求解,搭建BN-Adam模型。
S3:基于步骤S1搭建的若干种分类模型,对步骤S1获取的热轧带钢表面缺陷典型样本 图像进行识别分类。
首先对采用上述的四种模型进行识别分类的方法步骤进行说明,采用VGG16-SGD模型 对热轧带钢表面缺陷图像进行分类的步骤为:
S3.1.1:基于VGG16模型,采用SGD优化算法进行求解,搭建VGG16-SGD模型。具 体建模流程如图3所示,图中f为卷积核/汇合核大小,s为步长,d为卷积核个数(通道数), p为填充参数,x1/x2/x3为堆叠1/2/3个相同的网络层。其中SGD优化算法描述如下:
S3.1.2:计算VGG16-SGD模型训练参数的个数。
S3.1.3:初始化VGG16-SGD模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对VGG16-SGD模型进行训练,进 行参数更新,并保存训练好的模型。该步骤中采用BP算法对模型进行训练,更新网络参数 时,采用最小批量法计算网络误差和更新权重。
S3.1.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
采用VGG16-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.2.1:基于VGG16模型,采用Adam优化算法进行求解,搭建VGG16-Adam模型。建模流程如图3所示,其中Adam优化算法一种具有自适应学习率的优化算法,具体描述如下:
S3.2.2:计算VGG16-Adam模型训练参数个数。
S3.2.3:初始化VGG16-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对VGG16-Adam模型进行训练,进行参数更新,并保存训练好的模型。该步骤中采用BP算法对模型进行训练,更新网络参数时,采用最小批量法计算网络误差和更新权重。
S3.2.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
采用Dense(512)-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.3.1:基于VGG16模型,使用一个含有512个神经元的全连接层替代VGG16模型中的两个含有4096个神经元的全连接层,采用Adam优化算法进行求解,搭建Dense(512)-Adam模型。相比原VGG16模型的网络,降低了网络的宽度和深度。
S3.3.2:计算Dense(512)-Adam模型训练参数个数。
S3.3.3:初始化Dense(512)-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对Dense(512)-Adam模型进行训练,进行参数更新,并保存训练好的模型。
S3.3.4:用训练好的模型,对测试集样本进行预测,并计算分类准确率和收敛时间。
采用BN-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.4.1:基于Dense(512)-Adam模型,在含有512个神经元的全连接层后增加批规范 化层,采用Adam优化算法进行求解,搭建BN-Adam模型。建模流程如图3所示,当模型训练到批规范化层的时候,需要采用批规范化算法BN进行训练,批规范化算法BN描述如下:
S3.4.2:计算BN-Adam模型训练参数个数。
S3.4.3:初始化BN-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训 练好的参数,上层参数初始化为零,输入训练集样本对BN-Adam模型进行训练,进行参数更新,并保存训练好的模型。该步骤中采用BP算法对模型进行训练,更新网络参数时,采 用最小批量法计算网络误差和更新权重。
S3.4.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
S4:对步骤S3中的若干中分类模型所得的结果进行评价,得出最优的分类模型。
对于每一步得到的结果,采用分类准确率、收敛时间两个指标进行评价。其中,评价指 标分类准确率和收敛时间的数学表示如下:
A.分类准确率:
B.收敛时间:
Time=T1-T2
式中,TP表示真阳性数目,即正确预测出来的正样本的数目;TN表示真阴性数目,即 正确预测出来的负样本数目;FP表示假阳性数目,即预测出来的样本中,本是负样本被错误 预测成正样本的数目;FN表示假阴性数目,即预测出来的样本中,本是正样本被错误预测成 负样本的数目;T1表示模型开始训练的时间;T2表示模型开始稳定的时间。
S5:基于最优分类模型,进行热轧带刚表面缺陷分类。
本实施例中,直接选择上述的四种模型对热轧带钢表面缺陷进行分类,得到四种模型训 练所需的参数量、收敛时间以及准确率,见表1。四种模型每层的参数个数如图5所示,由 图5可以看出,四种模型的卷积层参数数量是相同的,VGG16-SGD与VGG16-Adam采用的 是相同的网络结构,因此参数的总数量相同。Dense(512)-Adam模型由于用一个含有512个 神经元的全连接层替换了VGG16模型中的两个含有4096个神经元的全连接层,降低了模型 的宽度和深度,模型参数的数量减少了46,145,024个,共18,912,582个,约为VGG16-SGD与VGG16-Adam模型的1/3。BN-Adam模型相对与Dense(512)-Adam模型,在含有512 个神经元的全连接层后加了一个批规范化层,训练参数的总数量为18913606个,虽然比Dense(512)-Adam模型的网络结构多了1024个,但仍然是VGG16-SGD与VGG16-Adam模型的 1/3左右,且1024相对于训练参数总量,降低了4个数量级,因此可以忽略。
表1:四种模型所需训练总参数个数与评估性能比较
由表1可以看出,VGG16-SGD和VGG16-Adam相比,因为VGG16-Adam模型采用的是Adam算法,收敛时间相比与VGG16-SGD模型减少了4630秒,加快了约13倍。Dense(512) -Adam模型因为训练参数减少,收敛时间又相对于VGG16-Adam模型减少了58秒,BN-Adam 模型相对于Dense(512)-Adam模型,又减少了32秒,在训练270秒时即收敛至接近稳定 状态。通过对比四种模型的准确率,发现,BN-Adam模型的准确率最高,达到了99.63%。 因此,通过综合对比,得出BN-Adam模型为最优模型,因此最终采用BN-Adam模型进行热 轧带钢表面缺陷分类。
此外,为了进一步说明本发明的方法的优越性,将BN-Adam模型和现有技术中常用的 几种模型进行比较,具体包括AECLBPS、GCLBP和CNNs,对比结果如表2所示。由表2 可以看出,在同一数据集下,本发明的网络模型的预测性能明显优于两种改进的LBP模型。 基于卷积神经网络的模型在分类时间上较传统方法采用的模型较少了几十倍甚至上百倍,实时性有很大提升,如本发明的采用BN-Adam和现有技术中采用CNNs的方法相比,每幅图 像的分类时间分别为0.003s和0.001s。在识别准确度上,本文方法的BN-Adam达到了99.63%,明显高于经过5倍数据扩充的CNNs中的90.05%,且高于用相同数据集的传统方法,这也证明本文方法更适用于解决热轧带钢缺陷分类问题。
表2本文方法与其他算法预测性能比较结果
应该说明的是,本实施例中直接将四种模型进行了对比,从而得到最优的模型,然后进 行热轧带刚表面缺陷分类,在本发明的其他实施例中,也可以选择搭建的若干模型中任意两 种或两种以上模型进行对比,然后得出最优模型,用于热轧带刚表面缺陷分类,但进行多个 模型对比,更能得到相对最优的模型。
以上示意性的对本发明及其实施方式进行了描述,该描述没有限制性,附图中所示的也 只是本发明的实施方式之一,实际的结构并不局限于此。所以,如果本领域的普通技术人员 受其启示,在不脱离本发明创造宗旨的情况下,不经创造性的设计出与该技术方案相似的结 构方式及实施例,均应属于本发明的保护范围。
Claims (10)
1.一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,其步骤为:
S1:从NEU数据库中获取热轧带钢表面缺陷典型图像样本,并对样本进行预处理;
S2:搭建卷积神经网络VGG16模型,基于VGG16模型并结合SGD或Adam优化算法,搭建若干种用于热轧带钢表面缺陷的分类模型;
S3:基于步骤S1搭建的若干种分类模型,对步骤S1获取的热轧带钢表面缺陷典型图像样本进行识别分类;
S4:对步骤S3中的若干种分类模型所得的结果进行评价,得出最优的分类模型;
S5:基于最优的分类模型,进行热轧带刚表面缺陷分类。
2.根据权利要求1所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S2中若干种分类模型包括如下模型中的任意两种以上的组合:
(1)基于VGG16模型,采用SGD优化算法进行求解,搭建VGG16-SGD模型;
(2)基于VGG16模型,采用Adam优化算法进行求解,搭建VGG16-Adam模型;
(3)基于VGG16模型,使用一个含有512个神经元的全连接层,采用Adam优化算法进行求解,搭建Dense(512)-Adam模型;
(4)基于Dense(512)-Adam模型,在所述全连接层后增加批规范化层,采用Adam优化算法进行求解,搭建BN-Adam模型。
3.根据权利要求1所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S1包括以下子步骤;
S1.1:将获取的样本以1:1比例分为训练集和测试集,所述训练集和测试集均包含6种类别;
S1.2:对训练集和测试集中的样本进行归一化处理。
4.根据权利要求1所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S2中的VGG16模型包括13个卷积层、5个最大池化层、3个全连接层、1个Softmax输出层,所述卷积层的卷积核大小为3×3,步长为2,所述最大池化层大小为2×2,步长为2,所述3个全连接层中有两个包括4096个神经元的全连接层。
5.根据权利要求1~4任一项所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S3采用VGG16-SGD模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.1.1:基于VGG16模型,采用SGD优化算法进行求解,搭建VGG16-SGD模型;
S3.1.2:计算VGG16-SGD模型训练参数的个数;
S3.1.3:初始化VGG16-SGD模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对VGG16-SGD模型进行训练,进行参数更新,并保存训练好的模型;
S3.1.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
6.根据权利要求1~4任一项所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S3采用VGG16-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.2.1:基于VGG16模型,采用Adam优化算法进行求解,搭建VGG16-Adam模型;
S3.2.2:计算VGG16-Adam模型训练参数个数;
S3.2.3:初始化VGG16-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对VGG16-Adam模型进行训练,进行参数更新,并保存训练好的模型;
S3.2.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
7.根据权利要求1~4任一项所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S3采用Dense(512)-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.3.1:基于VGG16模型,使用一个含有512个神经元的全连接层替代VGG16模型中的两个含有4096个神经元的全连接层,采用Adam优化算法进行求解,搭建Dense(512)-Adam模型;
S3.3.2:计算Dense(512)-Adam模型训练参数个数;
S3.3.3:初始化Dense(512)-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对Dense(512)-Adam模型进行训练,进行参数更新,并保存训练好的模型;
S3.3.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
8.根据权利要求7所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述步骤S3采用BN-Adam模型对热轧带钢表面缺陷图像进行分类的步骤为:
S3.4.1:基于Dense(512)-Adam模型,在含有512个神经元的全连接层后增加批归规范化层,采用Adam优化算法进行求解,搭建BN-Adam模型;
S3.4.2:计算BN-Adam模型训练参数个数;
S3.4.3:初始化BN-Adam模型各个层的参数,采用VGG16模型在ImageNet数据集上训练好的参数,上层参数初始化为零,输入训练集样本对BN-Adam模型进行训练,进行参数更新,并保存训练好的模型;
S3.4.4:用训练好的模型,对测试样本进行预测,并计算分类准确率和收敛时间。
9.根据权利要求1~4任一项所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述评价指标分类准确率和收敛时间的数学表示如下:
A.分类准确率:
B.收敛时间:
Time=T1-T2
式中,TP表示真阳性数目,即正确预测出来的正样本的数目;TN表示真阴性数目,即正确预测出来的负样本数目;FP表示假阳性数目,即预测出来的样本中,本是负样本被错误预测成正样本的数目;FN表示假阴性数目,即预测出来的样本中,本是正样本被错误预测成负样本的数目;T1表示模型开始训练的时间;T2表示模型开始稳定的时间。
10.根据权利要求8所述的一种基于卷积神经网络的热轧带钢表面缺陷分类方法,其特征在于,所述BN-Adam模型训练到批规范化层时,需采用批规范化算法BN进行训练,批规范化算法BN描述如下:
输入:批处理(mini-batch)输入x:β={x1,...,m}式中xi是激活函数输入,m为mini-batch大小,初始化学习参数γ和β;
输出:规范化后网络响应{yi=BNγ,β(xi)};
(1)计算批处理数据均值μβ,公式为:
(2)计算批处理数据方差公式为:
(3)规范化,公式为:
(4)尺度变换和偏移,公式为:
yi=γxi+β=BNγ,β(xi)
(5)返回学习参数γ和β。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910676299.5A CN110363253A (zh) | 2019-07-25 | 2019-07-25 | 一种基于卷积神经网络的热轧带钢表面缺陷分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910676299.5A CN110363253A (zh) | 2019-07-25 | 2019-07-25 | 一种基于卷积神经网络的热轧带钢表面缺陷分类方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110363253A true CN110363253A (zh) | 2019-10-22 |
Family
ID=68221506
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910676299.5A Pending CN110363253A (zh) | 2019-07-25 | 2019-07-25 | 一种基于卷积神经网络的热轧带钢表面缺陷分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110363253A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111402236A (zh) * | 2020-03-17 | 2020-07-10 | 北京科技大学 | 一种基于图像灰度值的热轧带钢表面缺陷分级方法 |
CN111652870A (zh) * | 2020-06-02 | 2020-09-11 | 集美大学诚毅学院 | 一种布匹缺陷检测方法、装置、存储介质及电子设备 |
CN111798419A (zh) * | 2020-06-27 | 2020-10-20 | 上海工程技术大学 | 一种金属喷漆表面缺陷检测方法 |
CN112085727A (zh) * | 2020-09-17 | 2020-12-15 | 东北大学 | 一种热轧钢材表面氧化铁皮结构智能识别方法 |
CN112270649A (zh) * | 2020-09-30 | 2021-01-26 | 燕山大学 | 一种基于改进深度学习的板形识别方法 |
CN112967259A (zh) * | 2021-03-16 | 2021-06-15 | 山东建筑大学 | 基于熔池图像的等离子弧焊接穿孔状态预测方法及系统 |
CN113470001A (zh) * | 2021-07-22 | 2021-10-01 | 西北工业大学 | 一种用于红外图像的目标搜索方法 |
CN113610160A (zh) * | 2021-08-09 | 2021-11-05 | 广州市稳建工程检测有限公司 | 一种基于神经网络的钢筋检测分类方法、系统及存储介质 |
CN113628178A (zh) * | 2021-07-30 | 2021-11-09 | 安徽工业大学 | 一种速度与精度平衡的钢铁产品表面缺陷检测方法 |
CN113808197A (zh) * | 2021-09-17 | 2021-12-17 | 山西大学 | 一种基于机器学习的工件自动抓取系统及方法 |
CN113838034A (zh) * | 2021-09-27 | 2021-12-24 | 力度工业智能科技(苏州)有限公司 | 基于机器视觉的糖果包装表面缺陷快速检测方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108021938A (zh) * | 2017-11-29 | 2018-05-11 | 中冶南方工程技术有限公司 | 一种冷轧带钢表面缺陷在线检测方法以及检测系统 |
CN109886929A (zh) * | 2019-01-24 | 2019-06-14 | 江苏大学 | 一种基于卷积神经网络的mri肿瘤体素检测方法 |
KR20190078338A (ko) * | 2017-12-26 | 2019-07-04 | 주식회사 포스코 | 열연 공정에서의 캠버 제어 장치 |
-
2019
- 2019-07-25 CN CN201910676299.5A patent/CN110363253A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108021938A (zh) * | 2017-11-29 | 2018-05-11 | 中冶南方工程技术有限公司 | 一种冷轧带钢表面缺陷在线检测方法以及检测系统 |
KR20190078338A (ko) * | 2017-12-26 | 2019-07-04 | 주식회사 포스코 | 열연 공정에서의 캠버 제어 장치 |
CN109886929A (zh) * | 2019-01-24 | 2019-06-14 | 江苏大学 | 一种基于卷积神经网络的mri肿瘤体素检测方法 |
Non-Patent Citations (1)
Title |
---|
王立中: ""基于深度学习的带钢表面缺陷检测"", 《中国优秀硕士学位论文全文数据库 工程科技Ⅰ辑》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111402236A (zh) * | 2020-03-17 | 2020-07-10 | 北京科技大学 | 一种基于图像灰度值的热轧带钢表面缺陷分级方法 |
CN111402236B (zh) * | 2020-03-17 | 2023-04-28 | 北京科技大学 | 一种基于图像灰度值的热轧带钢表面缺陷分级方法 |
CN111652870B (zh) * | 2020-06-02 | 2023-04-07 | 集美大学诚毅学院 | 一种布匹缺陷检测方法、装置、存储介质及电子设备 |
CN111652870A (zh) * | 2020-06-02 | 2020-09-11 | 集美大学诚毅学院 | 一种布匹缺陷检测方法、装置、存储介质及电子设备 |
CN111798419A (zh) * | 2020-06-27 | 2020-10-20 | 上海工程技术大学 | 一种金属喷漆表面缺陷检测方法 |
CN112085727A (zh) * | 2020-09-17 | 2020-12-15 | 东北大学 | 一种热轧钢材表面氧化铁皮结构智能识别方法 |
CN112085727B (zh) * | 2020-09-17 | 2023-07-11 | 东北大学 | 一种热轧钢材表面氧化铁皮结构智能识别方法 |
CN112270649A (zh) * | 2020-09-30 | 2021-01-26 | 燕山大学 | 一种基于改进深度学习的板形识别方法 |
CN112967259A (zh) * | 2021-03-16 | 2021-06-15 | 山东建筑大学 | 基于熔池图像的等离子弧焊接穿孔状态预测方法及系统 |
CN112967259B (zh) * | 2021-03-16 | 2023-10-13 | 山东建筑大学 | 基于熔池图像的等离子弧焊接穿孔状态预测方法及系统 |
CN113470001A (zh) * | 2021-07-22 | 2021-10-01 | 西北工业大学 | 一种用于红外图像的目标搜索方法 |
CN113470001B (zh) * | 2021-07-22 | 2024-01-09 | 西北工业大学 | 一种用于红外图像的目标搜索方法 |
CN113628178A (zh) * | 2021-07-30 | 2021-11-09 | 安徽工业大学 | 一种速度与精度平衡的钢铁产品表面缺陷检测方法 |
CN113628178B (zh) * | 2021-07-30 | 2024-03-15 | 安徽工业大学 | 一种速度与精度平衡的钢铁产品表面缺陷检测方法 |
CN113610160A (zh) * | 2021-08-09 | 2021-11-05 | 广州市稳建工程检测有限公司 | 一种基于神经网络的钢筋检测分类方法、系统及存储介质 |
CN113610160B (zh) * | 2021-08-09 | 2024-03-15 | 广州市稳建工程检测有限公司 | 一种基于神经网络的钢筋检测分类方法、系统及存储介质 |
CN113808197A (zh) * | 2021-09-17 | 2021-12-17 | 山西大学 | 一种基于机器学习的工件自动抓取系统及方法 |
CN113838034A (zh) * | 2021-09-27 | 2021-12-24 | 力度工业智能科技(苏州)有限公司 | 基于机器视觉的糖果包装表面缺陷快速检测方法 |
CN113838034B (zh) * | 2021-09-27 | 2023-11-21 | 力度工业智能科技(苏州)有限公司 | 基于机器视觉的糖果包装表面缺陷快速检测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110363253A (zh) | 一种基于卷积神经网络的热轧带钢表面缺陷分类方法 | |
Jahanbakhshi et al. | Classification of sour lemons based on apparent defects using stochastic pooling mechanism in deep convolutional neural networks | |
Wang et al. | Grid-based pavement crack analysis using deep learning | |
CN107092870B (zh) | 一种高分辨率影像语义信息提取方法 | |
CN106919951B (zh) | 一种基于点击与视觉融合的弱监督双线性深度学习方法 | |
CN112446388A (zh) | 一种基于轻量化二阶段检测模型的多类别蔬菜幼苗识别方法及系统 | |
CN109508655A (zh) | 基于孪生网络的不完备训练集的sar目标识别方法 | |
CN107977671A (zh) | 一种基于多任务卷积神经网络的舌象分类方法 | |
CN108021947B (zh) | 一种基于视觉的分层极限学习机目标识别方法 | |
CN109101938B (zh) | 一种基于卷积神经网络的多标签年龄估计方法 | |
CN109002755B (zh) | 基于人脸图像的年龄估计模型构建方法及估计方法 | |
CN110827260B (zh) | 一种基于lbp特征与卷积神经网络的布匹缺陷分类方法 | |
CN110633708A (zh) | 一种基于全局模型和局部优化的深度网络显著性检测方法 | |
CN110321862B (zh) | 一种基于紧致三元损失的行人再识别方法 | |
CN110211127B (zh) | 基于双相关性网络的图像分割方法 | |
Kumar et al. | Multiclass classification of nutrients deficiency of apple using deep neural network | |
Tan et al. | Rapid fine-grained classification of butterflies based on FCM-KM and mask R-CNN fusion | |
CN110334747A (zh) | 基于改进卷积神经网络的图像识别方法及应用 | |
Suwarningsih et al. | Ide-cabe: chili varieties identification and classification system based leaf | |
CN115393631A (zh) | 基于贝叶斯层图卷积神经网络的高光谱图像分类方法 | |
Singh et al. | Apple Disease Classification Built on Deep Learning | |
Rethik et al. | Attention Based Mapping for Plants Leaf to Classify Diseases using Vision Transformer | |
Li et al. | Criminal investigation image classification based on spatial cnn features and elm | |
Laxmi et al. | Artificially Ripened Mango Fruit Prediction System Using Convolutional Neural Network | |
CN111680760A (zh) | 服装风格识别方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191022 |
|
RJ01 | Rejection of invention patent application after publication |