CN108537266A - 一种深度卷积网络的织物纹理疵点分类方法 - Google Patents

Abstract

本发明涉及一种深度卷积网络的织物纹理疵点分类方法，所述深度卷积网络包括输入层、卷积层、下采样层、全连接层和输出层，其中，卷积层中的每个神经元的权值矩阵被称为卷积核，所述卷积核与输入之间是全部连接的，每个卷积核通过滑动窗口的方式提取输入数据不同位置的特征，所得结果为一个二维特征集合，即特征图；卷积层的特征图将作为下一层的输入继续传播；所述卷积核提取的特征能够对输入的图像进行逐层抽象，获得更高层次的分布式特征表达。本发明提高疵点分类的速度和准确率。

Description

一种深度卷积网络的织物纹理疵点分类方法

技术领域

本发明涉及织物疵点分类技术领域，特别是涉及一种深度卷积网络的织物纹理疵点分类方法。

背景技术

现代社会发展迅猛，计算机视觉技术正在广泛地研究和应用于各种工业生产的质量监控。传统的织物纹理疵点分类与检测是由人工视觉检测完成，具体地，人工将织物卷绕在验布机器上使其通过具有透射光的平面，验布人员在机器前通过人眼识别寻找疵点并进行标记、记录和后续修补工作。尽管人工视觉检测方法在以往的纺织生成过程中已经证明了其有效性，但是这种检测方法具有很多弊端，如受限于人类视觉和大脑的生理机能，人工分类和检测效率不高，疵点检出率低，稳定性差；同时增加劳动力成本和容易引起视觉相关职业疾病。采用自动验布检测系统则是通过对织物图像进行处理和分析完成织物疵点的检测与分类，而整个系统的关键是基于图像处理的疵点分类和检测算法。在疵点分类与检测算法的研发过程中缺乏先验性，导致疵点检测算法适应性难以保证；同时，计算机语言的特点决定了疵点检测算法中包含了大量迭代学习、处理和判断过程，在对大数据量的织物图像进行处理时，容易出现检测速度过低，算法的时效性难以满足等情况。

近年来，深度学习作为人工智能领域的一个重要分支，一种可以模拟人类视觉和大脑思维方式的学习算法，因为能够学习到大量数据的本质特征而获得了突破性的发展。深度学习模型具有强大的学习能力，高效的特征表达能力，从像素级原始数据到抽象的语义概念逐层提取信息，这使得它在提取图像的全局特征和上下文信息方面具有明显的优势，这为解决一些传统的计算机视觉问题，如图像分类、分割、检测和识别，带来了新的思路。在织物纹理疵点背景下，采用深度学习和现有织物疵点分类与检测算法的结合，将具有巨大的应用前景和意义。

经对现有技术的检索发现，目前还没有发现采用深度学习，尤其是深度卷积网络对织物纹理疵点进行分类的相关专利和文献，只有部分采用是传统的统计学方法、频谱分析方法和基于模型的方法对织物纹理疵点检测的文献，其主要思想与本发明还存在着较大的差别。专利CN105335763A中提出一种基于改进型极速学习机的织物疵点分类方法，虽然训练时间减少，但是方法本身对疵点分类的准确率对比于支持向量机(SVM)只是略有提高，未能从根本上解决问题。

发明内容

本发明所要解决的技术问题是提供一种深度卷积网络的织物纹理疵点分类方法，提高疵点分类的速度和准确率。

本发明解决其技术问题所采用的技术方案是：提供一种深度卷积网络的织物纹理疵点分类方法，所述深度卷积网络包括输入层、卷积层、下采样层、全连接层和输出层，包括以下步骤：

(1)构建织物纹理疵点数据库；

(2)将图像数据作为深度卷积网络的输入，然后深度卷积网络会对图像数据进行图像特征的学习，卷积层中的每个神经元的权值矩阵被称为卷积核，所述卷积核与输入之间是全部连接的，每个卷积核通过滑动窗口的方式提取输入数据不同位置的特征，所得结果为一个二维特征集合，即特征图；卷积层的特征图将作为下一层的输入继续传播；所述卷积核提取的特征能够对输入的图像进行逐层抽象，获得更高层次的分布式特征表达；

(3)下采样层将不同位置的特征进行聚合，对特征信息进行降维；

(4)下采样层的输出进行归一化处理，即将下采样层的输出进行线性变换把数据映射到[0，1]之间；

(5)全链接层采用全连接操作将下采样层的输出由一个特征空间线性变换到另一个特征空间；

(6)输出层选择为10个输出的softmax输出层，在输出层用softmax函数得到类别上的概率分布。

所述步骤(1)中还包括对织物纹理疵点数据库中的图像数据进行预处理的步骤，所述预处理包括：将疵点图像的尺寸调整为深度卷积网络训练时所设计的大小；对调整后的图像进行旋转和平移操作，使深度卷积网络尽可能学习多的图像特征。

所述步骤(2)中在卷积层，上一层的特征图被某个可学习的卷积核进行卷积操作，再通过一个激活函数，获得输出特征图，每个输出特征图组合卷积多个特征图的值；其中其中，是卷积层l的第j个通道的净激活，其通过对前一层输出特征图卷积求和与偏置后得到，是卷积层l的第j个通道的输出，函数f(·)表征激活函数；M_j表示用于计算的输入特征图子集，表示卷积核矩阵，为卷积操作后特征图的偏置，*为卷积符号。

有益效果

由于采用了上述的技术方案，本发明与现有技术相比，具有以下的优点和积极效果：本发明解决了在织物纹理疵点分类任务中，分类准确率问题，能够通过深度学习中深度卷积网络的自学习能力，对织物纹理疵点进行有效分类，同时结果具有很好的泛化能力。方法的分类效果将对工业织物生产具有重要的现实意义。

附图说明

图1是正常和疵点的织物图；

图2是深度卷积网络算法结构图；

图3是疵点分类方法整体结构图；

图4是疵点分类方法流程图；

图5是网络误差函数训练的结果图。

具体实施方式

下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。

本发明的实施方式涉及一种深度卷积网络的织物纹理疵点分类方法，疵点图像如图1所示，疵点的类型分别是正常、百脚、粗纬、吊经、结头、三跳、双经、双纬、污渍和稀纬等。图2是深度卷积网络的结构图，主要包括输入层、卷积层、下采样层、全连接层和输出层。DCNN的输入层可以直接作用于原始图像数据。卷积层的卷积运算在数学中包括连续性卷积运算和离散型卷积运算，运算公式如下：

连续性卷积运算公式：

离散型卷积运算公式：

下采样层，即针对输入图像进行卷积操作得到图像的特征图(featuremap)，再进行下采样得到新的特征。下采样层将每个输入特征图通过以下公式采样输出特征图：

其中，为下采样层l的第j通道的净激活，β是下采样层的权重系数，是偏置项。符号down(·)表征下采样函数，它针对输入特征图通过滑动窗口方法划分为多个不重叠n×n图像块，再对每个图像块求和，求最大值或者均值，结果会是输出图像在两个维度上都缩小n倍。全连接即为后面层的神经元节点都和前层的每一个神经元节点连接，而同一层的神经元节点之间是没有连接的。输出层神经元结点数目是根据具体的应用任务来确定的。图3是织物疵点分类方法的整体结构图。具体步骤如下：

(1)疵点图像作为网络输入之前，采用图像处理技术对织物原图进行预处理，其中主要包括将原图剪切成统一大小，图像噪声的滤除和图像增强等

(2)深度卷积网络的输入可以直接以图像作为原始输入数据，如对于输入是图像来说，则输入数据是图像的像素值。

(3)卷积层，其作用是对图像进行特征提取，卷积层最重要的就是卷积核。在卷积层，上一层的特征图被某个可学习的卷积核进行卷积操作，再通过一个激活函数(activation function)，即可以获得输出特征图，每个输出特征图可以组合卷积多个特征图的值：

其中，是卷积层l的第j个通道的净激活(net activation)，它通过对前一层输出特征图卷积求和与偏置后得到，是卷积层l的第j个通道的输出，函数f(·)表征激活函数。M_j表示用于计算的输入特征图子集，表示卷积核矩阵，为卷积操作后特征图的偏置。*为卷积符号，在输出特征图中，前一层输出特征图对应的卷积核可能是不相同的。

(4)数据经过卷积层后，会得到由不同卷积核产生的特征图，经过下采样处理，降低特征维数并能够保证最后特征表达的某些不变性(平移、旋转、伸缩等)。

(5)图像数据在网络中经过多次卷积和下采样操作后得到低维特征图，采用全连接操作，其核心即矩阵向量乘积，本质是由一个特征空间线性变换到另一个特征空间。

(6)在本发明的分类识别任务中，深度卷积网络输出层是一个分类器，我们在输出层用softmax函数得到类别上的概率分布。

如图4所示，本发明的具体工作过程如下：

(1)织物纹理疵点数据库构建，将现场拍摄的织物疵点图像数据上传到计算机中，这些原始疵点图像因含有噪声或异常干扰等情况，直接作为网络的输入会对分类效果造成重要影响，本发明先将原始图像数据进行预处理，预处理过程主要包括两个步骤，第一步将疵点图像的尺寸调整为深度卷积网络训练时所设计的大小(227×227×3)；第二步为增加每一类图像的多样性，对调整后的图像进行旋转和平移操作，目的是在一定程度上使深度卷积网络尽可能学习多的图像特征。

(2)预处理的图像数据作为深度卷积网络的输入，然后网络将会对图像数据进行图像特征的学习，卷积层中的每个神经元的权值矩阵被称为卷积核(kernel)或者滤波器(filter)，卷积核与输入之间是全部连接的，因而其网络参数与全连接方式相比减少很多、每个卷积核通过“滑动窗口”的方式提取输入数据不同位置的特征，所得结果为一个二维特征集合，即特征图(feature map)。本层的特征图将作为下一层的输入继续传播。卷积核可以提取某些有意义的特征，例如第一个卷积层的卷积核类似于Gabor滤波器，可以提取边缘、角等信息。多层的结构可以对输入的图像进行逐层抽象，获得更高层次的分布式特征表达。

(3)卷积层对图像特征提取完成后，下采样层对特征信息进行降维，下采样是计算机视觉和机器学习中常见操作，本质就是将不同位置的特征进行聚合。常见的下采样方式为平均下采样(mean pooling)、最大化下采样(max pooling)和随机下采样(stochasticpooling)等。通过下采样，不仅可以降低特征信息的维度，还可以提高特征的鲁棒性。

(4)一般情况下，会对下采样层的输出进行归一化处理，即将下采样输出进行线性变换把数据映射到[0，1]之间。

(5)相比于卷积层的局部连接方式，全连接层的全连接方式将会带来更多的网络参数。本发明中深度卷积网络的最后2层为全连接层(fc6～fc7)。由于之前的卷积层和池化层已经将特征的维数降低至可接受的大小，因而使用全连接层不会产生大的计算量。

(6)网络输出层选择为10个输出的softmax输出层。Softmax是计算标签概率的重要工具，且随着学习样本的增多通过对数最大似然与梯度下降可以无限逼近真实概率值；其次，softmax与对数最大似然这一组合在梯度下降中有很好的修正速度。

下面结合具体算例验证方法的有效性，本发明中数据库采用图1所描述的疵点样本样式，即选用10类疵点图像数据，里面包含1类正常织物图像和9类疵点图像，每类数据量为50张，图像像素大小为227×227×3。深度卷积网络模型采用图2中所示结构，其中卷积核的大小(kernel size)分别为11²、5²、3²、3²、3²像素，输出的特征图数目分别为96,、256、384、384、256个，卷积的步长(Stride)分别为3、1、1、1、1像素。下采样层采用最大化下采样方式，下采样的尺寸均为2²像素，下采样步长均为2像素。模型中2个全连接层，fc6和fc7层均为包含4096个神经元的隐含层。上述方法可以选用CPU或者GPU上运行，本发明实验是在在Nvidia GeForce GTX 1080，128G内存，Ubuntu14.04，tensorflow0.8.0平台下进行的。验证疵点分类效果最关键的指标是分类的准确率和分类速度，在上述平台下的分类速度的平均时间在1秒以内，可以达到纹理分类的一般要求。图5为网络学习过程中，误差函数训练的结果，其中横轴表示训练迭代次数，纵轴表示交叉熵代价函数(cost)，本发明的目的就是最小化代价函数。从图5可以看出，本发明中的模型能获得良好的效果。

Claims (3)

1.一种深度卷积网络的织物纹理疵点分类方法，其特征在于，所述深度卷积网络包括输入层、卷积层、下采样层、全连接层和输出层，包括以下步骤：

(1)构建织物纹理疵点数据库；

(2)将图像数据作为深度卷积网络的输入，然后深度卷积网络会对图像数据进行图像特征的学习，卷积层中的每个神经元的权值矩阵被称为卷积核，所述卷积核与输入之间是全部连接的，每个卷积核通过滑动窗口的方式提取输入数据不同位置的特征，所得结果为一个二维特征集合，即特征图；卷积层的特征图将作为下一层的输入继续传播；所述卷积核提取的特征能够对输入的图像进行逐层抽象，获得更高层次的分布式特征表达；

(3)下采样层将不同位置的特征进行聚合，对特征信息进行降维；

(4)下采样层的输出进行归一化处理，即将下采样层的输出进行线性变换把数据映射到[0，1]之间；

(5)全链接层采用全连接操作将下采样层的输出由一个特征空间线性变换到另一个特征空间；

(6)输出层选择为10个输出的softmax输出层，在输出层用softmax函数得到类别上的概率分布。

2.根据权利要求1所述的深度卷积网络的织物纹理疵点分类方法，其特征在于，所述步骤(1)中还包括对织物纹理疵点数据库中的图像数据进行预处理的步骤，所述预处理包括：将疵点图像的尺寸调整为深度卷积网络训练时所设计的大小；对调整后的图像进行旋转和平移操作，使深度卷积网络尽可能学习多的图像特征。

3.根据权利要求1所述的深度卷积网络的织物纹理疵点分类方法，其特征在于，所述步骤(2)中在卷积层，上一层的特征图被某个可学习的卷积核进行卷积操作，再通过一个激活函数，获得输出特征图，每个输出特征图组合卷积多个特征图的值；其中其中，是卷积层l的第j个通道的净激活，其通过对前一层输出特征图卷积求和与偏置后得到，是卷积层l的第j个通道的输出，函数f(·)表征激活函数；M_j表示用于计算的输入特征图子集，表示卷积核矩阵，为卷积操作后特征图的偏置，*为卷积符号。