CN112434662B - 一种基于多尺度卷积神经网络的茶叶病斑自动识别算法 - Google Patents

Abstract

本发明属于基于图片特征的图像分类算法的研究领域，具体涉及一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，包括多卷积神经网络的训练过程：多卷积神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，当前向传播得出的结果与预期不相符时，将误差从高层次向底层次进行传播训练的阶段，即反向传播阶段。本算法能够准确地检测四种不同的茶叶病害图像，并且具有较高的识别精度，同时具有较快的识别速度。该特性主要得益于多卷积可以快速提取特征，并且减少训练算法的参数量从而有效防止过拟合，提高了算法的泛化能力。

Description

一种基于多尺度卷积神经网络的茶叶病斑自动识别算法

技术领域

本发明涉及基于图片特征的图像分类算法的研究领域，具体为一种基于多尺度卷积神经网络的茶叶病斑自动识别算法。

背景技术

然而茶叶很容易感染不同类型的疾病，例如茶白星病，叶枯病，赤叶斑病，茶煤病等。这些病害不仅影响当年生产的茶叶质量，而且也会对来年茶树的健康生长造成一定的阻碍。尽早发现茶叶病害，可减少潜在的损失和控制成本，对增加茶农的收入有重要意义。为了保证茶叶的产量和质量，茶树病虫害的防治就成为了一大热点和难点。目前，茶叶病害的识别是大部分由人工完成。由于茶树特殊的生长环境，多数茶树生长在崎岖山区，需要经验丰富的专家翻山越岭去检测大面积茶树林，且其检测结果很大程度上是主观的，不仅费时且价格昂贵。因此有效的自动识别茶叶病害对于提升国家经济和提升农民幸福感有着重要意义。随着精确农业技术的进步，传统的病斑识别算法由于识别精度不够，已经不能满足农民的需求，如主成分分析法、KNN (K-Nearest Neighbor)算法、随机森林算法、稀疏表示。尽管已有方法的性能不能令人满意，但已经为植物病害分类做了很多工作。

主成分分析(Principal Component Analysis，PCA)，是一种简化数据集的统计方法。它是一个线性变换，将数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二方差在第二个坐标(第二主成分)上，以此类推。主成分分析经常用减少数据集的维度，同时保持数据集中对方差贡献最大的特征以达到识别的目的。主成分分析最大的好处就是降维，使得数据的处理更容易，速度更快。随着进一步的研究发现，这些算法在发现线性结构时可以展现强大的功效，但是当面对潜在的非线性结构时，它们往往取得不理想的识别效果。对于高维数据(超过3维)，想观察数据间的结构关系是不可能的。

KNN算法是一种非常特别的机器学习算法,因为它没有一般意义上的学习过程。它的工作原理是利用训练数据对特征向量空间进行划分,并将划分结果作为最终算法模型。存在一个样本数据集合,也称作训练样本集,并且样本集中的每个数据都存在标签,即我们知道样本集中每一数据与所属分类的对应关系，得到数据识别。

KNN算法有以下几个缺点：

1)效率低，因为每一次分类或者回归，都要把训练数据和测试数据都算一遍，如果数据量很大的话，需要的算力会很惊人，但是在机器学习中，大数据处理又是很常见的一件事。

2)对训练数据依赖度特别大，虽然所有机器学习的算法对数据的依赖度很高，但是KNN尤其严重，因为如果我们的训练数据集中，有一两个数据是错误的，刚刚好又在我们需要分类的数值的旁边，这样就会直接导致预测的数据的不准确，对训练数据的容错性太差。

3)维数灾难，KNN对于多维度的数据处理也不是很好。

随机森林是一种统计学习理论，其随机有两个方面：首先是在训练的每一轮中，都是对原始样本集有放回的抽取固定数目的样本点，形成k个互不相同的样本集。第二点是：对于每一个决策树的建立是从总的属性中随机抽取一定量的属性作分裂属性集，这样对于k个树分类器均是不相同的。由随机生成的k个决策树组成了随机森林。随机森林顾名思义，使用随机的方式建立一个森林，森林里面有很多的决策树组成，随机森林的每一棵决策树之间是没有关联的。在得到森林之后，当有一个新的输入样本进入的死后，就让森林的每一棵决策树分别进行一下判断，看看这个样本应该属于哪一类(对于分类算法)，然后看看哪一类能被选择最多，就预测这个样本为那一类。

随机森林有以下缺点：

1)随机森林已经被证明在某些噪音较大的分类或回归问题上会过拟

2)对于有不同取值的属性的数据，取值划分较多的属性会对随机森林产生更大的影响，所以随机森林在这种数据上产出的属性权值是不可信的。

Fisher判别分析的思想非常朴素：给定训练样例集，设法将样例投影到一条直线上，使得同类样例的投影点尽可能接近、不同类样例的投影点尽可能远离。在对新样本进行分类时，将其投影到同样的这条直线上，再根据新样本投影点的位置来确定它的类别。

但是对于线性不可分的情况，fisher判别分析法是无法做出分类的。

发明内容

本发明的目的在于提供一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，能够有效分类不同的茶叶病害，自动提取图片的特征，并且计算复杂度较小同时具有较高的识别精度和识别速度。

为实现上述目的，本发明提供如下技术方案：一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，其特征在于，包括多卷积神经网络的训练过程：

多卷积神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，当前向传播得出的结果与预期不相符时，将误差从高层次向底层次进行传播训练的阶段，即反向传播阶段；具体训练过程为：

第一步：网络进行权值的初始化；

第二步：输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值；

第三步：求出网络的输出值与目标值之间的误差；

第四步：当误差大于我们的期望值时，将误差传回网络中，依次求得全连接层，下采样层，卷积层的误差；各层的误差可以理解为对于网络的总误差，网络应承担多少；当误差等于或小于我们的期望值时，结束训练。

第五步：根据求得误差进行权值更新。

优选的，包括卷积层，卷积层可实现对输入数据的特征提取功能，通过若干个卷积层重复作用于不同图像位置的感受野，将卷积所得到的结果组合得到特征图像，卷积层与输入接收区运算公式如下所示：

其中：x表示接收局域(M，N)的二维向量；w表示长和宽分别为j、i 的卷积层；b为每个输出特征映射所加的偏置项，y_conv为卷积结果；M为二维向量的长，N为二维向量的宽；f为激活函数。

优选的，包括池化层，池化层的主要作用是对卷积计算结果进行尺度缩小，以减少网络的参数量，经过池化层处理后的特征图的尺度会一定程度减小，尺寸为2，步长为2的最大池化函数为：

f_pool＝Max(x_m，n，x_m+1，n，x_m，n+1，x_m+1，n+1)，(0≤m≤M，0≤n≤N)

其中：f_pool为最大池化结果。

优选的，包括SoftMax分类器，SoftMax分类层是解决多分类问题的分类器，是由Logistic回归模型应用到多分类问题上的演化结果，由于Logistic 函数只能进行二分类任务，Logistic分类器继承了Logistic函数的回归，并利用多项Logistic回归实现多分类问题，在SoftMax回归中的多分类标签y 的取值范围为y＞＝2，训练样本集合中已经被标签的样本个数为n，构成为：

G＝{(x₁，y₁)，(x₂，y₂)，...，(x_n，y_n)}

其中：x_i表示样本集合，(y₁，y₂，...，y_n)代表分类标签。如果用j表示不同的类别，同时对j估算概率值，则单个样本被判别为第n类的概率为：

P(y＝j|x)，(j＝1，2，…，n)

将该样本集合转化为n维度的概率向量，得到其概率函数为：

其中：θ表示模型的学习参数，且的作用是把概率归一化并使得概率总和为1，经过样本的训练和模型的学习，SoftMax分类器迭代优化拟合数据曲线，同时调整参数θ用来优化损失函数，模型中的损失函数公式为：

其中：l{y_i＝j}表示当y_i＝j，为1，否则为0；

损失表示通过模型的损失函数计算出的损失值，准确性是模型基于给定标签在数据集上得出的评估结果，简单地说，通过损失函数的计算来更新模型参数，并计算正确分类的样本与模型的总样本之比，以衡量模型的效果，本文对模型进行了200次训练，并记录了每次训练后的所有测试。

优选的，所述卷积层、下采样层、全连接层共同组成隐含层。

优选的，所述多卷积神经网络是基于两种流行的深度学习框架，即 ResNet34和Inception-V3，一个SoftMax分类器组成，ResNet34和 Inception-V3输出特征图，然后再进行串联，进一步通过SoftMax分类器进行分类。

优选的，所述多卷积神经网络的训练过程中提供四类病变样本，分别为茶叶枯病样本、茶叶赤斑病样本、茶炭蛆病样本和茶煤病样本。

优选的，对于茶叶病害识别过程具体过程如下：

第一步：先提供茶叶枯病样本、茶叶赤斑病样本、茶炭蛆病样本和茶煤病样本，对多卷积神经网络进行训练；

第二步：然后提供待识别样本，将待识别样本输入经过训练的多卷积神经网络进行识别：

第三步：通过多卷积神经网络输出识别结果。

与现有技术相比，本发明的有益效果如下：

本算法能够准确地检测四种不同的茶叶病害图像，并且具有较高的识别精度，同时具有较快的识别速度。该特性主要得益于多卷积可以快速提取特征，并且减少训练算法的参数量从而有效防止过拟合，提高了算法的泛化能力。

附图说明

图1为本发明多卷积神经网络的训练过程；

图2为本发明茶叶病害图像本；

图3为本发明多卷积神经网络示意图；

图4为本发明茶叶病害识别过程示意图；

图5为本发明验证与测试的Accuracy和Loss。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例

请参阅图1-5，一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，包括多卷积神经网络的训练过程：

多卷积神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，当前向传播得出的结果与预期不相符时，将误差从高层次向底层次进行传播训练的阶段，即反向传播阶段；训练过程如图1所示，具体训练过程为：

第一步：网络进行权值的初始化；

第二步：输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值；

第三步：求出网络的输出值与目标值之间的误差；

第四步：当误差大于我们的期望值时，将误差传回网络中，依次求得全连接层，下采样层，卷积层的误差；各层的误差可以理解为对于网络的总误差，网络应承担多少；当误差等于或小于我们的期望值时，结束训练。

第五步：根据求得误差进行权值更新。

本实施例中，包括卷积层，卷积层可实现对输入数据的特征提取功能，通过若干个卷积层重复作用于不同图像位置的感受野，将卷积所得到的结果组合得到特征图像，卷积层与输入接收区运算公式如下所示：

其中：x表示接收局域(M，N)的二维向量；w表示长和宽分别为j、i 的卷积层；b为每个输出特征映射所加的偏置项，y_conv为卷积结果；M为二维向量的长，N为二维向量的宽；f为激活函数。

本实施例中，包括池化层，池化层的主要作用是对卷积计算结果进行尺度缩小，以减少网络的参数量，经过池化层处理后的特征图的尺度会一定程度减小，尺寸为2，步长为2的最大池化函数为：

f_pool＝Max(x_m，n，x_m+1，n，x_m，n+1，x_m+1，n+1)，(0≤m≤M，0≤n≤N)

其中：f_pool为最大池化结果。

池化层是每个卷积层后面修正卷积之后的结果的，多尺度卷积中每层卷积后面都有池化层。

本实施例中，包括SoftMax分类器，SoftMax分类层是解决多分类问题的分类器，是由Logistic回归模型应用到多分类问题上的演化结果，由于 Logistic函数只能进行二分类任务，Logistic分类器继承了Logistic函数的回归，并利用多项Logistic回归实现多分类问题，在SoftMax回归中的多分类标签y的取值范围为y＞＝2，训练样本集合中已经被标签的样本个数为n，构成为：

G＝{(x₁，y₁)，(x₂，y₂)，...，(x_n，y_n)}

其中：x_i表示样本集合，(y₁，y₂，...，y_n)代表分类标签。如果用j表示不同的类别，同时对j估算概率值，则单个样本被判别为第n类的概率为：

P(y＝j|x)，(j＝1，2，…，n)

将该样本集合转化为n维度的概率向量，得到其概率函数为：

其中：θ表示模型的学习参数，且的作用是把概率归一化并使得概率总和为1，经过样本的训练和模型的学习，SoftMax分类器迭代优化拟合数据曲线，同时调整参数θ用来优化损失函数，模型中的损失函数公式为：

其中：l{y_i＝j}表示当y_i＝j，为1，否则为0；

损失表示通过模型的损失函数计算出的损失值，准确性是模型基于给定标签在数据集上得出的评估结果，简单地说，通过损失函数的计算来更新模型参数，并计算正确分类的样本与模型的总样本之比，以衡量模型的效果，本文对模型进行了200次训练，并记录了每次训练后的所有测试，如图5所示，试验集的图像测试模型的损失和准确性表明改进后的模型具有较高的准确性和较低的损失。

SoftMax分类器用于多卷积神经网络训练过程最后一步，经过训练之后的特征由softmax进行判别，分类。

本实施例中，所述卷积层、下采样层、全连接层共同组成隐含层。

本实施例中，所述多卷积神经网络(如图3)是基于两种流行的深度学习框架，即ResNet34和Inception-V3，一个SoftMax分类器组成，算法识别过程如图4，ResNet34和Inception-V3输出特征图，然后再进行串联，进一步通过SoftMax分类器进行分类。

本实施例中，所述多卷积神经网络的训练过程中提供四类病变样本(如图2)，分别为茶叶枯病样本、茶叶赤斑病样本、茶炭蛆病样本和茶煤病样本。

本实施例中，对于茶叶病害识别过程具体过程如下：

第一步：先提供茶叶枯病样本、茶叶赤斑病样本、茶炭蛆病样本和茶煤病样本，对多卷积神经网络进行训练；

第二步：然后提供待识别样本，将待识别样本输入经过训练的多卷积神经网络进行识别：

第三步：通过多卷积神经网络输出识别结果。

本算法能够准确地检测四种不同的茶叶病害图像，并且具有较高的识别精度，同时具有较快的识别速度。该特性主要得益于多卷积可以快速提取特征，并且减少训练算法的参数量从而有效防止过拟合，提高了算法的泛化能力。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (3)

1.一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，其特征在于，包括如下步骤：

第一步：先提供茶叶枯病样本、茶叶赤斑病样本、茶炭蛆病样本和茶煤病样本，对多卷积神经网络进行训练；

第二步：然后提供待识别样本，将待识别样本输入经过训练的多卷积神经网络进行识别：

第三步：通过多卷积神经网络输出识别结果包括多卷积神经网络的训练过程：

所述多卷积神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，当前向传播得出的结果与预期不相符时，将误差从高层次向底层次进行传播训练的阶段，即反向传播阶段；具体训练过程为：

第一步：网络进行权值的初始化；

第二步：输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值；

第三步：求出网络的输出值与目标值之间的误差；

第四步：当误差大于我们的期望值时，将误差传回网络中，依次求得全连接层，下采样层，卷积层的误差；各层的误差可以理解为对于网络的总误差，网络应承担多少；当误差等于或小于我们的期望值时，结束训练；

第五步：根据求得误差进行权值更新；

包括卷积层，卷积层可实现对输入数据的特征提取功能，通过若干个卷积层重复作用于不同图像位置的感受野，将卷积所得到的结果组合得到特征图像，卷积层与输入接收区运算公式如下所示：

其中：x表示接收局域(M,N)的二维向量；w表示长和宽分别为j、i的卷积层；b为每个输出特征映射所加的偏置项，y_conv为卷积结果；M为二维向量的长，N为二维向量的宽；f为激活函数；

包括池化层，池化层的主要作用是对卷积计算结果进行尺度缩小，以减少网络的参数量，经过池化层处理后的特征图的尺度会一定程度减小，尺寸为2，步长为2的最大池化函数为：

f_pool＝Max(x_m,n,x_m+1,n,x_m,n+1,x_m+1,n+1),0≤m≤M,0≤n≤N

其中：f_pool为最大池化结果，

包括SoftMax分类器，SoftMax分类层是解决多分类问题的分类器，是由Logistic回归模型应用到多分类问题上的演化结果，由于Logistic函数只能进行二分类任务，Logistic分类器继承了Logistic函数的回归，并利用多项Logistic回归实现多分类问题，在SoftMax回归中的多分类标签y的取值范围为y>＝2，训练样本集合中已经被标签的样本个数为label，构成为：

G＝{(x₁,y₁),(x₂,y₂),...,(x_z,y_z)}

其中：x表示样本集合，y代表分类标签，如果用dif表示不同的类别，同时对dif估算概率值，则单个样本被判别为第z类的概率为：

P(y＝dif|x),dif＝1,2,...,z

将该样本集合转化为label维度的概率向量，得到其概率函数为：

其中：θ表示模型的学习参数，且

的作用是把概率归一化并使得概率总和为1，经过样本的训练和模型的学习，SoftMax分类器迭代优化拟合数据曲线，同时调整参数θ用来优化损失函数，模型中的损失函数公式为：

其中：m表示样本数量，l{y_a＝dif}表示当y_a＝dif，为1，否则为0；

损失表示通过模型的损失函数计算出的损失值，准确性是模型基于给定标签在数据集上得出的评估结果，简单地说，通过损失函数的计算来更新模型参数，并计算正确分类的样本与模型的总样本之比，以衡量模型的效果，本文对模型进行了200次训练，并记录了每次训练后的所有测试；

所述多卷积神经网络是基于两种流行的深度学习框架，即ResNet34和Inception-V3，一个SoftMax分类器组成，ResNet34和Inception-V3输出特征图，然后再进行串联，进一步通过SoftMax分类器进行分类。

2.根据权利要求1所述的一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，其特征在于，所述卷积层、下采样层、全连接层共同组成隐含层。

3.根据权利要求2所述的一种基于多尺度卷积神经网络的茶叶病斑自动识别算法，其特征在于，所述多卷积神经网络的训练过程中提供四类病变样本，分别为茶叶枯病样本、茶叶赤斑病样本、茶炭蛆病样本和茶煤病样本。

Images