CN108038517A - 基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法 - Google Patents

Abstract

基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，本发明涉及玉米叶片病害识别方法。本发明为了解决现有技术病害种类识别精确度低以及系统的鲁棒性差的缺点。本发明包括：一：将收集的玉米叶片图像数据集进行扩大后，进行图像数据集的预处理；预处理后的图像数据集分为训练集和测试集；二：在卷积神经网络模型Cifar10的两个全连接层之间添加Relu与Dropout操作，得到最优测试精度的Dropout概率值；三：确定三个卷积层后的最优池化组合方式，得到改进后的卷积神经网络模型；四：将测试集输入改进后的卷积神经网络模型中，完成对玉米叶片病害种类的识别。本发明用于图像识别技术领域。

Description

基于改进卷积神经网络模型Cifar10的玉米叶片病害识别 方法

技术领域

本发明涉及图像识别技术领域，具体涉及基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法。

背景技术

玉米是我国重要的粮食作物和饲料作物。近些年由于耕作栽培制度的改变、病原菌品种的变异、植物保健措施不健全等造成玉米病害发生且危害程度逐年加重，种类也逐年增多，常见的玉米叶片病害有：大斑病、小斑病、锈病、圆斑病、弯孢叶斑病、矮花叶病等。在我国现行的病害分类、识别工作主要是依靠少数植保专家和农技人员来完成的，但病害种类繁多，而每一位植保专家穷其所能也只能识别部分病害。

在当今模式识别领域，基于无监督的深度学习理论及其改进方法成为众多学者研究的热点，该算法在人脸识别、物体识别领域被广泛应用，并取得了较好的效果。基于作物病害图像的作物病害识别方法研究一直是图像处理和机器学习领域的一个重要的研究课题，但是当前的方法往往面临网络参数较多、识别精确度不高的问题。因此，如何减少训练时网络模型的参数，并且提高玉米叶片病害种类的识别精确度已经成为急需解决的技术问题。

发明内容

本发明的目的是为了解决现有技术病害种类识别精确度低以及系统的鲁棒性差的缺点，而提出基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法。

基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法包括以下步骤：

步骤一：进行玉米叶片图像数据集的收集，将收集的玉米叶片图像数据集进行扩大后，进行图像数据集的预处理；预处理后的图像数据集分为训练集和测试集；

步骤二：在卷积神经网络模型Cifar10的两个全连接层之间添加Relu与Dropout操作，将步骤一预处理后的训练集输入到添加Relu与Dropout操作后的卷积神经网络模型Cifar10中进行训练，将步骤一预处理后的测试集输入到训练后的添加Relu与Dropout操作后的卷积神经网络模型Cifar10中，得到最优测试精度的Dropout概率值；

步骤三：采用步骤二得到的最优测试精度的Dropout概率值，将步骤一预处理后的训练集输入到步骤二添加Relu与Dropout操作后的卷积神经网络模型Cifar10中，并采用不同的池化组合方式进行训练，将步骤一预处理后的测试集输入到训练后的添加Relu与Dropout操作后的不同的池化组合方式的卷积神经网络模型Cifar10中，确定三个卷积层后的最优池化组合方式，得到改进后的卷积神经网络模型；

步骤四：将步骤一预处理后的测试集输入步骤三得到的改进后的卷积神经网络模型中，完成对玉米叶片病害种类的识别。

本发明的有益效果为：

本发明首先探究改进模型的Dropout参数与测试精确度之间的关系，当Dropout概率为0.65时，模型的测试精确度最高为97.8％。固定Dropout概率，然后对3个卷积层后的4种池化类型组合：Max-pooling/Ave-pooling/Ave-pooling(最大池化-均值池化-均值池化)、Max-pooling/Max-pooling/Ave-pooling(最大池化-最大池化-均值池化)、Max-pooling/Max-pooling/Max-pooling(最大池化-最大池化-最大池化)、Ave-pooling/Ave-pooling/Ave-pooling(均值池化-均值池化-均值池化)进行实验。将此模型的学习率固定为0.0002，每迭代20次就对模型的训练及测试精确度与损失进行一次测量，经50000次迭代后，得到的模型测试精确度以及损失数值，本发明的训练精确度为98.8％，测试精确度为97.8％，模型损失为7.6894％，本发明提高了系统的鲁棒性。

附图说明

图1为本发明流程图；

图2为利用原始卷积神经网络模型Cifar10对玉米叶片图像数据集进行病害识别的测试精确度随迭代次数变化的曲线图；

图3为利用原始卷积神经网络模型Cifar10对玉米叶片图像数据集进行病害识别的模型损失随迭代次数变化的曲线图；

图4为利用最大池化-均值池化-均值池化时对玉米叶片图像数据集进行病害识别的测试精确度随迭代次数变化的曲线图；

图5为利用最大池化-均值池化-均值池化时对玉米叶片图像数据集进行病害识别的模型损失随迭代次数变化的曲线图；

图6为利用最大池化-最大池化-均值池化时对玉米叶片图像数据集进行病害识别的测试精确度随迭代次数变化的曲线图；

图7为利用最大池化-最大池化-均值池化时对玉米叶片图像数据集进行病害识别的模型损失随迭代次数变化的曲线；

图8为利用最大池化-最大池化-最大池化时对玉米叶片图像数据集进行病害识别的测试精确度随迭代次数变化的曲线图；

图9为利用最大池化-最大池化-最大池化时对玉米叶片图像数据集进行病害识别的模型损失随迭代次数变化的曲线图；

图10为利用均值池化-均值池化-均值池化时对玉米叶片图像数据集进行病害识别的测试精确度随迭代次数变化的曲线图；

图11为利用均值池化-均值池化-均值池化时对玉米叶片图像数据集进行病害识别的模型损失随迭代次数变化的曲线图；

图12为本发明改进的Cifar10卷积神经网络模型图。

具体实施方式

具体实施方式一：如图1所示，基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法包括以下步骤：

步骤一：进行玉米叶片图像数据集的收集，将收集的玉米叶片图像数据集进行扩大后，进行图像数据集的预处理；预处理后的图像数据集分为训练集和测试集；

步骤二：在卷积神经网络模型Cifar10的两个全连接层之间添加Relu(修正线性单元激活函数)与Dropout(随机关闭激活函数，即按照一定比例随机地让一部分隐层节点失效的操作)操作，将步骤一预处理后的训练集输入到添加Relu与Dropout操作后的卷积神经网络模型Cifar10中进行训练，将步骤一预处理后的测试集输入到训练后的添加Relu与Dropout操作后的卷积神经网络模型Cifar10中，得到最优测试精度的Dropout概率值；

步骤三：采用步骤二得到的最优测试精度的Dropout概率值，将步骤一预处理后的训练集输入到步骤二添加Relu与Dropout操作后的卷积神经网络模型Cifar10中，并采用不同的池化组合方式进行训练，将步骤一预处理后的测试集输入到训练后的添加Relu与Dropout操作后的不同的池化组合方式的卷积神经网络模型Cifar10中，确定三个卷积层后的最优池化组合方式，得到改进后的卷积神经网络模型；

步骤四：将步骤一预处理后的测试集输入步骤三得到的改进后的卷积神经网络模型中，完成对玉米叶片病害种类的识别。

本发明与现有玉米叶片病害识别技术相比解决了模型训练时参数较多、病害种类识别精度低的缺陷。本发明包括以下步骤：训练及测试图像数集的收集、扩大、预处理和标记；构建以及改进深度卷积神经网络模型Cifar10；利用图像集中的训练集对网络进行训练；将测试样本输入训练完成后的卷积神经网络模型中，进行玉米叶片病害图像的自动识别，识别出待测病害图像的类别。本发明利用改进的卷积神经网络模型Cifar10对9类玉米叶片图像的特征进行提取，优化后的模型对玉米叶片病害种类的识别精确度有一定的提高，且模型参数较少。

具体实施方式二：本实施方式与具体实施方式一不同的是：所述步骤一中将收集的玉米叶片图像数据集进行扩大的具体过程为：

将玉米叶片图像数据集中的图像分别进行90°、180°、270°的旋转(每个图像都进行90°、180°、270°的旋转，旋转后一张图像变为4张图像)，将旋转后的图像进行镜像处理，将镜像处理后的图像的中心按照相同尺寸进行分割；将旋转、镜像及分割后的图像依次转换为灰度图(将经上述步骤处理过后的玉米叶片图像数据集中的部分图像转换为灰度图)。

其它步骤及参数与具体实施方式一相同。

具体实施方式三：本实施方式与具体实施方式一或二不同的是：所述步骤一中进行图像数据集的预处理的具体过程为：

利用Python语言基于OpenCv对输入数据集中的图像名称、格式及大小进行归一化处理，对归一化处理后的图像类别进行标记，所述图像类别包括8个叶片病害类别和1个健康叶片类别，8个叶片病害类别为大斑病、小斑病、锈病、褐斑病、圆斑病、弯孢菌叶斑病、灰斑病和矮花叶病。

其它步骤及参数与具体实施方式一或二相同。

具体实施方式四：本实施方式与具体实施方式一至三之一不同的是：所述步骤一中训练集为图像数据集的80％，测试集为图像数据集的20％。

其它步骤及参数与具体实施方式一至三之一相同。

具体实施方式五：本实施方式与具体实施方式一至四之一不同的是：所述步骤二中Relu的表达式具体为：

Relu(x)＝max(0,x)

其中Relu(x)为修正线性单元激活函数，x为经过第一个全连接层处理后的输出值。

其它步骤及参数与具体实施方式一至四之一相同。

具体实施方式六：本实施方式与具体实施方式一至五之一不同的是：所述步骤二中得到最优测试精度的Dropout概率值的具体过程为：

在0.5至0.75之间选取N个概率值进行训练，选取测试精度最大的概率值为最优测试精度的Dropout概率值，所述N大于等于5小于等于8。

其它步骤及参数与具体实施方式一至五之一相同。

具体实施方式七：本实施方式与具体实施方式一至六之一不同的是：所述步骤三中确定三个卷积层后的最优池化组合方式具体为：

第一个卷积层后的池化方式为最大池化，第二个卷积层后的池化方式为最大池化，第三个卷积层后的池化方式为均值池化。

其它步骤及参数与具体实施方式一至六之一相同。

采用以下实施例验证本发明的有益效果：

实施例一：

步骤一：进行玉米叶片图像数据集的收集，将收集的玉米叶片图像数据集进行扩大后，进行图像数据集的预处理；预处理后的图像数据集分为训练集和测试集；

玉米叶片图像数据集的收集，图像均来自Plant Village网站以及其它互联网搜索渠道，并将数据集分划分为9种不同的类别：8个叶片病害类别，1个健康叶片类别。所有搜集到的图像数据均利用Python语言通过比较图像的元数据(名称、尺寸和数据)自动删除某些图像，剩余的数据进行扩大后将会用于大量的迭代与评估；

采用旋转、镜像、分割、转换灰度图的方法将数据集进行扩大，这样能够使模型提取到更多的玉米叶片特征，并且在训练阶段减少过拟合现象的发生；

将图像进行预处理。为了使图像数据具有一致性并提取到更多的特征，本发明利用Python语言基于OpenCv对输入图像名称、格式及大小进行归一化处理，将扩大后的图像集尺寸变化为32*32像素，用于进行Cifar10模型的训练及测试。同时，对数据集中的各个样本进行标记，增强图像相关性，提高识别精确度与模型鲁棒性。并将处理后图像的80％用于网络的训练，20％的图像用于测试；

步骤二：构建Cifar10网络模型，它由3个卷积层，后跟2个全连接层，最后以一个损失层结束。模型中3个卷积层后都跟随池化层与修正线性单元激活函数。利用归一化后的32*32像素的训练样本作为模型的输入，在卷积神经网络模型Cifar10的两个全连接层之间添加修正线性单元激活函数以及按照一定比例随机地让一部分隐层节点失效的操作，将步骤一预处理后的训练集输入到添加修正线性单元激活函数与按照一定比例随机地让一部分隐层节点失效的操作后的卷积神经网络模型Cifar10中进行训练，将步骤一预处理后的测试集输入到训练后的添加修正线性单元激活函数与按照一定比例随机地让一部分隐层节点失效的操作后的卷积神经网络模型Cifar10中，随机关闭激活函数的概率值与网络测试精确度之间的关系见表1，得到最优测试精度时随机关闭激活函数的概率值，即当随机关闭激活函数的概率值为0.65时，模型的测试精确度最高为97.8％。；

表1 Dropout概率与测试精确度之间的关系

步骤三：采用步骤二得到的最优测试精度时的随机关闭激活函数的概率值，将步骤一预处理后的训练集输入到步骤二添加修正线性单元激活函数与按照一定比例随机地让一部分隐层节点失效的操作后的卷积神经网络模型Cifar10中，并采用不同的池化组合方式：最大池化-均值池化-均值池化、最大池化-最大池化-均值池化、最大池化-最大池化-最大池化、均值池化-均值池化-均值池化进行训练，将步骤一预处理后的测试集输入到训练后的添加修正线性单元激活函数与按照一定比例随机地让一部分隐层节点失效的操作后的不同的池化组合方式的卷积神经网络模型Cifar10中，将模型的学习率固定为0.0002，每迭代20次就对模型的训练及测试精确度与损失进行一次测量，经50000次迭代后，得到的模型测试精确度以及损失数值对比见表2。由表2可知，在本发明使用的四种池化组合方式中，最大池化-最大池化-均值池化的组合方式得到的训练精确度、测试精确度较高，模型损失较小。由此得到改进后的卷积神经网络模型，见图12；原始模型的测试精确度及损失变化如图2和图3所示，经本发明改进后的测试精确度与损失曲线如图4至图11所示。

表2 Cifar10改进模型实验结果

Cifar10网络模型的训练，使用预处理后的图像数据集来训练改进的卷积神经网络模型，将训练后模型中的所有或者部分参数值用作最终模型参数的初始值，使用收集的若干病害训练图像对已初步训练过的混合卷积神经网络模型进行微调，进一步优化网络模型的参数，完成对混合卷积神经网络模型的最终训练。

Cifar10模型的参数见表3；

表3 Cifar10模型参数

在Cifar10网络模型中，采用Relu激活函数定义为式(1)：

Relu(x)＝max(0,x) (1)

该函数能够自适应地学习整流器的参数，在可忽略不计的额外成本方面提高精确度。并且能够使梯度在进行反向传播时很好地传递到前面的网络层，防止梯度弥散的问题，同时加速网络训练。所涉及的池化方式为：均值池化，最大池化。最大池化是通过在特征图的k*k邻域内取最大值的方法来计算每个卷积内核输出的非重叠矩形区域的最大值，用于分离非常稀疏的特征，且能够减小卷积层参数误差造成估计均值的偏移误差，更多的保留纹理信息。定义为式(2)-(3)：

均值池化是利用局部接受域内的所有采样点求平均，能够减小由于邻域大小受限造成的估计值方差增大的误差，更多的保留图像的背景信息。定义为式(4)-(5)：

损失函数用来测量预测结果与输入的标签之间的差异，定义见式(6)，

其中W表示卷积和完全连接的层的权重矩阵，n表示训练样本的数量，i是训练样本的索引，并且k是类别的索引。如果第i个样本属于第k类，y_ik＝1；否则，y_ik＝0。P(x_i＝k)是模型预测的属于第k类的输入概率，它是参数W的函数。所以损失函数以W为参数。网络训练的目的是为了找到最小化损失函数E的W值，在本发明中，我们使用随机梯度下降算法(SGD)对W进行更新，更新方式见(7)

其中α为学习率，它是决定学习步长的非常重要的参数。

本发明利用Caffe框架、Visual Studio开发环境以及Python语言等在一台计算机上完成模型的训练及测试，相关参数见表4。

表4硬件及软件参数

步骤四：将步骤一预处理后的测试集输入步骤三得到的改进后的卷积神经网络模型中，完成对玉米叶片病害种类的识别。

本发明还可有其它多种实施例，在不背离本发明精神及其实质的情况下，本领域技术人员当可根据本发明作出各种相应的改变和变形，但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。

Claims (7)

1.基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述玉米叶片病害识别方法包括以下步骤：

步骤一：进行玉米叶片图像数据集的收集，将收集的玉米叶片图像数据集进行扩大后，进行图像数据集的预处理；预处理后的图像数据集分为训练集和测试集；

步骤二：在卷积神经网络模型Cifar10的两个全连接层之间添加Relu与Dropout操作，将步骤一预处理后的训练集输入到添加Relu与Dropout操作后的卷积神经网络模型Cifar10中进行训练，将步骤一预处理后的测试集输入到训练后的添加Relu与Dropout操作后的卷积神经网络模型Cifar10中，得到最优测试精度的Dropout概率值；

步骤三：采用步骤二得到的最优测试精度的Dropout概率值，将步骤一预处理后的训练集输入到步骤二添加Relu与Dropout操作后的卷积神经网络模型Cifar10中，并采用不同的池化组合方式进行训练，将步骤一预处理后的测试集输入到训练后的添加Relu与Dropout操作后的不同的池化组合方式的卷积神经网络模型Cifar10中，确定三个卷积层后的最优池化组合方式，得到改进后的卷积神经网络模型；

步骤四：将步骤一预处理后的测试集输入步骤三得到的改进后的卷积神经网络模型中，完成对玉米叶片病害种类的识别。

2.根据权利要求1所述的基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述步骤一中将收集的玉米叶片图像数据集进行扩大的具体过程为：

将玉米叶片图像数据集中的图像分别进行90°、180°、270°的旋转，将旋转后的图像进行镜像处理，将镜像处理后的图像的中心进行分割；将旋转、镜像及分割后的图像依次转换为灰度图。

3.根据权利要求2所述的基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述步骤一中进行图像数据集的预处理的具体过程为：

利用Python语言基于OpenCv对输入数据集中的图像名称、格式及大小进行归一化处理，对归一化处理后的图像类别进行标记，所述图像类别包括8个叶片病害类别和1个健康叶片类别，8个叶片病害类别为大斑病、小斑病、锈病、褐斑病、圆斑病、弯孢菌叶斑病、灰斑病和矮花叶病。

4.根据权利要求3所述的基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述步骤一中训练集为图像数据集的80％，测试集为图像数据集的20％。

5.根据权利要求4所述的基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述步骤二中Relu的表达式具体为：

Relu(x)＝max(0,x)

其中Relu(x)为修正线性单元激活函数，x为经第一个全连接层处理后的输出值。

6.根据权利要求5所述的基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述步骤二中得到最优测试精度的Dropout概率值的具体过程为：

在0.5至0.75之间选取N个概率值进行训练，选取测试精度最大的概率值为最优测试精度的Dropout概率值，所述N大于等于5小于等于8。

7.根据权利要求6所述的基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法，其特征在于：所述步骤三中确定三个卷积层后的最优池化组合方式具体为：

第一个卷积层后的池化方式为最大池化，第二个卷积层后的池化方式为最大池化，第三个卷积层后的池化方式为均值池化。