CN108229571A - 基于kpca算法与深度信念网络的苹果表面病变图像识别方法 - Google Patents

Abstract

本发明公开了一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法。首先采集苹果表面图片作为数据集，一部分作为训练集图像，另一部分作为测试集图像，利用KPCA算法对训练集图像预处理，通过构建一个深度信念网络，将预处理之后的训练集图像送入深度信念网络中进行训练，从而得到一个深度信念网络模型，最终用测试集图像对该模型进行测试，通过用一个Softmax分类器得出分类结果。本发明能够科学的分析出苹果在生长过程中的状况，进而对不佳的状况做出相应的补救措施，同时，在销售苹果时，也能将优良的苹果筛选出来，帮助果农获得更高的收益。

Description

基于KPCA算法与深度信念网络的苹果表面病变图像识别方法

技术领域

本发明涉及苹果表面病变图像识别领域，特别是涉及一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法。

背景技术

我国的苹果大多数种植于北方，由于复杂多变的自然条件，使得苹果在生长过程中会出现各种状况，比如苹果出现斑迹、腐烂等情况，如果不能进行相应的补救措施，这样会导致生长出来的苹果质量下降，进而导致果农的收益降级。

传统的人工检测苹果生长质量时，比较费时费力，并且只能根据苹果的外观进行推测，这样无法得到科学有效的识别，进而无法对苹果生长过程中出现的状况作出及时的应对措施，会影响果农的收益。

发明内容

为了解决现有技术的不足，本发明提供了一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，其利用对训练集图像预处理手段，其中用到了KPCA算法，通过非线性映射把输入空间投影到高维特征空间，然后在高维特征空间中进行主成分分析，进一步达到降维的目的，也达到对数据非线性特征提取的目的。

本发明为解决上述技术问题采用以下技术方案:

基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，包括：

步骤1：采集训练集苹果表面图像，并对采集到的训练集苹果图像进行存储和读取；

步骤2：将步骤1采集的训练集苹果表面图像进行预处理；

步骤3：构建深度信念网络，用预处理后的训练集苹果表面图像对该深度信念网络进行训练，进而得到深度信念网络模型；

步骤4：采集测试集苹果表面图像，并对采集到的测试集苹果表面图像进行存储和读取；

步骤5：利用训练好的深度信念网络模型对测试集苹果表面图像进行测试；

步骤6：用Softmax分类器对步骤5中测试后的结果进行分类,同时输出分类结果。

作为本发明基于KPCA算法与深度信念网络的苹果表面病变图像识别方法的进一步优选方案，在步骤1中，训练集苹果表面图像包括有标签的图像和无标签的图像。

作为本发明基于KPCA算法与深度信念网络的苹果表面病变图像识别方法的进一步优选方案，在步骤2中，预处理，具体包括缩放、色彩抖动和KPCA方法处理。

作为本发明基于KPCA算法与深度信念网络的苹果表面病变图像识别方法的进一步优选方案，在步骤2中，所述的将将采集的训练集苹果表面图像进行预处理，其中用到了KPCA算法，该算法是核主成分分析,是主成分分析算法PCA的非线性扩展，通过非线性映射把输入空间投影到高维特征空间，然后在高维特征空间中进行主成分分析，进一步达到降维的目的，也达到对数据非线性特征提取的目的。

作为本发明基于KPCA算法与深度信念网络的苹果表面病变图像识别方法的进一步优选方案，在步骤3中，所述的构建深度信念网络，用预处理后的训练集对该网络进行训练，得到深度信念网络模型，具体包含如下步骤：

3.1构建一个包含三层限制波尔曼兹机和一层反向传播神经网络的深度信念网络，即由三层RBM网络和一层BP网络构成DBN网络；

3.2将预处理后的训练集数据输入到第一层RBM的可视层，进行无监督训练，提取数据的初步特征信息，通过梯度下降法和隐层到显层的重构及对比散度的方法，从而更新权重；将第一层RBM的隐层作为第二层RBM的可视层，进一步提取数据的特征信息，更新权重；将第二层RBM的隐层作为第三层RBM的可视层，提取更深的特征信息；

3.3在第三层RBM的输出端接入一个BP网络，将RBM的输出特征向量作为它的输入特征向量，利用预处理后的带标签数据集对每一层RBM自顶向下有监督的反向传播，从而微调整个网络模型参数，得到更准确的预测结果。

本发明有益效果是：

1、本发明利用对训练集图像预处理手段，其中用到了KPCA算法，通过非线性映射把输入空间投影到高维特征空间，然后在高维特征空间中进行主成分分析，进一步达到降维的目的，也达到对数据非线性特征提取的目的；

2、本发明利用深度信念网络逐层贪婪的训练方法提取数据特征，能够获取各种表面病变的苹果图像在识别过程中所需的信息，降低了无关信息的影响，提高了识别的准确性；

3、本发明的一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，将在生长过程中的苹果发生表面病变的情况做了一个准确分析，可以提早采取补救措施，提高果农的收益。此方法还可以适用于对不同品质苹果的筛选，在出售苹果时，根据不同的品质标明对应的售价，省时省力，提高效率。

附图说明

图1是一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法的流程图；

图2是本发明的深度信念网络的解析图。

具体实施方式

下面结合附图对本发明的技术方案做进一步的详细说明：

图1是本发明的一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法的流程图，具体包括以下步骤：

步骤1：采集训练集苹果表面图像，训练集图像包括有标签的图像和无标签的图像，并对采集到的训练集苹果图像进行存储和读取。本步骤进一步包括以下子步骤：

步骤1.1，采集3200张苹果图像作为训练集图像，即X＝{x₁,x₂,...,x_m},m＝1,2,...3200。

步骤1.2，将训练集中的2000张苹果图像作为无标签的训练集，将另外训练集中的1200张苹果图像作为有标签的训练集。其中，在无标签的训练集中，刮痕苹果、斑迹苹果、腐烂苹果及完好苹果各为500份；在有标签的训练集中，刮痕苹果、斑迹苹果、腐烂苹果及完好苹果各为300份。

步骤1.3，将采集到的训练集苹果图像进行存储和读取。

步骤2：将采集的训练集苹果表面图像进行预处理。本步骤包括一下子步骤：

步骤2.1，将采集到的训练集进行包括缩放、色彩抖动处理。

步骤2.2，将缩放、色彩抖动处理后的训练集图像进行KPCA算法的处理，具体实施如下：

通过非线性映射把样本数据集投影到高维特征空间，设非线性映射函数为Φ，特征空间为F,即Φ:x∈X→Φ(x)∈F,其中Φ(X)＝{Φ(x₁),Φ(x₂),...,Φ(x_m)}，让Φ(X)进行PCA处理。

假设数据集已经满足中心化，即满足

其样本空间的协方差矩阵为：

根据协方差矩阵求其特征值λ以及特征向量v,由特征方程可得

Cv＝λv (3)

由于特征向量可以由非线性映射函数线性表示，所以有

定义核矩阵K中的每个元素为

K_i,j＝K(x_i，x_j)＝Φ(x_i)·Φ(x_j) (5)

由(2)(3)(4)(5)得

Kα＝mλα (6)

其中，α＝(α₁,α₂，...，α_m)^T

求解(6)得到K的特征值和对应的特征向量，对于数据集在特征空间V^T的投影为：

由于(1)式是假设数据集满足中心化的，所以需要对Φ(x_i)进行调整

由于数据集的中心化公式进行了调整，所以核矩阵K也要做调整为

上述是KPCA的基本原理，将KPCA算法应用于苹果表面图像特征提取，算法如下：

根据训练集图像X＝{x₁,x₂,...,x_m}，m＝1,2,...3200，若每个样本的特征维度是n,即可得到X集合的矩阵为：

步骤2.2.1,将苹果表面病变图像矩阵X按根据每个样本对于的特征按列展成列向量，选取适当的核函数和参数，根据(5)得到K,根据对数据集中心化的调整，得到调整后的核矩阵

步骤2.2.2，求解的特征值和特征向量，按特征值的大小排序得得到对应的特征向量为通过对特征向量标准化，得到

步骤2.2.3，根据每个特征值的贡献率，取前k个特征值对应的特征向量让调整后的核矩阵在完成投影，即其中此时的就是原数据集经过KPCA算法处理后得到的降维数据。

步骤3：构建深度信念网络，用预处理后的训练集对该网络进行训练，得到深度信念网络模型。具体包括以下子步骤：

步骤3.1，构建一个包含三层RBM和一个BP网络的深度信念网络。

其中每层RBM只有一个可视层和一个隐层，三层RBM是叠加起来的，即第一层RBM的隐层是第二层RBM的可视层，第二层RBM的隐层是第三层RBM的可视层，在第三层的RBM的输出端连接一个BP网络，激活函数为sigmod函数。

步骤3.2，将预处理后的训练集输入到第一层RBM的可视层，进行无监督的训练，提取特征数据。可视层v和隐层h的联合能量公式为：

其中θ是RBM的参数{W,b,c},v_i是可视层的第i个神经元，h_j是隐层的第j个神经单元，W_ij为可见层神经元i到隐藏层神经元j的连接权值，b_i为可见层第i个神经元的偏置，c_j为隐藏层第j个神经元的偏置。

由可视层和隐层变量的联合能量E(v,h|θ)可以得到二者的联合概率公式为：

其中

在v已知时，隐层中的各个hj被激活的条件概率为：

同理，在h已知时，隐层中的各个v_i被激活的条件概率为：

通过对v和h的联合概率可以得到最大似然函数，然后通过过梯度下降法，在结合对比散度方法，可得到参数更新规则为：

ΔW_ij＝ε(<v_ih_j>_data-<v_ih_j>_recon) (15)

Δbi＝ε(<v_i>_data-<v_i>_recon) (16)

Δc_j＝ε(<h_j>_data-<h_j>_recon) (17)

其中，ε是学习率，<·>_data是样本数据的期望，<·>_recon是重构后可视层数据的期望。

根据上面的参数更新规则更新参数，达到预期的结果或完成指定的循环次数后终止更新。对于训练集中的其他数据，也根据本步骤的方案来更新参数。

步骤3.3,保留第一层RBM的特征信息，将第一层RBM的隐层作为第二层RBM的可视层，充分训练，通过梯度下降法和隐层到显层的重构及对比散度的方法，从而更新权重，提取数据特征信息。

步骤3.4，将第二层RBM的隐层作为第三层RBM的可视层，充分训练，通过梯度下降法和隐层到显层的重构及对比散度的方法，从而更新权重,进一步提取数据的特征信息。

步骤3.5，在第三层RBM的输出端接入一个BP网络，将RBM的输出特征向量作为它的输入特征向量，利用预处理后的带标签数据集对每一层RBM自顶向下有监督的反向传播，从而微调整个网络模型参数，得到更准确的预测值。

步骤4：采集测试集苹果图像，并对采集到的测试集苹果图像进行存储和读取；

步骤5：利用训练好的深度信念网络模型对测试集苹果图像进行测试；

步骤6：用Softmax分类器对步骤5中测试后的结果进行分类,输出分类结果。

本发明的一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，利用了KPCA算法和深度信念网络的优势，充分提取苹果图像特征，让分类结果更加准确。

Claims (5)

1.基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，其特征在于，包括以下步骤：

步骤1：采集训练集苹果表面图像，并对采集到的训练集苹果图像进行存储和读取；

步骤2：将步骤1采集的训练集苹果表面图像进行预处理；

步骤3：构建深度信念网络，用预处理后的训练集苹果表面图像对该深度信念网络进行训练，进而得到深度信念网络模型；

步骤4：采集测试集苹果表面图像，并对采集到的测试集苹果表面图像进行存储和读取；

步骤5：利用训练好的深度信念网络模型对测试集苹果表面图像进行测试；

步骤6：用Softmax分类器对步骤5中测试后的结果进行分类,同时输出分类结果。

2.根据权利要求1所述的一种基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，其特征在于：

在步骤1中，训练集苹果表面图像包括有标签的图像和无标签的图像。

3.根据权利要求1所述的基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，其特征在于：

在步骤2中，预处理，具体包括缩放、色彩抖动和KPCA方法处理。

4.根据权利要求2所述的基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，其特征在于：

在步骤2中，KPCA方法处理是核主成分分析,是主成分分析算法PCA的非线性扩展，通过非线性映射把输入空间投影到高维特征空间，然后在高维特征空间中进行主成分分析，完成降维和对数据的非线性特征提取。

5.根据权利要求1所述的基于KPCA算法与深度信念网络的苹果表面病变图像识别方法，其特征在于：

在步骤3中，所述的构建深度信念网络，用预处理后的训练集对该网络进行训练，得到深度信念网络模型，具体包含如下步骤：

3.1构建一个包含三层限制波尔曼兹机和一层反向传播神经网络的深度信念网络，即由三层RBM网络和一层BP网络构成DBN网络；

3.2将预处理后的训练集数据输入到第一层RBM的可视层，进行无监督训练，提取数据的初步特征信息，通过梯度下降法和隐层到显层的重构及对比散度的方法，从而更新权重；将第一层RBM的隐层作为第二层RBM的可视层，进一步提取数据的特征信息，更新权重；将第二层RBM的隐层作为第三层RBM的可视层，提取更深的特征信息；

3.3在第三层RBM的输出端接入一个BP网络，将RBM的输出特征向量作为它的输入特征向量，利用预处理后的带标签数据集对每一层RBM自顶向下有监督的反向传播，从而微调整个网络模型参数，得到更准确的预测结果。