CN108596213A - 一种基于卷积神经网络的高光谱遥感图像分类方法及系统 - Google Patents

Abstract

本发明公开了一种基于卷积神经网络的高光谱遥感图像分类方法及系统，所述方法首先对高光谱数据集进行归一化预处理操作，并将数据集分为训练集和测试集；然后构建包含多层卷积层，池化层及全连接层的三维卷积神经网络，通过训练集对卷积神经网络进行训练；最后利用训练好的卷积神经网络对测试集进行分类，从而达到对高光谱遥感图像分类的目的。本发明可充分利用高光谱图像中的光谱信息和空间信息，对高光谱遥感图像具有更好的特征表达能力和分类精度。

Description

一种基于卷积神经网络的高光谱遥感图像分类方法及系统

技术领域

本发明属于数字图像处理领域，具体涉及到一种基于卷积神经网络的高光谱遥感图像分类方法及系统。

背景技术

经过二十世纪后半叶的发展，遥感技术在理论及应用方面发生了重大的变化。其中，高光谱图像遥感技术是遥感技术变化中十分重要的一个方面。高光谱图像遥感技术利用高光谱传感器/成像光谱仪以数十至数百个连续细分的波段对目标区域同时成像，将图像与光谱结合，同时获取空间及光谱信息，得到以像素为单位的高光谱图像(Hyperspectral Imagery,HSI)。高光谱影像提供了丰富的光谱信息，在遥感对地观测系统中占据重要的位置，并被广泛应用于现代军事、精确农业及环境监控等诸多领域。随着高光谱成像仪的进一步发展，高光谱图像含有的信息量会更加巨大，高光谱图像的应用范围也会更加广泛。在不同的应用场合，越来越大的数据量对高光谱遥感对地观测技术也提出了更复杂的要求。高光谱图像分类技术是高光谱遥感对地观测技术的一项重要内容，其具体任务是对高光谱图像中的每一个像素所代表的目标进行分类。然而，由于光谱通道数量众多，训练样本有限，空间变异性大，高光谱数据分类仍然是一项具有挑战性的任务。

在早期的高光谱图像分类技术中，高光谱图像分类方法仅仅利用了高光谱图像中丰富的光谱信息，没有更深入的挖掘数据内在的信息。例如，距离分类器、K近邻分类器、最大似然分类器和罗杰斯特回归等。这些方法大多都会受到惠更斯现象的影响。即在训练数据有限的情况下，当数据维度过高，分类的精度会大幅度下降。近年来，随着特征提取和分类方法不断更新，提出了光谱空间分类法、局部Fisher判别法等多种方法，取得了较好的结果。其中最具代表性的就是支持向量机(Support Vector Machines,SVM)。SVM是核变换技术的代表算法之一，是一种具有精度高、运算速度快、泛化能力强等优点的统计学习新算法，其主要思想是利用核变换将低维空间线性不可分问题，转换到高维空间进行准确分类，虽然核变换方法在一定程度上取得了较为满意的分类精度，但是在核函数和最优参数组合的选择方面仍然是一个难点。

相较于传统方法，以卷积神经网络(Convolutional Neural Network,CNN)为代表的深度学习技术在图像分类、模式识别等领域有着良好的表现。近年来随着神经网络(Neural Network,NN)的发展，CNN越来越多地被应用于遥感数据的分类，如应用多层感知器MLP(Multilayer Perceptron)和径向基函数RBF(Radial Basis Function)。CNN方法在视觉领域的分类效果要优于传统的SVM分类器，然而，相关研究没有将CNN方法直接应用于高光谱图像的分类当中。因此，如何建立合适的网络结构，利用CNN对高光谱数据进行有效的分类，对于促进高光谱数据的分析应用具有重要意义。

发明内容

为了解决上述背景技术存在的问题，本发明提供一种基于卷积神经网络的高光谱遥感图像分类方法及系统。所述方法包括如下步骤：

S1、获取高光谱图像数据集，对高光谱图像数据集采用归一化预处理操作，将数据集分为训练集和测试集；

S2、构建三维卷积神经网络；

S3、利用归一化预处理后的训练集对三维卷积神经网络进行训练，获得训练好的三维卷积神经网络；

S4、将所述归一化预处理后的测试集通过训练好的三维卷积神经网络进行贝叶斯分类，得到分类结果图像数据。

在本发明的一种基于卷积神经网络的高光谱遥感图像分类方法中，所述步骤S1中的归一化预处理具体步骤如下：

S11、计算高光谱图像数据集中数据的均值；

S12、将所述高光谱图像数据集中每个样本数据的值减去数据均值；

S13、将所述减去数据均值的数据集进行相同分辨率下的重塑。

在本发明的一种基于卷积神经网络的高光谱遥感图像分类方法中，所述步骤S2的具体步骤如下：

S21、用逐层分析网络层的方法设计一个具有多层网络的深层卷积神经网络，包括输入层、若干卷积层、若干池化层、若干全连接层以及输出层；

S22、使用正则化对所述深层卷积神经网络的卷积核参数进行优化，以减轻训练网络时出现的过拟合现象，得到优化后的三维卷积神经网络。

在本发明的一种基于卷积神经网络的高光谱遥感图像分类方法中，所述步骤S3的具体步骤如下：

S31、将三维卷积神经网络的待训练系数进行初始化，初始化值为[-P，P]区间的随机值，其中P为小于1的常数；

S32、对所述三维卷积神经网络进行正向传播训练：训练时采用的模型如下xⁱ⁺¹＝f_i(uⁱ)

uⁱ＝Wⁱxⁱ+bⁱ

其中，xⁱ为第i层的输入；Wⁱ是第i层的权值向量，bⁱ为第i层的附加偏置向量；f_i(·)表示第i层的激活函数，uⁱ表示第i层的输出；

S33、对步骤S32获得的三维卷积神经网络进行反向传播训练：通过三维卷积神经网络的反向训练的输出结果与预设的期望进行比较，不断地迭代更新所述训练系数，迭代过程如下：

其中，学习率α为反向传播强度的控制因子；当输出结果满足期望值时，迭代终止，获得训练好的三维卷积神经网络。

优选的，本发明还提供了一种基于卷积神经网络的高光谱遥感图像分类系统，包括以下子模块：

归一化预处理模块，用于获取高光谱图像数据集，对高光谱图像数据集采用归一化预处理操作，并将数据集分为训练集和测试集；

三维卷积神经网络构建模块，用于构建三维卷积神经网络；

三维卷积神经网络训练模块，用于利用归一化预处理后的训练集对三维卷积神经网络进行训练，获得训练好的三维卷积神经网络；

图像分类模块，用于将所述归一化预处理后的测试集通过训练好的三维卷积神经网络进行贝叶斯分类，得到分类结果图像数据。

在本发明的一种基于卷积神经网络的高光谱遥感图像分类系统中，所述归一化预处理模块中的归一化预处理包含如下子模块：

数据均值计算模块，用于计算高光谱图像数据集中数据的均值；

数据处理模块，用于将所述高光谱图像数据集中每个样本数据的值减去数据均值；

分辨率重塑模块，用于将所述减去数据均值的数据集进行相同分辨率下的重塑。

在本发明的一种基于卷积神经网络的高光谱遥感图像分类系统中，所述三维卷积神经网络构建模块包含如下子模块：

卷积神经网络结构设计模块，用于通过逐层分析网络层的方法设计一个具有多层网络的深层卷积神经网络，包括输入层、若干卷积层、若干池化层、若干全连接层以及输出层；

三维卷积神经网络优化模块，用于使用正则化对所述深层卷积神经网络的卷积核参数进行优化，以减轻训练网络时出现的过拟合现象，得到优化后的三维卷积神经网络。

在本发明的一种基于卷积神经网络的高光谱遥感图像分类系统中，所述三维卷积神经网络训练模块包含如下子模块：

初始化模块，用于将三维卷积神经网络的待训练系数进行初始化，初始化值为[-P，P]区间的随机值，其中P为小于1的常数；

正向传播训练模块，用于对所述三维卷积神经网络进行正向传播训练：训练时采用的模型如下xⁱ⁺¹＝f_i(uⁱ)

uⁱ＝Wⁱxⁱ+bⁱ

其中，xⁱ为第i层的输入；Wⁱ是第i层的权值向量，bⁱ为第i层的附加偏置向量；f_i(·)表示第i层的激活函数，uⁱ表示第i层的输出。

反向传播训练模块，用于对正向传播训练模块中获得的三维卷积神经网络进行反向传播训练：通过三维卷积神经网络的反向训练的输出结果与预设的期望进行比较，不断地迭代更新所述训练系数，迭代过程如下：

其中，学习率α为反向传播强度的控制因子；当输出结果满足期望值时，迭代终止，获得训练好的三维卷积神经网络。

本发明的有益效果在于：1.本发明根据高光谱遥感图像数据具有的“图谱合一”的结构特点，提出了一种基于三维卷积神经网络的图像分类方法，避免了因传统二维卷积神经无法充分利用高光谱图像中的光谱信息和空间信息而导致的分类精度不高问题。

2.本发明首先截取高光谱数据图像，然后利用卷积神经网络对图像块进行多层卷积和池化操作，可更好获取高光谱数据的本质信息，有利于提高图像的分类精度。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为本发明的流程图；

图2为原始高光谱数据复合图像；

图3为地面实况参照图；

图4为三维卷积神经网络结构原理图；

图5为利用三维卷积神经网络对图像处理后提取的特征图；

图6为图像分类结果图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实例，对本发明进行进一步详细说明。本发明的实施流程图见图1。

1、这里选取的高光谱图像数据集为覆盖帕维亚大学工程学院的图像，复合图像如图2所示，像素为610×340，空间分辨率为每像素1.3米，该数据集合涵盖了9个感兴趣类。地面实况参照如图3所示，9个类别分别为Asphalt、Meadows、Gravel、Trees、Painted metalsheets、Bare soil、Bitumen、Self-blocking bricks、Shadows，计算高光谱图像数据集中数据的均值，将数据集中每个样本数据的值减去数据均值；将减去数据均值的数据集重塑为分辨率为224×224大小的图像，对图像数据集进行划分，分为训练集和数据集。

2、用逐层分析网络层的方法设计了一个具有多层网络的深层卷积神经网络，其包括输入层、若干卷积层、若干池化层、若干全连接层以及输出层，结构原理图见图4。

3、利用训练集对深层卷积神经网络进行训练。构造损失函数如下：

式中，为预测输出，y为真实样本输出。

用正向-反向传播算法对构建的网络进行训练，不断地迭代更新系数，使得输出结果接近期望值，使用正则化对相关网络参数进行优化，以减轻训练网络时出现的过拟合现象，得到优化后的卷积神经网络。

4、利用训练好的三维卷积神经网络对对待识别的图像测试数据集进行边缘检测，这里采用的是Cann_y边缘检测算子，得到特征图如图5所示，得到的边缘平滑，噪声低，误差小；对特征图进行特征提取，得到特征向量，基于特征向量的稀疏性对特征向量和权重矩阵进行乘加运算，得到输出结果，这里使用的分类方法为贝叶斯分类。分类依据为：

(1)设x＝{a₁,a₂,L a_m}为一个待分类，a₁,a₂,L a_m为x的m个特征属性；

(2)有类别集合C＝{y₁,y₂,L,y₉}共9个类别；

(3)计算P(y₁|x),P(y₂|x),L P(y₉|x)；

(4)P(y_k|x)＝max{P(y₁|x),P(y₂|x),L P(y₉|x)}，则x∈y_k。

实验得到的分类图如图6所示，分类正确率如表1所示。

表1分类正确率表

从表1中可看出，对于一些小样本的数据，SVM方法的分类精度都不是很高，而改进后的3D-CNN却能对小样本得到较高的分类精度，且大多数类别3D-CNN都能得到较高的分类精度，无论是OA、AA还是kappa系数，3D-CNN所得到的结果都是最好的。从图5可以看出，3D-CNN所得到的分类图边缘比较平滑，噪声点也相对较少。上述实验结果表明，3D-CNN在对高光谱图像的谱空信息提取时有着更好的解释能力。

从而通过测试好的三维卷积神经网络可达到对新的高光谱遥感图像数据集分类的目的。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出若干改进和变形，这些均属于本发明的保护之内。

Claims (8)

1.一种基于卷积神经网络的高光谱遥感图像分类方法，其特征在于，包括以下步骤：

S1、获取高光谱图像数据集，对高光谱图像数据集采用归一化预处理操作，并将数据集分为训练集和测试集；

S2、构建三维卷积神经网络；

S3、利用归一化预处理后的训练集对三维卷积神经网络进行训练，获得训练好的三维卷积神经网络；

S4、将所述归一化预处理后的测试集通过训练好的三维卷积神经网络进行贝叶斯分类，得到分类结果图像数据。

2.根据权利要求1所述的一种基于卷积神经网络的高光谱遥感图像分类方法，其特征在于，所述步骤S1中的归一化预处理具体步骤如下：

S11、计算高光谱图像数据集中数据的均值；

S12、将所述高光谱图像数据集中每个样本数据的值减去数据均值；

S13、将所述减去数据均值的高光谱图像数据集进行相同分辨率下的重塑。

3.根据权利要求1所述的基于卷积神经网络的高光谱遥感图像分类方法，其特征在于，所述步骤S2的具体步骤如下：

S21、用逐层分析网络层的方法设计一个具有多层网络的深层卷积神经网络，包括输入层、若干卷积层、若干池化层、若干全连接层以及输出层；

S22、使用正则化对所述深层卷积神经网络的卷积核参数进行优化，以减轻训练网络时出现的过拟合现象，得到优化后的三维卷积神经网络。

4.根据权利要求1所述的基于卷积神经网络的高光谱遥感图像分类方法，其特征在于，所述步骤S3的具体步骤如下：

S31、将三维卷积神经网络的待训练系数进行初始化，初始化值为[-P，P]区间的随机值，其中P为小于1的常数；

S32、对所述三维卷积神经网络进行正向传播训练：训练时采用的模型如下xⁱ⁺¹＝f_i(uⁱ)uⁱ＝Wⁱxⁱ+bⁱ

其中，xⁱ为第i层的输入；Wⁱ是第i层的权值向量，bⁱ为第i层的附加偏置向量；f_i(·)表示第i层的激活函数，uⁱ表示第i层的输出；

S33、对步骤S32获得的三维卷积神经网络进行反向传播训练：通过三维卷积神经网络的反向训练的输出结果与预设的期望进行比较，不断地迭代更新所述训练系数，迭代过程如下：

其中，学习率α为反向传播强度的控制因子；当输出结果满足期望值时，迭代终止，获得训练好的三维卷积神经网络。

5.一种基于卷积神经网络的高光谱遥感图像分类系统，其特征在于，包括以下子模块：

归一化预处理模块，用于获取高光谱图像数据集，对高光谱图像数据集采用归一化预处理操作，并将数据集分为训练集和测试集；

三维卷积神经网络构建模块，用于构建三维卷积神经网络；

三维卷积神经网络训练模块，用于利用归一化预处理后的训练集对三维卷积神经网络进行训练，获得训练好的三维卷积神经网络；

图像分类模块，用于将所述归一化预处理后的测试集通过训练好的三维卷积神经网络进行贝叶斯分类，得到分类结果图像数据。

6.根据权利要求5所述的一种基于卷积神经网络的高光谱遥感图像分类系统，其特征在于，所述归一化预处理模块中的归一化预处理包含如下子模块：

数据均值计算模块，用于计算高光谱图像数据集中数据的均值；

数据处理模块，用于将所述高光谱图像数据集中每个样本数据的值减去数据均值；

分辨率重塑模块，用于将所述减去数据均值的数据集进行相同分辨率下的重塑。

7.根据权利要求5所述的基于卷积神经网络的高光谱遥感图像分类系统，其特征在于，所述三维卷积神经网络构建模块包含如下子模块：

卷积神经网络结构设计模块，用于通过逐层分析网络层的方法设计一个具有多层网络的深层卷积神经网络，包括输入层、若干卷积层、若干池化层、若干全连接层以及输出层；

三维卷积神经网络优化模块，用于使用正则化对所述深层卷积神经网络的卷积核参数进行优化，以减轻训练网络时出现的过拟合现象，得到优化后的三维卷积神经网络。

8.根据权利要求5所述的基于卷积神经网络的高光谱遥感图像分类系统，其特征在于，所述三维卷积神经网络训练模块包含如下子模块：

初始化模块，用于将三维卷积神经网络的待训练系数进行初始化，初始化值为[-P，P]区间的随机值，其中P为小于1的常数；

正向传播训练模块，用于对所述三维卷积神经网络进行正向传播训练：训练时采用的模型如下xⁱ⁺¹＝f_i(uⁱ)

uⁱ＝Wⁱxⁱ+bⁱ

其中，xⁱ为第i层的输入；Wⁱ是第i层的权值向量，bⁱ为第i层的附加偏置向量；f_i(·)表示第i层的激活函数，uⁱ表示第i层的输出。

反向传播训练模块，用于对正向传播训练模块中获得的三维卷积神经网络进行反向传播训练：通过三维卷积神经网络的反向训练的输出结果与预设的期望进行比较，不断地迭代更新所述训练系数，迭代过程如下：

其中，学习率α为反向传播强度的控制因子；当输出结果满足期望值时，迭代终止，获得训练好的三维卷积神经网络。