CN108830296B - 一种改进的基于深度学习的高分遥感影像分类方法 - Google Patents

Abstract

本发明公开了一种改进的基于深度学习的高分遥感影像分类方法，首先，基于深度学习理论，设计一个七层卷积神经网络。其次，将高分遥感影像样本输入该网络中进行网络训练，并将学习得到的最后两个全连接层输出，作为遥感影像两种不同的高层特征。接着，针对该网络第五层池化层输出，采用主成分分析进行降维，降维后的结果作为遥感影像的第三种高层特征。然后，将上述三种高层特征通过串联的形式进行融合。最后，设计一种有效的基于逻辑回归的分类器，对遥感影像进行分类。本发明基于深度学习理论对高分遥感影像进行特征提取，学习得到的特征表现力及鲁棒性强。此外，将提取到的多种高层特征进行融合并输入逻辑回归分类器中，能实现良好的分类效果。

Description

一种改进的基于深度学习的高分遥感影像分类方法

技术领域

本发明属于图像处理领域，尤其涉及一种改进的基于深度学习的高分遥感影像分类方法。

背景技术

在光学遥感图像处理领域中，遥感图像的空间分辨率是指能够被光学传感器辨识的单一地物或2个相邻地物间的最小尺寸。空间分辨率越高，遥感图像包含的地物形态信息就越丰富。目前已经商业化运行的光学遥感卫星的空间分辨率已经达到“亚米级”，如2016年发射的美国WorldView-4卫星能够提供0.3m分辨率的高清晰地面图像。近年来，随着我国空间技术的快速发展，特别是高空间分辨率(简称高分)对地观测系统重大专项的实施，我国的卫星遥感技术也迈入了亚米级时代，高分2号卫星(GF-2)全色谱段星下点空间分辨率达到0.8m。

高空间分辨率遥感影像包含了丰富的地物纹理、形状、结构、邻域关系等信息，可主要应用于地物分类、目标提取与识别、变化检测等。高分遥感影像分类作为其中的一个研究热点，在资源勘测、环境监测和军事目标锁定等方面有着非常重要的应用。

目前的高分遥感影像分类的研究多注重分类算法的改进,而实际上,训练样本特征提取的准确度和有效性对分类精度和效率有着非常重要的影响。

公开号CN104102928A一种基于纹理基元的遥感图像分类方法，通过选取典型地物的遥感图像的邻域特征向量并聚类形成纹理基元字典和纹理模型库，将待分类的图像划分成超像素，与纹理模型库中的模型进行比较，实现超像素的分类，进而实现图像分类。该方法虽然利用了超像素的强同质性和纹理的空间分布规律，但是，仅运用纹理特征进行分类在遥感图像地物光谱特征复杂的情况下效果不佳。

公开号CN102622607A一种基于多特征融合的遥感图像分类方法，通过提取训练样本和测试样本遥感图像的视觉词袋特征、颜色直方图特征和纹理特征，进行支持向量机训练，得到三个不同的支持向量机分类器，采用上述分类器进行类别预测，得到三组类别预测结果，然后采用加权综合法对三组类别预测结果进行综合，从而得到最终的分类结果。该方法虽然有效融合了遥感图像的视觉词袋特征、颜色直方图特征和纹理特征，使得提取到的遥感图像特征向量涵盖信息丰富，但是，需要人为提取多种特征，操作复杂。

近年来，深度学习理论在图像处理和模式识别等领域迅速发展，人们试着将其应用于图像分类问题中，获得了良好的结果。例如，黄等人在2017年北京航空航天大学学报上发表论文“基于卷积神经网络的遥感图像舰船目标检测”，该文献提出了一种将卷积神经网络与支持向量机相结合的舰船目标检测方法，利用卷积神经网络可自主提取图像特征并进行学习的优点，避免了复杂的特征选择和提取过程。但是由于该方法直接将全连接层特征输入支持向量机进行分类，未能利用卷积神经网络提取多种特征进行融合，导致分类性能受限。

综上，现有的高分遥感影像分类方法，存在的诸多局限性主要表现在：

(1)现有的遥感影像分类方法常需要遥感影像样本进行预处理，而预处理过程容易受到诸多外部因素，如大气条件、地表环境等因素的影响，这将弱化分类的性能。

(2)现有的遥感影像分类方法提取特征时需要过多的人为干预，选择不同的图像特征提取算法，提取图像的各种类型的特征，用于后续的图像分类，特征提取过程复杂。

(3)现有的遥感影像分类方法提取得到的特征鲁棒性不强。现有的分类方法常提取图像底层特征，如纹理特征、颜色特征以及上下文先验信息等，这些特征还可能存在冗余现象，在位移、旋转等方面表现欠佳，导致分类正确率不高。

发明内容

发明目的：针对现有技术中存在的问题，本发明提供一种改进的基于深度学习的高分遥感影像分类方法。该方法可以避免传统复杂的特征提取过程，扩大特征的选择范围，增强特征表现力，提高分类的准确率。

技术方案：为实现本发明的目的，本发明所采用的技术方案是：一种改进的基于深度学习的高分遥感影像分类方法，包含训练阶段和测试阶段：

所述训练阶段包括以下步骤：

(1)构建多类遥感影像样本数据集，并制作相应的样本标签集合，将每类遥感影像样本数据集分为训练集Train和测试集Test；

(2)搭建七层卷积神经网络，使用训练集对卷积神经网络进行训练；

(3)提取卷积神经网络第五层池化层输出特征值和第六、第七两个全连接层的输出特征值；

(4)针对卷积神经网络的第五层池化层输出特征值，采用主成分分析方法对其进行降维；

(5)将降维后的第五层池化层特征和两个全连接层特征通过串联的形式进行特征融合；

(6)在融合特征的基础上，设计基于逻辑回归的分类器；

所述测试阶段包括以下步骤：

(7)将测试集输入到步骤(2)中训练好的卷积神经网络中，得到每个测试样本的第五层池化层特征和两个全连接层特征；

(8)利用步骤(4)中所述的主成分分析方法，对步骤(7)得到的第五层池化层特征进行降维；

(9)针对步骤(7)中的两个全连接层特征和步骤(8)中的降维后的第五层池化层特征，进行串联，实现特征融合；

(10)使用步骤(6)设计好的分类器对测试集进行分类识别。

其中，步骤(1)中的，构建训练集和测试集的方法如下：

(1.1)构建多类遥感影像样本数据集Image＝[Image₁,…,Image_i,…,Image_N]，并制作相应的样本标签Label＝[Label₁,…,Label_i,…,Label_N]，其中N表示N类遥感影像，Image_i表示第i类遥感影像的集合，Label_i表示第i类遥感影像的标签集合，标签集合取值为i-1，其中，i＝1,…,N；

(1.2)将每类数据集分为训练集部分Train和测试集部分Test，针对数据集中每类遥感影像，设其样本总数为n，从中随机抽取m张图像构建训练集，其余n-m张图像构建测试集，则有：Train＝[Train₁,…,Train_i,…,Train_N]，Test＝[Test₁,…,Test_i,…,Test_N]，其中，Train_i表示第i类遥感影像的训练集合，它包含了m张图像，Test_i表示第i类遥感影像的测试集合，它包含n-m张图像。

其中，步骤(2)中的，卷积神经网络搭建及训练方法如下：

(2.1)搭建一个七层的卷积神经网络：第一、二、五层分别包括卷积层和池化层；第三、四层只包含卷积层；第六、七层分别是两个全连接层；

(2.2)将遥感影像训练集输入搭建好的卷积神经网络中，前向计算卷积神经网络每个神经元的输出值；

(2.2.1)假设第l层为卷积层，则第l层第j个特征图

的计算公式为：

其中，*表示卷积操作，

为第l-1层第i个特征图，

表示

到

的卷积核，

表示第l层第j个特征图的偏置，f(·)表示线性整流激活函数，M^l-1表示第l-1层特征图的个数；

(2.2.2)假设第l层为池化层，则第l层第j个特征图

的计算公式为：

其中，

表示第l层第j个特征图的池化参数，

表示第l-1层第j个特征图，down(·)表示池化函数，

表示第l层第j个特征图的偏置；

(2.2.3)假设第l层为全连接层，则第l层第j个特征图

的计算公式为：

其中，y^l-1表示第l-1层所有特征图的加权结果，

表示第l层第j个特征图的偏置，f(·)为线性整流激活函数；

(2.3)反向计算卷积神经网络的损失函数；

(2.3.1)设遥感影像训练集中任一带标签样本I_i，其中i＝1,…,N×m，N表示有N类遥感影像，m表示每一类包括m个测试图像，对于样本I_i，其分类标签为：

(2.3.2)对于标签样本I_i，若卷积神经网络将其预测为第k类的概率为

则定义其误差为E_i：

(2.3.3)基于所有训练样本的误差，计算卷积神经网络的损失函数E：

(2.4)采用梯度下降算法，最小化损失函数，并更新卷积神经网络中的各个参数；

(2.4.1)训练卷积神经网络寻找最佳参数以最小化损失函数E，卷积神经网络的参数是步骤(2.2)中描述的

和

若用W表示所有参数，即：

则采用遥感影像训练集训练卷积神经网络后，可以找到一组参数W^*，使得：

其中，arg表示W^*满足minE；

(2.4.2)采用梯度下降算法更新卷积神经网络的参数，同时最小化损失函数E：

其中，α表示卷积神经网络的学习率，决定了每步调整的幅度，W⁽ⁱ⁾表示第i组更新的参数，W^(i-1)表示第i-1组参数，

表示损失函数E对参数W求偏导。

其中，步骤(3)中的，提取卷积神经网络第五层池化层输出和第六、第七两个全连接层的输出，方法如下：

(3.1)根据步骤(2.2.2)的方法，可以得到卷积神经网络第五层池化层输出结果p₅，包含了第五层池化层计算得到的所有特征图；

(3.2)根据步骤(2.2.3)的方法，可以得到卷积神经网络第六层全连接层输出结果features_fc6，包含了第六层全连接层计算得到的所有特征图；

(3.3)根据步骤(2.2.3)的方法，可以得到卷积神经网络第七层全连接层输出结果features_fc7，包含了第七层全连接层计算得到的所有特征图。

其中，步骤(4)中的，针对卷积神经网络的第五层池化层输出，采用主成分分析方法对其进行降维，方法如下：

(4.1)将(3.1)计算得到的第五层池化层输出结果p₅变形为二维矩阵C，二维矩阵的每一行反映了一个遥感训练样本对应的特征向量，设该特征向量维数为d；

(4.2)对二维矩阵C的每一列进行零均值化得到一个新的矩阵C₀，即用C的每列减去该列的均值，使得每列数据的均值为零；

(4.3)求C₀的协方差矩阵M，协方差矩阵M反映了所有遥感影像训练样本特征向量之间的相互关系：如果两个样本特征向量的协方差为正或为负，表明它们之间具有相关性；如果为零，则表示不相关，最终，计算得到的协方差矩阵M大小应为d×d；

(4.4)求协方差矩阵M的d个特征值和d个特征向量；

(4.5)选择协方差矩阵M的主成分，将协方差矩阵M的特征向量按照特征值由大到小排序，根据精度要求选择e个特征向量，构成主成分矩阵M_p；

(4.6)对第五层池化层输出结果p₅进行降维，降维后的第五层池化层特征为features_p5＝C·M_p。

其中，步骤(5)中的，将降维后的第五层池化层特征和两个全连接层特征通过串联的形式进行特征融合，方法如下：

将上述步骤得到的features_p5、features_fc6和features_fc7特征进行串联形式的融合，融合方法如下：

X为最终融合后的深度特征向量。

其中，步骤(6)中的，在融合特征的基础上，设计基于逻辑回归的分类器，方法如下：

(6.1)通过采用逻辑回归方法，计算每一个训练集中遥感影像样本对应的属于第i类的概率h_θ ⁽ⁱ⁾，i＝1,…,N：

其中，X_j表示第j个遥感影像样本对应求得的最终融合后的深度特征，θ是权重矩阵，θ^T表示矩阵θ的转置；

(6.2)根据计算得到的h_θ ⁽ⁱ⁾，i＝1,…,N，可以获得第j个遥感影像样本最终的预测值：

其中，max(·)表示取N个h_θ ⁽ⁱ⁾中的最大值；

取h_j对应的标签类别作为第j个遥感影像样本的预测值pred_label_j，pred_label_j为1-N的整数；

(6.3)根据预测结果，利用梯度上升算法不断优化逻辑回归参数θ，使所有训练样本的预测值pred_label与标签值Label相等。

其中，步骤(10)中使用训练好的逻辑回归分类器对遥感影像测试集进行分类识别，从而得到每个测试样本的分类结果。

有益效果：与现有技术相比，本发明具有以下有益的技术效果：

(1)本发明的方法可直接将原始遥感影像输入到深度学习卷积神经网络中，自动学习图像特征，无需进行图像预处理，避免了外部因素的干扰。

(2)本发明的方法可通过卷积神经网络自动提取遥感影像中具有较大差异的特征来表征图像，避免了复杂的特征提取过程，减少了人为干预。

(3)本发明的方法针对卷积神经网络提取到的第五层池化层特征和两个全连接层特征，用串联的方式实现特征融合，最终融合的特征具有一定的平移不变性和旋转不变性，且涵盖信息丰富。

附图说明

图1为本发明实施例的框架图；

图2为搭建的七层卷积神经网络结构。

具体实施方式

下面结合附图和实施例对本发明的技术方案作进一步的说明。

如图1所示，进一步的详细描述如下：

(1)构建多类遥感影像样本数据集，并制作相应的样本标签集合，将遥感影像样本数据集分为训练集Train和测试集Test。

(1.1)构建多类遥感影像样本数据集Image＝[Image₁,…,Image_i,…,Image_N]，并制作相应的样本标签Label＝[Label₁,…,Label_i,…,Label_N]，其中N表示N类遥感影像，Image_i表示第i类遥感影像的集合，Label_i表示第i类遥感影像的标签集合，并且每个类标签取值为i。本发明选用遥感场景图像公共数据集UCMerced_LandUse进行实验，该数据集包含N＝21类遥感场景图像。

(1.2)将每类数据集分为训练集部分Train和测试集部分Test，针对数据集中每类遥感影像，设其样本总数为n，从中随机抽取m张图像构建训练集，其余n-m张图像构建测试集例如，可取n＝100,m＝80。则有：Train＝[Train₁,…,Train_i,…,Train_N]，Test＝[Test₁,…,Test_i,…,Test_N]。其中，Train_i表示第i类遥感影像的训练集合，它包含了m张图像。Test_i表示第i类遥感影像的测试集合，它包含n-m张图像。

(2)搭建七层卷积神经网络，使用训练集对卷积神经网络进行训练。

(2.1)搭建一个七层的卷积神经网络，其中，前五层分别用layer1，layer2layer3，layer4，layer5表示。layer1，layer2和layer5分别包括卷积层和池化层，各层卷积层分别用conv1，conv2和conv5表示，各层池化层分别用pool1，pool2和pool5表示；layer3和layer4分别只有一个卷积层，用conv3和conv4表示；第六层和第七层，称为全连接层，分别用fc6和fc7表示。其中，卷积层的目的是为了提取特征图，池化层用于对卷积层得到的特征图进行压缩，全连接层可以将二维特征图转化成一个一维的向量。

搭建好的七层卷积神经网络具体参数如下：

(a)在输入层中，将每一个遥感场景图像归一化为227×227大小；

(b)在第一层layer1的卷积层conv1中，定义96个尺寸为11×11的卷积核，设定步长为4；在layer1的池化层pool1，池化方法设为MAX pooling；

(c)在第二层layer2的卷积层conv2中，定义256个尺寸为5×5的卷积核，步长定为1；在layer2的池化层pool2，池化方法设为MAX pooling；

(d)在第三层layer3的卷积层conv3中，定义384个尺寸为3×3的卷积核，步长定为1；

(e)在第四层layer4的卷积层conv4中，定义384个尺寸为3×3的卷积核，步长定为1；

(f)在第五层layer5的卷积层conv5中，定义256个尺寸为3×3的卷积核，步长定为1；在layer5的池化层pool5，池化方法设为MAX pooling；

(g)第六层fc6为全连接层；

(h)第七层fc7为全连接层。

(2.2)将遥感影像训练集输入搭建好的卷积神经网络中，前向计算卷积神经网络每个神经元的输出值。

(2.2.1)假设第l层为卷积层，则第l层第j个特征图

的计算公式为：

其中，*表示卷积操作，

为第l-1层第i个特征图，

表示

到

的卷积核，

表示第l层第j个特征图的偏置，f(·)表示线性整流激活函数(Rectified Linear Unit,ReLU)，M^l-1表示第l-1层特征图的个数。

(2.2.2)假设第l层为池化层，则第l层第j个特征图

的计算公式为：

其中，

表示第l层第j个特征图的池化参数，

表示第l-1层第j个特征图，

down(·)表示池化函数，

表示第l层第j个特征图的偏置。

(2.2.3)假设第l层为全连接层，则第l层第j个特征图

的计算公式为：

其中，y^l-1表示第l-1层所有特征图的加权结果，

表示第l层第j个特征图的偏置，f(·)仍为线性整流激活函数。

(2.3)反向计算卷积神经网络的损失函数。

(2.3.1)设遥感影像训练集中任一带标签样本I_i(i＝1,…,N×m)，其中N表示有N类遥感影像，m表示每一类包括m个测试图像。I_i的标签实际是one-of-N标签。即，对于标签样本I_i，其分类标签为：

(2.3.2)对于标签样本I_i，若卷积神经网络将其预测为第k类的概率为

则定义其误差为E_i：

(2.3.3)基于所有训练样本的误差，计算卷积神经网络的损失函数E：

(2.4)采用梯度下降算法，最小化损失函数，并更新卷积神经网络中的各个参数。

(2.4.1)训练卷积神经网络的目的是寻找合适的参数以最小化损失函数E。卷积神经网络的参数是步骤(2.2)中描述的

和

表示

到

的卷积核，

表示第l层第j个特征图的池化参数，

表示第l层第j个特征图的偏置。若用W表示所有参数，即：

则采用遥感影像训练集训练卷积神经网络后，可以找到一组参数W^*，使得：

其中，arg表示W^*满足minE。

(2.4.2)采用梯度下降算法更新卷积神经网络的参数W，同时最小化损失函数E：

其中，α表示卷积神经网络的学习率，决定了每步调整的幅度，W⁽ⁱ⁾表示第i组更新的参数，W^(i-1)表示第i-1组参数，

表示损失函数E对参数W求偏导。

(3)提取卷积神经网络第五层池化层输出和第六、第七两个全连接层的输出，其中，最后两个全连接层的输出作为遥感影像的两种不同的高层特征。

(3.1)根据步骤(2.2.2)中介绍方法，可以得到卷积神经网络第五层池化层输出结果p₅，包含了第五层池化层计算得到的所有特征图。第五层layer5学习得到的是较为完整的具有辨别性的特征，这些具有辨别性的特征是遥感场景图像中存在重大差异的一类物体。Layer5卷积层conv5输出得到256张特征图，每张特征图的尺寸为13×13；池化层pool5得到256张特征图，每张特征图的尺寸为6×6。例如，一张遥感图像类别为建筑物，则layer4学习到的特征为建筑物屋顶，layer5学习到的特征为建筑物。

(3.2)根据步骤(2.2.3)中介绍方法，可以得到卷积神经网络第六层全连接层输出结果features_fc6，包含了第六层全连接层计算得到的所有特征图。features_fc6包含4096张特征图，每张特征图的尺寸为1×1。

(3.3)根据步骤(2.2.3)中介绍方法，可以得到卷积神经网络第七层全连接层输出结果features_fc7，包含了第七层全连接层计算得到的所有特征图。features_fc7包含4096张特征图，每张特征图的尺寸为1×1。

(3.4)features_fc6和features_fc7将作为遥感影像的两种不同的高层特征。

(4)针对卷积神经网络的第五层池化层输出，采用主成分分析方法对其进行降维，降维后的结果作为遥感影像的第三种高层特征。

(4.1)将(3.1)计算得到的第五层池化层输出结果p₅变形为二维矩阵C，二维矩阵的每一行反映了一个遥感训练样本对应的特征向量，设该特征向量维数为d＝9216。

(4.2)对二维矩阵C的每一列进行零均值化得到一个新的矩阵C₀，即用C的每列减去该列的均值，使得每列数据的均值为零。

(4.3)求C₀的协方差矩阵M。协方差矩阵M反映了所有遥感影像训练样本特征向量之间的相互关系：如果两个样本特征向量的协方差为正或为负，表明它们之间具有相关性；如果为零，则表示不相关。最终，计算得到的协方差矩阵M大小应为d×d。

(4.4)求协方差矩阵M的d个特征值和d个特征向量。

(4.5)选择协方差矩阵M的主成分。将协方差矩阵M的特征向量按照特征值由大到小排序，根据精度要求选择e个特征向量，构成主成分矩阵M_p。

(4.6)对第五层池化层输出结果p₅进行降维，降维后的第五层池化层特征为features_p5＝C·M_p。

(4.7)features_p5作为遥感影像的第三种高层特征，最终尺寸为1×1×200。

(5)将降维后的第五层池化层特征和两个全连接层特征通过串联的形式进行特征融合。

将上述步骤得到的features_p5、features_fc6和features_fc7等特征进行串联形式的融合。融合方法如下：

X为最终融合后的深度特征向量，维数为200+4096+4096＝8392。

(6)在融合特征的基础上，设计基于逻辑回归的分类器。

(6.1)通过采用逻辑回归方法，计算每一个遥感影像样本对应的属于第i类的概率h_θ ⁽ⁱ⁾(i＝1,…,N)：

其中，X_j表示第j个遥感影像样本对应求得的最终融合后的深度特征。θ是权重矩阵，θ^T表示矩阵θ的转置。

(6.2)根据计算得到的h_θ ⁽ⁱ⁾(i＝1,…,N)，可以获得第j个遥感影像样本最终的预测值：

其中，max(·)表示取N个h_θ ⁽ⁱ⁾中的最大值。

取h_j对应的标签类别作为第j个遥感影像样本的预测值pred_label_j，pred_label_j为0-N-1的整数。

(6.3)根据预测结果，利用梯度上升算法不断优化逻辑回归参数θ，使所有训练样本的预测值pred_label与标签值Label相等。

(7)将测试集输入到步骤(2)中的卷积神经网络中，得到每个测试样本的第五层池化层特征和两个全连接层特征。

(7.1)根据步骤(2.2.2)中介绍方法，得到每个测试样本的第五层池化层特征图。

(7.2)根据步骤(2.2.3)中介绍方法，得到每个测试样本第六层全连接层特征图。

(7.3)根据步骤(2.2.3)中介绍方法，得到每个测试样本第七层全连接层特征图。

(8)利用步骤(4)中所述的主成分分析方法，对步骤(7.1)得到的第五层池化层特征图进行降维。

(9)针对步骤(7)中的两个全连接层特征图和步骤(8)中的降维后的第五层池化层特征图，进行串联，实现特征融合。

(10)使用步骤(6)中训练好的逻辑回归分类器对遥感影像测试集进行分类识别，从而得到每个测试样本的分类结果。

本发明选用一个不同的遥感图像场景分类算法与提出的方法进行比较，选用的比较算法是：

张等人在“基于深度学习的高分辨率遥感图像识别与分类研究[J].信息通信,2017(01):110-111.”提出的用深度学习卷积神经网络实现的高分辨率遥感图像场景分类方法，简称方法1。

表1是两种方法在遥感场景图像公共数据集UCMerced_LandUse上的性能比较。结果表明，本发明提出的方法对遥感图像场景分类效果更好。

表1两种方法分类准确率比较

Claims (8)

1.一种改进的基于深度学习的高分遥感影像分类方法，包含训练阶段和测试阶段，其特征在于：

所述训练阶段包括以下步骤：

(1)构建多类遥感影像样本数据集，并制作相应的样本标签集合，将每类遥感影像样本数据集分为训练集Train和测试集Test；

(2)搭建七层卷积神经网络，使用训练集对卷积神经网络进行训练；

(3)提取卷积神经网络第五层池化层输出特征值和第六、第七两个全连接层的输出特征值；

(4)针对卷积神经网络的第五层池化层输出特征值，采用主成分分析方法对其进行降维；

(5)将降维后的第五层池化层特征和第六、第七两个全连接层特征通过串联的形式进行特征融合；

(6)在融合特征的基础上，设计基于逻辑回归的分类器；

所述测试阶段包括以下步骤：

(7)将测试集输入到步骤(2)中训练好的卷积神经网络中，得到每个测试样本的第五层池化层特征和第六、第七两个全连接层特征；

(8)利用步骤(4)中所述的主成分分析方法，对步骤(7)得到的第五层池化层特征进行降维；

(9)针对步骤(7)中的第六、第七两个全连接层特征和步骤(8)中的降维后的第五层池化层特征，进行串联，实现特征融合；

(10)使用步骤(6)设计好的分类器对测试集进行分类识别。

2.根据权利要求1所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(1)中的，构建训练集和测试集的方法如下：

(1.1)构建多类遥感影像样本数据集

并制作相应的样本标签

其中N表示N类遥感影像，

表示第i₁类遥感影像的集合，

表示第i₁类遥感影像的标签集合，标签集合取值为i₁-1，其中，i₁＝1,…,N；

(1.2)将每类数据集分为训练集部分Train和测试集部分Test，针对数据集中每类遥感影像，设其样本总数为n，从中随机抽取m张图像构建训练集，其余n-m张图像构建测试集，则有：

其中，

表示第i₁类遥感影像的训练集合，它包含了m张图像，

表示第i₁类遥感影像的测试集合，它包含n-m张图像。

3.根据权利要求1所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(2)中的，卷积神经网络搭建及训练方法如下：

(2.1)搭建一个七层的卷积神经网络：第一、二、五层分别包括卷积层和池化层；第三、四层只包含卷积层；第六、七层分别是全连接层；

(2.2)将遥感影像训练集输入搭建好的卷积神经网络中，前向计算卷积神经网络每个神经元的输出值；

(2.2.1)假设第l层为卷积层，则第l层第j个特征图

的计算公式为：

其中，*表示卷积操作，

为第l-1层第i₂个特征图，

表示

到

的卷积核，

表示第l层第j个特征图的偏置，f(·)表示线性整流激活函数，M^l-1表示第l-1层特征图的个数；

(2.2.2)假设第l层为池化层，则第l层第j个特征图

的计算公式为：

其中，

表示第l层第j个特征图的池化参数，

表示第l-1层第j个特征图，down(·)表示池化函数，

表示第l层第j个特征图的偏置；

(2.2.3)假设第l层为全连接层，则第l层第j个特征图

的计算公式为：

其中，y^l-1表示第l-1层所有特征图的加权结果，

表示第l层第j个特征图的偏置，f(·)为线性整流激活函数；

(2.3)反向计算卷积神经网络的损失函数；

(2.3.1)设遥感影像训练集中任一带标签样本

其中i₃＝1,…,N×m₁，N表示有N类遥感影像，m₁表示每一类包括m₁个测试图像，对于标签样本

其分类标签为：

(2.3.2)对于标签样本

若卷积神经网络将其预测为第k类的概率为

k＝1,…,N，则定义其误差为

(2.3.3)基于所有训练样本的误差，计算卷积神经网络的损失函数E：

(2.4)采用梯度下降算法，最小化损失函数，并更新卷积神经网络中的各个参数；

(2.4.1)训练卷积神经网络寻找最佳参数以最小化损失函数E，卷积神经网络的参数是步骤(2.2)中描述的

和

若用W表示所有参数，即：

则采用遥感影像训练集训练卷积神经网络后，找到一组参数W^*，使得：

其中，arg表示W^*满足minE；

(2.4.2)采用梯度下降算法更新卷积神经网络的参数，同时最小化损失函数E：

其中，α表示卷积神经网络的学习率，决定了每步调整的幅度，

表示第i₄组更新的参数，

表示第i₄-1组参数，

表示损失函数E对参数W求偏导。

4.根据权利要求1所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(3)中的，提取卷积神经网络第五层池化层输出和第六、第七两个全连接层的输出，方法如下：

(3.1)根据步骤(2.2.2)的方法，得到卷积神经网络第五层池化层输出结果p₅，包含了第五层池化层计算得到的所有特征图；

(3.2)根据步骤(2.2.3)的方法，得到卷积神经网络第六层全连接层输出结果features_fc6，包含了第六层全连接层计算得到的所有特征图；

(3.3)根据步骤(2.2.3)的方法，得到卷积神经网络第七层全连接层输出结果features_fc7，包含了第七层全连接层计算得到的所有特征图。

5.根据权利要求4所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(4)中的，针对卷积神经网络的第五层池化层输出，采用主成分分析方法对其进行降维，方法如下：

(4.1)将(3.1)计算得到的第五层池化层输出结果p₅变形为二维矩阵C，二维矩阵的每一行反映了一个遥感训练样本对应的特征向量，设该特征向量维数为d；

(4.2)对二维矩阵C的每一列进行零均值化得到一个新的矩阵C₀，即用C的每列减去该列的均值，使得每列数据的均值为零；

(4.3)求C₀的协方差矩阵M，协方差矩阵M反映了所有遥感影像训练样本特征向量之间的相互关系：如果两个样本特征向量的协方差为正或为负，表明它们之间具有相关性；如果为零，则表示不相关，最终，计算得到的协方差矩阵M大小应为d×d；

(4.4)求协方差矩阵M的d个特征值和d个特征向量；

(4.5)选择协方差矩阵M的主成分，将协方差矩阵M的特征向量按照特征值由大到小排序，根据精度要求选择e个特征向量，构成主成分矩阵M_p；

(4.6)对第五层池化层输出结果p₅进行降维，降维后的第五层池化层特征为features_p5＝C·M_p。

6.根据权利要求1所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(5)中的，将降维后的第五层池化层特征和第六、第七两个全连接层特征通过串联的形式进行特征融合，方法如下：

将上述步骤得到的features_p5、features_fc6和features_fc7特征进行串联形式的融合，融合方法如下：

X为最终融合后的深度特征向量。

7.根据权利要求1所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(6)中的，在融合特征的基础上，设计基于逻辑回归的分类器，方法如下：

(6.1)通过采用逻辑回归方法，计算每一个训练集中遥感影像样本对应的属于第i₅类的概率

i₅＝1,…,N：

其中，X_j表示第j个遥感影像样本对应求得的最终融合后的深度特征，θ是权重矩阵，θ^T表示矩阵θ的转置；

(6.2)根据计算得到的

获得第j个遥感影像样本最终的预测值：

其中，max(·)表示取N个

中的最大值；

取h_j对应的标签类别作为第j个遥感影像样本的预测值pred_label_j，pred_label_j为1-N的整数；

(6.3)根据预测结果，利用梯度上升算法不断优化逻辑回归参数θ₁，使所有训练样本的预测值pred_label与标签值Label相等。

8.根据权利要求7所述的一种改进的基于深度学习的高分遥感影像分类方法，步骤(10)中使用训练好的逻辑回归分类器对遥感影像测试集进行分类识别，从而得到每个测试样本的分类结果。

Images