CN111914922A - 一种基于局部卷积和空洞卷积的高光谱图像分类方法 - Google Patents

Abstract

本发明公开了一种基于局部卷积和空洞卷积的高光谱图像分类方法，首先对原始高光谱遥感影像进行PCA预处理进行降维；接着，通过局部卷积和空洞卷积的融合运算，提取丰富的空间光谱信息；然后，将通过局部卷积通道和空洞卷积通道汇合后的数据，进行标准卷积、平均池、退出和批量规范化；最后，将不同的卷积层收集到残差融合网络中，最后输入到Softmax层进行分类。本发明不仅提取细节的高光谱局部信息，而且通过扩展感知场来提取丰富的高光谱空间信息。

Description

一种基于局部卷积和空洞卷积的高光谱图像分类方法

技术领域

本发明属于高光谱遥感图像处理技术领域，具体涉及一种基于局部卷积和空洞卷积的高光谱图像分类方法。

背景技术

遥感(Remote Sensing)是一门利用电磁波原理来获取远方信号并使之成像，能够遥远地感受感知远方事物的技术，是一门新兴科学。高光谱图像提供了数百个相邻的窄带，这些窄带具有更多的通道维数，因此在遥感领域发挥着重要作用。高光谱图像有两个重要信息边：一个是光谱信息可以提供区分土地覆盖物的能力，另一种是空间信息，可以提供丰富的空间结构信息。因此，高光谱图像在军事勘探、农业、环境监测等领域得到了广泛的应用。

高光谱图像的光谱信息的分辨率很高,一般都达到了纳米级别，空间分辨率相对较低，具体而言分类工作就是对图像中的每一个像素进行分类确认像素的类别。高光谱图像分类大体上可以分为无监督分类和有监督分类(包含半监督分类)两种。无监督分类指的是在没有预先标注数据标签的情况下对高光谱图像进行分类(聚类)，主要思想是依照能代表像素点的特征信息(空间信息、谱信息及特征等)将相似的像素归为一类。有监督的分类指的是在有预先标注数据作为监督信号的情况下对高光谱图像进行分类,主要思想是利用有标注的数据学习像素特征信息与像素类别之间的内在关系,然后利用这种关系对没有标注的数据进行分类,确定像素类别。

目前基于深度学习的高光谱图像分类主要属于有监督分类,在高光谱领域应用的深度学习模型有卷积神经网络(CNN)、基于自编码网络的栈式自编码网络(SAE)、基于受限玻尔兹曼机的深度置信网络(DBN)等。深度学习的相关模型为高光谱图像分类中存在的问题提供了一些解决思路,同时也面临以下一些困难:其中一个主要的困难就是有标注的样本量有限的问题,深度学习中的模型通常需要包含大量参数,这些参数需要通过训练从而确定具体的值,而训练的过程依赖大量有标注的样本数据。

在深度卷积网络的有监督训练中,需要大量的有标签样本进行充分训练,网络才能取得优秀的分类效果。但在高光谱分类任务中,获取大量有标签样本的成本很高,而标签样本不足将会导致过拟合现象发生,最终降低模型在测试数据集中分类效果。

发明内容

发明目的：本发明的目的是提供一种能够在标签样本数量较少的情况下提高分类效果的基于局部卷积与空洞卷积的高光谱图像分类方法。

技术方案：本发明所述的一种基于局部卷积和空洞卷积的高光谱图像分类方法，包括如下步骤：

(1)对预先获取的高光谱图像的数据集进行降维，并分割得到源数据集、微调数据集和测试数据集；

(2)对局部卷积和空洞卷积的模型进行超参数初始化；

(3)源数据集在通过局部卷积通道和空洞卷积通道后汇合后，进行Relu激活、批标准化、平均池化操作，利用源数据集训练模型，并在训练完成后使用测试数据集测试模型准确率；

(4)判断测试数据集的正确率是否大于预先设定的阈值，如果是，则进行步骤(6)，否则进行步骤(5)；

(5)调整模型的参数，然后返回步骤(4)；

(6)将此时训练后的网络参数作为调整后的网络参数；并记录训练达到步骤(4)所述阈值的网络参数；

(7)采用微调数据集对步骤(2)所述的局部卷积和空洞卷积的模型进行再训练；

(8)利用待分类的高光谱测试数据集进行训练；

(9)经过Softmax层进行多分类输出，产生高准确率的高光谱图像分类结果。

进一步地，所述步骤(1)包括以下步骤：

(11)选取Indian Pines数据作为已有的高光谱图像数据集，其由145*145像素和224个光谱反射带组成，波长范围为0.4-2.5，空间分辨率为20米，数据集中共有16类作物；

(12)随机选取已有的高光谱图像的数据集中10％的数据作为源数据集对模型进行进行预训练，再从Indian Pines中每个类别选取n个数据构成微调数据集,将余下所有数据作为测试数据集。

进一步地，步骤(2)所述的局部卷积核数量均为48，采用3*3的卷积核，步长为1。

进一步地，步骤(2)所述的空洞卷积膨胀率的形状设计成锯齿形结构，叠加HDC的膨胀率不能有大于1的公约数，且HDC满足以下公式：

M_i＝max[M_i+1-2r_i,M_i+1-2(M_i+1-r_i),r_i]

其中，r_i代表第i层的膨胀率，M_i代表第i层的最大膨胀率。

进一步地，所述步骤(3)包括以下步骤：

(31)将通过局部卷积通道和空洞卷积通道汇合后的数据，进行Relu函数激活与BN批标准化处理操作；

(32)将处理后的数据输入平均池化层，其中pool尺寸为2*2，移动步长设置为2，padding方式设置为valid；

(33)将步骤(32)的输出结果输入Dense稠密层，采用Softmax多分类激活函数，分类类别数设置为16。

有益效果：与现有技术相比，本发明的有益效果：够实现在尽可能使用少的样本的情况下，避免过拟合现象的发生，不仅提高了空间信息的提取，而且提高了模型在小样本下的分类效果。

附图说明

图1为基本发明的流程图；

图2为微调后Indian pines数据集的分类准确率曲线图；

图3为微调后Indian pines数据集的分类损失曲线图；

图4为微调后Indian pines数据集分类结果图。

具体实施方式

下面结合附图对本发明作进一步详细说明，应理解这些实施例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。

本发明提供一种能够在标签样本尽可能少的情况下提高分类效果的基于局部卷积与空洞卷积的高光谱图像分类方法。首先使用PCA方法对原始的高光谱立方体进行降维处理，提取其中一个小立方体块作为输入，输入到局部卷积和空洞卷积神经网络的模型中，其中局部卷积通过增加参数，提取丰富局部信息，混合空洞卷积采用不同的膨胀率增加感受野，然后进行Relu激活、批标准化、平均池化等一系列操作，提取丰富的空间光谱信息，最后经过Softmax层进行多分类输出，产生高准确率的高光谱图像分类结果。如图1所示，具体包括以下步骤：

步骤1：数据预处理，对预先获取的高光谱图像的数据集进行降维，并分割得到源数据集、微调数据集和测试数据集。

选取Indian Pines数据作为已有的高光谱图像数据集，其由145*145像素和224个光谱反射带组成，波长范围为0.4-2.5，空间分辨率为20米，数据集中共有16类作物。

随机选取已有的高光谱图像的数据集中10％的数据作为源数据集对模型进行进行预训练,再从IndianPines中每个类别选取n个数据构成微调数据集,将余下所有数据作为测试数据集。

步骤2：对局部卷积和空洞卷积的模型进行超参数初始化。

其中局部卷积核数量均为48，采用3*3的卷积核，步长为1，空洞卷积核数量也为48，采用3*3的卷积核，膨胀率由2和3堆叠而成。

采用的空洞卷积，有三个特点，一是膨胀率的形状设计成锯齿形结构。第二，叠加HDC的膨胀率不能有大于1的公约数。最后，HDC满足一个公式：

M_i＝max[M_i+1-2r_i,M_i+1-2(M_i+1-r_i),r_i]

其中，r_i代表第i层的膨胀率，M_i代表第i层的最大膨胀率。通过融合卷积核步长为1的局部卷积和混合空洞卷积，不仅可以拓宽卷积神经网络的感受野，而且可以提取丰富的局部信息。

步骤3：数据在通过局部卷积通道和空洞通道后汇合，利用源数据集训练模型，并在训练完成后使用测试集测试模型准确率。

(1)将上述两条通道汇合后的数据，进行Relu函数激活与BN批标准化处理操作。

隐含层的激活函数为Relu函数，Relu函数将非线性特征引入神经网络，其目的是将节点的输入信号转化为输出信号，然后将输出信号作为输入信号叠加到下一个节点层。其满足：

σ(X)＝max(0,X)

其中，σ(X)代表激活值，当输入信号值X小于0时，输出为0，否则输出值为X。

批处理规范化本质上是一个规范化的网络层，它可以代替局部响应规范化层.批通常在激活函数前进行归一化处理，使激活函数的输入具有零均值和单位方差，这样可以加快训练速度，公式是：

其中，x_test r代表测试样本数据,μ_test代表训练最小批量的平均值，

表示测试样本中小批量的方差。ε是为了防止方差为0。γ和β是可学习的重建参数。

(2)将处理后的数据输入平均池化层，其中pool尺寸为2*2，移动步长设置为2，padding方式设置为valid。

池化层的主要作用是下采样，它可以保留显著的特征，减少特征维数，增加卷积核的接收场。池化层神经网络不改变矩阵的深度，可以减小矩阵的大小，将高分辨率的图像转换成低分辨率的图像。平均池化的公式定义为：

其中，α_i是邻域中特征点的值，N_m表示邻域中的特征点数目。

(3)将步骤(2)的输出结果输入Dense稠密层，采用Softmax多分类激活函数，分类类别数设置为16。

步骤4：判断测试数据集的正确率是否大于预先设定的阈值，如果是，则进行步骤6，否则进行步骤5。当测试数据集的正确率大于设定的阈值90％时，测试效果被认为是良好，进行步骤6，如果达不到90％，测试效果则表示不好，进行步骤5。

步骤5：调整模型的参数，然后返回步骤4。

步骤6：将此时训练后的网络参数作为调整后的网络参数；并记录训练达到步骤4所述阈值的网络参数。

步骤7：采用微调数据集对步骤(2)所述的局部卷积和空洞卷积的模型进行再训练。

步骤8：利用待分类的高光谱测试数据集进行训练。

步骤9：经过Softmax层进行多分类输出，产生高准确率的高光谱图像分类结果。

Softmax层作用在于将上述池化层的多个神经元进行输出，映射到(0,1)区间内，可以看成概率来理解，从而对高光谱图像进行多分类。

步骤1-5是预训练阶段，步骤6-8是微调阶段，预训练阶段的学习率为0.0001，微调阶段为0.001，训练总批次均为100，输入的高光谱立方体大小为11*11*20，其中11*11指空间尺寸，20为光谱通道数。

如图2、图3分别是微调后Indian pines数据集的分类准确率和损失曲线图；图4为微调后Indian pines数据集分类结果，由图2、图3和图4的仿真实验结果可以看出，基于局部卷积和空洞卷积的高光谱图像分类方法的有效性。

Claims (5)

1.一种基于局部卷积和空洞卷积的高光谱图像分类方法，其特征在于，包括以下步骤：

(1)对预先获取的高光谱图像的数据集进行降维，并分割得到源数据集、微调数据集和测试数据集；

(2)对局部卷积和空洞卷积的模型进行超参数初始化；

(3)源数据集在通过局部卷积通道和空洞卷积通道后汇合后，进行Relu激活、批标准化、平均池化操作，利用源数据集训练模型，并在训练完成后使用测试数据集测试模型准确率；

(4)判断测试数据集的正确率是否大于预先设定的阈值，如果是，则进行步骤(6)，否则进行步骤(5)；

(5)调整模型的参数，然后返回步骤(4)；

(6)将此时训练后的网络参数作为调整后的网络参数；并记录训练达到步骤(4)所述阈值的网络参数；

(7)采用微调数据集对步骤(2)所述的局部卷积和空洞卷积的模型进行再训练；

(8)利用待分类的高光谱测试数据集进行训练；

(9)经过Softmax层进行多分类输出，产生高准确率的高光谱图像分类结果。

2.根据权利要求1所述的一种基于局部卷积和空洞卷积的高光谱图像分类方法，其特征在于，所述步骤(1)包括以下步骤：

(11)选取Indian Pines数据作为已有的高光谱图像数据集，其由145*145像素和224个光谱反射带组成，波长范围为0.4-2.5，空间分辨率为20米，数据集中共有16类作物；

(12)随机选取已有的高光谱图像的数据集中10％的数据作为源数据集对模型进行进行预训练，再从Indian Pines中每个类别选取n个数据构成微调数据集,将余下所有数据作为测试数据集。

3.根据权利要求1所述的一种基于局部卷积和空洞卷积的高光谱图像分类方法，其特征在于，步骤(2)所述的局部卷积核数量均为48，采用3*3的卷积核，步长为1。

4.根据权利要求1所述的一种基于局部卷积和空洞卷积的高光谱图像分类方法，其特征在于，步骤(2)所述的空洞卷积膨胀率的形状设计成锯齿形结构，叠加HDC的膨胀率不能有大于1的公约数，且HDC满足以下公式：

M_i＝max[M_i+1-2r_i,M_i+1-2(M_i+1-r_i),r_i]

其中，r_i代表第i层的膨胀率，M_i代表第i层的最大膨胀率。

5.根据权利要求1所述的一种基于局部卷积和空洞卷积的高光谱图像分类方法，其特征在于，所述步骤(3)包括以下步骤：

(31)将通过局部卷积通道和空洞卷积通道汇合后的数据，进行Relu函数激活与BN批标准化处理操作；

(32)将处理后的数据输入平均池化层，其中pool尺寸为2*2，移动步长设置为2，padding方式设置为valid；

(33)将步骤(32)的输出结果输入Dense稠密层，采用Softmax多分类激活函数，分类类别数设置为16。

Images