CN105654117A

CN105654117A - 基于sae深度网络的高光谱图像空谱联合的分类方法

Info

Publication number: CN105654117A
Application number: CN201510992076.1A
Authority: CN
Inventors: 李映; 张玉柱; 张号逵
Original assignee: Northwestern Polytechnical University
Current assignee: Northwestern Polytechnical University
Priority date: 2015-12-25
Filing date: 2015-12-25
Publication date: 2016-06-08
Anticipated expiration: 2035-12-25
Also published as: CN105654117B

Abstract

本发明涉及一种基于SAE深度网络的高光谱图像空谱联合的分类方法，替代了传统的PCA降维后使用邻域信息作为空间特征，使用当前像素点的空间位置信息，即行列坐标作为空间特征，然后和其谱特征结合作为训练样本的空谱联合特征，进而提出一种基于SAE深度网络的高光谱图像空谱联合分类方法。本发明的有益效果在于：改进了传统的基于SAE深度网络空谱联合分类中提取空间特征的方法，使用空间位置信息作为空间特征而不是传统的提取空间特征的方法即在谱空间上进行主成分分析(PCA)降维后提取邻域的空间信息作为空间特征，不仅简化了空间特征的提取方法，减少了运算量，而且相较于传统的方法提高了分类精度。

Description

基于SAE深度网络的高光谱图像空谱联合的分类方法

技术领域

本发明属于信息处理技术领域，涉及一种对高光谱图像的分类方法，具体涉及一种基于SAE深度网络的高光谱图像空谱联合的分类方法。

背景技术

高光谱图像光谱分辨率高、成像波段多、信息量大，在遥感领域正在被越来越广泛的应用。高光谱图像分类技术在这些应用中起着重要作用。最近十多年来，人工神经网络的研究工作不断深入，依据神经网络可以实现对某种算法或函数的逼近，人们利用神经网络结构实现对于高光谱图像的分类，神经网络层数越多，其表征信息的能力也就越强。

因为神经网络层数的增加，随之而来的问题是梯度扩散问题，于是人们提出了基于SAE(StackedAutoencoder)深度网络的空谱联合分类方法，改善了梯度扩散问题。但是传统的基于SAE深度网络的空谱联合分类方法在提取每个像素点的空间特征时十分复杂，首先需要在谱空间上进行主成分分析(principalcomponentsanalysis，PCA)降维，然后提取每个像素点的邻域的空间信息和与该像素点的谱特征结合，作为其空谱联合特征。然而，降维处理不仅计算量大，而且损失了一定的谱信息，从而影响了分类的精度。此外，提取邻域信息时还需要对边缘上的像素进行特殊处理(如补零操作)。

发明内容

要解决的技术问题

为了避免现有技术的不足之处，本发明提出一种基于SAE深度网络的高光谱图像空谱联合的分类方法，克服传统的基于SAE深度网络的空谱联合分类方法提取空间特征计算量大且复杂，谱信息丢失影响分类精度的问题。

技术方案

一种基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于步骤如下：

步骤1：对高光谱图像像素的谱特征数据进行归一化操作，即将谱特征数据映射到0-1之间，得到归一化的谱特征；

将位于的像素的空间特征设为，然后对所有的空间特征进行归一化操作，即将空间特征映射到0-1之间，得到归一化的空间特征；

步骤2：以归一化的谱特征和归一化的空间特征联合作为AE的输入层，将输入层乘以权重，再加上偏置得到隐藏层，将隐藏层乘以权重，再加上偏置得到重建层，构成3层网络结构的自编码器AE；采用BP算法训练自编码器AE的参数，使重建层还原输入层；

所述W_y＝W_z ^T＝W，T为转置；

步骤3：去除重建层，将隐藏层作为新的自编码器AE的输入层，按照步骤2中所述方法训练出一个新的自编码器AE；

重复构建多个自编码器AE；

步骤4：将多个自编码器AE进行连接构建得到SAE网络；

步骤5：将SAE网络连接softmax层，然后利用BP算法对整个网络进行参数更新得到训练好的网络；

步骤6：利用训练好的网络对高光谱图像进行分类。

以训练好的网络对高光谱图像的测试集进行分类，得到分类的准确率。

调整自编码器AE的隐藏层的单元个数，重复构建自编码器AE的个数或BP算法中的学习速率，改变分类的准确率。

所述W为-1～1之间的随机数值。

有益效果

本发明提出的一种基于SAE深度网络的高光谱图像空谱联合的分类方法，替代了传统的PCA降维后使用邻域信息作为空间特征，使用当前像素点的空间位置信息，即行列坐标作为空间特征，然后和其谱特征结合作为训练样本的空谱联合特征，进而提出一种基于SAE深度网络的高光谱图像空谱联合分类方法。首先，将行列坐标与谱特征结合起来作为训练样本的空谱联合特征，利用训练样本的空谱特征作为输入层构建一个3层的自编码器(Autoencoder，AE)，这3层分别是输入层，隐藏层，重建层，经过训练使得重建层尽可能的还原输入层；然后，将AE的重建层去除，利用前一个AE的隐藏层作为输入层构建一个新的AE，依次类推，这样就构建了一个SAE网络；最后，将SAE网络连接上softmax层，利用误差的反向传播(Backpropagation，BP)算法对整个网络的参数进行调整，这样就得到了一个具有高正确率的分类器。

本发明的有益效果在于：改进了传统的基于SAE深度网络空谱联合分类中提取空间特征的方法，使用空间位置信息作为空间特征而不是传统的提取空间特征的方法即在谱空间上进行主成分分析(PCA)降维后提取邻域的空间信息作为空间特征，不仅简化了空间特征的提取方法，减少了运算量，而且相较于传统的方法提高了分类精度。

附图说明

图1：基于SAE深度网络的高光谱图像空谱联合分类方法的流程图

图2：基于SAE深度网络的高光谱图像空谱联合分类方法的框图

具体实施方式

现结合实施例、附图对本发明作进一步描述：

本发明实施例步骤如下：

步骤1对高光谱图像数据，依照公式对谱特征数据进行归一化操作。其中i,j表示行列坐标，s表示谱段，x_max、x_min分别表示三维高光谱图像谱特征数据中的最大值和最小值，x_ijs表示三维高光谱图像谱特征数据中第i行第j列的第s个谱段的值，x_ijs ^*表示三维高光谱图像谱特征数据中归一化后第i行第j列的第s个谱段的值。

步骤2选取空间特征，将高光谱图像中的空间位置信息，即行列坐标作为空间特征，即将位于(i,j)位置的像素的空间特征设为(i,j)。然后对空间特征按照与步骤1相似的方法进行归一化操作。

步骤3构建3层的AE，归一化的谱特征和空间特征联合作为自动编码器的输入层，剩余两层为隐藏层和重建层，AE的输入单元个数为谱段个数加上空间特征的个数，即谱段个数加2，隐藏层单元个数一般取60-120，重建层单元个数与输入层个数相同。网络参数训练采用小批量(mini-batch)梯度下降法，具体构建方法如下：

设置输入层到隐藏层的权重为W_y,偏置为b_y；隐藏层到重建层权重和偏置分别为W_z，b_z，我们对W_y和W_z定义如下的约束，这样有助于把训练参数减半。

W_y＝W_z ^T＝W；

定义代价函数

c = - \frac{1}{m} Σ_{i = 1}^{m} Σ_{k = 1}^{d} {(x_{i k} - z_{i k})}^{2}

其中d代表输出单元的个数，m表示mini-batch的大小，一般取20-100，x_ik表示第i个输入的第k个单元，z_ik表示第i个输出的第k个单元，分别计算代价函数c对权重W及偏置b_y，b_z的偏导数，然后利用AE网络参数的更新法则：

W^{n + 1} = W^{n} - η \frac{\partial c}{\partial W^{n}}; b_{y}^{n + 1} = b_{y}^{n} - η \frac{\partial c}{\partial b_{y}^{n}}; b_{z}^{n + 1} = b_{z}^{n} - η \frac{\partial c}{\partial b_{z}^{n}}

用来更新网络参数来最小化AE的代价函数。其中η代表学习速率，通常取0.01左右，mini-batch的大小取10-100，训练迭代次数为20-50次，这样重建层能较好地还原输入层。n为当前迭代次数。

步骤4将步骤3得到的AE去除重建层，然后将步骤3的隐藏层作为下一个AE的输入层按照步骤3的方法构建新的自动编码器。

步骤5依次构建新的AE，将每个AE的输入层与隐藏层与之后的AE连接，这样就构建了一个SAE网络。AE的具体重复层数按照现有技术中的惯用方式确定，SAE一般由3-5个AE构建而成。

步骤6将SAE连接到softmax层，用来反馈分类误差。然后利用反向传播(BP)算法计算偏导数，然后利用mini-batch的梯度下降法对整个网络参数进行更新。小批量个数为10-100，迭代次数为600-800，更新参数时的学习速率一般选取0.01。

步骤7利用训练好的网络参数在测试集上测试分类正确率。如果分类正确率高，则对整个高光谱图像进行分类，结束。否则修改AE的隐藏单元个数，SAE的层数，学习速率并返回步骤3。

方式2：在方式1的步骤6中，更新网络参数的学习速率可以随着迭代次数的增加而减少。具体来说，在前300-400次的迭代中可使用学习速率为0.01，在剩余的迭代中可使用学习速率为0.001，这样使得分类的稳定性得到提高。

Claims

1.一种基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于步骤如下：

将位于(i,j)的像素的空间特征设为(i,j)，然后对所有的空间特征进行归一化操作，即将空间特征映射到0-1之间，得到归一化的空间特征；

步骤2：以归一化的谱特征和归一化的空间特征联合作为AE的输入层，将输入层乘以权重W_y，再加上偏置b_y得到隐藏层，将隐藏层乘以权重W_z，再加上偏置b_z得到重建层，构成3层网络结构的自编码器AE；采用BP算法训练自编码器AE的参数，使重建层还原输入层；

所述W_y＝W_z ^T＝W，T为转置；

重复构建多个自编码器AE；

步骤4：将多个自编码器AE进行连接构建得到SAE网络；

步骤6：利用训练好的网络对高光谱图像进行分类。

2.根据权利要求1所述基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于：以训练好的网络对高光谱图像的测试集进行分类，得到分类的准确率。

3.根据权利要求1所述基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于：调整自编码器AE的隐藏层的单元个数，重复构建自编码器AE的个数或BP算法中的学习速率，改变分类的准确率。

4.根据权利要求1所述基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于：所述W为-1～1之间的随机数值。