CN111144423B - 基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法 - Google Patents

Abstract

基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，属于遥感数据特征提取技术领域。为了解决现有基于卷积神经网络高光谱遥感数据的光谱特征提取尺度单一的问题，同时解决高光谱遥感数据的高维度信号造成的维数灾难的问题。本发明中以每个尺度值减一后的值与对应的分组数的乘积相等为原则，直接将高维的高光谱向量信号在光谱波段维度上等分成若干组，每个尺度利用多个不同的滤波器对每段高维的高光谱向量信号进行单独的一维常规卷积操作，通过若干组操作实现快速降低光谱向量的特征维度。本发明适用于高光谱遥感数据的多尺度光谱特征提取。

Description

基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法

技术领域

本发明涉及一种高光谱遥感数据多尺度光谱特征提取方法，属于遥感数据特征提取技术领域。

背景技术

随着成像技术和光谱技术的发展，高光谱遥感技术是地球探测领域近三十年来最重大的技术突破之一，是当前遥感领域最前沿的技术和国际遥感学科研究的热点。丰富的光谱信息和高的光谱分辨率使得使其已成为国防、农业和海洋等领域极具价值和强有力的技术手段。在实际的应用中，高光谱遥感数据的处理和信息提取的准确性至关重要，随着机器学习的技术发展，很多数据可以通过机器学习来完成，而利用机器学习来处理高光谱遥感数据时，处理效果的优劣取决于机器学习提取到的特征优劣，高光谱遥感数据由于超高的维度、复杂的非线性特性和稀少标记的训练样本，为基于机器学习的特征提取方法提出了极大的挑战。

随着近年来深度学习的发展，一些基于深度学习的光谱特征提取模型被提出，如自动编码器、递归神经网络和卷积神经网络等。虽然以上模型都能提取光谱特征，但所提取的特征往往是单一尺度的光谱特征，且缓慢地降低高维光谱信号的维度，易造成维数灾难的问题。

发明内容

本发明目的是为了解决现有基于卷积神经网络高光谱遥感数据的光谱特征提取尺度单一的问题，同时有效缓解高光谱遥感数据的高维度信号造成的维数灾难的问题。提出了一种基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，尤其适用于对原始高光谱遥感数据的光谱特征提取。

基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，包括以下步骤：

W1、针对高光谱遥感数据的每个光谱波段进行归一化处理；

W2、多个高光谱特征矩阵含N'个输入特征向量f′₁,···,f′_N′，每个输出特征向量的维度是D'；在光谱向量维度D'的方向上将其分为g组(D′₁,···,D′_g)，各组单独进行一维卷积(一维常规卷积)操作，每组都通过N个尺寸为k的一维卷积操作，每组都生成N个输出特征向量，各组的维度为(D₁,···,D_g)，其中D_i＝D′_i-(k-1)，i＝1,2,…,g，最后输出的总维度D＝D'-g(k-1)，完成一个尺度的分组卷积，实现光谱特征的提取；

W3、按照W2的方式，重新进行分组，每次分组作为一个尺度，通过设置匹配的分段组数g_i，保证每个尺度对应的g_i(k_i-1)乘积相等，k_i为分段组数g_i时对应尺度下一维卷积操作的卷积核尺寸，每个尺度利用多个一维滤波器对数据进行分组卷积，提取对应尺度的光谱特征，各个尺度提取的光谱特征具有相同的输出维度；

W4、将W3提取的对应尺度的光谱特征按照光谱特征方向拼接成多尺度光谱特征；

W5、将步骤W2至W4的操作作为一个多尺度光谱特征提取单元；利用若干个多尺度光谱特征提取单元构成的高光谱遥感数据多尺度光谱特征提取模型进行高光谱遥感数据多尺度光谱特征提取。

进一步地，W5所述的高光谱遥感数据多尺度光谱特征提取模型为若干个多尺度光谱特征提取单元串联组成的。

进一步地，W4中所述将W3提取的对应尺度的光谱特征拼接成多尺度光谱特征的过程是利用Concatenate函数实现的。

进一步地，所述的k取奇数值。

本发明的优点：本发明可以直接对原始高光谱遥感数据进行多尺度光谱特征提取，有效提高了光谱特征提取能力，同时可快速降低高维的光谱向量的维度，去除光谱的局部冗余特征，且极大缓解由于高光谱遥感数据高维度导致的维数灾难的问题。

附图说明

图1单一尺度的一维常规卷积光谱特征提取和单一尺度的一维组卷积分段光谱特征提取对比示意图；其中图1(a)是一维常规卷积示意图，图1(b)是一维组卷积分段光谱特征提取示意图；

图2一层多尺度光谱特征提取多尺度光谱特征提取框图；

图3高光谱遥感数据多尺度光谱特征提取多尺度光谱特征提取总体原理框图；

图4基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取流程图。

具体实施方式

本实施方式为基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，包括以下步骤：

步骤一、训练过程如下：

S1、针对高光谱遥感数据的每个光谱波段进行归一化处理，并从已标记样本中随机选择训练样本；

S2、多个高光谱特征矩阵含N'个输入特征向量f′₁,···,f′_N′，每个输出特征向量的维度是D'；在光谱向量维度D'的方向上将其分为g组(D′₁,···,D′_g)，各组单独进行常规一维卷积操作，每组都通过N个尺寸为k的一维卷积操作，每组都生成N个输出特征向量，各组的维度为(D₁,···,D_g)，其中D_i＝D′_i-(k-1)，最后输出的总维度D＝D'-g(k-1)，完成一个尺度的分组卷积，即实现基于一维分组卷积的一个尺度的特征提取；

S2的过程即为一维组卷积。单一尺度的一维常规卷积光谱特征提取和一维组卷积分段光谱特征提取对比示意图如图1所示。其中，

图1(a)是一维常规卷积光谱特征提取示意图，其由N'个输入特征向量组成输入特征矩阵(f′₁,···,f′_N′)，每个输入特征向量的维度是D'；通过N个尺寸为k的一维卷积操作，生成N个输出特征向量构成的的输出特征矩阵(f₁,···,f_N)，每个输出特征向量的维度是D＝D'-(k-1)，所需的学习参数是P_1D＝k×N'×N＝kNN'。

图1(b)是一维组卷积分段光谱特征提取示意图。在相同的输入特征矩阵情况下，即含N'个输入特征向量f′₁,···,f′_N′，每个输出特征向量的维度是D'；

在光谱向量维度D'的方向上将其等分为g组(D′₁,···,D′_g)，且

每组都含有N'个特征向量，各组单独进行一维常规卷积操作，每组都通过N个尺寸为k的一维卷积操作，每组都生成N个输出特征向量，各组的维度为(D₁,···,D_g)，D₁＝···＝D_g，其中D_i＝D′_i-(k-1)，最后输出的总维度D＝D'-g(k-1)。如果不能等分，即D'不被g整除，保证前g-1组等分，最后一组视情况而定：比如D＝19，g＝4，前三组每组5个特征矩阵，最后一组4个，如果D＝17，g＝4，前三组4个特征矩阵，最后一组5个，或者为了方便表述，不整除而多余的放置在最后一组。

与一维常规卷积光谱特征提取相比，一维组卷积分段光谱特征提取在维度降低的速度上加快了g倍，有效缓解高维的高光谱遥感数据的维度灾难的问题。对应所需要的学习参数是P_lg＝k×N'×N×g＝gkNN'，对应的是一维常规卷积光谱特征提取g倍(在相同输入输出维度情况下，本发明每层的学习参数是一维常规卷积的g倍，但同时在降低维度速度上加快g倍，即一维常规卷积需要g倍层数才能降低与本发明相同的维度，而g倍层往往由于网络过深而导致过拟合。所以在降低相同维度的情况下，本发明所需的学习参数与一维常规卷积相同或接近，但需要更少的层数以防止过拟合。如果是相同层数，则本发明能降低维度上提高了g倍，缓解维数灾难的问题。)。所以本发明更适合直接提取原始光谱向量的特征，因为此时N'＝1，所以总学习参数gkN不大。另一个重要的原因是因为一维常规卷积总学习参数只有P_1D＝kN，而最开始特征提取最大程度上决定最后特征提取的效果，所以需要更多的学习参数直接学习原始光谱信息，而本发明提出的分段光谱特征不仅提供更多学习参数来学习特征，而且更加快速的降低光谱特征的维度。

S3、每个尺度利用多个一维滤波器对数据进行分组卷积，提取对应尺度的光谱特征；

多尺度光谱特征提取是在单一尺度的一维组卷积分段光谱特征提取基础上提出的。多尺度指的是多个不同的k值，k一般取奇数值，如3，5，7，9，11等。当前光谱特征提取方法不采用多尺度可能的主要原因是一维常规卷积采用多尺度会造成输出维度(D＝D'-(k-1))的不一致，而无法将多尺度的特征拼接在一起。本发明可以较好的解决该问题。

由上面分析可知，输出维度是D＝D'-g(k-1)，通过设置k和g的值保证g(k-1)乘积不变即可，即多尺度对应的不同的k值可以通过设置不同的分段组数g的值来实现相同的输出维度。如(g,k)取(10,3)，(5,5)，(2,11)，对应三种尺度3，5，11，其降低的维度都是g(k-1)＝20，即实现三个尺度的光谱特征特征提取。

一层多尺度光谱特征提取多尺度光谱特征提取框图如图2所示。利用多个尺度对光谱特征向量直接进行特征提取，通过设置与之匹配的分段组数g_i，保证g_i(k_i-1)乘积相等，即g₁(k₁-1)＝g₂(k₂-1)＝…＝g_s(k_s-1)，得到各个尺度提取的特征，且各尺度具有相同的输出维度；

S4、利用Concatenate函数将其按照光谱特征方向拼接成所需的多尺度光谱特征；

S5、将步骤S2至S4的操作作为一个多尺度光谱特征提取单元，利用若干个多尺度光谱特征提取单元串联作为高光谱遥感数据多尺度光谱特征提取模型；高光谱遥感数据多尺度光谱特征提取多尺度光谱特征提取总体原理框图如图3所示，不同尺度单元中g_i(k_i-1)的乘积可以相等，也可以不相等；不相等的情况下可以表示为

其中

表示尺度单元m对应的g_i(k_i-1)，m′表示尺度单元m′对应的g_i(k_i-1)。

利用上述过程训练高光谱遥感数据多尺度光谱特征提取模型，训练过程实际要结合实际目标完成，利用分类器和损失函数等实现训练过程。基于训练过程能够确定高光谱遥感数据多尺度光谱特征提取模型的参数。

如图4所示的过程，基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取主要包括数据准备和多尺度光谱特征提取。数据准备包括读取高光谱原始数据，并对其每个光谱波段进行空间归一化处理，然后从已标记的训练样本中随机选择训练样本。先是根据确定的尺度将训练样本在光谱方向上等分成对应的组数，原则是组数与尺度减一的乘积g(k-1)不变。然后每个尺度利用不同的一维滤波器对数据进行分组卷积，提取对应尺度的光谱特征。最后将各尺度光谱特征拼接得到多尺度特征。如果需要提取更深层的特征，可以继续串联多个多尺度光谱特征提取模块。

步骤二、高光谱遥感数据多尺度光谱特征提取：

针对高光谱遥感数据的每个光谱波段进行归一化处理，然后利用训练好的训练高光谱遥感数据多尺度光谱特征提取模型进行高光谱遥感数据多尺度光谱特征提取。

本发明关键在于应用一维组卷积的概念提出了一种基于一维组卷积的多尺度光谱特征提取方法。技术方案是：确定多尺度的尺度数和每个尺度值，以每个尺度值减一后的值与对应的分组数的乘积相等为原则，直接将高维的高光谱向量信号在光谱波段维度上等分成若干组(若干段)。每个尺度利用多个不同的滤波器对每段高维的高光谱向量信号进行单独的一维常规卷积操作，每个尺度的滤波器个数用户可根据需求自定义。各尺度值减一与对应分组数的乘积要相等的目的是保证每个尺度对应的输出特征维度一致性，便于最后能够将多个尺度的特征拼接在一起，以提取到多尺度的光谱特征和确保后续的特征提取过程。由于每个尺度对应高光谱向量每段的维度都降低相同的维度，其整体的降低维度是是尺度值减一乘以组数，而传统单一尺度光谱特征提取方法仅降低尺度值减一，故本发明的多尺度特征提取的降维数是传统单一尺度光谱特征提取方法的组数倍，实现快速降低光谱向量的特征维度。尺度的个数用户可自定义，选择原则是保持各组具有相同的输出特征维度。

实施例

以Indian Pines(220个光谱波段)高光谱遥感数据集为例，在保证其他条件完成相同的情况下，通过分类的总体精度，对比本发明的多尺度特征提取和其对应的单一尺度特征效果。一般来说，特征提取越好，分类精度越高。在Keras的框架下，网络模型超参数设置如下：本实施例采用三种尺度，对应的尺度和组数为：(3，12)，(7，4)，(9，3)，它们每次卷积后都降低24((3-1)*12＝(7-1)*4＝(9-1)*3＝24)个维度。每个尺度的卷积核的数量都取64个，训练最大迭代次数都为1000，批量大小(一次训练所选取的样本数)都为64，都利用mini-batch Adadelta优化器。训练样本都是从Indian Pines数据集里选择常用的8大类(Corn-notill，Corn-mintill，Grass-pasture，Hay-windrowed，Soybean-notill，Soybean-mintill，Soybean-clean，Woods)，每类随机选择50个(从中选择10％作为验证集)，剩下的标记样本作为测试集，以十次测试集总体精度的平均值为结果。在范围为[1，0.3，0.1，0.03，0.01，0.003]中，根据验证集的精度，选择初始化学习率为0.03。训练过程中使用提前终止训练函数(earlystopping)和学习率自动减少函数(reducelronplateau)以加快训练过程。

实例涉及二个方面的验证：

1)基于一维分组卷积的多尺度和基于一维常规卷积的单一尺度光谱特征提取的总体精度随层数对比(表1)；

2)基于一维分组卷积的多尺度和基于一维常规卷积的单一尺度光谱特征提取的总体精度随每类训练样本数的对比(表2)。

表1基于一维分组卷积的多尺度和基于一维常规卷积的单一尺度光谱特征提取的总体精度随层数对比

对于基于一维常规卷积的三种单一尺度(没有对比一维常规卷积多尺度是因为其无法实现相同维度的降低)，总体精度随着层数增加先增加后减少，主要原因是模型在层数较小时欠拟合，所以精度低，当层数过大时过拟合，所以精度减少。对于基于一维分组卷积的多尺度，总体精度先快速升高，然后缓慢升高，得益于本发明多尺度和快速减少维度的优势。没有再继续增加层数是因为特征维度不能再降低了。

多尺度的最佳精度比任何一个单一尺度的最佳都高，且表中所有层的，多尺度总体精度比对应层的任何单一尺度都高，验证了本发明基于分组卷积的多尺度光谱特征的有效性。

表2多尺度和单一尺度光谱特征提取的总体精度随每类训练样本数的对比

总体精度随着每类训练样本增加而增加，主要原因是更多的训练样本能更好的拟合光谱特征提取模型。

在训练增加的情况下，多尺度一直比单一尺度总体精度都要高(超过6％)，验证了本发明提出的多尺度光谱特征提取方法对样本的鲁棒性。

Claims (5)

1.基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，其特征在于，包括以下步骤：

W1、针对高光谱遥感数据的每个光谱波段进行归一化处理；

W2、多个高光谱特征矩阵含N'个输入特征向量f₁',…,f′_N′，每个输出特征向量的维度是D'；在光谱向量维度D'的方向上将其分为g组(D′₁,…,D′_g)，各组单独进行一维卷积操作，每组都通过N个尺寸为k的一维卷积操作，每组都生成N个输出特征向量，各组的维度为(D₁,…,D_g)，其中D_i＝D′_i-(k-1)，i＝1,2,…,g，最后输出的总维度D＝D'-g(k-1)，完成一个尺度的分组卷积，实现光谱特征的提取；

W3、按照W2的方式，重新进行分组，每次分组作为一个尺度，通过设置匹配的分段组数g_i，保证每个尺度对应的g_i(k_i-1)乘积相等，k_i为分段组数g_i时对应尺度下一维卷积操作的卷积核尺寸，每个尺度利用多个一维滤波器对数据进行分组卷积，提取对应尺度的光谱特征，各个尺度提取的光谱特征具有相同的输出维度；

W4、将W3提取的对应尺度的光谱特征按照光谱特征方向拼接成多尺度光谱特征；

W5、将步骤W2至W4的操作作为一个多尺度光谱特征提取单元；利用若干个多尺度光谱特征提取单元构成的高光谱遥感数据多尺度光谱特征提取模型进行高光谱遥感数据多尺度光谱特征提取。

2.根据权利要求1所述的基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，其特征在于，所述W5中不同尺度单元中的g_i(k_i-1)乘积不相等。

3.根据权利要求1或2所述的基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，其特征在于，W5所述的高光谱遥感数据多尺度光谱特征提取模型为若干个多尺度光谱特征提取单元串联组成的。

4.根据权利要求3所述的基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，其特征在于，W4中所述将W3提取的对应尺度的光谱特征拼接成多尺度光谱特征的过程是利用Concatenate函数实现的。

5.根据权利要求4所述的基于一维组卷积神经网络的高光谱遥感数据多尺度光谱特征提取方法，其特征在于，所述的k取奇数值。

Images