CN105069482B - 基于空间正则化流形学习算法的高光谱遥感图像分类方法 - Google Patents

Abstract

本发明提供了一种基于空间正则化流形学习算法的高光谱遥感图像降维和分类方法，包括以下步骤：将高光谱遥感图像划分为多个子块；再在其中随机选择部分数据点作为连接数据；将连接数据和各子块数据合并后得到增强子块数据；对每个增强子块分别计算LLE算法和空间正则约束对应的图拉普拉斯矩阵，并得到复合的拉普拉斯矩阵，对该矩阵进行特征值分解，得到降维结果；对各个降维结果进行对齐，得到整个图像的降维结果；最后对降维数据进行分类。本发明在流形学习算法框架下有效结合数据空间信息，并采用图像分块和对齐的策略，以最大程度发挥空间正则约束的作用。所提出算法对多种高光谱遥感数据分类都表现出较好的适用性，能够明显提高高光谱遥感图像的分类精度。

Description

基于空间正则化流形学习算法的高光谱遥感图像分类方法

技术领域

本发明属于遥感图像处理技术领域，具体涉及一种空间正则化的流形学习降维算法，并结合图像分块和降维结果对齐技术，最大程度发挥空间正则约束的作用，用于高光谱遥感图像降维和分类。

背景技术

高光谱遥感是具有高的光谱分辨率的遥感科学和技术，它具有“图谱合一”的特性，将代表地物性质的光谱和确定地物空间的图像结合在一起，能够获取地球表面丰富的光谱和空间信息，在地物精细分类方面具有重要应用。

高光谱数据量大，存在数据冗余和维数灾难问题，降维是解决这个问题的有效方法。降维不仅能够减少运算量，而且能够找出高维数据中隐藏的低维结构，提高数据分类的精度。流形学习作为一类非线性降维算法，能够有效挖掘数据的非线性结构。由于高光谱遥感数据存在固有的非线性特性，线性降维可能丢失数据某些重要的非线性信息，因此，基于流形学习的非线性降维具有重要的研究意义，已经成功应用于高光谱遥感图像分类。

大量研究表明，高光谱遥感图像空间信息的利用能够有效降低分类结果中的椒盐现象，提高分类精度。对于结合空间信息的流形学习算法，目前研究主要集中在结合空间特征的相似性度量方法上。例如目前有研究者将数据点的空间坐标信息作为其空间特征，如果两个数据点在空间上接近，那么其相似性程度增加；也有研究者利用以数据点为中心的空间邻域的平均光谱作为其空间特征，并由热核函数来计算数据点之间空间特征的相似性；还有研究者提出了空间相关距离，将两个数据点的相似性转换为两个数据点集的相似性，其中数据点集是以数据点为中心的空间邻域数据构成的点集。在半监督分类领域，有研究者提出空间正则约束，约束空间位置上接近的数据点具有相似的分类结果。由于半监督分类算法计算复杂度高，只能在图像中选择一部分数据参与计算，如果所选择的数据在空间上比较分散，那么一个数据点的空间邻域内存在较少其他数据点，空间正则约束的作用就会受限。

发明内容

本发明将空间正则约束应用于流形学习算法中，提出空间正则化的流形学习算法，以约束空间位置上接近的数据点具有相似的降维结果。

实现本发明上述目的所采用的技术方案为：

一种基于空间正则化流形学习算法的高光谱遥感图像降维和分类方法，该算法结合图像分块和降维结果对齐技术，最大程度发挥空间正则约束的作用，从而进行高光谱遥感图像降维和分类，具体包括以下步骤：

(1)、将高光谱遥感图像X分成n个不重叠的子块X_i,i＝1,...,n；

其中X表示高光谱遥感数据，包含N个数据点，每个数据点的维数是D；X_i表示第i个子块内数据点的集合，每个子块的大小是m×m，也就是每个子块内包含m²个数据点；

(2)、在高光谱遥感图像X中随机选择一部分数据点作为连接数据X_t，其中X_t包含p个数据点；

(3)、将连接数据X_t合并到每个子块X_i中，生成n个增强子块A_i＝[X_t,X_i],i＝1,...,n，每个增强子块A_i包含(m²+p)个数据点；

(4)、计算每个增强子块A_i的降维结果Z_i＝[M_i,Y_i],i＝1,...,n，其中M_i表示连接数据X_t在第i个子块中的降维结果，Y_i表示第i个子块数据X_i的降维结果，降维数据的维数为d，(d<D)；降维结果Z_i的计算方法为：

对于每一个增强子块数据A_i，分别计算局部线性嵌入(Locally LinearEmbedding,LLE)这种流形学习算法对应的图拉普拉斯矩阵L，和空间正则约束对应的图拉普拉斯矩阵L_s，两者加权相加得到复合的拉普拉斯矩阵uL+(1-u)L_s，其中参数u表示权重，对该复合拉普拉斯矩阵进行特征值分解，其最小的2～(d+1)个特征值对应的特征向量就是该增强子块的降维结果Z_i；

(5)、将各个子块X_i的降维结果(Y_i,i＝1,...,n)进行对齐，得到整个图像的降维结果Y，方法如下：

首先任意选择一个目标子块，例如第q个子块，计算变换矩阵P_iq,i＝1,...,n，表示从第i个子块到第q个子块的对齐，其中上标符号T表示对矩阵的转置操作，上标符号“-1”表示对矩阵进行求逆操作，然后计算第i个子块对齐到第q个子块的结果：Y_iq＝P_iqY_i,i＝1,...,n，从而得到整个图像X的降维数据Y＝[Y_1q,Y_2q,....,Y_nq]；

(6)、对降维数据Y采用最近邻分类算法(1NN)进行分类，方法如下：

对图像中每一个待分类的数据点y_i，i＝1,...N，基于欧式距离度量方法，在训练数据集中选择和y_i欧氏距离最小的数据点y_j，并以数据点y_j的类别作为数据点y_i的类别。

步骤(4)中，LLE算法对应的图拉普拉斯矩阵L的计算公式为：

L＝(I-S)^T(I-S)

其中I表示单位矩阵，大小是(m²+p)×(m²+p)，S表示重构系数矩阵，大小是(m²+p)×(m²+p)，S中第a行第b列的元素为S_ab，表示x_a被x_b线性重构的系数；S矩阵的计算方法是：对增强子块A_i中的每个数据点x_a，a＝1,...,(m²+p),在该增强子块中寻找与x_a光谱特征最接近的k个近邻点，近邻点基于光谱角制图度量方法搜索；令N(x_a)表示x_a的光谱邻域，包括x_a的k个光谱近邻点；如果数据点x_b∈N(x_a)，那么x_a被x_b线性重构的系数S_ab通过求解以下目标函数得到：

如果数据点那么S_ab＝0。

步骤(4)中，空间正则约束对应的图拉普拉斯矩阵L_s的计算公式为：

L_s＝I-D_s ^-1/2W_sD_s ^-1/2

其中D_s是对角的程度矩阵，D_s矩阵中第a行第a列的元素D_s,aa通过以下公式计算：D_s,aa＝Σ_bW_s,ab，W_s表示数据空间关系邻接矩阵，大小是(m²+p)×(m²+p)，对于数据点x_a，a＝1,...,(m²+p)，其空间邻域定义为以x_a为中心的w×w的空间窗口内的数据，w表示空间方形窗口的边长，也就是空间邻域包含w²个数据点，如果数据点x_b在该窗口内，那么x_a和x_b为空间近邻，这两个数据点之间的值W_s,ab通过以下公式计算：

其中σ表示热核函数参数，如果数据点x_b不在以x_a为中心的w×w的空间窗口内，即x_a和x_b不是空间近邻，那么W_s,ab的值为零。

本发明将空间正则约束应用于流形学习算法中，提出空间正则化的流形学习算法，以约束空间位置上接近的数据点具有相似的降维结果。但是，直接利用该约束，存在的问题是：如果所选择数据的空间分布比较分散，那么该约束无法充分发挥作用。为解决这个问题，提高空间正则约束的作用，本申请将图像分成多个不重叠的小的子块，然后在每个子块中进行空间正则化LLE算法。在子块中，由于每个数据点的空间邻域数据也在这个子块中，因此，数据之间好的空间关系可以得到保证，空间正则约束的作用能够得到充分发挥。

与现有技术相比，本发明具有以下优点：

(1)、本发明将空间正则约束引入流形学习算法中，使得降维数据能够同时保持光谱邻域和空间邻域的局部特性，提高降维数据的类别可分性。

(2)、本方法将高光谱遥感图像分成多个不重叠的子块，在每个子块中进行空间正则化流形学习降维算法，以充分发挥空间正则约束的作用，并使得该算法可以适用于大尺度高光谱遥感图像。

附图说明

图1为本发明提供的高光谱遥感图像分类方法的流程图；

图2为本发明实施例中对Indiana Pine高光谱遥感数据，对不同结合空间信息的LLE算法的比较(总体分类精度)。

图3为本发明实施例中对Houston高光谱遥感数据，对不同结合空间信息的LLE算法的比较(总体分类精度)。

具体实施方式

下面结合附图和实施例对本发明作进一步说明，但是本发明的保护范围并不局限于以下实施例。

本发明所提供的基于空间正则化流形学习算法的高光谱遥感图像分类方法的流程如图1所示，该方法结合图像分块和降维结果对齐技术，最大程度发挥空间正则约束的作用，进行高光谱遥感图像降维和分类，算法具体包括以下步骤：

(1)、将高光谱遥感图像X分成n个不重叠的子块X_i,i＝1,...,n，其中X表示高光谱遥感数据，包含N个数据点，每个数据点的维数是D；X_i表示第i个子块内数据点的集合，每个子块的大小是m×m，也就是子块内包含m²个数据点。

(2)、在高光谱遥感图像X中随机选择一小部分数据点作为连接数据X_t，其中X_t包含p个数据点。

(3)、将连接数据X_t合并到每个子块中，生成n个增强子块A_i＝[X_t,X_i],i＝1,...,n，每个增强子块包含(m²+p)个数据点。

(4)、基于空间正则化LLE算法对每个增强子块数据A_i降维，得到降维结果Z_i＝[M_i,Y_i],i＝1,...,n，其中M_i表示连接数据X_t在第i个子块中的降维结果，Y_i表示第i个子块数据X_i的降维结果，降维数据的维数为d(d<D)。对于子块数据A_i，空间正则化LLE算法降维的具体计算步骤为：

首先计算LLE算法对应的图拉普拉斯矩阵L，计算公式为：

L＝(I-S)^T(I-S)

其中上标符号T表示对矩阵的转置操作，I表示单位矩阵，大小是(m²+p)×(m²+p)，S表示重构系数矩阵，大小是(m²+p)×(m²+p)，S中第a行第b列的元素为S_ab，表示x_a被x_b线性重构的系数；S矩阵的计算方法是：对增强子块A_i中的每个数据点x_a，a＝1,...,(m²+p),在该增强子块中寻找与x_a光谱特征最接近的k个近邻点，近邻点基于光谱角制图度量方法搜索；令N(x_a)表示x_a的光谱邻域，包括x_a的k个光谱近邻点；如果数据点x_b∈N(x_a)，那么x_a被x_b线性重构的系数S_ab通过求解以下目标函数得到：

如果数据点那么S_ab＝0。

然后计算空间正则约束对应的图拉普拉斯矩阵L_s，其计算公式为：

L_s＝I-D_s ^-1/2W_sD_s ^-1/2

其中D_s是对角的程度矩阵，D_s矩阵中第a行第a列的元素D_s,aa通过以下公式计算：D_s,aa＝Σ_bW_s,ab，W_s表示数据空间关系邻接矩阵，大小是(m²+p)×(m²+p)，对于数据点x_a，a＝1,...,(m²+p)，其空间邻域定义为以x_a为中心的w×w的空间窗口内的数据，w表示空间方形窗口的边长，也就是空间邻域包含w²个数据点，如果数据点x_b在该窗口内，那么x_a和x_b为空间近邻，这两个数据点之间的值W_s,ab通过以下公式计算：

其中σ表示热核函数参数，如果数据点x_b不在x_a为中心的w×w的空间窗口内，即x_a和x_b不是空间近邻，那么W_s,ab的值为零。

最后将L和L_s加权相加得到复合的拉普拉斯矩阵：uL+(1-u)L_s，其中参数u表示权重，并对该复合拉普拉斯矩阵进行特征值分解，其最小的2～(d+1)个特征值对应的特征向量就是该增强子块A_i的降维结果Z_i。

(5)、对各个子块的降维结果(Y_i,i＝1,...,n)进行对齐，得到整个图像的降维结果：

首先任意选择一个目标子块，例如第q个子块，计算变换矩阵P_iq,i＝1,...,n，表示从第i个子块到第q个子块的对齐，其中上标符号“-1”表示对矩阵进行求逆操作，然后计算第i个子块对齐到第q个子块的结果：Y_iq＝P_iqY_i,i＝1,...,n，从而得到整个图像X的降维数据Y＝[Y_1q,Y_2q,....,Y_nq]；

(6)、对于降维数据Y，采用最近邻算法(1NN)进行分类：对图像中每一个待分类的数据点y_i，i＝1,...N，基于欧式距离度量方法，在训练数据集中选择和y_i欧式距离最小的数据点y_j，并以数据点y_j的类别作为数据点y_i的类别。

至此，对于高光谱遥感图像的每个数据点，都进行了分类。

为证明以上方法的有效性，采用实际高光谱遥感数据为例进行说明。

Indiana Pine数据为1992年于美国印地安那州一个农场拍摄的高光谱遥感影像，其空间分辨率是20×20m²，波谱范围为400nm～2500nm，光谱分辨率为10nm，图像大小为145×145，去除噪声波段和水汽吸收波段，剩余200波段。农田区域的作物类别主要包括玉米，大豆，小麦等，根据耕种情况和土壤湿度的不同，可以细分为多种类别。该地区具有16种地物类型，我们选择其中具有较多标记数据的9类地物进行分类实验，分别为：

第2类：玉米-未收割；

第3类：玉米-少量收割；

第5类：草/牧场；

第6类：草/树；

第8类：干草；

第10类：大豆-未收割；

第11类：大豆-少量收割；

第12类：大豆-收割完毕；

第14类：树林。

Houston数据为2013年国际数据融合大赛中公布的数据，该数据是2012年于美国Houston大学以及周边区域拍摄的高光谱遥感影像，其空间分辨率是2.5×2.5m²，波谱范围为380nm～1050nm，图像大小为349×1905，波段数量为144。该地区包括15种地物类型，分别为：

第1类：长势好的草坪；

第2类：长势不好的草坪；

第3类：人工草坪；

第4类：树木；

第5类：土壤；

第6类：水体；

第7类：居民楼；

第8类：商业楼；

第9类：道路；

第10类：高速公路；

第11类：铁路；

第12类：停车场1；

第13类：停车场2(车辆)；

第14类：网球场；

第15类：跑道。

实验比较六种基于LLE降维的分类方法，包括：(1)只利用光谱信息进行LLE降维和1NN算法分类(LLE_1NN)，(2)采用基于空间相关距离(Spatially Coherent Distance,SCD)进行近邻点选择的LLE算法，并1NN算法分类(SCD_LLE_1NN)，(3)采用局部空间平均光谱(Local Spatial Averaging Spectra,LSAS)作为空间特征的LLE算法，并1NN算法分类(LSAS_LLE_1NN)，在该方法中，热核函数用于计算数据空间特征和光谱特征的相似性，(4)采用空间坐标(Spatial Coordinate,SC)作为空间特征的LLE算法，并1NN算法分类(SC_LLE_1NN)，在该方法中，热核函数用于计算数据空间特征和光谱特征的相似性，(5)不进行图像分块的空间正则化(Spatial Regularized,SR)LLE算法，并1NN算法分类(SR_LLE_1NN)，(6)本发明提出的对图像进行分块进行空间正则化LLE算法，并进行降维结果对齐(Tile Alignment,TA)和1NN算法分类(SR_LLE_TA_1NN)。六种方法中，第一种是只利用光谱信息的LLE算法，其他五种是结合光谱信息和空间信息的LLE算法。

对两个高光谱遥感图像进行分块，每个子块的大小为30×30，随机选择10％的数据点作为连接数据。在降维后的1NN分类阶段，为进行定量的算法评价，把标记数据分为训练数据和测试数据：对于Indian Pine标记数据，随机选择10％作为训练数据，剩余的数据作为测试数据；对于Houston标记数据，使用大赛期间公布的训练数据和测试数据。参数选择方面：对于LLE算法中的光谱近邻个数选择为30，空间窗口的大小选择为5×5，LSAS和SC算法中的热核函数参数选择为0.1，SR_LLE_TA算法中，计算空间近邻相似性的热核函数参数选择为0.5，用于平衡LLE拉普拉斯矩阵和空间正则约束对应的拉普拉斯矩阵的权重参数选择为0.5。

对Indian Pine数据和Houston数据的分类结果如图2和图3所示，其中x轴表示降维维数，y轴表示总体分类精度。从结果可以看出，结合空间信息的五种方法优于只利用光谱信息的LLE_1NN算法，表明了利用空间信息的有效性；本发明提出的方法明显优于其他五种算法，表明所提出方法能够使得降维数据具有更好的类别可分性；另外，所提出SR_LLE_TA_1NN方法优于SR_LLE_1NN，表明不对图像分块情况下采用空间正则约束，由于所选择数据在空间位置上是分散的，所以不能充分发挥其作用，而将空间正则化LLE算法作用于各子块数据中，能够最大程度的发挥空间正则约束的作用。

为进一步评价和比较算法，表1给出Houston数据的每一类地物的分类精度，可以看到，本发明提出的SR_LLE_TA_1NN算法对于大多数地物类别能够取得最好的分类效果，特别是对于难分的类别，例如对于第12类(停车场1)和第13类(停车场2，车辆)，相比较其他算法，SR_LLE_TA_1NN算法能够取得25％～40％精度的提高。表1中还给出总体分类精度，平均分类精度，以及Kappa系数三个算法评价指标，都表明本发明提出算法具有最好的分类性能。

表1比较不同结合空问信息的LLE算法(每类分类精度，Houston数据)

本发明采用空间正则约束、图像分块、和对齐技术，将空间信息引入到流形学习降维算法。方法中具体采用了一种经典的局部流形学习算法(LLE)，但是并不限于LLE，该空间信息结合方法同样适用于其他流形学习算法。另外，实验中只是给出了两种高光谱遥感数据，该算法同样可以适用于其他高光谱遥感图像。

Claims (3)

1.一种基于空间正则化流形学习算法的高光谱遥感图像降维和分类方法，其特征在于：该高光谱遥感图像降维和分类方法结合图像分块和降维结果对齐技术，最大程度发挥空间正则约束的作用，从而进行高光谱遥感图像降维和分类，具体包括以下步骤：

(1)、将高光谱遥感图像X分成n个不重叠的子块X_i,i＝1,...,n；

其中X表示高光谱遥感数据，包含N个数据点，每个数据点的维数是D；X_i表示第i个子块内数据点的集合，每个子块的大小是m×m，也就是每个子块内包含m²个数据点；

(2)、在高光谱遥感图像X中随机选择一部分数据点作为连接数据X_t，其中X_t包含p个数据点；

(3)、将连接数据X_t合并到每个子块X_i中，生成n个增强子块A_i＝[X_t,X_i],i＝1,...,n，每个增强子块A_i包含(m²+p)个数据点；

(4)、计算每个增强子块A_i的降维结果Z_i＝[M_i，Y_i],i＝1,...,n，其中M_i表示连接数据X_t在第i个子块中的降维结果，Y_i表示第i个子块数据X_i的降维结果，降维数据的维数为d，(d<D)；降维结果Z_i的计算方法为：

对于每一个增强子块数据A_i，分别计算LLE算法对应的图拉普拉斯矩阵L，和空间正则约束对应的图拉普拉斯矩阵L_s，两者加权相加得到复合的拉普拉斯矩阵uL+(1-u)L_s，其中参数u表示权重，对该复合拉普拉斯矩阵进行特征值分解，其最小的2～(d+1)个特征值对应的特征向量就是该增强子块的降维结果Z_i；

(5)、将各个子块X_i的降维结果(Y_i,i＝1,...,n)进行对齐，得到整个图像的降维结果Y，方法如下：

首先任意选择一个目标子块，例如第q个子块，计算变换矩阵P_iq,i＝1,...,n，P_iq＝M_qM_i ^T(M_iM_i ^T)^-1，表示从第i个子块到第q个子块的对齐，其中上标符号T表示对矩阵的转置操作，上标符号“-1”表示对矩阵进行求逆操作，然后计算第i个子块对齐到第q个子块的结果：Y_iq＝P_iqY_i,i＝1,...,n，从而得到整个图像X的降维数据Y＝[Y_1q,Y_2q,....,Y_nq]；

(6)、对降维数据Y采用最近邻分类算法进行分类，方法如下：

对图像中每一个待分类的数据点y_i，i＝1,...N，基于欧式距离度量方法，在训练数据集中选择和y_i欧氏距离最小的数据点y_j，并以数据点y_j的类别作为数据点y_i的类别。

2.根据权利要求1所述的基于空间正则化流形学习算法的高光谱遥感图像降维和分类方法，其特征在于：步骤(4)中，LLE算法对应的图拉普拉斯矩阵L的计算公式为：

L＝(I-S)^T(I-S)

其中I表示单位矩阵，大小是(m²+p)×(m²+p)，S表示重构系数矩阵，大小是(m²+p)×(m²+p)，S中第a行第b列的元素为S_ab，表示x_a被x_b线性重构的系数；S矩阵的计算方法是：对增强子块A_i中的每个数据点x_a，a＝1,...,(m²+p),在该增强子块中寻找与x_a光谱特征最接近的k个近邻点，近邻点基于光谱角制图度量方法搜索；令N(x_a)表示x_a的光谱邻域，包括x_a的k个光谱近邻点；如果数据点x_b∈N(x_a)，那么x_a被x_b线性重构的系数S_ab通过求解以下目标函数得到：

如果数据点那么S_ab＝0。

3.根据权利要求1或2所述的基于空间正则化流形学习算法的高光谱遥感图像降维和分类方法，其特征在于：步骤(4)中，空间正则约束对应的图拉普拉斯矩阵L_s的计算公式为：

L_s＝I-D_s ^-1/2W_sD_s ^-1/2

其中D_s是对角的程度矩阵，D_s矩阵中第a行第a列的元素D_s,aa通过以下公式计算：D_s,aa＝∑_bW_s,ab，W_s表示数据空间关系邻接矩阵，大小是(m²+p)×(m²+p)，对于数据点x_a，a＝1,...,(m²+p)，其空间邻域定义为以x_a为中心的w×w的空间窗口内的数据，w表示空间方形窗口的边长，也就是空间邻域包含w²个数据点，如果数据点x_b在该窗口内，那么x_a和x_b为空间近邻，这两个数据点之间的值W_s,ab通过以下公式计算：

其中σ表示热核函数参数，如果数据点x_b不在以x_a为中心的w×w的空间窗口内，即x_a和x_b不是空间近邻，那么W_s,ab的值为零。