CN102902984A - 基于局部一致性的遥感影像半监督投影降维方法 - Google Patents

Abstract

本发明公开了一种基于局部一致性的遥感影像半监督投影降维方法。其步骤为：(1)划分遥感影像数据集；(2)生成语义相似矩阵、近邻矩阵和局部一致性矩阵；(3)融合标签矩阵和近邻矩阵；(4)生成近邻均值向量；(5)生成相异散度矩阵、相似散度矩阵和局部一致性散度矩阵；(6)求解最优投影矩阵；(7)投影降维。本发明采用基于局部一致性约束的半监督学习方法，提高了小样本学习情况下的识别率。

Description

基于局部一致性的遥感影像半监督投影降维方法

技术领域

本发明属于图像处理技术领域，更进一步涉及信息提取和模式识别技术领域中的一种基于局部一致性的遥感影像半监督投影降维方法。本发明可用于在高光谱遥感影像技术领域中进行地物分类，通过波段降维方法减少冗余波段，提高遥感影像的分类精度，利用高光谱图像对复杂地貌地物进行分析，判定出不同类别的地物。

背景技术

目前在高光谱遥感影像领域中，对高光谱数据进行降维处理的方法通常分为两类：特征提取和特征选择的方法。特征提取方法利用原始数据提取其特征参数，通过数学变换压缩波段，将数据投影到低维空间，常见的方法有主成分分析和线性判别分析。特征选择方法是在原始数据众多波段中选择感兴趣的若干波段或选择信息量大和相关性小的若干波段。

Yu等人在文献“J.Yu and Q.Tian，Semantic Subspace Projection and ItsApplications in Image Retrieval，IEEE Transactions on Circuits and Systems for VideoTechnology，vol.18，no.4，April.2008.”中提出了一种语义子空间投影的降维方法对图像进行降维处理。该方法首先根据图像数据集的监督信息和K近邻局部几何信息，构造同类近邻结构；在投影后的子空间中，约束来自不同语义类的样本分离，而来自相同语义近邻结构的样本聚集，找到一个最优投影。该方法存在的不足是，由于该方法为有监督的线性降维方法，需要利用大量的监督信息，而对于高光谱图像数据，其类别信息的获取是耗时耗力且非常困难的，从而导致该方法在小样本学习情况下因缺少监督信息而降低了地物分类识别率。

河海大学在其申请的专利文件“基于条件互信息的遥感高光谱图像波段选择方法”(申请号：201010152915.6申请日2010-04-21公开号：101853392A)中公开了一种利用条件互信息对遥感高光谱图像波段选择的方法。该方法首先利用待分类样本给定类别条件下各波段之间的条件互信息进行波段分组；然后，用支持向量机和遗传算法相结合的搜索算法对得到的分组波段进行搜索计算；最后，找到最优波段组合。该方法存在的不足是，该专利申请的方法由于波段相关性和数据信息量不可兼得，在最大信息量的条件下，会导致波段间相关性大，影响分类识别率。

发明内容

本发明的目的在于克服上述已有技术的不足，提出一种基于局部一致性的遥感影像半监督投影降维方法。本发明可在小样本学习情况下，利用少量的监督信息，减少高光谱遥感影像冗余波段，同时，保持了图像局部的一致性，提高高光谱遥感影像地物分类的识别率。

本发明实现的具体步骤如下：

(1)划分遥感影像数据集

将待处理的高光谱数据集作为测试集，按训练-测试样本比选取带标签样本组成有监督信息的训练集。

(2)生成矩阵

2a)采用语义相似矩阵公式生成测试集的标签矩阵；

2b)采用近邻方法生成测试集的近邻矩阵；

2c)采用局部一致性约束方法生成测试集的局部一致性矩阵。

(3)融合标签矩阵和近邻矩阵：采用点积方法融合标签矩阵和近邻矩阵。

(4)生成近邻均值向量：采用局部近邻均值向量公式生成近邻均值向量。

(5)生成散度矩阵

5a)采用相异散度矩阵公式生成测试集的相异散度矩阵；

5b)采用相似散度矩阵公式生成测试集的相似散度矩阵；

5c)采用局部一致性散度矩阵公式生成测试集的局部一致性散度矩阵。

(6)求解最优投影矩阵：采用特征值分解方法求解最优投影矩阵。

(7)投影降维：将最优投影矩阵和测试样本集矩阵相乘，得到测试样本集矩阵的降维矩阵。

与现有技术相比，本发明具有以下优点：

第一，由于本发明采用了半监督学习的方法，克服了现有技术因缺乏足够监督信息而无法精确分类地物的困难，使得本发明具有了利用少量监督信息就可以获得很高的识别率的优点。

第二，由于本发明采用了局部一致性约束，克服了现有技术无法在空间上约束近邻样本一致性的困难，使得本发明具有保持相似地物一致性，提高分类识别率的优点。

附图说明

图1为本发明的流程图；

图2为采用本发明与现有技术降维得到的地物识别精度对比图；

图3为采用本发明降维得到的地物平均精度图。

具体实施方式

参照图1，对本发明做进一步的详细描述。

步骤1，划分遥感影像数据集。

将待处理的高光谱数据集作为测试集D∈R^d×N，按训练-测试样本比选取带标签样本组成有监督信息的训练集A∈R^d×M；其中，d表示样本特征维数，N表示测试集所有样本的总个数，M表示训练集所有样本的总个数。在本发明的实施例中，样本特征维数d为200，测试集所有样本的总个数N取6929，训练集所有样本的总个数M依次取值689、228、113、74和55。

步骤2，生成矩阵。

2a)采用语义相似矩阵公式生成测试集的标签矩阵，语义相似矩阵公式如下：

其中，S_ij表示测试集的标签矩阵第i行第j列位置对应的元素，用来记录测试集中任意两个样本的类别关系，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；x_i和x_j表示测试集的第i和j个样本。在本发明的实施例中，测试集所有样本的总个数N取6929。

2b)采用近邻方法生成测试集的近邻矩阵，近邻方法如下：

第一步，对于测试集中每一个样本，找出与该样本距离最近的k个样本，将得到的所有样本组成近邻结构集合V。在本发明的实施例中，选取的样本个数k取值12。

第二步，采用下列几何结构矩阵公式生成测试集的近邻矩阵：

其中，G_ij表示测试集的近邻矩阵第i行第j列位置对应的元素，用来记录测试集中任意两个样本的空间几何关系，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；x_i和x_j表示测试集的第i和j个样本；V表示近邻结构集合。在本发明的实施例中，测试集所有样本的总个数N取6929。

2c)采用局部一致性约束方法生成测试集的局部一致性矩阵，局部一致性约束方法如下：

第一步，对于测试集中每一个样本，采用下列不等式约束公式，逐一找出测试集样本对应坐标与该样本对应坐标满足约束的样本：

|x-a_i|≤c

|y-b_i|≤c

其中，x表示满足约束的样本对应的横坐标值；a_i表示测试集的第i个样本对应的横坐标值，i＝1，2，...，N，N表示测试集所有样本的总个数；c表示约束宽度值；y表示满足约束的样本对应的纵坐标值；b_i表示测试集的第i个样本对应的纵坐标值。在本发明的实施例中，测试集所有样本的总个数N取6929，约束宽度值c取值3。

第二步，将找到的所有满足约束的样本组成局部一致性约束集合L。

第三步，采用下列局部一致性约束矩阵公式生成局部一致性矩阵：

其中，C_ij表示测试集的局部一致性矩阵的第i行第j列位置对应的元素，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；x_i和x_j表示测试集的第i和j个样本；L表示局部一致性约束集合。在本发明的实施例中，测试集所有样本的总个数N取6929。

步骤3，融合标签矩阵和近邻矩阵。

采用点积和归一化方法融合标签矩阵和近邻矩阵，从而融合了测试集样本的有监督信息和空间几何近邻信息，点积和归一化公式如下：

R＝S·G

$R_{\mathrm{ij}}=R_{\mathrm{ij}}/\underset{j}{\mathrm{\Σ}}{R}_{\mathrm{ij}}$

其中，R表示融合后的矩阵；S表示标签矩阵；●表示点积符号；G表示近邻矩阵；R_ij表示融合矩阵的第i行第j列位置对应的元素，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数。在本发明的实施例中，测试集所有样本的总个数N取6929。

步骤4，生成近邻均值向量。

采用局部近邻均值向量公式生成近邻均值向量，局部近邻均值向量公式如下：

$m_i=\underset{i,j\∈V}{\mathrm{\Σ}}{x}_j{R}_{\mathrm{ij}}$

其中，m_i表示测试集第i个样本的均值向量，i＝1，2，...，N，N表示测试集所有样本的总个数；j＝1，2，...，k，此处近邻值k取值范围为1～20；V表示近邻结构集合；x_j表示集合V第j个样本；R_ij表示融合矩阵的第i行第j列位置对应的元素。在本发明的实施例中，测试集所有样本的总个数N取6929，近邻值k取值12。

步骤5，生成散度矩阵。

5a)采用相异散度矩阵公式生成测试集的相异散度矩阵，相异散度矩阵公式如下：

$D=\underset{i,j}{\mathrm{\Σ}}(m_i-m_j){(m_i-m_j)}^T(1-S_{\mathrm{ij}})$

其中，D表示测试集的相异散度矩阵；m_i和m_j表示测试集第i和j个样本的均值向量，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；T表示转置符号；S_ij表示测试样本集的标签矩阵第i行第j列位置对应的元素。在本发明的实施例中，测试集所有样本的总个数N取6929。

5b)采用相似散度矩阵公式生成测试集的相似散度矩阵，相似散度矩阵公式如下：

$M=\underset{i,j}{\mathrm{\Σ}}(x_i-x_j){(x_i-x_j)}^T{G}_{\mathrm{ij}}$

其中，M表示测试集的相似散度矩阵；x_i和x_j表示测试集的第i和j个样本，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；T表示转置符号；G_ij表示测试样本集的近邻矩阵第i行第j列位置对应的元素。在本发明的实施例中，测试集所有样本的总个数N取6929。

5c)采用局部一致性散度矩阵公式生成测试集的局部一致性散度矩阵，局部一致性散度矩阵公式如下：

$Q=\underset{i,j}{\mathrm{\Σ}}(x_i-x_j){(x_i-x_j)}^T{C}_{\mathrm{ij}}$

其中，Q表示测试集的局部一致性散度矩阵；x_i和x_j表示测试集的第i和j个样本，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；T表示转置符号；C_ij表示测试样本集的局部一致性矩阵第i行第j列位置对应的元素。在本发明的实施例中，测试集所有样本的总个数N取6929。

步骤6，求解最优投影矩阵。

采用特征值分解方法求解最优投影矩阵；根据步骤5得到的相异散度矩阵D，相似散度矩阵M和局部一致性散度矩阵Q，对(M+Q)^-1·D进行特征值分解，得到的前l个最大的特征值对应的特征向量组成最优投影矩阵；使得在投影后的子空间中，来自不同类别的样本分离，而来自相同标签近邻结构及局部一致性约束结构的样本聚集。其中，l为降维后的维数，在本发明的实施例中，降维后的维数l取值范围为1～200。

步骤7，投影降维。

将最优投影矩阵和测试样本集矩阵相乘，得到测试样本集矩阵的降维矩阵；采用分类方法对降维后的测试集分类；在本发明的实施例中，采用的分类方法有线性fisher判别分析和K近邻方法。

本发明的效果通过以下仿真实验做进一步的说明。

1.实验条件

计算机配置环境为Intel(R)Core(TM)22.00Ghz，内存2G，系统windows 7，计算机仿真软件采用MATLAB R2009a。实验数据库采用1992年美国AVIRIS扫描仪在印第安纳州西北部获得的Indian Pine高光谱数据，地貌类别共计16类。原始数据共有220个波段，去掉噪声影响的波段，仅保留剩下的200个波段。本实验中选取其中6类地物，地物类别如表1所示。

表1.实验选取的6类地物及各类样本的个数

类别	地物类	样本数
			C1	hay-windrowed	489
C2	soybean-main	2468
			C3	woods	1294
C4	corn-no till	1434
			C5	grass/pasture	497
C6	grass/trees	747

2.实验内容

本发明共有两组实验：

实验1：分别采用本发明的基于局部一致性的半监督投影降维(LCSP)方法、L1图无监督(L1)降维方法、主成分分析(PCA)降维方法和局部线性嵌入(LLE)降维方法对实验数据降维，线性fi sher判别分析方法对实验数据分类；其中，训练-测试样本比分别选择1/10，1/30，1/60，1/90，1/120。

实验2：采用本发明方法对实验数据降维，K近邻方法对实验数据分类的实验。其中，训练-测试样本比选择1/10。

3.实验结果分析

实验1是采用本发明和现有降维方法对实验数据降维，线性fisher判别分析方法对实验数据分类的实验。

表2是在不同训练-测试样本比情况下，采用本发明方法、主成分分析(PCA)降维方法、L1图无监督(L1)降维方法和局部线性嵌入(LLE)降维方法对实验数据降维，线性fisher判别分析方法对实验数据分类，分别得到的最优识别率；其中，C1，C2，C3，C4，C5，C6分别代表第1类，第2类，第3类，第4类，第5类和第6类地物；OA代表平均识别率；L1代表L1图无监督降维方法，PCA代表主成分分析降维方法，LLE代表局部线性嵌入降维方法；表中方法括号内的数字代表降维后的维数。从表2可以看出，和传统的降维方法相比，本发明方法在识别率上有明显的优势，尤其当训练-测试样本比低的时候，本发明的方法在识别率上的优势更明显。

表2.采用线性fisher判别分析方法分类，对比本发明方法和现有降维方法在不同训练-测试样本比下得到的最优识别率

图2为采用本发明方法、L1图无监督降维方法、主成分分析降维方法和局部线性嵌入降维方法降维，结合线性fisher判别分析方法分类，得到的地物识别精度对比图。如图2所示，横坐标代表训练-测试样本比，取值为1/10、1/30、1/60、1/90、1/120；纵坐标代表识别率；图2中，4条线从上往下依次代表本发明方法，L1图无监督降维方法，主成分分析降维方法和局部线性嵌入降维方法；线上标注点的横坐标值代表该方法的训练-测试样本比，标注点的纵坐标值代表该方法在相应训练-测试样本比条件下得到的识别率。从图2可以看出，在相同横坐标值条件下，本发明方法对应标注点的纵坐标值最大，即在相同训练-测试样本比条件下，本发明方法得到的识别率最高，即使训练-测试样本比很小的情况下，本发明方法还是保持了很不错的识别率。

实验2是采用本发明方法降维，K近邻方法分类的实验。

图3为采用本发明方法降维，K近邻方法分类，样本维数降至5到50维时得到的地物平均精度示意图。如图3所示，横坐标代表降维维数，取值范围为5～50；纵坐标代表识别率；图3中两条线从上往下依次代表本发明方法和不降维方法；线上标注点的横坐标值代表降维后的维数，标注点的纵坐标值代表该方法在相应维数条件下得到的识别率。从图3可以看出，横坐标值对应10维时，第一条线对应纵坐标值已远远大于第二条线对应纵坐标值；即采用K近邻分类器时，使用本发明方法降至10维，就可以达到不降维条件下的识别率，降维维数超过10维后，识别率很稳定的保持在较高的水平。

Claims (9)

1.一种基于局部一致性的遥感影像半监督投影降维方法，包括如下步骤：

(1)划分遥感影像数据集

将待处理的高光谱数据集作为测试集，按训练-测试样本比选取带标签样本组成有监督信息的训练集；

(2)生成矩阵

2a)采用语义相似矩阵公式生成测试集的标签矩阵；

2b)采用近邻方法生成测试集的近邻矩阵；

2c)采用局部一致性约束方法生成测试集的局部一致性矩阵；

(3)融合标签矩阵和近邻矩阵

采用点积和归一化方法融合标签矩阵和近邻矩阵；

(4)生成近邻均值向量

采用局部近邻均值向量公式生成近邻均值向量；

(5)生成散度矩阵

5a)采用相异散度矩阵公式生成测试集的相异散度矩阵；

5b)采用相似散度矩阵公式生成测试集的相似散度矩阵；

5c)采用局部一致性散度矩阵公式生成测试集的局部一致性散度矩阵；

(6)求解最优投影矩阵

采用特征值分解方法求解最优投影矩阵；

(7)投影降维

将最优投影矩阵和测试样本集矩阵相乘，得到测试样本集矩阵的降维矩阵。

2.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤(1)所述的训练-测试样本比的选取范围为1/120～1/10。

3.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤2a)所述的语义相似矩阵公式如下：

其中，S_ij表示测试集的标签矩阵第i行第j列位置对应的元素，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；x_i和x_j表示测试集的第i和j个样本。

4.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤2b)所述的近邻方法如下：

第一步，对于测试集中每一个样本，找出与该样本距离最近的k个样本，将得到的所有样本组成近邻结构集合V，k的取值范围为1～20；

第二步，采用下列几何结构矩阵公式生成近邻矩阵：

其中，G_ij表示测试集的近邻矩阵第i行第j列位置对应的元素，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；x_i和x_j表示测试集的第i和j个样本；V表示近邻结构集合。

5.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤2c)所述的局部一致性约束方法如下：

第一步，对于测试集中每一个样本，采用下列不等式约束公式，逐一找出测试集样本对应坐标与该样本对应坐标满足约束的样本：

|x-a_i|≤c

|y-b_i|≤c

其中，x表示满足约束的样本对应的横坐标值；a_i表示测试集的第i个样本对应的横坐标值，i＝1，2，...，N，N表示测试集所有样本的总个数；c表示约束宽度值，取值范围为1～10；y表示满足约束的样本对应的纵坐标值；b_i表示测试集的第i个样本对应的纵坐标值；

第二步，将找到的所有满足约束的样本组成局部一致性约束集合L；

第三步，采用下列局部一致性约束矩阵公式生成局部一致性矩阵：

其中，C_ij表示测试集的局部一致性矩阵的第i行第j列位置对应的元素，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；x_i和x_j表示测试集的第i和j个样本；L表示局部一致性约束集合。

6.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤(4)所述的局部近邻均值向量公式如下：

$m_i=\underset{i,j\∈V}{\mathrm{\Σ}}{x}_j{R}_{\mathrm{ij}}$

其中，m_i表示测试集第i个样本的均值向量，i＝1，2，...，N，N表示测试集所有样本的总个数；j＝1，2，...，k，近邻值k取值范围为1～20；V表示近邻结构集合；x_j表示集合V第j个样本；R_ij表示融合矩阵的第i行第j列位置对应的元素。

7.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤5a)所述的相异散度矩阵公式如下：

$D=\underset{i,j}{\mathrm{\Σ}}(m_i-m_j){(m_i-m_j)}^T(1-S_{\mathrm{ij}})$

其中，D表示测试集的相异散度矩阵；m_i和m_j表示测试集第i和j个样本的均值向量，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；T表示转置符号；S_ij表示测试样本集的标签矩阵第i行第j列位置对应的元素。

8.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤5b)所述的相似散度矩阵公式如下：

$M=\underset{i,j}{\mathrm{\Σ}}(x_i-x_j){(x_i-x_j)}^T{G}_{\mathrm{ij}}$

其中，M表示测试集的相似散度矩阵；x_i和x_j表示测试集的第i和j个样本，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；T表示转置符号；G_ij表示测试样本集的近邻矩阵第i行第j列位置对应的元素。

9.根据权利要求1所述的基于局部一致性的遥感影像半监督投影降维方法，其特征在于：步骤5c)所述的局部一致性散度矩阵公式如下：

$Q=\underset{i,j}{\mathrm{\Σ}}(x_i-x_j){(x_i-x_j)}^T{C}_{\mathrm{ij}}$

其中，Q表示测试集的局部一致性散度矩阵；x_i和x_j表示测试集的第i和j个样本，i＝1，2，...，N，j＝1，2，...，N，N表示测试集所有样本的总个数；T表示转置符号；C_ij表示测试样本集的局部一致性矩阵第i行第j列位置对应的元素。

Images