CN105046276A - 基于低秩表示的高光谱图像波段选择方法 - Google Patents

Abstract

本发明公开了一种基于低秩表示的高光谱图像波段选择方法，主要解决高光谱数据处理复杂度高，高光谱图像分类精度低的问题。其处理过程为：(1)获取高光谱数据，并对数据进行归一化处理；(2)对处理后的高光谱数据进行低秩表示；(3)使用增强拉格朗日乘子法ALM求解低秩表示系数；(4)根据低秩表示系数对波段进行聚类；(5)从每个聚类中选择出代表性波段作为最终选择的波段；(6)对选择出来的波段进行分类。本发明不仅去除波段之间的冗余信息，而且选择了包含信息量大的波段，选择的波段更有利于分类，提高了高光谱图像的分类精度，同时也降低了数据处理的复杂度，可用于高光谱数据的维数约减。

Description

基于低秩表示的高光谱图像波段选择方法

技术领域

本发明属于图像处理技术领域，涉及对高光谱图像波段选择，可应用于高光谱数据的维数约减，降低数据处理的计算复杂度。

背景技术

高光谱遥感技术是上个世纪20年代发展起来的一种重要遥感技术。高光谱成像仪可以在多波段、窄间距的条件下获得几乎连续的地物波谱图像，使得高光谱图像具有了相比传统的遥感图像更高的空间分辨率和光谱分辨率，并在农业、地质、沿海和内陆水域环境、大气研究、全球环境研究等领域得到了广泛的应用。但成百乃至上千的波段也带来了数据量大、“维数灾难”、信息冗余、存在噪声波段的问题，给高光谱图像的存储、传输和处理带来了很多困难。因此，如何有效地降低高光谱图像的维数成为高光谱图像处理需要解决的一个重要问题。

传统的降维方法有两种，一种是特征提取，另一种是特征选择。为了保留高光谱图像中特定波段的物理意义，一般采取特征选择的方法。

在机器学习中，特征选择可以被定义为：给定一个特征集合，从中选择出一个特征子集，使得评价标准达到最优。该定义可表述为：

对于给定的特征集合X，其中包含n个特征，x₁,x₂,...,x_n，假设经过特征选择后得到一个特征子集X_opt，当X_opt使给定的评价准则达到最大值时，则X_opt为最终选择的特征子集。

经典的特征选择的过程一般包含四个步骤：子集生成、子集评价、停止准则、结果验证。子集的生成是通过搜索实现的。通过给定的搜索算法得到特征子集，然后根据评价准则评价特征子集的好坏，更新现有的特征子集，并对其进行评价，直到满足停止准则，最后输出最优的特征子集。

特征选择是机器学习领域的困难之一。通常情况下，寻找最优的特征子集在实际的应用中是非常困难的，许多与特征选择相关的问题均为NP-hard问题。搜索得到使评价准则最优的最小特征子集被证明是一个NP-hard问题。通常情况下，通过采用如序列向前搜索SFS、浮动序列向前搜索SFFS的启发式搜索算法可以在运行效率和得到特征子集质量中间寻找一个折中点，这也是SFS被众多特征选择算法所采用的原因。

序列向前选择算法SFS：首先初始化一个空的特征集合，然后每次在特征集合中加入一个新的特征，确保每次新加入的特征是最优的，依次加入特征直到满足需要的特征个数。该算法采用贪婪的策略，选择使评价准则最大的特征加入特征集合。尽管SFS的计算量较小，但是由于没有充分的考虑特征之间的统计相关性，使得每次迭代都是选择使评价准则达到最大的那个特征，在下一步的迭代中，选出的特征是对上一步选择的特征的一个补充，所以特征被选择的过程中，选择的通常是共享率较大的特征子集，很难得到最优的特征子集。

序列后向选择算法SBS：与SFS相对应，SBS是一种自上而下的方法。首先将整个特征集合作为初始选择的特征子集，在算法的每一次迭代中，去除对评价准则贡献最小的特征，直到剩下的特征个数满足需要的特征个数。由于SBS是从全部的特征集合开始计算的，所以计算量会比SFS稍大。相对SFS来说，其更加充分的考虑了特征之间的统计相关性，因而在相同的评价准则下，其效果要略微好于SFS，但是其仍然存在与SFS相似的缺点，比如一个特征被去除后就再也不可能被考虑，而被去除的特征可能是一些比较重要的特征。

广义序列后向选择算法GSBS：作为SBS的加速算法，该算法在每次迭代中，根据评价准则一次性去除r个特征，使得评价准则最优，直到剩下的特征个数满足需要的特征个数。这个算法的优点是速度相对来说更快，相比SBS有更大的搜索范围，性能也是相对比较好。但是仍然会导致重要特征的丢失。

以上方法均由于只考虑特征的整体结构性，而没有充分考虑到特征之间相关性，所以无法选择出最优的特征子集，导致分类精度较低。

发明内容

本发明的目的在于针对上述已有技术的不足，提出一种基于低秩表示的高光谱图像波段选择方法，以选择出最优的波段子集，提高高光谱图像分类精度，降低数据处理的计算复杂度。

本发明的技术思路是：考虑到高光谱波段之间的相关性，对高光谱波段进行低秩表示，选择出的波段子集尽可能地充分表示原始波段数据，同时也要降低波段之间的冗余信息，即在选择少量波段的同时，选择出包含信息量最大的波段子集，以有利于后面的分类。其实现步骤如下：

1、一种基于低秩表示的高光谱图像波段选择方法，包括如下步骤：

(1)输入高光谱图像Y∈R^Q×L，其中，Q为像素点个数，L表示波段数目，该高光谱图像包含c类像素点，图像的每一个像素点为一个样本，R表示实数域；

(2)对高光谱数据进行归一化处理，得到归一化后高光谱数据X∈R^Q×L；

(3)对归一化后的高光谱数据X＝[x₁,x₂,...,x_i,x_j,...,x_L]∈R^Q×L进行低秩表示并求解，得到X的低秩表示系数矩阵Z＝[z₁,z₂,...,z_i,...,z_L]∈R^L×L，其中x_i,x_j分别表示所有像素在第i，和第j个波段上的光谱强度组成的向量，z_i表示数据在第i个波段的表示系数向量,i,j＝1,2,...,L；

(4)根据(3)得到的低秩表示系数矩阵Z∈R^L×L，对波段进行聚类：依次分别对每一个波段x_i,i＝1,...,L，利用其低秩表示系数向量z_i,i＝1,...,L进行重构，计算重构结果与其余每个波段的残差：

$r_j\left(x_i\right)=\left|\right|x_j-{\mathrm{Xz}}_i|{|}_2^2,j=1,\mathrm{...},L,j\≠i,$

从中找出产生最小残差对应的波段x_k，k∈{1，2，…，L}，k≠i,则第k个波段与第i个波段具有较强的相关性，将第k个波段与第i个波段合并组成一个聚类，若其中一个波段已与其他波段组成聚类，则将另一个并入已有聚类；

(5)计算每个聚类的聚类中心，并从每个聚类中选择出离聚类中心最近的波段作为该聚类最具代表性波段，所有聚类的代表性波段组成最终选择的波段子集；

(6)根据最终选择的波段，对所有样本提取所选波段组成新的样本集合X_s∈R^Q×S，其中S表示所选波段的数目；

(7)根据波段选择后的新样本集合X_s对高光谱数据进行分类：从X_s中每类选择10％的样本作为训练样本集X_p，其余90％的样本作为测试样本集X_q，将训练样本集X_p输入到支撑矢量机SVM中进行训练，学习出一个分类器，将测试样本集X_q输入到这个分类器中，得到测试样本X_q的分类标签向量Y_s，标签向量Y_s即是高光谱图像的分类结果。

本发明与现有技术相比，具有以下优点：

1、本发明对高光谱数据进行低秩表示，由于噪声会提高高光谱数据的秩，因此在低秩的约束下自然就去掉了噪声的干扰，提高了对噪声的抗干扰能力；

2、本发明通过对波段进行选择，不仅除了波段之间的冗余信息，而且在大幅度降低波段数目的同时保留了有用的信息，降低了数据的处理复杂度。

3，本发明通过聚类选择波段，选择出相关性低，包含信息量大的波段子集，因此提高了分类精度；

附图说明

图1是本发明的实现流程图；

图2是本发明实验中所用IndianPinesScene数据集的可视化图像；

图3是本发明实验中所用PaviaUniversityScene数据集的可视化图像；

图4是本发明实验中所用SalinasScene数据集的可视化图像；

具体实施方式

参照图1，本发明主要包括三个部分：高光谱数据的低秩表示、高光谱数据波段选择和对选择波段的分类。下面分别介绍这三部分的实施步骤：

一.高光谱数据的低秩表示

步骤1：将高光谱数据转化为二维矩阵Y。

输入原始的高光谱数据D∈R^M×N×L，由于高光谱数据是三维矩阵，为了便于后续的处理，则要将高光谱数据转化为二维矩阵Y∈R^Q×L，其中M×N表示像素点数目，L表示波段数目，Q＝M×N，该高光谱图像包含c类像素点，图像的每一个像素点为一个样本，R表示实数域。

步骤2：对二维矩阵Y进行归一化，得到高光谱矩阵X∈R^Q×L。

对转换的二维矩阵Y∈R^Q×L进行数据的归一化，是将Y∈R^Q×L中的像素点归一化为0-1之间的值，得到归一化后的高光谱矩阵X∈R^Q×L。

步骤3：对高光谱数据X进行低秩表示。

通常情况下，低秩表示的基本模型为：

$\underset{Z,E}{min}\left|\right|Z|{|}_{*}+\mathrm{\λ}|\left|E\right|{|}_{2,1},st.X=CZ+E$

其中：Z∈R^L×L为低秩表示系数矩阵，C表示字典，称为l_2,1范数，[E]_i,j表示噪声系数矩阵E第i行，第j列的值，||·||_*表示矩阵的核范数，λ表示平衡参数，E表示噪声系数矩阵；

本发明中使用高光谱数据X作为字典，即用高光谱数据X代替公式中的字典C，将高光谱数据X低秩表示的模型变为：

$\underset{Z,E}{\min }\left|\right|Z|{|}_{*}+\mathrm{\λ}|\left|E\right|{|}_{2,1},st.X=XZ+E$

其中：Z∈R^L×L为低秩表示系数矩阵，称为l_2,1范数，[E]_i,j表示噪声系数矩阵E第i行，第j列的值，||·||_*表示矩阵的核范数，λ表示平衡参数，E表示噪声系数矩阵。

步骤4：求解低秩表示系数矩阵Z。

求解低秩表示系数矩阵的现有的常用方法有：QR分解法、LU分解法和增强拉格朗日乘子ALM算法。本发明实例利用增强拉格朗日乘子ALM算法对高光谱数据X的低秩表示模型进行优化求解，得到低秩表示系数矩阵Z＝[z₁,z₂,...,z_i,...,z_L]∈R^L×L，其中z_i表示第i个波段的低秩表示系数，i＝1,...,L。

二.高光谱数据波段选择

步骤5：通过低秩表示系数矩阵Z对波段进行聚类。

本步骤是根据层次聚类的思想，将每一个波段初始化为一个聚类，再利用低秩表示系数矩阵Z，对波段进行聚类，其步骤如下：

(5a)通过第i个波段的表示系数z_i重构出第i个波段Xz_i，根据以下公式计算重构出的波段Xz_i与其余波段的残差，得到残差向量R＝[r₁,r₂,...,r_j,...,r_L]，其中j＝1,...,L；

$r_j\left(x_i\right)=\left|\right|x_j-{\mathrm{Xz}}_i|{|}_2^2,j=1,\mathrm{...},L,j\≠i$

其中表示l₂范数；

(5b)对得到的残差向量R＝[r₁,r₂,...,r_j,...,r_L]进行排序，找出R中最小的值r_j，由于r_j是由第j个波段x_j根据残差公式得到的，因此第j个波段x_j与重构出的第i个波段Xz_i之间的残差最小，波段x_j和波段x_i之间的相关性很强，则将波段x_j和波段x_i合并成一个聚类；

(5c)对每一个波段x_i,i＝1,...,L重复上述步骤5a-5b，不断找出与波段x_i相关性强的波段，将其合并成一个聚类，直到得到所有的聚类；

(5d)若其中一个波段已与其他波段组成聚类，则将另一个并入已有聚类。

步骤6：从聚类中选择出最具代表性波段。

(6a)对于一个聚类，首先计算聚类中心，将聚类中波段的平均值作为该聚类中心，然后通过计算聚类中每个波段到聚类中心的距离，找出距离聚类中心最近的波段作为该聚类的最具代表性波段；

(6b)重复步骤(6a)从每一个聚类中选择出最具有代表性波段，作为最终选择的波段。

步骤7：根据最终选择的波段，对所有样本提取所选波段组成新的样本集合X_s∈R^Q×S，其中S表示所选波段的数目。

三.选择波段的分类

步骤8：将选择波段的像素点分为训练样本和测试样本。

根据真实类标从X_s中每类选择10％的样本作为训练样本集X_p，其余90％的样本作为测试样本集X_q

步骤9：使用支持向量机SVM分类器进行分类。

将训练样本集X_p输入到支撑矢量机SVM中进行训练，学习出一个分类器，将测试样本集X_q输入到这个分类器中，得到测试样本X_q的分类标签向量Y_s，标签向量Y_s即是高光谱图像的分类结果。

本发明的效果可以通过以下仿真实验进一步说明：

1.仿真条件

仿真实验在IntelCore(TM)2DuoCPU、主频2.33GHz，内存2G，Windows7平台上的MATLAB7.12上进行。本实验选用三个高光谱数据集，分别是图2的IndianPinesScene数据集、PaviaUniversityScene数据集和SalinasScene数据集，通过本发明方法对这三个数据集进行波段选择，并对选择后的波段进行分类，将得到的分类结果与测试样本的真实类标进行比对，分别统计总体分类精度OA、平均分类精度AA、每一类的分类精度以及Kappa系数。

仿真使用的现有方法为：序列向前选择算法SFS和最大相关最小冗余算法mRMR。

2.仿真内容与结果

仿真1，用本发明和现有两种方法对图2所示的IndianPinesScene数据集先进行波段选择，再对选择后的波段进行分类，并将分类结果与现有的两种方法进行对比，结果如表1.

表1本发明与SFS、mRMR在IndianPinesScene数据集上的分类结果对比

波段选择方法	选择波段数目	总体分类精度％
			序列向前选择算法SFS	28	74.37
最大相关最小冗余算法mRMR	28	76.45
			本发明	28	83.62

对本发明和SFS、mRMR算法的每一类分类精度、总体分类精度OA、平均分类精度AA以及Kappa系数进行对比，结果如表2。

表2本发明和SFS、mRMR算法的每一类分类精度、OA、AA以及Kappa系数对比

从表1中可以看出，本发明的方法比现有SFS，mRMR算法在选择相同的波段数目情况下，其分类精度提高了很多，这说明本发明选择的波段比SFS，mRMR算法选择波段的质量好，因此能得到较高的分类精度。

从表2中分类结果可以看出，本发明方法选择波段的分类结果不仅在总体分类精度比SFS，mRMR算法高，而且每一类的分类精度也比SFS，mRMR算法高，这说明了本发明的方法选择的波段更有利于分类。

仿真2，用本发明和现有两种方法对图3所示的PaviaUniversityScene数据集先进行波段选择，再对选择后的波段进行分类，并将分类结果与现有的两种方法进行对比，结果如表3.

表3本发明与SFS、mRMR在PaviaUniversityScene数据集上的分类结果对比

波段选择方法	选择波段数目	分类精度％
			序列向前选择算法SFS	19	77.59
最大相关最小冗余算法mRMR	19	84.85
			本发明	19	88.47

对本发明方法和现有SFS、mRMR算法的每一类分类精度、总体分类精度OA、平均分类精度AA以及Kappa系数进行对比，其结果如表4。

表4本发明和SFS、mRMR算法的每一类分类精度、OA、AA以及Kappa系数对比

从表3中可以以看出，在选择相同波段数目的情况下，本发明的方法在PaviaUniversityScene数据集上的分类精度依然高于SFS和mRMR算法，这进一步证明，本发明的方法针对不同数据集，依然得到优于其他算法的分类效果。

从表4中的分类结果可以看出，本发明方法选择波段的分类结果在每一类分类精度、平均分类精度以及Kappa系数均高于SFS和mRMR算法，说明了本发明方法选择的波段更有利于分类。

仿真3，用本发明和现有两种方法对图4所示的SalinasScene数据集先进行波段选择，再对选择后的波段进行分类，并将分类结果与现有的两种方法进行对比，结果如表5.

表5本发明与SFS、mRMR在SalinasScene数据集上的分类结果对比

波段选择方法	选择波段数目	分类精度％
			序列向前选择算法SFS	28	89.172
最大相关最小冗余算法mRMR	28	90.42
			本发明	28	93.32

对本发明方法和SFS、mRMR算法的每一类分类精度、总体分类精度OA、平均分类精度AA以及Kappa系数的进行对比，结果如表6。

表6本发明和SFS、mRMR算法的每一类分类精度、OA、AA以及Kappa系数对比

从表5中可以以看出，在选择相同波段数目的情况下，本发明的方法在SalinasScene数据集上的分类精度依然高于SFS和mRMR算法。这说明了本发明对高光谱数据进行低秩表示，充分考虑了波段之间的相关性，通过聚类选择出的波段不仅去除了波段之间的冗余信息，而且还尽可能保存了波段的有用信息，因此更加有利于分类。

从表6中的分类结果可以看出，本发明方法针对不同的数据集，在每一类分类精度、总体分类精度、平均分类精度以及Kappa系数上，相比于其他的算法依然能取得很好的分类效果。

Claims (2)

1.一种基于低秩表示的高光谱图像波段选择方法，包括如下步骤：

（1）输入高光谱图像Y∈R^Q×L，其中，Q为像素点个数，L表示波段数目，该高光谱图像包含c类像素点，图像的每一个像素点为一个样本，R表示实数域；

（2）对高光谱数据进行归一化处理，得到归一化后高光谱数据X∈R^Q×L；

（3）对归一化后的高光谱数据X＝[x₁,x₂,...,x_i,x_j,...,x_L]∈R^Q×L进行低秩表示并求解，得到X的低秩表示系数矩阵Z＝[z₁,z₂,...,z_i,...,z_L]∈R^L×L，其中x_i,x_j分别表示所有像素在第i，和第j个波段上的光谱强度组成的向量，z_i表示数据在第i个波段的表示系数向量,i,j＝1,2,...,L；

（4）根据（3）得到的低秩表示系数矩阵Z∈R^L×L，对波段进行聚类：依次分别对每一个波段x_i,i＝1,...,L，利用其低秩表示系数向量z_i,i＝1,...,L进行重构，计算重构结果与其余每个波段的残差：

$r_j\left(x_i\right)=\left|\right|x_j-{\mathrm{Xz}}_i|{|}_2^2,j=1,\mathrm{...},L,j\≠1,$

从中找出产生最小残差对应的波段x_k，k∈{1，2，…，L}，k≠i,则第k个波段与第i个波段具有较强的相关性，将第k个波段与第i个波段合并组成一个聚类，若其中一个波段已与其他波段组成聚类，则将另一个并入已有聚类；

（5）计算每个聚类的聚类中心，并从每个聚类中选择出离聚类中心最近的波段作为该聚类最具代表性波段，所有聚类的代表性波段组成最终选择的波段子集；

（6）根据最终选择的波段，对所有样本提取所选波段组成新的样本集合X_s∈R^Q×S，其中S表示所选波段的数目；

（7）根据波段选择后的新样本集合X_s对高光谱数据进行分类：从X_s中每类选择10%的样本作为训练样本集X_p，其余90%的样本作为测试样本集X_q，将训练样本集X_p输入到支撑矢量机SVM中进行训练，学习出一个分类器，将测试样本集X_q输入到这个分类器中，得到测试样本X_q的分类标签向量Y_s，标签向量Y_s即是高光谱图像的分类结果。

2.根据权利要求1所述的方法，其中所述步骤（3）中对归一化后的高光谱数据X＝[x₁,x₂,...,x_i,x_j,...,x_L]∈R^Q×L进行低秩表示并求解，按如下步骤进行：

（3a）将高光谱数据X低秩表示为：

$\underset{Z,E}{min}\left|\right|Z|{|}_{*}+\mathrm{\λ}|\left|E\right|{|}_{2,1},st.X=XZ+E,$

其中：Z∈R^L×L为低秩表示系数矩阵，为噪声系数矩阵E的l_2,1范数，[E]_i,j表示噪声系数矩阵E第i行，第j列的值，||·||_*表示矩阵的核范数，λ表示平衡参数；

（3b）利用增强拉格朗日乘子法对上述低秩表示模型进行优化求解，得到低秩表示系数矩阵Z＝[z₁,z₂,...,z_i,...,z_L]∈R^L×L。