CN104820841A - 基于低阶互信息和光谱上下文波段选择的高光谱分类方法 - Google Patents

Abstract

本发明公开了一种基于低阶互信息和光谱上下文波段选择的高光谱分类方法，主要解决现有技术对高光谱图像分类计算复杂度过高及分类性能不佳的问题。其实现方案是：首先，利用高光谱图像光谱波段邻域之间上下文先验信息，自动去除噪声波段；其次，针对去除噪声波段之后的波段集合，通过序列前向搜索方法，利用最大化单个波段的自信息，和最小化波段与波段之间的正则化互信息，选择出具有低冗余性且信息含量高的波段子集；最后，使用选择出的波段进行地物分类。本发明能获得高精度高效率的高光谱图像分类结果，可用于土壤调查、城市环境监测、灾害评估等领域的地物区分和辨别。

Description

基于低阶互信息和光谱上下文波段选择的高光谱分类方法

技术领域

本发明属于遥感图像处理技术领域，具体是一种高光谱图像的分类方法，用于土壤调查、城市环境监测、灾害评估等领域的地物区分和辨别。

背景技术

高光谱分辨率遥感，是当前遥感技术的前沿领域。它能够在电磁波谱的可见光、近红外、中红外以及热红外波段范围内，获取许多非常窄且光谱连续的图像数据。高光谱遥感图像将反映地物属性的光谱信息和揭示地物空间关系的图像信息有效地结合在一起，具有“图谱合一”的特性。它能够探测到在宽波段遥感中不可探测的物质，已经受到了各国遥感科学家的广泛关注。

高光谱遥感目前已在军事领域和民用领域发挥着越来越重要的作用。对于高光谱图像而言，无论是军事领域的应用，还是民用领域的应用，都是以精确的分类识别为基础的。高光谱图像高的光谱分辨率，能够为地物的划分和辨别提供充足的信息，但同时给数据的存储和传输带来了困难，也给数据的处理带来了巨大的挑战。最主要的是造成Hughes现象。由于光谱波段的收集常常会受到变化的大气、光照条件和传感器噪声的影响，使得高光谱图像会含有一些噪声波段。此外，高光谱波段连续的属性使得波段间往往具有很高的相关性，这导致波段间存在一定的冗余。通常来说，去除这些冗余和噪声信息，能够提高高光谱图像处理的性能，同时避免Hughes现象和降低计算复杂度。所以，波段选择是很有必要的。

在高光谱图像中，类别的标记工作常常需要高额的人力成本，耗费大量的时间代价。此外，人工的标记有时因不同的工作环境，不同的时间，个人的偏好等因素的影响存在着一定的误差。所以，对于高光谱图像而言，有时候存在完全缺乏类别标签信息的情况。由于缺少样本类别标签信息，使得波段的搜索缺乏了有力的辨别性指导。在这种情况下，如何利用波段自身的属性，降低波段的数目，同时尽可能保持高光谱图像处理的性能，是一个具有挑战性的课题。

通常来说，波段选择方法是从原始波段中选择出最有信息的波段子集。它可以分为：基于排序的方法和基于聚类的方法。

基于排序的方法中，有代表性的包括：基于约束的方法、基于拉普拉斯值的方法Lscore、基于权重主成分的方法等。上述这些方法采用了不同的准则，但是，它们的目的都是选择出单个富含信息量的波段。由于快速的排序过程使得这些方法的时间复杂度较低。但是，单个富含信息量波段的组合，不一定能够导致一个好的性能。因为这些具有高信息量的波段之间会存在大量的冗余，很难提供一些额外的信息。

基于聚类的方法，选择的波段集合来自于不同的聚类簇，所以它们是低冗余的。同时，选择出最具有代表性的波段，能够使得选择的波段集合尽可能地含有原有波段的信息。有代表性的包括：基于最大信息压缩指标和k近邻聚类的方法MIC、基于Ward连法的等级聚类方法WaLuMI和基于模糊均值和遗传算法的方法FCM-GA等。这些基于聚类的方法由于在每个聚类簇中，是通过计算成对波段的相似性来选择出最有代表性的波段，而忽略了每个聚类簇中多个波段之间的相关性，因而不能选择出最富含信息的波段。

综上，已有基于排序的方法和基于聚类的方法均存在波段选择性能不佳，从而导致分类精度差、时间复杂度高的问题。

发明内容

本发明的目的在于克服上述已有方法的不足，提出一种基于低阶互信息和光谱上下文的高光谱波段选择方法，以改善波段选择性能，减小分类时间复杂度，提高分类精度。

实现本发明的技术方案是：根据近邻波段具有很高相关性的光谱波段上下文先验信息的特性，利用统计的方法自动去除噪声波段，从而缩小波段空间搜索范围；利用自信息测量波段的信息含量，利用正则化互信息测量波段之间的冗余性，通过序列前向搜索方法选择出具有高信息含量低冗余性的波段子集并保留；针对保留的波段子集，利用分类器进行分类。具体步骤如下：

(1)将高光谱图像各类样本取少量作为训练样本，其余作为测试样本；

(2)对高光谱样本集合进行列归一化处理；

(3)利用正则化互信息测度，统计训练样本集合中波段与其邻域波段之间的相关性的均值，若其相关性的均值小于训练样本集合中任意两个波段相关性的均值，则视为噪声波段，进行去除；

(4)利用序列前向搜索方法，从训练样本集合中通过最大化单个波段的自信息，和最小化波段与波段之间的正则化互信息，来选择出具有高信息含量且低冗余性的波段子集；

(5)在训练和测试样本集中，仅仅保留选择的波段，利用训练样本对支撑矢量机进行学习，利用学习出的支撑矢量机对测试样本进行分类，得到分类结果。

本发明与现有技术相比具有如下优点：

由于本发明利用光谱波段上下文之间的先验信息，自动去除噪声波段，缩小了波段空间搜索范围，克服了已有波段选择方法因搜索空间过大引起的时间复杂度过高的问题,同时利用自信息和正则化互信息，使选择出的波段子集具有低冗余性且具有高信息含量。

对比于已有的基于排序的方法，本发明利用正则化互信息能够降低波段之间的冗余性。对比于已有的基于聚类的方法，在本发明中，单个波段的自信息，也可以考虑为单个波段与包含此波段的聚类簇中所有波段的互信息，能够选择出更具有信息量的波段子集。

另一方面，本发明采用的自信息和互信息的测度，具有非线性、非参数和不需要预先知道样本数据分布的优势，具有更广阔的应用前景。

附图说明

图1是本发明的实现流程图；

图2是本发明仿真使用的Indian Pines高光谱图像的伪彩图和分类参考图；

图3是用本发明及四种对比方法对Indian Pines高光谱图像的分类结果图。

具体实施方式

参照图1，本发明的实施步骤如下：

步骤1，输入高光谱图像，获取训练样本和测试样本。

输入高光谱图像该图像包含l个光谱波段，n个样本；

从这n个样本中随机选取出20％样本组成训练样本集用其余样本组成测试样本集其中，pp，qq分别代表训练和测试样本数，满足pp+qq＝n。

步骤2，对训练样本集X^pp和测试样本集X^qq分别进行列归一化操作，得到列归一化后的训练样本集X^p和测试样本集X^q。

步骤3，计算列归一化后的训练样本集X^p中样本的自信息和正则化互信息，去除噪声波段，得到噪声波段的标签集合{i₁,i₂,…,i_u}和去除噪声波段后的训练样本集合X^p′。

(3.1)计算列归一化后的训练样本集X^p中第i个波段的自信息H

$H\left(X_i^p\right)=-\underset{X_i^p}{\∫}p\left(x_i^p\right)\log p\left(x_i^p\right){\mathrm{dx}}_i^p,$ 1≤i≤l

其中，代表的概率密度函数；

(3.2)计算列归一化后的训练样本集X^p中第i个波段与第j个波段之间的互信息

$I(X_i^p;X_j^p)=-\underset{X_i^p}{\∫}\underset{X_j^p}{\∫}p(x_i^p,x_j^p)\log \frac{p(x_i^p,x_j^p)}{p\left(x_i^p\right)p\left(x_j^p\right)}{\mathrm{dx}}_i^p{\mathrm{dx}}_j^p,$ 1≤i＜j≤l

其中，代表和的联合概率密度函数；

(3.3)利用步骤(3.1)和(3.2)中计算自信息和互信息的公式，计算第i个波段与第j个波段之间的正则化互信息

$\mathrm{NI}(X_i^p;X_j^p)=\frac{2I(X_i^p;X_j^p)}{H\left(X_i^p\right)+H\left(X_j^p\right)},$ 1≤i＜j≤l_；

(3.4)计算列归一化后的训练样本集X^p中第i个波段与其邻域波段 之间正则化互信息的均值E：

$E=\frac{1}{4}\{\mathrm{NI}(X_i^p;X_{i-2}^p)+\mathrm{NI}(X_i^p;X_{i-1}^p)+\mathrm{NI}(X_i^p;X_{i+1}^p)+\mathrm{NI}(X_i^p;X_{i+2}^p)\};$

(3.5)计算列归一化后的训练样本集X^p中任意两个波段之间正则化互信息之和的均值： $E_{\mathrm{All}}=\frac{2}{l^2-l}\underset{1\&le;i<j\&le;l}{\mathrm{\&Sigma;}}\mathrm{NI}(X_i^p;X_j^p);$

(3.6)比较E和E_All，若E小于E_All，则视为噪声波段，对该噪声波段进行去除，得到噪声波段的标签集合{i₁,i₂,…,i_u}和去除噪声波段以后的训练样本集X^p′，X^p′＝{X_i|1≤i≤l,i≠i₁,i₂,…,i_u}，X^p′中包含的波段的个数为l-u个。

步骤4，对去除噪声波段以后的训练样本集X^p′进行波段选择，直到选取出20个最佳波段，得到进行波段选择后的波段标签集合{j₁,j₂,…,j₂₀}和训练样本集 $X^{p^{\&prime;\&prime;}}=\{X_{j_1}^{p^{\&prime;}},X_{j_2}^{p^{\&prime;}},...,X_{j_{20}}^{p^{\&prime;}}\}.$

已有的波段选择方法分为两种，一种是基于排序的方法，如基于拉普拉斯值的方法Lscore，其目的都是选择出单个富含信息量的波段。由于快速的排序过程使得这些方法的时间复杂度较低，但是波段之间会存在大量的冗余，很难提供一些额外的信息。

另一种是基于聚类的方法。如基于最大信息压缩指标和k近邻聚类的方法MIC、基于Ward连法的等级聚类方法WaLuMI和基于模糊均值和遗传算法的方法FCM-GA。这些方法通过计算每个聚类簇中成对波段的相似性来选择波段，忽略了每个聚类簇中多个波段之间的相关性，因而不能选择出信息量最大的波段。

为克服上述波段选择方法的缺点，本发明通过序列前向搜索方法，利用自信息和正则化互信息进行波段选择，其步骤如下：

(4.1)令初始的候选波段集合I＝X^p′，选择出的冗余性低且自信息大的最佳波段集合S＝{}，即空集；

(4.2)对于候选波段集合I中的第i个波段根据步骤(3.1)中的公式计算自信息 $H\left(X_i^{p^{\&prime;}}\right);$

(4.3)根据序列前向搜索算法，将自信息的值从大到小进行排序，选择序列最前端值最大的波段并将该从候选波段集合I中删除，再添加到最佳波段集合S中，得到新的候选波段集合和最佳波段集合

(4.4)对新候选波段集合I′中第i个波段和最佳波段集合S中第j个波段根据步骤(3.1)到步骤中的(3.3)公式间计算互信息

(4.5)对新候选波段集合I′中第i个波段计算信息差选出使信息差G最大的波段|S|代表最佳波段集合S中波段的个数；

(4.6)将最大的波段从新候选波段集合I′中删除，添加至最佳波段集合S中，以对新候选波段集合I′和最佳波段集合S进行更新；

(4.7)判断更新后最佳波段集合中波段的个数是否达到给定值20：若达到，则终止迭代，输出最佳波段集合S，得到进行波段选择后的波段标签集合{j₁,j₂,…,j₂₀}和训练样本集合X^p″，且X^p″＝S；否则，返回步骤(4.4)进行下一次迭代。

步骤5，根据波段选择后的波段标签集合{j₁,j₂,…,j₂₀}，对测试样本集合进行更新，得到更新后的测试样本集合 $X^{q^{\&prime;}}=\{X_{j_1}^q,X_{j_2}^q,...,X_{j_{20}}^q\}.$

步骤6，将更新后的训练样本集合X^p″和训练样本集合中所有样本的标签信息输入到支撑矢量机中，学习出一个分类器，使用该分类器，对测试样本集合X^q′进行分类，得到所有测试样本的类别标签Y，这个类别标签Y即为高光谱图像的分类结果。

本发明的效果可以通过以下实验进一步说明。

1.仿真条件

仿真实验采用美国宇航局利用成像光谱仪AVIRIS于1992年6月在印第安纳西北部获取的Indian Pines图像。图像大小为145×145像素，空间分辨率为20m，原始波段数目为220个。实验中，去除水污染和低信噪比的光谱波段，参与处理的波段数为200。由第50个，第27个和第17个波段构成伪彩色图像如图2(a)所示。该图像的真实标记图如图2(b)所示。Indian Pines图像由16类地物组成，具体包括：alfalfa,corn-notill,corn-mintill,corn,grass-pasture,grass-trees,grass-pasture-mowed,hay-windrowed,oats,soybean-notill,soybean-mintill,soybean-clean,wheat,woods,building-grass-trees-drives,stone-steel-towers种类。

仿真实验在CPU为Intel Core(TM)2Duo、主频2.33GHz、内存2G的WINDOWS 7系统上使用MATLAB R2009a进行仿真。

2.仿真内容

在实验中，采用本发明与已有四种方法对Indian Pines高光谱图像进行分类。已有的四种方法包括：Lscore、MIC、FCM-GA和WaLuMI。在Lscore中，使用热核来构造5近邻图。在MIC中，与选择波段个数有关的参数设置为117。在FCM-GA中，种群规模、最大迭代次数、交叉概率和变异概率分别设置为50、100、0.6和0.1。在WaLuMI中的互信息和本发明中的正则化互信息和自信息采用直方图来评估。直方图中，灰度级个数设置为60。试验仿真中最佳波段的个数设为20。

在实验中，从每一类中随机选取20％的样本作为训练样本。剩余的80％样本作为测试样本。实验进行30次独立迭代，列举了相应指标的均值和标准差结果。这里使用的评估分类结果的指标包括：正确分类的测试样本数目和整体测试样本数目之比OA、所有类别分类精确度的均值AA、评估分类结果一致性的Kappa系数和运行时间Time。

3.仿真结果

将本发明与已有的四种方法Lscore、MIC、FCM-GA和WaLuMI的分类结果进行对比，定量结果如表1所示。

表1 五种方法对Indian Pines高光谱图像的分类结果

在表1中，展示了五种方法对于Indian Pines高光谱图像中每种类别的分类精度和对所有类别的OA、AA、和Kappa结果，同时也展示了每种方法的运行时间。

从表1可以看出，对于大多数类别，本发明都取得了比其它四种对比方法更好的分类精度。对于所有类别的OA、AA、Kappa指标，本发明方法也取得了比其它四种对比方法更好的结果。此外，在运行时间上，本发明方法比其它方法花费了更少的时间。

将Lscore、MIC、FCM-GA、WaLuMI和本发明对Indian Pines高光谱图像的分类结果依次用图3(a)-(e)表示。比较图3中白色矩形框标注的soybean-notill,soybean-mintill,grass-pasture classes等类别的分类结果，可以发现使用本发明方法比其它对比方法具有更好的区域一致性。比较白色椭圆框标注的grass-trees的分类结果，可以发现使用本发明方法比其它对比方法具有更好的边缘保持能力。

综上，本发明利用高光谱波段上下文信息去除噪声波段，通过序列前向搜索算法，利用自信息和正则化互信息测度进一步实现波段选择，取得了高精度高效率的高光谱图像分类结果。

Claims (3)

1.一种基于低阶互信息和光谱上下文波段选择的高光谱分类方法，包括如下步骤：

(1)输入高光谱图像，并对其进行列归一化处理，得到归一化后的高光谱图像该图像包含l个光谱波段，n个样本；随机取这些样本的20％组成训练样本集其余样本组成测试样本集其中，p，q分别代表训练和测试样本数，满足p+q＝n；

(2)计算训练样本集X^p中第i个波段与其邻域波段之间的正则化互信息，1≤i≤l；求取这些正则化互信息的均值，若计算出的正则化互信息均值小于训练样本集中任意两个波段之间正则化互信息之和的均值，则视为噪声波段，去除噪声波段，得到噪声波段的标签集合{i₁,i₂,…,i_u}和去除噪声波段后的训练样本集合X^p′；

(3)通过序列前向搜索方法，从训练样本集合X^p′中选取出自信息最大的波段保留到集合S中，将集合S初始为一个空集；从训练样本集合X^p′中删除自信息最大的波段更新集合S直到选取出20个最佳波段，得到进行波段选择后的波段标签集合{j₁,j₂,…,j₂₀}和训练样本集合 $X^{p^{\&prime;\&prime;}}=\{X_{j_1}^{p^{\&prime;}},X_{j_2}^{p^{\&prime;}},...,X_{j_{20}}^{p^{\&prime;}}\};$

(4)根据波段选择后的波段标签集合{j₁,j₂,…,j₂₀}，对测试样本集合进行更新，得到更新后的测试样本集合 $X^{q^{\&prime;}}=\{X_{j_1,}^q{X}_{j_2}^q,...,X_{j_{20}}^q\};$

(5)将更新后的训练样本集合X^p″和训练样本集合中所有样本的标签信息输入到支撑矢量机中，学习出一个分类器，使用该分类器，对测试样本集合X^q′进行分类，得到所有测试样本的类别标签Y，这个类别标签Y即为高光谱图像的分类结果。

2.根据权利要求1所述的高光谱图像分类方法，步骤2所述中计算训练样本集X^p中第i个波段与其邻域波段之间的正则化互信息，按如下步骤进行：

(2.1)计算训练样本集合中第i个波段的自信息

$H\left(X_i^p\right)=-\underset{X_i^p}{\&Integral;}p\left(x_i^p\right)\log p\left(x_i^p\right)d{x}_i^p,1\&le;i\&le;l$

其中，代表的概率密度函数；

(2.2)计算训练样本集合中的第i个波段与第j个波段之间的互信息

$I(X_i^p;X_j^p)=-\underset{X_i^p}{\&Integral;}\underset{X_j^p}{\&Integral;}p(x_i^p,x_j^p)\log \frac{p(x_i^p,x_j^p)}{p\left(x_i^p\right)p\left(x_j^p\right)}d{x}_i^{p}d{x}_j^p,1\&le;i<j\&le;l$

其中，代表和的联合概率密度函数；

(2.3)利用步骤(2.1)和(2.2)中计算自信息和互信息的公式，计算第i个波段与第j个波段之间的正则化互信息

$\mathrm{NI}(X_i^p;X_j^p)=\frac{2I(X_i^p;X_j^p)}{H\left(X_i^p\right)+H\left(X_j^p\right)},1\&le;i<j\&le;l;$

(2.4)计算训练样本集X^p中第i个波段与其邻域波段之间正则化互信息的均值E，计算训练样本集中任意两个波段之间正则化互信息之和的均值E_All，若E小于E_All，则视为噪声波段，去除噪声波段，得到噪声波段的标签集合{i₁,i₂,…,i_u}和去除噪声波段以后的训练样本集合X^p′，X^p′＝{X_i|1≤i≤l,i≠i₁,i₂,…,i_u}，X^p′中包含的波段的个数为l-u个；

$E=\frac{1}{4}\{\mathrm{NI}(X_i^p;X_{i-2}^p)+\mathrm{NI}(X_i^p;X_{i-1}^p)+\mathrm{NI}(X_i^p;X_{i+1}^p)+\mathrm{NI}(X_i^p;X_{i+2}^p)\}$

$E_{\mathrm{All}}=\frac{2}{l^2-1}\underset{1\&le;i<j\&le;l}{\mathrm{\&Sigma;}}\mathrm{NI}(X_i^p;X_j^p).$

3.根据权利要求1所述的高光谱图像分类方法，所述步骤3中更新集合S直到选取出20个最佳波段，按如下步骤进行：

(3.1)令初始的候选波段集合I＝X^p′，选择出的冗余性低且自信息大的最佳波段集合S＝{}；

(3.2)对于候选波段集合I中的第i个波段根据步骤(2.1)中的公式计算自信息

(3.3)根据序列前向搜索算法，将自信息的值从大到小进行排序，选择序列最前端值最大的波段并将该从候选波段集合I中删除，再添加到最佳波段集合S中，得到新的候选波段集合最佳波段集合 $S=\left\{X_k^p\right\};$

(3.4)对于新候选波段集合I′中第i个波段和最佳波段集合S中第j个波段根据步骤(2.1)到(2.3)中的公式计算互信息

(3.5)对新候选波段集合I′中第i个波段计算信息差 $G=H\left(X_i^{p^{\&prime;}}\right)-{\mathrm{\&Sigma;}}_{X_j^{p^{\&prime;}}\&Element;S}\frac{\mathrm{NI}(X_i^{p^{\&prime;}},X_j^{p^{\&prime;}})}{\left|S\right|},$ 选出使信息差G最大的波段|S|代表最佳波段集合S中波段的个数；

(3.6)将最大的波段从新候选波段集合I′中删除，添加至最佳波段集合S中，对新候选波段集合I′和最佳波段集合S进行更新；

(3.7)判断更新后最佳波段集合中波段的个数是否达到给定值20：若达到，则终止迭代，输出最佳波段集合S，得到进行波段选择后的波段标签集合{j₁,j₂,…,j₂₀}和训练样本集合X^p″，且X^p″＝S；否则，返回步骤(3.4)进行下一次迭代。