CN101853392B - 基于条件互信息的遥感高光谱图像波段选择方法 - Google Patents

Abstract

本发明提出了一种基于条件互信息的遥感高光谱图像波段选择方法，包括下述步骤：A、打开高光谱遥感图像，人机交互标注待分类的样本；B、分组：根据步骤A得到的待分类样本，利用给定类别条件下各相邻波段之间的条件互信息进行波段分组；C、搜索：利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的分组波段进行搜索计算，找到最优的波段组合；并在此基础上使用自适应分支定界法进行剪枝，通过条件互信息波段分组和自适应分支定界法剪枝的结合使用，避免了因为噪音扰动而出现冗余和噪音分组，减少了波段分组的数量，提高了波段组合的分类准确率。

Description

基于条件互信息的遥感高光谱图像波段选择方法

技术领域

本发明涉及遥感高光谱图像处理技术领域，尤其是一种遥感高光谱图像波段选择方法。

背景技术

随着遥感技术和成像光谱仪的发展，高光谱图像的应用需求越来越广泛。由于高光谱数据可以获得几乎连续的地物波谱，使其具有其他遥感数据不可比拟的识别地面特性的能力，但也正因为如此，高光谱图像往往由连续的上百个波段组成，给高光谱图像分类带来了巨大的计算量和冗余，从而使该问题变得极为复杂，因此对于高光谱图像的众多波段进行降维就显得非常迫切和重要。

常用的降维方法一般可分为特征选择和特征提取两大类，由于高光谱图像的每一个波段都对应着一幅相应波段的图像，通过线性或非线性变换，将高维特征空间映射到低维空间的特征提取的方法会使提取出来的特征失去原有的物理意义，所以特征提取的方法并不适用于高光谱图像的降维。而高光谱图像由于其连续且相邻两个波段之间相隔一般仅有10nm左右，相邻波段空间、谱间相关性很高的特点，使得波段之间存在很大的冗余性，使用特征选择的方法可以大大减少冗余波段，从而可以大大提高分类的效率和准确率，因此目前大量采用的是特征选择的方法，即利用高光谱图像各波段之间存在的高相关性和高冗余度的特点，通过某种方法选择出最有用的波段或最优波段组合。常见的高光谱图像波段选择方法有：启发式搜索算法(S.B.Serpico and L.Bruzzone ″A new search algorithm for feature selection in hyperspectralremote sensing images″，IEEE Trans.Geosci.Remote Sens.，vol.39，pp.13602001.刘春红，赵春晖，张凌雁，一种新的高光谱遥感图像降维方法[J]，中国图像图形学报，2005，10(2)：218-224)，基于支持向量机的方法(R.Archibald and G.Fann ″Feature selection and classification of hyperspectral images withsupport vector machines″，IEEE Trans.Geosci.Remote Sens.Lett.，vol.4.，pp.6742007.)等。由于高光谱图像的波段之间的相关性较高，并且波段数目较大(一般200个波段左右)，因此上述方法运算复杂度高，选择得到的波段数目也较多，并且分类正确率都不是很理想。

在一篇文献(卓莉，郑璟，王芳等，基于GA-SVM封装算法的高光谱数据特征选择[J]，地理研究，2008，27(3)：493-501)中披露了一种波段选择方法，具体步骤为：对高光谱图像数据进行预处理；利用支持向量机和遗传算法相结合的搜索算法对图像所有波段进行搜索，找到最优波段组合。该方法相比以上的算法，分类准确率相对较高，但该方法存在搜索空间太大的不足，对于200个波段的高光谱图象，完成一次搜索需要20多个小时，而且分类效果仍不理想。

刘春红等人(刘春红，赵春晖，张凌雁，一种新的高光谱遥感图像降维方法[J]，中国图像图形学报，2005，10(2)：218-224)提出了自适应波段选择方法(ABS，AdaptiveBand Selection)。该方法充分考虑了高光谱图像的空间相关性和谱间相关性，并通过计算各个波段的相关系数来选择信息量大并且与其他波段相关性小的波段。但此方法选择出的波段分布不均匀，有时会集中在某一区域内，甚至有些波段范围都没有波段被选择，这样导致大量有用分类信息损失，不能充分利用高光谱图像丰富的光谱信息。

在一篇名为《基于支持向量机和子空间划分的波段选择方法》(王立国，谷延锋，张晔，基于支持向量机和子空间划分的波段选择方法[J]，系统工程与电子技术，2005，27(6)：974-977)的文献中披露了一种高光谱图像波段选择的方法，该方法通过对支持向量机判决函数进行敏感度分析，同时对数据源进行子空间划分，然后结合敏感度分析结果和子空间划分结果来实现有效的波段选择。

该方法只是对划分子空间后的波段进行了最优波段挑选，但模式识别研究领域已经形成共识：每组最优的波段形成的组合并不一定是最优的组合，有时更加重要的是波段之间的互补性。参见文献(F.Long and C.Ding，Feature Selection Based on MutualInformation：Criteria of Max-Dependency，Max-Relevance，and Min-Redundancy[J].IEEETrans，Pattern Analysis and Machine Intelligence：2005，27(8)：1226-1238)

发明内容

本发明的目的在于提供一种能够克服上述现有技术存在的不足，具有更高准确率，同时选择波段数目更少的遥感高光谱图像波段选择方法。

本发明的思路是：在波段选择的分组中引入条件互信息，即以各波段的条件互信息作为衡量依据，将带有相近信息的相邻波段分为一组，而包含大量不同信息的波段分开；在这样分组的基础上，我们可以从各个分组中选取有代表性的波段，这样就可以在尽可能少损失波段所携带有效信息的同时，最大限度的滤除冗余信息，进而提高波段选择的准确性，减少计算量。

为便于理解本发明涉及的技术和方法，首先介绍一些基本理论。

信息熵是对不确定的随机变量的一种衡量手段，用于表示信息的不确定性，是特征提取中常用的评估标准，它的定义如下：假设一个离散随机变量X所对应的可能值的集合表示为Φ，每种可能值的概率密度函数表示为p(x)，x∈Φ，则X的信息熵定义为：

$H\left(X\right)=-\underset{x\∈\mathrm{\Φ}}{\mathrm{\Σ}}p\left(x\right)\log 2p\left(x\right)---\left(1\right)$

假定两个离散随机变量X、Y所对应的可能值的集合分别表示为Φ和Ψ，二者的联合概率密度函数p(x，y)，x∈Φ，y∈Ψ，则X、Y的联合信息熵定义为：

$H(X,Y)=-\underset{x\∈\mathrm{\Φ}}{\mathrm{\Σ}}\underset{y\∈\mathrm{\Ψ}}{\mathrm{\Σ}}p(x,y)\log 2p(x,y)---\left(2\right)$

在Y给定的条件下的X条件信息熵定义为：

$H\left(X\right|Y)=-\underset{x\∈\mathrm{\Φ}}{\mathrm{\Σ}}\underset{y\∈\mathrm{\Ψ}}{\mathrm{\Σ}}p(x,y)\log 2p\left(x\right|y)---\left(3\right)$

互信息可以用来衡量两个离散随机变量之间的相关性，两个离散随机变量X和Y之间的互信息定义为：

I(X，Y)＝H(X)+H(Y)-H(X，Y)

       ＝H(X)-H(X|Y)             (4)

假定用两个离散随机变量X、Y分别来表示两个特征，用一个离散随机变量C来表示分类的类别，则在Y给定的条件下的C、X条件互信息定义为：

I(C，X|Y)＝H(X|Y)-H(X|C，Y)

         ＝I(C，Y)-I(C，X，Y)            (5)

         ＝I(C，X)-[I(X，Y)-I(X，Y|C)]

由于互信息仅仅可以表示特征之间的关系，而条件互信息不但可以衡量特征之间的相关性，还可以很好的表达特征与类别之间的关系，这一点可以较好的滤除波段中所携带的噪音信息。

本发明的方法是通过如下步骤实现的：

A、打开高光谱遥感图像，人机交互标注待分类的样本；

B、分组：根据步骤A得到的待分类样本，将图像所有波段分为若干组；

C、搜索：利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的分组波段进行搜索计算，找到最优的波段组合；

其特征在于：

所述步骤B是使用条件互信息进行波段分组，具体包括下述步骤：

B1、利用下述方法计算给定类别条件下各相邻波段之间的条件互信息：

相邻两个波段B_i和B_i+1之间的条件互信息计算方法如下：

$I(C;B_i|B_{i+1})=I(C;B_i)-\frac{I(C;B_{i+1})}{H\left(B_{i+1}\right)}I(B_i;B_{i+1})$

其中，i是波段序号，

I(C；B_i)＝H(C)+H(B_i)-H(C；B_i)

是波段B_i和类别之间的互信息；

I(C；B_i+1)＝H(C)+H(B_i+1)-H(C；B_i+1)

是波段B_i+1和类别之间的互信息；

I(B_i；B_i+1)＝H(B_i)+H(B_i+1)-H(B_i；B_i+1)

是波段B_i和波段B_i+1之间的互信息；

$H\left(C\right)=-\underset{c=1}{\overset{N_c}{\mathrm{\Σ}}}P(C=c){\log }_{2}P(C=c)$

是样本类别的熵，N_c是用户标注的待分类样本的类别总数；

$H\left(B_i\right)=-\underset{j=0}{\overset{255}{\mathrm{\Σ}}}P(X=j){\log }_{2}P(X=j)$

是划分样本后波段B_i的熵，其中X表示波段B_i中图象灰度的随机变量，j表示图像中灰度的值；

$H\left(B_{i+1}\right)=-\underset{j=0}{\overset{255}{\mathrm{\Σ}}}P(Y=j){\log }_{2}P(Y=j)$

是划分样本后波段B_i+1的熵，其中Y表示波段B_i+1中图象灰度的随机变量，j表示图像中灰度的值；

B2、以波段序号为横坐标，条件互信息为纵坐标绘制条件互信息-波段曲线；

B3、以上述条件互信息-波段曲线中的各极大值点为边界，将相邻两极大值点之间的连续波段作为一组。

本步骤中所述支持向量机和遗传算法相结合的搜索算法(以下简称GA-SVM算法)是现有技术，具体内容参见文献(卓莉，郑璟，王芳等，基于GA-SVM封装算法的高光谱数据特征选择[J]，地理研究，2008，27(3)：493-501)

由于上述方案中条件互信息只是考虑了波段之间的相关性，因此GA-SVM只能搜索到不相关波段的最佳组合，而不一定是最小组合，可能由于噪音扰动而使得条件互信息分组法出现冗余和噪音分组；为此，本发明又在上述搜索步骤C中引入了自适应分支定界法(以下简称AB&B法)进行剪枝，即利用AB&B法对GA-SVM算法搜索到的波段组合进一步进行搜索，以确定最后具有最少波段数目的最佳波段组合，具体包括以下步骤：

C1、利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的每个组进行搜索计算，得到初步的的最优波段组合；

C2、使用自适应分支定界法对从步骤C1得到的初步最优波段组合剪枝，即将该组合中冗余和无效的波段剪除；本步骤中所述自适应分支定界法是现有技术，具体内容参见文献(Songyot Nakariyakul，and David P.Casasent，Adaptive branch and boundalgorithm for selecting optimal features[J].Pattern Recognition Letters：2007，28：1415-1427)

C3、根据步骤C2中剪枝的结果，剔除并合并相应的波段分组，得到新的波段分组；

C4、利用支持向量机和遗传算法相结合的搜索算法对步骤C3得到的新的波段组合进一步搜索，得到最终的最优波段组合。

经过剪枝的波段分组由于滤除了不必要的冗余分组，而使得GA-SVM搜索算法得到的波段组合结果更为准确，也更加稳定；而且，减少分组的数量也可以减轻GA-SVM搜索算法的计算负担，有利于提高算法的效率

附图说明

图1为本发明具体实施方式的流程示意图；

图2为本发明实施例中验证实验所得到的条件互信息-波段曲线。

具体实施方式

下面结合附图对本发明的技术方案进行详细说明：

如附图1所示，本实施方案按照以下步骤依次进行：

A、打开高光谱遥感图像，人机交互标注待分类的样本；

B、分组：根据步骤A得到的待分类样本，通过给定类别条件下各相邻波段之间的条件互信息将图像所有波段分为若干组；具体包括下述各步骤：

B1、利用下述方法计算给定类别条件下各相邻波段之间的条件互信息：

相邻两个波段Bi和Bi+1之间的条件互信息计算方法如下：

$I(C;B_i|B_{i+1})=I(C;B_i)-\frac{I(C;B_{i+1})}{H\left(B_{i+1}\right)}I(B_i;B_{i+1})$

其中，i是波段序号，

I(C；B_i)＝H(C)+H(B_i)-H(C；B_i)

是波段B_i和类别之间的互信息；

I(C；B_i+1)＝H(C)+H(B_i+1)-H(C；B_i+1)

是波段B_i+1和类别之间的互信息；

I(B_i；B_i+1)＝H(B_i)+H(B_i+1)-H(B_i；B_i+1)

是波段B_i和波段B_i+1之间的互信息；

$H\left(C\right)=-\underset{c=1}{\overset{N_c}{\mathrm{\Σ}}}P(C=c){\log }_{2}P(C=c)$

是样本类别的熵，N_c是用户标注的待分类样本的类别总数；

$H\left(B_i\right)=-\underset{j=0}{\overset{255}{\mathrm{\Σ}}}P(X=j){\log }_{2}P(X=j)$

是划分样本后波段B_i的熵，其中X表示波段B_i中图象灰度的随机变量，j表示图像中灰度的值；

$H\left(B_{i+1}\right)=-\underset{j=0}{\overset{255}{\mathrm{\Σ}}}P(Y=j){\log }_{2}P(Y=j)$

是划分样本后波段B_i+1的熵，其中Y表示波段B_i+1中图象灰度的随机变量，j表示图像中灰度的值；

B2、以波段序号为横坐标，条件互信息为纵坐标绘制条件互信息-波段曲线；

B3、以上述条件互信息-波段曲线中的各极大值点为边界，将相邻两极大值点之间的连续波段作为一组。

本实施方案中，为了防止遗漏重要信息，我们还将步骤B3中得到的组中包含波段数超过预先设定的第一阈值的组再分为若干组，使每组包含波段数小于第二阈值。经多次试验分析，发现当所述第一阈值、第二阈值分别取35、20时，可得到较佳的结果，因此本实施方案按此取值。

C、搜索：利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的每个组进行搜索计算，找到最优的波段组合；本步骤包括以下步骤：

C1、利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的每个组进行搜索计算，得到初步的的最优波段组合；

C2、使用自适应分支定界法对从步骤C1得到的初步最优波段组合剪枝，即将该组合中冗余和无效的波段剪除；具体为：

设步骤C1搜索得到初步的最优波段组合为D0，以D0作为分支定界法的输入，按照以下各步骤执行：

C21、使用分支定界法每次去除一个波段，设此时剩余的波段组合为Di，其中i为使用分支定界法的次数；

C22、利用支持向量机对用户标注样本只采用Di中波段对应的特征进行分类，得到相应的分类正确率，记为Ri；

C23、重复执行步骤C21和C22，直到Di中只剩下一个波段；

C24、对上述得到的所有分类正确率Ri进行排序，选择最大的Ri所对应的波段组合Di作为分支定界法剪枝的结果；

C3、根据步骤C2中剪枝的结果，剔除并合并相应的波段分组，得到新的波段分组；

C4、利用支持向量机和遗传算法相结合的搜索算法对步骤C3得到的新的波段组合进一步搜索，得到最终的最优波段组合。

在上述支持向量机和遗传算法相结合的搜索算法中，需要确定遗传算法的基因编码方式，常见的二进制编码方式和整数编码方式均可用于本发明；考虑到若采用二进制编码，可能出现在变异和交叉操作时无法保证从每个分组中选取并且仅选取一个波段的要求，因此本实施方案选择整数编码方式；

本实施方案中，我们设定遗传算法的种群数为30，变异概率为0.2，交叉概率为0.8，最大迭代次数为100次，支持向量机的惩罚因子为1，RBF核函数参数为1。

本实施方案可结合计算机系统实现。

为了验证本实施方案的实际效果，我们进行了如下实验：

使用HYDICE光谱仪所获取的Washington DC Mall地区的公共测试图像数据(该数据来源参见文献：D.A Landgrebe，Signal Theory Method in Multispectral RemoteSensing[M].Hoboken，NJ：Wiley Interscience，2003)来进行对比测试；该图像数据的波长范围为0.40μm至2.40μm，共包含210个连续的波段；对该数据集进行预处理，去除了所有无效波段后，共剩余191个有效波段。该图像中包含草地、屋顶以及道路等七种类别，经手工标出137个已知地面真实类别的区域，为保证训练和测试数据集的不重叠，我们取其中序号为奇数的标注区域作为训练样本，所有序号为偶数的标注区域作为测试样本，最终得到的实验数据如下表1所示：

表1

绘制条件互信息-波段曲线如图2所示，其中红色方块表示极大值点，分组结果如下表2所示：

表2

为了防止遗漏重要信息，我们还可以将包含波段数量过多的第1分组和第8分组分别平均划分为2组和3组，分组结果如下表3所示，由于之后还会使用自适应分支定界法进行剪枝，所以不需要担心会出现冗余波段分组：

表3

不使用分支定界法剪枝，直接使用支持向量机和遗传算法相结合的搜索算法对分组结果进行搜索，记为本发明方法1；对以上分组结果进行分支定界法剪枝后使用支持向量机和遗传算法相结合的搜索算法进行搜索，记为本发明方法2；

为与现有其他波段选择方法比较，我们又选取了4种现有方法分别对上述图像数据进行波段选择，并计算每种方法所得结果的分类准确率：直接对所有波段利用支持向量机算法进行波段选择，记为现有方法1；对所有波段利用支持向量机和遗传算法结合的搜索算法进行波段选择，记为现有方法2；对所有波段先进行平均分组，分别均分为19组和38组(即每10个波段取一组以及每5个波段取一组)，然后利用支持向量机和遗传算法结合的搜索算法进行波段选择，分别记为现有方法3和现有方法4。

为公平比较，使用上述6种方法分别对图像数据进行了10次波段选择，并求取这10次得到的平均分类准确率，具体数据见下表4：

表4

从以上实验可以发现，相比现有的几种遥感高光谱图像波段选择方法，本发明所提供的方法分类准确率较高，选择的波段数目最少，且在计算复杂度方面亦有着较大的优势。

Claims (6)

1.一种基于条件互信息的遥感高光谱图像波段选择方法，包括下述步骤：

A、打开高光谱遥感图像，人机交互标注待分类的样本；

B、分组：根据步骤A得到的待分类样本，将图像所有波段分为若干组；

C、搜索：利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的分组波段进行搜索计算，找到最优的波段组合；

其特征在于：

所述步骤B是使用条件互信息进行波段分组，具体包括下述步骤：

B1、利用下述方法计算给定类别条件下各相邻波段之间的条件互信息：

相邻两个波段B_i和B_i+1之间的条件互信息计算方法如下：

$I(C;B_i|B_{i+1})=I(C;B_i)-\frac{I(C;B_{i+1})}{H\left(B_{i+1}\right)}I(B_i;B_{i+1})$

其中，i是波段序号

I(C；B_i)＝H(C)+H(B_i)-H(C；B_i)

是波段B_i和类别之间的互信息；

I(C；B_i+1)＝H(C)+H(B_i+1)-H(C；B_i+1)

是波段B_i+1和类别之间的互信息；

I(B_i；B_i+1)＝H(B_i)+H(B_i+1)-H(B_i；B_i+1)

是波段B_i和波段B_i+1之间的互信息；

$H\left(C\right)=-\underset{c=1}{\overset{N_c}{\mathrm{\Σ}}}P(C=c){\log }_{2}P(C=c)$

是样本类别的熵，N_c是用户标注的待分类样本的类别总数；

$H\left(B_i\right)=-\underset{j=0}{\overset{255}{\mathrm{\Σ}}}P(X=j){\log }_{2}P(X=j)$

是划分样本后波段B_i的熵，其中X表示波段B_i中图象灰度的随机变量，j表示图像中灰度的值；

$H\left(B_{i+1}\right)=-\underset{j=0}{\overset{255}{\mathrm{\Σ}}}P(Y=j){\log }_{2}P(Y=j)$

是划分样本后波段B_i+1的熵，其中Y表示波段B_i+1中图象灰度的随机变量，j表示图像中灰度的值；

B2、以波段序号为横坐标，条件互信息为纵坐标绘制条件互信息-波段曲线；

B3、以上述条件互信息-波段曲线中的各极大值点为边界，将相邻两极大值点之间的连续波段作为一组。

2.如权利要求1所述基于条件互信息的遥感高光谱图像波段选择方法，其特征在于：所述步骤B3后还有步骤B4，具体为：选出步骤B3中得到的组中包含波段数超过第一阈值的组，将其再分为若干组，使每组包含波段数小于第二阈值。

3.如权利要求1所述基于条件互信息的遥感高光谱图像波段选择方法，其特征在于：所述步骤C包括以下步骤：

C1、利用支持向量机和遗传算法相结合的搜索算法对步骤B得到的波段分组进行搜索计算，从每组挑选一个波段，得到初步的的最优波段组合；

C2、使用自适应分支定界法对从步骤C1得到的初步最优波段组合剪枝，即将该组合中冗余和无效的波段剪除；

C3、根据步骤C2中剪枝的结果，剔除并合并相应的波段分组，得到新的波段分组；

C4、利用支持向量机和遗传算法相结合的搜索算法对步骤C3得到的新的波段组合进一步搜索，得到最终的最优波段组合。

4.如权利要求3所述基于条件互信息的遥感高光谱图像波段选择方法，其特征在于：所述支持向量机和遗传算法相结合的搜索算法中采用整数编码机制。

5.如权利要求4所述基于条件互信息的遥感高光谱图像波段选择方法，其特征在于：所述支持向量机和遗传算法相结合的搜索算法中，各项参数按照如下设定：种群数为30，变异概率为0.2，交叉概率为0.8，最大迭代次数为100次，支持向量机的惩罚因子为1，RBF核函数参数为1。

6.如权利要求2所述基于条件互信息的遥感高光谱图像波段选择方法，其特征在于：所述第一阈值为35，第二阈值为20。