CN104484681B - 基于空间信息和集成学习的高光谱遥感影像分类方法 - Google Patents

Abstract

本发明公开了一种基于空间信息和集成学习的高光谱遥感影像分类方法，主要解决传统单一分类器自身的局限性和现有集成方法只是利用光谱信息而忽略空间信息的问题。其实现步骤为：1)对高光谱遥感影像数据做PCA变换并提取第一主成分，并对第一主成分进行图像分割，得到一幅分割图；2)用随机特征子集选择方法得到Z个波段子集；3)用SVM对特征子集分别进行训练和测试，得到Z个预测集；4)用多数投票法融合分割图和Z个预测集，得到Z个融合后的标签集；5)对Z个标签集再次用多数投票法进行融合，得到最终的分类映射。本发明在随机特征子集选择集成方法中引入空间信息，极大的提高了分类效果，可用于实际中训练样本特别少的分类。

Description

基于空间信息和集成学习的高光谱遥感影像分类方法

技术领域

本发明属于图像处理技术领域，特别涉及一种高光谱遥感影像分类方法，可用于地图制图、植被调查、海洋遥感、农业遥感、大气研究、环境监测等领域。

背景技术

高光谱遥感影像突破了传统的全色和多光谱遥感影像波段的局限性，其影像的每个像元都能够提供与其分辨率相应的精细光谱曲线，为分析地物提供了更加详细的特征。高光谱遥感影像分类是高光谱遥感应用中最重要的内容之一。高光谱遥感影像分类是基于图像像元的光谱与空间特性，对每个像元或比较匀质的像元组中所代表的不同类别地物进行类别属性的确定和标注。经过许多科技工作者多年的研究和探索，高光谱遥感影像分类技术得到了长足的发展，形成了一系列针对高光谱遥感影像特点的地物分类算法。最传统的两种分类方法是根据分类中是否引入已知类别的训练样本，可以分为监督分类和非监督分类。监督分类是在已知类别的训练场地上提取各类别的训练样本，然后利用这些训练样本的统计信息，建立分类器，对测试样本进行分类；而非监督分类则是在没有先验类别信息的情况下，仅根据图像本身的统计特征来划分地物类别的分类方法。

现有的高光谱遥感影像非监督分类方法有K均值聚类、迭代自组织数据分析算法ISODATA、平行管道算法等。现有的高光谱遥感影像监督分类方法有决策树方法、NaiveBayesian学习方法、人工神经网络、K近邻法KNN、支持向量机SVM等。但在实际应用中，由于受到分类方法本身的局限性，这些传统的分类算法的性能指标在原有基础上很难进一步提高。因此，能否在原有信息量的基础上，进一步提升分类器的性能成为目前高光谱技术应用的一个难点。而基于集成学习EL的分类方法，即利用多分类器组合来提高分类精度的方法成为学术界比较关注的另一个研究方向。

集成学习主要是训练多种学习器来解决同一个问题。它首先构建许多个弱分类器，然后把这些弱分类器的结果结合起来。已经有很多学者证明了集成弱分类器的效果比单个强分类器的效果要好。最早Dasarathy和Sheela在1979年开始研究集成学习，主要讨论了采用两个或更多的分类器对特征空间进行划分。在1990年Hansen和Salamon采用集成配置相似的人工神经网络展示了人工神经网络的泛化性能能够被显著提高。Schapire证明了一个强分类器的效果可以由一些弱分类器通过Boosting算法结合起来。由于集成学习方法的泛化能力比单个学习算法的泛化能力增强了很多，因此集成学习方法现在很受瞩目。目前主要的三种流行的集成学习方法分别是Bagging算法，Boosting算法，Stacking算法。

对于高光谱遥感影像分类，目前已经提出了很多关于SVM集成的方法，近几年提出了很多改进的集成学习方法用于高光谱遥感影像分类。例如Waske于2010年在IEEETRANSACTIONS ON GEOSCIENCE AND REMOTE SENSING上提出随机特征选择的SVM集成方法，Behnaz Bigdeli于2013年在J Indian Soc Remote Sens提出了多SVM系统用于高光谱遥感影像分类等。

然而这些集成学习方法很少有考虑到空间信息。Pedram Ghamisi于2014年在IEEETRANSACTIONS ON GEOSCIENCE AND REMOTE SENSING上提出将单个SVM的分类结果和基于FODPSO的多阈值分割结果相融合的方法，这种方法利用图像分割可以把图像上具有同质性的区域分割开来，而具有同质性的区域一般有着近似的纹理和光谱特性，因此通过图像分割，可以确定图像上不同区域的分界线，而同一区域内存在光谱特性差别很大的孤立点或小块的像素区域的可能性是很小的，因此这些小区域很可能是被误分了，将这些误分小区域与周围像素点分成同一类，从而有效地消除SVM分类中出现的“斑点状”误分点。然而这种考虑了空间信息的单分类器虽说提升了分类精度，但由于单分类器自身的限制，分类效果很难有进一步的提升。

发明内容

本发明的目的在于针对上述已有方法的不足，提出了一种基于空间信息和集成学习的高光谱遥感影像分类方法，以在训练样本数目较少的情况下，获得较高的分类精度。

本发明的技术方案是：在集成SVM学习中引入由图像分割获得的空间信息，用多数投票法将每一个弱SVM分类器的结果与基于FODPSO的多阈值分割结果进行融合，并将所有融合后的结果再用多数投票法融合得到最后的分类映射结果。具体步骤包括如下：

(1)对高光谱遥感影像数据做主成分分析PCA变换,提取第一主成分，并对所提的主成分进行L级多阈值分割，得到一幅分割图，L≥2；

(2)从高光谱遥感影像数据X所有的特征中随机选择d’个特征，得到特征子集Y，重复Z次，得到Z个特征子集Y_i，i＝1,2,…，Z，其中X∈R^n×d,即X为由n个具有d个特征的像素样本组成的矩阵数组，Y_i∈R^n×d’，d’<d；

(3)用支持向量机SVM分别对特征子集Y_i进行训练和测试，得到Z个预测集L_k(a)∈{1,...,c}，1≤k≤Z，c为高光谱遥感影像的总类数，a为X中的n个像素点；

(4)将Z个预测集L_k(a)分别与步骤(1)得到的分割图进行多数投票，得到Z个融合后的标签集LL_k(a)；

(5)对Z个标签集LL_k(a)再次用多数投票法进行融合，得到最终的分类映射结果。

本发明由于在集成学习中引入图像分割获取的空间信息，将每个随机特征选择的子集进行SVM分类的结果均与分割图融合，充分利用了空间信息和集成学习的优点，每个子集的分类精度都有提升，从而使最后的分类精度得到很大提升，这使得在训练样本数较少的情况下就能得到较高的分类精度。

附图说明

图1是本发明的实现流程图；

图2是本发明中融合分割和分类采用的多数投票MV1示意图；

图3是本发明仿真采用的高光谱遥感影像的映射图和9类真实标记图；

图4是在90个训练样本下，用本发明和对比方法对高光谱遥感影像的分类结果图；

图5是在225个训练样本下，用本发明和对比方法对高光谱遥感影像的分类结果图；

图6是在405个训练样本下，用本发明和对比方法对高光谱遥感影像的分类结果图。

具体实施方式

参照图1，本发明的具体步骤如下：

步骤1：对高光谱遥感影像进行图像分割。

1a)对高光谱遥感影像数据去除背景像素点，对剩下的像素点做PCA变换，提取第一主成分。

1b)用基于FODPSO的多阈值分割方法对1a)中的第一主成分进行L级阈值分割，得到一幅分割图，L≥2。

所述的FODPSO算法是一种高效快速的解决组合优化问题的仿生算法。多阈值分割技术为遥感影像分析提供了一种很有效的办法。图像的多阈值分割问题即为求最佳阈值的组合优化问题。然而，如何自动选择阈值却是一个很大的难点。传统的穷举法搜索最佳阈值的计算量很大，因此有学者提出用PSO，DPSO(Darwinian PSO)方法。M.S.couceiro提出了基于分数阶微分的darwinian PSO即FODPSO。FODPSO和DPSO一样采用几个种群竞争机制，利用达尔文适者生存的原则，同时用分数微分控制算法的收敛。因此FODPSO通过同时运行并行的PSO算法避免了陷入局部最优。不同的种群在同一个测试问题上应用相同的选择机制。当一个搜索趋于陷入局部最优时，这个区域的搜索直接丢弃，并用另一个区域代替。对每个种群分别进行PSO优化，按分数阶微分公式(1)和(2)进行速度和位置更新，计算适应度；然后根据适应度的提升还是降低，来决定是产生粒子还是减少一个粒子，是增加种群还是减少种群。

其中：速度和位置的更新公式如下：

公式(1)表示粒子b的速度更新公式，粒子b在多维空间中的速度用(v_b[t])表示，S表示种群，每个种群有n个粒子，每个粒子由一个L-1维的向量表示X＝(x₁,x₂,…,x_L-1)，t表示当前代数，a是惯性系数一般小于1，ρ1和ρ2是整数常量，r1和r2是一个[01]之间的随机数，Δv表示粒子在迭代过程中的速度的绝对值的最大值。本发明中a＝0.6，ρ1＝ρ2＝0.8，Δv＝1.5。公式(2)表示粒子b的位置更新公式，粒子b在多维空间中的位置用(x_b[t])表示。

基于FODPSO的多阈值分割算法中，设定初始种群4个，上下限分别为2个和6个，群体个数初始化为30个，上下限为10个和50个，迭代次数为150次。

具体算法及代码见：http://www.mathworks.com/matlabcentral/fileexchange/29517-segmentation。

步骤2：对高光谱遥感影像数据进行随机特征子集选择。

2a)从高光谱遥感影像数据X所有的特征中随机选择d’个特征，得到特征子集Y，其中X∈R^n×d，即X为由n个具有d个特征的像素样本组成的矩阵数组，Y∈R^n×d’，d’<d；

2b)重复2a)的步骤Z次，得到Z个特征子集Y_i，i＝1,2,…，Z，Y_i∈R^n×d’，d’<d。

步骤3：用支持向量机SVM对特征子集Yi进行训练和测试。

3a)从特征子集Yi中随机选择一部分像素样本作为训练集，剩下的作为测试集，对训练集用SVM进行训练得到一个训练模型，其中SVM采用高斯径向基核函数RBF，用3倍交叉验证法对SVM的正则化参数C和核参数γ进行自动寻优；

3b)用3a)得到的模型对测试集进行预测，得到预测集L_k(a)∈{1,...,c}，1≤k≤Z，c为高光谱遥感影像的总类数，a为X中的n个像素点。

步骤4：将Z个预测集L_k(a)分别与步骤1得到的分割图进行多数投票，得到Z个融合后的标签集LL_k(a)。

4a)将分割图映射成区域块，由{1,2,3…,M}表示，M>L，即将相邻的前后左右具有相同像素值的像素点均标记成一个数字，依次连续对整幅图进行操作，将一幅分割图映射成了许多区域块；

4b)按图2的方式，分别融合4a)中的分割图和预测集L_k(a)，得到Z个融合后的标签集LL_k(a)。

图2是一个融合分割图和分类图的过程，具体示例如下：图2(a)为分割图，图2(b)为分类图，统计分割图中每块区域对应的分类图中的像素的不同的预测类标的个数，取具有相同类标个数最多的像素的类标为该区域块的类标。

步骤5：统计每个像素点在Z个标签集LL_k(a)中不同类标签的个数，取个数最多的类标签赋给这个像素点，得到最终的分类映射结果。

本发明的效果可以通过以下仿真结果进一步说明：

1.实验条件

实验环境为：windows XP，SPI，CPU Pentium(R)4，基本频率2.4GHZ，软件平台为MatlabR2010a。

本发明仿真使用的数据集，帕尔维娅校园高光谱遥感影像Pavia-U图像是由ROSIS传感器获取的。ROSIS传感器把0.43-0.86m光谱分为115个波段，空间分辨率为1.3米。帕尔维娅校园图像大小为610×340，去除噪声干扰波段后，每个像素有103个波段。图像一共包含9类信息，42776个除去背景的样本。图3(a)是Pavia-U的映射图，图3(b)是Pavia-U的真实标记图，Pavia-U每一类所包含的样本如表1所示。

表1 Pavia-U每一类所包含的样本

1.实验评价指标

实验使用的评价指标是评价指标：整体精度OA，平均精度AA和Kappa系数。其中整体精度为将正确分类的像素点的个数除以总的像素个数，其值在0～1之间，越大越好；平均精度为将每类正确分类的像素点个数除以这一类的总的像素数，得到这一类的正确分类精度，然后求所有类别的精度的平均值，其值在0～1之间，越大越好；Kappa系数是将图像中像素点的个数N乘以混淆矩阵对角线的和，然后减去所有类别中真实像元总数与被误分成该类像元总数的乘积的和，再除以总像元数的平方差减去所有类别中真实像元的总数与该类中被分类像元总数之积的和所得到的。Kappa计算结果为-1～1，但通常Kappa是落在0～1间，越大越好。

2.实验内容和结果

用本发明方法和现有的两种对比方法对上述数据集进行分类，现有的两种对比分类方法分别为：对高光谱遥感影像数据的全部波段进行SVM分类之后和基于FODPSO的多阈值分割图融合的方法记作FODPSO_SVM，随机特征选择的SVM集成分类方法记作RFS_SVM。三种方法所用的分类器都是SVM。采用3倍交叉验证法对SVM分类器的正则化参数C和核参数γ进行自动寻优。设置集成次数Z＝25，特征子集d’＝ceil(d*30％)，ceil(·)表示向上取整，分割级数L＝10。

实验1，取90个已标记样本作为训练样本，其中每类分别随机选取10个。实验结果如图4所示，其中图4(a)是RFS_SVM方法的分类结果图，图4(b)是FODPSO_SVM方法的分类结果图，图4(c)是本发明的分类结果图。

从图4可以看出，图4(c)和图4(b)明显比图4(a)效果要好，这说明在高光谱影像分类中利用空间信息是非常重要的，虽然图4(c)中有的类没有图4(b)的效果要好，但从整体来看图4(c)的分类精度更高

实验2，取225个已标记样本作为训练样本，其中每类分别随机选取25个，实验结果如图5所示，其中图5(a)是RFS_SVM方法的分类结果图，图5(b)是FODPSO_SVM方法的分类结果图，图5(c)是本发明的分类结果图。

从图5可以看出，图5(c)比图5(b)和图5(a)的分类效果都要好。

实验3，取405个已标记样本作为训练样本，其中每类分别随机选取45个，实验结果如图6所示，其中图6(a)是RFS_SVM方法的分类结果图，图6(b)是FODPSO_SVM方法的分类结果图，图6(c)是本发明的分类结果图。

从图6可以看出，图6(c)和图6(b)明显优于图6(a)的分类效果，图6(c)的结果略优于图6(b)。

将本发明方法和两种对比方法对数据集进行分类的数值进行统计，结果如表2、表3、表4所示。其中：

表2表示这三种方法在不同训练样本数目下的平均整体精度，其中Δ1和Δ2分别表示本发明的整体精度比RFS_SVM和FODPSO_SVM的整体精度提升值。

表3表示这三种方法在不同训练样本数目下的平均精度。

表4表示这三种方法在不同训练样本数目下的平均kappa系数。

表2.不同方法的平均整体分类精度(％)统计

表3.不同方法的平均精度(％)统计

表4.不同方法的平均kappa(％)统计

由表1可以看出无论每类选取10个，15个，以至50个作为训练样本，本发明的方法均比RFS_SVM和FODPSO_SVM方法的平均整体精度要高。当每类选取10个样本时，本发明的平均整体精度分别比RFS_SVM和FODPSO_SVM高17.26％和3.93％。当每类选取15个样本时，本发明的平均整体精度已能达到89.21％，分别比RFS_SVM和FODPSO_SVM高18.81％和7.29％。当每类选取25个样本时，本发明的精度分别比RFS_SVM和高17.46％和1.21％。随着样本数的增加，本发明的平均整体分类精度明显优于RFS_SVM，但略优于FODPSO_SVM。

由表2可以看出，对于AA，在小样本时本发明明显优于其他两种方法，但是在训练样本取45，50时略微比FODPSO_SVM低。

由表3可以看出，对于kappa系数，本发明明显优于其他两种方法。以上实验表明本发明方法的整体分类精度较高，且当实际的训练样本数很少时，本方法相比于其他两种对比方法的优势更明显，因此尤其适用于实际中训练样本很少的情况。

Claims (3)

1.一种基于空间信息和集成学习的高光谱遥感影像分类方法，包括如下步骤：

(1)对高光谱遥感影像数据做主成分分析PCA变换，提取第一主成分，并对所提的主成分进行L级多阈值分割，得到一幅分割图，L≥2；

(2)从高光谱遥感影像数据X所有的特征中随机选择d’个特征，得到特征子集Y，重复Z次，得到Z个特征子集Y_i，i＝1,2,…，Z，其中X∈R^n×d,即X为由n个具有d个特征的像素样本组成的矩阵数组，Y_i∈R^n×d’，d’<d；

(3)用支持向量机SVM分别对特征子集Y_i进行训练和测试，得到Z个预测集L_k(a)∈{1,...,c}，1≤k≤Z，c为高光谱遥感影像的总类数，a为X中的n个像素点；

(4)将Z个预测集L_k(a)分别与步骤(1)得到的分割图进行多数投票，得到Z个融合后的标签集LL_k(a)；

(5)对Z个标签集LL_k(a)再次用多数投票法进行融合，得到最终的分类映射结果。

2.根据权利要求1所述的方法，其中步骤(4)所述的将Z个预测集L_k(a)分别与步骤(1)得到的分割图进行多数投票，按如下步骤进行

4a)将分割图映射成区域块，由{1,2,3…,M}表示，M>L，即将相邻的前后左右具有相同像素值的像素点均标记成一个数字，依次连续对整幅图进行操作，将一幅分割图映射成了许多区域块；

4b)统计每一块区域所对应的L_k(a)中不同的预测类标签的像素的个数，取像素数目最多的预测标签为该区域块的类标，得到Z个融合后的标签集LL_k(a)。

3.根据权利要求1所述的方法，其中步骤(5)所述的对Z个标签集LL_k(a)再次用多数投票法进行融合，是统计每个像素点在Z个标签集LL_k(a)中不同类标签的个数，取个数最多的类标签赋给这个像素点，得到最终的分类映射结果。