CN105718942A - 基于均值漂移和过采样的高光谱图像不平衡分类方法 - Google Patents

Abstract

本发明请求保护一种基于均值漂移和过采样的高光谱图像不平衡分类方法。首先将高光谱图像的每一个像素点用特征向量表示，用主成分分析降维方法提取第一主成分高光谱图像；利用均值漂移算法得到分割图，对分割图块中的像素点光谱值求和做平均得到局部空间信息；随机选取原高光谱图像数据中的每一类别样本，对样本数少的类别采用SMOTE技术过采样预处理，然后对各个类别样本两两训练支持向量机；对分类超平面上由少数类和多数类训练的支持向量再次过采样；结合空谱信息对测试样本利用混合核支持向量机分类器得到分类图；最后由最大投票方法对分割图和分类图融合得到最终的分类结果。提高了样本数少的地物的分类精度，同时又不降低其他类别的分类效果。

Description

基于均值漂移和过采样的高光谱图像不平衡分类方法

技术领域

本发明属于遥感图像处理技术领域，涉及对均值分割图像提取空间信息和对少数类支持向量过采样方法，具体是一种基于均值分割和过采样的高光谱图像不平衡分类方法，用于高光谱遥感图像的不平衡分类。

背景技术

高光谱遥感技术利用成像光谱仪对地表物体进行成像，形成由由成百上千个连续的窄波段形成，覆盖可见光到近红外区域，光谱分辨率高的三维数据。已经被广泛应用在矿物勘测、精细农业、医学检验等民用领域和军事侦察、战场地图绘制等军事应用领域。由于这些领域对样本数少的地物的识别度尤为重视，对于地物分布复杂、多样、样本个数不平衡的高光谱图像来说，少数类地物的分类精度远远不能满足应用的需求。因此提高高光谱图像中的少数类地物的分类精度对未来高光谱技术的发展尤为重要。

目前针对高光谱图像的不平衡分类问题有两种：一种就是利用数据采样方法进行样本平衡，一般是对样本数少的训练样本采用过采样的方法，对样本数多的训练样本采用欠采样的方法，一般采用少数类合成过采样技术(SynthecticMinorityOverSamplingTechnique，SMOTE)对样本数少的训练样本过采样；另外一种就是设计新的分类器。支持向量机分类器在解决小样本高维数据的分类问题上具有较好的性能，是目前应用最为广泛的高光谱图像不平衡分类方法。但由于支持向量机只是利用其分类平面的稀疏性原则来减少不平衡的分类问题，并没有实质上去改变不平衡的分类问题，其他的不平衡分类问题也是单纯的基于支持向量机基础上对核函数进行改进，没有对支持向量机模型中最关键的支持向量进行处理，也没有利用高光谱图像数据的空间信息，导致高光谱图像分类中样本数少的地物分类精度处于较低的水平，甚至影响了高光谱图像的总体分类精度。

目前高光谱图像的不平衡分类主要存在的问题：1)仅对样本数少的地物或样本数多的地物的训练样本进行采样，没有利用支持向量稀疏特性对支持向量采样来解决不平衡的分类问题；2)仅利用高光谱图像的光谱信息，并没有有效利用高光谱图像的空间信息。

发明内容

针对以上现有的不足，提出了一种有效提高高光谱图像不平衡的分类精度的基于均值漂移和过采样的高光谱图像不平衡分类方法。本发明的技术方案如下：一种基于均值漂移和过采样的高光谱图像不平衡分类方法，其包括以下步骤：

101、首先获取高光谱图像，将高光谱图像的每一个像素点用特征向量表示，用主成分分析降维法提取第一主成分高光谱图像；

102、对第一主成分高光谱图像利用均值漂移算法得到分割图块，对分割图块中的像素点光谱值求和做平均得到局部空间信息；

103、同时随机选取高光谱图像数据中的类别样本，对其中少数类样本x'采用SMOTE技术过采样预处理，然后两两训练支持向量机；

104、对经过步骤103支持向量机分类平面上的少数类样本(本文所说的样本数少的类别特指苜蓿，收割牧地，燕麦地，后文中都简称为少数类，其他类别都简称为多数类)x_i支持向量再次过采样；

105、通过步骤102由均值漂移算法得到的光谱图像空间信息结合光谱信息对每一个测试样本利用混合核支持向量机分类器得到分类图；

106、最后由最大投票方法对分割图和分类图融合得到最终的分类结果。

进一步的，所述步骤101具体为：获取高光谱图像X，,X＝{x₁,x₂,...,x_N}∈R^H,该高光谱图像X包含m_i类像素点，而且每一类别的像素点个数都不一样，图像的每一个像素点为一个样本，用x_i表示第i个样本的特征向量，R表示实数域，样本的特征维数为H。

进一步的，步骤102具体为：将第一主成分高光谱图像X^1st分割成S块，得到高光谱图像的分割图I_w，并且对每一个中分割块的像素光谱值求和作平均得到空间信息

进一步的，步骤103具体为：随机选取高光谱数据X，利用SMOTE算法构造新的少数类样本x'＝x+random(0,1)×x_i，x_i表示少数类样本的邻域样本。

进一步的，步骤104中提取的空谱信息和光谱信息建立混合核函数K(x_i,x_j)＝μK_s(x_i ^s,x_j ^s)+(1-μ)K_w(x_i ^w,x_j ^w)。

进一步的，步骤103对少数类支持向量过采样得到采样得到新的少数类支持向量个数N^new，使得分类平面上的少数类支持向量与多数类支持向量达到平衡，N^new的计算的具体步骤如下所示：

4a)计算出由过采样后的少数类与多数类训练的子分类器模型中的少数类支持向量个数N^-，和多数类支持向量个数N⁺；

4b)根据支持向量过采样方法计算得出少数类支持向量个数

4c)比较过采样后的支持向量个数N^new和多数类支持向量的个数N⁺，如果|N⁺-N^new|≤5，则不处理，如果|N⁺-N^new|＞5则重新带到4b)继续进行支持向量过采样。

本发明的优点及有益效果如下：

1.本发明采用了均值漂移算法获取到分割图即得到了高光谱图像的全局空间信息，通过每一个图像块的光谱值求和作平均得到局部空间信息，充分利用了高光谱图像的全局和局部空间信息。

2.本发明由于对样本数少的类别的训练样本以及少数类支持向量都进行过采样处理，很好地解决了不平衡的分类问题，而且对少数类支持向量过采样利用了支持向量机本身的稀疏特性，简化了对所有训练样本进行采样处理的复杂度。

3.本发明采用了空谱信息组成的混合核函数，比单个核函数更符合高光谱图像的赝本分布发杂多样的特点，减少不平衡分类的问题。

4.本发明对块分割图和基于像素点的分类图利用最大投票融合可以很好地纠正少数类以及多数类错分类、误分类的情况。

对比试验表明，本发明有效地提高了高光谱遥感图像中少数类的分类精度，同时其他类别的分类精度也有所提高。

附图说明

图1是本发明提供优选实施例流程框架图；

图2是本发明中均值漂移分割过程中的均值漂移向量示意图；

图3是本发明中采用的最大投票方法融合分割图和分类图的示意图；

图4是本发明仿真采用的IndianPines高光谱图像以及各分类方法的分类结果

具体实施方式

以下结合附图，对本发明作进一步说明：

如图1所示，实施例1

本发明提出一种均值漂移和支持向量过采样的高光谱图像不平衡分类方法。目前高光谱图像被应用在矿物勘测、精细农业、医学检验等民用领域和军事侦察、战场地图绘制等军事应用领域，而这些领域对样本数少的地物(少数类地物)的识别度尤为重视。由于高光谱图像数据样本分布的复杂性和多样性的特点导致高光谱图像分类不均衡，传统的支持向量机分类方法经常被应用到高光谱图像的不平衡分类问题上，但少数类地物的分类精度低，严重影响着高光谱图像的总体分类效果。因此高光谱图像不平衡分类问题已然成为一个被忽视但却重要的研究领域。针对已有的不平衡分类方法没有考虑高光谱图像的空间结构信息，结合均值漂移分割和支持向量过采样，本发明提出一种基于均值漂移和支持向量过采样的高光谱图像不平衡分类方法。

参照图1，本例中具体实施步骤包括：

步骤1：输入高光谱图像X,X＝{x₁,x₂,...,x_N}∈R^H,该高光谱图像X包含m_i类像素点，而且每一类别的像素点个数都不一样，可能m₁类的像素点个数N只有26个，而其他类的像素点个数可能N都是几百。图像的每一个像素点为一个样本，用x_i表示第i个样本的特征向量。R表示实数域，样本的特征维数为H。

步骤2：根据主成分分析方法对高光谱图像X进行线性降维，提取包含最多高光谱图像信息的第一主成分高光谱图像X^1st。具体步骤如下：

2a)将高光谱数据(m×n₁×n₂，m表示高光谱数据的波段数目，n₁，n₂表示高光谱数据中单个波段图像的维数)转化为维数是m×n的观测数据集，其中n＝n₁×n₂表示单个波段图像上的像素总数。

2b)计算原始高光谱数据X的均值矢量u和协方差矩阵Σ， u＝[u₁,u₂,...,u_n]，y_j(i)表示第i个像元在第j个波段上的像元

2c)求解协方差矩阵Σ的特征值λ和特征向量T,(λI-Σ)T＝0其中，I是单位矩阵。令λ₁≥λ₂≥...≥λ_m为协方差矩阵∑的特征根，对应的单位特征向量为T₁,T₂,...,T_m，可得PCA变化矩阵：W＝[T₁,T₂,...,T_m],WW^T＝I

2d)最终的PCA变化结果可以表示为：Y＝W^TX,提取第一主成分高光谱图像X^1st。

步骤3：根据均值漂移算法将第一主成分高光谱图像X^1st分割成S块，得到高光谱图像的分割图I_w，并且对每一个中分割块的像素光谱值求和作平均得到空间信息

3a)随机选取第一主成分高光谱图像X^1st中的一个样本点x，以x为圆心，R为半径，做一个空间球s_R＝{x²-y²≤R²}，如图2所示，落在球内的点x_i为样本点x的邻域样本。本文设N个样本中有c个落入到圆内。

3b)计算均值漂移向量其中本文采用均匀核函数，化简后的均值漂移向量求出落入圆内的c个样本点的均值漂移向量M_R,g(x)。

3c)设置偏移量ε＝10^-4，当M_R,g(x)＜ε时，即收敛，得到x的漂移向量；当M_R,g(x)＞ε时，返回执行3b)，知道满足收敛条件。

3d)重复执行3b),3c)，直到遍历完所有的样本数据，然后对第一主成分高光谱图像进行区域标记，并且通过调整参数h来控制分割块的个数，得到分割图I_w。

3e)标记好每一个区域后，对每一区域的像素光谱值求和作平均得到不同区域的空间信息

步骤4：随机选取高光谱数据X，利用SMOTE算法构造新的少数类样本x'＝x+random(0,1)×x_i，x_i表示少数类样本的领域样本，i＝1,2,3,4，得到过采样后的少数类训练样本。本发明将多分类问题转化为多个一对一的二分类问题，训练多个支持向量机子分类器，对于多数类样本和少数类样本训练的子分类器，对其分类模型中的少数类支持向量再次过采样得到新的少数类支持向量个数N^new，使得分类平面上的少数类支持向量与多数类支持向量达到平衡，N^new的计算的具体步骤如下所示：

4a)计算出由过采样后的少数类与多数类训练的子分类器模型中的少数类支持向量个数N^-，和多数类支持向量个数N⁺。

4b)根据本发明提出的对支持向量过采样方法计算得出少数类支持向量个数

4c)比较过采样后的支持向量个数N^new和多数类支持向量的个数N⁺，如果|N⁺-N^new|≤5，则可以消除不平衡分类的问题，如果|N⁺-N^new|＞5则重新带到4b)继续进行支持向量过采样。

4d)根据多数类支持向量个数和过采样处理后的少数类支持向量个数重新建立支持向量机子分类器。

步骤5：结合步骤3中提取的空谱信息和光谱信息建立混合核函数K(x_i,x_j)＝μK_s(x_i ^s,x_j ^s)+(1-μ)K_w(x_i ^w,x_j ^w)，然后利用支持向量过采样方法对每一个像素点进行分类，得到基于像素点的分类图I_s。

步骤6：根据均值漂移得到的高光谱图像的分割图I_w和基于支持向量过采样得到的高光谱图像的分类图I_s，利用最大投票方法进行融合，如图3所示，得到最终的分类结果。

本发明由于同时利用了高光谱图像的全局空间信息和局部空间信息，以及对少数类训练样本核少数类支持向量两次过采用处理，通过混合核支持向量机进行分类，最后由代表全局空间信息的分割图和结合空谱信息的分类图进行融合，从而更符合由于高光谱图像样本的复杂度和多样性形成的不平衡分类情况。

本发明的分类效果可以通过以下仿真实验进一步说明：

实施例2

基于均值漂移和支持向量过采样的高光谱图像的不平衡分类方法，同实施例1

1.仿真条件：

仿真实验采用美国宇航局NASA喷气推进实验室的空载可见光/近红外成像光谱仪AVIRIS于1992年6月在印第安纳西北部获取的IndianPines高光谱图像，如图3所示，图像大小为145×145，共有220个波段，去除用于噪声和水汽吸收的20个光谱波段(104-108，150-163和220)，有16种地物类别。

仿真实验的计算机硬件环境为IntelCorei3-2410MCPU2.3Hz、RAM4.0G。软件环境为Windows7(64位)操作系统、MATLABmatlabR2009a。

2.仿真内容及分析

使用本发明与现有3种方法对高光谱图像IndianPines进行分类，现有的四种方法分别是：支持向量机SVM，混合核支持向量机SVM-CK，均值漂移分割图和支持向量机分类图融合MSSVM，本发明基于均值漂移和支持向量过采样基础上结合混合支持向量机的高光谱图像的不平衡分类方法缩写为MSOS+SVM-CK。

其他各类分类方法有SVM、SVM-CK、MSSVM，这些分类方法中的分类器SVM核参数g对应上述顺序，分别设置为10^-4，10^-3，10^-5，本发明MSOS+SVM-CK中分类器SVM-CK核参数g设置为10^-6，惩罚因子对应上述顺序分别设置为10,100,1000，本发明的惩罚因子设置为200。本发明中随机选取的样本数设置为1043，核函数均采用径向基函数。

从高光谱图像IndianPines数据中随机选取各类样本的10％作为训练样本，其余都作为未标记的测试样本。本发明与现有的三种方法对高光谱图像IndianPines数据进行20次分类实验，取分类结果的平均值作为最终分类精度。图4b是支持向量机SVM的分类结果，图4c是混合核支持向量机的分类结果，图4f是本发明分类结果。由分类结果图看，本发明总体分类效果明显较其他三种分类效果好，特别是少数类分类有明显的提高。图4中的前两幅图分别是高光谱图像IndianPines的假彩色图像和真实地物对应图，可作为各种方法分类的参考。

本发明在基于于均值漂移和支持向量过采样基础上结合混合支持向量机的高光谱图像的不平衡分类，充分利用了高光谱图像的全局空间信息和局部空间信息，并且对少数类训练样本和少数类支持向量两次采样处理，少数类取得了较好的分类精度，与现有的方法相比具有一定的优势。

实施例3

基于均值漂移和支持向量过采样的高光谱图像的不平衡分类方法，同实施例1和实施例2

从高光谱图像IndianPines数据中随机选取各类样本的10％作为训练样本，其余都作为未标记的测试样本。本发明与现有的三种方法对高光谱图像IndianPines数据进行20次分类实验，取分类结果的平均值作为最终分类精度。本发明对少数类的训练样本过采样，与其他对少数类训练样本不作处理的方法作比较，SMOTE技术过采样后的少数类类别苜蓿、收割牧地、燕麦地的训练样本数分别由原来的6,3,2变为21,6,3如表1所示。对少数类支持向量机过采样使得

|N⁺-N^new|≤5。图4d是只对少数类训练样本过采样并且用支持向量机分类的结果(称为pSVM)，图4e是对少数类训练样本核少数类支持向量过采样然后用支持向量分类的结果图(称为aSVM)，表2是图4d，图4e对应的分类精度，其他参数设置与实例2中本发明相同。

表1少数类训练样本过采样前后的个数

少数类	过采样前	过采样后
			苜蓿	6	21
收割牧地	3	6
			燕麦地	2	3

表2pSVM和aSVM两种方法与本发明高光谱图像分类中少数类的分类精度(％)和总体分类情况

少数类地物	pSVM	aSVM	MSOS+SVM-CK
				苜蓿	71.22	74.60	99.08
收割牧地	54.55	62.46	92.31
				燕麦地	42.38	53.74	98.00
支持向量个数	4	10	15
				OA	0.7034	0.7608	87.06

实施例4

基于均值漂移和支持向量过采样的高光谱图像的不平衡分类方法，同实施例1和实施例2

如表3所示，分别将本发明与SVM、SVM-CK、MSSVM高光谱图像的不平衡分类方法的各类别的分类精度以及总体分类精度OA，平均分类精度AA，kappa系数等一一列出，其中少数类的分类精度加黑标记。通过图4和表3可以可出，本发明在不减少多数类的分类精度的情况下，很大程度上提高了少数类的分类精度，其中苜蓿的分类精度较SVM的42.57％，SVM-CK的67.50％，MSSVM的66.96％分别提高了56.33％，31.58％，22.12％；收割牧地的分类精度较SVM的50.83％，SVM-CK的56.36％，MSSVM的75.71％分别提高了41.48％，35.95％，16.60％；燕麦地的分类精度较SVM的52.94％，SVM-CK的67.50％，MSSVM的80％分别提高了45.06％，30.50％，18％。本发明的kappa系数也达到了0.8514均高于SVM的0.5891，SVM-CK的0.6593和MSSVM的0.7322。

表3高光谱图像IndianPines的样本数和各类别地物的分类结果

综上所述，本发明的基于均值分割和支持向量过采样的高光谱图像不平衡分类方法，主要解决了高光谱图像分类的不平衡问题，提高了少数类地物的分类精度，同时又不降低多数类的分类效果。其步骤包括：将高光谱图像的每一个像素点用特征向量表示，用主成分分析降维方法提取第一主成分高光谱图像；对第一主成分高光谱图像利用均值漂移算法得到分割图，对局部分割图块中的像素点光谱值求和做平均得到局部空间信息；同时随机选取原高光谱图像数据中的每一类别样本，对少数类样本采用SMOTE技术过采样预处理，然后两两训练支持向量机；对少数类与多数类训练的支持向量机分类平面上的少数类支持向量再次过采样；结合空谱信息对每一个测试像素点利用混合核支持向量机分类得到分类图；最后由最大投票方法对分割图和分类图融合得到最终的分类结果。本发明对分割后的图像块提取局部空间信息结合光谱信息组成混合核解决了单一核函数不能满足高光谱数据多样复杂的特点，而且经过两次不同的过采样解决了少数类训练样本少，支持向量个数少而出现的分类精度不高的问题，最后由最大投票方法融合分割图与分类图进一步结合空谱信息进行分类纠错。本发明能够在少数类分类上获得较高的正确率，且多数类分类精度也有所提高，可以用在矿物勘测、精细农业、医学检验等民用领域和军事侦察、战场地图绘制等军事应用领域。

以上这些实施例应理解为仅用于说明本发明而不用于限制本发明的保护范围。在阅读了本发明的记载的内容之后，技术人员可以对本发明作各种改动或修改，这些等效变化和修饰同样落入本发明权利要求所限定的范围。

Claims (6)

1.一种基于均值漂移和过采样的高光谱图像不平衡分类方法，其特征在于，包括以下步骤：

101、首先获取高光谱图像，将高光谱图像的每一个像素点用特征向量表示，用主成分分析降维法提取第一主成分高光谱图像；

102、对第一主成分高光谱图像利用均值漂移算法得到分割图块，对分割图块中的像素点光谱值求和做平均得到局部空间信息；

103、同时随机选取高光谱图像数据中的类别样本，对其中少数类样本x'采用SMOTE技术过采样预处理，然后对各个类别样本两两训练支持向量机；

104、对经过步骤103支持向量机分类平面上的少数类样本的支持向量再次过采样；

105、提取步骤102经过均值漂移算法得到的光谱图像空间信息，并对步骤104经过再次过采样的每一个测试像素点利用混合核支持向量机分类器得到分类图；

106、最后由最大投票方法对分割图和分类图融合得到最终的分类结果。

2.根据权利要求1所述的基于均值漂移和过采样的高光谱图像不平衡分类方法，其特征在于，所述步骤101具体为：获取高光谱图像X，,X＝{x₁,x₂,...,x_N}∈R^H,该高光谱图像X包含m_i类像素点，而且每一类别的像素点个数都不一样，图像的每一个像素点为一个样本，用x_i表示第i个样本的特征向量，R表示实数域，样本的特征维数为H。

3.根据权利要求1或2所述的基于均值漂移和过采样的高光谱图像不平衡分类方法，其特征在于，步骤102具体为：将第一主成分高光谱图像X^1st分割成S块，得到高光谱图像的分割图I_w，并且对每一个中分割块的像素光谱值求和作平均 $X^w=\frac{{\mathrm{\Σ}}_{n_s}{x}_{n_s}}{n_s}$ 得到空间信息 $X^w=\{x_1^w,x_2^w,...,x_N^w\}.$

4.根据权利要求3所述的基于均值漂移和过采样的高光谱图像不平衡分类方法，其特征在于，步骤103具体为：随机选取高光谱数据X，利用SMOTE算法构造新的样本x'＝x+random(0,1)×x_i，x_i表示少数类样本的邻域样本。

5.根据权利要求3所述的基于均值漂移和过采样的高光谱图像不平衡分类方法，其特征在于，步骤104中提取的空谱信息和光谱信息 $X^s=\{x_1^s,x_2^s,...x_N^s\}$ 建立混合核函数K(x_i,x_j)＝μK_s(x_i ^s,x_j ^s)+(1-μ)K_w(x_i ^w,x_j ^w)。

6.根据权利要求3所述的基于均值漂移和过采样的高光谱图像不平衡分类方法，其特征在于，步骤103对少数类支持向量过采样得到新的少数类支持向量个数N^new，使得分类平面上的少数类支持向量与多数类支持向量达到平衡，N^new的计算的具体步骤如下所示：

4a)计算出由过采样后的少数类与多数类训练的子分类器模型中的少数类支持向量个数N^-，和多数类支持向量个数N⁺；

4b)根据支持向量过采样方法计算得出少数类支持向量个数

$N^{new}=\frac{N^{-}}{N^{+}+N^{-}}{N}^{+}+\frac{N^{+}}{N^{+}+N^{-}}{N}^{-};$

4c)比较过采样后少数类支持向量个数N^new和多数类支持向量的个数N⁺，如果|N⁺-N^new|≤5，则不处理，如果|N⁺-N^new|＞5则重新带到4b)继续进行少数类支持向量过采样。