CN104036298A - 基于核Fisher自适应学习的高光谱遥感图像端元分类方法 - Google Patents

Abstract

基于Fisher数据依赖核学习机的高光谱遥感图像端元分类器，解决了目前高光谱图像端元分类方法存在分辨率低的问题。本发明的过程为：选定判定高光谱遥感图像训练样本集的标注形式，获得优化目标函数，然后获得最优参数或数据依赖核参数；根据获得的参数，得到不变结构或变结构的最优核函数，进而获得最优Fisher分类器，利用该分类器即可实现对实测高光谱遥感图像进行分类。本发明能够准确地对高光谱遥感图像的端元进行分类，提高了高光谱遥感图像的分辨率，能够应用于地形军事目标侦察、高效的战事打击效果评估、海军潜艇实时海上环境监测、突发自然灾害的应急响应技术领域。

Description

基于核Fisher自适应学习的高光谱遥感图像端元分类方法

技术领域

本发明涉及一种高光谱图像分析方法，尤其涉及一种对高光谱遥感图像端元的高分辨率分类方法。

背景技术

高光谱遥感图像是由几十乃至数百个连续波段图像组成的三维数据立方体，同时具备图谱的特点，可有效提高了对地物的分类和监测能力，在军事侦察、资源勘探、环境监测、灾害评估等领域应用前景广阔。硬件等因素制约着高光谱图像的实际应用，表现为光谱空间分辨率高而空间分辨率相对较低的问题，为进一步提取图像的形状、纹理、空间关系和扩展形态剖面等特征。为提高图像分辨率，需对端元进行分类以区分不同地物。目前常用的高光谱图像端元分类算法可分为有监督和无监督算法，前者已知地物类属判断每个端元代表的地物类别的分类算法，而后者则未知地物种类纯粹依靠光谱统计差异进行分类。常用的有分类方法包括光谱角填图法、二进制编码法、平行六面体方法、最小距离法以及最大似然法、IsoData方法和K-Means方法等方法。

除了上述传统的分类方法外，还有一些新的分类方法，如基于各种神经网络、决策树、支持向量机和专家系统等分类方法。

然而，目前高光谱遥感图像端元分类方法由于受到采集样本的限制，用于高光谱遥感图像端元分类的分类器不能获得最大泛化能力，不能获得最优图像分辨率。

发明内容

鉴于上述现有技术的不足和迫切需求，本发明的目的是提出一种基于核Fisher自适应学习的高光谱遥感图像端元分类方法，解决目前高光谱遥感图像分类方法存在分辨率低的问题。

本发明的上述目的，其实现的技术解决方案是：基于核Fisher自适应学习的高光谱遥感图像端元分类方法，其特征在于包括：

步骤Ⅰ、对高光谱遥感图像端元分类任务判断结构变化与否的优化方法，若结构变化优化则跳转执行步骤Ⅲ、若结构不变化优化则顺序执行步骤Ⅱ；

步骤Ⅱ、采用传统核函数，然后利用Fisher准则和最大间隔准则获得优化目标函数，再通过基于遗传算法的自适应寻求算法对获得的优化目标函数进行计算，获得最优参数和不变结构的最优核函数，后接执行步骤Ⅳ；

步骤Ⅲ、采用数据依赖核函数，然后利用全局流形保持设计准则获得优化目标函数，再通过基于拉格朗日法的自适应寻求算法对获得的优化目标函数进行计算，获得数据依赖核参数和变结构的最优核函数，后接执行步骤Ⅳ；

步骤Ⅳ、根据步骤Ⅱ所得不变结构的最优核函数或步骤Ⅲ所得变结构的最优核函数得到最优Fisher分类器，再对实测高光谱遥感图像进行分类，获得该高光谱遥感图像的类别。

进一步地，步骤Ⅱ获得不变结构的最优核函数的过程为：i)，对核参数进行初始化，将初始化后的参数进行编码后作为候选解；ii)，利用优化目标函数计算所述候选解的适应度，保留适应度大于或等于阈值的候选解，舍弃余下的候选解；iii)，对保留的候选解进行复制、交叉以及变异，生成新的候选解；iv)，对新的候选解进行解码得到最优核化参数，进而获得不变结构的最优核函数。

进一步地，步骤Ⅲ获得变结构的最优核函数的过程为：a)，利用高光谱遥感图像训练样本集的标注信息，扩展数据依赖核函数，然后求得所述数据依赖核函数与已知基础核函数的关系，并求得所述数据依赖核函数的Fisher度量表达式，建立以该数据依赖核函数参数为自变 量的Fisher度量函数；b)，根据训练样本集的标注信息进行优化目标函数设计，建立一个用于求解最优数据依赖核参数的约束方程；c)，利用循环迭代法对所述约束方程进行计算，获得以训练样本集为变量的最优解表达式，然后将训练样本集代入所述最优解表达式，计算获得自适应参数，进而获得变结构的最优核函数。

应用本发明高光谱遥感图像端元分类的技术方案，其较之于现有技术方法的显著效果体现于：能够准确地对遥感高光谱图像的端元进行分类，提高了遥感高光谱图像的分辨率，能够应用于地形军事目标侦察、高效的战事打击效果评估、海军潜艇实时海上环境监测、突发自然灾害的应急响应技术领域。

附图说明

图1是本发明高光谱遥感图像端元分类方法的主体流程图。

图2是图1所示端元分类方法步骤Ⅱ中获得不变结构最优核函数的具体过程流程图。

图3是图1所示端元分类方法步骤Ⅲ中获得变结构最优核函数的具体过程流程图。

图4a和图4b分别为内在图的正约束图与k最近邻图。

图4c和图4d分别为惩罚图的负约束图与非k最近邻图。

具体实施方式

本发明是基于核Fisher自适应学习的高光谱遥感图像端元分类方法，它的主要过程如图1所示的主体流程图可见：步骤Ⅰ、对高光谱遥感图像端元分类任务判断结构变化/不变化的优化方式，若结构变化优化则跳转执行步骤Ⅲ、若结构不变化优化则顺序执行步骤Ⅱ。

步骤Ⅱ、采用传统核函数，然后利用Fisher准则和最大间隔准则获得优化目标函数，再对获得的优化目标函数进行计算，获得最优参数和不变结构的最优核函数，后接执行步骤Ⅳ。

步骤2.1、采用传统核函数构造核矩阵。

所谓核函数就是把向量x和y经过非线性映射在非线性空间上的内积<Φ(x),Φ(y)>用原空间的两向量的一个函数表示，以实现非线性映射^[25][28][29]。数学表达式为:k(x,y)＝<Φ(x),Φ(y)>,给定一个函数k：R²→K和样本x₁，...，x_n∈R，其中K＝C或K＝R，C表示复数集，R表示实数集，那么，大小为n×n的矩阵K_ij:＝k(x_i,x_j)称为关于x₁,...,x_n的核矩阵K。

本发明采用Polynomial核函数、Gaussian核函数、Sigmoid核函数和RBF核函数，其描述如下：

Polynomial核函数k(x,y)＝(x·y)^d (d∈N)；

Gaussian核函数 $k(x,y)=\exp (-\frac{{\left|\right|x-y\left|\right|}^2}{2{\mathrm{\&sigma;}}^2}),(\mathrm{\&sigma;}>0));$

Sigmoid核函数k(x,z)＝tanh(α<x,z>+β),(α>0,β<0)；

RBF核函数k(x,z)＝exp(-ρd(x,z)),(ρ>0)，其中d(x,z)可以是任意距离度量。

步骤2.2、Fisher准则(FC)优化。

步骤2.2.1、优化目标函数建立。

采用Fisher准则来衡量经验特征空间数据的类区分度。Fisher准则用来衡量数据的类分散度，被广泛应用于特征提取。在经验特征空间内的样本的类区分度用下式表示： 其中，J_Fisher为衡量类线性分散度的标量，为类间分散矩阵，为类内 分散矩阵，tr表示矩阵的迹。假定K为全体样本计算得到的核矩阵，矩阵元素x_i和x_j计算得到核函数值k_ij(i,j＝1,2,...,n)，K_pq,p,q＝1,2,...,L为p类和q类样本计算得到的n_p×n_q的核矩阵，那么在经验特征空间内的样本的类间散布矩阵的秩和类内散布矩阵的秩满足 $\mathrm{tr}\left(S_B^{\mathrm{\&Phi;}}\right)=1_n^{T}B{1}_n$ 和 $\mathrm{tr}\left(S_W^{\mathrm{\&Phi;}}\right)=1_n^{T}W{1}_n.$ 其中，矩阵B和W分别为：

$B=\mathrm{diag}(\frac{1}{n_1}{K}_{11},\frac{1}{n_2}{K}_{22},...,\frac{1}{n_L}{K}_{\mathrm{LL}})-\frac{1}{n}K$ 和

$W=\mathrm{diag}(k_{11},k_{22},...,k_{\mathrm{nn}})-\mathrm{diag}(\frac{1}{n_1}{K}_{11},\frac{1}{n_2}{K}_{22},...,\frac{1}{n_L}{K}_{\mathrm{LL}}).$

在选定基础核函数为k₀(x,y)的数据相关核k(x,y)作为映射的核函数时，在经验特征空间的数据的类区分度可以表示为：

由于根据数据相关核的定义，令D＝diag(f(x₁),f(x₂),...,f(x_n))，数据相关核矩阵K与基本核矩阵k₀(x,y)对应的核矩阵K₀的关系为：K＝DK₀D。

相应地，有B＝DB₀D和W＝DW₀D成立。那么，在数据相关核映射的经验特征空间内有 其中，1_n为n维的单位向量，根据数据相关核的定义，可得D1_n＝Eα，其中 $\mathrm{\&alpha;}={[a_0,a_1,a_2,...,a_{N_{\mathrm{XVs}}}]}^T,$ 矩阵E为：

由此可得：E^TB₀E和E^TW₀E为常数矩阵，J_Fisher是变量α的函数。不同的膨胀系数向量α，经验特征空间内的数据有不同几何结构，样本有不同的类区分能力。期望在经验特征空间内的样本具有最大的类区分度，即找到使J_Fisher的最优α。令α为一个单位向量，即α^Tα＝1，将其作为约束条件建立求解最优的α的核优化目标函数为:max J_Fisher(α)，subject to α^Tα-1＝0。

步骤2.2.2优化目标函数的求解。

令J₁(α)＝α^TE^TB₀Eα和J₂(α)＝α^TE^TW₀Eα，J₁(α)和J₂(α)分别对α求偏微分可得：

$\frac{\&PartialD;J_1\left(\mathrm{\&alpha;}\right)}{\mathrm{\&alpha;}}=2E^T{B}_0\mathrm{E\&alpha;},$

$\frac{\&PartialD;J_2\left(\mathrm{\&alpha;}\right)}{\mathrm{\&alpha;}}=2E^T{W}_0\mathrm{E\&alpha;};$

那么对J_Fisher(α)求偏微分可得：

$\frac{\&PartialD;J_{\mathrm{Fisher}}\left(\mathrm{\&alpha;}\right)}{\&PartialD;\mathrm{\&alpha;}}=\frac{2}{J_2^2}(J_2{E}^T{B}_{0}E-J_1{E}^T{W}_{0}E)\mathrm{\&alpha;};$

为了使J_Fisher最大，令那么J₁E^TW₀Eα＝J₂E^TB₀Eα，如果存在(E^TW₀E)^-1，那 么J_Fisherα＝(E^TW₀E)^-1(E^TB₀E)α，J_Fisher等于(E^TW₀E)^-1(E^TB₀E)的最大特征值，相应的特征向量为所求的最优膨胀系数向量α。

在大多数应用中，(E^TW₀E)^-1(E^TB₀E)不是对称的，或者E^TWE为奇异矩阵。因此采用循环迭代算法求解最优最优解α，即 ${\mathrm{\&alpha;}}^{(n+1)}={\mathrm{\&alpha;}}^{\left(n\right)}+\mathrm{\&epsiv;}(\frac{1}{J_2}{E}^T{B}_{0}E-\frac{J_{\mathrm{Fisher}}}{J_2}{E}^T{W}_{0}E){\mathrm{\&alpha;}}^{\left(n\right)},$ ε定义为学习率，其表达式如下：其中ε₀为初始学习率，n和N分别为目前的循环数及事先确定的循环总数。

算法步骤：

(1)选择基本核函数k(x,y)和数据相关核函数参数；

(2)给定训练样本数据，根据选定的构造膨胀向量方法，构造矩阵E，B和W；

(3)利用FC进行求解数据相关核函数的膨胀系数向量α。

步骤2.4最大间隔准则(MMC)的优化目标函数建立。

用样本数据的最大间隔衡量数据的类区分度，利用最大间隔准则建立最优方程来求解数据相关核函数的最优膨胀系数向量α。最大间隔准则已被应用于特征提取^[138]，其主要的思想是使不同类样本的间隔最大。类c_i和c_j的平均间隔表示为：其中 $d(c_i,c_j)=d(m_i^{\mathrm{\&Phi;}},m_j^{\mathrm{\&Phi;}})-S\left(c_i\right)-S\left(c_j\right)$ 表示任意类i和类j的间隔，表示两类中心点的距离，S(c_i)表示类c_i(i＝1,2,...,L)的散布量度，其大小为其中 $\mathrm{tr}\left(S_i^{\mathrm{\&Phi;}}\right)=\frac{1}{n_i}\underset{p=1}{\overset{n_i}{\mathrm{\&Sigma;}}}{(\mathrm{\&Phi;}\left(x_i^p\right)-m_i^{\mathrm{\&Phi;}})}^T(\mathrm{\&Phi;}\left(x_i^p\right)-m_i^{\mathrm{\&Phi;}}),$ 为第i类类内散布矩阵。

易得在经验特征空间内，样本集为Y＝KPΛ^-1/2，K为数据相关核函数的核矩阵，P和Λ满足K＝PΛ^TP^T，令M＝M₁-M₂，X_B＝Y₀M^TE， 和令 ${\tilde{S}}_B=X_B{X}_B^T$ 和 ${\tilde{S}}_T=X_T{X}_T^T,$ 那么优化目标函数为 $\tilde{D}\mathrm{is}\left(\mathrm{\&alpha;}\right)=\mathrm{trace}\left({\mathrm{\&alpha;}}^T(2{\tilde{S}}_B-{\tilde{S}}_T)\mathrm{\&alpha;}\right).$

算法步骤：

(1)选择基本核函数k(x,y)和数据相关核函数及其相关的参数；

(2)给定训练样本数据，根据选择的膨胀向量方法，构造矩阵E，构造矩阵B和W；

(3)利用MMC进行求解数据相关核函数的膨胀系数向量α。

步骤Ⅲ、采用数据依赖核函数，然后利用全局流形保持设计准则获得优化目标函数，再通过基于拉格朗日法的自适应寻求算法对获得的优化目标函数进行计算，获得数据依赖核参数和变结构的最优核函数，后接执行步骤Ⅳ。

步骤3.1构造数据依赖核函数。

引入数据相关核函数作为核优化的目标核函数，并对其进行了扩展。数据相关核函数是基于对基本核函数的保角变换而提出的，其定义如下：k(x,y)＝f(x)f(y)k₀(x,y)，其中k₀(x,y)为基本核函数，多项式核函数和高斯核函数等核函数都可以作为基本核函数，f(x)为x的正实函数，不同f(x)的数据相关核函数有不同的性能，函数f(x)定义为： 其中为第i个支持向量，SV为支持向量集，a_i为代表的贡献的正数，δ为自由参数。

步骤3.2全局流形保持设计准则设计优化目标函数。

将全局流形保持设计准则应用于核自适应优化，核优化目标函数设计目标为在经验映射空间构造反映类内数据紧凑性的内在图(Intrinsic graph)以及反映类间数据分散性的惩罚图(Penalty graph)的流形结构。

步骤3.2.1构造一个内在图与正约束及邻域假设相对应，利用该图表是在经验特征空间内数据的紧凑性，核优化目标函数的设计目标是使得在该图内数据的紧凑型最强。

步骤3.2.2定义一个惩罚图，该图与负约束以及非邻域假设相对相应，核优化目标函数设计的目标是使类间数据的分散性。

步骤3.2.3还要能够保持原始数据集的内在低维流形结构。图4a和图4b表示内在图相当于正约束图与k最近邻图之和，其中正约束图(图4a)表示的是属于同一类的样本点对；k最近邻图(图4b)表示的是每一样本点与其k个最近点的连接关系；图4c和图4d所示的惩罚图相当于负约束图与非k最近邻图之和，其中负约束图(图4c)显示的是不属于同一类的样本点对，非k最近邻图(图4d)显示的是每一样本点与不属于其k个最近点的样本点的连接关系。

步骤3.3基于拉格朗日法的自适应寻求算法。

利用该准则建立最优方程是期望找到使样本在经验特征空间上间隔最大，也就是使最大的最优α。与Fisher准则建立最优方程类似，令α^Tα＝1，最优方程为：subject to α^Tα-1＝0。

利用拉格朗日方法进行求解上述最优方程，那么上述最优方程转换为下列带有参数λ的特征方程。求解最优膨胀系数向量α^*等于矩阵的最大特征值对应的特征向量。利用Li等人提出的方法进行求解的特征值和特征向量，即将其中P＝φθ^-1/2ψ，θ和φ为的特征值和特征向量，ψ为的特征矩阵。很明显，P的列向量为为2Λ-I的特征值所对应的特征值矩阵。

为计算特征值矩阵P＝φθ^-1/2ψ，利用SVD技术进行求解。SVD技术可以简述为将一个n×m矩阵A为：A＝UΛ^1/2V，其中Λ^1/2为对角矩阵，U和V分别为n×min(n,m)和m×min(n,m)的正交矩阵U和V的列向量为AA^T和A^TA的特征向量。

步骤Ⅳ、根据步骤Ⅱ所得不变结构的最优核函数或步骤Ⅲ所得变结构的最优核函数得到最优Fisher分类器，再对实测高光谱遥感图像进行分类，获得该高光谱遥感图像的类别。

从进一步细化的方案来看，其中获取最优核函数的过程分别如图2和图3所示，以下分 别对个过程进行阐述。

对于步骤Ⅱ中不变结构的最优核函数的获取过程(如图2所示)为：i)，对核参数进行初始化，将初始化后的参数进行编码后作为候选解；ii)，利用优化目标函数计算所述候选解的适应度，保留适应度大于或等于阈值的候选解，舍弃余下的候选解；iii)，对保留的候选解进行复制、交叉以及变异，生成新的候选解；iv)，对新的候选解进行解码得到最优核化参数，进而获得不变结构的最优核函数。

对于步骤Ⅲ中变结构的最优核函数的获取过程(如图3所示)为：a)，利用高光谱遥感图像训练样本集的标注信息，扩展数据依赖核函数，然后求得所述数据依赖核函数与已知基础核函数的关系，并求得所述数据依赖核函数的Fisher度量表达式，建立以该数据依赖核函数参数为自变量的Fisher度量函数；b)，根据训练样本集的标注信息进行优化目标函数设计，建立一个用于求解最优数据依赖核参数的约束方程；c)，利用循环迭代法对所述约束方程进行计算，获得以训练样本集为变量的最优解表达式，然后将训练样本集代入所述最优解表达式，计算获得自适应参数，进而获得变结构的最优核函数。

通过本发明上述介绍的技术方案，能够准确地对高光谱遥感图像的端元进行分类，提高了遥感高光谱图像的分辨率，能够应用于地形军事目标侦察、高效的战事打击效果评估、海军潜艇实时海上环境监测、突发自然灾害的应急响应技术领域。

Claims (3)

1.基于核Fisher自适应学习的高光谱遥感图像端元分类方法，其特征在于包括：

步骤Ⅰ、对高光谱遥感图像端元分类任务判断结构变化与否的优化方法，若结构变化优化则跳转执行步骤Ⅲ、若结构不变化优化则顺序执行步骤Ⅱ；

步骤Ⅱ、采用传统核函数，然后利用Fisher准则和最大间隔准则获得优化目标函数，再通过基于遗传算法的自适应寻求算法对获得的优化目标函数进行计算，获得最优参数和不变结构的最优核函数，后接执行步骤Ⅳ；

步骤Ⅲ、采用数据依赖核函数，然后利用全局流形保持设计准则获得优化目标函数，再通过基于拉格朗日法的自适应寻求算法对获得的优化目标函数进行计算，获得数据依赖核参数和变结构的最优核函数，后接执行步骤Ⅳ；

步骤Ⅳ、根据步骤Ⅱ所得不变结构的最优核函数或步骤Ⅲ所得变结构的最优核函数得到最优Fisher分类器，再对实测高光谱遥感图像进行分类，获得该高光谱遥感图像的类别。

2.根据权利要求1所述基于核Fisher自适应学习的高光谱遥感图像端元分类方法，其特征在于步骤Ⅱ获得不变结构的最优核函数的过程为：

i），对核参数进行初始化，将初始化后的参数进行编码后作为候选解；

ii），利用优化目标函数计算所述候选解的适应度，保留适应度大于或等于阈值的候选解，舍弃余下的候选解；

iii），对保留的候选解进行复制、交叉以及变异，生成新的候选解；

iv），对新的候选解进行解码得到最优核化参数，进而获得不变结构的最优核函数。

3.根据权利要求1所述基于核Fisher自适应学习的高光谱遥感图像端元分类方法，其特征在于步骤Ⅲ获得变结构的最优核函数的过程为：

a），利用高光谱遥感图像训练样本集的标注信息，扩展数据依赖核函数，然后求得所述数据依赖核函数与已知基础核函数的关系，并求得所述数据依赖核函数的Fisher度量表达式，建立以该数据依赖核函数参数为自变量的Fisher度量函数；

b），根据训练样本集的标注信息进行优化目标函数设计，建立一个用于求解最优数据依赖核参数的约束方程；

c），利用循环迭代法对所述约束方程进行计算，获得以训练样本集为变量的最优解表达式，然后将训练样本集代入所述最优解表达式，计算获得自适应参数，进而获得变结构的最优核函数。