CN103761530A - 一种基于相关向量机的高光谱图像解混方法 - Google Patents

Abstract

本发明公开了一种基于相关向量机的高光谱图像解混方法，包括以下几个步骤，步骤一，读取高光谱图像中k个数据类别的训练样本，并且读取高光谱图像的k个数据类别测试样本；步骤二，将具有监督信息的训练样本中属于第i数据类别对应的样本标号t值标记为+1，其余k-1的数据类别对应的样本标号t值标记为0，其中1≤i≤k；步骤三，利用训练样本训练相关向量机；步骤四，利用训练好的相关向量机模型对测试样本进行测试；步骤五，计算测试样本属于第i数据类别的概率值f_i；步骤六，重复步骤二～步骤五，计算出测试样本分别属于k个数据类别的概率值f_k；步骤七，将所求的k个概率值分别进行归一化操作，得到最终解混丰度值f_i。本发明具有解混精度高，实时性好和统计性好的优点。

Description

一种基于相关向量机的高光谱图像解混方法

技术领域

本发明涉及一种高光谱图像的解混方法，属于遥感信息处理技术领域。

背景技术

由于目前高光谱图像的采集手段和光学仪器性能的限制，在一般的情况下，高光谱图像拥有较低的空间分辨率，这就导致了观测到的一个像元很可能包含不止一种类别的地物，这种像元称之为混合像元。混合像元广泛存在于高光谱图像之中。对于这种情况，直接将混合像元判别到其所包含的一种地物中是不准确的，因此继续用传统的统计模式识别方法通常会导致分类错误。混合像元的存在严重影响到后续的高光谱图像处理的效果和精度。因此，如何求解混合像元中所包含的各类地物分别所占的比例，即进行高光谱解混已经成为研究的热点。

Daniel Heinz等人通过改进经典最小二乘方法提出了一种全约束最小二乘算法(FullyConstrained Least Squares,FCLS)，并取得了比较好的混合像元分解效果，该算法是目前比较通用的解混算法，近几年，基于支持向量机(Support Vector Machine,SVM)的高光谱图像解混方法也是众多学者研究的热点，应用也较为广泛。这些高光谱数据解混方法中存在以下几个问题：1、解混精度不高。2、解混的处理时间较长。3、求解出的丰度值不具有统计意义。

发明内容

本发明的目的是提供一种具有高解混精度值的基于相关向量机的高光谱图像解混方法。

本发明一种基于相关向量机的高光谱图像解混方法，包括以下几个步骤，

步骤一，读取高光谱图像中k个数据类别分别具有的监督信息其中N为监督样本数，x_n为训练样本，t_n∈{0,1}为训练样本标号，并且读取高光谱图像的k个数据类别测试样本

其中M为测试样本数；

步骤二，将具有监督信息的训练样本中属于第i数据类别对应的样本标号t值标记为1，其余k-1的数据类别对应的样本标号t值标记为0，其中1≤i≤k；

步骤三，利用训练样本训练相关向量机，得到相关向量机的模型；

步骤四，利用训练好的相关向量机模型对测试样本进行测试，将测试样本

输入到训练好的相关向量机模型中，得到输出预测值

步骤五，计算测试样本属于第i数据类别的概率值f_i；

步骤六，重复步骤二～步骤五，计算出测试样本分别属于k个数据类别的概率值f_k；

步骤七，将所求的k个概率值分别进行归一化，得到最终解混丰度值f_i。

本发明一种基于相关向量机的高光谱图像解混方法，还可以包括：

1、利用训练样本训练RVM的过程是：

（1）相关向量机的相关函数为：

$y_n=y(x_n;w)=\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{w}_{n}K(x,x_n)+w_0$

其中，K(x,x_n)为径向高斯核函数，x＝[x₁,x₂,…x_N]，w＝[w₀,w₁,w₂,…,w_N]^T为权向量，样

本标号为t_n＝y_n+ε_n，ε_n为附加噪声ε_n～N(0,σ²)；

（2）为权向量w添加附加条件，w_j(0≤j≤N)服从

分布：

$p\left(w\right|\mathrm{\α})=\underset{j=0}{\overset{N}{\mathrm{\Π}}}p\left(w_j\right|{\mathrm{\α}}_j)$

式中：p表示分布函数，α为w先验分布的超参数向量α＝[α₀,α₁,α₂,…,α_N]^T；

（3）设定α_o和

设定更新次数为p，通过迭代公式不断更新得到超参数向量α和方差σ²之后，相关向量机训练过程结束，此时不为0的w_j所对应的x_n为相关向量，其中迭代公式为：

$\left\{\begin{array}{c}{\mathrm{\α}}_j^{\mathrm{new}}=\frac{{\mathrm{\γ}}_j}{{\mathrm{\μ}}_j^2}\\ {\left({\mathrm{\σ}}^2\right)}^{\mathrm{new}}=\frac{{\left|\right|t-\mathrm{\Φ\μ}\left|\right|}^2}{N-\underset{j=0}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\μ}}_j}\\ {\mathrm{\γ}}_j=1-{\mathrm{\α}}_j{\mathrm{\Σ}}_{j,j}\end{array}\right.$

其中，∑＝(σ^-2Φ^TΦ+A)^-1为权值向量w的协方差，∑_j,j是协方差∑中第j项对角线上的元素，A＝diag(α₀,α₁,…α_N)， $\mathrm{\Φ}=\left[\begin{array}{cccc}1& K(x_1,x_1)& \·\·\·& K(x_1,x_N)\\ \·\·\·& \·\·\·& \·\·\·& \·\·\·\\ 1& K(x_N,x_1)& \·\·\·& K(x_N,x_N)\end{array}\right]$ 为核函数构成的矩阵，μ＝σ^-2∑Φ^Tt为权值向量w的均值，γ为中间的计算变量。

2、测试样本属于第i数据类别的概率值f_i等于P(t_m′＝1|w)，P(t_m′＝1|w)为测试样本标号为1的概率值，因为测试样本标号

为0或1，采用

函数对测试预测值

进行映射来进行类别判定，

$P(t_m^{\′}=1|w)=\mathrm{\σ}\left[y(x_m^{\′};w)\right]=\frac{1}{{1+e}^{-y(x_m^{\′};w)}}.$

本发明的有益效果：

本发明的优势在于其能够对混合像元各组分中存在非线性特性进行较好的解释，解混精度高；解混时对于测试样本的处理时间短，具有良好的实时性；解混结果是概率输出，更具统计意义。

附图说明

图1为本发明的流程图；

图2为实验中采用实验数据图；

图3-a～图3-c为实验中采用的三类实验数据实际分布图，图3-a为实验数据中第1类地物分布图，图3-b为实验数据中第2类地物分布图，图3-c为实验数据中第3类地物分布图。

图4-a-1～图4-c-3为实验中采用的三种不同方法解混后与之对应的各类地物的丰度分布图。其中图4-a-1为第1类地物FCLS解混丰度图，图4-a-2为第2类地物FCLS解混丰度图，图4-a-3为第3类地物FCLS解混丰度图；图4-b-1为第1类地物LS-SVM解混丰度图，图4-b-2为第2类地物LS-SVM解混丰度图，图4-b-3为第3类地物LS-SVM解混丰度图；图4-c-1为第1类地物的本发明UARVM的解混丰度图，图4-c-2为第2类地物的本发明UARVM的解混丰度图，图4-c-3为第3类地物的本发明UARVM的解混丰度图。

图5为实验中采用的三种不同方法解混的精度表。

图6为实验中采用的三种不同方法运行的时间表。

具体实施方式

下面结合附图1～6对本发明和其实施例进行详细说明。

本发明一种基于相关向量机的高光谱图像解混方法，具体步骤如下：

1、读取监督信息。已知高光谱图像中一共有k个数据类别，读取每个类别所具有的监督信息，其中监督样本数一共有N个，记为

其中x_n∈R^d为训练样本，t_n∈{0,1}为训练样本标号。

2、进行样本标号。将具有监督信息的训练样本中属于第i(1≤i≤k)类样本对应的样本标号t值标记为+1，其余k-1的类别对应的样本标号t值标记为0。

3、求解每个测试样本的归属第i类别的概率值f_i。

3.1、利用训练样本训练RVM。

(1)通过训练样本

对RVM训练，RVM的相关函数表达式为式(1)：

$y_n=y(x_n;w)=\underset{n-1}{\overset{N}{\mathrm{\Σ}}}{w}_{n}K(x,x_n)+w_0---\left(1\right)$

式中：K(x,x_n)为径向高斯核函数，x＝[x₁,x₂,…x_N]，w＝[w₀,w₁,w₂,…,w_N]^T为权向量。而求解的样本标号为t_n＝y_n+ε_n，ε_n为附加噪声ε_n～N(0,σ²)。

(2)由公式(1)可知其中所需确定的参数仅为权向量w和噪声的方差σ²。为减少核函数的计算量，为权值向量w添加附加条件：w_j(0≤j≤N)服从

分布。可得公式(2)：

$p\left(w\right|\mathrm{\α})=\underset{j=0}{\overset{N}{\mathrm{\Π}}}p\left(w_j\right|{\mathrm{\α}}_j)---\left(2\right)$

式中：p表示分布函数，α为w先验分布的超参数向量α＝[α₀,α₁,α₂,…,α_N]^T。经过上述的变量替换之后可知需要确定的参数就转化为超参数向量α和方差σ²。

(3)参数求解。超参数向量α和方差σ²，可通过式(3)迭代完成求解。首先给定α与σ²的猜测值α_o和

设置更新次数为p，然后通过式(3)不断更新,直至更新次数等于p。通过上述更新得到超参数向量α和方差σ²之后，RVM训练过程结束。此时不为0的w_j所对应的x_n称之为相关向量。

$\left\{\begin{array}{c}{\mathrm{\α}}_j^{\mathrm{new}}=\frac{{\mathrm{\γ}}_j}{{\mathrm{\μ}}_j^2}\\ {\left({\mathrm{\σ}}^2\right)}^{\mathrm{new}}=\frac{{\left|\right|t-\mathrm{\Φ\μ}\left|\right|}^2}{N-\underset{j=0}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\μ}}_j}\\ {\mathrm{\γ}}_j=1-{\mathrm{\α}}_j{\mathrm{\Σ}}_{j,j}\end{array}\right.---\left(3\right)$

式中:∑＝(σ^-2Φ^TΦ+A)^-1为权值向量w的协方差，∑_j,j是协方差∑中第j项对角线上的元素，A＝diag(α₀,α₁,…α_N)， $\mathrm{\Φ}=\left[\begin{array}{cccc}1& K(x_1,x_1)& \·\·\·& K(x_1,x_N)\\ \·\·\·& \·\·\·& \·\·\·& \·\·\·\\ 1& K(x_N,x_1)& \·\·\·& K(x_N,x_N)\end{array}\right]$ 为核函数构成的矩阵，μ＝σ^-2∑Φ^Tt为权值向量w的均值，γ为中间的计算变量。

3.2、利用训练好的RVM模型对测试样本进行测试。

(1)读取高光谱图像的k个数据类别测试样本，其中样本数一共有M个，记为

(2)将测试样本利用已经训练好的RVM模型进行测试，即将

做为输入分别带入公式(1)，输出预测值

(3)对于二分类问题，目标值

只能为0或1，采用

函数对

进行映射来进行类别判定，进而求解出样本目标值为1的概率值P(t_m＝1|w)。

$P(t_m=1|w)=\mathrm{\σ}\left[y(x_m;w)\right]=\frac{1}{{1+e}^{-y(x_m;w)}}---\left(4\right)$

3.3、输出f_i，并对其进行存储。测试样本属于第i类的概率值f_i即为上述所求的P(t_m＝1|w)。

4、重复步骤2和步骤3，直到满足i＝k，即测试样本属于第k类的概率值f_k求解完毕。

5、将所存储的k个概率值分别进行归一化。为了使最终的输出满足高光谱数据解混丰度值加权和为1的约束，将所求的k个概率值分别进行归一化操作，即

6、求解完毕，输出最终解混丰度值f_i。f_i即为所对应的第i个类别在测试样本中所占的比例，称之为丰度值。

通过步骤1至步骤6，最终输出本发明下的高光谱图像解混结果。图1给出了本发明的流程图。

为了说明本发明的有效性，特进行如下实验论证。实验数据利用的高光谱图像是美国印第安纳州Indian Pine实验区图像，其于1992年6月用AVIRIS传感器采集得到，空间分辨率为20m。原始图像共有220个波段，大小为144×144，共有16种地物分布，将原始的220个波段中受噪声影响较大的一些波段去除后选取200个波段作为仿真研究对象。考虑到地物个数、比例等原因从中16种地物中选取灌木、大豆和乔木这3类地物来进行实验，为方便对其分别标号为第1、2和3类。实验数据如图2所示，原始各类的地物分布如图3所示。

在对高光谱图像进行解混时，本发明方法与经典方法FCLS和最小二乘支持向量机（LeastSquares Support Vector Machine，LS-SVM）方法进行对比。本发明的方法记为UARVM，对比方法记为FCLS和LS-SVM。其中FCLS解混用的是与实验数据对应的纯端元，LS-SVM与UARVM是在其各自模型参数均调到最优的情况下从这三种实际地物分布样本中均匀抽取12%的数据作为训练样本。

运用三种方法解混后与之对应的各类地物的丰度分布图分别如图4所示，FCLS丰度图相对比较模糊，这是因为混合像元各组分中存在非线性特性，而LS-SVM和UARVM能够较好的对其进行解释，因此使得混合像元解混效果得到了一定的改善。同时由于UARVM解混结果更具统计意义，因此丰度图中不同地物之间有着明显的区分。

三种方法的解混精度如图5所示。三种方法中从各类的分类精度和总体的解混精度来看UARVM方法取得的解混精度值均是最高的。

三种方法在同一机器上的运算时间如图6所示。FCLS用于解混的总时间最长。由于UARVM的训练时间较长，导致整体的解混时间长于LS-SVM，因为在实际中对样本的训练可以离线进行，因此在处理时间中通常比较关注的是测试时间，可以看到UARVM的样本测试时间要短于LS-SVM，即UARVM具有更好的实时性。

Claims (3)

1.一种基于相关向量机的高光谱图像解混方法，其特征在于：包括以下几个步骤，

步骤一，读取高光谱图像中k个数据类别分别具有的监督信息

其中N为监督样本数，x_n为训练样本，t_n∈{0,1}为训练样本标号，并且读取高光谱图像的k个数据类别测试样本

其中M为测试样本数；

步骤二，将具有监督信息的训练样本中属于第i数据类别对应的样本标号t值标记为1，其余k-1的数据类别对应的样本标号t值标记为0，其中1≤i≤k；

步骤三，利用训练样本训练相关向量机，得到相关向量机的模型；

步骤四，利用训练好的相关向量机模型对测试样本进行测试，将测试样本

输入到训练好的相关向量机模型中，得到输出预测值

步骤五，计算测试样本属于第i数据类别的概率值f_i；

步骤六，重复步骤二～步骤五，计算出测试样本分别属于k个数据类别的概率值f_k；

步骤七，将所求的k个概率值分别进行归一化，

得到最终解混丰度值f_i。

2.根据权利要求1所述的一种基于相关向量机的高光谱图像解混方法，其特征在于：所述的利用训练样本训练相关向量机的过程是：

（1）相关向量机的相关函数为：

$y_n=y(x_n;w)=\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{w}_{n}K(x,x_n)+w_0$

其中，K(x,x_n)为径向高斯核函数，x＝[x₁,x₂,…x_N]，w＝[w₀,w₁,w₂,…,w_N]^T为权向量，样本标号为t_n＝y_n+ε_n，ε_n为附加噪声ε_n～N(0,σ²)；

（2）为权向量w添加附加条件，w_j(0≤j≤N)服从

分布：

$p\left(w\right|\mathrm{\α})=\underset{j=0}{\overset{N}{\mathrm{\Π}}}p\left(w_j\right|{\mathrm{\α}}_j)$

式中：p表示分布函数，α为w先验分布的超参数向量α＝[α₀,α₁,α₂,…,α_N]^T；

（3）设定α_o和

设定更新次数为p，通过迭代公式不断更新得到超参数向量α和方差σ²之后，相关向量机训练过程结束，此时不为0的w_j所对应的x_n为相关向量，其中迭代公式为：

$\left\{\begin{array}{c}{\mathrm{\α}}_j^{\mathrm{new}}=\frac{{\mathrm{\γ}}_j}{{\mathrm{\μ}}_j^2}\\ {\left({\mathrm{\σ}}^2\right)}^{\mathrm{new}}=\frac{{\left|\right|t-\mathrm{\Φ\μ}\left|\right|}^2}{N-\underset{j=0}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\μ}}_j}\\ {\mathrm{\γ}}_j=1-{\mathrm{\α}}_j{\mathrm{\Σ}}_{j,j}\end{array}\right.$

其中，∑＝(σ^-2Φ^TΦ+A)^-1为权值向量w的协方差，∑_j,j是协方差∑中第j项对角线上的元素，A＝diag(α₀,α₁,…α_N)， $\mathrm{\Φ}=\left[\begin{array}{cccc}1& K(x_1,x_1)& \·\·\·& K(x_1,x_N)\\ \·\·\·& \·\·\·& \·\·\·& \·\·\·\\ 1& K(x_N,x_1)& \·\·\·& K(x_N,x_N)\end{array}\right]$ 为核函数构成的矩阵，μ＝σ^-2∑Φ^Tt为权值向量w的均值，γ为中间的计算变量。

3.根据权利要求1或2所述的一种基于相关向量机的高光谱图像解混方法，其特征在于：

所述的测试样本属于第i数据类别的概率值f_i等于P(t_m′＝1|w)，P(t_m′＝1|w)为测试样本标号为1的概率值，因为测试样本标号

为0或1，采用

函数对测试预测值

进行映射来进行类别判定，

$P(t_m^{\′}=1|w)=\mathrm{\σ}\left[y(x_m^{\′};w)\right]=\frac{1}{{1+e}^{-y(x_m^{\′};w)}}.$

Images