CN104318252A - 基于分层概率模型的高光谱图像分类方法 - Google Patents

Abstract

本发明公开了一种基于分层概率模型的高光谱图像分类方法，它属于图像处理技术领域。其分类过程为：对高光谱图像做预处理，得到特征图像数据。在特征图像数据中选出有专家标签标注的数据，用来训练分层概率模型。再由特征图像数据根据专家标签分出训练数据和测试数据，再投影到之前训练好的分层概率模型中，获得训练数据和测试数据的新的特征表示；最后使用支撑向量机做有监督分类得到分类结果。本发明具有相比原始高光谱数据直接做支撑向量机分类获得更高分类精度和更匀质分类区域的优点，可用于高光谱图像分类。

Description

基于分层概率模型的高光谱图像分类方法

技术领域

本发明属于图像处理领域，是一种高光谱图像分类的方法。

背景技术

高光谱遥感图像的发展得益于成像光谱技术的发展与成熟。通过搭载在不同空间平台上的高光谱传感器，即成像光谱仪，在电磁波谱的紫外、可见光、近红外和中红外区域，以数十至数百个连续且细分的光谱波段对目标区域同时成像。在获得地表图像信息的同时，也获得其光谱信息，做到了光谱与图像的结合。目前，一般将波长间隔10nm以下，波段数36个以上的遥感系统定义为高光谱遥感。

高光谱图像的最大特点是将成像技术与光谱探测技术结合，在对目标的空间特征成像的同时，对每个空间像元经过色散形成几十个乃至几百个窄波段以进行连续的光谱覆盖。这样形成的数据可以用“三维数据块”来形象地描述。与多光谱遥感影像相比，高光谱影像在信息丰富程度方面有了极大的提高，因此在处理技术方面，为对高光谱数据进行更为合理、有效的分析处理提供了可能。因而，高光谱图像技术所具有的影响及发展潜力，是以往技术的各个发展阶段所不可比拟的，不仅引起了遥感界的关注，同时也引起了其它领域(如医学、农学等)的极大兴趣。

高光谱遥感图像是一种三维立体图像，包含了地物的空间信息和光谱信息。高光谱图像最重要的特点是谱分辨力的提高，因此其数据量很大，包含的信息多，有很多实际的应用。可是大数据带来的运算负担是个问题，影响了实际应用，给图像进一步处理带来了困难，所以要考虑降维处理。

对高光谱图像进行降维可以分为光谱域(谱域)上的降维和空间域(空域)上的降维。在光谱域上的降维处理，就是对每个像素的对应的光谱向量降维，降低的是波段长度。在空间域上的降维处理，就是对每个波段的图像降维，缩小的是每个波段图像的大小。

降维方式主要分两种：1、特征选择，主要是运用一些方法从大数据中选择出感兴趣的数据。2、特征提取，主要是进行数学变换，如主成分分析法。现在的降维技术主要关注于第二种降维方法，即数学变换的方法。主要有三种：principal componentanalysis(PCA)，maximum noise fraction(MNF)transform，random projection-baseddimensionality reduction也就是random projection(RP)。光谱域上的数据降维方法现在比较流行，最近的论文都有出现。

如果考虑将降维处理应用于高光谱图像处理的话，我们一般可以得到以下三步通用的处理步骤。

一、高光谱图像数据的降维处理可以从谱域降维，也可以空域和谱域综合处理。

二、降维后，在低维空间上提取出所需的特征。此时也可以结合不同空间上的信息得到综合特征，例如空域和谱域的信息的特征结合。

三、构造算法对上步得到的特征进行分类分割、目标检测等操作。

高光谱遥感的一个主要应用是高光谱图像的地物分类。之前一段时间高光谱图像地物分类主要关注于只依靠谱域的特征信息来进行分类，但这损失了图像域，也就是空间域上图形结构或邻近关系的信息。这就没有充分使用高光谱图像所提供的信息。最近的文献表明，高光谱图像的地物分类关注于谱域和空域信息的综合提取，也称为空-谱联合。所探讨的各种分类方法也都是联合了谱域和空域的信息。

以下列举了近年来比较热门的几种空-谱联合的高光谱图像地物分类方法。

方法一：使用数学形态学处理提取图像空间特征信息。相关的算法有Morphological Profile、the extended morphological profile(EMP)、MorphologicalNeighborhood。其中EMP方法包含了空域和谱域的信息，可以直接作为分类器的输入进行分类。如果想进一步联合谱域的信息，最简单的方法是对每一个像素将其从图像空间域提取出的特征(这里是用形态学的方法)与原始高光谱数据谱域信息向量堆叠成一个特征向量来表征此像素的新的特征向量。这个特征向量也可作为分类器的输入。Feature Fusion和Composite Kernel的方法也可以用来联合空域-谱域信息。我们一般用支撑向量机SVM分类器来进行分类。

方法二：进行图像分割提取图像空间信息。比如基于空域信息的分割算法watershed分水岭算法、基于光谱域上信息的分割算法expectation–maximization(EM)algorithm、联合空域和谱域信息的分割算法hierarchical segmentation(HSeg)分层分割。同时由SVM pixel-wise classifier(SVM逐点像素分类器，此分类方法只用到了高光谱数据原始的谱域信息作为分类所依据的特征)获得高光谱图像仅由光谱域信息得到的分类结果。最后使用决策融合方法，例如Majority Voting(最大投票)来联合图像分割分类结果和仅由谱信息分类结果来得到最终的分类。

方法三：基于上面两种方法，同时使用多种高光谱分类方法，组成一个多分类器系统，把各个方法的分类结果做一个融合，得到最终的分类结果。

近年来，随着智能系统的快速发展，计算机视觉领域越来越受到重视。计算机视觉的最终研究目标就是使计算机能像人那样通过视觉观察和理解世界，具有自主适应环境的能力。因此对人类视觉处理机制的研究将给计算机视觉的研究提供启发和指导。同时计算机视觉领域中，一些基于机器学习的方法也有参考部分生物机制。KarKlin借助于人类视觉系统的一些先验知识，提出了分层概率模型来近似模拟人类的视觉系统，参见Emergence of complex cell properties by learning to generalize innatural scenes,Nature 457,83-86(1January 2009)|doi:10.1038/nature07481。这个模型与传统模型，如ICA、稀疏编码等，最大的不同点在于它建模的是图像的结构信息，而不是图像的亮度信息，这样更符合了视觉系统表现出来的一些特征。

发明内容

本发明的目的有别于上述提及的各种使用数字图像处理进行高光谱图像的分类方法，提出一种基于分层概率模型的高光谱图像分类方法，是一种有监督的分类方法。

实现本发明目的的技术方案是：先对高光谱图像做预处理构造每个坐标点的初始特征向量，使用高效新颖的分层概率模型建模，充分挖掘特征向量中的信息，最后使用建模好的分层概率模型下的新特征表示来进行有监督分类。实验证明了本发明可以有效地用于高光谱图像的分类。其具体实现过程如下：

(1)对待分类的原始高光谱图像进行谱域降维；

(2)对降维后的19个谱段的每个谱段，每个谱段就是一幅图像，对每个谱段图像做相同数量的形态学开关操作，采用半径大小逐一增大的圆形形态学结构元素来做形态学处理，得到所有坐标点的特征向量；

(3)将19个谱段的每个谱段图像进行形态学处理后，得到的所有坐标点的特征向量与每个谱段图像本身的所有坐标点的特征向量堆叠在一起得到所有坐标点的特征向量；

(4)在步骤三中得到的所有的坐标点的特征向量中选出在标准分类图中有专家标签标注的坐标点的特征向量，对选出的所有特征向量，做归一化处理，也就是均值取零，方差取1；

(5)使用步骤四中归一化处理后的特征向量训练分层概率模型，得到训练后的分层概率模型；

(6)由步骤四得到的归一化处理后的特征向量，依据标准分类图，对每一类随机选出10％的数据，也就是对每一类有专家标签标注的所有坐标点随机选出10％的坐标点，将其对应的特征向量作为训练数据，剩余的作为测试数据；

(7)将步骤六得到的训练数据和测试数据投影到经过步骤五训练好的分层概率模型中，获得训练数据和测试数据在分层概率模型这个新空间下的新的特征表示；

(8)使用分层概率模型下训练数据新的特征表示训练支撑向量机，再使用训练好的支撑向量机对分层概率模型下测试数据的新的特征表示做有监督分类。

本发明将分层概率模型编码图像结构信息移植到对高光谱图像特征向量的结构信息建模。首先提取高光谱图像中每个坐标点的特征向量，利用分层概率模型对每个坐标点的特征向量进行建模，充分挖掘高光谱数据中每个坐标点的特征向量的结构信息，得到每个坐标点在分层概率模型下新的特征表示，最后使用这些新的特征表示来做有监督分类。实验结果证明相比较仅利用原始谱域信息的分类结果，分层概率模型下的高光谱数据新空间的特征表示能获取更好的分类结果，并且能得到更均匀的分类区域。本发明与现有的技术相比具有以下优点：

1、本发明相比于以往的对高光谱数据提取特征的方法不同，结合了一个结构信息编码的模型，将从高光谱数据提取的初步特征向量建模分层概率模型，充分挖掘每个坐标点对应特征向量的潜在信息；

2、本发明对原始的高光谱数据做了一个主分量分析降维和形态学开关的预处理工作，使得不同类别的坐标点的特征向量的结构特征更显著，使其更适合于分层概率模型的建模；

3、由于本发明使用了分层概率模型建模特征向量，分层概率模型的引入类似于一个无监督的特征提取过程。由于分层概率模型训练比较复杂，因此输入分层概率模型训练的数据不能太大，所以本发明适合于那些数据总量较小的数据；

4、仿真结果表明，本发明方法比较直接使用原始的高光谱数据输入支撑向量机分类能取得更高的分类精度和更均匀的分类区域。

附图说明

图1是本发明的流程示意图；

图2是高光谱图像Indian_pines第170波段图示；

图3是高光谱图像Indian_pines标准分类图示；

图4是分类用的训练集图示；

图5是原始高光谱数据分类结果图；

图6是本发明的分类结果图。

具体实施方式

参照图1，本发明的具体实现步骤如下：

步骤一、对待分类的原始高光谱图像进行谱域降维。

对待分类的原始高光谱图像的数据进行谱域上的降维处理，选择最常用的主分量分析降维方法，提取谱域上的主要信息。假如原始高光谱图像数据有200个谱段，优选地，将待分类的原始高光谱图像的数据通过主分量分析进行数学变换降维为19个谱段。

步骤二、对降维后的19个谱段的每个谱段，每个谱段就是一幅图像，对每个谱段图像做相同数量的形态学开关操作，采用半径大小逐一增大的圆形形态学结构元素来做形态学处理，得到所有坐标点的特征向量。

步骤三、将19个谱段的每个谱段图像进行形态学处理后得到的所有坐标点的特征向量与每个谱段图像本身的所有坐标点的特征向量堆叠在一起得到所有坐标点的特征向量。

优选地：

假设待分类的原始高光谱图像的数据通过主分量分析降维为k维，也就是降维为k个谱段，因此对坐标为(x,y)的像素点，主分量分析降维后有k个特征值；经过步骤二的形态学开关操作，k个特征值中的每个特征值经过形态学变换又产生出m个开操作产生的特征值，和m个关操作产生的特征值。m表示在k个谱段中每个谱段做了m次形态学开和m次形态学关操作，所采用的圆形形态学结构元素的半径大小是由2逐一递增到m+1。假设坐标(x,y)在步骤一主分量分析降维为19个谱段中的第i个谱段(i∈[1..19])的特征值为F_i(x,y)，将F_i(x,y)与与其对应的m个开操作结果值和m个关操作结果值组成第i个谱段的特征向量：

I_i＝[O_i,m+1(x,y),O_i,m(x,y),...,O_i,3(x,y),O_i,2(x,y),F_i(x,y),C_i,2(x,y),C_i,3(x,y),...,C_i,m(x,y),C_i,m+1(x,y)]  (1)

O_i,j(x,y)表示第i谱段半径为j的形态学开操作结果值，C_i,j(x,y)表示第i谱段半径为j的形态学关操作结果值，I_i向量大小为2m+1。因为第一步主分量分析降维谱域为k个谱段，因此有k个I_i，i＝1,2,...k。将所有第i个谱段(共k个)特征向量堆叠起来，便得到坐标(x,y)最终的特征向量[I₁,I₂,...,I_k]，其大小为(2m+1)*k。每个坐标点都用同样的方法构成其特征向量。实验时使用半径大小为2、3、4、5、6、7、8、9、10的圆形结构元素对降维后的每个谱段图像做形态学的开和关的操作，加上不做形态学处理的特征值，此时每个谱段上每个坐标点的特征就变为维度为19的特征向量。在将降维后所有谱段做同样的操作，此时每个坐标点的特征向量即每个坐标点在降维后所有谱段上的特征向量的大小为19*19＝361维。

步骤四、在步骤三中得到的所有的坐标点的特征向量中选出在标准分类图中有专家标签标注的坐标点的特征向量，对选出的所有特征向量，做归一化处理，也就是均值取零，方差取1。

步骤五、使用步骤四中归一化处理后的特征向量训练分层概率模型，得到训练后的分层概率模型。

将步骤四中归一化处理后的特征向量输入到分层概率模型，调整分层概率模型中的参数，也就是训练出分层概率模型中的参数。

对输入的步骤四中归一化处理后的特征向量做相同的处理。具体而言：每次输入一个有专家标签标注的坐标点的特征向量x，该特征向量已经过步骤四的处理。分层概率模型假设输入的特征向量x满足零均值的多维高斯分布，在分层概率模型中协方差部分记为C，分层概率模型中参数y即为特征向量x在该分层概率模型下的输出向量，也就是新的特征表示：

$P\left(x\right|y)=N(0,C)=\frac{1}{{\left(2\mathrm{\π}\right)}^{N/2}{\left|C\right|}^{1/2}}\exp (-\frac{1}{2}{x}^T{C}^{-1}x)---\left(2\right)$

P(x|y)表示特征向量x在分层概率模型下的概率值大小，概率值越大表示该分层概率模型和输入的特征向量x的信息越符合，y即为特征向量x在该分层概率模型下的新的特征表示。N(0,C)即为多维高斯分布的简写。

其中，分层概率模型对多维高斯分布的协方差部分C建模：

$\log C=\mathrm{\Σ}{\mathrm{ywbb}}^T---\left(3\right)$

模型含有参数{b,w}，b^T表示b的转置，公式(3)中的y也就是公式(2)中的y。模型中的参数b是分层概率模型自身拥有的特征向量，而w是b和输出向量y的连接权重，表示b由w加权得到的值乘上输出向量y就得到了协方差部分的值logC。训练分层概率模型其实也就是调整b和w的值，使得输入的x能得到最大的P(x|y)值，在得到最大的P(x|y)的值的同时也得到x在分层概率模型下的输出向量y，也就是新的特征向量y。

在实验中，我们使用所有有专家标签标注的坐标点的经过步骤四处理后的特征向量来训练分层概率模型中的参数。采用最大似然方法与梯度上升结合的方法来做参数估计。一旦分层概率模型参数确定下来，在分层概率模型中输入x，便求出y，y即为输入x在分层概率模型下新的特征表示。

步骤六、在步骤四得到的归一化处理后的特征向量中，依据标准分类图，从每一类随机选出10％的数据，也就是对每一类有专家标签标注的所有坐标点随机选出10％的坐标点，将其对应的特征向量作为训练数据，剩余的作为测试数据。

步骤七、计算训练数据和测试数据在分层概率模型中的新的特征表示。

将步骤六得到的训练数据和测试数据投影到经过步骤五训练好的分层概率模型中，获得训练数据和测试数据在分层概率模型这个新空间下的新的特征表示。

步骤八、使用分层概率模型下训练数据新的特征表示训练支撑向量机，再使用训练好的支撑向量机对分层概率模型下测试数据的新的特征表示做有监督分类。

因为经过步骤七得到的测试数据中的每个特征向量都是一个有专家标签标注的坐标点对应的特征向量，本来就有专家标签标注好的类别，将其与通过支撑向量机分类结果给的分类类别做比较，观察其是否相同，相同表示分类正确，否则分类错误。实验统计了分层概率模型下测试数据的新的特征表示中所有特征向量的总体分类正确率。总体分类正确率等于测试数据中被正确分类的特征向量的数目除于测试数据中特征向量的总数目。总体分类正确率越高表明分类结果越好，也就说明分类算法越好。通过实验可以验证基于分层概率模型的高光谱图像分类算法，也就是本发明可以有效地应用于高光谱图像分类。

本发明步骤一至五训练出分层概率模型，在步骤六继续使用步骤四得到的特征向量选出训练数据和测试数据，并不是使用原始的高光谱图像来分出训练数据和测试数据。步骤七求出步骤六得到的训练数据和测试数据在训练好的分层概率模型下的新的特征表示。可以这么说，步骤一到步骤七其实就是一个对待分类的原始高光谱图像提特征的过程，经过步骤一到步骤七，得到训练数据和测试数据的特征表示，最后步骤八用支撑向量机分类。分类结果可以验证本发明(步骤一到步骤八)提出的算法确实能精确地对高光谱图像做分类。

在实际应用中，因为本发明提出的算法是一个有监督的方法，所以对实际应用中所要进行分类的高光谱图像的本身就应该有一些坐标点是已经标注好类别标签的。我们将本发明应用于这种本身就有一些坐标点已经有类别标签的高光谱图像。

应用本发明的步骤一至三，先得到待分类的高光谱图像原本就有类别标签的坐标点的特征向量和那些需要分类的，即原本没有类别标签的坐标点的特征向量。接着同步骤四一样将所有特征向量做归一化处理。

接着应用步骤五由归一化后的原本就有类别标签的坐标点的特征向量和归一化后的原本没有类别标签的坐标点的特征向量训练分层概率模型，得到训练好的分层概率模型。

下一步就和步骤七相同，求出归一化后的原本就有类别标签的坐标点的特征向量和归一化后的原本没有类别标签的坐标点的特征向量在训练好的分层概率模型下的新的特征表示。

最后使用归一化后的原本就有类别标签的坐标点的特征向量在训练好的分层概率模型下的新的特征表示训练支撑向量机，再使用训练好的支撑向量机对分层概率模型下归一化后的原本没有类别标签的坐标点的特征向量的新的特征表示做有监督分类，得到原本没有类别标签的坐标点的类别标签。

概括说来，就是通过本发明提出的分类算法得到那些需要分类的，即原本没有标注类别标签的坐标点的类别，以此实现由分类算法自动标注那些原本没有类别标签的坐标点。

高光谱图像分类就是在一幅高光谱图像中，已有一些坐标点已知道类别，比如为1类或2类或3类。对剩余的坐标点来做分类。本发明就是对剩余的坐标点中的每一个坐标点通过算法来标注其是分为1类或是2类或是3类。

为了验证提出的高光谱图像分类算法是否有效，我们可以将提出的算法用于带有标准分类图的高光谱数据上做分类实验。

在标准分类图中并不是所有坐标点都有类别标签，例如图3，只有一部分坐标点有类别标签。我们只用有类别标签的那些坐标点来做分类实验。对所有有类别标签的坐标点里选出一部分坐标点，作为训练坐标点，训练坐标点对应的特征向量做为训练数据，训练坐标点的类别标签就是训练标签。

所有有类别标签的坐标点里除训练坐标点外剩余的坐标点就是测试坐标点，测试坐标点对应的特征向量做为测试数据。测试坐标点的类别标签称为测试标签，测试标签是确定的(因为测试坐标点就是从有类别标签的坐标点里选出的)。现在我们假设不知道测试坐标点的测试标签，想要由分类算法预测出测试坐标点的类别标签，分类算法预测出来的类别标签称为预测标签。

分类算法就是通过训练坐标点的训练标签和训练数据还有测试坐标点的测试数据，通过分类算法求出测试坐标点的预测标签。预测标签和测试标签越一致，表明测试坐标点中越多的坐标点被赋予正确的类别标签，就说明分类算法性能越好。

本发明的效果可通过以下仿真进一步说明：

1仿真内容：应用本发明方法和原始高光谱数据直接用支撑向量机分类方法分别对高光谱图像Indian_pines进行有监督分类实验，从有标签数据中选出10％的点做训练集，剩余90％的点做测试集，比较各自算法对测试集的分类结果，从分类正确率和对分类结果图的视觉结果上评价这些方法的各自性能。

2仿真实验结果

高光谱图像Indian_pines的实验结果

用本方法以及使用原始高光谱数据直接用支撑向量机分类方法对16类地物Indian_pines图像进行分类，其效果比较如图所示。其中图2为16类地物的Indian_pines第170波段图像，该高光谱图像地物信息较为均匀；图3为Indian_pines图像的专家分类标签图；图4为从有标签点中随机选出10％作为训练集的训练集图示；图5为使用原始的高光谱数据用支撑向量机分类的结果；图6为本发明方法对Indian_pines图像进行分类得到的结果。对测试集的分类结果进行统计，图5中测试集的总体分类正确率为77.8043％，图6即本发明方法对测试集的总体分类正确率为88.5333％。由图5及图6可见，直接用原始高光谱数据分类结果区域内杂点很多，分类精度不高，而本发明的区域一致性较好，并且分类精度得到了较大的提高。

Claims (8)

1.一种基于分层概率模型的高光谱图像分类方法，包括如下步骤：

步骤1，对待分类的原始高光谱图像进行谱域降维；

步骤2，对降维后的每个谱段图像做相同数量的形态学开关操作，采用半径大小逐一增大的圆形形态学结构元素来做形态学处理，得到所有坐标点的特征向量；

步骤3，将步骤2得到的所有坐标点的特征向量与每个谱段图像本身的所有坐标点的特征向量堆叠在一起得到新的所有坐标点的特征向量；

步骤4，在步骤3中得到的新的所有坐标点的特征向量中选出在标准分类图中有专家标签标注的坐标点的特征向量，对选出的所有特征向量，做归一化处理，也就是均值取零，方差取1，得到归一化处理后的特征向量；

步骤5，使用步骤4中得到的归一化处理后的特征向量训练分层概率模型，得到训练后的分层概率模型；

步骤6，由步骤4得到的归一化处理后的特征向量，依据标准分类图，对标准分类图中每一类随机选出10％的数据，也就是对每一类有专家标签标注的所有坐标点随机选出10％的坐标点，将其对应的特征向量作为训练数据，剩余的作为测试数据；

步骤7，将步骤6得到的训练数据和测试数据投影到经过步骤5训练好的分层概率模型中，获得训练数据和测试数据在分层概率模型这个新空间下的新的特征表示；

步骤8，使用分层概率模型下训练数据新的特征表示训练支撑向量机，再使用训练好的支撑向量机对分层概率模型下测试数据的新的特征表示做有监督分类。

2.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中步骤1对待分类的原始高光谱图像进行谱域降维，采用主分量分析降维的方法，提取谱域上的主要信息。

3.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中，对待分类的原始高光谱图像进行谱域降维，将待分类的原始高光谱图像降维为19个谱段。

4.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中步骤5包括如下步骤：

将步骤4中归一化处理后的特征向量输入到分层概率模型，调整分层概率模型中的参数，也就是训练出分层概率模型中的参数，用最大似然方法与梯度上升结合的方法来做参数估计；

一旦分层概率模型参数确定下来，在分层概率模型中输入x，便求出y，y即为输入x在分层概率模型下新的特征表示。

5.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中步骤5包括如下步骤：

对输入的步骤4中归一化处理后的特征向量做相同的处理，即：每次输入一个有专家标签标注的坐标点的特征向量x，该特征向量已经过步骤4的处理；

分层概率模型假设输入的特征向量x满足零均值的多维高斯分布，在分层概率模型中协方差部分记为C，分层概率模型中参数y即为特征向量x在该分层概率模型下的输出向量，也就是新的特征表示：

$P\left(x\right|y)=N(0,C)=\frac{1}{{\left(2\mathrm{\π}\right)}^{N/2}{\left|C\right|}^{1/2}}\exp (-\frac{1}{2}{x}^T{C}^{-1}x)---\left(2\right)$

P(x|y)表示特征向量x在分层概率模型下的概率值大小，概率值越大表示该分层概率模型和输入的特征向量x的信息越符合，y即为特征向量x在该分层概率模型下的新的特征表示，N(0,C)即为多维高斯分布的简写；

其中，分层概率模型对多维高斯分布的协方差部分C建模：

logC＝∑ywbb^T   (3)

模型含有参数{b,w}，b^T表示b的转置，公式(3)中的y也就是公式(2)中的y，模型中的参数b是分层概率模型自身拥有的特征向量，而w是b和输出向量y的连接权重，表示b由w加权得到的值乘上输出向量y就得到了协方差部分的值logC；

训练分层概率模型其实也就是调整b和w的值，使得输入的x能得到最大的P(x|y)值，在得到最大的P(x|y)的值的同时也得到x在分层概率模型下的输出向量y，也就是新的特征向量y。

6.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中步骤7包括如下步骤：

将步骤6得到的训练数据和测试数据投影到由步骤5训练出的分层概率模型中，采用最大似然方法与梯度上升法，获得训练数据和测试数据在分层概率模型这个新空间的新的特征表示。

7.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中步骤8中的支撑向量机使用多项式核函数。

8.根据权利要求1所述的基于分层概率模型的高光谱图像分类方法，其中步骤6从有专家标注的数据里随机选择10％作为训练数据，剩余90％作为测试数据。