CN116343032A - 结合高斯回归混合模型和mrf高光谱函数数据的分类方法 - Google Patents

Abstract

为了探究函数型数据分析方法在高光谱影像处理中的有效性，本发明提出结合高斯回归混合模型和MRF高光谱函数数据的分类方法；首先，运用多项式回归拟合高光谱影像像素光谱曲线，以便用函数形式表达像素光谱信息；然后，通过引入邻域关系建立马尔可夫随机场模型，同时结合高斯回归混合模型建立邻域高斯回归混合模型；最后，根据最大后验概率准则，获取最终高光谱影像分类结果。由于充分结合了高光谱影像的空‑谱信息，使得本发明算法具有高精度的分类结果，有效改善高光谱影像的分类性能。

Description

结合高斯回归混合模型和MRF高光谱函数数据的分类方法

技术领域

本发明属于高光谱影像分类领域，具体涉及结合高斯回归混合模型和MRF高光谱函数数据的分类方法。

背景技术

随着高光谱遥感技术的发展，高光谱影像被广泛应用于海洋、农业、医疗等许多领域。高光谱影像具有数据维度高、波段间高度相关、光谱混合等特点，在有效反映不同地物光谱特征细微差异的同时，也给其数据处理带来了巨大挑战。目前，对高维数据分析和处理的方式主要有两种：一种方式的核心思想是维数约简，即降维。该类方法通过对原始高维数据进行适当变换来降低维数，然后在低维空间中利用多元统计分析等方法对其进行解译；另一种是函数型数据分析方法，将原始离散数据转为函数型数据的形式，从而利用函数的独有特点进行分析，并且可以将传统的多元统计学中的一些经典分析方法，如平滑方法、插值方法、回归分析、主成分分析以及线性模型等，推广至函数型数据分析中。

在函数数据分析中，高斯回归模型起着至关重要的作用，可以比较容易地处理机器学习中的分类和回归问题。Zhang等将用于有限样本高维数据分类的高斯过程回归方法与扩展的最邻近、经典K最邻近、朴素贝叶斯、线性判别分析和经典多层感知器神经网络进行了对比，结果表明高斯过程回归能够从全局分布中学习，从而提高模式识别能力。面对高维数据的函数化处理，Chamroukhi和Nguyen通过回归建模方式表达观测数据的条件依赖性，构建了函数数据的(Gaussian RegressionMixtureModel,GRMM)，用于实现函数型数据分析。所以在高光谱影像处理中，将高光谱影像像素各波段光谱测度表达为函数型数据更具有优势，既保证充分利用了高光谱数据包含的丰富光谱信息，又有效避免了高维离散数据分析容易导致的“Hughes”现象。

目前，高光谱影像分类主要是基于光谱信息和基于空-谱信息两大类。基于光谱信息的方法主要是应用高光谱影像的光谱特征作为分类依据，常用的分类方法包括支持向量机(Support Vector Machine,SVM)、决策树、贝叶斯分类等。Fauvel等利用高斯混合分类器，基于分类率的交叉验证估计，迭代提取光谱变量，由此完成了对高光谱影像的分类。但该方法并没有考虑空间信息，导致信息利用不充分。基于空-谱信息的分类方法是将高光谱影像的光谱信息与空间信息相结合。相比于基于光谱信息的方法，基于空-谱信息的分类方法有效提高了分类准确率。面对函数数据的空间信息处理问题，Carlo等通过马尔可夫随机场(Markov Random Field,MRF)模拟站点之间的空间依赖性，完成了海洋叶绿素A浓度的分类，说明了引入空间信息的重要性。因此提出一种利用多项式回归模型同时引入空间相关信息对高光谱函数数据进行分类是很必要的。

发明内容

针对现有技术的不足，本发明设计结合高斯回归混合模型和MRF高光谱函数数据的分类方法；利用多项式回归模型将高光谱影像的波段光谱测度转化为函数型数据，同时为引入空间相关信息在像素邻域上建立MRF模型，并结合GRMM模型建立邻域高斯混合模型(Neighborhood Gaussian Regression Mixture Model,NGRMM)模型。本发明不仅利用函数型数据的优势，建立了波段光谱测度与波段信息依赖性，将光谱信息的利用达到最大化，同时也充分融合了空-谱信息，进一步提高了分类的准确性。

结合高斯回归混合模型和MRF高光谱函数数据的分类方法，包括以下步骤：

步骤1、将高光谱图像的像素光谱曲线表示为多项式函数；

步骤1-1、给定高光谱影像g＝{g_i,i＝1,…,n}，其中i为像素索引，g_i＝(g_ij,j＝1,…,m)^T为像素i的光谱测度矢量，n为总像素数，j为波段索引，m为波段数；设x＝{x_j,j＝1,…,m}为高光谱影像各波段对应的采样频率集合，其中x_j为波段j对应电磁波频率；设像素i的光谱曲线为g_i＝Y_i(x)；由于高光谱影像波段众多、波段间隔窄，因此对g_i＝Y_i(x)进行高密度采样，得到(y_i,x)＝{(y_ij,x_j),j＝1,...,m}；为了实现基于函数数据分析的高光谱影像分类，将高光谱影像表示为(y,x)＝{(y_i,x),i＝1,...,n}，即采用光谱采样(y_i,x)代替光谱矢量g_i刻画像素的光谱特征；

步骤1-2、为了表达光谱测度矢量中的条件依赖性，采用回归建模的方法；给定k类集群时，第i个像素Y_i的光谱测度矢量视为用噪声观察到的回归函数，为独立同分布的标准高斯E_i；得到像素光谱曲线的多项式函数表示；

其中，T为矩阵转置，β_k＝(β_k0,β_k1,…,β_k(p-1))^T为k类集群的均值回归系数向量，ρ为多项式次数，

为由输入x构造的多项式回归向量，σ_k为k类集群噪声标准差；

步骤2、用高斯回归混合模型对步骤1得到的多项式函数的概率密度分布进行建模，并应用MRF模拟像素之间存在的空间依赖关系，使用Pott模型重新定义高斯回归混合模型的权重；得到邻域高斯回归混合模型；

步骤2-1、在高光谱遥感影像中，除测量得到的每个像素在各频率的光谱观测量(y_i,x)外，还蕴含表达每个像素类属性的隐变量，记为z_i∈{1,...,K}，称为像素i的类属标号，z_i＝k指示像素i属于类k；定义z_i为随机变量，则像素i属于类k的概率密度函数记为f(z_i＝k)，综上，z＝{z_i,i＝1,…,n}视为表征高光谱影像类属性的随机场，称为标号场，其每个标号场的实现均对应高光谱影像的一种分类；高光谱影像的观测值和隐变量构成其完备数据，即{(y,x),z}；在基于模型的函数数据聚类过程中，需定义光谱曲线Y_i(x)的或然率模型；采用混合模型构建y_i|x的条件概率模型，即：

其中，k为混合分量索引，在高光谱影像分类中，k亦为类属索引，K为混合分量数即类属数，f_k(y_i|x；ψ_k)为混合分量k的概率密度函数，其中ψ_k表示混合分量k对应的参数集，α_ik＝f(z_i＝k)为像素i属于类k的概率，亦为混合分量k的权重系数，α_k＝{α_ik,i＝1,…,n}，且满足

在实际应用中，α_ik作为变量在Pott模型求解中估计得到；

步骤2-2、为了充分利用高光谱影像的空间信息，顾及高斯回归混合模型中邻域像素标号的相关性，构建NGRMM，在像素邻域上利用MRF，采用定义像素及其邻域关系的静态Potts模型刻画像素i属于类k的先验概率，由此定义权重系数α_ik为：

其中，η为邻域像素的空间相关性系数，N_i表示像素i的邻域索引集合，k’表示邻域像素所属类别，t(z_i,z_i')为指示函数，若z_i≠z_i'，则t(z_i,z_i')＝1，反之为0；

步骤2-3、采用高斯分布对第k类像素的光谱测度进行建模，其概率密度定义为：

f_k(y_i|x；ψ_k)＝N(y_i；μ_k(x),Σ_k(x),ψ_k) (4)

其中，μ_k(x)为p-1次多项式回归模型定义的均值函数，即：

Σ_k为k类集群的协方差矩阵，即：

其中，σ_k＝{σ_k1,…,σ_km},I_m为m×m单位阵；由此，第k类光谱测度模型的参数表示为ψ_k＝{β_k,σ_k}；结合式1-6，高光谱影像g函数化或然率模型定义为，

其中，ψ＝{α₁,…,α_K-1,ψ₁,…,ψ_K}为模型参数集；

步骤3、应用EM算法对邻域高斯回归混合模型进行求解，根据最大后验准则，对高光谱图像进行分类；

步骤3-1、计算参数ψ对数或然率函数；

利用EM算法估计最大化式8条件下ψ中的各参数值；为此，需根据式8构造前述完备数据的对数或然率模型，即：

其中，z_ik＝1当且仅当z_i＝k；

步骤3-2、EM算法求解参数ψ包括E和M两个过程；E过程依据ψ的当前值，以q为迭代指针，记为ψ^(q)，计算式9的期望函数，即：

其中，τ_ik ^(q)为当前状态下即第q次迭代时，像素i属于类k的后验概率；

步骤3-3、M过程是通过最大化式9，得到第q+1次迭代的参数，即：

具体参数估计值为，

步骤3-4、与传统混合模型需用EM算法估计组分权重系数不同，本发明的邻域高斯回归混合模型模型通过式3定义权重系数，以便顾及邻域像素类属空间关系；由此，重写式3得到：

其中，z_i ^(q)(i＝1,…,n)为第q次迭代时像素i的标号；

最终得到z_i的最优估计值为：

即，以最大后验概率为准则，完成高光谱影像分类。

本发明有益技术效果：

1、本发明以函数数据分析的方法对高光谱影像进行处理，对高光谱影像进行了多项式拟合，将其转化为函数型数据进行分析处理，更有利于发现其内部潜在的特征。

2、本发明应用MRF模拟像素之间可能存在的空间依赖关系，使用了Pott模型重新定义权重，充分融合了高光谱影像的空-谱信息。

附图说明

图1本发明实施例高斯回归混合模型和MRF的高光谱影像函数型数据分类流程图；

图2本发明实施例高光谱影像曲线拟合的前后对比图；其中图a原始光谱均值曲线，图b均值函数曲线；

图3本发明实施例高斯回归混合模型和MRF的高光谱影像函数型数据分类结果图；其中图a真值图，图b实验结果。

具体实施方式

下面结合下面结合附图对本发明一种实施例做进一步说明。

本发明实施例中，结合高斯回归混合模型和MRF高光谱函数数据的分类方法，如图1所示，包括以下步骤：

步骤1、将高光谱图像的像素光谱曲线表示为多项式函数；

步骤1-1、给定高光谱影像g＝{g_i,i＝1,…,n}，其中i为像素索引，g_i＝(g_ij,j＝1,…,m)^T为像素i的光谱测度矢量，n为总像素数，j为波段索引，m为波段数；设x＝{x_j,j＝1,…,m}为高光谱影像各波段对应的采样频率集合，其中x_j为波段j对应电磁波频率；设像素i的光谱曲线为g_i＝Y_i(x)；由于高光谱影像波段众多、波段间隔窄，因此对g_i＝Y_i(x)进行高密度采样，得到(y_i,x)＝{(y_ij,x_j),j＝1,...,m}，可完备表达光谱曲线；为了实现基于函数数据分析的高光谱影像分类，将高光谱影像表示为(y,x)＝{(y_i,x),i＝1,...,n}，即采用光谱采样(y_i,x)代替光谱矢量g_i刻画像素的光谱特征；

步骤1-2、为了表达光谱测度矢量中的条件依赖性，采用回归建模的方法；给定k类集群时，第i个像素Y_i的光谱测度矢量视为用噪声观察到的回归函数，为独立同分布的标准高斯E_i；得到像素光谱曲线的多项式函数表示；

其中，T为矩阵转置，β_k＝(β_k0,β_k1,…,β_k(p-1))^T为k类集群的均值回归系数向量，ρ为多项式次数，

为由输入x构造的多项式回归向量，σ_k为k类集群噪声标准差；

步骤2、用高斯回归混合模型对步骤1得到的多项式函数的概率密度分布进行建模，并应用MRF模拟像素之间存在的空间依赖关系，使用Pott模型重新定义高斯回归混合模型的权重；得到邻域高斯回归混合模型；

步骤2-1、在高光谱遥感影像中，除测量得到的每个像素在各频率的光谱观测量(y_i,x)外，还蕴含表达每个像素类属性的隐变量，记为z_i∈{1,...,K}，称为像素i的类属标号，z_i＝k指示像素i属于类k；定义z_i为随机变量，则像素i属于类k的概率密度函数记为f(z_i＝k)，综上，z＝{z_i,i＝1,…,n}视为表征高光谱影像类属性的随机场，称为标号场，其每个标号场的实现均对应高光谱影像的一种分类；高光谱影像的观测值和隐变量构成其完备数据，即{(y,x),z}；在基于模型的函数数据聚类过程中，需定义光谱曲线Y_i(x)的或然率模型；采用混合模型构建y_i|x的条件概率模型，即：

其中，k为混合分量索引，在高光谱影像分类中，k亦为类属索引，K为混合分量数即类属数，f_k(y_i|x；ψ_k)为混合分量k的概率密度函数，其中ψ_k表示混合分量k对应的参数集，α_ik＝f(z_i＝k)为像素i属于类k的概率，亦为混合分量k的权重系数，α_k＝{α_ik,i＝1,…,n}，且满足

在实际应用中，α_ik作为变量在Pott模型求解中估计得到；

步骤2-2、为了充分利用高光谱影像的空间信息，顾及高斯回归混合模型中邻域像素标号的相关性，构建NGRMM，在像素邻域上利用MRF，采用定义像素及其邻域关系的静态Potts模型刻画像素i属于类k的先验概率，由此定义权重系数α_ik为：

其中，η为邻域像素的空间相关性系数，N_i表示像素i的邻域索引集合，k’表示邻域像素所属类别，t(z_i,z_i')为指示函数，若z_i≠z_i'，则t(z_i,z_i')＝1，反之为0；

步骤2-3、采用高斯分布对第k类像素的光谱测度进行建模，其概率密度定义为：

f_k(y_i|x；ψ_k)＝N(y_i；μ_k(x),Σ_k(x),ψ_k) (4)

其中，μ_k(x)为p-1次多项式回归模型定义的均值函数，即：

Σ_k为k类集群的协方差矩阵，即：

其中，σ_k＝{σ_k1,…,σ_km},I_m为m×m单位阵；由此，第k类光谱测度模型的参数表示为ψ_k＝{β_k,σ_k}；结合式1-6，高光谱影像g函数化或然率模型定义为，

其中，ψ＝{α₁,…,α_K-1,ψ₁,…,ψ_K}为模型参数集；

步骤3、应用EM算法对邻域高斯回归混合模型进行求解，根据最大后验(Maximum aPosteriori,MAP)准则，对高光谱图像进行分类；

步骤3-1、计算参数ψ对数或然率函数；

利用EM算法估计最大化式8条件下ψ中的各参数值；为此，需根据式8构造前述完备数据的对数或然率模型，即：

其中，z_ik＝1当且仅当z_i＝k；

步骤3-2、EM算法求解参数ψ包括E和M两个过程；E过程依据ψ的当前值，以q为迭代指针，记为ψ^(q)，计算式9的期望函数，即：

其中，τ_ik ^(q)为当前状态下即第q次迭代时，像素i属于类k的后验概率；

步骤3-3、M过程是通过最大化式9，得到第q+1次迭代的参数，即：

具体参数估计值为，

步骤3-4、与传统混合模型需用EM算法估计组分权重系数不同，本发明的邻域高斯回归混合模型模型通过式3定义权重系数，以便顾及邻域像素类属空间关系；由此，重写式3得到：

其中，z_i ^(q)(i＝1,…,n)为第q次迭代时像素i的标号；

最终得到z_i的最优估计值为：

即，以最大后验概率(Maximum a Posteriori,MAP)为准则，完成高光谱影像分类。

本发明实例中，将本发明中所述方法获得的均值函数曲线与原始均值光谱曲线进行对比，如图2所示，原始光谱均值曲线呈锯齿状的波动，不利于光谱特征的判断和选取，而拟合后的均值函数曲线平滑度较高，体现出了波段与反射率之间的依赖性，表现出了随着波段变化的反射率变化趋势。光谱曲线的拟合处理不仅保持了原始光谱曲线的基本特征，而且突出刻画了波峰与波谷相交替的状态，较好体现了地物的光谱特征。

本发明实例中，将本发明中所述方法获得的结果与真值图进行了对比，如图3所示，本发明实验数据是常州茶树高光谱影像，茶树影像是由航空推扫成像光谱仪(PushbroomHyperspectral Imager,PHI)获得，光谱覆盖范围为417-855nm，影像大小为348×512像素，空间分辨率为2.25m，共有80个波段可用于分类，该影像的9个地物类别应用于本发明的分类。实验结果总体精度为86.97％，平均精度是74.07％，Kappa系数是0.8166。实验结果表明本发明算法合理的利用函数分析的优势，充分的结合了高光谱影像的空-谱信息。

Claims (4)

1.结合高斯回归混合模型和MRF高光谱函数数据的分类方法，其特征在于，包括以下步骤：

步骤1、将高光谱图像的像素光谱曲线表示为多项式函数；

步骤2、用高斯回归混合模型对步骤1得到的多项式函数的概率密度分布进行建模，并应用MRF模拟像素之间存在的空间依赖关系，使用Pott模型重新定义高斯回归混合模型的权重；得到邻域高斯回归混合模型；

步骤3、应用EM算法对邻域高斯回归混合模型进行求解，根据最大后验准则，对高光谱图像进行分类。

2.根据权利要求1所述的结合高斯回归混合模型和MRF高光谱函数数据的分类方法，其特征在于，步骤1具体为：

步骤1-1、给定高光谱影像g＝{g_i,i＝1,…,n}，其中i为像素索引，g_i＝(g_ij,j＝1,…,m)^T为像素i的光谱测度矢量，n为总像素数，j为波段索引，m为波段数；设x＝{x_j,j＝1,…,m}为高光谱影像各波段对应的采样频率集合，其中x_j为波段j对应电磁波频率；设像素i的光谱曲线为g_i＝Y_i(x)；由于高光谱影像波段众多、波段间隔窄，因此对g_i＝Y_i(x)进行高密度采样，得到(y_i,x)＝{(y_ij,x_j),j＝1,...,m}；为了实现基于函数数据分析的高光谱影像分类，将高光谱影像表示为(y,x)＝{(y_i,x),i＝1,...,n}，即采用光谱采样(y_i,x)代替光谱矢量g_i刻画像素的光谱特征；

步骤1-2、为了表达光谱测度矢量中的条件依赖性，采用回归建模的方法；给定k类集群时，第i个像素Y_i的光谱测度矢量视为用噪声观察到的回归函数，为独立同分布的标准高斯E_i；得到像素光谱曲线的多项式函数表示；

其中，T为矩阵转置，β_k＝(β_k0,β_k1,…,β_k(p-1))^T为k类集群的均值回归系数向量，ρ为多项式次数，

为由输入x构造的多项式回归向量，σ_k为k类集群噪声标准差。

3.根据权利要求1所述的结合高斯回归混合模型和MRF高光谱函数数据的分类方法，其特征在于，步骤2具体为：

步骤2-1、在高光谱遥感影像中，除测量得到的每个像素在各频率的光谱观测量(y_i,x)外，还蕴含表达每个像素类属性的隐变量，记为z_i∈{1,...,K}，称为像素i的类属标号，z_i＝k指示像素i属于类k；定义z_i为随机变量，则像素i属于类k的概率密度函数记为f(z_i＝k)，综上，z＝{z_i,i＝1,…,n}视为表征高光谱影像类属性的随机场，称为标号场，其每个标号场的实现均对应高光谱影像的一种分类；高光谱影像的观测值和隐变量构成其完备数据，即{(y,x),z}；在基于模型的函数数据聚类过程中，需定义光谱曲线Y_i(x)的或然率模型；采用混合模型构建y_i|x的条件概率模型，即：

其中，k为混合分量索引，在高光谱影像分类中，k亦为类属索引，K为混合分量数即类属数，f_k(y_i|x；ψ_k)为混合分量k的概率密度函数，其中ψ_k表示混合分量k对应的参数集，α_ik＝f(z_i＝k)为像素i属于类k的概率，亦为混合分量k的权重系数，α_k＝{α_ik,i＝1,…,n}，且满足

在实际应用中，α_ik作为变量在Pott模型求解中估计得到；

步骤2-2、为了充分利用高光谱影像的空间信息，顾及高斯回归混合模型中邻域像素标号的相关性，构建NGRMM，在像素邻域上利用MRF，采用定义像素及其邻域关系的静态Potts模型刻画像素i属于类k的先验概率，由此定义权重系数α_ik为：

其中，η为邻域像素的空间相关性系数，N_i表示像素i的邻域索引集合，k’表示邻域像素所属类别，t(z_i,z_i')为指示函数，若z_i≠z_i'，则t(z_i,z_i')＝1，反之为0；

步骤2-3、采用高斯分布对第k类像素的光谱测度进行建模，其概率密度定义为：

f_k(y_i|x；ψ_k)＝N(y_i；μ_k(x),Σ_k(x),ψ_k) (4)

其中，μ_k(x)为p-1次多项式回归模型定义的均值函数，即：

Σ_k为k类集群的协方差矩阵，即：

其中，σ_k＝{σ_k1,…,σ_km},I_m为m×m单位阵；由此，第k类光谱测度模型的参数表示为ψ_k＝{β_k,σ_k}；结合式1-6，高光谱影像g函数化或然率模型定义为，

其中，ψ＝{α₁,…,α_K-1,ψ₁,…,ψ_K}为模型参数集。

4.根据权利要求1所述的结合高斯回归混合模型和MRF高光谱函数数据的分类方法，其特征在于，步骤3具体为：

步骤3-1、计算参数ψ对数或然率函数；

利用EM算法估计最大化式8条件下ψ中的各参数值；为此，需根据式8构造前述完备数据的对数或然率模型，即：

其中，z_ik＝1当且仅当z_i＝k；

步骤3-2、EM算法求解参数ψ包括E和M两个过程；E过程依据ψ的当前值，以q为迭代指针，记为ψ^(q)，计算式9的期望函数，即：

其中，τ_ik ^(q)为当前状态下即第q次迭代时，像素i属于类k的后验概率；

步骤3-3、M过程是通过最大化式9，得到第q+1次迭代的参数，即：

具体参数估计值为，

步骤3-4、与传统混合模型需用EM算法估计组分权重系数不同，本发明的邻域高斯回归混合模型模型通过式3定义权重系数，以便顾及邻域像素类属空间关系；由此，重写式3得到：

其中，z_i ^(q)(i＝1,…,n)为第q次迭代时像素i的标号；

最终得到z_i的最优估计值为：

即，以最大后验概率为准则，完成高光谱影像分类。

Images