CN102880872A - 一种半监督svm遥感影像分类构建方法 - Google Patents

Abstract

一种半监督SVM遥感影像分类构建方法，它涉及一种分类构建方法，具体涉及一种半监督SVM遥感影像分类构建方法。本发明为了解决现有SVM遥感影像技术应用时不容易找到最优分类参数，混合像元的硬化分、训练样本不足造成分类精度低下的问题。本发明的具体步骤为：步骤一、利用自适应变异粒子群算法对SVM遥感影像参数寻优；步骤二、利用自训练方法构建PS3VM半监督分类模型。本发明用于构建半监督SVM遥感影像。

Description

一种半监督SVM遥感影像分类构建方法

技术领域

本发明涉及一种分类构建方法，具体涉及一种半监督SVM遥感影像分类构建方法。

背景技术

遥感影像包含了丰富复杂的地物信息，所含数据类别众多，含混度大。如何有效提高影像分类的速度和精度是遥感影像研究中的一个关键问题，也是人们关注的焦点。支持向量机技术（suppor vector machines,SVM）由于能较好地解决高维特征、非线性、过学习，且具有局部极小等优点，在遥感信息获取中取得了很好的效果，但仍然存在一定的不足，主要表现在：第一、分类参数的选择没有特别好的办法，应用时不容易找到最优分类参数；第二、混合像元的硬化分可能造成分类精度低下；第三、当训练样本集远远小于测试样本时，即便SVM具有较强的泛化性，也难以给出令人满意的结果。

发明内容

本发明针对现有SVM遥感影像技术应用时不容易找到最优分类参数，混合像元的硬化分、训练样本不足造成分类精度低下的问题，提出一种新的半监督SVM遥感影像分类方法。

本发明为解决上述问题采取的技术方案是：本发明的具体步骤如下：

步骤一、利用自适应变异粒子群算法对SVM遥感影像参数寻优，构建PSVM算法，PSVM算法的具体步骤如下：

步骤一（一）、随机初始化粒子群中粒子的位置和速度；

步骤一（二）、将粒子的p_b设置为当前位置，p_g设置为初始群体中最佳粒子位置；

步骤一（三）、判断算法是否满足收敛条件，如果满足执行步骤一（八），否则执行步骤一（四）；粒子群优化算法最终收敛位置时整个粒子群找到的全局极值，利用群体适应度方差σ²、全局极值f(p_g)与理论极值f_d比较作为全局收敛判定准则；将SVM得到的分类准确度作为粒子的适应度函数，计作f=svm_accuracy；收敛条件为同时满足公式①和公式②：

${\mathrm{\σ}}^2=\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{\left[\frac{f_i-f_{\mathrm{avg}}}{f}\right]}^2=0$ ①

f(p_g)<f_d②

公式①和公式②中f_i为第i个粒子的适应度,f_avg为粒子群目前的平均适应度；

步骤一（四）、速度更新，位置更新；根据公式③和公式④更新速度和位置：

V=ωV+c₁r₁(P_b-X_present)+c₂r₂(P_g-X_present)③

X_present=X_present+V④

其中，V是粒子速度，X_present是粒子当前位置，r₁和r₂为随机数，c₁和c₂为学习因子；

步骤一（五）、计算变异概率p_m，

⑤

k∈[0,1]

步骤一（六）、产生随机数r∈[0,1]，如果r<p_m，按公式⑥执行变异操作；否则执行步骤一（七）；

p_g=p_g*(1+0.5*η)⑥

其中η是服从Gauss(0,1)分布的随机变量；

步骤一（七）、判断步骤一（三）收敛准则是否满足，如果满足执行步骤一（八），否则执行步骤一（四）；

步骤一（八）、输出初始群体中最佳粒子位置p_g；

步骤二、利用自训练方法构建PS3VM半监督分类模型，具体步骤为：

步骤二（一）、初始化标签样本集T，使T=L，无标签样本集M，初始化τ，L表示标签样本集；

步骤二（二）、当M≠Φ执行步骤二（三），Φ表示空；

步骤二（三）、利用标签集训练SVM，并利用自适应变异PSO进行参数优化，构建初始分类器；

步骤二（四）、在集合T中利用Gkclust模糊聚类算法根据公式⑦产生聚类中心V，

$v_i=\frac{\underset{k=1}{\overset{N}{\mathrm{\&Sigma;}}}{\left({\mathrm{\&mu;}}_{\mathrm{ik}}\right)}^m{x}_k}{\underset{k=1}{\overset{N}{\mathrm{\&Sigma;}}}{\left({\mathrm{\&mu;}}_{\mathrm{ik}}\right)}^m},1\&le;i\&le;h$ ⑦

其中，N为数据集维数，h为分类数目，m是加权指数，μ_ik为步骤二（五）中所示模糊隶属度函数值；

步骤二（五）、以V为初始聚类中心，在无标签集合中根据公式⑧产生无标签样本的模糊隶属度函数值，

${\mathrm{\&mu;}}_{\mathrm{ik}}=\frac{1}{{\mathrm{\&Sigma;}}_{j=1}^h{(D_{\mathrm{ik}{A}_i}(x_k,v_i)/D_{\mathrm{jk}}(x_k,v_j))}^{2/(m-1)}},1\&le;i\&le;h,1\&le;k\&le;N$ ⑧

其中，

为N维数据空间中点x_k到聚类中心v_i的距离，矩阵A_i为优化变量；

步骤二（六）、将隶属度高的样本点组成候选集合N；

步骤二（七）、利用PSVM对候选集合N进行标注；

步骤二（八）、基于τ产生标签子集Ψ；

步骤二（九）、更新标签集T←T∪Ψ；

步骤二（十）、更新无标签集M←M-Ψ；

步骤二（十一）、如果Ψ=φ降低τ的值；

步骤二（十二）、判断M是否为空，如果M为空，结束循环，输出分类结果；否则执行步骤二（三）；

步骤二（十三）、利用标签集T再次训练PSVM。

本发明的有益效果是：本发明所述分类模型克服传统SVM分类模型参数选择的主观性，避免了传统PSO因早熟收敛造成分类参数寻找不准确的缺点；同时将模糊聚类技术引入到Self-training半监督学习范式中有效地克服了遥感影像分类中人为选择样本不足且混合像元的硬化分而造成分类精度低下的问题。本发明与采用传统SVM分类方法相比，在相同训练样本数量下（总样本30%作为训练样本），分类精度提高8.4%，Kappa系数提高0.106。

附图说明

图1是利用自适应变异粒子群算法对SVM遥感影像参数寻优的流程框图。

具体实施方式

具体实施方式一：结合图1说明本实施方式，本实施方式所述一种半监督SVM遥感影像分类构建方法的具体步骤如下：

步骤一、利用自适应变异粒子群算法对SVM遥感影像参数寻优，即PSVM算法，PSVM算法的具体步骤如下：

步骤一（一）、随机初始化粒子群中粒子的位置和速度；

步骤一（二）、将粒子的p_b设置为当前位置，p_g设置为初始群体中最佳粒子位置；

步骤一（三）、判断算法是否满足收敛条件，如果满足执行步骤一（八），否则执行步骤一（四）；粒子群优化算法最终收敛位置时整个粒子群找到的全局极值，利用群体适应度方差σ²、全局极值f(p_g)与理论极值f_d比较作为全局收敛判定准则；将SVM得到的分类准确度作为粒子的适应度函数，计作f=svm_accuracy；收敛条件为同时满足公式①和公式②：

${\mathrm{\&sigma;}}^2=\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\left[\frac{f_i-f_{\mathrm{avg}}}{f}\right]}^2=0$ ①

f(p_g)<f_d②

公式①和公式②中f_i为第i个粒子的适应度,f_avg为粒子群目前的平均适应度；

步骤一（四）、速度更新，位置更新；根据公式③和公式④更新速度和位置：

V=ωV+c₁r₁(P_b-X_present)+c₂r₂(P_g-X_present)③

X_present=X_present+V④

其中，V是粒子速度，X_present是粒子当前位置，r₁和r₂为随机数，c₁和c₂为学习因子；

步骤一（五）、计算变异概率p_m，

⑤

k∈[0,1]

步骤一（六）、产生随机数r∈[0,1]，如果r<p_m，按公式⑥执行变异操作；否则执行步骤一（七）；

p_g=p_g*(1+0.5*η)⑥

其中η是服从Gauss(0,1)分布的随机变量；

步骤一（七）、判断步骤一（三）收敛准则是否满足，如果满足执行步骤一（八），否则执行步骤一（四）；

步骤一（八）、输出初始群体中最佳粒子位置p_g；

步骤二、利用自训练方法构建PS3VM半监督分类模型，具体步骤为：

步骤二（一）、初始化标签样本集T，使T=L，无标签样本集M，初始化τ，L表示标签样本集；

步骤二（二）、当M≠Φ执行步骤二（三），Φ表示空；

步骤二（三）、利用标签集训练SVM，并利用自适应变异PSO进行参数优化，构建初始分类器；

步骤二（四）、在集合T中利用Gkclust模糊聚类算法根据公式⑦产生聚类中心V，

$v_i=\frac{\underset{k=1}{\overset{N}{\mathrm{\&Sigma;}}}{\left({\mathrm{\&mu;}}_{\mathrm{ik}}\right)}^m{x}_k}{\underset{k=1}{\overset{N}{\mathrm{\&Sigma;}}}{\left({\mathrm{\&mu;}}_{\mathrm{ik}}\right)}^m},1\&le;i\&le;h$ ⑦

其中，N为数据集维数，h为分类数目，m是加权指数，μ_ik为步骤二（五）中所示模糊隶属度函数值；

步骤二（五）、以V为初始聚类中心，在无标签集合中根据公式⑧产生无标签样本的模糊隶属度函数值，

${\mathrm{\&mu;}}_{\mathrm{ik}}=\frac{1}{{\mathrm{\&Sigma;}}_{j=1}^h{(D_{\mathrm{ik}{A}_i}(x_k,v_i)/D_{\mathrm{jk}}(x_k,v_j))}^{2/(m-1)}},1\&le;i\&le;h,1\&le;k\&le;N$ ⑧

其中，

为N维数据空间中点x_k到聚类中心v_i的距离，矩阵A_i为优化变量；

步骤二（六）、将隶属度高的样本点组成候选集合N；

步骤二（七）、利用PSVM对候选集合N进行标注；

步骤二（八）、基于τ产生标签子集Ψ；

步骤二（九）、更新标签集T←T∪Ψ；

步骤二（十）、更新无标签集M←M-Ψ；

步骤二（十一）、如果Ψ=φ，降低τ的值；

步骤二（十二）、判断M是否为空，如果M为空，结束循环，输出分类结果；否则执行步骤二（三）；

步骤二（十三）、利用标签集T再次训练PSVM。

本实施方式的步骤一利用改进粒子群算法对SVM参数寻优，克服传统SVM模型参数选择的主观性，避免传统粒子群算法因早熟收敛而造成分类参数寻找不准确的缺点，同时将Gkclust模糊聚类技术引入到Self-training半监督学习范式中，有效地克服了SVM遥感影像分类中人为选择样本不足且混合像元的硬化分而造成分类精度低下的问题。

本实施方式的步骤一中粒子由SVM的主要参数构成。SVM四种核函数中RBF核具有较宽的收敛性，不受维数以及样本数量的严格限制，本模型选择RBF作为分类依据函数。由此初始化粒子包括两部分，惩罚参数c和RBF核函数参数γ。

Claims (1)

1.一种半监督SVM遥感影像分类构建方法，其特征在于：所述一种半监督SVM遥感影像分类构建方法的具体步骤如下：

步骤一、利用自适应变异粒子群算法对SVM遥感影像参数寻优，即PSVM算法，PSVM算法的具体步骤如下：

步骤一（一）、随机初始化粒子群中粒子的位置和速度；

步骤一（二）、将粒子的p_b设置为当前位置，p_g设置为初始群体中最佳粒子位置；

步骤一（三）、判断算法是否满足收敛条件，如果满足执行步骤一（八），否则执行步骤一（四）；粒子群优化算法最终收敛位置时整个粒子群找到的全局极值，利用群体适应度方差σ²、全局极值f(p_g)与理论极值f_d比较作为全局收敛判定准则；将SVM得到的分类准确度作为粒子的适应度函数，计作f=svm_accuracy；收敛条件为同时满足公式①和公式②：

${\mathrm{\&sigma;}}^2=\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\left[\frac{f_i-f_{\mathrm{avg}}}{f}\right]}^2=0$ ①

f(p_g)<f_d②

公式①和公式②中f_i为第i个粒子的适应度,f_avg为粒子群目前的平均适应度；

步骤一（四）、速度更新，位置更新；根据公式③和公式④更新速度和位置：

V=ωV+c₁r₁(P_b-X_present)+c₂r₂(P_g-X_present)③

X_present=X_present+V④

其中，V是粒子速度，X_present是粒子当前位置，r₁和r₂为随机数，c₁和c₂为学习因子；

步骤一（五）、计算变异概率p_m，

⑤

k∈[0,1]

步骤一（六）、产生随机数r∈[0,1]，如果r<p_m，按公式⑥执行变异操作；否则执行步骤一（七）；

p_g=p_g*(1+0.5*η)⑥

其中η是服从Gauss(0,1)分布的随机变量；

步骤一（七）、判断步骤一（三）收敛准则是否满足，如果满足执行步骤一（八），否则执行步骤一（四）；

步骤一（八）、输出初始群体中最佳粒子位置p_g；

步骤二、利用自训练方法构建PS3VM半监督分类模型，具体步骤为：

步骤二（一）、初始化标签样本集T，使T=L，无标签样本集M，初始化τ，L表示标签样本集；

步骤二（二）、当M≠Φ执行步骤二（三），Φ表示空；

步骤二（三）、利用标签集训练SVM，并利用自适应变异PSO进行参数优化，构建初始分类器；

步骤二（四）、在集合T中利用Gkclust模糊聚类算法根据公式⑦产生聚类中心V，

$v_i=\frac{\underset{k=1}{\overset{N}{\mathrm{\&Sigma;}}}{\left({\mathrm{\&mu;}}_{\mathrm{ik}}\right)}^m{x}_k}{\underset{k=1}{\overset{N}{\mathrm{\&Sigma;}}}{\left({\mathrm{\&mu;}}_{\mathrm{ik}}\right)}^m},1\&le;i\&le;h$ ⑦

其中，N为数据集维数，h为分类数目，m是加权指数，μ_ik为步骤二（五）中所示模糊隶属度函数值；

步骤二（五）、以V为初始聚类中心，在无标签集合中根据公式⑧产生无标签样本的模糊隶属度函数值，

${\mathrm{\&mu;}}_{\mathrm{ik}}=\frac{1}{{\mathrm{\&Sigma;}}_{j=1}^h{(D_{\mathrm{ik}{A}_i}(x_k,v_i)/D_{\mathrm{jk}}(x_k,v_j))}^{2/(m-1)}},1\&le;i\&le;h,1\&le;k\&le;N$ ⑧

其中，

为N维数据空间中点x_k到聚类中心v_i的距离，矩阵A_i为优化变量；

步骤二（六）、将隶属度高的样本点组成候选集合N；

步骤二（七）、利用PSVM对候选集合N进行标注；

步骤二（八）、基于τ产生标签子集Ψ；

步骤二（九）、更新标签集T←T∪Ψ；

步骤二（十）、更新无标签集M←M-Ψ；

步骤二（十一）、如果Ψ=φ，降低τ的值；

步骤二（十二）、判断M是否为空，如果M为空，结束循环，输出分类结果；否则执行步骤二（三）；

步骤二（十三）、利用标签集T再次训练PSVM。

Images