CN101488188A - 基于混合核函数的svm分类器的sar图像分类方法 - Google Patents

Abstract

本发明公开了一种基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，它属于图像处理技术领域，主要解决图像特征提取有效性不足的问题。其步骤为：1输入训练及测试样本图像，对该样本图像进行归一化和标识；2对归一化后的样本图像进行小波分解，并对分解后的各个子带分别提取多个特征，并且将各种特征按结构体T_l×r形式存储；3根据提取的各个子带的多个特征，构建SVM分类器的基于小波特征的混合核函数(式见右下)，式中，X_i，X_j分别是指第i和第j个样本图像，i，j≤l，X_ik，X_jk分别是指第i和第j个样本图像的第k个特征，ρ_k是凸组合系数；4通过对该混合核函数中凸组合系数的优化，完成对图像特征的分类。该方法具有图像分类识别率高的优点，可用于机器学习和模式识别。

Description

基于混合核函数的SVM分类器的SAR图像分类方法

技术领域

本发明涉及图像处理领域，具体地说是将一种基于小波特征的混合核函数，用于SAR图像分类的方法。

背景技术

SAR称为合成孔径雷达，是微波遥感的代表，是一种工作在微波波段的相干成像雷达。它能够多波段、多极化、多视向、多俯角地对海洋和陆地进行观测，具有全天时和全天候的观测能力。合成孔径雷达(SAR)在距离向靠发射宽带信号获得高的径向分辨率，在方位向通过同一传感器在等间隔位置上发射和接收脉冲信号，然后将回波信号作相关处理，得到方位向高分辨率。

SAR图像因其特殊的成像机理和图像特点而与光学遥感图像迥异，必须采用特殊的图像分类方法才能获得较好效果。如何最有效地利用雷达遥感提供的新信息来提高图像分类精度，是一个需要深入研究的课题。SAR像分类处理技术的一般过程为图像预处理、图像信息提取、特征选择、设计与实现。特征提取、特征选择和分类是SAR图像处理中的关键技术，对其研究将极大地推动SAR图像处理技术的提高，故有重要的实际意义。

目前有很多文献都是利用一些传统方法加以改进进行SAR图像的分类，比如传统的分类方法中包括无监督分类法和有监督分类法。无监督分类包括ISODATA算法、K均值、K均值改进的算法模糊K均值以及近些年来的遗传算法。这几种方法分类简单、易操作。但这些方法的缺点在于学要事先确定各个类别的初始聚类中心和聚类数目(遗传算法可以不设定聚类数目)，动设置各类别中心到现在为止还没有一个切实有效的方法。有监督方法如最小错误概率的Bayes分类器、极大似然法、最小距离、BP神经网络分类法和SVM分类器。这些方法就是首先根据类别的先验知识确定判别函数和相应的判别准则，在训练或学习过程中利用一定数量的已知类别样本的观测值，确定判别函数中待定参数，然后将未知的样本观测值代入判别函数，再根据判别准则来读该样本的所属类别做出判断。这种方法也存在一定的缺点。已极大似然法为例，它要求利用先验知识及概率，并且样本呈正态分布、具有良好的统计性等条件，有时无法满足，得不到足够的训练信息。而SVM分类器在SAR图像分类中的应用，在特征提取过程中会存在如下的问题：有时要提取单个特征，有时则可能要提取多个特征；当提取多个特征时，提取的特征有些可能对分类有益，而有些则没有任何作用；或者是有些对分类作用贡献大，而有些则贡献小，即存在着特征选择的问题。目前使用的标准SVM分类器进行图像分类或识别时，由于使用了通用的核函数，因而无法对提取特征的有效性做出选择。

发明内容

本发明的目的在于克服上述已有技术的不足，提出了一种基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，以有效提取了图像特征，提高图像识别率。

实现本发明的技术方案包括如下步骤：

1.输入及预处理步骤：输入训练及测试样本图像，对该样本图像进行归一化和标识；

2.提取特征步骤：对归一化后的样本图像进行小波分解，并对分解后的各个子带分别提取多个特征，并且将各种特征按结构体X_l×r形式存储，l是样本个数，r是提取特征个数；

3.SAR图像分类步骤：根据提取的各个子带的多个特征，构建SVM分类器的基于小波特征的混合核函数 $K(X_i,X_j)=\underset{k=1}{\overset{r}{\mathrm{\Σ}}}{\mathrm{\ρ}}_{k}K(X_{\mathrm{ik}},X_{\mathrm{jk}}),$ 并通过对该混合核函数中凸组合系数的优化，完成对图像特征的分类，式中，X_i，X_j分别是指第i和第j个样本图像，i，j≤l，X_ik，X_jk分别是指第i和第j个样本图像的第k个特征，ρ_k是凸组合系数。

本发明由于在训练SVM分类器时，构建了基于小波特征的混合核函数，并通过对该混合核函数中的凸组合系数进行了优化，实现对SAR图像的分类，保证了提取的图像特征的有效性，提高了图像分类的识别率。通过对1161幅SAR训练样本图像，和978幅SAR测试样本图像进行实验仿真表明，本发明可以有效地提取图像的特征，得到了比标准SVM分类器较高的平均识别率。

附图说明

图1是本发明的具体实现流程图。

具体实施方式

参照图1，本发明的实现步骤如下：

1.输入训练及测试样本图像并进行预处理。

1a)输入M幅训练样本图像，N幅待分类样本图像，其中N小于M，分别记为(x₁，x₂…x_N)；(x₁，x₂…x_M)；

1b)将样本图像的像素从0～255归一到0～1之间，记为(z₁，z₂…z_N+M)；

1c)对归一化后的样本图像，进行标识，标记为(y₁，y₂…y_N+M)。

2.对归一化后的样本图像进行小波分解、提取多个特征，并将各种特征按结构体T_l×r形式存储。

2a)对归一化后的样本图像(z₁，z₂…z_N+M)进行小波分解；

2b)对得到的分解子带，提取各子带的特征，特征提取的方法很多，本发明后续实验用到了以下几种：

①L¹范数能量测度法：

$E=\frac{1}{\mathrm{PQ}}\underset{i=1}{\overset{P}{\mathrm{\Σ}}}\underset{j=1}{\overset{Q}{\mathrm{\Σ}}}\left|\mathrm{coef}(i,j)\right|---\left(1\right)$

其中，P×Q为子带大小，i，j表示子带中系数的索引，coef(i，j)为该子带中第i行第j列的系数值；

②方差法：

对分解得到的各子带分别求子带系数的方差，构成一组特征向量，其维数等于分解得到的子带个数。

$\mathrm{Std}=\frac{1}{\mathrm{PQ}}\underset{i=1}{\overset{P}{\mathrm{\Σ}}}\underset{j=1}{\overset{Q}{\mathrm{\Σ}}}{(\mathrm{coef}(i,j)-\mathrm{Mean})}^2---\left(2\right)$

$\mathrm{Mean}=\frac{1}{\mathrm{PQ}}\underset{i=1}{\overset{P}{\mathrm{\Σ}}}\underset{j=1}{\overset{Q}{\mathrm{\Σ}}}\mathrm{coef}(i,j)$

其中，Mean为该子带系数的均值；

③灰度共生矩阵法：

灰度共生矩阵是一种基于图像灰度联合概率矩阵的方法。此处用灰度共生矩阵的概念来计算图像的系数共生矩阵：首先对由变换域方法得到的各个分解子带进行量化，这里将量化级数选为16；然后通过计算子带邻近量化系数之间的二阶联合条件概率密度P(i，j|d，θ)来构成共生矩阵，P(i，j|d，θ)表示在给定空间距离d和方向角θ上，以量化系数i为起始点，出现系数j的概率。邻近系数值出现的联合条件概率，可以度量子带相邻系数的相关特征。系数共生矩阵可以表示为：

P(i，j|d，θ)＝{P_k(i，j|d，θ)}_L×L         (3)

其中，L表示子带系数的量化级数，k为系数顺序号；

2c)将M幅训练样本图像，N幅待分类测试样本图像，所提取的特征与样本图像一一对应，按结构体X_l×r形式存储，l样本个数，r为提取特征个数，其中，将第i个样本图像所提取的多个特征存放在结构体X_i×r中。

3.根据提取的各个子带的多个特征，构建SVM分类器的基于小波特征的混合核函数

$K(X_i,X_j)=\underset{k=1}{\overset{r}{\mathrm{\Σ}}}{\mathrm{\ρ}}_{k}K(X_{\mathrm{ik}},X_{\mathrm{jk}}),$

标准SVM的决策函数为：

f(X)＝sign(Φ(X)W+b)，i＝1…l            (4)

其中，Φ(X)是样本图像在特征空间中的映射函数，W是SVM决策函数中的权值，b是SVM决策函数中的偏置；

3a)将SVM分类器的总决策函数f(X)修改为各个不同特征所对应的决策函数f(X_k)的线性组合，即

$f\left(X\right)=\underset{k=1}{\overset{r}{\mathrm{\Σ}}}{a}_{k}f\left(X_k\right)$

$\begin{array}{cc}=\mathrm{sign}\left(\underset{k=1}{\overset{r}{\mathrm{\Σ}}}{a}_k(\underset{i=1}{\overset{l}{\mathrm{\Σ}}}\mathrm{\Φ}\left(X_{\mathrm{ik}}\right)W_{\mathrm{ik}}+b_k)\right)& a_k\≥0\end{array}$

式中，a_k是线性组合系数，sign()是符号函数，Φ(X_ik)是样本在特征空间中的映射函数，r是提取特征个数，l是样本个数；

3b)将SVM分类器的优化目标函数修改为：

最小化： $g=\frac{1}{2}(W_1^T,W_2^T,\·\·\·W_r^T)\left(\begin{array}{c}{W}_1\\ W_2\\ \·\\ \·\\ \·\\ W_r\end{array}\right)+C\underset{i=1}{\overset{l}{\mathrm{\Σ}}}{\mathrm{\ϵ}}_i---\left(6\right)$

约束： $y_i(\underset{k=1}{\overset{r}{\mathrm{\Σ}}}{a}_k\mathrm{\Φ}\left(X_{\mathrm{ik}}\right)W_k+b)\≥1+{\mathrm{\ϵ}}_i,i=1\·\·\·l$

C≥ε_i≥0，i＝1…l

式中，y_i是样本标识，ε_i是松弛变量，C是折中系数；

3c)利用Lagrange乘子法，将SVM分类器优化目标函数的对偶规划写为：

最大化： $L=\underset{i=1}{\overset{l}{\mathrm{\Σ}}}{\mathrm{\α}}_i-\frac{1}{2}\underset{i,j=1}{\overset{l}{\mathrm{\Σ}}}{\mathrm{\α}}_i{\mathrm{\α}}_j{y}_i{y}_j\underset{k=1}{\overset{r}{\mathrm{\Σ}}}{a_k}^{2}K(X_{\mathrm{ik}},X_{\mathrm{jk}})---\left(7\right)$

约束： $\underset{i=1}{\overset{l}{\mathrm{\Σ}}}{\mathrm{\α}}_i{y}_i=0$

0≤α_i≤C_i＝1…l

式中，α_i是Lagrange乘子，<Φ(X_ik)·Φ(X_jk)>是点乘，即核函数；

3d)取式(7)中的分项

作为基于小波特征的混合核函数，即：

$K(X_i,X_j)=\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{a_k}^{2}K(X_{\mathrm{ik}},X_{\mathrm{jk}})=\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_{k}K(X_{\mathrm{ik}},X_{\mathrm{jk}})---\left(8\right)$

约束 $\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_k=1.$

4.对该混合核函数中凸组合系数的进行优化，完成对图像特征的分类。

4a)分别对SVM分类器的优化目标函数g₀、混合核函数的凸组合系数ρ_k及其优化目标函数变化的阈值θ₀，进行初始化；

4b)利用如下关于二次规划得到SVM分类器优化目标函数中的权值W

最大化 $L=\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i-\frac{1}{2}\underset{i,j=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_{j}K(X_i,X_j)$      (9)

约束： $\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{y}_i=0$

0≤α_i≤C    i＝1…l

$W_k=\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{y}_i{a}_k\mathrm{\&Phi;}\left(X_{\mathrm{ik}}\right)$ 　　　　　　　　　　(10)

4c)固定二次规划中Lagrange乘子α_i，利用如下线性规划得到松弛变量ε_i及混合核函数中的凸组合系数ρ_i

最小化 $\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&epsiv;}}_i+\underset{j=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_j---\left(11\right)$

y_if(X_i)≥1+ε_i，i＝1…l

约束：ε_i≥0，i＝1…l；

${\mathrm{\&rho;}}_j>0,\underset{j=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_j=1,j=1\&CenterDot;\&CenterDot;\&CenterDot;r$

4d)将公式(10)与公式(11)的值代入公式(6)，计算SVM分类器的优化目标函数值，并判断该函数值是否在给定的阈值范围内，如果在，则停止优化；否则，继续进行过程4b)～4c)，直到目标函数值变化值在给定阈值范围内停止；

4e)将优化后的数值固定，SVM分类器按照该固定数值对待分类的SAR测试样本图像特征进行分类，并将得到的分类结果以类别标识的形式输出；

4f)根据分类结果，计算待分类样本图像的识别率，并在计算机上显示。

本发明效果可以通过以下仿真实验进一步说明：

仿真条件：仿真实验的数据集是由美国国防部计划署和空气动力研究实验室项目组提供的MSTAR图像库，大小均为128×128，256级灰度。使用的训练样本图像是SAR在俯视角为17°时对地面目标的成像数据，测试样本图像是SAR在俯视角为15°时对地面目标的成像数据，其中包括1161幅训练样本图像：第一类232幅，第二类231幅，第三类为233个，第四类为232个，第五类为233个；978幅测试样本图像：第一类为196个，第二类为195个，第三类为195个，第四类为196个，第五类为194个。

仿真结果：如表1、表2和表3所示。该表1、表2和表3中‘能量’是单独使用能量特征SVM分类结果；‘方差’是单独使用方差特征SVM分类结果；‘共生矩阵’单独使用共生矩阵特征SVM分类结果。

表1  一层小波分解后提取特征的SAR图像分类实验数据表

表2  二层小波分解后提取特征的SAR图像分类实验数据表

表3  三层小波分解后提取特征的SAR图像分类实验数据表

表1～表3中列出了标准SVM分类器使用一个特征及本发明得到的SAR图像分类正确率，同样实验条件下最高的分类正确率加粗。由实验数据可知，本发明采用SVM分类器的基于小波特征提取的混合核函数对SAR图像进行分类比使用通用核函数方法有着更高的分类正确率，特别是一层小波分解时，测试样本分类正确率提高了2.52％。

Claims (5)

1.一种基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，包括如下步骤：

输入及预处理步骤：输入训练及测试样本图像，对该样本图像进行归一化和标识；

特征提取步骤：对归一化后的样本图像进行小波分解，并对分解后的各个子带分别提取多个特征，并且将各种特征按结构体T_l×r形式存储，l是样本个数，r是提取特征个数；

SAR图像分类步骤：根据提取的各个子带的多个特征，构建SVM分类器的基于小波特征的混合核函数 $K(X_i,X_j)=\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_{k}K(X_{\mathrm{ik}},X_{\mathrm{jk}}),$ 并通过对该混合核函数中凸组合系数的优化，完成对图像特征的分类，

式中，X_i，X_j分别是指第i和第j个样本图像，i，j≤l，X_ik，X_jk分别是指第i和第j个样本图像的第k个特征，ρ_k是凸组合系数。

2.根据权利要求1所述的基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，其中所说的输入及预处理步骤，具体实现如下：

2a)输入M幅训练样本图像，N幅待分类测试样本图像，其中N小于M；

2b)对样本图像归一化，将图像的像素从0～255归一化到0～1之间；

3c)对应样本图像的类别，一一进行标识。

3.根据权利要求1所述的基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，其中所说的提取特征步骤，具体实现如下：

3a)对输入图像进行小波分解，得到各分解子带；

3b)对分解后的各个子带分别提取能量、方差和共生矩阵特征；

3c)将提取的特征与样本一一对应，并按结构体T_l×r形式存储，l样本个数，r为提取特征个数。

4.根据权利要求1所述的基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，其中所述的构建SVM分类器的基于小波特征的混合核函数，按如下过程进行：

4a)将SVM分类器的总决策函数f(X)修改为各个不同特征所对应的决策函数f(X_k)的线性组合，即：

$f\left(X\right)=\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{a}_{k}f\left(X_k\right)---\left(5\right)$

$\begin{array}{cc}=\mathrm{sign}\left(\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{a}_k(\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}\mathrm{\&Phi;}\left(X_{\mathrm{ik}}\right)W_{\mathrm{ik}}+b_k)\right)& a_k\&GreaterEqual;0\end{array}$

式中，a_k是线性组合系数，sign()是符号函数，Φ(X_ik)是样本在特征空间中的映射函数，W_ik是SVM决策函数中的权值，b_k是SVM决策函数中的偏置，r是提取特征个数，l是样本个数；

4b)将SVM分类器的优化目标函数修改为：

最小化： $g=\frac{1}{2}(W_1^T,W_2^T,\&CenterDot;\&CenterDot;\&CenterDot;W_r^T)\left(\begin{array}{c}{W}_1\\ W_2\\ \&CenterDot;\\ \&CenterDot;\\ \&CenterDot;\\ W_r\end{array}\right)+C\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&epsiv;}}_i---\left(6\right)$

约束： $y_i(\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{a}_k\mathrm{\&Phi;}\left(X_{\mathrm{ik}}\right)W_k+b)\&GreaterEqual;1+{\mathrm{\&epsiv;}}_i,i=1\&CenterDot;\&CenterDot;\&CenterDot;l$

C≥ε_i≥0，i＝1…l

式中，y_i是样本标识，ε_i是松弛变量，C是折中系数；

4c)利用Lagrange乘子法，将SVM分类器优化目标函数的对偶规划写为：

最大化： $L=\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i-\frac{1}{2}\underset{i,j=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_j\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{a_k}^{2}K(X_{\mathrm{ik}},X_{\mathrm{jk}})---\left(7\right)$

约束： $\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{y}_i=0$

0≤α_i≤C  i＝1…l

式中，α_i是Lagrange乘子，(Φ(X_ik)·Φ(X_jk)>是点乘，即核函数；

4d)取式(7)中的分项

为基于小波特征的混合核函数，即：

$K(X_i,X_j)=\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{a_k}^{2}K(X_{\mathrm{ik}},X_{\mathrm{jk}})=\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_{k}K(X_{\mathrm{ik}},X_{\mathrm{jk}})---\left(8\right)$

约束 $\underset{k=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_k=1.$

5.根据权利要求1所述的基于小波特征的混合核函数的SVM分类器的SAR图像分类方法，其中所述的通过对混合核函数中凸组合系数的优化，完成对图像特征的分类，按如下过程进行：

5a)分别对SVM分类器的优化目标函数g₀、混合核函数的凸组合系数ρ_k及其优化目标函数变化的阈值θ₀，进行初始化；

5b)利用如下关于二次规划得到SVM分类器优化目标函数中的权值W

最大化 $L=\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i-\frac{1}{2}\underset{i,j=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_{j}K(X_i,X_j)---\left(9\right)$

约束： $\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{y}_i=0$

0≤α_i≤C  i＝1…l

$W_k=\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i{y}_i{a}_k\mathrm{\&Phi;}\left(X_{\mathrm{ik}}\right)---\left(10\right)$

5c)固定二次规划中Lagrange乘子α_i，利用如下线性规划得到松弛变量ε_i及混合核函数中的凸组合系数ρ_i

最小化 $\underset{i=1}{\overset{l}{\mathrm{\&Sigma;}}}{\mathrm{\&epsiv;}}_i+\underset{j=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_j---\left(11\right)$

y_if(X_i)≥1+ε_i，i＝1…l

约束：ε_i≥0，i＝1…l；

${\mathrm{\&rho;}}_j>0,\underset{j=1}{\overset{r}{\mathrm{\&Sigma;}}}{\mathrm{\&rho;}}_j=1,j=1\&CenterDot;\&CenterDot;\&CenterDot;r$

5d)将公式(10)与公式(11)的值代入公式(6)，计算SVM分类器的优化目标函数值，并判断该函数值是否在给定的阈值范围内，如果在，则停止优化；否则，继续进行过程5b)～5c)，直到目标函数值变化值在给定阈值范围内停止；

5e)将优化后的数值固定，SVM分类器按照该固定数值对待分类的SAR测试样本图像特征进行分类，并将得到的分类结果以类别标识的形式输出；

5f)根据分类结果，计算待分类样本图像的识别率，并在计算机上显示。

Images