CN102938073A - 一种遥感图像的分类方法 - Google Patents

Abstract

本发明提供了遥感图像的分类方法，首先获取遥感图像中地物的样本，然后构建用于地物分类的半监督神经网络模型，最后基于半监督神经网络进行地物分类。本发明在半监督神经网络中引入结构性误差代替经验误差，有效地避免了当目标函数局部取得局部极小值带来的分类错误；并在极值求解过程中引入了用于求解非线性优化的拟牛顿极值求解算法，从而有效地提高了地物分类精度，为后续进一步进行环境检测、地形测绘等应用提供有益保障。

Description

一种遥感图像的分类方法

技术领域

本发明涉及遥感图像处理领域，特别是一种遥感图像地物分类的方法。

背景技术

遥感图像在国民经济的各个领域发挥着越来越重要的作用，其中，遥感图像分类显得尤为重要，如根据植被覆盖率进行水土流失监测、根据分类后的海洋溢油面积计算估算损失和环境保护、通过遥感图像分类后得到的结果可以自动生成测绘地图等。在图像处理中，根据分类过程中所使用的样本是否有标记，将现有的遥感图像分类方法分为全监督、半监督和非监督的三类方法。文献“Semisupervised Neural Networks forEfficient Hyperspectral Image Classification，IEEE Transactions on Geoscience and RemoteSensing，2010,Vol.48(5),p2271–2282.”提出了一种半监督神经网络的超光谱图像分类方法。该方法首先构建了基于流形正则化框架下的半监督神经网络，然后使用带有平衡约束的随机梯度下降法对能量函数进行优化。但是，该方法分类训练过程复杂、估计误差较大，且通过经验误差来确定判别函数，分类精度不高且会陷入局部最优，其泛化能力尚有提高空间。

发明内容

为了克服现有技术的不足，本发明提供一种对遥感图像进行半监督分类的方法，能够有效提高地物分类精度。

本发明的技术方案包括下述步骤：构建半监督神经网络模型以用于遥感图像的地物分类、用拟牛顿法对模型进行求解得到地物分类结果。

（a）获取遥感图像中地物的样本。从遥感图像中提取各个像素的灰度特征，根据不同地物具有不同灰度值的特性，对遥感图像中已知地物类别的部分进行标记，从而获得标记样本；未知类别部分则作为无标记样本。将标记样本与无标记样本集合，即得到了用于进行分类的样本数据。

（b）构建用于地物分类的半监督神经网络模型。该神经网络模型为一个三层感知神经网络，其中输入层包括1个神经元（与特征维数有关），隐层包括三个神经元，输出层包括4个神经元（与预定义的地物类别有关）；在该神经网络中，将SVM中的结构性误差引入代替感知神经网络的经验误差，以此作为新的正则化目标函数，从而得到了基于结构误差的新的半监督神经网络模型。

（c）基于半监督神经网络进行地物分类。基于神经网络进行分类的过程，实际上是一个目标函数的最小化过程。由于(b)中结构性误差的最小化过程包含了二阶可导项，因此采用拟牛顿进行求解，从而大大提高计算效率。

本发明的有益效果是：本发明在半监督神经网络中引入结构性误差代替经验误差，有效地避免了当目标函数局部取得局部极小值带来的分类错误；并在极值求解过程中引入了用于求解非线性优化的拟牛顿极值求解算法，从而有效地提高了地物分类精度，为后续进一步进行环境检测、地形测绘等应用提供有益保障。

具体实施方式

本发明的技术方案包括下述步骤：构建半监督神经网络模型以用于遥感图像的地物分类、用拟牛顿法对模型进行求解得到地物分类结果，具体如下：

（1）构建半监督神经网络模型

以遥感图像中像素的灰度值作为描述地物的特征，如不同的地物（河流、耕地等）具有不同的灰度值。从包含多种地物的遥感图像中，提取遥感图像中各类地物的特征，在本发明中，选用地物的灰度特征，即从遥感图像中提取所有像素点的灰度值，形成一个由像素灰度值组成的样本集合

其中样本x₁,x₂,…，_lx，_lx₁…,表示遥感图像中各个像素的一维灰度特征向量，n表示所有遥感图像中包含的像素个数。针对样本集合

人工为其前l个样本标记类别，形成标记集合{y₁,…,y_l}，其中y_i∈{-1,+1}（i＝1,2,...,l），其中每个像素灰度值x_i是实数，并且标记y_i∈{-1,+1}。而样本集合中后u个数据点为未标记数据。

对图像进行半监督分类也就是构建并求解目标函数的过程，决策函数f的最小化正则化函数为：

其中，V表示标记数据导致损失的代价函数，γ_M控制数据边缘分布内蕴几何的复杂度，在构建的新模型中，选择神经网络构造f(w,x)，在模型中，用于解决不适定问题的Laplacian正则化项改为

根据nguyen-widrow设置初始权值，使用l+u个节点构造数据邻域图，边缘的权值为S_ij，由这些权值形成一个(l+u)×(l+u)矩阵S，那么L＝D-S，其中D为S的对角矩阵，其对角元素

且f＝[f(w,x₁),…f(w,x_l+u)]^T，

（2）将结构性误差引入得到新的半监督神经网络模型

针对神经网络在训练过程中，通过经验误差来调节权重导致泛化能力差的问题，结合SVM的结构性误差思想对半监督神经网络进行改进。

本发明选择三层的多层感知网络（Multiple layer perception,MLP），一个输入层、一个输出和一个隐层，输入层用于输入样本的特征向量，输出层输出的是样本的类别。对于具有Sigmoid激发函数的三层MLP：f(x)＝W⁽²⁾h(W⁽¹⁾x+b₁)+b₂，其中，W⁽¹⁾、W⁽²⁾分别表示输入层到隐层、隐层到输出层的权值，b₂分别表示输出层的输出结果，h为隐层输出矢量函数。假设输出层b₂＝0，则隐层输出矢量y⁽¹⁾＝h(W⁽¹⁾x+b₁)，那么分类超平面可以写成W⁽¹⁾y⁽¹⁾＝0，空间的点与分类超平面的距离为d，表示式如下：

$d=\frac{f\left(x\right)}{\left|\right|W^{\left(2\right)}\left|\right|}---\left(3\right)$

则对于已标记的样本，可以得到新的正则化目标函数

$L=\frac{1}{l}\underset{i=1}{\overset{l}{\mathrm{\Σ}}}{(y_i\sqrt{n}-\frac{f\left(x\right)}{\left|\right|W^{\left(2\right)}\left|\right|})}^2+\frac{\mathrm{\γ}}{{(u+l)}^2}{f}^T\mathrm{Lf}---\left(4\right)$

其中n为隐神经元的数目，u为未标记样本个数，l是标记样本个数。输出目标yi的值为-1或1。在对神经网络训练过程中，使用拟牛顿法以加速算法的收敛，同时，由于用未标记样本辅助构建损失函数，能够更为准确的描述样本的真实分布。

（3）用拟牛顿法对模型进行求解

根据（4）得到的新的正则化目标函数，MLP输入维数是m，n为隐神经元的数目，则MLP神经网络可以定义为以下形式：

$W^{\left(1\right)}=\left[\begin{array}{cccc}{w}_{11}^{\left(1\right)}& w_{12}^{\left(1\right)}& \·\·\·& w_{1m}^{\left(1\right)}\\ w_{21}^{\left(1\right)}& w_{22}^{\left(1\right)}& \·\·\·& w_{2m}^{\left(1\right)}\\ \·& \·& \·& \·\\ \·& \·& \·& \·\\ \·& \·& \·& \·\\ w_{n1}^{\left(1\right)}& w_{n2}^{\left(1\right)}& \·\·\·& w_{\mathrm{nm}}^1\end{array}\right]---\left(5\right)$

对代价函数的输入和输出分别求梯度，得到：

$\frac{\∂V}{{\∂w}_{\mathrm{jk}}^{\left(1\right)}}=\frac{-{2w}_j^{\left(2\right)}}{\left|\right|W^{\left(2\right)}\left|\right|}\underset{i=1}{\overset{l}{\mathrm{\Σ}}}{e}_i{h}^{\′}(\underset{p=1}{\overset{m}{\mathrm{\Σ}}}{w}_{\mathrm{jp}}^{\left(1\right)}{x}_{\mathrm{ip}}+b_j)x_{\mathrm{ik}}---\left(6\right)$

$\frac{\∂V}{{\∂b}_j}=\frac{-2w_j^{\left(2\right)}}{\left|\right|W^{\left(2\right)}\left|\right|}\underset{i=0}{\overset{l}{\mathrm{\Σ}}}{e}_i{h}^{\′}(\underset{p=1}{\overset{n}{\mathrm{\Σ}}}{w}_{\mathrm{jp}}{x}_{\mathrm{ip}}+b_j)---\left(7\right)$

再计算目标函数

并根据AUC＞AUC_max判断训练结束，得到

AUC_max←AUC，W⁽¹⁾←W⁽¹⁾(t)，W⁽²⁾←W⁽²⁾(t)，b←b(t)，

最后输出训练好的神经网络参数W⁽¹⁾，W⁽²⁾，b，将训练好的神经网络参数代入判别函数f(w,x)＝W⁽²⁾h(W⁽¹⁾x+b1)+b₂中，得到最终的地物分类结果。

Claims (1)

1.一种遥感图像的分类方法，其特征在于包括下述步骤：

（a）从遥感图像中提取各个像素的灰度特征，根据不同地物具有不同灰度值的特性，对遥感图像中已知地物类别的部分进行标记，从而获得标记样本；未知类别部分则作为无标记样本；将标记样本与无标记样本集合，即得到了用于进行分类的样本数据；

（b）构建用于地物分类的半监督神经网络模型，该神经网络模型为一个三层感知神经网络，其中输入层包括1个神经元，隐层包括三个神经元，输出层包括4个神经元；在该神经网络中，将SVM中的结构性误差引入代替感知神经网络的经验误差，以此作为新的正则化目标函数，从而得到了基于结构误差的新的半监督神经网络模型；

（c）采用拟牛顿进行求解半监督神经网络，进行地物分类。