CN103955702B - 基于深度rbf网络的sar图像地物分类方法 - Google Patents

Abstract

本发明提出了一种基于深度RBF网络的SAR图像地物分类方法，主要解决现有技术分类准确率低的问题。其实现步骤是：(1)提取SAR图像的纹元特征；(2)通过深度RBF网络第一层RBF神经网络对SAR图像的纹元特征进行训练，得到图像的高级特征；(3)通过深度RBF网络的第二层稀疏自动编码器网络SAE对高级特征进行训练，得到图像的更高级特征；(4)通过深度RBF网络第三层RBF神经网络对更高级特征进行训练，得到图像地物分类特征；(5)将图像测试样本的地物分类特征与测试样本标签对比，调节深度RBF网络各层参数，得到最优测试分类准确率。本发明分类准确率高，可用于复杂图像分类。

Description

基于深度RBF网络的SAR图像地物分类方法

技术领域

本发明属于图像处理技术领域，特别涉及一种多特征，多类别的SAR图像分类方法，可用于目标识别，目标跟踪等领域。

背景技术

合成孔径雷达SAR在地球科学遥感领域的应用非常广泛。SAR图像地物分类是模式分类在SAR图像处理中的应用，它完成将图像数据从二维灰度空间转换到目标模式空间的工作其分类的结果是将图像根据不同属性划分为多个不同类别的子区域。即根据SAR图像的基本特性，提取可靠特征，将图像区分为人造目标、自然目标、背景和阴影四种类别，为不同的应用提供对应的感兴趣区域。人造目标包括机动车辆、建筑物等强散射体；自然目标包括树木、灌木、树林等自然作物；背景包括草地、平地、植被等占图像大部分面积的地域；阴影包括目标阴影、湖泊、水域等镜面散射体。

SAR图像地物分类技术是传统的自动地物分类ATC技术的扩展。一方面可以作为SAR图像解译系统的中前端，以带层次信息的感兴趣区域取代目标检测和鉴别模块，为目标识别过程提供潜在目标切片以及空间位置、尺寸等信息，另一方面，可以直接为人工判读提供必要参数，建立独立的辅助判读系统。

SAR图像地物分类，是在图像预处理后利用传统机器学习的方法进行分类。但是传统机器学习和信号处理仅含单层非线性变换的浅层学习结构。浅层模型的一个共性是仅含单个将原始输入信号转换到特定问题空间特征的简单结构。深度学习可通过学习一种深层非线性网络结构，实现复杂函数逼近，表征输入数据分布式表示，并展现了强大的从少数样本集中学习数据集本质特征的能力。

深度学习通过组合低层特征形成更加抽象的高层表示，即属性类别或特征表示，以发现数据的分布式特征表示。深度学习可通过多层映射单元和逐层学习的算法获取输入数据的主要结构信息。

近些年来，深度学习吸引了越来越多科研人员的注意力。Hinton和他的学生于2006年提出了深度置信网DBN模型，之后又提出了多层自动编码器深层结构。Lecun等人于1998年提出了卷积神经网络CNNs，之后出现许多变形的深度结构，例如去噪自动编码器。如今Google、微软、百度等知名的拥有大数据的高科技公司都非常重视深度学习的研究，因为只有更加复杂且更加强大的深度模型才能深刻地发现海量数据里复杂而丰富的信息，并通过对数据的分析，对未来或未知事件做更精准的预测。深度学习目前仍有大量工作需要研究。研究模型方面是否有其他更为有效且有理论依据的深度模型学习算法，即探索新的特征提取模型。在深度学习的应用拓展方面，如何充分合理地利用深度学习在增强传统学习算法的性能仍是目前各领域的研究重点。

目前深度学习Deep Learning相关的应用大都集中在人工智能AI相关的经典问题，例如目标识别Objection Recognition、语音识别Speech Recognition方面，还有很多工作集中在分类方面。

当前多数分类、回归等学习方法为浅层结构算法，其局限性在于有限样本和计算单元情况下对复杂函数的表示能力有限，针对复杂分类问题其泛化能力受到一定制约。典型的浅层学习结构包括传统隐马尔可夫模型HMM、条件随机场CRFs、最大熵模型、支持矢量机SVM、核回归以及仅包含单个隐含层的多层感知器MLP、RBF等。

现有的SAR图像地物分类方法大致可以分为基于单个分类器的SAR图像地物分类方法和基于多个分类器的分类器集成系统的SAR图像地物分类方法。基于单个分类器的方法包括基于神经网络的MLP和RBF、KNN、SVM分类器的SAR图像地物分类方法；基于多个分类器的分类器集成系统的方法包括基于bagging、boosting、子空间等集成策略的分类器集成SAR图像地物分类方法。其中基于单个分类器的SAR图像地物分类方法，是将训练数据输入单个分类器，经过学习后分类器具有分类识别能力，该类方法分类速度较快，但是分类器参数调节困难而且结果不稳定；基于分类器集成的SAR图像地物分类方法，是采用某种集成策略将多个分类器集成在一起，多个分类器共同对SAR图像数据进行决策，该类方法的分类效果虽好，但是速度较慢。

发明内容

本发明的目的在于针对上述基于单个分类器方法的不足，提出一种基于深度RBF网络的SAR图像地物分类方法，以提高分类准确率。

本发明的技术方案是这样实现的：

1.技术原理

径向基函数RBF是一个取值仅仅依赖于离原点距离的实值函数，即Φ（x）=Φ(‖x‖),或者是到任意中心点c的距离，即Φ（x，c）=Φ(‖x-c‖)，标准的距离一般使用欧氏距离。任意一个满足Φ（x）=Φ(‖x‖)特性的函数Φ都叫做径向基函数RBF，这种径向基函数RBF可以作为神经网络隐含层的核函数，完成神经网络的函数逼近等功能。

RBF神经网络由三层组成，一个输入层，一个隐含层和一个输出层。RBF神经网络的基本思想是：用径向基函数RBF作为“隐”单元的基函数构成隐含层空间，先将数据非线性映射到一个高维度的空间中，然后再在高维空间用线性模型来做回归或者分类。输入向量可以被直接映射到隐含层的空间。RBF神经网络可以以任意准确率逼近任意连续函数。目前广泛应用于非线性函数逼近、数据处理、模式识别、图像分类、系统建模等。

其中图像分类是通过浅层结构，即单个分类器进行分类，学习到的特征比较低级，本发明的出发点是拓展深度学习应用，着眼于如何充分合理地利用深度学习在增强传统学习算法RBF神经网络在SAR图像地物分类问题的性能。

为了达到以上目的，本发明基于深度学习的思想，提出了基于深度RBF网络的SAR图像地物分类方法，其包括以下步骤：

(1)给定一个由三层结构构成的深度RBF网络，其中第一层与第三层均是由一个输入单元，一个隐含单元和一个输出单元组成的RBF神经网络；第二层是由一个输入单元，一个隐含单元和一个输出单元组成的稀疏自编码器SAE神经网络；

(2)对SAR图像进行预处理，利用所述的深度RBF网络学习出SAR图像的地物分类特征：

(2a)选取包含城镇，农田，山脉三类地物的SAR图像作为分类对象，其中每类地物有50个训练样本，100个测试样本，每个样本的分辨率均是128*128，将每个样本分割成分辨率为64*64的图像块，得到200个训练样本和400个测试样本；

(2b)提取训练样本的纹元特征feature1，即SAR图像训练样本的低级特征；将纹元特征feature1作为深度RBF网络中第一层输入单元的输入特征，通过RBF神经网络对纹元特征feature1进行训练，得到RBF神经网络中隐含单元的输出feature2，即SAR图像的高级特征；

(2c)通过稀疏自编码网络SAE对SAR图像的高级特征feature2进行训练，得到该SAE网络输出单元的输出feature3，作为深度RBF网络的第二层输出，即SAR图像的更高级特征；

(2d)通过RBF神经网络对SAR图像的更高级特征feature3进行训练，得到该RBF神经网络输出单元的输出feature4，作为深度RBF网络的第三层输出，即SAR图像训练样本的地物分类特征；

(3)将SAR图像训练样本的地物分类特征feature4与SAR图像的训练样本类别标签进行对比，通过调节深度RBF网络各层的参数，得到最优的训练分类准确率；

(4)重复步骤(1)-(3)，利用深度RBF网络对SAR图像测试样本的纹元特征进行训练，得到SAR图像测试样本的地物分类特征，并将SAR图像测试样本的地物分类特征与SAR图像的测试样本类别标签进行对比，通过调节深度RBF网络各层的参数，得到最优的SAR图像地物测试分类准确率。

本发明与基于单个分类器的SAR图像地物分类方法相比，具有以下优点：

1.本发明由于利用了SAR图像的纹元特征，不仅使得样本的数目大大降低，提高了深度学习的效率，而且为提高深度学习的分类准确率提供了很好的基础特征。

2.本发明由于利用了深度神经网络的逐层学习，提取到SAR图像的层次特征，能更好地逼近图像的特征，克服了单个分类器逼近图像特征能力有限的缺点。

3.本发明由于利用了深度学习中“逐层初始化”的方法对图像低级特征进行训练，不仅降低了时间复杂度，还可以避免出现梯度扩散gradient diffusion的问题。

实验结果表明，本发明能够有效的应用于SAR图像地物分类问题，获得了比单个分类器支撑矢量机SVM和RBF神经网络更高的鲁棒性和分类准确率，可进一步应用在特征更复杂，类别更多的SAR图像地物分类问题上。

附图说明

图1是本发明的实现流程图；

图2是本发明中的深度RBF神经网络结构图；

图3是本发明中对SAR图像三类地物单个训练样本分割后的图像块示意图；

图4是本发明中对SAR图像三类地物单个测试样本分割后的图像块示意图；

图5是本发明中的SAR图像三类地物单个训练样本和单个测试样本的原图及纹元特征图。

具体实施方式

参照图1，对本发明的实施步骤详述如下：

步骤1，给定一个由三层结构构成的深度RBF网络。

如图2所示，本实例给定的深度RBF网络由三层结构构成，其中第一层与第三层均是由一个输入单元，一个隐含单元和一个输出单元组成的RBF神经网络；第二层是由一个输入单元，一个隐含单元和一个输出单元组成的稀疏自编码器SAE神经网络。

步骤2，对SAR图像进行预处理，利用所述的深度RBF网络学习出SAR图像的地物分类特征。

(2a)选取包含城镇，农田，山脉三类地物的SAR图像作为分类对象，其中每类地物有50个训练样本，100个测试样本，每个样本的分辨率均是128*128，将每个样本分割成分辨率为64*64的图像块，得到200个训练样本和400个测试样本；这三类地物单个训练样本如图3所示，其中图3(a)表示城镇，图3(b)表示农田，图3(c)表示山脉，单个测试样本如图4所示，其中图4(a)表示城镇，图4(b)表示农田，图4(c)表示山脉；

(2b)提取三类地物训练样本纹元特征feature1和测试样本的纹元特征test-feature1，即SAR图像训练样本和测试样本的低级特征，如图5所示，其中图5(a)表示单个训练样本的城镇，图5(b)表示单个训练样本的农田，图5(c)表示单个训练样本的山脉，图5(d)表示与5(a)对应的纹元特征，图5(e)表示与5(b)对应的纹元特征，图5(f)表示与5(c)对应的纹元特征；其中图5(g)表示单个测试样本的城镇，图5(h)表示单个测试样本的农田，图5(i)表示单个测试样本的山脉，图5(j)表示与5(g)对应的纹元特征，图5(k)表示与5(h)对应的纹元特征，图5(l)表示与5(i)对应的纹元特征；

(2b1)用遍历的方法对每个64*64的训练样本取9*9的图像块，每个训练样本取出56*56个块，将9*9的块变成81*1的列向量，则每个训练样本变成81*3136的矩阵；

(2b2)随机生成一个50*81的随机矩阵rand，将三类地物的训练样本矩阵分别乘以随机矩阵rand，得到50*3136大小的矩阵；

(2b3)每类训练样本的50*3136矩阵用K均值k-means方法聚类出50个聚类中心即大小为50*50的矩阵，将三类训练样本的聚类中心组成一个150*50的中心矩阵；

(2b4)统计每类每个样本与中心矩阵的最小欧氏距离，得到训练样本的统计直方图，即纹元特征feature1；

(2c)提取训练样本的纹元特征feature1，即SAR图像训练样本的低级特征；将纹元特征feature1作为深度RBF网络中第一层输入单元的输入特征，通过RBF神经网络对纹元特征feature1进行训练，得到RBF神经网络中隐含单元的输出feature2，即SAR图像的高级特征；

(2c1)将纹元特征feature1作为矩阵实验室MATLAB自带的RBF神经网络训练函数NEWRB()的输入单元；

(2c2)矩阵实验室MATLAB自带的RBF神经网络训练函数NEWRB()用非监督K均值K-means聚类方法确定径向基函数RBF的欧式距离中心和均方差，并根据均方差和纹元特征feature1自动确定RBF神经网络隐含单元结点数目；

(2c3)调节RBF神经网络的均方差，获得纹元特征feature1的训练准确率；

(2d)通过稀疏自编码网络SAE对SAR图像的高级特征feature2进行训练，得到该SAE网络输出单元的输出feature3，作为深度RBF网络的第二层输出，即SAR图像的更高级特征；

(2d1)将SAR图像的高级特征feature2作为稀疏自编码网络SAE的输入单元；

(2d2)随机初始化稀疏自编码网络SAE中连接输入单元与隐含单元的权值矩阵W和偏置值b，用反向传播算法BP训练权值矩阵W和偏置值b；

(2d3)利用梯度下降法L-BFGS的多次迭代对反向传播算法BP训练权值矩阵W和偏置值b进行更新，得到最优的权值矩阵W和偏置值b，完成稀疏自编码网络SAE的训练；

(2d4)调节稀疏自编码网络SAE的隐含单元结点数目，获得SAR图像的高级特征feature2训练准确率；

(2e)通过RBF神经网络对SAR图像的更高级特征feature3进行训练，得到该RBF神经网络输出单元的输出feature4，作为深度RBF网络的第三层输出，即SAR图像训练样本的地物分类特征；

(2e1)将SAR图像的更高级特征feature3作为矩阵实验室MATLAB自带的RBF神经网络训练函数NEWRB()的输入单元；

(2e2)矩阵实验室MATLAB自带的RBF神经网络训练函数NEWRB()用非监督方法K均值K-means聚类方法确定径向基函数RBF的欧式距离中心和均方差，并根据均方差和SAR图像的更高级特征feature3自动确定RBF神经网络隐含单元结点数目；

(2e3)调节RBF神经网络的均方差，获得SAR图像的更高级特征feature3的训练准确率。

步骤3，将SAR图像训练样本的地物分类特征feature4与SAR图像的训练样本类别标签进行对比，通过调节深度RBF网络各层的参数，得到最优的训练分类准确率。

(3a)用矩阵实验室MATLAB自带的sim()函数对SAR图像训练样本的地物分类特征进行预测，得到训练样本地物特征的标签label1；

(3b)将预测出训练样本地物特征的标签label1与SAR图像给定的训练样本类别标签label2进行对比，统计标签相同的样本个数，得到训练分类准确率，通过微调深度RBF神经网络各层的参数得到最优的训练分类准确率。

步骤4，重复步骤(1)-(3)，得到最优的SAR图像地物测试分类准确率。

(4a)提取测试样本的纹元特征test-feature1；利用深度RBF网络第一层RBF神经网络对该纹元特征test-feature1进行训练，得到RBF神经网络隐含单元的输出test-feature2，即SAR图像测试样本的高级特征，利用矩阵实验室MATLAB自带的sim()函数，预测出测试样本高级特征的标签test-label1；

(4b)将预测出测试样本高级特征的标签test-label1与SAR图像给定的测试样本类别标签test-label进行对比，统计标签相同的样本个数，得到RBF神经网络的测试分类准确率，通过微调RBF神经网络的均方差得到最优的RBF神经网络测试分类准确率；

(4c)测试样本高级特征test-feature2通过深度RBF网络第二层和第三层的训练，得到测试样本的地物分类特征test-feature4,利用矩阵实验室MATLAB自带的sim()函数，预测出测试样本地物分类特征的标签test-label2；

(4d)将预测出测试样本地物分类特征的标签test-label2与SAR图像给定的测试样本类别标签test-label进行对比，统计标签相同的样本个数，得到深度RBF网络的测试分类准确率，通过微调深度RBF网络各层的参数得到最优的RBF神经网络测试分类准确率。

本发明的效果可以通过以下仿真实验来进行验证。

1.仿真条件：

在CPU为Core(TM)22.3GHZ、内存2G、WINDOWS XP系统上使用MatlabR2012a进行仿真。

2.仿真内容与结果：

对SAR图像测试样本的纹元特征分别用支撑矢量机SVM，RBF神经网络和深度RBF网络三种分类方法进行分类，每类样本的分类实验和三类样本的分类实验均运行20次，最终仿真结果取20次实验的平均值，三种算法的分类准确率对比结果如表一所示：

表一三种算法分类精度对比表

数据库	深度RBF网络	SVM	RBF神经网络
				第一类城镇	99.500%	95.500%	99.000%
第二类农田	99.250%	93.250%	97.000%
				第三类山脉	93.750%	87.500%	92.250%
三类地物SAR	97.500%	92.083%	96.083%

从仿真效果上看，由于深度RBF网络利用了逐层学习的算法，提取出SAR图像地物主要的层次特征，获得比单个分类器支撑矢量机SVM和RBF神经网络更高的鲁棒性和分类准确率。

Claims (2)

1.一种基于深度RBF网络的SAR图像地物分类方法，包括以下步骤：

(1)给定一个由三层结构构成的深度RBF网络，其中第一层与第三层均是由一个输入单元，一个隐含单元和一个输出单元组成的RBF神经网络；第二层是由一个输入单元，一个隐含单元和一个输出单元组成的稀疏自编码器SAE神经网络；

(2)对SAR图像进行预处理，利用所述的深度RBF网络学习出SAR图像的地物分类特征：

(2a)选取包含城镇，农田，山脉三类地物的SAR图像作为分类对象，其中每类地物有50个训练样本，100个测试样本，每个样本的分辨率均是128*128，将每个样本分割成分辨率为64*64的图像块，得到200个训练样本和400个测试样本；

(2b)提取训练样本的纹元特征feature1，即SAR图像训练样本的低级特征；将纹元特征feature1作为深度RBF网络中第一层输入层的输入特征输入，通过RBF神经网络对纹元特征feature1进行训练，得到RBF神经网络中隐含单元的输出feature2，即SAR图像的高级特征；

所述的通过RBF神经网络对纹元特征feature1进行训练，按如下步骤进行：

(2b1)将纹元特征feature1作为矩阵实验室MATLAB自带的RBF神经网络训练函数NEWRB()的输入；

(2b2)矩阵实验室MATLAB自带的RBF神经网络训练函数NEWRB()用非监督方法K均值K-means聚类方法确定径向基函数RBF的欧式距离中心和均方差，并根据均方差和纹元特征feature1自动确定RBF神经网络隐含单元结点数目；

(2b3)调节RBF神经网络的均方差，获得纹元特征feature1的训练准确率；

(2c)通过稀疏自编码网络SAE对SAR图像的高级特征feature2进行训练，得到该SAE网络输出单元的输出feature3，作为深度RBF网络的第二层输出，即SAR图像的更高级特征：

(2c1)将SAR图像的高级特征feature2作为稀疏自编码网络SAE的输入单元的输入；

(2c2)随机初始化稀疏自编码网络SAE中连接输入单元与隐含单元的权值矩阵W和偏置值b，用反向传播算法BP训练权值矩阵W和偏置值b；

(2c3)利用梯度下降法L-BFGS的多次迭代对反向传播算法BP训练权值矩阵W和偏置值b进行更新，得到最优的权值矩阵W和偏置值b，完成稀疏自编码网络SAE的训练；

(2c4)调节稀疏自编码网络SAE的隐含单元结点数目，获得SAR图像的高级特征feature2训练准确率；

(2d)通过RBF神经网络对SAR图像的更高级特征feature3进行训练，得到该RBF神经网络输出单元的输出feature4，作为深度RBF网络的第三层输出，即SAR图像训练样本的地物分类特征；

(3)将SAR图像训练样本的地物分类特征feature4与SAR图像的训练样本类别标签进行对比，通过调节深度RBF网络各层的参数，得到最优的训练分类准确率：

(3a)用矩阵实验室MATLAB自带的sim()函数对SAR图像训练样本的地物分类特征进行预测，得到训练样本地物特征的标签label1；

(3b)将预测出训练样本地物特征的标签label1与SAR图像给定的训练样本类别标签label2进行对比，统计标签相同的样本个数，得到训练分类准确率，通过微调深度RBF网络各层的参数得到最优的训练分类准确率；

(4)重复步骤(1)-(3)，利用深度RBF网络对SAR图像测试样本的纹元特征进行训练，得到SAR图像测试样本的地物分类特征，并将SAR图像测试样本的地物分类特征与SAR图像的测试样本类别标签进行对比，通过调节深度RBF网络各层的参数，得到最优的SAR图像地物测试分类准确率。

2.根据权利要求1所述的方法，其中步骤(4)所述的将SAR图像测试样本的地物分类特征与SAR图像的测试样本类别标签进行对比，通过调节深度RBF网络各层的参数，得到最优的SAR图像地物测试分类准确率，按如下步骤进行：

(4a)提取测试样本的纹元特征test-feature1；利用深度RBF网络第一层RBF神经网络对该纹元特征test-feature1进行训练，得到RBF神经网络隐含单元的输出test-feature2，即SAR图像测试样本的高级特征，利用矩阵实验室MATLAB自带的sim()函数，预测出测试样本高级特征的标签test-label1；

(4b)将预测出测试样本高级特征的标签test-label1与SAR图像给定的测试样本类别标签test-label进行对比，统计标签相同的样本个数，得到RBF神经网络的测试分类准确率，通过微调RBF神经网络的均方差得到最优的RBF神经网络测试分类准确率；

(4c)测试样本高级特征test-feature2通过深度RBF网络第二层和第三层的训练，得到测试样本的地物分类特征test-feature4,利用矩阵实验室MATLAB自带的sim()函数，预测出测试样本地物分类特征的标签test-label2；

(4d)将预测出测试样本地物分类特征的标签test-label2与SAR图像给定的测试样本类别标签test-label进行对比，统计标签相同的样本个数，得到深度RBF网络的测试分类准确率，通过微调深度RBF网络各层的参数得到最优的RBF神经网络测试分类准确率。