CN104408483B - 基于深度神经网络的sar纹理图像分类方法 - Google Patents

Abstract

本发明提出了一种基于深度神经网络的SAR纹理图像分类方法，主要解决已有技术应用在样本数量较大，特征维数较多的SAR纹理图像分类准确率低的问题。其实现步骤是：(1)提取SAR图像的低级特征；(2)通过深度神经网络的第一层RBF神经网络对SAR图像训练低级特征，得到图像的高级特征；(3)通过深度神经网络的第二层RBM神经网络训练高级特征，得到图像的更高级特征；(4)通过深度神经网络的第三层RBF神经网络训练更高级特征，得到图像纹理分类特征；(5)将图像测试样本的纹理分类特征与测试样本标签对比，调节深度神经网络各层参数，得到最优测试分类准确率。本发明分类准确率高，可用于目标识别或目标跟踪。

Description

基于深度神经网络的SAR纹理图像分类方法

技术领域

本发明属于图像处理技术领域，特别涉及一种基于深度神经网络的多样本、多类别、特征复杂的SAR纹理图像分类方法，可用于目标识别，目标跟踪等领域。

背景技术

合成孔径雷达SAR在地球科学遥感领域的应用非常广泛。SAR纹理图像分类是模式识别在SAR图像处理中的应用，它将图像数据从二维灰度空间转换到目标模式空间，其分类的结果是根据图像的不同属性将其划分为多个不同类别的子区域。SAR图像的可靠分类特征主要是灰度特征和纹理特征，但是在实际应用中利用灰度特征进行分类得到的结果并不是很理想，因此好的纹理特征成为提高分类精度的重要手段。SAR图像中含有特别丰富的纹理信息，不同的地表粗糙程度代表不同的纹理特征，从SAR图像中提取有效的纹理信息，成为了合成孔径雷达识别地物的一项关键技术。

传统的获取图像纹理特征的主要方法有基于几何知识的方法、基于结构的方法、基于统计学的方法、基于信号处理的方法和基于建模的方法。目前的热点方法是基于统计学的纹理提取方法。纹理图像的主要分类算法有距离度量法、人工神经网络分类算法和支撑矢量机，其中人工神经网络分类算法在样本数量很大时能够获得较高的分类准确率。

SAR纹理图像分类是利用传统机器学习的方法对其纹理特征进行分类。但是传统机器学习和信号处理方法是仅含单层非线性变换的浅层学习结构。浅层模型的一个共性是仅含单个将原始输入信号转换到特定问题空间特征的简单结构。深度学习通过学习一种深层非线性网络结构，实现复杂函数逼近，表征输入数据的分布式表示，并展现了强大的从少数样本集中学习数据集本质特征的能力。

深度学习通过组合低层特征形成更加抽象的高层表示，即属性类别或特征表示，以发现数据的分布式特征表示。深度学习可通过多层映射单元和逐层学习的算法获取输入数据的主要结构信息。

近年来，随着计算机技术的迅速发展，大量的文本，语音，图像，视频等数据与日俱增，大量的数据成为有价值的信息资源，信息成为商业运作的核心。数据挖掘的核心原理是通过充分利用计算机的先进技术从大量的复杂的数据中攫取出其本质特征，从而可以充分利用其中有价值的数据信息。数据挖掘包含很多方法，其中非常重要的一种是分类。分类的方法同样在机器学习，人工智能以及模式识别等相关科技领域已然成为当前受到关注的方法。它可以从内容丰富、蕴藏大量信息的数据库中提取描述重要数据类的模型，用于做出智能决策，所以应用非常广泛。分类的目的是学习到一个分类函数或分类模型，通过该分类模型，分析训练数据表现出的特性，描述每个类的特征，根据类的描述对测试数据进行分类。

发明内容

本发明的目的在于针对上述已有技术的不足，提出一种深度神经网络的SAR纹理图像分类方法，以获得较高的分类准确率。

本发明的技术方案是这样实现的：

一.技术原理

径向基函数RBF是一个取值仅仅依赖于离原点距离的实值函数，即Φ(x)＝Φ(‖x‖),或者是到任意中心点c的距离，即Φ(x，c)＝Φ(‖x-c‖)，标准的距离一般使用欧氏距离。任意一个满足Φ(x)＝Φ(‖x‖)特性的函数Φ都叫做径向基函数RBF，这种径向基函数RBF可以作为神经网络隐含层的核函数，完成神经网络的函数逼近等功能。

RBF神经网络由三层组成，一个输入层，一个隐含层和一个输出层。RBF神经网络的基本思想是：用径向基函数RBF作为“隐”单元的基函数构成隐含层空间，先将数据非线性映射到一个高维度的空间中；然后在高维空间用线性模型来做回归或者分类；再将输入向量直接映射到隐含层的空间。RBF神经网络可以以任意准确率逼近任意连续函数。目前广泛应用于非线性函数逼近、数据处理、模式识别、图像分类、系统建模等。

受限玻尔兹曼机RBM神经网络由两层组成，一个隐含单元和一个可视单元。隐含单元和可视单元包含一定数量的神经元。受限玻尔兹曼机RBM神经网络是一种模拟神经网络结构的随机概率模型。隐含单元和可视单元自身的所有神经元之间都不连接，但隐含单元和可视单元之间的所有神经元是完全连接的。受限玻尔兹曼机RBM神经网络是一种无导师学习的特征提取模型，由于它是基于能量的模型，所以能够提取到较优的特征，可通过对比差异算法CD算法来训练受限玻尔兹曼机RBM神经网络。

传统的SAR纹理图像分类方法是通过浅层学习结构，学习到的特征比较低级，本发明的出发点是拓展深度学习应用，着眼于如何充分合理地利用深度学习在增强传统学习算法RBF神经网络在SAR纹理图像地物分类问题的性能。

二.技术方案

根据上述原理，本发明的技术方案包括以下步骤：

步骤1，定义深度神经网络包括三层结构，其中第一层与第三层均是由一个输入单元，一个隐含单元和一个输出单元组成的径向基函数RBF神经网络；第二层是由一个隐含单元和一个可视单元组成的受限玻尔兹曼机RBM神经网络；

步骤2，通过学习SAR图像训练样本的纹理分类特征，训练出所述的深度神经网络：

(2a)选取包含城镇，农田，山脉三类地物的SAR图像作为第一个实验对象，选取包含十三类纹理实物的SAR图像texture作为第二个实验对象，提取这两个实验对象训练样本的纹元特征和灰度特征，即实验对象训练样本的低级特征，然后通过对该低级特征进行训练，得到深度神经网络；

(2b)将实验对象训练样本的低级特征作为深度神经网络中第一层输入单元的输入特征，通过径向基函数RBF神经网络对低级特征进行训练，得到该RBF神经网络中隐含单元的输出，作为深度神经网络的第一层输出，即实验对象的高级特征，完成深度神经网络第一层的训练；

(2c)通过受限玻尔兹曼机RBM神经网络对实验对象的高级特征进行训练，得到该RBM神经网络中隐含单元的输出，作为深度神经网络的第二层输出，即实验对象的更高级特征，完成深度神经网络第二层的训练；

(2d)通过径向基函数RBF神经网络对实验对象的更高级特征进行训练，得到该RBF神经网络输出单元的输出，作为深度神经网络的第三层输出，即实验对象训练样本的纹理分类特征，完成深度神经网络第三层的训练；

步骤3，利用步骤2训练好的深度神经网络对实验对象测试样本进行分类：

(3a)提取实验对象测试样本的低级特征，利用深度神经网络第一层径向基函数RBF神经网络对该低级特征进行训练，得到该RBF神经网络隐含单元的输出，即实验对象测试样本的高级特征，利用矩阵实验室MATLAB自带的sim()函数，预测出该高级特征的类别标签；

(3b)将预测出实验对象测试样本高级特征的类别标签与实验对象给定的测试样本类别标签进行对比，统计标签相同的样本个数，完成利用径向基函数RBF神经网络对SAR纹理图像的分类；

(3c)将实验对象测试样本的高级特征通过深度神经网络第二层和第三层的训练，得到实验对象测试样本的纹理分类特征，利用矩阵实验室MATLAB自带的sim()函数，预测出该测试样本纹理分类特征的标签；

(3d)将预测出实验对象测试样本地物分类特征的标签与实验对象给定的测试样本类别标签进行对比，统计标签相同的样本个数，完成利用深度神经网络对SAR纹理图像的分类。

本发明与已有技术相比，具有以下优点：

1.本发明由于利用了SAR图像的低级特征，不仅提高了深度神经网络分类的效率，而且为提高深度神经网络的分类准确率提供了很好的基础特征。

2.本发明由于利用了深度神经网络逐层学习的优势，提取到SAR图像的层次特征，使其更好地逼近图像的本质特征，克服了已有技术逼近图像特征能力有限的缺点。

3.本发明由于利用了深度学习中“逐层初始化”的方法，通过对SAR图像的低级特征进行训练，不仅降低了时间复杂度，还可以避免出现梯度扩散的问题。

实验结果表明，本发明能够有效的应用于SAR纹理图像的分类问题，获得了比已有技术支撑矢量机SVM和径向基函数RBF神经网络更高的鲁棒性和分类准确率，可进一步应用于特征更复杂，类别更多的SAR纹理图像的分类问题。

附图说明

图1是本发明的实现流程图；

图2是本发明中的深度神经网络的结构图；

图3是本发明仿真使用的各类实物的单个训练样本图；

图4是本发明仿真使用的各类实物的单个测试样本图。

具体实施方式

参照图1，对本发明的实施步骤详述如下：

步骤1，定义一个由三层结构构成的深度神经网络。

如图2所示，本实例定义的深度神经网络包括三层结构，其中第一层与第三层均是由一个输入单元，一个隐含单元和一个输出单元组成的径向基函数RBF神经网络；第二层是由一个隐含单元和一个可视单元组成的受限玻尔兹曼机RBM神经网络。

步骤2，通过学习SAR图像训练样本的纹理分类特征，训练出所述的深度神经网络。

(2a)提取SAR图像训练样本的纹元特征和灰度特征，即SAR图像训练样本的低级特征；

从SAR图像地物数据库中选取包含城镇，农田，山脉三类地物的SAR图像作为第一个实验对象，从USC-SIPI数据库中选取包含十三类纹理实物的SAR图像texture作为第二个实验对象，其中的十三类纹理实物分别是：草地、树皮、稻草、人字形编织、粗纺毛织物、小牛皮压、沙滩、水、木纹、拉菲亚树、猪皮、砖墙、塑料泡沫。texture每类实物原图的大小为1024*1024，将每类实物原图平均分割成大小为64*64的图像块，每类中随机选取128个作为训练样本，其余128个样本作为测试样本。

texture各类实物的单个训练样本如图3所示，其中图3(a)-3(m)分别代表草地、树皮、稻草、人字形编织、粗纺毛织物、小牛皮压、沙滩、水、木纹、拉菲亚树、猪皮、砖墙、塑料泡沫十三类纹理实物。

texture各类实物的单个测试样本如图4所示，其中图4(a)-4(m)分别代表草地、树皮、稻草、人字形编织、粗纺毛织物、小牛皮压、沙滩、水、木纹、拉菲亚树、猪皮、砖墙、塑料泡沫十三类纹理实物。

提取实验对象纹元特征的实施步骤详述如下：

(2a1)用遍历的方法对每个64*64的训练样本取9*9的图像块，每个训练样本取出56*56个块，将9*9的块变成81*1的列向量，则每个训练样本变成81*3136的矩阵；

(2a2)随机生成一个50*81的随机矩阵rand，将各类地物的训练样本矩阵分别乘以随机矩阵rand，得到50*3136大小的矩阵；

(2a3)每类训练样本的50*3136矩阵用K均值聚类方法得到50个聚类中心，即大小为50*50的矩阵，将十三类训练样本的聚类中心组成一个650*50的中心矩阵；

(2a4)统计每类每个样本与中心矩阵的最小欧氏距离，得到训练样本的统计直方图，即纹元特征；

(2b)通过径向基函数RBF神经网络对实验对象训练样本的低级特征进行训练，完成深度神经网络第一层的训练：

(2b1)将实验对象训练样本的低级特征作为矩阵实验室MATLAB自带的径向基函数RBF神经网络训练函数NEWRB()的输入单元；

(2b2)用K均值聚类方法初始化径向基函数RBF神经网络的欧式距离中心，随机初始化径向基函数RBF神经网络的均方差，径向基函数RBF神经网络训练函数NEWRB()根据均方差和欧式距离中心自动确定该RBF神经网络隐含单元的结点数目；

(2b3)通过梯度下降法的多次迭代，调节径向基函数RBF神经网络的隐含单元的结点数目，使得径向基函数RBF神经网络的均方差最小，得到该RBF神经网络中隐含单元的输出，作为深度神经网络的第一层输出，即实验对象的高级特征，完成深度神经网络第一层径向基函数RBF神经网络的训练；

(2c)通过受限玻尔兹曼机RBM神经网络对实验对象的高级特征进行训练，完成深度神经网络第二层的训练：

(2c1)将实验对象的高级特征作为受限玻尔兹曼机RBM神经网络可视单元的输入特征；

(2c2)随机初始化受限玻尔兹曼机RBM神经网络的权值矩阵W和偏置值b，通过对比差异CD算法训练权值矩阵W和偏置值b；

(2c3)通过吉布斯采样算法的多次迭代，优化权值矩阵W和偏置值b，得到受限玻尔兹曼机RBM神经网络中隐含单元的输出，作为深度神经网络的第二层输出，即实验对象的更高级特征，完成受限玻尔兹曼机RBM神经网络的训练；

(2d)通过径向基函数RBF神经网络对实验对象的更高级特征进行训练，完成深度神经网络第三层的训练：

(2d1)将实验对象的更高级特征作为矩阵实验室MATLAB自带的径向基函数RBF神经网络训练函数NEWRB()的输入单元；

(2d2)用K均值聚类方法初始化径向基函数RBF神经网络的欧式距离中心，随机初始化径向基函数RBF神经网络的均方差，径向基函数RBF神经网络训练函数NEWRB()根据均方差和欧式距离中心自动确定该RBF神经网络隐含单元的结点数目；

(2d3)通过梯度下降法的多次迭代，调节径向基函数RBF神经网络的隐含单元的结点数目，使得径向基函数RBF神经网络的均方差最小，得到该RBF神经网络输出单元的输出，作为深度神经网络的第三层输出，即实验对象训练样本的纹理分类特征，完成深度神经网络第三层径向基函数RBF神经网络的训练。

步骤3，利用步骤2训练好的深度神经网络对实验对象测试样本进行分类。

(3a)提取实验对象测试样本的低级特征，利用深度神经网络第一层径向基函数RBF神经网络对该低级特征进行训练，得到该RBF神经网络隐含单元的输出，即实验对象测试样本的高级特征，利用MATLAB的sim()函数，预测出该高级特征的类别标签；

(3b)将预测出实验对象测试样本高级特征的类别标签与实验对象给定的测试样本类别标签进行对比，统计标签相同的样本个数，完成利用径向基函数RBF神经网络对SAR纹理图像的分类；

(3c)将实验对象测试样本的高级特征通过深度神经网络第二层和第三层的训练，得到实验对象测试样本的纹理分类特征，利用矩阵实验室MATLAB自带的sim()函数，预测出该测试样本纹理分类特征的标签；

(3d)将预测出实验对象测试样本地物分类特征的标签与实验对象给定的测试样本类别标签进行对比，统计标签相同的样本个数，完成利用深度神经网络对SAR纹理图像的分类。

本发明的效果可以通过以下仿真实验来进行验证。

1.仿真条件：

在CPU为Core(TM)22.3GHZ、内存2G、WINDOWS XP系统上使用MatlabR2012a进行仿真。

2.仿真内容与结果：

仿真实验一，利用本发明的深度神经网络、支撑矢量机SVM和径向基函数RBF神经网络三种方法对第一个实验对象的纹元特征和灰度特征进行训练，得到纹理分类特征，从而实现分类。分类准确率取20次实验的平均值，对比结果如表一所示。

表一.三种方法分类精度对比表

三类地物SAR	深度神经网络	SVM	RBF神经网络
				灰度特征	93.342％	90.234％	92.198％
纹元特征	96.167％	92.083％	96.083％

从表一可见，由于深度神经网络利用了深度学习逐层训练的优势，所以其分类精度明显优于支撑矢量机SVM和径向基函数RBF神经网络；因为实验对象的纹元特征比灰度特征能更好地逼近图像的本质特征，所以对纹元特征训练分类的结果优于对灰度特征训练分类的结果。

仿真实验二，利用本发明的深度神经网络、支撑矢量机SVM和径向基函数RBF神经网络三种方法对第二个实验对象的纹元特征和灰度特征进行训练，得到纹理分类特征，从而实现分类。分类准确率取20次实验的平均值，对比结果如表二所示。

表二textures的三种方法分类精度对比表

textures	深度神经网络	SVM	RBF神经网络
				灰度特征	92.728％	86.658％	92.308％
纹元特征	97.476％	94.651％	96.815％

从表二可见，由于深度神经网络利用了深度学习逐层训练的优势，所以其分类精度明显优于支撑矢量机SVM和径向基函数RBF神经网络；因为实验对象的纹元特征比灰度特征能更好地逼近图像的本质特征，所以对纹元特征训练分类的结果优于对灰度特征训练分类的结果。

以上两个仿真实验说明了本发明的深度神经网络在SAR纹理图像分类问题上的性能明显优于现有技术，体现出其分类性能的正确性与有效性。

Claims (3)

1.一种基于深度神经网络的SAR纹理图像分类方法，包括以下步骤：

(1)定义深度神经网络包括三层结构，其中第一层与第三层均是由一个输入单元，一个隐含单元和一个输出单元组成的径向基函数RBF神经网络；第二层是由一个隐含单元和一个可视单元组成的受限玻尔兹曼机RBM神经网络；

(2)通过学习SAR图像训练样本的纹理分类特征，训练出所述的深度神经网络：

(2a)选取包含城镇，农田，山脉三类地物的SAR图像作为第一个实验对象，选取包含十三类纹理实物的SAR图像texture作为第二个实验对象，提取这两个实验对象训练样本的纹元特征和灰度特征，即实验对象训练样本的低级特征，然后通过对该低级特征进行训练，得到深度神经网络；

(2b)将实验对象训练样本的低级特征作为深度神经网络中第一层输入单元的输入特征，通过径向基函数RBF神经网络对低级特征进行训练，得到该RBF神经网络中隐含单元的输出，作为深度神经网络的第一层输出，即实验对象的高级特征，完成深度神经网络第一层的训练；

(2c)通过受限玻尔兹曼机RBM神经网络对实验对象的高级特征进行训练，得到该RBM神经网络中隐含单元的输出，作为深度神经网络的第二层输出，即实验对象的更高级特征，完成深度神经网络第二层的训练；

(2d)通过径向基函数RBF神经网络对实验对象的更高级特征进行训练，得到该RBF神经网络输出单元的输出，作为深度神经网络的第三层输出，即实验对象训练样本的纹理分类特征，完成深度神经网络第三层的训练；

(3)利用步骤(2)训练好的深度神经网络对实验对象测试样本进行分类：

(3a)提取实验对象测试样本的低级特征，利用深度神经网络第一层径向基函数RBF神经网络对该低级特征进行训练，得到该RBF神经网络隐含单元的输出，即实验对象测试样本的高级特征，利用矩阵实验室MATLAB自带的sim()函数，预测出该高级特征的类别标签；

(3b)将预测出实验对象测试样本高级特征的类别标签与实验对象给定的测试样本类别标签进行对比，统计标签相同的样本个数，完成利用径向基函数 RBF神经网络对SAR纹理图像的分类；

(3c)将实验对象测试样本的高级特征通过深度神经网络第二层和第三层的训练，得到实验对象测试样本的纹理分类特征，利用矩阵实验室MATLAB自带的sim()函数，预测出该测试样本纹理分类特征的标签；

(3d)将预测出实验对象测试样本地物分类特征的标签与实验对象给定的测试样本类别标签进行对比，统计标签相同的样本个数，完成利用深度神经网络对SAR纹理图像的分类。

2.根据权利要求1所述的方法，其中步骤(2b)所述的通过RBF神经网络对低级特征进行训练，按如下步骤进行：

(2b1)将低级特征作为矩阵实验室MATLAB自带的径向基函数RBF神经网络训练函数NEWRB()的输入单元；

(2b2)用K均值聚类方法初始化径向基函数RBF神经网络的欧式距离中心，随机初始化径向基函数RBF神经网络的均方差，径向基函数RBF神经网络训练函数NEWRB()根据均方差和欧式距离中心自动确定该RBF神经网络隐含单元的结点数目；

(2b3)通过梯度下降法的多次迭代，调节径向基函数RBF神经网络的隐含单元的结点数目，使得径向基函数RBF神经网络的均方差最小，完成径向基函数RBF神经网络的训练。

3.根据权利要求1所述的方法，其中步骤(2c)所述的通过受限玻尔兹曼机RBM神经网络对实验对象的高级特征进行训练，按如下步骤进行：

(2c1)将实验对象的高级特征作为受限玻尔兹曼机RBM神经网络可视单元的输入特征；

(2c2)随机初始化受限玻尔兹曼机RBM神经网络的权值矩阵W和偏置值b，通过对比差异CD算法训练权值矩阵W和偏置值b；

(2c3)通过吉布斯采样算法的多次迭代，优化权值矩阵W和偏置值b，完成受限玻尔兹曼机RBM神经网络的训练。