CN106203520A - 基于深度相关向量机的sar图像分类方法 - Google Patents

Abstract

本发明公开了一种基于深度相关向量机的SAR图像分类方法，主要解决了合成孔径雷达图像分类问题。其分类过程为：(1)输入双精度类型的合成孔径雷达SAR图像的矩阵；(2)对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理；(3)训练三个受限玻耳兹曼机RBM；(4)训练RVM分类器；(5)构建深度RVM模型；(6)分类；(7)计算预测类标；(8)得到分类正确率。本发明挖掘了合成孔径雷达图像的深度特征，采用了相关向量机RVM，稀疏地学习特征，保留了雷达图像的信息完整性，挖掘了深度信息，减少了时间复杂度，具有良好的分类效果，可用于SAR图像分类。

Description

基于深度相关向量机的SAR图像分类方法

技术领域

本发明属于图像处理技术领域，更进一步涉及图像分类技术领域中的一种基于深度相关向量机(Relevance Vector Machine，RVM)的合成孔径雷达(Synthetic ApertureRadar，SAR)图像分类方法。本发明可应用于SAR图像的目标分类与识别。

背景技术

近年来，伴随着计算机性能的快速提高以及互联网的高速发展，如何更好地利用统计方法、机器学习、数据挖掘等技术从中提取有价值的信息以处理生产及生活上的实际问题日益成为一项重要而迫切的研究课题。而其中分类作为一项最基本也最重要的数据处理技术，在文本自动分类、海量网页归整、人脸自动识别、个性化推荐系统、如手写体识别、基因和蛋白质分类等领域都有广泛的应用。

目前使用广泛且有良好表现的分类方法主要有支持向量机、朴素贝叶斯分类、决策树、神经网络等。其中支持向量机(Support Vector Machines,SVM)是近年来被受关注的分类算法，SVM通过对于给定的样本数据学习，衡量其模型的复杂性，即对给定训练样本的学习精度，以及模型的学习能力，即对任意样本的取得高精度的能力，进而寻求最佳折衷方案，以期获得最优的推广能力。但支持向量机作为一种被广泛接受使用的分类算法存在以下几个问题，例如模型中使用的核函数必须满足Mercer条件、得到的预测结果为定性变量而非概率输出等。

西安电子科技大学在其申请的专利“基于相关向量机的多类数据分类方法”(专利申请号：201110199365.8，公开号：CN102254193A)中公开了了一种基于相关向量机的多类数据分类方法。该方法划分多类数据集,并进行归一化预处理，确定核函数类型和核参数，设置基本参数，计算分类面参数，根据更新完成后的分类面参数，得预测概率矩阵，矩阵每行最大值对应的列数组成测试数据集的分类类别，预测概率小于虚警概率与检测概率对应曲线中设定的虚警概率值的样本被据判。虽然能用较少的关联向量，得到与SVM相比拟的分类及拒判性能。但是，该方法仍然存在的不足之处是，仅在部分数据集上有良好的分类效果，不能移植到其他类型的数据集上，鲁棒性不强，降低了算法的性能。

武汉大学在其申请的专利“一种弱监督的SAR图像分类方法”(专利申请号：201010221605.5，公开号：CN101894275A)中公开了一种弱监督的SAR图像分类方法。该方法同时利用图像的数据信息，图像与图像之间的相关性息和图像在多个尺度上的相关信息，从少量的弱信息中提取重要信息，即从关键词标注的训练数据中学习SAR图像的分类模型，可以大幅度地减少获取精确训练数据的难度，很好的克服了SAR图像分类中的一些局部不确定性问题，但是，该方法仍然存在的不足之处是，在同时图像之间多种相关信息的过程中，数据之间的信息削减得太快，用来训练的少量的弱信息丢失了很多重要细节，导致该分类方法的多次平均分类精度不高，鲁棒性不足。

发明内容

本发明的目的是针对上述现有技术存在的不足，提出了一种基于深度相关向量机的SAR图像分类方法。本发明与现有技术中其他SAR图像分类技术相比，数据相关性强，训练时间短，分类正确率高。

本发明实现的具体步骤如下：

(1)输入双精度类型的合成孔径雷达SAR图像的矩阵；

(2)对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理；

所述的对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理的公式如下：

$X_{norm}=\frac{X-X_{\min }}{X_{max}-X_{\min }}$

其中，X_norm表示归一化后的双精度类型的合成孔径雷达SAR图像矩阵，X表示输入的双精度类型的合成孔径雷达SAR图像矩阵，X_max和X_min分别表示输入的双精度类型的合成孔径雷达SAR图像的矩阵的最大值和最小值；

(3)训练三个受限玻耳兹曼机RBM：

将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入三层受限玻耳兹曼机RBM中进行分层训练，得到合成孔径雷达SAR图像矩阵的第三层深层特征；

所述的将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入三层受限玻耳兹曼机RBM中进行分层训练的具体步骤如下：

将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入到第一层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第一层受限玻耳兹曼机RBM的网络参数{W₁,b₁}，其中，W₁表示归一化后的双精度类型的合成孔径雷达SAR图像矩阵在第一层受限玻耳兹曼机RBM的权重值，b₁表示归一化后的双精度类型的SAR图像矩阵在第一层受限玻耳兹曼机RBM的余项，将归一化后的合成孔径雷达SAR图像矩阵输入到第一层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第一层深层特征；

将合成孔径雷达SAR图像矩阵的第一层深层特征，输入到第二层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第二层受限玻耳兹曼机RBM的网络参数{W₂,b₂}，其中，W₂表示合成孔径雷达SAR图像矩阵的第一层深层特征在第一层受限玻耳兹曼机RBM中的权重值，b₂表示合成孔径雷达SAR图像矩阵的第一层深层特征在第一层受限玻耳兹曼机RBM中的余项，将合成孔径雷达SAR图像矩阵的第一层深层特征输入到第二层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第二层深层特征；

将合成孔径雷达SAR图像矩阵的第二层深层特征，输入到第三层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第三层受限玻耳兹曼机RBM的网络参数{W₃,b₃}，其中，W₃表示合成孔径雷达SAR图像矩阵的第二层深层特征在第二层受限玻耳兹曼机RBM中的权重值，b₃表示合成孔径雷达SAR图像矩阵的第二层深层特征在第二层受限玻耳兹曼机RBM中的余项，将合成孔径雷达SAR图像矩阵的第二层深层特征输入到第三层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第三层深层特征；

(4)训练RVM分类器：

将合成孔径雷达SAR图像矩阵的第三层深层特征和输入的双精度类型合成孔径雷达SAR图像矩阵所对应的类标，输入到稀疏贝叶斯分类模型中，选择核函数为线性核，迭代次数为600次，根据拉普拉斯逼近方法推断模型参数，训练相关相量机RVM分类器；

(5)构建深度RVM模型：

将相关相量机RVM分类器级联到三层受限玻耳兹曼机RBM的第三层，得到深度相关相量机RVM模型；

(6)分类：

将待训练的合成孔径雷达SAR图像矩阵输入到深度相关相量机RVM模型中，得到双精度类型的合成孔径雷达SAR图像矩阵的各类分类概率；

(7)计算预测类标：

选取双精度类型的合成孔径雷达SAR图像矩阵的各类分类概率中的每类概率最大的类标，作为双精度类型合成孔径雷达SAR图像矩阵的预测类标；

(8)得到分类正确率：

用分类精度评判公式，进行计算，得到分类正确率。

所述的分类正确率的公式如下：

$acc=\frac{lab-er}{lab}$

其中，acc表示双精度类型合成孔径雷达SAR图像矩阵的分类正确率，lab表示输入双精度类型合成孔径雷达SAR图像矩阵的预测类标数，er表示双精度类型合成孔径雷达SAR图像矩阵的分类结果中的错误分类数。

本发明与现有技术相比具有以下优点：

第一，由于本发明在训练的过程中采用了三个受限玻耳兹曼机RBM模型，克服了现有技术在图像相关信息中，数据之间的联系削减得太快，丢失了很多重要细节的缺点，使得本发明将数据抽象到高维，挖掘了数据的深度信息，为后面的分类过程提供了更多的图像细节信息，由此具有了准确度大大改善，获得了更加准确的图像分类结果的优点。

第二，由于本发明在分类过程中采用了深度相关相量机RVM分类器，克服了现有技术模型中仅在部分数据集上有良好的分类效果，不能移植到其他类型的数据集上，鲁棒性不强的缺点，使得本发明在合成孔径雷达SAR图像数据集上也有较高的分类正确率，因此具有了面对大规模的数据集，模型仍具有稀疏性和鲁棒性的优点。

附图说明

图1为本发明的流程图。

具体实施方式

下面结合附图1对本发明的步骤做进一步的详细描述。

步骤1.输入双精度类型的合成孔径雷达SAR图像的矩阵。

步骤2.对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理。

所述的对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理的公式如下：

$X_{norm}=\frac{X-X_{\min }}{X_{max}-X_{\min }}$

其中，X_norm表示归一化后的双精度类型的合成孔径雷达SAR图像矩阵，X表示输入的双精度类型的合成孔径雷达SAR图像矩阵，X_max和X_min分别表示输入的双精度类型的合成孔径雷达SAR图像的矩阵的最大值和最小值。

步骤3.训练三个受限玻耳兹曼机RBM。

将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入三层受限玻耳兹曼机RBM中进行分层训练，得到合成孔径雷达SAR图像矩阵的第三层深层特征。

所述的将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入三层受限玻耳兹曼机RBM中进行分层训练的具体步骤如下：

将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入到第一层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第一层受限玻耳兹曼机RBM的网络参数{W₁,b₁}，其中，W₁表示归一化后的双精度类型的合成孔径雷达SAR图像矩阵在第一层受限玻耳兹曼机RBM的权重值，b₁表示归一化后的双精度类型的SAR图像矩阵在第一层受限玻耳兹曼机RBM的余项，将归一化后的合成孔径雷达SAR图像矩阵输入到第一层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第一层深层特征。

将合成孔径雷达SAR图像矩阵的第一层深层特征，输入到第二层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第二层受限玻耳兹曼机RBM的网络参数{W₂,b₂}，其中，W₂表示合成孔径雷达SAR图像矩阵的第一层深层特征在第一层受限玻耳兹曼机RBM中的权重值，b₂表示合成孔径雷达SAR图像矩阵的第一层深层特征在第一层受限玻耳兹曼机RBM中的余项，将合成孔径雷达SAR图像矩阵的第一层深层特征输入到第二层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第二层深层特征。

将合成孔径雷达SAR图像矩阵的第二层深层特征，输入到第三层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第三层受限玻耳兹曼机RBM的网络参数{W₃,b₃}，其中，W₃表示合成孔径雷达SAR图像矩阵的第二层深层特征在第二层受限玻耳兹曼机RBM中的权重值，b₃表示合成孔径雷达SAR图像矩阵的第二层深层特征在第二层受限玻耳兹曼机RBM中的余项，将合成孔径雷达SAR图像矩阵的第二层深层特征输入到第三层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第三层深层特征。

步骤4.训练RVM分类器。

将合成孔径雷达SAR图像矩阵的第三层深层特征和输入的双精度类型合成孔径雷达SAR图像矩阵所对应的类标，输入到稀疏贝叶斯分类模型中，选择核函数为线性核，迭代次数为600次，根据拉普拉斯逼近方法推断模型参数，训练相关相量机RVM分类器。

步骤5.构建深度RVM模型。

将相关相量机RVM分类器级联到三层受限玻耳兹曼机RBM的第三层，得到深度相关相量机RVM模型。

步骤6.分类。

将待训练的合成孔径雷达SAR图像矩阵输入到深度相关相量机RVM模型中，得到双精度类型的合成孔径雷达SAR图像矩阵的各类分类概率。

步骤7.计算预测类标。

选取双精度类型的合成孔径雷达SAR图像矩阵的各类分类概率中的每类概率最大的类标，作为双精度类型合成孔径雷达SAR图像矩阵的预测类标。

步骤8.得到分类正确率。

用分类精度评判公式，进行计算，得到分类正确率。

分类正确率的公式如下：

$acc=\frac{lab-er}{lab}$

其中，acc表示双精度类型合成孔径雷达SAR图像矩阵的分类正确率，lab表示输入双精度类型合成孔径雷达SAR图像矩阵的预测类标数，er表示双精度类型合成孔径雷达SAR图像矩阵的分类结果中的错误分类数。

下面结合仿真实验对本发明的效果做进一步描述。

1.仿真条件：

本发明的仿真实验是基于主频为2.30GHz的Intel Pentium(R)Dual-Core CPU、内存为5GB的硬件环境和MATLAB R2014a软件环境下进行的。

2.仿真内容：

本发明仿真实验采用美国MSTAR计划录取的地面静止目标SAR数据，实验中选用其中的三类SAR目标：BMP2装甲车、BTR70装甲车、T72主战坦克，SAR图像的分辨率是0.3m×0.3m，方位角覆盖范围是0～360°，图像大小为128×128像素，训练样本共698个，测试样本共1365个。

3.仿真效果分析：

应用本发明方法与支持向量机SVM、快速稀疏支持向量机fs_SVM、深度置信网DBN、相关向量机RVM四种现有技术，对MSTAR数据集中三种目标类型进行分类，分别计算各种方法的分类正确率，得到仿真实验的结果如表1所示。

表1.MSTAR数据集分类结果表

分类方法	时间(s)	分类正确率(％)
			fs_SVM	61.78	83.07
SVM	235.54	85.20
			DBN	5557.32	85.78
RVM	154.16	85.57
			本发明	2856.08	93.40

从表1可见，本发明相比支持向量机SVM、快速稀疏支持向量机fs_SVM方法，深度置信网DBN、相关向量机RVM的四种现有技术，分类正确率有明显提升，这是因为本发明在训练的过程中采用了受限玻耳兹曼机RBM模型，将数据抽象到高维，减少了数据量，挖掘了数据的深度信息，提供了更多的图像细节信息，由此具有了准确度大大改善。

综上所述，本发明综合了受限玻耳兹曼机RBM和相关向相量机的优点，能处理大量的数据，可获得较高的分类精度，并且缩短训练时间。

Claims (4)

1.一种基于深度相关向量机的SAR图像分类方法，其具体步骤包括如下：

(1)输入双精度类型的合成孔径雷达SAR图像的矩阵；

(2)对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理；

(3)训练三个受限玻耳兹曼机RBM：

将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入三层受限玻耳兹曼机RBM中进行分层训练，得到合成孔径雷达SAR图像矩阵的第三层深层特征；

(4)训练RVM分类器：

将合成孔径雷达SAR图像矩阵的第三层深层特征和输入的双精度类型合成孔径雷达SAR图像矩阵所对应的类标，输入到稀疏贝叶斯分类模型中，选择核函数为线性核，迭代次数为600次，根据拉普拉斯逼近方法推断模型参数，训练相关相量机RVM分类器；

(5)构建深度RVM模型：

将相关相量机RVM分类器级联到三层受限玻耳兹曼机RBM的第三层，得到深度相关相量机RVM模型；

(6)分类：

将待训练的合成孔径雷达SAR图像矩阵输入到深度相关相量机RVM模型中，得到双精度类型的合成孔径雷达SAR图像矩阵的各类分类概率；

(7)计算预测类标：

选取双精度类型的合成孔径雷达SAR图像矩阵的各类分类概率中的每类概率最大的类标，作为双精度类型合成孔径雷达SAR图像矩阵的预测类标；

(8)得到分类正确率：

用分类精度评判公式，进行计算，得到分类正确率。

2.根据权利要求1所述的基于深度相关向量机的SAR图像分类方法，其特征在于：步骤(2)中所述的对输入的双精度类型的合成孔径雷达SAR图像的矩阵进行归一化处理的公式如下：

$X_{norm}=\frac{X-X_{\min }}{X_{max}-X_{\min }}$

其中，X_norm表示归一化后的双精度类型的合成孔径雷达SAR图像矩阵，X表示输入的双精度类型的合成孔径雷达SAR图像矩阵，X_max和X_min分别表示输入的双精度类型的合成孔径雷达SAR图像的矩阵的最大值和最小值。

3.根据权利要求1所述的基于深度相关向量机的SAR图像分类方法，其特征在于：步骤(3)中所述的将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入三层受限玻耳兹曼机RBM中进行分层训练的具体步骤如下：

第1步，将归一化后的双精度类型的合成孔径雷达SAR图像矩阵，输入到第一层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第一层受限玻耳兹曼机RBM的网络参数{W₁,b₁}，其中，W₁表示归一化后的双精度类型的合成孔径雷达SAR图像矩阵在第一层受限玻耳兹曼机RBM的权重值，b₁表示归一化后的双精度类型的SAR图像矩阵在第一层受限玻耳兹曼机RBM的余项，将归一化后的合成孔径雷达SAR图像矩阵输入到第一层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第一层深层特征；

第2步，将合成孔径雷达SAR图像矩阵的第一层深层特征，输入到第二层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第二层受限玻耳兹曼机RBM的网络参数{W₂,b₂}，其中，W₂表示合成孔径雷达SAR图像矩阵的第一层深层特征在第一层受限玻耳兹曼机RBM中的权重值，b₂表示合成孔径雷达SAR图像矩阵的第一层深层特征在第一层受限玻耳兹曼机RBM中的余项，将合成孔径雷达SAR图像矩阵的第一层深层特征输入到第二层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第二层深层特征；

第3步，将合成孔径雷达SAR图像矩阵的第二层深层特征，输入到第三层受限玻耳兹曼机RBM中训练，通过100次迭代训练，得到第三层受限玻耳兹曼机RBM的网络参数{W₃,b₃}，其中，W₃表示合成孔径雷达SAR图像矩阵的第二层深层特征在第二层受限玻耳兹曼机RBM中的权重值，b₃表示合成孔径雷达SAR图像矩阵的第二层深层特征在第二层受限玻耳兹曼机RBM中的余项，将合成孔径雷达SAR图像矩阵的第二层深层特征输入到第三层受限玻耳兹曼机RBM，得到合成孔径雷达SAR图像矩阵的第三层深层特征。

4.根据权利要求1所述的基于深度相关向量机的SAR图像分类方法，其特征在于：步骤(8)中所述的分类正确率的公式如下：

$acc=\frac{lab-er}{lab}$

其中，acc表示双精度类型合成孔径雷达SAR图像矩阵的分类正确率，lab表示输入双精度类型合成孔径雷达SAR图像矩阵的预测类标数，er表示双精度类型合成孔径雷达SAR图像矩阵的分类结果中的错误分类数。