CN110895682B - 一种基于深度学习的sar目标识别方法 - Google Patents

Abstract

本发明提供一种基于深度学习的SAR目标识别方法。首先根据SAR图像所具有的随机斑点噪声和较低的分辨率等固有特性，提出了深度卷积网络模型，并对模型中的激活函数、分类器和目标函数进行了设计，然后针对模型中可能存在的过拟合和不收敛的问题提出了基于RMSprop优化算法和随机梯度下降算法的组合优化算法，最终得到一种基于混合激活的深度卷积神经网络模型，该模型能够有效提升目标识别的准确率并减少目标识别的时间。

Description

一种基于深度学习的SAR目标识别方法

技术领域

本发明涉及图像识别领域，尤其涉及一种基于深度学习的SAR目标识别方法。

背景技术

伴随着合成孔径雷达(简称SAR)图像的应用日益广泛，SAR方面的图像处理也成为该方面的重点研究内容之一。SAR的成像方式为侧视成像，其成像具有非常大的几何失真，另外SAR图像是由相干波照射得到，其受到相干斑噪声的影响很大，边缘信息模糊给边缘检测带来了很大的不便。将深度学习应用于SAR图像目标检测识别领域，是上述问题的有效解决方案。

受限于SAR图像具有的噪声等影响，传统方法对于SAR图像的识别过程繁琐，多步骤处理需要时间长，更为关键的是多步骤之间往往只存在逻辑上的联系，不能做到联合优化调参，这就使得基于传统方法对SAR图像进行识别存在缺陷，利用深度卷积神经网络进行SAR目标识别具有很重要的现实意义。

极化SAR图像具有较多的随机斑点噪声影响和较低的分辨率，不同类型物体的特征也很容易在SAR图像中显示出相似的特征，传统的图像分类方法受到很大的干扰。人工解译判读往往耗费大量的时间和精力，而准确率通常也受到人类主观因素的影响。

发明内容

针对现有技术的不足，本发明将深度卷积神经网络应用于SAR图像目标检测识别领域，利用深度卷积神经网络的强大表示能力和自我学习能力，实现对SAR图像噪声的抑制和目标特征的提取拟合学习，实现SAR图像目标识别的高准确性及稳定性。

为解决上述技术问题，本发明提出了一种基于深度学习的SAR目标识别方法，包括以下步骤：

步骤1：根据SAR目标识别特性和流程设计深度卷积神经网络模型并对所述深度卷积神经网络模型进行优化，所述的深度卷积神经网络模型设计为11层，包括8个卷积层和3个全连接层，每一个卷积层之后叠加一个最大池化层，在最后一个全连接层之后连接一个分类器，通过分类器输出模型预测的类别标签；

所述卷积层使用Elu激活函数，以应对图像噪声和输入变化；

所述全连接层采用Relu激活函数，增加数据稀疏性，并且抑制训练过程中的梯度弥散影响；

所述对深度卷积神经网络模型进行优化具体表述为：采用Dropout优化算法解决深度卷积神经网络模型中存在的过拟合问题，采用批量归一化算法解决深度卷积神经网络模型中存在的梯度弥散问题，采用基于RMSprop优化算法和随机梯度下降算法的组合优化算法解决深度卷积神经网络模型中存在的不收敛情况；

步骤2：将采集到的SAR图像进行数据集预处理，所述预处理包括两部分：1)去除SAR图像周围的无关信息，2)制作训练集样本和测试集样本以及测试集样本的H5PY文件；

步骤3：将采集到的SAR样本图像经过数据集预处理之后得到的H5PY文件输入到所述深度卷积神经网络模型中，输出对SAR样本图像类别标签的预测结果及识别准确率；

步骤4：设计深度卷积神经网络模型的目标函数C，所述目标函数C的计算结果越接近零，表示深度卷积神经网络模型输出的预测值越接近SAR样本图像标记的真实值，当预测值与真实值之间的差值的绝对值小于预设阈值δ时，所述预测值对应的类别标签即为所要识别的目标。

所述Elu激活函数表示为：

式中，alpha表示控制负因子的参数，x表示卷积层的输出量；

所述Relu激活函数表示为：

Relu(y)＝max(0,y) (2)

式中，y表示全连接层的输出量。

为了实现对多个类别标签的预测所述分类器选择Softmax分类器，所述Softmax分类器的函数表示为：

式中，u⁽ⁱ⁾表示最后一层全连接层的输出量，z表示Softmax分类器的输出量，z⁽ⁱ⁾表示Softmax分类器的分类类别，z⁽ⁱ⁾∈{1,2,...,k}，k表示输出变量是一个k维的向量，θ表示Softmax分类器中的全部参数，

表示第j个参数矩阵的转置，

表示第l个参数矩阵的转置。

所述采用Dropout优化算法解决深度卷积神经网络模型中存在的过拟合问题，具体表述为：

1.1)使用Dropout算法简化深度卷积神经网络模型的结构，包括简化层数和单元神经元的个数；

1.2)确定最佳停止训练的时间段，当每个神经元的激活函数进入非线性区后且未进入饱和区前停止训练，作为最佳停止训练的时间段；

1.3)在目标函数上应用正则化方法对参数分布进行限制，降低训练模型复杂度；

1.4)对深度卷积神经网络模型采用Dropout算法，使深度卷积神经网络模型更具一般性，实现平等化训练的效果。

所述采用批量归一化算法解决深度卷积神经网络模型中存在的梯度弥散问题，具体表述为：在每次深度卷积神经网络模型进行随机梯度下降训练时，利用最小批对每次模型输出的数据实施归一化处理。

所述采用基于RMSprop优化算法和随机梯度下降算法的组合优化算法解决深度卷积神经网络模型中存在的不收敛情况，具体表述为：分阶段对深度卷积神经网络模型进行优化，在训练初期采用RMSprop优化算法，对深度卷积神经网络模型的内部参数中的权重和偏差进行更新和计算，在训练后期采用随机梯度下降优化算法，使得深度卷积神经网络模型可以使用固定的学习速率。

所述步骤3中的深度卷积神经网络模型的目标函数具体表示为：

式中，a表示深度卷积神经网络模型的实际输出值，且a∈(0,1)，w表示深度卷积神经网络模型的期望输出值，w取值为0或1，n表示Softmax分类器分类目标数，m表示输入的训练样本个数。

本发明的有益效果是：

本发明充分考虑了SAR目标识别过程中存在的随机斑点噪声的影响和较低的分辨率问题，提出将深度学习的思想引入到SAR目标识别的方法中，进而使得识别准确率明显提高，这在SAR图像目标识别领域具有与时俱进的重要意义，具体表现在：

1、本发明针首先针对SAR目标识别特性和流程，提出将深度学习的思想引入到SAR目标识别的方法中，能够有效解决SAR目标识别过程中存在的随机斑点噪声和较低的分辨率问题。

2、本发明建立了深度卷积神经网络模型，在此基础上选择出合适的激活函数并设计分类器和目标函数，提高模型与SAR识别特性的契合度。

3、本发明通过引入Dropout算法、批量归一化算法、基于随机梯度下降算法和RMSprop优化算法的组合优化算法，对卷积神经网络模型进行优化，能够有效解决模型的过拟合问题，并提高SAR目标识别的准确率和减少目标识别时间。

附图说明

图1为本发明中的基于深度学习的SAR目标识别方法流程图。

图2为本发明中的深度卷积神经网络模型结构图。

图3为本发明中的Elu函数曲线图。

图4为本发明中的Relu函数曲线图。

图5为本发明中的设置Dropout的神经网络结构图。

图6为本发明中的批量归一化算法流程图。

图7为本发明中的随机梯度下降算法流程图。

图8为本发明中的RMSprop优化算法流程图。

图9为本发明中的MSTAR数据集与光学图像对照图。

图10为本发明中的图像识别预处理过程的流程图。

图11为本发明中的MSTR图像十类目标识别图。

图12为本发明中的模型A网络结构图。

具体实施方式

下面结合附图和具体实施实例对发明做进一步说明。

本发明包括建立深度卷积神经网络模型，选择激活函数及设计分类器和目标函数，优化模型。

如图1所示，一种基于深度学习的SAR目标识别方法，包含训练过程和测试过程两个阶段，具体包括如下步骤：

步骤1：根据SAR目标识别特性和流程设计深度卷积神经网络模型并对所述深度卷积神经网络模型进行优化，其深度卷积神经网络模型如图2所示，共设计为11层，包括8个卷积层和3个全连接层，每一个卷积层之后叠加一个最大池化层，在最后一个全连接层之后连接一个分类器，通过分类器输出模型预测的类别标签，卷积层均采用零填充技术，模型中加入批量归一化技术，在增加模型深度的同时降低同等深度的模型复杂度；

在实际模型中多个线性激活层的叠加其本质仍然是线性拟合的作用，没有办法获得更复杂的函数拟合效果。由激活函数带来的非线性支撑起了深度网络模型其强大的表示能力。在模型设计思想中，负责特征提取的卷积层使用Elu激活，以应对SAR图像噪声和输入变化，在全连接层采用Relu激活，增加数据稀疏性，并且抑制训练过程中的梯度弥散影响。

所述卷积层使用Elu激活函数，以应对图像噪声和输入变化，其函数曲线图如图3所示；

式中，alpha表示控制负因子的参数，x表示卷积层的输出量；

为了更明显的展示函数在第四象限的曲线效果，图3中alpha被设置为0.5。

所述全连接层采用Relu激活函数，增加数据稀疏性，并且抑制训练过程中的梯度弥散影响，其函数曲线图如图4所示，其函数曲线左边两个象限的值为0，右边第一象限的曲线为线性，这样的曲线使得其具有抑制梯度弥散并且具有增加数据的稀疏性的效果，

Relu(y)＝max(0,y) (2)

式中，y表示全连接层的输出量。

分类器通常位于深度卷积网络中最后一层的全连接层之后，而对于多个类别的则接一个Softmax分类器用于图像标签的预测，Softmax分类器解决的是多分类问题，所述Softmax分类器的函数表示为：

式中，u⁽ⁱ⁾表示最后一层全连接层的输出量，z表示Softmax分类器的输出量，z⁽ⁱ⁾表示Softmax分类器的分类类别，z⁽ⁱ⁾∈{1,2,...,k}，k表示输出变量是一个k维的向量，θ表示Softmax分类器中的全部参数，

表示第j个参数矩阵的转置，

表示第l个参数矩阵的转置。

由于SAR数据集的获取存在困难，于是在难以获取到大量训练数据集的情况下，深度神经网络的训练难免会陷入过拟合状态，而且由于SAR图像固有特性影响，在模型训练过程中会出现模型不收敛的情况，这都需要找到合适的优化算法加以解决，所述对深度卷积神经网络模型进行优化具体表述为：

Dropout的使用使得模型结构中层与层之间的连接变成了一个概率事件，在模型设计和优化过程中可以通过对这个概率值的设定获得不同复杂度的网络模型，设置Dropout的神经网络结构如图5所示，采用Dropout优化算法解决深度卷积神经网络模型中存在的过拟合问题，具体表述为：

1.1)使用Dropout算法简化深度卷积神经网络模型的结构，包括简化层数和单元神经元的个数；

1.2)确定最佳停止训练的时间段，当每个神经元的激活函数进入非线性区后且未进入饱和区前停止训练，作为最佳停止训练的时间段；

1.3)在目标函数上应用正则化方法对参数分布进行限制，降低训练模型复杂度；

1.4)对深度卷积神经网络模型采用Dropout算法，使深度卷积神经网络模型更具一般性，实现平等化训练的效果；

如图6所示为批量归一化算法的流程图，批量归一化算法往往应作用在非线性映射函数Relu前，是解决深度卷积神经网络模型中梯度弥散问题的有效方法，能够使深度网络模型的训练更加容易和稳定。批量归一化就是在每次模型的随机梯度下降训练时，利用最小批来对相应的模型输出实施数据归一化，使得输出数据的各个维度的均值为0，方差为1，服从正态分布，而最后的“尺度变换和偏移”操作就是为了让因训练所需而加入的批量归一化能够有可能还原最初的输入从而保证整个网络的容量，即当学习参数

和学习参数β＝E(x_i)＝μ_B时，能够保证整个网络的容量，采用批量归一化算法解决深度卷积神经网络模型中存在的梯度弥散问题，具体表述为：

如图7所示为随机梯度下降算法流程图，该算法在每次批处理训练时计算网络误差并利用此误差进行反向传播，并利用一阶梯度信息对参数进行更新，由于随机梯度下降算法每次都是随机选取输入一个mini-batch对网络进行训练，所以每次迭代的损失函数会不同，为了减少当前batch的梯度对网络参数的更新影响，往往会在传统的随机梯度下降法中引入动量系数进行改进，具体步骤为：

下降前期时，利用前一次参数进行更新，梯度下降方向相同，乘以较大的动量系数，能够起到良好的加速作用；

下降中后期时，由于结果在局部最小值的范围内来回震荡，需要增大更新幅度，使其跳出陷阱；

当梯度改变方向时，动量项可以帮助减少更新，即动量项能够在相关方向加速随机梯度下降，抑制振荡，从而加快收敛。

保证随机梯度下降算法收敛的一个充分条件是：

式中，ε_k表示第k次迭代的学习速率；

通常会线性衰减学习速率到第τ次迭代：

ε_k＝(1-α)ε₀+αε_τ (6)

其中

在τ步迭代之后，一般使ε保持常数。

如图8所示为RMSprop优化算法流程图，RMSprop算法是一种权值更新算法，类似于随机梯度下降算法，而RMSprop算法则是参考之前的每一次梯度变化情况不再孤立地更新学习步长。

随机梯度下降算法具有稳定的收敛性能，但是收敛速度缓慢，而RMSprop优化算法具有加速模型收敛的作用，采用基于RMSprop优化算法和随机梯度下降算法的组合优化算法解决深度卷积神经网络模型中存在的不收敛情况，可以大大减少训练时间，使得模型快速收敛，具体表述为：

分阶段对深度卷积神经网络模型进行优化，在训练初期采用RMSprop优化算法，对深度卷积神经网络模型的内部参数中的权重和偏差进行更新和计算，在训练后期采用随机梯度下降优化算法，使得深度卷积神经网络模型可以使用固定的学习速率。

步骤2：将采集到的SAR图像进行数据集预处理，包括两部分：1)去除SAR图像周围的无关信息，2)制作训练集样本和测试集样本和测试集样本的H5PY文件，分别是为了提升训练和测试质量，使得训练和测试模型的方便快捷，节省实验时间；

步骤3：设计深度卷积神经网络模型的目标函数C，所述目标函数C的计算结果越接近零，表示深度卷积神经网络模型输出的预测值越接近SAR样本图像标记的真实值，当预测值与真实值之间的差值的绝对值小于预设阈值δ时，所述预测值对应的类别标签即为所要识别的目标；

全连接层是利用网络的特征映射到样本的标记空间来做出相应的预测，目标函数则是用来衡量该预测值与样本标记的真实值之间的误差，深度卷积神经网络模型采用交叉熵损失函数作为目标函数，如公式(4)所示，

式中，a表示深度卷积神经网络模型的实际输出值，且a∈(0,1)，w表示深度卷积神经网络模型的期望输出值，w取值为0或1，n表示Softmax分类器分类目标数，m表示输入的训练样本个数。

为了验证本技术方案的有效性，下面通过具体仿真实验进行验证，实验环境为Windows10操作系统，平台配置为Intel i7-7700 CPU 3.60GHZ；RAM 8GB；GPU GTX1060内存6GB；仿真工具为Pycharm、Visual studio Code；标注工具为LabelImg；神经网络API为TensorFlow、Keras。

实验所采用的参数初始化如表1所示，表中未列出的参数使用默认设置参数。

表1参数值初始化表

实验中所使用的实测SAR图像数据是MSTAR数据集。该数据集是由X波段的SAR传感器采集，采用聚束式成像模式和HH极化方式，雷达距离向和方位向的分辨率都是0.3m。地面目标由雷达全方位角覆盖，但并不是所有方位角覆盖的SAR图像都得到公开，实际目标样本方位角间隔是1°～5°。图像尺寸主要包括128×128像素、158×158像素、177×178像素和192×193像素等。MSTAR数据集中共有10类地面战术目标，包括装甲车：BMP2，BRDM2，BTR60，BTR70；坦克：T62，T72；自行榴弹炮：2S1；军用卡车：ZIL131；推土机：D7；自行火炮：ZSU234，上述目标的光学图像与SAR图像的对应图如图9所示。

MSTAR数据集中共包括10类地面目标。训练集数据采集在17°成像侧视角下，测试集数据采集在15°侧视角下，样本数据的详细信息(目标类型、样本数量以及采集侧视角等)如表2所示：

表2 MSTAR数据集

如图10所示进行图像识别预处理，将具有十个类别的MSTAR数据集制作成h5py文件以便模型进行读取，同时将图像归一化为64×64像素值的三通道图像输入模型，以便于深度卷积网络模型的训练和学习。HDF5包是二进制数据格式的python接口。HDF5允许存储大量的数字数据，并且可以轻松地从NumPy中操作这些数据。成千上万的数据集可以存储在一个文件中，并按照需要进行分类和标记。

为了突出本发明提出的基于深度学习的SAR目标识别方法的有效性，将基于深度学习的SAR目标识别方法的仿真结果与模型A提供的仿真结果相比较，得出仿真结果图如图11所示，从图11中可以看出本发明提出的深度卷积神经网络模型更加稳定，基于此的SAR目标识别方法在测试集上获得了99.51％分类准确率。

其中图11中的模型A为经典卷积神经网络模型，其结构图如图12所示，网络架构的参数设置如表3所示：

表3模型A网络架构参数设置表

其中图11中的模型C表示本发明提供的深度卷积神经网络模型，其结构图如图2所示，网络架构参数设置如表4所示。

表4模型C网络架构参数设置表

Claims (6)

1.一种基于深度学习的SAR目标识别方法，其特征在于，包括以下步骤：

步骤1：根据SAR目标识别特性和流程设计深度卷积神经网络模型并对所述深度卷积神经网络模型进行优化，所述的深度卷积神经网络模型设计为11层，包括8个卷积层和3个全连接层，每一个卷积层之后叠加一个最大池化层，在最后一个全连接层之后连接一个分类器，通过分类器输出模型预测的类别标签；

所述卷积层使用Elu激活函数，以应对图像噪声和输入变化；

所述全连接层采用Relu激活函数，增加数据稀疏性，并且抑制训练过程中的梯度弥散影响；

所述对深度卷积神经网络模型进行优化具体表述为：采用Dropout优化算法解决深度卷积神经网络模型中存在的过拟合问题，采用批量归一化算法解决深度卷积神经网络模型中存在的梯度弥散问题，采用基于RMSprop优化算法和随机梯度下降算法的组合优化算法解决深度卷积神经网络模型中存在的不收敛情况；

步骤2：将采集到的SAR图像进行数据集预处理，所述预处理包括两部分：1)去除SAR图像周围的无关信息，2)制作训练集样本和测试集样本以及测试集样本的H5PY文件；

步骤3：将采集到的SAR样本图像经过数据集预处理之后得到的H5PY文件输入到所述深度卷积神经网络模型中，输出对SAR样本图像类别标签的预测结果及识别准确率；

步骤4：设计深度卷积神经网络模型的目标函数C，所述目标函数C的计算结果越接近零，表示深度卷积神经网络模型输出的预测值越接近SAR样本图像标记的真实值，当预测值与真实值之间的差值的绝对值小于预设阈值δ时，所述预测值对应的类别标签即为所要识别的目标；

所述采用基于RMSprop优化算法和随机梯度下降算法的组合优化算法解决深度卷积神经网络模型中存在的不收敛情况，具体表述为：分阶段对深度卷积神经网络模型进行优化，在训练初期采用RMSprop优化算法，对深度卷积神经网络模型的内部参数中的权重和偏差进行更新和计算，在训练后期采用随机梯度下降优化算法，使得深度卷积神经网络模型可以使用固定的学习速率。

2.根据权利要求1所述的一种基于深度学习的SAR目标识别方法，其特征在于，所述Elu激活函数表示为：

式中，alpha表示控制负因子的参数，x表示卷积层的输出量；

所述Relu激活函数表示为：

Relu(y)＝max(0,y) (2)

式中，y表示全连接层的输出量。

3.根据权利要求1所述的一种基于深度学习的SAR目标识别方法，其特征在于，为了实现对多个类别标签的预测所述分类器选择Softmax分类器，所述Softmax分类器的函数表示为：

式中，u⁽ⁱ⁾表示最后一层全连接层的输出量，z表示Softmax分类器的输出量，z⁽ⁱ⁾表示Softmax分类器的分类类别，z⁽ⁱ⁾∈{1,2,...,k}，k表示输出变量是一个k维的向量，θ表示Softmax分类器中的全部参数，

表示第j个参数矩阵的转置，

表示第l个参数矩阵的转置。

4.根据权利要求1所述的一种基于深度学习的SAR目标识别方法，其特征在于，所述采用Dropout优化算法解决深度卷积神经网络模型中存在的过拟合问题，具体表述为：

1.1)使用Dropout算法简化深度卷积神经网络模型的结构，包括简化层数和单元神经元的个数；

1.2)确定最佳停止训练的时间段，当每个神经元的激活函数进入非线性区后且未进入饱和区前停止训练，作为最佳停止训练的时间段；

1.3)在目标函数上应用正则化方法对参数分布进行限制，降低训练模型复杂度；

1.4)对深度卷积神经网络模型采用Dropout算法，使深度卷积神经网络模型更具一般性，实现平等化训练的效果。

5.根据权利要求1所述的一种基于深度学习的SAR目标识别方法，其特征在于，所述采用批量归一化算法解决深度卷积神经网络模型中存在的梯度弥散问题，具体表述为：在每次深度卷积神经网络模型进行随机梯度下降训练时，利用最小批对每次模型输出的数据实施归一化处理。

6.根据权利要求1所述的一种基于深度学习的SAR目标识别方法，其特征在于，所述步骤3中的深度卷积神经网络模型的目标函数具体表示为：

式中，a表示深度卷积神经网络模型的实际输出值，且a∈(0,1)，w表示深度卷积神经网络模型的期望输出值，w取值为0或1，n表示Softmax分类器分类目标数，m表示输入的训练样本个数。

Images