CN109117793A

CN109117793A - 基于深度迁移学习的直推式雷达高分辨距离像识别方法

Info

Publication number: CN109117793A
Application number: CN201810932270.4A
Authority: CN
Inventors: 黄悦; 丁兴号; 余宪; 王继天; 文艺
Original assignee: Xiamen University
Current assignee: Xiamen University
Priority date: 2018-08-16
Filing date: 2018-08-16
Publication date: 2019-01-01
Anticipated expiration: 2038-08-16
Also published as: CN109117793B

Abstract

基于深度迁移学习的直推式雷达高分辨距离像识别方法，涉及雷达信号处理。真实目标信号与辅助仿真数据的预处理；深度模型的选择及优化；直推式迁移策略的应用。针对完备的高分辨距离像数据获取困难的实际问题，提出了基于深度迁移学习的目标识别框架，可以有效提高样本量少、姿态非完备的雷达高分辨距离像的识别性能。建立在深度学习与机器学习中迁移学习的基础上，实用性强，可移植性强，能够满足大多数小样本、非完备等情况下弱监督学习的需求。

Description

基于深度迁移学习的直推式雷达高分辨距离像识别方法

技术领域

本发明涉及雷达信号处理，尤其是涉及基于深度迁移学习的直推式雷达高分辨距离像识别方法。

背景技术

雷达自动识别技术作为决定武器系统是否智能化的核心技术之一，在现代战争中起着重要的作用。高分辨一维距离像作为有效的目标识别数据源，获取较为容易、存储较为方便，被广泛应用于雷达目标自动识别中。但由于信号本身具有姿态敏感性、平移敏感性、强度敏感性等问题，特征提取成为雷达高分辨率距离像目标识别问题中的关键技术。深度学习利用端到端的多层非线性映射，通过大量数据可以自适应地学习到目标鲁棒的、可辨识的特征，在各类识别任务中均超越了传统算法的性能。然而实际应用中难以获取到完备的目标信号，一定程度上限制了深度学习算法在雷达高分辨率距离像识别上的应用。

非完备雷达高分辨距离像识别研究对于提升数据不足、信息不全情况下模型的泛化性、鲁棒性和可靠性具有重大的意义，具有广阔的应用前景以及深刻的社会价值。目前主流的基于深度学习的雷达高分辨距离像识别方法虽然在仿真数据上取得了良好的效果，但是在真实信号上反应的情况会有出入，很难应用到实际当中。在此背景下，我们提出了基于深度迁移学习的雷达高分辨距离像识别方法，能够充分利用辅助仿真数据和少量完备的真实目标信号，有效提升模型在非完备目标上的识别性能。

发明内容

本发明的目的在于提供可提升雷达高分辨距离像在样本量少、姿态非完备情况下的目标识别性能，满足实际应用需求，更具实际应用价值的基于深度迁移学习的直推式雷达高分辨距离像识别方法。

本发明包括以下步骤：

1)真实目标信号与辅助仿真数据的预处理；

2)深度模型的选择及优化；

3)直推式迁移策略的应用。

在步骤1)中，所述真实目标信号与辅助仿真数据的预处理的具体步骤可为：

第一步：为了降低强度敏感性以及离群点等问题对算法带来的影响，对雷达高分辨距离像信号数据进行归一化：

其中，x为原始的一维雷达高分辨距离像信号，ave(max₅(x))和ave(min₅(x))分别为取其帧内五个最大值和最小值的平方，x^*为归一化后的信号数据；

第二步：为了解决仿真数据与真实信号维度有差异的问题，首先对真实信号的边缘部分进行统计，并根据其分布特性生成拼接于仿真数据目标周围的噪点(边缘部分)，使其维度与真实雷达高分辨距离像一致；

在步骤2)中，所述深度模型的选择及优化的具体步骤可为：

第一步：为了降低姿态敏感性、平移敏感性、强度敏感性等问题的影响，构建具有局部感受野、权重共享、多卷积核以及池化等特点的多层卷积神经网络，所述多层卷积神经网络仿照AlexNet^[1]设计五个卷积层以及包括分类器在内的三个全连接层，每两个卷积层之间有最大池化的操作，可进一步增加特征的平移、旋转不变性，降低特征维度，提高特征的鲁棒性和模型的泛化能力；

第二步：为了保证网络中每个神经元输入输出的差异性，促使模型稳定而快速的收敛，采用经典而有效的标准正态分布初始化方法，即使用均值为0，标准差为1的正态分布随机生成参数作为网络卷积核的初始化，并使用大于0小于1的小数随机生成参数作为网络偏置的初始化；

第三步：为了提升模型在非完备雷达高分辨距离像目标上的泛化性能，在前述卷积神经网络的基础上加入了正则化约束：Drop-out和L2范数，其中Drop-out是通过在网络训练时随机地以一定概率屏蔽或“删除”神经元，在测试时使用整个网络进行处理，达到多个网络模型共同集合判决的效果；L2范数是通过在原始代价函数后加上一个参数惩罚项，降低模型复杂度，防止过拟合：

其中，λ为正则项系数，m为批量输入的样本大小，w为网络的参数，系数主要是为了后面求导方便，L₀为原始代价函数，定义为交叉熵损失函数：

其中，h_w(x_i)表示单个输入样本x_i经过网络的非线性映射后得到的预测结果，y_i则为真实的标签信息。

在步骤3)中，所述直推式迁移策略的应用的具体步骤可为：

为了进一步提升网络在非完备目标识别问题上的泛化性能，采用域适应的方法将直推式迁移学习策略引入深度学习。域适应方法定义源域中有大量有标数据，而目标域只有无标签数据，通过将源域的监督信息迁移至目标域，使得源域数据与目标域数据互相制约，从而减小两个域的特征分布差异，减轻标注量不足对判别带来的影响，而雷达高分辨距离像的非完备是由数据缺失带来的而非标注量不足，故本发明需要重新定义域适应。

本发明针对完备的高分辨距离像数据获取困难的实际问题，提出了基于深度迁移学习的目标识别框架，可以有效提高样本量少、姿态非完备的雷达高分辨距离像的识别性能。本发明建立在深度学习与机器学习中迁移学习的基础上，本发明的主要特点是实用性强，可移植性强，能够满足大多数小样本、非完备等情况下弱监督学习的需求。

附图说明

图1为真实数据的域划分示意图

图2为原始数据、基本卷积神经网络最后特征层和直推式迁移学习最后特征层数据分布的PCA可视化示意图。在图2中，(a)表示原始数据，(b)表示基本卷积神经网络最后特征层，(c)表示直推式迁移学习最后特征层数据分布。

具体实施方式

以下实施例将结合附图对本发明作进一步的说明。

本发明包括以下步骤：

1)真实目标信号与辅助仿真数据的预处理，具体步骤如下：

第二步：为了解决仿真数据与真实信号维度有差异的问题，首先对真实信号的边缘部分进行统计，并根据其分布特性生成拼接于仿真数据目标周围的噪点(边缘部分)，使其维度与真实雷达高分辨距离像一致，具体操作即将真实数据的噪声部分提取出来，再拼接在仿真数据的边缘，使得得到的仿真数据维度统一。

2)深度模型的选择及优化，具体步骤如下：

第一步：为了降低姿态敏感性、平移敏感性、强度敏感性等问题的影响，构建了具有局部感受野、权重共享、多卷积核以及池化等特点的多层卷积神经网络。该网络仿照AlexNet^[1]设计了五个卷积层以及包括分类器在内的三个全连接层，每一层的参数根据上一层输出的数据来设定。输入的仿真数据长度为1024，五个卷积层的卷积核大小分别为32、32、8、8、4，卷积核个数分别为128、256、256、512、1024，输出数据的维度分别为1024、512、256、128、64。每两个卷积层之间有最大池化的操作，可进一步增加特征的平移、旋转不变性，降低特征维度，提高特征的鲁棒性和模型的泛化能力。三个全连接层中前两层长度均为4096，最后一层输出对三种目标的判别结果。

第二步：为了保证网络中每个神经元输入输出的差异性，促使模型稳定而快速的收敛，采用经典而有效的标准正态分布初始化方法，即使用均值为0，标准差为1的正态分布随机生成参数作为网络卷积核的初始化，并使用大于0小于1的小数随机生成参数作为网络偏置的初始化。

第三步：为了提升模型在非完备雷达高分辨距离像目标上的泛化性能，在前述卷积神经网络的基础上加入了正则化约束：Drop-out和L2范数。其中Drop-out是通过在网络训练时随机地以一定概率屏蔽或“删除”神经元，在测试时使用整个网络进行处理，达到多个网络模型共同集合判决的效果；L2范数是通过在原始代价函数后加上一个参数惩罚项，降低模型复杂度，防止过拟合：

其中，h_w(x_i)表示单个输入样本x_i经过网络的非线性映射后得到的预测结果，y_i则为其真实的标签信息。

3)直推式迁移策略的应用，具体步骤如下：

为了进一步提升网络在非完备目标识别问题上的泛化性能，本发明采用域适应的方法将直推式迁移学习策略引入深度学习。域适应方法定义源域中有大量有标数据，而目标域只有无标签数据，通过将源域的监督信息迁移至目标域，使得源域数据与目标域数据互相制约，从而减小两个域的特征分布差异，减轻标注量不足对判别带来的影响。而雷达高分辨距离像的非完备是由数据缺失带来的而非标注量不足，故本发明需要重新定义域适应。

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明技术方案中步骤3)，即域适应方法，作进一步地详细描述：

第一步：本发明通过姿态角因素考虑非完备，对域划分进行重新定义：将非完备库所具有的角度称为源域角度；非完备库所缺失的角度称为目标域角度。将完备库和非完备库的源域角度数据，称为源域；将完备库和非完备库的目标域角度数据称为目标域。为了解决数据缺失而导致无法适应原始域适应方案的问题，本发明在网络训练时将缺失的非完备库的目标域数据替换为非完备库的源域数据，即此时的目标域所包含的数据为完备库的目标域角度数据与非完备库的源域角度数据，称作训练用目标域，具体划分如图1所示。本发明将处于目标域未获取角度的数据称为目标域角度数据，而处于目标域已获得角度部分的数据称为源域角度数据，图中虚线部分表示未获得角度，实线部分表示已获得角度。在网络训练过程中，使用的源域为图1中的源域(完备库源域角度数据，非完备库源域角度数据)，使用的目标域为训练用目标域(完备库目标域角度数据，非完备库源域角度数据)，通过拉近这样定义的源域与目标域的距离，网络在训练过程中约束完备库中源域角度与目标域角度之间的分布形式，减少角度在网络特征提取中的影响，并将这种特性迁移至非完备库，使得非完备库受到姿态角的影响同样减小，达到直推式迁移的目的。

第二步：在迁移学习的基础上引入了三个不同的基于特征域适应的直推式迁移学习方法，分别为最大均值差异约束，联合最大均值差异约束以及对抗式约束。在本发明基于深度迁移学习的雷达高分辨距离像识别方法中，该三种方法都能对非完备目标的识别性能带来进一步提升，并且在具体不同实验设置中性能表现不一，故不能得出哪种方案明确优于其他方案的结论，下面就对这三类方案进行详细的表述。

(一)最大均值差异约束的深度卷积网络

最大均值差异(Maximum Mean Discrepancy,MMD)最早被提出用于双样本检测问题^[3]，用于判断两个分布p和q是否相同。现在一般多用于度量两个分布之间的相似性。

具体而言，基于MMD的统计检验方法是指：基于两个分布的样本，通过寻找在样本空间上的连续函数f，求不同分布的样本在f上函数值的均值，通过把两个均值作差可以得到两个分布对应于f的均值差异。寻找一个f使得这个均值差异达到最大，MMD由此定义。最后以MMD作为检验统计量，从而判断两个分布是否相同。如果这个值足够小，就认为两个分布相同，否则就认为它们不相同。同时这个值也用来判断两个分布之间的相似程度。如果用F表示一个在样本空间上的连续函数集，sup()表示最大值，那么MMD可以表示为：

通过引入核方法，即高斯径向函数上式最终可以表示为：

其中，表示服从p分布的源域数据，表示服从q分布的目标域数据。

MMD的统计估计可以表示为：

当且仅当p＝q的时候MMD的值等于零。因此将其作为正则化约束加入网络后，当网络收敛时，可以认为两个域的特征分布基本相同。

本发明参照Long M等人的论文^[4]，将最大均值差异约束添加在网络的倒数第二层与最后一层，这是根据深度卷积网络模型特征提取的特点而决定的：卷积网络通过堆叠的特征提取层能够学习到具有普适性和可迁移的特征，其中低层学习到的是具有普适性的细节边缘特征，高层特征则依赖特定的数据集和任务，在不同域间是存在差异性^[2]。加入最大均值差异约束的神经卷积网络具体训练进程如下：

1.定义网络MMDNet，定义其最后一层的特征为f_last

2.将源域数据与目标域数据构建成训练组(Training Batch)。

3.将训练组通过网络传导至最后一个特征层时将源域和目标域数据的特征分离，分别得到f_last(X_S)与f_last(X_T)两个各自只有一个域数据特征的特征组。由两个组中随机分别抽出两个数据的特征，得到两个来自源域数据的特征与两个两字目标域数据的特征。根据MMD的统计估计表达式，多次重复如上操作得到一次训练进程中的最大均值差异约束值L_mmd。

4.将L_mmd与损失函数值和其他约束函数值，相加得到L_all，并使用反向传播算法优化minL_all。

5.多次重复，直到网络趋于收敛。

(二)联合最大均值差异约束的深度卷积网络

方案一通过最小化深度网络中高层特征的各层最大均值差异值进行约束，使得这些层得到的特征在源域和目标域中分布形式尽可能一致，从而达到迁移的效果。本方案则从另外一个视角——通过约束两个层的联合特征^[5]，使得两个层得到的特征的联合分布在源域和目标域上的表达相似来达到迁移的效果。

假定所设计的深度网络有L层，本方案定义网络倒数第二层的特征输出为f_L-1，网络最后一层的输出定义为f_L。为了约束两者信息的联合分布以达到迁移的效果，定义两层特征输出的张量相乘作为特征联合矩阵，即当f_L-1的维度为m，f_L的维度为n时，f_L·L-1的维度为m×n。对源域数据和目标域数据的联合特征矩阵添加最大均值差异的约束项，即联合均值最大差异((Joint Maximize Mean Discrepancy,JMMD)，定义为：

方案一是对各特征层的最大均值差异约束简单求和，未考虑到层与层之间的联系。本方案希望综合考虑两个相关的层之间的联系，这点在最后的两层中显得具有特别的意义：倒数第二层输出的是最后的特征层，也就是用于分类的特征层；最后一层输出的是样本的逻辑回归值，将两者张量相乘将得到对应与每个类别的逻辑回归值与分类特征的各个维度的一个联合变量，如此得到的矩阵可以较为详尽的刻画分类结果与特征间的相互作用。因此，我们在本方案中将联合最大均值差异的约束项添加在网络的最后两层之间。加入联合最大均值差异约束的神经卷积网络具体训练步骤如下：

1.定义网络JMMDNet，定义其最后一层的特征为f_last，最后输出层为输出为f_logistic。

2.将源域数据与目标域数据构建成训练组(Training Batch)。

3.将训练组通过网络传导至最后，在最后一个特征层将源域和目标域数据的特征分离，分别得到f_last(x_S)与f_last(x_T)两个各自只有一个域数据特征的特征组。在最后的输出层分别得到f_logistic(x_S)与f_logistic(x_T)两个各自只有一个域数据结果得到的结果组。由f_last(x_S)与f_logistic(x_S)中随机抽取两个源域数据的特征与结果，由f_last(x_T)与f_logistic(x_T)中随机抽取两个目标域数据的特征与结果。用特征和结果进行特征相乘得到自己的特征联合矩阵M(x_si)、M(x_sj)、M(x_ti)与M(x_tj)。其中s，t代表源域和目标域，i，j代表样本序号。多次重复如上操作代入联合均值最大差异表达式中，得到一次训练中的联合最大均值差异约束值L_Jmmd。

4.将L_Jmmd与损失函数值与其他约束函数值，相加得到L_all。使用反向传播算法优化minL_all。

5.多次重复，直到网络趋于收敛。

(三)对抗式约束的深度卷积网络

基于对抗(Adversarial)思想和深度网络的域适应迁移方法近年来得到一定的关注。具体而言，在这个框架的训练过程包括三个部分：其一是特征提取网络，一般由卷积层与池化层组成；其二是类别分类器，使用全连接层与逻辑回归分类器；其三是和特征提取网络构成对抗网络框架的域分类器，由全连接层和交叉熵分类器构成，这也是本方案的特点。对抗思想体现在对于域分类器损失在训练阶段两个相反的要求：对于域适应的应用，其希望特征提取网络学到的特征表示具有域不变特性，即要求域分类器不能正确区分特征是来自源域还是目标域，也就是要求其域分类损失最大；另一方面分类器被设计为尽可能对不同域的特征进行正确的分类，也就是域分类器的分类损失最小。这种对抗的框架最早是由Goodfellow在论文^[8]中提出的，其最初针对的应用是图像生成，为了训练一个生成模型学习样本的分布，在框架中引入了一个判别模型用于区分样本是由模型生成还是来源于真实分布。

本发明设计了两个分类器，一个用来处理相关的分类任务，一个用来进行域的分类，即判断一个样本来自源域还是目标域[6]。整个算法的损失函数为L＝∑_i＝1,...,NL_y(x_i,y_i)-λL_d(x_i,d_i)，其中x_i表示样本，y_i表示对应的标签，d_i表示对应的域标签。L_y为分类损失函数，L_d表示域分类损失函数。两个分类器会连接到网络的最后一个特征层上，也就是说这个特征层会受到这两个损失函数的约束。其起到的作用就是使得网络既能正确分类样本的类别，同时其特征在两个域上的分布形式尽可能相似，使得网络无法判别这样的特征来自哪个域。本方案的具体训练步骤如下：

1.定义网络RevNet，定义其最后一层的特征为f_last。

2.在f_last后同时连接上分类网络与域判别网络。

3.将源域数据与目标域数据构建成训练组(Training Batch)

4.将训练组通过网络得到f_last。使f_last通过分类器得到L_y，通过域分类器得到L_d。通过反向传播优化minL_y，更新RevNet与分类网络参数。通过反向传播优化minL_d，更新域判别网络参数。通过反向传播优化-minL_d，更新RevNet参数。

5.重复步骤4，直到网络收敛

综合上述基于深度迁移学习的雷达高分辨距离像识别方法的三个步骤，可进一步归纳为如下思路：

1.选择合适的预处理方式处理数据

2.使用卷积神经网络架构，选择合适的正则化方法与参数初始化方式优化网络。

3.在迁移学习的基础上，使用直推式迁移方法对特征进行约束，使用真实数据训练深度迁移网络，直到模型收敛。

已经有学者将深度学习直接应用于完备高分辨距离像的识别问题中^[7]，但是直接将其应用到非完备高分辨距离像识别问题仅能得到较差的性能，并且深度学习中一些成熟的技巧，在该问题上还可能起到反向效果，如批归一化等。

本发明的实验效果如图2所示，该可视化效果是通过主成分分析(PrincipalComponent Analysis，PCA)分别对测试集中原始数据、基本卷积神经网络最后特征层和直推式迁移学习最后特征层进行降维得到的。其中，三种不同标签分别代表目标域(非完备库)测试集中的三种不同型号的目标，其中标签2和标签1分别为非完备库的两类目标，标签0为完备库的一类目标。从图(a)、图(b)，即原始数据和未经过预训练的基本卷积神经网络后的最后一层特征的分布来看，三种目标的特征之间存在明显较大的混杂区域，这也说明，直接通过该数据特征很难通过分类器得到正确的分类结果，而通过直推式迁移学习后，即对深度卷积神经网络模型最后一层特征进行最大均值差异约束后(图(c))，能有效地拉大三类不同目标间的特征差异，更加有利于对非完备库目标域识别性能的提升。综合以上分析可以得到结论：区别较大的目标判别性能不佳，更多地是由于目标本身训练数据非完备，使得各种姿态下的数据不能有效地抽象至相似的表达中，使得姿态在特征表示中起到阻碍识别的作用。因此，对于这些相较于完备库区别较大的目标，可以采用直推式迁移学习的方法将姿态从特征表示中解耦，同时通过约束两种数据库中的特征分布，令非完备库未捕获姿态的数据特征分布形式一定程度的接近了非完备库已捕获姿态的数据特征分布，从而提升非完备HRRP目标形式识别性能，特别是在严苛的实验设置下，提升效果尤为明显。

本发明的创新点包括：(1)将深度学习应用于非完备雷达高分辨距离像识别。本发明从模型结构，算法参数初始化，以及深度学习技巧等多个方面寻求适合非完备的雷达高分辨距离像识别的方案，并取得了较好的效果。(2)将直推式迁移学习中的域适应方法应用于提高非完备高分辨距离像识别问题。本身域适应方法是用于解决标注量不足的问题，其核心思想是将有标数据设定为源域，将无标数据设定为目标域，拉近两个域之间特征分布的距离达到迁移的效果。本发明将这种思想应用于提高非完备高分辨距离像识别问题中，并成功的得到了更好的效果。

Claims

1.基于深度迁移学习的直推式雷达高分辨距离像识别方法，其特征在于包括以下步骤：

1)真实目标信号与辅助仿真数据的预处理；

2)深度模型的选择及优化；

3)直推式迁移策略的应用。

2.如权利要求1所述基于深度迁移学习的直推式雷达高分辨距离像识别方法，其特征在于在步骤1)中，所述真实目标信号与辅助仿真数据的预处理的具体步骤为：

第一步：对雷达高分辨距离像信号数据进行归一化：

第二步：对真实信号的边缘部分进行统计，并根据其分布特性生成拼接于仿真数据目标周围的噪点，使维度与真实雷达高分辨距离像一致。

3.如权利要求1所述基于深度迁移学习的直推式雷达高分辨距离像识别方法，其特征在于在步骤2)中，所述深度模型的选择及优化的具体步骤为：

第一步：构建具有局部感受野、权重共享、多卷积核以及池化特点的多层卷积神经网络，所述多层卷积神经网络仿照AlexNet设计五个卷积层以及包括分类器在内的三个全连接层，每两个卷积层之间有最大池化的操作，进一步增加特征的平移、旋转不变性，降低特征维度，提高特征的鲁棒性和模型的泛化能力；

第二步：采用经典而有效的标准正态分布初始化方法，即使用均值为0，标准差为1的正态分布随机生成参数作为网络卷积核的初始化，并使用大于0小于1的小数随机生成参数作为网络偏置的初始化；

第三步：在卷积神经网络的基础上加入正则化约束：Drop-out和L2范数，其中Drop-out是通过在网络训练时随机地以一定概率屏蔽或“删除”神经元，在测试时使用整个网络进行处理，达到多个网络模型共同集合判决的效果；L2范数是通过在原始代价函数后加上一个参数惩罚项，降低模型复杂度，防止过拟合：

其中，λ为正则项系数，m为批量输入的样本大小，w为网络的参数，系数主要是为后面求导方便，L₀为原始代价函数，定义为交叉熵损失函数：

4.如权利要求1所述基于深度迁移学习的直推式雷达高分辨距离像识别方法，其特征在于在步骤3)中，所述直推式迁移策略的应用的具体步骤为：

采用域适应的方法将直推式迁移学习策略引入深度学习，域适应方法定义源域中有大量有标数据，而目标域只有无标签数据，通过将源域的监督信息迁移至目标域，使得源域数据与目标域数据互相制约，从而减小两个域的特征分布差异，减轻标注量不足对判别带来的影响，而雷达高分辨距离像的非完备是由数据缺失带来的而非标注量不足，重新定义域适应。