CN114241263A

CN114241263A - 基于生成对抗网络的雷达干扰半监督开集识别系统

Info

Publication number: CN114241263A
Application number: CN202111551230.3A
Authority: CN
Inventors: 张伟; 康慧; 陈翾宇; 曹建蜀
Original assignee: University of Electronic Science and Technology of China
Current assignee: University of Electronic Science and Technology of China
Priority date: 2021-12-17
Filing date: 2021-12-17
Publication date: 2022-03-25
Anticipated expiration: 2041-12-17
Also published as: CN114241263B

Abstract

本发明提供一种基于生成对抗网络的雷达干扰半监督开集识别系统，包括生成对抗网络GAN形成的生成器和自适应伪标签‑卷积神经网络形成的判别器两部分：生成器用于从随机噪声中生成伪样本；判别器用于判别输入样本的真假情况。训练过程中，生成器将生成的伪样本和K类少量有标记样本输入到判别器中进行训练，将生成器生成的伪样本判定为第K+1类，将真实样本判定为前K类；完成训练后，将待识别雷达干扰数据输入已完成训练的判别器，判别器输出干扰识别结果。本发明引入生成对抗网络，在迭代过程中通过生成器与判别器的博弈对抗增强模型的识别能力和对未知类的判别能力，实现少量标记样本下的雷达干扰半监督开集识别。

Description

基于生成对抗网络的雷达干扰半监督开集识别系统

技术领域

本发明涉及雷达干扰识别技术，特别涉及一种基于生成对抗网络的雷达干扰半监督识别技术。

背景技术

雷达干扰“闭集”识别训练和测试样本满足独立同分布条件，但实际环境中模型可能会遇到非训练集以外的“未知类”干扰，故需增强模型的排异能力，以实现雷达干扰的开集识别。雷达干扰识别模型为“闭集”识别，即训练样本类别数与测试样本类别数相同，得到较好识别效果。考虑实际电磁环境中，对于一个模型或系统，不仅要求能对已训练的样本进行精确识别，还要求具有排斥异类样本的能力，对未训练过的样本可以准确判定为异类，增强模型的泛化性能，减少错误识别。

传统的开集识别这一问题，主要解决思路可以分为两大的模型，基于判别模型和基于生成模型。这两种识别方式均为监督学习方式，即需要大量的有标记样本，耗费一定的人力资源。

闭集识别和开集识别的基本原理见图1，其中闭集识别模型对输入样本的分类决策时，测试样本集合中不存在未知类别，模型只需适应被训练过的样本类别，如图1(a)；开集识别过程中输入若为已知种类的样本，输出其类别，当输入为未知种类的样本时，输出为未知类，如图1(b)。

相对于闭集干扰识别而言，开集识别更加符合实际雷达抗干扰中的干扰识别问题。采用闭集识别干扰的方式时，在测试过程中若存在未训练过的样本，由于神经网络模型结构设置的原因，致使网络仅具备对训练样本特征的提取能力，而对于未知类样本，网络仍会以较高的置信度被判定为训练样本中的一类；当未知样本被判定为干扰的某一类时，后续采取的抗干扰措施仅针对这类干扰，无法实现对未知干扰的抑制，将对雷达工作造成一定程度的威胁。

发明内容

本发明所要解决的技术问题是，针对在实际的电磁环境中，不仅要求干扰识别网络能对已训练的样本进行精确识别，还要求其具有排斥异类样本的能力，因此，为解决闭集识别过程中存在的系统误判问题，在半监督学习的基础上，提供一种实现雷达干扰的开集识别的网络。

本发明为解决上述技术所采用的技术方案是，为实现少量标记样本下的雷达干扰半监督开集识别，将自适应伪标签-卷积神经网络半监督模型作为生成对抗网络中的判别器，构造出基于半监督PL生成对抗网络GAN的卷积神经网络GAN-PL-CNN(PL-CNN based onGenerative Adversarial Networks)模型。生成器用于从随机噪声中生成“伪样本”；判别器用于判别输入样本的真假情况，“真”包括判别出属于K种已知类别的情况，即属于真实样本的情况，“假”为第K+1种对应未知类别的情况，即属于“伪样本”的情况。在训练的迭代过程中通过生成器和判别器不断博弈，实现雷达干扰半监督开集识别。

包括生成对抗网络形成的生成器和以及自适应伪标签-卷积神经网络形成的判别器；其特征在于：

生成对抗网络形成的生成器用于训练过程中生成无标记干扰样本作为伪样本，通过在训练过程中与判别器的博弈实现生成趋近于真实样本的伪样本；

自适应伪标签-卷积神经网络形成的判别器用于在训练过程中先接收伪样本以及已打标的K种已知类别的干扰样本组成的输入样本和初始化参数完成初训练；初训练完成之后开始半监督训练，即接收伪样本与已打标的已知类别的干扰样本组成的输入样本，记录当前伪样本数量，判别器输出K+1维的干扰识别结果，前K维对应已知的K类干扰，第K+1维对应伪样本，采用自适应伪标签选取方式在干扰识别结果中选择高置信度的输入样本并打标后作为已打标的已知类别的干扰样本，剩余低置信度的输入样本继续作为伪样本，并记录本次训练后得到的伪样本数量，如当前记录的伪样本数量小于上一次记录的伪样本数量，则更新输入样本再次进行半监督训练，通过训练过程中与生成器之间的博弈实现雷达干扰半监督开集识别，直至伪样本数量不再减少，半监督训练完成；在测试过程中，判别器用于接收待识别的雷达干扰数据输出K+1维的干扰识别结果。

基于生成对抗网络的雷达干扰半监督开集识别系统包括生成对抗网络形成的生成器和自适应伪标签-卷积神经网络形成的判别器两部分，系统的仿真过程包括训练部分和测试部分；

半监督生成对抗网络(SSGAN，Semi-Supervised GAN)的基本原理如图2所示。在生成对抗网络中，生成器主要用于从随机噪声中生成伪样本，让伪样本尽量接近真实样本，判别器主要用于区分真实样本与伪样本；通过生成器与判别器不断博弈达到生成的伪样本越来越逼真、判别器的判别能力越来越强的效果。SSGAN在原始生成对抗网络的基础上，将判别器作为多分类器，不再局限于真假判断，判别器的输出为K+1维，即在网络模型中设置softmax的维度为K+1，前K维为K类样本，第K+1维为生成器生成的伪样本。因此可将生成器生成的伪样本作为一种新的类别训练模型，使得模型具备开集识别的能力。

本发明提出基于半监督PL生成对抗网络GAN的卷积神经网络GAN-PL-CNN(PL-CNNbased on Generative Adversarial Networks)模型是对现有卷积神经网络CNN进行改进，引入生成对抗思想，使整个模型具备半监督开集识别能力，用于雷达干扰样本半监督开集识别。GAN-PL-CNN模型首先通过时频变换和图像处理建立雷达干扰已知类和未知类数据集对雷达干扰建模。然后，结合卷积神经网络特征学习能力强和伪标签智能增加标签的特点，采用自适应伪标签法实现雷达干扰半监督智能闭集识别。最后，引入生成对抗网络，在迭代过程中通过生成器与判别器的博弈对抗增强模型的识别能力和对未知类的判别能力，实现雷达干扰半监督开集识别。

本发明的有益效果是，对未训练过的样本异能准确识判定为异类，模型的泛化性能增强，减少错误识别。仿真结果显示，GAN-PL-CNN模型在标签数为360—720时，已知类识别率达89.7％—95.1％，未知类识别率为30.7％—86.8％。随着标签数的增加，识别效果越来越好且具备较高的排异能力。

附图说明

图1为闭集识别和开集识别的基本原理示意图；

图2为SSGAN的基本原理框图；

图3为GAN-PL-CNN基本框图；

图4为实施例生成器模型示意图；

图5为实施例判别器模型示意图；

图6为实施例相邻元素比值最大处分别不同位置的示意图；(a)位置3；(b)位置2；(c)位置7；(d)位置4。

图7实施例生成器在不同迭代次数下生成的干扰伪样本；(a)iter＝50；(b)iter＝800；(c)iter＝3000；(d)iter＝5000；

图8为实施例不同标签数下GAN-PL-CNN的识别结果混淆矩阵；(a)标签数为360；(b)标签数为480；(c)标签数为600；(d)标签数为720；

图9为实施例不同标签数下GAN-PL-CNN网络的识别率曲线；

图10为不同标签数下GAN-PL-CNN的识别损失函数曲线；(a)标签数为360；(b)标签数为480；(c)标签数为600；(d)标签数为720。

具体实施方式

本发明为实现少量标记样本下的雷达干扰开集识别，将自适应PL-CNN作为生成对抗网络中的判别器，构造出GAN-PL-CNN模型。通过生成器和判别器不断博弈，实现雷达干扰半监督开集识别，模型基本框图如3所示。

GAN-PL-CNN模型中，生成器G如图4所示，首先将随机噪声z经过全连接重构为一个256*1维的向量，经过维度变换为2*2*64，经过6次反卷积操作，输出向量的深度越来越浅，变化过程为：256→256→128→128→64→1，即最后输出图像通道数为1的黑白图像，输出像素大小的变化为：4*4→8*8→16*16→32*32→64*64→128*128，那么输出图像的维度为128*128*1。

判别器如图5示。训练时先搭建好卷积神经网络结构，给定少量有标记的雷达干扰输入样本和初始化参数；然后，利用少量有标记的雷达电子干扰样本对模型进行初训练，把经过初训练得到的模型去预测剩余的大量无标记干扰样本，并判定预测结果是否可信；最后，将可信度高的样本加入到有标签样本中，将再次有标签样本与无标记干扰样本输入模型进行训练，直到剩余无标记干扰样本数量不再减少则完成卷积神经网络的训练。自适应的引入可以增加样本空间中有标记样本数量。

半监督的卷积神经网络PL-CNN的结构主要由2层卷积层、2层池化层、2层全连接层组成。CNN网络利用卷积核对干扰时频图像进行自上而下、自左而右的加权求和，实现对图像的特征提取，然后经过池化层进行降采样，保证特征尺度不变的前提下降低参数，全连接层通过神经元将所有特征连接起来，实现特征的整合特征，并将特征的维数经过Softmax变换至分类器所需的空间维数。

输入CNN的图片大小为128*128*1，经过第一层卷积层处理，其中卷积核大小为17*17，步长stride＝2，然后经过批标准化处理，最后利用ReLU函数实现非线性化，输出(64，64，64)的张量，作为下一层的输入；采用最大池化方式，降采样为(32，32，64)的张量；第三层卷积层中，卷积核设置为7*7，经过批归一化、ReLU后得到(16，16，64)张量；最大池化降采样为(8，8，64)；经过全连接层，设置遗忘比例keep_prob＝0.5，经过维度变换reshape后为1024；最后经过全连接softmax输出为8维的置信度向量。

由于Softmax输出概率对应着该样本会成为某种干扰，优选的，可采用PoIS方法选取扩展候选集，得到自适应得到预测样本伪标签的方法。

雷达干扰样本经过卷积神经网络的最后一层Softmax后得到的是该样本成为预设的已知种类型干扰的概率，以噪声调幅干扰AM为例，该AM样本经过网络模型后会由TensorFlow框架中的tf.nn.Softmax模块输出一个8行1列的向量，为AM成为各已知种类干扰的概率，在正确识别的情况下，其下标为0时的Softmax输出概率应最大。由于Softmax输出概率对应着该样本会成为某种干扰，根据PoIS方法选取扩展候选集，预测样本的伪标签可自适应得到，该方法步骤为：

(1)将一个Batchsize中各个雷达干扰样本输入到CNN网络中，将每个干扰样本的Softmax输出概率按从大到小顺序依次排列，对应index跟随对应概率变化排列；

(2)计算元素间的比值，计算后一项与前一项元素比值，计算公式如下：

式中，n表示一个Batchsize中第n个样本，m为已知干扰种类数，

为比值因子。根据以上公式会得到一个关于某样本元素比值的向量

(3)找到

中的最大值，并确定概率变化最大时所在的位置x，那么该样本对应网络输出的Softmax概率在x位置处中变化是最大的，可知x位置之前的概率变化不够明显，记录需候选的伪标签数，即x-1。

(4)伪标签的选取规则为仅选取x-1≤1的位置处对应的伪标签，若不满足，则自动加入无标记样本集继续进行训练。

在一个Batchsize中随机抽取四个输出其Softmax概率并计算相邻元素间的比值，图6(a)、(b)、(c)、(d)中相邻元素比值最大处分别为位置3、位置2、位置7、位置4，那么候选的伪标签数量分别为2、1、6、3。从图6中可知，当候选样本数超过1时，表示所对应的Softmax概率值中，并非只有一个概率值远高于其他概率值，说明模型并不能以很大的确信程度将样本判定为概率最大的那一类，因此，如果直接取概率最大值对应的标签为伪标签，会引入错误的伪标签，从而影响模型的训练效果，影响识别结果；当候选样本数为1时，说明模型将样本判定为某一类的概率很大，而判定为其他类别的概率很小，此时可将概率最大的那一类作为样本的伪标签，且可靠性较高。

因此我们选取这一类样本和其对应的可靠伪标签加入原始有标签数据，对原始有标签数据进行扩充，更新训练模型，再以新的模型对无标记样本进行预测，如此迭代，直至剩余样本量不再变化。将一个Batchsize的候选伪标签数打印，在此批次中将被选中的雷达干扰样本作为有标记样本加入到原始标签数据集中。

判别器设置损失函数利用交叉熵刻画概率分布之间的距离。交叉熵作为神经网络的损失函数时，Softmax层将前向的输出转化为概率分布。交叉熵越小，预测值越接近于真实值。利用Adam Optimizer优化器来优化网络中的参数，以达到最小化损失函数的目的。

PL-CNN的损失可表示为：

L＝L_supervised+L_unsupervised

式中，判别器的损失包含有标记样本的监督损失L_supervised以及无标记样本的无监督损失L_unsupervised，它们具体可表示为：

监督损失L_supervised用于将真实的有标记样本被判定为K类中某类时y～P_data，判定结果y与其真实标签之间的差距情况，E表示期望。

L_unsupervised＝E_x～G[logp(y＝K+1|x)]

无监督损失L_unsupervised中用于对被判定为K+1类这部分的输入x来自于生成器生成的伪样本x～G，判定结果y为“假”的情况。

训练和测试过程

GAN-PL-CNN模型的训练过程主要为：首先，生成器生成“伪样本”；然后，将生成器生成的“伪样本”和K类“少量有标记样本”输入到判别器(自适应PL-CNN)中进行训练，根据损失函数的设置，判别器会将生成器生成的“伪样本”判定为第K+1类，将真实样本判定为前K类，从而学得判别新类别的能力，实现开集识别。最后，为进一步利用K类无标签样本提升模型的性能，预测剩余无标记样本的标签(此时设置的Softmax输出维度为K，以保证无标记样本的正确预测)，将高置信度样本加入到原始的少量标记样本集中，利用新的标记样本和生成器生成的“伪样本”继续进行迭代训练，直至剩余的无标记样本不再减少。

GAN-PL-CNN模型的测试过程为：利用GAN-PL-CNN模型训练完成的判别器进行测试，其中测试集中不仅包含“已知类”的8种干扰，还包括一类新型的未被训练过的“未知类”干扰。GAN-PL-CNN的训练和测试过程如下：

输入GAN-PL-CNN模型的训练集(K类)：l个有标签干扰样本及标签，u个无标签雷达干扰样本，其中l<<u；测试集(K+1类)：n个无标签样本；GAN-PL-CNN模型输出n个无标签样本的标签；训练阶段：

Step1建立生成器模型；

Step2将自适应PL-CNN作为判别器；

Step3

①生成器生成无标记样本数据集“伪样本”；

②将“伪样本”和有标签样本输入判别器；

③判别器输出样本的预测分类，利用自适应伪标签选取方式筛选出高置信度样本，并将其加入到有标签样本数据集，低置信度样本放回原无标记样本数据集，并记录余下的无标记样本数S_n，当S_n＜S_n-1则返回步骤②；当S_n＝S_n-1时，判别器训练完成。

测试阶段：

利用训练好的判别器预测n个测试样本的标签。

实验结果

实验服务器Windows10，运行内存16GB，8核处理器，搭载NVIDA GeForce RTX2070GPU，使用TensorFlow框架建立模型，并采用NVDIA Cuda对GPU加速。

已知的有源非相干干扰包括：噪声调幅干扰(AM)、噪声调频干扰(FM)、梳状谱干扰(Comb)；已知的有源相干干扰包括：切片转发干扰(C&I)、频谱弥散干扰(SMSP)、灵巧噪声乘积式干扰(MN)、灵巧噪声卷积式干扰(CN)；数据集采用以上8种干扰，根据数学建模和分析，对8种干扰在4dB干噪比下进行仿真分析，仿真参数设置下表所示：

8类干扰在4dB时的仿真参数

为模拟实际环境中存在训练集以外的干扰样本，在测试中引入新的干扰类型：密集假目标干扰(MT)；密集假目标由于子干扰间的密度较大能将雷达回波信号淹没，而每个子干扰又是对雷达发射信号的截取和复制，然后在短时间内进行延时重复转发，便会产生大量的假目标，从而影响雷达工作。密集假目标干扰是一种有源相干干扰，同时具备欺骗和压制效果。

密集假目标干扰样本集生成时的参数设置如下表所示：

密集假目标干扰参数

可视化生成器生成的伪样本，结果如图7所示，(a)、(b)、(c)、(d)中展示了迭代次数分别为50、80、3000、5000时生成器生成的伪样本可视化结果。从图中可知，在迭代初期，伪样本呈现出杂乱无章特性，随着迭代次数增加，生成的样本逐渐呈现出干扰的特征，在迭代次数为3000以后，生成的伪样本越来越接近于真实干扰样本，基本可以判断出干扰类型。

将雷达干扰训练集输入到GAN-PL-CNN模型中进行实验。测试样本集合中加入300个密集假目标干扰样本作为“未知类”，即这些样本并未经过模型训练，用于测试模型对“未知类”样本的判别情况。实验中设置的雷达干扰标签数量分别为360、480、600、720，GAN-PL-CNN模型经过测试得到的混淆矩阵如图8所示，识别率曲线如图9所示，损失函数如如图10所示。从混淆矩阵的识别结果和识别率曲线图中可知，随着标签数的增加，GAN-PL-CNN模型对角线颜色越来越深，代表模型对每种干扰的识别能力越来越好。对于混淆矩阵中出现的‘unknown’项代表“未知类”干扰，混淆矩阵中最右上角的颜色越深代表着对“未知类”干扰的判别效果越好。从测试结果来看，随着标签数增加，模型对于“未知类”的判断效果从0.307逐渐增加至0.868，代表GAN-PL-CNN模型对“未知类”的判断效果也越来越好。从损失函数曲线图可知，标签数为360时曲线抖动较为明显，随着标签数增加，损失函数曲线随迭代次数的增加呈现出逐渐稳定的趋势。

GAN-PL-CNN在不同标签数下的识别率结果如下表所示，GAN-PL-CNN网络在标签数为360、480、600、720时，识别率分别达到89.7％、91.5％、93.8％、95.1％，对“未知类”的识别率分别为30.7％、57.6％、63.4％、86.8％。随着标签数的增加，GAN-PL-CNN模型对每类干扰的识别效果越来越好，且实现较高的排异能力。

GAN-PL-CNN网络在不同标签数下的识别结果

一般模型进行干扰识别过程为闭集识别，即训练样本种类与测试样本种类一致，即便测试样本与训练样本具有一定的差异，但是模型学习过这些种类的干扰。当模型遇到未知干扰类别时，由于网络结构的特殊性，这些未知类干扰会以较高的置信度被判定为8类干扰中的一类，导致模型误判。提出基于半监督学习的雷达干扰开集识别模型GAN-PL-CNN，将自适应PL-CNN模型和生成对抗思想相结合，在训练过程中增强网络对于未知类干扰的判定。在标签数高于480时，对未知类的识别效果超过50％；在标签数为720时，对未知类的识别效果达到85％以上，如上表所示。因此，提出的GAN-PL-CNN模型不仅实现原有8类干扰的识别，还能实现对未知类的排异。

Claims

1.基于生成对抗网络的雷达干扰半监督开集识别系统，其特征在于，包括生成对抗网络形成的生成器和以及自适应伪标签-卷积神经网络形成的判别器；

2.如权利要求1所述系统，其特征在于，生成器接收输入的随机噪声，将随机噪声经过全连接重构为一个256*1维的向量，再经过6次反卷积操作输出维度为128*128*1的伪样本。

3.如权利要求1所述系统，其特征在于，半监督卷积神经网络包括2层卷积层、2层池化层和2层全连接层；

输入CNN的图片大小为，经过第一层卷积层接收128*128*1的张量，采用17*17的卷积核进行卷积后输出64*64*64的张量至第一层池化层，第一层池化层采用最大池化方式输出32*32*64的张量至第二层卷积层，第二层卷积层采用7*7的卷积核输出16*16*64的张量至第二层池化层，第二层池化层采用最大池化方式输出8*8*64的张量至第一层全连接层经维度变换后输出1024维的向量，再经过第二层全连接层后输出8维的置信度向量。

4.如权利要求1所述系统，其特征在于，半监督卷积神经网络在进行训练时采用的损失函数由有标记样本的监督损失以及无标记样本的无监督损失组成。