CN114492604A - 一种小样本情景下的辐射源个体识别方法 - Google Patents

Abstract

本发明提出一种小样本情景下的辐射源个体识别方法，将基于不同时频分析方法下提取到的信号时频特征分别输入进神经网络中进行训练，待模型收敛后提取神经网络全连接层输出的特征进行融合，然后基于注意力机制完成融合后特征的优化，再将优化后的融合特征作为辐射源个体间的指纹特征应用于辐射源个体的识别任务，并采用随机搜索策略对使用优化后的融合特征训练的网络进行超参数调优。本发明通过特征提取的选择及组合、特征融合处理、融合后特征优化以及超参数搜索策略缓解了基于小样本的辐射源个体识别任务中数据特征不足、训练严重过拟合以及识别准确率低下的问题，提高了小样本情境下辐射源个体识别准确率，改善了神经网络性能。

Description

一种小样本情景下的辐射源个体识别方法

技术领域

本发明涉及辐射源个体识别技术，具体涉及小样本情景下的辐射源个体识别技术。

背景技术

辐射源个体识别系统大致可分为数据获取、数据预处理、特征提取或特征降维及选择以及分类识别四大环节。

其中，数据获取及数据预处理方法较为成熟、差异较小；

特征提取的方法较为多样，大致可分为基于信号参数的特征提取、基于信号处理方法的特征提取和基于辐射源个体固有的非线性的特征提取三大方向：基于信号参数的特征提取的主要切入点为时频域的参数统计，多用于辐射源型号及状态识别，难以完成辐射源的个体识别；利用信号处理方法进行的特征提取，主要是基于各大变换域的特征提取，但从单域上提取的特征往往不够丰富，且针对性强，可能仅对某些特定的辐射源数据集具有较好的特征提取效果，其应用范围往往受限；基于辐射源个体固有的非线性特征提取往往从辐射源内部的器件如滤波器、功率放大器、数模转换器等固有的非线性特征以及发射机系统自身的非线性特征两方面入手进行特征提取，其方法复杂，应用范围受限。

近年来，由于机器学习具有强大的数据分析与自学习能力，故逐渐将其引入到辐射源分类识别领域。现有的基于机器学习的辐射源分类识别方法大致可分为基于聚类分析、基于统计学习、基于神经网络三大方向：其中聚类分析是基于数据相似性，从而将数据样本划分为数个不同类的数据挖掘过程；基于统计学习的辐射源识别旨在通过提取辐射源特征参数来构建分类模型；而基于神经网络的辐射源识别则是主要了利用其极强的自学习能力和自适应能力来完成特征提取与分类。由于神经网络的输入是从辐射源信号中提取得到的特征，即数据样本，因此神经网络的分类效果往往依赖于样本的质量，机器学习本身需要大量的训练样本，但实际情况中，辐射源信号，尤其是雷达信号截获的持续时间较短，样本数量往往不足，即针对小样本识别，机器学习训练困难，识别率低下。

由于深度学习依赖优质的样本，需要大量样本进行训练，因此现有的基于深度学习的辐射源个体识别方法在小样本情境下效果欠佳，容易产生严重的过拟合现象，此外，现有的辐射源个体识别多是基于信号时域特征的识别，或是基于单一时频分析方法得到的时频特征的识别，在小样本情境下特征不够丰富。

发明内容

本发明所要解决的技术方案是，针对小样本情景下的射源个体识别困难及网络输入特征不足的问题，提出一种小样本情景下基于多时频特征特征级融合和网络超参数随机搜索调优的辐射源个体识别方法。

本发明为解决上述技术问题所采用的技术方案是，一种小样本情景下的辐射源个体识别方法：将基于不同时频分析方法下提取到的信号时频特征分别输入进神经网络中进行训练，待模型收敛后提取神经网络全连接层输出的特征进行融合，再采用注意力机制优化融合结果，并将融合后的特征作为辐射源个体间的指纹特征应用于辐射源个体的识别任务，最后采用随机搜索的方法对融合后的特征训练网络进行超参数调优。

本发明提供了一种基于多时频特征特征级融合的辐射源个体信号的特征提取方式，将基于不同时频分析方法(STFT，CWT，WVD，HHT)下提取到的信号时频特征分别送入神经网络中进行二次特征提取，再将该二次特征在不同通道上进行拼接融合，然后对融合后的特征进行基于注意力机制的融合优化处理，并最终将该优化后的融合特征作为小样本情境下辐射源的个体指纹特征。

采用本发明提供的特征融合流程能有效丰富样本的特征，使得神经网络的训练效果有着显著提升，此外，由于特征更加丰富，可以有效缓解在单一变换域下网络训练出现严重过拟合的问题，能有效适用于小样本情境下的辐射源个体识别任务。

本发明使用的基于注意力机制的特征融合优化方法，可有效为不同通道的特征以及相同通道不同位置的特征分配合理的权重，使得易于分类的特征更加明显，更有助于后续网络的训练。

本发明使用的基于随机搜索的网络调优方法，在小样本情境下采用全连接神经网络对本发明构建的融合后特征进行训练时，可以有效完成该模型的调优。

神经网络的训练效果会受到网络结构、超参数的影响，现有的模型训练多是凭借工程师经验进行人工调参和修改模型，而本发明的方法设置了搜索空间，能自动完成超参数的选取及网络层数的构建，节省了大量的人力成本，提高了工程效率，并且能获得更多优质的模型，进一步提升模型识别准确率。

本发明的有益效果是，通过特征提取的选择及组合、特征融合处理、融合后特征优化以及超参数搜索策略缓解了基于小样本的辐射源个体识别任务中数据特征不足、训练严重过拟合以及识别准确率低下的问题，提高了小样本情境下辐射源个体识别准确率，改善了神经网络性能。

附图说明

图1为小样本情景下基于特征融合的辐射源个体识别流程的训练步骤；

图2为辐射源个体原始信号时域波形图，(a)辐射源1原始信号时域波形，(b)辐射源2原始信号时域波形，(c)辐射源3原始信号时域波形；

图3为辐射源1在不同变换域下的时频图，(a)短时傅里叶变换时频图，(b)连续小波变换时频图，(c)魏格纳-威利分布时频图，(d)希尔伯特-黄变换时频图；

图4为特征融合示意图。

具体实施方式

图1是小样本情景下基于多时频特征特征级融合和网络超参数随机搜索调优的辐射源个体识别的网络训练步骤，包括数据预处理过程、特征提取过程、特征级融合过程、融合后特征优化过程、网络超参数随机搜索过程和最佳网络模型保存过程。在实际的使用场景下，则直接将待进行辐射源个体识别的信号的时频特征输入至完成训练的网络模型，网络模型将自动输出识别结果。

步骤1数据预处理过程包括对原始数据进行滤波、能量检测及归一化处理，与普通的信号预处理方法相似。

步骤2特征提取过程主要是针对现有辐射源中频信号具有非平稳性、时频特征易区分性等特点，采用短时傅里叶变换(Short Time Fourier Transform,STFT)、连续小波变换(Continue Wavelet Transform，CWT)、魏格纳-威利分布(Wigner-Ville Distribute，WVD)和希尔伯特黄变换(Hilbert-Huang Transform，HHT)四种时频分析方法组合作为特征提取方式，分别提取辐射源个体信号的时频特征，并选用神经网络作为二次特征提取器进行二次特征提取及降维，最终分别输出二次特征提取后的辐射源信号个体特征(每种时频分析方法对应一种特征)。时频分析方法组合构建理由如下：

STFT能得到与直观感知相符的时频构造，常用作辐射源个体信号时频特征提取且提取效果较好，但它窗宽固定，时间分辨力与频率分辨力相互制约，无法完成自适应调整。当前环境下辐射源信号多为非平稳信号，信号尺度成分种类较多且彼此可能具有较大差异，在实际工程中，样本数量往往受限，仅依赖STFT难以提取到优质的辐射源个体特征。为了在训练样本数受限的情况下提取到更多的个体特征信息、解决STFT时间分辨力与频率分辨力无法完成自适应调整的问题，引入了CWT，CWT能够提供一个随频率变化的时频窗口，能较好解决时间分辨率与频率分辨率的矛盾，从而提取到信号的时频局部化特征；为更好的丰富信号的非平稳特征，引入了可描述和仿真非平稳过程的一种非线性分析方法HHT；此外，还引入了时间和频率没有相互制约且具备非线性性时频分布的WVD。

步骤3特征级融合过程主要对步骤2在不同时频分析方法下提取的特征进行基于深度学习的二次特征提取，该过程包含融合处理和特征拼接两个步骤，融合处理主要将步骤2中网络提取的二次特征进行尺寸转化；特征拼接主要将转化后的二次特征在不同通道维度上进行拼接操作。

步骤4融合后特征优化过程主要对步骤3得到的融合特征进行基于注意力机制的融合优化。首先采用通道注意力机制为来自于不同通道的特征设置不同的权重，其次采用空间注意力机制为不同空间位置的特征设置不同的权重，最后将通过权重约束的特征作为优化后的融合特征。基于注意力机制的融合优化算法构建理由如下：

融合特征是四种不同时频分析方法下得到的二次特征在不同通道上的拼接，为提高辐射源个体识别准确率，需要提取更具代表性的指纹特征，即需要确定哪个通道的特征更具代表性以及通道上哪个位置的特征更具代表性。基于通道注意力的权重设置是为不同通道上的特征设置相应的权重，该权重由网络学习得到，可以为特征更具代表性的通道分配更多的权重；基于空间注意力的权重设置是为通道上不同位置的特征设置相应的权重，该权重同样由网络学习得到，可以为特征更具代表性的位置分配更多的权重。最终挑选出更具代表性的辐射源指纹特征，从而达到融合后特征优化的目的。

步骤5为基于模型序列优化的模型调优，神经网络的性能会受到超参数及网络结构的影响，为了获得尽可能优质的模型，采用了一种基于随机搜索的模型调优方法。首先，对全连接神经网络常用超参数批次大小(batch size)、学习率(learning rate)、神经元随机失活率(dropout rate)、梯度下降优化器选择(optimizer)、隐藏层大小(hidden size)、全连接层层数设置搜索空间，然后对超参数进行随机搜索，确定超参数具体取值组合后再进行全连接神经网络的训练，保存该次训练结果，随后进行下一次超参数搜索，循环此流程以寻找最优模型。

下面以一个三分类的基于小样本的辐射源个体识别任务为例。现有三部型号相同的辐射源个体，原始信号时域波形如图2所示：

将辐射源个体产生的一个脉冲数据作为一个样本，每部辐射源个体仅取10个样本用于训练，100个样本用于测试。首先，对每个样本分别进行STFT、CWT、WVD、HHT时频分析获取时频特征图，以辐射源1为例，其时频分析后的时频图如图3所示。要求每个样本在每个变换域上处理后得到相同维度的复矩阵(以224*224为例)，则一个样本在一个变换域下将得到维度为[1,2,224,224]的四维特征，其中，第一维代表样本数量，第二维是通道数量(由于是复数矩阵，i路和q路分别占据一通道)，第三维和第四维为时频图的大小。设样本经STFT变换后的特征为F1，经CWT变换后的特征为F2，经WVD变换后的特征为F3，经HHT变换后的特征为F4。

然后将四种类型的时频特征图分别送入神经网络中进行训练，待网络收敛后分别保存对应的模型。设STFT特征训练出的模型为M1，CWT训练出的模型为M2，WVD训练出的模型为M3，HHT训练出的模型为M4。

将F1，F2，F3，F4分别送入对应的模型M1，M2，M3，M4，进行网络前向传播，输出网络最后一层全连接层得到的一维向量，再将该一维向量转化成二维矩阵，最后将该二维矩阵作为样本的二次提取特征，设F1经M1得到的二次特征向量为f1，F2经M2得到的二次特征向量为f2，F3经M3得到的二次特征向量为f3，F4经M4得到的二次特征向量为f4，由于输入的特征维度相同，均为[2,224,224]，则网络输出的二次特征向量维度也相同，设单个样本经网络前向传播得到的一维向量为[1,1024]，则转化成二维矩阵得到的二次特征向量为[1,32,32]，其中，第一维代表通道数量，第二维和第三维是二次特征提取后的特征向量维度。

然后将f1，f2，f3，f4在不同通道上进行拼接得到融合后特征，则拼接融合后一个样本的特征维度[4,32,32]，其中，第一维是通道数量4，第二维和第三维是二次特征提取后的特征向量维度，设拼接融合后一个样本的特征为f5，特征融合示意过程如图4所示。

再对融合后的特征f5进行基于注意力机制的融合特征优化：首先基于通道注意力模块为不同通道的特征设置不同的权重，设经通道注意力模块得到的权重系数为Mc，则f5经通道注意力权重约束后得到的特征为Mc×f5，设该特征为f6；然后基于空间注意力模块为不同空间的特征设置不同的权重，设经空间注意力模块得到的权重系数为Ms，则f6经空间注意力权重约束后得到的特征为Ms×f6，设该特征为f7，最后将f7作为优化后的融合特征。由于特征仅受权重约束，因此不改变特征尺寸，优化后的融合特征f7的维度仍是[4,32,32]。

然后将得到的优化后的融合特征拉伸成4通道的一维特征[4,1024]，并将其作为辐射源个体的指纹特征输入进全连接神经网络(FNN)中进行训练。

神经网络的训练效果会受网络超参数及网络层数等的影响，为了获取尽可能优异的模型，提出了一种基于随机搜索的超参数优化方案从而完成对全连接神经网络的调优。

基于随机搜索的超参数调优策略如下：首先确定全连接神经网络需要搜索的超参数，其次，为这些超参数设置搜索空间，然后设定搜索次数，每一次随机搜索都是在给定的搜索空间中按随机数种子随机抽样产生参数值，然后对多个抽样值选取最优的参数组合。全连接神经网络的结构如下，搜索空间包括批大小(batch size)、学习率(learningrate)、优化器选择(optimizer)、输入层神经元数目、输入层dropout rate、隐藏层层数、隐藏层神经元数目、隐藏层dropout rate、最后一层神经元数目、最后一层dropout rate。搜索次数达到上限后，选取最佳模型，测试及实际应用时，载入已训练好的网络模型，将测试集数据输入网络，利用神经网络对其进行分类判决，输出分类结果。

实施例总体步骤如下：

1)对采集到的辐射源原始信号中频数据进行数据预处理，具体步骤如下：

a)对原始信号的时域中频数据进行滤波，从而抑制噪声的影响；

b)对滤波后的信号进行能量检测，提取出有效的信号中频数据；

c)对能量检测后的信号进行归一化处理，将原始数据的值域转换到[-1,1]范围内，设|x_max|为样本数据绝对值的最大值，|x_min|为样本数据绝对值的最小值，x^*为归一化后的样本数据，归一化公式为：

2)采用不同的时频分析方法对预处理后的数据样本分别进行时频处理，得到三维时频矩阵[2,m,n]，其中，第一维代表通道数量(由于中频信号由i路和q路构成，故通道数为2)，第二维m和第三维n分别代表时频图的长和宽，每种时频分析方法得到的时频图长度需相同，宽度需相同，最终将该三维时频矩阵作为该时频分析方法下的样本特征矩阵，具体步骤如下：

a)采用短时傅里叶变换对数据样本进行时频分析，得到基于短时傅立叶变换下的样本特征矩阵F1；

b)采用连续小波变换对数据样本进行时频分析，得到基于连续小波变换下的样本特征矩阵F2；

c)采用魏格纳-威利分布对数据样本进行时频分析，得到基于魏格纳-威利分布下的样本特征矩阵F3；

d)采用希尔伯特-黄变换对数据样本进行时频分析，得到基于希尔伯特-黄变换下的样本特征矩阵F4；

3)将不同时频分析方法下得到的样本特征矩阵分别制作成该时频分析方法下的数据集，数据集的制作采用相同方法，具体步骤如下：

a)采用独热编码(one-hot)生成每个辐射源所对应的一维标签矩阵；

b)将一维标签矩阵与从时频分析中提取出的样本特征矩阵相对应，并进行随机乱序；

c)划分训练集、验证集和测试集；

4)构建神经网络分别对不同时频分析下提取的特征进行二次特征提取，神经网络选用densenet，目标函数选用交叉熵损失函数，公式为：

其中y代表真实标签，

表示通过网络计算之后的预估值，采用Adam优化器寻找最优解；

5)将不同时频分析方法下得到的数据集分别输入进神经网络中进行预训练，网络收敛后得到对应的模型，并记录不同时频分析方法下网络收敛时测试集准确率；

6)将分别送入对应的模型，进行网络前向传播，输出网络最后一层全连接层得到的一维向量，再将该一维向量转化成二维矩阵，最后将该二维矩阵作为样本的二次提取特征，设F1经M1得到的二次特征向量为f1，F2经M2得到的二次特征向量为f2，F3经M3得到的二次特征向量为f3，F4经M4得到的二次特征向量为f4，由于输入的特征维度[2,m,n]相同，则网络输出的二次特征向量维度也相同，设单个样本经网络前向传播得到的一维向量为[1,size]，则转化成二维矩阵得到的二次特征向量为[1,size1,size2]，其中，第一维代表通道数量，第二维和第三维是二次特征提取后的特征向量维度，size1×size2应等于size。

7)然后将f1，f2，f3，f4在不同通道上进行拼接得到融合后特征，拼接融合后一个样本的特征维度[4,size1,size2]，其中，第一维是通道数量4，第二维和第三维是二次特征提取后的特征向量维度，设拼接融合后一个样本的特征为f5，特征融合示意过程如图4所示。

8)再对融合后的特征f5进行基于注意力机制的融合特征优化，具体步骤如下：

a)基于通道注意力模块为不同通道的特征设置不同的权重，设经通道注意力模块得到的权重系数为Mc，则f5经通道注意力权重约束后得到的特征为Mc×f5，设该特征为f6，由于特征仅受权重约束，因此不改变特征尺寸，优化后的融合特征f6的维度仍是[4,size1,size2]；

b)基于空间注意力模块为不同空间的特征设置不同的权重，设经空间注意力模块得到的权重系数为Ms，则f6经空间注意力权重约束后得到的特征为Ms×f6，设该特征为f7，由于特征仅受权重约束，因此不改变特征尺寸，优化后的融合特征f7的维度仍是[4,size1,size2]；

c)将f7拉伸成4通道的一维特征[4,size]，将该四通道一维特征作为优化后的融合特征。

9)按步骤3中a～c步骤，使用优化后的融合特征构建基于特征融合下的数据集；

10)采用基于随机搜索的方式设置网络相关参数并训练全连接神经网络FNN，具体步骤如下：

d)为批大小(batch size)、学习率(learning rate)、优化器选择(optimizer)、输入层神经元数目、输入层dropout rate取值、隐藏层层数、隐藏层神经元数目、隐藏层dropout rate取值、最后一层神经元数目、最后一层dropout rate取值设定搜索空间，搜索空间代表人为设定的参数可供选择的取值范围；

e)设定搜索次数；

f)在给定的搜索空间中按随机数种子随机抽样产生参数值，然后对多个抽样值选取最优的参数组合；

g)训练全连接神经网络(FNN)；

h)保存各参数取值结果、神经网络模型及训练结果；

i)若搜索次数未达上限，则跳转至10c),否则停止训练，执行下一步；

11)选取最佳的模型作为最终模型，完成小样本情境下辐射源个体识别任务。

Claims (9)

1.一种小样本情景下的辐射源个体识别方法，其特征在于，包括步骤：

训练步骤：将基于不同时频分析方法下提取到的辐射信号时频特征分别输入进对应的神经网络中进行二次特征提取训练；待各神经网络收敛后，输出二次提取特征进行融合；对融合后的特征进行基于注意力机制的优化，为特征设置不同的权重；将融合后的二次提取特征作为辐射源个体间的指纹特征输入至辐射源个体识别网络进行训练；采用随机搜索的方法对辐射源个体识别网络的训练过程进行超参数调优，完成辐射源个体识别网络的训练；

识别步骤：将待进行辐射源个体识别的时频特征输入至训练完成的辐射源个体识别网络，辐射源个体识别网络输出识别结果。

2.如权利要求1所述方法，其特征在于，时频分析方法包括短时傅里叶变换STFT、连续小波变换CWT、魏格纳-威利分布WVD和希尔伯特黄变换HHT。

3.如权利要求1所述方法，其特征在于，辐射源个体识别网络采用全连接神经网络的形式；

超参数调优的过程为：对全连接神经网络常用超参数设置搜索空间，然后对超参数进行随机搜索，确定超参数具体取值组合后再进行全连接神经网络的训练，保存该次训练结果，随后进行下一次超参数搜索，循环此流程以寻找最优辐射源个体识别网络模型。

4.如权利要求3所述方法，其特征在于，全连接神经网络常用超参数包括批次大小、学习率、神经元随机失活率、优化器选择、隐藏层大小和全连接层层数。

5.如权利要求4所述方法，其特征在于，隐藏层大小包括、隐藏层层数、隐藏层神经元数目；神经元随机失活率包括输入层的神经元随机失活率、隐藏层的神经元随机失活率和网络最后一层神经元随机失活率。

6.如权利要求1所述方法，其特征在于，在提取辐射信号时频特征之前还包括步骤：对采集到的辐射源原始信号中频数据进行数据预处理。

7.如权利要求6所述方法，其特征在于，数据预处理的具体过程如下：

对辐射源原始信号的时域中频数据进行滤波；

对滤波后的信号进行能量检测，提取出有效的信号中频数据；

对能量检测后的信号进行归一化处理。

8.如权利要求1所述方法，其特征在于，对二次提取特征进行融合的具体方式为：在不同通道上拼接二次提取特征得到融合后的二次提取特征。

9.如权利要求1所述方法，其特征在于，对融合后的二次提取特征优化的具体方式及步骤为：

对融合后的特征进行基于通道注意力的权重约束；

对经过基于通道注意力约束的融合后特征进行基于空间注意力的权重约束。

Images