CN114548146A - 一种基于多任务网络的调制信号分类与带宽估计方法 - Google Patents

Abstract

本发明公开了一种基于多任务网络的调制信号分类与带宽估计方法，包括如下步骤：S1、生成12种不同类型调制信号作为数据集；S2、对调制信号数据集样本进行低通滤波；S3、对调制信号数据集样本作零均值归一化预处理；S4、设计多任务神经网络的结构、参数和损失函数；S5、将预处理后的调制信号训练集输入多任务神经网络进行训练，并保存最优模型；S6、利用保存的最优模型识别调制信号的类别和宽带信息。本发明实现了多任务共享特征，调制类型识别和带宽估计共享前面网络层输出的特征，一次推理可以同时得到输入信号样本的调制类型和带宽，相对于分别进行类型识别和带宽估计可以减小参数量和计算量，保证较好的实时性。

Description

一种基于多任务网络的调制信号分类与带宽估计方法

技术领域

本发明属于人工智能和信号处理技术领域，主要涉及一种基于多任务网络的调制信号 分类与带宽估计方法。

背景技术

随着软件无线电技术的进步和通信技术的日趋完善，通信侦察与对抗等先进技术已成 为研究热点。无线电技术在军民领域中均起到了关键作用，并且该技术对于民用技术的进 步有非常大作用。通信侦察与对抗中的重中之重就是信号的调制方式识别和带宽估计，但 是在近些年来，出于硬件精度和算法复杂度的一些原因，我国在信号调制识别技术上还是 不如大部分科研大国。所以在未来的信息战场上，无论是对敌方的通信侦察还是对敌方的 通信对抗，这两种关键技术的研究都会在填补我军在相关领域上的短板起到关键性的作用。

申请号为CN201310655006.8的专利申请公开了一种信号带宽估计方法及装置，首先将 接收信号进行N级Welch变换，根据前一级Welch变换对带宽进行粗估来调整本级Welch 变换窗函数的窗长度，最后得到N级Welch变换的功率谱；根据功率谱的最大值对所述功 率谱进行修正；对修正后的功率谱进行逐点差分，并确定差分结果中的最大值点和最小值 点，最后得到信号带宽估计值。该方法虽然提出了一种信号带宽估计方法，但是预处理方 式较为复杂，并且不能做到调制类型的预测。

申请号为CN201810275921.7的专利申请公开了一种基于卷积神经网络的数字信号调 制模式识别方法，该方法首先将接收机接收到的盲通信时域信号转换为int16格式的数据， 经过变采样和中频滤波后送入卷积神经网络用于提取信号特征，得到对应的数字信号调制 模式。该方法虽然提出了一种数字信号调制模式识别方法，，但是使用的网络较为简单，可 能会丢失部分时序特征，并且只能识别出类别信息，不能做到调制类型和信号带宽的同时 预测。

发明内容

本发明的目的在于克服现有技术的不足，提供一种使用LSTM长短期记忆网络和卷积 网络，能够同时提取波形特征和时序特征，实现多任务共享，相对于分别进行类型识别和 带宽估计可以减小参数量和计算量，保证较好的实时性的基于多任务网络的调制信号分类 与带宽估计方法。

本发明的目的是通过以下技术方案来实现的：一种基于多任务网络的调制信号分类与 带宽估计方法，包括如下步骤：

S1、生成12种不同类型调制信号作为数据集；

S2、对调制信号数据集样本进行低通滤波；

S3、对调制信号数据集样本作零均值归一化预处理；

S4、设计多任务神经网络的结构、参数和损失函数；

S5、将预处理后的调制信号训练集输入多任务神经网络进行训练，并保存最优模型；

S6、利用保存的最优模型识别调制信号的类别和宽带信息。

进一步地，步骤S3中所述的零均值归一化公式如下：

Y_i表示第i个信号样本X_i归一化处理后的样本数值，Mean为单个样本数据的均值；sigma 为单个样本数据的标准差，sigma的计算公式如下：

N表示单个样本数据的采样点总数。

进一步地，所述步骤S4具体实现方法为：

S41、设计多任务神经网络网络结构，具体结构为：

第一层为第一输入层，输入尺寸设定为(50000,2)，输入层后接卷积网络和长短期记 忆网络两个并联分支；

第二层为组合层，将卷积网络的输出与长短期记忆网络的输出组合到一起进行输出， 组合层的输出分别连接两个全连接层；

第一全连接层，上接组合层的输出，神经元数量为128，激活函数设置为ReLU函数；其输出连接分类层，分类层的多分类函数取Softmax函数，输出为模型的分类结果；

第二全连接层，上接组合层的输出，神经元数量为12，激活函数设置为ReLU函数；其输出连接回归层，回归层的激活函数设置为sigmoid函数，输出为模型的带宽估计结果。

S42、设置多任务神经网络的超参数、优化器；

S43、选择多任务神经网络的两个损失函数L1和L2，分别对应类别预测输出和带宽估 计输出：损失函数L1为交叉熵损失函数，其公式如下所示：

其中，M为调制信号类别数量，c表示具体某一类别；y_c为标签，其值为1或者0，如果当 前类别c和样本的类别相同，则y_c为1，否则为0；p_c表示当前样本属于类别c的概率；

损失函数L2如下所示：

其中，m为样本个数，y_i为样本的标签，

为样本的带宽估计值。

进一步地，所述卷积网络的结构为：

第一层为第一卷积层，卷积核数量为64，卷积核尺寸为1*40，卷积步长为1，激活函数为ReLU；

第二层为第一批标准化层；

第三层为第二卷积层，卷积核数量为128，卷积核尺寸为1*10，卷积步长为1，激活函 数为ReLU；

第四层为第二批标准化层；

第五层为第一卷积块，由两个与第二卷积层参数相同的卷积层连接组成，前一卷积层 将第一标志块输入作为输入，前一卷积层后接后一卷积层，将后一卷积层输出与第一标志 块输入相加后结果作为第一标志块输出；

第六层为第二卷积块，由两个与第二卷积层参数相同的卷积层连接组成，前一卷积层 将第二标志块输入作为输入，前一卷积层后接后一卷积层，将后一卷积层输出与第二标志 块输入相加后结果作为第二标志块输出；

第七层为第一全局平均池化层。

第八层为第三全连接层，神经元数量为128，激活函数设置为ReLU函数。

进一步地，所述长短期记忆网络的结构为：

第一层为长短期记忆层，神经元数量为128；

第二层为第二全局平均池化层。

本发明的有益效果是：

第一，由于本发明基于神经网络来自动提取特征，只需要对调制信号进行简单的归一 化预处理，之后直接送入神经网络就可以经过自动训练调整参数，克服了传统方法里信号 特征提取计算复杂、难度大、容易丢失特征的缺点，简化了问题的难度，同时可以达到更 好的效果。

第二，本发明实现了多任务共享特征，调制类型识别和带宽估计共享前面网络层输出的 特征，一次推理可以同时得到输入信号样本的调制类型和带宽，相对于分别进行类型识别 和带宽估计可以减小参数量和计算量，保证较好的实时性。

第三，本发明使用了LSTM长短期记忆网络和卷积网络并联的分支网络，能够同时提 取波形特征和时序特征，提取的特征更加全面、丰富。

附图说明

图1为本发明的基于多任务网络的调制信号分类与带宽估计方法的流程图；

图2为本发明的多任务神经网络的网络结构图；

图3为类型识别分支的损失曲线；

图4为本发明带宽估计分支的损失曲线；

图5为本发明的信号分类准确率曲线图；

图6为本发明的宽带估计误差率曲线图。

具体实施方式

下面结合附图进一步说明本发明的技术方案。

如图1所示，本发明的基于多任务网络的调制信号分类与带宽估计方法，包括如下步 骤：

S1、生成12种不同类型调制信号作为数据集，分别为BPSK、QPSK、8PSK、OQPSK、PI4QPSK、8QAM、16QAM、32QAM、16APSK、32APSK、2FSK、4FSK。

S2、对调制信号数据集样本进行低通滤波；

S3、对调制信号数据集样本作零均值归一化预处理；零均值归一化公式如下：

Y_i表示第i个信号样本X_i归一化处理后的样本数值，Mean为单个样本数据的均值；sigma 为单个样本数据的标准差，sigma的计算公式如下：

N表示单个样本数据的采样点总数。在实际训练过程中，可将调制信号数据集划分为训练 集、验证集和测试集；从数据集中随机选择80％的数据，作为训练集，用于训练模型，从 剩下的数据中随机选择一半作为验证集，用于在训练中验证模型的效果避免过拟合，剩下 的作为测试集，用于在训练完成后测试模型的最终效果。

S4、设计多任务神经网络的结构、参数和损失函数；具体实现方法为：

S41、设计多任务神经网络网络结构，如图2所示，具体结构为：

第一层为第一输入层，输入尺寸设定为(50000,2)，输入层后接卷积网络和长短期记 忆网络两个并联分支；

卷积网络的结构为：

第一层为第一卷积层，卷积核数量为64，卷积核尺寸为1*40，卷积步长为1，激活函数为ReLU；

第二层为第一批标准化层；

第三层为第二卷积层，卷积核数量为128，卷积核尺寸为1*10，卷积步长为1，激活函 数为ReLU；

第四层为第二批标准化层；

第五层为第一卷积块，由两个与第二卷积层参数相同的卷积层连接组成，前一卷积层 将第一标志块输入作为输入，前一卷积层后接后一卷积层，将后一卷积层输出与第一标志 块输入相加后结果作为第一标志块输出；

第六层为第二卷积块，由两个与第二卷积层参数相同的卷积层连接组成，前一卷积层 将第二标志块输入作为输入，前一卷积层后接后一卷积层，将后一卷积层输出与第二标志 块输入相加后结果作为第二标志块输出；

第七层为第一全局平均池化层；

第八层为第三全连接层，神经元数量为128，激活函数设置为ReLU函数。

长短期记忆网络的结构为：

第一层为长短期记忆(LSTM)层，神经元数量为128；

第二层为第二全局平均池化层。

第二层为组合层，将卷积网络的输出与长短期记忆网络的输出组合到一起进行输出， 组合层的输出分别连接两个全连接层；

第一全连接层，上接组合层的输出，神经元数量为128，激活函数设置为ReLU函数；其输出连接分类层，分类层的多分类函数取Softmax函数，输出为模型的分类结果；

第二全连接层，上接组合层的输出，神经元数量为12，激活函数设置为ReLU函数；其输出连接回归层，回归层的激活函数设置为sigmoid函数，输出为模型的带宽估计结果。

S42、设置多任务神经网络的超参数(学习率，迭代次数等)、优化器，本实施例中，学习率设置为0.0002，迭代次数设置为300，优化器设置为Adam优化器；

S43、选择多任务神经网络的两个损失函数L1和L2，分别对应类别预测输出和带宽估 计输出：损失函数L1为交叉熵损失函数，其公式如下所示：

其中，M为调制信号类别数量，c表示具体某一类别；y_c为标签，其值为1或者0，如果当 前类别c和样本的类别相同，则y_c为1，否则为0；p_c表示当前样本属于类别c的概率；

损失函数L2如下所示：

其中，m为样本个数，y_i为样本的标签，

为样本的带宽估计值。

S5、打乱训练集和验证集样本顺序，将预处理后的调制信号训练集输入多任务神经网 络进行训练，并保存最优模型；

S6、利用保存的最优模型识别调制信号的类别和宽带信息。

本发明的效果可通过以下实际训练应用进一步说明：

1、实验平台：

本发明的实验平台具体为CPU Intel Xeon(R)Bronze 3204、内存64G、GPU NVIDIAGTX-3080Ti、操作系统Ubuntu16.04，用到的深度学习框架为TensorFlow2.6.0。

2、实验内容及分析

本发明的训练阶段，类型识别的损失曲线如图3所示，其中，实线(cls-loss)为训练 集的损失函数曲线，虚线(val-cls-loss)为验证集的损失函数曲线。带宽估计的损失曲线如 图4所示，其中，实线(fd-loss)为训练集宽带估计的损失曲线，虚线(val-fd-loss)为验 证集宽带估计的损失函数曲线。损失曲线横轴为训练周期数，纵轴代表训练样本集每次训 练的损失函数值与验证样本集每次训练的损失函数值。对于神经网络的训练，准确率越高、 损失值越小代表模型的训练效果越好，根据图3和图4可见，随着迭代次数的增加损失函 数值递减并最终收敛至稳定，说明本测试实验的训练效果随着训练次数的增多而逐步提高。 利用测试集样本对本发明的模型进行测试，其信号分类准确率(Accuracy)如图5所示，宽 带估计误差率(Offset)如图6所示，图中，all-sig表示所有样本信号。根据图5可见，最 优模型对于调制信号分类可以达到较好的准确率，在7db以上可以达到90％以上的分类准 确率。根据图6可见，最优模型对于带宽估计具有较低的误差率，在5db以上可以达到0.6％ 以下的预测误差率。

本领域的普通技术人员将会意识到，这里所述的实施例是为了帮助读者理解本发明的 原理，应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通 技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体 变形和组合，这些变形和组合仍然在本发明的保护范围内。

Claims (5)

1.一种基于多任务网络的调制信号分类与带宽估计方法，其特征在于，包括如下步骤：

S1、生成12种不同类型调制信号作为数据集；

S2、对调制信号数据集样本进行低通滤波；

S3、对调制信号数据集样本作零均值归一化预处理；

S4、设计多任务神经网络的结构、参数和损失函数；

S5、将预处理后的调制信号训练集输入多任务神经网络进行训练，并保存最优模型；

S6、利用保存的最优模型识别调制信号的类别和宽带信息。

2.根据权利要求1所述的基于多任务网络的调制信号分类与带宽估计方法，其特征在于，步骤S3中所述的零均值归一化公式如下：

Y_i表示第i个信号样本X_i归一化处理后的样本数值，Mean为单个样本数据的均值；sigma为单个样本数据的标准差，sigma的计算公式如下：

N表示单个样本数据的采样点总数。

3.根据权利要求1所述的基于多任务网络的调制信号分类与带宽估计方法，其特征在于，所述步骤S4具体实现方法为：

S41、设计多任务神经网络网络结构，具体结构为：

第一层为第一输入层，输入尺寸设定为(50000,2)，输入层后接卷积网络和长短期记忆网络两个并联分支；

第二层为组合层，将卷积网络的输出与长短期记忆网络的输出组合到一起进行输出，组合层的输出分别连接两个全连接层；

第一全连接层，上接组合层的输出，神经元数量为128，激活函数设置为ReLU函数；其输出连接分类层，分类层的多分类函数取Softmax函数，输出为模型的分类结果；

第二全连接层，上接组合层的输出，神经元数量为12，激活函数设置为ReLU函数；其输出连接回归层，回归层的激活函数设置为sigmoid函数，输出为模型的带宽估计结果。

S42、设置多任务神经网络的超参数、优化器；

S43、选择多任务神经网络的两个损失函数L1和L2，分别对应类别预测输出和带宽估计输出：损失函数L1为交叉熵损失函数，其公式如下所示：

其中，M为调制信号类别数量，c表示具体某一类别；y_c为标签，其值为1或者0，如果当前类别c和样本的类别相同，则y_c为1，否则为0；p_c表示当前样本属于类别c的概率；

损失函数L2如下所示：

其中，m为样本个数，y_i为样本的标签，

为样本的带宽估计值。

4.根据权利要求3所述的基于多任务网络的调制信号分类与带宽估计方法，其特征在于，所述卷积网络的结构为：

第一层为第一卷积层，卷积核数量为64，卷积核尺寸为1*40，卷积步长为1，激活函数为ReLU；

第二层为第一批标准化层；

第三层为第二卷积层，卷积核数量为128，卷积核尺寸为1*10，卷积步长为1，激活函数为ReLU；

第四层为第二批标准化层；

第五层为第一卷积块，由两个与第二卷积层参数相同的卷积层连接组成，前一卷积层将第一标志块输入作为输入，前一卷积层后接后一卷积层，将后一卷积层输出与第一标志块输入相加后结果作为第一标志块输出；

第六层为第二卷积块，由两个与第二卷积层参数相同的卷积层连接组成，前一卷积层将第二标志块输入作为输入，前一卷积层后接后一卷积层，将后一卷积层输出与第二标志块输入相加后结果作为第二标志块输出；

第七层为第一全局平均池化层；

第八层为第三全连接层，神经元数量为128，激活函数设置为ReLU函数。

5.根据权利要求3所述的基于多任务网络的调制信号分类与带宽估计方法，其特征在于，所述长短期记忆网络的结构为：

第一层为长短期记忆层，神经元数量为128；

第二层为第二全局平均池化层。

Images