CN115834310A - 一种基于LGTransformer的通信信号调制识别方法 - Google Patents

Abstract

本发明公开了一种基于LGTransformer的通信信号调制识别方法，涉及通信信号调制识别领域，其包括以下步骤：对通信调制信号进行采样，得到IQ序列；将IQ序列转化成幅度/相位序列；构建LGTransformer模型；对LGTransformer模型进行分类训练，得到训练后的LGTransformer模型；采用训练后的LGTransformer模型对目标AP序列进行分类识别。本方法具有记忆功能，能够有效地挖掘出通信信号数据中的时序信息，拟合精度高、稳定性高，能够更加全面地提取通信信号的特征，并且能够通过并行计算提升模型的计算效率，有效地提高通信信号的调制识别效果。

Description

一种基于LGTransformer的通信信号调制识别方法

技术领域

本发明涉及通信信号调制识别领域，具体涉及一种基于LGTransformer的通信信号调制识别方法。

背景技术

在实际通信场合中，非合作通信占领了主要地位，例如频谱的检测和管理、电子对抗等都属于非合作通信。在非合作通信中，接收端想要获取信号中包含的信息，就必须对信号进行调制识别，并进一步完成信号解调。因此信号的调制识别技术在频谱感知、频谱管理、电子对抗战等领域中发挥着重要的作用。

目前常用的调制识别方法主要分为两类，即基于似然（LB）的调制识别算法和基于特征（FB）的调制识别算法。基于似然的调制识别方法需要获取信号的先验信息（例如频偏、码率等），还需要构建似然函数。该方法建模复杂，计算量极大，不适用于当前日益复杂的通信系统。基于特征的调制识别算法需要人工提取信号的特征（如高阶累积量、循环谱等），该方法与特征的好坏程度有关，泛化能力弱，同样不适用于当前的通信系统。

深度学习能够直接从大量数据中获取特征，并高效准确地完成分类，因此深度学习被广泛应用于计算机视觉、语音识别领域。目前深度学习在调制识别领域也有广泛的应用，专家们使用CNN、RNN等网络构建不同的模型，以实现通信信号的调制识别。但是近年来由于通信场景日益复杂，许多深度学习网络对调制信号的总体识别率并不理想。

发明内容

针对现有技术中的上述不足，本发明提供的一种基于LGTransformer的通信信号调制识别方法解决了现有深度学习方法对调整信号识别率低的问题。

为了达到上述发明目的，本发明采用的技术方案为：

提供一种基于LGTransformer的通信信号调制识别方法，其包括以下步骤：

S1、对通信调制信号进行采样，得到IQ序列；

S2、将IQ序列转化成幅度/相位序列，即AP序列；

S3、将输入层、两个LSTM网络、两个GRU网络、一个Transformer-Encoder网络、一个全局池化层、两个全连接层和一个softmax层进行串联，得到LGTransformer模型；

S4、将已知调制类别的AP序列作为训练数据对LGTransformer模型进行分类训练，得到训练后的LGTransformer模型；

S5、采用训练后的LGTransformer模型对目标AP序列进行分类识别。

进一步地，t时刻的LSTM网络将AP序列、t-1时刻的LSTM网络输出的细胞状态和t-1时刻的LSTM网络输出的隐藏层状态作为其输入，LSTM网络在最后一个时刻输出的隐藏层状态为其最终输出；t时刻的LSTM网络的细胞状态

和隐藏层状态

的计算表达式为：

其中

、

、

和

均为权重；

、

、

和

均为偏置；

为

时刻LSTM网络的遗忘门；

为t时刻LSTM网络的输入门；

为t时刻LSTM网络的细胞状态候选值；

为t时刻LSTM网络的输出门；

为t-1时刻LSTM网络的细胞状态；

为t-1时刻LSTM网络的隐藏层状态；X为输入的AP序列；

表示sigmoid函数；LSTM网络最终输出维度为（None，128，128），其中None指一次训练所抓取的样本数量，第一个128指信号的时间步长，第二个128指输出的维度。

进一步地，

时刻的GRU网络将上一个网络在

时刻的输出

和该GRU网络在

时刻的隐藏层状态作为其输入，GRU网络在最后一个时刻输出的隐藏层状态为其最终输出；

时刻GRU网络的计算表达式为：

其中

、

和

均为权重；

为

时刻GRU网络的重置门；

为

时刻GRU网络的更新门；

为

时刻GRU网络的候选隐含状态；

为

时刻GRU网络的隐藏层状态；

为

时刻GRU网络的隐藏层状态；当

时，

为0；GRU网络最终输出维度为（None，128，64），其中None指一次训练所抓取的样本数量，128指信号的时间步长，64指输出的维度。

进一步地，Transformer-Encoder网络包括多头注意力模块、第一求和归一化模块、前馈模块和第二求和归一化模块；

多头注意力模块，其输入端为Transformer-Encoder网络的输入端，通过多头注意力机制获取H个与输入的隐藏层状态相对应的输出矩阵，并将H个与输入的隐藏层状态相对应的输出矩阵进行拼接，并通过线性层得到输出矩阵Z；

第一求和归一化模块，用于将多头注意力模块的输出矩阵Z与多头注意力模块的输入进行求和，并对求和后的激活值进行归一化；

前馈模块的计算表达式为：

其中

为前馈模块输出的第

个结果；

为第一求和归一化模块输出的第

个归一化结果；

和

均为权重；

和

均为偏置；

第二求和归一化模块，用于将第一求和归一化模块的输出与前馈模块相对应的输出进行求和与归一化；第二求和归一化模块的输出端为Transformer-Encoder网络的输出端。

进一步地，第一个全连接层的参数为70，第二个全连接层的参数为11；softmax层的分类数为11；H的数值为4。

本发明的有益效果为：本方法具有记忆功能，能够有效地挖掘出通信信号数据中的时序信息，拟合精度高、稳定性高，能够更加全面地提取通信信号的特征，并且能够通过并行计算提升模型的计算效率，有效地提高通信信号的调制识别效果。

附图说明

图1为本方法的流程示意图；

图2为LSTM的时序逻辑结构示意图；

图3为

时刻GRU网络的网络结构图；

图4为Transformer-Encoder网络的结构图；

图5为实施例中调制识别效果对比图；

图6为图5的局部放大图。

具体实施方式

下面对本发明的具体实施方式进行描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。

如图1所示，该基于LGTransformer的通信信号调制识别方法包括以下步骤：

S1、对通信调制信号进行采样，得到IQ序列；

S2、将IQ序列转化成幅度/相位序列，即AP序列；

S3、将输入层、两个LSTM网络、两个GRU网络、一个Transformer-Encoder网络、一个全局池化层、两个全连接层和一个softmax层进行串联，得到LGTransformer模型；

S4、将已知调制类别的AP序列作为训练数据对LGTransformer模型进行分类训练，得到训练后的LGTransformer模型；

S5、采用训练后的LGTransformer模型对目标AP序列进行分类识别。

LSTM网络可以完成一个Cell在不同时刻上的拼接，也就是说其实是一个Cell在不同时刻的状态。Cell在t-1时刻、

时刻、

时刻的连接图如图2所示。t时刻的LSTM网络将AP序列、t-1时刻的LSTM网络输出的细胞状态和t-1时刻的LSTM网络输出的隐藏层状态作为其输入，LSTM网络在最后一个时刻输出的隐藏层状态为其最终输出；t时刻的LSTM网络的细胞状态

和隐藏层状态

的计算表达式为：

其中

、

、

和

均为权重；

、

、

和

均为偏置；

为t时刻LSTM网络的遗忘门；

为t时刻LSTM网络的输入门；

为t时刻LSTM网络的细胞状态候选值；

为t时刻LSTM网络的输出门；

为t-1时刻LSTM网络的细胞状态；

为t-1时刻LSTM网络的隐藏层状态；X为输入的AP序列；

表示sigmoid函数；LSTM网络最终输出维度为（None，128，128），其中None指一次训练所抓取的样本数量，第一个128指信号的时间步长，第二个128指输出的维度。

GRU网络可以完成一个Cell在不同时刻上的拼接，也就是说其实是一个Cell在不同时刻的状态。Cell在

时刻的连接图如图3所示。

时刻的GRU网络将上一个网络在

时刻的输出

和该GRU网络在

时刻的隐藏层状态作为其输入，GRU网络在最后一个时刻输出的隐藏层状态为其最终输出；

时刻GRU网络的计算表达式为：

其中

、

和

均为权重；

为

时刻GRU网络的重置门；

为

时刻GRU网络的更新门；

为

时刻GRU网络的候选隐含状态；

为

时刻GRU网络的隐藏层状态；

为

时刻GRU网络的隐藏层状态；当

时，

为0；GRU网络最终输出维度为（None，128，64），其中None指一次训练所抓取的样本数量，128指信号的时间步长，64指输出的维度。

如图4所示，Transformer-Encoder网络包括多头注意力模块、第一求和归一化模块、前馈模块和第二求和归一化模块；

多头注意力模块，其输入端为Transformer-Encoder网络的输入端，通过多头注意力机制获取H个与输入的隐藏层状态相对应的输出矩阵，并将H个与输入的隐藏层状态相对应的输出矩阵进行拼接，将拼接结果传输到线性层，并通过线性层得到输出矩阵Z；

第一求和归一化模块，用于将多头注意力模块的输出矩阵Z与多头注意力模块的输入进行求和，并对求和后的激活值进行归一化；

前馈模块的计算表达式为：

其中

为前馈模块输出的第

个结果；

为第一求和归一化模块输出的第

个归一化结果；

和

均为权重；

和

均为偏置；

第二求和归一化模块，用于将第一求和归一化模块的输出与前馈模块相对应的输出进行求和与归一化；第二求和归一化模块的输出端为Transformer-Encoder网络的输出端。

在具体实施过程中，在无线通信场景中，接收端接收到的信号可由公式（1）表示：

（1）

其中

为第n个符号的幅度，

为持续时间为T的矩形脉冲信号，

为信道相应函数，

为相位，

为初始相位偏移，j为虚数单位，

为载波频率，

为接收机的频率，

为信道中的噪声。发送信号经过信道之后，会发生相位偏移，同时会受到噪声的影响，导致接收端接收到的波形发生失真，因此接收器通常会将接收信号通过正交解调转变为正交(IQ)两路的基带信号，IQ基带信号

可由公式（2）表示：

（2）

其中

为IQ基带信号的瞬时幅度，

为IQ基带信号的瞬时相位，

为通向分量，

为正交分量。同时可根据信号

的IQ分量求出信号的幅度和相位，求解过程可由公式（3）、（4）表示：

（3）

（4）

LSTM网络被称为长短期记忆网络，它是循环神经网络(RNN)的一种特殊结构，LSTM网络在RNN的基础上引入了细胞状态，并使用输入门、遗忘门、输出门三种门来保持和控制信息。LSTM的输入门和tanh可以决定从上一时刻中获取哪些信息，还可以结合遗忘门和输入门实现信息的舍弃和保存并得到当前时刻的细胞状态，最后在得出本时刻的隐藏层状态。正是由于LSTM有遗忘的功能，因此可以减少梯度消失和梯度爆炸的可能性，同时能够解决RNN无法解决的长短期依赖问题。

门控循环神经网络（GRU）是LSTM的变体，GRU能够保持LSTM的效果，同时又比LSTM的结构更简单。GRU将遗忘门和输入门合成了更新门，使得矩阵乘法运算量减小，更容易使算法收敛，减少训练时间，但是GRU的训练精度与LSTM相比有所欠缺。

Transformer-Encoder网络在全连接层中加入了多头注意机制，能够更加注意到调制信号的重要特征，因此本发明将LSTM、GRU、Transformer-Encoder网络结合起来，在注重信号局部重要特征的同时，也能够利用LSTM和GRU提取信号的全局特征。LSTM、GRU、LGTransformer完成对信号的特征提取，然后利用全连接层根据提取的特征完成分类。

在本发明的一个实施例中，由于LGTransformer模型的第二层是LSTM网络，因此需要利用输入层将信号数据的维度转换成3维，即（Batch_size，Time_step，Input_size），其中Batch_size表示同时输入的信号（AP序列）数量；Time_step是时间序列的长度，表示单个信号的采样点数量；Input_size是每个时间点输入的维度。由于数据集中的IQ信号采样点是128个（即一个IQ信号有128个时间步长，时间序列长度为128），另外，每个信号都有IQ两路，因此一个信号可以用2×128的矩阵来表示。由于每个信号有128个时间步长，因此，Time_step为128，Input_size为2，为了便于将信号输入到LSTM中，我们把2x128的信号矩阵转换成128x2的矩阵，再通输入层把输入信号的维度转换为(None,128,2)，None表示批量大小，可自由设定具体数值。把128x2的信号矩阵看作一个句子，句子的长度为128，因此把2个LSTM网络的units参数设置为128，把GRU网络的units参数设置为64；第一个全连接层的参数设置为70，使用Relu激活函数进行处理，第二个全连接层的参数设置为11，然后把输出的结果输入到softmax中完成分类。11是调制信号的种类。

在本实施例中，训练LGTransformer模型用的数据集为《ConvolutionalRadioModulation Recognition Networks》中介绍的调制识别数据集RML2016.10a，该数据集是使用GNU Radio软件连接软件无线电外设采集了了11种调制类型（8PSK, BPSK,CPFSK, GFSK, PAM4, 16QAM, 64QAM, QPSK，AM-DSB, AM-SSB, WBFM）的模拟和数字信号。信道模拟考虑了加性高斯白噪声、选择性衰落、中心频率偏移、采样率偏移等影响。信噪比范围是-20dB~18dB，数据集的样本包含了IQ两路分量，每一路的采样点都是128个，该数据集一共包含了22万个IQ数据格式为2×128的样本信号。

本实施例中把数据集的60%作为训练集，20%作为验证集，20%作为测试集。在训练过程中把batch_size设置为400，训练次数设置为60次，学习率设置为0.001，优化算法设置为Adam。

为了更好地说明本发明的技术效果，将现有的常见的基于深度学习的调制识别网络模型的识别效果做对了对比实验。图5和图6是本方法（LGTansformer）与CNN、LSTM、Mctransformer、MTLCNN、CLDNN、EAD、PET-CGDNN 调制识别网络的识别率对比图。根据图5和图6可知，本方法与其他调制识别方法相比，有着更加优秀的识别率。

Claims (5)

1.一种基于LGTransformer的通信信号调制识别方法，其特征在于，包括以下步骤：

S1、对通信调制信号进行采样，得到IQ序列；

S2、将IQ序列转化成幅度/相位序列，即AP序列；

S3、将输入层、两个LSTM网络、两个GRU网络、一个Transformer-Encoder网络、一个全局池化层、两个全连接层和一个softmax层进行串联，得到LGTransformer模型；

S4、将已知调制类别的AP序列作为训练数据对LGTransformer模型进行分类训练，得到训练后的LGTransformer模型；

S5、采用训练后的LGTransformer模型对目标AP序列进行分类识别。

2.根据权利要求1所述的基于LGTransformer的通信信号调制识别方法，其特征在于，t时刻的LSTM网络将AP序列、t-1时刻的LSTM网络输出的细胞状态和t-1时刻的LSTM网络输出的隐藏层状态作为其输入，LSTM网络在最后一个时刻输出的隐藏层状态为其最终输出；t时刻的LSTM网络的细胞状态

和隐藏层状态

的计算表达式为：

其中

、

、

和

均为权重；

、

、

和

均为偏置；

为

时刻LSTM网络的遗忘门；

为t时刻LSTM网络的输入门；

为t时刻LSTM网络的细胞状态候选值；

为t时刻LSTM网络的输出门；

为t-1时刻LSTM网络的细胞状态；

为t-1时刻LSTM网络的隐藏层状态；X为输入的AP序列；

表示sigmoid函数；LSTM网络最终输出维度为（None，128，128），其中None指一次训练所抓取的样本数量，第一个128指信号的时间步长，第二个128指输出的维度。

3.根据权利要求2所述的基于LGTransformer的通信信号调制识别方法，其特征在于，

时刻的GRU网络将上一个网络在

时刻的输出

和该GRU网络在

时刻的隐藏层状态作为其输入，GRU网络在最后一个时刻输出的隐藏层状态为其最终输出；

时刻GRU网络的计算表达式为：

其中

、

和

均为权重；

为

时刻GRU网络的重置门；

为

时刻GRU网络的更新门；

为

时刻GRU网络的候选隐含状态；

为

时刻GRU网络的隐藏层状态；

为

时刻GRU网络的隐藏层状态；当

时，

为0；GRU网络最终输出维度为（None，128，64），其中None指一次训练所抓取的样本数量，128指信号的时间步长，64指输出的维度。

4.根据权利要求3所述的基于LGTransformer的通信信号调制识别方法，其特征在于，Transformer-Encoder网络包括多头注意力模块、第一求和归一化模块、前馈模块和第二求和归一化模块；

多头注意力模块，其输入端为Transformer-Encoder网络的输入端，通过多头注意力机制获取H个与输入的隐藏层状态相对应的输出矩阵，并将H个与输入的隐藏层状态相对应的输出矩阵进行拼接，并通过线性层得到输出矩阵Z；

第一求和归一化模块，用于将多头注意力模块的输出矩阵Z与多头注意力模块的输入进行求和，并对求和后的激活值进行归一化；

前馈模块的计算表达式为：

其中

为前馈模块输出的第

个结果；

为第一求和归一化模块输出的第

个归一化结果；

和

均为权重；

和

均为偏置；

第二求和归一化模块，用于将第一求和归一化模块的输出与前馈模块相对应的输出进行求和与归一化；第二求和归一化模块的输出端为Transformer-Encoder网络的输出端。

5.根据权利要求4所述的基于LGTransformer的通信信号调制识别方法，其特征在于，第一个全连接层的参数为70，第二个全连接层的参数为11；softmax层的分类数为11；H的数值为4。

Images