CN113536919A

CN113536919A - 基于数据增强和卷积神经网络的信号调制识别算法

Info

Publication number: CN113536919A
Application number: CN202110649508.4A
Authority: CN
Inventors: 张承畅; 徐余; 余洒
Original assignee: Chongqing University of Post and Telecommunications
Current assignee: Chongqing University of Post and Telecommunications
Priority date: 2021-06-10
Filing date: 2021-06-10
Publication date: 2021-10-22

Abstract

为了提高调制识别的正确率，本发明提出基于数据增强和卷积神经网络的信号调制识别算法。本发明首先把数据集RML2016.10a里的时域信号处理成星座图，并把图片按8:2的比例分为训练集和测试集；其次对训练集分别使用旋转、随机擦除、翻转、CutMix 4种数据增强方法进行处理，得到4种增强后的训练集；然后把4种增强后的训练集分别输入到GoogleNet网络中进行训练，根据反向传播不断优化网络参数，得到训练好的网络。最后把测试集送进训练好的GoogleNet网络中进行测试，绘制出正确率随信噪比变化的曲线，对比不同数据增强方法对正确识别率的改善效果，得到最优的数据增强方法。相比于其他没有进行数据增强的调制识别算法，本发明减小了模型过拟合的风险，提高了模型的泛化能力。

Description

基于数据增强和卷积神经网络的信号调制识别算法

技术领域

本发明涉及的卷积神经网络相关算法属于计算机视觉和人工智能领域，数据增强属于图像处理领域，信号调制识别属于通信技术领域。

背景技术

自动调制分类(Automatic Modulation Classification，AMC)是指已知信号所在调制集合，利用信息技术与计算机技术，对己调制的目标信号进行分析从而确定信号调制类型的过程，其在军事领域和民用领域都有着相当广泛的应用。在军事领域，自动调制分类可以应用于通信对抗和电子侦察等应用，在通信对抗时需要对敌方信号进行检测、干扰和解调以窃取敌方重要情报。在民用领域，自动调制识别技术可以应用于异常信号识别、频谱资源监测与管理等任务，以保障通讯的合法性。

传统的调制识别技术可大致分为两类：基于假设检验的最大似然比识别方法和基于特征提取的模式识别方法。前者首先针对不同调制方式做出不同假设，然后在不同假设下对信号进行似然函数处理，并比较不同假设下的似然比，选取其中最大值作为最终判别结果。后者是通过从待识别信号中提取适当的特征，并根据这些特征的具体数值识别信号调制类型，其主要包括特征提取和识别分类两个步骤。传统方法中，基于假设检验的最大似然比识别方法在理论上可获得最优效果，但是存在计算复杂度高、识别信号数量较少、以及过于依赖先验知识等不足之处；基于特征提取的模式识别方法虽然有较大的优势，但是无法直接处理原始数据，需要大量的专业知识和工程技术来手动设计特征，且当信道环境不理想时，模糊的特征会导致判决结果不理想。近年来，随着无线通信技术的快速发展，无线通信环境愈加恶劣，信号的调制方式越来越复杂化和多样化，这些因素给自动调制识别带来了前所未有的难度和挑战，传统的调制识别方法的分类精度与鲁棒性到了瓶颈期，因此，研究更多更优的自动调制识别方法具有至关重要的意义。

近年来，大数据的兴起和高性能计算设备的迅速普及促进了深度学习(DeepLearning，DL)的空前发展，并在机器视觉、自然语言处理、经济学等领域取得巨大突破。DL的思想来自于大脑深层组织结构和生物神经元数学模型，旨在从数据中自主地学习不同层次的特征，从原始输入中提取低级特征，并基于前一级别特征表示提取更高级别的特征。言外之意，它可以自动识别不同模式而不需要人工构造特征，也称数据驱动特征提取。因此，部分研究人员将其引入调制识别领域中。卷积神经网络(Convolutional Neural Network，CNN)作为深度学习方法的重要模型之一，在调制信号识别领域内也开始逐渐兴起，并取得了一定的成效。Wang z等人利用信号星座图及一个5层的CNN实现了QPSK、8PSK、16QAM和64QAM的识别。Peng S等人将调制信号的星座图输入CNN的经典模型AlexNet中进行训练，实现了QPSK、8PSK、16QAM和64QAM的分类。刘明骞等人通过提取MPSK信号循环谱的等高图获得二维特征信息，利用卷积神经网络对二维特征进行训练，实现了BPSK、QPSK、8PSK的分类。Hauser S C等人提出了一种分层深度神经网络，利用IQ数据经过FFT变换得到信号时频图，实现了11类信号的分类，最终达到90％的总准确率，但该网络对QPSK、8PSK的识别效果均低于70％。

尽管基于深度学习的方法可以极大地改善调制分类器的性能，但它需要大量的训练数据。然而，在实际中，收集大量高质量且可靠的数据常常是一件高成本且具有挑战性的事情，因此，数据增强方法应用而生。数据增强是通过人工拓展数据集且保留原始数据标签的一种数据处理方式，现已被广泛用于图像识别领域，但在通信领域的应用才开始起步。不同的数据增强方法如添加高斯噪声、随机裁剪等刚开始应用到调制识别领域，更多的数据增强方法如旋转、翻转、随机擦除、CutMix等可以应用到调制识别领域以拓展数据集，防止模型过拟合，提高模型泛化能力。

发明内容

公开数据集RML2016.10a利用开源软件无线电平台GNU Radio生成，在产生过程中采用了大量真实语音信号，并采用了GNU Radio中动态信道模型模拟了许多信道效应，包括频偏、相偏、高斯白噪声、频率选择性衰落等，更加贴近实际通信环境。因此，本发明的目的在于对公开数据集RML2016.10a采用不同的数据增强，探索不同数据增强方法对调制识别正确率的影响，待识别的调制方式有{BPSK,8PSK,16QAM,64QAM,AM-DSB,AM-SSB,CPFSK,GFSK,PAM4,QPSK,WBFM}。

调制信号通常可以分解为一组相对独立的分量，即同相(In-phase,I)分量和正交(Quadrature,Q)分量。星座图是已调信号的2D表示，其将信号样本映射到复数平面上，由已调信号的I分量大小投影到I轴，Q分量大小投影到Q轴得到，每个点包含了该时刻信号的幅度和相位信息。由于调制信号本身的特性，不同调制信号在星座图上具有很明显的视觉差异，如图1所示。因此，{BPSK,8PSK,16QAM,64QAM,AM-DSB,AM-SSB,CPFSK,GFSK,PAM4,QPSK,WBFM}信号的星座图在一定程度上可以作为区分他们的指标。下面将对星座图做不同的数据增强，以丰富实验数据，并将增强后的数据送入GoogleNet中进行训练和测试，探索不同数据增强方法对识别正确率的影响。

1.数据增强

(1)旋转

旋转是将原始图片按逆时针或者顺时针旋转一定的角度而形成新的图片的一种处理方式，旋转只会改变图片内容的位置，而不会改变图片的内容。以信号的I/Q表示为例，将一个调制信号围绕其原点旋转一定的角度，可以获得如下所示的增强信号样本I'/Q'：

其中θ是旋转的角度，按逆时针方向、取

对QPSK信号的星座图进行旋转，效果如图2所示，则经过旋转增强的数据集扩展到原来数据集的4倍。

(2)随机擦除

随机擦除是一种在原始图像中随机选择一个矩形区域，并使用随机值擦除其像素值的一种处理方式。在此过程中，将生成具有各种遮挡级别的训练图像，这种操作可以降低模型过拟合的风险并使模型对遮挡具有更好的鲁棒性。随机擦除以一定的概率执行，对于任何一张图像I，对其进行随机擦除的概率为P，使其保持不变的概率为1-P。随机擦除在图像中随机选择一个矩形区域I_e，并使用随机值擦除其像素。假设原始图片的大小为W×H,图片的面积即为S＝W×H。首先，初始化擦除矩形区域的面积为S_e，并规定

的大小在s_l～s_h之间。擦除矩形区域的长宽比定义为r_e，并在r_l～r_h之间随机初始化。I_e的大小即可定义为，

然后，在图片I中随机初始化一个点ρ(x_e,y_e)，如果x_e+W≤W&y_e+H_e≤H，就把I_e＝(x_e,y_e,x_e+W_e,y_e+H_e)设置为所选的矩形区域，否则就重复以上步骤直到找到合适的I_e。最后，在所选的矩形区域I_e中，对所有的像素分别随机处理到[0,255]之间。运用随机擦除数据增强方法，可以获得不同种遮挡级别的图像从而丰富数据集，图3展示了随机擦除后的图像。

(3)翻转

翻转是将原始图片按水平方向或垂直方向进行翻转的一种处理方式，水平翻转是指水平分量变为相反数，垂直分量保持不变；垂直翻转是指垂直分量变为相反数，水平分量保持不变。以信号的I/Q表示为例，将一个调制信号水平翻转或垂直翻转，可以分别获得如式(2)或(3)所示的增强信号样本I'/Q'，图4画出了QPSK原始星座图经过翻转后的图像，有水平翻转、垂直翻转、水平和垂直翻转，则经过翻转增强的数据集扩展到原来数据集的3倍。

(4)CutMix

用x∈R^W×H×C表示一张训练图片，y表示它的标签，即有可用数对(x,y)表示一张图片和对应的标签。CutMix的目标是通过联合两张训练图片(x_A,y_A)与(x_B,y_B)来产生一张新的训练图片

并将其用于训练具有原始损失函数的模型。两张图片的联合操作定义为：

其中M∈{0,1}^W×H表示二进制掩码，指明从两个图像中删除并填充的位置，1是填充有1的二进制掩码，⊙是逐元素乘法。和Mixup一样，联合率λ服从Beta(α,α)分布，在本文中，α＝1，因此λ服从标准正态分布U(0,1)。值得注意的事，CutMix用另一个训练图像中的补丁替换图像区域，比Mixup生成的图像更自然。图5展示了经过CutMix之后的图片。

2.卷积神经网络

卷积神经网络(convolutional neural network,CNN)是一种专门用来处理具有类似网格结构数据的神经网络，例如时间序列数据(可以认为是在时间轴上有规律地采样形成的一维网格)和图像数据(可以看作二维的像素网格)。其凭借良好的特征提取特性，近几年逐渐被应用在通信领域。典型CNN结构通常包括卷积层，池化层和全连接层，其中卷积层负责特征提取，池化层负责特征降维，全连接层负责将提取的特征映射到最终输出。图6给出了经典卷积神经网络结构示意图，包括2层卷积层、2层池化层、1层全连接层和1层输出层。

卷积层是卷积神经网络的重要组成部分，主要负责图像数据局部特征的提取，由一些核函数组成，核心部分是卷积运算，经过卷积运算后得到卷积特征，称为特征图。一般情况下，卷积层输出可以表示为：

式中，X_m表示第m个输出特征图，*表示卷积计算，

表示卷积核参数，b_m为每个卷积层的偏执。f(·)为非线性激活函数，目前常用的激活函数为线性整流单元(RectifiedLinear Units，ReLU)，其表达式为f(x)＝max(0,x)。卷积特征图经过池化层后，下采样得到降维后的特征图，即池化特征图。定义down(·)为池化函数，池化层的输出可表示为：

X_m+1＝f down X_m (6)

式中，X_m与X_m+1分别表示卷积层特征图和池化层特征图，f(·)为激活函数。

一般来说，增加网络的深度与宽度可以提升网络的性能，但是这样做也会带来参数量的大幅度增加，同时较深的网络需要较多的数据，否则容易产生过拟合现象。除此之外，增加卷积神经网络的深度容易带来梯度消失的现象。在2014年的ImageNet大赛上，获得冠军的GoogLeNet网络较好地解决了这个问题。

GoogLeNet网络是一个精心设计的22层卷积网络，并提出了具有良好局部特征结构的Inception模块，即对特征并行地执行多个大小不同的卷积运算与池化，最后再拼接到一起。由于1×1、3×3和5×5的卷积运算对应不同的特征图区域，因此这样做的好处是可以得到更好的图像表征信息。

Inception模块如图7所示，使用了三个不同大小的卷积核进行卷积运算，同时还有一个最大池化，然后将这4部分级联起来(通道拼接)，送入下一层。在上述模块的基础上，为进一步降低网络参数量，Inception又增加了多个1×1的卷积模块。如图8所示，这种1×1的模块可以先将特征图进行降维，再送给3×3和5×5大小的卷积核，由于通道数的降低，参数量也有了较大的减少。

本发明将经过不同种数据增强方法处理后的星座图送入GoogleNet网络中进行训练，并通过测试数据(测试集不进行数据增强)对比不同种数据增强方法对调制识别正确率的提升的程度，找出最优的增强方法，说明数据增强可以防止模型过拟合，提升模型的泛化能力，进一步提高调制识别正确率。

本发明所述的基于数据增强和卷积神经网络的信号调制识别算法，包括以下步骤：

1)把公开数据集RML2016.10a里的时域信号处理成星座图表示，并把图片按8:2的比例分为训练集和测试集；

2)对训练集分别使用上述4种数据增强方法进行处理，得到4种增强后的训练集；

3)把4种增强后的训练集分别输入到GoogleNet网络进行训练，根据反向传播不断优化网络参数，得到训练好的网络；

4)把4种数据增强方法对应的测试集送进已经训练好的GooleNet进行测试，得到测试集的识别率并绘制出正确率随信噪比变化的曲线,对比不同数据增强方法的改善效果，得到最优的一种数据增强方法。

附图说明

图1为{BPSK,8PSK,16QAM,64QAM,AM-DSB,AM-SSB,CPFSK,GFSK,PAM4,QPSK,WBFM}信号的星座图

图2为本发明的QPSK信号的星座图进行旋转后的图像

图3为本发明的QPSK信号的星座图进行随机擦除后的图像

图4为本发明的QPSK信号的星座图进行翻转后的图像

图5为本发明的QPSK信号的星座图和BPSK信号的星座图进行CutMix后的图像以及普通图像经过CutMix后形成的图像

图6为本发明的经典卷积神经网络结构示意图

图7为Inception基础模块结构

图8为改进的Inception模块结构

图9为本发明的具体实施流程

具体实施方式

本发明首先把公开数据集RML2016.10a里的时域信号处理成星座图表示，其次将星座图按8:2的比例分成训练集和测试集，然后利用4种数据增强方法(旋转、随机擦除、翻转、CutMix)对训练集进行拓展，其中旋转拓展到原来训练集的4倍，翻转拓展到原来数据集的3倍，随机擦除的概率取0.5，最后基于GoogleNet网络，分别把增强后的训练集送进网络中进行训练，经过损失函数与正确率不断反向传播优化网络参数，最终得到训练好的网络，基于测试集测试网络，得到测试集正确率。本发明的具体实施流程如图9所示。本发明在低信噪比条件下实现了{BPSK,8PSK,16QAM,64QAM,AM-DSB,AM-SSB,CPFSK,GFSK,PAM4,QPSK,WBFM}11类调制方式的识别。具体实施方式主要包括以下几个步骤：

1)信号预处理：通过Matlab2018b把数据集RML2016.10a全部转化为星座图表示，信噪比范围为-20～18dB，间隔为2dB，各信噪比下每类已调信号样本个数为1000，其中800个作为训练集，200个作为测试集。

2)数据增强：对训练集分别采用4种数据增强，得到增强后的训练集分别送进GoogleNet网络进行训练，

3)得到训练好的GoogleNet网络参数，并结合星座图测试数据进行测试，评估模型的表现性能，对比不同数据增强方法对调制识别性能的改善程度，找出最优的增强方法。

4)给定任何一个星座图，判断该信号的调制方式。

Claims

1.基于数据增强和卷积神经网络的信号调制识别算法，其特征在于，首先把公开数据集RML2016.10a里的时域信号处理成星座图表示，并把图片表示按8:2的比例分为训练集和测试集；其次对训练集分别使用旋转、随机擦除、翻转、CutMix 4种数据增强方法进行处理，得到4种增强后的训练集；然后把4种增强后的训练集分别输入到GoogleNet网络中进行训练，根据反向传播不断优化网络参数，得到训练好的网络。最后把测试集送进已经训练好的GoogleNet网络中进行测试，得到测试集的识别率并绘制出正确率随信噪比变化的曲线,对比不同数据增强方法的改善效果，得到最优的一种数据增强方法。

2.根据权利要求1所述的基于数据增强和卷积神经网络的信号调制识别算法，在把训练集送进网络中进行训练之前，先用数据增强对训练集进行了拓展且保留原始标签不变，这有利于丰富训练集，防止模型过拟合，提高模型的泛化能力。

3.根据权利要求1所述的基于数据增强和卷积神经网络的信号调制识别算法，其特征在于，在传统调制识别算法中，主要有基于假设检验的最大似然比识别方法和基于特征提取的模式识别方法。前者存在计算复杂度高、识别信号数量较少、以及过于依赖先验知识等不足之处，后者需要大量的专业知识和工程技术来手动设计特征，且当信道环境不理想时，模糊的特征会导致判决结果不理想。基于卷积神经网络的调制识别算法可以自动识别不同模式，消除了繁琐的人工特征提取过程。