CN112054979B - 基于模糊密集卷积网络的无线电自动调制识别方法 - Google Patents

Abstract

本发明公开了一种基于模糊密集卷积网络的无线电自动调制识别方法，包括以下步骤：S1、获取无线电IQ数据；S2、随机抽取部分IQ数据作为测试集，随机抽取部分IQ数据作为验证集，剩余IQ数据作为训练集；S3、将训练集的IQ数据输入模糊密集卷积网络进行训练；S4、将测试集的IQ数据输入训练后的模糊密集卷积网络，计算IQ数据在每层获得的特征信息，获得IQ数据的识别结果；其中，所述模糊密集卷积网络包括输入层、N个稠密块、N个过渡块和输出层，N为正整数，稠密块和过渡块间隔设置。与现有技术相比，本发明提供的无线电自动调制识别方法能更好地将各纹理信息组合成更有用的信息实现提高识别效果，且使用模糊层能够进一步提高网络对IQ信号的鲁棒性。

Description

基于模糊密集卷积网络的无线电自动调制识别方法

技术领域

本发明涉及模糊密集卷积网络，具体是基于模糊密集卷积网络的无线电自动调制识别方法。

背景技术

无线电的自动调制识别(AMR)是一个具有非常大的挑战性和充满价值的研究。在许多民用和军事领域扮演着重要的角色，例如频谱检测，电子对抗等。自动调制识别是在没有专家经验的情况下利用接收的信号对无线电信号的调制方式进行识别，这种端到端的方式对调制识别有着非常重要的意义和作用。

随着无线电技术发展，使用深度学习对信号的自动调制识别成为了一个非常具有潜力和挑战性的研究。现在调制识别中，主要以使用各种卷积网络结构在IQ数据或频谱图进行特征提取。IQ图像与普通图像不同，IQ图像的纹理信息表示幅值大小，图片宽度表示时间序列信息，现有的卷积神经网络更关注纹理，但是IQ图像的纹理是幅值信息，使其对IQ信号识别效果不佳。

发明内容

本发明的目的在于克服现有技术中的采用卷积神经网络进行无线电自动调制识别时，存在着关注纹理信息而不是形状的缺点，神经网络对IQ信号识别效果不佳的不足，提供了一种基于模糊密集卷积网络的无线电自动调制识别方法，利用一维模糊层在网络结构中对IQ信号进行滤波，采用密集连接的方式使网络结构具有特征提取和特征复用的功能，能更好地将各纹理信息组合成更有用的信息提高识别效果，且使用模糊层能够进一步提高网络对IQ信号的鲁棒性；本发明还提供了基于模糊密集卷积网络的无线电自动调制识别方法，通过复用组合纹理信息能够有效提取IQ结构信息和IQ幅值信息。

本发明的目的主要通过以下技术方案实现：

基于模糊密集卷积网络的无线电自动调制识别方法，包括以下步骤：S1、获取无线电IQ数据；S2、随机抽取部分IQ数据作为测试集，随机抽取部分IQ数据作为验证集，剩余IQ数据作为训练集；S3、将训练集的IQ数据输入模糊密集卷积网络进行训练；S4、将测试集的IQ数据输入训练后的模糊密集卷积网络，计算IQ数据在每层获得的特征信息，获得IQ数据的识别结果；其中，所述模糊密集卷积网络包括输入层、N个稠密块、N个过渡块和输出层，N为正整数，稠密块和过渡块间隔设置，每个稠密块的输出经过一个过渡块后作为下一稠密块的输入；输入层输入数据至第一稠密块，数据经过稠密块和过渡块后，输出层输出数据结果；所述输入层设有第一一维模糊层；所述稠密块包括M个稠密层，M为正整数，每个稠密层由第一卷积层和第二卷积层连接而成，第一卷积层和第二卷积层均由批量归一化、激活层和卷积层顺序连接，数据依次经过两个卷积层；所述过渡块中设有第三卷积层和第二二维模糊层，数据经批量归一化后，依次经过第三卷积层和第二二维模糊层；所述输出层包括池化层和全连接层，数据依次经过池化层和全连接层，所述池化层采用全局平均池化。

纹理信息是信号幅值的变化信息，IQ数据的图与一般图像不同，现有的在密集卷积网络中，过渡块中一般包含了平均池化层，但当密集卷积网络应用于图像时，使用池化层能够保留有效信息的同时减少计算压力，但是IQ图像较小，使用池化层会影响特征的提取。所以本技术方案中在过渡块中使用模糊层代替了池化层，使网络对输入信息具有了滤波和增加对输入平移的鲁棒性的作用。此外本技术方案中发明人利用一维模糊层在网络结构中对IQ信号进行滤波，采用密集的方式使网络结构具有特征提取和特征复用的功能，能更好地将各纹理信息组合成更有用的信息实现提高识别效果，使用特征复用的结构能获得调制信号的结构信息；在输出层采用全局平均池化取代全连接的非线性连接，减少模型的训练负担，进一步提高识别效果。需要说明的是，本技术方案中步骤S3～4是对神经网络的训练过程，步骤S5是将测试集的数据输入训练后的神经网络中，获得IQ数据的识别结果；本技术方案中将IQ数据输入模糊密集卷积网络、在每层获得特征信息、获得识别结果的过程具体为：首先一维信号进入卷积层，通过卷积核进行卷积运算，得到特征结果，然后通过激活层和池化层，约束特征结果并对特征进行压缩，通过设计的多个由卷积层，激活层和池化层等组合的稠密块，特征通过不断提取将被压缩到很小的维度，然后这个维度再通过全连接输出分类概率。其中卷积核的学习是通过设计的训练标签和预测标签的损失函数来完成；最后的识别结果从输出层中的全连接层得到，全连接层将输出所有类别的概率，取最大概率的类别为预测类别。

进一步的，步骤S2具体为：随机抽取10％IQ数据作为测试集，随机抽取10％IQ数据作为验证集，剩余80％IQ数据作为训练集；步骤S3中还包括若10个训练周期内验证集识别率没有提高，则停止训练。

进一步的，所述第一一维模糊层步长为1，第一一维模糊层的模糊核为高斯模糊核，且其大小为1×5。本技术方案采用时间方向的高斯滤波，减少噪声干扰，由于不同大小的模糊核对滤波效果影响不同，当采用1×5大小的模糊核滤波效果最好。

进一步的，所述第一卷积层的卷积核大小为1×1，所述第二卷积层的卷积核大小为2×2。

进一步的，所述稠密块中稠密层的特征由前一层稠密层的特征组合而成，所述特征的提取由卷积层来完成；在模糊密集卷积网络的传递过程中，在顺序传递的同时，稠密块中将每个稠密层使用了跳跃连接，不断合并特征进行特征复用，具体计算如下：x_l＝H_l([x₀,x₁,...,x_l-1])，其中x_l为网络中一稠密块中第l层稠密层的特征，[x₀,x₁,...,x_l-1]表示第0到l-1层的特征在层维度上进行合并，l为小于等于M的正整数。

本技术方案在稠密块中卷积层密集堆积，能够对提取的特征进行复用。本技术方案中卷积层的参数决定了通过卷积层提取的特征，通过模糊密集卷积网络的传递，结合最终识别结果输出与训练的标签做交叉熵计算得到误差值，然后使用随机梯度下降算法反向更新卷积层参数，通过迭代计算优化卷积层参数。本技术方案中的卷积层泛指了网络中的每个稠密块的卷积层。

进一步的，第l层稠密层的特征层数为k₀+(l-1)×k，其中k₀为输入的通道数，k为稠密块中每一个稠密层特征层数的增长率。本技术方案中在稠密块中使用增长率k来控制着模块的宽度。

进一步的，所述过渡块的特征层数为m，m为正整数。优选的，本技术方案采用[θ_m]减少特征层数量，θ为特征层减少的比例，其中0＜θ＜1，通过[θ_m]减少特征层数量进一步提高了模型的密度。

进一步的，所述第三卷积层卷积核大小为1×1，所述第二二维模糊层步长为1，第二二维模糊层的模糊核为高斯模糊核。本技术方案采用时间方向的高斯滤波，减少噪声干扰。

进一步的，N＝3，每个稠密块的稠密层的数量M＝6。网络深度对特征提取有着重要作用，网络深度将对训练速度和训练效果产生一定的影响，本技术方案选择M＝6，使网络深度为[6,6,6]，深度小识别效果好。

综上所述，本发明与现有技术相比具有以下有益效果：本发明提供的基于模糊密集卷积网络的无线电自动调制识别方法，利用一维模糊层在网络结构中对IQ信号进行滤波，采用密集的方式使网络结构具有特征提取和特征复用的功能，能更好地将各纹理信息组合成更有用的信息实现提高识别效果，且使用模糊层能够进一步提高网络对IQ信号的鲁棒性，本发明还提供了基于模糊密集卷积网络的无线电自动调制识别方法，通过复用组合纹理信息能够有效提取IQ结构信息和IQ幅值信息。

附图说明

此处所说明的附图用来提供对本发明实施例的进一步理解，构成本申请的一部分，并不构成对本发明实施例的限定。在附图中：

图1为基于模糊密集卷积网络的无线电自动调制识别方法的流程图；

图2为验证试验1中实施例1、密集卷积网络、多层卷积网络、SCNN2和LSTM-IQFOC在各信噪比下的识别率；

图3为验证试验2中实施例1的基于模糊密集卷积网络的无线电自动调制识别方法的网络深度在每个信噪比下识别率的曲线图；

图4为验证试验2中实施例1的基于模糊密集卷积网络的无线电自动调制识别方法的模糊核大小每个信噪比下识别率的曲线图；

图5为验证试验2中实施例1的基于模糊密集卷积网络的无线电自动调制识别方法的有无池化层在每个信噪比下识别率的曲线图；

图6为验证试验2中实施例1的基于模糊密集卷积网络的无线电自动调制识别方法的增长率在每个信噪比下识别率的曲线图；

图7为验证试验3中输入的IQ信号在通过实施例1的基于模糊密集卷积网络的无线电自动调制识别方法的第一一维模糊层前的曲线图；

图8为验证试验3中输入的IQ信号在通过实施例1的基于模糊密集卷积网络的无线电自动调制识别方法的第一一维模糊层后的曲线图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。

实施例1：

基于模糊密集卷积网络的无线电自动调制识别方法，包括以下步骤：

S1、获取无线电IQ数据；S2、随机抽取部分IQ数据作为测试集，随机抽取部分IQ数据作为验证集，剩余IQ数据作为训练集；S3、将训练集的IQ数据输入模糊密集卷积网络进行训练；S4、将测试集的IQ数据输入训练后的模糊密集卷积网络，计算IQ数据在每层获得的特征信息，获得IQ数据的识别结果；其中，所述模糊密集卷积网络包括输入层、N个稠密块、N个过渡块和输出层，N为正整数，稠密块和过渡块间隔设置，每个稠密块的输出经过一个过渡块后作为下一稠密块的输入；输入层输入数据至第一稠密块，数据经过稠密块和过渡块后，输出层输出数据结果；所述输入层设有第一一维模糊层；所述稠密块包括M个稠密层，M为正整数，每个稠密层由第一卷积层和第二卷积层连接而成，第一卷积层和第二卷积层均由批量归一化、激活层和卷积层顺序连接，数据依次经过两个卷积层；所述过渡块中设有第三卷积层和第二二维模糊层，数据经批量归一化后，依次经过第三卷积层和第二二维模糊层；所述输出层包括池化层和全连接层，数据依次经过池化层和全连接层，所述池化层采用全局平均池化。

优选的，步骤S2具体为：随机抽取10％IQ数据作为测试集，随机抽取10％IQ数据作为验证集，剩余80％IQ数据作为训练集；步骤S3中还包括若10个训练周期内验证集识别率没有提高，则停止训练。

优选的，所述第一一维模糊层步长为1，第一一维模糊层的模糊核为高斯模糊核，且其大小为1×5。

优选的，所述第一卷积层的卷积核大小为1×1，所述第二卷积层的卷积核大小为2×2。

优选的，所述稠密块中稠密层的特征由前一层稠密层的特征组合而成，所述特征的提取由卷积层来完成；在模糊密集卷积网络的传递过程中，在顺序传递的同时，稠密块中将每个稠密层使用了跳跃连接，不断合并特征进行特征复用，具体计算如下：

x_l＝H_l([x₀,x₁,...,x_l-1])，其中x_l为网络中一稠密块中第l层稠密层的特征，[x₀,x₁,...,x_l-1]表示第0到l-1层的特征在层维度上进行合并，l为小于等于M的正整数。

优选的，第l层稠密层的特征层数为k₀+(l-1)×k，其中k₀为输入的通道数，k为稠密块中每一个稠密层特征层数的增长率。

优选的，所述过渡块的特征层数为m，m为正整数；优选的，采用[θ_m]减少特征层数量，θ为特征层减少的比例，其中0＜θ＜1，；优选的，θ＝0.3。

优选的，所述第三卷积层卷积核大小为1×1，所述第二二维模糊层步长为1，第二二维模糊层的模糊核为高斯模糊核。

优选的，N＝3，每个稠密块的稠密层的数量M＝6。

优选的，所述第三卷积层卷积核大小为1×1，所述第二二维模糊层步长为1，第二二维模糊层的模糊核为高斯模糊核。

优选的，适用于0～18信噪比的IQ信号。

优选的，S3中所述批尺寸为128。

验证试验1：

1、试验方法：采用实施例1的方法，随机抽取10％的IQ数据作为测试集，10％的IQ数据作为验证集，剩下的数据作为训练集。训练过程中批尺寸为128，若10个训练周期内验证集识别率没有提高，则停止训练。以常规多层卷积网络(baseline(CNN2))、残差网络(Resnet)、密集卷积网络(Densenet)和基于高阶累积量的长短时记忆模型(LSTM-IQFOC)、频谱卷积神经网络(SCNN2)替换实施例1中的模糊密集卷积网络作为对照组。IQ信号的信噪比为0～18dB。

2、试验结果：

表1多层卷积网络(baseline(CNN2))、残差网络(Resnet)、密集卷积网络(Densenet)、频谱卷积神经网络(SCNN2)、基于高阶累积量的长短时记忆模型(LSTM-IQFOC)和实施例1在0～18dB的平均识别率

从上表中可以看出，实施例1的模糊密集卷积网络在0～18dB的信噪比平均识别率上达到了89.3％。通过比较不同的网络结果可以看到，使用实施例1的模糊密集卷积网络具有更好的效果，与SCNN2比较，识别效果接近，通过改进后使用模糊层后，识别率得到了提高。从可训练参数上可以看到多层卷积网络、残差网络、密集卷积网络具有更多的训练参数，尽管SCNN2的模型远远小于前3个网络的规模，但是实施例1的模糊密集卷积网络具有更小的参数和更好的识别结果，通过的实验结果表明本发明采用的特征复用的网络具有更好的性能，并且使用模糊层能提高网络性能。

图2展示了实施例1与密集卷积网络(Densenet)、多层卷积网络(baseline(CNN2))、频谱卷积神经网络(SCNN2)和基于高阶累积量的长短时记忆模型(LSTM-IQFOC)在各信噪比下的识别率。横轴表示了信噪比(SNR)的变化，纵轴表示了识别率(ACC)的变化。

结合表1和图2可以看出，通过改进密集卷积网络，并加入模糊层后提出了实施例1的模糊密集卷积网络，这个结构在高信噪比下可以发现，当信噪比大于0，识别率出现了进一步地提高。当信噪比0到18时，实施例1的方法在0～18dB的信噪比平均识别率上达到了89.3％。发明人通过在数据集RML2016.10a进行实验，验证了本发明提出的方法具有更高的识别率，并且在0～18dB信噪比下减少了噪声的干扰使大部分识别率稳定在90％以上，最高可以达到92.6％。

验证试验2：

发明人在对实施例1中方法研究后发现，实施例1中基于模糊密集卷积网络的无线电自动调制识别方法的超参数包括网络深度、模糊核大小、池化层、增长率k，其中：网络深度：网络深度对特征提取有着重要作用，网络深度将对训练速度和训练效果产生一定的影响；模糊核大小：选择合适大小的模糊核能够对滤波效果产生影响；池化层：对有限的IQ数据进行提取时，池化层的增加可能会丢失部分有用信息；增长率k：增长率k将影响模型的训练效率，与特征映射的数量，这个数量对特征提取会产生一定的影响。

本验证试验中采用的超参数如下表2：

表2超参数的不同取值

试验组	网络深度	模糊核大小	增长率k	池化层	可训练参数
						V0	[6,12,24,16]	(1,3)	10	True	608K
V1	[1,1,1]	(1,3)	10	True	8K
						V2	[3,3,3]	(1,3)	10	True	34K
V3	[6,6,6]	(1,3)	10	True	95K
						V4	[6,6,6]	(1,5)	10	True	95K
V5	[6,6,6]	(1,5)	32	False	942K
						V6	[6,6,6]	(1,5)	21	True	408K
V7	[6,6,6]	(1,5)	32	True	942K

图3～6分别展示了超参数：网络深度、模糊核大小，有无池化层和增长率对在每个信噪比下识别率的曲线图。并且图3和图6中加入了可训练参数的柱状图进行对比。表2中True表示有池化层，False表示无池化层。

网络深度：从图3可以观察到随着网络深度的增加在高信噪比下识别率从83％提升到91％，网络深度的增加对识别率有一定的提升。但是从图3中的可训练参数可以看到：v0和v3可训练参数相差很大，但是识别率的提升已经不显著，当网络深度在[6,6,6]既能保证识别率的同时也能保证网络可训练参数规模。

模糊核大小：从图4中v3和v4比较，v3和v4比较，通过增大模糊核大小识别率有一定的提升，当模糊核大小在1×5既能保证识别率的同时也能保证网络可训练参数规模。

池化层：图5是在有无池化v5和v7中展示了各信噪比下的识别率，可以观察到当过渡块中无池化层时，在高信噪比时更有效，实验结果证明了IQ数据在经过池化层后可能丢失了部分重要信息。

增长率k：图6中v4、v6、v7展示了增长率分别为10、21、35的识别率曲线图，从图中可以看到随着k的提高，识别率有一定的提升，从可训练参数来看，增量率k的变化模型的大小有较大的影响，k能保证识别率的同时保证模型规模。

验证试验3：

图7和图8展示了第一一维模糊层对输入网络信号的影响，从图7和图8曲线对比可以看到，输入的IQ信号在通过第一一维模糊层后变得更平滑，在高信噪比时，部分噪声受到了抑制，尤其是当信噪比在0附近时，可以明显看到通过模糊层后保证一定信号结构的同时信号变得更平滑。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，包括以下步骤：

S1、获取无线电IQ数据；

S2、随机抽取部分IQ数据作为测试集，随机抽取部分IQ数据作为验证集，剩余IQ数据作为训练集；

S3、将训练集的IQ数据输入模糊密集卷积网络进行训练；

S4、将测试集的IQ数据输入训练后的模糊密集卷积网络，计算IQ数据在每层获得的特征信息，获得IQ数据的识别结果；

其中，所述模糊密集卷积网络包括输入层、N个稠密块、N个过渡块和输出层，N为正整数，稠密块和过渡块间隔设置，每个稠密块的输出经过一个过渡块后作为下一稠密块的输入；

输入层输入数据至第一稠密块，数据经过稠密块和过渡块后，输出层输出数据结果；

所述输入层设有第一一维模糊层；

所述稠密块包括M个稠密层，M为正整数，每个稠密层由第一卷积层和第二卷积层连接而成，第一卷积层和第二卷积层均由批量归一化、激活层和卷积层顺序连接，数据依次经过两个卷积层；

所述过渡块中设有第三卷积层和第二二维模糊层，数据经批量归一化后，依次经过第三卷积层和第二二维模糊层；

所述第三卷积层卷积核大小为1×1，所述第二二维模糊层步长为1，第二二维模糊层的模糊核为高斯模糊核；

所述输出层包括池化层和全连接层，数据依次经过池化层和全连接层，所述池化层采用全局平均池化。

2.如权利要求1所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，步骤S2具体为：随机抽取10％IQ数据作为测试集，随机抽取10％IQ数据作为验证集，剩余80％IQ数据作为训练集；步骤S3中还包括若10个训练周期内验证集识别率没有提高，则停止训练。

3.如权利要求1所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，所述第一一维模糊层步长为1，第一一维模糊层的模糊核为高斯模糊核，且其大小为1×5。

4.如权利要求1所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，所述第一卷积层的卷积核大小为1×1，所述第二卷积层的卷积核大小为2×2。

5.如权利要求1所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，所述稠密块中稠密层的特征由前一层稠密层的特征组合而成，所述特征的提取由卷积层来完成；在模糊密集卷积网络的传递过程中，在顺序传递的同时，稠密块中将每个稠密层使用了跳跃连接，不断合并特征进行特征复用，具体计算如下：

x_l＝H_l([x₀,x₁,...,x_l-1])，其中x_l为网络中一稠密块中第l层稠密层的特征，[x₀,x₁,...,x_l-1]表示第0到l-1层的特征在层维度上进行合并，l为小于等于M的正整数。

6.如权利要求5所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，第l层稠密层的特征层数为k₀+(l-1)×k，其中k₀为输入的通道数，k为稠密块中每一个稠密层特征层数的增长率。

7.如权利要求1所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，所述过渡块的特征层数为m，m为正整数。

8.如权利要求1所述的基于模糊密集卷积网络的无线电自动调制识别方法，其特征在于，N＝3，每个稠密块的稠密层的数量M＝6。

Images