CN110300078B - 基于课程学习的调制信号识别方法 - Google Patents

Abstract

本发明公开了一种基于课程学习的调制信号识别方法，主要解决现有技术因信号噪声导致识别率较低的问题。其方案为：获取训练的调制信号采样序列和对应标记数据，并对采样序列进行预处理；构建深度残差网络；将预处理后的采样序列作为深度残差网络的输入，采样序列的标记数据作为深度残差网络输出向量中最大分量对应的调制类型，利用课程学习的训练策略训练构建的深度残差网络，得到训练好的网络；将待识别的调制信号灰度图作为训练好的网络的输入，网络输出向量中最大分量所对应的调制类型即为识别出的调制类型。本发明加快了训练的速度，减小了因信号噪声过强对识别率的影响，提高了在强噪声环境下的调制识别性能，可用于电子对抗和无线电管理。

Description

基于课程学习的调制信号识别方法

技术领域

本发明属于通信技术领域，特别涉及一种调制信号识别方法，可用于电子对抗和无线电管理。

背景技术

自动调制识别任务的目的是检测接收信号的调制类型，并通过解调对信号进行恢复。目前常见的数字调制信号包括幅移键控ASK、移频键控FSK、相移键控PSK和正交幅度调制QAM。调制识别已广泛应用于电子战、监视和威胁分析。其中基于似然比检测方法和基于特征提取方法是两种常用的自动调制识别方法。基于似然比检测方法主要包括平均似然比检验方法和广义似然比检验。基于似然比检测方法虽然具有较高的精度，但需要更多的计算时间来完成参数估计，这极大地限制了它的应用。基于特征提取的方法通常分为两个步骤:特征提取和识别。在以往的研究中，基于特征提取方法利用频谱、高阶累积量、小波系数等信号特征对调制类型进行识别。随着机器学习的出现和发展，许多研究都使用机器学习来实现基于特征提取方法中的识别。Aslam等人在文章“Automatic modulationclassification using combination of genetic programming and KNN”中提出了一种基于遗传编程和k近邻的调制识别方法，但该识别方法仅适用于PSK。Han等人利用支持向量机对PSK和QAM进行识别，在已知信道下获得了较好的识别准确率。基于特征提取方法虽然在自动调制识别中显示出很大的优势，但仍面临着人工特征提取和噪声覆盖两方面的挑战。基于特征提取方法的性能在很大程度上取决于提取特征的质量和数量，但对于各种调制的无线信号，人工特征提取较为复杂和困难。此外，当调制信号的信噪比非常低时，由于提取的特征量有限，识别方法的性能则表现一般。

神经网络是一种引人入胜的识别方法，它具有一系列最先进的自动调制识别成果。例如，O'Shea等人在论文“Convolutional radio modulation recognition networks”中使用基带IQ波形训练了一个深度神经网络来进行识别调制。他们的方法证明了使用深度神经网络进行自动调制识别是可行的，并且在低信噪比的情况下具有更好的精度。Ramjee等人在论文“Fast Deep Learning for Automatic Modulation Classification”验证了CLDNN、长短记忆期网络LSTM和深度残差网络DRN结构的识别性能。实验结果表明，三种方法在RadioML2016.10b数据集上均能取得较好的识别效果。验证了不同信噪比下训练数据的影响，并将训练数据最小化以减少训练时间。然而，在调制识别任务中，神经网络很容易对数据噪声进行过拟合和记忆。信号经过信道时，会引入噪声，导致信噪比急剧下降。如果用这种低信噪比数据训练神经网络，可能会使神经网络陷入局部最优值，导致识别方法性能显著下降。

Bengio等人在“Curriculum learning”中提出课程学习的训练策略，根据训练样本训练的难易程度给不同的样本不同的权重，开始给简单的样本最高权重，它们有着较高的概率，接着将较难训练的样本权重调高，最后样本权重统一化则直接在目标训练集上训练。采用这种训练策略可以使得到的模型找到更好的局部最优点，同时加快训练的速度。该论文通过几个实验验证了课程学习的优势，但目前还未应用到神经网络调制识别中。

发明内容

本发明的目的在于针对上述现有技术存在的不足，提供一种基于课程学习的调制信号的识别方法，以课程学习的训练策略指导深度残差网络的训练，避免网络对数据噪声过拟合，使得网络更快地学习到更加健壮的模型，提高在强噪声环境下的识别性能，避免现有网络因信号噪声导致的识别率较低的问题。

为实现上述目的，本发明的实现步骤包括如下：

(1)获取训练的调制信号采样序列和标记：

(1a)通过仿真产生码元序列，对码元序列进行调制后添加高斯白噪声得到训练的调制信号；

(1b)对训练的调制信号进行采样，得到采样序列，并根据调制类型的不同将采样序列分别标记为1，2，…，n，n为待识别的调制信号总类别；

(2)采样序列预处理：

(2a)对采样序列进行归一化处理，并将归一化的采样序列平局划分为多个短序列；

(2b)将这些短序列依次并行排列得到二维数据矩阵，再将二维数据矩阵转换为灰度图；

(2c)将得到的灰度图及对应的标签按照8:2的比例分为训练集和测试集；

(2d)对训练集进行扩充，得到一组低信噪比样本比重逐渐增加的训练集C₁，C₂，…，C_i，…，C_K，其中C_i是第i个训练集包含多种信噪比样本，i＝1，2，…，K，K为信噪比种类数，第一个训练集C₁中的样本全为最高信噪比样本，第K个训练集C_K包含所有种类的信噪比样本且每种样本比重相等；

(3)构建依次包含1个卷积层、1个最大池化层、33个残差块、1个平均池化层和1个全连接层的深度残差网络N；

(4)利用课程学习的训练策略对深度残差网络N进行训练：

(4a)使用(2d)得到的第一个训练集C₁对深度残差网络N进行训练，循环1000次后得到初次训练后的网络N₁；

(4b)使用(2d)得到的第二个训练集C₂对初次训练后的网络N₁训练1000次，得到二次训练后的网络N₂，以此类推，直到使用第K个训练集C_K对K-1次训练后的网络N_K-1训练1000次，得到最终训练好的网络N_K；

(5)利用训练好的网络N_K识别出待识别调制信号的类型：

(5a)将待识别的调制信号依次进行采样、归一化和二维化，并转换为灰度图；

(5b)将灰度图输入到训练好的深度残差网络N_K中，经过前向传播得到神经网络的输出向量，根据输出向量得到调制类型。

本发明与现有技术相比，具有以下优点：

1.本发明结合课程学习的训练策略，构建一组全为高信噪比样本向高低信噪比样本比重相等的训练集，依次训练深度残差网络N，使得网络更快地学习到更加健壮的模型，提高了调制识别方法在强噪声环境下的性能，避免了现有网络因信号噪声导致的识别率较低的问题。

2.本发明直接将中频调制信号经过采样、归一化和二维化，转化为灰度图后作为深度残差网络N的输入，不需要进行混频将中频调制信号转换为基带数据，避免了因调制参数不确定无法转化为基带信号而导致信号无法识别的问题。

3.本发明直接将中频采样序列经过简单的处理步骤转换为灰度图，不需要人为提取信号特征，降低了调制识别系统的复杂度。

附图说明

图1是本发明的实现流程图；

图2是本发明中采样序列预处理的示意图；

图3是本发明中深度残差网络的结构示意图；

图4是本发明中残差块的结构示意图。

具体实施方式

下面结合附图和具体实施例，对本发明作进一步详细说明。

参照图1，本实例的实现步骤包括如下：

步骤1，获取训练的调制信号采样序列和标记。

本实例所识别的调制信号包括2ASK、4ASK、8ASK、2FSK、4FSK、8FSK、2PSK、4PSK、8PSK、16QAM和64QAM，其采样序列和标记的产生如下：

1.1)通过仿真产生包含16个码元周期，码元周期为10^-6s，载波频率为2MHz的上述11种不同调制类型的调制信号，其中每种调制信号包括10000个，信噪比范围为-20dB～18dB，步进为2dB，共20种信噪比，且各信噪比的调制信号个数相同；

1.2)用64Msps的采样速率对每种调制信号分别进行采样，共得到110000个长度为1024的采样序列；

1.3)根据采样序列调制类型的不同，将采样序列分别标记为1，2，…，11，得到110000个标记数据。

步骤2，对采样序列进行预处理。

2.1)对经过步骤1得到的110000个长度为1024的采样序列，通过如下公式进行归一化处理，以避免因数据差异对训练过程中梯度优化算法造成干扰，

其中，X表示一个采样序列，X＝{x₁,x₂,…,x_i,…,x₁₀₂₄}，x_i和x′_i分别表示第i个未归一化数据和第i个归一化后的数据；

2.2)对归一化后的采样序列做进一步处理，以使归一化后的采样序列能输入到深度残差网络中，参照图2，本步骤的具体实现是：

首先将归一化后的采样序列拆分为32个长度为32的列向量，再将32个列向量依次并行排列得到大小为32×32的二维数据矩阵，最后将该矩阵转换为灰度图；

2.3)将得到的灰度图和对应的标记数据按照8:2的比例均匀分为训练集和测试集，本实例的训练集包含88000个样本，测试集包含22000个样本，该训练集包含有11种调制信号，每种调制信号有8000个样本，每种调制信号包括最高信噪比和低信噪比的20种信噪比，每种信噪比样本有400个；

2.4)对包含88000个样本的训练集进行扩充：

2.4.1)构建包含信噪比全为最高信噪比的样本的训练集；

2.4.2)依次用低信噪比样本替换部分最高信噪比样本，每次要替换的样本个数为4400，完成训练集的扩充，具体实现如下：

首先，构建包含88000个信噪比为18dB的样本的第一个训练集C₁；

再用4400个信噪比为16dB的样本替换第一个训练集C₁中的4400个信噪比为18dB的样本，获得第二个训练集C₂；

然后，用4400个信噪比为14dB的样本替换第二个训练集C₂中的4400个信噪比为18dB的样本，获得第三个训练集C₃；

以此类推，直到用4400个信噪比为-20dB的信噪比样本替换第19个训练集C₁₉中的4400个信噪比为18dB的样本，获得最后一个训练集C₂₀，一共得到1760000个样本，构成一组新的训练集C₁，C₂，…，C₂₀。

步骤3，构建深度残差网络N。

将1个卷积层、1个最大池化层、33个残差块、1个平均池化层和1个全连接层依次相连，构成深度残差网络N，如图3所示，各层参数如下：

所述1个卷积层，其包含64个尺寸为7×7的卷积核，用于接收得到的灰度图；

所述1个最大池化层，其池化核的大小为3×3；

所述1个平均池化层，其池化核的大小为2×2；

所述1个全连接层，其包含与待识别的调制类型总数相同的11个隐藏节点，用于输出调制类型；

所述33个残差块，其含有四种类型，分别记为a、b、c、d，每一类的每一个残差块均包含3个卷积层，残差块结构如图4所示，3个卷积层对应卷积核的尺寸分别为1×1、3×3和1×1，其中，

第一类a有3个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为64、64和256；

第二类b有4个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为128、128和256；

第三类c有23个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为256、256和512；

第四类d有3个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为512、512和1024。

步骤4，利用课程学习的训练策略对深度残差网络N进行训练。

4.1)使用2.4)得到的第一个训练集C₁对深度残差网络N训练1000次，得到初次训练后的网络N₁；

4.2)使用第二个训练集C₂对初次训练后的网络N₁训练1000次，得到二次训练后的网络N₂；

以此类推，直到使用第20个训练集C₂₀对19次训练后的网络N₁₉训练1000次，得到最终训练好的网络N₂₀。

步骤5，利用训练好的网络N₂₀识别出待识别的调制信号的类型。

5.1)将待识别的调制信号依次进行采样和归一化，然后将归一化后的采样序列拆分为32个长度为32的列向量，再将32个列向量依次并行排列得到大小为32×32的二维数据矩阵，最后将其转换为灰度图；

5.2)将灰度图输入到训练好的深度残差网络N₂₀中，经过网络N₂₀的前向传播得到输出向量，输出向量的各个分量与调制信号的调制类型相对应，输出向量中的最大分量所对应的调制类型即为识别出的调制类型。

以上仅为本发明的一个具体实施例，需要说明的是，本发明并不局限于上述特定实施方式，本领域技术人员可以在权利要求范围内做出各种变形或修改，这并不影响本发明的实质内容，但这些基于本发明思想的改进仍属于本发明的权利要求保护之列。

Claims (5)

1.一种基于课程学习的调制信号识别方法，其特征在于，包括如下：

(1)获取训练的调制信号采样序列和标记：

(1a)通过仿真产生码元序列，对码元序列进行调制后添加高斯白噪声得到训练的调制信号；

(1b)对训练的调制信号进行采样，得到采样序列，并根据调制类型的不同将采样序列分别标记为1，2，…，n，n为待识别的调制信号总类别；

(2)采样序列预处理：

(2a)对采样序列进行归一化处理，并将归一化的采样序列平局划分为多个短序列；

(2b)将这些短序列依次并行排列得到二维数据矩阵，再将二维数据矩阵转换为灰度图；

(2c)将得到的灰度图及对应的标签按照8:2的比例分为训练集和测试集；

(2d)对训练集进行扩充，得到一组低信噪比样本比重逐渐增加的训练集C₁，C₂，…，C_i，…，C_K，其中C_i是第i个训练集包含多种信噪比样本，i＝1，2，…，K，K为信噪比种类数，第一个训练集C₁中的样本全为最高信噪比样本，第K个训练集C_K包含所有种类的信噪比样本且每种样本比重相等；对训练集进行扩充，是先将(2c)得到的训练集所包含的每种调制信号的每种信噪比样本个数设为s，构建包含样本全为最高信噪比样本的第一个训练集C₁，大小与(2c)得到的训练集相同；用n×s个次高的信噪比样本替换第一个训练集C₁中的n×s个最高信噪比样本，获得第二个训练集C₂；再用n×s个第三高的信噪比样本替换第二个训练集C₂中的n×s个最高信噪比样本，获得第三个训练集C₃；以此类推，直到用n×s个最低的信噪比样本替换第K-1个训练集C_K-1中的n×s个最高信噪比样本，获得最后一个训练集C_K，最终得到一组低信噪比样本比重逐渐增加的扩充后的训练集C₁，C₂，…，C_i，…，C_K；

(3)构建依次包含1个卷积层、1个最大池化层、33个残差块、1个平均池化层和1个全连接层的深度残差网络N；

(4)利用课程学习的训练策略对深度残差网络N进行训练：

(4a)使用(2d)得到的第一个训练集C₁对深度残差网络N进行训练，循环1000次后得到初次训练后的网络N₁；

(4b)使用(2d)得到的第二个训练集C₂对初次训练后的网络N₁训练1000次，得到二次训练后的网络N₂，以此类推，直到使用第K个训练集C_K对K-1次训练后的网络N_K-1训练1000次，得到最终训练好的网络N_K；

(5)利用训练好的网络N_K识别出待识别调制信号的类型：

(5a)将待识别的调制信号依次进行采样、归一化和二维化，并转换为灰度图；

(5b)将灰度图输入到训练好的深度残差网络N_K中，经过前向传播得到神经网络的输出向量，根据输出向量得到调制类型。

2.根据权利要求1所述的方法，其特征在于，(2a)中对采样序列进行归一化，通过如下公式进行：

其中X表示一个采样序列，X＝{x₁,x₂,···,x_m×m}，m×m为采样序列X的长度，min()和max()分别表示取最小值和取最大值函数，x_i和x′_i分别表示第i个未归一化数据和第i个归一化数据。

3.根据权利要求1所述的方法，其特征在于，(2b)中将归一化后的采样序列平局划分的多个短序列依次并行排列得到二维数据矩阵，是先将归一化后的采样序列拆分为m个长度为m的列向量，再将m个列向量依次并行排列得到大小为m×m的二维数据矩阵。

4.根据权利要求1所述的方法，其特征在于，(3)中构建的深度残差网络N，其参数如下：

所述1个卷积层，其包含64个尺寸为7×7的卷积核，用于接收得到的灰度图；

所述1个最大池化层，其池化核的大小为3×3；

所述1个平均池化层，其池化核的大小为2×2；

所述1个全连接层，其包含与待识别的调制类型总数相同的11个隐藏节点，用于输出调制类型；

所述33个残差块，其含有四种类型，分别记为a、b、c、d，每一类的每一个残差块均包含3个卷积层，3个卷积层对应卷积核的尺寸分别为1×1、3×3和1×1，其中，

第一类a有3个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为64、64和256；

第二类b有4个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为128、128和256；

第三类c有23个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为256、256和512；

第四类d有3个残差块，每一个残差块的3个卷积层对应卷积核的个数分别为512、512和1024。

5.根据权利要求1所述的方法，其特征在于，(5a)将待识别的调制信号二维化，是先将归一化后的待识别调制信号采样序列平局划分为m个长度为m的列向量，再将m个列向量依次并行排列得到大小为m×m的二维数据矩阵。

Images