CN114157539A - 一种数据知识双驱动的调制智能识别方法 - Google Patents

一种数据知识双驱动的调制智能识别方法 Download PDF

Info

Publication number
CN114157539A
CN114157539A CN202210123132.8A CN202210123132A CN114157539A CN 114157539 A CN114157539 A CN 114157539A CN 202210123132 A CN202210123132 A CN 202210123132A CN 114157539 A CN114157539 A CN 114157539A
Authority
CN
China
Prior art keywords
training
network
model
attribute
modulation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210123132.8A
Other languages
English (en)
Other versions
CN114157539B (zh
Inventor
周福辉
丁锐
徐铭
张�浩
袁璐
吴启晖
董超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202210123132.8A priority Critical patent/CN114157539B/zh
Publication of CN114157539A publication Critical patent/CN114157539A/zh
Application granted granted Critical
Publication of CN114157539B publication Critical patent/CN114157539B/zh
Priority to US17/901,860 priority patent/US11700156B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L27/00—Modulated-carrier systems
    • H04L27/0012—Modulated-carrier systems arrangements for identifying the type of modulation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Digital Transmission Methods That Use Modulated Carrier Waves (AREA)

Abstract

本发明公开了一种数据知识双驱动的调制智能识别方法，其主要解决了现有调制识别方法在低信噪比下分类准确度低、依赖大量训练样本、识别过程中高阶调制方式之间容易混淆等问题。其实现步骤是：频谱数据采集；根据不同调制方式，构建对应的属性向量标签；根据不同调制方式的属性标签构建并预训练属性学习模型；构建并预训练调制方式识别视觉模型；构建特征空间转换模型，结合视觉模型和属性学习模型构建数据知识双驱动的调制方式智能识别框架；迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型；判断网络训练是否结束，输出分类结果。本发明显著提升了低信噪比下的识别准确度；降低了高阶调制方式之间的混淆。

Description

一种数据知识双驱动的调制智能识别方法
技术领域
本发明属于通信技术领域，是一种数据知识双驱动的调制智能识别方法。
背景技术
调制方式智能识别是无线智能通信中一项至关重要的技术，它通过学习接收信号的独有特征来分辨不同类型的调制信号。随着5G的逐渐普及，关于6G无线通信网络的研究已经兴起。智能通信技术作为6G通信网络的关键组成部分，亟需深入研究，其中调制方式智能识别就是其中关键技术之一。因此，开展关于调制方式智能识别的研究至关重要。同时，调制方式识别已经在军用和民用领域得到了广泛应用。在军事应用中，调制方式识别有助于恢复发射信息，产生匹配调制的干扰信号。在民事应用中，调制方式识别有助于选择正确的解调方案，保证信息的正确恢复。现有的调制方式智能识别方法可以分为两类，模型驱动的方法和数据驱动的方法。模型驱动的方法，如基于似然函数的方法，通过比较不同检验统计量的大小来判决接收信号的调制类型。但是这种方法在估计未知参数的过程中存在很高的计算复杂度，且在应对复杂动态的实际通信场景时，分类性能一般，尤其在低信噪比条件下，分类准确度很低。
数据驱动方法因其强大的特征学习能力而备受关注。Tim O’Shea, Tamoghna Roy等人在其发表的论文“Over the Air Deep Learning Based Radio SignalClassification”（IEEE J. Sel. Topics Signal Process., no. 1, pp. 168–179,2018）中提出了残差神经网络，通过带有跨越连接的残差学习，该网络能够缓解训练深度网络时的过拟合问题。但是这种庞大的网络架构在训练阶段需要耗费巨大的时间成本和计算资源。Yu Wang，Jie Yang等人在其发表的论文“LightAMC: Lightweight AutomaticModulation Classification via Deep Learning and Compressive Sensing”（IEEETrans. Veh. Technol., vol. 69, no. 3, pp. 3491–3495, 2020）中提出了一种轻量化的智能调制方式网络模型，通过减小网络规模提升了计算速度，但是在低信噪比条件下的识别性能较差。西安电子科技大学提出的专利申请“基于深度学习的调制识别方法”（申请号CN201710720483.6 申请公布号CN107547460A）中公开了一种基于深度学习的自适应调制识别方法。通过划分多个子训练集，训练不同信噪比条件下的深度网络，实现了基于信噪比的自适应调制方式识别，一定程度上提升了低信噪比下的调制识别精度，但其在低信噪比下调制识别精度提升仍然有限。
这些纯数据驱动的方法都依赖大量的训练样本，然而这在实际的复杂通信系统中难以实现。此外，目前的调制识别方法在低信噪比条件下识别准确度很低，难以在实际复杂通信网络中应用。最后，高阶调制类型之间的混淆是目前诸多调制识别方法都遇到的难题。因此，亟需开发新的调制方式智能识别方法。
发明内容
本发明针对现有调制识别技术在复杂动态的实际场景中性能较差、依赖大量训练样本、高阶调制方式之间的混淆严重这几点不足，提出了一种数据知识双驱动的调制方式智能识别方法，引入语义属性作为知识，通过转换模型将属性特征嵌入到视觉特征空间，极大提升了低信噪比下的调制识别准确率，降低了识别过程中高阶调制方式之间的混淆，而且能够减少对训练数据量的依赖。
为实现上述技术目的，发明采取的技术方案为：
一种数据知识双驱动的调制智能识别方法，包括如下步骤：
步骤（1）频谱数据采集；
步骤（2）根据不同调制方式，构建对应的属性向量标签；
步骤（3）根据不同调制方式的属性向量标签，构建并预训练属性学习模型；
步骤（4）构建并预训练调制识别视觉模型；
步骤（5）构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型；
步骤（6）迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型；
步骤（7）判断网络训练是否结束，若是，则执行步骤（8），若否，将训练迭代次数加一后继续重训练转换模型；
步骤（8）将测试集数据输入网络；
步骤（9）输出分类结果。
为优化上述技术方案，采取的具体措施还包括：
步骤（1）频谱数据采集具体为：调制分类视为一个
Figure DEST_PATH_IMAGE002AAAA
类假设检验问题，第
Figure DEST_PATH_IMAGE004_6A
次调制假设下的接收信号表示为
Figure DEST_PATH_IMAGE006AA
，其中，
Figure DEST_PATH_IMAGE008AA
表示第
Figure DEST_PATH_IMAGE004_7A
种调制方式的发射信号的第
Figure DEST_PATH_IMAGE010AAAA
个采样点，
Figure DEST_PATH_IMAGE012AAAA
表示第
Figure DEST_PATH_IMAGE004_8A
种调制方式的接收信号的第
Figure DEST_PATH_IMAGE010_5A
个采样点，
Figure DEST_PATH_IMAGE014AA
表示均值为0，方差为
Figure DEST_PATH_IMAGE016AA
的加性高斯白噪声，将接收信号表示为I/Q分量组成的向量形式，
Figure DEST_PATH_IMAGE018AA
，其中
Figure DEST_PATH_IMAGE020AA
表示
Figure DEST_PATH_IMAGE012_5A
的向量形式，
Figure DEST_PATH_IMAGE022AA
和
Figure DEST_PATH_IMAGE024AA
分别表示信号的同相和正交分量，基于I/Q信号样本，在
Figure DEST_PATH_IMAGE002_5A
类调制方式中做出判决。
步骤（2）根据不同调制方式，构建对应的属性向量标签具体为：采用二进制相位键控、四进制相位键控、十六进制正交振幅调制和六十四进制正交振幅调制四种不同的调制方法作为识别对象，以此构建六维的属性表示向量，每个维度分别表示不同的具体含义，第一个维度表示分类目标的进制数是否为二进制，第二个维度表示分类目标的进制数是否为四进制，第三个维度表示分类目标的进制数是否为十六进制，第四个维度表示分类目标的进制数是否为六十四进制，第五个维度表示分类目标是否为相位键控，第六个维度表示分类目标是否为正交振幅调制。
步骤（3）根据不同调制方式的属性向量标签，构建并预训练属性学习模型具体为：属性学习模型是对现有残差神经网络进行改造得来，残差单元由两个核大小为
Figure DEST_PATH_IMAGE026AA
的卷积层构成，批量归一化层在网络的中间层对中间数据进行标准化，最后，在每个批量归一化层后面接入线性修正单元作为激活函数为网络引入非线性，残差堆叠单元由一个
Figure DEST_PATH_IMAGE028AA
卷积层、两个残差单元模块和一个最大池化层顺序连接构建，卷积层和残差单元用来特征提取，最大池化层用来压缩特征以降低特征维度，
训练属性学习模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大时期数为50，学习率为0.001，随机梯度下降优化算法作为网络训练优化器，选用均方误差损失函数计算网络输出与真实属性标签之间的差距。
构建并预训练调制识别视觉模型具体为：视觉训练模型由一个多尺度模块、一个全局平均池化层、一个全连接层和一个分类层构成，其中多尺度模块首先利用一个核大小为
Figure DEST_PATH_IMAGE030AA
，步长为2的卷积层来降低特征维度，然后利用多个具有不同核大小的卷积层学习多维度特征，最后拼接多维度特征，在全局平均池化层之后，一个带有线性修正单元激活函数的全连接层用来降低特征维度，激活函数的表达式如下，
Figure DEST_PATH_IMAGE032AA
其中，
Figure DEST_PATH_IMAGE034AA
表示计算括号内对象的最大值，
训练视觉模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为20，学习率为0.001，Adam优化算法作为网络训练优化器，选用交叉熵损失函数计算网络输出与真实属性标签之间的差距。
步骤（5）构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型具体为：
第一个分支为视觉编码分支，通过去除视觉模型的最后一层分类层得到 ，首先将I/Q原始数据
Figure DEST_PATH_IMAGE036AAAA
输入视觉编码分支，多尺度模块负责提取输入数据的多维度特征，全局平均池化层将多维度特征进行扁平化处理，最后全连接层输出
Figure DEST_PATH_IMAGE038AA
维特征向量
Figure DEST_PATH_IMAGE040AA
，
第二个分支负责进行属性语义嵌入，由属性学习模型构成，输入原始数据
Figure DEST_PATH_IMAGE036_5A
，最后输出
Figure DEST_PATH_IMAGE042AAAA
维属性特征向量
Figure DEST_PATH_IMAGE044AA
，
最后，通过转换模型将属性特征转换到视觉特征空间，转换模型由两个带有线性修正单元激活函数的全连接层构成，首先将
Figure DEST_PATH_IMAGE042_5A
维的属性表示向量
Figure DEST_PATH_IMAGE046AA
作为输入，经过转换模型输出与视觉特征同维度的嵌入向量
Figure DEST_PATH_IMAGE048AA
，转换模型的输出表示如下，
Figure DEST_PATH_IMAGE050AA
其中，
Figure DEST_PATH_IMAGE052AA
表示第一个全连接层的权重矩阵，
Figure DEST_PATH_IMAGE054AA
表示第二个全连接层的权重矩阵，
Figure DEST_PATH_IMAGE056AA
和
Figure DEST_PATH_IMAGE058AA
分别表示两个全连接层后接的激活函数，用来给网络结构引入非线性。
步骤（6）迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型具体为：
第一步，固定预训练视觉模型和预训练属性学习模型的网络参数，
第二步，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为100，学习率为0.001，Adam优化算法作为网络训练优化器，
第三步，将训练数据分批次输入网络训练，批次大小可以调节，每个批次的训练误差反向传播从而优化网络参数，每个全连接层都有一个
Figure DEST_PATH_IMAGE060AA
参数正则化损失项，两个分支的输出通过最小二乘嵌入损失来最小化嵌入输出和视觉特征输出之间的差距，损失函数表达式如下，
Figure DEST_PATH_IMAGE062AA
其中，
Figure DEST_PATH_IMAGE064AA
表示训练样本的数量，
Figure DEST_PATH_IMAGE066AA
是两个参数正则化损失相对于嵌入损失的超参数加权，当训练数据中所有批次的数据全部反向传播完成，即为1个训练时期。
发明具有以下优点：
第一，本发明引入属性语义作为新调制识别框架的知识，相比于传统的深度学习框架，减少了对训练样本量的依赖。
第二，本发明设计的改进残差网络结构具有更低网络复杂度，在保证性能的同时，提升了网络训练速度，为实际通信场景中的实时性需求提供了保障。
第三，数据知识双驱动的网络结构能够显著提升低信噪比情况下的识别准确度。
第四，相比于传统识别方法，高阶调制方式之间的混淆得到了明显改善。
附图说明
图1是本发明的流程图；
图2是本发明的属性学习模型框架图，子图a为残差单元，子图b为残差堆叠模块，子图c为完整的属性学习模型；
图3是本发明的视觉学习模型框架图；
图4是采用本发明的数据知识双驱动总体框图；
图5是采用本发明和现有其他技术在不同信噪比条件下的分类准确率对比图；
图6是采用本发明和现有其他技术的训练收敛速度对比图；
图7是采用本发明和现有其他技术的混淆矩阵对比图，子图a为传统纯数据驱动方法的分类结果，子图b为本发明的分类结果。
具体实施方式
以下结合附图对发明的实施例作进一步详细描述。
结合附图1对本发明方法的具体步骤描述如下。
步骤1，频谱数据采集。
调制分类可以视为一个
Figure DEST_PATH_IMAGE002_6A
类假设检验问题，第
Figure DEST_PATH_IMAGE004_9A
次调制假设下的接收信号可以表示为
Figure DEST_PATH_IMAGE006AAA
。其中，
Figure DEST_PATH_IMAGE008AAA
表示第
Figure DEST_PATH_IMAGE004_10A
种调制方式的发射信号的第
Figure DEST_PATH_IMAGE010_6A
个采样点，
Figure DEST_PATH_IMAGE012_6A
表示第
Figure DEST_PATH_IMAGE004_11A
种调制方式的接收信号的第
Figure DEST_PATH_IMAGE010_7A
个采样点，
Figure DEST_PATH_IMAGE014AAA
表示均值为0，方差为
Figure DEST_PATH_IMAGE016AAA
的加性高斯白噪声。将接收信号表示为I/Q分量组成的向量形式，
Figure DEST_PATH_IMAGE018AAA
，其中
Figure DEST_PATH_IMAGE020AAA
表示
Figure DEST_PATH_IMAGE012_7A
的向量形式，
Figure DEST_PATH_IMAGE022AAA
和
Figure DEST_PATH_IMAGE024AAA
分别表示信号的同相和正交分量。基于I/Q信号样本，在
Figure DEST_PATH_IMAGE002_7A
类调制方式中做出判决。
步骤2，构建不同调制方式对应的属性向量标签。
本发明专利中采用二进制相位键控、四进制相位键控、十六进制正交振幅调制和六十四进制正交振幅调制四种不同的调制方法作为识别对象。因此构建六维的属性表示向量，每个维度分别表示不同的具体含义。第一个维度表示分类目标的进制数是否为二进制，第二个维度表示分类目标的进制数是否为四进制，第三个维度表示分类目标的进制数是否为十六进制，第四个维度表示分类目标的进制数是否为六十四进制，第五个维度表示分类目标是否为相位键控，第六个维度表示分类目标是否为正交振幅调制。
步骤3，根据不同调制方式的属性向量标签，构建并预训练属性学习模型。
本发明构建的属性学习模型是对现有残差神经网络进行改造得来的。残差单元由两个核大小为
Figure DEST_PATH_IMAGE026AAA
的卷积层构成。批量归一化层在网络的中间层对中间数据进行标准化，从而避免中间变量偏导数饱和导致的梯度消失问题。最后，在每个批量归一化层后面接入线性修正单元作为激活函数为网络引入非线性。残差堆叠单元由一个
Figure DEST_PATH_IMAGE028AAA
卷积层、两个残差单元模块和一个最大池化层顺序连接构建。卷积层和残差单元用来特征提取，最大池化层用来压缩特征以降低特征维度。完整的属性学习模型由三个残差堆叠模块、一个全局平均池化层和一个全连接层顺序连接构成。其中，全局平均池化层用来平均不同通道的输出，与传统卷积神经网络中使用的全连接层相比，全局平均池化层中没有需要训练的参数，且能够显著降低网络全局参数数量，这能够避免训练过程中的过拟合问题。
由于属性学习任务本身超越了具体的调制分类任务，因此，属性学习模型能够单独进行预训练，且训练数据不再仅仅局限于调制分类数据集。
训练属性学习模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大时期数为50，学习率为0.001，随机梯度下降（SGD）优化算法作为网络训练优化器。由于属性学习任务不同于分类任务，因此选用均方误差损失函数计算网络输出与真实属性标签之间的差距。
步骤4，构建并预训练调制识别视觉模型。
视觉训练模型由一个多尺度模块、一个全局平均池化层、一个全连接层和一个分类层构成。其中多尺度模块首先利用一个核大小为
Figure DEST_PATH_IMAGE030AAA
，步长为2的卷积层来降低特征维度，然后利用多个具有不同核大小的卷积层学习多维度特征，最后拼接多维度特征。传统网络中的全连接层被全局平均池化层代替，用来平均每个通道的输出特征。在全局平均池化层之后，一个带有线性修正单元激活函数的全连接层用来降低特征维度。激活函数的表达式如下，
Figure DEST_PATH_IMAGE032AAA
其中，
Figure DEST_PATH_IMAGE034AAA
表示计算括号内对象的最大值。因为线性修正单元激活函数能够将部分神经元的值设置为0，所以能够增加神经网络的稀疏性，降低参数之间的相互依赖，因此能够缓解训练过程中的过拟合问题。此外，与其他激活函数不同，线性修正单元激活函数不存在饱和区，因此能够改善梯度消失问题。
训练视觉模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为20，学习率为0.001，Adam优化算法作为网络训练优化器。选用交叉熵损失函数计算网络输出与真实属性标签之间的差距。
步骤5，构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型。
第一个分支为视觉编码分支，通过去除视觉模型的最后一层分类层得到。首先将I/Q原始数据
Figure DEST_PATH_IMAGE036_6A
输入视觉编码分支，多尺度模块负责提取输入数据的多维度特征，全局平均池化层将多维度特征进行扁平化处理，最后全连接层输出
Figure DEST_PATH_IMAGE038AAA
维特征向量
Figure DEST_PATH_IMAGE040AAA
。
第二个分支负责进行属性语义嵌入，由属性学习模型构成。输入原始数据
Figure DEST_PATH_IMAGE036_7A
，最后输出
Figure DEST_PATH_IMAGE042_6A
维属性特征向量
Figure DEST_PATH_IMAGE044AAA
。
最后，将视觉特征和属性特征映射至一个视觉语义联合嵌入空间，本发明选择视觉特征空间作为嵌入空间，这能够有效避免中心化问题。具体地，通过转换模型将属性特征转换到视觉特征空间。转换模型由两个带有线性修正单元激活函数的全连接层构成。首先将
Figure DEST_PATH_IMAGE042_7A
维的属性表示向量
Figure DEST_PATH_IMAGE046AAA
作为输入，经过转换模型输出与视觉特征同维度的嵌入向量
Figure DEST_PATH_IMAGE048AAA
。为了详细表述转换模型的运算过程，进一步将转换模型的输出表示如下，
Figure DEST_PATH_IMAGE050AAA
其中，
Figure DEST_PATH_IMAGE052AAA
表示第一个全连接层的权重矩阵，
Figure DEST_PATH_IMAGE054AAA
表示第二个全连接层的权重矩阵，
Figure DEST_PATH_IMAGE056AAA
和
Figure DEST_PATH_IMAGE058AAA
分别表示两个全连接层后接的激活函数，用来给网络结构引入非线性。
与传统的数据驱动架构不同，我们提出的方案构建了一个转换模型，将语义属性特征映射到视觉特征空间。属性特征知识的融合可以提高模型在低信噪比下的性能。同时，由于视觉模型和属性模型都是经过预训练的，仅有转换模型需要进行端到端训练，因此，我们提出的方案训练速度能够得到提升。属性知识的引入能够减少视觉模型对训练数据的需求。与抽象的视觉特征不同，由确定性二元变量组成的属性特征标签具有明确的物理含义。
步骤6，预训练模型参数迁移，重训练转换模型。
第一步，固定预训练视觉模型和预训练属性学习模型的网络参数。
第二步，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为100，学习率为0.001，Adam优化算法作为网络训练优化器。
第三步，将训练数据分批次输入网络训练，批次大小可以调节，每个批次的训练误差反向传播从而优化网络参数。每个全连接层都有一个
Figure DEST_PATH_IMAGE060AAA
参数正则化损失项，两个分支的输出通过最小二乘嵌入损失来最小化嵌入输出和视觉特征输出之间的差距。损失函数表达式如下，
Figure DEST_PATH_IMAGE062AAA
其中，
Figure DEST_PATH_IMAGE064AAA
表示训练样本的数量，
Figure DEST_PATH_IMAGE066AAA
是两个参数正则化损失相对于嵌入损失的超参数加权。当训练数据中所有批次的数据全部反向传播完成，即为1个训练时期。
步骤7，判断网络是否训练完成。
判断当前训练时期是否达到最大训练时期数，若是，则进行步骤8，若否，则继续进行步骤7中的训练网络。
步骤8，测试集数据输入网络。
步骤9，输出分类结果。
下面结合仿真实验对本发明的效果做进一步说明。
1、仿真条件与参数设置：
本发明的仿真实验是在Python3.6，Pytorch1.5.1的仿真平台上进行的。计算机CPU型号为因特尔酷睿i7，搭载型号为英伟达Geforce GTX 1660 SUPER的独立显卡。数据集采用公开数据集RadioML 2016.10A，数据集包含-20dB到20dB不同信噪比条件下的调制信号样本，每种调制方式有128个样本点。本发明选取二进制相移键控、四进制相移键控、十六进制正交振幅调制和六十四进制正交振幅调制四种调制方式，信噪比范围为-18dB到12dB，步长为2dB。
2、仿真内容：
附图5是采用本发明和现有技术在不同信噪比条件下的分类准确率对比图。图3中的横坐标表示不同信噪比（dB），纵坐标表示识别准确率。以五角星标示的折线表示采用本发明方法的分类准确率曲线，以圆形标示的折线表示多尺度网络在不同信噪比下的分类准确度曲线，以正三角形标示的折线表示残差网络在不同信噪比下的分类准确度曲线，以矩形标示的折线表示长短期记忆神经网络在不同信噪比下的分类准确度曲线，以倒三角标示的折线表示视觉集合组网络（VGG）在不同信噪比下的分类准确度曲线。信噪比的变化范围从-18dB到12dB。通过比较可以看出本发明的分类准确度明显高于现有的其他方法，尤其是在低信噪比情况下，优势明显。在信噪比为-18dB时，本发明的分类准确度达到了59%左右，这超过了基于大规模网络的方法大约28%的精度，超过了基于残差网络的方法大约35%的精度；在信噪比为-14dB时，本发明的分类准确度达到了77%左右，这超过了基于VGG的方法大约42%的精度，超过了基于大规模网络的方法大约47%的精度。在信噪比8dB左右，本发明方法的分类精度逐渐达到饱和，约95%左右。
附图6是采用本发明和现有技术的网络训练速度对比图。图6中横坐标表示训练时期数（次），纵坐标表示损失函数值。以五角星标示的折线表示采用本发明方法的损失函数曲线，以圆形标示的折线表示多尺度网络在不同信噪比下的损失函数曲线，以正三角形标示的折线表示残差网络在不同信噪比下的损失函数曲线，以矩形标示的折线表示长短期记忆神经网络在不同信噪比下的损失函数曲线，以倒三角标示的折线表示VGG在不同信噪比下的损失函数曲线。通过比较几种方法得到的训练速度收敛曲线，可以看出本发明方法训练速度明显快于现有的其他几种方法。本发明方法仅仅在大约8个训练时期时就完成了收敛，而多尺度网络和残差网络在大约15个训练时期时才完成收敛，VGG和长短期记忆神经网络直到20个训练时期时，损失函数依然未完全收敛。
附图7是本发明和多尺度网络的混淆矩阵对比图。横坐标表示网络输出结果，纵坐标表示真实标签，每个网格数字内表示对应分类准确度。可以看出，相比于多尺度网络，本发明方法在十六进制正交振幅调制和六十四进制正交振幅调制之间的混淆得到了明显改善。
综合上述仿真结果和分析，本发明所提出的数据知识双驱动的调制方式智能识别网络框架，能够实现比现有方法更高的分类准确度，收敛速度更快，且能够减少分类过程中高阶调制方式之间的混淆。
以上仅是发明的优选实施方式，发明的保护范围并不仅局限于上述实施例，凡属于发明思路下的技术方案均属于发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离发明原理前提下的若干改进和润饰，应视为发明的保护范围。

Claims (7)

1.一种数据知识双驱动的调制智能识别方法，其特征在于，包括如下步骤：
步骤（1）频谱数据采集；
步骤（2）根据不同调制方式，构建对应的属性向量标签；
步骤（3）根据不同调制方式的属性向量标签，构建并预训练属性学习模型；
步骤（4）构建并预训练调制识别视觉模型；
步骤（5）构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型；
步骤（6）迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型；
步骤（7）判断网络训练是否结束，若是，则执行步骤（8），若否，将训练迭代次数加一后继续重训练转换模型；
步骤（8）将测试集数据输入网络；
步骤（9）输出分类结果。
2.根据权利要求1所述的数据知识双驱动的调制智能识别方法，其特征在于，步骤（1）频谱数据采集具体为：调制分类视为一个
Figure 903378DEST_PATH_IMAGE002
类假设检验问题，第
Figure 413993DEST_PATH_IMAGE004
次调制假设下的接收信号表示为
Figure 396993DEST_PATH_IMAGE006
，其中，
Figure 884213DEST_PATH_IMAGE008
表示第
Figure 167427DEST_PATH_IMAGE004
种调制方式的发射信号的第
Figure 255468DEST_PATH_IMAGE010
个采样点，
Figure 115977DEST_PATH_IMAGE012
表示第
Figure 783719DEST_PATH_IMAGE004
种调制方式的接收信号的第
Figure 780493DEST_PATH_IMAGE010
个采样点，
Figure 242699DEST_PATH_IMAGE014
表示均值为0，方差为
Figure 262607DEST_PATH_IMAGE016
的加性高斯白噪声，将接收信号表示为I/Q分量组成的向量形式，
Figure 593095DEST_PATH_IMAGE018
，其中
Figure 585321DEST_PATH_IMAGE020
表示
Figure 844527DEST_PATH_IMAGE012
的向量形式，
Figure 554994DEST_PATH_IMAGE022
和
Figure 423593DEST_PATH_IMAGE024
分别表示信号的同相和正交分量，基于I/Q信号样本，在
Figure DEST_PATH_IMAGE025
类调制方式中做出判决。
3.根据权利要求2所述的数据知识双驱动的调制智能识别方法，其特征在于，步骤（2）根据不同调制方式，构建对应的属性向量标签具体为：采用二进制相位键控、四进制相位键控、十六进制正交振幅调制和六十四进制正交振幅调制四种不同的调制方法作为识别对象，以此构建六维的属性表示向量，每个维度分别表示不同的具体含义，第一个维度表示分类目标的进制数是否为二进制，第二个维度表示分类目标的进制数是否为四进制，第三个维度表示分类目标的进制数是否为十六进制，第四个维度表示分类目标的进制数是否为六十四进制，第五个维度表示分类目标是否为相位键控，第六个维度表示分类目标是否为正交振幅调制。
4.根据权利要求3所述的数据知识双驱动的调制智能识别方法，其特征在于，步骤（3）根据不同调制方式的属性向量标签，构建并预训练属性学习模型具体为：属性学习模型是对现有残差神经网络进行改造得来，残差单元由两个核大小为
Figure DEST_PATH_IMAGE027
的卷积层构成，批量归一化层在网络的中间层对中间数据进行标准化，最后，在每个批量归一化层后面接入线性修正单元作为激活函数为网络引入非线性，残差堆叠单元由一个
Figure DEST_PATH_IMAGE029
卷积层、两个残差单元模块和一个最大池化层顺序连接构建，卷积层和残差单元用来特征提取，最大池化层用来压缩特征以降低特征维度，
训练属性学习模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大时期数为50，学习率为0.001，随机梯度下降优化算法作为网络训练优化器，选用均方误差损失函数计算网络输出与真实属性标签之间的差距。
5.根据权利要求4所述的数据知识双驱动的调制智能识别方法，其特征在于，构建并预训练调制识别视觉模型具体为：视觉训练模型由一个多尺度模块、一个全局平均池化层、一个全连接层和一个分类层构成，其中多尺度模块首先利用一个核大小为
Figure DEST_PATH_IMAGE031
，步长为2的卷积层来降低特征维度，然后利用多个具有不同核大小的卷积层学习多维度特征，最后拼接多维度特征，在全局平均池化层之后，一个带有线性修正单元激活函数的全连接层用来降低特征维度，激活函数的表达式如下，
Figure DEST_PATH_IMAGE033
其中，
Figure DEST_PATH_IMAGE035
表示计算括号内对象的最大值，
训练视觉模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为20，学习率为0.001，Adam优化算法作为网络训练优化器，选用交叉熵损失函数计算网络输出与真实属性标签之间的差距。
6.根据权利要求5所述的数据知识双驱动的调制智能识别方法，其特征在于，步骤（5）构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型具体为：
第一个分支为视觉编码分支，通过去除视觉模型的最后一层分类层得到 ，首先将I/Q原始数据
Figure DEST_PATH_IMAGE037
输入视觉编码分支，多尺度模块负责提取输入数据的多维度特征，全局平均池化层将多维度特征进行扁平化处理，最后全连接层输出
Figure DEST_PATH_IMAGE039
维特征向量
Figure DEST_PATH_IMAGE041
，
第二个分支负责进行属性语义嵌入，由属性学习模型构成，输入原始数据
Figure 820726DEST_PATH_IMAGE037
，最后输出
Figure DEST_PATH_IMAGE043
维属性特征向量
Figure DEST_PATH_IMAGE045
，
最后，通过转换模型将属性特征转换到视觉特征空间，转换模型由两个带有线性修正单元激活函数的全连接层构成，首先将
Figure 483788DEST_PATH_IMAGE046
维的属性表示向量
Figure 681551DEST_PATH_IMAGE048
作为输入，经过转换模型输出与视觉特征同维度的嵌入向量
Figure 353841DEST_PATH_IMAGE050
，转换模型的输出表示如下，
Figure 55081DEST_PATH_IMAGE052
其中，
Figure 921668DEST_PATH_IMAGE054
表示第一个全连接层的权重矩阵，
Figure 341148DEST_PATH_IMAGE056
表示第二个全连接层的权重矩阵，
Figure 489233DEST_PATH_IMAGE058
和
Figure 169613DEST_PATH_IMAGE060
分别表示两个全连接层后接的激活函数，用来给网络结构引入非线性。
7.根据权利要求6所述的数据知识双驱动的调制智能识别方法，其特征在于，步骤（6）迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型具体为：
第一步，固定预训练视觉模型和预训练属性学习模型的网络参数，
第二步，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为100，学习率为0.001，Adam优化算法作为网络训练优化器，
第三步，将训练数据分批次输入网络训练，批次大小可以调节，每个批次的训练误差反向传播从而优化网络参数，每个全连接层都有一个
Figure 581002DEST_PATH_IMAGE062
参数正则化损失项，两个分支的输出通过最小二乘嵌入损失来最小化嵌入输出和视觉特征输出之间的差距，损失函数表达式如下，
Figure 612412DEST_PATH_IMAGE064
其中，
Figure 501871DEST_PATH_IMAGE066
表示训练样本的数量，
Figure DEST_PATH_IMAGE068
是两个参数正则化损失相对于嵌入损失的超参数加权，当训练数据中所有批次的数据全部反向传播完成，即为1个训练时期。
CN202210123132.8A 2022-02-10 2022-02-10 一种数据知识双驱动的调制智能识别方法 Active CN114157539B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202210123132.8A CN114157539B (zh) 2022-02-10 2022-02-10 一种数据知识双驱动的调制智能识别方法
US17/901,860 US11700156B1 (en) 2022-02-10 2022-09-02 Intelligent data and knowledge-driven method for modulation recognition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210123132.8A CN114157539B (zh) 2022-02-10 2022-02-10 一种数据知识双驱动的调制智能识别方法

Publications (2)

Publication Number Publication Date
CN114157539A true CN114157539A (zh) 2022-03-08
CN114157539B CN114157539B (zh) 2022-05-10

Family

ID=80450147

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210123132.8A Active CN114157539B (zh) 2022-02-10 2022-02-10 一种数据知识双驱动的调制智能识别方法

Country Status (2)

Country Link
US (1) US11700156B1 (zh)
CN (1) CN114157539B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115631326A (zh) * 2022-08-15 2023-01-20 无锡东如科技有限公司 一种智能机器人的知识驱动3d视觉检测方法
CN116112932A (zh) * 2023-02-20 2023-05-12 南京航空航天大学 一种数据知识双驱动的射频指纹识别方法与系统

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116760674B (zh) * 2023-08-11 2023-11-24 暨南大学 一种无线信号调制方式智能监测识别方法及系统
CN117978595A (zh) * 2023-11-29 2024-05-03 中国人民解放军国防科技大学 自动调制分类方法及装置、设备、计算机可读存储介质
CN117354106B (zh) * 2023-12-06 2024-03-01 中国海洋大学 基于重参数因果卷积网络的通信信号调制识别方法与系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6849855B1 (en) * 1991-10-09 2005-02-01 Raytheon Company Method for marking and identifying objects coated with up-conversion material
CN107944366A (zh) * 2017-11-16 2018-04-20 山东财经大学 一种基于属性学习的手指静脉识别方法及装置
CN110309854A (zh) * 2019-05-21 2019-10-08 北京邮电大学 一种信号调制方式识别方法及装置
CN111935043A (zh) * 2020-08-05 2020-11-13 四川大学 基于相位统计图的调相信号调制方式的识别方法
CN113259288A (zh) * 2021-05-05 2021-08-13 青岛科技大学 基于特征融合与轻量化混合神经网络的水声通信调制方式识别方法
CN113269077A (zh) * 2021-05-19 2021-08-17 青岛科技大学 基于改进门控网络和残差网络的水声通信信号调制方式识别方法
CN113537306A (zh) * 2021-06-29 2021-10-22 复旦大学 一种基于渐进式成长元学习的图像分类方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6993440B2 (en) * 2002-04-22 2006-01-31 Harris Corporation System and method for waveform classification and characterization using multidimensional higher-order statistics
US7171161B2 (en) * 2002-07-30 2007-01-30 Cognio, Inc. System and method for classifying signals using timing templates, power templates and other techniques
US10296831B2 (en) * 2017-05-03 2019-05-21 Virginia Tech Intellectual Properties, Inc. Learning radio signals using radio signal transformers
CN107547460A (zh) 2017-08-21 2018-01-05 西安电子科技大学 基于深度学习的无线通信调制信号识别方法
US11374947B2 (en) * 2019-02-01 2022-06-28 Skycope Technologies, Inc. Wireless threat detection device, system, and methods to detect signals in wideband RF systems and localize related time and frequency information based on deep learning
KR102593754B1 (ko) * 2020-11-11 2023-10-26 부산대학교 산학협력단 이미지 분류 모델의 학습 방법 및 이미지 분류 모델의 학습 시스템

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6849855B1 (en) * 1991-10-09 2005-02-01 Raytheon Company Method for marking and identifying objects coated with up-conversion material
CN107944366A (zh) * 2017-11-16 2018-04-20 山东财经大学 一种基于属性学习的手指静脉识别方法及装置
CN110309854A (zh) * 2019-05-21 2019-10-08 北京邮电大学 一种信号调制方式识别方法及装置
CN111935043A (zh) * 2020-08-05 2020-11-13 四川大学 基于相位统计图的调相信号调制方式的识别方法
CN113259288A (zh) * 2021-05-05 2021-08-13 青岛科技大学 基于特征融合与轻量化混合神经网络的水声通信调制方式识别方法
CN113269077A (zh) * 2021-05-19 2021-08-17 青岛科技大学 基于改进门控网络和残差网络的水声通信信号调制方式识别方法
CN113537306A (zh) * 2021-06-29 2021-10-22 复旦大学 一种基于渐进式成长元学习的图像分类方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HAO ZHANG等: ""Automatic Modulation Classification Using Involution Enabled Residual Networks"", 《IEEE WIRELESS COMMUNICATIONS LETTERS》 *
王飞扬: ""基于深度学习的通信信号调制识别研究"", 《中国优秀硕士学位论文全文数据库（信息科技辑）》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115631326A (zh) * 2022-08-15 2023-01-20 无锡东如科技有限公司 一种智能机器人的知识驱动3d视觉检测方法
CN115631326B (zh) * 2022-08-15 2023-10-31 无锡东如科技有限公司 一种智能机器人的知识驱动3d视觉检测方法
CN116112932A (zh) * 2023-02-20 2023-05-12 南京航空航天大学 一种数据知识双驱动的射频指纹识别方法与系统
CN116112932B (zh) * 2023-02-20 2023-11-10 南京航空航天大学 一种数据知识双驱动的射频指纹识别方法与系统

Also Published As

Publication number Publication date
CN114157539B (zh) 2022-05-10
US11700156B1 (en) 2023-07-11

Similar Documents

Publication Publication Date Title
CN114157539B (zh) 一种数据知识双驱动的调制智能识别方法
CN114842264B (zh) 一种基于多尺度空谱特征联合学习的高光谱图像分类方法
CN114881092A (zh) 一种基于特征融合的信号调制识别方法
CN113488060B (zh) 一种基于变分信息瓶颈的声纹识别方法及系统
CN111540367A (zh) 语音特征提取方法、装置、电子设备和存储介质
CN113971440B (zh) 一种基于深度聚类的无监督雷达信号分选方法
CN113541834B (zh) 一种异常信号半监督分类方法、系统、数据处理终端
CN114912486A (zh) 一种基于轻量化网络的调制方式智能识别方法
CN116127298B (zh) 基于三元组损失的小样本射频指纹识别方法
CN114980122A (zh) 一种小样本射频指纹智能识别系统与方法
CN114239657A (zh) 一种基于复值干涉神经网络的时序信号识别方法
CN112232395A (zh) 一种基于联合训练生成对抗网络的半监督图像分类方法
CN114463340A (zh) 一种边缘信息引导的敏捷型遥感图像语义分割方法
CN113902095A (zh) 一种无线通信自动调制识别方法、装置与系统
CN113537306A (zh) 一种基于渐进式成长元学习的图像分类方法
CN117034030A (zh) 基于正反双向信息融合的脑电图数据对齐算法
CN116894207A (zh) 一种基于Swin Transformer和迁移学习的智能辐射源识别方法
CN111401263A (zh) 一种融合专家知识的优效组合式调制识别方法
CN115883301A (zh) 基于样本回想增量学习的信号调制分类模型及学习方法
CN115329821A (zh) 一种基于配对编码网络和对比学习的舰船噪声识别方法
CN111639751A (zh) 一种用于二值卷积神经网络的非零填补训练方法
CN113723456B (zh) 一种基于无监督机器学习的天文图像自动化分类方法及系统
CN114548146B (zh) 一种基于多任务网络的调制信号分类与带宽估计方法
CN117714244B (zh) 基于神经网络的无线信号重建方法、装置、接收机及系统
CN117395112A (zh) 一种信号调制格式识别方法、系统、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant