CN108830308B - 一种基于信号的传统特征与深度特征融合的调制识别方法 - Google Patents

Abstract

本发明属于认知无线技术领域，公开了一种基于信号的传统特征与深度特征融合的调制识别方法，包括：基于数据层中的数据建立特征层、方法层、评估层，使知识库作为协调多层协作运行、提高分类识别性能的管理机制；将原始数据输入到知识库，知识库将相应知识分发到特征层与方法层；根据知识库的引导，提取原始信号的传统特征和深度特征并进行融合处理，选择对应的方法融合框架并训练分类模型，并通过对模型性能的分析、归纳和推理，将系统模型的参数、方法性能及其评估分析和归纳推理存入到知识库，利用知识库来引导特征层和方法层的执行；通过系统模型构建与性能评估环路不断改进系统的调制分类识别性能。

Description

一种基于信号的传统特征与深度特征融合的调制识别方法

技术领域

本发明属于信号识别技术领域，尤其涉及一种基于统计特征提取的传统特征与基于深度学习的深度特征融合的无线调制信号分类识别方法。

背景技术

目前，业内常用的现有技术是这样的：调制信号的自动识别，是一种优化频谱利用效率，识别和最小化干扰，提升无线网络认知能力的重要方法。传统的基于机器学习的调制分类识别方法，主要通过特征提取，利用支持向量机、人工神经网络等方法进行分类器的训练。但是，传统的模式分类方法通常基于人工设计的特征，经过特征提取方法得到原始数据某些方面的特征，由于人们对于数据本身认知的片面性，很难利用特征完整的表征数据本身的分布。这样，纯粹的基于人工特征提取训练的分类器就很难完全准确地对数据样本进行分类识别。

经过对现有文献的检索发现，现有技术一“A fast learning algorithm fordeep beliefnets”提出了深度置信网络，并引入了分层预训练技术，标志着深度学习的到来。现有技术二“ImageNet Classification with Deep Convolutional NeuralNetworks”在2012年的ILSVRC2012竞赛中，训练了一个大型的深度学习模型AlexNet，击败了Google团队并取得了该竞赛的冠军。之后，深度学习在目标检测、语音识别、机器翻译等不同领域中得到了广泛的应用，并极大地提升了这些任务上的最佳性能。

经过检索还发现，现有技术三“Convolutional Radio Modulation Recognition”第一次将卷积神经网络引入调制分类识别，证明了可以基本的卷积神经网络框架对原始的调制信号进行有效识别，并且在低信噪比条件下的识别准确率优于很多传统的基于门限的方法或者是基于统计机器学习的方法。从此，深度学习在调制分类识别领域也得到了人们的广泛关注。现有技术四“Deep learning-based automated modulation classificationfor cognitive radio”的方法，将DBN引入到调制分类识别，在多径信道下，信噪比在0dB以上时检测准确率达到90％以上，分类准确率达到85％以上。现有技术五“AutomaticModulation ClassificationUsing Deep Learning Based on Sparse AutoencodersWithNonnegativity Constraints”提出了一种基于非负约束自编码器的自动调制分类的方法，相较于传统的稀疏编码，该方法提高了稀疏性并使重构误差最小，在有限的信号长度和衰落信道条件下具有较高的准确率。

综上所述，现有技术存在的问题是：

(1)对于传统的调制分类识别方法而言，传统的调制识别是基于专家特征的提取，并训练机器学习模型或利用判决门限的方法来进行分类识别，所以特征的选择与提取便成为了影响系统性能的重要因素，而特征选择容易受特征选择的影响；

(2)现有的深度学习的方法主要从网络应用的层面对深度学习的既有方法进行不同领域的迁移应用，并没有对网络结构层面或特征层面进行创新；

(3)现有方法在应用深度学习方法的同时，都没有使用过去几十年以来传统调制分类识别所利用的特征。

解决上述技术问题的难度和意义：

上述技术主要存在的问题有以下几点：知识库中知识的表述与推理是构建知识库最难的点；深度特征选取时网络结构的选择具有随机性，很难找到一个局部或者全局极小的网络结构；传统特征的选择具有一定的随机性，很难对传统特征与深度特征进行解耦，判定哪些特征与深度特征进行融合可以获得好的效果。本发明的研究意义在于：可以提高调制系统识别的准确率和鲁棒性；为传统的调制分类识别与最新的深度学习技术之间的融合，在调制分类识别领域提供了一种新的思路；促进深度学习在认知无线领域的应用和发展。

发明内容

针对现有技术存在的问题，本发明提供了一种基于信号的传统特征与深度特征融合的调制识别方法。

本发明是这样实现的，一种基于信号的传统特征与深度特征融合的调制识别方法，所述一种基于信号的传统特征与深度特征融合的调制识别方法包括：

步骤1，基于数据层中的数据建立特征层、方法层、评估层，使知识库作为协调多层协作运行、提高分类识别性能的管理机制；

步骤2，将原始数据输入到知识库，知识库将相应知识分发到特征层与方法层；

步骤3，根据知识库的引导，在特征层提取来自数据层的原始采样信号的传统特征和深度特征，并进行特征的融合处理；

步骤4，利用知识库提供的信息，在算法层选择相应的方法融合框架，并利用融合特征集训练相应框架下的分类模型；

步骤5，在评估层，通过对模型性能的分析、归纳和推理，将系统模型的参数、方法性能及其评估分析和归纳推理存入到知识库，并利用知识库来引导特征层和方法层的执行。

进一步，所述步骤1中信号的传统特征，包括但不限于信号的时域特征、频域特征、高阶统计量、循环谱特性等专家特征集；信号的深度特征是指通过深度网络获得的可以表征原始信号的隐特征。

进一步，所述模型性能是指特征融合之后，本发明所提方法的分类的准确率以及鲁棒性。

进一步，所述知识库是一系列的规则集，其中的规则是指：针对特定的原始信号结构，特征层选择特定的传统特征组合、特定的深度网络框架，方法层选择特定的调制识别方法，系统能够达到怎样的性能以及方法参数改变可能产生的影响。

进一步，所述步骤4中融合框架是指利用融合特征集进行调制分类识别的一系列方法的集合，包括但不限于集成树方法、支持向量机方法、线性回归方法、深度神经网络的方法等。

进一步，所述步骤2中数据上传与知识分发需要执行如下步骤：

步骤(2.1)：将数据层的原始信号上传至知识库，知识库分析信号的基本特性；

步骤(2.2)：知识库根据信号的基本特性进行内部的知识检索，将相应的知识分发到方法层与特征层。

进一步，所述步骤3中特征提取和特征融合需执行如下步骤：

步骤(3.1)：根据知识库提供的信息，从信号特征提取的方法库中选择特定的特征提取方法，提取信号的传统特征，获得传统特征集；

步骤(3.2)：根据知识库提供的信息，构建用于深度特征提取的深度网络，并使用合适的优化方法进行训练，获得原始信号具有类区分度的隐层特征，作为原始信号的深度特征集；

步骤(3.3)：根据知识库提供的信息，对步骤(3.1)和步骤(3.2)中所得传统特征集和深度特征集，利用特定的处理方法进行融合处理，获得融合特征集。

进一步，所述步骤(3.2)中的深度特征提取的深度网络，包括但不限于自编码器、深度前馈网络、深度置信网络、卷积神经网络、循环神经网络等一系列方法。

进一步，所述步骤(3.3)中传统特征与深度特征的融合处理方法，是指利用的特定的方法将不同形式、不同尺度、不同性质的特征组合在一起，融合算法包括但不限于标准化、one-hot编码、Batch-Normalization等一系列特征处理方法。

进一步，所述步骤5中方法评估需执行如下步骤：

步骤(5.1)：分析算法的分类性能相较于传统算法的变化；

步骤(5.2)：将此时数据层、特征层、算法层以及评估层的信息保存到知识库；

步骤(5.3)：对知识库进行检索，并判定当前系统的性能是否满足任务需求；如果满足，则停止执行；如未满足，则通过知识库获取构建分类系统的相关信息并分发至特征层与方法层，系统流程转移到执行环路中的步骤3。

综上所述，本发明的优点及积极效果为：相较于现有技术，本发明将传统特征与深度特征融合，通过不同的侧面来反映数据信息，提升了特征集的表征能力；相较于现有的方法，本发明的调制分类识别性能在准确率与鲁棒性等具有一定优势。

本发明在无线网络中，将传统特征与深度特征张成的融合特征空间作为分类模型的特征空间，通过评估层的性能评估来引导特征层中的传统特征选择和深度特征提取，同时引导方法层中融合方法框架的选择，通过系统模型构建与性能评估环路不断改进系统的调制分类识别性能。

附图说明

图1是本发明实施例提供的一种基于信号的传统特征与深度特征融合的调制识别方法流程图。

图2是本发明实施例提供的一种基于信号的传统特征与深度特征融合的调制识别方法实现框图。

图3是本发明实施例提供的调制信号生成框图。

图4是本发明实施例提供的基于随机森林融合框架的分类模型示意图。

图5是本发明实施例提供的基于DNN融合框架的分类模型示意图。

图6是本发明实施例提供的基于Softmax融合框架的分类模型示意图。

图7是本发明实施例提供的不同融合框架下的调制分类识别准确率比较示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实例仅仅用以解释本发明，并不用于限定本发明。

本发明通过将调制分类识别的传统方法所提取的特征，与深度学习方法提取的深度特征进行融合，并通过系统的性能表现来选择相对最优的特征融合方法框架，提高调制分类识别的准确率与鲁棒性。

下面结合附图对本发明的应用原理作详细的描述。

如图1所示，本发明实施例提供的一种基于信号的传统特征与深度特征融合的调制识别方法包括以下步骤：

S101：基于数据层中的数据建立特征层、方法层、评估层，使知识库作为协调多层协作运行、提高分类识别性能的管理机制；

S102：将原始数据输入到知识库，知识库将相应知识分发到特征层与方法层；

S103：根据知识库的引导，在特征层提取来自数据层的原始采样信号的传统特征和深度特征，并进行特征的融合处理；

S104：利用知识库提供的信息，在算法层选择相应的方法融合框架，并利用融合特征集训练相应框架下的分类模型；

S105：在评估层，通过对模型性能的分析、归纳和推理，将系统模型的参数、方法性能及其评估分析和归纳推理存入到知识库，并利用知识库来引导特征层和方法层的执行。

下面结合附图对本发明的应用原理作进一步的描述。

本发明实施例提供的一种基于信号的传统特征与深度特征融合的调制识别方法包括以下步骤：

步骤一，数据层：对于调制信号，由于很难获取有准确类别标记的样本，因此本发明实施例通过仿真按照图3所示的流程生成仿真信号。

在信SMW200A信号生成器，引入调制、多径信道、滤波器、信噪比、载波频率、发射功率的等参数，构建通信系统框架，其中包括6类数字调制和1类模拟调制。这些调制方式都被广泛应用于实际的无线通信系统中，对于调制分类识别而言具备一定的代表性。这些调制类别为AM-SSB,BPSK,CPFSK,GFSK,PAM4,QAM64,QPSK。信号生成器的配置参数如表1所示：

表1：SMW200A配置参数

在射频接收端，利用FSW50频谱分析仪接收经过多径信道后的样本，并查看其星座图和功率谱密度确定采样的准确性，最后将IQ两路采样数据保存到硬盘中。并利用频谱分析仪对采样数据保存到本地，作为后续特征层的原始调制信号的训练样本。

表2：SMW200A配置参数

步骤二，特征层：对于数据层传输来的原始数据，进行传统特征和深度特征的提取，并进行特征的融合处理。整个特征层的运行过程如下：

第一步：从传统的特征方法库中选择某些特定的特征提取方法，对来自数据层的原始采样信号，进行传统特征的提取，获得传统特征集；

由于是本发明实施例的目的是验证本发明的可行性与优势，所以仅利用了两类特征：基本时频特征、高阶累积量。其中，基本时频特征包括：零中心归一化瞬时幅度谱密度的最大值、零中心归一化非弱信号瞬时幅度标准差、零中心归一化瞬时幅度绝对值的标准差、零中心归一化瞬时幅度的四阶紧致性、零中心归一化瞬时频率均值的平方与方差之比、零中心非弱信号段归一化瞬时频率绝对值的标准差；高阶累积量包括：二阶累积量、四阶累积量、六阶累积量、四阶累积量与二阶累积量之比。

第二步：基于数据层中信号的原始数据结构，构建特征提取网络，并使用合适的优化方法进行训练；

对于深度特征，本发明实施例利用经典的卷积神经网络训练，其中有包括两个卷积层和两个全连接层，并使用dropout运算，其中dropout＝0.5，激活单元使用ReLU单元，损失函数为交叉熵损失函数，使用Adam优化器进行网络的训练。

第三步：将原始数据通过训练好的特征提取网络，获得可以表征原始信号具有类区分度的隐层特征，作为原始数据的深度特征集；

由于CNN在训练时时以分类的交叉熵作为损失函数训练的，即训练好的网络可以用于调制信号的分类，所以此时得到的特征提取网络，可以提取原始样本具有类区分度的隐层特征。由于隐层的维度增加会增大训练的难度，因此本发明实施例中本发明使用隐层单元数为32的隐层维度。

第四步：对第三步中所得传统特征集和深度特征集，利用特定的处理规则，获得处理后的融合特征集。

为了减小特征值数量级对分类性能的影响，降低梯度爆炸和梯度弥散对模型的影响，本发明实施例将深度特征和传统特征进行融合处理。通过深度网络学习到的特征集为H，通过传统方法提取的特征集为F。通过特征的融合处理，得到的融合特征集则为：

Z＝{f_fuse(x)|x∈H∪F}；

其中，f_fuse(x)表示对传统特征和深度特征进行的融合处理方法。本发明实施例中，对于特定的batch：β＝{x₁,x₂,...,x_m},x_i∈Z，数据在流向方法层之前，对其进行批归一化处理：

其中

表示融合方法的第i个输入单元，

表示该单元batch样本输入的均值，

表示该单元batch样本输入的标准差，ε是为了防止除数为0而增加的偏移值，本发明实施例中取其值为0:001。

步骤三，方法层：建立一个方法层，选择合适的特征融合方法框架，并利用来自特征层的融合特征集进行训练，获得系统的分类模型。

对于本层的融合方法框架在本发明实施例中，本发明使用了三种方式：基于随机森林的融合框架、基于DNN的融合框架、基于Softmax的融合框架。

随机森林是一个基于Bagging思想的，通过随机方式建立的，包含多棵决策树的集成分类器。本发明实施例使用CART树作为基分类器，并引入样本采样和特征采样，增加了样本扰动和特征扰动。基分类器的集成方法本发明实施例采用了投票法，假设方法总共学习K个基学习器，则每个并行训练得到的基学习器为T_i，那么利用投票法所得的分类结果如下：

其中，I(T_i(x),c)∈{0，1}，若基分类器T_i将样本x预测为类别c，则I(T_i(x),c)＝1，否则I(T_i(x),c)＝0。图4展示了基于随机森林方法的特征融合框架图。

基于深度学习框架的融合方法，是基于传统特征与深度特征融合处理之后进行的，所以，本发明不需要考虑数据的量级等问题。本发明实施例通过使用DNN作为基于深度学习的融合框架。网络结构为两个卷基层之后连接两个全连接层的结构，并在卷积层后加入池化层，使用dropout降低模型的过拟合风险。整个基于DNN的特征融合框架如图5所示。

基于Softmax融合框架的方法，本质上是LR在多分类问题上的推广，其系统结构如图6所示。假设训练样本共有k个类别，则对于训练集{(x⁽¹⁾,y⁽¹⁾),...,(x^(m),y^(m))}，有y⁽¹⁾∈{1,2,...,k}。可得Softmax融合框架的损失函数：

其中，θ表示模型的参数；Ι{·}是指示函数，Ι{True}＝1，Ι{False}＝0。通过最小化J(θ)，可以得到Softmax模型。

步骤四，评估层：步骤三建立一个评估层，对模型的性能进行验证分析，并将评估分析的结果反馈至特征层与方法层，用以引导特征层中的传统特征选择、深度特征提取的网络架构设计、融合特征集的处理方法等。

第一步：分析方法的分类性能相较于纯粹的基于卷积神经网络的方法，包括但不限于分类准确率、鲁棒性；

所述的一种基于信号的传统特征与深度特征融合的调制识别方法，其使用方法在于：每次实验一种系统的方法结构并记录其性能表现，并将其作为下一次实验系统方法结构选择的引导。本发明实施例是按照此流程进行的，分别使用基于随机森林、基于卷积神经网络、基于Softmax的融合框架构建了分类系统。然而，为了表述的直观性并比较各种融合框架的性能优劣，在图7中将三次实验的方法性能和纯粹的基于卷积神经网络的模型性能比较。

通过分析各融合框架和CNN基准网络的分类性能，本发明可以发现：在高信噪比条件下，除了基于DNN融合框架的性能较差，其他三种框架的差别并不太大；基于随机森林融合框架的模型在高信噪比条件下性能相对较好一些，且曲线较平滑，分类性能较稳定，具备较强的鲁棒性；基于Softmax融合框架的模型与基准的CNN模型相差不大，性能相近。信噪比在-10dB到-2dB之间，分类准确率变化迅速，其中基于随机森林和Softmax融合框架的方法与基准的CNN网络性能提升更快一些，基于DNN融合框架的分类器性能表现最差。在低信噪比条件下，基于随机森林和CNN融合框架的方法性能相近，明显优于其它两种方法；基于Softmax融合框架的方法准确率处在四种模型的中间，但是曲线较为平滑；而基于Softmax融合框架的方法表现最差。

从图7中也可以发现，随机森林相对于其他的融合模型无论是在低信噪比还是在高信噪比性能的确具有一定优势。而对于卷积神经网络的融合模型，可以看到其性能较差，这可能是因为CNN本身拟合能力较强，而且随着网络深度增加，训练难度也会增加，泛化能力也较差，因此很难得到较好的性能。

第二步：将此时深度特征提取网络、传统特征集、特征融合处理方式、融合方法框架等系统参数，以及第一步所得结论存入到知识库；

第三步：由第一步所得结论，随机森林相对于其他的融合模型无论是在低信噪比还是在高信噪比性能的确具有一定优势，具有最优的性能。所以，作为一个验证性的实例，本发明可以结束本发明所提及的流程。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于信号的传统特征与深度特征融合的调制识别方法，其特征在于：所述一种基于信号的传统特征与深度特征融合的调制识别方法包括：

步骤1，基于数据层中的数据建立特征层、方法层、评估层，使知识库作为协调多层协作运行、提高分类识别性能的管理机制；

步骤2，将原始数据输入到知识库，知识库将相应知识分发到特征层与方法层；

步骤3，根据知识库的引导，在特征层提取来自数据层的原始采样信号的传统特征和深度特征，并进行特征的融合处理；

步骤4，利用知识库提供的信息，在算法层选择相应的方法融合框架，并利用融合特征集训练相应框架下的分类模型；所述方法融合框架使用三种方式:基于随机森林的融合框架、基于DNN的融合框架、基于Sofmax的融合框架；

步骤5，在评估层，通过对模型性能的分析、归纳和推理，将系统模型的参数、方法性能及其评估分析和归纳推理存入到知识库，并利用知识库来引导特征层和方法层的执行；

所述模型性能是指特征融合之后，所提方法的分类的准确率以及鲁棒性；

所述知识库是一系列的规则集，其中的规则是指：针对特定的原始信号结构，特征层选择特定的传统特征组合、特定的深度网络框架，方法层选择特定的调制识别方法，系统能够达到怎样的性能以及方法参数改变可能产生的影响；

所述步骤1中信号的传统特征，包括信号的时域特征、频域特征、高阶统计量、循环谱特性专家特征集；所述步骤1中信号的深度特征是指通过深度网络获得的可以表征原始信号的隐特征。

2.如权利要求1所述的一种基于信号的传统特征与深度特征融合的调制识别方法，其特征在于：所述步骤2中数据上传与知识分发需要执行如下步骤：

步骤(2.1)：将数据层的原始信号上传至知识库，知识库分析信号的基本特性；

步骤(2.2)：知识库根据信号的基本特性进行内部的知识检索，将相应的知识分发到方法层与特征层。

3.如权利要求1所述的一种基于信号的传统特征与深度特征融合的调制识别方法，其特征在于：所述步骤3中特征提取和特征融合需执行如下步骤：

步骤(3.1)：根据知识库提供的信息，从信号特征提取的方法库中选择特定的特征提取方法，提取信号的传统特征，获得传统特征集；

步骤(3.2)：根据知识库提供的信息，构建用于深度特征提取的深度网络，并使用合适的优化方法进行训练，获得表征原始信号具有类区分度的隐层特征，作为原始信号的深度特征集；

步骤(3.3)：根据知识库提供的信息，对步骤(3.1)和步骤(3.2)中所得传统特征集和深度特征集，利用特定的处理方法进行融合处理，获得融合特征集。

4.如权利要求3所述的一种基于信号的传统特征与深度特征融合的调制识别方法，其特征在于：所述步骤(3.2)中深度特征提取的深度网络，包括自编码器、深度前馈网络、深度置信网络、卷积神经网络、循环神经网络方法。

5.如权利要求3所述的一种基于信号的传统特征与深度特征融合的调制识别方法，其特征在于：所述步骤(3.3)中传统特征与深度特征的融合处理方法，是指利用的特定的方法将不同形式、不同尺度、不同性质的特征组合在一起，融合算法包括标准化、one-hot编码、Batch-Normalization特征处理方法。

6.如权利要求1所述的一种基于信号的传统特征与深度特征融合的调制识别方法，其特征在于：所述步骤5中方法评估需执行如下步骤：

步骤(5.1)：分析算法的分类性能相较于传统算法的变化；

步骤(5.2)：将此时数据层、特征层、算法层以及评估层的信息保存到知识库；

步骤(5.3)：对知识库进行检索，并判定当前系统的性能是否满足任务需求；如果满足，则停止执行；如未满足，则通过知识库获取构建分类系统的相关信息并分发至特征层与方法层，系统流程转移到执行环路中的步骤3。

Images