CN112418014A - 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 - Google Patents
基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 Download PDFInfo
- Publication number
- CN112418014A CN112418014A CN202011238990.4A CN202011238990A CN112418014A CN 112418014 A CN112418014 A CN 112418014A CN 202011238990 A CN202011238990 A CN 202011238990A CN 112418014 A CN112418014 A CN 112418014A
- Authority
- CN
- China
- Prior art keywords
- convolution
- time
- output
- long
- gate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000015654 memory Effects 0.000 title claims abstract description 41
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 24
- 230000009466 transformation Effects 0.000 title claims abstract description 7
- 238000007781 pre-processing Methods 0.000 claims abstract description 20
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 12
- 230000007787 long-term memory Effects 0.000 claims abstract description 11
- 238000004891 communication Methods 0.000 claims abstract description 9
- 238000012545 processing Methods 0.000 claims abstract description 6
- 230000006403 short-term memory Effects 0.000 claims abstract description 6
- 210000004027 cell Anatomy 0.000 claims description 27
- 230000006870 function Effects 0.000 claims description 23
- 238000012549 training Methods 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 18
- 238000012360 testing method Methods 0.000 claims description 18
- 230000004913 activation Effects 0.000 claims description 10
- 210000002569 neuron Anatomy 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 6
- 239000013598 vector Substances 0.000 claims description 6
- 230000000694 effects Effects 0.000 claims description 5
- 239000000654 additive Substances 0.000 claims description 4
- 230000000996 additive effect Effects 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 238000013507 mapping Methods 0.000 claims description 2
- 238000000605 extraction Methods 0.000 abstract description 7
- 238000005516 engineering process Methods 0.000 abstract description 5
- 238000001914 filtration Methods 0.000 abstract description 4
- 230000000452 restraining effect Effects 0.000 abstract 1
- 238000004422 calculation algorithm Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000012706 support-vector machine Methods 0.000 description 6
- 230000036961 partial effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 238000007635 classification algorithm Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 102100033591 Calponin-2 Human genes 0.000 description 1
- 101000945403 Homo sapiens Calponin-2 Proteins 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L27/00—Modulated-carrier systems
- H04L27/0012—Modulated-carrier systems arrangements for identifying the type of modulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
- G06F2218/06—Denoising by applying a scale-space analysis, e.g. using wavelet analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Abstract
本发明公开了一种基于小波变换和卷积长短期记忆神经网络的调制信号识别方法，首先通过无线通信系统预先获取无线连续时间信号，构成数据集；其次，通过选取合理的阈值将含噪信号滤除，然后将处理后获得的小波系数利用逆小波变换进行重构，恢复出有效的信号；最后，发挥卷积神经网络对信号特征的提取能力，结合长短时记忆网络的记忆性，充分学习全局特征，进而对具有时序性的信号样本有效地分类。本发明用小波去噪预处理技术抑制输入信号的高频噪声，构建卷积长短期记忆神经网络，充分学习全局特征，进而对具有时序性的信号样本更加有效地分类；提高复杂环境下识别准确率，是一种适用于真实信道环境下的调制识别方法。
Description
技术领域
本发明属于调制信号识别技术领域，具体涉及一种基于小波变换和卷积长短期记忆神经网络(CLNN)的调制信号识别方法。
背景技术
自动调制分类是信号解调前一个非常重要的过程，有各种民用和军事用途。随着无线通信技术不断发展，无线通信系统中使用的调制方式和参数数量正在迅速增加。因此，如何准确识别调制方式的问题变得更具挑战性。典型的调制识别方法有基于决策理论方法和基于特征的方法。基于决策理论方法通过将似然比与贝叶斯标准确定的阈值进行比较来做出决定，可以得到贝叶斯意义上的最优解，尽管这种方法能够获得高准确率，但计算复杂度高，且需获取完整的先验知识，已经证明这种方法是耗时且低效的。基于特征的方法流程为：信号预处理、提取信号特征和算法分类。现有的特征提取方法包括瞬时幅度、频率和相位、高阶累计量，循环谱特征等，现有的分类算法包括决策树、支持向量机和k最近邻算法等。目前，国内外对调制信号识别做了大量的研究，虽然传统的基于特征的方法分类准确率高，但都需人工计算信号的统计量特征。现阶段人工智能网络的引入大大改善了传统方法的制约，利用神经网络进行分类可以获得较高的分类准确率，其无监督自主学习能力极强；其次神经网络对噪声数据鲁棒性和容错性较高；同时具备较优的联想能力，能逼近任意非线性关系。
发明内容
发明目的：本发明针对传统调制识别方法应用于复杂通信信道时识别准确率明显降低的问题，提出一种基于小波变换预处理和卷积长短期记忆神经网络的调制信号识别方法。
技术方案：本发明所述的一种基于小波变换预处理和卷积长短期记忆神经网络的调制信号识别方法，具体包括以下步骤：
(1)通过无线通信系统预先获取无线连续时间信号，构成数据集；
(2)对数据集进行预处理：预先设定阈值将含噪信号滤除，将处理后获得的小波系数利用逆小波变换进行重构，恢复出有效的信号，形成新的数据集；
(3)将步骤(2)获取的新的数据集分为训练集和测试集，再将训练集和测试集有序地输入构造的卷积长短时记忆神经网络中进行训练、测试；
(4)将待分类调制信号输入到分类器中进行识别分类，最后输出识别准确率。
进一步地，所述步骤(1)实现过程如下：
设y(t)为接收机接收的连续时间信号，且：
y(t)＝M(s(t))*h(t)+n(t)
式中，s(t)为待传输信号，t为时间,M为发射函数，h(t)为信道响应，n(t) 为加性噪声，*为卷积运算，在给定接收信号y(t)的情况下，调制识别的目的是为从y(t)中估计源信号s(t)而提供调制信息，从而预测M的调制类型。
进一步地，所述步骤(2)实现过程如下：
其中，λ为估计阈值，σ为噪声的标准方差，N为信号的长度，在噪声方差估计中MAD是所有高频子带小波系数幅度的中值，0.6745为高斯噪声标准方差的调整系数。
进一步地，步骤(3)所述的卷积长短时记忆神经网络有四个卷积层，第一卷积层含有256个卷积核，其大小为1*3；第二卷积层含有256个卷积核，其大小为2*3；第三、第四卷积层各含有80个卷积核，其大小都为1*3；所述第四卷积层后连接一个具有150个计算单元的LSTM层和两个全连接层；所述全连接层部分由隐藏层和输出层组成，隐藏层包含128个神经元，输出层包含11个神经元；所述输出层使用Softmax函数作为激活函数，其他卷积层和全连接层均采用整流线性单元作为激活函数。
进一步地，所述步骤(3)实现过程如下：
将步骤(2)中预处理完成的信号输入至卷积神经网络，卷积层将前一层的特征映射作为输入，并在这些输入和一组可学习滤波器之间进行二维卷积运算，然后生成一堆新的特征图并将其输入到下一层：
式中，Xm表示第m个特征映射，
表示卷积核第m行第n列权重，
表示第m行第n列的输入样本特征，bm表示与m个特征映射相对应的偏差值，* 为卷积运算；f()表示当前卷积层的激活函数；
卷积神经网络输出的特征函数输入至长短时记忆网络中，长短时记忆网络用两个门来控制单元状态c的内容，一个是遗忘门，决定了上一时刻的单元状态ct-1有多少保留到当前时刻ct；另一个是输入门，决定了当前时刻网络的输入xt有多少保存到单元状态ct；长短时记忆网络用输出门来控制单元状态ct有多少输出到长短时记忆网络的当前输出值ht；其中，遗忘门的机制如下：
ft＝σg(Wfog[ht-1,xt]+bfog)
式中，ft是遗忘门的输出，Wfog是遗忘门的权重矩阵，[ht-1,xt]表示将上一时刻长短时记忆网络的输出值ht-1与当前时刻网络的输入值xt连接成一个更长的向量，bfog是遗忘门的偏置项，σg是sigmoid函数；
输入门的机制如下：
it＝σg(Wi[ht-1,xt]+bi)
式中，it是输入门的输出，Wi是输入门的权重矩阵，bi是输入门的偏置项；
当前输入的单元状态
是根据上一次的输出和本次输入来计算的：
式中，Wc是当前输入单元状态的权重矩阵，bc是当前输入单元状态的偏置项；
当前时刻的单元状态ct，由上一次的单元状态ct-1乘以遗忘门ft，再用当前输入的单元状态
乘以输入门it，再将二者乘积的结果加和：
式中，表示哈达玛积，即按元素相乘；
长短时记忆网络关于当前的记忆
和长期的记忆ct-1组合在一起便形成了新的单元状态ct；输出门控制了长期记忆对当前输出的影响：
ot＝σg(Wo[ht-1,xt]+bo)
其中，ot为当前输出门的输出，Wo是输出门的权重矩阵，bo是输出门的偏置项；
长短时记忆网络的最终输出，是由输出门和单元状态共同决定：
ht＝ot tanh(ct)。
有益效果：与现有技术相比，本发明的有益效果：1、本发明用小波去噪预处理技术抑制输入信号的高频噪声，同时发挥卷积神经网络对信号的特征提取能力，结合长短时记忆网络的记忆性，充分学习全局特征，进而对具有时序性的信号样本更加有效地分类；2、本发明有效提高复杂环境下识别准确率，是一种适用于真实信道环境下的调制识别方法。
附图说明
图1是本发明流程图；
图2是无线通信系统结构示意图；
图3是小波去噪结构图；
图4是卷积神经网络结构图；
图5是卷积长短期记忆神经网络结构图；
图6是小波去噪预处理之前和预处理之后的部分信号波形仿真对比图；
图7是-20dB～18dB模型识别性能对比图；
图8是相同网络深度的模型收敛速率对比图；
图9是-20dB～18dB CLNN与WDP+CLNN识别性能对比图；
图10是SNR＝0dB、12dB时CLNN与WDP+CLNN混淆矩阵图；
图11是SNR＝18dB时WDP+CLNN混淆矩阵图。
具体实施方式
下面结合附图对本发明的技术方案做进一步的详细说明。
如图1所示，本发明提出一种基于小波变换和卷积长短期记忆神经网络的调制信号识别方法，首先利用小波去噪技术有效抑制信号中的高频噪声，进而提高分类效果；然后将预处理完成的信号数据集分为训练集和测试集，再将训练集和测试集有序地输入至设计的CLNN中进行训练、测试和分类。具体包括以下步骤：
步骤1：通过无线通信系统预先获取无线连续时间信号，构成数据集。
如图2所示，s(t)为待传输信号，t为时间,f为发射函数，h(t)为信道响应，n(t)为加性噪声，*为卷积运算。在给定接收信号y(t)的情况下，调制识别的目的是预测f的调制类型，为从y(t)中估计源信号s(t)提供调制信息。
无线通信系统由发射机、信道和接收机组成。设y(t)为接收机接收的连续时间信号，且：y(t)＝M(s(t))*h(t)+n(t)。式中，s(t)为待传输信号，t为时间,M为发射函数，h(t)为信道响应，n(t)为加性噪声，*为卷积运算，在给定接收信号y(t)的情况下，调制识别的目的是为从y(t)中估计源信号s(t)而提供调制信息，从而预测M的调制类型。
经过模拟真实信道干扰与噪声混杂的M(s(t))作为信号的输入，采用国际权威数据集RadioML2016.10a作为研究的输入信号。该数据集包含11种类型的调制：用于数字调制的BPSK，QPSK，8PSK，QAM16，QAM64，BFSK，CPFSK 和PAM4，以及用于模拟调制的WB-FM、AM-DSB和AM-SSB。整个数据集由 GNU radio生成128个样本的复杂时域向量，通过128个样本的矩形窗口处理，将16万个样本分割成训练数据集和测试数据集，类似于语音识别任务中的连续加窗信号。每个训练实例由128个样本组成，以2×128个向量的形式输入神经网络，实部和虚部在复杂时间样本中分离。输入数据中的标签包括信噪比真值和调制类型。样本的信噪比均匀分布在-20dB～18dB之间，间隔为2dB。
步骤2：对数据集进行预处理：预先设定阈值将含噪信号滤除，将处理后获得的小波系数利用逆小波变换进行重构，恢复出有效的信号，形成新的数据集。
如图3所示，从信号学角度看，小波去噪是一个信号滤波问题，在很大程度上小波去噪可以看成低通滤波，但由于去噪后，还能最大程度地保留信号特征，所以又优于传统低通滤波器。因此，小波去噪实际上是特征提取和低通滤波的结合。
在步骤1的RadioML2016.10a数据集中采用Donoho小波变换预处理方法，将信号通过小波变换产生不同的小波阈值，有用信号的小波阈值较大，而噪声的小波阈值较小，通过选取合理的阈值滤除含噪信号。最后将处理后获得的小波系数利用逆小波变换进行重构，恢复出有效的信号。本发明采用通用阈值(VisuShrink)处理方法，采用全局统一阈值：
其中，λ为估计阈值，σ为噪声的标准方差，N为信号的长度，在噪声方差估计中MAD是所有高频子带小波系数幅度的中值，0.6745为高斯噪声标准方差的调整系数。
步骤3：将步骤(2)获取的新的数据集分为训练集和测试集，再将训练集和测试集有序地输入构造的卷积长短时记忆神经网络中进行训练、测试。
将步骤2经过预处理完成的信号数据集分为训练集和测试集，再将训练集和测试集有序地输入至设计的CLNN中进行训练、测试和分类。如图4所示，卷积神经网络由卷积部分和全连接部分组成，卷积部分由卷积层和池化层组成。卷积层将前一层的特征映射作为输入，并在这些输入和一组可学习滤波器之间进行二维卷积运算，然后生成一堆新的特征图并将其输入到下一层，每层的输出特征为：
式中，Xm表示第m个特征映射，
表示卷积核第m行第n列权重，
表示第m行第n列的输入样本特征，bm表示与m个特征映射相对应的偏差值，* 为卷积运算；f()表示当前卷积层的激活函数，常用的非线性激活函数有 Sigmoid和Relu。卷积层的稀疏连接只允许神经元与输入体积局部区域连接，这显著减少了模型中的参数数量。这种连接模式使卷积神经网络能够接受具有更大维度的输入。池化层通常在卷积层之后插入，在不丢失特征的前提下，用以减少特征图的维度和计算复杂性，从而避免过度拟合。全连接层部分在结构上类似于人工神经网络分类器，它接收来自卷积部分的学习特征以对调制进行分类。
卷积神经网络输出的特征函数输入至长短时记忆网络中，长短时记忆网络通常用两个门来控制单元状态c的内容，一个是遗忘门(forget gate)，它决定了上一时刻的单元状态ct-1有多少保留到当前时刻ct；另一个是输入门(input gate)，它决定了当前时刻网络的输入xt有多少保存到单元状态ct。长短时记忆网络用输出门(outputgate)来控制单元状态ct有多少输出到长短时记忆网络的当前输出值ht。其中，遗忘门的机制如下：
ft＝σg(Wfog[ht-1,xt]+bfog)
式中，ft是遗忘门的输出，Wfog是遗忘门的权重矩阵，[ht-1,xt]表示将上一时刻长短时记忆网络的输出值ht-1与当前时刻网络的输入值xt连接成一个更长的向量，bfog是遗忘门的偏置项，σg是sigmoid函数；
输入门的机制如下：
it＝σg(Wi[ht-1,xt]+bi)
式中，it是输入门的输出，Wi是输入门的权重矩阵，bi是输入门的偏置项。接下来计算用于描述当前输入的单元状态
它是根据上一次的输出和本次输入来计算的：
式中，Wc是当前输入单元状态的权重矩阵，bc是当前输入单元状态的偏置项。
然后计算当前时刻的单元状态ct。它是由上一次的单元状态ct-1乘以遗忘门 ft，再用当前输入的单元状态
乘以输入门it，再将二者乘积的结果加和：
式中，表示哈达玛积，即按元素相乘。
所以，将长短时记忆网络关于当前的记忆
和长期的记忆ct-1组合在一起，形成了新的单元状态ct。由于遗忘门的控制，它可以保存很久很久之前的信息，由于输入门的控制，它又可以避免当前无关紧要的内容进入记忆。最后，输出门控制了长期记忆对当前输出的影响：
ot＝σg(Wo[ht-1,xt]+bo)
其中，ot为当前输出门的输出，Wo是输出门的权重矩阵，bo是输出门的偏置项。长短时记忆网络的最终输出，是由输出门和单元状态共同决定的：
ht＝ot tanh(ct)
设计的CLNN有四个卷积层，第一卷积层含有256个卷积核，其大小为1*3；第二卷积层含有256个卷积核，其大小为2*3；第三、第四卷积层各含有80个卷积核，其大小都为1*3；接着是一个具有150个计算单元的LSTM层和两个全连接层，如图5所示，发明的一个包含长短期内存单元的CLNN架构，CLNN 架构基于CNN2架构作了参数和体系结构的修改，在第二卷积层与全连接层之间增加了两层卷积层和LSTM，用于特征的再提取和优化梯度消失问题，提高分类准确率。全连接层部分由隐藏层和输出层组成，隐藏层包含128个神经元，输出层包含11个神经元。输出层使用Softmax函数作为激活函数，其他卷积层和全连接层均采用整流线性单元(ReLU)作为激活函数，以便于特征提取。为了避免过度拟合，使用Dropout技术，将Dropout因子设置为0.5。经大量实验测试，以上参数设置分类精度最优。
步骤4：将步骤3训练完成的信号输入到分类器中进行识别分类，最后输出识别准确率。
图6是小波去噪预处理之前，如图6(a)所示，和预处理之后，如图6(b) 所示的部分信号波形仿真对比图，信噪比分别为0dB、10dB、18dB时，将小波去噪预处理之前和预处理之后的部分信号波形进行比较。图中信号由同相分量和正交分量组成，可以看出应用小波去噪预处理技术可以将原始信号中的部分高频噪声滤除，使得波形更加平滑，进一步提高后续信号分类的准确率。
如图7所示，首先通过信噪比评估模型性能，CLNN的识别准确率优于其他模型，高信噪比下的准确度达到82.9％，是所有测试实验中最高的。相比其他实验方法，在高信噪比条件下，基于懒惰算法的kNN不适合处理大数据，由于训练样本不平衡，样本计算量大，所以识别准确性较差。支持向量机算法(SVM) 对大规模训练样本同样难以实施，因为支持向量机算法是借助二次规划来求解支持向量，而求解二次规划将涉及阶矩阵的计算(m为样本的个数)，当数目很大时该矩阵的存储和计算将耗费大量的运算内存和运算时间；同时，使用持向量机算法解决多分类问题也存在困难，经典的支持向量机算法只给出了二分类算法，而在挖掘数据样本中，要解决多分类问题需要通过多个二类支持向量机的组合来解决，因此分类效果不理想。ResNet和DenseNet网络模型可以缓解梯度消失的问题，同时促进特征重复利用。比较ResNet和DenseNet的性能可知，由于 DenseNet在网络中增加了更多的快捷连接，进一步加强了特征在整个网络中的传播，从而表现出比ResNet略好的识别性。但是当网络深度超过最优深度时，DenseNet网络的识别精度会明显下降。
如图8所示，当网络深度相同时，通过比较ResNet、CNN、Inception和CLNN 验证时的收敛速率,表明CLNN网络收敛速度快于ResNet、CNN和Inception网络，并且在整个训练过程中保持较低的验证错误。
如图9所示，将小波预处理技术和卷积长短时记忆网络相结合(WDP+CLNN) 的方法与CLNN识别方法相比较，可知WDP+CLNN网络的调制分类精度要明显高于CLNN网络。WDP+CLNN的分类精度比CLNN网络最大约有5.92％的提高，即使在低信噪比水平下，也有约1.5％精度的提高。
如图10所示，采用混淆矩阵来观察每个调制的分类精度。图中显示了具有去噪预处理的CLNN和没有去噪预处理的CLNN在信噪比为0dB和12dB时的混淆矩阵。图10(a)、图10(b)表明，在SNR＝0dB时，基于小波去噪预处理的CLNN识别率普遍高于没有加小波预处理的CLNN，并且在QPSK分类中错分成BPSK的概率降低到19％；图10(c)、图10(d)表明，在SNR＝12dB 时，QAM16的识别准确率较之前提升近26％。
图11显示了最高信噪比情况下的分类结果。混淆矩阵中除去分类准确率较高的信号外，还存在两个主要问题，即WBFM被错误分类为AM-DSB，QAM16 被错误分类为QAM64。图中列出了错误分类对精度影响的细节，有大约52％的 QAM16信号样本被错误分类为QAM64信号，大约21％的QAM64信号样本被错误分类为QAM16信号，有大约65％的WBFM信号样本被错误分类为AM-DSB 信号。QAM16和QAM64彼此错误的分类，可能是因为它们在星座图中的相似性，使得二者的差异极易受信号中小噪声的影响。WBFM信号被误分类为 AM-DSB信号，这种误差可能是由于模拟语音信号静音期造成的，在静音期中，模拟语音信号仅存在载波音。因此，期望进一步优化神经网络，通过增加网络的深度来捕获这些微小的特征差异；同时，进一步对输入信号进行预处理优化来缓解这些大的错误分类百分比。
以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (5)
1.一种基于小波变换和卷积长短时记忆神经网络的调制信号识别方法，其特征在于，包括以下步骤：
(1)通过无线通信系统预先获取无线连续时间信号，构成数据集；
(2)对数据集进行预处理：预先设定阈值将含噪信号滤除，将处理后获得的小波系数利用逆小波变换进行重构，恢复出有效的信号，形成新的数据集；
(3)将步骤(2)获取的新的数据集分为训练集和测试集，再将训练集和测试集有序地输入构造的卷积长短时记忆神经网络中进行训练、测试；
(4)将待分类调制信号输入到分类器中进行识别分类，最后输出识别准确率。
2.根据权利要求1所述的基于小波变换和卷积长短时记忆神经网络的调制信号识别方法，其特征在于，所述步骤(1)实现过程如下：
设y(t)为接收机接收的连续时间信号，且：
y(t)＝M(s(t))*h(t)+n(t)
式中，s(t)为待传输信号，t为时间,M为发射函数，h(t)为信道响应，n(t)为加性噪声，*为卷积运算，在给定接收信号y(t)的情况下，调制识别的目的是为从y(t)中估计源信号s(t)而提供调制信息，从而预测M的调制类型。
3.根据权利要求1所述的基于小波变换和卷积长短时记忆神经网络的调制信号识别方法，其特征在于，所述步骤(2)实现过程如下：
其中，λ为估计阈值，σ为噪声的标准方差，N为信号的长度，在噪声方差估计中MAD是所有高频子带小波系数幅度的中值，0.6745为高斯噪声标准方差的调整系数。
4.根据权利要求1所述的基于小波变换和卷积长短时记忆神经网络的调制信号识别方法，其特征在于，步骤(3)所述的卷积长短时记忆神经网络有四个卷积层，第一卷积层含有256个卷积核，其大小为1*3；第二卷积层含有256个卷积核，其大小为2*3；第三、第四卷积层各含有80个卷积核，其大小都为1*3；所述第四卷积层后连接一个具有150个计算单元的LSTM层和两个全连接层；所述全连接层部分由隐藏层和输出层组成，隐藏层包含128个神经元，输出层包含11个神经元；所述输出层使用Softmax函数作为激活函数，其他卷积层和全连接层均采用整流线性单元作为激活函数。
5.根据权利要求1所述的基于小波变换和卷积长短时记忆神经网络的调制信号识别方法，其特征在于，所述步骤(3)实现过程如下：
将步骤(2)中预处理完成的信号输入至卷积神经网络，卷积层将前一层的特征映射作为输入，并在这些输入和一组可学习滤波器之间进行二维卷积运算，然后生成一堆新的特征图并将其输入到下一层：
式中，Xm表示第m个特征映射，
表示卷积核第m行第n列权重，
表示第m行第n列的输入样本特征，bm表示与m个特征映射相对应的偏差值，*为卷积运算；f()表示当前卷积层的激活函数；
卷积神经网络输出的特征函数输入至长短时记忆网络中，长短时记忆网络用两个门来控制单元状态c的内容，一个是遗忘门，决定了上一时刻的单元状态ct-1有多少保留到当前时刻ct；另一个是输入门，决定了当前时刻网络的输入xt有多少保存到单元状态ct；长短时记忆网络用输出门来控制单元状态ct有多少输出到长短时记忆网络的当前输出值ht；其中，遗忘门的机制如下：
ft＝σg(Wfog[ht-1,xt]+bfog)
式中，ft是遗忘门的输出，Wfog是遗忘门的权重矩阵，[ht-1,xt]表示将上一时刻长短时记忆网络的输出值ht-1与当前时刻网络的输入值xt连接成一个更长的向量，bfog是遗忘门的偏置项，σg是sigmoid函数；
输入门的机制如下：
it＝σg(Wi[ht-1,xt]+bi)
式中，it是输入门的输出，Wi是输入门的权重矩阵，bi是输入门的偏置项；
当前输入的单元状态
是根据上一次的输出和本次输入来计算的：
式中，Wc是当前输入单元状态的权重矩阵，bc是当前输入单元状态的偏置项；
当前时刻的单元状态ct，由上一次的单元状态ct-1乘以遗忘门ft，再用当前输入的单元状态
乘以输入门it，再将二者乘积的结果加和：
ct＝ft ct-1+it 
式中，表示哈达玛积，即按元素相乘；
长短时记忆网络关于当前的记忆
和长期的记忆ct-1组合在一起便形成了新的单元状态ct；输出门控制了长期记忆对当前输出的影响：
ot＝σg(Wo[ht-1,xt]+bo)
其中，ot为当前输出门的输出，Wo是输出门的权重矩阵，bo是输出门的偏置项；
长短时记忆网络的最终输出，是由输出门和单元状态共同决定：
ht＝ot tanh(ct)。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011238990.4A CN112418014B (zh) | 2020-11-09 | 2020-11-09 | 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011238990.4A CN112418014B (zh) | 2020-11-09 | 2020-11-09 | 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112418014A true CN112418014A (zh) | 2021-02-26 |
| CN112418014B CN112418014B (zh) | 2023-11-17 |
Family
ID=74782178
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011238990.4A Active CN112418014B (zh) | 2020-11-09 | 2020-11-09 | 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112418014B (zh) |
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112910813A (zh) * | 2021-04-10 | 2021-06-04 | 青岛科技大学 | 基于lda-knn的水声信号自动调制识别方法 |
| CN113052013A (zh) * | 2021-03-08 | 2021-06-29 | 中国人民解放军63891部队 | 一种用于电台调制信号的射频指纹识别方法 |
| CN113112039A (zh) * | 2021-04-13 | 2021-07-13 | 合肥工业大学 | 基于时频记忆递归神经网络的主动配电系统初期故障识别方法 |
| CN113111744A (zh) * | 2021-03-29 | 2021-07-13 | 华南理工大学 | 一种基于时域短时及长时特征融合的脉纹识别方法 |
| CN113158553A (zh) * | 2021-03-25 | 2021-07-23 | 湖南师范大学 | 一种基于cnn-lstm的大地电磁信号噪声压制方法及系统 |
| CN113271272A (zh) * | 2021-05-13 | 2021-08-17 | 侯小琪 | 一种基于残差神经网络的单通道时频混叠信号盲分离方法 |
| CN113572546A (zh) * | 2021-06-16 | 2021-10-29 | 西北大学 | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 |
| CN114244456A (zh) * | 2021-12-23 | 2022-03-25 | 电子科技大学 | 一种基于生成对抗网络的无线电数据增扩与分类方法 |
| CN114301747A (zh) * | 2021-12-28 | 2022-04-08 | 杭州电子科技大学 | 一种基于svm-srnn的调制信号识别方法 |
| CN114881086A (zh) * | 2022-05-21 | 2022-08-09 | 重庆大学 | 基于注意力lstm的配对轴承智能质量识别方法 |
| CN116300867A (zh) * | 2022-12-30 | 2023-06-23 | 中电普信(北京)科技发展有限公司 | 复杂战场下对敌方无人装备运动路径的预测方法和装置 |
| CN117056708A (zh) * | 2023-10-11 | 2023-11-14 | 成都大公博创信息技术有限公司 | 一种基于多尺度特征融合和cnn-lstm的ais信号识别方法 |
| CN117131416A (zh) * | 2023-08-21 | 2023-11-28 | 四川轻化工大学 | 一种小样本调制识别方法、系统、电子设备及存储介质 |
| CN117807529A (zh) * | 2024-02-29 | 2024-04-02 | 南京工业大学 | 一种信号发生器输出信号的调制方式识别方法及系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107961007A (zh) * | 2018-01-05 | 2018-04-27 | 重庆邮电大学 | 一种结合卷积神经网络和长短时记忆网络的脑电识别方法 |
| CN110045356A (zh) * | 2019-03-14 | 2019-07-23 | 哈尔滨工程大学 | 一种双向长短时记忆神经网络水面目标识别方法 |
| CN111274395A (zh) * | 2020-01-19 | 2020-06-12 | 河海大学 | 基于卷积和长短期记忆网络的电网监控告警事件识别方法 |
-
2020
- 2020-11-09 CN CN202011238990.4A patent/CN112418014B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107961007A (zh) * | 2018-01-05 | 2018-04-27 | 重庆邮电大学 | 一种结合卷积神经网络和长短时记忆网络的脑电识别方法 |
| CN110045356A (zh) * | 2019-03-14 | 2019-07-23 | 哈尔滨工程大学 | 一种双向长短时记忆神经网络水面目标识别方法 |
| CN111274395A (zh) * | 2020-01-19 | 2020-06-12 | 河海大学 | 基于卷积和长短期记忆网络的电网监控告警事件识别方法 |
Cited By (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113052013A (zh) * | 2021-03-08 | 2021-06-29 | 中国人民解放军63891部队 | 一种用于电台调制信号的射频指纹识别方法 |
| CN113052013B (zh) * | 2021-03-08 | 2023-03-10 | 中国人民解放军63891部队 | 一种用于电台调制信号的射频指纹识别方法 |
| CN113158553A (zh) * | 2021-03-25 | 2021-07-23 | 湖南师范大学 | 一种基于cnn-lstm的大地电磁信号噪声压制方法及系统 |
| CN113111744A (zh) * | 2021-03-29 | 2021-07-13 | 华南理工大学 | 一种基于时域短时及长时特征融合的脉纹识别方法 |
| CN112910813A (zh) * | 2021-04-10 | 2021-06-04 | 青岛科技大学 | 基于lda-knn的水声信号自动调制识别方法 |
| CN113112039A (zh) * | 2021-04-13 | 2021-07-13 | 合肥工业大学 | 基于时频记忆递归神经网络的主动配电系统初期故障识别方法 |
| CN113112039B (zh) * | 2021-04-13 | 2022-11-25 | 合肥工业大学 | 基于时频记忆递归神经网络的主动配电系统初期故障识别方法 |
| CN113271272B (zh) * | 2021-05-13 | 2022-09-13 | 侯小琪 | 一种基于残差神经网络的单通道时频混叠信号盲分离方法 |
| CN113271272A (zh) * | 2021-05-13 | 2021-08-17 | 侯小琪 | 一种基于残差神经网络的单通道时频混叠信号盲分离方法 |
| CN113572546A (zh) * | 2021-06-16 | 2021-10-29 | 西北大学 | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 |
| CN113572546B (zh) * | 2021-06-16 | 2023-09-19 | 西北大学 | 一种基于CSI信号利用DenseNet网络进行人体活动识别方法 |
| CN114244456A (zh) * | 2021-12-23 | 2022-03-25 | 电子科技大学 | 一种基于生成对抗网络的无线电数据增扩与分类方法 |
| CN114244456B (zh) * | 2021-12-23 | 2023-01-24 | 电子科技大学 | 一种基于生成对抗网络的无线电数据增扩与分类方法 |
| CN114301747B (zh) * | 2021-12-28 | 2023-12-29 | 杭州电子科技大学 | 一种基于svm-srnn的调制信号识别方法 |
| CN114301747A (zh) * | 2021-12-28 | 2022-04-08 | 杭州电子科技大学 | 一种基于svm-srnn的调制信号识别方法 |
| CN114881086A (zh) * | 2022-05-21 | 2022-08-09 | 重庆大学 | 基于注意力lstm的配对轴承智能质量识别方法 |
| CN114881086B (zh) * | 2022-05-21 | 2023-08-11 | 重庆大学 | 基于注意力lstm的配对轴承智能质量识别方法 |
| CN116300867A (zh) * | 2022-12-30 | 2023-06-23 | 中电普信(北京)科技发展有限公司 | 复杂战场下对敌方无人装备运动路径的预测方法和装置 |
| CN117131416A (zh) * | 2023-08-21 | 2023-11-28 | 四川轻化工大学 | 一种小样本调制识别方法、系统、电子设备及存储介质 |
| CN117056708A (zh) * | 2023-10-11 | 2023-11-14 | 成都大公博创信息技术有限公司 | 一种基于多尺度特征融合和cnn-lstm的ais信号识别方法 |
| CN117807529A (zh) * | 2024-02-29 | 2024-04-02 | 南京工业大学 | 一种信号发生器输出信号的调制方式识别方法及系统 |
| CN117807529B (zh) * | 2024-02-29 | 2024-05-07 | 南京工业大学 | 一种信号发生器输出信号的调制方式识别方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112418014B (zh) | 2023-11-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112418014B (zh) | 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法 | |
| Zaknich | Introduction to the modified probabilistic neural network for general signal processing applications | |
| CN109657604B (zh) | 基于循环神经网络的卫星幅相信号识别解调方法及装置 | |
| Chen et al. | Automatic modulation classification scheme based on LSTM with random erasing and attention mechanism | |
| Wang et al. | Modulation classification of underwater communication with deep learning network | |
| Emam et al. | A comparative study between CNN, LSTM, and CLDNN models in the context of radio modulation classification | |
| CN114881092A (zh) | 一种基于特征融合的信号调制识别方法 | |
| CN112910812B (zh) | 一种基于时空特征提取深度学习的调制模式识别方法 | |
| Jeong et al. | Spectrogram-based automatic modulation recognition using convolutional neural network | |
| Wu et al. | Automatic modulation classification based on deep learning for software-defined radio | |
| CN111723701A (zh) | 一种水中目标识别方法 | |
| CN111612130B (zh) | 一种频移键控通信信号调制方式识别方法 | |
| Mirmohammadsadeghi et al. | Modulation classification using convolutional neural networks and spatial transformer networks | |
| Ali et al. | ${k} $-Sparse autoencoder-based automatic modulation classification with low complexity | |
| CN115982613A (zh) | 一种基于改进卷积神经网络的信号调制识别系统及方法 | |
| Zhang et al. | A deep learning approach for modulation recognition | |
| CN112133323A (zh) | 一种空间结构性特征相关的无监督分类与有监督修正融合的语音分离方法 | |
| Kong et al. | Waveform recognition in multipath fading using autoencoder and CNN with Fourier synchrosqueezing transform | |
| Ali et al. | Modulation format identification using supervised learning and high-dimensional features | |
| CN114595729A (zh) | 基于残差神经网络与元学习融合的通信信号调制识别方法 | |
| CN113435276A (zh) | 一种基于对抗残差网络的水声目标识别方法 | |
| CN113076925A (zh) | 基于cnn和elm的m-qam信号调制模式识别方法 | |
| CN116405100A (zh) | 一种基于先验知识的失真信号还原方法 | |
| Cheng et al. | An Optimized Neural Network Classifier for Automatic Modulation Recognition | |
| CN115955375A (zh) | 基于cnn-gru和ca-vgg特征融合的调制信号识别方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |