CN113094993B - 基于自编码神经网络的调制信号去噪方法 - Google Patents

基于自编码神经网络的调制信号去噪方法 Download PDF

Info

Publication number
CN113094993B
CN113094993B CN202110386948.5A CN202110386948A CN113094993B CN 113094993 B CN113094993 B CN 113094993B CN 202110386948 A CN202110386948 A CN 202110386948A CN 113094993 B CN113094993 B CN 113094993B
Authority
CN
China
Prior art keywords
layer
convolution
modulation signal
denoising
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110386948.5A
Other languages
English (en)
Other versions
CN113094993A (zh
Inventor
李建清
李红丽
张瑾
莫尊胤
黄浩
王姣
王宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202110386948.5A priority Critical patent/CN113094993B/zh
Publication of CN113094993A publication Critical patent/CN113094993A/zh
Application granted granted Critical
Publication of CN113094993B publication Critical patent/CN113094993B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L27/00Modulated-carrier systems
    • H04L27/0012Modulated-carrier systems arrangements for identifying the type of modulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Digital Transmission Methods That Use Modulated Carrier Waves (AREA)

Abstract

本发明公开了一种基于自编码神经网络的调制信号去噪方法,包括以下步骤:步骤1、采用MATLAB仿真软件模拟一般通信链路结构,生成各类通信调制信号的带噪样本数据集和纯净样本数据集;步骤2、对各样本集进行[0,1]归一化;步骤3、构建基于自编码神经网络的调制信号去噪自动编码器并设置超参数;步骤4、训练去噪模型,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,得到去噪模型。本发明使用了基于自编码神经网络的去噪网络模型,避免了传统调制信号去噪算法中对信号复杂的预处理过程,整体结构流程较简单,网络计算量较小,去噪速度较快。

Description

基于自编码神经网络的调制信号去噪方法
技术领域
本发明属于通信信号处理技术领域,特别涉及一种基于自编码神经网络的调制信号去噪方法。
背景技术
通信信号的调制识别技术是实现信号检测、解调的关键步骤和基础环节,在频谱感知、电子对抗和防御等领域具有广泛的应用。近年来,基于特征的自动调制识别技术取得了较大的进展,比如基于瞬时特征、高阶累计量、循环谱技术、时频分析、小波变换等方法,这些方法通常采用带噪调制信号作为样本集,需要设计复杂的算法来提取特征量,而这些特征量往往受信号中噪声信息的影响,特别是在低信噪比环境下,调制信号会受到严重干扰,在进行特征提取时,并不能对各类调制信号起到很好的识别分类效果。
先将带噪的调制信号进行去噪处理,再利用去噪后的调制特征信息做调制识别分类,可有效增强调制识别的分类效果。基于这种想法,本发明提出了一种基于自编码神经网络的调制信号去噪方法,主要用于对带噪调制信号进行去噪处理。由于自编码神经网络对一维数据具有良好的表征能力,且结构简单、计算量较小,将其作为带噪调制信号的去噪模型,可具有较好的去噪效果。不同信噪比环境下的调制信号都携带着有用的特征信息,将带噪调制信号特征作为自编码神经网络的输入,将干净调制信号特征作为标签,利用反向传播算法和梯度下降法,优化更新自编码模型中参数的取值,使得参数满足一个从带噪调制信号到干净调制信号的映射,从而实现调制信号的去噪功能。
在现有的调制信号去噪方法中,主要是小波去噪方法、小波阈值去噪方法。基于自编码神经网络的方法用于数据去噪的应用不少,但目前在调制信号去噪中应用很少。
西北工业大学在其申请的专利文献“基于自编码神经网络的水声信号去噪方法”(申请号202010180738.6,申请公布号CN 111401236 A)公开了一种基于自编码神经网络的水声信号去噪方法。该发明对带噪水声信号提取相位特征信息,对信号进行分帧加窗处理,对每一帧采用短时傅里叶变换,再对相邻两帧频谱进行50%重叠,提取出相位信息特征后输入自编码进行训练,得到激活函数模型,该自编码网络每一层的激活函数选取sigmoid函数,由该模型来实现带噪声水声信号样本的去噪功能。该方法虽然提出了一种基于自编码神经网络的去噪算法,但是对数据的预处理阶段非常复杂,这在很大程度上降低了模型的去噪速度,在对去噪速度要求较高时并不适用。并且该自编码网络只提取水声信号的相位信息特征,很可能导致特征丢失较多。
中国工程物理研究院计算机应用研究所在其申请的专利文献“一种基于深度学习的脉冲波形去噪方法”(申请号202011093353.2,申请公布号CN 112149617 A)公开了一种基于深度学习的脉冲波形去噪方法。该发明的数据集是利用数值方法模拟幅频效应来生成,共生成2000对无调制噪音和含有调制噪音的随机脉冲波形数据,其去噪模型为基于一维U-Net模型的深度神经网络,该神经网络由11个卷积层、4个上采样层、4个最大池化层、拼接层等组成。该损失函数包括两个部分,分别是绝对值损失和全变差值损失,目的是减小计算误差,加快模型训练速度,同时去除波形毛刺,确保波形平滑。该方法虽然提出了一种调制信号的去噪方法,但是该方法仍然存在的不足之处:训练数据仅包含单脉冲波形,且脉宽仅包含2至3ns,未涵盖实际多种调制方式下调制信号的各种复杂情况,对于实际复杂多变情况下的调制信号并不能说明达到了很好的效果。
发明内容
本发明的目的在于克服现有技术的不足,提供一种结构简单,对调制信号具有良好的表征能力,能自动提取多种调制类型和不同信噪比环境下的调制信号时域幅度特征的基于自编码神经网络的调制信号去噪方法,只需将待测调制信号输入该模型即可实现降噪,具有复杂度低、去噪效果优良、稳定的优点。
本发明的目的是通过以下技术方案来实现的:基于自编码神经网络的调制信号去噪方法,包括以下步骤:
步骤1、采用MATLAB仿真软件模拟一般通信链路结构,生成各类通信调制信号的带噪样本数据集和纯净样本数据集;
步骤2、对各样本集进行[0,1]归一化;
步骤3、构建基于自编码神经网络的调制信号去噪自动编码器并设置超参数;
步骤4、训练去噪模型,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,得到去噪模型。
进一步地,步骤1中生成通信调制信号样本数据集的具体方法为:利用MATLAB模拟生成通信调制信号样本数据集时,设置每种调制信号的采样频率fs为93.3kHz,载波频率fc为fs/4,码元速率为4-24kHz,所加噪声为高斯白噪声,每个样本长度为40000个比特,将带噪信号和纯净信号保存在同一样本文件中,其中前20000个比特为纯净的无噪信号,后20000个比特为不同信噪比的带噪信号;
根据通信信号的不同调制方式,生成12类调制信号,分别是2FSK、4FSK、8FSK、8PSK、8QAM、BPSK、OQPSK、16QAM、16QPSK、32QAM、32QPS、PI4QPSK,每类调制方式均包含16种信噪比,分别为0dB-15dB;每类调制信号样本包含每种信噪比均有700个,每类调制信号均生产11200个信号样本,最终得到134400个调制信号样本。
进一步地,步骤2具体实现方法为:根据归一化公式,对数据样本集中每个调制信号样本进行[0,1]归一化处理,并将所有归一化处理后的调制信号样本作为自编码神经网络的输入数据集;所述[0,1]归一化处理的公式如下:
Figure BDA0003015453280000031
其中Yi表示第i个调制信号样本归一化后的数据,Xi表示第i个调制信号样本的数据,Xmin和Xmax分别代表Xi中的最小值和最大值。
进一步地,所述步骤3具体实现方法为:基于自编码神经网络的调制信号去噪自动编码器包括特征编码器和生成解码器;
特征编码器由三个卷积层和三个池化层交替连接而成,形成串联的叠层结构,以完成逐层提取特征的任务;三个卷积层的输出节点分别设置为128、64、16;每个卷积层中添加ReLU线性整流激活函数;设置每层padding=“same”,采用打补丁的方式使每层卷积的输出长度与输入长度保持一致;池化层的大小为2,用来逐渐缩减每层卷积的输入大小,提升模型的计算速度,同时提高模型提取特征的鲁棒性;
生成解码器采用与特征编码器对称的结构,同样由三个卷积层和三个池化层交替连接而成,卷积层的输出节点分别设置为16、64、128;
所述叠层串联结构通过特征编码器对输入的一维时域带噪调制信号进行卷积操作生成时域幅度特征图,再采用池化层对特征图进行下采样,从而降低特征图维数并选择出最显著的特征;随后通过生成解码器对特征进行反卷积和上采样操作,增加特征维数至输入信号的长度,最后在解码器网络的末端连接了一个sigmoid分类器作为输出层,输出重构样本;
所述池化层均采用Max-Pooling方式,即最大池化方式;
设置所述调制信号去噪模型的超参数,将网络的学习率设为0.001的固定值;将训练时每次输入网络的样本数量batch_size设为16;每一轮迭代的最大批训练次数设为500、最大批验证次数设为100;训练的最高迭代次数设为300;初始迭代次数为1;每训练一轮,输出损失函数Loss值;
基于自编码神经网络的调制信号去噪自动编码器的结构关系如下:
第一层为输入层,可接收的输入大小设置为(20000,1)。
第二层为第一卷积层,有128个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第三层为第一池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第四层为第二卷积层,有64个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第五层为第二池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第六层为第三卷积层,有16个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第七层为第三池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第八层为第一卷积层,有16个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第九层为第一上采样层,采样核size为2;
第八层为第二卷积层,有64个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第九层为第二上采样层,采样核size为2;
第十层为第三卷积层,有128个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第十一层为第三上采样层,采样核size为2;
第十二层为输出层,采用一个一维的卷积层,有1个卷积核,卷积核大小为1x3,采用sigmoid函数作为激活函数,设置padding=“same”,输出大小为(20000,1)。
进一步地,步骤4中训练去噪模型的具体方法为:
步骤41、将带噪调制信号特征作为输入,干净调制信号特征作为标签,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,使得参数满足一个从带噪调制信号到干净调制信号的映射;
步骤42、将带噪信号y输入自编码神经网络,对不同调制信号的特征进行编码,在多个隐含层中逐层进行特征提取:
yi+1=δ(wiyi+bi)
其中,i表示对应带噪信号特征向量y所在的层数;δ表示编码器中的激活函数,本发明设置δ为非线性激活函数ReLU;wi和bi表示上一层特征向量和第i层隐藏层特征向量yi之间的权重矩阵与偏置矩阵;
特征编码器部分有三个卷积层,最后一层卷积后的高层特征为:
y4=δ(w3y3+b3);
步骤43、通过解码器进行解码并输出重构样本,解码器部分有三层卷积层进行三次重构得到重构向量,对所得高层特征y4进行重构,y4经过第一层卷积,得到第一层的重构向量:
z1=δ(w4y4+b4)
将z1输入第二层重构层,得到第二层输出的重构向量z2
z2=δ(w5z1+b5)
将z2输入第三层重构层,得到去噪模型输出的重构向量z3
z3=δ(w6z2+b6);
步骤44、根据调制信号重构样本z和目标纯净样本x的误差,设置基于自编码神经网络去噪模型的误差损失函数,再利用反向传播算法和梯度下降法优化更新神经网络中参数的取值。
本发明的有益效果是:
1、由于本发明使用了基于自编码神经网络的去噪网络模型,避免了传统调制信号去噪算法中对信号复杂的预处理过程,整体结构流程较简单,网络计算量较小,去噪速度较快。
2、所述去噪自编码神经网络模型由多个卷积层和多个池化层交替连接而成,结构简单,对调制信号具有良好的表征能力,能自动提取多种调制类型和不同信噪比环境下的调制信号时域幅度特征,只需将待测调制信号输入该模型即可实现降噪,具有复杂度低、去噪效果优良、稳定的优点。
附图说明
图1为本发明的一种基于自编码神经网络的调制信号去噪方法的流程图;
图2为本发明的自编码神经网络的模型示意图;
图3为本发明的去噪自编码神经网络模型的Loss曲线图;
图4为本发明的信噪比为5dB的4FSK信号的去噪效果图。
具体实施方式
下面结合附图进一步说明本发明的技术方案。
如图1所示,本发明的一种基于自编码神经网络的调制信号去噪方法,包括以下步骤:
步骤1、采用MATLAB仿真软件模拟一般通信链路结构,生成各类通信调制信号的带噪样本数据集和纯净样本数据集;
生成通信调制信号样本数据集的具体方法为:利用MATLAB模拟生成通信调制信号样本数据集时,设置每种调制信号的采样频率fs为93.3kHz,载波频率fc为fs/4,码元速率为4-24kHz,所加噪声为高斯白噪声,每个样本长度为40000个比特,将带噪信号和纯净信号保存在同一样本文件中,其中前20000个比特为纯净的无噪信号,后20000个比特为不同信噪比的带噪信号;
根据通信信号的不同调制方式,生成12类调制信号,分别是2FSK、4FSK、8FSK、8PSK、8QAM、BPSK、OQPSK、16QAM、16QPSK、32QAM、32QPS、PI4QPSK,每类调制方式均包含16种信噪比,分别为0dB-15dB;每类调制信号样本包含每种信噪比均有700个,因此每类调制信号均生产11200个信号样本,12类调制信号最终得到134400个调制信号样本。
本发明将调制信号样本集划分成训练样本集、验证样本集与测试样本集;具体实现方法为:从生成的信号样本集中按训练集:验证集:测试集=5:1:1的比例划分样本,分别组成训练样本集、验证样本集与测试样本集;训练样本集包含每类调制信号每种信噪比500个信号,共96000个信号样本;验证样本集与测试样本集均包含每类调制信号每种信噪比100个信号,分别有19200个信号样本。
所述训练样本集用来估计模型,验证样本集用来确定网络模型的超参数,测试样本集用来测试模型在新样本上的泛化性能。在本实施例中,验证样本集和训练样本集按5:1的比例一起输入模型,用于模型的训练。一般在训练的前几个epoch中,可以通过验证样本集及时发现模型或者参数的问题,比如模型在验证样本集上是否发散、是否出现异常(如loss无穷大、mAP不增长或者增长缓慢),这时可以及时终止训练,重新调参或者调整模型,而不需要等到训练结束。同时,验证样本集可以验证模型的泛化能力,如果在验证样本集上的效果比训练样本集上差很多,就要考虑模型是否过拟合。另外,还可以通过验证样本集对比不同模型的去噪效果。
步骤2、对各样本集进行[0,1]归一化;具体实现方法为:根据归一化公式,对数据样本集中每个调制信号样本进行[0,1]归一化处理,并将所有归一化处理后的调制信号样本作为自编码神经网络的输入数据集;所述[0,1]归一化处理的公式如下:
Figure BDA0003015453280000061
其中Yi表示第i个调制信号样本归一化后的数据,Xi表示第i个调制信号样本的数据,Xmin和Xmax分别代表Xi中的最小值和最大值。
步骤3、构建基于自编码神经网络的调制信号去噪自动编码器并设置超参数;将多个卷积层与多个池化层交替连接,形成叠层串联结构,自编码神经网络的结构如图2所示;具体实现方法为:基于自编码神经网络的调制信号去噪自动编码器包括特征编码器和生成解码器;
特征编码器由三个卷积层和三个池化层交替连接而成,形成串联的叠层结构,以完成逐层提取特征的任务;三个卷积层的输出节点分别设置为128、64、16;每个卷积层中添加ReLU线性整流激活函数;设置每层padding=“same”,采用打补丁的方式使每层卷积的输出长度与输入长度保持一致;池化层的大小为2,用来逐渐缩减每层卷积的输入大小,提升模型的计算速度,同时提高模型提取特征的鲁棒性;
生成解码器采用与特征编码器对称的结构,同样由三个卷积层和三个池化层交替连接而成,卷积层的输出节点分别设置为16、64、128;
所述叠层串联结构通过特征编码器对输入的一维时域带噪调制信号进行卷积操作生成时域幅度特征图,再采用池化层对特征图进行下采样,从而降低特征图维数并选择出最显著的特征;随后通过生成解码器对特征进行反卷积和上采样操作,增加特征维数至输入信号的长度,最后在解码器网络的末端连接了一个sigmoid分类器作为输出层,输出重构样本;
所述池化层均采用Max-Pooling方式,即最大池化方式;
设置所述调制信号去噪模型的超参数,将网络的学习率设为0.001的固定值;将训练时每次输入网络的样本数量batch_size设为16;每一轮迭代的最大批训练次数设为500、最大批验证次数设为100;训练的最高迭代次数设为300;初始迭代次数为1;每训练一轮,输出损失函数Loss值;
基于自编码神经网络的调制信号去噪自动编码器的结构关系如下:
第一层为输入层,可接收的输入大小设置为(20000,1)。
第二层为第一卷积层,有128个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第三层为第一池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第四层为第二卷积层,有64个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第五层为第二池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第六层为第三卷积层,有16个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第七层为第三池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第八层为第一卷积层,有16个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第九层为第一上采样层,采样核size为2;
第八层为第二卷积层,有64个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第九层为第二上采样层,采样核size为2;
第十层为第三卷积层,有128个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第十一层为第三上采样层,采样核size为2;
第十二层为输出层,采用一个一维的卷积层,有1个卷积核,卷积核大小为1x3,采用sigmoid函数作为激活函数,设置padding=“same”,输出大小为(20000,1)。
步骤4、训练去噪模型,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,得到去噪模型;具体方法为:
步骤41、本发明生成的每个调制信号样本长度为40000比特,其中前20000个比特为纯净的无噪信号,后20000个比特为不同信噪比的带噪信号,假设单个样本的前20000比特数据为纯净信号x,后20000比特数据为带噪信号y。将y作为训练的输入,x作为训练的标签,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,使得参数满足一个从带噪调制信号到干净调制信号的映射;
步骤42、去噪模型包括特征编码器和生成解码器,首先将带噪信号y输入自编码神经网络,对不同调制信号的特征进行编码,在多个隐含层中逐层进行特征提取:
yi+1=δ(wiyi+bi)
其中,i表示对应带噪信号特征向量y所在的层数;δ表示编码器中的激活函数,本发明设置δ为非线性激活函数ReLU;wi和bi表示上一层特征向量和第i层隐藏层特征向量yi之间的权重矩阵与偏置矩阵;
特征编码器部分有三个卷积层,最后一层卷积后的高层特征为:
y4=δ(w3y3+b3);
步骤43、通过解码器进行解码并输出重构样本,解码器部分有三层卷积层进行三次重构得到重构向量,对所得高层特征y4进行重构,y4经过第一层卷积,得到第一层的重构向量:
z1=δ(w4y4+b4)
将z1输入第二层重构层,得到第二层输出的重构向量z2
z2=δ(w5z1+b5)
将z2输入第三层重构层,得到去噪模型输出的重构向量z3
z3=δ(w6z2+b6);
步骤44、根据调制信号重构样本z和目标纯净样本x的误差,设置基于自编码神经网络去噪模型的误差损失函数,再利用反向传播算法和梯度下降法优化更新神经网络中参数的取值。本发明设置基于自编码神经网络去噪模型的误差损失函数为交叉熵,即MSE损失函数。所述去噪模型的目标是使损失函数η尽可能减小,通过Adam优化算法对损失函η进行迭代优化,以此得到表征性更好的特征。MSE损失函数的公式为:
Figure BDA0003015453280000091
步骤5、将测试样本集的带噪信号输入去噪模型的最终形式,得到测试集的loss值变化情况,分析该模型对带噪调制信号的去噪效果。
本发明具体效果通过以下测试进一步说明:
1、测试条件:
本发明的测试实验在Intel i7-6800k CPU、64G RAM、NVIDIA GTX-1080Ti GPU、Ubuntu16.04LTS系统下,Keras2.0.6与MATLAB2015b运行平台上,完成本发明中不同调制方式的样本集和基于自编码神经网络的调制信号去噪方法的仿真测试实验。
2、测试实验内容
本发明的样本集仿真实验,由MATLAB2015b产生调制信号样本,所用的调制类型为BPSK、8PSK、OQPSK、PI4QPSK、16QAM、32QAM、16APSK、32APSK、8FSK、2FSK和4FSK,一共12种,每种调制类型的信号在过信道时加入0-15dB的高斯白噪声。本发明选择的方式是将信号统一归一化为中频信号,即把载波频率和采样频率的比值固定在四分之一的定值,将采样速率定为93.3kHz。划分好数据集并进行归一化之后,将数据送入设计好的自编码神经网络进行训练,迭代300个epoch,把在验证集上面表现效果最好的模型最为最终的训练输出模型。
3、测试实验结果:
本发明对自编码神经网络模型进行去噪训练的实验结果如图3所示。图3中的横轴代表迭代次数,纵轴代表训练样本集每次训练的损失函数值train_loss与验证样本集每次训练的损失函数值val_loss。在对自编码网络模型进行去噪训练的过程中,统计每次训练结果的损失函数值,损失函数值越小代表模型的训练效果越好。由图3可见,随着迭代次数的增加损失函数值递减并最终收敛至稳定,说明测试实验的训练效果随着训练次数的增多而提高并趋于稳定,最终形式的验证集Loss值最低为0.0036,模型收敛效果较好。
将测试待去噪样本输入训练好的去噪自编码模型,可得到测试实验在信噪比0dB-15dB范围内的各类调制信号均能有较好的去噪效果。如图4所示的曲线图为信噪比为5dB信噪比情况下的16QAM调制信号,其中,(a)为时域幅度,(b)为频域功率谱。从时域和频域上皆可说明本发明基于自编码神经网络的调制信号去噪方法对调制信号的去噪功能有效可行。
以上的仿真实验说明,针对调制信号的去噪处理,本发明可以完成不同调制类型在不同信噪比环境下的去噪任务,方法有效可行。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。

Claims (4)

1.基于自编码神经网络的调制信号去噪方法,其特征在于,包括以下步骤:
步骤1、采用MATLAB仿真软件模拟一般通信链路结构,生成各类通信调制信号的带噪样本数据集和纯净样本数据集;
步骤2、对各样本集进行[0,1]归一化;
步骤3、构建基于自编码神经网络的调制信号去噪自动编码器并设置超参数;具体实现方法为:基于自编码神经网络的调制信号去噪自动编码器包括特征编码器和生成解码器;
特征编码器由三个卷积层和三个池化层交替连接而成,形成串联的叠层结构,以完成逐层提取特征的任务;三个卷积层的输出节点分别设置为128、64、16;每个卷积层中添加ReLU线性整流激活函数;设置每层padding=“same”,采用打补丁的方式使每层卷积的输出长度与输入长度保持一致;池化层的大小为2,用来逐渐缩减每层卷积的输入大小,提升模型的计算速度,同时提高模型提取特征的鲁棒性;
生成解码器采用与特征编码器对称的结构,同样由三个卷积层和三个池化层交替连接而成,卷积层的输出节点分别设置为16、64、128;
所述叠层串联结构通过特征编码器对输入的一维时域带噪调制信号进行卷积操作生成时域幅度特征图,再采用池化层对特征图进行下采样,从而降低特征图维数并选择出最显著的特征;随后通过生成解码器对特征进行反卷积和上采样操作,增加特征维数至输入信号的长度,最后在解码器网络的末端连接了一个sigmoid分类器作为输出层,输出重构样本;
所述池化层均采用Max-Pooling方式,即最大池化方式;
设置所述调制信号去噪模型的超参数,将网络的学习率设为0.001的固定值;将训练时每次输入网络的样本数量batch_size设为16;每一轮迭代的最大批训练次数设为500、最大批验证次数设为100;训练的最高迭代次数设为300;初始迭代次数为1;每训练一轮,输出损失函数Loss值;
基于自编码神经网络的调制信号去噪自动编码器的结构关系如下:
第一层为输入层,可接收的输入大小设置为(20000,1);
第二层为第一卷积层,有128个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第三层为第一池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第四层为第二卷积层,有64个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第五层为第二池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第六层为第三卷积层,有16个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第七层为第三池化层,采用Max-Pooling方式进行下采样,采样核size为2;
第八层为第一卷积层,有16个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第九层为第一上采样层,采样核size为2;
第八层为第二卷积层,有64个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第九层为第二上采样层,采样核size为2;
第十层为第三卷积层,有128个卷积核,每个卷积核的大小为1x3,卷积步长为1,采用ReLU线性整流激活函数作为激活函数,设置padding=“same”;
第十一层为第三上采样层,采样核size为2;
第十二层为输出层,采用一个一维的卷积层,有1个卷积核,卷积核大小为1x3,采用sigmoid函数作为激活函数,设置padding=“same”,输出大小为(20000,1);
步骤4、训练去噪模型,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,得到去噪模型。
2.根据权利要求1所述的基于自编码神经网络的调制信号去噪方法,其特征在于,步骤1中生成通信调制信号样本数据集的具体方法为:利用MATLAB模拟生成通信调制信号样本数据集时,设置每种调制信号的采样频率fs为93.3kHz,载波频率fc为fs/4,码元速率为4-24kHz,所加噪声为高斯白噪声,每个样本长度为40000个比特,将带噪信号和纯净信号保存在同一样本文件中,其中前20000个比特为纯净的无噪信号,后20000个比特为不同信噪比的带噪信号;
根据通信信号的不同调制方式,生成12类调制信号,分别是2FSK、4FSK、8FSK、8PSK、8QAM、BPSK、OQPSK、16QAM、16QPSK、32QAM、32QPS、PI4QPSK,每类调制方式均包含16种信噪比,分别为0dB-15dB;每类调制信号样本包含每种信噪比均有700个,每类调制信号均生产11200个信号样本,最终得到134400个调制信号样本。
3.根据权利要求1所述的基于自编码神经网络的调制信号去噪方法,其特征在于,步骤2具体实现方法为:根据归一化公式,对数据样本集中每个调制信号样本进行[0,1]归一化处理,并将所有归一化处理后的调制信号样本作为自编码神经网络的输入数据集;所述[0,1]归一化处理的公式如下:
Figure FDA0003510129700000021
其中Yi表示第i个调制信号样本归一化后的数据,Xi表示第i个调制信号样本的数据,Xmin和Xmax分别代表Xi中的最小值和最大值。
4.根据权利要求1所述的基于自编码神经网络的调制信号去噪方法,其特征在于,步骤4中训练去噪模型的具体方法为:
步骤41、将带噪调制信号特征作为输入,干净调制信号特征作为标签,利用反向传播算法和梯度下降法优化更新神经网络中参数的取值,使得参数满足一个从带噪调制信号到干净调制信号的映射;
步骤42、将带噪信号y输入自编码神经网络,对不同调制信号的特征进行编码,在多个隐含层中逐层进行特征提取:
yi+1=δ(wiyi+bi)
其中,i表示对应带噪信号特征向量y所在的层数;δ表示编码器中的激活函数,本发明设置δ为非线性激活函数ReLU;wi和bi表示上一层特征向量和第i层隐藏层特征向量yi之间的权重矩阵与偏置矩阵;
特征编码器部分有三个卷积层,最后一层卷积后的高层特征为:
y4=δ(w3y3+b3);
步骤43、通过解码器进行解码并输出重构样本,解码器部分有三层卷积层进行三次重构得到重构向量,对所得高层特征y4进行重构,y4经过第一层卷积,得到第一层的重构向量:
z1=δ(w4y4+b4)
将z1输入第二层重构层,得到第二层输出的重构向量z2
z2=δ(w5z1+b5)
将z2输入第三层重构层,得到去噪模型输出的重构向量z3
z3=δ(w6z2+b6);
步骤44、根据调制信号重构样本z和目标纯净样本x的误差,设置基于自编码神经网络去噪模型的误差损失函数,再利用反向传播算法和梯度下降法优化更新神经网络中参数的取值。
CN202110386948.5A 2021-04-12 2021-04-12 基于自编码神经网络的调制信号去噪方法 Active CN113094993B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110386948.5A CN113094993B (zh) 2021-04-12 2021-04-12 基于自编码神经网络的调制信号去噪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110386948.5A CN113094993B (zh) 2021-04-12 2021-04-12 基于自编码神经网络的调制信号去噪方法

Publications (2)

Publication Number Publication Date
CN113094993A CN113094993A (zh) 2021-07-09
CN113094993B true CN113094993B (zh) 2022-03-29

Family

ID=76676681

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110386948.5A Active CN113094993B (zh) 2021-04-12 2021-04-12 基于自编码神经网络的调制信号去噪方法

Country Status (1)

Country Link
CN (1) CN113094993B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113962260A (zh) * 2021-10-21 2022-01-21 中国人民解放军空军航空大学 一种基于去噪深度残差网络的雷达信号智能分选方法
CN114118145B (zh) * 2021-11-15 2023-04-07 北京林业大学 调制信号的降噪方法、装置、存储介质及设备
CN114169368B (zh) * 2021-11-26 2024-09-06 哈尔滨工程大学 一种基于信号降噪自编码器sde的信号降噪方法
CN114548146B (zh) * 2022-01-10 2023-04-28 电子科技大学 一种基于多任务网络的调制信号分类与带宽估计方法
CN116016064B (zh) * 2023-01-12 2024-06-28 西安电子科技大学 基于u型卷积去噪自编码器的通信信号降噪方法
CN116499607B (zh) * 2023-06-27 2023-09-08 之江实验室 一种光纤传感信号降噪方法、装置和存储介质
CN116760674B (zh) * 2023-08-11 2023-11-24 暨南大学 一种无线信号调制方式智能监测识别方法及系统
CN117743768B (zh) * 2024-02-21 2024-05-17 山东大学 基于去噪生成对抗网络和扩散模型的信号去噪方法及系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109672639A (zh) * 2019-01-22 2019-04-23 哈尔滨工业大学 一种基于机器学习的信号解调方法
CN109743275A (zh) * 2018-12-25 2019-05-10 北京信息科技大学 一种基于欠完备自编码器的信号调制识别方法
CN109858408A (zh) * 2019-01-17 2019-06-07 西安交通大学 一种基于自编码器的超声信号处理方法
CN110020684A (zh) * 2019-04-08 2019-07-16 西南石油大学 一种基于残差卷积自编码网络的图像去噪方法
CN110942100A (zh) * 2019-11-29 2020-03-31 山东大学 一种基于深度去噪神经网络的空间调制系统的工作方法
CN111401236A (zh) * 2020-03-16 2020-07-10 西北工业大学 基于自编码神经网络的水声信号去噪方法
CN111490853A (zh) * 2020-04-15 2020-08-04 成都海擎科技有限公司 一种基于深度卷积神经网络的信道编码参数识别方法
WO2020222879A1 (en) * 2019-04-29 2020-11-05 Landmark Graphics Corporation Hybrid neural network and autoencoder
CN112149617A (zh) * 2020-10-13 2020-12-29 中国工程物理研究院计算机应用研究所 一种基于深度学习的脉冲波形去噪方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109743275A (zh) * 2018-12-25 2019-05-10 北京信息科技大学 一种基于欠完备自编码器的信号调制识别方法
CN109858408A (zh) * 2019-01-17 2019-06-07 西安交通大学 一种基于自编码器的超声信号处理方法
CN109672639A (zh) * 2019-01-22 2019-04-23 哈尔滨工业大学 一种基于机器学习的信号解调方法
CN110020684A (zh) * 2019-04-08 2019-07-16 西南石油大学 一种基于残差卷积自编码网络的图像去噪方法
WO2020222879A1 (en) * 2019-04-29 2020-11-05 Landmark Graphics Corporation Hybrid neural network and autoencoder
CN110942100A (zh) * 2019-11-29 2020-03-31 山东大学 一种基于深度去噪神经网络的空间调制系统的工作方法
CN111401236A (zh) * 2020-03-16 2020-07-10 西北工业大学 基于自编码神经网络的水声信号去噪方法
CN111490853A (zh) * 2020-04-15 2020-08-04 成都海擎科技有限公司 一种基于深度卷积神经网络的信道编码参数识别方法
CN112149617A (zh) * 2020-10-13 2020-12-29 中国工程物理研究院计算机应用研究所 一种基于深度学习的脉冲波形去噪方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Radar Signal Intra-Pulse Modulation Recognition Based on Convolutional Denoising Autoencoder and Deep Convolutional Neural Network;ZHIYU QU等;《IEEE Access》;20190814;第7卷;第112339-112347页 *
基于神经网络的调制类型识别算法研究;刘亚博;《中国优秀硕士学位论文全文数据库 信息科技辑》;20200215(第2020(02)期);I136-322 *
基于自编码卷积神经网络的图像去噪算法;杜渺勇等;《杭州师范大学学报(自然科学版)》;20210130;第20卷(第1期);第95-101页 *

Also Published As

Publication number Publication date
CN113094993A (zh) 2021-07-09

Similar Documents

Publication Publication Date Title
CN113094993B (zh) 基于自编码神经网络的调制信号去噪方法
CN107633486B (zh) 基于三维全卷积神经网络的结构磁共振图像去噪方法
CN111653288B (zh) 基于条件变分自编码器的目标人语音增强方法
CN109870729B (zh) 基于离散余弦变换的深度神经网络磁共振信号消噪方法
CN111723701B (zh) 一种水中目标识别方法
CN113642484B (zh) 一种基于bp神经网络的大地电磁信号噪声压制方法及系统
CN112735460B (zh) 基于时频掩蔽值估计的波束成形方法及系统
CN113761805B (zh) 一种基于时域卷积网络的可控源电磁数据去噪方法、系统、终端及可读存储介质
CN114429151B (zh) 一种基于深度残差网络的大地电磁信号识别与重建方法及其系统
CN115602152B (zh) 一种基于多阶段注意力网络的语音增强方法
CN115442191B (zh) 基于相对平均生成对抗网络的通信信号降噪方法及系统
CN113568058B (zh) 一种基于多分辨率奇异值分解的大地电磁信噪分离方法及系统
CN113488060A (zh) 一种基于变分信息瓶颈的声纹识别方法及系统
CN110569728A (zh) 一种基于字典训练和正交匹配追踪的核信号提取方法
CN114520758A (zh) 一种基于瞬时特征的信号调制识别方法
CN114863938A (zh) 一种基于注意力残差和特征融合的鸟语识别方法和系统
CN114091538B (zh) 一种基于信号特征的判别损失卷积神经网络智能降噪方法
Yang et al. GAN-based sample expansion for underwater acoustic signal
CN113962260A (zh) 一种基于去噪深度残差网络的雷达信号智能分选方法
CN117076858B (zh) 一种基于深度学习的低频大地电磁强干扰压制方法及系统
Liu et al. A novel denoising method for low SNR NMR logging echo signal based on deep learning
CN116257737A (zh) 基于自动编码器的新型输电线路高频故障信号降噪方法
CN114626412A (zh) 用于无人值守传感器系统的多类别目标识别方法及系统
CN112926504A (zh) 一种基于降噪自编码器的声发射信号去噪方法
CN112363217A (zh) 一种地震数据随机噪声压制方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant