CN113113030B - 一种基于降噪自编码器的高维受损数据无线传输方法 - Google Patents

一种基于降噪自编码器的高维受损数据无线传输方法 Download PDF

Info

Publication number
CN113113030B
CN113113030B CN202110302058.1A CN202110302058A CN113113030B CN 113113030 B CN113113030 B CN 113113030B CN 202110302058 A CN202110302058 A CN 202110302058A CN 113113030 B CN113113030 B CN 113113030B
Authority
CN
China
Prior art keywords
data
noise
sample
encoder
noise reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110302058.1A
Other languages
English (en)
Other versions
CN113113030A (zh
Inventor
陈惠芳
谢磊
忻杨璇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Zhoushan Ocean Research Center of ZJU
Original Assignee
Zhejiang University ZJU
Zhoushan Ocean Research Center of ZJU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University ZJU, Zhoushan Ocean Research Center of ZJU filed Critical Zhejiang University ZJU
Priority to CN202110302058.1A priority Critical patent/CN113113030B/zh
Publication of CN113113030A publication Critical patent/CN113113030A/zh
Application granted granted Critical
Publication of CN113113030B publication Critical patent/CN113113030B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/0017—Lossless audio signal coding; Perfect reconstruction of coded audio signal by transmission of coding error
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/30—Noise filtering
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Acoustics & Sound (AREA)
  • Computing Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Signal Processing (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Quality & Reliability (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明公开了一种基于降噪自编码器的高维受损数据无线传输方法。本发明方法包括模型训练和端到端传输。模型训练首先对历史感知数据集进行数据预处理，基于K‑折交叉验证方法对其进行划分；然后构建降噪自编码器模型，并基于提出的新型分批引入随机高斯噪声的加噪方式训练降噪自编码器模型。端到端传输首先将训练得到的降噪自编码器拆分两部分部署于发送端和接收端，然后在发送端对未知类型噪声干扰的感知数据进行预处理和降维操作，将降维后的数据传输至接收端，最后在接收端执行重构操作，获得未受损感知数据的重构数据。本发明方法能有效进行高维受损感知数据的降维传输及降噪处理和重构，在恶劣环境下进行数据收集时滤除噪声干扰和降维传输。

Description

一种基于降噪自编码器的高维受损数据无线传输方法
技术领域
本发明涉及信号处理领域，具体涉及一种无线传感器网络中基于降噪自编码器的高维受损数据降维及降噪一体化可靠传输方法。
背景技术
随着通信及信息技术的高速发展，信息需求和待处理数据量也随之增加，如何高效地处理大量网络数据并最大限度地降低传输、存储、计算开销就成为了我们亟待解决的一大问题。无线传感器网络已广泛应用于多个领域，诸如环境监测、军事侦察、精准农业等。但由于传感器的体积决定了它们的计算、存储、通信资源都十分有限，无法负荷巨量数据的计算和传输。此外，传感器易受恶劣环境的影响，在感知数据过程中存在噪声与干扰，致使干净数据的获取难度急剧增加。
目前，常用的无线传感器网络高维数据可靠数据传输方法主要由数据采集、数据处理和数据重构三部分组成。为避免“维数灾难”问题，目前常用的数据传输方法主要基于压缩感知理论，旨在通过对待传输数据执行降维操作，以降低实际传输量。压缩感知包括字典、观测矩阵和重构算法三个方面。压缩感知主要通过字典和重构算法的设计实现降噪，通过观测矩阵的设计实现降维，并且其应用的前提条件是信号可压缩，主要用于解决线性问题，因此对于愈加复杂的通信环境和现实待解决问题的适应性较低。
申请号201910604340.8的中国发明专利申请公开了时序贝叶斯压缩采样及信号解压缩重构方法及数据丢失恢复方法，其局限性在于所述方法涉及测量矩阵、基向量矩阵的设计，以及稀疏性建模、贝叶斯概率求解、超参数的快速优化估计等，设计成本、时间成本及计算成本较高，不适用于资源受限的设备。申请号202010259663.0和202010910559.3的中国发明专利分别申请公开了一种面向压缩感知的稀疏多带信号盲重构方法和一种基于字典双学习的压缩感知信号重构方法及系统，其局限性在于预设了待处理信号是可压缩的，且将信号重构问题转化为线性规划问题，降噪功能只面向特定类型的噪声干扰，不适用于复杂噪声干扰下的非线性数据的降维及降噪重构。申请号202011254453.9的中国发明专利申请公开了一种基于随机解调结构的心电信号压缩采样装置及方法，其局限性在于将心电信号线性映射到低维空间，可能损失关键特征，且没有考虑信号存在噪声干扰的问题。
随着机器学习的蓬勃发展，为复杂环境下无线传感器网络实现数据降维和降噪一体化传输提供了新可能。自编码器最初应用于计算机视觉、图像处理及语音处理领域，它能够从受损图像中学习到更为鲁棒的特征，从而重构原始图像，也能够部署于无线传感器网络，减少待传输数据量，进而降低通信、计算和存储成本，并且自编码器的非线性也决定了它能够解决更为复杂的非线性问题。因此，自编码器在网络信号处理方法具备更大的优势，为无线传感器网络中高维受损数据传输实现降维和降噪一体化提供了新思路。
发明内容
本发明的目的是针对无线传感器网络部署环境恶劣、干起节点资源有限、待传输数据量大且受损的情况下，目前网络信号处理方法计算和设计成本较高、受场景限制、精度及压缩率较低的问题，提出一种基于降噪自编码器的高维受损数据无线传输方法。
本发明方法包括模型训练和端到端传输。
所述的模型训练用于训练降噪自编码器，获得性能良好的传输架构；具体方法是：
步骤(1)对历史感知数据集进行数据预处理，具体如下：
对数据执行重采样、标准化以及添加噪声操作，组成具有Nsamp个样本的标准化不含噪数据集D和含噪数据集Dn，样本长度均为Nlen；其中，
重采样操作：对历史感知数据使用符号间隔Ts进行采样，获取长度为Nlen的离散序列
Figure BDA0002986712150000021
xt表示离散序列中第t个采样点的离散值，t＝(mNlen+1),(mNlen+2),…,(m+1)Nlen，T表示转置操作，m表示重采样轮次。
标准化操作：对离散序列x进行最大最小化处理，获取标准化序列
Figure BDA0002986712150000022
每个样本点取值范围是(-1,1)，第t个采样点的标准化值
Figure BDA0002986712150000023
xmax为离散序列中最大离散值，xmin为离散序列中最小离散值。
添加噪声操作：在标准化序列上叠加随机生成的与多种实际场景相符的噪声n，得到含噪的标准化序列
Figure BDA0002986712150000024
第t个采样点的含噪标准化值
Figure BDA0002986712150000025
步骤(2)分割标准化不含噪数据集D和含噪数据集Dn：将不含噪数据集D和含噪数据集Dn中Nsamp个样本划分为K组训练-验证集
Figure BDA0002986712150000026
满足
Figure BDA0002986712150000027
Ntrain,k为{Dtrain}k的样本数，
Figure BDA0002986712150000028
为
Figure BDA0002986712150000029
的样本数，组号k＝1,...,K。
步骤(3)构建降噪自编码器模型，模型输入为
Figure BDA0002986712150000031
隐层输出为hsamp，模型输出为
Figure BDA0002986712150000032
已知原始样本为x′samp。构建方法具体如下：
将
Figure BDA0002986712150000033
馈入有一层输入层，一层隐藏层和一层输出层的降噪自编码器模型。输入层的神经元个数为Nin，隐藏层的神经元个数为Nhidd，输出层的神经元个数为Nout，满足Nin＝Nout＝Nlen。降噪自编码器模型的激活函数为tanh，优化算法为随机梯度下降法(SGD)。隐藏层的输入即为传输的低维信号ysamp，输出层的输出为模型重构的信号
Figure BDA0002986712150000034
步骤(4)训练降噪自编码器模型，具体是：
(4-1)初始化：设置最大迭代轮数Nmax epoch，当前迭代轮数Nepoch＝1；设置停止准则中的阈值thresh；设置隐藏层的最大神经元个数
Figure BDA0002986712150000035
当前隐藏层神经元个数Nhidd＝1；使用Xavier初始化方法随机初始化模型权值参数w和偏置参数b；设置当前训练集的组号为k＝1；
(4-2)分批：将训练集{Dtrain}k样本均匀分成Nbatch个小批；
(4-3)加噪处理：随机选取一个小批，并生成一个在(0,1)上均匀分布的随机数r，将r/2作为高斯分布的标准差，根据该标准差生成高斯噪声叠加到该小批上；
(4-4)前向传播：将加噪小批中的所有样本
Figure BDA0002986712150000036
输入降噪自编码器模型中，得到输出重构值
Figure BDA0002986712150000037
(4-5)后向传播：根据原始样本x′samp和重构样本
Figure BDA00029867121500000316
计算损失函数
Figure BDA0002986712150000038
Figure BDA00029867121500000317
表示该小批中第i个含噪样本的重构输出值，x′i表示该小批中第i个含噪样本的原始值；根据梯度下降法更新模型参数
Figure BDA0002986712150000039
η为学习率；
(4-6)验证：若所有小批均已选取过，则将含噪验证集
Figure BDA00029867121500000310
输入模型中，计算不含噪的验证集样本x′samp和重构样本
Figure BDA00029867121500000311
的均方误差
Figure BDA00029867121500000312
并计算其与保存的验证集最小均方误差
Figure BDA00029867121500000313
的绝对差值
Figure BDA00029867121500000314
否则返回步骤(4-3)；
(4-7)迭代：若迭代轮数Nepoch＜Nmax epoch且ε＞thresh，则更新并保存
Figure BDA00029867121500000315
返回步骤(4-2)进行下一轮迭代，
Figure BDA0002986712150000041
为本轮保存的最小
Figure BDA0002986712150000042
否则结束训练，保存第k组的最佳模型参数
Figure BDA0002986712150000043
若隐藏层神经元个数Nhidd＜Nhmax，则返回步骤(4-1)进行下一个不同隐藏层神经元个数的模型训练。
所述的端到端传输用于将训练得到的降噪自编码器模型部署至两端，实现数据的降维传输及降噪重构；具体方法是：
步骤(a)部署训练得到的降噪编码器：
从K个降噪自编码器模型选择出最优的模型参数；
将降噪自编码器模型的编码阶段的超参数We和be部署于发送端；
将编码阶段的非线性激活函数f和解码阶段的超参数Wd和bd，以及非线性激活函数g部署于接收端。
步骤(b)在发送端处理噪声类型未知的感知数据：
一系列噪声类型未知的感知数据的通式为
Figure BDA0002986712150000044
t′＝1,2,…,NT，NT表示该数据的总序列长度，t′时刻未受损感知数据值为xt′，t′时刻噪声值为nt′；
对
Figure BDA0002986712150000045
执行重采样、标准化操作，得到样本大小为Nsamp×Nlen的待传输数据样本
Figure BDA0002986712150000046
Figure BDA0002986712150000047
表示第m个标准化数据样本，m＝1,2,…,Nsamp，维度为Nlen，操作方法与步骤(1)相同；
对
Figure BDA0002986712150000048
执行降维操作，得到样本大小为Nsamp×Nhidd的传输数据样本
Figure BDA00029867121500000412
第m个传输数据样本为
Figure BDA0002986712150000049
步骤(c)将降维后的传输数据样本Ysamp传输至接收端。
步骤(d)在接收端重构未受损感知数据：
对接收数据样本Ysamp执行解码、反标准化以及重组操作，得到未受损感知数据的重构数据
Figure BDA00029867121500000410
其中，
解码操作：对接收到的数据样本Ysamp执行矩阵向量乘法、加法以及非线性激活操作，得到原始标准化感知数据重构样本
Figure BDA00029867121500000411
第m个解码后的原始标准化感知数据重构样本为
Figure BDA0002986712150000051
反标准化操作：对解码后的原始标准化感知数据重构样本执行最大最小反标准化操作，获取原始值域内的原始感知数据重构样本
Figure BDA0002986712150000052
第m个原始感知数据重构样本值
Figure BDA0002986712150000053
重组操作：对反标准化后的原始感知数据重构样本按行拼接，获取序列长度为NT的未受损感知数据的重构数据
Figure BDA0002986712150000054
本发明以传统降噪自编码器模型为传输机制的基础架构，引入分批添加随机高斯噪声的训练方式，改善了模型对多种噪声的泛化能力和鲁棒性，方便在资源受限的无线传感器节点中部署，辅助无线传感器网络进行可靠且高效的数据传输。与现有的无线数据传输方法相比。
本发明具有如下有益效果：
(1)现有的基于压缩感知理论的传输方法需要对信号做可压缩性假设，降噪性能取决于噪声的先验信息情况，降维性能受算法设计的限制。而本发明能规避这些假设条件，无需噪声的先验信息就能对抵抗多种扰动，且能最大限度地降低传输数据的维度。
(2)现有的基于机器学习的传输方法仅单方面考虑降维或降噪功能，且其降噪性能的优越性取决于模型的深度和复杂性，对实际部署的设备具有较高的要求。而本发明使用了最简单的三层结构的降噪自编码器，易于在资源受限的设备上进行部署，可以实现降维及降噪一体化传输。
(3)现有的传输方法并没有考虑多种类型噪声存在下的传输问题，其降噪功能有一定局限性。而本发明提出了一种新型加噪训练模式，提高了降噪自编码器的鲁棒性和对噪声的泛化能力，能有效地传输多种噪声干扰下的感知数据并从中降噪重构。
附图说明
图1为本发明方法整体框架示意图；
图2为本发明方法中的模型训练流程图；
图3本发明方法中的降噪自编码器模型的示意图；
图4为本方明方法中降噪自编码器模型的训练流程图；
图5为本发明方法中的端到端传输流程图。
具体实施方式
以下结合附图并举实施例对本发明作进一步详细说明。
本发明针对端到端传输情景中，待传输感知数据在复杂环境下受多种噪声干扰且数据量较大的问题。提出了一种基于降噪自编码器的高维受损数据无线传输方法，用于感知数据的降维传输和降噪重构。并设计降噪自编码器模型训练阶段的新型噪声引入机制，使得降噪自编码器可以在模型训练过程中充分学习数据的本质特征和噪声的特征，对多种噪声具有鲁棒性，最大限度地降低传输数据量，并从含噪数据中重构出原始数据。
本方法的高维受损数据无线传输架构如图1所示，其中降噪自编码器模型主要由编码器和解码器两个模块构成。编码器的线性模块用于发送端处高维数据的低维映射，该部分的降维处理模块主要由编码阶段的权值参数We和偏置参数be组成。模型编码器的非线性模块以及解码器模块用于接收端数据的降噪重构，主要由隐藏层的激活函数f、解码阶段的参数Wd和bd以及输出层的激活函数g组成。
本实施例以Intel Berkeley Lab提供的监测数据集中2004年3月1日至3月12日的来自Mote1的温度数据为例，时间序列总长度为21720，对基于降噪自编码器的高维受损数据无线传输方法进行说明。发明方法包括模型训练和端到端传输。
如图2，模型训练具体是：
步骤(1)对历史的温度数据集进行数据预处理，具体如下：
对温度数据执行重采样、标准化以及添加噪声操作，组成具有Nsamp个(本实施例中Nsamp＝362)样本的标准化不含噪温度数据集D和含噪温度数据集Dn，样本长度均为Nlen(本实例中Nlen＝60)。
步骤(2)分割标准化不含噪温度数据集D和含噪温度数据集Dn，具体是：
基于K-折(本实施例中K＝5)交叉验证的思想将不含噪温度数据集D和含噪温度数据集Dn中Nsamp个样本都进行K等分，有{D1,D2,...,DK}和{Dn,1,Dn,2,...,Dn,K}。不含噪训练集{Dtrain}k用于模型的训练，含噪测试集
Figure BDA0002986712150000061
和不含噪测试集{Dtest}k用于检验传输方法的有效性；第k组训练-测试集为
Figure BDA0002986712150000062
组号k＝1,2,3,4,5；前三组中{Dtrain}k的样本个数为
Figure BDA0002986712150000063
Figure BDA0002986712150000064
的样本个数为
Figure BDA0002986712150000065
k＝1,2,3，后两组中{Dtrain}k的样本个数为Ntrain,k＝289，
Figure BDA0002986712150000066
的样本个数为
Figure BDA0002986712150000067
k＝4,5。
步骤(3)构建降噪自编码器模型，模型输入为
Figure BDA0002986712150000071
隐层输出为hsamp，模型输出为
Figure BDA0002986712150000072
已知原始样本为x′samp。构建方法具体如下：
将
Figure BDA0002986712150000073
馈入如图3所示的有一层输入层，一层隐藏层和一层输出层的降噪自编码器模型。输入层的神经元个数为Nin(本实施例中Nin＝60)，隐藏层的神经元个数为Nhidd(本实施例中Nhidd＝20)，输出层的神经元个数为Nout(本实施例中Nout＝60)，满足Nin＝Nout＝Nlen。降噪自编码器模型的激活函数为tanh，优化算法为随机梯度下降法(SGD)。隐藏层的输入即为传输的低维信号ysamp，输出层的输出为模型重构的信号
Figure BDA00029867121500000715
步骤(4)如图4所示，训练降噪自编码器模型，具体是：
(4-1)初始化：设置最大迭代轮数Nmax epoch＝1500，当前迭代轮数Nepoch＝1；设置停止准则中的阈值thresh＝1e-6；使用Xavier初始化方法随机初始化模型权值参数w和偏置参数b；设置当前训练集的组号为k＝1，总组数为K＝5；
(4-2)分批：将训练集{Dtrain}k样本均匀分成Nbatch个(本实施例中
Figure BDA0002986712150000074
)小批，随机选取部分小批(本实例中选取1个小批)作为验证集{Dvalid}k,并叠加与含噪数据集同一分布的噪声，生成对应的含噪验证集
Figure BDA0002986712150000075
(4-3)加噪处理：随机选取一个小批，并生成一个在(0,1)上均匀分布的随机数r，将r/2作为高斯分布的标准差，根据该标准差生成高斯噪声叠加到该小批上；
(4-4)前向传播：将加噪小批中的所有样本
Figure BDA0002986712150000076
输入降噪自编码器模型中，得到输出重构值
Figure BDA0002986712150000077
(4-5)后向传播：根据原始样本x′samp和重构样本
Figure BDA0002986712150000078
计算损失函数
Figure BDA0002986712150000079
Figure BDA00029867121500000710
表示该小批中第i个含噪样本的重构输出值，x′i表示该小批中第i个含噪样本的原始值；根据梯度下降法更新模型参数
Figure BDA00029867121500000711
η为学习率；
(4-6)验证：若所有小批均已选取过，则将含噪验证集
Figure BDA00029867121500000712
输入模型中，计算不含噪的验证集样本x′samp和重构样本
Figure BDA00029867121500000713
的均方误差
Figure BDA00029867121500000714
并计算其与保存的验证集最小均方误差
Figure BDA0002986712150000081
的绝对差值
Figure BDA0002986712150000082
否则返回步骤(4-3)；
(4-7)迭代：若迭代轮数Nepoch＜1500且ε＞1e-6，则更新并保存
Figure BDA0002986712150000083
更新Nepoch＝Nepoch+1，返回步骤(4-2)进行下一轮迭代，
Figure BDA0002986712150000084
为本轮保存的最小
Figure BDA0002986712150000085
否则结束训练，保存第k组的最佳模型参数
Figure BDA0002986712150000086
如图5，所述的端到端传输具体是：
步骤(a)部署训练得到的降噪编码器：
从5个降噪自编码器模型选择出最优的模型参数；
将降噪自编码器模型的编码阶段的超参数We和be部署于发送端；
将编码阶段的非线性激活函数f和解码阶段的超参数Wd和bd，以及非线性激活函数g部署于接收端。
步骤(b)在发送端处理噪声类型未知的感知数据：
一系列噪声类型未知的感知数据的通式为
Figure BDA0002986712150000087
t′＝1,2,…,NT(本实施例中NT＝8430，噪声nt′服从多种类型的噪声分布)；
对
Figure BDA0002986712150000088
执行重采样、标准化操作，得到样本大小为Nsamp×Nlen(本实施例中Nsamp＝73，Nsamp＝60)的待传输数据样本
Figure BDA0002986712150000089
操作方法与步骤(1)相同；
对
Figure BDA00029867121500000810
执行降维操作，得到样本大小为Nsamp×Nhidd(本实施例中Nhidd＝20)的传输数据样本
Figure BDA00029867121500000811
操作方法与步骤(1)相同。
步骤(c)将降维后的传输数据样本Ysamp传输至接收端。
步骤(d)在接收端重构未受损感知数据：
对接收数据样本Ysamp执行解码、反标准化以及重组操作，得到未受损感知数据的重构数据
Figure BDA00029867121500000812
操作方法与步骤(d)相同。
上述实例所述的内容仅仅是对本发明实现形式的列举，本发明的保护范围不应限于实施例所陈述的具体形式，本发明的保护范围也应包含在本发明基础上所构思的同类发明方法。

Claims (5)

1.一种基于降噪自编码器的高维受损数据无线传输方法，包括模型训练和端到端传输，其特征在于：
所述的模型训练用于训练降噪自编码器，获得性能良好的传输架构；具体方法是：
步骤(1)对历史感知数据集进行数据预处理，对数据执行重采样、标准化以及添加噪声操作，组成具有Nsamp个样本的标准化不含噪数据集D和含噪数据集Dn，样本长度均为Nlen；
步骤(2)分割标准化不含噪数据集D和含噪数据集Dn：将不含噪数据集D和含噪数据集Dn中Nsamp个样本划分为K组训练-验证集
Figure FDA0002986712140000011
满足
Figure FDA0002986712140000012
Ntrain,k为{Dtrain}k的样本数，
Figure FDA0002986712140000013
为
Figure FDA0002986712140000014
的样本数，组号k＝1,...,K；
步骤(3)构建降噪自编码器模型，模型输入为含噪标准化序列
Figure FDA0002986712140000015
模型输出为重构样本
Figure FDA0002986712140000016
步骤(4)训练降噪自编码器模型，具体是：
(4-1)初始化：设置最大迭代轮数Nmaxepoch，当前迭代轮数Nepoch＝1；设置停止准则中的阈值thresh；设置隐藏层的最大神经元个数
Figure FDA0002986712140000017
当前隐藏层神经元个数Nhidd＝1；使用Xavier初始化方法随机初始化模型权值参数w和偏置参数b；设置当前训练集的组号为k＝1；
(4-2)分批：将训练集{Dtrain}k样本均匀分成Nbatch个小批；
(4-3)加噪处理：随机选取一个小批，并生成一个在(0,1)上均匀分布的随机数r，将r/2作为高斯分布的标准差，根据该标准差生成高斯噪声叠加到该小批上；
(4-4)前向传播：将加噪小批中的所有样本
Figure FDA0002986712140000018
输入降噪自编码器模型中，得到输出重构样本
Figure FDA0002986712140000019
(4-5)后向传播：根据原始样本x′samp和重构样本
Figure FDA00029867121400000110
计算损失函数
Figure FDA00029867121400000111
Figure FDA00029867121400000112
表示该小批中第i个含噪样本的重构输出值，x′i表示该小批中第i个含噪样本的原始值；根据梯度下降法更新模型参数
Figure FDA0002986712140000021
η为学习率；
(4-6)验证：若所有小批均已选取过，则将含噪验证集
Figure FDA0002986712140000022
输入模型中，计算不含噪的验证集样本x′samp和重构样本
Figure FDA0002986712140000023
的均方误差
Figure FDA0002986712140000024
并计算其与保存的验证集最小均方误差
Figure FDA0002986712140000025
的绝对差值
Figure FDA0002986712140000026
否则返回步骤(4-3)；
(4-7)迭代：若迭代轮数Nepoch＜Nmaxepoch且ε＞thresh，则更新并保存
Figure FDA0002986712140000027
返回步骤(4-2)进行下一轮迭代，
Figure FDA0002986712140000028
为本轮保存的最小
Figure FDA0002986712140000029
否则结束训练，保存第k组的最佳模型参数
Figure FDA00029867121400000210
若隐藏层神经元个数Nhidd＜Nhmax，则返回步骤(4-1)进行下一个不同隐藏层神经元个数的模型训练；
所述的端到端传输用于将训练得到的降噪自编码器模型部署至两端，实现数据的降维传输及降噪重构；方法是：
步骤(a)部署训练得到的降噪编码器：从K个降噪自编码器模型选择出最优的模型参数；将降噪自编码器模型的编码阶段的超参数We和be部署于发送端；将编码阶段的非线性激活函数f和解码阶段的超参数Wd和bd，以及非线性激活函数g部署于接收端；
步骤(b)在发送端处理噪声类型未知的感知数据；
步骤(c)将降维后的传输数据样本Ysamp传输至接收端；
步骤(d)在接收端重构未受损感知数据：对接收数据样本Ysamp执行解码、反标准化以及重组操作，得到未受损感知数据的重构数据
Figure FDA00029867121400000211
2.如权利要求1所述的基于降噪自编码器的高维受损数据无线传输方法，其特征在于：步骤(1)具体是：
重采样操作：对历史感知数据使用符号间隔Ts进行采样，获取长度为Nlen的离散序列
Figure FDA00029867121400000212
xt表示离散序列中第t个采样点的离散值，t＝(mNlen+1),(mNlen+2),…,(m+1)Nlen，T表示转置操作，m表示重采样轮次；
标准化操作：对离散序列x进行最大最小化处理，获取标准化序列
Figure FDA0002986712140000031
每个样本点取值范围是(-1,1)，第t个采样点的标准化值
Figure FDA0002986712140000032
xmax为离散序列中最大离散值，xmin为离散序列中最小离散值；
添加噪声操作：在标准化序列上叠加随机生成的与多种实际场景相符的噪声n，得到含噪的标准化序列
Figure FDA0002986712140000033
第t个采样点的含噪标准化值
Figure FDA0002986712140000034
3.如权利要求2所述的基于降噪自编码器的高维受损数据无线传输方法，其特征在于：步骤(2)具体是：将
Figure FDA0002986712140000035
馈入有一层输入层，一层隐藏层和一层输出层的降噪自编码器模型；输入层的神经元个数为Nin，隐藏层的神经元个数为Nhidd，输出层的神经元个数为Nout，满足Nin＝Nout＝Nlen；降噪自编码器模型的激活函数为tanh，优化算法为随机梯度下降法(SGD)；隐藏层的输入即为传输的低维信号ysamp，输出层的输出为模型重构的信号
Figure FDA0002986712140000036
4.如权利要求3所述的基于降噪自编码器的高维受损数据无线传输方法，其特征在于：步骤(b)具体是：
一系列噪声类型未知的感知数据的通式为
Figure FDA0002986712140000037
t′＝1,2,…,NT，NT表示该数据的总序列长度，t′时刻未受损感知数据值为xt′，t′时刻噪声值为nt′；
对
Figure FDA0002986712140000038
执行重采样、标准化操作，得到样本大小为Nsamp×Nlen的待传输数据样本
Figure FDA0002986712140000039
Figure FDA00029867121400000310
表示第m个标准化数据样本，m＝1,2,…,Nsamp，维度为Nlen，操作方法与步骤(1)相同；
对
Figure FDA00029867121400000311
执行降维操作，得到样本大小为Nsamp×Nhidd的传输数据样本
Figure FDA00029867121400000312
第m个传输数据样本为
Figure FDA00029867121400000313
5.如权利要求4所述的基于降噪自编码器的高维受损数据无线传输方法，其特征在于：步骤(d)具体是：
解码操作：对接收到的数据样本Ysamp执行矩阵向量乘法、加法以及非线性激活操作，得到原始标准化感知数据重构样本
Figure FDA00029867121400000314
第m个解码后的原始标准化感知数据重构样本为
Figure FDA00029867121400000315
反标准化操作：对解码后的原始标准化感知数据重构样本执行最大最小反标准化操作，获取原始值域内的原始感知数据重构样本
Figure FDA0002986712140000041
第m个原始感知数据重构样本值
Figure FDA0002986712140000042
重组操作：对反标准化后的原始感知数据重构样本按行拼接，获取序列长度为NT的未受损感知数据的重构数据
Figure FDA0002986712140000043
CN202110302058.1A 2021-03-22 2021-03-22 一种基于降噪自编码器的高维受损数据无线传输方法 Active CN113113030B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110302058.1A CN113113030B (zh) 2021-03-22 2021-03-22 一种基于降噪自编码器的高维受损数据无线传输方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110302058.1A CN113113030B (zh) 2021-03-22 2021-03-22 一种基于降噪自编码器的高维受损数据无线传输方法

Publications (2)

Publication Number Publication Date
CN113113030A CN113113030A (zh) 2021-07-13
CN113113030B true CN113113030B (zh) 2022-03-22

Family

ID=76710267

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110302058.1A Active CN113113030B (zh) 2021-03-22 2021-03-22 一种基于降噪自编码器的高维受损数据无线传输方法

Country Status (1)

Country Link
CN (1) CN113113030B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113452379B (zh) * 2021-07-16 2022-08-02 燕山大学 断面轮廓降维模型训练方法、系统及数据压缩方法、系统
CN113746870B (zh) * 2021-11-05 2022-02-08 山东万网智能科技有限公司 一种物联网设备数据智能传输方法及系统
CN114328496A (zh) * 2021-12-31 2022-04-12 广东泰迪智能科技股份有限公司 一种中央空调云-边双端数据的降噪处理方法与系统
CN114630207B (zh) * 2022-03-15 2023-04-07 浙江大学 基于降噪自编码器的多传感节点感知数据收集方法
CN115169499B (zh) * 2022-08-03 2024-04-05 中国电子科技集团公司信息科学研究院 资产数据降维方法、装置、电子设备和计算机存储介质
CN116028781B (zh) * 2023-03-30 2023-06-30 矿冶科技集团有限公司 数据预处理方法、系统、计算机设备及可读存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108601026A (zh) * 2018-04-02 2018-09-28 浙江大学 基于随机抽样一致性的感知数据错误化攻击检测方法
CN111724809A (zh) * 2020-06-15 2020-09-29 苏州意能通信息技术有限公司 一种基于变分自编码器的声码器实现方法及装置
WO2021007812A1 (zh) * 2019-07-17 2021-01-21 深圳大学 一种深度神经网络超参数优化方法、电子设备及存储介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2388439A1 (en) * 2002-05-31 2003-11-30 Voiceage Corporation A method and device for efficient frame erasure concealment in linear predictive based speech codecs
US20150170655A1 (en) * 2013-12-15 2015-06-18 Qualcomm Incorporated Systems and methods of blind bandwidth extension

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108601026A (zh) * 2018-04-02 2018-09-28 浙江大学 基于随机抽样一致性的感知数据错误化攻击检测方法
WO2021007812A1 (zh) * 2019-07-17 2021-01-21 深圳大学 一种深度神经网络超参数优化方法、电子设备及存储介质
CN111724809A (zh) * 2020-06-15 2020-09-29 苏州意能通信息技术有限公司 一种基于变分自编码器的声码器实现方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于NGPP一SVDD的非高斯过程监控及其应用研究;谢磊;《自动化学报》;20091231;全文 *
基于目标声源方位已知的双麦克风噪声抑制;张健;《清华大学学报 （自然科学版）》;20111231;全文 *

Also Published As

Publication number Publication date
CN113113030A (zh) 2021-07-13

Similar Documents

Publication Publication Date Title
CN113113030B (zh) 一种基于降噪自编码器的高维受损数据无线传输方法
CN110136731B (zh) 空洞因果卷积生成对抗网络端到端骨导语音盲增强方法
CN112418014B (zh) 基于小波变换和卷积长短期记忆神经网络的调制信号识别方法
CN109614905B (zh) 一种雷达辐射源信号深度脉内特征自动提取方法
CN109523486A (zh) 噪声环境下基于鲁棒压缩感知的多通道脑电信号重构方法
CN111046737A (zh) 一种用于微地震信号检测的高效智能感知采集方法
CN116361256B (zh) 基于日志解析的数据同步方法及系统
CN110569728A (zh) 一种基于字典训练和正交匹配追踪的核信号提取方法
CN114943245A (zh) 一种基于数据增强和特征嵌入的自动调制识别方法和装置
CN112183582A (zh) 一种多特征融合的水下目标识别方法
CN115238749A (zh) 一种基于Transformer的特征融合的调制识别方法
Tian et al. A data reconstruction algorithm based on neural network for compressed sensing
CN116306780B (zh) 一种动态图链接生成方法
CN114630207B (zh) 基于降噪自编码器的多传感节点感知数据收集方法
Tan et al. Efficient sparse Bayesian learning via Gibbs sampling
Cocianu et al. Neural architectures for correlated noise removal in image processing
CN116418633A (zh) 基于稀疏与低秩特征的深度展开水声信道估计方法
Casas et al. Few-shot meta-denoising
Luo et al. Deep Learning Based Compressive Sensing for UWB Signal Reconstruction
CN117250657B (zh) 一种地震数据重建去噪一体化方法
Ramamurthy et al. Boosted dictionaries for image restoration based on sparse representations
Rao et al. Computed Tomography Medical Image Compression using Conjugate Gradient
CN114301499B (zh) 一种基于cnn-gru的跳频信号智能接收方法
CN115065367B (zh) 一种低复杂度的稀疏信号采样重构系统及方法
Green et al. Pulsed Signal Detection Utilizing Wavelet Analysis with a Deep Learning Approach

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant