CN115348182A - 一种基于深度堆栈自编码器的长期频谱预测方法 - Google Patents

一种基于深度堆栈自编码器的长期频谱预测方法 Download PDF

Info

Publication number
CN115348182A
CN115348182A CN202210872542.2A CN202210872542A CN115348182A CN 115348182 A CN115348182 A CN 115348182A CN 202210872542 A CN202210872542 A CN 202210872542A CN 115348182 A CN115348182 A CN 115348182A
Authority
CN
China
Prior art keywords
encoder
self
term
stack
spectrum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210872542.2A
Other languages
English (en)
Inventor
吴启晖
潘光良
李婕
周博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202210872542.2A priority Critical patent/CN115348182A/zh
Publication of CN115348182A publication Critical patent/CN115348182A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/147—Network analysis or design for predicting network behaviour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明公开了一种基于深度堆栈自编码器的长期频谱预测方法，包括获取来源于真实世界不同通信业务的频谱数据；数据预处理，得到训练集和测试集；将训练集输入到堆栈自编码器，更新自编码器中的参数，使输入和输出之间的损失函数值最小化；将训练集重新输入训练好的堆栈自编码器得到原始高维频谱数据的语义编码，将语义编码信息输入到预测器,完成预测器训练，同时实现对堆栈自编码器的微调；将训练好的堆栈自编码器和预测器在测试集上进行在线测试，统计预测的性能指标。本发明能够利用真实世界频谱数据实现长期频谱态势预测，并具有较好的预测精度，可很好服务于无线通信。

Description

一种基于深度堆栈自编码器的长期频谱预测方法
技术领域
本发明属于无线通信技术领域，具体涉及一种基于深度堆栈自编码器的长期频谱预测方法。
背景技术
5G技术的普及和物联网技术的发展使得用频设备爆炸式增长，这使得频谱资源越来越紧张。为此，迫切需要更加智能的用频方式来应对用频紧张的挑战。频谱预测为开发更为智能的用频模式提供保障，例如：频谱预测可辅助认知用户实现高效的动态频谱接入，提高频谱感知的准确率，分析频谱移动性等。
目前的频谱预测方法主要分为基于模型(参数化)驱动和以神经网络为主的基于数据驱动的两类方法。在基于模型驱动的方法中以自回归模型、马尔科夫模型为主，这几种方法需要依赖频谱的先验信息，马尔科夫模型随着阶数增加复杂度暴增。而以神经网络为主的基于数据驱动的方法无需任何先验信息，在分析处理高维、存在复杂依赖性和异质性的频谱数据具有天然优势。
但现有的神经网络方法(如：ANN，CNN，LSTM等)并没有充分挖掘频谱的时频依赖性，仅依赖单个维度的特征信息，长期预测效果并不理想。随着网络深度的增加容易出现梯度爆炸和过拟合问题。此外，频谱高维性和异质性致使参数化方法和现有神经网络方法束手无策。
发明内容
本发明所要解决的技术问题是针对上述现有技术的不足，提供一种基于深度堆栈自编码器的长期频谱预测方法，利用堆栈自编码器挖掘高维频谱数据的复杂依赖性后得到语义编码(低维特征表示)，在其输出端连接一个预测器通过学习语义编码完成长期频谱预测。
为实现上述技术目的，本发明采取的技术方案为：
一种基于深度堆栈自编码器的长期频谱预测方法，所述方法基于堆栈自编码器和预测器所组成的预测模型实现，预测模型利用堆栈自编码器挖掘高维频谱数据的复杂依赖性后得到语义编码，在其输出端连接一个预测器通过学习语义编码完成长期频谱预测。
为优化上述技术方案，采取的具体措施还包括：
上述的方法包括：
步骤1：通过稀疏分布的频谱传感器获取来源于真实世界不同通信业务的频谱数据，并将其回传至频谱数据储存中心；
步骤2：读取数据存储中心中的原始频谱数据并进行数据预处理，得到训练集和测试集；
步骤3：将训练集输入到堆栈自编码器，采用Adam优化方法更新自编码器中的参数，使自编码器输入和输出之间的损失函数值最小化，完成训练；
步骤4：将训练集重新输入训练好的堆栈自编码器得到原始高维频谱数据的语义编码，即低维特征，将语义编码信息输入到预测器,采用Adam优化方法完成预测器训练，同时实现对堆栈自编码器的微调；
步骤5：将训练好的堆栈自编码器和预测器在测试集上进行在线测试，统计预测的性能指标。
上述的预测模型采用Matlab2021a在配置为Intel(R)Core(TM)i7-9700 CPU@3.00GHz 3.00GHz CPU，16GB RAM和NVIDIA Quadro P2200显卡的PC上搭建。
上述的步骤2具体为采用零均值归一化方法对带宽范围为F的原始频谱数据进行归一化，并划分为训练集和测试集，数据集构造完成；
所述采用零均值归一化方法对带宽范围为F的原始频谱数据进行归一化，其归一化公式为：
Figure BDA0003756690400000021
其中，pf,t为第f,f∈{1,...,F}频点第t,t∈{1,...,T}时隙的归一化值，p'f,t为第f频点第t时隙的原始频谱值，
Figure BDA0003756690400000023
为第f频点T个时隙的均值，σf为第f频点T个时隙的方差。
上述的步骤3所述堆栈自编码器由2个自编码器堆栈而成，单独训练每一个自编码器，输出和输入之间的损失函数为：
Figure BDA0003756690400000022
上式中，等号右侧第一项为均方误差项MSE，第二项为稀疏正则项SR，第三项为权重矩阵F范数F-norm；
Ql为第l个自编码器输入数据的尺寸，xl,q为第l个自编码器的第q个输入，
Figure BDA0003756690400000031
为第l个自编码器的第q个输出，γ为稀疏因子，Ml为第l个自编码器隐藏层节点数，ρ为一个目标激活值，
Figure BDA0003756690400000032
为第j个隐藏单元的平均激活值，λ为正则化系数，Wl和Wl'分别为第l个自编码器的编码和解码权重向量；
Figure BDA0003756690400000033
上述的步骤3中将自编码器中的参数更新描述为一个最优化问题：
Figure BDA0003756690400000034
采用Adam优化方法得到最优的参数β*：
Figure BDA0003756690400000035
其中，β(τ)为第τ次迭代更新的参数集，η为学习率。
上述的步骤4所述预测器是由3层的Bi-LSTM网络，微调过程中整个堆栈自编码器网络的损失函数为：
Figure BDA0003756690400000036
其中，βall＝{W1,b1,...,WL,bL}，P为总的输入频谱数据，
Figure BDA0003756690400000037
和pt分别为整个预测模型第t个时隙的输出向量和输入向量。
上述的步骤5所述性能指标包括平方绝对误差MAE、均方根误差RMSE、平均绝对百分比误差sMAPE和拟合度R2，具体表示为：
Figure BDA0003756690400000038
Figure BDA0003756690400000039
Figure BDA00037566904000000310
Figure BDA0003756690400000041
其中
Figure BDA0003756690400000042
为Δt时间内的预测值，pΔt为Δt时间内的真实值。
本发明具有以下有益效果：本发明由堆栈自编码器和预测器所组成的预测模型来实现长期频谱预测：通过稀疏分布的频谱传感器获取真实世界不同通信业务的频谱数据；将原始频谱数据进行预处理，具体为采用归一化方法将带宽范围为F的频谱数据进行归一化，构造数据集；将训练集输入到预测模型中的堆栈自编码器，采用Adam优化方法更新自编码器中的参数，使输入和输出之间的损失函数值最小化，完成训练；将训练集重新输入训练好的堆栈自编码器得到原始高维频谱数据的语义编码，将语义编码信息输入到预测器,采用Adam优化方法完成预测器训练并微调自编码器；训练好的预测模型完成在线预测。
本发明能够利用真实世界频谱数据实现不同频段内长期频谱态势预测，并具有较好的预测精度，可很好服务于无线通信。其显著优点在于：(1)能够将高维频谱数据在保留原始时频依赖性的同时转换为语义编码，解决传统技术面对高维频谱数据束手无策的问题；(2)因堆栈自编码器是由一个个自编码器堆叠而成，每个自编码器单独训练，故能够充分捕捉频谱数据潜在的时频演化规律和学习到更细腻的特征信息；(3)预测模型是无监督学习与监督学习相融合的典范，这种联合学习的框架在长期频谱预测中精度更出众。
附图说明
图1为本发明所提出的基于深度堆栈自编码器的长期频谱预测模型示意图；
图2为本发明实施例中所采用的自编码器结构图；
图3为本发明实施例中基于深度堆栈自编码器的长期频谱预测方法与其他基线方法的MAE比较示意图；
图4为本发明实施例中基于深度堆栈自编码器的长期频谱预测方法与其他基线方法的RMSE比较示意图；
图5为本发明实施例中基于深度堆栈自编码器的长期频谱预测方法与其他基线方法的sMAPE比较示意图；
图6为本发明一种基于深度堆栈自编码器的长期频谱预测方法流程图。
具体实施方式
以下结合附图对本发明的实施例作进一步详细描述。
图1为本发明所提出的长期频谱预测模型，它是由堆栈自编码器和预测器所组成，预测模型利用堆栈自编码器挖掘高维频谱数据的时频空依赖性后得到语义编码，在其输出端连接一个预测器通过学习语义编码完成长期频谱预测。参照图6，本发明一种基于深度堆栈自编码器的长期频谱预测方法，包括以下步骤：
步骤1：通过稀疏分布的频谱传感器获取来源于真实世界不同通信业务的频谱数据，并将其回传至频谱数据储存中心；
步骤2：读取数据存储中心中的原始频谱数据并进行数据预处理，具体为采用零均值归一化方法对带宽范围为F的原始频谱数据进行归一化，并划分为训练集和测试集(贴标签)，数据集构造完成。
步骤3：将训练集输入到堆栈自编码器，采用Adam优化方法更新自编码器中的参数(权重和偏置)，使自编码器输入和输出之间的损失函数值最小化，完成训练；
步骤4：将训练集重新输入训练好的堆栈自编码器得到原始高维频谱数据的语义编码，即低维特征，将语义编码信息输入到预测器,采用Adam优化方法完成预测器训练，同时实现对堆栈自编码器的微调；
步骤5：将训练好的堆栈自编码器和预测器在测试集上进行在线测试，统计预测的性能指标。
进一步作为优选的实施方式，所述预测模型采用Matlab2021a在配置为Intel(R)Core(TM)i7-9700 CPU@3.00GHz 3.00GHz CPU，16GB RAM和NVIDIA Quadro P2200显卡的PC上搭建。
在步骤1中对获取的频谱数据进行时、频、空域相关性分析，采用Pearson相关系数：
Figure BDA0003756690400000051
其中E(·)表示期望因子，ζ(a,c)的范围为[-1,1]，当其越接近于极值，说明相关性越强。
在步骤2中所述的零均值归一化方法为：
Figure BDA0003756690400000052
其中，pf,t为第f,f∈{1,...,F}频点第t,t∈{1,...,T}时隙的归一化值，p'f,t为第f频点第t时隙的原始频谱值，
Figure BDA0003756690400000067
为第f频点T个时隙的均值，σf为第f频点T个时隙的方差。
在步骤3中堆栈自编码器是由单个自编码器堆叠而成，自编码器的结构如图2所示。
从图2可知，自编码器是由输入层、隐藏层和输出层组成，输入层对应为编码器，输出层对应解码器。每一个自编码器是进行单独训练的，此训练过程为无监督学习。
具体的训练过程如下：
首先，第t个时隙N个频点的历史频谱数据可表示为：
pt:＝[pt(1),pt(2),...,pt(N)]
那么，T个时隙的频谱数据可表示为
P:＝[p1,p2,...,pT]T
然后，P作为训练数据被输入到自编码器。
具体来说，对于第l个自编码器，假设输入层有K个节点，隐藏层有M个节点，输出层节点数与输入层相同。
自编码器满足
Figure BDA0003756690400000061
其中
Figure BDA0003756690400000062
和
Figure BDA0003756690400000063
分别为自编码器的输入和输出，Q为输入频谱数据的尺寸。
然后，经编码器到隐藏层为
Hl＝f(WlXl+bl)
其中
Figure BDA0003756690400000064
f(·)表示编码激活函数。Wl和bl分别为第l自编码器中编码器的权重和偏置。
然后，经隐藏层到输出层为
Figure BDA0003756690400000065
其中W′l和b′l分别为第l自编码器中解码器的权重和偏置。f'(·)为解码激活函数。
编码和解码函数都采用Sigmoid激活函数，具体为
Figure BDA0003756690400000066
需注意的是，当l＝1，输入X1是为P。
训练第l自编码器的目的是通过更新神经网络参数集β＝{Wl,W′l,bl,b′l}来最小化输出与输入的损失。
那么，损失函数被定义为：
Figure BDA0003756690400000071
其中，等号右侧第一项为均方误差项MSE，第二项为稀疏正则项SR，第三项为权重矩阵F范数F-norm；
Ql为第l个自编码器输入数据的尺寸，xl,q为第l个自编码器的第q个输入，
Figure BDA0003756690400000072
为第l个自编码器的第q个输出，γ为稀疏因子，Ml为第l个自编码器隐藏层节点数，ρ为一个目标激活值，
Figure BDA0003756690400000073
为第j个隐藏单元的平均激活值，λ为正则化系数，Wl和W′l分别为第l个自编码器的编码和解码权重向量。
Figure BDA0003756690400000074
为
Figure BDA0003756690400000075
和ρ的Kullback-Leibler，具体为：
Figure BDA0003756690400000076
那么，步骤3训练网络可表述为一个最优化问题：
Figure BDA0003756690400000077
采用Adam方法来得到最优的β*：
Figure BDA0003756690400000078
其中β(τ)为第τ次迭代更新的参数集，η为学习率。
每一个自编码器将按照以上训练原则进行训练。
然后，将训练好的每一个自编码器的隐藏层连接下一个自编码器的编码器的输入，依次按照这种规则堆叠在一起组成堆栈自编码器。
以上过程即为完成堆栈自编码器的预训练。
步骤4中将训练数据重新输入堆栈自编码器得到语义编码：
HL＝[hL,1,...,hL,q,...,hL,Q]T
其中
Figure BDA0003756690400000081
ML为L个自编码隐藏层的节点数。
将语义信息输入到预测器中，这里采用Bi-LSTM神经网络作为预测器。
需注意的是，训练预测器的过程同样对堆栈自编码器进行了微调。
首先，HL进入遗忘门：
ft＝σ(Wf[HL,t-1,HL,t]+bf)
其中，σ代表Sigmoid函数，具体表示为
Figure BDA0003756690400000082
HL,t表示第t时隙的输入的语义编码，Wf和bf分别为遗忘门的权重和偏置。进入输入门，其决定HL,t的哪些信息保留给ct，并采用Sigmoid和Tanh激活函数实现状态单元ct的更新：
it＝σ(Wi[HL,t-1,HL,t]+bi)
Figure BDA0003756690400000085
其中，λ代表Tanh函数，具体表示为
Figure BDA0003756690400000083
Wi和bi分别为输入门的权重和偏置。
Wc和bc分别为选择更新单元的权重和偏置。
更新后的ct为：
Figure BDA0003756690400000084
其中，*表示元素之间的点积。
信息经过选择性记忆和更新后，最终进入输出门。它完成两个任务：过滤信息和获得输出；状态单元ct被选择性地输出到下一个时刻并输出到外部。公式表达为：
ot＝σ(Wo[HL,t-1,HL,t]+bo)
Ht＝ot*λ(ct)
其中，Wo和bo分别为输出门的权重和偏置。
需注意的是，预测器的训练过程为监督学习。因此，训练后Bi-LSTM和堆栈自编码器共同组成整个预测模型。
此外，在采用误差反向传播算法训练预测器的同时对整个SAE网络进行了微调，其损失函数：
Figure BDA0003756690400000091
其中βall＝{W1,b1,...,WL,bL}。
步骤5中将训练好的预测模型在测试集上完成测试，将平方绝对误差(MAE)、均方根误差(RMSE)、平均绝对百分比误差(sMAPE)和拟合度(R2)作为评价指标，具体表示为：
Figure BDA0003756690400000092
Figure BDA0003756690400000093
Figure BDA0003756690400000094
Figure BDA0003756690400000095
其中
Figure BDA0003756690400000096
为Δt时间内的预测值，pΔt为Δt时间内的真实值。
为了说明本发明的可行性和优势，通过一个开放的API平台来获取西班牙马德里市区真实的聚合频谱数据来进行实验验证，开放API平台的网址为https://electrosense.org/。
利用的是Test_yago电子传感器，带宽为600MHz～610MHz，地理范围为2km2，中心坐标为[-3.76897,40.33633]，采集时长为1440分钟。
将获取到的聚合频谱数据按9:1划分为训练集和测试集，在预处理中加入滞后周期，其大小为20。
实验在Matlab2021a在配置为Intel(R)Core(TM)i7-9700 CPU@3.00GHz 3.00GHzCPU，16GB RAM和NVIDIA Quadro P2200显卡的PC上进行。
堆栈自编码器由2个自编码器组成，第一个自编码器的隐藏层大小为95，MaxEpochs为400，L2正则项系数(λ)为0.006，稀疏正则项系数(γ)为4，稀疏比例为0.2，第二个自编码器的隐藏层大小为90，MaxEpochs为400，L2正则项系数(λ)为0.004，稀疏正则项系数(γ)为4，稀疏比例为0.15。
预测器的隐藏层是由5层网络组成，其中包含3个Bi-LSTM层和2个dropout层，Bi-LSTM层的依次隐藏单元数为128,64,32，dropout下降因子都为0.2。
MaxEpochs为600，MiniBatchSize为50，学习率为0.05,学习率下降因子为0.25。
表1统计了在预测时长Δt为20分钟时的预测误差，预测拟合度R2。
由表1可知，本发明的预测误差是明显低于其他基线方法的。
具体来说，本发明比四种时间模型(包括ARIMA，ANN，LSTM和GRU)MAE，RMSE和sMAPE平均低44.69％，24.17％和35.37％。其原因为这几种模型只捕捉了频谱数据的潜在的时间依赖关系。
然后，与空间模型(Resnet-50和Xception)对比，以Resnet-50为例，本发明比其MAE，RMSE和sMAPE分别低了5.49％，2.79％和2.63％。其原因为空间模型只捕捉了不同频段之间的空间相关性。虽然CNN-GRU既能捕捉空间相关性又能捕捉时间相关性，但卷积操作破坏了原始频谱数据的相关性，导致丢失部分特征信息。
而本发明采用独特的堆栈自编码在维持原始频谱数据相关性的基础上，能够将高维频谱数据的时频依赖性转换为语义编码，这也是一种表示学习方式。
然后语义编码信息被预测器充分挖掘相关性，从而取得较好的预测性能。从预测拟合度来看，本发明虽然不是最优的，但依然为前列，值得注意的是拟合度是辅助评价指标。
表1本发明与其他基线方法的性能对比
Figure BDA0003756690400000101
Figure BDA0003756690400000111
图3-5为长期预测下(预测时长Δt为120分钟)本发明与其他基线的3项预测误差指标对比。由图3-5可知，本发明在长期预测中与其他基线对比同样存在优势，这说明本发明对预测时长存在一定的鲁棒性。这得益于SAEL-SP是监督学习与无监督学习的结合体，每个自编码器的单独训练带来了较高的增益，能够深度提取频谱数据潜在的颗粒化特征。因此，从多角度分析，本发明的综合预测性能是优于现有基线的。
以上仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，应视为本发明的保护范围。

Claims (8)

1.一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，所述方法基于堆栈自编码器和预测器所组成的预测模型实现，预测模型利用堆栈自编码器挖掘高维频谱数据的复杂依赖性后得到语义编码，所述语义编码即为低维特征表示，在其输出端连接一个预测器通过学习语义编码完成长期频谱预测。
2.根据权利要求1所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，所述方法包括：
步骤1：通过稀疏分布的频谱传感器获取来源于真实世界不同通信业务的频谱数据，并将其回传至频谱数据储存中心；
步骤2：读取数据存储中心中的原始频谱数据并进行数据预处理，得到训练集和测试集；
步骤3：将训练集输入到堆栈自编码器，采用Adam优化方法更新自编码器中的参数，使自编码器输入和输出之间的损失函数值最小化，完成训练；
步骤4：将训练集重新输入训练好的堆栈自编码器得到原始高维频谱数据的语义编码，即低维特征，将语义编码信息输入到预测器，采用Adam优化方法完成预测器训练，同时实现对堆栈自编码器的微调；
步骤5：将训练好的堆栈自编码器和预测器在测试集上进行在线测试，统计预测的性能指标。
3.根据权利要求2所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，所述预测模型采用Matlab2021a在配置为Intel(R)Core(TM)i7-9700 CPU@3.00GHz3.00GHz CPU，16GB RAM和NVIDIA Quadro P2200显卡的PC上搭建。
4.根据权利要求2所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，所述步骤2具体为采用零均值归一化方法对带宽范围为F的原始频谱数据进行归一化，并划分为训练集和测试集，数据集构造完成；
所述采用零均值归一化方法对带宽范围为F的原始频谱数据进行归一化，其归一化公式为：
Figure FDA0003756690390000011
其中，pf,t为第f,f∈{1,...,F}频点第t,t∈{1,...,T}时隙的归一化值，p'f,t为第f频点第t时隙的原始频谱值，
Figure FDA0003756690390000012
为第f频点T个时隙的均值，σf为第f频点T个时隙的方差。
5.根据权利要求2所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，步骤3所述堆栈自编码器由2个自编码器堆栈而成，单独训练每一个自编码器，输出和输入之间的损失函数为：
Figure FDA0003756690390000021
上式中，等号右侧第一项为均方误差项MSE，第二项为稀疏正则项SR，第三项为权重矩阵F范数F-norm；
Ql为第l个自编码器输入数据的尺寸，xl,q为第l个自编码器的第q个输入，
Figure FDA0003756690390000022
为第l个自编码器的第q个输出，γ为稀疏因子，Ml为第l个自编码器隐藏层节点数，ρ为一个目标激活值，
Figure FDA0003756690390000023
为第j个隐藏单元的平均激活值，λ为正则化系数，Wl和Wl'分别为第l个自编码器的编码和解码权重向量；
Figure FDA0003756690390000024
6.根据权利要求2所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，所述步骤3中将自编码器中的参数更新描述为一个最优化问题：
Figure FDA0003756690390000025
采用Adam优化方法得到最优的参数β*：
Figure FDA0003756690390000026
其中，β(τ)为第τ次迭代更新的参数集，η为学习率。
7.根据权利要求2所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，步骤4所述预测器是由3层的Bi-LSTM网络组成，微调过程中整个堆栈自编码器网络的损失函数为：
Figure FDA0003756690390000027
其中，βall＝{W1,b1,...,WL,bL}，P为总的输入频谱数据，
Figure FDA0003756690390000028
和pt分别为整个预测模型第t个时隙的输出向量和输入向量。
8.根据权利要求2所述的一种基于深度堆栈自编码器的长期频谱预测方法，其特征在于，步骤5所述性能指标包括平方绝对误差MAE、均方根误差RMSE、平均绝对百分比误差sMAPE和拟合度R2，具体表示为：
Figure FDA0003756690390000031
Figure FDA0003756690390000032
Figure FDA0003756690390000033
Figure FDA0003756690390000034
其中，
Figure FDA0003756690390000035
为Δt时间内的预测值，pΔt为Δt时间内的真实值。
CN202210872542.2A 2022-07-21 2022-07-21 一种基于深度堆栈自编码器的长期频谱预测方法 Pending CN115348182A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210872542.2A CN115348182A (zh) 2022-07-21 2022-07-21 一种基于深度堆栈自编码器的长期频谱预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210872542.2A CN115348182A (zh) 2022-07-21 2022-07-21 一种基于深度堆栈自编码器的长期频谱预测方法

Publications (1)

Publication Number Publication Date
CN115348182A true CN115348182A (zh) 2022-11-15

Family

ID=83950741

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210872542.2A Pending CN115348182A (zh) 2022-07-21 2022-07-21 一种基于深度堆栈自编码器的长期频谱预测方法

Country Status (1)

Country Link
CN (1) CN115348182A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116091786A (zh) * 2023-04-11 2023-05-09 厦门农芯数字科技有限公司 猪只估重的全息体尺自编码方法、系统、设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116091786A (zh) * 2023-04-11 2023-05-09 厦门农芯数字科技有限公司 猪只估重的全息体尺自编码方法、系统、设备及存储介质

Similar Documents

Publication Publication Date Title
CN111126488B (zh) 一种基于双重注意力的图像识别方法
CN113905391B (zh) 集成学习网络流量预测方法、系统、设备、终端、介质
CN106599797A (zh) 一种基于局部并行神经网络的红外人脸识别方法
CN109583565A (zh) 基于注意力模型长短时记忆网络的洪水预测方法
CN108876044B (zh) 一种基于知识增强神经网络的线上内容流行度预测方法
CN112819604A (zh) 基于融合神经网络特征挖掘的个人信用评估方法与系统
CN109492748B (zh) 一种基于卷积神经网络的电力系统的中长期负荷预测模型建立方法
CN111626764A (zh) 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
CN113591728A (zh) 基于集成深度学习的电能质量扰动分类方法
CN114493014A (zh) 多元时间序列预测方法、系统及计算机产品、存储介质
CN112183742A (zh) 基于渐进式量化和Hessian信息的神经网络混合量化方法
CN114912666A (zh) 一种基于ceemdan算法和注意力机制的短时客流量预测方法
CN115512545A (zh) 一种基于时空动态图卷积网络的交通速度预测方法
CN115659254A (zh) 一种双模态特征融合的配电网电能质量扰动分析方法
CN115034430A (zh) 碳排放量预测方法、装置、终端及存储介质
CN112766603A (zh) 一种交通流量预测方法、系统、计算机设备及存储介质
CN115759461A (zh) 一种面向物联网的多元时间序列预测方法及系统
CN115348182A (zh) 一种基于深度堆栈自编码器的长期频谱预测方法
CN110335160A (zh) 一种基于分组和注意力改进Bi-GRU的就医迁移行为预测方法及系统
CN107704944B (zh) 一种基于信息论学习的股市波动区间预测模型的构建方法
CN116306780B (zh) 一种动态图链接生成方法
Xu et al. Time series prediction via recurrent neural networks with the information bottleneck principle
CN111783688A (zh) 一种基于卷积神经网络的遥感图像场景分类方法
CN115329821A (zh) 一种基于配对编码网络和对比学习的舰船噪声识别方法
CN115062754A (zh) 一种基于优化胶囊的雷达目标识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination