CN113705864A - 基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置 - Google Patents

基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置 Download PDF

Info

Publication number
CN113705864A
CN113705864A CN202110928865.4A CN202110928865A CN113705864A CN 113705864 A CN113705864 A CN 113705864A CN 202110928865 A CN202110928865 A CN 202110928865A CN 113705864 A CN113705864 A CN 113705864A
Authority
CN
China
Prior art keywords
data
vmd
cnn
bilstm
att
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110928865.4A
Other languages
English (en)
Inventor
宋文辉
董怡
刘雪梅
钱峰
谢文君
刘扬
杨礼波
李海瑞
刘佳琪
王立虎
陈继坤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North China University of Water Resources and Electric Power
Original Assignee
North China University of Water Resources and Electric Power
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North China University of Water Resources and Electric Power filed Critical North China University of Water Resources and Electric Power
Priority to CN202110928865.4A priority Critical patent/CN113705864A/zh
Publication of CN113705864A publication Critical patent/CN113705864A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01W—METEOROLOGY
    • G01W1/00—Meteorology
    • G01W1/10—Devices for predicting weather conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/26—Government or public services

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Economics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Human Resources & Organizations (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Development Economics (AREA)
  • Primary Health Care (AREA)
  • Environmental & Geological Engineering (AREA)
  • Public Health (AREA)
  • Probability & Statistics with Applications (AREA)
  • Water Supply & Treatment (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Educational Administration (AREA)
  • Atmospheric Sciences (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Ecology (AREA)
  • Environmental Sciences (AREA)

Abstract

本发明属于气象干旱预测技术领域，具体涉及一种基于VMD‑CNN‑BiLSTM‑ATT混合模型的气象干旱预测方法及装置，该方法包括获得历史气象数据，作为输入数据，对输入数据进行变分模态分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集；将训练集的数据输入到卷积神经网络的输入层，计算得到输出矩阵；将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，关注未来时刻与当前时刻的相关关系；在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值；对所有CNN‑BiLSTM‑ATT预测值进行重组叠加，得到输出序列。与传统的干旱预测方法相比，本发明的预测误差更小，预测精度和可信度更高。

Description

基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及 装置
技术领域
本发明属于气象干旱预测技术领域，具体涉及一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置。
背景技术
干旱是最常见、最复杂的自然灾害之一，也是对人类社会影响最为严重的气象灾害之一。相较于其他自然灾害，干旱发展缓慢，特征不易量化，影响方式直接，危害面积大。准确而可靠的气象干旱预测可以为水资源管理以及现代智慧水利带来巨大的好处。但是，不稳定、跳跃性和随机性这3个特征使得准确预测干旱非常困难。
在气候变化和人类活动影响下，降雨过程存在高度变异性，对现有预测模型和方法的实用性提出了巨大挑战。降雨量序列的非线性和不稳定性使得运用单一模型对降雨量序列预测并不能完全捕捉降雨序列中的非线性因素。
发明内容
针对现有技术中存在的问题，本发明提出一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置，与传统的干旱预测方法相比，预测误差更小，预测精度和可信度更高。
为解决上述技术问题，本发明采用以下的技术方案：
本发明提供了一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，该方法包含以下步骤：
步骤1，获得历史气象数据，作为输入数据，对输入数据进行变分模态分解，即VMD分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集；
步骤2，将训练集的数据输入到卷积神经网络的输入层，计算得到输出矩阵，并对输出矩阵进行最大池化；
步骤3，将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，不仅关注每个特定时间步，还关注未来时刻与当前时刻的相关关系；
步骤4，在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值；
步骤5，对所有CNN-BiLSTM-ATT预测值进行重组叠加，得到输出序列；
步骤6，对所得输出序列计算其SPEI值，从而得到干旱级别。
进一步地，所述步骤1中在获得输入数据后，对输入数据进行清洗，对空数据、非数值型数据进行过滤，输入数据完成清洗后再进行VMD分解。
进一步地，所述步骤1中对输入数据进行变分模态分解的方法包含以下步骤：
步骤S11，通过对每个模态进行希尔伯特变换以获得解析信号：
Figure BDA0003210326030000021
式中，δ(t)表示狄拉克分布，uk(t)表示第k个模态函数，*表示卷积运算，j表示虚部，t表示时间。
步骤S12，对每个解析信号与预先估计中心频率
Figure BDA0003210326030000022
进行融合，在每个基频带调制相应的模态频谱：
Figure BDA0003210326030000023
步骤S13，计算上述模态频谱的解调信号梯度的平方L2范数，估计出各个模态信号的带宽，约束变分模型表达如下：
Figure BDA0003210326030000031
式中，f(t)表示原始序列，uk表示分解得到k个IMF分量，ωk表示分量的中心频率，
Figure BDA0003210326030000032
表示约束变量，s.t.{·}表示约束条件。
进一步地，引入二次惩罚因子α和Lagrange乘法算子λ(t)，求取步骤S13中约束变分模型的最优解，拓展的Lagrange表达式如下：
Figure BDA0003210326030000033
利用交替方向乘子算法求拓展的Lagrange最优解的方法为：
步骤S131，初始化
Figure BDA0003210326030000034
步骤S132，执行循环n＝n+1；
步骤S133，对于所有ω≥0，更新
Figure BDA0003210326030000035
Figure BDA0003210326030000036
式中，ω为频率，
Figure BDA0003210326030000037
分别为
Figure BDA0003210326030000038
f(ω)、λ(ω)对应的傅里叶变换；
步骤S134，更新ωk：
Figure BDA0003210326030000039
步骤S135，更新
Figure BDA0003210326030000041
Figure BDA0003210326030000042
步骤S136，重复步骤S132～S135，直至满足停止迭代条件：
Figure BDA0003210326030000043
进一步地，在将训练集的数据输入到卷积神经网络的输入层之前，创建线程池，将训练集和测试集分别投入线程池，以输入数据为基准，对线程池中的训练集和测试集进行相关性分析，摒弃高频噪声分量。
进一步地，所述步骤2中的卷积神经网络由一个卷积层和一个最大池化层组成，卷积核的数据为128，时域窗长度为3，其中卷积层描述为：
Figure BDA0003210326030000044
式中，
Figure BDA0003210326030000045
表示第k个特征映射的输出，f(·)表示激活函数；Wk表示连接到第k个特征映射的权重；x表示输入数据；i、j表示卷积核的尺寸；bk表示第k个特征映射的偏差。
进一步地，所述步骤3中双向长短期记忆网络的计算定义如下：
ft＝σ(Wfx·xt+Wfh·ht-1+bf)
it＝σ(Wixxt+Wihht-1+bi)
Figure BDA0003210326030000046
ot＝σ(Wox·xt+Woh·ht-1+bo)
Figure BDA0003210326030000047
式中，ft、it、gt、ot、ht分别是遗忘门、输入门、输入单元、输出门、输出向量；xt表示输入向量，ct-1表示上一时刻单元状态；W是权重矩阵，b是偏置项，σ表示sigmod激活函数，
Figure BDA0003210326030000051
表示tanh激活函数，
Figure BDA0003210326030000052
表示矩阵元素相乘。
进一步地，所述步骤4中注意力机制层描述为：
(1)求解当前深度的注意力权重at：
at＝vT·tanh(Wa·Xt+b)
式中，vT,Wa和b分别是权重和偏差，Xt为输入向量；
(2)通过softmax函数求解归一化权重：
Figure BDA0003210326030000053
(3)将原始输入向量Xt和注意力权重αt加权求和得到新的隐藏层状态Ct：
Figure BDA0003210326030000054
进一步地，所述步骤6中SPEI值的计算公式为：
Figure BDA0003210326030000055
式中，c0、c1、c2、d1、d2、d3均为常数，
Figure BDA0003210326030000056
F(x)表示概率分布函数。
本发明还提供了一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测装置，包括：
VMD分解模块，用于获得历史气象数据，作为输入数据，对输入数据进行变分模态分解，即VMD分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集；
卷积神经网络计算模块，用于将训练集的数据输入到卷积神经网络的输入层，计算得到输出矩阵，并对输出矩阵进行最大池化；
双向长短期记忆网络计算模块，用于将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，不仅关注每个特定时间步，还关注未来时刻与当前时刻的相关关系；
注意力机制计算模块，用于在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值；
输出序列获得模块，用于对所有CNN-BiLSTM-ATT预测值进行重组叠加，得到输出序列；
干旱级别计算模块，用于对所得输出序列计算其SPEI值，从而得到干旱级别。
与现有技术相比，本发明具有以下优点：
1、变分模态分解(VMD)是一种自适应信号分解方法，可以有效地将测试信号分解成一组有限带宽的中心频率，不同于EMD和EEMD方法，VMD分解方法采用了非递归及变分求解模式处理原始信号，具有较好的抗噪声性能和非平稳信号处理效果，有效避免了EMD和EEMD方法在分解过程中存在的模态混叠问题。总之，通过变分模态分解(VMD)分解气象序列得到多个相对稳定的本征模态分量，使模型更好的捕捉特征，以解决气象序列所存在的不稳定性问题。
2、卷积神经网络(CNN)是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一，能够挖掘数据中的深层特征，是一种可靠的特征提取技术。但是CNN在前一时刻的信息和下一时刻的信息无关，为了解决此问题，将CNN和双向长短期记忆网络(BiLSTM)进行融合，将数据的特征提取与预测任务集成在一起，提高了预测模型的关联性和预测精度。
3、将双向长短期记忆网络(BiLSTM)与注意力机制(ATT)深入融合，在BiLSTM每一层输出特征向量后添加注意力机制层，计算隐藏层特征向量不同时间步的权重，使得模型能够学习更复杂的抽象特征，增强模型非线性表达能力。
4、将变分模态分解(VMD)与CNN-BiLSTM-ATT预测模型相结合，构成VMD-CNN-BiLSTM-ATT混合模型，有效提高了预测精度。与传统的气象干旱预测方法相比，本发明的预测误差更小，预测精度和可信度更高，拟合效果好，可以推广到多种时间尺度的干旱预测中，预测结果可为抗旱减灾以及水资源调度提供参考，助力智慧水网的构建。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法的流程示意图；
图2是CNN-BiLSTM-ATT预测模型的结构示意图；
图3是使用本发明方法、LSTM、CNN-LSTM、VMD-SVR以及Adaboost方法对未来1个月的降雨量预测曲线；
图4是使用本发明方法、LSTM、CNN-LSTM、VMD-SVR以及Adaboost方法对未来1，3，6月时间尺度下月降水量预测曲线对比图；
图5是使用本发明方法、LSTM、CNN-LSTM、VMD-SVR以及Adaboost方法对未来1，3，6月时间尺度下月降水量的指标评价；
图6是使用本发明方法、LSTM、CNN-LSTM、VMD-SVR以及Adaboost方法对未来1，3，6月时间尺度下平均气温预测曲线对比图；
图7是使用本发明方法、LSTM、CNN-LSTM、VMD-SVR以及Adaboost方法对未来1，3，6月时间尺度下平均气温的指标评价；
图8是本发明方法、LSTMAC方法对未来预测1个月的干旱风险等级对比；
图9是本发明实施例的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测装置的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
如图1和图2所示，本实施例的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，该方法包含以下步骤：
步骤S1，获得历史气象数据，作为输入数据，对输入数据进行清洗，对空数据、非数值型数据等非法数据进行过滤。
步骤S2，对清洗后的输入数据进行变分模态分解，即VMD分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集，其中测试集占20％。
变分模态分解(VMD)是一种自适应、完全非递归的模态变分和信号处理技术，克服了经验模态分解方法存在的模态分量混叠的问题，并且具有更坚实的理论基础。此算法在整个流程中首先将每种模态的中心频率和带宽进行自适应匹配，然后划分各个模态分量和信号频域，最后得到分解信号，其基本实现过程如下：
步骤S21，通过对每个模态进行希尔伯特变换以获得解析信号：
Figure BDA0003210326030000091
式中，δ(t)表示狄拉克分布，uk(t)表示第k个模态函数，*表示卷积运算，j表示虚部，t表示时间。
步骤S22，对每个解析信号与预先估计中心频率
Figure BDA0003210326030000092
进行融合，在每个基频带调制相应的模态频谱：
Figure BDA0003210326030000093
步骤S23，计算上述模态频谱的解调信号梯度的平方L2范数，估计出各个模态信号的带宽，约束变分模型表达如下：
Figure BDA0003210326030000094
式中，f(t)表示原始序列，uk表示分解得到k个IMF分量，ωk表示分量的中心频率，
Figure BDA0003210326030000095
表示约束变量，s.t.{·}表示约束条件。
为了求取上述约束变分模型的最优解，引入二次惩罚因子α和Lagrange乘法算子λ(t)，其中二次惩罚因子是为了在高斯噪声存在的条件下保证信号的重构精度，Lagrange乘法算子是为了使约束条件保持严格性，拓展的Lagrange表达式如下：
Figure BDA0003210326030000101
利用交替方向乘子算法求上述增广Lagrange函数的最优解，输入数据x被分解成k个IMF分量，实现步骤如下：
步骤S231，初始化
Figure BDA0003210326030000102
步骤S232，执行循环n＝n+1；
步骤S233，对于所有ω≥0，更新
Figure BDA0003210326030000103
Figure BDA0003210326030000104
式中，ω为频率，
Figure BDA0003210326030000105
分别为
Figure BDA0003210326030000106
f(ω)、λ(ω)对应的傅里叶变换；
步骤S234，更新ωk：
Figure BDA0003210326030000107
步骤S235，更新
Figure BDA0003210326030000108
Figure BDA0003210326030000109
步骤S236，重复步骤S232～S235，直至满足停止迭代条件：
Figure BDA0003210326030000111
步骤S3，创建线程池，将训练集和测试集分别投入线程池，以输入数据为基准，对线程池中的训练集和测试集进行相关性分析，摒弃高频噪声分量。
线程池是一种线程的使用模式，本发明用来降低线程使用过程中由于频繁创建和销毁所带来的资源消耗。
步骤S4，将步骤S3处理过的输入数据输入到卷积神经网络的输入层，计算得到输出矩阵，并对输出矩阵进行最大池化，提高网络的泛化能力并且提升计算速度。
卷积神经网络由一个卷积层和一个最大池化层组成，卷积核的数据为128，时域窗长度为3，其中卷积层描述为：
Figure BDA0003210326030000112
式中，
Figure BDA0003210326030000113
表示第k个特征映射的输出，f(·)表示激活函数；Wk表示连接到第k个特征映射的权重；x表示输入数据；i、j表示卷积核的尺寸；bk表示第k个特征映射的偏差。
步骤S5，将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，不仅关注每个特定时间步，还关注未来时刻与当前时刻的相关关系。双向长短期记忆网络的计算定义如下：
ft＝σ(Wfx·xt+Wfh·ht-1+bf)
it＝σ(Wixxt+Wihht-1+bi)
Figure BDA0003210326030000114
ot＝σ(Wox·xt+Woh·ht-1+bo)
Figure BDA0003210326030000121
式中，ft、it、gt、ot、ht分别是遗忘门、输入门、输入单元、输出门、输出向量；xt表示输入向量，ct-1表示上一时刻单元状态；W是权重矩阵，b是偏置项，σ表示sigmod激活函数，
Figure BDA0003210326030000122
表示tanh激活函数，
Figure BDA0003210326030000123
表示矩阵元素相乘。
步骤S6，在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值。
通过注意力机制对BiLSTM预测过程中隐藏层特征向量添加权重，进行有选择性的学，将更多注意力分配给重要的时间步，关注提供有用信息的节点，从而提高预测精度。注意力机制层描述为：
(1)求解当前深度的注意力权重at：
at＝vT·tanh(Wa·Xt+b)
式中，vT,Wa和b分别是权重和偏差，Xt为输入向量；
(2)通过softmax函数求解归一化权重：
Figure BDA0003210326030000124
(3)将原始输入向量Xt和注意力权重αt加权求和得到新的隐藏层状态Ct：
Figure BDA0003210326030000125
步骤S7，对所有CNN-BiLSTM-ATT预测值进行重组叠加，得到输出序列。
步骤S8，对所得输出序列计算其SPEI值，从而得到干旱级别。SPEI采用降水与蒸散的差值构建，通过正态标准化处理差值，最终用差值的累积频率分布来划分等级，SPEI值的计算公式如下：
Figure BDA0003210326030000131
式中，常数c0＝2.515 517，c1＝0.802 853，c2＝0.010 328，d1＝1.432 788，d2＝0.189 269，d3＝0.001 308，
Figure BDA0003210326030000132
F(x)表示概率分布函数。
如图9所示，与上述一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法相应地，本实施例还提出一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测装置，包括：
VMD分解模块91，用于获得历史气象数据，作为输入数据，对输入数据进行变分模态分解，即VMD分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集；
卷积神经网络计算模块92，用于将训练集的数据输入到卷积神经网络的输入层，计算得到输出矩阵，并对输出矩阵进行最大池化；
双向长短期记忆网络计算模块93，用于将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，不仅关注每个特定时间步，还关注未来时刻与当前时刻的相关关系；
注意力机制计算模块94，用于在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值；
输出序列获得模块95，用于对所有CNN-BiLSTM-ATT预测值进行重组叠加，得到输出序列；
干旱级别计算模块96，用于对所得输出序列计算其SPEI值，从而得到干旱级别。
下面以具体试验说明本发明的效果。
本次实验选取河南省郑州市气象站1951年至2020年气象观测数据作为研究对象。实验以传统LSTM、CNN-LSTM、VMD-SVR、Adaboost为对比算法，对本发明提出的VMD-CNN-BiLSTM-ATT模型进行验证。验证过程中选择平均绝对误差(MAE)，均方根误差(RMSE)，纳什指数(NSE)，相对误差(RE)以及决定系数(R2)作为评估标准，实现对算法的精确度，可信度，准确度的全面评估。其中平均绝对误差(MAE)和相对误差(RE)分别评估绝对误差与相对误差，RMSE评估均方根误差，R2评估模型拟合效果。NSE纳什指数用于评估预测模型的可信度与稳定度(NSE取值为负无穷至1，NSE接近1，表示模型质量好，模型可信度高；NSE接近0，表示模拟结果接近观测值的平均值水平，即总体结果可信，但过程模拟误差大；NSE远远小于0，则模型不可信)。
实验采用基于VMD-CNN-BiLSTM-ATT的气象干旱预测方法及传统LSTM、CNN-LSTM、VMD-SVR、Adaboost方法对气象数据中月降水量进行未来1个月预测，预测结果如图3所示。从图3中可以看出本发明所提出方法预测精度最高，拟合效果最好。
图4是采用本方法以及传统LSTM、CNN-LSTM、VMD-SVR、Adaboost方法对未来1，3，6月时间尺度下月降水量的预测曲线对比图。
表1月降雨量评估指标对比
Figure BDA0003210326030000141
Figure BDA0003210326030000151
图5是对预测曲线的指标评价。结合图4、图5以及表1可以看出本发明所提出方法平均绝对误差位于5.7～9.9区间，而其它模型位于27.4～48.0区间，即本发明所提方法误差远远低于其它对比模型；在纳什指数方面，本发明所提方法处于0.94及以上水平，而其它模型在-0.22～0.57区间，数据表明本发明所提方法可信度最高；在拟合优度方面，本发明所提方法R2数值处于0.93以上；综合图表信息，本发明所提预测方法精度最高、稳定性、可信度最好且具有较高的鲁棒性。此外，随着预测时长的增加，各模型预测误差逐渐增大，稳定性降低，而本发明所提出方法仍保持较高水准。
表2月平均气温评估指标对比
Figure BDA0003210326030000152
图6是采用本方法以及传统LSTM、CNN-LSTM、Adaboost、VMD-SVR方法对未来1，3，6月时间尺度下平均气温的预测曲线对比图，图7是对预测曲线的指标评价。同理，结合图5、图6以及表2可以发现本发明所提方法平均绝对误差位于0.34～0.62区间，而其它模型位于2.88～5.21区间；在均方根误差方面，同样是本发明所提方法误差远远低于其它对比模型；在纳什指数方面，本发明所提方法处于0.98及以上水平，而其它模型在0.63～0.87区间，数据表明本发明所提方法可信度最高；在拟合优度方面，本发明所提方法R2数值处于0.98以上；综合图表信息，本发明所提预测方法精度最高、稳定性、可信度最好。此外，在月平均气温特征预测评估中，各模型效果相比于月降雨量预测均有所提高，原因在于气温数据呈现周期性。并且预测6个月的模型性能要优于预测3个月，进一步证明了稳定的周期性数据更容易预测。
图8是使用本发明方法、LSTM方法对未来预测1个月的干旱风险等级对比。从图中可以看出，在发生轻度干旱时候，本发明所提方法与传统LSTM方法基本皆能准确预测；而当发生中度及以上干旱时，本发明所提方法预测结果较为接近实际情况，传统LSTM预测偏差较大，基本已经不具有参考价值。
需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。
本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储在计算机可读取的存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。
最后需要说明的是：以上所述仅为本发明的较佳实施例，仅用于说明本发明的技术方案，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (10)

1.一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，该方法包含以下步骤：
步骤1，获得历史气象数据，作为输入数据，对输入数据进行变分模态分解，即VMD分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集；
步骤2，将训练集的数据输入到卷积神经网络的输入层，计算得到输出矩阵，并对输出矩阵进行最大池化；
步骤3，将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，不仅关注每个特定时间步，还关注未来时刻与当前时刻的相关关系；
步骤4，在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值；
步骤5，对所有CNN-BiLSTM-ATT预测值进行重组叠加，得到输出序列；
步骤6，对所得输出序列计算其SPEI值，从而得到干旱级别。
2.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，所述步骤1中在获得输入数据后，对输入数据进行清洗，对空数据、非数值型数据进行过滤，输入数据完成清洗后再进行VMD分解。
3.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，所述步骤1中对输入数据进行变分模态分解的方法包含以下步骤：
步骤S11，通过对每个模态进行希尔伯特变换以获得解析信号：
Figure FDA0003210326020000021
式中，δ(t)表示狄拉克分布，uk(t)表示第k个模态函数，*表示卷积运算，j表示虚部，t表示时间。
步骤S12，对每个解析信号与预先估计中心频率
Figure FDA0003210326020000022
进行融合，在每个基频带调制相应的模态频谱：
Figure FDA0003210326020000023
步骤S13，计算上述模态频谱的解调信号梯度的平方L2范数，估计出各个模态信号的带宽，约束变分模型表达如下：
Figure FDA0003210326020000024
式中，f(t)表示原始序列，uk表示分解得到k个IMF分量，ωk表示分量的中心频率，
Figure FDA0003210326020000025
表示约束变量，s.t.{·}表示约束条件。
4.根据权利要求3所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，引入二次惩罚因子α和Lagrange乘法算子λ(t)，求取步骤S13中约束变分模型的最优解，拓展的Lagrange表达式如下：
Figure FDA0003210326020000026
利用交替方向乘子算法求拓展的Lagrange最优解的方法为：
步骤S131，初始化
Figure FDA0003210326020000027
步骤S132，执行循环n＝n+1；
步骤S133，对于所有ω≥0，更新
Figure FDA0003210326020000028
Figure FDA0003210326020000031
式中，ω为频率，
Figure FDA0003210326020000032
分别为
Figure FDA0003210326020000033
f(ω)、λ(ω)对应的傅里叶变换；
步骤S134，更新ωk：
Figure FDA0003210326020000034
步骤S135，更新
Figure FDA0003210326020000035
Figure FDA0003210326020000036
步骤S136，重复步骤S132～S135，直至满足停止迭代条件：
Figure FDA0003210326020000037
5.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，在将训练集的数据输入到卷积神经网络的输入层之前，创建线程池，将训练集和测试集分别投入线程池，以输入数据为基准，对线程池中的训练集和测试集进行相关性分析，摒弃高频噪声分量。
6.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，所述步骤2中的卷积神经网络由一个卷积层和一个最大池化层组成，卷积核的数据为128，时域窗长度为3，其中卷积层描述为：
Figure FDA0003210326020000038
式中，
Figure FDA0003210326020000041
表示第k个特征映射的输出，f(·)表示激活函数；Wk表示连接到第k个特征映射的权重；x表示输入数据；i、j表示卷积核的尺寸；bk表示第k个特征映射的偏差。
7.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，所述步骤3中双向长短期记忆网络的计算定义如下：
ft＝σ(Wfx·xt+Wfh·ht-1+bf)
it＝σ(Wixxt+Wihht-1+bi)
Figure FDA0003210326020000042
ot＝σ(Wox·xt+Woh·ht-1+bo)
Figure FDA0003210326020000043
式中，ft、it、gt、ot、ht分别是遗忘门、输入门、输入单元、输出门、输出向量；xt表示输入向量，ct-1表示上一时刻单元状态；W是权重矩阵，b是偏置项，σ表示sigmod激活函数，
Figure FDA0003210326020000044
表示tanh激活函数，
Figure FDA0003210326020000045
表示矩阵元素相乘。
8.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，所述步骤4中注意力机制层描述为：
(1)求解当前深度的注意力权重at：
at＝vT·tanh(Wa·Xt+b)
式中，vT,Wa和b分别是权重和偏差，Xt为输入向量；
(2)通过softmax函数求解归一化权重：
Figure FDA0003210326020000046
(3)将原始输入向量Xt和注意力权重αt加权求和得到新的隐藏层状态Ct：
Figure FDA0003210326020000051
9.根据权利要求1所述的基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法，其特征在于，所述步骤6中SPEI值的计算公式为：
Figure FDA0003210326020000052
式中，c0、c1、c2、d1、d2、d3均为常数，
Figure FDA0003210326020000053
F(x)表示概率分布函数。
10.一种基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测装置，其特征在于，包括：
VMD分解模块，用于获得历史气象数据，作为输入数据，对输入数据进行变分模态分解，即VMD分解，得到若干个本征模态分量IMF，将各个IMF分量分别拆分为训练集和测试集；
卷积神经网络计算模块，用于将训练集的数据输入到卷积神经网络的输入层，计算得到输出矩阵，并对输出矩阵进行最大池化；
双向长短期记忆网络计算模块，用于将池化得到的矩阵作为双向长短期记忆网络的输入，同时从正向和反向处理数据，不仅关注每个特定时间步，还关注未来时刻与当前时刻的相关关系；
注意力机制计算模块，用于在双向长短期记忆网络的输出侧添加注意力机制层，为隐藏层特征向量添加权重，再次计算输出数据，即预测值；
输出序列获得模块，用于对所有CNN-BiLSTM-ATT预测值进行重组叠加，得到输出序列；
干旱级别计算模块，用于对所得输出序列计算其SPEI值，从而得到干旱级别。
CN202110928865.4A 2021-08-13 2021-08-13 基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置 Pending CN113705864A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110928865.4A CN113705864A (zh) 2021-08-13 2021-08-13 基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110928865.4A CN113705864A (zh) 2021-08-13 2021-08-13 基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置

Publications (1)

Publication Number Publication Date
CN113705864A true CN113705864A (zh) 2021-11-26

Family

ID=78652599

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110928865.4A Pending CN113705864A (zh) 2021-08-13 2021-08-13 基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置

Country Status (1)

Country Link
CN (1) CN113705864A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114973665A (zh) * 2022-05-19 2022-08-30 南京信息工程大学 一种结合数据分解和深度学习的短时交通流预测方法
CN115220133A (zh) * 2022-07-19 2022-10-21 海南大学 一种多气象要素降雨预测方法、装置、设备及存储介质
CN115630726A (zh) * 2022-09-01 2023-01-20 华能江苏综合能源服务有限公司 基于vmd-bilstm神经网络融合注意力机制的屋顶光伏功率预测方法
CN115719243A (zh) * 2022-12-01 2023-02-28 广东电网有限责任公司 一种基于PSO-CNN-BILSTM-Attention的煤炭需求量预测方法
CN115796351A (zh) * 2022-11-24 2023-03-14 河海大学 基于变分模态分解和微波衰减的降雨短临预测方法及装置
CN115808627A (zh) * 2023-02-03 2023-03-17 泉州装备制造研究所 一种锂电池soh预测方法及装置
CN116485010A (zh) * 2023-03-20 2023-07-25 四川省雅安市气象局 一种基于循环神经网络的s2s降水预测方法
CN117114190A (zh) * 2023-08-29 2023-11-24 华中科技大学 一种基于混合深度学习的河道径流预测方法及设备

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114973665A (zh) * 2022-05-19 2022-08-30 南京信息工程大学 一种结合数据分解和深度学习的短时交通流预测方法
CN115220133A (zh) * 2022-07-19 2022-10-21 海南大学 一种多气象要素降雨预测方法、装置、设备及存储介质
CN115220133B (zh) * 2022-07-19 2023-05-26 海南大学 一种多气象要素降雨预测方法、装置、设备及存储介质
CN115630726A (zh) * 2022-09-01 2023-01-20 华能江苏综合能源服务有限公司 基于vmd-bilstm神经网络融合注意力机制的屋顶光伏功率预测方法
CN115630726B (zh) * 2022-09-01 2024-01-30 华能江苏综合能源服务有限公司 基于vmd-bilstm神经网络融合注意力机制的屋顶光伏功率预测方法
CN115796351A (zh) * 2022-11-24 2023-03-14 河海大学 基于变分模态分解和微波衰减的降雨短临预测方法及装置
CN115796351B (zh) * 2022-11-24 2024-03-22 河海大学 基于变分模态分解和微波衰减的降雨短临预测方法及装置
CN115719243A (zh) * 2022-12-01 2023-02-28 广东电网有限责任公司 一种基于PSO-CNN-BILSTM-Attention的煤炭需求量预测方法
CN115808627A (zh) * 2023-02-03 2023-03-17 泉州装备制造研究所 一种锂电池soh预测方法及装置
CN116485010A (zh) * 2023-03-20 2023-07-25 四川省雅安市气象局 一种基于循环神经网络的s2s降水预测方法
CN116485010B (zh) * 2023-03-20 2024-04-16 四川省雅安市气象局 一种基于循环神经网络的s2s降水预测方法
CN117114190A (zh) * 2023-08-29 2023-11-24 华中科技大学 一种基于混合深度学习的河道径流预测方法及设备

Similar Documents

Publication Publication Date Title
CN113705864A (zh) 基于VMD-CNN-BiLSTM-ATT混合模型的气象干旱预测方法及装置
Quej et al. ANFIS, SVM and ANN soft-computing techniques to estimate daily global solar radiation in a warm sub-humid environment
Khodayar et al. Rough deep neural architecture for short-term wind speed forecasting
Lozano et al. Spatial-temporal causal modeling for climate change attribution
CN112434848B (zh) 基于深度信念网络的非线性加权组合风电功率预测方法
CN109919364A (zh) 基于自适应降噪和集成lstm的多变量时间序列预测方法
CN114912077B (zh) 一种融合随机搜索与混合分解误差订正的海浪预报方法
Stefanakos Fuzzy time series forecasting of nonstationary wind and wave data
Liang et al. A combined model based on CEEMDAN, permutation entropy, gated recurrent unit network, and an improved bat algorithm for wind speed forecasting
CN114330935B (zh) 基于多种结合策略集成学习的新能源功率预测方法和系统
Li et al. A novel combined prediction model for monthly mean precipitation with error correction strategy
Yu et al. Oil price forecasting with an EMD-based multiscale neural network learning paradigm
Bi et al. Multi-indicator water quality prediction with attention-assisted bidirectional LSTM and encoder-decoder
Massaoudi et al. Performance evaluation of deep recurrent neural networks architectures: Application to PV power forecasting
CN111553510A (zh) 一种短期风速预测方法
O’Shaughnessy et al. Sparse Bayesian learning with dynamic filtering for inference of time-varying sparse signals
Nazir et al. Development of multidecomposition hybrid model for hydrological time series analysis
CN114548586A (zh) 一种基于混合模型的短期电力负荷预测方法及系统
Castro-Camilo et al. Bayesian space-time gap filling for inference on extreme hot-spots: an application to Red Sea surface temperatures
CN109255368B (zh) 随机选取特征的方法、装置、电子设备及存储介质
Tanaka et al. Symplectic spectrum Gaussian processes: learning Hamiltonians from noisy and sparse data
Xu et al. Improved monthly runoff time series prediction using the CABES-LSTM mixture model based on CEEMDAN-VMD decomposition
Wang et al. Multi-scale deep learning and optimal combination ensemble approach for AQI forecasting using big data with meteorological conditions
CN116822722A (zh) 水位预测方法、系统、装置、电子设备及介质
Couta et al. River flow forecasting using long short-term memory

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination