CN114912673A - 一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法 - Google Patents

一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法 Download PDF

Info

Publication number
CN114912673A
CN114912673A CN202210473630.5A CN202210473630A CN114912673A CN 114912673 A CN114912673 A CN 114912673A CN 202210473630 A CN202210473630 A CN 202210473630A CN 114912673 A CN114912673 A CN 114912673A
Authority
CN
China
Prior art keywords
water level
layer
long
optimization algorithm
memory network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210473630.5A
Other languages
English (en)
Inventor
金彦伶
张雪洁
赵梦丽
朱云
韦一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hohai University HHU
Original Assignee
Hohai University HHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hohai University HHU filed Critical Hohai University HHU
Priority to CN202210473630.5A priority Critical patent/CN114912673A/zh
Publication of CN114912673A publication Critical patent/CN114912673A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A10/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
    • Y02A10/40—Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法，首先获取预测对象的基本信息数据，对数据进行预处理；其次构建添加注意力机制的双层长短时记忆网络预测模型；然后执行改进鲸鱼优化算法对模型的参数进行动态优化；最后将模型的最优参数代入模型中对水位进行预测。本发明的水位预测方法，将注意力机制引入模型的构建中，考虑了同一时间步不同特征对水位的影响程度，使得水位预测效果更加精确；使用改进的智能优化算法准确的寻找到神经网络的最优参数，平衡鲸鱼优化算法的全局搜索和局部搜索能力。参数搜索算法收敛速度快，使模型预测精度更高。

Description

一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法
技术领域
本发明涉及一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法，属于水文预测技术领域。
背景技术
随着科学技术的发展，深度学习被广泛运用于时间序列分析中，并且取得了良好的效果。水文数据受到多方面因素：降雨量、上游水位、水流量、季节等的影响，因而表现出复杂、不确定等特性，对水文时间序列的研究也受到这些因素的干扰。长短时记忆网络(LSTM)能够学习水文时间序列中长期的依赖信息，并且其结构中存在的门单元可以控制对时间序列的记忆，被广泛运用于水文时间序列预测中。采用LSTM对水文时间序列进行预测，能够更好的分析水文数据中蕴含的规律，对于防洪以及流域的协同调度有重要意义。
在LSTM神经网络构建的过程中，神经网络的结构对其预测结果和预测效率有很大的影响，利用智能优化算法对神经网络的参数进行动态调整可以提升其预测效率。鲸鱼优化算法(WOA)是2016年提出的新型群体智能优化算法。它模拟了座头鲸捕猎时使用的气泡网觅食法，具有操作简单、参数少的优点，在神经网络结构优化方面有广泛的应用。同时，它也存在着求解精度低、收敛速度慢和易陷入局部最优的问题。
发明内容
发明目的：针对现有水位预测技术的不足以及水位时间序列表现出的复杂、不确定的特点，本发明提供一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法。利用长短期记忆网络来捕捉时序数据中长时依赖的同时，引入注意力机制自适应地关注每个时间单位中的不同特征，并使用双层LSTM来获取水文时间序列中的信息。针对长短时记忆网络参数复杂，网络结构影响预测精度的问题，采用改进的鲸鱼优化算法对建立的水位预测模型进行参数优选，提高计算效率和预报精度。
技术方案：一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法，包括以下步骤：
步骤1：获取预测对象的基本信息数据，包括水文站的水位、水势、流量和上游水位数据，对数据进行预处理。
步骤2：构建添加注意力机制的双层长短时记忆网络预测模型。
步骤3：执行改进鲸鱼优化算法对预测模型的参数进行动态优化。使用优化后的鲸鱼优化算法对步骤2中的预测模型中的第一层LSTM隐藏层节点数、第二层LSTM隐藏层节点数、全连接层节点数、学习率、批处理数量和迭代次数进行动态参数优化。
步骤4：将预测模型的最优参数带入预测模型中，输入预测对象的基本信息数据，进行水位预测，得到最终的预测结果。
所述步骤1中使用的数据预处理方法是：对缺失的数据采用公式(1)进行线性插值，对水位值采用公式(2)进行标准化处理，即最大最小归一化。
Figure BDA0003624193480000021
其中，(x0,y0)和(x1,y1)为已知时间x0,x1对应的水位值y0,y1。x为时间区间[x0,x1]之间的时间。
Figure BDA0003624193480000022
其中，Xmax，Xmin分别为水位序列的最大值和最小值，X′i表示归一化后的值，Xi是原始序列中的水位值。
所述步骤2中建立的添加注意力机制的双层长短时记忆网络模型(ALSTM)，包括输入层、第一层LSTM、注意力层、第二层LSTM、全连接层与输出层这6个部分。将注意力机制添加进两层长短时记忆网络之间，通过注意力机制判断各时间步不同特征的重要程度，使得不同时刻的输入向量自适应选择相关程度不同的特征，以提升预测结果的准确性。第二层长短时记忆网络能够提高预测精度，学习高级别的时间特征，它同时还有助于逐步建立输入序列数据的更高级别的表示。添加的注意力层的表达式如公式(3)-(6)所示。
Figure BDA0003624193480000023
Figure BDA0003624193480000024
a＝softmax(ωTO′) (5)
Figure BDA0003624193480000025
其中，X＝[X1,X2,…,Xn]是输入特征向量序列，Xi是原始序列中的水位值，
Figure BDA0003624193480000026
表示第一层LSTM每一时间步的隐藏层向量，
Figure BDA0003624193480000027
为LSTM记忆单元向量，通过第一层LSTM网络的学习可以获得t时刻下的从Xt到
Figure BDA0003624193480000028
和
Figure BDA0003624193480000029
的映射。ωT,W,U均为权重矩阵，b为偏执项。通过softmax函数将所有的注意力权重和变为1，通过计算到的注意力权重，对输入特征向量序列X进行权重分配，得到
Figure BDA00036241934800000210
所述步骤3中采用的改进鲸鱼优化算法对预测模型的参数进行动态优化，包括以下步骤：
步骤3.1：设置步骤2中建立的预测模型的初始值，包括第一层LSTM隐藏层的神经元的数量和第二层LSTM隐藏层的神经元的数量、全连接神经元数量、学习率、批处理数量、迭代次数的最大边界值和最小边界值，利用鲸鱼优化算法对上述预测模型预设的初始值进行编码；
步骤3.2：初始化鲸鱼优化算法中的种群个数N，最大迭代次数Tmax等参数，对种群采取反向学习和个体排序的方法进行初始种群的选择，并将初始种群代表的参数传入步骤2的预测模型中，计算模型的适应度值并得出当前最优解X*；
步骤3.3：采用非线性收敛因子进行种群更新；
步骤3.4：将更新后的种群参数信息传入步骤2的预测模型中，计算适应度的值，如果适应度值相对当前适应度值更小，则覆盖当前最优解和适应度值。如果更大则保留当前的最优解和对应的适应度。
步骤3.5：判断训练次数是否达到最大迭代次数Tmax，若迭代次数小于Tmax，跳转到步骤3.3，若已经达到最大，则得到最佳LSTM隐藏层神经元的数量、全连接神经元数量、学习率、批处理数量和训练次数并将其赋予步骤2的模型中。
步骤3.2提到的反向学习方法初始化种群表达式为(7)所示。
Figure BDA0003624193480000031
其中，Yi表示第i只鲸鱼在d维空间中的位置，
Figure BDA0003624193480000032
Figure BDA0003624193480000033
Figure BDA0003624193480000034
和
Figure BDA0003624193480000035
分别表示
Figure BDA0003624193480000036
的下界和上界，
Figure BDA0003624193480000037
表示反向学习后的新个体，rand为0到1的随机数。
步骤3.2提到的个体排序方法将种群个体进行分层排序，根据个体间的关系，将种群中的个体分为L层，相同层的个体有相同的秩，记为Leveli。第一层的个体记为Level1，层级排序最高。对于相同层的个体，使用拥挤距离排序方法。计算表达式如公式8所示。
Figure BDA0003624193480000038
其中，Dis(i)表示个体的拥挤距离，第i个个体的拥挤距离初值设置为0，fMmax和fMmin为第M个目标函数的最大值和最小值。fM(i+1)和fM(i-1)为与i同一层且与其相邻的两个个体的第M个目标函数的值。拥挤距离越大，排序越高。
所述步骤3.3提到的非线性收敛因子计算表达式如公式9所示。
Figure BDA0003624193480000039
其中，Tmax表示最大迭代次数，μ和
Figure BDA00036241934800000310
是相关参数，本发明选取μ＝0.5，
Figure BDA00036241934800000311
一种计算机设备，该计算机设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行上述计算机程序时实现如上所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法。
一种计算机可读存储介质，该计算机可读存储介质存储有执行如上所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法的计算机程序。
有益效果：与现有技术相比，本发明具有以下优点：
(1)本发明在构建预测模型时，在双层长短时记忆网络之间引入注意力机制计算每个时间单位的不同特征的权重值，根据权重使得模型对每个特征的关注程度不同，模型的预测更加精确。
(2)本发明对鲸鱼优化算法从初始化种群和收敛因子两个方面进行优化，提高了模型的收敛速度，保证了算法全局搜索能力和局部搜索能力的平衡。
附图说明
图1为本发明实施例提供的整体工作流程图；
图2为本发明实施例中添加注意力机制的双层长短时记忆网络(ALSTM)预测模型结构示意图；
图3为本发明实施例中的改进鲸鱼优化算法(IWOA)的工作流程图；
图4为本发明实施例中改进鲸鱼优化算法优化预测模型的模型结构图。
具体实施方式
下面结合具体实施例，进一步阐明本发明，应理解这些实施例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。
如图1所示，基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其具体步骤如下：
步骤1：获取预测对象的基本信息数据，包括水文站的水位、水势、流量和上游水位数据，对数据进行预处理；
步骤2：构建添加注意力机制的双层长短时记忆网络预测模型；
步骤3：执行改进鲸鱼优化算法对模型的参数进行动态优化。对鲸鱼优化算法进行改进，主要从初始化种群和设置非线性收敛因子两个方面改进。对步骤2中构建的网络使用改进后的鲸鱼优化算法对模型中的第一层LSTM隐藏层节点数、第二层LSTM隐藏层节点数、全连接层节点数、学习率、批处理数量和迭代次数进行动态参数优化；
步骤4：将模型的最优参数带入模型中，输入预测对象的基本信息数据，进行水位预测，得到最终的预测结果。
步骤1采用公式(1)对缺失的水位数据进行插值处理，采用公式(2)对水位数据进行标准化处理；
Figure BDA0003624193480000041
其中，(x0,y0)和(x1,y1)为已知时间x0,x1对应的水位值y0,y1。x为时间区间[x0,x1]之间的时间。
Figure BDA0003624193480000051
其中，Xmax，Xmin分别为水位序列的最大值和最小值，X′i表示归一化后的值，Xi是原始序列中的水位值。
步骤2中添加注意力机制的双层长短时记忆网络预测模型依次包括输入层、第一层LSTM、注意力层、第二层LSTM、全连接层与输出层这6个部分。输入层将各属性元素组成特征向量序列，并将该序列输入第一层LSTM神经网络中。第一层LSTM用来获取输入的特征向量序列到记忆单元和隐藏层的状态。注意力层根据第一层LSTM获取的状态进行权重计算，并得到新的特征向量序列。第二层LSTM对注意力层得到的特征向量序列进行训练得到预测序列。全连接层将第二层LSTM的预测序列转化为特定形式的序列，输出层将根据全连接层的特定形式序列输出预测结果。
设计结构描述如下：
输入层输入的是预处理后的由预测时刻前12个时间片的水位、水势、流量、上游水位等属性元素组成的特征向量序列[X1,X2,…,Xn]，其中Xi∈RN，N是序列数据中的特征数量；
Figure BDA0003624193480000052
表示第一层LSTM每一时间步的隐藏层向量，
Figure BDA0003624193480000053
为LSTM记忆单元向量，通过第一层LSTM网络的学习可以获得t时刻下的从Xt到
Figure BDA0003624193480000054
和
Figure BDA0003624193480000055
的映射，如公式(3)所示。这一层获得的隐藏层和记忆单元向量将用于注意力权重的计算。
Figure BDA0003624193480000056
在注意力层中，通过对输入特征向量序列X＝[X1,X2,…,Xn]，进行加权求和计算得到注意力向量，计算公式如(4)-(6)所示。
Figure BDA0003624193480000057
a＝softmax(ωTO′) (5)
Figure BDA0003624193480000058
其中，ωT,W,U均为权重矩阵，b为偏执项。通过softmax函数将所有的注意力权重和变为1，通过计算到的注意力权重，对输入特征向量序列X进行权重分配，得到
Figure BDA0003624193480000059
注意力层的引入，选择性的关注不同的特征，将得到的新的向量
Figure BDA00036241934800000510
作为第二层LSTM的输入。通过第二层LSTM网络的学习，可以获得t时刻下的从
Figure BDA00036241934800000511
到隐藏层
Figure BDA00036241934800000512
的映射。将隐藏层向量作为全连接层的输入，获得想输出维度的向量，最后在输出层输出最终预测结果。
图3为改进的鲸鱼优化算法(IWOA)优化预测模型(ALSTM)的工作结构图，具体优化步骤如下：
步骤3.1：设置预测模型LSTM隐藏层神经元的数量、全连接神经元数量、学习率、批处理数量、迭代次数的最大边界值和最小边界值，改进鲸鱼优化算法(IWOA)对初始值进行编码；
步骤3.2：初始化IWOA算法中的种群个数N，最大迭代次数Tmax等参数，对种群采取反向学习和个体排序的方法进行初始种群的选择，并将参数传入添加注意力机制的双层长短时记忆网络(ALSTM)模型中，计算模型的适应度值并得出当前最优解X*；
步骤3.3：进行IWOA种群更新；
步骤3.4：将更新后的种群参数信息传入添加注意力机制的双层长短时记忆网络(ALSTM)中，计算适应度的值，如果适应度值更小，则覆盖当前最优解和适应度值。如果更大则保留当前的最优解和对应的适应度。
步骤3.5：判断训练次数是否达到最大迭代次数Tmax，若迭代次数小于Tmax，跳转到步骤3.3，若已经达到最大，得到最佳LSTM隐藏层神经元的数量、全连接神经元数量、学习率、批处理数量和训练次数并将其赋予ALSTM模型中；
步骤3.6：根据得到的最优ALSTM超参数建立ALSTM，对水文时间序列进行预测和分析。
图4为步骤3.2和3.3所述的改进鲸鱼优化算法的工作流程图，具体包括以下步骤：
步骤3.2.1：初始化算法中的种群个数N，最大迭代次数Tmax等参数；
步骤3.2.2：计算出初始种群的反向种群，反向种群计算表达式为公式(7)，将初始化种群和反向种群合并为2N的种群，使用分层排序和拥挤距离排序对种群中的个体进行排序，排序表达式为公式(8)，筛选出前N个个体作为新种群；
Figure BDA0003624193480000061
其中，Yi表示第i只鲸鱼在d维空间中的位置，
Figure BDA0003624193480000062
Figure BDA0003624193480000063
Figure BDA0003624193480000064
和
Figure BDA0003624193480000065
分别表示
Figure BDA0003624193480000066
的下界和上界，
Figure BDA0003624193480000067
表示反向学习后的新个体，rand为0到1的随机数。
将种群个体进行分层排序，根据个体间的关系，将种群中的个体分为L层，相同层的个体有相同的秩，记为Leveli。第一层的个体记为Level1，层级排序最高。对于相同层的个体，使用拥挤距离排序方法，如公式(8)所示。
Figure BDA0003624193480000068
其中，Dis(i)表示个体的拥挤距离，第i个个体的拥挤距离初值设置为0，fMmax和fMmin为第M个目标函数的最大值和最小值。fM(i+1)和fM(i-1)为与i同一层且与其相邻的两个个体的第M个目标函数的值。拥挤距离越大，排序越高。
步骤3.2.3：根据种群中个体的适应度值确定种群的最优个体，并设置迭代数t为1。
步骤3.2.4：进入循环，根据公式(9)设置收敛因子
Figure BDA0003624193480000071
的更新过程，判断
Figure BDA0003624193480000072
是否大于1，大于1则进行全局搜索，否则进行局部开发。
Figure BDA0003624193480000073
其中，Tmax表示最大迭代次数，μ和
Figure BDA0003624193480000074
是相关参数，选取μ＝0.5，
Figure BDA0003624193480000075
步骤3.2.5：更新个体位置信息，得到子代种群。
步骤3.2.6：重新计算子代种群中每个个体的适应度值，进行排序得到种群中的最优个体。
步骤3.2.7：判断算法循环是否达到最大迭代次数Tmax，如果没有则返回至步骤3.2.4继续下一轮的搜索，否则转到步骤3.2.8。
步骤3.2.8：输出最优解，结束。
步骤3.2.3中个体适应度使用均方根误差(RMSE)，它用来衡量观测值和真实值的偏差，值越小表示预测的准确率越高，如公式(10)所示。
Figure BDA0003624193480000076
n表示水位数据样本的数量，yi表示第i天的实际水位数据，
Figure BDA0003624193480000077
表示第i天预测的水位数据，
Figure BDA0003624193480000078
表示实际水位样本均值。
根据以上实施例可知，本发明实现了一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法，在双层长短时记忆网络中嵌入注意力模块，实现对水位的预测。为了获得更精确的模型，使用改进鲸鱼优化算法对预测模型的参数进行动态调整，优化预测模型的结构，进而实现对水位数据的精确预测。
显然，本领域的技术人员应该明白，上述的本发明实施例的基于鲸鱼优化算法和长短时记忆网络的水位预测方法各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明实施例不限制于任何特定的硬件和软件结合。

Claims (10)

1.一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，包括以下步骤：
步骤1：获取预测对象的基本信息数据，包括水文站的水位、水势、流量和上游水位数据，对数据进行预处理；
步骤2：构建添加注意力机制的双层长短时记忆网络预测模型；
步骤3：执行改进的鲸鱼优化算法对预测模型的参数进行动态优化；
步骤4：将预测模型的最优参数带入预测模型中，输入预测对象的基本信息数据，进行水位预测，得到最终的预测结果。
2.根据权利要求1所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述步骤1中对数据进行预处理，包括：
(1)对水位数据进行缺失值的线性插值；
(2)对水位数据进行归一化操作，即最大最小归一化。
3.根据权利要求1所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述步骤2中，添加注意力机制的双层长短时记忆网络预测模型，包括输入层、第一层LSTM、注意力层、第二层LSTM、全连接层与输出层；所述注意力机制添加在两层长短时记忆网络之间，通过注意力机制判断各时间步不同特征的重要程度，使得不同时刻的输入向量自适应选择相关程度不同的特征。
4.根据权利要求1所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述注意力机制对输入特征向量序列X＝[X1，X2，...，Xn]，进行加权求和计算得到注意力向量，计算公式如公式(1)-(3)：
Figure FDA0003624193470000011
a＝softmax(ωTO′) (2)
Figure FDA0003624193470000012
其中，ωT，W，U均为权重矩阵，b为偏执项；通过softmax函数将所有的注意力权重和变为1，通过计算到注意力权重，并对输入特征向量序列X进行权重分配，得到
Figure FDA0003624193470000013
5.根据权利要求1所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述步骤3执行改进的鲸鱼优化算法对模型的参数进行动态优化，步骤如下：
步骤3.1：设置添加注意力机制的双层长短时记忆网络模型的LSTM隐藏层神经元的数量、全连接神经元数量、学习率、批处理数量、迭代次数的最大边界值和最小边界值，利用鲸鱼优化算法对初始值进行编码；
步骤3.2：初始化鲸鱼优化算法中的参数，包括种群个数N，最大迭代次数Tmax，对种群采取反向学习和个体排序的方法进行初始种群的选择，并将初始种群代表的参数传入双层长短时记忆网络预测模型中，计算模型的适应度值并得出当前最优解X*；
步骤3.3：进行种群更新；
步骤3.4：将更新后的种群参数信息传入双层长短时记忆网络预测模型中，计算适应度的值，如果适应度值更小，则覆盖当前最优解和适应度值；如果更大则保留当前的最优解和对应的适应度；
步骤3.5：判断训练次数是否达到最大迭代次数Tmax，若迭代次数小于Tmax，跳转到步骤3.3，若已经达到最大，则得到最佳LSTM隐藏层神经元的数量、全连接神经元数量、学习率、批处理数量和训练次数并将其赋予双层长短时记忆网络预测模型中；
步骤3.6：根据得到的最优双层长短时记忆网络预测模型的超参数建立双层长短时记忆网络预测模型，对水文时间序列进行预测。
6.根据权利要求5所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，
步骤3.2提到的反向学习方法初始化种群表达式为(7)所示。
Figure FDA0003624193470000021
其中，Yi表示第i只鲸鱼在d维空间中的位置，
Figure FDA0003624193470000022
Figure FDA0003624193470000023
Figure FDA0003624193470000024
和
Figure FDA0003624193470000025
分别表示
Figure FDA0003624193470000026
的下界和上界，
Figure FDA0003624193470000027
表示反向学习后的新个体，rand为0到1的随机数。
7.根据权利要求5所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述步骤3.2提出的个体排序的方法为：
将种群个体进行分层排序，根据个体间的关系，将种群中的个体分为L层，相同层的个体有相同的秩，记为Leveli；第一层的个体记为Level1，层级排序最高；对于相同层的个体，使用拥挤距离排序方法；计算表达式如公式(5)所示，
Figure FDA0003624193470000028
其中，第i个个体的拥挤距离初值设置为0，fMmax和fMmin为第M个目标函数的最大值和最小值；fM(i+1)和fM(i-1)为与i同一层且与其相邻的两个个体的第M个目标函数的值；秩相同的情况下，拥挤距离越大，排序越高。
8.根据权利要求5所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述步骤3.2提出的适应度值，采用均方根误差，衡量观测值和真实值的偏差，值越小表示预测的准确率越高，如公式(6)所示：
Figure FDA0003624193470000031
其中，n表示水位数据样本的数量，yi表示第i天的实际水位数据，
Figure FDA0003624193470000032
表示第i天预测的水位数据，
Figure FDA0003624193470000033
表示实际水位样本均值。
9.根据权利要求5所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法，其特征在于，所述步骤3.3提出的种群更新方法中设计的非线性收敛因子如公式(7)所示：
Figure FDA0003624193470000034
其中，Tmax表示最大迭代次数，μ和
Figure FDA0003624193470000035
是相关参数，本文选取μ＝0.5，
Figure FDA0003624193470000036
10.一种计算机设备，其特征在于：该计算机设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行上述计算机程序时实现如权利要求1-9中任一项所述的基于鲸鱼优化算法和长短时记忆网络的水位预测方法。
CN202210473630.5A 2022-04-29 2022-04-29 一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法 Pending CN114912673A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210473630.5A CN114912673A (zh) 2022-04-29 2022-04-29 一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210473630.5A CN114912673A (zh) 2022-04-29 2022-04-29 一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法

Publications (1)

Publication Number Publication Date
CN114912673A true CN114912673A (zh) 2022-08-16

Family

ID=82765057

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210473630.5A Pending CN114912673A (zh) 2022-04-29 2022-04-29 一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法

Country Status (1)

Country Link
CN (1) CN114912673A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116015967A (zh) * 2023-01-06 2023-04-25 重庆邮电大学 基于改进鲸鱼算法优化delm的工业互联网入侵检测方法
CN116369867A (zh) * 2023-06-06 2023-07-04 泉州装备制造研究所 一种基于woa-1dcnn-lstm的足底地面反作用力预测方法及系统
CN116796611A (zh) * 2023-08-22 2023-09-22 成都理工大学 基于旗鱼算法与人工神经网络调整桥梁扣索索力的方法
CN116930741A (zh) * 2023-07-19 2023-10-24 中国电子产品可靠性与环境试验研究所（（工业和信息化部电子第五研究所）（中国赛宝实验室）） 开关器件故障程度诊断方法、装置和计算机设备
CN118297106A (zh) * 2024-06-06 2024-07-05 山东和光智慧能源科技有限公司 一种天然气管道泄漏风险预测优化方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116015967A (zh) * 2023-01-06 2023-04-25 重庆邮电大学 基于改进鲸鱼算法优化delm的工业互联网入侵检测方法
CN116015967B (zh) * 2023-01-06 2024-05-31 重庆软江图灵人工智能科技有限公司 基于改进鲸鱼算法优化delm的工业互联网入侵检测方法
CN116369867A (zh) * 2023-06-06 2023-07-04 泉州装备制造研究所 一种基于woa-1dcnn-lstm的足底地面反作用力预测方法及系统
CN116369867B (zh) * 2023-06-06 2023-11-21 泉州装备制造研究所 一种基于woa-1dcnn-lstm的足底地面反作用力预测方法及系统
CN116930741A (zh) * 2023-07-19 2023-10-24 中国电子产品可靠性与环境试验研究所（（工业和信息化部电子第五研究所）（中国赛宝实验室）） 开关器件故障程度诊断方法、装置和计算机设备
CN116796611A (zh) * 2023-08-22 2023-09-22 成都理工大学 基于旗鱼算法与人工神经网络调整桥梁扣索索力的方法
CN116796611B (zh) * 2023-08-22 2023-10-31 成都理工大学 基于旗鱼算法与人工神经网络调整桥梁扣索索力的方法
CN118297106A (zh) * 2024-06-06 2024-07-05 山东和光智慧能源科技有限公司 一种天然气管道泄漏风险预测优化方法
CN118297106B (zh) * 2024-06-06 2024-09-20 山东和光智慧能源科技有限公司 一种天然气管道泄漏风险预测优化方法

Similar Documents

Publication Publication Date Title
CN114912673A (zh) 一种基于鲸鱼优化算法和长短时记忆网络的水位预测方法
CN109978228B (zh) 一种pm2.5浓度预测方法、装置及介质
CN114626512B (zh) 一种基于有向图神经网络的高温灾害预报方法
CN113468803B (zh) 一种基于改进的woa-gru洪水流量预测方法及系统
CN109583565B (zh) 基于注意力模型长短时记忆网络的洪水预测方法
Shamim et al. A comparison of artificial neural networks (ANN) and local linear regression (LLR) techniques for predicting monthly reservoir levels
CN111767517B (zh) 一种应用于洪水预测的BiGRU多步预测方法、系统及存储介质
CN114492922A (zh) 一种中长期发电量预测方法
CN115018193A (zh) 基于lstm-ga模型的时间序列风能数据预测方法
CN112733997A (zh) 基于woa-lstm-mc的水文时间序列预测优化方法
CN116894384B (zh) 一种多风机风速时空预测方法及系统
CN115169439A (zh) 一种基于序列到序列网络的有效波高预测方法和系统
Almutairi et al. An intelligent deep learning based prediction model for wind power generation
CN114694379B (zh) 一种基于自适应动态图卷积的交通流预测方法及系统
Robati et al. Inflation rate modeling: adaptive neuro-fuzzy inference system approach and particle swarm optimization algorithm (ANFIS-PSO)
CN118040678A (zh) 一种短期海上风电功率组合预测方法
Thamilselvan et al. An extensive review of rainfall prediction using machine learning and deep learning techniques
CN112183721B (zh) 一种基于自适应差分进化的组合水文预测模型的构建方法
Chen et al. Short-term Wind Speed Forecasting Based on Singular Spectrum Analysis, Fuzzy C-Means Clustering, and Improved POABP
CN116911178A (zh) 一种基于气象预报的中小型水库容量预测方法及系统
CN116663404A (zh) 一种耦合人工智能和贝叶斯理论的洪水预报方法及系统
Wang The analysis and re-optimization of food systems by using intelligent optimization algorithms and machine learning
CN113723707A (zh) 一种基于深度学习模型的中长期径流趋势预测方法
CN114021847A (zh) 基于isgu混合模型的短期电力负荷预测方法及系统
CN112183814A (zh) 一种短期风速预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination