CN114648170A - 基于混合深度学习模型的水库水位预测预警方法及系统 - Google Patents
基于混合深度学习模型的水库水位预测预警方法及系统 Download PDFInfo
- Publication number
- CN114648170A CN114648170A CN202210366608.0A CN202210366608A CN114648170A CN 114648170 A CN114648170 A CN 114648170A CN 202210366608 A CN202210366608 A CN 202210366608A CN 114648170 A CN114648170 A CN 114648170A
- Authority
- CN
- China
- Prior art keywords
- reservoir
- water level
- data
- lstm
- conv1d
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 title claims abstract description 129
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000013136 deep learning model Methods 0.000 title claims abstract description 13
- 239000002245 particle Substances 0.000 claims abstract description 70
- 230000007246 mechanism Effects 0.000 claims abstract description 46
- 238000005457 optimization Methods 0.000 claims abstract description 42
- 238000012549 training Methods 0.000 claims abstract description 33
- 238000012544 monitoring process Methods 0.000 claims abstract description 16
- 210000002569 neuron Anatomy 0.000 claims description 39
- 239000011159 matrix material Substances 0.000 claims description 31
- 230000006870 function Effects 0.000 claims description 17
- 230000032683 aging Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 13
- 230000008859 change Effects 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 9
- 238000012360 testing method Methods 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 4
- 230000001186 cumulative effect Effects 0.000 claims description 3
- 230000007774 longterm Effects 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 2
- 238000012512 characterization method Methods 0.000 claims 1
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 230000036541 health Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 238000009795 derivation Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000012850 discrimination method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000002779 inactivation Effects 0.000 description 1
- 238000003973 irrigation Methods 0.000 description 1
- 230000002262 irrigation Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000007634 remodeling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Strategic Management (AREA)
- Artificial Intelligence (AREA)
- Human Resources & Organizations (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Tourism & Hospitality (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Entrepreneurship & Innovation (AREA)
- Development Economics (AREA)
- Public Health (AREA)
- Water Supply & Treatment (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种基于混合深度学习模型的水库水位预测预警方法及系统,该方法包括:1)构建基于注意力机制和改进粒子群Conv1D‑LSTM优化混合模型:获取水库雨水情数据作为模型训练数据,搭建基于注意力机制的Conv1D‑LSTM混合模型,然后采用改进粒子群优化算法优化所述Conv1D‑LSTM混合模型;2)加载基于注意力机制和改进粒子群Conv1D‑LSTM优化混合模型;获取水库雨水情实时监测数据,而后输入模型进行水库水位预测,得到水库水位预测值;3)判断预测水位是否处于安全区间,是则正常进行水库水位调度,否则对比水库水位预警标准,输出水库各参数信息及预警等级,进而结合输出参数进行水库水位调度,以将水库水位调度至安全区间。该方法及系统有利于提高水库水位预测的准确性。
Description
技术领域
本发明属于水库水位预测预警技术领域,具体涉及一种基于混合深度学习模型的水库水位预测预警方法及系统。
背景技术
水库是指拦洪蓄水和调节水流的水利工程建筑物,具有防洪、供水、农业灌溉、发电等作用,因此水库的健康监测十分重要。
水库水位监测一直是水库健康监测项目中最为重要的监测目标之一,其直接影响着水库的健康状况,因此科学且合理的进行水库水位调度对于维护水库健康是十分必要的。
现有的水库水位调度技术,基于传感器采集水库实时水位,再凭借人工经验及简单的数学推导公式进行水库水位的实时调度。这种方法对于数据的利用比较片面,忽略了采集到的水库各项指标,导致耗费巨大资源采集到的水库数据搁置,同时还需投入资源进行维护。而在水库水位调度过程中,大多凭借人工经验及简单的数学推导公式,通常不能科学、合理的进行,并且仅能进行水库水位的实时调度,不能依据未来水库水位的变化趋势进行水库水位调度,以应对未来极端气候。
发明内容
本发明的目的在于提供一种基于混合深度学习模型的水库水位预测预警方法及系统,该方法及系统有利于提高水库水位预测的准确性。
为实现上述目的,本发明采用的技术方案是:一种基于混合深度学习模型的水库水位预测预警方法,包括以下步骤:
1)构建基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型:获取水库雨水情数据作为模型训练数据,搭建基于注意力机制的Conv1D-LSTM混合模型,然后采用改进粒子群优化算法优化基于注意力机制的Conv1D-LSTM混合模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;
2)加载基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;获取水库雨水情实时监测数据,而后输入模型进行水库水位预测,得到水库水位预测值;
3)判断预测水位是否处于安全区间,是则将获取到的数据存入数据库,正常进行水库水位调度,否则对比水库水位预警标准,输出水库各参数信息及预警等级,进而结合输出参数进行水库水位调度,以将水库水位调度至安全区间。
进一步地,所述步骤1)中,构建基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型的具体方法为:
S1、获取水库雨水情数据,选择采集时间、水库水位、泄洪量、降雨量特征作为模型训练数据,形成数据集;
S2、对数据集中数据进行预处理并构造时效因子和水位分量,然后将数据集划分为训练集和测试集,再分别重塑为3D数据;
S3、搭建并通过训练集训练得到基于注意力机制的Conv1D-LSTM混合模型;
S4、采用改进粒子群优化算法优化基于注意力机制的Conv1D-LSTM混合模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;
S5、通过测试集对得到的模型进行评估,以验证模型泛化能力;然后将训练并评估完成的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型发布到云端或储存在本地,以备调用。
进一步地,所述步骤S2中,对数据集中数据进行预处理并构造时效因子和水位分量的具体方法为:
S201、将数据集中数据按采集时间进行排序;
S202、对于存在缺失值的数据,采用缺失值的前一个值对缺失值进行填补;
S203、构造时效因子:根据数据采集时间以及采集的水库数据,通过函数f(t)构造0.01t和ln(0.01t)两个时效分量,其中f(t)=c1t+c2lnt,c1、c2为系数,t为监测当日至起始观测日的累计天数;
S204、构造水位分量:水位分量反应了水库水位变化的趋势和速度,水库水位采集时间定义为Tt(t=1,2,…,n),按如下函数求取水位分量:
S205、对数据集中数据进行最大最小值归一化。
进一步地,水库雨水情数据集样本数为samples,特征features为time_effcent、rainfall、flood_Discharge、water_ago1Level、water_ago2Level、water_Level;将其重塑为3D数据,形状为(samples,width,features),重塑后有N=(sample-swidth+1)个向量矩阵单元。
进一步地,所述步骤S3中,搭建基于注意力机制的Conv1D-LSTM混合模型的具体方法为:
S301、构建Conv1D堆叠层;Conv1D堆叠层由Input层和两层Conv1D组成,从Input层获取数据,使用卷积核为(4,3)的Conv1D对数据进行特征提取,提取完成后将数据输入卷积核为(3,3)的Conv1D中进一步提取数据特征;
S302、构建第一LSTM层;获取步骤S302中处理完成的数据,输入神经元个数为98的LSTM层中,训练完成加入Dropout使神经元概率性失活,最终输出向量矩阵集合ht,表征长期记忆的候选态Ct;
S303、构建第二LSTM层;获取步骤S302中的ht,Ct作为第二LSTM层输入;第二LSTM层神经元个数为4,训练完成加入Dropout使神经元概率性失活,最终输出向量矩阵集合ht;
S304、构建Attention层;获取步骤S303中向量矩阵集合ht作为Attention层输入,Attention获取到向量矩阵集合ht后给予向量矩阵单元不同的注意力权重,最终输出含有注意力权重的向量矩阵集合Aht;
S305、构建MaxPooling1D层;获取步骤S304中含有注意力权重的向量矩阵集合Aht作为MaxPool1D层输入,MaxPooling1D进行最大值池化,最终输出向量矩阵Max(Aht);
S306、构建Flatten层;获取步骤S305中向量矩阵Max(Aht)作为Flatten层输入,Flatten层将矩阵向量Max(Aht)拆解拼接为一维向量yf,即把多维的输入一维化;
S307、构建Dense堆叠层;Dense堆叠层中含有神经元个数60的第一Dense层,神经元个数为1的第二Dense层;获取步骤S306中一维向量yf,使用神经元个数为60的第一Dense层,提取全连接化一维向量yf中与水库水位预测相关的数据特征,提取全连接化得到一维向量
进一步地,所述步骤S4中,采用改进粒子群优化算法对基于注意力机制的Conv1D-LSTM混合模型的滑窗宽度width、第一LSTM层神经元个数及其Dropout率、第二LSTM层神经元个数及其Dropout率、第一Dense神经元个数、学习率、batch_size共八个超参数进行寻优,具体方法为:
S401、设置改进粒子群优化算法的迭代次数、种群数量,搜寻维度为使用改进粒子群优化算法寻优的超参数个数;
S402、定义寻优目标:获取基于注意力机制的Conv1D-LSTM混合模型架构,将模型中滑窗宽度width、第一LSTM层神经元个数及其Dropout率、第二LSTM层神经元个数及其Dropout率、第一Dense神经元个数、学习率、batch_size八个超参数使用未知数c[0]~c[7]替换,替换完成后将模型MSE设置为返回值,以备后续使用;
S403、初始化粒子群:根据步骤S402中寻优目标的寻优超参数,限定种群粒子各维度的初始化位置及速度,即寻优范围;限定完成后,进行初始化,并将初始化参数赋值给c[0]~c[7],运行基于注意力机制的Conv1D-LSTM混合模型,并获取模型最终返回的MSE;
S404、根据寻优目标的寻优超参数,限定种群各维度的搜索位置和速度,以保证寻优超参数的合理性;设置完成后获取步骤S403中MSE最接近零的粒子,记录其搜寻到的超参数和位置及速度,由此进行第一轮迭代;当出现MSE更接近于零的粒子,更新记录的超参数,并重新记录粒子位置及速度;
S405、获取步骤D405中搜索到的最优超参数,将其代入模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型。
进一步地,所述步骤2)中,加载云端或本地储存的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型,并采用大数据组件Kafka对获取的水库雨水情实时监测数据进行处理,处理完成后输入模型,进行水库水位预测。
本发明还提供了一种水库水位预测预警系统,包括存储器、处理器以及存储于存储器上并能够被处理器运行的计算机程序指令,当处理器运行该计算机程序指令时,能够实现上述的方法步骤。
与现有技术相比,本发明具有以下有益效果:提供了一种基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型的水库水位预测预警方法及系统,与其他线性模型相比,该混合模型为非线性多维度预测,具有较高的预测准确度,且该模型训练中输入和构造了丰富的特征,具有一定的鲁棒性;此外,该模型属于时序预测模型,使用该模型进行水库水位预测,可把握未来水库水位的变化趋势,以提前调度水库水位。本方法根据数据采集时间,历史水库水位,挖掘出能体现水库水位在时间轴上的变化的时效因子,能体现历史水位的变化关系的水位分量,并纳入模型进行训练,有效解决了传统方法无法挖掘和使用到历史数据、不同特征维度之间的影响关系的问题;此外,使用改进粒子群进行优化,降低了模型的训练难度,且提高了模型水库水位预测的准确率。
附图说明
图1是本发明实施例的方法实现流程图。
图2是本发明实施例中数据重塑过程示意图。
图3是本发明实施例中基于注意力机制的Conv1D-LSTM混合模型的架构图。
图4是本发明实施例中改进PSO寻优过程示意图。
图5是本发明实施例中改进PSO寻优结构示意图。
图6是本发明实施例中预测值与真实值拟合曲线图。
具体实施方式
下面结合附图及实施例对本发明做进一步说明。
应该指出,以下详细说明都是示例性的,旨在对本申请提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本申请的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
如图1所示,本实施例提供了一种基于混合深度学习模型的水库水位预测预警方法,包括以下步骤:
1)构建基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型:获取水库雨水情数据作为模型训练数据,搭建基于注意力机制的Conv1D-LSTM混合模型,然后采用改进粒子群优化算法(改进PSO)优化基于注意力机制的Conv1D-LSTM混合模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型。
本发明根据项目需求及所具有的水库雨水情数据,构建基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型进行水库水位预测,模型的构建过程如下:
S1、获取水库雨水情数据,选择采集时间、水库水位、泄洪量、降雨量等特征作为模型训练数据,形成数据集。
S2、对数据集中数据进行预处理并构造时效因子和水位分量,然后将数据集划分为训练集和测试集,再将训练集和测试集中数据分别重塑为3D数据。其具体过程为:
S201、将数据集中数据按采集时间进行排序。在本实施例中,排序方式为升序。
S202、对于存在缺失值的数据,采用缺失值的前一个值对缺失值进行填补。
S203、构造时效因子:根据数据采集时间以及采集的水库数据,通过函数f(t)构造0.01t和ln(0.01t)两个时效分量,其中f(t)=c1t+c2lnt,c1、c2为系数,t为监测当日至起始观测日的累计天数。
S204、构造水位分量:水位分量反应了水库水位变化的趋势和速度。水库水位采集时间定义为Tt(t=1,2,…,n),按如下函数求取水位分量:
构造了时效因子和水位分量后,作为特征数据输入模型进行训练。
S205、对数据集中数据进行最大最小值归一化。
S206、将数据集划分为训练集和测试集,其中数据集前0.7部分作为训练集,后0.3部分作为测试集。
S207、数据重塑
获取步骤S206中数据,并将该数据重塑为3D数据,重塑过程如图2所示。
图2中水库雨水情数据集样本数为samples,特征features为time_effcent、rainfall、flood_Discharge、water_ago1Level、water_ago2Level、water_Level;将其重塑为3D数据,形状为(samples,width,features),重塑后有N=(sample-swidth+1)个向量矩阵单元。
S3、搭建并通过训练集训练得到基于注意力机制的Conv1D-LSTM混合模型,其架构如图3所示。搭建模型的具体过程为:
S301、构建Conv1D堆叠层;Conv1D堆叠层由Input层和两层Conv1D组成,从Input层获取数据,使用卷积核为(4,3)的Conv1D对数据进行特征提取,提取完成后将数据输入卷积核为(3,3)的Conv1D中进一步提取数据特征。
S302、构建第一LSTM层;获取步骤S302中处理完成的数据,输入神经元个数为98的LSTM层中,训练完成加入Dropout(Dropout=0.254)使神经元概率性失活,最终输出向量矩阵集合ht,表征长期记忆的候选态Ct。
S303、构建第二LSTM层;获取步骤S302中的ht,Ct作为第二LSTM层输入;第二LSTM层神经元个数为4,训练完成加入Dropout(Dropout=0.000)使神经元概率性失活,最终输出向量矩阵集合ht。
S304、构建Attention层;获取步骤S303中向量矩阵集合ht作为Attention层输入,Attention获取到向量矩阵集合ht后给予向量矩阵单元不同的注意力权重,最终输出含有注意力权重的向量矩阵集合Aht。
S305、构建MaxPooling1D层;获取步骤S304中含有注意力权重的向量矩阵集合Aht作为MaxPool1D层输入,MaxPooling1D进行最大值池化,最终输出向量矩阵Max(Aht)。
S306、构建Flatten层;获取步骤S305中向量矩阵Max(Aht)作为Flatten层输入,Flatten层将矩阵向量Max(Aht)拆解拼接为一维向量yf,即把多维的输入一维化。
S307、构建Dense堆叠层;Dense堆叠层中含有神经元个数60的第一Dense层,神经元个数为1的第二Dense层;获取步骤S306中一维向量yf,使用神经元个数为60的第一Dense层,提取全连接化一维向量yf中与水库水位预测相关的数据特征,提取全连接化得到一维向量
S4、采用改进粒子群优化算法优化基于注意力机制的Conv1D-LSTM混合模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型。
具体地,采用改进粒子群优化算法对基于注意力机制的Conv1D-LSTM混合模型的滑窗宽度width、第一LSTM层神经元个数及其Dropout率、第二LSTM层神经元个数及其Dropout率、第一Dense神经元个数、学习率、batch_size共八个超参数进行寻优,如图4所示,其具体过程为:
S401、设置改进粒子群优化算法的迭代次数、种群数量,搜寻维度为使用改进粒子群优化算法寻优的超参数个数。
S402、定义寻优目标
获取基于注意力机制的Conv1D-LSTM混合模型架构,将模型中滑窗宽度width、第一LSTM层神经元个数及其Dropout率、第二LSTM层神经元个数及其Dropout率、第一Dense神经元个数、学习率、batch_size八个超参数使用未知数c[0]~c[7]替换,替换完成后将模型MSE设置为返回值,以备后续使用。
S403、初始化改进粒子群
根据步骤S402中寻优目标的寻优超参数,限定种群粒子各维度的初始化位置及速度,即寻优范围;限定完成后,进行初始化,并将初始化参数赋值给c[0]~c[7],运行基于注意力机制的Conv1D-LSTM混合模型,并获取模型最终返回的MSE。
S404、迭代更新
根据寻优目标的寻优超参数,限定种群各维度的搜索位置和速度,以保证寻优超参数的合理性;设置完成后获取步骤S403中MSE最接近零的粒子,记录其搜寻到的超参数和位置及速度,由此进行第一轮迭代;当出现MSE更接近于零的粒子,更新记录的超参数,并重新记录粒子位置及速度。
本实施例提出了一种新的惯性权重迭代方式,其函数表达式如下所示:
其中,iter为当前迭代次数,itermax为最终迭代次数,ωmax为最大惯性权重,ωmin为最小惯性权重,σ为伸缩系数,取值范围(0,+∞),一般设为5,θ为变形系数,取值范围(-1,+∞),一般设置为0。
式(1)使用正切函数将迭代次数映射到整个实数区间中。
式(2)由sigmoid函数变种而来,保留了sigmoid函数的部分性质,能够将式(1)中的实数H映射到设定好的权重取值区间中,其中的伸缩系数σ可以控制函数的形状,该值越小,惯性权重的递减越平滑。
式(3)可以通过调整变形系数θ,改变函数的形状,该值在(-1,0)区间时,惯性权重快速下降的节点推迟,PSO算法更注重全局寻优能力,相应的局部收敛能力会有所下降,该值在(0,+∞)区间时,惯性权重快速下降的节点提早,此时PSO算法更注重局部收敛能力,相应的更容易陷入局部最优。
该权重更新方式可以有效的兼顾前期全局寻优能力与后期收敛能力。
本实施例还提出了一种新的变异判别方式,其实现过程如下所示:
当ω<0.9ωmax+0.1ωmin,变异种群中最优粒子的位置,使其跳出当前的局部最优,变异方式如下:
当ω<0.1ωmax+0.9ωmin,变异种群中最劣粒子的位置,使其跳到自身历史最优点附近,寻找局部最优点,变异方式如下:
S405、获取步骤D405中搜索到的最优超参数,将其代入模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型。
S5、通过测试集对得到的模型进行评估,以验证模型泛化能力;然后将训练并评估完成的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型发布到云端或储存在本地,以备调用。
2)加载基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;获取水库雨水情实时监测数据,而后输入模型进行水库水位预测,得到水库水位预测值。
具体地,加载云端或本地储存的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型,并采用大数据组件Kafka对获取的水库雨水情实时监测数据进行处理,处理完成后输入模型,进行水库水位预测。
Kafka组件的处理过程为:读入水库雨水情实时监测数据;生产者通过调用Kafka相关的pythonAPI,将读取出来的消息,生产并push到Broker中;消费者则通过相应的分区分配策略,通过pull操作数据从broker拉取出来。
获取到加载的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型,对获取的水库雨水情实时监测数进行处理,处理完成的数据输入模型进行水库水位的预测。
3)将获取的水库水位预测值与水库水位标准对比,判断预测水位是否处于安全区间,是则将获取到的数据存入数据库,正常进行水库水位调度,否则对比水库水位预警标准,输出水库各参数信息及预警等级,进而结合输出参数(包括降雨量、泄洪量、水库水位、预警等级等)进行水库水位调度,以将水库水位调度至安全区间。
在本实施例中,使用改进粒子群算法对基于注意力机制Conv1D-LSTM混合模型的八个超参数进行寻优,最优参数如下表所示:
以基于注意力机制Conv1D-LSTM混合模型的MSE作为评价指标,即MSE收敛于0,在迭代过程中loss越来小,表示该超参数越优。迭代过程如图5所示:
图5是使用25个粒子进行80次迭代的结果,可见其fitness越来越小,即MSE越来越接近于0,说明改进PSO寻到的超参数越好。在进行33次迭代后,改进PSO搜寻到最优超参数。
使用基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型进行水库水位预测,预测结果拟合如图6所示:
使用该模型对未来89天水库水位进行预测。由上图可知,基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型预测较为准确。
使用MAE(平均绝对误差)、MSE(均方误差)、RMSE(均方根误差)、R2(决定系数)评估模型,评估结果如下表:
使用基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型进行水库水位预测,由表可知R2=0.962779接近于1,表示模型有较好的预测效果;MSE=0.615235该值越接近于0说明模型拟合的越好。MAE=0.496774,该值说明进行n(n=1,2,3…)次预测,模型产生的误差稳定在0.496774米左右。
本方法根据数据采集时间和历史水库水位,挖掘出能体现水库水位在时间轴上的变化的时效因子,能体现历史水位的变化关系的水位分量,并将时效因子及水位分量纳入模型进行训练,同时进行多次评估,有效的提高了泛化能力及准确率。同时,将水库历史水位、降雨量、泄洪量、时效因子、水位分量等作为注意力机制和改进粒子群Conv1D-LSTM优化混合模型的输入特征,训练完成后该模型在使用过程中受外部环境影响较小,具有一定的鲁棒性。此外,本方法在LSTM层前使用Conv1D进行影响水库水位变化的数据信息提取,能最大限度挖掘重要特征并将其提取出来输入LSTM层中进行模型训练。而且,本方法使用CLA(Conv1D-LSTM-Attention)架构,即在LSTM输出的向量矩阵集合加以注意力权重,该架构能有效的区分LSTM输出向量矩阵的重要程度,从而提取到对水库水位预测更为准确数据信息。进一步地,本方法使用改进粒子群优化算法,让基于注意力机制的Conv1D-LSTM混合模型能自动寻参,降低了模型训练难度的同时提高了模型的水库水位预测准确率。
本实施例还提供了一种水库水位预测预警系统,包括存储器、处理器以及存储于存储器上并能够被处理器运行的计算机程序指令,当处理器运行该计算机程序指令时,能够实现上述的方法步骤。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述,仅是本发明的较佳实施例而已,并非是对本发明作其它形式的限制,任何熟悉本专业的技术人员可能利用上述揭示的技术内容加以变更或改型为等同变化的等效实施例。但是凡是未脱离本发明技术方案内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与改型,仍属于本发明技术方案的保护范围。
Claims (8)
1.一种基于混合深度学习模型的水库水位预测预警方法,其特征在于,包括以下步骤:
1)构建基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型:获取水库雨水情数据作为模型训练数据,搭建基于注意力机制的Conv1D-LSTM混合模型,然后采用改进粒子群优化算法优化基于注意力机制的Conv1D-LSTM混合模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;
2)加载基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;获取水库雨水情实时监测数据,而后输入模型进行水库水位预测,得到水库水位预测值;
3)判断预测水位是否处于安全区间,是则将获取到的数据存入数据库,正常进行水库水位调度,否则对比水库水位预警标准,输出水库各参数信息及预警等级,进而结合输出参数进行水库水位调度,以将水库水位调度至安全区间。
2.根据权利要求1所述的基于混合深度学习模型的水库水位预测预警方法,其特征在于,所述步骤1)中,构建基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型的具体方法为:
S1、获取水库雨水情数据,选择采集时间、水库水位、泄洪量、降雨量特征作为模型训练数据,形成数据集;
S2、对数据集中数据进行预处理并构造时效因子和水位分量,然后将数据集划分为训练集和测试集,再分别重塑为3D数据;
S3、搭建并通过训练集训练得到基于注意力机制的Conv1D-LSTM混合模型;
S4、采用改进粒子群优化算法优化基于注意力机制的Conv1D-LSTM混合模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型;
S5、通过测试集对得到的模型进行评估,以验证模型泛化能力;然后将训练并评估完成的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型发布到云端或储存在本地,以备调用。
3.根据权利要求2所述的基于混合深度学习模型的水库水位预测预警方法,其特征在于,所述步骤S2中,对数据集中数据进行预处理并构造时效因子和水位分量的具体方法为:
S201、将数据集中数据按采集时间进行排序;
S202、对于存在缺失值的数据,采用缺失值的前一个值对缺失值进行填补;
S203、构造时效因子:根据数据采集时间以及采集的水库数据,通过函数f(t)构造0.01t和ln(0.01t)两个时效分量,其中f(t)=c1t+c2lnt,c1、c2为系数,t为监测当日至起始观测日的累计天数;
S204、构造水位分量:水位分量反应了水库水位变化的趋势和速度,水库水位采集时间定义为Tt(t=1,2,…,n),按如下函数求取水位分量:
S205、对数据集中数据进行最大最小值归一化。
4.根据权利要求2所述的基于混合深度学习模型的水库水位预测预警方法,其特征在于,水库雨水情数据集样本数为samples,特征features为time_effcent、rainfall、flood_Discharge、water_ago1Level、water_ago2Level、water_Level;将其重塑为3D数据,形状为(samples,width,features),重塑后有N=(sample-swidth+1)个向量矩阵单元。
5.根据权利要求2所述的基于混合深度学习模型的水库水位预测预警方法,其特征在于,所述步骤S3中,搭建基于注意力机制的Conv1D-LSTM混合模型的具体方法为:
S301、构建Conv1D堆叠层;Conv1D堆叠层由Input层和两层Conv1D组成,从Input层获取数据,使用卷积核为(4,3)的Conv1D对数据进行特征提取,提取完成后将数据输入卷积核为(3,3)的Conv1D中进一步提取数据特征;
S302、构建第一LSTM层;获取步骤S302中处理完成的数据,输入神经元个数为98的LSTM层中,训练完成加入Dropout使神经元概率性失活,最终输出向量矩阵集合ht,表征长期记忆的候选态Ct;
S303、构建第二LSTM层;获取步骤S302中的ht,Ct作为第二LSTM层输入;第二LSTM层神经元个数为4,训练完成加入Dropout使神经元概率性失活,最终输出向量矩阵集合ht;
S304、构建Attention层;获取步骤S303中向量矩阵集合ht作为Attention层输入,Attention获取到向量矩阵集合ht后给予向量矩阵单元不同的注意力权重,最终输出含有注意力权重的向量矩阵集合Aht;
S305、构建MaxPooling1D层;获取步骤S304中含有注意力权重的向量矩阵集合Aht作为MaxPool1D层输入,MaxPooling1D进行最大值池化,最终输出向量矩阵Max(Aht);
S306、构建Flatten层;获取步骤S305中向量矩阵Max(Aht)作为Flatten层输入,Flatten层将矩阵向量Max(Aht)拆解拼接为一维向量yf,即把多维的输入一维化;
S307、构建Dense堆叠层;Dense堆叠层中含有神经元个数60的第一Dense层,神经元个数为1的第二Dense层;获取步骤S306中一维向量yf,使用神经元个数为60的第一Dense层,提取全连接化一维向量yf中与水库水位预测相关的数据特征,提取全连接化得到一维向量
6.根据权利要求2所述的基于混合深度学习模型的水库水位预测预警方法,其特征在于,所述步骤S4中,采用改进粒子群优化算法对基于注意力机制的Conv1D-LSTM混合模型的滑窗宽度width、第一LSTM层神经元个数及其Dropout率、第二LSTM层神经元个数及其Dropout率、第一Dense神经元个数、学习率、batch_size共八个超参数进行寻优,具体方法为:
S401、设置改进粒子群优化算法的迭代次数、种群数量,搜寻维度为使用改进粒子群优化算法寻优的超参数个数;
S402、定义寻优目标:获取基于注意力机制的Conv1D-LSTM混合模型架构,将模型中滑窗宽度width、第一LSTM层神经元个数及其Dropout率、第二LSTM层神经元个数及其Dropout率、第一Dense神经元个数、学习率、batch_size八个超参数使用未知数c[0]~c[7]替换,替换完成后将模型MSE设置为返回值,以备后续使用;
S403、初始化粒子群:根据步骤S402中寻优目标的寻优超参数,限定种群粒子各维度的初始化位置及速度,即寻优范围;限定完成后,进行初始化,并将初始化参数赋值给c[0]~c[7],运行基于注意力机制的Conv1D-LSTM混合模型,并获取模型最终返回的MSE;
S404、根据寻优目标的寻优超参数,限定种群各维度的搜索位置和速度,以保证寻优超参数的合理性;设置完成后获取步骤S403中MSE最接近零的粒子,记录其搜寻到的超参数和位置及速度,由此进行第一轮迭代;当出现MSE更接近于零的粒子,更新记录的超参数,并重新记录粒子位置及速度;
S405、获取步骤D405中搜索到的最优超参数,将其代入模型,得到基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型。
7.根据权利要求1所述的基于混合深度学习模型的水库水位预测预警方法,其特征在于,所述步骤2)中,加载云端或本地储存的基于注意力机制和改进粒子群Conv1D-LSTM优化混合模型,并采用大数据组件Kafka对获取的水库雨水情实时监测数据进行处理,处理完成后输入模型,进行水库水位预测。
8.一种水库水位预测预警系统,其特征在于,包括存储器、处理器以及存储于存储器上并能够被处理器运行的计算机程序指令,当处理器运行该计算机程序指令时,能够实现如权利要求1-7任一项所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210366608.0A CN114648170A (zh) | 2022-04-08 | 2022-04-08 | 基于混合深度学习模型的水库水位预测预警方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210366608.0A CN114648170A (zh) | 2022-04-08 | 2022-04-08 | 基于混合深度学习模型的水库水位预测预警方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114648170A true CN114648170A (zh) | 2022-06-21 |
Family
ID=81997300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210366608.0A Pending CN114648170A (zh) | 2022-04-08 | 2022-04-08 | 基于混合深度学习模型的水库水位预测预警方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114648170A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114781769A (zh) * | 2022-06-27 | 2022-07-22 | 长江水利委员会水文局 | 一种流域超标准洪水动态精细化预警方法 |
CN115271186A (zh) * | 2022-07-18 | 2022-11-01 | 福建中锐网络股份有限公司 | 一种基于延时因子和PSO RNN Attention模型的水库水位预测预警方法 |
-
2022
- 2022-04-08 CN CN202210366608.0A patent/CN114648170A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114781769A (zh) * | 2022-06-27 | 2022-07-22 | 长江水利委员会水文局 | 一种流域超标准洪水动态精细化预警方法 |
CN115271186A (zh) * | 2022-07-18 | 2022-11-01 | 福建中锐网络股份有限公司 | 一种基于延时因子和PSO RNN Attention模型的水库水位预测预警方法 |
CN115271186B (zh) * | 2022-07-18 | 2024-03-15 | 福建中锐网络股份有限公司 | 一种基于延时因子和PSO RNN Attention模型的水库水位预测预警方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109902801B (zh) | 一种基于变分推理贝叶斯神经网络的洪水集合预报方法 | |
CN113468803B (zh) | 一种基于改进的woa-gru洪水流量预测方法及系统 | |
CN110969290B (zh) | 一种基于深度学习的径流概率预测方法及系统 | |
Poczęta et al. | Learning fuzzy cognitive maps using structure optimization genetic algorithm | |
CN114648170A (zh) | 基于混合深度学习模型的水库水位预测预警方法及系统 | |
CN110751318A (zh) | 一种基于ipso-lstm的超短期电力负荷预测方法 | |
CN109800898A (zh) | 一种智能短期负荷预测方法及系统 | |
CN113554466B (zh) | 一种短期用电量预测模型构建方法、预测方法和装置 | |
CN113205233B (zh) | 基于灰狼算法和多核支持向量回归的锂电池寿命预测方法 | |
CN110794308B (zh) | 列车电池容量预测方法及装置 | |
CN111525587B (zh) | 一种基于无功负荷态势的电网无功电压控制方法及系统 | |
CN112884008B (zh) | 一种电力信息采集系统运行状态的预测评估方法及装置 | |
CN115271186B (zh) | 一种基于延时因子和PSO RNN Attention模型的水库水位预测预警方法 | |
CN112733997A (zh) | 基于woa-lstm-mc的水文时间序列预测优化方法 | |
CN113255206A (zh) | 一种基于深度强化学习的水文预报模型参数率定方法 | |
CN112990587A (zh) | 一种对台区用电进行精准预测的方法及系统、设备、介质 | |
CN115099461A (zh) | 基于双分支特征提取的太阳辐射预测方法及系统 | |
CN114548591A (zh) | 一种基于混合深度学习模型和Stacking的时序数据预测方法及系统 | |
CN113344288A (zh) | 梯级水电站群水位预测方法、装置及计算机可读存储介质 | |
CN116187835A (zh) | 一种基于数据驱动的台区理论线损区间估算方法及系统 | |
CN112036598A (zh) | 一种基于多信息耦合的充电桩使用信息预测方法 | |
CN116720620A (zh) | 一种基于IPSO算法优化CNN-BiGRU-Attention网络模型的储粮通风温度预测方法 | |
CN115907122A (zh) | 区域电动汽车充电负荷预测方法 | |
CN111815039A (zh) | 基于天气分类的周尺度风电功率概率预测方法及系统 | |
CN113033898A (zh) | 基于k均值聚类与bi-lstm神经网络的电负荷预测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |