CN112015719A - 基于正则化和自适应遗传算法的水文预测模型的构建方法 - Google Patents

Abstract

本发明公开一种基于正则化和自适应遗传算法的水文预测模型的构建方法，通过改进正则化门控循环单元GRU水文预测模型，在GRU神经网络中引入弹性网正则化项对水文输入数据进行处理，并利用改进自适应遗传算法优化正则项参数，提高水文预测准确率。

Description

基于正则化和自适应遗传算法的水文预测模型的构建方法

技术领域

本发明属于水文预测技术领域，具体涉及一种基于正则化和自适应遗传算法的水文预测模型的构建方法。

背景技术

通常将新安江模型、TOPMODEL、HBV模型等物理水文模型运用于水文预报，这些模型与应用流域之间存在唯一对应性，且使用同一类模型对不同流域进行预测时，模型参数甚至模型结构都有可能需要调整。因此，通过挖掘历史水文数据中的规律并利用这些规律预测未来趋势的方法被逐渐运用到实际的水文预报工作中，与传统的物理水文模型相比，基于时间序列的水文预测方法更具普适性。

G.u.Yule提出自回归(AR)模型，形成最早的时间序列分析。G.T.Walker提出滑动平均(MA)模型以及自回归滑动平均混合(ARMA)模型，二者提出的模型共同形成时间序列分析的基础。Ziegel等提出的ARIMA类模型在水文行业得到了广泛应用；冯国章针对枯水径流预报，建立最优模糊划分自激励门限自回归模型，解决了传统方法难以确定门限自回归模型门限值的问题；张小静将月径流数据作为实验对象，分别建立季节性AR模型与函数系数自回归模型，结果表明函数系数自回归模型能够更好的反映月径流的波动变化趋势；Alireza等利用Box-Cox变换对ARIMA模型进行改进，将伊利诺伊河流域的流量数据作为预测对象，经实验发现该模型能够获得更稳定的残差。由于水文要素的时空变化具有非线性的特点，线性时间序列存在较多局限性，相应的非线性时间序列模型应用增多。

殷兆凯等针对不同预见期的降雨径流预报，分别建立LSTM预报模型，通过实验分析了模型参数对模型训练速度以及最终预报结果的影响；顾逸在传统LSTM基础上研究出一种简化LSTM结构，并建立中长期径流预报模型，与传统LSTM及GRU相比，简化LSTM模型具有更高的预报效率；陈睿鹤利用蝗虫优化算法对GRU模型参数进行优化，引入小波分解重构，对月均地下水位数据建立预测模型。

发明内容

发明目的：本发明的目的在于解决现有技术中存在的不足，提供提供一种基于正则化和自适应遗传算法的水文预测模型IGRU的构建方法，通过改进正则化门控循环单元(Gated Recurrent Unit，GRU)的预测模型，在GRU神经网络中引入弹性网正则化项，并利用改进自适应遗传算法优化正则项参数，提高预测准确率。

技术方案：本发明的一种基于正则化和自适应遗传算法的水文预测模型的构建方法，包括以下步骤：

S1、确定所需水文预报因子、水文模型输入数据和水文模型输出数据；

S2、对水文模型输入数据进行预处理；

S3、构建门控循环单元模型GRU，该模型的训练集为给定水文站的水位值和与水文站相关的若干雨量站的降雨量，并在门控循环单元模型GRU加入弹性网正则化，进而对所有水文模型输入数据的输入权重进行正则化处理；具体过程为：

丄式中l(y_t,f(x_t,w))为损失函数，作为模型泛化性能的评价依据；λρ(w)为正则项，λ为正则项参数，用于协调正则项与损失函数间的关系，使其保持平衡，w为权重；

然后将L₁范数与L₂范数的线性组合为正则项ρ(w)的表达式，并对权重w进行正则化处理，具体公式如下：

当正则项参数λ₁、λ₂均为0时，为普通GRU模型；

当λ₁≠0且λ₂＝0时，为L₁正则化网络；

当λ₁＝0且λ₂≠0时，为L₂正则化网络；

此处，本发明中λ₁、λ₂均不为0，构建成弹性网正则化网络；1≤t≤T，1≤i≤m，1≤j≤m，t是指t时刻；

S4、在步骤3中的水文模型中，通过改进自适应遗传算法对正则项参数进行优化；具体步骤如下：

S4.1、引入自适应遗传算法；

为使得遗传算法中的交叉概率P_c与变异概率P_m的取值能够随适应度值的大小而改变，进行如下改进：当种群中的个体适应度收敛至局部最优时，增加P_c、P_m；若适应度较发散，减小P_c、P_m；

改进后P_c与P_m按如下公式进行计算：

其中，设定k₁、k₂、k₃、k₄为特定值，(例如k₁＝0.5，k₂＝0.85，k₃＝0.02，k₄＝0.05)；f_max为种群适应度最大值，f_avg为种群适应度均值，f′为两个交叉个体适应度较大的值，f为变异个体的适应度值；

S4.2、通过加入种群最优个体ρ_best与最小适应度f_min，并增加插入操作以弥补这一缺陷；

S5、通过构建后的优化水文模型输出最终的水文预测数据。

进一步的，所述步骤S1中，预报因子包括给定水文站水位值以及与该水文站相关的雨量站降雨量，并设置1～6小时预见期，针对不同预见期建立对应预测模型；假设当前时刻为t，预见期为a小时，则将水文站t时刻水位值、相关雨量站t-a时刻雨量值、t-(a+1)时刻雨量值、t-(a+2)时刻雨量值，以及t+(a-1)、t+a时刻平均雨量作为水文模型输入数据，将t+a时刻的水文站水位值作为水文模型输出数据。

进一步的，所述步骤S2中依次采用均值法和最值归一法对数据进行预处理，具体方法为：

S2.1、对于单个水文数据缺失的情况采用均值法，即计算缺失位置前后两个数据的均值对缺失位置的水文数据进行填补；

对于连续水文数据缺失的情况，若缺失部分不超过半个周期，则使用与缺失部分临近周期位置相同的水文数据进行填补，若缺失的水文数据过多则直接舍弃空缺水文数据；

S2.2、采用最值归一化方法将步骤S1.1中处理后的水文数据按比例投射至[0,1]的区间内，转化为无量纲的纯数值，以缩短数据在训练过程中的收敛时间；具体如下式所示：

其中，x_scale为最值归一化后的水文数据，x为原始水文数据，x_max为原始水文数据中的最大值，x_min为原始水文数据中的最小值。

进一步的，步骤S4.2的详细方法为：

(a)、初始化种群X，令f_max＝max[f(1)]，其中f(1)为初始种群适应度值的集合，即f(1)＝[f₁₁,f₁₂,…,f_1n]，n为种群个数，ρ_best为与适应度最大值相对应的染色体编码，将均方根误差RMSE的倒数作为适应度函数；

(b)、对第q-1代种群进行选择、交叉、变异、插入操作后生成第q代种群ρ(q)及其适应度值f(q)；若第q代种群中的最大适应度值max[f(q)]比前q-1代的最大适应度值f_max大，则令f_max＝max[f(q)]，将最大适应度值更新为f_max，将ρ_best更新为与最大适应度值相对应的染色体编码；

(c)、若

其中0<a<1，则认为种群可能陷入局部最优，此时应初始化种群进而跳出局部最优；

(d)、若达到迭代次数，则停止循环，此时f_max为最佳适应度值，与之对应的ρ_best即为所求的最优解，否则重复步骤(b)至步骤(c)。

有益效果：本发明改进和优化传统GRU神经网络，在其中引入弹性网正则化项，对水文模型输入数据的输入权重进行正则化处理，提升了模型的泛化能力，同时改进自适应遗传算法，加入种群最优个体与最小适应度，并增加插入操作以弥补自适应遗传算法的早熟现象，在此改进自适应遗传算法的基础上优化正则项参数，进一步提高水文预测模型的精度。

附图说明

图1为本发明实施方法流程图；

图2为本发明中实施例前垾村站不同模型在预见期为1小时的预测值序列和原始真实值序列的对比图；

图3为本发明中实施例前垾村站不同模型在预见期为2小时的预测值序列和原始真实值序列的对比图；

图4为本发明中实施例前垾村站不同模型在预见期为3小时的预测值序列和原始真实值序列的对比图；

图5为本发明中实施例前垾村站不同模型预测结果对比图。

具体实施方式

下面对本发明技术方案进行详细说明，但是本发明的保护范围不局限于所述实施例。

如图1所示，本发明的一实施例具体步骤如下：

S1：确定水文模型的预报因子、水文模型的输入数据和输出数据，并对相应数据进行预处理操作。

本发明选取前垾村站2014年5月28日0时至2018年8月26日23时的小时水位数据以及6个相关雨量站的小时雨量数据作为实验数据。其中，2018年2月12日0时至2018年8月16日23时共4464条数据作为测试集，2018年8月17日0时至2018年8月26日23时共240条数据作为预测集。

将前垾村水文站的水位值以及相关的六个雨量站的降雨量选作预报因子，设置1-6小时预见期，针对不同预见期建立不同的预测模型。采用预报因子为土桥站、赤山闸站、二圣桥水库站当前时刻前第2小时雨量值，句容水库站、句容站当前时刻前第3小时雨量值，北山水库站当前时刻前第4小时雨量值。确定模型输入为前垾村站当前时刻水位值、各雨量站雨量值以及未来小时平均雨量值。假设当前时刻为t，预见期为2小时，则将前垾村站t时刻水位值、土桥t-2时刻雨量值、赤山闸t-2时刻雨量值、二圣桥水库t-2时刻雨量值、句容水库t-3时刻雨量值、句容站t-3时刻雨量值、北山水库t-4时刻雨量值以及t+1、t+2时刻平均雨量作为模型输入，t+2时刻水位值作为模型输出。

上述水文模型输入数据的预处理操作包括：

(1)对于单个数据缺失，计算缺失位置前后两个数据的均值对缺失位置数据进行填补。对于连续数据缺失，若缺失部分不超过半个周期，则使用与缺失部分临近周期位置相同的数据进行填补，若缺失数据过多则直接舍弃空缺数据。

(2)选用最值归一化方法对数据进行预处理，将原始数据统一映射到[0,1]区间以转化为无量纲的纯数值，缩短数据在训练过程中的收敛时间。

S2：取给定水位及降雨量作为训练集，构建GRU模型，同时引入弹性网正则化，对权重w进行正则化处理，提升模型泛化能力。具体实现公式如下：

S3：基于自适应遗传算法，通过加入种群最优个体ρ_best与最小适应度f_min，并增加插入操作以弥补算法早熟缺陷。并借此算法优化正则项参数，提升预测精确程度。具体步骤如下：

(1)初始化种群X，令f_max＝max[f(1)]，其中f(1)为初始种群适应度值的集合，即f(1)＝[f₁₁,f₁₂,…,f_1n]，n为种群个数，ρ_best为与适应度最大值相对应的染色体编码，将均方根误差RMSE的倒数作为适应度函数；

(2)对第q-1代种群进行选择、交叉、变异、插入操作后生成第q代种群ρ(q)及其适应度值f(q)；若第q代种群中的最大适应度值max[f(q)]比前q-1代的最大适应度值f_max大，则令f_max＝max[f(q)]，将最大适应度值更新为f_max，将ρ_best更新为与最大适应度值相对应的染色体编码；

(3)若

其中0<a<1，则认为种群可能陷入局部最优，此时应初始化种群进而跳出局部最优；

(4)若达到迭代次数，则停止循环，此时f_max为最佳适应度值，与之对应的ρ_best即为所求的最优解，否则重复步骤(2)至步骤(3)。

最后将上述实施例的水文输出数据进行评价验证。具体选取平均相对误差、平均绝对误差、均方根误差作为评价指标。

选取传统SVM、LSTM、GRU模型与本发明进行对比，评估预测模型水位预测结果。

评价指标具体实现公式如下：

(1)平均相对误差为预测值与真实值间相对误差的平均值，能较好的反映预测结果的可信度，其计算公式为：

(2)平均绝对误差为预测值与真实值间绝对差值的平均值，能够较好的反映预测值与实际值间的偏差，其计算公式为：

(3)均方根误差能够较好的反映预测的离散程度，其计算公式为：

其中，y_p(i)为预测值，y(i)为实测值，n为样本数量。

在水文领域内，对于时间序列预测一般采用支持向量机以及长短时记忆网络，其中，传统LSTM、GRU及本发明的IGRU均采用adam学习器，激活函数选用relu函数，隐含层节点数hidden_size为64，批尺寸batch_size为128，SVM模型中选用径向基核函数，惩罚系数c为0.9，核函数参数g为0.1。在改进自适应遗传算法中，设置初始种群数量为20，迭代次数为100。

在预见期为1h的模型中，改进正则项参数λ₁和λ₂分别为0.01和0.012。四个模型的预测结果以及误差对比如表1所示。从表中可看出，传统SVM模型的预测效果较一般，评价指标方面均次于其他三种模型，在传统LSTM模型中，虽然存在部分预测结果优于GRU模型，但从评价指标结果来看，LSTM模型的整体效果仍次于GRU模型，而本发明的IGRU模型的预测结果更加接近真实值，三种误差均优于其他模型。

表1预见期1h模型预测结果对比表

图2展示了四种模型在预见期为1小时的预测值序列和原始真实值序列的对比图，从图2中可看出，SVM、LSTM、GRU模型预测结果大部分能够较好的贴合原始序列，但是在拐点以及峰值处存在波动；而本发明的IGRU模型的结果整体更贴合原始序列，在波峰处的偏差也较小，有较好的预测表现。

在预见期为2h的模型中，改进正则项参数λ₁和λ₂分别为0.014和0.02。模型预测结果及误差对比如表2所示。从评价指标上看，SVM模型误差较大，对于GRU模型，虽然其平均绝对误差与平均相对误差略次于LSTM模型，但其均方根误差较优于LSTM模型，本发明构建的IGRU模型的MAE、MRE、RMSE均优于其他三种模型。

表2预见期2h模型预测结果对比表

四种模型的预测值序列与原始真实值序列的对比如图3所示，SVM模型预测结果在波峰处明显低于真实值，LSTM与GRU模型大部分能较好的贴合真实值曲线，但在部分拐点处存在波动，本发明的IGRU模型的预测结果曲线更贴近真实值序列曲线。

在预见期为3h的模型中，改进正则项参数λ₁和λ₂分别为0.021和0.01。四个模型的预测值及误差对比如表3所示。从表中数据可发现存在部分IGRU模型的预测结果次于LSTM、GRU模型结果，但从整体评价指标上看，本发明的IGRU模型的结果优于其他三种模型。

表3预见期3h模型预测结果对比表

图4展示了预见期为3h时四种模型预测结果序列与真实值序列的对比图，可以发现，SVM模型预测结果在拐点处存在波动且明显低于真实值，相比于LSTM与GRU模型，本发明的IGRU模型的精度更高。

预见期4-6小时情况下四种模型的测试集预测结果评估如表4所示，在平均绝对误差、平均相对误差以及均方根误差三个方面，本发明的IGRU模型均优于传统SVM、LSTM、GRU模型。

表4预见期4-6h模型评价指标结果对比

随机选取2018年8月22日18时作为当前时刻，运用本发明所提出的IGRU模型与传统SVM、LSTM、GRU模型对当前时刻后6小时水位数据进行预测并对比，结果如图5所示。

由图5可知，预见期为4-6小时的模型预测精度与1-3小时相比有所下降。传统SVM模型的预测精度受预见期影响较大，传统GRU模型预测效果稍优于LSTM模型，IGRU模型相较于其他三个模型预测更为准确。

上述实验结果可以说明，通过本发明构建的水文预测所预测出的数据准确率更高。

Claims (4)

1.一种基于正则化和自适应遗传算法的水文预测模型的构建方法，其特征在于：包括以下步骤：

S1、确定所需水文预报因子、水文模型输入数据和水文模型输出数据；

S2、对水文模型输入数据进行预处理；

S3、构建门控循环单元模型GRU，该模型的训练集为给定水文站的水位值和与水文站相关的若干雨量站的降雨量，并在门控循环单元模型GRU加入弹性网正则化，进而对所有水文模型输入数据的输入权重进行正则化处理：

上式中，l(y_t,f(x_t,w))为损失函数，λρ(w)为正则项，λ为正则项参数，w为权重

然后使用L₁范数与L₂范数的线性组合作为正则项ρ(w)的表达式，并对权重w进行正则化处理，公式如下：

其中，1≤t≤T，1≤i≤m，1≤j≤m，t是指t时刻；正则项参数λ₁、λ₂均不为0；

S4、在步骤3中的水文模型中，通过改进自适应遗传算法对水文输入数据的正则项参数进行优化；具体步骤如下：

S4.1、引入自适应遗传算法；

当种群中的个体适应度收敛至局部最优时，增加交叉概率P_c和变异概率P_m；若种群中的个体适应度较发散，则减小交叉概率P_c和变异概率P_m；

改进后P_c与P_m按如下公式进行计算：

设定k₁、k₂、k₃、k₄为特定值，f_max为种群适应度最大值，f_avg为种群适应度均值，f′为两个交叉个体适应度较大的值，f为变异个体的适应度值；

S4.2、通过加入种群最优个体ρ_best与最小适应度f_min，然后增加插入操作；

S5、通过步骤S3至步骤S4构建的优化水文模型输出最终的水文预测数据。

2.根据权利要求1所述的基于正则化和自适应遗传算法的水文预测模型的构建方法，其特征在于：所述步骤S1中，预报因子包括给定水文站水位值以及与该水文站相关的雨量站降雨量，并设置对应预见期，针对不同预见期建立对应预测模型；假设当前时刻为t，预见期为a小时，则将水文站t时刻水位值、相关雨量站t-n时刻雨量值、t-(a+1)时刻雨量值、t-(a+2)时刻雨量值，以及t+(a-1)、t+a时刻平均雨量作为水文模型输入数据，将t+a时刻的水文站水位值作为水文模型输出数据。

3.根据权利要求1所述的基于正则化和自适应遗传算法的水文预测模型的构建方法，其特征在于：所述步骤S2中依次采用均值法和最值归一法对数据进行预处理，具体方法为：

S2.1、对于单个水文数据缺失的情况采用均值法，即计算缺失位置前后两个数据的均值对缺失位置的水文数据进行填补；

对于连续水文数据缺失的情况，若缺失部分不超过半个周期，则使用与缺失部分临近周期位置相同的水文数据进行填补，若缺失的水文数据过多则直接舍弃空缺水文数据；

S2.2、采用最值归一化方法将步骤S1.1中处理后的水文数据按比例投射至[0,1]的区间内，转化为无量纲的纯数值，以缩短数据在训练过程中的收敛时间；具体如下式所示：

其中，x_scale为最值归一化后的水文数据，x为原始水文数据，x_max为原始水文数据中的最大值，x_min为原始水文数据中的最小值。

4.根据权利要求1所述的基于正则化和自适应遗传算法的水文预测模型的构建方法，其特征在于：步骤S4.2的详细方法为：

(a)、初始化种群X，令f_max＝max[f(1)]，其中f(1)为初始种群适应度值的集合，即f(1)＝[f₁₁,f₁₂,…,f_1n]，n为种群个数，ρ_best为与适应度最大值相对应的染色体编码，将均方根误差RMSE的倒数作为适应度函数；

(b)、对第q-1代种群进行选择、交叉、变异、插入操作后生成第q代种群ρ(q)及其适应度值f(q)；若第q代种群中的最大适应度值max[f(q)]比前q-1代的最大适应度值f_max大，则令f_max＝max[f(q)]，将最大适应度值更新为f_max，将ρ_best更新为与最大适应度值相对应的染色体编码；

(c)、若

其中0<a<1，则认为种群可能陷入局部最优，此时应初始化种群进而跳出局部最优；

(d)、若达到迭代次数，则停止循环，此时f_max为最佳适应度值，与之对应的ρ_best即为所求的最优解，否则重复步骤(b)至步骤(c)。

Images