CN114282614A - 基于随机森林和ifda优化cnn-gru的中长期径流预测方法 - Google Patents

Abstract

本发明公开了一种基于随机森林和IFDA优化CNN‑GRU的中长期径流预测方法，包括以下步骤：(1)预先获取旬径流历史数据以及历史旬降雨数据，对数据进行预处理，并分为训练集和测试集；(2)构建CNN‑GRU混合预测模型，并确认卷积神经网络门控循环单元的结构；(3)使用改进后的流向算法IFDA优化CNN‑GRU混合预测模型：先采用混沌算法对流向算法进行初始化，然后使用改进好的流向算法优化CNN‑GRU模型的学习率以及隐含层节点个数，最后建立基于改进的流向算法IFDA优化CNN‑GRU的混合模型IFDA‑CNN‑GRU；(4)使用训练集对建立好的IFDA‑CNN‑GRU模型进行训练，将测试集送入训练好的模型中运行，得到预测结果。本发明能够有效地进行中长期径流预测，并且比其他模型具有更好的准确性。

Description

基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法

技术领域

本发明属于中长期径流预测技术邻域，具体涉及一种基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法。

背景技术

水资源是生命之源，是基础性的自然资源，而有效的径流预测是水资源优化配置、水利水电工程设计施工管理、水资源科学调度的重要依据。

目前为止许多学者已经提出了多种径流预测模型，主要可分为两种：过程驱动模型和数据驱动模型。过程驱动的径流预测模型是基于物理形成过程，具有很高的准确性；但是降雨径流过程环境、地形等多种因素的影响，过程驱动模型需要大量数据建模有时数据不足会给模型的成功建立带来影响，所以，过程驱动模型的应用仍有一定的困难。另一种为数据驱动的径流预测模型，对资料信息的需求小且开发时间较快，己经有了广泛应用。通常，数据驱动模型可以进一步分为三类：基于统计的预测模型、机器学习模型和组合模型。统计模型方法基于线性回归理论，当应对复杂的径流信息时预测精度仍需提高，径流预测需要更强大的模型来处理非线性的复杂的径流数据。如RNN等深度学习网络被用来预测径流，但是RNN在处理过长的时间序列时会造成梯度爆炸，所以人们提出了RNN的改进版本长短时记忆网络LSTM，运用LSTM的三个门控单元来避免造成梯度爆炸。LSTM也有一定的缺陷，如LSTM在记忆长期的时间序列时会忽略一些短期的重要特征，同时运行时间较长，所以本发明加入了卷积神经网络CNN以及门控循环单元GRU来避免上述这些问题。同时为了进一步提高CNN-GRU模型的预测精度，本发明还加入了流向算法FDA来优化CNN-GRU模型，从而得到更好的预测结果。

发明内容

发明目的：为解决上述技术问题，本发明提供一种基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，克服现阶段中长期径流预测能力差，成本过高，精度过低的缺点。

技术方案：本发明提出一种基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，具体包括以下步骤：

(1)预先获取旬径流历史数据以及历史旬降雨数据，对数据进行预处理，并分为训练集和测试集；

(2)构建CNN-GRU混合预测模型，并确认卷积神经网络的输入层、卷积层、池化层，输出层；以及门控循环单元的输入层、隐藏层和输出层；

(3)使用改进后的流向算法IFDA优化CNN-GRU混合预测模型：先采用混沌算法对流向算法进行初始化，然后使用改进好的流向算法优化CNN-GRU模型的学习率以及隐含层节点个数，最后建立基于改进的流向算法IFDA优化CNN-GRU的混合模型IFDA-CNN-GRU；

(4)使用训练集对建立好的IFDA-CNN-GRU模型进行训练，将测试集送入训练好的模型中运行，得到预测结果。

进一步地，所述步骤(1)实现过程如下：

将N个水文站点的径流数据和降雨数据分为N个径流数据集和N个降雨数据集；使用随机森林RF对(N+N)个降雨和径流数据所构成的高维因子集进行因子选择，根据变量重要性评分挑选对旬径流影响较大的因子集；

采用bootstrap(有放回抽样)方法进行抽样，判断重要性的计算公式如下：

VIF＝∑(OBB₂-OBB₁)/k (1)

其中，VIF为重要性，OBB₁为利用袋内数据构建随机森林模型得到的袋外数据误差；OBB₂为在袋外数据的样本中，随机改变其中的某些数据要素后，得到的袋外误差；k为随机森林决策树数量；

设定随机森林中树的数量为k，利用bootstrap(有放回抽样)方法随机在原始样本中抽取与原始样本容量相同的样本，重复k次，把每一次的抽样结果作为每棵决策树的输入；每棵决策树根据二叉树分类原则得到每棵树的分类结果，并对因子集进行重要性排序；删除当前高维因子集中不重要的因子，选择重要性前85％的因子集作为最后的输出；

将随机森林RF处理过的数据集分为训练集和测试集，其中训练集占总数据集的70％，测试集占总数据集的30％。

进一步地，所述步骤(2)实现过程如下：

卷积神经网络在卷积层通过卷积运算从输入特征图中提取数据块，然后对所有的数据块应用相同的变换，生成输出特征图，并对输出特征图进行空间重组，输出特征图中的每个空间位置都对应于输入特征图中的相同位置；卷积层公式如下：

式中，Con_k为卷积层输出的第k个卷积核的特征图；α为激活函数；Wt_k为当前卷积层第k个卷积核的权重矩阵；Bi_k为当前卷积层第k个卷积核的偏置；

为卷积运算；k为卷积核的个数；

池化层对卷积层输出的信息进行降维处理，去除冗余信息的同时加快计算速度：

O＝maxCon_k (3)

式中，O为池化层的输出；Con_k为池化层的输入；

将CNN输出的数据矩阵输入GRU，GRU模型包含重置门和更新门，具体运算公式如下：

a_t＝σ(W_a·[d_t-1,x_t]) (4)

b_t＝σ(W_b·[d_t-1,x_t]) (5)

k_t＝σ(W_o·d_t) (8)

其中，k_t为t时间点GRU单元的所有输出，tanh和σ分别是正切激活函数和Sigmoid激活函数，a_t，z_t分别是t时间点重置门和更新门的计算方法，

包含了当前输入x_t的数据，有目的性的将

添加到当前的隐藏状态；门控信号b的范围为[0,1]，b越接近1，表示“记忆”下来的信息越多，而接近0则表示“遗忘”的信息越多；(1-b_t)*d_t-1表示对原本隐藏状态的选择性“遗忘”，b可以看作遗忘门，去除d_t-1维度中某些不重要的信息；

表示对含有当前输入数据信息的

进行筛选“记忆”，对

维度中的信息进行选择。

进一步地，所述步骤(3)包括以下步骤：

(31)随机生成一个向量X＝[x_m1,x_m2,...,x_mn]，且每个分量都在[0,1]之间；

(32)采用Circle映射得到混沌序列：

(33)将混沌序列的各个分量映射回取值范围，得到新的初始化位置公式：

Fl_X(i)＝lb+x_mn*(ub-lb) (11)

其中流向周围还有b个邻域，邻域的位置公式如下：

Ne_X(j)＝Fl_X(x)+rand*Δ (12)

其中，Ne_X(j)表示第j个邻域的位置，Δ若为小数字则在小范围内搜索，若为大数字则在大范围内搜索；

(34)为了确定流向的新位置，还要确定流向的流速矢量V,计算公式如下：

V＝randn*S (13)

式中，randn为随机数，S表示流的邻域和当前位置之间的斜率向量；

流向新位置更新公式如下：

式中Fl_newX(i)表示流向的新位置，同时模拟流向的具体计算公式如下：

式中，Fl_fit(r)为随机适应度值，Fl_fit(i)为第i条流向的适应度值，Best_X为流向最好的位置，r为随机整数；

(36)使用改进好的流向算法优化CNN-GRU模型的学习率以及隐含层节点个数，建立混合模型IFDA-CNN-GRU。

进一步地，所述步骤(34)包括以下步骤：

(341)生成初始人口或流量，由以下矩阵表示：

(342)评估目标函数并得到最佳目标函数作为输出；

(343)设定每条流向拥有b个邻域且半径为Δ；

(344)通过计算每个邻域的目标函数值来确定最佳邻域；

(345)如果最佳邻域的目标函数比当前流向的目标函数更好，则应执行步骤(346)，否则执行步骤(347)；

(346)根据公式(13)和公式(14)更新流速以及流向的最佳邻域；

(347)根据公式(15)更新流向的位置；

(348)计算新流向的目标函数，如果它比以前的流向结果更好，则更新流向的位置；

(349)如果满足终止条件，则得到最佳结果，否则重复步骤(343)到(347)。

有益效果：与现有技术相比，本发明的有益效果：本发明能够有效的处理降雨与径流间数据，能准确的分析降雨数据对径流数据的影响，与传统预测模型相比，展现出了更为优异的预测精度；同时运行所需要的时间比传统的深度学习用时更少。

附图说明

图1为本发明的流程图；

图2为采用本发明的预测值与观测值对比图。

具体实施方式

下面结合附图对本发明作进一步详细说明。

本发明提供一种基于随机森林和ISCA优化RELM的PM2.5浓度预测方法，如图1所示，具体步骤如下：

步骤1：预先获取旬径流历史数据以及历史旬降雨数据，对数据进行预处理，并分为训练集和测试集。

获取金沙江中游石鼓，阿海，金安桥，中江，攀枝花五个站点的旬降雨数据以及旬径流数据作为原始数据集。

使用随机森林算法对原始旬径流数据和旬降雨数据进行预处理，具体过程如下：

首先将五个水文站点的径流数据和降雨数据分为5个径流数据集和5个降雨数据集。然后使用随机森林RF对10个降雨和径流数据所构成的高维因子集进行因子选择，根据变量重要性评分挑选对旬径流影响较大的因子集。具体步骤如下：

采用bootstrap(有放回抽样)方法进行抽样，判断重要性的计算公式如下：

VIF＝∑(OBB₂-OBB₁)/k (1)

其中，VIF为重要性，OBB₁为利用袋内数据构建随机森林模型得到的袋外数据误差；OBB₂为在袋外数据的样本中，随机改变其中的某些数据要素后，得到的袋外误差；k为随机森林决策树数量。

设定随机森林中树的数量为k，利用bootstrap(有放回抽样)方法随机在原始样本中抽取与原始样本容量相同的样本，重复k次，把每一次的抽样结果作为每棵决策树的输入。每棵决策树根据二叉树分类原则得到每棵树的分类结果，并对因子集进行重要性排序。删除当前高维因子集中不重要的因子，选择重要性前85％的因子集作为最后的输出。

将上述随机森林RF处理过的数据集分为训练集和测试集，其中训练集占总数据集的70％，测试集占总数据集的30％。

步骤2：建立CNN-GRU混合预测模型。

本发明使用的CNN结构包含输入层、卷积层、池化层、以及输出层。

卷积神经网络在卷积层通过卷积运算从输入特征图中提取数据块，然后对所有的数据块应用相同的变换，生成输出特征图，并对输出特征图进行空间重组，输出特征图中的每个空间位置都对应于输入特征图中的相同位置。

卷积层公式如下：

式中：Con_k为卷积层输出的第k个卷积核的特征图，α为激活函数，Wt_k为当前卷积层第k个卷积核的权重矩阵，Bi_k为当前卷积层第k个卷积核的偏置，

为卷积运算，k为卷积核的个数。本发明使用的激活函数α为sgdm函数。

池化层的主要作用是对卷积层输出的信息进行降维处理，去除冗余信息的同时加快计算速度。其计算公式如下：

O＝maxCon_k (3)

式中，O为池化层的输出，Con_k为池化层的输入。

然后将CNN输出的数据矩阵输入GRU，GRU模型包含重置门和更新门，具体运算公式如下：

a_t＝σ(W_a·[d_t-1,x_t]) (4)

b_t＝σ(W_b·[d_t-1,x_t]) (5)

k_t＝σ(W_o·d_t) (8)

其中，k_t为t时间点GRU单元的所有输出,tanh和σ分别是正切激活函数和Sigmoid激活函数,a_tz_t分别是t时间点重置门和更新门的计算方法。

主要是包含了当前输入x_t的数据，有目的性的将

添加到当前的隐藏状态,相当于“记忆”了当前时刻的状态。使用之前计算得到的更新门控b_t,同时进行了“遗忘”和“记忆”两个步骤，门控信号b的范围为[0,1]，b越接近1，表示“记忆”下来的信息越多，而接近0则表示“遗忘”的信息越多；(1-b_t)*d_t-1：表示对原本隐藏状态的选择性“遗忘”，b可以看作遗忘门，去除d_t-1维度中某些不重要的信息；

表示对含有当前输入数据信息的

进行筛选“记忆”，对

维度中的某些信息进行选择。

步骤3：使用改进后的流向算法IFDA优化CNN-GRU模型：先采用混沌算法对流向算法进行初始化，然后使用改进好的流向算法优化CNN-GRU模型的学习率以及隐含层节点个数，最后建立基于改进的流向算法IFDA优化CNN-GRU的混合模型IFDA-CNN-GRU。具体过程如下：

设置流向算法FDA的初始参数包括种群数n,邻居数b,和邻域半径r.关于FDA算法，初始位置计算公式如下：

Fl(i)＝lb+rand*(ub-lb) (9)

式中：Fl(i)代表第i条流向的位置，ub和lb表示解空间的下限和上限，rand表示具有均匀分布的0和1之间的随机值。

为了提高算法的性能，本发明加入了混沌初始化，采用Circle映射，初始化具体步骤为：

(1)随机生成一个向量X＝[x_m1,x_m2,...,x_mn]，且每个分量都在[0,1]之间。

(2)采用Circle映射得到混沌序列：

(3)将混沌序列的各个分量映射回取值范围，得到新的初始化位置公式：

Fl_X(i)＝lb+x_mn*(ub-lb) (11)

其中流向周围还有b个邻域，邻域的位置公式如下：

Ne_X(j)＝Fl_X(x)+rand*Δ (12)

Ne_X(j)表示第j个邻域的位置，Δ若为小数字则在小范围内搜索，若为大数字则在大范围内搜索。

(4)为了确定流向的新位置，还要确定流向的流速矢量V,计算公式如下：

V＝randn*S (13)

式中，randn为随机数，S表示流的邻域和当前位置之间的斜率向量。

流向新位置更新公式如下：

式中Fl_newX(i)表示流向的新位置。同时模拟流向的具体计算公式如下：

式中，Fl_fit(r)为随机适应度值，Fl_fit(i)为第i条流向的适应度值，Best_X为流向最好的位置，r为随机整数。

具体的算法步骤如下：

1)生成初始人口或流量，由以下矩阵表示：

2)评估目标函数并得到最佳目标函数作为输出。

3)设定每条流向拥有b个邻域且半径为Δ。

4)通过计算每个邻域的目标函数值来确定最佳邻域。

5)如果最佳邻域的目标函数比当前流向的目标函数更好，则应执行步骤6)，否则执行步骤7)。

6)根据关系式(13)、(14)更新流速以及流向的最佳邻域。

7)根据公式(15)更新流向的位置。

8)计算新流向的目标函数，如果它比以前的流向结果更好，则更新流向的位置。

9)如果满足终止条件，则得到最佳结果，否则重复步骤3)到7)。

(5)最后使用改进好的流向算法优化CNN-GRU模型的学习率以及隐含层节点个数，建立混合模型IFDA-CNN-GRU

步骤4：训练模型和测试模型：使用训练集对建立好的IFDA-CNN-GRU模型进行训练，将测试集送入训练好的模型中运行，得到预测结果。

使用训练集数据对步骤3中建立好的IFDA-CNN-GRU模型进行训练，模型经过多次迭代会得到一个参数优化最好的训练模型。将测试数据集送入训练好的模型中运行，得到预测结果，使用均方误差、平均绝对标度误差，决定系数对预测值和观测值进行误差指标分析，判断本模型的准确性。

均方根误差RMSE：

平均绝对误差MAE：

决定系数R：

平均绝对百分比误差MAPE：

其中，Ov_i为第i个训练样本的观测值，Yp_i是第i个样本的预测值，Yp_i是样本的平均值，n是总样本个数。具体实验结果如表1所示：

表1本发明和对照组模型的误差指标对比表

表1中，RF-IFDA-CNN-GRU为本发明改进的方案，由上可看出CNN-GRU模型得到的RMSE,MAE,R,MAPE等误差指标结果比传统的BP神经网络以及单纯的门控循环单元GRU得到的结果更好，同时在CNN-GRU模型的基础上，本发明还加入了随机森林RF对输入数据进行了处理，并使用了改进的流向算法IFDA来优化CNN-GRU，得到了更为良好的结果，由此看出本发明的预测精度更高。图2为本发明模型观测值与预测值的对比图，由此图可以看出预测波形和观测值波形基本重叠，说明本发明提出的模型能很好的对径流进行预测。

Claims (5)

1.一种基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，其特征在于，包括以下步骤：

(1)预先获取旬径流历史数据以及历史旬降雨数据，对数据进行预处理，并分为训练集和测试集；

(2)构建CNN-GRU混合预测模型，并确认卷积神经网络的输入层、卷积层、池化层，输出层；以及门控循环单元的输入层、隐藏层和输出层；

(3)使用改进后的流向算法IFDA优化CNN-GRU混合预测模型：先采用混沌算法对流向算法进行初始化，然后使用改进好的流向算法优化CNN-GRU模型的学习率以及隐含层节点个数，最后建立基于改进的流向算法IFDA优化CNN-GRU的混合模型IFDA-CNN-GRU；

(4)使用训练集对建立好的IFDA-CNN-GRU模型进行训练，将测试集送入训练好的模型中运行，得到预测结果。

2.根据权利要求1所述的基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，其特征在于，所述步骤(1)实现过程如下：

将N个水文站点的径流数据和降雨数据分为N个径流数据集和N个降雨数据集；使用随机森林RF对(N+N)个降雨和径流数据所构成的高维因子集进行因子选择，根据变量重要性评分挑选对旬径流影响较大的因子集；

采用bootstrap(有放回抽样)方法进行抽样，判断重要性的计算公式如下：

VIF＝∑(OBB₂-OBB₁)/k (1)

其中，VIF为重要性，OBB₁为利用袋内数据构建随机森林模型得到的袋外数据误差；OBB₂为在袋外数据的样本中，随机改变其中的某些数据要素后，得到的袋外误差；k为随机森林决策树数量；

设定随机森林中树的数量为k，利用bootstrap(有放回抽样)方法随机在原始样本中抽取与原始样本容量相同的样本，重复k次，把每一次的抽样结果作为每棵决策树的输入；每棵决策树根据二叉树分类原则得到每棵树的分类结果，并对因子集进行重要性排序；删除当前高维因子集中不重要的因子，选择重要性前85％的因子集作为最后的输出；

将随机森林RF处理过的数据集分为训练集和测试集，其中训练集占总数据集的70％，测试集占总数据集的30％。

3.根据权利要求1所述的基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，其特征在于，所述步骤(2)实现过程如下：

卷积神经网络在卷积层通过卷积运算从输入特征图中提取数据块，然后对所有的数据块应用相同的变换，生成输出特征图，并对输出特征图进行空间重组，输出特征图中的每个空间位置都对应于输入特征图中的相同位置；卷积层公式如下：

式中，Con_k为卷积层输出的第k个卷积核的特征图；α为激活函数；Wt_k为当前卷积层第k个卷积核的权重矩阵；Bi_k为当前卷积层第k个卷积核的偏置；

为卷积运算；k为卷积核的个数；

池化层对卷积层输出的信息进行降维处理，去除冗余信息的同时加快计算速度：

O＝maxCon_k (3)

式中，O为池化层的输出；Con_k为池化层的输入；

将CNN输出的数据矩阵输入GRU，GRU模型包含重置门和更新门，具体运算公式如下：

a_t＝σ(W_a·[d_t-1,x_t]) (4)

b_t＝σ(W_b·[d_t-1,x_t]) (5)

k_t＝σ(W_o·d_t) (8)

其中，k_t为t时间点GRU单元的所有输出，tanh和σ分别是正切激活函数和Sigmoid激活函数，a_t，z_t分别是t时间点重置门和更新门的计算方法，

包含了当前输入x_t的数据，有目的性的将

添加到当前的隐藏状态；门控信号b的范围为[0,1]，b越接近1，表示“记忆”下来的信息越多，而接近0则表示“遗忘”的信息越多；(1-b_t)*d_t-1表示对原本隐藏状态的选择性“遗忘”，b可以看作遗忘门，去除d_t-1维度中某些不重要的信息；

表示对含有当前输入数据信息的

进行筛选“记忆”，对

维度中的信息进行选择。

4.根据权利要求1所述的基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，其特征在于，所述步骤(3)包括以下步骤：

(31)随机生成一个向量X＝[x_m1,x_m2,...,x_mn]，且每个分量都在[0,1]之间；

(32)采用Circle映射得到混沌序列：

(33)将混沌序列的各个分量映射回取值范围，得到新的初始化位置公式：

Fl_X(i)＝lb+x_mn*(ub-lb) (11)

其中流向周围还有b个邻域，邻域的位置公式如下：

Ne_X(j)＝Fl_X(x)+rand*△ (12)

其中，Ne_X(j)表示第j个邻域的位置，△若为小数字则在小范围内搜索，若为大数字则在大范围内搜索；

(34)为了确定流向的新位置，还要确定流向的流速矢量V,计算公式如下：

V＝randn*S (13)

式中，randn为随机数，S表示流的邻域和当前位置之间的斜率向量；

流向新位置更新公式如下：

式中Fl_newX(i)表示流向的新位置，同时模拟流向的具体计算公式如下：

式中，Fl_fit(r)为随机适应度值，Fl_fit(i)为第i条流向的适应度值，Best_X为流向最好的位置，r为随机整数；

(35)使用改进好的流向算法优化CNN-GRU模型的学习率以及隐含层节点个数，建立混合模型IFDA-CNN-GRU。

5.根据权利要求1所述的基于随机森林和IFDA优化CNN-GRU的中长期径流预测方法，其特征在于，所述步骤(34)包括以下步骤：

(341)生成初始人口或流量，由以下矩阵表示：

(342)评估目标函数并得到最佳目标函数作为输出；

(343)设定每条流向拥有b个邻域且半径为△；

(344)通过计算每个邻域的目标函数值来确定最佳邻域；

(345)如果最佳邻域的目标函数比当前流向的目标函数更好，则应执行步骤(346)，否则执行步骤(347)；

(346)根据公式(13)和公式(14)更新流速以及流向的最佳邻域；

(347)根据公式(15)更新流向的位置；

(348)计算新流向的目标函数，如果它比以前的流向结果更好，则更新流向的位置；

(349)如果满足终止条件，则得到最佳结果，否则重复步骤(343)到(347)。

Images