CN112819192A

CN112819192A - 一种基于蜂群算法优化的rf_gru网络短期电力负荷预测方法

Info

Publication number: CN112819192A
Application number: CN202011239992.5A
Authority: CN
Inventors: 尚尚; 刘明; 王召斌; 杨童; 何康宁
Original assignee: Jiangsu University of Science and Technology
Current assignee: Jiangsu University of Science and Technology
Priority date: 2020-11-09
Filing date: 2020-11-09
Publication date: 2021-05-18

Abstract

本发明属于神经网络优化的技术领域，具体地说，是一种基于改进蜂群算法优化的RF_GRU网络短期电力负荷预测方法，将改进的蜂群算法用于寻找随机森林算法的最优初始参数。为改善蜂群算法在迭代后期易于陷入局部最优的缺点，采用了正弦余弦因子以改善算法的全局收敛性；接着通过改进蜂群算法优化训练后的RF_GRU网络建立起短期电力负荷的预测模型，进一步提升短期电力负荷预测的精度和效率。本发明在蜂群算法迭代过程中动态的计算蜂群的适应度，设置蜂群的适应度阈值，将整个蜂群分为雇佣蜂和非雇佣蜂两个子群，通过雇佣蜂向全局最优靠近；通过侦查蜂观察是否陷入局部最优，侦查蜂能够稳定的向全局最优的方向搜索。蜂群算法在迭代过程中兼具全局和局部的搜索能力，提高了收敛速度和精度，本发明提升了网络的准确性和稳定性。

Description

一种基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法

技术领域

本发明属于神经网络优化的技术领域，具体地说，是一种基于改进蜂群算法优化的RF_GRU网络短期电力负荷预测方法,通过改进的蜂群算法确定随机森林算法中的最优参数，使得随机森林算法中的参数最优，从而进一步提升RF_GRU 网络预测模型的精确度。

背景技术

在我国电力负荷预测早期阶段，电力负荷情况主要根据专家和调度员主观判断来进行决策。随着统计学方法的发展产生了时间序列法和回归分析法等数学方法。上世纪九十年代，神经网络模型最早被应用于电力负荷预测模型中。近几年，随着人工智能技术的不断发展，BP神经网络，支持向量机，极限学习机等一系列智能算法被应用于电力负荷预测模型中以提高预测精度。按时间周期划分可将电力负荷预测分为长期，中期，短期和超短期预测。现有的传统方法的简单计算模型对于高随机性，大数据背景下的动态负荷预测来说精度无法保证，很难满足不同地区用电应用需求，进而影响用户用电体验。在这样的背景下，实现低成本，高精度的电力负荷预测，将大大提升电力系统对未来的决策依据和运行规划，可以经济合理的安排国家电网发电机组的启停，降低电网公司的运营成本，提高经济和社会效益。

学者们通过对电力负荷统计特性的深入研究，建立了很多经典的电力负荷预测统计模型，但是由于这些模型精度低，泛化能力弱，达不到较高的预测精度。而近年来深度学习模型在处理非线性问题上有着先天的优势，因此，学者们将深度学习模型与电力负荷预测结合，希望能够进一步提高预测精度。门控循环单元 (gated recurrent unit)成为了电力负荷预测模型的首选。早期由于RNN(递归神经网络)只能处理较短的时间序列数据，然而随着输入数据的增大，时间间隔越长,RNN会丢失之前输入的重要信息，引起梯度消失和梯度爆炸问题，从而导致预测模型精度大幅降低，而LSTM网络(长短时记忆网络)通过增加记忆门、遗忘门和输出门有效解决这一问题。GRU网络是LSTM网络的一种变体，它巧妙地将记忆门和遗忘门结合为一种新的门控，成为更新门控，使得网络结构简单，效率更高。

随机森林算法(random forest,RF)由L.Breiman等人提出。该算法是一种基于传统决策树的统计学习理论，具有较强的随机性，随机性体现在两个方面：一是从原始样本集中采用有放回的方式，随机选取样本数据构成训练样本集；二是候选分裂属性，由生成决策树时随机选取的特征属性产生。在算法中，随机森林实际上是一个分类器集合，它由众多决策树分类器h(x,b_k),k＝1,2,...,n 组成，其中b_k表示独立同分布的随机变量，每个决策树分类器都对输入变量x 的类别归属进行预测。随机森林通过Bagging方法，生成彼此之间互不相同的训练样本集，分类回归树作为元分类器组合为集成分类器，预测结果由所有分类器求算术平均值所得。

人工蜂群算法就是模拟蜜蜂的采蜜过程而提出的一种新型智能优化算法，它也是由食物源、雇佣蜂和非雇佣蜂三部分组成。食物源即为蜜源。在任何一个优化问题中，问题的可行解都是以一定形式给出的。在人工蜂群算法中，食物源就是待求优化问题的可行解，是人工蜂群算法中所要处理的基本对象。食物源的优劣即可行解的好坏是用蜜源花蜜量的大小即适应度来评价的。雇佣蜂即为引领蜂与食物源的位置相对应，一个食物源对应一个引领蜂。在人工蜂群算法中，食物源的个数与引领蜂的个数相等；引领蜂的任务是发现食物源信息并以一定的概率与跟随蜂分享；概率的计算即为人工蜂群算法中的选择策略，一般是根据适应度值以轮盘赌的方法计算。非雇佣蜂包括跟随蜂和侦査蜂跟随蜂在蜂巢的招募区内根据引领蜂提供的蜜源信息来选择食物源，而侦查蜂是在蜂巢附近寻找新的食物源。在人工蜂群算法中，跟随蜂依据引领蜂传递的信息，在食物源附近搜索新食物源，并进行贪婪选择。若一个食物源在经过多次选择后仍未被更新，则此引领蜂变成侦査蜂，侦查蜂寻找新的食物源代替原来的食物源。人工蜂群算法中将人工蜂群分为引领蜂、跟随蜂和侦查蜂三类，每一次搜索过程中，引领蜂和跟随蜂是先后开采食物源，即寻找最优解，而侦查蜂是观察是否陷入局部最优，若陷入局部最优则随机地搜索其它可能的食物源。每个食物源代表问题一个可能解，食物源的花蜜量对应相应解的质量(适应度值fit_i)。

正余弦控制算法是由学者Mirjalili于2016年提出的一种基于正弦余弦函数特性的新型优化算法，拥有大范围的探索空间，可以有效帮助优化算法在迭代后期跳出局部极值，以提升优化算法的全局收敛能力。因此本文采用正弦余弦因子对蜂群算法中随机初始化人工食物源的随机生成公式进行改进优化。

目前，各种负荷预测模型中，随机森林算法中的决策树数量和分裂特征数等参数对预测模型的性能影响很大。而传统随机森林算法的决策树数量和分裂特征数等参数的选取存在根据经验选取的问题，从而导致算法性能不能达到最优。

发明内容

本发明的目的在于解决现有的随机森林算法不易确定最优的决策树数量和分裂特征数问题，从而影响基于RF_GRU预测模型的最优性能。在此基础上提供一种基于改进蜂群算法优化的RF_GRU网络短期电力负荷预测方法。

本发明为实现上述目的，采用以下技术方案，具体包括以下步骤：

步骤1：确定RF_GRU网络结构，由网络的数据中心、数据宽度以及权重三方面初始化随机森林和蜂群；

步骤2：计算并评估每个初始解的适应度；

步骤3：设定循环条件并开始循环；

步骤4：引领蜂进行邻域搜索产生食物源的新解x_i,j,并计算其适应度值；

步骤5：进行贪婪选择，引领蜂根据轮盘赌的方法招募跟随蜂；

步骤6：计算食物源的概率p_i；

步骤7：跟随蜂依照概率p_i选择解或者食物源，搜索产生食物源的新解v_i, 并计算其适应度；

步骤8：重复步骤5；

步骤9：判断是否有要放弃的解，若有，则侦查蜂随机产生新解将其替代；

步骤10：记录当前为止的最优解；

步骤11：判断是否满足循环终止条件(这里判断A是否大于迭代次数)，若满足，输出最优解k_best和m_best值，否则返回步骤4继续搜索；

步骤12：将优化后的决策树数量和分裂特征数等参数输入随机森林模型，使得模型性能最优。

步骤13：最后将优化后的随机森林算法和GRU网络进行模型融合，将每棵决策树的结果求和取平均值得到结果即为最终预测结果。

本发明的进一步改进，步骤1初始化随机森林和蜂群。初始化各个参数，决策树个数k和分裂特征数m,蜂群总数SN、食物源被采集次数即最大迭代次数A 及控制参数limit,确定问题搜索范围，并且在搜索范围内随机产生初始解 x_i(i＝1,2,…SN)。

本发明的进一步改进，步骤2中适应度函数的表达式如下：

本发明的进一步改进，步骤4中引领蜂对解x_i按照式(1)进行邻域搜索产生新解(食物源)x_i,j,并计算其适应度值。具体的引领蜂搜索的第i个人工蜂食物源的更新公式如下：

v_i,j＝x_i,j+(-1+2×rand(0,1))(x_i,j-x_k,j) (2)

式中，x_i表示第i个人工蜂食物源，x_k表示被选择的第k个人工蜂食物源，计算新解的fit_i并进行评价，若新解v_i,j优于旧解x_i,j，则引领蜂记住新解忘记旧解。反之，保留旧解。

本发明的进一步改进，步骤5中按照式(3)进行贪婪选择。若v_i的适应度值优于x_i,则利用v_i替代x_i，将v_i作为当前最好的解，否则保留x_i不变。

本发明的进一步改进，步骤6中食物源的概率公式如下：

在所有引领蜂完成搜索过程后，引领蜂会在招募区跳摇摆舞把解的信息及信息与跟随蜂分享。跟随蜂根据式(4)计算每个解的选择概率。

本发明的进一步改进，步骤9判断是否有要放弃的解。若有，则侦查蜂按式 (4)随机产生新解将其替换。改进后的随机初始化人工蜂食物源的随机生成公式如下所示：

其中j的范围为{1,2,..,D}。D代表可行解的维数；x^max _j和x^min _j分别代表第j 个维度的上限值和下限值。rand(0,1)表示(0,1)区间的随机数。式中，r₁为正弦余弦因子，其能够控制算法进行正弦全局搜索(概率为60％)和余弦局部勘探(概率为40％)的区域范围。当蜂群算法需要随机初始化人工蜂群食物源时，先随机一个在(0,1)区间的随机数，如其小于0.6，则采用随机生成公式(5)，否则，采用随机生成公式(6)。

正弦余弦因子r₁的计算公式为：

式中，a为常数t_p为当前迭代次数，T_max为最大迭代次数。

本发明的进一步改进，步骤11中当A大于迭代次数时，输出最优解k_best和 m_best值，步骤12将优化后的决策树数量和分裂特征数等参数输入随机森林模型，通过蜂群算法的优化后的RF_GRU网络，同时增加了收敛速度和精度，使得模型性能最优。

本发明采用以上技术方案，与现有技术相比的有益效果是：

1.对RF_GRU网络的初始参数实现了优化，对高维数据的寻优有着很好的适应性，弥补了随机森林算法在工程运用中的技术缺陷，增强了RF_GRU网络预测模型的精度和稳定性；

2.在一个强壮的搜索过程中，探索和开采行为必须同时进行。当观察蜂和雇佣蜂在解空间中实施开采行为，搜索蜂控制探索行为。每一次搜索过程中，引领蜂和跟随蜂是先后开采食物源，即寻找最优解，而侦查蜂是观察是否陷入局部最优，若陷入局部最优则随机地搜索其它可能的食物源。引入正余弦因子旨在使蜂群算法在迭代前期，拥有更大的全局搜索能力，避免算法在迭代后期由于个体过度集中，使算法陷入局部最优；在迭代后期，拥有较强的局部勘探能力，提高算法的收敛精度，加快算法的收敛精度。

附图说明

图1为本发明提供的一种基于改进蜂群算法优化的RF_GRU网络短期电力负荷预测方法流程图；

图2为本发明所提出的负荷预测方法所用的GRU模型内部结构图；

图3为随机森林算法与GRU网络模型融合后的RF_GRU预测架构。

具体实施方式

下面将结合附图来描述本发明的示例性实施方式。应当理解，附图中的示出以及描述的具体实施方式只是示例性的，旨在阐述本发明的应用原理，并非限制本发明的应用范围。

本发明公开了一种基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，图1给出了该实施例的具体步骤：

步骤1：确定RF_GRU网络结构，由网络的数据中心、数据宽度以及权重三方面初始化随机森林和蜂群。初始化各个参数，决策树个数k和分裂特征数m, 蜂群总数SN、食物源被采集次数即最大迭代次数A及控制参数limit,确定问题搜索范围，并且在搜索范围内随机产生初始解x_i(i＝1,2,…SN)。

步骤2：计算并评估每个初始解的适应度。蜂群算法的适应度函数的表达式如下：

步骤3：设定循环条件并开始循环。

步骤4：步骤4中引领蜂对解x_i按照式(1)进行邻域搜索产生新解(食物源)x_i,j,并计算其适应度值。具体的引领蜂搜索的第i个人工蜂食物源的更新公式如下：

v_i,j＝x_i,j+(-1+2×rand(0,1))(x_i,j-x_k,j) (2)

步骤5：进行贪婪选择。若v_i的适应度值优于x_i,则利用v_i替代x_i，将v_i作为当前最好的解，否则保留x_i不变。

步骤6：计算食物源的概率，食物源的概率公式如下：

步骤7：跟随蜂依照概率p_i选择解或者食物源，按式(2)搜索产生新解(食物源)v_i,并计算其适应度。

步骤8：重复步骤5。

步骤9：判断是否有要放弃的解。若有，则侦查蜂按式(4)随机产生新解将其替换。改进后的随机初始化人工蜂食物源的随机生成公式如下所示：

其中j的范围为{1,2,..,D}。其中j的范围为{1,2,..,D}。D代表可行解的维数；x^max _j和x^min _j分别代表第j个维度的上限值和下限值。rand(0,1)表示(0,1) 区间的随机数。

式中，r₁为正弦余弦因子，其能够控制算法进行正弦全局搜索(概率为60％) 和余弦局部勘探(概率为40％)的区域范围。当蜂群算法需要随机初始化人工蜂群食物源时，先随机一个在(0,1)区间的随机数，如其小于0.6，则采用随机生成公式(5)，否则，采用随机生成公式(6)。

步骤10：记录当前为止的最优解。

步骤11：判断是否满足循环终止条件(这里判断A是否大于迭代次数)，若满足，输出最优解k_best和m_best值，否则返回步骤4继续搜索。

同时增加了收敛速度和精度。

本发明的仿真实验是利用镇江不同片区电网真实用户负荷数据进行。实验数据时间为2015年1月到2016年8月，实验条件采用Pycharm仿真。实验步骤如本发明所述。实验结果如表1所示，其中BP神经网络的所有隐藏层为全连接层。长短期记忆网络为带有长短期记忆的循环神经网络，是目前主流的提取时间序列特征的网络。长短期记忆单元主要由输入门、遗忘门和更新门组成，三个门对先前时刻的信息的传递和新信息的输入进行权重的控制，达到提取时间序列的效果。而本发明所用的RF_GRU神经网络是通过模型融合的方式将随机森林算法与GRU 网络融合的改进网络，GRU网络通过一个Z门同时进行遗忘和选择性记忆，减少了网络参数，进一步提升训练效率。由表1可得，本发明的方法与主流人工智能负荷预测方法而言，收敛速度更快、预测时间更短，精度更高。

表1仿真实验结果对比结果

负荷预测方法	BP神经网络	LSTM神经网络	GRU神经网络	本发明方法
					MAPE	20.23％	14.83％	13.45％	10.62％
训练时间	1496s	1623s	1415s	1093s

以上所述的具体实施方式，对本发明的目的、技术方案、实施方案以及有益效果做了进一步的详细说明，上述实施例仅为进一步阐述发明原理，帮助读者理解本发明的设计思路，应被理解为本发明的保护范围不仅限于特别称述的实施例，凡在本发明原理之内，所做的任何修改、同等替换，均应包含在本发明的保护范围之内。

Claims

1.一种基于改进蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，包括以下步骤：

步骤1：确定RF_GRU网络结构，由RF_GRU网络的数据中心、数据宽度以及权重三方面初始化随机森林和蜂群；

步骤2：计算并评估每个初始解的适应度；

步骤3：设定循环条件并开始循环；

步骤4：引领蜂进行邻域搜索产生新解食物源x_i,j,并计算其适应度值；

步骤6：计算食物源的概率p_i；

步骤7：跟随蜂依照概率p_i选择解或者食物源，搜索产生食物源的新解v_i,并计算其适应度；

步骤8：重复步骤5；

步骤10：记录当前为止的最优解；

步骤11：判断是否满足循环终止条件，这里判断A是否是步骤10产生的最优解，若满足，输出最优解k_best和m_best值，否则返回步骤4继续搜索；

步骤12：将优化后的决策树数量和分裂特征数等参数输入随机森林模型，使得模型性能最优；

2.根据权利要求1所述的基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，所述步骤1初始化随机森林和蜂群中，初始化各个参数，决策树个数k和分裂特征数m，蜂群总数SN、食物源被采集次数即最大迭代次数A及控制参数limit,确定问题搜索范围，并且在搜索范围内随机产生初始解x_i(i＝1,2,…SN)。

3.根据权利要求1所述的基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，所述步骤2中适应度函数的表达式如下：

4.根据权利要求1所述的基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，所述步骤4中引领蜂对解x_i按照式(1)进行邻域搜索产生食物源的新解x_i,j,并计算其适应度值。具体的引领蜂搜索的第i个人工蜂食物源的更新公式如下：

v_i,j＝x_i,j+(-1+2×rand(0,1))(x_i,j-x_k,j) (2)

式中，x_i表示第i个人工蜂食物源，x_k表示被选择的第k个人工蜂食物源，计算新解的fit_i并进行评价，若新解v_i,j优于旧解x_i,j，则引领蜂记住新解忘记旧解，反之，保留旧解。

5.根据权利要求1所述的基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，所述步骤5中按照式(3)进行贪婪选择。若v_i的适应度值优于x_i,则利用v_i替代x_i，将v_i作为当前最好的解，否则保留x_i不变。

6.根据权利要求1所述的基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，步骤6中食物源的概率公式如下：

在所有引领蜂完成搜索过程后，引领蜂会在招募区跳摇摆舞把解的信息及信息与跟随蜂分享，跟随蜂根据式(4)计算每个解的选择概率。

7.根据权利要求1所述的基于蜂群算法优化的RF_GRU网络短期电力负荷预测方法，其特征在于，所述步骤9判断是否有要放弃的解，若有，则侦查蜂按式(4)随机产生新解将其替换。改进后的随机初始化人工蜂食物源的随机生成公式如下所示：

其中j的范围为{1,2,..,D}。D代表可行解的维数；x^max _j和x^min _j分别代表第j个维度的上限值和下限值。rand(0,1)表示(0,1)区间的随机数。

式中，r₁为正弦余弦因子，其能够控制算法进行正弦全局搜索(概率为60％)和余弦局部勘探(概率为40％)的区域范围。当蜂群算法需要随机初始化人工蜂群食物源时，先随机一个在(0,1)区间的随机数，如其小于0.6，则采用随机生成公式(5)，否则，采用随机生成公式(6)。

正弦余弦因子r₁的计算公式为：

式中，a为常数t_p为当前迭代次数，T_max为最大迭代次数。