CN112329990A - 一种基于lstm-bp神经网络的用户用电负荷预测方法 - Google Patents

Abstract

本发明公开了一种基于LSTM‑BP神经网络的用户用电负荷预测方法，属于电力负荷预测领域，该方法包括:从电网信息采集系统中获取所需用户历史用电量;将所获取到的所述用户历史用电量作为LSTM‑BP神经网络模型的输入向量,以利用LSTM‑BP神经网络模型来计算预测出未来一个月内的用户用电数值;根据所述用户历史用电数值并结合LSTM模型与BP神经网络方法,来计算出未来一个月的预测用电负荷。使之更加符合真实情况,提高运算与工作效率,提高准确性，进而能够有效地保证电力网络的正常运行以及减少电力公司的经济损失。

Description

一种基于LSTM-BP神经网络的用户用电负荷预测方法

技术领域

本发明属于电力负荷预测领域，更具体的说涉及一种基于LSTM-BP神经网络的用户用电负荷预测方法。

背景技术

用户的用电行为(主要包括用电负荷)是经常变化的,不仅是随着时段的不同的变化，日类型、最高气温、平均气温、相对湿度、风力、降水等因素也会造成明显影响。电负荷预测是对于社会生产各行业和人民生活各方面用电量的科学估算。是实施计划用电,编制生产计划的基础,是工矿企业设计工作的主要项目之一,也是保障国民经济需要和电力供应之间相互平衡的重要环节。负荷预测既是电力系统规划的重要组成部分,又是提高电力企业经济效益、促进国民经济发展的重要因素之一。用电负荷预测是是电网经济运行和安全控制中必不可少的基础,对电网运行的安全性、可靠性和经济性起着重要作用。高精度的短期用电负荷预测有助于合理地安排电网设备调度及.检修计划,提高电力系统运行的稳定性,减少电网的发电成本,提高电力系统的经济效益和社会效益。

目前针对不同的用户通常都是采用单一算法进行电负荷预测。但是单一的用电负荷预测通常也会导致准确性欠佳,预测偏差较大。随着电力市场的发展,电力负荷预测的重要性日益显现,并且对负荷预测精度的要求越来越高。传统的预测方法比较成熟,预测结果具有一定的参考价值,但要进一步提高预测精度,就需要对传统方法进行一些改进,同时随着现代科学技术的不断进步,理论研究的逐步深入,出现了以灰色理论、专家系统理论、模糊数学等为代表的新兴交叉学科理论，为负荷预测的飞速发展提供了理论依据和数学基础。

发明内容

本发明目的是：针对现有技术中心存在的不足，本发明公开了一种基于LSTM-BP神经网络的用户用电负荷预测方法及系统，解决了现有技术中的单一算法进行用电负荷预测导致预测偏差大，精准性差的问题。

为了实现上述目的，本发明是采用以下技术方案实现的的：一种基于LSTM-BP神经网络的用户用电负荷预测方法。其特征在于，包括如下步骤：步骤一：数据预处理。步骤二：熵权法求权重，选指标。步骤三：利用LSTM神经网络计算。步骤四：利用BP神经网络计算。步骤五：模型计算得到预测值。

优选的，作为本发明所述的一种基于LSTM神经网络与BP神经网络组合的的用户用电负荷预测方法及系统，其中数据采集是收集利用国家电网用户用电信息发布平台等多种渠道收集整理数据,包括日类型、最高气温和平均气温等指标。其中天气规定阈值为(1,8)表示由阴到晴的程度。

由于原始数据集中的数据质量参差不齐,可能使模型训练过程陷入混乱，导致不可靠的输出，所以在进行模型构建之前需要对数据进行预处理"。经过预处理后对数据集进行整理计算，最终得到相关样本数据集,并以7:3的比例对数据集进行划分。

在信息熵中如果一个指标变量的信息熵越小，表明该指标提供的信息量越大,也就表明它的权重比较大，在整体评价体系中所起的作用也就较大。基于本点,本文使用熵权法对用户用电负荷数值的多元化关键信息指标进行权重计算。熵权法赋权步骤具体步骤包括：

数据标准化将各个指标的数据进行标准化处理，公式为：

式中：假设给定了k个指标X1,X2，……，Xk，其中x_i＝{x₁，x₂，...,x_n}。假设对各指标数据标准化后的值为Y₁,Y₂,...,Y_K，

求各指标的信息熵根据信息论中信息熵的定义，一组数据的信息熵公式为：

其中

如果P_ij＝0，则定义

确定各指标权重根据信息熵的计算公式：

计算出各个指标的信息熵为E₁,E₂...,E_k。

通过上述熵权法的操作,比较各指标变量权重大小,本文选取日类型.最高气温.平均气温.相对湿度.风力、降水等作为用户用电预测的关键因素,接着在LSTM神经网络中训练处理后的指标样本数据。

定义用电序列为X＝(x₁，x₂，x₃，x₄，x₅),将LSTM网络模型进行初始化,并将其输人层设置为5个神经元，隐含层结构单元设置为4,输出层结构单元设置为5,并定义最大迭代次数为2500。

将用电序列输人到LSTM神经网络中,序列首先在遗忘门进行信息筛选预处理，通过s,函数决定“细胞状态"丢弃什么信息,得到新的拥堵序列X^[4]。

然后将新序列传送到输人门,经过Sig-moid函数层决定出需要被更新的变量值，tanh函数层为“细胞状态"创建-一个新的候选值向量

接着LSTM神经网络会对“细胞状态”进行更新,将旧状态C_t-1与f_t函数进行点积运算,由此完全丢弃上述被遗忘门筛选出来的信息,再加上

其目的是将C_t-1更新为

最后在输出门里再次经过Sigmoid和tanh函数层的处理计算得到用来预测居民用电负荷的各指标变量所造成的用电预测时间,定义为因于用电负荷预测时间序列Y＝(y₁，y₂，y₃，y₄，y₅)。

假设对于一组随机测试集数据,由LSTM神经网络模型和BP神经网络模型迭代计算得到的因子用电预测符合时间序列分别为Y，Z，a_i(i＝1，2，...,5)表示由熵权法计算得到的各个指标变量权重并作为因于用电负荷预测时间序列的权值,则有:

T_i＝∑a_i*t_i

在不超过神经网络学习次数和允许最大误差范围内,对整体构建的LSTM-BP神经网络进行迭代训练，设定w₁、w₂分别为LSTM和BP神经网络权值,不断更新神经网络连接权值,对用电负荷预测时间进行预测，则有:

T＝(w₁*T_t-LSTM+w₂*T_t-BP)

经过上述步骤处理操作,可以得到每次连接权值更新后的预测时间，经过多次预测训练所得到的预测时间整理成矩阵为:

T＝(w₁*T′_t-LSTM+w₂*T′_t-BP)

T＝(w₁*T′_t-LSTM+w₂*T′_t-BP)可以得到最终精度较高的预测时间T′,其中云表示网络训练相对误差，

本发明有益效果：

能够准确预测短期用电负荷，解决了现有技术中的单一算法进行用电负荷预测导致预测偏差大，精准性差的问题。具有稳健性，克服了传统单层模型的缺，克服了前馈型神经网络不能有效处理时间序列间关联信息的缺点，弥补了RNN存在的“梯度消失”、“梯度爆炸”以及长期记忆能力不足等问题，获得了较好的预测精度，使之更加符合真实情况,提高运算与工作效率,提高准确性，进而能够有效地保证电力网络的正常运行以及减少电力公司的经济损失。

附图说明

图1为基于LSTM-BP的用电负荷预测方法的流程图；

图2为LSTM框架结构图；

图3为LSTM神经网络基本单元；

图4为BP神经网络结构；

图5为LSTM-BP模型流程图。

具体实施方式

下面将结合本发明实施例和附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图，包括如下步骤：

步骤1：数据采样间隔为20分钟，则每天共有72个采样点。采集负荷数据以及其他特征数据。其特征包括：日类型、平均气温、最高气温、相对湿度、降水、风力等。

步骤2：数据预处理

进行归一化处理，提高模型的收敛速度。如下式：X_i

此式中x为待归一化负荷值，X’为归一后的负荷值，max(X)、min(X)为待归一化负荷值的最大值与最小值。

熵权法求权重，选指标：

步骤A：取定了k个指标X₁,X₂，……，X_k，其X_i＝{X₁,X₂，……，X_k}。假设对各指标数据标准化后的值为Y₁、Y₁、…、Y_k那么。

步骤B：求各指标的信息熵，根据定义，一组数据的信息熵

其中，

如果P_ij＝0，则定义

步骤C：确定各指标权重，根据信息熵公式，计算出各个指标的信息熵为E₁，E₂，…E_k。通过信息熵计算各指标的权重：

考虑到电力负荷数据具有“远小近大”和周期性的特点，对于缺失数据的处理采用历史同期数据进行填补，根据缺失时间段类型的不同处理方式有所区别。对于异常负荷数据检测与处理采用垂直比较法，即当下时刻的负荷值和相邻同类型日相同时刻的负荷值近似。借助负荷数据的周期性特点获得待判断时刻点同类型日期相同时刻点的数据分布，通过该数据的统计指标来对当前时刻点的负荷数据进行异常检测，假设当前时刻点为Point,，对该时刻点的具体检测步骤如下:

步骤A:取出该时刻点的同类型日期相同时刻点负荷序列,如下式：

[Point_d-n*7,…,Point_d-7,Point_d+7,…,Point_d+n*7]

此式中Point_d-n*7表示为前n周相同时刻点的负荷，Point_d+n*7表示后n周相同时刻点的负荷。

步骤B：求得上式序列的均值μ、标准差σ，利用下式进行判断，

此式中：

为当前时刻负荷得偏离率，ε为阈值，取值区间通常为[1，1.5].

步骤C：将满足步骤A中的式子的异常数据去除，之后并用确实数据处理方法进行处理。

步骤3：利用LSTM-BP神经网络计算：

如图3所示，为LSTM神经网络基本单元：

其中x代表当前时刻的输入，S、2/S分别代表t-1时刻和t时刻隐含层状态，C_t-1、C_t分别表示t-1时刻和t时刻的记忆单元状态，i_t是输入门的输入信号，o_t是输出门的输出信号，f_t是遗忘门的输出信号；^C_t代表即将输入到S中的预备信息，C_t代表即将输入到C中的预备息，σ为sigmoid函数，tanh为双曲正切函数。

LSTM中的遗忘门负责判断是否保持上一时刻的长期状态，输入门负责将此刻的状态输入到长期状态中,输出门负责判断是否将长期状态作为输出,其前向计算过程如下:

遗忘门:f_t＝σ(W_fx_t+U_fS_t-1+b_f)

上式中:W_f是作用在当前输入向量x_t的权重矩阵，U_f主要是作用在上一层中S_t-1的权重矩阵，b_f代表遗忘门的偏差数值。由sigmoid函数特性可知f_t为0到1之间的实数，由f_t决定其中长期记忆C遗忘的比例。

输入门：i_t＝σ((W_fx_t+U_fS_t-1+b_t)

上式中:i_t为一个0到1之间的随意实数，代表当下信息输入到记忆单元中的比例。

输出门:o_t＝σ(W_ox_t+U_oS_t-1+b_o)

o_t是一个0到1范围内的实数，用来确定记忆单元状态C输入到当前时刻状态S的比例。

记忆单元状态:C_t＝tanh(W_cx_t+U_cS_t-1+b_c)

～C_t＝f_t*C_t-1+i_t*～c_t

上式1中:～c_t代表即将输入到C中的预备信息，W_c是作用在当前输入向量x_t的权重矩阵，U_c是作用在上一时刻隐含层状态S的权重矩阵；b_c代表偏置。^C_t代表备选的用来更新的记忆单元状态，将其与输出门o_t点乘可以得到隐含层状态输出S。

上式2中:输入门i_t与～c_t点乘可判断出是否更新了记忆单元状态C_t，遗忘门f_t与C_t-1点乘可判断是否保留了记忆单元状态。由此可得出C_t为t时刻的记忆单元状态，再经过双曲正切激活函数tanh,与输出门o_t进行点乘可以得到t时刻下的隐含层状态输出S,，如下式:

^C_t＝tanh(C_t)

S_t＝o_t*^C_t

如图4为BP神经网络结构，BP神经网络结构的误差指标函数为:

E＝.z 2E(yw-tm)°

W表示BP神经网络各层神经元的连接权值用向量，k表示训练步数,则W^k表示第k次训练的网络权值向量,其次新的权值向量为W^k+1。J为以εⁿ为元素的向量的Jacabi矩阵。已知移动数值W^k+1-W^k非非常小，则ε的一阶Taylor级数为:

ε(W^k+1)＝ε(W^k)+J(W^k+1-W^k)

因此,误差指标函数可以写为:

由于普通可实现的BP神经网络通常采用最速下降法,此方法在操作中极有可能产生局部最小值。为防止产生局部最小值，我们采用BR算法优化训练性能，可防止网络过拟合,改进的目标误差函数为：

E＝k₁E_d+k₂E_w

其中

通过贝叶斯方法可确定比例系数k₁ k₂,具体公式如下:

式中:γ为LSTM-BP神经网络中BP神经网络的有效参数的个数，公式γ＝N-2k₂tr(H)^-1中N为LSTM-BP神经网络中BP神经网络中的参数总数；H为E的Hessian矩阵。

步骤4：LSTM-BP模型流程图如5图所示

LSTM隐含层是为了存储重要的信息，去除不重要的信息，不同的隐含层数、隐含神经元个数使得其适用于解决不同的问题。通常隐含层数和隐含神经元个数与模型的非线性拟合能力成正比，然而使用的神经元数和隐含层数过多会降低网络的泛化性能，大大增加计算时间。为了获得较快的训练速度和更高的预测精度。将LSTM隐含层个数设置为2～5个，通过实验获得最佳的隐含层个数。隐含层神经元个数按照经验--般设置为为2的次方数，第一层神经元数量不能太少，否则难以学习到数据间的非线性关系，因此将第一层神经元个数设置为64，为了减少冗余数据的干扰将第二层神经元个数设置为32，同时为了在进入BP层之前对数据进行适当地压缩,将后几层隐含层的神经元个数设置为16。

BP层首先从该层输入向量中得到特征权重向量，以上方法结合可得到新的向量，将这个向量在LSTM-BP神经网络中进行训练,多次训练后可达到准确预测值，最后保存训练后的预测数值。

步骤5：模型计算得到预测值：

进行反归一化处理，得到实际预测值。

反归一化公式如下：

X＝X’×(max(X)-min(X))+min(X)

将结果进行对比，最终输出预测值。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管通过上述优选实施例已经对本发明进行了详细的描述，但本领域技术人员应当理解，可以在形式上和细节上对其作各种各样的改变，而不偏离本发明权利要求书所限定的范围。

Claims (7)

1.一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于：所述的用电负荷预测方法及系统包括以下步骤：

步骤一：数据预处理；

步骤二：利用熵权法，选指标数值；

步骤三：利用LSTM神经网络计算；

步骤四：利用BP神经网络计算；

步骤五：模型计算得到预测值。

2.根据权利要求1所述的一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于：所述步骤一具体包括：

步骤1.1收集利用国家电网用户用电信息发布平台等多种渠道收集整理数据,包括日类型、最高气温和平均气温等指标，其中天气规定阈值为(1,8)表示由阴到晴的程度；

步骤1.2经过预处理后对数据集进行整理计算，最终得到相关样本数据集,并以7:3的比例对数据集进行划分。

3.根据权利要求1或2所述的一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于：所述步骤二包括：

步骤2.1使用熵权法对用户用电负荷数值的多元化关键信息指标进行权重计算。

4.根据权利要求3所述的一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于：所述熵权法赋权步骤具体步骤包括：

步骤3.1将各个指标的数据进行标准化处理，假设给定了k个指标X1,X2，……，Xk，其中x_i＝{x₁，x₂，...,x_n}，假设对各指标数据标准化后的值为Y₁,Y₂,...,Y_K，那么

步骤3.2求各指标的信息熵根据信息论中信息熵的定义，一组数据的信息熵

其中

如果P_ij＝0，则定义

步骤3.3计算各指标权重，根据公式得出各个指标的信息熵为E₁,E₂...,E_k，通过信息熵计算各指标的权重：

5.根据权利要求1、2、4中任意一条权利要求所述的一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于：所述步骤三中LSTM算法具体步骤包括：

步骤4.1通过上述熵权法的操作,比较各指标变量权重大小,选取日类型.最高气温.平均气温.相对湿度.风力、降水等作为用户用电预测的关键因素,接着在LSTM神经网络中训练处理后的指标样本数据；

步骤4.2定义用电序列为X＝(x₁，x₂，x₃，x₄，x₅),将LSTM网络模型进行初始化,并将其输人层设置为5个神经元，对隐含层结构单元设置为4、输出层结构单元设置为5,并定义最大迭代次数为2500，将用电序列输人到LSTM神经网络中,序列首先在遗忘门进行信息筛选预处理，通过s,函数决定“细胞状态"丢弃什么信息,得到新的拥堵序列X^[4]，然后将新序列传送到输人门,经过Sig-moid函数层决定出需要被更新的变量值，创建一个新的向量

则LSTM神经网络会进行更新,将旧状态C_t-1与f_t函数进行点积运算,由此完全丢弃上述被遗忘门筛选出来的信息,再加上

其目的是将C_t-1更新为

最后在输出门里再次经过Sigmoid和tanh函数层的处理计算得到用来预测居民用电负荷的各指标变量所造成的用电预测时间,定义为因于用电负荷预测时间序列Y＝(y₁，y₂，y₃，y₄，y₅)。

6.根据权利要求5所述的一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于：所述步骤四中BP算法具体步骤包括：

步骤5.1将LSTM的输出量作为BP输人量进行训练,根据输人指标变量设置网络输入层为5,隐含层为4,输出层为；

步骤5.2将经LSTM神经网络计算得出的因于用电负荷预测时间序列Y＝(y₁，y₂，y₃，y₄，y₅)作为输入变量,设定BP神经网络的学习次数最多为2500次,设定最大误差e为0.001,当网络迭代次数大于2500时或误差小于e时,网络模型停止训练,此时可以得到由BP神经网络计算的因于用电负荷预测时间序列Z＝(z₁，z₂，z₃，z₄，z₅)。

7.根据权利要求1、2、4、6中任意一条权利要求所述的一种基于LSTM-BP神经网络的用户用电负荷预测方法，其特征在于:所述步骤五包括:

步骤6.1对于一组随机测试集数据,由LSTM神经网络模型和BP神经网络模型迭代计算得到的因子用电预测符合时间序列分别为Y，Z，a_i(i＝1，2，...,5)表示由熵权法计算得到的各个指标变量权重并作为因于用电负荷预测时间序列的权值,则有T_i＝∑a_i*t_i在不超过神经网络学习次数和允许最大误差范围内,对整体构建的LSTM-BP神经网络进行迭代训练，设定w₁、w₂分别为LSTM和BP神经网络权值,不断更新神经网络连接权值,对用电负荷预测时间进行预测，则有T＝(w₁*T_i-LSTM+w₂*T_i-BP)经过上述步骤处理操作,可以得到每次连接权值更新后的预测时间，经过多次预测训练所得到的预测时间整理成矩阵为TW＝(w₁*T_i-LSTM+w₂*T_i-BP)可以得到最终精度较高的预测时间T`其中云表示网络训练相对误差，

Images