CN112633604A - 一种基于i-lstm的短期用电量预测方法 - Google Patents

Abstract

本发明涉及一种基于I‑LSTM的短期用电量预测方法，属于电力系统预测领域。该方法包括以下步骤：S1：收集电力系统的历史数据，并处理不完整数据和异常值；S2：根据时间将数据划分为训练集、验证集和测试集；S3：构建混合长短记忆网络I‑LSTM模型，并将训练集输入I‑LSTM网络模型进行训练；S4：设置I‑LSTM网络模型的网络损失函数、优化算法、学习速率和batchsize；S5：预测测试集，根据验证集准确变化情况得到的模型，得到测试集的预测结果。本发明能更好地挖掘用户历史数据序列中的关键信息以及用户用电量数据之间的特征关系，有效地提升用户用电量预测精度和稳定性。

Description

一种基于I-LSTM的短期用电量预测方法

技术领域

本发明属于电力系统预测领域，涉及一种基于I-LSTM的短期用电量预测方法。

背景技术

随着工业和人民生活水平的提高，对电力能源的供应量和供应效率都提出了更高的要求。智能电网已普及到人们的生活中。因此，提供一种精确度高的电力系统短期预测方法是很有必要的。

随着深度学习技术的不断发展，电网领域逐渐将目光转向深度学习。基于深度学习常用的方法为神经网络(Long Short-Term Memory,LSTM)，LSTM引入了具有记忆功能的组件，能较好地捕获数据前后的时序规律，因此广泛应用与时序预测。但是超长的记忆周期使得LSTM模型存在梯度消失问题，从而不能更好的捕获到电量时间序列的超长期趋势。

发明内容

有鉴于此，本发明的目的在于提供一种基于I-LSTM的短期用电量预测方法，借助I-LSTM网络模型(I-LSTM是周期性长短记忆网络(PLSTM)和LSTM的组合，其中PLSTM用来捕获用电量时间序序列的超长期记忆)有效解决由于输入序列过长而出现的信息丢失导致性能瓶颈的问题，同时有效捕捉较长时间内序列之间的相关性。

为达到上述目的，本发明提供如下技术方案：

一种基于I-LSTM的短期用电量预测方法，对数据进行预处理，准备训练数据集，验证数据集和测试数据集；搭建基于混合长短记忆网络I-LSTM的用电量预测模型；该模型包括LSTM和周期性长短记忆网络(PLSTM)两个网络层。该方法包括以下步骤：

S1：收集电力系统的历史数据，并处理不完整数据和异常值；利用异常值前一天和后一天同时间值的平均值替代异常值；

S2：根据时间将数据划分为训练集、验证集和测试集，分别用于I-LSTM网络模型训练，评估与测试；

S3：构建混合长短记忆网络I-LSTM模型，并将训练集输入I-LSTM网络模型进行训练；其中I-LSTM是周期性LSTM和LSTM的组合；

S4：设置I-LSTM网络模型的网络损失函数、优化算法、学习速率和batchsize；

S5：预测测试集，根据验证集准确变化情况得到的模型，得到测试集的预测结果。

进一步，步骤S3中，构建的I-LSTM网络模型具体包括：将数据分别通过LSTM和周期性LSTM，然后将输出的两种数据进行全连接，从而得到最终时刻的预测值。

进一步，步骤S3中，所述周期性LSTM的结构表达式为：

其中，

为第j个候选细胞用的遗忘门，代表记忆细胞被遗忘的程度；

为输入门，代表新记忆细胞内容被添加到记忆细胞单元的程度；

为第j个候选细胞用来更新记忆；

为控制单元，代表第j个LSTM单元在t时刻保持的记忆；

是输出门，决定输入值中哪部分是将要输出的；p表示所用数据的周期值，σ表示sigmoid激活函数，tanh表示激活函数，x_t是二维数据，代表当前层的输出是前t-p个小时的长短记忆网络的记忆；W_i、W_f、W_c、W_o为权重系数；b_i、b_f、b_c、b_o为偏置项。

进一步，步骤S3中，I-LSTM网络模型的预测值为：

其中，

为LSTM和周期性LSTM的全连接输出，

为LSTM第t时刻的输出，

为周期性LSTM的所有p时刻的输出值，p表示所用数据的周期值；W^R和W_i ^S为权重系数。

本发明的有益效果在于：

(1)本发明通过使用混合长短记忆网络的预测模型可以更好地挖掘历史负荷数据序列中的关键信息以及时间序列数据之间的特征关系，通过LSTM能够提取用电量数据的长、短期记忆。通过PLSTM能更加有效的提取数据的超长记忆。LSTM和PLSTM的结合能更加有效地提取数据的特征值，从而提升了预测准确度。

(2)本发明采用预训练策略与卷积网络、长短记忆网络深度序列模型，结合单变量自演化信息与多变量依赖关系信息进行建模，实现了多变量时间序列预测的优化算法，同时兼顾了整体预测精度和局部单变量的预测精度。本发明具有较好的整体预测精度，对于局部单变量的预测精度保障性方面优于现有的多变量时间序列预测方法。

(3)本发明的I-LSTM模型可以更好地挖掘历史负荷数据序列中的关键信息以及时间序列数据之间的特征关系，对时间序列预测问题有明显的影响。很显然，深度学习递归神经网络对电力负荷预测问题有很好的适应性。因此本发明的短期用电量预测模型具有较高的预测精度和较强的稳定性。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，其中：

图1为本发明短期用电量预测方法的流程图；

图2为用户用电量自相关系数；

图3为LSTM和周期性LSTM记忆信息比较示意图；

图4为h＝1，使用I-LSTM和LSTM模型的电量预测值与真实值的对比效果图。

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

请参阅图1～图4，图1是本发明优选的一种基于I-LSTM的短期用电量预测方法流程图，如图1所示，该方法具体包括以下步骤：

S1：明确电力预测的目的和方向，结合电力系统需求制定完整的预测计划。

S2：收集电力系统的历史数据，对序列中数据包含不完整数据和异常值。

在S2中获取的数据集中，实际可能会存在部分数据的缺失，数据的缺失可能会导致有用信息的丢失，同时，空值数据可能导致不可靠的模型输出等情况，对实验结果产生较大的影响。因此，在将数据导入模型之前有必要对缺失的数据进行处理。本实施例采用如下方式替代异常值：利用异常值前一天和后一天同时间值的平均值代替。

S3：根据时间将数据划分为训练集，验证集，测试集用于模型训练，评估与测试。

由于受日常生活规律的影响，用户的用电量往往具有周期性，为了说明用电量的周期性。随机提取一部分数据进行自相关分析，从图2可以看出，用户用电量数据集中存在自相关程度高的重复模式。此外，还可以在电力数据集的图形中观察到短期的日模式(每24小时)和长期的周模式(每7天)，它们反映了电力消耗的变化规律。

S4：构建混合长短记忆网络I-LSTM模型，并将训练集输入I-LSTM网络模型进行训练；其中I-LSTM是周期性LSTM和LSTM的组合。

I-LSTM网络模型的构建：传统网络模型为RNN(递归或循环神经网络)，然而当记忆的时间序列太长时，RNN将存在梯度消失或梯度爆炸的问题，为此出现了由RNN(递归或循环神经网络)改善后的LSTM(长短期记忆循环神经网络)；LSTM能记忆有效的历史信息，然而LSTM的本质还是一种记忆的过程，当LSTM循环神经网络设计的过长以提取超长期记忆信息时，神经网络反向传播时还是会导致梯度消失或者减弱，所以实际应用中往往不能捕获到长时间的相关性。

为了解决LSTM无法提取数据中超长期记忆信息问题，本实施例改进了LSTM，现实生活中每天电力的消耗都体现出很强的周期特性，例如，我们想预测今天下午两点的电力消耗值，除了最近几小时的电力消耗值对两点的值影响大，通过前面的自相关分析，我们可以知道24小时前的电力消耗值对它的值影响也很重要。然而这种周期性的依赖关系很难被现有的LSTM单元捕获，相比于LSTM，周期性LSTM记忆该时刻过去固定该时刻的所有历史信息，因此加强的超长记忆的特征值。关于LSTM和周期性LSTM的记忆信息比较，如下图3。

LSTM神经网络当前时刻的输入记忆信息是从上一时刻传递下来，记忆信息通过很多次的循环传递，减弱了较远时刻对当前时刻产生的记忆信息，而周期性LSTM神经网络当前时刻输入的记忆信息不是由上一时刻传递而来，而是前面第p个时刻的输出记忆信息，使得整个模型记忆了较远的历史信息，使得长短记忆网络可以设计的更长，而不用担心过长记忆导致梯度消失问题，从而缓解了梯度减弱问题。周期性LSTM的计算公式如下：

然后，将多元时间序列分别通过LSTM、周期性LSTM，以更好地提取电力数据的数据特征。

最后，通过LSTM的时间序列和周期性LSTM时间序列进行全连。

S5：设置网络损失函数、优化算法、学习速率、batchsize。

S6：预测测试集，根据验证集准确变化情况得到的模型，得到测试集的预测结果。

图4展示了预测未来时刻h＝1的时候，LSTM和I-LSTM模型的预测值与真实值的对比效果图。

S7：模型评估和验证，验证搭建电力预测模型的预测精度以及预测的波动性和预测模型的适用性。

下面结合仿真对本实施例的应用效果做详细的描述。

1)仿真内容与结果

将LSTM和本发明I-LSTM模型进行仿真对比，二者使用到神经网络中数据的batch数，LSTM的隐藏神经元个数都采用网格搜索法来搜寻最佳值，对比模型的所有可调超参数进行了网格搜索，从{2²,2³,...,2⁸}中选择合适的值。为了公平训练各个对比模型，本文需要的训练参数规定如下。其中所有的模型训练1000轮，学习率为0.001，电力数据的大致周期为24小时，因此周期性记忆网络隐藏层神经元个数p指定为24，预测的未来时刻为h＝1，2，3，6，12，24(单位小时)。采用Adma优化器对目标函数进行优化。

表1表明：在测试集中，本发明所提算法较原始算法系统性能均有了明显的提升，本发明较好的挖掘了多维时间序列的信息，有效提升了算法的预测精度。

表1 未来时刻预测性能指标对比

从表1中可以得出的结果是I-LSTM网络模型经用电量预测模型预测效果比LSTM好，特别是当预测的未来时刻越来越大时，本文的预测方法更具有优势：当预测第二天该小时的用电量时(h＝24),相对平方根误差(RSE)提升了0.49％、经验相关系数(CORR)提升了17.8％、相对绝对值误差(RAE)提升了0.18％。而当预测下一小时的用电量时(h＝1),相对平方根误差(RSE)提升了0.18％、经验相关系数(CORR)提升了3.4％、相对绝对值误差(RAE)提升了0.02％。从实验结果可以看出，使用本发明提出的短期用电量预测模型，若预测的未来时刻越大，提升效果相对LSTM更加明显。显然，本发明能更好地挖掘用户历史数据序列中的关键信息以及用户用电量数据之间的特征关系，有效地提升用户用电量预测精度，从而证明了本发明提出的基于I-LSTM模型的短期用电量预测模型具有较高的预测精度和较强的稳定性。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (4)

1.一种基于I-LSTM的短期用电量预测方法，其特征在于，该方法包括以下步骤：

S1：收集电力系统的历史数据，并处理不完整数据和异常值；利用异常值前一天和后一天同时间值的平均值替代异常值；

S2：根据时间将数据划分为训练集、验证集和测试集；

S3：构建混合长短记忆网络I-LSTM模型，并将训练集输入I-LSTM网络模型进行训练；其中I-LSTM是周期性LSTM和LSTM的组合；

S4：设置I-LSTM网络模型的网络损失函数、优化算法、学习速率和batchsize；

S5：预测测试集，根据验证集准确变化情况得到的模型，得到测试集的预测结果。

2.根据权利要求1所述的短期用电量预测方法，其特征在于，步骤S3中，构建的I-LSTM网络模型具体包括：将数据分别通过LSTM和周期性LSTM，然后将输出的两种数据进行全连接，从而得到最终时刻的预测值。

3.根据权利要求1或2所述的短期用电量预测方法，其特征在于，步骤S3中，所述周期性LSTM的结构表达式为：

其中，f_t ^j为第j个候选细胞用的遗忘门，代表记忆细胞被遗忘的程度；

为输入门，代表新记忆细胞内容被添加到记忆细胞单元的程度；

为第j个候选细胞用来更新记忆；

为控制单元，代表第j个LSTM单元在t时刻保持的记忆；

是输出门；p表示所用数据的周期值，σ表示sigmoid激活函数，tanh表示激活函数，x_t是二维数据；W_i、W_f、W_c、W_o为权重系数；b_i、b_f、b_c、b_o为偏置项。

4.根据权利要求1或2所述的短期用电量预测方法，其特征在于，步骤S3中，I-LSTM网络模型的预测值为：

其中，

为LSTM和周期性LSTM的全连接输出，

为LSTM第t时刻的输出，

为周期性LSTM的所有p时刻的输出值，p表示所用数据的周期值；W^R和W_i ^S为权重系数。

Images