CN113222279A - 一种考虑需求响应的短期负荷预测方法 - Google Patents

Abstract

本发明公开了一种考虑需求响应的短期负荷预测方法，通过收集历史负荷数据和对应的环境和电价数据，对数据进行数据清洗和归一化等预处理，对电力负荷预测模型，进行训练从而获得训练好的电力负荷预测模型；根据实时获取的预测时刻的环境和电价数据及历史负荷数据输入电力负荷预测模型即可获得预测时刻的电力负荷预测值。本发明采用基于需求响应进行构建和训练负荷预测模型，考虑天气、电价、节假日、工作日等各类环境因素，有效提取数据的局部特征和时序特征，合理分配特征权重，能够实现对短期负荷的精准预测。

Description

一种考虑需求响应的短期负荷预测方法

技术领域

本发明涉及电力负荷预测技术领域，具体涉及一种考虑需求响应的短期负荷预测方法。

背景技术

负荷的精准预测对电网稳定经济运行具有重要意义，做好电力负荷预测的工作能够在尽可能的兼顾用户用电质量可靠安全、减少发电供电公司运行成本、保障良好社会效益的情况下减少发电备用容量，进而减少了成本，实现电力调度的经济合理性。

神经网络是目前负荷预测中的主流方法，各种神经网络各有其特点，使得不同神经网络对信息的处理方式不同，获得的预测效果也不同，因此，通过合理改进神经网络结构可以达到更高的预测精度。另外，用于预测的特征向量对于模型预测精度同样具有决定性作用，因此如何选择相关数据构建用于预测的特征向量也具有重要的意义。

发明内容

为了提高负荷预测的精度，考虑到需求响应能够对负荷预测进行指导，本发明在考虑电价、节假日、工作日、天气、历史负荷数据、输入向量特征权重等因素的基础上提出了一种考虑需求响应的短期负荷预测方法，利用深度学习和数据挖掘技术，构建了 CNN-LSTM-LightGBM电力负荷组合预测模型，在经过预处理的数据集上实现电力负荷的精准预测。

本发明采用的技术方案为：

一种考虑需求响应的短期负荷预测方法，包括如下步骤：

步骤(1)、获取不同时刻对应的电价、环境温度、湿度、日期属性、电力负荷等特征，对非数字特征进行one-hot独热编码，然后对特征进行归一化作为训练数据；

步骤(2)、构建电力负荷预测模型，并利用步骤1获得的训练数据进行训练。其中，电力负荷预测模型的输入为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值。所述电力负荷预测模型的结构为神经网络、决策树等。

步骤(3)、获取预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值并利用步骤1方法进行处理后作为训练好的电力负荷预测模型的输入，得到电力负荷预测值。

进一步地，所述步骤1中，还包含对电力负荷数据的清洗步骤，具体为：

采用聚类的方式，取相似度最大的三日数据对应时刻的电力负荷值的均值填补空缺数据。其中，聚类的特征包括电价、环境温度、湿度、日期属性等。

根据历史电力负荷数据的平滑性查找异常数据，并采用前一天同一时刻的值填补异常数据。

进一步地，所述步骤2中，预测点时刻的电价包含峰时电价、谷时电价和平时电价。所述日期属性包含节假日、工作日和周末，根据节假日和非节假日分类构成一组特征，根据工作日和周末分类构成另一组特征。

进一步地，所述步骤2中，电力负荷预测模型由包含attention机制的CNN-LSTM模型和 LightGBM模型组合构成。其中，CNN-LSTM模型和LightGBM决策树模型的输入均为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值。并分别利用步骤1获得的训练数据进行训练，训练完成后再利用训练好的包含attention机制的CNN-LSTM 模型和LightGBM决策树模型对步骤1中的训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，并结合双向搜索方法进行优化获得最优权重。将两个模型的输出结合最优权重作为最终的电力负荷预测值。

进一步地，所述包含attention机制的CNN-LSTM模型包括CNN网络和LSTM网络，其中，CNN网络用于提取输入的特征向量的静态特征，所述LSTM网络用于根据CNN网络提取的静态特征学习时间序列长依赖信息并输出电力负荷预测值。所述LSTM网络包括隐藏层、attention层、Dropout层以及全连接层；其中attention层用于对隐藏层的最后一层进行特征重构，具体为：

计算当前时刻t对最后一层隐藏层输出序列中元素所分配的注意力权重a_ti，公式如下：

式中，j表示LSTM隐藏层输出特征序列中元素的序号，T_h表示LSTM隐藏层输出特征序列中的序列长度，e_tj表示LSTM隐藏层输出序列中待编码的元素和其它元素之间的匹配度。

计算特征权重向量：

a′_t,j＝H(D_t，C_t，h_t)

式中，H表示特征权重向量函数，h表示隐藏层最后一层所有时刻的输出特征序列，a′_t,j表示t时刻的输出特征序列h_t中第j个元素的权重。

将输出特征序列中的每个元素h_t,j与其对应的权重a′_t,j相乘构成新的特征序列h′_t。

进一步地，所述LightGBM模型采用梯度提升方法进行训练，采用网格搜索法优化LightGBM模型的超参数。

进一步地，利用训练好的包含attention机制的CNN-LSTM模型和LightGBM决策树模型对步骤1中的训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，具体为：

计算对应电力负荷预测值的MAPE值：

式中，

为预测值，y_t,i为对应的t时刻的电力负荷真实值，n为数据的样本数量。MAPE₁和 MAPE₂分别为包含attention机制的CNN-LSTM模型和LightGBM模型的MAPE值。

计算MAPE值的比例作为权重初值：

式中，₁和ω₂分别为包含attention机制的CNN-LSTM模型和LightGBM模型的权重初值。

进一步地，最终的电力负荷预测值，具体表示为：

ω_CNN-LSTM和ω_LightGBM分别为包含attention机制的CNN-LSTM模型和LightGBM模型的最优权重值，y_t,c为最终的电力负荷预测值。

本发明的有益技术效果：

1.本发明提出了考虑需求响应的短期负荷预测方法，将不同时刻的电价数据作为输入特征，进行电力负荷预测，结果表明考虑了电价后能够有效提高预测精度。

2.本发明提供的考虑需求响应的短期电力负荷预测方法，同时还设计了一种负荷预测模型，该模型由CNN-LSTM网络与LightGBM模型组合而成。针对LSTM网络训练速度慢的缺点，添加了局部特征预提取模块，由卷积神经网络结构对局部特征进行预提取，是处理长期时序数据问题的理想模型。同时，attention机制可以给隐藏层特征向量分配不同的权重，突出训练中关键的特征，提升了预测准确度。

3.本发明提供的考虑需求响应的短期电力负荷预测方法，利用平均绝对百分误差MAPE 评价指标比较LSTM与LGBM的预测精度，MAPE评价指标是统计领域中衡量模型预测准确度的常用指标，它不仅考虑预测值与真实值的误差，还考虑了误差与真实值之间的比例。使用MAPE-RW算法对模型进行组合，得到模型最优权重值，使组合模型相对单独的模型而言都有效提高了预测精度。

4.本发明采用基于需求响应和attention机制的CNN-LSTM-LightGBM负荷预测模型，考虑天气、节假日、工作日等其他各类环境因素，有效提取数据的局部特征和时序特征，合理分配特征权重，能够实现对短期负荷的精准预测。

附图说明

图1为基于attention机制的CNN-LSTM-LightGBM组合模型预测流程图；

图2为基于attention机制的CNN-LSTM模型框架

图3为CNN-LSTM模型在测试集上的预测曲线；

图4为LightGBM模型在测试集上的预测曲线；

图5为CNN-LSTM-LightGBM模型在测试集上的预测曲线。

具体实施方式

为使本领域技术人员更加清楚和明确本发明的技术方案，下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。

如图1-图5所示，本发明提供的考虑需求响应的短期电力负荷预测方法，基于CNN-LSTM 的电力预测模型，并结合误差反向传播法则实现对参数的最优化求解，且考虑到单一预测模型在预测性能上的不足，同时构建基于决策树梯度提升方法LightGBM的电力负荷预测模型，借鉴boosting集成学习的思想，提升预测准确度。该方法具体包括如下步骤：

步骤(1)、根据历史电价与电力负荷数据和相关外部特征数据，提取出不同时刻的电价、温度、湿度、日期属性(节假日/工作日/周末)、电力负荷等特征，对非数字特征进行one-hot 独热编码，然后对输入特征进行归一化，并处理成模型需要的张量形式，具体步骤是：

1)选取2006年1月1日至2010年12月31日的澳大利亚电价与电力负荷数据，一共87648条数据，本实施例中，按照8：1：1的比例划分训练集、验证集和测试集，训练集、验证集、测试集数据分别为61084条、8726条和8726条。

2)负荷数据在收集过程中，会出现数据缺失和数据错误的情况，需要对数据进行清洗处理，处理步骤为：

2.1)根据负荷数据的时序性，即一般是连续且平滑的，因此可以通过检查数据的平稳性找出异常数据，然后根据每天同一时刻的值具有相似性，采用前一天同一时刻的值替换异常数据。

2.2)采用聚类的方式，取相似度最大的三天对应时刻的平均值填充缺失数据。

3)构建电力负荷预测模型的输入特征向量，选择特征因子，包括：预测点时刻的峰时电价Ep_t、谷时电价Ev_t、平时电价Eo_t、预测点时刻的温度T_t、预测点时刻的湿度H_t、预测点前一天同时刻的电力负荷值y′_t、日期属性等特征因子。其中，根据日期属性为节假日和非节假日、工作日和周末作为两组特征W1_t,2_t，在处理时进行离散化操作，工作日和节假日对应特征值取1，非工作日(周末)和非节假日对应特征值取0；对于天气信息，若出现非数字特征，则采用one-hot独热编码的方式进行处理，最后输入特征向量可以表示为 x_t＝[Ep_t,Ev_t,Eo_t,T_t,H_t,1_t,2_t…y′_t]。

4)为了简少后续模型处理的运算量，对输入特征进行归一化处理，采用min-max归一化方法，归一化后的数据范围均在[0，1]之间，计算公式为：

式中，θ′为归一化以后的特征的值，包括峰时电价、谷时电价、平时电价、温度、湿度、电力负荷值，节假日和非节假日、工作日和周末等，θ为原始数据中的特征的值，θ_max为所有数据中该特征的最大值，θ_min为所有数据中该特征的最小值。

步骤(2)、构建电力负荷预测模型；本实施例中，分别构建了包含attention机制的CNN-LSTM模型、LightGBM决策树模型和由包含attention机制的CNN-LSTM模型和 LightGBM决策树模型组成的组合模型。其中，包含attention机制的CNN-LSTM模型为将预处理后的输入特征向量输入CNN网络进行训练，通过CNN网络的卷积、池化等操作可以提取出输入特征向量的静态特征，将CNN网络提取的特征再输入LSTM网络的隐藏层进行训练，得到训练后的特征向量，具体步骤是：

1)采用CNN网络对局部特征进行预提取

本实施例采用的CNN网络具体结构如图2所示。包括Conv1D层、MaxPooling1D层和全连接层；CNN网络结构通过将特定的特征编译于卷积结构中，使得正向传递函数更加高效，并且降低了网络中的参数数量。CNN网络可实现时间轴的特征提取，具体表示如下：

式中：x_t为t时刻的输入特征向量；ω_j为卷积核权重矩阵；b为偏差值；k为卷积核个数。 2)利用LSTM网络进行预测

LSTM网络包括LSTM隐藏层、Dropout层以及最后的Dense层，LSTM具有良好的记忆能力，可以用于学习时间序列长短期依赖信息，在对负荷预测时，从负荷历史数据中寻找规律信息，从而提高预测的准确性。其中，将CNN网络的输出输入至LSTM隐藏层进行特征提取，通过新增了三个“门”通过不断地学习训练提取有价值的信息，遗忘丢掉无价值的信息，分别是输入门i_t、遗忘门f_t、输出门o_t，这三个门是三个系数，取值范围均在[0，1]之间。输入门主要是用来判断更新哪些属性以及新属性的内容，遗忘门是为了遗忘以前无用的状态信息，输出门决定输出什么，三个门都由上个单元输出h_t-1和当前时刻输入X_t共同决定。其中输入门i_t、遗忘门f_t、输出门o_t和当前神经元候选值

的计算公式如下：

i_t＝σ(W_iXX_t+W_ihh_t-1+b_i) (3)

f_t＝σ(W_fXX_t+W_fhh_t-1+b_f) (4)

o_t＝σ(W_oXX_t+W_ohh_t-1+b_o) (5)

式中，W_iX，W_ih，W_fX，W_fh，W_oX，W_oh，W_CX，W_Ch分别表示相应门与当前输入的静态特征X_t和上个单元输出h_t-1相乘的得到的矩阵权重，b_i，b_f，b_o，b_C为偏置项，σ为sigmoid 函数；

新状态值C_t由上一状态值C_t-1、遗忘门f_t、输入门i_t以及当前神经元候选值

决定，得到新状态值C_t后，可以得到输出值h_t，计算公式为：

h_t＝o_t*tanh(C_t) (8)

式中，*表示各相乘向量中的元素按位乘积。

本实施例中设置LSTM为2层，且每层神经元个数分别为100和32，非线性拟合效果好且训练不需要花费大量时间。

本实施例中还采用Attention机制对隐藏层的输出特征做进一步处理，即对隐藏层的输出特征序列计算特征权重向量，赋予其中重要的影响因素更高权重，从而提高了信息处理的效率与准确性。具体如下：

计算当前时刻t对LSTM隐藏层第二层输出序列中元素所分配的注意力权重a_ti，公式如下：

式中，j表示LSTM隐藏层输出特征序列中的特征的序号，T_h表示LSTM隐藏层输出特征序列中的序列长度，e_tj表示LSTM隐藏层输出序列中待编码的元素和其它元素之间的匹配度。

计算特征权重向量，公式如下：

a′_t,j＝H(D_t，C_t，h_t) (10)

式中，H表示特征权重向量函数，h表示LSTM隐藏层第二层所有时刻的输出特征序列， a′_t,j表示h_t中第j个特征的权重。

将每个特征h_t,j与其对应的权重a′_t,j相乘构成新的特征序列h′_t并输入LSTM的Dropout层和全连接层，得到电力负荷预测值

LightGBM决策树模型搭建过程为：将步骤(1)预处理后的输入特征向量作为输入矩阵，根据Xgboost方法原理生成M棵弱回归树，得到该M棵弱回归树的输出值之和，即为LightGBM模型的预测值

具体表示为：

其中，采用梯度提升方法进行训练，采用网格搜索法优化LightGBM模型的超参数。通过网格搜索法优化后的主要超参数为：LightGBM模型的弱回归树数量为200、叶子数为80、学习率为0.08、迭代次数为2000。

步骤(3)、在两个模型并行完成训练和预测后，结合MAPE-RW算法对模型权重进行计算，作为组合模型的最后的预测值，具体步骤如下：

式中，

为预测值，y_t,i为对应的t时刻的电力负荷真实值，n为数据的样本数量。MAPE₁和 MAPE₂分别为CNN-LSTM模型和LightGBM模型的MAPE值。

2)MAPE-RW算法对模型权重进行计算的方法为：

首先分别计算CNN-LSTM模型和LightGBM模型的MAPE值，确定单个模型的权重初始值，然后对最佳权重值进行双向搜索，更快速地确定最优权重，然后计算组合电力负荷预测值，计算公式如下：

式中，ω₁和ω₂分别为CNN-LSTM模型和LightGBM模型的权重初始值，ω_CNN-LSTM和ω_LightGBM分别为CNN-LSTM模型和LightGBM模型的最优权重值，_t,c为组合模型的电力负荷预测值。

本实施例中的模型均采用python编程语言实现，基于CNN-LSTM的电力负荷预测模型使用Keras深度学习库实现，基于LGBM的电力负荷预测模型调用lightgbm机器学习库实现，训练的模型硬件环境为Intel Core i5，NVIDIA Geforce RTX 2080Ti。图3是CNN-LSTM模型在测试集上的预测曲线，由图3可以发现，模型的预测趋势与真实的电力负荷运行趋势基本符合，且在大部分时间段，拟合效果非常好。

图4是LightGBM模型在测试集上的预测曲线，由图4可以发现，模型的预测趋势与真实的电力负荷运行趋势基本符合，且在大部分时间段，拟合效果非常好。

图5是CNN-LSTM-LightGBM组合模型在测试集上的预测曲线，由图5可以发现，模型的预测趋势与真实的电力负荷运行趋势基本符合，与图3和图4对比可以发现，组合模型的预测曲线更加接近真实负荷曲线，拟合效果最好。

为了进一步比较两种单独模型和组合模型在预测性能上的差异，选择测试集上随机10条数据，利用MAPE评价指标作为预测精度的判断标准。

表1三种模型在部分测试集上的MAPE计算结果

表1给出了CNN-LSTM、LightGBM和CNN-LSTM-LightGBM组合模型分别进行负荷预测的部分结果，三种模型在完整测试集即8726条数据集的预测结果的MAPE分别为1.95％、2.03％和1.67％；由表1可见，在抽取的10条数据上的MAPE分别为1.98％、1.56％和1.45％，由此可见，组合模型的预测结果更加准确，预测效果最好。

为了对比电价对预测精度的影响，将数据集中的电价特征去除，重复上述实验，使用 CNN-LSTM、LightGBM和CNN-LSTM-LightGBM组合模型分别进行负荷预测，三种模型在测试集即8726条数据集的预测结果的MAPE分别为2.05％、2.20％和1.82％。

表2有无电价特征的预测结果对比

	MAPE(CNN-LSTM)	MAPE(LightGBM)	MAPE(组合模型)
				有电价特征	1.95％	2.03％	1.67％
无电价特征	2.05％	2.20％	1.82％

表2给出了CNN-LSTM、LightGBM和CNN-LSTM-LightGBM组合模型针对测试集有无电价特征的预测结果对比，可以看出当加入电价特征后，3种模型的预测效果都明显提升，说明本发明提出的考虑需求响应能够有效提高预测精度。

综上所述，本发明提供的基于需求响应和attention机制的CNN-LSTM-LightGBM负荷预测模型，考虑天气、电价、节假日、工作日等各类环境因素，能够有效提取数据的局部特征和时序特征，合理分配特征权重，实现了对短期负荷的精准预测。

以上仅是本发明的优选实例，并非对本发明保护范围的限制。应当指出，对于本技术领域的人员，其根据本发明的技术方案或构思做出的同等替换或改变，都属于本发明的保护范围。

Claims (8)

1.一种考虑需求响应的短期负荷预测方法，其特征在于：包括如下步骤：

步骤(1)、获取不同时刻对应的电价、环境温度、湿度、日期属性、电力负荷等特征，对非数字特征进行one-hot独热编码，然后对特征进行归一化作为训练数据；

步骤(2)、构建电力负荷预测模型，并利用步骤1获得的训练数据进行训练。其中，电力负荷预测模型的输入为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值。所述电力负荷预测模型的结构为神经网络、决策树等。

步骤(3)、获取预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值并利用步骤1方法进行处理后作为训练好的电力负荷预测模型的输入，得到电力负荷预测值。

2.根据权利要求1所述的一种考虑需求响应的短期负荷预测方法，其特征在于：所述步骤1中，还包含对电力负荷数据的清洗步骤，具体为：

采用聚类的方式，取相似度最大的三日数据对应时刻的电力负荷值的均值填补空缺数据。其中，聚类的特征包括电价、环境温度、湿度、日期属性等。

根据历史电力负荷数据的平滑性查找异常数据，并采用前一天同一时刻的值填补异常数据。

3.根据权利要求1所述的一种考虑需求响应的短期负荷预测方法，其特征在于：所述步骤2中，预测点时刻的电价包含峰时电价、谷时电价和平时电价。所述日期属性包含节假日、工作日和周末，根据节假日和非节假日分类构成一组特征，根据工作日和周末分类构成另一组特征。

4.根据权利要求1所述的一种考虑需求响应的短期负荷预测方法，其特征在于：所述步骤2中，电力负荷预测模型由包含attention机制的CNN-LSTM模型和LightGBM模型组合构成。其中，CNN-LSTM模型和LightGBM决策树模型的输入均为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值。并分别利用步骤1获得的训练数据进行训练，训练完成后再利用训练好的包含attention机制的CNN-LSTM模型和LightGBM决策树模型对步骤1中的训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，并结合双向搜索方法进行优化获得最优权重。将两个模型的输出结合最优权重作为最终的电力负荷预测值。

5.根据权利要求4所述的一种考虑需求响应的短期负荷预测方法，其特征在于：所述包含attention机制的CNN-LSTM模型包括CNN网络和LSTM网络，其中，CNN网络用于提取输入的特征向量的静态特征，所述LSTM网络用于根据CNN网络提取的静态特征学习时间序列长依赖信息并输出电力负荷预测值。所述LSTM网络包括隐藏层、attention层、Dropout层以及全连接层；其中attention层用于对隐藏层的最后一层进行特征重构，具体为：

计算当前时刻t对最后一层隐藏层输出序列中元素所分配的注意力权重a_ti，公式如下：

式中，j表示LSTM隐藏层输出特征序列中元素的序号，T_h表示LSTM隐藏层输出特征序列中的序列长度，e_tj表示LSTM隐藏层输出序列中待编码的元素和其它元素之间的匹配度。

计算特征权重向量：

a′_t,j＝H(D_t，C_t，h)

式中，H表示特征权重向量函数，h表示隐藏层最后一层所有时刻的输出特征序列，a′_t,j表示t时刻的输出特征序列h_t中第j个元素的权重。

将输出特征序列中的每个元素h_t,j与其对应的权重a′_t,j相乘构成新的特征序列h′_t。

6.根据权利要求4所述的一种考虑需求响应的短期负荷预测方法，其特征在于：所述LightGBM模型采用梯度提升方法进行训练，采用网格搜索法优化LightGBM模型的超参数。

7.根据权利要求4所述的一种考虑需求响应的短期负荷预测方法，其特征在于：利用训练好的包含attention机制的CNN-LSTM模型和LightGBM决策树模型对步骤1中的训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，具体为：

计算对应电力负荷预测值的MAPE值：

式中，

为预测值，y_t,i为对应的t时刻的电力负荷真实值，n为数据的样本数量。MAPE₁和MAPE₂分别为包含attention机制的CNN-LSTM模型和LightGBM模型的MAPE值。

计算MAPE值的比例作为权重初值：

式中，ω₁和ω₂分别为包含attention机制的CNN-LSTM模型和LightGBM模型的权重初值。

8.根据权利要求4所述的一种考虑需求响应的短期负荷预测方法，其特征在于：最终的电力负荷预测值，具体表示为：

ω_CNN-LSTM和ω_LightGBM分别为包含attention机制的CNN-LSTM模型和LightGBM模型的最优权重值，y_t,c为最终的电力负荷预测值。

Images