CN107563539A - 基于机器学习模型的短期和中长期电力负荷预测方法 - Google Patents

Abstract

本发明公开了一种基于机器学习模型的短期和中长期电力负荷预测方法。首先对数据进行预处理，即平滑异常数据和填补缺失数据，分析影响负荷变化的因素，包括历史数据、时间周期性、天气变量特征。为了加快学习速度和提高预测精度对所有输入变量进行归化。本发明比较了线性回归、支持向量回归和梯度提升回归在短期和中长期电力负荷预测中的表现。随着预测时间的延长，梯度提升回归模型的性能优于其他两种模型的性能。本发明提出了一种将梯度提升回归树作为基分类器的AdaBoost算法，进行负荷预测，有效提高了电力负荷预测的精度。

Description

基于机器学习模型的短期和中长期电力负荷预测方法

技术领域

本发明涉及电力负荷预测领域，更具体地，涉及一种基于机器学习模型的短 期和中长期电力负荷预测方法。

背景技术

电力负荷预测是电力研究中的重要组成部分，在电力市场的有效运行中起着 关键的作用。随着科技的进步、经济发展的需要，智能电网的建设拉开序幕，从 而提高了能源的利用率，促进资源优化配置。

按照预测周期的不同，电力负荷预测可划分为短期、中期和长期预测。短期 负荷预测(STLF)包含未来几分钟、一小时、一天、一周的负荷预测，用于经 济调度和电力系统的安全评估，确保电网安全、经济、稳定的运行。中期负荷预 测(MTLF)是指月至年的负荷预测，它是确定机组能够稳定运行的主要依据。 准确的MTLF能够使需求和发电平衡，并影响成本采购的策略，同时也促进了 经济增长。长期负荷预测(LTLF)是指未来几年或几十年的负荷预测，主要是 电网改造和扩建的远景规划。

负荷预测是电力系统领域长期研究的一个主题。在电力工程中，关键问题是 如何利用现有的历史数据建立预测模型，并预测未来一段时间的负荷值。虽然近 几十年来人们通过对负荷预测的深入研究提出了许多负荷预测技术，但由于可再 生能源，智能电网和节能问题的发展，准确性要求也越来越高，负荷预测仍然是 一项艰巨的任务。

目前，负荷预测有许多方法，可分为传统的经典方法和人工智能方法两大类。 对于传统方法，是基于统计理论的时间序列模型，如回归模型、平滑技术和自回 归移动平均模型(ARMA)等。这些算法在一些数据集上易于实现，但是与复杂 度更高的机器学习算法相比，它们的预测精度通常较低，机器学习算法可以提供 更高的精度和更强的学习能力。人工智能(AI)方法：AI方法主要包括模糊理 论，人工神经网络(ANN)和支持向量回归(SVR)等。它可以被认为是负荷 预测问题中的非传统或现代方法。近些年来一些研究表明集成方法在负荷预测上 可以取得很好的效果。集成学习通过结合多个学习器完成学习任务，获得比单一 学习器更好的泛化性能。Boosting是一类将弱学习器提升为强学习器的算法。最初是因为模式识别而引入的AdaBoost。最近，已经提出了更灵活的提升算法， 例如梯度提升(gradient boosting)算法，其核心就在于，每棵树是通过学习先前 所有树的残差，也就是当前模型中损失函数的负梯度值，作为其残差的近似值， 去拟合一棵回归树。可以用于任何损失函数的分类和回归问题。

目前已知的有关负荷预测的研究文献有：

【1】H.Y.Park,B.H.Lee,J.H.Son and H.S.Ahn,"A comparison of neuralnetwork-based methods for load forecasting with selected input candidates,"2017 IEEE International Conference on Industrial Technology(ICIT),Toronto,ON,2017, pp.1100-1105.

【2】N.Charlton and C.Singleton,“A refind parametric model for shortterm load forecasting,”International Journal of Forecasting,vol.30,no.2,pp.364–368, 2014.

【3】J.R.Lloyd,“Gefcom2012hierarchical load forecasting:Gradientboosting machines and gaussian processes,”International Journal ofForecasting,vol.30,no.2, pp.369–374,2014.

【4】V.Mayrink and H.S.Hippert,"A hybrid method using ExponentialSmoothing and Gradient Boosting for electrical short-term load forecasting,"2016 IEEE Latin American Conference on Computational Intelligence(LA-CCI),Cartagena,2016,pp.1-6.

【5】O.Ahmia and N.Farah,"Multi-model approach for electrical loadforecasting,"2015SAI Intelligent Systems Conference(IntelliSys),London,2015,pp. 87-92.

其中，文献【1】分析了能源管理系统的输入变量数据，在受到人员数量， 气候，区域特征，季节等多种因素影响负荷预测时，其中主导因素考虑天气与电 力负荷之间的相关性。天气条件的因素包括温度，湿度，露点和人体不适指数。 文献【2】使用线性模型，结合多个气象站的模式，消除了历史数据的异常值和 假期的特殊值，使用了解的技术，简单透明，易于实施。文献【3】使用梯度增 强，高斯过程和多元线性回归实现了一个回归模型的融合，由于其不错的预测效 果在Kaggle比赛中跻进排名前五的算法之一。文献【4】使用双季节Holt-Winters (DSHW)方法先预测负荷，然后通过应用梯度增强算法拟合残差来提高指数平滑预测性能。文献【5】在中长期负荷预测中，把数据集分为四个子集，每个 子集包含一个季节的每月电力负荷值(峰值)，通过分别使用每个季节的模型并 行处理提高预测精度。上述方法在预测精度上还有很大的提高空间。

发明内容

本发明为克服上述现有技术所述的至少一种缺陷，提供一种基于机器学习模 型的短期和中长期电力负荷预测方法，具体包括一下步骤：

S1：对输入的历史数据进行预处理，包括对异常数据的平滑处理和对缺失值 的填充。

异常数据常采用横向平滑处理和纵向平滑处理。对数据进行横向平滑处理时， 当待处理的数据波动范围超过前后两个时刻最大波动范围，采用平均值替代异常 数据，用方程式表达如下：

|f(d,t)-f(d,t-1)|＞α(t)

|f(d,t)-f(d,t+1)|＞β(t)

f(d,t)是d天t时刻负荷的预测值，α(t)、β(t)为阈值。

对数据进行纵向平滑处理时，由于不同的日期在同一时刻具有相似性，负荷 的波动发生在一定范围内，当超出这个范围就用最近几天同时刻负荷的平均值替 代异常数据，用方程式表示如下：

|f(d,t)-w(t)|＞λ(t)

f(d,t)＝w(t)+λ(t)f(d,t)＞w(t)

f(d,t)＝w(t)-λ(t)f(d,t)＜w(t) (2)

w(t)为最近几天同时刻负荷的平均值，λ(t)为阈值。

存在缺失数据时，当缺失数据较多且填补困难时，直接删除。当有少量缺失 数据采用线性插值，用方程式表示如下：

f(d,t)＝αf(d₁,t)+βf(d₂,t) (3)

f(d,t)是d天t时刻的缺失数据，f(d1,t)、f(d2,t)是与该日相邻的同时刻的负荷值，α、β为各自对应的权重。

S2：分析影响负荷变化的因素，包括：

时间分析和天气分析。时间分析中负荷变化通常有周期性，大周期嵌套小周 期的负荷变化规律，包含日周期性、周周期性、月周期性、年周期性和节假日影 响。日周期性指的是一天24小时负荷的变化规律，与用户一天的生活习惯密切 相关。夜间由于大多数人处于休息状态，白天人们生产、活动较多，所以用电量 大致呈现为晚上低白天高的周期性变化规律。周周期性指的是一个星期七天呈现 的负荷变化规律，与人们的生产、生活紧密相关。由于工作日工矿企业正常生产， 休息日大多企业不生产，此时生活用电会占据大部分，所以用电量大致会出现工 作日比休息日负荷高的周期性变化规律。月周期性指的是以月为周期体现出的负 荷变化规律。年周期性指的是以年为周期体现出的负荷变化规律，与季节变化和 人们的生产活动紧密相关。由于春节大多企业停产，这时候的用电负荷较低。夏季由于气温升高而导致的空调用电和冬季取暖使负荷增加。节假日的时候大多数 人处于休息状态，大型节假日会有庆祝活动都会对负荷量产生影响。

天气对负荷的诸多影响因素中本文只考虑温度、湿度、露点和人体舒适度的 影响。其中温度对负荷的影响最显著。当夏季气温升高时，空调的负荷会增加， 直接导致了夏季的负荷量增加。冬季温度降低取暖也会使负荷量增加。温度的变 化对人体舒适度也有一定影响，人体舒适度也间接反映了用电量的变化。

人体舒适度计算公式是由气温、湿度、风速三要素构建的非线性方程。计 算公式为：

ssd＝(1.818t+18.18)(0.88+0.002f)+(t-32)/(45-t)-3.2v+18.2 (4)

其中ssd为人体舒适度指数，t为平均气温，f为相对湿度，v为风速。

S3：对输入负荷预测模型的变量进行离差标准化，将数据映射到[0,1]区间， 从而消除变量之间的量纲影响，使各变量处在同一数量级，便于进行综合对比， 其转换公式为：

x_t ^normal代表输入变量的归化值，x_t是输入变量的实际值，x_max为输入变量 的最大值，x_min为输入变量的最小值。

S4：在负荷预测分析中，运用线性回归、支持向量回归和梯度提升回归构建 预测模型，预测未来的用电量。线性回归试图通过对观测数据拟合线性方程来建 模两个或多个输入变量与输出变量之间的关系。线性回归(linear regression)，并 非是指的线性函数，也就是

f(x)是待预测的负荷量，Xk是输入的变量，n0是偏差的符号。

支持向量机(SVM)遵循结构风险最小化原则，通过非线性内核(通常是 RBF函数)，将输入空间非线性映射到更高维的空间，再进行线性回归。

非线性样本集，用方程式表示如下：

f(x)＝w^TΦ(x)+b (7)

w是权向量，Φ(x)是非线性映射函数，b是偏差。

引入松弛变量ζm,ζm*后最优化问题转化为：

s.t y_m-w^Tφ(x)-b≤ε+ξ_m

w^Tφ(x)+b-y_m≤ε+ξ_m ^*

ξ_m,ξ_m ^*≥0 (8)

c为惩罚因子，ε为不敏感损失函数。

采用拉格朗日算法可得到：

c≥α_m ^*,α_m≥0 (9)

αm、αm*为拉格朗日乘子。

K(x_m,x_n)＝φ(x_m)·φ(x_n)为核函数。本文选取RBF核函数，即

回归表达式写为：

支持向量机预测模型，按以下步骤进行：

根据式(11)建立支持向量回归目标函数。

通过交叉验证得到的c,ε,σ带入式(11)，求解a_m,a_m ^*，得到最优解 a＝(a₁,a₁ ^*,...a_n,a_n ^*)^T。

把最优解代入式(13)中得到回归决策方程。

通过预测样本和回归决策函数预测未来电荷。

梯度提升回归树(gradient boosting regression tree)是一种强大的组合算法， 它的基分类器是决策树，是由很多弱分类器通过线性组合形成的强分类器，在提 出之初就被认为是泛化性能比较强的算法。提升方法采用加法模型和前向分步算 法，针对损失函数的优化问题，利用最速下降法的近似方法，提出了梯度提升算 法。

梯度提升回归预测的过程总结如下：

输入的训练集M＝{(x₁,y₁),(x₂,y₂),…,(x_N,y_N)},损 失函数为L＝(y,f(x))；输出的梯度提升回归树为f(x)。

(1)首先初始化

(2)令m＝1,2,3,…M

i对n＝1,2,3,…N求解

ii用r_mn拟合回归树，得到第m棵树的叶结点R_mk，k＝1,2,3,…,K

iii用k＝1,2,3,…,K计算

iv更新

(3)得到梯度提升回归树f(x)

由第1步的初始化得到一个只有根节点的树，第2步首先计算出当前模型的 损失函数的负梯度值，作为对残差的估计。再以回归树叶结点区域近似拟合残差。 最后线性搜索估计叶结点的值，再更新回归树。第3步得到梯度提升回归树f(x)。

S5：本发明最后提出了一种将梯度提升回归树作为基分类器的AdaBoost算 法，用其预测未来的用电量。

AdaBoost算法流程如下：

输入的训练集M＝{(x₁,y₁),(x₂,y₂),…,(x_N,y_N)},y_i∈γ＝{-1,+1}；输出最终分类器H(x)。

(1)初始化训练样本集

(2)对m＝1,2,…,M

i用权值分布的A_m的训练集学习得到基分类器H_m

H_m(x):χ→{-1,+1} (17)

ii计算H_m的分类误差率

iii求H_m的系数

iv更新权值

A_m+1＝(w_m+1,1,…,w_m+1,N) (20)

Z_m是规范化因子

(3)把基分类器线性组合得到最终分类器

本发明中提出了一种以梯度提升回归树为分类器进行集成学习的AdaBoost 算法，进行负荷预测。过程如下：

1：

2:for m＝1,2,…,M do

3:H_m＝GBDT(M,M_m)

4:

5:ifε_m＞0.5 then break

6:

7:

8:end for

回归分析预测误差的指标采用MAPE和MAE，公式如下：

1mean average percentage error(MAPE)

2mean average error(MAE)

附图说明

图1是本发明提供的基于机器学习模型的短期和中长期电力负荷预测流程图。

图2是基于线性回归、支持向量回归和梯度提升回归在短期负荷预测中的结果图。

图3是基于线性回归、支持向量回归和梯度提升回归在中期负荷预测中的结果图。

图4是将梯度提升回归树作为基分类器的AdaBoost算法和梯度提升回归算法作对比在短期负荷预测中的结果图。

图5是将梯度提升回归树作为基分类器的AdaBoost算法和梯度提升回归算法作对比在中期负荷预测中的结果图。

具体实施方式

下面结合附图对本发明做详细说明，但本发明的应用并不限于此。

图1是本发明提供的基于机器学习模型的短期和中长期电力负荷预测流程 图。本发明的方法包括以下几个步骤：

S1：对输入的历史数据进行预处理，包括对异常数据的平滑处理和对缺失值 的填充。

异常数据常采用横向平滑处理和纵向平滑处理。对数据进行横向平滑处理时， 当待处理的数据波动范围超过前后两个时刻最大波动范围，采用平均值替代异常 数据。对数据进行纵向平滑处理时，由于不同的日期在同一时刻具有相似性，负 荷的波动发生在一定范围内，当超出这个范围就用最近几天同时刻负荷的平均值 替代异常数据。存在缺失数据时，当缺失数据较多且填补困难时，直接删除。当 有少量缺失数据采用线性插值，如式(6)所示。

本实施例中，数据从NYISO(New York Independent System Operator)网站 获取，NYISO数据集记录了以MW为单位测量的每五分钟的实时负载需求。在 进行短期负荷预测时本文将2016年11月16日到11月28日的历史数据作为样 本数据(这些数据为每隔5分钟所取值，共计3744个数据)，对2016年12月1 日进行负荷预测。在进行中期负荷预测时本文将2015年3月1日到2016年1月 28日的历史数据作为样本数据(这些数据为一天用电量的总和，共计334个数 据)，对2016年5月1日到2016年11月30日进行负荷预测。

S2：分析影响负荷变化的因素，包括：

时间分析和天气分析。时间分析中负荷变化通常有周期性，大周期嵌套小周 期的负荷变化规律，包含日周期性、周周期性、月周期性、年周期性和节假日影 响。在进行短期负荷预测时本文考虑的时间特征有日周期性、周周期性、月周期 性，在进行中期负荷预测时考虑的时间特征有周周期性、月周期性、年周期性和 节假日影响，工作日取0，双休日取1，节假日取3。

天气对负荷的诸多影响因素中本文只考虑温度、湿度、露点和人体舒适度的 影响。其中温度对负荷的影响最显著。天气数据是从当地的气象站获取，记录了 每小时的天气状况。在进行短期负荷预测时由于获取的电力数据是每5分钟的负 荷量，天气数据采用KNN填充，得到每5分钟的天气状况。人体舒适度指标由 公式(4)计算可得。气象因素考虑的是所对应的历史负荷数据的温度、湿度、 露点和人体舒适度。在进行中期负荷预测时输入的历史数据为日负荷量，气象因 素考虑的是所对应的历史负荷数据当天的最高温度、最低温度、平均温度、湿度、 露点和人体舒适度。

S3：对输入负荷预测模型的变量进行离差标准化，将数据映射到[0,1]区间， 从而消除变量之间的量纲影响，使各变量处在同一数量级，便于进行综合对比。 如方程式(7)所示。

S4：在负荷预测分析中，运用线性回归、支持向量回归和梯度提升回归构建 预测模型，预测未来的用电量。线性回归试图通过对观测数据拟合线性方程来建 模两个或多个输入变量与输出变量之间的关系。输入的每个特征变量对待预测负 荷的影响强弱由系数体现。每个特征变量先映射到一个函数中再参与线性运算， 这样可以表达特征变量与负荷之间的非线性关系。

支持向量机(SVM)是一种在特征空间中寻求最大间隔的线性分类器，即 学习策略是使其间隔最大化，最终转化为求解一个凸二次规划问题。SVM通过 非线性内核(通常是RBF函数)，将输入空间非线性映射到更高维的空间，再进 行线性回归。为了避免由于特征空间的维数过高增加其计算复杂度，本文选取 RBF作为核函数，还需要确定惩罚因子c、不敏感损失系数ε和核函数的参数σ。 本文选用网格搜索得到最优的参数，短期负荷预测中选取c＝70,ε＝0.1,σ＝ 0.00001，中期负荷预测选取c＝2000000,ε＝0.1,σ＝0.001。

梯度提升回归树(gradient boosting regression tree)是由很多弱分类器通过线 性组合形成的强分类器。其核心就在于，每棵树是通过学习先前所有树的残差， 也就是当前模型中损失函数的负梯度值，作为其残差的近似值，去拟合一棵回归 树。算法的最开始是初始化弱学习器得到一个只有根节点的树，然后计算出当前 模型的损失函数的负梯度值，作为对残差的估计。以回归树叶结点区域近似拟合 残差，再线性搜索估计叶结点的值，更新回归树。最后得到强学习器梯度提升回 归树。除了一些参数保持默认值外，重要的参数通过交叉验证得到。在短期负荷 预测中设置最大的弱学习器的个数为80，决策树最大深度为4,。在中期负荷预 测中设置最大的弱学习器的个数为120，决策树最大深度为3。

S5：本发明最后提出了一种将梯度提升回归树作为基分类器的AdaBoost算 法，用其预测未来的用电量。AdaBoost算法在初始训练样本集中学习一个基分 类器，然后根据基分类器的表现对样本分布进行调整，提高前一轮基分类器错误 分类样本的权值。如此反复得到一系列基分类器，最后加权多数表决，错误率低 的分类器的分类结果占以更大的比重。本文中AdaBoost以梯度提升回归树为分 类器进行集成学习，其余参数选用默认值。

图2是在短期负荷预测中运用线性回归、支持向量回归和梯度提升回归预测 未来一天负荷量的结果图。图3是在中期负荷预测中运用线性回归、支持向量回 归和梯度提升回归预测未来几个月负荷量的结果图。从图中可以看出随着预测时 间的延长梯度提升回归算法的预测精度明显高于线性回归和支持向量回归。梯度 提升回归算法的天然优势是可以发现多种有区分性的特征以及特征组合，使其预 测结果更接近真实值。

图4、图5分别是在短期和中期负荷预测中将梯度提升回归树作为基分类器 的AdaBoost算法和梯度提升回归算法作对比的效果图。由图中可以看出以梯度 提升回归树为分类器进行集成学习的AdaBoost算法比单独的梯度提升回归算法 的预测效果好。

表1、表2分别是在短期和中期负荷预测中线性回归、支持向量回归、梯度 提升回归和改进的AdaBoost算法的平均误差值(MAPE和MAE)。从表中可以 看出在短期和中期负荷预测中，将梯度提升回归树作为基分类器的AdaBoost算 法的MAPE值最小，预测精度更高。

表1

模型	MAPE％	MAE(MW)
			线性回归	3.08	38.3
支持向量机	2.12	27.7
			梯度提升树	2.27	29.2
改进的AdaBoost	2.08	28.0

表2

模型	MAPE％	MAE(MW)
			线性回归	8.75	37045.3
支持向量机	3.92	16297.9
			梯度提升树	3.13	13210.9
改进的AdaBoost	2.98	12528.7

以上所述，仅为本发明的具体实施方式，并不构成对本发明保护范围的限定。 任何熟悉本技术领域的技术人员在本发明揭露的技术范围内所做出的修改、等同 替换和改进等，均应包含在本发明的权利要求保护范围。

Claims (5)

1.基于机器学习模型的短期和中长期电力负荷预测方法，其特征在于，包括以下步骤：

S1：输入电力负荷的历史数据并进行预处理，预处理包括对异常数据的平滑处理和对缺失值的填充；

S2：分析影响电力负荷变化的因素，包括：分析时间和天气对电力负荷的影响；

S3：输入负荷预测模型并对负荷预测模型的变量进行离差标准化，将数据映射到[0，1]区间；

S4：在负荷预测分析中，运用线性回归、支持向量回归和梯度提升回归构建预测模型；

S5：将梯度提升回归树作为基分类器，采用AdaBoost迭代算法预测未来的电力负荷。

2.根据权利要求1所述的基于机器学习模型的短期和中长期电力负荷预测方法，其特征在于，步骤S1中，对异常数据常采用横向平滑处理和纵向平滑处理，对数据进行横向平滑处理时，当待处理的数据波动范围超过前后两个时刻最大波动范围，采用平均值替代异常数据；对数据进行纵向平滑处理时，由于不同的日期在同一时刻具有相似性，负荷的波动发生在一定范围内，当超出这个范围就用最近几天同时刻负荷的平均值替代异常数据。

3.根据权利要求1所述的基于机器学习模型的短期和中长期电力负荷预测方法，其特征在于，步骤S2中，分析时间和天气对电力负荷的影响时，时间分析考虑周周期性、月周期性、年周期性和节假日影响；天气分析考虑温度、湿度、露点和人体舒适度的影响。

4.根据权利要求3所述的基于机器学习模型的短期和中长期电力负荷预测方法，其特征在于，人体舒适度指数计算公式是由气温、湿度、风速三要素构建的非线性方程：

ssd＝(1.818t+18.18)(0.88+0.002f)+(t-32)/(45-t)-3.2v+18.2

其中ssd为人体舒适度指数，t为平均气温，f为相对湿度，v为风速。

5.根据权利要求1所述的基于机器学习模型的短期和中长期电力负荷预测方法，其特征在于，所述的离差标准化是指对数据通过线性变换将其映射到[0，1]区间内，从而消除变量之间的量纲影响，使各变量处在同一数量级，其转换公式为：

<mrow> <msup> <msub> <mi>x</mi> <mi>t</mi> </msub> <mrow> <mi>n</mi> <mi>o</mi> <mi>r</mi> <mi>m</mi> <mi>a</mi> <mi>l</mi> </mrow> </msup> <mo>=</mo> <mfrac> <mrow> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>-</mo> <msub> <mi>x</mi> <mrow> <mi>m</mi> <mi>i</mi> <mi>n</mi> </mrow> </msub> </mrow> <mrow> <msub> <mi>x</mi> <mi>max</mi> </msub> <mo>-</mo> <msub> <mi>x</mi> <mrow> <mi>m</mi> <mi>i</mi> <mi>n</mi> </mrow> </msub> </mrow> </mfrac> </mrow>

其中，x_t ^normal代表输入变量的归化值，x_t是输入变量的实际值，x_max为输入变量的最大值，x_min为输入变量的最小值。