CN110837915A - 一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法 - Google Patents

Abstract

本发明公开了一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，属于电力系统负荷预测领域。该方法以深度信念网络作为基学习器，在此基础上实验多种集成学习方法，形成不同的集成深度预测模型，结合多个初级集成深度预测模型，形成混合集成深度点预测模型，且考虑不同集成深度预测模型的预测表现的差别性，根据预测能力配置权重；此外在上述点预测的基础上提出概率负荷预测方法，有效量化预测的不确定性。该方法针对低压负荷波动性高的特点，利用深度学习强大的非线性拟合能力和集成学习良好的泛化能力，显著提升了预测模型的点预测和概率预测表现，预测结果对配电网和智能电网的优化运行和控制等决策有重要意义。

Description

一种基于混合集成深度学习的电力系统低压负荷点预测及概 率预测方法

技术领域

本发明涉及一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，属于电力系统负荷预测领域。

背景技术

随着智能电网在全世界范围内的不断发展，配网在电力系统中重要性日益增加。保障用户的安全可靠经济用电是电力系统的最重要目标之一。负荷预测在电力系统供需平衡、决策优化和安全经济运行等方面发挥重要支撑作用。随着智能采集设备的安装，更多的低压负荷得以监测并保存，为低压负荷预测提供了基本的数据来源。然而，相比于传统区域负荷预测，由于配电网低压负荷容量小、随机性高以及越来越多的分布式电源接入等因素，低压负荷预测难度大大增加。另一方面，近些年来，随着大规模新能源发电的并网以及多种需求侧管理措施的实施，电网不确定性因素日益增加，给电力系统决策者带来了更大的挑战。因此有必要提出一种先进准确的预测模型以应对低压负荷高波动性的特点。

目前，有关低压负荷的预测方法及控制策略研究尚处于探索阶段。就负荷预测方面，文献主要集中在高电压等级，例如国家、地区、城市等。目前已应用的确定性负荷预测模型主要分为统计方法和人工智能方法。统计方法有自回归滑动平均模型(autoregressiveand moving averages,ARMA),Kalman滤波，Box–Jenkins模型等。人工智能方法主要有人工神经网络(artificial neural network,ANN)，支持向量机(support vector machines,SVM)等。除此之外，由于传统的点预测只能给出单点预测值，概率预测受到广泛关注。概率预测的预测结果通常具有概率密度、分位数或预测区间等概率量度的形式。

发明内容

为了解决背景技术中的总结的问题，本发明提供了一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，该方法结合集成学习和深度学习的优点，构建针对电力系统低压负荷高波动性特点的点预测和概率预测模型。

为了实现上述目的，本发明采用了如下的技术方案：

一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，该方法采用一种深度学习算法，深度信念网络(deep belief network,DBN)，作为基学习器，利用其良好的非线性拟合能力提高预测精度；在此基础上，通过混合多种初级的集成学习方法，提出了一种新的混合集成学习模型，进一步提高模型的泛化能力；基于集成学习重采样产生的多个子学习器预测结果，构建了一个条件概率预测模型，有效量化预测的不确定性。

具体的方法如下：

对原始电力数据需进行平稳性验证，不满足平稳性则需采用差分变换技术保证新生成的时间序列的平稳性。依靠重采样将多种集成学习方法应用到深度学习中构建不同的初级集成深度模型，再将多种初级集成深度模型相结合构建混合集成深度点预测模型，且考虑不同初级集成深度模型的预测表现的差别性，根据预测能力强弱配置初级集成深度模型在混合集成深度点预测模型中的权重，具体可采用基于分类技术的自适应权值确定方法，即K最近邻法，来确定不同初级集成深度模型在混合集成深度点预测模型中的权重，最后基于混合集成深度点预测的预测误差概率分布提出混合集成深度概率预测模型。

(1)深度信念网络

深度信念网络(Deep Belief Network，DBN)是一种通过神经网络实现深度学习的方法。与其他深度学习算法一样，DBN最大的特点是其学习模型中的“深层”结构，即通过增加特征变换的层数来更好地学习数据中蕴含的规律。DBN由多个受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)“串联而成”，前一个RBM的输出作为下一个RBM的输入，结构如图1所示。图中向下的箭头代表数据的直接传递，双向箭头代表特征转换，向上箭头代表模型参数调整。深度信念网络的训练过程由两部分组成。首先RBM通过内部无监督的训练确定其内部连接可视层与隐含层之间的参数，然后利用传统神经网络反向传播算法(back-propagation,BP)对整个预测模型参数进行微调，使模型收敛到全局最优点。

(2)集成学习

集成学习的基本理念是利用多个不同的学习器分析同一问题，整合其产生差异性的学习结果，从而得到泛化能力更强的模型。集成学习的关键是如何产生多个具有差异性的子学习器。对原始训练数据集重复取样是一个简单但有效的方法，其中的典型代表是bagging和boosting。Bagging又称为bootstrap aggregating，是一种根据均匀概率分布从数据中重复抽样(有放回)的技术。Adaboost(adaptive boosting)是boosting的典型代表，本发明选取五种有效的Adaboost方法——adaboost.r2,modified adaboost.r2,adaboost.RT,BEM boosting和adaboost⁺用于单个DBN预测模型的泛化能力提升。上述共6种集成学习方法与深度学习结合的模型名称分别为：bagging DBN(BaDBN),adaboost.r2DBN(BDBN1),modified adaboost.r2 DBN(BDBN2),adaboost.RT DBN(BDBN3),BEMboostingDBN(BDBN4)and,adaboost⁺DBN(BDBN5)。

(3)混合集成深度点预测模型

集成学习是一种构造一系列假设并将其结合起来作为最终结果的机器学习方法。总体而言，用于集成学习的基础学习者具有准确性和多样性的特点，能够获得良好的集成效果。如果组成集成模型的基学习器具有足够的准确性和多样性，集成模型可以提高预测性能。六种初级集成方法在DBN上的应用产生的六种初级集成深度模型提高了泛化能力，同时它们也具有多样性。因此，考虑到集成学习的核心思想是将多个学习模型相结合以获得更好的性能，本发明优选将bagging、adaboost.r2,modified adaboost.r2,adaboost.RT,BEM boosting和adaboost⁺六种集成方法相结合，构造了一个新的混合集成算法用于提供较为精确的确定性预测结果。

(4)混合集成深度概率预测模型

由于可用信息的不完全性和负荷数据的随机性，点预测的预测误差无法完全避免。因此，本发明在确定性负荷预测的基础上提出了一种概率预测方法，有效量化预测不确定性。基于采用的集成学习中存在的重采样过程，点预测可产生多个DBN的预测模型，利用其多个模型产生的多个预测结果，按照误差服从高斯分布的假设，可分别分析来自于预测模型和数据的不确定性，从而给出多个置信度下的预测区间。

本发明所提的基于混合集成深度学习的电力系统低压负荷点预测及概率预测框架如图2所示。

本发明的有益效果在于：

提出了基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，组合利用深度学习的强非线性拟合能力和集成学习的良好泛化能力，有效提高了预测精度并量化预测的不确定性；仿真了深度学习方法和多种成熟的集成学习算法，为混合集成深度预测模型提供了基本的技术支撑；验证了电力时间序列的平稳性并采用了差分来保证时间序列的平稳性；考虑不同集成深度模型的预测效果差异，提出了计及预测能力的自适应权重设定方法；利用重采样产生的多种深度学习模型，实现了不同置信度下概率区间的获得，有效量化预测的不确定性。

附图说明

图1为深度信念网络结构图；

图2为基于混合集成深度学习的电力系统低压负荷点预测及概率预测框架图；

图3为点预测模型的预测曲线与实际曲线图。

图4为概率预测的预测区间示意图。

具体实施方式

以下结合附图与实施实例对本发明做进一步说明。

(1)首先原始电力数据的平稳性通过Augmented Dickey-Fuller(ADF)检验得到验证，验证结果与的ADF临界值对比如表1所示。由表1可知，原始时间序列验证结果大于临界值，因此原始时间序列说明不满足平稳性。对原始数据进行差分处理，差分后的数据再一次进行ADF检验，验证结果也如表1所示。由表1可知，差分后的验证结果小于临界值，说明差分后的数据满足平稳性，可用于后面的集成模型。

表1 ADF检验计算结果与临界值比较

(2)构造训练样本集和测试样本集，获取每个样本为

其中x_i为解释变量(explanatory variable)，解释变量包含气温值和差分后的历史值，y_i为目标变量(target variable)，为待预测的差分后的电力负荷值。

(3)根据不同的集成学习方法，依靠重采样分别构造BaDBN,BDBN1-5的新的训练数据集D^m，式中m代表每个初级集成模型中第m个DBN。

(4)与传统的集成方法类似，混合集成可以通过一个线性函数得到：

式中，μ_t为每个初级集成模型在混合集成中的权重，

为第t个初级集成模型的预测值。本发明考虑BaDBN,BDBN1-5的预测能力的差异性，利用K近邻(K nearestneighbor,KNN)获得不同集成模型在混合模型中的权重，下面详细描述权重确定的具体过程：

对于每一个拥有M个子DBN的初级集成深度模型，在有N个样本的训练集上，可产生N*M个预测结果的集合：

式中，

为DBN预测结果。其中m代表每个初级集成模型中第m个DBN，t代表第t个初级集成模型，t的数值从1-6依次为BaDBN,BDBN1-5，i代表第i个训练样本。

每个初级的集成深度模型结果可看作一个类别，类别标签可看作为：

c_t＝t t＝1,2,...,6

因此，六种集成深度模型在N个训练样本中的预测结果可产生一个新的训练集：

式中，r代表用于分类的新训练集D_N的第r个训练样本。

每个初级集成深度模型的输出由其M个子DBN的预测结果组成。因此，由实际值y(x_i)组成的集合

与第t个集成深度模型的相似程度可以反映这个初级集成模型的预测能力，从而用于混合模型中的权重确定问题。这个相似度可通过计算分类算法中测试样本属于类别的程度来得到。本发明采用KNN算法，采用欧式距离计算实际值集合

与训练集中样本的相似度：

根据KNN算法的原理，前K个欧氏距离最小的样本，即K个最近邻，被挑选出来组成一个新的用来确定真实值

类别的集合：

式中ED_K为测试样本A在训练集D_N中第K个最近邻的欧氏距离。

因此，每个初级集成模型在混合集成中的权重可通过计算其在D_NN中样本的个数N_ct来确定：

式中，1{·}是指示函数，当括号中的条件为真时等于1，否则等于0。

(5)本发明通过估计点预测的预测误差的概率分布来提出混合集成深度概率预测模型。点预测的实际值y(x_i)可表示为预测值

和误差ε(x_i)的加和：

其中，误差的来源来自于两部分：模型估计误差ε_m(x_i)和数据不确定性误差ε_d(x_i)：

ε(x_i)＝ε_m(x_i)+ε_d(x_i)

假设这两个误差是独立的，并且都服从高斯分布，本发明中的总方差σ²(x_i)可以表示为模型估计方差

和数据不确定性方差

之和：

因此，在给定置信度100(1-α)％下，概率预测区间可求得：

PI^α＝[L^α(x_i),U^α(x_i)]

式中，L^α(x_i)是预测区间上界，U^α(x_i)是预测区间下届，为：

式中，z_1-α/2是标准高斯分布的临界值。

模型估计方差

可求得按照：

式中，

为在初级集成模型中第r个DBN的预测值。

数据不确定性方差

可根据数据方差定义求得：

因此通过建立一个新的预测模型以获得数据不确定性方差的估计，其新的训练样本为：

然后根据混合集成深度的点预测模型可求得在新训练样本集D_V上的估计值，其结果可作为数据不确定性方差

的估计值：

式中，

和

是初级集成模型的权重和预测值。

(6)差分数据的预测结果通过和上一时刻历史值的加和得到待预测变量的预测值。

(7)基于测试集数据对预测模型进行评价：

点预测有3个评价指标，分别为平均绝对比例误差(mean absolute percentageerror,MAPE)，均方根误差(root mean square error,RMSE)，平均绝对误差(meanabsolute error,MAE)：

式中，N_test是测试样本的数量。

概率预测有2个评价指标，分别为用于评价可靠性的平均覆盖率误差(averagecoverage deviation,ACD)和用于评价锐度的区间得分(interval score,IS)。ACD定义为：

ACD＝ECP-100(1-α)％

式中，ECP为经验覆盖概率(empirical coverage probability)：

式中，1{·}为指示函数，ACD指标的绝对值越小说明预测区间的可靠性越高；

区间得分IS定义为：

式中，IS^α(x_i)为每个样本的区间得分：

IS^α(x_i)＝-2αη^α(x_i)-4[L^α(x_i)-y(x_i)]*1{y(x_i)＜L^α(x_i)}

-4[y(x_i)-U^α(x_i)]*1{y(x_i)＞U^α(x_i)}

式中，η^α(x_i)为每个样本的区间宽度：

η^α(x_i)＝U^α(x_i)-L^α(x_i)

同一置信度下，该分数的值越大，预测区间的总体性能越好。

上述预测框架如图2所示。

选取中国华东的某城市的低压侧220V变电站在2014年5月至2015年2月的历史负荷数据，对所提方法的有效性进行测试，数据的时间分辨率为15分钟/点，预测前瞻时间为15分钟，概率预测包括90％、95％和99％的三个标称置信度，利用约30天的数据作为训练集，接下来10天的数据作为测试集。

表2给出了采用本发明方法、人工神经网络(Artificial Neural Network,ANN)和广义相加模型(Generalized Additive Model,GAM)、单独深度新年网络(Deep BeliefNetwork,DBN)和六种初级的集成深度模型BaDBN、BDBN1-5所获得的点预测结果的预测性能指标比较。从表2中可以看出：深度学习方法DBN与两外两种ANN和GAM相比，可以获得更低的预测误差，以预测评价指标MAPE为例，在三个算例中DBN的MAPE平均降低了4.49％；另外，集成学习是一种提高预测泛化能力的有效方法，六种初级的集成模型BaDBN,BDBN1-5均在单独DBN的基础上提高了预测表现，三种预测指标均优于单独的DBN；与此同时，本发明所提的混合集成可进一步提高普通集成的预测性能，例如，与初级的集成模型对比，本发明方法在RMSE方面平均降低了3.37％；综合看来，本发明所提方法得到的预测结果在MAPE、RMSE和MAE三种评价指标和夏、秋和冬三个季节的算例中有更好的表现，说明了本发明方法在低压负荷确定性预测的有效性。

表2不同预测方法所得到点预测结果的预测性能比较

表3给出了采用本发明方法、持续性模型(the persistence model,Persis.)和指数平滑法(Exponential Smoothing Method,ESM)、和Bootstrap极限学习机(Bootstrap-based Extreme Learning Machine,BELM)所获得的概率预测结果的预测性能指标比较。从表3中可以看出：本发明所提出的概率预测方法在可靠性和锐度方面都能达到高质量的预测区间。在可靠性方面，在不同的NCP、预测时间尺度和季节下，本发明方法与三个对比方法之间的ACD的绝对值下降现象明显，例如，在夏季的算例的NCP 99％中本发明方法与另外三种相比相对提升了ACD达52.17％，56.00％，15.38％；与此同时，采用本发明方法获得的预测区间的锐度指标，区间得分(IS)，明显更优于另外三种方法，尤其是优于持续性模型，这是由于持续性模型中的简单线性拟合无法适应低压负荷高波动性的特点。综合看来，本发明方法得到的预测区间在可靠性及锐度指标方面有更好的表现，说明了本发明方法在低压负荷不确定性量化方面具有良好的应用效果和应用前景。

表3不同预测方法所得到预测区间的概率预测性能比较

图3、4分别展示了本发明方法在点预测和概率预测和其他方法的预测效果对比图，容易看出，本发明方法得到的预测结果在点预测和概率预测都具有良好的性能，更能满足电力系统的需要。

以上结合附图对本发明的具体实施方式进行了描述，并非对本发明保护范围的限制，所有利用本发明说明书及附图内容所做的等效模型或等效算法流程，通过直接或间接运用于其他相关技术领域，均属本发明的专利保护范围内。

Claims (6)

1.一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，其特征在于，该方法是：对于原始电力数据处理使其满足平稳性后，依靠重采样将多种集成学习方法应用到深度学习中构建不同的初级集成深度模型，再将多种初级集成深度模型相结合构建混合集成深度点预测模型，且考虑不同初级集成深度模型的预测表现的差别性，根据预测能力强弱配置初级集成深度模型在混合集成深度点预测模型中的权重，最后基于混合集成深度点预测的预测误差概率分布提出混合集成深度概率预测模型。

2.根据权利要求1所述的基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，其特征在于，对原始电力数据需进行平稳性验证，不满足平稳性则需采用差分变换技术保证新生成的时间序列的平稳性。

3.根据权利要求1所述的基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，其特征在于，多种集成学习方法包括bagging,adaboost.r2,modifiedadaboost.r2,adaboost.RT,BEM boosting和adaboost⁺，分别被应用于单独的深度信念网络从而形成六种初级集成深度模型。

4.根据权利要求3所述的基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，其特征在于，将六种初级集成深度模型相结合构建混合集成深度点预测模型，具体可通过线性函数得到：

式中，μ_t为第t个初级集成深度模型在混合集成深度点预测模型中的权重，为第t个初级集成深度模型的预测值，x_i为样本i的解释变量，y_i为样本i的目标变量，即待预测的电力负荷值。

5.根据权利要求4所述的基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，其特征在于，采用基于分类技术的自适应权值确定方法，即K最近邻法，来确定不同初级集成深度模型在混合集成深度点预测模型中的权重，具体是：将六种初级集成深度模型在N个训练样本中的预测结果形成一个新训练集D_N，采用欧式距离计算实际值集合

与新训练集D_N中样本的相似度，由前K个欧式距离最小的样本构成集合D_NN，通过计算每个初级集成深度模型在集合D_NN中样本的个数N_ct来确定：

式中，1{·}是指示函数，当括号中的条件为真时等于1，否则等于0，r代表用于分类的新训练集D_N的第r个训练样本。

6.根据权利要求1所述的基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法，其特征在于，通过估计点预测的预测误差的概率分布提出混合集成深度概率预测模型：

点预测的实际值y(x_i)可表示为预测值

和误差ε(x_i)的加和，其中，误差的来源来自于两部分：模型估计误差ε_m(x_i)和数据不确定性误差ε_d(x_i)，总方差σ²(x_i)可表示为模型估计方差

和数据不确定性方差

之和；

因此，在给定置信度100(1-α)％下，概率预测区间可求得：

PI^α＝[L^α(x_i),U^α(x_i)]

式中，L^α(x_i)是预测区间上界，U^α(x_i)是预测区间下届，为：

式中，z_1-α/2是标准高斯分布的临界值；

模型估计方差

式中，M为每个初级集成深度模型拥有子DBN的个数，

为在初级集成深度模型中第r个DBN的预测值；

数据不确定性方差

建立新的训练样本为：

根据混合集成深度的点预测模型可求得在新训练样本集D_V上的估计值，其结果可作为数据不确定性方差

的估计值：

式中，

和是第t个初级集成深度模型的权重和预测值。

Images