CN113112092A - 一种短期概率密度负荷预测方法、装置、设备和存储介质 - Google Patents

Abstract

本发明公开了一种短期概率密度负荷预测方法、装置、设备和存储介质，方法包括：步骤S1，对历史数据集进行预处理；步骤S2，基于预处理之后的历史数据集构造训练数据集；步骤S3，采用训练数据集对QRLSTM预测模型进行训练；步骤S4，采用训练好的QRLSTM预测模型得到不同分位点的预测值；步骤S5，针对不同分位点的预测值，利用核函数进行概率密度估计，得到每个时间点下的概率密度估计曲线。本发明针对夏季多变气温下，将温度变量与负荷进行有效结合，并且建立深度学习概率预测模型，对夏季负荷进行了有效且精确的短期概率密度负荷预测。

Description

一种短期概率密度负荷预测方法、装置、设备和存储介质

技术领域

本发明属于电力技术领域，具体涉及一种短期概率密度负荷预测方法、装置、设备和存储介质。

背景技术

智能电表的普及使高级量测体系(Advanced Metering Infrastructure，AMI) 得以在电力工程领域得到应用。电网公司得以采集到比以往更精细的电力负荷数据，从而使得电力负荷预测也更加趋于精细化。海量的数据带来数据精细化的同时也使得传统的负荷预测方法无法快速精准的建模，于是机器学习被引入到短期负荷预测研究中，其中，人工神经网络(ANN)是通过仿生的神经网络结构来不断迭代计算，最终达到预测或归类的效果，因其可承载海量数据样本和其对非线性数据的处理能力突出，使其在短期负荷预测领域有着丰富的研究成果。在气温多变的夏冬两季，由于降温、升温负荷的大量接入对短期负荷预测的精度有着巨大的挑战，同时夏冬两季的极端气温对电网安全经济运行也有着较大的威胁，所以夏冬季精确的短期负荷预测有着巨大的研究意义。

目前短期负荷预测存在的问题有：

1、随着历史数据样本的爆炸式增加，传统的负荷预测算法处理数据能力有限；

2、经典的点电力负荷预测提供的预测信息有限；

3、没有针对夏季气温多变所提出的特定预测方法。

国内外学者对短期负荷预测进行了大量研究：文献“张素香,赵丙镇,王风雨,等.海量数据下的电力负荷短期预测[J].中国电机工程学报,2015,35(01): 37-42.”在面对海量负荷时为加速运算时间，建立了基于云平台并行的局部线性回归模型。多元线性回归系数的求解一般采用最小二乘法，该方法的优势在于其计算速度快，缺点则是将影响负荷的因素与负荷之间的关系线性化，导致并不能真是刻画两者之间的联系，模型的泛化能力较差。文献“张平，潘学萍，薛文超，等.基于小波分解模糊灰色聚类和BP神经网络的短期负荷预测[J].电力自动化设备，2012，32(11)：121-125.”采用变学习率和额外动量去改进BP 神经网络，另外结合模糊聚类技术将不同用户分类，但未能考虑影响因子对负荷的影响。文献“Deng Z F,Wang B B,Xu Y L,et al.Multi-Scale Convolutional Neural Network WithTime-Cognition for Multi-Step Short-Term Load Forecasting[J].IEEE Access,2019,7:88058-88071.”提出了一种具有时间认知 (time-cognition)的CNN预测模型，利用多尺度卷积提高了CNN提取电力负荷复杂的特征的能力，提高了预测精度，但提供的预测信息较少。文献“Wang Y, Gan D H,Sun M Y,et al.Probabilistic individual loadforecasting using pinball loss guided LSTM[J].Applied Energy,2019,235(2019):10-20.”建立了LSTM的概率密度预测模型，将弹性损耗误差代替均方误差来指导参数的训练，最后对存在较大不确定性的单个居民负荷进行了概率密度预测，但该方法对象为单个用户，存在较大随机性和不确定性。

发明内容

针对上述问题，本发明提供了解决上述问题的一种短期概率密度负荷预测方法，本发明针对夏季多变气温下，将温度变量与负荷进行有效结合，并且建立深度学习概率预测模型，对夏季负荷进行了有效且精确的短期概率密度负荷预测。

本发明通过下述技术方案实现：

一种短期概率密度负荷预测方法，包括：

步骤S1，对历史数据集进行预处理；

步骤S2，基于预处理之后的历史数据集构造训练数据集；

步骤S3，采用训练数据集对QRLSTM预测模型进行训练；

步骤S4，采用训练好的QRLSTM预测模型得到不同分位点的预测值；

步骤S5，针对不同分位点的预测值，利用核函数进行概率密度估计，得到每个时间点下的概率密度估计曲线。

优选的，本发明的步骤S1中对历史数据集进行预处理具体包括负荷数据预处理步骤和温度数据预处理步骤；

所述负荷数据预处理步骤具体为：采用归一化处理方法对历史负荷样本进行处理，将其区间缩为[0,1]；

所述温度数据预处理步骤具体为：对历史温度样本求取90％的置信区间，根据该置信区间确定隶属度函数的边界值。

优选的，本发明的温度数据预处理步骤通过下式确定的隶属度函数的边界值：

其中，T_low、T_mid、T_high分别代表低、中、高温的隶属度函数，T为温度， a和b为低温区间的边界值、c和d为中温区间的边界值、e和f为高温区间的边界值，且满足a<b<c<d<e<f。

优选的，本发明的低温和高温的区间跨度相同，所述中温的区间跨度为所述低温的区间跨度的1.5倍。

优选的，本发明的步骤S3具体包括以下子步骤：

步骤S31，将分位数回归作用于LSTM的损失函数中形成QRLSTM预测模型，其公式如下：

其中，W(τ)＝{W_f(τ),W_u(τ),W_h(τ),W_o(τ)}和b(τ)＝{b_f(τ),b_u(τ),b_h(τ),b_o(τ)}分别为τ分位点下前式中的LSTM隐藏层的权重参数和偏置项；ρ_τ(x)为检验函数；λ₁和λ₂为惩罚系数；

步骤S32，采用训练数据集对QRLSTM预测模型进行迭代训练，确定所述 QRLSTM预测模型参数W(τ)和b(τ)的最优值。

优选的，本发明的步骤S32的迭代过程包括：

步骤S321，初始化W(τ)和b(τ)的值；

步骤S322，计算得到LSTM隐藏层各参数在第t轮迭代下的值；

步骤S323，计算梯度函数

和

的值，并依次反向计算LSTM隐藏层每个门中的权重W和偏置b的当前迭代值δw(τt)、δb(τt)；

步骤S324，利用当前迭代值对W(τ)和b(τ)进行迭代更新：

W(τ_t)＝W(τ_t-1)+εδ_w(τ_t)；

b(τ_t)＝b(τ_t-1)+εδ_b(τ_t)；

其中，W(τ_t)和b(τ_t)分别表示第t轮迭代第τ-分位数下的隐藏层各门中的权重和偏置，W(τ_t-1)和b(τ_t-1)分别表示第t-1轮迭代第τ-分位数下的隐藏层各门中的权重和偏置，ε为学习率；

步骤S325，循环迭代到满足预设条件，得到参数W(τ)和b(τ)的最优值。

优选的，本发明的步骤S5采用高斯核函数对每个时刻进行概率密度估计。

第二方面，本发明提出了一种短期概率密度负荷预测装置，包括预处理模块、QRLSTM预测模型、概率密度估计模块；

所述预处理模块用于对输入的历史数据集进行预处理，并基于预处理之后的历史数据集构造训练数据集；

将训练数据集输入到所述QRLSTM预测模型进行迭代训练，确定所述 QRLSTM预测模型的最优参数；

利用取得最优参数的QRLSTM预测模型得到不同分位点下的预测值；

将不同分位点下的预测值输入到所述概率密度估计模块进行概率密度估计，得到每个时间点下的概率密度估计曲线。

第三方面，本发明提出了一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现本发明所述方法的步骤。

第四方面，本发明提出了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现本发明所述方法的步骤。

本发明具有如下的优点和有益效果：

本发明将分位数回归和长短时记忆神经网络进行结合，构建了QRLSTM的预测模型，并引入高斯核函数对不同时刻进行概率密度预测，能提供更多的负荷预测信息；并且将多个隶属度函数进行组合建模，构建了温度的模糊化模型，将温度影响因子进行模糊化后输入模型，提高了模型的泛化性

附图说明

此处所说明的附图用来提供对本发明实施例的进一步理解，构成本申请的一部分，并不构成对本发明实施例的限定。在附图中：

图1为本发明的方法流程示意图。

图2为传统的LSTM隐藏层结构示意图。

图3为本发明的QRLSTM模型内部迭代示意图。

图4为本发明的计算机设备结构示意图。

图5为本发明的装置结构示意图。

图6分别为QRLSTM模型(本发明)预测结果、QRNN模型预测结果、QRSVR 模型预测结果示意图。其中，图6(a)为QRLSTM模型，图6(b)为QRNN 模型，图6(c)为QESVR模型。

图7为高斯核函数和Epanechnikov核函数分布示意图。

图8为采用高斯核函数生成概率密度曲线结果示意图。

图9为采用Epanechnikov核函数生成概率密度曲线结果示意图。

图10为对不同预测步长下的QRLSTM模型进行训练的结果示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。

实施例1

本实施例提出了一种短期概率密度负荷预测方法，具体如图1所示，本实施例的方法具体包括以下步骤：

步骤S1，对获取的历史数据集进行预处理。

在步骤S1中，对历史负荷样本采用归一化的处理方法将其区间缩为[0,1]，归一化公式为：

其中，

为第n批次的第i个样本数据；

为其对应的归一化后的值；Y_max为区间最大值，取1；Y_min为区间最小值，取0；X_n,max和X_n,min分别为第n批次中的最大数值和最小数值。

对温度变量首先求取90％的置信区间，以确定隶属度函数的边界。设温度样本为S，则90％置信区间可表示为：

其中，

为样本S的均值，

为样本S的标准差，若是90％的置信区间，查表得C＝1.645，n为样本个数。

根据该置信区间确定隶属度的边界值，温度样本基本呈正态分布，为使模型合理化，将低温和高温的区间跨度设为一致，中温跨度为两者跨度的1.5倍。公式如下：

其中，T_low、T_mid、T_high分别代表低、中、高温的隶属度函数，T为温度， a和b为低温区间的边界值、c和d为中温区间的边界值、e和f为高温区间的边界值，且满足a<b<c<d<e<f。

步骤S2，构造训练数据集。

在步骤S2中，将预处理后历史数据集分为80％的训练集和20％的测试集。

步骤S3，构建QRLSTM(分位数LSTM网络)模型。

步骤S3采用的QRLSTM模型将分位数回归理论和长短时记忆神经网络相结合。

传统LSTM隐藏层结构如图2所示，拥有遗忘门、输入门和输出门三个门结构，遗忘门公式如下：

f_t＝σ(W_f[Y_t-1,X_t]+b_f) (6)

输入门公式如下：

输出门公式如下：

C_t＝f_t·C_t-1+u_t·h_t (9)

本实施例将分位数回归作用于LSTM的损失函数中形成QRLSTM预测模型，其公式如下：

其中，W(τ)＝{W_f(τ),W_u(τ),W_h(τ),W_o(τ)}和b(τ)＝{b_f(τ),b_u(τ),b_h(τ),b_o(τ)}分别为τ分位点下前式中的LSTM隐藏层的权重参数和偏置项；ρ_τ(x)为检验函数；λ₁和λ₂为惩罚系数。

然后采用训练数据集对QRLSTM预测模型进行迭代训练。迭代过程中， LSTM在取得最优参数W(τ)和b(τ)的训练过程中需要进行BPTT(Back Propagation Through Time，随时间反向传播)来进行参数梯度下降的反向传播，本实施例采用的是Adam优化算法对梯度进行更新：

其中，

和

为第τ-分位数下的梯度函数。

具体如图3所示，要得到第τ-分位数下最优的参数W(τ)和b(τ)，需经过以下步骤：

(1)设定初始化W(τ)和b(τ)的值；

(2)根据式(6)至(10)求出LSTM隐藏层各参数的第t轮迭代下的值；

(3)计算梯度函数

和

的值，并依次反向计算LSTM隐藏层每个门中的权重W和偏置b的当前迭代值，以最后隐藏层和输出层参数W_n和b_n为例：

(4)对W(τ)和b(τ)的值结合Adam优化算法进行更新迭代：

W(τ_t)＝W(τ_t-1)+εδ_w(τ_t) (15)

b(τ_t))b(τ_t-1)+εδ_b(τ_t) (16)

其中，W(τ_t)和b(τ_t)分别表示第t轮迭代第τ-分位数下的隐藏层各门中的权重和偏置，W(τ_t-1)和b(τ_t-1)分别表示第t-1轮迭代第τ-分位数下的隐藏层各门中的权重和偏置，ε为学习率。

(5)循环迭代到最大训练次数或小于所设定阈值，得到最优W_n和b_n。

步骤S4，得到不同分位点下的预测值。

步骤S5，利用核函数进行概率密度估计，得到每个时间点下的概率密度估计曲线。

步骤S5中引入一种经典的鲁棒径向基函数——高斯核函数来对每个时刻进行概率密度估计，其公式如下：

其中，y为核函数中心；σ为宽度参数，决定了核函数的径向范围。

本实施例还提出了一种计算机设备，用于执行本实施例的上述方法。

具体如图4所示，计算机设备包括处理器、存储器和系统总线；存储器和处理器在内的各种设备组件连接到系统总线上。处理器是一个用来通过计算机系统中基本的算术和逻辑运算来执行计算机程序指令的硬件。存储器是一个用于临时或永久性存储计算程序或数据(例如，程序状态信息)的物理设备。系统总线可以为以下几种类型的总线结构中的任意一种，包括存储器总线或存储控制器、外设总线和局部总线。处理器和存储器可以通过系统总线进行数据通信。其中存储器包括只读存储器(ROM)或闪存(图中未示出)，以及随机存取存储器 (RAM)，RAM通常是指加载了操作系统和计算机程序的主存储器。

计算机设备一般包括一个存储设备。存储设备可以从多种计算机可读介质中选择，计算机可读介质是指可以通过计算机设备访问的任何可利用的介质，包括移动的和固定的两种介质。例如，计算机可读介质包括但不限于，闪速存储器(微型SD卡)，CD-ROM，数字通用光盘(DVD)或其它光盘存储、磁带盒、磁带、磁盘存储或其它磁存储设备，或者可用于存储所需信息并可由计算机设备访问的任何其它介质。

计算机设备可在网络环境中与一个或者多个网络终端进行逻辑连接。网络终端可以是个人电脑、服务器、路由器、智能电话、平板电脑或者其它公共网络节点。计算机设备通过网络接口(局域网LAN接口)与网络终端相连接。局域网(LAN)是指在有限区域内，例如家庭、学校、计算机实验室、或者使用网络媒体的办公楼，互联组成的计算机网络。WiFi和双绞线布线以太网是最常用的构建局域网的两种技术。

应当指出的是，其它包括比计算机设备更多或更少的子系统的计算机系统也能适用于发明。

如上面详细描述的，适用于本实施例的计算机设备能执行短期概率密度负荷预测方法的指定操作。计算机设备通过处理器运行在计算机可读介质中的软件指令的形式来执行这些操作。这些软件指令可以从存储设备或者通过局域网接口从另一设备读入到存储器中。存储在存储器中的软件指令使得处理器执行上述的群成员信息的处理方法。此外，通过硬件电路或者硬件电路结合软件指令也能同样实现本发明。因此，实现本实施例并不限于任何特定硬件电路和软件的组合。

实施例2

本实施例提出了一种短期概率密度负荷预测装置，具体如图5所示，本实施例的装置包括预处理模块、QRLSTM预测模型、概率密度估计模块；

本实施例的预处理模块用于对输入的历史数据集进行预处理，并基于预处理之后的历史数据集构造训练数据集；且具体预处理过程和训练数据集构造过程与上述实施例1相同，此处不再赘述。

将训练数据集输入到QRLSTM预测模型进行迭代训练，确定QRLSTM预测模型的最优参数；本实施例采用的QRLSTM预测模块及其迭代训练过程与上述实施例1相同，此处不再赘述。

利用取得最优参数的QRLSTM预测模型得到不同分位点下的预测值；

将不同分位点下的预测值输入到概率密度估计模块进行概率密度估计，得到每个时间点下的概率密度估计曲线。本实施例的估计过程与上述实施例1相同，此处不再赘述。

实施例3

为了验证本申请的可行性和实用性，本实施例在matlab2018b中进行了建模训练，数据采用18年某西南地区的真实负荷和温度数据，负荷数据的采样点为15mins。在模型方面设立两个对照组，分别为分位数bp神经网络(QRBPNN) 和分位数支持向量回归(QRSVR)，分别对三种模型的不同分位数进行训练，并且引入pinball loss和Qrmse评价指标，其公式如下，训练结果如表1和图6 所示：

两种指标越小，则说明书预测效果越好。

表1

从图6和表1中可以看出，三种模型得到中位数曲线中，QRLSTM的预测结果与真实负荷曲线趋势最为接近，QRNN预测中位数结果较好但其在70％置信区间的预测区间范围有较大波动，模型鲁棒性不及QRLSTM。QRLSTM的不同置信度区间的上下限曲线与真实值最贴近，验证了本文所提QRLSTM的可行性。对于不同置信度区间的预测结果与真实负荷波动基本一致，在真实负荷变化率大的点附近区间也随之变大，不确定性增加，预测可信度降低，与实际情况相吻合。

同时，为验证高斯核函数的有效性，引入Epanechnikov核函数作为对照组，其公式为：

高斯核函数和Epanechnikov核函数的简单示意对比图如图7所示，从图中可看出，高斯核函数的径向范围覆盖更广，Epanechnikov核函数的分布更向中心集中，其中心周围非零支撑比高斯核函数更窄。

两者的概率密度预测结果如图8和图9所示。从图8和图9对比可知，采用高斯核函数生成概率密度曲线真实值均落在高概率密度波峰附近，对每个时刻的电力负荷的概率密度分布有较好的呈现效果；而Epanechnikov核函数因为其函数分布更向中心集中，两侧的非零支撑很小，所以真实值只能一部分概率密度曲线中落到高概率密度波峰附近，其泛化性要小于高斯核函数。

最后，对不同预测步长下的QRLSTM模型进行训练，训练结果如图10所示：

由图10可知，随着预测步长的增加，预测的精度在逐渐下降，不同置信度区间的预测范围也逐渐增大，预测不确定性在上升，在该算例可得出预测。但随着时间步长的降低，不同分位数预测得到的区间范围就越小，所得预测信息量有所减少，所以在工程应用领域，需要对两者进行一定权衡，选择最适用于该场景下的预测步长。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种短期概率密度负荷预测方法，其特征在于，包括：

步骤S1，对历史数据集进行预处理；

步骤S2，基于预处理之后的历史数据集构造训练数据集；

步骤S3，采用训练数据集对QRLSTM预测模型进行训练；

步骤S4，采用训练好的QRLSTM预测模型得到不同分位点的预测值；

步骤S5，针对不同分位点的预测值，利用核函数进行概率密度估计，得到每个时间点下的概率密度估计曲线。

2.根据权利要求1所述的一种短期概率密度负荷预测方法，其特征在于，所述步骤S1中对历史数据集进行预处理具体包括负荷数据预处理步骤和温度数据预处理步骤；

所述负荷数据预处理步骤具体为：采用归一化处理方法对历史负荷样本进行处理，将其区间缩为[0,1]；

所述温度数据预处理步骤具体为：对历史温度样本求取90％的置信区间，根据该置信区间确定隶属度函数的边界值。

3.根据权利要求2所述的一种短期概率密度负荷预测方法，其特征在于，所述温度数据预处理步骤通过下式确定的隶属度函数的边界值：

其中，T_low、T_mid、T_high分别代表低、中、高温的隶属度函数，T为温度，a和b为低温区间的边界值、c和d为中温区间的边界值、e和f为高温区间的边界值，且满足a<b<c<d<e<f。

4.根据权利要求2所述的一种短期概率密度负荷预测方法，其特征在于，所述低温和高温的区间跨度相同，所述中温的区间跨度为所述低温的区间跨度的1.5倍。

5.根据权利要求1所述的一种短期概率密度负荷预测方法，其特征在于，所述步骤S3具体包括以下子步骤：

步骤S31，将分位数回归作用于LSTM的损失函数中形成QRLSTM预测模型，其公式如下：

其中，W(τ)＝{W_f(τ),W_u(τ),W_h(τ),W_o(τ)}和b(τ)＝{b_f(τ),b_u(τ),b_h(τ),b_o(τ)}分别为τ分位点下前式中的LSTM隐藏层的权重参数和偏置项；ρ_τ(x)为检验函数；λ₁和λ₂为惩罚系数；

步骤S32，采用训练数据集对QRLSTM预测模型进行迭代训练，确定所述QRLSTM预测模型参数W(τ)和b(τ)的最优值。

6.根据权利要求5所述的一种短期概率密度负荷预测方法，其特征在于，所述步骤S32的迭代过程包括：

步骤S321，初始化W(τ)和b(τ)的值；

步骤S322，计算得到LSTM隐藏层各参数在第t轮迭代下的值；

步骤S323，计算梯度函数

和

的值，并依次反向计算LSTM隐藏层每个门中的权重W和偏置b的当前迭代值δ_w(τ_t)、δ_b(τ_t)；

步骤S324，利用当前迭代值对W(τ)和b(τ)进行迭代更新：

W(τ_t)＝W(τ_t-1)+εδ_w(τ_t)；

b(τ_t)＝b(τ_t-1)+εδ_b(τ_t)；

其中，W(τ_t)和b(τ_t)分别表示第t轮迭代第τ-分位数下的隐藏层各门中的权重和偏置，W(τ_t-1)和b(τ_t-1)分别表示第t-1轮迭代第τ-分位数下的隐藏层各门中的权重和偏置，ε为学习率；

步骤S325，循环迭代到满足预设条件，得到参数W(τ)和b(τ)的最优值。

7.根据权利要求1所述的一种短期概率密度负荷预测方法，其特征在于，所述步骤S5采用高斯核函数对每个时刻进行概率密度估计。

8.一种短期概率密度负荷预测装置，其特征在于，包括预处理模块、QRLSTM预测模型、概率密度估计模块；

所述预处理模块用于对输入的历史数据集进行预处理，并基于预处理之后的历史数据集构造训练数据集；

将训练数据集输入到所述QRLSTM预测模型进行迭代训练，确定所述QRLSTM预测模型的最优参数；

利用取得最优参数的QRLSTM预测模型得到不同分位点下的预测值；

将不同分位点下的预测值输入到所述概率密度估计模块进行概率密度估计，得到每个时间点下的概率密度估计曲线。

9.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1-7中任一项所述方法的步骤。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-7中任一项所述方法的步骤。

Images