CN117473463A

CN117473463A - 一种基于机器学习的高斯过程回归负荷预测方法及设备

Info

Publication number: CN117473463A
Application number: CN202311478087.9A
Authority: CN
Inventors: 叶强; 朱玲玲; 郑鹏; 陈吴晓; 蔡雨晴; 胡泽延; 林涵; 姜志筠; 张晨瀚; 蔡加鑫; 柳絮莹
Original assignee: State Grid Fujian Electric Power Co Ltd; Marketing Service Center of State Grid Fujian Electric Power Co Ltd
Current assignee: State Grid Fujian Electric Power Co Ltd; Marketing Service Center of State Grid Fujian Electric Power Co Ltd
Priority date: 2023-11-07
Filing date: 2023-11-07
Publication date: 2024-01-30

Abstract

本发明涉及一种基于机器学习的高斯过程回归负荷预测方法，包括：S1、获取历史负荷数据；S2、对历史负荷数据进行过滤处理：S3、获取若干变量；对所述若干变量进行相关性热图分析，选取若干变量作为特征量；S4、构建训练集，训练集包括历史负荷数据和特征量；利用训练集，构建并训练高斯过程回归模型，以进行负荷预测。

Description

一种基于机器学习的高斯过程回归负荷预测方法及设备

技术领域

本发明涉及一种基于机器学习的高斯过程回归负荷预测方法，属于负荷预测领域。

背景技术

电力负荷预测是现代电力系统的重要工作之一，预测准确度的高低对电网的调度、实时控制以及运行计划的制定等方面都会产生较大的影响。随着可再生能源的分布式发电并网量的不断增加和全球能源消耗的增加，加剧了电网的不稳定性。而现代社会的用电曲线总体呈现多峰情况。为增加对新能源发电的消纳和实现削峰填谷的目标，须基于历史数据进行负荷预测。传统预测方法在准确性和实时性等方面已难以满足现代电力系统的需求，需要一种更加准确的负荷预测方法。

专利CN107506868A公开了一种短时电力负荷预测的方法，通过综合分位回归和鲁棒极限学习机，并利用混合粒子群算法(PSOGSA)优化后所建立的混合预测模型来对电力负荷进行预测。

发明内容

为了克服现有技术中存在的问题，本发明设计了一种基于机器学习的高斯过程回归负荷预测方法，对历史负荷数据进行过滤处理，提升后续预测精度；并将机器学习和高斯过程回归进行结合，进一步提高了对未来电力负荷短期预测的精度，克服了传统回归分析预测方法的缺点，对于减少电网的波动、提升电力系统的鲁棒性和电能质量有较高的应用价值。

为了实现上述目的，本发明采用如下技术方案：

技术方案一

一种基于机器学习的高斯过程回归负荷预测方法，包括以下步骤：

S1、获取历史负荷数据；

S2、对历史负荷数据进行过滤处理，具体包括：

预先构建拟合方程并求解拟合方程中的权重参数，拟合方程以公式表达为：

m_t＝a₀+a₁*x_t+a₂*x_t ²+…+a_k-1*x_t ^k-1

式中，a₀,…,a_k-1为权重参数；x_t为历史负荷数据中第t个数据点的值；

m_t为第t个数据点的滤波值；

预设窗口大小；在历史负荷数据上滑动窗口，利用所述拟合方程计算窗口内数据点的滤波值；

S3、获取若干变量；对所述若干变量进行相关性热图分析，选取若干变量作为特征量；

S4、构建训练集，训练集包括历史负荷数据和特征量；利用训练集，构建并训练高斯过程回归模型，以进行负荷预测。

进一步地，求解拟合方程中的权重参数，具体包括：

分别将第t个数据点邻近的n个数据点代入拟合方程，并满足不等式2n+1>k，得到矩阵：

式中，ε_t-n,…,ε_t,…,ε_t+n表示误差因子；

通过最小二乘法求解矩阵，得到权重参数a₀,…a_k-1。

进一步地，建立高斯过程回归模型，包括：

建立近线性回归模型方程：

y＝x^Tβ+ε

式中，x、y分别表示输入、输出数据；ε表示误差项，满足正态分布；β表示系数；

根据贝叶斯理论，在训练集中学习y的先验分布y^p；

y^p～N(0,K(X，X’))

式中，K(X，X’)表示在高斯过程中产生的的协方差矩阵,用于衡量两个变量之间的相关性，k(x,x′)表示协方差函数，即核函数；

分别选取不同的核函数，建立有理二次GPR模型、Matern 5/2GPR模型、指数GPR模型。

进一步地，训练高斯过程回归模型，包括：

利用训练集分别训练有理二次GPR模型、Matern 5/2GPR模型、指数GPR模型；计算各模型的误差，以公式表达为：

式中，y_i、f(x_i)分别表示负荷的实际值、预测值；n表示参加统计数据个数；

选择误差最小的模型为最终使用的高斯过程回归模型。

技术方案二

一种基于机器学习的高斯过程回归负荷预测设备，包括存储器和处理器，所述存储器存储有指令，所述指令适于由处理器加载并执行如技术方案一所述步骤。

与现有技术相比本发明有以下特点和有益效果：

本发明公开一种基于机器学习的高斯过程回归负荷预测方法，对历史负荷数据进行过滤处理，提升后续预测精度；并将机器学习和高斯过程回归进行结合，进一步提高了对未来电力负荷短期预测的精度，克服了传统回归分析预测方法的缺点，对于减少电网的波动、提升电力系统的鲁棒性和电能质量有较高的应用价值。

附图说明

图1是本发明流程图；

图2本发明预测结果示意图。

具体实施方式

下面结合具体的实施例对本发明做进一步的详细说明，所述是本发明的解释而不是限定。

实施例一

如图1所示，一种基于机器学习的高斯过程回归负荷预测方法，包括以下步骤：

首先，收集历史负荷数据，并进行数据预处理，如式(1)～(6)所示，

收集到的原始数据源于某地35kV电网络第一年1月至次年1月总计13个月的负荷数据，数据为每小时记录一次，其中前12个月总计8760个数据用于建模，最后一个月的数据用于验证模型。为保证数据的利用价值最大化，首先对数据进行过滤处理以滤除干扰结果的噪声，使数据平滑；再对数据进行归一化处理以规范数据，有助于提高机器学习算法的准确性。

基于负荷数据本身的非线性特征，对其进行进行过滤处理：

对当前时刻的观测值用下式进行过滤：

m_t＝a₀+a₁*x_t+a₂*x_t ²+…+a_k-1*x_t ^k-1(1)

式中，a₀,…,a_k-1为权重参数；x_t为历史负荷数据中第t个数据点的值；m_t为第t个数据点的滤波值；

同理对x_t前后的n个数据点进行相同的处理，得到2n+1个式子，将该2n+1个拟合算式写成矩阵形式：

式中，ε_t-n,…,ε_t,…,ε_t+n表示误差因子；

若要使矩阵有解，则须满足2n+1>k，才可用最小二乘法确定权重参数a₀,…a_k-1。以上矩阵可简化为如下：

M_(2n+1)×1＝X_(2n+1)×k×A_k×1+E_(2n+1)×1 (3)

式中各参数的下标代表各自的维度，X_(2n+1)×k表示有(2n+1)行k列的参数。经最小二乘法计算可得A_k×1的解为：

A＝(X^T·X)^-1·X^T·M (4)

最终得到滤波值：

P＝X·A＝(X^T•X)^-1·X^T·M＝B·M (5)

数据归一化过程即将数据映射到[0,1]区间：

式中，x_max是数据点中的最大值，x_min是数据点中的最小值，x_i是第i个数据点，X是第i个数据点归一化后的值。

为实现数据合理且高效利用，将数据分类，可分为训练数据、测试数据和验证数据，其中验证数据的比例取决于评估数据的可用性。

进一步地，考虑导致电力负荷变化的变量有很多，如时间、天气、温度等，且不同类型的变量之间还存在隐藏的相关性。利用相关性热图分析量化不同变量间的相关性，从量化之后的相关性中选取对负荷数据影响较大的变量为特征量，可以忽略其中不重要的因素进而降低模型的复杂度，提高预测效率。

基于处理后的数据建立近线性模型，设输入的训练数据集为{(x_i,y_i)，其中i＝1,2,…n，x_i是输入量，y_i是输出量}

假设输入变量x_i满足关系f(x)＝f(x_i),且服从n个向量的联合高斯分布：

f(x)～N(m(x),K(X，X’)) (7)

式中，m(x)是均值函数，K(X，X’)是协方差函数

近线性回归模型方程为：

y＝x^Tβ+ε (8)

式中，ε表示误差项，满足正态分布，即ε～N(0,σ²)；x_i,y_i源于用来训练的数据集；σ²和β分别代表方差和系数。则y也满足高斯分布。

进一步，y的先验分布通过贝叶斯理论从训练的数据中学习可得：

y^p～N(0,K(X，X’))(9)

式中，K(X，X’)是在高斯过程中生产的协方差矩阵(相关系数矩阵)，用于衡量任意两点之间的“距离”，即相关性，“距离”数值的大小也代表着相关项的强弱：

是协方差函数，即核函数。

GPR模型的核函数有很多，基于不同的核函数建立的模型得出的结果也不同。本模型中建立的有理二次GPR模型如下：

其中θ为信号的最大似然估计值，σ_f,σ_l为超参数，α为非负参数的协方差，

为和有理二次GPR模型形成对照，在考虑输入的训练数据的特性后，使用Matern核中的Matern 5/2建立Matern 5/2GPR模型：

平方指数GPR与指数GPR类似，区别在于点之间的距离进行了平方。对相同的数据集平方指数型GPR模型可表示为：

而指数GPR模型可表示为：

以上核函数中的超参数可以利用最大似然估计求解：

选定核函数后，则可确定训练集输出y和测试输出y_*的先验联合分布：

其中K是训练数据集x的N×N的协方差矩阵且K＝(k(x_i,x_j)),k(x_i,x_j)，即核函数；代表测试数据与训练输入数据间的N×1的协方差向量。K_**代表测试数据之间的N×N的协方差矩阵。由此可得测试集的后验分布。P(y|X)～N(y|0，K(X，X’))，即为后验分布。

其中假设均值函数为常数0。在此基础上可推得

故均值

方差

模型中所有参数确定后进行模型评估。

最后，为选取最佳的GPR模型，需要对模型预测数据进行验证，本次采用10倍交叉验证(CV),即将训练数据集的十分之一的数据作为验证数据，有助于检查模型中的各种性能参数，并选择最佳模型。使用均方根误差值(RMSE)作为以上基于不同的核函数建立的模型的评价指标，若RMSE值越小则代表模型越优。其中RMSE的计算如下：

式中，y_i、f(x_i)分别表示负荷的实际值、预测值；n表示参加统计的数据的个数。

表1展示了基于不同核函数的模型的预测结果的RMSE值，从中可看出基于Matern5/2核函数建立的有理二次GPR模型的RMSE值最小，即此模型的预测效果最优。

表1不同核函数模型的均方根误差

图2是模型的预测结果，图中线条分别表示实际的电力需求、预测的电力需求，两者的重叠度很高，说明了预测结果的可靠性。

实施例二

一种基于机器学习的高斯过程回归负荷预测设备还用于实现如上述图1所示的一种基于机器学习的高斯过程回归负荷预测方法中各实施例对应的方法步骤，本申请在此不重复叙述。

需要说明的是，在本发明各个实施例中的各功能单元/模块可以集成在一个处理单元/模块中，也可以是各个单元/模块单独物理存在，也可以是两个或两个以上单元/模块集成在一个单元/模块中。上述集成的单元/模块既可以采用硬件的形式实现，也可以采用软件功能单元/模块的形式实现。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解应当理解，可以以硬件、软件、固件、中间件、代码或其任何恰当组合来实现这里描述的实施例。对于硬件实现，处理器可以在一个或多个下列单元中实现：专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、设计用于实现这里所描述功能的其他电子单元或其组合。对于软件实现，实施例的部分或全部流程可以通过计算机程序来指令相关的硬件来完成。实现时，可以将上述程序存储在计算机可读介质中或作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和通信介质，其中通信介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是计算机能够存取的任何可用介质。计算机可读介质可以包括但不限于RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质。

最后应当说明的是，以上实施例仅用以说明本发明的技术方案，而非对本发明保护范围的限制，尽管参照较佳实施例对本发明作了详细地说明，本领域的普通技术人员应当分析，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的实质和范围。

Claims

1.一种基于机器学习的高斯过程回归负荷预测方法，其特征在于，包括以下步骤：

S1、获取历史负荷数据；

S2、对历史负荷数据进行过滤处理，具体包括：

m_t＝a₀+a₁*x_t+a₂*x_t ²+…+a_k-1*x_t ^k-1

m_t为第t个数据点的滤波值；

2.根据权利要求1所述的一种基于机器学习的高斯过程回归负荷预测方法，其特征在于，求解拟合方程中的权重参数，具体包括：

式中，ε_t-n,…,ε_t,…,ε_t+n表示误差因子；

通过最小二乘法求解矩阵，得到权重参数a₀,…,a_k-1。

3.根据权利要求1所述的一种基于机器学习的高斯过程回归负荷预测方法，其特征在于，建立高斯过程回归模型，包括：

建立近线性回归模型方程：

y＝x^Tβ+ε

根据贝叶斯理论，在训练集中学习y的先验分布y^p；

y^p～N(0,K(X，X’))

4.根据权利要求3所述的一种基于机器学习的高斯过程回归负荷预测方法，其特征在于，训练高斯过程回归模型，包括：

式中，y_i、f(x_i)分别表示负荷的实际值、预测值；n表示参加统计的数据个数；

选择误差最小的模型为最终使用的高斯过程回归模型。

5.一种基于机器学习的高斯过程回归负荷预测设备，其特征在于，包括存储器和处理器，所述存储器存储有指令，所述指令适于由处理器加载并执行如下步骤：

S1、获取历史负荷数据；

S2、对历史负荷数据进行过滤处理，具体包括：

m_t＝a₀+a₁*x_t+a₂*x_t ²+…+a_k-1*x_t ^k-1

m_t为第t个数据点的滤波值；

6.根据权利要求5所述的一种基于机器学习的高斯过程回归负荷预测设备，其特征在于，求解拟合方程中的权重参数，具体包括：

式中，ε_t-n,…,ε_t,…,ε_t+n表示误差因子；

通过最小二乘法求解矩阵，得到权重参数a₀,…a_k-1。

7.根据权利要求5所述的一种基于机器学习的高斯过程回归负荷预测设备，其特征在于，建立高斯过程回归模型，包括：

建立近线性回归模型方程：

y＝x^Tβ+ε

根据贝叶斯理论，在训练集中学习y的先验分布y^p；

y^p～N(0,K(X，X’))

8.根据权利要求7所述的一种基于机器学习的高斯过程回归负荷预测设备，其特征在于，训练高斯过程回归模型，包括：

式中，y_i、f(x_i)分别表示负荷的实际值、预测值；n表示参加统计的数据的个数；

选择误差最小的模型为最终使用的高斯过程回归模型。