CN110707763B - 一种基于集成学习的交直流配电网负荷预测方法 - Google Patents

Abstract

本发明公开了一种基于集成学习的交直流配电网负荷预测方法，对原始负荷数据进行负荷数据填充和归一化，利用滑动时间窗口采样负荷样本输入向量和样本标签，构造训练数据集；建立梯度提升模型，设置弱学习器个数，建立多个浅层神经网络来拟合梯度提升算法的负梯度，得到组合预测模型；利用滑动时间窗口选取待预测时间点前的负荷向量作为输入向量，结合集成学习模型，确定负荷预测值。本发明通过融合多个模型的强学习器进行负荷预测，提高了负荷预测的精度。

Description

一种基于集成学习的交直流配电网负荷预测方法

技术领域

本发明涉及交直流配电网负荷预测领域，具体涉及一种基于集成学习的交直流配电网负荷预测方法。

背景技术

随着配电网中新能源并网以及电力电子设备的快速发展，电网中能源分布发生了很大变化。由于交直流配电网中不同类型负荷的接入，会导致负荷功率的急剧变化，所以需要精确的负荷预测，保证交直流混合配电网的优化调度，这对配电网安全稳定运行有着重要意义。传统负荷预测方法主要围绕单一机器学习模型展开，如支持向量回归，神经网络等模型。单个模型容易发生过拟合现象，增大负荷预测泛化误差，从而降低预测精度，并且单一机器学习模型对于负荷异常点较为敏感，针对于交直流配电网的负荷预测，更易发生过拟合现象。

发明内容

本发明的目的在于提供一种基于集成学习的交直流配电网负荷预测方法。

实现本发明目的的技术解决方案为：一种基于集成学习的交直流配电网负荷预测方法，包括如下步骤：

步骤1，对原始负荷数据进行负荷数据填充和归一化，利用滑动时间窗口采样负荷样本输入向量和样本标签，构造训练数据集；

步骤2，建立梯度提升模型，设置弱学习器个数，建立多个浅层神经网络来拟合梯度提升算法的负梯度，得到组合预测模型；

步骤3，利用滑动时间窗口选取待预测时间点前的负荷向量作为输入向量，结合组合预测模型，确定负荷预测值。

本发明与现有技术相比，其显著优点在于：1)通过融合多个模型的强学习器进行负荷预测，提高了负荷预测的精度；2)选取对异常数据具有鲁棒性的Huber函数作为训练模型的损失函数，不仅能够减小预测误差，还能有效降低模型的泛化误差。

附图说明

图1为本发明基于集成学习的交直流配电网负荷预测方法的流程图。

图2为本发明实施案例负荷预测的结果示意图。

具体实施方式

如图1所示，基于集成学习的交直流配电网负荷预测方法，包括以下步骤：

步骤1对原始负荷数据进行数据预处理

交直流配电网中负荷形式复杂，负荷波动频繁，功率量测设备易发生数据缺失情况。为负荷预测提供完整的数据，本发明通过样条插值法对负荷量测数据缺失进行插值填充处理，并进行最大最小归一化，最后经预处理的数据通过滑动时间窗口的形式构造成训练所需的数据集。

所述步骤1包含以下三个子步骤，如下：

步骤11：按照时间顺序排列负荷数据，定位到负荷数据缺失点，利用缺失位置前后的负荷数据，通过三次样条插值拟合函数f_θ(x)，对相应缺失时间点进行填充处理，得到原始负荷时间序列数据；

填充值表示如式(1)：

P(t_mis)＝f_θ(t_mis) 式(1)

式(1)中，t_mis为负荷数据缺失时间点，f_θ(x)为三次样条插值拟合函数。

步骤12：进行最大最小归一化，得到连续时间序列的归一化负荷数据；

归一化计算公式如式(2)：

式(2)中，P^*(t)为归一化处理后的负荷时间序列数据，P₀(t)为原始负荷时间序列数据，P_max与P_min分别为负荷数据的最大值与最小值。

步骤13：利用滑动时间窗口对归一化负荷数据进行采样，滑动窗口长度为H，在归一化的负荷时间序列数据上进行滑动取样，滑动步长为1个时间步长。按照时间序列顺序得到训练数据集

其中x_i为H维向量作为负荷样本输入向量，向量中各特征为滑动窗口内负荷数据，y_i为第H+1个负荷数据作为样本标签，n为训练样本数量。

步骤2建立基于梯度提升算法的集成学习模型

集成学习通过组合多个弱学习器，来构建强学习器进行回归与预测任务。基于梯度提升算法的集成学习模型可以选择广泛的损失函数，使得对于异常数据点具有鲁棒性，能够防止模型过拟合，降低泛化误差。

建立的集成学习的组合模型如式(3)：

f_k(x)＝f_k-1(x)+γ_kh_k(x)k＝1,2....K 式(3)

式(3)中，f_k(x)基于第k-1次训练的模型f_k-1(x)产生，h_k(x)为第k个基于浅层神经网络的弱学习器，γ_k为第k个弱学习器的权重系数，K为所有弱学习器的个数。因此，通过梯度提升算法，能够学习各个弱学习器以及每个弱学习器的权重系数，从而得到最终组合集成学习模型f_K(x)，实现负荷预测功能。

所述步骤2包含以下六个子步骤，如下：

步骤21：初始化模型f₀(x)

初始化模型f₀(x)的具体计算公式为：

式(4)中，β为模型预测的常数值，L为损失函数，y_i为负荷样本的标签，n为训练样本个数，使所有样本损失总和最小的常数值即为f₀(x)的取值。

为降低模型的泛化误差，本发明采用对于异常数据具有鲁棒性的Huber损失函数，其通过超参数δ来控制模型对于异常数据的敏感度，如式(5)：

式(5)中，变量a为负荷样本的标签与模型预测值之差，由于模型预测值可以表示为

其中f_k(x)是第k次训练的模型，因此，上述公式可以写成如式(6)：

步骤22：计算k个弱学习器需要拟合的残差res_ik

根据前一次训练的模型f_k-1(x)，计算损失函数L关于f_k-1(x)的负梯度，得到第k个弱学习器需要拟合的残差res_ik，其计算公式如式(7)：

式(7)中，L是损失函数，x_i为负荷样本输入向量，y_i为负荷样本的标签，n为训练数据集样本个数。

步骤23：训练第k个弱学习器h_k(x)

根据得到的训练数据集

进行反向传播算法训练，调整浅层神经网络的权重和偏差，以最小化网络的误差，当误差值小于阈值时，训练结束并保存网络的权重和偏差，从而得到第k个弱学习器h_k(x)。

步骤24：计算第k个弱学习器h_k(x)的权重系数γ_k

权重系数γ_k由一维线性搜索确定，其计算公式如式(8)：

式(8)中，f_k-1(x)为上一轮得到的学习器，h_k(x)为第k个的弱学习器，L为损失函数，y_i为负荷样本的标签，n为训练样本个数，使所有样本损失总和最小的γ即为权重系数的取值。

步骤25：确定第k个浅层神经网络模型f_k(x)

基于步骤23与步骤24得到的弱学习器模型及其权重系数，可得到第k个浅层神经网络模型f_k(x)，其计算公式如式(9)：

f_k(x)＝f_k-1(x)+γ_kh_k(x) 式(9)

式(9)中，f_k-1(x)为上一轮得到的学习器，h_k(x)为第k个的弱学习器，γ_k为第k个弱学习器的权重系数。

步骤26：得到最终强学习器模型f_K(x)

对于k＝1,2....K，重复步骤22到步骤24，直到k＝K循环结束，得到最终强学习器f_K(x)，其计算公式如式(10)：

式(10)中，f₀(x)为初始化常数模型，γ_k、h_k(x)分别为第k轮更新得到的弱学习器及其权重系数，本专利中K经验值可取50。

步骤3基于训练好的模型，进行负荷预测。

经过步骤2负荷预测模型训练结束，基于训练好的模型进行负荷预测。针对需预测时间点的负荷预测值，选取其前H个时间点的负荷值作为输入向量x_i，将向量x_i输入训练好的集成学习模型，得到负荷预测值

对于负荷预测精度的评价标准可以采用均方根误差MSE和平均绝对误差MAE计算预测的误差。

实施例

为了验证本发明方案的有效性，选取2018年5月至2018年12月江苏省某交直流配电系统的历史负荷数据，进行如下仿真实验。

1)对原始负荷数据进行数据预处理

数据采样间隔为15分钟，将缺失值数据进行插值处理，最后进行最大最小归一化处理。进行数据清理后获取约15000个训练样本数据集，滑动时间窗口长度设置为8，即用8个数据点的负荷数据预测下一个时刻的负荷大小。部分训练数据如表1所示。

表1部分训练数据

2)建立基于梯度提升算法的集成学习模型

在梯度提升算法的集成学习模型中，基于浅层神经网络的弱学习器的数量K设置为50。通过梯度下降法进行伪残差拟合，得到弱学习器训练数据集。损失函数选择Huber函数，设置超参数δ＝0.4。设置各个浅层神经网络弱学习器的隐藏层的神经元个数为5，输入层及输出层的神经元个数与滑动时间窗口数据维度对应，分别设置为8和1，采用反向传播算法进行训练，拟合集成学习模型的负梯度。最终得到各个弱学习器模型，进行模型融合。

3)训练模型并进行预测

通过训练集数据得到训练好的模型，选取3天的负荷数据(288个采样点)进行预测对比，时间尺度选取提前1个时间步长(15分钟)。采用多层神经网络ANN、SVM和本发明方法进行负荷预测，预测结果如图2所示，从图中能够看出本专利的负荷预测精度均高于多层神经网络ANN、SVM预测方法，对于交直流配电网负荷预测有更小的预测误差。

Claims (5)

1.一种基于集成学习的交直流配电网负荷预测方法，其特征在于，包括以下步骤：

步骤1，对原始负荷数据进行负荷数据填充和归一化，利用滑动时间窗口采样负荷样本输入向量和样本标签，构造训练数据集；

步骤2，建立梯度提升模型，设置弱学习器个数，建立多个浅层神经网络来拟合梯度提升算法的负梯度，得到组合预测模型；

步骤3，利用滑动时间窗口选取待预测时间点前的负荷向量作为输入向量，结合组合预测模型，确定负荷预测值；

步骤2中，建立基于梯度提升算法的集成学习模型的具体方法为：

步骤21：初始化模型f₀(x)

初始化模型f₀(x)的具体计算公式为：

式(4)中，β为模型预测的常数值，y_i为负荷样本的标签，n为训练样本个数，使所有样本损失总和最小的常数值即为f₀(x)的取值，L为损失函数，采用对于异常数据具有鲁棒性的Huber损失函数，其通过超参数δ来控制模型对于异常数据的敏感度，如式(5)：

式(5)中，变量a为负荷样本的标签与模型预测值之差，由于模型预测值可以表示为

其中f_k(x)是第k次训练的模型，因此，上述公式可以写成如式(6)：

步骤22：计算k个弱学习器需要拟合的残差res_ik

根据前一次训练的模型f_k-1(x)，计算损失函数L关于f_k-1(x)的负梯度，得到第k个弱学习器需要拟合的残差res_ik，其计算公式如式(7)：

式(7)中，L是损失函数，x_i为负荷样本输入向量，y_i为负荷样本的标签，n为训练数据集样本个数；

步骤23：训练第k个弱学习器h_k(x)

根据得到的训练数据集

进行反向传播算法训练，调整浅层神经网络的权重和偏差，以最小化网络的误差，当误差值小于阈值时，训练结束并保存网络的权重和偏差，从而得到第k个弱学习器h_k(x)；

步骤24：计算第k个弱学习器h_k(x)的权重系数γ_k

权重系数γ_k由一维线性搜索确定，其计算公式如式(8)：

式(8)中，f_k-1(x)为上一轮得到的学习器，h_k(x)为第k个的弱学习器，L为损失函数，y_i为负荷样本的标签，n为训练样本个数，使所有样本损失总和最小的γ即为权重系数的取值；

步骤25：确定第k个浅层神经网络模型f_k(x)

基于步骤23与步骤24得到的弱学习器模型及其权重系数，可得到第k个浅层神经网络模型f_k(x)，其计算公式如式(9)：

f_k(x)＝f_k-1(x)+γ_kh_k(x) 式(9)

式(9)中，f_k-1(x)为上一轮得到的学习器，h_k(x)为第k个的弱学习器，γ_k为第k个弱学习器的权重系数；

步骤26：得到最终强学习器模型f_K(x)

对于k＝1,2....K，重复步骤22到步骤24，直到k＝K循环结束，得到最终强学习器f_K(x)，其计算公式如式(10)：

式(10)中，f₀(x)为初始化常数模型，γ_k、h_k(x)分别为第k轮更新得到的弱学习器及其权重系数。

2.根据权利要求1所述的基于集成学习的交直流配电网负荷预测方法，其特征在于，步骤1中，负荷数据填充的具体方法为：

按照时间顺序排列负荷数据，定位到负荷数据缺失点，利用缺失位置前后的负荷数据，通过三次样条插值拟合函数f_θ(x)，对相应缺失时间点进行填充处理，得到原始负荷时间序列数据；

填充值表示如式(1)：

P(t_mis)＝f_θ(t_mis) 式(1)

式(1)中，t_mis为负荷数据缺失时间点，f_θ(x)为三次样条插值拟合函数。

3.根据权利要求1所述的基于集成学习的交直流配电网负荷预测方法，其特征在于，步骤1中，归一化的具体方法为：

式(2)中，P^*(t)为归一化处理后的负荷时间序列数据，P₀(t)为原始负荷时间序列数据，P_max与P_min分别为负荷数据的最大值与最小值，通过最大最小归一化，即可得到连续时间序列的归一化负荷数据。

4.根据权利要求1所述的基于集成学习的交直流配电网负荷预测方法，其特征在于，步骤1中，构造训练数据集的具体方法为：

利用滑动时间窗口对归一化负荷数据进行采样，滑动窗口长度为H，在归一化的负荷时间序列数据上进行滑动取样，滑动步长为1个时间步长，按照时间序列顺序得到训练数据集

其中x_i为H维向量作为负荷样本输入向量，向量中各特征为滑动窗口内负荷数据，y_i为第H+1个负荷数据作为样本标签，n为训练样本数量。

5.根据权利要求1所述的基于集成学习的交直流配电网负荷预测方法，其特征在于，步骤3中，针对需预测时间点的负荷预测值，选取其前H个时间点的负荷值作为输入向量x_i，将向量x_i输入训练好的集成学习模型，得到负荷预测值

Images