CN112766537B - 一种短期电负荷预测方法 - Google Patents

Abstract

一种短期电负荷预测方法，属于电力系统负荷预测技术领域，包括如下步骤：对采集到的历史负荷数据进行异常处理及归一化处理；按照历史负荷数据时间序列不同的相关性,采用K‑means方法对历史负荷数据进行聚类分析；利用SMOTE方法对聚类后的数据进行过采样处理等。本发明能够有效的学习输入时间序列负荷数据的特征，更准确的预测负荷值，提高了短期负荷预测的精度。

Description

一种短期电负荷预测方法

技术领域

本发明属于电力系统负荷预测技术领域，具体涉及一种短期电负荷预测方法。

背景技术

在综合能源系统和能源互联网的高速发展中，电力负荷预测对电力系统的经济安全运行具有重要的作用。传统的负荷预测模型方法已在电力系统中取得了广泛应用，传统方法的简单计算模型对于高随机性、大数据背景下的动态负荷预测精度无法保证。近年来，在计算工具不断升级和训练数据量大规模提升的背景下，深度学习方法在电力负荷预测领域的应用得到了广泛重视。对比于传统的负荷预测方法，深度学习方法具有更高的预测精度，对于各种外部影响因素具有更好的鲁棒性。

发明内容

本发明所要解决的技术问题是克服现有技术的缺陷，提供一种基于K-means聚类与改进LM方法优化的LSTM神经网络的短期电负荷预测方法。本发明能够有效的学习输入时间序列负荷数据的特征，更准确的预测负荷值，提高了短期负荷预测的精度。

本发明采用如下技术方案：

一种短期电负荷预测方法，包括以下步骤：

(1)对采集到的历史负荷数据进行异常处理及归一化处理：

首先要取残缺数据前相邻10个数据平均值，补充缺失数据及修正失真数据，其次，在对原始数据进行异常处理后，需对异常处理后的数据进行归一化处理，所述归一化处理为：

对原始负荷数据进行线性变换，使原始负荷数据的结果值映射到[0-1]之间，其中，U*为归一化处理后的负荷数据值，min U为原始数据中最小的负荷值，max U为采集到的负荷数据中的最大值；

(2)按照历史负荷数据时间序列不同的相关性,采用K-means方法对历史负荷数据进行聚类分析：

1)从采集到的历史负荷数据样本集中均匀选出K_p个负荷点，并将这K_p个点作为初始聚类中心；

2)把每个历史负荷数据点分配到离它最近的中心点，计算数据点到这K_p个中心点的距离,距离的具体计算公式如下:

3)重新计算每类中的点到该类中心点距离的平均值，分配每个数据到它最近的中心点；

4)重复步骤3)，直到所有的观测值不再被分配或是达到最大的迭代次数，迭代结束；

(3)利用SMOTE方法对聚类后的数据进行过采样处理：

1)对于K-means聚类后将采集到的样本数据分为A类与B类，对其中少数类样本B类进行过采样处理，B类中每一个样本P，以欧氏距离为标准计算B类样本P到B类样本集中所有样本的距离，得到其w个近邻样本；

2)从P_m的w个近邻样本中取出第l个近邻样本P_m ^l；

3)通过下式计算样本的属性值：

其中，P_mn是过采样得到的新样本，P_m表示样本P的第m个属性值，

表示第l个近邻样本的第m个属性值，m∈1,2,...,N，l∈1,2,...,k；

(4)将不同类别的用户负荷序列输入到LSTM神经网络的输入层，将输入层接收的数据导入LSTM网络层；

(5)训练LSTM神经网络，利用改进LM方法优化LSTM神经网络，调整网络权值，得到LSTM预测模型：

LM方法的权值调整公式为：

m_k+1＝m_k-Z_k+1

其中，Z_k+1为权值变化量，L_k为冲量，m_k+1为优化后的权值，m_k为优化前的权值，γ为超参数，J为对误差权值修正的雅可比矩阵；J^T为对误差权值修正的雅可比矩阵的转置；ζ为阻尼项；E为单位矩阵；h_k为误差修正量；

(6)计算模型输出与理论输出间的误差，若计算所得误差在最大可允许累计误差范围内，则保留LSTM预测模型，反之则进行迭代修改；利用输出单元输出神经网络的电负荷预测结果。

本发明的优点与效果为：

本发明提出一种基于K-means聚类与改进LM方法优化的LSTM神经网络的短期电负荷预测方法。首先,利用K-means将用户聚为两类，再利用SMOTE方法对聚类后的数据处理，防止模型因各类样本数目不一致而产生的过拟合问题，最后利用处理后的数据训练LSTM神经网络，利用LM方法调整神经网络权值，得到基于LSTM神经网络的负荷预测模型。本发明利用多种方法相结合，能够有效的学习输入时间序列负荷数据的特征，更准确的预测负荷值，提高了短期负荷预测的精度。

附图说明

图1 LSTM记忆单元结构图；

图2基于LSTM负荷时间序列预测框架图；

图3短期电负荷预测方法流程图；

图4训练次数-均方根误差曲线。

具体实施方式

为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

本发明为一种基于K-means聚类与改进LM方法优化的LSTM神经网络的短期电负荷预测方法，包括以下步骤：

1)对采集到的历史负荷数据进行异常处理及归一化处理；

2)按照历史负荷数据时间序列不同的相关性,采用K-means方法对历史负荷数据进行聚类分析；

3)利用SMOTE方法对聚类后的数据进行过采样处理；

4)将不同类别的用户负荷序列输入到LSTM神经网络的输入层，将输入层接收的数据导入LSTM网络层。

5)训练LSTM神经网络，利用改进LM方法优化LSTM神经网络，调整网络权值，得到LSTM预测模型；

6)计算模型输出与理论输出间的误差，若计算所得误差在最大可允许累计误差范围内，则保留LSTM预测模型，反之则进行迭代修改；利用输出单元输出神经网络的电负荷预测结果。

步骤一：在获取历史时刻的电力负荷数据之后，需进行数据异常处理及归一化处理。

1)所述数据异常处理为：利用异常数据前10个相邻数据点的平均值填充缺失数据，修正失真数据。得到完整数据后，对数据进行归一化处理。

2)所述归一化处理为：

对原始负荷数据进行线性变换，使原始负荷数据的结果值映射到[0-1]之间。其中，U*为归一化处理后的负荷数据值，min U为原始数据中最小的负荷值，max U为采集到的负荷数据中的最大值。

步骤二：利用K-means方法对归一化处理后的数据进行聚类，具体步骤为：

1)从采集到的历史负荷数据样本集中均匀选出K_p个负荷点，并将这K_p个点作为初始聚类中心。

2)把每个历史负荷数据点分配到离它最近的中心点，计算数据点到这K_p个中心点的距离,距离的具体计算公式如下:

3)重新计算每类中的点到该类中心点距离的平均值，分配每个数据到它最近的中心点；

4)重复步骤3，直到所有的观测值不再被分配或是达到最大的迭代次数(本专利中把10次作为默认迭代次数)，迭代结束。

步骤三：利用SMOTE方法对聚类后的数据进行过采样处理；

1)对于K-means聚类后将采集到的样本数据分为A类与B类，对其中少数类样本B类进行过采样处理，B类中每一个样本P，以欧氏距离为标准计算B类样本P到B类样本集中所有样本的距离，得到其w个近邻样本。

2)从P_m的w个近邻样本中取出第l个近邻样本P_m ^l。

3)通过下式计算样本的属性值：

其中，P_mn是过采样得到的新样本，P_m表示样本的P的第m个属性值，

表示第l个近邻样本的第m个属性值，m∈1,2,...,N，l∈1,2,...,k。本专利中过采样方法在传统的方法上进行了改进，与传统过采样方法相比，本专利取/>

的平方根与0-1之间产生的随机数相乘生成新的数据样本。改进后的过采样方法生成的数据样本更接近真实数据，降低了因数据不准确带来的预测误差值。

步骤四：将B类样本集合过采样处理后，使A类数据样本与B类数据样本具有相同的数量。之后分割训练集与测试集入至LSTM进行训练。

1)长度为n的负荷数据经过预处理后输入到预测模型中，用x_t＝[x₁…x_k-1,x_k…x_n]^T表示。

2)LSTM记忆单元内部结构包含4个元素:输入门、输出门、遗忘门和循环自连接的记忆细胞。

3)在LSTM网络模型中，h_t为t时刻时LSTM网络的输出，t＝1,2,3,...。LSTM记忆单元的输出h_t通过以下公式迭代计算。

i_t＝sig(W_xix_t+W_hih_t-1+W_cic_t-1+b_i)

f_t＝sig(W_xfx_t+W_hfh_t-1+W_cfc_t-1+b_f)

o_t＝sig(W_xox_t+W_hoh_t-1+W_coc_t+b_o)

式中，i_t、f_t、c_t、o_t分别为输入门、遗忘门、记忆细胞和输出门的输出；W_xi、W_hi、W_ci分别为输入信息、上时刻输出和记忆细胞到输入门的权重矩阵；W_xf、W_hf、W_cf分别为输入信息、上时刻输出和记忆细胞到遗忘门的权重矩阵；W_xo、W_ho、W_co分别为输入信息、上时刻输出和记忆细胞到输出门的权重矩阵；b_i、b_f、b_o、b_c分别为输入门、输出门、遗忘门和记忆细胞的偏置量；σ(·)为sigmoid函数，g(·)和h(·)是记忆细胞输入到输出的激活函数，通常取双曲正切函数tanh(·)。

步骤五：LM方法的权值调整公式为：

m_k+1＝m_k-Z_k+1

其中，Z_k+1为权值变化量，L_k为冲量，m_k+1为优化后的权值，m_k为优化前的权值，γ为超参数，J为对误差权值修正的雅可比矩阵；J^T为对误差权值修正的雅可比矩阵的转置；ζ为阻尼项；E为单位矩阵；h_k为误差修正量。改进LM方法与传统LM方法的区别在于，基于原有方法的基础上，增加积累项，当冲量方向与梯度下降方向一致时可提高神经网络收敛速度。当冲量方向与梯度下降方向不一致时，可减少神经网络训练过程中的震荡幅度。

步骤六：一种基于K-means聚类与改进LM方法优化的LSTM神经网络的短期电负荷预测方法，为评估模型预测的精度，选取平均绝对百分误差M_APE和均方根误差R_MSE作为评价标准，若M_APE≤3.5且R_MSE≤1.5时，则不对神经网络模型进行更改，若不满足其中一条件则进行迭代权重调整比例,计算误差使用以下公式：其表达式分别为：

式中：n表示为预测结果的总个数；y_i和

分别为预测第i个采样点的实际负荷值和预测负荷值。

本发明所述的方法包括如下流程：

信息处理：用于对采集到的历史负荷数据进行异常处理及归一化处理。将归一化处理后的数据划分为训练集与测试集数据输入到LSTM神经网络的输入层；

模型建立：搭建LSTM神经网络预测模型，利用训练集数据训练LSTM神经网络，利用LM方法优化LSTM神经网络模型调整网络权值,计算模型输出与理论输出间的误差，建立LSTM神经网络预测模型；

负荷预测：将预测集数据输入到训练完成后的LSTM神经网络中，对指定时间区域进行负荷预测；

结果输出：利用模型的输出单元输出电负荷预测结果。

实施例1

如图3所示，一种基于K-means聚类与改进LM方法优化的LSTM神经网络的短期电负荷预测方法，，包括以下步骤：

S1、获取所需数据

本文所用数据集为某市20个用户2018年全年的负荷数据,每30分钟采集一个样本点,每天可获得48个负荷点数据。

S1.1、首先对采集到的负荷数据进行异常处理。对于缺失或失真的数据,利用该数据的前10个相邻数据点的平均值对其进行填充或修正,得到完整的负荷数据序列。

S1.2、将异常处理后的负荷数据进行归一化处理，使负荷数据归一化处理后映射到[0,1]之间,公式如下:

对原始负荷数据进行线性变换，使原始负荷数据的结果值映射到[0-1]之间。其中，U*为归一化处理后的负荷数据值，min U为原始数据中最小的负荷值，max U为采集到的负荷数据中的最大值。

S2、利用K-means聚类方法对数据分类处理。

S2.1、采用K-means方法对20个用户负荷数据进行聚类分析，聚类后的结果分为A类和B类，A类表示日相关性和相邻时刻相关性均较为明显的用户,B类表示仅相邻时刻相关性较强的用户。

表1 用户聚类结果

S3、利用SMOTE方法对数据进行过采样处理。

将B类仅相邻时刻相关性较强的负荷数据样本经过采样处理，使A类日相关性和相邻时刻相关性均较为明显的负荷数据样本与B类仅相邻时刻相关性较强的负荷数据样本具有相同的数量。

S4、训练数据，建立基于LSTM的电负荷预测模型。

S4.1、分割数据样本为训练集与测试集，将数据样本输入到LSTM神经网络中进行训练。

S4.2、设定系统的训练次数、最大误差及利用改进LM方法优化LSTM模型，调整模型权值。

S4.3、训练完成后，对所述电负荷预测结果进行分析，计算模型输出与理论输出间的误差，若所得预测数据在误差范围内，则保留LSTM模型，反之进行迭代修改。

S5、输出预测结果，通过输出单元输出该区域指定时间的电负荷预测结果。

S6、将本发明的方法与传统LM方法优化的LSTM神经网络的负荷预测结果进行比较，其结果如表2所示；

表2 不同电力负荷预测方法MAPE比较(％)

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的得同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (1)

1.一种短期电负荷预测方法，其特征在于，包括以下步骤：

(1)对采集到的历史负荷数据进行异常处理及归一化处理：

首先要取残缺数据前相邻10个数据平均值，补充缺失数据及修正失真数据，其次，在对原始数据进行异常处理后，需对异常处理后的数据进行归一化处理，所述归一化处理为：

对原始负荷数据进行线性变换，使原始负荷数据的结果值映射到[0-1]之间，其中，U^*为归一化处理后的负荷数据值，minU为原始数据中最小的负荷值，maxU为采集到的负荷数据中的最大值；

(2)按照历史负荷数据时间序列不同的相关性,采用K-means方法对历史负荷数据进行聚类分析：

1)从采集到的历史负荷数据样本集中均匀选出K_p个负荷点，并将这K_p个点作为初始聚类中心；

2)把每个历史负荷数据点分配到离它最近的中心点，计算数据点到这K_p个中心点的距离,距离的具体计算公式如下:

3)重新计算每类中的点到该类中心点距离的平均值，分配每个数据到它最近的中心点；

4)重复步骤3)，直到所有的观测值不再被分配或是达到最大的迭代次数，迭代结束；

(3)利用SMOTE方法对聚类后的数据进行过采样处理:

1)对于K-means聚类后将采集到的样本数据分为A类与B类；对其中少数类样本B类进行过采样处理,B类中每一个样本P，以欧氏距离为标准计算B类样本P到B类样本集中所有样本的距离，得到其w个近邻样本；

2)从P_m的w个近邻样本中取出第l个近邻样本P_m ^l；

3)通过下式计算样本的属性值:

其中,P_mn是过采样得到的新样本,P_m表示样本P的第m个属性值,

表示第l个近邻样本的第m个属性值，m∈1,2,...,N,l∈1,2,...,k；

(4)将不同类别的用户负荷序列输入到LSTM神经网络的输入层，将输入层接收的数据导入LSTM网络层；

(5)训练LSTM神经网络，利用改进LM方法优化LSTM神经网络，调整网络权值，得到LSTM预测模型:

LM方法的权值调整公式为:

m_k+1＝m_k-Z_k+1

其中，Z_k+1为权值变化量；L_k为冲量；m_k+1为优化后的权值；m_k为优化前的权值；γ为超参数；J_k为对误差权值修正的雅可比矩阵；J_k ^T为对误差权值修正的雅可比矩阵的转置；ζ为阻尼项；E为单位矩阵；h_k为误差修正量；

(6)计算模型输出与理论输出间的误差，若计算所得误差在最大可允许累计误差范围内，则保留LSTM预测模型，反之则进行迭代修改；利用输出单元输出神经网络的电负荷预测结果。

Images