CN109766950A - 一种基于形态聚类和LightGBM的工业用户短期负荷预测方法 - Google Patents

Abstract

本发明提供一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，涉及电力系统负荷预测技术领域。该方法首先对采集到的工业用户负荷数据利用工业用户形态聚类算法进行聚类；并根据形态聚类后各类别用户的负荷特性进行特征工程处理；然后将经过形态聚类和对应特征工程处理后的各类负荷数据利用对应的LightGBM模型进行训练及预测；最后将各类用户的LightGBM模型预测结果进行模型融合，得到最终预测结果。本发明提供的基于形态聚类和LightGBM的工业用户短期负荷预测方法，充分考虑了不同工业用户具有不同负荷特性的特点，在计算效率和预测精确度方面较其他集成学习模型均具有显著提升。

Description

一种基于形态聚类和LightGBM的工业用户短期负荷预测方法

技术领域

本发明涉及电力系统负荷预测技术领域，尤其涉及一种基于形态聚类和LightGBM的工业用户短期负荷预测方法。

背景技术

随着智能电网的快速普及和各种智能量测装置的广泛应用，用户侧产生了大量电力数据，应用大数据技术挖掘负荷数据的负荷特性，并有针对性地构建负荷预测模型，对提高负荷预测精度，完善电网规划方案，保障电网安全稳定运行具有重要意义。工业用户用电量是全社会用电量的主要组成部分，因此通过形态聚类算法挖掘工业用户负荷数据的负荷特性，并针对工业用户负荷特性构建负荷预测模型是提高总体负荷预测精度和电力系统自动化运行水平的有效方法。

传统负荷预测方法通常是对所有用户负荷进行统一处理和预测。但同一工业园区内各企业因所从事行业和作业时间不同等原因具有不同的负荷特性，若将所有企业负荷利用同一特征集和算法进行统一预测，则会忽略不同企业具有不同负荷特性这一重要特征，使原始数据价值不能得到充分利用，存在浪费数据价值问题。

形态聚类是一种针对数据曲线形态进行分类的聚类算法。传统聚类算法大多采用欧氏距离或余弦相似度作为聚类度量函数，但这些方法过于关注同一节点中数据间距离，而没有充分考虑数据间的形态变化，所以存在形态聚类效果不理想问题。现有的基于皮尔逊相关系数的形态聚类方法可以避免余弦相似度函数的数据幅度差异影响，在度量负荷曲线形态上具有一定优越性，但在工业用户形态聚类中存在损坏大负荷企业负荷特性、弱相关性企业损坏聚类后负荷特性和聚类数目过多的问题。

梯度提升决策树(Gradient Boosting Decision Tree，GBDT)是一种基于Boosting的集成学习算法(Ensemble Learning Method，ELM)，具有XGBoost、CatBoost等多种其它有效的实现方式。相比于更适合处理图像、语音和文本等海量高维数据的深度学习算法，集成学习算法更适合于处理表格数据，同时集成学习算法相较深度学习算法具有可解释性、输入数据不变性、易于调参等特性。但大多集成学习算法(如GBDT、XGBoost、CatBoost)需要遍历所有样本数据来估计所有可能分裂点的信息增益，存在计算效率低的问题。针对以往集成学习算法计算效率低的问题，微软公司于2017年开源了一种基于梯度单边采样(Gradient-based One-Side Sampling，GOSS)和互斥特征捆绑(ExclusiveFeature Bundling，EFB)的集成学习算法，即LightGBM集成学习算法。根据开发团队实验数据展示，LightGBM在达到几乎相同甚至更高精度的同时，将传统GBDT的训练过程加速了20倍以上。

发明内容

本发明要解决的技术问题是针对上述现有技术的不足，提供一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，实现对工业用户短期负荷的预测。

为解决上述技术问题，本发明所采取的技术方案是：一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，包括以下步骤：

步骤1、对采集到的工业用户负荷数据利用工业用户形态聚类算法(IndustrialUser Morphological Clustering，即IUMC)进行形态聚类，具体方法为：

步骤1.1、数据预处理；针对工业用户负荷数据进行数据预处理，剔除缺失值大于数据总长度十分之一的用户，其他用户的缺失值采用相邻日插值填充，采用箱型图分析方法识别异常值，利用相邻日插值替换异常值；

步骤1.2、识别并分离大负荷企业；将单一企业日均负荷大于所有企业日均负荷γ倍的企业识别为大负荷企业，将大负荷企业数据分离，剩余企业识别为小负荷企业；

步骤1.3、合并弱相关性小负荷企业；计算小负荷企业负荷数据的皮尔逊相关系数，设弱相关性阈值为δ₁，用户中与其他所有用户的相关系数最大值小于δ₁的用户被识别为弱相关性企业，将弱相关性企业负荷按时间节点作和处理作为一个用户特殊处理；

步骤1.4、确定初始形态聚类中心，具体方法为：

步骤1.4.1、计算去除大负荷企业、弱相关性小负荷企业后数据的相关系数，选取相关系数最大值所对应的两个企业作为第一类，筛选与第一类两个企业相关系数均大于0.9的企业加入第一类，计算第一类企业负荷均值作为该类初始形态聚类中心；

步骤1.4.2、选取删除上一类企业相关系数后的各企业相关系数中最大值所对应的两个企业作为新一类，筛选与新一类两个企业相关系数均大于0.9的企业加入新一类，计算新一类企业负荷均值作为该类初始形态聚类中心；

步骤1.4.3、循环步骤1.4.2直至类数达到设定的K_max，然后将分离出的单家大负荷企业用户、弱相关性小企业合并后的用户均单独作为一类加入数据和形态聚类中心中，如大负荷企业用户数为N，则此时类数和初始形态聚类中心数为(K_max+N+1)；

步骤1.5、完善用户形态聚类，遍历含有大负荷企业用户和弱相关性小负荷企业合并后用户的所有负荷数据，计算各企业与各形态聚类中心的相关系数，选取企业与各形态聚类中心相关系数最大值所对应的形态聚类中心，然后将该企业加入该形态聚类中心，重新计算各类的负荷数据均值作为新的形态聚类中心；

步骤1.6、完善形态聚类中心，计算各形态聚类中心相关系数，设类间相关性阈值为δ₂，将类间相关系数大于δ₂的类别合并为一类，新类的形态聚类中心为合并后类内各企业的负荷均值，若类间相关系数均小于δ₂，则不作处理直接执行步骤1.8；

步骤1.7、重复执行步骤1.6直至各形态聚类中心相关系数均小于δ₂；

步骤1.8、重复过程步骤1.5-步骤1.7直至形态聚类中心不再改变；

步骤1.9、计算形态聚类有效性，选出最佳形态聚类数；形态聚类有效性指标公式通过类内相关性公式除以类间相关性公式得到，类内相关性公式为类间相关性公式为聚类有效性指标公式为其中，x_i为第m类的第i家用户，c_m为第m类的形态聚类中心，n_k为第m类的用户数，c_ij为形态聚类中心i与j之间的相关系数，k为总类数；

步骤2、根据形态聚类后各类别用户的负荷特性进行特征工程处理，具体方法为：

步骤2.1、根据与电力系统历史负荷相对应的日期、天气、节假日数据构建其初步特征；

步骤2.2、构建各类用户特征线性相关性的热力图，热力图中线性相关性大于0.9的特征组只保留方差最大的特征，其余特征删除；

步骤2.3、利用互信息法计算各类数据的负荷变量和特征变量的相关性，删除相关性小于0.2的特征；

步骤2.4、利用LightGBM模型自带的特征重要性打分算法实现各类用户特征重要性的分析，保留重要特征，删除重要性得分小于0.5的特征；

步骤3、将经过形态聚类和对应特征工程处理后的各类负荷数据利用其对应的LightGBM模型进行训练以及预测；

步骤4、将形态聚类后各类用户的LightGBM模型预测结果进行模型融合，得到电力系统工业用户短期负荷的最终预测结果。

采用上述技术方案所产生的有益效果在于：本发明提供的一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，结合皮尔逊相关系数聚类与工业用户负荷特性提出了一种基于皮尔逊相关系数的工业用户形态聚类方法，此方法保留了大负荷企业的负荷特性，解决了弱相关性小负荷企业会破坏聚类后负荷特性的问题，可通过调节小负荷企业弱相关性合并阈值δ₁和类间最大相关性阈值δ₂实现形态聚类有效性和最佳聚类数的可控性，提出了同时考虑类内相关性和类间相关性的形态聚类有效性指标，避免了分类结果过多而过度增加工作量的风险；本发明针对形态聚类后各类用户负荷特性分别进行特征工程处理，利于提高计算效率和预测精确度；将经过形态聚类和对应特征工程处理后的各类负荷数据利用其对应的LightGBM模型进行预测，然后通过模型融合得到最终预测结果，在计算效率和预测精确度方面较其他集成学习模型均具有显著提升。

附图说明

图1为本发明实施例提供的一种基于形态聚类和LightGBM的工业用户短期负荷预测方法的流程图；

图2为本发明实施例提供的采用形态聚类方法对工业用户负荷进行聚类的流程图；

图3为采用基于形态聚类的LightGBM模型与不采用形态聚类的LightGBM模型进行预测的效果对比图；

图4为本发明实施例提供的采用本方法与采用其他部分模型方法的平均绝对百分比误差对比效果图。

具体实施方式

下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。

本实施例以某城市高新区2015年1月1日到2016年6月30日1454家企业每日用电量数据作为研究对象，数据时间间隔为1天，采用本发明的一种基于形态聚类和LightGBM的工业用户短期负荷预测方法进行这些工业用户短期负荷的预测。

一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，如图1所示，包括以下步骤：

步骤1：对采集到的数据利用工业用户形态聚类算法(Industrial UserMorphological Clustering，即IUMC)进行形态聚类，如图2所示，具体方法为：

步骤1.1：数据预处理；针对工业用户负荷数据进行数据预处理，剔除缺失值大于数据总长度十分之一的用户，其他用户的缺失值采用相邻日插值填充，采用箱型图分析方法识别异常值，利用相邻日插值替换异常值；

步骤1.2：将单一企业日均负荷大于所有企业日均负荷γ倍的企业识别为大负荷企业，将大负荷企业数据分离，剩余企业识别为小负荷企业，本实施例中，γ取100；

步骤1.3：合并弱相关性小负荷企业；计算小负荷企业负荷数据的皮尔逊相关系数，设X＝(x₁，x₂，L，x_n)和Y＝(y₁，y₂，L，y_n)为两组负荷数据，皮尔逊相关系数的计算公式为式中，和分别代表数据组X和数据组Y的数据均值；以皮尔逊相关系数为聚类度量函数时，corr(X，Y)越大，X和Y被判定为越近似；设弱相关性阈值为δ₁，用户中与其他所有用户的相关系数最大值小于δ₁的用户被识别为弱相关性企业，将弱相关性企业负荷按时间节点作和处理作为一个用户特殊处理；

步骤1.4、确定初始形态聚类中心，具体方法为：

步骤1.4.1、计算去除大负荷企业、弱相关性小负荷企业后数据的相关系数，选取相关系数最大值所对应的两个企业作为第一类，筛选与第一类两个企业相关系数均大于0.9的企业加入第一类，计算第一类企业负荷均值作为该类初始形态聚类中心；

步骤1.4.2、选取删除上一类企业相关系数后的各企业相关系数中最大值所对应的两个企业作为新一类，筛选与新一类两个企业相关系数均大于0.9的企业加入新一类，计算新一类企业负荷均值作为该类初始形态聚类中心；

步骤1.4.3、循环步骤1.4.2直至类数达到设定的K_max，然后将分离出的单家大负荷企业用户、弱相关性小企业合并后的用户均单独作为一类加入数据和形态聚类中心中，如大负荷企业用户数为N，则此时类数和初始形态聚类中心数为(K_max+N+1)；

步骤1.5、完善用户形态聚类，遍历含有大负荷企业用户和弱相关性小负荷企业合并后用户的所有负荷数据，计算各企业与各形态聚类中心的相关系数，选取企业与各形态聚类中心相关系数最大值所对应的形态聚类中心，然后将该企业加入该形态聚类中心，重新计算各类的负荷数据均值作为新的形态聚类中心；

步骤1.6、完善形态聚类中心，计算各形态聚类中心相关系数，设类间相关性阈值为δ₂，将类间相关系数大于δ₂的类别合并为一类，新类的形态聚类中心为合并后类内各企业的负荷均值，若类间相关系数均小于δ₂，则不作处理直接执行步骤1.8；

步骤1.7、重复执行步骤1.6直至各形态聚类中心相关系数均小于δ₂；

步骤1.8、重复过程步骤1.5-步骤1.7直至形态聚类中心不再改变；

步骤1.9、计算形态聚类有效性，选出最佳形态聚类数；形态聚类有效性指标公式通过类内相关性公式除以类间相关性公式得到，类内相关性公式为类间相关性公式为聚类有效性指标公式为其中，x_i为第m类的第i家用户，c_m为第m类的形态聚类中心，n_k为第m类的用户数，c_ij为形态聚类中心i与j之间的相关系数，k为总类数；

利用工业用户形态聚类算法通过调整小负荷企业弱相关性阈值δ₁和类间相关性阈值δ₂可实现对最佳形态聚类数和形态聚类有效性的控制。不同阈值δ₁、阈值δ₂所对应的最佳形态聚类数如表1所示：

表1不同阈值对应的最佳聚类数

本实施例选取δ₁＝0.7，δ₂＝0.6进行分类，最佳形态聚类数为6。

步骤2、根据形态聚类后各类别用户的负荷特性进行特征工程处理，具体方法为：

步骤2.1、根据与电力系统历史负荷相对应的日期、天气、节假日数据构建其初步特征；

本实施例中，电力系统历史负荷的初步特征如表2所示：

表2初步特征

步骤2.2、构建各类用户特征线性相关性的热力图，热力图中线性相关性大于0.9的特征组只保留方差最大的特征，其余特征删除；

步骤2.3、利用互信息法计算各类数据的负荷变量和特征变量的相关性，删除相关性小于0.2的特征；

步骤2.4、利用LightGBM模型自带的特征重要性打分算法实现各类用户特征重要性的分析，保留重要特征，删除重要性得分小于0.5的特征；

步骤3、将经过形态聚类和对应特征工程处理后的各类负荷数据利用其对应的LightGBM模型进行训练以及预测；

步骤4、将形态聚类后各类用户的LightGBM模型预测结果进行模型融合，得到电力系统工业用户短期负荷的最终预测结果。

本实施例中，采用本发明提出的IUMC-LightGBM方法和采用LightGBM方法获得的2016年6月负荷预测结果对比如图3所示。

本实施例中，评价指标采用平均绝对百分比误差(MAPE)，平均绝对百分比误差公式为式中，m为预测点个数，y_i为第i个预测点的真实值，为第i个预测点的预测值。

本实施例中，使用IUMC-LightGBM(IUMC-LGB)方法与ARIMA、XGBoost(XGB)、RandomForest(RF)、LightGBM(LGB)、IUMC-XGBoost(IUMC-XGB)、IUMC-RandomForest(IUMC-RF)方法对2016年4月至6月负荷进行预测得到的平均绝对百分比误差对比结果如图4和表3所示：

表3负荷预测结果对比

由表3中2016年4月至6月的预测结果可知，相同数据和相同计算环境下LGB模型计算效率较ARIMA模型提高了近793倍，较RF模型提高了近7倍，较XGB模型提高了近1倍；IUMC-LGB模型的计算效率较ARIMA模型提高了近93倍，较IUMC-RF模型提高了近7倍，较IUMC-XGBoost模型提高了近30％。相同数据下IUMC-LGB模型的平均预测精确度较ARIMA模型提升了近40％，较XGB模型提升了近25％，较IUMC-XGB模型提升了近12％，较RF模型提升了近25％，较IUMC-RF模型提升了近5％，较LGB模型提升了近30％。综上分析，本发明提出的IUMC-LGB模型的计算效率和计算精确度均较本实验采用的其他模型均有显著提高，且IUMC-LGB模型的每月平均绝对百分比误差均小于2.5％，具有优秀的泛化性能。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明权利要求所限定的范围。

Claims (3)

1.一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，其特征在于：包括以下步骤：

步骤1、对采集到的工业用户负荷数据利用工业用户形态聚类算法(Industrial UserMorphological Clustering，即IUMC)进行形态聚类，具体方法为：

步骤1.1、数据预处理；针对工业用户负荷数据进行数据预处理，剔除缺失值大于数据总长度十分之一的用户，其他用户的缺失值采用相邻日插值填充，采用箱型图分析方法识别异常值，利用相邻日插值替换异常值；

步骤1.2、识别并分离大负荷企业；将单一企业日均负荷大于所有企业日均负荷γ倍的企业识别为大负荷企业，将大负荷企业数据分离，剩余企业识别为小负荷企业；

步骤1.3、合并弱相关性小负荷企业；计算小负荷企业负荷数据的皮尔逊相关系数，设弱相关性阈值为δ₁，用户中与其他所有用户的相关系数最大值小于δ₁的用户被识别为弱相关性企业，将弱相关性企业负荷按时间节点作和处理作为一个用户特殊处理；

步骤1.4、确定初始形态聚类中心；

步骤1.5、完善用户形态聚类，遍历含有大负荷企业用户和弱相关性小负荷企业合并后用户的所有负荷数据，计算各企业与各形态聚类中心的相关系数，选取企业与各形态聚类中心相关系数最大值所对应的形态聚类中心，然后将该企业加入该形态聚类中心，重新计算各类的负荷数据均值作为新的形态聚类中心；

步骤1.6、完善形态聚类中心，计算各形态聚类中心相关系数，设类间相关性阈值为δ₂，将类间相关系数大于δ₂的类别合并为一类，新类的形态聚类中心为合并后类内各企业的负荷均值，若类间相关系数均小于δ₂，则不作处理直接执行步骤1.8；

步骤1.7、重复执行步骤1.6直至各形态聚类中心相关系数均小于δ₂；

步骤1.8、重复过程步骤1.5-步骤1.7直至形态聚类中心不再改变；

步骤1.9、计算形态聚类有效性，选出最佳形态聚类数；形态聚类有效性指标公式通过类内相关性公式除以类间相关性公式得到，类内相关性公式为类间相关性公式为聚类有效性指标公式为其中，x_i为第m类的第i家用户，c_m为第m类的形态聚类中心，n_k为第m类的用户数，c_ij为形态聚类中心i与j之间的相关系数，k为总类数；

步骤2、根据形态聚类后各类别用户的负荷特性进行特征工程处理；

步骤3、将经过形态聚类和对应特征工程处理后的各类负荷数据利用其对应的LightGBM模型进行训练以及预测；

步骤4、将形态聚类后各类用户的LightGBM模型预测结果进行模型融合，得到电力系统工业用户短期负荷的最终预测结果。

2.根据权利要求1所述的一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，其特征在于：所述步骤1.4的具体方法为：

步骤1.4.1、计算去除大负荷企业、弱相关性小负荷企业后数据的相关系数，选取相关系数最大值所对应的两个企业作为第一类，筛选与第一类两个企业相关系数均大于0.9的企业加入第一类，计算第一类企业负荷均值作为该类初始形态聚类中心；

步骤1.4.2、选取删除上一类企业相关系数后的各企业相关系数中最大值所对应的两个企业作为新一类，筛选与新一类两个企业相关系数均大于0.9的企业加入新一类，计算新一类企业负荷均值作为该类初始形态聚类中心；

步骤1.4.3、循环步骤1.4.2直至类数达到设定的K_max，然后将分离出的单家大负荷企业用户、弱相关性小企业合并后的用户均单独作为一类加入数据和形态聚类中心中，如大负荷企业用户数为N，则此时类数和初始形态聚类中心数为(K_max+N+1)。

3.根据权利要求1所述的一种基于形态聚类和LightGBM的工业用户短期负荷预测方法，其特征在于：所述步骤2的具体方法为：

步骤2.1、根据与电力系统历史负荷相对应的日期、天气、节假日数据构建其初步特征；

步骤2.2、构建各类用户特征线性相关性的热力图，热力图中线性相关性大于0.9的特征组只保留方差最大的特征，其余特征删除；

步骤2.3、利用互信息法计算各类数据的负荷变量和特征变量的相关性，删除相关性小于0.2的特征；

步骤2.4、利用LightGBM模型自带的特征重要性打分算法实现各类用户特征重要性的分析，保留重要特征，删除重要性得分小于0.5的特征。