CN116108742A - 基于改进gru-np模型的低压台区超短期负荷预测方法及系统 - Google Patents
基于改进gru-np模型的低压台区超短期负荷预测方法及系统 Download PDFInfo
- Publication number
- CN116108742A CN116108742A CN202211595583.8A CN202211595583A CN116108742A CN 116108742 A CN116108742 A CN 116108742A CN 202211595583 A CN202211595583 A CN 202211595583A CN 116108742 A CN116108742 A CN 116108742A
- Authority
- CN
- China
- Prior art keywords
- model
- gru
- data
- load
- improved
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000012549 training Methods 0.000 claims abstract description 39
- 238000004140 cleaning Methods 0.000 claims abstract description 10
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 9
- 238000012360 testing method Methods 0.000 claims abstract description 6
- 238000010219 correlation analysis Methods 0.000 claims abstract description 5
- 238000002474 experimental method Methods 0.000 claims abstract description 5
- 238000012545 processing Methods 0.000 claims description 24
- 238000005457 optimization Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 18
- 238000010606 normalization Methods 0.000 claims description 12
- 230000006870 function Effects 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 8
- 230000006872 improvement Effects 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 5
- 230000002159 abnormal effect Effects 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 8
- 230000008901 benefit Effects 0.000 description 8
- 230000000306 recurrent effect Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000001276 controlling effect Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000001932 seasonal effect Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/08—Probabilistic or stochastic CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/08—Thermal analysis or thermal optimisation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Business, Economics & Management (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Molecular Biology (AREA)
- Economics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Geometry (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- Water Supply & Treatment (AREA)
- Public Health (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Supply And Distribution Of Alternating Current (AREA)
Abstract
基于改进GRU‑NP模型的低压台区超短期负荷预测方法和系统,首先对原始负荷数据进行数据清洗并引入距离相关系数开展特征相关性分析,剔除相关性较低的特征;然后对数据集进行归一化并按8:2的比例划分为训练集与测试集;搭建基于RMSProp算法优化的GRU和使用Optuna进行超参数寻优的NP模型;之后再使用多层感知机MLP寻找GRU模型、NP模型融合的最佳权重,按最佳权重得到混合模型;将所需预测的数据,载入已训练好的GRU‑NP模型对未来时刻的负荷值进行预测。本发明针对低压台区超短期负荷预测,采用改进GRU‑NP模型对未来15分钟负荷值进行预测,实验表明有效提高低压台区多特征负荷数据预测精度。
Description
技术领域
本发明属于电力环境下的负荷预测领域,具体涉及基于改进GRU-NP(gatedrecurrent unit-Neural Prophet,门控循环单元-神经先知)模型的低压台区超短期负荷预测方法及系统。
背景技术
门控循环神经网络(gated recurrent neural network),是为了更好地捕捉时间序列中时间步距离较大的依赖关系而提出的,它通过可以学习的门来控制信息的流动。其中,门控循环单元(GRU,gated recurrent unit)是一种常用的门控循环神经网络。它引入了重置门(reset gate)和更新门(update gate)的概念,从而修改了循环神经网络中隐藏状态的计算方式。
Neural Prophet,是由Meta公司的核心数据科学团队开发的可分解时间序列预测模型,是一个基于PyTorch实现的用户友好型时间序列预测工具,延续了2018年开源预测工具Prophet的主要功能,主要用于时序数据分析。Neural Prophet由不同的分量组成,例如趋势、季节性、自动回归、其他回归量等,其中三个主要的模型组件为趋势、季节性和节假日。
多层感知机(MLP,Multilayer Perceptron)也叫人工神经网络(ANN,ArtificialNeural Network),除了输入输出层,它中间可以有多个隐层,MLP模型可以使用不同的算法实现。对于混合模型,使用反向传播来实现MLP模型,因为该方法可以使预测结果拥有更高的准确性。
发明内容
为解决现有技术中存在的不足,本发明提供一种基于改进GRU-NP模型的低压台区超短期负荷预测方法及系统,提高低压台区多特征负荷数据预测的精度。
本发明采用如下的技术方案。
基于改进GRU-NP模型的低压台区超短期负荷预测方法,包括以下步骤:
步骤1,对原始数据集进行归一化处理,并计算温度、湿度、降雨量特征与负荷数据的距离相关系数,选取强相关的特征作为外部因素,对负荷数据进行清洗与补全;
步骤2,搭建基于RMSProp优化的GRU模型,使用步骤1得出的负荷数据与强相关的特征数据对模型进行训练,搭建基于Optuna超参数寻优NP模型,使用步骤1得出的负荷数据结合时序特征对NP模型进行训练;
步骤3,使用三层MLP网络寻找GRU模型与NP模型结合的最佳权重,从而得到改进的GRU-NP模型;
步骤4,将步骤2得出的GRU模型和NP模型的预测结果,使用改进的GRU-NP模型进行预测得到未来的负荷值,作为最终预测结果。
优选地,步骤1具体包括:
步骤1.1,对原始数据集进行Min-Max归一化,Min-Max归一化公式如下:
式中,
X表示处理前的数据,
X′表示处理后的数据,
Xmax表示数据的最大值,
Xmin表示数据的最小值;
步骤1.2,引入距离相关系数对原始数据集中温度、湿度、降雨量进行特征相关性分析,利用距离相关系数公式进行计算;
步骤1.3,根据步骤1.2计算得出温度与负荷数据距离相关系数,湿度与负荷数据距离相关系数,降雨量与负荷数据距离相关系数,距离相关系数为0~0.2表示两序列为无相关或弱相关,选取距离相关系数大于0.2的特征作为外部因素参与GRU模型的训练;
步骤1.4,对负荷数据进行数据清洗,填补空缺值、排除异常值。
优选地,步骤1.2中,距离相关系数公式如下所示:
式中,
μ表示负荷数据序列,
v表示温度、湿度、降雨量的特征数据序列,
dcov(μ,v)表示表示μ和v的协方差,
dcorr(μ,v)表示μ和v的距离相关系数。
优选地,步骤2,具体包括:
步骤2.1,对步骤1得到的负荷数据与强相关特征数据按比例划分训练集和测试集;
步骤2.2,搭建基于RMSProp优化的GRU模型,添加Dropout层降低过拟合的风险,每个门控循环单元包括:更新门、重置门;更新门用于控制前一时刻的隐藏状态输出,及当前时刻的隐藏状态输入被带入到当前时刻的隐藏状态的程度;重置门用于控制前一时刻的隐藏状态输出流入当前时刻的候选隐藏状态中;
步骤2.3,设置GRU模型超参数,使用RMSProp算法对GRU模型进行优化;
步骤2.4,将训练集输入基于RMSProp优化的GRU模型进行训练,得到训练好的GRU模型。
优选地,使用RMSProp算法的参数更新过程如下:
更新状态分量st,计算随机梯度gradt的平方项的质数加权移动平均,公式如下所示:
st=γst-1+(1-γ)gradt⊙gradt
式中,
t表示时间步,
γ表示衰减系数,为超参数,取值(0,1),
gradt表示随机梯度,
st-1表示当前时刻状态分量,
St表示前一时刻状态分量;
更新自变量xt,自变量中每个元素的学习率通过按元素运算重新调整,公式如下所示:
式中,
ε表示为了维持数值稳定性而添加的常数,取值10-6,
xt-1表示前一时刻的输入数据,
xt表示当前时刻的输入数据,
lr表示全局学习率。
优选地,步骤2还包括:
步骤2.5,使用Optuna对NP模型进行超参数寻优;选取变更点列表、变更点个数、趋势正则、学习率作为待寻优的超参数列表,滞后阶数通过对比实验选择,最终固定为4;
步骤2.6,采用Optuna寻优后的超参数列表搭建NP模型,公式如下所示:
y(t)=T(t)+S(t)+H(t)+E(t)
式中,
T(t)表示趋势项,S(t)表示季节项,H(t)表示节假日、特殊事件效应,E(t)表示随机误差项;
步骤2.7,将训练集输入NP模型进行训练,得到训练好的NP模型。
优选地,步骤3具体包括:
步骤3.1,构建三层MLP网络,公式如下所示:
f(x)=G(b2+w2*f(w1*X+b1)))
式中,
x表示输入的负荷数据,
f(x)表示输出的预测值,
w1表示第一层隐藏层的权重系数,
w2表示第二层隐藏层的权重系数,
b1表示第一层隐藏层的偏置项,
b2表示第二层隐藏层的偏置项,
f(w1*x+b1)表示第一层隐藏层计算结果,
G表示激活函数,为ReLU激活函数;
步骤3.2,使用MLP网络对步骤2得出的GRU模型和NP模型预测结果进行训练,得到最优权重系数,使用最优权重系数将模型结合得到改进的GRU-NP模型。
基于改进GRU-NP模型的低压台区超短期负荷预测系统,包括:数据处理模块,模型搭建模块,模型改进模块,预测模块,其中:
数据处理模块用于对原始数据集进行归一化处理,并计算温度、湿度、降雨量特征与负荷数据的距离相关系数,选取强相关的特征作为外部因素,对负荷数据进行清洗与补全;
模型搭建模块用于搭建基于RMSProp优化的GRU模型,使用数据处理模块得出的负荷数据与强相关的特征数据对模型进行训练,搭建基于Optuna超参数寻优NP模型,负荷数据结合时序特征对NP模型进行训练;
模型改进模块用于使用三层MLP网络寻找GRU模型与NP模型结合的最佳权重,从而得到改进的GRU-NP模型;
预测模块用于将GRU模型和NP模型的预测结果,使用改进的GRU-NP模型进行预测得到未来一刻钟的负荷值,作为最终预测结果。
一种终端,包括处理器及存储介质;其中:
存储介质用于存储指令;
处理器用于根据所述指令进行操作以执行根据基于改进GRU-NP模型的低压台区超短期负荷预测方法的步骤。
计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现基于改进GRU-NP模型的低压台区超短期负荷预测方法的步骤。
本发明的有益效果在于,与现有技术相比,
本发明改进型GRU-NP模型通过特征工程计算距离相关系数从而去除弱相关特征,引入RMSProp(root mean square prop)、Optuna分别对GRU模型、NP模型进行优化,并通过多层感知机寻找融合的最佳权重结合了GRU模型的温度特征优势以及NP模型的时序、季节、节假日影响分量,有效的提高了低压台区超短期负荷预测的精度。
本发明与传统神经网络(GRU、LSTM、BP)相比,混合模型具有其不具备的时序特征,与Prophet模型(NP模型的前代)相比,引入自回归网络提高了预测精度,与单NP模型相比具有温度特征。此外通过引入Optuna对NP模型超参数进行寻优,使得模预测精度更高。
附图说明
图1为本发明基于改进GRU-NP模型的低压台区超短期负荷预测方法流程图;
图2为温度与负荷数据关系图;
图3为改进型GRU-NP模型预测结果与真实值对比图;
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明的技术方案进行清楚、完整地描述。本申请所描述的实施例仅仅是本发明一部分的实施例,而不是全部实施例。基于本发明精神,本领域普通技术人员在没有作出创造性劳动前提下所获得的有所其它实施例,都属于本发明的保护范围。
本文所用数据集为2016年电工数学建模竞赛A题中的真实负荷数据集,时间范围从2012年1月1日到2013年12月31日,每15分钟间隔采样的负荷数据,一共有约3.5万个时刻的负荷值,首先对数据进行预处理,然后进行特征工程去除弱相关特征,以Time step为4构造训练集与测试值。然后分别构造了4特征GRU模型以及NP模型,采用MSE、RMSE、MAE、R2作为评价指标,模型训练结果表明,4特征GRU模型、NP模型表现并不好,因此本文提出基于改进GRU-NP模型的低压台区超短期负荷预测方法,计算距离相关系数进行相关性分析,并引入RMSProp、Optuna分别对GRU模型、NP模型进行优化,最后通过多层感知机分配最佳权重的方式将两种模型的优势结合起来。
实施例1。
基于改进GRU-NP模型的低压台区超短期负荷预测方法,如图1所示,具体操作步骤如下:
步骤1,对原始数据集进行归一化处理,并计算温度、湿度、降雨量特征与负荷数据的距离相关系数,选取强相关的特征作为外部因素,然后对负荷数据进行清洗与补全。
步骤1.1,对原始数据集进行Min-Max归一化,消除量纲影响,并使模型训练梯度下降更快,Min-Max归一化公式如下:
式中,X为处理前的数据,X′为处理后的数据,Xmax为数据的最大值,Xmin为数据的最小值;
步骤1.2,引入距离相关系数替代皮尔逊相关系数对原始数据集中温度、湿度、降雨量进行特征相关性分析,克服了皮尔逊相关系数即便为0也不一定表示两个变量之间是独立的弱点,距离相关系数公式如下:
式中,
μ表示负荷数据序列,
v表示温度、湿度、降雨量的特征数据序列,
dcov(μ,v)表示表示μ和v的协方差,
dcorr(μ,v)表示μ和v的距离相关系数。
步骤1.3,如表1所示,计算得出温度与负荷数据距离相关系数dcorrt为0.6951,温度与负荷数据关系如图2所示,湿度与负荷数据距离相关系数dcorrh为0.1827,降雨量与负荷数据距离相关系数dcorrr为0.1159,相关系数为0~0.2可认为两序列为无相关或弱相关,因此选取距离相关系数大于0.2的特征温度作为外部因素参与GRU模型的训练;
表1三种特征与负荷数据的距离相关系数
步骤1.4,对负荷数据进行数据清洗,填补空缺值、排除异常值。
步骤2,搭建基于RMSProp优化的GRU模型,使用步骤1得出的负荷数据与温度因素相互结合的方式对模型进行训练,搭建基于Optuna超参数寻优NP模型,使用步骤1得出的负荷数据与时序特征对模型进行训练。更新NP模型内部权重参数,得到训练好的NP模型。
其中时序特征包括:年、月、季度、节假日等信息。
步骤2.1,按8:2划分训练集和测试集,按Time step为4、Batch Size为128构建训练批数据;
步骤2.2,搭建基于RMSProp优化的GRU模型,添加Dropout层降低过拟合的风险,每个门控循环单元包括:更新门、重置门;更新门zt,用于控制前一时刻t-1的隐藏状态输出ht-1及当前时刻t的隐藏状态输入xt被带入到当前时刻t的隐藏状态ht的程度,重置门rt,用于控制前一时刻t-1的隐藏状态输出ht-1有多少流入当前时刻t的候选隐藏状态中;
步骤2.3,设置GRU模型超参数,使用RMSProp算法对GRU模型进行优化;RMSProp算法是一种自适应学习率方法,采用指数加权移动平均,解决在迭代后期由于学习率过小难以趋近最优解的问题,引入RMSProp算法的参数更新过程如下:
更新状态分量st,即计算随机梯度gradt的平方项的质数加权移动平均,公式描述如下:
st=γst-1+(1-γ)gradt⊙gradt
式中,
t表示时间步,
γ表示衰减系数,为超参数,取值(0,1),
gradt表示随机梯度,
st-1表示当前时刻状态分量,
st表示前一时刻状态分量。
更新自变量xt,自变量中每个元素的学习率通过按元素运算重新调整,公式描述如下:
式中,
ε表示为了维持数值稳定性而添加的常数,取值10-6,
xt-1表示前一时刻的输入数据,
xt表示当前时刻的输入数据,
lr表示全局学习率。
步骤2.4,将训练集输入基于RMSProp优化的GRU模型进行训练,得到训练好的模型MODEL_GRU,更新了模型内部的权重参数w;
步骤2.5,使用Optuna对NP模型进行超参数列表寻优;选取变更点列表(changepoints)、变更点个数(n_changepoints)、趋势正则(trend_reg)、学习率(learning_rate)作为待寻优的超参数列表,滞后阶数(n_lags)通过对比实验选择,最终固定为4;其中,对比实验是指选取不同的滞后阶数(n_lags),对比R2值,mae,mse,mape这些评价指标得出。
步骤2.6,采用Optuna寻优后的超参数列表搭建NP模型;NP模型由多个模块组成,公式描述为:
y(t)=T(t)+S(t)+H(t)+E(t)
式中,
y(t)表示NP模型的输出,
T(t)表示趋势项,S(t)表示季节项,H(t)表示节假日、特殊事件效应,E(t)表示随机误差项;
步骤2.7,将训练集输入NP模型进行训练,更新权重,得到训练好的模型MODEL_NP;
步骤3,使用三层MLP网络寻找GRU模型与NP模型结合的最佳权重,然后按最佳权重得到混合模型,
步骤3.1,构建多层感知机(MLP)网络,由多层全连接层构成,本混合模型使用三层MLP,公式描述为:
f(x)=G(b2+w2*f(w1*x+b1)))
式中,
x表示输入的负荷数据,
f(x)表示输出的预测值,
w1表示第一层隐藏层的权重系数
w2表示第二层隐藏层的权重系数,
b1表示第一层隐藏层的偏置项,
b2表示第二层隐藏层的偏置项,
f(w1*x+b1)表示第一层隐藏层计算结果,
G表示激活函数,为ReLU激活函数,
f表示第一层激活函数,为神经元引入非线性因素,使神经网络可以逼近非线性函数,选用ReLU激活函数;
步骤3.2,使用MLP网络对步骤2得出的GRU模型和NP模型预测结果进行训练,得到最优权重系数,使用最优权重系数将模型结合得到改进的GRU-NP模型用于负荷预测。
步骤4,将将步骤2得出的GRU模型和NP模型的预测结果,输入改进的GRU-NP模型进行预测得到未来一刻钟的负荷值,作为最终预测结果。预测结果如图3所示。
本实施例优选地,对GRU模型和NP模型的预测结果,按8:2划分训练集和测试集。
定量的从均方误差(MSE)、均方根误差(RMSE)、平均绝对误差(MAE)、R2分数四个评价指标来分析。
实施例2。
基于改进GRU-NP模型的低压台区超短期负荷预测系统,包括:数据处理模块,模型搭建模块,模型改进模块,预测模块,其中:
数据处理模块用于对原始数据集进行归一化处理,并计算温度、湿度、降雨量特征与负荷数据的距离相关系数,选取强相关的特征作为外部因素,对负荷数据进行清洗与补全;
模型搭建模块用于搭建基于RMSProp优化的GRU模型,使用数据处理模块得出的负荷数据与强相关的特征数据对模型进行训练,搭建基于Optuna超参数寻优NP模型,负荷数据结合时序特征对NP模型进行训练;
模型改进模块用于使用三层MLP网络寻找GRU模型与NP模型结合的最佳权重,从而得到改进的GRU-NP模型;
预测模块用于将GRU模型和NP模型的预测结果,使用改进的GRU-NP模型进行预测得到未来一刻钟的负荷值,作为最终预测结果。
实施例3。
本发明实施例3提供了一种计算机可读存储介质。
一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如本发明实施例一所述的基于基于改进GRU-NP模型的低压台区超短期负荷预测中的步骤。
详细步骤与实施例1提供的基于基于改进GRU-NP模型的低压台区超短期负荷预测方法相同,在此不再赘述。
实施例4。
本发明实施例4提供了一种电子设备。
一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现如本发明实施例1所述的基于改进GRU-NP模型的低压台区超短期负荷预测方法中的步骤。
详细步骤与实施例1提供的基于改进GRU-NP模型的低压台区超短期负荷预测方法相同,在此不再赘述。
本发明的有益效果在于,与现有技术相比,
本发明改进型GRU-NP模型通过特征工程计算距离相关系数从而去除弱相关特征,引入RMSProp(root mean square prop)、Optuna分别对GRU模型、NP模型进行优化,并通过多层感知机寻找融合的最佳权重结合了GRU模型的温度特征优势以及NP模型的时序、季节、节假日影响分量,有效的提高了低压台区超短期负荷预测的精度。
本发明与传统神经网络(GRU、LSTM、BP)相比,混合模型具有其不具备的时序特征,与Prophet模型(NP模型的前代)相比,引入自回归网络提高了预测精度,与单NP模型相比具有温度特征。此外通过引入Optuna对NP模型超参数进行寻优,使得模预测精度更高。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其它自由传播的电磁波、通过波导或其它传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
最后应当说明的是,以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照上述实施例对本发明进行了详细的说明,所属领域的普通技术人员应当理解:依然可以对本发明的具体实施方式进行修改或者等同替换,而未脱离本发明精神和范围的任何修改或者等同替换,其均应涵盖在本发明的权利要求保护范围之内。
Claims (10)
1.基于改进GRU-NP模型的低压台区超短期负荷预测方法,其特征在于,包括以下步骤:
步骤1,对原始数据集进行归一化处理,并计算温度、湿度、降雨量特征与负荷数据的距离相关系数,选取强相关的特征作为外部因素,对负荷数据进行清洗与补全;
步骤2,搭建基于RMSProp优化的GRU模型,使用步骤1得出的负荷数据与强相关的特征数据对模型进行训练,搭建基于Optuna超参数寻优NP模型,使用步骤1得出的负荷数据结合时序特征对NP模型进行训练;
步骤3,使用三层MLP网络寻找GRU模型与NP模型结合的最佳权重,从而得到改进的GRU-NP模型;
步骤4,将步骤2得出的GRU模型和NP模型的预测结果,使用改进的GRU-NP模型进行预测得到未来的负荷值,作为最终预测结果。
2.根据权利要求1所述的基于改进GRU-NP模型的低压台区超短期负荷预测方法,其特征在于,
步骤1具体包括:
步骤1.1,对原始数据集进行Min-Max归一化,Min-Max归一化公式如下:
式中,
X表示处理前的数据,
X′表示处理后的数据,
Xmax表示数据的最大值,
Xmin表示数据的最小值;
步骤1.2,引入距离相关系数对原始数据集中温度、湿度、降雨量进行特征相关性分析,利用距离相关系数公式进行计算;
步骤1.3,根据步骤1.2计算得出温度与负荷数据距离相关系数,湿度与负荷数据距离相关系数,降雨量与负荷数据距离相关系数,距离相关系数为0~0.2表示两序列为无相关或弱相关,选取距离相关系数大于0.2的特征作为外部因素参与GRU模型的训练;
步骤1.4,对负荷数据进行数据清洗,填补空缺值、排除异常值。
4.根据权利要求3所述的基于改进GRU-NP模型的低压台区超短期负荷预测方法,其特征在于,
步骤2,具体包括:
步骤2.1,对步骤1得到的负荷数据与强相关特征数据按比例划分训练集和测试集;
步骤2.2,搭建基于RMSProp优化的GRU模型,添加Dropout层降低过拟合的风险,每个门控循环单元包括:更新门、重置门;更新门用于控制前一时刻的隐藏状态输出,及当前时刻的隐藏状态输入被带入到当前时刻的隐藏状态的程度;重置门用于控制前一时刻的隐藏状态输出流入当前时刻的候选隐藏状态中;
步骤2.3,设置GRU模型超参数,使用RMSProp算法对GRU模型进行优化;
步骤2.4,将训练集输入基于RMSProp优化的GRU模型进行训练,得到训练好的GRU模型。
5.根据权利要求4所述的基于改进GRU-NP模型的低压台区超短期负荷预测方法,其特征在于,
使用RMSProp算法的参数更新过程如下:
更新状态分量st,计算随机梯度gradt的平方项的质数加权移动平均,公式如下所示:
st=γst-1+(1-γ)gradt⊙gradt
式中,
t表示时间步,
γ表示衰减系数,为超参数,取值(0,1),
gradt表示随机梯度,
st-1表示当前时刻状态分量,
St表示前一时刻状态分量;
更新自变量xt,自变量中每个元素的学习率通过按元素运算重新调整,公式如下所示:
式中,
ε表示为了维持数值稳定性而添加的常数,取值10-6,
xt-1表示前一时刻的输入数据,
xt表示当前时刻的输入数据,
lr表示全局学习率。
6.根据权利要求5所述的基于改进GRU-NP模型的低压台区超短期负荷预测方法,其特征在于,
步骤2还包括:
步骤2.5,使用Optuna对NP模型进行超参数寻优;选取变更点列表、变更点个数、趋势正则、学习率作为待寻优的超参数列表,滞后阶数通过对比实验选择,最终固定为4;
步骤2.6,采用Optuna寻优后的超参数列表搭建NP模型,公式如下所示:
y(t)=T(t)+S(t)+H(t)+E(t)
式中,
T(t)表示趋势项,S(t)表示季节项,H(t)表示节假日、特殊事件效应,E(t)表示随机误差项;
步骤2.7,将训练集输入NP模型进行训练,得到训练好的NP模型。
7.根据权利要求6所述的基于改进GRU-NP模型的低压台区超短期负荷预测方法,其特征在于,
步骤3具体包括:
步骤3.1,构建三层MLP网络,公式如下所示:
f(x)=G(b2+w2*f(w1*X+b1)))
式中,
x表示输入的负荷数据,
f(x)表示输出的预测值,
w1表示第一层隐藏层的权重系数,
w2表示第二层隐藏层的权重系数,
b1表示第一层隐藏层的偏置项,
b2表示第二层隐藏层的偏置项,
f(w1*x+b1)表示第一层隐藏层计算结果,
G表示激活函数,为ReLU激活函数;
步骤3.2,使用MLP网络对步骤2得出的GRU模型和NP模型预测结果进行训练,得到最优权重系数,使用最优权重系数将模型结合得到改进的GRU-NP模型。
8.一种利用权利要求1-7任一项权利要求所述方法的基于改进GRU-NP模型的低压台区超短期负荷预测系统,包括:数据处理模块,模型搭建模块,模型改进模块,预测模块,其特征在于:
数据处理模块用于对原始数据集进行归一化处理,并计算温度、湿度、降雨量特征与负荷数据的距离相关系数,选取强相关的特征作为外部因素,对负荷数据进行清洗与补全;
模型搭建模块用于搭建基于RMSProp优化的GRU模型,使用数据处理模块得出的负荷数据与强相关的特征数据对模型进行训练,搭建基于Optuna超参数寻优NP模型,负荷数据结合时序特征对NP模型进行训练;
模型改进模块用于使用三层MLP网络寻找GRU模型与NP模型结合的最佳权重,从而得到改进的GRU-NP模型;
预测模块用于将GRU模型和NP模型的预测结果,使用改进的GRU-NP模型进行预测得到未来一刻钟的负荷值,作为最终预测结果。
9.一种终端,包括处理器及存储介质;其特征在于:
所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行根据权利要求1-7任一项所述基于改进GRU-NP模型的低压台区超短期负荷预测方法的步骤。
10.计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-7任一项所述基于改进GRU-NP模型的低压台区超短期负荷预测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211595583.8A CN116108742A (zh) | 2022-12-13 | 2022-12-13 | 基于改进gru-np模型的低压台区超短期负荷预测方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211595583.8A CN116108742A (zh) | 2022-12-13 | 2022-12-13 | 基于改进gru-np模型的低压台区超短期负荷预测方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116108742A true CN116108742A (zh) | 2023-05-12 |
Family
ID=86258841
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211595583.8A Pending CN116108742A (zh) | 2022-12-13 | 2022-12-13 | 基于改进gru-np模型的低压台区超短期负荷预测方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116108742A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116628473A (zh) * | 2023-05-17 | 2023-08-22 | 国网上海市电力公司 | 一种基于多因子神经网络算法的电力设备状态趋势预测方法 |
CN116667326A (zh) * | 2023-05-30 | 2023-08-29 | 淮阴工学院 | 一种电动汽车充电负荷预测方法 |
-
2022
- 2022-12-13 CN CN202211595583.8A patent/CN116108742A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116628473A (zh) * | 2023-05-17 | 2023-08-22 | 国网上海市电力公司 | 一种基于多因子神经网络算法的电力设备状态趋势预测方法 |
CN116667326A (zh) * | 2023-05-30 | 2023-08-29 | 淮阴工学院 | 一种电动汽车充电负荷预测方法 |
CN116667326B (zh) * | 2023-05-30 | 2024-02-23 | 淮阴工学院 | 一种电动汽车充电负荷预测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Sangiorgio et al. | Robustness of LSTM neural networks for multi-step forecasting of chaotic time series | |
CN111970163B (zh) | 一种基于注意力机制的lstm模型的网络流量预测方法 | |
CN111563706A (zh) | 一种基于lstm网络的多变量物流货运量预测方法 | |
CN116108742A (zh) | 基于改进gru-np模型的低压台区超短期负荷预测方法及系统 | |
TW201947510A (zh) | 保險業務風險預測的處理方法、裝置及處理設備 | |
CN110910004A (zh) | 一种多重不确定性的水库调度规则提取方法及系统 | |
CN109063939A (zh) | 一种基于邻域门长短期记忆网络的风速预测方法及系统 | |
Ayvaz et al. | An integrated LSTM neural networks approach to sustainable balanced scorecard-based early warning system | |
WO2022246843A1 (zh) | 软件项目的风险评估方法、装置、计算机设备、存储介质 | |
Laaroussi et al. | Deep learning framework for forecasting tourism demand | |
Lungu et al. | PREDICTION INTELLIGENT SYSTEM IN THE FIELD OF RENEWABLE ENERGIES THROUGH NEURAL NETWORKS. | |
Girimurugan et al. | Application of Deep Learning to the Prediction of Solar Irradiance through Missing Data | |
AU2021106200A4 (en) | Wind power probability prediction method based on quantile regression | |
CN116303786B (zh) | 一种基于多维数据融合算法的区块链金融大数据管理系统 | |
CN117394350A (zh) | 短期电力负荷预测方法、装置、设备及介质 | |
Singhania et al. | Forecasting the United States unemployment rate by using recurrent neural networks with Google Trends data | |
Osorio et al. | Distributed evolutionary algorithms with adaptive migration period | |
CN115392441A (zh) | 量化神经网络模型的片内适配方法、装置、设备及介质 | |
Lian et al. | A fuel sales forecast method based on variational Bayesian structural time series | |
Loseva et al. | Ensembles of neural networks with application of multi-objective self-configurable genetic programming | |
Gaber et al. | Hourly electricity price prediction applying deep learning for electricity market management | |
CN111931994A (zh) | 一种短期负荷及光伏功率预测方法及其系统、设备、介质 | |
CN112183814A (zh) | 一种短期风速预测方法 | |
Basterrech et al. | Solar irradiance estimation using the echo state network and the flexible neural tree | |
Kalinina et al. | Construction of Forecast Models based on Bayesian Structural Time Series |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |