CN108197751A - 基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法 - Google Patents
基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法 Download PDFInfo
- Publication number
- CN108197751A CN108197751A CN201810064305.7A CN201810064305A CN108197751A CN 108197751 A CN108197751 A CN 108197751A CN 201810064305 A CN201810064305 A CN 201810064305A CN 108197751 A CN108197751 A CN 108197751A
- Authority
- CN
- China
- Prior art keywords
- gru
- multilayer
- seq2seq
- data
- methods based
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013277 forecasting method Methods 0.000 title claims abstract description 13
- 238000000034 method Methods 0.000 claims abstract description 37
- 238000012549 training Methods 0.000 claims abstract description 30
- 230000008569 process Effects 0.000 claims abstract description 16
- 230000004913 activation Effects 0.000 claims abstract description 15
- 244000157795 Cordia myxa Species 0.000 claims abstract description 11
- 235000004257 Cordia myxa Nutrition 0.000 claims abstract description 11
- 238000013528 artificial neural network Methods 0.000 claims abstract description 11
- 210000002569 neuron Anatomy 0.000 claims abstract description 4
- 239000000284 extract Substances 0.000 claims abstract description 3
- 238000012360 testing method Methods 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 7
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims 1
- 230000006870 function Effects 0.000 description 7
- 230000013016 learning Effects 0.000 description 5
- 230000005611 electricity Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000009412 basement excavation Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000013213 extrapolation Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000000611 regression analysis Methods 0.000 description 2
- 240000002853 Nelumbo nucifera Species 0.000 description 1
- 235000006508 Nelumbo nucifera Nutrition 0.000 description 1
- 235000006510 Nelumbo pentapetala Nutrition 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000010921 in-depth analysis Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000011112 process operation Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000003134 recirculating effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001932 seasonal effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000000714 time series forecasting Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Marketing (AREA)
- General Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Water Supply & Treatment (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于多层Bi‑GRU的Seq2seq网络短期电力负荷预测方法，利用FCM方法提取相似日样本并通过Min‑max标准化方法对输入变量进行标准化，以Bi‑GRU神经元为基本单位构建多层次Seq2seq神经网络结构，同时选用SELU激活函数作为整个神经网络的输出层激活函数以减少梯度消失和梯度爆炸，实现整体模型在训练过程中平稳运行。
Description
技术领域
本发明涉及一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法。
背景技术
电力工业中，短期电力负荷预测主要用于安排电力系统发电组合，优化负荷调度。准确的负荷预测是保证电网供需平衡的关键，也是确保电网安全稳定经济运行的重要前提。根据预测结果，发电计划可以得到合理安排，从而能够使系统在安全范围内保持必要的运行费用最小。
传统的短期电力负荷预测法主要有回归分析法、趋势外推法、专家系统法和时间序列法等。其中：趋势外推法和回归分析法主要适用于负荷数据中存在着明显的变化趋势且负荷数据变化比较平稳的情况；专家系统法需要借用专家的主观经验，个体差异较大；时间序列方法则只考虑了负荷本身的自相关关系，而忽视了对负荷影响因素的深入分析。此外，由于短期负荷数据中存在着明显的波动性和随机性，传统的预测方法往往无法做到准确预测。随着机器学习、大数据分析和高效计算技术的发展，目前常用的短期电力负荷预测方法主要有支持向量机、人工神经网络模型等。
近年来，LSTM(Long Short Time Memory,LSTM)等具有循环网络结构的深度学习模型在自然语言处理、图像识别等领域取得了一系列成果，其预测精度和可靠性得到了显著提升。通过引入输入门、遗忘门和输出门，LSTM减轻了传统RNN在长时间序列中的梯度消失问题，从而在序列预测领域中得到应用。此外，LSTM模型也广泛应用于能源需求预测中，Daniel M，Kasun A和Milos M比较了标准LSTM模型与基于LSTM的Seq2seq网络的短期电力负荷预测精度。Zheng H T，Yuan J B和Chen L给出了一个通用的框架，其将相似日选择、经验模式分解和LSTM模型相结合来进行预测短期负荷。GRU模型于2014年提出。已有研究结果显示，GRU的性能与LSTM相当，但计算效率更高，参数更少。但上述算法都存在预测精度低、过程复杂的缺点。
发明内容
本发明为了解决上述问题，提出了一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，本发明能够提高预测精度。
为了实现上述目的，本发明采用如下技术方案：
一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，利用FCM方法提取相似日样本并通过Min-max标准化方法对输入变量进行标准化，以Bi-GRU神经元为基本单位构建多层次Seq2seq神经网络结构，同时选用SELU激活函数作为整个神经网络的输出层激活函数以减少梯度消失和梯度爆炸，实现整体模型在训练过程中平稳运行。
进一步的，使用FCM计算样本在不同簇中的隶属度，根据隶属度水平对样本进行分类，分到同类的样本可以被归类为具有相似水平较高的样本。
进一步的，将已经分类完毕的数据划分为训练集数据和测试集数据，对数据运用Min-max方法标准化。
使用Min-max方法来对输入数据进行标准化，标准化的范围为[0,1]。
使用多层Bi-GRU的Seq2seq网络模型对标准化后的训练数据进行训练，并把标准化后的测试集数据带入训练完毕的模型中进行预测，然后反向变化后得出最终预测结果。
训练过程中，使用随机梯度下降法对模型的参数进行优化。
进一步的，多层Bi-GRU的Seq2seq网络模型结构包括编码端部分和解码端部分，编码端由多层Bi-GRU组成，对输入数据进行编码，并在网络的末端输出编码后的最终状态；解码端则由单层GRU组成，接受来自编码段的最终状态作为初始输入状态，同时以每一步的输出值作为下一步的输入值。
与现有技术相比，本发明的有益效果为：
本发明在引入了Bi-GRU单元的同时，用Seq2seq结构网络对数据进行学习挖掘。此外，SELU激活函数的引入也使整个网络的训练过程能够平稳进行，提高了模型的学习效率和预测水平。与结构相对简单的GRU模型相比，多层Bi-GRU的Seq2seq模型具有更好的鲁棒性和预测准度。从实际应用来看，模型还可以应用于供热预测和新能源发电预测等多领域中。
附图说明
构成本申请的一部分的说明书附图用来提供对本申请的进一步理解，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。
图1为GRU结构示意图；
图2为Bi-GRU结构示意图；
图3为多层Bi-GRU的Seq2seq网络结构示意图；
图4为多层Bi-GRU的Seq2seq网络模型预测过程示意图；
图5为不同模型的训练误差结果；
图6为不同模型的负荷预测结果；
具体实施方式：
下面结合附图与实施例对本发明作进一步说明。
应该指出，以下详细说明都是例示性的，旨在对本申请提供进一步的说明。除非另有指明，本发明使用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
在本发明中，术语如“上”、“下”、“左”、“右”、“前”、“后”、“竖直”、“水平”、“侧”、“底”等指示的方位或位置关系为基于附图所示的方位或位置关系，只是为了便于叙述本发明各部件或元件结构关系而确定的关系词，并非特指本发明中任一部件或元件，不能理解为对本发明的限制。
本发明中，术语如“固接”、“相连”、“连接”等应做广义理解，表示可以是固定连接，也可以是一体地连接或可拆卸连接；可以是直接相连，也可以通过中间媒介间接相连。对于本领域的相关科研或技术人员，可以根据具体情况确定上述术语在本发明中的具体含义，不能理解为对本发明的限制。
本发明提出了多层Bi-GRU的Seq2seq网络短期电力负荷预测模型。该模型首先运用FCM方法提取相似日样本并通过Min-max标准化方法对输入变量进行标准化。其次，以Bi-GRU神经元为基本单位构建多层次Seq2seq神经网络结构，同时选用SELU激活函数作为整个神经网络的输出层激活函数以减少梯度消失和梯度爆炸，确保整体模型在训练过程中平稳运行。模型应用于山东省某地区2016年9月1日至2017年5月31日15分钟电力负荷进行训练，并对未来一定时间段内的电力负荷进行预测。结果表明，本方法与简单GRU网络模型和基于单层GRU的Seq2seq网络模型相比，预测精度得到提高。
相似日数据提取
选取FCM提取相似日数据。与K-means算法相比，在FCM中，某个数据不仅局限于某一个特定的簇，而是可以根据不同的隶属度分别隶属于多个簇。给定含有n个元素的数据集X＝{x1,x2,x3,…,xn}，其需要被分解成c个模糊簇，那么FCM就是要最小化目标函数：
其中：m是任意大于1的实数；uij是xi隶属于第j个簇的隶属度；xi是集合X中第i个元素，其维度为d维；cj是第j个簇的中心；||…||是计算数据与簇中心距离的算法。
这里，FCM是通过对上述目标函数进行不断的迭代优化隶属度uij和簇中心cj来完成的，迭代表达式为：
令ε为迭代过程的阈值，当满足时，迭代过程结束。上述过程被认为收敛到局部最小值点J。文中阈值设置为ε＝0.5，类别设置为c＝5。
相似日数据提取
由于输入数据的不同维度之间存在量纲差异，会影响模型训练和预测的效果，因此使用Min-max方法被用来对输入数据进行标准化，标准化的范围为[0,1]，表达式如下所示:
GRU是门控制循环神经网络的一种，于2014年被Junyoung Chung等提出。与LSTM相比，GRU在具备相同数据挖掘能力的同时，实现了门控制结构的改进，其将LSTM中的输入门和遗忘门合并为zt门(Update Gate)，同时用rt门(Reset Gate)代替了LSTM的输出门。其中：zt决定了模型对新输入信息和历史信息的整合，rt则决定了上一步的状态信息进入模型的比例。由于门的数量由3个变成2个，因此训练参数得到了降低，从而提升了训练的速度。GRU的结构如图1所示。
zt＝σsig(Wzst-1+Uzxt+bz)
rt＝σsig(Wrst-1+Urxt+br)
其中：⊙代表元素乘积公式；Wz,Wr分别是zt和rt门的权重矩阵；Ws是输出状态的权重矩阵；xt是t时刻的输入数据；和st是t时刻的候选状态和输出状态；bs，br和bz是常数。σsig和φtanh分别是sigmoid与tanh激活函数，分别用来激活控制门和候选状态。sigmoid和tanh函数的表达式为：
tanh(x)＝2*sig(x)-1
可以看出：当所有的rt都设置为1并且zt设置为0时，GRU就退化成一个简单的RNN模型了。
Bi-RNN(Bidirectional RecurrentNeural Networks，Bi-RNN)的主要特点是增加了神经网络对未来信息的学习功能，从而克服了传统RNN仅能处理历史信息的缺陷。Bi-RNN的基本结构主要是把一个普通的RNN拆成两个方向，一个按照序列顺时向前，另一个逆时序反向，但是两个RNN连接同一个输出层。这样的结构能够提供给输出层输入序列的完整上下文信息。用Bi-GRU来建模短期电力负荷预测就是要求输入的历史数据同时进入一个正向的GRU和一个反向的GRU，从而捕获一个完整时间序列的上下文信息。
由于每日的电力负荷具有一定的规律性，因此当以日为单位输入历史负荷信息时，对历史和未来信息的共同把握，能够更好地学习到负荷曲线的特性和规律。Bi-GRU的结构如图2所示。
多层Bi-GRU的Seq2seq网络模型
电力负荷数据是一种具有较强季节性因素的时间序列数据，其受到历史用电负荷、气温、湿度、风速、降雨量以及日期类型的影响。因此，电力负荷数据同时具有长期趋势性和短期波动性的特点。令yt和xt分别t时刻的模型输出和输入，其中，xt可以被表示为：xt＝[气温t,湿度t,风速t,降雨量t,日期t]。
为了能够进一步提高电力负荷预测模型的准确性和鲁棒性，将多层Bi-GRU结构建立在Seq2seq网络基础上，构建出多层Bi-GRU的Seq2seq网络结构。这样既可以学习到输入数据的各影响因素对电力负荷的影响，也可以通过Seq2seq结构学习到不同时刻负荷之间的时间序列关系。
多层Bi-GRU的Seq2seq网络结构如图3所示，主要由两组GRU网络组成：编码端(Encoder)部分和解码端(Decoder)部分。其中：编码端由多层Bi-GRU组成，它的作用主要是用来对输入数据进行编码，并在网络的末端输出编码后的最终状态；解码端则由单层GRU组成，它接受来自编码段的最终状态作为初始输入状态，同时以每一步的输出值作为下一步的输入值。这里，选择Seq2seq结构的模型作为短期电力负荷预测的主要原因是：(1)Seq2seq的编码端可以接受长度变化的输入数据，模型在接受输入数据时更加灵活；(2)由于解码端的输出数据作为下一步数据重新输入解码端，因此模型在训练过程中能够更好地学习到数据之间的时序关系，从而具有较强的鲁棒性。
最后，模型在输出层使用了SELU激活函数，主要是为了利用该激活函数的自归一化属性，进一步避免梯度消失和梯度爆炸问题。SELU函数的函数表达式如下所示：
λ＝1.0507009873554804934193349852946
α＝1.6732632423543772848170429916717
根据Gunter K，SELU激活函数具有如下特点：(1)能够训练许多层深度神经网络；(2)采用强正则化；(3)模型的学习更具鲁棒性。
最小化误差方法
训练过程中，使用随机梯度下降法(Stochastic Gradient Descent,SGD)对模型的参数进行优化，最小化的目标函数表示为：
这里的SGD对参数的更新过程主要是：
Δθt＝-ηgt
其中，θ为待优化的参数，η是学习率，gt是SGD完全依赖于当前batch的梯度。此外，由于模型的输出层使用了SELU激活函数，因此无需增加任何梯度裁剪和正则化方法。
运用多层Bi-GRU的Seq2seq网络模型进行短期电力负荷预测主要遵循以下三个步骤：
1、相似日选择。使用FCM计算样本在不同簇中的隶属度，根据隶属度水平对样本进行分类。分到同类的样本可以被归类为具有相似水平较高的样本。
2、数据标准化。将已经分类完毕的数据划分为训练集数据和测试集数据，对数据运用Min-max方法标准化至[0,1]内。
3、模型训练和预测。使用多层Bi-GRU的Seq2seq网络模型对标准化后的训练数据进行训练，并把标准化后的测试集数据带入训练完毕的模型中进行预测，然后反向变化后得出最终预测结果。
整个过程如图4所示。
模型应用于山东省日照市莒南地区短期电力负荷预测，训练集数据取值范围为2016年9月1日至2017年5月31日，预测区间为自训练日结束后的6小时内。所选取的数据周期为15分钟电力负荷，输入数据为气温、湿度、风速、降雨量以及日期类型。其中：日期类型的取值原则是，1为工作日，0为节假日。
使用Tensorflow构建模型。这里，编码端网络由3层Bi-GRU构成；解码端网络由单层GRU网络构成；输出层要经过SELU激活函数完成输出；训练集和测试集的时间步长设置为96，即24小时的15分钟均分数；训练集的batch_size设置为10，测试集的batch_size为1；学习速率设置为0.001。选择均方根误差RMSRE(Root Mean Square Error，RMSE)作为衡量预测值和实际值的标准：
其中，yi表示实际值,表示预测值。
使用简单GRU网络模型、基于单层GRU的Seq2seq网络模型和多层Bi-GRU的Seq2seq网络模型分别对相同的训练数据进行训练。这里，所有的模型都使用了FCM方法对数据进行了相似日提取，并且使用了Min-max方法对相似日数据进行了[0,1]变换。图5给出了简单GRU、单层GRU的Seq2seq以及3层Bi-GRU的Seq2seq模型训练的误差变化过程。可以看出，在经过500轮训练后，简单GRU模型的误差水平最高，这是由于该模型神经元结构和整体网络结构都较简单，没有实现对数据的深度挖掘。而受益于时序预测结构，单层GRU的Seq2seq模型误差低于简单GRU模型，但由于其没有挖掘数据上下文的能力，同时模型层数较少，因此误差水平高于3层Bi-GRU的Seq2seq模型。
表1给出了各个模型在测试区间的预测结果：3层Bi-GRU的Seq2seq模型表现明显好于其他两个模型。通过对测试集的误差进行计算，3层Bi-GRU的Seq2seq模型误差为2.89％，与简单GRU模型和单层GRU的Seq2seq模型相比，误差降低了0.87％和0.68％。此外，使用了Seq2seq结构的模型误差均有明显下降。这主要是因为在训练过程中，Seq2seq结构的网络能够挖掘出数据的时序关系，从而具有较强的鲁棒性。
表1未来6小时测试集误差比较(％)
最后，图6给出了三种模型各自对短期电力负荷预测值的比较。
本发明给出了多层Bi-GRU的Seq2seq短期电力负荷预测模型。模型的核心内容主要是在引入了Bi-GRU单元的同时，用Seq2seq结构网络对数据进行学习挖掘。此外，SELU激活函数的引入也使整个网络的训练过程能够平稳进行，提高了模型的学习效率和预测水平。算例分析进一步显示了与结构相对简单的GRU模型相比，多层Bi-GRU的Seq2seq模型具有更好的鲁棒性和预测准度。从实际应用来看，模型还可以应用于供热预测和新能源发电预测等多领域中。
以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。
上述虽然结合附图对本发明的具体实施方式进行了描述，但并非对本发明保护范围的限制，所属领域技术人员应该明白，在本发明的技术方案的基础上，本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。
Claims (7)
1.一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：利用FCM方法提取相似日样本并通过Min-max标准化方法对输入变量进行标准化，以Bi-GRU神经元为基本单位构建多层次Seq2seq神经网络结构，同时选用SELU激活函数作为整个神经网络的输出层激活函数以减少梯度消失和梯度爆炸，实现整体模型在训练过程中平稳运行。
2.如权利要求1所述的一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：使用FCM计算样本在不同簇中的隶属度，根据隶属度水平对样本进行分类，分到同类的样本可以被归类为具有相似水平较高的样本。
3.如权利要求1所述的一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：将已经分类完毕的数据划分为训练集数据和测试集数据，对数据运用Min-max方法标准化。
4.如权利要求1所述的一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：使用Min-max方法对输入数据进行标准化，标准化的范围为[0,1]。
5.如权利要求1所述的一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：使用多层Bi-GRU的Seq2seq网络模型对标准化后的训练数据进行训练，并把标准化后的测试集数据带入训练完毕的模型中进行预测，然后反向变化后得出最终预测结果。
6.如权利要求1所述的一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：训练过程中，使用随机梯度下降法对模型的参数进行优化。
7.如权利要求1所述的一种基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法，其特征是：多层Bi-GRU的Seq2seq网络模型结构包括编码端部分和解码端部分，编码端由多层Bi-GRU组成，对输入数据进行编码，并在网络的末端输出编码后的最终状态；解码端则由单层GRU组成，接受来自编码段的最终状态作为初始输入状态，同时以每一步的输出值作为下一步的输入值。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810064305.7A CN108197751A (zh) | 2018-01-23 | 2018-01-23 | 基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810064305.7A CN108197751A (zh) | 2018-01-23 | 2018-01-23 | 基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108197751A true CN108197751A (zh) | 2018-06-22 |
Family
ID=62590427
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810064305.7A Pending CN108197751A (zh) | 2018-01-23 | 2018-01-23 | 基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108197751A (zh) |
Cited By (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108921341A (zh) * | 2018-06-26 | 2018-11-30 | 国网山东省电力公司电力科学研究院 | 一种基于门控自编码的热电厂短期热负荷预测方法 |
| CN109088406A (zh) * | 2018-06-26 | 2018-12-25 | 河海大学常州校区 | 一种基于lstm神经网络的微电网等效建模方法 |
| CN109685290A (zh) * | 2019-02-11 | 2019-04-26 | 南方电网科学研究院有限责任公司 | 一种基于深度学习的用电量预测方法、装置及设备 |
| CN109711620A (zh) * | 2018-12-26 | 2019-05-03 | 浙江大学 | 一种基于gru神经网络和迁移学习的短期电力负荷预测方法 |
| CN110210993A (zh) * | 2019-05-22 | 2019-09-06 | 重庆大学 | 基于循环神经网络模型的城市短期燃气负荷预测方法 |
| CN110287583A (zh) * | 2019-06-21 | 2019-09-27 | 上海交通大学 | 基于循环神经网络的工业设备剩余寿命预测方法 |
| CN110580548A (zh) * | 2019-08-30 | 2019-12-17 | 天津大学 | 一种基于类集成学习的多步交通速度预测方法 |
| CN110646350A (zh) * | 2019-08-28 | 2020-01-03 | 深圳和而泰家居在线网络科技有限公司 | 产品分类方法、装置、计算设备及计算机存储介质 |
| CN110728403A (zh) * | 2019-10-11 | 2020-01-24 | 国网江西省电力有限公司经济技术研究院 | 农村中长期电网负荷预测方法 |
| CN110865625A (zh) * | 2018-08-28 | 2020-03-06 | 中国科学院沈阳自动化研究所 | 一种基于时间序列的工艺数据异常检测方法 |
| CN111667377A (zh) * | 2020-04-24 | 2020-09-15 | 南方电网能源发展研究院有限责任公司 | 一种全自动用电量预测方法及其系统 |
| CN112348168A (zh) * | 2020-10-27 | 2021-02-09 | 国网四川省电力公司经济技术研究院 | 考虑数据缺失和特征冗余的超短期负荷预测方法及系统 |
| CN113205182A (zh) * | 2021-07-07 | 2021-08-03 | 华东交通大学 | 一种基于稀疏剪枝方法的实时电力负荷预测系统 |
| CN113344346A (zh) * | 2021-05-25 | 2021-09-03 | 合肥工业大学 | 基于非侵入式负荷分解的用电异常检测方法和系统 |
| CN113690883A (zh) * | 2021-08-18 | 2021-11-23 | 广东电网有限责任公司 | 新能源区域能源需求预测方法、装置、终端设备及介质 |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107578124A (zh) * | 2017-08-28 | 2018-01-12 | 国网山东省电力公司电力科学研究院 | 基于多层改进gru神经网络的短期电力负荷预测方法 |
-
2018
- 2018-01-23 CN CN201810064305.7A patent/CN108197751A/zh active Pending
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107578124A (zh) * | 2017-08-28 | 2018-01-12 | 国网山东省电力公司电力科学研究院 | 基于多层改进gru神经网络的短期电力负荷预测方法 |
Non-Patent Citations (1)
| Title |
|---|
| 路宽等: "多层Bi-GRU的Seq2seq网络短期电力负荷预测模型", 《2017年智能电网新技术发展与应用研讨会论文集》 * |
Cited By (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109088406A (zh) * | 2018-06-26 | 2018-12-25 | 河海大学常州校区 | 一种基于lstm神经网络的微电网等效建模方法 |
| CN108921341A (zh) * | 2018-06-26 | 2018-11-30 | 国网山东省电力公司电力科学研究院 | 一种基于门控自编码的热电厂短期热负荷预测方法 |
| CN110865625A (zh) * | 2018-08-28 | 2020-03-06 | 中国科学院沈阳自动化研究所 | 一种基于时间序列的工艺数据异常检测方法 |
| CN109711620A (zh) * | 2018-12-26 | 2019-05-03 | 浙江大学 | 一种基于gru神经网络和迁移学习的短期电力负荷预测方法 |
| CN109711620B (zh) * | 2018-12-26 | 2021-07-06 | 浙江大学 | 一种基于gru神经网络和迁移学习的短期电力负荷预测方法 |
| CN109685290A (zh) * | 2019-02-11 | 2019-04-26 | 南方电网科学研究院有限责任公司 | 一种基于深度学习的用电量预测方法、装置及设备 |
| CN109685290B (zh) * | 2019-02-11 | 2023-06-16 | 南方电网科学研究院有限责任公司 | 一种基于深度学习的用电量预测方法、装置及设备 |
| CN110210993A (zh) * | 2019-05-22 | 2019-09-06 | 重庆大学 | 基于循环神经网络模型的城市短期燃气负荷预测方法 |
| CN110210993B (zh) * | 2019-05-22 | 2023-04-07 | 重庆大学 | 基于循环神经网络模型的城市短期燃气负荷预测方法 |
| CN110287583A (zh) * | 2019-06-21 | 2019-09-27 | 上海交通大学 | 基于循环神经网络的工业设备剩余寿命预测方法 |
| CN110646350A (zh) * | 2019-08-28 | 2020-01-03 | 深圳和而泰家居在线网络科技有限公司 | 产品分类方法、装置、计算设备及计算机存储介质 |
| CN110580548A (zh) * | 2019-08-30 | 2019-12-17 | 天津大学 | 一种基于类集成学习的多步交通速度预测方法 |
| CN110728403A (zh) * | 2019-10-11 | 2020-01-24 | 国网江西省电力有限公司经济技术研究院 | 农村中长期电网负荷预测方法 |
| CN110728403B (zh) * | 2019-10-11 | 2023-04-18 | 国网江西省电力有限公司经济技术研究院 | 农村中长期电网负荷预测方法 |
| CN111667377A (zh) * | 2020-04-24 | 2020-09-15 | 南方电网能源发展研究院有限责任公司 | 一种全自动用电量预测方法及其系统 |
| CN112348168B (zh) * | 2020-10-27 | 2023-04-07 | 国网四川省电力公司经济技术研究院 | 考虑数据缺失和特征冗余的超短期负荷预测方法及系统 |
| CN112348168A (zh) * | 2020-10-27 | 2021-02-09 | 国网四川省电力公司经济技术研究院 | 考虑数据缺失和特征冗余的超短期负荷预测方法及系统 |
| CN113344346B (zh) * | 2021-05-25 | 2022-10-18 | 合肥工业大学 | 基于非侵入式负荷分解的用电异常检测方法和系统 |
| CN113344346A (zh) * | 2021-05-25 | 2021-09-03 | 合肥工业大学 | 基于非侵入式负荷分解的用电异常检测方法和系统 |
| CN113205182B (zh) * | 2021-07-07 | 2021-09-17 | 华东交通大学 | 一种基于稀疏剪枝方法的实时电力负荷预测系统 |
| CN113205182A (zh) * | 2021-07-07 | 2021-08-03 | 华东交通大学 | 一种基于稀疏剪枝方法的实时电力负荷预测系统 |
| CN113690883A (zh) * | 2021-08-18 | 2021-11-23 | 广东电网有限责任公司 | 新能源区域能源需求预测方法、装置、终端设备及介质 |
| CN113690883B (zh) * | 2021-08-18 | 2024-05-14 | 广东电网有限责任公司 | 新能源区域能源需求预测方法、装置、终端设备及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108197751A (zh) | 基于多层Bi-GRU的Seq2seq网络短期电力负荷预测方法 | |
| Ke et al. | Short-term electrical load forecasting method based on stacked auto-encoding and GRU neural network | |
| CN109685252B (zh) | 基于循环神经网络和多任务学习模型的建筑能耗预测方法 | |
| CN108022001A (zh) | 基于pca和分位数回归森林的短期负荷概率密度预测方法 | |
| CN110580543A (zh) | 一种基于深度信念网络的电力负荷预测方法及系统 | |
| CN108711847B (zh) | 一种基于编码解码长短期记忆网络的短期风电功率预测方法 | |
| CN108197736A (zh) | 一种基于变分自编码器和极限学习机的空气质量预测方法 | |
| CN112633604B (zh) | 一种基于i-lstm的短期用电量预测方法 | |
| CN110222901A (zh) | 一种基于深度学习的Bi-LSTM的电负荷预测方法 | |
| Liu et al. | Heating load forecasting for combined heat and power plants via strand-based LSTM | |
| CN112329990A (zh) | 一种基于lstm-bp神经网络的用户用电负荷预测方法 | |
| Chinnathambi et al. | Deep neural networks (DNN) for day-ahead electricity price markets | |
| CN115481788B (zh) | 相变储能系统负荷预测方法及系统 | |
| CN112163689A (zh) | 基于深度Attention-LSTM的短期负荷分位点概率预测方法 | |
| CN115907122A (zh) | 区域电动汽车充电负荷预测方法 | |
| CN114781744A (zh) | 基于编码解码器的深度学习多步长辐照度预测方法 | |
| CN114021836A (zh) | 基于不同角度融合的多变量水库入水量预测系统、训练方法及应用 | |
| CN115409369A (zh) | 基于机理和数据混合驱动的综合能源系统可靠性评估方法 | |
| CN115759389A (zh) | 基于天气类型的相似日组合策略的日前光伏功率预测方法 | |
| CN115640901A (zh) | 一种基于混合神经网络和生成对抗的小样本负荷预测方法 | |
| CN116151415A (zh) | 一种基于多源信息时间融合的电力负荷预测方法 | |
| CN116384572A (zh) | 基于多维门控循环单元的序列到序列电力负荷预测方法 | |
| CN115577748A (zh) | 一种集成挤压激励注意力机制的双通道风电预测方法 | |
| CN113762591B (zh) | 一种基于gru和多核svm对抗学习的短期电量预测方法及系统 | |
| CN113033898A (zh) | 基于k均值聚类与bi-lstm神经网络的电负荷预测方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180622 |