CN107622329A - 基于多时间尺度长短时记忆神经网络的电力负荷预测方法 - Google Patents

基于多时间尺度长短时记忆神经网络的电力负荷预测方法 Download PDF

Info

Publication number
CN107622329A
CN107622329A CN201710867968.8A CN201710867968A CN107622329A CN 107622329 A CN107622329 A CN 107622329A CN 201710867968 A CN201710867968 A CN 201710867968A CN 107622329 A CN107622329 A CN 107622329A
Authority
CN
China
Prior art keywords
mrow
msubsup
msub
term
short
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710867968.8A
Other languages
English (en)
Inventor
杨延东
邓力
李书芳
张贯京
葛新科
张红治
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen City Jingcheng Mdt Infotech Ltd
Original Assignee
Shenzhen City Jingcheng Mdt Infotech Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen City Jingcheng Mdt Infotech Ltd filed Critical Shenzhen City Jingcheng Mdt Infotech Ltd
Priority to CN201710867968.8A priority Critical patent/CN107622329A/zh
Publication of CN107622329A publication Critical patent/CN107622329A/zh
Pending legal-status Critical Current

Links

Abstract

本发明公开一种基于多时间尺度长短时记忆神经网络的电力负荷预测方法,该方法包括步骤:通过输入单元接收用户输入的所需预测区域内的历史电力负荷数据和区域特征因素;根据历史电力负荷数据和区域特征因素构建区域电力负荷预测模型;采用长短时记忆神经网络(LSTM)对区域电力负荷预测模型进行训练建模以生成多时间尺度长短时记忆神经网络;利用训练生成的多时间尺度长短时记忆神经网络对所需预测区域内的电力负荷进行预测并产生该区域内的电力负荷预测结果;通过输出单元输出所需预测区域内的电力负荷预测结果。本发明通过构建多时间尺度的电力负荷预测模型,能够精确预测出区域电力负荷,提升预测效果。

Description

基于多时间尺度长短时记忆神经网络的电力负荷预测方法
技术领域
本发明涉及电力负荷预测技术领域,尤其涉及一种基于多时间尺度长短时记忆神经网络的电力负荷预测方法。
背景技术
电力负荷预测问题旨在预测出电力网络上单条或者多条输电线的用电需求,根据预测的时间跨度可分为:短期预测(几分钟到一周)、中期预测(一个月到一个季度)、长期预测(一年以上)。由于现有技术条件下,电能很难有效地存储在大型储电装置中,因此,在满足供电需求的条件下,尽可能地降低剩余发电量,是减少成本,提高电能使用效率的有效途径。因此,采用各种预测方法准确地预测出区域内中短期供电负荷,对规划和指导发电企业有效生产电能是十分必要的。尽管电力负荷预测是一个比较经典的研究领域,但是新的建模问题的出现以及技术的革新,都在深刻影响着发电行业的发展。随着智能电网的发展以及电能表的广泛部署,大量多源异构的数据可以用来构建复杂的模型以更准确地描述用电量与电费动态计价的关系。
目前,有很多基于时间序列分析、统计分析以及机器学习的方法应用到电力负荷预测中,经典的方法有最小二乘拟合方法、各种ARMAX模型的变体以及支持向量回归机(Support Vector Regressor,SVR),这些方法采用历史用电数据、天气因素以及社会经济指标来进行建模,预测用电需求。也有大量文献采用广义神经网络(Generalized NeuralNetwork,GNN)进行短期负荷预测,这些基于传统GNN的方法没有将长短时记忆与电力负荷的季节性因素对应起来,因此电负荷预测结果的精确度不高。
发明内容
本发明的主要目的在于提供一种基于多时间尺度长短时记忆神经网络的电力负荷预测方法,旨在解决现有电力负荷预测方法没有将长短时记忆与电力负荷的季节性因素对应起来导致电负荷预测精确度不高的技术问题。
为实现上述目的,本发明提供了一种基于多时间尺度长短时记忆神经网络的电力负荷预测方法,该方法包括如下步骤:通过输入单元接收用户输入的所需预测区域内的历史电力负荷数据和区域特征因素;根据历史电力负荷数据和区域特征因素构建区域电力负荷预测模型;采用长短时记忆神经网络(LSTM)对所述区域电力负荷预测模型进行训练建模以生成多时间尺度长短时记忆神经(MT-LSTM)网络,所述MT-LSTM网络包括多个LSTM单元,所述MT-LSTM网络的LSTM单元分成三组{G1,G2,G3},每组Gk(1≤k≤3)的LSTM单元在不同的时间周期内捕获不同时间尺度的历史电力负荷数据和区域特征因素;利用训练生成的多时间尺度长短时记忆神经网络对所需预测区域内的电力负荷进行预测并产生该区域内的电力负荷预测结果;通过输出单元输出所需预测区域内的电力负荷预测结果。
进一步地,所述区域电力负荷预测模型表示为如下模型:
Forecast=f(t,d,c,y1,u1,id)
其中,t∈[0,24],是一天当中的时间,以小时为单位;d∈{1,2,…,365,366}是一年当中的天数,以天为单位;c是一天的类型;yl是包含一段历史用电需求的历史电力负荷数据;ul是一个包含区域特征因素的实值向量;id代表用电需求的区域标识。
进一步地,所述长短时记忆神经网络是一种迭代神经网络,该迭代神经网络通过对隐层状态向量ht递归应用状态转移函数f来处理输入序列,处于时间步长t的隐层状态向量ht由当前输入序列xt和上一时刻的隐层状态向量ht-1决定,所述隐层状态向量ht采用如下公式表示:
进一步地,所述LSTM单元包括输入门it、输出门ot和遗忘门ft以及记忆单元ct,所述记忆单元ct记录到当前时刻t为止的所有历史信息并受到输入门it、输出门ot和遗忘门ft这三个逻辑门控制,该三个逻辑门的输出值均在0和1之间。
进一步地,所述遗忘门ft控制LSTM单元的信息檫除,所述输入门it控制LSTM单元的信息更新,所述输出门ot控制LSTM单元内部状态的信息输出。
进一步地,所述LSTM单元的参数迭代更新方式如下(1)-(6)公式:
it=σ(Wixt+Uiht-1+Vict-1) (1)
ft=σ(Wfxt+Ufht-1+Vfct-1) (2)
ot=σ(Woxt+Uoht-1+Voct) (3)
ht=ot⊙tanh(ct) (6)
其中,xt是t时刻的输入序列,σ表示为sigmoid函数,⊙表示为元素间的相乘,W是输入权重,U是隐层状态h的循环权重,V是历史信息的影响权重,tanh为隐层状态h的双曲正切函数。
进一步地,当组Gk在时间步长t被激活时,组Gk的记忆单元向量和隐层状态向量的计算公式表示如下(7)-(12)式:
其中,xt是t时刻的输入序列,σ表示为sigmoid函数,⊙表示为元素间的相乘,W是输入权重,U是隐层状态h的循环权重,V是历史信息的影响权重,tanh为隐层状态h的双曲正切函数。
进一步地,当组Gk在时间步长t未被激活时,组Gk内的LSTM单元的记忆单元向量和隐层状态向量保持不变。
本发明还提供一种计算机装置,包括适于实现各种程序指令的处理器以及适于存储多条程序指令的存储设备,其特征在于,所述程序指令由处理器加载并执行所述基于多时间尺度长短时记忆神经网络的电力负荷预测方法。
本发明还提供一种计算机可读存储介质,该计算机可读存储介质存储有多条程序指令,所述程序指令由处理器加载并执行所述基于多时间尺度长短时记忆神经网络的电力负荷预测方法。
相较于现有技术,本发明所述基于多时间尺度长短时记忆神经网络的电力负荷预测方法能够同时联合学习和保存较长时间负荷序列所包含的短期波动信息、季节性和趋势性信息,适用于多维时间序列预测区域电力负荷问题。本发明基于深度学习领域中的长短时记忆神经网络(LSTM)来构建多时间尺度的负荷预测模型,预测效果较现有用电负荷预测模型更精确。
附图说明
图1是应用本发明基于多时间尺度长短时记忆神经网络的电力负荷预测方法的计算机装置的方框图;
图2是本发明基于多时间尺度长短时记忆神经网络的电力负荷预测方法优选实施例的流程图;
图3是LSTM网络中一个LSTM单元的模型结构图;
图4是一种未展开的LSTM网络示意图;
图5是一种展开的MT-LSTM网络示意图。
本发明目的实现、功能特点及优点将结合实施例,将在具体实施方式部分一并参照附图做进一步说明。
具体实施方式
为更进一步阐述本发明为达成上述目的所采取的技术手段及功效,以下结合附图及较佳实施例,对本发明的具体实施方式、结构、特征及其功效进行详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
参照图1所示,图1是应用本发明基于多时间尺度长短时记忆神经网络的电力负荷预测方法的计算机装置的方框图。在本实施例中,所述基于多时间尺度长短时记忆神经网络的电力负荷预测方法应用于计算机装置1中,该计算机装置1包括,但不仅限于,处理器10、输入单元11、存储单元12以及输出单元13。所述的处理器10可以为一种中央处理器(Central Processing Unit,CPU)、微控制器(MCU)、数据处理芯片、或者具有数据处理功能的信息处理器。所述输入单元11为计算机装置1的输入设备,例如输入键盘或鼠标等。所述存储单元12可以为一种只读存储单元ROM,电可擦写存储单元EEPROM、快闪存储单元FLASH或固体硬盘等。所述输出单元13为计算机装置1的输出设备,例如显示器或者打印机等设备。
如图2所示,图2是本发明基于多时间尺度长短时记忆神经网络的电力负荷预测方法优选实施例的流程图。在本实施例中,所述基于多时间尺度长短时记忆神经网络的电力负荷预测方法的各种方法步骤通过计算机软件程序来实现,该计算机软件程序以计算机程序指令的形式存储于计算机可读存储介质(例如计算机装置1的存储单元12)中,存储介质可以包括:只读存储器、随机存储器、磁盘或光盘等,所述计算机程序指令能够被处理器加载并执行如下步骤S21至步骤S25。
步骤S21,通过输入单元11接收用户输入的所需预测区域内的历史电力负荷数据和区域特征因素;一般地,典型的电力负荷需求预测问题受到各种区域特征因素影响,所述区域特征因素包括区域内的时间、节假日、天气以及经济指标等信息,所述历史电力负荷数据是指所需预测区域内的历史时刻的电力负荷数据信息。所述历史电力负荷数据和区域特征因素由用户从所需预测区域收集并输入至计算机装置1中。具体地,用户通过输入单元11输入所需预测区域内的历史电力负荷数据和区域特征因素。
步骤S22,根据区域内的电力负荷数据和区域特征因素构建区域电力负荷预测模型。在本实施例中,所述区域电力负荷预测模型表示为如下公式:
Forecast=f(t,d,c,y1,u1,id)
上式中各个变量说明如下:t∈[0,24],是一天当中的时间,以小时为单位;d∈{1,2,…,365,366}是一年当中的天数,以天为单位;c是一天的类型,如星期一到星期日、节假日等;yl是包含一段历史用电需求内的历史电力负荷数据的实值向量;ul是一个包含区域特征因素的实值向量,如温度、经济指标等数据;id代表用电需求的区域标识。
步骤S23,采用长短时记忆神经(Long Short-term Memory Neural Network,LSTM)网络对所述区域电力负荷预测模型进行训练以生成多时间尺度长短时记忆神经网络;在本实施例中,当采样收集到上述特征参数后,就可以确定上式中的状态转移函数f,然后对一个区域内的用电负荷进行预测。本发明采用迭代神经网络(Recurrent NeuralNetwork,RNN)的改进型网络长短时记忆神经(LSTM)网络来进行建模,下面将详细说明该网络模型结构和原理。
迭代神经网络(RNN)是一种通过对隐层状态向量ht递归应用状态转移函数f来处理任意长输入序列的网络。处于时间步长t的隐层状态向量ht由当前输入xt和上一时刻的隐层状态向量ht-1决定,如下式所示:
上式可以看成一个动态系统,系统的状态按照一定的规律随时间变化。ht就是系统的状态,理论上,迭代神经网络(RNN)可以近似任意的动态系统。传统上,对时间序列进行建模的策略是用迭代神经网络(RNN)将输入序列映射为固定长度的向量,然后再输入到回归器中,回归器给出预测结果。但是,基于状态转移函数的多个RNNs在训练的过程中,在输入长序列后,其梯度向量会出现指数级的增长或衰减,这就是RNNs面临的梯度消失或者梯度爆炸的问题。在这种情况下,多个RNNs很难学习序列的长时相关性问题。
在本实施例中,长短时记忆神经(LSTM)网络是一种改进型的迭代神经网络(RNN)模型,它通过引入逻辑门机制,有效地解决了简单的迭代神经网络面临的梯度消失或者爆炸问题,使深层网络模型能够学习时间序列的长期依赖。该LSTM网络的关键在于引入了一组记忆单元(Memory Units),允许网络学习何时遗忘历史信息,何时用新信息更新记忆单元。
如图3所示,图3是LSTM网络中一个LSTM单元的模型结构图。在本实施例中,每一个LSTM单元包括输入门it(input gate)、输出门ot(output gate)和遗忘门ft(forget gate)以及记忆单元ct。在时刻t,记忆单元ct记录了到当前时刻为止的所有历史信息,并受三个逻辑门控制,该三个逻辑门分别是:输入门it(input gate)、输出门ot(output gate)和遗忘门ft(forget gate)。它们能够模拟神经细胞间的输入、读取和复位操作,这三个逻辑门的输出值均在0和1之间。
在本实施例中,LSTM单元的参数迭代更新方式如下公式(1)-(6)所示:
it=σ(Wixt+Uiht-1+Vict-1) (1)
ft=σ(Wfxt+Ufht-1+Vfct-1) (2)
ot=σ(Woxt+Uoht-1+Voct) (3)
ht=ot⊙tanh(ct) (6)
其中,xt是t时刻的输入序列,σ表示为sigmoid函数,tanh为隐层状态h的双曲正切函数,⊙表示为元素间的相乘,W是输入权重,U是隐层状态h的循环权重,V是历史信息的影响权重,这些权重参数通过模型训练获得。可以看出,遗忘门ft控制LSTM单元的信息檫除;输入门it控制LSTM单元的信息更新;输出门ot控制LSTM单元内部状态的信息输出。
在本实施例中,输入门it、输出门ot、遗忘门ft和记忆单元ct能够使LSTM单元自适应选择遗忘、记忆和输出记忆信息,如果检测到重要的信息内容,遗忘门ft将会关闭,这样将会在多个时间步长内利用该信息,这就等价于捕捉到了一个长期依赖信息;另一方面,当遗忘门ft打开时,LSTM单元将会选择复位记忆状态。在本实施例中,将多个LSTM单元连接起来构成深度神经网络,以提高模型对负荷时间序列的建模能力。
在本实施例中,LSTM单元能够捕获一个输入时间序列的长期依赖和短期依赖信息。但是,当长期依赖需要沿着序列一步步传播,一些重要的信息(例如历史电力负荷信息和区域特征因素)在传输过程中可能会丢失,如季节性和趋势性;另外,当采用BPTT算法(Back Propagation Through Time,BPTT)训练网络时,误差信号通过多个时间步长进行后向传播,当输入序列很长时,训练效率会显著降低。因此,本实施通过构建多时间尺度长短时记忆神经网络(Multi-Timescale LSTM neural network,MT-LSTM NN)来传播依赖信息,有效减少依赖信息传输过程中的损失。
参考图4和图5所示,图4是一种未展开的LSTM网络示意图;图5是一种展开的MT-LSTM网络示意图。在本实施例中,所述MT-LSTM网络包括多个LSTM单元,其中,虚线方框节点代表当前时刻未被激活的LSTM单元,实线方框节点代表当前时刻激活后的LSTM单元。虚线表示保持不变的LSTM单元,而实线表示在下一时刻将会更新的LSTM单元。
在本实施例中,MT-LSTM网络中的LSTM单元分成三组{G1,G2,G3},每组Gk(1≤k≤3)的LSTM单元在不同的时间周期(例如,短期、中期和长期)内捕获不同时间尺度的依赖信息。此时,门单元和权重矩阵也被分为三组,分别对应相应的LSTM组,只划分一组的MT-LSTM就是标准的LSTM。本框架模型中,第一组G1更新速度最快,在每个时间步长t都会被激活,第二组G2更新速度较快,每隔一个时间步长会被激活,第三组G3更新速度最慢,每隔两个时间步长会被激活。所以,G1就是更新最快的组,用于捕获序列短期记忆信息,G3更新最慢,用于捕获序列的季节性、趋势性等长期依赖信息。
在每个时间步长t,组Gk的记忆单元向量和隐层状态向量ht的计算方式分为如下两种情况:
第一,当组Gk在时间步长t被激活时,组内的LSTM单元的计算方式如下所示:
其中,xt是t时刻的输入序列,σ表示为sigmoid函数,tanh为隐层状态h的双曲正切函数,⊙表示为元素间的相乘,W是输入权重,U是隐层状态h的循环权重,V是历史信息的影响权重,这些权重参数通过模型训练获得。
第二,当组Gk在时间步长t未被激活时,组Gk内的记忆单元向量和隐层状态向量的计算方式如下所示:
即,每组Gk内LSTM单元的记忆单元向量和隐层状态向量保持不变。
在图5中,由于多时间尺度长短时记忆神经网络(MT-LSTM)的三个组分别以不同的频率更新,更新速度较快的组保存的是短期记忆,而更新速度较慢的组保存的是长期记忆。从时间步长t-1到时间步长t存在反馈连接机制,组间的反馈连接方式是:更新速度较快的组G2每隔两个时间步长与更新速度最快的组G1连接;更新速度最慢的组G3每隔三个时间步长与组G1和组G2连接;其它情况下,组间不存在反馈连接。
如图5所示的多时间尺度长短时记忆神经网络(MT-LSTM)中,最后一层的隐藏层与全连接层相连接,然后再接上回归器(Regressor),如线性单元,此时,就可以输出归一化后的负荷预测值,然后再进行反向归一化即可得出真实的负荷预测值。
步骤S24,利用训练生成的多时间尺度长短时记忆神经网络对所需预测区域内的电力负荷进行预测并产生该区域内的电力负荷预测结果;具体地,利用MT-LSTM对所需预测区域内的电力负荷进行预测,并通过回归器产生该区域内的电力负荷预测结果。MT-LSTM网络内的LSTM单元初始化参数是均匀分布在[-0.1,0.1]之间的随机采样值,采用均方根误差作为损失函数,用误差反向传播算法进行训练,并采用交叉验证方法实验寻找模型的超参数。所述误差反向传播算法和交叉验证方法均为所属技术领域的现有技术,本发明不作具体赘述。
步骤S25,通过计算装置1的输出单元输出所需预测区域内的电力负荷预测结果;具体地,回归器输出所需预测区域内的电力负荷预测结果至所述输出单元13,该输出单元13通过回归器输出区域内的电力负荷预测结果y。该输出单元13可以为显示器或者打印机等设备,能够显示或打印出区域内的电力负荷预测结果y。
与现有技术相比,本发明有以下技术优点:能够同时联合学习和保存较长时间负荷序列所包含的短期波动信息、季节性和趋势性信息,适用于多维时间序列预测区域电力负荷问题。本发明基于深度学习领域中的长短时记忆神经网络(LSTM)来构建多时间尺度的负荷预测模型,预测效果较现有用电负荷预测模型更精确。
本领域技术人员可以理解,上述实施方式中各种方法的全部或部分步骤可以通过相关程序指令完成,该程序可以存储于计算机可读存储介质中,存储介质可以包括:只读存储器、随机存储器、磁盘或光盘等。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效功能变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,该方法包括如下步骤:
通过输入单元接收用户输入的所需预测区域内的历史电力负荷数据和区域特征因素;
根据历史电力负荷数据和区域特征因素构建区域电力负荷预测模型;
采用长短时记忆神经网络(LSTM)对所述区域电力负荷预测模型进行训练建模以生成多时间尺度长短时记忆神经(MT-LSTM)网络,所述MT-LSTM网络包括多个LSTM单元,所述MT-LSTM网络的LSTM单元分成三组{G1,G2,G3},每组Gk(1≤k≤3)的LSTM单元在不同的时间周期内捕获不同时间尺度的历史电力负荷数据和区域特征因素;
利用训练生成的多时间尺度长短时记忆神经网络对所需预测区域内的电力负荷进行预测并产生该区域内的电力负荷预测结果;
通过输出单元输出所需预测区域内的电力负荷预测结果。
2.如权利要求1所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,所述区域电力负荷预测模型表示为如下模型:
Forecast=f(t,d,c,y1,u1,id)
其中,t∈[0,24],是一天当中的时间,以小时为单位;d∈{1,2,…,365,366}是一年当中的天数,以天为单位;c是一天的类型;yl是包含一段历史用电需求的历史电力负荷数据;ul是一个包含区域特征因素的实值向量;id代表用电需求的区域标识。
3.如权利要求1所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,所述长短时记忆神经网络是一种迭代神经网络,该迭代神经网络通过对隐层状态向量ht递归应用状态转移函数f来处理输入序列,处于时间步长t的隐层状态向量ht由当前输入序列xt和上一时刻的隐层状态向量ht-1决定,所述隐层状态向量ht采用如下公式表示:
<mrow> <msub> <mi>h</mi> <mi>t</mi> </msub> <mo>=</mo> <mfenced open = "{" close = ""> <mtable> <mtr> <mtd> <mrow> <mn>0</mn> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <mi>t</mi> <mo>=</mo> <mn>0</mn> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <mi>f</mi> <mrow> <mo>(</mo> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>,</mo> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>)</mo> </mrow> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <mi>t</mi> <mo>&amp;NotEqual;</mo> <mn>0</mn> </mrow> </mtd> </mtr> </mtable> </mfenced> <mo>.</mo> </mrow>
4.如权利要求1所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,所述LSTM单元包括输入门it、输出门ot和遗忘门ft以及记忆单元ct,所述记忆单元ct记录到当前时刻t为止的所有历史信息并受到输入门it、输出门ot和遗忘门ft这三个逻辑门控制,该三个逻辑门的输出值均在0和1之间。
5.如权利要求4所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,所述遗忘门ft控制LSTM单元的信息檫除,所述输入门it控制LSTM单元的信息更新,所述输出门ot控制LSTM单元内部状态的信息输出。
6.如权利要求4所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,所述LSTM单元的参数迭代更新方式如下(1)-(6)公式:
it=σ(Wixt+Uiht-1+Vict-1) (1)
ft=σ(Wfxt+Ufht-1+Vfct-1) (2)
ot=σ(Woxt+Uoht-1+Voct) (3)
<mrow> <msub> <mover> <mi>c</mi> <mo>~</mo> </mover> <mi>t</mi> </msub> <mo>=</mo> <mi>tanh</mi> <mrow> <mo>(</mo> <msub> <mi>W</mi> <mi>c</mi> </msub> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>+</mo> <msub> <mi>U</mi> <mi>c</mi> </msub> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>4</mn> <mo>)</mo> </mrow> </mrow>
ht=ot⊙tanh(ct) (6)
其中,xt是t时刻的输入序列,σ表示sigmoid函数,⊙表示元素间的相乘,W是输入权重,U是隐层状态h的循环权重,V是历史信息的影响权重,tanh为隐层状态h的双曲正切函数。
7.如权利要求4所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,当组Gk在时间步长t被激活时,组Gk的记忆单元向量和隐层状态向量的计算公式表示如下(7)-(12)式:
<mrow> <msubsup> <mi>i</mi> <mi>t</mi> <mi>k</mi> </msubsup> <mo>=</mo> <mi>&amp;sigma;</mi> <mrow> <mo>(</mo> <msubsup> <mi>W</mi> <mi>i</mi> <mi>k</mi> </msubsup> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>U</mi> <mi>i</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>h</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> <mi>j</mi> </msubsup> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>V</mi> <mi>i</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>c</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> <mi>j</mi> </msubsup> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>7</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msubsup> <mi>f</mi> <mi>t</mi> <mi>k</mi> </msubsup> <mo>=</mo> <mi>&amp;sigma;</mi> <mrow> <mo>(</mo> <msubsup> <mi>W</mi> <mi>f</mi> <mi>k</mi> </msubsup> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>U</mi> <mi>f</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>h</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> <mi>j</mi> </msubsup> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>V</mi> <mi>f</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>c</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> <mi>j</mi> </msubsup> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>8</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msubsup> <mi>o</mi> <mi>t</mi> <mi>k</mi> </msubsup> <mo>=</mo> <mi>&amp;sigma;</mi> <mrow> <mo>(</mo> <msubsup> <mi>W</mi> <mi>o</mi> <mi>k</mi> </msubsup> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>U</mi> <mi>o</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>h</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> <mi>j</mi> </msubsup> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>V</mi> <mi>o</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>c</mi> <mi>t</mi> <mi>j</mi> </msubsup> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>9</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msubsup> <mover> <mi>c</mi> <mo>~</mo> </mover> <mi>t</mi> <mi>k</mi> </msubsup> <mo>=</mo> <mi>tanh</mi> <mrow> <mo>(</mo> <msubsup> <mi>W</mi> <mi>c</mi> <mi>k</mi> </msubsup> <msub> <mi>x</mi> <mi>t</mi> </msub> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>g</mi> </munderover> <msubsup> <mi>U</mi> <mi>c</mi> <mrow> <mi>j</mi> <mo>&amp;RightArrow;</mo> <mi>k</mi> </mrow> </msubsup> <msubsup> <mi>k</mi> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> <mi>j</mi> </msubsup> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>10</mn> <mo>)</mo> </mrow> </mrow>
其中,xt是t时刻的输入序列,σ表示sigmoid函数,⊙表示元素间的相乘,W是输入权重,U是隐层状态h的循环权重,V是历史信息的影响权重,tanh为隐层状态h的双曲正切函数。
8.如权利要求4所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法,其特征在于,当组Gk在时间步长t未被激活时,组Gk内的LSTM单元的记忆单元向量和隐层状态向量保持不变。
9.一种计算机装置,包括适于实现各种程序指令的处理器以及适于存储多条程序指令的存储设备,其特征在于,所述程序指令由处理器加载并执行如权利要求1至8任一项所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法。
10.一种计算机可读存储介质,该计算机可读存储介质存储有多条程序指令,其特征在于,所述程序指令由处理器加载并执行如权利要求1至8任一项所述的基于多时间尺度长短时记忆神经网络的电力负荷预测方法。
CN201710867968.8A 2017-09-22 2017-09-22 基于多时间尺度长短时记忆神经网络的电力负荷预测方法 Pending CN107622329A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710867968.8A CN107622329A (zh) 2017-09-22 2017-09-22 基于多时间尺度长短时记忆神经网络的电力负荷预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710867968.8A CN107622329A (zh) 2017-09-22 2017-09-22 基于多时间尺度长短时记忆神经网络的电力负荷预测方法

Publications (1)

Publication Number Publication Date
CN107622329A true CN107622329A (zh) 2018-01-23

Family

ID=61091032

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710867968.8A Pending CN107622329A (zh) 2017-09-22 2017-09-22 基于多时间尺度长短时记忆神经网络的电力负荷预测方法

Country Status (1)

Country Link
CN (1) CN107622329A (zh)

Cited By (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108446302A (zh) * 2018-01-29 2018-08-24 东华大学 一种结合TensorFlow与Spark的个性化推荐系统
CN108510065A (zh) * 2018-03-30 2018-09-07 中国科学院计算技术研究所 应用于长短时记忆神经网络的计算装置和计算方法
CN109034500A (zh) * 2018-09-04 2018-12-18 湘潭大学 一种多时序协同的中期电力负荷预测方法
CN109034490A (zh) * 2018-08-13 2018-12-18 广东工业大学 一种电力负荷预测方法、装置、设备及存储介质
CN109192187A (zh) * 2018-06-04 2019-01-11 平安科技(深圳)有限公司 基于人工智能的作曲方法、系统、计算机设备和存储介质
CN109242236A (zh) * 2018-07-05 2019-01-18 西安图迹信息科技有限公司 基于关联全连接神经网络和lstm的pmu一次调频负荷预测方法
CN109272164A (zh) * 2018-09-29 2019-01-25 清华大学深圳研究生院 学习行为动态预测方法、装置、设备及存储介质
CN109376896A (zh) * 2018-08-29 2019-02-22 国网重庆市电力公司南岸供电分公司 一种基于多模融合的配电网短期负荷预测方法
CN109409561A (zh) * 2018-08-22 2019-03-01 国网天津市电力公司 多时间尺度时间序列协同预测模型的构建方法
CN109543901A (zh) * 2018-11-20 2019-03-29 国网辽宁省电力有限公司经济技术研究院 基于信息融合卷积神经网络模型的短期电力负荷预测方法
CN109919352A (zh) * 2018-12-30 2019-06-21 国网浙江省电力有限公司衢州供电公司 一种基于用户侧用电行为的配网负荷预测方法
CN109949180A (zh) * 2019-03-19 2019-06-28 山东交通学院 一种船舶冷热电联供系统的冷热电负荷预测方法及系统
CN109991685A (zh) * 2019-04-03 2019-07-09 北京市天元网络技术股份有限公司 一种基于多lstm模型融合的降水量预测方法以及装置
CN110032975A (zh) * 2019-04-15 2019-07-19 禁核试北京国家数据中心 一种地震震相的拾取方法
CN110135634A (zh) * 2019-04-29 2019-08-16 广东电网有限责任公司电网规划研究中心 中长期电力负荷预测装置
CN110163421A (zh) * 2019-04-29 2019-08-23 广东电网有限责任公司电网规划研究中心 中长期电力负荷预测方法
CN110162612A (zh) * 2019-05-22 2019-08-23 出门问问信息科技有限公司 信息处理方法、装置、可读存储介质和电子设备
CN110276472A (zh) * 2019-05-21 2019-09-24 南方电网调峰调频发电有限公司 一种基于lstm深度学习网络的海上风电功率超短期预测方法
CN110322073A (zh) * 2019-07-09 2019-10-11 南方电网科学研究院有限责任公司 基于循环神经网络的电力负荷预测方法、装置及设备
CN110543942A (zh) * 2019-08-28 2019-12-06 广西大学 一种多时空长短记忆深度网络精准预测方法
CN110631221A (zh) * 2018-06-05 2019-12-31 珠海格力电器股份有限公司 一种空调的控制方法、装置、终端及存储介质
CN110794254A (zh) * 2018-08-01 2020-02-14 北京映翰通网络技术股份有限公司 一种基于强化学习的配电网故障预测方法及系统
US20200076196A1 (en) * 2018-08-28 2020-03-05 Johnson Controls Technology Company Building energy optimization system with a dynamically trained load prediction model
CN110929414A (zh) * 2019-12-06 2020-03-27 创新奇智(成都)科技有限公司 一种基于级联时序模型的暖通系统能效优化方法
WO2020098728A1 (zh) * 2018-11-14 2020-05-22 中兴通讯股份有限公司 集群负荷预测方法、装置及存储介质
CN111210091A (zh) * 2020-02-25 2020-05-29 上海积成能源科技有限公司 一种基于递归神经网络的长短期记忆模型来预测短期电力负荷的系统模型
CN111401667A (zh) * 2020-06-03 2020-07-10 广东电网有限责任公司东莞供电局 一种工厂的用电调度方法、装置、计算机设备和存储介质
CN111461462A (zh) * 2020-04-29 2020-07-28 南京工程学院 基于TrellisNet-LSTM的日负荷预测方法
CN111680838A (zh) * 2020-06-08 2020-09-18 中国电力科学研究院有限公司 一种空调负荷聚合功率预测方法及系统
CN112329997A (zh) * 2020-10-26 2021-02-05 国网河北省电力有限公司雄安新区供电公司 电力需求负荷预测方法及系统、电子设备和存储介质
WO2021042372A1 (zh) * 2019-09-06 2021-03-11 中国医药大学附设医院 心房颤动预测模型及其预测系统
CN113469346A (zh) * 2021-08-31 2021-10-01 盛隆电气集团有限公司 一种预测短时区域用电情况监督方法及其装置
CN113537556A (zh) * 2021-06-03 2021-10-22 杭州电子科技大学 一种基于状态频率记忆网络的家庭短期负荷预测方法
CN115034507A (zh) * 2022-06-30 2022-09-09 杭州凯达电力建设有限公司 一种充电桩的电力负荷预测方法及相关组件
CN115545362A (zh) * 2022-12-05 2022-12-30 南方电网数字电网研究院有限公司 一种ai与tsd结合的新能源中期功率组合预测方法

Cited By (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108446302A (zh) * 2018-01-29 2018-08-24 东华大学 一种结合TensorFlow与Spark的个性化推荐系统
CN108510065A (zh) * 2018-03-30 2018-09-07 中国科学院计算技术研究所 应用于长短时记忆神经网络的计算装置和计算方法
CN109192187A (zh) * 2018-06-04 2019-01-11 平安科技(深圳)有限公司 基于人工智能的作曲方法、系统、计算机设备和存储介质
CN110631221A (zh) * 2018-06-05 2019-12-31 珠海格力电器股份有限公司 一种空调的控制方法、装置、终端及存储介质
CN109242236B (zh) * 2018-07-05 2021-04-20 西安图迹信息科技有限公司 基于关联全连接神经网络和lstm的pmu一次调频负荷预测方法
CN109242236A (zh) * 2018-07-05 2019-01-18 西安图迹信息科技有限公司 基于关联全连接神经网络和lstm的pmu一次调频负荷预测方法
CN110794254B (zh) * 2018-08-01 2022-04-15 北京映翰通网络技术股份有限公司 一种基于强化学习的配电网故障预测方法及系统
CN110794254A (zh) * 2018-08-01 2020-02-14 北京映翰通网络技术股份有限公司 一种基于强化学习的配电网故障预测方法及系统
CN109034490A (zh) * 2018-08-13 2018-12-18 广东工业大学 一种电力负荷预测方法、装置、设备及存储介质
CN109409561A (zh) * 2018-08-22 2019-03-01 国网天津市电力公司 多时间尺度时间序列协同预测模型的构建方法
US20200076196A1 (en) * 2018-08-28 2020-03-05 Johnson Controls Technology Company Building energy optimization system with a dynamically trained load prediction model
CN109376896A (zh) * 2018-08-29 2019-02-22 国网重庆市电力公司南岸供电分公司 一种基于多模融合的配电网短期负荷预测方法
CN109034500A (zh) * 2018-09-04 2018-12-18 湘潭大学 一种多时序协同的中期电力负荷预测方法
CN109272164A (zh) * 2018-09-29 2019-01-25 清华大学深圳研究生院 学习行为动态预测方法、装置、设备及存储介质
WO2020098728A1 (zh) * 2018-11-14 2020-05-22 中兴通讯股份有限公司 集群负荷预测方法、装置及存储介质
CN109543901A (zh) * 2018-11-20 2019-03-29 国网辽宁省电力有限公司经济技术研究院 基于信息融合卷积神经网络模型的短期电力负荷预测方法
CN109919352A (zh) * 2018-12-30 2019-06-21 国网浙江省电力有限公司衢州供电公司 一种基于用户侧用电行为的配网负荷预测方法
CN109949180A (zh) * 2019-03-19 2019-06-28 山东交通学院 一种船舶冷热电联供系统的冷热电负荷预测方法及系统
CN109991685A (zh) * 2019-04-03 2019-07-09 北京市天元网络技术股份有限公司 一种基于多lstm模型融合的降水量预测方法以及装置
CN110032975A (zh) * 2019-04-15 2019-07-19 禁核试北京国家数据中心 一种地震震相的拾取方法
CN110163421B (zh) * 2019-04-29 2021-08-24 广东电网有限责任公司电网规划研究中心 中长期电力负荷预测方法
CN110163421A (zh) * 2019-04-29 2019-08-23 广东电网有限责任公司电网规划研究中心 中长期电力负荷预测方法
CN110135634A (zh) * 2019-04-29 2019-08-16 广东电网有限责任公司电网规划研究中心 中长期电力负荷预测装置
CN110135634B (zh) * 2019-04-29 2022-01-25 广东电网有限责任公司电网规划研究中心 中长期电力负荷预测装置
CN110276472A (zh) * 2019-05-21 2019-09-24 南方电网调峰调频发电有限公司 一种基于lstm深度学习网络的海上风电功率超短期预测方法
CN110162612A (zh) * 2019-05-22 2019-08-23 出门问问信息科技有限公司 信息处理方法、装置、可读存储介质和电子设备
CN110162612B (zh) * 2019-05-22 2021-07-09 出门问问信息科技有限公司 信息处理方法、装置、可读存储介质和电子设备
CN110322073A (zh) * 2019-07-09 2019-10-11 南方电网科学研究院有限责任公司 基于循环神经网络的电力负荷预测方法、装置及设备
CN110543942A (zh) * 2019-08-28 2019-12-06 广西大学 一种多时空长短记忆深度网络精准预测方法
WO2021042372A1 (zh) * 2019-09-06 2021-03-11 中国医药大学附设医院 心房颤动预测模型及其预测系统
CN110929414A (zh) * 2019-12-06 2020-03-27 创新奇智(成都)科技有限公司 一种基于级联时序模型的暖通系统能效优化方法
CN111210091A (zh) * 2020-02-25 2020-05-29 上海积成能源科技有限公司 一种基于递归神经网络的长短期记忆模型来预测短期电力负荷的系统模型
CN111461462A (zh) * 2020-04-29 2020-07-28 南京工程学院 基于TrellisNet-LSTM的日负荷预测方法
CN111461462B (zh) * 2020-04-29 2023-11-21 南京工程学院 基于TrellisNet-LSTM的日负荷预测方法
CN111401667A (zh) * 2020-06-03 2020-07-10 广东电网有限责任公司东莞供电局 一种工厂的用电调度方法、装置、计算机设备和存储介质
CN111680838A (zh) * 2020-06-08 2020-09-18 中国电力科学研究院有限公司 一种空调负荷聚合功率预测方法及系统
CN112329997A (zh) * 2020-10-26 2021-02-05 国网河北省电力有限公司雄安新区供电公司 电力需求负荷预测方法及系统、电子设备和存储介质
CN113537556A (zh) * 2021-06-03 2021-10-22 杭州电子科技大学 一种基于状态频率记忆网络的家庭短期负荷预测方法
CN113469346A (zh) * 2021-08-31 2021-10-01 盛隆电气集团有限公司 一种预测短时区域用电情况监督方法及其装置
CN115034507A (zh) * 2022-06-30 2022-09-09 杭州凯达电力建设有限公司 一种充电桩的电力负荷预测方法及相关组件
CN115545362A (zh) * 2022-12-05 2022-12-30 南方电网数字电网研究院有限公司 一种ai与tsd结合的新能源中期功率组合预测方法

Similar Documents

Publication Publication Date Title
CN107622329A (zh) 基于多时间尺度长短时记忆神经网络的电力负荷预测方法
Wang et al. Bi-directional long short-term memory method based on attention mechanism and rolling update for short-term load forecasting
Lin et al. Short-term load forecasting based on LSTM networks considering attention mechanism
Wang et al. A seasonal GM (1, 1) model for forecasting the electricity consumption of the primary economic sectors
Qiao et al. A novel hybrid prediction model for hourly gas consumption in supply side based on improved whale optimization algorithm and relevance vector machine
CN108280551B (zh) 一种利用长短期记忆网络的光伏发电功率预测方法
CN106960252A (zh) 基于长短时记忆神经网络的电力负荷预测方法
Atef et al. Assessment of stacked unidirectional and bidirectional long short-term memory networks for electricity load forecasting
CN106952181A (zh) 基于长短时记忆神经网络的电力负荷预测系统
Li et al. The short-term interval prediction of wind power using the deep learning model with gradient descend optimization
Liu et al. Midterm power load forecasting model based on kernel principal component analysis and back propagation neural network with particle swarm optimization
CN107480815A (zh) 一种电力系统台区负荷预测方法
Pan et al. State space neural networks for short term rainfall-runoff forecasting
Zhang et al. Wind speed prediction research considering wind speed ramp and residual distribution
Morteza et al. Deep learning hyperparameter optimization: Application to electricity and heat demand prediction for buildings
Liu et al. Heating load forecasting for combined heat and power plants via strand-based LSTM
Zhu et al. Coke price prediction approach based on dense GRU and opposition-based learning salp swarm algorithm
CN113554466A (zh) 一种短期用电量预测模型构建方法、预测方法和装置
Niu et al. Short-term wind speed hybrid forecasting model based on bias correcting study and its application
Zhang et al. Interval prediction of ultra-short-term photovoltaic power based on a hybrid model
Dong et al. Short-term building cooling load prediction model based on DwdAdam-ILSTM algorithm: A case study of a commercial building
Vasanthkumar et al. Improving energy consumption prediction for residential buildings using Modified Wild Horse Optimization with Deep Learning model
Sen Time Series Prediction based on Improved Deep Learning
Ibrahim et al. LSTM neural network model for ultra-short-term distribution zone substation peak demand prediction
Zuo Integrated forecasting models based on LSTM and TCN for short-term electricity load forecasting

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180123

WD01 Invention patent application deemed withdrawn after publication