CN111553543A - 基于TPA-Seq2Seq的电力负荷预测方法及相关组件 - Google Patents
基于TPA-Seq2Seq的电力负荷预测方法及相关组件 Download PDFInfo
- Publication number
- CN111553543A CN111553543A CN202010419020.8A CN202010419020A CN111553543A CN 111553543 A CN111553543 A CN 111553543A CN 202010419020 A CN202010419020 A CN 202010419020A CN 111553543 A CN111553543 A CN 111553543A
- Authority
- CN
- China
- Prior art keywords
- tpa
- seq2seq
- hidden state
- network model
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 239000011159 matrix material Substances 0.000 claims abstract description 79
- 238000012545 processing Methods 0.000 claims abstract description 27
- 238000012360 testing method Methods 0.000 claims abstract description 26
- 230000007246 mechanism Effects 0.000 claims abstract description 25
- 238000012549 training Methods 0.000 claims abstract description 18
- 238000005096 rolling process Methods 0.000 claims abstract description 17
- 230000011218 segmentation Effects 0.000 claims abstract description 17
- 238000010606 normalization Methods 0.000 claims abstract description 11
- 230000006870 function Effects 0.000 claims description 33
- 210000002569 neuron Anatomy 0.000 claims description 22
- 239000013598 vector Substances 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 10
- 230000005611 electricity Effects 0.000 claims description 8
- 230000015654 memory Effects 0.000 claims description 8
- 230000009471 action Effects 0.000 claims description 7
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 claims description 5
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 claims description 5
- 238000011156 evaluation Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000005457 optimization Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000000306 recurrent effect Effects 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000012843 least square support vector machine Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000001556 precipitation Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/06—Electricity, gas or water supply
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Abstract
本发明公开了基于TPA‑Seq2Seq的电力负荷预测方法及相关组件。所述方法包括：获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，将数据集分为训练集和测试集；对数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用Seq2Seq网络模型中的LSTM编码器计算多变量时间序列的隐状态，得到隐状态矩阵；通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；利用Seq2Seq网络模型中的解码器对目标隐状态序列进行解码，得到预测结果，从而构建TPA‑Seq2Seq网络模型；通过测试集对所述TPA‑Seq2Seq网络模型进行评价。本发明提高了电力负荷预测精度，使预测结果更准确。
Description
技术领域
本发明涉及电力预测领域，具体涉及基于TPA-Seq2Seq电力负荷预测方法及相关组件。
背景技术
在日常生活中，时间序列数据无处不在，例如，家庭用电量、道路占用率、货币兑换率、太阳能发电量等，都可以看作是时间序列数据。在电力负荷预测领域内，大多数情况下收集到的数据为多变量时间序列数据，而这些数据通常由当地电力公司跟踪，并且不同的多变量时间序列之间存在复杂的动态相互依赖关系，从而导致难以对多变量时间序列进行捕获和分析。
传统的用于时间序列预测的非线性自回归模型很难捕捉到一段较长时间内的数据间的时间相关性，也比较难选择相应的驱动数据来对多变量时间序列数据进行预测。传统的线性模型具体包括：自回归模型(AR，Auto-Regressive model，是一种统计上一种处理时间序列的方法)、移动平均模型(MA，Moving Average model)、自回归移动平均模型(ARMA，Auto-Regressive Moving Average Model)、自回归合成移动平均模型(ARIMA，Auto-Regressive Integrated Moving Average)等，这些模型针对小规模的预测取得了很好的效果，但是不能满足用电量数据存在的突变性和多依赖性等非线性要求。
随着神经网络、支持向量机等技术的不断提出，出现了基于机器学习算法的预测模型，例如：人工神经网络、最小二乘支持向量机等算法模型。以上算法存在的问题在于缺少对时序数据时间相关性的考虑，从而导致预测精度有限。
发明内容
本发明实施例提供了一种基于TPA-Seq2Seq的电力负荷预测方法、装置、计算机设备及存储介质，旨在提高基于多变量时间序列数据的电力负荷预测精度。
第一方面，本发明实施例提供了一种基于TPA-Seq2Seq的电力负荷预测方法，包括：
获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；
对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；
通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；
利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；
通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；
通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。
进一步的，所述对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq模型中，包括：
根据预设滑窗的窗口长度对所述数据集进行滚动切分，得到k组多变量时间序列，并使每组多变量时间序列包含w个时刻的样本数据，且每个时刻的样本数据包含n个特征变量。
进一步的，所述隐状态矩阵为：
H＝{ht-w,ht-w+1,……,ht-1}，其中，每一隐状态的维度为m，w为滑窗窗口长度，t为最后时刻，ht即为最后时刻的隐状态。
进一步的，所述通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列，包括：
按下述公式对所述隐状态的相关变量进行卷积计算，得到目标矩阵HC：
式中，Hi,j表示所述隐状态矩阵H第i个行向量和第j个卷积核作用的结果值，T为TPA注意力机制过程中所覆盖的范围，l表示所述滑窗的窗口长度w中的每个时刻；
按下述公式计算所述目标矩阵HC第i个行向量与最后时刻的隐状态ht的相关性，并得到相关性评分函数：
式中，f为相关性评分函数，
为目标矩阵的第i行，ht为最后时刻的隐状态，Wa∈Rm×k，Wa为待训练学习的参数矩阵，Rm×k为m行k列的实数矩阵；
按下述公式利用sigmoid函数对所述相关性评分函数进行归一化处理，得到注意力权重αi：
按下述公式利用所述注意力权重αi对所述目标矩阵HC的每一行进行加权求和，得到上下文向量vt：
式中，αi为注意力权重，
为目标矩阵的第i行，m为隐状态的维度；
按下述公式将所述上下文向量vt与所述LSTM编码器中输出的最后时刻的隐状态ht进行融合，得到所述目标隐状态序列h't：
h′t＝Whht+Wvvt
式中，ht,h't∈Rm,Wh∈Rm×m,Wv∈Rm×k，Wh和Wv均为待训练学习的参数矩阵，Rm为m行的实数矩阵，Rm×m为m行m列的实数矩阵，Rm×k为m行k列的实数矩阵。
进一步的，所述利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型，包括：
将所述目标隐状态序列作为LSTM网络的初始隐藏层状态并输入至所述LSTM网络中，并根据下列公式计算t个隐藏层状态：
h″t＝σ(Wh″t-1+b)
式中，h″t为第t个神经元输出的隐藏层状态，h″t-1为第t-1个神经元输出的隐藏层状态，W为权重矩阵，b为偏置项，σ为神经元激活函数；
根据下列公式计算每个隐藏层状态输出的预测结果：
y″t＝σ(vh″t+c)
式中，y″t为第t个神经元输出的预测结果，V为权重矩阵，c为偏置项，σ为神经元激活函数。
进一步的，还包括：
通过损失函数计算所述TPA-Seq2Seq网络模型的预测值和对应的真实值之间偏差的均方误差：
式中，yi为第i个数据的真实值，y'i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为样本个数。
进一步的，所述通过所述测试集对所述TPA-Seq2Seq网络模型进行评价，包括：
通过MAPE指标对所述TPA-Seq2Seq网络模型进行评价，计算公式为：
式中，yi为测试集中第i个数据的真实值，y'i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为测试集样本个数。
第二方面，本发明实施例提供了一种基于TPA-Seq2Seq的电力负荷预测装置，包括：
获取单元，用于获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；
编码单元，用于对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；
学习单元，用于通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；
解码单元，用于利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；
评价单元，用于通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；
预测单元，用于通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。
第三方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述的电力负荷预测方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述的电力负荷预测方法。
本发明实施例提供了一种基于TPA-Seq2Seq的电力负荷预测方法、装置、计算机设备及存储介质。所述方法包括：获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。本发明实施例利用TPA-Seq2Seq网络模型对包含多变量时间序列的电力数据进行预测，充分考虑多个时序数据间的时间相关性，从而提高电力负荷预测精度，使预测结果更准确。
附图说明
为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种基于TPA-Seq2Seq电力负荷预测方法的流程示意图；
图2为本发明实施例提供的一种基于TPA-Seq2Seq电力负荷预测方法的子流程示意图；
图3为本发明实施例提供的一种基于TPA-Seq2Seq电力负荷预测方法的网络结构示意图；
图4为本发明实施例提供的一种基于TPA-Seq2Seq电力负荷预测装置的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
下面请参见图1，图1为本发明实施例提供的一种基于TPA-Seq2Seq的电力负荷预测方法的流程示意图，具体包括：步骤S101～S106。
S101、获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；
S102、对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；
S103、通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；
S104、利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；
S105、通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；
S106、通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。
循环神经网络(RNN，Recurrent Neural Network)是一种引入循环反馈的深层神经网络，考虑到时间序列的时序相关性，在学习具有长期依赖的时序数据上表现出相对于其他神经网络更强的实用性。长短期记忆(LSTM，Long Short-Term Memory)循环神经网络是RNN的一种特殊模型，其能够学习时序数据之间的长期依赖关系，从而有效地解决了常规RNN训练过程中的梯度消失和梯度爆炸问题，并因此在时间序列预测领域得到广泛应用。但是不论是RNN网络模型，还是长短期记忆(LSTM)网络模型，它们都存在处理固定长度序列数据的限制。而Seq2Seq网络模型在将一个序列作为输入映射到另一个输出序列时，主要完成编码输入与解码输出两个基本环节，进而可以解决不定长的序列数据输入问题。因此Seq2Seq网络模型的训练过程能够更好的学习数据之间的时序关系，也能够保持更强的鲁棒性。
另外，传统注意力机制会选择相关的时间步加权，而TPA注意力机制(TemporalPattern Attention)则会选择相关变量进行加权，这种注意力机制(即TPA注意力机制)能够考虑到不同变量对预测变量的影响大小，侧重于选择关键变量，可对周期不明显的电力负荷数据进行多变量的精细化预测。
如图3所示，本实施例提供的网络结构示意图具体包括数据处理过程、Seq2Seq网络模型编码过程、TPA注意力机制学习过程以及Seq2Seq网络模型解码输出预测结果。本实施例将Seq2Seq网络模型与TPA注意力机制相结合，对基于多变量时间序列的电力负荷数据进行预测，既可以解决不定长的序列数据输入问题，又可以对周期不明显的电力负荷数据进行多变量的精细化预测，从而提高电力负荷预测精度，使预测结果更准确。
需要说明的是，在步骤S101中，所获取的用电量数据对应的相关变量数据具体可以是指温度、天气、降水量、节假日以及季节等各自对应的数据，并且由于各变量的数量级或者量纲可能不一致，因此需要对获取的用电量数据及其对应的相关变量数据进行归一化处理。另外，本实施例中的数据集包含的用电量数据及其对应的相关变量数据均为历史数据。
在一实施例中，所述步骤S102包括：根据预设滑窗的窗口长度对所述数据集进行滚动切分，得到k组多变量时间序列，并使每组多变量时间序列包含w个时刻的样本数据，且每个时刻的样本数据包含n个特征变量。
本实施例中，为了匹配网络模型的输入条件，因而对数据集进行滚动切分。具体的，根据预设滑窗的窗口长度可以将数据集滚动切分为(k，w，n)形式，其中，k为经过滚动切分后的组数，w为每一组包含的样本个数，n为某时刻的样本特征个数。在这里，滑窗的窗口长度的大小和(k，w，n)中的w的大小相同。例如当滑窗的窗口长度为6，则第一组数据为时刻1到时刻7，第二组数据为时刻2到时刻8，以此类推，最终得到k组数据。通过上述滚动切分的方法，使得到的每一组数据均包含w个时刻的样本数据，每个样本数据有n个特征。
在一实施例中，所述隐状态矩阵为：H＝{ht-w,ht-w+1,……,ht-1}，其中，每一隐状态的维度为m，w为滑窗窗口长度，t为最后时刻，ht即为最后时刻的隐状态。
本实施例中，在将预处理后的多变量时间序列输入编码器中的LSTM网络模型后，LSTM网络模型会在每一个时刻输出一个隐状态，而这些隐状态分别为最后一个时刻的ht以及之前时刻的隐状态矩阵H＝{ht-w,ht-w+1,……,ht-1}，其中，每一个隐状态的维度为m。也就是说，本实施例中的隐状态矩阵由除最后时刻的隐状态以外的其余时刻的隐状态构成。
在一实施例中，如图2所示，所述步骤S104包括：步骤S201～S205。
S201、按下述公式对所述隐状态的相关变量进行卷积计算，得到目标矩阵HC：
式中，Hi,j表示所述隐状态矩阵H第i个行向量和第j个卷积核作用的结果值，T为TPA注意力机制过程中所覆盖的范围，l表示所述滑窗的窗口长度w中的每个时刻；
本步骤中，对上一步骤(即步骤S103)获得的隐状态用k个1×T的卷积核做卷积。具体的，卷积核沿隐状态矩阵H的行向量计算卷积，并提取该变量在该卷积核范围内的时间模式矩阵。另外，T为TPA注意力机制过程中所覆盖的范围，通常令T＝w，即预设滑窗的滑窗长度。
S202、按下述公式计算所述目标矩阵HC第i个行向量与最后时刻的隐状态ht的相关性，并得到相关性评分函数：
式中，f为相关性评分函数，
为目标矩阵的第i行，ht为最后时刻的隐状态，Wa∈Rm×k，Wa为待训练学习的参数矩阵，Rm×k为m行k列的实数矩阵；
S203、按下述公式利用sigmoid函数对所述相关性评分函数进行归一化处理，得到注意力权重αi：
本步骤中，利用sigmoid函数对相关性评分函数所得结果进行归一化处理，将变量映射到0到1之间，从而得到便于选择多变量的注意力权重。
S204、按下述公式利用所述注意力权重αi对所述目标矩阵HC的每一行进行加权求和，得到上下文向量vt：
式中，αi为注意力权重，
为目标矩阵的第i行，m为隐状态的维度；
本步骤中，上下文向量vt表示对时间模式矩阵(即目标矩阵HC)行向量的加权求和，且其行向量代表单个变量的时间模式，因此TPA注意力机制选择相关变量加权，以便本实施例中的网络模型能够学习多个变量之间的相互依赖性。并且，这种相互依赖型不仅体现在同一时间步内，而且体现在所有历史的时间和序列中。
S205、按下述公式将所述上下文向量vt与所述LSTM编码器中输出的最后时刻的隐状态ht进行融合，得到所述目标隐状态序列h't：
h′t＝Whht+Wvvt
式中，ht,h't∈Rm,Wh∈Rm×m,Wv∈Rm×k，Wh和Wv均为待训练学习的参数矩阵，Rm为m行的实数矩阵，Rm×m为m行m列的实数矩阵，Rm×k为m行k列的实数矩阵。
本步骤中，Wa(即步骤S202中的Wa)、Wh和Wv均是首先随机初始化，然后在所述TPA-Seq2Seq网络模型训练优化后获得的参数矩阵，也就是说，Wa、Wh和Wv会随着所述TPA-Seq2Seq网络模型的训练优化后而对应优化，如此，可以为所述TPA-Seq2Seq网络模型找到最优权重，从而更好的将vt和ht融合。
本实施例中，TPA注意力机制用于对隐状态的相关变量进行加权，生成新的隐状态序列，其主要由一维卷积和Attention机制两部分构成。在一维卷积部分中，利用卷积捕获可变信号的时间模式。通过对目标矩阵中的每一行做加权求和，得到新的隐状态序列(即目标隐状态序列)。
在一实施例中，所述步骤S105包括：
将所述目标隐状态序列作为LSTM网络的初始隐藏层状态并输入至所述LSTM网络中，并根据下列公式计算t个隐藏层状态：
h″t＝σ(Wh″t-1+b)
式中，h″t为第t个神经元输出的隐藏层状态，h″t-1为第t-1个神经元输出的隐藏层状态，W为权重矩阵，b为偏置项，σ为神经元激活函数；
根据下列公式计算每个隐藏层状态输出的预测结果：
y″t＝σ(vh″t+c)
式中，y″t为第t个神经元输出的预测结果，V为权重矩阵，c为偏置项，σ为神经元激活函数。
本实施例中，将目标隐状态序列输入至Seq2Seq网络模型的解码器进行解码预测。所谓解码，就是将之前生成的固定向量再转化成输出序列。具体的，将目标隐状态序列h't作为解码器中的LSTM网络模型的初始隐藏状态，并输入至解码器中的LSTM网络模型中，后续只接受上一个神经元的隐藏层状态，而不接收其他的输入。例如，从初始隐藏状态开始计算，公式如下：
h″1＝σ(wh″1+b)
式中，h″1为第一个神经元输出的隐藏层状态，其中W为权重矩阵，b为偏置项，σ为神经元激活函数；
y″1＝σ(vh″1+c)
式中，y″1为第一个神经元输出的预测结果，其中V为权重矩阵，c为偏置项，σ为神经元激活函数；
然后将第一个神经元隐藏层状态h″1输入到下一个神经元，得到第二个神经元隐藏层状态h”2和第二个神经元输出的预测结果y”2，以此类推，第t个神经元的隐藏层状态和预测结果即为：
h″t＝σ(Wh″t-1+b)
y″t＝σ(vh″t+c)
在一实施例中，所述基于TPA-Seq2Seq的电力负荷预测方法还包括：通过损失函数计算所述TPA-Seq2Seq网络模型的预测值和对应的真实值之间偏差的均方误差：
式中，yi为第i个数据的真实值，y'i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为样本个数。
本实施例中，根据损失函数计算出的均方误差对所述TPA-Seq2Seq网络模型进行优化，也就是对所述TPA-Seq2Seq网络模型中的参数进行优化，从而使预测结果更加准确。在一具体实施例中，选用自适应学习率的Adam优化算法对所述TPA-Seq2Seq网络模型进行优化，加快收敛速度。Adam优化算法是一种可以替代传统随机梯度下降过程的一阶优化算法，它能基于训练数据的迭代更新神经网络权重。
在一实施例中，所述步骤S106包括：通过MAPE指标对所述TPA-Seq2Seq网络模型进行评价，计算公式为：
式中，yi为测试集中第i个数据的真实值，yi'为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为测试集样本个数。
本实施例中，利用MAPE指标对经过训练优化的TPA-Seq2Seq网络模型进行评价，确保最后得到的预测结果准确可靠。
图4为本发明实施例提供的一种基于TPA-Seq2Seq的电力负荷预测装置400，所述装置400包括：
获取单元401，用于获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；
编码单元402，用于对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；
学习单元403，用于通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；
解码单元404，用于利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；
评价单元405，用于通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；
预测单元406，用于通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。
在一实施例中，所述编码单元402包括：
滚动切分单元，用于根据预设滑窗的窗口长度对所述数据集进行滚动切分，得到k组多变量时间序列，并使每组多变量时间序列包含w个时刻的样本数据，且每个时刻的样本数据包含n个特征变量。
在一实施例中，所述隐状态矩阵为：H＝{ht-w,ht-w+1,……,ht-1}，其中，每一隐状态的维度为m，w为滑窗窗口长度，t为最后时刻,ht即为最后时刻的隐状态。
在一实施例中，所述学习单元403包括：
卷积计算单元，用于按下述公式对所述隐状态的相关变量进行卷积计算，得到目标矩阵HC：
式中，Hi,j表示所述隐状态矩阵H第i个行向量和第j个卷积核作用的结果值，T为TPA注意力机制过程中所覆盖的范围，l表示所述滑窗的窗口长度w中的每个时刻；
相关性计算单元，用于按下述公式计算所述目标矩阵HC第i个行向量与最后时刻的隐状态ht的相关性，并得到相关性评分函数：
式中，f为相关性评分函数，
为目标矩阵的第i行，ht为最后时刻的隐状态，Wa∈Rm×k，Wa为待训练学习的参数矩阵，Rm×k为m行k列的实数矩阵；
归一化处理单元，用于按下述公式利用sigmoid函数对所述相关性评分函数进行归一化处理，得到注意力权重αi：
加权求和单元，用于按下述公式利用所述注意力权重αi对所述目标矩阵HC的每一行进行加权求和，得到上下文向量vt：
式中，αi为注意力权重，
为目标矩阵的第i行，m为隐状态的维度；
融合单元，用于按下述公式将所述上下文向量vt与所述LSTM编码器中输出的最后时刻的隐状态ht进行融合，得到所述目标隐状态序列h't：
h′t＝Whht+Wvvt
式中，ht,h't∈Rm,Wh∈Rm×m,Wv∈Rm×k，Wh和Wv均为待训练学习的参数矩阵，Rm为m行的实数矩阵，Rm×m为m行m列的实数矩阵，Rm×k为m行k列的实数矩阵。
在一实施例中，所述解码单元404包括：
输入单元，用于将所述目标隐状态序列作为LSTM网络的初始隐藏层状态并输入至所述LSTM网络中，并根据下列公式计算t个隐藏层状态：
h″t＝σ(Wh″t-1+b)
式中，h″t为第t个神经元输出的隐藏层状态，h″t-1为第t-1个神经元输出的隐藏层状态，W为权重矩阵，b为偏置项，σ为神经元激活函数；
输出单元，用于根据下列公式计算每个隐藏层状态输出的预测结果：
y″t＝σ(vh″t+c)
式中，y″t为第t个神经元输出的预测结果，V为权重矩阵，c为偏置项，σ为神经元激活函数。
在一实施例中，所述装置400还包括：
均方误差单元，用于通过损失函数计算所述TPA-Seq2Seq网络模型的预测值和对应的真实值之间偏差的均方误差：
式中，yi为第i个数据的真实值，y′i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为样本个数。
在一实施例中，所述评价单元405包括：
指标评价单元，用于通过MAPE指标对所述TPA-Seq2Seq网络模型进行评价，计算公式为：
式中，yi为测试集中第i个数据的真实值，y′i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为测试集样本个数。
由于装置部分的实施例与方法部分的实施例相互对应，因此装置部分的实施例请参见方法部分的实施例的描述，这里暂不赘述。
本发明实施例还提供了一种计算机可读存储介质，其上存有计算机程序，该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明实施例还提供了一种计算机设备，可以包括存储器和处理器，存储器中存有计算机程序，处理器调用存储器中的计算机程序时，可以实现上述实施例所提供的步骤。当然电子设备还可以包括各种网络接口，电源等组件。
说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。
还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的状况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，包括：
获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；
对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；
通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；
利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；
通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；
通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。
2.根据权利要求1所述的基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，所述对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq模型中，包括：
根据预设滑窗的窗口长度对所述数据集进行滚动切分，得到k组多变量时间序列，并使每组多变量时间序列包含w个时刻的样本数据，且每个时刻的样本数据包含n个特征变量。
3.根据权利要求1所述的基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，所述隐状态矩阵为：
H＝{ht-w,ht-w+1,……,ht-1}，其中，每一隐状态的维度为m，w为滑窗窗口长度，t为最后时刻，ht即为最后时刻的隐状态。
4.根据权利要求2所述的基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，所述通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列，包括：
按下述公式对所述隐状态的相关变量进行卷积计算，得到目标矩阵HC：
式中，Hi,j表示所述隐状态矩阵H第i个行向量和第j个卷积核作用的结果值，T为TPA注意力机制过程中所覆盖的范围，l表示所述滑窗的窗口长度w中的每个时刻；
按下述公式计算所述目标矩阵HC第i个行向量与最后时刻的隐状态ht的相关性，并得到相关性评分函数：
式中，f为相关性评分函数，
为目标矩阵的第i行，ht为最后时刻的隐状态，Wa∈Rm×k，Wa为待训练学习的参数矩阵，Rm×k为m行k列的实数矩阵；
按下述公式利用sigmoid函数对所述相关性评分函数进行归一化处理，得到注意力权重αi：
按下述公式利用所述注意力权重αi对所述目标矩阵HC的每一行进行加权求和，得到上下文向量vt：
式中，αi为注意力权重，
为目标矩阵的第i行，m为隐状态的维度；
按下述公式将所述上下文向量vt与所述LSTM编码器中输出的最后时刻的隐状态ht进行融合，得到所述目标隐状态序列h't：
h′t＝Whht+Wvvt
式中，ht,h't∈Rm,Wh∈Rm×m,Wv∈Rm×k，Wh和Wv均为待训练学习的参数矩阵，Rm为m行的实数矩阵，Rm×m为m行m列的实数矩阵，Rm×k为m行k列的实数矩阵。
5.根据权利要求1所述的基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，所述利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型，包括：
将所述目标隐状态序列作为LSTM网络的初始隐藏层状态并输入至所述LSTM网络中，并根据下列公式计算t个隐藏层状态：
h″t＝σ(Wh″t-1+b)
式中，h″t为第t个神经元输出的隐藏层状态，h″t-1为第t-1个神经元输出的隐藏层状态，W为权重矩阵，b为偏置项，σ为神经元激活函数；
根据下列公式计算每个隐藏层状态输出的预测结果：
y″t＝σ(vh″t+c)
式中，y″t为第t个神经元输出的预测结果，V为权重矩阵，c为偏置项，σ为神经元激活函数。
6.根据权利要求1所述的基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，还包括：
通过损失函数计算所述TPA-Seq2Seq网络模型的预测值和对应的真实值之间偏差的均方误差：
式中，yi为第i个数据的真实值，y′i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为样本个数。
7.根据权利要求1所述的基于TPA-Seq2Seq的电力负荷预测方法，其特征在于，所述通过所述测试集对所述TPA-Seq2Seq网络模型进行评价，包括：
通过MAPE指标对所述TPA-Seq2Seq网络模型进行评价，计算公式为：
式中，yi为测试集中第i个数据的真实值，y′i为第i个数据在所述TPA-Seq2Seq网络模型输出的预测值，n为测试集样本个数。
8.一种基于TPA-Seq2Seq的电力负荷预测装置，其特征在于，包括：
获取单元，用于获取用电量数据及其对应的相关变量数据，得到多变量时间序列，并对所述用电量数据及其对应的相关变量数据进行归一化处理，得到对应的数据集，并将所述数据集分为训练集和测试集；
编码单元，用于对所述数据集进行滚动切分处理，并将预处理后的多变量时间序列输入至Seq2Seq网络模型中，利用所述Seq2Seq网络模型中的LSTM编码器计算所述多变量时间序列的隐状态，并得到隐状态矩阵；
学习单元，用于通过TPA注意力机制对所述隐状态矩阵进行学习，并加权输出目标隐状态序列；
解码单元，用于利用Seq2Seq网络模型中的解码器对所述目标隐状态序列进行解码，得到预测结果，从而构建TPA-Seq2Seq网络模型；
评价单元，用于通过所述测试集对所述TPA-Seq2Seq网络模型进行评价；
预测单元，用于通过所述TPA-Seq2Seq网络模型对未来指定时间的用电量数据进行预测。
9.一种计算机设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的基于TPA-Seq2Seq的电力负荷预测方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7任一项基于TPA-Seq2Seq的所述的电力负荷预测方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010419020.8A CN111553543B (zh) | 2020-05-18 | 2020-05-18 | 基于TPA-Seq2Seq的电力负荷预测方法及相关组件 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010419020.8A CN111553543B (zh) | 2020-05-18 | 2020-05-18 | 基于TPA-Seq2Seq的电力负荷预测方法及相关组件 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111553543A true CN111553543A (zh) | 2020-08-18 |
| CN111553543B CN111553543B (zh) | 2022-11-18 |
Family
ID=72008302
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010419020.8A Active CN111553543B (zh) | 2020-05-18 | 2020-05-18 | 基于TPA-Seq2Seq的电力负荷预测方法及相关组件 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111553543B (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112396001A (zh) * | 2020-11-20 | 2021-02-23 | 安徽一视科技有限公司 | 基于人体姿态估计和tpa注意力机制的跳绳个数统计方法 |
| CN112884230A (zh) * | 2021-02-26 | 2021-06-01 | 润联软件系统(深圳)有限公司 | 基于多元时间序列的电力负荷预测方法、装置及相关组件 |
| CN112910690A (zh) * | 2021-01-18 | 2021-06-04 | 武汉烽火技术服务有限公司 | 基于神经网络模型的网络流量预测方法、装置及设备 |
| CN113128772A (zh) * | 2021-04-24 | 2021-07-16 | 中新国际联合研究院 | 一种基于序列到序列模型的人群数量预测方法以及装置 |
| CN113360848A (zh) * | 2021-06-04 | 2021-09-07 | 北京工商大学 | 一种时序数据预测方法及装置 |
| CN115297496A (zh) * | 2022-09-28 | 2022-11-04 | 南昌航空大学 | 结合Bi-LSTM和时间模式注意力的链路质量预测方法 |
| CN116227878A (zh) * | 2023-02-28 | 2023-06-06 | 深圳市大数据研究院 | 电力负荷分解分析方法、系统、计算机设备及存储介质 |
| CN116451006A (zh) * | 2023-06-12 | 2023-07-18 | 湖南大学 | 基于增强型时序模式注意力的pmu数据恢复方法及系统 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180336884A1 (en) * | 2017-05-19 | 2018-11-22 | Baidu Usa Llc | Cold fusing sequence-to-sequence models with language models |
| CN109214592A (zh) * | 2018-10-17 | 2019-01-15 | 北京工商大学 | 一种多模型融合的深度学习的空气质量预测方法 |
| CN110070224A (zh) * | 2019-04-20 | 2019-07-30 | 北京工业大学 | 一种基于多步骤递归预测的空气质量预测方法 |
| CN110290582A (zh) * | 2019-05-22 | 2019-09-27 | 浙江工业大学 | 一种基于seq2seq框架的基站标号轨迹预测方法 |
| CN110648527A (zh) * | 2019-08-20 | 2020-01-03 | 浙江工业大学 | 一种基于深度学习模型的交通速度预测方法 |
| US20200074274A1 (en) * | 2018-08-28 | 2020-03-05 | Beijing Jingdong Shangke Information Technology Co., Ltd. | System and method for multi-horizon time series forecasting with dynamic temporal context learning |
| WO2020086115A1 (en) * | 2018-10-24 | 2020-04-30 | Jia Cui | Multi-task training architecture and strategy for attention- based speech recognition system |
| CN111160628A (zh) * | 2019-12-13 | 2020-05-15 | 重庆邮电大学 | 一种基于CNN和双注意力seq2seq的空气污染物浓度预测方法 |
-
2020
- 2020-05-18 CN CN202010419020.8A patent/CN111553543B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180336884A1 (en) * | 2017-05-19 | 2018-11-22 | Baidu Usa Llc | Cold fusing sequence-to-sequence models with language models |
| US20200074274A1 (en) * | 2018-08-28 | 2020-03-05 | Beijing Jingdong Shangke Information Technology Co., Ltd. | System and method for multi-horizon time series forecasting with dynamic temporal context learning |
| CN109214592A (zh) * | 2018-10-17 | 2019-01-15 | 北京工商大学 | 一种多模型融合的深度学习的空气质量预测方法 |
| WO2020086115A1 (en) * | 2018-10-24 | 2020-04-30 | Jia Cui | Multi-task training architecture and strategy for attention- based speech recognition system |
| CN110070224A (zh) * | 2019-04-20 | 2019-07-30 | 北京工业大学 | 一种基于多步骤递归预测的空气质量预测方法 |
| CN110290582A (zh) * | 2019-05-22 | 2019-09-27 | 浙江工业大学 | 一种基于seq2seq框架的基站标号轨迹预测方法 |
| CN110648527A (zh) * | 2019-08-20 | 2020-01-03 | 浙江工业大学 | 一种基于深度学习模型的交通速度预测方法 |
| CN111160628A (zh) * | 2019-12-13 | 2020-05-15 | 重庆邮电大学 | 一种基于CNN和双注意力seq2seq的空气污染物浓度预测方法 |
Non-Patent Citations (2)
| Title |
|---|
| SHIH SHUN-YAO等: ""Temporal Pattern Attention for Multivariate Time Series Forecasting"", 《MACHINE LEARNING》 * |
| 徐如阳等: "卷积自注意力编码过滤的强化自动摘要模型", 《小型微型计算机系统》 * |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112396001A (zh) * | 2020-11-20 | 2021-02-23 | 安徽一视科技有限公司 | 基于人体姿态估计和tpa注意力机制的跳绳个数统计方法 |
| CN112910690A (zh) * | 2021-01-18 | 2021-06-04 | 武汉烽火技术服务有限公司 | 基于神经网络模型的网络流量预测方法、装置及设备 |
| CN112884230A (zh) * | 2021-02-26 | 2021-06-01 | 润联软件系统(深圳)有限公司 | 基于多元时间序列的电力负荷预测方法、装置及相关组件 |
| CN112884230B (zh) * | 2021-02-26 | 2022-05-24 | 润联软件系统(深圳)有限公司 | 基于多元时间序列的电力负荷预测方法、装置及相关组件 |
| CN113128772A (zh) * | 2021-04-24 | 2021-07-16 | 中新国际联合研究院 | 一种基于序列到序列模型的人群数量预测方法以及装置 |
| CN113360848A (zh) * | 2021-06-04 | 2021-09-07 | 北京工商大学 | 一种时序数据预测方法及装置 |
| CN115297496A (zh) * | 2022-09-28 | 2022-11-04 | 南昌航空大学 | 结合Bi-LSTM和时间模式注意力的链路质量预测方法 |
| CN115297496B (zh) * | 2022-09-28 | 2022-12-20 | 南昌航空大学 | 结合Bi-LSTM和时间模式注意力的链路质量预测方法 |
| CN116227878A (zh) * | 2023-02-28 | 2023-06-06 | 深圳市大数据研究院 | 电力负荷分解分析方法、系统、计算机设备及存储介质 |
| CN116227878B (zh) * | 2023-02-28 | 2023-10-20 | 深圳市大数据研究院 | 电力负荷分解分析方法、系统、计算机设备及存储介质 |
| CN116451006A (zh) * | 2023-06-12 | 2023-07-18 | 湖南大学 | 基于增强型时序模式注意力的pmu数据恢复方法及系统 |
| CN116451006B (zh) * | 2023-06-12 | 2023-08-25 | 湖南大学 | 基于增强型时序模式注意力的pmu数据恢复方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111553543B (zh) | 2022-11-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111553543B (zh) | 基于TPA-Seq2Seq的电力负荷预测方法及相关组件 | |
| CN111191841B (zh) | 一种电力负荷预测方法、装置、计算机设备及存储介质 | |
| Rafiei et al. | Probabilistic load forecasting using an improved wavelet neural network trained by generalized extreme learning machine | |
| Hota et al. | Time series data prediction using sliding window based RBF neural network | |
| Bianchi et al. | Short-term electric load forecasting using echo state networks and PCA decomposition | |
| Alencar et al. | Hybrid approach combining SARIMA and neural networks for multi-step ahead wind speed forecasting in Brazil | |
| CN111985719B (zh) | 一种基于改进的长短期记忆网络的电力负荷预测方法 | |
| CN112288137A (zh) | 一种计及电价和Attention机制的LSTM短期负荷预测方法及装置 | |
| Hendikawati | A survey of time series forecasting from stochastic method to soft computing | |
| CN114492922A (zh) | 一种中长期发电量预测方法 | |
| CN113360848A (zh) | 一种时序数据预测方法及装置 | |
| JPH06337852A (ja) | ニューラルネットワークによる時系列予測方法 | |
| CN115860232A (zh) | 一种蒸汽负荷预测方法、系统、电子设备及介质 | |
| Mo et al. | A model of oil price forecasting based on autoregressive and moving average | |
| Viana et al. | Load forecasting benchmark for smart meter data | |
| CN113191526A (zh) | 一种基于随机敏感度的短期风速区间多目标优化预测方法及系统 | |
| Kiefer et al. | Artificial intelligence in supply chain management: investigation of transfer learning to improve demand forecasting of intermittent time series with deep learning | |
| CN112183814A (zh) | 一种短期风速预测方法 | |
| Parri et al. | A hybrid GAN based autoencoder approach with attention mechanism for wind speed prediction | |
| Chiewchanwattana et al. | Time-series data prediction based on reconstruction of missing samples and selective ensembling of FIR neural networks | |
| Sineglazov et al. | A method for building a forecasting model with dynamic weights | |
| Lee et al. | Teaching and learning the AI modeling | |
| Yadav Vanguri et al. | Extraction of Technical Indicators and Data Augmentation-Based Stock Market Prediction Using Deep LSTM Integrated Competitive Swarm Feedback Algorithm | |
| CN117318055B (zh) | 电力负荷预测模型处理方法、装置、电子设备和存储介质 | |
| Zhang et al. | Short-term wind speed forecasting using a multi-model ensemble |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CB02 | Change of applicant information |
Address after: Room 801, building 2, Shenzhen new generation industrial park, 136 Zhongkang Road, Meidu community, Meilin street, Futian District, Shenzhen, Guangdong 518000 Applicant after: China Resources Digital Technology Co.,Ltd. Address before: Room 2301, building 2, Fangda Plaza, No.20, Gaofa West Road, Taoyuan community, Taoyuan Street, Nanshan District, Shenzhen, Guangdong 518000 Applicant before: Runlian software system (Shenzhen) Co.,Ltd. |
|
| CB02 | Change of applicant information |