CN113052388A - 一种时间序列预测方法及装置 - Google Patents

一种时间序列预测方法及装置 Download PDF

Info

Publication number
CN113052388A
CN113052388A CN202110354016.2A CN202110354016A CN113052388A CN 113052388 A CN113052388 A CN 113052388A CN 202110354016 A CN202110354016 A CN 202110354016A CN 113052388 A CN113052388 A CN 113052388A
Authority
CN
China
Prior art keywords
network
model parameters
echo state
recursive
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110354016.2A
Other languages
English (en)
Inventor
白玉廷
金学波
王小艺
石志刚
苏婷立
孔建磊
赵峙尧
王立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Technology and Business University
Original Assignee
Beijing Technology and Business University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Technology and Business University filed Critical Beijing Technology and Business University
Priority to CN202110354016.2A priority Critical patent/CN113052388A/zh
Publication of CN113052388A publication Critical patent/CN113052388A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks

Abstract

本发明提出了一种时间序列预测方法，所述方法包括：构建递归深度回声状态网络；对所述递归深度回声状态网络进行网络训练获得模型参数；通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化；将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。本发明通过构建递归深度回声状态网络，并通过贝叶斯优化的方式对递归深度回声状态网络的模型参数进行优化，可以在保证预测精度的同时显著缩短参数搜寻时间，实现对时间序列数据的可靠预测。

Description

一种时间序列预测方法及装置
技术领域
本申请涉及机器学习与数据建模领域，尤其涉及一种时间序列预测方法及装置。
背景技术
随着信息技术的发展，现代社会逐渐变成一个数字信息的社会。数据也扮演着越来越重要的作用。在生活中，有非常多的场景与数据有这非常紧密的联系。如，每天气温的变化、股票价格的波动、空气质量的变化，这些都与我们息息相关。这些数据中往往蕴含着某些规律，通过寻找这些数据的规律，我们可以更好地做出预测和防范，防止危害的发生。然而，对于这些非平稳的数据来说，有着非平稳、非线性、噪声大的特点。因此，对这些数据进行合理的分析和建模是非常重要的。在对这些数据的建模方法中，神经网络是目前最为有效的方法。RNN、GRU、LSTM等神经网络模型虽然非线性模拟能力好，然而，这些模型的训练需要经过很多次的反向传播迭代，训练速度较慢，不利于模型更新。而递归深度回声状态网络只需要进行储备层运算，不需要进行误差反向传播运算，大大减少了模型训练时间，且预测精度较高，是一种适用于工业界的预测方法。然而，对于递归深度回声状态网络模型来说，模型有非常多的参数需要确定，包括：储备层数量、谱半径、输入缩放比例、每层神经元个数、遗忘率等参数。对于这些参数的确定，通过遍历的方法可以得到最优解，但遍历的方法需要非常多的时间，会造成资源的浪费，同时，实际生产不允许我们耗费大量的时间去调参。
发明内容
为解决上述技术问题之一，本发明提供了一种时间序列预测方法及装置。
本发明实施例第一方面提供了一种时间序列预测方法，所述方法包括：
构建递归深度回声状态网络；
对所述递归深度回声状态网络进行网络训练获得模型参数；
通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化；
将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。
优选地，所述递归深度回声状态网络包括输入层、输出层和多个储备层；
所述输入层用于接收数据信息；
所述多个储备层中第M个储备层的输入为第M-1个储备层的输出，所述储备层用于对所述数据信息进行深度处理获得状态信息，并对所述储备层中的状态信息进行更新；
所述输出层用于输出网络预测值。
优选地，所述对所述递归深度回声状态网络进行网络训练获得模型参数的过程包括：
接收输入样本；
对所述输入样本进行深度处理获得状态信息；
计算所述状态信息和所述输入样本所对应的真实输出数据的线性拟合关系获得模型参数。
优选地，所述通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化的过程包括：
通过最大化采集函数对所述递归深度回声状态网络的模型参数的评估点分布和所述递归深度回声状态网络的预测性能进行权衡获得模型参数的新评估点；
在所述模型参数的新评估点中选择最小值获得优化后的模型参数。
优选地，所述将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值的过程包括：
接收待预测数据；
对所述待预测数据进行深度处理获得状态信息；
对所述状态信息和优化后的模型参数进行矩阵相乘获得网络预测值。
本发明实施例第二方面提供了一种时间序列预测装置，所述装置包括处理器，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
构建递归深度回声状态网络；
对所述递归深度回声状态网络进行网络训练获得模型参数；
通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化；
将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。
优选地，所述递归深度回声状态网络包括输入层、输出层和多个储备层；
所述输入层用于接收数据信息；
所述多个储备层中第M个储备层的输入为第M-1个储备层的输出，所述储备层用于对所述数据信息进行深度处理获得状态信息，并对所述储备层中的状态信息进行更新；
所述输出层用于输出网络预测值。
优选地，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
接收输入样本；
对所述输入样本进行深度处理获得状态信息；
计算所述状态信息和所述输入样本所对应的真实输出数据的线性拟合关系获得模型参数。
优选地，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
通过最大化采集函数对所述递归深度回声状态网络的模型参数的评估点分布和所述递归深度回声状态网络的预测性能进行权衡获得模型参数的新评估点；
在所述模型参数的新评估点中选择最小值获得优化后的模型参数。
优选地，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
接收待预测数据；
对所述待预测数据进行深度处理获得状态信息；
对所述状态信息和优化后的模型参数进行矩阵相乘获得网络预测值。
本发明的有益效果如下：本发明通过构建递归深度回声状态网络，并通过贝叶斯优化的方式对递归深度回声状态网络的模型参数进行优化，可以在保证预测精度的同时显著缩短参数搜寻时间，实现对时间序列数据的可靠预测。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本发明实施例所述的时间序列预测方法的流程图；
图2为本发明实施例所述的递归深度回声状态网络的结构图；
图3为本发明实施例所述的贝叶斯优化的递归深度回声状态网络对MSO数据的预测结果；
图4为本发明实施例所述的贝叶斯优化的递归深度回声状态网络对MSO数据的预测绝对误差。
具体实施方式
为了使本申请实施例中的技术方案及优点更加清楚明白，以下结合附图对本申请的示例性实施例进行进一步详细的说明，显然，所描述的实施例仅是本申请的一部分实施例，而不是所有实施例的穷举。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。
实施例1
如图1所示，本实施例提出了一种时间序列预测方法，该方法包括：
S101、构建递归深度回声状态网络，对所述递归深度回声状态网络进行网络训练获得模型参数。
具体的，本实施例中，递归深度回声状态网络由输入层、多个储备层、输出层组成，如图2所示。输入层把数据传入网络。储备层用来处理输入信息，多个递归的储备层可以对输入储备层的信息深度处理，进而获得更加丰富的状态信息。输出层通过计算由储备层的状态与真实数据之间的线性关系得到模型参数。网络训练过程通过输入层和储备层不断更新和记录状态信息，将时间序列数据的变化记录到状态信息之中，最后，通过输出层的线性拟合关系计算状态信息与真实输出之间的关系，得到模型参数，网络训练完成。
相对传统深度回声状态网络中储备层均与输出层直接连接，递归深度回声状态网络的储备层依次连接形成递归结构，此结构可实现中间变量学习过程的递进式演化，减小储备层增多引起的计算量和计算复杂度扩张，实现权重信息的有效传递。
对于一个特定的递归深度回声状态网络，它的模型结构首先定义为：输入层的神经元个数为k，储备层的层数为L，每层的神经元个数为Nl，输出层的神经元个数为p。
对于一个特定的预测任务，可定义输入为：u(n)＝[u1(n)…uk(n)]为第n个输入样本，每个样本有k个数据作为输入，y(n)＝[y1(n)…yp(n)]为输入对应的输出。第一个储备层的输入为原始样本，输出为本储备层计算得到的状态信息。当储备层的个数大于1时，每一个储备层的输入为上一个储备层得到的状态信息，输出为本储备层计算得到的状态信息。对于输出层，输入为递归深度回声状态网路得到的状态信息，输出为网络预测值。
当每一个样本输入递归深度回声状态网络之后，会通过递归深度回声状态网络更新状态信息。对于第l层储备层第n个样本，它输入递归深度回声状态网络之后，状态信息将会通过以下公式更新:
Figure BDA0003003024580000061
其中，a(l)代表每个储备层的遗忘率，x(l)(n)代表第l个储备层第n个样本输入时得到的状态，
Figure BDA0003003024580000067
代表第l个储备层的输入矩阵，i(l)(n)代表第l个储备层的输入，θ(l)代表第l个储备层的偏置，x(L)(n-1)代表从最后一个储备池得到的反馈输入，当输入为第一个样本时，没有反馈。当输入为第二个以后的样本时，储备池会将上一个样本输入时得到的状态信息作为反馈输入网络。每次输入新的样本时，各个储备层的状态随着新样本的输入，结合之前的状态信息以及储备层内部的模型参数而更新。
Figure BDA0003003024580000062
为在[0,1]区间的随机数，且服从均匀分布。在生成之后，数值不再发生改变。
Figure BDA0003003024580000063
为一个随机初始化的稀疏矩阵，为了保持良好的回声状态属性，每一个储备层的谱半径都应当小于1，即每个稀疏矩阵的最大特征值必须小于1。因此，往往将
Figure BDA0003003024580000064
通过放缩变为
Figure BDA0003003024580000065
来保证回声状态属性。
Figure BDA0003003024580000066
第1个储备层的输入为原始输入样本，当个数大于1时，储备层的输入为上一个储备层的状态。
随着状态信息的不断更新，直到最后一个储备层的状态更新完成时，整个的状态信息更新完成。当一个训练样本输入完毕时，收集最后一个储备层的状态信息：
x(n)＝x(L)(n)T
其中，T代表矩阵转置。当所有训练样本都输入网络进行训练之后，将收集到的x(n)按行排列得到X，所有的目标输出y(n)按行排列得到Y。最终，可以通过如下方法来计算递归深度回声网络训练得到的参数权重，该参数即为递归深度回声网络需要计算的模型参数：
Wout＝YXT(XXT+αE)-1
其中，α为正则化系数，上标T代表矩阵转置，-1代表矩阵求逆，E代表单位矩阵。
S102、通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化。
具体的，递归深度回声状态网络中有着许多重要的网络参数，包括网络层数、每一层的神经元个数、谱半径、遗忘率、输入缩放比例。层数过少会导致模型拟合能力不足，层数过多会导致网络过拟合，造成预测精度降低。同样，每一层的神经元个数过少或者过多会直接影响模型的预测能力。当谱半径小于1时，回声状态网络才具备回声能力，不同的谱半径有着不同的回声效果。遗忘率代表历史状态对当前状态的影响程度，遗忘率越大代表有着更多的历史状态被遗忘，反之，则当前状态受更多的历史状态信息影响。
贝叶斯优化算法是用来寻找模型超参数的一种方法。贝叶斯优化算法的目标是尽可能快的找到最优参数，使得递归深度回声状态网络模型的预测效果最佳，即在尽可能减少参数搜寻的时间下达到较优的预测精度。
假设有一组超参数X，它的每一个参数都在一定的分布区间内。对于不同的超参数组合，递归深度回声状态网络会有不同的预测性能。通过贝叶斯优化算法，在各个参数的组合中选择使得被优化的目标达到最小值。
Figure BDA0003003024580000071
在递归深度回声状态网络中，衡量预测表现的是递归深度回声状态网络的预测精度，可用如下公式来表示：
Figure BDA0003003024580000072
其中，yr代表真实值，yp代表预测值。当预测结果与真实结果越接近，RMSE越小，代表预测精度越高。
贝叶斯优化算法，通过最大化采集函数对评估点的分布以及预测性能提升做权衡来找出新的评估点，重新作为输入带入模型，获得新的输出，以此来不断更新和寻找模型参数。
在本实施例中，可选择高斯函数作为先验函数的分布假设，然后，需要有一个采集函数，用于从后验过程中选择下一个进行评估的点。
高斯过程是多维高斯分布的扩展，可以通过均值和协方差来定义。
m(x)＝E[f(x)]
k(x,x′)＝E[(f(x)-m(x))(f(x′)-m(x′))]
高斯过程可以写作：
f(x)～GP(m(x),k(x,x′))
通常将均值函数设置为零，则上述高斯过程可表示为：
f～N(0,k(x，x′))
协方差矩阵可以描述为：
Figure BDA0003003024580000081
Figure BDA0003003024580000082
通过评估均值和协方差矩阵，可以从联合后验分布中对函数值进行采样。
当一组新的评估样本加入所有的评估点集合之后，协方差矩阵更新公式为：
Figure BDA0003003024580000083
通过采样函数可以确定下一个要评估的点，相对网格搜索和随机搜索可以减少迭代次数，尽快找到最优参数值，减少资源消耗。一般从利用和探索两个方面考虑当前最优解。利用是根据当前的最优解搜索周围参数找到全局最优解。探索就是尽力探索为评估的样本点，避免陷入局部最优解。可通过实验选取UCB函数作为采样函数，表达式为：
UCB(x)＝μ(x)+εδ(x)
其中，μ(x)和δ(x)分别为采用高斯过程所得到的目标函数联合后验分布的均值和协方差。通过调整参数可以调整采样点的选择。
S103、将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。
具体的，将待预测数据输入至优化后的递归深度回声状态网络后，储备层输出状态信息。在输出层接收到最后一个储备层输出的状态信息后，可以通过将模型参数和状态信息进行矩阵相乘的方式获得最终的网络预测值：
y(n)＝g(Woutx(n))。
实施例2
对应实施例1，本实施例提出了一种时间序列预测装置，所述装置包括处理器，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
构建递归深度回声状态网络；
对所述递归深度回声状态网络进行网络训练获得模型参数；
通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化；
将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。
本实施例所提出的时间序列预测装置的工作原理可参照实施例1所记载的内容，在此不再进行赘述。本实施例通过构建递归深度回声状态网络，并通过贝叶斯优化的方式对递归深度回声状态网络的模型参数进行优化，可以在保证预测精度的同时显著缩短参数搜寻时间，实现对时间序列数据的可靠预测。
下面通过一具体实例说明本发明所提出的时间序列预测方法的具体过程和预测效果。
MSO仿真数据是一种典型的非平稳时间序列。它由多个不同频率的正弦分量叠加而成。本发明使用8个正弦分量叠加而成的MSO数据来代表非平稳的时间序列来衡量递归深度回声状态网络在非平稳时间序列的表现。
Figure BDA0003003024580000101
其中，α1＝0.2，α2＝0.311，α3＝0.42，α4＝0.51，α5＝0.63，α6＝0.74，α7＝0.85，α8＝0.97，s＝8。
使用贝叶斯优化算法在如下参数空间中来搜寻递归深度回声状态网络中的关键参数，包括：层数、每层神经元个数、遗漏率、谱半径、输入缩放比例等五个参数：
表1
Figure BDA0003003024580000102
通过贝叶斯优化算法经过150次迭代搜寻，可得到所有情况下筛选得到的最优参数，如下表：
表2
Figure BDA0003003024580000103
为了体现递归深度回声状态网络的预测性能，与深度循环神经网络GRU模型对比，用RMSE、NRMSE、SMAPE等衡量指标来评价结果。RMSE见上文实施例1所记载的公式，NRMSE、SMAPE公式如下：
Figure BDA0003003024580000111
Figure BDA0003003024580000112
当RMSE、SMAPE越小，则预测误差越小。当NRMSE越大时，则预测结果与真实结果较接近，则预测误差越小。
表3
Figure BDA0003003024580000113
从表3可以看出：与GRU模型相比，经过贝叶斯优化的递归深度回声状态网络在RMSE、NRMSE、SMAPE等评价指标都取得了最优的结果。并且通过图3和图4所示的贝叶斯优化的递归深度回声状态网络对MSO数据的预测结果以及预测绝对误差证明了经过贝叶斯优化的递归深度回升状态网络模型在非平稳时间序列预测的任务上有更好的表现。
显然，本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。

Claims (10)

1.一种时间序列预测方法，其特征在于，所述方法包括：
构建递归深度回声状态网络；
对所述递归深度回声状态网络进行网络训练获得模型参数；
通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化；
将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。
2.根据权利要求1所述的方法，其特征在于，所述递归深度回声状态网络包括输入层、输出层和多个储备层；
所述输入层用于接收数据信息；
所述多个储备层中第M个储备层的输入为第M-1个储备层的输出，所述储备层用于对所述数据信息进行深度处理获得状态信息，并对所述储备层中的状态信息进行更新；
所述输出层用于输出网络预测值。
3.根据权利要求1或2所述的方法，其特征在于，所述对所述递归深度回声状态网络进行网络训练获得模型参数的过程包括：
接收输入样本；
对所述输入样本进行深度处理获得状态信息；
计算所述状态信息和所述输入样本所对应的真实输出数据的线性拟合关系获得模型参数。
4.根据权利要求3所述的方法，其特征在于，所述通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化的过程包括：
通过最大化采集函数对所述递归深度回声状态网络的模型参数的评估点分布和所述递归深度回声状态网络的预测性能进行权衡获得模型参数的新评估点；
在所述模型参数的新评估点中选择最小值获得优化后的模型参数。
5.根据权利要求4所述的方法，其特征在于，所述将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值的过程包括：
接收待预测数据；
对所述待预测数据进行深度处理获得状态信息；
对所述状态信息和优化后的模型参数进行矩阵相乘获得网络预测值。
6.一种时间序列预测装置，其特征在于，所述装置包括处理器，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
构建递归深度回声状态网络；
对所述递归深度回声状态网络进行网络训练获得模型参数；
通过贝叶斯优化算法对所述递归深度回声状态网络的模型参数进行优化；
将待预测数据输入至优化后的递归深度回声状态网络获得网络预测值。
7.根据权利要求6所述的装置，其特征在于，所述递归深度回声状态网络包括输入层、输出层和多个储备层；
所述输入层用于接收数据信息；
所述多个储备层中第M个储备层的输入为第M-1个储备层的输出，所述储备层用于对所述数据信息进行深度处理获得状态信息，并对所述储备层中的状态信息进行更新；
所述输出层用于输出网络预测值。
8.根据权利要求6或7所述的装置，其特征在于，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
接收输入样本；
对所述输入样本进行深度处理获得状态信息；
计算所述状态信息和所述输入样本所对应的真实输出数据的线性拟合关系获得模型参数。
9.根据权利要求8所述的装置，其特征在于，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
通过最大化采集函数对所述递归深度回声状态网络的模型参数的评估点分布和所述递归深度回声状态网络的预测性能进行权衡获得模型参数的新评估点；
在所述模型参数的新评估点中选择最小值获得优化后的模型参数。
10.根据权利要求9所述的装置，其特征在于，所述处理器，其被配置有处理器可执行的操作指令，以执行如下操作：
接收待预测数据；
对所述待预测数据进行深度处理获得状态信息；
对所述状态信息和优化后的模型参数进行矩阵相乘获得网络预测值。
CN202110354016.2A 2021-04-01 2021-04-01 一种时间序列预测方法及装置 Pending CN113052388A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110354016.2A CN113052388A (zh) 2021-04-01 2021-04-01 一种时间序列预测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110354016.2A CN113052388A (zh) 2021-04-01 2021-04-01 一种时间序列预测方法及装置

Publications (1)

Publication Number Publication Date
CN113052388A true CN113052388A (zh) 2021-06-29

Family

ID=76517080

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110354016.2A Pending CN113052388A (zh) 2021-04-01 2021-04-01 一种时间序列预测方法及装置

Country Status (1)

Country Link
CN (1) CN113052388A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023125855A1 (zh) * 2021-12-30 2023-07-06 维沃移动通信有限公司 模型更新方法及通信设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102147273A (zh) * 2010-01-29 2011-08-10 大连理工大学 一种基于数据的冶金企业高炉煤气动态预测方法
CN104408317A (zh) * 2014-12-02 2015-03-11 大连理工大学 一种基于Bootstrap回声状态网络集成的冶金企业煤气流量区间预测方法
CN105719018A (zh) * 2016-01-21 2016-06-29 中国科学院自动化研究所 基于回声状态网络的用电预测方法和系统
US20180121800A1 (en) * 2015-05-11 2018-05-03 National Institute Of Information And Communications Technology Recurrent neural network training method, computer program therefor and speech recognition device
CN108229661A (zh) * 2018-01-03 2018-06-29 华南理工大学 一种基于多次编码重投影的深度回声状态网络模型构建方法
CN110197251A (zh) * 2018-02-26 2019-09-03 中国科学院深圳先进技术研究院 基于深度学习网络的预测方法、装置、设备及存储介质
CN110472545A (zh) * 2019-08-06 2019-11-19 中北大学 基于知识迁移学习的航拍电力部件图像的分类方法
CN111914470A (zh) * 2020-06-17 2020-11-10 西安交通大学 一种能源化工生产系统多元监测时间序列回归预测方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102147273A (zh) * 2010-01-29 2011-08-10 大连理工大学 一种基于数据的冶金企业高炉煤气动态预测方法
CN104408317A (zh) * 2014-12-02 2015-03-11 大连理工大学 一种基于Bootstrap回声状态网络集成的冶金企业煤气流量区间预测方法
US20180121800A1 (en) * 2015-05-11 2018-05-03 National Institute Of Information And Communications Technology Recurrent neural network training method, computer program therefor and speech recognition device
CN105719018A (zh) * 2016-01-21 2016-06-29 中国科学院自动化研究所 基于回声状态网络的用电预测方法和系统
CN108229661A (zh) * 2018-01-03 2018-06-29 华南理工大学 一种基于多次编码重投影的深度回声状态网络模型构建方法
CN110197251A (zh) * 2018-02-26 2019-09-03 中国科学院深圳先进技术研究院 基于深度学习网络的预测方法、装置、设备及存储介质
CN110472545A (zh) * 2019-08-06 2019-11-19 中北大学 基于知识迁移学习的航拍电力部件图像的分类方法
CN111914470A (zh) * 2020-06-17 2020-11-10 西安交通大学 一种能源化工生产系统多元监测时间序列回归预测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
程国建等: "深度回声状态网络概述", 《电子科技》, vol. 31, no. 8, pages 92 - 95 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023125855A1 (zh) * 2021-12-30 2023-07-06 维沃移动通信有限公司 模型更新方法及通信设备

Similar Documents

Publication Publication Date Title
Warsito et al. Cascade forward neural network for time series prediction
CN111563706A (zh) 一种基于lstm网络的多变量物流货运量预测方法
CN112364975B (zh) 基于图神经网络的终端运行状态预测方法及系统
CN109299430A (zh) 基于两阶段分解与极限学习机的短期风速预测方法
CN111967688B (zh) 一种基于卡尔曼滤波器与卷积神经网络的电力负荷预测方法
Guo et al. A research on a comprehensive adaptive grey prediction model CAGM (1, N)
Han et al. Network traffic prediction using variational mode decomposition and multi-reservoirs echo state network
CN111931983B (zh) 一种降水量预测方法及系统
CN111932024B (zh) 一种能源负荷预测方法、装置、计算机设备及存储介质
CN114428803B (zh) 空压站运行优化方法、系统、存储介质及终端
Sun et al. A composite uncertainty forecasting model for unstable time series: Application of wind speed and streamflow forecasting
CN110969293A (zh) 一种基于迁移学习的短期广义负荷预测方法
Chen et al. The optimal design and application of LSTM neural network based on the hybrid coding PSO algorithm
CN116432543A (zh) 功率半导体模块剩余寿命预测方法、终端设备及存储介质
CN113052388A (zh) 一种时间序列预测方法及装置
CN108228978B (zh) 结合互补集合经验模态分解的Xgboost时间序列预测方法
CN113128666A (zh) 基于Mo-S-LSTMs模型的时间序列多步预测方法
Bardsiri et al. Towards improvement of analogy-based software development effort estimation: A review
Angelelli et al. Streaming generalized cross entropy
CN115392441A (zh) 量化神经网络模型的片内适配方法、装置、设备及介质
Srivastava et al. Weather Prediction Using LSTM Neural Networks
CN114720129A (zh) 一种基于双向gru的滚动轴承剩余寿命预测方法及系统
Kerboua et al. Recurrent neural network optimization for wind turbine condition prognosis
Dudukcu et al. Comprehensive comparison of LSTM variations for the prediction of chaotic time series
CN112183814A (zh) 一种短期风速预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination