CN107102969A - 一种时间序列数据的预测方法和系统 - Google Patents

一种时间序列数据的预测方法和系统 Download PDF

Info

Publication number
CN107102969A
CN107102969A CN201710292536.9A CN201710292536A CN107102969A CN 107102969 A CN107102969 A CN 107102969A CN 201710292536 A CN201710292536 A CN 201710292536A CN 107102969 A CN107102969 A CN 107102969A
Authority
CN
China
Prior art keywords
msub
mrow
data
subsequence
stationary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710292536.9A
Other languages
English (en)
Inventor
曾朝晖
黄宏伟
叶江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiangtan University
Original Assignee
Xiangtan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiangtan University filed Critical Xiangtan University
Priority to CN201710292536.9A priority Critical patent/CN107102969A/zh
Publication of CN107102969A publication Critical patent/CN107102969A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/14—Fourier, Walsh or analogous domain transformations, e.g. Laplace, Hilbert, Karhunen-Loeve, transforms
    • G06F17/148—Wavelet transforms
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Strategic Management (AREA)
  • Mathematical Analysis (AREA)
  • Data Mining & Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Operations Research (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Quality & Reliability (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Algebra (AREA)
  • Marketing (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供了一种时间序列数据的预测方法和系统。该方法包括：对由t‑1个时刻的数据组成的序列进行小波分解，得到n个子序列；对n个子序列分别进行平稳性检测；其中，对于非平稳序列，利用t‑1时刻的数据建立深度学习LSTM模型，并分别预测t时刻的值，然后求和得到非平稳部分预测；同理，对于平稳子序列，则分别建立ARMA模型然后预测t时刻的值，并求和得到平稳部分的预测；最后将非平稳部分和平稳部分在t时刻的预测值求和，得到最终预测值。本发明方法通过小波分解，充分结合LSTM和ARMA的优势，相较于传统方法在处理非平稳时间序列上有更好的效果。此外，得益于本模型中独特的LSTM结构，使本发明的预测、泛化能力都较好，适用于各个领域时间序列预测。

Description

一种时间序列数据的预测方法和系统
技术领域
本发明涉及数据处理技术，尤其涉及时间序列数据的预测方法和系统。
背景技术
时间序列数据的预测涉及到社会、国家发展的方方面面。以经济数据为例进行说明。经济数据是一个国家和地区经济情况的体现，其中有很大一部分都是各种经济指标、生产资源在不同时间点上收集的数据，是典型的时间序列数据。这些数据中蕴藏了丰富的信息，如经济运行状态、未来发展趋势等。因此，对宏观经济数据进行研究，挖掘其中隐含的规律，并对未来趋势作科学预测，是十分有益的。它不仅能指导一个地区或国家对经济体制进行调整或改革，对于企业进行生产规划及个人进行投资而言，也有重要的参考价值。
经济数据经常受到各种因素的综合影响，每一种数据都是多种因素叠加的结果。比如就出口数据而言，对其造成影响的既有本国企业的竞争力等内生因素，也有汇率、国际经济形势、关税和贸易政策等外生因素。这些因素有的是周期性的，有的是非周期性的。传统的做法是将外生因素看作是信号噪声而将其去除后再进行预测，这样对于相对平滑的数据预测比较准确，但难以预测受到外生冲击的数据。
事实上，即使是外生因素，也是具有一定的可预测性的。比如金融危机、本国或东道国的贸易政策，虽然看上去都是突然发生的，但其发生之前实际上就有很多征兆，是很多因素的影响不断累积，最终达到临界点而爆发出来的。因此，只要能够建立足够完善的模型，对这些数据隐含的信息进行充分地挖掘，便能得到科学的预测。
时间序列数据大多数为非平稳序列，而在经济领域，由于其受多方面影响，因此，更是复杂的非平稳序列。目前运用于宏观经济数据预测的建模方法常见的有基于自回归积分滑动平均模型(Autoregressive Integrated Moving Average，ARIMA)以及人工神经网络模型。使用基于ARIMA的建模方法，虽然建模过程简便，但在对总体趋势的预测上并不稳定，常常产生滞后的现象。基于传统人工神经网络(如BP神经网络)的建模预测存在着网络训练难的问题，而且由于神经网络模型追求整体误差小的目标，使得尽管预测趋势较理想，但对波动较大的细节预测精度有待提高。总之，在对复杂的非平稳时间序列数据(尤其是对有外生冲击的经济数据)进行预测时，常用的传统模型的预测精度难以得到理想效果。
因此，需要一种能够更加准确地预测时间序列数据的方法和系统。
发明内容
本发明旨在解决上面描述的问题。本发明的目的是提供一种时间序列数据的预测方法和系统，在建模过程简洁易操作的前提下，能更加准确地对非平稳时间序列数据进行预测。
根据本发明的第一方面，提供了一种时间序列数据的预测方法，所述方法包括：
步骤1，对由t-1个时刻的数据组成的序列进行小波分解，得到n个子序列，其中每个子序列由相应的t-1个时刻的数据组成，其中，t为大于1的自然数，n为大于等于2的自然数；
步骤2，对所述n个子序列分别进行平稳性检测，其中有j个平稳子序列和n-j个非平稳子序列，其中j为大于等于1且小于等于n的自然数；
步骤3，利用j个平稳子序列的t-1个时刻的数据分别建立ARMA模型，并分别预测每个平稳子序列t时刻的数据，并将预测的各平稳子序列的t时刻的数据求和得到所述时间序列的t时刻的第一预测值；
步骤4，利用n-j个非平稳子序列的t-1个时刻的数据分别建立LSTM模型，并分别预测每个非平稳子序列t时刻的数据，并将预测的各非平稳子序列t时刻的数据求和得到所述时间序列的t时刻的第二预测值；
步骤5，将所述时间序列的t时刻的所述第一预测值和所述第二预测值求和，获得所述时间序列的t时刻的预测数据。
其中，所述步骤4还包括通过以下计算公式预测每个非平稳子序列t时刻的数据：
其中，wh1,b1分别为第一权值和第一偏置，w12,b2分别为第二权值和第二偏置，w23,b3分别为第三权值和第三偏置，s表示向量Ht(ht1,ht2,…,hts)中包括的元素的个数，且s为大于等于1的自然数，
并且，Relu函数的定义为Reluf(x)＝max(0,x)，
并且，向量Ht(ht1,ht2,…,hts)中各元素ht1,ht2,…,hts均通过以下公式迭代计算：
it＝sigmoid(Whiht-1+WxiXt)，
ft＝sigmoid(Whfht-1+WxfXt)，
ct＝ft⊙ct-1+it⊙tanh(Whcht-1+WxcXt)，
ot＝sigmoid(Whoht-1+WhxXt+Wcoct)，
ht＝ot⊙tanh(ct)，
其中，Xt＝Xt(xt-period,xt-period...,xt-1)为从t时刻之前的数据中选取的连续数据组成的序列，其中，period为序列Xt中包含元素的个数，Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco分别为不同的权重，h1为初始状态值，为0。
其中，权重Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco的初始值为随机数。
其中，所述步骤1包括：利用DB小波对由t-1个时刻的数据组成的序列进行小波分解，且进行小波分解的层数为3层。
其中，所述步骤3包括通过下述计算公式预测每个平稳子序列t时刻的数据：
其中，表示每个平稳子序列t时刻的数据，p，q分别是所述ARMA模型的自回归阶数和滑动平均阶数，H1,H2,…,Hp和θ1,θ2,…,θq是系数；et是误差项。
根据本发明的另一方面，还提供了一种时间序列数据的预测系统，所述系统包括：
分解模块，用于对由t-1个时刻的数据组成的序列进行小波分解，得到n个子序列，其中每个子序列由相应的t-1个时刻的数据组成。其中，t为大于1的自然数，n为大于等于2的自然数；
检测模块，用于对所述n个子序列分别进行平稳性检测，其中有j个平稳子序列和n-j个非平稳子序列，其中j为大于等于1且小于等于n的自然数；
平稳序列预测模块，用于利用j个平稳子序列t-1个时刻的数据分别建立ARMA模型，并分别预测每个平稳子序列t时刻的数据，并将预测的各平稳子序列的t时刻的数据求和得到所述时间序列的t时刻的第一预测值；
非平稳序列预测模块，用于利用n-j个非平稳子序列t-1个时刻的数据分别建立LSTM模型，并分别预测每个非平稳子序列t时刻的数据，并将预测的各非平稳子序列t时刻的数据求和得到所述时间序列的t时刻的第二预测值；
求和模块，用于将所述时间序列的t时刻的所述第一预测值和所述第二预测值求和，获得所述时间序列的t时刻的预测数据。
其中，所述非平稳序列预测模块还用于通过以下计算公式预测每个非平稳子序列t时刻的数据：
其中，wh1,b1分别为第一权值和第一偏置，w12,b2分别为第二权值和第二偏置，w23,b3分别为第三权值和第三偏置，s表示向量Ht(ht1,ht2,…,hts)中包括的元素的个数，且s为大于等于1的自然数，
并且，Relu函数的定义为Reluf(x)＝max(0,x)，
并且，向量Ht(ht1,ht2,…,hts)中各元素ht1,ht2,…,hts均通过以下公式迭代计算：
it＝sigmoid(Whiht-1+WxiXt)，
ft＝sigmoid(Whfht-1+WxfXt)，
ct＝ft⊙ct-1+it⊙tanh(Whcht-1+WxcXt)，
ot＝sigmoid(Whoht-1+WhxXt+Wcoct)，
ht＝ot⊙tanh(ct)，
其中，Xt＝Xt(xt-period,xt-period...,xt-1)为从t时刻之前的数据中选取的连续数据组成的序列，period为序列Xt中包含元素的个数，Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco分别为不同的权重，h1为初始状态值，为0。
其中，权重Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco的初始值为随机数。
其中，所述分解模块还用于利用DB小波对由t-1个时刻的数据组成的序列进行小波分解，且进行小波分解的层数为3层。
其中，所述平稳序列预测模块还用于通过下述计算公式预测每个平稳子序列t时刻的数据：
其中，表示每个平稳子序列t时刻的数据，p，q分别是所述ARMA模型的自回归阶数和滑动平均阶数，H1,H2,…,Hp和θ1,θ2,…,θq是系数；et是误差项。
本发明通过将长短时间记忆(Long Short-Term Memory，LSTM)深度学习模型和自回归滑动平均模型(Auto-regressive Moving-Average，ARMA)结合对时间序列数据进行预测，不需要繁杂的特征提取，且相对于其他传统方法如BP神经网络法具有更准确预测效果。本发明不仅能达到较高的预测精度，还能够使建模计算过程简单易于操作。
小波分析的优点就是能对时间序列数据进行分解，是进行后续数据分析的基础。虽然一般的LSTM模型存在训练难的问题，但是它在对序列的细节及趋势方面的处理能力明显强于传统神经网络，适用于非平稳序列。ARMA不适用于非平稳序列，但是对于平稳序列建模预测的过程简单，结果准确。本发明提出的方法是利用小波分析，从而达到将深度学习LSTM模型和ARMA的优势相结合的目的。
本发明的预测方法通过小波分解，不仅增强对时间序列细节的学习能力，而且能够降低对LSTM模型深度的要求，使得我们不需要建立如传统LSTM模型那样深层次的结构便可达到如传统LSTM模型那样的效果。这使我们的训练更加容易，因为网络结构越深，越容易出现梯度爆炸或者梯度消失的情况。而在实验过程中，本发明的LSTM模型，训练成功率几乎和普通神经网络一样(指未出现梯度消失或者梯度爆炸情况)。本发明的有益效果是不仅对于非平稳序列的预测精度上优于目前常用的预测方法，而且具有较好的泛化能力。
参照附图来阅读对于示例性实施例的以下描述，本发明的其他特性特征和优点将变得清晰。
附图说明
并入到说明书中并且构成说明书的一部分的附图示出了本发明的实施例，并且与描述一起用于解释本发明的原理。在这些附图中，类似的附图标记用于表示类似的要素。下面描述中的附图是本发明的一些实施例，而不是全部实施例。对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，可以根据这些附图获得其他的附图。
图1示例性地示出了根据本发明的时间序列数据预测方法流程图；
图2示例性地示出了小波分解后得到的各子序列；
图3示例性地示出了LSTM单元示意图；
图4示例性地示出了LSTM预测模型示意图；
图5示例性地示出了采用本发明方法的预测数据拟合图；
图6示例性地示出了采用ARIMA模型的预测数据拟合图；
图7示例性地示出了采用BP模型的预测数据拟合图；
图8示例性地示出了采用LSTM模型的预测数据拟合图；
图9示例性地示出了采用各预测方法的预测效果对比图；
图10示例性地示出了根据本发明的时间序列数据预测系统的模块图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互任意组合。
本发明的预测方法通过小波分解，将ARMA和LSTM的优势结合起来，提出一种新的预测方法。首先将待处理的宏观经济序列进行多层小波分解，然后通过对各层系数的重构，获得对应各层的子序列；对各个子序列进行平稳性检验，对于非平稳的序列，采用深度学习的LSTM进行建模预测；对于平稳的序列，直接采用ARMA建模预测；最后总和各个子序列的预测结果，得到最终预测结果。
图1示出了根据本发明的预测方法的流程图。该方法通过已知的t-1个时刻的数据来预测t时刻的数据。如图1所示，该方法包括：
步骤101，对由t-1个时刻的数据组成的序列进行小波分解，得到n个子序列，其中每个子序列由相应的t-1个时刻的数据组成，其中，t为大于1的自然数，n为大于等于2的自然数；
步骤102，对所述n个子序列分别进行平稳性检测，其中有j个平稳子序列和n-j个非平稳子序列，其中j为大于等于1且小于等于n的自然数；
步骤103，利用j个平稳子序列的t-1个时刻的数据分别建立ARMA模型，并分别预测每个平稳子序列t时刻的数据，并将预测的各平稳子序列的t时刻的数据求和得到所述时间序列的t时刻的第一预测值；
步骤104，利用n-j个非平稳子序列的t-1个时刻的数据分别建立LSTM模型，并分别预测每个非平稳子序列t时刻的数据，并将预测的各非平稳子序列t时刻的数据求和得到所述时间序列的t时刻的第二预测值；
步骤105，将所述时间序列的t时刻的所述第一预测值和所述第二预测值求和，获得所述时间序列的t时刻的预测数据。
步骤101中，利用DB小波对由t-1个时刻的数据组成的序列进行小波分解，且进行小波分解的层数为3层。进行小波分解时涉及到下述两方面：一是小波函数的选择，在基于小波分解的时间序列预测模型中大多选择Daubechies系列的小波，本发明选择DB4小波，当然也可以选择其他DB小波；二是分解层数的确定，层数确定并没有一个特定的方法，在基于小波分解的时间序列预测上常见的层数确定方法是通过实验不同的分解层数，然后选择最适合该模型的参数。分解层数越多，噪声会越少，信号会比较平滑，但是一些有用的信息也会丢失，从而造成精度的下降。反之，如果分解层数不够，我们的信号就保存有更多的噪声，也对精度有影响。考虑到深度学习对抽象特征具有较强的学习能力，本发明分解层数为3层。
步骤102中，在对子序列分别进行平稳性检测时，可以采用扩张的Dickey-Fuller检测方法(Augmented Dickey-Fuller test)。由于该检测方法是进行平稳性检测常用的方法，在此不再赘述。经过平稳性检测后的子序列中可以没有非平稳序列。
步骤103包括通过下述计算公式预测每个平稳子序列t时刻的数据：
其中，表示每个平稳子序列t时刻的数据，p，q分别是ARMA模型的自回归阶数和滑动平均阶数，et是独立的误差项，H1,H2,…,Hp；θ1,θ2,…,θq是不全为零的待定系数。这些参数可通过将过去数据带入上式组成的方程组求解得到。此处参数的求解为本领域技术人员熟知的，在此不再赘述。
对于p和q的定阶，采取最佳准则函数法。选择最小赤池信息量准则(Akaikeinformation criterion，AIC)作为定阶准则，AIC函数定义为：
其中，是拟合ARMA(p,q)模型的残差的方差。
需要说明的是，在选择AIC小的前提下，应该使ARMA阶数尽可能小。在确定好模型以后，需要对残差序列进行白噪声检测。如果残差序列不是白噪声，说明该模型没有完全将序列的有效信息提取完整，需要重新建模。反之，若残差序列为白噪声，说明拟合的模型显著有效。
综上所述，即可对平稳的子序列进行建模并预测。设有j个平稳子序列，结合式(1)可求得这j个序列在t时刻产生的预测值之和SUM1为：
下标m表示j个平稳子序列中的第m个。
步骤104还包括通过以下计算公式预测每个非平稳子序列t时刻的数据：
其中，wh1,b1分别为第一权值和第一偏置，w12,b2分别为第二权值和第二偏置，w23,b3分别为第三权值和第三偏置，s表示向量Ht(ht1,ht2,…,hts)中包括的元素的个数，且s为大于等于1的自然数。s即为LSTM层中LSTM单元的个数，在后面的具体实施例中该s取值为100，需要说明的是，为了保证模型容易训练，效果好，适用性强，通过大量实验才能得出预测效果良好的参数。
并且，Relu函数的定义为：
Reluf(x)＝max(0,x) (5)
并且，向量Ht(ht1,ht2,…,hts)中各元素ht1,ht2,…,hts均通过以下公式迭代计算，即ht1需要通过多次迭代得到，ht2需要通过多次迭代得到，以此类推，需要计算s次这样的ht。其中Xt(xt-period,xt-period...,xt-1)为该时间序列在t时刻前的连续数据组成的序列。其中，period为输入序列的长度，理论上讲，定义为明显的周期数会取得较好的效果如7、12、24等，如下实例period取值为12。
it＝sigmoid(Whiht-1+WxiXt) (6)
ft＝sigmoid(Whfht-1+WxfXt) (7)
ct＝ft⊙ct-1+it⊙tanh(Whcht-1+WxcXt) (8)
ot＝sigmoid(Whoht-1+WhxXt+Wcoct) (9)
ht＝ot⊙tanh(ct) (10)
其中，Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco分别为不同的权重，h1为初始状态值，为0。h1，h2，…，ht则通过上述公式迭代算出。sigmoid和tanh为常见的激活函数。
需要说明的是，权重Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco的初始值为随机数，即在由h1计算h2时，由随机生成的上述权重值代入上述公式中进行计算。在由h2计算h3时，则由经过训练产生的权重Whi、Wxi、Whf、Wcf、Whc、Wxc、Who、Whx、Wco的值，进行计算，以此类推。
根据具体情况，上述各权重矩阵的形状由它们所连接的神经网络层之间的神经元、LSTM单元个数决定。其中，LSTM单元个数和普通神经元个数需要通过大量的实验一步一步试出来最佳值。本发明经过大量实验，得到的各参数值，使LSTM模型训练容易，适用性好。
另外，当涉及到的数据的数值比较大时，为了更好地进行训练，需要将数据进行归一化，公式如下：
归一化的过程是常用的处理数据的方法，在此不再赘述。
需要说明的是，上述中的各参数的取值包括一些极其特殊的取值，如t＝2，但是实际中为了预测的准确性，不可能只用一个已知值进行预测。即，在实际预测时会根据具体情况选择合适的参数值。
采用本发明的方法可以达到如下的有益效果：
(1)相比较过去传统的预测方法，本方法的拟合精度和预测精度都较高。
(2)省去特征选取的过程，不仅精简了建模过程，而且对该领域专业性的要求降低。
下面给出根据本发明方法对时间序列数据进行预测的具体实施例。在该实施例中，选取从国家统计局官网获取的1997年1月至2016年12月国家每月出口总值作为实验数据。该数据共有240个时间点，我们利用前228个数据进行建模，预测未来12个数据。
第一步，对出口总值数据进行小波分解。使用DB4小波，对原始序列进行3层小波分解，得到3个高频子序列D1、D2、D3及低频序列A3。图2示出了分解后的各个子序列。
第二步，对分解后得到的子序列D1、D2、D3及A3进行平稳性检测，检测采用扩张的Dickey-Fuller检测方法。检测结果为A3为非平稳序列，D1、D2、D3均为平稳序列。
第三步，利用前228个时刻的数据建立ARMA模型，并通过该模型计算得到229-240时刻的预测值。其中D1序列模型为ARMA(7,10)，D2序列模型为ARMA(25,25)，D3序列模型为ARMA(23,21)。其中的7、10，25、25，23、21分别是各序列模型的p、q值。对于D1所建立的模型，预测229时刻的值，由于D1的模型为ARMA(7，10)，因此需要输入前七个数(2101900，-1997200，-4263600，4598500，-3193600，-1240400，1626900)得到预测值-16160000。接下来预测230时刻的值，需要将上步预测值更新到输入，即输入(-1997200，-4263600，4598500，-3193600，-1240400，1626900，-16160000)，得到预测值-6016000。如此进行滚动预测，预测12步。同理，D2，D3预测方法同D1。
第四步，对于非平稳模型，使用LSTM模型进行预测。假设预测未来下一个数值，由于本模型设置的period为12，即输入前12个数据(199080000，198490000，198050000，197820000，195810000，194350000，192530000，190430000，188040000，185060000，181490000)，得到预测值181460993。同第三步D1的预测方法，得到12步预测。
第五步，将A3，D1，D2，D3各自的预测值进行求和即得到最终预测值。如预测229时刻的值：A3＝181460993，D1＝-16160000，D2＝7950700，D3＝3409300。最后预测值＝A3+D1+D2+D3＝176660994。如果进行十二步预测则仅需各个模型的12步预测相加即可。
需要说明的是，该实施例中是以经济数据为例进行示例的。本发明的预测方法可以用于预测各种时间序列数据，例如天气数据等。
图3示出了预测所用的LSTM单元示意图。图4示出了LSTM预测模型示意图。如图3所示，LSTM单元与传统RNN的区别之处就是多了三种门(Input、Forget、Output)和一个记忆单元(Memory Cell)。其中，A表示output gate，B表示forget gate，C表示input gate，D表示memory cell。
如图4所示，LSTM网络模型包括4层，如下所述。其中，B表示LSTM层，A表示该LSTM层中的LSTM单元，C表示隐藏层1，E表示隐藏层2，F表示输出层，D表示普通神经元。
(1)LSTM层：有100个LSTM单元，当然这个数量也可以根据实际情况进行调整；
(2)隐藏层1：有60个神经元，用来降维以及对抽象的特征进行映射，当然这个数量也可以根据实际情况进行调整；
(3)隐藏层2：作用同隐藏层1，有30个神经元，当然这个数量也可以根据实际情况进行调整；
(4)输出层：1个神经元，即为预测值。
上述的LSTM模型结构包括1层输出层，1层LSTM层，2层隐藏层。其中2层隐藏层用于特征学习以及降维，1层输出层用于输出对应于输入序列的预测结果。本模型的LSTM结构比传统的LSTM模型结构精简，因此训练难度比传统LSTM低，且具有良好的泛化能力。
需要说明的是，上述各层的参数都是经过大量实验而得到的，相较于其他参数，具有训练难度更低、泛化能力更强的特点。
在训练过程中，为了防止过拟合现象，我们将随机地选择20个子序列作为一个批次，每个批次训练完后，根据预测值与目标值之间的平方误差，对网络中的参数(包括权值、各个LSTM单元的状态等)进行更新。如此训练epoch＝1000次以后，利用验证集验证该模型的可行性。如果该模型不能通过验证，则重新训练，如果通过验证，则可用于预测。本模型每次只能预测一步，假如要生成多步预测，则需将上一步得到的预测值更新到输入向量，实现滚动预测。
利用上述构建的网络对1997年7月至2014年12月的数据进行训练。并使用2015年1月至2015年12月的预测作为验证集，验证该模型的可行性。为了保证准确性，进行十次该实验，并取平均值作为LSTM模型的预测结果。
图5至图8分别示出了采用本发明的预测方法、ARIMA模型、BP模型、LSTM模型得到的预测数据与真实数据的拟合图。其中，纵坐标表示出口总值，其单位是千美元，横坐标表示时间，其单位是月份。并且其中，各图中的实线表示真实数据，各图中的虚线分别表示采用本发明的预测方法、ARIMA模型、BP模型、LSTM模型对数据进行的拟合。
此处，选择出口总值数据作为时间序列数据。由拟合图可以看出，出口总值数据整体呈上升趋势，且序列中又存在着明显的季节性，属于不平稳序列。长期的趋势信息包括国内和国际的经济形势等，短期的波动因素包括季节性的假日经济(春节)等影响。对于这种信息丰富而又波动复杂的宏观经济数据，如果使用ARIMA进行建模(如图6)，尽管它能够准确刻画短期内的细节波动，但是在长期趋势上存在明显的滞后。如果使用BP神经网络建模(如图7)，虽然在趋势方面拟合较好，但是对于细节的捕捉较差，当出现波动较大时，无法准确拟合。如果单独使用LSTM建模(如图8)，虽然对趋势拟合优于ARIMA模型，且对于波动幅度大的数据的拟合优于BP神经网络，但仍有提升空间。而本发明的预测方法由于结合了LSTM和ARMA的优势，能够兼顾趋势预测与细节波动。
图9是各种预测方法的预测结果对比图。其中，纵坐标表示出口总值，其单位是千美元，横坐标表示时间，其单位是月份。并且其中，线条A表示真实数据，线条B表示采用本发明的预测方法得到的数据，线条C表示采用ARIMA模型得到的数据，线条D表示采用LSTM模型得到的数据，线条E表示采用BP模型得到的数据。线条E表明，BP模型对于训练集外的样本泛化能力明显不足，它只能预测一个大概范围，不能对细节波动作出准确的预测。且由图9可以看出，本发明方法优于传统预测方法和单独使用LSTM模型的预测方法。特别是在2016年10月这个时间点，本发明预测方法的预测效果明显优于单独使用LSTM模型的方法。采用本发明预测方法得到的数据与实际生活中，因春节所致的2月份出口明显下滑的事实非常吻合。可见，本发明的预测方法能够充分学习复杂的宏观经济数据中蕴含的信息，并做出科学的预测，具有较高的参考价值。
下面使用MAPE(平均绝对百分比误差)、MAE(平均绝对误差)、MSE(均方误差)、SSE(平方和误差)以及上文提到的MSPE这5个指标对本发明预测方法与其他预测方法进行误差比较，表1、表2示出了各预测方法的拟合误差对比和预测误差对比。其中，表1示出了各预测方法的拟合误差，表2示出了各预测方法进行12期预测的预测误差。误差指标计算公式如下：
其中，yt为真实值，为预测值。
表1
表2
通过上述测试可以看出，本发明通过相对于其他传统方法如BP神经网络法具有更准确预测效果。本发明不仅能达到较高的预测精度，还能够使建模计算过程简单易于操作。本发明的预测方法通过小波分解，不仅增强对时间序列细节的学习能力，而且能将ARMA和LSTM的优势结合。其有益效果是不仅预测精度上优于目前已有的预测方法，还能准确地预测外生因素的冲击。
本发明还公开了一种时间序列数据的预测系统，如图10所示，所述系统包括：
分解模块，用于对由t-1个时刻的数据组成的序列进行小波分解，得到n个子序列，其中每个子序列由相应的t-1个时刻的数据组成。其中，t为大于1的自然数，n为大于等于2的自然数；
检测模块，用于对所述n个子序列分别进行平稳性检测，其中有j个平稳子序列和n-j个非平稳子序列，其中j为大于等于1且小于等于n的自然数；
平稳序列预测模块，用于利用j个平稳子序列t-1个时刻的数据分别建立ARMA模型，并分别预测每个平稳子序列t时刻的数据，并将预测的各平稳子序列的t时刻的数据求和得到所述时间序列的t时刻的第一预测值；
非平稳序列预测模块，用于利用n-j个非平稳子序列t-1个时刻的数据分别建立LSTM模型，并分别预测每个非平稳子序列t时刻的数据，并将预测的各非平稳子序列t时刻的数据求和得到所述时间序列的t时刻的第二预测值；
求和模块，用于将所述时间序列的t时刻的所述第一预测值和所述第二预测值求和，获得所述时间序列的t时刻的预测数据。
其中，所述非平稳序列预测模块还用于通过以下计算公式预测每个非平稳子序列t时刻的数据：
其中，wh1,b1分别为第一权值和第一偏置，w12,b2分别为第二权值和第二偏置，w23,b3分别为第三权值和第三偏置，s表示向量Ht(ht1,ht2,…,hts)中包括的元素的个数，且s为大于等于1的自然数，
并且，Relu函数的定义为Reluf(x)＝max(0,x)，
并且，向量Ht(ht1,ht2,…,hts)中各元素ht1,ht2,…,hts均通过以下公式迭代计算：
it＝sigmoid(Whiht-1+WxiXt)，
ft＝sigmoid(Whfht-1+WxfXt)，
ct＝ft⊙ct-1+it⊙tanh(Whcht-1+WxcXt)，
ot＝sigmoid(Whoht-1+WhxXt+Wcoct)，
ht＝ot⊙tanh(ct)，
其中，Xt＝Xt(xt-period,xt-period...,xt-1)为从t时刻之前的数据中选取的连续数据组成的连续序列，其中，period为序列Xt中包含元素的个数，Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco分别为不同的权重，h1为初始状态值，为0。
其中，权重Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco的初始值为随机数。
其中，所述分解模块还用于利用DB小波对由t-1个时刻的数据组成的序列进行小波分解，且进行小波分解的层数为3层。
其中，所述平稳序列预测模块还用于通过下述计算公式预测每个平稳子序列t时刻的数据：
其中，表示每个平稳子序列t时刻的数据，p，q分别是所述ARMA模型的自回归阶数和滑动平均阶数，H1,H2,…,Hp和θ1,θ2,…,θq是系数；et是误差项。
本发明通过将长短时间记忆(Long Short-Term Memory，LSTM)深度学习模型和自回归滑动平均模型(Auto-regressive Moving-Average，ARMA)结合对时间序列数据进行预测，不需要繁杂的特征提取，且相对于其他传统方法如BP神经网络法具有更准确预测效果。本发明不仅能达到较高的预测精度，还能够使建模计算过程简单易于操作。
上面描述的内容可以单独地或者以各种方式组合起来实施，而这些变型方式都在本发明的保护范围之内。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制。尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种时间序列数据的预测方法，其特征在于，所述方法包括：
步骤1，对由t-1个时刻的数据组成的序列进行小波分解，得到n个子序列，其中每个子序列由相应的t-1个时刻的数据组成，其中，t为大于1的自然数，n为大于等于2的自然数；
步骤2，对所述n个子序列分别进行平稳性检测，其中有j个平稳子序列和n-j个非平稳子序列，其中j为大于等于1且小于等于n的自然数；
步骤3，利用j个平稳子序列的t-1个时刻的数据分别建立ARMA模型，并分别预测每个平稳子序列t时刻的数据，并将预测的各平稳子序列的t时刻的数据求和得到所述时间序列的t时刻的第一预测值；
步骤4，利用n-j个非平稳子序列的t-1个时刻的数据分别建立LSTM模型，并分别预测每个非平稳子序列t时刻的数据，并将预测的各非平稳子序列t时刻的数据求和得到所述时间序列的t时刻的第二预测值；
步骤5，将所述时间序列的t时刻的所述第一预测值和所述第二预测值求和，获得所述时间序列的t时刻的预测数据。
2.如权利要求1所述的方法，其特征在于，
所述步骤4还包括通过以下计算公式预测每个非平稳子序列t时刻的数据：
<mrow> <msub> <mover> <mi>y</mi> <mo>^</mo> </mover> <mi>t</mi> </msub> <mo>=</mo> <msub> <mi>w</mi> <mn>23</mn> </msub> <mrow> <mo>(</mo> <msub> <mi>w</mi> <mn>12</mn> </msub> <mo>(</mo> <mi>Re</mi> <mi>l</mi> <mi>u</mi> <mo>(</mo> <msub> <mi>w</mi> <mrow> <mi>h</mi> <mn>1</mn> </mrow> </msub> <msub> <mi>H</mi> <mi>t</mi> </msub> <mo>(</mo> <mrow> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mn>1</mn> </mrow> </msub> <mo>,</mo> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mn>2</mn> </mrow> </msub> <mo>,</mo> <mn>...</mn> <mo>,</mo> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mi>s</mi> </mrow> </msub> </mrow> <mo>)</mo> <mo>+</mo> <msub> <mi>b</mi> <mn>1</mn> </msub> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>b</mi> <mn>2</mn> <mo>)</mo> <mo>+</mo> <mi>b</mi> <mn>3</mn> <mo>,</mo> </mrow>
其中，wh1,b1分别为第一权值和第一偏置，w12,b2分别为第二权值和第二偏置，w23,b3分别为第三权值和第三偏置，s表示向量Ht(ht1,ht2,…,hts)中包括的元素的个数，且s为大于等于1的自然数，
并且，Relu函数的定义为Reluf(x)＝max(0,x)，
并且，向量Ht(ht1,ht2,…,hts)中各元素ht1,ht2,…,hts均通过以下公式迭代计算：
it＝sigmoid(Whiht-1+WxiXt)，
ft＝sigmoid(Whfht-1+WxfXt)，
ct＝ft⊙ct-1+it⊙tanh(Whcht-1+WxcXt)，
ot＝sigmoid(Whoht-1+WhxXt+Wcoct)，
ht＝ot⊙tanh(ct)，
其中，Xt＝Xt(xt-period,xt-period...,xt-1)为从t时刻之前的数据中选取的连续数据组成的序列，其中，period为序列Xt中包含元素的个数，Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco分别为不同的权重，h1为初始状态值，为0。
3.如权利要求2所述的方法，其特征在于，
权重Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco的初始值为随机数。
4.如权利要求1所述的方法，其特征在于，
所述步骤1包括：利用DB小波对由t-1个时刻的数据组成的序列进行小波分解，且进行小波分解的层数为3层。
5.如权利要求1所述的方法，其特征在于，
所述步骤3包括通过下述计算公式预测每个平稳子序列t时刻的数据：
<mrow> <msub> <mover> <mi>y</mi> <mo>^</mo> </mover> <mrow> <mn>1</mn> <mi>t</mi> </mrow> </msub> <mo>=</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>l</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>p</mi> </munderover> <msub> <mi>H</mi> <mi>l</mi> </msub> <msub> <mi>Y</mi> <mrow> <mn>1</mn> <mi>t</mi> <mo>-</mo> <mi>l</mi> </mrow> </msub> <mo>+</mo> <msub> <mi>e</mi> <mi>t</mi> </msub> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>l</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>q</mi> </munderover> <msub> <mi>&amp;theta;</mi> <mi>l</mi> </msub> <msub> <mi>e</mi> <mrow> <mi>t</mi> <mo>-</mo> <mi>l</mi> </mrow> </msub> </mrow>
其中，表示每个平稳子序列t时刻的数据，p，q分别是所述ARMA模型的自回归阶数和滑动平均阶数，H1,H2,…,Hp和θ1,θ2,…,θq是系数；et是误差项。
6.一种时间序列数据的预测系统，其特征在于，所述系统包括：
分解模块，用于对由t-1个时刻的数据组成的序列进行小波分解，得到n个子序列，其中每个子序列由相应的t-1个时刻的数据组成。其中，t为大于1的自然数，n为大于等于2的自然数；
检测模块，用于对所述n个子序列分别进行平稳性检测，其中有j个平稳子序列和n-j个非平稳子序列，其中j为大于等于1且小于等于n的自然数；
平稳序列预测模块，用于利用j个平稳子序列t-1个时刻的数据分别建立ARMA模型，并分别预测每个平稳子序列t时刻的数据，并将预测的各平稳子序列的t时刻的数据求和得到所述时间序列的t时刻的第一预测值；
非平稳序列预测模块，用于利用n-j个非平稳子序列t-1个时刻的数据分别建立LSTM模型，并分别预测每个非平稳子序列t时刻的数据，并将预测的各非平稳子序列t时刻的数据求和得到所述时间序列的t时刻的第二预测值；
求和模块，用于将所述时间序列的t时刻的所述第一预测值和所述第二预测值求和，获得所述时间序列的t时刻的预测数据。
7.如权利要求6所述的系统，其特征在于，
所述非平稳序列预测模块还用于通过以下计算公式预测每个非平稳子序列t时刻的数据：
<mrow> <msub> <mover> <mi>y</mi> <mo>^</mo> </mover> <mi>t</mi> </msub> <mo>=</mo> <msub> <mi>w</mi> <mn>23</mn> </msub> <mrow> <mo>(</mo> <msub> <mi>w</mi> <mn>12</mn> </msub> <mo>(</mo> <mi>Re</mi> <mi>l</mi> <mi>u</mi> <mo>(</mo> <msub> <mi>w</mi> <mrow> <mi>h</mi> <mn>1</mn> </mrow> </msub> <msub> <mi>H</mi> <mi>t</mi> </msub> <mo>(</mo> <mrow> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mn>1</mn> </mrow> </msub> <mo>,</mo> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mn>2</mn> </mrow> </msub> <mo>,</mo> <mn>...</mn> <mo>,</mo> <msub> <mi>h</mi> <mrow> <mi>t</mi> <mi>s</mi> </mrow> </msub> </mrow> <mo>)</mo> <mo>+</mo> <msub> <mi>b</mi> <mn>1</mn> </msub> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>b</mi> <mn>2</mn> <mo>)</mo> <mo>+</mo> <mi>b</mi> <mn>3</mn> <mo>,</mo> </mrow>
其中，wh1,b1分别为第一权值和第一偏置，w12,b2分别为第二权值和第二偏置，w23,b3分别为第三权值和第三偏置，s表示向量Ht(ht1,ht2,…,hts)中包括的元素的个数，且s为大于等于1的自然数，
并且，Relu函数的定义为Reluf(x)＝max(0,x)，
并且，向量Ht(ht1,ht2,…,hts)中各元素ht1,ht2,…,hts均通过以下公式迭代计算：
it＝sigmoid(Whiht-1+WxiXt)，
ft＝sigmoid(Whfht-1+WxfXt)，
ct＝ft⊙ct-1+it⊙tanh(Whcht-1+WxcXt)，
ot＝sigmoid(Whoht-1+WhxXt+Wcoct)，
ht＝Ot⊙tanh(ct)，
其中，Xt＝Xt(xt-period,xt-period...,xt-1)为从t时刻之前的数据中选取的连续数据组成的连续序列，其中，period为序列Xt中包含元素的个数，Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco分别为不同的权重，h1为初始状态值，为0。
8.如权利要求7所述的系统，其特征在于，
权重Whi、Wxi、Whf、Wxf、Whc、Wxc、Who、Whx、Wco的初始值为随机数。
9.如权利要求6所述的系统，其特征在于，
所述分解模块还用于利用DB小波对由t-1个时刻的数据组成的序列进行小波分解，且进行小波分解的层数为3层。
10.如权利要求6所述的系统，其特征在于，
所述平稳序列预测模块还用于通过下述计算公式预测每个平稳子序列t时刻的数据：
<mrow> <msub> <mover> <mi>y</mi> <mo>^</mo> </mover> <mrow> <mn>1</mn> <mi>t</mi> </mrow> </msub> <mo>=</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>l</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>p</mi> </munderover> <msub> <mi>H</mi> <mi>l</mi> </msub> <msub> <mi>Y</mi> <mrow> <mn>1</mn> <mi>t</mi> <mo>-</mo> <mi>l</mi> </mrow> </msub> <mo>+</mo> <msub> <mi>e</mi> <mi>t</mi> </msub> <mo>+</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>l</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>q</mi> </munderover> <msub> <mi>&amp;theta;</mi> <mi>l</mi> </msub> <msub> <mi>e</mi> <mrow> <mi>t</mi> <mo>-</mo> <mi>l</mi> </mrow> </msub> </mrow>
其中，表示每个平稳子序列t时刻的数据，p，q分别是所述ARMA模型的自回归阶数和滑动平均阶数，H1,H2,…,Hp和θ1,θ2,…,θq是系数；et是误差项。
CN201710292536.9A 2017-04-28 2017-04-28 一种时间序列数据的预测方法和系统 Pending CN107102969A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710292536.9A CN107102969A (zh) 2017-04-28 2017-04-28 一种时间序列数据的预测方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710292536.9A CN107102969A (zh) 2017-04-28 2017-04-28 一种时间序列数据的预测方法和系统

Publications (1)

Publication Number Publication Date
CN107102969A true CN107102969A (zh) 2017-08-29

Family

ID=59656521

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710292536.9A Pending CN107102969A (zh) 2017-04-28 2017-04-28 一种时间序列数据的预测方法和系统

Country Status (1)

Country Link
CN (1) CN107102969A (zh)

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108182239A (zh) * 2017-12-27 2018-06-19 成都寻道科技有限公司 一种文章热度预测系统及预测方法
CN108197845A (zh) * 2018-02-28 2018-06-22 四川新网银行股份有限公司 一种基于深度学习模型lstm的交易指标异常的监测方法
CN108319132A (zh) * 2018-01-11 2018-07-24 合肥工业大学 用于无人机空中对抗的决策系统及方法
CN108536652A (zh) * 2018-03-15 2018-09-14 浙江大学 一种基于arma模型的短期车辆使用量预测方法
CN108573116A (zh) * 2018-05-11 2018-09-25 南京航空航天大学 一种基于长短时记忆网络的航空发动机过渡态推力估计算法
CN108846525A (zh) * 2018-08-02 2018-11-20 阿里巴巴集团控股有限公司 外汇交易量预测方法和装置
CN108898648A (zh) * 2018-06-28 2018-11-27 深圳市金蝶天燕中间件股份有限公司 一种k线图构造方法、系统及相关设备
CN109192187A (zh) * 2018-06-04 2019-01-11 平安科技（深圳）有限公司 基于人工智能的作曲方法、系统、计算机设备和存储介质
CN109214097A (zh) * 2018-09-14 2019-01-15 上海工程技术大学 一种无量纲参数滚动轴承长相关故障趋势预测方法
CN109242569A (zh) * 2018-09-13 2019-01-18 西安建筑科技大学 一种钼精矿中长期市场价格分析与预测方法和系统
CN109345048A (zh) * 2018-07-27 2019-02-15 阿里巴巴集团控股有限公司 预测方法、装置、电子设备及计算机可读存储介质
CN109359791A (zh) * 2018-12-26 2019-02-19 湖南科技大学 一种机械系统退化趋势预测方法及系统
CN109376904A (zh) * 2018-09-18 2019-02-22 广东电网有限责任公司 一种基于dwt和lstm的短期风力发电功率预测方法及系统
CN109445970A (zh) * 2018-09-18 2019-03-08 北京工业大学 一种软件可靠性时间序列预测方法及应用
CN109447305A (zh) * 2018-06-23 2019-03-08 四川大学 一种基于量子加权长短时记忆神经网络的趋势预测方法
CN109490793A (zh) * 2018-10-11 2019-03-19 西安电子科技大学 一种基于小波分解和lstm的x射线高压电源故障预测方法
CN109767043A (zh) * 2019-01-17 2019-05-17 中南大学 一种电力负荷时间序列大数据智能建模与预测方法
CN109992608A (zh) * 2019-03-26 2019-07-09 浙江大学 一种基于频域的多模型融合预测方法和系统
CN110501952A (zh) * 2019-08-30 2019-11-26 黄河水利职业技术学院 一种高效专业信息采集设备及管理方法
CN110909928A (zh) * 2019-11-19 2020-03-24 润联软件系统(深圳)有限公司 能源负荷短期预测方法、装置、计算机设备及存储介质
CN111382891A (zh) * 2018-12-28 2020-07-07 北京金风科创风电设备有限公司 短期负荷预测方法和短期负荷预测装置
CN111489027A (zh) * 2020-04-08 2020-08-04 五凌电力有限公司近尾洲水电厂 一种水电机组波形数据趋势预测方法及其系统
CN111814101A (zh) * 2020-07-10 2020-10-23 北京无线电测量研究所 一种航迹预测方法、系统和电子设备
CN111931999A (zh) * 2020-07-27 2020-11-13 国网湖南省电力有限公司 一种电网暴雨灾害长期预测方法、装置和系统
CN112465264A (zh) * 2020-12-07 2021-03-09 湖北省食品质量安全监督检验研究院 食品安全风险等级预测方法、装置及电子设备
US20210303969A1 (en) * 2020-03-30 2021-09-30 Ciena Corporation Forecasting routines utilizing a mixer to combine Deep Neural Network (DNN) forecasts of multi-variate time-series datasets
CN114071636A (zh) * 2021-10-28 2022-02-18 浪潮通信信息系统有限公司 链路分配方法及装置
US11410077B2 (en) 2019-02-05 2022-08-09 International Business Machines Corporation Implementing a computer system task involving nonstationary streaming time-series data by removing biased gradients from memory

Cited By (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108182239A (zh) * 2017-12-27 2018-06-19 成都寻道科技有限公司 一种文章热度预测系统及预测方法
CN108319132A (zh) * 2018-01-11 2018-07-24 合肥工业大学 用于无人机空中对抗的决策系统及方法
CN108319132B (zh) * 2018-01-11 2021-01-26 合肥工业大学 用于无人机空中对抗的决策系统及方法
CN108197845A (zh) * 2018-02-28 2018-06-22 四川新网银行股份有限公司 一种基于深度学习模型lstm的交易指标异常的监测方法
CN108536652A (zh) * 2018-03-15 2018-09-14 浙江大学 一种基于arma模型的短期车辆使用量预测方法
CN108573116A (zh) * 2018-05-11 2018-09-25 南京航空航天大学 一种基于长短时记忆网络的航空发动机过渡态推力估计算法
CN108573116B (zh) * 2018-05-11 2020-06-09 南京航空航天大学 一种基于长短时记忆网络的航空发动机过渡态推力估计方法
CN109192187A (zh) * 2018-06-04 2019-01-11 平安科技（深圳）有限公司 基于人工智能的作曲方法、系统、计算机设备和存储介质
CN109447305A (zh) * 2018-06-23 2019-03-08 四川大学 一种基于量子加权长短时记忆神经网络的趋势预测方法
CN109447305B (zh) * 2018-06-23 2021-09-07 四川大学 一种基于量子加权长短时记忆神经网络的趋势预测方法
CN108898648A (zh) * 2018-06-28 2018-11-27 深圳市金蝶天燕中间件股份有限公司 一种k线图构造方法、系统及相关设备
CN109345048A (zh) * 2018-07-27 2019-02-15 阿里巴巴集团控股有限公司 预测方法、装置、电子设备及计算机可读存储介质
CN109345048B (zh) * 2018-07-27 2023-02-10 创新先进技术有限公司 预测方法、装置、电子设备及计算机可读存储介质
TWI714113B (zh) * 2018-08-02 2020-12-21 開曼群島商創新先進技術有限公司 外匯交易量預測方法和裝置
CN108846525A (zh) * 2018-08-02 2018-11-20 阿里巴巴集团控股有限公司 外汇交易量预测方法和装置
CN109242569A (zh) * 2018-09-13 2019-01-18 西安建筑科技大学 一种钼精矿中长期市场价格分析与预测方法和系统
CN109214097A (zh) * 2018-09-14 2019-01-15 上海工程技术大学 一种无量纲参数滚动轴承长相关故障趋势预测方法
CN109214097B (zh) * 2018-09-14 2021-09-10 上海工程技术大学 一种无量纲参数滚动轴承长相关故障趋势预测方法
CN109376904A (zh) * 2018-09-18 2019-02-22 广东电网有限责任公司 一种基于dwt和lstm的短期风力发电功率预测方法及系统
CN109445970A (zh) * 2018-09-18 2019-03-08 北京工业大学 一种软件可靠性时间序列预测方法及应用
CN109490793A (zh) * 2018-10-11 2019-03-19 西安电子科技大学 一种基于小波分解和lstm的x射线高压电源故障预测方法
CN109359791A (zh) * 2018-12-26 2019-02-19 湖南科技大学 一种机械系统退化趋势预测方法及系统
CN111382891A (zh) * 2018-12-28 2020-07-07 北京金风科创风电设备有限公司 短期负荷预测方法和短期负荷预测装置
CN111382891B (zh) * 2018-12-28 2024-02-09 北京金风科创风电设备有限公司 短期负荷预测方法和短期负荷预测装置
CN109767043A (zh) * 2019-01-17 2019-05-17 中南大学 一种电力负荷时间序列大数据智能建模与预测方法
US11410077B2 (en) 2019-02-05 2022-08-09 International Business Machines Corporation Implementing a computer system task involving nonstationary streaming time-series data by removing biased gradients from memory
CN109992608B (zh) * 2019-03-26 2022-03-04 浙江大学 一种基于频域的多模型融合预测方法和系统
CN109992608A (zh) * 2019-03-26 2019-07-09 浙江大学 一种基于频域的多模型融合预测方法和系统
CN110501952A (zh) * 2019-08-30 2019-11-26 黄河水利职业技术学院 一种高效专业信息采集设备及管理方法
CN110909928A (zh) * 2019-11-19 2020-03-24 润联软件系统(深圳)有限公司 能源负荷短期预测方法、装置、计算机设备及存储介质
US20210303969A1 (en) * 2020-03-30 2021-09-30 Ciena Corporation Forecasting routines utilizing a mixer to combine Deep Neural Network (DNN) forecasts of multi-variate time-series datasets
US11704539B2 (en) * 2020-03-30 2023-07-18 Ciena Corporation Forecasting routines utilizing a mixer to combine deep neural network (DNN) forecasts of multi-variate time-series datasets
CN111489027A (zh) * 2020-04-08 2020-08-04 五凌电力有限公司近尾洲水电厂 一种水电机组波形数据趋势预测方法及其系统
CN111814101A (zh) * 2020-07-10 2020-10-23 北京无线电测量研究所 一种航迹预测方法、系统和电子设备
CN111931999A (zh) * 2020-07-27 2020-11-13 国网湖南省电力有限公司 一种电网暴雨灾害长期预测方法、装置和系统
CN112465264A (zh) * 2020-12-07 2021-03-09 湖北省食品质量安全监督检验研究院 食品安全风险等级预测方法、装置及电子设备
CN114071636A (zh) * 2021-10-28 2022-02-18 浪潮通信信息系统有限公司 链路分配方法及装置

Similar Documents

Publication Publication Date Title
CN107102969A (zh) 一种时间序列数据的预测方法和系统
Panigrahi et al. A hybrid ETS–ANN model for time series forecasting
CN111563706A (zh) 一种基于lstm网络的多变量物流货运量预测方法
Sahoo et al. Prediction of flood in Barak River using hybrid machine learning approaches: a case study
Celik et al. Evaluating and forecasting banking crises through neural network models: An application for Turkish banking sector
Lin et al. Applying fuzzy grey modification model on inflow forecasting
CN109284866B (zh) 商品订单预测方法及装置、存储介质、终端
CN111199270B (zh) 一种基于深度学习的区域波高预报方法及终端
CN102622418B (zh) 一种基于bp神经网络的预测装置及设备
CN106781489A (zh) 一种基于递归神经网络的路网状态预测方法
CN109118013A (zh) 一种基于神经网络的经营数据预测方法、可读存储介质和预测系统
CN111767517B (zh) 一种应用于洪水预测的BiGRU多步预测方法、系统及存储介质
CN103268525B (zh) 一种基于wd-rbf的水文时间序列模拟预测方法
CN106910199A (zh) 面向城市空间信息采集的车联网众包方法
CN114912077B (zh) 一种融合随机搜索与混合分解误差订正的海浪预报方法
CN106127330A (zh) 基于最小二乘支持向量机的脉动风速预测方法
Lv et al. An improved long short-term memory neural network for stock forecast
CN111191823B (zh) 一种基于深度学习的生产物流预测方法
CN111340236A (zh) 一种基于债券估值数据与集成机器学习的债券违约预测方法
CN115640888A (zh) 一种递减函数嵌入式门限序列网络的产量预测方法
Mitchell et al. Nowcasting Euro area GDP growth using Bayesian quantile regression
Sun Real estate evaluation model based on genetic algorithm optimized neural network
CN107704944B (zh) 一种基于信息论学习的股市波动区间预测模型的构建方法
CN105354644A (zh) 一种基于集成经验模态分解和1-范数支持向量机分位数回归的金融时间序列预测方法
CN111811465B (zh) 基于多正弦函数分解神经网络预测海浪有效波高的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170829

RJ01 Rejection of invention patent application after publication