JP5023325B2 - リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法 - Google Patents
リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法 Download PDFInfo
- Publication number
- JP5023325B2 JP5023325B2 JP2006237066A JP2006237066A JP5023325B2 JP 5023325 B2 JP5023325 B2 JP 5023325B2 JP 2006237066 A JP2006237066 A JP 2006237066A JP 2006237066 A JP2006237066 A JP 2006237066A JP 5023325 B2 JP5023325 B2 JP 5023325B2
- Authority
- JP
- Japan
- Prior art keywords
- neurons
- data
- learning
- input
- neuron group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Feedback Control In General (AREA)
Description
E.N.Lorenz,"Atomospheric Predictability as Revealed by Naturally Occurring Analogues",Journal of the Atmospheric Sciences,Vol.26,pp.636−646,July,1969. A.Lapedes,R.Farber,"How Neural Nets Work"American Institute of Physics,pp.442−456,1988.
3,3´ 中間層
5,5´ 出力層
7,7´ 帰還路
9,9´ 規格化手段
11〜1r, 11´〜1r´ ニューロン
21〜2r, 21´〜2r´ ニューロン
31〜3q, 31´〜3q´ ニューロン
51〜5r, 51´〜5r´ ニューロン
N1, N1´ 第1のニューロン群
N2, N2´ 第2のニューロン群
N3, N3´ 第3のニューロン群
N4, N4´ 第4のニューロン群
Claims (6)
- リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法であって、
第1のリカレントニューラルネットワークとして、r個(rは2以上の整数でフラクタル次元から定められた予測可能なデータの数)の不規則時系列データがそれぞれ入力されるr個のニューロンからなる第1のニューロン群と、前記r個の不規則時系列データに続く別のr個の不規則時系列データがそれぞれ入力されるr個のニューロンからなる第2のニューロン群とを備えた入力層と、q(qは2以上の整数)個のニューロンからなる第3のニューロン群を備えた1以上の中間層と、r個のニューロンからなる第4のニューロン群を備えた出力層と、前記出力層の前記第4のニューロン群を構成する前記r個のニューロンの出力を前記第2のニューロン群を構成する前記r個のニューロンにそれぞれ帰還する帰還路と、前記第2のニューロン群を構成する前記r個のニューロンの入力側に配置されて入力を規格化する規格化手段とを備え、前記入力層に含まれる前記第1のニューロン群と前記第2のニューロン群とを構成する2r個の前記ニューロンの活性化関数として単調関数が用いられ、前記1以上の中間層に含まれる前記第3のニューロン群を構成する前記q個のニューロンの活性化関数として正弦波関数が用いられ、前記出力層に含まれる前記第4のニューロン群を構成する前記r個のニューロンの活性化関数として正弦波関数が用いられたものを用意し、また第2のリカレントニューラルネットワークとして、r´個(r´は2以上の整数でフラクタル次元から定められた予測可能なデータの数)の時系列データがそれぞれ入力されるr´個のニューロンからなる第1のニューロン群と、前記r´個の不規則時系列データに続く別のr´個の時系列データがそれぞれ入力されるr´個のニューロンからなる第2のニューロン群とを備えた入力層と、q´(q´は2以上の整数)個のニューロンからなる第3のニューロン群を備えた1以上の中間層と、r´個のニューロンからなる第4のニューロン群を備えた出力層と、前記出力層の前記第4のニューロン群を構成する前記r´個のニューロンの出力を前記第2のニューロン群を構成する前記r´個のニューロンにそれぞれ帰還する帰還路と、前記第2のニューロン群を構成する前記r´個のニューロンの入力側に配置されて入力を規格化する規格化手段とを備え、前記入力層に含まれる前記第1のニューロン群と前記第2のニューロン群とを構成する2r´個の前記ニューロンの活性化関数として単調関数が用いられ、前記1以上の中間層に含まれる前記第3のニューロン群を構成する前記q´個のニューロンの活性化関数として正弦波関数が用いられ、前記出力層に含まれる前記第4のニューロン群を構成する前記r´個のニューロンの活性化関数として正弦波関数が用いられたものを用意する準備ステップと、
過去に集めた多数組の2r個の不規則時系列データから、多数組の2r個のフラクタル性を有する揺らぎデータと前記揺らぎデータを含まない多数組の2r´個の平滑化データとを作成する基礎データ作成ステップと、
前記多数組の2r個の平滑化データを前記入力層に入力して、前記第2のニューロン群に入力されるr個の前記平滑化データと前記出力層の前記第4のニューロン群を構成する前記r個のニューロンの出力とが近づくように、前記第1のリカレントニューラルネットワークの内部状態を決定する第1の学習ステップと、
前記第1のニューロン群だけを有する前記入力層と、前記第3のニューロン群を有する1以上の前記中間層と、前記第4のニューロン群を有する前記出力層とを備えて、前記第1の学習ステップにより決定した内部状態を有する第1の学習済みニューラルネットワークを第1の予測用モデルとして構築する第1の予測用モデル構築ステップと、
前記第1の予測用モデルの前記入力層に直近のr個の平滑化データを入力して該直近のr個の平滑化データに続くr個の平滑化データを予測する第1の予測ステップと、
前記多数組の2r´個の揺らぎデータを前記入力層に入力して、前記第2のニューロン群に入力されるr´個の前記揺らぎデータと前記出力層の前記第4のニューロン群を構成する前記r´個のニューロンの出力とが近づくように、前記第2のリカレントニューラルネットワークの内部状態を決定する第2の学習ステップと、
前記第1のニューロン群だけを有する前記入力層と、前記第3のニューロン群を有する1以上の前記中間層と、前記第4のニューロン群を有する前記出力層とを備えて、前記第2の学習ステップにより決定した内部状態を有する第2の学習済みニューラルネットワークを第2の予測用モデルとして構築する第2の予測用モデル構築ステップと、
前記第2の予測用モデルの前記入力層に直近のr´個の揺らぎデータを入力して該直近のr´個の揺らぎデータに続くr´個の揺らぎデータを予測する第2の予測ステップと、
前記第1の予測ステップにより予測した平滑化データと前記第2の予測ステップで予測した揺らぎデータとを加算したデータに基づいて、直近のr´個の不規則時系列データに続くr´個の不規則時系列データを予測することを特徴とする不規則時系列データの学習・予測方法。 - 前記基礎データ作成ステップでは、前記多数組の2r個の不規則時系列データについて移動平均を取ることにより前記多数組の2r個の平滑化データとを作成し、前記多数組の2r個の不規則時系列データから対応する前記多数組の2r個の平滑化データを引くことにより前記フラクタル性を有する揺らぎデータを作成する請求項1に記載の不規則時系列データの学習・予測方法。
- 前記不規則時系列データが、ある測定地点の気象情報であり、
前記r´が7以下の整数である請求項1または2に記載の不規則時系列データの学習・予測方法。 - 前記入力層で用いられる2rまたは2r´個の前記ニューロンの活性化関数として用いられる前記単調関数は、
前記中間層で用いられるqまたはq´個の前記ニューロンと前記出力層で用いられるrまたはr´個の前記ニューロンの前記活性化関数として用いられる前記正弦波関数は、
- 前記第1及び第2学習ステップでは、学習方法として誤差逆転伝播法を用いて、前記内部状態の結合荷重としきい値とについて学習を行うことを特徴とする請求項1に記載の不規則時系列データの学習・予測方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006237066A JP5023325B2 (ja) | 2005-09-01 | 2006-08-31 | リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005253921 | 2005-09-01 | ||
JP2005253921 | 2005-09-01 | ||
JP2006237066A JP5023325B2 (ja) | 2005-09-01 | 2006-08-31 | リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007095046A JP2007095046A (ja) | 2007-04-12 |
JP5023325B2 true JP5023325B2 (ja) | 2012-09-12 |
Family
ID=37980641
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006237066A Expired - Fee Related JP5023325B2 (ja) | 2005-09-01 | 2006-08-31 | リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5023325B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5157359B2 (ja) * | 2006-10-10 | 2013-03-06 | オムロン株式会社 | 時系列データ解析装置、時系列データ解析システム、時系列データ解析装置の制御方法、プログラム、および記録媒体 |
JP4840494B2 (ja) * | 2009-09-16 | 2011-12-21 | 沖電気工業株式会社 | 時系列データ予測ニューラルネットワーク装置 |
CN102622515B (zh) * | 2012-02-21 | 2017-03-15 | 北京联合大学 | 一种天气预测方法 |
GB2568030A (en) * | 2017-10-24 | 2019-05-08 | Zyzzle Ltd | Artificial intelligence systems and autonomous entity apparatuses including artificial intelligence systems |
CN108399201B (zh) * | 2018-01-30 | 2020-05-12 | 武汉大学 | 一种基于循环神经网络的Web用户访问路径预测方法 |
WO2019190185A1 (ko) * | 2018-03-30 | 2019-10-03 | 삼성에스디에스 주식회사 | 인공지능을 이용한 시계열 데이터 학습 및 분석 방법 |
CN108872993A (zh) * | 2018-04-28 | 2018-11-23 | 中国人民解放军国防科技大学 | 一种基于循环动态卷积神经网络的雷达回波外推方法 |
JP7418153B2 (ja) * | 2018-12-26 | 2024-01-19 | 株式会社Nttデータ | 予測装置、学習装置、予測方法、及びプログラム |
CN111754034A (zh) * | 2020-06-15 | 2020-10-09 | 西安工业大学 | 一种基于混沌优化神经网络模型的时间序列预测方法 |
CN113222299B (zh) * | 2021-06-10 | 2022-01-14 | 湘南学院 | 一种用于景区的车辆智能调度系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0830581A (ja) * | 1994-07-20 | 1996-02-02 | Mitsubishi Electric Corp | 需要量予測方法 |
-
2006
- 2006-08-31 JP JP2006237066A patent/JP5023325B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2007095046A (ja) | 2007-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5023325B2 (ja) | リカレントニューラルネットワークを用いた不規則時系列データの学習・予測方法 | |
Sivakumar et al. | River flow forecasting: use of phase-space reconstruction and artificial neural networks approaches | |
Nayak et al. | A survey on rainfall prediction using artificial neural network | |
Talebizadeh et al. | Uncertainty analysis for the forecast of lake level fluctuations using ensembles of ANN and ANFIS models | |
Kisi et al. | River suspended sediment estimation by climatic variables implication: Comparative study among soft computing techniques | |
Aziz et al. | Application of artificial neural networks in regional flood frequency analysis: a case study for Australia | |
Aghelpour et al. | Evaluation of stochastic and artificial intelligence models in modeling and predicting of river daily flow time series | |
Hung et al. | An artificial neural network model for rainfall forecasting in Bangkok, Thailand | |
Goyal | Modeling of sediment yield prediction using M5 model tree algorithm and wavelet regression | |
Agrawal et al. | On-line wave prediction | |
Partal et al. | Daily precipitation predictions using three different wavelet neural network algorithms by meteorological data | |
Sulugodu et al. | Evaluating the performance of CHIRPS satellite rainfall data for streamflow forecasting | |
Afshin et al. | Long term rainfall forecasting by integrated artificial neural network-fuzzy logic-wavelet model in Karoon basin | |
Cao et al. | An advanced meta-learner based on artificial electric field algorithm optimized stacking ensemble techniques for enhancing prediction accuracy of soil shear strength | |
Nagahamulla et al. | An ensemble of artificial neural networks in rainfall forecasting | |
Cagcag Yolcu et al. | Single multiplicative neuron model artificial neural network with autoregressive coefficient for time series modelling | |
CN106970370A (zh) | 基于混沌神经网络的雷达多目标跟踪优化方法 | |
Ahmadi et al. | Improving the performance of random forest for estimating monthly reservoir inflow via complete ensemble empirical mode decomposition and wavelet analysis | |
Robati et al. | Inflation rate modeling: adaptive neuro-fuzzy inference system approach and particle swarm optimization algorithm (ANFIS-PSO) | |
Nguyen et al. | Prediction of daily and monthly rainfall using a backpropagation neural Network | |
Shaikh et al. | A rainfall prediction model using artificial neural network | |
Rout et al. | Analysis of net asset value prediction using low complexity neural network with various expansion techniques | |
Yu et al. | Online ensemble modeling for real time water level forecasts | |
Lee et al. | Creating an advanced backpropagation neural network toolbox within GIS software | |
Bashir et al. | Short-term load forecasting using artificial neural network based on particle swarm optimization algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090714 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120306 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120501 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120522 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5023325 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |