JPH06231289A - 時系列予測方法 - Google Patents
時系列予測方法Info
- Publication number
- JPH06231289A JPH06231289A JP5018747A JP1874793A JPH06231289A JP H06231289 A JPH06231289 A JP H06231289A JP 5018747 A JP5018747 A JP 5018747A JP 1874793 A JP1874793 A JP 1874793A JP H06231289 A JPH06231289 A JP H06231289A
- Authority
- JP
- Japan
- Prior art keywords
- time series
- layer
- series pattern
- pattern
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Feedback Control In General (AREA)
Abstract
(57)【要約】
【目的】 時系列予測に関する先見知識を活用して、将
来の時系列パターンを適確に予測する時系列予測方法を
提供する。 【構成】 予測対象の時系列パターンＴ1 と該時系列パ
ターンＴ1 以外の時系列パターンＴj との間に負の相関
があり、時系列パターンＴ1 と該時系列パターンＴ1 以
外の時系列パターンＴk との間に正の相関があるという
先見知識がある場合、時系列パターンＴ1 ，Ｔ2 ，・・
・，Ｔn の過去および現在の時系列パターンを入力パタ
ーンとし、予測対象時系列パターンＴ1 の将来の時系列
パターンを教師パターンとして、バックプロパゲーショ
ン法によりニューラルネットワークの学習を行う際に、
δを０以上の実数としたとき、時系列パターンＴj を入
力する入力層のニューロンと中間層の間の接続線の重み
のうち、δ以上の値となる接続線の重みを０にし、時系
列パターンＴk を入力する入力層のニューロンと中間層
の間の接続線の重みのうち、−δ以下となる接続線の重
みを０にし、中間層と出力層の間の接続線の重みのう
ち、−δ以下となる接続線の重みを０にする。
来の時系列パターンを適確に予測する時系列予測方法を
提供する。 【構成】 予測対象の時系列パターンＴ1 と該時系列パ
ターンＴ1 以外の時系列パターンＴj との間に負の相関
があり、時系列パターンＴ1 と該時系列パターンＴ1 以
外の時系列パターンＴk との間に正の相関があるという
先見知識がある場合、時系列パターンＴ1 ，Ｔ2 ，・・
・，Ｔn の過去および現在の時系列パターンを入力パタ
ーンとし、予測対象時系列パターンＴ1 の将来の時系列
パターンを教師パターンとして、バックプロパゲーショ
ン法によりニューラルネットワークの学習を行う際に、
δを０以上の実数としたとき、時系列パターンＴj を入
力する入力層のニューロンと中間層の間の接続線の重み
のうち、δ以上の値となる接続線の重みを０にし、時系
列パターンＴk を入力する入力層のニューロンと中間層
の間の接続線の重みのうち、−δ以下となる接続線の重
みを０にし、中間層と出力層の間の接続線の重みのう
ち、−δ以下となる接続線の重みを０にする。
Description
【０００１】
【産業上の利用分野】本発明は、過去および現在の時系
列パターンをニューラルネットワークに入力して、将来
の時系列パターンを予測する時系列予測方法に関する。
列パターンをニューラルネットワークに入力して、将来
の時系列パターンを予測する時系列予測方法に関する。
【０００２】
【従来の技術】複数種類の時系列パターンの過去および
現在のパターンをニューラルネットワークへ入力し、１
種類の時系列パターンの将来のパターンを予測する従来
技術について説明する。
現在のパターンをニューラルネットワークへ入力し、１
種類の時系列パターンの将来のパターンを予測する従来
技術について説明する。
【０００３】ニューラルネットワークを用いる場合とし
て、ここでは、入力層、中間層、出力層からなり、入力
層から出力層へ向かう接続線で結合されるフィードフォ
ワード型ニューラルネットワークを用いる場合を例にと
って説明する。
て、ここでは、入力層、中間層、出力層からなり、入力
層から出力層へ向かう接続線で結合されるフィードフォ
ワード型ニューラルネットワークを用いる場合を例にと
って説明する。
【０００４】図１は、フィードフォワード型ニューラル
ネットワークの構成例を示す図である。図１において、
１は入力層のニューロン、２は中間層のニューロン、３
は出力層のニューロンをそれぞれ示し、入力層と中間層
のニューロンは接続線４で接続され、中間層と出力層の
ニューロンは接続線５で接続されている。接続線４，５
の重みを学習によって変動させることにより、学習課題
にふさわしい重みに決定する。
ネットワークの構成例を示す図である。図１において、
１は入力層のニューロン、２は中間層のニューロン、３
は出力層のニューロンをそれぞれ示し、入力層と中間層
のニューロンは接続線４で接続され、中間層と出力層の
ニューロンは接続線５で接続されている。接続線４，５
の重みを学習によって変動させることにより、学習課題
にふさわしい重みに決定する。
【０００５】ニューラルネットワークの学習アルゴリズ
ムには、バックプロパゲーション法（Rumelhart,D.E.et
al.: Parallel Distributed Processing,Vol.1,MIT Pre
ss（1986）参照）を用いる。
ムには、バックプロパゲーション法（Rumelhart,D.E.et
al.: Parallel Distributed Processing,Vol.1,MIT Pre
ss（1986）参照）を用いる。
【０００６】複数種類の時系列パターンの例として、こ
こでは、以下に示す経済指標をとりあげて説明する。
こでは、以下に示す経済指標をとりあげて説明する。
【０００７】 経済指標：平均株価（Ｔ1 ） 経済指標：金利（Ｔ2 ） 経済指標：マネーサプライ（Ｔ3 ） 経済指標：円相場（Ｔ4 ） 経済指標：出来高（Ｔ5 ） 経済指標：ＮＹダウ平均（Ｔ6 ） 従来技術では、上記複数種類の経済指標に関する過去お
よび現在の時系列パターンをニューラルネットワークへ
の入力パターンとし、予測対象とする１個の経済指標
（ここでは、平均株価とする）の将来の時系列パターン
を出力層への教師パターンとして、時系列学習を行わせ
ていた。
よび現在の時系列パターンをニューラルネットワークへ
の入力パターンとし、予測対象とする１個の経済指標
（ここでは、平均株価とする）の将来の時系列パターン
を出力層への教師パターンとして、時系列学習を行わせ
ていた。
【０００８】具体的には、ｍとｆを１以上の整数とした
とき、時刻ｔから時刻（ｔ−ｍ）までのＴ1 〜Ｔ6 の６
（ｍ＋１）個の時系列パターンを入力パターンとし、時
刻（ｔ＋ｆ）のＴ1 の時系列パターンを教師パターンと
して、時刻ｔを更新しながら、入力パターンと教師パタ
ーンとの対応関係を学習させる。ニューラルネットワー
クの入力層のニューロン数は６（ｍ＋１）個であり、出
力層のニューロン数は１個である。中間層のニューロン
数は試行錯誤的に決定する。
とき、時刻ｔから時刻（ｔ−ｍ）までのＴ1 〜Ｔ6 の６
（ｍ＋１）個の時系列パターンを入力パターンとし、時
刻（ｔ＋ｆ）のＴ1 の時系列パターンを教師パターンと
して、時刻ｔを更新しながら、入力パターンと教師パタ
ーンとの対応関係を学習させる。ニューラルネットワー
クの入力層のニューロン数は６（ｍ＋１）個であり、出
力層のニューロン数は１個である。中間層のニューロン
数は試行錯誤的に決定する。
【０００９】この際、ニューラルネットワークの重みの
初期値として、十分小さい値をランダムに付与し、最終
的な重み値の符号については特に関与せず学習を行って
いた。
初期値として、十分小さい値をランダムに付与し、最終
的な重み値の符号については特に関与せず学習を行って
いた。
【００１０】
【発明が解決しようとする課題】複数種類の時系列パタ
ーンの間には互いに密接な相関関係を示す時系列パター
ンがある。例えば、相場関係の時系列パターンでは、株
価、金利、マネーサプライ（通貨供給量）が互いに密接
な関係にある。
ーンの間には互いに密接な相関関係を示す時系列パター
ンがある。例えば、相場関係の時系列パターンでは、株
価、金利、マネーサプライ（通貨供給量）が互いに密接
な関係にある。
【００１１】すなわち、金利と株価には負の相関があ
り、マネーサプライと株価には正の相関がある。具体的
に言うと、「金利が下がると株価は上昇傾向になり、金
利が上がると株価は下降傾向になる」、あるいは「マネ
ーサプライが増加すると株価は上昇傾向になり、マネー
サプライが減少すると株価は下降傾向になる」という相
関関係がある。これらは株価予測における先見知識の例
である。
り、マネーサプライと株価には正の相関がある。具体的
に言うと、「金利が下がると株価は上昇傾向になり、金
利が上がると株価は下降傾向になる」、あるいは「マネ
ーサプライが増加すると株価は上昇傾向になり、マネー
サプライが減少すると株価は下降傾向になる」という相
関関係がある。これらは株価予測における先見知識の例
である。
【００１２】従来技術では、上記のような先見知識を特
段考慮することなく、時系列予測メカニズムをニューラ
ルネットワークに学習させていた。すなわち、従来技術
では、時系列予測を行う上で重要な役割を果たす先見知
識を十分活用できていないので、予測性能が余り向上し
ないという問題が生じる。
段考慮することなく、時系列予測メカニズムをニューラ
ルネットワークに学習させていた。すなわち、従来技術
では、時系列予測を行う上で重要な役割を果たす先見知
識を十分活用できていないので、予測性能が余り向上し
ないという問題が生じる。
【００１３】本発明は、上記に鑑みてなされたもので、
その目的とするところは、時系列予測に関する先見知識
を活用して、将来の時系列パターンを適確に予測する時
系列予測方法を提供することにある。
その目的とするところは、時系列予測に関する先見知識
を活用して、将来の時系列パターンを適確に予測する時
系列予測方法を提供することにある。
【００１４】
【課題を解決するための手段】上記目的を達成するた
め、本発明の時系列予測方法は、複数種類の時系列パタ
ーンＴ1 ，Ｔ2 ，・・・，Ｔn （ｎは１より大きい整
数）の過去および現在の時系列パターンをニューラルネ
ットワークに入力して、時系列パターンＴ1 の将来の時
系列パターンを予測する時系列予測方法であって、時系
列パターンＴj （ｊは１以外）と時系列パターンＴ1 と
の間に負の相関があり、時系列パターンＴk（ｋは１以
外）と時系列パターンＴ1 との間に正の相関があるとい
う先見知識がある場合、時系列パターンＴ1 ，Ｔ2 ，・
・・，Ｔn の過去および現在の時系列パターンを入力パ
ターンとし、時系列パターンＴ1 の将来の時系列パター
ンを教師パターンとして、バックプロパゲーション法に
よりニューラルネットワークの学習を行う際に、δを０
以上の実数としたとき、（１）時系列パターンＴj を入
力する入力層のニューロンと中間層の間の接続線の重み
のうち、δ以上の値となる接続線の重みを０にし、
（２）時系列パターンＴk を入力する入力層のニューロ
ンと中間層の間の接続線の重みのうち、−δ以下となる
接続線の重みを０にし、（３）中間層と出力層の間の接
続線の重みのうち、−δ以下となる接続線の重みを０に
することを要旨とする。
め、本発明の時系列予測方法は、複数種類の時系列パタ
ーンＴ1 ，Ｔ2 ，・・・，Ｔn （ｎは１より大きい整
数）の過去および現在の時系列パターンをニューラルネ
ットワークに入力して、時系列パターンＴ1 の将来の時
系列パターンを予測する時系列予測方法であって、時系
列パターンＴj （ｊは１以外）と時系列パターンＴ1 と
の間に負の相関があり、時系列パターンＴk（ｋは１以
外）と時系列パターンＴ1 との間に正の相関があるとい
う先見知識がある場合、時系列パターンＴ1 ，Ｔ2 ，・
・・，Ｔn の過去および現在の時系列パターンを入力パ
ターンとし、時系列パターンＴ1 の将来の時系列パター
ンを教師パターンとして、バックプロパゲーション法に
よりニューラルネットワークの学習を行う際に、δを０
以上の実数としたとき、（１）時系列パターンＴj を入
力する入力層のニューロンと中間層の間の接続線の重み
のうち、δ以上の値となる接続線の重みを０にし、
（２）時系列パターンＴk を入力する入力層のニューロ
ンと中間層の間の接続線の重みのうち、−δ以下となる
接続線の重みを０にし、（３）中間層と出力層の間の接
続線の重みのうち、−δ以下となる接続線の重みを０に
することを要旨とする。
【００１５】
【作用】本発明の時系列予測方法では、予測対象の時系
列パターンＴ1 と該時系列パターンＴ1 以外の時系列パ
ターンＴj との間に負の相関があり、時系列パターンＴ
1 と該時系列パターンＴ1 以外の時系列パターンＴk と
の間に正の相関があるという先見知識がある場合、時系
列パターンＴ1 ，Ｔ2 ，・・・，Ｔn の過去および現在
の時系列パターンを入力パターンとし、予測対象時系列
パターンＴ1 の将来の時系列パターンを教師パターンと
して、バックプロパゲーション法によりニューラルネッ
トワークの学習を行う際に、δを０以上の実数としたと
き、時系列パターンＴj を入力する入力層のニューロン
と中間層の間の接続線の重みのうち、δ以上の値となる
接続線の重みを０にし、時系列パターンＴk を入力する
入力層のニューロンと中間層の間の接続線の重みのう
ち、−δ以下となる接続線の重みを０にし、中間層と出
力層の間の接続線の重みのうち、−δ以下となる接続線
の重みを０にする。
列パターンＴ1 と該時系列パターンＴ1 以外の時系列パ
ターンＴj との間に負の相関があり、時系列パターンＴ
1 と該時系列パターンＴ1 以外の時系列パターンＴk と
の間に正の相関があるという先見知識がある場合、時系
列パターンＴ1 ，Ｔ2 ，・・・，Ｔn の過去および現在
の時系列パターンを入力パターンとし、予測対象時系列
パターンＴ1 の将来の時系列パターンを教師パターンと
して、バックプロパゲーション法によりニューラルネッ
トワークの学習を行う際に、δを０以上の実数としたと
き、時系列パターンＴj を入力する入力層のニューロン
と中間層の間の接続線の重みのうち、δ以上の値となる
接続線の重みを０にし、時系列パターンＴk を入力する
入力層のニューロンと中間層の間の接続線の重みのう
ち、−δ以下となる接続線の重みを０にし、中間層と出
力層の間の接続線の重みのうち、−δ以下となる接続線
の重みを０にする。
【００１６】
【実施例】本発明の実施例の説明を行う前に、本発明の
時系列予測方法の概要を説明する。
時系列予測方法の概要を説明する。
【００１７】本発明の時系列予測方法においては、ま
ず、予測対象の時系列パターンＴ1 とそれ以外の時系列
パターンとの間の相関関係に関する先見知識を調べる。
すなわち、Ｔ1 以外の時系列パターンの中に、Ｔ1 と負
の相関関係にある時系列パターンと、Ｔ1 と正の相関関
係にある時系列パターンがあるか調べる。
ず、予測対象の時系列パターンＴ1 とそれ以外の時系列
パターンとの間の相関関係に関する先見知識を調べる。
すなわち、Ｔ1 以外の時系列パターンの中に、Ｔ1 と負
の相関関係にある時系列パターンと、Ｔ1 と正の相関関
係にある時系列パターンがあるか調べる。
【００１８】ここでは、Ｔ2 がＴ1 と負の相関関係（Ｔ
2 が増加するとＴ1 は減少し、Ｔ2が減少するとＴ1 は
増加する傾向にあるという関係）にあり、Ｔ3 がＴ1 と
正の相関関係（Ｔ3 が増加するとＴ1 も増加し、Ｔ3 が
減少するとＴ1 も減少する傾向にあるという関係）にあ
るとする。
2 が増加するとＴ1 は減少し、Ｔ2が減少するとＴ1 は
増加する傾向にあるという関係）にあり、Ｔ3 がＴ1 と
正の相関関係（Ｔ3 が増加するとＴ1 も増加し、Ｔ3 が
減少するとＴ1 も減少する傾向にあるという関係）にあ
るとする。
【００１９】次に、動作、上記Ｔ2 を入力する入力層
のニューロンと中間層のニューロンとの間の重みが負値
となるように、動作、上記Ｔ3 を入力する入力層のニ
ューロンと中間層のニューロンとの間の重みが正値とな
るように、動作、中間層と出力層の間の重みが正値と
なるようにしむけながら、バックプロパゲーション法に
よりニューラルネットワークの学習を行う。
のニューロンと中間層のニューロンとの間の重みが負値
となるように、動作、上記Ｔ3 を入力する入力層のニ
ューロンと中間層のニューロンとの間の重みが正値とな
るように、動作、中間層と出力層の間の重みが正値と
なるようにしむけながら、バックプロパゲーション法に
よりニューラルネットワークの学習を行う。
【００２０】Ｔi （ｉ＝１〜３）を入力する入力層のニ
ューロンと中間層のｎ番目のニューロンとの間の重みを
Ｗinとし、中間層のｎ番目のニューロンと、出力層のニ
ューロン（１個）との間の重みをＸn としたとき、出力
層のニューロンの出力Ｙは式（１）のようになる。
ューロンと中間層のｎ番目のニューロンとの間の重みを
Ｗinとし、中間層のｎ番目のニューロンと、出力層のニ
ューロン（１個）との間の重みをＸn としたとき、出力
層のニューロンの出力Ｙは式（１）のようになる。
【００２１】
【数１】 ｆ（ｘ）は微分可能で連続な単調増加関数であり、例え
ば、式（２）のようなシグモイド関数を用いる。
ば、式（２）のようなシグモイド関数を用いる。
【００２２】 ｆ（ｘ）＝１／（１＋ｅ-x） （２） いま、Ｗ2nは上記動作により負値をとるように、Ｗ3n
は上記動作により正値をとるように、Ｘn は上記動作
により正値をとるように学習させたので、式（１）は
式（３）のように変形できる。
は上記動作により正値をとるように、Ｘn は上記動作
により正値をとるように学習させたので、式（１）は
式（３）のように変形できる。
【００２３】
【数２】 ｆは単調増加関数なので、式（３）はＴ2 が増加すると
Ｙは減少する傾向になり、Ｔ3 が増加するとＹも増加す
る傾向になるという相関関係を実現している。
Ｙは減少する傾向になり、Ｔ3 が増加するとＹも増加す
る傾向になるという相関関係を実現している。
【００２４】従って、本発明の時系列予測方法では、時
系列パターン間の相関関係を保持しながらバックプロパ
ゲーション法によりニューラルネットワークの学習を行
うことで、時系列予測において重要な役割を果たす先見
知識を活用できるので、従来よりも予測性能の優れた時
系列予測方法を実現できる。
系列パターン間の相関関係を保持しながらバックプロパ
ゲーション法によりニューラルネットワークの学習を行
うことで、時系列予測において重要な役割を果たす先見
知識を活用できるので、従来よりも予測性能の優れた時
系列予測方法を実現できる。
【００２５】次に、本発明の実施例について図面を用い
て説明する。
て説明する。
【００２６】なお、本発明の実施例においては、フィー
ドフォワード型ニューラルネットワークを用いる場合を
例にとって説明する。また、３種類の時系列パターンＴ
1 〜Ｔ3 を入力（Ｔ1 を入力層の第１のニューロンに入
力し、Ｔ2 を入力層の第２のニューロンに入力し、Ｔ3
を入力層の第３のニューロンに入力）し、Ｔ1 を予測す
る場合で、Ｔ2 がＴ1 と負の相関関係にあり、Ｔ3 がＴ
1 と正の相関関係にある場合を例にとって説明する。ま
た、パラメータδが０の場合を例にとって説明する。更
に、説明の便宜上、時刻１〜時刻１０の間の時系列を用
いて学習させる場合を例にとって説明する。また、時刻
ｔのＴ1 〜Ｔ3 を入力して、時刻（ｔ＋１）のＴ1 を予
測する場合を例にとって説明する。
ドフォワード型ニューラルネットワークを用いる場合を
例にとって説明する。また、３種類の時系列パターンＴ
1 〜Ｔ3 を入力（Ｔ1 を入力層の第１のニューロンに入
力し、Ｔ2 を入力層の第２のニューロンに入力し、Ｔ3
を入力層の第３のニューロンに入力）し、Ｔ1 を予測す
る場合で、Ｔ2 がＴ1 と負の相関関係にあり、Ｔ3 がＴ
1 と正の相関関係にある場合を例にとって説明する。ま
た、パラメータδが０の場合を例にとって説明する。更
に、説明の便宜上、時刻１〜時刻１０の間の時系列を用
いて学習させる場合を例にとって説明する。また、時刻
ｔのＴ1 〜Ｔ3 を入力して、時刻（ｔ＋１）のＴ1 を予
測する場合を例にとって説明する。
【００２７】図２は、本発明の時系列予測方法の一実施
例を示したフローチャートである。本発明により時系列
予測は次のように進められる。
例を示したフローチャートである。本発明により時系列
予測は次のように進められる。
【００２８】第１に、ニューラルネットワークの重みの
値を小さな値に（例えば、−０．３から＋０．３の間
で）ランダムに付与する（ステップ１１０）。
値を小さな値に（例えば、−０．３から＋０．３の間
で）ランダムに付与する（ステップ１１０）。
【００２９】第２に、時刻ｔを１にする（ステップ１２
０）。
０）。
【００３０】第３に、時刻ｔの時系列パターンであるＴ
1 （ｔ），Ｔ2 （ｔ），Ｔ3 （ｔ）を入力層への入力パ
ターンとし、時刻（ｔ＋１）の時系列パターンであるＴ
1 （ｔ＋１）を出力層への教師パターンとして、バック
プロパゲーション法の学習アルゴリズムに従って重みを
更新する（ステップ１３０）。
1 （ｔ），Ｔ2 （ｔ），Ｔ3 （ｔ）を入力層への入力パ
ターンとし、時刻（ｔ＋１）の時系列パターンであるＴ
1 （ｔ＋１）を出力層への教師パターンとして、バック
プロパゲーション法の学習アルゴリズムに従って重みを
更新する（ステップ１３０）。
【００３１】第４に、入力層の第２のニューロンと中間
層との間の接続線で、正の重みとなっているものをゼロ
に設定する。入力層の第３のニューロンと中間層との間
の接続線で負の重みとなっているものをゼロに設定す
る。中間層と出力層との間の接続線で、負の重みとなっ
ているものをゼロに設定する（ステップ１４０）。但
し、入力層の第１のニューロンと中間層との間の接続線
の重みについては修正しない。
層との間の接続線で、正の重みとなっているものをゼロ
に設定する。入力層の第３のニューロンと中間層との間
の接続線で負の重みとなっているものをゼロに設定す
る。中間層と出力層との間の接続線で、負の重みとなっ
ているものをゼロに設定する（ステップ１４０）。但
し、入力層の第１のニューロンと中間層との間の接続線
の重みについては修正しない。
【００３２】第５に、時刻ｔが１０未満のときにはｔを
更新する、時刻ｔが１０のときには、時刻１にする（ス
テップ１５０）。
更新する、時刻ｔが１０のときには、時刻１にする（ス
テップ１５０）。
【００３３】第６に、平均２乗誤差が所定の値より小さ
くなっているときには学習を停止する。所定の値より大
きいときには、ステップ１３０からの動作を繰り返す
（ステップ１６０）。
くなっているときには学習を停止する。所定の値より大
きいときには、ステップ１３０からの動作を繰り返す
（ステップ１６０）。
【００３４】第７に、学習済みのニューラルネットワー
クにより時系列予測処理を行わせる（ステップ１７
０）。
クにより時系列予測処理を行わせる（ステップ１７
０）。
【００３５】本発明では、ステップ１４０において、負
の相関関係にある時系列パターンを入力したニューロン
と中間層との間の重み値を負になるように、正の相関関
係にある時系列パターンを入力したニューロンと中間層
との間の重み値を正になるように、中間層と出力層の間
の重みの値を正となるように、学習を進める。
の相関関係にある時系列パターンを入力したニューロン
と中間層との間の重み値を負になるように、正の相関関
係にある時系列パターンを入力したニューロンと中間層
との間の重み値を正になるように、中間層と出力層の間
の重みの値を正となるように、学習を進める。
【００３６】従って、上述したように、本発明の時系列
予測方法では、時系列パターン間の相関関係を保持しな
がらバックプロパゲーション法によりニューラルネット
ワークの学習を行うことで、時系列予測において重要な
役割を果たす先見知識を活用できるので、従来よりも優
れた時系列予測方法を実現できることは明らかである。
予測方法では、時系列パターン間の相関関係を保持しな
がらバックプロパゲーション法によりニューラルネット
ワークの学習を行うことで、時系列予測において重要な
役割を果たす先見知識を活用できるので、従来よりも優
れた時系列予測方法を実現できることは明らかである。
【００３７】以上の説明では、δ＝０としたが、δを小
さい正の実数とすることで、図２のステップ１４０にお
いて、重みの値を修正するか否かの判断基準に幅をもた
せることができ、よりきめ細かい学習制御を実現でき
る。
さい正の実数とすることで、図２のステップ１４０にお
いて、重みの値を修正するか否かの判断基準に幅をもた
せることができ、よりきめ細かい学習制御を実現でき
る。
【００３８】以上の説明では、フィードフォワード型ニ
ューラルネットワークを用いる場合を例にとって説明し
たが、本発明は、図３に示すようなリカレント型ニュー
ラルネットワークを用いる場合にも適用できることは明
らかである。
ューラルネットワークを用いる場合を例にとって説明し
たが、本発明は、図３に示すようなリカレント型ニュー
ラルネットワークを用いる場合にも適用できることは明
らかである。
【００３９】図３において、６は入力層、７は文脈層、
８は中間層、９は出力層である。
８は中間層、９は出力層である。
【００４０】１０，１１，１２はそれぞれ入力層６から
中間層８へ、文脈層７から中間層８へ、中間層８から出
力層９へ信号を入力するための重み付き接続線（完全結
合）である。接続線１０，１１，１２の重みを学習する
ことによって、学習課題にふさわしい重みに決定する。
学習アルゴリズムとしては、バックプロパゲーション法
を用いる。また、１３は中間層８から文脈層７に入力す
るための接続線であり、重み固定の１対１結合である。
中間層８へ、文脈層７から中間層８へ、中間層８から出
力層９へ信号を入力するための重み付き接続線（完全結
合）である。接続線１０，１１，１２の重みを学習する
ことによって、学習課題にふさわしい重みに決定する。
学習アルゴリズムとしては、バックプロパゲーション法
を用いる。また、１３は中間層８から文脈層７に入力す
るための接続線であり、重み固定の１対１結合である。
【００４１】Ｔ1 〜Ｔ3 を入力パターンとしてＴ1 を予
測させるときの図３に示したリカレント型ニューラルネ
ットワークへの入力パターンと教師パターンの与え方は
次のようにする。
測させるときの図３に示したリカレント型ニューラルネ
ットワークへの入力パターンと教師パターンの与え方は
次のようにする。
【００４２】Ｔ1 （ｔ）〜Ｔ3 （ｔ）を入力層６への入
力パターンとする。また、時刻（ｔ−１）の中間層８の
出力パターンを文脈層７への入力パターンとする（接続
線１３を用いて、中間層８から文脈層７へ入力する）。
そして、Ｔ1 （ｔ＋１）を出力層９への教師パターンと
する。
力パターンとする。また、時刻（ｔ−１）の中間層８の
出力パターンを文脈層７への入力パターンとする（接続
線１３を用いて、中間層８から文脈層７へ入力する）。
そして、Ｔ1 （ｔ＋１）を出力層９への教師パターンと
する。
【００４３】バックプロパゲーション・アルゴリズムに
より重みの更新をした後で、図２のステップ１４０と同
様にして重みの値を修正する。
より重みの更新をした後で、図２のステップ１４０と同
様にして重みの値を修正する。
【００４４】
【発明の効果】以上説明したように、本発明によれば、
予測対象の時系列パターンＴ1 と該時系列パターンＴ1
以外の時系列パターンＴj との間に負の相関があり、時
系列パターンＴ1 と該時系列パターンＴ1 以外の時系列
パターンＴk との間に正の相関があるという先見知識が
ある場合、時系列パターンＴ1 ，Ｔ2 ，・・・，Ｔn の
過去および現在の時系列パターンを入力パターンとし、
予測対象時系列パターンＴ1 の将来の時系列パターンを
教師パターンとして、バックプロパゲーション法により
ニューラルネットワークの学習を行う際に、δを０以上
の実数としたとき、時系列パターンＴj を入力する入力
層のニューロンと中間層の間の接続線の重みのうち、δ
以上の値となる接続線の重みを０にし、時系列パターン
Ｔk を入力する入力層のニューロンと中間層の間の接続
線の重みのうち、−δ以下となる接続線の重みを０に
し、中間層と出力層の間の接続線の重みのうち、−δ以
下となる接続線の重みを０にするので、時系列パターン
間の相関関係を保持しながらニューラルネットワークの
学習を行い、時系列予測に重要な役割を果たす先見知識
を活用して、従来よりも優れた時系列予測を行うことが
できる。
予測対象の時系列パターンＴ1 と該時系列パターンＴ1
以外の時系列パターンＴj との間に負の相関があり、時
系列パターンＴ1 と該時系列パターンＴ1 以外の時系列
パターンＴk との間に正の相関があるという先見知識が
ある場合、時系列パターンＴ1 ，Ｔ2 ，・・・，Ｔn の
過去および現在の時系列パターンを入力パターンとし、
予測対象時系列パターンＴ1 の将来の時系列パターンを
教師パターンとして、バックプロパゲーション法により
ニューラルネットワークの学習を行う際に、δを０以上
の実数としたとき、時系列パターンＴj を入力する入力
層のニューロンと中間層の間の接続線の重みのうち、δ
以上の値となる接続線の重みを０にし、時系列パターン
Ｔk を入力する入力層のニューロンと中間層の間の接続
線の重みのうち、−δ以下となる接続線の重みを０に
し、中間層と出力層の間の接続線の重みのうち、−δ以
下となる接続線の重みを０にするので、時系列パターン
間の相関関係を保持しながらニューラルネットワークの
学習を行い、時系列予測に重要な役割を果たす先見知識
を活用して、従来よりも優れた時系列予測を行うことが
できる。
【図１】フィードフォワード型ニューラルネットワーク
の構成を示す図である。
の構成を示す図である。
【図２】本発明の一実施例の係わる時系列予測方法の手
順を示すフローチャートである。
順を示すフローチャートである。
【図３】リカレント型ニューラルネットワークの構成を
示す図である。
示す図である。
１ 入力層のニューロン ２ 中間層のニューロン ３ 出力層のニューロン ６ 入力層 ７ 文脈層 ８ 中間層 ９ 出力層
Claims (2)
- 【請求項１】 複数種類の時系列パターンＴ1 ，Ｔ2 ，
・・・，Ｔn （ｎは１より大きい整数）の過去および現
在の時系列パターンをニューラルネットワークに入力し
て、時系列パターンＴ1 の将来の時系列パターンを予測
する時系列予測方法であって、時系列パターンＴj （ｊ
は１以外）と時系列パターンＴ1 との間に負の相関があ
り、時系列パターンＴk （ｋは１以外）と時系列パター
ンＴ1との間に正の相関があるという先見知識がある場
合、時系列パターンＴ1 ，Ｔ2，・・・，Ｔn の過去お
よび現在の時系列パターンを入力パターンとし、時系列
パターンＴ1 の将来の時系列パターンを教師パターンと
して、バックプロパゲーション法によりニューラルネッ
トワークの学習を行う際に、δを０以上の実数としたと
き、（１）時系列パターンＴj を入力する入力層のニュ
ーロンと中間層の間の接続線の重みのうち、δ以上の値
となる接続線の重みを０にし、（２）時系列パターンＴ
k を入力する入力層のニューロンと中間層の間の接続線
の重みのうち、−δ以下となる接続線の重みを０にし、
（３）中間層と出力層の間の接続線の重みのうち、−δ
以下となる接続線の重みを０にすることを特徴とする時
系列予測方法。 - 【請求項２】 前記ニューラルネットワークは、入力
層、中間層、出力層を有し、中間層または出力層の出力
が出力層側の隣接層以外であって、入力層側に存在する
層または自己自身の層に対しても入力されるリカレント
型ニューラルネットワークであることを特徴とする請求
項１記載の時系列予測方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP5018747A JPH06231289A (ja) | 1993-02-05 | 1993-02-05 | 時系列予測方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP5018747A JPH06231289A (ja) | 1993-02-05 | 1993-02-05 | 時系列予測方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH06231289A true JPH06231289A (ja) | 1994-08-19 |
Family
ID=11980250
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP5018747A Pending JPH06231289A (ja) | 1993-02-05 | 1993-02-05 | 時系列予測方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH06231289A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011054200A (ja) * | 2010-11-11 | 2011-03-17 | Fuji Electric Systems Co Ltd | ニューラルネットワークの学習方法 |
-
1993
- 1993-02-05 JP JP5018747A patent/JPH06231289A/ja active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011054200A (ja) * | 2010-11-11 | 2011-03-17 | Fuji Electric Systems Co Ltd | ニューラルネットワークの学習方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Rangapuram et al. | Deep state space models for time series forecasting | |
| MacKay | The evidence framework applied to classification networks | |
| AU674227B2 (en) | Method and apparatus for operating a neural network with missing and/or incomplete data | |
| KR20050007309A (ko) | 자동 신경망 모델 생성 및 유지 | |
| US8160978B2 (en) | Method for computer-aided control or regulation of a technical system | |
| Bas et al. | Robust learning algorithm for multiplicative neuron model artificial neural networks | |
| McAdam et al. | Forecasting inflation with thick models and neural networks | |
| Bai et al. | Prediction of SARS epidemic by BP neural networks with online prediction strategy | |
| CN110110372B (zh) | 一种用户时序行为自动切分预测方法 | |
| EP3502978A1 (en) | Meta-learning system | |
| CN115115389A (zh) | 一种基于价值细分和集成预测的快递客户流失预测方法 | |
| Ortiz-Arroyo et al. | Accurate electricity load forecasting with artificial neural networks | |
| Ordieres-Meré et al. | Comparison of models created for the prediction of the mechanical properties of galvanized steel coils | |
| JPH06337852A (ja) | ニューラルネットワークによる時系列予測方法 | |
| CN110163332B (zh) | 一种变压器故障诊断方法 | |
| JPH06231289A (ja) | 時系列予測方法 | |
| Borysenko et al. | Intelligent forecasting in multi-criteria decision-making. | |
| Lukoseviciute et al. | Bernstein polynomials for adaptive evolutionary prediction of short-term time series | |
| Chun et al. | Impact of momentum bias on forecasting through knowledge discovery techniques in the foreign exchange market | |
| Shao | Prediction of currency volume issued in Taiwan using a hybrid artificial neural network and multiple regression approach | |
| Su et al. | Neural network based fusion of global and local information in predicting time series | |
| Yu et al. | A combination forecasting model of extreme learning machine based on genetic algorithm optimization | |
| CN111582461A (zh) | 神经网络训练方法、装置、终端设备和可读存储介质 | |
| Das et al. | A harmony search-based artificial neural network for stock market prediction | |
| JP3117204B2 (ja) | 制御物理変量発生用および物体識別用ニューラル・ネット |