JP2002109150A - 時系列データの適応的予測方法 - Google Patents

時系列データの適応的予測方法

Info

Publication number
JP2002109150A
JP2002109150A JP2000295876A JP2000295876A JP2002109150A JP 2002109150 A JP2002109150 A JP 2002109150A JP 2000295876 A JP2000295876 A JP 2000295876A JP 2000295876 A JP2000295876 A JP 2000295876A JP 2002109150 A JP2002109150 A JP 2002109150A
Authority
JP
Japan
Prior art keywords
prediction
series data
prediction model
neural network
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000295876A
Other languages
English (en)
Inventor
Tetsuo Matsui
哲郎 松井
Tatsuya Iizaka
達也 飯坂
Yoshikazu Fukuyama
良和 福山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
Original Assignee
Fuji Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Co Ltd filed Critical Fuji Electric Co Ltd
Priority to JP2000295876A priority Critical patent/JP2002109150A/ja
Publication of JP2002109150A publication Critical patent/JP2002109150A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

(57)【要約】 【課題】不要な計算を行うことなく、予測対象時系列デ
ータが想定外の傾向を示した場合にも高精度な予測を可
能とし、また、予測精度の向上と予測理由説明の実現を
両立する時系列データの適応的予測方法を提供する。 【解決手段】過去の時系列データを用いて将来に関する
予測値を求める時系列データの適応的予測方法におい
て、予測モデル構築用データを入力・蓄積して予測モデ
ルを構築し、構築された予測モデルにより予測を実行し
て予測値を得て、過去の時系列データを用いて算出する
予測誤差に基づいて補正係数を求めて前記予測値を補正
し、予測値の算出根拠を通知する時系列データの適応的
予測方法とする。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、電力需要・水需要
・熱需要などの各種需要量、各種販売量、または、各種
経済指標などである時系列データその他関連情報を用い
て予測値を算出することで将来に関する予測を行う時系
列データの適応的予測方法に関する。
【0002】
【従来の技術】一般的に、過去の時系列データを用いて
将来に関する予測値を算出するという予測(以下単に予
測という)は、時系列データに内在する周期性、関連情
報との相関関係などを利用して行われている。
【0003】例えば、日単位の時系列データの場合で
は、平日と休日の違いや季節などによって相関関係が異
なっていることが多い。このような場合は、特徴が異な
る期間(例えば春夏秋冬の各期間など)毎に予め分割し
て期間毎に異なる予測モデルを構築し、予測時に予測モ
デルを切り換えて予測している。
【0004】または、至近の過去における時系列データ
を用いて定期的(毎日、毎週、毎月など)に予測モデル
を更新することで、時期に適した予測モデルを用いて予
測している。いずれの場合も、予測モデルを適用する期
間や、予測モデルの更新タイミングをあらかじめ定めた
上で、多数の異なる予測モデルを用いて予測を行ってい
る。
【0005】さらに、このような予測を行うための予測
モデルとしては、様々なモデルが用いられるが、相関関
係を利用した予測モデルとしては一般的には重回帰式や
ニューラルネットワークが用いられている。これらは使
い分けがなされており、運用者やオペレータに出力理由
を説明する必要がある場合は、内部構造が複雑で解析困
難なニューラルネットワークを使用せずに重回帰式が用
いられている。また、予測精度を重視するような場合
は、重回帰式よりも精度が高い出力が得られる非線形の
予測モデルを構築可能なニューラルネットワークが用い
られている。
【0006】
【発明が解決しようとする課題】前述の従来技術では、
(1)適用可能な期間を予め定めて予測モデルを適用す
る予測方法、または、(2)予め定めた更新タイミング
で更新される予測モデルを適用する予測方法、により予
測していたが、このような予測方法では以下のような問
題点が発生していた。
【0007】(1)適用可能な期間を予め定めて予測モ
デルを適用する予測方法では、予測対象の時系列データ
が想定外の傾向を示したような場合には、正確な予測は
不可能である。例えば、ある地域の電力需要を予測する
予測モデル例を想定する。予測対象の地域内に工場など
の新しい負荷が新設された場合にこの地域内における電
力需要は変化することとなるが、予測モデルはこの負荷
の部分を含まないで構築されたモデルであるため、新設
された負荷の部分も包摂する予測は、従来の方法では新
設された負荷の部分を含む時系列データその他関連情報
を得て予測モデルを更新するまでの期間できないことと
なる。
【0008】また、他の例として、ある地域における販
売需要を予測する予測モデル例を想定する。ある地域内
に新規に大型店舗が進出した場合にこの地域内における
販売需要の傾向が変化することとなるが、予測モデルは
この大型店舗を含まないで構築されたモデルであるた
め、新規出店した大型店舗も包摂する予測は、従来の方
法では新規に出店した大型店舗の販売を含む時系列デー
タその他関連情報を得て予測モデルを更新するまでの期
間できないこととなる。
【0009】一般的に予測モデル構築を精度良く行うた
めには、ある程度の量の時系列データが必要である。従
って、オペレータが予測対象の時系列データの傾向変化
を認識しても、新しい予測モデル構築に必要な時系列デ
ータが蓄積されるまでは、予測精度が改善されない。こ
れら二例を用いて説明したように、従来の予測方法では
このようなケースには対応できなかった。
【0010】(2)予め定めた更新タイミングで更新さ
れる予測モデルを適用する予測方法では、予測モデルの
更新が不要である場合でも、予測モデルの更新を行って
しまい、不要な計算を行うこととなり、例えばコンピュ
ータなどの計算機に不要な計算負荷を課すこととなって
しまう。一般的に、計算機性能が上昇してもその予測モ
デル自体が複雑細緻になるため、予測モデルの計算量・
計算時間は変わらないまたは増加するという傾向にあ
り、不要な計算負荷を課す事態を回避したい。
【0011】さらに、従来技術の予測方法では、高精度
予測を求める場合はニューラルネットワークを適用し、
予測理由の説明を求める場合は重回帰式を適用するとい
う、重回帰式とニューラルネットワークとの使い分けを
行っていたため、予測精度と理由説明とを両立した予測
モデルを構築することはできなかった。予測対象の時系
列データを用いる予測モデルの構築にあたっては、予測
精度の観点から非線形関係の予測モデル化を可能とし、
かつ、運用者に与える安心感、信頼性の観点から予測結
果の理由説明を可能とする方法が最も適しており、この
ような予測方法が希求されていた。
【0012】以上説明したように、本発明の第一の目的
は、不要な計算を行うことなく、予測対象時系列データ
が想定外の傾向を示した場合にも高精度な予測を可能と
する時系列データの適応的予測方法を提供することにあ
る。本発明の第二の目的は、予測精度の向上と予測理由
説明との実現を両立する時系列データの適応的予測方法
を提供することにある。
【0013】
【課題を解決するための手段】本発明は、上記課題を解
決するためになされたものである。請求項1に記載の時
系列データの適応的予測方法によれば、過去の時系列デ
ータを用いて将来に関する予測値を求める時系列データ
の適応的予測方法において、予測モデル構築用データを
入力・蓄積して予測モデルを構築する予測モデル構築手
順と、構築された予測モデルを用いて予測を実行して予
測値を得る予測実行手順と、過去の時系列データを用い
て算出する予測誤差に基づいて補正係数を求めて前記予
測値を補正する予測値補正手順と、前記予測値の算出根
拠を通知する予測理由説明手順と、を行うことを特徴と
する。
【0014】また、請求項2に記載の時系列データの適
応的予測方法によれば、請求項1に記載の時系列データ
の適応的予測方法において、前記予測値補正手順で予測
値を補正する際に予測誤差または補正係数が許容値を超
えるか否かを判断し、許容値を超えるため予測モデル自
体の更新が必要と判断された場合には新たに蓄積された
予測モデル構築用データを用いて予測モデルを更新する
予測モデル更新手順を行うことを特徴とする。
【0015】また、請求項3に記載の時系列データの適
応的予測方法によれば、請求項1または請求項2に記載
の時系列データの適応的予測方法において、複数の入力
層素子及び複数の中間層素子を有し、複数の入力層素子
のうちの一部に中間層素子が結合されてなる疎結合部分
を有する階層型構造のニューラルネットワークを予測モ
デルとして用いることを特徴とする。
【0016】また、請求項4に記載の時系列データの適
応的予測方法によれば、請求項3に記載の時系列データ
の適応的予測方法において、前記ニューラルネットワー
クは前記疎結合部分に加え、全ての入力層素子に中間層
素子が結合されてなる1つの全結合部分を有する階層型
構造のニューラルネットワークであることを特徴とす
る。
【0017】また、請求項5に記載の時系列データの適
応的予測方法によれば、請求項3または請求項4に記載
の時系列データの適応的予測方法において、出力層素子
は線形関数出力を行う素子を、また、中間層素子は非線
形関数出力若しくは線形関数出力をそれぞれ行う素子を
用いる階層型構造のニューラルネットワークを予測モデ
ルとして用いることを特徴とする。
【0018】また、請求項6に記載の時系列データの適
応的予測方法によれば、請求項3〜請求項5の何れか1
項に記載の時系列データの適応的予測方法において、予
測モデルであるニューラルネットワークの中の入力層素
子の要否を通知する通知手順を行うことを特徴とする。
【0019】
【発明の実施の形態】以下、本発明の時系列データの適
応的予測方法について説明する。図1は本実施形態の時
系列データの適応的予測方法のフローチャートである。
本フローは、予測モデル構築手順、予測実行手順、予測
値補正手順、予測理由説明手順、アラーム出力手順、予
測モデル更新手順を行うものである。
【0020】(1)予測モデル構築手順 この予測モデル構築手順は、過去の時系列データその他
関連情報(以下、単に予測モデル構築用データという)
を用いて未来に関する予測値を算出するような予測モデ
ルを構築する手順である。具体的には、予測モデル構築
に必要な予測モデル構築用データの入力・蓄積を行い
(ステップS1)、これらを用いて予測モデルを構築す
る。ここで構築された予測モデルは初期予測モデルとし
て使用される(ステップS2)。予測モデルはある入力
に対して出力を行うものであり、例えば、従来技術でも
用いられている重回帰式・ニューラルネットワークなど
である。
【0021】(2)予測実行手順 この予測実行手順は、(1)予測モデル構築手順で構築
された予測モデルを用いて予測を実行する手順である。
具体的には、ステップS2で構築された初期予測モデル
に対して予測用の時系列データを入力し(ステップS
3)、予測モデルから予測値を算出させることで予測計
算を実行する(ステップS4)。
【0022】(3)予測値補正手順 この予測値補正手順は、(2)予測実行手順で算出され
た予測値に対して補正を行う手順である。具体的には、
補正を行うために過去の予測誤差(あるいはモデル誤
差)を計算する(ステップS5)。この場合、不確定情
報の要否により異なる予測誤差の計算処理を行う。説明
を具体化するために時系列データとして気温が必要にな
る場合を考えると、気温予報値(将来的に得られる、つ
まり現在未定の値)などは不確定情報である。この不確
定情報が必要な場合と不要の場合との2通りで、それぞ
れ異なる予測誤差の計算処理を行う。
【0023】予測モデルへの入力情報として不確定情報
が必要な場合には、当該情報の実績値(気温の場合は気
温実績値)である時系列データを用いてモデル誤差を計
算する。これは、予測値補正に際して、予測モデルに入
力される不確定情報による影響を除外するためである。
【0024】一方、予測モデルへの入力情報として不確
定情報が不要な場合には、通常の予測誤差を計算する。
ここに通常の予測誤差とは、例えば、ある日に関し必要
な時系列データと実績値が判別しているものとし、予測
モデルに対して必要な時系列データを入力してある日に
おける予測値を出力させ、ある日の予測値と実績値との
差から求めたような誤差である。
【0025】続いて、ステップS5で計算された予測誤
差に基づいて補正係数を計算する(ステップS6)。補
正係数は各種選択が可能であるが、例えば、 補正係数=100/(100+予測誤差%) などとして計算することが可能である。
【0026】続いて、モデル更新が必要か否かを判断す
る(ステップS7)。この判断は、 条件1:定周期起動、条件2:オペレータによる判断、
条件3:予測誤差・補正係数による判断の3種類の方法
が考えられる。もちろん、これらの方法の組み合わせた
場合も考えられる。これら条件1〜3に該当するか否か
を判断し、条件1〜3を満たさないならばステップS8
へ進み、また、条件1〜3を満たすならばステップS1
2へジャンプし、後述するアラーム出力手順、予測モデ
ル更新手順を行うこととなる。
【0027】条件1〜3を満たさない、つまり予測モデ
ル更新が不要と判断された場合にはこの補正係数を用い
て予測値を補正する(ステップS8)。このように補正
することにより、例えば、先に説明したある地域の販売
需要予測において、新規大型店舗の進出により地域内に
おける販売需要の傾向が変化したとしても、予測値に対
して補正がなされる。このため、この新規大型店舗を含
まないで構築された予測モデルでも、出力精度を高める
ことができることとなる。また、後述するも、予測誤差
が許容値よりも高い場合には予測モデル自体が更新され
るので、いずれの場合でも予測値の精度を高めることが
できる。
【0028】(4)予測理由説明手順 予測理由説明手順は、(3)予測値補正手順により補正
された予測値に対する予測理由を説明する手順である。
具体的には、予測理由となる情報を計算する(ステップ
S9)。
【0029】予測理由は予測モデルにより相違し、予測
モデルが重回帰モデルの場合は偏回帰係数が予測理由で
あり、予測モデルがニューラルネットワークの場合では
入出力の感度が予測理由となることが一般的である。さ
らに後に予測モデル例として後述する解析可能なニュー
ラルネットワークを適用することにより、予測値の構成
成分(例えば複数ある入力層素子と中間層素子とがどの
ように結合しているかで入力層素子の要否、つまり必要
な時系列データが判別できる)を予測理由とすることが
可能である。そして、予測理由を説明する(ステップS
10)こととなる。
【0030】そして予測対象期間を終了しているか否か
を判別し、予測対象期間が終了しているならばフローか
ら抜けて終了し、予測対象期間が終了していないならば
ステップS3の先頭へジャンプして(ステップS1
1)、この予測モデルを用いて予測を行うこととなる。
【0031】(5)モデル更新判断手順 上記(2)〜(4)は当該時系列データの予測タイミン
グ毎(例えば日毎・週毎・月毎など)に毎回実行される
ループを構成している。そのループ内で、(5)モデル
更新判断手順は、モデル更新が必要であるかの判断を行
うための手順であり、具体的にはステップS7の手順が
該当する。この判断は、条件1:定周期起動、条件2:
オペレータによる判断、条件3:予測誤差・補正係数に
よる判断の3種類の方法が考えられる。もちろん、これ
らの方法の組み合わせも考えられる。
【0032】条件1:定周期起動では、毎週や2週間ご
となどのタイミングをあらかじめ設定し、自動的に予測
モデル更新手順を起動する。 条件2:オペレータによる判断では、オペレータの判断
に応じて任意のタイミングで予測モデル更新手順を起動
する。 条件3:予測誤差・補正係数による判断では、設定した
許容値以上の予測誤差または補正係数が一定期間継続す
るような場合には、初期予測モデルは実状に合わなくな
ってきていると判断する。
【0033】(6)アラーム出力手順 アラーム出力手順は、前述の(5)モデル更新判断手順
において、特に条件3に示したような適応的な判断を行
った場合には、オペレータに対して予測対象時の時系列
データの傾向が変化していること、予測モデル更新が必
要であることなどのアラームを通知する手順である。
【0034】具体的には、ステップS7からジャンプし
てきた場合、さらに、条件3、つまり予測誤差・補正係
数が許容値以上であるか否かを判断し、許容値以上の場
合にはステップS13へ進み、許容値未満の場合にステ
ップS14の先頭へジャンプする(ステップS12)。
そして、許容値以上の場合であることを示すアラームを
出力する(ステップS13)。これにより、予測モデル
の更新が、時系列データの傾向の変化によると判断でき
る。
【0035】(7)予測モデル更新手順 予測モデル更新手順は、(5)のモデル更新判断手順に
おいて、モデル更新が必要と判断された場合に、予測モ
デル自体の更新を行う手順である。具体的には、初期予
測モデルを構築する際に用いたデータに加え、現在まで
新たに蓄積されたデータも含めて最新の予測モデル構築
用データの収集・蓄積を行い(ステップS14)、最新
の傾向を含む予測モデルを改めて構築する(ステップS
15)。
【0036】これら終了の後に先に説明したステップS
11の先頭へジャンプし、予測対象期間が終了している
か否かを判定し、終了していないならばこの予測モデル
を用いて予測を行うこととなる。時系列データをこのよ
うな適応的な予測方法とすれば、不要な計算を行うこと
なく、予測対象時系列データが想定外の傾向を示した場
合にも高精度な予測が可能となる。
【0037】続いて、予測モデルとして、特に内部解析
が容易なニューラルネットワークを適用し、予測精度の
向上と予測理由説明との実現を両立する時系列データの
適応的予測方法について概略説明する。まず、このニュ
ーラルネットワークについて概略説明する。
【0038】周知のようにニューラルネットワークは学
習能力を持ち、非線形性、パターンマッチング性能に優
れており、制御、予測、診断等の多くの分野に用いられ
ている。このニューラルネットワークとしては多くの構
造が提案されているが、実用化されたその多くは階層
型、特にシグモイド関数を持つニューロン素子を用いる
3階層型のものがほとんどである。この3階層型が多く
用いられる理由としては、3階層型はいかなる関数でも
任意の精度でモデル化できることが証明されているため
である。
【0039】階層型のニューラルネットワークは、通常
バックプロパゲーション法(誤差逆伝播法)と呼ばれる
アルゴリズムにより学習し、内部の結合状態が調整され
る。こうして学習したニューラルネットワークは、学習
データと同一の入力データを与えると学習データとほぼ
同一の出力をする。また、学習データに近い入力を与え
ると学習データに近い出力をする特徴がある。
【0040】最小自乗法によって構築される回帰式と比
較すると、ニューラルネットワークは非線形性に優れて
いるが、内部構造が複雑で解析が困難なため、未知デー
タに対しては出力を予測できない、また、出力結果に対
して理由を説明できないという欠点があった。そこで、
本願発明者は、これら欠点を克服するような階層型のニ
ューラルネットワークに関する各種の発明をし、特願2
000−166528「ニューラルネットワーク及びそ
の学習方法、解析方法並びに異常判定方法」として特許
出願(以下、本明細書中では単に先願1という。)をす
るに至っている。先願1の発明は、解析可能なニューロ
構造、その学習法等を提供するものである。
【0041】先願1の発明とは、解析容易な回帰式を既
存の階層型ニューラルネットワークによって実現するも
のである。例えば、 y=ax+bx+cx+d (x,xは入力変数、yは出力変数、a,b,c,
dは係数)として表されるような、従来技術の回帰式の
場合では、 出力の要因が明確である(x,xの要因により変
化することが明確である)、 各要因の働きが明確である(x,xの独立した成
分(回帰式の右辺第1項、第2項)とその相互作用の成分
(同第3項)から成り立つ)、 各要因の入出力に対する影響度合いが明確である(x
,x,xの影響度合いは、a,b,cであ
り、固定分としてdがある)、 といった特徴がある。先願1の発明では、このような重
回帰式の特徴を有するニューラルネットワークであり、
非線形による精度の高さと、重回帰式による解析容易性
を共に実現している。
【0042】このニューラルネットワークの構造を従来
のニューラルネットワークの構造と比較しつつ説明す
る。従来の階層型ニューラルネットワークは、図2に示
すように1つの入力層素子に対して中間層素子が全て結
合した全結合部分によるが、本発明の階層型ニューラル
ネットワークは、図3に示すように任意の入力層素子と
任意の中間層素子間だけが結合している疎結合部分を有
している。
【0043】すなわち、図3のニューラルネットワーク
では全ての入力層素子と結合している中間層素子からな
る全結合部分11と、一部の入力層素子と結合している
中間層素子からなる疎結合部分12とからなっている。
ここで、全結合部分11は必ずしも必要ではなく、本発
明では、複数の入力層素子のうちの一部に中間層素子が
結合されてなる疎結合部分12を有していれば足りる。
なお、疎結合部分12のみ有するニューラルネットワー
クの構造は請求項3に係るものであり、また、全結合部
分11および疎結合部分12を有するニューラルネット
ワークの構造は請求項4に係るものである。
【0044】本発明のニューラルネットワークの構造は
少なくとも疎結合部分を有し、中間層部分において入力
層からのデータを任意の入力因子ごとに分離しているた
め、解析が容易となっている。入力因子の相互作用分の
ように分離不可能な要素は、全結合部分がある場合には
その部分で処理するため、従来と同等の精度も保証する
ことが可能である。
【0045】先願1の発明では、このような回帰式の解
析の容易さを既存のニューラルネットワークによって実
現しており、解析目的に応じたニューラルネットワーク
の構造を学習時に与えることで、任意の入力因子と出力
の関係を容易に解析できるようにしてある。その構造
は、解析可能な疎結合部分と精度を保証する全結合部分
より成り立っており、従来のニューラルネットワークと
互換性のある構造によって既存システムへの適用を容易
にし、更にその性能も現状と同等としている。
【0046】続いて他の解析可能なニューラルネットワ
ークについて説明する。先願1の発明により解析可能と
なったニューラルネットワークであるが,ニューラルネ
ットワークの各入力層素子への入力値と、出力層素子へ
入力される入力値(中間層素子からの出力値に係数をか
けた値)とに関する情報を用いて解析すると、解析によ
って得られた入出力特性と実際のニューラルネットワー
クの出力特性が完全には一致しない問題が発生した。こ
の問題は、実は、図4に示すように、中間層素子および
出力層素子であるニューロン素子の全てが非線形である
シグモイド関数を使用する素子であることに起因してい
る。
【0047】非線形である素子を利用するニューラルネ
ットワークでは解析によって得られた入出力特性と実際
のニューラルネットワークの出力特性が完全には一致し
ない問題について判りやすくするため簡単な例を挙げて
説明する。例えば、図5に示すような非線形素子を用い
る単純なニューラルネットワークにおいて、内部解析を
行って、各中間層素子個々の出力を求めて入出力関係を
解析した結果が図6である。図6からも明らかなよう
に、解析により得られた中間層素子から出力層素子への
入力は線形である。それにもかかわらず、実際のニュー
ラルネットワークの出力値は非線形である。これは出力
層素子が、下記の数1に表されるシグモイド関数の入出
力特性を有することに影響している。
【0048】
【数1】
【0049】出力層素子への入力(中間層素子からの出
力に係数をかけた値)をx、出力層素子からの出力をy
とすると、数1の出力特性は非直線の関数となる。この
ため、出力層素子への入力値が共に線形(図6で菱形を
プロットした出力層の入力値1・正方形をプロットした
出力層の入力値2)であるにもかかわらず、出力層素子
からの出力は、非線形(図6で三角をプロットした出力
層出力値)となる。しかし、シグモイド関数の特性を熟
知していない一般の技術者が直感的に把握することは難
しい。この例では、図5のような単純なネットワーク構
造を扱ったが、入力層素子や中間層素子の数が増えると
さらに説明が難しくなるのは明らかである。
【0050】そこで、先願1の発明者は上記問題点を解
決するため、解析結果と実際のニューラルネットワーク
の入出力特性を一致させて直感的に把握でき、また、非
線形になれた技術者だけでなく、一般技術者に対しても
容易に説明可能とするため、解析結果と実際のニューラ
ルネットワークの入出力特性を一致させて一般技術者で
も直感的に把握できるようなニューラルネットワークに
ついて発明し、特願2000−166528「ニューラ
ルネットワーク及びその学習方法、解析方法並びに異常
判定方法」として特許出願(以下、本明細書中では単に
先願2という。)をするに至った。先願2の発明は前述
の欠点を克服できる技術であり、解析可能なニューロ構
造、その学習法等を提供するものであった。
【0051】先願2の発明では、解析により得られる入
出力特性とニューラルネットワークの実際の入出力特性
を一致させるため、図7、図8で示すように最終的に出
力層素子側で線形変換するような出力層素子を用いてい
る。なお、図7,図8では中間層素子は全て非線形であ
るとして説明したが、線形変換するような素子の利用
は、もちろん出力層素子に限ることなく、中間層素子の
一部もしくは全部に用いても良い。この場合、出力層素
子は線形変換するような素子である原則を守れば、中間
層素子は線形変換・非線形変換する素子を取り混ぜるこ
とができる。
【0052】また、中間層は複数層となるようにしても
よい。図7で示すように1層の中間層素子を持つニュー
ラルネットワークに代えて、図8で示すように2層の中
間層素子を持つニューラルネットワークなどであっても
出力層素子を線形とすれば良い。3階層型では,非線形
変換が中間層の1層だけなので、複雑な関数のモデル化
は保証できない。3層以上にすると、非線形変換が2つ
の中間層で行われるので、あらゆる関数のモデル化が可
能である。さて、出力層素子に線形関数を用いると,出
力値は数式2で表せられる。
【0053】
【数2】
【0054】出力層素子の入力値と出力値との関係は線
形関数となるので、出力層の出力は、出力層へ入力され
るデータの和になる。このような構成とすることで、先
願1の発明で図6で示したような入出力関係だったが、
先願2の発明では図9で示すような入出力関係となる。
これは解析的に求めた入出力特性と実際の入出力特性が
一致しており,ニューラルネットワークの把握がより容
易である。なお、図7,8では疎結合部分12のみを有
するようなニューラルネットワークとしたが、図3で示
すような全結合部分11および疎結合部分12を有する
ようなニューラルネットワークにおいて出力層のみを図
7,図8と同様に線形出力するような素子を採用するこ
とでも実現できる。
【0055】本発明によれば、予測モデルに先願1,2
の発明に係るニューラルネットワークを用いることとし
た。予測モデルは、従来の入出力特性の解析結果と実際
のニューラルネットワークの入出力特性を一致させるこ
とができる。また、先願1の発明のニューラルネットワ
ークの応答関数を変更しただけなので、先願1の発明の
学習法・解析法・異常判定法をそのまま適用できる。特
に、本発明は,安全性,信頼性が要求される制御,医
療,電力等の分野において有効である。
【0056】なお、これら先願1,2のニューラルネッ
トワークを用いると予測モデルであるニューラルネット
ワークの中の入力層素子の要否が判別するため、図1で
示したフローチャートの中に入力層素子の要否を通知す
る通知手順を含めるようにしても良い。この通知手順は
解析可能なニューラルネットワークを用いる場合に利用
される。
【0057】
【発明の効果】以上、本発明によれば、予測モデル更新
のために必要となる予測モデル構築用データが蓄積され
るまでは、予測値補正手順により、予測精度を保つこと
が可能となる。また、解析可能なニューラルネットワー
クの適用により、非線形予測モデルを用いた高精度予測
と、重回帰モデルのような予測理由説明が共に可能とな
る。予測理由が説明可能であることから、オペレータに
安心感を提供できること、予測値の構成成分を把握する
ことで、時系列データの予測だけでなく分析も可能とな
る。さらに、解析可能なニューラルネットワークでは、
モデルの構築中に自動的にモデル構造を調整するため、
予測モデルが学習したデータの期間において、予測対象
時系列データと関連が深いデータ因子を自動的に判断可
能である。
【0058】以上、本発明の効果を述べたが、全体的に
総括すると、以下の通りである。 (1)不要な計算負荷をかけること無く、予測対象の時
系列データが想定外の傾向を示した場合にも高精度な予
測を可能とする。 (2)予測モデル更新のために必要な予測モデル構築用
データが少ない場合にも、予測値補正手順により、高精
度予測が可能である。 (3)予測モデル更新のために必要な予測モデル用構築
データが蓄積された場合は、データの関係に応じて必要
な入力因子を自動的に選択した予測モデルを構築可能で
ある。 (4)非線形予測モデルを用いた高精度予測と、重回帰
モデルのような予測理由説明が可能となる。
【図面の簡単な説明】
【図1】本発明の実施形態の時系列データの適応的予測
方法のフローチャートである。
【図2】従来の階層型ニューラルネットワークの構造を
示す図である。
【図3】解析可能な階層型ニューラルネットワークの構
造を示す図である。
【図4】解析可能な階層型ニューラルネットワークの構
造を示す図である。
【図5】簡単なニューラルネットワークの構造を示す図
である。
【図6】解析可能な階層型ニューラルネットワークから
の出力を示す特性図である。
【図7】解析可能な階層型ニューラルネットワークの構
造を示す図である。
【図8】解析可能な階層型ニューラルネットワークの構
造を示す図である。
【図9】解析可能な階層型ニューラルネットワークから
の出力を示す特性図である。
【符号の説明】
11 全結合部分 12 疎結合部分
フロントページの続き (72)発明者 福山 良和 神奈川県川崎市川崎区田辺新田1番1号 富士電機株式会社内 Fターム(参考) 5B049 EE00

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】過去の時系列データを用いて将来に関する
    予測値を求める時系列データの適応的予測方法におい
    て、 予測モデル構築用データを入力・蓄積して予測モデルを
    構築する予測モデル構築手順と、 構築された予測モデルを用いて予測を実行して予測値を
    得る予測実行手順と、 過去の時系列データを用いて算出する予測誤差に基づい
    て補正係数を求めて前記予測値を補正する予測値補正手
    順と、 前記予測値の算出根拠を通知する予測理由説明手順と、 を行うことを特徴とする時系列データの適応的予測方
    法。
  2. 【請求項2】請求項1に記載の時系列データの適応的予
    測方法において、 前記予測値補正手順で予測値を補正する際に予測誤差ま
    たは補正係数が許容値を超えるか否かを判断し、許容値
    を超えるため予測モデル自体の更新が必要と判断された
    場合には新たに蓄積された予測モデル構築用データを用
    いて予測モデルを更新する予測モデル更新手順を行うこ
    とを特徴とする時系列データの適応的予測方法。
  3. 【請求項3】請求項1または請求項2に記載の時系列デ
    ータの適応的予測方法において、 複数の入力層素子及び複数の中間層素子を有し、複数の
    入力層素子のうちの一部に中間層素子が結合されてなる
    疎結合部分を有する階層型構造のニューラルネットワー
    クを予測モデルとして用いることを特徴とする時系列デ
    ータの適応的予測方法。
  4. 【請求項4】請求項3に記載の時系列データの適応的予
    測方法において、 前記ニューラルネットワークは前記疎結合部分に加え、
    全ての入力層素子に中間層素子が結合されてなる1つの
    全結合部分を有する階層型構造のニューラルネットワー
    クであることを特徴とする時系列データの適応的予測方
    法。
  5. 【請求項5】請求項3または請求項4に記載の時系列デ
    ータの適応的予測方法において、 出力層素子は線形関数出力を行う素子を、また、中間層
    素子は非線形関数出力若しくは線形関数出力をそれぞれ
    行う素子を用いる階層型構造のニューラルネットワーク
    を予測モデルとして用いることを特徴とする時系列デー
    タの適応的予測方法。
  6. 【請求項6】請求項3〜請求項5の何れか1項に記載の
    時系列データの適応的予測方法において、 予測モデルであるニューラルネットワークの中の入力層
    素子の要否を通知する通知手順を行うことを特徴とする
    時系列データの適応的予測方法。
JP2000295876A 2000-09-28 2000-09-28 時系列データの適応的予測方法 Pending JP2002109150A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000295876A JP2002109150A (ja) 2000-09-28 2000-09-28 時系列データの適応的予測方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000295876A JP2002109150A (ja) 2000-09-28 2000-09-28 時系列データの適応的予測方法

Publications (1)

Publication Number Publication Date
JP2002109150A true JP2002109150A (ja) 2002-04-12

Family

ID=18778237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000295876A Pending JP2002109150A (ja) 2000-09-28 2000-09-28 時系列データの適応的予測方法

Country Status (1)

Country Link
JP (1) JP2002109150A (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011159282A (ja) * 2009-12-30 2011-08-18 Mitsubishi Electric Research Laboratories Inc 非線形的な季節的時系列を予測するための方法
CN103049629A (zh) * 2011-10-17 2013-04-17 阿里巴巴集团控股有限公司 一种检测噪音数据的方法及装置
JP2013167623A (ja) * 2012-01-18 2013-08-29 Hiroshima Univ 遠隔計測システム
WO2014155690A1 (ja) * 2013-03-29 2014-10-02 富士通株式会社 モデル更新方法、装置、およびプログラム
CN104850901A (zh) * 2015-04-27 2015-08-19 辽宁工程技术大学 一种基于多模型预测瓦斯浓度的软测量方法及系统
JP2015166962A (ja) * 2014-03-04 2015-09-24 日本電気株式会社 情報処理装置、学習方法、及び、プログラム
JP2017220980A (ja) * 2016-06-03 2017-12-14 一般財団法人電力中央研究所 予測装置、予測方法および予測プログラム
WO2018079225A1 (ja) * 2016-10-31 2018-05-03 日本電気株式会社 自動予測システム、自動予測方法および自動予測プログラム
CN110349012A (zh) * 2019-07-12 2019-10-18 腾讯科技(深圳)有限公司 数据预测方法及计算机可读存储介质
JP2020057165A (ja) * 2018-10-01 2020-04-09 株式会社椿本チエイン 異常判定装置、信号特徴量予測器、異常判定方法、学習モデルの生成方法及び学習モデル
US10885011B2 (en) 2015-11-25 2021-01-05 Dotdata, Inc. Information processing system, descriptor creation method, and descriptor creation program
KR20210017342A (ko) * 2019-08-08 2021-02-17 한국전자통신연구원 과거 데이터에 기초한 시계열 예측 방법 및 장치
WO2022139479A1 (ko) * 2020-12-23 2022-06-30 삼성전자 주식회사 발생될 다음 이벤트를 예측하는 방법 및 디바이스
US11514062B2 (en) 2017-10-05 2022-11-29 Dotdata, Inc. Feature value generation device, feature value generation method, and feature value generation program
WO2023075021A1 (ko) * 2021-10-29 2023-05-04 한국전자기술연구원 정보 인프라 모니터링 데이터 간 연관성 도출 방법
US11727203B2 (en) 2017-03-30 2023-08-15 Dotdata, Inc. Information processing system, feature description method and feature description program
WO2023233612A1 (ja) * 2022-06-02 2023-12-07 日本電信電話株式会社 通信品質予測装置及び通信品質予測方法並びに通信品質予測プログラム

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011159282A (ja) * 2009-12-30 2011-08-18 Mitsubishi Electric Research Laboratories Inc 非線形的な季節的時系列を予測するための方法
CN103049629A (zh) * 2011-10-17 2013-04-17 阿里巴巴集团控股有限公司 一种检测噪音数据的方法及装置
CN103049629B (zh) * 2011-10-17 2016-08-10 阿里巴巴集团控股有限公司 一种检测噪音数据的方法及装置
JP2013167623A (ja) * 2012-01-18 2013-08-29 Hiroshima Univ 遠隔計測システム
US9646265B2 (en) 2013-03-29 2017-05-09 Fujitsu Limited Model updating method, model updating device, and recording medium
WO2014155690A1 (ja) * 2013-03-29 2014-10-02 富士通株式会社 モデル更新方法、装置、およびプログラム
JP6004084B2 (ja) * 2013-03-29 2016-10-05 富士通株式会社 モデル更新方法、装置、およびプログラム
JPWO2014155690A1 (ja) * 2013-03-29 2017-02-16 富士通株式会社 モデル更新方法、装置、およびプログラム
JP2015166962A (ja) * 2014-03-04 2015-09-24 日本電気株式会社 情報処理装置、学習方法、及び、プログラム
CN104850901B (zh) * 2015-04-27 2018-05-08 西安科技大学 一种基于多模型预测瓦斯浓度的软测量方法及系统
CN104850901A (zh) * 2015-04-27 2015-08-19 辽宁工程技术大学 一种基于多模型预测瓦斯浓度的软测量方法及系统
US10885011B2 (en) 2015-11-25 2021-01-05 Dotdata, Inc. Information processing system, descriptor creation method, and descriptor creation program
JP2017220980A (ja) * 2016-06-03 2017-12-14 一般財団法人電力中央研究所 予測装置、予測方法および予測プログラム
WO2018079225A1 (ja) * 2016-10-31 2018-05-03 日本電気株式会社 自動予測システム、自動予測方法および自動予測プログラム
JPWO2018079225A1 (ja) * 2016-10-31 2019-09-12 日本電気株式会社 自動予測システム、自動予測方法および自動予測プログラム
JP7069029B2 (ja) 2016-10-31 2022-05-17 ドットデータ インコーポレイテッド 自動予測システム、自動予測方法および自動予測プログラム
US11727203B2 (en) 2017-03-30 2023-08-15 Dotdata, Inc. Information processing system, feature description method and feature description program
US11514062B2 (en) 2017-10-05 2022-11-29 Dotdata, Inc. Feature value generation device, feature value generation method, and feature value generation program
JP2020057165A (ja) * 2018-10-01 2020-04-09 株式会社椿本チエイン 異常判定装置、信号特徴量予測器、異常判定方法、学習モデルの生成方法及び学習モデル
WO2020071066A1 (ja) * 2018-10-01 2020-04-09 株式会社椿本チエイン 異常判定装置、信号特徴量予測器、異常判定方法、学習モデルの生成方法及び学習モデル
CN110349012A (zh) * 2019-07-12 2019-10-18 腾讯科技(深圳)有限公司 数据预测方法及计算机可读存储介质
KR102468316B1 (ko) * 2019-08-08 2022-11-17 한국전자통신연구원 과거 데이터에 기초한 시계열 예측 방법 및 장치
KR20210017342A (ko) * 2019-08-08 2021-02-17 한국전자통신연구원 과거 데이터에 기초한 시계열 예측 방법 및 장치
WO2022139479A1 (ko) * 2020-12-23 2022-06-30 삼성전자 주식회사 발생될 다음 이벤트를 예측하는 방법 및 디바이스
WO2023075021A1 (ko) * 2021-10-29 2023-05-04 한국전자기술연구원 정보 인프라 모니터링 데이터 간 연관성 도출 방법
WO2023233612A1 (ja) * 2022-06-02 2023-12-07 日本電信電話株式会社 通信品質予測装置及び通信品質予測方法並びに通信品質予測プログラム

Similar Documents

Publication Publication Date Title
JP2002109150A (ja) 時系列データの適応的予測方法
Zhou et al. A structural state space model for real-time traffic origin–destination demand estimation and prediction in a day-to-day learning framework
Baffi et al. Non-linear projection to latent structures revisited (the neural network PLS algorithm)
Vafamand et al. Nonlinear system identification based on Takagi-Sugeno fuzzy modeling and unscented Kalman filter
Lalwani et al. Controllable, observable and stable state space representations of a generalized order-up-to policy
Lazar et al. A neural predictive controller for non-linear systems
Xiao et al. The residual based interactive least squares algorithms and simulation studies
Cheung et al. SHAPE–a stochastic hybrid approximation procedure for two-stage stochastic programs
Liu et al. Modeling clinical time series using gaussian process sequences
Suresh et al. Fault-tolerant adaptive control of nonlinear base-isolated buildings using EMRAN
US6484133B1 (en) Sensor response rate accelerator
CN111812973B (zh) 一种离散时间非线性系统的事件触发优化控制方法
Zhang et al. Observer-based event-triggered control for zero-sum games of input constrained multi-player nonlinear systems
CN113037577A (zh) 网络流量预测方法、装置和计算机可读存储介质
Rijnen et al. Sensitivity analysis for trajectories of nonsmooth mechanical systems with simultaneous impacts: A hybrid systems perspective
Ahn et al. Approximate conditional least squares estimation of a nonlinear state-space model via an unscented Kalman filter
JP2004094437A (ja) データ予測方法及びデータ予測システム
Boegli et al. A Smoothed GMS friction model for Moving Horizon friction state and parameter estimation
Zangina et al. A greedy approach to improve pesticide application for precision agriculture using model predictive control
Pueyo et al. A dynamic model to characterize beat-to-beat adaptation of repolarization to heart rate changes
KR102190584B1 (ko) 메타 강화 학습을 이용한 인간 행동패턴 및 행동전략 추정 시스템 및 방법
Latosiński et al. Discrete time sliding mode controllers with relative degree one and two switching variables
Yoshimura Prescribed performance control for MIMO stochastic discrete-time nonlinear systems in a strict-feedback form using a set of noisy measurements
Liu et al. A robust global approach for LPV FIR model identification with time-varying time delays
JPH05204887A (ja) ニューラルネットワークにおける内部結合方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080903

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090115