JP2001142868A

JP2001142868A - ニューラルネットワークの出力値の評価装置、評価方法及び記憶媒体

Info

Publication number: JP2001142868A
Application number: JP32213099A
Authority: JP
Inventors: Tatsuya Iizaka; 達也飯坂; Tetsuo Matsui; 哲郎松井
Original assignee: Fuji Electric Co Ltd
Current assignee: Fuji Electric Co Ltd
Priority date: 1999-11-12
Filing date: 1999-11-12
Publication date: 2001-05-25
Anticipated expiration: 2019-11-12
Also published as: JP3804364B2

Abstract

(57)【要約】【課題】ニューラルネットワークの出力の信頼性評価
及び出力結果の根拠を説明を可能とすることを課題とす
る。【解決手段】重要度判定部１１はニューラルネットワ
ーク２０内の結合状態から各入力因子ｘに対する重要度
を求める。類似度計算部１２はこれを用いて学習事例記
憶部１３内の学習事例の類似度を算出し、評価結果とし
て類似度の高い類似事例を抽出する。類似度の高い類似
事例が学習事例の中から見つかれば、ニューラルネット
ワーク２０の出力値の信頼性は高く、見つからなければ
低いものとする。これにより重要な入力因子に重きを置
き、不要な入力因子を軽視した類似事例の検索を可能と
する。また類似した入力パターンの学習事例内での有無
により評価の根拠を示せる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、ニューラルネット
ワークの出力値の信頼性評価及び評価の根拠を示す（以
下このことを説明するともいう）ニューラルネットワー
クの評価装置及び評価方法に関する。

【０００２】

【従来の技術】ニューラルネットワークは学習能力を持
ち、非線形性、パターンマッチングに優れているなどの
特性から、現在制御、予測、診断など多くの分野におい
て用いられている。

【０００３】ニューラルネットワークは種々な構造のも
のが提案されているが、実用化されているその多くは３
階層型のネットワーク構造のものである。３階層型のニ
ューラルネットワークは、通常はバックプロパゲーショ
ン法と呼ばれるアルゴリズムにより事前に学習を行い、
内部の結合状態を調整しておく。この学習は、与えられ
たデータに基づいて所望の機能を獲得するようにニュー
ラルネットワーク内部の結合荷重を調節するもので、入
力に対して正しい出力が決まっている場合にはニューラ
ルネットワークが正しく出力したかどうかを判定し、間
違いが無くなるように、結合荷重を調節することにより
行われる。

【０００４】こうして学習したニューラルネットワーク
では、学習時に与えた学習データと同一の入力データを
与えると、学習データの時と同一のデータを出力する。
また学習データに近い入力データを与えると、学習デー
タに近い出力を行う特徴を持つ。よって入力される事例
が学習時に与えられたものと同じであれば、その出力値
は十分に信頼できるが、学習に用いられた事例と異なる
ものであれば１００％信頼できるわけではない。よっ
て、与えられた入力事例に対して得られた出力値が適切
なものかどうか評価する出力値の信頼性評価が重要とな
る。

【０００５】従来のニューラルネットワーク出力値の信
頼性の評価方法としては、例えば特願平４−２６５６２
号（特開平５−２２５１６３号）「ニューラルネットワ
ークシステムおよびニューラルネットの学習方法」が提
案されている。

【０００６】この公報に開示されている評価方法は、通
常用いるニューラルネットワークとは別に、その信頼性
を評価するための評価用のニューラルネットワークを設
けることを特徴としている。この評価用のニューラルネ
ットワークは、学習済みのデータが入力されると０を、
未学習のデータが入力されると１を出力する。よって、
評価用ニューラルネットワークが０に近い値を出力する
ときには、その入力データのパターンは学習済みのパタ
ーンであるため、ニューラルネットワークの出力値は通
常信頼性が高く、評価用ニューラルネットワークが１に
近い値を出力するときには、その入力データのパターン
は未学習のパターンであるため、信頼性が低いと評価す
る。

【０００７】またニューラルネットワークの別の評価方
法として、特開平５−２８２２７６号「ニューラルネッ
トワーク出力状態の信頼性レベルの決定方法および決定
システム」に開示されている方法がある。

【０００８】この評価方法は、パターン認識に特化した
ニューラルネットワークに対する評価方法であり、その
出力がデジタル的かつ多出力で、１つの出力のみが１、
その他の出力が全て０になる場合において信頼性を評価
することができる評価方法である。この評価方法では、
全出力中１つの出力値だけが１に近く、それ以外の出力
値が０に近い場合を信頼性の高い出力結果であると判断
する。

【０００９】また出力値に対する根拠を説明する方式の
出力評価方法としては、特開平１０−７４１８８号「デ
ータ学習装置およびプラント制御装置」に開示されてい
る方法がある。

【００１０】この評価方法は、ニューラルネットワーク
の出力値を事前に蓄積された学習事例の中から類似デー
タを検索し、類似データが見つかった場合はこれを予測
の根拠とし、見つからなかった場合には、例外的データ
であるとして、出力値を説明するものである。

【００１１】

【発明が解決しようとする課題】ニューラルネットワー
クは、その学習能力、非線形能力、パターンマッチング
能力などのため多くの分野において利用されているが、
内部構造が非線形かつ複雑なため、ニューラルネットワ
ークの出力値が信頼性の高いものであるかを判定評価す
ることは難しかった。またその出力値がどうして出力さ
れたのか容易に説明することも困難であった。

【００１２】例えば上述した従来の各評価方法におい
て、まず１番目の「ニューラルネットワークシステムお
よびニューラルネットの学習方法」に開示されている方
法では、入力パターンを学習済みか未学習かを判定する
評価用ニューラルネットワークを別途用意する必要があ
るため、システムが複雑になるという欠点を持つ。また
評価用ニューラルネットワーク自体の信頼性についての
問題があり、例えば評価用ニューラルネットワークの学
習が良好にできていなければ、信頼性の評価値自体が信
頼度の低いものになってしまう。

【００１３】また上述した２番目の「ニューラルネット
ワーク出力状態の信頼性レベルの決定方法および決定シ
ステム」に開示されている方法では、ニューラルネット
ワークの構造が多出力であり、その１つの出力のみ１も
しくは０．９、他の全ての出力が０もしくは０．１にな
るようなデジタル的な場合に特化した場合にのみ用いる
ことが出来る評価方法であり、他の構造を持つニューラ
ルネットワークに対しては適用することが出来ない。

【００１４】更に上述した３番目の「データ学習装置お
よびプラント制御装置」に開示されている評価方法で
は、説明対象の入力データと過去事例の入力データとの
類似度をユークリッド距離より算出する方法であり、簡
便かつ運用者への説明が容易な方法ではある。しかし、
複数ある入力データの重み付けが考慮されていないた
め、ニューラルネットワークの出力値に対する類似事例
として抽出した事例の出力値が実際値とは大きく異なっ
てしまう可能性がある。

【００１５】この点を説明する簡単な例として、回帰式
を用いた問題例を挙げる。回帰式ｙ＝１００＊ｘ１＋ｘ
２（ｘ１，ｘ２ともに０〜１の範囲）において、説明対
象事例を（ｘ１，ｘ２）＝（１，１）とし、過去事例を
事例１（ｘ１，ｘ２）＝（１，０）、事例２（ｘ１，ｘ
２）＝（０．５，１）とした場合、ユークリッド距離に
より判断すると事例２の方が事例１より説明対象事例に
近いため、事例２の方が類似事例とされてしまう問題が
ある。これを回避するためには、回帰式では入力因子ｘ
２の重要度はｘ１に比べ１／１００であることを考慮
し、入力因子ｘ１を重視した検索を行う必要であること
が分かる。

【００１６】本発明は、上記問題点を鑑みたニューラル
ネットワーク出力値の説明・評価のための１手法を提供
することを課題とする。また運用者に対し簡単にニュー
ラルネットワーク出力値の根拠を示すことができるニュ
ーラルネットワークの評価装置及び評価方法を提供する
ことを課題とする。

【００１７】

【課題を解決するための手段】本発明は、学習済みのニ
ューラルネットワークの出力値の評価装置であって、学
習事例記憶手段、重要度判定手段及び類似度評価手段を
備える。

【００１８】学習事例記憶手段は、上記ニューラルネッ
トワークの学習に用いられた複数の学習事例を記憶す
る。重要度判定手段は、上記ニューラルネットワークの
各入力因子の重要度を該ニューラルネットワークの結合
状態から求める。

【００１９】類似度評価手段は、評価対象事例と上記学
習事例記憶手段に記憶されている各学習事例との類似度
を上記重要度判定手段が求めた各入力因子の重要度を用
いて求める。

【００２０】また本発明は、出力値評価手段を更に備え
る構成としてもよい。この出力値評価手段は上記類似度
評価手段による類似度が特定値以上の学習事例を類似事
例として該類似度と共に出力する。この類似度は、例え
ばパーセンテージ表現で出力される。或は出力値評価手
段は、類似度の高い複数の類似事例の出力値を、該類似
度を重みにして荷重平均して出力する構成としてもよ
い。

【００２１】また本発明は、ニューラルネットワークの
出力値の評価装置のみだけではなく、出力値の評価方法
及びプログラムを記憶した記憶媒体も含む。本発明によ
れば、重要度判定手段によりニューラルネットワークの
各入力因子の重要度がニューラルネットワークの結合状
態から求められ、この重要度を用いて学習事例記憶手段
内の学習事例から評価対象事例と各学習事例との類似度
が求められる。よって、類似事例の抽出は入力因子の重
要度を考慮して行われるので、重要度の高い入力データ
に重きをおき、重要度の低い入力データを軽視した類似
事例の抽出を行うことが出来る。

【００２２】また複数の類似事例を用いて説明すること
により、より精度の高い評価を行うことが出来る。

【００２３】

【発明の実施の形態】図１は、本実施形態に置けるニュ
ーラルネットワークの評価装置の基本構成を示す図であ
る。

【００２４】ニューラルネットワーク２０は、入力と出
力が対になった多数の事例を事前に学習してから用いら
れる。学習済みのニューラルネットワーク２０はその学
習事例と同じ入力データを入力すると、学習事例と同じ
出力値を出力する。また、入力されたデータが学習事例
にないパターンであっても、そのパターンに近い入力値
の学習事例の出力値に近い値を出力する特徴がある。本
実施形態の評価装置１０では、この特徴を利用して、ニ
ューラルネットワーク２０が学習に用いた事例の中から
入力データの類似事例を検索し抽出する。

【００２５】ニューラルネットワーク２０は学習によ
り、内部の結合状態を変化させる。ある重要な入力デー
タに対しては内部状態の結合が強くなり、また不要な入
力データに対しては内部状態の結合が弱く、もしくは結
合が無くなるという特徴がある。つまり、必ずしも全て
の入力データを同じ様に用いて計算しているのではな
く、各入力データには出力結果に大きく影響するものと
あまり影響がないものとがある。この点を考慮し、本実
施形態では、類似事例の抽出をこのニューラルネットワ
ーク内部の結合状態からニューラルネットワークの各入
力因子に対する重要度判定を行い、この重要度に基づい
て類似度を求めて行う。これにより、重要度の高い入力
因子に重きを置き、重要度の低い入力因子を軽視した類
似事例の検索を可能とする。

【００２６】そしてこの検索により、入力パターンに非
常に近い類似事例が学習データの中に見つかれば、ニュ
ーラルネットワークの出力値の信頼性は高いものとし、
またその類似事例が既に学習されているためその値を出
力したと説明することが可能である。また逆に類似度の
高い類似事例が見つからなければ、ニューラルネットワ
ークの出力値の信頼性は低いものとし、また学習事例に
類似した入力パターンがないためにその値を出力したと
説明可能となる。

【００２７】図１の評価装置１０は、重要度判定部１
１、類似度計算部１２、学習事例記憶部１３及び出力評
価部１４を備えている。学習事例記憶部１３は、出力値
の評価を行うニューラルネットワーク２０の学習時に用
いられた複数の学習事例を入力値（ｘ_{1 ,}ｘ₂，．．ｘ
_i）とその結果として出力された出力値（ｙ₁，
ｙ₂，．．ｙ_o）を対応させて記憶している。重要度判
定部１１は、ニューラルネットワーク２０内部の結合状
態を読みだし、この内部結合の状態からニューラルネッ
トワーク２０の各入力因子ｘ₁〜ｘ_iに対する重要度を
求める。尚ニューラルネットワーク２０は既に学習が完
了しておりその結合状態は変化しないので、重要度判定
部１１は、ニューラルネットワーク２０の結合状態をニ
ューラルネットワーク２０から読み出すのではなく、事
前に記憶しておく構成としてよい。類似度計算部１２
は、評価を行う事例と学習事例記憶部１３に記憶されて
いる各学習事例との類似度を、重要度判定部１１が求め
た各入力因子ｘ₁〜ｘ_iに対する重要度を用いて求め
る。

【００２８】出力値評価部１４は、類似度計算部１２が
求めた類似度が最も高い学習事例、あるいは類似度が一
定値以上の学習事例を類似事例とし、その類似度と共に
出力値の評価として出力する。

【００２９】尚本実施形態では、評価を行うニューラル
ネットワーク２０は、図２に示す様な入力層素子ｉ個、
中間層素子ｈ個、出力層素子ｏ個からなる構成の３層階
層型ニューラルネットワークに対する出力値の信頼性の
評価を行うことを前提条件としている。

【００３０】また以下の説明は、ｘはニューラルネット
ワークへの入力データ、ｙは出力データを示す。また図
２に示した入力数ｉ、出力数ｏのニューラルネットワー
ク２０の学習に用いられるｎ個の学習データをｘ₁₁〜ｘ_1i，ｙ₁₁〜ｙ_1o ：：ｘ_n1〜ｘ_ni，ｙ_n1〜ｙ_no とし、これらが学習事例として学習事例記憶部１３に記
憶されているものとする。そしてこの学習事例によって
学習されているニューラルネットワーク２０に入力デー
タｘ₁〜ｘ_iとこの入力データが与えられたときに出力
された出力データｙ₁〜ｙ_oを説明対象の事例とし、そ
の評価として、類似事例とその類似度を出力して出力値
に対する説明を行うものとする。

【００３１】評価装置１０では、まず重要度判定部１１
がニューラルネットワーク２０の結合状態からニューラ
ルネットワーク２０の各入力因子ｘ₁〜ｘ_iに対する重
要度の判定を行う。そして、この重要度を用いて類似度
計算部１２が学習事例記憶部１３内の各学習事例の類似
度を求める。これによりニューラルネットワーク２０内
部の結合度に基づいた類似事例の検索が可能となり、重
要度の高い入力因子に重きを置き、重要度の低い入力因
子を軽視した類似事例の抽出を行える。

【００３２】この重要度の判定方法としては種々なもの
が考えられるが、その一例を以下に示す。図２の入力層
素子ｉ個、中間層素子ｈ個、出力層素子ｏ個からなり、
各層間の結合をｗ、ｖとするニューラルネットワークの
場合、入力因子ｘ_k（ｋ＝１〜ｉ）の重要度は例えば以
下の式により表記できる。

【００３３】

【数４】

【００３４】ここで、式(1) は、入力層と中間層の結合
状態のみに注目して重要度を表した式であり、また式
(2) は入力層と中間層、中間層と出力層の２つの結合状
態に着目して重要度を表した式である。この式(1) 、
(2) のいずれによる判定方法においても良好な重要度判
定が可能である。重要度判定部１１は、ニューラルネッ
トワーク２０から内部の結合状態を読みだし、各上記式
等によって各入力因子の重要度を求める。

【００３５】こうして求めた重要度を用いて類似度計算
部１２は、学習事例記憶部１３に記憶してあるニューラ
ルネットワーク２０の各学習事例と説明対象となってい
る入力事例との類似度を計算する。類似度は比較する入
力因子ｘの差分とその入力因子の重要度から算出出来、
その具体的な算出式は種々なものが考えられるが、その
一例を以下に示す。

【００３６】

【数５】

【００３７】上記式(3) 〜(6) は、入力事例ｘ₁〜ｘ_i
と学習事例記憶部１３内に記憶されている各学習事例ｘ
_j1〜ｘ_ji（ｊ＝１〜ｎ）との類似度ｊを表す式である。
この式(3) 〜(6) では、類似度ｊは値が大きいほど類似
性が高いことを意味している。この式(3) 〜(6) のいず
れを用いて類似度を求めても、各入力因子の重要度を考
慮した類似度の算出が可能となる。

【００３８】またこの式(3) 〜(6) で表した類似度ｊか
らは、値が大きい方が類似度合いが高いことは分かる
が、マイナスの値で示される為、どの程度類似している
のかまでは運用者には感覚的に分かりづらい。そこで、
この点を考慮して、類似の度合いをパーセンテージで表
すことで、運用者に対しより分かりやすい出力値とする
ことが考えられる。このための計算式は種々のものが考
えられるが、例えば上記式(4) から以下の式が求まる。

【００３９】

【数６】

【００４０】この様な式によって、入力事例と各学習事
例との類似度は０〜１００％の度合いで表わされ、この
類似度合いを各学習事例と共に表示出力することによっ
て、運用者は、対象となっている事例と類似した事例が
学習事例としてどの程度類似したものがどれだけ存在す
るか容易に把握出来るようになる。尚この式(7) では、
入力データｘは０〜１の値に正規化されているものとす
る。

【００４１】類似度計算部１２から、各学習事例が説明
対象事例との類似度と共に評価部１４に出力され、評価
部１４ではこれらの中から最も類似度の高い事例、若し
くは類似度が一定値以上の学習事例を類似事例としてそ
の類似度と共に出力値に対する評価として出力する。

【００４２】また上記構成では、類似度が一定値より高
い事例を単に抽出していたが、この方法の場合、類似度
が同じか若しくはほとんど同じ類似事例が複数のあると
きは複数の事例が出力されるため、運用者はこのうちの
どの事例の出力値を信じればよいかが分からない。また
１つの事例のみを類似事例として抽出する構成の場合に
は、学習事例の出力値とニューラルネットワークの実際
の出力値が一致しないこともある。

【００４３】このことに対処する構成として、評価部１
４が類似度合いの高い複数の類似事例を抽出してこれら
を平均し、これを説明結果である値として出力にする構
成とすることも出来る。この抽出の仕方としては、類似
度が一定値以上のもの、最大の類似度にする類似度の割
合が特定以上のもの、類似度の高い順に上位から特定数
のものなどが考えられる。

【００４４】この構成の場合、類似度合いの高い複数の
類似事例の平均値を取るため、説明結果である値が１つ
になる特徴を持つ。またこれによりニューラルネットワ
ークの出力と説明結果の一致度合いが高くなる。

【００４５】図３は、評価装置１０による入力事例の評
価処理を示すフローチャートである。評価装置１０で
は、まず説明対象となるニューラルネットワーク２０へ
の入力データｘ（ｘ₁〜ｘ_i）が入力されると、ステッ
プＳ１としてネットワーク２０から内部の結合状態を読
み出す。そしてこの結合状態から式(1) 等によってニュ
ーラルネットワーク２０の各入力因子に対する重要度を
算出する（ステップＳ２）。

【００４６】次に、ステップＳ３として学習事例記憶部
１３からニューラルネットワーク２０の学習に用いた事
例を順次読みだし、ステップＳ２で求めた各入力因子に
対する重要度を用いて、式(3) 〜(7) 等によってニュー
ラルネットワーク２０の入力値ｘとの類似度を算出す
る。そしてステップＳ５として、類似度が最も大きなも
の若しくは類似度が一定値以上のものを類似事例として
出力する。

【００４７】図４は、複数の類似事例の平均をとり、説
明結果である値を１つ出力する構成の場合の評価装置の
処理を示すフローチャートである。図４の処理では、ニ
ューラルネットワーク２０に入力データｘが入力されて
から、この入力事例と学習事例記憶部１３内の各事例と
の類似事例を求めるステップＳ１１からステップＳ１４
までの処理動作は、図３の場合のステップＳ１からステ
ップＳ４までの処理と同じなので説明は省略する。

【００４８】ステップＳ１４までの処理で、入力事例と
各学習事例との類似度が求まった後、次にステップＳ１
５として類似事例を抽出するための類似度合いの範囲を
設定する。この類似度合いは、運用者の入力によって例
えば類似度９０％以上というように決定され、この範囲
にある類似度の学習事例をステップＳ１６として検索し
て抽出する。そして、ステップＳ１７としてこれら複数
の類似事例をその類似度によって荷重平均を行い、結果
を出力する。

【００４９】次に、これまで説明した本実施形態による
評価装置１０を用いたより具体的なシステム構成例及び
実施例を説明する。以下の説明は、ダムへの水の流入量
予測をニューラルネットワークで行うシステムに図１の
評価装置を用いた場合を例にしている。

【００５０】図５は、この予測システムの構成例を示す
図である。この予測システム１００は、各測定地から通
信ネットワーク２００を介して収集された流量や雨量の
計測データからダムへの流入量をニューラルネットワー
ク２０により予測するシステムで、ニューラルネットワ
ーク２０による予測結果と共に評価装置１０による評価
結果を運用者に表示する。

【００５１】この予測システム１００は、評価装置１１
０とニューラルネットワーク１２０、データ集積部１３
０、計測データ記憶部１４０、出力処理部１５０、表示
部１６０及び予測結果記憶部１７０を備えている。この
うち評価部１１０及びニューラルネットワーク１２０
は、図１の評価装置１０及びニューラルネットワーク２
０と同じものである。またニューラルネットワーク１２
０は、過去の事例によって各測定データからダムの流入
量の差分を予測結果として出力するように事前に学習さ
れている。

【００５２】またデータ集積部１３０は、通信ネットワ
ーク２００を介して各測定地から集められてくる計測デ
ータを管理し、計測データ記憶部１４０に記憶してゆく
ものである。またデータ集積部１３０は、通信ネットワ
ーク２００からの現在地の測定データとデータ集積部１
３０内の過去の測定データをニューラルネットワーク１
２０への入力データとして出力する。出力処理部１５０
は、ニューラルネットワーク１２０及び評価装置１１０
からの出力データを予測結果記憶部１７０に記憶してゆ
くと共に、グラフ形式等の画像データに加工して表示部
１６０に出力表示する。予測結果記憶部１７０は、ニュ
ーラルネットワーク１２０による予測結果と評価装置１
１０によるその評価を対応させて記憶するもので、この
予測結果記憶部１７０に記憶されたデータはニューラル
ネットワーク１２０の再教育等に用いられる。

【００５３】図６は、予測システム１００内のニューラ
ルネットワーク１２０の入力因子と出力因子を示すもの
である。同図中（０）は現在時刻の計測値、（−１）、
（−２）、．．は１時間前、２時間前、．．の計測値を
示している。

【００５４】本実施形態の予測システム１００では、現
在時刻から２０時間前までの雨量及び３時間前までのダ
ムへの流入量とダムの上流にある河川１、河川２及び河
川３からの流量をニューラルネットワーク１２０への入
力因子とし、これらのデータがデータ集積部１３０から
ニューラルネットワーク１２０に入力される。そしてニ
ューラルネットワーク１２０の出力因子としてダムへの
流入量の差分を出力して、１時間先のダムの流入量変化
分を予測する。またその予測値と共に、その信頼性と予
測結果の根拠を説明するものとしてニューラルネットワ
ーク１２０の学習に用いられた過去事例の中から類似事
例を抽出して示す。

【００５５】図７は図６に示したニューラルネットワー
ク１２０の各入力因子ｘ_k（ｋ＝１〜３５）それぞれに
対する重要度を示す図である。予測システム１００では
この重要度の値に基づいて、説明対象となっている入力
事例と各学習事例との類似度を求めている。尚同図の重
要度は式(1) を用いて求めてある。

【００５６】また類似度は、この図７の重要度を用いて
次式から求まる。

【００５７】

【数７】

【００５８】またこの式(8) をパーセンテージで類似度
を表すようにしたものが次式となる。

【００５９】

【数８】

【００６０】ただし、式(9) では、入力値ｘは０〜１の
値に正規化してある。図８及び図９に表示部１６０に表
示される予測結果とその根拠となる類似事例の表示例を
示す。図８は２１時に行った予測結果の表示例で、予測
の為の入力データとして用いられた過去約２０時間分の
流域の状態を示すデータと共に１時間後のダムへの流量
の予測値がグラフ表示されている。同図中棒グラフが各
時間での雨量を示し、折れ線グラフがダムの流量及び上
流の各河川での流量を示している。また図中の×部分が
現在時点（２１時の時点）を示しており、ここから過去
２０時間分（１〜２１時）の測定データ及び１時間先
（２２時の時点）の流入量の変化分の予測値が示されて
いる。

【００６１】図９は、図８の予測結果の根拠となる類似
事例を示すもので、学習事例として用いられたものの中
から類似度合いが最も高い過去事例が抽出されて図８の
予測結果と同じ形式でグラフ表示されている。

【００６２】もし抽出した類似事例が説明対象の入力事
例と似ている場合には、ニューラルネットワークの出力
値は類似事例に近いものを示し、また抽出した類似事例
が説明対象の入力事例に似ていない場合には、ニューラ
ルネットワークの出力値は、過去事例と異なる傾向を示
す。この図８と図９の事例の場合、式(8) から求めた類
似度は９６．７１％であり、予測に用いられた入力デー
タと抽出した事例との類似度は高いものとなっている。
また１時間後（２２時）のダムへの流入量の変化量も共
に１００［ｍ³／ｓ］強であり、非常に似通ったものと
なっている。この結果から、運用者は図８の予測結果は
信頼性が高いものと判断できる。尚上記例では図８の予
測値に対し、１つの類似事例のみを表示出力していた
が、特定値以上の類似度をもつ複数の類似事例を表示出
力する構成としても良い。

【００６３】このように、本実施形態の予測システムで
は、ニューラルネットワーク１２０による出力（予測
値）を学習事例（過去事例）により説明し信頼性を評価
することができる。例えば上記図８の予測結果に対して
は図９を類似事例として「学習事例の中にある類似事例
の流入量の変化量が１００［ｍ³／ｓ］強であるので、
ニューラルネットワーク１２０による予測値も約１００
［ｍ³／ｓ］になる」と説明することが可能である。ま
た学習事例の中から抽出した類似事例との類似度合いも
パーセンテージで表わすことが出来るので、信頼性の指
標としてこの値を用いることが出来、運用者は予測値の
信頼性を容易に把握することが出来る。

【００６４】次に、上述したように最も類似度が高い例
を単に出力するのではなく、類似事例として複数の事例
を抽出し、これらを平均したものをニューラルネットワ
ークによる予測結果に対する評価とする場合を説明す
る。

【００６５】この事例の抽出の仕方としては、入力事例
と各学習事例との類似度を求めた後、例えば類似度が最
も高いものから順に（上位３事例等）、類似度が特定値
以上（９０％以上等）のもの、類似例の最大の類似度に
対してある割合以上のもの（例えば類似度が大きい事例
の類似度が９０％であったときその９０％、つまり８１
％以上等）などの方法により行うことが出来る。

【００６６】以下に簡単な例として、２入力１出力の足
し算を学習データにもつニューラルネットワークの出力
値を説明することを考える。ただし、類似度の判定式は
次式

【００６７】

【数９】

【００６８】とした。また簡単のため入力１、入力２の
重要度は共に１としている。上記前提において、説明対
象となる入力事例を図１０に、またニューラルネットワ
ークの学習事例を図１１に示す。図１１には各学習事例
と式(10)から求めた図１０の説明対象事例との類似度が
示してある。同図中事例２及び事例３が類似度−１で最
も類似度が高い事例であり、２つの学習事例が同じ類似
度となっている。また事例２の出力値は２、事例３の出
力値は４であり、どちらの事例の場合でも図１０で示す
説明対象におけるニューラルネットワークの出力値であ
る３．０とは異なる。

【００６９】類似度が最も高いこの２つの事例をに対
し、類似度合いを重みとした荷重平均を取ると、出力値（過去事例からの説明値）＝［｜事例２の類似度
｜×事例２の出力値＋｜事例３の類似度｜×事例３の出
力値］／｜事例２の類似度＋事例３の類似度｜＝３．０となりニューラルネットワークの出力値と一致する。

【００７０】この様に、類似度合いを重みとした荷重平
均により説明することにより、過去事例による説明結果
は良好な値（ニューラルネットワークの出力値により近
い値）になる。

【００７１】図１２は、本実施形態における評価装置や
ニューラルネットワークによる予測システムが構築され
る情報処理システムのシステム環境を示す図である。こ
の情報処理システムは、図１２の様にＣＰＵ３０１、主
記憶装置３０２、ハードディスク装置３０３、ディスプ
レイ、キーボード、マウス等を備えた入出力装置３０
４、モデム、ＬＡＮアダプタ等のネットワーク接続装置
３０５及びＣＤ、ＤＶＤ、光ディスク、フロッピーディ
スクなどの可搬記憶媒体３０７が装着され、それから記
憶内容を読み出す媒体読取り装置３０６を有し、これら
が互いにバス３０８により接続される構成となってい
る。

【００７２】図１２の情報処理システムでは、媒体読取
り装置３０６により可搬記憶媒体３０７に記憶されてい
るプログラム、データを読み出し、これを主記憶装置３
０２またはハードディスク３０３にロードまたは格納す
る。そして本実施形態による各処理は、ＣＰＵ３０１が
このプログラムやデータを主記憶装置３０２上にロード
して実行することにより、ソフトウエア的に実現するこ
とが可能である。

【００７３】また、この情報処理システムでは、可搬記
憶媒体３０７を用いてアプリケーションソフトの交換が
行われる場合がある。よって、本発明は、ニューラルネ
ットワークの出力値の評価装置やニューラルネットワー
クによる予測システムに限らず、コンピュータにより使
用されたときに、上述の本発明の実施の形態の機能をコ
ンピュータに行わせるためのコンピュータが読み出し可
能な記憶媒体として構成することもできる。

【００７４】この場合、「記憶媒体」としては、例えば
図１３に示されるように、ＣＤ−ＲＯＭ、フロッピーデ
ィスク（あるいはＭＯ、ＤＶＤ、リムーバブル磁気ディ
スク等であってもよい）等の媒体駆動装置４０７に脱着
可能な可搬記憶媒体４０６や、ネットワーク回線４０３
経由で送信される外部の情報提供業者が保有する情報提
処理装置（サーバ等）内の記憶デバイス（データベース
等）４０２、あるいは情報処理装置４０１の本体４０４
内のメモリ（ＲＡＭ又は外部記憶装置）４０５等が含ま
れる。可搬記憶媒体４０６や記憶デバイス（データベー
ス等）４０２に記憶されているプログラムは、本体４０
４内のメモリ（ＲＡＭ又は外部記憶装置等）４０５にロ
ードされて、実行され、上述した本実施形態の各機能を
実現する。

【００７５】

【発明の効果】本発明によれば、内部状態が複雑な為、
出力値がどうして算出されたか容易に説明することは困
難であったニューラルネットワークにおいて、その出力
値を説明する手法の１つを提供することが出来る。

【００７６】また本発明では、入力事例の類似事例をニ
ューラルネットワークの学習事例から抽出するので、抽
出した類似事例から、例えば「学習データの中に○○の
類似事例があるために、××の出力値になる」と出力結
果の根拠を説明することができる。更には、出力結果に
対する信頼性の指標として、類似事例との類似度を示す
ことが出来る。

【００７７】また本発明では、類似例の抽出を、ニュー
ラルネットワークの結合状態からニューラルネットワー
ク入力因子に対する重要度の判定を行い、入力データの
重要性の度合いに応じて類似事例を抽出することができ
る。そのため精度の高い説明・評価が可能となる。

【００７８】更に本発明では、類似事例との類似度をパ
ーセンテージ表示することで、運用者に対して類似度合
いの説明・評価を容易にしている。これにより過去事例
の類似度合いが容易に分かるために、類似事例によるニ
ューラルネットワーク出力値の説明の信頼性を容易に運
用者に示すことが可能となる。

【００７９】また本発明では、学習事例の中から抽出し
た複数の類似事例から出力結果に対して説明することが
出来る。これにより、より高精度の説明が可能になる。

【図面の簡単な説明】

【図１】評価装置の構成を示す図である。

【図２】前提となるニューラルネットワークの構成を示
す図である。

【図３】評価装置による入力事例の評価処理を示すフロ
ーチャートである。

【図４】複数の類似事例を平均し、説明結果である値を
１つ出力する構成の場合の評価装置の処理を示すフロー
チャートである。

【図５】ダムの流入量を予測する予測システムの構成例
を示す図である。

【図６】予測システム内のニューラルネットワークの入
力因子と出力因子を示す図である。

【図７】各入力因子に対する重要度を示す図である。

【図８】表示部に表示される予測結果の例を示す図であ
る。

【図９】表示部に表示される予測結果の根拠となる類似
事例を示す図である。

【図１０】説明対象となる入力事例を示す図である。

【図１１】ニューラルネットワークの学習事例を示す図
である。

【図１２】本システムが用いられる情報処理システムの
環境図である。

【図１３】記憶媒体の例を示す図である。

【符号の説明】

１０評価装置１１重要度判定部１２類似度計算部１３学習事例記憶部１４評価部２０、１２０ニューラルネットワーク１００予測システム１１０評価部１２０ニューラルネットワーク１３０データ集積部１４０計測データ記憶部１５０出力処理部１６０表示部１７０予測結果記憶部２００通信ネットワーク

Claims

【特許請求の範囲】

【請求項１】学習済みのニューラルネットワークの出
力値の評価装置であって、前記ニューラルネットワークの学習に用いられた複数の
学習事例を記憶する学習事例記憶手段と、前記ニューラルネットワークの各入力因子の重要度を該
ニューラルネットワークの結合状態から求める重要度判
定手段と、評価対象事例と前記学習事例記憶手段に記憶されている
各学習事例との類似度を前記重要度判定手段が求めた各
入力因子の重要度を用いて求める類似度評価手段と、を備えることを特徴とするニューラルネットワークの出
力値の評価装置。
【請求項２】前記類似度評価手段による類似度が特定
値以上の学習事例を類似事例として該類似度と共に出力
する出力値評価手段を更に備えることを特徴とする請求
項１に記載のニューラルネットワークの出力値の評価装
置。
【請求項３】前記出力値評価手段は、前記類似度をパ
ーセンテージ表現で出力することを特徴とする請求項２
に記載のニューラルネットワークの出力値の評価装置。
【請求項４】前記出力値評価手段が、類似度の高い複
数の類似事例の出力値を、該類似度を重みにして荷重平
均して出力することを特徴とする請求項２又は３に記載
のニューラルネットワークの出力値の評価装置。
【請求項５】前記ニューラルネットワークが、入力層
素子ｉ個、中間層素子ｈ個、出力層素子ｏ個からなる構
成構成であり、入力層と中間層との結合をｗとすると、
前記重要度判定手段は、前記ニューラルネットワークの
各入力因子ｘ_k（ｋ＝１〜ｉ）の重要度を【数１】と求めることを特徴とする請求項１乃至４のいずれか１
つに記載のニューラルネットワークの出力値の評価装
置。
【請求項６】前記ニューラルネットワークが、入力層
素子ｉ個、中間層素子ｈ個、出力層素子ｏ個からなる構
成構成であり、入力層と中間層との結合をｗ、中間層と
出力層との結合をｖとすると、前記重要度判定手段は、
前記ニューラルネットワークの各入力因子ｘ_k（ｋ＝１
〜ｉ）の重要度を【数２】と求めることを特徴とする請求項１乃至４のいずれか１
つに記載のニューラルネットワークの出力値の評価装
置。
【請求項７】前記類似度評価手段は、前記類似度を前
記重要度判定手段が求めた各入力因子の重要度を用いて【数３】と求めることを特徴とする請求項１乃至６のいずれか１
つに記載のニューラルネットワークの出力値の評価装
置。
【請求項８】複数の事例を学習事例として学習済みの
ニューラルネットワークの入力事例に基づく出力値を、
前記学習事例の中より類似事例を検索し、該類似事例を
用いて説明・評価するニューラルネットワークの出力値
の評価方法において、前記学習済みのニューラルネットワーク内部の結合状態
に応じて、前記類似事例を検索する評価方法。
【請求項９】コンピュータにより使用された時、複数の事例を学習事例として学習済みのニューラルネッ
トワークの結合状態を抽出し、前記結合状態から前記ニューラルネットワークの各入力
因子の重要度を求め、前記重要度に基づいて、評価対象となる前記ニューラル
ネットワークへの入力事例の類似度を前記学習事例から
抽出することを前記コンピュータに行わせるためプログ
ラムを記憶した前記コンピュータが読み出し可能な記録
媒体。