JPH0675934A

JPH0675934A - ニューラルネットワーク構成法および該ネットワークを用いた設備異常診断法

Info

Publication number: JPH0675934A
Application number: JP4230208A
Authority: JP
Inventors: Isao Takahashi; 高橋　　功; Fumimasa Endo; 奎将遠藤; Tokio Yamagiwa; 時生山極
Original assignee: Hitachi Ltd
Current assignee: Hitachi Ltd
Priority date: 1992-08-28
Filing date: 1992-08-28
Publication date: 1994-03-18

Abstract

(57)【要約】【目的】ニューラルネットワークを構成する中間層に
おける素子数の最適値の選定と学習を能率良く行う。【構成】学習段階にあるニューラルネットワークにお
ける計算誤差は、中間層が適正な素子数であると減少率
が大きいことに着目して、この予備学習段階で中間層の
素子数の最適値を選定し、その後は該最適素子数で構成
したニューラルネットワークで学習を継続して該ニュー
ラルネットワークを完成する。従って、中間層の素子数
の最適値が能率良く得られ、能率良く学習できる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ニューラルネットワー
ク構成法および該ニューラルネットワークを用いた設備
異常診断法に係り、特にニューラルネットワークにおけ
る中間層の素子数を最適値に選定して学習する構成法お
よび電力設備等におけるＧＩＳ(Gas Insulated Swichge
ar)や変圧器等の各種の構成要素の異常を診断するよう
な設備異常診断法に関する。

【０００２】

【従来の技術】電力設備における異常診断は、各種の機
器についていろいろな計測を行った結果をその分野の専
門家が経験に基づいて分析して正常か否かを判別し、異
常と判別した場合にはもっとも確からしい原因を推定し
ていた。

【０００３】最近では、例えば特開平2-297074号公報
に、ニューラルネットワークを用いて設備の異常を診断
する方法が提案されている。その方法は、予め多層構造
を有するニューラルネットワークの入力層に各種の機器
の状態を入力して学習させておき、その後の入力状態を
先の学習結果に基づいて診断してその設備が正常である
か否かを判別し、異常であると判別したときはその原因
を推定するものである。

【０００４】

【発明が解決しようとする課題】しかし、このような設
備の異常診断に用られるニューラルネットワークは、一
般に、入力層，中間層及び出力層からなり、その各々の
素子数が非常に多い大規模なものが多いので、その学習
に長時間を要する状況にある。入力層や出力層の素子数
は、用いるセンサや検出しようとする故障の種類などに
よって決るが、中間層の素子数を前もって決めることが
困難であり、これまでは試行錯誤によって決めることが
多かった。例えば、文献ニューラルネットワークス
（Neural Networks ）Vol.4, Number 1, 1991 第61頁〜
第66頁には、比較的小規模なニューラルネットワークの
例で、中間層の素子数を１から始めて１００回学習する
毎に該ニューラルネットワークの総合誤差（total erro
r）を計算し、該誤差の値が１％以上減少しなかった場
合には中間層の素子数を１つ多くし、１％以上減少した
場合には更に１００回学習する構成法が開示されてい
る。この構成法では、ある場合には中間層の素子数が驚
くほど多くなるので、中間層の素子数を減少させる方法
も導入している。この減少方法は、一旦、ニューラルネ
ットワークが収斂した場合には中間層の素子数を１つ除
去して更に学習し、収斂したらまたそれを繰返す。この
ような操作をニューラルネットワークがもはや収斂しな
くなるまで繰返す例が報告されている。

【０００５】しかし、最近、各技術分野の進歩が非常に
早いので、例えば、一旦、ニューラルネットワークの学
習が完了した後に、設備の変更，拡張あるいは故障の検
出に有効な新しいセンサが現われた場合等にそれらのセ
ンサの出力を該ニューラルネットワークの入力に取り入
れたい等の事態が発生することがある。このような場合
には、先に学習した入力の他に新たに取り入れたいセン
サからの入力も含め、必要に応じて出力数も増やして新
しく再学習することになる。しかし、規模の大きいニュ
ーラルネットワークの場合には、このような学習のたび
に中間層の素子の数を１から始めて、該素子数を１つず
つ変えながら最終段階まで学習を繰返すことは、時間的
に大変な損失を伴うことになる。

【０００６】従って本発明の目的は、ニューラルネット
ワークの中間層の最適な素子数を能率良く選定して学習
することができるニューラルネットワーク構成法および
該ネットワークを使用して設備の異常を能率良く診断で
きる設備異常診断法を提供することにある。

【０００７】

【課題を解決するための手段】本発明は、入力層，中間
層及び出力層からなるニューラルネットワーク構成法に
おいて、前記中間層の素子数の複数の最適値候補を仮決
めしてそれぞれ所定回数の予備学習を行い、該予備学習
における計算出力と教師データから求まる誤差に基づい
て該中間層の素子数の最適値を選定し、その後、該最適
値の素子数において前記誤差が目標値以下になるかある
いは予め定めた最終学習回数になるまで学習することを
特徴とし、あるいは、センサからの信号を入力する入力
層，中間層及び出力層からなるニューラルネットワーク
を用いた設備異常診断法において、前記ニューラルネッ
トワークは、前記中間層の素子数の複数の最適値候補を
仮決めしてそれぞれ所定回数の予備学習を行い、該予備
学習における計算出力と教師データから求まる誤差に基
づいて該中間層の素子数の最適値を選定し、その後、該
最適値の素子数において前記誤差が目標値以下になるか
あるいは予め定めた最終学習回数になるまで学習するこ
とを特徴とする。

【０００８】

【作用】ニューラルネットワークの予備学習の段階にお
ける誤差の減少傾向から中間層の素子数の最適値を選定
し、その後は該最適素子数で学習を継続するので、該ニ
ューラルネットワークを能率良く構成でき、且つ、能率
良く学習を終了することができる。

【０００９】

【実施例】図１は、本発明の一実施例を示すニューラル
ネットワークの学習回数Ｎと誤差Ｅrの関係を示す。図
２は、ニューラルネットワークの構成例を示しており、
１１は各種センサからの信号が入力される入力層，１２
は中間層，１３は正常／異常の判別および原因等の推定
結果を出力する出力層である。中間層１２は複数層でも
よいが、ここでは説明を簡単にするために単層の場合を
示す。

【００１０】図１は、中間層１２の素子数Ｈを任意の数
ｍ（ｍ≧１），（ｍ＋１），（ｍ＋２）……（ｍ＋ｎ）
として、中間層の素子数Ｈを変更して、それぞれについ
て所定回数（Ｎ₁）学習してそれぞれの誤差Ｅrを計算し
た結果を示している。学習する回数（Ｎ₁）が充分に大
きければ（例えば予定最終学習回数の３〜１０％程
度）、中間層１２の素子数Ｈとして適当な数を用いたニ
ューラルネットワークでは、計算出力は比較的早く教師
データに近づき、その誤差Ｅrが曲線１に示すように大
幅に減少する。これに対して、選んだ数が中間層１２の
素子数Ｈとして不適当なニューラルネットワークの場合
には、計算出力は教師データになかなか近づかず、その
誤差Ｅrは曲線２または曲線３に示すように減少幅が少
ない。従って、例えば最終学習回数の３〜１０％程度の
学習回数（予備学習）でも素子数の大体の優劣をつける
ことができる。

【００１１】この実施例は、この段階で誤差Ｅrの少な
いものに対応する中間層１２の素子数Ｈを最適値Ｈ₀と
して選んで、該素子数Ｈについて、更に、目標とする精
度が得られるまで学習を続けることにより、全体の学習
時間は比較的短時間で充分な精度まで学習を終えること
ができるようにすることにある。

【００１２】この場合、中間層１２の素子数Ｈを自動的
に変更して予備学習するようにプログラムを作成してお
けば一層能率的であるが、対話形式で行うこともできる
ことはもちろんである。

【００１３】図１を参照して本発明の他の実施例を説明
する。図から明らかなように、学習回数Ｎに対する誤差
Ｅrは、全体的には、学習回数Ｎの増加につれて減少す
る傾向にあるが、部分的には凹凸がある。曲線１と類似
した特性を示す曲線ａ，ｂは学習回数Ｎ₁の付近では差
が小さくなり、従って部分的な凹凸が大きい場合には、
中間層１２の素子数Ｈの最適値Ｈ₀の選定を誤る可能性
がある。この実施例は、この誤りを軽減するために、最
適値Ｈ₀を選定するために指定された予備学習回数Ｎ₁の
手前の適宜な学習回数からＮ₁までの誤差Ｅrに対して適
当な演算を施した数値に着目して、素子数Ｈの最適値Ｈ
₀の選定を行うものである。誤差Ｅrに対して行う適当な
演算とは、例えば、その間の平均，その間の最小値の選
択，あるいは一つの曲線に着目してその間の最大値を選
び、各曲線の相互比較で最大値の一番小さいものを選定
する等の演算処理である。このようにして、中間層１２
の素子数の最適値Ｈ₀を選定すれば、選定の誤りを一層
少なくすることができる。

【００１４】図３は、更に異なる実施例に関する流れ図
を示す。該ニューラルネットワークを構成するコンピュ
ータ等の制御装置は、スタート（START）すると、先
ず、ブラウン管（ＣＲＴ）等の表示画面に保存データの
有無を問う質問を表示すると共に判断する処理１０１を
実行する。全く始めの状態では、保存データがないので
処理１０３に分岐する。対話形式での処理ではオペレー
タが“ＮＯ”を入力することにより分岐する。その後、
ニューラルネットワークの入力，教師データ入力，中間
層の素子数Ｈの初期値入力，素子数Ｈの変更回数入力，
最適値Ｈ₀を選定するための予備学習回数Ｎ₁入力，デー
タを保存する学習回数のピッチ入力，最終学習回数Ｎma
x入力，誤差Ｅrが十分小さくなったと判定する目標値ε
などの各種の数値の入力等の入力処理１０３を実行す
る。対話形式で入力する場合には、入力されたこれらの
データを該当する記憶装置に保存する処理１０４を実行
する。

【００１５】次に、図１で示した方法等で予備学習を行
って中間層１２の素子数Ｈの最適値Ｈ₀を選定する処理
１０５を実行する。その後、素子数Ｈの最適値Ｈ₀およ
びその結合係数等の各種のデータを保存する処理１０６
を実行する。

【００１６】次に、この最適値Ｈ₀の素子数で構成した
ニューラルネットワークについての学習を再開する。先
ず、処理１０７において例えば学習回数ＮをＮ＝Ｎ₁＋
１とし、処理１０８において該ニューラルネットワーク
の各部の結合係数(重みともいう)の計算(学習)を行い、
処理１０９でそれまでの各種のデータを保存する所定の
学習回数に達したか否かをチェックし、所定の学習回数
に達していれば処理１１０においてそれまでの各種のデ
ータを保存する処理を実行して次の処理１１１に移り、
所定の学習回数に達していなければ処理１０９から処理
１１１に分岐する。処理１１１では、誤差Ｅrが目標値
εよりも小さくなったか否か、また学習回数Ｎが最終学
習回数Ｎmaxを越えたか否かをチェックし、何れの条件
も満足しなければ処理１１２において学習回数ＮをＮ＋
１にする処理を実行して処理１０８に戻り、満足してい
ればそれまでの結合係数や誤差Ｅrや学習回数等の各種
データを保存する処理１１３を実行して該ニューラルネ
ットワークの構成を終了する。

【００１７】また、大規模なニューラルネットワークで
は、相当な学習時間を要するから、例えば、中間層１２
の素子数Ｈの選定と保存は終了したが、職場の就業時間
や停電等の事情で途中で電源が遮断されるために、最終
まで学習を行えない場合がある。このような場合に、次
の機会に再びコンピュータの電源投入後の処理１０１で
保存データ有り“Ｙｅｓ”を入力すると、処理１０２で
それまでの処理で保存した各種のデータを読出して次の
処理１０５あるいは次の学習処理１１４からの処理の実
行を継続するようにする。保存データを利用して次に行
う処理は、対話形式で選択するようにすることも可能で
ある。

【００１８】また、この実施例は公知の技術であるオー
トスタート（auto-start）手法を採用し、コンピュータ
に電源が投入された後に所定時間以上経過してもキー入
力がなかったときには、保存してある各種のデータを自
動的に読出して学習を再開するようにすることも可能で
ある。

【００１９】

【発明の効果】本発明によれば、次のような点で能率の
よいニューラルネットワーク構成法および設備異常診断
法を提供できるという効果がある。

【００２０】（１）ニューラルネットワークの中間層の
最適な素子数を能率良く選定し、学習できる。

【００２１】（２）ニューラルネットワークの中間層の
最適な素子数の選定の誤りを防止することができる。

【００２２】（３）学習の途中で何らかの原因でコンピ
ュータ等の制御装置の電源が遮断された場合でも、学習
データを保存しておくことにより、それまでの学習を無
駄にせずに次の学習に有効活用できる。

【００２３】（４）必要なデータの入力作業が終了し、
そのデータを保存した後であれば、たとえ停電があった
としても、電源回復の時点から無人で最終学習回数まで
学習させることが可能である。

【図面の簡単な説明】

【図１】本発明になるニューラルネットワーク構成法に
おける中間層の素子数の最適値を選定するための特性説
明図である。

【図２】本発明が適用されるニューラルネットワークの
ブロック図である。

【図３】本発明になるニューラルネットワーク構成法の
計算流れ図である。

【符号の説明】

１〜３学習特性曲線ａ〜ｂ学習特性曲線１１入力層１２中間層１３出力層

Claims

【特許請求の範囲】

【請求項１】入力層，中間層及び出力層からなるニュ
ーラルネットワーク構成法において、前記中間層の素子数の複数の最適値候補を仮決めしてそ
れぞれ所定回数の予備学習を行い、該予備学習における
計算出力と教師データから求まる誤差に基づいて該中間
層の素子数の最適値を選定し、その後、該最適値の素子
数において前記誤差が目標値以下になるかあるいは予め
定めた最終学習回数になるまで学習することを特徴とす
るニューラルネットワーク構成法。
【請求項２】請求項１において、前記中間層の素子数
の最適値の選定は、所定の予備学習回数より前の誤差も
考慮して行うことを特徴とするニューラルネットワーク
構成法。
【請求項３】請求項１において、前記学習は、学習係
数を適当な学習回数毎に保存しつつ継続することを特徴
とするニューラルネットワーク構成法。
【請求項４】請求項１において、途中まで学習した学
習係数およびその他の各種データを記憶装置に保存し、
この保存した学習係数およびその他の各種データを読出
して最終学習回数まで学習を続けることを特徴とするニ
ューラルネットワーク構成法。
【請求項５】請求項１において、電源が投入されてか
ら所定時間キー入力がない場合には、保存してある途中
までの学習係数およびその他の各種データを記憶装置か
ら読出して最終学習回数まで学習を続けることを計算の
流れの中に含んだことを特徴とするニューラルネットワ
ーク構成法。
【請求項６】センサからの信号を入力する入力層，中
間層及び出力層からなるニューラルネットワークを用い
た設備異常診断法において、前記ニューラルネットワークは、前記中間層の素子数の
複数の最適値候補を仮決めしてそれぞれ所定回数の予備
学習を行い、該予備学習における計算出力と教師データ
から求まる誤差に基づいて該中間層の素子数の最適値を
選定し、その後、該最適値の素子数において前記誤差が
目標値以下になるかあるいは予め定めた最終学習回数に
なるまで学習することを特徴とする設備異常診断法。
【請求項７】請求項６において、途中まで学習した学
習係数およびその他の各種データを記憶装置に保存し、
この保存した学習係数およびその他の各種データを読出
して最終学習回数まで学習を継続することを特徴とする
設備異常診断法。