JP3129932B2

JP3129932B2 - ファジィ・ニューラルネットワーク装置およびその学習方法

Info

Publication number: JP3129932B2
Application number: JP07117218A
Authority: JP
Inventors: 輝彦松岡; 隆志荒巻
Original assignee: Sharp Corp
Current assignee: Sharp Corp
Priority date: 1995-05-16
Filing date: 1995-05-16
Publication date: 2001-01-31
Anticipated expiration: 2016-01-31
Also published as: DE69608927T2; EP0743604A1; US5819242A; DE69608927D1; JPH08314881A; EP0743604B1

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ニューラルネットワー
クにファジィ構造を取り入れたファジィ・ニューラルネ
ットワーク装置に関する。

【０００２】

【従来の技術】従来のニューラルネットワークは、例え
ば、図２６に示すように、入力層Ｉ、中間層Ｈ、出力層
Ｏからなる階層構造をもち、各層間のニューロンが完全
に結合したネットワークである。このネットワークで、
入力パターンＰＸとそれに対応する出力パターンＰＹと
で表されるサンプルデータの入出力関係を正しくシミュ
レートできるように、入力層Ｉおよび中間層Ｈ間の結合
の重みＷと、中間層Ｈおよび出力層Ｏ間の結合の重みＶ
とを適応的に変化させることによって、所定の機能を獲
得することができる。このような処理を行なうものとし
て代表的なものにバックプロパゲーション法と呼ばれる
処理方法がある。

【０００３】また、従来の集合論では、図２７に示すよ
うに、例えば「温度が２７℃」であるという入力があっ
たとき（図ａ）、「温度が高い」または「温度が低い」
といった人間の曖昧な表現を数学的に表現する際に、あ
る閾値以上では温度が高く、別の閾値以下では温度が低
いというように、「０」と「１」の２値でしか表現でき
なかった（図ｂ）。しかし、メンバーシップ関数を導入
したファジィ集合論を数学的基礎として、「０」から
「１」までの実数で「温度が高い」度合い（０．７８）
と「温度が低い」度合い（０．２７）とを表現すること
で曖昧さを数値化することができる（図ｃ）。この理論
を用いてファジィ制御というものが行なわれている。こ
れは、例えば技術者の知識をファジィルールとして表
し、様々な入力パターンからファジィ理論に基づいた計
算により得られた出力値によって制御を行なうものであ
る。

【０００４】また、ニューラルネットワークにファジィ
ルールを融合させたニューロ・ファジィ融合システムが
提案されている（例えば、特開平５−２２４９３９
号）。これは技術者が勘や経験から得た知識をメンバー
シップ関数とファジィルールの形式とで抽出してファジ
ィモデルを作成し、ネットワークを構成するユニット間
の結合やその結合の重みをそのモデルに従って設定して
ニューラルネットワークを構成するもので、例えば、図
２８に示すような構成になっている。

【０００５】ここでは、それぞれの入力に対してファジ
ィルールで使用するファジィ集合をネットワーク上に実
現している。この例では、前件部命題で入力値ｘ１をＢ
ig、Ｍiddle およびＳmallの３つのファジィ集合で表
し、入力値ｘ２をＢigおよびＳmallの２つのファジィ集
合で表している。また、ルール部ではファジィルール数
のユニットを使用し、ファジィルールの前件部命題の出
力をファジィルールに沿って結合させている。この例で
はルール１として「ｘ１がＢigで、ｘ２がＢigである」
など、全部で５つのルールを構成している。また、後件
部命題に従いルールの出力値から後件部メンバーシップ
関数を用いて出力値を計算している。

【０００６】

【発明が解決しようとする課題】従来のニューラルネッ
トワークやニューロ・ファジィ融合システムでは、ネッ
トワークに設定される入力パラメータの全データが既知
の値のときには出力値を求めることができるが、入力パ
ラメータの中に１つでも未知の値が混在する場合は出力
値を求めることができないという不都合がある。ここで
未知の値が混在する入力パラメータとしては、例えばセ
ンサなどの故障で入力値の一部が与えられないエアコン
の入力パラメータ、検査機器がないなどの理由で検査値
の一部が与えられない検査装置の入力パラメータなどが
ある。尚、本明細書では、入力パラメータにデータが示
されなかった場合を「未知の値」、入力パラメータにデ
ータが示された場合を「既知の値」、入力部にデータが
示されなかったものを「未知」、入力部にデータが示さ
れたものを「既知」と略記する。

【０００７】このような場合、バックプロパゲーション
に代表される全結合の積層型ニューラルネットワークで
は、入力パラメータの中に未知の値を含んでいても出力
値を求める学習を行なうことができる方法が提案されて
いるが、ニューロとファジィを融合した全結合でないネ
ットワークシステムの場合は、その学習方法をそのまま
適用できないため、出力値を求めることができないとい
う不都合がある。

【０００８】本発明の目的は、入力パラメータの中に未
知の値を含んでいる不完全な入力データに対しても出力
値を得ることができ、また、不完全な学習データを用い
ても学習を行なうことができるファジィ・ニューラルネ
ットワーク装置を提供することにある。

【０００９】

【課題を解決するための手段】本願の第１の発明に係る
ファジィ・ニューラルネットワーク装置は、入力パラメ
ータの値を出力する入力層と、入力パラメータの取りう
る値の範囲を複数の領域に分割し各領域毎にメンバーシ
ップ関数を定義し入力層からの出力値に従い各領域毎の
メンバーシップ値を各入力パラメータ毎に出力するメン
バーシップ層と、異なる入力パラメータ間のある領域同
士による所定のルールを構築し該ルールに対する適合度
を出力するルール層と、ルール層からの出力値に従い出
力パラメータの値を出力する出力層と、入力パラメータ
の一部が未知の値である場合に未知の値に対応するメン
バーシップ値を所定の値に設定するメンバーシップ値設
定手段とを設けてなる。

【００１０】本願の第２の発明に係るファジィ・ニュー
ラルネットワーク装置は、本願の第１の発明において、
入力層に入力される入力パラメータが未知の値である場
合に、メンバーシップ層の出力値を範囲としてとらえ、
該範囲の最大値と最小値で表し、その範囲の最大値を各
入力パラメータの各メンバーシップ関数の最大値とし、
その範囲の最小値を各入力パラメータの各メンバーシッ
プ関数の最小値とするように構成してなる。

【００１１】本願の第３の発明に係るファジィ・ニュー
ラルネットワーク装置は、本願の第２の発明において、
前記未知の値の最大値が１．０、最小値が０．０となる
ように構成してなる。

【００１２】本願の第４の発明に係るファジィ・ニュー
ラルネットワーク装置は、本願の第２の発明において、
出力層から出力される出力値の最大値および最小値は、
既知の入力パラメータ同士のルール層の出力値とルール
層および出力層間の結合の重みとの加重平均を求め、未
知の値の入力パラメータを含むルール層および出力層間
の結合の重みを加重平均に加えて再度加重平均を求める
ことによって得るように構成してなる。

【００１３】本願の第５の発明に係るファジィ・ニュー
ラルネットワーク装置は、本願の第４の発明における出
力層から出力される出力値の最大値および最小値は、既
知の入力パラメータ同士に関わるルールで構成されたル
ール層の出力値に従いルール層および出力層間の結合の
重みの加重平均を求め、未知の値の入力パラメータから
のルールを含む所定のルールの重みの中で現在の重みの
加重平均より大きくまたは小さくなるものの中から一番
大きくまたは小さくなるものを加えて加重平均を更新
し、これ以上加えても加重平均が大きくまたは小さくな
らなくなるまで加重平均を随時更新し、これ以上加えて
も加重平均が大きくまたは小さくならなくなった時点で
そのときの加重平均値を出力層の最大値または最小値と
する。

【００１４】本願の第６の発明に係るファジィ・ニュー
ラルネットワーク装置の学習方法は、入力パラメータの
値を出力する入力層と、入力パラメータの取りうる値の
範囲を複数の領域に分割し各領域毎にメンバーシップ関
数を定義し入力層からの出力値に従い各領域毎のメンバ
ーシップ値を各入力パラメータ毎に出力するメンバーシ
ップ層と、異なる入力パラメータ間のある領域同士によ
る所定のルールを構築し該ルールに対する適合度を出力
するルール層と、ルール層からの出力値に従い出力パラ
メータの値を出力する出力層と、入力パラメータの一部
が未知の値である場合に未知の値に対応するメンバーシ
ップ値を所定の値に設定するメンバーシップ値設定手段
とを設けてなるファジィ・ニューラルネットワーク装置
において、学習時に修正しようとする重みに関わる入力
パラメータが既知であるか未知であるかに応じて各重み
を修正するときの学習方法として異なる学習方法を選択
的に用いる。

【００１５】本願の第７の発明に係るファジィ・ニュー
ラルネットワーク装置の学習方法は、本願の第６の発明
におけるルール層から出力層への重みを修正する際に、
既知の値の入力パラメータ同士からのルールで構成され
た所定のルールの重みの修正はルール層の出力値の最大
値と最小値の両方を用いて修正し、また未知の値の入力
パラメータからのルールを含む所定のルールの重みの修
正はルール層の出力値の最大値または最小値のいずれか
のみを用いて修正する。

【００１６】本願の第８の発明に係るファジィ・ニュー
ラルネットワーク装置の学習方法は、本願の第６の発明
における各入力パラメータのメンバーシップ関数を構成
するための入力層からメンバーシップ層への重みを修正
する際に、既知の値の入力パラメータのメンバーシップ
関数を構成する重みのみを修正する。

【００１７】

【作用】本発明は、対象物の入出力関係をファジィ集合
を持つ前件部命題と後件部命題とを有するファジィルー
ルと、これを定量化するために定義したメンバーシップ
関数との形で抽出してファジィモデルを作成し、ファジ
ィモデルとは別に入出力のパラメータ数だけからネット
ワークを構成し、結合の重みをファジィモデルをもとに
与えることによって構築されるファジィ・ニューラルネ
ットワークを備えており、入力されるデータを２つに分
割して入力し、出力値も２つに分割した形で出力する構
成となっている。

【００１８】分割する２つの値は各入力パラメータ値を
範囲として表し、それぞれ最大値と最小値を設定する。
既知の値を入力する場合は入力層に既知の値をそのまま
最大値、最小値として入力する。つまり、最大値と最小
値が同じ値となる。未知の値を入力する場合はメンバー
シップ値設定手段によりメンバーシップ層の出力にメン
バーシップ関数の範囲の最大値と最小値を設定し、入力
層からメンバーシップ層後半部までの演算を省略する。

【００１９】また、ルール層から出力層での演算も、未
知の値の入力パラメータを含む所定のルール（ＡＮＤル
ール）の出力値は常に用いるのではなく選択的に用いて
演算する。また、学習に関しても全ての重みを修正する
のではなく選択的に重みを修正する。

【００２０】このように、本発明は未知の値を含むデー
タであっても２つの値に分割して表すことにより確定し
たデータに置き換えることができる。各層の出力値も最
大値と最小値であり、ネットワークの構造も意味のある
構造であることから、計算する必要のないところは無駄
な計算をせずに構造上の意味から出力値を決定すること
が可能となり、計算量も減らすことができる。また、未
知の値の入力パラメータに関わる重みの修正は、扱って
いるデータが未知であることから既知のデータに比べ信
頼度が低いため、重みの修正量を減らしたり、修正をし
なかったりするようになる。

【００２１】

【実施例】図１は、本発明によるファジィ・ニューラル
ネットワーク装置の一実施例を示す構成図である。この
装置は２つの入力パラメータから１つの出力パラメータ
が得られる対象物に関して構築される２入力１出力のフ
ァジィ・ニューラルネットワークを有し、このネットワ
ークは入力層１、メンバーシップ層前半部２、メンバー
シップ層後半部３、ルール層４、出力層５の５階層から
なり、２層目と３層目でメンバーシップ層を構築してい
る。本実施例では、説明の便宜上、このような２入力１
出力のネットワークを示しているが、３入力以上や２出
力以上の多入力多出力のファジィ・ニューラルネットワ
ークであってもよいことは勿論である。

【００２２】各層は次のようにして構成する。まず、入
力層１は入力パラメータ毎に各２つのユニット１１，１
２、ユニット１３，１４で構成し、ユニット１１，１３
にそれぞれ定数１を入力し、ユニット１２に入力値ｘ
１、ユニット１４に入力値ｘ２をそれぞれ入力する。

【００２３】次に、メンバーシップ層２，３は各入力パ
ラメータごとに、図２に示すＢig、Ｍiddle 、Ｓmallの
各メンバーシップ関数を構成する。メンバーシップ層前
半部２では、各４つのユニット２１〜２４、ユニット２
５〜２８を構成し、ユニット２１〜２４で定数１と入力
値ｘ１とを結合させ、ユニット２５〜２８で定数１と入
力値ｘ２とを結合させる。図２に示す各メンバーシップ
関数は、横軸が入力パラメータの値であり、縦軸が各領
域に適合している割合（以下、適合度、という）であ
る。適合度は１．０に近づくほど入力パラメータがその
領域に属していることを示す。

【００２４】メンバーシップ層後半部３では、各３つの
ユニット３１〜３３、ユニット３４〜３６を構成し、前
半部２の１つまたは２つのユニットを結合させる。１つ
のユニットを結合させる部分であるユニット３１，３４
はＢigを表すメンバーシップ関数を構成し、ユニット３
３，３６はＳmallを表すメンバーシップ関数を構成す
る。２つのユニットを結合させる部分であるユニット３
２，３５はＭiddle を表すメンバーシップ関数を構成す
る。

【００２５】入力層１、メンバーシップ層前半部２、メ
ンバーシップ層後半部３のユニット数は、それぞれ入力
パラメータ毎に必ず構成され、入力層１が２ユニット、
前半部２が４ユニット、後半部３が３ユニットと固定さ
れている。したがって、３入力の場合は入力層１が６ユ
ニット、メンバーシップ層前半部２が１２ユニット、メ
ンバーシップ層後半部３が９ユニットで構成される。

【００２６】次に、ルール層４は入力値ｘ１側のユニッ
ト３１に対して入力値ｘ２側のユニット３４〜３６のそ
れぞれと論理積を取るユニット４１〜４３と、入力値ｘ
１側のユニット３２に対して入力値ｘ２側のユニット３
４〜３６のそれぞれと論理積を取るユニット４４〜４６
と、入力値ｘ１側のユニット３３に対して入力値ｘ２側
のユニット３４〜３６のそれぞれと論理積を取るユニッ
ト４７〜４９とから構成する。

【００２７】最後に、出力層５は出力パラメータ数に応
じてユニット数を決定し、各ユニット毎にルール層４か
らの出力をユニット５１で全て結合し、出力値ｙとして
出力するように構成する。

【００２８】このようにして構成されたネットワークの
各ユニット間の結合には、全てその結合ごとの重みがあ
る。まず、入力層１とメンバーシップ層前半部２との結
合部分は、図３に示すメンバーシップ関数のセンター値
（メンバーシップ関数の出力値が０．５となるときの入
力値）が重みＷｃ１〜Ｗｃ８となっている。

【００２９】すなわち、メンバーシップ関数は前述した
ように３種類あり、それぞれのメンバーシップ関数のセ
ンター値は各重みと一致している。例えば、入力値ｘ１
のＢigを表すメンバーシップ関数のセンター値の重みは
Ｗｃ１であり、Ｍiddle を表すメンバーシップ関数のセ
ンター値の重みはＷｃ２とＷｃ３であり、Ｓmallを表す
メンバーシップ関数のセンター値の重みはＷｃ４であ
る。同様にして入力値ｘ２側の重みＷｃ５〜Ｗｃ８も求
まる。なお、Ｍiddle は、図４に示すようにＢigとＳma
llの２つのメンバーシップ関数の論理積の形になってい
るので、２つのセンター値を有する。

【００３０】次に、メンバーシップ層前半部２と後半部
３との結合部分では、図３に示すメンバーシップ関数の
傾きが重みＷｇ１〜Ｗｇ８となっている。これも、セン
ター値と同様にそれぞれのメンバーシップ関数の傾きが
各重みと一致している。例えば、入力値ｘ１のＢigを表
すメンバーシップ関数の傾きの重みはＷｇ１であり、Ｍ
iddle を表すメンバーシップ関数の傾きの重みはＷｇ２
とＷｇ３であり、Ｓmallを表すメンバーシップ関数の傾
きの重みはＷｇ４である。この場合もＭiddleはＢigと
Ｓmallの２つのメンバーシップ関数の論理積の形になっ
ているので、２つの傾きを有する。

【００３１】最後に、ルール層４と出力層５との結合部
分では、技術者から得た知識が重みＷｆ１〜Ｗｆ９とな
っている。

【００３２】次に、ネットワークの外部に位置するメン
バーシップ値設定手段６は、入力パラメータの一部が未
知の値である場合に、未知の値に対応するメンバーシッ
プ層後半部３のメンバーシップ値を強制的に所定の値に
設定し、入力層１からメンバーシップ層後半部３までの
演算を省略して、ルール層４から演算を始められるよう
に設定する。

【００３３】次に、図５に示すフローチャートを参照し
ながら、入力パラメータの各値ｘ_i（ｉ＝１，２，…，
ｎ）が入力パラメータとして入力層１に入力されたと
き、各層から出力される出力値を求める手順について説
明する。

【００３４】まず、各入力パラメータの値ｘ_i が未知の
値であるか否か判断する（ステップＳ１）。この判断は
図示しない入力手段によって行う。入力手段は全て既知
の値であれば入力値ｘ_i を最大値ｘ_Hiと最小値ｘ_Liの２
つ値に分割して設定する（ステップＳ２）。その際、既
知の値の入力パラメータは２つとも同じ値のままで最大
値と最小値を表すように分割して設定する。例えば、入
力値が０．６の場合、最大値ｘ_Hiを０．６とし、最小値
ｘ_Liも０．６とする。

【００３５】次いで、入力層１から順に計算を行なって
いく。入力層１の出力値は入力パラメータを分割した２
つの値ｘ^H _i，ｘ^L _iと同じなので省略する。次に、メンバ
ーシップ層前半部２の出力値Ｈ^H _i，Ｈ^L _iを求める（ステ
ップＳ３）。

【数１】

【００３６】式（１）はメンバーシップ層前半部２の出
力値を求める式で、Ｈ^H _ij はメンバーシップ層前半部２
の出力値の最大値、Ｈ^L _ij はその最小値である。Ｗｃは
前述したメンバーシップ関数のセンター値を表す重みで
ある。添字ｉは前述したように各入力パラメータの番号
を表し、ｎ個の入力パラメータをもつネットワークを示
す。添字ｊは各メンバーシップ関数を構成するときのシ
グモイド関数の番号を表し、Ｓmallを表すメンバーシッ
プ関数が１、Ｍiddle を表すメンバーシップ関数が２と
３、Ｂigを表すメンバーシップ関数が４となっている。
例えば、Ｈ^H ₂₄は２番目の入力パラメータのＢigを表す
メンバーシップ関数、すなわちユニット３４の出力値の
最大値である。

【００３７】なお、入力パラメータが既知の値である場
合は、入力層１の出力値が「ｘ^H _i＝ｘ^L _i」であるため、
メンバーシップ層前半部２の出力値は「Ｈ^H _ij＝Ｈ^L _ij」
となる。

【００３８】次に、メンバーシップ層後半部３の出力値
Ｍ^H _ik ，Ｍ^L _ik を求める（ステップＳ４）。

【数２】

【００３９】式（２ａ）〜（２ｃ）はメンバーシップ層
後半部３の出力値を求める式であり、Ｍ^H _ik はメンバー
シップ層後半部３の出力値の最大値、Ｍ^L _ik はその最小
値である。また、Ｗｇは前述したようにメンバーシップ
関数のセンター値での傾きを表す重みである。メンバー
シップ関数のセンター値の傾きとは、適合度が０．５と
なるところのメンバーシップ関数の傾きの値である。こ
の値の絶対値が大きくなるほどメンバーシップ関数の傾
きが急になり、正の値のときにはＢigを表すメンバーシ
ップ関数の傾きとなり、負の値のときはＳmallを表すメ
ンバーシップ関数の傾きとなる。添字ｋは各メンバーシ
ップ関数の番号であり、Ｓmallが１、Ｍiddle が２、Ｂ
igが３となっている。

【００４０】また、関数ｆ（ｔ）はシグモイド関数で、
図３に示すように−∞〜＋∞の入力値に対して０．０〜
１．０の出力値を出力する関数であり、式で表すと、ｆ（ｔ）＝１／（１＋ｅ^-t）のように表される。また、この関数を微分したものは、ｆ'（ｔ）＝（１−ｆ（ｔ））・ｆ（ｔ）のようにｆ（ｔ）自身で表すことができる。このシグモ
イド関数をうまく利用し、シグモイド関数とメンバーシ
ップ関数の出力がそれぞれ０．５となるときの入力値、
つまり、センター値を合わせ、また、傾きを調整するこ
とによってシグモイド関数でメンバーシップ関数を実現
している。そのために、先に述べたようにメンバーシッ
プ関数のセンター値と、そのセンター値での傾きを変数
として持つ必要がある。それが上式で表されたＷｃ_ijと
Ｗｇ_ijである。

【００４１】これらの式により、各入力パラメータの取
りうる値の範囲をＢig、Ｍiddle 、Ｓmallの３領域に分
割したとき、それぞれどのくらいの割合で各領域に適合
しているかをファジィのメンバーシップ値として求める
ことができる。なお、入力パラメータが既知の値の場合
は「Ｈ^H _ij ＝Ｈ^L _ij 」であるため、「Ｍ^H _ik ＝Ｍ^L _ik」
となる。

【００４２】ステップＳ１において、入力パラメータの
中に未知の値があると判断した場合は、メンバーシップ
値設定手段６によってメンバーシップ層後半部３の対応
するユニットに強制的に設定値を設定する（ステップＳ
５）。

【００４３】この設定値は入力値ｘ_i が取りうる値の範
囲の最小値と最大値であるという考え方から、図２のグ
ラフでは左端から右端までの入力値が全て対象となり、
それに対する出力値の最小値と最大値が出力されるべき
ということから、メンバーシップ値の最大値を表す値と
して「Ｍ^H _ik ＝１．０」を設定し、メンバーシップ値の
最小値を表す値として「Ｍ^L _ik ＝０．０」を設定する。

【００４４】ここで注意すべきことは、例えば、入力値
ｘ１が既知の値である場合は、入力値ｘ１側はステップ
Ｓ２〜Ｓ４の処理を実行し、入力値ｘ２が未知の値であ
る場合は、入力値ｘ２側はステップＳ５の処理を実行す
る。これらステップＳ１〜Ｓ５を全ての入力パラメータ
値ｘ_i（ｉ＝１，２，…，ｎ）に対して実施し、ステッ
プＳ６以下を実施する。

【００４５】次に、ルール層４の出力値Ｒ^H _p，Ｒ^L _pを求
める（ステップＳ６）。

【数３】式（３）はルール層４の出力を求める式であり、Ｒ^H _pは
各ＡＮＤルールの出力値の最大値であり、Ｒ^L _pはその最
小値である。添字ｐはＡＮＤルールの数であり、ｎ入力
それぞれの３領域のうちから２つの入力の２つの領域を
選ぶ組み合わせの数を表している。

【００４６】また、関数ｍin｛Ｍ₁，Ｍ₂｝はメンバーシ
ップ層後半部３の２つの出力値Ｍ１，Ｍ２のうち小さな
方の値を選択して出力する関数であり、２つのファジィ
集合（メンバーシップ関数）の論理積を求めている。２
つのファジィ集合の論理積を求めるということは、例え
ば、次のようにしてＡＮＤルールの適合度を求めること
になる。「ｘ₁ がＢigで、ｘ₂ がＳmallのとき」という
ＡＮＤルールの場合、入力値ｘ１のＢigを表すメンバー
シップ関数の出力値と、入力値ｘ２のＳmallを表すメン
バーシップ関数の出力値のうち、小さな方の値をそのＡ
ＮＤルールの適合度として出力する。なお、Ｍ１とＭ２
の２つの出力値が共に既知の入力パラメータの場合は、Ｒ^H _p＝Ｒ^L _p （∵ Ｍ^H _i1k1＝Ｍ^L _i1k1 ＆Ｍ^H _i2k2＝Ｍ^L
_i2k2）となる。

【００４７】次に、出力層５の出力値ｙ^H _q，ｙ^L _qを求め
る（ステップＳ７〜Ｓ１０）。初めに入力パラメータに
未知の値を含まないＡＮＤルールの出力値のみで次の計
算を行なう（ステップＳ７）。

【数４】

【００４８】ここで、ｙ^H _qは出力層５の出力値の最大値
であり、ｙ^L _qは出力層５の出力値の最小値である。添字
ｑは出力パラメータの番号を表し、添字ｒは各ＡＮＤル
ールの番号を表し、添字ｃｏｍｐは未知の値の入力パラ
メータを全く含まないＡＮＤルールを表す。したがっ
て、ｒｃｏｍｐは未知の値の入力パラメータを含まない
ＡＮＤルールとして選択されたＡＮＤルールの番号を表
す。つまり、式（４）の分母は未知の値の入力パラメー
タを全く含まないＡＮＤルールの出力値の総和を計算す
ることを表している。また、Ｗｆは前述したようにそれ
ぞれのＡＮＤルールの出力値に対する重みを表す。ここ
で、「Ｒ^H _r＝Ｒ^L _r」である。

【００４９】次に、「ｙ^H _q」を「ｗ^H _qave 」と置き、未
知の値の入力パラメータを含む各ＡＮＤルールの重み
「Ｗｆ_rmiss 」で「Ｗｆ_rmiss ≧ｗ^H _qave 」となってい
るものの中から一番大きな値を持つ重みＷｆ_pmiss を選
択し、式（５）の計算を行う（ステップＳ８）。ここ
で、添字ｍｉｓｓは未知の値の入力パラメータを含むＡ
ＮＤルールを表す。したがって、添字ｒｍｉｓｓは全て
のＡＮＤルールの中で未知の値の入力パラメータを含む
ＡＮＤルールとして選択されたＡＮＤルールの番号を表
す。また、添字ｑａｖｅは式（４）や式（５）によって
現時点で加算されて荷重平均された値であることを表
す。

【００５０】最小値「ｙ^L _q」を求めるときも同様にし
て、「ｙ^L _q」を「ｗ^L _qave 」と置き、未知の値の入力パ
ラメータを含む各ＡＮＤルールの重み「Ｗｆ_rmiss 」で
「Ｗｆr_miss ≦ｗ^L _qave 」となっているものの中から一
番小さな値を持つ重みＷｆ_pmis _s を選択し、式（５）の
計算を行う（ステップＳ９）。

【数５】

【００５１】そして、最大値「ｙ^H _q」の場合、「Ｗｆ
_rmiss ≧ｗ^H _qave 」となる重みＷｆ_rmiss がなくなるま
でステップＳ８〜Ｓ９の手順を繰り返す。最小値
「ｙ^L _q」の場合も、「Ｗｆ_rmiss ≦ｗ^L _qave 」となる重
みＷｆ_rmiss がなくなるまでステップＳ８〜Ｓ９の手順
を繰り返す。この処理によって最終的に出力値の最大値
および最小値は次のようになる。

【数６】

【００５２】なぜ、このような手順を取るのかという
と、最終的な出力値は荷重平均で求めるため、最大値ｙ
^H _qの場合は途中で得た出力値より少しでも大きな値を加
えて更に荷重平均を求めれば、出力値は更に大きな値と
なる。逆に最小値ｙ^L _qの場合は途中で得た出力値より少
しでも小さな値を加えて更に荷重平均を求めれば、出力
値は更に小さな値となる。そこで、このように計算する
と、与えられたＡＮＤルールの出力値から最大値と最小
値を求めることが可能であることから、このような手順
によって計算することにしている。

【００５３】式（６）における最大値ｗ^H _qave，最小値
ｗ^L _qaveはステップ８〜Ｓ９の手順を最後まで繰り返
し、終わった後の重みの平均値であり、重みＷｆ_p はそ
れぞれのＡＮＤルールの重要度を表す重みである。

【００５４】また、右辺では最終的に分子・分母の項が
１項づつ減った近似式で表しているが、これは未知の値
の入力パラメータのメンバーシップ値の最小値がほぼ０
であることと、そのために未知の値の入力パラメータを
含むＡＮＤルールの出力値の最小値の方は、ｍｉｎ関数
により、必ずほぼ０の値をとることからＲ^L _rmissが０と
なり、分母・分子の第３項目は無視できる範囲であると
考え、計算の簡単化のために省略しているわけである。

【００５５】次に、本発明によるファジィ・ニューラル
ネットワーク装置の学習方法について説明する。図６
は、学習時のブロック構成を示すもので、入力層１〜出
力層５がネットワーク部１０として表されている。そし
て、ネットワーク部１０の出力パターンと入出力パター
ン格納部１１に格納されている目標となる出力パターン
との誤差を検出する誤差検出部１２、この誤差検出部１
２で検出した誤差から入出力パターン格納部１１に格納
されたパターンを正しくシミュレートするために学習す
る学習部１３、誤差検出部１２で検出する誤差が一定値
以下になった場合に学習の終了を入出力パターン格納部
１１に伝える終了判定部１４から構成されている。

【００５６】図７に示すフローチャートを参照しながら
学習手順について説明する。まず、正しくシミュレート
させたい出力値Ｔｑ（以下、教師データ、という）と、
今まで述べた方法でネットワーク部１０の出力層５から
得た出力値ｙ^H _q，ｙ^L _qとの誤差を誤差検出部１２で求め
る（ステップＳ２１）。

【数７】

【００５７】式（７）が誤差Ｅを求める式である。誤差
が許容値内であれば調整の必要がないので処理を終了
し、誤差が許容値を超えている場合は許容値内にするた
めに重み調整を行う（ステップＳ２２）。しかし、重み
調整を行う場合、それぞれの重みを増やした方がよいの
か、それとも減らした方がよいのかは、このままではわ
からない。そこで、各重みについての誤差への影響を求
め、影響の小さくなる方向に重みを少しづつ調整してい
けばよい訳である。

【００５８】影響を求めるには、どちらの方向（増／
減）に重みが変わると誤差がどちらの方向（増／減）に
変化するかを求める必要がある。そのために式（７）を
各重みで偏微分する。すると、それぞれの重みの変化に
よる誤差関数Ｅの傾きが求められる。この傾きが０にな
るときの重みが誤差が少ないときの重みとなる。

【００５９】しかしながら、この傾きが０になるときの
重みの値は常に誤差を最小にする値であるとは限らな
い。なぜなら、傾きが０である関数の値はその関数の極
小値を表しているからである。しかし、重みの初期値は
対象とする入出力関係に関するファジィルールに基づい
て設定されるため、ファジィルールが間違っていなけれ
ば初めからそれほど間違っていない値を持っていると考
えられる。

【００６０】その場合には最小値と見ても差し支えない
のではないかと考えられる。また、間違ったファジィル
ールであったとしても、正しい入出力関係のデータを学
習することにより、そのデータに沿ったシミュレートが
できるよう重みの調整は行われるので、最小値にならな
いかもしれないが、極小値にはなるので、比較的誤差を
小さくすることが可能である。

【００６１】次いで、各重みを調整する学習方法につい
て説明する。

【数８】

【００６２】式（８ａ）および式（８ｂ）は各重みによ
る偏微分のために準備された式であり、誤差関数に対す
る出力の影響を求める式である。式（８ａ）に示すよう
に、出力の変数での偏微分は出力の最大値と最小値の各
々で誤差関数を偏微分することにより求められる。実際
に各々偏微分した式が式（８ｂ）である。さらに、これ
らを使ってそれぞれの重みについての偏微分を行う。ま
ず、ルールの重要度を表す重みＷｆについて偏微分を行
う（ステップＳ２３）。

【数９】

【００６３】式（９ａ）により、重みＷｆ_p の変化によ
る誤差関数の影響が求められる。実際に偏微分した式が
式（９ｂ）〜（９ｅ）である。ここで、式（９ｃ）では
式（９ｂ）と比べ、右辺の第２項がない式となってい
る。また、式（９ｄ）では式（９ｂ）と比べ、右辺の第
１項がない式となっている。これらは、先ほどの式
（６）において、最大値ｙ^H _qでは未知の値の入力パラメ
ータを含むＡＮＤルールの重みとしてｗ^H _qave 以上の重
みだけを使っており、ｗ^H _qave よりも小さな重みは近似
式には現れないためである。同様に、最小値ｙ^L _qでは未
知の値の入力パラメータを含むＡＮＤルールの重みとし
てｗ^L _qave 以下の重みだけを使っており、ｗ^L _qave より
も大きな重みは近似式には現れないためである。

【００６４】未知の値の入力パラメータを含まないＡＮ
Ｄルールの重みは出力値ｙ^H _q，ｙ^L _q共に使われているの
で、式（９ｂ）のように右辺に２項ある。また、未知の
値の入力パラメータを含むＡＮＤルールにおいて式（９
ｅ）に示すように、ｗ^L _qave ≦Ｗｆ_p ≦ｗ^H _qave となる重みも当然存在するが、それらの重みは式（６）
のどちらの近似式にも現れず、出力値になんら貢献をし
ていないので誤差値に影響していないということから０
となっている。

【００６５】次に、メンバーシップ関数のセンター値の
傾きを表す重みＷｇについて偏微分を行う（ステップＳ
２４）。

【数１０】

【００６６】式（10ａ）により、重みＷｇ_ijの変化によ
る誤差関数の影響が求められる。実際に偏微分した式が
式（10ｂ）〜（10ｃ）である。ここで、ｍは影響を求め
たいメンバーシップ関数において、出力値を求めるうえ
で用いられたＡＮＤルールの数を示している。

【００６７】また、式（10ｂ）の「（１−Ｍ^H _ik ）・Ｍ
^H _ik 」、「（１−Ｍ^L _ik ）・Ｍ^L _ik」は、シグモイド関
数を微分をした結果現れた項である。そして、式（１０
ｃ）が０になる理由は、いま述べたように、偏微分した
式に「（１−Ｍ^H _ik ）・Ｍ^H _ik 」、「（１−Ｍ^L _ik ）・
Ｍ^L _ik 」という項があり、かつ未知の値の入力パラメー
タの場合にはメンバーシップの出力値を「Ｍ^H _ik ≒
１」、「Ｍ^L _ik ≒０」としているので、「（１−Ｍ
^H _ik ）・Ｍ^H _ik 」、「（１−Ｍ^L _ik ）・Ｍ^L _ik 」の項が
０となり、結果として偏微分値が０となるからである。

【００６８】最後にメンバーシップ関数のセンター値を
表す重みＷｃについて偏微分を行う（ステップＳ２
５）。

【数１１】

【００６９】式（11ａ）により、重みＷｇ_ijの変化によ
る誤差関数の影響が求められる。実際に偏微分した式が
式（11ｂ）〜（11ｃ）である。式（11ｃ）が０になる理
由も式（10ｃ）が０になるのと同様の理由で、偏微分し
た式に「（１−Ｍ^H _ik ）・Ｍ^H _ik 」、「（１−Ｍ^L _ik ）
・Ｍ^L _ik 」という項があり、なおかつ未知の値の入力パ
ラメータの場合には、「Ｍ^H _ik ≒１」、「Ｍ^L _ik ≒０」
としているので、「（１−Ｍ^H _ik ）・Ｍ^H _ik 」、「（１
−Ｍ^L _ik ）・Ｍ^L _ik 」の項が０となり、結果として偏微
分値が０となるのである。

【００７０】以上により、誤差関数に対するそれぞれの
重みの影響が求められる。そこで、これらの影響を小さ
くする方向、つまりそれぞれの偏微分値に−１を掛けた
方向に重みを調整することによって誤差値を小さくする
ことができる。

【００７１】次に、それぞれの重みを微調整する微小変
化量を求める。

【数１２】

【００７２】ここで、α、β、γは学習パラメータと呼
ばれるもので、重みを調整する量をここで調節する。大
きな値にすると、誤差の少なくなる方向に大きく重みが
調整され、学習時間が早くなるのだが、調整がおおざっ
ぱになるため、最適値に落ちつくことができなくなった
しまう。逆に小さな値にすると、重みを細かく調整する
ことができるのだが、その代わり学習時間が遅くなり、
また、重みの初期値しだいでは、最小値まで行かずに、
どこかの極小値から抜け出せなくなる可能性も出てく
る。そのため、何回か学習パラメータを振って、一番誤
差が少なくなる学習パラメータを設定する必要がある。
または式（12ｄ）の例のように学習パラメータを時間関
数とする方法もある。

【００７３】このようにして得られた値を現在の重みに
加えることによって、重みの調整がなされたことにな
る。現在の学習回数をｌ（スモール・エル）としたとき
の重みを調整する式を示す。

【数１３】

【００７４】この式により、（ｌ＋１）回目の学習のと
きには、それぞれ新しく調整された重みによって今まで
述べてきた式（１）〜式（13ｃ）までの学習が行われ
る。そして、決められた学習回数だけ学習を行うか、ま
たは予め誤差値の許容値を定めておき、その値以下にな
ったら学習を終了する。以上の動作によって、与えられ
た入出力関係に未知の値が一部存在していたとしても、
正しいシミュレートすることができる。

【００７５】次に、本装置を用いて行った具体的な３つ
の実験例について説明する。まず、実験１について説明
する。この実験は未知の値が存在しないサンプルデータ
と、未知の値が一部存在するサンプルデータとをそれぞ
れ学習させ、出力結果の誤差を求めた実験である。

【００７６】サンプルデータは３入力１出力で、Ｓmall
＝０．０、Ｍiddle ＝０．５、Ｂig＝１．０とし、各入
力項目同士のそれぞれの組み合わせを作り、各入力値が
増加すると出力値も増加する単純増加関数のデータであ
る。図８（ａ）〜（ｃ）に３つの入力値ｘ１，ｘ２，ｘ
３のうちの２つの入力値と１つの出力値ｙ１との関係を
示す。図中、カッコ内の数字はサンプルデータのポイン
トを示すデータ番号（ｄata Ｎo.）であり、後述する図
９〜図１１のデータ番号と対応している。

【００７７】図９は、入力パラメータの入力値ｘ１，ｘ
２，ｘ３に未知の値が存在しないサンプルデータによる
出力値ｙ１を表として示したものである。なお、図中の
丸付き数字〜はこのうちの１つのデータを未知の値
とする９種類の歯抜けサンプルデータ１〜９を作成する
際の未知のデータの位置を示す。

【００７８】図１０は、データを未知に値（−１．０）
とする歯抜けサンプルデータ１による結果を表として示
したもので、ｙ１′はそのときの出力値、ｙ１−ｙ１′
は未知の値が存在しないサンプルデータ（図９）の出力
値ｙ１との誤差である。他の歯抜けサンプルデータ２〜
９に対しても同様の処理を行い、出力値ｙ１との誤差の
みを図１１に表として示す。

【００７９】この結果、未知の値が存在しないサンプル
データ（図９）と、未知の値が１つ存在するサンプルデ
ータ（図１０〜図１１）とでは、さほど出力値が変わっ
ていないことが分かる。一番大きな誤差でも歯抜けサン
プルデータ９のデータ番号３の誤差０．３５４であり、
これを除けば未知の値が存在するにも拘わらず１２％以
下の誤差に収まっている。このことから未知の値が存在
するサンプルデータであっても、未知の値が存在しない
サンプルデータとほぼ同様のシミュレートを行うことが
できる。

【００８０】次に、実験２について説明する。この実験
は複写機のトナー定着強度解析データに関するもので、
未知の値が存在しないトナー定着強度解析データと、未
知の値が一部存在するトナー定着強度解析データとをそ
れぞれネットワークに学習させ、学習後に学習に用いて
いない検証用のトナー定着強度解析データを入力し、ネ
ットワークの出力値を求めた後、検証用データの教師デ
ータと出力結果の誤差を求め、学習アルゴリズムの有効
性を検証するものである。

【００８１】トナー定着強度解析データは、図１２の表
に示すように、９入力１出力のデータである。第１入力
ｉ１はガラス転移点Ｔｇ〔℃〕で、この温度になると物
質が動き出す温度である。第２入力ｉ２はメルトインデ
ックスＭＩ〔ｇ／１0min〕で、トナーが１５０〔℃〕で
１０分間にどれだけ熔けるのか表したものである。

【００８２】第３入力ｉ３は低分子ピーク分子量Ｍｗ
Ｌ、第４入力ｉ４は高分子ピーク分子量ＭｗＨ、第５入
力ｉ５は高分子比Ｌ／Ｈ〔％〕で、トナーを作るために
ブレンドする高分子と低分子のそれぞれの存在比のピー
ク値を表すものと、そのブレンド比である。

【００８３】第６入力ｉ６は貯蔵弾性率Ｇ′〔dyn/cm∧
2〕、第７入力ｉ７は損失弾性率Ｇ″〔dyn/cm∧2〕、第
８入力ｉ８は粘度η〔poise〕で、紙に乗ったトナーが
定着ローラの圧力などによりつぶれた後にどのくらい戻
るかを表すのが貯蔵弾性率Ｇ′、ローラの圧力などによ
りつぶれたときのつぶれ具合を表すのが粘度η、１００
％戻れば完全な弾性体であるが、完全に戻らないときに
完全なものとの差を表すのが損失弾性率Ｇ″である。

【００８４】第９入力ｉ９であるアクリル比Ａｃ／Ｓｔ
〔％]は素材比であり、アクリル／スチレンアクリル比
のことである。スチレンアクリルに対しアクリルがどの
くらい含まれるかを表したものである。

【００８５】出力ｏ１は定着強度である。これはトナー
像を形成した紙が定着装置を通り、熱・圧力等で紙の表
面のトナーが熔融軟化し、トナー同士、トナーと紙とが
固着、定着した強さをいう。

【００８６】サンプルデータはこのような９入力１出力
のトナー定着強度解析データで、図１３に示す学習デー
タセット（ａ）は未知の値が存在しない８パターンから
なるデータセットであり、図１４に示す学習データセッ
ト（ｂ）は未知の値が３ケ所存在する８パターンからな
る学習データセットであり、図１５に示す検証データセ
ット（ｋ）は６パターンからなるデータセットである。

【００８７】図１６にデータセット（ａ）で学習したネ
ットワークの検証結果を、図１７にデータセット（ｂ）
で学習したネットワークの検証結果を示す。両データセ
ットの二乗誤差を比べてみると、データセット（ｂ）の
方が誤差が大きいが、検証用データの教師データとあま
りにかけ離れた出力はされていないことが分かる。これ
により、トナーのデータにおいても実験１の結果と同様
に、歯抜けのあるデータも、歯抜けのないデータの時と
ほぼ同様のシミュレートを行うことができるということ
が確かめられた。

【００８８】次に、実験３について説明する。この実験
は実験２の学習データセットに５パターンを追加し、全
部で１３パターンとなる４種類の学習データセットによ
って学習させ、実験２のときと同様に検証用データの教
師データと出力結果の誤差を求め、実験２の結果と比較
して、未知の値が存在するデータセットでも追加した方
が精度が向上するか、または同等の精度を維持できるか
を検証する。

【００８９】サンプルデータは実験２と同様に９入力１
出力のトナー定着強度解析データであり、図１８に示す
学習データセット（ｃ）は、未知の値が存在しない１３
パターンからなる学習データセットで、図１３のデータ
セットに５パターンを追加したものである。

【００９０】図１９に示す学習データセット（ｄ）は、
未知の値が３ケ所存在する１３パターンからなる学習デ
ータセットで、図１４のデータセットに未知の値が存在
しない５パターンを追加したものである。図２０に示す
データセット（ｅ）は、未知の値が５ケ所存在する１３
パターンからなる学習データセットで、図１３のデータ
セットに未知の値が５ケ所存在する５パターンのデータ
セットを追加したものである。

【００９１】図２１に示す学習データセット（ｆ）は、
未知の値が８ケ所存在する１３パターンからなる学習デ
ータセットで、図１４のデータセットに未知の値が５ケ
所存在する５パターンのデータセットを追加したもので
ある。

【００９２】図２２〜図２５に検証データセットの出力
結果を示す。図２２は学習データセット（ｃ）で学習し
たネットワークの検証結果であり、図２３は学習データ
セット（ｄ）で学習したネットワークの検証結果であ
り、図２４は学習データセット（ｅ）で学習したネット
ワークの検証結果であり、図２５は学習データセット
（ｆ）で学習したネットワークの検証結果である。

【００９３】データセット（ｃ）〜（ｆ）の二乗誤差を
見ると、未知の値が存在するものも存在しないものも、
それほど誤差が変わらない結果となっている。しかも、
実験２のときの二乗誤差と比較してみても、二乗誤差が
小さくなっていることが分かる。これによって学習する
データセットの数が増えれば、未知の値が存在するデー
タセットであっても精度を上げることができることがわ
かる。これらの実験結果からも、本発明が有効であるこ
とが分かる。

【００９４】次に、本発明によるファジィ・ニューラル
ネットワーク装置の応用例について説明する。まず、セ
ンサを用いた家電製品への応用例について説明する。例
えば、エアコンの場合、従来のエアコンでもファジィや
ニューロを用いたものがあるが、これらはセンサの出力
値をファジィ制御やニューロの入力値とし、制御量を出
力している。ところが、センサなどの故障により入力値
の一部が与えられないと正しい計算が行われず、誤った
制御量を出力してしまうことがあった。

【００９５】しかし、本発明によるファジィ・ニューラ
ルネットワーク装置を用いたエアコンであれば、それを
回避することができる。なぜなら、本発明では入力値の
一部が未知の値となっていても、例えば最大値と最小値
の平均値を制御量として計算して出力できるアルゴリズ
ムとなっているからである。

【００９６】本発明によるファジィ・ニューラルネット
ワーク装置を搭載するエアコンにおいて、ファジィ・ニ
ューラルネットワークに入力されるものとしては、温度
や湿度、室温の変化量等があげられるが、これらの入力
値のうち、センサにより出力値を得るものの中で、例え
ば湿度センサが故障して出力値が得られなくなった場
合、センサの故障を示す警告ランプが点灯し、サービス
マンに修理を依頼するようにエアコンの使用者に対して
促す。

【００９７】しかし、その警告ランプが点灯していたと
しても、本発明によるファジィ・ニューラルネットワー
ク装置を搭載するエアコンでは、すぐに動作が停止した
り、誤動作をするようなことはなく、他の入力パラメー
タから制御量を計算して出力したり、再学習することに
より、サービスマンが修理に来るまでの間でも不都合な
く動作できるので、故障によりその家電製品が使用でき
なくなる時間が短縮され、エアコンの使用者にそれほど
不満を与えることがない。

【００９８】他のセンサを用いた家電製品等でも同様の
応用が可能である。例えば、温度センサ、湿度センサ、
重量センサ等を備えた電子レンジや、重量センサ、光セ
ンサ、水温センサ等を備えた洗濯機など、複数のセンサ
を備えたファジィ・ニューラル制御の家電製品に応用可
能である。

【００９９】次に、医療診断への応用例について説明す
る。医者が患者の病状を診断する際には様々な検査を行
う。その医者の知見をファジィのルールとしてネットワ
ーク初期値に取り込み、その後の診断データを用いて本
発明のファジィ・ニューラルネットワーク装置に学習さ
せておく。そうすると、医者が患者の病状を診断する際
の様々な検査のうち、その病院に一部の検査装置がない
等、何らかの理由で検査の一部が出来なかったとして
も、残りの検査結果を本発明のファジィ・ニューラルネ
ットワーク装置に入力することによって患者の病状を診
断することができる。

【０１００】次に、各種解析装置への応用例について説
明する。様々な実験結果から解析を行うにあたり、通常
は全ての実験項目を実験して結果を得ないと解析が行え
なかったりするが、全ての実験項目を実験したものや、
一部の項目を実験していないものなども含めて実験結果
を用いて予め本発明のファジィ・ニューラルネットワー
ク装置に学習させておけば、これを用いることにより一
部の実験をしていなくても解析を行うことが可能とな
る。

【０１０１】

【発明の効果】本発明によるファジィ・ニューラルネッ
トワーク装置によれば、従来は入力パラメータの全てが
既知の値でないと出力値を求めることができなったが、
入力パラメータの一部が未知の値でも出力値を求めるこ
とが可能になった。

【０１０２】また、本発明によるファジィ・ニューラル
ネットワーク装置によれば、従来は入力パラメータを１
つの値として扱っていたため未知の値を扱うことができ
なかったが、入力パラメータを最大値と最小値の２つの
値に分割することにより、未知の値も既知の範囲を表す
２つの値に表現できるため、出力値を求めることが可能
になった。

【０１０３】また、本発明によるファジィ・ニューラル
ネットワーク装置によれば、従来はネットワークを構成
したら、そのネットワークの接続に対し全ての重みを用
いて演算していたが、未知の入力パラメータの値を取り
うる値の最大値と最小値として表現することによりネッ
トワークの入力層からメンバーシップ層までの演算を省
略し、ネットワークの構造から直接メンバーシップ層の
出力値を設定できるため演算量の削減を図ることが可能
になった。

【０１０４】また、本発明によるファジィ・ニューラル
ネットワーク装置によれば、従来はネットワークを構成
したらそのネットワークの接続に対して全ての重みを用
いて演算していたが、ネットワークのルール層から出力
層への演算においてルールの重みを選択的に使用し、関
係のない重みやルールの出力値は無視するためルール層
から出力層への演算の簡略化と演算量の削減を図ること
が可能になった。

【０１０５】本発明によるファジィ・ニューラルネット
ワーク装置の学習方法によれば、従来はネットワークの
学習においては各ユニットの接続されているところは全
て学習によって重みの修正を行っていたが、ネットワー
クの構造が意味のある構造であることから入力データの
状況によって重みを修正すべきでないところは重みを修
正しなかったり、修正量を通常よりも少なくすることに
より、学習時における演算の簡略化と演算量の削減を図
るこのができ学習時間の短縮にもつながることが可能に
なった。

【０１０６】また、本発明によるファジィ・ニューラル
ネットワーク装置の学習方法によれば、従来は未知の値
を含む学習データセットは使用できなかったが、未知の
値の存在する不完全なデータセットであっても学習デー
タセットに加えて学習させることが可能となり、しかも
不完全なデータセットを加えることにより不完全なデー
タセットを加える前の学習データセットの学習によるシ
ミュレーションよりも精度の高いシミュレーションを行
うことが可能になった。

【図面の簡単な説明】

【図１】本発明によるファジィ・ニューラルネットワー
ク装置の一実施例を示す構成図である。

【図２】メンバーシップ関数（Ｂig、Ｍiddle 、Ｓmal
l）を示す図である。

【図３】シグモイド関数によるメンバーシップ関数の形
成方法を示す図である。

【図４】メンバーシップ関数（Ｍiddle ）の構成方法を
示す図である。

【図５】入力層に入力パラメータが入力されたとき各層
から出力される出力値を求める手順を説明するフローチ
ャートである。

【図６】本発明によるファジィ・ニューラルネットワー
ク装置の学習時のブロック図である。

【図７】学習時に各層の重みを修正する手順を示すフロ
ーチャートである。

【図８】（ａ）〜（ｃ）は３つの入力値のうち２つの入
力値と１つの出力値との関係を示す図である。

【図９】入力値に未知の値が存在しないサンプルデータ
による出力値を表として示す図である。

【図１０】入力値に未知の値が存在する歯抜けサンプル
データ１による出力値と誤差とを表として示す図であ
る。

【図１１】入力値に未知の値が存在する歯抜けサンプル
データ２〜９による誤差を表として示す図である。

【図１２】トナー定着強度解析データの内容を説明する
ための図である。

【図１３】未知の値が存在しないトナー定着強度解析デ
ータの学習データセット（ａ）を示す図である。

【図１４】未知の値が存在するトナー定着強度解析デー
タの学習データセット（ｂ）を示す図である。

【図１５】トナー定着強度解析データの検証データセッ
トを示す図である。

【図１６】学習データセット（ａ）で学習した検証結果
を示す図である。

【図１７】学習データセット（ｂ）で学習した検証結果
を示す図である。

【図１８】未知の値が存在しないトナー定着強度解析デ
ータの学習データセット（ｃ）を示す図である。

【図１９】未知の値が存在するトナー定着強度解析デー
タの学習データセット（ｄ）を示す図である。

【図２０】未知の値が存在するトナー定着強度解析デー
タの学習データセット（ｅ）を示す図である。

【図２１】未知の値が存在するトナー定着強度解析デー
タの学習データセット（ｆ）を示す図である。

【図２２】学習データセット（ｃ）で学習した検証結果
を示す図である。

【図２３】学習データセット（ｄ）で学習した検証結果
を示す図である。

【図２４】学習データセット（ｅ）で学習した検証結果
を示す図である。

【図２５】学習データセット（ｆ)で学習した検証結果
を示す図である。

【図２６】従来のニューラルネットワークの一例を示す
構成図である。

【図２７】（ａ）〜（ｃ）は、ファジィ理論の概略図で
ある。

【図２８】従来のニューロ・ファジィ融合システムの構
成図である。

【符号の説明】１入力層２メンバーシップ層前半部３メンバーシップ層後半部４ルール層５出力層６メンバーシップ値設定手段１１〜１４入力層のユニット２１〜２８メンバーシップ層前半部のユニット３１〜３６メンバーシップ層後半部のユニット４１〜４９ルール層のユニット５１出力層のユニットＷｃ１〜Ｗｃ８入力層とメンバーシップ層前半部との
結合の重みＷｇ１〜Ｗｇ８メンバーシップ層前半部と後半部との
結合の重みＷｆ１〜Ｗｆ８ルールの重要度を表す重み

フロントページの続き (56)参考文献１．情報処理学会研究報告ＶＯＬ. 92，ＮＯ．25（ＩＳ−38）ｐ１−９ 1992 ２．シャープ技報ＮＯ．51 ｐ25− 30 1991 (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06N 3/00 540 G06G 7/12 G06G 7/60 ＩＮＳＰＥＣ（ＤＩＡＬＯＧ) ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims

(57)【特許請求の範囲】

【請求項１】入力パラメータの値を出力する入力層
と、前記入力パラメータの取りうる値の範囲を複数の領域に
分割し各領域毎にメンバーシップ関数を定義し前記入力
層からの出力値に従い前記各領域毎のメンバーシップ値
を各入力パラメータ毎に出力するメンバーシップ層と、異なる入力パラメータ間のある領域同士による所定のル
ールを構築し該ルールに対する適合度を出力するルール
層と、前記ルール層からの出力値に従い出力パラメータの値を
出力する出力層と、前記入力パラメータのいずれかにデータが示されなかっ
た場合に、該入力パラメータにデータが示されなかった
場合に対応する前記メンバーシップ値を所定の値に設定
するメンバーシップ値設定手段と、を設けてなることを特徴とするファジィ・ニューラルネ
ットワーク装置。
【請求項２】前記入力層に入力される前記入力パラメ
ータにデータが示されなかった場合は、前記メンバーシ
ップ層の出力値を範囲としてとらえ、該範囲の最大値と
最小値で表し、その範囲の最大値を前記各入力パラメー
タの前記各メンバーシップ関数の最大値とし、その範囲
の最小値を前記各入力パラメータの前記各メンバーシッ
プ関数の最小値とするように構成されていることを特徴
とする請求項１記載のファジィ・ニューラルネットワー
ク装置。
【請求項３】前記入力パラメータのいずれかにデータ
が示されなかった場合の前記最大値が１．０、前記最小
値が０．０となるように構成されていることを特徴とす
る請求項２記載のファジィ・ニューラルネットワーク装
置。
【請求項４】前記出力層から出力される出力値の最大
値および最小値は、データが示された入力パラメータ同
士の前記ルール層の出力値と前記ルール層および前記出
力層間の結合の重みとの加重平均を求め、入力部にデー
タが示されなかった入力パラメータを含む前記ルール層
および前記出力層間の結合の重みを前記加重平均に加え
て再度加重平均を求めることによって得ることを特徴と
する請求項２記載のファジィ・ニューラルネットワーク
装置。
【請求項５】前記出力層から出力される出力値の最大
値および最小値は、データが示された入力パラメータ同
士に関わるルールで構成された前記ルール層の出力値に
従い前記ルール層および前記出力層間の結合の重みの加
重平均を求め、データが示されなかった入力パラメータ
からのルールを含む前記所定のルールの重みの中で現在
の重みの加重平均より大きくまたは小さくなるものの中
から一番大きくまたは小さくなるものを加えて加重平均
を更新し、これ以上加えても加重平均が大きくまたは小
さくならなくなるまで加重平均を随時更新し、これ以上
加えても加重平均が大きくまたは小さくならなくなった
時点でそのときの加重平均値を出力層の最大値または最
小値とすることを特徴とする請求項４記載のファジィ・
ニューラルネットワーク装置。
【請求項６】入力パラメータの値を出力する入力層
と、前記入力パラメータの取りうる値の範囲を複数の領域に
分割し各領域毎にメンバーシップ関数を定義し前記入力
層からの出力値に従い前記各領域毎のメンバーシップ値
を各入力パラメータ毎に出力するメンバーシップ層と、異なる入力パラメータ間のある領域同士による所定のル
ールを構築し該ルールに対する適合度を出力するルール
層と、前記ルール層からの出力値に従い出力パラメータの値を
出力する出力層と、前記入力パラメータのいずれかにデータが示されなかっ
た場合に該示されなかった入力パラメータに対応する前
記メンバーシップ値を所定の値に設定するメンバーシッ
プ値設定手段と、を設けてなるファジィ・ニューラルネットワーク装置に
おいて、学習時に修正しようとする重みに関わる前記入力パラメ
ータがデータが示されたものであるかデータが示されな
かったものであるかに応じて各重みを修正するときの学
習方法として異なる学習方法を選択的に用いることを特
徴とするファジィ・ニューラルネットワーク装置の学習
方法。
【請求項７】前記ルール層から前記出力層への重みを
修正する際に、前記データが示された入力パラメータ同
士からのルールで構成された前記所定のルールの重みの
修正は前記ルール層の出力値の最大値と最小値の両方を
用いて修正し、またデータが示されなかった入力パラメ
ータからのルールを含む前記所定のルールの重みの修正
は前記ルール層の出力値の最大値または最小値のいずれ
かのみを用いて修正することを特徴とする請求項６記載
のファジィ・ニューラルネットワーク装置の学習方法。
【請求項８】前記各入力パラメータのメンバーシップ
関数を構成するための前記入力層から前記メンバーシッ
プ層への重みを修正する際に、データが示された入力パ
ラメータのメンバーシップ関数を構成する重みのみを修
正することを特徴とする請求項６記載のファジィ・ニュ
ーラルネットワーク装置の学習方法。