JPH0844569A

JPH0844569A - ファジィ・ニューラルネットワーク・システム

Info

Publication number: JPH0844569A
Application number: JP6175805A
Authority: JP
Inventors: Takeshi Inoue; 剛井上; Teruhiko Matsuoka; 輝彦松岡; Takashi Aramaki; 隆志荒巻
Original assignee: Sharp Corp
Current assignee: Sharp Corp
Priority date: 1994-07-27
Filing date: 1994-07-27
Publication date: 1996-02-16
Anticipated expiration: 2017-01-21
Also published as: US5761384A; JP3247803B2

Abstract

(57)【要約】【目的】ニューラルネットワークにファジィ構造を取
り入れたファジィ・ニューラルネットワーク・システム
に関し、曖昧すぎる知識や、それから得られたファジィ
ルールにないサンプルデータを含んでいても正しく学習
ができるようなシステムを提供することにある。【構成】入力層と、メンバーシップ層前半部と、メン
バーシップ層後半部と、ルール層と、出力層とを備え、
入出力の項目数からネットワークを構築し、入力層およ
びメンバーシップ層は各入力値をそれぞれファジィ集合
の３領域に分割するように構成し、ルール層は３領域に
分割したものからそれぞれ１つづつを選びそれを２つの
入力項目のＡＮＤルールとするように構成する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ニューラルネットワー
クにファジィ構造を取り入れたファジィ・ニューラルネ
ットワーク・システムに関する。

【０００２】

【従来の技術】従来のニューラルネットワークのシステ
ムは、例えば、図１０に示すように、入力層Ｉ、中間層
Ｈ、出力層Ｏの３層からなる階層型ニューラルネットワ
ークを用いて、対象とする物の入力パターンＰＸと、そ
れに対応する出力パターンＰＹとで表されるサンプルデ
ータの入出力関係を正しくシミュレートできるように、
入力層Ｉおよび中間層Ｈ間の結合の重みＷと、中間層Ｈ
および出力層Ｏ間の結合の重みＶとを調整することを行
なっている。このような処理を行なうものとして代表的
なものにバックプロパゲーション法と呼ばれる処理方式
がある。

【０００３】一方、ファジィ理論は、図１１に示すよう
に、例えば「温度が２７℃」であるという入力があった
とき、「温度が高い」、「温度が低い」といった人間の
曖昧な表現を数学的に表現する際に（図ａ）、従来の集
合では、ある閾値以上で温度が高く、別の閾値以下で温
度が低いというように「０」と「１」の２値でしか表現
できなかった（図ｂ）。しかし、メンバーシップ関数を
導入したファジィ集合論を数学的基礎として「０」から
「１」までの実数で「温度が高い」度合い（例えば、
０．７８）および「温度が低い」度合い（例えば、０．
２７）を表現することで曖昧さを数値化するようにして
いる（図ｃ）。

【０００４】この理論を用いてファジィ制御というもの
が行われている。これは、例えばエキスパートの知識を
ファジィルールとして表し、様々な入力パターンからフ
ァジィ理論に基づいた計算により得られた出力値によっ
て制御を行うものである。

【０００５】また、最近ではこれらを融合させたニュー
ロ・ファジィ融合システムが提案されている（例えば、
特開平５−２２４９３９号など）。これはエキスパート
の勘や経験から得られた知識をメンバーシップ関数とフ
ァジィルールの形式で抽出してファジィモデルを作成
し、ネットワークを構成するユニット間の結合やその結
合の重みをそのモデルに従って設定してニューラルネッ
トワークを構成するもので、例えば、図１２に示すよう
な構成になっている。

【０００６】ここでは、それぞれの入力に対してファジ
ィルールで使用するファジィ集合をネットワーク上に実
現している。この例では、前件部命題で入力値ｘ１をＢ
ig，Ｍiddle ，Ｓmallの３つのファジィ集合で表し、入
力値ｘ２をＢig，Ｓmallの２つのファジィ集合で表して
いる。また、ルール部ではファジィルール数のユニット
を使用し、ファジィルールの前件部命題の出力をファジ
ィルールに沿って結合させている。この例ではルール１
として「ｘ１がＢigでｘ２がＢigである」など、全部で
５つのルールを構成している。また、後件部命題に従い
ルールの出力値から後件部メンバーシップ関数を用いて
出力値を計算している。

【０００７】

【発明が解決しようとする課題】従来のニューロ・ファ
ジィ融合システムでは、エキスパートの勘や経験から得
られた知識によってネットワークを構成するため、それ
が曖昧すぎる場合や間違っていた場合には、ネットワー
クが実際に欲している構造と違った構造になってしま
い、ニューラルネットワークの学習に時間がかかるだけ
でなく、うまく学習できなくなってしまうという不都合
がある。

【０００８】また、学習させるサンプルデータが少ない
か、または局所的であり、そのサンプルデータが、構成
されたファジィルールにないようなデータの場合には学
習がうまくできないといった不都合がある。

【０００９】本発明の目的は、このような曖昧すぎる知
識や、それから得られたファジィルールにないサンプル
データを含んでいても正しく学習ができるようなファジ
ィ・ニューラルネットワーク・システムを提供し、ま
た、そのネットワークの構造から曖昧な入出力関係を明
確にすることにある。

【００１０】

【課題を解決するための手段】本発明によるファジィ・
ニューラルネットワーク・システムは、入力層と、メン
バーシップ層前半部と、メンバーシップ層後半部と、ル
ール層と、出力層とを備え、入出力の項目数からネット
ワークを構築する。

【００１１】この場合、入力層およびメンバーシップ層
は、各入力値をそれぞれファジィ集合の３領域に分割す
るように構成し、ルール層は、３領域に分割したものか
らそれぞれ１つづつを選び、それを２つの入力項目のＡ
ＮＤルールとするように構成する。

【００１２】また、この場合、各層間の結合には全て重
みがあり、ネットワークの学習によって調整される重み
として、入力層とメンバーシップ層前半部との間の結合
の重み、メンバーシップ層前半部とメンバーシップ層後
半部との間の結合の重み、ルール層と出力層との間の結
合の重みがあり、他の結合の重みは全て固定値となるよ
うに構成する。

【００１３】さらに、この場合、入力層とメンバーシッ
プ層前半部との間の結合の重みはメンバーシップ関数の
センター値であり、メンバーシップ層前半部とメンバー
シップ層後半部との間の結合の重みはメンバーシップ関
数の傾きであり、ルール層と出力層との間の結合の重み
は各ルールの重要度である。

【００１４】

【作用】本発明は、対象物の入出力関係をファジィ集合
を持つ前件部命題と後件部命題とを有するファジィルー
ルと、これを定量化するために定義したメンバーシップ
関数との形で抽出してファジィモデルを作成すると共
に、ファジィモデルとは別に入出力の項目数だけからネ
ットワークを構成し、結合の重みをファジィモデルを基
に与えることによって構築されるファジィ・ニューラル
ネットワークを備えている。

【００１５】したがって、本発明の構成によれば入出力
の項目数だけからネットワークを構成することが可能で
ある。そして、ネットワークを構成する際、各入力値を
Ｂig，Ｍiddle ，Ｓmallの３領域に分割するように構成
しているので、各入力値は必ず３つの領域のうち少なく
とも１つの領域には属することになる。これにより、エ
キスパートの知識から得たファジィルールにないような
サンプルデータが入ってきたときにも、ネットワーク上
のどこかのＡＮＤルールに必ず当てはまることになるの
で、ネットワークの学習により、そのサンプルデータに
対するルールの重要度がルール層から出力層への重みと
して表されるため、そのサンプルデータによって間違っ
た方向に学習を行い、誤差が大きくなるということを回
避できるだけでなく、サンプルデータからのファジィル
ールを得ることができる。

【００１６】また、ネットワークの学習により、各入力
項目の寄与率がメンバーシップ関数の傾きを表す重みと
して表されるため、その重みから、どの入力項目の値を
振ると出力値が変化しやすいかがわかる。さらに、ネッ
トワークの学習により、各入力項目の正しい領域がメン
バーシップ関数のセンター値を表す重みとして表される
ため、その重みから、各入力項目の値を振るときにどの
範囲を振ると出力値が変化しやすいかがわかる。

【００１７】また、複数の入力項目において、全入力項
目から２つを選び、それぞれの入力値から３つの領域分
割されたものより１領域づつを選んで、それらの論理積
を求めることによって２つの入力項目のＡＮＤルールを
構成するので、曖昧すぎるルールや間違ったルールが与
えられていたとしても、どこかのＡＮＤルールのユニッ
トが必ず適合する。

【００１８】また、ネットワークの学習によって重みを
調整する際、メンバーシップ関数を実現している重みは
ＡＮＤルールの計算によって選択された方の重みのみを
修正するようにし、さらにＭiddle を構成するメンバー
シップ関数の重みはＭiddleのメンバーシップの出力に
関与したほうの重みのみを修正するような構成になって
いるため、学習すべき重みが選択されるので、計算量が
減る。

【００１９】

【実施例】図１は、本発明によるファジィ・ニューラル
ネットワーク・システムの一実施例を示す構成図であ
る。このシステムは２つの入力項目から１つの出力項目
が得られる対象物に関して構築される２入力１出力のフ
ァジィ・ニューラルネットワークで、入力層１、メンバ
ーシップ層前半部２、メンバーシップ層後半部３、ルー
ル層４および出力層５の５つの層からなり、２層目と３
層目とを合わせてメンバーシップ層を構築している。

【００２０】各層のユニットとユニット間の結合は次の
ようにして構成する。まず、入力層１は入力項目ごとに
２つのユニット１１，１２およびユニット１３，１４で
構成し、ユニット１１，１３にそれぞれ定数１を入力
し、ユニット１２に入力値ｘ１を入力し、ユニット１４
に入力値ｘ２を入力する。

【００２１】次に、メンバーシップ層２，３であるが、
これは各入力項目ごとに、図２に示すように、Ｂig，Ｍ
iddle ，Ｓmallのメンバーシップ関数を構成するよう
に、まず、前半部２で各４つのユニット２１〜２４、２
５〜２８を構成し、ユニット２１〜２４で定数１と入力
値ｘ１を結合させ、ユニット２５〜２８で定数１と入力
値ｘ２を結合させる。

【００２２】後半部３で各３つのユニット３１〜３３、
３４〜３６を構成し、前半部２の１つまたは２つのユニ
ットを結合させる。１つのユニットを結合させる部分は
ユニット３１，３４でＢigを構成する部分となり、ユニ
ット３３，３６でＳmallを構成する部分となる。２つの
ユニットを結合させる部分はユニット３２，３５でＭid
dle を構成する部分となる。これは、１入力項目ごとに
必ず構成されるユニットで、入力項目毎のユニット数は
固定である（前半部４つ、後半部３つ）。

【００２３】次に、ルール層４であるが、入力値ｘ１側
のユニット３１に対して入力値ｘ２側のユニット３４〜
３６のそれぞれと論理積を取るようにユニット４１〜４
３を構成する。同様にして入力値ｘ１側のユニット３２
に対して入力値ｘ２側のユニット３４〜３６のそれぞれ
と論理積を取るようにユニット４４〜４６を構成し、入
力値ｘ１側のユニット３３に対して入力値ｘ２側のユニ
ット３４〜３６のそれぞれと論理積を取るようにユニッ
ト４７〜４９を構成する。もし、入力値ｘ３があれば、
それらのＢig，Ｍiddle ，Ｓmallとも論理積を取るよう
に構成する。

【００２４】最後に出力層５では、出力項目数に応じて
ユニット数を決定し、各ユニット毎にルール層４からの
出力をユニット５１で全て結合し、出力値ｙとして出力
するように構成する。

【００２５】このようにして構成されたネットワークの
ユニット間の結合部分には全てその結合ごとに重みがあ
る。まず、入力層１とメンバーシップ層前半部２との結
合部分では、図３に示すメンバーシップ関数のセンター
値（メンバーシップ関数の出力値が０．５となるときの
入力値）が重みＷｃ１〜Ｗｃ８となっている。

【００２６】すなわち、メンバーシップ関数は前述した
ように３種類あるが、それぞれのメンバーシップ関数の
センター値は各重みと一致している。例えば、入力値ｘ
１のＢigを表すメンバーシップ関数のセンター値の重み
はＷｃ１であり、Ｍiddle を表すメンバーシップ関数の
センター値の重みはＷｃ２とＷｃ３であり、Ｓmallを表
すメンバーシップ関数のセンター値の重みはＷｃ４であ
る。Ｍiddle は、図４に示すように、，２つのメンバー
シップ関数の論理積の形になっているので２つのセンタ
ー値を持つ。

【００２７】次に、メンバーシップ層の前半部２と後半
部３との結合部分では、図３に示すメンバーシップ関数
の傾きが重みＷｇ１〜Ｗｇ８となっている。これも、セ
ンター値と同様それぞれのメンバーシップ関数の傾きが
各重みと一致している。例えば、入力値ｘ１のＢigを表
すメンバーシップ関数の傾きの重みはＷｇ１であり、Ｍ
iddle を表すメンバーシップ関数の傾きの重みはＷｇ２
およびＷｇ３であり、Ｓmallを表すメンバーシップ関数
の傾きの重みはＷｇ４である。この場合もＭiddle は２
つのメンバーシップ関数の論理積の形になっているので
２つの傾きを持つことになる。

【００２８】最後に、ルール層４と出力層５との結合部
分では、エキスパートから得た知識が重みＷｆ１〜Ｗｆ
９となっている。

【００２９】次に、図５を参照しながら具体例を挙げて
説明する。まず、予めエキスパートから得た知識をルー
ルＬ１として作成しておく。この例では、「X1 is Big
thenY is Big.」、「X2 is Small then Y is Smal
l.」、「X1 is Big and X2 is Big then Y is Big.」の
３つである。次に、ネットワークのルール層４において
ＡＮＤルールＡ１〜Ａ３を構成する。そして、エキスパ
ートのルールＬ１とルール層４のＡＮＤルールＡ１〜Ａ
３の各ユニットの結合を比較し、重みの初期値を決定す
る。

【００３０】ルールの初期値は最初は全て基準値として
ある値に設定しておく。ここでは例として０．１に設定
しておく。そして、エキスパートのルールＬ１の出力値
が増加するルールにあてはまる部分のＡＮＤルールから
出力への結合の重みにはネットワークの入力項目数を掛
ける。逆にエキスパートのルールＬ１の出力値が減少す
るルールにあてはまる部分のＡＮＤルールから出力への
結合の重みにはネットワークの入力項目数の逆数を掛け
る。

【００３１】例えば、ＡＮＤルールＡ１において、入力
値ｘ１がＢigであるというのは、エキスパートの知識か
ら得たルールにあり、そのときの出力はＢigなので、最
初の重みの初期値０．１に入力項目数２を掛ける。さら
に、入力値ｘ２がＳmallであるというのも、エキスパー
トの知識から得たルールであり、そのときの出力はＳma
llなので、さらに重みの初期値「０．１×２」に入力項
目数２の逆数０．５を掛ける。これにより、ＡＮＤルー
ルＡ１の重みの初期値が決定される。同様にしてＡＮＤ
ルールＡ２の重みは「０．１×２×２．０」のように決
定され、ＡＮＤルールＡ３の重みは「０．１×０．５」
のように決定される。これが学習前の重みの初期値であ
る。今述べた部分以外の結合の重みは１で固定である。

【００３２】次に、各層の出力値を求める方法を数式を
用いて説明する。入力層１の出力値は入力値と同じであ
るので省略する。メンバーシップ層２，３は式１に示す
ように２層目でメンバーシップ関数のセンター値Ｗｃ１
〜Ｗｃ８（メンバーシップ関数の出力値が０．５となる
ときの入力値）を与える。

【００３３】Ｈ_4(i-1)+j＝ｘ_i＋ｗｃ_ij （ただし、ｗｃ_ij＜０）（１）ここで、ｘは入力層の出力値、ｗｃはメンバーシップ関
数のセンター値、Ｈは２層目の出力値である。また、ｉ
は各入力項目の数であり、ｊはＢigのとき１、Ｍiddle
のとき２または３、Ｓmallのとき４となっている。この
式が表しているのは、後に代入する式２に示すようなシ
グモイド関数の原点の位置をメンバーシップ関数のセン
ター値の位置に合わせていることである。

【００３４】次に、式３に示すように３層目でメンバー
シップ関数の傾きを掛けてシグモイド関数に代入するこ
とにより、その入力値の各領域でのメンバーシップの出
力値を得ることになる。なお、Ｍiddle の場合は式３の
代わりに式３ａを用いる。

【００３５】

【数１】

【００３６】ここで、ｗgはメンバーシップ関数の傾き
の値、ｆ(x)はシグモイド関数、Ｍはメンバーシップ関
数の出力値、min｛ｆ(x1),ｆ(x2)｝はｆ(x1)とｆ(x2)の
論理積である。また、ｋはメンバーシップ層前半部２の
ユニットの番号であり、θはＢigのとき１、Ｍiddle の
とき２、Ｓmallのとき３となっている。また、式３ａで
は論理積を計算することにより、min の括弧の中の２つ
の関数の値のうち、小さい方の値を選択することにな
る。

【００３７】続いて、式４に示すように、ルール層４に
おいてＡＮＤルールの計算を行う。これは先に述べたよ
うに、全ての入力項目のうちから２つの項目を選び、そ
の選ばれた２つの入力項目の中で、それぞれ３つの領域
（Big、Middle、Small）から１つづつを選び、その２つ
のメンバーシップ出力値の論理積を計算することにな
る。

【００３８】Ｒ_3(l-1)+m＝min｛Ｍ_l，Ｍ_m｝（ただし、ｌ＜ｍ）（４）ここで、ＲはＡＮＤルールの出力値であり、ｌとｍはメ
ンバーシップ層後半部３のユニットの番号である。ま
た、ここでも論理積の計算により、min の括弧の中の２
つの関数の値のうち、小さい方の値を選択することにな
る。最後に、式５に示すように出力層５において出力値
を計算する。これは、ファジィルールの前件部命題
（例：ｘ１がＢｉｇである）によって得られた各ＡＮＤ
ルールの出力値とそのルールからの結合の重みの値Ｗf
を掛け合わせ、それをルールの出力全体の合計値で割っ
たものの総和を取ることで計算される。

【００３９】

【数２】ここで、ｎはルール層のユニット番号である。

【００４０】ここまでが、構成されたネットワークに入
力値を代入してから出力値を得るまでの計算の過程であ
る。初めにこのネットワークを構成したときには、初期
の重みの値は各層ごとに決まった値を持っており、入力
値を代入したとしても、出力値はでたらめな値であり、
対象物の入出力関係を正しくシミュレートできていな
い。そこで、正しくシミュレートするために重みの調整
を行う。これがネットワークの学習である。

【００４１】次に、学習によりどのように修正して対象
物の入出力関係を正しくシミュレートできるようにする
かということについて述べる。まず、対象物の入出力関
係を表したサンプルデータの出力値を教師データＴと置
く。そして、式６に示すようにこの教師データと、サン
プルデータの入力値（ｘ１、ｘ２、…ｘｎ）から式１〜
５によって得られた出力値ｙとの２乗誤差を求める。

【００４２】

【数３】ここでＥは教師データと出力値との２乗誤差を表す。こ
の誤差を少なくすることによって対象物の入出力関係が
正しくシミュレートできているみなすことができる。簡
単のため式６は出力値が１つの場合の式を示している
が、多出力（ｑ出力）の場合にも、式６ａと式６ｂとに
よって２乗誤差を求め、１出力のときと同様の学習を行
えばよい。

【００４３】この誤差を減らす方法として、ニューラル
ネットワークでよく用いられるバックプロパゲーション
法を基にした学習アルゴリズムを用いる。以下、学習ア
ルゴリズムについて式を用いて説明する。

【００４４】まず、式７に示すように、式６をｙにおい
て偏微分する。これが、誤差に対する出力値の影響であ
る。

【数４】続いて、式８に示すように、式６をＷｆにおいて偏微分
する。このとき、式６のｙに式５を代入する。

【００４５】

【数５】さらに、式９、式１０に示すように式６をＷｇ、Ｗｃに
おいて偏微分する。このとき、式６に式５、式４、およ
び式３または式３ａ、式１を代入する。

【００４６】

【数６】

【００４７】この式８から式１０が誤差に対するそれぞ
れの重みの影響である。ここで、式９および式１０にお
けるｒは修正すべきメンバーシップ関数を実現している
重みからＡＮＤルールの出力として選択された数だけ、
ルール層のユニットからの誤差の総和を取っている。

【００４８】これらの影響が少なくなる方向に重みを修
正してやることによって、全体的に誤差を減らしてい
く。修正する量はそれぞれ次のようになる。

【数７】ここで、αは学習パラメータと呼ばれるものであり、影
響を小さくする重みの修正量をどのくらいにするかを決
定するパラメータである。これを用いて式１４から式１
６に表されるように修正を行う。

【００４９】ｗ_fp＝ｗ_fp＋Δｗ_fp (14) ｗ_gkθ＝ｗ_gkθ＋Δｗ_gkθ (15) ｗ_Cij＝ｗ_Cij＋Δｗ_Cij (16)

【００５０】以上のようなアルゴリズムに従い、繰り返
し学習を行い、重みを修正していくことにより誤差はあ
る程度まで小さくなる。そして、誤差の値が誤差の許容
値以下になった時点で学習を終了とする。この誤差の許
容値はあらかじめ決められている値で、対象物によって
誤差の許容値が違うことが予想されるため、その対象物
にあった誤差の許容値を決定する必要がある。

【００５１】次に、このような学習によって調整された
重みがそれぞれ何を表しているかということについて述
べる。まず、ｗｆであるが、先ほどの式８を見てみる
と、各ｗｆの修正はＲｐの値のみが違い、後の値はどの
ｗｆの修正でも同じ値を用いていることがわかる。つま
り、ｗｆの修正はＲｐの値にのみ影響されることにな
る。このＲｐの値は各ルールの適合度を表しており、こ
の値が大きいと入力パラメータがそのルールにそれだけ
適合していることになる。

【００５２】図６から、このとき教師データＴが大きな
値であったときには、教師データＴと出力値ｙとの誤差
を減らす方向に大きく修正するので出力値ｙが大きな値
となるような方向に重みｗｆを修正する（図中＊１）。
同様に教師データＴが小さな値であったときには、教師
データＴと出力値ｙとの誤差を減らす方向に大きく修正
するので出力値が小さな値となるような方向に重みｗｆ
を修正する（図中＊２）。逆にＲｐの値が小さいときに
は入力パラメータがそのルールに合わないことを表し、
それぞれ小さく修正するので、入力パラメータがそのル
ールに合わない重みｗｆはそれほど修正しないようにな
る（図中＊３）。

【００５３】これにより、出力が大きくなるルール程大
きな重みになり、逆に出力が小さくなるルール程小さな
重みになる。また、重みがゼロになれば、そのルールは
出力に関係しないルールとなる。つまり、このルールの
重みｗｆを見ることによって出力が大きくなるルールや
出力が小さくなるルール、または出力に関係しないルー
ルなどを判断することができる。

【００５４】次に、Ｗｇであるが、先ほどの式９の中
で、式１７に示す部分は、そのメンバーシップの出力値
を含むＡＮＤルールからの誤差の伝搬の総和を計算して
いる式である。

【００５５】

【数８】この式で各ルール毎に値が違うのはＷｆｐだけである。
すなわち、重みの大きいルールが多いほどメンバーシッ
プ関数の傾きは大きく修正されることになる。また、式
９からシグモイド関数のｘ軸にあたる値Ｈの絶対値が大
きいほどメンバーシップ関数の傾きは大きく修正される
ことになる。重みの大きいルールが多いほど傾きを修正
して出力に合うようにすべきであるし、Ｈの絶対値が大
きなものほど傾きを大きく修正しないと修正の意味がな
いことからも、この式９による修正が妥当であるといえ
る。この関係を図７に示す。

【００５６】これにより、傾きが急になるということは
出力が大きくなるルールに関係する入力値の微小変化に
対し、出力値が大きく変化することを表すことになる。
この関係を図８に示す。つまり、このメンバーシップ関
数の傾きを表す重みＷｇを見ることによって出力値に敏
感に反応する入力値はどれか、つまり出力に対して寄与
率が大きい入力はどれかを知ることができる。

【００５７】最後にＷｃであるが、先ほどの式１０の右
辺と式９の右辺との違いはＨとＷｇだけである。式１０
の右辺のＷｇは、そのメンバーシップ関数の傾きであ
り、傾きが急なものほどメンバーシップ関数のセンター
値を大きく修正することになる。傾きが急なメンバーシ
ップ関数ほどセンター値を大きく動かさないと修正して
も出力値の変化が見られないということになる。この関
係を図９に示す。出力の変化がみられないということ
は、修正前と誤差が変わらないということになり、修正
の意味がなくなってしまう。このことからも、式１０に
よる修正が妥当であるといえる。

【００５８】このメンバーシップ関数のセンター値を表
す重みＷｃもＷｇと同様に定着率に敏感に反応する入力
値はどれか、つまり定着率に対して寄与率が大きい入力
値はどれかを知ることができるとともに、重みＷｃを見
ることによって、それぞれの入力項目におけるＢig，Ｍ
iddle ，Ｓmallの範囲がどのあたりを示すのかを知るこ
とができる。

【００５９】

【発明の効果】従来、エキスパートからの知識だけで構
築されていたファジィ・ニューラルネットワークでは、
エキスパートの勘や経験から得られた知識が曖昧すぎる
場合、または間違っていた場合、ネットワークが実際に
欲している構造と違った構造になってしまい、ニューラ
ルネットワークの学習に時間がかかるだけでなく、うま
く学習できなくなってしまうという不都合があった。

【００６０】しかし、本発明によれば、エキスパートの
勘や経験より対象物の入出力関係をファジィ集合を持つ
前件部命題と後件部命題とを有するファジィルールとし
て作成すると共に、それとは別に入出力の項目数だけか
らニューラルネットワークを構成し、結合の重みを前記
ファジィモデルを基に与えるように構成することによ
り、エキスパートの勘や経験より得られた知識が曖昧す
ぎる場合、または間違っていた場合でも、必ずどこかの
ファジィルールにはあてはまるようにネットワークが構
成されているため、ネットワークが間違った構造になっ
てしまい、ニューラルネットワークの学習がうまくでき
なくなってしまうという不都合を回避できるという効果
がある。

【００６１】また、入出力の関係からニューラルネット
ワークを構成する際に各入力値を全てＢig，Ｍiddle ，
Ｓmallの３つの領域に分割するように構成することによ
り、各入力項目の値は必ず３つの領域のうち少なくとも
１つの領域には属することになり、エキスパートの知識
からのファジィルールにないサンプルデータが入ってき
たときもニューラルネットワーク上で対応できるという
効果がある。

【００６２】また、従来、ファジィルールが１または複
数と入り交じっていたため、特に複数の入力項目のＡＮ
Ｄルールのときには計算が面倒になり、ネットワークを
構築するときも複雑になってしまうという不都合があっ
た。しかし、入出力の関係からニューラルネットワーク
を構成する際に全ての入力項目のうち２つを選び、その
２つの各入力値の３領域に分割したものからそれぞれ１
つづつを選び、それを２つの入力項目のＡＮＤルールと
するように構成することにより、簡単な２つの入力項目
間の関係だけとなるため、ネットワークの構成が簡単に
なるだけでなく、ＡＮＤルールの計算も必ず２つの入力
しかないため、全て同様の計算だけでよくなり簡単化さ
れるという効果がある。

【００６３】また、従来はエキスパートの知識から得た
ファジィルールだけであったため、そのルールにない関
係には対応できないという不都合があったが、入出力の
関係からニューラルネットワークを構成する際に、ＡＮ
Ｄルールを、各入力項目の３つの領域に対し、他の全て
の入力項目の全ての領域との間で２つの組み合わせを求
めるように構成することによって、全ての２つの入力項
目の関係をカバーできるため、曖昧すぎるルールや間違
ったルールが与えられていたとしても、学習により正し
く修正することができるという効果がある。

【００６４】また、従来、ファジィ・ニューラルネット
ワークの学習過程においては、ネットワークの結合され
ている部分の学習すべき重みは、全てバックプロパゲー
ション法などにより、微調整が行われてきたため、計算
量が膨大になり、学習時間もかなりかかるという不都合
があったが、ファジィ・ニューラルネットワークの学習
過程で、メンバーシップ関数を実現するネットワークの
重みの修正を、ＡＮＤルールで選択されたメンバーシッ
プ出力値の方の重みのみの修正、または、特にＭiddle
の場合、傾きがお互い逆である２つのシグモイド関数の
うち、Ｍiddleのメンバーシップ出力値に関与したシグ
モイド関数の方の重みのみを修正することにより、関係
のある項目のみを修正するので学習速度を速くすること
ができるという効果がある。

【００６５】また、従来、エキスパートの知識から得た
ファジィルールだけであったため、そのルールにない２
つの入力項目のある領域同士の関係（例えば、ｘ１がＳ
mallでｘ２がＢigである領域での入出力関係）には対応
できないという不都合があったが、ファジィ・ニューラ
ルネットワークの学習課程において、２つの入力項目に
対し、ＡＮＤルールにより９つに領域分割されたもの全
てを領域ごとに学習することにより、２つの入力項目の
関係が単調増加、単調減少の関係でなく、もっと複雑な
関係であったときにも、その関係を表現することができ
るという効果がある。

【００６６】また、従来、学習によって修正された重み
は、入出力関係を正しくシミュレートさせるためだけの
ものであり、その意味付けまでは行われていなかった
が、式１４に示す式を用いてネットワークの学習を行
い、重みＷｆを修正することにより学習終了後のファジ
ィ・ニューラルネットワークにおいて、ルール層と出力
層との結合の重みがそれぞれのルールの重要度を示すよ
うになるため、エキスパートの勘や経験より得られた知
識が曖昧すぎる場合、または間違っていた場合に、曖昧
な知識ははっきりとした知識として得られ、間違った知
識は本当はどのようなものが正しい知識なのかというこ
とを得るとができるという効果がある。

【００６７】また、式１５に示す式を用いてネットワー
クの学習を行い、重みＷｇを修正することにより、その
意味付けまでは行われていなかったが、学習終了後のフ
ァジィ・ニューラルネットワークにおいて、メンバーシ
ップ関数の傾きを表す重みが出力項目に対する入力項目
の寄与率を示すようになるため、出力値に対してよく効
く入力項目が得られ、どの入力項目の値を振れば、より
よい結果が得られるのかがわかるという効果がある。ま
た、式１６に示す式を用いてネットワークの学習を行
い、重みＷｃを修正することにより、メンバーシップ関
数のセンター値がそれぞれの入力項目の正しい領域分割
を表すようになるため、各入力項目でエキスパートの経
験によりＢig，Ｍiddle ，Ｓmallというのは、どの範囲
を指すのかが明確になるという効果がある。

【図面の簡単な説明】

【図１】本発明の一実施例を示す構成図である。

【図２】メンバーシップ関数（Big，Middle，Small）を
示す図である。

【図３】シグモイド関数によるメンバーシップ関数の形
成方法を示す図である。

【図４】メンバーシップ関数（Ｍiddle)の構成方法を示
す図である。

【図５】ＡＮＤルールから出力への結合の重みの初期値
決定方法を示す図である。

【図６】ルール層と出力層との間の重みの修正方法を示
す図である。

【図７】メンバーシップ関数の傾きを表す重みの修正量
と出力値との違いを示す図である。

【図８】メンバーシップ関数の傾きを表す重みの修正量
と出力値との違いを示す図である。

【図９】メンバーシップ関数のセンター値を表す重みの
修正量と出力値との違いを示す図である。

【図１０】従来のニューラルネットワークの一例を示す
構成図である。

【図１１】ファジィ理論概略図である。

【図１２】従来のニューロ・ファジィ融合システムの構
成図である。

【符号の説明】

１入力層２メンバーシップ層前半部３メンバーシップ層後半部４ルール層５出力層１１〜１４入力層のユニット２１〜２８メンバーシップ層前半部のユニット３１〜３６メンバーシップ層後半部のユニット４１〜４９ルール層のユニット５１出力層のユニットＷｃ１〜Ｗｃ８入力層とメンバーシップ層前半部との
結合の重みＷｇ１〜Ｗｇ８メンバーシップ層前半部と後半部との
結合の重みＷｇ１〜Ｗｇ８ルールの重要度を表す重み

Claims

【特許請求の範囲】

【請求項１】入力層と、メンバーシップ層前半部と、
メンバーシップ層後半部と、ルール層と、出力層とを備
え、入出力の項目数からネットワークを構築することを
特徴とするファジィ・ニューラルネットワーク・システ
ム。
【請求項２】前記入力層および前記メンバーシップ層
は、各入力値をそれぞれファジィ集合の３領域に分割す
るように構成し、前記ルール層は、前記３領域に分割し
たものからそれぞれ１つづつを選び、それを２つの入力
項目のＡＮＤルールとするように構成することを特徴と
する請求項１記載のファジィ・ニューラルネットワーク
・システム。
【請求項３】前記各層間の結合には全て重みがあり、
前記ネットワークの学習によって調整される重みとし
て、前記入力層と前記メンバーシップ層前半部との間の
結合の重み、前記メンバーシップ層前半部と前記メンバ
ーシップ層後半部との間の結合の重み、前記ルール層と
前記出力層との間の結合の重みがあり、他の結合の重み
は全て固定値となるように構成することを特徴とする請
求項１記載のファジィ・ニューラルネットワーク・シス
テム。
【請求項４】前記入力層と前記メンバーシップ層前半
部との間の結合の重みはメンバーシップ関数のセンター
値であり、前記メンバーシップ層前半部と前記メンバー
シップ層後半部との間の結合の重みは前記メンバーシッ
プ関数の傾きであり、前記ルール層と前記出力層との間
の結合の重みは各ルールの重要度であることを特徴とす
る請求項３記載のファジィ・ニューラルネットワーク・
システム。