JP3292495B2 - ニューロ・ファジィ融合システム - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ファジィルールとニュ
ーラルネットワークとを用いたニューロ・ファジィ融合
システムに関し、特にニューラルネットワークにニュー
ロンの機能を解釈すべくニューロン素子の論理素子化装
置を備えたニューロ・ファジィ融合システムに関する。

【０００２】

【従来の技術】ニューロンを用いた情報処理装置におい
ては、対象とするシステムの入力パターンとそれに対す
る望ましい出力パターンの組とを、例えば入力層、中間
層、出力層の３層からなる階層型ニューラルネットワー
クに提示して学習させ、適切な処理を行わせる。この処
理として特に、バックプロパゲーション法とよばれる処
理方式が、その実用性の高さから注目されている。

【０００３】一方、ファジィ理論は、１９６０年代にＺ
ａｄｅｈにより提案され、温度が「高い」とか「低い」
といった人間が行っている曖昧さに基づく思考や判断の
課程をモデル化する理論である。このファジィ理論は、
曖昧さを表すためにメンバシップ関数を導入したファジ
ィ集合論を数学的基礎としている。

【０００４】この理論の応用として、１９７４年代にＭ
ａｍｄａｍがスチームエンジンの制御に用いて以来、フ
ァジィ制御が行われている。また、最近では、ニューロ
ンとファジィとを共に用いたニューロ・ファジィ融合シ
ステムがある（平成２年３月１２日出願済みの特願平２
−６０２５６，２−６０２５７，２−６０２５８，２−
６０２５９，２−６０２６０，２−６０２６１）。

【０００５】図２５はこの種のニューロ・ファジィ融合
システムの概要図である。ニューロ・ファジィ融合シス
テムは、次のように動作する。 図２５に示すように対象システム３に関しての専門家
の勘や経験やノウハウ等を含む知識を、ファジィモデル
作成部１にて、メンバシップ関数とファジィルールの形
式で抽出してファジィモデルを作成する。

【０００６】次に、ファジィモデル作成部１にて作成
されたファジィモデルに従い、ニューラルネットワーク
２のプリワイヤを行う。すなわち、ファジィモデルを用
いて、ニューラルネットワーク２を構成するニューロン
間の結合や重み値を設定してニューラルネットワーク２
を構築する。

【０００７】さらに、前記プリワイヤによって構築さ
れたニューラルネットワーク２を、実際の対象システム
３に適用する。 次に、対象システム３に付けられたセンサ等から、動
作中に学習用のデータを得て、ニューラルネットワーク
２にそれらを学習させることにより、ファジィモデルの
精度の向上を図る。

【０００８】最後に、学習を行ったニューラルネット
ワーク２の結合状態や重み値を、ファジィモデルのファ
ジィルール、ファジィ論理演算、メンバシップ関数に対
応付けて解釈することにより、ニューラルネットワーク
２の内部動作を説明する。

【０００９】なお、ファジィモデル作成部１でファジィ
モデルを作成する際に、ファジィルールを用いている。
このファジィルールでは、ファジィ推論を行なうため
に、ファジィ推論の推論規則として、if−then形式で記
述している。例えば if (Ｘ is small) and (Ｙ is small) then ｚ
ｉｓ middle このif形式の後に続くファジィ命題を前件部命題とし、
thenの後に続くファジィ命題を後件部命題としている。
ここで、small,small,middleは、ファジィ集合である。

【００１０】また、これらのファジィルールに用いられ
ている「Ｘ is small」等の曖昧な命題を定量化するた
めに、そのファジィ集合の個々の要素がどの程度その集
合に属しているかを表すメンバシップ関数を定義する。
入力変数Ｘに関する前件部メンバシップ関数あるいは出
力変数Ｚに関する後件部メンバシップ関数を定義してフ
ァジィ推論を行っている。

【００１１】また、２つ以上のファジィ命題間のファジ
ィ論理演算として例えば積ａｎｄ，または和ｏｒを行な
う。このファジィ論理演算は、ニューラルネットワーク
における１つのニューロンを用いて実現している。

【００１２】このようにニューロ・ファジィ融合システ
ムは、制御の精度を上げるためのメンバシップ関数やフ
ァジィルールの調節・変更が困難であるというファジィ
制御の問題点をニューラルネットワークの学習機能を用
いて解決し、また一方、そのままでは内部の情報処理が
理解し難いというニューラルネットワークの問題点をフ
ァジィモデルの枠組で解釈することによって説明するこ
とで解決できる。

【００１３】

【発明が解決しようとする課題】従来のニューロ・ファ
ジィ融合システムにあっては、ニューラルネットワーク
２を学習させた後の各ルールに対応するニューロンの重
み値の変化に伴ってファジィ論理演算が変化している。
このファジィ論理演算の変化を解釈することについて、
重み値の変化が小さく、ファジィ論理演算の種類が同じ
であると解釈できる場合には、ニューロンの機能を解釈
できる。

【００１４】しかしながら、重み値の変化が大きくな
り、ファジィ論理演算の種類が同じでなくなった場合に
は、ニューロンの機能を解釈することが困難であった。
本発明の目的は、ニューラルネットワークを学習させた
後の各ルールに対応するニューロンの重み値が大きく変
化した場合であっても、ニューロンの機能を解釈するこ
とのできるニューロン素子の論理素子化装置を備えたニ
ューロ・ファジィ融合システムを提供することにある。

【００１５】

【課題を解決するための手段】本発明は、上記課題を達
成すべく次のような構成とした。図１は本発明の原理図
である。本発明は、ファジィモデル作成手段１により、
対象物３の入出力関係を、ファジィ集合をそれぞれに持
つ複数の命題間をファジィ論理演算１４してなるファジ
ィルール１２とこのファジィルール１２の命題を定量化
すべく定義したメンバシップ関数１３との形式で抽出し
てファジィモデルを作成し、作成されたファジィモデル
に従いニューロン素子２０間の入力結線の重み値をニュ
ーラルネットワーク２により設定し、ニューラルネット
ワーク２に対象物３の入出力関係を学習させ、学習後の
重み値の変化に伴って少なくともファジィ論理演算１４
を変化させる。

【００１６】検出装置４２で、ニューロン素子２０のう
ちファジィ論理演算１４に対応するニューロン素子２４
の各入力結線の重み値の符号を検出し、調査装置４３
で、検出装置４２からの入力結線の重み値の符号に対応
した入力パターンの値をニューロン素子２４に入力しそ
のときのニューロン素子２４の出力を得ることでニュー
ロン素子２４の入出力特性パターンを調査する。

【００１７】判定装置４４で、調査装置４３からのニュ
ーロン素子入出力特性パターンと予め定めた各論理演算
毎の論理演算入出力特性パターンとの照合を行い論理演
算種を判定し、決定装置４５で、検出装置４２からの入
力結線の重み値の符号と前記判定装置４４からの論理演
算種とに基づきニューロン素子２４の機能に対応する論
理演算を決定するよう構成する。

【００１８】より好適には以下のようにするのが望まし
い。すなわち、ニューロン素子２４は、入力結線の重み
値が正の入力には偽に対応する値から真に対応する値ま
で変化する入力パターンを入力し、入力結線の重み値が
負の入力には真に対応する値から偽に対応する値まで変
化する入力パターンを入力する。

【００１９】また、判定装置４４は、ニューロン素子入
出力特性パターンと各論理演算入出力特性パターンとの
差の最大成分が最小となる論理演算種を選択する入出力
特性照合装置４６を有するよう構成する。

【００２０】さらに、判定装置４４は、ニューロン素子
入出力特性パターンと各論理演算入出力特性パターンと
の差の２乗和が最小となる論理演算種を選択する入出力
特性照合装置４６を有するよう構成する。

【００２１】さらに、判定装置４４は、ニューロン素子
入出力特性パターンと各論理演算入出力特性パターンと
の差の絶対値の和が最小となる論理演算種を選択する入
出力特性照合装置４６を有するよう構成する。

【００２２】

【作用】本発明によれば、検出装置でニューロン素子の
各入力結線の重み値の符号を検出し、調査装置で入力結
線の重み値の符号に対応した入力パターンの値をニュー
ロン素子に入力し得られたニューロン素子の出力からニ
ューロン素子の入出力特性パターンを調査し、判定装置
でニューロン素子入出力特性パターンと予め定めた各論
理演算毎の論理演算入出力特性パターンとの照合を行い
論理演算種を判定し、決定装置で検出装置からの入力結
線の重み値の符号と判定装置からの論理演算種とに基づ
きニューロン素子の機能に対応する論理演算を決定す
る。

【００２３】従って、ニューラルネットワークを学習さ
せた後の各ルールを対応するニューロンの重み値が大き
く変化した場合にも、ニューロン素子を論理素子化する
ことによって、ニューロンの機能を解釈することが可能
となる。

【００２４】また、ニューロン素子の入力結線の重み値
が負である場合、その入力値が増加すると、ニューロン
素子の出力値を減少させる。つまり、入力値の真に対応
する値から偽に対応する値までの変化は、ニューロン素
子の出力値を偽に対応する値から真に対応する値まで変
化させる働きをするから、その入力はニューロン素子に
対して否定の入力として扱われる。

【００２５】したがって、入出力特性パターンを得るた
めの入力パターンとして、入力結線が正の入力へは偽に
対応する値から真に対応する値まで変化するパターンを
与えるのに対して、入力結線が負の入力へは真に対応す
る値から偽に対応する値まで変化するパターンを与える
必要がある。

【００２６】また、対象とするニューロン素子と機能が
最も似ている論理演算種を判定する基準として、ニュー
ロン素子入出力特性パターンと各論理演算入出力特性パ
ターンとの差の最大成分が最小となる論理演算種、前記
両方のパターンの差の自乗和が最小となる論理演算種、
両方のパターンとの差の絶対値の和が最小となる論理演
算種を選択するようにしてもよい。

【００２７】

【実施例】以下、本発明の実施例について説明する。図
２は本発明をニューロ・ファジィ融合システムに適用し
た実施例の概略構成を示す図である。本システムは、フ
ァジィモデル作成部１ａと、これに接続されるニューラ
ルネットワーク２と、これに接続される対象システム３
とで構成されている。ファジィモデル作成部１ａ、ニュ
ーラルネットワーク２は、図示しない処理装置、例えば
ＣＰＵ（中央処理装置）に設けられている。

【００２８】次に各部について説明する。 （１）ファジィモデルの作成 ファジィモデル作成部１ａは、対象システム３に関し
ての専門家の勘や経験やノウハウ等を含む知識を、メン
バシップ関数とファジィルールの形式で抽出し、ファジ
ィモデルを作成する。

【００２９】ファジィモデル作成部１ａでは、次のよう
に処理を行なう。対象システム３が図３に示すような入
出力関係を持っている場合を考える。ここで、ＸとＹと
が入力変数であり、Ｚが出力変数である。図４は図３に
示す入出力関係をモデル化すべく作成したファジィルー
ルを示す図であり、ファジィモデル作成部１ａは、この
ファジィルール１２部を有している。図４に示すファジ
ィルール部１２のルールは、入力変数Ｘ，Ｙの値の取り
得る範囲をおおまかに５つの領域に分け、その領域に於
ける出力変数Ｚのおおまかな値を３つの領域に分割した
ものである。

【００３０】このファジィルールにおいて、Ifの後に続
くファジィ命題を前件部命題といい、thenの後に続くフ
ァジィ命題を後件部命題という。メンバシップ関数部１
３は、これらのファジィルール１２に用いられている
「Ｘ is small」等の曖昧な命題を定量化するためにメ
ンバシップ関数を定義する。 図５は入力変数Ｘに関す
る前件部メンバシップ関数を示す図である。図７は出力
変数Ｚに関する後件部メンバシップ関数を示す図であ
る。図６はファジィ命題間のファジィ論理演算を示す図
である。図６においては、ファジィ論理演算ＡＮＤとし
て限界積を採用したものを示す。

【００３１】図７に示す如くファジィ推論結果の非ファ
ジィ化には重心計算部１５による重心計算法を採用し
た。以上のように、ファジィモデル作成部１ａにより作
成したファジィモデルの入出力関係を図８に示す。

【００３２】図８に示すファジィモデルの入出力関係
と、図３に示す対象システム３の入出力関係とのグラフ
と見比べると、前件部メンバシップ関数の領域の替り目
の付近に外れが生じているが、おおまかな特徴は捉えら
れている。

【００３３】この様な外れが生じた原因は、入力値が前
件部メンバシップ関数の領域の替り目の値になった場
合、どの前件部命題もグレード値が約０．５となり、こ
れらのグレード値に対しては限界積は０．０に近い値を
とるためと考えられる。

【００３４】以下、本システムにおいて採用したファジ
ィモデル作成部１ａの詳細について説明する。ファジィ
モデル作成部１ａは、前件部メンバシップ関数部１３−
１、ファジィ論理演算部１４、後件部メンバシップ関数
部１３−２を有する。 （ａ）まず、前件部メンバシップ関数部１３−１につい
て説明する。

【００３５】図５に示すような入力変数Ｘに関する前件
部メンバシップ関数において、横軸は入力変数Ｘであ
り、縦軸はメンバシップ関数のグレード値である。これ
らのメンバシップ関数によって各ファジィ命題の意味を
表している。例えば、入力値がＸ＝０．２のとき、ファ
ジィ命題「Ｘ is small」，「Ｘ is middle」，「Ｘ is
big」の確からしさを表すグレード値は、各々０．６，
０．４，０．０である。このように、ファジィ命題のグ
レード値は、０〜１の範囲の任意の値をとる。 （ｂ）次にファジィ論理演算部１４について説明する。

【００３６】普通の論理演算においては、命題は真か偽
かのどちらか一方となる。即ち、命題のグレード値は、
１または０のどちらかの値をとる。したがって、論理演
算のＡＮＤの値は、２つの命題のとりうるグレード値の
４通りの組み合わせ（０，０），（０，１），（１，
０），（１，１）について定義すればよい。これらの定
義を図５に黒丸と白丸で示す。白丸はＡＮＤ演算の結果
が真であることを示し、黒丸は偽であることを示してい
る。

【００３７】これに対し、ファジィ命題のグレード値
は、０〜１の範囲の任意の値をとるから、ファジィ論理
演算ＡＮＤの値は、上記の４つの点だけでなく、２つの
ファジィ命題のとりうるグレード値の範囲すべてについ
て定義されなければならない。このようなＡＮＤ演算の
拡張の一つが限界積であり、図６はその入出力関係を示
している。

【００３８】このファジィ論理演算部１４によって、
「（Ｘ is small）ＡＮＤ（Ｙ is small）」等の複合命
題のグレード値が計算される。前件部の複合命題のグレ
ード値は、各ファジィルールの前提条件の成立の度合つ
まり適合度となる。 （ｃ）さらに後件部メンバシップ関数部１３−２につい
て説明する。

【００３９】後件部命題のグレード値は、各ファジィ命
題を後件部に持つファジィルールの適合度の和として得
られる。このようにして得られた後件部命題「Ｚ is sm
all」，「Ｚ is middle」，「Ｚ is big」のグレード値
が、各々０．７５，０．２５，０．０５の場合の出力変
数Ｚの算出過程を図７に示す。ここで、横軸は出力変数
Ｚであり、縦軸はメンバシップ関数のグレード値であ
る。定義したメンバシップ関数を点線で示す。各々のメ
ンバシップ関数の高さは、対応する後件部命題のグレー
ド値に比例して縮小される。縮小されたメンバシップ関
数を実線で示す。それらの縮小されたメンバシップ関数
の和が推論結果のメンバシップ関数であり、図７に示す
塗りつぶされた部分である。

【００４０】推論結果のメンバシップ関数から代表値を
求める非ファジィ化の計算は、重心計算によって行い、
０．３３を得る。 （２）プリワイヤ このようにして作成されたファジィモデルに従い、ニ
ューラルネットワーク２ａのプリワイヤを行う。すなわ
ち、ニューロン間の結合や重み値を設定してニューラル
ネットワーク２ａを構築する。プリワイヤについて以下
に説明する。

【００４１】ファジィモデル作成部１によって作成され
たファジィモデルに従い、プリワイヤによって構造化ニ
ューラルネットワーク２ａを構築する。構築された構造
化ニューラルネットワーク２を図９に、ニューラルネッ
トワーク部２ａを図１０に示す。

【００４２】構造化ニューラルネットワーク部２ａは、
各層２１〜２７からなり、かつ各層間で相互に結合して
なる。各層２１〜２７は複数のニューロンを有し、各ニ
ューロンは各層間で相互に結合している。なお、各層内
部でのニューロン間では結合はないものとする。

【００４３】これらのニューロンは、シグモイド関数ニ
ューロン２２−１〜２２−６，２４−１〜２４−５また
は線形関数ニューロン２３−１〜２３−５，２５−１〜
２５−３，２６−１〜２６−４，２７−１〜２７−２か
らなる。

【００４４】この構造化ニューラルネットワーク部２ａ
においては、ファジィモデル作成部１によって作成され
たファジィモデルとの間に以下の対応関係がある。３層
目のニューロン２３−１〜２３−５は、各前件部命題に
対応している。４層目のニューロン２４−１〜２４−５
は、各ファジィルールに対応している。５層目のニュー
ロン２５−１〜２５−３は、各後件部命題に対応してい
る。

【００４５】以下、プリワイヤによるファジィモデルの
実現方法の詳細について説明する。 （ａ）まず、ファジィルール部１２とファジィ論理演算
部１４の実現方法について説明する。

【００４６】例えば、rule 1:if(Ｘ is small)and(Ｙ i
s small)then Ｚ is middleに対応したプリワイヤは次
の様に行う。図１０に示すように、４層目のrule 1に対
応するニューロン２４−１と３層目の「Ｘ is small」
と「Ｙ is small」に対応するニューロン２３−１，２
３−４とを結合させ、４層目のrule 1に対応するニュー
ロン２４−１と５層目の「Ｚ is middle」と対応するニ
ューロン２５−２とを結合させる。図１１（ａ）に示す
ように４層目のニューロン２４と５層目のニューロン２
５との間の結合の重み値はすべて１．０に設定する。５
層目のニューロン２５のしきい値はすべて０．０に設定
する。

【００４７】図１２はファジィ論理演算を実現するニュ
ーロンを示す図である。図１２（ａ）に示すように、４
層目のrule 1に対応するニューロン２４−１と３層目の
「Ｘis small」と「Ｙ is small」に対応するニューロ
ン２３−１，２３−４との結合の重み値は各々７．０，
７．０に設定する。また、４層目のrule 1に対するニュ
ーロン２４−１のしきい値は１０．５に設定する。

【００４８】この様にして、図１２（ａ）に示すように
１個のニューロンを用いてファジィ楼理演算を実現す
る。このニューロンの入出力関係を図１２（ｂ）に示
す。この図１２（ｂ）に示す入出力関係を、図６に示す
限界積の入出力関係と比較すると、良い近似となってい
ることがわかる。 （ｂ）次に前件部メンバシップ関数部１３−１の実現方
法について説明する。

【００４９】例えば、図１１に示すような入力変数Ｘの
前件部メンバシップ関数に対応したプリワイヤは次のよ
うにして行なう。図１１（ａ）において、ニューラルネ
ットワークは、入力変数Ｘを取り込むシグモイド関数ニ
ューロン２４、このニューロン２４に結合する線形関数
ニューロン２５を有している。シグモイド関数ニューロ
ン２４と線形関数ニューロン２５との間の重みは、１．
０であり、ニューロン２５のしきい値は０である。

【００５０】small,big のように単調減少または単調増
加するメンバシップ関数については、１個のニューロン
のシグモイド関数を利用して実現する。middleのような
山形のメンバシップ関数については、２個のニューロン
を用い、２つのシグモイド関数の差によって実現する。 （ｃ）次に後件部メンバシップ関数１３−２の実現方法
について説明する。

【００５１】図１３は後件部メンバシップ関数を実現す
るニューラルネットワークを示す図である。図１３に示
すように、出力変数Ｚの後件部メンバシップ関数に対応
したプリワイヤは、以下のようにして行なう。

【００５２】６層目の各ニューロン２６−１〜２６−４
は、出力本数Ｚの座標上にとられた点に対応させる。５
層目のニューロン２５−１〜２５−３の一つから、６層
目の各ニューロン２６−１〜２６−４への結合の重み値
は、５層目のニューロン２５−１〜２５−３に対応する
後件部メンバシップ関数の、６層目の各ニューロン２６
−１〜２６−４に対応するＺ座標上の点におけるグレー
ド値に設定する。例えば、Ｚがsmall のメンバシップ関
数のＺ＝０．０、０．３３、０．６７、１．０における
グレード値は、それぞれ１．０、０．０、０．０、０．
０である。

【００５３】従って、５層目の１番目のニューロン２５
−１（「Ｚ is small 」に対応する）から６層目の各ニ
ューロン２６−１〜２６−４への結合の重み値は、１．
０、０．０、０．０、０．０に設定する。また、６層目
のニューロン２６−１〜２６−４のしきい値はすべて
０．０に設定する。

【００５４】次に、このように構成されたニューラルネ
ットワーク部２ａの内部動作を以下に説明する。ここ
で、５層目の１番目のニューロン２５−１に注目する。
このニューロンの出力が１．０のとき、即ち「Ｚ is sm
all 」＝１．０のとき、６層目の各Ｚ座標上の点に対応
するニューロンの入力値は、Ｚ＝０．０、０．３３、
０．６７、１．０における後件部メンバシップ関数smal
l のグレード値１．０、０．０、０．０、０．０と一致
する。これを図１２の点線で示す。

【００５５】そして、注目している５層目の１番目のニ
ューロン２５−１の出力が、０．７５のとき、即ち「Ｚ
is small 」＝０．７５のとき、６層目の各Ｚ座標上の
点に対応するニューロンの入力値は、０．７５、０．
０、０．０、０．０となる。これを図１３の実線で示
す。これは点線で示されるsmall のメンバシップ関数の
高さを、ファジィ命題「Ｚ is small 」の値に比例させ
て縮小したこと、即ち０．７５倍したことに相当する。

【００５６】６層目のニューロン２６−１〜２６−４
は、線形ニューロンであるから、各ニューロン２６−１
〜２６−４の出力は、５層目の各ニューロン２５−１〜
２５−３からの入力の和である。

【００５７】したがって、６層目の各ニューロン２６−
１〜２６−４の出力値は、対応するＺ座標上の点におけ
る推論結果のメンバシップ関数のグレード値と一致す
る。例えば、「Ｚ is small 」＝０．７５，「Ｚ is mi
ddle」＝０．２５，「Ｚ is big 」＝０．０５のときの
推論結果のメンバシップ関数を、図１３の塗りつぶした
図形で示す。 （ｄ）次に重心計算部１５の実現方法について説明す
る。重心計算に対応したプリワイヤは次のように行な
う。図１４は重心計算を実現するニューラルネットワー
クを示す図である。

【００５８】図１４において、６層目の各ニューロン２
６−１〜２６−４から７層目の１番目のＺａと名付けら
れたニューロン２７−１への結合の重み値は、６層目の
ニューロン２６−１に対応する点のＺ座標値に設定され
る。また６層目の各ニューロン２６−１〜２６−４から
７層目の２番目のＺｂと名付けられたニューロン２７−
２への結合の重み値は、６層目のニューロンに対応する
点のＺ座標値−１が設定される。

【００５９】このように構成されたニューラルネットワ
ーク部２ａのコンポーネントの内部動作は以下のように
行われる。７層目のニューロン２７−１（Ｚａ）の出力
値は、６層目の各ニューロン２６−１〜２６−４の出力
値（推論結果のメンバシップ関数の対応する点における
グレード値）の重み値（対応する点のＺ座標値）荷重和
であるので、その値はＺ＝０．０における推論結果のメ
ンバシップ関数の回転モーメントと一致する。また、同
様に、ニューロン２７−２（Ｚｂ）の値は、Ｚ＝１．０
における回転モーメントである。

【００６０】これらの値から、Ｚａ／（Ｚａ−Ｚｂ）の
計算を行なうことにより、重心、例えばＺ＝０．２３が
求められる。 （３）対象システムへの適用 前述したプリワイヤによって構築されたニューラルネ
ットワーク２を、実際の対象システム３に適用する。

【００６１】プリワイヤによって構成されたニュラルネ
ットワーク２の入出力関係を図１５に示す。ここで、
Ｘ，Ｙは入力変数であり、Ｚは出力変数である。プリワ
イヤ後のニューラルネットワーク２の入出力関係は、元
にしたファジィモデルの入出力関係と同様に細部につい
ては、対象システム３の入出力関係から外れているとこ
ろがあるが、おおまかな特徴は捉えられている。 （４）学習によるモデルの精度向上 プリワイヤによって構築されたニューラルネットワー
ク２に、図３に示す対象システム３の入出力関係を学習
させる。図３の格子（１１×１１）上の点のデータを教
師データとし、プリワイヤによって設定された重み値
（しきい値を含む。）を初期値として、ニューラルネッ
トワーク２の学習を行う。この学習は、図９に示す学習
部２ｂによって行われる。学習部２ｂは、学習結果の誤
差量によりバックプロパゲーション法に基づく重み値の
更新を行い、重み値格納部１６０へ出力する重み値変更
部１６１、対象物の入出力関係により定まる入力信号パ
ターンと出力信号パターンとの組からなる学習信号を格
納した学習信号格納部１６４、学習指示に従って学習信
号格納部１６４から学習信号を取り出し入力信号を階層
ネットワーク部２ａの入力に与えるとともに教師信号を
重み値変更部１６１及び学習収束判定部１６３へ出力す
る学習信号提示部１６２、階層ネットワーク２ａの出力
信号と学習信号提示部１６２から出力される教師信号と
を受けて階層ネットワーク部２ａのデータ処理機能の誤
差が許容範囲に入ったか否かを判定してその判定結果を
学習信号提示部１６２に通知する学習収束判定部１６３
を備えている。

【００６２】学習部２ｂにより、入力データを与えた時
の実際の出力値と、教師データとしての望ましい出力値
の差を減らすようにネットワーク中のすべての結合の重
みを変える。そして学習は、すべての学習データについ
て誤差がある設定値以下となるまで繰り返し行われ、学
習が収束する。

【００６３】なお、図１５に示したように、プリワイヤ
による初期値で、おおまかな調整は済んでいるので、微
調整だけを行えば良いので、学習は容易である。学習後
のニューラルネットワーク２の入出力関係を図１９に示
す。図１９をみればわかるように、図３に示す対象シス
テム３の入出力関係をほぼ再現することができた。 （５）学習後のニューラルネットワークの内部動作の説
明 学習後のニューラルネットワーク２の結合の重み値及
びしきい値の変化は以下のようにファジィルール及びメ
ンバシップ関数の変化として解釈される。 （ａ）学習後のファジィルールの比重の変化 学習後のファジィルールの比重の変化を図１６に示す。
プリワイヤの時点では、各ファジィルールが同じ比重を
持って扱われることに対応して、４層目のニューロン２
４−１〜２４−５と５層目のニューロン２５−１〜２５
−３との間の結合の重み値は、すべて同じ１に設定され
た。

【００６４】図１６（ａ）に示すように学習後のニュー
ロン２４−１〜２４−５とニューロン２５−１〜２５−
３との間の結合の重み値は、０．９４６、１．０１、
１．１０、０．９３３、０．９９５に変化している。図
１６（ｂ）に示すようにこの変化は、各ニューロン２４
−１〜２４−５に対応するファジィルール１〜５の比重
の変化として解釈される。 （ｂ）学習後の前件部メンバシップ関数の変化 図１７は学習による前件部メンバシップ関数の変化を示
す図である。図１７（ａ）に示すように、学習前と学習
後での入力変数Ｘのメンバシップ関数に対応する部分の
重み値の変化を、メンバシップ関数の変化として捉えて
表示したものである。

【００６５】図１７（ｂ）に示すように点線が学習前の
メンバシップ関数を示し、実線が学習後のメンバシップ
関数を示す。この変化は、メンバシップ関数の替り目に
おけるグレード値を０．５よりも大きくすることで、限
界積を用いることによる出力値の落込みを補償する働き
をしていると解釈される。 （ｃ）学習後のファジィ論理演算の変化 図１８は学習によるファジィ論理演算の変化を示す図で
ある。図１８（ａ）では、学習後のrule 1に対応するニ
ューロン２４−１の重み値の変化によるファジィ論理演
算の変化を示している。

【００６６】図１８（ｂ）に示すように、rule 1にとっ
て「Ｘ is small」と「Ｙ is small」とがほぼ等しい寄
与をすること、ファジィ論理演算がＡＮＤ演算のままで
良いことが解釈される。 （６）実施例の特徴 次に、本実施例の特徴とする論理素子化装置４について
説明する。論理素子化装置４は、ニューラルネットワー
ク２ａに接続され、次のように構成される。

【００６７】ニューロン素子格納装置４１は、ニューロ
ン２０のうち、前述したファジィ論理演算に対応するニ
ューロン素子２４を格納するものである。重み値正負検
出装置４２は、ニューロン素子格納装置４１に格納され
たニューロン素子２４の各入力結線の重み値の正負を検
出し、この重み値の正負をニューロン素子入出力特性調
査装置４３及び論理演算決定装置４５に出力する。

【００６８】ニューロン素子入出力特性調査装置４３
は、重み値正負検出装置４２からの入力結線の重み値の
正負に対応する入力パターンの値をニューロン素子格納
装置４１に入力し、そのときのニューロン素子格納装置
４１の出力パターンを得ることでニューロン素子の入出
力特性パターンを調査し、このニューロン素子２４の入
出力特性パターンを論理演算種判定装置４４に出力す
る。

【００６９】論理演算種判定装置４４は、各論理演算毎
の論理演算入出力特性パターンを格納する論理演算入出
力特性パターン格納装置４７と、この論理演算入出力特
性パターン格納装置４７に格納してある各論理演算毎の
論理演算入出力特性パターンとニューロン素子入出力特
性調査装置４３からのニューロン素子入出力特性パター
ンとの照合を行う入出力特性パターン照合装置４６とを
有し、照合によって論理演算種を判定する。

【００７０】論理演算決定装置４５は、論理演算種判定
装置４４からの論理演算種と重み値正負検出装置４２か
らの入力結線の重み値の正負とに基づき、対象とするニ
ューロン素子２４の機能に対応する論理演算を決定す
る。

【００７１】このように構成された論理素子化装置４の
動作について説明する。図２１はニューロン素子の構成
を示す図である。図２１に示すようにニューロン素子２
４は、複数の入力Ｘ１〜Ｘｎに対して各入力結線でそれ
ぞれ重み値Ｗ１〜Ｗｎだけ重み付けて、これらを加算器
２０１で加算し、この加算器２０１の出力をシグモイド
関数２０２に入力してシグモイド出力を得ている。

【００７２】シグモイド関数は、 ｙ＝ｆ（Ｘ₁，Ｘ₂，…Ｘ_n）＝１／（１−ｅ^-(Σ^WiXi-θ⁾） で表される。

【００７３】図２１はニューロン素子に２入力された場
合の重み値及びしきい値の設定を示す図である。ニュー
ロン素子２４には、２つの入力結線を介して２つの入力
Ｘ，Ｙが入力するようになっており、このニューロン素
子２４の出力は０〜１であるので、真に１、偽に０の値
を対応させる。

【００７４】このニューロン素子２４の重み値Ｗx，Ｗy
としきい値θの値は例えばそれぞれＷx＝−６．７１，
Ｗy＝６．５５，θ＝２．８９とする。

【００７５】ニューロン素子格納装置４１には、対象と
するニューロン素子２４の重み値Ｗx，Ｗyとしきい値θ
が格納される。重み値正負検出装置４２により、ニュー
ロン素子格納装置４１に格納されたニューロン素子２４
の入力結線の重み値の正負が検出される。ここでは、入
力Ｘの入力結線の重み値Ｗxは負として、入力Ｙの入力
結線の重み値Ｗyは正として検出される。

【００７６】次に、ニューロン素子入出力特性調査装置
４３により、重み値正負検出装置４２からの入力結線の
重み値が正の入力の場合には、偽（０）に対応する値か
ら真（１）に対応する値まで変化する入力パターンをニ
ューロン素子２４に入力し、入力結線の重み値が負の入
力の場合には、真（１）に対応する値から偽（０）に対
応する値まで変化する入力パターンをニューロン素子２
４に入力して、そのときのニューロン素子２４の出力を
得ることでニューロン素子２４の入出力特性パターンを
調査する。

【００７７】なお、前記入力パターンは次のようにして
決定される。ニューロン素子２４の入力結線の重み値が
負である場合、その入力値が増加すると、ニューロン素
子２４の出力値を減少させる。つまり、入力値の真
（１）に対応する値から偽（０）に対応する値まで変化
すると、ニューロン素子２４の出力値を偽（０）に対応
する値から真（１）に対応する値まで変化させるから、
その入力はニューロン素子２４に対して否定の入力とし
て扱われる。

【００７８】したがって、入出力特性パターンを得るた
めの入力パターンとして、入力結線が正の入力へは偽
（０）に対応する値から真（１）に対応する値まで変化
するパターンを与えるのに対して、入力結線が負の入力
へは真（１）に対応する値から偽（０）に対応する値ま
で変化するパターンを与える必要がある。

【００７９】ここでは、入力Ｘの入力結線の重み値Ｗx
の値が負であり、入力Ｙの入力結線の重み値Ｗyの値が
正であるから、入力パターンを以下のように与える。 Ｘ＝（１−Ｉx）;Ｉx＝０．０，０．２５，０．５，
０．７５，１．０ Ｙ＝（１−Ｉy）;Ｉy＝０．０，０．２５，０．５，
０．７５，１．０ 図２３はニューロン素子入出力特性パターンを示す図で
あり、入力Ｘ，Ｙの入力パターンに対するニューロン素
子入出力特性パターンを示している。

【００８０】一方、論理演算入出力特性パターン格納装
置４７には、図２４に示すように、Ｘ ａｎｄ Ｙ（図
２４（ａ））、Ｘ ｏｒ Ｙ（図２４（ｂ））、平均
（図２４（ｃ））、Ｘ（図２４（ｄ））、Ｙ（図２４
（ｅ））、真（図２４（ｆ））、偽（図２４（ｇ））の
論理演算入出力特性パターンが格納されている。

【００８１】次に、論理演算種判定装置４４において、
入出力特性パターン照合装置４６により図２３に示すニ
ューロン素子入出力特性パターンと、図２４に示す各論
理演算入力特性パターンとの照合を行い、対象とするニ
ューロン素子２４と機能の最も似ている論理演算種を判
定する。

【００８２】入出力特性パターン照合装置４６における
照合方法として、例えば次の３つの方法がある。 （ａ）対象とするニューロン素子２４と機能の最も似て
いる論理演算種を判定する基準として、ニューロン素子
入出力特性パターンと各論理演算入出力特性パターンと
の差の最大成分が最小となる論理演算種を選択する。 （ｂ）また、ニューロン素子入出力特性パターンと各論
理演算入出力特性パターンとの差の２乗和が最小となる
論理演算種を選択する。 （ｃ）さらに、ニューロン素子入出力特性パターンと各
論理演算入出力特性パターンとの差の絶対値の和が最小
となる論理演算種を選択する。

【００８３】ここでは、（ｂ）により差の２乗和の比較
によって照合を行った。その照合結果を図２５に示す。
図２５に示すように差の２乗和が最小となる論理演算種
はａｎｄ論理演算であることがわかる。

【００８４】その結果、ａｎｄ論理演算が選択されるの
で、論理演算決定装置４５において、対象とするニュー
ロン素子２４の入力結線の重み値が正の入力は肯定入力
であり、入力結線の重み値が負の入力は否定入力であ
り、判定結果の種類の論理演算を行う論理素子であるこ
とを決定する。

【００８５】すなわち、与えられたニューロン素子２０
を論理素子化すると、 Ｘ and Ｙ となる。

【００８６】従って、ニューラルネットワーク２ａを学
習させた後の各ルールを対応するニューロンの重み値が
大きく変化した場合にも、ニューロン素子２４を論理素
子化することによって、ニューロンの機能を解釈するこ
とが可能となる。

【００８７】

【発明の効果】本発明によれば、ニューラルネットワー
クを学習させた後の各ルールを対応するニューロンの重
み値が大きく変化した場合にも、ニューロン素子を論理
素子化することによって、ニューロンの機能を解釈する
ことが可能となる。

【図面の簡単な説明】

【図１】本発明の原理図である。

【図２】本発明の実施例の構成を示す図である。

【図３】対象システムの入出力関係を示す図である。

【図４】ファジィルールを示す図である。

【図５】前件部メンバシップ関数を示す図である。

【図６】ファジィ論理演算を示す図である。

【図７】後件部メンバシップ関数と非ファジィ化を示す
図である。

【図８】ファジィルールの入出力関係を示す図である。

【図９】ファジィルールと対比した構造を有するニュー
ラルネットワークを示す図である。

【図１０】ニューラルネットワーク部を示す図である。

【図１１】前件部メンバシップ関数を実現するニューラ
ルネットワークを示す図である。

【図１２】ファジィ論理演算を実現するニューロンを示
す図である。

【図１３】後件部メンバシップ関数を実現するニューラ
ルネットワークを示す図である。

【図１４】重心計算を実現するニューラルネットワーク
を示す図である。

【図１５】プリワイヤ後のニューラルネットワークの入
出力関係を示す図である。

【図１６】学習後のファジィルールの比重の変化を示す
図である。

【図１７】学習による前件部メンバシップ関数の変化を
示す図である。

【図１８】学習によるファジィ論理演算の変化を示す図
である。

【図１９】学習後のニューラルネットワークの入出力関
係を示す図である。

【図２０】論理素子化装置の構成ブロック図である。

【図２１】ニューロン素子の構成を示す図である。

【図２２】ニューロン素子への重み値及びしきい値の設
定を示す図である。

【図２３】ニューロン素子入出力特性パターンを示す図
である。

【図２４】論理演算入出力特性パターンを示す図であ
る。

【図２５】入出力特性パターン照合結果を示す図であ
る。

【図２６】従来のニューロ・ファジィ融合システムの概
略図である。

【符号の説明】

１・・ファジィモデル作成部 ２・・ニューラルネットワーク ３・・対象システム ４・・論理素子化装置 ２１〜２７・・各層 ２０，２１−１〜２７−２・・ニューロン ４１・・ニューロン素子格納装置 ４２・・重み値正負検出装置 ４３・・ニューロン素子入出力特性調査装置 ４４・・論理演算種判定装置 ４５・・論理演算決定装置 ４６・・入出力特性パターン照合装置 ４７・・論理演算入出力特性パターン格納装置 Ｘ，Ｙ・・入力変数 Ｚ・・出力変数 ２ａ・・ニューラルネットワーク部 ２ｂ・・学習部

フロントページの続き (56)参考文献 特開 平３−260860（ＪＰ，Ａ) 川村旭・他，「ニューロ・ファジィ融 合システム」，情報処理学会研究報告, 日本，Ｖｏｌ．91、Ｎｏ．36（ＭＩＣ− 66），1991年，ｐｐ．66．３．１−66. ３．８，（ＪＩＣＳＴ資料番号：Ｚ0031 Ｂ) 川村旭・他，「ニューロ・ファジィ融 合システムの試作」，第５回生体・生理 工学シンポジウム論文集，日本，1990 年，ｐｐ．197〜200，（ＪＩＣＳＴ資料 番号：Ｘ0823Ａ) (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06N 1/00 - 7/00 G06G 7/60 G06F 9/44 ＣＳＤＢ（日本国特許庁) ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims (4)

(57)【特許請求の範囲】
1. 【請求項１】 対象物の入出力関係を、ファジィ集合を
   それぞれに持つ複数の命題間をファジィ論理演算してな
   るファジィルールとこのファジィルールの命題を定量化
   すべく定義したメンバシップ関数との形式で抽出してフ
   ァジィモデルを作成するファジィモデル作成手段と、前
   記作成されたファジィモデルに従いニューロン素子間の
   入力結線の重み値を設定するニューラルネットワークと
   を備え、ニューラルネットワークに前記対象物の入出力
   関係を学習させ、学習後の前記重み値の変化に伴って少
   なくとも前記ファジィ論理演算を変化させるニューロ・
   ファジィ融合システムであって、 前記ニューロン素子のうち前記ファジィ論理演算に対応
   するニューロン素子の各入力結線の重み値の符号を検出
   する検出装置と、この検出装置からの入力結線の重み値
   が正の入力の場合には偽に対応する値から真に対応する
   値まで変化する入力パターンを入力し、入力結線の重み
   値が負の入力の場合には真に対応する値から偽に対応す
   る値まで変化する入力パターンの値を前記ニューロン素
   子に入力しそのときのニューロン素子の出力を得ること
   でニューロン素子の入出力特性パターンを調査する調査
   装置と、この調査装置からのニューロン素子入出力特性
   パターンと予め定めた各論理演算毎の論理演算入出力特
   性パターンとの照合を行い論理演算種を判定する判定装
   置と、前記検出装置からの入力結線の重み値の符号と前
   記判定装置からの論理演算種とに基づき前記ニューロン
   素子の機能に対応する論理演算を決定する決定装置とを
   有するニューロン素子の論理素子化装置を備えたことを
   特徴とするニューロ・ファジィ融合システム。
2. 【請求項２】 前記判定装置は、前記ニューロン素子入
   出力特性パターンと前記各論理演算入出力特性パターン
   との差の最大成分が最小となる論理演算種を選択する入
   出力特性照合装置を有することを特徴とする請求項１記
   載のニューロ・ファジィ融合システム。
3. 【請求項３】 前記判定装置は、前記ニューロン素子入
   出力特性パターンと各論理演算入出力特性パターンとの
   差の２乗和が最小となる論理演算種を選択する入出力特
   性照合装置を有することを特徴とする請求項１記載のニ
   ューロ・ファジィ融合システム。
4. 【請求項４】 前記判定装置は、前記ニューロン素子入
   出力特性パターンと各論理演算入出力特性パターンとの
   差の絶対値の和が最小となる論理演算種を選択する入出
   力特性照合装置を有することを特徴とする請求項１記載
   のニューロ・ファジィ融合システム。