JP2813567B2 - 推論規則決定装置及び推論規則決定方法 - Google Patents
推論規則決定装置及び推論規則決定方法Info
- Publication number
- JP2813567B2 JP2813567B2 JP8003532A JP353296A JP2813567B2 JP 2813567 B2 JP2813567 B2 JP 2813567B2 JP 8003532 A JP8003532 A JP 8003532A JP 353296 A JP353296 A JP 353296A JP 2813567 B2 JP2813567 B2 JP 2813567B2
- Authority
- JP
- Japan
- Prior art keywords
- input
- output
- fuzzy
- fuzzy inference
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Description
【０００１】
【発明の属する技術分野】本発明は入力データに基づい
て、機器制御をしたり、エキスパートシステムでの推論
を行ったり、パターン認識を行ったりする場合の、推論
規則決定装置に関するものである。
て、機器制御をしたり、エキスパートシステムでの推論
を行ったり、パターン認識を行ったりする場合の、推論
規則決定装置に関するものである。
【０００２】
【従来技術】従来の技術を説明するに当たり、まず、フ
ァジィ推論の基本概略について機器制御等で用いられる
ファジィ制御を例にとって説明する。
ァジィ推論の基本概略について機器制御等で用いられる
ファジィ制御を例にとって説明する。
【０００３】人間の評価が関与する制御システムにおい
て、操作者が主観的・感覚的に判定した変量、たとえば
「大きい」、「中位」、「とても」、「少し」等の変量
（これをファジィ変数という）を用いて最終的な制御操
作量を決定する場合がある。この場合、操作者は自分の
経験から得た制御経験に基づいて入力変量から操作量を
決定している。ファジィ制御を用いた推論装置では「IF
・・・THEN・・・」形式の推論規則に従って、入力変量のファ
ジィ変数を推論規則のＩＦ部に適用し、その推論規則を
どの程度満たしているかを示す割合（メンバーシップ
値）からＴＨＥＮ部での出力のファジィ数を決定してい
る。実際の操作量は複数の規則による出力のファジィ数
の重心値等を取ることにより、得ることができる。
て、操作者が主観的・感覚的に判定した変量、たとえば
「大きい」、「中位」、「とても」、「少し」等の変量
（これをファジィ変数という）を用いて最終的な制御操
作量を決定する場合がある。この場合、操作者は自分の
経験から得た制御経験に基づいて入力変量から操作量を
決定している。ファジィ制御を用いた推論装置では「IF
・・・THEN・・・」形式の推論規則に従って、入力変量のファ
ジィ変数を推論規則のＩＦ部に適用し、その推論規則を
どの程度満たしているかを示す割合（メンバーシップ
値）からＴＨＥＮ部での出力のファジィ数を決定してい
る。実際の操作量は複数の規則による出力のファジィ数
の重心値等を取ることにより、得ることができる。
【０００４】さて、このファジィ推論を用いた従来の制
御方法の一つにファジィモデリングがあり、例えば、姜
根沢、菅野道夫、”ファジィモデリング”、計測自動制
御学会文集 vol.23,no.6,pp.650-652,1987年、に示され
ている。ファジィモデリングを構成する制御規則におい
ては、ＩＦ部はファジィ命題からなり、ＴＨＥＮ部は普
通の入出力の線形関係式からなっている。いま、例え
ば、一次遅れのタンクモデルを考えると制御偏差ｅ、お
よびその変化率ｄｅと、制御出力（操作量）ｕの間の制
御規則は次のようになる。
御方法の一つにファジィモデリングがあり、例えば、姜
根沢、菅野道夫、”ファジィモデリング”、計測自動制
御学会文集 vol.23,no.6,pp.650-652,1987年、に示され
ている。ファジィモデリングを構成する制御規則におい
ては、ＩＦ部はファジィ命題からなり、ＴＨＥＮ部は普
通の入出力の線形関係式からなっている。いま、例え
ば、一次遅れのタンクモデルを考えると制御偏差ｅ、お
よびその変化率ｄｅと、制御出力（操作量）ｕの間の制
御規則は次のようになる。
【０００５】If e is Zero and de is Positive Medium Then u ＝ 0.25e ＋ 1.5de 上記のような推論規則は複数個用意され、その全体を制
御規則と呼ぶ。Zero、Positive Medium などは規則の記
述に用いる入力のファジィ数を表すラベルであり、ファ
ジィ変数である。
御規則と呼ぶ。Zero、Positive Medium などは規則の記
述に用いる入力のファジィ数を表すラベルであり、ファ
ジィ変数である。
【０００６】図１にその一例を示す。図１において、NB
は Negative Big、NM は NegativeMedium、NS は Nega
tive Small、ZO は Zero、PS は Positive Small、PM
はPositive Medium、PB は Positive Big、を意味して
いる。ここで、Ｘ上のファジィ数Ｆを表す関数をメンバ
ーシップ関数μF( )と呼び、各ｘ0の関数値をメンバー
シップ値μF（ｘ0）と言う。上記の制御規則の一般形は
次式のようになる。
は Negative Big、NM は NegativeMedium、NS は Nega
tive Small、ZO は Zero、PS は Positive Small、PM
はPositive Medium、PB は Positive Big、を意味して
いる。ここで、Ｘ上のファジィ数Ｆを表す関数をメンバ
ーシップ関数μF( )と呼び、各ｘ0の関数値をメンバー
シップ値μF（ｘ0）と言う。上記の制御規則の一般形は
次式のようになる。
【０００７】 Ｒs： If x1 is A1 s, x2 is A2 S, ・・・ ，ｘm is Am s Then ys = c0 s + c1 sx1 + c2 sx2 + ・・・ ＋ｃm sｘm ここで、Ｒs はｓ番目規則であることを示し、ｘj は入
力変数、Aj s はファジィ集合、ys はｓ番目規則からの
出力、cs はＴＨＥＮ部パラメータである。ある入力(x1
0,x2 0,・・・,ｘm 0)に対する推論結果ｙは次式で求められ
る。
力変数、Aj s はファジィ集合、ys はｓ番目規則からの
出力、cs はＴＨＥＮ部パラメータである。ある入力(x1
0,x2 0,・・・,ｘm 0)に対する推論結果ｙは次式で求められ
る。
【０００８】
【数１】
【０００９】ここで、ｎは規則の数、ｗsは入力（x1 0,x
2 0,・・・,xm 0）がｓ番目規則のＩＦ部に当てはまる割合で
ある。ファジィ集合AS のX0 におけるメンバーシップ値
をμAj S(Xj 0) と表すと、ＷS は次式で表される。
2 0,・・・,xm 0）がｓ番目規則のＩＦ部に当てはまる割合で
ある。ファジィ集合AS のX0 におけるメンバーシップ値
をμAj S(Xj 0) と表すと、ＷS は次式で表される。
【００１０】ＷS ＝ ПμAj S (xj 0) ファジィモデルの同定は、ＩＦ部とＴＨＥＮ部の構造同
定と、ＩＦ部とＴＨＥＮ部のパラメータ同定との２段階
で構成される。従来の同定法は、(1) ＩＦ部のファジィ
命題を適当な命題に定める、(2) ＷS を一定に変化させ
る、(3) 変数減少法でＴＨＥＮ部の入力変数の中から本
当に必要なものだけを捜す、(4) ＴＨＥＮ部のパラメー
タを最小二乗法で求める、(5）以上の(2)〜(4)を繰り返
し、最適なパラメータを決める、(6) ＩＦ部のファジィ
命題を変える、(7) (2)へ戻り、新しいファジィ命題の
条件での最適なパラメータを繰り返し捜す、であった。
つまり、発見方法的な同定アルゴリズムであると言えよ
う。
定と、ＩＦ部とＴＨＥＮ部のパラメータ同定との２段階
で構成される。従来の同定法は、(1) ＩＦ部のファジィ
命題を適当な命題に定める、(2) ＷS を一定に変化させ
る、(3) 変数減少法でＴＨＥＮ部の入力変数の中から本
当に必要なものだけを捜す、(4) ＴＨＥＮ部のパラメー
タを最小二乗法で求める、(5）以上の(2)〜(4)を繰り返
し、最適なパラメータを決める、(6) ＩＦ部のファジィ
命題を変える、(7) (2)へ戻り、新しいファジィ命題の
条件での最適なパラメータを繰り返し捜す、であった。
つまり、発見方法的な同定アルゴリズムであると言えよ
う。
【００１１】また、従来の推論装置としては、例えば、
図２のブロック25図に示すようなファジィ推論装置があ
った。図２において、１ａはデータ（計測値および人間
の評価値を含む）入力部、２ａは表示指令部、３ａはフ
ァジィ推論演算部、４ａは推論結果出力部、５ａは表示
部である。表示部２ａはキーボードで構成され、ファジ
ィ推論演算部３ａはデジタル計算機で構成されている。
データ入力部１ａに入力されたデータはファジィ推論演
算部３ａで推論演算が施された結果、推論結果を出力
し、同時に表示部５ａに推論規則のリスト、ファジィ変
数のリストおよび各種推論規則の使用状況などが表示さ
れるようになっている。図２に示すような従来の推論装
置はファジィ推論規則の推論規則や入力データとしての
ファジィ変数はファジィ推論演算部３ａで一定に固定さ
れており、ファジィ変数を変更する機能は持たない。
図２のブロック25図に示すようなファジィ推論装置があ
った。図２において、１ａはデータ（計測値および人間
の評価値を含む）入力部、２ａは表示指令部、３ａはフ
ァジィ推論演算部、４ａは推論結果出力部、５ａは表示
部である。表示部２ａはキーボードで構成され、ファジ
ィ推論演算部３ａはデジタル計算機で構成されている。
データ入力部１ａに入力されたデータはファジィ推論演
算部３ａで推論演算が施された結果、推論結果を出力
し、同時に表示部５ａに推論規則のリスト、ファジィ変
数のリストおよび各種推論規則の使用状況などが表示さ
れるようになっている。図２に示すような従来の推論装
置はファジィ推論規則の推論規則や入力データとしての
ファジィ変数はファジィ推論演算部３ａで一定に固定さ
れており、ファジィ変数を変更する機能は持たない。
【００１２】
【発明が解決しようとする課題】上記のファジィモデリ
ングに限らず従来の推論規則決定方法においては、メン
バーシップ関数の決定アルゴリズムが発見的解法に基づ
いているため、複雑でありかつ決定すべきパラメータ数
も非常に多い。従って、高速にかつ容易に最適な推論規
則を得られなかった。
ングに限らず従来の推論規則決定方法においては、メン
バーシップ関数の決定アルゴリズムが発見的解法に基づ
いているため、複雑でありかつ決定すべきパラメータ数
も非常に多い。従って、高速にかつ容易に最適な推論規
則を得られなかった。
【００１３】また、上記のような図２の推論装置では、
推論規則の学習機能がないために、入力変数の特性が時
間と共に変化し、当所設定した推論規則では推論精度が
悪くなるという課題に対応できなかった。例えば、「暑
ければ○○に制御する」という推論規則があったとしよ
う。「暑い」という曖昧な概念は人によっても季節によ
っても異なるので、推論装置が学習機能を持ち、使用状
況に応じて適応的に推論規則を変更できなければ満足の
いく制御はできない。更に、実際には非線形な推論が必
要な場合が多く、従来例の説明で延べたような線形近似
を行う方法では推論精度向上に限界があった。
推論規則の学習機能がないために、入力変数の特性が時
間と共に変化し、当所設定した推論規則では推論精度が
悪くなるという課題に対応できなかった。例えば、「暑
ければ○○に制御する」という推論規則があったとしよ
う。「暑い」という曖昧な概念は人によっても季節によ
っても異なるので、推論装置が学習機能を持ち、使用状
況に応じて適応的に推論規則を変更できなければ満足の
いく制御はできない。更に、実際には非線形な推論が必
要な場合が多く、従来例の説明で延べたような線形近似
を行う方法では推論精度向上に限界があった。
【００１４】本発明は従来の問題点を解決するために、
学習機能を使い経験則に頼らずに、「IF・・・,THEN・・・」
形式で記述された推論規則中に含まれるファジィ数を自
動的に決定する推論規則決定装置を提供することを目的
とする。
学習機能を使い経験則に頼らずに、「IF・・・,THEN・・・」
形式で記述された推論規則中に含まれるファジィ数を自
動的に決定する推論規則決定装置を提供することを目的
とする。
【００１５】
【課題を解決するための手段】本願発明は、ＩＦ部とＴ
ＨＥＮ部からなるファジィ推論規則を内蔵するファジィ
推論演算部と、前記ファジィ推論演算部の出力と理想的
出力をそれぞれ入力しその誤差を計算する誤差計算部
と、前記ファジィ推論演算部への入力値と前記誤差計算
部の出力とを入力しそれらに基づいて前記ファジィ推論
規則の少なくともＩＦ部における入力ファジィ変数を定
義するメンバーシップ関数を決定する神経回路網とを備
え、前記神経回路網は、学習データとして予め決められ
た入力値を前記ファジィ推論演算部に入力した場合の前
記理想出力値と前記ファジィ推論演算部の実際の出力と
を用いて前記誤差が最小になるように学習を行い、前記
メンバーシップ関数の形状を変化させることで最適な前
記メンバーシップ関数を決定することができるように構
成されていることを特徴とする推論規則決定装置であ
る。
ＨＥＮ部からなるファジィ推論規則を内蔵するファジィ
推論演算部と、前記ファジィ推論演算部の出力と理想的
出力をそれぞれ入力しその誤差を計算する誤差計算部
と、前記ファジィ推論演算部への入力値と前記誤差計算
部の出力とを入力しそれらに基づいて前記ファジィ推論
規則の少なくともＩＦ部における入力ファジィ変数を定
義するメンバーシップ関数を決定する神経回路網とを備
え、前記神経回路網は、学習データとして予め決められ
た入力値を前記ファジィ推論演算部に入力した場合の前
記理想出力値と前記ファジィ推論演算部の実際の出力と
を用いて前記誤差が最小になるように学習を行い、前記
メンバーシップ関数の形状を変化させることで最適な前
記メンバーシップ関数を決定することができるように構
成されていることを特徴とする推論規則決定装置であ
る。
【００１６】
【発明の実施の形態】以下、本発明の実施の形態例につ
いて図面を参照して説明する。
いて図面を参照して説明する。
【００１７】本発明の方法の特徴は、学習機能でメンバ
ーシップ関数を逐次に決定する点にある。学習機能の実
現方法には色々考えられるが、第１の実施の形態では神
経回路網モデルの学習アルゴリズムを用いることにす
る。そこで、実施の形態の説明をする前に神経回路網モ
デルの説明と神経回路網モデルの学習アルゴリズムとを
説明する。
ーシップ関数を逐次に決定する点にある。学習機能の実
現方法には色々考えられるが、第１の実施の形態では神
経回路網モデルの学習アルゴリズムを用いることにす
る。そこで、実施の形態の説明をする前に神経回路網モ
デルの説明と神経回路網モデルの学習アルゴリズムとを
説明する。
【００１８】神経回路網モデルは脳神経細胞の結合にヒ
ントを得た数理ネットワークである。回路網を構成する
ユニット間の接続強度を逐次学習で決定することによ
り、経験に基づかないで推論規則を決定することができ
る。
ントを得た数理ネットワークである。回路網を構成する
ユニット間の接続強度を逐次学習で決定することによ
り、経験に基づかないで推論規則を決定することができ
る。
【００１９】図３の回路網は神経回路網モデルの１種で
ある。図３において、１００は多入力一出力信号処理部
を示し、１０１は神経回路網モデルの入力部を表してい
る。図４に具体的な構成例を示す。図４は入力変数４個
を入力とし１個の出力値を推定する３段構成の神経回路
網モデルの例であり、各段内相互に結合がなく、かつ上
段の層にのみ信号が伝播される。このような神経回路網
モデルを構成する多入力一出力信号処理部１００のう
ち、線形演算のみを基本とする線形信号処理部の構成を
具体的に示したものが図５である。図５において、１０
０１は多入力一出力信号処置部１００の入力部、１００
２は入力部１００１からの複数入力を重みつける重み係
数を格納するメモリ、１００３はメモリ１００２の重み
係数と入力部１００１からの入力を各々掛け合わせる乗
算器、１００４は乗算器１００３各々の出力を足し合わ
せる加算器である。つまり、図５に示す多入力一出力信
号処理部１００は入力部１００１への入力値をｘi 、メ
モリ１００２に格納されている重み係数をｃi とすれ
ば、 ｙ＝ Σcixi を計算しているわけである。また、図６は、神経回路網
モデルを構成する多入力一出力信号処理部１００のう
ち、非線形演算も行う非線形信号処理部の構成を具体的
に示したものである。図６において、１０００は図５で
説明した線形信号処理部、２０００は線形信号処理部の
出力を一定範囲の値に制限する閾値処理部である。閾値
処理部２０００の入出力特性例を図７に示す。例えば、
出力を（０，１）の範囲に制限する閾値処理部２０００
の入出力特性は OUT = 1 / (1 + exp(-IN)) と数式的に表現できる。ここで、IN と OUT は閾値処理
部２０００の入力と出力である。
ある。図３において、１００は多入力一出力信号処理部
を示し、１０１は神経回路網モデルの入力部を表してい
る。図４に具体的な構成例を示す。図４は入力変数４個
を入力とし１個の出力値を推定する３段構成の神経回路
網モデルの例であり、各段内相互に結合がなく、かつ上
段の層にのみ信号が伝播される。このような神経回路網
モデルを構成する多入力一出力信号処理部１００のう
ち、線形演算のみを基本とする線形信号処理部の構成を
具体的に示したものが図５である。図５において、１０
０１は多入力一出力信号処置部１００の入力部、１００
２は入力部１００１からの複数入力を重みつける重み係
数を格納するメモリ、１００３はメモリ１００２の重み
係数と入力部１００１からの入力を各々掛け合わせる乗
算器、１００４は乗算器１００３各々の出力を足し合わ
せる加算器である。つまり、図５に示す多入力一出力信
号処理部１００は入力部１００１への入力値をｘi 、メ
モリ１００２に格納されている重み係数をｃi とすれ
ば、 ｙ＝ Σcixi を計算しているわけである。また、図６は、神経回路網
モデルを構成する多入力一出力信号処理部１００のう
ち、非線形演算も行う非線形信号処理部の構成を具体的
に示したものである。図６において、１０００は図５で
説明した線形信号処理部、２０００は線形信号処理部の
出力を一定範囲の値に制限する閾値処理部である。閾値
処理部２０００の入出力特性例を図７に示す。例えば、
出力を（０，１）の範囲に制限する閾値処理部２０００
の入出力特性は OUT = 1 / (1 + exp(-IN)) と数式的に表現できる。ここで、IN と OUT は閾値処理
部２０００の入力と出力である。
【００２０】上記の神経回路網の入出力関係を(100)式
で表現する。
で表現する。
【００２１】 ｙ＝ ＮＮ（ｘ） (100) なお、実施の形態の説明では、モデルの規模をｋ層［ｕ
0×ｕ1×・・・×ｕk］で表現するものとする。ｕiはそれ
ぞれ、入力層、中間層、出力層の神経細胞モデル数であ
る。以上が神経回路網モデルの一般的説明である。
0×ｕ1×・・・×ｕk］で表現するものとする。ｕiはそれ
ぞれ、入力層、中間層、出力層の神経細胞モデル数であ
る。以上が神経回路網モデルの一般的説明である。
【００２２】次に神経回路網モデルの学習アルゴリズム
について述べる。学習アルゴリズムは色々提案されてお
り、その１つに、Backpropagation (D.E.Rumelhart, G.
E.Hinton and R.J.Williams, "Learning Representatio
ns by Back-Propagating Errors, "Nature, vol.323, p
p.533-536, Oct.9,1986) がある。数学的な証明・定式
化は参考文献に譲るが、基本的には次の通りである。ま
ず、学習データとして入力変数と、他の手段で推定した
各推論規則への所属割合値とを組にして多数用意してお
く。入力データを神経回路網モデルに入力する。初めは
メモリ１００２には適当な値、例えば乱数値を入れてお
く。その時の神経回路網モデルの出力値と推論規則への
所属割合値との誤差を求める。この誤差はメモリ１００
２の重み係数の関数になっているので誤差の重み微分方
向へ重み係数を修正する。つまり、最急降下法（Steepe
st Decent Method) に従って逐次に重みを修正すること
で誤差を最小にし学習を行うのである。これが Backpro
pagationアルゴリズムを用いた学習方法の概要である。
について述べる。学習アルゴリズムは色々提案されてお
り、その１つに、Backpropagation (D.E.Rumelhart, G.
E.Hinton and R.J.Williams, "Learning Representatio
ns by Back-Propagating Errors, "Nature, vol.323, p
p.533-536, Oct.9,1986) がある。数学的な証明・定式
化は参考文献に譲るが、基本的には次の通りである。ま
ず、学習データとして入力変数と、他の手段で推定した
各推論規則への所属割合値とを組にして多数用意してお
く。入力データを神経回路網モデルに入力する。初めは
メモリ１００２には適当な値、例えば乱数値を入れてお
く。その時の神経回路網モデルの出力値と推論規則への
所属割合値との誤差を求める。この誤差はメモリ１００
２の重み係数の関数になっているので誤差の重み微分方
向へ重み係数を修正する。つまり、最急降下法（Steepe
st Decent Method) に従って逐次に重みを修正すること
で誤差を最小にし学習を行うのである。これが Backpro
pagationアルゴリズムを用いた学習方法の概要である。
【００２３】以上の神経回路網モデルおよび学習アルゴ
リズムを用いて、本発明の推論規則決定方法、および推
論量の計算方法を説明する。 ［ステップ １］推論値と高い相関がある入力変数のみ
を選択し、不要な入力変数を取り除く。例えば、神経回
路網モデルを用いてこの判定を行う場合は、まず、各入
力変数ｘj,j=1,2,・・・,k を神経回路網モデルへ入力し、
推論値ｙiになるよう学習する。次に入力変数を１つ減
らして同様の学習を行う。以下同様に、変数減少法を繰
り返す。これらの学習が完了した各神経回路網モデルの
出力と推論値ｙiとの差を 誤差二乗和を評価指標とし
て比較し、最も小さい誤差になった時の神経回路網モデ
ルの入力変数ｘj,ｊ=1,2,・・・, m , m≦ｋ のみを選択す
る。 ［ステップ ２］入出力データ（ｘi，ｙi）を推論規則
の構造同定用データ（以下TRDと記す。ｎt個）と推論規
則の評価用データ（以下、CHDと記す。ｎo個）とに分割
する。ｎ＝ｎt＋ｎoである。 ［ステップ ３］TRDを通常のクラスタリング手法を用
いて最適なｒ分割を行う。ｒ分割された学習データの各
組をＲs, s=1,2,・・・,r、Ｒsの学習データを（ｘi s，ｙi
s）,i=1,2,・・・,(nt)sとする。ただし、(nt)sは各Ｒsで
のTRDのデータ数を示す。ここでｍ次元空間をｒ分割す
るということは推論規則数をｒ個にすることを意味して
いる。［ステップ ４］ＩＦ部構造の同定を行う。ｘi
を神経回路網モデルの入力層の入力値とし、出力層の出
力値を、
リズムを用いて、本発明の推論規則決定方法、および推
論量の計算方法を説明する。 ［ステップ １］推論値と高い相関がある入力変数のみ
を選択し、不要な入力変数を取り除く。例えば、神経回
路網モデルを用いてこの判定を行う場合は、まず、各入
力変数ｘj,j=1,2,・・・,k を神経回路網モデルへ入力し、
推論値ｙiになるよう学習する。次に入力変数を１つ減
らして同様の学習を行う。以下同様に、変数減少法を繰
り返す。これらの学習が完了した各神経回路網モデルの
出力と推論値ｙiとの差を 誤差二乗和を評価指標とし
て比較し、最も小さい誤差になった時の神経回路網モデ
ルの入力変数ｘj,ｊ=1,2,・・・, m , m≦ｋ のみを選択す
る。 ［ステップ ２］入出力データ（ｘi，ｙi）を推論規則
の構造同定用データ（以下TRDと記す。ｎt個）と推論規
則の評価用データ（以下、CHDと記す。ｎo個）とに分割
する。ｎ＝ｎt＋ｎoである。 ［ステップ ３］TRDを通常のクラスタリング手法を用
いて最適なｒ分割を行う。ｒ分割された学習データの各
組をＲs, s=1,2,・・・,r、Ｒsの学習データを（ｘi s，ｙi
s）,i=1,2,・・・,(nt)sとする。ただし、(nt)sは各Ｒsで
のTRDのデータ数を示す。ここでｍ次元空間をｒ分割す
るということは推論規則数をｒ個にすることを意味して
いる。［ステップ ４］ＩＦ部構造の同定を行う。ｘi
を神経回路網モデルの入力層の入力値とし、出力層の出
力値を、
【００２４】
【数２】
【００２５】とする。そして各学習データ（ｘi，ｙi）
の各Ｒsに属する割合ｗi s を推定するよう神経回路網モ
デルを学習する。学習後の神経回路網モデルが出力する
値をＩＦ部のメンバーシップ値とする。即ち、メンバー
シップ関数を、
の各Ｒsに属する割合ｗi s を推定するよう神経回路網モ
デルを学習する。学習後の神経回路網モデルが出力する
値をＩＦ部のメンバーシップ値とする。即ち、メンバー
シップ関数を、
【００２６】
【数３】
【００２７】とする。μA S（ｘi，ｙi）＞０となる学習
データを改めて、（ｘi s，ｙi s）,i=1,2,・・・,(nt)sとす
る。 ［ステップ ５］ＴＨＥＮ部構造の同定を行う。各推論
規則のＴＨＥＮ部構造モデルを神経回路網モデルの入出
力関係(100)式で表し、TRDの入力値ｘi s，・・・,ｘim s, i
=1,2,・・・，(nt)sと出力値ｙi sを割り付ける。学習によ
って推論量を推定する神経回路網モデルを同定する。次
に、得られた神経回路網モデルにCHDの入力値ｘi1 s,・・
・,ｘim s,i=1,2,・・・,(nt)sを代入し、誤差二乗和Θsを求
める。
データを改めて、（ｘi s，ｙi s）,i=1,2,・・・,(nt)sとす
る。 ［ステップ ５］ＴＨＥＮ部構造の同定を行う。各推論
規則のＴＨＥＮ部構造モデルを神経回路網モデルの入出
力関係(100)式で表し、TRDの入力値ｘi s，・・・,ｘim s, i
=1,2,・・・，(nt)sと出力値ｙi sを割り付ける。学習によ
って推論量を推定する神経回路網モデルを同定する。次
に、得られた神経回路網モデルにCHDの入力値ｘi1 s,・・
・,ｘim s,i=1,2,・・・,(nt)sを代入し、誤差二乗和Θsを求
める。
【００２８】
【数４】
【００２９】［ステップ ６］変数減少法を用いて、各
推論規則のＴＨＥＮ部の推論量推定式に寄与している入
力変数のみを選び出す。ｍ個の入力変数の中で、任意に
１個の入力変数を取り除き、ステップ５と同様にTRDを
用いてＴＨＥＮ部毎に神経回路網モデルを同定する。次
に、CHDを用いた場合の推論量の推定誤差二乗和Θm-1 sp
を計算する。
推論規則のＴＨＥＮ部の推論量推定式に寄与している入
力変数のみを選び出す。ｍ個の入力変数の中で、任意に
１個の入力変数を取り除き、ステップ５と同様にTRDを
用いてＴＨＥＮ部毎に神経回路網モデルを同定する。次
に、CHDを用いた場合の推論量の推定誤差二乗和Θm-1 sp
を計算する。
【００３０】
【数５】
【００３１】上式から、取り除いた入力変数がＴＨＥＮ
部の決めるのにどの程度重要であるかがわかる。即ち、
次式(200) Θm s ＞ Θm-1 sp (200) となる場合には取り除いた入力変数ｘpの重要度は低い
と考えられるので、ｘpを捨てる。 ［ステップ ７］残りの入力変数の個数をｍ個としてス
テップ５と同様の操作を行う。以下、ステップ５〜ステ
ップ６を繰り返し、(200)式が全ての入力変数に対して
成立しなくなった場合に計算を停止する。Θsが最小と
なるモデルが最適な神経回路網モデルである。
部の決めるのにどの程度重要であるかがわかる。即ち、
次式(200) Θm s ＞ Θm-1 sp (200) となる場合には取り除いた入力変数ｘpの重要度は低い
と考えられるので、ｘpを捨てる。 ［ステップ ７］残りの入力変数の個数をｍ個としてス
テップ５と同様の操作を行う。以下、ステップ５〜ステ
ップ６を繰り返し、(200)式が全ての入力変数に対して
成立しなくなった場合に計算を停止する。Θsが最小と
なるモデルが最適な神経回路網モデルである。
【００３２】ステップ１〜ステップ７により、各推論規
則毎のＩＦ部とＴＨＥＮ部が決定され、ファジィ推論規
則の構造同定が終了する。 ［ステップ ８］推論量ｙi *は以下の式により得られ
る。
則毎のＩＦ部とＴＨＥＮ部が決定され、ファジィ推論規
則の構造同定が終了する。 ［ステップ ８］推論量ｙi *は以下の式により得られ
る。
【００３３】
【数６】
【００３４】神経回路網モデルが図７のように非線形な
特性の集まりであれば、当然この学習によって自動的に
非線形対象の推論が可能になる。
特性の集まりであれば、当然この学習によって自動的に
非線形対象の推論が可能になる。
【００３５】このように、本発明の方法で推論規則を決
定すれば、推論対象が、非線形関係あるいはあいまいな
入出力関係であっても、学習機能を用いて逐次に推論規
則を決定して行くので、発見的方法を取ることもなく、
容易に、かつ正確に推論規則を得ることができる。
定すれば、推論対象が、非線形関係あるいはあいまいな
入出力関係であっても、学習機能を用いて逐次に推論規
則を決定して行くので、発見的方法を取ることもなく、
容易に、かつ正確に推論規則を得ることができる。
【００３６】次に、具体的実験数値を用いて上述した本
発明の方法をわかりやすく説明しよう。ここでは近藤
正、”モデルの次数を推定する改良型ＧＭＤＨ”計測自
動制御学会論文集, vol.22,no.9,pp.928-934,1986年に
示されている簡単な数値例を用いて推論規則を決定し、
推論量を決定した。推論規則決定過程を以下に述べる。 ［ステップ １，２］図１０に入出力データを示す。デ
ータ番号1-20は学習に用いる推論規則の構造決定用デー
タ (TRD) であり、データ番号21-40は評価用データ (CH
D) である。したがって、 ｎt＝ｎo＝20, ｍ＝2 であ
る。３層［３×３×３×１］神経回路網モデルで15000
回学習して入力変数の選択を行った結果、表１の結果が
得られ
発明の方法をわかりやすく説明しよう。ここでは近藤
正、”モデルの次数を推定する改良型ＧＭＤＨ”計測自
動制御学会論文集, vol.22,no.9,pp.928-934,1986年に
示されている簡単な数値例を用いて推論規則を決定し、
推論量を決定した。推論規則決定過程を以下に述べる。 ［ステップ １，２］図１０に入出力データを示す。デ
ータ番号1-20は学習に用いる推論規則の構造決定用デー
タ (TRD) であり、データ番号21-40は評価用データ (CH
D) である。したがって、 ｎt＝ｎo＝20, ｍ＝2 であ
る。３層［３×３×３×１］神経回路網モデルで15000
回学習して入力変数の選択を行った結果、表１の結果が
得られ
【００３７】た。
【表１】
【００３８】入力変数ｘ4は加えても取り除いても誤差
二乗和に大した違いがない。従って、メンバーシップ関
数決定にはほとんど影響がないと判断し、以後の実験で
は用いない。 ［ステップ ３］通常のクラスタリング手法を用いてTR
Dを分割する。クラスタリングの結果、各学習データは
表２のように２分割可能である。
二乗和に大した違いがない。従って、メンバーシップ関
数決定にはほとんど影響がないと判断し、以後の実験で
は用いない。 ［ステップ ３］通常のクラスタリング手法を用いてTR
Dを分割する。クラスタリングの結果、各学習データは
表２のように２分割可能である。
【００３９】
【表２】
【００４０】［ステップ ４］学習データ（ｘi，
ｙi）,ｉ＝1,2,・・・,20 のＡsに属する割合ｗi s＝｛0,1}
をｗi s ［0,1］ の値で推定するために３層［３×３×
３×２］ 神経回路網モデルを 5000回学習し、ＩＦ部の
ファジィ数Ａ sを得た。この時の推論規則Ｒ1に対するＩ
Ｆ部のファジィ数Ａ1を図１１に示す。学習データはμR
1(ｘi,ｙi）＝ｗi 1＞０となる表２の入力データを用い
た。同様にＲ2に対してもＩＦ部のファジィ数を得る。 ［ステップ ５］各推論規則におけるＴＨＥＮ部の推論
量推定式を求める。３層 ［３×８×８×１］ 神経回路
網モデルを20000回学習した後のΘ4 sは表３のように得
られた。
ｙi）,ｉ＝1,2,・・・,20 のＡsに属する割合ｗi s＝｛0,1}
をｗi s ［0,1］ の値で推定するために３層［３×３×
３×２］ 神経回路網モデルを 5000回学習し、ＩＦ部の
ファジィ数Ａ sを得た。この時の推論規則Ｒ1に対するＩ
Ｆ部のファジィ数Ａ1を図１１に示す。学習データはμR
1(ｘi,ｙi）＝ｗi 1＞０となる表２の入力データを用い
た。同様にＲ2に対してもＩＦ部のファジィ数を得る。 ［ステップ ５］各推論規則におけるＴＨＥＮ部の推論
量推定式を求める。３層 ［３×８×８×１］ 神経回路
網モデルを20000回学習した後のΘ4 sは表３のように得
られた。
【００４１】
【表３】
【００４２】［ステップ ６，７］推論規則ＲsのＴＨ
ＥＮ部の構造モデルから任意の１個の入力変数を取り除
いた場合のΘsを求める。３層 ［２×８×８×１］ 神
経回路網モデルを10000〜20000回学習した結果、推論規
則Ｒ1、Ｒ2に対して図１２の誤差二乗和が得られた。各
推論規則毎にステップ５とステップ６を比較すると、 全てのΘ3 1 ＞ Θ4 2 (＝27.86) ｘ1を取り除いた場合のΘ3 2 ＜ Θ4 2 (＝1.93) となっているので、推論規則１に対してはステップ５の
神経回路網モデルをＴＨＥＮ部モデルとする。推論規則
２に対しては更に計算を続け、第２段階目の繰り返し計
算で終了する。（ｘ2，ｘ3）入力の神経回路網モデルを
ＴＨＥＮ部モデルとする。得られたファジィモデルは となる。こうして得られた規則を実行する推論装置を用
いて、(300)式のｙ*を求めたものが図１３である。
ＥＮ部の構造モデルから任意の１個の入力変数を取り除
いた場合のΘsを求める。３層 ［２×８×８×１］ 神
経回路網モデルを10000〜20000回学習した結果、推論規
則Ｒ1、Ｒ2に対して図１２の誤差二乗和が得られた。各
推論規則毎にステップ５とステップ６を比較すると、 全てのΘ3 1 ＞ Θ4 2 (＝27.86) ｘ1を取り除いた場合のΘ3 2 ＜ Θ4 2 (＝1.93) となっているので、推論規則１に対してはステップ５の
神経回路網モデルをＴＨＥＮ部モデルとする。推論規則
２に対しては更に計算を続け、第２段階目の繰り返し計
算で終了する。（ｘ2，ｘ3）入力の神経回路網モデルを
ＴＨＥＮ部モデルとする。得られたファジィモデルは となる。こうして得られた規則を実行する推論装置を用
いて、(300)式のｙ*を求めたものが図１３である。
【００４３】なお、この実施の形態では、ファジィ推論
の結果として得られる推論量を(300)式による重み付き
重心を採用したが、中心値や最大値などを取る方法を用
いてもよい。また、本実施の形態では、Ｗsの演算式で
代数積を用いたが代数積の代わりにmini演算等のファジ
ィ論理演算を用いてもよい。
の結果として得られる推論量を(300)式による重み付き
重心を採用したが、中心値や最大値などを取る方法を用
いてもよい。また、本実施の形態では、Ｗsの演算式で
代数積を用いたが代数積の代わりにmini演算等のファジ
ィ論理演算を用いてもよい。
【００４４】上記の推論規則決定方法の手順の中で、特
に非線形メンバーシップ関数を自動的に決定する手順に
ついて更に具体的に説明しよう。
に非線形メンバーシップ関数を自動的に決定する手順に
ついて更に具体的に説明しよう。
【００４５】似通った入力データには同一推論規則が適
用されると考えるのは自然である。そこで、ステップ３
で学習データをクラスタリングする（図８(a)）。これ
らのクラスが１つ１つの推論規則に対応している。例え
ば、「IF ｘ1が小さく、かつ、ｘ2が大きければ、THEN・
・・」といった推論規則である。図８(a)の場合、この推
論規則がＲ1〜Ｒ3の３個ある。これらのクラスの代表的
な点（入力データの組）では各推論規則にほぼ１００％
従うが、境界に近づくにつれ、複数の推論規則の影響を
受けていくことになる。この割合の関数がメンバーシッ
プ関数であり、その形状は例えば図８(c)である。これ
は上から見たメンバーシップ関数の図で、斜線部はメン
バーシップ関数が交差している領域である。
用されると考えるのは自然である。そこで、ステップ３
で学習データをクラスタリングする（図８(a)）。これ
らのクラスが１つ１つの推論規則に対応している。例え
ば、「IF ｘ1が小さく、かつ、ｘ2が大きければ、THEN・
・・」といった推論規則である。図８(a)の場合、この推
論規則がＲ1〜Ｒ3の３個ある。これらのクラスの代表的
な点（入力データの組）では各推論規則にほぼ１００％
従うが、境界に近づくにつれ、複数の推論規則の影響を
受けていくことになる。この割合の関数がメンバーシッ
プ関数であり、その形状は例えば図８(c)である。これ
は上から見たメンバーシップ関数の図で、斜線部はメン
バーシップ関数が交差している領域である。
【００４６】さてこのようなメンバーシップ関数を作る
手順がステップ３・４である。即ち、図８(b)の神経回
路網モデルを用意し、入力にＩＦ部の変数値（図の場合
ｘ1とｘ2）を割り当て、出力にその入力値が属する規則
番号に１、その他に０を割り当てて学習させる。神経回
路網モデルの重要な特徴の１つに、類似入力には類似出
力が対応する点がある。学習には図８(a)の×点のみが
使われたが、その近傍であれば同じ出力、つまり同じ推
論規則に従う旨出力してくる。更に、学習を終えた神経
回路網モデルは各推論規則の境界付近の入力データに対
しては、それぞれの推論規則に属する割合の最適バラン
ス値を出力することになる。これがメンバーシップ値
で、言い換えれば、この神経回路網モデルは各推論規則
の全てのメンバーシップ関数を内部に包含したといえ
る。
手順がステップ３・４である。即ち、図８(b)の神経回
路網モデルを用意し、入力にＩＦ部の変数値（図の場合
ｘ1とｘ2）を割り当て、出力にその入力値が属する規則
番号に１、その他に０を割り当てて学習させる。神経回
路網モデルの重要な特徴の１つに、類似入力には類似出
力が対応する点がある。学習には図８(a)の×点のみが
使われたが、その近傍であれば同じ出力、つまり同じ推
論規則に従う旨出力してくる。更に、学習を終えた神経
回路網モデルは各推論規則の境界付近の入力データに対
しては、それぞれの推論規則に属する割合の最適バラン
ス値を出力することになる。これがメンバーシップ値
で、言い換えれば、この神経回路網モデルは各推論規則
の全てのメンバーシップ関数を内部に包含したといえ
る。
【００４７】なお、本発明の方法の実施の形態に於いて
は神経回路網の学習アルゴリズムを用いてファジィ推論
規則のメンバーシップ関数を決定したが、もちろん他の
学習アルゴリズムであっても構わない。神経回路網のア
ルゴリズムで述べた Backpropagationアルゴリズムが古
典的な最急降下法に基づいていることからも容易に想像
がつくように、他の学習方法としては、ニュートン法や
共役傾斜法などの非線形最小化問題の分野で使われてい
る多くの学習アルゴリズムが容易に考えられる。また、
パターン認識の分野では認識に使う標準パターンを逐次
的に入力パターンに近づける学習方法を用いることは常
識になっており、このような逐次学習方法を用いてもよ
い。
は神経回路網の学習アルゴリズムを用いてファジィ推論
規則のメンバーシップ関数を決定したが、もちろん他の
学習アルゴリズムであっても構わない。神経回路網のア
ルゴリズムで述べた Backpropagationアルゴリズムが古
典的な最急降下法に基づいていることからも容易に想像
がつくように、他の学習方法としては、ニュートン法や
共役傾斜法などの非線形最小化問題の分野で使われてい
る多くの学習アルゴリズムが容易に考えられる。また、
パターン認識の分野では認識に使う標準パターンを逐次
的に入力パターンに近づける学習方法を用いることは常
識になっており、このような逐次学習方法を用いてもよ
い。
【００４８】また、実施の形態のステップ５ではＴＨＥ
Ｎ部も神経回路網で構成する場合を説明したが、ＴＨＥ
Ｎ部は他の方法で表現してもよい。例えば、従来の方法
で述べたようなファジィモデリングを使えば、非線形表
現という点で第１の実施の形態とは違いを生じるが、Ｉ
Ｆ部に神経回路網モデルのような学習機能を組み込んで
あれば、推論規則のファジィ数を学習機能で逐次に自動
決定するという本発明の本質は損なわれない。
Ｎ部も神経回路網で構成する場合を説明したが、ＴＨＥ
Ｎ部は他の方法で表現してもよい。例えば、従来の方法
で述べたようなファジィモデリングを使えば、非線形表
現という点で第１の実施の形態とは違いを生じるが、Ｉ
Ｆ部に神経回路網モデルのような学習機能を組み込んで
あれば、推論規則のファジィ数を学習機能で逐次に自動
決定するという本発明の本質は損なわれない。
【００４９】また、本発明の実施の形態ではファジィ推
論規則のメンバーシップ関数の自動形成という表現を用
いている。この特殊な場合が古典的なエキスパートシス
テムで用いられているプロダクションルールの場合であ
る。この場合であれば、推論規則の信頼度を自動形成す
るという表現の方が理解しやすいであろう。しかし、こ
れも本発明の方法における実施の形態の特殊な場合に過
ぎない。
論規則のメンバーシップ関数の自動形成という表現を用
いている。この特殊な場合が古典的なエキスパートシス
テムで用いられているプロダクションルールの場合であ
る。この場合であれば、推論規則の信頼度を自動形成す
るという表現の方が理解しやすいであろう。しかし、こ
れも本発明の方法における実施の形態の特殊な場合に過
ぎない。
【００５０】次に、本発明の方法で得られた推論規則に
基づいて推論を行う第２の発明についてその実施の形態
を述べる。図９は本発明の推論装置の第１の実施の形態
における構成図を示すものである。図１において、１は
各推論規則のＩＦ部のメンバーシップ値を求めるメンバ
ーシップ値決定部、２は各推論規則のＴＨＥＮ部で求め
るべき推論量を推定する個別推論量決定部、３は個別推
論量決定部２からの出力とメンバーシップ値決定部１の
出力から最終的な推論量を決定する最終推論量決定部で
ある。２１〜２ｒは推論規則１〜推論規則ｒの各々に基
づいて推論量を決める個別推論量決定部２１の内部構成
である。ここで、メンバーシップ値決定部１、および、
個別推論量決定部２１〜２ｒは図３に示すような多段の
回路網的構成をしている。
基づいて推論を行う第２の発明についてその実施の形態
を述べる。図９は本発明の推論装置の第１の実施の形態
における構成図を示すものである。図１において、１は
各推論規則のＩＦ部のメンバーシップ値を求めるメンバ
ーシップ値決定部、２は各推論規則のＴＨＥＮ部で求め
るべき推論量を推定する個別推論量決定部、３は個別推
論量決定部２からの出力とメンバーシップ値決定部１の
出力から最終的な推論量を決定する最終推論量決定部で
ある。２１〜２ｒは推論規則１〜推論規則ｒの各々に基
づいて推論量を決める個別推論量決定部２１の内部構成
である。ここで、メンバーシップ値決定部１、および、
個別推論量決定部２１〜２ｒは図３に示すような多段の
回路網的構成をしている。
【００５１】入力値ｘ1〜ｘnが本発明の推論装置に入力
されると、メンバーシップ値決定部１はこれらの入力値
が各推論規則を満たす割合を出力する。このメンバーシ
ップ値決定部１は予め本発明の推論規則決定方法で述べ
た手順に従って学習を済ませてある。また、個別推論量
決定部２１はこれらの入力値が推論規則１に従うとした
場合の推論量を出力する。以下同様に、個別推論量決定
部２１から２ｒは推論規則２〜ｒに従うとした場合の推
論量を出力する。最終推論量決定部３は、メンバーシッ
プ値決定部１と個別推論量決定部２から最終的な推論結
果を出力する。その決定方法は、例えば(300)式を用い
る。
されると、メンバーシップ値決定部１はこれらの入力値
が各推論規則を満たす割合を出力する。このメンバーシ
ップ値決定部１は予め本発明の推論規則決定方法で述べ
た手順に従って学習を済ませてある。また、個別推論量
決定部２１はこれらの入力値が推論規則１に従うとした
場合の推論量を出力する。以下同様に、個別推論量決定
部２１から２ｒは推論規則２〜ｒに従うとした場合の推
論量を出力する。最終推論量決定部３は、メンバーシッ
プ値決定部１と個別推論量決定部２から最終的な推論結
果を出力する。その決定方法は、例えば(300)式を用い
る。
【００５２】図６および図７からも明らかなように、神
経回路網モデルを構成する多入力一出力信号処理部１０
０の入出力関係は非線形である。従って、神経回路網モ
デルそのものも非線形推論を行うことができる。従って
本発明の推論装置は、線形近似ではできなかった高い推
論精度を実現することができる。
経回路網モデルを構成する多入力一出力信号処理部１０
０の入出力関係は非線形である。従って、神経回路網モ
デルそのものも非線形推論を行うことができる。従って
本発明の推論装置は、線形近似ではできなかった高い推
論精度を実現することができる。
【００５３】具体的応用例で本発明のこの高い推論精度
を示す。応用例は１９７６年４月〜１９７９年３月まで
大阪湾で測定した５個の測定パラメータからＣＯＤ（化
学的酸素要求量：Chemical Oxygen Demond)濃度を推定
する問題である。５個の測定パラメータとは（1)水温
（℃）、(2)透明度（ｍ）、(3)ＤＯ濃度（ppm)、(4)塩
分濃度（％）、(5)濾過したＣＯＤ濃度（ppm)である。
これらのデータのうち、１９７６年４月から１９７８年
１２月までの３２組のデータを用いて学習し、残り１２
個を学習後の評価用データとした。本発明が推定した結
果（実線）と実際のＣＯＤ濃度の測定値（点線）を図１
４に示す。大変よい推定結果と言えよう。
を示す。応用例は１９７６年４月〜１９７９年３月まで
大阪湾で測定した５個の測定パラメータからＣＯＤ（化
学的酸素要求量：Chemical Oxygen Demond)濃度を推定
する問題である。５個の測定パラメータとは（1)水温
（℃）、(2)透明度（ｍ）、(3)ＤＯ濃度（ppm)、(4)塩
分濃度（％）、(5)濾過したＣＯＤ濃度（ppm)である。
これらのデータのうち、１９７６年４月から１９７８年
１２月までの３２組のデータを用いて学習し、残り１２
個を学習後の評価用データとした。本発明が推定した結
果（実線）と実際のＣＯＤ濃度の測定値（点線）を図１
４に示す。大変よい推定結果と言えよう。
【００５４】このように本発明の推論装置における第１
の実施の形態によれば、少なくともネットワーク接続さ
れた複数の多入力一出力信号処理部から構成されるメン
バーシップ値決定部と、同じく少なくともネットワーク
接続された複数の多入力一出力信号処理部から構成され
る個別推論量決定部とを設けることにより、学習機能を
持ち、入力変数に非線形に対応した推論量を決定するこ
とができる。
の実施の形態によれば、少なくともネットワーク接続さ
れた複数の多入力一出力信号処理部から構成されるメン
バーシップ値決定部と、同じく少なくともネットワーク
接続された複数の多入力一出力信号処理部から構成され
る個別推論量決定部とを設けることにより、学習機能を
持ち、入力変数に非線形に対応した推論量を決定するこ
とができる。
【００５５】本発明の推論装置の第２の実施の形態とし
て、予め得られた神経回路網モデルの入出力関係をメモ
リに保持しておき、毎回直接神経回路網モデルを実行す
る代わりにメモリを参照することでも近似的な推論がで
きる。第１の実施の形態においてメンバーシップ値決定
部と個別推論量決定部は神経回路網モデルの構成をして
いるとしたが、事前に入力変数が明らかな場合や多少の
近似をしても構わないとするならば、学習アルゴリズム
で決定された神経回路網モデルから予め入出力の対応表
を作ることができる。推論規則実行時にこの対応表を参
照することでメンバーシップ値決定部または個別推論量
決定部の代用を行う第２の実施の形態では本発明の方法
を組み込んで学習機能を持たせることはできなくなる
が、図５のような回路構成が不要になるので安価で小型
の推論装置を実現することが可能になる。また、非線形
に対応した推論は本発明の推論装置の第１の実施の形態
と同様に行う事ができる。
て、予め得られた神経回路網モデルの入出力関係をメモ
リに保持しておき、毎回直接神経回路網モデルを実行す
る代わりにメモリを参照することでも近似的な推論がで
きる。第１の実施の形態においてメンバーシップ値決定
部と個別推論量決定部は神経回路網モデルの構成をして
いるとしたが、事前に入力変数が明らかな場合や多少の
近似をしても構わないとするならば、学習アルゴリズム
で決定された神経回路網モデルから予め入出力の対応表
を作ることができる。推論規則実行時にこの対応表を参
照することでメンバーシップ値決定部または個別推論量
決定部の代用を行う第２の実施の形態では本発明の方法
を組み込んで学習機能を持たせることはできなくなる
が、図５のような回路構成が不要になるので安価で小型
の推論装置を実現することが可能になる。また、非線形
に対応した推論は本発明の推論装置の第１の実施の形態
と同様に行う事ができる。
【００５６】このように第２の実施の形態によれば、少
なくともメンバーシップ値決定部または個別推論量決定
部が、少なくともネットワーク接続された複数の多入力
一出力信号処理部から構成される推論部の入出力特性を
予め保持したメモリとメモリ参照部とから構成されるこ
とにより、簡単な回路構成で、入力変数に非線形に対応
した推論量を決定することができる。
なくともメンバーシップ値決定部または個別推論量決定
部が、少なくともネットワーク接続された複数の多入力
一出力信号処理部から構成される推論部の入出力特性を
予め保持したメモリとメモリ参照部とから構成されるこ
とにより、簡単な回路構成で、入力変数に非線形に対応
した推論量を決定することができる。
【００５７】
【発明の効果】以上説明したように、本発明の装置によ
れば、学習機能を持ち自動的に推論規則を形成して最良
の推論を行う推論規則を作ることができる。
れば、学習機能を持ち自動的に推論規則を形成して最良
の推論を行う推論規則を作ることができる。
【図１】ファジィ変数の説明図
【図２】従来の推論装置の構成図
【図３】メンバーシップ値決定部および個別推論量決定
部を構成する神経回路網モデルの構成図
部を構成する神経回路網モデルの構成図
【図４】メンバーシップ値決定部および個別推論量決定
部を構成する神経回路網モデルの構成図
部を構成する神経回路網モデルの構成図
【図５】線形信号処理部の構成図
【図６】非線形信号処理部の構成図
【図７】閾値処理部の入出力特性図
【図８】神経回路網モデルを用いたメンバーシップ関数
の自動決定方法の説明図
の自動決定方法の説明図
【図９】本発明における一実施の形態の推論装置の構成
図
図
【図１０】実施の形態１の動作を説明するための入出力
データ構成図
データ構成図
【図１１】実施の形態１のＩＦ部の各学習データのメン
バーシップ値説明図
バーシップ値説明図
【図１２】入力変数を削減した場合の推論誤差図
【図１３】実施の形態１の推論量の推定結果図
【図１４】大阪湾のＣＯＤ濃度推定問題に応用したとき
の推定結果図
の推定結果図
１ メンバーシップ値決定部 ２ 別推論量決定部 ２１〜２ｒ 規則１〜規則ｒのための個別推論量決定部 ３ 最終推論量決定部 １００ 多入力ー出力信号処理部 １０１ メンバーシップ値決定部および個別推論量
決定部の入力部 １０００ 線形信号処理部 １００１ 多入力ー出力信号処理部の入力部 １００２ メモリ １００３ 乗算器 １００４ 加算器 ２０００ 閾値処理部 １ａ データ入力部 ２ａ 表示指令部 ３ａ ファイジ推論演算部 ４ａ 推論結果部 ５ａ 表示部
決定部の入力部 １０００ 線形信号処理部 １００１ 多入力ー出力信号処理部の入力部 １００２ メモリ １００３ 乗算器 １００４ 加算器 ２０００ 閾値処理部 １ａ データ入力部 ２ａ 表示指令部 ３ａ ファイジ推論演算部 ４ａ 推論結果部 ５ａ 表示部
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 「計測自動制御学会論文集」 ＶＯ Ｌ．24，ＮＯ．２ （1988−２） Ｐ. 85−91 「ＪＯＵＲＮＡＬ ＯＦ ＣＹＢＥＲ ＮＥＴＩＣＳ」 ＶＯＬ．４，ＮＯ．２ （1974） Ｐ．83−103
Claims (11)
- 【請求項１】ＩＦ部とＴＨＥＮ部からなるファジィ推論
規則を内蔵するファジィ推論演算部と、前記ファジィ推
論演算部の出力と理想的出力をそれぞれ入力しその誤差
を計算する誤差計算部と、前記ファジィ推論演算部への
入力値と前記誤差計算部の出力とを入力しそれらに基づ
いて前記ファジィ推論規則の少なくともＩＦ部における
入力ファジィ変数を定義するメンバーシップ関数を決定
する神経回路網とを備え、前記神経回路網は、学習デー
タとして予め決められた入力値を前記ファジィ推論演算
部に入力した場合の前記理想出力値と前記ファジィ推論
演算部の実際の出力とを用いて前記誤差が最小になるよ
うに学習を行い、前記メンバーシップ関数の形状を変化
させることで最適な前記メンバーシップ関数を決定する
ことができるように構成されていることを特徴とする推
論規則決定装置。 - 【請求項２】ＩＦ部とＴＨＥＮ部からなるファジィ推論
規則を内蔵するファジィ推論演算部と、前記ファジィ推
論演算部の出力と理想的出力をそれぞれ入力しその誤差
を計算する誤差計算部と、前記ファジィ推論演算部への
入力値と前記誤差計算部の出力とを入力しそれらに基づ
いて前記ファジィ推論規則の少なくともＴＨＥＮ部の出
力量を決定する定数または関数式またはファジィ変数を
定義するメンバーシップ関数を決定する神経回路網とを
備え、 前記神経回路網は、学習データとして予め決められた入
力値を前記ファジィ推論演算部に入力した場合の前記理
想出力値と前記ファジィ推論演算部の実際の出力とを用
いて前記誤差が最小になるように学習を行い、前記定数
または関数式を決定するかまたは前記メンバーシップ関
数の形状を変化させることで最適な前記メンバーシップ
関数を決定することができるように構成されていること
を特徴とする推論規則決定装置。 - 【請求項３】ＩＦ部とＴＨＥＮ部からなるファジィ推論
規則を内蔵するファジィ推論演算部と、前記ファジィ推
論演算部の出力と理想的出力をそれぞれ入力しその誤差
を計算する誤差計算部と、前記ファジィ推論演算部への
入力値と前記誤差計算部の出力とを入力しそれらに基づ
いて前記ファジィ推論規則のＩＦ部における入力ファジ
ィ変数を定義するメンバーシップ関数と、ＴＨＥＮ部の
出力量を決定する定数または関数式またはファジィ変数
を定義するメンバーシップ関数を決定する神経回路網と
を備え、 前記神経回路網は、学習データとして予め決められた入
力値を前記ファジィ推論演算部に入力した場合の前記理
想出力値と前記ファジィ推論演算部の実際の出力とを用
いて前記誤差が最小になるように学習を行い、メンバー
シップ関数の形状を変化させることで最適な前記ＩＦ部
のメンバーシップ関数を決定し、かつ、前記ＴＨＥＮ部
の定数または関数式を決定するかまたはメンバーシップ
関数の形状を変化させることで最適な前記ＴＨＥＮ部の
メンバーシップ関数を決定することができるように構成
されていることを特徴とする推論規則決定装置。 - 【請求項４】ファジィ推論規則が入力空間をファジィ分
割するメンバーシップ値を神経回路網の教師データと
し、入力データと前記教師データの入出力関係を前記神
経回路網に学習させることによってＩＦ部におけるファ
ジィ変数を定義するメンバーシップ関数を決定すること
を特徴とする請求項１または３記載の推論規則決定装
置。 - 【請求項５】学習データとして予め決められた入力値を
前記ファジィ推論演算部に入力した場合の前記理想出力
値と前記ファジィ推論演算部の実際の出力とを用いて前
記誤差が最小になるようにメンバーシップ関数の形状を
定義するパラメータを変化させることで最適なメンバー
シップ関数を決定することができるよう構成されている
神経回路網を持つことを特徴とする請求項１または３記
載の推論規則決定装置。 - 【請求項６】ＩＦ部とＴＨＥＮ部からなるファジィ推論
規則を内蔵するファジィ推論演算部からの出力と理想的
出力をそれぞれ入力し、その誤差を誤差計算部により計
算し、前記ファジィ推論演算部への入力値と前記誤差計
算部の出力とを入力しそれらに基づいて前記ファジィ推
論規則の少なくともＩＦ部における入力ファジィ変数を
定義するメンバーシップ関数を神経回路網により決定す
るにあたり、前記神経回路網は、学習データとして予め
決められた入力値を前記ファジィ推論演算部に入力した
場合の前記理想出力値と前記ファジィ推論演算部の実際
の出力とを用いて前記誤差が最小になるように学習を行
い、前記メンバーシップ関数の形状を変化させることで
最適な前記メンバーシップ関数を決定することを特徴と
する推論規則決定方法。 - 【請求項７】ＩＦ部とＴＨＥＮ部からなるファジィ推論
規則を内蔵するファジィ推論演算部からの出力と理想的
出力をそれぞれ入力し、その誤差を誤差計算部により計
算し、前記ファジィ推論演算部への入力値と前記誤差計
算部の出力とを入力しそれらに基づいて前記ファジィ推
論規則の少なくともＴＨＥＮ部の出力量を決定する定数
または関数式またはファジィ変数を定義するメンバーシ
ップ関数を神経回路網により決定するにあたり、前記神
経回路網は、学習データとして予め決められた入力値を
前記ファジィ推論演算部に入力した場合の前記理想出力
値と前記ファジィ推論演算部の実際の出力とを用いて前
記誤差が最小になるように学習を行い、前記定数または
関数式を決定するかまたは前記メンバーシップ関数の形
状を変化させることで最適な前記メンバーシップ関数を
決定することを特徴とする推論規則決定方法。 - 【請求項８】ＩＦ部とＴＨＥＮ部からなるファジィ推論
規則を内蔵するファジィ推論演算部からの出力と理想的
出力をそれぞれ入力し、その誤差を誤差計算部により計
算し、前記ファジィ推論演算部への入力値と前記誤差計
算部の出力とを入力しそれらに基づいて前記ファジィ推
論規則のＩＦ部における入力ファジィ変数を定義するメ
ンバーシップ関数と、ＴＨＥＮ部の出力量を決定する定
数または関数式またはファジィ変数を定義するメンバー
シップ関数とを神経回路網により決定するにあたり、前
記神経回路網は、学習データとして予め決められた入力
値を前記ファジィ推論演算部に入力した場合の前記理想
出力値と前記ファジィ推論演算部の実際の出力とを用い
て前記誤差が最小になるように学習を行い、メンバーシ
ップ関数の形状を変化させることで最適な前記ＩＦ部の
メンバーシップ関数を決定し、かつ、前記ＴＨＥＮ部の
定数または関数式を決定するかまたはメンバーシップ関
数の形状を変化させることで最適な前記ＴＨＥＮ部のメ
ンバーシップ関数を決定することを特徴とする推論規則
決定方法。 - 【請求項９】ファジィ推論規則が入力空間をファジィ分
割するメンバーシップ値を神経回路網の教師データと
し、入力データと前記教師データの入出力関係を前記神
経回路網に学習させることによってＩＦ部におけるファ
ジィ変数を定義するメンバーシップ関数を決定すること
を特徴とする請求項６または８記載の推論規則決定方
法。 - 【請求項１０】学習データとして予め決められた入力値
を前記ファジィ推論演算部に入力した場合の前記理想出
力値と前記ファジィ推論演算部の実際の出力とを用いて
前記誤差が最小になるようにメンバーシップ関数の形状
を定義するパラメータを変化させることで最適なメンバ
ーシップ関数を決定することができるよう構成されてい
る神経回路網を持つことを特徴とする請求項６または８
記載の推論規則決定方法。 - 【請求項１１】ＩＦ部とＴＨＥＮ部からなるファジイ推
論規則を用い、前記ファジイ推論規則の出力が理想的出
力に近づくように少なくともＩＦ部における入力ファジ
イ変数を定義するメンバーシップ関数を神経回路網を用
いて決定することを特徴とする推論規則決定方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP8003532A JP2813567B2 (ja) | 1988-05-20 | 1996-01-12 | 推論規則決定装置及び推論規則決定方法 |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP63-124354 | 1988-05-20 | ||
| JP12435488 | 1988-05-20 | ||
| JP8003532A JP2813567B2 (ja) | 1988-05-20 | 1996-01-12 | 推論規則決定装置及び推論規則決定方法 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP1505696A Division JP2553725B2 (ja) | 1988-05-20 | 1989-05-19 | 推論装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH08320792A JPH08320792A (ja) | 1996-12-03 |
| JP2813567B2 true JP2813567B2 (ja) | 1998-10-22 |
Family
ID=26337135
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP8003532A Expired - Fee Related JP2813567B2 (ja) | 1988-05-20 | 1996-01-12 | 推論規則決定装置及び推論規則決定方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2813567B2 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4193760B2 (ja) * | 2004-06-29 | 2008-12-10 | 日本電気株式会社 | 画像パターン補正方法、及びそれを適用した模擬画像生成方法、並びにパターン外観検査方法 |
-
1996
- 1996-01-12 JP JP8003532A patent/JP2813567B2/ja not_active Expired - Fee Related
Non-Patent Citations (2)
| Title |
|---|
| 「ＪＯＵＲＮＡＬ ＯＦ ＣＹＢＥＲＮＥＴＩＣＳ」 ＶＯＬ．４，ＮＯ．２ （１９７４） Ｐ．８３−１０３ |
| 「計測自動制御学会論文集」 ＶＯＬ．２４，ＮＯ．２ （１９８８−２） Ｐ．８５−９１ |
Also Published As
| Publication number | Publication date |
|---|---|
| JPH08320792A (ja) | 1996-12-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP0813127A2 (en) | Inference rule determining method and inference device | |
| Castillo et al. | Some applications of functional networks in statistics and engineering | |
| Ishibuchi et al. | Fuzzy regression using asymmetric fuzzy coefficients and fuzzified neural networks | |
| JP2747104B2 (ja) | ニューラルネットワーク | |
| KR920702784A (ko) | 뉴로-퍼지 융합 데이타처리 시스템 | |
| JPH11510936A (ja) | コンピュータによるファジィルールの最適化方法 | |
| JP3247803B2 (ja) | ファジィ・ニューラルネットワーク・システム | |
| Abdelbar et al. | HONEST: a new high order feedforward neural network | |
| JP2813567B2 (ja) | 推論規則決定装置及び推論規則決定方法 | |
| EP0661645A2 (en) | Neural network | |
| JP3354593B2 (ja) | ネットワーク型情報処理装置の学習システム | |
| JPH05128284A (ja) | ニユーロプロセツサ | |
| JP2553725B2 (ja) | 推論装置 | |
| JP2002288625A (ja) | 多目的最適化方法、プログラムおよびプラン立案装置 | |
| Mosleh | Numerical solution of fuzzy differential equations under generalized differentiability by fuzzy neural network | |
| JP2021012600A (ja) | 診断方法、学習方法、学習装置およびプログラム | |
| JP4267726B2 (ja) | 制御装置における動作信号と操作量との関係を決定する装置、制御装置、データ生成装置、入出力特性決定装置及び相関関係評価装置 | |
| JP3029451B2 (ja) | ファジィ制御装置 | |
| CN110334744A (zh) | 一种基于跨通道级联卷积层的神经网络模型优化算法 | |
| Georgopoulos et al. | Diagnosis support using fuzzy cognitive maps combined with genetic algorithms | |
| JPH06119175A (ja) | 階層ネットワーク構成ファジイモデル実行装置の構造変換方式およびファジィモデル抽出方式 | |
| JP3292495B2 (ja) | ニューロ・ファジィ融合システム | |
| JP3231860B2 (ja) | 神経回路網を用いた故障診断装置 | |
| JP2906605B2 (ja) | パターン認識装置 | |
| JP3396489B2 (ja) | ネットワーク型情報処理システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |