JPH06176001A - ネットワーク型情報処理システムとその学習方法 - Google Patents

Abstract

(57)【要約】 【目的】 多連続値入力と連続値出力の関係記述するこ
とができ、また、高速に学習を収束できること。 【構成】 複数の第１のノード（１０２〜１０４）と、
複数の第２のノード（１０５〜１０８）と、前記の第１
のノードと第２のノードを結合する非線形の選択型関数
特性を持つ方向性リンクとを備えたネットワーク型情報
処理システムにおいて、各第２のノードに対し予め定義
された固有の出力値と第２のノードの出力値とに基づい
て合成出力値を求める出力合成手段（１０９〜１１２）
を設けたものである。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、制御システム、信号処
理システムなどの連続値出力を伴う分野に有用なネット
ワーク構造を有する情報処理システムおよびその学習シ
ステムに関する。

【０００２】

【従来の技術】高度な情報処理機能を実現するための従
来の技術の一つとして、情報処理を行う構造が人間の脳
の神経細胞をモデルとしたニューラルネットワークがあ
る（例えば、Ｃｏｈｅｎ，Ｆｅｉｇｅｎｂａｕｍ著、
「人工知能ハンドブック」共立出版社発行、ｐ４８７−
４９３、 甘利外、特集「ニューラルネットワークに
ついて」，人工知能学会誌，Ｖｏｌ．４，ｐｐ１１８−
１７６（１９８９））。従来のニューラルネットワーク
技術においては、入出力の精度は、基本的には中間層の
ノードの数によって定まるため、精度を確保しようとす
るとデータ記述量が爆発的に増える場合が存在した。中
間層のノードを少なくした場合には、最終段の計算ユニ
ット出力が粗い段階的表現になったり、あるいは弁別で
きる種類が少なくなったりする。さらに識別すべき結果
の数（出力ノード数に等しい）に応じて、中間層のノー
ド数と出力ノードが増加してゆく。そのため、計算ユニ
ットを物理的に構成することも困難であるし、同時に計
算処理時間の上からも問題となることが多かった。推論
した結果を出力する度に、結果の良否判断を行ってしき
い値や重み値を確率的に更新して行くなどの学習機能が
備わっている場合には、学習時間がさらに大きな問題と
なっていた。また、従来技術においては、学習の対象と
なるシステム内部の処理記述が基本的にはリンクの重み
という形で表現され、概念的な具体性を持たないため、
学習の結果を外部（即ち、入出力データ）からしか判定
できないという問題があった。

【０００３】本願の特許出願人は先に、以上のような従
来の技術の諸問題を解決するための発明について、特許
出願をした（特願平３−３１００８２号「ネットワーク
型情報処理システム」）。この特願平３−３１００８２
号の発明のネットワーク型情報処理システムは、複数の
ノードを有する入力層と複数のノードを有する出力層が
方向性リンクを介して結合され、その方向性リンクは通
過する情報の変換をする情報変換機能を有し、前記出力
層のノードは方向性リンクを介して入力される情報に対
して関数演算を行う機能を有するネットワーク型情報処
理システムにおいて、上記の方向性リンクの情報変換機
能として、帯域通過型あるいは帯域阻止型のような選択
的な特性をもつフィルタ関数に従って情報変換を行うフ
ィルタ関数演算部を有するものである。これによれば、
一つの方向性リンクのフィルタ関数は、従来のニューラ
ルネットワークの複数の中間層が実現していた超平面に
対応し、また、入力層と出力層とを結合する方向性リン
クが作り出す領域指定は、上記従来技術の入力層と中間
層と出力層の組合せリンクとノードからなる複数の超平
面が示す領域指定に対応する。従って、上記ネットワー
ク型情報処理システムの発明は、従来のニューラルネッ
トワークに比べ、同一の精度を得るのに必要な記述量が
少なくなり、要素の数か少なくなって構成が簡単となる
とともに、処理時間を短縮することができる。そのネッ
トワーク型情報処理システムにおける学習方式は、前記
ネットワーク型情報処理システムが入力情報から方向性
リンクと計算ユニットを通して情報処理を行うのと平行
して、同じ入力情報から正常な情報処理結果を得る手段
を有し、その正常な結果を教師信号として、教師信号と
上記の情報処理結果（計算ユニットの出力）との差異
（誤差）を評価関数によって求め、その差異の大小やベ
クトル値を算出し、学習関数を介して、方向性リンクの
フィルタ関数を修正する学習手段を有する。ここで、正
常な情報処理結果を得る手段とは、例えば、入力情報と
それに対応する正しい出力情報を対比させた教師情報を
予め用意しておき、入力情報が与えられたとき、正しい
出力情報を取り出すように構成したものである。

【０００４】その後、本願の特許出願人は、特願平３−
３１００８２号の発明における学習処理を改良するため
に、さらに特許出願をした（特願平４−１７５０５６号
「ネットワーク型情報処理装置の学習システム」）。そ
の概要は次の通りである。そのネットワーク型情報処理
装置は、複数の入力ノードと、複数の出力ノードと、前
記入力ノードと出力ノードを結合する方向性リンクとを
有する。その方向性リンクは非線形の選択型関数である
フィルタ関数を記憶するフィルタ関数記憶手段（図２２
のパターンテーブル２２１３）と、方向性リンクを通過
する情報を前記フィルタ関数により変換をするフィルタ
関数演算手段（図２２の２２１２）を有する。また、前
記出力ノードは方向性リンクを介して入力される情報に
対して関数演算を行う手段（図２２の加算部２２１４、
しきい関数演算部２２１５）を有する。このネットワー
ク型情報処理装置（図２２の２２１）の学習システム
は、学習用のデータを前記ネットワーク型情報処理装置
に入力する入力手段（図２２のフィルタ関数演算部２２
２）と、入力された学習用データの示す領域が、既存の
認識領域に含まれるか否かを判定する領域判定手段（図
２２の領域判定部２２３）と、その領域判定手段により
前記既存の認識領域に含まれると判定された場合に、そ
の既存の認識領域を形成するフィルタ関数のセットにお
ける各フィルタ関数を個別に更新するフィルタ関数更新
手段（図２２のフィルタ関数更新部２２４）と、前記領
域判定手段により前記既存の認識領域に含まれないと判
定された場合に、新たな認識領域を形成するフィルタ関
数のセットを生成するフィルタ関数生成手段（図２２の
フィルタ関数生成部２２５）とを備えた基本構成を有す
る。既存の認識領域とは、既存のフィルタ関数のセット
により限定される領域のことである。

【０００５】上記の基本構成において、領域判定手段
は、入力データが示す領域（多次元領域における空間座
標）が、ネットワーク型情報処理装置の既存のフィルタ
関数セットが限定する認識領域に属するか否かを判定す
る。フィルタ関数更新手段は、その判定の結果、前記認
識領域に属するものであるとき、その認識領域に対応す
るフィルタ関数セットの各々のフィルタ関数を、ネット
ワーク型情報処理装置の目的に合うように、個別に更新
する。前記認識領域に属さないと判定されたときは、フ
ィルタ関数生成手段により新たな認識領域を設定する。
これにより、同じ階層にあるフィルタ関数のセットが多
次元の領域を軸方向に非対象に切り取るように認識領域
を分離できる。従って、自然に大小の認識領域が生成さ
れ、境界領域に小さなルールが生成されので、認識率が
高まる。

【０００６】

【発明が解決しようとする課題】前記先の出願の発明の
ネットワーク型情報処理システムは、基本的には、ある
特定の出力に対する多連続値入力の対応関係を記述する
ものである。従ってその出力は離散的なものであり、そ
のままでは連続値出力を得ることができない。そこで、
本発明は、前記先の出願の発明を拡張し、多連続値入力
と連続値出力の関係記述することのできるネットワーク
型情報処理システムとその学習方法を提供することを目
的とするものである。また、本発明は、高速に動作し、
少数の入出力の組から学習を収束させることのできるネ
ットワーク型情報処理システムの学習方法を提供するこ
とを目的とするものである。

【０００７】

【課題を解決するための手段および作用】本発明は、複
数の第１のノード（図１の１０１〜１０４）と、複数の
第２のノード（図１の１０５〜１０８）と、前記の第１
のノードと第２のノードを結合する非線形の選択型関数
特性を持つ方向性リンクとを備えたネットワーク型情報
処理システムにおいて、各第２のノードに対し予め定義
された固有の出力値と第２のノードの出力値とに基づい
て合成出力値を求める出力合成手段（図１の１０９〜１
１２）を設けたネットワーク型情報処理システムであ
る。

【０００８】前記各第２のノードに予め定義された固有
の出力値は、第２のノードのそれぞれに対応して、それ
を合成して出力するときに用いる値である。本発明の一
態様では、その値は、等差数列あるいは等比数列に従っ
た値を各第２のノードに対応して割当てたものである。
例えば等差数列に従って、１０個の第２のノードに順に
割当てると、その出力値は０，０、０．１、０．２、
０．３、・・・・０．７、０．８、０．９、１．０のよ
うに設定される。合成出力値は、選択された第２のノー
ドの出力値（合致度）とそのノードに対応する前記定義
された固有の出力値に基づいて合成される。例えば、選
択された第２のノードの合致度を加重として、前記定義
された固有の出力値を加重平均する。

【００】このネットワーク型情報処理システムに対する
学習は、出力教示データとして連続値を与え、その教示
データに応じて一つまたは複数の第２のノードを選択
し、教示データの値を所定の配分方式に従って配分し、
その配分された値を教示データとする個々の第２のノー
ドに対する学習処理（即ち、選択型関数であるフィルタ
関数の変更など）を行う。

【０００９】前記配分方式は、本発明の一態様によれば
入力された前記連続値に対して数値的に両側に位置する
第２のノードの離散値に対して、線形補間により配分す
るものである。

【００１０】このように学習されたネットワーク型情報
処理システムは、多連続値入力と多連続値出力の関係が
記述されたものとなる。なお、本明細書において、入力
または出力の「連続値」とは、多値で離散的ではない連
続量、例えば制御系における速度や流量などのアナログ
量をセンサによって検出しデジタル値に変換した場合の
ような連続量とみなせる多値をとり得るものである。従
って、本発明によれば、固有の出力値（離散値）をもつ
複数の第２のノードを設定し、その固有の出力値を合致
度に基づき合成するようにしたので、連続値の出力が可
能となる。

【００１１】また、本発明は、上述のネットワーク型情
報処理システムにおいて、そのネットワーク型情報処理
システム（図１７のＮｅｔＢ）の出力の誤差を出力する
少なくとも一つの第２のネットワーク型情報処理システ
ム（図１７をのＮｅｔＢ）を付加した態様とすることが
できる。この態様においては、１出力に対して複数のネ
ットワーク型処理システムを用い、一方のネットワーク
型情報システムの出力と教示された出力の誤差を、第２
のネットワーク型情報システムの出力として学習を行う
ことにより、精度的な向上をはかることがてきる。

【００１２】また、本発明は、複数の第１のノードと、
複数の第２のノードと、前記第１のノードと第２のノー
ドを結合する非線形の選択型関数特性を持つ方向性リン
クとを備えたネットワーク型情報処理システム（図１８
の１８１）において、各第２のノードに対し定義される
出力値を非線形の選択型関数として有し、前記定義され
る出力値と第２のノードの出力値を反映した連続値で表
される１以上の合成出力値を得る機能を持つ第２のネッ
トワーク型情報処理システム（図１８の１８２）を付加
した構成とすることができる。その学習においては、第
２のネットワーク型処理システムの学習を行い、その学
習結果により、第１のネットワーク型処理システムにお
ける学習対象の第２のノードを選択する。そしてその選
択された第２のノードに関し、パターンセットの生成変
更を行う。具体例によれば、学習時に入出力データの入
力が行われると、その教示出力データを入力情報とする
パターンテーブルに対しての教示を行う。高い合致度を
示すパターンセットがあれば、そのパターンセットと対
をなすネットワーク型情報処理システム（図１８の１８
１）のパターンテーブルを選択し、教示を行う。この発
明の態様においては、出力合成手段にネットワーク型情
報処理システムを用いたので、複数出力が可能となり、
また出力の精度の向上が期待できる。

【００１３】

【実施例】ネットワーク型情報処理装置の学習は、基本
的には多入力、１出力の未知の系Ｍがあり、この入出力
は可観測であるとして、この入出力から系Ｍと等価な特
性を有する系Ｂを得ることである。未知の系が、多入力
−多出力の系の場合には、多入力−１出力に対応した上
記系Ｂを複数用意することにより対応することができ
る。実施例１ 図１は本発明の実施例１によるネットワーク型情報処理
装置の構成の概略を示す図である。これは４入力１出力
の場合を示すものである。なお、出力が２になれば同様
のネットワークが２つ並列で構成される。このネットワ
ーク型情報処理装置は、図１に示すように第１層の複数
のノード１１，１２，１３，１４と、第２層の複数のノ
ード１０５，１０６，１０７，１０８と、第３層の複数
のノード１０９，１１０，１１１が方向性リンクにより
接続され、ネットワークを構成している。第３層の出力
にはそれらの出力を合成する出力合成部１１２が接続さ
れている。第１層の各ノードは、多連続入力Ｉ₀〜Ｉ₃を
第２層の各ノードへの方向性リンクに分配するものであ
る。各入力は多連続入力である。本明細書において、入
力または出力の「多連続」とは、前述のとおり多値で離
散的ではない連続量、例えば制御系における速度や流量
などのアナログ量をセンサによって検出しデジタル値に
変換した場合のような多値をとり得るものである。第１
層と第２層のノードの間を結合する方向性リンクはフィ
ルタ関数（メンバーシップ関数）ＭＦ₀₀〜ＭＦ₃₃と重み
ｗ₀₀〜ｗ₃₃とからなっている。

【００１４】第２層の各ノード１０５〜１０８は、接続
された各方向性リンクのフィルタ関数の出力値Ｖ_MF00〜
Ｖ_MF33とそれに対応する重みｗ₀₀〜ｗ₃₃を用いて、加重
平均あるいは加重相乗平均の演算を行う。例えば、ノー
ド１０５の出力値Ｖ_PS0は、加重平均および加重相乗平
均は、それぞれ下記の式で表される。加重加算平均の場
合、 Ｖ_PS0＝｛（Ｖ_MF00）×ｗ₀₀＋・・・＋（Ｖ_MF30）×ｗ
₃₀｝／（ｗ₀₀＋ｗ₀₁＋・・＋ｗ₀₃） 加重相乗平均の場合、 Ｖ_PS0＝｛（Ｖ_MF00）^w00×・・・×（Ｖ_MF30）^w30｝
^{1/(w00+w01+・・+w03)}

【００１５】第３層の各ノード１０９〜１１１は、最大
値を残すＭａｘ演算を行う。例えばノード１０９の出力
値Ｖ_PT0は次式で表される。 Ｖ_PT0＝Ｍａｘ｛Ｖ_PS0，Ｖ_PS1｝

【００１６】出力合成部１１２は、第３層のノードから
の出力Ｖ_PT0〜Ｖ_PT2を合成して連続値の出力値を得るも
のである。連続値を得るために、第３層のノードからの
出力に対し、異なる設定出力値が割当てられている。そ
の設定出力値の割当方法としては、次のようなもの間が
ある。 ａ） 等差数列による設定 系Ｍの出力の値域が、０．０〜１．０のとき、第３層の
ノードを１１個設定し、各々の設定出力値を下記のよう
に設定する。 Ｏ₀ ０．０ Ｏ₁ ０．１ Ｏ₂ ０．２ ・・ ・・ Ｏ₅ ０．２ ・・ ・・ Ｏ₁₀ １．０ ｂ） 等比数列による設定 Ｏ₀ ０．５ Ｏ₁ ０．２５ Ｏ₂ ０．１２５ ・・ ・・ Ｏ₅ （０．５）⁶ ・・ ・・ Ｏ₁₀ （０．５）¹¹

【００１７】図２は図１に示すネットワーク型情報処理
装置のネットワークのリンク上のフィルタ関数ＭＦと重
みｗを表形式で表現したものである。図において台形の
波形２０１〜２１６はフィルタ関数ＭＦを表し、その台
形波形の高さは重みｗが乗じてあるため異なっている。
パターンセットＰＳ₀〜ＰＳ₃はそれぞれ第２層のノード
１０５〜１０８に対応し、パターンテーブルＰＴ₀〜Ｐ
Ｔ₂は出力層（第３層）のノード１０９〜１１１に対応
している。

【００１８】図３は、図１における演算を行う部分の構
成例を示すブロック図である。図３に示すノードは、各
方向性リンクにおける、入力情報を選択的に通過させる
フィルタ関数の演算を行うフィルタ関数演算部３１〜３
４と、フィルタ関数演算部３１〜３４の出力を重み付け
した加算平均処理を行う加算部３５と、その加算部３５
の出力にしきい演算を施すしきい関数演算部３６からな
っている。

【００１９】フィルタ関数は、図４に示すように、入力
ノードに与えられた入力情報の値（入力値）を横軸にと
り合致度を縦軸にしたグラフにおいて不等辺の台形の形
状を持つメンバーシップ関数（ファジィメンバーシップ
関数）が用いられる。メンバーシップ関数は、最大合致
度を得る入力の中心の値である中心値ｃ、合致度ｖが得
られる入力値の許容範囲を中心値ｃからの左および右へ
の幅であらわす左分散値ｖ_lおよび右分散値ｖ_r、最大合
致度が得られる入力値の許容範囲を中心値ｃからの幅で
示した曖昧度ａによって記述される。フィルタ関数演算
部３１〜３４は、メンバーシップ関数の演算即ち入力値
ｓを合致度ｖに変換するものである。入力値ｓを合致度
ｖに変換する式は次にように表することができる。 ｖ＝０．０｛ｓ≦（ｃ−ｖ_l）または（ｃ＋ｖ_r）≦ｓ｝ ｖ＝１．０｛（ｃ−ａ）≦ｓかつｓ≦（ｃ＋ａ）｝ ｖ＝（（ｖ_l−ａ）−（ｃ−ａ−ｓ））／（ｖ−ａ） ｛（ｃ−ｖ_l）≦ｓかつｓ≦（ｃ−ａ）｝ ｖ＝（（ｖ_r−ａ）−（ｓ−ｃ−ａ））／（ｖ−ａ） ｛（ｃ＋ａ）≦ｓかつｓ≦（ｃ＋ｖ_r）｝

【００２０】加算部３５は、フィルタ関数演算部３１〜
３４により算出した出力を総合するために加算平均演算
を行う。本実施例では各メンバーシップ関数による入力
情報Ｉ₀〜Ｉ_iの合致度ｖ_1j〜ｖ_ijに重みを乗じた値を総
合して総合合致度を求める。総合合致度算出の方法は前
述のように種々考えられるが、本実施例においては、加
重加算平均を用いる。

【００２１】以上のような構成によるネットワーク型情
報処理装置による学習の動作について説明する。系に対
する入出力データの入力が行われると、まず出力データ
を解析し、出力ノードを一定数（１〜Ｎ個）選択し、同
時に各出力ノード（＝パターンテーブル）に対する教示
の強さを決定する。次にパターンテーブルにおいては、
入力データと上記のように決定された教示の強さを教師
データとして、パターンの変更処理を実行する。図５
は、その学習時の動作の概要を示す処理フロー図であ
る。図１および図２に示すネットワーク型情報処理装置
を用い、パターンテーブルＰＴ₀、ＰＴ₁、ＰＴ₂に定義
された出力値Ｏ_PT0、Ｏ_PT1、Ｏ_PT2をそれぞれ、０．
１、１．０、２．０と仮定する。

【００２２】（ステップＳ５１）入力Ｉ₀〜Ｉ₃をそれぞ
れ第１層のノード１０１〜１０４に入力すると共に、教
示出力値Ｏ_t（例えば、０．７）を入力する。

【００２３】（ステップＳ５２）どのパターンテーブル
ＰＴを教示対象とするかを選択する。例えば、前記のよ
うに教示出力値Ｏ_tとして０．７が入力された場合に
は、０．７は区間（０．０， １．０）に存在するの
で、パターンテーブルＰＴ₀、ＰＴ₁を選択する。

【００２４】（ステップＳ５３）選択されたパターンテ
ーブルに定義された出力値Ｏ_PT0、Ｏ_PT1と入力された教
示出力値Ｏ_tを基に教示強さを決定する。例えば、線形
配分によってパターンテーブルＰＴ₀に対する教示強さ
を０．３とし、パターンテーブルＰＴ₁に対する教示強
さを０．７とする。

【００２５】（ステップＳ５４）入力データＩ₀〜Ｉ₃を
用いて、選択されたパターンテーブルＰＴ₀、ＰＴ₁の出
力値（合致度）を算出する。即ち、図１のノード１０
５、１０６における演算により、それらの出力値
Ｖ_PS0、Ｖ_PS1を求め、更にそれらのＶ_PS0、Ｖ_PS1からノ
ード１０９における演算Ｖ_PT0＝Ｍａｘ｛Ｖ_PS0、
Ｖ_PS1｝により出力値Ｖ_PT0を求める。また、ノード１０
７における演算によりその出力値Ｖ_PS2を求め、ノード
１１０における演算Ｖ_PT1＝Ｖ_PS2により出力値Ｖ_PT1を
求める。

【００２６】（ステップＳ５５）ステップＳ５４で算出
したパターンテーブルＰＴ₀、ＰＴ₁の出力値について、
一つずつ以下の処理を行う。この例では、まずＶ_PT0に
関して処理を行い、次にＶ_PT1について処理を行う。

【００２７】（ステップＳ５６）出力値Ｖ_PT0を評価す
るために、その出力値Ｖ_PT0とパターンセット拡張のた
めの閾値Ｖ_extと比較する。

【００２８】（ステップＳ５７）ステップＳ５６の比較
の結果、出力値Ｖ_PT0が閾値Ｖ_extより小さい（Ｖｅｘｔ
≧ＶＰＴ０）ときは、出力値Ｖ_PT0と同じ合致度を持つ
パターンセットＰＳ（最大合致度を得たＰＳ）に対して
学習処理を実施する。

【００２９】（ステップＳ５８）ステップＳ５６の比較
の結果、出力値Ｖ_PT0が閾値Ｖ_extより大きい（Ｖｅｘｔ
＜ＶＰＴ０）ときは、パターンテーブルＰＴ₀に新規に
パターンセットを追加し、そのパターンセットに対して
学習処理を実施する。この例の場合には、パターンセッ
トＰＳ₄を生成し、パターンテーブルＰＴ₀に追加する。

【００３０】次に、出力値Ｖ_PT1について、ステップＳ
５６〜Ｓ５８の処理を行う。このようにして、前記選択
された教示対象パターンテーブルの処理がすべて終了し
たら、学習処理を終了する。

【００３１】ステップＳ５７またはＳ５８における選択
されたパターンセット、または生成されたパターンセッ
トに対する学習処理について、さらに詳細に説明する。
なお、この学習処理例として、本出願人が先に出願した
特願平特願平０４−１７５０５６号「ネットワーク型情
報処理装置の学習システム」の明細書において開示した
フィルタ関数の変更方式を用いる。図２２はその学習シ
ステムの機能ブロック図である。選択または生成された
パターンセットの学習のために教示データとして、図２
２に示すネットワーク型情報処理装置２２１に入力デー
タおよび教師データを入力し、パターンセットを構成す
る各次元のフィルタ関数を変更する。図６はフィルタ関
数の変更の処理フローを示すものである。教示信号とし
て入力するデータは、履歴バッファ２２７４に格納され
る（ステップＳ６１）。履歴バッファ２２７４は一つの
パターンセット即ちルールに入力された各次元のデータ
を保持するもので、所定のＭ個の入力の履歴を蓄える容
量も持っている。各ルールに対応して履歴バッファが用
意され、各履歴バッファごとに入力されたデータをカウ
ントするカウンタ（図示せず）が設けられている。履歴
バッファ２２７１の入力データ数を数えるカウンタは、
入力されるごとにカウンタの値を１増加させる（ステッ
プＳ６２）。次に、カウンタの値が１か否かを判定し
（ステップＳ６３）、もし１であれば、フィルタ関数更
新部２２４により次のようにフィルタ関数のパラメータ
を更新する（ステップＳ６４）。即ち、履歴データ数に
応じて更新方法を切り替えて更新を行う。なお、 Ｎ：履歴データ数（サンプリングデータ数） Ｍ：履歴バッファーサイズ Ｘ₀：初期入力データ Ｘ₁：履歴データの最小値 Ｘ₂：履歴データの最大値 Ｒ₁：正規空間最小値 Ｒ₂：正規空間最大値 Ｃ：中心値 Ａ：曖昧度 Ｖ：分散値 とする。

【００３２】ａ）Ｎ＝１の場合 Ｃ＝Ｘ₀ Ａ＝０ Ｖ＝学習処理時の情報として設定 図７は設定されたフィルタ関数の例を示すものである。
更新方法指定部２２８は、カウンタの値の判定の結果、
２以上であった場合は、カウンタの値が所定の数Ｍを越
えているか否かを判定する（ステップＳ６５）。その判
定の結果Ｍを越えていない場合は、フィルタ関数を次の
方法で更新する（ステップＳ６６）。

【００３３】ｂ）２＜Ｎ＜Ｍの場合 Ｃ＝（Ｘ₁＋Ｘ₂）／２ Ａ＝（Ｘ₂−Ｘ₁）／２ Ｖ＝Ａ＋２Ａ／Ｎ 図８は設定されたメンバーシップ関数の例を示すもので
ある。上述のａ）およびｂ）の場合は、そもそも統計的
に意味を持たない少数のデータを対象としている場合で
あり、学習方法も統計的というよりは特に非の無い直観
的な手法に頼らざるを得ない。ファジィの特性を反映
し、データ捕捉と評価が確実であると判断できる手法の
一例である。

【００３４】ステップＳ６５の判定の結果、カウンタの
値が履歴バッファの数を越えている場合には、次に示す
ような統計処理により変更する（ステップＳ６７）。な
お、統計処理により設定する方法は、本出願人の出願に
よる特願平３−３１００８２号「ネットワーク型情報処
理システム」の明細書に開示されている方法を用いるこ
とができる。 ｃ） 統計処理による変更 ある一定の観測期間中に、入力されたデータでかつ該当
するパターンに合致したものを集計し母集団とする。図
１０は入力されたデータの量子化のレベルＺを横軸と
し、各レベルに対するデータの発生回数Ｇを縦軸にと
り、データの発生分布の例を示すグラフの例である。な
お、Ｇ_cは入力データのノイズ成分等を除去するための
カットオフレベルである。母集団に含まれる要素の数が
一定の数に達した所でフィルタ関数更新部２２４は、フ
ィルタ関数であるメンバーシップ関数の変更操作を行
う。その母集団より下記の手順に従ってメンバーシップ
関数を導出する。

【００３５】図９はメンバーシップ関数のパラメータ抽
出処理のフロー図である。カットオフデータＧ_cが出力
データ指定として設定されているか否かを判定する（ス
テップ９１）。カットオフレベルＧ_cが設定されていれ
ば、各量子化レベルＺ_iごとにカットオフレベルを差し
引いた値を求めることにより分布データを操作する（ス
テップ９２）。即ち、Ｚ_i−Ｇ_cを求め、新たなＺ_iとす
る。図１０の入力データ分布をカットオフレベルＧ_cで
処理した結果を図１１に示す。上記のカットオフレベル
以下のデータを切り捨てる演算処理がＺの量子化レベル
のすべてについて終了するまで行われる。そのために、
各量子化レベルの演算終了ごとに、全ての量子化レベル
について終了したか否かの判定をする（ステップ９
３）。全ての量子化レベルについて終了したときはステ
ップ９４に移る。また、ステップ９１の判定によりカッ
トオフレベルが設定されていなかったときもステップ９
４に進む。

【００３６】分布データの平均値正規化座標値Ｚ_mを求
める（ステップ９４）。 Ｚ_m＝Σ（Ｚ_i×Ｇ_i）／ΣＧ_i ただし、Σはｉ＝０からｉ＝ｎまでの総和を表すものと
する。 平均値正規化座標値Ｚｍからマイナス側、プラス側それ
ぞれ独立に標準偏差値Ｓ_l，Ｓ_rを求める（ステップ９
５）。ステップ９４で求めた平均値正規化座標値Ｚ_mお
よびステップ９５で求めたマイナス側標準偏差値Ｓ_l，
プラス側標準偏差値Ｓ_rを基に次のような正規化座標値
を求める（ステップ９６）。即ち、平均値正規化座標値
Ｚ_mを中心に、図１２に示すように、マイナス側標準偏
差値Ｓ_lの１倍（注＊）の正規化座標値Ｚ_L1、マイナス
側標準偏差値Ｓ_lの３倍（注＊）の正規化座標値Ｚ_L2、
プラス側標準偏差値Ｓ_rの１倍（注＊）の正規化座標値
Ｚ_R1、プラス側標準偏差値Ｓ_rの３倍（注＊）の正規化
座標値Ｚ_R2、（注＊：この値は条件によって変更され
る）をそれぞれ求める。

【００３７】図１３に示すような正規化中心値Ｃ_s，正
規化曖昧度Ｖ_as，正規化分散値Ｖ_ls，Ｖ_rsをそれぞれ次
式により求める（ステップ９７）。 正規化中心値 Ｃ_s＝（Ｚ_L1＋Ｚ_R1）／２ 正規化曖昧度 Ｖ_as＝（Ｚ_R1-Ｚ_L1）／２ 正規化左分散値 Ｖ_ls＝Ｃ_s-Ｚ_L2 正規化右分散値 Ｖ_rs＝Ｚ_R2-Ｃ_s 次に、正規化中心値Ｃ_s，正規化曖昧度Ｖ_as，正規化左
分散値Ｖ_ls，正規化右分散値Ｖ_rsをそれぞれ逆正規化し
て、中心値Ｃ，曖昧度Ｖ_a，左分散値Ｖ_l，右分散値Ｖ_r
求める（ステップ９８）。学習による変更前の元のメン
バーシップ関数と、前述の図９に示す処理フローにより
生成したメンバーシップ関数とを用いて新しい（１回学
習後の）メンバーシップ関数を生成する。

【００３８】図１４は、本実施例においてメンバーシッ
プ関数を変更する方法（学習関数）を示す図である。同
図において、元の（現在の）メンバーシップ関数は点Ｐ
₁，Ｐ₂，Ｐ₃，Ｐ₄を結ぶ直線群（太線）により示され、
図９により求めた一定期間のサンプリングから得られた
データ分布に基づくメンバーシップ関数は点Ｐ₁ ^'，
Ｐ₂ ^'，Ｐ₃ ^'，Ｐ₄ ^'を結ぶ直線群（破線）により示され、
これらのメンバーシップ関数を基に新しく生成されるメ
ンバーシップ関数は点Ｐ₁ ^"，Ｐ₂ ^"，Ｐ₃ ^"，Ｐ₄ ^"を結ぶ直
線群（細線）により示されている。各４点の座標をＰ
（ｓ，ｖ）、Ｐ^'（ｓ^'，ｖ^'）、Ｐ^"（ｓ^"，ｖ^"）とす
る。 ｖ^"＝ｖ^'＝ｖ ｓ^"＝（１．０−ｇ）×ｓ＋ｇ×ｓ^' ただし、０．０≦ｇ≦１．０ 各４点のゲイン値ｇは独立に設定可能とする。

【００３９】各点のゲイン値の設定によって、同じ観測
データによっても、メンバーシップ関数の変更結果は異
なる。図１５は、ゲインの決めかたにより変更結果がど
のように変わるかを示すものである。図１５（ａ）は、
現在のメンバーシップ関数（細い実線）と一定期間のサ
ンプリングから得られた分布に基づくメンバーシップ関
数（破線）を示す。同図（ｂ）は、各点のゲイン値ｇを
０．５としたときに生成されるメンバーシップ関数（太
い実線）を示す。また、同図（ｃ）は、点Ｐ₁のゲイン
値ｇ＝０、他の点のゲイン値ｇ＝０．５とした場合を示
し、同図（ｄ）は、曖昧度（Ｐ₂とＰ₃間の距離）を変え
ず、底辺拡張方向のゲイン値ｇ＝１．０、かつ底辺縮小
方向のゲイン値ｇ＝０とした場合を示す。入力信号源で
あるセンサの特性、学習の意図などによって、上記ゲイ
ン値を設定し、学習の方向性を変化させることが可能で
ある。

【００４０】ここで、教示出力ノードの選択に関して、
種々の変形例を含めて説明する。 ａ）線形補間 線形補間による方式は、等差数列により設定出力値を設
定する形態の場合（実施例１はこの場合に該当する）に
有効な方法である。等比数列により設定出力値を設定す
る形態の場合には、原理的に用いることはできない。線
形補間による方式には、次のような方式がある。等差数
列による設定の場合に、出力信号としてある指定値、例
えば０．１３が入力されたとする。この場合、教示は設
定出力が前記指定値０．１３の近傍にある２つの出力値
Ｏ₁，Ｏ₂に対して実施することになる。また、この区間
０．１〜０．２における教師信号の位置によって、各出
力ノードに対する教示の強さを得る。この例において
は、線形補間を用いることによりＯ₁に対しては０．７
の強さ、Ｏ₂に対しては０．３の強さで教示する。

【００４１】ｂ）選択的教示 出力の教師信号を基に特定の出力ノードを選択して教示
を行うものである。等差数列により固有の出力値を設定
する場合にも、上記ａ）の線形補間を用いないで、設定
出力値が教師信号の最も近傍にある出力ノードを選択し
て教示を行うようにすることができる。ただし、これは
あまり実際的ではない。この選択的教示方式は等比数列
による出力値の設定の場合に有効である。例えば、出力
信号として０．１３が入力されたとする。教師信号より
も小さくかつ最も大きな設定出力値を持つ出力ノードを
選択する。この場合は、出力ノードはＯ₂（０．１２
５）である。次にこの差分を計算し（０．１３−０．１
２５＝０．００５）、同様にこの差分よりも小さく最も
大きな設定出力値を持つ出力ノードを選択する。この場
合は、Ｏ₇（０．００３９）である。同様の処理を繰り
返し、差分よりも小さい出力ノードがなくなるまで処理
を行う。このようにして選択された出力ノードに対し
て、強さ１．０で教示を行う。

【００４２】ｃ） 出力配分関数 前述の線形補間の一般化として、出力区分間にあるデー
タを、出力ノードに配分する関数を考える。この関数
は、各出力ノード毎に定義してもよいが、通常は、各出
力ノードで共通のものを使う。この関数は、教示データ
値と出力ノード値の差の絶対値に応じてＩＬＡのカウン
ト値を返す。なお、配分関数の性格上１つのデータに対
しては、カウント値の総和は常に１になるように設計す
る。前述の線形補間の場合は、出力ノードの出力値点上
で１で、最近燐ノード２つの出力値点で０になる正規三
角ファジイＭＦに相当する。一般の関数の場合は、関数
出力定義域が広くなれば、配分は２つより多くのノード
があるものである。

【００４３】次に、学習を終了した後のネットワーク型
情報処理装置の推論時の動作について説明する。入力デ
ータをネットワーク型情報処理装置の入力に与え、出力
ノードの出力値即ち合致度を得る。各出力のノードに定
義されている固有の設定出力値を、上記出力ノードの出
力値（合致度）によって加重平均し合成して系Ｂの出力
とする。図１６は本実施例における推論時の動作例を示
すフロー図である。 （ステップＳ１６１）入力Ｉ₀〜Ｉ₃をそれぞれ第１層の
ノード１０１〜１０４に入力する。 （ステップＳ１６２）入力データを用いてＰＴ₀，Ｐ
Ｔ₁，ＰＴ₂の出力値（合致度）を算出する。この例で
は、Ｖ_PT0＝Ｍａｘ｛Ｖ_PSO，Ｖ_PS1｝＝０．１、Ｖ_PT1＝
Ｖ_PS2＝０．６、Ｖ_PT1＝Ｖ_PS3＝０．９であったと仮定
する。 （ステップＳ１６３）出力の存在する区間を決定する。
例えば、近接する２つのパターンテーブルの合致度合計
が最も高い組合せを選択することにより区間を決定す
る。

【００４４】（ステップＳ１６４）合致度を基に、出力
値を合成する。例えば、それぞれのパターンテーブルＰ
Ｔに定義された出力値を、合致度を重みとして加重平均
することにより出力値の合成を行う。例の場合、出力値
Ｏ₀は、Ｏ₀＝１．０×０．６＋２．０×０．９／（０．
６＋０．９）となる。 （ステップＳ１６５）得られた出力を出力する。

【００４５】上の説明では、推論時の出力合成の方法と
して、近接する２つのパターンテーブルＰＴの合致度合
計の高い組み合わせを選択するものであったが、この他
に以下のような各種の合成の仕方を採用することができ
る。 ａ） すべての出力ノードの設定出力値を合成する方法 この場合、出力ノードの合致度を加重として、設定出力
値を荷重平均する。

【００４６】ｂ） 特定の出力ノードを選択し設定出力
値を合成する方法 これには、例えば、 合致度が一定以上の出力ノードのみを選択する 合致度が上位Ｎ個までの出力ノードを選択する などがある。なお、設定出力値を等比数列によって設定
した場合は、論理的に矛盾を生じる可能性があるため、
原則としての方式をとることはできない。また、上記
方法の変形として次のような方法もある。 最大合致度の出力ノードと、その近傍２ｎ点個（計
２ｎ＋１）のルールを選ぶ 近傍２ｎ点個のノードの合致度の和が最大のノード
の組を用いる。

【００４７】ｃ） 学習時配分関数に対応した出力合成 合成するための出力ノードの選び方 ある入出力データを学習時に与えて、フィルタ関数の変
更処理における前記履歴バッファのカウント（ＩＬＡカ
ウント）を配分関数により配分した場合、ＩＬＡカウン
トはそのルール条件部の各パターンセットを決定するた
めに使用される。そして、その入力ベクトルとの分配さ
れたルール（パターンセット）との合致度が分配ＩＬＡ
カウントが完全に一致することは考えにくいが、相関関
係は期待できる。そこで推論時は、分配時に使った出力
ノードを使って出力値を合成する。この場合、使用する
出力ノードの決定方法としては、使用する出力ノードの
合致度の総和が最大のものを選ぶのが自然である。ある
いは、簡略的に最も合致度の高い出力ノードに注目し
て、それを中心とする分配ノードを採用することもでき
る。 合成出力値の算出は、各出力ノードの条件部合致度
で加重平均をとる。

【００４８】（実施例１の変形例）以上の実施例１は、
多入力−連続１出力を実現する処理系としては最もコン
パクトな実施形態を例示するものである。さらに精度な
どを向上させるために、次に説明する並列化や階層化を
行うことができる。

【００４９】（並列化）多連続値入力−連続値１出力に
対応する形態としては、図１に示すのと同様な系（以
下、パターングループという）を複数用意する。（系Ｂ
₀，・・・，系Ｂ_N）各々のパターングループでは、学習
の特性（履歴バッファの大きさ、フィルタ関数の学習ゲ
イン値、重み変更のゲイン値など）を変えておき、各々
独立に学習処理を行わせる。系Ｂとしての出力は、各々
のパターングループの出力を合成することにより得られ
る。

【００５０】（階層化）多入力−連続１出力に対応する
形態としては、図１に示すのと同様な系（以下、パター
ングループという）を複数用意する。（系Ｂ₀，・・
・，系Ｂ_N） 系Ｂ₀では_、図１に示すのと同様に、系Ｍの入出力をその
まま学習にもちいるが、系Ｂ₀以外の系（パターングル
ープ）では、学習に用いる出力情報を系Ｍの出力としな
い。系Ｂ₁では、系Ｂ₀の出力と系Ｂの誤差を学習させる
よう構成する。同様に、系Ｂ₂は、系Ｂ₀，Ｂ₁の合成出
力と、系Ｍとの誤差を学習する。学習の段階としては、
まず系Ｂ₀のみを学習させ、系Ｍとの誤差が一定値以下
となるか、誤差の減少が停止した時点で、系Ｂ₀の学習
を停止し、系Ｂ₀の特性を保存する。次に系Ｂ₁の学習を
開始する。同様にして、次々に系Ｂ_iを固定する。

【００５１】図１７は、階層化の場合のネットワーク構
成例を示すもので、２入力１出力の場合の一例である。
上半分のネットワークＮｅｔＡは、図１のネットワーク
型情報処理装置と同一の構成、同一の入出力を持つもの
である。下半分のネットワークＮｅｔＢは、図１のネッ
トワーク型情報処理装置と同様の構成を有し、入力デー
タ自体はネットワークＮｅｔＡと同じであるが、出力は
異なる。ネットワークＮｅｔＡが出力をそのまま教示す
るのに対して、ネットワークＮｅｔＢは、教示出力とネ
ットワークＮｅｔＡの出力の差を教示する。要するにネ
ットワークＮｅｔＢは、入力とＮｅｔＡの誤差を学習す
る形態となる。推論の際は、ネットワークＮｅｔＡの出
力Ｏ_PG0からネットワークＮｅｔＢの出力Ｏ_PG1を減算す
る形となる。学習時の基本的な運用形態としては、概略
次のとおりである。 まず、ネットワークＮｅｔＡのみで学習を行う。 ネットワークＮｅｔＡの学習において、誤差がある
程度小さくなったらネットワークＮｅｔＡの学習を停止
する。 ネットワークＮｅｔＡの出力と教示出力の誤差によ
ってネットワークＮｅｔＢの学習を行う。

【００５２】実施例２ 図１８は実施例２によるネットワーク型情報処理装置の
構成をパターンテーブルの形式で示す図である。この実
施例２は、２つのネットワーク１８１と１８２からなっ
ており、左側のネットワーク１８１は図１および２に示
す実施例１のネットワークと同じ構成である。実施例１
と異なる点は次のとおりである。即ち、実施例１では、
各パターンテーブルＰＴ０〜ＰＴ２の出力値ＯＰＴ０〜
ＯＰＴ２が固定的であったのに対して、実施例２では、
別のネットワーク１８２によって既述され可変である点
において相違する。

【００５３】以上のように構成された実施例２の学習時
に動作について図１９および図２０により説明する。出
力側のネットワーク１８２の学習を行い次に入力側のネ
ットワーク１８１の学習を行う。 （ステップＳ１９１）入力｛Ｉ₀，・・・・，Ｉ₃｝と教
示出力値｛Ｏ_t0，Ｏ_t1｝を入力する。

【００５４】（ステップＳ１９２）教示出力値｛Ｏ_t0，
Ｏ_t1｝を用いて、ネットワーク１８２のパターンセット
ＰＳ’０，ＰＳ’１，ＰＳ’２の出力値（合致度）Ｖ
_PS'0，Ｖ_PS'1，Ｖ_PS'2を算出する。

【００５５】（ステップＳ１９３）算出した合致度のな
かで最大の合致度をもつパターンセットＰＳを選択す
る。この例ではＶ_PS'0が最大であったと仮定する。

【００５６】（ステップＳ１９４）選択されたパターン
セットＰＳ’₀の合致度Ｖ_PS'0を評価する。即ち、その
合致度Ｖ_PS'0を選択されたパターンセットＰＳ拡張のた
めの閾値（（Ｖｅｘｔ）と比較し、Ｖｅｘｔ≧ＶＰＳ’
０ならばステップＳ１９５へ、Ｖｅｘｔ＜ＶＰＳ’０な
らばステップＳ１９７へ進む。

【００５７】（ステップＳ１９５）ステップＳ１９４の
評価においてＶｅｘｔ≧ＶＰＳ’０であったなら、最大
合致度を得たパターンセットＰＳ’₀に対して学習処理
を実施する。この学習処理は、実施例１において図６よ
り図１５を用いて詳述したパターンセットを構成する各
次元のフィルタ関数を変更する処理と同じ処理を行う。

【００５８】（ステップＳ１９６）入力側のネットワー
ク１８１の教示対象パターンテーブルＰＴをＰＴ₀（出
力側のネットワーク１８２の選択されたてパターンセッ
トＰＳ’₀と対応するパターンテーブルＰＴ）とする。
ステップＳ１９９へ進む。

【００５９】（ステップＳ１９７）ステップＳ１９４の
評価においてＶｅｘｔ＜ＶＰＳ’０であったときには、
出力側ネットワーク１８２に新規にパターンセットＰＳ
を追加する。この例においてはＰＳ’₃を生成する。そ
して、そのパターンセットＰＳ’₃に対して学習処理を
実施する。この学習処理も、実施例１において図６より
図１５を用いて詳述したパターンセットを構成する各次
元のフィルタ関数を変更する処理と同じ処理を行う。

【００６０】（ステップＳ１９８）入力側のネットワー
ク１８１の教示対象パターンテーブルＰＴをＰＴ₀（Ｐ
Ｓ’₀と接続されるＰＴ）とする。ステップＳ１９９へ
進む。 （ステップＳ１９９）出力側学習処理を終了し、入力側
ネットワーク１８１の学習処理に移る。

【００６１】（ステップＳ２００）入力データを用い
て、ステップＳ１９８で決定した学習対象ＰＴ₀の出力
値（合致度を算出する）。

【００６２】（ステップＳ２０１）学習対象のパターン
テーブルの合致度Ｖ_PT0を評価する。即ち、この合致度
Ｖ_PT0をパターンセットＰＳの拡張のための閾値（Ｖｅ
ｘｔ）と比較する。Ｖｅｘｔ≧ＶＰＴ０ならばステップ
Ｓ２０２へ、Ｖｅｘｔ＜ＶＰＴ０ならばステップＳ２０
３へ進む。

【００６３】（ステップＳ２０２）ステップＳ２０１の
評価においてＶｅｘｔ≧ＶＰＳ’０であった場合に、Ｖ
ＰＴ０と同じ合致度を持つパターンセットＰＳ₀（最大
合致度を得たＰＳ）に対して学習処理を実施する。この
学習処理も、実施例１において図６より図１５を用いて
詳述したパターンセットを構成する各次元のフィルタ関
数を変更する処理と同じ処理を行う。ステップＳ２０４
へ進む。

【００６４】（ステップＳ２０３）ステップＳ１９４の
評価においてＶｅｘｔ＜ＶＰＳ’０であったときには、
パターンテーブルＰＴ０に新規にパターンセットＰＳを
追加する。この場合は、パターンセットＰＳ₄を生成し
パターンテーブルＰＴ₀に追加する。そのパターンセッ
トＰＳ₄に対して学習処理を実施する。この学習処理
も、実施例１において図６より図１５を用いて詳述した
パターンセットを構成する各次元のフィルタ関数を変更
する処理と同じ処理を行う。 （ステップＳ２０４）学習を終了する。

【００６５】次に、学習を終了した後のネットワーク型
情報処理装置の推論時の動作について説明する。図２１
は本実施例における推論時の動作例を示すフロー図であ
る。 （ステップＳ２１１）入力Ｉ₀〜Ｉ₃をそれぞれ第１層の
ノードに入力する。 （ステップＳ２１２）入力データを用いてＰＴ₀，Ｐ
Ｔ₁，ＰＴ₂の出力値（合致度）を算出する。この例で
は、Ｖ_PT0＝Ｍａｘ｛Ｖ_PSO，Ｖ_PS1｝＝０．１、Ｖ_PT1＝
Ｖ_PS2＝０．６、Ｖ_PT2＝Ｖ_PS3＝０．９であったと仮定
する。 （ステップＳ２１３）前記算出した各合致度によってパ
ターンテーブルを選択する。例えば、合致度の降順に２
つのパターンテーブルのを選択する。この例の場合は、
選択されるパターンテーブルはＰＴ₁とＰＴ₂である。

【００６６】（ステップＳ２１４）選択されたパターン
テーブルＰＴ₁とＰＴ₂に接続されるパターンセットのフ
ィルタ関数の中心値を仮の出力値とする。例えば、出力
Ｏ₀に対するその値が｛Ｏ_0PS'1，Ｏ_PS'2｝＝｛１．０，
２．０｝であったとする。

【００６７】（ステップ２１５）合致度を基に、出力値
を合成する。例えば、それぞれのパターンテーブルＰＴ
に定義された出力値を、合致度を重みとして加重平均す
ることにより出力値の合成を行う。例の場合、出力値Ｏ
₀は、Ｏ₀＝１．０×０．６＋２．０×０．９／（０．６
＋０．９）＝１．６となる。 （ステップ２１６）得られた出力Ｏ₀を出力する。出力
Ｏ₁に関してもＳ２１４〜Ｓ２１６の処理を同様に行
う。

【００６８】

【発明の効果】本発明によれば、多連続値入力と連続値
出力の関係を記述したネットワーク型情報処理装置を実
現することができる。また、高速に動作し少数の入出力
の組から学習を収束させることができる。

【図面の簡単な説明】

【図１】 本発明の実施例１によるネットワーク型情報
処理装置の構成の概略を示す図

【図２】 図１に示すネットワーク型情報処理装置をネ
ットワークのリンク上のフィルタ関数ＭＦと重みｗを表
形式で表現したパターンテーブルを示す図

【図３】 図１における演算を行う部分の構成例を示す
ブロック図

【図４】 ファジイメンバーシップ関数（フィルタ関
数）を説明するための図

【図５】 学習時の動作の概要を示す処理フロー図

【図６】 フィルタ関数の変更処理を示すフロー図

【図７】 履歴データ数が１であるときに設定されるフ
ィルタ関数を示す図

【図８】１３ 履歴データ数が２以上でＭより小さいと
きに設定されるフィルタ関数を示す図

【図９】 メンバーシップ関数のパラメータ抽出処理の
フロー図

【図１０】 入力されたデータの量子化のレベルＺを横
軸とし、各レベルに対するデータの発生回数Ｇを縦軸に
とり、データの発生分布の例を示すグラフの例を示す図

【図１１】 図１０のデータの発生分布をカットオフＧ
ｃにより足切りした後のデータ分布を示す図

【図１２】 各正規化座標値の算出を説明するための図

【図１３】 図１０のデータ分布から得られたメンバー
シップ関数を示す図

【図１４】 メンバーシップ関数を変更する基本的な方
法（学習関数）を説明するための図

【図１５】 学習関数のゲインの決めかたによりメンバ
ーシップ関数の変更結果がどのように変わるかを示すも
のであり、（ａ）は、現在のメンバーシップ関数（細い
実線）と一定期間のサンプリングから得られた分布に基
づくメンバーシップ関数（破線）を示し、（ｂ）は、各
点のゲイン値ｇを０．５としたときに生成されるメンバ
ーシップ関数（太い実線）を示し、（ｃ）は、点Ｐ１の
ゲイン値ｇ＝０、他の点のゲイン値ｇ＝０．５とした場
合を示し、（ｄ）は、曖昧度（Ｐ２とＰ３間の距離）を
変えず、底辺拡張方向のゲイン値ｇ＝１．０、かつ底辺
縮小方向のゲイン値ｇ＝０とした場合を示す

【図１６】 実施例１の推論時の動作のフローの例を示
す図

【図１７】 階層化の場合のネットワーク構成例を示す
図で、２入力１出力の場合の一例

【図１８】 パターンテーブルとして表した実施例２の
構成を示す図

【図１９】 実施例２の学習時の動作を示す処理フロー
図

【図２０】 実施例２の学習時の動作を示す処理フロー
図（図１９の続き）

【図２１】 実施例２の推論時の動作のフローの例を示
す図

【図２２】 特願平４−１７５０５６号のネットワーク
型情報処理システムの学習システムの機能ブロック図

【符号の説明】

１１，１２，１３，１４…第１層のノード（入力ノー
ド）、１０５，１０６，１０７，１０８…第２層のノー
ド、１０９，１１０，１１１…第３層のノード、１１２
…出力合成部。

───────────────────────────────────────────────────── フロントページの続き (72)発明者 浜谷 和彦 東京都渋谷区神南一丁目15番８号 兼仲ビ ル４階 株式会社アドイン研究所内 (72)発明者 渡辺 正明 東京都渋谷区神南一丁目15番８号 兼仲ビ ル４階 株式会社アドイン研究所内 (72)発明者 上石 陽一 東京都渋谷区神南一丁目15番８号 兼仲ビ ル４階 株式会社アドイン研究所内

Claims (8)

【特許請求の範囲】
1. 【請求項１】 複数の第１のノードと、複数の第２のノ
   ードと、前記の第１のノードと第２のノードを結合する
   非線形の選択型関数特性を持つ方向性リンクとを備えた
   ネットワーク型情報処理システムにおいて、 各第２のノードに対し予め定義された固有の出力値と第
   ２のノードの出力値とに基づいて合成出力値を求める出
   力合成手段を設けたことを特徴とするネットワーク型情
   報処理システム。
2. 【請求項２】 前記出力合成手段は、合成に用いる第２
   のノードを所定の選択方式により選択した後、合成出力
   を求めるものであることを特徴とする請求項１記載のネ
   ットワーク型情報処理システム。
3. 【請求項３】 前記各第２のノードに予め定義された固
   有の出力値は、等差数列あるいは等比数列に従った値を
   割当てたものであることを特徴とする請求項１記載のネ
   ットワーク型情報処理システム。
4. 【請求項４】 前記請求項１記載のネットワーク型情報
   処理システムにおいて、そのネットワーク型情報処理シ
   ステムの出力の誤差を出力する少なくとも一つの第２の
   ネットワーク型情報処理システムを付加したことを特徴
   とするネットワーク型情報処理システム。
5. 【請求項５】 複数の第１のノードと、複数の第２のノ
   ードと、前記の第１のノードと第２のノードを結合する
   非線形の選択型関数特性を持つ方向性リンクと、各第２
   のノードに対し予め定義された固有の出力値と第２のノ
   ードの出力値とに基づいて合成出力値を求める出力合成
   手段とを備えたネットワーク型情報処理システムの学習
   方法であって、 出力教示データとして連続値を与え、その教示データに
   応じて一つまたは複数の第２のノードを選択し、教示デ
   ータの値を所定の配分方式に従って配分し、その配分さ
   れた値を教示データとする個々の第２のノードに対する
   学習処理を行うことを特徴とするネットワーク型情報処
   理システムの学習方法。
6. 【請求項６】 前記配分方式は、入力された前記連続値
   に対して数値的に両側に位置する第２のノードの離散値
   に対して、線形補間により配分するものであることを特
   徴とする請求項５記載のネットワーク型情報処理システ
   ムの学習方法。
7. 【請求項７】 複数の第１のノードと、複数の第２のノ
   ードと、前記第１のノードと第２のノードを結合する非
   線形の選択型関数特性を持つ方向性リンクとを備えたネ
   ットワーク型情報処理システムにおいて、 各第２のノードに対し定義される出力値を非線形の選択
   型関数として有し、前記定義される出力値と第２のノー
   ドの出力値を反映した連続値で表される１以上の合成出
   力値を得る機能を持つ第２のネットワーク型情報処理シ
   ステムを付加したことを特徴とするネットワーク型情報
   処理システム。
8. 【請求項８】 複数の第１のノードと、複数の第２のノ
   ードと、前記第１のノードと第２のノードを結合する非
   線形の選択型関数特性を持つ方向性リンクとを備えたネ
   ットワーク型情報処理システムに、各第２のノードに対
   し定義される出力値を非線形の選択型関数として有し、
   前記定義される出力値と第２のノードの出力値を反映し
   た連続値で表される１以上の合成出力値を得る機能を持
   つ第２のネットワーク型情報処理システムを付加したネ
   ットワーク型情報処理システムにおいて、第２のネット
   ワーク型処理システムの学習を行い、その学習結果によ
   り、第１のネットワーク型処理システムにおける学習対
   象の第２のノードを選択することを特徴とするネットワ
   ーク型情報処理システムの学習方法。