JP3344873B2 - 学習型認識判断装置 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、入力されたパターンデ
ータの学習および認識を行う装置に関するものである。

【０００２】

【従来の技術】従来の、入力されたパターンデータに対
して、まず大分類を行って入力データが属するカテゴリ
群を選択し、次に選択されたカテゴリ群において、細分
類を行なうことによって入力データの認識を行なう学習
型認識判断装置の例としては、たとえば、電子情報通信
学会論文誌Ｄ−II Vol.J75-D-II No.3 pp545-553「大規
模ニューラルネット“ＣｏｍｂＮＥＴ−II”」に示され
ている。

【０００３】図１０はこの従来の学習型認識判断装置の
構成図を示すものであり、１０１は大分類部で、入力パ
ターン信号を各カテゴリ群に大分類する。１０２はそれ
ぞれ細分類部で、入力パターン信号を各カテゴリ群内で
細分類する。１０３は群選択部で、大分類部１０１の出
力値（以下、適合度と呼ぶ。）から複数個のカテゴリ群
を選択する。１０４は細分類部入力信号選択部で、群選
択部１０３で得られる群選択情報に基づいて入力パター
ン信号を入力する細分類部１０２を選択する。１０５は
識別部で、群選択部１０３で選択されたカテゴリ群の適
合度と細分類部１０２の出力値から入力パターン信号の
識別を行なう。

【０００４】大分類部１０１において、入力部１０６は
入力パターン信号を入力するもので、多入力−出力信号
処理部１０７は、入力パターン信号に対する各カテゴリ
群の適合度を計算する。

【０００５】細分類部１０２において、入力部１０８は
細分類部入力信号選択部１０４から出力される入力パタ
ーン信号を入力するもので、多入力−出力信号処理部１
０９は、それに接続されている下層の入力部１０８、ま
たは多入力−出力信号処理部１０９の出力と、その連結
の度合である重み係数とを各々掛け合わせて総和したも
のをしきい値処理して出力する。ここでは、これら複数
個の多入力−出力信号処理部１０９は層構造を持ち、各
層内相互の結合がなく、上位層にのみ信号が伝搬するよ
うにネットワーク接続することによって、入力パターン
信号に対するカテゴリ群内の各カテゴリに類似する度合
が求められる。１１０は最大値選択部で、最上位層の複
数個の多入力−出力信号処理部１０９の出力の中から最
大値を選択する。

【０００６】識別部１０５において、１１１は類似度計
算部で、群選択部１０３で選択されたカテゴリ群の適合
度と、そのカテゴリ群に対応する細分類部１０２の出力
値から各カテゴリの類似度を計算する。１１２はカテゴ
リ識別部で、類似度計算部１１１から得られた各カテゴ
リの類似度の最大値を求めることによって、入力パター
ン信号の識別を行なう。

【０００７】以上のように構成された従来の学習型認識
判断装置について、以下その動作を説明する。認識対象
物のｎ個の特徴データからなる入力パターン信号Ｘ Ｘ＝（ｘ₁ ，ｘ₂ ，…，ｘ_n ） （１） は、まず、大分類部１０１の入力部１０６に入力され
る。入力部１０６はパターンデータの特徴データ数に等
しくｎ個用意されており、各特徴データｘ_i はそれぞれ
対応する入力部１０６に入力される。大分類部１０１の
各多入力−出力信号処理部１０７は、それに接続されて
いる入力部１０１の入力ｘ_j とその連結の度合である重
み係数ｖ_ij（１≦ｉ≦ｍ_r ；ｍ_r はカテゴリ群の数、１
≦ｊ≦ｎ）とを乗算したものの総和を計算した後、これ
を入力パターン信号Ｘ、および各多入力−出力信号処理
部１０７の重み係数ベクトルＶ_i Ｖ_i ＝（ｖ_i1，ｖ_i2，…，ｖ_in） （２） のノルム｜Ｘ｜、｜Ｖ_i ｜の積で割り算したものを出力
する。

【０００８】つまり、重み係数ベクトルＶ_i をもつ多入
力−出力信号処理部１０７の出力値sim （Ｘ，Ｖ_i ）
は、 sim （Ｘ，Ｖ_i ）＝（Ｘ・Ｖ_i ）／（｜Ｘ｜、｜Ｖ_i ｜） （３） 但し、Ｘ・Ｖ_i ＝Σ_j （ｘ_j ・ｖ_ij） ｜Ｘ｜ ＝（Σｘ_j ²）^0.5 ｜Ｖ_i ｜＝（Σｖ_ij ² ）^0.5 と表わすことができる。

【０００９】なお、重み係数ベクトルＶ_i については、
類似した入力パターン信号に対して決まった多入力−出
力信号処理部１０７が最大出力を発生するように、あら
かじめ設定しておく。

【００１０】これらの重み係数ベクトルＶ_i は、従来例
によると、以下のような手法で設計される。まず第１過
程では、重み係数ベクトル設計用の入力パターン信号Ｘ
を入力する毎に、最もsim （Ｘ，Ｖ_i ）の大きいＶ_c を
求め（このとき、ＸはＶ_c に最適整合するという。）、
Ｖ_c をＸに近づける。また、１つの重み係数ベクトルに
最適整合する入力パターン信号がある一定数以上になっ
た時には、その重み係数ベクトルが担当する領域を２つ
に分割する。

【００１１】第２過程では、重み係数ベクトル設計用の
全入力パターン信号に対して、最適整合するＶ_i を求
め、それが前回と変化したかどうかを調べる。そして、
変更があれば、そのＶ_i を修正する。このとき、第１過
程と同様に、重み係数ベクトルの分裂も行なう。これを
重み係数ベクトルの修正、分裂がなくなるまで繰り返
す。

【００１２】このようにして、重み係数ベクトルの設計
を行なうことによって、入力パターン信号は複数のカテ
ゴリ群に大分類される。そして、各多入力−出力信号処
理部１０７の出力値は、入力パターン信号Ｘに対する各
カテゴリ群の適合度として群選択部１０３に出力され
る。

【００１３】群選択部１０３では、大分類部１０１で得
られた適合度の大きい順に任意個のカテゴリ群を選び、
どのカテゴリ群が選択されたかを示す群選択情報とそれ
に対応する適合度を出力する。

【００１４】群選択部１０３から得られる群選択情報に
基づいて、細分類入力信号選択部１０４は、入力パター
ン信号を入力する細分類部１０２を選択し、入力パター
ン信号をこれらの細分類部１０２へ出力する。

【００１５】群選択部１０３で選択されたカテゴリ群に
対応する各々の細分類部１０２（すなわち、細分類入力
信号選択部１０４から入力パターン信号を入力された細
分類部１０２）では、まず、入力部１０８に、入力パタ
ーン信号Ｘが入力される。入力部１０８は、パターン信
号の特徴データ数に等しくＮ個用意されており、各特徴
データｘ_i はそれぞれ対応する入力部１０８に入力され
る。細分類部１０２の各多入力−出力信号処理部１０９
はそれに接続されている下層の入力部１０８、または多
入力−出力信号処理部１０９の出力とその連結の度合で
ある重み係数とを掛け合わせたものの総和をしきい値関
数で変換した後、その値を上層へ出力する。ここで、各
細分類部１０２の最上位層の多入力−出力信号処理部１
０９は、各カテゴリ群に含まれるパターンデータのカテ
ゴリ数と同じ個数に設定され、最上位層の各多入力−出
力信号処理部１０９は、これらの各カテゴリに対応して
いる。最大値選択部１１０は最上位層の各多入力−出力
信号処理部１０９の出力値の中で最大のものを選び、こ
の多入力−出力信号処理部１０９に対応するカテゴリ
と、その最大出力値を出力する。

【００１６】なお、各多入力−出力信号処理部１０９の
重み係数は、カテゴリ群内の各カテゴリをもつ入力パタ
ーン信号に対して、その各カテゴリに対応する最上位層
の多入力−出力信号処理部１０９が最大出力を発生する
ように、あらかじめ学習されている。

【００１７】具体的には、このような重み係数の学習方
法は、誤差逆伝搬法と呼ばれる学習アルゴリズムによっ
て行われる。誤差逆伝搬法については、たとえばD. E.
Rumelhart, G. E.Hinton and R. J. Williams による
“Learning Representationsby Back-Propagating Erro
rs, ”Nature, vol.323, pp.533-536, Oct. 9, 1986に
示されている。

【００１８】以下、誤差逆伝搬法の概略について説明す
る。まず、重み係数学習用のパターン信号Ｘが細分類部
１０２の入力部１０８に入力される。多入力−出力信号
処理部１０９は、すでに説明したように、各々それに接
続されている下層の入力部１０８、または多入力−出力
信号処理部１０９の出力とその連結の度合である重み係
数とを掛け合わせたものの総和をしきい値関数で変換し
た後、その値を上層へ出力する。ここで、全ての最上位
層の多入力−出力信号処理部１０９の出力信号ｏ_k と望
ましい出力信号ｔ_k （これを教師信号と呼ぶ）との誤差
Ｅは下記の第４式のように求められる。

【００１９】 Ｅ＝０．５Σ_p Σ_k （ｔ_k −ｏ_k ）² （４） 但し、Σ_p は教師信号のパターン数に関する総和であ
る。学習の目的は、誤差Ｅを最小にする重み係数の値を
決定することであり、各多入力−出力信号処理部間１０
９の重み係数の変更量Δｗ_ijは下記の第５式に基づいて
計算される。

【００２０】 Δｗ_ij＝−ε∂Ｅ／∂ｗ_ij （５） 但し、εは学習レートと呼ばれる正の定数である。この
第５式に基づいた重み係数の更新を、学習用のパターン
信号が入力されるたびに繰り返すことにより、誤差Ｅを
小さくすることができる。誤差Ｅが十分小さくなると、
出力信号が望ましい値に十分近くなったものとして、学
習を終了する。

【００２１】このような重み係数の学習方法によって、
カテゴリ群内の各カテゴリをもつ入力パターン信号に対
し、その各カテゴリに対応する最上位層の多入力−出力
信号処理部１０９が最大出力を発生するようにすること
ができる。したがって、最上位層の複数個の多入力−出
力信号処理部１０９の中で、最大出力を発生するものを
最大値選択部１１０で選ぶことにより、各カテゴリ群内
において、すなわち、各細分類部１０２において入力パ
ターン信号のカテゴリを認識することができる。

【００２２】識別部１０５では、まず、類似度計算部１
１１において、群選択部１０３で選択されたカテゴリ群
の適合度と、そのカテゴリ群に対応する細分類部１０２
の出力値から下記の第６式を用いて細分類部１０２で得
られた各カテゴリの類似度を計算し、これらの類似度を
カテゴリ識別部１１２に出力する。

【００２３】 （類似度）＝（適合度）^a （出力値）^b （６） 但し、ａ，ｂは実定数とする。最後に、カテゴリ識別部
１１２は、類似度計算部１１１から得られる各カテゴリ
の類似度を比較し、それらの中で最大となる類似度に対
応するカテゴリを識別結果として出力する。

【００２４】

【発明が解決しようとする課題】このような従来の構成
では、各細分類部の学習は、群参照用パターンと学習す
べき入力パターンの距離すなわち群帰属度を考慮せず、
単一の細分類部でまったく独立に行われるので、カテゴ
リ群間の境界に位置する入力パターンに対する認識精度
が劣化するだけでなく、学習時に類似度算出部のすべて
の層の重み係数を変更する必要があり学習に時間がかか
る。

【００２５】また、未学習パターンを誤認識した時に再
度そのパターンを学習する際（追加学習）、大分類部で
群帰属度が最大と判断された細分類部にそのパターンの
カテゴリが属しているとは限らず、どの細分類部を学習
すべきかの判断ができないので、追加学習ができないと
いう課題を有していた。

【００２６】本発明はカテゴリ群の境界に位置するパタ
ーンの認識率の向上、ならびに学習が高速かつ効率的に
追加学習が行える学習型認識判断装置を提供することを
目的とする。

【００２７】

【課題を解決するための手段】本発明の第１の発明の学
習型認識判断装置は、類似パターンの集合から成るカテ
ゴリ群を代表する複数個の群参照用パターン信号が記憶
されている群辞書と、前記の群参照用パターン信号を用
いて入力パターン信号が各カテゴリ群に属する度合であ
る群帰属度を計算するファジィ大分類部と、前記の入力
パターン信号がカテゴリ群内に含まれる各カテゴリに類
似する度合である群内類似度を計算する類似度算出部と
後述する第２の群選択部の出力に応じて後述する類似度
算出部の学習回数を変更する学習強度制御部とからなる
複数個の細分類部と、対応する細分類部の学習回数を変
更する前記の群帰属度から少なくとも１つのカテゴリ群
を選択する第１の群選択部と、前記の細分類部で得られ
た群内類似度を前記選択された群帰属度により重み付け
する識別信号荷重部と、識別信号荷重部の出力から入力
パターン信号の識別を行なうカテゴリ識別部と、前記の
細分類部の学習に必要な学習パターンの教師信号を発生
する第１の教師信号発生部と、各細分類部に属するカテ
ゴリ情報を記憶したカテゴリ情報記憶部と、カテゴリ情
報により入力パターンのカテゴリが存在する細分類部の
中で群帰属度の大きい方から少なくとも１つの群帰属度
を選択する第２の群選択部と、前記の識別結果と第１の
教師信号発生部から出力される入力パターンのカテゴリ
との比較結果に応じて前記細分類部の学習を制御する学
習制御部とを備えた学習型認識判断装置において、前記
類似度算出部は、複数の階層からなり、最下層を複数の
第３の単位認識ユニット、最下層の前層を複数の第２の
単位認識ユニット、それ以外の層を複数の第１の単位認
識ユニットにより構成し、第１の単位認識ユニットは、
信号入力部と、入力信号の出力に応じて量子化を行なう
量子化器と、前記入力信号の量子化結果から量子化区間
に隣接する量子化区間を選択する隣接区間選択部と、前
記入力信号の属する量子化区間ならびに、量子化区間に
隣接する量子化区間に対する荷重値を記憶する荷重テー
ブルと、単一又は複数の経路入力端子を有する経路入力
部と、単一又は複数の経路出力端子を有する経路出力部
と、量子化結果に応じて経路にかける荷重の設定位置を
変えることで前記経路入力部の経路入力端子と前記経路
出力部の経路出力端子との連結強度を変化させる経路荷
重部とを有し、第２の単位認識ユニットは、信号入力部
と、前記入力信号の出力に応じて量子化を行う量子化器
と、単一又は複数の経路入力端子を有する経路入力部
と、単一又は複数の経路出力端子を有する経路出力部
と、経路入力部の経路入力端子に伝達された値をｎビッ
トシフトする伝達量変更部と、伝達量変更部の出力に応
じて経路入力端子と前記量子化器の出力値が指し示す経
路出力部の経路出力端子との連結強度を増加する学習器
とを有し、第３の単位認識ユニットは、複数の経路入力
端子からの入力信号を加算する加算器と、加算器の出力
信号をしきい値処理するしきい値処理部とを有すること
を特徴とする。

【００２８】

【００２９】本発明の第２の発明の学習型認識判断装置
は、第１の発明において、カテゴリ識別部で識別された
認識結果を表示部に出力する認識結果表示部と、この認
識結果が間違っている場合に正解の認識結果を入力する
正解入力部と、この入力された正解の認識結果を入力デ
ータに対応するカテゴリ番号である教師信号に変換する
第２の教師信号発生部と第１の教師信号発生部の出力と
第２の教師信号発生部の出力のどちらか１つを選択する
教師信号選択部とを備えたことを特徴とする。

【００３０】

【作用】本発明の第１の発明は、まず、入力パターン信
号をファジィ大分類部に入力する。ファジィ大分類部
は、群辞書に記憶されている全ての群参照用パターン信
号を読み出して、入力パターン信号が各カテゴリ群に属
する度合である群帰属度を求める。これらの群帰属度を
用いて、第１の群選択部は少なくとも１つのカテゴリ群
を選択し、識別信号荷重部に出力する。

【００３１】各細分類部は、類似度算出部により入力パ
ターン信号が各カテゴリ群内に含まれる各カテゴリに類
似する度合である群内類似度ベクトルを計算し、識別信
号荷重部に出力する。

【００３２】識別信号荷重部では、まず、前記第１の群
選択部で選択されたカテゴリ群の帰属度により、対応す
る細分類部から得られる群内類似度ベクトルを重み付け
し、これをカテゴリ識別部に出力する。

【００３３】カテゴリ識別部では、重み付けされた群内
類似度ベクトルから入力パターンの識別を行い識別結果
を学習制御部に出力する。学習制御部は、第１の教師信
号発生部から出力される入力パターンのカテゴリ番号
（教師信号）と前記の識別結果を比較し、比較結果が等
しい場合は、各細分類部の荷重更新を行わずに次の入力
パターンの学習を行い、比較結果が異なる場合には、各
細分類部の荷重値が更新されるように制御する。

【００３４】荷重値が変更される場合、第２の群選択部
によりカテゴリ情報記憶部に記憶されたカテゴリ情報に
より入力パターンのカテゴリが存在する細分類部の中で
群帰属度の大きい方から少なくとも１つの群帰属度が選
択され荷重値変更量制御部に出力される。

【００３５】

【００３６】また、類似度算出部を構成する各階層の単
位認識ユニットの信号入力部に入力パターン信号の各種
一連の特徴データを入力すると、学習モードでは、各階
層の単位認識ユニットは、量子化器の出力に応じてネッ
トワークのより下層より位置する単位認識ユニットとの
結合経路を切り換え、最下層までの選択経路を決定する
ことにより最下層の第３の単位認識ユニットの出力を算
出し、最下層の前層の第２の単位認識ユニットの経路入
力端子に入力された値を、伝達量変更部で変更した値に
応じて、経路入力端子と量子化器の出力値が指し示す経
路出力端子との連結強度を学習器によって増加させるだ
けで学習が行えるので、全ての層の荷重値を変更する必
要がなく、高速学習が可能である。

【００３７】

【００３８】学習強度制御部は、選択された群帰属度に
応じて対応する類似度算出部の学習強度を変更するの
で、入力パターンのカテゴリ群に対する帰属度を用いな
がら各細分類部が協調して学習されるので、カテゴリ群
の境界に位置するパターンが精度よく学習でき認識率が
向上する。

【００３９】本発明の第２の発明は、未学習パターンが
入力されると、上記と同様にして、入力パターンの識別
結果がカテゴリ識別部から出力され、認識結果表示部に
表示される。教師信号とその識別結果が異なるとき、正
解入力部から正解が入力されると、第２の教師信号発生
部は入力パターンのカテゴリ番号を教師信号として類似
度算出部に出力し、第１の発明と同様にして、第２の群
選択部で選択された細分類部の荷重値を更新するので、
未学習パターンの追加学習が可能になる。

【００４０】また、上記のように追加学習パターンに関
連ある細分類部のみ、重み係数が更新されるので、追加
学習が認識判断装置全体に影響を与えにくく、学習済み
データの認識性能に影響がでにくい追加学習が可能にな
る。

【００４１】

【実施例】以下、本発明の実施例について図面を参照し
て説明する。一般に学習型認識判断装置に入力されるパ
ターンデータとしては、音声などの時系列パターン、文
字・画像などの空間パターン等があるが、本発明におい
ては、いずれのパターンデータでも構わないものとす
る。

【００４２】図１は本発明の第１の実施例を示す。１は
群辞書で、入力パターン信号の類似パターンの集合から
成るカテゴリ群を代表する群参照用パターン信号が複数
個記憶されている。

【００４３】２はファジィ大分類部で、群辞書１に記憶
されている群参照用パターン信号を用いて入力パターン
信号が各カテゴリ群に属する度合である群帰属度を計算
する。

【００４４】３はそれぞれ細分類部で、入力パターン信
号がカテゴリ群内に含まれる各カテゴリに類似する度合
である群内類似度を計算する類似度算出部４と、後述す
る第２の群選択部の出力に応じて類似度算出部４の荷重
値変更量を制御する荷重値変更量制御部５からなる。

【００４５】６は第１の群選択部で、群帰属度から複数
個のカテゴリ群を選択する。７は第２の群選択部で、後
述するカテゴリ情報記憶部１２に記憶されているカテゴ
リ情報により入力パターン信号のカテゴリが存在する細
分類部３の中で群帰属度の大きい方から少なくとも１つ
の群帰属度を選択する。

【００４６】８は識別信号荷重部で、細分類部３で得ら
れた群内類似度を第１の群選択部６で選択されたカテゴ
リ群の群帰属度により重み付けする。識別信号荷重部８
において、９は乗算器で、第１の群選択部６で選択され
たカテゴリ群の群帰属度と前記帰属度に対応する細分類
部３から得られる群内類似度を乗算する。

【００４７】１０はカテゴリ識別部で、乗算結果をカテ
ゴリ毎に加算し、総和（カテゴリ類似度）を計算した
後、カテゴリ類似度の中から最大値を求めることによっ
て、入力パターン信号のカテゴリの識別を行なう。

【００４８】１１は第１の教師信号発生部で、各細分類
部３の荷重更新時（学習時）に必要な教師信号を発生す
る。１２はカテゴリ情報記憶部で、各細分類部３に属す
るカテゴリ情報を記憶してある。

【００４９】１３は学習制御部で、カテゴリ識別部１０
での識別結果と第１の教師信号発生部１１から出力され
る入力パターンのカテゴリとの比較結果に応じて、荷重
変更量制御部５における荷重値変更の有無を制御する。

【００５０】図２は、ファジィ大分類部２の具体例を示
す。２１は入力部で、入力パターン信号を入力する。２
２は距離計算部で、群辞書１の全ての群参照用パターン
信号と入力パターン信号との距離を計算する。２３は割
算器で、距離計算部２２の出力の逆数を計算する。２４
は加算器で、各々の割算器２３の出力の総和を求める。
２５は乗算器で、加算器２４の出力と距離計算部２２の
出力を乗算する。２６は割算器で、乗算器２５の出力の
逆数を計算する。

【００５１】図３は類似度算出部４に用いる第１の単位
認識ユニットの具体例を示す。３１は信号入力部で、信
号入力端子３１ａを介して入力した認識判断の対象とな
る特徴データを量子化器３２に入力する。量子化器３２
は入力された特徴データを量子化し、量子化したレベル
を示す値を経路荷重部３３ｃと隣接区間選択部３４に入
力する。

【００５２】隣接区間選択部３４は、前記入力信号（特
徴データ）の量子化区間に隣接する量子化区間を選択し
経路荷重部３３ｃに出力する。３３ａ０は経路入力端
子、３３ｂ１〜３３ｂ５は経路出力端子で、単位認識ユ
ニットを組み合わせてネットワークを構成するときに、
これらの端子を相互に連結する。

【００５３】経路荷重部３３ｃは、経路入力部３３ａと
経路出力部３３ｂとの間を接続する荷重３３ｃ１〜３３
ｃ５と、後述する荷重テーブル３３ｄに記憶されている
荷重値を前記量子化結果に応じて荷重３３ｃ１〜３３ｃ
５に設定する荷重設定部３３ｃ０とで構成される。

【００５４】荷重テーブル３３ｄには、入力信号の属す
る量子化区間に対する荷重値と隣接量子化区間に対する
荷重値が記憶されており、経路荷重部３３ｃでは、荷重
設定部３３ｃ０が、前記量子化結果に基づいて、前記荷
重値をそれぞれの量子化区間に対応する位置に設定す
る。荷重３３ｃ１〜３３ｃ５は、経路入力部から入力さ
れた経路信号を重み付けし、経路出力部３３ｂは、この
重み付けした経路信号を経路出力端子３３ｂ１〜３３ｂ
５に出力する。

【００５５】図４は類似度算出部４におけるネットワー
クの最下層の前層に用いる第２の単位認識ユニットの具
体例を示す。この第２の単位認識ユニットは、図３に示
した第１の単位認識ユニットと同様に構成されており、
信号入力部４１と、量子化器４２と、１個の経路入力端
子４３ａ１を有する経路入力部４３ａと、３個の経路出
力端子４３ｂ１〜４３ｂ３を有する経路出力部４３ｂ
と、経路入力部４３ａの経路入力端子４３ａ１に伝達さ
れた値をｎビットシフトする伝達量変更部４４と、経路
荷重部４３ｃとによって構成されている。

【００５６】荷重４３ｃ１〜３４ｃ３は、経路出力部４
３ｂの経路出力端子４３ｂ１〜４３ｂ３に出力する経路
出力信号に加える重みで、荷重変更処理過程において
は、学習器４３ｃ０により、伝達量変更部４４の出力値
に応じて経路入力端子４３ａ１と量子化器４２の出力値
が指し示す経路出力端子との荷重が更新される。フォワ
ード処理過程においては、量子化器４２には信号が入力
されず、荷重４３ｃ１〜４３ｃ３は伝達量変更部４４か
ら出力された信号を重み付けし、経路出力部４３ｂは、
この重み付けした経路信号を経路出力端子４３ｂ１〜４
３ｂ３に出力する。

【００５７】図５は類似度算出部４におけるネットワー
クの最下層に用いる第３の単位認識ユニットを示す。５
３ａ０は加算器で、複数の経路入力端子からの入力信号
を加算する。５３ｂ０はしきい値処理器で、経路信号を
しきい値処理する。

【００５８】図６は類似度算出部４を示す。本実施例で
は、２個からなる２種類の特徴データ（第１特徴デー
タ、第２特徴データ）に基づき、３種類のカテゴリを認
識するもので、単位認識ユニットを複数個組み合わせ
て、２個の木分岐構造を有し、一つの木分岐構造中に４
層の階層を有するようにネットワークを構成してある。
第１層、第２層を構成している単位認識ユニットｋ１１
〜ｋ１２、ｋ２１〜ｋ３０は、例えば、図３に示した第
１の単位認識ユニットを用い、第３層を構成している単
位認識ユニットｐ３１〜ｐ３５０は、例えば、図４に示
した第２の単位認識ユニットを用い、第４層を構成して
いる単位認識ユニットｑ４１、ｑ４２、ｑ４３は、図５
に示した第３の単位認識ユニットを用いている。

【００５９】各木分岐構造中の１層目、２層目を構成す
る第１の単位認識ユニットの信号入力端子には、判断す
べき特徴データを入力し、３層目を構成する第２の単位
認識ユニットの信号入力端子には、荷重変更処理過程の
み入力データの教師信号を入力する。

【００６０】６０は動作モード選択部で、荷重変更およ
びフォワード処理モード信号を出力する事により動作モ
ードを切り替える。６１は教師信号変換部で、第１の教
師信号発生部１１から出力される教師信号を、それに対
応する最終層の単位認識ユニット番号に変換する。

【００６１】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。認識対象物のｎ
個の特徴データからなる入力パターン信号Ｘ Ｘ＝（ｘ₁ ，ｘ₂ …，ｘ_n ） （７） は、ファジィ大分類部２に入力される。ファジィ大分類
部２では、入力部２１から入力パターン信号Ｘを入力
し、ｒ個の距離計算部２２へＸを出力する。各々の距離
計算部２２は、群辞書１に記憶されている各カテゴリ群
を代表する群参照用パターン信号Ｖ_i （１≦ｉ≦ｒ；ｒ
は群参照用パターン信号の数、即ち、カテゴリ群数）を
読み出し、下記の第８式に示すＸとＶ_i の距離ｄ_i を計
算し、各々対応する割算器２３および乗算器２５へ出力
する。

【００６２】 ｄ_i ＝‖Ｘ−Ｖ_i ‖^2/(f-1) （１≦ｉ≦ｒ） （８） 但し、ｆはｆ＞１を満たす実数とする。各々の割算器２
３は、距離ｄ_i の逆数を計算し、その出力を加算器２４
へ出力する。加算器２４は、全ての割算器２３の出力の
総和を計算し、その出力をｒ個の乗算器２５へ出力す
る。各々の乗算器２５では、対応する距離計算器２２と
加算器２４の出力を乗算し、その出力を対応する割算器
２６に入力する。各々の割算器２６では、対応する乗算
器２５の出力の逆数を計算する。最終的にファジィ大分
類部２では、この各割算器２６の出力が入力パターン信
号Ｘに対する各カテゴリ群の群帰属度μ_i （１≦ｉ≦
ｒ）として、第１の群選択部６に出力される。つまり、
各カテゴリ群の群帰属度μ_i （１≦ｉ≦ｒ）は、

【００６３】

【数１】

【００６４】と表わすことができる。なお、群辞書１に
記憶されている各カテゴリ群を代表する群参照用パター
ン信号は、予め、従来のクラスタリング手法、例えば、
電子情報通信学会編 長尾真著「パターン情報処理」
（コロナ社）に示されているＫ平均アルゴリズム、およ
びIsodata アルゴリズムや、Y.Linde, A.Buzo, and R.
M.Gray による"AnAlgorithm for Vector Quantizer des
ign," IEEE Trans. Commun., COM-28, 1,pp.84-95, Ja
n.1980に示されているＬＢＧアルゴリズムを用いて設計
される。

【００６５】以下、Ｋ平均アルゴリズムを用いて群辞書
１を設計する方法について簡単に説明する。 〔１〕 認識対象物の群辞書設計用のパターン信号の集
合から、ｒ個（但し、ｒは予め定められたカテゴリ群
数）のパターン信号を適当に選び、これらをｒ個の群参
照用パターン信号Ｖ_i （１≦ｉ≦ｒ）とする。 〔２〕 全ての群辞書設計用のパターン信号Ｘについ
て、それぞれ下記の第１０式に示される距離ｄ_i ｄ_i ＝‖Ｘ−Ｖ_i ‖ （１０） を最小にするＶ_i を決める。

【００６６】このとき、Ｘはカテゴリ群Ｓ_i （１≦ｉ≦
ｒ）に属するものとする。 〔３〕 各Ｓ_i に属するパターン信号Ｘの平均値を求
め、これをＶ_i とする。 〔４〕 Ｖ_i ＝Ｖ_i が全てのｉについて成立すれば、こ
のときの群参照用パターン信号Ｖ_i を群辞書１に記憶す
る。そうでなければ、Ｖ_i を新たな群参照用パターン信
号Ｖ_i として、〔２〕に戻る。

【００６７】このようにして、群参照用パターン信号を
設計することによって、全てのパターン信号はいくつか
の類似したパターン信号の部分集合（カテゴリ群）に分
割することができる。なお、Isodata アルゴリズム、お
よびＬＢＧアルゴリズムもこのＫ平均アルゴリズムと基
本的にはほぼ同じ手法である。

【００６８】第１の群選択部６では、ファジィ大分類部
２で得られた群帰属度の大きい順に複数個のカテゴリ群
を選び（選択された群帰属度以外は“０”とする）識別
信号荷重部８へ出力する。

【００６９】なお、カテゴリ群の選択方法としては、あ
るしきい値以上の群帰属度をもつカテゴリ群を選択する
としてもよい。第１の群選択部６で選択されたカテゴリ
群に対応する各々の細分類部３の類似度算出部４では、
以下の様にして類似度を算出する。

【００７０】ここでは、入力パターン信号が、第１特徴
データ（２次元）と第２特徴データ（２次元）から構成
される４次元ベクトルデータで、３種類のカテゴリに分
類する場合を例に、類似度算出部４の動作を説明する。

【００７１】各類似度算出部４の各木分岐構造の第１層
目の単位認識ユニットｋ１１〜ｋ１２の経路入力端子へ
の経路信号として、常に１を与えておく。まず、動作モ
ード選択部６０からフォワード処理モード信号が教師信
号変換部６１に出力される。

【００７２】入力パターン信号が、第１特徴データと第
２特徴データに分割されそれぞれ第１層目、第２層目の
単位認識ユニットの信号入力端子３１ａに入力される。
第１層目の各単位認識ユニットは、第１特徴データを量
子化器３２で量子化し、量子化結果を荷重設定部３３ｃ
０、および隣接区間選択部３４に出力する。隣接区間選
択部３４は、前記入力信号（特徴データ）の量子化区間
に隣接する量子化区間を選択し経路荷重部３３ｃに出力
する。荷重設定部３３ｃ０は、予め設定されている入力
データに対応する前記荷重値ならびに隣接区間の荷重値
を荷重テーブル３３ｄから読み出し、対応する量子化レ
ベル位置に設定する。

【００７３】このように１つの単位認識ユニットにおい
て複数の経路が選択され、第２層目の単位認識ユニット
ｋ２１〜ｋ３０の経路入力端子へ、経路信号と前記荷重
値を掛けた値が送られる。

【００７４】第２層目の単位認識ユニットの信号入力端
子には、第２特徴データを入力する（この図の場合に
は、２個の第２特徴データを、それぞれｋ２１〜ｋ２
５、ｋ２６〜ｋ３０に入力する。）。第１層目の場合と
同様にして複数の経路信号が選択され、第３層目の単位
認識ユニットｐ３１〜ｐ３５０の経路入力端子へ、経路
信号と前記荷重の値を掛けた値が送られる。

【００７５】フォワード処理モードの場合、第３層の単
位認識ユニットｐ３１からｐ３５０の信号入力端子に
は、教師入力信号は入力されない。従って、荷重の変更
は行われず、学習時の荷重の状態が保持されており、各
単位認識ユニットの経路入力信号にこれらの荷重を乗じ
て、第４層目の全単位認識ユニットの経路入力端子へ、
経路信号が送られる。

【００７６】第４層目の各単位認識ユニットの加算器５
３ａ０は、入力された経路信号を加算する。しきい値処
理器５３ｂ０は、この信号をしきい値処理し、経路出力
端子に出力する。ここで、しきい値処理をする関数とし
ては、シグモイド関数、ステップ関数などを用いること
ができる。

【００７７】このようにして、入力したパターン信号の
特徴データに基づき、その時点の荷重値による最終層の
単位認識ユニットの出力が計算される。この出力値が入
力パターン信号Ｘに対する各カテゴリの群内類似度ベク
トルとして識別信号荷重部８に出力される。識別信号荷
重部８では、乗算器９が第１の群選択部６で選択された
カテゴリ群の群帰属度μ_i と、そのカテゴリ群に対応す
る細分類部３から得られる群内類似度ベクトル（ν₁ ，
ν₂ ，…，ν_c ）を乗算し、それらの出力をカテゴリ識
別部１０に出力する。つまり、乗算器９は（群参照用パ
ターン信号の数×各細分類部におけるカテゴリ参照用パ
ターン信号数の総和）個用意されており、第１の群選択
部６で選択されたあるカテゴリ群ｐの群帰属度μ_p （１
≦ｐ≦ｒ；ｒはカテゴリ群の数）とそのカテゴリ群ｐに
対する細分類部３から得られたあるカテゴリｑの群内類
似度ν_pq（１≦ｑ≦ｃ；ｃはカテゴリ群に続するカテゴ
リ数）が入力される乗算器９の出力値ξ_pqは、 ξ_pq＝μ_p ・ν_pq （１３） と表わされる。

【００７８】カテゴリ識別部１０では、全ての乗算器９
の出力値を各カテゴリ毎にこれらの選択された出力値の
総和をカテゴリ類似度ｒ_s （１≦ｓ≦Ｎ_C ；Ｎ_C はカテ
ゴリの数）として求め、それらの中で最大となる類似度
に対応するカテゴリ番号を認識結果として出力する。

【００７９】第１の教師信号算出部１１は、入力パター
ン信号Ｘに同期してパターンＸのカテゴリに対応するカ
テゴリ番号を生成し、学習制御部１３と細分類部３の類
似度算出部４に出力する。

【００８０】学習制御部１３は、上記のようにして算出
された入力パターン信号Ｘに対する識別結果と入力パタ
ーン信号Ｘのカテゴリを比較し、比較結果が等しい場合
は、各細分類部３の荷重更新を行わずに次の入力パター
ンの学習を行い、比較結果が異なる場合には、各細分類
部３の荷重値が更新されるように制御する。

【００８１】荷重値が変更される場合、第２の群選択部
７はカテゴリ情報記憶部１２に記憶されたカテゴリ情報
により入力パターンのカテゴリが存在する細分類部の中
で群帰属度の大きい方から複数のカテゴリ群を選び、荷
重値変更量制御部５に出力する。

【００８２】荷重値変更量制御部５は、選択された群帰
属度に応じて対応する類似度算出部４の荷重値を以下の
様に更新する。動作モード選択部６０から荷重変更処理
モード信号が教師信号変換部６１に出力される。

【００８３】教師信号変換部６１は、第１の教師信号発
生部１１から出力されるカテゴリ番号を上記選択された
カテゴリ群内での最終層の単位認識ユニットの番号即
ち、ｑ４１、ｑ４２、ｑ４３のどれが最も大きい値を出
力することが望ましいかを示す信号に変換し、第３層目
の単位認識ユニットの信号入力端子４１ａに出力する。
単位認識ユニットｐ３１〜ｑ３５０の量子化器４２は、
例えばｑ４１が最も大きい出力をする場合には、量子化
レベル値が単位認識ユニットｑ４１につながる経路に対
応する値となる様に設定されている。

【００８４】荷重値変更量制御部５は、上記の選択され
た群帰属度の値に応じて伝達量変更部４４のビットシフ
ト量を変更する。例えば第２の群選択部出で選択された
細分類部の中で、群帰属度が最大の細分類部のビットシ
フト量は０で、２番目の細分類部のビットシフト量は１
といった具合にビットシフト量を変更する。

【００８５】学習器４３ｃ０は、前記経路入力部４３ａ
の経路入力端子４３ａ１と量子化器４２の出力が示す経
路出力部４３ｂの経路出力端子（ここでは、単位認識ユ
ニットｑ４１につながる経路４３ｂ１）との連結強度で
ある荷重値４３ｃ１を伝達量変更部から出力された値だ
け増加させる。

【００８６】このようにして、全ての入力データについ
て、カテゴリ識別部１０の認識結果と第１の教師信号発
生部１１から出力される教師信号が一致するまで以上の
学習動作を繰り返すことにより、この学習型認識判断装
置は入力パターンに対する認識が可能となる。

【００８７】このように本実施例によれば、入力パター
ン信号に対する識別結果が誤っている場合、そのパター
ンの帰属度が大きい複数のカテゴリ群を第２の群選択部
７が選択し、それらに対応する細分類部３がその入力パ
ターンがそれぞれのカテゴリ群に続する帰属度を用いて
荷重変更量を調整しながら協調して学習するので、カテ
ゴリ群の境界に位置するパターンを精度良く学習でき、
認識率も向上する。

【００８８】また、類似度算出部４における荷重変更処
理課程では、３層目の第２の単位認識ユニットの荷重値
のみを学習器４３ｃ０によって伝達量変更部４４から出
力された値だけ増加させるだけで学習が行えるので、全
ての層の荷重値を変更する必要がなく高速学習が可能で
ある。

【００８９】（第２の実施例）図７は第２の実施例を示
す。群辞書１、ファジィ大分類部２、細分類部３、類似
度算出部４、第１の群選択部６、第２の群選択部７、識
別信号荷重部８、乗算器９、カテゴリ識別部１０、第１
の教師信号発生部１１、カテゴリ情報記憶部１２、学習
制御部１３などは、上述した第１の実施例と同様であ
る。

【００９０】図１と異なる構成は、荷重値変更量制御部
５の代わりに第２の群選択部７により選択された群帰属
度に応じて類似度算出部４の学習強度を制御する学習強
度制御部１４を設けた点である。

【００９１】図８は学習強度制御部１４の具体例を示
す。１４１は基準荷重値更新回数設定部で、荷重値更新
回数の基準値を設定する。１４２は乗算器で、基準荷重
値更新回数設定部１４１から出力される荷重値更新回数
の基準値と第２の群選択部７により選択された群帰属度
の内の対応する群帰属度と基準値を乗算する。

【００９２】１４３は荷重更新回数制御部で、乗算器１
４２の乗算結果に基づいて類似算出部４の学習器４３ｃ
０による荷重更新回数を制御する。このように構成され
た学習型認識判断装置について、以下その動作を説明す
る。

【００９３】第１の実施例と同様にして、入力パターン
の識別結果がカテゴリ識別部から出力され、教師信号と
の比較結果が異なる場合には、第２の群選択部７によ
り、カテゴリ情報記憶部１２に記憶されたカテゴリ情報
により入力パターンのカテゴリが存在する細分類部の中
で群帰属度の大きい方から複数の群帰属度が選択され対
応する細分類部の学習強度制御部１４に出力される。

【００９４】各学習強度制御部１４は、基準荷重値更新
回数設定部１４１に予め設定されている荷重値更新回数
の基準値と群帰属度を乗算することにより重み付けし、
荷重更新回数制御部１４３に出力する。荷重更新回数制
御部１４３は、第１の実施例と同様の荷重更新処理を乗
算器１４２から出力される更新回数だけ繰り返す。

【００９５】このように本実施例によれば、入力パター
ン信号に対する識別結果が誤っている場合、そのパター
ンの帰属度が大きい複数のカテゴリ群を第２の群選択部
７が選択し、それらに対応する細分類部３がその入力パ
ターンがそれぞれのカテゴリ群に属する帰属度を用いて
荷重更新回数を調整しながら協調して学習するので、カ
テゴリ群の境界に位置するパターンを精度良く学習で
き、認識率も向上する。

【００９６】また、類似度算出部４における荷重変更処
理課程では、３層目の第２の単位認識ユニットの荷重値
のみを学習器４３ｃ０によって伝達量変更部から出力さ
れた値だけ増加させるだけで学習が行えるので、全ての
層の荷重値を変更する必要がなく高速学習が可能であ
る。

【００９７】（第３の実施例）図９は本発明の第３の実
施例を示す。図９において、群辞書１、ファジィ大分類
部２、細分類部３、類似度算出部４、荷重変更量制御部
５、第１の群選択部６、第２の群選択部７、識別信号荷
重部８、乗算器９、カテゴリ識別部１０、第１の教師信
号発生部１１、カテゴリ情報記憶部１２、学習制御部１
３は図１に示した第１の実施例と同様である。

【００９８】図１と異なる構成は、カテゴリ識別部１０
で識別された認識結果を表示部に出力する認識結果表示
部１５と、この認識結果が間違っている場合に正解の認
識結果を入力する正解入力部１６と、入力された正解の
認識結果を入力データに対応するカテゴリ番号である教
師信号に変換する第２の教師信号発生部１７と、実行モ
ードにより第１の教師信号発生部１１の出力と第２の教
師信号発生部１７の出力を切り替える教師信号選択部１
８を設けた点である。

【００９９】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。なお、学習動作
は第１の実施例と同様であるので省略し、追加学習動作
について説明する。

【０１００】実行モードとして、追加学習モードが学習
制御部１３に入力され、追加学習パターンとして、未学
習パターンが入力されると、第１の実施例と同様にして
入力パターン信号Ｘに対する識別結果がカテゴリ識別部
１０から出力され、認識結果表示部１５に表示される。
その認識結果が入力パターンのカテゴリと異なるとき、
入力データのカテゴリに対応する正しい認識結果がキー
ボード等の正解入力部１６から入力されると、第２の教
師信号発生部１７は、入力データのカテゴリに対応する
カテゴリ番号を教師信号選択部１８に出力する。教師信
号選択部１８は、実行モードが追加学習モードの場合、
第２の教師信号選択部１７の出力を選択し類似度算出部
４に出力する。以後、カテゴリ識別部１０から出力され
る追加学習パターンの認識結果が、第２の教師信号発生
部の出力と一致するまで第１の実施例と同様の学習動作
が繰り返すことにより、追加学習パターンが認識可能と
なる。

【０１０１】このように本実施例によれば、未学習パタ
ーンの識別結果が誤っている場合、第２の群選択部１５
が入力パターンのカテゴリが存在する細分類部を選択し
学習が行われるので、未学習パターンの追加学習が可能
になる。

【０１０２】また、上記のように追加学習パターンに関
連ある細分類部のみ荷重値が更新されるので、追加学習
が認識判断装置全体に影響を与えにくく、学習済みデー
タの認識性能に影響がでにくい追加学習が可能になる。

【０１０３】

【発明の効果】以上のように第１の発明によれば、入力
パターン信号に対する識別結果が誤っている場合、学習
強度制御部が、第２の群選択部により選択された群帰属
度に応じて、対応する類似度算出部の学習強度を変更す
るので、入力パターンのカテゴリ群に対する帰属度を用
いながら各細分類部が協調して学習されるので、カテゴ
リ群の境界に位置するパターンが精度よく学習でき認識
率が向上する。

【０１０４】また、類似度算出部を構成する各階層の単
位認識ユニットの信号入力部に入力パターン信号の各種
一連の特徴データを入力すると、学習モードでは、各階
層の単位認識ユニットは、量子化器の出力に応じてネッ
トワークのより下層に位置する単位認識ユニットとの結
合経路を切り換え、最下層までの選択経路を決定するこ
とにより最下層の第３の単位認識ユニットの出力を算出
し、最下層の前層の第２の単位認識ユニットの経路入力
端子に入力された値を伝達量変更部で変更した値に応じ
て経路入力端子と量子化器の出力値が指し示す経路出力
端子との連結強度を学習器によって増加させるだけで学
習が行えるので、全ての層の荷重値を変更する必要がな
く、高速学習が可能である。

【０１０５】

【０１０６】本発明の第２の発明によれば、未学習パタ
ーンが入力され、教師信号とその識別結果が異なると
き、正解入力部から正解が入力されると、第２の教師信
号発生部は入力パターンのカテゴリ番号を教師信号とし
て類似度算出部に出力し、第１の発明と同様にして、第
２の群選択部で選択された細分類部の荷重値を更新する
ので、未学習パターンの追加学習が可能になる。

【０１０７】また、上記のように追加学習パターンに関
連ある細分類部のみ、重み係数が更新されるので、追加
学習が認識判断装置全体に影響を与えにくく、学習済み
データの認識性能に影響がでにくい追加学習が可能にな
る。

【図面の簡単な説明】

【図１】本発明の学習型認識判断装置の第１の実施例を
示すブロック図である。

【図２】同実施例のファジィ大分類部のブロック図であ
る。

【図３】同実施例の類似度算出部における第１の単位認
識ユニットのブロック図である。

【図４】同実施例の類似度算出部における第２の単位認
識ユニットのブロック図である。

【図５】同実施例の類似度算出部における第３の単位認
識ユニットのブロック図である。

【図６】同実施例の類似度算出部の一実施例を示すブロ
ック図である。

【図７】本発明の学習型認識判断装置の第２の実施例を
示すブロック図である。

【図８】同実施例の学習強度制御部の一実施例を示すブ
ロック図である。

【図９】本発明の学習型認識判断装置の第３の実施例を
示すブロック図である。

【図１０】従来の学習型認識判断装置のブロック図であ
る。

【符号の説明】

１ 群辞書 ２ ファジィ大分類部 ３ 細分類部 ４ 類似度算出部 ５ 重み係数更新部 ６ 第１の群選択部 ７ 第２の群選択部 ８ 識別信号荷重部 ９ 乗算器 １０ カテゴリ識別部 １１ 第１の教師信号発生部 １２ カテゴリ情報記憶部 １３ 学習制御部 １４ 学習強度制御部 １５ 認識結果表示部 １６ 正解入力部 １７ 第２の教師信号発生部 １８ 教師信号選択部

フロントページの続き (56)参考文献 特開 平４−31979（ＪＰ，Ａ) 特開 平６−301659（ＪＰ，Ａ) 特開 平７−6149（ＪＰ，Ａ) 小島良宏・他，「構造化ニューラルネ ットワーク（ＮＡＲＡ）によるマルチフ ォント漢字認識」，電子情報通信学会技 術研究報告，日本，社団法人電子情報通 信学会・発行，1991年９月20日，Ｖｏ ｌ．91，Ｎｏ．231（ＮＣ91−30〜47）, ｐｐ．９−16 (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06N 1/00 - 7/08 G06G 7/60 G06K 9/00 G06T 7/00 ＪＩＣＳＴファイル（ＪＯＩＳ) ＣＳＤＢ（日本国特許庁)

Claims (6)

(57)【特許請求の範囲】
1. 【請求項１】類似パターンの集合から成るカテゴリ群を
   代表する複数個の群参照用パターン信号が記憶されてい
   る群辞書と、 前記の群参照用パターン信号を用いて入力パターン信号
   が各カテゴリ群に属する度合である群帰属度を計算する
   ファジィ大分類部と、 前記の入力パターン信号がカテゴリ群内に含まれる各カ
   テゴリに類似する度合である群内類似度を計算する類似
   度算出部と後述する第２の群選択部の出力に応じて後述
   する類似度算出部の学習回数を変更する学習強度制御部
   とからなる複数個の細分類部と、対応する細分類部の学
   習回数を変更する前記の群帰属度から少なくとも１つの
   カテゴリ群を選択する第１の群選択部と、 前記の細分類部で得られた群内類似度を前記選択された
   群帰属度により重み付けする識別信号荷重部と、 識別信号荷重部の出力から入力パターン信号の識別を行
   なうカテゴリ識別部と、 前記の細分類部の学習に必要な学習パターンの教師信号
   を発生する第１の教師信号発生部と、 各細分類部に属するカテゴリ情報を記憶したカテゴリ情
   報記憶部と、 カテゴリ情報により入力パターンのカテゴリが存在する
   細分類部の中で群帰属度の大きい方から少なくとも１つ
   の群帰属度を選択する第２の群選択部と、 前記の識別結果と第１の教師信号発生部から出力される
   入力パターンのカテゴリとの比較結果に応じて前記細分
   類部の学習を制御する学習制御部とを備えた学習型認識
   判断装置において、 前記類似度算出部は、複数の階層からなり、最下層を複
   数の第３の単位認識ユニット、最下層の前層を複数の第
   ２の単位認識ユニット、それ以外の層を複数の第１の単
   位認識ユニットにより構成し、 第１の単位認識ユニットは、信号入力部と、入力信号の
   出力に応じて量子化を行なう量子化器と、前記入力信号
   の量子化結果から量子化区間に隣接する量子化区間を選
   択する隣接区間選択部と、前記入力信号の属する量子化
   区間ならびに、量子化区間に隣接する量子化区間に対す
   る荷重値を記憶する荷重テーブルと、単一又は複数の経
   路入力端子を有する経路入力部と、単一又は複数の経路
   出力端子を有する経路出力部と、量子化結果に応じて経
   路にかける荷重の設定位置を変えることで前記経路入力
   部の経路入力端子と前記経路出力部の経路出力端子との
   連結強度を変化させる経路荷重部とを有し、 第２の単位認識ユニットは、信号入力部と、前記入力信
   号の出力に応じて量子化を行う量子化器と、単一又は複
   数の経路入力端子を有する経路入力部と、 単一又は複数の経路出力端子を有する経路出力部と、経
   路入力部の経路入力端子に伝達された値をｎビットシフ
   トする伝達量変更部と、伝達量変更部の出力に応じて経
   路入力端子と前記量子化器の出力値が指し示す経路出力
   部の経路出力端子との連結強度を増加する学習器とを有
   し、 第３の単位認識ユニットは、複数の経路入力端子からの
   入力信号を加算する加算器と、加算器の出力信号をしき
   い値処理するしきい値処理部とを有する学習型認識判断
   装置。
2. 【請求項２】学習強度制御部は、第２の群選択部の出力
   に応じて対応する細分類部の学習回数を変更する請求項
   １記載の学習型認識判断装置。
3. 【請求項３】カテゴリ識別部で識別された認識結果を表
   示部に出力する認識結果表示部と、 未学習パターンが入力され、その認識結果が間違ってい
   る場合に正解の認識結果を入力する正解入力部と、 入力された未学習パターンの正解の認識結果を入力デー
   タに対応するカテゴリ番号である教師信号に変換する第
   ２の教師信号発生部と、前記 第１の教師信号発生部の出力と前記第２の教師信号
   発生部の出力のどちらか１つを選択する教師信号選択部
   とを備えた請求項１記載の学習型認識判断装置。
4. 【請求項４】ファジィ大分類部は、 入力パターン信号と群辞書に記憶されている全ての群参
   照用パターン信号との距離を計算する複数個の距離計算
   部と、 距離計算部の出力の逆数を計算する複数個の割算器と、 割算器の各出力を加算する加算器と、 加算器の出力と距離計算部の出力を乗算する複数個の乗
   算器と、 乗算器の出力の逆数を計算する複数個の割算器とを備え
   た請求項１，請求項３記載の学習型認識判断装置。
5. 【請求項５】類似度算出部は、第１の教師信号発生部の
   出力を細分類部の中で最も大きな値を出力することが望
   ましい第３の単位認識ユニットの番号に変換する教師信
   号変換部を備え、最下層の前層に位置する第２の単位認
   識ユニットの信号入力部に教師信号変換部の出力を入力
   する請求項１記載の学習型認識判断装置。
6. 【請求項６】類似度算出部は，第１または第２の教師信
   号選択部の出力を細分類部の中で最も大きな値を出力す
   ることが望ましい第３の単位認識ユニットの番号に変換
   する教師信号変換部を備え、最下層の前層に位置する第
   ２の単位認識ユニットの信号入力部に教師信号変換部の
   出力を入力する請求項３記載の学習型認識判断装置。