JP3392612B2 - 学習型認識判断装置 - Google Patents

学習型認識判断装置

Info

Publication number
JP3392612B2
JP3392612B2 JP33940895A JP33940895A JP3392612B2 JP 3392612 B2 JP3392612 B2 JP 3392612B2 JP 33940895 A JP33940895 A JP 33940895A JP 33940895 A JP33940895 A JP 33940895A JP 3392612 B2 JP3392612 B2 JP 3392612B2
Authority
JP
Japan
Prior art keywords
unit
category
group
data
reject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP33940895A
Other languages
English (en)
Other versions
JPH09179844A (ja
Inventor
敏行 香田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP33940895A priority Critical patent/JP3392612B2/ja
Priority to US08/668,588 priority patent/US5966701A/en
Priority to EP96304575A priority patent/EP0750263B1/en
Priority to DE69606468T priority patent/DE69606468T2/de
Publication of JPH09179844A publication Critical patent/JPH09179844A/ja
Application granted granted Critical
Publication of JP3392612B2 publication Critical patent/JP3392612B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【０００１】
【発明の属する技術分野】本発明は、入力されたパター
ンデータの学習及び認識を行う学習型認識判断装置に関
するものである。
【０００２】
【従来の技術】従来の学習型認識判断装置において、入
力されたパターンデータに対して、まず大分類を行って
入力データが属するカテゴリ群を選択し、次に選択され
たカテゴリ群に対して細分類を行うことによって、入力
データの認識をする構成の一例としては、例えば、電子
情報通信学会論文誌Ｄ−II Vol.J75-D-II No.3 pp545-5
53 「大規模ニューラルネット“ＣｏｍｂＮＥＴ−I
I”」に示されているものがあげられる。
【０００３】図11は前記従来の学習型認識判断装置の構
成図であって、1101は大分類部であり、入力パターン信
号を各カテゴリ群に大分類するものである。1102は細分
類部であり、入力パターン信号を各カテゴリ群内で細分
類するものである。1103は群選択部であり、大分類部11
01の出力値(以下、適合度という)から複数個のカテゴリ
群を選択するものである。1104は細分類部入力信号選択
部であり、群選択部1103で得られる群選択情報に基づい
て入力パターン信号を入力する細分類部1102を選択する
ものである。1105は識別部であり、群選択部1103で選択
されたカテゴリ群の適合度と細分類部1102の出力値から
入力パターン信号の識別を行うものである。
【０００４】大分類部1101において、1106は入力部であ
り、入力パターン信号を入力するものである。1107は多
入力１出力信号処理部であり、入力パターン信号に対す
る各カテゴリ群の適合度を計算するものである。
【０００５】細分類部1102において、1108は入力部であ
り、細分類部入力信号選択部1104から出力される入力パ
ターン信号を入力するものである。1109は多入力１出力
信号処理部1109であり、それに接続されている下層の入
力部1108、又は多入力１出力信号処理部1109の出力と、
その連結の度合である重み係数とを各々掛け合わせて総
和したものを、しきい値処理して出力するものである。
ここでは、これら複数個の多入力１出力信号処理部1109
を層構造を持ち、各層内相互の結合がなく、上位層にの
み信号が伝搬するようにネットワーク接続することによ
って、入力パターン信号に対するカテゴリ群内の各カテ
ゴリに類似する度合が求められる。1110は最大値選択部
であり、最上位層の複数個の前記多入力１出力信号処理
部1109の中から最大値を選択するものである。
【０００６】識別部1105において、1111は類似度計算部
であり、群選択部1103において選択されたカテゴリ群の
適合度と、そのカテゴリ群に対応する細分類部1102の出
力値から各カテゴリの類似度を計算するものである。11
12はカテゴリ識別部であり、類似度計算部1111から得ら
れた各カテゴリの類似度の最大値を求めることによっ
て、入力パターン信号の識別を行うものである。
【０００７】以上のように構成された従来の学習型認識
判断装置について、以下その動作を説明する。
【０００８】認識対象物のｎ個の特徴データからなる
(数１)に示す入力パターン信号Ｘは、まず大分類部1101
の入力部1106に入力される。
【０００９】
【数１】Ｘ＝（ｘ1，ｘ2，…，ｘn） 入力部1106はパターンデータの特徴データ数に等しくｎ
個用意されており、各特徴データｘiはそれぞれ対応す
る入力部1106に入力される。大分類部1101の各多入力１
出力信号処理部1107は、それに接続されている入力部11
06の入力ｘjとその連結の度合である重み係数Ｖij(１≦
ｉ≦ｍr；ｍrはカテゴリ群の数、１≦ｊ≦ｎ)とを乗算
したものの総和を計算した後、これを入力パターン信号
Ｘ及び各多入力１出力信号処理部1107の(数２)に示す重
み係数ベクトルＶiのノルム｜Ｘ｜、｜Ｖ｜の積で割算
したものを出力する。
【００１０】
【数２】Ｖi＝（ｖi1，ｖi2，…，ｖin） つまり、重み係数ベクトルＶiをもつ多入力１出力信号
処理部1107の出力値sim(Ｘ，Ｖi)は、(数３)のように表
すことができる。
【００１１】
【数３】
【００１２】なお、重み係数ベクトルＶiについては、
類似した入力パターン信号に対応させてある多入力１出
力信号処理部が最大出力を発生するように、予め設計し
ておく。これらの重み係数ベクトルＶiは、従来におい
ては以下のような手法で設計される。
【００１３】まず第１過程では、重み係数ベクトル設計
用の入力パターン信号Ｘを入力するごとに、最もsim
(Ｘ，Ｖi)の大きいＶcを求め(このとき、ＸはＶcに最適
整合するという。)、ＶcをＸに近づける。また、１つの
重み係数ベクトルに最適整合する入力パターン信号があ
る一定数以上になったときには、その重み係数ベクトル
が担当する領域を２つに分割する。第２過程では、重み
係数ベクトル設計用の全入力パターン信号に対して最適
整合するＶiを求め、それが前回と変化したかどうかを
調べる。そして変化があれば、そのＶiを修正する。こ
のとき第１過程と同様に、重み係数ベクトルの分裂も行
う。これを重み係数ベクトルの修正，分裂がなくなるま
で繰り返す。
【００１４】このようにして、重み係数ベクトルの設計
を行うことによって、入力パターン信号は複数のカテゴ
リ群に大分類される。そして、各多入力１出力処理部11
07の出力値は、入力パターン信号Ｘに対する各カテゴリ
群の適合度として群選択部1103に出力される。
【００１５】群選択部1103では、大分類部1101で得られ
た適合度の大きい順に任意個のカテゴリ群を選び、どの
カテゴリ群が選択されるかを示す群選択情報とそれに対
応する適合度を出力する。細分類入力信号選択部1104
は、群選択部1103から得られる群選択情報に基づいて入
力パターン信号を入力する細分類部1102を選択し、入力
パターン信号をこれらの細分類部1102へ出力する。
【００１６】また前記群選択部1103で選択されたカテゴ
リ群に対応する各々の細分類部1102(すなわち、細分類
入力信号選択部1104から入力パターン信号を入力された
細分類部1102)では、まず入力部1108に、入力パターン
信号Ｘが入力される。入力部1108は、パターン信号の特
徴データ数に等しくＮ個用意されており、各特徴データ
Ｘiはそれぞれ対応する入力部1108に入力される。細分
類部1102の各多入力１出力信号処理部1109は、それに接
続されている下層の入力部1108又は多入力１出力信号処
理部1109の出力と、その連結の度合いである重み係数と
を掛け合わせたものの総和をしきい値関数で変換した
後、その値を上層へ出力する。
【００１７】ここで、各細分類部1102の最上位層の多入
力１出力信号処理部1109は、各カテゴリ群に含まれるパ
ターンデータのカテゴリ数と同じ個数に設定され、最上
位層の各多入力１出力信号処理部1109は、これらの各カ
テゴリに対応している。最大値選択部1110は最上位層の
各多入力１出力信号処理部1109の出力値の中で最大のも
のを選び、この多入力１出力信号処理部1109に対応する
カテゴリと、その最大出力値を出力する。
【００１８】なお、各多入力１出力信号処理部1109の重
み係数は、カテゴリ群内の各カテゴリを有する入力パタ
ーン信号に対して、その各カテゴリに対応する最上位層
の多入力１出力信号処理部1109が最大出力を発生するよ
うに、予め学習されている。
【００１９】具体的には、このような重み係数の学習方
法は、誤差逆伝搬法と呼ばれる学習アルゴリズムによっ
て行われる。誤差逆伝搬法については、例えばD. E.Rum
elhart, G.E.Hinton and R. J. Williamsによる“Learn
ing Representationsby Back-Propagating Errors,”Na
ture, vol.323, pp533-536, Oct. 9, 1986に示されてい
る。
【００２０】以下、前記誤差逆伝搬法の概略について説
明する。
【００２１】まず、重み係数学習用のパターン信号Ｘが
細分類部1102の入力部1108に入力される。各多入力１出
力信号処理部1109は、既に説明したように、各々それに
接続されている下層の入力部1108、又は多入力１出力信
号処理部1109の出力とその連結の度合いである重み係数
とを掛け合わせたものの総和をしきい値関数で変換した
後、その値を上層へ出力する。ここで、すべての最上位
層の多入力１出力信号処理部1109の出力信号ｏkと望ま
しい出力信号ｔk(これを教師信号という)との誤差Ｅは
(数４)の式によって求められる。
【００２２】
【数４】Ｅ＝0.5ΣpΣk(ｔk−ｏk)2 ただし、Σpは教師信号のパターン数に関する総和であ
る。
【００２３】学習の目的は、誤差Ｅを最小にする重み係
数の値を決定することであり、各多入力１出力信号処理
部1109間の重み係数の変更量Δｗijは(数５)の式に基づ
いて計算される。
【００２４】
【数５】Δｗij ＝ −ε∂Ｅ／∂ｗij ただし、εは学習レートと呼ばれる正の定数である。
【００２５】前記(数５)の式に基づいた重み係数の更新
を、学習用のパターン信号が入力されるたびに繰り返す
ことにより、誤差Ｅを小さくすることができる。誤差Ｅ
が十分小さくなると、出力信号が望ましい値に十分近く
なったものとして学習を終了する。
【００２６】このような重み係数の学習方法によって、
カテゴリ群内の各カテゴリを持つ入力パターン信号に対
し、その各カテゴリに対応する最上位層の多入力１出力
信号処理部1109が最大出力を発生するようにすることが
できる。したがって、最上位層の複数個の多入力１出力
信号処理部1109の中で、最大出力を発生するものを最大
値選択部1110で選ぶことにより、各カテゴリ群内におい
て、すなわち、各細分類部において入力パターン信号の
カテゴリを認識することができる。
【００２７】識別部1105では、まず、類似度計算部1111
において、群選択部1103で選択されたカテゴリ群の適合
度と、そのカテゴリ群に対応する細分類部1102の出力値
から(数６)の式を用いて細分類部1102において得られた
各カテゴリの類似度を計算し、これらの類似度をカテゴ
リ識別部1112に出力する。
【００２８】
【数６】
【００２９】ただし、ａ，ｂは実定数とする。
【００３０】最後に、カテゴリ識別部1112は、類似度計
算部1111から得られる各カテゴリの類似度を比較し、そ
れらの中で最大となる類似度に対応するカテゴリを識別
結果として出力する。
【００３１】
【発明が解決しようとする課題】しかしながら、前記従
来の構成による各細分類部の学習は、群参照用パターン
と学習すべき入力パターンの距離、すなわち群帰属度を
考慮せず、単一の細分類部で全く独立に行われるので、
カテゴリ群間の境界に位置する入力パターンに対する認
識精度が劣化するだけでなく、未学習パターンが正解に
も係わらずリジェクトされた場合に、改善することがで
きないという問題がある。
【００３２】また、リジェクト時に、リジェクトデータ
の帰属するカテゴリ群，カテゴリなどの特性を考慮した
リジェクト処理ができないという問題を有していた。
【００３３】本発明は、前記従来の問題点に鑑み、入力
パターンに対する群帰属度を用いて各細分類部を協調的
に学習することにより、カテゴリ群の境界に位置するパ
ターンの認識率を向上させることを可能にし、正解リジ
ェクトデータの削減に有効な強化学習並びにリジェクト
処理が効率的に行える学習型認識判断装置を提供するこ
とを目的とする。
【００３４】
【課題を解決するための手段】前記目的を達成するた
め、本発明の学習型認識判断装置においては、入力パタ
ーン信号をファジィ大分類部に入力すると、群辞書部に
記憶されているすべての群参照用パターン信号を読み出
して、前記入力パターン信号が各カテゴリ群に属する度
合である群帰属度を求める。これらの群帰属度を用い
て、第１の群選択部は少なくとも１つのカテゴリ群を選
択し、識別信号荷重部に出力する。
【００３５】各細分類部は、類似度算出部により前記入
力パターン信号が各カテゴリ群内に含まれる各カテゴリ
に類似する度合である群内類似度ベクトルを計算し、識
別信号荷重部に出力する。
【００３６】識別信号荷重部では、まず、前記第１の群
選択部で選択されたカテゴリ群の帰属度により、対応す
る細分類部から得られる群内類似度ベクトルを重み付け
し、これをカテゴリ類似度部に出力する。認識結果算出
部は、カテゴリ類似度算出部では、重み付けされた群内
類似度ベクトルをカテゴリごとに加算することにより入
力データの各カテゴリに属する度合であるカテゴリ類似
度を算出し、認識結果算出部が算出されたカテゴリ類似
度から識別を行い、識別結果を学習制御部に出力する。
認識結果算出部がカテゴリ類似度から認識結果と認識不
可能であることを表すリジェクト信号を出力する。
【００３７】学習制御部は、教師信号発生部から出力さ
れる入力パターンのカテゴリ番号（教師信号）と認識結
果を比較し、比較結果が等しい場合には、各細分類部の
荷重更新を行わずに次の入力パターンの学習を行い、比
較結果が異なる場合には、各細分類部の荷重値が更新さ
れるように制御する。
【００３８】荷重値が変更される場合、第２の群選択部
により、カテゴリ情報記憶部に記憶されたカテゴリ情報
により入力パターンのカテゴリが存在する細分類部に対
応する群帰属度の中で大きい方から複数の群帰属度が選
択され荷重変更量制御部に出力される。
【００３９】荷重変更量制御部は、選択された群帰属度
に応じて対応する類似度算出部における荷重変更量を制
御するので、入力パターンのカテゴリ群に対する帰属度
を用いながら各細分類部が協調して学習され、カテゴリ
群の境界に位置するパターンが精度よく学習でき認識率
が向上する。
【００４０】未学習の評価データが入力されると、認識
結果算出部の判定結果が認識結果表示部に表示され、認
識結果が確認されると共に、認識結果のカテゴリが正解
であるにもかかわらずリジェクトされた場合、正解の認
識結果が正解入力部から入力される。
【００４１】強化学習制御部は、入力された正解の認識
結果に基づき認識結果表示部に表示されている認識結果
が入力データのカテゴリと一致し、正解であるにもかか
わらず、認識結果算出部からリジェクト信号が出力され
る正解リジェクトの原因となったリジェクト判定値が、
予め設定されたリジェクトしきい値以下になるまで、前
記細分類部の学習を行うように制御することにより、正
解にもかかわらずリジェクトと判定されることがなくな
り、正解リジェクトの削減が可能になる。
【００４２】
【発明の実施の形態】本発明の請求項１に記載の発明
は、類似パターンの集合からなるカテゴリ群を代表する
群参照用パターン信号が複数個記憶されている群辞書部
と、前記群参照用パターン信号を用いて入力パターン信
号が各カテゴリ群に属する度合である群帰属度を計算す
るファジィ大分類部と、前記群帰属度から少なくとも１
つのカテゴリ群を選択する第１の群選択部と、前記入力
パターン信号がカテゴリ群内に含まれる各カテゴリに類
似する度合である群内類似度を計算する類似度算出部
と、第２の群選択部の出力に応じて前記類似度算出部の
荷重変更量を制御する荷重変更量制御部とからなる複数
個の細分類部と、前記細分類部で得られた群内類似度を
前記選択された群帰属度により重み付けする識別信号荷
重部と、前記識別信号荷重部の出力から各カテゴリに属
する度合であるカテゴリ類似度の算出を行うカテゴリ類
似度算出部と、前記算出された類似度から認識結果又は
認識不可であることを表すリジェクト信号を出力する認
識結果算出部と、前記細分類部の学習に必要な前記荷重
変更を行うための教師信号を発生する教師信号発生部
と、各細分類部に属するカテゴリ情報を記憶したカテゴ
リ情報記憶部と、前記カテゴリ情報により入力パターン
のカテゴリが存在する細分類部に対応する群帰属度の中
で大きい方から複数の群帰属度を選択する前記第２の群
選択部と、前記認識結果と前記教師信号発生部から出力
される入力パターンのカテゴリとの比較結果に応じて前
記細分類部における前記荷重変更を行うか否かを制御す
る学習制御部と、前記認識結果算出部で判定された判定
結果を表示する認識結果表示部と、前記認識結果のカテ
ゴリが正解であるにもかかわらずリジェクトされた場合
に、正解の認識結果を入力する正解入力部と、前記入力
された正解の認識結果に基づいて前記認識結果表示部に
表示されている認識結果が入力データのカテゴリと一致
し、正解であるにもかかわらず、認識結果算出部からリ
ジェクト信号が出力される正解リジェクトの原因となっ
たリジェクト判定値が予め設定されたリジェクトしきい
値以下になるまで前記細分類部における前記荷重変更を
行うように制御する強化学習制御部と、前記カテゴリ情
報記憶部のカテゴリ情報により入力データのカテゴリが
存在する細分類部の中で群帰属度が最大の群番号を選択
する第１の群番号選 択部と、前記正解リジェクトの入力
データとそれに対応するカテゴリ番号(教師信号)と前記
選択された群番号とを記憶する強化学習データ記憶部
と、前記強化学習データ記憶部に記憶されているデータ
から群番号別及びカテゴリ別の正解リジェクトデータ数
をカウントする正解リジェクトデータ数計数部と、前記
カウントされた正解リジェクトデータ数の多い群番号と
カテゴリ番号に対応する入力データとカテゴリ番号を選
択して前記強化学習データ記憶部に出力する第１の強化
学習候補データ選択部とを備えたものであり、この構成
により、学習用パターン信号に対する識別結果が誤って
いる場合、荷重変更量制御部が、第２の群選択部により
選択された群帰属度に応じて対応する類似度算出部にお
ける荷重変更量を変えるので、学習用パターンのカテゴ
リ群に対する帰属度を用いながら各細分類部が協調して
学習され、カテゴリ群の境界に位置するパターンが精度
良く学習でき認識率が向上する。また、強化学習制御部
を設けたことにより、正解リジェクトデータのリジェク
ト判定値が、予め設定されたリジェクトしきい値以下に
なるまで、前記細分類部の学習が行われるので、正解に
もかかわらずリジェクトと判定されることがなくなり、
正解リジェクトの削減が可能になる。しかも、第１の強
化学習候補データ選択部を設けたことにより、正解リジ
ェクトデータをすべて強化学習するのではなく、認識性
能の低い群番号の細分類又はカテゴリを優先的に強化学
習するので、強化学習の効率が向上するだけでなく、前
記第２の群選択部を設けることにより、強化学習パター
ンに関連ある細分部のみ重み係数が更新されるので、強
化学習が認識判断装置全体に影響を与えにくく、学習済
みデータの認識性能に影響が出にくい強化学習が可能に
なる。
【００４３】請求項２に記載の発明は、前記第１の強化
学習候補データ選択部において選択されたデータに関す
る強化学習結果を評価するための基準となるデータと教
師信号を記憶した基準データ記憶部と、前記基準となる
データに関する認識結果を評価することにより強化学習
の良否を判定する強化学習結果良否判定部と、前記強化
学習結果良否判定部において良と判定された強化学習候
補データのみを選択する第２の強化学習候補データ選択
部とを備えたものであり、この構成により、強化学習結
果良否判定部，第２の強化学習候補データ選択部を設け
たことにより、本装置が認識することを目標としている
データである基準データに与える影響を確認しながら、
強化学習候補データが選択されるので、無駄な強化学習
データが削除され、強化学習の効率が向上する。
【００４４】請求項３に記載の発明は、前記強化学習結
果良否判定部は、強化学習後の誤読データ数の増加数の
数倍(１以上の整数値)とリジェクトデータ数の増加数と
の総和により、強化学習の良否を判定する構成にしたも
のである。
【００４５】請求項４に記載の発明は、類似パターンの
集合からなるカテゴリ群を代表する群参照用パターン信
号が複数個記憶されている群辞書部と、前記群参照用パ
ターン信号を用いて入力パターン信号が各カテゴリ群に
属する度合である群帰属度を計算するファジィ大分類部
と、前記群帰属度から少なくとも１つのカテゴリ群を選
択する第１の群選択部と、前記入力パターン信号がカテ
ゴリ群内に含まれる各カテゴリに類似する度合である群
内類似度を計算する類似度算出部と、第２の群選択部の
出力に応じて前記類似度算出部の荷重変更量を制御する
荷重変更量制御部とからなる複数個の細分類部と、前記
細分類部で得られた群内類似度を前記選択された群帰属
度により重み付けする識別信号荷重部と、前記識別信号
荷重部の出力から各カテゴリに属する度合であるカテゴ
リ類似度の算出を行うカテゴリ類似度算出部と、前記算
出された類似度から認識結果又は認識不可であることを
表すリジェクト信号を出力する認識結果算出部と、前記
細分類部の学習に必要な前記荷重変更を行うための教師
信号を発生する教師信号発生部と、各細分類部に属する
カテゴリ情報を記憶したカテゴリ情報記憶部と、前記カ
テゴリ情報により入力パターンのカテゴリが存在する細
分類部に対応する群帰属度の中で大きい方から複数の群
帰属度を選択する前記第２の群選択部と、前記認識結果
と前記教師信号発生部から出力される入力パターンのカ
テゴリとの比較結果に応じて前記細分類部における前記
荷重変更を行うか否かを制御する学習制御部と、前記認
識結果算出部で判定された判定結果を表示する認識結果
表示部と、前記認識結果のカテゴリが正解であるにもか
かわらずリジェクトされた場合に、正解の認識結果を入
力する正解入力部と、前記入力された正解の認識結果に
基づいて前記認識結果表示部に表示されている認識結果
が入力データのカテゴリと一致し、正解であるにもかか
わらず、認識結果算出部からリジェクト信号が出力され
る正解リジェクトの原因となったリジェクト判定値が予
め設定されたリジェクトしきい値以下になるまで前記細
分類部における前記荷重変更を行うように制御する強化
学習制御部と、予め設定されたリジェクトしきい値に対
して、一定値だけ増減させた２種類のリジェクトしきい
値を発生させるリジェクトしきい値制御部と、評価用デ
ータに対する群帰属度が最大の群番号を選択する群番号
選択部と、評価用データの認 識結果から誤読及びリジェ
クトデータ数を、前記選択された群番号により群番号別
及びカテゴリ別に集計する認識結果集計部と、予め設定
されたリジェクトしきい値に対する集計結果と、前記変
化後のリジェクトしきい値に対する集計結果の群番号別
またはカテゴリ別の比較により、群番号別又はカテゴリ
別にリジェクトしきい値を決定するリジェクトしきい値
決定部とを備えたものであり、この構成により、リジェ
クトしきい値制御部，群番号選択部，認識結果集計部，
リジェクトしきい値決定部を設けたことにより、群別，
カテゴリ別にリジェクトしきい値を個別に設定すること
により、誤読データ数又はリジェクトデータ数が削減で
き、効率的なリジェクト処理が可能となる。
【００４６】請求項５に記載の発明は、類似パターンの
集合からなるカテゴリ群を代表する群参照用パターン信
号が複数個記憶されている群辞書部と、前記群参照用パ
ターン信号を用いて入力パターン信号が各カテゴリ群に
属する度合である群帰属度を計算するファジィ大分類部
と、前記群帰属度から少なくとも１つのカテゴリ群を選
択する第１の群選択部と、前記入力パターン信号がカテ
ゴリ群内に含まれる各カテゴリに類似する度合である群
内類似度を計算する類似度算出部と、第２の群選択部の
出力に応じて前記類似度算出部の荷重変更量を制御する
荷重変更量制御部とからなる複数個の細分類部と、前記
細分類部で得られた群内類似度を前記選択された群帰属
度により重み付けする識別信号荷重部と、前記識別信号
荷重部の出力から各カテゴリに属する度合であるカテゴ
リ類似度の算出を行うカテゴリ類似度算出部と、前記算
出された類似度から認識結果又は認識不可であることを
表すリジェクト信号を出力する認識結果算出部と、前記
細分類部の学習に必要な前記荷重変更を行うための教師
信号を発生する教師信号発生部と、各細分類部に属する
カテゴリ情報を記憶したカテゴリ情報記憶部と、前記カ
テゴリ情報により入力パターンのカテゴリが存在する細
分類部に対応する群帰属度の中で大きい方から複数の群
帰属度を選択する前記第２の群選択部と、前記認識結果
と前記教師信号発生部から出力される入力パターンのカ
テゴリとの比較結果に応じて前記細分類部における前記
荷重変更を行うか否かを制御する学習制御部と、前記認
識結果算出部で判定された判定結果を表示する認識結果
表示部と、前記認識結果のカテゴリが正解であるにもか
かわらずリジェクトされた場合に、正解の認識結果を入
力する正解入力部と、前記入力された正解の認識結果に
基づいて前記認識結果表示部に表示されている認識結果
が入力データのカテゴリと一致し、正解であるにもかか
わらず、認識結果算出部からリジェクト信号が出力され
る正解リジェクトの原因となったリジェクト判定値が予
め設定されたリジェクトしきい値以下になるまで前記細
分類部における前記荷重変更を行うように制御する強化
学習制御部と、評価用データの認識結果から誤読及びリ
ジェクトデータ数を、前記選択された群番号により群番
号別及びカテゴリ別に集計する認識結果集計部と、前記
認識結果集計部による集計結果から、誤読データ数とリ
ジェクトデータ数の差が大き い群番号又はカテゴリ番号
を少なくとも１つ選択するしきい値変更候補選択部と、
前記選択された群又はカテゴリの誤読データ数とリジェ
クトデータ数の大小関係から前記群又はカテゴリのリジ
ェクトしきい値を一定値だけ増減させるリジェクトしき
い値制御部と、前記群番号別又はカテゴリ別にリジェク
トしきい値を決定するリジェクトしきい値決定部とを備
えたものであり、この構成により、しきい値変更候補選
択部，リジェクトしきい値制御部を設けたことにより、
認識性能又はリジェクト性能が低い群又はカテゴリのリ
ジェクトしきい値が個別に設定されるので、群カテゴリ
に対する誤読データ，リジェクトデータ数が削減でき、
効率的なリジェクト処理が可能となる。
【００４７】請求項６に記載の発明は、前記リジェクト
しきい値決定部は、誤読データの増加数の数倍とリジェ
クトデータの減少数の総和が一定値以下の群番号又はカ
テゴリ番号のリジェクトしきい値を予め設定された値か
ら一定値だけ増加させ、逆に誤読データの減少数の数倍
とリジェクトデータの増加数の総和が一定値以下の群番
号又はカテゴリ番号のリジェクトしきい値を予め設定さ
れた値から一定値だけ減少させる構成にしたものであ
る。
【００４８】
【００４９】
【００５０】
【００５１】
【００５２】
【００５３】
【００５４】
【００５５】以下、本発明の好適な実施形態を図面に基
づいて説明する。
【００５６】なお、一般に学習型認識判断装置に入力さ
れるパターンデータとしては、音声等の時系列パター
ン、あるいは文字・画像等の空間パターンなどがある
が、以下の説明では、いずれのパターンデータでも構わ
ないものとする。
【００５７】図１は本発明の第１実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であっ
て、１は群辞書部であり、入力パターン信号の類似パタ
ーンの集合からなるカテゴリ群を代表する群参照用パタ
ーン信号が複数個記憶されているものである。２はファ
ジィ大分類であり、群辞書部１に記憶されている群参照
用パターン信号を用いて、入力パターン信号が各カテゴ
リ群に属する度合である群帰属度を計算するものであ
る。３は複数の細分類部であり、それぞれ入力パターン
信号がカテゴリ群内に含まれる各カテゴリに類似する度
合である群内類似度を計算する類似度算出部４と、後述
する第２の群選択部７の出力に応じて前記類似度算出部
４の荷重変更量を制御する荷重変更量制御部５からな
る。６は第１の群選択部であり、群帰属度から複数個の
カテゴリ群を選択するものである。
【００５８】７は第２の群選択部であり、後述するカテ
ゴリ情報記憶部12に記憶されているカテゴリ情報により
入力パターン信号のカテゴリが存在する細分類部３に対
応する群帰属度の中で大きい方から複数の群帰属度を選
択するものである。
【００５９】８は識別信号荷重部であり、細分類部３で
得られた群内類似度を第１の群選択部６で選択されたカ
テゴリ群の群帰属度により重み付けするものである。識
別信号荷重部８において、９は乗算器であり、第１の群
選択部６で選択されたカテゴリ群の群帰属度とこの群帰
属度に対応する細分類部３から得られる群内類似度を乗
算するものである。10はカテゴリ類似度算出部であり、
乗算結果をカテゴリごとに加算し、各カテゴリに属する
度合であるカテゴリ類似度を算出するものである。11は
認識結果算出部であり、カテゴリ類似度から入力パター
ン信号の認識結果又は認識不可であることを表すリジェ
クト信号を出力する。
【００６０】12は第１の教師信号発生部であり、前記各
細分類部３の荷重更新時(学習時)に必要な教師信号を発
生するものである。13はカテゴリ情報記憶部であり、各
細分類部３に属するカテゴリ情報を記憶してある。14は
学習制御部であり、認識結果算出部11における識別結果
と前記第１の教師信号発生部12から出力される入力パタ
ーンのカテゴリ番号との比較結果に応じて、荷重変更量
制御部５における荷重値変更の有無を制御する。15は強
化学習制御部であり、未学習パターンの認識結果が正解
リジェクトの場合、同パターンのリジェクト判定値が予
め設定されたしきい値以下になるまで前記細分類部３の
学習を制御するものである。
【００６１】16は認識結果表示部であり、認識結果算出
部11で識別された認識結果を表示部に出力するものであ
る。17は正解入力部であり、認識結果のカテゴリが正解
にも関わらず、リジェクトされている場合に正解の認識
結果を入力するものである。18は第２の教師信号発生部
であり、入力された正解の認識結果を入力データに対応
するカテゴリ番号である教師信号に変換する。19は教師
信号選択部であり、実行モードにより第１の教師信号発
生部12の出力と第２の教師信号発生部18の出力を切り替
える。
【００６２】20は初期学習用データを記憶する学習デー
タ記憶部、21は初期学習結果を評価するためのデータを
記憶する評価データ記憶部、23は前記入力データを実行
モードにより切り替える入力データ選択部である。
【００６３】図２は前記ファジィ大分類部２の構成を具
体的に示すブロック図であって、201は入力部であり、
入力パターン信号を入力するものである。202は距離計
算部であり、群辞書１のすべての群参照用パターン信号
と入力パターン信号との距離を計算するものである。20
3は割算器であり、距離計算部202の出力の逆数を計算す
るものである。204は加算器であり、各々の割算器203の
出力の総和を求めるものである。205は乗算器であり、
加算器204の出力と距離計算部202の出力を乗算するもの
である。206は割算器であり、乗算器205の出力の逆数を
計算するものである。
【００６４】図３は前記類似度算出部４に用いる第１の
単位認識ユニットｋの一例の構成を示すブロック図であ
って、301は信号入力部であり、信号入力端子301aを介
して入力した認識判断の対象となる特徴データを量子化
器302に入力する。量子化器302は、入力された特徴デー
タを量子化し、量子化したレベルを示す値を経路荷重部
303cと隣接区間選択部304に入力する。隣接区間選択部3
04は、前記入力信号(特徴データ)の量子化区間に隣接す
る量子化を選択し、経路荷重部303cに出力する。
【００６５】303a0は経路入力端子、303b1〜303b5は経
路出力端子であり、単位認識ユニットを組み合わせてネ
ットワークを構成するときに、これらの端子を相互に連
結するものである。
【００６６】経路荷重部303cは、経路入力部303aと経路
出力部303bとの間を接続する荷重303c1〜303c5と、後述
する荷重テーブル303dに記憶されている荷重値を前記量
子化結果に応じて荷重303c1〜303c5に設定する荷重設定
部303c0とで構成される。
【００６７】荷重テーブル303dには、入力信号が属する
量子化区間に対する荷重値と当該隣接量子化区間に対す
る荷重値が記憶されており、経路荷重部303cでは荷重設
定部303c0が、前記量子化結果に基づいて前記荷重値を
それぞれの量子化区間に対応する位置に設定する。荷重
303c1〜303c5は経路入力部303aから入力された経路信号
を重み付けし、経路出力部303bは重み付けした経路信号
を経路出力端子303b1〜303b5に出力する。
【００６８】図４は前記類似度算出部４におけるネット
ワークの最下層の前層に用いる第２の単位認識ユニット
ｐの一例の構成を示すブロック図であって、図３に示し
た第１の単位認識ユニットと同様に、信号入力部401
と、量子化器402と、１個の経路入力端子403a1を有する
経路入力部403aと、３個の経路出力端子403b1〜403b3を
有する経路出力部403bと、経路入力部403aの経路入力端
子403a1に伝達された値をｎビットシフトする伝達量変
更部404と、経路荷重部403cとによって構成してある。
【００６９】荷重403c1〜403c3は、経路出力部403bの経
路出力端子403b1〜403b3に出力する経路出力信号に加え
る重み付けによって、荷重変更処理過程において学習器
403c0により、伝達量変更部404の出力値に応じて経路入
力端子403a1と量子化器402の出力値が指し示す経路出力
端子との荷重が更新される。フォワード処理過程におい
ては、量子化器402には信号が入力されず、荷重403c1〜
403c3は、伝達量変更部404から出力された信号に重み付
けをし、経路出力部403bは、この重み付けした経路信号
を経路出力端子403b1〜403b3に出力する。
【００７０】図５は前記類似度算出部４におけるネット
ワークの最下層に用いる第３の単位認識ユニットｑの一
例の構成を示すブロック図であって、503a0は、複数の
経路入力端子503a1〜503a50からの入力信号を加算する
加算器、503b0は経路信号をしきい値処理して経路出力
端子503b1へ出力するしきい値処理器である。
【００７１】図６は前記類似度算出部４の一例における
全体構成を示すブロック図であって、２個からなる２種
類の特徴データ(第１特徴データ，第２特徴データ)に基
づき、３種類のカテゴリを認識するものであり、単位認
識ユニットを複数個組み合わせて、２個の木分岐構造を
有し、１つの木分岐構造中に４層の階層を有するように
ネットワークを構成してある。第１層，第２層を構成し
ている単位認識ユニットk11，k12，k21〜k30としては、
例えば、図３に示した第１の単位認識ユニットを用い、
第３層を構成している単位認識ユニットp31〜p350とし
ては、例えば、図４に示した第２の単位認識ユニットを
用い、第４層を構成している単位認識ユニットq41，q4
2，q43としては、図５に示した第３の単位認識ユニット
を用いている。
【００７２】各木分岐構造中の１，２層目を構成する第
１の単位認識ユニットの信号入力端子には、判断すべき
特徴データを入力し、３層目の構成する第２の単位認識
ユニットの信号入力端子には、荷重変更処理過程のみ入
力データの教師信号を入力する。
【００７３】60は、荷重変更およびフォワード処理モー
ド信号を出力することにより、動作モードを切り換える
動作モード選択部、61は、教師信号をそれに対応する最
終層の単位認識ユニット番号に変換する教師信号変換部
である。
【００７４】以上のように構成された第１実施形態の学
習型認識判断装置について、以下、その動作を説明す
る。動作モードは、初期学習モード，強化学習モードに
別れる。
【００７５】まず、初期学習モードについて説明する。
【００７６】入力データ選択部23は、学習データ記憶部
20のデータを選択し、学習用パターン信号をファジィ大
分類部２と細分類部３とに出力する。
【００７７】認識対象物のｎ個の特徴データからなる
(数７)に示す学習用パターン信号Ｘは、まず、ファジィ
大分類部２に入力される。
【００７８】
【数７】Ｘ＝（ｘ1，ｘ2，…，ｘn） ファジィ大分類部２では、まず、入力部201が学習用パ
ターン信号Ｘを入力し、ｒ個の距離計算部202へ前記Ｘ
を出力する。各々の距離計算部202は、群辞書部１に記
憶されている各カテゴリ群を代表する群参照用パターン
信号Ｖi(１≦ｉ≦ｒ ；ｒは群参照用パターン信号の
数、すなわち、カテゴリ群数)を読み出し、(数８)に示
すＸとＶiの距離ｄiを計算し、各々対応する割算器20
3、及び乗算器205へ出力する。
【００７９】
【数８】
【００８０】ただし、ｆはｆ＞１を満たす実数とする。
【００８１】各々の割算器203は、距離ｄiの逆数を計算
し、その出力を加算器204へ出力する。加算器204は、す
べての割算器203の出力の総和を計算し、その出力をｒ
個の乗算器205へ出力する。各々の乗算器205では、対応
する距離計算部202と加算器204の出力を乗算し、その出
力を対応する割算器206に入力する。各々の割算器206で
は、対応する乗算器205の出力の逆数を計算する。最終
的にファジィ大分類部２では、この各割算器206の出力
が学習用パターン信号Ｘに対する各カテゴリ群の群帰属
度μi(１≦ｉ≦ｒ)として、第１の群選択部６に出力さ
れる。つまり、各カテゴリ群の群帰属度μi(１≦ｉ≦
ｒ)は、(数９)のように表すことができる。
【００８２】
【数９】
【００８３】なお、群辞書部１に記憶されている各カテ
ゴリ群を代表する群参照用パターン信号は、予め、従来
のクラスタリング手法、例えば、電子情報通信学会編
長尾真著「パターン情報処理」(コロナ社)に示されてい
るＫ平均アルゴリズム、及びIsodataアルゴリズムや、
Y.Linde, A.Buzo, and R.M.Grayによる“An Algorithmf
or Vector Quantizer design,”IEEE Trans. Commun.,C
OM-28 1, pp.84-95, Jan.1980 に示されているＬＢＧア
ルゴリズムを用いて設計される。
【００８４】以下、Ｋ平均アルゴリズムを用いて群辞書
部１を設計する方法について簡単に説明する。
【００８５】（１）認識対象物の群辞書設計用のパター
ン信号の集合から、ｒ個(ただし、ｒは予め定められた
カテゴリ群数)のパターン信号を適当に選び、これらを
ｒ個の群参照用パターン信号Ｖi(１≦ｉ≦ｒ)とする。
【００８６】（２）すべての群辞書設計用パターン信号
Ｘについて、それぞれ(数10)に示される距離ｄiを最小
にする前記Ｖiを求める。
【００８７】
【数１０】ｄi ＝ ‖Ｘ−Ｖi‖ この時、Ｘはカテゴリ群Ｓi(１≦ｉ≦ｒ)に属するもの
とする。
【００８８】（３）各Ｓiに属するパターン信号Ｘの平
均値を求め、これをＶiとする。
【００８９】（４）Ｖi′＝Ｖiがすべてのｉについて成
立すれば、この時の群参照用パターン信号Ｖiを群辞書
部１に記憶する。そうでなければＶi′を新たな群参照
用パターン信号Ｖiとして前記（２）に戻る。
【００９０】このようにして、群参照用パターン信号を
設計することによって、すべてのパターン信号はいくつ
かの類似したパターン信号の部分集合(カテゴリ群)に分
割することができる。なお、Isodataアルゴリズム及び
ＬＢＧアルゴリズムもこのＫ平均アルゴリズムと基本的
にはほぼ同じ手法である。
【００９１】第１の群選択部６では、ファジィ大分類部
２で得られた群帰属度の大きい順に複数個のカテゴリ群
を選び(選択された群帰属度以外は“０”とする)、識別
信号荷重部８へ出力する。なお、カテゴリ群の選択方法
としては、あるしきい値以上の群帰属度をもつカテゴリ
群を選択するとしてもよい。
【００９２】第１の群選択部６により選択されたカテゴ
リ群に対応する各々の細分類部３の類似度算出部４で
は、以下のようにして類似度を算出する。
【００９３】ここでは、学習用パターン信号が、第１特
徴データ(２次元)と第２特徴データ(２次元)から構成さ
れる４次元ベクトルデータで、３種類のカテゴリに分類
する場合を例にして類似度算出部の動作を説明する。
【００９４】各類似度算出部４の各木分岐構造の第１層
目の単位認識ユニットk11〜k12の経路入力端子への経路
信号として、常に１を与えておく。
【００９５】まず、動作モード選択部60からフォワード
処理モード信号が教師信号変換部61に出力される。
【００９６】学習用パターン信号が、第１特徴データと
第２特徴データに分割され、それぞれ第１層目，第２層
目の単位認識ユニットの信号入力端子301aに入力され
る。第１層目の各単位認識ユニットは、第１特徴データ
を量子化302で量子化し、量子化結果を荷重設定部303c0
及び隣接区間選択部304に出力する。隣接区間選択部304
は、前記入力信号(特徴データ)の量子化区間に隣接する
量子化区間を選択し、経路荷重部303cに出力する。荷重
設定部303c0は、予め設定されている入力データに対応
する前記荷重値並びに隣接区間の荷重値を、荷重テーブ
ル303dから読み出し、対応する量子化レベル位置に設定
する。このように１つの単位認識ユニットにおいて複数
の経路が選択され、第２層目の単位認識ユニットk21〜k
30の経路入力端子へ、経路信号と前記荷重値を掛けた値
が送られる。
【００９７】第２層目の単位認識ユニットの信号入力端
子には、前記第２特徴データを入力する(図６の例の場
合には、２個の第２特徴データをそれぞれk21〜k25，k2
6〜k30に入力する)。第１層目の場合と同様にして複数
の経路信号が選択され、第３層目の単位認識ユニットp3
1〜p350の経路入力端子へ、経路信号と前記荷重の値を
掛けた値が送られる。
【００９８】フォワード処理モードの場合、第３層の単
位認識ユニットp31〜p350の信号入力端子には、教師入
力信号は入力されない。したがって、荷重の変更は行わ
れず、学習時の荷重の状態が保持されており、各単位認
識ユニットの経路入力信号にこれらの荷重を乗じて、第
４層目の前単位認識ユニットの経路入力端子へ、経路信
号が送られる。
【００９９】第４層目の各単位認識ユニットの加算器50
3a0は入力された経路信号を加算する。しきい値処理器5
03b0は、この信号をしきい値処理し、経路出力端子に出
力する。ここで、しきい値処理する関数としては、シグ
モイド関数，ステップ関数等を用いることができる。
【０１００】このようにして、入力したパターン信号の
特徴データに基づき、その時点の荷重値による最終層の
単位認識ユニットの出力が計算される。この出力値が学
習用パターン信号Ｘに対する各カテゴリの群内類似度ベ
クトルとして識別信号荷重部８に出力される。
【０１０１】識別信号荷重部８では、まず、乗算器９
が、第１の群選択部６で選択されたカテゴリ群の群帰属
度μiと、そのカテゴリ群に対応する細分類部３から得
られる群内類似度ベクトル(ν1，ν2，…，νn)を乗算
し、それらの出力をカテゴリ類似度算出部10に出力す
る。つまり、乗算器９は、(群参照用パターン信号の数
×各細分類部におけるカテゴリ参照用パターン信号数の
総和)個用意されており、第１の群選択部６で選択され
た、あるカテゴリ群ｐの群帰属度μp(１≦ｐ≦ｒ；ｒは
カテゴリ群の数)とそのカテゴリ群ｐに対応する細分類
部３から得られたあるカテゴリｑの群内類似度νpq(１
≦ｑ≦ｃ ；ｃはカテゴリ群に属するカテゴリの数)が入
力される乗算器９の出力値ξpqは、(数11)のように表さ
れる。
【０１０２】
【数１１】ξpq＝μp・νpq カテゴリ類似度算出部10では、すべての乗算器９の出力
値を各カテゴリごとに加算し、カテゴリ類似度ｒs(１≦
ｓ≦Ｎc ；Ｎcはカテゴリの数)を算出する。認識結果算
出部11は、算出されたカテゴリ類似度の大きい方から２
つのカテゴリを選択し、それらの比の値を求めることで
算出されるリジェクト判定値が、予め設定されたしきい
値より小さい場合は、カテゴリ類似度が最大のカテゴリ
番号を認識結果として出力し、しきい値より大きい場合
は、認識不可としてリジェクト信号も出力する。
【０１０３】第１の教師信号発生部12は、学習用パター
ン信号Ｘに同期して、パターンＸのカテゴリに対応する
カテゴリ番号を生成し、教師信号選択部19に出力する。
教師信号選択部19は、初期学習モードの場合、第１の教
師信号発生部12の出力を選択し、学習制御部14と細分類
部３の類似度算出部４に出力する。
【０１０４】学習制御部14は、上記のようにして算出さ
れた学習用パターン信号Ｘに対する識別結果と学習用パ
ターン信号Ｘのカテゴリを比較し、比較結果が等しい場
合は、各細分類部３の荷重更新を行わずに次の学習用パ
ターンの学習を行い、比較結果が異なる場合には、各細
分類部３の荷重値が更新されるように制御する。
【０１０５】荷重値が変更される場合、第２の群選択部
７は、カテゴリ情報記憶部13に記憶されたカテゴリ情報
により学習用パターンのカテゴリが存在する細分類部３
の中で群帰属度の大きい方から少なくとも１つのカテゴ
リ群を選び、荷重変更量制御部５に出力する。荷重変更
量制御部５は、選択された群帰属度に応じて対応する類
似度算出部４の荷重値を以下のように更新する。
【０１０６】すなわち、動作モード選択部60から荷重変
更処理モード信号が教師信号変換部61に出力されると、
教師信号変換部61は、第１の教師信号発生部12から出力
されるカテゴリ番号を前記選択されたカテゴリ群内にお
ける最終層の単位認識ユニットの番号すなわち、q41，q
42，q43のどれが最も大きい値を出力することが望まし
いかを示す信号に変換し、第３層目の単位認識ユニット
の信号入力端子401aに出力する。端子認識ユニットp31
〜p350の量子化器402は、例えば、q41が最も大きい出力
をする場合には、量子化レベル値が単位認識ユニットq4
1につながる経路に対応する値となるように設定されて
いる。
【０１０７】荷重変更量制御部５は、前記選択された群
帰属度の値に応じて、伝達量変更部404のビットシフト
量を変更する。例えば第２の群選択部７で選択された細
分類部３の中で、群帰属度が最大の細分類部３のビット
シフト量は"０"で、２番目の細分類部３のビットシフト
量は"１"といった具合にビットシフト量を変更する。
【０１０８】学習器403c0は、前記経路入力部403aの経
路入力端子403a1と量子化器402の出力が示す経路出力部
403bの経路出力端子(ここでは、単位認識ユニットq41に
つながる経路403b1)との連結強度である荷重値403c1を
伝達量変更部から出力された値だけ増加させる。
【０１０９】このようにして、すべての入力データにつ
いて、認識結果算出部11の認識結果と第１の教師信号発
生部12から出力される教師信号が一致するまで、以上の
学習動作を繰り返すことにより、この学習型認識判断装
置は学習用パターンに対する認識が可能になる。
【０１１０】以上のように第１実施形態によれば、学習
用パターン信号に対する識別結果が誤っている場合、そ
のパターンの帰属度が大きい複数のカテゴリ群を第２の
群選択部７が選択し、それらに対応する細分類部３が、
その学習用パターンがそれぞれのカテゴリ群に属する帰
属度を用いて荷重変更量を調整しながら強調して学習す
るので、カテゴリ群の境界に位置するパターンを精度よ
く学習できて認識率も向上する。
【０１１１】また、類似度算出部４における荷重変更処
理過程では、３層目の第２の単位認識ユニットの荷重値
のみを学習器403c0によって伝達量変更部404から出力さ
れた値だけ増加させるだけで学習が行えるので、すべて
の層の荷重値を変更する必要がなく高速学習が可能であ
る。
【０１１２】次に強化学習動作について説明する。
【０１１３】実行モードとして、強化学習モードが学習
制御部14及び入力データ選択部23に入力されると、入力
パターン選択部23は、評価データ記憶部21を選択し、未
学習の評価用データをファジィ大分類部２と細分類部３
に出力する。未学習パターンが入力されると、初期学習
モードと同様にして入力パターン信号Ｘに対する認識結
果が認識結果算出部11から出力され、認識結果表示部16
に表示される。その認識結果が正解であるにも関わらず
リジェクトと判定された場合に、入力データのカテゴリ
に対応する正しい認識結果がキーボード等の正解入力部
17から入力されると、第２の教師信号発生部18は、入力
データのカテゴリに対応するカテゴリ番号を教師信号選
択部19に出力する教師信号選択部19は、実行モードが強
化学習モードの場合、第２の教師信号選択部18の出力を
選択し、類似度算出部４と強化学習制御部15に出力す
る。
【０１１４】強化学習制御部15は、入力された正解の認
識結果に基づき正解リジェクトデータのリジェクト判定
値が、予め設定されたリジェクトしきい値以下になるま
で、初期学習モードと同様に学習動作を繰り返すように
制御することにより、正解にもかかわらずリジェクトと
判定されることがなくなる。
【０１１５】このように本実施形態によれば、正解リジ
ェクトパターンの強化学習が可能になり、正解リジェク
トパターンの削減により正読パターンが増加し、認識性
能が改善される。
【０１１６】また、前記のように強化学習パターンに関
連ある細分類部３のみ荷重値が更新されるので、強化学
習が認識判断装置全体に影響を与えにくく、学習済みデ
ータの認識性能に影響を与えにくい強化学習が可能にな
る。
【０１１７】図７は本発明の第２実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であっ
て、群辞書部１，ファジィ大分類部２，細分類部３，類
似度算出部４，荷重変更量制御部５，第１の群選択部
６，第２の群選択部７，識別信号荷重部８，乗算器９，
カテゴリ類似度算出部10，認識結果算出部11，第１の教
師信号発生部12，カテゴリ情報記憶部13，学習制御部1
4，強化学習制御部15，認識結果表示部16，正解入力部1
7，第２の教師信号発生部18，第１の教師信号選択部1
9，学習データ記憶部20，評価データ記憶部21，入力デ
ータ選択部23は、前記第１実施形態にて説明したものと
同様のものであって同一符号を付して詳しい説明は省略
する。
【０１１８】第１実施形態と異なる構成は、評価データ
から選択された強化学習用データと教師信号を記憶する
第１の強化学習データ記憶部22と、評価用データに対す
る群帰属度が最大の群番号を選択する第１の群番号選択
部24と、評価データに対する認識結果とそのカテゴリ番
号である第２の教師信号発生部18からの出力認識結果を
判定し、正解リジェクトの場合、該評価データ，カテゴ
リ番号，第１の群番号選択部24で選択された群番号を、
後述する正解リジェクト情報記憶部26に出力する正解リ
ジェクトデータ選択部25と、正解リジェクトデータ選択
部25からの出力データを記憶する前記正解リジェクト情
報記憶部26と、正解リジェクト情報記憶部26に記憶され
ている情報から群番号別およびカテゴリ番号別の正解リ
ジェクトデータ数をカウントする正解リジェクトデータ
数計数部27と、カウントされた正解リジェクトデータ数
の多い群番号とカテゴリ番号に対応する正解リジェクト
データとカテゴリ番号を選択して、強化学習用データ記
憶部22に出力する第１の強化学習候補データ選択部28と
を設けた点である。
【０１１９】以上のように構成された第２実施形態の学
習型認識判断装置について、以下その動作を説明する。
動作モードは、初期学習モード、評価モード、強化学習
モードに分かれる。初期学習モードは、第１実施形態と
同様にして実行されるため説明は省略する。
【０１２０】次に評価モードの動作について説明する。
評価モードは、学習用パターンと異なる評価用データを
用いて前記初期学習の性能を評価するモードである。
【０１２１】入力データ選択部23は、評価データ記憶部
21を選択し、評価用パターン信号をファジィ大分類部２
と細分類部３に出力する。
【０１２２】初期学習モードと同様にして評価用パター
ン信号に対する認識結果が算出され、認識結果表示部16
に認識結果が表示されると共に、正解リジェクトデータ
選択部25に出力される。認識結果表示部16に表示された
認識結果が正解であるにもかかわらずリジェクトされて
いる場合、正解入力部17から正解が入力され、第２の教
師信号発生部18により正解に対応するカテゴリ番号であ
る教師信号に変換され、正解リジェクトデータ選択部25
に出力される。
【０１２３】第１の群番号選択部24は、評価用パターン
信号に対する群帰属度が最大の群番号を選択し、正解リ
ジェクトデータ選択部25に出力する。正解リジェクトデ
ータ選択部25は評価用パターンの認識結果とカテゴリ番
号から認識結果を判定し、正解リジェクトの場合、その
評価用パターンデータを評価データ記憶部21から読み出
し、評価用パターンに対応するカテゴリ番号及び群番号
と共に正解リジェクト情報記憶部26に出力する。
【０１２４】正解リジェクトデータ数計数部27は、正解
リジェクト情報記憶部26に記憶されている情報から、群
番号及びカテゴリ番号別に正解リジェクトデータ数をカ
ウントし、そのカウント結果を基に、第１の強化学習候
補データ選択部28が、正解リジェクトデータ数の多い群
番号とカテゴリ番号に対応する評価用パターンデータと
カテゴリ番号を第１の強化学習データ記憶部22に出力す
る。
【０１２５】以上のように、第２実施形態によれば、評
価用データに関する正解リジェクトデータをすべて強化
学習するのではなく、認識性能の低い(正解リジェクト
データの多い)群番号の細分類部３又はカテゴリを優先
的に選択して強化学習するのため、強化学習の効率が向
上する。
【０１２６】次に、強化学習モードについて説明する。
強化学習モードは、前記評価モードで選択され第１の強
化学習データ記憶部22に記憶されているデータを用いて
強化学習するモードである。
【０１２７】入力データ選択部23は、第１の強化学習デ
ータ記憶部22を選択し、強化用パターン信号をファジィ
大分類部２と細分類部３に出力する。第１の教師信号選
択部19が、第１の強化学習データ記憶部22に記憶されて
いる強化学習用パターンの教師信号を選択する以外は、
前記第１実施形態において説明した強化学習モードと同
様にして、強化学習用パターンの学習が実行される。
【０１２８】以上のように、第２実施形態によれば、第
２の群選択部７により選択された強化学習パターンに関
連ある細分類部３のみ重み係数が更新されるので、強化
学習が認識判断装置全体に影響を与えにくく、学習済み
データの認識性能に影響が出にくい強化学習が可能にな
る。
【０１２９】図８は本発明の第３実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であっ
て、群辞書部１，ファジィ大分類部２，細分類部３，類
似度算出部４，荷重変更量制御部５，第１の群選択部
６，第２の群選択部７，識別信号荷重部８，乗算器９，
カテゴリ類似度算出部10，認識結果算出部11，第１の教
師信号発生部12，カテゴリ情報記憶部13，学習制御部1
4，強化学習制御部15，認識結果表示部16，正解入力部1
7，第２の教師信号発生部18，第１の教師信号選択部1
9，学習データ記憶部20，評価データ記憶部21，第１の
強化学習データ記憶部22，入力データ選択部23，第１の
群番号選択部24，正解リジェクトデータ選択部25，正解
リジェクト情報記憶部26，正解リジェクトデータ数計数
部27，第１の強化学習候補データ選択部28は、前記第２
実施形態のものと同様であるので同一符号を付して詳し
い説明は省略する。
【０１３０】第２実施形態と異なる構成は、第１の強化
学習候補データ選択部28で選択されたデータに関する強
化学習結果を評価するための基準となるデータ、すなわ
ち本認識判断装置が、認識目標とするパターンデータと
教師信号を記憶した基準データ記憶部29と、基準データ
に関する認識結果を評価することにより強化学習の良否
を判定する強化学習結果良否判定部30と、強化学習結果
良否判定部30で良と判定された強化学習候補データを選
択する第２の強化学習候補データ選択部31と、選択され
た強化学習候補データを記憶する第２の強化学習データ
記憶部32と、第１の教師信号選択部12の出力と第１の強
化学習候補データ選択部28により選択されたカテゴリ番
号と前記第２の強化学習データ記憶部32により選択され
たカテゴリ番号の内どれか１つを選択する第２の教師信
号選択部33とを設けた点である。
【０１３１】以上のように構成された第３実施形態の学
習型認識判断装置について、以下その動作を説明する。
初期学習モード，評価モードは、第２実施形態と同様で
あるのその説明は省略し、強化学習モードについて説明
する。
【０１３２】すなわち、入力データ選択部23は、第１の
強化学習データ記憶部22を選択し、ファジィ大分類部２
と細分類部３にデータを出力する。評価モードにおいて
選択され第１の強化学習データ記憶部22に記憶されてい
る強化学習パターンを、前記選択された性能の低い群番
号または、カテゴリごとに第１実施形態と同様にして強
化学習が行われる。１つの群番号又はカテゴリが強化学
習されるたびに、入力データ選択部23によって基準デー
タ記憶部29に記憶されている基準データが選択され、第
１実施形態と同様にして基準データに対する認識結果が
算出される。
【０１３３】認識結果は、強化学習結果良否判定部30に
より、強化学習の良否が判定され、良と判定された前記
強化学習データは、第２の強化学習候補データ選択部31
により選択され、最終的な強化学習候補データとして第
２の強化学習データ記憶部32に記憶される。
【０１３４】第１の強化学習データ記憶部22に記憶され
ているすべてのデータに対する強化学習と、基準データ
に対する評価が終了するまで、前記動作が繰り返され、
終了した時点で、第２の強化学習データ記憶部32に記憶
されている強化学習データにより、第１実施形態と同様
にして最終的な強化学習が実行される。
【０１３５】次に、前記強化学習結果良否判定部30にお
いて、すべての基準データに対する認識結果が算出され
た時点で、例えば、強化学習後の誤読データ数のＮ倍と
リジェクトデータ数との総和と、強化学習前の同様の総
和を比較することにより、強化学習結果の良否判定を行
う。
【０１３６】以上説明したように第３実施形態によれ
ば、第１の強化学習候補データ選択部28により選択され
た候補データに関する強化学習が、認識判断装置が認識
することを目標としているパターンデータである基準デ
ータに与える影響を確認しながら、第２の強化学習候補
データ選択部31により最終的に強化学習するデータが選
択されるので、無駄な強化学習データが削除され強化学
習の効率が向上する。
【０１３７】また、前記のように強化学習パターンに関
連ある細分類部３のみ荷重値が更新されるので、強化学
習が認識判断装置全体に影響を与えにくく、学習済みデ
ータの認識性能に影響が出にくい強化学習が可能にな
る。
【０１３８】図９は本発明の第４実施形態を説明するた
めの学習型認識判断装置の高背性を示すブロック図であ
って、群辞書部１，ファジィ大分類部２，細分類部３，
類似度算出部４，荷重変更量制御部５，第１の群選択部
６，第２の群選択部７，識別信号荷重部８，乗算器９，
カテゴリ類似度算出部10，認識結果算出部11，第１の教
師信号発生部12，カテゴリ情報記憶部13，学習制御部1
4，学習データ記憶部20，評価データ記憶部21，入力デ
ータ選択部23は、前記第１実施形態のものと同様である
ので同一符号を付して詳しい説明は省略する。
【０１３９】第１実施形態と異なる構成は、予め設定さ
れたリジェクトしきい値に対して一定値ｘだけ増減させ
た２種類のリジェクトしきい値を発生させる第１のリジ
ェクトしきい値制御部34と、評価用データに対する群帰
属度が最大の群番号を選択する第２の群番号選択部35
と、評価用データの認識結果及び第１の教師信号発生部
12から出力されるカテゴリ番号から誤読及びリジェクト
データ数を、前記選択された群番号により群番号別及び
カテゴリ別に集計する認識結果集計部36と、予め設定さ
れたリジェクトしきい値に対する集計結果と、前記変化
後のリジェクトしきい値に対する集計結果の群番号別又
はカテゴリ別の比較により、群番号別又はカテゴリ別に
リジェクトしきい値を決定するリジェクトしきい値決定
部37とを設けた点である。
【０１４０】以上のように構成された第４実施形態の学
習型認識判断装置について、以下その動作を説明する。
動作モードは、初期学習モード，評価モードに分かれ
る。初期学習モードは、第１実施形態と同様にして実行
される。
【０１４１】次に、評価モードの動作について説明す
る。評価モードは、学習用パターンと異なる評価用デー
タを用いて前記初期学習の性能を評価するモードであ
る。
【０１４２】入力データ選択部23は、評価データ記憶部
21を選択し、評価用パターン信号をファジィ大分類部２
と細分類部３に出力する。
【０１４３】初期学習モードと同様にして、評価用パタ
ーン信号に対するカテゴリ類似度が算出され認識結果算
出部11に出力されると共に、入力データに対する群帰属
度が最大の群番号が第２の群番号選択部35により選択さ
れる。
【０１４４】認識結果算出部11は、予め設定されたリジ
ェクトしきい値と、第１のリジェクトしきい値制御部34
により設定されるしきい値の値を一定値Ｘだけ増減させ
た２種類のリジェクトしきい値との計３種類のリジェク
トしきい値により、前記カテゴリ類似度に対する認識結
果を算出して認識結果集計部36に出力する。
【０１４５】認識結果集計部36は、前記３種類のリジェ
クトしきい値ごとの認識結果と前記選択された群番号か
ら誤読及びリジェクトデータ数を群番号別又はカテゴリ
別に集計し、リジェクトしきい値決定部37に出力する
と、リジェクトしきい値決定部37が、予め設定されたリ
ジェクトしきい値に対する集計結果と、前記変化後のリ
ジェクトしきい値に対する集計結果の群番号別又はカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定する。
【０１４６】次に、リジェクトしきい値決定部37の決定
処理について説明する。すべての評価データに対する認
識結果集計処理が終了した時点で、例えば、誤読データ
の増加数のＮ倍とリジェクトデータの減少数との総和が
一定値以下である群番号又はカテゴリ番号のリジェクト
しきい値を、予め設定された値からｘだけ増加し、逆に
誤読データの減少数のＮ倍とリジェクトデータの増加数
の総和が一定値以下である群番号又はカテゴリ番号のリ
ジェクトしきい値を、予め設定された値から一定値Ｘだ
け減少させることにより、リジェクトしきい値を決定す
る。
【０１４７】以上のように第４実施形態によれば、群
別，カテゴリ別にリジェクトしきい値を個別に設定する
ことにより、誤読データ数又はリジェクトデータ数が削
減でき、効率的なリジェクト処理が可能となる。
【０１４８】図10は本発明の第５実施形態を説明するた
めの学習認識判断装置の構成を示すブロック図であっ
て、群辞書部１，ファジィ大分類部２，細分類部３，類
似度算出部４，荷重変更量制御部５，第１の群選択部
６，第２の群選択部７，識別信号荷重部８，乗算器９，
カテゴリ類似度算出部10，認識結果算出部11，第１の教
師信号発生部12，カテゴリ情報記憶部13，学習制御部1
4，学習データ記憶部20，評価データ記憶部21，入力デ
ータ選択部23，第２の群番号選択部35，認識結果集計部
36，リジェクトしきい値決定部37は、前記第４実施形態
のものと同様であるので同一符号を付して詳しい説明は
省略する。
【０１４９】第４実施形態と異なる構成は、予め設定さ
れたリジェクトしきい値に対する認識結果集計部による
集計結果から、誤読データ数とリジェクトデータ数の差
が大きい群番号又はカテゴリ番号を少なくとも１つ選択
するしきい値変更候補選択部38と、第１のリジェクトし
きい値制御部34に替えて、選択された群又はカテゴリの
誤読データ数とリジェクトデータ数の大小関係から群又
はカテゴリのリジェクトしきい値を一定値Ｘだけ増減さ
せる第２のリジェクトしきい値制御部39を設けた点であ
る。
【０１５０】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。動作モードは、
初期学習モード、評価モードに分かれる。初期学習モー
ドは、第４実施形態と同様にして実行される。
【０１５１】次に、評価モードの動作について説明す
る。評価モードは、学習用パターンと異なる評価用デー
タを用いて前記初期学習の性能を評価するモードであ
る。
【０１５２】入力データ選択部23は、評価データ記憶部
21を選択し、評価用パターン信号をファジィ大分類部２
と細分類部３に出力する。
【０１５３】初期学習モードと同様にして、評価用パタ
ーン信号に対するカテゴリ類似度が算出され認識結果算
出部11に出力されると共に、入力データに対する群帰属
度が最大の群番号が第２の群番号選択部35により選択さ
れる。認識結果算出部11は、予め設定されたリジェクト
しきい値により、前記カテゴリ類似度に対する認識結果
を算出し、認識結果集計部36に出力する。すなわち、認
識結果算出部11は、算出されたカテゴリ類似度の大きい
方から２つのカテゴリを選択し、それらの比の値を求め
ることで算出されるリジェクト判定値が、予め設定され
たしきい値より小さい場合は、カテゴリ類似度が最大の
カテゴリ番号を認識結果として出力し、しきい値より大
きい場合は、認識不可としてリジェクト信号も出力す
る。
【０１５４】認識結果集計部36は、認識結果と前記選択
された群番号から誤読及びリジェクトデータ数を群番号
別又はカテゴリ別に集計し、しきい値変更候補選択部38
に出力する。しきい値変更候補選択部38は、集計結果か
ら誤読データ数とリジェクトデータ数の差が大きい群番
号又はカテゴリ番号を少なくとも１つ選択し、第２のリ
ジェクトしきい値制御部39に出力する。第２のリジェク
トしきい値制御部39は、選択された群又はカテゴリの誤
読データ数とリジェクトデータ数の大小関係から、例え
ば、誤読データ数の方がリジェクトデータ数より多い場
合、群又はカテゴリのリジェクトしきい値を一定値ｘだ
け減少させ、逆にリジェクトデータ数の方が誤読データ
数より多い場合は、群又はカテゴリのリジェクトしきい
値を一定値Ｘだけ増加させたリジェクトしきい値を設定
する。
【０１５５】前記リジェクトしきい値に対する認識結果
の集計結果を第４実施形態と同様にして、リジェクトし
きい値決定部37が、予め設定されたリジェクトしきい値
に対する集計結果と、前記変化後のリジェクトしきい値
に対する集計結果の群番号別又はカテゴリ別の比較によ
り、群番号別又はカテゴリ別にリジェクトしきい値を決
定する。
【０１５６】以上のように第５実施形態によれば、認識
性能またはリジェクト性能が低い群又はカテゴリのリジ
ェクトしきい値が個別に設定されるので、群カテゴリに
対する誤読データ，リジェクト数が削減でき、効率的な
リジェクト処理が可能となる。
【０１５７】
【発明の効果】以上説明したように、本発明の学習型認
識判断装置によれば、学習用パターン信号に対する識別
結果が誤っている場合、荷重変更量制御部によって、第
２の群選択部により選択された群帰属度に応じて対応す
る類似度算出部における荷重変更量を変えるので、学習
用パターンのカテゴリ群に対する帰属度を用いながら各
細分類部が協調して学習され、カテゴリ群の境界に位置
するパターンが精度良く学習できるため、認識率が向上
する。
【０１５８】また、強化学習制御部を設けることによ
り、正解リジェクトデータのリジェクト判定値が、予め
設定されたリジェクトしきい値以下になるまで、前記細
分類部の学習が行われるので、正解にもかかわらずリジ
ェクトと判定されることがなくなり、正解リジェクトを
削減することができる。
【０１５９】また、第１の強化学習候補データ選択部を
設けることにより、正解リジェクトデータをすべて強化
学習するのではなく、認識性能の低い群番号の細分類又
はカテゴリを優先的に強化学習するので、強化学習の効
率が向上するだけでなく、第２の群選択部を設けること
により、強化学習パターンに関連ある細分部のみ、重み
係数が更新されるため、強化学習が認識判断装置全体に
影響を与えにくく、学習済みデータの認識性能に影響を
与えにくい強化学習が可能になる。
【０１６０】また、強化学習結果良否判定部，第２の強
化学習候補データ選択部を設けることにより、本装置が
認識することを目標としているデータである基準データ
に与える影響を確認しながら、強化学習候補データが選
択されるので、無駄な強化学習データを削除することが
できき、強化学習の効率が向上する。
【０１６１】また、第１のリジェクトしきい値制御部，
第２の群番号選択部，認識結果集計部，リジェクトしき
い値決定部を設けることにより、群別，カテゴリ別にリ
ジェクトしきい値を個別に設定することができるので、
誤読データ数又はリジェクトデータ数を削減することが
でき、効率的なリジェクト処理が可能となる。
【０１６２】また、しきい値変更候補選択部，第２のリ
ジェクトしきい値制御部を設けることにより、認識性能
又はリジェクト性能が低い群又はカテゴリのリジェクト
しきい値が個別に設定されるので、群カテゴリに対する
誤読データ，リジェクトデータ数を削減することがで
き、効率的なリジェクト処理が可能となる。
【図面の簡単な説明】
【図１】本発明の第１実施形態を説明するための学習認
識判断装置の構成を示すブロック図である。
【図２】本発明の第１実施形態におけるファジィ大分類
部の一例の構成を示すブロック図である。
【図３】本発明の第１実施形態の類似度算出部における
第１の単位認識ユニットの構成を示すブロック図であ
る。
【図４】本発明の第１実施形態の類似度算出部における
第２の単位認識ユニットの構成を示すブロック図であ
る。
【図５】本発明の第１実施形態の類似度算出部における
第３の単位認識ユニットの構成を示すブロック図であ
る。
【図６】本発明の第１実施形態における類似度算出部の
全体構成を示すブロック図である。
【図７】本発明の第２実施形態を説明するための学習認
識判断装置の構成を示すブロック図である。
【図８】本発明の第３実施形態を説明するための学習認
識判断装置の構成を示すブロック図である。
【図９】本発明の第４実施形態を説明するための学習認
識判断装置の構成を示すブロック図である。
【図１０】本発明の第５実施形態を説明するための学習
認識判断装置の構成を示すブロック図である。
【図１１】従来の学習認識判断装置の構成を示すブロッ
ク図である。
【符号の説明】
１…群辞書部、 ２…ファジィ大分類部、 ３…細分類
部、 ４…類似度算出部、 ５…荷重変更量制御部、
６…第１の群選択部、 ７…第２の群選択部、８…識別
信号荷重部、 ９…乗算器、 10…カテゴリ類似度算出
部、 11…認識結果算出部、 12…第１の教師信号発生
部、 13…カテゴリ情報記憶部、 14…学習制御部、
15…強化学習制御部、 16…認識結果表示部、 17…正
解入力部、 18…第２の教師信号発生部、 19…第１の
教師信号選択部、 20…学習データ記憶部、 21…評価
データ記憶部、 22…第１の強化学習データ記憶部、
23…入力データ選択部、 24…第１の群番号選択部、
25…正解リジェクトデータ選択部、 26…正解リジェク
ト情報記憶部、 27…正解リジェクトデータ数計数部、
28…第１の強化学習候補データ選択部、 29…基準デ
ータ記憶部、 30…強化学習結果良否判定部、 31…第
２の強化学習候補データ選択部、 32…第２の強化学習
データ記憶部、 33…第２の教師信号選択部、 34…第
１のリジェクトしきい値制御部、 35…第２の群番号選
択部、 36…認識結果集計部、 37…リジェクトしきい
値決定部、 38…しきい値変更候補選択部、 39…第２
のリジェクトしきい値制御部。
───────────────────────────────────────────────────── フロントページの続き (58)調査した分野(Int.Cl.7，ＤＢ名) G06N 1/00 - 7/08 G06G 7/60 G06K 9/62 - 9/72 G06T 7/00 ＪＳＴファイル（ＪＯＩＳ) ＣＳＤＢ（日本国特許庁)

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項１】 類似パターンの集合からなるカテゴリ群
    を代表する群参照用パターン信号が複数個記憶されてい
    る群辞書部と、 前記群参照用パターン信号を用いて入力パターン信号が
    各カテゴリ群に属する度合である群帰属度を計算するフ
    ァジィ大分類部と、 前記群帰属度から少なくとも１つのカテゴリ群を選択す
    る第１の群選択部と、 前記入力パターン信号がカテゴリ群内に含まれる各カテ
    ゴリに類似する度合である群内類似度を計算する類似度
    算出部と、第２の群選択部の出力に応じて前記類似度算
    出部の荷重変更量を制御する荷重変更量制御部とからな
    る複数個の細分類部と、 前記細分類部で得られた群内類似度を前記選択された群
    帰属度により重み付けする識別信号荷重部と、 前記識別信号荷重部の出力から各カテゴリに属する度合
    であるカテゴリ類似度の算出を行うカテゴリ類似度算出
    部と、 前記算出された類似度から認識結果又は認識不可である
    ことを表すリジェクト信号を出力する認識結果算出部
    と、 前記細分類部の学習に必要な前記荷重変更を行うための
    教師信号を発生する教師信号発生部と、 各細分類部に属するカテゴリ情報を記憶したカテゴリ情
    報記憶部と、 前記カテゴリ情報により入力パターンのカテゴリが存在
    する細分類部に対応する群帰属度の中で大きい方から複
    数の群帰属度を選択する前記第２の群選択部と、 前記認識結果と前記教師信号発生部から出力される入力
    パターンのカテゴリとの比較結果に応じて前記細分類部
    における前記荷重変更を行うか否かを制御する学習制御
    部と、 前記認識結果算出部で判定された判定結果を表示する認
    識結果表示部と、 前記認識結果のカテゴリが正解であるにもかかわらずリ
    ジェクトされた場合に、正解の認識結果を入力する正解
    入力部と、 前記入力された正解の認識結果に基づいて前記認識結果
    表示部に表示されている認識結果が入力データのカテゴ
    リと一致し、正解であるにもかかわらず、認識結果算出
    部からリジェクト信号が出力される正解リジェクトの原
    因となったリジェクト判定値が予め設定されたリジェク
    トしきい値以下になるまで前記細分類部における前記荷
    重変更を行うように制御する強化学習制御部と、前記カテゴリ情報記憶部のカテゴリ情報により入力デー
    タのカテゴリが存在する細分類部の中で群帰属度が最大
    の群番号を選択する第１の群番号選択部と、 前記正解リジェクトの入力データとそれに対応するカテ
    ゴリ番号(教師信号)と前記選択された群番号とを記憶す
    る強化学習データ記憶部と、 前記強化学習データ記憶部に記憶されているデータから
    群番号別及びカテゴリ別の正解リジェクトデータ数をカ
    ウントする正解リジェクトデータ数計数部と、 前記カウントされた正解リジェクトデータ数の多い群番
    号とカテゴリ番号に対応する入力データとカテゴリ番号
    を選択して前記強化学習データ記憶部に出力する第１の
    強化学習候補データ選択部と、 を備えたことを特徴とする学習型認識判断装置。
  2. 【請求項２】 前記第１の強化学習候補データ選択部に
    おいて選択されたデータに関する強化学習結果を評価す
    るための基準となるデータと教師信号を記憶した基準デ
    ータ記憶部と、 前記基準となるデータに関する認識結果を評価すること
    により強化学習の良否を判定する強化学習結果良否判定
    部と、 前記強化学習結果良否判定部において良と判定された強
    化学習候補データのみを選択する第２の強化学習候補デ
    ータ選択部と、 を備えた ことを特徴とする請求項１記載の学習型認識判
    断装置。
  3. 【請求項３】 前記強化学習結果良否判定部は、強化学
    習後の誤読データ数の増加数の数倍(１以上の整数値)と
    リジェクトデータ数の増加数との総和により、強化学習
    の良否を判定することを特徴とする請求項２記載の学習
    型認識判断装置。
  4. 【請求項４】 類似パターンの集合からなるカテゴリ群
    を代表する群参照用パターン信号が複数個記憶されてい
    る群辞書部と、 前記群参照用パターン信号を用いて入力パターン信号が
    各カテゴリ群に属する 度合である群帰属度を計算するフ
    ァジィ大分類部と、 前記群帰属度から少なくとも１つのカテゴリ群を選択す
    る第１の群選択部と、 前記入力パターン信号がカテゴリ群内に含まれる各カテ
    ゴリに類似する度合である群内類似度を計算する類似度
    算出部と、第２の群選択部の出力に応じて前記類似度算
    出部の荷重変更量を制御する荷重変更量制御部とからな
    る複数個の細分類部と、 前記細分類部で得られた群内類似度を前記選択された群
    帰属度により重み付けする識別信号荷重部と、 前記識別信号荷重部の出力から各カテゴリに属する度合
    であるカテゴリ類似度の算出を行うカテゴリ類似度算出
    部と、 前記算出された類似度から認識結果又は認識不可である
    ことを表すリジェクト信号を出力する認識結果算出部
    と、 前記細分類部の学習に必要な前記荷重変更を行うための
    教師信号を発生する教師信号発生部と、 各細分類部に属するカテゴリ情報を記憶したカテゴリ情
    報記憶部と、 前記カテゴリ情報により入力パターンのカテゴリが存在
    する細分類部に対応する群帰属度の中で大きい方から複
    数の群帰属度を選択する前記第２の群選択部と、 前記認識結果と前記教師信号発生部から出力される入力
    パターンのカテゴリとの比較結果に応じて前記細分類部
    における前記荷重変更を行うか否かを制御する学習制御
    部と、 前記認識結果算出部で判定された判定結果を表示する認
    識結果表示部と、 前記認識結果のカテゴリが正解であるにもかかわらずリ
    ジェクトされた場合に、正解の認識結果を入力する正解
    入力部と、 前記入力された正解の認識結果に基づいて前記認識結果
    表示部に表示されている認識結果が入力データのカテゴ
    リと一致し、正解であるにもかかわらず、認識結果算出
    部からリジェクト信号が出力される正解リジェクトの原
    因となったリジェクト判定値が予め設定されたリジェク
    トしきい値以下になるまで前記細分類部における前記荷
    重変更を行うように制御する強化学習制御部と、 予め設定されたリジェクトしきい値に対して、一定値だ
    け増減させた２種類のリジェクトしきい値を発生させる
    リジェクトしきい値制御部と、 評価用データに対する群帰属度が最大の群番号を選択す
    る群番号選択部と、 評価用データの認識結果から誤読及びリジェクトデータ
    数を、前記選択された群番号により群番号別及びカテゴ
    リ別に集計する認識結果集計部と、 予め設定されたリジェクトしきい値に対する集計結果
    と、前記変化後のリジェクトしきい値に対する集計結果
    の群番号別またはカテゴリ別の比較により、群番号別又
    はカテゴリ別にリジェクトしきい値を決定するリジェク
    トしきい値決定部と、 を備えた ことを特徴とする学習型認識判断装置。
  5. 【請求項５】 類似パターンの集合からなるカテゴリ群
    を代表する群参照用パターン信号が複数個記憶されてい
    る群辞書部と、 前記群参照用パターン信号を用いて入力パターン信号が
    各カテゴリ群に属する度合である群帰属度を計算するフ
    ァジィ大分類部と、 前記群帰属度から少なくとも１つのカテゴリ群を選択す
    る第１の群選択部と、 前記入力パターン信号がカテゴリ群内に含まれる各カテ
    ゴリに類似する度合である群内類似度を計算する類似度
    算出部と、第２の群選択部の出力に応じて前記類似度算
    出部の荷重変更量を制御する荷重変更量制御部とからな
    る複数個の細分類部と、 前記細分類部で得られた群内類似度を前記選択された群
    帰属度により重み付けする識別信号荷重部と、 前記識別信号荷重部の出力から各カテゴリに属する度合
    であるカテゴリ類似度の算出を行うカテゴリ類似度算出
    部と、 前記算出された類似度から認識結果又は認識不可である
    ことを表すリジェクト信号を出力する認識結果算出部
    と、 前記細分類部の学習に必要な前記荷重変更を行うための
    教師信号を発生する教師信号発生部と、 各細分類部に属するカテゴリ情報を記憶したカテゴリ情
    報記憶部と、 前記カテゴリ情報により入力パターンのカテゴリが存在
    する細分類部に対応す る群帰属度の中で大きい方から複
    数の群帰属度を選択する前記第２の群選択部と、 前記認識結果と前記教師信号発生部から出力される入力
    パターンのカテゴリとの比較結果に応じて前記細分類部
    における前記荷重変更を行うか否かを制御する学習制御
    部と、 前記認識結果算出部で判定された判定結果を表示する認
    識結果表示部と、 前記認識結果のカテゴリが正解であるにもかかわらずリ
    ジェクトされた場合に、正解の認識結果を入力する正解
    入力部と、 前記入力された正解の認識結果に基づいて前記認識結果
    表示部に表示されている認識結果が入力データのカテゴ
    リと一致し、正解であるにもかかわらず、認識結果算出
    部からリジェクト信号が出力される正解リジェクトの原
    因となったリジェクト判定値が予め設定されたリジェク
    トしきい値以下になるまで前記細分類部における前記荷
    重変更を行うように制御する強化学習制御部と、 評価用データの認識結果から誤読及びリジェクトデータ
    数を、前記選択された群番号により群番号別及びカテゴ
    リ別に集計する認識結果集計部と、 前記認識結果集計部による集計結果から、誤読データ数
    とリジェクトデータ数の差が大きい群番号又はカテゴリ
    番号を少なくとも１つ選択するしきい値変更候補選択部
    と、 前記選択された群又はカテゴリの誤読データ数とリジェ
    クトデータ数の大小関係から前記群又はカテゴリのリジ
    ェクトしきい値を一定値だけ増減させるリジェクトしき
    い値制御部と、 前記群番号別又はカテゴリ別にリジェクトしきい値を決
    定するリジェクトしきい値決定部と、 を備えた ことを特徴とする学習型認識判断装置。
  6. 【請求項６】 前記リジェクトしきい値決定部は、誤読
    データの増加数の数倍とリジェクトデータの減少数の総
    和が一定値以下の群番号又はカテゴリ番号のリジェクト
    しきい値を予め設定された値から一定値だけ増加させ、
    逆に誤読データの減少数の数倍とリジェクトデータの増
    加数の総和が一定値以下の群番号又はカテゴリ番号のリ
    ジェクトしきい値を予め設定された値から一定値だけ減
    少させることを特徴とする請求項４又は５記載の学習型
    認識判断装置。
JP33940895A 1995-06-21 1995-12-26 学習型認識判断装置 Expired - Fee Related JP3392612B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP33940895A JP3392612B2 (ja) 1995-12-26 1995-12-26 学習型認識判断装置
US08/668,588 US5966701A (en) 1995-06-21 1996-06-19 Recognition and judgement apparatus having various learning functions
EP96304575A EP0750263B1 (en) 1995-06-21 1996-06-20 Recognition and judgement apparatus having various learning functions
DE69606468T DE69606468T2 (de) 1995-06-21 1996-06-20 Erkennungs- und Beurteilungsgerät mit verschiedenen Lernfunktionen

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33940895A JP3392612B2 (ja) 1995-12-26 1995-12-26 学習型認識判断装置

Publications (2)

Publication Number Publication Date
JPH09179844A JPH09179844A (ja) 1997-07-11
JP3392612B2 true JP3392612B2 (ja) 2003-03-31

Family

ID=18327197

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33940895A Expired - Fee Related JP3392612B2 (ja) 1995-06-21 1995-12-26 学習型認識判断装置

Country Status (1)

Country Link
JP (1) JP3392612B2 (ja)

Also Published As

Publication number Publication date
JPH09179844A (ja) 1997-07-11

Similar Documents

Publication Publication Date Title
US5546503A (en) Apparatus for configuring neural network and pattern recognition apparatus using neural network
Yoon et al. A comparison of discriminant analysis versus artificial neural networks
US5479570A (en) Learning and recognition machine
CN112465120A (zh) 一种基于进化方法的快速注意力神经网络架构搜索方法
KR20040015613A (ko) 인공 신경망을 이용한 얼굴 인식 방법 및 장치
CN112926645B (zh) 一种基于边缘计算的窃电检测方法
CN112418987B (zh) 交通运输单位信用评级方法、系统、电子设备及存储介质
AL-Behadili Classification algorithms for determining handwritten digit
US5274744A (en) Neural network for performing a relaxation process
Davis et al. Predicting direction shifts on Canadian–US exchange rates with artificial neural networks
US5966701A (en) Recognition and judgement apparatus having various learning functions
JP3043539B2 (ja) ニューラル・ネットワーク
Parvin et al. A scalable method for improving the performance of classifiers in multiclass applications by pairwise classifiers and GA
JP3392612B2 (ja) 学習型認識判断装置
JP2924442B2 (ja) パターン認識装置
JP3337597B2 (ja) 学習型認識判断装置
JP3222699B2 (ja) パターン認識装置
EP0520446B1 (en) Recognizing and judging apparatus
JP3344873B2 (ja) 学習型認識判断装置
JP3440187B2 (ja) 光学的文字読取装置
JP2779119B2 (ja) 学習認識装置
JPH09305566A (ja) 学習型認識判断装置
JP3180477B2 (ja) パターン認識装置
JP2574517B2 (ja) パターン認識装置
JPH10187651A (ja) 学習型認識判断装置

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees