JPH0962648A - パターン認識装置 - Google Patents

Abstract

(57)【要約】 【課題】 パターン認識部に変更を加えず誤認識を低減
する追加学習方式を実現する。 【解決手段】 パターン認識部１で入力パターンデータ
１０１のパターン認識をして得る候補カテゴリデータ１
０２に対し、パターン検定部２でパターン認識部１から
パターン認識内部状態データ１０３の追加学習をし算出
する不信度データ１０４（認識結果として候補カテゴリ
がどの程度正しいかを示す）をもとに認識結果判定部３
で候補カテゴリデータの整合性を判定し認識結果データ
１０５として出力する。認識不良パターン格納部５で格
納する認識不良パターンデータ１０６（認識不良パター
ン判定部４で認識結果データ１０５と予め用意する正解
カテゴリとの比較結果が一致しないパターンを示す）と
誤認識時のパターン認識内部状態データ１０３ａとを用
いパターン検定部２の学習を制御するようにフィードバ
ックをする候補教師信号１０７をパターン学習制御部６
で作成する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】この発明は誤認識を低減する
パターン認識装置に関する。

【０００２】

【従来の技術】たとえば特開平５−２１０７６３号公報
に示す従来のパターン認識装置は図９（ａ）のように、
パターン認識部１ａは、たとえば図９（ｂ）に示す入力
層１１と中間層１２と出力層１３とから構成する３層ニ
ューラルネット（神経回路網）の学習過程と評価過程
で、パターン学習制御部６ｂからの候補教師信号１０７
ａに従い、入力パターンデータ１０１に対し予め学習済
みのニューラルネットを再学習しながら未知の当該デー
タ１０１を認識し、対応する候補カテゴリデータを認識
結果データ１０５として出力する。認識不良パターン判
定部４ｂと格納部５ａは、パターン認識部１ａから認識
結果データ１０５に対し予め用意する正解カテゴリデー
タと比較をし、一致しない候補カテゴリデータを認識不
良パターンデータ１０６として収集し格納する。パター
ン学習制御部６ｂは、認識不良パターン格納部５ａから
の認識不良パターンデータ１０６を用い、パターン認識
部１ａで再学習をし正しく認識するように候補教師信号
１０７ａを作成しフィードバックする。

【０００３】上記従来のパターン認識装置は、認識結果
として直接出力をする誤認識パターンを入力データとし
て用い予め学習済みのニューラルネットの再学習を繰返
す方式（誤認識パターン再学習方式）を採る。

【０００４】

【発明が解決しようとする課題】上記のような従来のパ
ターン認識装置では、誤認識パターン再学習方式を採る
から、一般に各層を構成する複数素子群で学習情報を分
散的に記憶するニューラルネット全体でシナプス（ニュ
ーロン（神経細胞）の出力部）荷重値を更新し、再学習
前に正しく認識できていたパターンを認識できなくなる
可能性がある。また誤認識パターンを用い再学習をして
も必ずしも当該パターンを認識できるとは限らない問題
点があった。

【０００５】この発明が解決しようとする課題は、パタ
ーン認識装置で予め学習済みのニューラルネットの再学
習をしないで、別途当該誤認識内部状態を入力データと
して用い追加学習を繰返す方式（誤認識パターン追加学
習方式）を提供することにある。

【０００６】

【課題を解決するための手段】この発明のパターン認識
装置は、上記課題を解決するためつぎの手段を設け、誤
認識パターン追加学習方式を採ることを特徴とする。

【０００７】パターン認識部は、入力パターンを認識し
当該候補カテゴリを出力する。

【０００８】パターン検定部は、パターン認識部から認
識内部状態を示す入力データをもとに、認識不良パター
ン格納部からの誤認識時の入力データと共にパターン学
習制御部からの教師信号に従い追加学習をし、認識結果
として候補カテゴリがどの程度正しいかを示す不信度を
算出する。または構成する３層ニューラルネットで中間
層に誤認識パターンに対応する素子を追加登録をする。
または追加登録をする中間層素子が発火動作をする入力
データ空間領域の大きさに対し調整をし、従来正しく認
識されたパターンが正しく認識されなくならないように
する。または中間層と出力層の各素子に結合をする複数
の階層型ニューラルネットを別途設け、中間層素子の発
火動作時に当該結合する階層型ニューラルネットを学習
する。または入力パターンから抽出する新しい特徴を当
該入力データとして追加し、特定の中間層素子に結合を
する階層型ニューラルネットの学習を進行するようにす
る。または入力データをもとに、算出する不信度を表現
する出力層素子のほかに、内部で求める認識結果を表現
する出力層素子を別途設ける。

【０００９】認識結果判定部は、パターン検出部から不
信度が所定閾値より小さいときはパターン認識部からの
候補カテゴリを、所定閾値以上のときは認識不能を示す
棄却情報をそれぞれ認識結果として出力する。

【００１０】認識不良パターン判定部は、認識結果判定
部から認識結果を予め用意する正解カテゴリと比較す
る。

【００１１】認識不良パターン判定部は、認識不良パタ
ーン判定部から比較結果が一致しない認識不良パターン
とパターン認識部から当該誤認識内部状態時のパターン
検出部に対する入力データとを格納する。

【００１２】パターン学習制御部は、認識不良パターン
格納部からの認識不良パターンを用い、パターン検定部
の学習を制御する教師信号を作成しフィードバックす
る。

【００１３】変形パターン作成部は、別途設け、パター
ン学習制御部から認識不良パターンに対し各種の変換を
施し作成する多数の類似パターンを提示するユーザが棄
却の要否を判定する。パターン学習制御部で教師信号と
して認識不良パターンデータに代えて当該判定結果を用
いる。

【００１４】

【発明の実施の形態】この発明の実施の一形態を示すパ
ターン認識装置は図１のように、パターン認識部１は、
入力パターンデータ１０１に対し予め学習済みのニュー
ラルネットを再学習しないで未知の当該データ１０１を
認識し、対応する候補カテゴリデータ１０２と共に、ベ
クトルとしてニューラルネットを構成する各素子の内部
ポテンシャルを示すパターン認識内部状態データ１０３
を出力する。パターン検定部２は、パターン認識部１か
ら認識内部状態を示す入力データ１０３をもとに認識結
果として候補カテゴリデータ１０２がどの程度正しいか
を示す不信度データ１０４を算出する。また認識不良パ
ターン格納部５からの誤認識時の当該入力データ１０３
ａと共にパターン学習制御部６からの候補教師信号１０
７に従い追加学習をする。認識結果判定部３は、パター
ン検定部２から不信度データ１０４の値が所定閾値より
小さいときはパターン認識部１からの候補カテゴリデー
タ１０２を、所定閾値以上のときは認識不能を示す棄却
情報をそれぞれ認識結果データ１０５として出力する。
認識不良パターン判定部４は、認識結果判定部３から認
識結果データ１０５に対し予め用意する正解カテゴリデ
ータと比較をする。認識不良パターン格納部５は、認識
不良パターン判定部４から比較結果が一致しない認識不
良パターンデータ１０６とパターン認識部１から当該誤
認識時のパターン認識内部状態データ１０３ａとを格納
する。パターン学習制御部６は、認識不良パターン格納
部５からの認識不良パターンデータ１０６を用い、パタ
ーン検定部２で追加学習をし同じ誤認識内部状態に対し
不信度の値を大きくし、かつ追加登録素子の発火領域
（発火動作をする入力データ空間領域）を小さくするよ
うに候補教師信号１０７を作成しフィードバックする。
予め学習済みのニューラルネットの再学習（変更）をし
ないで追加学習をするから、必ず誤認識パターンを棄却
できかつ従来正しく認識できていたパターンが認識でき
なくなる悪影響を抑制できる。

【００１５】上記実施の形態のパターン認識装置は、予
め学習済みのニューラルネットの再学習をしないで、別
途当該誤認識内部状態を入力データとして用い追加学習
を繰返す方式（誤認識パターン追加学習方式）を採る。

【００１６】パターン認識部１は図２のように、まずた
とえば文献（Ｍｉｙａｈａｒａ Ｋ．ａｎｄ Ｙｏｄａ
Ｆ．：“Ｐｒｉｎｔｅｄ Ｊａｐａｎｅｓｅ Ｃｈａ
ｒａｃｔｅｒ Ｒｅｃｏｇｎｉｔｉｏｎ Ｂａｓｅｄ
ｏｎ Ｍｕｌｔｉｐｌｅ Ｍｏｄｉｆｉｅｄ ＬＶＱ
Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ”，ＩＥＥＥ Ｉｎｔｅ
ｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｄ
ｏｃｕｍｅｎｔ Ａｎａｌｙｓｉｓ ａｎｄ Ｒｅｃｏ
ｇｎｉｔｉｏｎ（ＩＣＤＡＲ），ｐｐ．２５０−２５
３，１９９３）に示す方法で入力層１１と中間層１２と
出力層１３とから構成する３層ニューラルネットによる
パターン認識処理を施す。つぎにたとえば“大”の入力
文字パターンデータ１０１に対応し、“た”、“大”お
よび“太”の第１位、第２位および第３位各候補カテゴ
リデータ１０２とベクトルＩ＝（ｑ1 ，ｑ2 ，…，ｑ
ｍ，…，ｑＭ）（ｍ＝１〜Ｍ、Ｍとｑｍはベクトルの次
元数と要素を表す）のパターン認識内部状態データ１０
３とを出力する。ニューラルネットの入力層１１と中間
層１２と出力層１３各素子がもつ内部ポテンシャルをそ
れぞれｘｉ（ｉ＝１〜入力層素子数Ａ）とｙｊ（ｊ＝１
〜中間層素子数Ｂ）とｚｋ（ｋ＝１〜出力層素子数Ｃ）
とすると、ベクトルＩは次のように各内部ポテンシャル
ｘｉとｙｊとｚｋの１次元配列として定義できる。 Ｉ＝（ｘ1 ，ｘ2 ，…，ｘA ，ｙ1 ，ｙ2 ，…，ｙB ，
ｚ1 ，ｚ2 ，…，ｚC ）

【００１７】パターン検定部２は図３（ａ）のように、
入力層２１と中間層２２と出力層２３とをもつ３層ニュ
ーラルネットで構成する。評価過程で、まずパターン認
識部１からパターン認識内部状態データ１０３を入力層
２１で受けると、当該入力層２１各素子１〜Ｍと全結合
をする中間層２２各素子１〜Ｎのいくつかが特定の誤認
識パターンに対応し発火動作をする。たとえば図３
（ｂ）のように、パターン認識内部状態データＩｄ１０
３の取り得るデータ空間Ｓｄ内に位置する荷重ベクトル
Ｗｎから一定距離Ｒｎ内の発火領域Ａｎにある、ユーク
リッド距離上で類似する当該内部状態データＩｄ1 とＩ
ｄ2 に対し、当該Ｗｎをもつｎ番目の中間層２２素子が
発火動作をし、Ｒｎ外にある当該内部状態データＩｄ3
に対してはどの中間層２２素子も発火動作をしない。ｎ
番目の中間層２２素子がもつ内部ポテンシャルｙｎとそ
れらにより得られる発火パターンベクトルＺｎに従う出
力層２３素子がもつ出力値としての不信度Ｏは次のよう
に定義できる。 ｙｎ＝Ｒｎ−（Σｍ（Ｗｎｍ−ｑｍ）² ）^1/2 ｍ＝１
〜Ｍ ｉｆ ｙｎ＜０ ： ｙｎ＝０ Ｚｎ＝（ｙ１，ｙ２，…，ｙＮ） Ｏ＝Σｎ（Ｚｎ・Ｖｎ）−Ｔ ｎ＝１〜Ｎ ｉｆ Ｏ＜０ ： Ｏ＝０ ここにＷｎｍとＶｎはｎ番目の中間層２２とｍ番目の入
力層２１および出力層２３との各素子間荷重、Ｔは正の
定数をそれぞれ表す。従って中間層２２素子は特定の誤
認識パターンに対し発火動作をし、当該素子の発火パタ
ーンベクトルＺｎに従い出力層２３素子は不信度Ｏの値
を増加するから、別途追加登録をされたＳ番目の中間層
２２素子として記憶する誤認識パターンに類似するパタ
ーンを入力すると認識結果として、出力層２３素子の出
力する不信度データ１０４の値が大きいほどパターン認
識部１で得た候補カテゴリデータ１０２は正しくないこ
とを示す。学習過程で、つぎにパターン学習制御部６か
ら候補教師信号１０７として誤認識時の認識不良パター
ンデータ１０６を出力層２３で受けると、構成する中間
層２２素子の発火パターンベクトルＺｎを調べ、１つも
発火動作をしていないときは当該認識不良パターンデー
タ１０６を荷重ベクトルＷｓｍ（ｍ＝１〜Ｍ）とする新
たな中間層２２素子Ｓの追加登録をする。さらに出力層
２３素子が不信度データ１０４として追加登録済みの中
間層２２素子Ｓの発火動作時は大きな値を出力し、すべ
ての中間層２２素子の発火非動作時は０を出力するよう
に、たとえばバックプロパゲーション法（逆誤差伝播
法）で中間層２２と出力層２３との各素子間荷重ベクト
ルＶｎ（ｎ＝１〜Ｎ）を学習する。たとえば図３（ｂ）
に示す荷重ベクトルＷｎをもつｎ番目の中間層２２素子
の追加登録をするときは、当該発火領域Ａｎにあり、追
加登録以前に正しく認識されたパターンに対するパター
ン認識内部状態データＩｄ1 により当該追加登録素子が
発火動作をし大きな値の不信度データ１０４を得て棄却
の認識結果とならないように、当該荷重ベクトルＷｎか
らの一定距離Ｒｎ（Ａｎの大きさを規定するユークリッ
ド距離）を小さくし当該内部状態データＩｄ1 を当該発
火領域Ａｎから排除する。

【００１８】なお上記発明の実施の形態で図３（ａ）に
示すパターン検定部２は図４（ａ）のように、ニューラ
ルネットの中間層２２と出力層２３との間に、対応する
同じ番目の中間層２２素子とすべての入力層２１素子と
に対し荷重ベクトル“１”で、出力層２３素子に対し荷
重ベクトル“Ｖ”でそれぞれ結合をする複数Ｎの階層型
ニューラルネット２４を別途設け、上記学習過程と同じ
に中間層２２素子の追加登録をし、当該発火領域の調整
をすると共に、当該中間層２２素子と結合する階層型ニ
ューラルネット２４の追加登録をし、当該荷重ベクトル
“Ｖ”の学習をするパターン検定部２ａとしてもよい。
学習による非線形関数で大きい値の不信度データ領域
（図４（ｂ）の斜線部）の複雑な形状をもつ識別境界面
を規定するから、高精度に不信度を判定できる。また結
合する中間層２２素子の発火領域に対応する部分空間だ
けで学習をするから、未学習データにも安定して動作で
きる。階層型ニューラルネット２４は図４（ｂ）のよう
に、まずｎ番目は、結合する荷重ベクトルＷｎをもつｎ
番目の中間層２２素子の発火領域Ａｎ内にパターン認識
内部状態データ１０３Ｉｄ1 とＩｄ2 をもつ発火動作時
だけ、たとえばバックプロバゲーション法でパターン学
習制御部６からの候補教師信号１０７と出力層２３素子
の出力する不信度データ１０４との誤差を減小するよう
に学習する。つぎにｎ番目以外は、結合するｎ番目以外
の中間層２２素子の発火非動作時に各々０の値を不信度
データ１０４として出力するように学習する。さらに図
４（ｂ）の斜線部で示すように大きい値の不信度データ
領域に対し、複雑な形状をもつ識別境界面で規定する非
線形関数を得るように学習する。たとえばｎ番目の中間
層２２素子の追加登録前、パターン認識内部状態データ
１０３Ｉｄ1 を正しく認識し、それより遠い位置にある
Ｉｄ2 を誤認識していたとすると、追加登録後の所要不
信度データ１０４としてＩｄ1 には小さい値かつＩｄ2
には大きい値を出力することは、従来正しく認識できて
いたパターンが認識できなくなる悪影響を抑制するよう
に当該発火領域Ａｎの大きさを規定する距離Ｒｎの値を
調整するだけでは不能であるが、複雑な形状をもつ識別
境界面で不信度を規定し高精度に判定をすれば可能であ
る。

【００１９】また上記発明の実施の形態で図１に示すパ
ターン認識装置は図５のように、認識不良パターン判定
部４ａからの正解カテゴリデータ１０９を用いパターン
学習制御部６ａで作成する正解教師信号１１０に従いニ
ューラルネットを学習し置換カテゴリデータ１０８を出
力するパターン検定部２ｂまたは２ｃと認識結果データ
１０５として不信度が所定閾値以上のときは棄却情報を
出力する代わりに所要条件時にパターン検定部２ｂまた
は２ｃからの置換カテゴリデータ１０８を出力する認識
結果判定部３ａとを別途設けてもよい。パターン検定部
２で学習が進行すると、出力する置換カテゴリデータ１
０８の値に対し、特定の誤認識入力パターンが常に同じ
正解カテゴリをもつときは、正解カテゴリを示す素子だ
けで１の結果、その他の素子ですべて０の結果を示し、
もたないときは複数の素子で１に近い結果を示すから、
常に同じ正解カテゴリをもつ特定の誤認識入力パターン
に対し正しく認識できることにより、正しく認識できる
パターン数の減小を抑えかつ誤認識パターン数を削減で
きる。パターン検定部２ｂまたは２ｃは図６（ａ）また
は図６（ｂ）のように、図３（ａ）または図４（ａ）に
示すパターン検定部２または２ａで第２の出力層２５を
別途設け、認識不良パターン判定部４ａからの正解カテ
ゴリデータ１０９を用い作成するパターン学習制御部６
ａからの正解教師信号１１０たとえば｛０，１，０，
０，０｝に従い、置換カテゴリデータ１０８としてたと
えば５個の素子数をもつ第２の出力層２５で２番目の素
子が正解カテゴリ“大”を示すようにニューラルネット
を学習し、第２の出力層２５を構成する各素子は各々１
つの置換カテゴリを表現する。認識結果判定部３ａは、
図１に示す認識結果判定部３で、認識結果データ１０５
として不信度データ１０４の値が所定閾値以上のときは
棄却情報を出力する代わりに、不信度データ１０４の値
が所定閾値以上でかつパターン検定部２ｂまたは２ｃか
らの置換カテゴリデータ１０８の値が１つの素子は１に
近く他の素子は０のときは当該置換カテゴリデータ１０
８を出力し、双方の条件を満足しないときは棄却情報を
出力する。

【００２０】また上記発明の実施の形態で図１に示すパ
ターン認識装置は図７（ａ）のように、パターン学習制
御部６から認識不良パターンデータ１０６に対し微小な
回転や変形など各種の変換を施したとえば図７（ｂ）に
示す疑似的パターンを多数作成し、提示するユーザが当
該パターンを棄却するか正しく認識するかを判定する変
形パターン作成部７を別途設け、パターン学習制御部６
で候補教師信号１０７として認識不良パターン格納部５
からの認識不良パターンデータ１０６を用いる代わり
に、当該判定結果１１１を用いるようにしてもよい。認
識不良パターン数は全学習パターン数に比べ非常に少な
く、学習するのに十分でないときがあるのに対し、ユー
ザの主観を考慮し不信度を判定できかつ十分な学習パタ
ーン数を用い正確に学習できる。

【００２１】また上記発明の実施の形態で図４（ａ）に
示すパターン検定部２ａは図８のように、特定の中間層
２２素子に結合をする階層型ニューラルネット２４に対
し荷重ベクトル“１”で結合をする第２の入力層２６を
別途設け、当該第２の入力層２６で入力パターンデータ
１０１から抽出する新たな特徴データ１１２を受け、結
合をする当該階層型ニューラルネット２４に加えるよう
にしてもよい。たとえば文字パターン“大”を“犬”と
誤認識するのを抑制するために追加登録済みの中間層２
２素子があり、入力パターンデータ１０１に文字パター
ン“犬”の右上の点の有無を示す情報が含まれてない場
合、“大”と“犬”を識別できないで当該階層型ニュー
ラルネット２４で学習が進行しないときのように、入力
パターンデータ１０１に含まれる情報が不十分で学習が
進行しないときでも正しく学習できる。

【００２２】また上記発明の実施の形態でパターン認識
部１はニューラルネットで構成するとして説明したが、
その他の技術で実現してもよい。その場合パターン認識
内部状態データ１０３に代えてパターン認識部１で得る
候補カテゴリデータ１０２や入力パターンデータ１０１
から抽出する新しい特徴データ１１２をパターン検定部
２の入力データとする。

【００２３】

【発明の効果】上記のようなこの発明のパターン認識装
置では、予め学習済みのニューラルネットの再学習をし
ないで、別途当該認識内部状態を入力データとして用い
追加学習を繰返す誤認識パターン追加学習方式を採るか
ら、従来のように認識結果として直接出力をする誤認識
パターンを入力データとして用い予め学習済みのニュー
ラルネットの再学習を繰返す誤認識パターン再学習方式
に比べ、パターン認識部に変更を加えないで誤認識を低
減できるほか各発明ごとにつぎの効果がある。 （１）一度認識したパターンを確実に誤認識しないよう
にできる。 （２）中間層素子の追加による認識結果に対する悪影響
を減小できる。 （３）高精度に不信度を判定できる。 （４）正しく認識するパターン数を減らさないで誤認識
パターン数を削除できる。 （５）ユーザの主観を考慮して不信度を判定でき、十分
な数の教師信号でパターン検定部を正確に学習できる。 （６）入力データに含まれる不十分な情報に起因するパ
ターン検定部の学習が進行しないときも学習できる。

【図面の簡単な説明】

【図１】 この発明の実施の一形態を示すパターン認識
装置の機能ブロック図。

【図２】 図１に示すパターン認識部の機能を説明する
図。

【図３】 図１に示すパターン検定部の機能を説明する
図。

【図４】 この発明の実施の他の一形態を示すパターン
検定部の機能を説明する図。

【図５】 この発明の実施の他の一形態を示すパターン
認識装置の機能ブロック図。

【図６】 図５に示すパターン検定部の機能を説明する
図。

【図７】 この発明の実施の他の一形態を示すパターン
認識装置の機能ブロック図とその変形パターン作成部の
機能を説明する図。

【図８】 この発明の実施の他の一形態を示すパターン
検定部の機能を説明する図。

【図９】 従来の技術を示すパターン認識装置の機能ブ
ロック図とそのパターン認識部の機能を説明する図。

【符号の説明】

１ パターン認識部、２ パターン検定部、３，３ａ
認識結果判定部、４，４ａ 認識不良パターン判定部、
５ 認識不良パターン格納部、６，６ａ パターン学習
制御部、１１ 入力層、１２ 中間層、１３ 出力層、
２１ 入力層、２２ 中間層、２３ 出力層、２４ 階
層型ニューラルネット、２５ 出力層、２６ 入力層、
１０１ 入力パターンデータ、１０２ 候補カテゴリデ
ータ、１０３ パターン認識内部状態データ、１０３ａ
誤認識内部状態時のパターン認識内部状態データ、１
０４ 不信度データ、１０５ 認識結果データ、１０６
認識不良パターンデータ、１０７ 候補教師信号、１０
８ 置換カテゴリデータ、１０９ 正解カテゴリデー
タ、１１０ 正解教師信号、１１１ 判定結果、１１２
入力パターンデータ１０１から抽出する新たな特徴デ
ータ。なお図中、同一符号は同一または相当部分を示
す。

Claims (7)

【特許請求の範囲】
1. 【請求項１】 入力パターンを認識し当該候補カテゴリ
   を出力するパターン認識部と、該パターン認識部から認
   識内部状態を示す入力データをもとに認識不良パターン
   格納部からの誤認識時の前記入力データと共にパターン
   学習制御部からの教師信号に従い追加学習をし認識結果
   として前記候補カテゴリがどの程度正しいかを示す不信
   度を算出するパターン検定部と、該パターン検定部から
   不信度が所定閾値より小さいときは前記パターン認識部
   からの候補カテゴリを、所定閾値以上のときは認識不能
   を示す棄却情報をそれぞれ認識結果として出力する認識
   結果判定部と、該認識結果判定部から認識結果を予め用
   意する正解カテゴリと比較する認識不良パターン判定部
   と、該認識不良パターン判定部から比較結果が一致しな
   い認識不良パターンと前記パターン認識部から当該誤認
   識時の前記パターン検定部に対する入力データとを格納
   する認識不良パターン格納部と、該認識不良パターン格
   納部からの認識不良パターンを用いパターン検定部の学
   習を制御する教師信号を作成しフィードバックするパタ
   ーン学習制御部とを備えるパターン認識装置。
2. 【請求項２】 パターン検定部を構成する３層ニューラ
   ルネットで中間層に誤認識パターンに対応する素子を追
   加登録することを特徴とする請求項１記載のパターン認
   識装置。
3. 【請求項３】 パターン検定部を構成する３層ニューラ
   ルネットで追加登録をする中間層素子が発火動作をする
   入力データ空間領域の大きさに対し調整をし、従来正し
   く認識できていたパターンが認識できなくなる悪影響を
   抑制するようにすることを特徴とする請求項２記載のパ
   ターン認識装置。
4. 【請求項４】 パターン検定部を構成する３層ニューラ
   ルネットで中間層と出力層の各素子に結合をする複数の
   階層型ニューラルネットを別途設け、中間層素子の発火
   動作時に当該結合する階層型ニューラルネットを学習す
   ることを特徴とする請求項２または３記載のパターン認
   識装置。
5. 【請求項５】 パターン検定部を構成する３層ニューラ
   ルネットで入力パターンから抽出する新しい特徴を当該
   入力データとして追加し、特定の中間層素子に結合をす
   る階層型ニューラルネットの学習が進行するようにする
   ことを特徴とする請求項４記載のパターン認識装置。
6. 【請求項６】 パターン検定部を構成する３層ニューラ
   ルネットで入力データをもとに、算出する不信度を表現
   する出力層素子のほかに、内部で求める認識結果を表現
   する出力層素子を別途設けることを特徴とする請求項
   ２、３、４または５記載のパターン認識装置。
7. 【請求項７】 パターン学習制御部から認識不良パター
   ンに対し各種の変換を施し作成する多数の類似パターン
   を提示するユーザが棄却の要否を判定する変形パターン
   作成部を別途設け、パターン学習制御部で教師信号とし
   て認識不良パターンデータに代えて前記変形パターン作
   成部からの判定結果を用いることを特徴とする請求項
   １、２、３、４、５または６記載のパターン認識装置。