JPH1011543A

JPH1011543A - パターン認識用辞書作成装置及びパターン認識装置

Info

Publication number: JPH1011543A
Application number: JP8167364A
Authority: JP
Inventors: Ichiro Nakao; 一郎中尾; Minoru Takakura; 穂高倉; Mariko Takenouchi; 磨理子竹之内
Original assignee: Matsushita Electric Industrial Co Ltd
Current assignee: Panasonic Holdings Corp
Priority date: 1996-06-27
Filing date: 1996-06-27
Publication date: 1998-01-16

Abstract

(57)【要約】【課題】従来のパターン認識装置においては、、入力
パターンの特徴ベクトルと全てのカテゴリとの標準特徴
ベクトルとの照合処理を行うためカテゴリが多数の場合
照合処理に長時間かかる。【解決手段】階層化認識辞書１０４は、クラスタに分
類したカテゴリを代表するクラスタ標準特徴ベクトル
と、クラスタに分類されたカテゴリとその標準特徴ベク
トルとを対応付けて登録している。特徴抽出部１６０１
は、入力パターンから特徴ベクトルを抽出し、クラスタ
一致度計算部１６０２は特徴ベクトルとクラスタ標準特
徴ベクトルとの一致度を計算する。クラスタ選択部１６
０３は一致度の高い候補クラスタを選択し、クラスタ内
カテゴリ照合部１６０４は、候補クラスタ内のカテゴリ
の標準特徴ベクトルと特徴ベクトルとの一致度を計算す
る。カテゴリ決定部１６０５は一致度の高いカテゴリを
認識結果として決定する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、文字・図形等のパ
ターン認識に用いる辞書の作成装置及びパターン認識装
置に関する。

【０００２】

【従来の技術】従来からのパターン認識装置は、入力さ
れたパターンから特徴ベクトルと呼ばれるパターンを認
識するための特徴量である複数の数値データを抽出す
る。次に抽出した特徴ベクトルと、予め用意された各カ
テゴリの標準特徴ベクトルとを照合し、その一致度（距
離、類似度等）を求める。ここで、カテゴリとは、例え
ば、文字認識の場合には識別字種をいい、認識対象の入
力パターンの認識結果となる区分種類をいう。一致度の
最も高い標準特徴ベクトルに対応するカテゴリを入力パ
ターンの認識結果としている。このため、各カテゴリの
標準特徴ベクトルを用意するため、各カテゴリごとに多
数の学習用パターンから特徴ベクトルを抽出し、各カテ
ゴリごとにその特徴ベクトルの平均値等を求めている。

【０００３】

【発明が解決しようとする課題】ところが、上記のよう
なパターン認識装置では、入力パターンから抽出された
特徴ベクトルと認識結果となる全てのカテゴリの標準特
徴ベクトルとを逐一照合しなければならないため、照合
処理に長時間を要する不都合がある。特に、日本語文字
認識では、漢字を含む多くのカテゴリがあるため、その
照合処理に要する時間の短縮がパターン認識装置の実用
上の課題となっている。

【０００４】本発明は、上記課題に鑑み、照合処理に要
する時間を大幅に短縮できるパターン認識装置及びその
装置に用いるパターン認識辞書を作成する装置を提供す
ることを目的とする。

【０００５】

【課題を解決するための手段】上記課題を解決するた
め、本発明は、カテゴリごとに入力される複数の学習用
パターンからそのカテゴリの認識に用いる特徴量を抽出
する特徴量抽出手段と、前記特徴量抽出手段で抽出され
た特徴量に基づいて各カテゴリごとの標準特徴量を計算
する標準特徴量計算手段と、前記標準特徴量計算手段で
計算された標準特徴量をクラスタ分析して、複数のクタ
スタに各カテゴリを分類するカテゴリ分類手段とを有す
るパターン認識用辞書作成装置であって、前記カテゴリ
分類手段で分類された各カテゴリの標準特徴量に基づい
てクラスタのクラスタ標準特徴量を計算するクラスタ標
準特徴量計算手段と、前記クラスタ標準特徴量計算手段
で計算されたクラスタのクラスタ標準特徴量と、前記カ
テゴリ分類手段で該クラスタに分類されたカテゴリと、
前記標準特徴量計算手段で計算されたそのカテゴリの標
準特徴量とを対応して階層化認識辞書に登録する登録手
段とを備えることとしている。これによって、階層化認
識辞書には、クラスタごとのクラスタ標準特徴量と、カ
テゴリと該カテゴリの標準特徴量とを対応して登録する
ので、この階層化認識辞書を用いたパターン認識装置で
は、先ず認識対象の入力パターンから抽出したパターン
特徴量とクラスタ標準特徴量とを照合し、その一致度の
高いクラスタに含まれるカテゴリの標準特徴量とパター
ン特徴量とを照合するだけで、全てのカテゴリの標準特
徴量との照合をする必要がなくなるので、照合時間を短
縮して、認識結果となるカテゴリを選択することができ
る。

【０００６】

【発明の実施の形態】以下、本発明に係るパターン認識
用辞書作成装置及びパターン認識装置の実施の形態を図
面を用いて説明する。（実施の形態１）図１は、本発明に係るパターン認識用
辞書作成装置の実施の形態１の構成図である。

【０００７】パターン認識用辞書作成装置は、特徴抽出
部１０１と、標準特徴計算部１０２と、クラスタ代表辞
書作成部１０３と、階層化認識辞書１０４と、クラスタ
内カテゴリ設定部１０５と、クラスタ内辞書作成部１０
６とを備えている。特徴抽出部１０１は、認識結果とな
る各カテゴリごとに複数の学習用パターン入力を受ける
と、各学習用パターンからカテゴリの認識に用いる特徴
量である複数個の数値データからなる特徴ベクトルを抽
出し、カテゴリに対応して特徴ベクトルを記憶する。

【０００８】図２は、文字を認識結果とする入力された
学習用パターンの一例を示す図である。このように文字
を認識結果とする場合には、カテゴリは、各文字に対応
する文字コードで示される。文字「あ」の文字コード２
０１に対応して複数の文字画像「あ」２０２、２０３、
…、２０４が学習用パターンとして入力されている。な
お、本実施の形態では、文字を認識結果としているけれ
ども、他の図形等を認識結果とする場合でも同様であ
る。

【０００９】文字コード２０１に対応する学習用パター
ンである文字画像「あ」２０２、２０３、…、２０４の
特徴ベクトルを抽出すると、図３に示すようになる。な
お、特徴ベクトルの抽出については、特開昭６３−３４
６８２号公報に記載されている。ここで、文字コード２
０１に対応する学習用パターンがＭ個あるとすると、特
徴ベクトルもＦ１、Ｆ２、…、ＦＭのＭ個が抽出され
る。また特徴ベクトルがｎ個の数値データからなるとき
は、例えば、文字画像２０４から抽出された特徴ベクト
ルＦＭは、ＦＭ＝（ｆＭ−１，ｆＭ−２，…，ｆＭ−ｎ）となる。

【００１０】認識結果となるカテゴリである文字コード
の総数がＮである場合には、各カテゴリごとの特徴ベク
トルの一覧３０１、３０２、３０３、…の総数はＮとな
る。特徴抽出部１０１は、Ｎ個のカテゴリについて、特
徴ベクトルを全て抽出すると、標準特徴計算部１０２を
起動する。標準特徴計算部１０２には、特徴抽出部１０
１に起動されると、特徴抽出部１０１に記憶されている
図３に示したような、各カテゴリごとの特徴ベクトルを
読み出し、各カテゴリの標準特徴ベクトルを計算する。
例えば、図２に示した文字コード２０１の文字「あ」の
標準特徴ベクトルＤ＝（ｄ１，ｄ２，…，ｄｎ）は、次
式の（数１）によってその要素ｄｊが求められる。

【００１１】

【数１】同様に、認識結果となる全てのカテゴリについて標準特
徴ベクトルを計算して記憶すると、クラスタ代表辞書作
成部１０３を起動する。クラスタ代表辞書作成部１０３
は、標準特徴計算部１０２に起動されると、標準特徴計
算部１０２に記憶されているカテゴリの数Ｎと、Ｎ個の
カテゴリの標準特徴ベクトルとを読み出してクラスタ分
析の手法（「多変量統計解析法」田中豊、脇本和昌著、
現代数学社等に記載されている。）によって、複数の
クラスタに各標準特徴ベクトルを分類する。次に各クラ
スタに分類された標準特徴ベクトルに基づいてクラスタ
の代表となるクラスタ標準特徴ベクトルを計算する。こ
のクラスタ標準特徴ベクトルは、上記標準特徴計算部１
０２と同様に、クラスタ標準特徴ベクトルの各要素を次
式の（数２）によって計算し、クラスタ標準特徴ベクト
ルＣ＝（ｃ１，ｃ２，…，ｃｎ）を階層化認識辞書１０
４にそのクラスタ番号とともに書き込む。

【００１２】

【数２】ここで、このクラスタに含まれるカテゴリの数は、Ｒ個
であるものとする。全て（例えばＰ個）のクラスタにつ
いて、クラスタ標準特徴ベクトルが求められると、クラ
スタ内カテゴリ設定部１０５を起動する。階層化認識辞
書１０４は、ＲＡＭ等からなり、クラスタ代表辞書作成
部１０３によって、クラスタ番号とクラスタ標準特徴ベ
クトルとを書き込まれる。

【００１３】更に、クラスタ内カテゴリ設定部１０５に
よって、各クラスタに分類される各カテゴリが、追加分
類されるものを含めて書き込まれ、クラスタ内辞書作成
部１０６によって、クラスタに分類されているカテゴリ
に対応付けてその標準特徴ベクトルが書き込まれる。ク
ラスタ内カテゴリ設定部１０５は、図４にその詳細な構
成図を示すように、クラスタ一致度計算部４０１と、ク
ラスタ内カテゴリ登録部４０２と、クラスタ範囲設定部
４０３と、クラスタ拡張部４０４とを備えている。

【００１４】クラスタ一致度計算部４０１は、クラスタ
代表辞書作成部１０３に起動されると、標準特徴計算部
１０２に記憶されている各カテゴリの標準特徴ベクトル
Ｄ＝（ｄ１，ｄ２，…，ｄｎ）を１つずつ読み出し、階
層化認識辞書１０４から各クラスタ標準特徴ベクトルＣ
＝（ｃ１，ｃ２，…，ｃｍ）を読み出して、両者の特徴
ベクトルの一致度を式（数３）、（数４）、（数５）の
いずれかを用いて計算する。

【００１５】

【数３】

【００１６】

【数４】

【００１７】

【数５】式（数３）は市街化距離Ｌ１を一致度に用いるものであ
り、Ｌ１の値の小さいもの程一致度が高くなる。式（数
４）は、二乗距離Ｌ２を用いるものであり、Ｌ２の値の
小さいもの程一致度が高くなる。式（数５）は、類似度
Ｓを用いるものであり、Ｓの値の大きいもの程一致度が
高くなる。本実施の形態では、式（数３）の市街化距離
Ｌ１を用いて一致度を計算する。得られた一致度をクラ
スタ内カテゴリ登録部４０２に通知する。

【００１８】クラスタ内カテゴリ登録部４０２は、クラ
スタ一致度計算部４０１から通知された一致度の最も高
い（市街化距離Ｌ１の最小の）クラスタに標準特徴ベク
トルを有するカテゴリを分類する。即ち、標準特徴ベク
トルで特徴付けられるカテゴリを例えばｐ個のクラスタ
のいずれかに分類して、階層化認識辞書１０４に登録す
るとともに、そのカテゴリと一致度とをクラスタに対応
付けて記憶する。図５は、クラスタ内カテゴリ登録部４
０２に記憶されているクラスタ５０１と分類されたカテ
ゴリ５０２とその一致度５０３とを示している。例え
ば、クラスタ１の場合には、文字コード「あ」、
「お」、…、「め」のｍ１個のカテゴリが分類されて、
各カテゴリのクラスタ１のクラスタ標準特徴との一致度
Ｈ１−１，Ｈ１−２，…，Ｈ１−ｍ１が記憶されてい
る。なお、ここでは市街化距離Ｌ１として計算された値
の最小値を一致度Ｈとしている。全てのカテゴリをクラ
スタに分類すると、クラスタ範囲設定部４０３を起動す
る。

【００１９】クラスタ範囲設定部４０３は、クラスタ内
カテゴリ登録部４０２に起動されると、クラスタ内カテ
ゴリ登録部４０２に記憶されている各クラスタに分類さ
れたカテゴリの一致度の最も低いカテゴリとの一致度を
クラスタ範囲として設定する。上述したクラスタ１の場
合には、クラスタ範囲ｒ１は、Ｈ１−１，Ｈ１−２，
…，Ｈ１−ｍ１の最大値（市街化距離であるので最大値
が一致度の最も低いものとなる。）ｒ１＝ｍａｘ（Ｈ１−１，Ｈ１−２，…，Ｈ１−ｍ１）に設定される。同様にクラスタ２，…，クラスタｐにつ
いてもクラスタ範囲ｒ２，…，ｒｐが設定される。

【００２０】全てのクラスタについてクラスタ範囲ｒを
設定すると、クラスタ拡張部４０４に各クラスタのクラ
スタ範囲ｒを通知する。クラスタ拡張部４０４は、クラ
スタ範囲設定部４０３からクラスタ範囲ｒの通知を受け
ると、階層化認識辞書１０４からクラスタ標準特徴ベク
トルＣを読み出す。読み出した各クラスタ標準特徴ベク
トルＣと、標準特徴計算部１０２に記憶されている全て
のカテゴリの標準特徴ベクトルＤとの一致度を式（数
３）を用いて計算し、Ｌ１≦ｒとなるカテゴリを階層化
認識辞書１０４のクラスタに分類して追加記憶させる。

【００２１】即ち、図６に示すように、クラスタ内カテ
ゴリ登録部４０２において、クラスタｊに分類されてい
たカテゴリである文字コード「軍」は、クラスタｉのク
ラスタ範囲ｒｉ内に存在するので、クラスタｉにも重複
して分類する。これによって、後述する図７に示すよう
に、クラスタｉとクラスタｊのクラスタ内カテゴリ欄７
０１に文字コード「軍」が重複して登録される。全て
（Ｐ個）のクラスタについて、全て（Ｎ個）のカテゴリ
がクラスタ範囲ｒ内に存在するか否かの判断が終了する
と、クラスタ内辞書作成部１０６を起動する。

【００２２】クラスタ内辞書作成部１０６は、クラスタ
拡張部４０４に起動されると、階層化認識辞書１０４に
記憶されているクラスタに分類されたカテゴリを読み出
し、各カテゴリの標準特徴ベクトルを標準特徴計算部１
０２から読み出して、階層化認識辞書１０４にクラスタ
内カテゴリに対応付けて記憶させる。図７は、このよう
にして階層化認識辞書１０４に記憶された記憶内容を示
す説明図である。

【００２３】この階層化認識辞書１０４は、クラスタ欄
７０２とクラスタ標準特徴ベクトル欄７０３とクラスタ
内カテゴリ欄７０１と標準特徴ベクトル欄７０４とを含
んでいる。クラスタ欄７０２にはクラスタ番号「１」〜
「ｐ」を付されたクラスタが記憶され、クラスタ標準特
徴ベクトル欄７０３にはそのクラスタを代表するクラス
タ標準特徴ベクトルＣが記憶されている。クラスタ標準
特徴ベクトルＣのサフィックスは、クラスタ番号を示
し、クラスタ標準特徴ベクトルＣの要素ｃの（）内の第
１文字はクラスタ番号を示し、第２文字は特徴要素の番
号を示している。

【００２４】クラスタ内カテゴリ欄７０１には、各クラ
スタごとにクラスタに分類されるカテゴリが対応付けて
記憶されている。ここでカテゴリは、上述したように文
字コードで示されている。標準特徴ベクトル欄７０４に
は、クラスタ内カテゴリ欄７０１のカテゴリと対応付け
て（矢符で示すように）カテゴリの標準特徴ベクトルＤ
が記憶されている。この標準特徴ベクトルＤのサフィッ
クスはカテゴリの番号であり、カテゴリがＤ１〜ＤＮま
でＮ個あることを示している。標準特徴ベクトルＤの要
素であるｄの（）内の第１文字はカテゴリの番号を示
し、第２文字は特徴要素の番号を示している。

【００２５】次に、本実施の形態の動作を図８、図９、
図１０のフローチャートを用いて説明する。先ず、特徴
抽出部１０１は、カウンタＫに「１」を設定し、変数Ｎ
に全カテゴリ（文字コード）数を設定する（Ｓ８０
２）。次に、入力された学習用パターンから特徴ベクト
ルＦ^K _i＝（ｆ^K _i-1,ｆ^K _i-2,…，ｆ^K _i-n）を抽出す
る。ここで上付きのサフィックスは、カテゴリ番号を示
す。下付きのサフィックスは、学習用パターンの同一カ
テゴリのｉ番目であることを示す。カテゴリ番号Ｋの学
習用パターン数がＭ個あるときには特徴ベクトルＦ^K _M
まで抽出する（Ｓ８０４）。

【００２６】次に標準特徴計算部１０２は、カテゴリ番
号Ｋの標準特徴ベクトルＤ^K＝（ｄ ^K _1,ｄ^K _2,…，ｄ^K
_n）を式（数１）を用いて計算する（Ｓ８０６）。次
に、カウンタＫの値が変数Ｎ以下か否か判定し（Ｓ８０
８）、肯定であれば、カウンタＫに「１」を加えて（Ｓ
８１０）、Ｓ８０４に戻り、否定であればＳ８１２に移
る。

【００２７】Ｓ８１２において、クラスタ代表辞書作成
部１０３は、標準特徴ベクトルＤ¹, Ｄ², …，Ｄ^Nの
クラスタ分析を行う。Ｐ個のクラスタＣl₁＝｛Ｄ^C1.1 ,
Ｄ^C1 ^.2, …，Ｄ^C1.n1｝、…、Ｃlp＝｛Ｄ^Cp.1 ,Ｄ^Cp.2
, …，Ｄ^Cp.np｝に分類し（Ｓ８１４）、カウンタＫ
に「１」を設定し（Ｓ８１６）、クラスタＣl _Kのクラ
スタ標準特徴Ｃ^K＝（ｃ^K _1,ｃ^K _2,…，ｃ^K _n）を式
（数２）を用いて計算する（Ｓ９０２）。次に、カウン
タＫの値が全クラスタ数Ｐ以下か否かを判定し、肯定で
あればカウンタＫに「１」を加えて（Ｓ９０６）、Ｓ９
０２に戻り、否定であればクラスタ標準特徴Ｃ¹，
Ｃ², …，Ｃ^pを階層化認識辞書１０４に書き込む（Ｓ
９０８）。

【００２８】次に、クラスタ一致度計算部４０１は、カ
ウンタＫに「１」を設定し（Ｓ９１０）、カウンタｌに
「１」を設定する（Ｓ９１２）。カテゴリ標準特徴ベク
トルＤ^kとクラスタ標準特徴ベクトルＣ^lとの一致度Ｌ
１ｌを式（数３）を用いて計算する（Ｓ９１４）。カウ
ンタｌの値がＰ以下であるか否かを判定し（Ｓ９１
６）、肯定であればカウンタｌに「１」を加えて（Ｓ９
１８）、Ｓ９１４に戻る。

【００２９】否定であれば、クラスタ内カテゴリ登録部
４０２は、一致度Ｈの最大値、即ち、距離Ｌ１の最小値
となるＨ_i＝ｍｉｎ（Ｌ１ｌ，Ｌ１２，…，Ｌ１Ｐ）を
求め（Ｓ９２０）、階層認識辞書１０４のそのクラスタ
番号ｉのクラスタＣｌ_iにカテゴリと標準特徴ベクトル
Ｄ^Kと、併せて一致度Ｈを書き込む（Ｓ９２２）。カウ
ンタＫの値がカテゴリ数Ｎ以下であるか否かを判定し
（Ｓ９２４）、肯定であればカウンタＫに「１」を加え
て（Ｓ９２６）、Ｓ９１２に戻る。

【００３０】否定であれば、クラスタ範囲設定部４０３
は、カウンタＫに「１」を設定し（Ｓ１００２）、クラ
スタＣ1 _Kに分類されているカテゴリＤ^CK.1 ,…，Ｄ
^CK.mKとそれぞれの一致度Ｈ^K.1, …，Ｈ^K.mKを読み出
し（Ｓ１００４）、一致度の最小値、即ち市街化距離の
最大値をクラスタ範囲ｒ_K＝ｍａｘ（Ｈ^K.1, …，Ｈ^K.
^mK）を求めクラスタ範囲を設定する（Ｓ１００６）。次
にカウンタＫの値がＰ以下か否かを判定し（Ｓ１００
８）、肯定であればカウンタＫに「１」を加えて（Ｓ１
０１０）、Ｓ１００４に戻る。

【００３１】否定であれば、クラスタ拡張部４０４は、
カウンタＫに「１」を設定し（Ｓ１０１２）、クラスタ
標準特徴ベクトルＣ^Kを読み出し（Ｓ１０１４）、カウ
ンタｊに「１」を設定する（Ｓ１０１６）。次に、カテ
ゴリの標準特徴ベクトルＤ^jを読み出し（Ｓ１０１
８）、両特徴ベクトルＣ^KとＤ^jとの市街化距離Ｌ1 を
式（数３）を用いて計算する（Ｓ１０２０）。次に、市
街化距離Ｌ1 がクラスタ設定範囲ｒ_K以下か否かを判定
し（Ｓ１０２２）、肯定のときはクラスタＣ1 _Kにカテ
ゴリを書き込み（Ｓ１０２４）、Ｓ１０２６に移る。こ
れによって２つのクラスタの境界付近にあるカテゴリを
２つのクラスタに重複して分類することができる。

【００３２】否定のときは、Ｓ１０２６において、カウ
ンタｊの値がＮ以下か否かを判定し（Ｓ１０２６）、肯
定のときはカウンタｊに「１」を加えて（Ｓ１０２
８）、Ｓ１０１８に戻る。否定のときはカウンタＫの値
がクラスタ数Ｐ以下であるか否かを判定し（Ｓ１０３
０）、否定のときはカウンタＫに「１」を加えて（Ｓ１
０３２）、Ｓ１０１４に戻る。

【００３３】肯定のときは、クラスタ内辞書作成部１０
６は、階層化認識辞書１０４に記憶されているクラスタ
に分類されているカテゴリの標準特徴ベクトルを全て書
き込み（Ｓ１０３４）、処理を終了する。なお、本実施
の形態において、クラスタ範囲設定部４０３は各クラス
タに対し、クラスタに登録されたカテゴリの中で最も一
致度の低いカテゴリとの一致度をクラスタ範囲として定
めたが、クラスタの範囲は予め定めた他の数値でもよ
い。

【００３４】以上のように本実施の形態によれば、パタ
ーン認識用辞書作成装置において、複数のカテゴリをグ
ループ化し、クラスタ標準特徴ベクトルを計算してクラ
スタの代表とし、各クラスタ内に属するカテゴリを設定
することにより高速なパターン認識装置を実現するため
の階層化辞書１０４を作成することができる。また、パ
ターン認識用辞書作成装置のクラスタ内カテゴリ登録部
１０５において、クラスタ内カテゴリの追加登録を行う
ことによりクラスタ境界付近のカテゴリが複数のクラス
タへ登録されることとなり、パターン認識装置における
クラスタ選択部によって選択されたクラスタ内に正解と
なるカテゴリが含まれない事を防止し、認識率の低下を
防ぐことができる。（実施の形態２）図１１は、本発明に係るパターン認識
用辞書作成装置の実施の形態２の構成図である。このパ
ターン認識用辞書作成装置は、特徴抽出部１０１と、標
準特徴計算部１０２と、クラスタ代表辞書作成部１０３
と、クラスタ一致度計算部１１０１と、クラスタ内カテ
ゴリ登録部１１０２と、カテゴリ標準特徴ベクトル計算
部１１０３と、階層化認識辞書１１０４とを備える。上
記実施の形態１と同一の構成部分には実施の形態１と同
一の符号を付してその説明を省略し、本実施の形態固有
の構成部分についてのみ説明する。

【００３５】クラスタ一致度計算部１１０１は、クラス
タ代表辞書作成部１０３に起動されると、階層化認識辞
書１１０４に記憶されているクラスタ標準特徴ベクトル
Ｃを読み出す。次に、特徴抽出部１０１に記憶されてい
る学習用パターンの特徴ベクトルＦを１つ読み出し、ク
ラスタ標準特徴ベクトルＣと照合し、式（数６）によっ
て一致度を順次計算する。

【００３６】

【数６】ここでｉはクラスタ番号を示す。計算した一致度ＬＣｉ
をクラスタ内カテゴリ登録部１１０２にカテゴリ（文字
コード）と特徴ベクトルＦとともに通知する。更に、ク
ラスタ内カテゴリ登録部１１０２から学習用パターンの
特徴ベクトルの登録終了の通知を受けると、特徴抽出部
１０１から学習用パターンの特徴ベクトルＦを更に１つ
読み出し、一致度を計算し、計算した一致度をクラスタ
内カテゴリ登録部１１０２に上記と同様通知する。この
処理を入力された学習用パターンがなくなるまで繰り返
しする。

【００３７】クラスタ内カテゴリ登録部１１０２は、ク
ラスタ一致度計算部１１０１から一致度ＬＣｉの通知を
受けると、一致度ＬＣｉの最も高いクラスタに特徴ベク
トルを分類する。この分類に基づき、階層化認識辞書１
１０４のクラスタにその特徴ベクトルのカテゴリを書き
込むとともに、そのカテゴリに対応付けて特徴ベクトル
Ｆを書き込む。書き込みが終了すると、クラスタ一致度
計算部１１０１に登録終了を通知する。全ての処理が終
了するとカテゴリ標準特徴ベクトル計算部１１０３を起
動する。

【００３８】例えば、図３に示した文字コード「あ」の
特徴ベクトルの一覧３０１が特徴抽出部１０１に記憶さ
れている場合に、ｍ１個の文字画像「あ」がクラスタｘ
に一致度が最も高く、ｍ２個の文字画像「あ」がクラス
タｙに一致度が最も高いとクラスタ一致度計算部１１０
１で計算され、クラスタ内カテゴリ登録部１１０２で分
類されたときは、図１２に示すように、階層化認識辞書
１１０４に書き込まれる。

【００３９】図１２は、作成途中の階層化認識辞書１１
０４を示し、階層化認識辞書１１０４は、クラスタ欄１
２０１とクラスタ標準特徴ベクトル欄１２０２とクラス
タ内カテゴリ欄１２０３と特徴ベクトル欄１２０４、１
２０５とを有する。特徴ベクトル欄１２０４には、クラ
スタｘに分類されたカテゴリ（文字コード「あ」）のｍ
１個の特徴ベクトルＦｘ−１，…，Ｆｘ−ｍ１が記憶さ
れ、特徴ベクトル欄１２０５には、クラスタｙに分類さ
れたカテゴリ（文字コード「あ」）のｍ２個の特徴ベク
トルＦｙ−１，…，Ｆｙ−ｍ２が記憶されている。同一
カテゴリ（文字コード）であっても、２つのクラスタに
分類されている。

【００４０】カテゴリ標準特徴ベクトル計算部１１０３
は、クラスタ内カテゴリ登録部１１０２に起動される
と、階層化認識辞書１１０４に記憶されている特徴ベク
トル欄１２０４、１２０５等を順次読み出し、同一欄
（同一のクラスタに分類されたカテゴリ）のカテゴリ標
準特徴ベクトルを式（数１）を用いて計算する。なお、
カテゴリ標準特徴ベクトル計算部１１０３で計算された
カテゴリ標準特徴ベクトルは、クラスタに分類されたカ
テゴリの標準特徴ベクトルであり、標準特徴計算部１０
２で計算された標準特徴ベクトルが同一カテゴリ全ての
標準特徴ベクトルであるのと異なる。

【００４１】カテゴリ標準特徴ベクトル計算部１１０３
は、階層化認識辞書１１０４の個々の特徴ベクトル欄１
２０４、１２０５等のカテゴリ標準特徴ベクトルを計算
すると、計算した特徴ベクトル欄を削除して、新たにカ
テゴリ標準特徴ベクトル欄１３０１（図１３参照）を設
けて、カテゴリ（文字コード）に対応付けてカテゴリ標
準特徴ベクトルを書き込む。

【００４２】階層化認識辞書１１０４は、ＲＡＭ等から
なり、図１３に示すように、クラスタ欄１２０１とクラ
スタ標準特徴ベクトル欄１２０２とクラスタ内カテゴリ
欄１２０３とカテゴリ標準特徴ベクトル欄１３０１とを
有する。クラスタ欄１２０１には、各クラスタのクラス
タ番号が記憶されている。クラスタ標準特徴ベクトル欄
１２０２には、クラスタ番号に対応したクラスタ標準特
徴ベクトルが記憶されている。以上の欄１２０１、１２
０２は、クラスタ代表辞書作成部１０３により書き込ま
れる。クラスタ内カテゴリ欄１２０３には、クラスタ標
準特徴ベクトルに代表されて分類されるカテゴリ（文字
コード）が記憶されている。この欄１２０３は、クラス
タ内カテゴリ登録部１１０２により書き込まれる。

【００４３】カテゴリ標準特徴ベクトル欄１３０１に
は、クラスタに分類された学習パターンの特徴ベクトル
の算術平均であるクラスタ内のカテゴリ標準特徴ベクト
ルが記憶されている。この欄１３０１は、カテゴリ標準
特徴ベクトル計算部１１０３により書き込まれる。上述
（文字コード「あ」がクラスタｘとクラスタｙとの２つ
のクラスタに重複して分類される。）したように、クラ
スタｉとクラスタｊとに文字コード「軍」が分類され、
それらのカテゴリ標準特徴ベクトルはＤｋ＝（ｄ（ｋ，
１），…，ｄ（ｋ，ｎ））、Ｄｓ＝（ｄ（ｓ，１），…
ｄ（ｓ，ｎ））とそれぞれ別の値として記憶されてい
る。

【００４４】次に、本実施の形態固有の動作を図１４、
図１５のフローチャートを用いて説明する。先ず、クラ
スタ一致度計算部１１０１は、カウンタｌに「１」を設
定し（Ｓ１４０２）、カテゴリｌの学習パターンの特徴
ベクトルＦ^l＝（ｆ^l _1-1,…，ｆ^l _1-n）を全て読み出
す（Ｓ１４０４）。カウンタｍに「１」を設定し（Ｓ１
４０６）、カウンタＫに「１」を設定する（Ｓ１４０
８）。特徴ベクトルＦｍとクラスタ標準特徴ベクトルＣ
_Kとの一致度（市街化距離）ＬＣ_Kを式（数６）を用い
て計算する（Ｓ１４１０）。カウンタＫの値がクラスタ
数Ｐ以下か否かを判定する（Ｓ１４１２）。肯定であれ
ばカウンタＫの値に「１」を加えて（Ｓ１４１３）、Ｓ
１４１０に戻る。

【００４５】否定であれば、クラスタ内カテゴリ登録部
１１０２は、Ｓ１４１０で求めた市街化距離ＬＣ_Kが最
小値となるクラスタ番号ｑを求める（Ｓ１４１４）。ク
ラスタＣｌｑにカテゴリｌを書き込み（Ｓ１４１６）、
カテゴリｌの学習用パターンの特徴ベクトルＦｍをカテ
ゴリｌに対応付けて書き込む（Ｓ１４１８）。次にカウ
ンタｍの値がカテゴリｌの学習用パターンの総数Ｍｌ以
下か否かを判定し（Ｓ１４２０）肯定であればカウンタ
ｍに「１」を加えて（Ｓ１４２２）、Ｓ１４０８に戻
る。否定であれば、カウンタｌの値がカテゴリの総数Ｎ
未満であれば、カウンタｌの値がカテゴリの総数Ｎ未満
であるか否かを判定し（Ｓ１４２４）、肯定であればカ
ウンタｌに「１」を加えて（Ｓ１４２６）、１４０４に
戻る。

【００４６】否定であればカテゴリ標準特徴ベクトル計
算部１１０３は、カウンタＫに「１」を設定し１（Ｓ１
５０２）、クラスタＣｌ_Kに分類されているカテゴリを
読み出し（Ｓ１５０４）、カウンタｍに「１」を設定す
る（Ｓ１５０６）。次に、カテゴリＤ^ClK.mに対応する
特徴ベクトルＦ^ClK.m _1,…，Ｆ^ClK.m _nK 読み出し（Ｓ
１５０８）、クラスタＫ内のカテゴリ標準特徴ベクトル
Ｄ^ClK.mを式（数１）を用いて計算し、階層化認識辞書
１１０４に書き込む（Ｓ１５１０）。カウンタｍの値が
クラスタＣｌ_Kに分類されているカテゴリの総数ｎ_K以
下か否かを判断し（Ｓ１５１２）、肯定のときはカウン
タｍに「１」を加えて（Ｓ１５１４）、Ｓ１５０８に戻
り、否定のときはカウンタＫの値がクラスタ総数Ｐ以下
か否かを判定し（Ｓ１５１６）、肯定であればカウンタ
Ｋに「１」を加えて（Ｓ１５１８）、Ｓ１５０４に戻
り、否定であれば処理を終了する。以上のように本実施
の形態によれば、同一カテゴリの学習用パターンが２個
以上のクラスタに登録された場合には、各クラスタ毎に
カテゴリ標準特徴ベクトルがそれぞれ計算され、カテゴ
リ標準特徴ベクトル欄１３０１に書き込まれる。そのた
め１つのカテゴリであってもクラスタが複数に亘ること
となり認識精度を向上させることができる。

【００４７】なお、本実施の形態では、カテゴリ特徴ベ
クトル計算部１１０３において、各クラスタに分類され
た同一カテゴリの特徴ベクトルに基づいて、各クラスタ
ごとのカテゴリの標準特徴ベクトルを求めたけれども、
本発明の他の実施の形態として、標準特徴計算部１０２
で計算された標準特徴ベクトルを複数のクラスタの同一
カテゴリの標準特徴ベクトルとしてもよい。

【００４８】（実施の形態３）図１６は、本発明に係る
パターン認識装置の実施の形態３の構成図である。この
パターン認識装置は、階層化認識辞書１０４と、特徴抽
出部１６０１と、クラスタ一致度計算部１６０２と、ク
ラスタ選択部１６０３と、クラスタ内カテゴリ照合部１
６０３と、クラスタ内カテゴリ照合部１６０４と、カテ
ゴリ決定部１６０５とを備えている。

【００４９】階層化認識辞書１０４は、ＲＯＭ等からな
り、実施の形態１のパターン認識用辞書作成装置で作成
されたものである。図７に示すように、クラスタ７０５
とカテゴリ７０６とが階層的に構成され、クラスタを代
表するクラスタ標準特徴ベクトル７０７とカテゴリを代
表する標準特徴ベクトル７０８とがそれぞれクラスタと
カテゴリとに対応付けられている。

【００５０】特徴抽出部１６０１は、入力された未知の
パターンから特徴ベクトルＦ＝（ｆ _1,ｆ_2,…，ｆ_n）を
抽出して、クラスタ一致度計算部１６０４に通知する。
クラスタ一致度計算部１６０２は、階層化認識辞書１０
４からクラスタ欄７０２に示されるＰ個のクラスタのク
ラスタ標準特徴ベクトル７０７との一致度を市街化距離
ＬＣ_iの式（数６）を用いて計算する。Ｐ個のクラスタ
について一致度を求めると、クラスタ選択部１６０３を
起動する。

【００５１】クラスタ選択部１６０３は、クラスタ一致
度計算部１６０３に起動されると、クラスタ一致度計算
部１６０２で求められた各クラスタとの市街化距離ＬＣ
_iをソートし、値の小さい方から並べ、例えば予め定め
たｓ個のクラスタを候補クラスタとして選択する。この
とき、クラスタ総数の５〜１０％のクラスタを候補クラ
スタとして選択してもよい。候補クラスタの選択が終了
するとクラスタ内カテゴリ照合部１６０４を起動する。

【００５２】クラスタ内カテゴリ照合部１６０４は、ク
ラスタ選択部１６０３に起動されると、候補クラスタと
されたｓ個のクラスタに分類された各カテゴリの標準特
徴ベクトルＤを順次読み出して、特徴ベクトルＦと市街
化距離ＬＤを式（数７）を用いて計算する。

【００５３】

【数７】候補クラスタに選択された全てのカテゴリとの一致度の
計算が終了するとカテゴリ決定部１６０５を起動する。
カテゴリ決定部１６０５は、クラスタ内カテゴリ照合部
１６０４に起動されるとクラスタ内カテゴリ照合部１６
０４で得られた市街化距離ＬＤの最小となる（一致度の
最も高い）標準特徴ベクトルに対応するカテゴリを階層
化認識辞書１０４から読み出し、認識結果と決定して出
力する。

【００５４】例えば、クラスタ選択部１６０３で、予め
定められたＳが「２」の場合に、クラスタｉとクラスタ
ｊとが候補クラスタとして選択されたときには（図７参
照）、クラスタ内カテゴリ欄７０１に登録されているク
ラスタｉの文字「責」、「草」、…、「軍」の標準特徴
ベクトル「Ｄｈ」…「Ｄｋ」及びクラスタｊの文字コー
ド「軍」、「間」、…、「開」の標準特徴ベクトルとの
一致度が計算される。

【００５５】次に、本実施の形態の動作を図１７、図１
８のフローチャートを用いて説明する。先ず、特徴抽出
部１６０１は、入力パターンを受け取ると、特徴ベクト
ルＦ＝（ｆ₁，…．ｆ_n）を抽出する（Ｓ１７０２）。
クラスタ一致度計算部１６０２は、階層化認識化辞書１
０４からクラスタ数をＰ読み出し、カウンタＫに「１」
を設定する（Ｓ１７０４）。次にクラスタＫのクラスタ
標準特徴ベクトルを読み出し、特徴ベクトルＦとの市街
化距離ＬＣ_Kを式（数６）を用いて計算する（Ｓ１７０
６）。カウンタＫの値がクラスタ総数Ｐ以下か否かを判
定し（Ｓ１７０８）、肯定のときはＳ１７０６に戻る。

【００５６】否定であるときは、Ｓ１７０６で求めた市
街化距離ＬＣ_Kをソートし（１７１２）、距離の小さい
方から並べる（Ｓ１７１６）。値の小さい方からクラス
タをｓ個選択する（Ｓ１７１６）。次に、クラスタ内カ
テゴリ照合部１６０４は、カウンタＫに「１」を設定し
（１８０６）、カウンタｔに「０」を設定する（Ｓ１８
０２）。選択されたクラスタＣ_k内のカテゴリの標準特
徴ベクトルＤ_k.l，…，Ｄ_k.mk，を読み出し（ｍｋはク
ラスタＣ_k内のカテゴリの総数である。）（Ｓ１８０
４）、カウンタｊに「１」を設定し（Ｓ１８０６）、カ
テゴリＤ_k.jとの市街化距離ＬＤ（ｔ＋ｊ）を式（数
７）を用いて計算する。次にカウンタｊの値がカテゴリ
の総数ｍｋ以下であるか否かを判定し（Ｓ１８１０）、
肯定のときはカウンタｊに１を加えて（１８１２）、Ｓ
１８０８に戻る。否定のときはカウンタＫの値が選択数
Ｓ以下であるか否かを判定し（Ｓ１８１４）、肯定のと
きはカウンタｔに「ｍＫ」を加え、（Ｓ１８１６）、カ
ウンタＫに「１」を加えて（Ｓ１８１８）、Ｓ１８０４
に戻る。

【００５７】否定のときは、カテゴリ決定部１６０５
は、Ｓ１８０８で得られた市街化距離ＬＤ１、ＬＤ２、
…、ＬＤｔの最小値に対応するカテゴリを選択する（Ｓ
１８２０）。選択されたカテゴリを認識結果として出力
する（Ｓ１８２２）。なお、本実施の形態のクラスタ選
択部１６０３において一致度の高いものから一定個数の
クラスタを選択するとしたが、一致度が予め定めた一定
値以上（距離値ＬＣが一定値以下）のクラスタを選択す
ることもできる。

【００５８】また、本実施の形態のクラスタ選択部１６
０３においては、一致度の高いものから順次クラスタを
選択し、選択されたクラスタ内カテゴリ数を順次計算
し、カテゴリ数が予め定めた一定個数例えば、全カテゴ
リ数の２０％に到達するまでクラスタ数を選択してクラ
スタ選択をすることもできる。これによって、カテゴリ
の標準特徴との照合数を規制して処理時間を適正とする
ことができる。

【００５９】更に、本実施の形態のカテゴリ決定部１６
０５は、クラスタ内カテゴリ照合部１６０４によって求
められた各カテゴリに対する一致度の中で最も一致度の
高いカテゴリを認識結果としたけれども、他の実施の形
態として、クラスタ一致度計算部１６０２で求められた
クラスタ標準特徴ベクトルとの一致度ＬＣとクラスタ内
カテゴリ照合部１６０４で求められたカテゴリの標準特
徴ベクトルとの一致度ＬＤとの両方を統合して、以下の
ように認識結果を決定することもできる。

【００６０】例えば、入力パターンの特徴ベクトルを
Ｆ、クラスタ選択部１６０３において選択されたクラス
タｉとの距離値をＬＣ、クラスタｉ内のカテゴリである
文字コード「責」に対する距離値をＬＤｈとすると、ク
ラスタｉ内のカテゴリである文字コード「責」に対する
一致度ＷをＷ＝ＬＣ＋ａ×ＬＤ（ａは予め定めた定数）のように定義することにより、クラスタとの一致度と各
カテゴリとの一致度を統合した総合一致度を計算し、最
も総合一致度の高いカテゴリを認識結果とする。

【００６１】以上のように本実施の形態によれば、入力
パターンの特徴ベクトルと階層化認識辞書１０４に記憶
されているクラスタ標準特徴ベクトルとの照合を行い、
クラスタ選択部１６０３によって選択されたクラスタ内
のカテゴリの標準特徴ベクトルのみとの照合処理を行う
ことによって、不要なカテゴリとの照合処理を減少させ
ることができるため高速なパターン認識装置を実現でき
る。

【００６２】なお、本実施の形態では、図１６に示した
ような構成で本発明に係るパターン認識装置を実現した
けれども、本発明はプログラムによって実現し、これを
フロッピーディスク等の記録媒体に記録して移送するこ
とにより、独立した他のコンピュータ・システムで容易
に実施することができる。図１９は、これをフロッピー
ディスクで実施する場合を説明する図である。

【００６３】記録媒体本体であるフロッピーディスク１
９０１の物理フォーマットは、同心円状に外周から内周
に向かってトラック１、２、…、８０を作成し、角度方
向に１６のセクタに分割している。このように割り当て
られた領域に従って、プログラムを記録する。このフロ
ッピーディスク１９０１は、ケース１９０２に収納さ
れ、これによって、ディスクを埃や外部からの衝撃から
守り、安全に移送することができる。

【００６４】図２０は、フロッピーディスク１９０１に
プログラムの記録再生を行うことを説明する図である。
図示のようにコンピュータ・システム２００３にフロッ
ピーディスクドライブ２００１を接続することにより、
ディスク１９０１に対してプログラムを記録再生するこ
とが可能となる。ディスク１９０１はフロッピーディス
クドライブ２００１に、挿入口２００２を介して組込
み、および取り出しがなされる。記録する場合はコンピ
ュータ・システム２００３からプログラムをフロッピー
ディスクドライブ２００１によってディスク１９０１に
記録する。再生する場合は、フロッピーディスクドライ
ブ２００１がプログラムをディスク１９０１から読み出
し、コンピュータ・システム２００３に転送する。

【００６５】なお、この実施の形態においては、記録媒
体としてフロッピーディスクを用いて説明を行ったが、
光ディスクを用いても同様に行うことができる。また記
録媒体はこれらに限られず、ＩＣカード、ＲＯＭカセッ
ト等、プログラムを記録できるものであれば、同様に実
施することができる。

【００６６】

【発明の効果】以上のように、本発明によれば、カテゴ
リごとに入力される複数の学習用パターンからそのカテ
ゴリの認識に用いる特徴量を抽出する特徴量抽出手段
と、前記特徴量抽出手段で抽出された特徴量に基づいて
各カテゴリごとの標準特徴量を計算する標準特徴量計算
手段と、前記標準特徴量計算手段で計算された標準特徴
量をクラスタ分析して、複数のクタスタに各カテゴリを
分類するカテゴリ分類手段とを有するパターン認識用辞
書作成装置であって、前記カテゴリ分類手段で分類され
た各カテゴリの標準特徴量に基づいてクラスタのクラス
タ標準特徴量を計算するクラスタ標準特徴量計算手段
と、前記クラスタ標準特徴量計算手段で計算されたクラ
スタのクラスタ標準特徴量と、前記カテゴリ分類手段で
該クラスタに分類されたカテゴリと、前記標準特徴量計
算手段で計算されたそのカテゴリの標準特徴量とを対応
して階層化認識辞書に登録する登録手段とを備えるよう
構成したので、各カテゴリの標準特徴量を分類した複数
のクラスタの各クラスタの標準特徴量をカテゴリ決定の
ための第１次の被認識対象とすることができる階層化認
識辞書が得られる。これによって、照合対象数を減らす
ことができ、認識結果たるカテゴリを短時間で決定でき
るパターン認識装置が実現できる。

【００６７】また、本発明によれば、カテゴリごとに入
力される複数の学習用パターンからそのカテゴリの認識
に用いる特徴量を抽出する特徴量抽出手段と、前記特徴
量抽出手段で抽出された特徴量に基づいて各カテゴリご
との標準特徴量を計算する標準特徴量計算手段と、前記
標準特徴量計算手段で計算された標準特徴量をクラスタ
分析して、複数のクラスタに分類する分類手段とを有す
るパターン認識用辞書作成装置であって、前記分類手段
で分類された標準特徴量に基づいて、各クラスタごとの
クラスタ標準特徴量を計算するクラスタ標準特徴量計算
手段と、前記標準特徴量計算手段で計算されたカテゴリ
の標準特徴量と前記クラスタ標準特徴量計算手段で計算
された各クラスタのクラスタ標準特徴量との一致度を計
算する一致度計算手段と、前記一致度計算手段で計算さ
れた一致度の値の最も高いクラスタにカテゴリを分類す
るカテゴリ分類手段と、前記カテゴリ分類手段で分類さ
れたカテゴリと該カテゴリの標準特徴量とを前記クラス
タ標準特徴量とに対応して階層化認識辞書に登録する登
録手段とを備えるよう構成したので、各クラスタに一致
度の高いカテゴリを分類するので、カテゴリ決定のため
の第１次の被認識対象たるクラスタ標準特徴量からクラ
スタ候補を選択すると、第２次の被認識対象たるカテゴ
リを標準特徴量から精度よく決定することが可能な階層
化認識辞書を作成できる。

【００６８】また、本発明によれば、前記階層化認識辞
書に登録されているクラスタ内のカテゴリのうち一致度
の値の最も低い値を該クラスタのクラスタ範囲と設定す
るクラスタ範囲設定手段と、前記クラスタ範囲設定手段
で設定されたクラスタのクラスタ範囲内に前記カテゴリ
分類手段で他のクラスタに分類されたカテゴリがあると
きには、階層化認識辞書の該クラスタに重複して該カテ
ゴリとその標準特徴量とを対応付けて追加登録する追加
登録手段とを備えるよう構成したので、クラスタに重複
してカテゴリを分類するので、クラスタ境界領域付近に
あるカテゴリを他のクラスタ候補からも認識結果とする
階層化認識辞書を得ることができる。記載のパターン認
識用辞書作成装置。

【００６９】また、本発明によれば、前記追加登録手段
は、前記クラスタ標準特徴量計算手段で計算されたクラ
スタの標準特徴量と、前記標準特徴量計算手段で計算さ
れた各標準特徴量との一致度を計算する一致度計算部
と、前記一致度計算部で計算された一致度が当該クラス
タのクラスタ範囲内に前記カテゴリ分類手段で他のクラ
スタに分類された標準特徴量を有するカテゴリがあるか
否かを判定するクラスタ範囲判定部と、前記クラスタ範
囲判定部があると判定したとき、当該カテゴリとその標
準特徴量とを対応付けて当該クラスタに登録する重複登
録部とを有するよう構成しているので、カテゴリを確実
に複数クラスタに重複登録した階層化認識辞書を得るこ
とができる。

【００７０】また、本発明によれば、カテゴリごとに入
力される複数の学習用パターンからそのカテゴリの認識
に用いる特徴量を抽出する特徴量抽出手段と、前記特徴
量抽出手段で抽出された特徴量に基づいて各カテゴリご
との標準特徴量を計算する標準特徴量計算手段と、前記
標準特徴量計算手段で計算された標準特徴量をクラスタ
分析して、複数のクラスタに分類する分類手段とを有す
るパターン認識用辞書作成装置であって、前記分類手段
で分類された標準特徴量に基づいて、各クラスタごとの
クラスタ標準特徴量を計算するクラスタ標準特徴量計算
手段と、前記特徴量抽出手段で抽出された特徴量と前記
クラスタ標準特徴量計算手段で計算された各クラスタの
クラスタ標準特徴量との一致度を計算する学習パターン
−クラスタ一致度計算手段と、前記学習パターン−クラ
スタ一致度計算手段で計算された一致度の最も高いクラ
スタに当該カテゴリと特徴量とを分類する特徴量分類手
段と、前記特徴量分類手段で分類された同一カテゴリの
特徴量に基づいて各カテゴリごとの当該クラスタにおけ
るクラスタ内標準特徴量を計算するクラスタ内標準特徴
量計算手段と、前記カテゴリ分類手段で分類されたカテ
ゴリと前記クラスタ内標準特徴量計算手段で計算された
該カテゴリのクラスタ内標準特徴量とを前記クラスタ標
準特徴量とに対応付けて階層化認識辞書に登録する登録
手段とを備えるよう構成しているので、分類されたクラ
スタにカテゴリを分類する際に、個々の学習用パターン
から抽出された特徴量との一致度を用いるので、学習用
パターンに拡がり（多様なパターン）がある場合にも、
十分その特徴量を代表するクラスタにカテゴリを分類
し、またその分類したクラスタのカテゴリごとの特徴量
に基づいて第２次の被認識対象たる標準特徴量を精度よ
く得ることができる。

【００７１】また、本発明によれば、カテゴリごとに入
力される複数の学習用パターンからそのカテゴリの認識
に用いる特徴量を抽出する特徴量抽出手段と、前記特徴
量抽出手段で抽出された特徴量に基づいて各カテゴリご
との標準特徴量を計算する標準特徴量計算手段と、前記
標準特徴量計算手段で計算された標準特徴量をクラスタ
分析して、複数のクラスタに分類する分類手段とを有す
るパターン認識用辞書作成装置であって、前記分類手段
で分類された標準特徴量に基づいて、各クラスタごとの
クラスタ標準特徴量を計算するクラスタ標準特徴量計算
手段と、前記特徴量抽出手段で抽出された特徴量と前記
クラスタ標準特徴量計算手段で計算された各クラスタの
クラスタ標準特徴量との一致度を計算する学習パターン
−クラスタ一致度計算手段と、前記学習パターン−クラ
スタ一致度計算手段で計算された一致度の最も高いクラ
スタに当該カテゴリを分類する特徴量分類手段と、前記
特徴量分類手段で分類されたカテゴリと、該カテゴリの
前記標準特徴量計算手段で計算された標準特徴量とを前
記クラスタ標準特徴量に対応付けて階層化認識辞書に登
録する登録手段とを備えるよう構成しているので、分類
されたクラスタにカテゴリを分類する際に、個々の学習
用パターンから抽出された特徴量との一致度を用いるの
で、学習用パターンに拡がりがある場合にも、十分その
特徴量を代表するクラスタにカテゴリを分類することが
できる。

【００７２】また、本発明によれば、前記クラスタ標準
特徴量計算手段は、同一クラスタ内の全カテゴリの標準
特徴量の各要素を算術平均してクラスタ標準特徴量の各
要素とするようしているので、クラスタを代表する特徴
量を正しく把えることができる。また、本発明によれ
ば、上記一致度の計算は、市街化距離、二乗距離又は類
似度のいずれか一により計算されるようしているので、
一致度を正確に把えることができる。

【００７３】また、本発明によれば、入力パターンをカ
テゴリとして認識するパターン認識装置であって、各カ
テゴリの学習用パターンの特徴量に基づいて計算された
標準特徴量とカテゴリとを、当該標準特徴量のクラスタ
分析によって複数のクラスタに分類して、分類したクラ
スタと、クラスタに属するカテゴリの標準特徴量に基づ
いて計算されたクラスタ標準特徴量とに対応付けて登録
している階層化認識辞書と、入力パターンから認識に用
いる特徴量を抽出する特徴量抽出手段と、前記特徴量抽
出手段で抽出された特徴量と前記階層化認識辞書に登録
されているクラスタ標準特徴量との一致度を計算するク
ラスタ一致度計算手段と、前記クラスタ一致度計算手段
で計算された一致度に基づいて候補クラスタを選択する
候補クラスタ選択手段と、前記候補クラスタ選択手段で
選択された候補クラスタに対応付けられた標準特徴量と
前記特徴量抽出手段で抽出された特徴量との一致度を計
算するカテゴリ一致度計算手段と、前記カテゴリ一致度
計算手段で計算された一致度に基づいて認識結果である
カテゴリを決定するカテゴリ決定手段とを備えるよう構
成しているので、第１の被認識対象としてクラスタ標準
特徴量と入力パターンの特徴量とから計算した一致度に
基づいて候補クラスタを選択して、選択されたクラスタ
内の第２の被認識対象として標準特徴量と入力パターン
の特徴量とから計算した一致度に基づいて認識結果たる
カテゴリを決定できるので、照合に要する時間を短縮し
た効率的なパターン認識装置を得ることができる。

【００７４】また、本発明によれば、前記候補クラスタ
選択手段は、前記クラスタ一致度計算手段で計算された
一致度に基づいて、一致度の高いクラスタから順に所定
個数のクラスタを候補クラスタとして選択する所定数候
補クラスタ選択部を有するよう構成しているので、所定
個数の候補クラスタに分類されたクラスタ内のカテゴリ
の標準特徴量と入力パターンの特徴量との一致度だけを
計算することで、認識結果たるカテゴリを精度よく決定
できるので、認識処理に要する処理時間を短縮すること
ができる。

【００７５】また、本発明によれば、前記候補クラスタ
選択手段は、前記クラスタ一致度計算手段で計算された
一致度に基づいて、一致度が予め定めたしきい値以上の
クラスタを候補クラスタとして選択するしきい値候補ク
ラスタ選択部を有するよう構成しているので、少ないカ
テゴリの標準特徴量との一致度の計算により、精度よく
カテゴリを決定することができる。

【００７６】また、本発明によれば、前記候補クラスタ
選択手段は、前記クラスタ一致度計算手段で計算された
一致度に基づいて、一致度の最も高いクラスタの一致度
を基準値として基準値との差又は比が一定値以内の一致
度を有するクラスタを候補クラスタとして選択する基準
値候補クラスタ選択部を有するよう構成しているので、
候補クラスタの選択漏れが防止され、精度のよいカテゴ
リの決定が短時間でできる。

【００７７】また、本発明によれば、前記候補クラスタ
選択手段は、前記クラスタ一致度計算手段で計算された
一致度の高いクラスタから順にクラスタ内に登録されて
いるカテゴリ数が予め定めたカテゴリ数に到達するまで
のクラスタを候補クラスタとして選択するカテゴリ数候
補クラスタ選択部を有するよう構成しているので、入力
パターンの特徴量と一致度を計算するカテゴリの標準特
徴量の数を規制することによって、処理時間を短縮して
認識の効率化を図ることができる。

【００７８】また、本発明によれば、前記カテゴリ決定
手段は、前記クラスタ選択手段で選択された候補クラス
タの前記クラスタ一致度計算手段で計算された一致度
と、前記カテゴリ一致度計算手段で計算された一致度と
に基づいて総合一致度を計算する総合一致度計算部と、
前記総合一致度計算部で計算された総合一致度に基づい
てカテゴリを決定する総合カテゴリ決定部とを有するよ
う構成しているので、クラスタの一致度とカテゴリの一
致度との両方を加味してカテゴリを決定し、更に精度よ
く短時間にカテゴリを決定できる。

【００７９】更に、本発明によれば、階層化認識辞書を
用いて入力パターンをカテゴリとして認識するパターン
認識方法が記録された記録媒体であって、各カテゴリの
学習用パターンの特徴量に基づいて計算された標準特徴
量とカテゴリとを、当該標準特徴量のクラスタ分析によ
って複数のクラスタに分類して、分類したクラスタと、
クラスタに属するカテゴリの標準特徴量に基づいて計算
されたクラスタ標準特徴量とに対応付けて登録している
階層化認識辞書と、以下の特定ステップを実行するプロ
グラムとが記録され、特定ステップには、入力パターン
から認識に用いる特徴量を抽出する特徴量抽出ステップ
と、前記特徴量抽出ステップで抽出された特徴量と前記
階層化認識辞書に登録されているクラスタ標準特徴量と
の一致度を計算するクラスタ一致度計算ステップと、前
記クラスタ一致度計算ステップで計算された一致度に基
づいて候補クラスタを選択する候補クラスタ選択ステッ
プと、前記候補クラスタ選択ステップで選択された候補
クラスタに対応付けられた標準特徴量と前記特徴量抽出
ステップで抽出された特徴量との一致度を計算するカテ
ゴリ一致度計算ステップと、前記カテゴリ一致度計算ス
テップで計算された一致度に基づいて認識結果であるカ
テゴリを決定するカテゴリ決定ステップとを含むことと
しているので、パターン認識機能を有しない他のパーソ
ナルコンピュータと相俟って、上記パターン認識装置と
同様の効果を容易に得ることができる。

【図面の簡単な説明】

【図１】本発明に係るパターン認識用辞書作成装置の実
施の形態１の構成図である。

【図２】上記実施の形態において入力される学習用パタ
ーンの一例を示す説明図である。

【図３】上記実施の形態の特徴抽出部で抽出された特徴
ベクトルの一例を示す説明図である。

【図４】上記実施の形態のクラスタ内のカテゴリ設定部
の詳細な構成図である。

【図５】上記実施の形態のクラスタ内カテゴリ登録部の
処理内容の説明図である。

【図６】上記実施の形態のクラスタ範囲設定部でのクラ
スタ範囲の設定の説明図である。

【図７】上記実施の形態の階層化認識辞書の一例を示す
説明図である。

【図８】上記実施の形態の動作を説明するフローチャー
トである。

【図９】上記実施の形態の動作を説明するフローチャー
トである。

【図１０】上記実施の形態の動作を説明するフローチャ
ートである。

【図１１】本発明に係るパターン認識用辞書作成装置の
実施の形態２の構成図である。

【図１２】上記実施の形態の階層化認識辞書の作成途中
の状態を示す説明図である。

【図１３】上記実施の形態の階層化認識辞書の記憶内容
の説明図である。

【図１４】上記実施の形態の動作を説明するフローチャ
ートである。

【図１５】上記実施の形態の動作を説明するフローチャ
ートである。

【図１６】本発明に係るパターン認識装置の実施の形態
３の構成図である。

【図１７】上記実施の形態の動作を説明するフローチャ
ートである。

【図１８】上記実施の形態の動作を説明するフローチャ
ートである。

【図１９】本発明に係るパターン認識方法のプログラム
を記録した記録媒体の構成を示す説明図である。

【図２０】上記記録媒体のコンピュータシステムへの装
脱着を説明する図である。

【符号の説明】

１０１特徴抽出部１０２標準特徴計算部１０３クラスタ代表辞書作成部１０４、１１０４階層化認識辞書１０５クラスタ内カテゴリ設定部１０６クラスタ内辞書作成部４０１、１１０１クラスタ一致度計算部４０２、１１０２クラスタ内カテゴリ登録部４０３クラスタ範囲設定部４０４クラスタ拡張部７０２、１２０１クラスタ欄７０３、１２０２クラスタ標準特徴ベクトル欄１１０３カテゴリ標準特徴計算部７０１、１２０３クラスタ内カテゴリ欄７０４標準特徴ベクトル欄１２０４、１２０５特徴ベクトル欄１３０１カテゴリ標準特徴ベクトル欄１６０１特徴抽出部１６０２クラスタ一致度計算部１６０３クラスタ選択部１６０４クラスタ内カテゴリ一致度計算部１６０５カテゴリ決定部

Claims

【特許請求の範囲】

【請求項１】カテゴリごとに入力される複数の学習用
パターンからそのカテゴリの認識に用いる特徴量を抽出
する特徴量抽出手段と、前記特徴量抽出手段で抽出された特徴量に基づいて各カ
テゴリごとの標準特徴量を計算する標準特徴量計算手段
と、前記標準特徴量計算手段で計算された標準特徴量をクラ
スタ分析して、複数のクタスタに各カテゴリを分類する
カテゴリ分類手段とを有するパターン認識用辞書作成装
置であって、前記カテゴリ分類手段で分類された各カテゴリの標準特
徴量に基づいてクラスタのクラスタ標準特徴量を計算す
るクラスタ標準特徴量計算手段と、前記クラスタ標準特徴量計算手段で計算されたクラスタ
のクラスタ標準特徴量と、前記カテゴリ分類手段で該ク
ラスタに分類されたカテゴリと、前記標準特徴量計算手
段で計算されたそのカテゴリの標準特徴量とを対応して
階層化認識辞書に登録する登録手段とを備えることを特
徴とするパターン認識用辞書作成装置。
【請求項２】カテゴリごとに入力される複数の学習用
パターンからそのカテゴリの認識に用いる特徴量を抽出
する特徴量抽出手段と、前記特徴量抽出手段で抽出された特徴量に基づいて各カ
テゴリごとの標準特徴量を計算する標準特徴量計算手段
と、前記標準特徴量計算手段で計算された標準特徴量をクラ
スタ分析して、複数のクラスタに分類する分類手段とを
有するパターン認識用辞書作成装置であって、前記分類手段で分類された標準特徴量に基づいて、各ク
ラスタごとのクラスタ標準特徴量を計算するクラスタ標
準特徴量計算手段と、前記標準特徴量計算手段で計算されたカテゴリの標準特
徴量と前記クラスタ標準特徴量計算手段で計算された各
クラスタのクラスタ標準特徴量との一致度を計算する一
致度計算手段と、前記一致度計算手段で計算された一致度の値の最も高い
クラスタにカテゴリを分類するカテゴリ分類手段と、前記カテゴリ分類手段で分類されたカテゴリと該カテゴ
リの標準特徴量とを前記クラスタ標準特徴量とに対応し
て階層化認識辞書に登録する登録手段とを備えることを
特徴とするパターン認識用辞書作成装置。
【請求項３】前記階層化認識辞書に登録されているク
ラスタ内のカテゴリのうち一致度の値の最も低い値を該
クラスタのクラスタ範囲と設定するクラスタ範囲設定手
段と、前記クラスタ範囲設定手段で設定されたクラスタのクラ
スタ範囲内に前記カテゴリ分類手段で他のクラスタに分
類されたカテゴリがあるときには、階層化認識辞書の該
クラスタに重複して該カテゴリとその標準特徴量とを対
応付けて追加登録する追加登録手段とを備えることを特
徴とする請求項２記載のパターン認識用辞書作成装置。
【請求項４】前記追加登録手段は、前記クラスタ標準特徴量計算手段で計算されたクラスタ
の標準特徴量と、前記標準特徴量計算手段で計算された
各標準特徴量との一致度を計算する一致度計算部と、前記一致度計算部で計算された一致度が当該クラスタの
クラスタ範囲内に前記カテゴリ分類手段で他のクラスタ
に分類された標準特徴量を有するカテゴリがあるか否か
を判定するクラスタ範囲判定部と、前記クラスタ範囲判定部があると判定したとき、当該カ
テゴリとその標準特徴量とを対応付けて当該クラスタに
登録する重複登録部とを有することを特徴とする請求項
３記載のパターン認識用辞書作成装置。
【請求項５】カテゴリごとに入力される複数の学習用
パターンからそのカテゴリの認識に用いる特徴量を抽出
する特徴量抽出手段と、前記特徴量抽出手段で抽出された特徴量に基づいて各カ
テゴリごとの標準特徴量を計算する標準特徴量計算手段
と、前記標準特徴量計算手段で計算された標準特徴量をクラ
スタ分析して、複数のクラスタに分類する分類手段とを
有するパターン認識用辞書作成装置であって、前記分類手段で分類された標準特徴量に基づいて、各ク
ラスタごとのクラスタ標準特徴量を計算するクラスタ標
準特徴量計算手段と、前記特徴量抽出手段で抽出された特徴量と前記クラスタ
標準特徴量計算手段で計算された各クラスタのクラスタ
標準特徴量との一致度を計算する学習パターン−クラス
タ一致度計算手段と、前記学習パターン−クラスタ一致度計算手段で計算され
た一致度の最も高いクラスタに当該カテゴリと特徴量と
を分類する特徴量分類手段と、前記特徴量分類手段で分類された同一カテゴリの特徴量
に基づいて各カテゴリごとの当該クラスタにおけるクラ
スタ内標準特徴量を計算するクラスタ内標準特徴量計算
手段と、前記カテゴリ分類手段で分類されたカテゴリと前記クラ
スタ内標準特徴量計算手段で計算された該カテゴリのク
ラスタ内標準特徴量とを前記クラスタ標準特徴量とに対
応付けて階層化認識辞書に登録する登録手段とを備える
ことを特徴とするパターン認識用辞書作成装置。
【請求項６】カテゴリごとに入力される複数の学習用
パターンからそのカテゴリの認識に用いる特徴量を抽出
する特徴量抽出手段と、前記特徴量抽出手段で抽出された特徴量に基づいて各カ
テゴリごとの標準特徴量を計算する標準特徴量計算手段
と、前記標準特徴量計算手段で計算された標準特徴量をクラ
スタ分析して、複数のクラスタに分類する分類手段とを
有するパターン認識用辞書作成装置であって、前記分類手段で分類された標準特徴量に基づいて、各ク
ラスタごとのクラスタ標準特徴量を計算するクラスタ標
準特徴量計算手段と、前記特徴量抽出手段で抽出された特徴量と前記クラスタ
標準特徴量計算手段で計算された各クラスタのクラスタ
標準特徴量との一致度を計算する学習パターン−クラス
タ一致度計算手段と、前記学習パターン−クラスタ一致度計算手段で計算され
た一致度の最も高いクラスタに当該カテゴリを分類する
特徴量分類手段と、前記特徴量分類手段で分類されたカテゴリと、該カテゴ
リの前記標準特徴量計算手段で計算された標準特徴量と
を前記クラスタ標準特徴量に対応付けて階層化認識辞書
に登録する登録手段とを備えることを特徴とするパター
ン認識用辞書作成装置。
【請求項７】前記クラスタ標準特徴量計算手段は、同
一クラスタ内の全カテゴリの標準特徴量の各要素を算術
平均してクラスタ標準特徴量の各要素とすることを特徴
とする請求項１、２、３、４、５又は６記載のパターン
認識用辞書作成装置。
【請求項８】上記一致度の計算は、市街化距離、二乗
距離又は類似度のいずれか一により計算されることを特
徴とする請求項２、３、４、５、６又は７記載のパター
ン認識用辞書作成装置。
【請求項９】入力パターンをカテゴリとして認識する
パターン認識装置であって、各カテゴリの学習用パターンの特徴量に基づいて計算さ
れた標準特徴量とカテゴリとを、当該標準特徴量のクラ
スタ分析によって複数のクラスタに分類して、分類した
クラスタと、クラスタに属するカテゴリの標準特徴量に
基づいて計算されたクラスタ標準特徴量とに対応付けて
登録している階層化認識辞書と、入力パターンから認識に用いる特徴量を抽出する特徴量
抽出手段と、前記特徴量抽出手段で抽出された特徴量と前記階層化認
識辞書に登録されているクラスタ標準特徴量との一致度
を計算するクラスタ一致度計算手段と、前記クラスタ一致度計算手段で計算された一致度に基づ
いて候補クラスタを選択する候補クラスタ選択手段と、前記候補クラスタ選択手段で選択された候補クラスタに
対応付けられた標準特徴量と前記特徴量抽出手段で抽出
された特徴量との一致度を計算するカテゴリ一致度計算
手段と、前記カテゴリ一致度計算手段で計算された一致度に基づ
いて認識結果であるカテゴリを決定するカテゴリ決定手
段とを備えることを特徴とするパターン認識装置。
【請求項１０】前記候補クラスタ選択手段は、前記クラスタ一致度計算手段で計算された一致度に基づ
いて、一致度の高いクラスタから順に所定個数のクラス
タを候補クラスタとして選択する所定数候補クラスタ選
択部を有することを特徴とする請求項９記載のパターン
認識装置。
【請求項１１】前記候補クラスタ選択手段は、前記クラスタ一致度計算手段で計算された一致度に基づ
いて、一致度が予め定めたしきい値以上のクラスタを候
補クラスタとして選択するしきい値候補クラスタ選択部
を有することを特徴とする請求項９記載のパターン認識
装置。
【請求項１２】前記候補クラスタ選択手段は、前記クラスタ一致度計算手段で計算された一致度に基づ
いて、一致度の最も高いクラスタの一致度を基準値とし
て基準値との差又は比が一定値以内の一致度を有するク
ラスタを候補クラスタとして選択する基準値候補クラス
タ選択部を有することを特徴とする請求項９記載のパタ
ーン認識装置。
【請求項１３】前記候補クラスタ選択手段は、前記クラスタ一致度計算手段で計算された一致度の高い
クラスタから順にクラスタ内に登録されているカテゴリ
数が予め定めたカテゴリ数に到達するまでのクラスタを
候補クラスタとして選択するカテゴリ数候補クラスタ選
択部を有することを特徴とする請求項９記載のパターン
認識装置。
【請求項１４】前記カテゴリ決定手段は、前記クラスタ選択手段で選択された候補クラスタの前記
クラスタ一致度計算手段で計算された一致度と、前記カ
テゴリ一致度計算手段で計算された一致度とに基づいて
総合一致度を計算する総合一致度計算部と、前記総合一致度計算部で計算された総合一致度に基づい
てカテゴリを決定する総合カテゴリ決定部とを有するこ
とを特徴とする請求項９、１０、１１、１２又は１３記
載のパターン認識装置。
【請求項１５】階層化認識辞書を用いて入力パターン
をカテゴリとして認識するパターン認識方法が記録され
た記録媒体であって、各カテゴリの学習用パターンの特徴量に基づいて計算さ
れた標準特徴量とカテゴリとを、当該標準特徴量のクラ
スタ分析によって複数のクラスタに分類して、分類した
クラスタと、クラスタに属するカテゴリの標準特徴量に
基づいて計算されたクラスタ標準特徴量とに対応付けて
登録している階層化認識辞書と、以下の特定ステップを実行するプログラムとが記録さ
れ、特定ステップには、入力パターンから認識に用いる特徴量を抽出する特徴量
抽出ステップと、前記特徴量抽出ステップで抽出された特徴量と前記階層
化認識辞書に登録されているクラスタ標準特徴量との一
致度を計算するクラスタ一致度計算ステップと、前記クラスタ一致度計算ステップで計算された一致度に
基づいて候補クラスタを選択する候補クラスタ選択ステ
ップと、前記候補クラスタ選択ステップで選択された候補クラス
タに対応付けられた標準特徴量と前記特徴量抽出ステッ
プで抽出された特徴量との一致度を計算するカテゴリ一
致度計算ステップと、前記カテゴリ一致度計算ステップで計算された一致度に
基づいて認識結果であるカテゴリを決定するカテゴリ決
定ステップとを含むことを特徴とする記録媒体。