JP2556477B2

JP2556477B2 - パタン照合装置

Info

Publication number: JP2556477B2
Application number: JP61158009A
Authority: JP
Inventors: 比呂志松尾; 伸生津田; 紀博萩田
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 1986-07-07
Filing date: 1986-07-07
Publication date: 1996-11-20
Anticipated expiration: 2011-11-20
Also published as: JPS6315383A

Description

【発明の詳細な説明】〔産業上の利用分野〕この発明は、パタン認識に用いるパタン照合装置に関
し、特に手書き漢字認識等における変形を許容した入力
パタンと多数の標準パタンとを照合を高能率で実行する
パタン照合装置に関するものである。

〔従来の技術〕

手書きの漢字かな混じり文で書かれた大量の文書や帳
票の計算機等への高速入力手段である光学式手書き漢字
読み取り装置（手書き漢字OCR）では、光電変換処理で
得られる文字画像の入力パタンに対して、前処理，特徴
抽出処理，パタン照合処理を施して、認識結果として日
本語JISコード等の文字種のカテゴリ名を出力する認識
処理過程がとられている。ここで、前処理は、入力パタ
ンのノイズ除去，位置の正規化，大きさの正規化等の処
理、特徴抽出処理は、前処理済みの入力パタンから、所
定のアルゴリズムに従って入力特徴ベクトルを生成する
処理、パタン照合処理は、この入力特徴ベクトルに基づ
いて、入力パタンがあらかじめ登録されたカテゴリのい
ずれに属するかを決定し、候補カテゴリを抽出する処理
である。

従来のパタン照合処理では、あらかじめ生成してある
標準特徴ベクトルと入力特徴ベクトルとの間の類似性の
大小関係に基づいて、候補カテゴリを抽出していた。特
に、手書きの漢字OCR等の文字認識装置では、漢字特有
の複雑な入力パタンを手書きによる変形を吸収して精度
よく標準パタンと照合するために、入力パタンと標準パ
タンのそれぞれをベクトル要素が数百程度の高次元の特
徴ベクトルで表現し、パタン照合装置においてこれらの
特徴ベクトル間の類似性をベクトル間距離を尺度として
計算し、ベクトル間距離が最小となる標準特徴ベクトル
のカテゴリ名を第１候補カテゴリとして抽出する方法が
とられてきた。また手書き漢字の場合には単純な分類規
則では照合対象となるカテゴリを絞り込むことが困難な
ため、入力特徴ベクトルと認識対象の全カテゴリの標準
特徴ベクトルとを総当たりでベクトル間距離を計算する
方法が用いられてきた。特徴ベクトルの各ベクトル要素
は、局所的あるいは大局的な文字線構造や背景構造を反
映する物理的な量を要素値とし、一般に１バイト程度の
範囲で量子化してある。

具体的なベクトル間距離の計算方法は、特徴ベクトル
要素数（次元数）をｍ、カテゴリ数をｎとし、入力特徴
ベクトルＩを、Ｉ＝（i₁ i₂…i_m）、第１番から第ｎ番
までのカテゴリのうち、第ｙ番目のカテゴリの標準特徴
ベクトルJ_yを、J_y＝（j_1y j_2y…j_my）、ｋを特徴ベクト
ルの要素番号とすると、入力特徴ベクトルＩと標準特徴
ベクトルJ_yとのベクトル間距離D_yとしては、［シティブロック距離］［ユークリッド距離］等の計算式が一般に用いられている。ここでw_kyは、特
徴ベクトルの要素間の重みを表すベクトルw_y＝（w_1y w
_2y…w_my）のベクトル要素である。

こうしたベクトル間距離を各標準特徴ベクトルについ
て求め、カテゴリ名を付加してソート処理を行うことに
より、ベクトル間距離が最小のカテゴリ名を第１候補カ
テゴリとして抽出する。

〔発明が解決しようとする問題点〕

このように、従来のパタン照合装置では１文字分のパ
タン照合に、要素数ｍ×カテゴリ数ｎ（回）の累積計算
が必要であり、手書き漢字認識のように高次元の特徴ベ
クトルによって極めて多数のカテゴリの中から候補カテ
ゴリの抽出を行う場合には総計算量が膨大になり、文字
認識装置においてはパタン照合処理が認識速度を制約す
る問題があった。

一方、こうした総計算量を低減する従来技術として、
大分類のパタン照合処理では要素数が少ない特徴ベクト
ルを用いて総当たりでベクトル間距離を計算し、次の詳
細分類のパタン照合処理では、大分類結果から得られる
第１候補カテゴリから100位程度のカテゴリについての
み、高次元の詳細分類用の特徴ベクトルでベクトル間距
離を計算して正解カテゴリを抽出する、２段階のパタン
照合処理法が既知である。しかしこの方法では、大分類
用特徴ベクトル要素数を少なくすると、大分類結果の候
補カテゴリから正解カテゴリが棄却される危険があり、
有効に総計算量を低減できない問題点があった。

そこでこの発明の目的は、一部カテゴリに対する累積
計算によって高精度、かつ高速に全カテゴリから候補カ
テゴリを抽出できるパタン照合装置を提供することにあ
る。

〔問題点を解決するための手段〕

この発明に係るパタン照合装置は、特徴ベクトルの各
要素別にカテゴリをあらかじめ分類してなるグループの
グループ名とそれぞれのグループに属するカテゴリのカ
テゴリ名とを対応づけたカテゴリテーブルと、特徴ベク
トルの要素値とそのグループ名および判定値とを対応づ
けたグループ選択テーブルとを含んでなる選択処理手段
と；判定値累積処理手段と；ソート処理手段とからな
り、選択処理手段によって、入力特徴ベクトルの要素ご
とにグループ選択テーブルから入力パタンの特徴ベクト
ルの要素値に対応するグループ名および判定値を選択し
て読み出し、この読み出されたグループ名によってカテ
ゴリテーブルからそのグループ名に対応するカテゴリ名
を選択して読み出し、判定値累積処理手段によって、各
要素ごとに読み出されるカテゴリ名に基づいてカテゴリ
別に判定値を累積して評価値を得、ソート処理手段によ
って、判定値累積処理手段から出力されるカテゴリ別の
評価値の大小関係によって候補カテゴリを抽出すること
を特徴としている。

〔作用〕

この発明においては、上記の構成とすることにより、
従来の入力特徴ベクトルと各カテゴリに対応した標準特
徴ベクトルとのベクトル間距離に相当する評価値が、各
ベクトル要素ごとに選択する一部のカテゴリについての
判定値の累積計算で得られるため、パタン照合処理にお
ける総計算量を大幅に削減できる。

〔実施例〕

以下、この発明の詳細を実施例を参照して説明する。

第１図はこの発明の一実施例であるパタン照合装置の
概略構成図である。第１図において、１はカテゴリテー
ブル、２はグルーブ選択テーブル、３は選択処理手段、
４は判定値累積処理手段、５はソート処理手段である。

この発明によるパタン照合装置は、未知入力パタンか
ら生成した入力特徴ベクトルを入力すると、あらかじめ
設定されたカテゴリの中からその入力パタンがどのカテ
ゴリに属するかを決定する識別処理を行い、照合結果と
して候補カテゴリ名を出力する機能を備えている。ここ
で特徴ベクトルの要素数（次元数）はｍ、カテゴリ数は
ｎ、特徴ベクトルの各要素値は０からＬまでのＬ＋１レ
ベルに量子化してある。以下に、この発明のパタン照合
装置の一実施例の構成ならびに照合処理手順を説明す
る。

第１図のパタン照合装置は、カテゴリテーブル１とグ
ループ選択テーブル２とを含む選択処理手段３と、評価
値テーブル4aを含む判定値累積処理手段４と、候補カテ
ゴリテーブルを含むソート処理手段５とで構成される。

選択処理手段３では、例えば入力パタンが“示”の文
字であるとすると、この入力パタンの特徴ベクトルの要
素別に以下の選択処理を行う。まず、入力特徴ベクトル
の要素値でグループ選択テーブル２を検索し、０を除く
正の判定値を有するグループ（グループ選択テーブル２
中の○で囲ったもの）のグループ名とその判定値を読み
出す。次に、読み出されたグループ名でカテゴリテーブ
ル１を検索しカテゴリ名を読み出す（カテゴリテーブル
１中の○で囲ったもの）。さらに、読み出されたカテゴ
リ名とそれに対応する判定値を判定値累積処理手段４へ
送る。

判定値累積処理手段４では、選択処理手段３によって
読み出されるカテゴリ名に従って評価値テーブル4a上に
判定値を累積し評価値を算出する。

次にソート処理では、ソート処理手段５において、判
定値累積処理手段４から与えられる評価値と対応するカ
テゴリ名を評価値が大きい方から順に候補カテゴリテー
ブルに並べ替える処理を行う。並べ替えが終了した時点
で、評価値累積値が最大の第１候補カテゴリ（“示”）
から所定の順位までの候補カテゴリを出力することによ
って、１人力パタン分のパタン照合処理を完了する。

なお、カテゴリテーブル1,グループ選択テーブル2,評
価値テーブル4a,候補カテゴリテーブルの詳細構成を第
２図から第５図に示す。

第６図は第１図のパタン照合装置の具体的な構成を示
すブロック図である。第６図において、６はプロセッ
サ、７はプログラムメモリ、８は汎用メモリ、９は２ポ
ートメモリ、10は入力バス、11は接続バス、12は出力バ
ス、13はアドレスバス、14はデータバス、15はプログラ
ムアドレス線、16はプログラム読み出し線である。

第６図のパタン照合装置における各手段の構成ならび
に機能を説明する。

選択処理手段３は、カテゴリテーブル1,グループ選択
テーブル2,後述する選択処理を実行するプロセッサ6,選
択処理の制御プログラムを格納したプログラムメモリ７
からなっている。プロセッサ６は高速制御向きに構成さ
れており、プログラムメモリ７とはプログラムアドレス
線15ならびにプログラム読み出し線16によって、接続さ
れている。またプロセッサ６は、カテゴリテーブル１お
よびグループ選択テーブル２と共通なアドレスバス13な
らびにデータバス14によって接続されている。カテゴリ
テーブル１には第２図で示したように各グループ名に対
応してそのグループに属するカテゴリ名が格納してあ
る。グループ選択テーブル２には第３図で示したように
量子化された各要素値とグループ名に対応して判定値が
格納してある。この判定値は評価値を計算するために使
われるとともに、対応するグループを選択するか否かを
示すフラグとしても使われる。例えば、対応する判定値
が０でないグループを選択することを示すフラグとして
使われる。以上の構成によって選択処理手段３は、入力
特徴ベクトルの要素値の大きさに従って、各ベクトル要
素ごとにカテゴリテーブル１およびグループ選択テーブ
ル２から判定値と一部のカテゴリ名を選択して読み出す
選択処理機能を実現している。

判定値累積処理手段４は、後述する判定値累積処理を
実行するプロセッサ６と，判定値累積処理の制御プログ
ラムを格納したプログラムメモリ7,第４図で示した評価
値テーブルを格納した２ポートメモリ９からなる。この
２ポートメモリ９とプロセッサ６とは、ポートａおよび
ポートｂの２組のアドレスバス13a,13bおよびデータバ
ス14a,14bで接続されている。これによって２ポートメ
モリ９では、ポートａからの読み出し動作とポートｂへ
の書き込み動作を異なるアドレス指定で並列に実行でき
る。

またこの判定値累積処理手段４のプロセッサ６と選択
処理手段３のプロセッサ６とは接続バス11によって接続
されている。以上の構成によって判定値累積処理手段４
は、選択処理手段３によって各ベクトル要素ごとにカテ
ゴリテーブル１から読み出されるカテゴリ名に従ってカ
テゴリ別に判定値を累積して評価値を得る判定値累積処
理機能を実現している。なお、選択処理における判定値
およびカテゴリ名の読み出しと判定値累積処理における
判定値の累積はパイプライン処理で実行できる。

ソート処理手段５は、後述するソート処理を実行する
プロセッサ６と，ソート処理の制御プログラムを格納し
たプログラムメモリ７と，第５図で示した候補カテゴリ
テーブルを格納した汎用メモリ８からなっている。そし
て、プロセッサ６は汎用メモリ８とアドレスバス13なら
びにデータバス14によって接続されている。このソート
処理手段５のプロセッサ６と判定値累積処置手段４のプ
ロセッサ６とは、接続バス11によって接続されている。
汎用メモリ８の候補カテゴリテーブルの内容は、プロセ
ッサ６と出力バス12を介して外部へ出力できる。以上の
構成によってソート処理手段５は、判定値累積処理手段
４から出力されるカテゴリ別の評価値の大小関係によっ
て候補カテゴリを抽出する機能を実現している。

以上説明したこの発明の実施例では、第６図のパタン
照合装置の構成を例示したが、選択処理手段3,判定値累
積処理手段4,ソート処理手段５を構成するプロセッサ６
および各種メモリには、市販のLSI等が使用できる。ま
た各手段の機能分担，接続関係ならびに各手段のブロッ
ク構成については、第２図の構成の他に、選択処理手段
３のカテゴリテーブル１とグループ選択テーブル２とプ
ログラムメモリ７を共通の汎用メモリ８上に搭載した
り、選択処理手段３のプロセッサ６と判定値累積処理手
段４のプロセッサ６とを共通化したり、あるいは判定値
累積処理手段４の２ポートメモリ９を汎用メモリ８にす
るなど、種々の変形した構成が可能である。

次に、この実施例におけるカテゴリテーブル１および
グループ選択テーブル２の構成法を説明する。

カテゴリテーブル１の構成法の例を以下に示す。第７
図はある１つの特徴要素に関して各カテゴリをグループ
に分類する際の原理を示している。まず、各カテゴリご
とに多数のサンプルを用いて量子化された要素値に対す
る各カテゴリの確率分布を求める。この確率分布は第７
図のグラフで示され、要素値と各要素値の出現確率の関
係で表される。次に、各特徴要素別に、確率分布が類似
したカテゴリが同一グループとなるように分類する。例
えば第７図では“天”と“示”がグループG₂,₁に、
“才”と“木”がグループG₅,₁に分類される。これによ
り、各々の特徴要素において各カテゴリが属する特徴要
素のグループを決定し、グループ名とそのグループに属
する。カテゴリのカテゴリ名が対応するように第２図で
示したカテゴリテーブルを作成するなお、上記グループ
の分類においては、上記の方法の他に要素値の平均値を
量子化した値が等しいカテゴリを同一グループとするな
どの方法も可能であり、上記方法に限定されるものでは
ない。

次に、グループ選択テーブル２の構成法の例を以下に
示す。グループ選択テーブル２を作成するには、入力特
徴ベクトルの各要素の各要素ごとに選択するグループ名
とそのグループに与える判定値をあらかじめ決定してお
く必要がある。この決定法として、２値の判定値を用い
る２つの例について説明する。

まず、第１の例は、要素値の確率分布が正規分布で近
似できる場合の決定法であり、以下のように行う。グル
ープ別の平均値ｍと標準偏差σを求め、入力要素値がｍ
−α・σとｍ＋α・σ（ただし、αは選択幅を決める係
数）の範囲にある場合にそのグループが選択されるよう
に判定値の０または１を決定する。

第２の例は、要素値の分布が正規分布でない場合にも
一般的に適用できる決定法であり、以下のように行う。
第８図はこの方法で決定される判定値の例を示したもの
である。まず、各グループに属するカテゴリの確率分布
を平均して、グループの平均確率分布を求める。次に、
各カテゴリの確率分布はそのカテゴリが属するグループ
の平均確率分布に等しいとみなして、以下に示す評価関
数Ｆが最大となるように判定値d_c（ｉ）を決定する。た
だし、同一グループに属するカテゴリを同一判定値とす
る条件のもとで決定する。

ただし、 d_c（ｉ）＝０または１ P_c（ｉ）＝カテゴリｃの特徴ベクトルの要素値ｉに対す
る出現確率ｎ＝カテゴリ数これにより、第８図で示したように各グループの各要
素値に対する判定値が決定され、第３図で示したグルー
プ選択テーブル２を構成できる。なお、上記の評価関数
Ｆは１例を示したにすぎず、他の類似の評価関数を用い
てグループ選択テーブル２を構成することも可能であ
る。またこのに示した判定値は０または１の２値の値を
取る場合であるが、この値に各特徴要素が識別に寄与す
る度合いを重みＷとして表し、０またはＷの判定値を用
いてグループ選択テーブル２を構成することもできる。
また所定の評価関数を用いて入力の各要素値に対する各
グループの確からしさを多値の判定値d_gで表し、同一要
素値に対してグループ別に大きさが異なる判定値を用い
ることもできる。このとき、所定のしきい値d_t以上の判
定値となるグループのみを選択するように、評価関数Ｆ
を用いて計算した判定値が所定のしきい値未満であれば
判定値として０を与え、所定のしきい値以上であればd_g
−d_tを判定値として与える構成としてもよい。

以上説明したこの実施例のパタン照合装置では、各カ
テゴリの特徴ベクトルの要素値の確率分布を考慮してあ
らかじめ決定しておいた選択すべきカテゴリと判定値を
使用できるため、認識対象パタンの変形によって特徴ベ
クトルの要素値が不均一に変動する場合でも高精度、か
つ高速にパタン照合処理を実行することができる。

〔発明の効果〕

以上実施例をもって説明したように、この発明のパタ
ン照合装置によれば、あらかじめカテゴリを特徴ベクト
ルの要素ごとにグループに分類して構成したカテゴリテ
ーブルとグループ選択テーブルとを用い、各ベクトル要
素ごとに選択される一部のカテゴリ名についてのみ判定
値の累積計算を行うことで、入力特徴ベクトルと全カテ
ゴリの標準特徴ベクトルとのベクトル間距離に相当する
評価値が得られるため、入力特徴ベクトルと全カテゴリ
の標準特徴ベクトルとの間で全てのベクトル要素につい
て累積計算を行ってベクトル間距離を求める従来のパタ
ン照合装置よりも高速にパタン照合処理を実行すること
ができる。

またこの発明によるパタン照合装置は、特徴ベクトル
によるパタン照合処理であれば手書き漢字OCRに限ら
ず、種々の文字認識装置，画像認識装置，音声認識装置
などに適用でき、これらの装置の処理速度を大幅に向上
できる。

【図面の簡単な説明】

第１図はこの発明の一実施例のパタン照合装置の構成を
示す図、第２図〜第５図は第１図の装置で用いるテーブ
ルの構成図、第６図は第１図の装置のブロック構成図、
第７図はグループに分類する際の原理を説明する図、第
８図は判定値を説明する図である。図中、１はカテゴリテーブル、２はグループ選択テーブ
ル、３は選択処理手段、４は判定値累積処理手段、５は
ソート処理手段、６はプロセッサ、７はプログラムメモ
リ、８は汎用メモリ、９は２ポートメモリ、10は入力バ
ス、11は接続バス、12は出力バス、13はアドレスバス、
14はデータバス、15はプログラムアドレス線、16はプロ
グラム読み出し線である。

───────────────────────────────────────────────────── フロントページの続き (56)参考文献特開昭59−22179（ＪＰ，Ａ) 特開昭60−120483（ＪＰ，Ａ) 特開昭60−181885（ＪＰ，Ａ) 特開昭60−142789（ＪＰ，Ａ)

Claims

(57)【特許請求の範囲】

【請求項１】特徴ベクトルで表現された入力パタンがあ
らかじめ登録してあるいずれのカテゴリに属するかを認
識するパタン照合装置であって、前記特徴ベクトルの各
要素別にカテゴリをあらかじめ分類してなるグループの
グループ名とそれぞれのグループに属する前記カテゴリ
のカテゴリ名とを対応づけたカテゴリテーブルと、前記
特徴ベクトルの要素値とそのグループ名および判定値と
を対応づけたグループ選択テーブルとを含んでなる選択
処理手段と；判定値累積処理手段と；ソート処理手段
と；からなり、前記選択処理手段によって、入力特徴ベ
クトルの要素ごとに前記グループ選択テーブルから前記
入力パタンの特徴ベクトルの要素値に対応するグループ
名および判定値を選択して読み出し、この読み出された
グループ名によって前記カテゴリテーブルからそのグル
ープ名に対応するカテゴリ名を選択して読み出し、前記
判定値累積処理手段によって、各要素ごとに読み出され
る前記カテゴリ名に基づいてカテゴリ別に前記判定値を
累積して評価値を得、前記ソート処理手段によって、前
記判定値累積処理手段から出力されるカテゴリ別の前記
評価値の大小関係によって候補カテゴリを抽出すること
を特徴とするパタン照合装置。
【請求項２】特許請求の範囲第（１）項記載のパタン照
合装置において、前記カテゴリテーブルおよびグループ
選択テーブルをカテゴリごとにあらかじめ求めた特徴ベ
クトルの要素値の分布に基づいて、特徴ベクトルの要素
別に前記分布が類似したカテゴリが同一グループとなる
ように構成したことを特徴とするパタン照合装置。