JPH04260987A - 文字認識装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は階層構造ニューラルネットを用いた文字認識装
置、特にトーナメントでの識別に階層構造ニューラルネ
ットを利用する文字認識装置に関する。

〔従来の技術〕

文字認識に階層構造ニューラルネットを用いた報告とし
て、「ニューラルネットを用いた文字認識」電子情報通
信学会研究会資料ＰＲＵ８８−５８（文献１）、「ＰＤ
Ｐモデルによる手書き漢字認識」電子情報通信学会研究
会資料ＭＢＥ８７−１５６（文献２）などがある。

また、候補文字のトーナメントにより文字認識を行なう
方法は、古くから知られている。例えば、「トップダウ
ン的手法による手書き英、数、記号、片仮名文字の認識
方式」電子通信学会論文誌Ｔｒａｎｓ．ＩＥＣＥ’８１
／９　Ｖｏｌ．Ｊ６４−Ｄ　Ｎｏ．９（文献３）に記載
されている。

〔発明が解決しようとする課題〕

出力層の各ユニットを一つの文字名（カテゴリ）に対応
させる階層構造ニューラルネットの利用法では、学習対
象カテゴリ数が増すにつれてネットワークの学習は困難
となる。そのため、文献１や２などの従来例では対象カ
テゴリ数は１００個未満であった。しかし、文献２にも
記載されているように、階層構造ニューラルネットを利
用すると従来一般的であった線形識別による方法より高
い認識性能を得られる。

ところで、漢字認識においては対象カテゴリ数が３００
０個以上あり、漢字認識に階層構造ニューラルネットを
そのままの構造で使った場合には中間層のユニット数が
１００個とすると、一回の学習で約３０万個のリンクを
更新しなければならない。そのため、容易に予想される
ように、これらのリンクを最適な状態へ向かうように更
新することは困難となる。

一方、文献３にあるような主特徴を使った分類により求
めた候補文字からトーナメント形式で副特徴を使って識
別を行なう方法は、類似した文字も効率的に識別できる
。そこで、英数字認識までは試行錯誤で文字対ごとに適
切な副特徴を決めて識別辞書を作成していた。しかし、
対象カテゴリ数が増えたり、低品質の文字まで認識しよ
うとすると、識別辞書を作成するまでに時間がかかると
いう問題があった。

識別辞書作成の時間を短縮するために、学習文字の副特
徴を統計的に解析して線形識別関数を識別辞書とする方
法も提案されているが、統計解析の精度を高めるには多
くのデータを用意しなければならないという問題がある
。

〔課題を解決するための手段〕

第１の本発明の文字認識装置は、一文字分の文字画像を
記憶する文字画像記憶手段と、文字画像からのマッチン
グ特徴値を検出する特徴検出手段と、認識対象文字ごと
のマッチング特徴値と文字名とを対にする分類用辞書を
記憶した分類辞書記憶手段と、前記特徴検出手段からの
マッチング特徴値と前記分類辞書記憶手段から読み出さ
れた文字ごとのマッチング特徴値との間で計算して得ら
れてた距離値の小さい複数個の文字名を候補文字名とし
て出力する分類手段と、候補文字名を記憶する候補文字
記憶手段と、予めマッチング特徴値間の距離値が小さい
文字対ごとに学習した出力層ユニット数が２個の階層構
造ニューラルネットのネットワーク結合係数値を識別用
辞書として記憶した識別辞書記憶手段と、出力層ユニッ
ト数が２個の階層構造ニューラルネットを前記分類辞書
記憶手段から読み出された２つの文字名のマッチング特
徴で学習し、学習後のネットワークの結合係数値と文字
対とを識別用辞書として出力する階層構造ニューラルネ
ット学習手段と、前記特徴検出手段からのマッチング特
徴値を前記識別辞書記憶手段から読み出された階層構造
ニューラルネットあるいは前記階層構造ニューラルネッ
ト学習手段からの階層構造ニューラルネットの入力値と
した計算で得られる出力値の比較により前記候補文字記
憶手段の候補文字名を減らすトーナメントを行なう識別
手段と、前記候補文字名記憶手段にある候補文字名が１
個のときには候補文字名を認識結果として出力し、複数
のときには文字対の候補文字名を前記階層構造ニューラ
ルネット学習手段に出力する識別結果決定手段とを備え
る。

第２の本発明の文字認識装置は、一文字分の文字画像を
記憶する文字画像記憶手段と、文字画像からのマッチン
グ特徴値を検出する特徴検出手段と、認識対象文字ごと
のマッチング特徴値と文字名とを対にする分類用辞書を
記憶した分類辞書記憶手段と、前記特徴検出手段からの
マッチング特徴値と前記分類辞書記憶手段から読み出さ
れた文字ごとのマッチング特徴値との間で計算し得られ
た距離値の小さい複数個の文字名を候補文字名として出
力する分類手段と、候補文字名を記憶する候補文字記憶
手段と、予めマッチング特徴値間の距離値が小さい文字
対ごとに学習した出力層ユニット数が２個の階層構造ニ
ューラルネットのネットワーク結合係数値を識別用辞書
として記憶した第１の識別辞書記憶手段と、出力層ユニ
ット数が２個の階層構造ニューラルネットを前記分類辞
書記憶手段から読み出された２つの文字名のマッチング
特徴で学習し、学習後のネットワークの結合係数値と文
字対とを識別用辞書として出力する階層構造ニューラル
ネット学習手段と、階層構造ニューラルネット学習手段
からの識別用辞書を記憶する第２の識別辞書記憶手段と
、前記特徴検出手段からのマッチング特徴値を前記第１
あるいは第２の識別辞書記憶手段から読み出された階層
構造ニューラルネット、または前記階層構造ニューラル
ネット学習手段から入力した階層構造ニューラルネット
の入力値として得られる出力値の比較により前記候補文
字記憶手段の候補文字名を減らすトーナメントを行なう
識別手段と、前記候補文字名記憶手段にある候補文字名
が１個のときには候補文字名を認識結果として出力し、
複数のときには文字対の候補文字名を前記階層構造ニュ
ーラルネット学習手段に出力する識別結果決定手段とを
備える。

〔作用〕

漢字認識のように認識対象カテゴリ数が多くても、大部
分の文字はその構造が異なるために相関法に使われるよ
うな単純な特徴である程度の認識率で識別できる。例え
ば、「文字認識のための相関法の一改良−相補的特徴場
の手書き漢字への適用−」電子通信学会論文誌’８５／
３　Ｖｏｌ．Ｊ６８−ＤＮｏ．３（文献４）でも使われ
ている文字ストロークの方向成分を集積した方向特徴値
で９５％以上の認識率が報告されている。

また、変形が少ないので活字漢字認識に適用したときは
、９９％以上の認識率となる可能性が高い。そこで、認
識カテゴリごとの学習文字パターンから得られる方向特
徴値の平均値を分類用辞書とする方法を採ると、平均値
の分離用辞書はある程度のデータがあれば簡単に作れる
。前述のように、この分類用辞書の性能は対象カテゴリ
数が多くても高いので、候補文字のなかに正確カテゴリ
名の入る分類率は同じように高い。

一方、候補文字のトーナメントを行なうには、文字対ご
との識別辞書が必要である。第３図に示すような出力層
のユニット数２個の階層構造ニューラルネットの出力を
それぞれ一つの文字名に対応させて学習すると、出力値
の大きい方の文字を識別結果とする文字対用の識別論理
として使える。また、前記分類用辞書作成に使った方向
特徴値を階層構造ニューラルネットへの入力値とすると
、階層構造ニューラルネットの特徴である中間層での入
力値の特徴化と非線形演算により、従来の線形識別より
性能の高い識別論理となる。

さらに、階層構造ニューラルネットはデータ数が多くな
くてもバックプロパゲーション法により学習を行え、出
力ユニット数が２個というような小規模のネットワーク
は短時間で収束する。そこで、分類用辞書に使う特徴値
間の距離値が一定値以下の文字対のみ予め学習ずみの階
層構造ニューラルネットを用意し、用意した階層構造ニ
ューラルネットの識別論理で候補文字のトーナメントを
行い、トーナメントで複数の候補文字が残った場合には
分類用辞書からの特徴を入力としてバックプロパゲーシ
ョン法で学習する階層構造ニューラルネットを使うと、
従来のような多くの識別論理を用意しておく必要がなく
なる。

また、バックプロパゲーション法での学習により作られ
た階層構造ニューラルネットを一時的に記憶しておき、
まず予め用意された階層構造ニューラルネットの識別論
理でトーナメントを行い、候補文字として複数の文字名
が残っているときには一時的に記憶している階層構造ニ
ューラルネットの識別論理でトーナメントを行ない、そ
れでも候補文字として複数の文字名が残っているときに
分類用辞書からの特徴を入力として階層構造ニューラル
ネットを学習させると、学習を行なう回数を減らせるこ
とから、識別処理を短縮できる。

ただし、予め用意する階層構造ニューラルネットは多種
類の学習パターンを使って学習しているのに対して、識
別の途中で作る階層構造ニューラルネットは分類用辞書
のパターンしか学習していないので、識別論理の性能は
低いことがありえる。

そのため、性能の低い識別論理を使って最初から候補文
字を削除すると、途中で正解文字名が削除される可能性
があるので、最後まで決着がつかないときに識別の途中
で作った階層構造ニューラルネットを識別論理として使
う必要がある。

〔実施例〕

以下、本発明の実施例を図面を参照して説明する。

第４図は本願発明の文字認識装置における文字認識処理
の流れ図であり、まず第４図を使って説明する。

最初に、認識対象の文字画像から特徴値を求める特徴検
出処理（２００）を行なう。つぎに、得られた特徴値と
予め用意された分類用辞書の特徴値との距離値を計算し
、距離値の小さい一定距離値以下でかつ一定個数以下の
候補文字を求める分離処理（２１０）を行なう。さらに
、候補文字から作る文字対ごとにトーナメントを行い、
最終的には候補文字を１個とするトーナメント処理（２
２０）を行なう。

トーナメント処理（２２０）は、識別用辞書として用意
されていない文字対の識別論理となる階層構造ニューラ
ルネットの学習を行なうニューラルネット学習処理（２
２１）と、特徴検出処理（２００）で得られた特徴値を
、予め用意されたあるいはニューラルネット学習処理（
２２１）で得られた識別論理の入力とで得られた出力値
の比較により文字対ごとの識別を行う識別処理（３２２
）とからなり、文字対ごとの識別論理を行なうことでト
ーナメントを行なう。

第１図は本願発明の一実施例である一文字認識装置のブ
ロッ図である。

図において、１は文字画像記憶手段、２は特徴検出手段
、３は分類辞書記憶手段、４は分類手段、５は候補文字
記憶手段、６は識別辞書記憶手段、７は識別手段、８は
識別結果判定手段、９は階層構造ニューラルネット学習
手段である。前記第４図を使って説明した処理が、第１
図文字認識装置のブロック図で行なわれる。

一文字の文字画像が文字画像記憶手段１に記憶されてい
るとすると、次に示す順序で文字認識が行なわれる。こ
こで、特徴検出手段２で検出するマッチング特徴は簡単
のために輪郭点からの方向特徴として説明するが、本願
発明は方向特徴に限るものではない。

特徴検出手段２は文字画像記憶手段１の文字画像の外接
枠を検出し文字枠内の文字画像をアフィン変換により一
定サイズの正規化画像領域に書き込む。正規化画像領域
にある文字画像の輪郭点ごとに一定輪郭点数離れた位置
の輪郭点座標を使って８方向に量子化した方向のいずれ
かの方向値を計算する。輪郭点の方向計算が終ると、正
規化画像領域を８×８に分割した局所領域ごとに方面別
に輪郭点数を計算し特徴値とする。従って、特徴検出手
段２は５１２個（８方向×８×８）の特徴値を出力する
。方向特徴は同業者の間では一般的な特徴で公知である
ので、これ以上の詳細な説明は省略する。

分類辞書記憶手段３は、予め認識対象文字ごとに収集し
たある程度の個数の学習パターンの方向特徴値を平均し
た特徴値とその文字名との組を分類用辞書として記憶し
ている。

分類手段４は、分類辞書記憶手段３からの認識対象文字
ごとの特徴値と特徴検出手段２からの特徴値との間で距
離を計算し、得られた距離値の小さい一定距離値以下で
かつ一定個数値以下の文字名を候補文字として出力する
。距離としては、シティブロック距離あるいはユークリ
ッド距離を使う。シティブロック距離は特徴要素ごとに
特徴値の差の絶対値を計算し、特徴要素数だけ絶対値を
加算することで得られる。一方、ユークリッド距離は特
徴要素ごとの特徴値の差の２乗値を特徴要素数だけ加算
することで得られる。

候補文字記憶手段５は、前記分類手段４から入力される
候補文字の文字名を記憶する。

識別辞書記憶手段６は、予め文字対ごとに学習パターン
の方向特徴値を入力値として学習したネットワーク（第
３図の構造）の結合係数値とその文字対の文字名との組
を識別辞書として記憶している。

識別手段７は、候補文字記憶手段５から読み出された２
つの文字名を文字対として、その文字対に対応する識別
辞書を識別辞書記憶手段６から読み出し、特徴検出手段
２からの特徴値を読み出された識別辞書のネットワーク
の入力としたネットワークの出力値を計算する。得られ
た出力値を比較し、出力値の小さいユニットに対応する
文字名を候補文字記憶手段５に記憶されている候補文字
名から削除する。

次に、出力値の大きいユニットに対応する文字名と、候
補文字記憶手段５から読み出された１つの候補文字名と
で文字対として、その文字対に対応する識別辞書のネッ
トワークを識別辞書記憶手段６から読み出し、特徴検出
手段２からの特徴値を読み出されたネットワークの入力
としてネットワークの出力値を計算する。

文字対に対するネットワークがないときには候補文字記
憶手段５から次の候補文字１個を読み出し、文字対とす
る。残りの候補文字の１個のとで作られる、文字対に対
するネットワークがないときには候補文字記憶手段５か
ら新たに２つの候補文字を読み出し、文字対とする。識
別手段７は、上記処理を繰り返し、候補文字記憶手段５
に記憶されている候補文字間トーナメントを行なう。

識別結果決定手段８は候補文字記憶手段５に候補文字と
して残っている文字名を読み出し、読み出される文字名
が１個のときにはその文字名を認識結果として出力する
。そうでなく文字名が複雑のときには、２つの文字名を
文字対として出力する。

階層構造ニューラルネット学習手段９は識別結果決定手
段８から文字対の入力があると以下の学習処理を行なう
。分類辞書記憶手段３から文字対の両文字名に対応する
特徴値を読み出し、その特徴値を入力値として第３図に
示した構造のネットワークを学習する。第３図のネット
ワークは公知のバックプロパゲーション法で学習する。

ネットワークの学習が終わると、文字対の文字名とネッ
トワークの結合係数値を識別手段７に出力する。すると
、識別手段７は特徴検出手段２からの特徴値を階層構造
ニューラルネット学習手段９からのネットワークの入力
値としてネットワークの出力値を計算し、出力値の小さ
いユニットに対応する文字名を候補文字記憶手段５の候
補文字から削除する。上記処理を候補文字の文字数が１
個になるまで繰り返す。この繰り返しにより候補文字記
憶手段５に残る候補文字は１個となり、識別結果決定手
段８から識別結果の文字名が出力される。

第２図は本願第２の発明の一実施例である文字認識装置
のブロック図である。

図において、１１は文字画像記憶手段、１２は特徴検出
手段、１３は分類辞書手段、１４は分類手段、１５は候
補文字記憶手段、１６は第１の識別辞書記憶手段、１７
は識別手段、１８は識別結果決定手段、１９は階層構造
ニューラルネット学習手段、２０は第２の識別辞書記憶
手段である。

第２図における第１の識別辞書記憶手段１６は、第１図
の識別辞書記憶手段６と同じく、予め文字対ごとに学習
パターンの方向特徴値を入力値として学習し得られたネ
ットワーク（第３図の構造）の結合係数値とその文字対
の文字名との組を識別辞書として記憶している。

また、第２図の文字画像記憶手段１１、特徴検出手段１
２、分類辞書記憶手段１３、分類手段１４、候補文字記
憶手段１５、識別結果決定手段１８、階層構造ニューラ
ルネット学習手段１９は、第１図の文字画像記憶手段１
、特徴検出手段２、分類辞書記憶手段３、分類手段４、
候補文字記憶手段５、識別結果決定手段８、階層構造ニ
ューラルネット学習手段９に対応し、同一の処理をする
。

第２図には階層構造ニューラルネット学習手段１９から
出力されるネットワークの結合係数値と文字対を組にし
て記憶する第２の識別辞書記憶手段２０があるのが、第
１図と異なっている。そこで、第２の識別辞書記憶手段
２０があることにより第１図の処理と異なる処理のみを
説明し、最初の候補文字を求める処理までの説明は省略
する。

候補文字が得られると、識別手段１７は候補文字記憶手
段１５から読み出された２つの文字名を文字対として、
その文字対に対応する識別辞書を第１の識別辞書記憶手
段１６から読み出す。特徴検出手段１２からの特徴値を
読み出された識別辞書のネットワークの入力としてネッ
トワークの出力値を計算する。得られた出力値を比較し
、出力値の小さいユニットに対応する文字名を候補文字
記憶手段１５に記憶されている候補文字名から削除する
。

次に、出力値の大きいユニットに対応する文字名と、候
補文字記憶手段５から読み出された１つの候補文字名と
で文字対として、その文字対に対応する識別辞書のネッ
トワークを第１の識別辞書記憶手段１６から読み出す。

特徴検出手段１２からの特徴値を読み出されたネットワ
ークの入力としてネットワークの出力値を計算する。文
字対に対応するネットワークがないときには候補文字記
憶手段１５から次の候補文字１個を読み出し文字対とす
る。残りの候補文字の１個とで作られる、文字対に対応
するネットワークがないときには候補文字記憶手段１５
から新たに２つの候補文字を読み出し、文字対とする。

識別手段１７は、まず第１の識別辞書記憶手段１６に記
憶されているネットワークを使っての上記処理を繰り返
し、候補文字記憶手段１５に記憶されている候補文字間
のトーナメントを行なう。

次に、識別手段１７は第２の識別辞書記憶手段２０に記
憶されているネットワークを使ってのトーナメントを行
なう。

識別結果決定手段１８は候補文字記憶手段１５に候補文
字として残っている文字名を読み出し、読み出される文
字名が１個のときにはその文字名を認識結果として出力
する。

階層構造ニューラルネット学習手段１９は識別結果決定
手段１８から文字対の入力があると以下の学習処理を行
なう。分類辞書記憶手段１３から文字対の両文字名に対
応する特徴値を読み出し、その特徴値を入力値として第
３図に示した構造のネットワークを学習する。ネットワ
ークの学習が終わると、文字対の文字名とネットワーク
の結合係数値を識別手段７と第２の識別辞書記憶手段２
０とに出力する。すると、識別手段１７は特徴検出手段
１２からの特徴値を階層構造ニューラルネット学習手段
１９からのネットワークの入力値としてネットワークの
出力値を計算し、出力値の小さいユニットに対応する文
字名を候補文字記憶手段１５の候補文字から削除する。

上記処理を候補文字の文字数が１個になるまで繰り返す
。この繰り返しにより候補文字記憶手段１５に残る候補
文字は１個となり、識別結果決定手段１８から認識結果
の文字名が出力される。

以上の説明では分類に用いた特徴全部を使って階層構造
ニューラルネットの学習を行っていたが、本願発明はこ
れに限定されるものでなく、分類に使う特徴と識別に使
う特徴の組を分類用特徴として記憶しておき、識別途中
での学習には識別用に記憶している特徴を使ってもかま
わない。

〔発明の効果〕

本願発明によれば、文字対ごとに階層構造ニューラルネ
ットを学習するために認識対象文字数は増加しても容易
に学習を行なうことができ、予め学習したネットワーク
を識別論理とするため従来の線形識別より性能の良い識
別を行える。

また、予め用意されていない識別論理は分類辞書として
記憶している特徴値から学習により作られるので、認識
対象文字からの文字対すべてに対して識別論理を用意し
ておく必要がない。

さらに、識別の途中で作られたネットワークを一時的に
記憶し、識別のトーナメントに使うことで、識別で必要
な処理数を減らすことができる。

【図面の簡単な説明】

第１図および第２図は本願発明の文字認識装置の一実施
例、第３図は識別論理に用いる階層構造ニューラルネッ
トの例を示す図、第４図は本願発明の文字認識装置にお
ける文字認識処理の流れ図である。 １，１１…文字画像記憶手段、２，１２…特徴検出手段
、３，１３…分類辞書記憶手段、４，１４…分類手段、
５，１５…候補文字記憶手段、６…識別辞書記憶手段、
７，１７…識別手段、８，１８…識別結果決定手段、９
，１９…階層構造ニューラルネット学習手段、１６…第
１の識別辞書記憶手段、２０…第２の識別辞書記憶手段
。 代理人　弁理士　内原晋

Claims (2)

【特許請求の範囲】
1. 【請求項１】一文字分の文字画像を記憶する文字画像記
   憶手段と、 文字画像からのマッチング特徴値を検出する特徴検出手
   段と、 認識対象文字ごとのマッチング特徴値と文字名とを対に
   する分類用辞書を記憶した分類辞書記憶手段と、 前記特徴検出手段からのマッチング特徴値と前記分類辞
   書記憶手段から読み出された文字ごとのマッチング特徴
   値との間で計算して得られてた距離値の小さい複数個の
   文字名を候補文字名として出力する分類手段と、 候補文字名を記憶する候補文字記憶手段と、予めマッチ
   ング特徴値間の距離値が小さい文字対ごとに学習した出
   力層ユニット数が２個の階層構造ニューラルネットのネ
   ットワーク結合係数値を識別用辞書として記憶した識別
   辞書記憶手段と、出力層ユニット数が２個の階層構造ニ
   ューラルネットを前記分類辞書記憶手段から読み出され
   た２つの文字名のマッチング特徴で学習し、学習後のネ
   ットワークの結合係数値と文字対とを識別用辞書として
   出力する階層構造ニューラルネット学習手段と、 前記特徴検出手段からのマッチング特徴値を前記識別辞
   書記憶手段から読み出された階層構造ニューラルネット
   あるいは前記階層構造ニューラルネット学習手段からの
   階層構造ニューラルネットの入力値とした計算で得られ
   る出力値の比較により前記候補文字記憶手段の候補文字
   名を減らすトーナメントを行なう識別手段と、 前記候補文字名記憶手段にある候補文字名が１個のとき
   には候補文字名を認識結果として出力し、複数のときに
   は文字対の候補文字名を前記階層構造ニューラルネット
   学習手段に出力する識別結果決定手段とを備えることを
   特徴とする文字認識装置。
2. 【請求項２】一文字分の文字画像を記憶する文字画像記
   憶手段と、 文字画像からのマッチング特徴値を検出する特徴検出手
   段と、 認識対象文字ごとのマッチング特徴値と文字名とを対に
   する分類用辞書を記憶した分類辞書記憶手段と、 前記特徴検出手段からのマッチング特徴値と前記分類辞
   書記憶手段から読み出された文字ごとのマッチング特徴
   値との間で計算し得られた距離値の小さい複数個の文字
   名を候補文字名として出力する分類手段と、 候補文字名を記憶する候補文字記憶手段と、予めマッチ
   ング特徴値間の距離値が小さい文字対ごとに学習した出
   力層ユニット数が２個の階層構造ニューラルネットのネ
   ットワーク結合係数値を識別用辞書として記憶した第１
   の識別辞書記憶手段と、 出力層ユニット数が２個の階層構造ニューラルネットを
   前記分類辞書記憶手段から読み出された２つの文字名の
   マッチング特徴で学習し、学習後のネットワークの結合
   係数値と文字対とを識別用辞書として出力する階層構造
   ニューラルネット学習手段と、 階層構造ニューラルネット学習手段からの識別用辞書を
   記憶する第２の識別辞書記憶手段と、前記特徴検出手段
   からのマッチング特徴値を前記第１あるいは第２の識別
   辞書記憶手段から読み出された階層構造ニューラルネッ
   ト、または前記階層構造ニューラルネット学習手段から
   入力した階層構造ニューラルネットの入力値として得ら
   れる出力値の比較により前記候補文字記憶手段の候補文
   字名を減らすトーナメントを行なう識別手段と、 前記候補文字名記憶手段にある候補文字名が１個のとき
   には候補文字名を認識結果として出力し、複数のときに
   は文字対の候補文字名を前記階層構造ニューラルネット
   学習手段に出力する識別結果決定手段とを備えることを
   特徴とする文字認識装置。