JPH03220686A - 文字認識装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 ［発明の目的コ （産業上の利用分野） 本発明は、ニューラルネットワークを用いた文字認識装
置に関する。

（従来の技術） 近年、ニューラルネットワークを用いて文字認識、音声
認識、画像情報処理等を行うシステムの開発が盛んであ
る。

一般に知られる文字認識処理は、入力文字パターンと複
数の文字パターン候補とのパターン・マツチングにより
それぞれの類似度を算出し、その中で最大類似度を得た
文字パターン候補を最終的な文字認識結果として判定し
出力することで文字認識を行うものである。これに対し
、従来の文字認識方法にニューラルネットを組合せた方
式では、ある入力文字パターンの認識結果に誤りが生じ
た場合、その入力文字パターンに対する次回からの文字
認識において正解の文字パターン候補が得られるような
方向性を持ってニューラルネットワークにおける各アー
ク荷重値を修正する。

したがって、このニューラルネットワークを採用した文
字認識処理により、入力文字パターンの特徴の変化に応
じた良好な文字認識を安定して行うことが可能となる。

（発明が解決しようとする課題） ところが、こうしたニューラルネットワークを採用した
文字認識処理では、手書き数字の認識においては良好な
認識率が得られるものの、これを手書きカナ文字等に適
用しようとした場合数々の障害があった。

例えば、手書き数字の場合、ニューラルネットワークの
入力層は、入力文字パターンと「０」から「９」までの
各数字との類似度にそれぞれ対応する１０個のユニット
と、ダミー１個の計１１個のユニットだけで済む。これ
に対し手書きカナ文字の場合は、入力層は、入力文字パ
ターンと「ア」から「ン」までの各カナ文字との類似度
にそれぞれ対応する４６個のユニットとダミー１個の計
４７個が必要となる。これに伴って中間層の数も数字の
場合は５０個程度で済んでいたが、カナ文字の場合は少
なくとも　１００個あるいはそれ以上必要とする。

出力層についても数字の場合は１０個、カナ文字の場合
は４６個必要とする。

したがって、大規模となり、しかも手書きカナ文字の場
合、「工、コ、ユ」等のパターンが類似した文字が多い
ため学習に長時間を要し、満足する認識率を得ることが
できないという問題があった。

この対策として、入力文字パターンを類似したちの同志
で複数のグループに分け、これらのグループの中で専門
に判定を行う小規模なニューラルネットワークを複数組
合せることが考えられるが、その場合には、いかにして
入力文字パターンを最適にグループ分けするかが問題に
なる。

本発明はこのような課題を解決するためのもので、手書
きカナ文字のように文字種類が多く、多くの類似パター
ンを有した文字群についても、学習に長時間を要すこと
なく、高い正解率で文字認識を行うことのできる文字認
識装置の提供を目的としている。

［発明の構成］ （課題を解決するための手段） 本発明の文字認識装置は上記した目的を遠戚するために
、入力文字パターンと複数の文字パターン候補との各類
似度から入力文字パターンの認識結果として最も確信度
の高い文字パターン候補を判定する文字認識装置におい
て、各文字パターン候補をベクトル間の内積が大きいも
の同士で複数のグループに分類し、各グループ毎に、各
類似度から、本来類似度が最大となるべき文字パターン
候補が最終的な文字認識結果として出力されるよう学習
を行い、かつ最も確信度の高い文字パターン候補をそれ
ぞれ判定する複数のサブニューラルネットと、各類似度
から、本来類似度が最大となるべき文字パターン候補を
含むサブニューラルネットの判定結果が最終的な文字認
識結果として判定されるよう学習を行い、かつ最も確信
度の高い文字パターン候補を含むサブニューラルネット
を判定するニューラルネットとを具備している。

（作　用） 本発明の文字認識装置では、各サブニューラルネットお
よびニューラルネットに、それぞれ入力文字パターンと
複数の文字パターン候補との各類似度が入力されると、
各サブニューラルネットは、それぞれのグループ内にお
いて最も確信度の高い文字パターン候補をそれぞれ判定
する。そしてニューラルネットは、各サブニューラルネ
ットの中から、最も確信度の高い文字パターン候補を含
むサブニューラルネットを判定する。

また学習時において、各サブニューラルネットは、分類
された各グループ毎に、入力文字パターンと複数の文字
パターン候補との各類似度から、本来類似度が最大とな
るべき文字パターン候補が最終的な文字認識結果として
出力されるよう学習を行う。またニューラルネットは、
前記各類似度から本来類似度が最大となるべき文字パタ
ーン候補を含むサブニューラルネットの判定結果が選択
されるよう学習を行う。

ここで、各サブニューラルネットが対象とする文字パタ
ーン候補のグループ分けは、各文字バタン候補が持つベ
クトル間の内積が大きいもの同士、すなわち類似したベ
クトルの文字パターン候補同士を集めて行われる。

したがって、この発明によれば、手書きカナ文字のよう
に文字種類が多く、多くの類似パターンを有した文字群
についても高い正解率で文字認識を行うことができる。

（実施例） 以下、本発明の実施例を図面に基づいて詳細に説明する
。

第２図はこの発明に係る一実施例の文字認識装置の構成
を説明するためのブロック図である。

同図において、１は帳票上に手書きされたカナ文字等を
光学的に読取ってその文字パターンを得るスキャナ部、
２はスキャナ部１により読取られた入力文字パターンと
のマツチング対象となる文字パターン候補群（この実施
例では「ア」〜「ン」までのカナ文字が不可欠）が登録
されたパターン候補格納部、３はスキャナ部１からの入
力文字パターンとパターン候補格納部２に格納された文
字パターン候補との所定のパターン・マツチングを行っ
てそれぞれの類似度を算出するパターン・マツチング部
、４はパターン・マツチング部３において算出された各
文字パターン候補に対する類似度の組合せから、最も確
からしい文字パターン候補を最終的な文字認識結果とし
て判定する文字判定部、５は文字判定部４において判定
された文字認識結果を格納するデータ格納部である。

さて、このような構成の文字認識装置において、上記し
た文字判定部４はニューラルネットを用いて次のように
構成される。

第１図はこのニューラルネットを用いて構成された文字
判定部の構成を示している。

同図に示すように、この文字判定部４は、制御用ニュー
ラルネット１１と、複数のサブニューラルネット１２〜
３１と（この実施例では１９個）、最終判定部３２と、
全体学習データベース３３と、データ選別部３４とを備
えて構成される。

サブニューラルネット１２〜３１は、各文字パターン候
補を、ベクトル間の内積が大きいもの同士で複数のグル
ープに分類し、入力文字パターンと各文字パターン候補
との各類似度値から、各グループ毎に本来類似度が最大
となってしかるべき文字パターン候補か得られるよう学
習を行い、その学習の結果において、各グループ毎に最
も確信度の高い文字パターン候補の判定を行うものであ
る。

制御用ニューラルネット１１は、入力文字パターンと各
文字パターン候補との各類似度値から、本来類似度が最
大となってしかるべき文字パターン候補を含むサブニュ
ーラルネット１２〜３１の判定結果が最終的な文字認識
結果として最終判定部３２で選択されるよう学習を行い
、その学習の結果において、最も確信度の高い文字パタ
ーン候補を含んだサブニューラルネット１２〜３１を判
定するものである。

全体学習データベース３３は、制御用ニューラルネット
１１および各サブニューラルネット１２〜３１での学習
で用いられるデータ、すなわち入力文字パターンと各文
字パターン候補との類似度とこれに対応する正解のデー
タとの組が格納される。またこの全体学習データベース
３３に格納された学習データは、学習実行の際、各ニュ
ーラルネット１１．１２〜３１の学習データベース（後
述する）に転送されることになるが、各サブニューラル
ネット１２〜３１に対しては、データ選別部３４を介し
てそれぞれ該当する学習データを選別した上で転送され
る。

ここで、各サブニューラルネット１２〜３１における文
字パターン候補のグループ分けの方法を第３図のフロー
チャートを用いて説明する。

まず各文字パターン候補のベクトルを求め（ステップａ
）、各ベクトル間の内積を求める（ステップｂ）。次に
ベクトル間の内積の値が大きな文字パターン候補同士を
集めて、各文字パターン候補を複数のグループに分類す
る（ステップＣ）。

ここで、どのグループにも属さない文字パターン　０ 候補が複数７１在した場合は（ステップｄ）、これらを
個々に独立したグループとするか、またはこれらを一つ
のグループにまとめる（ステップｅ）。

さらに細かいグループ分けを行う場合は、前記各グルー
プ内の文字パターン候補について同様の手順で分類を行
えばよい。

ところで、上述した各ニューラルネット１１．１２〜３
１ては、その学習機能を、例えばパックプロパゲーショ
ンアルゴリズム等の学習アルゴリズムを用いて実現して
いる。

第４図は各ニューラルネットの基本構成を示している。

同図に示すように、この実施例のニューラルネットの基
本構成は、パターン・マツチングにより算出された各パ
ターン候補に対する類似度がそれぞれ入力される複数の
入力ノードＡからなる入力層と、各入力ノードＡとアー
クＢを介してネットワークで結合された複数の中間ノー
ドＣからなる中間層と、各中間ノードＣとアークＤを介
してネットワークで結合され、各パターン候補に対する
１ 類似度からそれぞれの最終的な正解確信度を示す値を出
力する出力ノードＥからなる出力層とから構成されてい
る。

また上述した各アークＢＳＤには、各ノード間の結合の
強さを示す荷重値か設定されており、これらの荷重値は
、次のネットワーク管理部により修正されるようになっ
ている。

このネットワーク管理部の構成を第５図を用いて説明す
る。

同図において、４１は入力ノードＡおよび中間ノードＣ
からそれぞれ出力されたデータを一時的に保持するノー
ド出力値テーブル、４２は各アクＢＳＤに設定された荷
重値を保持する荷重値テブル、４３は各入力ノードＡや
中間ノードＣからの出力データにそれぞれ荷重値テーブ
ル４２上の対応する荷重値を乗じて積算を行う積算器、
４４は個々の中間ノードＣや出力ノードＥに終結される
積算結果を加算する加算器である。また４５は通常の文
字認識において出力された各文字パタン候補に対する最
終的な積算値（類似度）の中２ から最大値を得た文字パターン候補を最終的な文字認識
結果として判定する判定器、４６は学習時において出力
された各文字パターン候補に対する最終的な積算値と本
来類似度が最大となってしかるべき正解のデータとをそ
れぞれ取込んで比較し、それぞれが一致しているかどう
かを評価する評価器、４７は評価器４６において各デー
タが一致しないと判定されたとき、当該入力文字パター
ンに対する次回からの文字認識処理において正解を得る
ような方向性を持って荷重値テーブル４２上の各荷重値
を修正する荷重値修正器、４８は全体学習データベース
３３からの学習データを格納する学習データベース、４
９は学習データベース４８の登録内容を管理する学習管
理器である。

次にこのネットワーク管理部による学習の基本動作を第
６図のフローチャートを用いて説明する。

まず学習データベース４８から、類似度の組合せとこれ
に対応する正解のデータの組を　１つずつ抽出しくステ
ップａ）、これを制御用ニューラルネット１１および各
サブニューラルネット１２〜３ ３１の各入力ノード出力値テーブル４１と評価器４６に
それぞれセットする（ステップｂ）。

さて入力ノード出力値テーブル４１に類似度がセットさ
れると、各類似度は入力ノードＡから中間ノードＣを介
して出力ノードＥに至るまでの間において、アークＢお
よびアークＤにそれぞれ設定された荷重値を用いて積算
、さらに加算され、最終的に各出力ノードＥに終結され
たそれぞれの値が各文字パターン候補に対する確からし
さを示す値（確信度）となる（ステップＣ）。

この後、各出力ノードＥから出力された各文字パターン
候補に対する値は評価器４６に出力される。評価器４６
は、各出力ノードＥから出力されたデータと正解のデー
タとを比較評価しくステップｄ）、その比較評価の結果
、両者が一致していなければ、荷重値修正器４７を起動
させて荷重値テーブル４２における各荷重値を、次回か
らの処理において正解のデータが得られるような方向性
を持って修正する（ステップｅ）。同時に学習管理器４
９は、今回の文字認識処理における入力類４ 低度の組合せと正解のデータとの組を「４び学習ブタと
して学習データヘ−ス４８に格納する。

全ての文字パターンのサンプルに対する　１回「１の学
習か終了すると、学習管理器４９は、２回目の学習を開
始させるため学習データベース４８から再度１組ずつ各
類似度の組合せと正解のデータとの組を抽出し、これら
を各ニューラルネット１１．１２〜３］にそれぞれセッ
トする。

以」−の学習動作を延々と繰り迦し、全ての文字パター
ンのサンプル（こついて止角１１′のデータか１１１ら
れるようになった時点て、あるいは所定回数の荷重値修
正を終えた時点で、全ての学習を終了させる（ステップ
ｆ）。

次にこの文字認識装置の動作を説明する。

ある手書きカナ文字についてパターン・マツチングを行
い、その拮果得た各文字パターン候補に対する類似度の
組合せか文字判定部４に入力されると、この類似度の組
合せは、制御用ニューラルネット１］および各ザブニュ
ーラルネット１２〜３１にそれぞれ渡される。

］５ すると制御用ニューラルネット］１は、前記各類似度の
紹合せから、どのサブニューラルネット１２〜３］の判
定結果か最も正解の確信度が高いかを決定し、そのネッ
ト番号を最終判定部３２に送る。

また、各ザブニューラルネット１２〜３１は、前記各類
似度の組合せから、それぞれ白身のグルプ内においてど
の文字パターン候補が入力文字パターンの認識結果とし
て最も確信度が高いか１′１１定し、これらの判定結果
を最終列に部３２に送る。

この紐束、最終判定部３２は、制御用ニューラルネット
１１で決定されたネット番号のザブニュラルネット１２
〜３］の判定結果を最終的な判定結果として判定しこれ
を出力する。

かくしてこの実施例の文字認識装置によれば、各ザブニ
ューラルネッ）・１２〜３］において、それぞれベクト
ル間の内積が大きいもの同士集めた文字パターン候補間
での学習および文字認識結果の判定を行うとともに、制
御用ニューラルネット１１において、とのサブニューラ
ルネット１２〜６ ３１か最も確信度の高い文字パターン候補を含んでいる
かを学習、判定するようにしたので、手書きカナ文字の
ように文字種類か多く、類似文字パターンを多く含んだ
ものであっても、高い正解率で文字認識を行うことがで
きる。

なお、上述した実施例では、文字判定部４の構造を、制
御用ニューラルネット１］どザブニュラルネット１２〜
３１の二段階のものとしたか、必要に応じてこれをさら
に多段階としたり、サブニューラルネットの数を１９個
以外にして文字認識を行わせてもよい。

また、この実施例では手書きカナ文字の認識について説
明したが、本発明はこれに駆足されるものではなく、例
えば、ローマ字や炭室等の認識にも適用が可能である。

［発明の効果］ 以上説明したように本発明の文字認識装置によれば、手
書きカナ文字のように文字種類が多く、多くの類似パタ
ーンを有した文字群についても、学習に長時間を要すこ
となく、高い正解率で文字７ 認識を行うことができる。

【図面の簡単な説明】

第１図は本発明に係る一実胞例の文字認識装置における
ニューラルネットを用いた文字判定部の構成を説明する
ためのブロック図、第２図は第１図の文字認識装置の全
体構成を説明するためのブロック図、地３図は第１図の
ザブニューラルネットにおける各文字パターン候補のグ
ループ分けの手順を示すフローチャート、第４図はニュ
ーラルネットの址本梠成を示す図、第５図は第４図のニ
ューラルネットにおけるネットワーク管理部の構成を説
明するためのブロック図、第６図は第５図のネットワー
ク管理部による学習の基本動作を示すフローチャー１・
である。 １１・・・制御用ニューラルネット、１２〜３１・・サ
ブニューラルネット、３２・・・最終判定部、３３・・
・全体学習データベース、３４・・・データ選別部。

Claims (1)

1. 【特許請求の範囲】 入力文字パターンと複数の文字パターン候補との各類似
   度から入力文字パターンの認識結果として最も確信度の
   高い文字パターン候補を判定する文字認識装置において
   、 前記各文字パターン候補をベクトル間の内積が大きいも
   の同士で複数のグループに分類し、各グループ毎に、前
   記各類似度から、本来類似度が最大となるべき文字パタ
   ーン候補が最終的な文字認識結果として出力されるよう
   学習を行い、かつ最も確信度の高い文字パターン候補を
   それぞれ判定する複数のサブニューラルネットと、 前記各類似度から、本来類似度が最大となるべき文字パ
   ターン候補を含むサブニューラルネットの判定結果が最
   終的な文字認識結果として判定されるよう学習を行い、
   かつ最も確信度の高い文字パターン候補を含むサブニュ
   ーラルネットを判定するニューラルネットとを具備する
   ことを特徴とする文字認識装置。