JPH0981689A - 文字認識方法とその装置 - Google Patents

文字認識方法とその装置

Info

Publication number
JPH0981689A
JPH0981689A JP7235334A JP23533495A JPH0981689A JP H0981689 A JPH0981689 A JP H0981689A JP 7235334 A JP7235334 A JP 7235334A JP 23533495 A JP23533495 A JP 23533495A JP H0981689 A JPH0981689 A JP H0981689A
Authority
JP
Japan
Prior art keywords
character
group
code
candidate
matching
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7235334A
Other languages
English (en)
Other versions
JP3792759B2 (ja
Inventor
Kazuhiro Matsubayashi
一弘 松林
Shinichi Sunakawa
伸一 砂川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP23533495A priority Critical patent/JP3792759B2/ja
Publication of JPH0981689A publication Critical patent/JPH0981689A/ja
Application granted granted Critical
Publication of JP3792759B2 publication Critical patent/JP3792759B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Character Discrimination (AREA)

Abstract

(57)【要約】 【課題】 従来の文字認識方法では、認識の確度を上げ
ることができなかった。 【解決手段】 画像から文字パターンを抽出して、対応
する候補文字コードとその確信度を獲得する文字候補獲
得工程(S1−S6)と、前記文字パターンをグループ
化して文字グループを生成するグルーピング工程(S
3)と、前記画像に含まれる前記生成された文字グルー
プに含まれる前記獲得された候補文字コードのマッチン
グを、文字グループ間毎に行い、一致する文字グループ
を検出する一致文字グループ検出工程(S6)と、前記
検出された一致する文字グループに含まれる候補文字コ
ードごとに対応する確信度を集計し、前記集計された確
信度に基づき、前記文字グループに含まれる文字パター
ンに対応する文字コードを決定する文字コード決定工程
(S7−S9)とを備える。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像から抽出した
文字を認識する文字認識方法とその装置に関する。
【0002】
【従来の技術】従来、画像から抽出した文字を認識して
対応する文字コードを出力する装置が知られている。図
13は、従来の文字認識手順を示すフローチャートであ
り、簡単に説明するる。
【0003】まず、S1000で画像データ入力を行
い、S1002でその画像データ記憶させる。S100
3では、画像データから文字パターンを含む領域を抽出
する。S1004では、文字認識辞書1005を探索し
て、文字認識処理を行ない、S1010では認識結果を
記憶する。
【0004】
【発明が解決しようとする課題】しかしながら、前記従
来の文字認識方法では、充分な認識の確度が得られない
という問題があった。本発明の目的は、上記従来例に鑑
みてなされたもので、より高い確信度で文字認識が可能
な文字認識方法とその装置を提供することを目的とす
る。
【0005】
【課題を解決するための手段】上記目的を達成するた
め、本発明の文字認識方法とその装置は以下の構成を備
える。即ち、画像から文字パターンを抽出して、対応す
る候補文字コードとその確信度を獲得する文字候補獲得
工程と、前記文字パターンをグループ化して文字グルー
プを生成するグルーピング工程と、前記画像に含まれる
前記生成された文字グループに含まれる前記獲得された
候補文字コードのマッチングを、文字グループ間毎に行
い、一致する文字グループを検出する一致文字グループ
検出工程と、前記検出された一致する文字グループに含
まれる候補文字コードごとに対応する確信度を集計し、
前記集計された確信度に基づき、前記文字グループに含
まれる文字パターンに対応する文字コードを決定する文
字コード決定工程とを備える。
【0006】また、別の発明は、複数の画像から文字パ
ターンを抽出して、対応する候補文字コードとその確信
度を獲得する文字候補獲得工程と、前記文字パターンを
グループ化して文字グループを生成するグルーピング工
程と、前記複数の画像の各々に含まれる前記生成された
文字グループに含まれる前記獲得された候補文字コード
のマッチングを、文字グループ間毎に行い、一致する文
字グループを検出する一致文字グループ検出工程と、前
記検出された一致する文字グループに含まれる候補文字
コードごとに対応する確信度を集計し、前記集計された
確信度に基づき、前記文字グループに含まれる文字パタ
ーンに対応する文字コードを決定する文字コード決定工
程とを備える。
【0007】また、別の発明は、画像から文字パターン
を抽出して、対応する候補文字コードとその確信度を獲
得する文字候補獲得手段と、前記文字パターンをグルー
プ化して文字グループを生成するグルーピング手段と、
前記画像に含まれる前記生成された文字グループに含ま
れる前記獲得された候補文字コードのマッチングを、文
字グループ間毎に行い、一致する文字グループを検出す
る一致文字グループ検出手段と、前記検出された一致す
る文字グループに含まれる候補文字コードごとに対応す
る確信度を集計し、前記集計された確信度に基づき、前
記文字グループに含まれる文字パターンに対応する文字
コードを決定する文字コード決定手段とを備える。
【0008】また、別の発明は、複数の画像から文字パ
ターンを抽出して、対応する候補文字コードとその確信
度を獲得する文字候補獲得手段と、前記文字パターンを
グループ化して文字グループを生成するグルーピング手
段と、前記複数の画像の各々に含まれる前記生成された
文字グループに含まれる前記獲得された候補文字コード
のマッチングを、文字グループ間毎に行い、一致する文
字グループを検出する一致文字グループ検出手段と、前
記検出された一致する文字グループに含まれる候補文字
コードごとに対応する確信度を集計し、前記集計された
確信度に基づき、前記文字グループに含まれる文字パタ
ーンに対応する文字コードを決定する文字コード決定手
段とを備える。
【0009】また、別の発明は、コンピュータプログラ
ム製品であって、画像から文字パターンを抽出して、対
応する候補文字コードとその確信度を獲得する、コンピ
ュータ読み取り可能な第1のプログラムコード手段と、
前記文字パターンをグループ化して文字グループを生成
する、コンピュータ読み取り可能な第2のプログラムコ
ード手段と、前記画像に含まれる前記生成された文字グ
ループに含まれる前記獲得された候補文字コードのマッ
チングを、文字グループ間毎に行い、一致する文字グル
ープを検出する、コンピュータ読み取り可能な第3のプ
ログラムコード手段と、前記検出された一致する文字グ
ループに含まれる候補文字コードごとに対応する確信度
を集計し、前記集計された確信度に基づき、前記文字グ
ループに含まれる文字パターンに対応する文字コードを
決定する、コンピュータ読み取り可能な第4のプログラ
ムコード手段とを備える。
【0010】また、別の発明は、コンピュータプログラ
ム製品であって、複数の画像から文字パターンを抽出し
て、対応する候補文字コードとその確信度を獲得する、
コンピュータ読み取り可能な第1のプログラムコード手
段と、前記文字パターンをグループ化して文字グループ
を生成する、コンピュータ読み取り可能な第2のプログ
ラムコード手段と、前記複数の画像に含まれる前記生成
された文字グループに含まれる前記獲得された候補文字
コードのマッチングを、文字グループ間毎に行い、一致
する文字グループを検出する、コンピュータ読み取り可
能な第3のプログラムコード手段と、前記検出された一
致する文字グループに含まれる候補文字コードごとに対
応する確信度を集計し、前記集計された確信度に基づ
き、前記文字グループに含まれる文字パターンに対応す
る文字コードを決定する、コンピュータ読み取り可能な
第4のプログラムコード手段とを備える。
【0011】
【発明の実施の形態】はじめに、本発明に係る一実施の
形態のポイントを要約した後に、その詳細な説明に入
る。本発明に係る文字認識方法の一実施の形態では、複
数の画像から文字パターンを抽出し、抽出された文字パ
ターンの認識処理を行って、文字パターンに対応する文
字コードの候補とその確信度(得点)を求める。また、
各文字パターンの位置関係で、互いに近いもの同士を1
つのグループとしてグルーピングする。そして、上述の
複数の画像間で、そのグループ単位で、選ばれた文字コ
ードの候補に基づいて、文字パターンの対応をとり、グ
ループ単位でのマッチングをとる。
【0012】次に、マッチングが取られたグループに含
まれる文字パターンについて、文字コード候補ごとの得
点を集計する。そして、その得点集計結果に基づいて、
最終的に、文字パターンに対する文字コードを確定す
る。この様に、単独の画像単位で認識するのではなく、
複数の画像間での文字グループのマッチングをとること
に基づいて文字認識を行うことにより、より確度の高い
文字認識が可能になった。
【0013】即ち、複数の画像間で対応する文字が異な
った認識結果が得られた場合でも、上述の得点集計結果
に基づいて、単独の画像内での認識結果を修正できるた
め、より信頼性の高い文字認識を可能とした。次に、本
実施の形態に係る文字認識装置の詳細な説明を行う。 (第1の実施の形態)図1は、本実施の形態の文字認識
装置のハードウェア構成図である。
【0014】21は画像入力装置であり、ビデオカメラ
やイメージスキャナから画像を取り込んだり、ハードデ
ィスクやCD−ROMから画像データを読み込んだり、
通信機器から画像データを受信したりする。22は画像
メモリであり、入力された画像データを一時的に記憶す
る。23はCPUであり、後述する各文字認識処理のフ
ローチャートに対応するプログラムを格納しているプロ
グラム記憶メモリ24から、プログラムを逐次読み出
し、解釈し、実行する。
【0015】25は辞書パターン記憶メモリであり、文
字認識で用いる辞書パターンを記憶する。26はデータ
メモリであり、文字認識処理の途中結果や最終結果のデ
ータを記憶したり、CPUによる文字認識処理の実行に
必要な作業領域として使われる。27は指示装置であ
り、キーボード、マウス、ペンなどを備え、本文字認識
装置での各種動作の指示やデータ入力を行なう。
【0016】28は表示装置であり、CRTやLCDな
どを備え、処理対象の画像や各種データを画面に表示す
る。次に、図2は、図1のハードウェア上で処理される
文字認識処理手順を示すフローチャートである。尚、以
下に示すフローチャートに対応するプログラムは、プロ
グラム記憶メモリ24に格納されており、CPU23に
よって実行される。
【0017】ステップS1では、画像入力装置21から
複数の静止画像または動画像画像を入力する。ステップ
S2では、入力された複数の画像データを画像メモリ2
2に記憶する。ステップS3では、画像データから各文
字パターンを含む領域を抽出する処理を行なう。
【0018】ステップS4では、辞書パターン記憶メモ
リ25の辞書パターンを参照して、文字認識処理を行な
う。これは、通常行われている所定の文字特徴に関し
て、辞書パターンの特徴と認識対象の文字の特徴との距
離によって行えばよい。この距離の近い順に認識候補の
文字コードが辞書から抽出され、各抽出された認識候補
の文字コードにはその距離、即ち、確信度(例えば、距
離の小さいものには、高い確信度、即ち、より大きな数
字を対応させる)の情報がアタッチされる。
【0019】尚、後述する本ステップのさらに詳細な処
理手順の一例を図15に示す。ステップS5では、ステ
ップS4の認識結果の認識候補の文字コードと確信度を
データメモリ26に格納する。また、各文字パターンの
画像でのレイアウト位置の近く、また、同じサイズの文
字パターンを同じグループとするグルーピングを行う。
【0020】ステップS6では、複数の入力画像間でグ
ループ単位で、グループ内の文字コードが一致するもの
を探索する。ステップS7では、ステップS6で一致が
検出されたグループ単位で、そのグループに属する各文
字パターンの認識候補文字コードの確信度の集計を行
う。例えば、同じ認識候補文字コードごとの合計を取
る。
【0021】ステップS8では、ステップS7での集計
結果に基づいて、確信度の最も高い最適な候補を選択
し、対応する文字パターンの認識結果として決定する。
そして、その認識結果の文字を表示装置28に出力す
る。ステップS9では、決定した認識結果をデータメモ
リ26に記憶する。以上説明したように、単独の画像単
位で認識するのではなく、複数の画像間での文字グルー
プのマッチングをとることに基づいて文字認識を行うこ
とにより、より確度の高い文字認識が可能になった。 (第2の実施の形態)以上、第1の実施の形態の文字認
識手順の概略を説明した。次に、第1の実施の形態での
基本的処理コンセプトは、同じであるが、別の処理手順
による実現方法をより詳細に説明する。
【0022】まず、図3のフローチャートを用いて、本
発明の第2の実施の形態について説明する。ステップS
31において、1枚分の画像データを画像メモリに入力
する。例えば図4(a)のような地図の画像を入力す
る。ステップS32において、画像データからグループ
ごとの文字群を抽出し、辞書25を参照して、認識候補
の文字コードとその確信度を得る。この結果を、データ
メモリ26に格納する。
【0023】そして、例えば、その抽出され、認識され
た文字パターンに関して、図5のようなデータ構造を生
成する。文字群のグループ分けは、各文字パターンが互
いに近く配置されおり、サイズが同じものを集めことに
よっておこなう。図5のデータ構造は、大きく3カテゴ
リに分類できる。第1のカテゴリは、500、501に
示すような、各グループごとに有するグループテーブル
である。第2のカテゴリは、そのグループテーブル(5
00、501)からアドレスポイントされ、各グループ
に含まれる各文字パターン(画像中の)のサイズに関す
る情報(x,y座標、幅、高さ、等)と文字パターンに
対応する文字コードを格納している認識候補テーブル
(503、504)へのアドレスポインタを有する文字
パターン情報テーブル(502)である。最後の第3の
カテゴリは、文字パターン情報テーブル(502)から
アドレスポイントされ、各文字パターンに対応する認識
結果である各認識候補の文字コードとその得点(即ち、
確信度)を格納している認識候補テーブル(503、5
04)である。
【0024】本処理によって、図4(a)の画像に関し
て処理した場合において、生成されたデータ構造が図5
であり、この内容に関して以下説明する。図5を参照し
て、グループテーブル(500)は、図4(a)の「宮
沢町」に関するもので、他方、グループテーブル(50
1)は、図4(a)の「東区」に関するものである。グ
ループテーブル(500、501)の左欄は、テーブル
自体内での、各文字パターンに関する情報が格納されて
いる位置のアドレスポインタ(右欄)を格納しているア
ドレスを示す。
【0025】尚、各文字の位置や大きさの情報からこれ
らの5文字のうち“宮”、“沢”、“町”の3文字は
“宮沢町”という語を構成するとみなし、1つの文字群
としてグループ単位でループテーブル(500)で管理
している。同様に“東”、“区”の2文字の“東区”と
いう語を構成する1つのグループとして、ループテーブ
ル(501)で管理している。
【0026】文字パターン情報テーブル(502)のア
ドレス2000Hから順に、“宮”、“沢”、“東”、
“区”“町”の各文字の「x座標、y座標、幅、高
さ」、と文字認識候補の情報が格納されている位置を示
すアドレスポインタがそれぞれ格納される。尚、
“東”、“区”、“町”の各パターンに対しては、記述
を簡単にするため、アドレスポインタの行き先を示す矢
印を省略している。
【0027】認識候補テーブル(503)のアドレス3
000Hからは、“宮”という文字パターンの認識候補
として“宮”、“官”、“宜”の文字コードと得点が格
納される。同様に、認識候補テーブル(504)のアド
レス3010Hからは、“沢”という文字パターンの認
識候補として“沢”、“況”という文字コードと得点が
格納される。
【0028】尚、図示していないが、“東”、“区”
“町”の各文字についても、同様に候補の文字コードと
得点が格納される。次に、ステップS33において、上
のステップで処理した画像が、1枚目の入力画像である
かチェックし、1枚目であれば、ステップS35へ進
む。そして、ステップS35では、全画像について処理
を終了したかチェックし、まだ、残りの画像があれば、
ステップS31に戻り、次の画像の入力を行う。2枚目
の入力画像の例を図4(b)に示す。以下、この画像に
関して、上述のステップS32、ステップS33、ステ
ップS34の処理を実行してゆく。
【0029】そして、ステップS35の判定で、全画像
について処理を終了すれば、ステップS36へ進み、全
画像の全文字グループについて認識候補の中から、集計
の確信度の高いものを選択して、文字コードを確定し、
その結果を表示装置に表示する。尚、ステップS36の
処理は、図9を参照して後述する。上述のステップS3
3で、処理した画像が1枚目でなければ、ステップS3
4に進み、ステップS34では、1枚目の画像と2枚目
の画像で、同一のグループ化された語があるかどうか判
定する。本ステップでの詳細な処理は、図7を参照して
後述するが、結果として、1枚目の画像で“宮沢町”と
認識された文字グループと、2枚目の画像で“宮沢町”
と認識された文字グループは、同一であると判定され
る。他方、1枚目の画像で“東区”と認識された文字グ
ループと2枚目の画像で“西区”と認識された文字グル
ープは同一でないと判定される。
【0030】尚、図4(a),(b)の2枚の画像を入
力して認識する例を示したが、2枚以上であってもよい
ことは言うまでもない。次に、図6のフローチャートを
用いて、図3のステップS32での画像データから文字
群を抽出する詳細な処理手順を説明する。ステップS4
1において、画像から文字を含む領域を抽出する。これ
には文字と背景の輝度や色の違いによって抽出する方法
や、周波数成分の特徴の違いによって抽出する方法など
を用いればよい。
【0031】ステップS42において、文字を1文字ず
つのパターンに分離する。これには特定の色の画素を連
結したパターンについて形や大きさが所定の条件を満た
すかどうかで判定する。ステップS43において、分離
されたパターンに対して、辞書パターン記憶メモリ25
に格納されている辞書パターンを検索することで文字認
識を行ない、候補の文字コード及び得点(認識の確から
しさ:確信度)を得る。また、文字のx座標、y座標、
幅、高さの情報も得る。
【0032】ステップS44において、各文字の座標か
ら所定の範囲内の距離にある文字を統合し、文字群とし
てグループ単位で管理する。例えば、注目する文字に対
して上下左右1文字分の範囲内に他の文字があればその
文字を同じ文字群に統合する。これにより、縦書き、横
書き、斜め書きにかかわらず、1つの語を構成する文字
をまとめる。
【0033】次に、図7のフローチャートを用いて、図
3のステップS34での処理、即ち、複数の画像間で、
同一のグループ語があるかどうか判定する動作について
説明する。ステップS51において、ステップS32で
選択された、認識文字コードの候補とその確信度を含む
文字グループをデータメモリから取り込む。
【0034】ステップS52において、ステップS51
で取り込んだ文字グループと一致する文字グループが他
の画像の文字グループにあるかをチェックするために、
含まれる文字コード単位で比較する。そして、同一の文
字でなければステップS56へ進み別の語と判定し、ス
テップS55へ進む。逆に、同一の文字があれば、ステ
ップS53へ進む。
【0035】ステップS53では、文字グループ内の全
文字について、比較が終了したかどうかをチェックす
る。そして、文字グループ内の全文字が一致すれば、ス
テップS54において同一文字グループとし、その結果
をデータメモリ26に格納する。ステップS55では、
全文字グループの組み合わせにおいて、比較が終了した
かどうかチェックし、終了していなければ、ステップS
51に戻り、同様の処理を繰り返す。全文字グループの
全組み合わせでの比較が終了すれば、本処理を終了す
る。
【0036】尚、上述のステップS54やステップS5
6での判定は、図8に示す様なグループ一致判定テーブ
ルを、データメモリ26上に作成して、一致マーク(図
8では丸印)を格納しておくことで実現される。図8の
表示で示されるように、画像1の文字グループと画像2
の文字グループ2とは、文字1と文字1、文字2と文字
2、文字3と文字3とがそれぞれ同じ候補を含むので同
一の語とみなすことができる。また画像1の文字グルー
プ2と画像1の文字グループ2とは、文字2と文字2は
同じ候補を含むが文字1と文字1は同じ候補を含まない
ので別の語とみなす。
【0037】次に、図9のフローチャートを用いて、図
3のステップ36の文字コードの確定処理を説明する。
まず、ステップS61において、同一の文字グループの
組をデータメモリ26から取り込む。ステップS62に
おいて、ステップS61で取り込んだ文字グループ内の
対応する同じ候補文字コードの得点を集計する。集計方
法としては、各候補ごとの全画像の得点を加算してもよ
いし、また、各候補ごとの全画像中の最高点を取り出し
て得点としてもよい。
【0038】ステップS63において、集計点が高い候
補を選び出し、対応する文字の認識結果として確定し、
表示装置に表示する。図10(a)は、集計処理の一例
を説明するための図であり、ここでは、5枚の入力画像
での文字パターン「宮」に対する、“宮”、“官”、
“宜”の候補文字の得点の例として加算する方法を用い
た集計結果を示す。この結果、得点合計は、それぞれ2
50点、200点、40点となり、“宮”が最も集計点
が高い。したがって1から5までのすべての画像におい
て、この文字を“宮”として確定する。すなわち2枚目
の画像と5枚目の画像の誤認識が修正されることにな
る。
【0039】本実施の形態では、複数の画像の中に共通
に含まれる語について共通の認識結果を出力するので、
複数の画像のうち、ある画像の文字が誤認識しても、他
の画像の認識結果によって自動的に修正することがで
き、結果として認識の確度を上げることができるという
効果がある。 (第3の実施例)本発明の第3の実施の形態において
は、図11のように動画像内のテロップの認識方法につ
いて説明する。
【0040】テロップは、背景画像の影響などで正しく
認識されない場合がある。例えば、図10(b)の画像
2のように、正しい文字“宮”の得点が0で、文字候補
から漏れてしまう場合もあり得る。そこで、背景画像が
図11(a)から図11(b)のように変わってもテロ
ップは動かないという条件を加えることで、文字グルー
プの文字数及び各文字の座標、大きさが同じであれば同
一の語とみなすことができる。
【0041】図12のフローチャートを用いて、同一の
語があるかどうか判定する動作について説明する。ステ
ップS121において、2つの画像から文字グループを
1つずつ入力する。ステップS122において、文字グ
ループの文字数が等しいかどうか判定し、等しくなけれ
ばステップS128へ進み、別の語と判定する。
【0042】他方、文字数が等しいかどうかチェック
し、等しければステップS123へ進む。ステップS1
23では、文字の座標(x座標とy座標の双方)が等し
いかどうか判定し、等しくなければステップS128へ
進み別の語と判定する。等しければステップS124へ
進む。
【0043】ステップS124では、文字の大きさ(幅
と高さの双方)が等しいかどうか判定し、等しくなけれ
ばステップS128へ進み別の語と判定する。等しけれ
ばステップS125へ進む。ステップS125では、文
字グループ内の全文字に関して処理が終了したかチェッ
クし、終了していなければ、ステップS123に戻り、
同様の処理を繰り返す。終了すれば、ステップS126
に進み、文字グループ内の全文字について座標と大きさ
が等しい文字の組み合わせができたとして、同一文字グ
ループと判定する。
【0044】ステップS127では、全文字グループの
組み合わせについて、上述の処理がが終了したかチェッ
クし、終了していなければ、ステップS121に戻り、
終了するまで繰り返す。上述の処理を、同一文字グルー
プの判定にさらに加えることで、例えば、図10(b)
に示すように、“宮”の合計点が最も高い結果が得ら
れ、1から5までのすべての画像において、この文字を
“宮”として確定できる。
【0045】尚、本実施の形態では、テロップのように
文字が静止しているという条件をさらに加えることで、
複数の画像のうち、ある画像が誤認識で候補から漏れて
も、他の画像の認識結果によって自動的に修正すること
ができ、認識確度を上げることができるという効果があ
る。尚、上述の説明では、複数の画像間での文字グルー
プのマッチングに基づいて、文字パターンに対する文字
コードの決定を行っている例を示したが、これは、複数
の画像間ではなく、同じ画像内での文字グループのマッ
チングに基づいて、文字パターンに対する文字コードの
決定を行ってもよいことは言うまでもない。
【0046】次に、図14は、プログラム記憶メモリ2
4にアサインされた上述したフローチャートの各処理に
対応する各プログラムのレイアウトの一例を示す。尚、
このプログラムは、フロッピーディスクなどの可搬可能
な媒体に格納され、実行時に、メモリ202にロードさ
れて、CPU23によって実行されてもよいことは言う
までもない。
【0047】140には、ステップS1−S2の画像入
力/格納処理を行うプログラムが格納されている。14
2には、ステップS3の文字パターン抽出処理を行うプ
ログラムが格納されている。143には、ステップS3
で抽出された文字パターンに対応する候補文字パターン
を辞書25から抽出し、確信度を求める処理を行う文字
認識プログラムが格納されている。
【0048】144には、ステップS3で抽出された文
字パターンのグルーピング処理を行うプログラムが格納
されている。145には、ステップS7の得点(確信
度)集計処理を行うプログラムが格納されている。
【0049】146には、ステップS8での文字コード
決定処理を行うプログラムが格納されている。147に
は、ステップS8での文字コード決定処理を行った後、
表示装置にその結果を表示するプログラムが格納されて
いる。尚、図14のレイアウトの順に、特別の意味はな
く任意の順でよい。
【0050】次に、図2のステップS4の文字認識処理
の詳細な処理の一例を、図15を参照して説明する。ま
ず、図15を参照して、ステップS151では、ステッ
プS3で切り出された各文字パターンを入力する。ステ
ップS152では、入力した文字パターンの幅と高さを
それぞれ拡大、または、縮小して、所定の大きさに正規
化する。
【0051】ステップS153では、正規化パターンを
所定の閾値で2値化する。ステップS154では、従来
から知られている細線化の方法で2値化されたパターン
を細線化処理する。ステップS155では、細線化処理
されたパターン、または、その所定の特徴量と文字認識
辞書5とのマッチングを行う。
【0052】ステップS156では、マッチング結果と
して、マッチング距離の近い、即ち、確信度の高い文字
候補を選択する。以上、ステップS4での詳細な処理の
一例を示した。尚、本発明は、ホストコンピュータ、イ
ンタフェース、表示装置等の複数の機器から構成される
システムに適用しても、1つの機器からなる装置に適用
しても良い。また、本発明はシステム或は装置にプログ
ラムを供給することによって達成される場合にも適用で
きることはいうまでもない。この場合、本発明を達成す
るためのソフトウェアによって表されるプログラムを格
納した記憶媒体から、該プログラムを該システム或は装
置に読み出すことによって、そのシステム或は装置が、
本発明の効果を享受することが可能となる。
【0053】以上述べたように、画像から文字パターン
を抽出する手段と、抽出された文字パターンを認識し文
字コードの候補及び各候補の得点を出力する手段と、複
数の画像間でグループ単位で文字パターンを対応させる
手段と、対応するグループの文字パターンについて文字
コードの候補ごとの得点を集計する手段と、得点集計結
果に基づいて前記文字コードの候補及び各候補の得点を
修正する手段とを設けたことにより、より確度の高い文
字認識を行うことができる。
【0054】
【発明の効果】以上説明したように本発明によれば、よ
り高い確信度で文字認識が可能な文字認識をおこなうこ
とができる。
【図面の簡単な説明】
【図1】本発明の文字認識装置のブロック図である。
【図2】本発明の文字認識処理手順を示すフローチャー
トである。
【図3】本発明の第2の実施の形態の文字認識処理手順
を示すフローチャートである。
【図4】入力画像の一例を示す図である。
【図5】画像データから文字グループを抽出した結果得
られるデータの例を示した図である。
【図6】画像データから文字グループを抽出する動作を
示したフローチャートである。
【図7】同一グループ語を判定する動作を示したフロー
チャートである。
【図8】複数の画像間での文字の対応の例を示したグル
ープ一致判定テーブルの図である。
【図9】判定認識候補の中から文字コードを確定する処
理手順を示したフローチャートである。
【図10】複数の入力画像に対する各候補の得点の例を
示す図である。
【図11】入力画像の例を示す図である。
【図12】同一語を判定する処理手順を示したフローチ
ャートである。
【図13】従来の文字認識装置のフローチャートであ
る。
【図14】本実施の形態に係る文字認識処理の各プログ
ラムのレイアウトを示す図である。
【図15】図2のステップS4での文字認識処理の詳細
な処理例を示すフローチャートである。
【符号の説明】
21 画像入力装置 22 画像メモリ 23 CPU 24 プログラム記憶メモリ 25 辞書パターン記憶メモリ

Claims (42)

    【特許請求の範囲】
  1. 【請求項1】 画像から文字パターンを抽出して、対応
    する候補文字コードとその確信度を獲得する文字候補獲
    得工程と、 前記文字パターンをグループ化して文字グループを生成
    するグルーピング工程と、 前記画像に含まれる前記生成された文字グループに含ま
    れる前記獲得された候補文字コードのマッチングを、文
    字グループ間毎に行い、一致する文字グループを検出す
    る一致文字グループ検出工程と、 前記検出された一致する文字グループに含まれる候補文
    字コードごとに対応する確信度を集計し、前記集計され
    た確信度に基づき、前記文字グループに含まれる文字パ
    ターンに対応する文字コードを決定する文字コード決定
    工程とを備えることを特徴とする文字認識方法。
  2. 【請求項2】 前記対応する候補文字コードとその確信
    度を獲得する方法は、前記抽出された文字パターンから
    所定の特徴抽出を行って得られた特徴と、所定の辞書に
    格納されている各文字コードに対応する特徴とのマッチ
    ングに基づいて、獲得されることを特徴とする請求項1
    に記載の文字認識方法。
  3. 【請求項3】 前記グルーピング工程は、前記文字パタ
    ーン間の距離が近い文字パターンを同じグループとして
    グループ化することを特徴とする請求項1に記載の文字
    認識方法。
  4. 【請求項4】 前記グルーピング工程は、前記文字パタ
    ーン間の距離が近く、さらに、サイズが概同じ文字パタ
    ーンを同じグループとしてグループ化することを特徴と
    する請求項3に記載の文字認識方法。
  5. 【請求項5】 前記確信度を集計する方法は、前記検出
    された一致する文字グループに含まれる候補文字コード
    ごとに対応する確信度の合計を求めることを特徴とする
    請求項1に記載の文字認識方法。
  6. 【請求項6】 前記確信度を集計する方法は、前記検出
    された一致する文字グループに含まれる候補文字コード
    ごとに対応する確信度のうちの最大値を集計値とするこ
    とを特徴とする請求項1に記載の文字認識方法。
  7. 【請求項7】 前記集計された確信度に基づき、前記文
    字グループに含まれる文字パターンに対応する文字コー
    ドを決定する方法は、 前記集計された確信度の高い候補文字コードを選択し
    て、前記文字グループに含まれる文字パターンに対応す
    る文字コードとして決定することを特徴とする請求項1
    に記載の文字認識方法。
  8. 【請求項8】 複数の画像から文字パターンを抽出し
    て、対応する候補文字コードとその確信度を獲得する文
    字候補獲得工程と、 前記文字パターンをグループ化して文字グループを生成
    するグルーピング工程と、 前記複数の画像の各々に含まれる前記生成された文字グ
    ループに含まれる前記獲得された候補文字コードのマッ
    チングを、文字グループ間毎に行い、一致する文字グル
    ープを検出する一致文字グループ検出工程と、 前記検出された一致する文字グループに含まれる候補文
    字コードごとに対応する確信度を集計し、前記集計され
    た確信度に基づき、前記文字グループに含まれる文字パ
    ターンに対応する文字コードを決定する文字コード決定
    工程とを備えることを特徴とする文字認識方法。
  9. 【請求項9】 前記対応する候補文字コードとその確信
    度を獲得する方法は、前記抽出された文字パターンから
    所定の特徴抽出を行って得られた特徴と、所定の辞書に
    格納されている各文字コードに対応する特徴とのマッチ
    ングに基づいて、獲得されることを特徴とする請求項8
    に記載の文字認識方法。
  10. 【請求項10】 前記グルーピング工程は、前記文字パ
    ターン間の距離が近い文字パターンを同じグループとし
    てグループ化することを特徴とする請求項8に記載の文
    字認識方法。
  11. 【請求項11】 前記グルーピング工程は、前記文字パ
    ターン間の距離が近く、さらに、サイズが概同じ文字パ
    ターンを同じグループとしてグループ化することを特徴
    とする請求項10に記載の文字認識方法。
  12. 【請求項12】 前記確信度を集計する方法は、前記検
    出された一致する文字グループに含まれる候補文字コー
    ドごとに対応する確信度の合計を求めることを特徴とす
    る請求項8に記載の文字認識方法。
  13. 【請求項13】 前記確信度を集計する方法は、前記検
    出された一致する文字グループに含まれる候補文字コー
    ドごとに対応する確信度のうちの最大値を集計値とする
    ことを特徴とする請求項8に記載の文字認識方法。
  14. 【請求項14】 前記集計された確信度に基づき、前記
    文字グループに含まれる文字パターンに対応する文字コ
    ードを決定する方法は、 前記集計された確信度の高い候補文字コードを選択し
    て、前記文字グループに含まれる文字パターンに対応す
    る文字コードとして決定することを特徴とする請求項8
    に記載の文字認識方法。
  15. 【請求項15】 画像から文字パターンを抽出して、対
    応する候補文字コードとその確信度を獲得する文字候補
    獲得手段と、 前記文字パターンをグループ化して文字グループを生成
    するグルーピング手段と、 前記画像に含まれる前記生成された文字グループに含ま
    れる前記獲得された候補文字コードのマッチングを、文
    字グループ間毎に行い、一致する文字グループを検出す
    る一致文字グループ検出手段と、 前記検出された一致する文字グループに含まれる候補文
    字コードごとに対応する確信度を集計し、前記集計され
    た確信度に基づき、前記文字グループに含まれる文字パ
    ターンに対応する文字コードを決定する文字コード決定
    手段とを備えることを特徴とする文字認識装置。
  16. 【請求項16】 前記対応する候補文字コードとその確
    信度の獲得は、前記抽出された文字パターンから所定の
    特徴抽出を行って得られた特徴と、所定の辞書に格納さ
    れている各文字コードに対応する特徴とのマッチングに
    基づいて、獲得されることを特徴とする請求項15に記
    載の文字認識装置。
  17. 【請求項17】 前記グルーピング手段は、前記文字パ
    ターン間の距離が近い文字パターンを同じグループとし
    てグループ化することを特徴とする請求項15に記載の
    文字認識装置。
  18. 【請求項18】 前記グルーピング手段は、前記文字パ
    ターン間の距離が近く、さらに、サイズが概同じ文字パ
    ターンを同じグループとしてグループ化することを特徴
    とする請求項17に記載の文字認識装置。
  19. 【請求項19】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度の合計を求めることを特徴とする請求項
    15に記載の文字認識装置。
  20. 【請求項20】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度のうちの最大値を集計値とすることを特
    徴とする請求項15に記載の文字認識装置。
  21. 【請求項21】 前記集計された確信度に基づき、前記
    文字グループに含まれる文字パターンに対応する文字コ
    ードの決定は、 前記集計された確信度の高い候補文字コードを選択し
    て、前記文字グループに含まれる文字パターンに対応す
    る文字コードとして決定することを特徴とする請求項1
    5に記載の文字認識装置。
  22. 【請求項22】 複数の画像から文字パターンを抽出し
    て、対応する候補文字コードとその確信度を獲得する文
    字候補獲得手段と、 前記文字パターンをグループ化して文字グループを生成
    するグルーピング手段と、 前記複数の画像の各々に含まれる前記生成された文字グ
    ループに含まれる前記獲得された候補文字コードのマッ
    チングを、文字グループ間毎に行い、一致する文字グル
    ープを検出する一致文字グループ検出手段と、 前記検出された一致する文字グループに含まれる候補文
    字コードごとに対応する確信度を集計し、前記集計され
    た確信度に基づき、前記文字グループに含まれる文字パ
    ターンに対応する文字コードを決定する文字コード決定
    手段とを備えることを特徴とする文字認識装置。
  23. 【請求項23】 前記対応する候補文字コードとその確
    信度の獲得は、前記抽出された文字パターンから所定の
    特徴抽出を行って得られた特徴と、所定の辞書に格納さ
    れている各文字コードに対応する特徴とのマッチングに
    基づいて、獲得されることを特徴とする請求項22に記
    載の文字認識装置。
  24. 【請求項24】 前記グルーピング手段は、前記文字パ
    ターン間の距離が近い文字パターンを同じグループとし
    てグループ化することを特徴とする請求項22に記載の
    文字認識装置。
  25. 【請求項25】 前記グルーピング手段は、前記文字パ
    ターン間の距離が近く、さらに、サイズが概同じ文字パ
    ターンを同じグループとしてグループ化することを特徴
    とする請求項24に記載の文字認識装置。
  26. 【請求項26】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度の合計を求めることを特徴とする請求項
    22に記載の文字認識装置。
  27. 【請求項27】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度のうちの最大値を集計値とすることを特
    徴とする請求項22に記載の文字認識装置。
  28. 【請求項28】 前記集計された確信度に基づき、前記
    文字グループに含まれる文字パターンに対応する文字コ
    ードの決定は、 前記集計された確信度の高い候補文字コードを選択し
    て、前記文字グループに含まれる文字パターンに対応す
    る文字コードとして決定することを特徴とする請求項2
    2に記載の文字認識装置。
  29. 【請求項29】 コンピュータプログラム製品であっ
    て、 画像から文字パターンを抽出して、対応する候補文字コ
    ードとその確信度を獲得する、コンピュータ読み取り可
    能な第1のプログラムコード手段と、 前記文字パターンをグループ化して文字グループを生成
    する、コンピュータ読み取り可能な第2のプログラムコ
    ード手段と、 前記画像に含まれる前記生成された文字グループに含ま
    れる前記獲得された候補文字コードのマッチングを、文
    字グループ間毎に行い、一致する文字グループを検出す
    る、コンピュータ読み取り可能な第3のプログラムコー
    ド手段と、 前記検出された一致する文字グループに含まれる候補文
    字コードごとに対応する確信度を集計し、前記集計され
    た確信度に基づき、前記文字グループに含まれる文字パ
    ターンに対応する文字コードを決定する、コンピュータ
    読み取り可能な第4のプログラムコード手段とを備える
    ことを特徴とするコンピュータプログラム製品。
  30. 【請求項30】 前記対応する候補文字コードとその確
    信度の獲得は、前記抽出された文字パターンから所定の
    特徴抽出を行って得られた特徴と、所定の辞書に格納さ
    れている各文字コードに対応する特徴とのマッチングに
    基づいて、獲得されることを特徴とする請求項29に記
    載のコンピュータプログラム製品。
  31. 【請求項31】 前記第3のプログラムコード手段は、
    前記文字パターン間の距離が近い文字パターンを同じグ
    ループとしてグループ化することを特徴とする請求項2
    9に記載のコンピュータプログラム製品。
  32. 【請求項32】 前記第3のプログラムコード手段は、
    前記文字パターン間の距離が近く、さらに、サイズが概
    同じ文字パターンを同じグループとしてグループ化する
    ことを特徴とする請求項31に記載のコンピュータプロ
    グラム製品。
  33. 【請求項33】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度の合計を求めることを特徴とする請求項
    29に記載のコンピュータプログラム製品。
  34. 【請求項34】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度のうちの最大値を集計値とすることを特
    徴とする請求項29に記載のコンピュータプログラム製
    品。
  35. 【請求項35】 前記集計された確信度に基づき、前記
    文字グループに含まれる文字パターンに対応する文字コ
    ードの決定は、 前記集計された確信度の高い候補文字コードを選択し
    て、前記文字グループに含まれる文字パターンに対応す
    る文字コードとして決定することを特徴とする請求項2
    9に記載のコンピュータプログラム製品。
  36. 【請求項36】 コンピュータプログラム製品であっ
    て、 複数の画像から文字パターンを抽出して、対応する候補
    文字コードとその確信度を獲得する、コンピュータ読み
    取り可能な第1のプログラムコード手段と、 前記文字パターンをグループ化して文字グループを生成
    する、コンピュータ読み取り可能な第2のプログラムコ
    ード手段と、 前記複数の画像に含まれる前記生成された文字グループ
    に含まれる前記獲得された候補文字コードのマッチング
    を、文字グループ間毎に行い、一致する文字グループを
    検出する、コンピュータ読み取り可能な第3のプログラ
    ムコード手段と、 前記検出された一致する文字グループに含まれる候補文
    字コードごとに対応する確信度を集計し、前記集計され
    た確信度に基づき、前記文字グループに含まれる文字パ
    ターンに対応する文字コードを決定する、コンピュータ
    読み取り可能な第4のプログラムコード手段とを備える
    ことを特徴とするコンピュータプログラム製品。
  37. 【請求項37】 前記対応する候補文字コードとその確
    信度の獲得は、前記抽出された文字パターンから所定の
    特徴抽出を行って得られた特徴と、所定の辞書に格納さ
    れている各文字コードに対応する特徴とのマッチングに
    基づいて、獲得されることを特徴とする請求項36に記
    載のコンピュータプログラム製品。
  38. 【請求項38】 前記第3のプログラムコード手段は、
    前記文字パターン間の距離が近い文字パターンを同じグ
    ループとしてグループ化することを特徴とする請求項3
    6に記載のコンピュータプログラム製品。
  39. 【請求項39】 前記第3のプログラムコード手段は、
    前記文字パターン間の距離が近く、さらに、サイズが概
    同じ文字パターンを同じグループとしてグループ化する
    ことを特徴とする請求項17に記載のコンピュータプロ
    グラム製品。
  40. 【請求項40】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度の合計を求めることを特徴とする請求項
    36に記載のコンピュータプログラム製品。
  41. 【請求項41】 前記確信度の集計は、前記検出された
    一致する文字グループに含まれる候補文字コードごとに
    対応する確信度のうちの最大値を集計値とすることを特
    徴とする請求項36に記載のコンピュータプログラム製
    品。
  42. 【請求項42】 前記集計された確信度に基づき、前記
    文字グループに含まれる文字パターンに対応する文字コ
    ードの決定は、 前記集計された確信度の高い候補文字コードを選択し
    て、前記文字グループに含まれる文字パターンに対応す
    る文字コードとして決定することを特徴とする請求項3
    6に記載のコンピュータプログラム製品。
JP23533495A 1995-09-13 1995-09-13 文字認識方法とその装置 Expired - Fee Related JP3792759B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23533495A JP3792759B2 (ja) 1995-09-13 1995-09-13 文字認識方法とその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23533495A JP3792759B2 (ja) 1995-09-13 1995-09-13 文字認識方法とその装置

Publications (2)

Publication Number Publication Date
JPH0981689A true JPH0981689A (ja) 1997-03-28
JP3792759B2 JP3792759B2 (ja) 2006-07-05

Family

ID=16984573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23533495A Expired - Fee Related JP3792759B2 (ja) 1995-09-13 1995-09-13 文字認識方法とその装置

Country Status (1)

Country Link
JP (1) JP3792759B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006267228A (ja) * 2005-03-22 2006-10-05 Mitsubishi Electric Information Systems Corp ラスタ地図検索装置
JP2006277121A (ja) * 2005-03-28 2006-10-12 Toshiba Corp 移動経路作成装置、移動ロボット、移動経路作成方法および移動経路作成プログラム
WO2009150783A1 (ja) * 2008-06-11 2009-12-17 パナソニック株式会社 パターン認識装置、パターン認識方法、画像処理装置及び画像処理方法
JP2009301179A (ja) * 2008-06-11 2009-12-24 Panasonic Corp パターン認識装置及びパターン認識方法、プログラム及び記録媒体
JP2010020622A (ja) * 2008-07-11 2010-01-28 Panasonic Corp 画像処理装置及び画像処理方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006267228A (ja) * 2005-03-22 2006-10-05 Mitsubishi Electric Information Systems Corp ラスタ地図検索装置
JP4589159B2 (ja) * 2005-03-22 2010-12-01 三菱電機インフォメーションシステムズ株式会社 ラスタ地図検索装置
JP2006277121A (ja) * 2005-03-28 2006-10-12 Toshiba Corp 移動経路作成装置、移動ロボット、移動経路作成方法および移動経路作成プログラム
WO2009150783A1 (ja) * 2008-06-11 2009-12-17 パナソニック株式会社 パターン認識装置、パターン認識方法、画像処理装置及び画像処理方法
JP2009301179A (ja) * 2008-06-11 2009-12-24 Panasonic Corp パターン認識装置及びパターン認識方法、プログラム及び記録媒体
US8509571B2 (en) 2008-06-11 2013-08-13 Panasonic Corporation Pattern recognition apparatus, pattern recognition method, image processing apparatus, and image processing method
US8620094B2 (en) 2008-06-11 2013-12-31 Panasonic Corporation Pattern recognition apparatus, pattern recogntion method, image processing apparatus, and image processing method
JP2010020622A (ja) * 2008-07-11 2010-01-28 Panasonic Corp 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP3792759B2 (ja) 2006-07-05

Similar Documents

Publication Publication Date Title
RU2613734C1 (ru) Захват видео в сценарии ввода данных
CN107885430B (zh) 一种音频播放方法、装置、存储介质及电子设备
JP6472218B2 (ja) 文字認識システム及び文字認識方法
JP2004139484A (ja) 帳票処理装置、該装置実行のためのプログラム、及び、帳票書式作成プログラム
JP2003308480A (ja) オンライン手書き文字パターン認識編集装置及び方法並びに当該方法を実現するコンピュータ実行可能なプログラム
JPH08255236A (ja) 画像のファイリング装置及びファイリング方法
US11321936B2 (en) Image processing device, image processing method, and storage medium storing program
US11323577B2 (en) Image processing device for creating an album
JP2007179395A (ja) 媒体処理装置,媒体処理方法,媒体処理システム,及び媒体処理プログラムを記録したコンピュータ読取可能な記録媒体
JP2011257963A (ja) 画像処理装置、その処理方法及びプログラム
CN106372216A (zh) 提高题目查找准确率的方法和装置
JP2002203207A (ja) 文字認識方法,プログラム及び記録媒体
US6968501B2 (en) Document format identification apparatus and method
JP3792759B2 (ja) 文字認識方法とその装置
US20210012104A1 (en) Image processing device, image processing method, and recording medium
US20220392107A1 (en) Image processing apparatus, image processing method, image capturing apparatus, and non-transitory computer-readable storage medium
JP5712415B2 (ja) 帳票処理システム及び帳票処理方法
JP2021152696A (ja) 情報処理装置及びプログラム
JP2001101405A (ja) 画像認識方法及び画像認識装置
JP2000285237A (ja) 画像処理装置、画像処理方法及び画像処理プログラムを記録した記録媒体
US10878271B2 (en) Systems and methods for separating ligature characters in digitized document images
US20240087289A1 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
JPH04199483A (ja) 文書認識修正装置
JP3074691B2 (ja) 文字認識装置
JPH053631B2 (ja)

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050916

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050922

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060406

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090414

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100414

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110414

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120414

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130414

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130414

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140414

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees