JP3220226B2 - 文字列方向判別方法 - Google Patents

文字列方向判別方法

Info

Publication number
JP3220226B2
JP3220226B2 JP12026392A JP12026392A JP3220226B2 JP 3220226 B2 JP3220226 B2 JP 3220226B2 JP 12026392 A JP12026392 A JP 12026392A JP 12026392 A JP12026392 A JP 12026392A JP 3220226 B2 JP3220226 B2 JP 3220226B2
Authority
JP
Japan
Prior art keywords
character string
connected components
document
aspect ratio
horizontally
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP12026392A
Other languages
English (en)
Other versions
JPH05314309A (ja
Inventor
高志 齋藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP12026392A priority Critical patent/JP3220226B2/ja
Publication of JPH05314309A publication Critical patent/JPH05314309A/ja
Application granted granted Critical
Publication of JP3220226B2 publication Critical patent/JP3220226B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Character Input (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、文書画像を扱う装置も
しくはシステムにおいて、文書の2値画像から文字列の
方向あるいは文書の縦書き・横書きの別を自動的に判別
する方法に関する。
【0002】
【従来の技術】縦書きまたは横書き書式の文書を処理す
るOCR等のシステムにおいて、文書画像から文字列と
文章領域の抽出を行なう場合、まず文書画像から文字列
を構成する微小な候補領域を抽出し、これを統合するこ
とによって文章領域を抽出する方法が一般的に採用され
るが、候補領域の統合のために文字列の方向、つまり文
書の縦書き・横書きの別を知る必要がなる。
【0003】この方向の自動判別に関しては、次の方法
が知られている。
【0004】(a)特開平3−44788号公報に述べ
られていように、文書画像をいくつかのブロックに分割
し、ブロック内で黒画素の周辺分布をとり、その周期性
から文字列方向を判断する方法。
【0005】(b)通信学会PRU研究会報告89−1
14「多様なレイアウト構造、構成要素を持つ文書の領
域分割」に述べられているように、各連結成分につい
て、最も近接したもの同士の距離を縦方向、横方向それ
ぞれについて調べ、その距離の総和が小さいほうの方向
を文字列方向とする方法。
【0006】
【発明が解決しようとする課題】前記(a)方法は、周
辺分布を用いるため文書の傾きに弱く、また写真領域等
の文字領域以外の部分や、文字領域であっても本文とレ
イアウトの異なる部分(タイトル等)の影響によって処
理が不可能な場合がある。
【0007】前記(b)方法は、文書画像上の全ての連
結成分について、近接した連結成分を縦横方向に検索し
なければならないため、処理量が非常に大きい。また、
予め連結成分の大きさ等の属性より文字とそれ以外のも
のに分別することによって、文書上の文字以外の部分の
影響を排除できるが、しかし近接した連結成分間の距離
の総和を利用するため、本文に近接してタイトルやペー
ジ番号等が存在すると、その影響がでる。
【0008】本発明は、従来方法の弱点に鑑み、少ない
処理量で文書の文字列方向を確実に判別するための新し
い方法を提供しようとするものである。
【0009】
【課題を解決するための手段】請求項1の発明の方法
は、文書の2値画像の縮小画像を生成し、該縮小画像よ
り文字列候補としての黒画素の連結成分を抽出する。そ
して、該連結成分の中で縦横比または縦横比がある閾値
を超える縦長の連結成分の個数と横長の連結成分の個数
とを比較することにより、文字列方向あるいは縦書き/
横書きの別を判定する、というものである。
【0010】請求項2の発明の方法は、文書の2値画像
の縮小画像を生成し、該縮小画像より文字列候補として
の黒画素の連結成分を抽出し、該連結成分の中で縦横比
または横縦比がある第1の閾値以上の縦長の連結成分及
び横長の連結成分のそれぞれの個数を調べる。そして、
該縦長連結成分の個数または該横長連結成分の個数が第
2の閾値を超える場合は、それぞの個数の比較によって
文字列方向を判定する。しかし、該縦長連結成分の個数
及び該横長連結成分の個数がそれぞれ該第2の閾値以下
である場合は、該文字列候補としての連結成分を縦方向
及び横方向の文字列へそれぞれ統合する処理を行ない、
長さに対する高さの比がある第3の閾値以下の文字列に
統合された連結成分の隣合うものの距離のヒストグラム
を縦方向及び横方向について別々に生成し、該各方向の
ヒストグラムの最頻値に対応する距離を比較することに
よって文字列方向を判定する、というものである。
【0011】請求項3の発明の方法は、請求項2の発明
の方法と同様に、各方向のヒストグラムを生成した場合
に、各方向のヒストグラムにおいて最大頻度と該最大頻
度に対応する距離の周辺の距離の頻度との総計を求め
る。そして、各方向の該総計の比がある第4の閾値以下
のときには、請求項2の発明の方法と同様に最大頻度に
対応する距離の比較によって文字列方向を判定するが、
そうでない場合には該総計の比較によって文字列方向を
判定する、というものである。
【0012】
【作用】請求項1の発明によれば、文書の2値画像を縮
小し、その縮小画像上の文字列候補としての連結成分を
抽出する。一般的な文字間隔の文書の場合、適当な縮小
率の縮小画像上では文字間は融合するが、しかし行間は
融合しないため、横書き文書の場合には横縦比が大きな
横長の連結成分が多く出現するのに対し、縦書き文書の
場合には縦横比が大きな縦長の連結成分が多く出現す
る。しかして、請求項1の発明によれば、このような横
長と縦長の連結成分の個数を比較し、その個数が多い方
向を文字列方向として判別することができるのである。
【0013】そして、周辺分布を利用する方法でないの
で、本質的に文書の傾きに強く、また、文字列候補とし
て不適当な連結成分は、その大きさ等の特徴によって容
易に排除できるので、写真領域や、タイトル等の本文と
レイアウトが大きく異なる領域が存在しても、その影響
を排除して本文の文字列方向を判別できる。
【0014】請求項1の発明と同様の文字列方向判別を
圧縮前の文字画像を直接対象にして行なおうとするなら
ば、遥かに多数の連結成分を抽出し、それを縦方向と横
方向に統合ないし融合する処理をする必要があろう。請
求項1の発明によれば、1回の縮小処理を行なうだけ
で、方向判別の処理の対象となる連結成分の個数が大幅
に減り、その統合なしい融合の処理も不要となり、しか
も縮小処理は単純な論理和演算等によって達成できるか
ら、少ない処理量で単時間に文字列方向判別を行なうこ
とができる。
【0015】ワープロ作成文書のように文字間距離が長
い文書の場合、それを縮小した画像上においても文字が
融合せず孤立したままとなるため、縦横比または横縦比
が閾値以上の連結成分の個数が非常に少なくなる結果、
縦長連結成分と横長連結成分の個数比較によったのでは
文字列方向の判定結果が不正確になることがある。
【0016】請求項2の発明によれば、このような文書
の場合に、連結成分を縦方向及び横方向の文字列へ統合
し、その際に隣接した連結成分間の距離のヒストグラム
を生成する。通常、文字間隔は行間隔(文字列間隔)よ
り小さいため、横書き文書であるならば横方向ヒストグ
ラム上の最大頻度の距離は縦方向ヒストグラム上の最大
頻度の距離に比べ小さくなり、縦書き文書の場合は逆の
関係になるのが普通である。したがって、請求項2の発
明によれば、各方向のヒストグラム上で最大頻度となっ
た距離を比較することにより、ワープロ作成文書のよう
な文字間隔が比較的大きな文書に対しても、文字列方向
を的確に判定できる。
【0017】請求項3の発明によれば、請求項2の発明
においてヒストグラムの最大頻度とその周辺の頻度の総
計を各方向について求め、その比が大きい場合には、頻
度総計が大きい方向を文字列方向と判定する。このよう
にすることによって、ヒストグラムの最大頻度の信用性
が不十分になる場合、つまり距離の分散が大きくなるよ
うな文書や全体の頻度が下がるような文書に対しても、
文字列方向を確実に判別できる。
【0018】また請求項2または3の発明は、文字列方
向判定のために文字列統合を行なった場合でも、その文
字列データをそのまま文章領域統合に利用できるため、
全体としての処理量は増加せず、領域識別処理との整合
性が優れている。また、請求項2または3の発明にあっ
ても、請求項1の発明と同様に、文書の傾きに強く、ま
た写真領域や本文とレイアウトの違うタイトルなどの領
域が存在しても影響を排除できることは明らかである。
【0019】
【実施例】図1は本発明の一実施例に係る処理システム
のブロック図、図2はその処理フローを示すフローチャ
ートである。
【0020】図1において、101は文書の2値画像を
入力するスキャナ等の画像入力部、102はこの入力画
像の縮小処理を行なって縮小画像を生成する画像縮小
部、103はこの縮小画像から黒画素の連結成分を抽出
する連結成分抽出部、104は抽出された連結成分の情
報より文字列方向(文書の縦書き/横書きの別)を判別
する処理を行なう縦横判別部、105は連結成分を文字
列へ統合し、この文字列をコラム等のまとまりのある文
章領域に統合する処理を行なう文字領域統合部、106
は入力画像、その縮小画像、抽出した連結成分の情報等
の各種データを記憶するためのデータ記憶部、107は
前記各部を制御する制御部、108はデータ通信路であ
る。
【0021】以下、図2に示した処理フローに沿って処
理内容を説明する。
【0022】まず、画像入力部101によって処理しよ
うとする文書の2値画像を入力し、データ記憶部106
に格納する(ステップ201)。次に、画像縮小部10
2によって、入力画像を縦方向及び横方向に同じ縮小率
で縮小した画像を、データ記憶部106上に生成する
(ステップ202)。
【0023】この縮小率は、縮小によって同一行の文字
が融合することはあっても、異なる行の文字が融合しな
い程度に選ぶ。例えば、文書画像を400dpiで入力
した場合、8×8画素を1画素に縮小する。縮小方法は
論理和縮小とし、8×8画素を1画素に縮小する場合で
れば、8×8画素中の1画素でも黒であれば縮小画素を
黒とする。ただし、他の縮小方法を用いることも可能で
ある。
【0024】次に連結成分抽出部103において、縮小
画像上の黒画素の連結成分を抽出し、その外接矩形の頂
点座標等の情報をデータ記憶部106に格納する(ステ
ップ203)。ただし、この段階で抽出された連結成分
の中には文字列候補となり得ないものも含まれている。
次に、縦横判別部104による処理(ステップ204〜
209)が行なわれる。ただし、ステップ207におけ
る連結成分の文字列への統合処理とステップ209の処
理は文字領域統合部105により行なわれる。まず、ス
テップ203で抽出された連結成分の情報を参照し、連
結成分を文字列候補と、文字以外(図や写真)の候補に
分類する(ステップ204)。この分類のための特徴と
しては、例えば連結成分の大きさ、大きさ及び縦横比ま
たは横縦比を用いることができる。これから後の処理
は、文字列候補としての連結成分を対象とする。ステッ
プ203,204の処理を合体し、この条件チェックを
行ないつつ文字列候補となり得る連結成分だけを初めか
ら抽出するようにしてもよい。
【0025】次に、文字列候補としての連結成分の縦横
比及び横縦比と閾値th1(例えば3)とをそれぞれ比
較し、縦横比が当該閾値th1以上である縦長の連結成
分の個数と、横縦比が当該閾値th1以上である横長の
連結成分の個数を計数する(ステップ205)。
【0026】例えば400dpiで、8×8画素を1画
素に論理和縮小する場合、一般的な文書の縮小画像上で
は、同じ文字列中の文字間は融合する(句読点間は融合
しない)が、行間は融合しない。したがって、各連結成
分は行(文字列)方向に細長い形状となるので、細長い
連結成分だけを集計し、その中の縦長のものの個数と横
長のものの個数を比較することによって、文字列(行)
方向を判別することができる。
【0027】ステップ206は、この判定を行なう処理
ステップである。すなわち、ステップ205で求められ
た各方向の連結成分の個数を比較し、縦長の連結成分の
個数が横長の連結成分の個数より多いときは、文字列方
向を縦方向と判定し、その逆の関係であるときは文字列
方向を横方向と判定する。
【0028】しかし、処理対象文書がワープロ作成文書
のように文字間距離が長いものであった場合、縮小画像
においても文字が融合せず孤立したままとなるため、縦
横比または横縦比が閾値以上の連結成分の個数が非常に
少なくなる。このような場合、上記のような縦長連結成
分と横長連結成分の個数比較により文字列方向を判定す
ることは無理である。
【0029】そこでステップ206においては、まずス
テップ205で求められた各方向の連結成分の個数をあ
る閾値th2と比較し、縦長連結成分と横長連結成分の
個数が共に閾値th2以下の場合には、上記の個数比較
による文字列方向判定を行なわない。この場合はステッ
プ207以下で文字列方向を判定する。しかし、縦長ま
たは横長の連結成分の一方でも、その個数が閾値th2
を超えるときに、ステップ206において上記の個数比
較により文字列方向を判定する。この場合は、文字列方
向判別は終了し、処理209へ進む。
【0030】ステップ206で文字列方向を判別できな
かった場合、ステップ207において、文字列候補とし
ての連結成分を、縦方向の文字列(行)及び横方向の文
字列(行)へそれぞれ統合する処理を行なう。この文字
列への統合は、前記「多様なレイアウト構造、構成要素
を持つ文書の領域分割」にも述べられているように、文
字列方向(この段階では文字列方向は確定していなので
仮の方向)に近接する連結成分を同一文字列に属するも
のとする処理である。この統合の際、近接する連結成分
間の距離を集計し、距離のヒストグラムを各方向につい
て作成する。
【0031】図3は、この処理の説明のための図であ
る。図3の(A)は統合前の様子を示しており、301
〜315は文字列候補連結成分の外接矩形である。図3
の(B)は縦方向文字列への統合後の様子を示し、32
1〜323は統合により得られた文字列(行)である。
(C)は横方向文字列への統合後の様子を示し、331
〜333は文字列(行)である。
【0032】縦方向統合の際に(B)に符号324で示
したような距離のヒストグラムを作成し、また横方向統
合の際に(C)に符号334で示したような距離のヒス
トグラムを作成する。ただし、ヒストグラム作成にあた
っては、統合の結果得られた文字列(行)の高さ(縦方
向文字列のときは横の長さ)が、その長さ(縦方向文字
列のときは縦の長さ)に比べて大き過ぎるときは(前者
の後者に対する比がある閾値th3を超えるとき)、そ
の文字列は正しい統合が行なわれていないと判断し、そ
の連結成分間距離はヒストグラム作成に用いない。例え
ば図3(B)に示された文字列321は、ヒストグラム
作成の対象外とする。
【0033】次のステップ208においては、ステップ
207で作成された縦方向と横方向のヒストグラムの最
大頻度となった距離を比較し、その距離が小さいほうの
方向を文字列方向と判定する。これは、一般に文字間距
離が行間距離より小さいからである。
【0034】しかし、ステップ207の統合は仮の文字
列方向について統合であるため、行間の変化などにより
距離の分散が大きくなったり、あるいは図3(B)に示
した文字列321のように集計対象から外される連結成
分が多くなって全体の度数が下がって、ヒストグラムの
最大頻度の信用性が欠ける場合がある。例えば、文字列
方向が横方向の文書において、縦方向について図4
(A)に示すようなヒストグラムが得られ、横方向につ
いて図4(B)に示すようなヒストグラムが得られた場
合、縦方向の最大頻度401に対応する距離のほうが、
横方向の最大頻度402に対応する距離よりも小さい。
この場合、最大頻度の距離の比較によれば、文字列方向
を縦方向と誤判定してしまう。
【0035】このような誤判定を避けるため、ステップ
208においては、最大頻度とその両隣の頻度の総計
(一般的には最大頻度の周辺の頻度の総計)を各方向に
ついて求め、その比がある閾値th4を超えるときは、
頻度総計が大きい方向を文字列の方向と判定する。その
比が閾値th4以下のときは、最大頻度の距離の小さい
ほうを文字列方向とする。例えば図4(A)に符号40
3で示した頻度総計と図4(B)に符号404で示した
頻度総計の比が閾値th4を超えたときは、頻度総計の
大きな横方向を文字列方向とする。
【0036】ステップ206で文字列方向が判別された
場合、ステップ209において、文字列候補連結成分を
判別した方向の文字列に統合してステップ210に進
む。ステップ208で文字列方向が判別された場合は、
すでに文字列統合は済んでいるので、直ちにステップ2
10に進む。ステップ210は文字領域統合部105の
処理であって、文字列をコラムなどの、まとまりのある
文章領域へ統合する。
【0037】
【発明の効果】以上の説明から明らかなように、請求項
1の発明によれば、少ない処理量で文書の文字列方向を
判別可能となり、また文書の傾きや、写真領域、タイト
ル等の本文とレイアウトが大きく異なる領域の影響を受
けにくくなる。
【0038】請求項2または3の発明によれば、ワープ
ロ作成文書のような文字間隔が大きい文書などに対して
も、文字列方向を的確に判別することが可能となり、ま
た文字列方向の判別のための文字列統合の結果を文字列
データとして文章領域統合に利用できるため、領域識別
処理との整合性に優れ、また全体としての処理量も削減
できる。
【図面の簡単な説明】
【図1】本発明の一実施例に係る処理システムのブロッ
ク構成を示す。
【図2】処理の概略フローを示す。
【図3】(A)連結成分の抽出例を示す。 (B)縦方向の文字列への抽出結果を示す。 (C)横方向の文字列への抽出結果を示す。
【図4】(A)縦方向に関する距離のヒストグラムの例
を示す。 (B)横方向に関する距離のヒストグラムの例を示す。
【符号の説明】
101 画像入力部 102 画像縮小部 103 連結成分抽出部 104 縦横判別部 105 文字領域統合部 106 データ記憶部 107 制御部 108 データ通信路 301〜315 連結成分の外接矩形 321〜323 縦方向統合文字列 331〜333 横方向統合文字列

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】 文書の2値画像の縮小画像を生成し、該
    縮小画像より文字列候補としての黒画素の連結成分を抽
    出し、該連結成分の中で縦横比または横縦比がある閾値
    を超える縦長の連結成分の個数と横長の連結成分の個数
    とを比較することにより、該文書の文字列方向を判定す
    る文字列方向判別方法。
  2. 【請求項2】 文書の2値画像の縮小画像を生成し、該
    縮小画像より文字列候補としての黒画素の連結成分を抽
    出し、該連結成分の中で縦横比または横縦比がある第1
    の閾値以上の縦長の連結成分及び横長の連結成分のそれ
    ぞれの個数を調べ、 該縦長連結成分の個数または該横長連結成分の個数が第
    2の閾値を超える場合には、それぞの個数の比較によっ
    て該文書の文字列方向を判定し、 該縦長連結成分の個数及び該横長連結成分の個数がそれ
    ぞれ該第2の閾値以下である場合には、該文字列候補と
    しての連結成分を縦方向及び横方向の文字列へそれぞれ
    統合する処理を行ない、長さに対する高さの比がある第
    3の閾値以下の文字列に統合された連結成分の隣合うも
    のの距離のヒストグラムを縦方向及び横方向について別
    々に生成し、該各方向のヒストグラムの最大頻度に対応
    する距離を比較することによって該文書の文字列方向を
    判定する文字列方向判別方法。
  3. 【請求項3】 文書の2値画像の縮小画像を生成し、該
    縮小画像より文字列候補としての黒画素の連結成分を抽
    出し、該連結成分の中で縦横比または横縦比ががある第
    1の閾値以上の縦長の連結成分及び横長の連結成分のそ
    れぞれの個数を調べ、 該縦長連結成分の個数または該横長連結成分の個数が第
    2の閾値を超える場合には、それぞの個数の比較によっ
    て該文書の文字列方向を判定し、 該縦長連結成分の個数及び該横長連結成分の個数がそれ
    ぞれ該第2の閾値以下である場合には、該文字列候補と
    しての連結成分を縦方向及び横方向の文字列へそれぞれ
    統合する処理を行ない、長さに対する高さの比がある第
    3の閾値以下の文字列に統合された連結成分の隣合うも
    のの距離のヒストグラムを縦方向及び横方向について別
    々に生成し、該各方向のヒストグラムにおいて最大頻度
    と該最大頻度に対応する距離の周辺の距離の頻度との総
    計を求め、各方向の該総計の比がある第4の閾値以下の
    ときには最大頻度に対応する距離の比較によって、そう
    でないときには該総計の比較によって、該文書の文字列
    を判定することを特徴とする文字列方向判別方法。
JP12026392A 1992-05-13 1992-05-13 文字列方向判別方法 Expired - Lifetime JP3220226B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP12026392A JP3220226B2 (ja) 1992-05-13 1992-05-13 文字列方向判別方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP12026392A JP3220226B2 (ja) 1992-05-13 1992-05-13 文字列方向判別方法

Publications (2)

Publication Number Publication Date
JPH05314309A JPH05314309A (ja) 1993-11-26
JP3220226B2 true JP3220226B2 (ja) 2001-10-22

Family

ID=14781885

Family Applications (1)

Application Number Title Priority Date Filing Date
JP12026392A Expired - Lifetime JP3220226B2 (ja) 1992-05-13 1992-05-13 文字列方向判別方法

Country Status (1)

Country Link
JP (1) JP3220226B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4607633B2 (ja) * 2005-03-17 2011-01-05 株式会社リコー 文字方向識別装置、画像形成装置、プログラム、記憶媒体および文字方向識別方法

Also Published As

Publication number Publication date
JPH05314309A (ja) 1993-11-26

Similar Documents

Publication Publication Date Title
JP4516778B2 (ja) データ処理システム
US7813554B2 (en) Method and apparatus of extracting text from document image with complex background, computer program and storage medium thereof
US5410611A (en) Method for identifying word bounding boxes in text
Xi et al. A video text detection and recognition system
JP2006338578A (ja) 文字認識装置
CN114463767A (zh) 信用证识别方法、装置、计算机设备和存储介质
JP3215163B2 (ja) 罫線識別方法及び領域識別方法
JP3220226B2 (ja) 文字列方向判別方法
JPH0721817B2 (ja) 文書画像処理方法
US20030123730A1 (en) Document recognition system and method using vertical line adjacency graphs
JP3835652B2 (ja) 文書画像の日本語英語判定方法および記録媒体
JP3488678B2 (ja) 画像分類装置
JPH10232926A (ja) 画像処理装置及びその方法
JP2565150B2 (ja) 文字切り出し方法
JP2995818B2 (ja) 文字切り出し方法
JP3384634B2 (ja) 文字種識別方法
JPH0749926A (ja) 文字認識装置
JP2728086B2 (ja) 文字切り出し方法
JP3345246B2 (ja) 文字認識装置及び文字認識方法
JP3157530B2 (ja) 文字切り出し方法
JP3428504B2 (ja) 文字認識装置
JP2001291058A (ja) 文字認識装置及び記録媒体
JP4079333B2 (ja) 文書画像の日本語英語判定方法および記録媒体
JPH05174185A (ja) 日本語文字認識装置
JPH0950488A (ja) 異サイズ混在文字列の読取り方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080810

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080810

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090810

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090810

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110810

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110810

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 11

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 11