JP2001022773A - イメージ文書のキーワード抽出方法 - Google Patents

イメージ文書のキーワード抽出方法

Info

Publication number
JP2001022773A
JP2001022773A JP11194211A JP19421199A JP2001022773A JP 2001022773 A JP2001022773 A JP 2001022773A JP 11194211 A JP11194211 A JP 11194211A JP 19421199 A JP19421199 A JP 19421199A JP 2001022773 A JP2001022773 A JP 2001022773A
Authority
JP
Japan
Prior art keywords
keyword
character
certainty
information
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11194211A
Other languages
English (en)
Other versions
JP4334068B2 (ja
Inventor
Atsuyuki Goto
淳之 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP19421199A priority Critical patent/JP4334068B2/ja
Publication of JP2001022773A publication Critical patent/JP2001022773A/ja
Application granted granted Critical
Publication of JP4334068B2 publication Critical patent/JP4334068B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

(57)【要約】 【課題】 OCRにより変換されたテキストに誤りがあ
っても、抽出するキーワードには許容範囲の誤りしかな
いことを保証するキーワード抽出方法を提供する。 【解決手段】 プレーンテキスト・確信度ファイル生成
部6aは、OCRによる文字認識時に生成されたOCR
結果ファイル5に含まれる文字情報の候補のなかから、
第1候補の文字情報に含まれる文字コードと確信度情報
とを抜き出し、プレーンテキスト6cと確信度ファイル
6bとを生成する。キーワード抽出ユニット6eは、得
られたプレーンテキストの形態解析及びキーワード抽出
を行ってキーワードリスト6gを生成する。キーワード
検証部6fは、得られたキーワードリスト6gの上位の
キーワードから、予め設定されたしきい値に基づいて一
文字ずつ文字を誤認しているかどうかを判断し、誤認の
文字数の割合が所定条件以上であると判断されたキーワ
ードをキーワードリスト6gから外す処理を行う。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、イメージ文書のキ
ーワード抽出方法、より詳細には、OCR文字認識によ
り認識されたイメージ文書からキーワードを抽出するキ
ーワード抽出方法に関する。
【0002】
【従来の技術】近年のPCの普及、インターネットなど
を中心としたインフラの整備、また森林資源保護などの
環境意識の高まりから、情報伝達、蓄積の方法が従来の
紙を主体としたものからデジタル情報を主体としたもの
へ変化しつつある。e−mailによる情報交換、we
b上での情報の閲覧、及び出版などがその良い例であ
る。しかし、従来の紙を主体とした膨大な情報は、個人
にとっても企業にとっても知的資産であるのには変わり
なく、切り捨てるわけにはいかない。そこで紙による情
報を何とか利用できるようにデジタル情報に変換しなけ
ればならない。
【0003】上記のデジタル情報への変換は、一般的に
は次のようにする。まず紙文書(文書の情報媒体が紙で
あるという意味)をスキャナから読み込み、イメージ文
書に変換する。単にデジタル情報にするだけならこのま
まで良いが、文書の内容を検索できるようにするために
は、イメージ文書をOCR(Optical Character Recogn
ition)を使用してコード情報に変換する必要がある
(イメージ文書に文字情報がある場合)。管理する文書
数が多く、また不特定多数の人間が文書を利用する場合
は、要約文またはキーワードなどの情報により、文書の
検索、及び閲覧の際に概要が把握し易くなる。
【0004】上述したように“スキャン+OCR+キー
ワード・要約文抽出”により紙文書を有効なデジタル情
報に変換することが可能である。しかし、漢字などの複
雑な形状を文字セットに持つ日本語文はもとより、英文
に対してもOCRは100%の認識率を保証できないの
で、OCRにより変換されたコード情報には誤りのある
コードが含まれるのが常である。紙文書の状態やスキャ
ナのスキャン面の汚れなどが原因でスキャンされたイメ
ージの品質が良くない場合は、OCRにより変換された
テキストには高い割合で誤りが含まれる。このような誤
りを含むテキストからキーワード抽出を行うと、抽出さ
れたキーワードに誤りのある文字が含まれる可能性は十
分に高い。
【0005】自動OCRは人手を介さずOCRを行う
が、人手を介してOCRの誤認識文字を逐次修正してキ
ーワード抽出を行えば、キーワードに誤認識文字が含ま
れることはなくなる。しかしながら紙文書のスキャンか
らキーワード抽出までの時間を考えた場合、人手を介し
てのOCRは処理時間と人手がかかり過ぎて実用的でな
い。自動OCRは、変換結果としてOCR結果ファイル
を出力する。OCR結果ファイルは、1文字ごとの確信
度、文字位置情報を含むバイナリファイルである。
【0006】上述したごとくに、一般的にイメージ文書
をOCRにかけて生成されたテキストからキーワードを
抽出すると、誤認識された文字で構成された文字列がキ
ーワードリストに含まれる可能性がある。この問題は、
OCRの認識結果に対して確信度が低い文字をテキスト
から排除するという誤認識対策を施せば解決するように
思われるが、実際には次のような問題が発生する。
【0007】(1)誤認識文字を排除して何らかの加工
をした文字列がキーワードになり、その文字列が原イメ
ージ文書で確認できない文字列であったとしたらユーザ
にとっては、不具合になる。 (2)ユーザが確認できる文字列に加工するには、少な
くともキーワード抽出ユニットに渡すテキストが単語分
割されている必要がある。すなわち単語長を検査して、
何文字まで誤認識文字が含まれていても問題がないか判
断できる必要がある。そのためには自動OCRは、イメ
ージをテキストに変換したあとに形態素解析をする必要
があり、処理系が重くなる。
【0008】
【発明が解決しようとする課題】本発明は、上述のごと
き実情に鑑みてなされたもので、OCRにより変換され
たテキストに誤りがあっても、抽出するキーワードには
許容範囲の誤りしかないことを保証する(たとえば、6
文字で構成されるキーワードのうち1文字に誤りがあっ
ても、容易にこのキーワードが何を意味するかは理解で
きる)ことを可能にしたイメージ文書のキーワード抽出
方法を提供することを目的とするものである。
【0009】
【課題を解決するための手段】請求項1の発明は、イメ
ージ文書のOCR文字認識により文字コードと該文字コ
ードの確信度情報とを含む文字情報の候補が各文字毎に
生成されたOCR結果ファイルを入力し、該文字情報の
候補のなかから、第1候補の文字情報に含まれる文字コ
ードと確信度情報とを各文字毎に抜き出し、該文字コー
ドによるプレーンテキストと該確信度情報による確信度
ファイルとを生成するステップと、得られた前記プレー
ンテキストの形態解析及びキーワード抽出を行ってキー
ワードリストを生成するステップとを有することを特徴
としたものである。
【0010】請求項2の発明は、請求項1の発明におい
て、生成された前記キーワードリストのキーワードに対
し、予め設定されたしきい値に基づいて文字を誤認して
いるかどうかを一文字ずつ判断し、所定条件に基づく誤
認文字数を含むキーワードを前記キーワードリストから
外す処理を行うステップを有することを特徴としたもの
である。
【0011】請求項3の発明は、請求項2の発明におい
て、前記確信度ファイルの各文字の確信度の統計値を確
信度ファイルごとに計算しておき、前記統計値に基づい
て、文字誤認を判断する前記しきい値と、生成されたキ
ーワードをキーワードリストから外す前記所定条件とを
決定することを特徴としたものである。
【0012】請求項4の発明は、請求項1ないし3のい
ずれか1の発明において、前記キーワードリストに含ま
れるキーワードに対応した前記確信度リストのエントリ
を参照し、参照したエントリから、イメージ文書におけ
る該キーワードの位置情報を特定し、特定した位置情報
に基づいてイメージ文書における該キーワードの強調表
示を行うステップを有することを特徴としたものであ
る。
【0013】
【発明の実施の形態】本発明の動作を説明する前にOC
R結果ファイルとキーワードリストの構造の概要につい
て説明する。図1は、OCR結果ファイルのTAG構造
の一例を示す図である。
【0014】代表的なTAGとして以下の3つがある。 ページ情報タグ 開始オフセットでポイントされる領域には、1ページに
ついての画像情報(解像度,サイズ,領域数など)のよ
うな情報が格納される。 領域情報タグ 開始オフセットでポイントされる領域には、領域の位置
などのような情報が格納される。なお、領域はネストす
る可能性があるのでページ情報タグとは少し異なる構造
を持つが、これについては本発明とは直接関係しないの
で説明を省略する。 文字情報タグ 1つの領域内の文字情報として、認識結果である文字コ
ード、認識結果の確信度、及び認識座標位置(文字を囲
む矩形の位置:ピクセル値)などの情報が格納される。
【0015】領域内にn個の文字が存在したと仮定する
と、文字情報タグと文字情報領域は、図2に示すごとく
の構造となり、このときのi番目の文字の認識結果(C
i)は図3に示すようなデータ構造になる。文字情報に
関しては、1つの文字に対して複数の認識結果が出るの
で、1つの文字に対して複数の候補がある。
【0016】(動作説明)図4は、本発明が適用される
キーワード抽出処理の概略フローを説明するための図で
ある。紙文書1に対しスキャナによるスキャン2を実行
して、イメージ文書3に変換し、自動OCR4により処
理を行ってOCR結果ファイル5を出力する。得られた
OCR結果ファイル5に対して、キーワード抽出部6に
よる処理を行い、キーワードリスト7を出力する。図5
は、図4において示された本発明のキーワード抽出を行
うキーワード抽出部6をさらに詳しく示す図である。以
下に、キーワード抽出部6における処理について詳しく
説明する。
【0017】[1]前処理 前処理としてプレーンテキスト・確信度ファイル生成部
6aにおいては、自動OCR4により得られたOCR結
果ファイル5から第1候補の文字コードと確信度を抜き
出し、プレーンテキスト6cと確信度ファイル6bを生
成する。プレーンテキスト6cは、キーワード抽出ユニ
ット6eに渡される。確信度ファイル6bは、図6に示
すごとくの構造を有するもので、1文字につき第一候補
だけの確信度を保持する。
【0018】入力イメージ文書が1枚の用紙であれば、
直接OCR結果ファイルを参照して、確信度を参照すれ
ばよいが、そうでない場合は、文書を構成する入力イメ
ージのOCR結果ファイルをキーワード抽出が終わるま
ですべて保持する必要があるので、確信度ファイルを別
に作成する。確信度ファイル6bは、ページ毎に作成さ
れ、プレーンテキスト6cは、文書1つにつき、1つだ
け作成される。確信度ファイル6bの各エントリとプレ
ーンテキスト6c中の文字は完全に同期がとられる必要
がある。
【0019】[2]キーワード抽出ユニット キーワード抽出ユニット6eは、テキストの形態素解析
及び構文解析を行い、名詞句を中心に出現頻度、類似度
の検査、慣用句検査、1文における修飾関係、及び係り
受けなどの情報からキーワードを抽出し、キーワードリ
ストを生成する。ここでキーワード抽出ユニット6e
は、プレーンなテキストだけを受け付け、確信度ファイ
ルなどの非テキストファイルは受け付けない。生成され
るキーワードリストの構造の概要を図7に示す。キーワ
ード抽出ユニット6eから出力されるキーワードリスト
は、誤認を含むキーワードリスト6gである。
【0020】[3]後処理 後処理として、キーワード検証部6fでは、キーワード
リストの上位のキーワードから、誤認文字があるかどう
かを一文字づつ検査する。文字を誤認しているかどうか
は、しきい値により判定する。しきい値は、イメージご
とに動的に決定される。キーワード抽出ユニット6e
は、キーワードの情報として、キーワード位置もアプリ
ケーションに公開しているので、キーワード抽出ユニッ
ト6eの入力であるプレーンテキストにおけるキーワー
ド先頭位置がわかる。
【0021】OCR結果ファイル5とプレーンテキスト
6cは、認識文字に対して同期がとれているので、OC
R結果ファイル5を参照すれば、該当文字の確信度がわ
かる。図8に示すように、確信度が低い文字を含むキー
ワードをキーワードリストからはずし、次点のキーワー
ドの順位を上げる。この操作を希望するキーワード数に
達するまで繰り返せば、誤認文字を含まないキーワード
リスト7を獲得できる。
【0022】キーワードリストからはずか否かの判断
は、次のような判定式を使用する。 キーワード中の誤認文字数>キーワードを構成する文字
数×(α/100) 上記αはユーザが与える%値である。たとえば、10%
以上の誤認文字を含むキーワードを必要としない場合に
は、αに10を指定する。現実的には、誤認文字を1文
字程度含む4文字のキーワードならば、ユーザはその文
字を判別可能なので、誤認文字を“?”などの記号に置
換してユーザに提示する(2文字のうち、1文字が誤認
されていた場合は、“?”に置換できない。常識的な範
囲で処理する)。以上により、判読可能なキーワードを
イメージ文書からテキストコードの形式で獲得できる。
【0023】[4]イメージ文書にキーワードを強調表
示 確信度ファイルの文字の位置情報(イメージの位置情
報)を利用すれば、イメージ文書上で抽出したキーワー
ドを表示させることが可能になる。確信度ファイルの各
エントリとプレーンテキストの各エントリは1対1に対
応しているので、キーワードリストによりキーワードの
プレーンテキストでの位置がわかれば、確信度ファイル
でのキーワードの位置もわかる。確信度ファイル上での
位置が分かれば、イメージ文書のページ内でのキーワー
ドの先頭文字位置がわかる。同様にしてキーワードを構
成する各文字の位置も分かる。各文字位置は矩形で表現
されるので、キーワードを強調する場合は、文字を囲む
矩形領域に対して適当な色を表すRGB値でORマスク
を施せばよい。bit操作により文字の色だけを変更す
ることも可能である。
【0024】[5]イメージ文書のイメージ品質 イメージ文書のイメージ品質が悪い場合、OCR結果フ
ァイルに大量の誤認文字が入り込むことになる。このよ
うな状況で、上記[1]〜[3]の方法によりキーワー
ドを抽出しても、それらはキーワードリストの下位に属
するキーワード群に属するかあるいはキーワードリスト
にキーワードがなくなる可能性もあり、キーワード抽出
処理が無意味になる。こうした場合は、確信度ファイル
の各文字ごとの確信度の統計値(標準偏差など)6dを
確信度ファイルごとに計算しておき、統計値と“しきい
値”の大小関係を比較することによりキーワード抽出を
行うか否かを判断する。
【0025】また、この統計値は、OCR結果ファイル
中の文字が誤認されているかどうか判定する場合に使用
する“しきい値”も決定する。 文字誤認判定のしきい値=Func(確信度ファイルの
統計値) Func(確信度ファイルの統計値)の具体的な定義式は
省略する。この式は、確信度ファイルの統計値が文字誤
認判定のしきい値に影響を与えることを示している。
“しきい値”は、イメージ毎に動的に決定される。イメ
ージ毎にイメージの状態が異なるのでOCRの結果から
イメージの品質を定量化するのは合理的な方法である。
【0026】
【発明の効果】本発明によれば、OCRにより変換され
たテキストに誤りがあっても、抽出するキーワードには
許容範囲の誤りしかないことを保証する(たとえば、6
文字で構成されるキーワードのうち1文字に誤りがあっ
ても、容易にこのキーワードが何を意味するかは理解で
きる)ことが可能となり、処理系を重くすることなくユ
ーザの利便性を高めることができる。
【図面の簡単な説明】
【図1】 OCR結果ファイルのTAG構造の一例を示
す図である。
【図2】 OCR結果ファイルにおける文字情報タグと
文字情報領域の構造の一例を示す図である。
【図3】 図2に示すi番目の文字のデータ構造の一例
を示す図である。
【図4】 本発明によるキーワード抽出方法の処理動作
の概略を説明するためのフロー図である。
【図5】 図4に示すキーワード抽出部をより詳しく説
明するための図である。
【図6】 確信度ファイルの構造の一例を示す図であ
る。
【図7】 キーワードリストの構造の一例を示す図であ
る。
【図8】 キーワードリストからキーワードを外す処理
を説明するための図である。
【符号の説明】 1…紙文書、2…スキャン、3…イメージ文書、4…自
動OCR、5…OCR結果ファイル、6…キーワード抽
出部、6a…プレーンテキスト・確信度ファイル生成部
(前処理)、6b…確信度ファイル、6c…プレーンテ
キスト、6d…確信度の統計値、6e…キーワード抽出
ユニット、6f…キーワード検証部(後処理)、6g…
誤認を含むキーワードリスト、7…キーワードリスト。

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】イメージ文書のOCR文字認識により文字
    コードと該文字コードの確信度情報とを含む文字情報の
    候補が各文字毎に生成されたOCR結果ファイルを入力
    し、該文字情報の候補のなかから、第1候補の文字情報
    に含まれる文字コードと確信度情報とを各文字毎に抜き
    出し、該文字コードによるプレーンテキストと該確信度
    情報による確信度ファイルとを生成するステップと、得
    られた前記プレーンテキストの形態解析及びキーワード
    抽出を行ってキーワードリストを生成するステップとを
    有することを特徴とするイメージ文書のキーワード抽出
    方法。
  2. 【請求項2】請求項1に記載のイメージ文書のキーワー
    ド抽出方法において、生成された前記キーワードリスト
    のキーワードに対し、予め設定されたしきい値に基づい
    て文字を誤認しているかどうかを一文字ずつ判断し、所
    定条件に基づく誤認文字数を含むキーワードを前記キー
    ワードリストから外す処理を行うステップを有すること
    を特徴とするイメージ文書のキーワード抽出方法。
  3. 【請求項3】請求項2に記載のイメージ文書のキーワー
    ド抽出方法において、前記確信度ファイルの各文字の確
    信度の統計値を確信度ファイルごとに計算しておき、前
    記統計値に基づいて、文字誤認を判断する前記しきい値
    と、生成されたキーワードをキーワードリストから外す
    前記所定条件とを決定することを特徴とするイメージ文
    書のキーワード抽出方法。
  4. 【請求項4】請求項1ないし3のいずれか1に記載のイ
    メージ文書のキーワード抽出方法において、前記キーワ
    ードリストに含まれるキーワードに対応した前記確信度
    リストのエントリを参照し、参照したエントリから、イ
    メージ文書における該キーワードの位置情報を特定し、
    特定した位置情報に基づいてイメージ文書における該キ
    ーワードの強調表示を行うステップを有することを特徴
    とするイメージ文書のキーワード抽出方法。
JP19421199A 1999-07-08 1999-07-08 イメージ文書のキーワード抽出方法及び装置 Expired - Fee Related JP4334068B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP19421199A JP4334068B2 (ja) 1999-07-08 1999-07-08 イメージ文書のキーワード抽出方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP19421199A JP4334068B2 (ja) 1999-07-08 1999-07-08 イメージ文書のキーワード抽出方法及び装置

Publications (2)

Publication Number Publication Date
JP2001022773A true JP2001022773A (ja) 2001-01-26
JP4334068B2 JP4334068B2 (ja) 2009-09-16

Family

ID=16320808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP19421199A Expired - Fee Related JP4334068B2 (ja) 1999-07-08 1999-07-08 イメージ文書のキーワード抽出方法及び装置

Country Status (1)

Country Link
JP (1) JP4334068B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008276736A (ja) * 2007-04-26 2008-11-13 Fuji Xerox Co Ltd インタラクティブシステムおよび画像検索性能を高めるプログラム
CN115116082A (zh) * 2022-03-04 2022-09-27 杭州京胜航星科技有限公司 一种基于ocr识别算法的一键成档系统
KR102475964B1 (ko) * 2022-10-12 2022-12-09 조인환 상품 추천 서비스 제공 시스템

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008276736A (ja) * 2007-04-26 2008-11-13 Fuji Xerox Co Ltd インタラクティブシステムおよび画像検索性能を高めるプログラム
CN115116082A (zh) * 2022-03-04 2022-09-27 杭州京胜航星科技有限公司 一种基于ocr识别算法的一键成档系统
CN115116082B (zh) * 2022-03-04 2023-09-01 杭州京胜航星科技有限公司 一种基于ocr识别算法的一键成档系统
KR102475964B1 (ko) * 2022-10-12 2022-12-09 조인환 상품 추천 서비스 제공 시스템

Also Published As

Publication number Publication date
JP4334068B2 (ja) 2009-09-16

Similar Documents

Publication Publication Date Title
KR101376863B1 (ko) 문서 시각 구조의 문법 분석
US6694053B1 (en) Method and apparatus for performing document structure analysis
JP3292388B2 (ja) 文書画像の復号なしに文書を要約するための方法と装置
AU2020279921B2 (en) Representative document hierarchy generation
JP3282860B2 (ja) 文書上のテキストのデジタル画像を処理する装置
US5664027A (en) Methods and apparatus for inferring orientation of lines of text
JP3232143B2 (ja) 復号していない文書画像の修正版を自動的に作成するための装置
US20030200078A1 (en) System and method for language translation of character strings occurring in captured image data
JP2713622B2 (ja) 表形式文書読取装置
US20040006467A1 (en) Method of automatic language identification for multi-lingual text recognition
GB2422709A (en) Correcting errors in OCR of electronic document using common prefixes or suffixes
JPH086945A (ja) 文書の論理構造の解析方法及びシステム
US8208726B2 (en) Method and system for optical character recognition using image clustering
JPH01279368A (ja) キャラクタデータの転送方式
CN108197119A (zh) 基于知识图谱的纸质档案数字化方法
JPH09223240A (ja) 文書電子化装置
Pal et al. OCR error correction of an inflectional indian language using morphological parsing
JP2008225695A (ja) 文字認識誤り修正装置およびプログラム
US11270153B2 (en) System and method for whole word conversion of text in image
JP2001022773A (ja) イメージ文書のキーワード抽出方法
Ashraf et al. An analysis of optical character recognition (ocr) methods
Acharya et al. Scan. It-Text Recognition, Translation and Conversion
CN114579796A (zh) 机器阅读理解方法及装置
Reul et al. Automatic Semantic Text Tagging on Historical Lexica by Combining OCR and Typography Classification: A Case Study on Daniel Sander's Wörterbuch der Deutschen Sprache
WO1997004409A1 (fr) Dispositif de recherche de fichiers

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060425

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060822

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061005

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070116

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090623

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130703

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees