JPH09282468A - 画像処理装置およびその方法 - Google Patents

画像処理装置およびその方法

Info

Publication number
JPH09282468A
JPH09282468A JP8094123A JP9412396A JPH09282468A JP H09282468 A JPH09282468 A JP H09282468A JP 8094123 A JP8094123 A JP 8094123A JP 9412396 A JP9412396 A JP 9412396A JP H09282468 A JPH09282468 A JP H09282468A
Authority
JP
Japan
Prior art keywords
image data
data
image
character
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8094123A
Other languages
English (en)
Other versions
JP3774502B2 (ja
Inventor
Yukari Toda
ゆかり 戸田
Makoto Takaoka
真琴 高岡
Shigeo Fukuoka
茂雄 福岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP09412396A priority Critical patent/JP3774502B2/ja
Publication of JPH09282468A publication Critical patent/JPH09282468A/ja
Application granted granted Critical
Publication of JP3774502B2 publication Critical patent/JP3774502B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Character Input (AREA)
  • Facsimiles In General (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 複写処理のスピードに低下させずに、画像の
向きを判定することは難しい。 【解決手段】 二値化回路2021は入力画像データを二値
化して二値メモリ2022へ格納すし、文字検出回路2023は
入力画像データから検出した文字領域のデータを文字領
域座標メモリ2024へ格納する。CPU2025は、文字領域座
標メモリ2024に格納された領域に対応する二値画像デー
タを二値メモリ2022から読出し、その二値画像データに
基づいて文字の向きを判定することにより、原稿画像の
向きを判定するが、タイマ2028からの割込みが発生した
場合は、画像の向きの判定を終了し、信頼度‘0’を含
む判定結果信号を出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は画像処理装置および
その方法に関し、例えば、画像データの表す画像の向き
を判定する画像処理装置およびその方法に関するもので
ある。
【0002】
【従来の技術】近年、複写機のインテリジェント化が進
み、複数の原稿を一枚にレイアウトしたり、両面コピー
したりなど、いろいろな機能が備わるとともに、ADF(Au
tomatic Document Feeder)の充実により自動化、高速化
も進んでいる。
【0003】このような高機能な複写機を効率よく利用
するためには、その複写機が原稿の向きを判定してくれ
ることが重要になる。例えば、ADFを利用し、図1に示す
ように、4in1という画像処理機能により20枚の原稿を四
枚ずつレイアウトして、五枚のプリントアウトにして出
力する場合、原稿の向きが自動的に判定できれば、原稿
を上向きにそろえて置いたり、縦書き、横書きを考慮し
て並べ替えたりするユーザの手間を省くことができる。
【0004】原稿の向きを判定する方法には、大きく分
けて、レイアウトを利用する方法と、OCR(光学的文字
認識)を利用する方法とある。
【0005】
【発明が解決しようとする課題】しかし、上述した技術
においては、次のような問題点がある。つまり、レイア
ウトを利用して原稿の向きを判定する方法は、簡単なビ
ジネス文書ならば問題ないが、凝ったデザインの複雑な
レイアウトの原稿の方向を判定することはできない。
【0006】一方、OCRを利用して原稿の向きを判定す
る方法は、原稿画像を二値化した画像から文字領域を抽
出する文字抽出処理とOCR処理に時間がかかり、複写機
の複写スピードに合ったリアルタイム処理が難しく、複
写機の複写スピードのボトルネックになってしまう欠点
がある。
【0007】本発明は、上述の問題を解決するためのも
のであり、システムの処理スピードに低下させることな
く、画像の向きを判定することができる画像処理装置お
よびその方法を提供することを目的とする。
【0008】
【課題を解決するための手段】本発明は、前記の目的を
達成する一手段として、以下の構成を備える。
【0009】本発明にかかる画像処理装置は、入力され
た画像データを二値化して第一の記憶手段に格納する二
値化手段と、前記入力画像データから文字領域を検出
し、その領域を表す領域データを第二の記憶手段に格納
する検出手段と、前記第一および第二の記憶手段に格納
されたデータに基づいて、前記入力画像データにより表
わされる画像の向きを判定する判定手段とを備え、前記
判定手段は、前記第二の記憶手段に格納された領域デー
タに対応する二値画像データを前記第一の記憶手段から
読出し、読出した二値画像データに基づいて文字の向き
を判定することにより前記画像の向きを判定することを
特徴とする。
【0010】また、本発明にかかる画像処理方法は、入
力された画像データを二値化して第一の記憶手段に格納
する二値化ステップと、前記入力画像データから文字領
域を検出し、その領域を表す領域データを第二の記憶手
段に格納する検出ステップと、前記第二の記憶手段に格
納された領域データに対応する二値画像データを前記第
一の記憶手段から読出す読出ステップと、前記読出しス
テップで読出した二値画像データに基づいて文字の向き
を判定することにより画像の向きを判定する判定ステッ
プとを有することを特徴とする。
【0011】
【発明の実施の形態】以下、本発明にかかる一実施形態
の画像処理装置を図面を参照して詳細に説明する。
【0012】
【第1実施形態】図2は本実施形態の方向判定装置の構成
例を示すブロック図で、機能拡張カードとして提供さ
れ、複写機の機能拡張スロットに挿入することにより、
その複写機に原稿の向きを認識させる機能を追加するこ
とができる。
【0013】同図において、複写機201は、画像メモリ
および各種の画像処理機能をもち、2in1(一枚に原稿二
枚分の画像を複写する処理)、4in1、回転、鏡像などの
画像処理が可能である。
【0014】方向判定カード202は、複写機201から8ビ
ットの多値画像データ、クロックCLK、主走査方向同期
信号HSYNC、主走査方向イネーブル信号VE、ページイネ
ーブル信号PE、3ビットのアドレスADDR、および、8ビッ
トのデータDATAなどの信号を受取ることができる。そし
て、原稿の向きの判定結果として、方向(0度,90度,1
80度および270度)を示す2ビット信号、組方向(縦書お
よび横書)を示す1ビット信号および自信度を示す1ビッ
ト信号を返す。なお、これら信号の種類や、そのビット
数は一例であり、これに限られるものではない。
【0015】上記の信号ADDRとDATAに関して、上記のビ
ット幅であれば、八種類のデータを複写機201から受取
ることができる。八種類のデータとしては、例えば、画
像サイズ、画像横サイズ、画像縦サイズ、画像横ズー
ム、画像縦ズームなどが考えられるが、以下の説明にお
いては、信号ADDRはなしとし、信号DATAには処理限定時
間TLIMITを示す8ビットが送られるとする。つまり、方
向判定カード202は、次頁の原稿サイズに適した処理限
定時間(TLIMIT)を、信号PEの立ち下がりで受取ることに
する。
【0016】二値化回路2021は、複写機201から受取っ
た多値画像データを二値化する。二値メモリ2022は、二
値化回路2021により二値化された画像データを記憶す
る。文字検出回路2023は、複写機201から受取った多値
画像データから文字領域を検出し、その文字領域を表す
座標データを出力する。文字領域座標メモリ2024は、文
字検出回路2023により出力された文字領域を表す座標デ
ータを記憶する。なお、複写機201から方向判定カード2
02へ渡される画像データは、複写機201により二値化さ
れた画像データであっても構わない。
【0017】CPU2025は、RAM2026をワークメモリに使用
し、ROM2027に予め格納されたプログラムに従い、文字
領域座標メモリ2024から座標データを読出し、その座標
データに従って、二値メモリ2022から二値画像データを
読出すなどの各種処理を実行する。つまり、CPU2025
は、ROM2027に格納された文字認識プログラムにより方
向判定処理を行い、方向判定を終了した場合、または、
後述するタイマ2028からの割込信号により判定処理を終
了した場合、方向判定の結果を出力する。
【0018】タイマ2028は、ページイネーブル信号(PE)
の立ち下がりにおいて、複写機201から処理限定時間(TL
IMIT)を受取り、例えば、TLIMITをカウントダウンする
ことによりTLIMITにより指定された時間の経過を判定
し、指定された時間が経過するとCPU2025へ割込信号を
送る。
【0019】図3は方向判定カード202の第二の構成例を
示すブロック図で、方向判定にかかる処理をソフトウェ
アで行う場合の構成である。方向判定ソフトウェアとし
ては、文字領域判定を行い、OCRを使用して方向判定す
るものや、レイアウト解析を行い方向判定するものなど
を利用することができる。
【0020】図4は方向判定カード202の第三の構成例を
示すブロック図で、方向判定にかかる処理をハードウェ
ア(方向判定回路2029)で行う場合の構成である。ハー
ドウェアの処理としても、ソフトウェアの場合と同様
に、文字領域判定を行い、OCRを使用して方向判定する
ものや、レイアウト解析を行い方向判定するものなどを
利用することができる。
【0021】勿論、図3および図4に示す構成において、
方向判定カード202に二値化回路2021をもたせ、複写機2
01から入力された多値画像データを二値化させることも
できる。また、方向判定カード202に多値のバンドメモ
リ(あるいはページメモリ)をもたせ、ソフトウェアに
より、複写機201から入力された多値画像データから方
向判定を行ってもよい。
【0022】図5は方向判定カード202の詳細な構成例を
示すブロック図である。
【0023】同図において、符号Aで示す矩形に囲まれ
た部分はワンチップで構成され、そのワンチップには、
少なくとも、図2に示した二値化回路2021、文字検出回
路2023および文字座標領域メモリ2024が含まれている。
【0024】閾値決定回路101は、入力多値画素データ
から二値化閾値およびエッジを検出するための差閾値を
決定する。この二値化閾値は、二値化回路2021の二値化
処理に利用される。エッジ検出回路102は、クロックCLK
に同期し、差閾値を用いて入力多値画素データから高周
波検出処理を行う。エッジ座標記憶部103は、エッジ検
出回路102により検出されたエッジの座標データを記憶
する。領域情報記憶部104は、既に検出されたエッジ座
標を結合した結果作成される領域情報を記憶する。
【0025】図6は結合処理回路105の処理を説明するた
めの図で、結合処理回路105は、エッジ座標記憶部103に
記憶された座標データ701〜704および712と、領域情報
記憶部104に記憶された座標データ705〜708および713と
を比較して、結合すべきと判断した座標データを結合し
た後、結合した座標データ(符号709〜715の太線で示す
領域)を領域情報記憶部104へ格納する。
【0026】つまり、図5に符号Aで示す構成(文字検出
回路2023および二値化回路2021)により、入力された画
像データは二値化されて二値メモリ2022へ格納されると
ともに、その文字領域の座標データが文字領域座標メモ
リ2024へ格納される。
【0027】例えば、図7Aに示すような文書の画像デー
タに対して文字検出処理を行うと、図7Bに示すような矩
形情報が得られる。そして、CPU2025は、文字領域座標
メモリ2024に格納されている座標データに従って、二値
メモリ2022から画像データを読出し、OCR処理を行う。C
PU2025は、二値メモリ2025から読出した各文字領域の二
値画像データに対して四方向のOCR処理を行い、ROM2027
などに辞書として格納された文字情報に一番近い結果が
得られる方向を、それら文字領域の向きとして、判定結
果を出力する。
【0028】図8は本システムのタイミングチャート例
を示す図で、符号801はイメージスキャナ(CCD)からの画
像入力を、符号802はスキャナから入力された多値画像
データの二値値化処理を、符号803は文字抽出処理を、
符号804はOCR処理を、それぞれ示す。つまり、スキャナ
からの入力801に同期して、リアルタイムに文字抽出処
理803を行い、抽出された文字領域に四方向のOCR処理80
4を行い、文書画像の向き、および、縦書き横書きなど
を識別する。
【0029】ここで、ROM2027に格納されたプログラム
は、CPU2025のOCRによる方向判定処理が、所定時間(TLI
MIT)内に終了することを目指して設計されている。しか
し、所定時間内に方向判定処理が終了しなかった(タイ
マ2028から割込まれた)場合、CPU2025は、それまでの
に得られた方向および組方向(中間結果)と、自信度
‘0’(自信なしの意味)とからなる判定結果を返す。
なお、TLIMITは、複写機201の原稿スキャン動作を停止
させないように設定されるものである。
【0030】複写機201は、方向判定カード202から送ら
れてくる判定結果の自信度に応じて、ユーザに設定され
た指示に従い、実行中の複写処理を制御することができ
る。例えば、処理を開始する前に、自信度が‘0’の場
合は処理を中止するように指示されていれば複写処理を
中止し、自信度を無視するように指示されていれば複写
処理を継続する。
【0031】以上説明したように、本実施形態によれ
ば、OCRを利用して原稿の向きを判定するので、凝った
デザインの複雑なレイアウトの原稿の向きを判定するこ
とができ、複写機の複写スピードに合わせてリアルタイ
ムに原稿の向きを判定することができる。そして、もし
所定時間内に原稿の向きを判定する処理を終了すること
ができなかった場合は、それまでに得られた判定結果
(中間結果)を出力するので、複写スピードを低下させ
ることはない。
【0032】また、例えば図3に示した構成により文字
抽出処理を行う場合、画像の解像度を低下させること
で、例えば図7Aに示した画像から図9に示すような画像
を生成して、文字を相互に結合して輪郭線追跡を行い、
得られた個々の結合領域の縦横比が大きい場合に文字と
判定する方法を用いることもできる。
【0033】また、上述した実施形態においては、複写
機201に方向判定カード202を挿入する例を説明したが、
本発明はこれに限定されるものではなく、イメージスキ
ャナ、プリンタ、コンピュータから構成されるシステム
に適用することもでき、その場合、方向判定カード202
はコンピュータのスロットに挿入されることになる。あ
るいは、コンピュータ上で稼働するプログラムによって
原稿の向きが判定されることになる。
【0034】さらに、イメージスキャナとコンピュータ
で構成されるシステムにおいて、イメージスキャナによ
り読込まれた画像の向きを判定し、その判定結果に基づ
いて、コンピュータに接続されたハードディスクなどの
記憶媒体に格納するシステムでもよい。また、コンピュ
ータから入力された画像の向きを判定して、その判定結
果に基づいて、プリントアウトを行うプリンタでもよ
い。
【0035】
【他の実施形態】なお、本発明は、複数の機器(例えば
ホストコンピュータ,インタフェイス機器,リーダ,プ
リンタなど)から構成されるシステムに適用しても、一
つの機器からなる装置(例えば、複写機,ファクシミリ
装置など)に適用してもよい。
【0036】また、本発明の目的は、前述した実施形態
の機能を実現するソフトウェアのプログラムコードを記
録した記憶媒体を、システムあるいは装置に供給し、そ
のシステムあるいは装置のコンピュータ(またはCPUやM
PU)が記憶媒体に格納されたプログラムコードを読出し
実行することによっても、達成されることは言うまでも
ない。この場合、記憶媒体から読出されたプログラムコ
ード自体が前述した実施形態の機能を実現することにな
り、そのプログラムコードを記憶した記憶媒体は本発明
を構成することになる。プログラムコードを供給するた
めの記憶媒体としては、例えば、フロッピディスク,ハ
ードディスク,光ディスク,光磁気ディスク,CD-ROM,
CD-R,磁気テープ,不揮発性のメモリカード,ROMなど
を用いることができる。
【0037】また、コンピュータが読出したプログラム
コードを実行することにより、前述した実施形態の機能
が実現されるだけでなく、そのプログラムコードの指示
に基づき、コンピュータ上で稼働しているOS(オペレー
ティングシステム)などが実際の処理の一部または全部
を行い、その処理によって前述した実施形態の機能が実
現される場合も含まれることは言うまでもない。
【0038】さらに、記憶媒体から読出されたプログラ
ムコードが、コンピュータに挿入された機能拡張カード
やコンピュータに接続された機能拡張ユニットに備わる
メモリに書込まれた後、そのプログラムコードの指示に
基づき、その機能拡張カードや機能拡張ユニットに備わ
るCPUなどが実際の処理の一部または全部を行い、その
処理によって前述した実施形態の機能が実現される場合
も含まれることは言うまでもない。
【0039】本発明を上記記憶媒体に適用する場合、そ
の記憶媒体には、先に説明したフローチャートに対応す
るプログラムコードを格納することになるが、簡単に説
明すると、図10のメモリマップ例に示す各モジュールを
記憶媒体に格納することになる。すなわち、少なくとも
「二値化」「文字領域検出」「文字画像データ読出」お
よび「画像方向判定」の各モジュールのプログラムコー
ドを記憶媒体に格納すればよい。
【0040】
【発明の効果】以上説明したように、本発明によれば、
システムの処理スピードに低下させることなく、画像の
向きを判定する画像処理装置およびその方法を提供する
ことができる。
【図面の簡単な説明】
【図1】画像処理機能を説明するための図、
【図2】本発明にかかる一実施形態の方向判定装置の構
成例を示すブロック図、
【図3】図2に示す方向判定カードの第二の構成例を示
すブロック図、
【図4】図2に示す方向判定カードの第三の構成例を示
すブロック図、
【図5】図2に示す方向判定カードの詳細な構成例を示
すブロック図、
【図6】図5に示す結合処理回路の処理を説明するため
の図、
【図7A】文字検出処理を説明するための図、
【図7B】文字検出処理を説明するための図、
【図8】本システムのタイミングチャート例を示す図、
【図9】文字抽出処理の他の方法を説明する図、
【図10】本発明にかかるプログラムコードを格納した
記憶媒体のメモリマップ例を示す図である。

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 入力された画像データを二値化して第一
    の記憶手段に格納する二値化手段と、 前記入力画像データから文字領域を検出し、その領域を
    表す領域データを第二の記憶手段に格納する検出手段
    と、 前記第一および第二の記憶手段に格納されたデータに基
    づいて、前記入力画像データにより表わされる画像の向
    きを判定する判定手段とを備え、 前記判定手段は、前記第二の記憶手段に格納された領域
    データに対応する二値画像データを前記第一の記憶手段
    から読出し、読出した二値画像データに基づいて文字の
    向きを判定することにより前記画像の向きを判定するこ
    とを特徴とする画像処理装置。
  2. 【請求項2】 さらに、入力されたデータに基く時間を
    計測する計測手段を備え、 前記計測手段から前記入力データに基づく時間が経過し
    たことを通知された場合、前記判定手段は、前記画像の
    向きの判定を終了することを特徴とする請求項1に記載
    された画像処理装置。
  3. 【請求項3】 前記計測手段からの通知により前記判定
    処理を終了する場合、前記判定手段は、処理が終了して
    いない情報を含めた判定結果を出力することを特徴とす
    る請求項2に記載された画像処理装置。
  4. 【請求項4】 請求項1から請求項3の何れかに記載され
    た画像処理装置を備えることを特徴とする画像処理シス
    テム。
  5. 【請求項5】 入力された画像データを二値化して第一
    の記憶手段に格納する二値化ステップと、 前記入力画像データから文字領域を検出し、その領域を
    表す領域データを第二の記憶手段に格納する検出ステッ
    プと、 前記第二の記憶手段に格納された領域データに対応する
    二値画像データを前記第一の記憶手段から読出す読出ス
    テップと、 前記読出しステップで読出した二値画像データに基づい
    て文字の向きを判定することにより画像の向きを判定す
    る判定ステップとを有することを特徴とする画像処理方
    法。
  6. 【請求項6】 画像処理のプログラムコードが格納され
    たコンピュータ可読メモリであって、 入力された画像データを二値化して第一の記憶手段に格
    納する二値化ステップのコードと、 前記入力画像データから文字領域を検出し、その領域を
    表す領域データを第二の記憶手段に格納する検出ステッ
    プのコードと、 前記第二の記憶手段に格納された領域データに対応する
    二値画像データを前記第一の記憶手段から読出す読出ス
    テップのコードと、 前記読出しステップで読出した二値画像データに基づい
    て文字の向きを判定することにより画像の向きを判定す
    る判定ステップのコードとを有することを特徴とするコ
    ンピュータ可読メモリ。
JP09412396A 1996-04-16 1996-04-16 画像処理装置およびその方法 Expired - Fee Related JP3774502B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP09412396A JP3774502B2 (ja) 1996-04-16 1996-04-16 画像処理装置およびその方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP09412396A JP3774502B2 (ja) 1996-04-16 1996-04-16 画像処理装置およびその方法

Publications (2)

Publication Number Publication Date
JPH09282468A true JPH09282468A (ja) 1997-10-31
JP3774502B2 JP3774502B2 (ja) 2006-05-17

Family

ID=14101655

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09412396A Expired - Fee Related JP3774502B2 (ja) 1996-04-16 1996-04-16 画像処理装置およびその方法

Country Status (1)

Country Link
JP (1) JP3774502B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6501920B2 (en) 2000-02-10 2002-12-31 Minolta Co Ltd Copying machine, image processing apparatus, and image processing method for orienting images

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6501920B2 (en) 2000-02-10 2002-12-31 Minolta Co Ltd Copying machine, image processing apparatus, and image processing method for orienting images

Also Published As

Publication number Publication date
JP3774502B2 (ja) 2006-05-17

Similar Documents

Publication Publication Date Title
US7751648B2 (en) Image processing apparatus, image processing method, and computer program
US7317835B2 (en) Image processing method and apparatus
US7437002B2 (en) Image recognition system utilizing an edge image and a binary image
US6754391B2 (en) Systems and methods for rendering image-based data
JP3884845B2 (ja) 情報処理装置及び方法
JPH09282468A (ja) 画像処理装置およびその方法
JP2013191078A (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JPH10232926A (ja) 画像処理装置及びその方法
JPH1021364A (ja) 画像処理装置およびその方法
JP2000113173A (ja) 画像処理装置及び画像処理方法
US20030142358A1 (en) Method and apparatus for automatic image capture device control
JP2001312691A (ja) 画像処理方法および装置並びに記憶媒体
JPS5949671A (ja) 光学的文字読取装置
JP3412998B2 (ja) 画像処理装置及びその方法
JP3160458B2 (ja) 文字読取装置及び文字読取方法
JPH0557632B2 (ja)
JP2007065864A (ja) 画像処理装置、画像処理方法、画像形成装置、画像形成方法、原稿読み取り装置、及び原稿読み取り方法
JPH09190491A (ja) 画像処理方法及びその装置
JP2003263642A (ja) 画像処理装置及びその方法
JPH09218741A (ja) 情報処理装置及びその制御方法
JPH09190494A (ja) 画像処理方法及びその装置
JP2002334333A (ja) 情報処理装置および情報処理方法
JPS61196382A (ja) 文字切出し方式
JPH1093772A (ja) 画像処理装置及び画像処理方法
JPH10262138A (ja) 画像読み取り装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060220

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110224

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120224

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130224

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140224

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees