JP3569626B2 - 図形抽出方法及びそのプログラムを記録した記録媒体 - Google Patents

図形抽出方法及びそのプログラムを記録した記録媒体 Download PDF

Info

Publication number
JP3569626B2
JP3569626B2 JP12655498A JP12655498A JP3569626B2 JP 3569626 B2 JP3569626 B2 JP 3569626B2 JP 12655498 A JP12655498 A JP 12655498A JP 12655498 A JP12655498 A JP 12655498A JP 3569626 B2 JP3569626 B2 JP 3569626B2
Authority
JP
Japan
Prior art keywords
template
value
graphic
extraction
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP12655498A
Other languages
English (en)
Other versions
JPH11328399A (ja
Inventor
昭夫 塩
康浩 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP12655498A priority Critical patent/JP3569626B2/ja
Publication of JPH11328399A publication Critical patent/JPH11328399A/ja
Application granted granted Critical
Publication of JP3569626B2 publication Critical patent/JP3569626B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、紙の上に書かれた設備管理図面、機械設計図面、地図など、様々な図面をCADなどで扱えるベクトルデータに変換する方法に関する。
【0002】
【従来の技術】
既存図面を自動認識する従来手法には、以下の二つの方法が考えられる。
【0003】
第1の方法は、細線化処理や白黒の境界線を抽出する処理を行い、得られた画像上の黒点を追跡することによって、図面画像を構造化されたベクトルデータに変換するものである。この方法では、図面の局所に注目して処理するため、線分の部分的な歪みや、雑音に影響されやすいという問題があった。この結果、手書きによる筆記変動や雑音を含む通常の図面に対しては、歪みを多く含んだベクトルデータになっていた。特に、線分の交差点付近など線分が密になっている部分での歪みは著しく、例えば図8に示す例の様に、本来交差点となるべきものが複数の分岐点に別れたり、線分の交差によって図形の形状が著しく歪んだりするなどの問題があった。
【0004】
第2の方法は、一般Hough変換「森 俊二、坂倉 栂子:画像認識の基礎[2]、Page11−14、オーム社、1990」などの方法で、上記第1の方法の欠点がほぼ解決できる。この方法は、図面の大部分が、直線、四角形、円など比較的少数種の基本図形から構成されることを利用したもので、予め与えるこれら基本図形と類似した形状をもつ図形を、図面中から探索する方式である。
【0005】
【発明が解決しようとする課題】
しかしながら、この種の従来の第2の方法は、基本的に抽出対象との類似性のみに基づいて対象を抽出するため、抽出対象と区別すべき類似した対象に関する情報を使っていない。
【0006】
このため、例えば円を抽出対象とする場合には、図9に示す様に抽出対象でない類似した形状の図形が図面中から間違って多数検出されると云う問題があった。図9(a)に於いて、1000は入力図面(例)、図9(b)に於いて、1100は図形抽出結果(例)、1101は正しく抽出された図形、1102は誤って抽出された図形である。
【0007】
本発明は、上記従来の第1の方法のような雑音や歪みの発生の問題がなく、しかも上記従来の第2の方法における誤検出の問題を抜本的に解決する図形抽出方法を提供するものである。
【0008】
【課題を解決するための手段】
本発明は、以下に列記した発明により上記の課題を解決する。
【0009】
第1の発明は、白黒の2値で表現された図面をベクトル情報に変換する方法であって、認識対象とする図形の特徴を重み値によって表現する第1のテンプレートを登録し、この第1のテンプレートを用いて第1の図形抽出処理を行い、この第1の図形抽出処理の結果から、ポインティング・デバイスによって指定された検出図形を切り出し、さらに正しく検出された図面と誤って検出された図形の2種類に分類して登録し、
これらの検出図形を基に、正解図形が値を持つ部分で大きな値となり、誤り図形が値を持つ部分で小さな値となる第二のテンプレートを作成し、この第2のテンプレートを用いて第2の図形抽出処理を行うことを特徴とする
【0010】
ここで、前記第2のテンプレートは、着目する認識対象図形とそれ以外の対象図形との差が大きくなる様に作成してもよい
【0011】
(2)の発明は、(1)の発明において、前記第1及び第2の図形抽出処理は、第1及び第2のテンプレートの中心を図面上の黒点に重ねながら相関を求め、その値の大きさによって図形位置を抽出することを特徴とする
【0012】
(3)の発明は、白黒の2値で表現された図面をベクトル情報に変換する方法をコンピュータで実行するためのプログラムを記録した記録媒体であって、
認識対象とする図形の特徴を重み値によって表現する第1のテンプレートを登録する手順と、この第1のテンプレートを用いて第1の図形抽出処理を行なう手順と、この第1の図形抽出処理の結果から、ポインティング・デバイスによって指定された検出図形を切り出し、さらに正しく検出された図面と誤って検出された図形の2種類に分類して登録する手順と、これらの検出図形を基に、正解図形が値を持つ部分で大きな値となり、誤り図形が値を持つ部分で小さな値となる第二のテンプレートを作成する手順と、この第2のテンプレートを用いて第2の図形抽出処理を行う手順とをコンピュータで実行するためのプログラムを該コンピュータが読み取り可能な記録媒体に記録したことを特徴とする
【0013】
ここで、前記第2のテンプレートを作成する手順では、着目する認識対象図形とそれ以外の対象図形との差が大きくなる様に該第2のテンプレートを作成するようにしてもよい
【0014】
(4)の発明は、(3)の発明において、前記第1及び第2の図形抽出処理を行う手順では、第1及び第2のテンプレートの中心を図面上の黒点に重ねながら相関を求め、その値の大きさによって図形位置を抽出することを特徴とする
【0015】
本発明では、上述の第2の従来方法の基本的な考え方を踏襲し、雑音や歪みの発生の問題を無くす。まず、図面を構成する基本図形(直線、円、三角形、四角形など)を認識対象として選ぶ。これらの認識対象毎に検索用のテンプレートを利用する。以上は、第2の従来方法と同様である。しかし、上記の様に類似した図形を判別するためには、それぞれの形状をテンプレートに記述するのみでは、不十分であり、それらの差異を強調する様にする必要がある。そこで本発明では、類似した図形との差を強調するようにテンプレートを補正する機能を付加する。テンプレートを類似図形との差異に基づいて修正するため、従来方法において多数発生していた誤検出が防止できる。この為、高い精度で図面を認識することができる。
【0016】
【発明の実施の形態】
以下、本発明の実施の形態について図を用いて詳細に説明する。
【0017】
図1は、本発明の処理フローの実施形態例であって、100は認識対象となる2値図面、200は第1のテンプレート登録処理、300は第1の図形抽出処理、400は第1の図形抽出結果、500は第1の図形抽出結果の登録操作、600は第2のテンプレート登録処理、700は第2の図形抽出処理、800は第2の図形抽出結果である。
【0018】
2値図面100は、紙に書かれた図面をイメージスキャナなどのイメージ入力手段によって光電変換して得られるものであり、その一例を図2に示す。以下の説明では、白い紙の部分は値0、鉛筆など黒い線で筆記された線分の部分は値1で表されているものとする。
【0019】
第1のテンプレート登録処理200は、認識対象とする定型図形を初期登録する処理である。登録の方法には2つの方法がある。
【0020】
最初の方法は、予め決められた認識対象図形の形状に合わせてテンプレートを決める簡易な方法であり、例えば、円を抽出するテンプレートの場合には、円の半径をrとして、
+y=r
なる式によってテンプレート図形を与える。この方法は、対象図形の形状が簡単な関数の形に表現できる場合に適している。
【0021】
もう一方の方法は、実際の図面中に含まれる対象図形を切り出し、これに基づいてテンプレートを作成する方法であり、どんな複雑な形状の図形であっても容易に表現できる。
【0022】
図3は、この方法によって円を抽出するテンプレートを作成する手順の説明図であって、210は2値図面、220は抽出対象である円を含む矩形領域、230は矩形領域220によって切り出された図形、240は切り出された図形230を整形して得られた図形、250は整形された図形240を聖ね合わせて合成した円のテンプレートである。
【0023】
まず、マウスなどのポインティング・デバイスを用いたマニュアル操作によって2値図面210上の抽出対象図形を矩形領域で切り出す。切り出す矩形領域の数は1個でもよいが、実際の図形の大きさや形などの変動に対処するため、複数個切り出しておく(図3の230)。次に、切り出された図形から、不要な部分の削除や不足部分の補完を行い、240の様に形を整形する。最後に、整形して得られた複数の図形を重ね合わせて平均化し、テンプレート250を作成する。重ね合わせるには位置の整合が必要であるが、目視によって複数個の図形が重なる様に設定してもよいし、相関などを用いて自動的に位置合わせすることもできる。
【0024】
自動的に位置整合を行う方法について説明する。マニュアル操作によって図面から矩形で切り出されたK個(K≧2)の対象図形を
(x,y),...,T(x,y)
と表す。まず最初に適当な2つ、例えばTを基準図形、T(j≠i)を被整合対象図形として選び、Tの位置のずらし量(d ,d )を変化させながら、相関
【0025】
【数1】
Figure 0003569626
【0026】
または、正規化相関
【0027】
【数2】
Figure 0003569626
【0028】
の何れかを求め、これら相関係数が最大となるずらし量を位置補正量(D ,D )とする。ただし、φは、対象図形TとTの重なる領域の位置座標(x,y)の集合を示す。
【0029】
以上の説明では、相関係数を利用した例を示したが、単純に2つの対象図形の差の絶対値の和
【0030】
【数3】
Figure 0003569626
【0031】
や、ユークリッド距離
【0032】
【数4】
Figure 0003569626
【0033】
などの距離値を計算し、その値が最小になる様に位置合わせしても概ね同等の結果が期待できる。
【0034】
この様な方法によって得られる補正量(D ,D )だけ位置をずらし、K枚の対象図形を重ね合わせて平均化することにより、第1のテンプレートTを得る。すなわち、第1のテンプレートTは、
【0035】
【数5】
Figure 0003569626
【0036】
により得ることができる。
【0037】
以上で説明したテンプレート登録方法は、実際の図面に書かれた対象図形を平均化して利用するため、対象図形の変動も考慮され、安定した認識結果が期待できる。
【0038】
図4は、第1の図形抽出処理300の処理フローの実施形態例であって、310は2値図面、320は第1のテンプレート、330は投票処理、340は投票画像、350は検索処理、400は第1の図形抽出結果である。
【0039】
投票処理330では、入力の2値図面310、I(x,y)の上を、第1のテンプレート登録処理200で作成したテンプレート320、T(x,y)を移動させながら、各点ごとに2値図面(部分)とテンプレートとの類似度を計算して、投票画像340V、(X,Y)上に投票する。類似度としては例えば相関
【0040】
【数6】
Figure 0003569626
【0041】
または、入力2値図面(部分)の値で正規化した正規化相関
【0042】
【数7】
Figure 0003569626
【0043】
などが利用できる。
【0044】
ただし、Φは入力2値図面とテンプレートとの重なる領域の画素の(x,y)座標の集合を示す。類似度としては、これら相関のほか様々な尺度が利用可能であり、大小関係は逆になるが差分の絶対値の和、ユークリッド距離などを用いても同様な結果が期待できる。相関C(X,Y)(式(1))の場合を例に説明すると、投票画像V(X,Y)の全ての画素値を0に初期設定した後、(X,Y)の値を変えながら順次、式(1)に従って相関C(X,Y)を計算し、投票画像V(X,Y)を
V(X,Y)=C(X,Y)
によって求める。式(1)の計算コストは必ずしも低くないが、入力図面およびテンプレートが2値のデータである場合には、積が0または1になるため、計算コストを大幅に減らすことができる。
【0045】
この様にして得られる投票画像340、V(X,Y)は、入力図面に対してテンプレートで畳み込んだものであるから、入力図面をぼかした様な画像になる。
【0046】
検索処理350は、投票画像340、V(X,Y)を入力として、対象図形を抽出する処理である。投票画像に於いて、投票値の大きな部分はテンプレートと類似した図形の存在する位置を表す。そこで、投票画像のうち、投票値が一定値以下で雑音と見做せる部分を除外したのち、投票値が極大値をとる位置を検出対象図形の位置と決定できる。
【0047】
この様な方法によって決定された位置に、抽出対象図形を重ねて表示すると、図9(b)の従来の第2の方法の問題点の図形抽出結果(例)1100で示した様な第1の図形抽出結果400が得られる。
【0048】
以上、説明した一連の処理は、一般Hough変換を利用した従来の第2の方法と基本的に同じものであって、上述の様に、抽出対象図形のほか、誤って対象とは異なる図形も同時に抽出されると云う問題がある。
【0049】
第1の図形抽出結果の登録操作500以降の処理は、この様な誤抽出の問題を解決するためのものである。まず、第1の図形抽出結果の登録操作500では、第1の図形抽出結果400で得られた検出図形をテンプレートの大きさの矩形領域で切り出し、「正しく検出された図形」と「誤って検出された図形」の2種類に分類して登録する。ただし、この分類作業には、「正しい」か「誤っている」かの人間の判断が必要である。図5は、この様な方法で登録された図形の例であって、510は正しく検出された図形、520は誤って検出された図形の例を示す。
【0050】
第2のテンプレート登録処理600では、M個の正しく検出された図形と、N個の誤って検出された図形を基に第2のテンプレートを作成する処理である。正しく検出された図形をT (x,y)(≧0;1≦m≦M)、誤って検出された図形をT (x,y)(≧0;1≦n≦N)とするとき、第2のテンプレート
【0051】
【数8】
Figure 0003569626
【0052】
によって求める。ただし、α,βは実験的に定める重み計数である。
【0053】
式(2)に於いて、
【0054】
【数9】
Figure 0003569626
【0055】
の値は、第1項すなわち第1のテンプレートT(x,y)の値と、第2項の正解図形の値が大きいほど大きくなり、第3項の誤り図形の値が大きくなると、
【0056】
【数10】
Figure 0003569626
【0057】
の値は小さくなる。すなわち、第2のテンプレート
【0058】
【数11】
Figure 0003569626
【0059】
の値は、第1項と第2項で大きな値を持ち、第3項が小さい値を持つ部分で大きな値となる。反対に誤り図形のみで大きな値を持つ部分では、マイナスの値をとることになる。
【0060】
また、この式(2)の定義のほか計算コストの少ない簡易版も考えられる。例えば、式(2)の結果を適当な閾値を用いて、
−1,0,1
の3値にする方法がある。こうすると第2の図形抽出処理700で行う相関計算が掛け算のない加減算のみで実現できるため、計算コストを大幅に減少させることができる。
【0061】
第2のテンプレートの算出方法は、正解図形が値をもつところで大きな値、誤り図形が値を持つ部分が小さな値を取るようになっていれば、必ずしも式(2)に限定する必要はない。
【0062】
図6は、第2の図形抽出処理700の処理フローの実施形態例であって、710は2値図面、720は第2のテンプレート、730は投票処理、740は投票画像、750は検索処理、800は第2の図形抽出結果である。本処理ブロックは、図6に示した第1の図形抽出処理300と同一であり、異なるのは使用するテンプレートのみである。
【0063】
図7は、第2の図形抽出処理を行った結果得られる、第2の図形抽出結果800の一例であって、第1の図形抽出結果に含まれていた誤抽出図形が消え、抽出対象図形のみが正しく抽出されているのが判る。
【0064】
なお、以上の説明では、円の抽出の場合を例に説明してきたが、本発明は、図面中の図形の形状をテンプレートの形で登録して抽出する方法であるから、矩形、三角形などは勿論、任意形状の図形の抽出にも適用できる。
【0065】
また、図1〜図7を用いて説明した図形抽出方法を、コンピュータを用いて実現できることは言うまでもなく、コンピュータでその処理の手順を実行させるためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えば、FD(フロッピーディスク)や、MO、ROM、メモリカード、CD、DVD、リムーバブルディスクなどに記録して提供し、配布することが可能である。
【0066】
【発明の効果】
以上説明してきた様に、本発明では、第1の図形抽出処理で得られた「正しい検出図形」と「誤って検出された図形」を利用し、これらに基づいて学習することによって第2のテンプレートを登録し、再度抽出処理を行うため、誤りなく対象図形を抽出することが可能である。
【図面の簡単な説明】
【図1】本発明の一実施形態例の処理フローを示す図である。
【図2】上記実施形態例での2値図面の例を示す図である。
【図3】(a),(b)は、上記実施形態例での第1のテンプレート登録処理の説明図である。
【図4】上記実施形態例での第1の図形抽出処理ブロックの実施形態例を示す図である。
【図5】上記実施形態例での登録された図形の例を示す図である。
【図6】上記実施形態例第2の図形抽出処理ブロックの実施形態例を示す図である。
【図7】上記実施形態例での第2の図形抽出結果の一例を示す図である。
【図8】従来の第1の方法の問題点を説明する図である。
【図9】(a),(b)は、従来の第2の方法の問題点を説明する図である。
【符号の説明】
100…2値図面
200…第1のテンプレート登録処理
210…2値図面
220…抽出対象を含む矩形領域
230…切り出された図形
240…整形して得られた図形
250…合成された円のテンプレート
300…第1の図形抽出処理
310…2値図面
320…第1のテンプレート
330…投票処理
340…投票画像
350…検索処理
400…第1の図形抽出結果
500…第1の図形抽出結果の登録操作
510…正しく検出された図形の例
520…誤って検出された図形の例
600…第2のテンプレート登録処理
700…第2の図形抽出処理
710…2値図面
720…第2のテンプレート
730…投票処理
740…投票画像
750…検索処理
800…第2の図形抽出結果
1000…入力図面(例)

Claims (4)

  1. 白黒の2値で表現された図面をベクトル情報に変換する方法であって、
    認識対象とする図形の特徴を重み値によって表現する第1のテンプレートを登録し、
    この第1のテンプレートを用いて第1の図形抽出処理を行い、
    この第1の図形抽出処理の結果から、ポインティング・デバイスによって指定された検出図形を切り出し、さらに正しく検出された図面と誤って検出された図形の2種類に分類して登録し、
    これらの検出図形を基に、正解図形が値を持つ部分で大きな値となり、誤り図形が値を持つ部分で小さな値となる第二のテンプレートを作成し、
    この第2のテンプレートを用いて第2の図形抽出処理を行うこと
    を特徴とする図形抽出方法。
  2. 前記第1及び第2の図形抽出処理は、第1及び第2のテンプレートの中心を図面上の黒点に重ねながら相関を求め、その値の大きさによって図形位置を抽出すること
    を特徴とする請求項1記載の図形抽出方法。
  3. 白黒の2値で表現された図面をベクトル情報に変換する方法をコンピュータで実行するためのプログラムを記録した記録媒体であって、
    認識対象とする図形の特徴を重み値によって表現する第1のテンプレートを登録する手順と、
    この第1のテンプレートを用いて第1の図形抽出処理を行なう手順と、
    この第1の図形抽出処理の結果から、ポインティング・デバイスによって指定された検出図形を切り出し、さらに正しく検出された図面と誤って検出された図形の2種類に分類して登録する手順と、
    これらの検出図形を基に、正解図形が値を持つ部分で大きな値となり、誤り図形が値を持つ部分で小さな値となる第二のテンプレートを作成する手順と、
    この第2のテンプレートを用いて第2の図形抽出処理を行う手順と
    をコンピュータで実行するためのプログラムを該コンピュータが読み取り可能な記録媒体に記録したことを特徴とする図形抽出プログラムを記録した記録媒体。
  4. 前記第1及び第2の図形抽出処理を行う手順では、第1及び第2のテンプレートの中心を図面上の黒点に重ねながら相関を求め、その値の大きさによって図形位置を抽出すること
    を特徴とする請求項3記載の図形抽出プログラムを記録した記録媒体。
JP12655498A 1998-05-11 1998-05-11 図形抽出方法及びそのプログラムを記録した記録媒体 Expired - Fee Related JP3569626B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP12655498A JP3569626B2 (ja) 1998-05-11 1998-05-11 図形抽出方法及びそのプログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP12655498A JP3569626B2 (ja) 1998-05-11 1998-05-11 図形抽出方法及びそのプログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JPH11328399A JPH11328399A (ja) 1999-11-30
JP3569626B2 true JP3569626B2 (ja) 2004-09-22

Family

ID=14938050

Family Applications (1)

Application Number Title Priority Date Filing Date
JP12655498A Expired - Fee Related JP3569626B2 (ja) 1998-05-11 1998-05-11 図形抽出方法及びそのプログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP3569626B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5351409B2 (ja) * 2007-10-31 2013-11-27 キヤノン株式会社 位置検出器、テンプレートを得る方法、露光装置及びデバイス製造方法
JP5650060B2 (ja) * 2011-06-03 2015-01-07 日本電信電話株式会社 画像追跡装置及び画像追跡方法

Also Published As

Publication number Publication date
JPH11328399A (ja) 1999-11-30

Similar Documents

Publication Publication Date Title
CN111507251B (zh) 试题图像中作答区域的定位方法、装置、电子设备及计算机存储介质
CN110378310B (zh) 一种基于答案库的手写样本集的自动生成方法
US6778703B1 (en) Form recognition using reference areas
CN110020692B (zh) 一种基于印刷体模板的手写体分离与定位方法
CN113435240B (zh) 一种端到端的表格检测和结构识别方法及系统
CN108629286B (zh) 一种基于主观感知显著模型的遥感机场目标检测方法
US10025977B2 (en) Method for identifying a sign on a deformed document
CN111209920B (zh) 一种复杂动态背景下飞机检测方法
JPWO2010052830A1 (ja) 画像向き判定装置、画像向き判定方法及び画像向き判定プログラム
CN111523537A (zh) 一种文字识别方法、存储介质及系统
CN115375917B (zh) 一种目标边缘特征提取方法、装置、终端及存储介质
CN112767358A (zh) 基于图像特征配准的铁路电力机车故障检测方法
CN105354571A (zh) 基于曲线投影的畸变文本图像基线估计方法
CN113158895A (zh) 票据识别方法、装置、电子设备及存储介质
CN114445843A (zh) 固定版式的卡证图像文字识别方法和装置
CN110705554B (zh) 图像的处理方法和装置
CN112907612A (zh) 一种条形码区域定位的方法和图像的矩形区域拟合的方法
JP3569626B2 (ja) 図形抽出方法及びそのプログラムを記録した記録媒体
JP2898562B2 (ja) ナンバープレート決定方法
JP3558493B2 (ja) 用紙位置合わせ装置、用紙位置合わせ方法及び用紙位置合わせプログラムを記録したコンピュータ読み取り可能な記録媒体
CN115223173A (zh) 对象识别方法、装置、电子设备及存储介质
JPH11272800A (ja) 文字認識装置
WO2022056875A1 (zh) 一种铭牌图像的分割方法、装置和计算机可读存储介质
CN113506306A (zh) 多人抠图方法、系统、装置和存储介质
CN110223319B (zh) 基于改进几何粒子滤波的动态目标实时跟踪方法和系统

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040615

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040621

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090625

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090625

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100625

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100625

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110625

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120625

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130625

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees