JP3684171B2 - 柄替えシミュレーションシステム - Google Patents

柄替えシミュレーションシステム Download PDF

Info

Publication number
JP3684171B2
JP3684171B2 JP2001141862A JP2001141862A JP3684171B2 JP 3684171 B2 JP3684171 B2 JP 3684171B2 JP 2001141862 A JP2001141862 A JP 2001141862A JP 2001141862 A JP2001141862 A JP 2001141862A JP 3684171 B2 JP3684171 B2 JP 3684171B2
Authority
JP
Japan
Prior art keywords
image
texture
axis
texture image
curved surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001141862A
Other languages
English (en)
Other versions
JP2002342782A (ja
Inventor
陽子 花田
三奈子 宮間
清 岩崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2001141862A priority Critical patent/JP3684171B2/ja
Publication of JP2002342782A publication Critical patent/JP2002342782A/ja
Application granted granted Critical
Publication of JP3684171B2 publication Critical patent/JP3684171B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Generation (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

【0001】
【発明が属する技術分野】
本発明は、柄替えシミュレーションシステム、特に2次元の背景画像に含まれる複雑な曲面で構成される布製品等の物体の柄をその曲面を、考慮して自然に変更する際に適用して好適な柄替えシミュレーションシステムに関する。
【0002】
【従来の技術】
コンピュータ・グラフィックスにより室内等を表わす背景画像に含まれる内装等の柄を変更する柄替えシミュレーションシステムが知られている。
【0003】
その一つである3次元情報で定義された柄替えシミュレーションシステムでは、多角形(ポリゴン)や、曲面へマッピングするテクスチャ素材を変更することにより柄替えを実現する手法が採られている。このような3次元情報を利用するシミュレーションシステムは、自由度が高いという利点があるものの、製作にコストと時間がかかるという欠陥があり、その上実写並のクオリティを実現するためには、レンダリングに多くの時間を要するため、インタラクティブなシミュレーションには不向きである。
【0004】
一方、これとは別に、2次元画像に対する柄替えシミュレーションシステムも知られており、このシステムでは画像内の所望の領域に他の画像(テクスチャ画像)を合成する技術が開発されている。このような2次元画像による柄替えシミュレーションシステムでは、壁面等の平面に対するシミュレーション技術は、例えば特開2000−293667に提案されているように、既に確立されている。
【0005】
【発明が解決しようとする課題】
しかしながら、前記2次元画像による柄替えシミュレーションシステムには、ベッドカバーやテーブルクロス等のような2次元画像の曲面をシミュレーションする場合には、複雑な式を用いてパラメータを設定する等、経験を積むことにより習得するような熟練した技が必要とされることから、誰にでも容易に直ぐに操作できる技術ではない。前記3次元の場合に比べて操作性に優れてはいるものの、奥行き感を表わすパースがかからない等の不自然な合成結果になり易いことから、その適用が平面へのマッピングに限定されることが多いという問題があった。
【0006】
本発明は、前記従来の問題点を解決するべくなされたもので、簡単な操作により、2次元の背景画像に複雑な任意の曲面を有する対象物の画像を、自然な状態に合成することができる柄替えシミュレーションシステムを提供することを課題とする。
【0007】
【課題を解決するための手段】
本発明は、2次元の背景画像に、柄を構成するテクスチャ画像を合成する柄替えシミュレーションシステムにおいて、背景画像を入力する手段と、背景画像に合成するテクスチャ画像を入力する手段と、入力された背景画像中でテクスチャ画像を合成するオブジェクトを指定する手段と、指定されたオブジェクトが有する曲面を表わす曲面データをテクスチャ画像に対応する直交座標系の縦軸と横軸の軸上のポイントの座標を変更することにより、ポイントとポイントを結ぶ線分とで構成される曲線であって、背景画像中のオブジェクトの曲面に合せて変形して曲面を作成する手段と、作成された曲面データに基づいてテクスチャ画像を変形して合成用素材画像を作成する手段と、作成された合成用素材画像を前記オブジェクトの画像領域にマッピングする合成手段と、を備えたことにより、前記課題を解決したものである。
【0008】
即ち、本発明においては、画像を合成する背景画像上のオブジェクトの画像領域に、対象物の柄を表わすテクスチャ画像を合成する際、該テクスチャ画像を前記オブジェクトが有する曲面から作成される曲面データにより曲線変更できるようにしたので、画面上でオブジェクトの表面にポインタを合わせてパラメータを設定するという簡単な操作により、自然な曲面を有する対象物を画像合成することが可能となる。
【0009】
【発明の実施の形態】
以下、図面を参照して、本発明の実施の形態について詳細に説明する。
【0010】
図1は、本発明に係る一実施形態の2次元画像による柄替えシミュレーションシステムの概略構成を示すブロック図である。
【0011】
本実施形態の柄替えシミュレーションシステムは、画像合成装置101、画像入力装置102、指示入力装置103、及び画像表示装置104を備えていると共に、前記画像合成装置101は、画像変形部105、画像読込部106、パラメータ読込部107及び合成部108を有する構成になっている。
【0012】
本システムは、シミュレーションを行いたい対象画像(以下、“背景画像”と呼ぶ)中にある、シミュレーションを行いたい画像上の複雑な自由(任意)曲面を有する対象物(以下、“オブジェクト”と呼ぶ)に、様々な柄画像(以下、“テクスチャ画像”と呼ぶ)を変形し、合成することによりシミュレーションを行うことができるようになっている。
【0013】
本システムについて詳述すると、前記画像合成装置101は、以下に説明する画像入力装置102により直接入力される背景画像と、画像変形部105により変形された、後述する繰り返しテクスチャ画像とを読み込むと共に、これら背景画像とテクスチャ画像等に対して、指示入力装置103で入力される各種パラメータに従い、合成部108において指定した背景画像内のオブジェクトの柄を変更し、結果を表示装置104に出力する機能を有している。
【0014】
前記画像入力装置102は、背景画像及びテクスチャ画像を画像合成装置101に入力するための装置で、具体的にはデジタルカメラやスキャナ等の画像取込装置や、予め準備しておいた画像を格納しているHDD(ハードディスクドライブ)等である。又、前記指示入力装置103は、背景画像中のシミュレーションを行うオブジェクトの指定や、オブジェクト毎のテキスチャ変形に用いるパラメータを入力するための装置で、具体的にはキーボードやマウス等である。又、前記画像表示装置104は、画像合成装置101で作成されたシミュレーション結果を表示するもので、ディスプレイ等に相当する。
【0015】
前記画像合成装置101について更に説明すると、画像変形部105は、画像入力装置102により入力される単位となるテクスチャ画像を、指示入力装置103により入力される後述するパラメータにより指示された繰り返し数だけ、直交座標からなるテクスチャ座標系に縦横に繰り返し並べて作成されたテクスチャ画像(以下、“繰り返しテクスチャ画像”と呼ぶ)の変形を行い、変形された結果の画像(以下、“合成用素材画像”と呼ぶ)を画像読込部106に出力する機能を有している。この画像読込部106はシミュレーションを行うためための2次元画像を読み込む部分で、背景画像を前記画像入力装置102から、上記合成用素材画像を画像変形部105からそれぞれ読込み、合成部108に入力する機能を有し、パラメータ読込部107は上記画像読込部106により入力された画像に対して、シミュレーションを行いたいオブジェクト毎に設定するパラメータを指示入力装置103から読み込み、同じく合成部108に入力する機能を有している。又、この合成部108は、上記のように画像読込部106により入力された画像と、パラメータ読込部107により入力されたパラメータを用いて、以下に詳述する画像処理により合成画像を作成すると共に、作成された合成画像を、柄の変更を行ったシミュレーション結果として表示装置104に出力する機能を有している。
【0016】
本実施形態では、前記画像合成装置101に含まれる、指定されたオブジェクトが有する曲面を表わす曲面データを作成する手段、及び、作成された曲面データに基づいてテクスチャ画像を変形して合成用素材画像を作成する手段からなる前記画像変形部と、作成された合成用素材画像を前記オブジェクトの画像領域にマッピングする合成手段である前記合成部108とが、それぞれソフトウェアにより実現されている。
【0017】
次に、本実施形態の作用を、図2に示したフローチャートに従って説明する。
【0018】
まず、前記画像入力装置102により、背景画像とテクスチャ画像を画像合成装置101に入力する(ステップ1、2)。ここでは、背景画像として図3にイメージを示す椅子をカメラで撮影した2次元画像を入力し、テクスチャ画像としては図4に示した繰り返しの単位となるテクスチャ画像を入力する場合を例として示す。
【0019】
次いで、入力した背景画像を画面表示させ、画面上で柄替えを行いたいオブジェクトを登録する(ステップ3)。これは、柄替えの対象としたいオブジェクトをマウス等により順番に指定することにより、異なるテクスチャを合成するオブジェクト毎、あるいは後述するパラメータの設定が異なるオブジェクト毎に、背景画像内におけるオブジェクトの可視領域(以下、オブジェクト領域とも言う)に対して、識別番号を割り当てて設定することを意味する。図5には、背景画像内におけるオブジェクト領域の設定の一例を示す。この図に示されるように、オブジェクトの登録は、前記図3の背景画像と同一の縦横の大きさを持つ配列データを用意し、テクスチャ合成を行わない領域の画素に対して0の値を設定し、テクスチャの合成を行うオブジェクト領域(ここでは椅子の画像領域)に属する画素に対して、前述した識別番号として、1を設定し、オブジェクトを1つだけ領域指定(登録)したことを表わしている。
【0020】
登録したいオブジェクトが他にあれば、同様の方法で登録し、全ての登録が終了した後、背景画像中に複数あるオブジェクトのうち、柄替えシミュレーションを行いたいオブジェクトを指示入力装置103を用いて指定する(ステップ4)。ここでは、1つしかないので前記オブジェクトを指定することになる。
【0021】
次いで、前記画像変形部105に、前記ステップ2で入力した単位のテクスチャ画像を基に作成される繰り返しテクスチャ画像をオブジェクトの曲面に合うように変形するための、画像変形パラメータを指示入力装置103を用いて入力する(ステップ5)。即ち、画面上で指示して曲面データを作成する。
【0022】
画像変形の方法は複数考えられるが、ここでは、オブジェクトの曲面に合わせて軸を変形して設定することにより画像変形パラメータを指定する“軸指定方式”を採用する。この軸指定方式は、x軸とy軸により、繰り返しテクスチャ画像を変形するためのパラメータを指定する方式である。この方式では、テクスチャ画像は直交する2直線(それぞれを“x軸”、“y軸”と呼ぶ)、即ちxyの直交座標系で構成されるとし、x軸、y軸を曲線に変形することによりテクスチャ画像を変形させるため、画像変形パラメータは変形された軸で表現して設定される。この画像変形パラメータの設定(曲面データの作成)は、図6(A)の直交座標のy軸の場合について、同図(B)にイメージを示すように、軸上にポイント(点)を作成し、ポイントの座標を変更することにより、ポイント及びポイントとポイントを結ぶ線分とで構成される曲線に変形することにより行うことができる。
【0023】
又、ここでは、画像変形パラメータとして、上述した曲面データの他に、x軸、y軸に沿って繰り返しテクスチャ画像を変形させる際の、x軸方向、y軸方向それぞれにおけるテクスチャ画像の繰り返し数も同時に設定する。因みに、図7(A)は、x軸方向に5、y軸方向に7を設定した場合の繰り返しテクスチャ画像のイメージを示し、これは図6(A)の変形前の直交座標系に対応している。
【0024】
次いで、前記ステップ4で指定したオブジェクトに合成したいテクスチャ画像を前記指示入力装置103を用いて指定する(ステップ6)。ここでは、前記図4に示したテクスチャ画像を指定したとする。
【0025】
次いで、前記画像変形部105において、上記ステップ6で指定されたテクスチャ画像を前記ステップ5で設定された画像変形パラメータ(曲面データ)に従って変形し、合成用素材画像を作成する(ステップ7)。
【0026】
ここでは、軸指定方式を採用しているため、画像変形パラメータとしては、前記図6を用いて説明した曲線に変形されたx軸、y軸が設定されていると共に、前記図7にも併記したようにテクスチャ画像の繰り返し数が設定されている。これらの画像変形パラメータを用いて以下の手順に従い合成用素材画像を作成する。
【0027】
1.x軸の長さとx軸方向のテクスチャ画像の繰り返し数から、x軸上の各座標に単位となるテクスチャ画像上のx座標を設定する。
【0028】
2.同様に、y軸上の各座標にテクスチャ画像上のy座標を設定する。
【0029】
3.x軸を、x軸とy軸の交点がy軸上にあるという条件のもとに、y軸の一方の端点から他方の端点の間を平行移動させ、テクスチャ画像のx座標、y座標に対応する画素に対して、テクスチャ画像上の該当する座標値の画素をマッピングする。このようにすることにより、変形パラメータが前記図6(B)に示したような変形されたx軸、y軸で、繰り返しテクスチャ画像が前記図7(A)であるとすると、同図(B)に示すような合成用素材画像を作成することができる。
【0030】
後述するステップ9で行う合成部108における画像合成では、背景画像中のオブジェクト領域の座標(x,y)を、テクスチャ画像上の座標値(テクスチャ座標系(α,β))に変換して行う。そこで、テクスチャ座標系への変換のためのパラメータとして、テクスチャの繰り返しを考慮した矩形パラメータ(背景画像内の空間において長方形となるような四角形)を設定する(ステップ8)。
【0031】
即ち、合成したいオブジェクトにテクスチャの繰り返しがどのように現れるか、縦横にいくつずつ現れるかを、オブジェクトに合わせた四角形を用いて指示する。具体的には、四角形の各頂点座標、四角形の大きさ(長方形の縦横の長さ。実際の大きさを用いても、縦横比を用いた相対値でもよい)を指示入力装置103を用いて設定する。
【0032】
この例では、図8(A)に示すように、長方形の大きさを縦1、横1の相対値で設定し、長方形の各頂点を背景画像の頂点と等しい値に設定している。又、同時に同図(B)に示すように、合成用素材画像の大きさも縦1、横1の相対値で設定する。即ち、背景画像に合わせて変形させた合成用素材画像を、オブジェクトに1対1でマッピングするためには、合成用素材画像の大きさと矩形パラメータの大きさを等しくする必要があり、そこで単純な相対値である縦1、横1とした。
【0033】
次いで、上記ステップ8で設定した矩形パラメータに従い、背景画像中のオブジェクト領域の画素を、テクスチャ画像の座標系に変換することにより合成を行う(ステップ9)。
【0034】
変換は、テクスチャ画像の実際の大きさ及びテクスチャ画像の画素での大きさから、実際に合成を行うテクスチャ画像上での座標値を以下の式により求めることにより行う。
【0035】
xt=α×Stpx/Strx …(3)
yt=β×Stpy/Stry …(4)
ここで、xt,yt:合成用素材画像上の座標値
α,β:テクスチャ座標系の座標値
Stpx,Stpy:合成するテクスチャ画像上の大きさ(画素単位)
Strx,Stry:合成するテクスチャの実際の大きさ
【0036】
このようにして合成することにより、図8(C)にイメージを示すような複雑な曲面を有する椅子に対して自然な曲面状態の柄ので構成された表面素材を表わす画像を合成することができる。
【0037】
次いで、オブジェクトに合成するテクスチャを変更したい場合は前記ステップ6へ戻る(ステップ10)。そして、図示しない他のテクスチャ画像を指定する。テクスチャ画像を変更しない場合で、合成したいオブジェクトが残っている場合は(ステップ11)、前記ステップ4ヘ戻って同様の処理を行う。そして、全てのオブジェクトについて処理を終了した場合は、柄替えシミュレーション結果として作成された合成画像を表示装置104に出力する(ステップ12)。
【0038】
以上詳述した本実施形態によれば、複雑な処理が必要と思われる曲面部分への柄替えシミュレーションにおいて、比較的容易に操作可能な画像変形技術と画像合成技術とを用いることにより、容易に自然な曲面のテクスチャを椅子に合成したシミュレーション結果を得ることができる。
【0039】
以上、本発明について具体的に説明したが、本発明は、前記実施形態に示したものに限られるものでなく、その要旨を逸脱しない範囲で種々変更可能である。
【0040】
例えば、合成用素材画像作成方法(繰り返しテクスチャ画像を変形する方法)としては、前記実施形態に示したものに限定されず、テクスチャ画像に対応付けられている矩形を単位とするメッシュ(図示せず)をオブジェクトの曲面に合わせて変形させ、図9(B)にイメージを示すように、四角形で囲まれた領域をメッシュ状に切り分け、それぞれの区切られた領域毎にマッピングを行うことにより、同図(C)に示すように作成するようにしてもよい。この場合は、メッシュを構成する線(軸)部分と点(ポイント)部分により画像変形のパラメータを指示したことになる。この場合にも、同図(A)の背景画像に合成することにより、同図(D)のような自然な曲面で描かれた合成画像を作成することができる。
【0041】
又、ここで使用するメッシュは、前記図6(B)に示したような変形した軸を縦横それぞれの方向に繰り返して発生させることにより作成するようにしてもよい。
【0042】
又、画像変形を画像合成と切り離し、前処理として、予め合成に用いるテクスチャ画像から合成用素材画像を作成するプロセスを繰り返し行い、合成用素材画像をシミュレーションしたい分だけ全て用意し、それらの合成用素材画像と背景画像の合成を、後処理として行うようにしてもよい。
【0043】
【発明の効果】
以上説明したとおり、本発明によれば、2次元の背景画像に複雑な曲面を有する対象物の画像を簡単な操作で自然な柄の状態に合成することができる。
【図面の簡単な説明】
【図1】本発明に係る一実施形態の柄替えシミュレーションシステムの概略構成を示すブロック図
【図2】実施形態の作用を示すフローチャート
【図3】背景画像の一例を示す説明図
【図4】テクスチャ画像の一例を示す説明図
【図5】オブジェクトの登録を示す説明図
【図6】画像変形パラメータを説明するための線図
【図7】繰り返しテクスチャ画像と合成用素材画像の関係を示す説明図
【図8】合成処理のイメージを示す説明図
【図9】合成用素材画像作成の変形例を示す説明図
【符号の説明】
101…画像合成装置
102…画像入力装置
103…指示入力装置
104…画像表示装置
105…画像変形部
106…画像読込部
107…パラメータ読込部
108…合成部

Claims (3)

  1. 2次元の背景画像に、柄を構成するテクスチャ画像を合成する柄替えシミュレーションシステムにおいて、
    背景画像を入力する手段と、
    背景画像に合成するテクスチャ画像を入力する手段と、
    入力された背景画像中でテクスチャ画像を合成するオブジェクトを指定する手段と、
    指定されたオブジェクトが有する曲面を表わす曲面データをテクスチャ画像に対応する直交座標系の縦軸と横軸の軸上のポイントの座標を変更することにより、ポイントとポイントを結ぶ線分とで構成される曲線に基づいて曲面を作成する手段と
    作成された曲面データに基づいてテクスチャ画像を変形して合成用素材画像を作成する手段と、
    作成された合成用素材画像を前記オブジェクトの画像領域にマッピングする合成手段と、を備えていることを特徴とする柄替えシミュレーションシステム。
  2. 前記テクスチャ画像を入力する手段は、テクスチャ画像と、テクスチャ画像のX軸、Y軸方向への繰り返し数を入力することを特徴とする請求項1に記載の柄替えシミュレーションシステム。
  3. 前記合成用素材画像を作成する手段は、X軸の長さと、X軸方向のテクスチャ画像の繰り返し数から、X軸上の各座標に単位となるテクスチャ画像上のX座標を設定し、同様にY軸上の各座標にテクスチャ画像上のY座標を設定することを特徴とする請求項2に記載の柄替えシミュレーションシステム。
JP2001141862A 2001-05-11 2001-05-11 柄替えシミュレーションシステム Expired - Fee Related JP3684171B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001141862A JP3684171B2 (ja) 2001-05-11 2001-05-11 柄替えシミュレーションシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001141862A JP3684171B2 (ja) 2001-05-11 2001-05-11 柄替えシミュレーションシステム

Publications (2)

Publication Number Publication Date
JP2002342782A JP2002342782A (ja) 2002-11-29
JP3684171B2 true JP3684171B2 (ja) 2005-08-17

Family

ID=18988251

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001141862A Expired - Fee Related JP3684171B2 (ja) 2001-05-11 2001-05-11 柄替えシミュレーションシステム

Country Status (1)

Country Link
JP (1) JP3684171B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5887715B2 (ja) * 2011-05-23 2016-03-16 セイコーエプソン株式会社 画像処理装置および画像処理方法
JP6172252B2 (ja) * 2015-12-17 2017-08-02 セイコーエプソン株式会社 画像処理装置、印刷装置、画像処理プログラムおよび画像処理方法

Also Published As

Publication number Publication date
JP2002342782A (ja) 2002-11-29

Similar Documents

Publication Publication Date Title
US5619628A (en) 3-Dimensional animation generating apparatus
US6683606B1 (en) Virtual architecture experience method and apparatus
JPH05143709A (ja) ビデオ効果装置
JP3104638B2 (ja) 3次元画像作成装置
JP3124999B1 (ja) レンダリング方法及び装置、ゲーム装置、並びに仮想空間内のオブジェクトの陰影に関するデータを計算するためのプログラムを格納するコンピュータ読み取り可能な記録媒体
EP1031946B1 (en) Recording medium,Image processing method and unit with integrated shaping model data
JPH0793579A (ja) 3次元シミュレーション画像形成システム
JP2973573B2 (ja) 画像変換装置
JP3684171B2 (ja) 柄替えシミュレーションシステム
JP3679347B2 (ja) 柄替えシミュレーションシステム
JPH11328443A (ja) 三次元パノラマ画像生成システム、三次元パノラマ画像生成方法及び記録媒体
JP3309841B2 (ja) 合成動画像生成装置および合成動画像生成方法
JP3850080B2 (ja) 画像生成表示装置
JP3002972B2 (ja) 3次元画像処理装置
JPH0721407A (ja) 画像表示方法
JP3501479B2 (ja) 画像処理装置
JP2567108B2 (ja) 画像処理における画像合成方式
JP2002312810A (ja) 合成動画像生成装置および合成動画像生成方法
JP2701056B2 (ja) 三次元物体の二次表現方法
JPH0816935B2 (ja) 波浪画像発生方式
KR100603040B1 (ko) 화상처리 방법 및 화상처리 장치
JPH08235382A (ja) 3次元コンピュータグラフィックス編集装置
JP3453410B2 (ja) 画像処理装置及びその方法
JP2008033710A (ja) 非透視投影の設計方法及び設計システム
JPH0425974A (ja) 3次元画像入力方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050201

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050527

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090603

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090603

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100603

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110603

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110603

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120603

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120603

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130603

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees