JP4087010B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP4087010B2 JP4087010B2 JP09937199A JP9937199A JP4087010B2 JP 4087010 B2 JP4087010 B2 JP 4087010B2 JP 09937199 A JP09937199 A JP 09937199A JP 9937199 A JP9937199 A JP 9937199A JP 4087010 B2 JP4087010 B2 JP 4087010B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- texture
- texture image
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 54
- 230000015572 biosynthetic process Effects 0.000 claims description 26
- 238000003786 synthesis reaction Methods 0.000 claims description 26
- 238000013507 mapping Methods 0.000 claims description 8
- 230000009467 reduction Effects 0.000 description 15
- 230000002194 synthesizing effect Effects 0.000 description 12
- 239000002131 composite material Substances 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000000034 method Methods 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Description
【発明の属する技術分野】
本発明は、画像処理装置、特に実写画像やCG画像などの原画像の一部にテクスチャ画像を合成する画像合成や、テクスチャ画像のマッピングを行う三次元画像処理に適用して好適な画像処理装置に関する。
【0002】
【従来の技術】
実写画像やCG画像などの原画像の一部(貼込領域)にテクスチャ画像を合成する画像合成装置において、元のテクスチャ画像が合成後のテクスチャ画像と比較し、解像度が高い場合(元のテクスチャと比較して縮小されて合成される場合)、テクスチャ画像をそのまま合成するとモアレが発生してしまう。そこで一般に、モアレの発生を抑えるためにテクスチャ画像に対して前もってローパスフィルタ処理等を行い、テクスチャ画像の高周波成分をカットしてぼかしたテクスチャ画像を用いて合成を行っている。テクスチャ画像のマッピングを行う三次元画像処理装置においても同様の理由により、前もってローパスフィルタ処理等を行ったテクスチャ画像を用いてテクスチャマッピングを行っている。
【0003】
【本発明が解決しようとする課題】
しかしながら、前述のように前もってテクスチャ画像にローパスフィルタ処理を行った画像を合成またはマッピングする場合には、モアレの発生を抑えることは可能であるが、高品質な画像を得るには以下のような問題点がある。
【0004】
例えば、実際に合成した画像を見てモアレが発生していたら、より帯域制限の強い(高周波側の)ローパスフィルタを選択したり、逆にテクスチャがぼけすぎていたら、帯域制限の弱いローパスフィルタを選択するなどして、ローパスフィルタの選択を試行錯誤で行わなければならない。
【0005】
また、原画像にテクスチャを合成する際に射影変換を行って合成する場合やテクスチャマッピングを行う場合等では、テクスチャの縮小率が変化する(合成画像上の1画素分の距離に対する、テクスチャ座標上での距離は、後述する図8等に示されるように、合成する場所により変わってくる)ため、単一のローパスフィルタ処理では、縮小率の小さな場所にフィルタパラメータを合わせると縮小率の大きな場所でモアレが発生してしまい、逆に縮小率の大きな場所にフィルタパラメータを合わせると縮小率が小さな場所がぼけすぎてしまうことがある。
【0006】
また、テクスチャ画像に対するローパスフィルタ処理をXY両方向とも同じにしてしまうと、例えば、建物を正面に近い角度から見た場合の側面の壁にテクスチャを合成する時のように、X方向とY方向の縮小率が大きく違う場合に縮小率が小さい方向に合わせるとモアレが発生してしまい、縮小率が大きい方向に合わせると縮小率が小さい方向ではテクスチャの模様がぼけてしまうことがある。
【0007】
本発明は、前記従来の問題点を解決するべくなされたもので、前もってテクスチャ画像にローパスフィルタ処理をする必要がなく、また、縮小率が変化する面やx方向、y方向で縮小率が大きく違う面に対しても、自動的に適切なローパスフィルタ処理を行い、高品質な画像合成やテクスチャマッピング等の画像処理が可能な画像処理装置を提供することを課題とする。
【0008】
【課題を解決するための手段】
本発明は、原画像の一部にテクスチャ画像を貼り込む画像処理を行なう画像処理装置において、テクスチャ画像が貼り込まれる貼込領域の2次元座標上の点について、隣接点間の距離に対応する、テクスチャ画像座標上での距離を計算する計算手段と、計算された距離を基に前記各点についてx、y方向のローパスフィルタパラメータを自動的に選択するフィルタパラメータ選択手段と、前記各点についてのx、y方向のフィルタパラメータの組み合わせを取得する手段と、前記x、y方向のフィルタパラメータの組み合わせに基づいてフィルタ処理されたテクスチャ画像を、前記x、y方向のフィルタパラメータの組み合わせが選択されている貼込領域内の画素に貼り込む画像処理手段と、を備えていると共に、前記フィルタパラメータ選択手段が、前記テクスチャー画像座標上での距離を基に、予め設計して用意されている複数のローパスフィルタパラメータの中から、前記計算された距離を基に、それに近い距離に用意されているローパスフィルタパラメータを自動選択することにより、前記課題を解決したものである。
【0009】
即ち、本発明においては、原画像上の隣接点間の距離、即ち単位距離に対応するテクスチャ画像上の距離が反映されている上記ローパスフィルタパラメータを用いて対応するローパスフィルタを選択し、フィルタ処理するようにしたので、貼込領域の点(画素)毎に、テクスチャ画像が貼り込まれる際の縮小率に応じた適切なローパスフィルタ処理を行うことが可能となるため、高品質な画像処理を行うことが可能となる。
【0010】
【発明の実施の形態】
以下、図面を参照して、本発明に係る実施形態の画像合成装置について詳細に説明する。本実施形態の画像合成装置は、本出願人が既に特開平6−274649で提案している射影的正規化変換を施して合成を行う画像合成装置と同様の機能を基本的機能として有している。
【0011】
図1は、本発明に係る一実施形態の画像合成装置の概略構成を示すブロック図である。本実施形態の画像合成装置は、画像入力装置10、指示入力装置12、画像処理装置14、表示装置16及び画像出力装置18を備えている。
【0012】
上記画像入力装置10は、実写画像やCG画像等の原画像や、これに合成する(貼り込む)テクスチャ画像等を入力するイメージスキャナや、これら画像データが格納され、読み出すことができるハードディスク等の記憶装置で構成されている。又、前記指示入力装置12は、キーボードやマウス等からなり、種々の情報を指示入力できるようになっている。
【0013】
又、前記画像処理装置14はコンピュータからなり、該装置14には、テクスチャ画像が合成される合成領域の2次元座標上の点(画素)について、隣接点間の距離(基本距離)に対応する、テクスチャ画像座標上での距離を計算する計算手段と、計算された距離を基に前記各点についてローパスフィルタパラメータを自動的に選択するフィルタパラメータ選択手段と、選択されたローパスフィルタパラメータを用いてフィルタ処理されたテクスチャ画像を、前記合成領域に合成する合成手段の各手段が、ソフトウェアにより実現されている。
【0014】
次に、本実施形態の作用を、図2に示したフローチャートを用いて説明する。
【0015】
まず、前記画像入力装置10で原画像(図3)とテクスチャ画像(図4)を入力する(ステップ1、2)。ここでは、便宜上、テクスチャ画像の方を拡大して示してある。
【0016】
次いで、原画像中でテクスチャ画像を合成する合成領域(貼込領域)を、前記指示入力装置12により指定する(ステップ3)。ここでは、図5に示す4角形P1〜P4を指定した場合を示す。そして、その合成領域に合成したいテクスチャ画像の長方形の領域に対して、合成領域のP1に対応する左上の座標値と、該長方形の幅と高さを、同様に指定する。ここでは、図4に示したテクスチャ画像の全ての領域を指定したとして説明する。
【0017】
次いで、前記画像処理装置14において以下の処理を行う。まず、原画像で指定した合成領域内の全ての画素に対して、原画像の座標値(x,y)を射影的正規化変換(この座標変換については、例えば「計算機幾何と地理情報処理」bit 別冊 共立出版(1986)に詳説されている)を、下記(1)、(2)式で規定されるc、dを含む(3)、(4)式により行い、求まる正規化座標値α、βを用いて、下記(5)、(6)式によりテクスチャ画像上の座標値(xt、yt)に変換を行う(ステップ4)。
【0018】
【数1】
ここで、x,y:合成領域のx,y座標
xt,yt:変換されたテクスチャ画像上の座標
x1〜x4,y1〜y4:合成領域の4角形の頂点のx,y座標
x0′,y0′:合成するテクスチャの4角形の左上のx,y座標
Wt,Ht:合成するテクスチャの4角形の幅と高さ
α:射影的正規化変換後のx座標
β:射影的正規化変換後のy座標
【0019】
次に、合成領域内の全ての画素について、原画像上での隣接点(画素)間の距離に対応する、テクスチャ画像上での距離(画素単位)を、テクスチャ画像上でのx,y方向別々に計算する(ステップ5)。図6に、合成領域内のある注目点P(x,y)について隣接点との間の単位距離に対応する、テクスチャ画像上での距離の計算例を示す。この図6(A)に示した原画像上の点Pと、これに隣接する上下左右の4点が同図(B)に示したようにテクスチャ画像上に変換されているとすると、x方向の距離dx、y方向の距離dyを、それぞれ同図(B)に示した矢印の長さの半分、即ちそれぞれの方向の隣接点との間の平均距離とする。x方向の距離がdxということは、テクスチャ画像を合成領域に合成すると、テクスチャ画像が同方向に1/dxに縮小されることを意味する。
【0020】
次に、合成領域内の全ての画素について、上記のように計算した距離を用いて適切なフィルタパラメータをx、y方向別々に選択する(ステップ6)。ここで、適切なフィルタパラメータについて説明すると、ある画素P(x,y)について計算した前記距離dxが5であったとすると、x方向に関しては帯域制限が1/5になるように設計されたローパスフィルタパラメータを選択する。ここで、フィルタパラメータの設計に関しては、特開平10−187965で開示されているフィルタ設計手法を用いることができ、これによれば任意の帯域制限を行えるフィルタパラメータを設計することが可能である。実際には帯域制限が1/2,1/3,1/4,1/5....1/10,1/12,1/14,1/16,1/18,1/20,1/22,1/24,1/27,1/30,1/35,1/40,1/45,1/50...となるようなフィルタパラメータを飛び飛びで用意しておき、計算された距離dxを基にそれに近いフィルタパラメータをプログラムにより自動選択するようになっている。その際、用意するフィルタの数は多いほうがいいが、選択するフィルタの数が多くなると、合成時間が長くなるので画質と処理時間を考慮して選択する必要がある。
【0021】
次に、上記のように選択されたフィルタパラメータを用いてフィルタ処理を行い、前記合成領域にテクスチャ画像を合成する処理を行う(ステップ7、8)。
【0022】
ここで、フィルタ処理の一例について具体的に説明する。画素P(x,y)に対して実際に1/2の帯域制限をかける場合であれば、フィルタパラメータをc-10 〜c10とし、該画素P(x,y)のRGBの色データをR(0,0)、G(0,0)、B(0,0)とし、近隣の点P′(x+n,y+m)の色データをR(n,m)、G(n,m)、B(n,m)で表し、フィルタ処理後のP(x,y)の色データをfR,fG,fBとすると、fRは下記(7)計算式により計算できる。また、fG,fBも同様に計算可能である。なお、この例は、色データをRGBで持っている場合であるが、CMYK,Lab等の他の色データの場合であっても同様に計算可能である。
【0023】
【数2】
【0024】
以下に、上記ステップ7で実行されるフィルタ処理の手順について、図7を用いて説明する。ここでは、説明の便宜上、用意されたフィルタパラメータのうち、実際に選択されたフィルタパラメータがf1,f2,f3,f4,f5の5つであったとする。又、各画素についてx、y方向のフィルタパラメータの組み合わせを、x方向がf1、y方向がf2であったときに(f1,f2)と表記するとした場合、画素全体でフィルタの組み合わせが、以下に示す11個であったとする。
【0025】
(f1,f1)(f1,f2)(f1,f3)
(f2,f1)(f2,f2)(f2,f3)(f2,f4)
(f3,f2)(f3,f3)(f3,f4)(f3,f5)
【0026】
ローパスフィルタはx、y方向それぞれ独立して処理できるので、上の組合せで、左上の(f1,f1)から右へ順にフィルタ処理を行うとする。まず、図7(A)のテクスチャ画像Tに対して、そのx方向にフィルタパラメータf1を用いてフィルタ処理を行って、同図(B)に示した画像T′を作成する。次に、この画像T′に対してy方向にフィルタパラメータf1を用いてフィルタ処理を行って、同図(C)に示した画像T1′を作成する。そして、合成領域の画素の中のフィルタパラメータ(f1,f1)の組み合わせが選択されている画素に対して、この画像T1′を合成する。
【0027】
次いで、同じく上記画像T′に対して、y方向に他のフィルタパラメータf2 、f3を用いてフィルタ処理を行って、同図(D)、(E)に示した画像T2′、T3′を作成し、合成領域の画素の中のフィルタパラメータ(f1,f2)、(f1,f3)の組み合わせが選択されている画素に対してそれぞれ合成を行う。
【0028】
以下、図示は省略するが、同様にして、テクスチャ画像のx方向にフィルタパラメータf2、f3を用いてフィルタ処理を行った画像それぞれに対して、組み合わせの存在するフィルタパラメータを用いてy方向にフィルタ処理を行い、作成された各画像を対応するフィルタパラメータの組み合わせが選択されている合成領域内の各画素に対してそれぞれ合成を行う。
【0029】
このようにして、前記図5の合成領域に図4のテクスチャ画像を合成した結果得られた画像を、図8に拡大して示す。比較のために、ローパスフィルタ処理を行わずに合成した画像を図9に、前もってテクスチャ画像に帯域制限が異なるローパスフィルタ処理を行って合成した画像を図10、図11、図12に示す。
【0030】
図9では、ローパスフィルタ処理を行っていないのでモアレが発生している。図10は、最も左側の合成領域で適切になるようにフィルタパラメータを選択してフィルタ処理を行ったテクスチャを合成した画像であるが、右側の方ではモアレが発生してしまっている。図12は、最も右側の合成領域で適切になるようにフィルタパラメータを選択してフィルタ処理を行ったテクスチャを合成した画像であるため、モアレは発生していないが、左側の領域ではテクスチャの模様がかなりぼけてしまっている。図11は、図10と図12の中間くらいのフィルタパラメータを選択してフィルタ処理を行ったテクスチャ画像を合成した画像であるが、最も右側の領域では若干モアレが発生しており、左側の領域ではテクスチャの模様がぼけてしまっている。但し、スキャナで読み込んだ添付図面では解像度が低いため違いが明瞭でない。
【0031】
以上の図10〜図12の各画像に比べて、本実施形態の画像処理装置を用いて合成した前記図8の画像では、モアレの発生はなく、しかも左側の領域でもテクスチャの模様がぼけて潰れることない画像が得られている。このように、本実施形態によれば高品質な合成画像を容易に得ることができる。
【0032】
以上、本発明について具体的に説明したが、本発明は、前記実施形態に示したものに限られるものでなく、その要旨を逸脱しない範囲で種々変更可能である。
【0033】
例えば、前記実施形態では、画像合成装置について説明したが、これに限定されず、原画像に対してテクスチャ画像をマッピングする三次元画像処理装置であってもよいことは言うまでもない。
【0034】
又、前記実施形態では、選択されたフィルタパラメータを用いてフィルタ処理を行った画像を作成して合成を行ったが、必ずしもフィルタ処理を行ったテクスチャ画像を作成する必要はなく、テクスチャ画像合成時にテクスチャ画像上の必要な画素について、各画素に対応するフィルタパラメータを用いて画素毎にフィルタ処理を行い合成を行ってもよい。
【0035】
【発明の効果】
以上説明した通り、本発明によれば、前もってテクスチャ画像にローパスフィルタ処理をする必要がなく、また、縮小率が変化する面やxy方向の縮小率が大きく違う面に対しても、自動的に適切なローパスフィルタ処理を行い、高品質な画像合成やテクスチャマッピング等の画像処理を行うことができる。
【図面の簡単な説明】
【図1】本発明に係る一実施形態の画像合成装置の概略構成を示すブロック図
【図2】同実施形態の作用を示すフローチャート
【図3】原画像の一例を示す説明図
【図4】テクスチャ画像の一例を示す説明図
【図5】合成領域を指定した上記原画像を示す説明図
【図6】合成領域の隣接点間の距離に対応する、テクスチャ画像上の距離の計算原理を説明する線図
【図7】本発明におけるローパスフィルタ処理の特徴を示す説明図
【図8】本発明による合成画像の一例を示す説明図
【図9】ローパスフィルタ処理をしない場合の対応合成画像を示す説明図
【図10】前もってローパスフィルタ処理を行った場合の対応合成画像を示す説明図
【図11】前もって他のローパスフィルタ処理を行った場合の対応合成画像を示す説明図
【図12】前もって更に他のローパスフィルタ処理を行った場合の対応合成画像を示す説明図
【符号の説明】
10…画像入力装置
12…指示入力装置
14…画像合成装置
16…指示装置
18…画像出力装置
Claims (3)
- 原画像の一部にテクスチャ画像を貼り込む画像処理を行なう画像処理装置において、
テクスチャ画像が貼り込まれる貼込領域の2次元座標上の点について、隣接点間の距離に対応する、テクスチャ画像座標上での距離を計算する計算手段と、
計算された距離を基に前記各点についてx、y方向のローパスフィルタパラメータを自動的に選択するフィルタパラメータ選択手段と、
前記各点についてのx、y方向のフィルタパラメータの組み合わせを取得する手段と、
前記x、y方向のフィルタパラメータの組み合わせに基づいてフィルタ処理されたテクスチャ画像を、前記x、y方向のフィルタパラメータの組み合わせが選択されている貼込領域内の画素に貼り込む画像処理手段と、を備えていると共に、
前記フィルタパラメータ選択手段が、前記テクスチャー画像座標上での距離を基に、予め設計して用意されている複数のローパスフィルタパラメータの中から、前記計算された距離を基に、それに近い距離に用意されているローパスフィルタパラメータを自動選択することを特徴とする画像処理装置。 - 請求項1において、
前記画像処理が、テクスチャ画像の画像合成又はマッピングであることを特徴とする画像処理装置。 - 請求項1において、
前期計算手段が、注目点を中心とする両隣接点間の距離に対応する、テクスチャ画像上での距離を計算し、その平均値を該注目点についての前記隣接点間の距離とすることを特徴とする画像入力装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP09937199A JP4087010B2 (ja) | 1999-04-06 | 1999-04-06 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP09937199A JP4087010B2 (ja) | 1999-04-06 | 1999-04-06 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000293682A JP2000293682A (ja) | 2000-10-20 |
JP4087010B2 true JP4087010B2 (ja) | 2008-05-14 |
Family
ID=14245693
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP09937199A Expired - Fee Related JP4087010B2 (ja) | 1999-04-06 | 1999-04-06 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4087010B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2010134292A1 (ja) * | 2009-05-19 | 2012-11-08 | パナソニック株式会社 | 描画装置及び描画方法 |
-
1999
- 1999-04-06 JP JP09937199A patent/JP4087010B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000293682A (ja) | 2000-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101036787B1 (ko) | 움직임 벡터 연산 방법과 이 방법을 이용한 손 떨림 보정장치, 촬상 장치, 및 동영상 생성 장치 | |
JP3276886B2 (ja) | 拡大宛先画像のピクセル値の生成方法 | |
JP4658223B2 (ja) | 画像生成方法、装置、およびそのプログラム並びにプログラムを記録した記録媒体 | |
JP3480971B2 (ja) | 画像データの生成方法及び復元方法 | |
US20050008254A1 (en) | Image generation from plurality of images | |
JP2000182038A (ja) | 歪まされた情報からの遠近法的矯正デ―タの生成方法及びこれに用いる装置並びにコンピュ―タプログラム製品 | |
US7612784B2 (en) | Image processor and method, computer program, and recording medium | |
JP5473173B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
CN107623844B (zh) | 中间位置处的像素的颜色值的确定 | |
JP4114191B2 (ja) | 画像処理装置及び画像処理方法 | |
EP1443464A2 (en) | Object rendering from a predetermined viewpoint using microfacets | |
JP5911166B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置、及び画像表示装置 | |
JP6840506B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
US8213710B2 (en) | Apparatus and method for shift invariant differential (SID) image data interpolation in non-fully populated shift invariant matrix | |
JP4087010B2 (ja) | 画像処理装置 | |
EP0814429A2 (en) | An image processing system | |
JP2004046777A (ja) | 画像処理装置及びそれに用いる画像処理方法並びにそのプログラム | |
EP3992901A1 (en) | Image correction device | |
JP4904013B2 (ja) | 画像生成プログラムおよび画像生成装置 | |
JP4353358B2 (ja) | データ生成装置、データ生成方法、および、コンピュータプログラム | |
JP4265362B2 (ja) | 画像処理装置 | |
JP6902425B2 (ja) | カラー情報拡大器およびカラー情報推定器、ならびに、それらのプログラム | |
KR20070102989A (ko) | 2차원 공간변환을 표현하는 시스템과 방법 | |
JP2002506600A (ja) | 画像補間法 | |
JP2599040B2 (ja) | 画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050412 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050613 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060131 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060403 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060417 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20060602 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080220 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110228 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110228 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120229 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130228 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130228 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |