JP3617671B2 - 動き量検出方法及び動き量検出装置 - Google Patents
動き量検出方法及び動き量検出装置 Download PDFInfo
- Publication number
- JP3617671B2 JP3617671B2 JP02737294A JP2737294A JP3617671B2 JP 3617671 B2 JP3617671 B2 JP 3617671B2 JP 02737294 A JP02737294 A JP 02737294A JP 2737294 A JP2737294 A JP 2737294A JP 3617671 B2 JP3617671 B2 JP 3617671B2
- Authority
- JP
- Japan
- Prior art keywords
- motion
- motion vector
- amount
- layer
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【目次】
以下の順序で本発明を説明する。
産業上の利用分野
従来の技術
発明が解決しようとする課題
課題を解決するための手段(図1)
作用(図1)
実施例(図1)
発明の効果
【0002】
【産業上の利用分野】
本発明は動き量検出方法及び動き量検出装置に関し、特に画像の動きを検出する際に時間的に異なる2つの画像データをそれぞれ階層化してから動き量を検出するものに適用し得る。
【0003】
【従来の技術】
従来、動画像の処理として、動き量(動きベクトル)すなわち時間的に異なる画像中の物体の動き方向と大きさ(又は速さ)を用いるものがある。例えば画像の高能率符号化における動き補償フレーム間符号化や、フレーム間時間領域フイルタによるテレビジヨン雑音低減装置における動きによるパラメータ制御等に動き量が用いられている。この画像の動き量を求める動き量検出方法として、ブロツクマツチング法が用いられている(特公昭54−124927 号公報)。
【0004】
このブロツクマツチング法では、まず1つの画面を適当な数画素からなるブロツクに分割する。続いてこのようにブロツク化された画像データと、この画像データが動いた領域を検索するために時間的に異なる画面の画像データがブロツク化されてなるサーチ領域との間で、所定の評価関数を用いて画素単位で評価し、この評価値を最小とする最適値を求めることにより、2つのブロツク化された画像データ間の動き量を検出する。これにより高い精度で画像の動き量を検出し得るようになされている。
【0005】
【発明が解決しようとする課題】
ところがブロツクマツチング法においては、検出対象のブロツクの全ての画素に対して、検出範囲となる全てのサーチ領域をくまなくサーチし、その差分を求める必要がある。このため動き量を検出する計算量が大きくなり、装置自体が大型化したり、演算時間が長くなる問題があつた。このような問題を解決するため、それぞれ異なる解像度でなる複数の階層画像を作成し、この階層画像を用いてブロツクマツチング法で動き量を検出するようになされた動き量検出方法が提案されている(特願平5−2448814 号)。
【0006】
この動き量検出方法では、まずオリジナルの画像データ(以下これを第1階層と呼ぶ)を、平均化やローパスフイルタ処理等により平均値階層化して、画素数を低減した画像データ(以下これを第2階層と呼ぶ)を作成する。次に作成した第2階層の画像データで大まかな動き量を検出し、その動き量に基づいて第1階層の画像データについて細かい動き量検出を行うことにより、少ない計算量で動き量を検出し得るようになされている。なおここでの階層数は2階層に限らず、順次平均値階層化を繰り返すことにより、さらにデータ量の少ない第3階層、第4階層、……の画像データを作成することもできる。
【0007】
このような動き量検出方法を用いれば、階層数が多くなる程少ない計算量で動き量を求めることができる。すなわち上位階層の画像データほどブロツクのサイズとサーチ領域が小さくなるため、評価関数により演算量は必然的に小さくなる。最終的に動き量を求める最下位階層での評価は、ブロツクサイズ自体は通常のブロツクマツチング法と同じになるが、上位階層の画像データで求めた動き量に応じて動き補償して、サーチ領域を小さくすることができるため、演算量を削減することができる。
【0008】
ところがこの動き量検出方法においては、階層数が多くなる程動き量の検出精度が劣化する問題があつた。実際上この動き量検出方法では、まず画像の粗い上位階層においてブロツク毎の動き量を検出し、この検出結果に基づいて下位階層において動き量を検出するため、上位階層での検出結果が下位階層での動き量検出に大きな影響を与える。すなわち上位階層の画像データは、平均値階層化の処理でブロツクサイズを小さくするため、画像の特徴量が最下位階層のオリジナル画像と異なつてくる。特にエツジ成分は平均値階層化により失われることになるため、平均値階層化された画像データにおける動き量とオリジナル画像により動き量の対応関係がずれる場合が生じる。
【0009】
実際上現在の階層より下位の階層で動き量を求める場合、上位階層での動き量の結果を反映させるため、もし対応関係のずれ量が大きくサーチ領域以内でカバーできなかつたときには誤動作となる。従つて平均値階層化された画像データによる動き量検出方法では、平均値階層化による情報量の欠落により、誤動作が起きる可能性が大きくなる問題がある。また階層が上位になる程ブロツクサイズが小さくなることから、平均値階層化された画像データ上での動き量検出は、オリジナル画像に対する動き量検出の分解能が低下して誤動作が発生する問題もある。
【0010】
本発明は以上の点を考慮してなされたもので、階層化された画像データを用いてブロツクマツチング法で動き量を検出する際に、動き量の検出精度を向上し得る動き量検出方法及び動き量検出装置を提案しようとするものである。
【0011】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、解像度の低い上位階層で検出した動きベクトルに基づいて、解像度の高い下位階層での動きベクトルを順次検出する動き量検出方法において、上位階層における画素単位の動きベクトルを検出する第1の動きベクトル検出ステツプと、検出された画素単位の動きベクトルを基準として、上位階層において画素単位の動きベクトルよりも細かい動き量の動きベクトルを検出する第2の動きベクトル検出ステツプと、第2の動きベクトル検出ステツプで検出された動きベクトルに対応する上位階層よりも下位の階層での位置を基準として、上記下位階層での動きベクトルを上記第2の動きベクトル検出ステツプでの検出精度よりも高い精度で検出する第3の動きベクトル検出ステツプとを設ける。
【0012】
また本発明においては、第2の動きベクトル検出ステツプでは、画素単位の動きベクトルよりも細かい動き量の動きベクトルを勾配法を用いて検出するようにする。
【0013】
さらに本発明においては、勾配法の演算に、上位階層の画素値を用いるようにする。
【0014】
さらに本発明においては、勾配法の演算に、上位階層よりも下位階層の画素値を用いるようにする。
【0015】
さらに本発明においては、解像度の低い上位階層で検出した動きベクトルに基づいて、解像度の高い下位階層での動きベクトルを順次検出する動き量検出装置1において、上位階層における画素単位の動きベクトルを検出する第1の動きベクトル検出手段6と、検出された画素単位の動きベクトルを基準として、上位階層において画素単位の動きベクトルよりも細かい動き量の動きベクトルを検出する第2の動きベクトル検出手段7と、第2の動きベクトル検出手段7により検出された動きベクトルに対応する上位階層よりも下位の階層での位置を基準として、下位階層での動きベクトルを第2の動きベクトル検出手段7の検出精度よりも高い精度で検出する第3の動きベクトル検出手段8及び9とを設ける。
【0016】
さらに本発明においては、第2の動きベクトル検出手段7は、画素単位の動きベクトルよりも細かい動き量の動きベクトルを勾配法を用いて検出するようにする。
【0017】
【作用】
上位階層における画素単位の動きベクトルを検出する第1の動きベクトル検出手段6と、検出された画素単位の動きベクトルを基準として、上位階層において画素単位の動きベクトルよりも細かい動き量の動きベクトルを検出する第2の動きベクトル検出手段7と、第2の動きベクトル検出手段7により検出された動きベクトルに対応する上位階層よりも下位の階層での位置を基準として、下位階層での動きベクトルを第2の動きベクトル検出手段7の検出精度よりも高い精度で検出する第3の動きベクトル検出手段8及び9とを設けたことにより、動き量の検出精度を向上し得ると共に、始めから画素単位よりも細かい動き量の検出を行う場合に比して、動き量検出の際の計算量を低く抑えることができる。
【0018】
【実施例】
以下図面について、本発明の一実施例を詳述する。
【0019】
図1において、1は全体として動き量検出装置を示し、最上位階層における動き量を2段階に分けて検出するようになされている。
動き量検出装置1は、入力される第1階層画像データ(オリジナルデータ)S1を遅延回路2及び平均化回路3に入力する。平均化回路3は、第1階層画像データS1の4画素を平均化することにより第2階層画像データS2を作成し、これを遅延回路4及び平均化回路5に送出する。
【0020】
平均化回路5は第2階層画像データS2の4画素を平均化することにより第3階層画像データS3を作成し、これを第3階層動き量検出部6に送出する。第3階層動き量検出部6はブロツクマツチング法により、第3階層画像データS3の画素精度の動きベクトルを検出する。
【0021】
すなわち第3階層動き量検出部6は、図2に示すように、隣接するnフレームと(n−1)フレームにおいて、空間的に対応する位置に、M画素×Nラインの大きさのブロツクを設定し、nフレームのブロツク内の座標と(n−1)フレームのブロツク内の座標間で所定の評価関数を用いたパターンマツチングを行ない、この評価値を最小とする最適値を求めることにより、2つのブロツク化された画像データ間の動き量を検出する。
【0022】
この評価関数の例としては、各位置毎に対応するM画素×Nラインの大きさのブロツク内の対応画素の差分絶対値和などがある。ブロツク内の対応画素の差分絶対値和を評価関数として用いた場合、nフレームの各画素レベルをLn (i,j)、(n−1)フレームの各画素レベルをLn−1(i,j)とすると座標(x、y)における評価関数E(x、y)は、次式
【数1】
により表わすことができる。
【0023】
すなわち第3階層動き量検出部6は、評価関数E(x、y)が最小値となる座標を動きベクトルとして求め、この動きベクトルを続く第3階層動き量検出部7に送出する。
第3階層動き量検出部7は、勾配法を用いて第3階層の画素精度以下の細かい動き量(これを画素単位よりも細かい動き量ともいう)を検出する。これにより第3階層動き量検出部7は少ない計算量で高精度な動き量を検出することができるようになされている。
【0024】
ここで勾配法について説明する。勾配法とは、空間傾斜をもつ画素がある位置まで動くと、この動き量に応じた時間差分が発生するというモデルに基づく。具体的には、座標(x、y)における画素値をg(x、y)とし、このとき動き量をv=(vx 、vy )とすると、次の時刻の画素値はg(x−vx 、y−vy )となる。これをテーラー展開すると、次式
【0025】
【数2】
と表わすことができる。ここで時間差分は、次式
【数3】
と表わすことができることにより、次式
【数4】
を得ることができる。
【0026】
(4)式により時間差分と空間勾配から動き量を求めることができる。あるブロツク内の画素に対し最小自乗法を(4)式に適用してvについて解くと、次式
【数5】
【数6】
を得ることができる。ここでΔt は時間差分、Δx は水平勾配、Δy は垂直勾配を表す。
【0027】
さらに簡略化することで、次式
【数7】
【数8】
を得ることができる。ここでsign(・)は符号を表す。実施例の第3階層動き量検出部7はこの(7)式及び(8)式を用いて第3階層での画素以下の動き量を検出する。実施例の場合、第3階層動き量検出部7はこの勾配法において第3階層画像データS3の画素値を用いるようになされている。
【0028】
このように第3階層動き量検出部7により検出された動きベクトルは、第2階層動き量検出部8に送出される。また第2階層動き量検出部8には、遅延回路4により第3階層の動きベクトルが検出されるまで保持された第2階層画像データS2が入力される。
【0029】
第2階層動き量検出部8は、第3階層で検出された動きベクトルにより動き補償されることにより、小さなサーチ領域でブロツクマツチング法による動き量の検出を行うことができる。第2階層動き量検出部8により検出された動きベクトルは、第1階層動き量検出部9に送出される。また第1階層動き量検出部9には、遅延回路2により第2階層の動きベクトルが検出されるまで保持された第1階層画像データS1が入力される。
【0030】
第1階層動き量検出部9は、第2階層で検出された動きベクトルにより動き補償されることにより、小さなサーチ領域でブロツクマツチング法による動き量の検出を行うことができる。第1階層動き量検出部9からは、全階層の検出動きベクトルを加算した結果が、動きベクトルVとして出力される。
このように動き量検出装置1においては、上位階層において、画素以下の精度で動きベクトルを検出することにより誤検出を低減し得、階層構造を用いて動きベクトルを検出する際の検出精度を向上させることができる。
【0031】
以上の構成において、動き量検出装置1は最上位階層である第3階層の画像データS3を求めると、先ず第3階層動き量検出部6により第3階層画像データS3に対してブロツクマツチング法による画素精度の動き量検出を行う。
次に動き量検出装置1は、第3階層動き量検出部6により求めた画素精度の動き量を基準として、第3階層動き量検出部7により勾配法を用いて画素以下の精度の細かい動き量の検出を行う。
【0032】
この結果動き量検出装置1においては、上位階層での動き量の検出誤差を低減し得、かくして最終的な第1階層での動き量も高精度で検出することができる。またこの結果動き量検出装置1においては、始めから画素以下の精度の細かい動き量の検出を行う場合に比して、動き量検出の際の計算量を低く抑えることができる。
【0033】
例えば図3に示すように第3階層での1画素誤りは、第1階層では4画素のずれになつてしまう。そこで図4に示すように、上位階層において画素以下の精度で動きベクトルを検出し、それを下位階層の基準座標とすれば、上位階層での誤検出を低減することができる。
【0034】
実施例の場合、図3に示すように、第3階層において画素精度で検出された動きベクトルに対し、次の段階では、図4に示すように、画素以下精度の動きベクトルを検出する。図4は、左へ半画素の動きベクトルが検出された例である。第3階層で検出された画素以下の精度の動きベクトルを基準に、第2階層での動きベクトルを検出する様子が図4の矢印で示されている。当然のことながら図3のサーチ領域では及ばない座標まで図4においてはサーチすることができる。図4の例では最上位階層についてのみ、画素以下の精度で動きベクトル検出しているが、他の上位階層でも同様に勾配法等の手法を用いることにより、画素以下の精度での検出を行うことができる。
【0035】
以上の構成によれば、上位階層の動き量を検出する際に、先ず第1段階の動き量検出として画素単位の検出を行い、この検出結果を基準として第2段階の動き量検出として画素以下の精度での動き量検出をするようにしたことにより、計算量を抑制した状態で、動き量の検出精度を向上し得る。
【0036】
なお上述の実施例においては、第3階層検出部7で勾配法を用いて第3階層の画素以下の精度で動き量を求める場合について述べたが、本発明はこれに限らず、第3階層検出部7で例えば第2階層の画像データを用いることにより、第3階層の画素以下の精度で動き量を求めるようにしても良く、画素以下の精度で動き量を求める種々の手法を適用することができる。
【0037】
また上述の実施例においては、第3階層動き量検出部6でブロツクマツチング法を用いて画素精度の動き量を検出する場合について述べたが、本発明はこれに限らず、第3階層動き量検出部6では、例えば勾配法や位相相関法等を用いて画素精度の動き量を検出するようにしても良く、画素精度で動き量を求める種々の手法を適用することができる。
【0038】
さらに上述の実施例においては、第3階層動き量検出部7が勾配法により画素以下の精度で動き量を求める際、動きベクトルの検出対象となつている階層(第3階層)の画像データの画素値を用いる場合について述べたが、第3階層動き量検出部7は検出対象となつている階層より下位階層の画像データの画素値を勾配法に用いるようにしても良い。
【0039】
さらに上述の実施例においては、階層構造を3階層とし、最上位階層である第3階層にのみ、本発明を適用した場合について述べたが、本発明はこれに限らず、例えば上述の実施例を第2階層に適用しても良く、また階層構造も3階層に限らず2階層や4階層等の種々の階層構造に適用することができる。
【0040】
【発明の効果】
上述のように本発明によれば、解像度の低い上位階層で検出した動きベクトルに基づいて、解像度の高い下位階層での動きベクトルを順次検出する動き量検出装置において、上位階層における画素単位の動きベクトルを検出する第1の動きベクトル検出手段と、検出された画素単位の動きベクトルを基準として、上位階層において画素単位の動きベクトルよりも細かい動き量の動きベクトルを検出する第2の動きベクトル検出手段と、第2の動きベクトル検出手段により検出された動きベクトルに対応する上位階層よりも下位の階層での位置を基準として、下位階層での動きベクトルを第2の動きベクトル検出手段の検出精度よりも高い精度で検出する第3の動きベクトル検出手段とを設けたことにより、動き量の検出精度を向上し得ると共に、動き量検出の際の計算量を低減し得る動き量検出装置を実現できる。
【図面の簡単な説明】
【図1】本発明による動き量検出装置の一実施例の回路構成を示すブロツク図である。
【図2】ブロツクマツチング法の説明に供する略線図である。
【図3】第3階層で画素精度で動き量を検出した場合の動き量の検出状態を示す略線図である。
【図4】第3階層で画素精度以下で動き量を検出した場合の動き量の検出状態を示す略線図である。
【符号の説明】
1……動き量検出装置、3、5……平均化回路、6、7……第3階層動き量検出部、8……第2階層動き量検出部、9……第1階層動き量検出部。
Claims (6)
- 解像度の低い上位階層で検出した動きベクトルに基づいて、解像度の高い下位階層での動きベクトルを順次検出する動き量検出方法において、
上位階層における画素単位の動きベクトルを検出する第1の動きベクトル検出ステツプと、
検出された上記画素単位の上記動きベクトルを基準として、上記上位階層において上記画素単位の動きベクトルよりも細かい動き量の動きベクトルを検出する第2の動きベクトル検出ステツプと、
上記第2の動きベクトル検出ステツプで検出された動きベクトルに対応する上記上位階層よりも下位の階層での位置を基準として、上記下位階層での動きベクトルを上記第2の動きベクトル検出ステツプでの検出精度よりも高い精度で検出する第3の動きベクトル検出ステツプと
を具えることを特徴とする動き量検出方法。 - 上記第2の動きベクトル検出ステツプでは、上記画素単位の動きベクトルよりも細かい動き量の上記動きベクトルを勾配法を用いて検出する
ことを特徴とする請求項1に記載の動き量検出方法。 - 上記勾配法の演算に、上記上位階層の画素値を用いる
ことを特徴とする請求項2に記載の動き量検出方法。 - 上記勾配法の演算に、上記上位階層よりも下位階層の画素値を用いる
ことを特徴とする請求項2に記載の動き量検出方法。 - 解像度の低い上位階層で検出した動きベクトルに基づいて、解像度の高い下位階層での動きベクトルを順次検出する動き量検出装置において、
上位階層における画素単位の動きベクトルを検出する第1の動きベクトル検出手段と、
検出された上記画素単位の上記動きベクトルを基準として、上記上位階層において上記画素単位の動きベクトルよりも細かい動き量の動きベクトルを検出する第2の動きベクトル検出手段と、
上記第2の動きベクトル検出手段により検出された動きベクトルに対応する上記上位階層よりも下位の階層での位置を基準として、上記下位階層での動きベクトルを上記第2の動きベクトル検出手段の検出精度よりも高い精度で検出する第3の動きベクトル検出手段と、
を具えることを特徴とする動き量検出装置。 - 上記第2の動きベクトル検出手段は、上記画素単位の動きベクトルよりも細かい動き量の上記動きベクトルを勾配法を用いて検出する
ことを特徴とする請求項5に記載の動き量検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02737294A JP3617671B2 (ja) | 1994-01-31 | 1994-01-31 | 動き量検出方法及び動き量検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02737294A JP3617671B2 (ja) | 1994-01-31 | 1994-01-31 | 動き量検出方法及び動き量検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH07222158A JPH07222158A (ja) | 1995-08-18 |
JP3617671B2 true JP3617671B2 (ja) | 2005-02-09 |
Family
ID=12219223
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP02737294A Expired - Lifetime JP3617671B2 (ja) | 1994-01-31 | 1994-01-31 | 動き量検出方法及び動き量検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3617671B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000014769A (ko) * | 1998-08-22 | 2000-03-15 | 구자홍 | 동영상 부호화기의 움직임 추정방법 |
JP5669523B2 (ja) * | 2010-07-06 | 2015-02-12 | 三菱電機株式会社 | フレーム補間装置及び方法、並びにプログラム及び記録媒体 |
JP2017092899A (ja) | 2015-11-17 | 2017-05-25 | ソニー株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
-
1994
- 1994-01-31 JP JP02737294A patent/JP3617671B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH07222158A (ja) | 1995-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Morimoto et al. | Evaluation of image stabilization algorithms | |
EP0395271B1 (en) | Motion dependent video signal processing | |
KR930701888A (ko) | 비디오 영상 프로세싱 방법 및 장치 | |
JPH07264603A (ja) | 動き量検出方法及び動き量検出装置 | |
CN1125375A (zh) | 用于估计图象移动的有效计算方法 | |
JP2004530367A (ja) | 動きベクトル予測方法及び動きベクトル予測装置 | |
JPH0799660A (ja) | 動き補償予測装置 | |
Schallauer et al. | Automatic restoration algorithms for 35mm film | |
JP3960258B2 (ja) | 信号処理装置および信号処理方法 | |
US20120113326A1 (en) | System and method for detecting motion vectors in a recursive hierarchical motion estimation system using a non-rasterized scan | |
KR100217485B1 (ko) | 동영상 부호기 또는 복호기에서 이동보상방법 | |
Buisson et al. | Deterioration detection for digital film restoration | |
KR20030080419A (ko) | 모션벡터결정방법 | |
JP3617671B2 (ja) | 動き量検出方法及び動き量検出装置 | |
KR100955415B1 (ko) | 움직임 파라미터 세트 및 화상 반복 패턴을 제공하기 위한 방법, 컴퓨터 판독가능 저장 매체 및 집적 회로와, 움직임 파라미터를 제공하기 위한 컴퓨터 | |
KR100200761B1 (ko) | 캠코더의 움직임 보정장치 및 방법 | |
JPH04345382A (ja) | シーンチェンジ検出装置 | |
Lu et al. | Fast and robust sprite generation for MPEG-4 video coding | |
JPH0478286A (ja) | 初期偏位ベクトルを用いた動きベクトルの検出方法 | |
JP3724653B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JPH08195956A (ja) | 動き量検出方法及び動き量検出装置 | |
JPH1075453A (ja) | 動きベクトル検出装置及び動きベクトル検出方法 | |
Suter et al. | Historical film restoration and video coding | |
JP2900709B2 (ja) | 動画像フィルタ | |
JP3334271B2 (ja) | 動き量検出装置及び動き量検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040806 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040930 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041022 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041104 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071119 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081119 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091119 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091119 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101119 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111119 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121119 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121119 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131119 Year of fee payment: 9 |
|
EXPY | Cancellation because of completion of term |