JP2698492B2 - 動きベクトル検出装置 - Google Patents

動きベクトル検出装置

Info

Publication number
JP2698492B2
JP2698492B2 JP23595791A JP23595791A JP2698492B2 JP 2698492 B2 JP2698492 B2 JP 2698492B2 JP 23595791 A JP23595791 A JP 23595791A JP 23595791 A JP23595791 A JP 23595791A JP 2698492 B2 JP2698492 B2 JP 2698492B2
Authority
JP
Japan
Prior art keywords
horizontal
vertical
motion vector
low
cumulative addition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP23595791A
Other languages
English (en)
Other versions
JPH0575914A (ja
Inventor
繁樹 辻
好宏 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP23595791A priority Critical patent/JP2698492B2/ja
Priority to US07/893,143 priority patent/US5319456A/en
Publication of JPH0575914A publication Critical patent/JPH0575914A/ja
Application granted granted Critical
Publication of JP2698492B2 publication Critical patent/JP2698492B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、例えば手にもって撮
影する小型軽量のビデオカメラなどの撮像装置にて、画
面ゆれを補正する場合に用いられるような画像信号より
画像の動きを抽出するための動きベクトル検出装置に関
するものである。
【0002】
【従来の技術】フレーム間の画像移動量を検出するため
には本来、画像内の全画素についてどの方向にどれだけ
動いたかを算出するのが理想的であり、これ以上のベク
トル検出精度はない。しかし、大規模なハードウェアと
演算時間を要し、実現困難である。そこで、一般には、
画面のいくつかの画素(以下、代表点と称す)に着目
し、これらの画素の移動量から画面全体の動きベクトル
を決定する方法が一般によく用いられる。
【0003】図8は一般的な代表点演算回路のブロック
図である。図9は図8の従来例における画像のブロック
及び代表点との関係を示す図である。1フィールドの画
像を所定個数のブロック901に分け、各ブロック毎に
中央に1つの代表点Rij902を設けている。そして各
ブロック毎に1フレーム前の代表点とブロック内の全画
素Pij(x,y)903とのレベル差を演算している。
【0004】図8において、入力映像信号aはまずA/
D変換器1でA/D変換される。このA/D変換器1で
ディジタル信号に変換された映像信号より以下に示すよ
うな演算が行われる。一例としてブロック901内の画
素についての演算を以下に述べる。代表点902となる
べきブロック901内の所定の画素が、ラッチ回路80
1を経由して代表点メモリ802の所定の領域に書き込
まれる。代表点メモリ802に収納されたデータは、1
フレーム遅延されて読み出され、ラッチ回路803を経
由して差分絶対値演算回路805に送られる。他方、A
/D変換された映像信号のデータはラッチ回路804を
経由して差分絶対値演算回路805に送出される。ラッ
チ回路803より出力される1フレーム前の代表点信号
fとラッチ回路804より出力された現フレームの画素
信号gは差分絶対値演算回路805にて演算され差の絶
対値が算出される。これらの演算はブロック単位に行な
われ、この差分絶対値演算回路805の出力信号hは2
次元累積加算テーブル806の各ブロック内の画素の同
一アドレスに対応するテーブルに次々と加算される。こ
のテーブルの加算結果がテーブル値比較回路807に入
力され、最終的に、加算結果の最小値をもつブロックア
ドレスをもって1フレームで画像位置がどの方向にどれ
だけ移動したか、すなわち動きベクトル値iが決まる。
【0005】すなわち、代表点Rijならびに水平方向
x,垂直方向yの位置関係にある信号Pij(x,y)の
差の絶対値を求め、各代表点について同じ位置関係にあ
るxyについて加算して累積加算テーブルDxyの値
する。この時、 Dxy=Σ|Rij−ij(x,y)|で示される。 そして、このDxyの中での最小値のxとyを水平方向
及び垂直方向の動きベクトルとする。
【0006】
【発明が解決しようとする課題】しかしながら上記のよ
うな構成では、動きベクトルを平面的(2次元)に求め
るために、ブロック内の全画素数に対応した数の累積加
算テーブルが必要となり、1ブロックの画素が水平32
垂直16とすると32*16=512個の累積加算テー
ブルを必要とし、回路規模が大きくなるという問題点が
あった。また、動きベクトルの算出においては累積加算
テーブルの全てのデータの比較を行なうため、算出に要
する比較の回数が非常に多く、したがって時間がかかる
という問題点もあった。
【0007】本発明は上記のような問題点を解決するた
めになされたもので、回路規模を小さくでき、算出時間
を短くできる動きベクトル検出装置を提供することを目
的とする。
【0008】
【課題を解決するための手段】本発明に係る動きベクト
ル検出装置は、入力映像信号の水平方向の低域成分を抽
出する水平ローパスフィルタと、前記水平ローパスフィ
ルタの出力信号から、前記代表点とその垂直方向に当た
る画素とのレベル差についての前記所定の時間間隔での
相関を求めることにより画像の動きベクトルの垂直成分
を検出する第1の動き検出手段と、前記入力映像信号の
垂直方向の低域成分を抽出する垂直ローパスフィルタ
と、前記垂直ローパスフィルタの出力信号から、前記代
表点とその水平方向に当たる画素とのレベル差について
の前記所定の時間間隔での相関を求めることにより画像
動きベクトルの水平成分を検出する第2の動き検出手
と、前記第1、第2の動き検出手段で検出した水平成
分と垂直成分から2次元ベクトルを算出する2次元ベク
トル算出手段とによって構成したものである。
【0009】
【作用】本発明における動きベクトル検出装置は、動き
ベクトルの水平成分を垂直相関性の高い信号成分から、
また、動きベクトルの垂直成分を水平相関性の高い信号
成分からそれぞれ1次元の動きベクトル検出手段によっ
て求めている。そのため、累積加算テーブルの数が水平
画素数+垂直画素数で実現でき、小さな回路規模と短い
演算時間で動きベクトルの検出を行うことができる。例
えば1ブロックの画素が水平32垂直16とすると累積
加算テーブルの数は32+16=48個ですむため、従
来の1/10以下の回路規模で累積加算テーブルを実現
できる。また、累積加算テーブル数を小さくすることに
より、動きベクトル算出の演算時間を短くできる。
【0010】
【実施例】図1は本実施例の全体構成を示すブロック
図、図2は図1の本発明における画像のブロック及び代
表点との関係を示している図である。図3は本発明の水
平方向の動きベクトル検出部のブロック図である。図2
において、1フィールドの画像を所定個数のブロック2
01に分け、各ブロック毎に中央に1つの代表点Rij
02を設けている。各ブロック毎に1フレーム前の代表
点とブロック内の代表点の水平方向の画素Pij(x,
0)204及び代表点の垂直方向の画素Pij(0,y)
203のそれぞれとのレベル差を演算する。
【0011】図1において、入力映像信号はまずA/D
変換器1でA/D変換され、続いて2次元ローパスフィ
ルタ2で垂直方向及び水平方向のノイズ成分の多く含ま
れる高域成分が除去される。2次元ローパスフィルタ2
の出力信号は、垂直ローパスフィルタ3及び水平ローパ
スフィルタ4のそれぞれに送出される。垂直ローパスフ
ィルタ3の垂直カットオフ周波数は前記2次元ローパス
フィルタ2の垂直カットオフ周波数に比較して十分に低
く設定しておき、垂直方向の低域成分すなわち垂直相関
性の高い信号成分のみを通過させる。垂直ローパスフィ
ルタ3の出力は、水平動きベクトル検出部5に送出さ
れ、代表点と、その水平方向の画素とのフレーム間相関
より、前記入力映像信号の水平方向の動きベクトルvx
を検出する。同様にして、水平ローパスフィルタ4の水
平カットオフ周波数は前記2次元ローパスフィルタの水
平カットオフ周波数に比較して十分に低く設定してお
き、水平方向の低域成分すなわち水平相関性の高い信号
成分のみを通過させる。水平ローパスフィルタ4の出力
は垂直動きベクトル検出部6に送出され、代表点と、そ
の垂直方向の画素とのフレーム間相関より、前記入力映
像信号の垂直方向の動きベクトルvy を検出する。水平
動きベクトル検出部5の出力と、垂直動きベクトル検出
部6の出力は、2次元動きベクトル算出部7に送出さ
れ、2次元の動きベクトル算出部7では、水平方向、垂
直方向それぞれの1次元の動きベクトルより2次元の動
きベクトルVを算出する。
【0012】図3は水平動きベクトル検出部の構成を示
すブロック図である。垂直ローパスフィルタ3からの出
力信号aのうち代表点となるべきブロック内の所定の画
素は、ラッチ回路301を経由して代表点メモリ302
に書き込まれる。代表点メモリ302に収納されたデー
タは、1フレーム遅延されて読み出され、ラッチ回路3
03を経由して水平差分絶対値演算回路304に送られ
る。他方、垂直ローパスフィルタ3からの映像信号のデ
ータは、代表点の水平方向の画素にあたるタイミングで
ラッチする水平画素ラッチ回路305を経由して水平差
分絶対値演算回路304に送出される。ラッチ回路30
3より出力される1フレーム前の代表点信号bと水平画
素ラッチ回路305より出力された現フレームの画素信
号cは水平差分絶対値演算回路304にて演算され差の
絶対値が算出される。この演算はブロック単位に行なわ
れ、水平差分絶対値演算回路304の出力信号dは水平
累積加算テーブル306の各ブロック内の画素の同一ア
ドレスに対応するテーブルに次々と加算される。このと
き、水平累計加算テーブルの値をDx として式で表現す
ると、 Dx =Σ|Rij−Pij(x,0)|で示される。 この水平累積加算テーブル306の結果は1次元ベクト
算出手段307に入力され、水平累積加算テーブル3
06のテーブル値Dx が最小であるアドレスx、すなわ
ちフレーム間相関が最大であるアドレスxを、水平方向
の動きベクトルeとして検出する。
【0013】また、垂直方向の動きベクトルも同様の方
法で求めることができる。すなわち、水平ローパスフィ
ルタ4から出力された映像信号について、各ブロック毎
に代表点Rijと次フレームでの代表点の垂直方向に当た
るブロック内の画素Pij(0,y)との差の絶対値を求
め、これをブロックの全画素について垂直累積加算テー
ブルに累積加算してそのテーブル値 Dy=Σ|Rij−Pij(0,y)| を求めれば、Dyが最小となるアドレスyが動きベクト
ルの垂直成分を表す。
【0014】次に、水平方向及び垂直方向の2つの1次
元の動きベクトルより2次元の動きベクトルを求める方
法について説明する。
【0015】図4、図5、図6及び図7は累積加算テー
ブルの様子を模式的に示した図である。図4の(a)は
従来例で示したようなブロックの全画素数に対応した累
積加算テーブルDxyで、代表点を原点として水平方向
x、垂直方向y、累積加算テーブルの値zを3次元で表
現している。また、図4(b)は垂直累積加算テーブル
Dyで、代表点を原点として垂直方向y、累積加算テー
ブルの値zを2次元で表現している。図4(c)は水平
累積加算テーブルDxで、代表点を原点として水平方向
x、水平累積加算テーブルの値zを2次元で表現してい
る。
【0016】一般的に、ある画素とその周囲の画素の相
関は、画素間の距離が大きくなるにつれて小さくなる。
従って、画像が静止しているとすれば、累積加算テーブ
ルDxyの値は、例えば図4(a)のように原点(0、
0、0)を頂点とし円錐を逆さまにしたような形とな
る。この時、図4(b)の垂直累積加算テーブルDyの
最小値はy=0の時であり、図5(c)の垂直累積加算
テーブルDxの最小値はx=0の時である。従って、垂
直動きベクトル、水平動きベクトルともに0ベクトルで
あると求まる。
【0017】次に、映像信号が1フレームの間に水平方
向にx1 、垂直方向にy1 動いたとすると累積加算テー
ブルDxyは5(a)のように(x1 ,y1 ,0)を
頂点とした円錐形を逆さまにしたような形になる。この
時、垂直累積加算テーブルDyおよび水平累積加算テー
ブルDxはそれぞれ図5(b)および図(c)に示すよ
うになる。この時、垂直累積加算テーブルDyは図5
(b)に示すように平面x=0での円錐の断面の値とな
り、水平累積加算テーブルDxは図5の(c)に示すよ
うに平面y=0での円錐の断面の値となる。図5(b)
から垂直累積加算テーブルDyの最小値はy=y1 の時
であり、図5(c)から水平累積加算テーブルDxの最
小値はx=x1 の時であることが解る。従って、垂直動
きベクトルvy は(0,y1 )、水平動きベクトルvx
は(x1 、0)と求めることができる。
【0018】しかし、入力映像信号が急峻なレベル変化
をもつ場合、画像の累積加算テーブルDxyの値は図4
及び図5に示すようなきれいな円錐にはならず、しばし
ば多くの凹凸を伴ったものとなる。また、この傾向は画
面全体のブロック数、すなわち代表点の総数が少ないほ
ど顕著になる。そのため、例えば円錐の頂点(x1 ,y
1 ,0)を通り垂直累積加算テーブルDyに平行な平面
x=x1 での累積加算テーブルDxyが図6(a)に示
すようなものであっても、画像が水平方向に急峻な変化
をもてば、そこから水平方向にx1 隔たりのある垂直累
積加算テーブルDyでは、図6(b)に示すように異な
ったものとなって垂直方向の動きベクトルの誤検出を起
こすことになる。従って、垂直累積加算テーブルDyの
値が最小であるy座標が平面x=x1 上での累積加算テ
ーブルDxyの最小点のy座標の座標値y1 と等しくな
るためには、平面x=x1 上での累積加算テーブルDx
yの値の分布と平面x=0上での垂直累積加算テーブル
Dyの値の分布が急激に変化しないことが必要である。
画像の水平方向の相関が高ければ、累積加算テーブルの
値の水平方向の変化は小さくなるので平面x=x1 上で
の累積加算テーブルDxyの値の分布と平面x=0上で
の垂直累積加算テーブルDyの値の分布が急激に変化す
ることはない。本発明では垂直動きベクトル検出部6の
前処理として水平ローパスフィルタ4によって水平相関
性の高い信号成分のみを取り出している。そのため水平
方向の累積加算テーブルの値の変化は小さく、従ってx
=0上の垂直累積加算テーブルDyのテーブル値が最小
であるy座標はy1 とほぼ等しくなり誤検出を大幅に低
減できる。
【0019】また、水平方向の動きベクトル検出の場合
も同様で、例えば円錐の頂点(x1,y1 ,0)を通り
水平累積加算テーブルDxに平行な平面y=y1 での累
積加算テーブルDxyが図7(a)に示すようなもので
あっても、画像が垂直方向に急峻な変化をもてば、そこ
から垂直方向にy1 隔たった水平累積加算テーブルDx
では図7(b)に示すように異なったものとなって水平
方向の動きベクトルの誤検出を起こすことがある。従っ
て、水平累積加算テーブルDxの値が最小であるx座標
がx1 とほぼ等しくなるためには平面y=y1 上での累
積加算テーブルDxyの値の分布と平面y=0上での水
平累積加算テーブルDxの値の分布が急激に変化しない
ことが必要である。画像の垂直方向の相関が高ければ、
累積加算テーブルの値の垂直方向の変化は小さくなるの
で平面y=y1 上での累積加算テーブルDxyの値の分
布と平面y=0上での水平累積加算テーブルDxの値の
分布が急激に変化することはない。本発明では、水平動
きベクトル検出部5の前処理として垂直ローパスフィル
タ3によって垂直相関性の高い信号成分のみを取り出し
ている。そのため、垂直方向の累積加算テーブルの値の
変化は小さく、従ってy=0上の水平累積加算テーブル
Dxのテーブル値が最小であるx座標はx1 とほぼ等し
くなり、誤検出を大幅に低減できる。
【0020】このようにして代表点と、次フレームでの
x軸とy軸の直交する2軸上の画素との相関を調べるこ
とにより、2次元の動きベクトルの垂直成分及び水平成
分を求めることができる。
【0021】ここで求めた直交する2つの1次元ベクト
ルである動きベクトル水平成分vxと動きベクトル垂直
成分vy を2次元ベクトル算出7に入力し、最終的に
1フレーム間に画像位置がどの方向にどれだけ移動した
か、すなわち2次元の動きベクトル値Vが決まる。
【0022】なお、本実施例では、画像のフレーム間の
動きベクトルを検出しているが、フィールド間、あるい
はその他の時間間隔における動きベクトル検出に用いて
もよい。
【0023】また、本実施例では、2次元ローパスフィ
ルタ2を設けているが、この2次元ローパスフィルタは
必ずしも必要なものではない。しかし、ディジタル変換
された映像信号からノイズ成分の多く含まれる高域成分
を除去することができるため、検出精度をさらに向上さ
せる効果がある。
【0024】
【発明の効果】以上述べたように、本発明の動きベクト
ル検出装置は、入力映像信号の水平方向の低域成分を抽
出する水平ローパスフィルタと、前記水平ローパスフィ
ルタの出力信号から、代表点とその垂直方向に当たる画
素とのフレーム間相関より画像の動きベクトルの垂直成
を検出する第の動き検出手段と、前記入力映像信号
の垂直方向の低域成分を抽出する垂直ローパスフィルタ
と、前記垂直ローパスフィルタの出力信号から、代表点
とその水平方向に当たる画素とのフレーム間相関より画
像の動きベクトルの水平成分を検出する第2の動き検出
手段と、前記第1、第2の動き検出手段で検出した水平
成分と垂直成分から2次元ベクトルを算出する2次元ベ
クトル算出手段とを備えることにより、動きベクトルの
水平成分は、垂直相関性の高い信号成分から、また、動
きベクトルの垂直成分を水平相関性の高い信号成分から
それぞれ1次元の動ベクトルを検出し、さらにこれら
の動きベクトルから2次元の動きベクトルを求めるよう
にしたので、少ない累積加算テーブル数かつ短い演算時
間で動きベクトルの検出を行うことが出来る。
【図面の簡単な説明】
【図1】本発明の一実施例による動きベクトル検出装置
の全体構成を示すブロック図である。
【図2】本発明の代表点演算における画像のブロックお
よび代表点との関係を示す図である。
【図3】本発明の水平動きベクトル検出部の構成を示す
ブロック図である。
【図4】画像静止時の累積加算テーブルの様子を模式的
に表す図である。
【図5】画像に動きがある場合の累積加算テーブルの様
子を模式的に表す図である。
【図6】垂直方向の動きベクトルの誤検出を起こす垂直
累積加算テーブルDyの一例を示す図である。
【図7】水平方向の動きベクトルの誤検出を起こす水平
累積加算テーブルDxの一例を示す図である。
【図8】従来の動きベクトル検出装置の構成を示すブロ
ック図である。
【図9】従来例の代表点演算における画像のブロックお
よび代表点との関係を示す図である。
【符号の説明】
3 垂直ローパスフィルタ 4 水平ローパスフィルタ 5 水平動きベクトル検出部 6 垂直動きベクトル検出部 7 2次元動きベクトル検出部 302 代表点メモリ 304 水平差分絶対値演算回路 306 水平累積加算テーブル 307 1次元ベクトル算出手段

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】 所定の時間間隔における画像の移動量を
    検出するために、画像を複数に分割したブロック毎に設
    定した代表点を基に、各ブロック内の画素の移動量から
    画面全体の動きベクトルを決定する動きベクトル検出装
    置において、 入力映像信号の水平方向の低域成分を抽出する水平ロー
    パスフィルタと、 前記水平ローパスフィルタの出力信号から、前記代表点
    とその垂直方向に当たる画素とのレベル差についての前
    記所定の時間間隔での相関を求めることにより画像の
    きベクトルの垂直成分を検出する第1の動き検出手段
    と、 前記入力映像信号の垂直方向の低域成分を抽出する垂直
    ローパスフィルタと、 前記垂直ローパスフィルタの出力信号から、前記代表点
    とその水平方向に当たる画素とのレベル差についての前
    記所定の時間間隔での相関を求めることにより画像の
    きベクトルの水平成分を検出する第2の動き検出手段
    と、 前記第1、第2の動き検出手段で検出した水平成分と垂
    直成分から2次元ベクトルを算出する2次元ベクトル算
    出手段と を備えたことを特徴とする動きベクトル検出装
    置。
  2. 【請求項2】 前記所定の時間は1フレーム期間である
    ことを特徴とする請求項第1項記載の動きベクトル検出
    装置。
  3. 【請求項3】 前記所定の時間は1フィールド期間であ
    ることを特徴とする請求項第1項記載の動きベクトル検
    出装置。
JP23595791A 1989-10-17 1991-09-17 動きベクトル検出装置 Expired - Lifetime JP2698492B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP23595791A JP2698492B2 (ja) 1991-09-17 1991-09-17 動きベクトル検出装置
US07/893,143 US5319456A (en) 1989-10-17 1992-06-03 Moving vector detecting apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23595791A JP2698492B2 (ja) 1991-09-17 1991-09-17 動きベクトル検出装置

Publications (2)

Publication Number Publication Date
JPH0575914A JPH0575914A (ja) 1993-03-26
JP2698492B2 true JP2698492B2 (ja) 1998-01-19

Family

ID=16993722

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23595791A Expired - Lifetime JP2698492B2 (ja) 1989-10-17 1991-09-17 動きベクトル検出装置

Country Status (1)

Country Link
JP (1) JP2698492B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07105938B2 (ja) * 1986-12-27 1995-11-13 株式会社東芝 動きベクトル検出回路
JPS6410787A (en) * 1987-07-02 1989-01-13 Matsushita Electric Ind Co Ltd Image pickup device

Also Published As

Publication number Publication date
JPH0575914A (ja) 1993-03-26

Similar Documents

Publication Publication Date Title
EP2047426B1 (en) Method for signal conditioning
CA2420013A1 (en) Image processing apparatus and method and image pickup apparatus
JP2001061152A (ja) 動き検出方法および動き検出装置
CN111696143A (zh) 一种事件数据的配准方法与系统
JP2698492B2 (ja) 動きベクトル検出装置
JPH04345382A (ja) シーンチェンジ検出装置
CN114286024B (zh) 基于动态视觉传感器的光学偏振信息模型构建方法及装置
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP2752266B2 (ja) 動きベクトル検出装置
JP2005309782A (ja) 画像処理装置
JP2001025021A (ja) 動き検出方法および動き検出装置
JP2900709B2 (ja) 動画像フィルタ
KR100269784B1 (ko) 물체와 그림자의 경계선 구분 방법
JP2975146B2 (ja) 動きベクトル検出装置
JP3003044B2 (ja) 動きベクトル検出装置及び方法
JPH02295288A (ja) 動ベクトル検出装置
JPH06217294A (ja) 画像データ圧縮装置および画像データ伝送方法
JP3263794B2 (ja) 画像処理装置
JPH0795587A (ja) 動きベクトル検出方法
JPH04145777A (ja) 動きベクトル検出装置
JP3214953B2 (ja) 動き領域検出装置
JPH05153470A (ja) 動きベクトル検出装置
JP2937213B2 (ja) 動きベクトル検出装置
KR920003263B1 (ko) 영상처리장치의 프로필터를 이용한 동검출기
Bharade et al. Adaptive pre processing and image stabilization on embedded platform

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 19970909

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080919

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080919

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090919

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090919

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100919

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110919

Year of fee payment: 14

EXPY Cancellation because of completion of term