JP3263794B2 - 画像処理装置 - Google Patents

画像処理装置

Info

Publication number
JP3263794B2
JP3263794B2 JP35309092A JP35309092A JP3263794B2 JP 3263794 B2 JP3263794 B2 JP 3263794B2 JP 35309092 A JP35309092 A JP 35309092A JP 35309092 A JP35309092 A JP 35309092A JP 3263794 B2 JP3263794 B2 JP 3263794B2
Authority
JP
Japan
Prior art keywords
edge
detecting
filter
image
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP35309092A
Other languages
English (en)
Other versions
JPH06176152A (ja
Inventor
浩二 景山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP35309092A priority Critical patent/JP3263794B2/ja
Publication of JPH06176152A publication Critical patent/JPH06176152A/ja
Application granted granted Critical
Publication of JP3263794B2 publication Critical patent/JP3263794B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【0001】
【目次】以下の順序で本発明を説明する。 産業上の利用分野 従来の技術 発明が解決しようとする課題 課題を解決するための手段(図4) 作用(図4) 実施例 (1)動き方向検出の原理(図1〜図3) (2)実施例による画像処理装置(図1〜図5) (3)他の実施例 発明の効果
【0002】
【産業上の利用分野】本発明は画像処理装置に関し、例
えばテレビジヨンカメラや監視装置等の撮像装置に適用
して好適なものである。
【0003】
【従来の技術】従来、この種の撮像装置においては、撮
影画像中の最大輝度部分を検出することにより、この輝
度部分を基準にしてユーザの選択した所望の被写体を追
跡し得るようになされたものがある。このように所望の
物体を追跡することができれば、この被写体を中心にし
て自動的に焦点合わせや絞り調整等を行うことができ、
撮像装置全体として使い勝手を向上し得る。
【0004】
【発明が解決しようとする課題】ところで移動する被写
体においては、単に被写体が左右に移動して位置が変化
するだけでなく、前後に移動して大きさ自体が変化する
場合があり、またユーザがズームレンズを操作して被写
体の大きさが変化する場合もある。このような場合、画
像中において被写体の領域と背景とを分離することがで
きれば、被写体の動きをさらに一段と確実に追跡し得る
と考えられる。
【0005】この画像の領域を分割する際に、代表点マ
ツチングやブロツクマツチング等によつて求めた動きベ
クトルを使う方法や、周波数領域で求めた動きベクトル
を使う方法があるが、このような動きベクトルを算出す
るためには相当量の演算処理が必要とされる。このうち
代表点マツチングは比較的演算量の少ない動き検出方法
として用いられており、手ぶれ補正等に応用されている
が、得られる動きベクトルの空間分解能が低いという欠
点があり領域分割の用途には向かないと考えられる。
【0006】またこのように被写体の追跡などに応用す
る領域分割の目的に動き情報を用いる場合、動きの大き
さや方向の精度はそれほど重要でないにも係わらず、相
当量の演算処理を実行するために、構成が複雑かつ処理
時間が長くなることは、実用上未だ不十分であつた。
【0007】本発明は以上の点を考慮してなされたもの
で、簡易な動き方向検出方法で確実に動く物体を背景か
ら分離し得る画像処理装置を提案しようとするものであ
る。
【0008】
【課題を解決するための手段】かかる課題を解決するた
め本発明においては、順次入力される画像データVDか
ら、第1のフイルタ係数によつて水平方向のエツジを検
出する第1のフイルタ手段3と、画像データVDから、
第2のフイルタ係数によつて垂直方向のエツジを検出す
る第2のフイルタ手段4と、画像データVDのフレーム
間の差分画像S1を得る差分手段8、9と、第1及び第
2のフイルタ手段3、4の出力Y1、Y2に基づいて、
エツジのタイプを検出するエツジタイプ識別手段5、6
と、エツジタイプ識別手段5、6によつて検出されたエ
ツジのタイプθ及び差分手段8、9によつて得られた差
分画像S1から、画像データVDの各座標における動き
方向MDを検出する動き方向特定手段7とを設けるよう
にした。
【0009】また本発明においては、順次入力される画
像データVDから、目的物体の位置を指定する検出領域
設定手段11を有し、検出領域設定手段11で設定した
検出領域と他の領域で、動き方向特定手段7によつて検
出した各座標における動き方向MDが同じで検出領域か
ら近いほどスコアを高くし、そのスコアがしきい値TH
以上の場合に検出領域と同一物体であるとして特定する
ようにした。
【0010】さらに本発明においては、第1のフイルタ
手段3及び第2のフイルタ手段4を、1次微分フイルタ
リングを行うフイルタで構成するようにした。
【0011】また本発明において、エツジタイプ識別手
段5、6によつて識別されるエツジのタイプは、2次元
画像におけるエツジの傾き角θであつて、第1及び第2
のフイルタ手段3、4の出力Y1、Y2の成す角を、予
め算出した角度テーブル6を参照して、量子化されたエ
ツジのタイプを検出するようにした。
【0012】さらに本発明において、エツジタイプ識別
手段5によつて識別されるエツジのタイプは、2次元画
像におけるエツジの傾き角θであつて、動き方向特定手
段7は、動き方向MDがエツジの傾き角θを基準に+90
°の方向か又は−90°の方向かを特定するようにした。
【0013】さらにまた本発明においては、ローパスフ
イルタ21、23、25が複数個を直列接続されてな
り、順次入力される画像データVD(S10)につい
て、各ローパスフイルタ21、23、25から間引き出
力S11、S12、S13を送出する間引き手段21、
22、23、24、25、26と、各間引き出力S1
1、S12、S13について、第1のフイルタ係数によ
つて水平方向のエツジを検出する第1のフイルタ手段3
と、各間引き出力S11、S12、S13について、第
2のフイルタ係数によつて垂直方向のエツジを検出する
第2のフイルタ手段4と、各間引き出力S11、S1
2、S13のフレーム間の差分画像S1を得る差分手段
8、9と、第1及び第2のフイルタ手段3、4の出力Y
1、Y2から、エツジのタイプを検出するエツジタイプ
識別手段5、6と、エツジタイプ識別手段5、6によつ
て検出されたエツジのタイプと、差分手段8、9によつ
て得られた差分画像S1から、各間引き出力S11、S
12、S13について各座標における動き方向を検出す
る動き方向特定手段7とを設け、各間引き出力S11、
S12、S13に対応して異る大きさの動きを検出する
ようにした。
【0014】
【作用】順次入力される画像データVDについて、第1
のフイルタ手段3によつて水平方向のエツジを検出する
と共に、第2のフイルタ手段4によつて垂直方向のエツ
ジを検出し、これらのエツジに基づいてエツジタイプ識
別手段5、6によつて検出されたエツジのタイプと、差
分手段8、9によつて得られる画像データVDのフレー
ム間の差分画像S1から、動き方向特定手段7で画像デ
ータVDの各座標の動き方向MDを検出するようにした
ことにより、容易に画像データVD中の動く物体の動き
方向を検出できる。
【0015】
【実施例】以下図面について、本発明の一実施例を詳述
する。
【0016】(1)動き方向検出の原理 本発明による画像処理装置は、画像中のエツジが存在す
る部分の動きの方向を特定するものであり、まず1次元
信号について、図1に示すように、本発明の原理を説明
する。すなわち1次元信号の場合、エツジは右下がり
(図1(A))か又は右上がり(図1(B))かのどち
らかであり、動きの方向は右か左である。従つてまず画
像中のエツジを検出してそのタイプを特定し、つぎに差
分画像の符号を調べることによつてエツジの動き方向を
検出する。
【0017】このエツジのタイプとしてタイプ1を右下
がり(図1(A))、タイプ2を右上がり(図1
(B))の空間(Spatial )エツジとすると、フイルタ
係数(1,0,−1)でなるフイルタをかけることによ
つていずれのエツジのタイプかを識別することができ
る。実際の計算は、図1(A)に示すようなタイプ1
で、次式
【数1】 で表されるようなエツジに対して、次式
【数2】 でフイルタ係数でなるフイルタの出力、y_OUT(X
1)は、次式
【数3】 となる。
【0018】また図1(B)に示すようなタイプ2で、
次式
【数4】 で表されるようなエツジに対して、フイルタ出力y_OU
T(X2)は、(3)式と同様にして、次式
【数5】 となる。
【0019】まとめると右下がりの空間エツジについて
は、フイルタ出力がd/2となりこれを空間エツジタイ
プ1と呼び、右上がりの空間エツジについては、フイル
タ出力が−d/2となりこれを空間エツジタイプ2と呼
ぶ。従つてスレシヨールドを例えば0に設定すれば、こ
れら2つのエツジを識別できる。
【0020】時間方向には、フイルタ係数(1,−1)
でなるフイルタを用いる。すなわち、現フレームと前フ
レームの差分画像を使い、差分が正なら時間(Tempora
l)エツジタイプ1と呼び、差分が負なら時間エツジタ
イプ2と呼ぶ。このようにすると、図2に示すように、
2つの空間エツジのタイプについて、右向き及び左向き
の2種類の動きを考えたとき、合計4つの場合における
時間エツジとの対応関係が導かれる。ノイズに対して強
い検出をするために、差分がDelta(>0)より大
きい場合と、−Deltaより小さい場合に分けるよう
にしても良い。このような、動きの方向と時空間エツジ
のタイプとの対応関係をまとめると、次式
【数6】 のように表すことができ、動きの方向が分類されて特定
することができる。
【0021】2次元画像信号の場合、1次元信号におけ
るエツジのタイプは、図3(A)に示すようにエツジの
傾き角θ0 に相当する。そこでフイルタを2種類用いて
エツジEGの傾き角θ0 を検出し、動きの方向はそのエ
ツジEGの傾き角θ0 と直角の二つの方向のいずれかで
あることを、差分画像を使つて判定する。すなわち図3
(B)に示すように、ある角度のエツジEGが存在する
ときに、図中a又はbの方向の動きを検出する。
【0022】なお2次元画像信号のエツジの傾き角を算
出する際には、「Steerable Filters for Early Visio
n, Image Analysis and Wavelet Decomposition By Wi
lliamT, Freeman, Edward H. Adelson, ICCV, 1991 」
等で記載されている方法を用いるようになされている。
【0023】実際上2つの2次元空間フイルタについて
は、両者が直交するようなフイルタ係数の組を選択する
ようになされ、次式
【数7】 及び次式
【数8】 のようないわゆるソーベルのフイルタの組がある。これ
らのフイルタは、係数として1と2しか含まないため、
ハードウエアでの実現が極めて容易である。
【0024】まずエツジの傾き角を算出するためには、
入力画像でなる2次元画像信号について2次元フイルタ
として(7)及び(8)式で示すようなフイルタ係数で
なる第1及び第2のフイルタをかける。次に第1及び第
2のフイルタの出力を、それぞれY1(i,j)及びY
2(i,j)として、第2のフイルタの出力Y2(i,
j)が0でないとき、第1及び第2のフイルタの出力Y
1(i,j)及びY2(i,j)の比Rを次式
【数9】 で求め、エツジの傾き角θを、次式
【数10】 によつて求める。
【0025】実際の回路では、エツジの傾き角θは第1
及び第2のフイルタの出力Y1(i,j)及びY2
(i,j)に対して、予め算出されたテーブルを参照す
ることにより求めるようになされている。例えば第1及
び第2のフイルタの出力Y1(i,j)及びY2(i,
j)が、8ビツトである場合、最大 256× 256(64K)
の2次元テーブルを必要とするが、動きによる領域分割
のために動きの方向を求める場合は、角度の精度は低く
て良いので例えば4方向や8方向のみに限定してテーブ
ルも小さくするようにしても良い。
【0026】次に現フレームの画像と前フレームの画像
に対して1次元ハイパスフイルタをかける。このときの
フイルタ係数は(1,−1)に選定し、これによりフレ
ーム間差分を求める。エツジが検出されている位置にお
いて、この差分画像の正負を調べることによつて、動き
の方向がエツジの傾き角θを基準に+90°の方向か又は
−90°の方向かを特定でき、このようにして簡易に画像
の動きの方向を求めることができ、この動き方向を参照
して領域を分割できる。
【0027】(2)実施例による画像処理装置 図4において1は全体として、上述した本発明による動
き検出の原理を用いた画像処理装置を示し、例えばテレ
ビジヨンカメラ等の画像入力装置2より入力された画像
信号VDが、(7)及び(8)式で上述したフイルタ係
数でなる第1及び第2のフイルタ3及び4に入力され、
その出力Y1(i,j)及びY2(i,j)が、エツジ
タイプ識別回路5に入力される。
【0028】エツジタイプ識別回路5は、第1及び第2
のフイルタ3及び4の出力Y1(i,j)及びY2
(i,j)を用いて、(9)式に基づいてエツジの傾き
角θを算出するようになされ、実際には角度テーブル6
を参照してエツジの傾き角θを求め、この傾き角θを動
き方向特定回路7に送出する。
【0029】また画像入力装置2より入力された画像信
号VDは、差分回路8及びフレームメモリ9に入力さ
れ、差分回路8において現フレームと前フレームの画像
の差分を計算しその符号S1を、動き方向特定回路7に
出力する。
【0030】これにより動き方向特定回路7において
は、エツジの傾き角θと差分画像の符号S1に基づい
て、エツジの傾き角θを基準に+90°の方向か又は−90
°の方向かを特定し、これを動き方向データMDとし
て、続く動きメモリ10を通じて、動き方向を用いた領
域分割回路11に送出し、これによりこの動き方向デー
タを用いて物体追跡のための領域分割が実行される。
【0031】実際上領域分割回路11においては、動き
メモリ10中の画面内の動きの方向を表す動き方向を用
いて領域分割を行うようになされ、例えば画面内の位置
(i,j)における動き方向をD(i,j)とすると、
指定された位置を中心に探索を行ない、各点でのスコア
を次式
【数11】 で算出する。ここで(i,j)は探索中の点の座標を表
し、(i0,j0)は、ユーザによつて指定された位置
の座標を表す。また(11)式中のRFは、探索が画面
全体に及ばないようにするための距離ファクタであり、
距離が指定された位置から離れるとRFが大きくなつて
スコアはさがる。
【0032】そして、あらかじめ定めたスレシヨールド
THを使つて、次式
【数12】 を満足する領域を抽出し、次に抽出された領域を囲むよ
うに枠を設定する。
【0033】このようにして、画像内のユーザが指定し
た位置の近傍における動き方向を使つて、同じ方向に動
いている領域を追跡すべき物体の境界であるとして物体
追跡のための枠を設定する。この追跡枠を毎フレーム更
新することによつて物体を追跡するようになされてい
る。
【0034】以上の構成によれば、順次入力される画像
VDについて、第1及び第2のフイルタ3及び4によつ
て水平及び垂直方向のエツジを検出し、これらのエツジ
に基づいて求めたエツジの傾き角θと、フレーム間の差
分画像の符号S1から、画像の各座標の動き方向MDを
検出するようにしたことにより、容易に画像中の動く物
体の動き方向を検出でき、かくするにつき、簡易な動き
方向検出方法で確実に動く物体を背景から分離し得る画
像処理装置を実現できる。
【0035】(3)他の実施例 なお上述の実施例においては、互いに直交する3×3の
フイルタ係数でなる第1及び第2のフイルタとしてソー
ベルのフイルタを用いた場合について述べたが、第1及
び第2のフイルタの係数はこれに限らず、互いに直交す
るようなものであれば例えばロバーツのフイルタやプレ
ヴイツトのフイルタ等を用いるようにしても良く、さら
に大きさの異なるフイルタ係数を何種類か持つようなフ
イルタを用いるようにしても上述の実施例と同様の効果
を実現できる。
【0036】また上述の実施例においては、画像につい
て1つの動き方向を求めるようにした場合について述べ
たが、これに限らず、画像をピラミツドのように成分ご
とに階層的に分割し、各々について動き方向を求めるよ
うにしても良く、このようにすれば大きさの異なるエツ
ジと動きに対応でき、結果的に異なる大きさの動きを検
出できる。
【0037】因に、例えば図5に示すような動き検出装
置20においては、入力画像S10をローパスフイルタ
及びダウンコンバータ21及び22、23及び24、2
5及び26を通しつつ間引いていくことによつて、解像
度のことなる画像を作成し、各々の画像について、図4
について上述したような動き検出回路27A、27B、
27Cで動き方向を算出し、その結果を統合する。この
ようにすれば動き検出回路27A、27B、27Cから
は、それぞれ異なる大きさのエツジが検出され、結果的
には異なる大きさの動きが検出されることになる。
【0038】さらに上述の実施例においては、本発明を
テレビジヨンカメラ等の撮像装置に適用した場合につい
て述べたが、本発明はこれに限らず、要は簡易な構成で
画像中の動きを検出するようになされた画像処理装置に
広く適用して好適なものである。
【0039】
【発明の効果】上述のように本発明によれば、順次入力
される画像データについて、それぞれ水平方向及び垂直
方向のエツジを検出し、これらのエツジに基づくエツジ
のタイプと画像データのフレーム間の差分から、画像デ
ータの各座標の動き方向を検出するようにしたことによ
り、簡易な動き方向検出方法で確実に動く物体を背景か
ら分離し得る画像処理装置を実現できる。
【図面の簡単な説明】
【図1】本発明の原理として1次元信号のエツジの説明
に供する略線図である。
【図2】図1と同様に本発明の原理として1次元信号に
おける空間エツジと時間エツジの関係の説明に供する略
線図である。
【図3】図1と同様に本発明の原理として2次元画像信
号のエツジの説明に供する略線図である。
【図4】本発明の一実施例による画像処理装置を示すブ
ロツク図である。
【図5】画像の階層化を用いた動き検出装置を示すブロ
ツク図である。
【符号の説明】
1……画像処理装置、2……画像入力装置、3、4……
フイルタ、5……エツジタイプ識別回路、6……角度テ
ーブル、7……動き方向特定回路、8……差分回路、9
……フレームメモリ、10……動きメモリ、11……領
域分割回路。

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】順次入力される画像データから、第1のフ
    イルタ係数によつて水平方向のエツジを検出する第1の
    フイルタ手段と、 上記画像データから、第2のフイルタ係数によつて垂直
    方向のエツジを検出する第2のフイルタ手段と、 上記画像データのフレーム間の差分画像を得る差分手段
    と、 上記第1及び第2のフイルタ手段の出力に基づいて、上
    記エツジのタイプを検出するエツジタイプ識別手段と、 上記エツジタイプ識別手段によつて検出された上記エツ
    ジのタイプ及び上記差分手段によつて得られた上記差分
    画像から、上記画像データの各座標における動き方向を
    検出する動き方向特定手段とを具えることを特徴とする
    画像処理装置。
  2. 【請求項2】上記順次入力される画像データから、目的
    物体の位置を指定する検出領域設定手段を有し、 当該検出領域設定手段で設定した検出領域と他の領域
    で、上記動き方向特定手段によつて検出した上記各座標
    における動き方向が同じで検出領域から近いほどスコア
    を高くし、当該スコアがしきい値以上の場合に検出領域
    と同一物体であるとして特定するようにしたことを特徴
    とする請求項1に記載の画像処理装置。
  3. 【請求項3】上記第1のフイルタ手段及び上記第2のフ
    イルタ手段を、1次微分フイルタリングを行うフイルタ
    で構成するようにしたことを特徴とする請求項1に記載
    の画像処理装置。
  4. 【請求項4】上記エツジタイプ識別手段によつて識別さ
    れる上記エツジのタイプは、2次元画像におけるエツジ
    の傾き角であつて、 上記第1及び第2のフイルタ手段の出力の成す角を、予
    め算出した角度テーブルを参照して、量子化されたエツ
    ジのタイプを検出するようにしたことを特徴とする請求
    項1に記載の画像処理装置。
  5. 【請求項5】上記エツジタイプ識別手段によつて識別さ
    れる上記エツジのタイプは、2次元画像におけるエツジ
    の傾き角であつて、上記動き方向特定手段は、上記動き方向が上記エツジの
    傾き角を基準に+90°の方向か又は−90°の方向かを特
    定する ことを特徴とする請求項1に記載の画像処理装
    置。
  6. 【請求項6】ローパスフイルタが複数個を直列接続され
    てなり、順次入力される画像データについて、上記各ロ
    ーパスフイルタから間引き出力を送出する間引き手段
    と、 上記各間引き出力について、第1のフイルタ係数によつ
    て水平方向のエツジを検出する第1のフイルタ手段と、 上記各間引き出力について、第2のフイルタ係数によつ
    て垂直方向のエツジを検出する第2のフイルタ手段と、 上記各間引き出力のフレーム間の差分画像を得る差分手
    段と、 上記第1及び第2のフイルタ手段の出力から、エツジの
    タイプを検出するエツジタイプ識別手段と、 上記エツジタイプ識別手段によつて検出された上記エツ
    ジのタイプと、上記差分手段によつて得られた上記差分
    画像から、上記各間引き出力について各座標における動
    き方向を検出する動き方向特定手段とを具え、上記各間
    引き出力に対応して異る大きさの動きを検出するように
    したことを特徴とする画像処理装置。
JP35309092A 1992-12-10 1992-12-10 画像処理装置 Expired - Fee Related JP3263794B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP35309092A JP3263794B2 (ja) 1992-12-10 1992-12-10 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP35309092A JP3263794B2 (ja) 1992-12-10 1992-12-10 画像処理装置

Publications (2)

Publication Number Publication Date
JPH06176152A JPH06176152A (ja) 1994-06-24
JP3263794B2 true JP3263794B2 (ja) 2002-03-11

Family

ID=18428497

Family Applications (1)

Application Number Title Priority Date Filing Date
JP35309092A Expired - Fee Related JP3263794B2 (ja) 1992-12-10 1992-12-10 画像処理装置

Country Status (1)

Country Link
JP (1) JP3263794B2 (ja)

Also Published As

Publication number Publication date
JPH06176152A (ja) 1994-06-24

Similar Documents

Publication Publication Date Title
Ahmed Comparative study among Sobel, Prewitt and Canny edge detection operators used in image processing
US8508599B2 (en) Motion vector detection apparatus, motion vector detection method, and image capturing apparatus
CN109313799B (zh) 图像处理方法及设备
EP3798975A1 (en) Method and apparatus for detecting subject, electronic device, and computer readable storage medium
US6968094B1 (en) Method of estimating and correcting camera rotation with vanishing point location
JP3164121B2 (ja) 動きベクトル検出装置
JPH1023452A (ja) 画像抽出装置および方法
JP2004334819A (ja) ステレオキャリブレーション装置とそれを用いたステレオ画像監視装置
CN109479082A (zh) 图象处理方法及装置
JP2010114752A (ja) 撮像装置及び撮像方法及びプログラム
CN114926514B (zh) 一种事件图像与rgb图像的配准方法及装置
JP2003304561A (ja) ステレオ画像処理装置
JPH09116809A (ja) テレビフィルム走査における画像ステディネスエラーの補正方法及びテレビ画像内の所定の画像対象物のモーションシーケンスの変化方法並びに前記補正方法を実施するための装置
JPH11150676A (ja) 画像処理装置及び追尾装置
CN115861975B (zh) 障碍物车辆位姿估计方法及设备
JPH07249128A (ja) 車両用画像処理装置
JPH0422280A (ja) 画像の動き検出装置
JP3263794B2 (ja) 画像処理装置
JPH09145368A (ja) ステレオ画像による物体の移動追跡方法
JP3104645B2 (ja) 道路白線検出方法及び道路白線検出装置
Jagadeeswari et al. A comparative study based on video stitching methods
JPH0875454A (ja) 測距装置
JPH05120428A (ja) 運動パラメータ抽出方式
WO2020199198A1 (zh) 图像采集控制方法,图像采集控制设备和可移动平台
JP2019192048A (ja) 撮像装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071228

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081228

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091228

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees