JP3690695B2 - 火災検出装置 - Google Patents

火災検出装置 Download PDF

Info

Publication number
JP3690695B2
JP3690695B2 JP06781796A JP6781796A JP3690695B2 JP 3690695 B2 JP3690695 B2 JP 3690695B2 JP 06781796 A JP06781796 A JP 06781796A JP 6781796 A JP6781796 A JP 6781796A JP 3690695 B2 JP3690695 B2 JP 3690695B2
Authority
JP
Japan
Prior art keywords
fire
image
area
candidate
flame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP06781796A
Other languages
English (en)
Other versions
JPH09259370A (ja
Inventor
貴俊 山岸
美咲 岸本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nohmi Bosai Ltd
Original Assignee
Nohmi Bosai Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nohmi Bosai Ltd filed Critical Nohmi Bosai Ltd
Priority to JP06781796A priority Critical patent/JP3690695B2/ja
Publication of JPH09259370A publication Critical patent/JPH09259370A/ja
Application granted granted Critical
Publication of JP3690695B2 publication Critical patent/JP3690695B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Alarm Systems (AREA)
  • Fire Alarms (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は画像処理を使用した火災検出装置に関するものである。
【0002】
【従来の技術】
防犯の分野などで、画像処理装置を利用した人体検出が行われている。これは、監視領域に監視カメラを設置し、その監視カメラにより撮影される監視領域の画像を、通常時に撮影された背景画像と差分処理することにより、変化のあった領域を一次的に検出するものである。
【0003】
この監視カメラは、所定のサンプリング周期、例えば3秒毎に撮影されるので、ある程度の時間にわたって人物が監視領域に存在する場合、そのサンプリング周期で撮影されるたびに、撮影された画像には、上記の差分処理によりその人物が変化領域として抽出される。この際、抽出されたその変化領域は、異なる時間の画像間において、対応するものなのか、つまり同じ人物なのかどうかという判定が行われる。この対応付けは抽出された変化領域の移動量又は移動方向を調べたり、後述の特徴量抽出処理のために必要な処理である。
【0004】
つまり差分処理の段階では、抽出された領域は、人物によるものなのか、猫や犬によるものなのかは不明である。そのため抽出領域の特徴量抽出という二次的な処理を行うことで、最終的にその領域が人物であるかどうかの判定をする。この特徴量抽出という処理は、所定の時間にわたる画像から、面積変化や移動量を演算して、その領域が人物によるものなのかを調べるものである。
【0005】
【発明が解決しようとする課題】
従来の対応付けの方法は、例えば、ある時間の前後において、抽出された領域の面積などが等しいかどうかを比較することにより行われる。これは、対象物体が人物などの形状が比較的変形しにくい場合には有効であるが、火災時の炎などのような不定形状、つまり形状が時間によって変形するものの場合には適さない。
【0006】
【課題を解決するための手段】
本発明は以上の課題を解決するためになされたもので、監視領域を周期的に撮影する撮影手段と、撮影手段により撮影された画像を格納するための画像メモリとを備え、該画像メモリに格納された画像を処理することにより火災を検出する火災検出装置において、画像から火災候補領域を抽出する火災候補領域抽出手段と、火災候補領域が、火災時の炎らしい挙動を示す場合に評価値を加算すると共に、火災らしくない挙動を示す場合には評価値を減算する火災特徴量演算手段と、所定時間内に該評価値が所定値に達すると、前記火災候補領域が火災であると判別する火災判別手段とを備えたことを特徴とするものである。
【0008】
【発明の実施の形態】
以下、本発明の実施形態を図面を用いて説明する。図1は本発明を示すブロック図、図2は監視カメラにより撮影された画像を示す図面である。1は撮影手段としての監視カメラであり、例えばCCDカメラなどが使用され、所定のサンプリング周期で監視領域を撮影するものである。この監視カメラ1は例えば監視領域としてのトンネル内に設置され、トンネル内で発生する火災を監視する。2はアナログデジタル変換器で、監視カメラ1からの映像信号をデジタル化するものである。3はそのデジタル化された映像信号を記憶する画像メモリで、監視カメラ1で撮影された画像の1画面分を格納するものである。画像メモリ3は複数の画面を格納するため図のように複数個で構成され、一番古い画像を削除しながら、順次新しい画像を更新格納していく。
【0009】
4は画像メモリ3に格納された画像から、火災らしい領域、つまり火災候補領域を抽出する火災候補領域抽出手段である。ある画像から火災候補領域を抽出する方法について説明する。トンネル内において火災が発生した際には、それに伴い炎が発生するので、この炎を捕らえることで、画像の中から火災候補領域を抽出できる。一般的には所定値以上の明度を有する領域、またはCCDカメラのようなカラー画像を使用している場合にはカラー成分であるRGB成分のうち、R成分の大きい領域をそれぞれ火災候補領域として抽出することが可能である。火災候補領域抽出手段4が火災候補領域を抽出する時に、画像を1と0で表す二値化処理が行われる。つまり火災候補領域を1、画像のそれ以外の部分を0で表す。
【0010】
6は画像メモリ3から火災候補領域抽出手段4によって二値化された画像を格納するための火災候補領域メモリである。この火災候補領域メモリ6は、画像メモリ3と同様に複数個で構成され、画像メモリ3からの最新の画像を順次格納する。
【0011】
7は抽出された火災候補領域の重心の座標を演算する重心演算手段である。また8は抽出された火災候補領域の下部中心点の座標を求める下部中心点演算手段であり、これら重心演算手段7と下部中心点演算手段8が、火災候補領域内の特定点の座標(画素の位置)を演算する特定点演算手段の一例である。下部中心点演算手段8は、外接矩形作成手段10と矩形ブロック分割作成手段11により構成されている。外接矩形作成手段10は、抽出された火災候補領域に対して、外接する最小の矩形を作成する手段である。また矩形ブロック分割作成手段11は、その作成された外接矩形の高さ方向を複数個、例えば3〜5個の均等な矩形のブロックで分割し、最下部に位置するブロックの中心点の座標を求めるものである。なおこの値を下部中心点の座標とする。
【0012】
9は対応判別手段で、撮影手段1により周期的に撮影された画像に火災候補領域が連続してある場合に、時間の前後間の画像の火災候補領域の対応関係、即ち同じ炎により抽出された領域なのかを判別するものである。
【0013】
なお、火災候補領域抽出手段4、重心演算手段7、下部中心点演算手段8、対応判別手段9、後述する火災特徴量演算手段17及び火災判別手段18をまとめて画像を処理する画像処理部12と呼ぶ。この画像処理部12は、ROM13やRAM16及びMPU14(マイクロプロセッサ)により構成されており、画像処理部12における各種演算処理などは、ROM13に格納されたプログラムに基づいてMPU14により行われる。この際、演算された重心、下部中心点及び外接矩形の左上及び右下の頂部の座標などは、一次記憶手段としてのRAM16に格納される。
【0014】
次にこの発明の動作について説明する。監視カメラ1によって撮影された監視領域の画像は、映像信号がアナログデジタル変換器2によってデジタル化された後、画像メモリ3に格納される。ここで火災候補領域抽出手段4が画像メモリ3に格納された画像から火災と思われる領域、例えばある所定の明度を有する領域を抽出する。この際、二値化処理を行い、所定の明度を有する領域を1、それ以外の部分を0とする。そして二値化された画像を火災候補領域メモリ6に格納する。
【0015】
重心演算手段7は火災候補領域メモリ6に二値化画像として格納された火災候補領域の重心を演算して、その重心の座標をRAM16に格納する。また下部中心点演算手段8の外接矩形作成手段10は、火災候補領域を外接する最小の矩形で囲み、矩形の対角(例えば左上、右下)の隅の座標をRAM16に格納する。その後、矩形ブロック分割作成手段10がその火災候補領域を囲んだ矩形の高さ方向を例えば3つの矩形で均等に分割し、分割されたブロックの一番下に位置するブロックの中心点の座標を演算してRAM16に格納する。
【0016】
火災候補領域メモリ6に、連続した撮影周期による火災候補領域の画像が格納される場合には、火災候補領域メモリ6に格納された、ある時間の前後にわたる火災候補領域同士が対応するものなのかどうかを対応判別手段9で判別する。今、時間t1及び時間t2に撮影された画像の火災候補領域A1、A2が火災候補領域メモリ6に格納されているとする(図2参照)。ここで時間t1と時間t2の間隔は監視カメラ1のサンプリング周期と同じで、火災候補領域A1、A2は連続した撮影周期にわたる画像である。この時、RAM16には重心演算手段7及び下部中心点演算手段8により演算された座標が格納されており、符号をつけると次のようになる。
【0017】
【表1】
Figure 0003690695
【0018】
対応判別手段9は、特定点の座標が、撮影時間の異なる画像の火災候補領域内に存在する時に前後の画像は対応するものであると判別する。つまり上記の座標点を用いてあらわすと、重心G1又は下部中心点K1(の座標)が火災候補領域A2内に存在する時、あるいは重心G2又は下部中心点K2(の座標)が火災候補領域内A1内に存在する時に領域A1、A2は対応し、同じ炎により抽出された領域であると判断する。
【0019】
なお重心G1や下部中心点K1が火災候補領域内A2に存在するか否かを判別する方法はいくつかあり、火災候補領域のエッジ(輪郭)を検出しても可能であるが、ここでは外接矩形と火災候補領域の大きさがほぼ同じであることを利用して、RAM16に格納される外接矩形の座標L2、R2をもとに、特定点G1、K1の座標が矩形内にあるか否かを判別することで、火災候補領域内に特定点があるかを判別する。勿論、火災候補領域6に格納された画像が二値化画像であることを利用して、特定点G1、K1の座標が、時間t2の画像において1になっているかどうかを判別することでも、火災候補領域内に特定点があるかを判別できる。
【0020】
このように火災候補領域内の特定点(重心、下部中心点)が時間の異なる火災候補領域内にある時に、対応する領域であると判断できるのは、下記に示す炎の特徴▲5▼、つまり炎は移動量がほとんどないという特徴による。以下にそれ以外の炎の特徴を列記する。
【0021】
▲1▼、所定の明るさ(明度)を有する。
▲2▼、形状が不定形である。
▲3▼、ちらつき(揺らぎ)がある。
▲4▼、上部は大きく形状が変化するが下部はほとんど変化しない。
▲5▼、領域(面積)が大きく又は小さくなることはあるが、位置はあまり動かない。
【0022】
また特定点として上部中心点ではなく、下部中心点をもとめているのは、炎の特徴▲4▼記載のように炎の下部形状がほとんど変化しないためで、また炎の上部は大きく揺らぎ、形状が変化しやすいという炎の特徴を考慮するためである。
【0023】
この対応判別手段9による対応判別は、炎の特徴をいかしたものであるが、また監視領域に存在する誤報要因を除去するのにも適している。監視領域であるトンネル内は車両がたえず通過している。この車両のランプ類(ヘッドランプ、テールランプ)は所定の明度を有するものであるから、ランプ類も火災候補領域抽出手段4により火災候補領域として抽出、つまり捕らえられる。しかし車両の通過速度は早く、移動量が大きいので、次回にサンプリングされた画像の火災候補領域とは対応関係はとられない。よって車両などのランプ類を誤って火災として検出することはない。
【0024】
なお対応判別手段9で時間の前後における画像の対応関係がとれない場合、つまり火災候補領域A1に対応する領域が時間T2における画像に存在しない場合は、火災候補領域A1は火災の領域ではないものとして、火災候補領域メモリ6から削除する。また火災候補領域A2については、次のサンプリング周期で得られる画像と同様に比較判断がなされる。
【0025】
ここでは、重心又は下部中心点を特定点としたが、火災候補領域内においてX軸に関してほぼ中央付近、またY軸に関して中央またはそれよりも下方に位置する点であれば、炎の上方変化の影響をうけることがないので、その点を特定点とすることができる。
【0026】
また重心G1または下部中心点K1のいずれかがが領域A2にある時に対応するものとしたが、重心G1と下部中心点K1の両方が領域A2にある時に対応するものとしてもよく、更に重心G1と下部中心点K1の両方が領域A2にある時、また重心G2と下部中心点K2の両方が領域A1にある時、という2つの条件を満足した時にはじめて領域A1、A2が対応するものであるとしてもよい。
【0027】
次に対応判別手段9により対応関係のとれた火災候補領域が本当の火災候補領域であるかどうかの判定を火災特徴量演算手段17と火災判定手段18により行う。火災特徴量演算手段17は、対応判別手段9により対応関係ありと判別された火災候補領域同士を比較して領域の移動量又は移動方向を演算するもので、火災判定手段18は、演算された移動量または移動方向を基に、火災候補領域が火災であるか否かを判別するものである。
【0028】
即ち、火災特徴量演算手段17はある時間にまたがる火災候補領域が火災時の炎らしい挙動を示す場合に評価値を1つ加算し、火災らしくない挙動を示す場合には評価値を1つ減算していき、所定時間内に評価値が所定値に達すると火災判別手段18が火災と判別する。ここでは上記の炎の特徴▲3▼、▲4▼に着目して、炎の縦方向の変化量、又は変化方向を基に特徴量(評価値)を演算していく。炎は非常に短い時間間隔で眺めていると、その上部は縦方向に延びたり縮んだりといった激しい縦変化を起こしており、このため炎は揺らいでいるように見える。
【0029】
火災特徴量演算手段17は、対応判別手段9で対応関係ありとされた2枚の画像の火災候補領域を、表2に示す4つの項目にもとづいて特徴量を演算していく(図2参照)。
【0030】
【表2】
Figure 0003690695
【0031】
(1)縦方向の相対的な移動量(変化量)という観点。
炎の縦方向の変化は横方向の変化に比べて大きくなる。つまり、
|dx(t2)−dx(t1)|<|dy(t2)−dy(t1)|
この式が2枚の画像の間でなりたつ場合には、火災候補領域は炎の可能性が高いとして、特徴量を1つ加算する。
【0032】
(2)炎上部の相対的な縦移動量という観点。
炎上部の縦変化は、炎下部の縦変化に比べて小さくなることはない。つまり、
|y1(t2)−y1(t1)|<|y2(t2)−y2(t1)|
この式が2枚の画像の間で成り立つ場合には、火災候補領域は炎の可能性が低いとして、特徴量を1つ減算する。
【0033】
(3)炎上部及び炎下部の縦方向の移動の向きという観点。
車両によるランプ類が火災候補領域として抽出された場合、外接矩形の左上及び右下の座標L、Rは共に同方向に動く。即ち、炎上部の縦方向の変化する方向と、炎下部の縦方向の変化する方向は同じにはなりにくい。つまり、
(y1(t2)−y1(t1))×(y2(t2)−y2(t1))≧0
この式が2枚の画像の間で成り立つ場合には、火災候補領域は炎の可能性が低いとして、特徴量を1つ減算する。
【0034】
(4)縦方向の絶対的な移動量という観点。
炎の縦方向の変化量は所定値以上ある。つまり、
|dy(t2)−dy(t1)|>α
この式が2枚の画像の間で成り立つ場合には、火災候補領域は炎の可能性が高いとして、特徴量を1つ加算する。
【0035】
なおこれらの式中のt2はある時間を示し、t1はある時間t2よりも1つ前のサンプリング周期における時間を示す。またαは定数である。なお上記の4つの式は主に火災候補領域の縦変化に着目しているが、横方向に着目して、横方向に所定量以上動く場合には特徴量を減算するようにしてもよい。
【0036】
対応判別手段9で対応関係ありと判別された2枚の画像は、このような4つの条件式によって特徴量が演算される。なおこの特徴量を演算する回数は例えば5〜10回程度行われ、演算された回数に基づいて、特徴量が10〜20になっていれば、火災候補領域は火災であると判定し、それ以下の値の時は非火災であると火災判定手段18が判定する。
【0037】
最後に時間t1、t2つまり監視カメラ1のサンプリング周期について説明する。上述の炎の特徴▲3▼で記載したように炎、特にその上部は揺らいでいる(7〜12Hzの範囲)。このためある時点では炎は縦長にのびているが、別の時点ではそれ程のびていない。火災特徴量演算手段17は炎の移動量(変化)などをもとに火災候補領域の特徴量を演算するものであるから、2枚の画像間の移動量がなるべく大きくなるような周期で画像を撮影することが望ましい。そこで数秒という長い周期でなく、非常に短い周期で画像をサンプリングすれば、炎の変化を確実にとらえることができる。ここで例えば16回/秒の速度で画像をサンプリングするようにすれば、標本化の定理により8Hzの炎を検出することが可能となる。なお16回/秒でサンプリグされた画像を全て画像処理するには処理速度の早い画像処理装置が必要となるので、16回すべての画像を処理するのではなく、例えば1回目、2回目の周期は画像をとりこみ、次の3回目、4回目は画像をとりこまないようにして、5回目、6回目で再び画像をとりこむようにすれば、処理速度がそれほど早くない装置でも対応できる。
【0038】
上述したように監視領域内を、ある程度の速度で車両が走っていれば、火災候補領域抽出手段4がその車両のランプ類を火災候補領域として抽出したとしても、対応判別手段9により火災候補領域の対応関係がとられることはない。しかしこの車両がトンネル内で停止又はほとんど動かないような場合には、移動量が小さいので火災候補領域として対応関係がとられることになる。そこで火災特徴量演算手段17を設けて、火災候補領域の火災らしさを数値として演算していくことで、上記のような停止中の車両のランプ類などにより抽出された領域を火災と判別するのを防ぐことが可能となる。
【0039】
【発明の効果】
本発明は、抽出された火災候補領域が炎であるかどうかを判別するための特徴量の演算に関しても、対応関係を判別する際に使用した座標をもとに、火災候補領域の移動量や移動方向を演算し、これらを基に火災候補領域が本当の火災領域であるかを判別することができる。
【図面の簡単な説明】
【図1】本発明の火災検出装置を示すブロック図である。
【図2】監視カメラより撮影された炎の画像を示す図である。
【符号の説明】
1 監視カメラ、2 アナログデジタル変換器、3 画像メモリ、
4 火災候補領域抽出手段、6 火災領域メモリ、7 重心演算手段、
8 下部中心点演算手段、9 対応判別手段、10 外接矩形作成手段、
11 矩形ブロック分割作成手段、12 画像処理部、13 ROM、
14 MPU、16 RAM、17 火災特徴量演算手段、
18 火災判定手段、
【図面の説明】

Claims (3)

  1. 監視領域を周期的に撮影する撮影手段と、撮影手段により撮影された画像を格納するための画像メモリとを備え、該画像メモリに格納された画像を処理することにより火災を検出する火災検出装置において、
    前記画像から火災候補領域を抽出する火災候補領域抽出手段と、
    前記火災候補領域が、火災時の炎らしい挙動を示す場合に評価値を加算すると共に、火災らしくない挙動を示す場合には評価値を減算する火災特徴量演算手段と、
    所定時間内に該評価値が所定値に達すると、前記火災候補領域が火災であると判別する火災判別手段とを備えたことを特徴とする火災検出装置。
  2. 前記火災特徴量演算手段は、前記撮影手段により周期的に撮影される画像に火災候補領域が連続してある場合に、異なる時間の画像を比較して前記火災候補領域の移動量又は移動方向を演算し、該火災候補領域の移動量又は移動方向を基に、前記評価値を加算又は減算することを特徴とする請求項1記載の火災検出装置。
  3. 前記火災候補領域が、横方向に所定量以上動く場合には、前記評価値を減算することを特徴とする請求項1又は2記載の火災検出装置。
JP06781796A 1996-03-25 1996-03-25 火災検出装置 Expired - Fee Related JP3690695B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP06781796A JP3690695B2 (ja) 1996-03-25 1996-03-25 火災検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP06781796A JP3690695B2 (ja) 1996-03-25 1996-03-25 火災検出装置

Publications (2)

Publication Number Publication Date
JPH09259370A JPH09259370A (ja) 1997-10-03
JP3690695B2 true JP3690695B2 (ja) 2005-08-31

Family

ID=13355886

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06781796A Expired - Fee Related JP3690695B2 (ja) 1996-03-25 1996-03-25 火災検出装置

Country Status (1)

Country Link
JP (1) JP3690695B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2995040B2 (ja) * 1998-06-03 1999-12-27 川崎重工業株式会社 都市防災用監視装置
JP2948208B1 (ja) * 1998-06-03 1999-09-13 川崎重工業株式会社 都市防災用監視装置
JP2002335501A (ja) * 2001-05-10 2002-11-22 Mitsubishi Electric Corp 携帯型表示装置
KR101689863B1 (ko) * 2015-05-21 2016-12-26 주식회사 에스원 부분 영역 기반의 화염 탐지 장치 및 방법
CN113155288B (zh) * 2020-11-30 2022-09-06 齐鲁工业大学 一种光伏电池热斑的图像识别方法

Also Published As

Publication number Publication date
JPH09259370A (ja) 1997-10-03

Similar Documents

Publication Publication Date Title
JP3481397B2 (ja) 火災検出装置
JP4374211B2 (ja) レーンマーカー位置検出方法及びレーンマーカー位置検出装置並びに車線逸脱警報装置
US7184585B2 (en) Object detection
JP3827426B2 (ja) 火災検出装置
KR20060051247A (ko) 화상 처리 장치 및 화상 처리 방법
JP3690695B2 (ja) 火災検出装置
JPH07262355A (ja) 画像監視装置
KR101297121B1 (ko) 적외선 영상을 이용한 터널 화재감지 장치 및 방법
JP6657646B2 (ja) 障害物検知装置、障害物検知方法、および障害物検知プログラム
JPH09293141A (ja) 移動物体検出装置
JPH05205175A (ja) 物体検出装置
JP2000137877A (ja) 火災検出装置
JPH0514891A (ja) 画像監視装置
JP2667973B2 (ja) 移動体監視装置
JP3772007B2 (ja) 火災検出装置
KR20030018487A (ko) 영상을 이용한 출입 이동 물체 계수 방법 및 장치
JP3626824B2 (ja) 火災検出装置
JPH10269471A (ja) 火災検出装置
JP3947324B2 (ja) 画像センサ
JP3682631B2 (ja) 火災検出装置
JP3871051B2 (ja) 監視用画像処理装置
JPH0731248B2 (ja) 移動物体検出装置
JPH08122197A (ja) 画像による漏出検知方法及び装置
JP2003323621A (ja) 画像処理装置、画像処理装置のはみ出し検知方法およびプログラム
JPH10269468A (ja) 火災検出装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050610

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080624

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090624

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090624

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100624

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110624

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110624

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120624

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130624

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees