JPH04311187A - 監視画像の変化領域抽出方法 - Google Patents

監視画像の変化領域抽出方法

Info

Publication number
JPH04311187A
JPH04311187A JP3077905A JP7790591A JPH04311187A JP H04311187 A JPH04311187 A JP H04311187A JP 3077905 A JP3077905 A JP 3077905A JP 7790591 A JP7790591 A JP 7790591A JP H04311187 A JPH04311187 A JP H04311187A
Authority
JP
Japan
Prior art keywords
image
area
calculated
areas
segmented
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP3077905A
Other languages
English (en)
Other versions
JP2865442B2 (ja
Inventor
Hajime Ohata
大波多 元
Yuichi Togashi
雄一 富樫
Hiroshi Fukuda
浩 福田
Shozo Abe
省三 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP3077905A priority Critical patent/JP2865442B2/ja
Publication of JPH04311187A publication Critical patent/JPH04311187A/ja
Application granted granted Critical
Publication of JP2865442B2 publication Critical patent/JP2865442B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、監視領域内における侵
入物体の検知を行なう画像監視装置において、監視画像
の変化領域を抽出する監視画像の変化領域抽出方法に関
する。
【0002】
【従来の技術】この種の画像監視装置の一例として、た
とえば図7および図8に示すものがある。すなわち、I
TVカメラ(撮像手段)1は監視領域8内の画像を撮像
し、電気信号に変換する。このITVカメラ1で撮像さ
れた画像は、伝送路2によって処理装置3、表示装置5
、およびビデオテープレコーダ(以後、単にVTRと略
称する)7に送られる。表示装置5は、ITVカメラ1
によって撮像された監視画像を表示し、VTR7は、I
TVカメラ1によって撮像された監視画像を連続的、あ
るいは侵入物体を検知した場合に記録する。
【0003】一方、処理装置3に送られた画像信号は、
サンプリングパルス発生回路10から出力される所定周
期のサンプリングパルスによりA/D変換器11でデジ
タル信号に変換され、たとえば時刻t=ti の画像デ
ータとして画像メモリ12内に蓄えられる。
【0004】そして、差分2値化回路14において、こ
の時刻t=ti の画像データは、変化領域を抽出する
ために、後述するように、これよりも前に画像メモリ1
2内に取込まれていた時刻t=ti−1 の画像データ
と画素間差分演算を行なうことより差分画像が求められ
、さらに変化があった画素が”1”で表わされる差分2
値化画像に変換され、差分2値化画像メモリ15に蓄え
られる。
【0005】CPU13は、差分2値化画像メモリ15
内の差分2値化画像を用いて変化領域の解析を行ない、
変化領域が侵入物体であると判定した場合には、警報装
置6を鳴らしたり、VTR7が動作していなかった場合
は動作させて監視画像の記録などを行なう。もし、侵入
物体でないと判定した場合には、引続き画像を取込み、
上記処理を繰返す。
【0006】ところで、変化領域の抽出のための画素間
演算としては、一般的に、侵入物体がない場合の背景画
像との差分、あるいは、所定時間Δ前の時刻t=ti−
1 の画像との時系列差分のどちらかが用いられる。背
景画像との差分では、侵入物体が停止していても検出で
きるが、屋外のように、明るさなどの環境が変化してい
く場合には、背景画像を更新しないと、侵入物体がなく
ても変化領域を生じるという特徴がある。
【0007】時系列差分の場合は、一般に、比較的近い
時間間隔での差分を行なうため、環境変化への追従性は
優れているが、侵入物体が停止した場合には検出できず
、さらに、侵入物体が動いていても、2画面での差分で
は、侵入物体の消失部分と、発生部分の両方が検出され
るという特徴がある。
【0008】時系列差分の後者の欠点を取り除くために
、t=ti とt=ti−1 の2画面でなく、さらに
、t=ti+1 の連続した3画面を用いて、前の2画
面と後ろの2画面でそれぞれ差分演算を行ない、得られ
た2つの差分画像の論理積により、t=ti の画像で
の侵入物体を抽出する方法をとる場合もある。
【0009】また、CPU13が、差分2値化画像から
変化領域の解析を行なう際、所定のまとまった領域を求
めるために、画像処理の基本的な手法として、値が”1
”である閉領域にシリアル番号を与え(ラベリング)、
それぞれの部分領域の面積や、距離などを求めてまとま
った領域を抽出し、この領域内で形状や値が”1”であ
る面積などを計算して解析する場合が多いが、全画像領
域でこの操作を行なうと、非常に時間がかかる。
【0010】そこで、たとえば特開昭62−14789
1号公報に開示されているように、差分2値化画像から
変化のあった領域を粗く区分する方法が提案されている
。これは、差分2値化画像において、図9に示すように
、X,Y軸方向にそれぞれ射影ヒストグラムを求めて、
得られたヒストグラムのうち、所定値Xth,Yth以
上の高さが所定幅Xw ,Yw 以上であるような区分
領域を求め、この内部を解析するような手法である。
【0011】すなわち、図9の区分領域A11〜A22
のみを調べて、変化領域が侵入物体であるか否かといっ
た解析を行なう。変化領域の解析時には、前述のように
、ラベリングを行なった解析も行なえるし、図9の区分
領域A11,A22のように、区分領域が侵入物体の外
接四角形になる場合が多いことから、この区分領域が所
定の大きさの場合には、ラベリングなどの処理を行なわ
ずに、直接、その形状を検査したり、値が”1”である
部分の面積を求めるといった方法によって解析すること
もある。
【0012】以上、画像の差分の手法と侵入物体の解析
方法について述べたが、取込んだ画像はノイズ成分を含
むために、空間フィルタリングや論理フィルタリングの
処理を施すことが一般的である。
【0013】
【発明が解決しようとする課題】画像監視装置の場合に
大切なことは、変化領域を検出することと、検出した変
化領域が侵入物体であるか否かを判定することである。 そのために、侵入物体の検知を行なう全監視領域のうち
から、侵入物体の可能性のある変化領域を抽出し、この
抽出された各変化領域で侵入物体か否かの判断をしなけ
ればならない。
【0014】また、一般的に、画像処理は時間がかかる
ために、実際の装置で動作させるためには、これらの処
理を高速に行なわなければならない。この点から、上述
の方法について考えると、差分2値化画像のX,Y軸方
向へのヒストグラムから区分領域を求めて解析する方法
は、多くの場合、全画像領域を検査するより少ない時間
ですむと考えられ、図9のように侵入物体の数が少なく
、ノイズが少ない場合には、区分領域が侵入物体の外接
四角形となり、侵入物体の解析が行ない易いといえる。
【0015】しかし、変化領域は、図9のように、まと
まった領域として抽出される場合はほとんど少なく、図
10に示すように、変化領域が分割されて数多くの領域
によって抽出されるような場合が多く、また、侵入物体
の数が増えた場合には、それぞれの区分領域と侵入物体
の外接四角形が一致せず、区分領域内全域で従来のよう
にラベリングなどの計算時間のかかる検査をしなければ
ならず、時間がかかるという問題があった。
【0016】そこで、本発明は、侵入物体であるか否か
の解析をしなくてはならない領域が減り、また、抽出さ
れた領域が侵入物の外接四角形となる場合が増え、もっ
て以降の侵入物体の解析が高速に行なえるようになる監
視画像の変化領域抽出方法を提供することを目的とする
【0017】
【課題を解決するための手段】本発明の監視画像の変化
領域抽出方法は、監視領域内の画像を撮像し、この撮像
した画像を所定の時間間隔で連続的に取込んでデジタル
化し、このデジタル化された複数の画像を演算処理する
ことによって、前記監視領域内での侵入物体の監視を行
なう画像監視装置において、デジタル化された画像の差
分画像を算出し、この算出した差分画像を2値化した差
分2値化画像を生成し、この生成した差分2値化画像で
X,Y軸方向にそれぞれ積算したヒストグラムを算出し
、この算出した各ヒストグラムにおいて、所定値よりも
大きな区間が連続して所定値以上続いた領域を組合わせ
て第1の区分領域を求め、さらに、この求めた各第1の
区分領域において再度X,Y軸方向にそれぞれ積算した
ヒストグラムを算出し、この算出した各ヒストグラムに
おいて、所定値よりも大きな区間が連続して所定値以上
続いた領域を組合わせて第2の区分領域を求め、この求
めた第2の区分領域内で侵入物体の解析を行なうことを
特徴とする。
【0018】
【作用】第1の区分領域内において、さらに、第2の区
分領域を求めることにより、侵入物体であるか否かの解
析をしなくてはならない領域が減り、また、抽出された
領域が侵入物体の外接四角形となる場合が増えるために
、以降の侵入物体の解析が高速に行なえるようになる。
【0019】
【実施例】以下、本発明の一実施例について図面を参照
して説明する。
【0020】図2は本発明を説明するための一例として
、侵入物体が複数発生した場合の差分2値化画像の例を
示している。同図は、第1の区分領域を求めるための説
明図で、Hx1,Hy1は、それぞれX,Y軸方向への
ヒストグラム、Xth1 ,Yth1 は、それぞれヒ
ストグラムHx1,Hy1で第1の区分領域を求めるた
めの高さのしきい値、Xw1,Yw1は、それぞれ第1
の区分領域を求めるための幅のしきい値である。この図
で、Hx1,Hy1とXth1 ,Yth1 ,Xw1
,Yw1とから、第1の区分領域の境界値X1s1 ,
X1e1 ,X2s1 ,X2e1 ,Y1s1 ,Y
1e1 ,Y2s1 ,Y2e1が求まる。
【0021】これは、従来の区分領域と同じもので、同
図において、領域A11では、侵入物体が内部に1つ含
まれているが、領域A12,A21の侵入物体の影響で
区分領域は広く抽出されており、さらに、ノイズ部を含
んでいるため、この侵入物体を検出するためには、領域
A11内で分離するためのラベリングなどの処理を行な
わなければならない。領域A12でも同様である。領域
A21では、侵入物体が2つ含まれているが、領域A1
1の影響で1つの領域として抽出されており、同様にラ
ベリングなどの処理を行なう必要がある。
【0022】図2において、区分領域A11〜A22の
それぞれで再度、X,Y軸方向へのヒストグラムを求め
る。 図3ないし図6は、それぞれの第1の区分領域での第2
の区分領域を求めるための説明図である。同図において
、Hxi2 ,Hyi2 (i=1,2,3,4)は、
それぞれ各区分領域A11〜A22でのX,Y軸方向へ
のヒストグラム、Xth2 ,Yth2 は、それぞH
xi2 ,Hyi2 で区分領域を求めるための高さの
しきい値、Xw2,Yw2は、それぞれ区分領域を求め
るための幅の閾値である。この図で、Hxi2 ,Hy
i2 とXth2 ,Yth2 ,Xw2,Yw2から
、第2の区分領域の境界値Xijs2,Xije2,Y
ijs2,Yije2が求まる。
【0023】図3は区分領域A11を区分した図であり
、第2の区分領域が第1の区分領域よりも狭くなり、解
析する領域も狭くなっており、さらに、第2の区分領域
が侵入物体の外接四角形になっている。図4においても
同様である。図5では、第1の区分領域では、領域A1
1の影響を受けなくなったために、X軸方向に接続され
ていた2つの侵入物体が切り離され、さらに、左側の侵
入物体では、第2の区分領域が侵入物体の外接四角形に
なっていることがわかる。図6では、侵入物体がないた
めに、X4js2,X4je2が得られず、この領域に
は侵入物体がないことがわかり、解析する必要がなくな
る。
【0024】すなわち、それぞれの第1の区分領域内で
第2の区分領域を求めることにより、図2における全て
の侵入物体がそれぞれ狭い領域で抽出され、そのうちの
数個では、区分領域が侵入物体の外接四角形となってい
ることがわかる。第2の区分領域内で侵入物体を判断す
るのは従来と同じ手法であり、必要によりラベリングな
どを行ない、形状や面積により侵入物体であるか否かを
判断する。つまり、第2の区分領域を求めることにより
、従来よりも高速に侵入物体を検知することができる。
【0025】次に、図7および図8の画像監視装置、お
よび図1に示すフローチャートを用いて、本発明方法を
適用した侵入物体の監視処理の手順について説明する。 なお、ここでは、連続3枚の画像を用いて変化領域を求
める方法で説明するが、その他の方法でも全く問題はな
く、同様な効果が得られる。まず、侵入物体を検知する
ための検知感度レベルを設定する。検知感度レベルは、
後で時系列差分画像から、変化部分を表す差分2値化画
像を得るためのしきい値である。
【0026】以上で前準備を終え、処理装置3では、I
TVカメラ1からの画像信号をA/D変換器11でA/
D変換し、所定の時間間隔で、画像メモリ12に時刻t
=ti の画像データとして蓄えられる。そして、差分
2値化回路14において、この時刻t=ti の画像デ
ータと、これよりも時間間隔Δt前に画像メモリ12内
に取込まれていた時刻t=ti−1 の画像データとの
画素間差分演算を行なうことより、変化を表わす差分画
像が求められ、さらに、この差分画像をあらかじめ設定
された検知感度レベルにより2値化して、差分2値化画
像Bi を生成する。
【0027】この画像では、t=ti−1 からt=t
i までの変化の消失部分と発生部分が含まれているた
め、さらに、所定時間間隔Δt後の時刻t=ti+1 
で画像を取込み、同様にt=ti とt=ti+1 で
の差分画像からt=ti からt=ti+1 での変化
を表す差分2値化画像Bi+1 を得る。差分2値化画
像Bi+1 には、時刻t=ti からt=ti+1 
までの変化の消失部分と発生部分が含まれているため、
Bi とBi+1 との論理積を取ることにより、時刻
t=ti での侵入物体の差分2値化画像Pi が得ら
れる。この画像を差分2値化メモリ15に蓄える。 CPU13は、差分2値化メモリ15を参照することに
より、監視領域8内の変化領域の有無を検知する。
【0028】変化領域の有無の検知に当たり、CPU1
3は、差分2値化画像Pi において、X,Y軸方向に
射影ヒストグラムを求めて、得られたヒストグラムのう
ち、所定値Xth1 ,Yth1 以上の高さが所定幅
Xw1,Yw1以上であるような第1の区分領域を求め
る。第1の区分領域が得られなかった場合には、時刻t
=ti に監視領域8内では何も変化が起きていないと
判定し、引き続き所定の取り込み時間間隔Δtで画像B
j (jは整数)を取り込み、第1の区分領域を求め、
変化領域の有無を調べる。
【0029】第1の区分領域が得られた場合には、侵入
物体である可能性があるため、差分2値化画像Pi か
ら得られた各第1の区分領域内において再び、X,Y軸
方向に積算したヒストグラムを算出し、各第1の区分領
域のそれぞれのヒストグラムにおいて、所定値Xth2
 ,Yth2 以上の高さが所定幅Xw2,Yw2以上
であるような区間を求め、その組合わせにより、第2の
区分領域を求め、この領域内で侵入物体の解析を行なう
【0030】すなわち、差分2値化画像Pi でラベリ
ングを行ない、それぞれの部分領域の面積や距離などを
求めてまとまった領域を抽出し、この領域内で、形状や
面積などを計算して侵入物体であるか否かを判断する。 ここで、第2の区分領域が予測される侵入物体の外接四
角形と同じくらいの大きさの場合には、ラベリングなど
の処理を行なわずに、形状や面積を求めることにより、
侵入物体であるか否かを判断することも可能である。侵
入物体の第2の区分領域は、一般的に侵入物体のような
まとまった変化の領域を含んだ原画像よりも狭い領域で
あるため計算時間は短い。この侵入物体の解析において
、侵入物体であると判断した場合には、警報装置6に命
令を出し、これにより警報装置6は異常検知の警報を発
する。
【0031】
【発明の効果】以上詳述したように本発明によれば、差
分2値化画像から得られた第1の区分領域内において、
さらに、第2の区分領域を求めることにより、侵入物体
であるか否かの解析をしなくてはならない領域が減り、
また、抽出された領域が侵入物体の外接四角形となる場
合が増えるために、以降の侵入物体の解析が高速に行な
えるようになるる監視画像の変化領域抽出方法を提供で
きる。
【図面の簡単な説明】
【図1】本発明の一実施例に係る監視画像の変化領域抽
出方法を適用した侵入物体の監視処理手順について説明
するフローチャート。
【図2】侵入物体が複数発生した場合の差分2値化画像
の一例を示す図。
【図3】第2の区分領域を求めるための説明図。
【図4】第2の区分領域を求めるための説明図。
【図5】第2の区分領域を求めるための説明図。
【図6】第2の区分領域を求めるための説明図。
【図7】画像監視装置の一例を示す構成図。
【図8】画像監視装置の構成を示すブロック図。
【図9】従来の監視画像の変化領域抽出方法を説明する
ための画像データの一例を示す図。
【図10】従来の監視画像の変化領域抽出方法を説明す
るための画像データの一例を示す図。
【符号の説明】
1……ITVカメラ(撮像手段)、2……伝送路、3…
…処理装置、4……ライトペン、5……表示装置、6…
…警報装置、7……VTR、8……監視領域、11……
A/D変換器、12……画像メモリ、13……CPU、
14……差分2値化回路、15……差分2値化画像メモ
リ。

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】  監視領域内の画像を撮像し、この撮像
    した画像を所定の時間間隔で連続的に取込んでデジタル
    化し、このデジタル化された複数の画像を演算処理する
    ことによって、前記監視領域内での侵入物体の監視を行
    なう画像監視装置において、デジタル化された画像の差
    分画像を算出し、この算出した差分画像を2値化した差
    分2値化画像を生成し、この生成した差分2値化画像で
    X,Y軸方向にそれぞれ積算したヒストグラムを算出し
    、この算出した各ヒストグラムにおいて、所定値よりも
    大きな区間が連続して所定値以上続いた領域を組合わせ
    て第1の区分領域を求め、さらに、この求めた各第1の
    区分領域において再度X,Y軸方向にそれぞれ積算した
    ヒストグラムを算出し、この算出した各ヒストグラムに
    おいて、所定値よりも大きな区間が連続して所定値以上
    続いた領域を組合わせて第2の区分領域を求め、この求
    めた第2の区分領域内で侵入物体の解析を行なうことを
    特徴とする監視画像の変化領域抽出方法。
JP3077905A 1991-04-10 1991-04-10 監視画像の変化領域抽出方法 Expired - Lifetime JP2865442B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP3077905A JP2865442B2 (ja) 1991-04-10 1991-04-10 監視画像の変化領域抽出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3077905A JP2865442B2 (ja) 1991-04-10 1991-04-10 監視画像の変化領域抽出方法

Publications (2)

Publication Number Publication Date
JPH04311187A true JPH04311187A (ja) 1992-11-02
JP2865442B2 JP2865442B2 (ja) 1999-03-08

Family

ID=13647092

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3077905A Expired - Lifetime JP2865442B2 (ja) 1991-04-10 1991-04-10 監視画像の変化領域抽出方法

Country Status (1)

Country Link
JP (1) JP2865442B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998020679A1 (fr) * 1996-11-06 1998-05-14 Dome Inc. Dispositif et procede permettant de detecter un objet en mouvement
GB2363936B (en) * 1999-04-30 2003-09-10 Touch Technologies Inc Method and apparatus for surveillance using an image server
JP2005025313A (ja) * 2003-06-30 2005-01-27 Secom Co Ltd 滞留者検知システム
WO2014061123A1 (ja) * 2012-10-17 2014-04-24 富士通株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JP2014089687A (ja) * 2012-10-30 2014-05-15 Hyundai Motor Company Co Ltd Avmシステムの障害物検出装置及び方法
CN109871875A (zh) * 2019-01-21 2019-06-11 大连理工大学 一种基于深度学习的建筑物变化检测方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998020679A1 (fr) * 1996-11-06 1998-05-14 Dome Inc. Dispositif et procede permettant de detecter un objet en mouvement
GB2363936B (en) * 1999-04-30 2003-09-10 Touch Technologies Inc Method and apparatus for surveillance using an image server
JP2005025313A (ja) * 2003-06-30 2005-01-27 Secom Co Ltd 滞留者検知システム
JP4578072B2 (ja) * 2003-06-30 2010-11-10 セコム株式会社 滞留者検知システム
WO2014061123A1 (ja) * 2012-10-17 2014-04-24 富士通株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JPWO2014061123A1 (ja) * 2012-10-17 2016-09-05 富士通株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
US9928429B2 (en) 2012-10-17 2018-03-27 Fujitsu Limited Image processing apparatus and image processing method
JP2014089687A (ja) * 2012-10-30 2014-05-15 Hyundai Motor Company Co Ltd Avmシステムの障害物検出装置及び方法
CN109871875A (zh) * 2019-01-21 2019-06-11 大连理工大学 一种基于深度学习的建筑物变化检测方法
CN109871875B (zh) * 2019-01-21 2021-01-19 大连理工大学 一种基于深度学习的建筑物变化检测方法

Also Published As

Publication number Publication date
JP2865442B2 (ja) 1999-03-08

Similar Documents

Publication Publication Date Title
JP5644097B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6764481B2 (ja) 監視装置
JPH0950585A (ja) 侵入者監視装置
JPH06231252A (ja) 監視画像の移動物体追跡方法
JPH08315113A (ja) 発塵・発煙の検出方法
JP2865442B2 (ja) 監視画像の変化領域抽出方法
JPH10117415A (ja) 架空線の自動点検装置
JPH0514891A (ja) 画像監視装置
JPH06308256A (ja) 雲霧検出方法
JP2001043383A (ja) 画像監視システム
JPH03242592A (ja) 画像監視装置
Low et al. Frame Based Object Detection--An Application for Traffic Monitoring
JPH04200084A (ja) 画像監視装置
JPH057363A (ja) 画像監視装置
JPH0816234A (ja) プラント異常検出装置
JP3454979B2 (ja) 異常状態検出方法および異常状態検出装置
JPH0512591A (ja) 監視装置
JPH0514897A (ja) 画像監視装置
JP2503613B2 (ja) 異常監視装置
JP3336102B2 (ja) 影を消去する画像処理方法および画像監視装置
JPH09331519A (ja) 自動監視装置
JPH057364A (ja) 画像監視装置
JP3354192B2 (ja) 画像特徴量判定装置
US20040032985A1 (en) Edge image acquisition apparatus capable of accurately extracting an edge of a moving object
JPH0514898A (ja) 画像監視装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071218

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081218

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091218

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091218

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101218

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111218

Year of fee payment: 13

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111218

Year of fee payment: 13