JP3986643B2 - 監視用画像処理装置 - Google Patents
監視用画像処理装置 Download PDFInfo
- Publication number
- JP3986643B2 JP3986643B2 JP00485498A JP485498A JP3986643B2 JP 3986643 B2 JP3986643 B2 JP 3986643B2 JP 00485498 A JP00485498 A JP 00485498A JP 485498 A JP485498 A JP 485498A JP 3986643 B2 JP3986643 B2 JP 3986643B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- processing means
- target
- feature
- frequently reported
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Burglar Alarm Systems (AREA)
- Alarm Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
この発明は、テレビカメラ等で得た画像をもとに監視を行う監視用画像処理装置に関するものである。
【0002】
【従来の技術】
図11は従来のこの種の監視用画像処理装置の構成を示す図である。図において、1はこの監視用画像処理装置で処理される映像を受けるビデオ入力部、2はビデオ入力部1から入る映像を量子化するA/Dコンバータ等からなるA/D変換部、3はA/D変換部2からの出力を受け現在の映像データを記憶する現画像蓄積部、4はA/D変換部2からの出力を受け相応の演算を行い作成した、比較用の“背景画像”を記憶する背景画像蓄積部、5は背景画像蓄積部4のデータを一定ルールで演算し“背景更新”する背景更新部である。例えば、過去5枚の現画像の平均を背景画像とする。
【0003】
6は現画像蓄積部3と背景画像蓄積部4の2つの画像を比較し、その差分即ち“背景差分”データを算出する背景差分抽出部、7は背景差分抽出部6のデータを2値化するためのしきい値を算出するしきい値演算部である。“背景差分”データを元に最適しきい値を求めるのが一般的である。8はしきい値演算部7で求めたしきい値で“背景差分”データを2値化する2値化部である。
【0004】
9は2値化部8から出力される2値データを受け、その“特徴量”を算出する特徴量演算部、10は“正規発報対象”(例えば人物、車両等)の“特徴量パラメータ”を予め記憶した発報対象特徴量記憶部てある。11は特徴量演算部9から出力される“特徴量”データと、発報対象特徴量記憶部10の“特徴量パラメータ”を比較し、“イベント”発生か否かを判断する認識処理手段、12は“イベント”発見を知らせる通知である。13は通知12を受け発報(例えばBEEP音等)する発報処理手段ある。
【0005】
また図12は図11の認識処理手段11の動作をさらに詳細に示したフローチャートである。
【0006】
以下、従来の動作について代表的な例を説明する。図11において、外部から装置に与えられた映像信号はビデオ入力部1で受け取り、A/D変換部2に送られる。A/D変換部2では受け取ったビデオ信号を後の処理のためにディジタルデータに変換する。1画素当たり8ビットの多値データに変換するのが一般的である。
【0007】
現画像蓄積部3では入力された現画像データを蓄積し後の処理に備える。背景画像蓄積部4では入力された現画像データを元に作成された“背景画像”を蓄積し後の処理に備える。背景更新部5では、背景画像蓄積部4に蓄積してある背景画像を定期的に一定ルールで“背景更新”処理する。これは定期的にサンプリングされた現画像を元に演算処理されるのが一般で、例えば過去5シーンの現画像の平均値を背景画像とする方法や、一定時間前のフレームの映像である場合が多い。
【0008】
背景差分抽出部6は現画像蓄積部3および背景画像蓄積部4の出力を比較し、各画素毎に差を求め、その差である差分データをフレーム画像として出力する。差分データは一般的には映像中の輝度の変化した部分、即ち“多値変化領域”を表す。通常は人物や車両のような移動物が主であるが、まれに「太陽光の照り陰りによる影の出現」や「夜間の車のヘッドライトの反射」のような、非発報対象の輝度変化を出力する場合もある。
【0009】
しきい値演算部7は背景差分抽出部6から送られる“多値変化領域”を2値化するためのしきい値を求める。“多値変化領域”多値データであり、そのまま認識処理するには不的確である。以降の判断を高速に行うためにも2値化して2値データに変換するのが一般的である。2値化部8は上記しきい値をもって多値変化領域を2値化する。その結果、以降、変化領域は“2値変化領域となる。ただし装置によってはこの2値化を行わずに直接“多値変化領域”を認識処理する場合があるので、ここは参考である。
【0010】
図13を例にこの“変化領域”について説明する。図13は通常の正門の映像である。今、人物が画像内を移動している。この場合、移動している人物の位置がそのまま“変化領域”となる。図14が、その“変化領域”を黒く染めたスーパーインポーズを重複させて示した映像である。
【0011】
特徴量演算部9は、入力された“変化領域データ”を受け、その“変化領域“の“特徴量”を演算する。今、例としてこの“特徴量”「面積」「縦横寸法」「速度」とする。発報対象特徴量記憶部10には、この装置が“正規発報対象”としている対象物(例えば人物や車両)の特徴量が予め記憶されている。
【0012】
認識処理手段11は特徴量演算部9からの“特徴量”データを受け、その“特徴量”が発報対象特徴量記憶部10に記憶されている発報対象の“特徴量パラメータ”に合致しているか否かの判断を行う。近似していると判断されれば、“イベント”発見となり、その通知12を出力する。
【0013】
なお、“認識処理”では図12に示す以下の手順で認識を行う。ただしここに示すのは一例である。ステップS1の変化領域統合処理では、変化領域を見て、同一の移動物に属すると思われる変化領域を統合して1つの変化領域にまとめる。ステップS2〜S5では、ステップS1で統合された変化領域が、発報対象か否かを判断する。ここでは予め定めてあった発報対象特徴量記憶部10に記憶された“正規発報対象”の“特徴量パラメータ”に対し、この“変化領域”の“特徴量”が合致するかを判断する。ここで所定条件に合致すれば、“正規発報対象”と見なされる。
【0014】
ここでは、例として以下のような判断を行う。ステップS2では、“変化領域”が一定時間連続で存在するかを見る。ステップS3では、“変化領域”が所定の面積であるか否かを見る。ステップS4では、“変化領域”が所定の縦横寸法か否かを見る。そしてステップS5では、“変化領域”が所定の移動速度か否かを見る。「面積」「縦横寸法」「移動速度」は、ステップS2にある一定時間中の平均を算出して参照されるのが一般的である。
【0015】
しかし逆に、ここに仮に“正規発報対象”ではない全く別の物が現れても(例えば太陽光の照り陰りによる建物の影の出現)ここで特徴量が合致すれば、装置は“イベント”と判断し、そのまま誤った“発報”に至る。このような、非発報対象による誤った発報を、以降と“不要検知”とする。“不要検知”であれ正常検知であれ、“イベント”はステップS6の発報対象発見により図11の発報処理手段13に伝えられ、そこで“発報”処理を行う。通常は、上位にあるPC(パーソナルコンピュータ)等に特定の信号を送ったり、装置のブザーを鳴らしたりという処理である。
【0016】
条件に合致しない場合は、ステップS7で発報対象は無かったと見なし、“イベント”の通知12は出力されない。従ってこの場合は発報処理手段13はなにも報告されないため、“発報”はされない。なお認識処理手段11および発報処理手段13はソフトウエアによって処理されるのが一般的である。
【0017】
【発明が解決しようとする課題】
従来の監視用画像処理装置は以上のように構成されているので、“変化領域”が仮に非発報対象(例えば太陽光の照り陰りによる建物の影の出現等)によるものであっても、図12のステップS1〜S5の条件に合致すると発報(不要検知)してしまう。特に屋外において監視業務を行う際は、太陽光の照り陰りによる建物の影の出現のほかに、夜間の車のヘッドライトの反射や樹木の揺れ等(以降これらを不要対象物とする)により不要検知が発生するケースが多い。従来の監視用画像処理装置は以上のような問題点があった。
【0018】
この発明は、上記のような課題を解消するためになされたもので、このような正規発報対象の変化領域に従い、特徴量パラメータや装置各所のアルゴリズムを一定手法に従い更新し、より不要検知対象物による不要検知を排他しやすくし、同時に、「人物」のような正規発報対象に対しては確実に発報する監視用画像処理装置を得ることを目的とする。
【0019】
【課題を解決するための手段】
上記の目的に鑑み、この発明は、監視対象地域の画像の現画像のデータを一時的に記録する現画像蓄積部と、上記画像の背景画像データを記録する背景画像蓄積部と、上記現画像蓄積部の現画像データを上記背景画像蓄積部の背景画像データと比較し、画像内の移動物、変化物に当たる多値変化領域を差分として抽出する背景差分抽出部と、上記変化領域の特徴を示す所定の特徴量を演算する特徴量演算部と、予め設定された発報対象の上記特徴量の設定値範囲である特徴量パラメータを記憶する発報対象特徴量記憶部と、この発報対象特徴量記憶部の特徴量パラメータに元づいて上記特徴量演算部での特徴量が正規の発報対象のものに該当することを認識する認識処理手段と、この認識処理手段の認識に従って発報対象である時に発報を行う発報処理手段と、上記発報対象のなかで発生頻度の高い最多発報対象を発生分布の様子から他と識別し、上記発報対象特徴量記憶部中の特徴量パラメータの中心値を上記最多発報対象の特徴量の中心値に揃える補正を行う最多発報対象識別処理手段と、を備えたことを特徴とする監視用画像処理装置にある。
【0020】
またこの発明は、上記最多発報対象識別処理手段がさらに、上記最多発報対象の上記特徴量のうちばらつきの大きいものを発生分布の様子から選別し、上記発報対象特徴量記憶部中の該特徴量パラメータを設定から除外するように補正を行うことを特徴とする監視用画像処理装置にある。
【0021】
またこの発明は、上記監視対象地域の映像となるビデオ信号を入力するビデオ入力部と、最多発報対象の特徴量のデータより無効な変化領域が多発する映像上の領域を類推し、上記ビデオ入力部に対して映像の該領域をマスクさせるようにするマスク範囲演算処理手段と、をさらに備えた監視用画像処理装置にある。
【0022】
またこの発明は、最多発報対象の多発する映像上の領域を類推し、その領域のみを監視範囲とするよう上記認識処理手段に指示する認識範囲演算処理手段をさらに備えた監視用画像処理装置にある。
【0023】
またこの発明は、上記認識処理手段が上記正規の発報対象のものに該当するか否かの認識を行う前に上記変化領域の統合を行い、領域統合後の面積に対する領域統合された各変化領域のうちの最大面積の変化領域の面積の比率から領域統合の要否を類推し、上記認識処理手段での変化領域の統合を禁止する領域統合演算処理手段をさらに備えた監視用画像処理装置にある。
【0024】
【発明の実施の形態】
以下、この発明を各実施の形態に従って説明する。
実施の形態1.
図1はこの発明の一実施の形態による監視用画像処理装置の構成を示す図である。図において、従来のものと同一もしくは相当部分は同一符号で示し、説明を省略する。14は“最多発報対象”を他から識別する第1の最多発報対象識別処理手段である。15は第1の最多発報対象識別処理手段14に補正実施を指示するトリガー入力である。発報対象特徴量記憶部10の特徴量パラメータは最多発報対象識別処理手段14から通知を受け、適宜更新される。第1の最多発報対象識別処理手段14もソフトウエアによって処理されるのが一般的である。
【0025】
図2は第1の最多発報対象識別処理手段14の動作を詳細に示したフローチャートである。また認識処理手段11の動作は図12のフローチャートに示したものと基本的に同様である。
【0026】
次に動作について説明する。図1のビデオ入力部1〜特徴量演算部9および認識処理手段11〜発報処理手段13の動作は従来のものと基本的には同様であるため説明は省略する。イベント発生を知らせる通知12を受け取った最多発報対象識別処理手段14は、その時の特徴量を観察し“最多発報対象”の“特徴量”を識別する。
【0027】
以下その挙動例を詳しく説明する。ただしここで説明するのは、“最多発報対象”の“特徴量”を識別する一例である。また、“特徴量”の具体的内容は、図12では“変化領域”の「存在時間」「面積」「縦横寸法」「速度」等を記載しているが、ここでは説明を簡単にするために、特に“特徴量パラメータ”の内の「面積」に関してのみ説明する。しかし他の“特徴量パラメータ”も手法は同様であり、同じように識別される。
【0028】
次に、最多発報対象識別処理手段14の動作を図2に基づいて説明する。最多発報対象識別処理手段14では、イベント発見の通知12を受け、ステップS1で発報時の面積値を参照(記憶)する。それはステップS2でヒストグラムにプロットされる。このヒストグラムは横軸が面積値であり、縦軸が個数である。補正実施の指示がないときは、作業はこれで終了となる。ヒストグラムにプロットしたのみである。
【0029】
補正実施のトリガー入力15があるときは、ステップS3で分岐し、“最多発報対象”の面積を算出する作業を行なう。具体的には、ステップS4にある手順で行なう。ある面積値X、例えば図12のステップS3で設定された面積に対し、それを中心にヒストグラムの横軸の幅n(nは別途定められた定数)の範囲内で個数の合計を求め、それが最大になる面積値Xを求める。その面積値Xが求める「“最多発報対象”の面積」である。さらに「“最多発報対象”の面積」を平均値と見なしてヒストグラム全体を統計処理すると標準偏差σが求まる。
【0030】
その結果はステップS5でそのまま発報対象特徴量記憶部10に送られる。ここには、本来、“正規発報対象”の“特徴量パラメータ”が記憶されているわけであるが、この実施の形態では上記結果をもとにそれを補正する。“正規発報対象”の“特徴量パラメータ”の面積に関して、通常は「中心値」と「幅」で設定されている。たとえば「面積=10000画素±1000画素」のような設定である。補正は、この「中心値」を上記で求めた「“最多発報対象”の面積」に差し替え、また、「幅」も変更する場合には、「幅」を例えば「“最多発報対象”の3σ」等に差し替えることによりなされる。以上により“特徴量パラメータ”の更新が終了する。
【0031】
尚、以上では面積の一例を示したが、他の“特徴量パラメータ”も同様である。“変化領域”の「存在時間」「縦横寸法」「速度」等についても、同様にヒストグラムを作成し、「“最多発報対象”の存在時間」「“最多発報対象”の縦横寸法」「“最多発報対象”の速度」等を求め「中心値」や「幅」を差し替える作業を行う。
【0032】
以上のように、この実施の形態によると、補正実施の指示がある毎に“特徴量パラメータ”の値が更新され、しかもその更新結果がその時点での「“最多発報対象”」の物となり、結果として“特徴量パラメータ”が「“最多発報対象”」を追跡して更新されることとなる。これにより、“特徴量パラメータ”が徐々に“最多発報対象”のみに反応するように修正される。
【0033】
例えば「面積」の更新により、例えば“正規発報対象”が「人間」である場合に「車」のような面積の大きな“不要検知対象物”に対し、誤ってイベントと判断されにくくなる。また、例えば「存在時間」の更新により、例えば正規発報対象が「人間」である場合に「草木のゆれ」のような継続性のない“変化領域”しか持たない“不要検知対象物”に対し誤ってイベントと判断されにくくなる。
【0034】
また例えば「縦横比」の更新により、例えば“正規発報対象”が「人間」である場合に「犬」のような横長の“不要検知対象物”に対し、誤ってイベントと判断されにくくなる。また、例えば「速度」の更新により、例えば“正規発報対象”が「人間」である場合に「自転車」のような速度の異なる“不要検知対象物”に対し、誤ってイベントと判断されにくくなる。かつ“正規発報対象”である人間に対しては、確実に発報する。
【0035】
このように、“不要検知”を減少させると同時に、“正規発報対象”にたいしては確実に発報しうる装置を提供する。
【0036】
実施の形態2.
図3はこの発明の別の実施の形態による監視用画像処理装置の構成を示す図である。図において、従来および上記実施の形態のものと同一もしくは相当部分は同一符号で示し、説明を省略する。14aは発報対象に合わせ条件を決定する第2の最多発報対象識別処理手段である。15は第2の最多発報対象識別処理手段14aに補正実施を指示するトリガー入力である。発報対象特徴量記憶部10の特徴量パラメータは第2の最多発報対象識別処理手段14aから通知を受け、適宜更新される。第2の最多発報対象識別処理手段14aもソフトウエアによって処理されるのが一般的である。
【0037】
図4は第2の最多発報対象識別処理手段14aの動作を詳細に示したフローチャートである。また認識処理手段11の動作は図12のフローチャートに示したものと基本的に同様である。
【0038】
次に動作について説明する。図1のビデオ入力部1〜特徴量演算部9および認識処理手段11〜発報処理手段13の動作は従来のものと基本的には同様であるため説明は省略する。イベント発生を知らせる通知12を受け取った第2の最多発報対象識別処理手段14aは、その時の“特徴量”を観察し、“最多発報対象”の“特徴量パラメータ”の個々の内容の有効性を識別する。
【0039】
以下その挙動例を詳しく説明する。ただしここで説明するのは、有効性を識別する一例である。また、“特徴量パラメータ”の具体的内容は、図12では“変化領域”の「存在時間」「面積」「縦横寸法」「速度」等を記載しているが、ここでは説明を簡単にするため、特に“特徴量パラメータ”の内容の「面積」に関してのみ説明する。しかし他の“特徴量パラメータ”も手法は同様であり、同じように識別される。
【0040】
次に、最多発報対象識別処理手段14aの動作を図4に基づいて説明する。最多発報対象識別処理手段14aてば、先ずイベント発見の通知12を受け、ステップS1で発報時の面積値を参照(記憶)する。その値はステップS2でヒストグラムにプロットされる。このヒストグラムは横軸が面積値であり、縦軸が個数である。補正実施のトリガー入力15がないときは、作業はこれで終了となる。ヒストグラムにプロットしたのみである。
【0041】
補正実施のトリガー入力15があるときは、ステップS3で分岐し、“最多発報対象”の面積を算出する作業を行なう。具体的には、ステップS4〜S6にある手順で行なう。ある面積値Xに対し、それを中心にヒストグラムの横軸の幅n(nは別途定められた定数)の範囲内で個数の合計を求め、それが最大になる面積値Xを求める。その面積値Xを「“最多発報対象”の面積」とする。さらに「“最多発報対象”の面積」を平均値と見なしてヒストグラム全体を統計処理すると標準偏差σが求まる。
【0042】
次にここで、「“最多発報対象”の平均値とσ」を元にその「面積」の有効性無効性を検討する。無効であるとの判断は、以下による。
・「“最多発報対象”の平均値」が明確に見つからなかった。複数の個所で最大値が算出されたり、全体が均等で突出した部分が無い。
・「“最多発報対象”のσ」がm(mは別途定められた定数)を超えてしまった。
その結果はそのまま発報対象特徴量記憶部10に送られる。
【0043】
発報対象特徴量記憶部10には、本来、“正規発報対象”の“特徴量パラメータ”が記憶されているが、この実施の形態では上記結果を元にそれを補正する。有効である場合は、実施の形態1の通りに動作する。
【0044】
仮に無効である場合は、以下のように動作する。“正規発報対象”の“特徴量パラメータ”の面積に関して、通常は「中心値」と「幅」で設定されている。たとえば「面積=10000画素±1000画素」のような設定である。補正は、この「幅」を理論上の最大値に差し替えることによりなされる。以上により“特徴量パラメータ”の面積は、いかなる“発報対象”の値でもその「幅」に入るようになり、事実上意味をなさないものとなる。
【0045】
これにより“特徴量パラメータ”の面積は認識処理から除外されたことになる。すなわり、以降は図12のステップS3の処理は行わないことになる。以上により“特徴量パラメータ”の更新が終了する。
【0046】
尚、以上では面積の一例を示したが、他の“特徴量パラメータ”も同様である。“変化領域”の「存在時間」「縦横寸法」「速度」等についても、同様にヒストグラムを作成し、有効性無効性を検討し「幅」を差し替える作業を行う。
【0047】
以上のように、この実施の形態によると、補正実施の指示がある毎に“特徴量パラメータ”の「面積」「存在時間」「縦横寸法」「速度」等が認識処理から除外、復活され、しかもその更新結果がその時点での“特徴量パラメータ”の有効性無効性に従ったものとなる。これにより、“特徴量パラメータ”が徐々に意味のある“項目”のみに絞り込まれ、正規発報対象のみに反応するように修正される。
【0048】
例えば「面積」を除外することにより、カメラの近傍から遠方に往復するような“変化領域”の「面積」の変化が著しい侵入者に対して、誤ってイベント対象ではないと判断される見落としがでにくくなる。また例えば「存在時間」を除外することにより、カメラの視野内で不規則に往来し“変化領域”の「存在時間」の変化が著しい侵入者に対して、誤ってイベント対象ではないと判断される見落としがでにくくなる。
【0049】
また例えば「縦横比」を除外することにより、複数人物が集団で往来しその並びが刻々と変化することにより変化領域の「縦横比」の変化が著しい侵入者に対して、誤ってイベント対象ではないと判断される見落としがでにくくなる。さらに例えば「速度」を除外することにより、カメラの視野内で不規則に往来し“変化領域”の「速度」の変化が著しい侵入者に対して、誤ってイベント対象ではないと判断される見落としがでにくくなる。
【0050】
このように、見落としを減少させ、不規則な動きをする“正規発報対象”にたいしても確実に発報しうる装置を提供する。
【0051】
実施の形態3.
図5はこの発明のさらに別の実施の形態による監視用画像処理装置の構成を示す図である。図において、従来および上記実施の形態のものと同一もしくは相当部分は同一符号で示し、説明を省略する。14bは“最多発報対象”を他から識別する第3の最多発報対象識別処理手段である。15は最多発報対象識別処理手段14bおよびマスク範囲演算処理手段16に補正実施を指示するトリガー入力である。
【0052】
16は最多発報対象識別処理手段14bからの指示を受け、マスク範囲を演算するマスク範囲演算処理手段である。またビデオ入力部1はマスク範囲演算処理手段16から通知を受け、その画像のマスク範囲を適宜更新する。最多発報対象識別処理手段14bおよびマスク範囲演算処理手段16もソフトウエアによって処理されるのが一般的である。
【0053】
図6はマスク範囲演算処理手段16の動作を詳細に示したフローチャートである。また認識処理手段11および最多発報対象識別処理手段14bの動作はそれぞれ図12および図2のフローチャートに示したものと基本的に同様である。
【0054】
次に動作について代表的な例を説明する。図5のビデオ入力部1〜トリガー入力15については、上記実施の形態と基本的には同様のため説明を省略する。ただし、以下の点が異なる。“イベント”発生を知らせる通知12を受け取った最多発報対象識別処理手段14bは、実施の形態1の動作に加え、その時の「座標」を観察し、“最多発報対象”以外の発報対象が偏って存在する「認識不要範囲」を算出する。
【0055】
以下その挙動例を詳しく説明する。ただしここで説明するのは、算出の一例である。最多発報対象識別処理手段14bでは、先ずイベント発見の通知12を受け実施の形態1で記載したような“特徴量パラメータ”の更新作業を行っている。この動作は実施の形態1と同様であるため省略する。
【0056】
それと同時に最多発報対象識別処理手段14bでは、“イベント”発生のたびに「今の“イベント”は“最多発報対象”のものか否か」の報告16aをマスク範囲演算処理手段16に出力する。マスク範囲演算処理手段16では、報告16aを受け図6の作業を行う。
【0057】
図6においてまずステップS1で発報時の「座標」を参照(記憶)する。次にステップS2〜S4で「座標」をもとに「“認識不要範囲”」を判断する。
【0058】
以下にその具体的方法の一例を示す。
・先ず「X座標」を横軸に、「Y座標」を縦軸にした分布図を作成する。ただし、報告16aをもとにこれは“最多発報対象”のものと、それ以外の発報対象のものと2枚作成する。
・“最多発報対象”の分布と、それ以外の発報対象の分布が、各々重ならない範囲に集中しており、かつ時間の変化によりその発生が変動する場合、それ以外の発報対象の分布している範囲を“認識不要範囲”とする。
【0059】
“認識不要範囲”とは「場所に依存し」かつ「比較的短期間の変化」が特徴である。例えば樹木が風でゆれた場合等の枝葉の“変化領域”が該当する。これは、樹木の位置にのみ起き(場所に依存)、風の吹いている期間(比較的短期間の変化)に顕著になる。
【0060】
ステップS3では、補正実施の有無を見る。指示がないときは、作業はこれで終了となる。「認識不要範囲」を判断したのみ(これを行なわなくてもよく座標を分布図にプロットするだけでもよい)である。指示があるときは、ステップS3で分岐しステップS4に行き、「“認識不要範囲”」に最適な「“マスク範囲”」を算出する作業を行なう。「“マスク範囲”」とは画像を一部をマスクして見えなくすることで、不要な画像の取込みを阻止するものである。
【0061】
「“マスク範囲”」の算出は具体的には、以下で述べる通りである。なお、以下は一例である。「“認識不要範囲”」が特定できれば、そこの中心を求め、「“認識不要範囲”」の60%程度が隠蔽される程度の大きさの同じ中点を持つ長方形のエリアを考える。これが「“マスク範囲”」である。「“マスク範囲”」はビデオ入力部1でビデオ画像に直接黒べたのマスキングをするために使用される。その結果ここより出力される映像は、あたかもカメラの前面に黒布を張り付けたようなものとなる。ステップS5ではこの「“マスク範囲”」を上位に返す。
【0062】
図5にある通り、このデータはビデオ入力部1に渡される。ビデオ入力部1では、入力されてくる画像にデータに従いマスクをかける作業を行う。この結果「“認識不要範囲”」は60%程度がマスクで覆われ、覆われた部分の変化領域は見えないこととなる。その結果、該当個所では以降、“変化領域”が発生しなくなる。
【0063】
以上のように、この実施の形態では、補正実施の指示がある毎に「“マスク範囲”」が更新され、しかもその更新結果がその時点での「“不要検知対象物」の多発エリアを覆うものとなり、結果としてビデオ入力部1が「“不要検知対象物”」を追跡して隠蔽することとなる。
【0064】
これによりビデオ入力部1の「“マスク範囲”」が“不要検知対象物”にあわせて最適化され、例えば、樹木が風でゆれた場合等の枝葉の“変化領域”のような「場所に依存し」かつ「比較的短期間の変化」が特徴の“不要検知対象物”に対し、誤ってイベントと判断されにくくなる。このように、“不要検知”を減少させると同時に、“正規発報対象”にたいしては正確に発報しうる装置を提供する。
【0065】
実施の形態4.
図7はこの発明のさらに別の実施の形態による監視用画像処理装置の構成を示す図である。図において、従来および上記実施の形態のものと同一もしくは相当部分は同一符号で示し、説明を省略する。14bは“最多発報対象”を他から識別する第3の最多発報対象識別処理手段である。15は最多発報対象識別処理手段14bおよび認識範囲演算処理手段17に補正実施を指示するトリガー入力である。
【0066】
17は最多発報対象識別処理手段14bからの指示を受け、認識範囲を演算する認識範囲演算処理手段である。認識処理手段11では認識範囲演算処理手段17から通知を受け、その画像の認識範囲を適宜更新する。最多発報対象識別処理手段14bおよび認識範囲演算処理手段17もソフトウエアによって処理されるのが一般的である。
【0067】
図8は認識範囲演算処理手段17の動作を詳細に示したフローチャートである。また認識処理手段11および最多発報対象識別処理手段14bの動作はそれぞれ図12および図2のフローチャートに示したものと基本的に同様である。
【0068】
次に動作について代表的な例を説明する。図7のビデオ入力部1〜トリガー入力15については、上記実施の形態と基本的には同様のため説明を省略する。ただし、以下の点が異なる。“イベント”発生を知らせる通知12を受け取った最多発報対象識別処理手段14bは、実施の形態1の作業に加え、その時の「座標」を観察し、“最多発報対象”が偏って存在する「認識範囲」を算出する。以下その挙動例を詳しく説明する。
【0069】
ただしここで説明するのは、算出の一例である。最多発報対象識別処理手段14bでは、先ずイベント発見の通知12を受け実施の形態1で記載したような“特徴量パラメータ”の更新作業を行っている。この動作は実施の形態1と同一のため説明は省略する。それと同時に最多発報対象識別処理手段14bでは、“イベント”発生のたびに「今の“イベント”は“最多発報対象”のものか否か」の報告17aを認識範囲演算処理手段17に出力する。
【0070】
認識範囲演算処理手段17では、報告17aを受け図8の作業を行う。図8において、まずステップS1で発報時の「座標」を参照(記憶)する。つぎに「座標」を元にステップS2では「“認識範囲”」を判断する。
【0071】
以下にその具体的方法の一例を示す。
・先ず「X座標」を横軸に、「Y座標」を縦軸にした分布図を作成する。ただし報告17aを元にこれは“最多発報対象”のものと、それ以外の“発報対象”のものと2枚作成する。
・“最多発報対象”の分布と、それ以外の発報対象の分布が、各々重ならない範囲に集中しており、かつ時間の変化によりその発生が変動する場合、“最多発報対象”の分布している範囲を「“認識範囲”」とする。「“認識範囲”」とは“最多発報対象”が頻発する範囲であり、具体的には侵入者が通るに適した道や空き地が存在する範囲である。
【0072】
実施の形態3では逆にそれ以外の範囲に「“マスク範囲”」という手法を用いて“不要検知”を防止した。しかし“最多発報対象”の分布と、それ以外の発報対象の分布が近接したり重なった状況においては、「“マスク範囲”」を設定することにより“最多発報対象”が頻発する範囲に悪影響を及ぼす場合がある。“最多発対象”の分布範囲も部分的にマスクされてしまい、発報対象が部分的に覆われてしまうためである。この場合、見落としが発生する。
【0073】
ここで考える「“認識範囲”」とは、“最多発報対象”の分布範囲であり、かつ“不要検知対象物”の分布に属さないエリアである。「“認識範囲”」の中の変化領域のみ“発報対象”と見なすことにより、仮に対象が「“マスク範囲”」と設定された範囲に一部が重なっていても、見落とさず発報することが可能となる。即ち、「“認識範囲”」と認識不要範囲の両方にまたがって存在する変化領域にとって、無視されることを未然に防ぐことが可能となる。
【0074】
ステップS3では補正実施の指示であるトリガー入力15の有無を見る。指示がないときは、作業はこれで終了となる。「“認識範囲”」を判断したのみ(これを行なわなくても座標を分布図にプロットするだけでもよい)である。指示があるときは、ステップS3で分岐しステップS4、S5を通り、求めた「“認識範囲”」を上位に返す。
【0075】
図7にある通り、このデータは認識処理手段11に渡される。認識範囲演算処理手段17は認識処理手段11の「“認識範囲”」を更新し、次の認識に反映される。
【0076】
以上のようにこの実施の形態によると、補正実施の指示がある毎に「“認識範囲”」が更新され、しかもその更新結果がその時点での「“最多発報対象物”」のものとなり、結果として認識処理手段11が「“最多発報対象物”」を追跡することとなる。
【0077】
これにより認識処理手段11の処理が“最多発報対象物”にあわせて最適化され、例えば、樹木が風でゆれているような状況でその前を一部樹木と重なって通過するような侵入者を、見落としなく発見することが可能となる。また、上記樹木の枝葉の“変化領域”のような“不要検知対象物”に対し、誤ってイベントと判断されることも防げる。
【0078】
このようにエリアが重なっているようなケースでも、“不要検知”を抑えたまま“正規発報対象”にたいしては正確に発報しうる装置を提供する。
【0079】
実施の形態5.
図9はこの発明のさらに別の実施の形態による監視用画像処理装置の構成を示す図である。図において、従来および上記実施の形態のものと同一もしくは相当部分は同一符号で示し、説明を省略する。14cは最多発報対象を他から識別する第4の最多発報対象識別処理手段である。15は最多発報対象識別処理手段14cおよび領域統合演算処理手段18に補正実施を指示するトリガー入力である。
【0080】
18は最多発報対象識別処理手段14cからの指示を受け、領域統合の有効性を判断する領域統合演算処理手段である。認識処理手段11では領域統合演算処理手段18から通知を受け、その画像の領域統合の要否を適宜更新する。最多発報対象識別処理手段14cおよび領域統合演算処理手段18もソフトウエアによって処理されるのが一般的である。
【0081】
図10は領域統合演算処理手段18の動作を詳細に示したフローチャートである。また認識処理手段11および最多発報対象識別処理手段14cの動作はそれぞれ図12および図2のフローチャートに示したものと基本的に同様である。
【0082】
次に動作について代表的な例を説明する。図9のビデオ入力部1〜トリガー入力15については、上記実施の形態と基本的には同様のため説明を省略する。ただし、以下の点が異なる。“イベント”発生を知らせる通知12を受け取った最多発報対象識別処理手段14cは、実施の形態1の作業に加え、その時の「面積」を観察(記憶)し、「領域統合の有効性」を算出する。以下その挙動例を詳しく説明する。ただしここで説明するのは、算出の一例である。
【0083】
最多発報対象識別処理手段14cでは、先ず“イベント”発見の通知12を受け実施の形態1で記載したような“特徴量パラメータ”の更新作業を行っている。この動作は実施の形態1と同様であるため省略する。それと同時に最多発報対象識別処理手段14cでは、“イベント”発生のたびに「今の“イベント”は“最多発報対象”のものか否か」の報告18aを領域統合演算処理手段18に出力する。
【0084】
“最多発報対象”のものである場合、領域統合演算処理手段18では、報告18aを受け、図10の作業を行う。以下の記載は、全て“最多発報対象”のものについてのものである。図10において、まずステップS1で発報時の「面積」を参照する。そして「面積」を元にステップS2では「“領域統合”前後の面積比」を判断する。
【0085】
以下にその具体的方法の一例を示す。
・“領域統合”された各“変化領域”の中で、最大の面積を有する変化領域を、核の変化領域とする。
・「“領域統合”後の面積」に対する「核の変化領域」の比率を「“領域統合”前後の面積比」とする。
・「“領域統合”前後の面積比」を横軸に、回数を縦軸にしたヒストグラムを作成する。
・ヒストグラムが「“領域統合”前後の面積比」が例えば70%以上に偏った場合、領域統合は不要と判断する。
・ヒストグラムが「“領域統合”前後の面積比」が例えば50%以下に偏った場合、領域統合は必要と判断する。
・それ以外は現状通りと判断する。
【0086】
“領域統合”とは、同一の対象物であるにもかかわらず画質の劣化等で分断された“変化領域”を、相対距離等で類推し統合し、元の形状に近付ける作業である。“領域統合”後の面積とは、通常はこの分断された各“変化領域”を統合したあとの合計の面積を示す。「“領域統合”後の面積」に対する「核の“変化領域”」の比率が大きいということは、「核の“変化領域”」が単体で変化領域を占有しているということである。
【0087】
一般に、画質の劣化等で“変化領域”の切り出しがうまく行われない場合、“発報対象”の“変化領域”は複数に寸断される。「核の“変化領域”」の比率が大きいということは、この現象が起きていないと判断でき、溯って画質が良好と判断できる。
【0088】
「“領域統合”前後の面積比」が「70%以上」の部分に偏った場合、一般にこれは「“変化領域”の分断の少ない、明確な“変化領域”が選らばれている状況」と判断できる。このような場合は、“領域統合”処理は不要である。逆に誤った“領域統合”が行なわれて対象物を見誤る場合の弊害が問題となってくる。従って、必要以上に“領域統合”を行わないことが、安定した認識処理に寄与しうる。
【0089】
ステップS3では補正実施の指示であるトリガー入力15の有無を見る。指示がないときは、作業はこれで終了となる。「“領域統合”処理の可否」を判断したのみ(これを行なわなくてもヒストグラムへのプロットだけでもよい)である。指示があるときは、ステップS3で分岐しステップS4、S5を通り、“最多発報対象”に最適な「“領域統合”処理の要否」の結果を上位に返す。
図1−5−1にある通り、
【0090】
このデータは認識処理手段11に渡される。認識処理手段11では「“領域統合”処理の要否」を更新し、次の認識に反映される。つまり、領域統合処理に対して“否”の指示がされると、図12のステップS1の処理が行なわれない。
【0091】
以上のように、この実施の形態によると、補正実施の指示がある毎に「“領域統合”処理の要否」が更新され、しかもその更新結果がその時点での「“最多発報対象物”」に適したものとなる。これにより認識処理手段11の「“領域統合”」が“最多発報対象物”にあわせて最適化され、例えば、樹木が風でゆれた場合等の枝葉の“変化領域”のような「個々は小さいが領域統合で統合させると大きくなる」ような不安定性が特徴の“不要検知対象物”に対し、誤ってイベントと判断されにくくなる。
【0092】
このように“不要検知”を減少させると同時に、“正規発報対象”にたいしては正確に発報しうる装置を提供する。
【0093】
【発明の効果】
以上のようにこの発明では、監視対象地域の画像の現画像のデータを一時的に記録する現画像蓄積部と、上記画像の背景画像データを記録する背景画像蓄積部と、上記現画像蓄積部の現画像データを上記背景画像蓄積部の背景画像データと比較し、画像内の移動物、変化物に当たる多値変化領域を差分として抽出する背景差分抽出部と、上記変化領域の特徴を示す所定の特徴量を演算する特徴量演算部と、予め設定された発報対象の上記特徴量の設定値範囲である特徴量パラメータを記憶する発報対象特徴量記憶部と、この発報対象特徴量記憶部の特徴量パラメータに元づいて上記特徴量演算部での特徴量が正規の発報対象のものに該当することを認識する認識処理手段と、この認識処理手段の認識に従って発報対象である時に発報を行う発報処理手段と、上記発報対象のなかで発生頻度の高い最多発報対象を発生分布の様子から他と識別し、上記発報対象特徴量記憶部中の特徴量パラメータの中心値を上記最多発報対象の特徴量の中心値に揃える補正を行う最多発報対象識別処理手段と、を備えた監視用画像処理装置としたので、発報対象特徴量記憶部中の特徴量パラメータを発生頻度の高い最多発報対象の特徴量に合わせて更新することにより、不要検知を減少させると同時に正規発報対象にたいしては正確に発報する装置を提供できる。
【0094】
またこの発明では、上記最多発報対象識別処理手段がさらに、上記最多発報対象の上記特徴量のうちばらつきの大きいものを発生分布の様子から選別し、上記発報対象特徴量記憶部中の該特徴量パラメータを設定から除外するように補正を行うので、発報対象特徴量記憶部中の特徴量パラメータのうちばらつきの大きいものを認識処理から一時的に除外することにより、不要検知をさらに減少させた装置を提供できる。
【0095】
またこの発明では、上記監視対象地域の映像となるビデオ信号を入力するビデオ入力部と、最多発報対象の特徴量のデータより無効な変化領域が多発する映像上の領域を類推し、上記ビデオ入力部に対して映像の該領域をマスクさせるようにするマスク範囲演算処理手段と、をさらに備えたので、認識不要範囲にはマスクをかけることで、さらに不要検知を減少させた装置を提供できる。
【0096】
またこの発明では、最多発報対象の多発する映像上の領域を類推し、その領域のみを監視範囲とするよう上記認識処理手段に指示する認識範囲演算処理手段をさらに備えたので、さらに不要検知を減少させると同時に正規発報対象にたいしては正確に発報する装置を提供できる。
【0097】
またこの発明では、上記認識処理手段が上記正規の発報対象のものに該当するか否かの認識を行う前に上記変化領域の統合を行い、領域統合後の面積に対する領域統合された各変化領域のうちの最大面積の変化領域の面積の比率から領域統合の要否を類推し、上記認識処理手段での変化領域の統合を禁止する領域統合演算処理手段をさらに備えたので、適切な領域統合だけが行われるようにしたことにより、さらに正規発報対象にたいして正確に発報する装置を提供できる。
【図面の簡単な説明】
【図1】 この発明の一実施の形態による監視用画像処理装置の構成を示す図である。
【図2】 図1の最多発報対象識別処理手段の動作を詳細に示したフローチャート図である。
【図3】 この発明の別の実施の形態による監視用画像処理装置の構成を示す図である。
【図4】 図3の最多発報対象識別処理手段の動作を詳細に示したフローチャート図である。
【図5】 この発明のさらに別の実施の形態による監視用画像処理装置の構成を示す図である。
【図6】 図5のマスク範囲演算処理手段の動作を詳細に示したフローチャート図である。
【図7】 この発明のさらに別の実施の形態による監視用画像処理装置の構成を示す図である。
【図8】 図7の認識範囲演算処理手段の動作を詳細に示したフローチャート図である。
【図9】 この発明のさらに別の実施の形態による監視用画像処理装置の構成を示す図である。
【図10】 図9の領域統合演算処理手段の動作を詳細に示したフローチャート図である。
【図11】 従来のこの種の監視用画像処理装置の構成を示す図である。
【図12】 図11の認識処理手段の動作をさらに詳細に示したフローチャート図である。
【図13】 監視用画像処理装置の動作における変化領域を説明するための図である。
【図14】 監視用画像処理装置の動作における変化領域を説明するための図である。
【符号の説明】
1 ビデオ入力部、2 A/D変換部、3 現画像蓄積部、4 背景画像蓄積部、5 背景更新部、6 背景差分抽出部、7 しきい値演算部、8 2値化部、9 特徴量演算部、10 発報対象特徴量記憶部、11 認識処理手段、13発報処理手段、14 第1の最多発報対象識別処理手段、14a 第2の最多発報対象識別処理手段、14b 第3の最多発報対象識別処理手段、14c 第4の最多発報対象識別処理手段、16 マスク範囲演算処理手段、17 認識範囲演算処理手段、18 領域統合演算処理手段である。
Claims (5)
- 監視対象地域の画像の現画像のデータを一時的に記録する現画像蓄積部と、
上記画像の背景画像データを記録する背景画像蓄積部と、
上記現画像蓄積部の現画像データを上記背景画像蓄積部の背景画像データと比較し、画像内の移動物、変化物に当たる多値変化領域を差分として抽出する背景差分抽出部と、
上記変化領域の特徴を示す所定の特徴量を演算する特徴量演算部と、
予め設定された発報対象の上記特徴量の設定値範囲である特徴量パラメータを記憶する発報対象特徴量記憶部と、
この発報対象特徴量記憶部の特徴量パラメータに元づいて上記特徴量演算部での特徴量が正規の発報対象のものに該当することを認識する認識処理手段と、
この認識処理手段の認識に従って発報対象である時に発報を行う発報処理手段と、
上記発報対象のなかで発生頻度の高い最多発報対象を発生分布の様子から他と識別し、上記発報対象特徴量記憶部中の特徴量パラメータの中心値を上記最多発報対象の特徴量の中心値に揃える補正を行う最多発報対象識別処理手段と、
を備えたことを特徴とする監視用画像処理装置。 - 上記最多発報対象識別処理手段がさらに、上記最多発報対象の上記特徴量のうちばらつきの大きいものを発生分布の様子から選別し、上記発報対象特徴量記憶部中の該特徴量パラメータを設定から除外するように補正を行うことを特徴とする請求項1に記載の監視用画像処理装置。
- 上記監視対象地域の映像となるビデオ信号を入力するビデオ入力部と、
最多発報対象の特徴量のデータより無効な変化領域が多発する映像上の領域を類推し、上記ビデオ入力部に対して映像の該領域をマスクさせるようにするマスク範囲演算処理手段と、
をさらに備えたことを特徴とする請求項1または2に記載の監視用画像処理装置。 - 最多発報対象の多発する映像上の領域を類推し、その領域のみを監視範囲とするよう上記認識処理手段に指示する認識範囲演算処理手段をさらに備えたことを特徴とする請求項1または2に記載の監視用画像処理装置。
- 上記認識処理手段が上記正規の発報対象のものに該当するか否かの認識を行う前に上記変化領域の統合を行い、
領域統合後の面積に対する領域統合された各変化領域のうちの最大面積の変化領域の面積の比率から領域統合の要否を類推し、上記認識処理手段での変化領域の統合を禁止する領域統合演算処理手段をさらに備えたことを特徴とする請求項1または2に記載の監視用画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP00485498A JP3986643B2 (ja) | 1998-01-13 | 1998-01-13 | 監視用画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP00485498A JP3986643B2 (ja) | 1998-01-13 | 1998-01-13 | 監視用画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11203567A JPH11203567A (ja) | 1999-07-30 |
JP3986643B2 true JP3986643B2 (ja) | 2007-10-03 |
Family
ID=11595277
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP00485498A Expired - Fee Related JP3986643B2 (ja) | 1998-01-13 | 1998-01-13 | 監視用画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3986643B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AUPR899401A0 (en) * | 2001-11-21 | 2001-12-13 | Cea Technologies Pty Limited | Method and apparatus for non-motion detection |
US7433494B2 (en) | 2002-09-19 | 2008-10-07 | Denso Corporation | Moving body detecting apparatus |
JP2005128815A (ja) * | 2003-10-24 | 2005-05-19 | Matsushita Electric Ind Co Ltd | 人物検出装置及び人物検出方法 |
EP2329470B1 (en) * | 2008-08-28 | 2013-04-03 | Koninklijke Philips Electronics N.V. | Fall detection and/or prevention systems |
JP4800367B2 (ja) * | 2008-10-17 | 2011-10-26 | 日本電信電話株式会社 | 移動対象抽出装置、移動対象抽出方法及び移動対象抽出プログラム |
JP5432983B2 (ja) * | 2009-03-09 | 2014-03-05 | パナソニック株式会社 | 入退検出装置、監視装置及び入退検出方法 |
-
1998
- 1998-01-13 JP JP00485498A patent/JP3986643B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11203567A (ja) | 1999-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3123587B2 (ja) | 背景差分による動物体領域抽出方法 | |
US6931146B2 (en) | Method and apparatus for detecting moving object | |
JPH0337354B2 (ja) | ||
CN111444854A (zh) | 异常事件检测方法、相关设备及可读存储介质 | |
CN113992886B (zh) | 使用于运动传感器的运动侦测方法 | |
WO1998028706B1 (en) | Low false alarm rate video security system using object classification | |
WO1998028706A1 (en) | Low false alarm rate video security system using object classification | |
WO2023039781A1 (zh) | 一种遗留物检测方法、装置、电子设备及存储介质 | |
JP3986643B2 (ja) | 監視用画像処理装置 | |
JPH05284501A (ja) | 侵入監視画像装置 | |
CN113158926B (zh) | 一种高空抛物轨迹判别方法、装置、设备及存储介质 | |
US20040114054A1 (en) | Method of detecting a significant change of scene | |
JP2612662B2 (ja) | 侵入者識別システム | |
JP4065137B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP3294468B2 (ja) | 映像監視装置における物体検出方法 | |
JP2667973B2 (ja) | 移動体監視装置 | |
CN112419635B (zh) | 融合光栅和视频的周界报警方法 | |
JP4614778B2 (ja) | 移動物体抽出用画像作成方法 | |
JPS62147888A (ja) | 画像監視方式 | |
JP3830616B2 (ja) | 監視用画像処理装置 | |
JP4071336B2 (ja) | 監視用画像処理装置 | |
Conte et al. | Meeting the application requirements of intelligent video surveillance systems in moving object detection | |
JP3848709B2 (ja) | 監視用画像処理装置 | |
JP4544955B2 (ja) | 画像監視装置 | |
JP2001169270A (ja) | 画像監視装置及び画像監視方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050106 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20070607 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070710 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070711 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100720 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100720 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110720 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110720 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120720 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120720 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130720 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |