JP5877722B2 - 画像監視装置 - Google Patents

画像監視装置 Download PDF

Info

Publication number
JP5877722B2
JP5877722B2 JP2012008160A JP2012008160A JP5877722B2 JP 5877722 B2 JP5877722 B2 JP 5877722B2 JP 2012008160 A JP2012008160 A JP 2012008160A JP 2012008160 A JP2012008160 A JP 2012008160A JP 5877722 B2 JP5877722 B2 JP 5877722B2
Authority
JP
Japan
Prior art keywords
image
area
label
monitoring
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012008160A
Other languages
English (en)
Other versions
JP2013149025A (ja
Inventor
鮎子 井部
鮎子 井部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2012008160A priority Critical patent/JP5877722B2/ja
Publication of JP2013149025A publication Critical patent/JP2013149025A/ja
Application granted granted Critical
Publication of JP5877722B2 publication Critical patent/JP5877722B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)

Description

本発明は、監視空間を撮像した監視画像を順次取得し、この順次取得した監視画像を画像処理して監視空間における目標移動物体の有無を判定する画像監視装置に関する。
従来、例えばカメラなどの撮像装置から入力される画像と背景画像などの基準画像との変化態様から侵入者等の目標移動物体の特徴を示す領域を検出し、当該領域が目標移動物体(例えば侵入者)であるか否かを判定するような画像監視装置が知られている。
この種の画像監視装置としては、例えば撮像装置が現在撮影した入力画像と予め記憶している背景画像などの基準画像とを比較して、両画像の差分を変化領域として抽出し、この抽出された変化領域について面積や移動速度などを演算し、演算結果を元に監視空間に目標移動物体が存在するか否かを判断するものが知られるところである。そして、下記特許文献1には、この種の画像監視装置に用いられる画像センサとして、撮像部にて順次取得される監視空間の撮像画像と基準画像との差分から変化領域を抽出するとともに変化領域の移動を追跡するものが開示されている。
この種の画像監視装置では、変化領域を抽出した際、微小面積のノイズ抽出が生じることがあった。従来、このような微小面積のノイズ抽出を除去するため、例えば、下記特許文献2に開示されるように、予め定めた画素数(面積)を閾値とし、抽出された変化領域の画素数が当該閾値に満たないような小さい変化領域をノイズ抽出とみなして除去していた。
特開2006−318064号公報 特開平05−020558号公報
ところで、目標移動物体による変化領域の大きさは、当該目標移動物体が撮像装置から遠方に存在するほど、一般的に小さな面積の変化領域として抽出される。また、侵入者などの目標移動物体の状態によっては、顔や手などの領域のみが部分的に抽出される場合があるため、遠方に存在する目標移動物体がより小さな変化領域群として抽出され易い。例えば、可視画像を撮像する撮像装置を用いた画像監視装置では、侵入者の衣服と基準画像との輝度差が少ない場合、当該衣服の領域を抽出できずに顔や手などの領域のみが小さな変化領域群として抽出され易い。また、熱画像(赤外線画像)を撮像する撮像装置を用いた画像監視装置においても、衣服に遮蔽されていない顔や手などの部分領域のみが小さな変化領域群として抽出され易い。そのため、従来のように、画像内で一律の閾値を用いてノイズ除去を適用した場合、遠方にいる目標移動物体による小さな変化領域や小さな変化領域群を誤ってノイズ抽出とみなして除去してしまい、目標移動物体を失検出する可能性があるといった問題があった。
一方で、遠方の目標移動物体を誤って除去しないように小さい閾値を用いてノイズ除去を行った場合、ノイズ抽出が残りやすいといった問題があった。特に、信号雑音比(SN比)が小さい領域では、画素値が出力変動しやすく、元々ノイズ抽出が多く発生し易い領域であるため、画像内で一律の閾値を用いてノイズ除去を適用した場合にノイズ抽出が残り易かった。SN比が小さい領域の例としては、画像中央領域と比較してレンズ収差などの影響を受け易い画像外周領域が挙げられる。
そこで、本発明は上記問題点に鑑みてなされたものであり、誤ったノイズ除去によって生じうる目標移動物体の失検出を抑制できる画像監視装置を提供することを目的とするものである。
上記した目的を達成するために、本願請求項1に係る画像監視装置は、監視空間を撮像して監視画像を出力する撮像部と、前記監視画像と基準画像とを比較して変化領域を抽出する抽出部と、前記変化領域の特徴から物体を判定する判定部と、を具備する画像監視装置であって、
前記抽出部は、過去の所定期間において前記変化領域が位置していた画像領域を含む所定範囲の近傍画像領域を設定し、現在の前記変化領域が該近傍画像領域に位置していたとき、該変化領域がノイズか否かを判定するための閾値を小さい値となるよう設定し、該閾値より小さい面積の前記現在の変化領域をノイズと判定し除去することを特徴としている。
かかる構成により、本発明の抽出部は、過去の所定期間(例えば1フレーム前)に抽出された変化領域が位置している画像領域を含んだ近傍の画像領域(近傍画像領域)を、監視画像上に設定する。そして、抽出部は、現在フレームにおける変化領域が当該近傍画像領域に位置していたとき、当該変化領域のノイズ判定閾値を小さめの値に設定する。そして、抽出部は、設定したノイズ判定閾値を用いてノイズ除去する。ある過去のフレームで移動物体による変化領域が抽出された場合、次のフレームでは当該変化領域の近傍に、同じ移動物体による変化領域が抽出される可能性が高い。このため、現在フレームの変化領域が、過去のフレームにおいて変化領域の位置していた領域の近傍に位置していたとき、ノイズ判定閾値を小さめに設定することによって、このような移動物体による変化領域である可能性の高い領域についてはできるだけノイズ抽出とみなさないようにすることができ、誤ったノイズ除去に起因する失検出を抑制することができる。
本願請求項2に係る画像監視装置は、請求項1の画像監視装置において、
前記監視空間における前記撮像部の設置位置及び撮影方向からなる設置情報を記憶する記憶部を更に備え、
前記抽出部は、前記変化領域の前記監視画像上の位置と前記設置情報とから前記監視空間における該変化領域の物体と前記撮像部との間の距離を示す想定距離を求め、前記閾値を該想定距離が大きくなるほど小さい値となるよう設定することを特徴としている。
かかる構成により、本発明の抽出部は、監視画像から抽出した変化領域の監視画像上の位置と設置情報(設置位置や撮影方向など)とから監視空間における変化領域に対応する物体と撮像部との間の距離(想定距離)を、例えば透視変換処理などによって求める。そして、抽出部は、求めた想定距離が大きくなるほど(すなわち変化領域に対応する物体の監視空間における位置が撮像部から遠くなるほど)、ノイズ判定のための閾値(以下、「ノイズ判定閾値」という)を小さくなるよう設定する。そして、抽出部は、設定したノイズ判定閾値よりも小さい面積の変化領域をノイズ抽出とみなして除去する処理を行う。撮像部から遠方に存在する物体であるほど、一般的に小さな変化領域として抽出されやすいが、本発明では、このような遠方にある変化領域に対しては小さな値に設定されたノイズ判定閾値を用いてノイズ除去を行う。そのため、日照変動やカメラ筐体等からの熱といった環境温度変動などの影響に起因して生じる実体の存在しないノイズ抽出(環境ノイズ)は、想定距離に関係しない大きさで出現すため効果的に除去できる一方で、想定距離に応じて変化する目標移動物体の変化領域は、当該想定距離を考慮してノイズ除去することにより、ノイズ抽出であるとみなされて誤ってノイズ除去されることを抑制することができ、失検出を効果的に減らすことができる。
本願請求項3に係る画像監視装置は、請求項2の画像監視装置において、
前記抽出部は、前記監視画像の画像領域を複数の部分画像領域に分割し、該部分画像領域の画像上の位置と前記設置情報とから前記監視空間における該部分画像領域の実位置と前記撮像部との間の距離である領域距離を求めて部分画像領域毎に予め設定しておき、前記変化領域が位置している前記部分画像領域の前記領域距離を前記想定距離とすることを特徴としている。
かかる構成により、本発明の抽出部は、監視画像の画像領域を複数の部分画像領域に分割し、各部分画像領域の画像上の位置と設置情報とから監視空間における部分画像領域の実位置と撮像部との間の距離(領域距離)を求めて、部分画像領域毎に予め設定しておく。そして、抽出部は、変化領域がどの部分画像領域に位置しているのかを判定し、当該変化領域の位置している部分画像領域に設定された領域距離を、当該変化領域の想定距離として求める。そして、抽出部は、求めた想定距離に基づいて変化領域毎にノイズ判定閾値を設定し、ノイズ除去する。このように、部分画像領域ごとに領域距離を予め算出して設定しておき、変化領域の位置している部分画像領域の領域距離から想定距離を求めることにより、変化領域が抽出される毎に想定距離を算出する必要が無くなり、ノイズ判定閾値の設定に必要な計算量を減らすことができる。
本願請求項4に係る画像監視装置は、請求項1〜3の何れかの画像監視装置において、
前記抽出部は、前記変化領域が前記監視画像における信号雑音比の小さい所定領域に位置するとき、前記閾値を大きめに変更することを特徴としている。
かかる構成により、本発明の抽出部は、まず、抽出した変化領域の画像上の位置が、監視画像における予め設定した信号雑音比(SN比)の小さい領域に位置しているか否かを判定する。例えば、監視画像の画像外周領域は、レンズの収差の影響などによって、画像中央領域と比較してSN比が小さい領域であるため、当該画像外周領域を予め設定しておく。そして、変化領域が設定された画像外周領域に位置しているか否かを判定する。変化領域が当該画像外周領域に位置していた場合、抽出部は、設定されたノイズ判定閾値を大きめの値に変更してノイズ除去を行う。つまり、抽出された変化領域の想定距離が大きいときは小さめのノイズ判定閾値に設定されるものの、当該変化領域が画像外周領域に存在していた場合、設定された小さめのノイズ判定閾値よりも所定割合だけ大きく変更され、当該変更されたノイズ判定閾値を用いてノイズ除去を行う。これにより、SN比が小さい領域は、画素値が出力変動しやすいためノイズ抽出が生じ易く、大きめのノイズ抽出が生じやすい領域であるものの、当該領域では、大きめのノイズ判定閾値を用いてノイズ除去を行うことができるため、上記のように失検出を抑制できるだけでなく、SN比が小さい領域における誤検出をさらに抑制することができる。
本発明に係る画像監視装置によれば、遠方に位置する物体の小さい変化領域であっても誤って除去することなく、目標移動物体の失検出を抑制できる。
本発明に係る画像監視装置の全体構成を示すブロック構成図である。 本発明に係る画像監視装置において撮像部からラベルの監視画像上の位置までの想定距離からノイズ判定閾値を決定する場合の説明図である。 本発明に係る画像監視装置において前フレームのラベルの近傍画像領域のノイズ判定閾値を変更する場合の説明図である。 本発明に係る画像監視装置においてラベルが外周領域に位置するときのノイズ判定閾値を変更する場合の説明図である。 本発明に係る画像監視装置による全体動作の処理手順を示すフローチャートである。 図5のノイズ除去処理の具体的処理内容の手順を示すフローチャートである。 本発明に係る画像監視装置の他の実施形態における想定距離を決定する際に用いられる距離テーブルの例を示す図である。 本発明に係る画像監視装置の他の実施形態における想定距離を決定する方法の説明図である。
以下、本発明を監視空間における侵入者を検出する画像監視装置に適用した実施形態について、添付した図面を参照しながら詳細に説明する。
(画像監視装置の全体構成について)
本発明に係る画像監視装置は、監視空間を撮像した監視画像を順次取得し、この順次取得した監視画像を画像処理して監視空間における目標移動物体(例えば侵入者)の有無を判定するものである。
特に、本実施形態は、撮像部が監視空間を撮像した監視画像の中から変化のある領域として抽出される変化領域に対応する物体と撮像部との間の監視空間における実距離(想定距離)に見合うノイズ判定閾値を設定し、この設定されたノイズ判定閾値を用いてノイズ除去を行うノイズ除去処理の機能を含む画像監視装置を提供するものである。すなわち、監視画像から抽出された変化領域の面積がノイズ判定閾値以下であるとき、当該変化領域をノイズ抽出とみなして除去する処理を行うが、その際、例えば遠方の人物のように、監視画像上での変化領域の面積が小さくなりやすい状況では、当該変化領域に対しては小さいノイズ判定閾値を用いてノイズ除去することにより、侵入者による変化領域をノイズ抽出とみなして誤って除去することを防いでいる。
図1に示すように、本実施形態の画像監視装置1は、上述した機能を実現するべく、撮像部2、記憶部3、画像処理部4、出力部5を含んで概略構成される。
撮像部2は、例えばレンズなどの光学系およびCCDやCMOSなどの2次元アレイ素子を有する二次元イメージセンサで構成され、監視空間を撮像した撮像画像(以下、画像と言う)を画像処理部4に出力している。撮像部2は、天井や壁に設置され上から斜め下方の空間を撮像している。さらに説明すると、二次元イメージセンサによる撮像部2は、監視空間から入射した光をレンズなどの光学系によって2次元アレイ素子の受光平面に結像させ、その像の光による明暗を電荷の量に光電変換し、これを順次読み出して、各画素が電荷量に対応した輝度値で表現された画像を画像処理部4に出力する。その際、1フレームの画像を所定の時間間隔で取得して画像処理部4に出力する。
また、撮像部2は、その設置位置や撮像方向を示す外部パラメータと、焦点距離、画角(視野角)、レンズ歪み、その他のレンズ特性や撮像素子の画素数を示す内部パラメータとを撮像パラメータとして含む。この撮像パラメータは、実際に計測を行うなどして得ることができ、設置情報として予め記憶部3に記憶される。
そして、この撮像パラメータを用いれば、監視画像中の画素位置を撮像部2の撮像面における座標(撮像面座標)と実空間における座標(実座標)との間で座標変換することが可能となる。本実施形態では、この設置情報を用いた(1)撮像面座標から実座標への変換及び(2)実座標から撮像面座標への変換の両変換を透視変換と総称している。
なお、撮像部2としては、所定画素(例えば320×320画素)の赤外線検出素子を有し、監視領域から放射される赤外線を検出し、この検出した赤外線の量に応じた監視領域の温度分布を監視画像として画像処理部4に出力する熱画像センサで構成することもできる。
記憶部3は、画像監視装置1に関する装置の設定情報、画像処理部4の各種処理に使用される情報を記憶している。画像監視装置1に関する設定情報としては、上述した撮像部2の撮像パラメータなどの設置情報が含まれる。また、画像処理部4の各種処理に使用される情報としては、例えばフレーム毎の画像データ、画像データから変化領域を抽出するための基準画像、後述するノイズ除去処理に用いられるノイズ判定閾値の他、処理に用いられる計算式や閾値、基準値等の各種パラメータが含まれる。
画像処理部4は、CPU等を備えたコンピュータで構成され、撮像部2からデジタル化された画像の入力を受け、後述する図5、図6に示す一連の処理として、入力画像取得処理、抽出処理、ラベリング処理、ラベル統合処理、ノイズ除去処理、トラッキング(物体候補の追跡)処理、特徴量算出処理、侵入者判定処理を実行するべく、抽出部4a、追跡部4b、特徴量算出部4c、判定部4dを含んでいる。
抽出部4aは、図1に示すように、ラベル抽出手段11、閾値設定手段12、ノイズ除去手段13を含む構成である。
ラベル抽出手段11は、撮像部2で取得された監視画像の中から変化のある領域を変化領域として抽出する抽出処理を行っている。基準画像を予め記憶部3に保存しておき、今回取得した監視画像と基準画像との差分が所定の閾値以上の領域を変化領域として抽出する。この際、基準画像として監視空間の背景画像や、過去に取得した監視画像を適宜選択して採用することができる。また、ラベル抽出手段14は、抽出した各変化領域に対し、それぞれユニークな数値であるラベルを付与するラベリング処理を行っている。さらに、ラベル抽出手段14は、画像上の位置に基づく人物の想定サイズを求め、当該想定サイズの範囲内にある複数の変化領域を一つの物体からなる変化領域とみなし、単一ラベルに統合するラベル統合処理を行っている。以下では、ラベリング処理によってラベルが付与された変化領域(ラベル統合処理によって統合された一又は複数の変化領域を含む)を「ラベル領域」という。なお、本実施形態では、現在取得した監視画像において、予め記憶した基準画像からの差分値の大きい領域を変化領域として抽出しているが、これに限らず、画素値の時間変化をディジタルフィルタなどの周波数解析を行うことによって変化領域を抽出する方法を用いても良い。また、上記のラベル統合処理を省略することもできる。
閾値設定手段12は、予め記憶部3に記憶されている設置情報や計算式を用いて、ラベル領域毎にノイズ判定閾値を求め、記憶部3に記憶する処理を行っている。以下、閾値設定手段12における処理の詳細について説明する。
まず、閾値設定手段12は、各ラベル領域の想定距離を求める。ここで、本実施形態における想定距離とは、ラベル領域に対応する物体と撮像部2との間の監視空間(実空間)における距離を意味し、ラベル領域の監視画像上の位置(y座標)と設置情報とを用いて既知の透視変換処理をすることによって求まる距離値である。そして、閾値設定手段12は、想定距離が大きくなるほど小さい値をとるようノイズ判定閾値を求める。本実施形態では、想定距離と予め定めた基準閾値および基準距離とを用いて、ラベル領域毎に(ノイズ判定閾値)=(基準閾値)×exp[{(基準距離)−(想定距離)}/10]の計算式からノイズ判定閾値を算出する。
本実施形態におけるノイズ判定閾値を求める具体的な例について、図2を用いて説明する。図2に表すように、ラベル抽出手段11の抽出処理、ラベリング処理、ラベル統合処理にて処理された抽出画像20内に2つのラベル領域21a、21bが抽出されている。閾値設定手段12は、まず、ラベル領域21a、21bのそれぞれの想定距離を算出する。想定距離を求めるにあたって、ラベル領域21a、21bの監視画像上における位置として、ラベル領域21a、21bの最上部P1、P2の抽出画像20(監視画像)上におけるy座標を求める。そして、この最上部P1、P2を侵入者の頭部位置とみなし、y座標と上述した設置情報とを用いて既知の透視変換処理を行うことによって、ラベル領域21a、21bに対応する物体と撮像部2との間の監視空間(実空間)における距離である想定距離を算出する。図2の例では、透視変換処理によって、ラベル領域21aの想定距離が8m、ラベル領域21bの想定距離が6mと求められたとする。その後、閾値設定手段12は、前述のノイズ判定閾値を求める計算式を用いて、ラベル領域毎にノイズ判定閾値を算出する。本実施形態では、基準閾値を30画素、基準距離を1mとして予め記憶部3に記憶しておく。この場合、ラベル領域21aのノイズ判定閾値は30×exp{(1−8)/10}≒14.9となり、ラベル領域21bのノイズ判定閾値は30×exp{(1−6)/10}≒18.2として算出される。このようにして求めたノイズ判定閾値を、閾値設定手段12は、記憶部3にラベルと対応付けて記憶する処理を行う。なお、本実施形態では、想定距離を求めるにあたってラベル領域の最上部のy座標を用いたが、これに限らず、最下部のy座標や、重心位置のy座標などの監視画像上の位置を用いて、想定距離を求めても良い。
また、閾値設定手段12は、注目する現在フレームのラベル領域の重心位置が、前フレームのラベル領域を含む所定範囲の画像領域である近傍画像領域内に位置していたとき、当該ラベル領域のノイズ判定閾値を小さめの値に変更する処理を行う。本処理の具体例について図3を用いて説明する。図3の符号20は、それぞれ前フレーム(nフレーム)及び現在フレーム(n+1フレーム)の抽出画像である。図3に示すように、閾値設定手段12は、前フレーム(nフレーム)のラベル領域21に外接する矩形領域から上下左右に3画素分だけ大きい範囲の画像領域(同図中、点線で囲まれる領域)を近傍画像領域22として予め記憶部3に記憶しておく。そして、現在フレーム(n+1フレーム)のラベル領域21の重心位置Gが近傍画像領域22内に位置しているとき、当該ラベル領域のノイズ判定閾値を予め設定された割合(例えば、50%)分だけ、小さくなるように変更する処理を行う。例えば、図3における現在フレームのラベル領域21のノイズ判定閾値は、上記の処理等によって20画素と設定されていたとき、当該ラベル領域21のノイズ判定閾値は、20×0.5=10画素として変更され、記憶部3に記憶される。
また、閾値設定手段12は、注目するラベル領域21の監視画像上の重心位置が監視画像における予め定めたSN比の小さい領域に位置するときに、当該ラベル領域のノイズ判定閾値を大きめの値に変更する処理を行う。なお、SN比の小さい領域として、本実施形態では、監視画像端から10画素の距離以内の領域である画像外周領域を予め記憶部3に設定されていることとする。本処理の具体例について図4を用いて説明する。図4は現在フレームのラベル領域21の重心位置Gが抽出画像20の画像外周領域23内に位置する場合の一例を示している。この場合、閾値設定手段12は、ラベル領域21のノイズ判定閾値を予め設定された割合(例えば、150%)分だけ、大きくなるように変更する処理を行う。例えば、図4のラベル領域21のノイズ判定閾値が、上記の処理等によって20画素と設定されていたとき、当該ラベル領域21のノイズ判定閾値は、20×1.5=30画素として変更され、記憶部3に記憶される。
なお、本実施形態では、監視画像端からの距離に基づいてノイズ抽出の出やすい領域(SN比が小さい領域)を規定している。しかし、ノイズ抽出の出やすい領域の規定方法としては、これに限らず、例えば、予め画素ごとにSN比を評価して、SN比が一定値以下の領域を当該領域と定めておく方法などが考えられる。具体的には、まず、均一な温度物体を一定期間撮影したときの画素値の時間的変動量を求める。次に、異なる温度の均一な温度物体を見た時の画素値の差分値を求める。前者は画素ごとのノイズ成分を、後者は同じ温度変化に対する画素ごとの出力値変化量を得ることに相当するため、後者を前者で除算することにより、画素ごとのSN比を求めることができる。このようにして求めた、SN比が所定値以下の画素の領域をノイズの出やすい領域として記憶部3に記憶させておく方法を用いてもよい。
ノイズ除去手段13は、注目するラベル領域21の面積(画素数)と閾値設定手段12にて決定されたノイズ判定閾値とを比較し、ラベル領域21の面積がノイズ判定閾値以下であるときにそのラベル領域21をノイズ抽出として除去する処理を行う。
上記のように、ラベル領域21の想定距離を算出し、当該想定距離が大きくなるほど小さい値をとるようノイズ判定閾値を求め、当該ノイズ判定閾値を用いてノイズ除去を行うことによって、侵入者による抽出をノイズ抽出とみなして誤って除去することを防ぎ、侵入者の失検出を抑制することができる。すなわち、撮像部から遠方に存在する物体であるほど、一般的に小さなラベル領域21として抽出されやすいが、このような遠方にあるラベル領域21に対しては小さな値に設定されたノイズ判定閾値を用いてノイズ除去を行うため、当該ラベル領域21がノイズ抽出であるとみなされて誤ってノイズ除去されることを抑制することができ、失検出を減らすことができる。
また、上記のように、現在フレームのラベル領域21の重心位置が近傍画像領域22に位置していたとき、当該ラベル領域21のノイズ判定閾値を小さめの値に更新して変更することにより、誤ったノイズ除去に起因する失検出をさらに抑制することができる。すなわち、ある過去フレームにおいて侵入者によるラベル領域21が存在していた場合、現在フレームでも、そのラベル領域21の近傍の画像領域(近傍画像領域22)に同じ侵入者によるラベル領域21が存在している可能性が高い。このため、現在フレームのラベル領域21が、前フレームにおいてラベル領域21の位置していた領域の近傍に位置していたとき、ノイズ判定閾値を小さめに変更することによって、同じ侵入者によって生じた可能性の高いラベル領域21をノイズ抽出とみなさないようにすることができ、誤ったノイズ除去に起因する失検出を抑制することができる。
また、上記のように、ラベル領域21の監視画像上の重心位置が監視画像における予め定めたSN比の小さい領域に位置するときに、当該ラベル領域21のノイズ判定閾値を大きめの値に変更して更新する処理を行うことにより、監視画像の中央領域における失検出を抑制できるとともに、ノイズ抽出の出現しやすい画像外周領域23のようなSN比の小さい領域における誤検出を抑制することができる。
追跡部4bは、抽出部4aが抽出した変化領域を時間的に追跡するもので、抽出部4aによる各処理(抽出処理、ラベリング処理、ラベル統合処理、ノイズ除去処理)で求まったラベル領域21に対し、前回取得した画像の追跡ラベル領域との対応付けをするトラッキング処理を行っている。
なお、追跡ラベル領域とは、これまでに取得した画像において、同一の追跡物体によるラベル領域が常に同じラベルになるように、抽出部4aによるラベリング処理でのラベルと異なるユニークなラベル(以下、追跡ラベルという)を付与し直したラベル領域のことを指す。
特徴量算出部4cは、追跡部4bにて求めた追跡ラベル領域について、侵入者を判定するための特徴量を算出する特徴量算出処理を実行している。本実施形態では、透視変換によって推定される実空間での幅・高さや移動量などを用いて求められる追跡ラベル領域の人らしさを侵入者を判定するための特徴量としている。
判定部4dは、予め定められた判定条件に従い、特徴量算出処理によって算出された特徴量を元に、対象となる追跡ラベル領域(変化領域)が侵入者か否かを判定する侵入者判定処理を実行している。そして、判定部4dは、侵入者ありと判定したときに、その旨の判定信号を出力部5に出力している。
出力部5は、画像処理部4の判定部4dにて侵入者ありと判定された旨の判定信号を外部に出力するもので、例えば表示器やブザーなどで構成される。出力部5は、画像処理部4の判定部4dから侵入者ありの判定信号が入力されると、表示器やブザーを駆動して侵入者ありの旨を報知する。
なお、出力部5は、不図示の警備装置や遠隔の監視センタなどと通信線を介して接続され、画像処理部4の判定部4dから入力された侵入者ありの判定信号を通信線に出力する通信I/Fとして構成することもできる。
(画像監視装置1による侵入者有無の判定処理について)
次に、上記構成による画像監視装置1を用いて監視空間における侵入者の有無を判定する場合の画像処理部4の処理動作について図5を参照しながら説明する。
画像処理部4は、画像監視装置1の電源がオンされると、設定情報取得処理を実行する(ST1)。設定情報取得処理では、予め設定される画像監視装置1に関する設定情報や画像処理部4の各種処理に使用される情報を取得し、取得した情報を記憶部3に格納する。ここで言う情報とは、撮像部2の設置高や俯角、撮像部2より得られる画像の垂直方向及び水平方向の画素数、垂直画角や水平画角、基準画像、各種閾値などである。
次に、画像処理部4は、入力画像取得処理を実行する(ST2)。入力画像取得処理では、撮像部2が監視空間の監視範囲を撮像した監視画像の取得を行う。
次に、画像処理部4の抽出手段4aにより抽出処理を実行する(ST3)。抽出処理では、入力画像取得処理で取得された画像から変化領域を抽出する。本実施形態では、今回取得した監視画像と予め記憶した監視空間の基準画像との差分をとることにより変化領域を抽出する。
なお、画像として熱画像を撮像部2から取得する他の実施形態の場合は、取得した熱画像から温度変化があった領域を変化領域として抽出する。例えば予め過去の熱画像を基準画像として記憶部3に保存しておき、現在の熱画像と基準画像との差分が閾値以上の領域を温度変化があると判定し、この温度変化がある領域を変化領域として抽出する。
次に、画像処理部4の抽出手段4aによりラベリング処理を実行する(ST4)。ラベリング処理では、ST3の抽出処理で求めた変化領域についてラベル付けを行う。例えば注目抽出画素の周囲で隣接する抽出画素をひとまとまりとしてラベル領域21とする手法などが利用できる。また、ラベリング処理では、所定範囲にある複数のラベルを一つのラベルに統合するラベル統合処理を行う。例えばそれぞれのラベルの抽出領域について、設定情報取得処理で得た設置情報(例えば撮像部2の設置高や俯角などの情報)を活用し、画面上での人想定サイズに基づいた領域の位置と大きさを算出する。そして、算出した領域に別のラベルが付与された抽出領域が含まれる場合は、同一のラベルとなるようにラベルを付与し直す。これに対し、画面内にラベル領域21が1つしか存在しない場合は、何も処理を行わない。
次に、画像処理部4における抽出部4aの閾値設定手段12及びノイズ除去手段13によりノイズ除去処理を実行する(ST5)。ノイズ除去処理では、注目するラベル領域21に対するノイズ判定閾値を閾値設定手段12にて設定し、ST4のラベリング処理で得られた個々のラベル領域21がノイズ抽出であるか否かをラベル領域21の面積とノイズ判定閾値との比較によってノイズ除去手段13が判定し、ノイズ抽出と判定された場合は当該ラベル領域21を除去する処理を行う。このノイズ除去処理の詳細については追って説明する。
次に、画像処理部4の追跡部4bにより追跡処理を実行する(ST6)。追跡処理では、ST4のラベリング処理及びST5のノイズ除去処理が施されたラベル領域21に対し、前回取得した監視画像の追跡ラベル領域との対応付けを行う。具体的には、前回取得した監視画像の追跡ラベル領域と現在処理中の監視画像のラベル領域21について、監視画像内での位置関係などをもとに、同一の追跡物体によるものか否かを判別する。そして、同一の追跡物体によるものと判定された場合には、前回取得した監視画像の追跡ラベル領域と同じ追跡ラベルを付与し直す処理を行う。また、現在処理中の監視画像に出現しているラベル領域21であって、前回の追跡ラベル領域のいずれとも対応付けられないラベル領域21については、新規に出現した追跡ラベル領域として追跡を開始し、新たな追跡ラベルを付与する。さらに、前回存在した追跡ラベル領域で、現在処理中の監視画像に出現したラベル領域21のいずれとも対応付けられない追跡ラベル領域については、追跡を終了し、当該ラベルを破棄する。
次に、画像処理部4の特徴量算出部4cにより特徴量算出処理を実行する(ST7)。特徴量算出処理では、ST6の追跡処理で求めた追跡ラベル領域について、侵入者か否かを判定するための特徴量を算出する。具体的には、対象の追跡ラベル領域について、(1)実空間上での推定幅が60cm以上100cm以下、(2)実空間上での推定高さが140cm以上200cm以下という条件を定め、(1)と(2)の条件を満たす場合のみ、追跡ラベル領域の人らしさを1とし、(1)と(2)の条件の何れか一つでも満たさない場合は、追跡ラベル領域の人らしさを0とする。
次に、画像処理部4の判定部4dにより侵入者判定処理を実行する(ST8)。侵入者判定処理では、ST7の特徴量算出処理で求めた侵入者を判定するための特徴量を用い、予め定められた判定条件に従って追跡ラベル領域が侵入者か否かの判定を行う。例えば追跡ラベル領域の人らしさを1フレーム毎に算出し、判定条件として、変化領域の出現時刻からの人らしさの累積値が所定閾値(例えば、5フレーム)以上で、かつ移動量も所定閾値(例えば、10画素)以上のときに、追跡ラベル領域が侵入者であると判定する。その際の閾値は、予め記憶部3に記憶されている。
なお、図5のフローチャートにおいて、ループ1はST2〜ST8の各処理を1フレームの画像取得毎に実行することを意味し、ループ2はST7〜ST8の各処理をラベル領域21の数だけ実行することを意味している。
(ノイズ除去処理の詳細について)
次に、図5のフローチャートにおいて、画像処理部4の抽出部4aが実行するノイズ除去処理について図6を参照しながら説明する。このノイズ除去処理によりノイズ抽出と判定されたラベル領域21については抽出されていないものとして除去され、図5におけるST7の特徴量算出処理以降の処理は行われない。
抽出部4aの閾値設定手段12は、ラベル抽出手段11によるST3の抽出処理にてラベル領域21を抽出すると、この抽出した一又は複数のラベル領域21の中から一つのラベル領域21を選択する(ST11)。次に、抽出部4aの閾値設定手段12は、当該選択したラベル領域21の画像上の座標について透視変換処理を行い(ST12)、選択したラベル領域21に対応する物体と撮像部2との間の監視空間における想定距離を算出する。図2の例では、上述したように、ラベル領域21aの想定距離が8mであり、ラベル領域21bの想定距離が6mと求められたとする。
そして、抽出部4aの閾値設定手段12は、監視空間におけるラベル領域21に対応する物体の位置と撮像部2との間の想定距離を算出すると、算出した想定距離に見合ったノイズ判定閾値を設定する(ST13)。図2の例では、上述したように、基準閾値を30画素、基準距離を1mとして、ラベル領域21aのノイズ判定閾値が30×exp{(1−8)/10}≒14.9となり、ラベル領域21bのノイズ判定閾値が30×exp{(1−6)/10}≒18.2となる。このように、ラベル領域21の想定距離を算出し、当該想定距離が大きくなるほど小さい値をとるようノイズ判定閾値を求め、当該ノイズ判定閾値を用いてノイズ除去を行うことによって、侵入者による抽出をノイズ抽出とみなして誤って除去することを防ぎ、侵入者の失検出を抑制することができる。
続いて、ST13の処理によりノイズ判定閾値を設定すると、抽出部4aの閾値設定手段12は、近傍画像領域を用いてノイズ判定閾値を更新する処理を行う。この処理では、まず、現在フレームのラベル領域21の重心位置Gが前フレームのラベル領域21の近傍領域(近傍画像領域22)内に位置するか否かを判別する(ST14)。そして、現在フレームのラベル領域21の重心位置Gが近傍画像領域22内に位置していると判定すると、ノイズ判定閾値を小さめの値に更新して設定し(ST15)、次の処理(ST16)に移行する。これに対し、現在のフレームのラベルが近傍画像領域22に位置しないと判定すると、そのまま次の処理(ST16)に移行する。このように、現在フレームのラベル領域21が近傍画像領域22に位置していたとき、当該ラベル領域21のノイズ判定閾値を小さめの値に更新して変更することにより、誤ったノイズ除去に起因する失検出をさらに抑制することができる。
次に、抽出部4aの閾値設定手段12は、ラベル領域21が画像外周領域23に位置するか否かを判別する(ST16)。そして、ラベル領域21が画像外周領域23に位置すると判定すると、抽出部4aの閾値設定手段12は、ノイズ判定閾値を大きめの値に更新して設定し(ST17)、次の処理(ST18)に移行する。これに対し、ラベル領域21が画像外周領域23に位置しないと判定すると、そのまま次の処理(ST18)に移行する。これにより、監視画像において特に大きめのノイズ抽出が発生し易いSN比の小さい領域(画像外周領域23)における誤検出を抑制できるとともに、それ以外の領域における失検出をさらに抑制することができる。
次に、抽出部4aのノイズ除去手段13は、ラベル領域21の面積とノイズ判定閾値とを比較し、ラベル領域21の面積がノイズ判定閾値以下か否かを判別する(ST18)。そして、ラベル領域21の面積がノイズ判定閾値以下であると判定すると、そのラベル領域21をノイズ抽出として除去する(ST19)。これに対し、ラベル領域21の面積がノイズ判定閾値以下でないと判定すると、そのラベル領域21は有効なものとして記憶部3に保持する。
なお、図6のフローチャートにおいて、ループ3はST11〜ST19の各処理をラベル領域21の数だけ実行することを意味している。また、ST14,ST15の処理とST16,ST17の処理に関しては、必要に応じて選択処理が可能であり、これらの処理を削除することもできる。
ところで、本発明は、上記実施形態に限定されるものではなく、特許請求の範囲に記載した技術的思想の範囲内で、更に種々の異なる実施形態で実施されてもよいものである。また、実施形態に記載した効果は、これに限定されるものではない。
前記実施形態では、抽出部4aの閾値設定手段12は、ラベル領域21の監視画像上における位置(例えば、ラベル領域21の最上部のy座標)と、設置情報(設置位置、撮影方向など)とを用いて既知の透視変換処理を行うことにより、ラベル領域21の想定距離をラベル毎に算出している。しかし、これに限らず、閾値設定手段12は、監視画像を複数の分割画像領域に分割して、各分割画像領域の監視空間における撮像部2からの実距離である領域距離を予め対応付けた距離テーブルを参照し、抽出されたラベル領域21の監視画像上における位置と当該距離テーブルとから当該ラベル領域21の想定距離を求めてもよい。
図7は当該別の実施形態を説明するために用いた距離テーブルの一例である。図7に示すように、距離テーブルは、撮像部2の設置位置(設置高)及び撮像部2の撮影方向(俯角)といった設置情報と、分割画像領域の範囲(例えば、監視画像上におけるラベル領域21のy座標の範囲)と、領域距離とを対応付けたテーブル情報として、記憶部3に記憶されていることとする。なお、図7の距離テーブルにおける領域距離は、抽出部4aの閾値設定手段12にて、分割画像領域の重心位置と撮像部2の設置情報とを用いて、既知の透視変換処理により算出した値が、距離テーブルにおける領域距離として予め設定されていることとする。この例の場合、撮像部2の設置高が2m、俯角が25degであるとき、分割画像領域は図8(a)に例示しているように3つの領域で表すことができる。すなわち、領域Aが監視画像上のy座標として1〜99の領域であり、領域Bが監視画像上のy座標として100〜199の領域であり、領域Cが監視画像上のy座標として200〜320の領域である。そして、図8(a)のように、ラベル領域21の位置(例えば、ラベル領域21の最下部のy座標)が分割画像領域Aの範囲内に位置しているとき、当該ラベル領域21の想定距離を分割画像領域Aの領域距離である12mとして概算する。このように、分割画像領域毎に求めた領域距離を用いて想定距離を算出することにより、ラベル領域21が抽出される毎に想定距離を算出する必要が無く、ラベル領域21の監視画像上の位置に基づいて想定距離を直接的に求めることができるため、ノイズ判定に必要な計算量を減らすことができる。なお、上記他の実施形態では、分割画像領域の範囲を、監視画像上におけるラベル領域21のy座標の範囲として設定しているが、これに限らず、閉領域を形成する各頂点のx、y座標からなる範囲として設定してもよい。
また、前記実施形態では、抽出部4aの閾値設定手段12は、求めた想定距離と予め決められた基準閾値および基準距離とを用いて、ラベル領域21毎に(ノイズ判定閾値)=(基準閾値)×exp[{(基準距離)−(想定距離)}/10]の計算式からノイズ判定閾値を算出している。しかし、これに限らず、閾値設定手段12は、想定距離の所定範囲毎にノイズ判定閾値を設定した閾値テーブルを参照し、ラベル領域21の想定距離と閾値テーブルとから当該ラベル領域21のノイズ判定閾値を求めても良い。例えば、閾値テーブルの想定距離範囲を0〜3m、3〜7m、7〜∞mとして3つの範囲に区分けし、想定距離範囲毎にノイズ判定閾値をそれぞれ、30画素、20画素、15画素と対応付けたテーブルとして、予め記憶部3に記憶しておく。そして、ラベル領域21の想定距離が5mと算出されたとき、閾値テーブルを参照して、当該ラベル領域21のノイズ判定閾値を20画素と求める。このように、想定距離範囲を用いてノイズ判定閾値を求めることにより、ラベル領域21が抽出される毎にノイズ判定閾値を算出する必要が無く、ラベル領域21の監視画像上の位置に基づいてノイズ判定閾値を直接的に求めることができるため、ノイズ判定に必要な計算量を減らすことができる。
また、前記実施形態では、抽出部4aの閾値設定手段12は、ラベル領域21の位置と設置情報(設置位置、撮影方向など)とから透視変換処理することによって想定距離を算出し、当該想定距離に基づいてノイズ判定閾値を算出している。しかし、これに限らず、ラベル領域21の画像上の位置と設置情報とから、想定距離として、所定位置を基準とした「遠い/近い」を表す相対値を求め、当該相対値に基づいてノイズ判定閾値を算出してもよい。例えば、設置情報として、「撮像部2が監視空間を高所から斜めに見下ろす方向に設置されている」といった情報が予め記憶部3に設定されていた場合、一般的に監視画像の上の画像領域にラベル領域21が存在するほど、当該ラベル領域21の物体は、監視空間における撮像部から遠方の位置に存在していることが推定できる。そこで、ラベル領域21のy座標からラベル領域21の想定距離として相対値を求める。図8(b)の例では、係数αは、撮像部2に最も近い監視画像の下端位置の値を1とし、撮像部2から最も離れた監視画像の上端位置の値を0.5として、その間が距離に応じて等分割した値であり、監視画像の下端位置を基準(α=1)としたときのラベル領域21の想定距離の相対値である。すなわち、監視画像の垂直方向の画素数をYmax(本実施例では、320画素)としたとき、y座標に位置するラベル領域21の係数αをα=0.5y/Ymax+0.5=0.5y/320+0.5により求める。そして、ラベル領域21が監視画像の下端に位置していたとき(α=1)のノイズ判定閾値を基準閾値(例えば、30画素)として予め設定していたとき、ノイズ判定閾値=α×基準閾値の計算式からノイズ判定閾値を算出する。例えば、図8(b)のラベル領域21の位置Pのy座標が64であるとき、係数αはα=0.5×64/320+0.5=0.6と求めることができ、当該ラベル領域21のノイズ判定閾値は、0.6×30画素=18画素として算出することができる。このように、透視変換処理を用いることなく想定距離を概算してノイズ判定閾値を概算することにより、ノイズ判定に必要な計算量を更に減らすことができる。
1 画像監視装置
2 撮像部
3 記憶部
4 画像処理部
4a 抽出部
4b 追跡部
4c 特徴量算出部
4d 判定部
11 ラベル抽出手段
12 閾値設定手段
13 ノイズ除去手段
20 監視画像
21 ラベル領域
22 近傍画像領域
23 画像外周領域
24 内側領域

Claims (4)

  1. 監視空間を撮像して監視画像を出力する撮像部と、前記監視画像と基準画像とを比較して変化領域を抽出する抽出部と、前記変化領域の特徴から物体を判定する判定部と、を具備する画像監視装置であって、
    前記抽出部は、過去の所定期間において前記変化領域が位置していた画像領域を含む所定範囲の近傍画像領域を設定し、現在の前記変化領域が該近傍画像領域に位置していたとき、該変化領域がノイズか否かを判定するための閾値を小さい値となるよう設定し、該閾値より小さい面積の前記現在の変化領域をノイズと判定し除去することを特徴とした画像監視装置。
  2. 前記監視空間における前記撮像部の設置位置及び撮影方向からなる設置情報を記憶する記憶部を更に備え、
    前記抽出部は、前記変化領域の前記監視画像上の位置と前記設置情報とから前記監視空間における該変化領域の物体と前記撮像部との間の距離を示す想定距離を求め、前記閾値を該想定距離が大きくなるほど小さい値となるよう設定する請求項1に記載の画像監視装置。
  3. 前記抽出部は、前記監視画像の画像領域を複数の部分画像領域に分割し、該部分画像領域の画像上の位置と前記設置情報とから前記監視空間における該部分画像領域の実位置と前記撮像部との間の距離である領域距離を求めて部分画像領域毎に予め設定しておき、前記変化領域が位置している前記部分画像領域の前記領域距離を前記想定距離とする請求項2に記載の画像監視装置。
  4. 前記抽出部は、前記変化領域が前記監視画像における信号雑音比の小さい所定領域に位置するとき、前記閾値を大きめに変更する請求項1〜3の何れかに記載の画像監視装置。
JP2012008160A 2012-01-18 2012-01-18 画像監視装置 Active JP5877722B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012008160A JP5877722B2 (ja) 2012-01-18 2012-01-18 画像監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012008160A JP5877722B2 (ja) 2012-01-18 2012-01-18 画像監視装置

Publications (2)

Publication Number Publication Date
JP2013149025A JP2013149025A (ja) 2013-08-01
JP5877722B2 true JP5877722B2 (ja) 2016-03-08

Family

ID=49046482

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012008160A Active JP5877722B2 (ja) 2012-01-18 2012-01-18 画像監視装置

Country Status (1)

Country Link
JP (1) JP5877722B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7359707B2 (ja) 2020-01-28 2023-10-11 フタバ産業株式会社 プレス成形品の製造方法、及びプレス成形品の製造装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160225160A1 (en) * 2013-09-26 2016-08-04 Mitsubishi Electric Corporation Monitoring camera, monitoring system, and motion detection method

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001148077A (ja) * 1999-11-19 2001-05-29 Fujitsu General Ltd 侵入者検出装置
US7035430B2 (en) * 2000-10-31 2006-04-25 Hitachi Kokusai Electric Inc. Intruding object detection method and intruding object monitor apparatus which automatically set a threshold for object detection
JP4389602B2 (ja) * 2004-02-24 2009-12-24 パナソニック電工株式会社 物体検出装置、物体検出方法、プログラム
JP4628860B2 (ja) * 2005-05-10 2011-02-09 セコム株式会社 画像センサ
JP5356728B2 (ja) * 2008-05-26 2013-12-04 株式会社トプコン エッジ抽出装置、測量機、およびプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7359707B2 (ja) 2020-01-28 2023-10-11 フタバ産業株式会社 プレス成形品の製造方法、及びプレス成形品の製造装置

Also Published As

Publication number Publication date
JP2013149025A (ja) 2013-08-01

Similar Documents

Publication Publication Date Title
JP6554169B2 (ja) 物体認識装置及び物体認識システム
JP5218168B2 (ja) 撮像装置、動体検知方法、動体検知回路、プログラム、及び監視システム
US8218814B2 (en) Image data processing apparatus and method for object detection and judging suspicious objects
CN108010008B (zh) 目标的追踪方法、装置及电子设备
JP6036824B2 (ja) 画角変動検知装置、画角変動検知方法および画角変動検知プログラム
JP5903308B2 (ja) 画像監視装置
US20210342807A1 (en) System and methods for automatic detection of product insertions and product extraction in an open shopping cart
JP5832910B2 (ja) 画像監視装置
US20130103299A1 (en) Apparatus for monitoring vicinity of a vehicle
JP2016085487A (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
KR101921610B1 (ko) 촬영영상으로부터 객체를 감시하기 위한 장치 및 방법
JP6292540B2 (ja) 情報処理システム、情報処理方法及びプログラム
CN101715070B (zh) 特定监控视频中的背景自动更新方法
JP5865710B2 (ja) 画像処理装置
JP5877722B2 (ja) 画像監視装置
JP5805511B2 (ja) 画像監視装置
JP2013143580A (ja) 画像監視装置
JP5877725B2 (ja) 画像監視装置
JP4828265B2 (ja) 画像センサ
JP5236592B2 (ja) 不審物検知装置
JP4936952B2 (ja) 不審物監視装置
JP2020149132A (ja) 画像処理装置及び画像処理プログラム
JP2007249743A (ja) 移動物体の識別方法、移動物体の識別装置、及び移動物体の識別処理を実行させるプログラム
JP6780639B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP2008165705A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151028

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160126

R150 Certificate of patent or registration of utility model

Ref document number: 5877722

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250