JP5049027B2 - 警戒センサ - Google Patents

警戒センサ Download PDF

Info

Publication number
JP5049027B2
JP5049027B2 JP2007035337A JP2007035337A JP5049027B2 JP 5049027 B2 JP5049027 B2 JP 5049027B2 JP 2007035337 A JP2007035337 A JP 2007035337A JP 2007035337 A JP2007035337 A JP 2007035337A JP 5049027 B2 JP5049027 B2 JP 5049027B2
Authority
JP
Japan
Prior art keywords
warning
face
person
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007035337A
Other languages
English (en)
Other versions
JP2008198124A (ja
Inventor
健一 萩尾
栄次 中元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2007035337A priority Critical patent/JP5049027B2/ja
Publication of JP2008198124A publication Critical patent/JP2008198124A/ja
Application granted granted Critical
Publication of JP5049027B2 publication Critical patent/JP5049027B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)

Description

本発明は、撮像した画像を元に画像中の人が登録者か否かを識別し、非登録者である場合にその位置や滞在時間等に応じて警戒レベルを設定する警戒センサに関するものである。
従来より、熱線を検知するセンサを用いた警戒センサがあった。この警戒センサは、警戒対象エリアに人が入ることで生じる熱線の変化を検出して警戒を行うものであり、例えば複数のセンサを建物からの距離に応じて熱線を検出するようにそれぞれ配置することで、建物からの距離に応じた複数の警戒レベルを設定することができる。
この警戒センサでは、警戒対象エリアに侵入した検出対象を熱源としてしか捉えることができないので、検出対象が人か否かを判別することができず、例えば猫が侵入した場合でも警戒状態となることがあった。また、検出対象が人である場合でも、その人が家人か否かを判別することはできず、家人は別途警戒を解除するための操作が必要であった。
そこで、警戒対象エリアに入ってきた人が家人か否かを判別するために、撮像装置を用いた不審者対策システムが提案されている(例えば、特許文献1参照)。この不審者対策システムは、例えばデジタルビデオカメラ等の撮像装置を備えており、この撮像装置で撮像した画像を元に家人か否かが判別される。
まず、撮像装置で撮像した画像から顔検出部が人の顔を検出し、検出された顔の位置や大きさや向き等を示す顔情報を特定する。この顔情報は人物追跡部に入力され、人物追跡部では顔情報を受け取ると顔照合部に対して検出した顔の人物の照合を指示する。顔照合部は、顔情報に基づいて予め登録された個人データベースとの照合を実行し、照合結果を人物追跡部に入力する。さらに人物追跡部では、顔照合部の照合結果を元に例えば人物の停滞時間等を算出し、停滞時間が閾値以上である場合には、この人物に対する警戒レベルを取得するように警戒レベル判断部に指示する。そして、警戒レベル判断部では、取得した停滞時間等に基づいて人物に対する警戒レベルを設定するとともに、対策処理装置に対して警戒レベルを出力する。対策処理装置では、警戒レベル判断部から出力された警戒レベルに応じて検出した人物に対する対策処理が実施される。
特開2006−11728号公報(第7頁−第12頁、及び、第1図−第6図)
上述の特許文献1に示した不審者対策システムでは、撮像装置で撮像した画像から顔検出部が人の顔を検出することで警戒対象エリア内の人の存否を判断しているので、顔検出部が顔を検出できない場合には、人の存否を判断できず不審者が警戒対象エリアにいるにもかかわらず適切な警戒が行われない虞があった。
本発明は上記問題点に鑑みて為されたものであり、その目的とするところは、誤動作を低減し且つ状況に応じて警戒レベルが設定できる警戒センサを提供することにある。
請求項1の発明は、対象空間を撮像する撮像手段と、撮像手段が撮像した画像において人の存否を検出する人検出手段と、画像において顔を検出する顔検出手段と、認証用の顔画像が予め登録されたデータベースと、検出した顔画像とデータベースに登録された顔画像とが一致するか否かを判断する認証手段と、人検出手段が人を検出したにもかかわらず顔検出手段が顔を検出できない場合又は正面顔を検出できない場合の少なくとも何れか一方において警戒レベルを高レベルに設定し、顔検出手段が顔を検出できた場合は認証手段の認証結果に応じて警戒レベルを設定する警戒レベル設定手段と、設定された警戒レベルに応じた警告を行う警告手段とを備えたことを特徴とする。ここに、上記警戒レベルとしては、「安全」レベル(警戒状態を解除するレベル)から最高度の警戒を行う「警告」レベルの間で複数のレベルが設定される。
請求項2の発明は、撮像手段は、所定周波数の変調信号で強度を変調した信号光を対象空間に照射する投光手段と、対象空間に存在する対象物で反射された信号光を受光する複数の画素を有し各画素毎に受光光量の変化に応じた受光出力を得る受光手段と、投光手段及び受光手段を変調信号の位相に同期させて制御する制御手段と、投光手段が対象空間に信号光を照射するときの受光出力と照射しないときの受光出力の差分を各画素毎に求め、当該差分を画素値とする振幅画像を生成する振幅画像生成手段とを備えたことを特徴とする。
請求項3の発明は、警告手段は、人検出手段が人を検出したにもかかわらず顔検出手段が顔を検出できない場合又は正面顔を検出できない場合の少なくとも何れか一方において、撮像手段側を向くように対象空間にいる人を誘導する誘導手段を備えたことを特徴とする。
請求項4の発明は、顔検出手段が顔を検出できた場合の動作モードを、認証手段の認証結果に応じて警戒レベルを設定する顔認証警戒モード、又は、顔検出手段が正面顔を検出すると警戒状態を解除するレベルに設定する簡易警戒モードの何れか一方に設定する警戒モード設定手段を設けたことを特徴とする。
請求項5の発明は、画像中の人の大きさを元に撮像手段から当該人までの概距離を推定する距離推定手段を有し、警戒レベル設定手段は、概距離に応じて警戒レベルを設定することを特徴とする。ここに、人の大きさとは、体全体の大きさのみならず、顔の大きさを含むものである。
請求項6の発明は、撮像手段から対象空間にいる人までの概距離を計測する距離計測手段を設け、警戒レベル設定手段は、概距離に応じて警戒レベルを設定することを特徴とする。
請求項7の発明は、警戒レベル設定手段は、概距離に応じてレベルが設定される複数の警戒レベルを有し、概距離が近いほど高レベルの警戒レベルに設定することを特徴とする。
請求項8の発明は、人検出手段は、画像中の人の大きさを元にズーム倍率を調整して画像中の顔の大きさをデータベースに登録された顔画像と略同サイズに拡大又は縮小の少なくとも何れか一方を行うズーム制御手段を備えたことを特徴とする。
請求項9の発明は、人検出手段は、画像中の人の滞在位置又は大きさの少なくとも何れか一方を元に概位置を推定する位置推定手段を有し、警戒レベル設定手段は、対象空間を複数のエリアに分割し各エリア毎に警戒レベルを設定可能とする警戒レベル設定テーブルを有し、概位置に対応するエリアに設定された警戒レベルを警戒レベル設定テーブルから取得し設定することを特徴とする。
請求項10の発明は、人検出手段は、人が対象空間に留まる滞在時間を計測する滞在時間計測手段を有し、警戒レベル設定手段は、滞在時間が長いほど警戒レベルを高レベルに設定することを特徴とする。
請求項11の発明は、人検出手段は、画像から背景を除く物体を検出する物体検出手段と、検出した物体の特徴量を抽出し当該特徴量を人の特徴量と比較して物体が人か否かを判別する人判別手段とからなり、人判別手段が人でないと判断した際の警告の要否を設定する警告設定手段を警告手段に設けたことを特徴とする。
請求項1の発明によれば、人検出手段及び顔検出手段を設けているので、人がいるにもかかわらず顔が検出できない状態を把握することができる。従って、顔が検出できない場合には、不審者であると判断して警戒レベルを高レベルに設定し、顔が検出できた場合には、認証手段の認証結果に応じて警戒レベルを設定することができるので、対象空間にいる人の状況に応じて柔軟に警戒を行うことができるという効果がある。
請求項2の発明によれば、投光手段が信号光を対象空間に照射しているときの受光出力と照射していないときの受光出力の差分を各画素毎に求め、この差分を画素値とする振幅画像を生成することで、外光による影響を除去して照射光の成分のみを抽出することができる。従って、対象空間が屋外等の外光の変動が激しい場所であっても高精度の画像を得ることができ、認証性能を向上させることができるという効果がある。
請求項3の発明によれば、人検出手段が人を検出したにもかかわらず顔検出手段が顔を検出できない場合又は顔は検出できたが正面顔を検出できない場合の少なくとも何れか一方において、誘導手段が対象空間にいる人に対して撮像手段側に顔を向けるように誘導するので正面顔を検出することができ、従って顔認証を精度よく且つ確実に行うことができるという効果がある。また、誘導手段により誘導しているにもかかわらず顔又は正面顔を検出できない場合は、対象者が意識的に撮像手段側に顔を向けないようにしており不審者である可能性が高いので、対象者に対して効果的な警告を行うことができるという効果がある。
請求項4の発明によれば、簡易警戒モードにおいて、顔検出手段が正面顔を検出できた場合には、撮像されているにもかかわらず撮像手段側に顔を向けているから不審者でないと判断して警戒状態を解除するので、顔認証を行う処理を省くことができ、処理速度が向上するとともに応答速度が向上するという効果がある。また、撮像手段側に顔を向けるだけで警戒状態を解除することができるので、警戒状態の解除操作を省くことができ、迅速に警戒状態を解除することができるという効果がある。さらに、対象空間にいる人が撮像手段から離れた位置にいる場合、顔画像が小さく顔認証が難しい場合があるが、顔画像が小さくても正面顔か否かの判断は可能であるため、正面顔を検出することで警戒状態を解除することができ、従って対象空間を広く設定することができるという効果もある。
請求項5の発明によれば、距離推定手段が画像中の人の大きさを元に撮像手段から対象空間にいる人までの概距離を推定し、警戒レベル設定手段が推定距離に応じて警戒レベルを設定しているので、対象空間にいる人がある一定距離以上撮像手段に近づいたら警告するように設定することができ、通りに面した場所に設置した場合でも通行人に対して誤って警告するような誤動作を低減させることができるという効果がある。
請求項6の発明によれば、距離計測手段が撮像手段から対象空間にいる人までの概距離を計測し、警戒レベル設定手段が計測距離に応じて警戒レベルを設定しているので、対象空間にいる人がある一定距離以上撮像手段に近づいたら警告するように設定することができ、通りに面した場所に設置した場合でも通行人に対して誤って警告するような誤動作を低減させることができるという効果がある。
請求項7の発明によれば、不審者が撮像手段に近づくほど建物に侵入される危険度が高まると判断できるので、距離に応じてレベルが設定される複数の警戒レベルを設け、警戒レベル設定手段により距離が近いほど高レベルの警戒レベルに設定することによって、警戒レベル設定手段は距離に応じてどの警戒レベルに設定するかを判断するだけでよく、危険度に応じた警告を簡易的に行うことができるという効果がある。
請求項8の発明によれば、人検出手段が人を検出した際に画像中の人の大きさを元に顔の大きさがデータベースに登録されている顔画像と略同サイズか否かを判断し、サイズが異なる場合には同サイズとなるようにズーム制御手段によりズーム倍率を調整するので、顔検出が容易になり且つ顔認証に適切な顔画像を得ることができる。従って、顔画像を元に顔認証が行えるエリアを拡げることができ、広範囲の警戒を行うことができるという効果がある。
請求項9の発明によれば、対象空間を複数のエリアに分割し、各エリア毎に警戒レベルを設定する警戒レベル設定テーブルを設けているので、各エリア毎に警戒レベルを設定することによって、対象空間全体の警戒レベルを設置場所等に応じて容易に設定することができるという効果がある。
請求項10の発明によれば、滞在時間計測手段で人が対象空間に留まる滞在時間を計測し、この滞在時間が長くなるほど警戒レベルを高レベルに設定するので、不審者が警戒レベルの低い場所にいる場合であっても、長い時間留まっている場合には危険であると判断して警戒レベルを高レベルに設定することができ、危険度に応じた警告を行うことができるという効果がある。
請求項11の発明によれば、物体検出手段により検出した物体が人以外の物体であると判別された場合には、警告を行わないようにすることができ、誤動作を低減することができるという効果がある。また、警告手段に人以外の物体を検出した際に警告を行うか否かの警告設定手段を設けているので、ユーザーが設置場所等に応じて警告するか否かを自由に選択することができるという効果がある。
(第1の実施形態)
第1の実施形態を図1〜図3に基づいて説明する。本発明に係る警戒センサAは、図3に示すように、例えば住宅Cの玄関E付近に設置され、敷地D内に入ってくる人Pを撮像画像から検出して警戒を行うものである。
本実施形態の警戒センサAは、図1に示すように敷地Dの内外に設定した警戒エリアBを撮像する撮像部1と、撮像部1で撮像した画像から人を検出する人検出部2と、撮像部1で撮像した画像から顔を検出する顔検出部3と、認証用の顔画像を記憶する顔データベース7と、顔検出部3で検出した顔画像が顔データベース7に登録された顔画像と一致するか否かを判断する認証部4と、認証部4の認証結果に応じて警戒レベルを設定する警戒レベル設定部5と、設定された警戒レベルに応じて警告を行う警告部6と、警戒センサAの動作モードを警戒エリアB内を警戒する警戒モード又は顔画像を登録する登録モードの何れかに設定するモード制御部9と、登録モードに設定されると検出した顔画像を登録し、顔データベース7に記憶させる登録部8とを備えている。ここに、人検出部2、顔検出部3、認証部4、警戒レベル設定部5等は、コンピュータの演算機能により実現されている。
まず、撮像部1について説明する。撮像部1は、例えばCCDカメラからなり、警戒エリアBを常時撮像する。尚、撮像部1は熱線検知センサ等(図示せず)からの入力信号(トリガ信号)により起動し、警戒エリアBを撮像するように構成してもよい。そして、撮像部1で撮像した画像データは人検出部2に入力される。
次に、人検出部2について説明する。人検出部2は、撮像部1で撮像した画像から背景以外の物体を検出する物体検出部20と、物体検出部20で検出した物体から大きさや縦横比等の特徴量を抽出し、予め登録した人の特徴量と比較することでこの物体が人か否かを判別する人判別部21とを有しており、撮像部1で撮像した画像データが入力されると当該画像中の人の存否を検出する処理を行う。検出方法としては、例えば時間的に異なる画像間の差分を各画素毎に求め、明るさに変化のあった画素を検出するフレーム間差分方式を用いる。この場合、画像間の差分が所定の閾値以上であれば明るさの変化があったことを示すが、物体検出部20が明るさの変化があった画素を検出しグループ化することで明るさの変化があった領域、すなわち警戒エリアBに存在する物体が抽出される。さらに、人判別部21がこの検出物体からその大きさや縦横比等の特徴量を抽出し、これらの特徴量を予め登録された人の特徴量と比較することで人か否かを判別する。そして、人検出部2で人Pが検出されると、画像データは顔検出部3に入力される。
さらに、顔検出部3について説明する。顔検出部3は、人検出部2で人Pが検出されると人検出部2から画像データが入力され、入力画像から顔を検出する処理を行う。顔を検出する方法としては、例えば多数の人の顔から予め平均顔を生成しておき、この平均顔をテンプレートとして入力画像をスキャンする。そして、入力画像からテンプレートとの一致度が所定の閾値を超える部位を検出した上で、最も一致度が高い部位を顔位置として認識する。この際、入力画像に合わせてテンプレートの大きさを変えたり、回転させて向きを変えることで、顔の検出精度を向上させることができる。尚、本実施形態では人検出部2が人Pを検出した場合に顔検出部3に画像データを入力するように構成しているが、人検出部2が人Pを検出したか否かに関わらず、顔検出部3に画像データを入力するように構成してもよい。
次に、認証部4について説明する。認証部4は、顔検出部3で検出した顔画像(以下、検出画像という。)と、顔データベース7に予め登録された少なくとも1つ以上の顔画像(以下、登録画像という。)とを比較し、検出画像が登録画像の何れかに一致するか否かにより登録者か否かを判断する。認証方法としては、各登録画像をテンプレートとして、検出画像において顔が検出された位置付近をスキャンし、テンプレートとの一致度が所定の閾値を超えるか否かにより認証を行う。この際、検出画像の顔の大きさを登録画像の顔の大きさと略同じ大きさとなるように正規化を行ったり、検出画像を回転させて一致度を算出することで、認証精度を向上させることができる。尚、認証処理の精度を向上させるために、検出画像は正面顔であることが好ましい。
さらに、警戒レベル設定部5について説明する。警戒レベル設定部5は、認証部4による認証結果に応じて警戒エリアBで検出された人Pに対する警戒レベルを設定する。例えば、警戒エリアBにいる人が登録者である場合、すなわち認証に成功した場合には、警戒レベルを例えば「安全」に設定し警戒を解除する。逆に、警戒エリアB内にいる人が非登録者である場合、すなわち認証に失敗した場合には、警戒レベルを例えば「注意」に設定し、後述する警告部6を介して警告を行う。また、警戒レベル設定部5は、人検出部2が人Pを検出したにもかかわらず顔検出部3が顔を検出できない場合又は顔は検出できたが正面顔を検出できない場合に、警戒レベルを高レベル、例えば「警告」に設定し、警告部6を介して非登録者に対して威嚇を行う。
次に、警告部6について説明する。警告部6は、例えば音声合成部やスピーカー等で構成されており、警戒レベル設定部5が設定した警戒レベルに応じて警告を行う。例えば、警戒レベルが「安全」に設定されている場合には、警告部6は警告を行うことなく警戒が解除され、警戒レベルが「警告」に設定されている場合には、例えば「ここは立入り禁止です」等の音声や「ピーピー」等の警告音を組み合わせて威嚇を行う。また、警告部6は、人判別部21で検出物体が人でないと判断された場合における警告の要否を設定する警告設定部22が設けられており、警告設定部22が警告要に設定されると、人判別部21で検出物体が人でないと判断された場合でも、検出物体に対して例えば「ピーピー」等の音により威嚇を行う。逆に、警告設定部22が警告不要に設定されると、警戒レベル設定部5により警戒レベルが「安全」に設定され警戒が解除される。従って、警戒設定部22が警告不要に設定されている場合には、例えば犬や猫等が警戒エリアB内に入った際に誤って警告することがなく、誤動作を低減することができる。また、警告設定部22で警告の要否を設定することで、家人等が警戒センサAの設置場所等に応じて警告の要否を自由に選択することができる。
さらに、モード制御部9について説明する。モード制御部9は、切替スイッチ(図示せず)を有しており、切替スイッチを切り替えることで警戒センサAの動作モードが警戒エリアB内を警戒する警戒モード又は撮像部1で撮像した画像から検出した顔画像を登録する登録モードの何れかに切り替えられる。このモード制御部9は、切替スイッチにより動作モードが設定されると、設定された動作モードに対応するモード信号を認証部4に出力する。尚、切替スイッチは、家人等が手動操作可能な位置に設けられていればよく、必ずしも警戒センサAの筐体(図示せず)と一体的に設けなくてもよい。また、切替スイッチは、手動操作により切り替えるスイッチに限定されるものではなく、音声操作により切り替えるものであってもよい。
次に、登録部8について説明する。登録モードに対応するモード信号がモード制御部9から認証部4に入力されると、登録部8には認証部4から入力画像の登録要求信号が入力され、登録要求を受けた登録部8は、顔検出部3から入力された顔画像に例えば登録番号等を割付け、登録画像データを作成する。そして、登録画像データを顔データベース7に出力し、顔データベース7に記憶させる。尚、1人の登録者について登録する顔画像は、1枚でもいいし、複数枚であってもよい。
ここで、警戒センサAの動作について説明する。最初に、登録モードに設定されている場合の動作について図2に基づいて説明する。まず、待機状態(S1)において、例えば熱線検知センサ(図示せず)等からの入力信号(トリガ信号)が入力されると(S2)、警戒エリアB内に入ってきた人Pが登録者か否かを同定する処理を開始する(S3)。次に、モード制御部9により警戒センサAの動作モードが登録モードに設定されていると(S4)、撮像部1で撮像した画像データが人検出部2に入力される(S5)。そして、人検出部2で入力画像から人Pの検出が行われ(S6)、人Pが検出されない場合(S7)は、人Pが検出されるまでS6及びS7の処理を順次繰り返す。そして、人Pが検出されると(S7)、画像データが顔検出部3に入力され(S8)、顔検出部3でテンプレートを用いて顔の検出が行われる(S9)。顔検出部3で顔が検出できない場合又は正面顔を検出できない場合(S10)は、正面顔が検出できるまでS9及びS10の処理を繰り返し、顔が検出された場合(S10)は、所定の大きさに正規化される。そして、S10で正規化された顔画像は、登録部8に入力されて登録画像データが作成され(S11)、登録部8は登録画像データを顔データベース7に記憶させる(S12)。
次に、警戒エリアB内を警戒する警戒モードに設定されている場合の警戒センサAの動作について図2に基づいて説明する。まず、待機状態(S1)において、熱線検知センサからのトリガ信号が入力されると(S2)、警戒エリアB内に入ってきた人Pが登録者か否かを同定する処理を開始する(S3)。次に、モード制御部9により警戒センサAの動作モードが警戒モードに設定されていると(S4)、撮像部1で撮像した画像データが人検出部2に入力される(S13)。そして、物体検出部20で入力画像から物体の検出が行われ、物体が検出されない場合(S14)は、所定時間が経過(S16)するまでS13、S14、S16の処理が順次繰り返され、所定時間が経過(S16)すると警戒エリアB内に物体はないと判断して待機状態に戻る(S1)。また、物体検出部20で物体が検出された場合(S14)は、人判別部21で人か否かが判別され、人判別部21が人でないと判断した場合(S15)は、警告設定部22が警告要に設定されていると(S27)警告部6が警告を行い(S28)、警告設定部22が警告不要に設定されていると(S27)待機状態に戻る(S1)。さらに、人判別部21が人だと判断した場合(S15)は、画像データが顔検出部3に入力され(S17)、顔検出部3でテンプレートを用いて顔の検出が行われる(S18)。顔検出部3で顔が検出されない場合(S19)は、所定時間が経過(S20)するまでS17〜S20の処理が順次繰り返され、所定時間が経過(S20)すると人が検出されているにもかかわらず顔又は正面顔が検出できないことから危険であると判断し、警戒レベル設定部5が警戒レベルを高レベルに設定する(S23)。そして、設定された警戒レベルに応じて警告部6が警告を行う(S24)。また、顔検出部3で顔が検出された場合(S19)は、検出した顔画像が認証部4に入力され、認証部4で入力された顔画像について顔データベース7に登録された登録画像との照合が行われる(S21)。そして、認証に成功した場合(S22)には、警戒エリアBにいる人が登録者であると判断し待機状態に戻り(S1)、認証に失敗した場合(S22)には、警戒エリアBにいる人が非登録者であると判断し、警戒レベル設定部5により警戒レベルが設定され(S25)、設定された警戒レベルに応じて警告部6が警告を行う(S26)。
本実施形態の警戒センサAでは、人検出部2及び顔検出部3を設けているので、人Pがいるにもかかわらず顔が検出できない状態を把握することができる。従って、顔が検出できない場合には、人Pが不審者であると判断して警戒レベルを高レベルに設定し、顔が検出できた場合には、認証部4の認証結果に応じて警戒レベルを設定することができるので、警戒エリアB内にいる人Pの状況に応じて柔軟に警戒を行うことができる。
(第2の実施形態)
第2の実施形態を図4及び図5に基づいて説明する。本実施形態の警戒センサAは、撮像部1と、人検出部2と、顔検出部3と、顔データベース7と、認証部4と、警戒レベル設定部5と、警告部6と、モード制御部9と、登録部8と、投光部10と、制御部11と、振幅画像生成部12とを備えており、投光部10、制御部11及び振幅画像生成部12以外の構成は第1の実施形態と同様であるので、同一の構成要素には同一の符号を付して説明は省略する。
投光部10は、例えばLEDのような発光素子からなり、所定周波数の変調信号で強度変調された信号光を警戒エリアB内に照射するものであり、この投光部10及び撮像部1は制御部11により変調信号の位相に同期するように制御されている。また、撮像部1は、警戒エリアB内に存在する対象物(例えば、人等)で反射された信号光を受光する複数のCCDのような撮像素子からなり、各画素毎に受光光量の変化に応じた受光出力が得られる。
さらに、振幅画像生成部12は、投光部10が警戒エリアB内に信号光を照射しているときの受光出力(以下、高照度画像の画素値という。)と、投光部10が警戒エリアB内に信号光を照射していないときの受光出力(以下、低照度画像の画素値という。)の差分を各画素毎に求め、これらの差分を画素値とする振幅画像を生成する。
ここで、高照度画像の画素値は、外光及び投光部10から照射される信号光の両方に依存しており、低照度画像の画素値は、外光にのみ依存している。また、投光部10の点灯/消灯の切り替えは、10μs〜100μsの周期で行われるため、投光部10から照射される信号光の強度変化は外光の強度変化に対して非常に速く、投光部10の点灯/消灯の切り替えの間の外光の強度は殆ど変化していないとみなせる。そのため、振幅画像生成部12において、高照度画像の画素値と低照度画像の画素値の差分を各画素毎に求め、この差分を画素値とする振幅画像を生成することによって、外光の影響を除去し、投光部10から照射された信号光のみが反映された画像を得ることができる。従って、従来の撮像手段では外光の影響が強く(強度が強く)、顔の陰影がつぶれてしまうような場合(図5(a)参照)であっても、高照度画像の画素値と低照度画像の画素値の差分を画素値とする振幅画像を生成することによって、図5(b)に示すように顔の陰影が明確になった画像を得ることができ、さらにこの振幅画像を認証処理に用いることによって、認証性能を向上させることができる。
(第3の実施形態)
第3の実施形態を図6〜図8に基づいて説明する。本実施形態の警戒センサAは、撮像部1と、人検出部2と、顔検出部3と、顔データベース7と、認証部4と、警戒レベル設定部5と、警告部6と、モード制御部9と、登録部8と、投光部10と、制御部11と、振幅画像生成部12と、誘導部13とを備えており、誘導部13以外の構成は第2の実施形態と同様であるので、同一の構成要素には同一の符号を付して説明は省略する。
顔検出部3は、入力画像を元に顔を検出する際又は検出後に、顔が正面を向いているか否かを判別し、正面を向いていないと判断した場合には、正面顔の検出不能を示す検出不能信号を警戒レベル設定部5に出力し、この検出不能信号は警戒レベル設定部5を介して警告部6に入力される。この時、警告部6から誘導部13に誘導指示が出され、誘導部13は警戒エリアB内にいる人Pに対して正面を向くように誘導する。
ここで、顔検出部3は、図7(a)に示すように検出した顔画像を顔画像の中心線に対して左右に分割し(以下、左領域、右領域という。)、その対称性を評価することで人が正面を向いているか否かを判別する。対称性の評価方法としては、左右各領域内において各画素の明るさ勾配をそれぞれ算出し、図8に示すように明るさ勾配の度数分布を作成して評価する。明るさ勾配は、例えば3×3画素の微分フィルタをかけ、水平方向の微分強度ΔXと垂直方向の微分強度ΔYから正接を求めることで計算できる。ここに、明るさ勾配を図7(b)に示すように垂直上向きを基準(0°)になす角度とすると、明るさ勾配の絶対値が同じで符号が異なる場合(例えば、左領域が−θで、右領域が+θ)に左右領域が対称であるといえる。従って、図8に示す度数分布を元に絶対値が同じで符号が異なる各角度の度数について左領域と右領域の差分を求め、各角度の差分を累積し、この累積値を所定の閾値と比較することで左右領域の対称性、すなわち顔が正面を向いているか否かを判別することができる。例えば、累積値が所定の閾値よりも小さい場合には、顔が正面を向いていると判断できる。
誘導部13は、例えば音声合成部やスピーカー等で構成されており、顔検出部3が上述した方法により警戒エリアB内にいる人Pが正面を向いていないと判断した場合、例えば「正面を向いてください」とメッセージを流して人Pが正面を向くように誘導する。
本実施形態の警戒センサAでは、人検出部2が人Pを検出したにもかかわらず顔検出部3が顔を検出できない場合又は顔は検出できたが正面顔を検出できない場合に、誘導部13により警戒エリアB内にいる人Pに対して正面(撮像部1側)を向くように誘導するので、人Pが誘導に応じて正面を向けば顔検出部3で正面顔を検出することができ、従って顔認証を精度よく且つ確実に行うことができる。また、誘導部13により誘導しているにもかかわらず顔又は正面顔を検出できない場合は、人Pが意識的に撮像部1側に顔を向けないようにしており不審者である可能性が高いので、人Pに対して効果的な警告を行うことができる。
また、本実施形態を示す別の例として、顔検出部3で顔が検出できた場合の動作モードとして認証部4の認証結果に応じて警戒レベルを設定する顔認証警戒モード(第1の実施形態で説明した顔認証を行う動作モード)と、顔検出部3により正面顔が検出できた場合に警戒状態を解除するレベルに設定する簡易警戒モードとを設け、モード制御部9の設定に応じて切替えるようにしてもよい。
通常、不審者(非登録者)は、撮像されないように撮像部1の方向に顔を向けることはないので、撮像されているにもかかわらず撮像部1側に顔を向けている場合には、登録者であると判断することができる。この警戒センサAは、このような人の行動パターンを利用したものであり、簡易警戒モードに設定した場合に顔検出部3で正面顔を検出すると、認証部4による顔認証を行わずに警戒状態を解除する。従って、顔認証の処理を省くことができるので、処理速度が向上するとともに応答速度が向上する。また、撮像部1側に顔を向けるだけで警戒状態を解除することができるので、警戒状態の解除操作を省くことができ、迅速に警戒状態を解除することができる。さらに、警戒エリアB内にいる人Pが撮像部1から離れた位置にいる場合、顔画像が小さく顔認証が難しい場合があるが(認証するためには、例えば80×80画素程度が必要である。)、顔画像が小さくても正面顔か否かの判断は可能であるため(正面顔か否かの判別は、例えば20×20画素程度あれば可能である。)、正面顔を検出することで警戒状態を解除することができ、従って検出エリアBを広く設定することができる。
(第4の実施形態)
第4の実施形態を図9に基づいて説明する。本実施形態の警戒センサAは、撮像部1と、人検出部2と、顔検出部3と、顔データベース7と、認証部4と、警戒レベル設定部5と、警告部6と、モード制御部9と、登録部8と、投光部10と、制御部11と、振幅画像生成部12と、距離推定部14とを備えており、距離推定部14以外の構成は第2の実施形態と同様であるので、同一の構成要素には同一の符号を付して説明は省略する。
距離推定部14は、人検出部2に設けられており、入力画像から検出した人の大きさを元に撮像部1から検出対象である人Pまでの概距離を推定する。この概距離は、予め分かっている撮像部1の撮像素子の画素数やレンズの焦点距離等の情報と、人の実サイズの仮定条件(例えば、人の身長は160cmと仮定)と、入力画像から検出された人の大きさの画素数とに基づいて算出される。
本実施形態の警戒センサAでは、まず顔検出部3の顔検出結果に応じて警戒レベルが設定され、さらに予め設定した距離範囲に人Pが入っており(つまり予め設定した距離よりも推定した概距離が小さくなった場合)、既に設定された警戒レベルよりも高い警戒レベルの場合には、設定距離に対応する警戒レベルが設定される。従って、顔検出部3で顔が検出できた場合であっても、人Pがある一定距離以上撮像部1に近づいた場合には高い警戒レベルに設定することができ、さらに警戒センサAを通りに面した場所に設置した場合でも通行人に対して誤って警告するような誤動作を低減させることができる。
尚、本実施形態では、人検出部2に距離推定部14を設けた場合を例に説明しているが、距離推定部14を顔検出部3に設け、顔検出部3で検出した顔の大きさを元に概距離を求めてもよい。この場合、概距離は撮像部1の撮像素子の画素数やレンズの焦点距離等の情報と、人の実サイズの仮定(例えば、顔の大きさは20cm角と仮定)と、入力画像から検出された顔の大きさとに基づいて算出され、同様の効果が得られる。また、撮像部1から検出対象である人Pまでの概距離を測定する距離計測手段(例えば、超音波距離センサ等)を別途設けてもよく、同様の効果が得られる。
さらに、撮像部1から検出対象である人Pまでの概距離に応じてレベルが設定される複数の警戒レベルを設け、警戒レベル設定部5が、概距離が近いほど高レベルの警戒レベルに設定するように構成してもよい。この場合、顔検出部3の顔検出結果に応じた警戒レベルよりも概距離に応じた警戒レベルが高い場合には、高い警戒レベルでの警告を行うことができる。また、警戒レベル設定部5は、距離に応じてどの警戒レベルに設定するかを判断するだけでよく、危険度に応じた警告を簡易的に行うことができる。
(第5の実施形態)
第5の実施形態を図10に基づいて説明する。本実施形態の警戒センサAは、撮像部1と、人検出部2と、顔検出部3と、顔データベース7と、認証部4と、警戒レベル設定部5と、警告部6と、モード制御部9と、登録部8と、投光部10と、制御部11と、振幅画像生成部12と、ズーム制御部15とを備えており、ズーム制御部15以外の構成は第2の実施形態と同様であるので、同一の構成要素には同一の符号を付して説明は省略する。
ズーム制御部15は、人検出部2に設けられており、人検出部2が人Pを検出した際に入力画像中の人Pの大きさを元に顔の大きさが顔データベース7に登録されている顔画像と略同サイズか否かを判断し、サイズが異なる場合には同サイズとなるようにズーム倍率を調整する。従って、ズーム倍率を調整することで顔検出部3による顔検出が容易になり且つ顔認証に適切な顔画像(例えば、80×80画素程度の顔画像)を得ることができるので、顔画像を元に顔認証が行える警戒エリアBを拡げることができ、広範囲の警戒を行うことができる。尚、ズーム倍率の調整は、画像を構成する画素を演算により拡大又は縮小することで行ってもよいし、レンズの焦点距離を変化させることで行ってもよい。
(第6の実施形態)
第6の実施形態を図11に基づいて説明する。本実施形態の警戒センサAは、撮像部1と、人検出部2と、顔検出部3と、顔データベース7と、認証部4と、警戒レベル設定部5と、警告部6と、モード制御部9と、登録部8と、投光部10と、制御部11と、振幅画像生成部12と、ズーム制御部15と、警戒レベルテーブル16と、テーブル設定部17と、位置推定部18とを備えており、警戒レベルテーブル16、テーブル設定部17及び位置推定部18以外の構成は第5の実施形態と同様であるので、同一の構成要素には同一の符号を付して説明は省略する。
位置推定部18は、人検出部2に設けられており、撮像部1から検出対象である人Pまでの概距離を求め、この概距離と入力画像中の人の滞在位置とを元に警戒エリアB内での人Pの概位置を推定する。
また、テーブル設定部17は、例えばディスプレイモニタやマトリクススイッチ等で構成されたタッチパネルからなり、警戒レベル設定部5はテーブル設定部17で設定した警戒レベルに基づいて警戒レベルを設定する。このテーブル設定部17は、振幅画像生成部12で生成した振幅画像がディスプレイモニタに表示され、この振幅画像を複数の矩形領域に分割し、各領域毎に警戒レベルを設定できるように構成されており、警戒エリアBにおいて画像中の各領域に対応する各エリアに警戒レベルを設定できる。
さらに、警戒レベル設定部5には、警戒レベルテーブル16が設けられており、テーブル設定部17で設定した警戒レベル情報が各エリア毎に警戒レベルテーブル16に記録される。そして、警戒レベル設定部5では、位置推定部18で推定した概位置に対応する警戒レベルを警戒レベルテーブル16から取得し、設定する。
本実施形態の警戒センサAでは、まず顔検出部3の顔検出結果に応じて警戒レベルが設定され、さらに人Pがいるエリアに設定された警戒レベルが既に設定された警戒レベルよりも高い場合には、エリアに設定された警戒レベルが設定される。従って、顔検出部3で顔が検出できた場合であっても、高い警戒レベルに設定された領域に人Pがいる場合には高い警戒レベルに設定することができ、さらに警戒レベルテーブル16に記録された警戒レベルを変更することで警戒エリアB全体の警戒レベルを警戒センサAの設置場所等に応じて容易に変更することができる。
(第7の実施形態)
第7の実施形態を図12に基づいて説明する。本実施形態の警戒センサAは、撮像部1と、人検出部2と、顔検出部3と、顔データベース7と、認証部4と、警戒レベル設定部5と、警告部6と、モード制御部9と、登録部8と、投光部10と、制御部11と、振幅画像生成部12と、時間計測部19とを備えており、時間計測部19以外の構成は第2の実施形態と同様であるので、同一の構成要素には同一の符号を付して説明は省略する。
時間計測部19は、人検出部2に設けられており、人検出部2で検出された人Pが警戒エリアB内に留まる滞在時間を計測する。
まず、人検出部2が警戒エリアB内にいる人Pを検出したときを計測開始時間として、人検出部2で抽出した人データを元に画像内で人Pの追跡処理を行い、追跡できている間の時間、すなわち人Pが警戒エリアB内に留まる滞在時間を計測する。
本実施形態の警戒センサAでは、まず顔検出部3の顔検出結果に応じて警戒レベルが設定され、さらに滞在時間に対応する警戒レベルが既に設定された警戒レベルよりも高い場合には、滞在時間に対応する警戒レベルが設定される。従って、顔検出部3で顔検出ができた場合であっても、長い時間留まっている場合には危険であると判断して高い警戒レベルに設定することができ、危険度に応じた警告を行うことができる。
第1の実施形態の警戒センサのブロック図である。 同上のフローチャートである。 同上の設置状態を示す概略図である。 第2の実施形態の警戒センサのブロック図である。 (a)、(b)は同上の動作説明図である。 第3の実施形態の警戒センサのブロック図である。 (a)、(b)は同上の動作説明図である。 同上で検出した画像における明るさ勾配の度数分布図である。 第4の実施形態の警戒センサのブロック図である。 第5の実施形態の警戒センサのブロック図である。 第6の実施形態の警戒センサのブロック図である。 第7の実施形態の警戒センサのブロック図である。
符号の説明
1 撮像部
2 人検出部
3 顔検出部
4 認証部
5 警戒レベル設定部
6 警告部
7 顔データベース
A 警戒センサ

Claims (11)

  1. 対象空間を撮像する撮像手段と、撮像手段が撮像した画像において人の存否を検出する人検出手段と、前記画像において顔を検出する顔検出手段と、認証用の顔画像が予め登録されたデータベースと、検出した顔画像とデータベースに登録された顔画像とが一致するか否かを判断する認証手段と、人検出手段が人を検出したにもかかわらず顔検出手段が顔を検出できない場合又は正面顔を検出できない場合の少なくとも何れか一方において警戒レベルを高レベルに設定し、顔検出手段が顔を検出できた場合は認証手段の認証結果に応じて警戒レベルを設定する警戒レベル設定手段と、設定された警戒レベルに応じた警告を行う警告手段とを備えたことを特徴とする警戒センサ。
  2. 前記撮像手段は、所定周波数の変調信号で強度を変調した信号光を対象空間に照射する投光手段と、対象空間に存在する対象物で反射された信号光を受光する複数の画素を有し各画素毎に受光光量の変化に応じた受光出力を得る受光手段と、投光手段及び受光手段を変調信号の位相に同期させて制御する制御手段と、投光手段が対象空間に信号光を照射するときの受光出力と照射しないときの受光出力の差分を各画素毎に求め、当該差分を画素値とする振幅画像を生成する振幅画像生成手段とを備えたことを特徴とする請求項1記載の警戒センサ。
  3. 前記警告手段は、前記人検出手段が人を検出したにもかかわらず前記顔検出手段が顔を検出できない場合又は正面顔を検出できない場合の少なくとも何れか一方において、前記撮像手段側を向くように対象空間にいる人を誘導する誘導手段を備えたことを特徴とする請求項1又は2の何れか1項に記載の警戒センサ。
  4. 前記顔検出手段が顔を検出できた場合の動作モードを、前記認証手段の認証結果に応じて警戒レベルを設定する顔認証警戒モード、又は、前記顔検出手段が正面顔を検出すると警戒状態を解除するレベルに設定する簡易警戒モードの何れか一方に設定する警戒モード設定手段を設けたことを特徴とする請求項1〜3の何れか1項に記載の警戒センサ。
  5. 画像中の人の大きさを元に前記撮像手段から当該人までの概距離を推定する距離推定手段を有し、前記警戒レベル設定手段は、前記概距離に応じて警戒レベルを設定することを特徴とする請求項1又は2の何れか1項に記載の警戒センサ。
  6. 前記撮像手段から対象空間にいる人までの概距離を計測する距離計測手段を設け、前記警戒レベル設定手段は、前記概距離に応じて警戒レベルを設定することを特徴とする請求項1又は2の何れか1項に記載の警戒センサ。
  7. 前記警戒レベル設定手段は、前記概距離に応じてレベルが設定される複数の警戒レベルを有し、前記概距離が近いほど高レベルの警戒レベルに設定することを特徴とする請求項5又は6の何れか1項に記載の警戒センサ。
  8. 前記人検出手段は、画像中の人の大きさを元にズーム倍率を調整して画像中の顔の大きさを前記データベースに登録された顔画像と略同サイズに拡大又は縮小の少なくとも何れか一方を行うズーム制御手段を備えたことを特徴とする請求項1又は2の何れか1項に記載の警戒センサ。
  9. 前記人検出手段は、画像中の人の滞在位置又は大きさの少なくとも何れか一方を元に概位置を推定する位置推定手段を有し、前記警戒レベル設定手段は、対象空間を複数のエリアに分割し各エリア毎に警戒レベルを設定可能とする警戒レベル設定テーブルを有し、前記概位置に対応するエリアに設定された警戒レベルを前記警戒レベル設定テーブルから取得し設定することを特徴とする請求項1、2又は8の何れか1項に記載の警戒センサ。
  10. 前記人検出手段は、人が対象空間に留まる滞在時間を計測する滞在時間計測手段を有し、前記警戒レベル設定手段は、前記滞在時間が長いほど警戒レベルを高レベルに設定することを特徴とする請求項1又は2の何れか1項に記載の警戒センサ。
  11. 前記人検出手段は、画像から背景を除く物体を検出する物体検出手段と、検出した物体の特徴量を抽出し当該特徴量を人の特徴量と比較して前記物体が人か否かを判別する人判別手段とからなり、人判別手段が人でないと判断した際の警告の要否を設定する警告設定手段を前記警告手段に設けたことを特徴とする請求項1又は2の何れか1項に記載の警戒センサ。
JP2007035337A 2007-02-15 2007-02-15 警戒センサ Expired - Fee Related JP5049027B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007035337A JP5049027B2 (ja) 2007-02-15 2007-02-15 警戒センサ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007035337A JP5049027B2 (ja) 2007-02-15 2007-02-15 警戒センサ

Publications (2)

Publication Number Publication Date
JP2008198124A JP2008198124A (ja) 2008-08-28
JP5049027B2 true JP5049027B2 (ja) 2012-10-17

Family

ID=39756978

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007035337A Expired - Fee Related JP5049027B2 (ja) 2007-02-15 2007-02-15 警戒センサ

Country Status (1)

Country Link
JP (1) JP5049027B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5278410B2 (ja) * 2010-11-12 2013-09-04 株式会社Jvcケンウッド 映像記憶装置
WO2021084895A1 (en) * 2019-11-01 2021-05-06 Nec Corporation A method, an apparatus and a system for managing an event to generate an alert indicating a subject is likely to be unauthorized
CN111178222A (zh) * 2019-12-24 2020-05-19 天地伟业技术有限公司 一种基于人脸识别的区域警戒方法
CN115373407A (zh) * 2022-10-26 2022-11-22 北京云迹科技股份有限公司 机器人自动避开安全警戒线的方法及装置
CN117391312B (zh) * 2023-12-12 2024-03-15 北京北投智慧城市科技有限公司 一种智慧建筑的告警智能处理方法及系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0686295A (ja) * 1992-08-31 1994-03-25 Toshiba Corp 監視カメラ装置
JPH11154284A (ja) * 1997-11-20 1999-06-08 Matsushita Electric Works Ltd 呼出発光チャイム
JP4377013B2 (ja) * 1999-11-18 2009-12-02 國寛 渡辺 固体撮像装置及び固体撮像素子
JP2003284053A (ja) * 2002-03-27 2003-10-03 Minolta Co Ltd 監視カメラシステムおよび監視カメラ制御装置
JP4569190B2 (ja) * 2004-06-24 2010-10-27 オムロン株式会社 不審者対策システム及び不審者検出装置
JP2006185127A (ja) * 2004-12-27 2006-07-13 Sogo Keibi Hosho Co Ltd 警備装置、監視システム、警備方法

Also Published As

Publication number Publication date
JP2008198124A (ja) 2008-08-28

Similar Documents

Publication Publication Date Title
US11238730B2 (en) System and method for detecting and recording traffic law violation events
EP2710801B1 (en) Surveillance system
US10043359B2 (en) Apparatus and method of monitoring moving objects
KR101464344B1 (ko) 감시 영상의 정상 상태 학습을 통한 이상 상태 감지 방법과 이를 적용한 감시 카메라 및 영상 관리 시스템
JP2007184780A (ja) 遠隔監視装置
JP5049027B2 (ja) 警戒センサ
JP2009124618A (ja) カメラ装置、画像処理装置
KR101450733B1 (ko) 차량 하부 검색 장치 및 방법
KR101521457B1 (ko) 영상방식을 이용한 지상주차장의 차량 위치 확인 시스템 및 그 제어방법
KR101051005B1 (ko) 불법 주정차 단속장치, 단속시스템 및 그 제어방법
KR20180103596A (ko) 영상 감시가 가능한 지능형 보안등 제어시스템
JP2006323651A (ja) 防犯センサ
KR101014842B1 (ko) Rfid 리더를 사용하는 보안용 영상 감시 시스템 및방법
US20160019764A1 (en) Apparatus and method of monitoring moving objects
JP2016021200A (ja) 判定方法、判定システム、及び判定装置
KR102046591B1 (ko) 영상 감시 시스템 및 영상 감시방법
JP4692437B2 (ja) 監視カメラ装置
JPH09265585A (ja) 監視および威嚇装置
KR101903615B1 (ko) 영상감시 시스템 및 이를 이용한 영상감시 방법
JP7176868B2 (ja) 監視装置
JP2006323652A (ja) 防犯センサ
JP2007318674A (ja) 監視カメラ装置
KR100844640B1 (ko) 물체 인식 및 거리 계측 방법
JP4954459B2 (ja) 不審人物検出装置
KR20160121958A (ko) 피사체의 위치추적 기능을 갖는 팬틸트 일체형 감시카메라 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090825

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20120112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120626

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120720

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150727

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees