JP4754283B2 - 監視システム及び設定装置 - Google Patents

監視システム及び設定装置 Download PDF

Info

Publication number
JP4754283B2
JP4754283B2 JP2005192923A JP2005192923A JP4754283B2 JP 4754283 B2 JP4754283 B2 JP 4754283B2 JP 2005192923 A JP2005192923 A JP 2005192923A JP 2005192923 A JP2005192923 A JP 2005192923A JP 4754283 B2 JP4754283 B2 JP 4754283B2
Authority
JP
Japan
Prior art keywords
image
monitoring
designated
point
designated area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005192923A
Other languages
English (en)
Other versions
JP2007011776A (ja
Inventor
佳孝 濱石
賢二 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2005192923A priority Critical patent/JP4754283B2/ja
Publication of JP2007011776A publication Critical patent/JP2007011776A/ja
Application granted granted Critical
Publication of JP4754283B2 publication Critical patent/JP4754283B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)

Description

本発明は、マイクロ波レーダ・超音波レーダ・レーザーセンサに代表される監視空間から取得した3次元情報に基づき、所定の監視領域内に監視対象が存在していることを検出する監視装置に関し、特に、監視空間を撮影した2次元の画像を利用して監視装置における3次元の監視領域を設定する監視システム及びそれに適した設定装置に関する。
近年、警備システムや自動車の通行監視システムなどにおいて、マイクロ波レーダ・超音波レーダなどを用い3次元情報に基づいて、監視空間への侵入者・自動車を検出する監視装置が提案されている。
監視装置はマイクロ波・超音波・赤外線など視認できない波を使用しているため、監視装置の設置状況から設定されている監視領域を確認することが困難である。また、同様な理由により、監視領域を設定する際にも、人間の直感に近いインターフェースでの設定をすることは困難であった。
そこで、従来、特許文献1の2次元のマイクロ波レーダでは、監視空間の画像を見ながら監視領域を設定する旨の提案がされている。
すなわち、特許文献1の2次元のマイクロ波レーダは、監視空間に対してマイクロ波を送波し、監視空間に存在する物体に反射して戻ってくる当該マイクロ波の反射波を受波し、送波及び受波したマイクロ波に基づいて物体までの距離及び水平方向を算出する。つまり、監視装置から物体までの距離と水平方向とを取得する2次元マイクロ波レーダである。そして、かかる2次元マイクロ波レーダにおいて、監視空間の画像を得る撮像装置(カメラ等)を併設し、画像上において監視したい領域を入力デバイスから指定し、監視領域を設定する方法が開示されている。
特開2001−155291号公報
ところで、最近、監視装置は、監視対象までの距離と水平方向に加え、垂直方向の3次元情報を用いたものの研究が進められている。このような3次元情報を用いて監視対象を検出する監視装置では、特許文献1に記載の方法では適切な監視領域を設定できない。
すなわち、特許文献1に示される方法は、マイクロ波レーダの2次元情報である監視領域と、撮像された監視空間の2次元情報である画像との対応をとるため、監視領域を1つの平面とみなしている。このため、従来の監視領域の設定方法では、同一平面とみなさせない空間的な領域、具体的には銅像のような体積を有する物を含んだ領域を設定しようとすると、同一平面(床面、銅像の胴体の水平面)を監視領域に設定できるのみであり、銅像全体を含むような空間的な領域を監視領域に設定することができない課題があった。
また、画像上のポイントを監視装置までの距離に換算する場合は、基本的に指定したポイントが床面上であることを前提としている。つまり、画像処理における透視変換の逆変換を行う際には、基準となる水平面として床面を撮像装置の設置高・俯角・焦点距離等から予め決めておく必要がある。このため、特許文献1の監視領域の設定方法は、同一平面のうち、床面にしか監視領域を設定できないという問題がある。
さらに、監視領域を空中の空間(床面を含まない領域)に設定したい場合には、全く対応できない。
本発明は、上記従来技術の問題を鑑み、監視空間を撮影した2次元の画像を利用して監視装置における3次元の監視領域を設定すること可能とすることを目的とする。
本発明は、監視装置の監視空間の全部又は一部を撮像した画像および当該画像上における2次元座標で表現された画像指定点の指定を取得する入力インターフェースと、前記画像上における複数の画像指定点の指定を受けて、前記複数の画像指定点の前記画像上における2次元座標から、前記監視装置にて物体の検出処理を実施するために指定領域を特定する3次元座標である指定領域座標を算出する検出範囲算出部と、前記監視空間の物体の位置を3次元的に測定する前記監視装置に接続可能であり、前記指定領域を前記監視装置に出力する出力インターフェースと、を備える設定装置であって、前記検出範囲算出部は、監視空間の水平基準面上を指定した第1の画像指定点の入力を受けて接地点とし、当該接地点の鉛直線上に指定された第2の画像指定点の入力を受けて基準点とし、当該基準点との相対的な位置関係を持つ画像指定点の入力を受けて前記指定領域を3次元座標にて画定することを特徴とする。

なお、画像指定点とは、監視空間を撮像した画像上においてユーザによって指定される点のことを意味する。画像指定点は、画像における縦軸及び横軸に投影された2次元座標によって表される。また、指定領域とは、監視対象の検出処理において参照される空間であって、ユーザによって指定された画像上の画像指定点から算出される領域を意味する。例えば、指定領域は、物体を検出する対象とする監視領域又は物体を検出する対象としない非監視領域として設定することができる。指定領域を特定する点は、実空間における3次元座標系における各座標軸に投影された3次元座標によって表される。例えば、マイクロ波等の検出波を用いた監視装置では、指定領域を特定する点は監視装置からの距離、監視装置となす水平角度、垂直角度の3次元座標によって表すことが好適である。
前記検出範囲算出部は、前記複数の画像指定点に含まれる第1の画像指定点の2次元座標に基づいて、前記指定領域の基準点を実空間の基準面に投影した点の3次元座標である接地点座標を算出した後に、前記接地点座標を用いて前記基準面を含まない前記指定領域座標を算出することが好適である。例えば、前記画像を撮像した撮像部の設置状態に関する情報(カメラが設置された高さ、カメラの床面に対する俯角等)を用いて、前記複数の画像指定点のうち第1の画像指定点に対応する前記接地点を求める。さらに、前記複数の画像指定点のうち前記第1の画像指定点以外の画像指定点に基づいて、前記指定領域自体を特定する点を求める。このとき、前記接地点の鉛直線上に前記指定領域の基準点が位置するものとして前記指定領域を特定する点を算出する。
すなわち、前記撮像画像上で指定された1つの画像指定点の2次元座標から前記監視装置の監視空間に存在する基準面上の接地点の位置(3次元座標)をまず画定し、その接地点の位置の鉛直線上に前記指定領域の基準点が存在するものとして前記複数の画像指定点のうち残りの画像指定点の2次元座標に基づいて物体の検出処理の対象となる前記指定領域を画定する。
また、前記監視装置によって監視が可能な監視空間(走査範囲)の中心軸と、前記画像を取得するための撮像部の光軸と、を略一致させることが好ましい。換言すると、前記画像は、その中心位置が前記監視装置の監視空間の中心軸と略一致していることが好ましい。すなわち、前記監視装置の監視装置の走査範囲の中心軸に光軸を略合わせて設置された撮像部を用いて前記画像を取得することが好適である。これは、画像指定点の2次元座標から指定領域を画定するための処理の前提になるためである。
また、前記画像をユーザに呈示するディスプレイ等の表示部と、前記表示部に前記画像を表示させつつ、前記画像上における点を指定するポインティングデバイス等の入力部を用いて前記複数の画像指定点の指定をユーザから受け付けることが好適である。
これによって、ユーザは、前記表示部の画面上に呈示された前記画像から前記監視装置の監視可能範囲の状態を確認しつつ、前記入力部を用いて前記画像上において前記複数の画像指定点を容易に指定することができる。
このような設定装置は、監視空間に存在する物体の位置を3次元座標として検出する監視装置を備えた監視装置において特に有効である。すなわち、設定装置を用いて設定された前記指定領域に属性を設定して監視処理を行うことができる。このとき、前記指定領域の属性として監視対象が存在する場合に警報を出力する監視領域に設定してもよいし、監視対象の存在を監視しない非監視領域に設定してもよい。さらに、前記指定領域毎に属性を定め、属性の区分毎に重み付けを行って監視することも好適である。
本発明によれば、3次元情報を取得可能な監視装置において、監視空間を撮像した画像に基づいて監視領域を容易に設定することができる。
本発明の実施の形態における監視システム100は、図1に示すように、監視装置10、撮像部12及び設定装置14を含んで構成される。監視システム100は、監視装置10によって監視することが可能な監視空間を撮影した画像上の点を画像指定点としてユーザに指定させ、画像指定点から指定領域を算出し、指定領域を監視領域又は非監視領域として監視対象の存在を監視する。監視システム100の各部の機能はプログラムを実行可能なコンピュータを用いて制御される。
例えば、撮像部12及び設定装置14は、監視装置10とは別個の装置として構成され、監視装置10に指定領域を設定する際に監視装置10に接続されて用いられる。もちろん、監視装置10、撮像部12及び設定装置14のいずれか2つ以上を適宜組み合わせて1つの装置としてシステム構成してもよい。
監視装置10は、検出波送受信部20、物体検出処理部22、記憶部24及び出力部26を備えて構成される。監視装置10は、設定装置14と情報伝達可能に接続可能であり、設定装置14から入力される指定領域の情報を受けて、指定領域を参照しつつ監視対象を検出する処理を行う。
検出波送受信部20は、物体の位置を3次元的に検出するためのマイクロ波を送信及び受信する。本実施の形態では、マイクロ波レーダを例に説明を行うが、例えば、超音波を送受信する超音波レーダやレーザーを送受信するレーザーセンサとすることもできる。
物体の位置検出を可能とする検出方式として2周波CWモノパルス方式を用いる。2周波CWモノパルス方式では、複数のアンテナを配置して、異なる周波数のマイクロ波を時分割で送信し、物体によって反射された反射波に含まれるドップラー成分と各アンテナ間の強度,位相差を利用して、監視可能空間に存在する物体までの距離や物体に対する角度(水平角度及び垂直角度)等の位置情報、物体の移動速度等の情報を得ることができる。
なお、検出波送受信部20の構成は上記に限定されるものではない。例えば、検出波送受信部20は、監視空間を自動的に走査してマイクロ波を送信する機械的構成を有する指向性アンテナを含む構成としてもよい。この場合、検出波送受信部20は、アンテナの走査角度(水平角度及び垂直角度)を検出する回転エンコーダ又はポテンシオメータ等の角度検出手段を備えることが好ましい。検出された走査角度を物体検出処理部22へ出力することによって、監視可能空間に存在する物体の位置を3次元的に検出することができる。
物体検出処理部22は、検出波送受信部20から出力された信号を受けて、記憶部24に登録された指定領域に対する監視対象の検出処理を行う。また、検出処理の結果に応じて、出力部26に対して警告出力制御信号等の制御信号を出力する。物体検出処理部22における処理の詳細については後述する。
記憶部24は、半導体メモリを含んで構成される。記憶部24は、設定装置14の検出範囲算出部32において算出された指定領域及び指定領域毎に設定された属性(後述)を指定領域に対応付けて格納及び保持する。記憶部24に登録された指定領域の情報は、物体検出処理部22における監視対象の検出処理において参照される。また、検出波送受信部20を用いて監視することが可能な監視空間(視野範囲)を特定する情報を格納及び保持する。検出波送受信部20の視野範囲は、検出波送受信部20の特性や設置位置等によって決定されるので、検出波送受信部20を設置した際に記憶部24に登録される。なお、半導体メモリの代わりにハードディスク装置、光ディスク装置等の記憶手段を用いてもよい。
出力部26は、監視装置10を外部のネットワークに接続するインターフェースを含んで構成される。出力部26は、物体検出処理部22における物体の検出結果に応じて外部に接続された装置に対して信号を出力する。例えば、記憶部24に記憶された指定領域内に監視対象が検出された場合、物体検出処理部22から出力される制御信号を受けて、インターネットを介して外部の監視室に設置されたコンピュータに警報信号を出力する。
撮像部12は、CCD撮像素子を備えたカメラを含んで構成される。撮像部12を用いて検出波送受信部20の監視空間(視野範囲)の全体又は一部を撮像する。撮像部12で取得される画像は、静止画、動画を問わず、両方を取得してもよい。理想的には、撮像部12により得られる画像の画角が検出波送受信部20の視野範囲よりも広いことが好適である。なお、CCD撮像素子の代わりにCMOS撮像素子等の光電変換素子を用いることもできる。
また、撮像部12の光軸(カメラから画像の中心となる場所まで伸びる軸)と、検出波送受信部20の監視可能範囲(走査範囲)の中心軸とはおおよそ一致していることが好ましい。図2に示すように、撮像部12と検出波送受信部20とを「はめあい」となる構造とすることによって、撮像部12の光軸と検出波送受信部20の中心軸とを略一致させて設置する。
設定装置14は、入出力インターフェース30、検出範囲算出部32、記憶部34、入力部36及び表示部38を含んで構成される。設定装置14は、撮像部12において撮像された監視空間の画像を受信し、その画像をユーザに呈示したうえで画像上の画像指定点の入力をユーザから受ける。そして、画像指定点に基づいて監視空間における指定領域を算出し、指定領域及びその属性を監視装置10に登録する。
入出力インターフェース30は、監視装置10及び撮像部12に接続可能なインターフェースを備える。入出力インターフェース30は、撮像部12で撮像された画像信号を受けて、画像信号に対してアナログ/デジタル変換等の処理を施すと共に、表示部38で表示可能な形式(例えば、jpeg形式の画像)に変換して出力する。また、入力部36から画像指定点の情報を受けて検出範囲算出部32へ出力する。また、物体検出処理部22又は検出範囲算出部32の処理結果に応じて、撮像された画像や警告を示す情報等を表示部38に表示させる。
検出範囲算出部32は、ユーザにより指定された画像指定点を取得して、画像指定点に基づいて監視空間内における指定領域を求める。例えば、画像指定点で特定される画像上の領域を監視装置10からの距離及び角度(水平角度範囲と垂直角度範囲)で表される極座標上の指定領域に変換する。検出範囲算出部32における処理の詳細については後述する。
また、記憶部34に検出波送受信部20の監視空間(視野範囲)を示す情報を予め記憶させておくことによって、指定領域が監視空間に含まれているか否かを事前に判定することもできる。指定領域が監視空間を超えている場合には、表示部38に警告を呈示する。また、監視空間を超えている指定領域を表示部38に撮像画像上に重ね合わせて表示させてもよい。
記憶部34は、半導体メモリを含んで構成される。記憶部34は、入出力インターフェース30を介して撮像部12から受信された画像情報を格納及び保持する。なお、記憶部34は、ハードディスク装置、光ディスク装置等の記憶手段を含んで構成してもよい。
入力部36は、マウス及びキーボードを含んで構成される。入力部36は、表示部38に表示された撮像画像を確認しつつ、ユーザが画像上の点を画像指定点として指定するために用いられる。また、指定領域の属性を入力するために用いられる。なお、入力部36は、タッチペン等のポインティングデバイス、キーボード以外の文字入力デバイスにより構成してもよい。
表示部38は、液晶ディスプレイ等の画像表示手段を含んで構成される。表示部38は、入出力インターフェース30から画像信号を受けて、ユーザが視覚的に確認可能な形態で画像を表示する。また、物体検出処理部22での監視対象の検出結果に応じて入出力インターフェース30を介して物体検出処理部22からの制御信号を受けて、表示部38に撮像画像や警告を示す情報等を表示する。
次に、本実施の形態における監視システム100を用いて画像指定点の指定及び指定領域の算出を行う処理について説明する。ここでの処理は、図3に示すフローチャートに沿って実行される。
ステップS10では、監視装置10、撮像部12及び設定装置14のセッティングが行われる。監視しようとする空間にマイクロ波の送受信方向が向けられて検出波送受信部20が設置される。さらに、撮像部12の光軸(カメラから画像の中心となる場所まで伸びる軸)と、検出波送受信部20の監視可能範囲(走査範囲)の中心軸とが略一致するように撮像部12が設置される。このとき、図2に示したように、撮像部12と検出波送受信部20とを「はめあい」の構造とすることによって、互いの相対的位置を規定しつつ撮像部12と検出波送受信部20とを容易に設置することができる。
本実施の形態では、図4及び図5に示すように、基準面となる床面から高さh、及び、検出波送受信部20の中心軸及び撮像部の光軸が基準面(床面)に向けて俯角ρをもって検出波送受信部20及び撮像部12が設置される。
また、監視装置10の物体検出処理部22と設定装置14の入出力インターフェース30とが情報伝達可能に接続される。さらに、設定装置14の検出範囲算出部32と監視装置10の記憶部24とが情報伝達可能に接続される。
ステップS12では、撮像部12を用いて撮像が行われる。ステップS10において設置された撮像部12により監視装置10の監視可能な空間を含む画像が撮像され、その画像が入出力インターフェース30を介して検出範囲算出部32及び記憶部34へ送信される。例えば、家屋への侵入者を監視しようとする場合、家屋を取り囲む壁の上方の空間を検出処理で参照される指定領域とすることが好ましい。また、美術館において、前方を行き交う人を監視対象から排除しつつ、高い台座に載せられた彫刻や壁に掛けられている絵画の盗難を検出しようとする場合、監視対象となる彫刻又は絵画が置かれる空間を検出処理で参照される指定領域とすることが好ましい。
また、後述するステップS14において、基準面(例えば、床面等)を示す画像上の画像指定点を指定する際にユーザに対して画像上の目印となるように、検出処理で参照される指定領域の基準点から基準面(床面)に対して垂線を下ろして基準面(床面)と垂線との交点である接地点にマーカーを配置して撮像を行うことが好適である。マーカーは、接地点の位置が画像上で特定できるものであればよく、例えば、床面自体の模様や撮像空間に置かれた設置物の相対的な位置関係から特定が可能であれば特別にマーカーを配置する必要はない。
入出力インターフェース30では、受信された画像信号に対してアナログ/デジタル変換及びフォーマット変換等の処理を施したうえで検出範囲算出部32及び記憶部34へ画像信号を送信する。
記憶部34は、取得された画像信号を格納及び保持する。このとき、設定装置14にシステム時計を搭載させておき、撮像部12により画像が撮像された時刻に対応付けて画像信号を格納及び保持させる。
ステップS14では、画像上の画像指定点の指定が受け付けられる。ユーザは、入力部36を用いて、指定領域自体を示す複数の画像指定点、及び、基準面(床面等)と指定領域との相対的な位置関係を示す画像指定点を表示部38に表示された撮像画像上において指定する。具体的には、指定領域自体の基準点、幅、奥行き、高さにそれぞれ相当する4つの画像指定点、及び、指定領域の基準点と基準面上の接地点との距離を示す1つの画像指定点、の少なくとも5つの画像指定点を指定する。この指定処理は、図6に示すサブルーチンに沿って実行される。
ステップS14−1では、表示部38の画面上にステップS12で取得された画像が表示される。撮像時刻を参照して記憶部34に保存されている画像の中から最新の画像が読み出され、ユーザが視認できるような態様で表示部38にその画像を表示させる。さらに、表示された画像上において接地点となる画像指定点の指定を促すメッセージを表示部38に表示させる。
ステップS14−2では、ステップS14−1で表示されたメッセージに促されたユーザは、表示部38に表示された画像を確認しつつ、ポインティングデバイス等の入力部36を用いて接地点を示す画像上の点を入力する。これによって、図7(a)に示すように、接地点に対応する画面上の画像指定点の2次元座標(a,j)が取得される。接地点は、画像上において第1の画像指定点の2次元座標(a,j)で特定される。第1の画像指定点の2次元座標(a,j)が取得されるとステップS14−3に処理を移行させる。
このとき、ステップS12において、基準面(床面)上の接地点にマーカーを配置して画像を撮像していれば、ユーザは接地点に対応する画面上の画像指定点を容易に指定することができる。
ステップS14−3では、検出処理で参照される指定領域自体を特定する画像上の画像指定点を入力するようにユーザに促すメッセージを表示部38に表示させる。このとき、図7(a)に示すように、表示部38の画面上にステップS12で取得された画像とステップS14−2で取得された第1の画像指定点を示す画像とを重ね合わせて表示させる。これによって、ユーザは既に指定された画像指定点と次に指定する画像指定点との相対的な位置関係を確認しつつ、画像指定点の指定を容易に行うことができる。
ステップS14−4では、指定領域自体を示す画像指定点が指定される。ステップS14−3で表示されたメッセージに促されたユーザは、表示部38に表示された画像を確認しつつ、入力部36を用いて指定領域自体を示す画像上の領域を特定する画像指定点を入力する。指定領域自体を示す画像上の画像指定点が指定されるとステップS14−5に処理を移行させる。
具体的には、第1に、図7(b)に示すように、指定領域の基準点を示す画像指定点及び指定領域の幅を示す画像指定点が指定される。これによって、指定領域の基準点を示す画像指定点の2次元座標(a,b)及び指定領域の幅を示す画像指定点の2次元座標(c,b)が取得される。第2に、図7(c)に示すように、検出処理で参照される指定領域の奥行きを示す画像指定点が指定される。これによって、指定領域の奥行きを示す画像指定点の2次元座標(e,g)が取得される。第3に、図7(d)に示すように、検出処理で参照される指定領域の高さを示す画像指定点が指定される。これによって、指定領域の高さを示す画像指定点の2次元座標(a,d)が取得される。すなわち、検出処理で参照される指定領域自体は画像上の4つの画像指定点で特定され、各画像指定点の2次元座標(a,b),(c,b),(e,g),(a,d)が取得される。また、指定領域と基準面との距離は2つの画像指定点の2次元座標(a,j),(a,b)で特定される。
なお、ここで示した手順は一例であり、これに限定されるものではない。例えば、ステップS14−2における接地点の指定処理とステップS14−4における指定領域自体の指定処理とを入れ替えてもよい。この場合、指定領域自体を特定する画像指定点の2次元座標(a,b),(c,b),(e,g),(a,d)が取得された時点において、2次元座標(a,b),(c,b),(e,g),(a,d)に基づいて接地点となり得る空間を求め、その空間に相当する画像上の領域を演算により求めて表示部38の画面上に画像と共に呈示させることが好適である。これにより、ユーザは接地点を示す画像指定点を容易に指定することができる。
ステップS14−5では、指定領域の属性の入力を促すメッセージを表示部38に表示させ、指定領域に対する属性の情報をユーザから取得する。指定領域の属性とは、監視対象の検出処理を行う際に各指定領域をどのように扱うかを示すパラメータを意味する。例えば、検出処理で参照される指定領域の各々を、監視対象が指定領域に含まれたら直ちに警報を出力する重点監視範囲(第1範囲),監視対象が指定領域に所定時間以上含まれたら警報を出力する一般監視範囲(第2範囲),後述の重点非監視範囲の近傍である一般非監視範囲(第3範囲),監視対象が指定領域に含まれても警報を出力しない重点非監視範囲(第4範囲)の4段階に分類し、入力部36を用いてユーザに各空間の属性を入力させる。各空間に対する画像上の2次元座標情報及び属性は関連付けられて記憶部34に格納及び保持される。
なお、本実施の形態では、総ての指定領域についてユーザから属性情報を取得するものとしたが、これに限定されるものではなく、少なくとも1つの属性を自動的に決定してもよい。例えば、設定装置14の記憶部34に指定領域の位置,形状,大きさ、又は、それらの組み合わせに対応付けて属性の決定条件を登録しておき、ユーザから指定された指定領域が満たす条件に応じて各指定領域に対する属性を自動的に決定することができる。
例えば、重点監視範囲(第1範囲)とする指定領域についてのみ画像指定点をユーザに指定させ、ステップS16において重点監視範囲(第1範囲)となる指定領域から所定の距離R1より近接する空間を一般監視範囲(第2範囲)となる指定領域とし、重点監視範囲(第1範囲)となる指定領域から所定の距離R1以上離れて距離R2より近接している空間を一般非監視範囲(第3範囲)となる指定領域とし、重点監視範囲(第1範囲)となる指定領域から所定の距離R2以上離れた空間を重点非監視範囲(第4範囲)となる指定領域とすることができる。
また、属性は4つに限定されるものではない。また、各空間を複数の異なる種類の属性の組み合わせで分類してもよい。これによって、監視対象の検出処理を属性又はそれらの組み合わせに応じた処理とすることができる。
ステップS14−6では、総ての指定領域についてユーザから画像指定点の入力が終了したか否かが判断される。表示部38の画面上に、さらに指定領域の指定を行うか否かをユーザに伺うメッセージを表示させる。ユーザは、入力部36を用いて、総ての指定領域について指定が終了したか否かを入力する。総ての指定領域について指定が終了している場合にはメインルーチンのステップS16へ処理を移行させ、総ての空間について指定が終了していない場合にはステップS14−1へ処理を戻す。
ステップS16では、画像上で指定された画像指定点の2次元座標に基づいて指定領域を特定する実空間における点の3次元座標が求められる。各指定点の実空間での座標を直交座標形式で表したものを(X,Y,Z)とする。実空間での直交座標とは、図4及び図5に示すように、レンズ中心L0を通る垂線をz軸とし、床面上に、x軸とy軸を仮想的に定義した座標系の座標である。
まず、接地点を示す第1の画像指定点の2次元座標(a,j)に基づいて基準面上(床面上)の接地点の3次元座標(X,Y,0)が算出される。画像中央を原点とすると、図4及び図5に示すように、接地点の3次元座標(X,Y,0)は第1の画像指定点の2次元座標(a,j)を用いて数式(1)及び(2)によって求められる。
Figure 0004754283
指定領域の基準点は接地点から鉛直上に位置する。したがって、図8に示すように、第2の画像指定点の2次元座標(a,b)に対応する第2の点の3次元座標(X,Y,Z)は数式(1)〜(3)によって求められる。
Figure 0004754283
ここで、指定領域の幅を示す第3の画像指定点の2次元座標(c,b)と指定領域の奥行きを示す第4の画像指定点の2次元座標(e,g)に対応する第3の点の3次元座標(r,Y,Z)及び第4の点の3次元座標(tx,ty,Z)は、第2の点の3次元座標(X,Y,Z)と同じ高さに位置する。したがって、図8及び図9に示すように、第3の画像指定点の2次元座標(c,b)に対応する第3の点の3次元座標(r,Y,Z)及び第4の画像指定点の2次元座標(e,g)に対応する第4の点の3次元座標(tx,ty,Z)は数式(4)〜(6)によって求められる。
Figure 0004754283
また、指定領域の高さを示す第5の画像指定点の2次元座標(a,d)に対応する第5の点の3次元座標(X,Y,s)は、第1の3次元座標(X,Y,0)及び第2の3次元座標(X,Y,Z)と鉛直方向に一直線上にある。したがって、第5の画像指定点の2次元座標(a,d)に対応する第5の点の3次元座標(X,Y,s)は数式(7)によって求められる。
Figure 0004754283
ここで、ρは実空間における撮像部12の基準面(床面)に対する俯角、及び、fは画像上の中心点S0から撮像部12のレンズ中心L0までの距離、hは実空間における基準面(床面)に対するレンズ中心L0の高さ、である。なお、撮像画像は任意の縮尺率又は倍率で縮小又は拡大することができる。したがって、撮像画像を縮小又は拡大した場合、縮小又は拡大された画像が撮像部12によって実空間におけるスクリーン50に撮像されたものとしたときのスクリーン50上の中心点S0と撮像部12のレンズ中心L0までの見かけ上の距離がfとなる。
以上のように、指定領域の幅x,奥行きy,高さzはそれぞれ数式(8)〜(10)を用いて算出することができる。
Figure 0004754283
なお、数式(4)をみると、点の実空間上の高さZが既知であれば、画像上の点の座標(この場合は、(c,b))から実空間上のx座標を算出できるということがわかる。したがって、Zは既に数式(3)で算出しているので、点(a,b)について、実空間上のx座標Xは、数式(1)を用いずに
Figure 0004754283
と書き直すこともできる。この数式を用いて数式(8)を導いている。
また、検出波送受信部20からの距離,水平角度,垂直角度のように極座標によって監視対象の位置を検出する監視装置を用いる場合、検出波送受信部20からの距離R、水平角度θ及び垂直角φで指定領域を表すことが好ましい。この場合、数式(11)〜(13)を用いて直交座標系で表された指定領域の座標を極座標系で表された指定領域の座標に変換することができる。
Figure 0004754283
ステップS18では、算出された指定領域が監視装置10で監視可能な範囲に含まれているか否かが判定される。検出範囲算出部32は、監視装置10の記憶部24に格納されている検出波送受信部20の視野範囲の情報を読み出し、ステップS16での算出処理により得られた指定領域が視野範囲(監視可能な空間範囲)に含まれているか否かを判定する。総ての指定領域が監視装置10の視野範囲に含まれていればステップS20へ処理を移行させる。一方、少なくとも1つの指定領域が監視装置10の視野範囲に含まれていなければステップS12に処理を戻す。この場合、表示部38に警告を呈示させたり、監視可能な空間を超えて指定されている指定領域を表示部38に表示されている画像上に重ね合わせて表示させたりすることも好適である。
ステップS20では、監視装置10の記憶部24に指定領域及び属性が格納及び保持される。設定装置14の検出範囲算出部32から監視装置10の記憶部24に対して各指定領域を特定するための3次元座標と属性とが送信され、記憶部24に3次元座標と属性とが指定領域毎に対応付けられて記憶される。
本実施の形態における監視装置10による監視対象の検出処理について説明する。以下では、監視対象を「人」とした場合を例にとって説明する。例えば、監視装置10を家の軒下に向けて設置して、壁を乗り越えてくる侵入者を検出する場合に相当する。また、各指定領域は重点監視範囲(第1範囲),一般監視範囲(第2範囲),一般非監視範囲(第3範囲),重点非監視範囲(第4範囲)のいずれか1つの属性に指定されているものとする。監視対象の検出処理は、図10に示すフローチャートに沿って実行される。
ステップS30では、検出波送受信部20の受信信号から監視可能空間に存在する物体の位置情報を取得する。本実施の形態では、物体検出処理部22は、検出波送受信部20の受信信号を受けて、2周波CWモノパルス方式により受信信号に含まれるドップラー成分とアンテナ間の強度差,位相差に基づいて監視空間に存在する物体までの距離や物体に対する角度(水平角度及び垂直角度)等の位置情報、物体の大きさ,形状,移動速度等の特徴量を得る。
ステップS32では、検出された物体が人であるか否かが判定される。物体検出処理部22は、ステップS30において検出された物体の各々について抽出された特徴量(大きさ、形状、移動速度等)が「人らしさ」を表しているか否かを調査する。検出物体が監視対象であるか否かの判定処理には既存の技術を適用することができる。検出波送受信部20の監視空間内で検出された物体のうち少なくとも1つが人であると判定された場合にはステップS34に処理を移行させ、そうでない場合にはステップS30に処理を戻す。
ステップS34では、監視対象に対して警報を出力するか否かを判断するための評価値Vを設定する。物体検出処理部22は、検出された物体と指定領域の属性との関係に基づいて評価値Vを設定する。このステップS34での処理は、図11のフローチャートに示すように、サブルーチン化されている。
ステップS34−1では、人と判定された監視対象の位置が重点非監視範囲以外であるか否かが判定される。物体検出処理部22は、人と判定された監視対象の位置が重点監視範囲又は一般監視範囲又は一般非監視範囲に存在する場合にはステップS34−2に処理を移行させ、そうでない場合にはメインルーチンのステップS30に処理を戻す。
ステップS34−2では、タイマーが起動中か否かが判定される。物体検出処理部22は、タイマーが起動中である場合にはステップS34−4に処理を移行させ、タイマーが起動中でない場合にはステップS34−3においてタイマーを起動させた後にステップS34−4に処理を移行させる。なお、タイマーは物体検出処理部22に予め内蔵しておくことが好ましい。また、タイマーは起動から所定時間だけ経過すると自動的にリセットされる。
ステップS34−4では、人と判定された監視対象の位置が重点監視範囲に存在するか否かが判定される。物体検出処理部22は、人と判定された監視対象が重点監視範囲に存在する場合にはステップS34−5に処理を移行させて評価値Vを閾値Vth以上の値に設定し、処理をメインルーチンに戻す。一方、監視対象が重点監視範囲に存在しない場合、物体検出処理部22はステップS34−6に処理を移行させる。
ステップS34−6では、監視対象の位置が一般監視範囲に存在するか否かが判定される。物体検出処理部22は、監視対象が一般監視範囲に存在する場合にはステップS34−7に処理を移行させて評価値Vに値αを加算し、さらに処理をステップS34−10に移行させる。値αは、閾値Vthよりも小さい値とする。一方、監視対象が一般監視範囲に存在しない場合、物体検出処理部22はステップS34−8に処理を移行させる。
ステップS34−8では評価値Vに値βを加算し、処理をステップS34−9に移行させる。ただし、値β<値αとすることが好適である。
ステップS34−9では、監視対象の位置が一般非監視範囲に所定時間Tthよりも長く留まっているか否かが判定される。監視対象の滞在時間はステップS34でセットしたタイマーによって知ることができる。監視対象の位置が一般非監視範囲に所定時間Tthよりも長く留まっている場合、監視対象は人ではない物体、例えば植栽の揺れを検出している可能性が高いので、その物体は監視対象から外してもよい物体であると考えられる。したがって、物体検出処理部22は、ステップS34−11に処理を移行させて評価値Vから値δを減算し、処理をメインルーチンに戻す。値δは、閾値Vthよりも小さな値とするのが好適である。一方、監視対象の位置が一般非監視範囲に留まっている時間が所定時間Tth以下である場合、物体検出処理部22はステップS34−10に処理を移行させる。
ステップS34−10では、監視対象の位置が重点監視範囲に接近しつつある
か否かが判定される。物体検出処理部22は、監視対象の実空間内における移動速度に基づいて、監視対象の位置が重点監視範囲に接近しているか否かを判断する。監視対象の位置が重点監視範囲に接近しつつある場合、物体検出処理部22は、ステップS34−12に処理を移行させて評価値Vに値εを加算し、処理をメインルーチンに戻す。値εは、閾値Vthよりも小さな値とするのが好適である。一方、監視対象の位置が重点監視範囲に接近していない場合、物体検出処理部22は処理をメインルーチンに戻す。
このようにして、監視対象に対する評価値Vが設定される。この評価値Vによって警報を発報すべきか否かを判定することができる。また、指定領域を複数の属性に分類することによって、各指定領域の属性に応じて評価に重み付けをすることができる。また、各指定領域の属性に関連付けて監視対象の滞留時間や監視対象の移動方向、移動速度に応じた評価を行うことができる。
なお、監視空間に人と判定された監視対象が複数存在する場合、それぞれについて個別の評価値Vを設定することが好適である。この場合、以下の処理において、監視対象毎の評価値Vに基づいて警報を発報するか否かを判定する。また、監視空間に人と判定された監視対象が複数存在する場合、総ての監視対象に対して1つの評価値Vallを設定してもよい。この場合、例えば、総ての監視対象に対する評価値Vの和を全体の評価値Vallとする。以下の処理では、評価値Vallに基づいて警報を発報するか否かを判定する。
ステップS36では、監視対象に対して警報を出力するか否かが判定される。物体検出処理部22は、評価値Vが所定の閾値Vth以上であればステップS38に処理を移行させて警報を出力させる。一方、評価値Vが閾値Vthより小さければステップS40に処理を移行させる。
ステップS38では、警報が出力される。物体検出処理部22は、出力部26に対して警報出力制御信号を出力する。出力部26は、警報出力制御信号を受けると、例えば、インターネット等の通信網を介して外部の監視室に設置されたコンピュータに警報信号を出力する。
ステップS40では、タイマーが所定の経過時間Tup以上となっているか否かが判定される。タイマーが所定の経過時間Tup以上となっている場合、物体検出処理部22は、ステップS42においてタイマー及び評価値Vをリセットした後にステップS30に処理を戻す。これによって、一方、タイマーが所定の経過時間Tupまで達していない場合、物体検出処理部22は、そのままステップS30に処理を戻す。
以上のように、本実施の形態によれば、監視空間を撮像した画像上において指定された画像指定点に基づいて監視処理において参照される指定領域を求め、指定領域に基づいて監視対象に対する監視を行うことができる。特に、画像上において複数の画像指定点を指定するだけで監視空間における指定領域を特定できるのでユーザの負担を大きく軽減することができる。
なお、本発明の監視対象は侵入者等の人に限定されるものではなく、例えば、高い台座に載せられた彫刻の存在、美術館の壁に掛けられている絵画の存在等を検出する用途にも用いることができる。この場合には、監視領域に監視対象が存在しなくなった場合に警報を出力する。
また、本実施の形態では、指定領域が直方体の空間である例を説明したが、これに限定されるものではない。指定領域の基準点と接地点とが鉛直線上にあれば本発明の技術的思想を適用することができる。すなわち、指定領域の基準点に対応する画像上の画像指定点と接地点に対応する画像上の画像指定点とが画面上で指定されれば、監視空間における指定領域の底面と基準面との高さの差を算出することができる。また、指定領域の底面を特定する点と指定領域の上面を特定する点とが鉛直線上にあれば指定領域全体を特定することができる。すなわち、指定領域の底面を特定する点に対応する画像上の画像指定点と指定領域の上面を特定する点に対応する画像上の画像指定点とが画面上で指定されれば、監視空間における指定領域の底面と上面との高さの差を算出することができる。
例えば、画像上の画像指定点の2次元座標(a,b),(c,b),(e,g),(a,d)をそれぞれ頂点とする三角錐の空間を指定領域として処理することができる。
また、指定領域の底面の高さを特定する画像上の画像指定点の2次元座標(a,b)と指定領域の上面の高さを特定する画像上の画像指定点の2次元座標(a,d)が決定されれば、指定領域の底面又は上面を既定の形状であるとして処理することができる。例えば、直方体の指定領域の幅又は奥行きを既定値であるとして処理することができる。
具体例としては、監視対象が絵画や旗等の奥行きが小さい物体であり、ある程度の検出誤差が許容できる場合、指定領域を接地点、基準点、幅、高さの4つの画像指定点で特定してもよい。この場合、指定領域を特定するための奥行きは予め定められた値とする。
また、さらに複雑な形状の指定領域を指定することもできる。接地点に対応する画像指定点の2次元座標(a,j)と指定領域の底面の高さを特定する点に対応する画像上の画像指定点の2次元座標(a,b)とを指定した後、指定領域の底面の形状を特定する点に対応する総ての画像指定点を指定する。次に、指定領域の上面の高さを特定する点に対応する画像上の画像指定点の2次元座標(a,d)を指定した後、指定領域の上面の形状を特定する点に対応する総ての画像指定点を指定する。さらに、指定領域の底面の形状を特定する点に対応する画像指定点と指定領域の上面の形状を特定する点に対応する画像指定点との対応を指定する。例えば、指定領域の底面の形状を特定する点に対応するある画像指定点をポインティングデバイス等を用いてクリックすると、その画像指定点とそれに対応し得る指定領域の上面の形状を特定する画像指定点を結ぶ線分の総てを表示部38に表示させる。複数の線分が表示された場合、ユーザは、ポインティングデバイス等を用いていずれか1つの線分をクリックすると指定領域の底面の形状を特定する点に対応する画像指定点と指定領域の上面の形状を特定する点に対応する画像指定点とが対応付けられる。これらの対応に基づいて、指定領域の底面と上面とが基準面に平行な面内にあるものとして指定領域を特定する点の3次元座標を算出することができる。
さらに、既に指定された指定領域の上面を新たな指定領域の底面とみなして、さらに新たな指定領域の上面を特定する画像指定点を指定させることによって複雑な任意の形状の指定領域を指定することもできる。
なお、指定領域の底面の形状を特定する点に対応する画像指定点と指定領域の上面の形状を特定する点に対応する画像指定点との対応付けが不正確であり、指定領域が多面体を構成しない場合には表示部38に警告を表示させることも好適である。
本発明の実施の形態における監視システムの構成を示すブロック図である。 本発明の実施の形態における監視装置と撮像装置の設置例を示す図である。 本発明の実施の形態における指定領域の設定方法を示すフローチャートである。 本発明の実施の形態における接地点の3次元座標と画像指定点の2次元座標との関係を説明する図である。 本発明の実施の形態における接地点の3次元座標と画像指定点の2次元座標との関係を説明する図である。 本発明の実施の形態における指定領域の指定方法を示すフローチャートである。 本発明の実施の形態における指定領域の指定方法を説明する図である。 本発明の実施の形態における指定領域の3次元座標と画像指定点の2次元座標との関係を説明する図である。 本発明の実施の形態における指定領域の3次元座標と画像指定点の2次元座標との関係を説明する図である。 本発明の実施の形態における物体の検出方法を示すフローチャートである。 本発明の実施の形態における属性に基づいた物体の検出方法を示すフローチャートである。
符号の説明
10 監視装置、12 撮像部、14 設定装置、20 検出波送受信部、22 出力部、22 物体検出処理部、24 記憶部、26 出力部、30 入出力インターフェース、32 検出範囲算出部、34 記憶部、36 入力部、38 表示部、100 監視システム。

Claims (4)

  1. 監視装置の監視空間の全部又は一部を撮像した画像および当該画像上における2次元座標で表現された画像指定点の指定を取得する入力インターフェースと、
    前記画像上における複数の画像指定点の指定を受けて、前記複数の画像指定点の前記画像上における2次元座標から、前記監視装置にて物体の検出処理を実施するために指定領域を特定する3次元座標である指定領域座標を算出する検出範囲算出部と、
    前記監視空間の物体の位置を3次元的に測定する前記監視装置に接続可能であり、前記指定領域を前記監視装置に出力する出力インターフェースと、
    を備える設定装置であって、
    前記検出範囲算出部は、
    監視空間の水平基準面上を指定した第1の画像指定点の入力を受けて接地点とし、当該接地点の鉛直線上に指定された第2の画像指定点の入力を受けて基準点とし、当該基準点との相対的な位置関係を持つ画像指定点の入力を受けて前記指定領域を3次元座標にて画定することを特徴とする設定装置。
  2. 請求項1に記載の設定装置において、
    前記画像は、その中心位置が前記監視装置の監視空間の中心軸と略一致していることを特徴とする設定装置。
  3. 請求項1又は2に記載の設定装置において、
    前記画像をユーザに呈示する表示部と、
    前記表示部に前記画像を表示させつつ、前記画像上における複数の画像指定点の指定をユーザから受け付ける入力部と、
    を備えることを特徴とする設定装置。
  4. 監視空間に存在する物体の3次元的な位置を測定する監視装置を備え、
    請求項1〜3のいずれか1つに記載の設定装置を用いて設定された前記指定領域に基づいて監視対象を検出することを特徴とする監視システム。
JP2005192923A 2005-06-30 2005-06-30 監視システム及び設定装置 Expired - Fee Related JP4754283B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005192923A JP4754283B2 (ja) 2005-06-30 2005-06-30 監視システム及び設定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005192923A JP4754283B2 (ja) 2005-06-30 2005-06-30 監視システム及び設定装置

Publications (2)

Publication Number Publication Date
JP2007011776A JP2007011776A (ja) 2007-01-18
JP4754283B2 true JP4754283B2 (ja) 2011-08-24

Family

ID=37750170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005192923A Expired - Fee Related JP4754283B2 (ja) 2005-06-30 2005-06-30 監視システム及び設定装置

Country Status (1)

Country Link
JP (1) JP4754283B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108431876A (zh) * 2015-12-16 2018-08-21 日本电气株式会社 入侵检测设备、设置辅助设备、入侵检测方法、设置辅助方法和程序记录介质

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5141048B2 (ja) * 2007-03-05 2013-02-13 オムロン株式会社 リスク監視装置、リスク監視システム、リスク監視方法
JP5518321B2 (ja) * 2008-11-12 2014-06-11 東日本旅客鉄道株式会社 レーザレーダ用設置位置検証装置、レーザレーダ用設置位置の検証方法及びレーザレーダ用設置位置検証装置用プログラム
JP5429850B2 (ja) * 2009-02-23 2014-02-26 国立大学法人 名古屋工業大学 地震時負傷回避システム
JP5667500B2 (ja) * 2011-03-31 2015-02-12 セコム株式会社 侵入検知装置
WO2023032168A1 (ja) * 2021-09-03 2023-03-09 ニューラルポケット株式会社 情報処理システム、情報処理装置、サーバ装置、端末装置、携帯端末装置、プログラム、又は方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0635443A (ja) * 1992-07-15 1994-02-10 N T T Data Tsushin Kk 監視装置
JP2659666B2 (ja) * 1993-06-23 1997-09-30 東京電力株式会社 禁止区域の侵入監視方法及び装置
JP3388087B2 (ja) * 1996-04-18 2003-03-17 松下電器産業株式会社 物体検出装置
JP2001188988A (ja) * 1999-12-28 2001-07-10 Mitsubishi Electric Corp 車両検出装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108431876A (zh) * 2015-12-16 2018-08-21 日本电气株式会社 入侵检测设备、设置辅助设备、入侵检测方法、设置辅助方法和程序记录介质
US10832541B2 (en) 2015-12-16 2020-11-10 Nec Corporation Setting assistance device, setting assistance method, and program recording medium
US11049376B2 (en) 2015-12-16 2021-06-29 Nec Corporation Setting assistance device, setting assistance method, and program recording medium
US11468753B2 (en) 2015-12-16 2022-10-11 Nec Corporation Intrusion detection system, intrusion detection method, and computer-readable medium
US11783685B2 (en) 2015-12-16 2023-10-10 Nec Corporation Intrusion detection system, intrusion detection method, and computer-readable medium

Also Published As

Publication number Publication date
JP2007011776A (ja) 2007-01-18

Similar Documents

Publication Publication Date Title
JP4880925B2 (ja) 設定装置
JP4287647B2 (ja) 環境状況把握装置
US20140375812A1 (en) Method for representing a vehicle's surrounding environment
US20100013917A1 (en) Method and system for performing surveillance
CN108459597B (zh) 一种用于处理任务区域的任务的移动电子设备以及方法
JP4754283B2 (ja) 監視システム及び設定装置
EP3657455B1 (en) Methods and systems for detecting intrusions in a monitored volume
WO2011005783A2 (en) Image-based surface tracking
EP3300045A1 (en) System and method for surveilling a scene comprising an allowed region and a restricted region
US20140049600A1 (en) Method and system for improving surveillance of ptz cameras
JP2016085602A (ja) センサ情報統合方法、及びその装置
EP3527939A1 (en) A system and method of on-site documentation enhancement through augmented reality
JP6917936B2 (ja) 位置検出をグラフィカル表現にマッピングするための方法、装置およびシステム
EP3754547B1 (en) Shape dependent model identification in point clouds
JP2019100985A (ja) 3次元情報取得システム
CN112419405B (zh) 一种目标跟踪联合显示方法、安防系统及电子设备
EP3203266A1 (en) Stereo range with lidar correction
WO2022077238A1 (zh) 成像显示方法、遥控终端、装置、系统及存储介质
EP3510573B1 (en) Video surveillance apparatus and method
CN113068000A (zh) 视频目标的监控方法、装置、设备、系统及存储介质
JP6581280B1 (ja) 監視装置、監視システム、監視方法、監視プログラム
KR20220050722A (ko) 영상관제 시스템에서 카메라 영상내 관제 지점의 지도 매핑 방법
WO2005120070A2 (en) Method and system for performing surveillance
CN108459598B (zh) 一种用于处理任务区域的任务的移动电子设备以及方法
JP7461160B2 (ja) 3次元情報推定システム、3次元情報推定方法、及びコンピュータが実行可能なプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080520

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110104

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110517

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110525

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4754283

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees