JP4617286B2 - 不正通過者検出装置及びこれを利用した不正通過者録画システム - Google Patents

不正通過者検出装置及びこれを利用した不正通過者録画システム Download PDF

Info

Publication number
JP4617286B2
JP4617286B2 JP2006305264A JP2006305264A JP4617286B2 JP 4617286 B2 JP4617286 B2 JP 4617286B2 JP 2006305264 A JP2006305264 A JP 2006305264A JP 2006305264 A JP2006305264 A JP 2006305264A JP 4617286 B2 JP4617286 B2 JP 4617286B2
Authority
JP
Japan
Prior art keywords
person
management area
entrance
authentication
exit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006305264A
Other languages
English (en)
Other versions
JP2008123186A (ja
Inventor
瑞男 月舘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chuo Electronics Co Ltd
Original Assignee
Chuo Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chuo Electronics Co Ltd filed Critical Chuo Electronics Co Ltd
Priority to JP2006305264A priority Critical patent/JP4617286B2/ja
Publication of JP2008123186A publication Critical patent/JP2008123186A/ja
Application granted granted Critical
Publication of JP4617286B2 publication Critical patent/JP4617286B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、認証装置による認証結果に基づいて管理区域への入退場を管理するように構築されたセキュリティシステム(入退場管理システム)において、認証装置による認証作業を経ずに管理区域へ入退場しようとする不正通過者を検出する不正通過者検出装置及びこれを利用した不正通過者録画システムに関する。
機密事項を扱う研究施設や情報管理室、高価な財産(高額貨幣、貴金属品など)、および取扱いを制限されたもの(危険物、薬物なと)を保管する部屋(以下、管理区域という)への入退場は厳重に管理する必要があり、様々なセキュリティシステムが導入されている。
例えば管理区域へ入場する際、IDカードや暗証番号による照合や、指紋照合や虹彩照合によって入場許可者本人であるか否かを判別し、その認証結果をもとに管理区域出入口のドアの開閉(または電気錠の開錠)を制御し、管理区域への入退場を管理するセキュリティシステムが知られている。(例えば特許文献1を参照)
特開2006−243972号公報
不正通過者の検出方法としては、例えば、管理区域出入口を上方から撮影するカメラを設置し、当該カメラからの入力映像を画像処理して管理区域出入口を通過する人数をカウントし、認証装置による認証人数と管理区域出入口の通過人数とを比較することによって管理区域への不正通過を検出するといった技術が考案されている。そして、前記認証人数と通過人数の比較によって不正通過が検出されたときは、管理区域出入口を通過する人物を監視カメラで撮影・録画し、不正通過の証拠を記録することで管理区域への入退場を管理していた。
しかしながら、認証人数と通過人数の比較による不正通過者の検出方法では、管理区域出入口の通過人数が認証人数を超過した時点で不正通過が検出されるため、認証装置で認証作業を経てない未認証者が、認証作業を経た認証者を管理区域出入口手前で追い抜いて管理区域内に入退場した場合、未認証者が管理区域出入口を通過しても不正通過と判断せず、次に認証者が管理区域出入口を通過したときに不正通過と判断してしまい、本当の不正通過者を検出できないといった問題点があった。
つまり従来の不正通過者検出方法では、不正通過の有無は検出することができるものの、不正通過者を正確に特定することができず、不正通過を効果的に抑制することができなかった。
また、認証装置による認証結果に基づいて管理区域出入口のドアの開閉を制御し、管理区域への入退場を監視するセキュリティシステムでは、ひと一人の入退場ごとにドアを開閉しなければならないため、利用者が管理区域内に入場するのに時間がかかり、利用者が多い場所では、管理区域出入口の前に長蛇の列ができてしまうといった問題点や、認証装置の認証結果に基づいて開閉するドアを管理区域出入口に設けるために設備費が嵩んでしまうといった問題点があった。
さらに利用者が多い環境下では、管理区域出入口の前に長蛇の列ができるのを防止するために、管理区域出入口のドアを開放したまま運用することが多く、この様な環境下において、認証装置の認証作業を経ずに管理区域へ入退場しようとする不正通過者を検出し、管理区域への入退場を管理したいといった要求が高まっていた。
この発明は上記問題点に鑑み、認証装置による認証作業を経ていない未認証者を不正通過者と特定して検出できる不正通過者検出装置を提供するとともに、この検出装置を利用した不正通過者録画システムを提供することによって未認証者の不正通過時の映像を録画できるようにし、正確な不正通過者の検出と不正通過時の映像録画とによって管理区域への入退場を管理し、より質の高いセキュリティシステムの構築を目的とするものである。
本発明は管理区域出入口付近に設置した認証装置の認証結果に基づいて管理区域への入退場を管理する入退場管理システムにおいて用いられ、前記認証装置による認証作業を経ずに管理区域へ入場しようとする不正通過者を検出する不正通過者検出装置であって、認証時の立ち位置から管理区域出入口までの範囲を含む一定領域を真上から撮影する通過者検出用カメラからの入力映像を画像処理し、前記領域内に存在する人物を画像上で検出し追跡する追跡部と、前記追跡部で追跡中の人物の位置情報に基づいて、管理区域出入口を通過して管理区域へ入退場する人物を検出する通過検出部と、認証装置による認証完了信号を取得し、この認証完了信号の入力タイミングと追跡部で追跡中の人物の位置情報とに基づいて、認証時にその立ち位置に最も近い位置にいる人物を認証者として識別する手段とを備え、前記通過検出部で管理区域への入退場を検出するにあたって、認証者と識別されていない人物が管理区域出入口を通過した場合は不正通過であると判定し、検出結果出力部から不正通過者検出信号を出力するものである。
また上記の不正通過者検出装置と、管理区域出入口を通過する人物の顔が判別できるように管理区域出入口を撮影する監視カメラと、監視カメラからの入力映像を録画する録画装置とから構成され、前記録画装置に不正通過者検出装置を接続し、録画装置に不正通過者検出信号が入力された時点の監視カメラからの入力映像を不正通過者の映像として録画し、認証装置による認証作業を経ずに管理区域へ入退場しようとする不正通過者の管理区域出入口通過時の映像を録画するように構成した不正通過者録画システムである。
この発明による不正通過者検出装置では、管理区域出入口を通過して管理区域へ入退場する者(通過者)のなかから未認証者を識別して検出することができるため、管理区域出入口手前で未認証者による認証者の追い抜きがあっても、未認証者が管理区域へ踏み込んだ時点で未認証者を不正通過者であると正確に判別し検出することができる。
そして本発明による不正通過者検出装置を利用した不正通過者録画システムでは、未認証者が管理区域出入口を通過した時点で不正通過者と判定して、この未認証者(不正通過者)が管理区域出入口を通過するところを監視カメラで撮影して録画できるため、不正通過者の録画漏れや、正規通過者を誤って不正通過者として録画することを防止することができ、このような不正通過者の正確な特定と録画システムの確立によって、不正通過者を効果的に抑制することができ、より質の高いセキュリティシステムを構築することができる。
またこの発明による録画システムを利用すれば、一般区域と管理区域との間を隔てるドアがない環境下や、管理区域への入退場を制限するドアを開放したままの環境下においても、認証装置による認証作業を経ずに管理区域へ入退場しようとする未認証者(不正通過者)を監視して管理区域への入退場を管理することができる。
本発明による不正通過者検出装置及びこれを利用した不正通過者録画システムの好適な実施例について、図面を参照して説明する。
なお、本発明において管理区域出入口とは、建物出入口や室内出入口などの出入口に限らず、一般区域側と管理区域側とを区分する境界についても管理区域出入口と定義する。つまり一般区域と管理区域とを隔てるドア等がない環境下では、一般区域側と管理区域側とを区分する任意の境界を管理区域出入口として設定し、当該境界を越えたか(通過したか)否かによって管理区域への入退場を判定する。
従って、本発明による不正通過者検出装置およびこれを利用した不正通過者録画システムを採用した入退場管理システム(セキュリティシステム)では、管理区域はドア等によって区切られている必要はなく、任意設定された境界(管理区域出入口)を通過したか否かによって、管理区域への入退場を判定する。
この発明の第1実施例について図1から図7を参照して説明する。
図1及び図2は、管理区域がドア等によって隔てられていない環境下、またはドアを開放したままの環境下において、管理区域出入口付近に設置した認証装置20の認証結果に基づいて管理区域への入場を管理するセキュリティシステムについて説明するものである。
図1は、認証装置20による認証作業を経ずに管理区域へ入場しようとする不正通過者を検出する不正通過者検出装置10を利用した不正通過者録画システムの構成を示す図である。
図2は管理区域と一般区域が隔てられていない環境下における管理区域出入口を示す図であって、図2(a)は管理区域へ通じる通路をあらわし、図2(b)は図2(a)を真上からみた状態をあらわすものである。
図1に示すように、この実施例による不正通過者検出装置10は、管理区域出入口の真上に設置した通過検出用カメラ(ステレオカメラ1)からの入力映像に基づいて管理区域出入口を通過して管理区域へ入場する通過者を検出するとともに、この通過検出工程で、前記認証装置20による認証作業を経ずに管理区域出入口を通過して管理区域へ入場しようとする未認証者を不正通過者として検出する。
また前記不正通過者検出装置を利用した不正通過者録画システムは、管理区域出入口を通過する人物の顔が判別できるように管理区域出入口を撮影する監視カメラ(管理区域側に設置され管理区域へ入場する通過者を正面から撮影する監視カメラ)30と、前記監視カメラ30からの入力映像を録画する録画装置40とを備え、前記不正通過者検出装置10を録画装置40に接続し、不正通過者検出装置10による不正通過者検出信号に基づいて、不正通過者(未認証者)が管理区域出入口を通過した時点を不正通過の証拠として録画するように不正通過者検出装置10と録画装置40とを連動させたものである。なおこの実施例では、監視カメラ30からの入力映像を表示する監視用モニタ41を設けてある。
図2(a)に示すように、この実施例では、管理区域へ通じる通路に、一般区域側と管理区域側とを区分する任意の境界線を管理区域出入口と設定し、この管理区域出入口の真上にステレオカメラ1(通過検出用カメラ)を設置するとともに、管理区域出入口の入場手前(一般区域側)に認証装置20を設置した。前記認証装置20は、管理区域への入場許可者か否かを判定する装置であって、IDカードや暗証番号による照合や、指紋照合や虹彩照合によって入場許可者であるか否かを判定する。
さらにこの実施例では、図2(b)に示すように、管理区域出入口の真上に設置したステレオカメラ1によって、管理区域出入口と認証装置設置位置(認証時の立ち位置である認証装置正面)とを含む一定領域(斜線領域)を上方から撮影し、この入力映像に基づいて前記認証装置による認証作業を経ずに管理区域へ入場しようとする不正通過者を検出する。
なお、管理区域出入口の真上に設置したカメラ(ステレオカメラ)1からの映像では、管理区域出入口を通過する人物の顔を判別することができないので、このカメラ1とは別途に、管理区域側に管理区域出入口を撮影する監視カメラ30を設置し、当該監視カメラ30の画角を調整して管理区域出入口の幅がおさまるように管理区域出入口を管理区域側から撮影することによって、管理区域出入口を通過して管理区域に入場する人物の顔を判別できるようにした。
図3は、前記ステレオカメラ1からの入力映像に基づいて不正通過者を検出する不正通過者検出装置10の構成を示す図である。
この実施例による不正通過者検出装置10は、管理区域出入口と認証装置設置位置とを含む一定領域(斜線領域)を左右2つのカメラによって上方から撮影するステレオカメラ1と、前記ステレオカメラ1から逐次入力される映像(視差画像)を画像処理して撮像体の高さを考慮に入れた三次元立体画像(以下、高さ画像という)を逐次生成する高さ画像生成部2と、前記高さ画像生成部2から逐次入力される高さ画像を画像処理して人物を検出して追跡する追跡部3と、前記追跡部3で追跡中の人物の位置情報に基づいて管理区域出入口を通過して管理区域へ入場する者(通過者)を検出する通過検出部5とを備える。また認証装置20による認証完了信号を取得する認証完了信号入力部4を備え、認証装置による認証タイミングと追跡部3で追跡中の人物の位置情報とに基づいて、認証装置20による認証完了信号が出力された時点で認証時の立ち位置に一番近い位置にいる人物を認証者として識別し、追跡部3から通過検出部5へ人物の位置情報を出力するにあたって、識別情報(認証フラグ)付で出力するように構成した。
そして通過検出部5は、識別情報(認証フラグ)付の位置情報に基づいて管理区域出入口を通過する人物を検出するとともに、認証者として識別された人物が管理区域出入口を通過した場合は正規通過者として判定し、認証者として識別されない人物(未認証者)が管理区域出入口を通過した場合は不正通過者として判定し、不正通過者が検出された場合は、検出結果出力部6から不正通過者検出信号を出力するように構成した。
なお不正通過者検出装置は装置背面などに接点入力と接点出力を有する。
前記接点入力には入場管理システム(認証装置20)が接続されており、認証装置20による入場許可者の認証作業が完了すると、認証完了信号が不正通過者検出装置に入力される。そして前記認証完了信号入力部4が、接点入力に接続されている入場管理システム(認証装置20)から認証完了信号を受取る。
前記接点出力には、録画装置40や、警告または通報用のブザー、ランプなどが接続されており、前記検出結果出力部6から出力された不正通過者検出信号が、これら各装置に入力される。
例えば、ブザー、ランプなどの警報器を前記接点出力に接続し、不正通過者検出装置10から出力された不正通過者検出信号に基づいてこれら警報器が作動するように構築することで、未認証者(不正通過者)が管理区域出入口を通過した時点で、管理区域出入口付近に設置したブザーやランプを作動させて不正通過者に対して警告したり、警備室に設置したブザーやランプを作動させて不正通過があったことを通報したりすることが可能である。なお不正通過者検出信号はパルス信号であり、通報用や警告用のランプやブザーに接続する場合は、信号のパルス幅を通報や警告に適した時間に設定しておく。
また例えば、管理区域出入口を撮影する監視カメラ30の映像を録画する録画装置40を前記接点出力に接続することによって、不正通過者検出装置10と録画装置40とを連動させ、不正通過者検出信号をもとに未認証者(不正通過者)が管理区域出入口を通過した時点を録画することができる。つまり不正通過者を特定して録画でき、より質の高い不正通過者録画システムを構築することができる。
なお録画は、録画装置の録画機能(性能)により、不正通過者の通過時(検出時)のみを記録するようにしても良いし、不正通過者の通過前後(検出前後のフレーム)を録画するようにしても良い。不正通過者を録画するにあたって、通過後であると撮影範囲外に移動してしまい撮影されない虞があり、通過前では不正通過の証拠とならないので、録画装置に録画タイミングの補正をする機能がある場合は、不正通過者が管理区域出入口を通過した瞬間を録画できるように調整することが好ましい。
また監視カメラ30からの入力映像を常時録画し、不正通過者の通過時(検出時)の画像に、不正通過であることを表す不正通過情報を記録できるようにしても良い。
録画する画像は、静止画、準動画、動画の何れでもかまわない。
不正通過者検出装置10の各構成部は統括制御部9によって統括・制御され、ステレオカメラ1からの入力映像に基づいて不正通過者を検出する。
またこの実施例による不正通過者検出装置10は、フロントパネルに液晶表示部(LCD)と設定調整用スイッチ(KeySW)とを有し、オペレータによるスイッチ操作によって、画像処理によって不正通過者を検出する不正通過者検出装置の各種設定値を変更するとともに、各種設定値を前記液晶表示部(LCD)に表示できるように構成した。例えば、オペレータのスイッチ操作によって、画像処理の処理フレームレートを変更できるように構成した。
さらにこの実施例では、スイッチ操作による各種設定の際に、オペレータが管理区域出入口の映像に即して各設定条件を調整できるようにするため、ステレオカメラ1からの入力映像(主映像または高さ画像)を表示する調整用モニタ8を接続してある。なお合成表示部7に、ステレオカメラ1の右カメラ映像(主映像)や、高さ画像生成部2で生成された高さ画像や、統括制御部9からの表示情報(カーソル、文字、グラフィック)を入力し、これらの画像及び表示情報を合成した上で、調整用モニタ8に映像(合成映像)を表示するように構成した。
例えば図4に示すように、調整用モニタ8にステレオカメラ1からの主映像(右カメラ映像)を表示し、この映像上に合成表示されたグラフィックカーソルによって、管理区域への入場(管理区域出入口の通過)を検出する判断基準となる管理区域出入口(通過判断用ライン)を画像上に指定したり、認証装置による認証者を識別するための認証時の立ち位置を画像上に指定できるように構成した。つまりオペレータによるスイッチ(KeySW)の操作によって、調整用モニタ8に表示されている映像上で移動するグラフィックカーソルを合成表示し、オペレータが調整用モニタ8の映像(合成映像)を確認しながら、スイッチ操作によって通過判断用ラインや、認証時の立ち位置を設定できるようにした。
さらにステレオカメラ1からの入力映像を画像処理して不正通過者を検出するにあたって、不正通過者検出に必要な映像範囲のみを画像処理するように、調整用モニタ8を確認しながら画像処理範囲を設定できるようにしてもよい。例えば図4(a)に示すように、ステレオカメラ1の撮影領域のなかから、認証装置20の設置位置と管理区域出入口をまたぐ位置とを含む一定範囲について不正通過者(入場)を検出するための画像処理範囲(不正通過者検出装置で画像処理する範囲)として設定できるように構成してもよい。
不正通過者検出装置10を構成する各構成部について以下に詳細を説明する。
この実施例では、図2(b)に示すように、管理区域出入口の中央(通路の中心線上)の真上にステレオカメラ1を設置し、通路中心線を中心として右カメラと左カメラとを左右方向のステレオとして配置して、前後方向(進行方向)は撮影位置が合うように調整してある。従って前記ステレオカメラ1からの入力映像(同時撮影された右カメラ映像と左カメラ映像)において、撮像体に左右方向にのみ視差が生じる(視差画像)。
なお天井から真下を撮影するようにステレオカメラ1を設置することが好ましい。これによって座標変換処理をすることなく、撮像体の二次元座標を得ることができる。
高さ画像生成部2では、前記右カメラ映像と左カメラ映像との視差画像をもとに距離画像を生成し、この距離画像と右カメラ映像(主映像)とに基づいて高さ画像(撮像体の高さを考慮に入れた真上からの三次元立体画像)を生成する。
そしてステレオカメラ1の右カメラ映像の各画素(若しくは各ブロック)を基準とし、それぞれの画素(若しくはブロック)が撮像しているものと同じものを撮像している左カメラ映像の画素(若しくはブロック)と対応づけ、対応付けられた二つの画素(若しくはブロック)の視差を三角測量の原理から求めることにより距離画像(高さ方向のみの情報)を生成する。そして前記距離画像と、基準となる右カメラ映像(主映像)とに基づいて、高さ画像(撮像体の高さも考慮に入れた三次元立体画像)を生成する。
ステレオカメラの左右カメラ間隔や、レンズの焦点距離、天井高のパラメータを予め設定しておくことによって高さ画像が生成される。つまりステレオカメラからの入力映像(視差画像)をもとに、(左右カメラ間隔)×(レンズ焦点距離)÷(視差)によって撮像体までの距離が算出され、距離画像が生成される。また天井高(ステレオカメラの設置高さ)から撮像体までの距離を引いた値が、撮像体の高さ(床からの高さ)であるので、前記距離画像と右カメラ映像(主映像)をもとに、撮像体の高さを考慮に入れた三次元立体画像(高さ画像)が生成される。
ステレオカメラ1から高さ画像生成部2に左右カメラ映像(同時撮影された右カメラ映像と左カメラ映像)が逐次入力され、高さ画像生成部2ではその都度高さ画像を生成し、追跡部3に逐次入力する(例えば、毎秒10〜15フレームの処理フレームレート)。
そして追跡部3では、オペレータのスイッチ操作によって予め設定された高さ値を基準に一定以上の高さの画素(若しくはブロック)を高さ画像から検索し、高さ画像生成部2から入力された高さ画像から一定以上の高さをもつ一まとまりの領域を人物のパターンとして検出して追跡する。これによって光や影などの濃淡の変化による影響を受けることなく、高い精度で人物を検出して追跡することができる。
この実施例では、管理区域出入口の真上に設置したステレオカメラ1の入力映像(視差画像)から距離画像を生成し、この距離画像と主映像(右カメラ映像)とをもとに高さ画像を生成し、この高さ映像から人物を検出して追跡するように構成したが、管理区域出入口の真上に距離画像センサを設置し、距離画像センサから直接取得した距離画像をもとに高さ画像を生成するように構成してもよい。
また光や影などの影響がない場所では、高さ画像を生成することなく、管理区域出入口の真上に設置した単眼カメラからの入力映像(二次元映像)から人物を検出して追跡するように構成してもよい。
高さ画像から人物を検出して追跡する追跡部3について、図5を参照して説明する。
図5(a)に示すように、追跡部3は、高さ画像生成部2で生成した高さ画像が入力される高さ画像メモリ31と、高さ画像メモリ31から一定以上の高さをもつ一まとまりの領域(人物のパターン)を分離抽出し、軌跡メモリ34に新規パターンとして登録するパターン生成部32と、既に軌跡メモリ34に登録してあった人物のパターン(1フレーム前の人物のパターン)と新たに分離抽出された人物のパターンとを比較することによって、移動した人物のパターンを更新パターンとして軌跡メモリ34に登録するパターン更新部33と、軌跡メモリ34に登録されたパターン情報から代表点を生成し、高さ画像をもとに検出された人物の位置情報を出力する代表点生成部35とからなる。
この実施例では、高さ画像メモリ31において、高さ画像生成部2から入力された高さ画像を左から右に向かって主走査するとともに、上から下に向かって副走査し、一定以上の高さを検出した画素(若しくはブロック)を探索する。そして、予め設定されている高さ値を基準に一定以上の高さの画素(若しくはブロック)が検出されたら、その画素(ブロック)を基点として輪郭線追跡による領域抽出を行い(パターン生成部32)、抽出された一まとまりの領域を分離抽出して人物一人として扱い、軌跡メモリ34に新規パターンとして登録する。
高さ画像から一定以上の高さをもつ一まとまりの領域を分離抽出するたびに、その分離抽出され画素(若しくはブロック)を高さ画像メモリ31から除いていき、高さ画像メモリ31から一定以上の高さを検出した画素(若しくはブロック)が探索されなくなるまで高さ画像を繰り返し走査し、ステレオカメラの撮影領域内に存在する人物を検出して軌跡メモリ34に人物パターンを登録する。
そして代表点生成部35では、軌跡メモリ34のパターン情報(人物のパターン)をもとに人物の位置情報(代表点)を求める。この実施例では、輪郭線軌跡による領域抽出によって分離抽出された一まとまりの領域(人物のパターン)の重心を求め、この重心の座標を人物の位置として用い、この位置情報を通過検出部5へ出力するように構成した。
なおこの重心は三次元座標であるが、これを床面に垂直投影した位置(高さを考慮に入れない二次元座標)を位置情報として通過検出部5へ出力した。
なお高さ画像メモリ31に一定以上の高さをもつ画素(若しくはブロック)が無くなったら、高さ画像生成部2から高さ画像メモリ31に新たな高さ画像(次の時刻の高さ画像)を入力し、逐次入力される高さ画像について人物パターンの検出処理(画像処理)を繰り返す。
またこの実施例では、逐次入力される高さ画像のフレーム間の連続性を用いて追跡処理を行った(更新パターン生成部33)。
この実施例では、図5(b)に示すように、1つ前の高さ画像(時刻=t)から分離抽出した人物パターンの重心を中心に円形パターンを生成し、この円形パターンと現在の高さ画像(時刻=t+1)から分離抽出した人物のパターンとの重なり(AND)をとることで、同一人物として追跡していく方式をとっている。
円形パターンは人物パターンよりも一回り大きくなるよう設定し、人物の移動に対してフレーム間の連続性をみるときに、時刻t+1の高さ画像をもとに生成した人物パターンと時刻tの高さ画像をもとに生成した円形パターンとの重なり(AND)の欠けが生じない程度に調整する。
なお撮影領域内に複数の人物が存在する場合、円形パターンが他の人物の人物パターンとも重なりをもってしまうこともあるが、本人の人物パターンのほうが他の人物の人物パターンよりも重なり(AND)が十分大きくなるように、処理フレームレートを上げることが好ましい。
管理区域出入口を通過して管理区域へ入場する人物を検出する通過検出部5は、追跡部3から入力された人物の位置情報に基づき、追跡部3で追跡中の人物が管理区域出入口(通過判断用ライン)を越えた時点で通過したと判断する。
通過検出部5による通過検出は、図6(a)に示すように、オペレータが調整用モニタ8の映像(合成映像)を確認しながらスイッチ操作によって予め画像上(右カメラから入力される二次元画像)に設定した通過判断用ラインLを、追跡部3で追跡中の人物の代表点(二次元座標)が越えた時点(t2)で通過を検出する。
なお通過判断用ラインに幅をもたせ、ヒステリシス特性を持たせるのも効果的である。これによって人物の移動中の揺れなどが原因の二重検出を低減することができる。
例えば図6(b)に示すように、幅をもった通過判断用ラインとして2本のライン(第1,第2通過判断用ラインL1,L2)を設定し、追跡中の人物の位置情報に基づいて2本のラインを越えた時点(t3)で通過を検出するとともに、第1,第2通過判断用ラインのどちらからどちらにまたいだかによって人物の通過方向を検出することができる。そしてこの通過方向の検出によって、逆走する人物を検出することができる。
さらにこの発明による不正通過者検出装置では、通過検出部5による通過検出工程で、認証者による通過と、未認証者による通過とを判別し、未認証者が通過した場合に不正通過者であると判断し、検出結果出力部6から不正通過者検出信号を出力する。
この発明による不正通過者検出装置10の接点入力(認証完了信号入力部4)には入場管理システム(認証装置20)が接続されており、入場許可者が認証装置20で認証作業をし、その認証作業が完了すると、認証完了信号入力部4に認証完了信号が入力される。
そして認証完了信号入力部4は、認証完了信号が入力されたタイミングをもとに認証作業が完了したタイミング(認証タイミング)を追跡部3に入力する。
認証タイミングが追跡部3に入力されると、ステレオカメラ1の入力映像をもとに人物を検出して追跡する追跡部3では、図7に示すように、認証完了時(認証完了信号入力時)の画像をもとに、認証完了時に認証時立ち位置に一番近い場所にいる人物を検出して認証者(認証済み)として識別し、識別情報(認証フラグ)付の位置情報を通過検出部5へ出力する。
追跡部3から通過検出部5に入力される人物のパターン情報は、位置情報(代表点)と識別情報(認証フラグ)とからなり、追跡中の人物が認証者と識別されると、識別情報の初期値(認証済みフラグ=0)が認証済み(認証済みフラグ=1)となる。
高さ画像入力部2からの高さ画像をもとに人物を検出して追跡する追跡部3では、人物を新たに検出した時点で、その位置情報と認証情報(初期値;認証済みフラグ=0)とからなるパターン情報を生成し、この認証情報を付加した位置情報を通過検出部5へ出力する。そして認証タイミングと追跡中の人物の位置情報とに基づいて認証者と特定された時点で、前記認証情報を認証済みとし(認証済みフラグ=1)、認証者として識別する。つまり未認証者(認証済みフラグ=0)と認証者(認証済みフラグ=1)とを、認証フラグによって識別する。
そしてこの識別情報(認証フラグ)付の位置情報(代表点)は通過検出部5へ出力され、通過検出工程において、前記識別情報(認証情報)をもとに正規通過者か不正通過者かが判定される。つまり人物の位置情報(代表点)をもとに通過判断用ラインを越えたか否かで管理区域への入場を検出するにあたって、位置情報に付加されている識別情報をみて、認証済みフラグ=1の場合(認証者)は正規通過者であると判定し、認証済みフラグ=0の場合(未認証者)は不正通過者であると判定する。
例えば追跡部3に認証タイミングが入力されると、図7に示すように、追跡中の人物(A,B,C)の位置情報(代表点)に基づいて認証完了時に認証立ち位置(この実施例では認証装置の正面中央)に最も近い位置に存在する人物を検出する。そして最も近い位置に存在する人物の識別情報を認証済みと(認証済みフラグ=1)、人物の追跡を継続し、人物の位置情報と識別情報とからなるパターン情報を通過検出部5に出力する。そして通過検出部5による通過検出工程で、識別情報(認証フラグ)をもとに正規通過者と不正通過者とを識別する。
なお認証時の立ち位置の位置情報は、二次元座標値として予め設定しておくとともに(オペレータによるスイッチ操作)、追跡中の人物の位置情報は、人物パターンの重心をもとに二次元座標値として算出される代表点を用い、前記二次元座標値からなる立ち位置と代表点の最小距離に該当する人物を認証者として識別する。なお追跡中の人物の位置情報をもとに認証者を探索するにあたって、計算量低減や誤検出低減のために認証者探索範囲を予め設定しておき、その探索範囲中に存在する人物の位置情報をもとに認証者を検出するようにしてもよい。また認証装置20の設置位置の付近の床面に認証時の立ち位置を示すマークを記し、認証時に認証装置の正面に人物が立つように運用ルールを設けることが好ましい。
図7に示す実施例では、人物Bの代表点までの距離が一番近いため、人物Bの識別情報を認証済み(認証済みフラグ=1)とする。そしてこの人物Bの追跡を継続し、識別情報付(認証済みフラグ=1)の位置情報をもとに通過検出部5で管理区域への入場を検出するにあたって、人物B(認証済みフラグ=1)の代表点が通過判断用ラインを越えた場合は、正規通過者として判定する。
一方、人物Aや人物Cの追跡を継続し、識別情報付の位置情報をもとに通過検出部5で管理区域への入場を検出するにあたって、識別情報が初期値(認証済みフラグ=0)のまま人物Aや人物Cの代表点が通過判断用ラインを越えた場合は、不正通過者として判定する。
なお調整用モニタ8に右カメラ映像(主映像)と表示情報とを表示し、画像上に設定された通過判断用ラインを人物が越えたか否かを見ながら管理区域への不正通過を確認できるようにする場合、表示映像上に前記通過判断用ラインを合成表示するとともに、人物の通過時点を容易に判断できるように代表点を合成表示し、さらに不正通過か正規通過か容易に判断できるように認証者と未認証者の代表点の色を区別するように設定してもよい(例えば赤色と青色)。
なおこの実施例による不正通過者検出装置10では、天井高2.5mの高さからステレオカメラ1によって真下を広角撮影し、毎秒10フレームの処理フレームレートにて画像処理したところ、追跡部3において人間の歩行を十分に追跡し、通過者検出部5において不正通過者を識別して検出することができた。また毎秒15フレームの処理フレームレートにて画像処理したところ、人間の駆け足走行についても十分に追跡し、不正通過者を識別して検出することができた。
続いて、この発明の第2実施例について図8を参照にして説明する。
図8は、管理区域がドア等によって隔てられていない環境下、またはドアを開放したままの環境下において、管理区域出入口の入場手前(一般区域側)に設置した認証装置20aの認証結果に基づいて管理区域への入場を管理するとともに、管理区域出入口の退場手前(管理区域側)に設置した認証装置20bの認証結果に基づいて管理区域への退場を管理するセキュリティシステム(入退場管理システム)について説明するものである。
この実施例による不正通過者検出装置10では、管理区域出入口の真上に設置したステレオカメラ1(通過検出用カメラ)によって管理区域出入口と認証装置20a,20bの設置位置(認証時の立ち位置である認証装置正面)とを含む一定領域を撮影し、第1実施例と同様にして、前記ステレオカメラ1からの入力映像に基づいて管理区域出入口を通過して管理区域へ入退場する通過者を検出するとともに、この通過検出工程で、前記認証装置20a,20bによる認証作業を経ずに管理区域出入口を通過して管理区域へ入退場しようとする不正通過者を識別して検出する。
なおこの実施例では、不正通過者(入退場)を検出するための画像処理範囲と、管理区域への入退場を判定するための通過判断用ラインと、認証者を識別するための認証時の立ち位置とを、図4(b)のように設定し、第1実施例と同様にして、ステレオカメラ1からの入力映像を画像処理し、認証装置20aによる認証作業を経ずに管理区域へ入場するものを不正通過者として検出するとともに、認証装置20bによる認証作業を経ずに管理区域から退場しようとする者を不正通過者として検出するように構成した。
さらに前記不正通過者検出装置10を利用した不正通過者録画システムでは、管理区域出入口を通過して管理区域へ入場する通過者を正面から撮影する監視カメラ30aを管理区域側に設置するとともに、管理区域出入口を通過して管理区域から退場する通過者を正面から撮影する監視カメラ30bを一般区域側に設置し、前記監視カメラ30a,30bからの入力映像をそれぞれ録画する録画装置40に前記不正通過者検出装置10を接続し、第1実施例と同様にして、不正通過者検出装置10による不正通過者検出信号に基づいて、不正通過者(未認証者)が管理区域出入口を通過した時点を不正通過の証拠として録画するように、不正通過者検出装置と録画装置とを連動させた。つまり不正通過者検出装置10による不正通過者検出信号(入場/退場)に基づいて、不正通過者が管理区域出入口を通過した時点(監視カメラ30aによる映像(入場)/監視カメラ30bによる映像(退場))をそれぞれ録画するように構成した。なおこの実施例では、監視カメラ30a,30bからの入力映像をそれぞれ表示する監視用モニタ41を設けてある。
次に、この発明の第3実施例について図9及び図10を参照して説明する。
図9及び図10は、一般区域と管理区域とがドア等によって隔てられている環境下において、管理区域出入口付近(一般区域側)に設置した認証装置20の認証結果に基づいて管理区域への入場を管理するセキュリティシステムについて説明するものである。
一般区域と管理区域とがドア等で隔てられた環境下では、認証装置20の認証結果に基づいて開閉する自動ドアを管理区域出入口に設けることができる。なお管理区域出入口にドアがある環境下では、ドア開閉がステレオカメラからの入力映像に基づく人物の検出・追跡に悪影響を及ぼさないように、管理区域出入口に引き戸式(スライド式)のドアを設けることが好ましい。また管理区域出入口に回転式のドアを設けた場合、管理区域への入場時は管理区域側へ開き、管理区域からの退場時は一般区域側へ開くように構築することが好ましい。
管理区域と一般区域がドア等によって隔てられている環境下では、通過検出用カメラ(ステレオカメラ1)を管理区域出入口の真上に設置することができず、一台のステレオカメラ1で一般区域側と管理区域側の双方を撮影することはできない。
従って、管理区域への入場管理システムにおいて不正通過者を検出する場合は、認証装置(入場用)が設置されている一般区域側の真上に通過検出用カメラ(ステレオカメラ)を設置し、認証装置(入場用)による認証時の立ち位置から管理区域出入口までの範囲を含む領域を上方から撮影する。そして不正通過者検出装置において、前記ステレオカメラからの入力映像(管理区域出入口が画像端に位置する一般区域側の映像)を画像処理し、第1実施例と同様に通過検出工程で未認証者による通過を識別し、不正通過者(入場)を検出する。
一方、管理区域からの退場管理システムにおいて不正通過者を検出する場合は、認証装置(退場用)が設置されている管理区域側の真上に通過検出用カメラ(ステレオカメラ)を設置し、認証装置(退場用)による認証時の立ち位置から管理区域出入口までの範囲を含む領域を上方から撮影する。そして不正通過者検出装置において、前記ステレオカメラからの入力映像(管理区域出入口が画像端に位置する管理区域側の映像)を画像処理し、第1実施例と同様に通過検出工程で未認証者による通過を識別し、不正通過者(退場)を検出する。
なお何れの場合においても、管理区域出入口(ドア)手前を捕捉して撮影するため、通過検出用カメラ(ステレオカメラ)をドアの中心線上に設置することが好ましい。
図9は管理区域と一般区域が隔てられた環境下における管理区域出入口を示す図であって、図9(a)は管理区域へ通じる通路をあらわし、図9(b)は図9(a)を真上からみた状態をあらわすものである。
この実施例では、一般区域側の真上に設置したステレオカメラ1によって、認証装置(入場用)20による認証時の立ち位置から管理区域出入口までの範囲を含む一定領域を上方から撮影し、不正通過者検出装置では前記ステレオカメラ1からの入力映像を画像処理して前記領域内に存在する人物を検出し、認証装置(入場用)20による認証作業を経ずに管理区域へ入場しようとする不正通過者を検出する。
なお不正通過者検出装置を利用した不正通過者録画システムでは、管理区域出入口を通過して管理区域へ入場する通過者を正面から撮影する監視カメラ30を管理区域側に設置し、管理区域へ入場する人物の顔を判別できる映像を取得できるように管理区域出入口を撮影するとともに、第1実施例と同様に、監視カメラ30の入力映像を録画する録画装置を不正通過者検出装置に連動させ、不正通過者(未認証者)が管理区域出入口を通過した時点を不正通過の証拠として録画するよう構成する。
図10は、不正通過者検出装置による画像処理を説明する図である。
ステレオカメラ1からの入力映像を画像処理するにあたって、図4に示す実施例と同様に、管理区域への入場を検出する際の判断基準となる通過判断用ラインと、認証装置(入場用)20による認証者を識別するための認証時の立ち位置とを画像上に指定する。なおこの実施例では、通過判断用ラインを管理区域出入口のドアに重ね合わせて設定する。
図10に示すように、一般区域側の真上に設置したステレオカメラ1の入力映像では管理区域出入口が画像端に位置するため、管理区域出入口を通過して管理区域へ入場した人物は画像上から外れる(消滅する)こととなる。従って管理区域出入口を通過して管理区域へ入場する人物を検出する通過検出部5は、追跡部3から入力された人物の位置情報に基づき、追跡部3で追跡中の人物の代表点(二次元座標)が通過判断用ライン側で画像上から外れた時点(代表点が消えた時点)で、管理区域出入口を通過して管理区域へ入場したと判断する。
そして管理区域出入口を通過して管理区域へ入場する通過者を検出する工程では、第1実施例と同様に、管理区域出入口の通過者のなかから、認証装置(入場用)20による認証作業を経ずに管理区域出入口を通過して管理区域へ入場しようとする人物(未認証者)を識別し、不正通過者として検出する。
この発明の第1実施例による不正通過者検出装置を利用した不正通過者録画システムの構成を説明する図である(入場管理)。 管理区域と一般区域が隔てられていない環境下における管理区域出入口を説明する図である。 不正通過者検出装置の構成を説明する図である。 調整用モニタの表示映像に基づく各種設定例を示す図である。 追跡部を説明する図である。 通過検出部による通過検出を説明する図である。 認証者と未認証者の識別方法を説明する図である。 この発明の第2実施例による不正通過者検出装置を利用した不正通過者録画システムの構成を説明する図である(入退場管理)。 管理区域と一般区域が隔てらた環境下における管理区域出入口を説明する図である。 管理区域と一般区域が隔てらた環境下における不正通過者検出装置の画像処理を説明する図である。
符号の説明
1 ステレオカメラ
2 高さ画像生成部
3 追跡部
4 認証完了信号入力部
5 通過検出部
6 検出結果出力部
7 合成表示部
8 調整用モニタ
9 統括制御部
10 不正通過者検出装置
20,20a,20b 認証装置
30,30a,30b 監視カメラ
40 録画装置
41 監視用モニタ
31 高さ画像メモリ
32 パターン生成部
33 パターン更新部
34 軌跡メモリ
35 代表点生成部

Claims (4)

  1. 管理区域出入口付近に設置した認証装置(20)の認証結果に基づいて管理区域への入退場を管理する入退場管理システムにおいて用いられ、前記認証装置による認証作業を経ずに管理区域へ入場しようとする不正通過者を検出する不正通過者検出装置(10)であって、
    認証時の立ち位置から管理区域出入口までの範囲を含む一定領域を真上から撮影する通過者検出用のステレオカメラ(1)からの入力映像から高さ画像を生成し、あらかじめ設定された高さ値以上の高さをもつ一領域を前記領域内に存在する人物として検出し追跡する追跡部(3)と、
    前記追跡部で追跡中の人物の位置情報に基づいて、管理区域出入口を通過して管理区域へ入退場する人物を検出する通過検出部(5)と、
    認証装置による認証完了信号を取得し、この認証完了信号の入力タイミングと追跡部で追跡中の人物の位置情報とに基づいて、認証時にその立ち位置に最も近い位置にいる人物を認証者として識別する手段とを備え、
    前記通過検出部(5)で管理区域への入退場を検出するにあたって、認証者と識別されていない人物が管理区域出入口を通過した場合は不正通過であると判定し、検出結果出力部(6)から不正通過者検出信号を出力し、
    前記追跡部が、
    前記高さ値以上の高さをもつ一領域の重心を算出し、
    算出した前記重心を中心とした円形パターンを生成し、
    生成した前記円形パターンと、次フレームの高さ画像から生成した円形パターンとの重なりが最も大きくなるパターンを同一人物の次フレームにおける円形パターンであると判断して追跡をすることを特徴とする不正通過者検出装置。
  2. 前記追跡部が、
    前記円形パターンが、次フレームの円形パターンとの重なりが生じるように、かつ異なる人物との重なりより同一人物の重なりの方が大きくなるように高いフレームレートで高さ画像を生成することを特徴とする請求項記載の不正通過者検出装置。
  3. 前記フレームレートが毎秒10〜15フレームであることを特徴とする請求項記載の不正通過者検出装置。
  4. 請求項1からの何れか1項に記載の不正通過者検出装置(10)と、管理区域出入口を通過する人物の顔が判別できるように管理区域出入口を撮影する監視カメラ(30)と、監視カメラからの入力映像を録画する録画装置(40)とから構成され、
    前記不正通過者検出装置(10)の前記通過検出用のステレオカメラ(1)が、前記管理区域内に鉛直下向きに撮影するように設置され、前記監視カメラ(30)が、前記一般区域に設置され、
    前記録画装置に不正通過者検出装置を接続し、録画装置に不正通過者検出信号が入力された時点の監視カメラからの入力映像を不正通過者の映像として録画し、認証装置による認証作業を経ずに管理区域へ入退場しようとする不正通過者の管理区域出入口通過時の映像を録画するように構成したことを特徴とする不正通過者録画システム。
JP2006305264A 2006-10-17 2006-11-10 不正通過者検出装置及びこれを利用した不正通過者録画システム Active JP4617286B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006305264A JP4617286B2 (ja) 2006-10-17 2006-11-10 不正通過者検出装置及びこれを利用した不正通過者録画システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2006282407 2006-10-17
JP2006305264A JP4617286B2 (ja) 2006-10-17 2006-11-10 不正通過者検出装置及びこれを利用した不正通過者録画システム

Publications (2)

Publication Number Publication Date
JP2008123186A JP2008123186A (ja) 2008-05-29
JP4617286B2 true JP4617286B2 (ja) 2011-01-19

Family

ID=39507888

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006305264A Active JP4617286B2 (ja) 2006-10-17 2006-11-10 不正通過者検出装置及びこれを利用した不正通過者録画システム

Country Status (1)

Country Link
JP (1) JP4617286B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010128727A (ja) * 2008-11-27 2010-06-10 Hitachi Kokusai Electric Inc 画像処理装置
KR101025605B1 (ko) 2009-02-27 2011-03-30 한국교통연구원 공항 내 보호구역 출입 통제 시스템 및 방법
EP2442286B1 (en) * 2009-06-11 2018-09-26 Fujitsu Limited Suspicious person detection device, suspicious person detection method, and suspicious person detection program
KR102361770B1 (ko) * 2015-07-28 2022-02-10 삼성에스디에스 주식회사 보안 강화 방법 및 보안 강화 장치
JP7127284B2 (ja) * 2018-01-12 2022-08-30 京セラドキュメントソリューションズ株式会社 監視端末装置、監視システムおよび監視表示制御プログラム
US10503966B1 (en) * 2018-10-11 2019-12-10 Tindei Network Technology (Shanghai) Co., Ltd. Binocular pedestrian detection system having dual-stream deep learning neural network and the methods of using the same
EP4102011A4 (en) * 2020-02-06 2023-03-22 Nec Corporation GATE SYSTEM, GATE DEVICE, METHOD OF CONTROL THEREOF AND PROGRAM

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002092766A (ja) * 2000-09-12 2002-03-29 Ishikawajima Harima Heavy Ind Co Ltd ホテル内セキュリティ監視システム
JP2003099861A (ja) * 2001-09-26 2003-04-04 Kumahira Safe Co Inc 人体検知装置及び入退室管理システム
JP2003246268A (ja) * 2002-02-22 2003-09-02 East Japan Railway Co ホーム転落者検知方法及び装置
JP2004185484A (ja) * 2002-12-05 2004-07-02 Oki Electric Ind Co Ltd 入出管理方法および入出管理システム
JP2004246856A (ja) * 2002-12-18 2004-09-02 National Institute Of Advanced Industrial & Technology インタフェース装置
JP2005115475A (ja) * 2003-10-03 2005-04-28 Seiko Precision Inc 物体通過管理システム
JP2005123674A (ja) * 2003-10-14 2005-05-12 Konica Minolta Holdings Inc 撮像装置及び撮像システム
JP2006236183A (ja) * 2005-02-28 2006-09-07 Nec Engineering Ltd 入退場管理システム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002092766A (ja) * 2000-09-12 2002-03-29 Ishikawajima Harima Heavy Ind Co Ltd ホテル内セキュリティ監視システム
JP2003099861A (ja) * 2001-09-26 2003-04-04 Kumahira Safe Co Inc 人体検知装置及び入退室管理システム
JP2003246268A (ja) * 2002-02-22 2003-09-02 East Japan Railway Co ホーム転落者検知方法及び装置
JP2004185484A (ja) * 2002-12-05 2004-07-02 Oki Electric Ind Co Ltd 入出管理方法および入出管理システム
JP2004246856A (ja) * 2002-12-18 2004-09-02 National Institute Of Advanced Industrial & Technology インタフェース装置
JP2005115475A (ja) * 2003-10-03 2005-04-28 Seiko Precision Inc 物体通過管理システム
JP2005123674A (ja) * 2003-10-14 2005-05-12 Konica Minolta Holdings Inc 撮像装置及び撮像システム
JP2006236183A (ja) * 2005-02-28 2006-09-07 Nec Engineering Ltd 入退場管理システム

Also Published As

Publication number Publication date
JP2008123186A (ja) 2008-05-29

Similar Documents

Publication Publication Date Title
JP4357521B2 (ja) 不正通過者検出装置及びこれを利用した不正通過者録画システム
JP4617286B2 (ja) 不正通過者検出装置及びこれを利用した不正通過者録画システム
JP6148065B2 (ja) 顔認証システム
JP6151582B2 (ja) 顔認証システム
JP6148064B2 (ja) 顔認証システム
JP2007148987A (ja) 顔認証システムおよび入退場管理システム
JP2006236244A (ja) 顔認証装置および入退場管理装置
JP2006209728A (ja) 不正入室検出装置および検出方法、並びにこれを利用した入室管理システム
JP2007303239A (ja) 認証装置、認証装置の制御方法、および認証装置の制御プログラム
JP2006236183A (ja) 入退場管理システム
JP2010154134A (ja) 映像監視システム
US20140071293A1 (en) Method and device for authintication of live human faces using infra red images
KR101858396B1 (ko) 지능형 침입 탐지 시스템
JP2007122481A (ja) 入退室監視方法および監視システム
JP2008158678A (ja) 人物認証装置および人物認証方法および入退場管理システム
JP2007115188A (ja) 入退室監視方法及び監視システム
JP5955056B2 (ja) 顔画像認証装置
JP5025292B2 (ja) 不審者検知システム及び方法
JP2008182459A (ja) 通行監視システム
KR102046591B1 (ko) 영상 감시 시스템 및 영상 감시방법
JP2010262527A (ja) 通行者計数装置、通行者計数方法および通行者計数プログラム
JP2010211514A (ja) 侵入者監視システム
JP4928299B2 (ja) 共連れ検知システム
JP4493521B2 (ja) 出入管理装置
JP2004118359A (ja) 人物認識装置、人物認識方法および通行制御装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101025

R150 Certificate of patent or registration of utility model

Ref document number: 4617286

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131029

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250