JP7107697B2 - POSITION DETECTION SYSTEM AND POSITION DETECTION METHOD - Google Patents
POSITION DETECTION SYSTEM AND POSITION DETECTION METHOD Download PDFInfo
- Publication number
- JP7107697B2 JP7107697B2 JP2018036747A JP2018036747A JP7107697B2 JP 7107697 B2 JP7107697 B2 JP 7107697B2 JP 2018036747 A JP2018036747 A JP 2018036747A JP 2018036747 A JP2018036747 A JP 2018036747A JP 7107697 B2 JP7107697 B2 JP 7107697B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured
- face
- user
- position detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Collating Specific Patterns (AREA)
Description
本発明は、屋内における人間の位置検出を行う位置検出システム及び位置検出方法に関する。 The present invention relates to a position detection system and position detection method for detecting the position of a person indoors.
従来より、建物内などにおいて、人間の位置を検出する方法は、各種検討されている。例えば、ビーコン、無線タグ、WiFi(ワイファイ)電波、地磁気、IMES(Indoor MEssaging System)、PHS(Personal Handy-phone System)等の通信端末を用いた位置検出技術や、この組合わせでの構成が多い(例えば、特許文献1参照)。
上述した人間の位置を検出する方法には、それぞれ長所及び短所の各々があるが、共通する欠点は、人間の各々が携帯する自身の位置を示す専用機器、また電波あるいは光学的に位置検出を行う位置検出センサなどの専用機器を建物内に配置が必要なる点である。
Conventionally, various methods have been studied for detecting the position of a person in a building or the like. For example, there are many position detection technologies using communication terminals such as beacons, wireless tags, WiFi radio waves, geomagnetism, IMES (Indoor Messaging System), PHS (Personal Handy-phone System), and combinations of these technologies. (See Patent Document 1, for example).
The methods for detecting the position of a person described above each have advantages and disadvantages. It is a point that it is necessary to arrange dedicated equipment such as position detection sensors in the building.
センサタグなどの専用機器は、人間の位置を検出することは可能であり、また人間が携帯している携帯機器の個体識別は可能であるが、携帯機器を携帯している人間の各々を個人として識別して特定することはできない。
このため、認証されている携帯機器を携帯していれば、本来、セキュリティ上において入場できない人間も、他人とすり替わることにより、所定の建物や領域に入場することができてしまう。
Dedicated devices such as sensor tags can detect the location of a person and identify individual mobile devices carried by humans. cannot be identified and specified.
Therefore, even a person who is originally prohibited from entering due to security reasons can enter a predetermined building or area by taking the place of another person if he or she carries an authenticated mobile device.
本発明は、このような事情に鑑みてなされたもので、位置検出の専用機器を用いることなく、建物内にいる人間の個人を特定し、その特定した個人の各々の位置を検出することができる位置検出システム及び位置検出方法を提供することを目的とする。 The present invention has been made in view of such circumstances, and it is possible to identify individual human beings in a building and detect the position of each of the identified individuals without using a dedicated device for position detection. It is an object of the present invention to provide a position detection system and a position detection method that can
この発明は上述した課題を解決するためになされたもので、本発明の位置検出システムは、利用者の顔の画像である参照顔画像と、前記利用者のサイズ情報と、が記憶された認証情報記憶部と、監視カメラが撮像した撮像画像から人間の顔画像を抽出し、前記参照顔画像を用いて、前記撮像画像における当該人間の顔認証を行い、前記利用者の特定を行う顔認証部と、マークの位置座標と、前記マークのサイズ情報と、が記憶された位置検出用情報記憶部と、前記監視カメラの設置されている位置座標と、前記監視カメラで撮像された、前記マークを含む参照撮像画像と、前記参照撮像画像を撮像した撮像方向と、が記憶された監視カメラ情報記憶部と、前記利用者を撮像した前記監視カメラの前記位置座標、並びに前記マークを含む前記参照撮像画像が撮像された前記撮像方向を基準として、前記撮像画像の撮像方向と、前記参照撮像画像及び前記撮像画像を撮像したそれぞれのレンズ倍率と、前記マークの位置座標と、前記マークのサイズ情報と、前記利用者のサイズ情報と、を用いて前記利用者の3次元座標系における位置座標を前記撮像画像から算出する位置検出部と、を備えることを特徴とする。
SUMMARY OF THE INVENTION The present invention has been made to solve the above-described problems . An information storage unit extracts a human face image from an image captured by a surveillance camera, performs face authentication of the person in the captured image using the reference face image, and identifies the user. position detection information storage unit storing position coordinates of a mark and size information of the mark; position coordinates of the installed surveillance camera; and the mark imaged by the surveillance camera. and the imaging direction in which the reference captured image is captured; the position coordinates of the monitoring camera that captured the user; and the reference including the mark Using the imaging direction in which the captured image is captured as a reference , the imaging direction of the captured image, the magnification of each lens used to capture the reference captured image and the captured image, the position coordinates of the mark, and the size information of the mark. and the size information of the user , and a position detection unit that calculates the position coordinates of the user in a three-dimensional coordinate system from the captured image .
本発明の位置検出システムは、前記位置検出部が、複数の前記撮像画像の各々から位置座標を検出した前記利用者が同一である場合、当該位置座標を平均し、平均値を前記利用者の位置座標として出力することを特徴とする。
In the position detection system of the present invention, when the position detection unit detects the position coordinates from each of the plurality of captured images for the same user , the position coordinates are averaged, and the average value is calculated as It is characterized by outputting as position coordinates.
本発明の位置検出システムは、前記監視カメラの撮像画像の撮像方向及びレンズ倍率の各々を制御する監視カメラ制御部をさらに有し、前記監視カメラ制御部は、人間の顔が検出された場合、前記監視カメラが撮像する前記撮像画像における前記顔画像が前記参照顔画像と所定の精度で比較できる解像度となる倍率に前記レンズ倍率を変更することを特徴とする。
本発明の位置検出システムは、前記顔認証の認証結果と、前記算出された位置座標とに基づいて、当該位置座標に応じた制御対象の機器を制御する監視制御部を有することを特徴とする。
The position detection system of the present invention further includes a surveillance camera control unit that controls the imaging direction of the captured image of the surveillance camera and the lens magnification, and the surveillance camera control unit controls the detection of a human face when a human face is detected. and changing the magnification of the lens to a resolution that allows the face image in the captured image captured by the surveillance camera to be compared with the reference face image with a predetermined accuracy.
The position detection system of the present invention is characterized by comprising a monitoring control unit that controls a device to be controlled according to the position coordinates based on the authentication result of the face authentication and the calculated position coordinates. .
本発明の位置検出方法は、監視カメラが撮像した撮像画像から人間の顔画像を抽出し、認証情報記憶部に記憶された利用者の顔の画像である参照顔画像を用いて、前記撮像画像における当該人間の顔認証を行い、前記利用者の特定を行う顔認証過程と、前記撮像画像における監視カメラの座標、並びにマークを含む参照撮像画像が撮像された撮像方向を基準として、前記撮像画像の撮像方向と、前記参照撮像画像及び前記撮像画像を撮像したそれぞれのレンズ倍率と、位置検出用情報記憶部に記憶された前記マークの位置座標及びサイズ情報と、認証情報記憶部に記憶された前記利用者のサイズ情報と、を用いて前記撮像画像から前記利用者の3次元座標系における位置座標を算出する位置検出過程と、を含むことを特徴とする。
また、本発明の位置検出方法は、上述の位置検出方法において、顔認証の認証結果と、前記算出された位置座標とに基づいて、当該位置座標に応じた制御対象の機器を制御する監視制御過程を含むことを特徴とする。
In the position detection method of the present invention, a human face image is extracted from an image captured by a surveillance camera , and a reference face image, which is an image of a user's face stored in an authentication information storage unit, is used to detect the image. Face recognition of the person in the image to identify the user ; The imaging direction of the image, the magnification of each lens used to capture the reference captured image and the captured image, the position coordinates and size information of the mark stored in the position detection information storage unit, and the information stored in the authentication information storage unit. and a position detection process of calculating position coordinates of the user in a three-dimensional coordinate system from the captured image using the size information of the user .
Further, the position detection method of the present invention is a position detection method according to the above-described position detection method, based on the authentication result of face authentication and the calculated position coordinates, monitoring control for controlling a device to be controlled according to the position coordinates. It is characterized by including a process.
この発明によれば、位置検出の専用機器を用いることなく、建物内にいる人間の個人を特定し、その特定した個人の各々の位置を検出することができる位置検出システム及び位置検出方法を提供することができる。 According to the present invention, there is provided a position detection system and a position detection method that can identify individual human beings in a building and detect the position of each of the identified individuals without using dedicated equipment for position detection. can do.
以下、図面を参照して、本発明の一実施形態による位置検出システムを説明する。図1は、本発明の一実施形態による位置検出システムの構成例を示す概略ブロック図である。位置検出システム1は、位置検出サーバ10及び監視カメラ12の各々を備えている。本実施形態においては、監視カメラ12が複数台備えられている。この監視カメラ12の各々は、複数台が建物内、あるいは建物外における異なる場所に設置されて設けられている。また、位置検出サーバ10及び監視カメラ12の各々は、それぞれインターネットやローカルエリアネットワークなどを含む情報通信網500に接続され、相互にデータの送受信を行う。この監視カメラ12の各々は、水平角度(パン)及び垂直角度(チルト)及びレンズ倍率が任意に制御可能なカメラであり、複数台の各々が建物内、あるいは建物外における異なる場所に設置されている。
A position detection system according to an embodiment of the present invention will be described below with reference to the drawings. FIG. 1 is a schematic block diagram showing a configuration example of a position detection system according to one embodiment of the present invention. The position detection system 1 includes a
位置検出サーバ10は、撮像画像入力部101、顔検出部102、監視カメラ制御部103、顔認証部104、位置検出部105、監視制御部106、撮像画像記憶部107、認証情報記憶部108、位置検出用情報記憶部109及び検出位置記憶部110の各々を備えている。
撮像画像入力部101は、監視カメラ12の各々が撮像する撮像画像を、それぞれの監視カメラ12から情報通信網500を介して入力する。そして、撮像画像入力部101は、監視カメラ12の各々から入力した撮像画像を、顔検出部102に対して出力するともに、撮像画像記憶部107に対して、監視カメラ12の監視カメラ識別情報とタイムスタンプとを付加して書き込んで記憶させる。
The
The captured
顔検出部102は、撮像画像入力部101から供給される撮像画像における顔検出、すなわち人間の顔が撮像画像内にあるか否かの検出を行う。そして、顔検出部102は、撮像画像内において人間の顔が検出された場合、顔が検出されたことを示す検出信号を監視カメラ制御部103に出力する。ここで、顔検出のアルゴリズムはどのような形態を用いても良い。例えば、顔の輪郭を抽出し、この輪郭内の顔(すなわち顔の皮膚)の色がうすい黄赤色(ペールオレンジ、いわゆる肌色)であるか否かにより、その輪郭の画像が人間の顔の画像と判定して検出する構成でも良い。
The
監視カメラ制御部103は、顔検出部102から検出信号が供給された場合、すなわち、撮像画像のおける顔検出をトリガとして、通常状態から顔認証状態に制御モードを移行させる。監視カメラ制御部103は、通常状態において、監視カメラ12の撮像画像の撮像方向を、この監視カメラ12の撮像範囲内の各部が撮像されるように、左右及び上下に移動させる。また、通常状態においては、撮像範囲内の撮像方向の移動の際、常に一定の範囲が撮像できる一定のレンズ倍率で固定されている。
When the detection signal is supplied from the
一方、監視カメラ制御部103は、顔認証状態において、顔が検出された撮像画像における顔の位置を追跡しつつ、撮像画像内に検出された顔の領域が最も大きく、かつ顔の領域全体が含まれるように、監視カメラの撮像方向及びレンズ倍率を制御する。このとき、監視カメラ制御部103は、レンズ倍率を通常状態に比較して大きくし、撮像画像における顔の解像度が高くなるように、監視カメラ12の制御を行う。本実施形態においては、この監視状態において撮像された画像を、高解像度画像として示す。
そして、監視カメラ制御部103は、後述する顔認証部104から、顔認証の処理が終了したことを示す終了信号が供給された場合、顔認証状態から通常状態に監視カメラの制御を移行する。
On the other hand, in the face authentication state, the monitoring
Then, when an end signal indicating that the face authentication processing is completed is supplied from the
図2は、監視カメラ制御部103による通常状態及び監視状態の各々の動作を説明する図である。図2(a)は、監視カメラ12の構成を示している。監視カメラ12は、監視カメラ本体12A、駆動機構12B、駆動機構12C、レンズ部分12Dを備えている。監視カメラ12は、駆動機構12Bを介して天井、壁、柱などに設置されている。駆動機構12Bは、例えば、監視カメラ本体12AをX軸及びY軸からなる2次元平面に平行な回転(矢印Q方向の往復移動)、すなわちZ軸に平行な軸を回転軸として回転する(撮像方向の左右の往復移動させる水平角度(パン)の制御)。
また、駆動機構12Cは、監視カメラ本体12AをZ軸に対して平行に移動(撮像方向の矢印P方向の往復移動)、すなわち撮像方向の上下の移動(垂直角度(チルト)の制御)。
FIG. 2 is a diagram for explaining the operations of the surveillance
Further, the
図2(b)は、所定の撮像範囲300内における監視カメラ12の撮像方向の制御を説明している。撮像範囲300は、監視カメラ12が撮像方向(水平角度及び垂直角度の各々)を制御することにより、監視カメラ12が画像を撮像可能な範囲を示している。ここで駆動機構12Bは、撮像方向における水平角度の移動において最大の変更角度範囲としての水平角度範囲内で撮像方向を調整する。また、駆動機構12Cは、撮像方向における垂直角度の移動において最大の変更角度範囲としての垂直角度範囲内で撮像方向を調整する。したがって、撮像範囲300は、監視カメラ12の撮像方向の水平角度を水平角度範囲内で移動、かつ垂直角度を垂直角度範囲内で移動させた際に、監視カメラ12が撮像できる範囲を示している。
通常状態において、監視カメラ12は、例えば、撮像範囲300内において、垂直角度を固定して、L(左)方向に水平角度を制御し、撮像画像の撮像方向を移動させ、撮像範囲300の左の端部に対応する水平角度(水平角度範囲の移動限界)に到達すると、垂直角度を上方向(矢印U方向)あるいは下方向(矢印D方向)に所定の角度変更する。そして、監視カメラ12は、所定の角度変更の後、垂直角度を固定して、R(右)方向に水平角度を制御して撮像方向を移動させる。監視カメラ12は、上述した水平角度及び垂直角度の制御により、撮像範囲300内の領域内における撮像画像を順次撮像する。
FIG. 2(b) explains control of the imaging direction of the
In a normal state, for example, the
また、撮像範囲300内において、通常状態において撮像画像Sを撮像されているが、監視カメラ制御部103は、人間の顔600の検出をトリガとして、人間の顔の画像である顔画像600を含む領域の画像の解像度を上げるため、撮像方向を人間の顔に向け、レンズ部分12Dを駆動させてレンズ倍率を増加させる制御を監視カメラ12に対して行う。この結果、監視カメラ12は、監視状態に撮像される撮像画像として、顔画像600の領域を撮像画像に占める割合を増加させた、すなわち実質的に画像600の解像度を増加(拡大)させた高解像度画像S’における人間の顔の拡大顔画像601を撮像する。
In addition, within the
図1に戻り、顔認証部104は、認証情報記憶部108の認証情報テーブルを参照して、高解像度画像における顔画像と、認証情報記憶部108における参照顔画像とを比較することにより、撮像画像に写っている人間の認証を行う。
Returning to FIG. 1, the
図3は、認証情報記憶部108に書き込まれて記憶されている認証情報テーブルの構成例を示す図である。認証情報テーブルは、レコード毎に、個人識別情報と、参照顔画像#1インデックスから#3インデックス及びサイズ情報の欄が設けられている。個人識別情報は、例えば、所定の建物において働いている利用者に付与された、利用者の各々を個々に識別する識別情報である。参照顔画像#1インデックスから#3インデックスの各々は、上記個人識別情報に対応した利用者の正面顔画像、右面顔画像、左面顔画像それぞれが書き込まれている領域を示すアドレスである。サイズ情報は、利用者の大きさ、例えば身長などの寸法が示されている。参照顔画像は、例えば建物内に入る許可を得ている利用者の顔を予め撮像した顔画像である。
FIG. 3 is a diagram showing a configuration example of an authentication information table written and stored in the authentication
図1に戻り、顔認証部104は、高解像度画像における顔画像が、認証情報記憶部108の認証情報テーブルにおける参照顔画像#1インデックスから#3インデックスの示すアドレスの参照顔画像に含まれているか否かの検出を行う。これにより、顔認証部104は、監視カメラ12の撮像した画像から、建物内に予め認証された利用者以外の人物(不審人物)の有無を検出することができる。顔認証部104は、上記認証情報テーブルに基づく顔認証の処理が終了した際、監視カメラ制御部103に対して終了信号を出力する。
Returning to FIG. 1, face
位置検出部105は、通常状態で撮像される撮像画像において、顔認証部104が顔認証した利用者の画像を追跡し、位置検出用情報記憶部109の位置検出用情報テーブルを参照し、この利用者の建物における3次元座標の位置座標を検出する。
The
図4は、位置検出用情報記憶部109に予め書き込まれて記憶されている位置検出情報テーブルの構成例を示す図である。位置検出情報テーブルは、レコード毎に、監視カメラ識別情報、監視カメラ位置座標、参照撮像画像インデックス、マーク位置座標及びマークサイズの欄が設けられている。監視カメラ識別情報は、例えば、所定の建物の各所に設置されている監視カメラの各々を個々に識別する識別情報である。監視カメラ位置座標は、監視カメラ識別情報の示す監視カメラが設置されている、建物における3次元座標の位置座標である。参照撮像画像インデックスは、監視カメラが利用者が写らない状態で撮像した管理範囲の撮像画像が書き込まれている領域を示すアドレスである。この位置検出情報テーブルには、一つのみが記述例として記載されている。しかしながら、本実施形態においては、複数の水平角度及び垂直角度の組合わせ毎の撮像角度の撮像方向の各々に対応した複数の参照撮像画像の画像データが位置検出用情報記憶部109に記憶されている。マーク位置座標は、参照撮像画像における基準とするマークの建物における3次元座標の位置座標である。このマークは、参照撮像画像に写っている看板、サイン、天井、床、壁の模様、部屋のドア、窓、部屋名を示すプレートなどである。マークサイズは、上記マークの寸法を示している。
FIG. 4 is a diagram showing a configuration example of a position detection information table pre-written and stored in the position detection
図1に戻り、位置検出部105は、通常状態で撮像される撮像画像において、顔認証された利用者のサイズ、例えば身長LPに対応する画素数SPを検出する。また、位置検出部105は、この撮像画像の撮像方向を示す撮像角度(撮像方向の水平角度及び垂直角度の組)に近い撮像方向を示す撮像角度の参照撮像画像を、位置検出用情報記憶部109から読み出す。そして、位置検出部105は、参照撮像画像を撮像画像のレンズ倍率(所定の倍率に対する割合を示すズーム%)に対応した倍率に補正し、所定のマークの寸法LMに対応する画素数SMを検出する。位置検出部105は、参照撮像画像におけるマークと監視カメラ12との距離XMをそれぞれの位置座標から求める。位置検出部105は、(LP/SP):XP=(LM/SM):XMの関係から、監視カメラ12から利用者までの距離XPを求める。そして、位置検出部105は、監視カメラ12の設置された座標である位置座標(X,Y,Z)及び撮像方向(水平角度及び垂直角度)の各々と、距離XPとにより、利用者のにおける建物における3次元座標の位置座標を求める。また、位置検出部105は、利用者の位置座標を、この利用者の個人識別情報及びタイムスタンプに対応させて、検出位置記憶部110の検出位置履歴テーブルに書き込んで記憶させる。
Returning to FIG. 1, the
図5は、監視カメラの撮像画像から利用者の位置を検出する概念図である。
この図5において、監視カメラ12_1により撮像した撮像画像において、利用者Xの身長LPと、ドア800(マーク)の高さLMと、監視カメラ12_1との距離XM1とから、すでに説明した手法により、監視カメラ12_1から利用者Xまでの距離XP1を算出する。そして、位置検出部105は、監視カメラ12_1の位置と距離XP1とにより、監視カメラ12_1の撮像画像による利用者Xの位置座標W1を求める。
また、位置検出部105は、監視カメラ12_2により撮像した撮像画像において、利用者Xの身長LPと、ドア800(マーク)の高さLMと、監視カメラ12_2との距離XM2とから、監視カメラ12_2から利用者Xまでの距離XP2を算出する。そして、位置検出部105は、監視カメラ12_2の位置と距離XP2とにより、監視カメラ12_2の撮像画像による利用者Xの位置座標W2を求める。
そして、位置検出部105は、位置座標W1及び位置座標W2の各々により、利用者の位置座標を求める。
FIG. 5 is a conceptual diagram of detecting a user's position from an image captured by a surveillance camera.
In FIG. 5, in the captured image captured by the monitoring camera 12_1, from the height LP of the user X, the height LM of the door 800 (mark), and the distance XM1 from the monitoring camera 12_1, by the method already described, A distance XP1 from the monitoring camera 12_1 to the user X is calculated. Then, the
Further, the
Then, the
図6は、検出位置記憶部110に予め書き込まれて記憶されている検出位置履歴テーブルの構成例を示す図である。検出位置履歴テーブルは、利用者毎に各利用者の個人識別情報が付加されて、検出位置記憶部110に記憶されている。検出位置履歴テーブルは、レコード毎に、タイムスタンプ、監視カメラ識別情報、位置座標、…、監視カメラ識別情報、位置座標、平均位置座標の欄が設けられている。タイムスタンプは、位置座標が検出された時点における時刻を示している。監視カメラ識別情報は、例えば、所定の建物の各所に設置されている監視カメラの各々を個々に識別する識別情報である。位置座標は、監視カメラ識別情報の示す監視カメラにより検出された、建物の3次元座標における利用者の座標である。この位置座標は同一時刻で同一利用者を検出した監視カメラそれぞれの座標が示される。平均位置座標は、2台以上の複数の監視カメラが同一時刻に撮像した撮像画像から求め位置座標全ての平均値である。
FIG. 6 is a diagram showing a configuration example of a detection position history table pre-written and stored in the detection
図1に戻り、位置検出部105は、2台以上の複数の監視カメラが同一時刻に撮像した撮像画像から求め位置座標を全て平均し、平均位置座標を求める。また、位置検出部105は、1台の監視カメラのみが利用者の位置座標を検出した場合、この位置座標を平均値座標とする。
例えば、建物の監視者が任意の利用者の移動した動線を確認したい場合、キーボードなどの入力装置(不図示)から、利用者の個人識別情報及び動線確認の処理情報を、位置検出サーバ10に入力する。これにより、監視制御部106は、検出位置記憶部110を参照し、入力された指定する利用者の個人識別情報の検出位置履歴テーブルを検出する。そして、監視制御部106は、検出した検出位置履歴テーブルを参照し、3次元座標の建物の構造図に対し、指定された利用者の位置座標をタイムスタンプの時刻を付して、連続した利用者の移動を示す動線として表示する。また、監視制御部106は、顔認証部104が利用者ではない人間(不審人物)を確認した場合、セキュリティに対応したアラームともに、不審人物の写った撮像写真を撮像した監視カメラ12の位置を、表示装置の表示画面における3次元座標の建物の構造図に対して表示する。
Returning to FIG. 1, the
For example, when a building supervisor wants to check the flow line of a given user, an input device such as a keyboard (not shown) sends the user's personal identification information and flow line confirmation processing information to the location detection server.
また、監視制御部106は、予めVIP(Very Important Person)設定された利用者(以下VIP利用者)が存在する場合、検出位置記憶部110の検出位置履歴テーブルにおいて、このVIP利用者が検出された際、建物の所定の制御対象800(建物内に設けられた機器の各々)に対してVIPに対する優遇処理を行う。例えば、監視制御部106は、VIP利用者がエレベータの前に移動したことを検出位置履歴テーブルにより検出した場合、いずれの階のボタンの押されていないエレベータを制御対象800とし、他の階に止めることなく、VIP利用者の階までノンストップで移動させる制御を行う構成としても良い。
In addition, when there is a user set as a VIP (Very Important Person) in advance (hereafter referred to as a VIP user), the
また、監視制御部106は、顔認証部104が利用者として認証情報記憶部108の認証情報テーブルに登録されていない不審人物を検出した場合、この不審人物の位置座標を求め、不審人物の近傍の部屋の電動カーテン(あるいは電動シャッタ)を制御対象800とし、この電動カーテンを閉めて部屋内を遮蔽し、かつセキュリティ管理が必要な部屋のドアの電動キーをロックして人間が入れないようにする処理を行う構成としても良い。
また、監視制御部106は、顔認証部104が利用者として認証情報記憶部108の認証情報テーブルに登録されている顔を認証すると、個々の利用者に対して設定されている各機器の操作を行う構成としても良い。監視制御部106は、例えば、利用者が所定の位置座標で検出された場合、パーソナルコンピュータの電源を投入するなどの利用者の仕事に対応した予め設定されている準備などを行う。
また、本実施形態において、制御対象800の例として、エレベータ、電動カーテン、電動キー、パーソナルコンピュータを挙げて説明したが、制御対象800はこれらに限定されるものではない。
Further, when the
Further, when the
Further, in the present embodiment, an elevator, an electric curtain, an electric key, and a personal computer have been described as examples of the controlled
図7は、本発明の一実施形態による位置検出システムの位置検出処理の動作例を示すフローチャートである。以下のフローチャートにおいては、複数ある任意の一台の監視カメラ12に対する制御を示しており、他の監視カメラ12に対しても同様の制御が行われる。
ステップS1:
監視カメラ制御部103は、通常状態における制御、すなわち監視カメラ12の撮像を所定のレンズ倍率により行い、監視カメラ12の撮像方向を制御する。
FIG. 7 is a flowchart showing an operation example of position detection processing of the position detection system according to one embodiment of the present invention. The following flowchart shows control for one of a plurality of
Step S1:
The monitoring
ステップS2:
監視カメラ12は、例えば動画像により、撮像範囲300内の撮像画像を撮像し、撮像した撮像画像を位置検出サーバ10に対して出力する。
すなわち、監視カメラ12は、撮像した撮像画像を動画像のフレーム単位で、位置検出サーバ10における撮像画像入力部101に対して、時系列に順次出力する。
Step S2:
The monitoring
In other words, the monitoring
ステップS3:
撮像画像入力部101は、監視カメラ12から供給される撮像画像を、顔検出部102に対して順次出力する。
顔検出部102は、入力される撮像画像において、人間の顔の画像が含まれているか否かの検出を行う。このとき、顔検出部102は、撮像画像に人間の顔の画像が含まれている場合、検出信号を監視カメラ制御部103に出力し、処理をステップS4へ進める。一方、顔検出部102は、撮像画像に人間の顔の画像が含まれていない場合、処理をステップS1へ進める。
Step S3:
The captured
The
ステップS4:
監視カメラ制御部103は、検出信号が供給されると、監視カメラ12の撮像制御を、通常状態から顔認証状態に移行させる。
そして、監視カメラ制御部103は、撮像画像における人間の顔の画像の方向に、例えば顔の画像の中心が撮像画像の中心に入る方向に撮像方向が向くように、監視カメラ制御部103の撮像方向を移動させる制御を行う。
また、監視カメラ制御部103は、移動させた撮像方向において、撮像画像の枠内から顔の画像がはみ出さないようにレンズ倍率を制御する。すなわち、監視カメラ制御部103は、顔の画像の輪郭が撮像画像の枠に接する程度の画像となるレンズ倍率を通常状態に比較して大きくし、高解像度の顔の画像の高解像度画像を撮像するように監視カメラ12を制御する。
Step S4:
When the detection signal is supplied, the monitoring
Then, the monitoring
In addition, the monitoring
ステップS5:
監視カメラ12は、監視カメラ制御部103の監視状態における制御により、所定のレンズ倍率により撮像した高解像度画像を、位置検出サーバ10に対して順次供給する。
撮像画像入力部101は、監視状態において、監視カメラ12から供給される高解像度画像を、監視カメラ12の識別情報及びタイムスタンプの各々とデータ組として、撮像画像記憶部107に対して書き込んで記憶させる。
また、撮像画像入力部101は、上記高解像度画像を顔認証部104に対して出力する。
Step S5:
The monitoring
In the monitoring state, the captured
The captured
ステップS6:
顔認証部104は、撮像画像入力部101から供給される高解像度画像における顔画像と、認証情報記憶部108に記憶されている参照顔画像との比較を行い、利用者の個人特定を行う。そして、顔認証部104は、顔認証が終了したことを示す終了信号を、監視カメラ制御部103に対して出力する。
Step S6:
The
ステップS7:
監視カメラ制御部103は、検出信号が供給されると、監視カメラ12の撮像制御を、顔認証状態から通常状態に移行させる。すなわち、監視カメラ制御部103は、顔の画像の追跡を行わず、図2(b)にて説明した通常状態における監視カメラ12の撮像方向の方位角及び俯仰角の各々の制御を行う。
また、監視カメラ制御部103は、監視カメラ12のレンズ倍率を通常状態における倍率に戻し、処理をステップS8へ進める。
Step S7:
When the detection signal is supplied, the monitoring
Also, the monitoring
ステップS8:
位置検出部105は、通常状態で監視カメラ12に撮像された撮像画像と、この撮像画像を撮像した監視カメラ12の情報とに基づいて、顔認証により個人特定された利用者の位置座標をすでに述べた処理により求める。
Step S8:
The
ステップS9:
位置検出部105は、利用者毎に求めた位置座標を、検出位置記憶部110におけるこの利用者に対応する検出位置履歴テーブルに、タイムスタンプとともに書き込んで記憶させる。ここで、監視カメラ12が複数台ある場合、位置検出部105は、複数の監視カメラ12の各々が求めた位置座標を調整して、最終的な利用者の各々の位置座標を求める。
Step S9:
The
上述したように、本実施形態によれば、監視カメラとして例えば一般的なパンチルドカメラを用い、この監視カメラの撮像画像により利用者の顔認証を行い、この顔認証により個人特定した利用者の位置座標を、監視カメラの撮像画像から求めるため、利用者の各々が建物内のいずれにいるかの検出を、位置検出のための専用機器を用いることなく容易に行うことができる。
また、本実施形態によれば、監視カメラにより、個人特定できた利用者あるいは個人特定ができない不審人物の各々の位置座標がリアルタイムに求められるため、利用者の各々に対応した制御対象の利便性のための制御、あるいはセキュリティ上の不審人物に対する制御対象の制御を有効に行うことができる。
As described above, according to the present embodiment, for example, a general pan-told camera is used as a monitoring camera, and the user's face is authenticated using the captured image of this monitoring camera. Since the positional coordinates are obtained from the image captured by the surveillance camera, it is possible to easily detect where each user is in the building without using a dedicated device for positional detection.
In addition, according to this embodiment, since the position coordinates of each of the user whose individual can be identified and the suspicious person whose individual cannot be identified can be obtained in real time from the surveillance camera, the convenience of the controlled object corresponding to each user can be obtained. , or control of a control target against a suspicious person in terms of security can be effectively performed.
また、本実施形態においては、すでに述べたように、天井や壁などに固定された監視カメラの撮像した撮像画像を用いて、利用者の個人特定及び位置検出を行っているが、利用者の個人特定及び位置検出を、移動体に取り付けられた撮像装置の撮像画像を、監視カメラの補完として用いても良い。ここで、移動体に取り付けられた撮像装置とは、巡回ロボットが搭載する撮像装置、警備員の肩あるいは頭部などに備えられた撮像装置、あるいは他の利用者の携帯機器(スマートフォンなど含む)の撮像装置などがある。位置検出を行う場合、移動体の位置が特定されていれば、その移動体の位置座標から検出対象の利用者までの距離を測定することにより、すでに述べたように、建物における3次元座標における利用者の位置座標を求めることができる。このとき、移動体の位置座標と撮像装置の撮像方向とが判れば、この位置座標に最も近い、位置検出用情報記憶部109の位置検出情報テーブルにおける監視カメラの参照撮像画像を、双方の位置座標及び撮像方向などによりアフィン変換などして、移動体に取り付けられた撮像画像と比較する参照撮像画像とする。また、移動体の巡回する経路の画像を参照撮像画像として、予め撮像して、移動体の撮像装置毎に、位置検出用情報記憶部109の位置検出情報テーブルに予め書き込んでおいて記憶させておいてもよい。
In addition, in the present embodiment, as already described, the captured image captured by the monitoring camera fixed to the ceiling or wall is used to identify the individual user and detect the position of the user. For personal identification and location detection, images captured by imaging devices attached to mobile objects may be used as a complement to surveillance cameras. Here, the imaging device attached to a moving object means an imaging device mounted on a patrol robot, an imaging device provided on the shoulder or head of a security guard, or a mobile device (including a smartphone) of another user. imaging device, etc. When position detection is performed, if the position of a mobile object is specified, by measuring the distance from the position coordinates of the mobile object to the user to be detected, It is possible to obtain the position coordinates of the user. At this time, if the position coordinates of the moving object and the imaging direction of the imaging device are known, the reference captured image of the monitoring camera in the position detection information table of the position detection
また、図1における位置検出サーバ10の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、監視カメラ12の撮像方向及びレンズ倍率を制御し、顔認証を行い個人特定した利用者の位置座標の検出する処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
Also, by recording a program for realizing the functions of the
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
The "computer system" also includes the home page providing environment (or display environment) if the WWW system is used.
The term "computer-readable recording medium" refers to portable media such as flexible discs, magneto-optical discs, ROMs and CD-ROMs, and storage devices such as hard discs incorporated in computer systems. Furthermore, "computer-readable recording medium" means a medium that dynamically retains a program for a short period of time, like a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line. It also includes those that hold programs for a certain period of time, such as volatile memories inside computer systems that serve as servers and clients in that case. Further, the program may be for realizing part of the functions described above, or may be capable of realizing the functions described above in combination with a program already recorded in the computer system.
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 Although the embodiments of the present invention have been described in detail above with reference to the drawings, the specific configuration is not limited to these embodiments, and designs and the like are included within the scope of the gist of the present invention.
1…位置検出システム
10…位置検出サーバ
12…監視カメラ
12A…監視カメラ本体
12B,12C…駆動機構
101…撮像画像入力部
102…顔検出部
103…監視カメラ制御部
104…顔認証部
105…位置検出部
106…監視制御部
107…撮像画像記憶部
108…認証情報記憶部
109…位置検出用情報記憶部
300…撮像範囲
500…情報通信網
600…顔画像
601…拡大顔画像
800…制御対象
S…撮像画像
S’…高解像度画像
DESCRIPTION OF SYMBOLS 1...
Claims (7)
監視カメラが撮像した撮像画像から人間の顔画像を抽出し、前記参照顔画像を用いて、前記撮像画像における当該人間の顔認証を行い、前記利用者の特定を行う顔認証部と、
マークの位置座標と、前記マークのサイズ情報と、が記憶された位置検出用情報記憶部と、
前記監視カメラの設置されている位置座標と、前記監視カメラで撮像された、前記マークを含む参照撮像画像と、前記参照撮像画像を撮像した撮像方向と、が記憶された監視カメラ情報記憶部と、
前記利用者を撮像した前記監視カメラの前記位置座標、並びに前記マークを含む前記参照撮像画像が撮像された前記撮像方向を基準として、前記撮像画像の撮像方向と、前記参照撮像画像及び前記撮像画像を撮像したそれぞれのレンズ倍率と、前記マークの位置座標と、前記マークのサイズ情報と、前記利用者のサイズ情報と、を用いて前記利用者の3次元座標系における位置座標を前記撮像画像から算出する位置検出部と、
を備えることを特徴とする位置検出システム。 an authentication information storage unit storing a reference face image, which is an image of a user's face, and size information of the user;
a face authentication unit that extracts a human face image from an image captured by a surveillance camera , performs face authentication of the person in the image using the reference face image, and identifies the user ;
a position detection information storage unit storing the position coordinates of the mark and the size information of the mark;
a monitoring camera information storage unit storing position coordinates of the installed monitoring camera, a reference captured image including the mark captured by the monitoring camera, and an imaging direction in which the reference captured image is captured; ,
The imaging direction of the captured image, the reference captured image, and the captured image, with reference to the position coordinates of the surveillance camera that captured the user and the imaging direction in which the reference captured image including the mark was captured . position coordinates of the user in a three-dimensional coordinate system from the captured image using the lens magnification of each of the images, the position coordinates of the mark, the size information of the mark, and the size information of the user a position detection unit that calculates ;
A position detection system comprising:
ことを特徴とする請求項1に記載の位置検出システム。 When the user whose position coordinates are detected from each of the plurality of captured images is the same, the position detection unit averages the position coordinates and outputs the average value as the position coordinates of the user. The position detection system according to claim 1 , characterized by:
前記監視カメラ制御部は、人間の顔が検出された場合、前記監視カメラが撮像する前記撮像画像における前記顔画像が前記参照顔画像と所定の精度で比較できる解像度となる倍率に前記レンズ倍率を変更する
ことを特徴とする請求項1に記載の位置検出システム。 further comprising a surveillance camera control unit for controlling each of the imaging direction and lens magnification of the image captured by the surveillance camera;
When a human face is detected, the monitoring camera control unit adjusts the lens magnification to a resolution that allows the face image in the captured image captured by the monitoring camera to be compared with the reference face image with a predetermined accuracy. change the
The position detection system according to claim 1, characterized in that:
ことを特徴とする請求項1から請求項3のいずれか一項に記載の位置検出システム。 The surveillance camera is an imaging device attached to a mobile object .
The position detection system according to any one of claims 1 to 3 , characterized in that:
を有することを特徴とする請求項1から請求項4のうちいずれか1項に記載の位置検出システム。 5. The position detection system according to any one of claims 1 to 4, comprising:
前記撮像画像における監視カメラの座標、並びにマークを含む参照撮像画像が撮像された撮像方向を基準として、前記撮像画像の撮像方向と、前記参照撮像画像及び前記撮像画像を撮像したそれぞれのレンズ倍率と、位置検出用情報記憶部に記憶された前記マークの位置座標及びサイズ情報と、認証情報記憶部に記憶された前記利用者のサイズ情報と、を用いて前記撮像画像から前記利用者の3次元座標系における位置座標を算出する位置検出過程と、
を含むことを特徴とする位置検出方法。 A face image of a person is extracted from an image captured by a surveillance camera , and a reference face image, which is an image of a user's face stored in an authentication information storage unit, is used to authenticate the face of the person in the image. a face authentication process for performing and identifying the user ;
Based on the coordinates of the surveillance camera in the captured image and the imaging direction in which the reference captured image including the mark was captured, the imaging direction of the captured image, and the lens magnification of each of the reference captured image and the captured image. , the position coordinates and size information of the mark stored in the position detection information storage unit and the size information of the user stored in the authentication information storage unit are used to extract the three-dimensional image of the user from the captured image; a position detection process of calculating position coordinates in a coordinate system ;
A position detection method comprising:
を含むことを特徴とする請求項6に記載の位置検出方法。 7. The position detection method according to claim 6, comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018036747A JP7107697B2 (en) | 2018-03-01 | 2018-03-01 | POSITION DETECTION SYSTEM AND POSITION DETECTION METHOD |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018036747A JP7107697B2 (en) | 2018-03-01 | 2018-03-01 | POSITION DETECTION SYSTEM AND POSITION DETECTION METHOD |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019152490A JP2019152490A (en) | 2019-09-12 |
JP7107697B2 true JP7107697B2 (en) | 2022-07-27 |
Family
ID=67948780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018036747A Active JP7107697B2 (en) | 2018-03-01 | 2018-03-01 | POSITION DETECTION SYSTEM AND POSITION DETECTION METHOD |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7107697B2 (en) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7354676B2 (en) * | 2019-08-23 | 2023-10-03 | 株式会社三洋物産 | gaming machine |
JP7354675B2 (en) * | 2019-08-23 | 2023-10-03 | 株式会社三洋物産 | gaming machine |
JP7354677B2 (en) * | 2019-08-23 | 2023-10-03 | 株式会社三洋物産 | gaming machine |
JP7354678B2 (en) * | 2019-08-23 | 2023-10-03 | 株式会社三洋物産 | gaming machine |
JP7342588B2 (en) * | 2019-10-03 | 2023-09-12 | 株式会社三洋物産 | gaming machine |
JP7342585B2 (en) * | 2019-10-03 | 2023-09-12 | 株式会社三洋物産 | gaming machine |
JP7342584B2 (en) * | 2019-10-03 | 2023-09-12 | 株式会社三洋物産 | gaming machine |
JP7342586B2 (en) * | 2019-10-03 | 2023-09-12 | 株式会社三洋物産 | gaming machine |
JP7342587B2 (en) * | 2019-10-03 | 2023-09-12 | 株式会社三洋物産 | gaming machine |
JP7342589B2 (en) * | 2019-10-03 | 2023-09-12 | 株式会社三洋物産 | gaming machine |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002197463A (en) | 2000-12-26 | 2002-07-12 | Matsushita Electric Ind Co Ltd | Device and system for detecting behavior |
JP2008286638A (en) | 2007-05-17 | 2008-11-27 | Sogo Keibi Hosho Co Ltd | Height estimation device and method |
JP2009003866A (en) | 2007-06-25 | 2009-01-08 | Panasonic Corp | Face authentication device |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3584334B2 (en) * | 1997-12-05 | 2004-11-04 | オムロン株式会社 | Human detection tracking system and human detection tracking method |
-
2018
- 2018-03-01 JP JP2018036747A patent/JP7107697B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002197463A (en) | 2000-12-26 | 2002-07-12 | Matsushita Electric Ind Co Ltd | Device and system for detecting behavior |
JP2008286638A (en) | 2007-05-17 | 2008-11-27 | Sogo Keibi Hosho Co Ltd | Height estimation device and method |
JP2009003866A (en) | 2007-06-25 | 2009-01-08 | Panasonic Corp | Face authentication device |
Also Published As
Publication number | Publication date |
---|---|
JP2019152490A (en) | 2019-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7107697B2 (en) | POSITION DETECTION SYSTEM AND POSITION DETECTION METHOD | |
JP6525229B1 (en) | Digital search security system, method and program | |
US8819788B2 (en) | Method and system for providing security data to security stations | |
CN107766788B (en) | Information processing apparatus, method thereof, and computer-readable storage medium | |
JP5871296B1 (en) | Smart security digital system, method and program | |
KR102152318B1 (en) | Tracking system that can trace object's movement path | |
KR101248054B1 (en) | Object tracking system for tracing path of object and method thereof | |
JP5674307B2 (en) | Subject detection system and subject detection method | |
JP2007303239A (en) | Authentication apparatus, method of controlling authentication apparatus, and control program of authentication apparatus | |
WO2020218320A1 (en) | Reception guidance system and reception guidance method | |
CN113490970A (en) | Precision digital security system, method and program | |
US10896513B2 (en) | Method and apparatus for surveillance using location-tracking imaging devices | |
US9594290B2 (en) | Monitoring apparatus for controlling operation of shutter | |
US9202356B1 (en) | Shutter for limiting image capturing area | |
JP7439897B2 (en) | Stay management device, stay management method, program and stay management system | |
JP2018124958A (en) | Security system | |
JP4990552B2 (en) | Attention position identification system, attention position identification method, and attention position identification program | |
KR101332820B1 (en) | System and Method for Tracking Object, Apparatus for Object Management and Driving Method Thereof, Image Device and Driving Method Thereof | |
JP2019139642A (en) | Device, system, and method for detecting locations | |
JP7448748B2 (en) | Position detection system and position detection method | |
US20240357062A1 (en) | Monitoring device, monitoring system, storage medium and monitoring method | |
JP6750931B1 (en) | Digital motion formula security system, method and program | |
KR102538056B1 (en) | Building management system using augmented reality | |
JP7442289B2 (en) | Apartment housing intercom system | |
WO2021084612A1 (en) | Digital safety response security system, method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220120 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220412 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220705 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220714 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7107697 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |