JP5813829B1 - Crime prevention system - Google Patents
Crime prevention system Download PDFInfo
- Publication number
- JP5813829B1 JP5813829B1 JP2014128007A JP2014128007A JP5813829B1 JP 5813829 B1 JP5813829 B1 JP 5813829B1 JP 2014128007 A JP2014128007 A JP 2014128007A JP 2014128007 A JP2014128007 A JP 2014128007A JP 5813829 B1 JP5813829 B1 JP 5813829B1
- Authority
- JP
- Japan
- Prior art keywords
- person
- attention
- facility
- captured image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000002265 prevention Effects 0.000 title claims abstract description 43
- 238000000034 method Methods 0.000 claims description 65
- 230000008569 process Effects 0.000 claims description 54
- 238000012795 verification Methods 0.000 claims description 28
- 238000012545 processing Methods 0.000 abstract description 45
- 230000006854 communication Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 239000000284 extract Substances 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 208000008918 voyeurism Diseases 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 208000001836 Firesetting Behavior Diseases 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
Abstract
【課題】施設を訪れる人物のなから要注意人物を推定し、施設に要注意人物が来ていることを通知する防犯システムを提供する。【解決手段】施設に設置したカメラCが撮像した人物が要注意人物であるか否かを推定する注意人物推定装置1を備える防犯システムであって、注意人物推定装置1は、施設への入場許可人物の顔画像を記憶する登録人物データベース15と、顔認証照合部12と、顔認証照合部12により入場許可人物と一致しないと判定された人物を注意候補人物として記憶する未登録人物データベース16とを有する。顔認証照合部12は、取得した撮像画像と未登録人物データベース16に記憶された注意候補人物の画像とを照合する顔認証照合処理を行い、撮像画像が注意候補人物の画像と一致したと判定され、且つその注意候補人物の訪問履歴が所定要件を満たす場合、その注意候補人物を要注意人物であると推定する。【選択図】図1A crime prevention system for estimating a person requiring attention from among persons visiting a facility and notifying that a person requiring attention has come to the facility is provided. A crime prevention system including a caution person estimation device 1 that estimates whether or not a person imaged by a camera C installed in a facility is a cautionary person. The caution person estimation device 1 enters the facility. A registered person database 15 that stores the face image of the permitted person, a face authentication collating unit 12, and an unregistered person database 16 that stores, as the attention candidate person, the person who is determined not to match the admission permitted person by the face authentication collating unit 12. And have. The face authentication collation unit 12 performs face authentication collation processing for collating the acquired captured image with the image of the attention candidate person stored in the unregistered person database 16, and determines that the captured image matches the image of the attention candidate person. If the visit history of the candidate candidate for attention satisfies a predetermined requirement, the candidate candidate for attention is estimated to be a person requiring attention. [Selection] Figure 1
Description
本発明は、防犯システムに関し、例えば、施設の入口等に設置したカメラで撮像した人物が、要注意人物であるか否かを推定し、施設の管理責任者に、施設に要注意人物が来ていることを通知する防犯システムに関する。 The present invention relates to a crime prevention system, for example, estimating whether or not a person imaged with a camera installed at the entrance of a facility is a person who needs attention, and the person responsible for the facility comes to the facility manager. It is related with the crime prevention system which notifies that it is.
従来から、施設の入口等に設置したカメラにより、施設を訪れる人物の顔画像を撮像し、撮像した人物の顔画像と、予め登録した人物(登録者)の顔画像とを照合する顔認証照合処理を行い、施設を訪れる人物が登録者であると判定された場合に、施設への入場を許可する入退室管理装置が知られている。このような入退室管理装置は、例えば、特許文献1に開示されている。 Conventionally, face authentication verification is performed in which a face image of a person visiting the facility is captured by a camera installed at the entrance of the facility, and the face image of the captured person is compared with the face image of a registered person (registrant). An entry / exit management device is known that permits entry into a facility when it is determined that the person who performs the process and visits the facility is a registrant. Such an entrance / exit management device is disclosed in Patent Document 1, for example.
特許文献1に記載の入退室管理装置は、施設のドアに向かう通行帯を歩行者が通行している間に、歩行者の顏画像をカメラで撮像し、その撮像した顔画像と、予め登録した人物の顔画像とを照合することにより、当該歩行者があらかじめ登録された人物であるか否かを判定し、あらかじめ登録された人物と判定した場合にはドアを開錠するようになっている。 The entrance / exit management device described in Patent Document 1 captures a pedestrian's heel image with a camera while a pedestrian is passing through a traffic zone toward a facility door, and registers the captured face image in advance. It is determined whether or not the pedestrian is a pre-registered person by collating with the face image of the person who has been registered, and the door is unlocked if it is determined as a pre-registered person Yes.
ところで、学校等の施設に、不審者が侵入する事件が度々発生しており、不審者の侵入を効果的に防止することが強く望まれている。そのため、不審者と疑われる人物が施設に来たときに、不審者と疑われる人物を発見し、施設の守衛等の管理責任者に、不審者と疑われる人物が施設に来ていることを通知できるシステムがあれば、管理責任者の警戒レベルを高めることができる。すなわち、管理責任者は、不審者と疑われる人物を要注意人物として監視することにより、学校や企業等への不審者の侵入を効果的に防ぐことができる。しかしながら、現在のところ、そのようなシステムは知られていない。
尚、上述した従来技術の入退室管理装置は、あらかじめ登録された人物が入口に来たときに、入口を開錠することはできるが、施設を訪れる人物のなかから不審者と疑われる人物を見つけて、施設の管理責任者に対し、不審者が施設に来ていることを通知するものではない。
By the way, incidents where suspicious persons intrude frequently occur in facilities such as schools, and it is strongly desired to effectively prevent suspicious persons from entering. Therefore, when a person suspected of being a suspicious person arrives at the facility, the person who is suspected of being a suspicious person is discovered, and the person who is suspected of being a suspicious person has come to the facility to the manager responsible for the guard of the facility If there is a system that can be notified, the alert level of the person responsible for management can be increased. In other words, the supervisor can effectively prevent a suspicious person from entering a school or a company by monitoring a person suspected of being a suspicious person as a person requiring attention. However, currently no such system is known.
In addition, the above-described prior art entrance / exit management device can unlock the entrance when a pre-registered person arrives at the entrance. However, the person who is suspected of being a suspicious person among the visitors to the facility can be unlocked. It does not find out and notify the facility manager that the suspicious person is at the facility.
本発明は、上記課題に鑑みてなされたものであり、その目的は、施設を訪れる人物のなかから要注意人物を推定し、施設に要注意人物が来ていることを通知する防犯システムを提供することにある。 The present invention has been made in view of the above problems, and an object of the present invention is to provide a crime prevention system for estimating a person requiring attention from among persons visiting the facility and notifying that the person requiring attention is coming to the facility. There is to do.
上記課題を解決するためになされた本発明は、施設に設置したカメラが撮像した人物が要注意人物であるか否かを推定する注意人物推定装置を備える防犯システムであって、前記注意人物推定装置は、施設への入場許可人物の顔画像を記憶する登録人物データベースと、前記カメラが撮像した人物の顔の撮像画像を取得し、該取得した撮像画像と、前記登録人物データベースに記憶された入場許可人物の顔画像とを照合する第1顔認証照合処理を行う顔認証照合部と、前記第1顔認証照合処理により前記入場許可人物の顔画像と一致しないと判定された撮像画像の人物を注意候補人物とし、その撮像画像に該注意候補人物の施設への訪問履歴情報を対応付けて記憶する未登録人物データベースとを有し、前記顔認証照合部は、前記第1顔認証照合処理により前記撮像画像が前記入場許可人物の顔画像と一致しないと判定された場合、前記取得した撮像画像と前記未登録人物データベースに記憶された注意候補人物の画像とを照合する第2顔認証照合処理を行い、該第2顔認証照合処理により前記撮像画像が注意候補人物の画像と一致したと判定された場合、該未登録人物データベースに記憶されている一致した注意候補人物の画像に対応付けられている訪問履歴情報を更新し、その更新した訪問履歴情報が所定要件を満たす場合に前記取得した撮像画像の人物を要注意人物であると推定し、前記要注意人物が施設に来ている旨を示す情報を出力することを特徴とする。 The present invention made to solve the above problems is a crime prevention system comprising a caution person estimation device that estimates whether or not a person imaged by a camera installed in a facility is a cautionary person, wherein the caution person estimation The apparatus acquires a registered person database storing face images of persons permitted to enter the facility, a captured image of the face of the person captured by the camera, and the acquired captured image and stored in the registered person database. A face authentication collation unit that performs a first face authentication collation process for collating with a face image of an admission permitted person, and a person of a captured image that is determined not to match the face image of the admission permitted person by the first face authentication collation process And an unregistered person database that stores the captured image in association with visit history information of the attention candidate person in association with the captured image, and the face authentication verification unit includes the first face authentication When it is determined by the joint process that the captured image does not match the face image of the person permitted to enter, a second face that collates the acquired captured image with the image of the attention candidate person stored in the unregistered person database. When authentication verification processing is performed and it is determined by the second face authentication verification processing that the captured image matches the image of the attention candidate person, the image of the matching attention candidate person stored in the unregistered person database The associated visit history information is updated, and when the updated visit history information satisfies a predetermined requirement, the person in the acquired captured image is estimated to be a person requiring attention, and the person requiring attention comes to the facility. It is characterized by outputting information indicating that the
このように、本発明では、第1顔認証照合処理により入場許可人物の顔画像と一致しないと判定された撮像画像の人物を注意候補人物とし、その注意候補人物の撮像画像を訪問履歴情報に対応付けて記憶する未登録人物データベースが設けられている。そして、本発明によれば、未登録人物データベースに登録された注意候補人物が施設を訪れる度に(カメラにより撮像される度に)、注意候補人物の訪問履歴情報が更新され、更新された訪問履歴情報が所定要件を満たす場合に注意候補人物を要注意人物と推定されるようになっている。すなわち、本発明では、防犯システムが自動的に、施設に来る人物のうち入場許可人物以外の人物を注意候補人物として記憶し、注意候補人物が何度も施設に訪れる等の不審な行動を取っている場合に、その人物を要注意人物として推定し、施設に要注意人物が来ている旨を示す情報が出力される。
そのため、本発明によれば、例えば、犯罪行為等の下見に何度も施設を訪れたり、或いは、学校等に盗撮をするために何度も訪れたりする不審人物がいる場合、そのような不審人物を要注意人物であると推定して、要注意人物が施設に来ている旨が出力され、施設に管理責任者に通知できる。その結果、本発明によれば、学校や病院等の施設の不審者の侵入を効果的に防ぐことができる。
As described above, in the present invention, the person of the captured image that is determined not to match the face image of the person permitted to enter by the first face authentication collation process is set as the candidate candidate person, and the captured image of the candidate candidate person is used as the visit history information. An unregistered person database that is stored in association with each other is provided. According to the present invention, whenever the attention candidate person registered in the unregistered person database visits the facility (every time it is captured by the camera), the visit history information of the attention candidate person is updated, and the updated visit A candidate for attention is estimated as a person requiring attention when the history information satisfies a predetermined requirement. That is, in the present invention, the crime prevention system automatically stores persons other than the permitted entry person among the persons coming to the facility as caution candidate persons, and takes suspicious behavior such as the caution candidate person visiting the facility many times. The person is estimated as a person requiring attention, and information indicating that the person requiring attention is coming to the facility is output.
Therefore, according to the present invention, for example, when there is a suspicious person who visits a facility many times to preview a criminal act or the like, or visits a school or the like many times for voyeurism, such a suspicious person A person is estimated to be a person who needs attention, and the fact that the person who needs attention is coming to the facility is output. As a result, according to the present invention, it is possible to effectively prevent a suspicious person from entering a facility such as a school or a hospital.
また、前記顔認証照合部は、前記第2顔認証照合処理により前記撮像画像が前記未登録人物データベースに記憶された注意候補人物の画像と一致しないと判定された場合、前記撮像画像の人物を注意候補人物とし、該撮像画像に該注意候補人物の訪問履歴情報を対応付けて未登録人物データベースに記憶させることが望ましい。また、前記所定要件は、前記施設への所定期間内の訪問回数であることが望ましい。 Further, the face authentication collation unit determines the person of the captured image when the second face authentication collation process determines that the captured image does not match the image of the attention candidate person stored in the unregistered person database. It is desirable to select a candidate for attention and store the visit history information of the candidate candidate for attention in association with the captured image in the unregistered person database. The predetermined requirement is preferably the number of visits to the facility within a predetermined period.
上記の構成によれば、登録人物データベースに記憶された人物と一致せず且つ未登録人物データベースに記憶された注意候補人物とも一致しない人物が、施設に来たときに、その人物の撮像画像が注意候補人物の画像として未登録人物データベースに記憶される。すなわち、本発明では、入場許可人物以外の人物が、施設に初めて訪れてきたときに、防犯システムが、その人物を自動的に注意候補人物として登録するようになっている。
そのため、本発明によれば、登録人物データベースに、施設利用者、施設従業員、施設の近隣の人物等を登録しておけば、施設に関係がない人物が来たときに注意候補人物として登録でき、その注意候補人物が、何度も施設を来る等の不審な行動を取っていれば、その人物を要注意人物として警戒することができる。
According to the above configuration, when a person that does not match the person stored in the registered person database and does not match the attention candidate person stored in the unregistered person database comes to the facility, the captured image of the person is displayed. It is stored in the unregistered person database as an image of the attention candidate person. In other words, in the present invention, when a person other than the admission permitted person visits the facility for the first time, the crime prevention system automatically registers the person as an attention candidate person.
Therefore, according to the present invention, if a facility user, a facility employee, a person in the vicinity of the facility, etc. is registered in the registered person database, it is registered as a caution candidate person when a person unrelated to the facility comes If the caution candidate person has taken a suspicious action such as coming to the facility many times, the person can be warned as a cautionary person.
前記注意人物推定装置は、ネットワークを介してサーバ装置と接続されており、前記顔認証照合部は、前記撮像画像の人物を要注意人物であると推定した場合、前記サーバ装置に、前記要注意人物と推定した人物の撮像画像を送信し、前記サーバ装置は、前記注意人物推定装置が送信した撮像画像を受信すると、予め登録された情報端末に対して、前記ネットワークを介して、前記要注意人物が施設に来ている旨を通知すると共に、前記注意人物推定装置から送信された撮像画像を含む要注意人物に関する情報を提供することが望ましい。 The attention person estimation device is connected to a server device via a network, and when the face authentication collation unit estimates that the person in the captured image is a person of interest, the server device is notified of the attention When the captured image of the person estimated to be a person is transmitted and the server device receives the captured image transmitted by the attention person estimation device, the server device requires the attention to the information terminal registered in advance via the network. It is desirable to notify that the person is in the facility and to provide information on the person requiring attention including the captured image transmitted from the attention person estimation device.
このように、本発明の防犯システムでは、施設に訪れた人物が要注意人物であると推定された場合、予めサーバ装置に登録しておいた情報端末に、要注意人物が施設に来ている旨が通知されると共に、要注意人物として推定された人物の撮像画像を含む要注意人物に関する情報が提供される。
したがって、サーバ装置に、施設の守衛等の管理責任者の情報端末(情報端末の識別情報やメールアドレス等の情報)を登録しておけば、管理責任者に、不審者と疑われる要注意人物が施設に来ていることを通知し且つ要注意人物の撮像画像を提供できる。すなわち、施設の管理責任者は、要注意人物が施設に来たときには、要注意人物の顔を視覚で確認できるため、どの人物を監視すればよいのかを容易に把握することができる。また、管理責任者が複数いる施設では、複数の管理責任者が、一斉に、要注意人物の画像を見て把握することができるため、効果的な防犯体制が構築される。
As described above, in the crime prevention system of the present invention, when it is estimated that the person visiting the facility is the person who needs attention, the person who needs attention comes to the facility in the information terminal registered in the server device in advance. In addition, the information about the person requiring attention including the captured image of the person estimated as the person requiring attention is provided.
Therefore, if the information terminal (information such as information terminal identification information and e-mail address) of the person responsible for management of the facility guard is registered in the server device, the person responsible for the suspicious person suspected to be the person responsible for management. Can be notified that the person is in the facility, and a captured image of the person who needs attention can be provided. In other words, the person in charge of the facility can easily confirm which person should be monitored because the face of the person requiring attention can be visually confirmed when the person requiring attention comes to the facility. Further, in a facility having a plurality of managers, a plurality of managers can simultaneously see and grasp the images of people who need attention, so that an effective crime prevention system is established.
本発明によれば、施設を訪れる人物のなかから要注意人物を推定し、施設に要注意人物が来ていることを通知する防犯システムを提供することができる。 According to the present invention, it is possible to provide a crime prevention system for estimating a person requiring attention from among persons visiting a facility and notifying that a person requiring attention is coming to the facility.
以下、本発明の実施形態について図面を用いて説明する。先ず、本実施形態の防犯システムの構成について図1〜図4を用いて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. First, the structure of the crime prevention system of this embodiment is demonstrated using FIGS.
図1に示すように、本実施形態の防犯システムは、学校、集合住宅、病院、企業等の施設に設置されたカメラ(例えば、CCDカメラ)Cと、カメラCが撮像した人物が要注意人物であるか否かを推定する注意人物推定装置1と、注意人物推定装置1とネットワークNW(インターネット)を介して接続されている情報提供サーバ(サーバ装置)3とを備えている。 As shown in FIG. 1, the crime prevention system according to the present embodiment includes a camera (for example, a CCD camera) C installed in a facility such as a school, an apartment house, a hospital, or a company, and a person photographed by the camera C requires attention. And the information providing server (server device) 3 connected to the attention person estimating device 1 via the network NW (Internet).
なお、施設が学校(或いは、幼稚園、保育園)である場合、カメラCは、学校(或いは、幼稚園、保育園)の正門、裏門、駐輪場等に設置され、正面、裏門、駐輪場等に近づいて来る人物の顔を撮像できるように設定されている。
また、例えば、施設がマンション等の集合住宅である場合、カメラCは、集合住宅の入口(エントランス)、階段入口、駐車場入口等に設置され、集合住宅の入口、階段入口、駐車場入口等に近づいて来る人物の顔を撮像できるように設定されている。
また、例えば、施設が病院である場合、カメラCは、病院の正門、裏門、緊急入口、夜間入口に設置され、正門、裏門、緊急入口、夜間入口に近づいて来る人物の顔を撮像できるように設定されている。
In addition, when the facility is a school (or kindergarten or nursery school), the camera C is installed at the main gate, back gate, or bicycle parking lot of the school (or kindergarten or nursery school) and approaches the front, back gate, or bicycle parking lot. It is set to be able to image the face.
For example, when the facility is an apartment house such as an apartment, the camera C is installed at the entrance (entrance) of the apartment house, the stairway entrance, the parking lot entrance, etc., and the entrance of the apartment house, the staircase entrance, the parking lot entrance, etc. It is set so that the face of a person approaching can be imaged.
For example, when the facility is a hospital, the camera C is installed at the front gate, back gate, emergency entrance, and night entrance of the hospital so that the face of a person approaching the main gate, back gate, emergency entrance, and night entrance can be imaged. Is set to
また、注意人物推定装置1は、カメラCが設置された施設の守衛室等に設置され、ネットワークNWを介して情報提供サーバ3と各種情報の授受を行うように構成されている。また、スマートフォン(携帯情報端末)SPは、施設に常駐の守衛等の管理責任者に保持されている。
また、ネットワークNWには、スマートフォンSPにプッシュ通知を行うためのプッシュ通知サーバ7が接続されている。
The attention person estimation device 1 is installed in a guard room or the like of a facility where the camera C is installed, and is configured to exchange various information with the
Further, a push notification server 7 for performing push notification to the smartphone SP is connected to the network NW.
なお、注意人物推定装置1には、液晶ディスプレイ等で構成される表示部5と、キーボードやマウス等から構成される入力部6が接続されている。そして、表示部5は、注意人物推定装置1から送信される画像情報を受信し、その画像情報を表示するようになっている。
The attention person estimation apparatus 1 is connected to a display unit 5 configured by a liquid crystal display or the like and an
また、注意人物推定装置1は、カメラCが撮像した人物の撮像画像(顔の部分が含まれる撮像画像)を取得し、後述する図6に示す処理手順にしたがい、その撮像画像の人物が要注意人物であるか否かを推定する処理を行う。また、注意人物推定装置1は、撮像画像の人物が要注意人物であると推定した場合、表示部5に、「施設に要注意人物が来ている旨を示す情報(例えば、テキスト情報)」及び「要注意人物が撮像された撮像画像」を表示すると共に、情報提供サーバ3に「施設に要注意人物が来ている旨を示す情報」及び「要注意人物が撮像された撮像画像」と、後述する「施設情報」を送信する。
In addition, the attention person estimation device 1 acquires a captured image of a person captured by the camera C (captured image including a face portion), and according to the processing procedure shown in FIG. A process of estimating whether or not the person is an attention person is performed. Further, when the attention person estimation device 1 estimates that the person in the captured image is a person requiring attention, the display unit 5 displays “information indicating that a person requiring attention is present at the facility (for example, text information)”. And “a captured image in which a person requiring attention is displayed” and “information indicating that a person in need of attention has come to the facility” and “a captured image in which a person requiring attention is captured” are displayed on the
また、情報提供サーバ3は、注意人物推定装置1からの「要注意人物が来ている旨を示す情報」、「撮像画像」及び「施設情報」を受信すると、予め登録されているスマートフォンSP(施設の守衛等が保持しているスマートフォンSP)に対して、ネットワークNWを介して、施設に要注意人物が来ている旨を通知すると共に、「要注意人物が撮像された撮像画像」を含む情報を提供するようになっている(図9参照)。
以下、本実施形態の防犯システムを構成する各装置について詳細に説明する。
In addition, when the
Hereinafter, each apparatus which comprises the crime prevention system of this embodiment is demonstrated in detail.
先ず、注意人物推定装置1の構成を説明する。
注意人物推定装置1は、制御部10と、画像処理部11と、通信処理部12と、顔認証照合部13と、登録人物データベース15と、未登録人物データベース16とを有している。
First, the configuration of the attention person estimation device 1 will be described.
The attention person estimation device 1 includes a
尚、注意人物推定装置1のハードウェア構成は、特に限定されるものではないが、例えば、中央処理装置(CPU)、主記憶装置、補助記憶装置、入出力I/F及び通信I/Fを備えるコンピュータ(1台或いは複数台のコンピュータ)により構成される。 The hardware configuration of the attention person estimation device 1 is not particularly limited. For example, a central processing unit (CPU), a main storage device, an auxiliary storage device, an input / output I / F, and a communication I / F are included. It is comprised by the computer (one or several computer) provided.
また、前記補助記憶装置には、各部(制御部10、画像処理部11、通信処理部12、顔認証照合部13)の機能を実現するためのプログラムが格納されている。また、前記補助記憶装置には、登録人物データベース15及び未登録人物データベース16が格納されている。
また、前記補助記憶装置には、注意人物推定装置1が設置された施設に関する情報(施設情報)が記憶されている。なお、以下では、施設情報が、施設を識別する施設ID(英数字などで構成される一意のデータ)、施設名及び連絡先(住所、電話番号、電子メールアドレス等)を含む情報である場合を例にする。また、施設IDは、本実施形態の防犯システムのサービスを提供する事業者により割り当てられているものとする。
Further, the auxiliary storage device stores a program for realizing the functions of the respective units (the
The auxiliary storage device stores information (facility information) related to the facility where the attention person estimation device 1 is installed. In the following, the facility information is information including a facility ID (unique data composed of alphanumeric characters) identifying the facility, a facility name, and a contact information (address, telephone number, e-mail address, etc.) Take as an example. In addition, the facility ID is assigned by a provider that provides the security system service of the present embodiment.
そして、注意人物推定装置1の各部(制御部10、画像処理部11、通信処理部12、顔認証照合部13)の機能は、前記補助記憶装置に格納された前記プログラムを主記憶装置にロードして実行することにより実現される。
And the function of each part (the
次に注意人物推定装置1の各構成部について説明する。
登録人物データベース15は、施設への入場を許可する人物(入場許可人物)の情報を記憶するデータベースであり、入場許可人物の「「性別」、「年齢」、「氏名」及び「属性」」に対応付けて、入場許可人物の顔を撮像した画像データを記憶するようになっている。この入場許可人物には、例えば、施設の利用者(施設が学校の場合は生徒、父兄)、施設の従業員(施設が学校の場合、教職員、事務職員)、施設の近所に住む隣人、施設への出入り業者等が想定される。
Next, each component of the attention person estimation device 1 will be described.
The registered
具体的には、図2に示すように、登録人物データベース15は、性別を登録するフィールド15aと、年齢を登録するフィールド15bと、入場許可人物の氏名を登録するフィールド15cと、入場許可人物の属性情報を登録するフィールド15dと、入場許可人物の顔を写した画像データ(例えば、jpeg形式の画像データ)を登録するフィールド15eとを有するレコードで構成されている(複数のレコードにより構成されている)。フィールド15dに登録される属性情報は、例えば、施設が学校の場合は、生徒、生徒の父兄、教職員、事務職員、学校の近隣の住人(隣人)等の情報をいう。
Specifically, as shown in FIG. 2, the registered
また、未登録人物データベース16は、カメラCが撮像した人物(施設に来た人物)のうち、顔認証照合処理により入場許可人物と一致しないと判定された人物を注意候補人物とし、その注意候補人物に関する情報を記憶するデータベースである。未登録人物データベース16は、注意候補人物の画像(顔を写した画像)に対応付けて注意候補人物の施設への訪問履歴情報を記憶するように構成されている。
In addition, the
具体的には、図3に示すように、未登録人物データベース16は、注意候補人物IDを登録するフィールド16aと、注意候補人物の顔を写した画像データ(例えば、jpeg形式の画像データ)を登録するフィールド16bと、施設への来た訪問日時を登録するフィールド16cと、所定期間における施設への訪問回数を登録するフィールド16dと有するレコードにより構成されている(複数のレコードにより構成されている)。
なお、フィールド16aに登録される注意候補人物IDとは、注意候補人物毎に設定された一意のデータ(英数字などで構成されるデータ)である。また、所定期間は、防犯システムの管理者により適宜設定されるものであり、例えば、「3時間(現在日時〜3時間前までの期間)」、「1日(現在日時〜24時間前までの期間)」、「1週間(現在日時〜7日前までの期間)」等の値が設定される
Specifically, as shown in FIG. 3, the
Note that the attention candidate person ID registered in the
また、図1に示す制御部10は、注意人物推定装置1全体の動作を制御すると共に、入力部6からの各種データ入力を受け付ける。
また、画像処理部11は、カメラCが撮像した人物の画像(顔を含む画像)を取得して、色調整などの画像処理を行う。また、通信処理部12は、ネットワークNWを介して、情報提供サーバ3の情報提供部31との間で各種情報の授受を行う。
The
In addition, the
また、顔認証照合部13は、画像処理部11により画像処理が施された人物の撮像画像を取得し、取得した撮像画像と、登録人物データベース15に登録されている画像データとを顔認証照合する処理(「第1顔認証照合処理」という)を行い、施設へ来た人物の撮像画像が登録人物データベース15に記憶された入場許可人物の画像データと一致しているか否かを判定する。
The face
また、顔認証照合部13は、第1顔認証照合処理により、取得した撮像画像が入場許可人物の画像データと一致しないと判定された場合、取得した撮像画像と、未登録人物データベース16に登録された注意候補人物の画像データとを照合する顔認証照合処理(「第2顔認証照合処理」という)を行う。
そして、顔認証照合部13は、第2顔認証照合処理の結果、撮像画像が注意候補人物の画像と一致したと判定された場合、未登録人物データベース16に登録されているデータのうち、一致したと判定された注意候補人物の履歴情報(訪問日時、訪問回数)を更新する。なお、顔認証照合部13は、未登録人物データベース16を更新する際には、最初にフィールド16cに、新たな訪問日時を追加登録し、その後、フィールド16cに登録された訪問日時及び現在日時から所定期間の訪問回数を算出し、算出した訪問回数をフィールド16dに登録(上書き)する。また、現在日時は、注意人物推定装置1に内蔵されている時計(図示せず)から取得する。
Further, when it is determined by the first face authentication verification process that the acquired captured image does not match the image data of the person permitted to enter, the face
Then, when it is determined that the captured image matches the image of the attention candidate person as a result of the second face authentication verification process, the face
また、顔認証照合部13は、更新した注意候補人物の所定期間内における訪問回数が所定回数以上(例えば、所定期間が1日で設定されている場合に、5回以上等)であれば、その注意候補人物と一致した撮像画像の人物を要注意人物であると推定する。
また、顔認証照合部13は、撮像画像の人物が要注意人物であると推定すると、表示部5に、「施設に、要注意人物が来ている旨を示す情報(例えば、テキスト情報)」及び「要注意人物の撮像画像」を表示すると共に、通信処理部12を介して、情報提供サーバ3に「要注意人物が来ている旨を示す情報」、「要注意人物の撮像画像」及び「施設情報(予め登録されている施設情報)」を送信する。
Further, the face
Further, when the face
尚、顔認証照合部13は、第2顔認証照合処理の結果、撮像画像が注意候補人物と一致しないと判定された場合、撮像画像の人物を注意候補人物として、未登録人物データベース16に新規登録する。具体的には、顔認証照合部13は、撮像画像の人物に、新たに「注意候補人物ID」を割り当て、未登録人物データベース16に、「注意候補人物ID」に対応付けて撮像画像及び履歴情報(訪問日時、訪問回数)を登録する。このとき、フィールド16cには、撮像画像が撮像された日時(或いは、顔認証照合部13が撮像画像を取得した日時)が登録され、フィールド16dには「1回」が登録される。
If it is determined that the captured image does not match the attention candidate person as a result of the second face authentication verification process, the face
次に、情報提供サーバ3の構成を説明する。
情報提供サーバ3は、制御部30と、情報提供部31と、端末データベース35と、注意人物データベース36とを有している。
尚、情報提供サーバ3のハードウェア構成は、特に限定されるものではないが、例えば、中央処理装置(CPU)、主記憶装置、補助記憶装置、入出力I/F及び通信I/Fを備えるコンピュータ(1台或いは複数台のコンピュータ)により構成される。
また、上記補助記憶装置には、各部(制御部30、情報提供部31)の機能を実現するためのプログラムが格納されている。また、前記補助記憶装置の所定領域には、端末データベース35及び注意人物データベース36が格納されている。
そして、各部(制御部30、情報提供部31)の機能は、補助記憶装置に格納された前記プログラムを主記憶装置にロードして実行することにより実現される。
Next, the configuration of the
The
The hardware configuration of the
The auxiliary storage device stores programs for realizing the functions of the respective units (the
And the function of each part (the
次に、情報提供サーバ3の各構成部を説明する。
端末データベース35は、「施設の管理責任者(守衛等)に割り当てられたユーザID(一意のデータ)及びログインパスワード」に対応付けて、管理責任者が保持しているスマートフォンSPを識別する識別子を含むデバイストークン(端末識別情報)と、当該管理責任者が所属する施設の施設情報とを対応付けて記憶するデータベースである。
Next, each component of the
The
具体的には、端末データベース35は、図4に示すように、ユーザIDを登録するフィールド35aと、パスワードを登録するフィールド35bと、デバイストークンを登録するフィールド35cと、施設情報(施設ID、施設名及び連絡先)を登録するフィールド35dとを有するレコードにより構成されている(複数のレコードにより構成されている)。
Specifically, as shown in FIG. 4, the
また、注意人物データベース36は、顔認証照合部13から送信された「要注意人物と推定された人物の撮像画像」を登録するためのデータベースであり、日時情報(撮像画像の受信日時)に対応付けて「要注意人物と推定された人物の撮像画像」及び「要注意人物が訪れた施設情報」を記憶する。
The
また、図1に示す制御部30は、情報提供サーバ3全体の動作を制御する。
また、情報提供部31は、注意人物推定装置1が送信した「要注意人物が来ている旨を示す情報」、「要注意人物の撮像画像」及び「施設情報」を受信すると、端末データベース35を参照し、施設情報に対応付けられたスマートフォンSPを特定する。また、情報提供部31は、特定したスマートフォンSPに対して、施設に要注意人物が訪れている旨を通知すると共に(図9(a)参照)、注意人物推定装置1から送信された「撮像画像」を含む要注意人物情報提供サイト120(図9(b))を提供する。
また、情報提供部31は、訪問人物データベース36に、日時情報(年、月、日、時間)に対応付けて、受信した「撮像画像」及び「施設情報」を登録する。
1 controls the operation of the
When the
Further, the
次に、本実施形態の防犯システムが行う処理内容について説明する。
先ず、本実施形態の防犯システムを利用するためのスマートフォンSPの設定処理について、図5及び図8を用いて説明する。
なお、図5は、本実施形態の防犯システムで用いられるスマートフォンの設定処理の手順を示したフローチャートである。また、図8は、本実施形態で用いられるスマートフォンのログイン画面を示した模式図である。
Next, processing contents performed by the crime prevention system of the present embodiment will be described.
First, the setting process of the smartphone SP for using the crime prevention system of the present embodiment will be described with reference to FIGS. 5 and 8.
FIG. 5 is a flowchart showing the procedure of the smartphone setting process used in the security system of this embodiment. FIG. 8 is a schematic diagram showing a login screen of a smartphone used in the present embodiment.
本実施形態の防犯システムを利用するためには、施設の守衛等の管理責任者(ユーザ)は、自身が持つスマートフォンSPに、専用のアプリケ−ションプログラム(防犯システム連携アプリ20)をインストールし、スマートフォンSPを防犯システムと連携して機能できるように設定する必要がある。
そして、スマートフォンSPに防犯システム連携アプリ20をインストールして初期設定を行い、防犯システム連携アプリ20を起動させた状態にすると、スマートフォンSPは、情報提供サーバ3からのプッシュ通知が受信されるようになると共に、情報提供サーバ3が提供する要注意人物情報提供サイト120(図9(b))のアクセス情報(サイトのアドレス)が提示され、スマートフォンSPの表示部3に要注意人物情報提供サイト120を表示できるようになる。
In order to use the crime prevention system according to the present embodiment, a manager (user) such as a facility guard installs a dedicated application program (the crime prevention system cooperation application 20) on his / her smartphone SP, It is necessary to set the smartphone SP so that it can function in cooperation with the security system.
And when the security
具体的には、先ず、スマートフォンSPのユーザは、図示しないアプリケーションサーバ(例えば、米国アップル社のアプリケーションサーバ)から防犯システム連携アプリ20をスマートフォンSPにインストールして、初期設定をする(S1)。
ここで初期設定について説明する。ユーザが、スマートフォンSPにインストールした防犯システム連携アプリ20を起動させると、スマートフォンSPのOS(Operating System)を介して、プッシュ通知サーバ7に登録要求が送信される。この登録要求に対し、プッシュ通知サーバ7は、登録要求をしたスマートフォンSPのデバイストークンを生成し、スマートフォンSPにデバイストークンを送信する。スマートフォンSPは、プッシュ通知サーバ7からのデバイストークンを受信すると、防犯システム連携アプリ20により提供される初期設定画面(図示せず)を表示させ、ユーザID(英数字などで構成される一意のデータ)、パスワード及び施設情報(施設ID、施設名及び施設の連絡先)を入力させる。スマートフォンSPは、ユーザID、パスワード及び施設情報の入力を受け付けると、「ユーザID、パスワード及び施設情報」を情報提供サーバ3(端末データベース35)に登録する。また、スマートフォンSPは、内蔵のメモリに、プッシュ通知サーバ7からのデバイストークンを記憶する。
なお、スマートフォンSPのユーザは、この初期設定に先だって、本実施形態の防犯システムのサービスを提供する事業者から、初期設定で入力する必要がある施設情報を取得しているものとする。
Specifically, first, the user of the smartphone SP installs the crime prevention
Here, the initial setting will be described. When the user activates the crime prevention
It is assumed that the user of the smartphone SP has acquired the facility information that needs to be input in the initial setting from the provider that provides the security system service of the present embodiment prior to the initial setting.
S1の初期設定を終了後、ユーザが防犯システム連携アプリ20を起動すると、スマートフォンSPは、図8に示すログイン画面100を表示する(S2)。ユーザは、ログイン画面100上で、ユーザID及びパスワードを入力してログイン処理をする(S3、S4)。
When the user starts the crime prevention
具体的には、スマートフォンSPは、ユーザから「ユーザID及びパスワード」の入力を受け付けると、情報提供サーバ3の情報提供部31に「ユーザID及びパスワード」を送信する。情報提供部31は、スマートフォンSPから送信された「ユーザID及びパスワード」と、端末データベース35を照合して「ユーザID及びパスワード」が正しければ、スマートフォンSPに図8に示すログイン成功画面101を送信し、スマートフォンSPにログイン成功画面101を表示して、S5の処理に進む。
一方、情報提供部31は、照合の結果、受信した「ユーザID及びパスワード」が端末データベース35に登録されているものと一致しなければ、スマートフォンSPに図8に示すログイン失敗画面102を送信して、スマートフォンSPにログイン失敗画面102を表示して、S3の処理に戻り、店員に、「ユーザID及びパスワード」の再入力を促す。
Specifically, when receiving the input of “user ID and password” from the user, the smartphone SP transmits “user ID and password” to the
On the other hand, if the received “user ID and password” does not match that registered in the
S5では、スマートフォンSPは、情報提供サーバ3の情報提供部31に、自身のデバイストークン(プッシュ通知サーバ7から取得したデバイストークン)を送信する。
また、情報提供サーバ3の情報提供部31は、スマートフォンSPから送信されたデバイストークンを受信すると、端末データベース35のなかの、S3で入力された「ユーザID及びパスワード」を登録したレコードに、受信したデバイストークンを登録する(S6)。
In S <b> 5, the smartphone SP transmits its device token (device token acquired from the push notification server 7) to the
Further, when the
S6の処理が終わると、スマートフォンSPは、防犯システム連携アプリ20により、防犯システムと連携して機能する。すなわち、S6の処理が終わると、スマートフォンSPには、注意人物推定装置1が施設に要注意人物が来ていると推定する度に、施設に要注意人物が来ている旨を示す情報がプッシュ通知されるようになると共に、要注意人物を撮像した画像を含む要注意人物情報提供サイト120(図9(b))へのアクセス情報が提供されるようになる。
When the process of S6 ends, the smartphone SP functions in cooperation with the security system by the security
次に、本実施形態の防犯システムが行う処理について、図6〜7、9を用いて説明する。
なお、図6は、本実施形態の注意人物推定装置が行う要注意人物推定処理の手順を示したフローチャートである。また、図7は、本実施形態の情報提供サーバが施設の管理責任者のスマートフォンに、要注意人物に関する情報を提供する処理の手順を示したフローチャートである。また、図9は、本実施形態の防犯システムがスマートフォンに提供する要注意人物に関する情報を表示する画面を示した模式図である。
Next, the process which the crime prevention system of this embodiment performs is demonstrated using FIGS.
FIG. 6 is a flowchart showing the procedure of the caution person estimation process performed by the caution person estimation apparatus of the present embodiment. FIG. 7 is a flowchart illustrating a processing procedure in which the information providing server according to the present embodiment provides information about the person requiring attention to the smartphone of the facility manager. FIG. 9 is a schematic diagram showing a screen for displaying information on a person requiring attention provided to the smartphone by the crime prevention system of the present embodiment.
先ず、注意人物推定装置1が行う処理を図6に基づいて説明する。
図示するように、注意人物推定装置1の画像処理部11は、カメラCが撮像した施設に近づいて来た人物の撮像画像(人物の顔が含まれる画像)を取得し(S10)、人物の顔が含まれる画像から顔画像を抽出し、抽出した顔画像に色調整などの画像処理を施す(S11)。
なお、カメラCの撮像範囲に2名以上の人物が入って来て、カメラCが複数の人物の画像を撮像することがある。この場合、画像処理部11は、複数の人物の顔画像をそれぞれ抽出し、抽出した顔画像毎に、色調整などの画像処理を施す。
First, the process performed by the attention person estimation device 1 will be described with reference to FIG.
As illustrated, the
Note that two or more persons may enter the imaging range of the camera C, and the camera C may capture images of a plurality of persons. In this case, the
次に、顔認証照合部13は、画像処理部11が画像処理を施した「施設に来た人物を撮像した顔画像」を取得し、取得した顔画像から施設に来た人物の性別及び年齢を推定する(S12)。例えば、顔認証照合部13は、取得した顔画像から、訪問者が「男性」で「20〜30歳位の年齢」であると推定する。
なお、S12で行う「性別及び年齢の推定処理」は、公知技術を用いるため、詳細な説明を省略する。
Next, the face
Note that the “sex and age estimation process” performed in S12 uses a known technique, and thus a detailed description thereof is omitted.
次に、顔認証照合部13は、登録人物データベース15にアクセスして、S12で推定した性別及び年齢が登録されているレコードを抽出し、抽出したレコードに登録された入場許可人物の画像データ(顔画像)と、画像処理部11から取得したカメラCが撮像した施設に来た人物の撮像画像(顔画像)とを顔認証照合処理(第1顔認証照合処理)により照合し、入場許可人物の画像データと、カメラCが撮像した人物の顔画像とが一致するか否かを判定する(S13)。
本ステップにより、「施設に来た人物の撮像画像が登録人物データベース15に記憶された入場許可人物の画像と一致している旨の判定」及び「施設に来た人物の撮像画像が登録人物データベース15に記憶された入場許可人物の画像と一致していない旨の判定」のいずれかの判定結果が得られる。
なお、S13で行う顔認証照合処理は、公知技術を用いるため、詳細な説明を省略する。
Next, the face
By this step, “determination that the captured image of the person who came to the facility matches the image of the permitted person stored in the registered
In addition, since the face authentication collation process performed by S13 uses a well-known technique, detailed description is abbreviate | omitted.
S13の処理の結果、「施設に来た人物の撮像画像が登録人物データベース15に記憶された入場許可人物の画像と一致している旨の判定」がなされた場合、すなわち、抽出したレコードのなかに、取得した撮像画像(顔画像)と一致する画像データが登録されたレコードがあった場合、その撮像画像の人物を監視する必要がないため、S10の処理に戻る。また、S13の処理の結果、「施設に来た人物の撮像画像(顔画像)が登録人物データベース15に記憶された入場許可人物の画像と一致していない旨の判定」がなされた場合、すなわち、抽出したレコードのなかに、取得した撮像画像と一致する画像データが登録されたレコードが1つもなかった場合、その撮像画像の人物が要注意人物であるか否かを判定するために、S15以降の処理に進む(S14)。
As a result of the processing of S13, when “determination that the captured image of the person who came to the facility matches the image of the permitted person stored in the registered
S15では、顔認証照合部13は、未登録人物データベース16にアクセスし、S12で推定した性別及び年齢に対応付けられている画像データが登録されているレコードを抽出し、抽出したレコードのフィールド16bに登録された注意候補者の画像データ(顔画像)と、画像処理部11から取得したカメラCが撮像した施設に来た人物の撮像画像(顔画像)とを顔認証照合処理(第2顔認証照合処理)により照合し、注意候補者の画像データと、施設に来た人物の撮像画像とが一致するか否かを判定する。
本ステップにより、「施設に来た人物の撮像画像が未登録人物データベース16に記憶された注意候補人物の画像と一致している旨の判定」及び「施設に来た人物の撮像画像が未登録人物データベース16に記憶された注意候補人物の画像と一致していない旨の判定」のいずれかの判定結果が得られる。
なお、S135で行う顔認証照合処理は、S13と同様、公知技術であるため、詳細な説明を省略する。
In S15, the face
By this step, “determination that the captured image of the person who came to the facility matches the image of the attention candidate person stored in the
Note that the face authentication collation process performed in S135 is a known technique as in S13, and thus detailed description thereof is omitted.
S15の処理の結果、「施設に来た人物の撮像画像が未登録人物データベース16に記憶された注意候補人物の画像と一致している旨の判定」がなされた場合、すなわち、抽出したレコードのなかに、取得した撮像画像と一致する画像データが登録されたレコードがあった場合、S18の処理に進む。また、S15の処理の結果、「施設に来た人物の撮像画像が未登録人物データベース16に記憶された注意候補人物の画像と一致していない旨の判定」がなされた場合、すなわち、抽出したレコードのなかに、取得した撮像画像と一致する画像データが登録されたレコードが1つもなかった場合、S17の処理に進む(S16)。
As a result of the processing of S15, when “determination that the captured image of the person who has come to the facility matches the image of the attention candidate person stored in the
S17では、取得した撮像画像(顔画像)の人物を注意候補人物として、未登録人物データベース16に新規登録する。
具体的には、顔認証照合部13は、取得した撮像画像の人物に、新たに「注意候補人物ID」を割り当て、未登録人物データベース16に、割り当てた「注意候補人物ID」に対応付けて撮像画像及び履歴情報(訪問日時、訪問回数)を登録する。そして、S17の処理が終わると、S10の処理に戻る。
このような処理手順を採用したのは、本実施形態の防犯システムでは、入場許可人物以外の人物が、施設に初めて訪れてきたときに、その人物をいきなり要注意人物と推定せず、注意候補人物として登録しておき、その後、施設に頻繁に訪れる等の不審な行動があったときに要注意人物として推定できるようにするためである。
In S17, the person of the acquired captured image (face image) is newly registered in the
Specifically, the face
Such a processing procedure is adopted in the crime prevention system according to the present embodiment, when a person other than an entrance-permitted person visits the facility for the first time, the person is not suddenly estimated as a person requiring attention. This is because it is registered as a person and can be estimated as a person requiring attention when there is a suspicious behavior such as frequent visits to the facility thereafter.
次に、S18以降の処理を説明する。
S18では、顔認証照合部13は、未登録人物データベース16に登録されているデータのうち、第2顔認証照合処理で一致したと判定された注意候補人物が登録されているレコードの履歴情報(訪問日時、訪問回数)を更新し、S19の処理に進む。
具体的には、顔認証照合部13は、S15で一致したと判定された注意候補人物が登録されたレコードのフィールド16cに訪問日時を追加した上で、フィールド16cに登録された訪問日時から所定期間の訪問回数を新たに算出し、フィールド16dの訪問回数を、新たに算出された訪問回数に更新する。
Next, the processing after S18 will be described.
In S <b> 18, the face
Specifically, the face
S19では、顔認証照合部13は、上記の履歴情報を更新したレコードの「所定期間の訪問回数」を参照し、更新した注意候補人物の所定期間の訪問回数が所定回数以上であるか否かを判定し、所定回数以上でなければ、注意候補人物を要注意人物と認定せずにS10の処理に戻り、所定回数以上であればS20の処理に進む。
In S19, the face
S20では、顔認証照合部13は、上記の履歴情報を更新したレコードの注意候補者(撮像画像の人物)を要注意人物であると推定し、S21の処理に進む。
In S20, the face
S21では、顔認証照合部13は、表示部5に、「施設に、要注意人物が来ている旨を示す情報(例えば、テキスト情報)」及び「要注意人物と推定した人物の撮像画像」を出力する。これにより、表示部5には、「施設に、要注意人物が来ている旨を示す情報」及び「要注意人物と推定した人物の撮像画像」が表示される。
また、顔認証照合部13は、通信処理部12を介して、情報提供サーバ3に「施設に要注意人物が来ている旨を示す情報」、「要注意人物の撮像画像」及び「施設情報」を送信(出力)し、S10の処理に戻る。なお、本実施形態では、顔認証照合部13は、「施設情報」にカメラCの位置情報(施設が学校の場合、正門、裏門等の設置位置情報)を含めて、情報提供サーバ3に送信する。
In S <b> 21, the face
Further, the face
このように、本実施形態の防犯システムでは、入場許可人物以外の人物が、施設に初めて訪れてきたときに、その人物を注意候補人物と定め、その注意候補人物の画像に対応付けて当該注意候補人物の施設への訪問日時を含む履歴情報を登録するようにしている。また、本実施形態の防犯システムによれば、注意候補人物が施設を訪れる度に、注意候補人物の履歴情報を更新し、更新した履歴情報が所定要件を満たす場合に注意候補人物を要注意人物と推定している。すなわち、本実施形態では、防犯システムが自動的に、施設に来る人物の中から、不自然な訪問履歴の人物を要注意人物として推定するようになっている。そのため、本実施形態によれば、例えば、犯罪行為等の下見に何度も施設を訪れたり、或いは、学校等に盗撮をするために何度も訪れたりする不審人物がいる場合、そのような不審人物を要注意人物であると推定でき、その要注意人物を監視することで、効果的な防犯が期待できる。 As described above, in the crime prevention system according to the present embodiment, when a person other than an entrance-permitted person visits a facility for the first time, the person is determined as a candidate for attention and is associated with the image of the attention candidate. History information including the visit date and time of the candidate person's facility is registered. In addition, according to the crime prevention system of this embodiment, every time a candidate for attention visits the facility, the history information of the candidate for attention is updated, and when the updated history information satisfies a predetermined requirement, the candidate for attention is a person who needs attention. It is estimated. That is, in this embodiment, the crime prevention system automatically estimates a person with an unnatural visit history as a person requiring attention from among persons coming to the facility. Therefore, according to the present embodiment, for example, when there is a suspicious person who visits a facility many times for a preview of criminal acts or the like or visits a school many times for voyeurism It can be estimated that a suspicious person is a person requiring attention, and effective crime prevention can be expected by monitoring the person requiring attention.
次に、情報提供サーバ3が行う処理と、スマートフォンSPが行う処理とを説明する。
Next, processing performed by the
図7に示すように、情報提供サーバ3の情報提供部31は、注意人物推定装置1から送信された「要注意人物が来ている旨を示す情報」、「要注意人物の撮像画像」及び「施設情報」を受信すると(S30)、その受信した情報と、端末データベース35とを用いて、受信した施設情報に対応付けられたスマートフォンSPを特定し、特定したスマートフォンSPに対して、プッシュ通知サーバ7を介して、「施設に要注意人物が来ている旨」及び「要注意人物情報提供サイトへのアクセス情報」をプッシュ通知する(S31)。
As illustrated in FIG. 7, the
具体的には、S31では、情報提供部31は、端末データベース35を参照し、S30で受信した「施設情報」が登録されているレコードを選択し、選択したレコードに登録されたデバイストークンを抽出する。また、情報提供部31は、S30で受信した情報を用いて、「要注意人物の撮像画像」が含まれる要注意人物情報提供サイト情報を生成する。また、情報提供部31は、スプッシュ通知で提示するプッシュ通知情報(「施設に要注意人物が来ている旨」及び「要注意人物情報提供サイト120へのアクセス情報」)と、デバイストークンとが含まれる通知パッケージを生成し、その通知パッケージをプッシュ通知サーバ7に送信する。
Specifically, in S31, the
プッシュ通知サーバ7は、上記の通知パッケージを受信すると、通知パッケージに含まれるデバイストークンにより特定されるスマートフォンSPに対して、「施設に要注意人物が来ている旨」及び「要注意人物情報提供サイト120へのアクセス情報」を送信する。
When the push notification server 7 receives the notification package, the push notification server 7 “provides a person to be watched at the facility” and “provides attention to the person to be watched” for the smartphone SP specified by the device token included in the notification package. Information on access to
なお、情報提供部31は、プッシュ通知サーバ7に通知パッケージを送信すると、その後、注意人物データベース36に、現在日時(年、月、日、時間)に対応付けて、「施設情報」、「要注意人物の撮像画像」を登録する(S32)。この現在日時は、情報提供サーバ3に内蔵されている時計(図示せず)から取得する。
When the
次に、S31において、プッシュ通知サーバ7を介して、情報提供部31から「施設に要注意人物が来ている旨」及び「要注意人物情報提供サイトへのアクセス情報」が送られたスマートフォンSPが行う処理を説明する。
具体的には、スマートフォンSPは、プッシュ通知サーバ7からの「施設に要注意人物が来ている旨」及び「要注意人物情報提供サイト120へのアクセス情報」を受信すると、その受信した情報を用いて、スマートフォンSPの表示部に、図9(a)に示す要注意人物通知画面110を表示する(S40)。なお、スマートフォンSPは、プッシュ通知サーバ7からの情報を受信すると、振動(バイブレート)したり或いはサウンドを鳴らしたりするようになっている。
Next, in S31, via the push notification server 7, the smartphone SP to which “information that requires attention” and “access information to the information site requiring attention” are sent from the
Specifically, when the smartphone SP receives from the push notification server 7 “noticeable person is coming to the facility” and “access information to the person-of-care
なお、図示する要注意人物通知画面110では、施設に「要注意人物が来ている旨」を示す情報が提示される領域111と、要注意人物情報提供サイト120へのアクセスするためのViewボタン112とが設けられている。
この構成により、施設に要注意人物が訪れる度に、施設の管理責任者のスマートフォンSPに、施設に要注意人物が来ている旨がリアルタイムで通知される。
Note that, in the illustrated
With this configuration, every time a person requiring attention visits the facility, the smartphone manager SP in charge of the facility is notified in real time that the person who needs attention is coming to the facility.
そして、スマートフォンSPに表示された要注意人物通知画面110を見た、管理責任者が、要注意人物通知画面110上に設けられたViewボタン112を押すと、スマートフォンSPは、情報提供サーバ3の情報提供部31にアクセスし、要注意人物情報提供サイトの送信要求をする(S41)。
情報提供サーバ3の情報提供部31は、スマートフォンSPからの要注意人物情報提供サイト120の送信要求を受けると、要求してきたスマートフォンSPに対して、S31で生成した要注意人物情報提供サイト情報を送信する(S33)。
Then, when the person in charge of management who views the notice-noticeable
When the
次に、スマートフォンSPは、情報提供部31からの要注意人物情報提供サイト情報を受信し、受信した要注意人物情報提供サイト情報を用いて、表示部に要注意人物情報提供サイト120(図9(b)参照)を表示する(S42)。
Next, the smartphone SP receives the cautionary person information providing site information from the
図示するように、要注意人物情報提供サイト120には、施設に来た要注意人物の撮像画像を表示する領域121と、その要注意人物の施設への訪問回数と、撮像画像の位置情報(例えば、学校の正門、病院の駐車場等の場所情報)とを提示する領域122とが設けられている。また、要注意人物情報提供サイト120には、対応完了を受け付けるボタン123が設けられている。
As shown in the drawing, in the person-of-interest
上記の構成により、施設に要注意人物が訪れる度に、施設の管理責任者(守衛等)に対して、施設に要注意人物が来ている旨が伝わると共に、その要注意人物の撮像画像が提示されるようになる。また、管理責任者に要注意人物が来た施設の位置情報が伝わる。
すなわち、本実施形態によれば、施設の管理責任者(守衛等)は、要注意人物が施設に来たときに、要注意人物の顔を視覚で確認できるため、どの人物を監視すればよいのかを容易に把握することができる。また、管理責任者(守衛等)が複数いる施設では、複数の管理責任者が、一斉に、要注意人物の画像を見て把握することができるため、効果的な防犯体制が構築される。また、管理責任者に要注意人物が来た施設の位置情報が伝わるため、要注意人物を早期に発見できる。
With the above configuration, every time a person requiring attention visits the facility, the person in charge of the facility (guard, etc.) is notified that the person requiring attention is coming to the facility, and the captured image of the person requiring attention is displayed. Be presented. In addition, the location information of the facility where the person in need of attention came to the manager.
That is, according to the present embodiment, the person in charge of the facility (guard, etc.) can visually check the face of the person requiring attention when the person requiring attention comes to the facility. Can be easily grasped. In addition, in a facility where there are a plurality of managers (guards, etc.), a plurality of managers can simultaneously see and grasp the images of people who need attention, so an effective crime prevention system is established. In addition, since the location information of the facility where the person requiring attention has been transmitted to the person in charge of management, the person who needs attention can be found early.
また、本実施形態の防犯システムでは、推定された要注意人物の撮像画像は、情報提供サーバ3に自動的に記憶されていくようになっている(図7のS32)。
そのため、例えば、本実施形態の防犯システムのカメラCを設置した施設以外において、不審者による施設への事件(盗難、盗撮、放火等の事件)が発生したような場合、情報提供サーバ3に記憶されている画像が、警察の捜査上で重要な資料になり得、事件の解決に協力できる。
In the crime prevention system of the present embodiment, the estimated captured image of the person who needs attention is automatically stored in the information providing server 3 (S32 in FIG. 7).
Therefore, for example, in the case where an incident (an incident such as theft, voyeurism, arson) caused by a suspicious person occurs in a facility other than the facility where the camera C of the crime prevention system according to the present embodiment is installed, the information is stored in the
尚、本発明は、上述した実施形態に限定されるものではなく、その要旨の範囲内において種々の変更が可能である。 In addition, this invention is not limited to embodiment mentioned above, A various change is possible within the range of the summary.
例えば、上記の構成において、注意人物推定装置1にランプ(例えば、LEDランプ)と、スピーカとを接続するようにしてもよい。この場合、注意人物推定装置1は、要注意人物が来ていると推定したときに、警告ランプを点灯(或いは点滅)させると共に、「要注意人物が来ている旨の音声情報」を生成し、その音声情報をスピーカから出力するようにしても良い。 For example, in the above configuration, the attention person estimation apparatus 1 may be connected to a lamp (for example, an LED lamp) and a speaker. In this case, the caution person estimation device 1 turns on (or blinks) a warning lamp and generates “voice information indicating that a person requiring attention is present” when it is estimated that a person requiring attention has arrived. The audio information may be output from a speaker.
また、上述した実施形態では、未登録人物データベース16のフィールド16cに、1つの所定期間の訪問回数だけが登録されているが、複数期間毎の訪問回数を登録できるようにし、複数期間毎に、しきい値を決めて、注意候補人物が要注意人物であるか否かを判定するようにしてもよい。
In the above-described embodiment, only the number of visits for one predetermined period is registered in the field 16c of the
また、上述した実施形態では、入場許可人物以外の人物が、施設に訪れてきたときであっても、要注意人物と推定されなければ、アラート処理(表示部5への表示やスマートフォンSPへのプッシュ通知)を行わないが、特にこれに限定されるものではない。第1顔認証照合処理により、施設に来た人物が入場許可人物以外の人物と判定されたときには、入場許可人物以外の人物が来ていることを表示部5に表示したり、スマートフォンSPにプッシュ通知したりするようにしてもよい。
また、上記の場合において、カメラCの撮像範囲に複数の人物が入って来て、複数の人物が一緒にカメラCに撮像されたときには、複数の人物のなかに、1人でも入場許可人物がいる場合には、アラート処理を行わないようにしてもよい。
In the above-described embodiment, even if a person other than the admission permitted person visits the facility, if it is not estimated that the person needs attention, alert processing (display on the display unit 5 or display on the smartphone SP) is performed. Push notification) is not performed, but the present invention is not limited to this. When it is determined by the first face authentication collation process that the person who has come to the facility is a person other than the person permitted to enter, the fact that a person other than the person permitted to enter is displayed on the display unit 5 or pushed to the smartphone SP. You may make it notify.
Further, in the above case, when a plurality of persons come into the imaging range of the camera C and the plurality of persons are imaged together by the camera C, even one of the plurality of persons is permitted to enter. If so, the alert process may not be performed.
また、上述した図6の処理では、S12において、取得した撮像画像から性別及び年齢を推定しているが特にこれに限定されるものではない。図6に示す処理工程において、S12の処理を行わずに、S13において登録人物データベース15の全てのレコードの画像データと第1顔認証照合処理をし、S15において未登録人物データベース16の全てのレコードの画像データと第2顔認証照合処理をするようにしてもよい。
In the process of FIG. 6 described above, the sex and the age are estimated from the acquired captured image in S12, but the present invention is not particularly limited thereto. In the processing step shown in FIG. 6, without performing the process of S12, the image data of all the records in the registered
また、上述した実施形態では、情報提供サーバ3は、施設の管理責任者が保持するスマートフォンSPに、「要注意人物が来ている旨」の通知を、プッシュ通知サーバ7を介して行っているが、特にこれに限定されるものではない。情報提供サーバ3が、プッシュ通知サーバ7と一体の装置で構成され、情報提供サーバ3から直接的にスマートフォンSPに、「要注意人物が来ている旨」の通知がされるようになっていてもよい。
また、「要注意人物が来ている旨」の通知が、プッシュ通知ではなく、例えば、電子メールで行うようになっていてもよい。この場合、情報提供サーバ3は、スマートフォンSPのメールアドレス宛に、「要注意人物が来ている旨」及び「要注意人物情報提供サイトへのアクセス情報(サイトのアドレス)」が記載された電子メールを送信する。
Further, in the above-described embodiment, the
Further, the notification that “a person requiring attention is coming” may be sent by e-mail, for example, instead of the push notification. In this case, the
また、上述した実施形態の情報提供サーバ3の構成は、一例に過ぎない。情報提供サーバ3の機能がクラウドで提供されるようになっていてもよい。
Moreover, the structure of the
また、上述した実施形態では、情報配信サーバ3から施設の管理責任者のスマートフォンSPに、要注意人物が来ている旨などの情報を提供しているが、スマートフォンSPは情報端末の一例に過ぎない。ネットワークNWに接続可能な通信機能を備えた情報処理端末(ノートパソコン、タブレッド型端末)であれば、本発明が適用される。
In the above-described embodiment, the
また、上述した実施形態では、スマートフォンSP(端末)を特定する端末識別情報として、デバイストークンを用いているが、デバイストークンは、端末識別情報の一例に過ぎない。例えば、防犯システムの管理者が、各スマートフォンSPに固有の端末識別情報を割り当てておき、情報提供サーバ3に、その固有の端末識別情報を登録するようにしておいてもよい。
In the above-described embodiment, a device token is used as terminal identification information for specifying the smartphone SP (terminal). However, the device token is only an example of terminal identification information. For example, the administrator of the security system may assign unique terminal identification information to each smartphone SP and register the unique terminal identification information in the
また、上述した実施形態の端末データベース35では、ユーザID、パスワード及び端末識別情報(デバイストークン)に対応付けて施設情報が登録されているが、ユーザID及びパスワードは無くてもよい(すなわち、端末データベース35に、端末識別情報に対応付けて施設情報が登録されていればよい)。
In the
また、上述した実施形態では、入場許可人物以外の人物が、施設に所定回数以上来ている場合に、その人物を要注意人物として推定しているが、特にこれに限定されるものではない。例えば、未登録人物データベース16の履歴情報として、「訪問日時」及び「訪問回数」に加え、注意候補者を撮像したカメラの位置情報(例えば、学校の校門、裏門、駐輪場等の情報)を登録するようにして、1日のうちに、注意候補者が複数の位置に来ている状態になっていれば、その注意候補者を要注意人物であると推定するようにしてもよい。
Further, in the above-described embodiment, when a person other than the admission permitted person has arrived at the facility more than a predetermined number of times, the person is estimated as a person requiring attention. However, the present invention is not limited to this. For example, as history information of the
C…カメラ
SP…スマートフォン
1…注意人物推定装置
10…制御部
11…画像処理部
12…通信処理部
13…顔認証照合部
15…登録人物データベース
16…未注意人物推定装置
20…防犯システム連携アプリ
5…表示部
6…入力部
3…サーバ装置
30…制御部
31…情報提供部
35…端末データベース
36…注意人物データベース
7…プッシュ通知サーバ
C ... Camera SP ... Smartphone
DESCRIPTION OF SYMBOLS 1 ... Attention
3 ...
7 ... Push notification server
Claims (4)
前記注意人物推定装置は、
施設への入場許可人物の顔画像を記憶する登録人物データベースと、
前記カメラが撮像した人物の顔の撮像画像を取得し、該取得した撮像画像と、前記登録人物データベースに記憶された入場許可人物の顔画像とを照合する第1顔認証照合処理を行う顔認証照合部と、
前記第1顔認証照合処理により前記入場許可人物の顔画像と一致しないと判定された撮像画像の人物を注意候補人物とし、その撮像画像に該注意候補人物の施設への訪問履歴情報を対応付けて記憶する未登録人物データベースとを有し、
前記顔認証照合部は、
前記第1顔認証照合処理により前記撮像画像が前記入場許可人物の顔画像と一致しないと判定された場合、前記取得した撮像画像と前記未登録人物データベースに記憶された注意候補人物の画像とを照合する第2顔認証照合処理を行い、該第2顔認証照合処理により前記撮像画像が注意候補人物の画像と一致したと判定された場合、該未登録人物データベースに記憶されている一致した注意候補人物の画像に対応付けられている訪問履歴情報を更新し、その更新した訪問履歴情報が所定要件を満たす場合に前記取得した撮像画像の人物を要注意人物であると推定し、前記要注意人物が施設に来ている旨を示す情報を出力することを特徴とする防犯システム。 A security system comprising a caution person estimation device that estimates whether a person captured by a camera installed in a facility is a cautionary person,
The attention person estimation device includes:
A registered person database that stores face images of persons allowed to enter the facility;
Face authentication is performed for acquiring a captured image of a person's face captured by the camera, and performing a first face authentication verification process for verifying the acquired captured image and a face image of an entry-permitted person stored in the registered person database. A collation unit;
The person of the captured image that is determined not to match the face image of the admission-permitted person by the first face authentication collation process is set as a candidate for attention, and the visit history information of the facility for the candidate for attention is associated with the captured image. And an unregistered person database for storing
The face authentication verification unit
When it is determined by the first face authentication collation process that the captured image does not match the face image of the person permitted to enter, the acquired captured image and the image of the attention candidate person stored in the unregistered person database are used. When the second face authentication collation process to be collated is performed and it is determined by the second face authentication collation process that the captured image matches the image of the attention candidate person, the matched attention stored in the unregistered person database The visit history information associated with the image of the candidate person is updated, and when the updated visit history information satisfies a predetermined requirement, the person of the acquired captured image is estimated to be a person requiring attention, and the person concerned needs attention A crime prevention system characterized by outputting information indicating that a person is in the facility.
前記顔認証照合部は、前記撮像画像の人物を要注意人物であると推定した場合、前記サーバ装置に、前記要注意人物と推定した人物の撮像画像を送信し、
前記サーバ装置は、前記注意人物推定装置が送信した撮像画像を受信すると、予め登録された情報端末に対して、前記ネットワークを介して、前記要注意人物が施設に来ている旨を通知すると共に、前記注意人物推定装置から送信された撮像画像を含む要注意人物に関する情報を提供することを特徴とする請求項1〜3のいずれかに記載の防犯システム。 The attention person estimation device is connected to a server device via a network,
When the face authentication verification unit estimates that the person in the captured image is a person requiring attention, the face authentication collation unit transmits a captured image of the person estimated as the person in need of attention to the server device,
When the server device receives the captured image transmitted by the attention person estimation device, the server device notifies a pre-registered information terminal that the person requiring attention is in the facility via the network. The crime prevention system according to any one of claims 1 to 3, wherein information on a person requiring attention including a captured image transmitted from the attention person estimation device is provided.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014128007A JP5813829B1 (en) | 2014-06-23 | 2014-06-23 | Crime prevention system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014128007A JP5813829B1 (en) | 2014-06-23 | 2014-06-23 | Crime prevention system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5813829B1 true JP5813829B1 (en) | 2015-11-17 |
JP2016009234A JP2016009234A (en) | 2016-01-18 |
Family
ID=54595864
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014128007A Expired - Fee Related JP5813829B1 (en) | 2014-06-23 | 2014-06-23 | Crime prevention system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5813829B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021186835A1 (en) * | 2020-03-19 | 2021-09-23 | 日本電気株式会社 | Shop system, processing method, and program |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
SG10201805030YA (en) * | 2018-06-12 | 2020-01-30 | Nec Asia Pacific Pte Ltd | A system and method for deduplicating person detection alerts |
US11100742B2 (en) * | 2018-08-23 | 2021-08-24 | Universal City Studios Llc | Unified access control system |
SG10201807628XA (en) * | 2018-09-05 | 2020-04-29 | Nec Asia Pacific Pte Ltd | An Apparatus And A Method For Adaptively Managing Event-Related Data In A Control Room |
JP2020136714A (en) * | 2019-02-13 | 2020-08-31 | パナソニックi−PROセンシングソリューションズ株式会社 | Information processing device and monitoring method |
WO2021186560A1 (en) * | 2020-03-17 | 2021-09-23 | 日本電気株式会社 | Visit assistance device, visit assistance system, visit assistance method, and non-transitory computer-readable medium having program stored therein |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008071366A (en) * | 2007-10-22 | 2008-03-27 | Toshiba Corp | Face image collating device, face image collating system, and face image collating method |
JP2009206784A (en) * | 2008-02-27 | 2009-09-10 | Panasonic Electric Works Co Ltd | Security system for dwelling house |
JP2011192157A (en) * | 2010-03-16 | 2011-09-29 | Secom Co Ltd | Emergency report device |
WO2012090629A1 (en) * | 2010-12-28 | 2012-07-05 | オムロン株式会社 | Monitoring device and method, as well as program |
-
2014
- 2014-06-23 JP JP2014128007A patent/JP5813829B1/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008071366A (en) * | 2007-10-22 | 2008-03-27 | Toshiba Corp | Face image collating device, face image collating system, and face image collating method |
JP2009206784A (en) * | 2008-02-27 | 2009-09-10 | Panasonic Electric Works Co Ltd | Security system for dwelling house |
JP2011192157A (en) * | 2010-03-16 | 2011-09-29 | Secom Co Ltd | Emergency report device |
WO2012090629A1 (en) * | 2010-12-28 | 2012-07-05 | オムロン株式会社 | Monitoring device and method, as well as program |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021186835A1 (en) * | 2020-03-19 | 2021-09-23 | 日本電気株式会社 | Shop system, processing method, and program |
Also Published As
Publication number | Publication date |
---|---|
JP2016009234A (en) | 2016-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11238722B2 (en) | Methods and systems for providing online monitoring of released criminals by law enforcement | |
JP5813829B1 (en) | Crime prevention system | |
US8750576B2 (en) | Method of managing visiting guests by face recognition | |
JP5747116B1 (en) | Security system | |
KR101419794B1 (en) | The method for controlling the access of school visitors through the face recognition | |
US20160266733A1 (en) | Event and staff management systems and methods | |
KR101990803B1 (en) | PROTECTION SYSTEM FOR VULNERABLE CLASSES USING Internet Of Things AND METHOD THEREFOR | |
CN110494898A (en) | With wireless and face recognition entrance monitoring system | |
US20190197848A1 (en) | Networked premises security | |
JP2008294921A (en) | Security monitoring system, security monitoring method, and information processing terminal | |
KR101981900B1 (en) | Security management system using face recognition and method thereof | |
US20180150683A1 (en) | Systems, methods, and devices for information sharing and matching | |
US11100739B1 (en) | Two factor identification verification of controlled-environment facility residents and associated non-residents | |
JP2024038422A (en) | Face recognition management server and face recognition management method | |
JP2022191276A (en) | Information processing system, information processing method, information processing program, and output device | |
WO2019200737A1 (en) | Real estate data uploading method and apparatus, computer device, and storage medium | |
JP2023157932A (en) | Face authentication registration device, and a face authentication registration method | |
JP2018018355A (en) | Disaster information management system and disaster information management method | |
JP2010176304A (en) | Personal authentication apparatus | |
CN113129494A (en) | Region management method and device based on face recognition and terminal equipment | |
KR101936390B1 (en) | Method And Apparatus for Providing Tracking Service based on Closed Circuit Tele-Vision | |
US8442277B1 (en) | Identity authentication system for controlling egress of an individual visiting a facility | |
WO2019172326A1 (en) | Information providing device, information providing method, program, and recording medium | |
US10713872B1 (en) | Access to controlled-environment facility visitation centers and controlled-environment facility resident visits | |
JP2020160581A (en) | Face information management system, face information management device, face information management method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150916 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150916 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5813829 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |