JP2019009529A - Face authentication apparatus, person tracking system, person tracking method, and person tracking program - Google Patents

Face authentication apparatus, person tracking system, person tracking method, and person tracking program Download PDF

Info

Publication number
JP2019009529A
JP2019009529A JP2017121595A JP2017121595A JP2019009529A JP 2019009529 A JP2019009529 A JP 2019009529A JP 2017121595 A JP2017121595 A JP 2017121595A JP 2017121595 A JP2017121595 A JP 2017121595A JP 2019009529 A JP2019009529 A JP 2019009529A
Authority
JP
Japan
Prior art keywords
person
image
face
information
list
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017121595A
Other languages
Japanese (ja)
Other versions
JP6977328B2 (en
Inventor
翔 和田
Sho Wada
翔 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2017121595A priority Critical patent/JP6977328B2/en
Publication of JP2019009529A publication Critical patent/JP2019009529A/en
Application granted granted Critical
Publication of JP6977328B2 publication Critical patent/JP6977328B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)
  • Image Analysis (AREA)
  • Collating Specific Patterns (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

To provide a face authentication apparatus, a person tracking system, a person tracking method, and a person tracking program capable of tracking and monitoring a person other than a person registered in advance.SOLUTION: A face authentication apparatus 21 includes a person information management unit 7 for storing a list of face images of people and an image analysis unit 8 that outputs an identifier of a detected face image when the face image included in the list has been detected from the received image information, and outputs an identifier of an added face image while adding a face image of a person who satisfies a predetermined criterion to the list when the person who satisfies the predetermined criteria, which is not included in the list has been detected.SELECTED DRAWING: Figure 1

Description

本発明は、顔認証装置、人物追跡システム、人物追跡方法、および、人物追跡プログラム、特に、顔認証を利用した人物追跡の為の装置、人物追跡システム、人物追跡方法、および、人物追跡プログラムに関する。   The present invention relates to a face authentication device, a person tracking system, a person tracking method, and a person tracking program, and more particularly to a device for tracking a person using face authentication, a person tracking system, a person tracking method, and a person tracking program. .

特許文献1は、指名手配犯の所在を予測する追跡装置を開示する。この装置は、防犯カメラなどにより撮影された画像から、指名手配犯がいた「時間、位置、確率」を抽出し、そのデータをもとに指名手配犯の逃走可能エリアを算出する。   Patent Document 1 discloses a tracking device that predicts the location of a wanted criminal. This device extracts “time, position, probability” of a wanted crime from an image taken by a security camera, and calculates a possible escape area for the wanted crime based on the data.

特許文献2は、監視ロボットを用いて監視区域を監視する監視装置を開示する。この装置は、監視区域内に設置されたカメラの画像から特定人物を抽出し、そのカメラの位置情報から重点監視地点を選出し、監視ロボットに巡回要求情報を送信する。   Patent Document 2 discloses a monitoring device that monitors a monitoring area using a monitoring robot. This apparatus extracts a specific person from an image of a camera installed in a monitoring area, selects a priority monitoring point from the position information of the camera, and transmits patrol request information to the monitoring robot.

特開2014―215747号公報JP 2014-215747 A 特開2012−078950号公報JP 2012-079950 A1

特許文献1に開示された装置は、カメラ画像から予め登録された指名手配犯を抽出し、当該指名手配犯の追跡を行う。特許文献2に開示された装置は、カメラ画像から予め登録された特定人物を抽出し、当該特定人物の監視を行う。   The apparatus disclosed in Patent Literature 1 extracts a wanted crime registered in advance from a camera image and tracks the wanted crime. The apparatus disclosed in Patent Document 2 extracts a specific person registered in advance from a camera image and monitors the specific person.

どちらの装置も、予め登録された人物以外については追跡や監視の対象外である。しかしながら、予め登録されていない人物を追跡や監視したい場合が有る。例えば、店舗や空港で不審な行動をとる人物を追跡や監視したい場合で有る。上述の文献に開示された装置は、いずれも、このような要求を満足できない。   Neither device is subject to tracking or monitoring except for pre-registered persons. However, there are cases where it is desired to track or monitor a person who is not registered in advance. For example, there is a case where it is desired to track or monitor a person who performs suspicious behavior at a store or an airport. None of the devices disclosed in the above documents can satisfy such a requirement.

本発明は、上記要求を満足することが出来る顔認証装置、人物追跡システム、人物追跡方法、および、人物追跡プログラムを提供することを目的とする。   It is an object of the present invention to provide a face authentication device, a person tracking system, a person tracking method, and a person tracking program that can satisfy the above requirements.

本発明の1実施の形態の顔認証装置は、人物の顔画像のリストを記憶する人物情報管理手段と、受信した画像情報から、1)前記リストに含まれる前記顔画像を検出すると検出した前記顔画像の識別子を出力し、2)前記リストに含まれないが所定基準を満たす前記人物を検出すると前記所定基準を満たす前記人物の前記顔画像を前記リストに追加するとともに追加した前記顔画像の識別子を出力する画像解析手段と、を備える
本発明の1実施の形態の人物追跡方法は、受信した画像情報から、1)人物の顔画像のリストに含まれる前記顔画像を検出すると検出した前記顔画像の識別子を出力し、2)前記リストに含まれないが所定基準を満たす前記人物を検出すると前記所定基準を満たす前記人物の前記顔画像を前記リストに追加するとともに追加した前記顔画像の識別子を出力する。
According to one embodiment of the present invention, a face authentication apparatus detects a face information included in a list from person information management means for storing a list of face images of a person and received image information. 2) outputting an identifier of a face image, and 2) adding the face image of the person satisfying the predetermined criterion to the list and adding the face image when the person who satisfies the predetermined criterion but is not included in the list is detected. The person tracking method according to an embodiment of the present invention includes: 1) an image analysis unit that outputs an identifier; and 1) detecting the face image included in a list of face images of a person from the received image information. Outputting an identifier of a face image, and 2) adding the face image of the person satisfying the predetermined criterion to the list when the person who does not belong to the list but satisfies the predetermined criterion is detected. The identifier of the added face image is output.

本発明の1実施の形態の人物追跡プログラムは、受信した画像情報から、1)記憶している人物の顔画像のリストに含まれる前記顔画像を検出すると検出した前記顔画像の識別子を出力し、2)前記リストに含まれないが所定基準を満たす前記人物を検出すると前記所定基準を満たす前記人物の前記顔画像を前記リストに追加するとともに追加した前記顔画像の識別子を出力する処理を、コンピュータに実行させる。   The person tracking program according to the embodiment of the present invention outputs an identifier of the detected face image when the face image included in the list of stored face images of the person is detected from the received image information. 2) When the person who does not belong to the list but satisfies the predetermined criterion is detected, the face image of the person satisfying the predetermined criterion is added to the list and the identifier of the added face image is output. Let the computer run.

本発明にかかる人物追跡システムは、予め登録されている人物以外の人物を追跡や監視の対象とすることが出来る。   The person tracking system according to the present invention can make a person other than a person registered in advance a target for tracking and monitoring.

図1は、第一の実施の形態に係る人物追跡システム30の構成図である。FIG. 1 is a configuration diagram of a person tracking system 30 according to the first embodiment. 図2は、コンピュータ装置60の構成図である。FIG. 2 is a configuration diagram of the computer device 60. 図3は、顔認証装置21の動作フローチャートである。FIG. 3 is an operation flowchart of the face authentication device 21. 図4は、分析装置22の動作フローチャートである。FIG. 4 is an operation flowchart of the analyzer 22. 図5は、第2の実施の形態に係る顔認証装置21の構成図である。FIG. 5 is a configuration diagram of the face authentication apparatus 21 according to the second embodiment.

<第一の実施の形態>
<概要>
各地に配置された監視カメラ20から得た撮影画像情報から、人物追跡システム30は、指名手配犯などの特定人物を検出し、検出時点以降の行動を予測して表示する。警察機関等はその情報を参考にして当該特定人物の確保・保護を行う。
<First embodiment>
<Overview>
The person tracking system 30 detects a specific person such as a wanted criminal from the photographed image information obtained from the monitoring cameras 20 arranged in various places, and predicts and displays actions after the detection time point. Police agencies, etc. secure and protect the specific person with reference to the information.

<構成>
図1は、本実施の形態に係る人物追跡システム30の構成図である。人物追跡システム30は、監視カメラ20、顔認証装置21、及び、分析装置22を包含する。顔認証装置21は、監視カメラ20、及び、分析装置22に接続されている。また、分析装置22は、外部警察機関サーバ装置14、外部ビッグデータサーバ装置15、及び、外部端末装置16に接続されている。
<Configuration>
FIG. 1 is a configuration diagram of a person tracking system 30 according to the present embodiment. The person tracking system 30 includes a monitoring camera 20, a face authentication device 21, and an analysis device 22. The face authentication device 21 is connected to the monitoring camera 20 and the analysis device 22. The analysis device 22 is connected to the external police organization server device 14, the external big data server device 15, and the external terminal device 16.

監視カメラ20は、商業施設内、公共施設内、商店街などの街頭に設置され、付近の動画あるいは静止画(以降、まとめて画像)を撮影して顔認証装置21に送信する。顔認証装置21は、指名手配犯などの特定人物の顔写真のリストを記憶しており、監視カメラ20が取得した画像から特定人物の顔写真を検出すると、所定の端末装置に当該顔写真情報を含む警告通知を報告したり、分析装置22に分析を依頼したりする。また、顔認証装置21は、監視カメラ20から得た画像から、特定人物の顔写真のリストに登録はされていないが不審な人物を検出すると、その不審な人物の顔写真を特定人物の顔写真のリストに登録する。   The monitoring camera 20 is installed in a commercial facility, a public facility, a shopping street, or the like, and shoots a nearby moving image or still image (hereinafter collectively referred to as an image) and transmits it to the face authentication device 21. The face authentication device 21 stores a list of face photos of a specific person such as a wanted criminal, and when a face photo of the specific person is detected from an image acquired by the monitoring camera 20, the face photo information is sent to a predetermined terminal device. A warning notification including “” is reported, or analysis is requested to the analysis device 22. Further, when the face authentication device 21 detects a suspicious person who is not registered in the face photograph list of the specific person from the image obtained from the monitoring camera 20, the face authentication apparatus 21 uses the face photograph of the suspicious person as the face of the specific person. Register to the photo list.

分析装置22は、特定人物が現れた場所、時刻、その他の情報に基づいて、特定人物が次に現れそうな場所を予測して、所定の端末装置に報告すると共に、予測場所近傍に位置している外部端末装置16に当該特定人物の撮影協力依頼を送信する。なお、外部端末装置16は、捜査関係者などが所持している携帯型端末装置である。   The analysis device 22 predicts a place where the specific person is likely to appear next based on the place, time, and other information on which the specific person appears, reports it to a predetermined terminal device, and is located near the predicted place. The imaging cooperation request of the specific person is transmitted to the external terminal device 16 that is currently on. The external terminal device 16 is a portable terminal device possessed by persons involved in investigation.

また、顔認証装置21、あるいは、分析装置22は、外部警察機関サーバ装置14、および、外部ビッグデータサーバ装置15から、上記の検出、予測に有用な情報を取得する。   Further, the face authentication device 21 or the analysis device 22 acquires information useful for the above detection and prediction from the external police organization server device 14 and the external big data server device 15.

<監視カメラ20>
監視カメラ20は、映像撮影部1、位置・時間情報保持部2、撮影データ記録部3、および、データ送信部4を備えている。映像撮影部1は、常時、設置されたカメラレンズの視界内の画像を撮影する。位置・時間情報保持部2は、監視カメラ20が設置されている位置と撮影時の時刻を記録している。撮影データ記録部3は、映像撮影部1で撮影された画像と位置・時間情報保持部2で得られた位置・時刻情報を組み合わせた映像データを記憶している。データ送信部4は、撮影データ記録部3の情報を顔認証装置21に送信する。
<Monitoring camera 20>
The monitoring camera 20 includes a video photographing unit 1, a position / time information holding unit 2, a photographing data recording unit 3, and a data transmission unit 4. The video imaging unit 1 always captures an image in the field of view of the installed camera lens. The position / time information holding unit 2 records the position where the monitoring camera 20 is installed and the time at which the image was taken. The shooting data recording unit 3 stores video data obtained by combining the image shot by the video shooting unit 1 and the position / time information obtained by the position / time information holding unit 2. The data transmission unit 4 transmits information of the photographing data recording unit 3 to the face authentication device 21.

<顔認証装置21> 顔認証装置21は、データ受信手段、例えばデータ受信部5、撮影データ記録手段、例えば撮影データ記録部6、人物情報管理手段、例えば人物情報管理部7、画像解析手段、例えば画像解析部8、及び、データ送信手段、例えばデータ送信部9を備えている。   <Face Authentication Device 21> The face authentication device 21 includes a data reception unit, for example, a data reception unit 5, a photographing data recording unit, for example, a photographing data recording unit 6, a personal information management unit, for example, a personal information management unit 7, an image analysis unit, For example, an image analysis unit 8 and data transmission means, for example, a data transmission unit 9 are provided.

データ受信部5は、監視カメラ20から送られてきた映像データを受信し、撮影データ記録部6に格納する。また、データ受信部5は、外部端末装置16が送信してきた画像、位置、および、時刻情報を受信することも出来る。外部端末装置16は、前述の撮影協力依頼に応答して人物の画像などを送信する。   The data receiving unit 5 receives the video data sent from the monitoring camera 20 and stores it in the photographing data recording unit 6. The data receiver 5 can also receive the image, position, and time information transmitted from the external terminal device 16. The external terminal device 16 transmits an image of a person in response to the above-described photographing cooperation request.

人物情報管理部7は、以下に例示するような情報を保持している。   The person information management unit 7 holds information as exemplified below.

1)特定人物の顔画像のリスト
これは、例えば、警察など特定の機関が所有する指名手配犯や行方不明者、徘徊癖のある老人などの特定人物の顔写真の一覧である。
1) List of face images of a specific person This is a list of face pictures of a specific person such as a wanted crime, a missing person or a cunning elderly person owned by a specific institution such as the police.

2)犯罪者心理・行動情報
これは、犯罪者に見られやすい行動パターン情報である。これら情報は警察の専門機関で所持する情報であり、例えば、外部警察機関サーバ装置14から得られる。
2) Criminal psychology / behavior information This is behavior pattern information that is easily seen by criminals. These pieces of information are information possessed by a police specialized institution and are obtained from, for example, the external police institution server device 14.

3)特定人物行動情報
これは、顔画像のリスト内の人物毎の特長(性別・年齢・格好など)、特定人物の過去の犯罪情報や過去発見された位置・時間の履歴、特徴などの情報を含む。
3) Specific person action information This is information such as the features (gender, age, appearance, etc.) of each person in the face image list, past crime information of the specific person, history of past locations / times, features, etc. including.

4)施設・地図情報
これは、地図情報と地図に対応した建物、施設の詳細情報を含む。
4) Facility / Map information This includes map information and detailed information on buildings and facilities corresponding to the map.

5)一般人行動情報
これは、不特定多数の一般人の行動傾向の情報であり、例えば、外部ビッグデータサーバ装置15から得られる。分析装置22の行動予測部13は、特定人物が発見された場合、例えば、発見された時間・位置(施設)・特徴と照らし合わせ、似た行動傾向を持つ一般人の情報を基に、最後に発見された後の特定人物の行動予測を行う。
5) General Person Behavior Information This is information on behavior trends of an unspecified number of general persons, and is obtained from the external big data server device 15, for example. When a specific person is discovered, the behavior prediction unit 13 of the analysis device 22 is compared with information on a general person having a similar behavior tendency, for example, in comparison with the discovered time / position (facility) / feature. The behavior of a specific person after being discovered is predicted.

6)交通情報
これは、ある時点での渋滞情報や、徒歩、車、電車等のルートや移動所要時間等の情報である。
6) Traffic information This is information on traffic jams at a certain point in time, routes such as walking, cars, trains, and travel times.

7)外部端末装置16の位置
これは、予め登録されている携帯型端末装置である、外部端末装置16が発信した現在または直前の位置情報であり、定期的、あるいは所定の契機で更新されている。
7) Location of the external terminal device 16 This is the current or previous location information transmitted by the external terminal device 16, which is a pre-registered portable terminal device, and is updated periodically or at a predetermined opportunity. Yes.

なお、顔認証装置21の人物情報管理部7と、分析装置22の人物情報管理部12は、同じ情報を格納する。これは、人物情報管理部7と人物情報管理部12のデータ実体を顔認証装置21と分析装置22が共にアクセス可能なディクス装置上に格納し、両装置が各々人物情報管理部7と人物情報管理部12にアクセスをした時、アクセス経路を当該実体データに変換することで実現する。または、顔認証装置21と分析装置22の両者が、互いに自装置で発生した更新情報を相手装置に送信するなどのデータ同期機能を備えていても良い。   The person information management unit 7 of the face authentication device 21 and the person information management unit 12 of the analysis device 22 store the same information. This is because the data entities of the person information management unit 7 and the person information management unit 12 are stored on a disk device accessible by both the face authentication device 21 and the analysis device 22, and both devices respectively store the person information management unit 7 and the person information. This is realized by converting the access path into the actual data when the management unit 12 is accessed. Alternatively, both the face authentication device 21 and the analysis device 22 may have a data synchronization function such as transmitting update information generated in the own device to the partner device.

画像解析部8は、画像を解析して、監視カメラ20から受信した画像情報から、人物情報管理部7に格納されている特定人物の顔画像のリストに含まれる顔画像を検出すると、警告通知(当該顔画像の識別情報を含む)を出力する。画像解析部8は、当該リストに含まれないが所定基準を満たす人物を画像情報から検出すると、所定基準を満たす人物の顔画像を特定人物の顔画像のリストに追加し、警告通知を出力する。ここで、所定基準は、人物の特徴から犯罪を起こす予兆を判定する為の基準であり、具体例を後述する。   When the image analysis unit 8 analyzes the image and detects a face image included in the list of face images of the specific person stored in the person information management unit 7 from the image information received from the monitoring camera 20, a warning notification (Including identification information of the face image) is output. When the image analysis unit 8 detects from the image information a person that is not included in the list but satisfies the predetermined criterion, the image analysis unit 8 adds the face image of the person that satisfies the predetermined criterion to the list of face images of the specific person, and outputs a warning notification. . Here, the predetermined standard is a standard for determining a sign of causing a crime from the characteristics of a person, and a specific example will be described later.

データ送信部9は、必要な情報を分析装置22へ送信する。   The data transmission unit 9 transmits necessary information to the analysis device 22.

分析装置22は、システム監視手段、例えばシステム監視部10、データ受信手段、例えばデータ受信部11、人物情報管理手段、例えば人物情報管理部12、及び、行動予測手段、例えば行動予測部13を備える。   The analysis device 22 includes system monitoring means such as a system monitoring unit 10, data receiving means such as a data receiving unit 11, person information managing means such as a person information managing unit 12, and behavior predicting means such as a behavior predicting unit 13. .

システム監視部10は、人物追跡システム30を構築する装置(監視カメラ20、顔認証装置21、分析装置22)間の連携を監視する。   The system monitoring unit 10 monitors cooperation between devices (the monitoring camera 20, the face authentication device 21, and the analysis device 22) that construct the person tracking system 30.

データ受信部11は、顔認証装置21から送信された特定人物情報を受信する。さらに、データ受信部11は、外部警察機関サーバ装置14、外部ビッグデータサーバ装置15、および、外部端末装置16が送信したデータを受信して、人物情報管理部12に格納する。   The data receiving unit 11 receives specific person information transmitted from the face authentication device 21. Further, the data receiving unit 11 receives data transmitted by the external police organization server device 14, the external big data server device 15, and the external terminal device 16 and stores the data in the person information management unit 12.

人物情報管理部12は、前述したように顔認証装置21の人物情報管理部7と同じの情報を格納する。これは、顔認証装置21と分析装置22が共有ディスク装置上の同じデータをアクセスしたり、両装置が人物情報管理部12と人物情報管理部7の同期機能を実装したりして実現する。   The person information management unit 12 stores the same information as the person information management unit 7 of the face authentication device 21 as described above. This is realized when the face authentication device 21 and the analysis device 22 access the same data on the shared disk device, or both devices implement the synchronization function of the person information management unit 12 and the person information management unit 7.

行動予測部13は、顔認証装置21から通知された特定人物の過去の位置・時間・特徴情報と一般人の行動例、建物・位置情報等から、発見時以降に訪れる場所を予測し、予測結果を地図等により表示する。行動予測部13は、また、予測結果表示の際、予測された場所付近の捜査員やユーザが携帯する外部端末装置16に対し、撮影依頼を通知する。撮影依頼の通知を受けた捜査員やユーザは、特定人物の静止画や動画を撮影した後、指定された宛先に撮影データをアップロードして捜査に協力する。   The behavior prediction unit 13 predicts a place to be visited after the discovery from the past position / time / feature information of the specific person notified from the face authentication device 21 and an example of behavior of the general person, building / position information, and the like, and the prediction result Is displayed on a map or the like. The behavior prediction unit 13 also notifies the imaging request to the external terminal device 16 carried by the investigator or the user near the predicted location when displaying the prediction result. The investigator or user who has received the notification of the shooting request takes a still image or a moving image of a specific person, and then uploads the shooting data to a designated destination to cooperate with the search.

外部警察機関サーバ装置14は、特定人物の個人情報等、公開が限られた情報(年齢や顔、特徴など)を保持している、警察機関のサーバ装置である。外部警察機関サーバ装置14は、さらに、警察専門機関の持つ犯罪者心理のデータ等も保持している。   The external police organization server device 14 is a server device of a police organization that holds information (age, face, features, etc.) that is limited to the public, such as personal information of a specific person. The external police organization server device 14 further holds criminal psychology data and the like possessed by a police organization.

外部ビッグデータサーバ装置15は、建物や交通、一般人の行動傾向など、一般に入手可能な情報が膨大に保持しているサーバ装置である。   The external big data server device 15 is a server device that holds a large amount of generally available information such as buildings, traffic, and general public behavior.

外部端末装置16は、登録された人々や捜査員が所持する携帯型の端末装置、例えばスマートフォン、である。外部端末装置16は、撮影機能、撮影時間通知機能、位置通知機能、および、ネットワークへ接続する機能を有している。   The external terminal device 16 is a portable terminal device, such as a smartphone, possessed by registered people or investigators. The external terminal device 16 has a shooting function, a shooting time notification function, a position notification function, and a function of connecting to a network.

ここで、顔認証装置21のデータ受信部5、画像解析部8、及び、データ送信部9は、論理回路、または、専用プロセッサとファームウェアで構成される。撮影データ記録部6、及び、人物情報管理部7は、HDD(Hard Disk Drive)、または、SDD(Solid State Drive)等の記憶装置で構成される。   Here, the data reception unit 5, the image analysis unit 8, and the data transmission unit 9 of the face authentication device 21 are configured by a logic circuit, or a dedicated processor and firmware. The photographing data recording unit 6 and the person information management unit 7 are configured by a storage device such as an HDD (Hard Disk Drive) or an SDD (Solid State Drive).

顔認証装置21のデータ受信手段、撮影データ記録手段、人物情報管理手段、画像解析手段、データ送信手段は、他の構成であっても良い。   The data receiving means, photographing data recording means, person information management means, image analysis means, and data transmission means of the face authentication device 21 may have other configurations.

さらに、顔認証装置21はコンピュータ装置60で構成されても良い。図2は、コンピュータ装置60の構成図である。コンピュータ装置60は、バス64で相互に接続された、プロセッサ61、主記憶部63、および、外部記憶装置62を備える。プロセッサ61は、バス64を経由して、主記憶部63、および、外部記憶装置62に対してデータの読み書きを行う。   Further, the face authentication device 21 may be configured by a computer device 60. FIG. 2 is a configuration diagram of the computer device 60. The computer device 60 includes a processor 61, a main storage unit 63, and an external storage device 62 that are connected to each other via a bus 64. The processor 61 reads and writes data from and to the main storage unit 63 and the external storage device 62 via the bus 64.

また、プロセッサ61は、主記憶部63に格納されているプログラム65を実行する。なお、プログラム65は、当初外部記憶装置62に格納されており、コンピュータ装置60の初期設定時に、プロセッサ61が外部記憶装置62から主記憶部63にロードしても良い。   Further, the processor 61 executes a program 65 stored in the main storage unit 63. Note that the program 65 is initially stored in the external storage device 62, and the processor 61 may load the main storage unit 63 from the external storage device 62 when the computer device 60 is initially set.

ここで、主記憶部63は半導体メモリ装置である。外部記憶装置62は、HDD、または、SDD等の記憶装置である。   Here, the main storage unit 63 is a semiconductor memory device. The external storage device 62 is a storage device such as an HDD or an SDD.

顔認証装置21のプロセッサ61は、プログラム65を実行することにより、データ受信部5、画像解析部8、及び、データ送信部9として機能する。すなわち、プロセッサ61は、プログラム65を実行することにより、データ受信部5、画像解析部8、及び、データ送信部9が行う処理を実行する。   The processor 61 of the face authentication device 21 functions as the data reception unit 5, the image analysis unit 8, and the data transmission unit 9 by executing the program 65. In other words, the processor 61 executes the process performed by the data reception unit 5, the image analysis unit 8, and the data transmission unit 9 by executing the program 65.

外部記憶装置62は、撮影データ記録部6、及び、人物情報管理部7として使用されても良い。   The external storage device 62 may be used as the photographing data recording unit 6 and the person information management unit 7.

分析装置22の、システム監視部10、データ受信部11、及び、行動予測部13は、論理回路、または、専用プロセッサとファームウェアで構成される。人物情報管理部12は、HDD、または、SDD等の記憶装置で構成される。   The system monitoring unit 10, the data receiving unit 11, and the behavior predicting unit 13 of the analysis device 22 are configured by a logic circuit or a dedicated processor and firmware. The person information management unit 12 is configured by a storage device such as an HDD or an SDD.

分析装置22の、システム監視手段、データ受信手段、人物情報管理手段、及び、行動予測手段は、他の構成であっても良い。   The system monitoring unit, the data receiving unit, the person information management unit, and the behavior prediction unit of the analysis device 22 may have other configurations.

分析装置22はコンピュータ装置60で構成されても良い。この場合、分析装置22のプロセッサ61は、プログラム65を実行することにより、システム監視部10、データ受信部11、及び、行動予測部13として機能する。すなわち、プロセッサ61は、プログラム65を実行することにより、システム監視部10、データ受信部11、及び、行動予測部13が行う処理を実行する。外部記憶装置62は、人物情報管理部12として使用されても良い。   The analysis device 22 may be configured by a computer device 60. In this case, the processor 61 of the analysis device 22 functions as the system monitoring unit 10, the data receiving unit 11, and the behavior prediction unit 13 by executing the program 65. That is, the processor 61 executes the process performed by the system monitoring unit 10, the data receiving unit 11, and the behavior predicting unit 13 by executing the program 65. The external storage device 62 may be used as the person information management unit 12.

<動作>
図3は、顔認証装置21の動作フローチャートである。
<Operation>
FIG. 3 is an operation flowchart of the face authentication device 21.

まず、顔認証装置21のデータ受信部5が監視カメラ20から、監視範囲を撮影した画像情報、撮影時間、撮影した監視カメラ20の位置情報を入力し、撮影データ記録部6に格納する。   First, the data receiving unit 5 of the face authentication device 21 inputs the image information, the shooting time, and the position information of the taken monitoring camera 20 from the monitoring camera 20 and stores them in the shooting data recording unit 6.

画像解析部8は、撮影データ記録部6に格納されている画像情報から顔画像を抽出し、人物情報管理部7に登録されている特定人物の顔画像リスト内の顔画像と順次比較していく(S1)。   The image analysis unit 8 extracts a face image from the image information stored in the photographing data recording unit 6 and sequentially compares it with the face image in the face image list of the specific person registered in the person information management unit 7. Go (S1).

特定人物の顔画像リスト内の何れかの顔画像が、画像情報から抽出した顔画像と一致した場合(S2でYes)、画像解析部8は、一致した特定人物の顔画像リスト内の顔画像に関連付けて、画像情報の撮影時間、及び、撮影した監視カメラ20の位置情報を登録する(S3)。登録先は、人物情報管理部7に格納されている特定人物行動情報である。ここには、当該人物が特定された時間と位置が時系列に蓄積されていく。なお、ここで、2つの顔画像が『一致』したとは、同一人物と判断できたという意味である。   When any face image in the face image list of the specific person matches the face image extracted from the image information (Yes in S2), the image analysis unit 8 causes the face image in the face image list of the matched specific person. The shooting time of the image information and the position information of the taken surveillance camera 20 are registered (S3). The registration destination is specific person action information stored in the person information management unit 7. Here, the time and position at which the person is specified are accumulated in time series. Here, “matching” two face images means that it is possible to determine that they are the same person.

その後、画像解析部8は、特定人物の顔画像リスト内の顔画像の識別子を含む警告通知を出力して(S4)、処理を終了する。警告通知は、予め定められている警察本部などの端末装置、及び、分析装置22に対して出力される。   Thereafter, the image analysis unit 8 outputs a warning notification including the identifier of the face image in the face image list of the specific person (S4), and ends the process. The warning notification is output to a predetermined terminal device such as the police headquarters and the analysis device 22.

特定人物の顔画像リスト内のどの顔画像も、画像情報から抽出した顔画像と一致しない場合(S2でNo)、画像解析部8は、撮影データ記録部6に格納されている画像情報から人物画像を抽出し、所定の基準を満たすか否かを判別する(S5)。画像情報から抽出した何れかの人物の人物画像が、所定の基準を満たす場合(S6でYes)、画像解析部8は、当該人物の顔画像を特定人物の顔画像リストに追加して(S7)、S3、及び、S4の処理を行って、処理を終了する。画像情報から抽出したどの人物の人物画像も、所定の基準を満たさない場合(S6でNo)、画像解析部8は処理を終了する。   If any face image in the face image list of the specific person does not match the face image extracted from the image information (No in S2), the image analysis unit 8 determines the person from the image information stored in the shooting data recording unit 6. An image is extracted, and it is determined whether or not a predetermined criterion is satisfied (S5). If the person image of any person extracted from the image information satisfies a predetermined criterion (Yes in S6), the image analysis unit 8 adds the face image of the person to the face image list of the specific person (S7). ), S3 and S4 are performed, and the process is terminated. If any person image extracted from the image information does not satisfy the predetermined standard (No in S6), the image analysis unit 8 ends the process.

ここで、S5の処理について詳しく説明する。   Here, the process of S5 will be described in detail.

画像解析部8は、先ず、人物情報管理部7から犯罪者心理・行動情報を取り出す。犯罪者心理・行動情報は、犯罪のカテゴリ対応に犯罪者を特定する手がかりとなる各種の行動パターンが記述されている。例えば、犯罪のカテゴリが万引きである場合、以下のような行動パターンが記述されている。   First, the image analysis unit 8 extracts criminal psychology / behavior information from the person information management unit 7. The criminal psychology / behavior information describes various behavior patterns that serve as clues for identifying criminals in correspondence with crime categories. For example, when the crime category is shoplifting, the following behavior pattern is described.

パターンa)人物が所定時間帯内に所定時間経過後も、予め指定された商品近傍にいる。
ここで、所定時間帯は統計的に犯罪が発生しやすい時間帯、例えば、深夜時間帯である。また、予め指定された商品は、統計的に万引きの対象になりやすい商品である。これらの情報は、例えば、外部警察機関サーバ装置14が犯罪実績データから算出して、行動パターンの一部として、顔認証装置21に送信してくる。
Pattern a) A person is in the vicinity of a predesignated product even after a predetermined time has elapsed within a predetermined time zone.
Here, the predetermined time zone is a time zone in which crime is likely to occur statistically, for example, a midnight time zone. The predesignated product is a product that is statistically prone to shoplifting. For example, the external police organization server device 14 calculates the information from the crime record data and transmits the information to the face authentication device 21 as a part of the action pattern.

パターンb)商品近傍にいる間に、人物が商品以外の方向に顔面を向ける頻度が所定の値より高い。これは、店員の所在を確認するなど、辺りを窺っている可能性が高いことを示している。
パターンc)人物が、開口部が所定サイズ以上の所持品、例えば鞄や袋を、開口部が開いた状態で所持している。これは、持ち逃げの可能性が高いことを示している。
Pattern b) The frequency of the person turning his / her face in a direction other than the product while in the vicinity of the product is higher than a predetermined value. This indicates that there is a high possibility that the store clerk is confirmed, for example.
Pattern c) A person has a possessed item whose opening is a predetermined size or larger, such as a bag or bag, with the opening being open. This indicates that the possibility of carrying away is high.

次いで、画像解析部8は、画像情報から抽出した人物画像が、上述の各行動パターンを満たすか否かを判定していく。画像解析部8は、画像情報から抽出した人物画像が満たした行動パターンに応じて決定される怪しさの評価値の合計が、所定の閾値を超えている場合、当該人物は上述の所定の基準を満たすと判定する。   Next, the image analysis unit 8 determines whether or not the person image extracted from the image information satisfies the above behavior patterns. When the sum of the suspicion evaluation values determined according to the action pattern satisfied by the person image extracted from the image information exceeds a predetermined threshold, the image analysis unit 8 It is determined that

なお、行動パターンに応じて怪しさの評価値を決定する手順は、行動パターンに付随して外部警察機関サーバ装置14から与えられる。怪しさの評価値は固定値であることも有るし、行動パターン内のパラメータ値に依存して決まる場合も有る。例えば、上述のパターンaの場合、怪しさの評価値は商品の種類に依存して決定される。パターンbの場合、怪しさの評価値は人物が商品以外の方向に顔面を向ける頻度に依存して決定される。   The procedure for determining the suspicion evaluation value according to the behavior pattern is given from the external police institution server device 14 along with the behavior pattern. The evaluation value of suspicion may be a fixed value or may be determined depending on the parameter value in the behavior pattern. For example, in the case of the above-mentioned pattern a, the evaluation value of suspicion is determined depending on the type of product. In the case of the pattern b, the evaluation value of the suspicion is determined depending on the frequency with which the person turns the face in a direction other than the product.

犯罪のカテゴリがストーカーである場合は、以下のような行動パターンが記述されている。画像解析部8は、この場合も、万引きのケースと同様に、画像情報から抽出した人物画像が満たした行動パターンに応じて決定される怪しさの評価値の合計が、所定の閾値を超えている場合、当該人物は上述の所定の基準を満たすと判定する。   When the crime category is a stalker, the following behavior pattern is described. In this case, as in the case of shoplifting, the image analysis unit 8 also determines that the sum of the suspicion evaluation values determined according to the action pattern satisfied by the person image extracted from the image information exceeds a predetermined threshold value. If it is, the person is determined to satisfy the above-mentioned predetermined standard.

パターンx)人物の移動方向・移動速度が所定頻度以上に変更される。すなわち、人物の移動における方向転換、または、一時停止の頻度が所定閾値以上である。これは、人物が被害者に隠れて後をつけるために生じる特徴である。このパターンの怪しさの評価値は、頻度に依存して決定される。   Pattern x) The moving direction / moving speed of the person is changed to a predetermined frequency or higher. That is, the frequency of direction change or pause in the movement of the person is equal to or greater than a predetermined threshold. This is a feature that occurs because a person hides behind a victim and follows. The evaluation value of the suspicion of this pattern is determined depending on the frequency.

パターンy)人物の顔面が被覆されている割合が所定閾値以上である。すなわち、顔面が、マスクや帽子で、所定割合以上覆われているパターンである。これは、被害者に素性を隠して後をつけるために生じる特徴である。このパターンの怪しさの評価値は、覆われている割合に依存して決定される。   Pattern y) The ratio of the person's face covered is equal to or greater than a predetermined threshold. That is, it is a pattern in which the face is covered with a mask or a hat at a predetermined rate or more. This is a feature that arises from hiding features behind victims. The evaluation value of the suspicion of this pattern is determined depending on the coverage ratio.

図4は、分析装置22の動作フローチャートである。   FIG. 4 is an operation flowchart of the analyzer 22.

分析装置22は、データ受信部11が顔認証装置21から警告通知を受信すると起動される(S11)。その後、行動予測部13は、警告通知に含まれて通知された識別子の顔画像に関連付けられて人物情報管理部12に格納されている位置、時刻に基づいて、当該顔画像の人物が現れる位置を予測する(S12)。   The analysis device 22 is activated when the data receiving unit 11 receives a warning notification from the face authentication device 21 (S11). After that, the behavior prediction unit 13 is based on the position and time stored in the person information management unit 12 in association with the face image of the identifier notified and included in the warning notification. Is predicted (S12).

S12の処理について詳しく説明する。   The process of S12 will be described in detail.

先ず、行動予測部13は、通知された識別子の顔画像に関連付けられている最新の撮影位置と撮影時刻を取り出し、撮影時刻と現時刻の差(即ち、経過時間)から、徒歩、自転車、あるいは、自動車で移動できる距離を算出する。そして、行動予測部13は、最新の撮影位置を中心とした当該距離以内で、所定条件を満たす施設を顔画像の人物が現れる位置と予測する。行動予測部13は、複数の予測結果を出力することも有る。   First, the behavior predicting unit 13 takes out the latest shooting position and shooting time associated with the face image of the notified identifier, and from the difference between the shooting time and the current time (that is, the elapsed time), walking, bicycle, or Calculate the distance that can be moved by car. Then, the behavior prediction unit 13 predicts a facility that satisfies a predetermined condition as a position where a person in the face image appears within the distance from the latest photographing position. The behavior prediction unit 13 may output a plurality of prediction results.

ここで、人物情報管理部12内に格納されている特定人物行動情報に、顔画像の人物が過去の犯罪で使った交通手段の情報が存在する場合、行動予測部13は、その情報から徒歩、自転車、あるいは、自動車の何れかを選択して移動距離Aを算出する。また、行動予測部13は、顔画像の人物の過去の犯罪情報から施設の条件を決定する。当該人物が過去に、コンビニエンスストアにて万引きを実行していれば、コンビニエンスストアであって、大通りから離れているという条件にあてはまる店舗を予測結果とする。行動予測部13は、施設の条件は、人物情報管理部12内に格納されている施設・地図情報から取得する。   Here, when the information on the means of transportation used by the person of the face image in the past crime exists in the specific person behavior information stored in the person information management unit 12, the behavior prediction unit 13 walks from the information. The travel distance A is calculated by selecting either a bicycle or a car. In addition, the behavior prediction unit 13 determines the facility conditions from past crime information of the person in the face image. If the person has executed shoplifting at a convenience store in the past, a store that is a convenience store and satisfies the condition of being away from the main street is set as the prediction result. The behavior prediction unit 13 acquires the facility condition from the facility / map information stored in the person information management unit 12.

行動予測部13は、人物情報管理部12内に格納されている特定人物行動情報に、過去に何度も現れた場所が有る場合、前述した移動距離Aの所定倍までの距離以内にある、そのような施設を予測結果として出力しても良い。   The behavior prediction unit 13 is within a distance up to a predetermined multiple of the movement distance A described above when there is a place that has appeared many times in the past in the specific person behavior information stored in the person information management unit 12. Such a facility may be output as a prediction result.

さらに、行動予測部13は、最新の撮影位置にいた人物が、撮影時刻と現時刻の差分である経過時間後にどこにいるかを、一般的な統計情報に基づいて予測しても良い。この場合、行動予測部13は、例えば、人物情報管理部12内に格納されている一般人行動情報から、当該統計情報を取得する。   Further, the behavior prediction unit 13 may predict where the person at the latest shooting position is after the elapsed time that is the difference between the shooting time and the current time based on general statistical information. In this case, the behavior prediction unit 13 acquires the statistical information from, for example, general human behavior information stored in the person information management unit 12.

当該顔画像の人物が現れる位置を予測した後(S12)、行動予測部13は、予測結果を、予め登録された端末装置に通知する(S13)。予め登録された端末装置は、例えば、警察の本部に設置されている端末装置である。   After predicting the position where the person of the face image appears (S12), the behavior prediction unit 13 notifies the terminal device registered in advance (S13). The terminal device registered in advance is, for example, a terminal device installed at the police headquarters.

次いで、行動予測部13は、予測される位置近傍に存在する外部端末装置16に、通知された識別子の顔画像を添付して撮影依頼を送信して(S14)、処理を終了する。このとき行動予測部13は、人物情報管理部12内に格納されている外部端末装置16の位置情報から、予測される位置近傍に存在する外部端末装置16を特定する。   Next, the behavior prediction unit 13 transmits a shooting request with the face image of the notified identifier attached to the external terminal device 16 existing in the vicinity of the predicted position (S14), and ends the process. At this time, the behavior prediction unit 13 specifies the external terminal device 16 existing in the vicinity of the predicted position from the position information of the external terminal device 16 stored in the person information management unit 12.

外部端末装置16の所有者は、撮影依頼の受信が有ると、撮影依頼に付された顔画像の人物を探し、それらしき人物を発見すれば撮影して、画像情報を顔認証装置21に送信する。この場合、顔認証装置21のデータ受信部5は、当該画像情報を受信して、図3のフローチャートの処理を実行する。   When the owner of the external terminal device 16 receives a shooting request, the owner searches for a person in the face image attached to the shooting request, and if it finds such a person, takes a picture and sends the image information to the face authentication device 21. To do. In this case, the data receiving unit 5 of the face authentication device 21 receives the image information and executes the process of the flowchart of FIG.

<効果>
<第一の効果>
本実施の形態にかかる人物追跡システム30は、予め登録されている人物以外の人物を追跡の対象とすることが出来る。その理由は、顔認証装置21の画像解析部8が、指名手配犯など特定人物の顔画像のリストに含まれないが、所定基準を満たす不審な人物を検出すると当該人物の顔画像を特定人物の顔画像のリストに追加するからである。その後、人物追跡システム30は、特定人物の顔画像のリストに追加された人物を、継続的に追跡する。
<Effect>
<First effect>
The person tracking system 30 according to the present embodiment can target a person other than a registered person as a tracking target. The reason is that if the image analysis unit 8 of the face authentication device 21 detects a suspicious person who does not belong to the list of face images of a specific person such as a wanted criminal but satisfies a predetermined standard, the face image of the person is identified. It is because it adds to the list of face images. Thereafter, the person tracking system 30 continuously tracks the person added to the list of face images of the specific person.

<第2の効果>
本実施の形態にかかる人物追跡システム30は、追跡対象の人物の発見を容易にする。その理由は、分析装置22の行動予測部13が、追跡対象の人物の行動を予測し、当該人物が現れそうな位置を報告するからである。
<Second effect>
The person tracking system 30 according to the present embodiment facilitates discovery of a person to be tracked. The reason is that the behavior prediction unit 13 of the analysis device 22 predicts the behavior of the person to be tracked and reports the position where the person is likely to appear.

<第3の効果>
本実施の形態にかかる人物追跡システム30は、追跡対象の人物の居場所特定精度を向上させる。その理由は、分析装置22の行動予測部13が、当該人物が現れそうな位置近傍の外部端末装置16に撮影依頼を送信するからである。さらに、顔認証装置21が、外部端末装置16が送信した画像情報から、撮影された人物が、特定人物の顔画像のリストに登録されている人物かを判定するからである。
<Third effect>
The person tracking system 30 according to the present embodiment improves the accuracy of specifying the location of the person to be tracked. This is because the behavior prediction unit 13 of the analysis device 22 transmits a photographing request to the external terminal device 16 near the position where the person is likely to appear. Furthermore, the face authentication device 21 determines from the image information transmitted by the external terminal device 16 whether the photographed person is registered in the list of face images of the specific person.

<変形例>
人物追跡システム30は、分析装置22を含まなくても良い。人物追跡システム30が、分析装置22を含まない場合、顔認証装置21は、図3のS4において、画像解析部8は、警告通知を、予め定められている警察本部などの端末装置に対してのみ出力する。
<Modification>
The person tracking system 30 may not include the analysis device 22. When the person tracking system 30 does not include the analysis device 22, the face authentication device 21 sends a warning notification to a predetermined terminal device such as the police headquarters in S4 of FIG. Output only.

<第二の実施形態>
図5は、第2の実施の形態に係る顔認証装置21の構成図である。
<Second Embodiment>
FIG. 5 is a configuration diagram of the face authentication apparatus 21 according to the second embodiment.

顔認証装置21は、人物情報管理手段17と、画像解析手段18と、を備える。   The face authentication device 21 includes person information management means 17 and image analysis means 18.

人物情報管理手段17は、人物の顔画像のリストを記憶する。画像解析手段18は、受信した画像情報から、1)リストに含まれる顔画像を検出すると検出した顔画像の識別子を出力し、2)リストに含まれないが所定基準を満たす人物を検出すると所定基準を満たす人物の顔画像をリストに追加するとともに追加した顔画像の識別子を出力する。   The person information management means 17 stores a list of person face images. The image analysis means 18 outputs 1) an identifier of the detected face image when detecting a face image included in the list from the received image information, and 2) predetermined when detecting a person not included in the list but satisfying a predetermined criterion. A face image of a person meeting the criteria is added to the list and an identifier of the added face image is output.

ここで、人物情報管理手段17は、例えば人物情報管理部7と、画像解析手段18は、画像解析部8である。人物情報管理手段17と、画像解析手段18は、等価な機能を果たす、他の構成をとるものであっても良い。顔認証装置21における他の構成手段も、分析装置22における他の構成手段も、同様である。   Here, the person information management unit 17 is, for example, the person information management unit 7, and the image analysis unit 18 is the image analysis unit 8. The person information management means 17 and the image analysis means 18 may have other configurations that perform equivalent functions. The other constituent means in the face authentication device 21 and the other constituent means in the analysis device 22 are the same.

本実施の形態にかかる顔認証装置21は、予め登録されている人物以外の人物を追跡の対象とすることが出来る。その理由は、画像解析部8が、指名手配犯など特定人物の顔画像のリストに含まれないが、所定基準を満たす不審な人物を検出すると当該人物の顔画像を特定人物の顔画像のリストに追加するからである。その後顔認証装置21は、特定人物の顔画像のリストに追加された人物を、継続的に追跡する。   The face authentication device 21 according to the present embodiment can target a person other than a person registered in advance as a tracking target. The reason is that if the image analysis unit 8 detects a suspicious person who does not include the specific person's face image such as a wanted criminal but satisfies a predetermined criterion, the person's face image is selected as the list of the specific person's face images. It is because it adds to. Thereafter, the face authentication device 21 continuously tracks the person added to the list of face images of the specific person.

以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。   The present invention has been described above with reference to the embodiments, but the present invention is not limited to the above embodiments. Various changes that can be understood by those skilled in the art can be made to the configuration and details of the present invention within the scope of the present invention.

1 映像撮影部
2 位置・時間情報保持部
3 撮影データ記録部
4 データ送信部
5 データ受信部
6 撮影データ記録部
7 人物情報管理部
8 画像解析部
9 データ送信部
10 システム監視部
11 データ受信部
12 人物情報管理部
13 行動予測部
14 外部警察機関サーバ装置
15 外部ビッグデータサーバ装置
16 外部端末装置
17 人物情報管理手段
18 画像解析手段
20 監視カメラ
21 顔認証装置
22 分析装置
30 人物追跡システム
60 コンピュータ装置
61 プロセッサ
62 外部記憶装置
63 主記憶部
64 バス
65 プログラム
DESCRIPTION OF SYMBOLS 1 Image | video imaging | photography part 2 Position / time information holding part 3 Shooting data recording part 4 Data transmission part 5 Data receiving part 6 Shooting data recording part 7 Person information management part 8 Image analysis part 9 Data transmission part 10 System monitoring part 11 Data receiving part DESCRIPTION OF SYMBOLS 12 Person information management part 13 Action prediction part 14 External police organization server apparatus 15 External big data server apparatus 16 External terminal apparatus 17 Person information management means 18 Image analysis means 20 Surveillance camera 21 Face authentication apparatus 22 Analysis apparatus 30 Person tracking system 60 Computer Device 61 Processor 62 External storage device 63 Main storage unit 64 Bus 65 Program

Claims (10)

人物の顔画像のリストを記憶する人物情報管理手段と、
受信した画像情報から、1)前記リストに含まれる前記顔画像を検出すると検出した前記顔画像の識別子を出力し、2)前記リストに含まれないが所定基準を満たす前記人物を検出すると前記所定基準を満たす前記人物の前記顔画像を前記リストに追加するとともに追加した前記顔画像の識別子を出力する画像解析手段と、を備える顔認証装置。
Personal information management means for storing a list of human face images;
From the received image information, 1) When the face image included in the list is detected, an identifier of the detected face image is output. 2) When the person not included in the list but satisfying a predetermined criterion is detected, the predetermined image is output. And a face analyzing apparatus that adds the face image of the person satisfying a criterion to the list and outputs an identifier of the added face image.
前記画像解析手段は、前記画像情報から検出した前記人物が前記所定基準を満たすか否かを、a)前記人物が所定時間帯内に所定時間経過後も、予め指定された商品近傍にいるか否か、b)前記商品近傍にいる間に、前記人物が前記商品以外の方向に顔面を向ける頻度、及び、d)前記人物の所持品、に基づいて決定される評価値と閾値を比較して決定する請求項1の顔認証装置。   The image analysis means determines whether or not the person detected from the image information satisfies the predetermined criterion. A) Whether or not the person is in the vicinity of a predesignated product even after a predetermined time has elapsed within a predetermined time zone. Or b) comparing the threshold value with an evaluation value determined based on the frequency at which the person turns his face in a direction other than the product while being in the vicinity of the product, and d) the personal belongings of the person. The face authentication apparatus according to claim 1, which is determined. 前記画像解析手段は、前記画像情報から検出した前記人物が前記所定基準を満たすか否かを、a)前記人物の移動における方向転換、または、一時停止の頻度、及び、b)前記人物の顔面が被覆されている割合、に基づいて決定される評価値と閾値を比較して決定する請求項1の顔認証装置。   The image analysis means determines whether the person detected from the image information satisfies the predetermined criteria, a) frequency of direction change or pause in movement of the person, and b) face of the person The face authentication apparatus according to claim 1, which is determined by comparing an evaluation value determined based on a ratio of covering with a threshold value. 前記画像解析手段は、前記画像情報、及び、撮影の位置情報と時刻情報を受信して、前記リストに含まれる前記顔画像を検出する、または、前記リストに前記顔画像を追加すると検出または追加された前記顔画像に関連付けて前記位置情報と前記時刻情報を前記人物情報管理手段に時系列に蓄積し、
前記人物情報管理手段は、携帯型端末装置に関連付けて前記携帯型端末装置の前記位置情報を記憶する請求項1乃至3の何れか1項の顔認証装置と、
前記顔画像に関連付けて蓄積された前記位置情報および前記時刻情報から、前記顔認証装置から通知された前記識別子の前記顔画像の前記人物が現れる位置を予測し、予測された前記位置の近傍に存在する前記携帯型端末装置を特定して、特定した前記携帯型端末装置に前記顔画像を添付した撮影依頼を送信する行動予測手段を備える分析装置と、を含む人物追跡システム。
The image analysis means receives the image information and shooting position information and time information, and detects or adds the face image included in the list, or adds the face image to the list. The position information and the time information are stored in the person information management means in time series in association with the face image that has been made,
4. The face authentication device according to claim 1, wherein the person information management unit stores the position information of the portable terminal device in association with the portable terminal device;
From the position information and the time information accumulated in association with the face image, a position where the person of the face image of the identifier notified from the face authentication device appears is predicted, and in the vicinity of the predicted position A person tracking system comprising: an analysis device including an action prediction unit that identifies the portable terminal device that exists and transmits a photographing request with the face image attached to the identified portable terminal device.
前記行動予測手段は、最新の前記位置情報が示す前記位置から、前記時刻情報からの経過時間に基づいて決定される距離以内の所定条件を満たす施設の位置を、前記顔画像の前記人物が現れる位置と予測する、請求項4の人物追跡システム。   The person of the face image appears at a location of a facility that satisfies a predetermined condition within a distance determined based on an elapsed time from the time information from the location indicated by the latest location information. 5. The person tracking system of claim 4, wherein the person tracking system predicts a location. 施設内または街頭に備えられて、近傍を撮影した前記画像情報と、撮影時の時刻情報と、前記位置情報とを、前記顔認証装置に送信する監視カメラと、
前記位置情報を発信し、前記撮影依頼を受信して、自装置のカメラで撮影した前記画像情報を送信する前記携帯型端末装置と、を更に含み、
前記分析装置は、前記携帯型端末装置の前記位置情報と、前記画像情報を受信して前記人物情報管理手段に格納する受信手段、を備える請求項4乃至5の何れか1項の人物追跡システム。
A monitoring camera that is provided in the facility or on the street and that transmits the image information obtained by photographing the vicinity, time information at the time of photographing, and the position information to the face authentication device,
Further including the portable terminal device that transmits the position information, receives the photographing request, and transmits the image information photographed by the camera of the device itself;
The person tracking system according to any one of claims 4 to 5, wherein the analysis device includes the position information of the portable terminal device and a reception unit that receives the image information and stores the received image information in the person information management unit. .
受信した画像情報から、1)人物の顔画像のリストに含まれる前記顔画像を検出すると検出した前記顔画像の識別子を出力し、2)前記リストに含まれないが所定基準を満たす前記人物を検出すると前記所定基準を満たす前記人物の前記顔画像を前記リストに追加するとともに追加した前記顔画像の識別子を出力する人物追跡方法。   1) When the face image included in the list of face images of the person is detected from the received image information, an identifier of the detected face image is output, and 2) the person not included in the list but satisfying a predetermined criterion is output. A person tracking method that, when detected, adds the face image of the person satisfying the predetermined criterion to the list and outputs an identifier of the added face image. 前記画像情報から検出した前記人物が前記所定基準を満たすか否かを、a)前記人物が所定時間帯内に所定時間経過後も、予め指定された商品近傍にいるか否か、b)前記商品近傍にいる間に、前記人物が前記商品以外の方向に顔面を向ける頻度、及び、d)前記人物の所持品、に基づいて決定される評価値と閾値を比較して決定する請求項7の人物追跡方法。   Whether the person detected from the image information satisfies the predetermined criteria, a) whether the person is in the vicinity of a predesignated product even after a predetermined time has elapsed within a predetermined time zone, b) the product The evaluation value determined based on the frequency with which the person turns the face in a direction other than the product while being in the vicinity and the personal belongings of the person and the threshold value are determined by comparing with a threshold value. Person tracking method. 受信した画像情報から、1)記憶している人物の顔画像のリストに含まれる前記顔画像を検出すると検出した前記顔画像の識別子を出力し、2)前記リストに含まれないが所定基準を満たす前記人物を検出すると前記所定基準を満たす前記人物の前記顔画像を前記リストに追加するとともに追加した前記顔画像の識別子を出力する処理を、コンピュータに実行させる人物追跡プログラム。   From the received image information, 1) When the face image included in the list of stored human face images is detected, an identifier of the detected face image is output. 2) Although not included in the list, a predetermined criterion is used. A person tracking program for causing a computer to execute a process of adding the face image of the person satisfying the predetermined criterion to the list and outputting the identifier of the added face image when detecting the person who satisfies the condition. 前記画像情報から検出した前記人物が前記所定基準を満たすか否かを、a)前記人物が所定時間帯内に所定時間経過後も、予め指定された商品近傍にいるか否か、b)前記商品近傍にいる間に、前記人物が前記商品以外の方向に顔面を向ける頻度、及び、d)前記人物の所持品、に基づいて決定される評価値と閾値を比較して決定する処理をコンピュータに実行させる、請求項9の人物追跡プログラム。   Whether the person detected from the image information satisfies the predetermined criteria, a) whether the person is in the vicinity of a predesignated product even after a predetermined time has elapsed within a predetermined time zone, b) the product A process of comparing the evaluation value determined based on the frequency with which the person turns his / her face in a direction other than the product while being in the vicinity, and the personal belongings of the person with a threshold, and determining the threshold The person tracking program according to claim 9, which is executed.
JP2017121595A 2017-06-21 2017-06-21 Face recognition device, person tracking system, person tracking method, and person tracking program Active JP6977328B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017121595A JP6977328B2 (en) 2017-06-21 2017-06-21 Face recognition device, person tracking system, person tracking method, and person tracking program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017121595A JP6977328B2 (en) 2017-06-21 2017-06-21 Face recognition device, person tracking system, person tracking method, and person tracking program

Publications (2)

Publication Number Publication Date
JP2019009529A true JP2019009529A (en) 2019-01-17
JP6977328B2 JP6977328B2 (en) 2021-12-08

Family

ID=65029839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017121595A Active JP6977328B2 (en) 2017-06-21 2017-06-21 Face recognition device, person tracking system, person tracking method, and person tracking program

Country Status (1)

Country Link
JP (1) JP6977328B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020200626A1 (en) 2019-01-23 2020-07-23 Toyota Jidosha Kabushiki Kaisha ELECTRIC ROTATION MACHINE
CN111611837A (en) * 2019-02-23 2020-09-01 和硕联合科技股份有限公司 Tracking system and method thereof
CN112446705A (en) * 2019-09-04 2021-03-05 阿里巴巴集团控股有限公司 Settlement method and device
CN113823072A (en) * 2020-06-18 2021-12-21 三菱电机大楼技术服务株式会社 Person tracking support device and person tracking support system
JP2022058833A (en) * 2018-12-07 2022-04-12 日本電気株式会社 Information processing system, information processing apparatus, information processing method, and program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011039959A (en) * 2009-08-18 2011-02-24 Hitachi Kokusai Electric Inc Monitoring system
JP2011233133A (en) * 2010-04-09 2011-11-17 Miyake Inc Shoplifting preventing system
WO2016103332A1 (en) * 2014-12-22 2016-06-30 株式会社 テクノミライ Digital find security system, method, and program
WO2017029718A1 (en) * 2015-08-19 2017-02-23 株式会社 テクノミライ Smart-security digital system, method and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011039959A (en) * 2009-08-18 2011-02-24 Hitachi Kokusai Electric Inc Monitoring system
JP2011233133A (en) * 2010-04-09 2011-11-17 Miyake Inc Shoplifting preventing system
WO2016103332A1 (en) * 2014-12-22 2016-06-30 株式会社 テクノミライ Digital find security system, method, and program
WO2017029718A1 (en) * 2015-08-19 2017-02-23 株式会社 テクノミライ Smart-security digital system, method and program

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022058833A (en) * 2018-12-07 2022-04-12 日本電気株式会社 Information processing system, information processing apparatus, information processing method, and program
JP7298729B2 (en) 2018-12-07 2023-06-27 日本電気株式会社 Information processing system, information processing device, information processing method, and program
DE102020200626A1 (en) 2019-01-23 2020-07-23 Toyota Jidosha Kabushiki Kaisha ELECTRIC ROTATION MACHINE
CN111611837A (en) * 2019-02-23 2020-09-01 和硕联合科技股份有限公司 Tracking system and method thereof
TWI719409B (en) * 2019-02-23 2021-02-21 和碩聯合科技股份有限公司 Tracking system and tracking method thereof
CN112446705A (en) * 2019-09-04 2021-03-05 阿里巴巴集团控股有限公司 Settlement method and device
CN113823072A (en) * 2020-06-18 2021-12-21 三菱电机大楼技术服务株式会社 Person tracking support device and person tracking support system
US11574410B2 (en) 2020-06-18 2023-02-07 Mitsubishi Electric Building Solutions Corporation Person tracking support device and person tracking support system

Also Published As

Publication number Publication date
JP6977328B2 (en) 2021-12-08

Similar Documents

Publication Publication Date Title
US11157778B2 (en) Image analysis system, image analysis method, and storage medium
JP6977328B2 (en) Face recognition device, person tracking system, person tracking method, and person tracking program
US11546557B2 (en) Video identification and analytical recognition system
US9607501B2 (en) Systems and methods for providing emergency resources
US10257469B2 (en) Neighborhood camera linking system
US20220101012A1 (en) Automated Proximity Discovery of Networked Cameras
US9412026B2 (en) Intelligent video analysis system and method
US20190108735A1 (en) Globally optimized recognition system and service design, from sensing to recognition
US11881090B2 (en) Investigation generation in an observation and surveillance system
JP2018160219A (en) Moving route prediction device and method for predicting moving route
US20240161592A1 (en) Proactive loss prevention system
US11270562B2 (en) Video surveillance system and video surveillance method
US20190108404A1 (en) Consumer Camera System Design for Globally Optimized Recognition
JP3942606B2 (en) Change detection device
EP3683757A1 (en) Investigation generation in an observation and surveillance system
JP2015082820A (en) Server device, system, information processing method, and program
US11854266B2 (en) Automated surveillance system and method therefor
JP7392738B2 (en) Display system, display processing device, display processing method, and program
WO2023175829A1 (en) Monitoring system, monitoring device, monitoring method, and recording medium
KR20220165339A (en) A method, a system and an apparatus for providing region control services based on complex recognition using fixed type facial recognition equipments and mobile facial recognition terminals
KR20230032976A (en) System and method for monitoring video using augmented reality
KR20220064472A (en) A recording medium on which a program for providing security monitoring service based on caption data is recorded

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200515

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211025

R150 Certificate of patent or registration of utility model

Ref document number: 6977328

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150