JP2012014568A - Monitoring apparatus and method, and program - Google Patents

Monitoring apparatus and method, and program Download PDF

Info

Publication number
JP2012014568A
JP2012014568A JP2010152136A JP2010152136A JP2012014568A JP 2012014568 A JP2012014568 A JP 2012014568A JP 2010152136 A JP2010152136 A JP 2010152136A JP 2010152136 A JP2010152136 A JP 2010152136A JP 2012014568 A JP2012014568 A JP 2012014568A
Authority
JP
Japan
Prior art keywords
face image
person
collated
similarity
accumulator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010152136A
Other languages
Japanese (ja)
Inventor
Ryosuke Kono
良輔 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2010152136A priority Critical patent/JP2012014568A/en
Publication of JP2012014568A publication Critical patent/JP2012014568A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To improve the precision of authentication based on a face image.SOLUTION: A similarity computation section 232 computes, for collation, similarity between each of face images in a face image group of a person subjected to the collation captured by a face image capturing section 221 and a face image of an accumulation person accumulated in a biological information DB 22. A similarity computation result tabulation section 234 tabulates collation results of the face images in the face image group of the person subjected to the collation and generates similarity as a face image group of the person subjected to the collation. A person determination section 241 compares the similarity that is a tabulation result with a first threshold value to determine whether the face image of the person subjected to the collation is the face image of the accumulation person. In the case where the face image of the person subjected to the collation belongs to the accumulation person, if the similarity that is the tabulation result is higher than a second threshold value set higher than the first threshold value, a face image dictionary additional registration determination section 242 adds the face image of the person subjected to the collation as a face image of the accumulation person and additionally accumulates the face image of the person subjected to the collation to a database management section 225 as the face image of the accumulation person. The present invention may be applicable to a monitoring system.

Description

本発明は、監視装置および方法、並びにプログラムに関し、特に、データベースなどに蓄積された膨大な量の顔画像に代表される生体情報について、信頼性の高い生体情報のみを新たにデータベースに登録することで、生体情報による認識精度を向上できるようにした監視装置および方法、並びにプログラムに関する。   The present invention relates to a monitoring apparatus, method, and program, and in particular, for biological information represented by a huge amount of face images stored in a database or the like, only highly reliable biological information is newly registered in the database. Thus, the present invention relates to a monitoring apparatus and method, and a program that can improve recognition accuracy based on biological information.

現在、多くの店舗や公共施設では、セキュリティ用途やマーケティング調査の用途に顔画像による認証技術が利用されている(特許文献1参照)。   Currently, in many stores and public facilities, authentication technology using facial images is used for security purposes and marketing research purposes (see Patent Document 1).

特開2008−287658号公報JP 2008-287658 A

しかしながら、特許文献1においては、蓄積できる顔画像の枚数に限界があるため、実際に多くの人物の顔画像を取得できても、蓄積することができず、再度来店したり来場した人物の顔画像であっても、認証できず、来店者または来場者が増えれば増えるほど、認証できない顔画像が増大してしまうことがあった。   However, in Patent Document 1, there is a limit to the number of face images that can be stored. Therefore, even if face images of a large number of people can be actually acquired, they cannot be stored and cannot be stored. Even an image cannot be authenticated, and as the number of visitors or visitors increases, the number of face images that cannot be authenticated may increase.

また、特許文献1の技術においては、来店時、または来場時の人物の顔画像により認証処理が行われるのみであり、順次取得される顔画像を新たにデータベースに反映させるといったことがないため、取得される最新の顔画像をデータベースに繁栄させて、有効に利用することができなかった。   Further, in the technique of Patent Document 1, authentication processing is performed only by a person's face image at the time of visiting the store or at the time of visiting, and the sequentially acquired face images are not newly reflected in the database. The latest face image acquired could not be used effectively by prospering in the database.

そこで、取得された顔画像とデータベースに登録された全ての顔画像との類似度を用いて、閾値との比較により本人であるか否かを認証し、その結果をデータベースに反映させるようにすることが考えられる。しかしながら、従来の認証においては、類似度との比較に用いられる閾値が固定されているため、誤った認証結果の顔画像が一旦データベースに登録されると、認証精度を低下させると共に、認証精度が低下した状態で顔画像が認証されることにより、連鎖的に誤った認証結果を発生させ、さらに、誤った顔画像が連鎖的に登録されてしまい、認証と登録を繰り返すことで、連鎖的に認証精度を低下させてしまうことがあった。   Therefore, by using the similarity between the acquired face image and all the face images registered in the database, it is authenticated whether or not it is the person by comparing with the threshold value, and the result is reflected in the database. It is possible. However, in the conventional authentication, since the threshold value used for comparison with the similarity is fixed, once the face image of the wrong authentication result is registered in the database, the authentication accuracy is lowered and the authentication accuracy is reduced. When the face image is authenticated in a lowered state, an erroneous authentication result is generated in a chain, and the incorrect face image is registered in a chain. Authentication accuracy may be reduced.

本発明はこのような状況に鑑みてなされたものであり、顔画像に代表される生体情報に基づいて認証処理をするにあたり、登録されている顔画像との類似度が第1の閾値よりも高く、登録されている人物であることが認証された後、さらに、類似度が第1の閾値よりもさらに高く設定される第2の閾値よりも高いときにのみ、新規の顔画像として追加登録させるようにすることで、顔画像による認証精度を向上させるようにするものである。   The present invention has been made in view of such a situation, and in performing authentication processing based on biometric information represented by a face image, the degree of similarity with a registered face image is higher than the first threshold value. After being authenticated to be a high registered person, it is additionally registered as a new face image only when the similarity is higher than a second threshold set higher than the first threshold. By doing so, the authentication accuracy by the face image is improved.

本発明の一側面の監視装置は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、照合対象者の複数の顔画像を顔画像群として取得する取得手段と、前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段とを含む。   The monitoring device according to one aspect of the present invention includes an accumulation unit that accumulates a face image as an accumulator's face image in an accumulator database, an acquisition unit that acquires a plurality of face images of a collation target person as a face image group, and the acquisition The collation means for calculating and collating the similarity between each face image of the face image group of the collation target person acquired by the means and the face image of the accumulator accumulated in the accumulation means, and the face of the collation target person Aggregating means for generating the similarity as the face image group of the person to be collated by aggregating the collation results of each face image of the image group, the similarity as the aggregation result of the aggregating means and the first threshold value The similarity determination unit that determines whether or not the face image of the person to be collated is the face image of the accumulator, and the face image of the person to be collated is If the face image is determined, The face image of the person to be collated is added and accumulated as the face image of the accumulator by comparing the similarity that is the total result of the above and the second threshold value set higher than the first threshold value. An additional registration determination means for determining whether or not the face image of the person to be collated is added and stored as the face image of the person to be accumulated by the additional registration judgment means. Storage control means for controlling to add and store as a face image of the accumulator.

前記第2の閾値は、前記第1の閾値よりも高く設定され、かつ、他人受入率が0となる範囲の値とすることができる。   The second threshold value can be set higher than the first threshold value and can be a value in a range where the stranger acceptance rate is zero.

前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定されない場合、前記蓄積制御手段には、前記照合対象者の顔画像を、新規に蓄積するように制御させるようにすることができる。   When the similarity determination unit does not determine that the face image of the person to be collated is the face image of the accumulator, the accumulation control unit performs control so that the face image of the person to be collated is newly accumulated. You can make it.

前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段をさらに含ませるようにすることができる。   When the similarity determination unit determines that the face image of the person to be collated is the face image of the accumulator, a notification unit for notifying that the person to be collated is the accumulator is further included. can do.

本発明の一側面の監視方法は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、照合対象者の複数の顔画像を顔画像群として取得する取得手段と、前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段とを含む監視装置の監視方法において、前記取得手段における、照合対象者の複数の顔画像を顔画像群として取得する取得ステップと、前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、前記集計手段における、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計ステップと、前記類似度判定手段における、前記集計ステップの処理での集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、前記追加登録判定手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計ステップの処理での集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定ステップと、前記蓄積制御手段における、前記追加登録判定ステップの処理により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御ステップとを含む。   The monitoring method according to one aspect of the present invention includes an accumulation unit that accumulates a face image as an accumulator's face image in an accumulator database, an acquisition unit that acquires a plurality of face images of a person to be collated as a face image group, and the acquisition The collation means for calculating and collating the similarity between each face image of the face image group of the collation target person acquired by the means and the face image of the accumulator accumulated in the accumulation means, and the face of the collation target person Aggregating means for generating the similarity as the face image group of the person to be collated by aggregating the collation results of each face image of the image group, the similarity as the aggregation result of the aggregating means and the first threshold value The similarity determination unit that determines whether or not the face image of the person to be collated is the face image of the accumulator, and the face image of the person to be collated is If the face image is determined, The face image of the person to be collated is added and accumulated as the face image of the accumulator by comparing the similarity that is the total result of the above and the second threshold value set higher than the first threshold value. An additional registration determination means for determining whether or not the face image of the person to be collated is added and stored as the face image of the person to be accumulated by the additional registration judgment means. In the monitoring method of the monitoring device including the accumulation control means for controlling to add and accumulate as the accumulator face image, the acquisition means acquires a plurality of face images of the person to be collated as a face image group. The degree of similarity between the acquisition step and each face image of the face image group of the person to be collated acquired by the process of the acquisition step in the collating unit and the face image of the accumulator accumulated in the accumulating unit is calculated. , A collation step, and a summarization step of generating a similarity as the face image group of the collation target person by summing the collation results of each face image of the face image group of the collation target person in the tabulation unit, Whether the face image of the person to be collated is the face image of the accumulator is determined by comparing the similarity that is the result of aggregation in the process of the aggregation step with the first threshold value in the similarity determination unit. When the similarity determination step for determination and the face image of the person to be collated are determined to be the face image of the accumulator by the processing of the similarity determination step in the additional registration determination means, the processing of the aggregation step The face image of the person to be collated is added and stored as the face image of the accumulator by comparing the similarity that is the result of the aggregation in Step 2 with the second threshold value that is set higher than the first threshold value. You An additional registration determination step for determining whether or not to add the facial image of the person to be collated as the facial image of the accumulator by the processing of the additional registration determination step in the storage control means A storage control step of performing control so that the face image of the person to be collated is added and stored as the face image of the accumulator.

本発明の一側面のプログラムは、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、照合対象者の複数の顔画像を顔画像群として取得する取得手段と、前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段とを含む監視装置を制御するコンピュータに、前記取得手段における、照合対象者の複数の顔画像を顔画像群として取得する取得ステップと、前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、前記集計手段における、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計ステップと、前記類似度判定手段における、前記集計ステップの処理での集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、前記追加登録判定手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計ステップの処理での集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定ステップと、前記蓄積制御手段における、前記追加登録判定ステップの処理により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御ステップとを含む処理を実行させる。   The program according to one aspect of the present invention includes an accumulating unit that accumulates a face image as an accumulator face image in an accumulator database, an acquisition unit that acquires a plurality of face images of a collation target person as a face image group, and the acquisition unit The collation means for calculating and collating the similarity between each face image of the face image group of the collation target person acquired by the above and the accumulator face image accumulated in the accumulation means, and the face image of the collation target person By summing up the collation results of each face image of the group, a summing unit that generates the similarity as the face image group of the person to be collated, a similarity that is the summing result of the summing unit, and a first threshold value Similarity determination means for determining whether the face image of the person to be collated is the face image of the accumulator by comparison, and the face image of the person to be collated is the face of the accumulator by the similarity determination means If it is determined that the image is an image, The face image of the person to be collated is added and stored as the face image of the accumulator by comparing the similarity that is the tabulation result with the second threshold value set higher than the first threshold value. An additional registration determination unit that determines whether or not to perform the check, and the additional registration determination unit determines that the face image of the person to be collated is to be added and accumulated as the face image of the person to be accumulated. A computer that controls a monitoring device that includes an accumulation control unit that performs control so that an image is added and accumulated as a face image of the accumulator, and a plurality of face images of the person to be collated in the acquisition unit as a face image group The degree of similarity between the acquisition step to be acquired, each face image of the face image group of the person to be verified acquired by the processing of the acquisition step in the verification unit, and the face image of the accumulator stored in the storage unit Total Then, a collation step for collation, and a tabulation for generating a similarity as the face image group of the collation target person by tabulating collation results of the face images of the collation target person's face image group in the tabulation unit Whether the face image of the person to be collated is the face image of the accumulator by comparing the similarity that is the result of aggregation in the process of the aggregation step in the similarity determination unit and the first threshold value. When the similarity determination step for determining whether or not the face image of the person to be collated is the face image of the accumulator by the processing of the similarity determination step in the additional registration determination unit, The face image of the person to be collated is added as the face image of the accumulator by comparing the similarity, which is the aggregation result in the processing of the step, with the second threshold value set higher than the first threshold value. Shi An additional registration determination step for determining whether or not to accumulate the image, and a determination that the face image of the person to be collated is added and accumulated as the face image of the accumulator by the process of the additional registration determination step in the accumulation control means. If so, a process including an accumulation control step of controlling to add and accumulate the face image of the person to be collated as the face image of the accumulator is executed.

本発明の一側面においては、顔画像が蓄積者の顔画像として蓄積者データベースに蓄積され、照合対象者の複数の顔画像が顔画像群として取得され、取得された照合対象者の顔画像群の各顔画像と、蓄積された蓄積者の顔画像との類似度が計算されて、照合され、前記照合対象者の顔画像群の各顔画像の照合結果が集計されることにより、前記照合対象者の顔画像群としての類似度が生成され、集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かが判定され、前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かが判定され、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像が前記蓄積者の顔画像として追加されて蓄積されるように制御される。   In one aspect of the present invention, a face image is accumulated as an accumulator face image in an accumulator database, a plurality of face images of a collation target person are acquired as a face image group, and the acquired collation target person face image group The degree of similarity between each face image and the stored accumulator face image is calculated and collated, and the collation results of each face image of the face image group of the collation target person are aggregated, whereby the collation The similarity as the face image group of the subject is generated, and whether or not the face image of the person to be collated is the face image of the accumulator is determined by comparing the similarity as the total result with the first threshold value. When it is determined and the face image of the person to be collated is determined to be the face image of the accumulator, the similarity that is the total result and a second threshold that is set higher than the first threshold By comparing the face image of the person to be collated with the face image of the accumulator. If it is determined whether to add and accumulate the face image of the person to be collated as the face image of the person to be accumulated, the face image of the person to be collated is It is controlled to be added and stored as a face image.

本発明の一側面の監視装置における、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段とは、例えば、生体情報データベースであり、照合対象者の複数の顔画像を顔画像群として取得する取得手段とは、例えば、顔画像取得部であり、前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段とは、例えば、類似度計算部であり、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段とは、例えば、類似度計算結果集計部であり、前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段とは、例えば、人物判定部であり、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段とは、例えば、顔画像辞書追加登録判定部であり、前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段とは、例えば、データベース管理部である。   In the monitoring device according to one aspect of the present invention, the accumulation unit that accumulates the face image as the accumulator's face image in the accumulator database is, for example, a biometric information database, and a plurality of face images of the person to be collated are stored in the face image group. The acquisition means acquired as, for example, is a face image acquisition unit, and each face image of the face image group of the verification target person acquired by the acquisition means, and the accumulator face image stored in the storage means, The matching means for calculating and matching the similarity is, for example, a similarity calculation unit, and by summing up the matching results of each face image of the face image group of the person to be collated, the face of the person to be collated The aggregation unit that generates the similarity as the image group is, for example, a similarity calculation result aggregation unit. By comparing the similarity that is the aggregation result of the aggregation unit with the first threshold, The facial image is the accumulator's facial image The similarity determination unit that determines whether or not the image is a person determination unit, for example, and the similarity determination unit determines that the face image of the person to be collated is the face image of the accumulator The face image of the person to be collated is added as the face image of the accumulator by comparing the similarity that is the total result of the totaling unit with a second threshold value that is set higher than the first threshold value. The additional registration determination means for determining whether or not to store the face image dictionary is, for example, a face image dictionary additional registration determination section, and the additional registration determination means uses the face image of the person to be collated as the face image of the accumulator. The accumulation control means for controlling to add and accumulate the face image of the person to be collated as the face image of the accumulator when it is determined to be additionally accumulated is, for example, a database management unit.

すなわち、類似度判定手段である人物判定部は、顔画像群と蓄積者との類似度の集計結果である顔画像群の類似度と、第1の閾値との比較により、取得した顔画像群の人物が、蓄積者データベースに蓄積された人物であるか否かを判定する。そして、人物判定部により取得した顔画像群の人物が、蓄積者データベースに蓄積された人物であると判定した場合、追加登録判定手段である顔画像辞書追加登録判定部は、顔画像群と、第1の閾値よりも高く設定されている第2の閾値との比較により、顔画像群の類似度が、第2の閾値よりも高いときに、蓄積者データベースに追加して顔画像群を登録させるようにした。   In other words, the person determination unit, which is a similarity determination unit, obtains the acquired face image group by comparing the similarity of the face image group, which is the total result of the similarity between the face image group and the accumulator, with the first threshold value. It is determined whether or not the person is a person stored in the store database. When it is determined that the person in the face image group acquired by the person determination unit is a person stored in the accumulator database, the face image dictionary additional registration determination unit as additional registration determination means includes the face image group, When the similarity of the face image group is higher than the second threshold value by comparison with the second threshold value set higher than the first threshold value, the face image group is registered in addition to the accumulator database. I tried to make it.

これにより、顔画像群の人物と、蓄積者の顔画像との類似度が、同一人物であるか否かを判定する閾値よりも高い閾値を超えたときにのみ、新たに蓄積者データベースに登録するようにしたので、本人を識別する上でより信頼性の高い顔画像のみを追加して蓄積者データベースに登録させることが可能となる。   As a result, only when the degree of similarity between the face image group person and the accumulator face image exceeds a threshold value that is higher than the threshold value for determining whether or not the person is the same person, it is newly registered in the accumulator database. Therefore, it is possible to add only the face image with higher reliability in identifying the person and register it in the accumulator database.

結果として、顔画像による人物の認識精度を向上させることが可能となる。   As a result, it is possible to improve the recognition accuracy of a person using a face image.

本発明によれば、顔画像による人物の認識精度を向上させることが可能となる。   According to the present invention, it is possible to improve the recognition accuracy of a person using a face image.

本発明を適用した監視システムの一実施の形態の構成例を示す図である。It is a figure which shows the structural example of one Embodiment of the monitoring system to which this invention is applied. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1の入口カメラおよび店内カメラの設置例を示す図である。It is a figure which shows the example of installation of the entrance camera and shop camera of FIG. 図1の画像処理ユニットの構成例を説明する図である。It is a figure explaining the structural example of the image processing unit of FIG. 図1の生体情報認識装置の構成例を説明する図である。It is a figure explaining the structural example of the biometric information recognition apparatus of FIG. 図1の生体情報認識装置による監視処理を説明するフローチャートである。It is a flowchart explaining the monitoring process by the biometric information recognition apparatus of FIG. 要注意人物照合処理を説明するフローチャートである。It is a flowchart explaining a person needing attention collation processing. 要注意人物照合処理を説明する図である。It is a figure explaining a person-of-interest collation process. 第1の閾値、および第2の閾値を説明する図である。It is a figure explaining the 1st threshold and the 2nd threshold. 汎用のパーソナルコンピュータの構成例を説明する図である。And FIG. 11 is a diagram illustrating a configuration example of a general-purpose personal computer.

以下に本発明の実施の形態を説明するが、本発明の構成要件と、発明の詳細な説明に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、発明の詳細な説明に記載されていることを確認するためのものである。従って、発明の詳細な説明中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between the configuration requirements of the present invention and the embodiments described in the detailed description of the present invention are exemplified as follows. This description is to confirm that the embodiments supporting the present invention are described in the detailed description of the invention. Accordingly, although there are embodiments that are described in the detailed description of the invention but are not described here as embodiments corresponding to the constituent elements of the present invention, It does not mean that the embodiment does not correspond to the configuration requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.

すなわち、本発明の一側面の監視装置は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段(例えば、図10の生体情報DB22)と、照合対象者の複数の顔画像を顔画像群として取得する取得手段(例えば、図10の顔画像取得部221)と、前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段(例えば、図10の類似度計算部232)と、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段(例えば、図10の類似度計算結果集計部234)と、前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段(例えば、図10の人物判定部241)と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段(例えば、図10の顔画像辞書追加登録判定部242)と、前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段(例えば、図10のデータベース管理部225)とを含む。   That is, the monitoring device according to one aspect of the present invention includes a storage unit (for example, the biometric information DB 22 in FIG. 10) that stores a face image in the store database as a face image of the store, and a plurality of face images of the verification target person. Acquisition means (for example, the face image acquisition unit 221 in FIG. 10) acquired as a face image group, each face image of the face image group of the person to be collated acquired by the acquisition means, and the accumulation accumulated in the accumulation means By calculating the similarity with the person's face image and collating it (for example, the similarity calculating unit 232 in FIG. 10), and by summing up the result of collation of each face image of the face image group of the person to be collated The totaling means (for example, the similarity calculation result totaling unit 234 in FIG. 10) that generates the similarity as the face image group of the person to be collated, the similarity that is the totaling result of the totaling means, and the first threshold value Comparison of the person to be collated Similarity determination means (for example, the person determination unit 241 in FIG. 10) for determining whether the image is the face image of the accumulator, and the face image of the person to be collated is the accumulator by the similarity determination means. If it is determined that the face image is a face image of the person to be collated by comparing the similarity that is the totaling result of the totaling unit with a second threshold that is set higher than the first threshold Additional registration determination means (for example, a face image dictionary additional registration determination unit 242 in FIG. 10) for determining whether or not to add an image as the accumulator's face image and accumulate, and the additional registration determination means An accumulation control means for controlling to add and accumulate the face image of the person to be collated as the face image of the accumulator when it is determined that the person's face image is added and accumulated as the accumulator's face image For example, the database of FIG. Source management unit 225).

前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段(例えば、図10の通信部223)をさらに含ませるようにすることができる。   When the similarity determination means determines that the face image of the person to be collated is the face image of the accumulator, notification means (for example, in FIG. 10) notifies that the person to be collated is the accumulator. A communication unit 223) can be further included.

本発明の一側面の監視方法は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、照合対象者の複数の顔画像を顔画像群として取得する取得手段と、前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段とを含む監視装置の監視方法において、前記取得手段における、照合対象者の複数の顔画像を顔画像群として取得する取得ステップ(例えば、図11のステップS11)と、前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップ(例えば、図12のステップS45)と、前記集計手段における、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計ステップ(例えば、図12のステップS49)と、前記類似度判定手段における、前記集計ステップの処理での集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップ(例えば、図11のステップS15,S20)と、前記追加登録判定手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計ステップの処理での集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定ステップ(例えば、図11のステップS17,S21)と、前記蓄積制御手段における、前記追加登録判定ステップの処理により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御ステップ(例えば、図11のステップS18,S22)とを含む。   The monitoring method according to one aspect of the present invention includes an accumulation unit that accumulates a face image as an accumulator's face image in an accumulator database, an acquisition unit that acquires a plurality of face images of a person to be collated as a face image group, and the acquisition The collation means for calculating and collating the similarity between each face image of the face image group of the collation target person acquired by the means and the face image of the accumulator accumulated in the accumulation means, and the face of the collation target person Aggregating means for generating the similarity as the face image group of the person to be collated by aggregating the collation results of each face image of the image group, the similarity as the aggregation result of the aggregating means and the first threshold value The similarity determination unit that determines whether or not the face image of the person to be collated is the face image of the accumulator, and the face image of the person to be collated is If the face image is determined, The face image of the person to be collated is added and accumulated as the face image of the accumulator by comparing the similarity that is the total result of the above and the second threshold value set higher than the first threshold value. An additional registration determination means for determining whether or not the face image of the person to be collated is added and stored as the face image of the person to be accumulated by the additional registration judgment means. In the monitoring method of the monitoring device including the accumulation control means for controlling to add and accumulate as the accumulator face image, the acquisition means acquires a plurality of face images of the person to be collated as a face image group. The acquisition step (for example, step S11 in FIG. 11), each face image of the face image group of the person to be verified acquired by the processing of the acquisition step in the verification unit, and the storage stored in the storage unit A similarity step (for example, step S45 in FIG. 12) for calculating and comparing the similarity with the face image of the person to be collated, and a collation result of each face image of the face image group of the person to be collated in the aggregating means are aggregated. Thus, the summation step (for example, step S49 in FIG. 12) for generating the similarity as the face image group of the person to be collated and the similarity that is the summation result in the processing of the summation step in the similarity determination means A similarity determination step (for example, steps S15 and S20 in FIG. 11) for determining whether or not the face image of the person to be collated is the face image of the accumulator by comparing the degree and the first threshold; When the additional registration determination means determines that the face image of the person to be collated is the face image of the accumulator by the process of the similarity determination step, the aggregation result in the process of the aggregation step is determined. Whether or not the face image of the person to be collated is added and accumulated as the face image of the accumulator by comparing the similarity as a result with the second threshold value set higher than the first threshold value. The additional registration determination step (for example, steps S17 and S21 in FIG. 11), and the process of the additional registration determination step in the accumulation control unit, the face image of the person to be collated is used as the face image of the accumulator. An accumulation control step (for example, steps S18 and S22 in FIG. 11) for controlling to add and accumulate the face image of the person to be collated as the face image of the accumulator when it is determined to be additionally accumulated. Including.

[監視システムの構成例]
図1は、本発明に係る遊技店の監視システムの一実施の形態の構成を示す図である。
[Example of monitoring system configuration]
FIG. 1 is a diagram showing a configuration of an embodiment of a game shop monitoring system according to the present invention.

遊技店1−1乃至1−nは、いわゆるパチンコ店、パチスロ店、または、カジノ店である。また、これらの遊技店1−1乃至1−nは、系列店舗または生体情報管理センタや第3者遊技店管理センタの加盟店であって、複数の店舗を統括的に管理する必要のある店舗である。各遊技店1−1乃至1−nは、生体情報管理バス6および第3者遊技店管理バス7により接続されており、それらのバスおよびインターネット等に代表される公衆通信回線網8,9を介して、相互にそれぞれ生体情報、および第3者遊技店管理情報を授受している。尚、以降において、遊技店1−1乃至1−nのそれぞれについて、特に区別する必要がない場合、単に、遊技店1と称するものとし、その他の構成についても同様に称するものとする。   The game stores 1-1 to 1-n are so-called pachinko stores, pachislot stores, or casino stores. These amusement stores 1-1 to 1-n are affiliated stores or member stores of the biometric information management center or the third party amusement store management center, and stores that need to manage a plurality of stores in an integrated manner. It is. The game stores 1-1 to 1-n are connected by a biological information management bus 6 and a third-party game store management bus 7, and the public communication line networks 8 and 9 represented by the bus and the Internet are used. Via each other, biological information and third-party amusement store management information are exchanged. In the following description, when there is no particular need to distinguish each of the game stores 1-1 to 1-n, the game store 1 is simply referred to, and the other configurations are also referred to in the same manner.

生体情報管理バス6は、主に各遊技店1の生体情報認識装置21により管理される生体情報を流通させるための伝送路として機能する。また、第3者遊技店管理バス7は、主に各遊技店1の媒体貸出管理装置27により管理される媒体貸出管理情報を流通させるための伝送路として機能する。   The biometric information management bus 6 mainly functions as a transmission path for distributing biometric information managed by the biometric information recognition device 21 of each game store 1. The third-party game store management bus 7 functions as a transmission path for distributing medium lending management information managed mainly by the medium lending management device 27 of each amusement store 1.

生体情報管理センタ2は、生体情報管理センタを管理運営する事業者により使用されるサーバであり、生体情報管理データベース(以降、DBとも称するものとする)3で管理されている登録遊技者DBを各遊技店1により生成される未登録遊技者DBに基づいて更新すると供に、更新した最新の登録遊技者DBを各遊技店1の生体情報認識装置21に対して配信する。   The biometric information management center 2 is a server used by a business operator who manages and operates the biometric information management center. The registered player DB managed by the biometric information management database (hereinafter also referred to as DB) 3 is stored in the biometric information management center 2. In addition to updating based on the unregistered player DB generated by each gaming store 1, the updated updated registered player DB is distributed to the biometric information recognition device 21 of each gaming store 1.

第3者遊技店管理センタ4は、第3者遊技店管理センタを管理運営する事業者により使用されるサーバであり、第3者遊技店管理データベース(DB)5で管理されている媒体貸出管理情報からなるDBを各遊技店1より供給されてくる情報に基づいて更新すると供に、更新した最新の媒体貸出管理情報を各遊技店1の媒体貸出管理装置27に対して配信する。   The third-party amusement store management center 4 is a server used by a business operator that manages and operates the third-party amusement store management center, and the medium lending management managed by the third-party amusement store management database (DB) 5 In addition to updating the information DB based on the information supplied from each game store 1, the updated latest medium lending management information is distributed to the medium lending management device 27 of each game store 1.

生体情報認識装置21は、カメラ38−1乃至38−m、入口カメラ40−1乃至40−p、および店内カメラ41−1乃至41−qにより撮像された画像より画像処理ユニット39−1乃至39−(m+p+q)により抽出されて、生体情報バス31を介して供給されてくる顔画像の情報に基づいて、生体情報データベース22に予め登録されている顔画像と照合し、一致する場合、登録遊技者の来店を携帯端末20に通知したり、LCD(Liquid Crystal Display)または有機EL(Electronic Luminescent)などからなる表示部23に表示する。また、生体情報データベース22に予め登録されている顔画像と照合し、一致しない場合、生体情報認識装置21は、新規の生体情報として生体情報DB22に登録する。   The biometric information recognition apparatus 21 includes image processing units 39-1 to 39 based on images captured by the cameras 38-1 to 38-m, the entrance cameras 40-1 to 40-p, and the in-store cameras 41-1 to 41-q. Based on the face image information extracted by − (m + p + q) and supplied via the biometric information bus 31, the face image registered in advance in the biometric information database 22 is collated. The store visitor's visit is notified to the portable terminal 20 or displayed on the display unit 23 made up of an LCD (Liquid Crystal Display) or an organic EL (Electronic Luminescent). Further, when the face image registered in the biometric information database 22 is collated and does not match, the biometric information recognition device 21 registers the new biometric information in the biometric information DB 22.

遊技店管理装置24は、いわゆるホールコンピュータと呼ばれるものであり、遊技店管理情報バス30を介して遊技台36−1乃至36−mの動作を監視している。遊技店管理装置24は、遊技台36の出玉もしくはメダルの払い出しの情報、各遊技台36−1乃至36−mの遊技者の呼び出し情報、またはエラーの発生などの監視状況に応じて、所定の処理を実行し、実行結果をLCDや有機ELなどからなる表示部25に表示する。遊技店管理装置24は、計数機35、遊技台36−1乃至36−m、および遊技台周辺端末37−1乃至37−mのそれぞれより供給されてくる情報を、それぞれを識別する識別情報(例えば、遊技台番号)とを対応付けて遊技台管理データベース26により管理する。   The game store management device 24 is a so-called hall computer, and monitors the operations of the game machines 36-1 to 36-m via the game store management information bus 30. The game store management device 24 determines a predetermined amount according to the monitoring status such as information on the payout of the game table 36 or the payout of medals, the call information of the players on the game tables 36-1 to 36-m, or the occurrence of an error. The above process is executed, and the execution result is displayed on the display unit 25 formed of an LCD, an organic EL, or the like. The game store management device 24 identifies information supplied from the counter 35, the game machines 36-1 to 36-m, and the game machine peripheral terminals 37-1 to 37-m, respectively. For example, it is managed by the gaming machine management database 26 in association with the gaming machine number.

媒体貸出管理装置27は、精算販売機33、および貸出機34からの情報に基づいて、貸し出される遊技媒体の媒体貸出管理情報を媒体貸出管理データベース29を用いて管理すると供に、媒体貸出管理データベース29に登録されている媒体貸出管理情報を更新する際、その更新情報を、第3者遊技店管理バス7および公衆通信回線網9を介して第3者遊技店管理センタ4に送る。さらに、媒体貸出管理装置27は、第3者遊技店管理バス7および公衆通信回線網9を介して第3者遊技店管理センタ4により供給されてくる媒体貸出管理情報を取得し、媒体貸出管理データベース29に蓄積させる。   The medium lending management device 27 manages the medium lending management information of the rented game media using the medium lending management database 29 based on the information from the payment machine 33 and the lending machine 34, and also the medium lending management database. When the medium lending management information registered in 29 is updated, the updated information is sent to the third party amusement store management center 4 via the third party amusement store management bus 7 and the public communication line network 9. Further, the medium lending management device 27 acquires the medium lending management information supplied by the third party amusement store management center 4 via the third party amusement store management bus 7 and the public communication line network 9, and manages the medium lending management. Store in the database 29.

貸出機34は、遊技者が遊技台36で遊技する際、現金やプリペイドカードなどにより所定の金額を受け付けると、金額に応じた個数の遊技媒体を貸し出す。この際、貸出機34は、受け付けた現金やプリペイドカードの残数などの情報と供に、貸し出した遊技媒体の個数の情報を媒体貸出管理装置27に供給する。これにより、媒体貸出管理装置27は、受け付けた現金やプリペイドカードの残数などの情報と供に、貸し出した遊技媒体の個数の情報を媒体貸出管理情報データベース29に登録する。   The lending machine 34 lends a number of game media according to the amount when the player accepts a predetermined amount by cash or a prepaid card when playing on the gaming table 36. At this time, the lending machine 34 supplies information on the number of lent gaming media to the medium lending management device 27 together with information such as the accepted cash and the remaining number of prepaid cards. Thereby, the medium lending management device 27 registers information on the number of lent gaming media in the medium lending management information database 29 together with information such as the received cash and the remaining number of prepaid cards.

精算販売機33は、貸球を借りるための度数をつけてプリペイドカードを販売する。このとき、精算販売機33は、販売したプリペイドカードの度数を払いうけた金額を媒体貸出管理装置27に供給する。また、精算販売機33は、プリペイドカードなどの度数として貸し出した遊技媒体の残数に基づいて現金を精算して払い出す。このとき、精算販売機33は、プリペイドカードの残数と払い戻した現金の金額を媒体貸出管理装置27に供給する。   The checkout machine 33 sells prepaid cards with a frequency for borrowing a ball. At this time, the checkout machine 33 supplies the medium lending management device 27 with the amount paid for the frequency of the prepaid card sold. Further, the settlement vending machine 33 settles and pays out cash based on the remaining number of game media lent as a frequency such as a prepaid card. At this time, the checkout machine 33 supplies the remaining number of prepaid cards and the amount of cash refunded to the medium lending management device 27.

計数機35は、遊技者が遊技台36により遊技することにより獲得した遊技媒体の数を、計数し、計数結果を磁気カードやレシートなどとして出力する。   The counter 35 counts the number of game media acquired by the player playing on the game table 36, and outputs the counting result as a magnetic card or a receipt.

遊技台36−1乃至36−mは、遊技者により所定の操作がなされることにより、遊技を実行し、いわゆる小当たりや大当たりに応じて、遊技球、または、メダルを払い出す。   The game machines 36-1 to 36-m execute a game when a predetermined operation is performed by the player, and pay out a game ball or a medal according to a so-called small hit or big hit.

遊技台周辺端末37−1乃至37−mは、各遊技台36−1乃至36−mに対応して設けられている、いわゆる台間機であり、台間球貸機(原理的には、貸出機34と同様のもの)などが設けられている。また、遊技台周辺端末37は、遊技台36を遊技する遊技者の顔画像などの生体情報を取得し、遊技台識別情報(遊技台番号)と共に生体情報認識装置21に送信する。尚、図1においては、生体情報を取得する機能として、遊技者の顔画像を取得するカメラ38−1乃至38−mが設けられている例が示されている。   The game console peripheral terminals 37-1 to 37-m are so-called pedestrian machines provided corresponding to the respective game machines 36-1 to 36-m. The same as the lending machine 34) is provided. Further, the gaming machine peripheral terminal 37 acquires biological information such as a face image of the player who plays the gaming machine 36 and transmits it to the biological information recognition device 21 together with the gaming machine identification information (game machine number). FIG. 1 shows an example in which cameras 38-1 to 38-m that acquire a player's face image are provided as a function of acquiring biometric information.

カメラ38−1乃至38−mは、例えば、図2で示されるように、各遊技台36−1乃至36−4のそれぞれの上部に設けられた台表示ランプ61−1乃至61−4の下部に図3で示されるように、読取範囲δ内に遊技者が撮像できるように設け、顔画像を撮像するようにしてもよく、このようにすることにより、各カメラIDは、同時に遊技台IDとして使用することが可能となる。   For example, as shown in FIG. 2, the cameras 38-1 to 38-m are arranged below the table display lamps 61-1 to 61-4 provided on the respective upper sides of the game tables 36-1 to 36-4. As shown in FIG. 3, a face image may be taken so that the player can take an image within the reading range δ. Can be used.

また、カメラ38−1乃至38−mは、例えば、図4で示されるように、遊技台周辺端末37−1乃至37−4に凸部71−1乃至71−4を設け、図5で示されるように読取範囲θ内に遊技者の顔画像が撮像できるように設けるようにしてもよい。   Further, as shown in FIG. 4, the cameras 38-1 to 38-m are provided with convex portions 71-1 to 71-4 on the gaming machine peripheral terminals 37-1 to 37-4, as shown in FIG. As described above, it may be provided so that a player's face image can be captured within the reading range θ.

さらに、カメラ38−1乃至38−mは、例えば、図6で示されるように、遊技台36の中央部(遊技台36の盤面上)に設けるようにして、撮像するようにしてもよい。すなわち、図6の設置部81にカメラ38が設置されることにより、図7で示されるように、読取範囲φ内に遊技者を撮像する。   Further, for example, as shown in FIG. 6, the cameras 38-1 to 38-m may be provided at the center of the game table 36 (on the board surface of the game table 36) to take an image. That is, by installing the camera 38 in the installation unit 81 of FIG. 6, the player is imaged within the reading range φ as shown in FIG.

入口カメラ40−1乃至40−pおよび店内カメラ41−1乃至41−qは、遊技店1の店内における出入口および所定の場所に設置され、撮像した画像をそれぞれ画像処理ユニット39−(m+1)乃至39−(m+p+q)に供給する。   The entrance cameras 40-1 to 40-p and the in-store cameras 41-1 to 41-q are installed at entrances and predetermined places in the store of the amusement store 1, and imaged units 39- (m + 1) to 39- (m + p + q).

入口カメラ40−1乃至40−pおよび店内カメラ41−1乃至41−qは、例えば、図8で示されるように設定される。図8は、遊技店1内の入口カメラ40−1乃至40−pおよび店内カメラ41−1乃至41−qの設置例を示している。   The entrance cameras 40-1 to 40-p and the in-store cameras 41-1 to 41-q are set as shown in FIG. 8, for example. FIG. 8 shows an installation example of the entrance cameras 40-1 to 40-p and the in-store cameras 41-1 to 41-q in the game store 1.

すなわち、図8においては、出入口112−1乃至112−3が設けられており、入口カメラ40−1乃至40−3は、それぞれの出入口112より入店してくる遊技者を撮像する。また、店内カメラ41−1乃至41−10は、島設備111−1乃至111−5のそれぞれ両面をそれぞれ一列に渡って撮像できる位置に設定されている。島設備111は、両面に遊技台36が設置されており、すなわち、図中の島設備111を上下方向に挟むように設置されている。カメラ38、入口カメラ40および店内カメラ41は、いずれにおいてもパンチルトズーム機能を備えているため、図8で示されるように、店内カメラ41−1乃至41−10が配置されることにより、遊技台36で遊技する全遊技者が、店内カメラ41−1乃至41−10のいずれかで撮像できる。   That is, in FIG. 8, entrances 112-1 to 112-3 are provided, and the entrance cameras 40-1 to 40-3 image players who enter the store from each entrance and exit 112. Further, the in-store cameras 41-1 to 41-10 are set at positions at which both surfaces of the island facilities 111-1 to 111-5 can be imaged in a row. The island facilities 111 are provided with game machines 36 on both sides, that is, so as to sandwich the island facilities 111 in the vertical direction in the figure. Since the camera 38, the entrance camera 40, and the in-store camera 41 all have a pan / tilt / zoom function, the in-store cameras 41-1 to 41-10 are arranged as shown in FIG. All players who play at 36 can take an image with any of the in-store cameras 41-1 to 41-10.

さらに、店内カメラ41−aは、貸出機34の前に設けられており、店内カメラ41−bは、精算販売機33の前に設けられており、店内カメラ41−cは、計数機35の前に設けられており、それぞれ、貸出機34、精算販売機33、および計数機35を利用する遊技者を撮像することができる。   Furthermore, the in-store camera 41-a is provided in front of the lending machine 34, the in-store camera 41-b is provided in front of the checkout machine 33, and the in-store camera 41-c is the counter of the counter 35. It is provided in front, and a player who uses the rental machine 34, the checkout machine 33, and the counter 35 can be imaged.

すなわち、図8で示されるように、遊技店1においては、来店する遊技者、遊技台36で遊技する遊技者、並びに、貸出機34、精算販売機33、および計数機35を利用する遊技者といった、遊技店1において遊技者が取るであろうことが想定される行動のほぼ全てを監視できるように、カメラ38、入口カメラ40、および店内カメラ41が設置されている。   That is, as shown in FIG. 8, in the game store 1, a player who visits the store, a player who plays on the game stand 36, and a player who uses the lending machine 34, the checkout machine 33, and the counter 35. The camera 38, the entrance camera 40, and the in-store camera 41 are installed so that almost all of the actions that the player is supposed to take in the gaming store 1 can be monitored.

[画像処理ユニットの構成例]
次に、図9を参照して、画像処理ユニット39の構成例について説明する。
[Configuration example of image processing unit]
Next, a configuration example of the image processing unit 39 will be described with reference to FIG.

画像取得部201は、カメラ38(または、入口カメラ40もしくは店内カメラ41)により撮像された画像を取得し、顔画像抽出部202に供給する。顔画像抽出部202は、画像取得部201より供給されてきた画像内に、顔を構成する部位の配置などのパターンにより顔画像からなる矩形画像を抽出して人物追跡部203に供給する。人物追跡部203は、顔画像からなる矩形画像を連続的に追跡し、追跡されることにより連続的に抽出される矩形画像からなる顔画像群として送信部204に供給する。送信部204は、顔画像抽出部202より連続的に供給されてくる顔画像をバッファ204aに蓄積させ、顔画像の供給が停止した状態になったとき、バッファ204aに蓄積された顔画像を顔画像群として生体情報認識装置21に送信する。尚、バッファ204aの容量には制限があるので、送信部204は、バッファ204aで蓄積できる容量が一杯になったところで一連の連続的に供給される複数の顔画像を顔画像群として送信するようにしても良いし、予め所定枚数を決めておき、所定枚数が蓄積された場合、その所定枚数の顔画像を顔画像群として送信するようにしても良い。   The image acquisition unit 201 acquires an image captured by the camera 38 (or the entrance camera 40 or the in-store camera 41) and supplies it to the face image extraction unit 202. The face image extraction unit 202 extracts a rectangular image made up of a face image from the image supplied from the image acquisition unit 201 using a pattern such as the arrangement of parts constituting the face, and supplies the extracted image to the person tracking unit 203. The person tracking unit 203 continuously tracks a rectangular image composed of face images, and supplies it to the transmitting unit 204 as a face image group composed of rectangular images that are continuously extracted by being tracked. The transmission unit 204 accumulates the face image continuously supplied from the face image extraction unit 202 in the buffer 204a, and when the supply of the face image is stopped, the transmission unit 204 displays the face image accumulated in the buffer 204a. It transmits to the biometric information recognition apparatus 21 as an image group. Since the capacity of the buffer 204a is limited, the transmitting unit 204 transmits a series of continuously supplied face images as a face image group when the capacity that can be stored in the buffer 204a is full. Alternatively, a predetermined number may be determined in advance, and when the predetermined number is accumulated, the predetermined number of face images may be transmitted as a face image group.

[生体情報認識装置の構成例]
次に、図10を参照して、生体情報認識装置21の構成例について説明する。
[Configuration example of biological information recognition apparatus]
Next, a configuration example of the biological information recognition device 21 will be described with reference to FIG.

顔画像取得部221は、画像処理ユニット39より供給される複数の顔画像からなる顔画像群を取得し、照合部222に供給する。照合部222は、顔画像取得部221により取得された顔画像群の各顔画像と、生体情報DB22の要注意人物登録DB22a、および顧客登録DB22bに予め登録されている要注意人物、および顧客の顔画像とを照合し、類似度の高い候補となる顔画像があれば、候補となる顔画像を照合結果として表示部23に表示させると共に、通信部223を介して携帯端末20に通知する。また、照合部222は、類似度の高い候補となる顔画像が存在しない場合、供給されてきた顔画像をデータベース登録管理部225に供給する。   The face image acquisition unit 221 acquires a face image group including a plurality of face images supplied from the image processing unit 39 and supplies the face image group to the collation unit 222. The collation unit 222 includes the facial images of the facial image group acquired by the facial image acquisition unit 221, the sensitive person registration DB 22 a of the biological information DB 22, the sensitive persons registered in advance in the customer registration DB 22 b, and customer The face image is collated, and if there is a face image that is a candidate having a high degree of similarity, the candidate face image is displayed on the display unit 23 as a collation result, and is notified to the portable terminal 20 via the communication unit 223. The collation unit 222 supplies the supplied face image to the database registration management unit 225 when there is no face image that is a candidate with a high degree of similarity.

より詳細には、照合部222の特徴量抽出部231は、顔画像群の各顔画像について、それらを識別するための特徴量を抽出して、各顔画像と共に類似度計算部232に供給する。類似度計算部232は、生体情報DB22の要注意人物登録DB22a、または顧客登録DB22bに登録されている要注意人物、または顧客の顔画像の特徴量を抽出すると供に、特徴量抽出部231より供給されてくる顔画像群の各顔画像の特徴量とを順次用いて、生体情報DB22の要注意人物登録DB22a、または顧客登録DB22bに登録されている全ての要注意人物、または顧客の顔画像との類似度を求め、顔画像取得部221より供給されてきた顔画像と供に類似度計算結果蓄積部233に蓄積させる。より具体的には、類似度計算部232は、例えば、目と目の間隔、あごから額までの長さと、あごから鼻までの長さの比率などの各種の顔の特徴量に基づいて、それぞれの差分和、平均比率、または比率和などを類似度として求める。   More specifically, the feature amount extraction unit 231 of the collation unit 222 extracts a feature amount for identifying each face image in the face image group, and supplies the feature amount together with each face image to the similarity calculation unit 232. . The similarity calculation unit 232 extracts the feature amount of the face image of the person requiring attention or the customer registered in the customer registration DB 22a or the customer registration DB 22b of the biometric information DB 22, and from the feature amount extraction unit 231. The feature amount of each face image of the supplied face image group is used in order, and all the watched person registered in the biometric information DB 22 or the customer registration DB 22b or the face images of the customers. And is stored in the similarity calculation result storage unit 233 together with the face image supplied from the face image acquisition unit 221. More specifically, the similarity calculation unit 232, for example, based on various facial feature amounts such as the ratio between the distance between the eyes, the distance from the chin to the forehead, and the length from the chin to the nose, Each difference sum, average ratio, or ratio sum is obtained as the similarity.

類似度計算結果集計部234は、類似度計算結果蓄積部233に蓄積された顔画像群の各顔画像についての登録された顔画像との類似度の計算結果を集計して、顔画像群としての類似度を求めて、類似度判定部235に供給する。より具体的には、例えば、類似度計算結果蓄積部233は、例えば、顔画像群のうち、類似度の最も高い顔画像を基準とした類似度を顔画像群の類似度としたり、または、顔画像群の全ての顔画像に対する登録顔画像との類似度の平均値などを顔画像群の類似度として類似度判定部235に供給する。   The similarity calculation result totaling unit 234 totals the calculation results of the similarity with the registered face image for each face image of the face image group stored in the similarity calculation result storage unit 233 to obtain a face image group. Is obtained and supplied to the similarity determination unit 235. More specifically, for example, the similarity calculation result accumulating unit 233 sets, for example, the similarity based on the face image having the highest similarity in the face image group as the similarity of the face image group, or An average value of similarities between all face images in the face image group and the registered face image is supplied to the similarity determination unit 235 as the similarity of the face image group.

類似度判定部235の人物判定部241は、類似度計算結果集計部234より供給されてくる類似度を蓄積し、顔画像群のそれぞれの類似度のうち、1位となる顔画像群との類似度と、第1の閾値とを比較し、比較結果に基づいて、1位となる要注意人物、または顧客の顔画像が、顔画像取得部221より供給されてきた顔画像群に対して類似している場合(類似度が高い程類似していることを示す類似度の場合、所定の閾値よりも高いとき、また、類似度が低い程類似していることを示す類似度の場合、所定の閾値よりも低いとき)、最も類似度の高い類似度の顔画像の情報を表示部23に供給して、表示させると供に、通信部223、および顔画像辞書追加登録判定部242に供給する。また、人物判定部241は、供給されてきた顔画像群と登録された顧客類似度と第1の閾値との比較により類似していない場合、比較結果に基づいて、供給されてきた顧客の顔画像を、顧客登録DB登録部252に供給し、顧客登録DB22bに新規で登録させる。さらに顔画像辞書追加登録判定部242は、1位となる顔画像群との類似度と、第1の閾値よりも高く設定される第2の閾値とを比較し、比較結果に基づいて、1位となる要注意人物、または顧客の顔画像との類似度が、第2の閾値よりも高い場合、顔画像取得部221より供給されてきた顔画像群をデータベース管理部225の要注意人物登録DB登録部251、および顧客登録DB登録部252に供給し、それぞれ要注意人物登録DB22a、および顧客登録DB22bに追加で登録させる。   The person determination unit 241 of the similarity determination unit 235 accumulates the similarity supplied from the similarity calculation result totaling unit 234, and with the face image group that is the first among the similarities of the face image group. The similarity is compared with the first threshold, and based on the comparison result, the face image of the person requiring attention or the customer who becomes the first place is supplied to the face image group supplied from the face image acquisition unit 221. When similar (in the case of similarity indicating that the similarity is high, the similarity is high, when the similarity is higher than a predetermined threshold, or in the case of similarity indicating that the similarity is low, the similarity is low. When the information is lower than a predetermined threshold value, the information of the face image having the highest similarity is supplied to the display unit 23 and displayed, and the communication unit 223 and the face image dictionary additional registration determination unit 242 are also displayed. Supply. In addition, when the person determination unit 241 is not similar to the supplied face image group due to the comparison between the registered customer similarity and the first threshold, the face of the supplied customer is based on the comparison result. The image is supplied to the customer registration DB registration unit 252 and newly registered in the customer registration DB 22b. Furthermore, the face image dictionary additional registration determination unit 242 compares the similarity with the face image group that is ranked first and the second threshold value set higher than the first threshold value, and based on the comparison result, 1 If the similarity with the face image of the customer or the customer's face image is higher than the second threshold value, the face image group supplied from the face image acquisition unit 221 is registered in the database management unit 225 as the person requiring attention. The data are supplied to the DB registration unit 251 and the customer registration DB registration unit 252, and are additionally registered in the watched person registration DB 22a and the customer registration DB 22b, respectively.

操作部224は、ボタン、マウス、または、キーボードなどから構成され、上述した類似度が上位3位となる、表示部23に表示された顔画像のいずれかが選択されるとき操作され、操作結果を通信部223に供給する。通信部223は、イーサネットボードなどから構成され、操作部224からの操作信号に基づいて、選択された顔画像を携帯端末20に配信する。   The operation unit 224 includes buttons, a mouse, a keyboard, and the like. The operation unit 224 is operated when any one of the face images displayed on the display unit 23 with the above-mentioned similarity ranked in the top three is selected. Is supplied to the communication unit 223. The communication unit 223 is configured with an Ethernet board or the like, and distributes the selected face image to the mobile terminal 20 based on an operation signal from the operation unit 224.

尚、ここでは、類似度は、例えば、比率和で示されるような登録遊技者として登録されている顔画像に近いほど高い値を示すものであるとし、類似度が所定の閾値よりも高い値であるとき、その類似度に対応する要注意人物、または顧客の顔画像であるものとして判定する例について説明する。しかしながら、例えば、類似度が撮像された顔画像と要注意人物、または顧客として登録されている顔画像とのそれぞれの特徴量における差分和として表現されている場合、類似度判定部235は、類似度が閾値よりも小さければ、撮像された顔画像群が要注意人物、または顧客の顔画像であるとみなすことになり、または、平均比率などの場合、0乃至1の範囲で所定の値以上であって、1に近い値であれば、同一の人物であるとみなすことができる。   Here, for example, the similarity indicates a higher value as it is closer to the face image registered as a registered player as indicated by the ratio sum, and the similarity is a value higher than a predetermined threshold value. In this case, an example will be described in which it is determined that the image is a person requiring attention corresponding to the similarity or a face image of a customer. However, for example, when the similarity is expressed as a sum of differences in the respective feature amounts of the captured face image and the face image registered as a customer or a customer, the similarity determination unit 235 displays the similarity. If the degree is smaller than the threshold value, the captured face image group is regarded as a face image of a person requiring attention or a customer, or in the case of an average ratio or the like, a predetermined value or more in the range of 0 to 1 And if it is a value close | similar to 1, it can be considered that it is the same person.

[監視処理]
次に、図11のフローチャートを参照して、図10の生体情報認識装置21による顔画像による監視処理について説明する。
[Monitoring process]
Next, with reference to the flowchart of FIG. 11, the monitoring process by the face image by the biometric information recognition apparatus 21 of FIG. 10 is demonstrated.

ステップS1において、入口カメラ40は、設置されている範囲の画像を撮像し、撮像した画像を画像処理ユニット39に供給する。画像処理ユニット39の画像取得部201は、供給された画像を取得し、顔画像抽出部202に供給する。   In step S <b> 1, the entrance camera 40 captures an image of the installed range and supplies the captured image to the image processing unit 39. The image acquisition unit 201 of the image processing unit 39 acquires the supplied image and supplies it to the face image extraction unit 202.

ステップS2において、顔画像抽出部202は、供給された画像より遊技者の顔画像を抽出し、人物追跡部203に供給する。より具体的には、顔画像抽出部202は、例えば、撮像された画像のうち、配色などから肌が露出した部分であって、目や鼻といった特徴的な部位の配置などから矩形状の顔画像を抽出して、人物追跡部203に供給する。   In step S <b> 2, the face image extraction unit 202 extracts a player's face image from the supplied image, and supplies it to the person tracking unit 203. More specifically, the face image extraction unit 202 is, for example, a part of the captured image where the skin is exposed from a color scheme or the like, and the rectangular face is determined based on the arrangement of characteristic parts such as eyes and nose. An image is extracted and supplied to the person tracking unit 203.

ステップS3において、人物追跡部203は、矩形状の顔画像が抽出された位置付近をブロックマッチングにより検索し、検索された矩形状の顔画像を順次抽出し、画像内における顔画像を追跡すると共に、順次追跡した矩形状の顔画像を送信部204のバッファ204aに供給する。   In step S3, the person tracking unit 203 searches the vicinity of the position where the rectangular face image is extracted by block matching, sequentially extracts the searched rectangular face images, and tracks the face image in the image. Then, the sequentially tracked rectangular face images are supplied to the buffer 204 a of the transmission unit 204.

ステップS4において、送信部204は、所定時間が経過したか否かを判定し、所定時間が経過していない場合、処理は、ステップS1に戻る。すなわち、所定時間が経過されるまで、ステップS1乃至S4の処理が繰り返されて、撮像される画像より順次矩形状の顔画像が追跡されながら順次抽出され、送信部204のバッファ204aに蓄積される。   In step S4, the transmission unit 204 determines whether or not a predetermined time has elapsed. If the predetermined time has not elapsed, the process returns to step S1. That is, the processes in steps S1 to S4 are repeated until a predetermined time elapses, and a rectangular face image is sequentially extracted from the captured image while being sequentially tracked and stored in the buffer 204a of the transmission unit 204. .

一方、ステップS4において、所定時間が経過したと判定された場合、ステップS5において、送信部204は、バッファ204aに蓄積されている同一の人物の複数の顔画像を顔画像群として生体情報認識装置21に送信し、処理は、ステップS1に戻る。   On the other hand, if it is determined in step S4 that the predetermined time has elapsed, in step S5, the transmission unit 204 uses the plurality of face images of the same person stored in the buffer 204a as a face image group as a biometric information recognition device. 21 and the process returns to step S1.

ステップS11において、生体情報認識装置21の顔画像取得部221は、画像処理ユニット39より供給されてくる矩形状の顔画像を取得する。尚、上述したように、バッファ204aには容量の制限があるため、バッファ204aに蓄積される顔画像が一杯になったところで、顔画像を抽出するようにしても良い。   In step S <b> 11, the face image acquisition unit 221 of the biological information recognition device 21 acquires a rectangular face image supplied from the image processing unit 39. As described above, since the capacity of the buffer 204a is limited, the face image may be extracted when the face image stored in the buffer 204a is full.

ステップS12において、顔画像取得部221は、供給された顔画像群の顔画像の信頼度を求める。尚、顔画像の信頼度とは、顔画像を用いた認証に適した顔画像であるほど高い値を示すものであり、目、鼻、耳、または口といった器官抽出ができたか否かに基づいて、器官毎に設定されるスコアの合計で示されるものである。すなわち、顔認証に用いられる器官として抽出できるものが多いほど、信頼度が高い値となる。また、認証精度に与える影響の大きさが器官毎に異なるものであるので、例えば、目や口といった認証精度に大きな影響を与える器官については、大きな重みを設定し、それ以外の器官については小さな重みを設定するようにしてもよい。   In step S12, the face image acquisition unit 221 obtains the reliability of the face image of the supplied face image group. The reliability of the face image indicates a higher value as the face image is suitable for authentication using the face image, and is based on whether or not organ extraction such as eyes, nose, ears, or mouth has been performed. This is indicated by the total score set for each organ. That is, the more parts that can be extracted as organs used for face authentication, the higher the reliability. In addition, since the magnitude of the influence on the authentication accuracy varies from organ to organ, for example, a large weight is set for an organ that greatly affects the authentication accuracy such as the eyes and the mouth, and the other organs are small. A weight may be set.

ステップS13において、顔画像取得部221は、取得した顔画像の信頼度のうち、上位n位までの顔画像を顔画像群として抽出して照合部222に供給する。   In step S <b> 13, the face image acquisition unit 221 extracts the face images up to the top n from the reliability of the acquired face image as a face image group, and supplies the face image group to the collation unit 222.

ステップS14において、照合部222は、要注意人物照合処理を実行して、生体情報DB22の要注意人物登録DB22aに登録されている生体情報である顔画像と、顔画像取得部221より供給されてきた上位n位までの顔画像群のそれぞれの顔画像とを照合してそれらの類似度を求める。   In step S <b> 14, the collation unit 222 executes a person-of-interest collation process and is supplied from the face image that is biometric information registered in the person-of-care registration DB 22 a of the biometric information DB 22 and the face image acquisition unit 221. The similarity is obtained by comparing each face image of the top n face image groups.

ここで、図12のフローチャートを参照して、要注意人物照合処理について説明する。   Here, with reference to the flowchart of FIG.

ステップS41において、特徴量抽出部231は、供給されてきた顔画像群のうち、未処理の顔画像を処理対象顔画像に設定する。   In step S41, the feature amount extraction unit 231 sets an unprocessed face image among the supplied face image group as a processing target face image.

ステップS42において、特徴量抽出部231は、処理対象顔画像より特徴量を抽出し、類似度計算部232に供給する。   In step S <b> 42, the feature amount extraction unit 231 extracts a feature amount from the processing target face image and supplies the feature amount to the similarity calculation unit 232.

ステップS43において、類似度計算部232は、生体情報DB22の要注意人物登録DB22aに登録されている要注意人物として登録されている人物の顔画像のうち、未処理の1つの要注意人物の顔画像を抽出し、処理対象に設定する。   In step S <b> 43, the similarity calculation unit 232 determines the face of one unprocessed person of interest among the face images of the person registered as the person requiring attention registered in the person-of-care registration DB 22 a of the biometric information DB 22. An image is extracted and set as a processing target.

ステップS44において、類似度計算部232は、処理対象として設定した要注意人物登録DB22aに登録されている要注意人物の顔画像より、特徴量抽出部231より供給されてきた、処理対象顔画像の特徴量と同様の特徴量を抽出する。   In step S44, the similarity calculation unit 232 calculates the processing target face image supplied from the feature amount extraction unit 231 from the face image of the person of interest registered in the person-of-care registration DB 22a set as the process target. A feature quantity similar to the feature quantity is extracted.

ステップS45において、類似度計算部232は、特徴量抽出部231より供給された顔画像についての、目と目の間隔、あごから額までの長さと、あごから鼻のまでの長さの比率などの各種の顔の特徴量と、生体情報DB22の要注意人物登録DB22aに登録されている要注意人物の顔画像における同様の特徴量とを用いて、それぞれの差分和、平均比率、または比率和などを類似度として計算し、ステップS46において、計算結果である類似度を類似度計算結果蓄積部233に供給し記憶させる。   In step S45, the similarity calculation unit 232 determines the ratio of the eye-to-eye spacing, the length from the chin to the forehead, and the length from the chin to the nose for the face image supplied from the feature amount extraction unit 231. And the same feature amount in the face image of the watched person registered in the watchable person registration DB 22a of the biometric information DB 22, and the difference sum, the average ratio, or the sum of the ratios. Etc. are calculated as the similarity, and in step S46, the similarity that is the calculation result is supplied to and stored in the similarity calculation result storage unit 233.

ステップS47において、類似度計算部232は、生体情報DB22の要注意人物登録DB22aに未処理の要注意人物の顔画像が存在するか否かを判定し、未処理の要注意人物の顔画像が存在する場合、処理は、ステップS43に戻る。すなわち、要注意人物DB22aの全ての要注意人物の顔画像との類似度が計算されるまで、ステップS43乃至S47の処理が繰り返される。そして、ステップS47において、要注意人物DB22aに未処理の要注意人物の顔画像が存在しないと判定された場合、処理は、ステップS48に進む。   In step S47, the similarity calculation unit 232 determines whether or not an unprocessed face image of a person to be watched exists in the watched person registration DB 22a of the biometric information DB 22, and the face image of the unprocessed person to be watched is determined. If it exists, the process returns to step S43. In other words, the processes in steps S43 to S47 are repeated until the similarity with the face images of all the persons requiring attention in the person requiring attention DB 22a is calculated. If it is determined in step S47 that there is no unprocessed face image of the person to be watched in the watched person DB 22a, the process proceeds to step S48.

ステップS48において、特徴量抽出部231は、抽出された顔画像群において、処理対象顔画像とされていない顔画像が存在するか否かを判定し、処理対象顔画像とされていない顔画像が存在する場合、処理は、ステップS41に戻る。すなわち、顔画像群として供給されてきた全ての顔画像が処理対象顔画像に設定されて、要注意人物登録DB22aに登録されている人物の顔画像との類似度が求められるまで、ステップS41乃至S48の処理が繰り返される。   In step S48, the feature amount extraction unit 231 determines whether there is a face image that is not a processing target face image in the extracted face image group, and a face image that is not a processing target face image. If it exists, the process returns to step S41. That is, until all the face images supplied as the face image group are set as the processing target face images and the similarity with the face images of the persons registered in the person-of-interest registration DB 22a is obtained, steps S41 to S41 are performed. The process of S48 is repeated.

ステップS48において、抽出された顔画像群において、処理対象顔画像とされていない顔画像が存在しないと判定された場合、処理は、ステップS49に進む。   If it is determined in step S48 that there is no face image that is not a processing target face image in the extracted face image group, the process proceeds to step S49.

ステップS49において、類似度計算結果集計部234は、類似度計算結果蓄積部233に蓄積された類似度計算結果を読み出して集計し、類似度判定部235に供給する。   In step S <b> 49, the similarity calculation result totaling unit 234 reads out and calculates the similarity calculation results stored in the similarity calculation result storage unit 233 and supplies the results to the similarity determination unit 235.

すなわち、以上の処理により、顔画像取得部221より供給されてくる、顔画像のうち、信頼度の高い上位n位までの顔画像について、それぞれ要注意人物登録DB22aに登録されている要注意人物の顔画像との類似度が求められる。   In other words, for the face images up to the top n most highly reliable among the face images supplied from the face image acquisition unit 221 by the above processing, the persons requiring attention registered in the person-of-care registration DB 22a. The degree of similarity with the face image is obtained.

ここで、図11のフローチャートの説明に戻る。   Now, the description returns to the flowchart of FIG.

ステップS15において、類似度判定部235の人物判定部241は、類似度の集計結果に基づいて、類似度に第1の閾値th1よりも高いものがあり、供給されてきた顔画像群の人物が、要注意人物として登録されている人物であるか否かを判定する。すなわち、例えば、信頼度の高い上位6位までの顔画像が供給されてきており、要注意人物登録DB22aに6人の要注意人物が登録されている場合、例えば、図13の左上部で示されるような結果が類似度の集計結果として供給されてくることとなる。   In step S15, the person determination unit 241 of the similarity determination unit 235 has a similarity that is higher than the first threshold th1 based on the similarity count result. Then, it is determined whether or not the person is registered as a person requiring attention. That is, for example, when the top six face images with high reliability have been supplied and six caution persons are registered in the caution person registration DB 22a, for example, shown in the upper left part of FIG. Such a result is supplied as a result of the similarity score.

すなわち、図13において、横方向に要注意人物を識別する要注意人物ID=1乃至6の顔画像が設けられており、縦方向に信頼度が上位6位までの顔画像を識別する顔画像ID=11乃至16が設けられており、それぞれのマトリクス上の値が類似度を示している。より詳細には、(1,11)(=(要注意人物ID,顔画像ID))が880ポイントであり、(1,12)が900ポイントであり、(1,13)が560ポイントであり、(1,14)が580ポイントであり、(1,15)が570ポイントであり、(1,16)が580ポイントである。尚、ここでは、類似度は、0乃至1000ポイントで示されるものである。   That is, in FIG. 13, face images of attention person ID = 1 to 6 for identifying a person requiring attention are provided in the horizontal direction, and face images for identifying the face images having the highest reliability in the vertical direction. ID = 11 to 16 are provided, and the values on the respective matrices indicate the similarity. More specifically, (1, 11) (= (person ID requiring attention, face image ID)) is 880 points, (1, 12) is 900 points, and (1, 13) is 560 points. , (1,14) is 580 points, (1,15) is 570 points, and (1,16) is 580 points. Here, the similarity is indicated by 0 to 1000 points.

同様に、(2,11)乃至(2,16)は、それぞれ900,960,570,560,580,570である。また、(3,11)乃至(3,16)は、それぞれ980,860,540,550,590,580である。さらに、(4,11)乃至(4,16)は、それぞれ860,880,560,580,560,590である。また、(5,11)乃至(5,16)は、それぞれ880,880,580,580,570,590である。さらに(6,11)乃至(6,16)は、それぞれ870,870,580,590,540,570である。   Similarly, (2, 11) to (2, 16) are 900, 960, 570, 560, 580, and 570, respectively. In addition, (3, 11) to (3, 16) are 980, 860, 540, 550, 590, and 580, respectively. Further, (4, 11) to (4, 16) are 860, 880, 560, 580, 560, and 590, respectively. Further, (5, 11) to (5, 16) are 880, 880, 580, 580, 570, and 590, respectively. Further, (6, 11) to (6, 16) are 870, 870, 580, 590, 540, and 570, respectively.

すなわち、要注意人物ID=1乃至6は、いずれも正面顔であり、顔画像群の顔画像は、顔画像ID=11,12は正面顔であるが、それ以外は下向きとなっている。このため、顔画像群の顔画像のうち、正面顔である顔画像ID=11のものが類似度が最も高く求められている。   In other words, the person IDs 1 to 6 requiring attention are all front faces, and the face images in the face image group are face faces ID = 11 and 12 are front faces, but the other faces are downward. For this reason, among the face images of the face image group, the face image ID = 11 which is the front face is required to have the highest similarity.

ここで、類似度として最も高い値は、図13の左上部の白抜き表示部で示されるように、(3,11)(=(要注意人物ID,顔画像ID))=980であり、第1の閾値が600であった場合、第1の閾値よりも高いことになるため、照合対象顔画像の人物は、要注意人物であるものとみなし、処理は、ステップS16に進む。   Here, the highest value as the similarity is (3, 11) (= (attention person ID, face image ID)) = 980, as shown in the white display portion at the upper left of FIG. If the first threshold value is 600, it is higher than the first threshold value. Therefore, the person of the face image to be collated is regarded as a person requiring attention, and the process proceeds to step S16.

ステップS16において、人物判定部241は、要注意人物が来店したことを示すように発報する。すなわち、例えば、人物判定部241は、要注意人物が来店したことを示す画像を表示部23に表示させると共に、通信部223を制御して、携帯端末20に対して、要注意人物が来店したことをアナウンスする。そして、人物判定部241は、図示せぬメモリに要注意人物が来店した時刻や、その要注意人物の顔画像等を記録すると共に、その判定結果を顔画像辞書追加登録判定部242に供給する。   In step S <b> 16, the person determination unit 241 issues a report to indicate that a person requiring attention has visited the store. That is, for example, the person determination unit 241 displays an image indicating that a person requiring attention has visited the store on the display unit 23 and controls the communication unit 223 so that the person requiring attention has visited the mobile terminal 20. Announce that. Then, the person determination unit 241 records the time when the person requiring attention and the face image of the person requiring attention are recorded in a memory (not shown) and supplies the determination result to the face image dictionary additional registration determination unit 242. .

ステップS17において、顔画像辞書追加登録判定部242は、類似度の集計結果に基づいて、類似度に第1の閾値th1よりも高く設定されている第2の閾値よりも高いものがあり、供給されてきた顔画像群が、要注意人物の顔画像として登録すべき顔画像であるか否かを判定する。例えば、図13の左上部の場合、類似度として最も高い値は、(3,1)(=(要注意人物ID,顔画像ID))=980であり、第2の閾値が800であったとき、第2の閾値よりも高いことになるため、照合対象顔画像の人物の顔画像群は、要注意人物の顔画像として登録すべきものであるものとみなし、処理は、ステップS18に進む。   In step S <b> 17, the face image dictionary additional registration determination unit 242 determines that the similarity is higher than the second threshold set higher than the first threshold th <b> 1 based on the result of the similarity calculation. It is determined whether the face image group that has been received is a face image to be registered as a face image of a person who needs attention. For example, in the upper left part of FIG. 13, the highest value as the similarity is (3, 1) (= (person required attention ID, face image ID)) = 980, and the second threshold is 800. Since it is higher than the second threshold value, it is considered that the face image group of the person of the face image to be collated should be registered as the face image of the person requiring attention, and the process proceeds to step S18.

ステップS18において、顔画像辞書追加登録判定部242は、データベース管理部225に対して要注意人物登録DB22aに対して、今現在の顔画像群を追加して登録するように指令する。これに応じて、データベース管理部225は、要注意人物登録DB登録部251を制御して、生体情報DB22の要注意人物登録DB22aに、供給されてきた顔画像群を追加で登録させる。   In step S18, the face image dictionary additional registration determination unit 242 instructs the database management unit 225 to add and register the current face image group to the watchable person registration DB 22a. In response to this, the database management unit 225 controls the watchable person registration DB registration unit 251 to additionally register the supplied face image group in the watchable person registration DB 22a of the biometric information DB 22.

一方、ステップS15において、例えば、図13の左下部で示されるように、今現在の顔画像群の顔画像ID=21乃至26の全てが下向きの顔画像であり、類似度の最大値が白抜き表示部で示されるように590ポイントであり、第1の閾値である600ポイントを超えない場合、ステップS16乃至S18の処理はスキップされる。すなわち、この場合、要注意人物の顔画像ではないものとみなされる。   On the other hand, in step S15, for example, as shown in the lower left part of FIG. 13, all of the face image IDs = 21 to 26 of the current face image group are face images facing downward, and the maximum similarity is white. As indicated by the blank display portion, when the number is 590 points and does not exceed the first threshold value of 600 points, the processing of steps S16 to S18 is skipped. That is, in this case, it is regarded as not a face image of a person who needs attention.

すなわち、図13の左上部で示される顔画像ID=11乃至16は、類似度の最大値である980ポイントが、第2の閾値よりも高いので、顔画像群の顔画像ID=11乃至16は、全て、例えば、図13の右下部で示されるように、要注意人物登録DB22aに登録されることになる。図13の右下部においては、顔画像ID=1乃至6の顔画像に加えて、図13の左上部で示される顔画像群の顔画像ID=11乃至16の顔画像が追加で登録されていることが示されている。   That is, since the face image ID = 11 to 16 shown in the upper left part of FIG. 13 has a maximum similarity value of 980 points higher than the second threshold value, the face image ID of the face image group = 11 to 16 Are registered in the watch-person registration DB 22a as shown in the lower right part of FIG. 13, for example. In the lower right part of FIG. 13, in addition to the face images of face image ID = 1 to 6, face images of face image ID = 11 to 16 of the face image group shown in the upper left part of FIG. 13 are additionally registered. It has been shown that

この結果、従来のように、要注意人物登録DB22aに登録された要注意人物の顔画像と同一の人物の顔画像群の情報が供給される場合、要注意人物登録DB22aが更新されないままであると、その後、例えば、図13の左下部で示されるように、下向きばかりの顔画像群の顔画像ID=21乃至26が供給されると、類似度が第1の閾値すら超えない状態となり、全ての顔画像が下向きになるといったことだけで、要注意人物を検出することができない。   As a result, when information on the face image group of the same person as the face image of the person to be watched registered in the watched person registration DB 22a is supplied as in the prior art, the watch-to-watch person registration DB 22a remains unupdated. Then, for example, as shown in the lower left part of FIG. 13, when face image IDs = 21 to 26 of the face image group just facing downward are supplied, the similarity does not exceed even the first threshold, A person who needs attention cannot be detected simply because all face images face downward.

これに対して、上述したように、第2の閾値よりも高い類似度を備えた顔画像を含む顔画像群である場合、その顔画像群の顔画像を登録することで、信頼性の高い正面顔と共に信頼性の高い下向きの顔画像も登録されることになる。すなわち、図13の右下部で示されるように、従来まで要注意人物登録DB22aに登録されていた顔画像ID1乃至6に加えて、信頼性の高い正面顔の顔画像ID=11,12と共に下向きの顔画像ID=13乃至16の顔画像も登録されることになる。結果として、下向きの顔画像ID=21乃至26であっても、新たに要注意人物として下向きの顔画像が登録されているので、図13の右下部における白抜き表示部で示されるように、類似度の最大値が980ポイントとなり、登録されている要注意人物の顔画像として認識することが可能となる。結果として、顔画像を用いた認証処理における認証精度を向上させることが可能となる。   On the other hand, as described above, in the case of a face image group including a face image having a similarity higher than the second threshold, registration of the face image of the face image group provides high reliability. A highly reliable downward face image is registered together with the front face. That is, as shown in the lower right part of FIG. 13, in addition to the face image IDs 1 to 6 that have been registered in the watched person registration DB 22a until now, the face image ID of the front face with high reliability is set to 11 and 12 downward. The face images with face image ID = 13 to 16 are also registered. As a result, even if the face image ID is downward 21 to 26, since a face image that faces downward is newly registered as a person to be watched, as shown in the white display portion in the lower right part of FIG. The maximum value of the similarity is 980 points, and it can be recognized as a face image of a registered person requiring attention. As a result, it is possible to improve the authentication accuracy in the authentication process using the face image.

ステップS19において、照合部222は、顧客登録人物照合処理を実行して、生体情報DB22の顧客登録DB22bに登録されている生体情報である顔画像と、顔画像取得部221より供給されてきた上位n位までの顔画像群のそれぞれの顔画像とを照合してそれらの類似度を求める。尚、顧客登録人物照合処理については、要注意人物照合処理における顔画像群の各顔画像と、生体情報DB22の要注意人物登録DB22aに登録された要注意人物の顔画像との類似度を求める処理に代えて、顧客登録DB22bに登録された顧客である人物の顔画像との類似度を求める他は、要注意人物照合処理と同様であるので、その説明は省略する。   In step S <b> 19, the collation unit 222 executes customer registration person collation processing, and the face image, which is biometric information registered in the customer registration DB 22 b of the biometric information DB 22, and the host image supplied from the face image acquisition unit 221. The respective face images in the face image group up to the n-th place are collated to find their similarity. As for the customer registered person matching process, the similarity between each face image of the face image group in the watched person matching process and the face image of the watched person registered in the watched person registration DB 22a of the biometric information DB 22 is obtained. The description is omitted because it is the same as the person-of-interest matching process except that the similarity with the face image of the person who is the customer registered in the customer registration DB 22b is obtained instead of the process.

ステップS20において、類似度判定部235の人物判定部241は、類似度の集計結果に基づいて、類似度に第1の閾値th1よりも高いものがあり、供給されてきた顔画像群の人物が、顧客である人物として登録されている人物であるか否かを判定する。   In step S <b> 20, the person determination unit 241 of the similarity determination unit 235 has a similarity higher than the first threshold th <b> 1 based on the result of the similarity calculation. It is determined whether or not the person is registered as a person who is a customer.

ステップS20において、顧客として登録されている人物であるとみなされた場合、人物判定部241は、その判定結果を顔画像辞書追加登録判定部242に通知し、処理は、ステップS21に進む。   If it is determined in step S20 that the person is registered as a customer, the person determination unit 241 notifies the determination result to the face image dictionary additional registration determination unit 242, and the process proceeds to step S21.

ステップS21において、顔画像辞書追加登録判定部242は、類似度の集計結果に基づいて、類似度に第1の閾値th1よりも高く設定されている第2の閾値よりも高いものがあり、供給されてきた顔画像群が、顧客の顔画像として追加して登録すべき顔画像であるか否かを判定する。例えば、照合対象顔画像の人物の顔画像群は、顧客の顔画像として追加して登録すべきものであるものとみなされた場合、処理は、ステップS22に進む。   In step S <b> 21, the face image dictionary additional registration determination unit 242 determines that the similarity is higher than the second threshold set higher than the first threshold th <b> 1 based on the similarity summation result. It is determined whether the face image group that has been added is a face image to be added and registered as a customer face image. For example, if the face image group of persons of the collation target face image is considered to be added and registered as the customer's face image, the process proceeds to step S22.

ステップS22において、顔画像辞書追加登録判定部242は、データベース管理部225に対して顧客登録DB22bに対して、今現在の顔画像群を追加して登録するように指令する。これに応じて、データベース管理部225は、顧客登録DB登録部252を制御して、生体情報DB22の顧客登録DB22bに、供給されてきた顔画像群を追加登録させる。   In step S22, the face image dictionary additional registration determination unit 242 instructs the database management unit 225 to add and register the current face image group to the customer registration DB 22b. In response to this, the database management unit 225 controls the customer registration DB registration unit 252 to additionally register the supplied face image group in the customer registration DB 22b of the biometric information DB 22.

そして、ステップS23において、人物判定部241は、顧客が来店した時刻や、その顧客の顔画像等を図示せぬメモリに記録する。   In step S23, the person determination unit 241 records the time when the customer visited the store, the face image of the customer, and the like in a memory (not shown).

また、ステップS21において、例えば、いずれの類似度についても第2の閾値である800ポイントを超えない場合、ステップS22の処理がスキップされて、処理は、ステップS23に進む。   In step S21, for example, if any similarity does not exceed the second threshold value of 800 points, the process of step S22 is skipped, and the process proceeds to step S23.

さらに、ステップS20において、例えば、図13の左下部で示されるように、今現在の顔画像群の顔画像の全てが下向きの顔画像であり、いずれの類似度についても第1の閾値である600ポイントを超えない場合、処理は、ステップS24に進む。   Furthermore, in step S20, for example, as shown in the lower left part of FIG. 13, all of the face images of the current face image group are downward face images, and any similarity is the first threshold value. If not exceeding 600 points, the process proceeds to step S24.

ステップS24において、人物判定部241は、顧客が来店した時刻や、その顧客の顔画像等を図示せぬメモリに記録する。   In step S24, the person determination unit 241 records the time when the customer visited the store, the face image of the customer, and the like in a memory (not shown).

ステップS25において、人物判定部241は、データベース管理部225に対して顧客登録DB22bに対して、今現在の顔画像群を新規に登録するように指令する。これに応じて、データベース管理部225は、顧客登録DB登録部252を制御して、生体情報DB22の顧客登録DB22bに、供給されてきた顔画像群を新規で登録させる。   In step S25, the person determination unit 241 instructs the database management unit 225 to newly register the current face image group to the customer registration DB 22b. In response to this, the database management unit 225 controls the customer registration DB registration unit 252 to newly register the supplied face image group in the customer registration DB 22b of the biometric information DB 22.

以上のように、顧客登録DB22bについても、上述した要注意人物DB22aの人物の顔画像における場合と同様に、顔画像における認証処理における認識精度を向上させることが可能となる。   As described above, also in the customer registration DB 22b, it is possible to improve the recognition accuracy in the authentication process for the face image, as in the case of the face image of the person in the watched person DB 22a described above.

また、第1の閾値および第2の閾値については、本人を他人と間違える本人棄却率(FRR)、および他人受入率(FAR)と、類似度を示すポイント(1000満ポイント)との関係は、図14で示される。すなわち、本人棄却率(FRR)は、類似度が高くなるほど高くなり、逆に、他人受入率(FAR)は、類似度が低くなるほど高い。このため、図14のような場合、第1の閾値th1は、本人棄却率(FRR)が、ある程度保証される600ポイント程度に設定し、第2の閾値th2は、他人受入率(FAR)がゼロを保証できる範囲となる800ポイント程度に設定するようにしてもよい。   In addition, regarding the first threshold and the second threshold, the relationship between the person rejection rate (FRR) and the other person acceptance rate (FAR), which mistakes the person for others, and the point indicating similarity (1000 points) is as follows: It is shown in FIG. That is, the principal rejection rate (FRR) increases as the similarity increases, and conversely, the other person acceptance rate (FAR) increases as the similarity decreases. For this reason, in the case of FIG. 14, the first threshold th1 is set to about 600 points where the principal rejection rate (FRR) is guaranteed to some extent, and the second threshold th2 is set to be the other person acceptance rate (FAR). You may make it set to about 800 points used as the range which can guarantee zero.

以上によれば、登録された顔画像と、照合対象となる顔画像群の顔画像との類似度を求める際、一致すると認められる第1の閾値よりも高く設定される第2の閾値よりも高いときに、照合対象となる顔画像群の顔画像を追加で登録することにより、類似度として信頼性の高い顔画像を登録させることが可能になると共に、顔向きが異なるなどして類似度は低いが、追跡されている同一の顔画像群の顔画像であることから同一の人物であることが保証されている、顔向きの異なる顔画像なども登録される可能性が増えるので、照合対象となる顔画像群の顔向などが変化しても認識精度を向上させることが可能となる。   According to the above, when the similarity between the registered face image and the face image of the face image group to be collated is obtained, the second threshold value is set higher than the first threshold value that is recognized as a match. By registering additional face images of the face image group to be collated when they are high, it becomes possible to register face images with high reliability as similarity, and similarities due to different face orientations, etc. Is low, but because it is a face image of the same face image group that is being tracked, it is guaranteed that the person is the same person. Recognition accuracy can be improved even if the face orientation of the target face image group changes.

ところで、上述した一連の監視処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。   Incidentally, the series of monitoring processes described above can be executed by hardware, but can also be executed by software. When a series of processing is executed by software, a program constituting the software may execute various functions by installing a computer incorporated in dedicated hardware or various programs. For example, it is installed from a recording medium in a general-purpose personal computer or the like.

図15は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタフェース1005が接続されている。バス1004には、ROM(Read Only Memory)302およびRAM(Random Access Memory)1003が接続されている。   FIG. 15 shows a configuration example of a general-purpose personal computer. This personal computer incorporates a CPU (Central Processing Unit) 1001. An input / output interface 1005 is connected to the CPU 1001 via the bus 1004. A ROM (Read Only Memory) 302 and a RAM (Random Access Memory) 1003 are connected to the bus 1004.

入出力インタフェース1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。   An input / output interface 1005 includes an input unit 1006 including an input device such as a keyboard and a mouse for a user to input an operation command, an output unit 1007 for outputting a processing operation screen and an image of a processing result to a display device, a program and various data A storage unit 1008 including a hard disk drive for storing data, a LAN (Local Area Network) adapter, and the like, and a communication unit 1009 for performing communication processing via a network represented by the Internet are connected. Also, a magnetic disk (including a flexible disk), an optical disk (including a CD-ROM (Compact Disc-Read Only Memory), a DVD (Digital Versatile Disc)), a magneto-optical disk (including an MD (Mini Disc)), or a semiconductor A drive 1010 for reading / writing data from / to a removable medium 1011 such as a memory is connected.

CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011から読み出されて記憶部1008にインストールされ、記憶部1008からRAM303にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。   The CPU 1001 is read from a program stored in the ROM 1002 or a removable medium 1011 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory, installed in the storage unit 1008, and loaded from the storage unit 1008 to the RAM 303. Various processes are executed according to the program. The RAM 1003 also appropriately stores data necessary for the CPU 1001 to execute various processes.

尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。   In this specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in time series in the order described, but of course, it is not necessarily performed in time series. Or the process performed separately is included.

また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。   Further, in this specification, the system represents the entire apparatus constituted by a plurality of apparatuses.

1,1−1乃至1−n 遊技店
2 生体情報管理センタ
3 生体情報管理データベース
4 第3者遊技店管理センタ
5 第3者遊技店管理データベース
6 生体情報管理バス
7 第3者遊技店管理バス
8,9 公衆通信回線網
21 生体情報認識装置
22 生体情報データベース
24 遊技店管理装置
26 遊技台管理データベース
27 媒体貸出管理装置
29 媒体貸出管理データベース
30 遊技店管理情報バス
31 生体情報バス
33 精算機
34 貸出機
35 計数機
36,36−1乃至36−m 遊技台
37,37−1乃至37−m 遊技台周辺端末
38,38−1乃至38−m カメラ
39,39−1乃至39−(m+p+q) 画像処理ユニット
40,40−1乃至40−p 入口カメラ
41,41−1乃至41−q 店内カメラ
1, 1-1 to 1-n amusement store 2 biometric information management center 3 biometric information management database 4 third party amusement store management center 5 third party amusement store management database 6 biometric information management bus 7 third party amusement store management bus 8, 9 Public communication network 21 Biometric information recognition device 22 Biometric information database 24 Game store management device 26 Game table management database 27 Medium lending management device 29 Medium lending management database 30 Amusement store management information bus 31 Biometric information bus 33 Settling machine 34 Lending machine 35 Counter 36,36-1 thru 36-m Game stand 37,37-1 thru 37-m Game stand peripheral terminal 38,38-1 thru 38-m Camera 39,39-1 thru 39- (m + p + q) Image processing unit 40, 40-1 to 40-p Entrance camera 41, 41-1 to 41-q In-store camera

Claims (6)

顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、
照合対象者の複数の顔画像を顔画像群として取得する取得手段と、
前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、
前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、
前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、
前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、
前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段と
を含む監視装置。
Accumulation means for accumulating a face image as an accumulator face image in an accumulator database;
Acquisition means for acquiring a plurality of face images of a person to be collated as a face image group;
Collation means for calculating and collating the similarity between each face image of the face image group of the person to be collated acquired by the acquisition means and the face image of the accumulator accumulated in the accumulation means;
Aggregating means for generating similarity as the face image group of the person to be collated by totaling the collation results of the face images of the face image group of the person to be collated;
Similarity determination means for determining whether or not the face image of the person to be collated is the face image of the accumulator by comparing the similarity that is the aggregation result of the aggregation means and a first threshold value;
When the similarity determination unit determines that the face image of the person to be collated is the face image of the accumulator, it is set higher than the similarity that is the counting result of the counting unit and the first threshold value. Additional registration determination means for determining whether to add and store the face image of the person to be collated as the face image of the accumulator by comparison with the second threshold value,
When it is determined by the additional registration determination means that the face image of the person to be collated is added and accumulated as the face image of the accumulator, the face image of the person to be collated is added and accumulated as the face image of the accumulator. And a storage control means for controlling the monitoring device.
前記第2の閾値は、前記第1の閾値よりも高く設定され、かつ、他人受入率が0となる範囲の値である
請求項1に記載の監視装置。
The monitoring apparatus according to claim 1, wherein the second threshold value is set to be higher than the first threshold value, and is a value in a range where the stranger acceptance rate is zero.
前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定されない場合、前記蓄積制御手段は、前記照合対象者の顔画像を、新規に蓄積するように制御する
請求項1に記載の監視装置。
If the similarity determination means does not determine that the face image of the person to be collated is the face image of the person to be accumulated, the accumulation control means controls to newly accumulate the face image of the person to be collated The monitoring apparatus according to claim 1.
前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段をさらに含む
請求項1に記載の監視装置。
2. The information processing apparatus according to claim 1, further comprising a notification unit that notifies that the collation target person is the accumulator when the similarity determination unit determines that the face image of the collation target person is the face image of the accumulator. The monitoring device described in 1.
顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、
照合対象者の複数の顔画像を顔画像群として取得する取得手段と、
前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、
前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、
前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、
前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、
前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段と
を含む監視装置の監視方法において、
前記取得手段における、照合対象者の複数の顔画像を顔画像群として取得する取得ステップと、
前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、
前記集計手段における、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計ステップと、
前記類似度判定手段における、前記集計ステップの処理での集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、
前記追加登録判定手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計ステップの処理での集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定ステップと、
前記蓄積制御手段における、前記追加登録判定ステップの処理により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御ステップと
を含む監視方法。
Accumulation means for accumulating a face image as an accumulator face image in an accumulator database;
Acquisition means for acquiring a plurality of face images of a person to be collated as a face image group;
Collation means for calculating and collating the similarity between each face image of the face image group of the person to be collated acquired by the acquisition means and the face image of the accumulator accumulated in the accumulation means;
Aggregating means for generating similarity as the face image group of the person to be collated by totaling the collation results of the face images of the face image group of the person to be collated;
Similarity determination means for determining whether or not the face image of the person to be collated is the face image of the accumulator by comparing the similarity that is the aggregation result of the aggregation means and a first threshold value;
When the similarity determination unit determines that the face image of the person to be collated is the face image of the accumulator, it is set higher than the similarity that is the counting result of the counting unit and the first threshold value. Additional registration determination means for determining whether to add and store the face image of the person to be collated as the face image of the accumulator by comparison with the second threshold value,
When it is determined by the additional registration determination means that the face image of the person to be collated is added and accumulated as the face image of the accumulator, the face image of the person to be collated is added and accumulated as the face image of the accumulator. In the monitoring method of the monitoring device including the storage control means for controlling to
An acquisition step of acquiring a plurality of face images of the person to be collated as a face image group in the acquisition means;
Collation for calculating and collating the similarity between each face image of the face image group of the person to be collated acquired by the process of the obtaining step in the collating means and the face image of the accumulating person accumulated in the accumulating means Steps,
A totaling step of generating a similarity as the face image group of the collation target person by totalizing collation results of the face images of the face image group of the collation target person in the tabulation unit;
Whether the face image of the person to be collated is the face image of the accumulator is determined by comparing the similarity that is the result of aggregation in the process of the aggregation step with the first threshold value in the similarity determination unit. A similarity determination step for determining;
In the additional registration determination unit, when it is determined that the face image of the person to be collated is the face image of the accumulator by the process of the similarity determination step, the similarity that is a total result in the process of the totaling step And whether to add and store the face image of the person to be collated as the face image of the accumulator by comparison with a second threshold value set higher than the first threshold value. A registration determination step;
If it is determined in the accumulation control means that the face image of the person to be collated is added and accumulated as the face image of the person to be accumulated by the process of the additional registration determination step, the face image of the person to be collated is stored in the person to be accumulated An accumulation control step for controlling to add and accumulate as a face image of the image.
顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、
照合対象者の複数の顔画像を顔画像群として取得する取得手段と、
前記取得手段により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、
前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計手段と、
前記集計手段の集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、
前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計手段の集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定手段と、
前記追加登録判定手段により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御手段と
を含む監視装置を制御するコンピュータに、
前記取得手段における、照合対象者の複数の顔画像を顔画像群として取得する取得ステップと、
前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像群の各顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、
前記集計手段における、前記照合対象者の顔画像群の各顔画像の照合結果を集計することにより、前記照合対象者の顔画像群としての類似度を生成する集計ステップと、
前記類似度判定手段における、前記集計ステップの処理での集計結果である類似度と第1の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、
前記追加登録判定手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記集計ステップの処理での集計結果である類似度と、前記第1の閾値よりも高く設定されている第2の閾値との比較により、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するか否かを判定する追加登録判定ステップと、
前記蓄積制御手段における、前記追加登録判定ステップの処理により前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積すると判定された場合、前記照合対象者の顔画像を前記蓄積者の顔画像として追加して蓄積するように制御する蓄積制御ステップと
を含む処理を実行させるプログラム。
Accumulation means for accumulating a face image as an accumulator face image in an accumulator database;
Acquisition means for acquiring a plurality of face images of a person to be collated as a face image group;
Collation means for calculating and collating the similarity between each face image of the face image group of the person to be collated acquired by the acquisition means and the face image of the accumulator accumulated in the accumulation means;
Aggregating means for generating similarity as the face image group of the person to be collated by totaling the collation results of the face images of the face image group of the person to be collated;
Similarity determination means for determining whether or not the face image of the person to be collated is the face image of the accumulator by comparing the similarity that is the aggregation result of the aggregation means and a first threshold value;
When the similarity determination unit determines that the face image of the person to be collated is the face image of the accumulator, it is set higher than the similarity that is the counting result of the counting unit and the first threshold value. Additional registration determination means for determining whether to add and store the face image of the person to be collated as the face image of the accumulator by comparison with the second threshold value,
When it is determined by the additional registration determination means that the face image of the person to be collated is added and accumulated as the face image of the accumulator, the face image of the person to be collated is added and accumulated as the face image of the accumulator. A computer that controls a monitoring device including storage control means for controlling
An acquisition step of acquiring a plurality of face images of the person to be collated as a face image group in the acquisition means;
Collation for calculating and collating the similarity between each face image of the face image group of the person to be collated acquired by the process of the obtaining step in the collating means and the face image of the accumulating person accumulated in the accumulating means Steps,
A totaling step of generating a similarity as the face image group of the collation target person by totalizing collation results of the face images of the face image group of the collation target person in the tabulation unit;
Whether the face image of the person to be collated is the face image of the accumulator is determined by comparing the similarity that is the result of aggregation in the process of the aggregation step with the first threshold value in the similarity determination unit. A similarity determination step for determining;
In the additional registration determination unit, when it is determined that the face image of the person to be collated is the face image of the accumulator by the process of the similarity determination step, the similarity that is a total result in the process of the totaling step And whether to add and store the face image of the person to be collated as the face image of the accumulator by comparison with a second threshold value set higher than the first threshold value. A registration determination step;
When it is determined in the accumulation control means that the face image of the person to be collated is added and accumulated as the face image of the person to be accumulated by the process of the additional registration determining step, the face image of the person to be collated is A storage control step for performing control so as to be added and stored as a face image.
JP2010152136A 2010-07-02 2010-07-02 Monitoring apparatus and method, and program Pending JP2012014568A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010152136A JP2012014568A (en) 2010-07-02 2010-07-02 Monitoring apparatus and method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010152136A JP2012014568A (en) 2010-07-02 2010-07-02 Monitoring apparatus and method, and program

Publications (1)

Publication Number Publication Date
JP2012014568A true JP2012014568A (en) 2012-01-19

Family

ID=45600893

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010152136A Pending JP2012014568A (en) 2010-07-02 2010-07-02 Monitoring apparatus and method, and program

Country Status (1)

Country Link
JP (1) JP2012014568A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013158433A (en) * 2012-02-03 2013-08-19 Daikoku Denki Co Ltd System for game hall
JP2014071610A (en) * 2012-09-28 2014-04-21 Keyware Solutions Inc Data processing apparatus, name identification processing method, and computer program
US9588957B2 (en) 2012-09-18 2017-03-07 Biglobe, Inc. Dictionary update method, dictionary update system, and dictionary update program
JP2017086446A (en) * 2015-11-10 2017-05-25 株式会社三洋物産 System for game parlor

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007094637A (en) * 2005-09-28 2007-04-12 Denso Corp Face image authentication device
JP2007279812A (en) * 2006-04-03 2007-10-25 Fuji Xerox Co Ltd Authenticity determination system, authenticity determination method, and program
JP2009003898A (en) * 2007-06-25 2009-01-08 Omron Corp Monitoring system, monitoring method, information processing device, and program
JP2009258990A (en) * 2008-04-16 2009-11-05 Panasonic Electric Works Co Ltd Face authentication device and face authentication method
JP2012003686A (en) * 2010-06-21 2012-01-05 Canon Inc Authentication device, authentication method, authentication program, and recording medium

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007094637A (en) * 2005-09-28 2007-04-12 Denso Corp Face image authentication device
JP2007279812A (en) * 2006-04-03 2007-10-25 Fuji Xerox Co Ltd Authenticity determination system, authenticity determination method, and program
JP2009003898A (en) * 2007-06-25 2009-01-08 Omron Corp Monitoring system, monitoring method, information processing device, and program
JP2009258990A (en) * 2008-04-16 2009-11-05 Panasonic Electric Works Co Ltd Face authentication device and face authentication method
JP2012003686A (en) * 2010-06-21 2012-01-05 Canon Inc Authentication device, authentication method, authentication program, and recording medium

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013158433A (en) * 2012-02-03 2013-08-19 Daikoku Denki Co Ltd System for game hall
US9588957B2 (en) 2012-09-18 2017-03-07 Biglobe, Inc. Dictionary update method, dictionary update system, and dictionary update program
JP2014071610A (en) * 2012-09-28 2014-04-21 Keyware Solutions Inc Data processing apparatus, name identification processing method, and computer program
JP2017086446A (en) * 2015-11-10 2017-05-25 株式会社三洋物産 System for game parlor

Similar Documents

Publication Publication Date Title
JP5617627B2 (en) Monitoring device and method, and program
JP5824806B2 (en) Facial image management device, facial image management method, and program
JP4941124B2 (en) Monitoring system and method, information processing apparatus, and program
JP4924883B2 (en) Monitoring device and method, and program
JP2007272604A (en) Information processor and information processing method, and program
JP2009000367A (en) Monitor, method and program
JP5013172B2 (en) Information processing apparatus and method, and program
JP2013022072A (en) Information processing equipment and method, attention degree calculation device, and program
JP5560976B2 (en) Information processing apparatus and method, and program
JP2012014568A (en) Monitoring apparatus and method, and program
JP5577729B2 (en) Monitoring device and method, and program
JP4877005B2 (en) Monitoring device and method, and program
JP5338178B2 (en) Monitoring device and method, and program
JP4760717B2 (en) Monitoring device and method, and program
JP2007293741A (en) Monitoring device and method, registrant collation device, attribute estimation device and method, and program
JP4807267B2 (en) Monitoring device and method, and program
JP5294020B2 (en) Image processing apparatus and method, and program
JP5338173B2 (en) Monitoring device and method, and program
JP5549418B2 (en) Information processing apparatus and method, and program
JP5678708B2 (en) Monitoring system, monitoring method and program
JP5168564B2 (en) Monitoring device and method, and program
JP4807291B2 (en) Monitoring device and method, monitoring system, and program
JP5589421B2 (en) Image processing apparatus, image processing method, and program
JP5292982B2 (en) Human body detection device and method, monitoring device and method, and program
JP2013022073A (en) Information processing equipment and method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130510

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20131011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140902