JP5560976B2 - Information processing apparatus and method, and program - Google Patents

Information processing apparatus and method, and program Download PDF

Info

Publication number
JP5560976B2
JP5560976B2 JP2010156357A JP2010156357A JP5560976B2 JP 5560976 B2 JP5560976 B2 JP 5560976B2 JP 2010156357 A JP2010156357 A JP 2010156357A JP 2010156357 A JP2010156357 A JP 2010156357A JP 5560976 B2 JP5560976 B2 JP 5560976B2
Authority
JP
Japan
Prior art keywords
face image
reliability
organ
face
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010156357A
Other languages
Japanese (ja)
Other versions
JP2012018593A (en
Inventor
良輔 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2010156357A priority Critical patent/JP5560976B2/en
Publication of JP2012018593A publication Critical patent/JP2012018593A/en
Application granted granted Critical
Publication of JP5560976B2 publication Critical patent/JP5560976B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、情報処理装置および方法、並びにプログラムに関し、特に、顔画像を用いた認証処理における人物以外の物体を人物として認識するといった誤検出を低減できるようにした情報処理装置および方法、並びにプログラムに関する。   The present invention relates to an information processing apparatus, method, and program, and more particularly, to an information processing apparatus, method, and program capable of reducing false detection such as recognizing an object other than a person as a person in authentication processing using a face image. About.

現在、多くの店舗や公共施設では、不特定多数の来店客または来場者の情報を画像として撮像し、撮像された画像内における人物の顔画像を、例えば、指名手配犯などの予め登録された人物の顔画像と照合する技術が提案されている(特許文献1参照)。   Currently, in many stores and public facilities, information on an unspecified number of customers or visitors is captured as an image, and a face image of a person in the captured image is registered in advance, for example, a wanted crime. A technique for collating with a human face image has been proposed (see Patent Document 1).

特開2002−279540号公報JP 2002-279540 A

しかしながら、特許文献1においては、出入口付近を撮像領域としているため、撮像領域内にポスタや立看板等に描かれているキャラクタ画像などの人物画像以外の顔画像が存在する場合、それらを実際の人物の顔画像として誤検出してしまうことがあった。   However, in Patent Document 1, since the vicinity of the entrance / exit is an imaging region, when face images other than a human image such as a character image drawn on a poster or a standing signboard are present in the imaging region, In some cases, it was erroneously detected as a human face image.

このような誤検出に対応するため、人物以外の顔画像を認識してしまう画像領域をマスキングして誤検出を低減する技術が提案されている(特願2007−156693号公報参照)。   In order to deal with such erroneous detection, a technique for reducing erroneous detection by masking an image region that recognizes a face image other than a person has been proposed (see Japanese Patent Application No. 2007-156893).

しかしながら、このようにマスキングするようにしても、人物以外の物体が移動するような場合、必ずしも有効に誤検出を低減させることができなかった。   However, even if masking is performed in this manner, erroneous detection cannot always be effectively reduced when an object other than a person moves.

本発明はこのような状況に鑑みてなされたものであり、顔画像の信頼度と、顔画像における顔を構成する各器官の信頼度とを求めて、それらが所定の値よりも高く信頼できるものであるときにのみ認証処理を実行させるようにして、顔画像を用いた認証処理における誤検出を低減させるものである。   The present invention has been made in view of such a situation, and the reliability of the face image and the reliability of each organ constituting the face in the face image are obtained, and they are reliable higher than a predetermined value. The authentication process is executed only when the image is an object to reduce false detection in the authentication process using the face image.

本発明の一側面の情報処理装置は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、画像より照合対象者の顔画像を取得する取得手段と、前記取得手段により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段と、前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段と、前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段と、前記器官抽出手段により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出手段と、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段とを含む。   An information processing apparatus according to an aspect of the present invention includes an accumulation unit that accumulates a face image as an accumulator face image in an accumulator database, an acquisition unit that acquires a face image of a person to be collated from an image, and an acquisition unit that acquires the face image The matching means for calculating and collating the similarity between the face image of the person to be collated and the face image of the accumulator accumulated in the accumulating means, the similarity as the collation result of the collating means, and a predetermined threshold And a similarity determination unit that determines whether the face image of the person to be collated is the face image of the accumulator, and the face image of the person to be collated by the accumulator by the similarity determination unit And a face for calculating the reliability of the face image acquired by the acquisition means as the face image reliability when it is determined that the person to be collated is the accumulator. Image reliability calculating means, and Organ extracting means for extracting a facial organ from the face image acquired by the obtaining means, organ reliability calculating means for calculating the reliability of the organ extracted by the organ extracting means as organ reliability, and the face image trust When both the degree and the organ reliability are higher than a predetermined threshold, the collation unit and the reliability determination unit that controls the similarity determination unit to perform processing.

前記取得手段が前記画像より顔画像を取得する手法には、顔の輪郭形状に対応したテンプレートを用いたテンプレートマッチング、前記顔を構成する器官に基づいたテンプレートマッチング、クロマキー処理により顔を構成する頭部の頂点を検出した後、その頂点に基づいて顔画像を検出する手法、肌色領域の形状に基づいて検出する手法、またはニューラルネットワークに基づいて、教師信号による学習により顔らしい領域を検出する手法を含ませるようにすることができる。   The obtaining means obtains a face image from the image using template matching using a template corresponding to the contour shape of the face, template matching based on an organ constituting the face, and a head constituting the face by chroma key processing. After detecting the vertices of the part, a method of detecting a face image based on the vertices, a method of detecting based on the shape of the skin color region, or a method of detecting a face-like region by learning with a teacher signal based on a neural network Can be included.

前記顔画像信頼度算出手段には、前記顔画像に基づいて、前記顔の輪郭に対応したテンプレートを用いたテンプレートマッチングにより、前記テンプレートとの一致の程度を示す値を前記顔画像信頼度として算出させるようにすることができる。   The face image reliability calculation means calculates a value indicating the degree of matching with the template as the face image reliability by template matching using a template corresponding to the face outline based on the face image. You can make it.

前記器官抽出手段には、前記顔画像に基づいて、前記器官を構成する画素位置の情報を特徴点として抽出し、前記顔画像の輪郭を含む前記器官を構成する画素位置の情報からなる特徴点の配置を学習することにより得られるパターンを用いたパターンマッチング、または、前記顔画像の領域内における前記器官を構成する画素位置の情報からなる特徴点の配置パターンに基づいたパターンマッチングによりを抽出させるようにすることができる。   Based on the face image, the organ extracting means extracts pixel position information constituting the organ as a feature point, and a feature point comprising pixel position information constituting the organ including the outline of the face image By pattern matching using a pattern obtained by learning the arrangement of the pattern, or pattern matching based on the arrangement pattern of feature points consisting of information on pixel positions constituting the organ in the region of the face image Can be.

前記器官信頼度算出手段には、教師信号による学習により求められた前記顔画像における前記器官を構成する特徴点のパターンとなる画素位置の画素の輝度値のベクトルと、前記器官抽出手段により抽出された器官を構成する特徴点のパターンとなる画素位置の画素の輝度値のベクトルとのユークリッド空間における距離を前記器官信頼度として算出させるようにすることができる。   The organ reliability calculation means is extracted by the organ extraction means and a vector of luminance values of pixels at pixel positions that are pattern of feature points constituting the organ in the face image obtained by learning by a teacher signal. It is possible to calculate the distance in the Euclidean space from the brightness value vector of the pixel at the pixel position that becomes the pattern of the feature points constituting the organ as the organ reliability.

本発明の一側面の情報処理方法は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、画像より照合対象者の顔画像を取得する取得手段と、前記取得手段により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段と、前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段と、前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段と、前記器官抽出手段により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出手段と、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段とを含む情報処理装置の情報処理方法であって、前記取得手段における、画像より照合対象者の顔画像を取得する取得ステップと、前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、前記類似度判定手段における、前記照合ステップの処理での照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、前記通知手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知ステップと、前記顔画像信頼度算出手段における、前記取得ステップの処理により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出ステップと、前記器官抽出手段における、前記取得ステップの処理により取得された顔画像より顔の器官を抽出する器官抽出ステップと、前記器官信頼度算出手段における、前記器官抽出ステップの処理により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出ステップと、前記信頼度判定手段における、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合ステップ、および前記類似判定ステップでの、処理を実行させるように制御する信頼度判定ステップとを含む。   An information processing method according to one aspect of the present invention includes an accumulating unit that accumulates a face image as an accumulator's face image in an accumulator database, an acquisition unit that acquires a face image of a collation target person from the image, and an acquisition unit that acquires the face image. The matching means for calculating and collating the similarity between the face image of the person to be collated and the face image of the accumulator accumulated in the accumulating means, the similarity as the collation result of the collating means, and a predetermined threshold And a similarity determination unit that determines whether the face image of the person to be collated is the face image of the accumulator, and the face image of the person to be collated by the accumulator by the similarity determination unit And a face for calculating the reliability of the face image acquired by the acquisition means as the face image reliability when it is determined that the person to be collated is the accumulator. Image reliability calculating means, and Organ extracting means for extracting a facial organ from the face image acquired by the obtaining means, organ reliability calculating means for calculating the reliability of the organ extracted by the organ extracting means as organ reliability, and the face image trust And a reliability determination unit that controls the collation unit and the similarity determination unit to perform processing when both the degree and the organ reliability are higher than a predetermined threshold. An information processing method, wherein the obtaining unit obtains a face image of a person to be collated from an image in the obtaining unit, the face image of the person to be collated obtained by the process of the obtaining step in the collating unit, A collation step for calculating and collating the similarity with the accumulator face image accumulated in the accumulating means, and a collation result in the collation step processing in the similarity determining means A similarity determination step for determining whether or not the face image of the person to be collated is the face image of the accumulator by comparing a certain similarity with a predetermined threshold value, and the similarity determination step in the notification means A notification step of notifying that the person to be collated is the accumulator when the face image of the person to be collated is determined to be the face image of the accumulator by the processing of A face image reliability calculation step of calculating the reliability of the face image acquired by the process of the acquisition step as a face image reliability, and a face image acquired by the process of the acquisition step in the organ extraction means An organ extraction step for extracting a facial organ, and the reliability of the organ extracted by the processing of the organ extraction step in the organ reliability calculation means is used as the organ reliability. When both of the organ reliability calculation step to calculate and the face image reliability and the organ reliability in the reliability determination means are higher than a predetermined threshold, the collation step and the similarity determination step And a reliability determination step for controlling to execute the process.

本発明の一側面のプログラムは、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、画像より照合対象者の顔画像を取得する取得手段と、前記取得手段により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段と、前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段と、前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段と、前記器官抽出手段により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出手段と、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段とを含む情報処理装置を制御するコンピュータに、前記取得手段における、画像より照合対象者の顔画像を取得する取得ステップと、前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、前記類似度判定手段における、前記照合ステップの処理での照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、前記通知手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知ステップと、前記顔画像信頼度算出手段における、前記取得ステップの処理により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出ステップと、前記器官抽出手段における、前記取得ステップの処理により取得された顔画像より顔の器官を抽出する器官抽出ステップと、前記器官信頼度算出手段における、前記器官抽出ステップの処理により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出ステップと、前記信頼度判定手段における、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合ステップ、および前記類似判定ステップでの、処理を実行させるように制御する信頼度判定ステップとを含む処理を実行させる。   The program according to one aspect of the present invention is acquired by an accumulating unit that accumulates a face image as an accumulator's face image in an accumulator database, an acquisition unit that acquires a face image of a person to be collated from an image, and the acquisition unit. The similarity between the face image of the person to be collated and the face image of the accumulator accumulated in the accumulating means is calculated, the collation means for collating, the similarity as the collation result of the collating means and a predetermined threshold value Similarity determination means for determining whether the face image of the person to be collated is the face image of the accumulator by comparison, and the face image of the person to be collated is the face of the accumulator by the similarity determination means If it is determined that the image is an image, a notifying unit that notifies that the person to be collated is the accumulator, and a face image trust that calculates the reliability of the face image acquired by the acquiring unit as a face image reliability Degree calculation means, Organ extracting means for extracting a facial organ from the face image acquired by the means, organ reliability calculating means for calculating the reliability of the organ extracted by the organ extracting means as organ reliability, and the face image reliability And when the organ reliability is higher than a predetermined threshold, the information processing apparatus is controlled including a reliability determination unit that controls the collation unit and the similarity determination unit to execute processing. In the acquisition unit, the acquisition unit acquires the facial image of the verification target person from the image, the verification unit acquires the facial image of the verification target in the verification unit, and the storage unit The collation step for calculating and collating the similarity with the accumulated face image of the accumulator, and the collation result in the collation step processing in the similarity determination means A similarity determination step for determining whether or not the face image of the person to be collated is the face image of the accumulator by comparing a certain similarity with a predetermined threshold value, and the similarity determination step in the notification means A notification step of notifying that the person to be collated is the accumulator when the face image of the person to be collated is determined to be the face image of the accumulator by the processing of A face image reliability calculation step of calculating the reliability of the face image acquired by the process of the acquisition step as a face image reliability, and a face image acquired by the process of the acquisition step in the organ extraction means An organ extraction step for extracting a facial organ, and the reliability of the organ extracted by the processing of the organ extraction step in the organ reliability calculation means is used as the organ reliability. When both of the organ reliability calculation step to calculate and the face image reliability and the organ reliability in the reliability determination means are higher than a predetermined threshold, the collation step and the similarity determination step The process including the reliability determination step of controlling to execute the process is executed.

本発明の一側面においては、顔画像が蓄積者の顔画像として蓄積者データベースに蓄積され、画像より照合対象者の顔画像が取得され、取得された照合対象者の顔画像と、蓄積された蓄積者の顔画像との類似度が計算されて、照合され、照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かが判定され、前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることが通知され、取得された顔画像の信頼度が顔画像信頼度として算出され、取得された顔画像より顔の器官が抽出され、抽出された器官の信頼度が器官信頼度として算出され、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合処理、および前記類似判定処理が実行されるように制御される。   In one aspect of the present invention, the face image is accumulated in the accumulator database as the accumulator face image, the face image of the collation target person is acquired from the image, and the acquired face image of the collation target person is accumulated. The similarity with the accumulator face image is calculated, collated, and whether the collation target face image is the accumulator face image by comparing the similarity as a collation result with a predetermined threshold value. Is determined, and when it is determined that the face image of the person to be collated is the face image of the accumulator, it is notified that the person to be collated is the accumulator, and the reliability of the acquired face image Is calculated as the face image reliability, the organ of the face is extracted from the acquired face image, the reliability of the extracted organ is calculated as the organ reliability, and any one of the face image reliability and the organ reliability Is higher than a predetermined threshold, If processing, and the similarity determination process is controlled to be executed.

本発明の一側面の情報処理装置における、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段とは、例えば、生体情報データベースであり、画像より照合対象者の顔画像を取得する取得手段とは、例えば、顔画像取得部であり、前記取得手段により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段とは、例えば、類似度計算部であり、前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段とは、例えば、類似度判定部であり、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段とは、例えば、通信部であり、前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段とは、例えば、顔画像信頼度算出部であり、前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段とは、例えば、顔器官抽出部であり、前記器官抽出手段により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出手段とは、例えば、顔器官信頼度算出部であり、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段とは、例えば、顔画像判定部である。   In the information processing apparatus according to one aspect of the present invention, the accumulation unit that accumulates the face image as the accumulator face image in the accumulator database is, for example, a biometric information database, and acquires the face image of the person to be collated from the image. The acquisition unit is, for example, a face image acquisition unit, which calculates the similarity between the face image of the person to be verified acquired by the acquisition unit and the face image of the person accumulated in the accumulation unit, and performs collation For example, the collation means is a similarity calculation unit, and the face image of the person to be collated is the face image of the accumulator by comparing the similarity as the collation result of the collation means with a predetermined threshold. The similarity determination means for determining whether or not is, for example, a similarity determination unit, and when the similarity determination means determines that the face image of the person to be collated is the face image of the accumulator, The person to be verified The notification means for notifying that the person is a person is, for example, a communication unit, and the face image reliability calculation means for calculating the reliability of the face image acquired by the acquisition means as the face image reliability is, for example, The face image reliability calculation unit, and the organ extraction unit that extracts a facial organ from the face image acquired by the acquisition unit is, for example, a face organ extraction unit, and the organ extracted by the organ extraction unit The organ reliability calculation means for calculating the reliability as the organ reliability is, for example, a facial organ reliability calculation unit, and both the face image reliability and the organ reliability are higher than a predetermined threshold. In this case, the reliability determination unit that controls the collation unit and the similarity determination unit to execute processing is, for example, a face image determination unit.

すなわち、顔画像判定部が、顔画像信頼度算出部により算出される顔画像信頼度と、器官信頼度算出部により算出される器官信頼度が、いずれも所定の閾値よりも高く、顔画像としての信頼度がある程度保証される状況においてのみ、類似度計算部による類似度の計算と、類似度と所定の閾値との比較により照合対象者と蓄積者との顔画像が一致するか否かを判定するようにした。   That is, both the face image reliability calculated by the face image reliability calculation unit and the organ reliability calculated by the organ reliability calculation unit are higher than a predetermined threshold, and the face image determination unit Whether or not the face images of the collation target person and the accumulator match by calculating the similarity by the similarity calculation unit and comparing the similarity with a predetermined threshold only in a situation where the reliability of the image is guaranteed to some extent. Judgment was made.

結果として、顔画像信頼度が低い、または、器官信頼度が低い顔画像については、類似度計算部により照合処理が行われず、照合対象者と蓄積者とが一致するか否かが判定されることさえもなくなるので、本来顔画像における認証処理の必要がない顔画像の処理を省くことが可能となり、誤検出を低減させると共に、不要な処理をなくすことで処理負荷を低減させることが可能となる。   As a result, for a face image with low face image reliability or low organ reliability, the similarity calculation unit does not perform collation processing, and it is determined whether the collation target person and the accumulator match. Therefore, it is possible to omit face image processing that originally does not require authentication processing on the face image, to reduce false detection, and to reduce processing load by eliminating unnecessary processing. Become.

本発明によれば、顔画像を用いた認証処理における誤検出を低減させることが可能となる。   According to the present invention, it is possible to reduce erroneous detection in authentication processing using a face image.

本発明を適用した監視システムの一実施の形態の構成を示す図である。It is a figure which shows the structure of one Embodiment of the monitoring system to which this invention is applied. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1のカメラの設置例を示す図である。It is a figure which shows the example of installation of the camera of FIG. 図1の入口カメラおよび店内カメラの設置例を示す図である。It is a figure which shows the example of installation of the entrance camera and shop camera of FIG. 図1の画像処理ユニットの構成例を説明する図である。It is a figure explaining the structural example of the image processing unit of FIG. 図1の生体情報認識装置の構成例を説明する図である。It is a figure explaining the structural example of the biometric information recognition apparatus of FIG. 登録遊技者来店監視処理を説明するフローチャートである。It is a flowchart explaining a registered player visit monitoring process. 信頼度算出処理を説明するフローチャートである。It is a flowchart explaining a reliability calculation process. 類似度計算処理を説明するフローチャートである。It is a flowchart explaining a similarity calculation process. 汎用のパーソナルコンピュータの構成例を説明する図である。And FIG. 11 is a diagram illustrating a configuration example of a general-purpose personal computer.

以下に本発明の実施の形態を説明するが、本発明の構成要件と、発明の詳細な説明に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、発明の詳細な説明に記載されていることを確認するためのものである。従って、発明の詳細な説明中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between the configuration requirements of the present invention and the embodiments described in the detailed description of the present invention are exemplified as follows. This description is to confirm that the embodiments supporting the present invention are described in the detailed description of the invention. Accordingly, although there are embodiments that are described in the detailed description of the invention but are not described here as embodiments corresponding to the constituent elements of the present invention, It does not mean that the embodiment does not correspond to the configuration requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.

すなわち、本発明の一側面の情報処理装置は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段(例えば、図10の生体情報DB22)と、画像より照合対象者の顔画像を取得する取得手段(例えば、図10の顔画像取得部221)と、前記取得手段により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段(例えば、図10の類似度計算部232)と、前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段(例えば、図10の類似度判定部235)と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段(例えば、図10の通信部228)と、前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段(例えば、図10の顔画像信頼度算出部222)と、前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段(例えば、図10の顔器官抽出部223)と、前記器官抽出手段により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出手段(例えば、図10の顔器官信頼度算出部224)と、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段(例えば、図10の顔画像判定部225)とを含む。   That is, the information processing apparatus according to one aspect of the present invention includes a storage unit (for example, the biometric information DB 22 in FIG. 10) that stores a face image in the store database as a store person's face image; The degree of similarity between the acquisition means (for example, the face image acquisition unit 221 in FIG. 10), the face image of the person to be collated acquired by the acquisition means, and the face image of the accumulator accumulated in the accumulation means The collation means (for example, the similarity calculation unit 232 in FIG. 10) that calculates and collates, and the similarity that is the collation result of the collation means and a predetermined threshold value, the face image of the person to be collated is Similarity determination means (for example, the similarity determination unit 235 in FIG. 10) for determining whether or not the face image of the accumulator is used, and the face image of the person to be collated is the face of the accumulator by the similarity determination means. When it is determined to be an image Notification means (for example, the communication unit 228 in FIG. 10) for notifying that the person to be collated is the accumulator, and a face image that calculates the reliability of the face image acquired by the acquisition means as the face image reliability Reliability calculation means (for example, face image reliability calculation section 222 in FIG. 10) and organ extraction means (for example, face organ extraction section 223 in FIG. 10) that extracts facial organs from the face image acquired by the acquisition means. ), Organ reliability calculation means (for example, facial organ reliability calculation unit 224 in FIG. 10) that calculates the reliability of the organ extracted by the organ extraction means as the organ reliability, and the face image reliability, and When any of the organ reliability levels is higher than a predetermined threshold, a reliability level determination unit (for example, a face image determination unit in FIG. 10) that controls the collation unit and the similarity determination unit to execute processing. 225).

本発明の一側面の情報処理方法は、顔画像を蓄積者の顔画像として蓄積者データベースに蓄積する蓄積手段と、画像より照合対象者の顔画像を取得する取得手段と、前記取得手段により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段と、前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段と、前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段と、前記器官抽出手段により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出手段と、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段とを含む情報処理装置の情報処理方法であって、前記取得手段における、画像より照合対象者の顔画像を取得する取得ステップ(例えば、図11のステップS21)と、前記照合手段における、前記取得ステップの処理により取得された照合対象者の顔画像と、前記蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップ(例えば、図13のステップS73)と、前記類似度判定手段における、前記照合ステップの処理での照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップ(例えば、図11のステップS32)と、前記通知手段における、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知ステップ(例えば、図11のステップS35)と、前記顔画像信頼度算出手段における、前記取得ステップの処理により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出ステップ(例えば、図12のステップS51)と、前記器官抽出手段における、前記取得ステップの処理により取得された顔画像より顔の器官を抽出する器官抽出ステップ(例えば、図12のステップS52)と、前記器官信頼度算出手段における、前記器官抽出ステップの処理により抽出された器官の信頼度を器官信頼度として算出する器官信頼度算出ステップ(例えば、図12のステップS53)と、前記信頼度判定手段における、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合ステップ、および前記類似判定ステップでの、処理を実行させるように制御する信頼度判定ステップ(例えば、図11のステップS24)とを含む。   An information processing method according to one aspect of the present invention includes an accumulating unit that accumulates a face image as an accumulator's face image in an accumulator database, an acquisition unit that acquires a face image of a collation target person from the image, and an acquisition unit that acquires the face image. The matching means for calculating and collating the similarity between the face image of the person to be collated and the face image of the accumulator accumulated in the accumulating means, the similarity as the collation result of the collating means, and a predetermined threshold And a similarity determination unit that determines whether the face image of the person to be collated is the face image of the accumulator, and the face image of the person to be collated by the accumulator by the similarity determination unit And a face for calculating the reliability of the face image acquired by the acquisition means as the face image reliability when it is determined that the person to be collated is the accumulator. Image reliability calculating means, and Organ extracting means for extracting a facial organ from the face image acquired by the obtaining means, organ reliability calculating means for calculating the reliability of the organ extracted by the organ extracting means as organ reliability, and the face image trust And a reliability determination unit that controls the collation unit and the similarity determination unit to perform processing when both the degree and the organ reliability are higher than a predetermined threshold. An information processing method, which is acquired by an acquisition step (for example, step S21 in FIG. 11) of acquiring a face image of a person to be verified from an image in the acquisition unit and a process of the acquisition step in the verification unit. A collation step for calculating and collating the similarity between the face image of the person to be collated and the face image of the accumulator accumulated in the accumulation means (for example, step S73 in FIG. 13) Whether or not the face image of the person to be collated is the face image of the accumulator by comparing the similarity that is the collation result in the process of the collation step with a predetermined threshold in the similarity determination unit. A similarity determination step (for example, step S32 in FIG. 11) for determining whether or not the face image of the person to be collated is the face image of the accumulator by the processing of the similarity determination step in the notification means. The face image acquired by the notification step (for example, step S35 in FIG. 11) for notifying that the person to be collated is the accumulator and the acquisition step in the face image reliability calculation means. The face image reliability calculation step (for example, step S51 in FIG. 12) for calculating the reliability of the image as the face image reliability, and the processing of the acquisition step in the organ extraction means An organ extraction step (for example, step S52 in FIG. 12) for extracting a facial organ from the face image acquired by the processing, and the reliability of the organ extracted by the processing of the organ extraction step in the organ reliability calculation means The organ reliability calculation step (for example, step S53 in FIG. 12) for calculating the organ reliability as the organ reliability, and the face image reliability and the organ reliability in the reliability determination means are both lower than a predetermined threshold. If the value is also higher, a reliability determination step (for example, step S24 in FIG. 11) that controls to execute processing in the collation step and the similarity determination step is included.

[監視システムの構成例]
図1は、本発明に係る遊技店の監視システムの一実施の形態の構成を示す図である。
[Example of monitoring system configuration]
FIG. 1 is a diagram showing a configuration of an embodiment of a game shop monitoring system according to the present invention.

遊技店1−1乃至1−nは、いわゆるパチンコ店、パチスロ店、または、カジノ店である。また、これらの遊技店1−1乃至1−nは、系列店舗または生体情報管理センタや第3者遊技店管理センタの加盟店であって、複数の店舗を統括的に管理する必要のある店舗である。各遊技店1−1乃至1−nは、生体情報管理バス6および第3者遊技店管理バス7により接続されており、それらのバスおよびインターネット等に代表される公衆通信回線網8,9を介して、相互にそれぞれ生体情報、および第3者遊技店管理情報を授受している。尚、以降において、遊技店1−1乃至1−nのそれぞれについて、特に区別する必要がない場合、単に、遊技店1と称するものとし、その他の構成についても同様に称するものとする。   The game stores 1-1 to 1-n are so-called pachinko stores, pachislot stores, or casino stores. These amusement stores 1-1 to 1-n are affiliated stores or member stores of the biometric information management center or the third party amusement store management center, and stores that need to manage a plurality of stores in an integrated manner. It is. The game stores 1-1 to 1-n are connected by a biological information management bus 6 and a third-party game store management bus 7, and the public communication line networks 8 and 9 represented by the bus and the Internet are used. Via each other, biological information and third-party amusement store management information are exchanged. In the following description, when there is no particular need to distinguish each of the game stores 1-1 to 1-n, the game store 1 is simply referred to, and the other configurations are also referred to in the same manner.

生体情報管理バス6は、主に各遊技店1の生体情報認識装置21により管理される生体情報を流通させるための伝送路として機能する。また、第3者遊技店管理バス7は、主に各遊技店1の媒体貸出管理装置27により管理される媒体貸出管理情報を流通させるための伝送路として機能する。   The biometric information management bus 6 mainly functions as a transmission path for distributing biometric information managed by the biometric information recognition device 21 of each game store 1. The third-party game store management bus 7 functions as a transmission path for distributing medium lending management information managed mainly by the medium lending management device 27 of each amusement store 1.

生体情報管理センタ2は、生体情報管理センタを管理運営する事業者により使用されるサーバであり、生体情報管理データベース(以降、DBとも称するものとする)3で管理されている登録遊技者DBを各遊技店1により生成される未登録遊技者DBに基づいて更新すると供に、更新した最新の登録遊技者DBを各遊技店1の生体情報認識装置21に対して配信する。   The biometric information management center 2 is a server used by a business operator who manages and operates the biometric information management center. The registered player DB managed by the biometric information management database (hereinafter also referred to as DB) 3 is stored in the biometric information management center 2. In addition to updating based on the unregistered player DB generated by each gaming store 1, the updated updated registered player DB is distributed to the biometric information recognition device 21 of each gaming store 1.

第3者遊技店管理センタ4は、第3者遊技店管理センタを管理運営する事業者により使用されるサーバであり、第3者遊技店管理データベース(DB)5で管理されている媒体貸出管理情報からなるDBを各遊技店1より供給されてくる情報に基づいて更新すると供に、更新した最新の媒体貸出管理情報を各遊技店1の媒体貸出管理装置27に対して配信する。   The third-party amusement store management center 4 is a server used by a business operator that manages and operates the third-party amusement store management center, and the medium lending management managed by the third-party amusement store management database (DB) 5 In addition to updating the information DB based on the information supplied from each game store 1, the updated latest medium lending management information is distributed to the medium lending management device 27 of each game store 1.

生体情報認識装置21は、カメラ38−1乃至38−m、入口カメラ40−1乃至40−p、および店内カメラ41−1乃至41−qにより撮像された画像より画像処理ユニット39−1乃至39−(m+p+q)により抽出されて、生体情報バス31を介して供給されてくる顔画像の情報に基づいて、生体情報データベース22に予め登録されている顔画像と照合し、一致する場合、登録遊技者の来店を携帯端末20に通知したり、LCD(Liquid Crystal Display)または有機EL(Electronic Luminescent)などからなる表示部23に表示する。また、生体情報データベース22に予め登録されている顔画像と照合し、一致しない場合、生体情報認識装置21は、生体情報管理データベース3にアクセスし、未登録者として未登録遊技者DBに登録する。   The biometric information recognition apparatus 21 includes image processing units 39-1 to 39 based on images captured by the cameras 38-1 to 38-m, the entrance cameras 40-1 to 40-p, and the in-store cameras 41-1 to 41-q. Based on the face image information extracted by − (m + p + q) and supplied via the biometric information bus 31, the face image registered in advance in the biometric information database 22 is collated. The store visitor's visit is notified to the portable terminal 20 or displayed on the display unit 23 made up of an LCD (Liquid Crystal Display) or an organic EL (Electronic Luminescent). Further, when the face image registered in the biometric information database 22 is collated and does not match, the biometric information recognition device 21 accesses the biometric information management database 3 and registers it as an unregistered player in the unregistered player DB. .

遊技店管理装置24は、いわゆるホールコンピュータと呼ばれるものであり、遊技店管理情報バス30を介して遊技台36−1乃至36−mの動作を監視している。遊技店管理装置24は、遊技台36の出玉もしくはメダルの払い出しの情報、各遊技台36−1乃至36−mの遊技者の呼び出し情報、またはエラーの発生などの監視状況に応じて、所定の処理を実行し、実行結果をLCDや有機ELなどからなる表示部25に表示する。遊技店管理装置24は、計数機35、遊技台36−1乃至36−m、および遊技台周辺端末37−1乃至37−mのそれぞれより供給されてくる情報を、それぞれを識別する識別情報(例えば、遊技台番号)とを対応付けて遊技台管理データベース26により管理する。   The game store management device 24 is a so-called hall computer, and monitors the operations of the game machines 36-1 to 36-m via the game store management information bus 30. The game store management device 24 determines a predetermined amount according to the monitoring status such as information on the payout of the game table 36 or the payout of medals, the call information of the players on the game tables 36-1 to 36-m, or the occurrence of an error. The above process is executed, and the execution result is displayed on the display unit 25 formed of an LCD, an organic EL, or the like. The game store management device 24 identifies information supplied from the counter 35, the game machines 36-1 to 36-m, and the game machine peripheral terminals 37-1 to 37-m, respectively. For example, it is managed by the gaming machine management database 26 in association with the gaming machine number.

媒体貸出管理装置27は、精算販売機33、および貸出機34からの情報に基づいて、貸し出される遊技媒体の媒体貸出管理情報を媒体貸出管理データベース29を用いて管理すると供に、媒体貸出管理データベース29に登録されている媒体貸出管理情報を更新する際、その更新情報を、第3者遊技店管理バス7および公衆通信回線網9を介して第3者遊技店管理センタ4に送る。さらに、媒体貸出管理装置27は、第3者遊技店管理バス7および公衆通信回線網9を介して第3者遊技店管理センタ4により供給されてくる媒体貸出管理情報を取得し、媒体貸出管理データベース29に蓄積させる。   The medium lending management device 27 manages the medium lending management information of the rented game media using the medium lending management database 29 based on the information from the payment machine 33 and the lending machine 34, and also the medium lending management database. When the medium lending management information registered in 29 is updated, the updated information is sent to the third party amusement store management center 4 via the third party amusement store management bus 7 and the public communication line network 9. Further, the medium lending management device 27 acquires the medium lending management information supplied by the third party amusement store management center 4 via the third party amusement store management bus 7 and the public communication line network 9, and manages the medium lending management. Store in the database 29.

貸出機34は、遊技者が遊技台36で遊技する際、現金やプリペイドカードなどにより所定の金額を受け付けると、金額に応じた個数の遊技媒体を貸し出す。この際、貸出機34は、受け付けた現金やプリペイドカードの残数などの情報と供に、貸し出した遊技媒体の個数の情報を媒体貸出管理装置27に供給する。これにより、媒体貸出管理装置27は、受け付けた現金やプリペイドカードの残数などの情報と供に、貸し出した遊技媒体の個数の情報を媒体貸出管理情報データベース29に登録する。   The lending machine 34 lends a number of game media according to the amount when the player accepts a predetermined amount by cash or a prepaid card when playing on the gaming table 36. At this time, the lending machine 34 supplies information on the number of lent gaming media to the medium lending management device 27 together with information such as the accepted cash and the remaining number of prepaid cards. Thereby, the medium lending management device 27 registers information on the number of lent gaming media in the medium lending management information database 29 together with information such as the received cash and the remaining number of prepaid cards.

精算販売機33は、貸球を借りるための度数をつけてプリペイドカードを販売する。このとき、精算販売機33は、販売したプリペイドカードの度数を払いうけた金額を媒体貸出管理装置27に供給する。また、精算販売機33は、プリペイドカードなどの度数として貸し出した遊技媒体の残数に基づいて現金を精算して払い出す。このとき、精算販売機33は、プリペイドカードの残数と払い戻した現金の金額を媒体貸出管理装置27に供給する。   The checkout machine 33 sells prepaid cards with a frequency for borrowing a ball. At this time, the checkout machine 33 supplies the medium lending management device 27 with the amount paid for the frequency of the prepaid card sold. Further, the settlement vending machine 33 settles and pays out cash based on the remaining number of game media lent as a frequency such as a prepaid card. At this time, the checkout machine 33 supplies the remaining number of prepaid cards and the amount of cash refunded to the medium lending management device 27.

計数機35は、遊技者が遊技台36により遊技することにより獲得した遊技媒体の数を、計数し、計数結果を磁気カードやレシートなどとして出力する。   The counter 35 counts the number of game media acquired by the player playing on the game table 36, and outputs the counting result as a magnetic card or a receipt.

遊技台36−1乃至36−mは、遊技者により所定の操作がなされることにより、遊技を実行し、いわゆる小当たりや大当たりに応じて、遊技球、または、メダルを払い出す。   The game machines 36-1 to 36-m execute a game when a predetermined operation is performed by the player, and pay out a game ball or a medal according to a so-called small hit or big hit.

遊技台周辺端末37−1乃至37−mは、各遊技台36−1乃至36−mに対応して設けられている、いわゆる台間機であり、台間球貸機(原理的には、貸出機34と同様のもの)などが設けられている。また、遊技台周辺端末37は、遊技台36を遊技する遊技者の顔画像などの生体情報を取得し、遊技台識別情報(遊技台番号)と共に生体情報認識装置21に送信する。尚、図1においては、生体情報を取得する機能として、遊技者の顔画像を取得するカメラ38−1乃至38−mが設けられている例が示されている。   The game console peripheral terminals 37-1 to 37-m are so-called pedestrian machines provided corresponding to the respective game machines 36-1 to 36-m. The same as the lending machine 34) is provided. Further, the gaming machine peripheral terminal 37 acquires biological information such as a face image of the player who plays the gaming machine 36 and transmits it to the biological information recognition device 21 together with the gaming machine identification information (game machine number). FIG. 1 shows an example in which cameras 38-1 to 38-m that acquire a player's face image are provided as a function of acquiring biometric information.

カメラ38−1乃至38−mは、例えば、図2で示されるように、各遊技台36−1乃至36−4のそれぞれの上部に設けられた台表示ランプ61−1乃至61−4の下部に図3で示されるように、読取範囲δ内に遊技者が撮像できるように設け、顔画像を撮像するようにしてもよく、このようにすることにより、各カメラIDは、同時に遊技台IDとして使用することが可能となる。   For example, as shown in FIG. 2, the cameras 38-1 to 38-m are arranged below the table display lamps 61-1 to 61-4 provided on the respective upper sides of the game tables 36-1 to 36-4. As shown in FIG. 3, a face image may be taken so that the player can take an image within the reading range δ. Can be used.

また、カメラ38−1乃至38−mは、例えば、図4で示されるように、遊技台周辺端末37−1乃至37−4に凸部71−1乃至71−4を設け、図5で示されるように読取範囲θ内に遊技者の顔画像が撮像できるように設けるようにしてもよい。   Further, as shown in FIG. 4, the cameras 38-1 to 38-m are provided with convex portions 71-1 to 71-4 on the gaming machine peripheral terminals 37-1 to 37-4, as shown in FIG. As described above, it may be provided so that a player's face image can be captured within the reading range θ.

さらに、カメラ38−1乃至38−mは、例えば、図6で示されるように、遊技台36の中央部(遊技台36の盤面上)に設けるようにして、撮像するようにしてもよい。すなわち、図6の設置部81にカメラ38が設置されることにより、図7で示されるように、読取範囲φ内に遊技者を撮像する。   Further, for example, as shown in FIG. 6, the cameras 38-1 to 38-m may be provided at the center of the game table 36 (on the board surface of the game table 36) to take an image. That is, by installing the camera 38 in the installation unit 81 of FIG. 6, the player is imaged within the reading range φ as shown in FIG.

入口カメラ40−1乃至40−pおよび店内カメラ41−1乃至41−qは、遊技店1の店内における出入口および所定の場所に設置され、撮像した画像をそれぞれ画像処理ユニット39−(m+1)乃至39−(m+p+q)に供給する。   The entrance cameras 40-1 to 40-p and the in-store cameras 41-1 to 41-q are installed at entrances and predetermined places in the store of the amusement store 1, and imaged units 39- (m + 1) to 39- (m + p + q).

入口カメラ40−1乃至40−pおよび店内カメラ41−1乃至41−qは、例えば、図8で示されるように設定される。図8は、遊技店1内の入口カメラ40−1乃至40−pおよび店内カメラ41−1乃至41−qの設置例を示している。   The entrance cameras 40-1 to 40-p and the in-store cameras 41-1 to 41-q are set as shown in FIG. 8, for example. FIG. 8 shows an installation example of the entrance cameras 40-1 to 40-p and the in-store cameras 41-1 to 41-q in the game store 1.

すなわち、図8においては、出入口112−1乃至112−3が設けられており、入口カメラ40−1乃至40−3は、それぞれの出入口112より入店してくる遊技者を撮像する。また、店内カメラ41−1乃至41−10は、島設備111−1乃至111−5のそれぞれ両面をそれぞれ一列に渡って撮像できる位置に設定されている。島設備111は、両面に遊技台36が設置されており、すなわち、図中の島設備111を上下方向に挟むように設置されている。カメラ38、入口カメラ40および店内カメラ41は、いずれにおいてもパンチルトズーム機能を備えているため、図8で示されるように、店内カメラ41−1乃至41−10が配置されることにより、遊技台36で遊技する全遊技者が、店内カメラ41−1乃至41−10のいずれかで撮像できる。   That is, in FIG. 8, entrances 112-1 to 112-3 are provided, and the entrance cameras 40-1 to 40-3 image players who enter the store from each entrance and exit 112. Further, the in-store cameras 41-1 to 41-10 are set at positions at which both surfaces of the island facilities 111-1 to 111-5 can be imaged in a row. The island facilities 111 are provided with game machines 36 on both sides, that is, so as to sandwich the island facilities 111 in the vertical direction in the figure. Since the camera 38, the entrance camera 40, and the in-store camera 41 all have a pan / tilt / zoom function, the in-store cameras 41-1 to 41-10 are arranged as shown in FIG. All players who play at 36 can take an image with any of the in-store cameras 41-1 to 41-10.

さらに、店内カメラ41−aは、貸出機34の前に設けられており、店内カメラ41−bは、精算販売機33の前に設けられており、店内カメラ41−cは、計数機35の前に設けられており、それぞれ、貸出機34、精算販売機33、および計数機35を利用する遊技者を撮像することができる。   Furthermore, the in-store camera 41-a is provided in front of the lending machine 34, the in-store camera 41-b is provided in front of the checkout machine 33, and the in-store camera 41-c is the counter of the counter 35. It is provided in front, and a player who uses the rental machine 34, the checkout machine 33, and the counter 35 can be imaged.

すなわち、図8で示されるように、遊技店1においては、来店する遊技者、遊技台36で遊技する遊技者、並びに、貸出機34、精算販売機33、および計数機35を利用する遊技者といった、遊技店1において遊技者が取るであろうことが想定される行動のほぼ全てを監視できるように、カメラ38、入口カメラ40、および店内カメラ41が設置されている。   That is, as shown in FIG. 8, in the game store 1, a player who visits the store, a player who plays on the game stand 36, and a player who uses the lending machine 34, the checkout machine 33, and the counter 35. The camera 38, the entrance camera 40, and the in-store camera 41 are installed so that almost all of the actions that the player is supposed to take in the gaming store 1 can be monitored.

[画像処理ユニットの構成例]
次に、図9を参照して、画像処理ユニット39の構成例について説明する。
[Configuration example of image processing unit]
Next, a configuration example of the image processing unit 39 will be described with reference to FIG.

画像取得部201は、カメラ38(または、入口カメラ40もしくは店内カメラ41)により撮像された画像を取得し、顔画像抽出部202に供給する。顔画像抽出部202は、画像取得部201より供給されてきた画像内に、顔を構成する部位の配置などのパターンからなる顔全体の輪郭に対応した基準テンプレートを用いたテンプレートマッチングにより顔画像からなる矩形画像を抽出して送信部203に供給する。送信部203は、顔画像抽出部202より連続的に供給されてくる顔画像をバッファ203aに蓄積させ、顔画像の供給が停止した状態になったとき、バッファ203aに蓄積された顔画像を顔画像群として生体情報認識装置21に送信する。尚、バッファ203aの容量には制限があるので、送信部203は、バッファ203aで蓄積できる容量が一杯になったところで一連の連続的に供給される複数の顔画像を顔画像群として送信するようにしても良いし、予め所定枚数を決めておき、所定枚数が蓄積された場合、その所定枚数の顔画像を顔画像群として送信するようにしても良い。   The image acquisition unit 201 acquires an image captured by the camera 38 (or the entrance camera 40 or the in-store camera 41) and supplies it to the face image extraction unit 202. The face image extraction unit 202 extracts the face image from the face image by template matching using a reference template corresponding to the contour of the entire face made up of patterns such as the arrangement of the parts constituting the face in the image supplied from the image acquisition unit 201. This rectangular image is extracted and supplied to the transmission unit 203. The transmission unit 203 accumulates the face image continuously supplied from the face image extraction unit 202 in the buffer 203a, and when the supply of the face image is stopped, the transmission unit 203 converts the face image accumulated in the buffer 203a to the face. It transmits to the biometric information recognition apparatus 21 as an image group. Since the capacity of the buffer 203a is limited, the transmission unit 203 transmits a series of continuously supplied face images as a face image group when the capacity that can be stored in the buffer 203a is full. Alternatively, a predetermined number may be determined in advance, and when the predetermined number is accumulated, the predetermined number of face images may be transmitted as a face image group.

[生体情報認識装置の構成例]
次に、図10を参照して、生体情報認識装置21の構成例について説明する。
[Configuration example of biological information recognition apparatus]
Next, a configuration example of the biological information recognition device 21 will be described with reference to FIG.

顔画像取得部221は、画像処理ユニット39より供給される複数の顔画像からなる顔画像群を取得し、顔画像信頼度算出部222に供給する。顔画像信頼度算出部222は、顔画像取得部221より供給されてくる顔画像群に含まれる複数の顔画像の信頼度を顔画像信頼度として算出し、顔画像と共に顔器官抽出部223に供給する。ここで、顔画像信頼度は、取得された顔画像を構成する領域の信頼度を表す値であり、顔画像信頼度が高い値であるほど、顔画像を構成する領域内に、現実に顔が存在する確率が高いことを示す。   The face image acquisition unit 221 acquires a face image group including a plurality of face images supplied from the image processing unit 39 and supplies the face image group to the face image reliability calculation unit 222. The face image reliability calculation unit 222 calculates the reliability of a plurality of face images included in the face image group supplied from the face image acquisition unit 221 as the face image reliability, and sends it to the face organ extraction unit 223 together with the face image. Supply. Here, the face image reliability is a value representing the reliability of the area constituting the acquired face image, and the higher the face image reliability, the more the face image is actually included in the area constituting the face image. Indicates a high probability of existence.

顔器官抽出部223は、顔画像取得部221により取得された顔画像を構成する領域から各器官を構成する特徴点を顔器官として抽出し、顔画像信頼度、および顔画像群と共に顔器官信頼度算出部224に供給する。ここで、顔器官を構成する特徴点とは、口の両端、目尻、目頭、鼻先などのような、口、目、および鼻の各器官を構成する画素の中でも特に特徴的な位置の画素である。   The facial organ extraction unit 223 extracts feature points constituting each organ from the regions constituting the facial image acquired by the facial image acquisition unit 221 as facial organs, and the facial organ reliability together with the facial image reliability and the facial image group. This is supplied to the degree calculation unit 224. Here, the feature points that make up the facial organs are pixels at particularly characteristic positions among the pixels that make up the mouth, eyes, and nose organs, such as the ends of the mouth, the corners of the eyes, the eyes, and the tip of the nose. is there.

顔器官信頼度算出部224は、顔器官抽出部223により抽出された特徴点の画素位置の情報からなる顔器官の情報の信頼度を表す値を顔器官信頼度として算出し、顔器官信頼度、顔画像信頼度、および顔画像群と共に顔画像判定部225に供給する。ここで、顔器官信頼度とは、顔器官抽出部223により抽出された器官の信頼度を示す値であり、顔器官信頼度が高いほど、抽出された顔器官で特定される特徴点が、現実の器官を構成する特徴的な位置の画素である確率が高いことを示す。   The facial organ reliability calculation unit 224 calculates a value representing the reliability of facial organ information composed of pixel position information of feature points extracted by the facial organ extraction unit 223 as facial organ reliability, and the facial organ reliability The face image reliability and the face image group are supplied to the face image determination unit 225. Here, the facial organ reliability is a value indicating the reliability of the organ extracted by the facial organ extraction unit 223. The higher the facial organ reliability, the more characteristic points identified by the extracted facial organ are: This indicates that there is a high probability that the pixel is a characteristic position constituting an actual organ.

顔画像判定部225は、顔器官信頼度算出部224より供給されてくる顔画像群を構成する各顔画像の顔画像信頼度、および顔器官信頼度が、いずれも所定の閾値よりも高く、取得された顔画像、および抽出された顔器官がいずれも信頼できるものである場合にのみ、顔画像群と共に照合部226に供給する。このため、顔画像判定部225は、顔画像信頼度が所定の閾値よりも低く、取得された顔画像そのものの信頼性が低いとみなした場合、または、顔器官信頼度が所定の閾値よりも低く、抽出された顔器官の信頼性が低く、仮に顔画像が取得されていたとしても、キャラクタのような顔画像である可能性があるような場合、照合部226に対して顔画像を供給しない。   The face image determination unit 225 has a facial image reliability and a facial organ reliability of each facial image constituting the facial image group supplied from the facial organ reliability calculation unit 224, both higher than a predetermined threshold value. Only when the acquired face image and the extracted facial organ are both reliable, they are supplied to the collation unit 226 together with the face image group. Therefore, the face image determination unit 225 determines that the face image reliability is lower than a predetermined threshold value and the reliability of the acquired face image itself is low, or the face organ reliability is lower than the predetermined threshold value. If the extracted face organ is low in reliability and may be a face image like a character even if the face image is acquired, the face image is supplied to the matching unit 226. do not do.

すなわち、顔画像とみなせない場合や、顔画像であるが、キャラクタなどの現実の人物の顔画像とみなせない場合については、顔画像が、照合部226に供給されない。この結果、照合に適さない顔画像については、照合そのものがなされないことになるため、誤検出を低減させることが可能となる。尚、顔画像判定部225は、顔画像群を構成する複数の顔画像の中で、顔画像信頼度、および顔器官信頼度が、いずれも所定の閾値を超えるものと、超えないものとを含む場合、超えたものだけを照合部226に供給するようにしてもよいし、いずれか超えないものが含まれた場合、顔画像群の全ての顔画像を照合部226に供給しないようにしてもよい。   That is, the face image is not supplied to the matching unit 226 when it cannot be regarded as a face image or when it is a face image but cannot be regarded as a face image of a real person such as a character. As a result, for face images that are not suitable for collation, the collation itself is not performed, so that erroneous detection can be reduced. Note that the face image determination unit 225 determines whether the face image reliability and the facial organ reliability exceed a predetermined threshold value or not among a plurality of face images constituting the face image group. If included, only those exceeding may be supplied to the collation unit 226, and if any of them does not exceed, all the face images of the face image group are not supplied to the collation unit 226. Also good.

照合部226は、顔画像判定部225より供給されてくる顔画像群の各顔画像と、生体情報DB22に予め登録されている登録遊技者の顔画像とを照合し、類似度の高い候補となる顔画像があれば、第3候補までの顔画像を照合結果として表示部23に表示させる。また、照合部226は、類似度の高い候補となる顔画像が存在しない場合、供給されてきた顔画像を未登録遊技者データベース登録部227に供給する。   The collation unit 226 collates each face image of the face image group supplied from the face image determination unit 225 with the registered player's face image registered in advance in the biometric information DB 22, and determines a candidate having a high degree of similarity. If there is such a face image, the face images up to the third candidate are displayed on the display unit 23 as a matching result. The collation unit 226 supplies the supplied face image to the unregistered player database registration unit 227 when there is no face image that is a candidate with a high degree of similarity.

より詳細には、照合部226の特徴量抽出部231は、顔画像群の各顔画像について、それらを識別するための特徴量を抽出して、各顔画像と共に類似度計算部232に供給する。類似度計算部232は、生体情報DB22に登録されている登録遊技者の顔画像の特徴量を抽出すると供に、特徴量抽出部231より供給されてくる顔画像群の各顔画像の特徴量とを順次用いて、生体情報DB22に登録されている全ての登録遊技者の顔画像との類似度を求め、顔画像取得部221より供給されてきた顔画像と供に類似度計算結果蓄積部233に蓄積させる。より具体的には、類似度計算部232は、例えば、目と目の間隔、あごから額までの長さと、あごから鼻までの長さの比率などの各種の顔の特徴量に基づいて、それぞれの差分和、平均比率、または比率和などを類似度として求める。   More specifically, the feature amount extraction unit 231 of the collation unit 226 extracts a feature amount for identifying each face image in the face image group, and supplies the feature amount together with each face image to the similarity calculation unit 232. . The similarity calculation unit 232 extracts the feature amount of the registered player's face image registered in the biometric information DB 22, and at the same time extracts the feature amount of each face image of the face image group supplied from the feature amount extraction unit 231. Are sequentially used to obtain the similarity to the face images of all registered players registered in the biometric information DB 22, and together with the face images supplied from the face image acquisition unit 221, the similarity calculation result storage unit 233. More specifically, the similarity calculation unit 232, for example, based on various facial feature amounts such as the ratio between the distance between the eyes, the distance from the chin to the forehead, and the length from the chin to the nose, Each difference sum, average ratio, or ratio sum is obtained as the similarity.

類似度計算結果集計部234は、類似度計算結果蓄積部233に蓄積された顔画像群の各顔画像についての登録された顔画像との類似度の計算結果を集計して、顔画像群としての類似度を求めて、類似度判定部235に供給する。より具体的には、例えば、類似度計算結果蓄積部233は、例えば、顔画像群のうち、類似度の最も高い顔画像を基準とした類似度を顔画像群の類似度としたり、または、顔画像群の全ての顔画像に対する登録顔画像との類似度の平均値などを顔画像群の類似度として類似度判定部235のバッファ235aに供給する。   The similarity calculation result totaling unit 234 totals the calculation results of the similarity with the registered face image for each face image of the face image group stored in the similarity calculation result storage unit 233 to obtain a face image group. Is obtained and supplied to the similarity determination unit 235. More specifically, for example, the similarity calculation result accumulating unit 233 sets, for example, the similarity based on the face image having the highest similarity in the face image group as the similarity of the face image group, or The average value of the similarity between the registered face images and all the face images in the face image group is supplied to the buffer 235a of the similarity determination unit 235 as the similarity of the face image group.

類似度判定部235は、類似度計算結果集計部234より供給されてくる類似度を順次バッファ235aに蓄積し、上位3位となる顔画像群のそれぞれの類似度のうち、1位となる顔画像群との類似度と、所定の閾値とを比較し、比較結果に基づいて、1位となる登録顔画像が、顔画像判定部225より供給されてきた顔画像群に対して類似している場合(類似度が高い程類似していることを示す類似度の場合、所定の閾値よりも高いとき、また、類似度が低い程類似していることを示す類似度の場合、所定の閾値よりも低いとき)、上位3位となる顔画像群のうち、最も類似度の高い類似度の顔画像の情報を表示部23に供給して、表示させると供に、通信部228に供給する。また、類似度判定部235は、1位となる顔画像群との類似度と、所定の閾値とを比較し、比較結果に基づいて、1位となる登録顔画像が、顔画像判定部225より供給されてきた顔画像に対して類似していない場合、顔画像判定部225より供給されてきた顔画像群のうち、最も類似度の高い顔画像を未登録遊技者データベース登録部227に供給する。   The similarity determination unit 235 sequentially accumulates the similarity supplied from the similarity calculation result totaling unit 234 in the buffer 235a, and the face that becomes the first among the similarities of the top three face image groups. The degree of similarity between the image group and a predetermined threshold is compared, and based on the comparison result, the first registered face image is similar to the face image group supplied from the face image determination unit 225. (Similarity indicating that the similarity is higher as the similarity is higher. If the similarity is higher than the predetermined threshold, or the similarity indicating that the similarity is lower as the similarity is lower, the predetermined threshold. Information of the face image having the highest similarity among the face image groups that are ranked in the top three are supplied to the display unit 23 and displayed to the communication unit 228. . Also, the similarity determination unit 235 compares the similarity with the face image group that is the first place and a predetermined threshold value, and the registered face image that is the first place is the face image determination unit 225 based on the comparison result. If the face image supplied is not similar, the face image having the highest similarity among the face image groups supplied from the face image determination unit 225 is supplied to the unregistered player database registration unit 227. To do.

未登録遊技者データベース登録部227は、照合部226より未登録であるとみなされて供給されてきた、顔画像を生体情報管理データベース3の未登録遊技者DBに登録する。   The unregistered player database registration unit 227 registers the face image, which has been supplied as being unregistered by the collation unit 226, in the unregistered player DB of the biometric information management database 3.

操作部229は、ボタン、マウス、または、キーボードなどから構成され、上述した類似度が上位3位となる、表示部23に表示された顔画像のいずれかが選択されるとき操作され、操作結果を通信部228に供給する。通信部228は、イーサネットボードなどから構成され、操作部229からの操作信号に基づいて、選択された顔画像を携帯端末20に配信する。   The operation unit 229 includes buttons, a mouse, a keyboard, and the like. The operation unit 229 is operated when any one of the face images displayed on the display unit 23 with the above-mentioned similarity ranked in the top three is selected. Is supplied to the communication unit 228. The communication unit 228 includes an Ethernet board and the like, and distributes the selected face image to the mobile terminal 20 based on an operation signal from the operation unit 229.

尚、ここでは、類似度は、例えば、比率和で示されるような登録遊技者として登録されている顔画像に近いほど高い値を示すものであるとし、類似度が所定の閾値よりも高い値であるとき、その類似度に対応する登録遊技者の顔画像であるものとして判定する例について説明する。しかしながら、例えば、類似度が撮像された顔画像と登録遊技者として登録されている顔画像とのそれぞれの特徴量における差分和として表現されている場合、類似度判定部235は、類似度が閾値よりも小さければ、撮像された顔画像群が登録遊技者の顔画像であるとみなすことになり、または、平均比率などの場合、0乃至1の範囲で所定の値以上であって、1に近い値であれば、同一の人物であるとみなすことができる。   Here, for example, the similarity indicates a higher value as it is closer to the face image registered as a registered player as indicated by the ratio sum, and the similarity is a value higher than a predetermined threshold value. In this case, an example will be described in which it is determined that the face image of the registered player corresponding to the similarity is. However, for example, when the similarity is expressed as a difference sum in the respective feature amounts between the captured face image and the registered face image of the registered player, the similarity determination unit 235 uses the similarity as a threshold value. If it is smaller, the captured face image group is regarded as a registered player's face image, or in the case of an average ratio or the like, it is equal to or greater than a predetermined value in the range of 0 to 1. If the values are close, they can be regarded as the same person.

データベース管理部230は、生体情報管理センタ2より新たな登録遊技者データベースが配信されてくると、新たな登録遊技者データベースに基づいて、生体情報DB22を更新する。   When a new registered player database is distributed from the biometric information management center 2, the database management unit 230 updates the biometric information DB 22 based on the new registered player database.

[登録遊技者来店監視処理]
次に、図11のフローチャートを参照して、登録遊技者来店監視処理について説明する。
[Registered player visit monitoring process]
Next, the registered player visit monitoring process will be described with reference to the flowchart of FIG.

ステップS1において、入口カメラ40は、撮像している画像の情報、または、出入口の扉からの信号に基づいて、出入口の扉が開いたか否かを判定し、所定の時間が経過するまで、その処理を繰り返す。   In step S1, the entrance camera 40 determines whether or not the door of the entrance is opened based on the information of the image being captured or the signal from the door of the entrance and exit until the predetermined time elapses. Repeat the process.

ステップS1において、扉が開いたと判定された場合、ステップS2において、入口カメラ40は、設置されている範囲の画像を撮像し、撮像した画像を画像処理ユニット39に供給する。画像処理ユニット39の画像取得部201は、供給された画像を取得し、顔画像抽出部202に供給する。   If it is determined in step S <b> 1 that the door is opened, in step S <b> 2, the entrance camera 40 captures an image of the installed range and supplies the captured image to the image processing unit 39. The image acquisition unit 201 of the image processing unit 39 acquires the supplied image and supplies it to the face image extraction unit 202.

ステップS3において、顔画像抽出部202は、供給された画像より遊技者の顔画像を抽出し、送信部203に供給する。より具体的には、顔画像抽出部202は、撮像された画像のうち顔画像の輪郭に対応した基準テンプレートを用いたテンプレートマッチングにより矩形状の顔画像を抽出して、送信部203に供給する。送信部203は、供給されてきた顔画像をバッファ203aに一時的に蓄積する。尚、顔画像抽出部202は、撮像された画像のうち、配色などから肌が露出した部分であって、目や鼻といった特徴的な部位の配置などから矩形状の顔画像を抽出するようにしてもよいし、顔の器官(目、鼻、耳など)に基づいてテンプレートマッチング、または、クロマキー処理によって頭部などの頂点を検出し、ニューラルネットワークを使って教師信号による学習を行い、顔らしい領域を顔画像として検出するといった手法により顔画像を抽出するようにしてもよい。   In step S <b> 3, the face image extraction unit 202 extracts a player's face image from the supplied image and supplies the extracted image to the transmission unit 203. More specifically, the face image extraction unit 202 extracts a rectangular face image from the captured images by template matching using a reference template corresponding to the contour of the face image, and supplies it to the transmission unit 203. . The transmission unit 203 temporarily accumulates the supplied face image in the buffer 203a. The face image extraction unit 202 extracts a rectangular face image from the captured image, which is a portion where the skin is exposed due to a color scheme or the like, and is based on the arrangement of characteristic parts such as eyes and nose. It is also possible to detect vertices such as the head by template matching or chroma key processing based on the facial organs (eyes, nose, ears, etc.), and use a neural network to learn from the teacher signal and look like a face You may make it extract a face image by the method of detecting an area | region as a face image.

ステップS4において、顔画像抽出部202は、供給されてくる画像より顔画像が存在するか否か、すなわち、例えば、入口カメラ40により撮像される画像より直前の処理で抽出した顔画像と同一人物の顔画像が抽出できるか否かを判定し、抽出できると判定された場合、処理は、ステップS2に戻り、ステップS2乃至S4の処理が繰り返される。すなわち、顔画像が連続的に抽出できる状態である限り、ステップS2乃至S4の処理が繰り返される。尚、上述したように、バッファ203aには容量の制限があるため、バッファ203aに蓄積される顔画像が一杯になったところで、顔画像が抽出できない、すなわち、顔画像が存在しないと判定するようにしても良いし、所定枚数蓄積したところで、顔画像が抽出できないと判定するようにしても良い。尚、以降の説明においては、所定枚数として6枚の顔画像が抽出されたところで、顔画像が抽出できないと判定するものとする。   In step S4, the face image extraction unit 202 determines whether there is a face image from the supplied image, that is, for example, the same person as the face image extracted in the process immediately before the image captured by the entrance camera 40 It is determined whether or not the facial image can be extracted. If it is determined that the facial image can be extracted, the process returns to step S2 and the processes of steps S2 to S4 are repeated. That is, as long as the face image can be continuously extracted, the processes in steps S2 to S4 are repeated. As described above, since the capacity of the buffer 203a is limited, it is determined that the face image cannot be extracted when the face image stored in the buffer 203a is full, that is, the face image does not exist. Alternatively, it may be determined that a face image cannot be extracted when a predetermined number of images are accumulated. In the following description, when six face images are extracted as the predetermined number, it is determined that the face image cannot be extracted.

したがって、ステップS4において、例えば、それまでに、ステップS2乃至S4の処理が6回繰り返され、それぞれの画像より顔画像が抽出されていた場合、それ以降の画像に顔画像が存在していても、存在しない状態でも、顔画像が存在しないとみなし、その処理は、ステップS5に進む。   Therefore, in step S4, for example, when the processes in steps S2 to S4 have been repeated six times so far and face images have been extracted from the respective images, even if face images are present in the subsequent images. Even if it does not exist, it is considered that there is no face image, and the process proceeds to step S5.

ステップS5において、送信部203は、顔画像抽出部202より供給されてきた顔画像を蓄積しているバッファ203aより複数の顔画像を読み出し、顔画像群として生体情報認識装置21に送信する。この際、送信部203は、カメラ38、入口カメラ40、または店内カメラ41のそれぞれを識別するカメラIDや、送信時刻の情報などの情報を顔画像群に付加して生体情報認識装置21に送信する。   In step S <b> 5, the transmission unit 203 reads a plurality of face images from the buffer 203 a that stores the face images supplied from the face image extraction unit 202, and transmits them as a face image group to the biological information recognition apparatus 21. At this time, the transmission unit 203 adds information such as a camera ID for identifying each of the camera 38, the entrance camera 40, or the in-store camera 41 and information on transmission time to the face image group and transmits the information to the biological information recognition apparatus 21. To do.

ステップS21において、生体情報認識装置21の顔画像取得部221は、顔画像群を取得する。ステップS22において、顔画像取得部221は、供給された顔画像群のうち、いずれか未処理の1つの顔画像群を抽出し、顔画像信頼度算出部222に供給する。   In step S21, the face image acquisition unit 221 of the biological information recognition apparatus 21 acquires a face image group. In step S <b> 22, the face image acquisition unit 221 extracts one unprocessed face image group from the supplied face image group and supplies the extracted face image group to the face image reliability calculation unit 222.

ステップS23において、顔画像信頼度算出部222乃至顔器官信頼度算出部224は、信頼度算出処理を実行して、顔画像信頼度、および顔器官信頼度を算出する。   In step S23, the face image reliability calculation unit 222 to the face organ reliability calculation unit 224 execute a reliability calculation process to calculate the face image reliability and the face organ reliability.

[信頼度算出処理]
ここで、図12のフローチャートを参照して、信頼度算出処理について説明する。
[Reliability calculation processing]
Here, the reliability calculation processing will be described with reference to the flowchart of FIG.

ステップS51において、顔画像信頼度算出部222は、顔画像取得部221より供給されてくる顔画像群に含まれる複数の顔画像の信頼度を顔画像信頼度tr1として算出し、顔画像と共に顔器官抽出部223に供給する。顔画像信頼度算出部222は、例えば、顔画像における顔の輪郭に対応した基準テンプレートを用いたテンプレートマッチングによって顔を検出する場合、検出した顔画像と基準テンプレートとで一致した画素数の割合を顔検出信頼度として算出する。   In step S51, the face image reliability calculation unit 222 calculates the reliability of a plurality of face images included in the face image group supplied from the face image acquisition unit 221 as the face image reliability tr1, and the face image together with the face image This is supplied to the organ extraction unit 223. For example, when the face image reliability calculation unit 222 detects a face by template matching using a reference template corresponding to the face outline in the face image, the face image reliability calculation unit 222 calculates the ratio of the number of pixels that match between the detected face image and the reference template. Calculated as face detection reliability.

ステップS52において、顔器官抽出部223は、顔画像取得部221により取得された顔画像を構成する領域から各器官を構成する特徴点を、顔器官として抽出し、顔器官、顔画像信頼度、および顔画像群を顔器官信頼度算出部224に供給する。顔器官抽出部223は、例えば、顔器官を構成する画素のうち特徴点となる画素の位置からなるパターンを学習し、その学習データを使用したマッチングにより特徴点を検出する、または取得された顔画像の内側において、パターンマッチングにより特徴点を検出する。   In step S52, the facial organ extraction unit 223 extracts feature points constituting each organ from the regions constituting the facial image acquired by the facial image acquisition unit 221 as facial organs, and the facial organ, facial image reliability, The face image group is supplied to the facial organ reliability calculation unit 224. For example, the facial organ extraction unit 223 learns a pattern including the positions of pixels that are feature points among the pixels constituting the facial organ, and detects the feature points by matching using the learned data, or the acquired face Inside the image, feature points are detected by pattern matching.

ステップS53において、顔器官信頼度算出部224は、顔器官抽出部223により抽出された特徴点の画素位置の情報からなる顔器官の情報の信頼度を表す値を顔器官信頼度tr2として算出し、顔器官信頼度、顔画像信頼度、および顔画像群を顔画像判定部225に供給する。より具体的には、顔器官信頼度算出部224は、パターンマッチングにより特徴点を検出する方法を用いた場合、予め学習した各特徴点の輝度値ベクトルと、顔器官として抽出した特徴点付近の領域から得られる輝度値ベクトルとのユークリッド距離を顔器官信頼度として算出する。   In step S53, the facial organ reliability calculation unit 224 calculates, as the facial organ reliability tr2, a value representing the reliability of the facial organ information composed of the pixel position information of the feature points extracted by the facial organ extraction unit 223. The face organ reliability, the face image reliability, and the face image group are supplied to the face image determination unit 225. More specifically, when using a method of detecting feature points by pattern matching, the facial organ reliability calculation unit 224 uses the luminance value vector of each feature point learned in advance and the vicinity of the feature point extracted as the facial organ. The Euclidean distance from the luminance value vector obtained from the region is calculated as the facial organ reliability.

以上の処理により、顔画像が取得されると共に、顔画像信頼度tr1、および顔器官信頼度tr2が求められて、顔画像判定部225に供給される。   Through the above processing, a face image is acquired, and the face image reliability tr1 and the face organ reliability tr2 are obtained and supplied to the face image determination unit 225.

ここで、図11のフローチャートの説明に戻る。   Now, the description returns to the flowchart of FIG.

ステップS24において、顔画像判定部225は、顔画像信頼度tr1、および顔器官信頼度tr2に基づいて、併せて供給されてきた顔画像が誤検出された顔画像であるか否かを判定する。より具体的には、顔画像判定部225は、顔画像信頼度tr1が所定の閾値よりも低いか、または、顔器官信頼度tr2が所定の閾値よりも低いとき、顔画像としての信頼度が低く誤検出であると判定する。従って、ステップS24において、例えば、顔画像がポスタなどに描かれているキャラクタの顔画像などであって、顔画像信頼度が低い、または、顔器官信頼度が低い場合、誤検出であるとみなし、処理は、ステップS38に進む。   In step S24, the face image determination unit 225 determines whether the supplied face image is a falsely detected face image based on the face image reliability tr1 and the face organ reliability tr2. . More specifically, when the face image reliability tr1 is lower than a predetermined threshold or the face organ reliability tr2 is lower than a predetermined threshold, the face image determination unit 225 has a reliability as a face image. It is determined that the detection error is low. Therefore, in step S24, for example, when the face image is a face image of a character drawn on a poster or the like and the face image reliability is low or the face organ reliability is low, it is regarded as a false detection. The process proceeds to step S38.

ステップS38において、顔画像判定部225は、供給されてきた顔画像群を破棄して、処理は、ステップS36に進む。   In step S38, the face image determination unit 225 discards the supplied face image group, and the process proceeds to step S36.

一方、ステップS24において、正しい人物の顔画像が取得されて、顔画像信頼度が所定の閾値よりも高く、かつ、顔器官信頼度も所定の閾値よりも高い場合、顔画像判定部225は、誤検出ではないとみなし、処理は、ステップS25に進む。   On the other hand, when the face image of the correct person is acquired in step S24, the face image reliability is higher than a predetermined threshold value, and the facial organ reliability is higher than the predetermined threshold value, the face image determination unit 225 The processing proceeds to step S25, assuming that it is not a false detection.

ステップS25において、顔画像判定部225は、取得した顔画像を照合部226に供給する。   In step S <b> 25, the face image determination unit 225 supplies the acquired face image to the collation unit 226.

すなわち、顔画像判定部225が、顔画像信頼度、および顔器官信頼度に基づいて、顔画像として信頼できるもの以外は、後段の照合部226に供給しないようにしている。このような処理により、そもそも顔画像としての信頼度が低いものについては、照合部226における照合処理がなされないため、誤検出を抑制することが可能となる。   In other words, the face image determination unit 225 is not supplied to the subsequent collation unit 226 other than those that can be trusted as face images based on the face image reliability and the face organ reliability. With such a process, since the matching process in the matching unit 226 is not performed for a face image that has low reliability in the first place, it is possible to suppress erroneous detection.

ステップS26において、照合部226の特徴量抽出部231は、供給されてきた顔画像群のうち、未処理の1つの顔画像を抽出し、ステップS27において、特徴量を抽出して、顔画像と供に類似度計算部232に供給する。   In step S26, the feature amount extraction unit 231 of the collation unit 226 extracts one unprocessed face image from the supplied face image group. In step S27, the feature amount extraction unit 231 extracts the feature amount, Also supplied to the similarity calculator 232.

ステップ28において、類似度計算部232は、類似度計算処理を実行する。   In step 28, the similarity calculation unit 232 executes similarity calculation processing.

ここで、図13のフローチャートを参照して、類似度計算処理について説明する。   Here, the similarity calculation processing will be described with reference to the flowchart of FIG.

ステップS71において、類似度計算部232は、生体情報DB22に登録されている顔画像のうち、未処理の1つの登録遊技者の顔画像を抽出し、処理対象に設定する。   In step S71, the similarity calculation unit 232 extracts a face image of one unprocessed registered player from the face images registered in the biometric information DB 22, and sets it as a processing target.

ステップS72において、類似度計算部232は、処理対象として設定した生体情報DB22に登録されている顔画像より、特徴量抽出部231より供給されてきた特徴量と同様の特徴量を抽出する。   In step S <b> 72, the similarity calculation unit 232 extracts a feature amount similar to the feature amount supplied from the feature amount extraction unit 231 from the face image registered in the biological information DB 22 set as a processing target.

ステップS73において、類似度計算部232は、特徴量抽出部231より供給された顔画像についての、目と目の間隔、あごから額までの長さと、あごから鼻のまでの長さの比率などの各種の顔の特徴量と、生体情報DB22に登録されている顔画像における同様の特徴量とを用いて、それぞれの差分和、平均比率、または比率和などを類似度として計算し、ステップS74において、計算結果である生体情報DB22に登録されている顔画像との類似度を類似度判定部235に供給し、バッファ233aに登録させる。   In step S73, the similarity calculation unit 232 determines the ratio of the eye-to-eye spacing, the length from the chin to the forehead, and the length from the chin to the nose for the face image supplied from the feature amount extraction unit 231. The difference sum, the average ratio, or the ratio sum is calculated as the degree of similarity using the various face feature amounts and the similar feature amounts in the face image registered in the biological information DB 22, and step S74. Then, the similarity with the face image registered in the biological information DB 22 as the calculation result is supplied to the similarity determination unit 235 and registered in the buffer 233a.

ステップS75において、類似度計算部232は、生体情報DB22に未処理の登録遊技者の顔画像が存在するか否かを判定し、未処理の登録遊技者の顔画像が存在する場合、処理は、ステップS71に戻る。すなわち、生体情報DB22の全ての登録遊技者の顔画像との類似度が計算されるまで、ステップS71乃至S75の処理が繰り返される。そして、ステップS75において、生体情報DB22に未処理の登録遊技者の顔画像が存在しないと判定された場合、類似度計算処理は終了する。   In step S75, the similarity calculation unit 232 determines whether or not an unprocessed registered player's face image exists in the biometric information DB 22. If there is an unprocessed registered player's face image, the process is performed. Return to step S71. That is, the processes in steps S71 to S75 are repeated until the similarity with the face images of all registered players in the biometric information DB 22 is calculated. If it is determined in step S75 that the unprocessed registered player's face image does not exist in the biometric information DB 22, the similarity calculation process ends.

ここで、図11のフローチャートの説明に戻る。   Now, the description returns to the flowchart of FIG.

ステップS29において、類似度判定部235は、バッファ233aに登録されている類似度の計算結果に基づいて順位を求め、生体情報DB22に登録されている顔画像のうちの上位3位までの顔画像と類似度の情報を、抽出する。そして、ステップS30において、類似度計算部232は、選択された顔画像群のうち未処理の顔画像が存在するか否かを判定し、未処理の顔画像が存在する場合、処理は、ステップS26に戻る。すなわち、選択された顔画像群のうち、未処理の顔画像が存在しない状態まで、ステップS26乃至S30の処理が繰り返される。   In step S29, the similarity determination unit 235 obtains the rank based on the calculation result of the similarity registered in the buffer 233a, and the face images up to the top three of the face images registered in the biometric information DB 22 are obtained. And similarity information are extracted. In step S30, the similarity calculation unit 232 determines whether there is an unprocessed face image in the selected face image group. If there is an unprocessed face image, the process proceeds to step S30. Return to S26. That is, the processes in steps S26 to S30 are repeated until there is no unprocessed face image in the selected face image group.

ステップS30において、未処理の顔画像が存在しない、すなわち、選択された顔画像群の全ての顔画像について、登録遊技者の顔画像との類似度が求められたと判定された場合、ステップS31において、類似度計算結果集計部234は、類似度計算結果蓄積部233に蓄積された顔画像毎の類似度の計算結果を集計し、集計結果を類似度判定部235のバッファ235aに登録する。   If it is determined in step S30 that there is no unprocessed face image, that is, for all the face images in the selected face image group, the similarity to the registered player's face image is obtained, in step S31. The similarity calculation result totaling unit 234 totals the similarity calculation results for each face image accumulated in the similarity calculation result accumulation unit 233 and registers the aggregation results in the buffer 235 a of the similarity determination unit 235.

ステップS32において、類似度判定部235は、バッファ235aに登録されている類似度計算結果集計部234より供給されてくる顔画像群としての上位3位までの候補となる顔画像と類似度の情報に基づいて、最上位の類似度が所定の閾値よりも大きいか否かを判定する。すなわち、類似度判定部235は、最も類似している登録遊技者(生体情報DB22に登録されている顔画像のうち、顔画像取得部221により取得された顔画像群と最も類似している登録遊技者:ここでは、類似度の最も高い登録遊技者)の類似度を所定の閾値と比較する。   In step S <b> 32, the similarity determination unit 235 obtains information about the similarity between the face images that are candidates for the top three ranks as the face image group supplied from the similarity calculation result totaling unit 234 registered in the buffer 235 a. Based on the above, it is determined whether or not the highest degree of similarity is greater than a predetermined threshold. That is, the similarity determination unit 235 registers the most similar registered player (the most similar face image group acquired by the face image acquisition unit 221 among the face images registered in the biometric information DB 22). Player: Here, the similarity of the registered player having the highest similarity is compared with a predetermined threshold.

尚、上述のように、類似度の定義により、撮像された顔画像と最も類似している登録遊技者の顔画像との類似度は、その値そのものが最も高いとは限らないため、類似度と閾値との大小関係はこの例の場合とは異なることがある。   Note that, as described above, the similarity between the face image of the registered player who is most similar to the captured face image is not necessarily the highest because of the definition of the similarity. And the threshold value may differ from those in this example.

ステップS32において、最上位の類似度が所定の閾値よりも大きいと判定された場合、ステップS33において、類似度判定部235は、類似度計算部232より供給されてきた上位3位の顔画像が登録遊技者の顔画像の候補であることを示す報知画面を表示部23を制御して表示させる。   If it is determined in step S32 that the highest similarity is greater than the predetermined threshold, in step S33, the similarity determination unit 235 determines that the top third facial image supplied from the similarity calculation unit 232 is the top three. A notification screen indicating that the face image is a candidate for a registered player is displayed by controlling the display unit 23.

ステップS34において、通信部228は、操作部229が操作されて、候補となる顔画像の何れかが選択されたか否かを判定する。   In step S34, the communication unit 228 determines whether or not any of the candidate face images has been selected by operating the operation unit 229.

ステップS34において、例えば、操作部229が操作されて、候補となる顔画像の何れかが選択された場合、候補となる顔画像が選択されたとみなされ、ステップS32において、通信部228は、選択された候補となる顔画像および入口カメラ40により撮像されたカメラ画像を携帯端末20に送信し、該当する登録遊技者が来店したことを通知する。   In step S34, for example, when any of the candidate face images is selected by operating the operation unit 229, it is considered that the candidate face image is selected. In step S32, the communication unit 228 selects The candidate face image and the camera image captured by the entrance camera 40 are transmitted to the mobile terminal 20 to notify that the corresponding registered player has visited the store.

以上の処理により、遊技店1内の係員は、携帯端末20を所持していると、登録遊技者の来店を認識することが可能となる。   By the above processing, the staff in the game store 1 can recognize the registered player's visit if the portable terminal 20 is possessed.

また、ステップS36において、顔画像取得部221は、供給された顔画像の全てについて処理を行なったか否かを判定し、未処理の顔画像がある場合、処理は、ステップS22に戻る。すなわち、全ての顔画像について処理が行なわれるまで、ステップS22乃至S36の処理が繰り返される。そして、全ての顔画像について処理が終了したと判定された場合、処理は、ステップS21に戻る。   In step S36, the face image acquisition unit 221 determines whether or not all of the supplied face images have been processed. If there is an unprocessed face image, the process returns to step S22. That is, the processes in steps S22 to S36 are repeated until the process is performed on all face images. If it is determined that the process has been completed for all face images, the process returns to step S21.

一方、ステップS34において、いずれの候補となる顔画像も選択されない場合、または、ステップS32において、類似度計算部232より供給されてくる上位3位までの顔画像と類似度の情報に基づいて、最上位の類似度が所定の閾値よりも大きくない場合、すなわち、最も類似している登録遊技者の顔画像であっても類似度が、所定の閾値未満である場合、ステップS37において、類似度判定部235は、画像処理ユニット39より供給されてきた顔画像群のうちの最上位の類似度の顔画像を未登録遊技者データベース登録部227に供給する。未登録遊技者データベース登録部227は、供給されてきた顔画像を生体管理情報バス6及び公衆通信回線網8を介して生体情報管理データベース3にアクセスし登録する。尚、未登録遊技者データベース登録部227に供給される顔画像は、顔画像群のうちのいずれの顔画像であってもよく、必ずしも、最上位の類似度の顔画像でなくてもよい。   On the other hand, if no candidate face image is selected in step S34, or based on the top three face images and similarity information supplied from the similarity calculation unit 232 in step S32, If the highest similarity is not greater than a predetermined threshold, that is, if the similarity is less than the predetermined threshold even for the most similar registered player's face image, the similarity is determined in step S37. The determination unit 235 supplies the face image having the highest similarity in the face image group supplied from the image processing unit 39 to the unregistered player database registration unit 227. The unregistered player database registration unit 227 accesses the biometric information management database 3 through the biometric management information bus 6 and the public communication line network 8 to register the supplied face image. Note that the face image supplied to the unregistered player database registration unit 227 may be any face image in the face image group, and may not necessarily be the face image having the highest similarity.

以上の処理により、生体情報認識装置21により画像処理ユニット39より供給されてきた顔画像群により複数の顔画像を用いて類似度が求められることになるので、顔画像の認識をより正確に実行することが可能となる。また、画像処理ユニット39より供給されてきた顔画像群が、生体情報DB22に登録されていない顔画像の顔画像群であるとみなされると、生体情報管理センタ2により管理されている生体情報管理DB3内に未登録遊技者の顔画像として登録される。   With the above processing, the similarity is obtained using a plurality of face images from the face image group supplied from the image processing unit 39 by the biometric information recognition device 21, so that the face image is recognized more accurately. It becomes possible to do. When the face image group supplied from the image processing unit 39 is regarded as a face image group of face images not registered in the biometric information DB 22, the biometric information management managed by the biometric information management center 2 is performed. It is registered in DB3 as a face image of an unregistered player.

また、顔画像の信頼度を示す、顔画像信頼度、および顔器官信頼度に基づいて、顔画像として信頼性の低いとみなされるものについては、照合部226に対して供給されることがなく、信頼性の高い顔画像のみが照合部226に供給されるので、ポスタや人形などのキャラクタの顔の領域が顔画像として抽出されても、誤検出されないようにすることが可能となる。   Further, a face image that is regarded as having low reliability based on the face image reliability and the facial organ reliability indicating the reliability of the face image is not supplied to the matching unit 226. Since only the face image with high reliability is supplied to the collation unit 226, it is possible to prevent erroneous detection even if the face area of a character such as a poster or a doll is extracted as a face image.

ところで、上述した一連の監視処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。   Incidentally, the series of monitoring processes described above can be executed by hardware, but can also be executed by software. When a series of processing is executed by software, a program constituting the software may execute various functions by installing a computer incorporated in dedicated hardware or various programs. For example, it is installed from a recording medium in a general-purpose personal computer or the like.

図14は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタフェース1005が接続されている。バス1004には、ROM(Read Only Memory)302およびRAM(Random Access Memory)1003が接続されている。   FIG. 14 shows a configuration example of a general-purpose personal computer. This personal computer incorporates a CPU (Central Processing Unit) 1001. An input / output interface 1005 is connected to the CPU 1001 via the bus 1004. A ROM (Read Only Memory) 302 and a RAM (Random Access Memory) 1003 are connected to the bus 1004.

入出力インタフェース1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。   An input / output interface 1005 includes an input unit 1006 including an input device such as a keyboard and a mouse for a user to input an operation command, an output unit 1007 for outputting a processing operation screen and an image of a processing result to a display device, a program and various data A storage unit 1008 including a hard disk drive for storing data, a LAN (Local Area Network) adapter, and the like, and a communication unit 1009 for performing communication processing via a network represented by the Internet are connected. Also, a magnetic disk (including a flexible disk), an optical disk (including a CD-ROM (Compact Disc-Read Only Memory), a DVD (Digital Versatile Disc)), a magneto-optical disk (including an MD (Mini Disc)), or a semiconductor A drive 1010 for reading / writing data from / to a removable medium 1011 such as a memory is connected.

CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011から読み出されて記憶部1008にインストールされ、記憶部1008からRAM303にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。   The CPU 1001 is read from a program stored in the ROM 1002 or a removable medium 1011 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory, installed in the storage unit 1008, and loaded from the storage unit 1008 to the RAM 303. Various processes are executed according to the program. The RAM 1003 also appropriately stores data necessary for the CPU 1001 to execute various processes.

尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。   In this specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in time series in the order described, but of course, it is not necessarily performed in time series. Or the process performed separately is included.

また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。   Further, in this specification, the system represents the entire apparatus constituted by a plurality of apparatuses.

1,1−1乃至1−n 遊技店
2 生体情報管理センタ
3 生体情報管理データベース
4 第3者遊技店管理センタ
5 第3者遊技店管理データベース
6 生体情報管理バス
7 第3者遊技店管理バス
8,9 公衆通信回線網
21 生体情報認識装置
22 生体情報データベース
24 遊技店管理装置
26 遊技台管理データベース
27 媒体貸出管理装置
29 媒体貸出管理データベース
30 遊技店管理情報バス
31 生体情報バス
33 精算機
34 貸出機
35 計数機
36,36−1乃至36−m 遊技台
37,37−1乃至37−m 遊技台周辺端末
38,38−1乃至38−m カメラ
39,39−1乃至39−(m+p+q) 画像処理ユニット
40,40−1乃至40−p 入口カメラ
41,41−1乃至41−q 店内カメラ
1, 1-1 to 1-n amusement store 2 biometric information management center 3 biometric information management database 4 third party amusement store management center 5 third party amusement store management database 6 biometric information management bus 7 third party amusement store management bus 8, 9 Public communication network 21 Biometric information recognition device 22 Biometric information database 24 Game store management device 26 Game table management database 27 Medium lending management device 29 Medium lending management database 30 Amusement store management information bus 31 Biometric information bus 33 Settling machine 34 Lending machine 35 Counter 36,36-1 thru 36-m Game stand 37,37-1 thru 37-m Game stand peripheral terminal 38,38-1 thru 38-m Camera 39,39-1 thru 39- (m + p + q) Image processing unit 40, 40-1 to 40-p Entrance camera 41, 41-1 to 41-q In-store camera

Claims (8)

画像より照合対象者の顔画像を取得する取得手段と、
前記取得手段により取得された照合対象者の顔画像と、顔画像を蓄積者の顔画像として蓄積する蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合手段と、
前記照合手段の照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定手段と、
前記取得手段により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出手段と、
前記取得手段により取得された顔画像より顔の器官を抽出する器官抽出手段と、
教師信号による学習により求められた前記顔画像における前記器官を構成する特徴点のパターンとなる画素位置の画素の輝度値のベクトルと、前記器官抽出手段により抽出された器官を構成する特徴点のパターンとなる画素位置の画素の輝度値のベクトルとのユークリッド空間における距離を、器官信頼度として算出する器官信頼度算出手段と、
前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高い場合、前記照合手段、および前記類似判定手段に、処理を実行させるように制御する信頼度判定手段と
を含む情報処理装置。
Acquisition means for acquiring a face image of the person to be verified from the image;
Collating means for calculating and collating the similarity between the face image of the person to be collated acquired by the obtaining means and the face image of the accumulator accumulated in the accumulating means for accumulating the face image as the face image of the accumulator ; ,
A similarity determination unit that determines whether or not the face image of the person to be collated is the face image of the accumulator by comparing the similarity that is the collation result of the collation unit and a predetermined threshold;
Face image reliability calculation means for calculating the reliability of the face image acquired by the acquisition means as the face image reliability;
Organ extraction means for extracting a facial organ from the face image acquired by the acquisition means;
A vector of luminance values of pixels at pixel positions that are pattern of feature points composing the organ in the face image obtained by learning by a teacher signal, and a pattern of feature points composing the organ extracted by the organ extraction means An organ reliability calculation means for calculating a distance in the Euclidean space from a vector of luminance values of the pixel at the pixel position as an organ reliability;
The face image reliability, and none of the organ reliability is higher than a predetermined threshold, the verification unit, and the similarity determination unit, and a reliability determination unit configured to control so as to execute the process Including information processing apparatus.
前記取得手段が前記画像より顔画像を取得する手法は、顔の輪郭形状に対応したテンプレートを用いたテンプレートマッチング、前記顔を構成する器官に基づいたテンプレートマッチング、クロマキー処理により顔を構成する頭部の頂点を検出した後、その頂点に基づいて顔画像を検出する手法、肌色領域の形状に基づいて検出する手法、またはニューラルネットワークに基づいて、教師信号による学習により顔らしい領域を検出する手法を含む
請求項1に記載の情報処理装置。
The method of acquiring a face image from the image by the acquiring means includes template matching using a template corresponding to the contour shape of the face, template matching based on an organ constituting the face, and a head that forms a face by chroma key processing. After detecting the vertices, a method of detecting a face image based on the vertices, a method of detecting based on the shape of the skin color region, or a method of detecting a face-like region by learning with a teacher signal based on a neural network The information processing apparatus according to claim 1.
前記顔画像信頼度算出手段は、前記顔画像に基づいて、前記顔の輪郭に対応したテンプレートを用いたテンプレートマッチングにより、前記テンプレートとの一致の程度を示す値を前記顔画像信頼度として算出する
請求項1または請求項2に記載の情報処理装置。
The face image reliability calculation means calculates a value indicating the degree of matching with the template as the face image reliability by template matching using a template corresponding to the face outline based on the face image. The information processing apparatus according to claim 1 or 2 .
前記器官抽出手段は、前記顔画像に基づいて、前記器官を構成する画素位置の情報を特徴点として抽出し、前記顔画像の輪郭を含む前記器官を構成する画素位置の情報からなる特徴点の配置を学習することにより得られるパターンを用いたパターンマッチング、または、前記顔画像の領域内における前記器官を構成する画素位置の情報からなる特徴点の配置パターンに基づいたパターンマッチングによりを抽出する
請求項1から請求項3のいずれか1つに記載の情報処理装置。
The organ extracting means extracts information on pixel positions constituting the organ as feature points based on the face image, and extracts feature points composed of information on pixel positions constituting the organ including the outline of the face image. Extracting by pattern matching using a pattern obtained by learning the arrangement, or pattern matching based on an arrangement pattern of feature points consisting of information on pixel positions constituting the organ in the face image region The information processing apparatus according to any one of claims 1 to 3 .
前記類似度判定手段により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知手段をさらに備える、請求項1から請求項4のいずれか1つに記載の情報処理装置。 The information processing apparatus further comprises notification means for notifying that the collation target person is the accumulator when the similarity determination means determines that the collation target person's face image is the accumulator face image. The information processing apparatus according to any one of claims 1 to 4 . 請求項1から請求項5のいずれか1つの情報処理装置としてコンピュータを機能させるためのプログラム。A program for causing a computer to function as the information processing apparatus according to any one of claims 1 to 5. 得手段が、画像より照合対象者の顔画像を取得する取得ステップと、
顔画像信頼度算出手段が、前記取得ステップの処理により取得された顔画像の信頼度を顔画像信頼度として算出する顔画像信頼度算出ステップと、
器官抽出手段が、前記取得ステップの処理により取得された顔画像より顔の器官を抽出する器官抽出ステップと、
器官信頼度算出手段が、教師信号による学習により求められた前記顔画像における前記器官を構成する特徴点のパターンとなる画素位置の画素の輝度値のベクトルと、前記器官抽出手段により抽出された器官を構成する特徴点のパターンとなる画素位置の画素の輝度値のベクトルとのユークリッド空間における距離を、器官信頼度として算出する器官信頼度算出ステップと、
信頼度判定手段が、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高いか否かを判定する判定ステップと、
前記判定ステップの処理により、前記顔画像信頼度、および前記器官信頼度のいずれもが、所定の閾値よりも高いと判定された場合、照合手段、前記取得ステップの処理により取得された照合対象者の顔画像と、顔画像を蓄積者の顔画像として蓄積する蓄積手段に蓄積された蓄積者の顔画像との類似度を計算し、照合する照合ステップと、
似度判定手段、前記照合ステップの処理での照合結果である類似度と所定の閾値との比較により、前記照合対象者の顔画像が前記蓄積者の顔画像であるか否かを判定する類似度判定ステップと、
を含む情報処理方法。
Acquisition means, and acquiring the collation object person of the face image from the image,
A face image reliability calculating unit that calculates the reliability of the face image acquired by the process of the acquiring step as the face image reliability;
An organ extracting step for extracting an organ of the face from the face image acquired by the processing of the acquiring step;
The organ reliability calculation means calculates the brightness value vector of the pixel at the pixel position that is the pattern of the feature points constituting the organ in the face image obtained by learning with the teacher signal, and the organ extracted by the organ extraction means. An organ reliability calculation step for calculating a distance in the Euclidean space with a vector of luminance values of the pixels at the pixel positions that become the pattern of feature points constituting the organ reliability,
A determination step for determining whether or not each of the face image reliability and the organ reliability is higher than a predetermined threshold;
The process of the determination step, the face image reliability, and none of the organ reliability, when it is determined to be higher than a predetermined threshold, collation means, verification object obtained by the processing of the acquisition step A collation step for calculating and collating the similarity between the person's face image and the accumulator's face image accumulated in the accumulating means for accumulating the face image as the accumulator 's face image;
Determining class similarity score determination unit, by comparing the collation result is a similarity with a predetermined threshold in the processing of the verification step, whether or not the face image of the collation object person is a face image of the storage's A similarity determination step,
An information processing method including:
通知手段が、前記類似度判定ステップの処理により前記照合対象者の顔画像が前記蓄積者の顔画像であると判定された場合、前記照合対象者が前記蓄積者であることを通知する通知ステップをさらに含む請求項7に記載の情報処理方法。When the notification means determines that the face image of the person to be collated is the face image of the accumulator by the processing of the similarity determination step, a notifying step for notifying that the person to be collated is the accumulator The information processing method according to claim 7, further comprising:
JP2010156357A 2010-07-09 2010-07-09 Information processing apparatus and method, and program Active JP5560976B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010156357A JP5560976B2 (en) 2010-07-09 2010-07-09 Information processing apparatus and method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010156357A JP5560976B2 (en) 2010-07-09 2010-07-09 Information processing apparatus and method, and program

Publications (2)

Publication Number Publication Date
JP2012018593A JP2012018593A (en) 2012-01-26
JP5560976B2 true JP5560976B2 (en) 2014-07-30

Family

ID=45603791

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010156357A Active JP5560976B2 (en) 2010-07-09 2010-07-09 Information processing apparatus and method, and program

Country Status (1)

Country Link
JP (1) JP5560976B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6026119B2 (en) 2012-03-19 2016-11-16 株式会社東芝 Biological information processing device
JP6665569B2 (en) * 2016-02-15 2020-03-13 オムロン株式会社 Face matching system, player management system and game system
JP2018081402A (en) 2016-11-15 2018-05-24 キヤノン株式会社 Image processing system, image processing method, and program
WO2019003973A1 (en) * 2017-06-26 2019-01-03 日本電気株式会社 Facial authentication device, facial authentication method, and program recording medium
SG10201913024QA (en) * 2019-12-23 2020-10-29 Sensetime Int Pte Ltd Target Object Identification System, Method And Apparatus, Electronic Device And Storage Medium

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4696857B2 (en) * 2005-11-02 2011-06-08 オムロン株式会社 Face matching device
JP4924883B2 (en) * 2007-01-30 2012-04-25 オムロン株式会社 Monitoring device and method, and program
JP5153434B2 (en) * 2008-04-22 2013-02-27 キヤノン株式会社 Information processing apparatus and information processing method

Also Published As

Publication number Publication date
JP2012018593A (en) 2012-01-26

Similar Documents

Publication Publication Date Title
JP4941124B2 (en) Monitoring system and method, information processing apparatus, and program
JP5824806B2 (en) Facial image management device, facial image management method, and program
JP5617627B2 (en) Monitoring device and method, and program
JP4924883B2 (en) Monitoring device and method, and program
JP5560976B2 (en) Information processing apparatus and method, and program
JP2007061394A (en) Monitoring device, method and program
JP2009000367A (en) Monitor, method and program
JP5013172B2 (en) Information processing apparatus and method, and program
JP5577729B2 (en) Monitoring device and method, and program
JP5082724B2 (en) Image processing apparatus and method, and program
JP2008085584A (en) Monitoring device and method, monitoring system, and program
JP2009000324A (en) Monitoring device, method, and program
JP2012014568A (en) Monitoring apparatus and method, and program
JP5338178B2 (en) Monitoring device and method, and program
JP2008040829A (en) Device and method for processing information, information processing system, and program
JP4760717B2 (en) Monitoring device and method, and program
JP5338173B2 (en) Monitoring device and method, and program
JP4807267B2 (en) Monitoring device and method, and program
JP5168564B2 (en) Monitoring device and method, and program
JP5294020B2 (en) Image processing apparatus and method, and program
JP2007295548A (en) Monitoring device and method, and program
JP5292982B2 (en) Human body detection device and method, monitoring device and method, and program
JP5678708B2 (en) Monitoring system, monitoring method and program
JP5549418B2 (en) Information processing apparatus and method, and program
JP5589421B2 (en) Image processing apparatus, image processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130510

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20131011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140513

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140526

R150 Certificate of patent or registration of utility model

Ref document number: 5560976

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250