JP5747713B2 - Authentication device, authentication method, authentication program - Google Patents

Authentication device, authentication method, authentication program Download PDF

Info

Publication number
JP5747713B2
JP5747713B2 JP2011163142A JP2011163142A JP5747713B2 JP 5747713 B2 JP5747713 B2 JP 5747713B2 JP 2011163142 A JP2011163142 A JP 2011163142A JP 2011163142 A JP2011163142 A JP 2011163142A JP 5747713 B2 JP5747713 B2 JP 5747713B2
Authority
JP
Japan
Prior art keywords
feature information
similarity
information
registration
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011163142A
Other languages
Japanese (ja)
Other versions
JP2013025755A (en
Inventor
中村 栄基
栄基 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2011163142A priority Critical patent/JP5747713B2/en
Publication of JP2013025755A publication Critical patent/JP2013025755A/en
Application granted granted Critical
Publication of JP5747713B2 publication Critical patent/JP5747713B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、予め登録した顔特徴情報等の対象物の特徴情報を用いて、人物等の対象物を認証する認証装置、認証方法、認証プログラムに関する。   The present invention relates to an authentication apparatus, an authentication method, and an authentication program for authenticating an object such as a person using feature information of the object such as face feature information registered in advance.

認証装置の一例として、カメラ等で撮影した顔画像を用いて人物を個人認証する顔認証装置は、従来から種々の製品に搭載されて利用されている。顔認証装置においては、所定人物の顔画像から生成した顔特徴情報を予めデータベースに登録しておき、認証対象の人物の顔画像から生成した顔特徴情報とデータベースに登録されている顔特徴情報との類似度を求めることによって、認証対象が登録された人物と同一であるかどうかを判定するのが一般的である。   As an example of an authentication apparatus, a face authentication apparatus that personally authenticates a person using a face image photographed by a camera or the like has been conventionally installed and used in various products. In the face authentication device, face feature information generated from a face image of a predetermined person is registered in a database in advance, and face feature information generated from a face image of a person to be authenticated and face feature information registered in the database In general, it is determined whether or not the authentication target is the same as the registered person by obtaining the similarity.

特開平9−35068号公報Japanese Patent Laid-Open No. 9-35068 特開2006−127236号公報JP 2006-127236 A

顔認証装置において、所定人物の顔画像の顔特徴情報をデータベースに登録する際に、撮影された顔画像の顔の向き、表情、照明の状態、ピントぼけ、露光ずれ、手ぶれ等によって、登録しようとする顔画像の顔特徴情報が認証に適さない状態で登録されてしまう場合がある。この場合には、認証対象の顔画像が本人のものであっても本人であると判定できないことがある。そこで、認証に適した顔特徴情報を登録することができ、高精度に顔画像を認証することができる顔認証装置、顔認証方法、顔認証プログラムが求められている。   When registering facial feature information of a face image of a predetermined person in the database in the face authentication device, try to register it based on the face orientation, facial expression, lighting status, out-of-focus, exposure shift, camera shake, etc. May be registered in a state that is not suitable for authentication. In this case, even if the face image to be authenticated is that of the person, it may not be determined that the person is the person. Therefore, there is a need for a face authentication device, a face authentication method, and a face authentication program that can register face feature information suitable for authentication and can authenticate a face image with high accuracy.

ここでは、顔認証装置を例としたが、手(掌紋)、指(指紋)、目(網膜)等の画像を用いて人物を認証する場合も同様である。さらに、人物に限らず、人以外の動物や物体を認証する場合も同様である。即ち、認証に適した特徴情報を登録することができ、高精度に対象物を認証することができる認証装置が求められている。本発明はこのような要望に対応するため、認証に適した特徴情報を登録することができ、高精度に対象物を認証することができる認証装置、認証方法、認証プログラムを提供することを目的とする。   Here, the face authentication device is taken as an example, but the same applies to a case where a person is authenticated using images of hands (palmprints), fingers (fingerprints), eyes (retinas), and the like. Furthermore, the same applies to the case of authenticating not only a person but also an animal or an object other than a person. That is, there is a demand for an authentication device that can register feature information suitable for authentication and can authenticate an object with high accuracy. In order to meet such a demand, the present invention provides an authentication apparatus, an authentication method, and an authentication program that can register feature information suitable for authentication and can authenticate an object with high accuracy. And

本発明は、上述した従来の技術の課題を解決するため、登録しようとする対象物を撮影した画像から特徴情報を抽出する特徴情報抽出部(2)と、前記対象物を撮影した複数の第1のフレームの画像それぞれから前記特徴情報抽出部が抽出した複数の第1の特徴情報を保持する保持部(3)と、前記複数の第1の特徴情報と、前記第1のフレームとは異なるフレームであり、前記対象物を撮影した1または複数の第2のフレームの画像から前記特徴情報抽出部が抽出した第2の特徴情報とを照合して第1の類似度を算出する特徴情報照合部(5)と、前記複数の第1の特徴情報の内、第1の類似度が最も大きい1つの特徴情報を登録情報として保持部(4)に保持させる制御部(1)とを備えることを特徴とする認証装置を提供する。   In order to solve the above-described problems of the related art, the present invention provides a feature information extraction unit (2) that extracts feature information from an image obtained by photographing an object to be registered, and a plurality of second images obtained by photographing the object. The holding unit (3) that holds the plurality of first feature information extracted by the feature information extraction unit from each image of one frame, the plurality of first feature information, and the first frame are different Feature information collation that is a frame and calculates first similarity by collating with second feature information extracted by the feature information extraction unit from one or a plurality of second frame images obtained by photographing the object And a control unit (1) that causes the holding unit (4) to hold one feature information having the highest first similarity among the plurality of first feature information as registration information. An authentication device is provided.

上記の認証装置において、前記第2のフレームは複数であり、前記特徴情報照合部は、前記複数の第1の特徴情報それぞれと複数の第2の特徴情報それぞれとの類似度を算出し、前記複数の第1の特徴情報それぞれに対して、前記複数の第2の特徴情報との類似度を平均した平均類似度を検出する検出部(6)をさらに備え、前記制御部は、前記複数の第1の特徴情報の内、前記検出部が検出した平均類似度が最も大きい特徴情報を登録情報として保持部に保持させることが好ましい。   In the above authentication apparatus, the second frame is plural, and the feature information matching unit calculates a similarity between each of the plurality of first feature information and each of the plurality of second feature information, Each of the plurality of first feature information further includes a detection unit (6) that detects an average similarity obtained by averaging similarities with the plurality of second feature information, and the control unit includes the plurality of first feature information Of the first feature information, the feature information having the highest average similarity detected by the detection unit is preferably held in the holding unit as registration information.

上記の認証装置において、前記特徴情報照合部は、前記複数の第1の特徴情報と、前記登録しようとする対象物とは異なる対象物の第3の特徴情報との第2の類似度を算出し、前記制御部は、前記複数の第1の特徴情報の内、前記第1の類似度と前記第2の類似度との差が最も大きい特徴情報を登録情報として保持部に保持させるようにしてもよい。   In the authentication apparatus, the feature information matching unit calculates a second similarity between the plurality of first feature information and third feature information of an object different from the object to be registered. The control unit causes the holding unit to hold the feature information having the largest difference between the first similarity and the second similarity among the plurality of first feature information as registration information. May be.

また、本発明は、上述した従来の技術の課題を解決するため、登録しようとする対象物を撮影した複数の第1のフレームの画像それぞれから特徴情報を抽出し、複数の第1の特徴情報として保持する保持ステップ(S101〜S103,S201〜S203)と、前記第1のフレームとは異なるフレームであり、前記対象物を撮影した1または複数の第2のフレームの画像から第2の特徴情報を抽出する抽出ステップ(S104,S204)と、前記複数の第1の特徴情報と前記第2の特徴情報とを照合して第1の類似度を算出する第1の算出ステップ(S105,S205)と、前記複数の第1の特徴情報の内、第1の類似度が最も大きい1つの特徴情報を登録情報として登録する登録ステップ(S110,S216)とを含むことを特徴とする認証方法を提供する。   In addition, in order to solve the above-described problems of the related art, the present invention extracts feature information from each of a plurality of first frame images obtained by photographing an object to be registered, and the plurality of first feature information. And holding step (S101 to S103, S201 to S203) and the second feature information from the image of one or a plurality of second frames that are different from the first frame and photograph the object. Extracting step (S104, S204), and a first calculating step (S105, S205) for calculating the first similarity by collating the plurality of first feature information and the second feature information. And a registration step (S110, S216) for registering, as registration information, one feature information having the highest first similarity among the plurality of first feature information. To provide an authentication method to.

上記の認証方法において、前記第2のフレームは複数であり、前記第1の算出ステップは、前記複数の第1の特徴情報それぞれと複数の第2の特徴情報それぞれとの類似度を算出し、前記複数の第1の特徴情報それぞれに対して、前記複数の第2の特徴情報との類似度を平均した平均類似度を検出する検出ステップ(S108,S208)をさらに含み、前記登録ステップは、前記複数の第1の特徴情報の内、前記検出ステップにて検出した平均類似度が最も大きい特徴情報を登録情報として登録することが好ましい。   In the above authentication method, the second frame is plural, and the first calculation step calculates a similarity between each of the plurality of first feature information and each of the plurality of second feature information. For each of the plurality of first feature information, the method further includes a detection step (S108, S208) for detecting an average similarity obtained by averaging the similarity with the plurality of second feature information, and the registration step includes: Of the plurality of first feature information, the feature information having the highest average similarity detected in the detection step is preferably registered as registration information.

上記の認証方法において、前記複数の第1の特徴情報と、前記登録しようとする対象物とは異なる対象物の第3の特徴情報との第2の類似度を算出する第2の算出ステップ(S212)をさらに含み、前記登録ステップは、前記複数の第1の特徴情報の内、前記第1の類似度と前記第2の類似度との差が最も大きい特徴情報を登録情報として登録するようにしてもよい。   In the authentication method, a second calculation step of calculating a second similarity between the plurality of first feature information and third feature information of an object different from the object to be registered ( S212), and the registration step registers, as registration information, feature information having a largest difference between the first similarity and the second similarity among the plurality of first feature information. It may be.

さらに、本発明は、上述した従来の技術の課題を解決するため、コンピュータに、
登録しようとする対象物を撮影した複数の第1のフレームの画像それぞれから特徴情報を抽出し、複数の第1の特徴情報として保持する保持ステップ(S101〜S103,S201〜S203)と、前記第1のフレームとは異なるフレームであり、前記対象物を撮影した1または複数の第2のフレームの画像から第2の特徴情報を抽出する抽出ステップ(S104,S204)と、前記複数の第1の特徴情報と前記第2の特徴情報とを照合して第1の類似度を算出する第1の算出ステップ(S105,S205)と、前記複数の第1の特徴情報の内、第1の類似度が最も大きい1つの特徴情報を登録情報として登録する登録ステップ(S110,S216)とを実行させることを特徴とする認証プログラムを提供する。
Furthermore, in order to solve the above-described problems of the conventional technology, the present invention provides a computer,
A holding step (S101 to S103, S201 to S203) for extracting feature information from each of a plurality of first frame images obtained by photographing an object to be registered and holding the plurality of first feature information, and the first An extraction step (S104, S204) for extracting second feature information from one or a plurality of second frame images obtained by photographing the object, and a plurality of the first frames. A first calculation step (S105, S205) for calculating a first similarity by collating feature information with the second feature information, and a first similarity among the plurality of first feature information An authentication program characterized by causing a registration step (S110, S216) for registering one piece of feature information having the largest value as registration information is provided.

上記の認証プログラムにおいて、前記第2のフレームは複数であり、コンピュータに、
前記第1の算出ステップとして、前記複数の第1の特徴情報それぞれと複数の第2の特徴情報それぞれとの類似度を算出する処理を実行させ、前記複数の第1の特徴情報それぞれに対して、前記複数の第2の特徴情報との類似度を平均した平均類似度を検出する検出ステップ(S108,S208)をさらに実行させ、前記登録ステップとして、前記複数の第1の特徴情報の内、前記検出ステップにて検出した平均類似度が最も大きい特徴情報を登録情報として登録する処理を実行させることが好ましい。
In the above authentication program, the second frame is plural, and the computer
As the first calculation step, a process of calculating a similarity between each of the plurality of first feature information and each of the plurality of second feature information is executed, and for each of the plurality of first feature information , Further executing a detection step (S108, S208) for detecting an average similarity obtained by averaging the similarity with the plurality of second feature information, and as the registration step, among the plurality of first feature information, It is preferable to execute a process of registering the feature information having the highest average similarity detected in the detection step as registration information.

上記の認証プログラムにおいて、コンピュータに、前記複数の第1の特徴情報と、前記登録しようとする対象物とは異なる対象物の第3の特徴情報との第2の類似度を算出する第2の算出ステップ(S212)をさらに実行させ、前記登録ステップとして、前記複数の第1の特徴情報の内、前記第1の類似度と前記第2の類似度との差が最も大きい特徴情報を登録情報として登録する処理を実行させるようにしてもよい。   In the authentication program, the computer calculates a second similarity between the plurality of first feature information and third feature information of an object different from the object to be registered. A calculation step (S212) is further executed, and as the registration step, feature information having the largest difference between the first similarity and the second similarity is registered information as the registration information. It is also possible to execute the process of registering as

本発明の顔認証装置、認証方法、認証プログラムによれば、認証に適した特徴情報を登録することができ、高精度に対象物を認証することが可能となる。   According to the face authentication apparatus, authentication method, and authentication program of the present invention, feature information suitable for authentication can be registered, and an object can be authenticated with high accuracy.

本発明の認証装置の第1実施形態を示すブロック図である。It is a block diagram which shows 1st Embodiment of the authentication apparatus of this invention. 各実施形態の動作を説明するための図である。It is a figure for demonstrating operation | movement of each embodiment. 第1実施形態を説明するためのフローチャートである。It is a flowchart for demonstrating 1st Embodiment. 本発明の認証装置の第2実施形態を示すブロック図である。It is a block diagram which shows 2nd Embodiment of the authentication apparatus of this invention. 第2実施形態を説明するためのフローチャートである。It is a flowchart for demonstrating 2nd Embodiment. 変形例1の動作を説明するための図である。FIG. 10 is a diagram for explaining an operation of the first modification. 変形例2の動作を説明するための図である。FIG. 10 is a diagram for explaining an operation of a second modification.

以下、本発明の認証装置、認証方法、認証プログラムの各実施形態について、添付図面を参照して説明する。各実施形態は、認証装置、認証方法、認証プログラムの好適な例として、人物の顔を撮影した顔画像を登録して、顔特徴情報により人物を個人認証する顔認証装置、認証方法、認証プログラムについて説明する。但し、登録する画像は顔画像に限定されることはなく、認証する対象物も人物に限定されるものではない。本発明は、予め登録した対象物の特徴情報を用いて対象物を認証する任意の認証装置、認証方法、認証プログラムでよい。   Hereinafter, embodiments of an authentication device, an authentication method, and an authentication program of the present invention will be described with reference to the accompanying drawings. Each embodiment, as a suitable example of an authentication device, an authentication method, and an authentication program, registers a face image obtained by photographing a person's face and personally authenticates the person based on facial feature information, an authentication method, and an authentication program Will be described. However, the image to be registered is not limited to a face image, and the object to be authenticated is not limited to a person. The present invention may be an arbitrary authentication device, an authentication method, and an authentication program for authenticating an object using feature information of the object registered in advance.

≪第1実施形態≫
第1実施形態においては、所定人物の顔画像を登録する際に、顔画像から抽出した顔特徴情報を仮登録し、仮登録に続けてさらに顔画像から顔特徴情報を抽出して、顔特徴情報を本登録するように構成している。顔特徴情報の本登録が完了すると、不定人物の顔特徴情報を本登録した顔特徴情報と照合して個人認証を行う。以下、図1を用いて、仮登録動作、本登録動作、認証動作の順で説明する。
<< First Embodiment >>
In the first embodiment, when registering a facial image of a predetermined person, facial feature information extracted from the facial image is provisionally registered, and after the temporary registration, facial feature information is further extracted from the facial image to obtain facial features. The information is configured to be fully registered. When the main registration of the face feature information is completed, the face feature information of the indefinite person is checked against the registered face feature information to perform personal authentication. Hereinafter, a temporary registration operation, a main registration operation, and an authentication operation will be described in this order using FIG.

<仮登録動作>
図1において、顔画像を登録しようとする所定人物を図示していないカメラで撮影した顔画像データは、顔特徴情報抽出部2に入力される。ここでの人物を人物Paとする。顔特徴情報抽出部2は、制御部1による制御に基づいて、所定人物の顔を撮影した所定のNフレーム分の各顔画像データから顔特徴情報を抽出する。Nは自然数であり、好ましくは2以上である。第1実施形態では、Nを6とする。顔特徴情報抽出部2は、6フレーム分の各顔画像データから顔特徴情報を抽出するので、6個の顔特徴情報を生成して、仮登録情報保持部3へと出力する。仮登録情報保持部3は、制御部1による制御に基づいて、入力された6個の顔特徴情報を仮登録情報として保持する。ここでは顔特徴情報の数を個で表現したが、それぞれの顔特徴情報は、顔を特定するための特徴を示す1または複数の情報を含むものである。
<Tentative registration operation>
In FIG. 1, face image data obtained by capturing a predetermined person to register a face image with a camera (not shown) is input to the face feature information extraction unit 2. The person here is assumed to be a person Pa. The face feature information extraction unit 2 extracts face feature information from each face image data for a predetermined N frames obtained by photographing a face of a predetermined person based on control by the control unit 1. N is a natural number, preferably 2 or more. In the first embodiment, N is 6. Since the face feature information extraction unit 2 extracts face feature information from each frame image data for six frames, it generates six pieces of face feature information and outputs them to the temporary registration information holding unit 3. The temporary registration information holding unit 3 holds the inputted six face feature information as temporary registration information based on the control by the control unit 1. Although the number of pieces of face feature information is expressed here as individual pieces, each piece of face feature information includes one or more pieces of information indicating features for specifying a face.

<本登録動作>
前述のように、本登録動作は仮登録動作に続けて一連の動作として実行される。本登録動作では、顔特徴情報抽出部2は、制御部1による制御に基づいて、仮登録動作を行った人物と同じ人物である所定人物(人物Pa)の顔を撮影した所定のMフレーム分の各顔画像データから顔特徴情報を抽出する。Mは自然数であり、好ましくは2以上である。MはNよりも大きいことがさらに好ましい。第1実施形態では、Mを12とする。顔特徴情報抽出部2は、12フレーム分の各顔画像データから顔特徴情報を抽出するので、12個の顔特徴情報を生成して、顔特徴情報照合部5へと出力する。仮登録情報保持部3は、制御部1による制御に基づいて、保持しておいた6個の顔特徴情報を顔特徴情報照合部5へと出力する。
<Main Registration Operation>
As described above, the main registration operation is executed as a series of operations following the provisional registration operation. In the main registration operation, the face feature information extraction unit 2 is based on control by the control unit 1 for a predetermined M frames obtained by photographing a face of a predetermined person (person Pa) who is the same person as the person who performed the temporary registration operation. Facial feature information is extracted from each face image data. M is a natural number, preferably 2 or more. More preferably, M is greater than N. In the first embodiment, M is 12. Since the face feature information extraction unit 2 extracts face feature information from each of the 12 frames of face image data, the face feature information extraction unit 2 generates 12 pieces of face feature information and outputs them to the face feature information matching unit 5. The temporary registration information holding unit 3 outputs the held six face feature information to the face feature information matching unit 5 based on the control by the control unit 1.

図2(A)に示すように、仮登録情報保持部3から顔特徴情報照合部5へと供給される6個の顔特徴情報を概念的にFI1〜FI6で表し、顔特徴情報抽出部2から顔特徴情報照合部5へと供給される12個の顔特徴情報の顔特徴情報を概念的にFI11〜FI22で表すこととする。顔特徴情報FI1〜FI6と顔特徴情報FI11〜FI22はいずれも人物Paの顔特徴情報である。顔特徴情報照合部5には、仮登録動作から本登録動作までの一連の動作によって、顔特徴情報FI1〜FI6と顔特徴情報FI11〜FI22とが入力されることになる。   As shown in FIG. 2A, six pieces of face feature information supplied from the temporary registration information holding unit 3 to the face feature information matching unit 5 are conceptually represented by FI1 to FI6, and the face feature information extracting unit 2 The face feature information of 12 pieces of face feature information supplied to the face feature information matching unit 5 is conceptually represented by FI11 to FI22. The face feature information FI1 to FI6 and the face feature information FI11 to FI22 are all face feature information of the person Pa. Face feature information FI1 to FI6 and face feature information FI11 to FI22 are input to the face feature information matching unit 5 through a series of operations from the temporary registration operation to the main registration operation.

顔特徴情報照合部5は、制御部1による制御に基づいて、図2(A)に示すように、顔特徴情報FI1〜FI6のそれぞれを基準として、顔特徴情報FI11〜FI22それぞれと照合して類似度を算出する。図2(A)では顔特徴情報FI1と顔特徴情報FI11〜FI22との照合しか示していないが、顔特徴情報FI2〜FI6も同様に照合する。   Based on the control by the control unit 1, the face feature information matching unit 5 performs matching with each of the face feature information FI 11 to FI 22 on the basis of each of the face feature information FI 1 to FI 6 as shown in FIG. Calculate similarity. FIG. 2A shows only the collation between the face feature information FI1 and the face feature information FI11 to FI22, but the face feature information FI2 to FI6 is collated in the same manner.

図2(B)は、顔特徴情報照合部5が求めた類似度を概念的に示している。図2(B)に示すように、顔特徴情報照合部5は、顔特徴情報FI1に対して、顔特徴情報FI1と顔特徴情報FI11〜FI22それぞれとの類似度を示す類似度情報S111〜S122を生成する。顔特徴情報照合部5は、顔特徴情報FI2に対して、顔特徴情報FI2と顔特徴情報FI11〜FI22それぞれとの類似度を示す類似度情報S211〜S222を生成する。顔特徴情報照合部5は、顔特徴情報FI3に対して、顔特徴情報FI3と顔特徴情報FI11〜FI22それぞれとの類似度を示す類似度情報S311〜S322を生成する。   FIG. 2B conceptually shows the similarity obtained by the face feature information matching unit 5. As shown in FIG. 2B, the face feature information matching unit 5 has similarity information S111 to S122 indicating the similarity between the face feature information FI1 and the face feature information FI11 to FI22 with respect to the face feature information FI1. Is generated. The face feature information matching unit 5 generates, for the face feature information FI2, similarity information S211 to S222 indicating the similarity between the face feature information FI2 and the face feature information FI11 to FI22. The face feature information matching unit 5 generates similarity information S311 to S322 indicating the similarity between the face feature information FI3 and the face feature information FI11 to FI22 with respect to the face feature information FI3.

顔特徴情報照合部5は、顔特徴情報FI4に対して、顔特徴情報FI4と顔特徴情報FI11〜FI22それぞれとの類似度を示す類似度情報S411〜S422を生成する。顔特徴情報照合部5は、顔特徴情報FI5に対して、顔特徴情報FI5と顔特徴情報FI11〜FI22それぞれとの類似度を示す類似度情報S511〜S522を生成する。顔特徴情報照合部5は、顔特徴情報FI6に対して、顔特徴情報FI5と顔特徴情報FI11〜FI22それぞれとの類似度を示す類似度情報S611〜S622を生成する。   The face feature information matching unit 5 generates similarity information S411 to S422 indicating the similarity between the face feature information FI4 and the face feature information FI11 to FI22, with respect to the face feature information FI4. The face feature information matching unit 5 generates similarity information S511 to S522 indicating the similarity between the face feature information FI5 and the face feature information FI11 to FI22 with respect to the face feature information FI5. The face feature information matching unit 5 generates similarity information S611 to S622 indicating the similarity between the face feature information FI5 and the face feature information FI11 to FI22, with respect to the face feature information FI6.

顔特徴情報照合部5が生成した図2(B)に示す顔特徴情報FI1〜FI6それぞれに対する類似度情報S111〜S122,S211〜S222,S311〜S322,S411〜S422,S511〜S522,S611〜S622は、本人類似度検出部6へと出力される。本人類似度検出部6は、制御部1による制御に基づいて、図2(C)に示すように、類似度情報S111〜S122,S211〜S222,S311〜S322,S411〜S422,S511〜S522,S611〜S622それぞれを累計して平均を取ることにより、顔特徴情報FI1〜FI6それぞれに対して平均類似度を示す平均類似度情報Savg1〜Savg6を算出する。平均類似度情報Savg1〜Savg6は、仮登録動作と本登録動作とで同一人物を撮影した場合の類似度を示すので、本人類似度である。本人類似度を示す平均類似度情報Savg1〜Savg6は制御部1へと出力される。   Similarity information S111 to S122, S211 to S222, S311 to S322, S411 to S422, S511 to S522, S611 to S622 for the face feature information FI1 to FI6 shown in FIG. Is output to the principal similarity detection unit 6. Based on the control by the control unit 1, the identity similarity detection unit 6 performs similarity information S111 to S122, S211 to S222, S311 to S322, S411 to S422, S511 to S522, as shown in FIG. By accumulating each of S611 to S622 and taking the average, average similarity information Savg1 to Savg6 indicating the average similarity is calculated for each of the face feature information FI1 to FI6. The average similarity information Savg1 to Savg6 indicates the similarity when the same person is photographed in the temporary registration operation and the main registration operation, and is the person similarity. Average similarity information Savg1 to Savg6 indicating the identity similarity is output to the control unit 1.

制御部1は、顔特徴情報FI1〜FI6の中から、入力された本人類似度(平均類似度情報Savg1〜Savg6)の内、認証閾値よりも大きい値に設定した所定の登録閾値以上で本人類似度が最も大きい平均類似度情報を示す顔特徴情報を1つ特定する。そして、制御部1は、仮登録情報保持部3が保持している6個の顔特徴情報FI1〜FI6の内、特定した平均類似度情報を示す顔特徴情報を登録情報保持部4へと出力させる。登録情報保持部4は、制御部1による制御に基づいて、入力された顔特徴情報を本登録情報として保持する。   The control unit 1 is similar to the person more than a predetermined registration threshold set to a value larger than the authentication threshold among the input person similarity (average similarity information Savg1 to Savg6) from the face feature information FI1 to FI6. One face feature information indicating the average similarity information having the highest degree is specified. Then, the control unit 1 outputs the facial feature information indicating the specified average similarity information to the registered information holding unit 4 among the six pieces of facial feature information FI1 to FI6 held by the temporary registration information holding unit 3. Let The registration information holding unit 4 holds the input facial feature information as main registration information based on the control by the control unit 1.

図2(D)は、仮登録情報保持部3から登録情報保持部4へと出力される顔特徴情報の例を示している。例えば、平均類似度情報Savg1〜Savg6の内、顔特徴情報FI3の平均類似度情報Savg3が最大であったとする。登録情報保持部4には、人物Paに対する以上の一連の仮登録動作から本登録動作までの動作によって顔特徴情報FI3が保持されて登録される。他の人物Pb,Pc…に対しても同様の動作を行うと、登録情報保持部4には、人物Pbに対して例えば顔特徴情報FI5が登録され、人物Pcに対して例えば顔特徴情報FI1が登録される。   FIG. 2D shows an example of face feature information output from the temporary registration information holding unit 3 to the registration information holding unit 4. For example, it is assumed that the average similarity information Savg3 of the face feature information FI3 is the maximum among the average similarity information Savg1 to Savg6. In the registration information holding unit 4, the face feature information FI3 is held and registered through the above-described series of temporary registration operations for the person Pa to the main registration operation. When the same operation is performed on the other persons Pb, Pc..., For example, the face feature information FI5 is registered for the person Pb in the registered information holding unit 4, and for example, the face feature information FI1 is stored for the person Pc. Is registered.

制御部1は、平均類似度情報Savg1〜Savg6がいずれも登録閾値未満であれば、顔特徴情報FI1〜FI6のいずれも本登録しないよう仮登録情報保持部3及び登録情報保持部4を制御する。即ち、顔特徴情報FI1〜FI6のいずれかを仮登録情報保持部3より出力させず、登録情報保持部4に保持させないようにする。   The control unit 1 controls the temporary registration information holding unit 3 and the registration information holding unit 4 so that none of the facial feature information FI1 to FI6 is fully registered if the average similarity information Savg1 to Savg6 is less than the registration threshold. . That is, any one of the facial feature information FI1 to FI6 is not output from the temporary registration information holding unit 3 and is not held in the registration information holding unit 4.

制御部1は、本登録が完了した場合には、表示部9に登録が成功した旨を表示させ、本登録が完了しなかった場合には、表示部9に登録が成功しなかった旨を表示させる。   When the main registration is completed, the control unit 1 displays on the display unit 9 that the registration is successful. When the main registration is not completed, the control unit 1 displays on the display unit 9 that the registration is not successful. Display.

<認証動作>
顔特徴情報抽出部2は、制御部1による制御に基づいて、不定人物の顔を撮影した顔画像データから顔特徴情報を抽出する。認証動作の際は、1または複数フレームから顔特徴情報を抽出すればよい。複数フレームから顔特徴情報を抽出した方が認証精度が高くなるので、複数フレームから顔特徴情報を抽出するのが好ましい。ここでの不定人物は、上述した人物Pa,Pb,Pcのいずれかまたはその他の任意の人物である。顔特徴情報抽出部2は、不定人物の顔特徴情報を顔特徴情報照合部5へと出力する。
<Authentication operation>
The face feature information extraction unit 2 extracts face feature information from face image data obtained by photographing an indefinite person's face based on control by the control unit 1. In the authentication operation, face feature information may be extracted from one or a plurality of frames. It is preferable to extract face feature information from a plurality of frames because the accuracy of authentication is higher when face feature information is extracted from a plurality of frames. The indefinite person here is one of the above-described persons Pa, Pb, Pc, or any other arbitrary person. The face feature information extraction unit 2 outputs the face feature information of the indefinite person to the face feature information matching unit 5.

登録情報保持部4は、制御部1による制御に基づいて、保持している1または複数の顔特徴情報を顔特徴情報照合部5へと出力する。図2(D)の例では、人物Paに対する顔特徴情報FI3、人物Pbに対する顔特徴情報FI5、人物Pcに対する顔特徴情報FI1…が顔特徴情報照合部5へと出力される。顔特徴情報照合部5は、制御部1による制御に基づいて、顔特徴情報抽出部2から出力された不定人物の顔特徴情報と登録情報保持部4から出力された顔特徴情報とをそれぞれ照合して類似度を算出し、算出した類似度を認証結果判定部7へと出力する。   The registered information holding unit 4 outputs the held one or more face feature information to the face feature information matching unit 5 based on the control by the control unit 1. In the example of FIG. 2D, face feature information FI3 for the person Pa, face feature information FI5 for the person Pb, face feature information FI1 for the person Pc, etc. are output to the face feature information matching unit 5. The face feature information collation unit 5 collates the face feature information output from the face feature information extraction unit 2 with the face feature information output from the registered information holding unit 4 based on the control by the control unit 1. Then, the similarity is calculated, and the calculated similarity is output to the authentication result determination unit 7.

認証結果判定部7は、顔特徴情報照合部5から出力された不定人物の顔特徴情報と登録情報保持部4に保持されている登録情報である顔特徴情報との類似度が制御部1から指定された所定の認証閾値以上の顔特徴情報があるか否かを判定する。認証結果判定部7は、認証閾値以上の顔特徴情報があると判定した場合には、不定人物が登録情報保持部4に登録されている人物に該当すると判定し、認証閾値以上の顔特徴情報がないと判定した場合には、不定人物が登録されている人物には該当しないと判定する。認証結果判定部7は、判定結果を顔認証結果として外部へと出力する。外部とは顔認証装置による顔認証結果を利用する外部装置であり、例えば扉のロックを解除する解除装置等である。   The authentication result determination unit 7 determines from the control unit 1 the degree of similarity between the face feature information of the indefinite person output from the face feature information matching unit 5 and the face feature information that is registration information held in the registration information holding unit 4. It is determined whether there is face feature information that is equal to or greater than a specified authentication threshold value. If the authentication result determination unit 7 determines that there is face feature information greater than or equal to the authentication threshold, the authentication result determination unit 7 determines that the indefinite person corresponds to a person registered in the registration information holding unit 4, and facial feature information greater than or equal to the authentication threshold If it is determined that there is no person, it is determined that the person does not correspond to the person to which the indefinite person is registered. The authentication result determination unit 7 outputs the determination result to the outside as a face authentication result. The outside is an external device that uses the face authentication result of the face authentication device, such as a release device that unlocks the door.

図3を用いて、第1実施形態による仮登録動作から本登録動作までの一連の動作についてさらに説明する。図3に示すフローチャートの各動作は制御部1による制御に基づいて実行される。図3において、顔特徴情報抽出部2は、ステップS101にて、所定人物の顔画像データから顔特徴情報を抽出する。仮登録情報保持部3は、ステップS102にて、ステップS101にて抽出した顔特徴情報を仮登録情報として仮登録する。制御部1は、ステップS103にて、Nフレーム分の顔特徴情報の仮登録が終了したかどうかを判定する。終了したと判定しなかったら(NO)ステップS101に処理を戻し、ステップS101〜S103を繰り返す。ステップS103にてNフレーム分の顔特徴情報の仮登録が終了したと判定したら(YES)、処理をステップS104に移行させる。ステップS101〜S103は、仮登録動作である。   A series of operations from the temporary registration operation to the main registration operation according to the first embodiment will be further described with reference to FIG. Each operation of the flowchart shown in FIG. 3 is executed based on control by the control unit 1. In FIG. 3, the face feature information extraction unit 2 extracts face feature information from face image data of a predetermined person in step S101. In step S102, the temporary registration information holding unit 3 temporarily registers the facial feature information extracted in step S101 as temporary registration information. In step S103, the control unit 1 determines whether or not provisional registration of N-frame face feature information has been completed. If it is not determined that the process has been completed (NO), the process returns to step S101, and steps S101 to S103 are repeated. If it is determined in step S103 that the temporary registration of facial feature information for N frames has been completed (YES), the process proceeds to step S104. Steps S101 to S103 are temporary registration operations.

次に、顔特徴情報抽出部2は、ステップS104にて、新たに入力された同じ所定人物の顔画像データから新たに顔特徴情報を抽出する。顔特徴情報照合部5は、ステップS105にて、ステップS104にて抽出した顔特徴情報とステップS102にて仮登録した複数の仮登録情報とをそれぞれ照合して類似度を算出する。本人類似度検出部6は、ステップS106にて、ステップS105にて算出した類似度を累計する。制御部1は、ステップS107にて、Mフレーム分の顔特徴情報の照合が終了したかどうかを判定する。終了したと判定しなかったらステップS104に処理を戻し、ステップS104〜S107を繰り返す。ステップS107にてMフレーム分の顔特徴情報の照合が終了したと判定したら、処理をステップS108に移行させる。   Next, in step S104, the face feature information extraction unit 2 newly extracts face feature information from the newly inputted face image data of the same predetermined person. In step S105, the face feature information collation unit 5 collates the face feature information extracted in step S104 and the plurality of temporary registration information provisionally registered in step S102, and calculates the similarity. In step S106, the identity similarity detection unit 6 accumulates the similarities calculated in step S105. In step S107, the control unit 1 determines whether or not collation of face feature information for M frames has been completed. If it is not determined that the process has been completed, the process returns to step S104, and steps S104 to S107 are repeated. If it is determined in step S107 that collation of face feature information for M frames has been completed, the process proceeds to step S108.

本人類似度検出部6は、ステップS108にて、仮登録情報毎に累計した類似度をフレーム数Mで割った平均類似度Savg1〜Savg6を算出し、算出した平均類似度Savg1〜Savg6を各仮登録情報の本人類似度とする。制御部1は、ステップS109にて、本人類似度が所定の登録閾値以上である仮登録情報があるか否かを判定する。本人類似度が所定の登録閾値以上である仮登録情報があると判定されれば(YES)、制御部1は、ステップS110にて、本人類似度が最も大きい仮登録情報を選択し、選択した仮登録情報(顔特徴情報)を登録情報保持部4に本登録する。ステップS110にて選択した顔特徴情報は、所定人物の顔の特徴を最も適切に表した顔特徴情報であり、所定人物を本人として認証するのに最適な顔特徴情報である。制御部1は、ステップS111にて、表示部9による画面表示によって操作者に対して登録成功を通知して終了する。   In step S108, the person similarity detection unit 6 calculates average similarities Savg1 to Savg6 obtained by dividing the accumulated similarity for each temporary registration information by the number of frames M, and calculates the calculated average similarities Savg1 to Savg6 for each temporary. The identity similarity of registered information. In step S <b> 109, the control unit 1 determines whether there is provisional registration information whose identity similarity is equal to or greater than a predetermined registration threshold. If it is determined that there is provisional registration information whose identity similarity is equal to or greater than the predetermined registration threshold (YES), the control unit 1 selects and selects provisional registration information having the highest identity similarity in step S110. Temporary registration information (face feature information) is permanently registered in the registration information holding unit 4. The facial feature information selected in step S110 is facial feature information that most appropriately represents facial features of a predetermined person, and is optimal face feature information for authenticating the predetermined person as the person. In step S111, the control unit 1 notifies the operator of the success of registration through screen display by the display unit 9, and ends.

一方、ステップS109にて、本人類似度が所定の登録閾値以上である仮登録情報があると判定されなければ(NO)、制御部1は、ステップS112にて、表示部9による画面表示によって操作者に対して登録失敗を通知して終了する。ステップS109にて登録閾値以上である仮登録情報がなかったということは、入力された顔画像からは所定人物の顔の特徴を適切に表した顔特徴情報が得られなかったということであり、即ち、認証に適した顔特徴情報が抽出できなかったということである。この場合は、再度ステップS101からの処理を行えばよい。ステップS104〜S112は、本登録動作である。   On the other hand, if it is not determined in step S109 that there is provisional registration information whose identity similarity is equal to or higher than a predetermined registration threshold (NO), the control unit 1 is operated by screen display by the display unit 9 in step S112. The user is notified of the registration failure and ends. The fact that there is no provisional registration information that is equal to or greater than the registration threshold in step S109 means that face feature information that appropriately represents the facial features of the predetermined person cannot be obtained from the input face image. That is, face feature information suitable for authentication could not be extracted. In this case, the processing from step S101 may be performed again. Steps S104 to S112 are main registration operations.

≪第2実施形態≫
図4を用いて第2実施形態の構成及び動作について説明する。第2実施形態においても、第1実施形態と同様、仮登録動作、本登録動作、認証動作を行う。第2実施形態における仮登録動作と認証動作は第1実施形態におけるそれらの動作と同一であり、本登録動作のみが異なる。従って、仮登録動作と認証動作の説明を省略し、本登録動作を中心に説明する。
<< Second Embodiment >>
The configuration and operation of the second embodiment will be described with reference to FIG. Also in the second embodiment, the temporary registration operation, the main registration operation, and the authentication operation are performed as in the first embodiment. The temporary registration operation and the authentication operation in the second embodiment are the same as those in the first embodiment, and only the main registration operation is different. Accordingly, the description of the temporary registration operation and the authentication operation is omitted, and the main registration operation will be mainly described.

<本登録動作>
第2実施形態は、顔画像を登録しようとする所定人物の名前等、人物を特定する情報を登録時に入力する。図4において、顔特徴情報抽出部2は、12フレーム分の各顔画像データから顔特徴情報を抽出し、顔特徴情報照合部5へと出力する。仮登録情報保持部3は、仮登録情報である顔特徴情報を顔特徴情報照合部5へと出力する。登録情報保持部4は、制御部1による制御に基づいて、登録しようとしている所定人物とは異なる人物の登録情報を保持している場合には、異なる人物の登録情報を顔特徴情報照合部5へと出力する。
<Main Registration Operation>
In the second embodiment, information for specifying a person, such as the name of a predetermined person to register a face image, is input at the time of registration. In FIG. 4, the face feature information extraction unit 2 extracts face feature information from each frame image data for 12 frames and outputs it to the face feature information matching unit 5. The temporary registration information holding unit 3 outputs the facial feature information that is temporary registration information to the facial feature information matching unit 5. When the registration information holding unit 4 holds registration information of a person different from the predetermined person to be registered based on the control by the control unit 1, the registration information holding unit 4 displays the registration information of the different person as the face feature information matching unit 5. To output.

顔特徴情報照合部5は、制御部1による制御に基づいて、顔特徴情報抽出部2から出力された所定人物の顔特徴情報と仮登録情報保持部3から出力された所定人物の複数の仮登録情報とをそれぞれ照合して類似度を算出し、算出した類似度を本人類似度検出部6へと出力する。また、顔特徴情報照合部5は、制御部1による制御に基づいて、仮登録情報保持部3から出力された所定人物の仮登録情報と登録情報保持部4から出力された所定人物とは異なる人物の登録情報とをそれぞれ照合して類似度を算出し、算出した類似度を他人類似度検出部8へと出力する。   Based on the control by the control unit 1, the face feature information matching unit 5 includes a plurality of temporary features of the predetermined person output from the facial feature information output from the facial feature information extraction unit 2 and the temporary registration information holding unit 3. The registration information is collated with each other to calculate the similarity, and the calculated similarity is output to the identity similarity detection unit 6. Further, the facial feature information matching unit 5 is different from the temporary registration information of the predetermined person output from the temporary registration information holding unit 3 and the predetermined person output from the registration information holding unit 4 based on the control by the control unit 1. The similarity is calculated by collating each of the registered information of the person, and the calculated similarity is output to the stranger similarity detection unit 8.

本人類似度検出部6は、制御部1による制御に基づいて、顔特徴情報照合部5から出力された所定人物の顔特徴情報と仮登録情報との類似度を仮登録情報毎に累計して平均類似度Savg1〜Savg6を算出し、平均類似度Savg1〜Savg6を各仮登録情報の本人類似度として制御部1へと出力する。他人類似度検出部8は、顔特徴情報照合部5から出力された所定人物の仮登録情報と所定人物とは異なる人物の登録情報との類似度の中から仮登録情報毎に最大となる類似度を検出し、最大の類似度を各仮登録情報の他人類似度として制御部1へと出力する。   Based on the control by the control unit 1, the identity similarity detection unit 6 accumulates the similarity between the facial feature information of the predetermined person output from the facial feature information matching unit 5 and the provisional registration information for each provisional registration information. The average similarity Savg1 to Savg6 is calculated, and the average similarity Savg1 to Savg6 is output to the control unit 1 as the individual similarity of each temporary registration information. The stranger similarity detection unit 8 has a maximum similarity for each temporary registration information among the similarities between the temporary registration information of the predetermined person output from the face feature information matching unit 5 and the registration information of a person different from the predetermined person. The degree of similarity is detected, and the maximum degree of similarity is output to the control unit 1 as the degree of others similarity of each temporary registration information.

制御部1は、本人類似度検出部6から出力された各仮登録情報の本人類似度と他人類似度検出部8から出力された各仮登録情報の他人類似度とに応じて、本人類似度が所定の登録閾値以上の仮登録情報の中で本人類似度と他人類似度との差が最も大きい仮登録情報を本登録する。登録情報保持部4が登録しようとしている所定人物とは異なる人物の登録情報を保持してない場合には、他人類似度検出部8は他人類似度を検出することはできないので、制御部1は、第1実施形態と同様、本人類似度が所定の登録閾値以上の仮登録情報の中で本人類似度が最も大きい仮登録情報を本登録する。また、制御部1は、本人類似度が登録閾値未満であれば、いずれの仮登録情報も本登録しないよう仮登録情報保持部3及び登録情報保持部4を制御する。   The control unit 1 determines the principal similarity according to the principal similarity of each temporary registration information output from the principal similarity detection unit 6 and the other person similarity of each temporary registration information output from the stranger similarity detection unit 8. Temporary registration information having the largest difference between the person's similarity and the others' similarity among the temporary registration information having a predetermined registration threshold or more. When the registration information holding unit 4 does not hold registration information of a person different from the predetermined person to be registered, the stranger similarity detection unit 8 cannot detect the others similarity, so the control unit 1 As in the first embodiment, temporary registration information having the highest principal similarity among temporary registration information having a principal similarity equal to or higher than a predetermined registration threshold is permanently registered. The control unit 1 controls the temporary registration information holding unit 3 and the registration information holding unit 4 so that no temporary registration information is permanently registered if the identity similarity is less than the registration threshold.

図5を用いて、第2実施形態による本登録動作についてさらに説明する。図5におけるステップS201〜S209の処理は図3におけるステップS101〜S109の処理と同一であり、ここでは説明は省略する。図5において、制御部1は、ステップS209にて、本人類似度が所定の登録閾値以上である仮登録情報があると判定したら(YES)、ステップS210にて、登録しようとしている所定人物とは異なる人物、即ち他人の登録情報があるか否かを判定する。他人の登録情報があると判定されれば(YES)、制御部1は、ステップS211にて、本人類似度が所定の登録閾値以上である仮登録情報を選択する。   The main registration operation according to the second embodiment will be further described with reference to FIG. The processing in steps S201 to S209 in FIG. 5 is the same as the processing in steps S101 to S109 in FIG. 3, and description thereof is omitted here. In FIG. 5, if the control unit 1 determines in step S209 that there is provisional registration information whose identity similarity is equal to or higher than a predetermined registration threshold (YES), in step S210, the predetermined person to be registered is determined. It is determined whether there is registration information of a different person, that is, another person. If it is determined that there is registration information of another person (YES), the control unit 1 selects provisional registration information whose identity similarity is equal to or greater than a predetermined registration threshold in step S211.

顔特徴情報照合部5は、ステップS212にて、選択した仮登録情報と他人の登録情報とをそれぞれ照合して類似度を算出する。他人類似度検出部8は、ステップS213にて、ステップS212にて算出した類似度の最大値を検出し、検出した最大値を各仮登録情報の他人類似度とする。制御部1は、ステップS214にて、各仮登録情報の本人類似度と他人類似度との差を算出する。制御部1は、ステップS215にて、本人類似度と他人類似度との差が最も大きい仮登録情報を選択して本登録する。ステップS215にて選択した仮登録情報は、所定人物の顔特徴を適切に表し、かつ他人の顔特徴との区別が最もつきやすい顔特徴情報、即ち、所定人物を本人として認証するのに適し、かつ他人と誤判定しにくい顔特徴情報である。   In step S212, the face feature information collation unit 5 collates the selected temporary registration information with other person's registration information, and calculates the similarity. In step S213, the stranger similarity detection unit 8 detects the maximum value of the similarity calculated in step S212, and sets the detected maximum value as the other person similarity of each temporary registration information. In step S214, the control unit 1 calculates the difference between the principal similarity and the others similarity of each temporary registration information. In step S215, the control unit 1 selects temporary registration information having the largest difference between the principal similarity and the others similarity and performs permanent registration. The provisional registration information selected in step S215 is suitable for authenticating a predetermined person as the person, that is, the face characteristic information that appropriately represents the face characteristic of the predetermined person and is most easily distinguished from other person's facial features. In addition, it is face feature information that is unlikely to be mistaken for others.

一方、ステップS210にて、他人の登録情報があると判定されなければ(NO)、制御部1は、ステップS216にて、本人類似度が最も大きい仮登録情報を選択して本登録する。ステップS216にて選択した仮登録情報は、他人の顔の特徴との区別がつきやすいかどうかは分からないものの、所定人物の顔特徴を最も適切に表した顔特徴情報、即ち、所定人物を本人として認証するのに適した顔特徴情報である。   On the other hand, if it is not determined in step S210 that there is other person's registration information (NO), in step S216, the control unit 1 selects temporary registration information having the highest individual similarity and performs main registration. Although it is not known whether the temporary registration information selected in step S216 is easily distinguishable from other people's facial features, the facial feature information that best represents the facial features of the predetermined person, that is, the predetermined person It is face feature information suitable for authenticating as.

ステップS215及びS216の後、制御部1は、ステップS218にて、表示部9による画面表示によって操作者に対して登録成功を通知して終了する。一方、制御部1は、ステップS209にて、本人類似度が所定の登録閾値以上である仮登録情報があると判定されなければ(NO)、ステップS217にて、表示部9による画面表示によって操作者に対して登録失敗を通知して終了する。   After steps S215 and S216, the control unit 1 notifies the operator of the success of registration through screen display by the display unit 9 and ends in step S218. On the other hand, if it is not determined in step S209 that there is provisional registration information whose identity similarity is equal to or higher than the predetermined registration threshold (NO), the control unit 1 is operated by screen display by the display unit 9 in step S217. The user is notified of the registration failure and ends.

以上説明した第1,第2実施形態においては、仮登録動作で6フレーム分の各顔画像データから6個の顔特徴情報を抽出して仮登録し、本登録動作で12フレーム分の各顔画像データから12個の顔特徴情報を抽出して、6個の顔特徴情報と12個の顔特徴情報との類似度を算出する例について説明した。簡略化のため、仮登録動作で6フレーム分の各顔画像データから6個の顔特徴情報を抽出して仮登録し、本登録動作で1フレーム分の各顔画像データから1個の顔特徴情報を抽出して、6個の顔特徴情報と1個の顔特徴情報との類似度を算出するよう構成することもできる。   In the first and second embodiments described above, six face feature information is extracted from each face image data for six frames in the temporary registration operation and temporarily registered, and each face for 12 frames in the main registration operation. The example in which 12 pieces of face feature information are extracted from the image data and the similarity between the 6 pieces of face feature information and the 12 pieces of face feature information is calculated has been described. For simplification, six face feature information is extracted from each face image data for six frames in the temporary registration operation and temporarily registered, and one face feature is obtained from each face image data for one frame in the main registration operation. It is also possible to extract information and calculate the similarity between six pieces of face feature information and one piece of face feature information.

≪変形例1≫
図6を用いて、6個の顔特徴情報と1個の顔特徴情報との類似度を算出する構成を変形例1として説明する。顔特徴情報照合部5には、仮登録情報保持部3から仮登録動作による6個の顔特徴情報FI1〜FI6が入力され、顔特徴情報抽出部2から本登録動作による1個の顔特徴情報の顔特徴情報FI10が入力される。図6(A)に示すように、顔特徴情報照合部5は、顔特徴情報FI1〜FI6それぞれと顔特徴情報FI10とを照合して類似度を算出する。この場合、顔特徴情報照合部5は、図6(B)に示すように、顔特徴情報FI1〜FI6それぞれに対して、類似度情報S10〜S60を生成する。
<< Modification 1 >>
A configuration for calculating the similarity between six pieces of face feature information and one piece of face feature information will be described as a first modification with reference to FIG. The face feature information matching unit 5 receives six pieces of face feature information FI1 to FI6 by the temporary registration operation from the temporary registration information holding unit 3, and one piece of face feature information by the main registration operation from the face feature information extraction unit 2. Face feature information FI10 is input. As shown in FIG. 6A, the face feature information matching unit 5 compares the face feature information FI1 to FI6 and the face feature information FI10 to calculate the similarity. In this case, the face feature information matching unit 5 generates similarity information S10 to S60 for each of the face feature information FI1 to FI6 as shown in FIG.

変形例1では、顔特徴情報FI1〜FI6それぞれに対して1つの類似度情報S10〜S60が対応するので、本人類似度検出部6における平均類似度を求める処理は不要である。従って、変形例1では本人類似度検出部6は削除可能である。図6(C)に示すように、制御部1は、顔特徴情報FI1〜FI6の中から、類似度情報S10〜S60の内で最も類似度が大きい顔特徴情報を抽出して、抽出した顔特徴情報を仮登録情報保持部3から読み出して、登録情報保持部4に保持させる。ここでは、人物Paにおいて顔特徴情報FI3の類似度情報S30が最大であった場合を示している。   In the first modification, since one piece of similarity information S10 to S60 corresponds to each of the face feature information FI1 to FI6, the process of obtaining the average similarity in the person similarity detection unit 6 is unnecessary. Accordingly, in the first modification, the person similarity detection unit 6 can be deleted. As shown in FIG. 6C, the control unit 1 extracts the facial feature information having the highest similarity among the similarity information S10 to S60 from the facial feature information FI1 to FI6, and extracts the extracted face. The feature information is read from the temporary registration information holding unit 3 and held in the registration information holding unit 4. Here, a case is shown in which the similarity information S30 of the face feature information FI3 is the maximum for the person Pa.

第1,第2実施形態及び変形例1においては、仮登録動作にて抽出した顔特徴情報FI1〜FI6を基準として、本登録動作にて抽出した顔特徴情報FI11〜FI22または顔特徴情報FI10との類似度を算出し、算出した類似度に基づいて顔特徴情報FI1〜FI6の内の1つを本登録情報として登録情報保持部4に保持させるよう構成している。本登録動作にて抽出した顔特徴情報を基準とし、登録情報保持部4に登録する顔特徴情報を本登録動作にて抽出した顔特徴情報の中から選択するように構成してもよい。   In the first and second embodiments and the first modification, the facial feature information FI11 to FI22 or the facial feature information FI10 extracted by the main registration operation is based on the facial feature information FI1 to FI6 extracted by the temporary registration operation. The similarity is calculated, and one of the facial feature information FI1 to FI6 is stored in the registration information holding unit 4 as main registration information based on the calculated similarity. The face feature information extracted in the main registration operation may be selected from the face feature information extracted in the main registration operation using the face feature information extracted in the main registration operation as a reference.

≪変形例2≫
図7を用いて、本登録動作にて抽出した顔特徴情報を基準とし、登録情報保持部4に登録する顔特徴情報を本登録動作にて抽出した顔特徴情報の中から選択するようにした構成を変形例2として説明する。顔特徴情報照合部5には、仮登録情報保持部3から仮登録動作による1個の顔特徴情報FI0が入力され、顔特徴情報抽出部2から本登録動作による6個の顔特徴情報の顔特徴情報FI11〜FI16が入力される。図7に示すように、顔特徴情報照合部5は、顔特徴情報FI0と顔特徴情報FI11〜FI16それぞれとを照合して類似度を算出する。変形例2においては、顔特徴情報FI11〜FI16も仮登録情報保持部3に保持しておく。
<< Modification 2 >>
Using FIG. 7, the facial feature information extracted by the main registration operation is selected from the facial feature information extracted by the main registration operation, using the facial feature information extracted by the main registration operation as a reference. The configuration will be described as a second modification. The face feature information matching unit 5 receives one piece of face feature information FI0 from the provisional registration information holding unit 3 through the provisional registration operation, and the face feature information extraction unit 2 from the six face feature information through the main registration operation. The feature information FI11 to FI16 is input. As shown in FIG. 7, the face feature information collating unit 5 collates the face feature information FI0 and each of the face feature information FI11 to FI16 to calculate the similarity. In the second modification, the facial feature information FI11 to FI16 are also held in the temporary registration information holding unit 3.

制御部1は、変形例1と同様、顔特徴情報FI11〜FI16の中から、顔特徴情報FI0との類似度が大きい顔特徴情報を抽出して、抽出した顔特徴情報を仮登録情報保持部3から読み出して、登録情報保持部4に保持させる。図7においては、簡略化のため仮登録動作で1フレームのみで顔特徴情報FI0を抽出したが、図2と同様、複数フレームから複数の顔特徴情報を抽出してもよい。   As in the first modification, the control unit 1 extracts face feature information having a high similarity to the face feature information FI0 from the face feature information FI11 to FI16, and the extracted face feature information is temporarily registered information holding unit. 3 and stored in the registration information storage unit 4. In FIG. 7, for simplification, the facial feature information FI0 is extracted with only one frame in the temporary registration operation, but a plurality of facial feature information may be extracted from a plurality of frames as in FIG.

以上の説明より分かるように、仮登録動作におけるNフレームと本登録動作におけるMフレームはそれぞれ複数であることが好ましい。簡略化のため、仮登録動作で顔特徴情報を抽出するフレームと、本登録動作で顔特徴情報を抽出するフレームとの内の一方を1フレームとしてもよい。この場合には、仮登録動作と本登録動作との内、最終的に登録情報保持部4に登録する顔特徴情報を選択するための複数の顔特徴情報を生成する方を複数フレームとすればよい。   As can be seen from the above description, it is preferable that there are a plurality of N frames in the temporary registration operation and M frames in the main registration operation. For simplification, one of the frame from which the facial feature information is extracted by the temporary registration operation and the frame from which the facial feature information is extracted by the main registration operation may be one frame. In this case, if a plurality of face feature information for selecting face feature information to be finally registered in the registration information holding unit 4 is selected as a plurality of frames from the temporary registration operation and the main registration operation. Good.

本発明は以上説明した第1実施形態、第2実施形態、変形例1、変形例2に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。図1,図4では、仮登録情報保持部3と登録情報保持部4とを便宜的に分けて記載したが、1つの保持部(メモリ)であってもよい。仮登録情報保持部3に保持させた顔特徴情報FI1〜FI6の内の1つを選択して登録情報保持部4に保持させると説明したが、本登録する顔特徴情報を保持部内に残し、他の顔特徴情報を消去してもよい。図1,図4は本発明の概念的なブロック構成図であり、図1,図4の構成に限定されるものではない。   The present invention is not limited to the first embodiment, the second embodiment, the first modification, and the second modification described above, and various modifications can be made without departing from the scope of the present invention. 1 and 4, the temporary registration information holding unit 3 and the registration information holding unit 4 are described separately for convenience, but may be a single holding unit (memory). It has been described that one of the face feature information FI1 to FI6 held in the temporary registration information holding unit 3 is selected and held in the registration information holding unit 4, but the face feature information to be registered is left in the holding unit, Other facial feature information may be deleted. 1 and 4 are conceptual block diagrams of the present invention, and the present invention is not limited to the configurations of FIGS.

認証装置に搭載するコンピュータに認証プログラムをインストールして、図3または図4で説明した処理を実行させることもできる。認証プログラムは光ディスク等の記録媒体に記録して提供することができ、インターネット等の通信回線によって提供することもできる。認証プログラムによるソフトウェアによる処理とハードウェアによる処理とを適宜混在させることも可能である。   It is also possible to install an authentication program in a computer installed in the authentication apparatus and execute the processing described with reference to FIG. The authentication program can be provided by being recorded on a recording medium such as an optical disk, or can be provided via a communication line such as the Internet. It is possible to appropriately mix software processing by the authentication program and hardware processing.

1 制御部
2 顔特徴情報抽出部
3 仮登録情報保持部
4 登録情報保持部
5 顔特徴情報照合部
6 本人類似度検出部
7 認証結果判定部
8 他人類似度検出部
9 表示部
DESCRIPTION OF SYMBOLS 1 Control part 2 Face feature information extraction part 3 Temporary registration information holding part 4 Registration information holding part 5 Face feature information collation part 6 Personal person similarity detection part 7 Authentication result determination part 8 Others person similarity detection part 9 Display part

Claims (6)

登録しようとする対象物を撮影した画像から特徴情報を抽出する特徴情報抽出部と、
前記対象物を撮影した複数の第1のフレームの画像それぞれから前記特徴情報抽出部が抽出した複数の第1の特徴情報を保持する保持部と、
前記複数の第1の特徴情報と、前記第1のフレームとは異なるフレームであり、前記対象物を撮影した1または複数の第2のフレームの画像から前記特徴情報抽出部が抽出した第2の特徴情報とを照合して第1の類似度を算出する特徴情報照合部と、
前記複数の第1の特徴情報の内、第1の類似度が最も大きい1つの特徴情報を登録情報として保持部に保持させる制御部と、
を備え
前記特徴情報照合部は、前記複数の第1の特徴情報と、前記登録しようとする対象物とは異なる対象物の第3の特徴情報との第2の類似度を算出し、
前記制御部は、前記複数の第1の特徴情報の内、前記第1の類似度と前記第2の類似度との差が最も大きい特徴情報を登録情報として保持部に保持させる
とを特徴とする認証装置。
A feature information extraction unit that extracts feature information from an image of an object to be registered;
A holding unit for holding a plurality of first feature information extracted by the feature information extraction unit from each of a plurality of first frame images obtained by photographing the object;
The plurality of first feature information and the second frame are different from the first frame, and the feature information extraction unit extracts the second information extracted from the image of one or more second frames obtained by photographing the object. A feature information collating unit that collates feature information and calculates a first similarity;
A control unit that causes the holding unit to hold one feature information having the largest first similarity among the plurality of first feature information as registration information;
Equipped with a,
The feature information matching unit calculates a second similarity between the plurality of first feature information and third feature information of an object different from the object to be registered,
The control unit causes the holding unit to hold feature information having the largest difference between the first similarity and the second similarity among the plurality of first feature information as registration information.
Authentication device comprising a call.
前記第2のフレームは複数であり、
前記特徴情報照合部は、前記複数の第1の特徴情報それぞれと複数の第2の特徴情報それぞれとの類似度を算出し、
前記複数の第1の特徴情報それぞれに対して、前記複数の第2の特徴情報との類似度を平均した平均類似度を検出する検出部をさらに備え、
前記制御部は、前記複数の第1の特徴情報の内、前記検出部が検出した平均類似度が最も大きい特徴情報を登録情報として保持部に保持させる
ことを特徴とする請求項1記載の認証装置。
A plurality of the second frames;
The feature information matching unit calculates a similarity between each of the plurality of first feature information and each of the plurality of second feature information;
For each of the plurality of first feature information, further comprising a detection unit that detects an average similarity obtained by averaging the similarity with the plurality of second feature information,
The authentication unit according to claim 1, wherein the control unit causes the holding unit to hold, as registration information, feature information having the highest average similarity detected by the detection unit among the plurality of first feature information. apparatus.
登録しようとする対象物を撮影した複数の第1のフレームの画像それぞれから特徴情報を抽出し、複数の第1の特徴情報として保持する保持ステップと、
前記第1のフレームとは異なるフレームであり、前記対象物を撮影した1または複数の第2のフレームの画像から第2の特徴情報を抽出する抽出ステップと、
前記複数の第1の特徴情報と前記第2の特徴情報とを照合して第1の類似度を算出する第1の算出ステップと、
前記複数の第1の特徴情報の内、第1の類似度が最も大きい1つの特徴情報を登録情報として登録する登録ステップと、
前記複数の第1の特徴情報と、前記登録しようとする対象物とは異なる対象物の第3の特徴情報との第2の類似度を算出する第2の算出ステップと、
を含み
前記登録ステップは、前記複数の第1の特徴情報の内、前記第1の類似度と前記第2の類似度との差が最も大きい特徴情報を登録情報として登録する
とを特徴とする認証方法。
A holding step of extracting feature information from each of a plurality of first frame images obtained by photographing the object to be registered, and holding the extracted feature information as a plurality of first feature information;
An extraction step of extracting second feature information from an image of one or a plurality of second frames that are different from the first frame and photographed the object;
A first calculation step of calculating a first similarity by collating the plurality of first feature information and the second feature information;
A registration step of registering, as registration information, one feature information having the highest first similarity among the plurality of first feature information;
A second calculation step of calculating a second similarity between the plurality of first feature information and third feature information of an object different from the object to be registered;
It includes,
The registration step registers, as registration information, feature information having the largest difference between the first similarity and the second similarity among the plurality of first feature information.
Authentication wherein a call.
前記第2のフレームは複数であり、
前記第1の算出ステップは、前記複数の第1の特徴情報それぞれと複数の第2の特徴情報それぞれとの類似度を算出し、
前記複数の第1の特徴情報それぞれに対して、前記複数の第2の特徴情報との類似度を平均した平均類似度を検出する検出ステップをさらに含み、
前記登録ステップは、前記複数の第1の特徴情報の内、前記検出ステップにて検出した平均類似度が最も大きい特徴情報を登録情報として登録する
ことを特徴とする請求項記載の認証方法。
A plurality of the second frames;
The first calculating step calculates a similarity between each of the plurality of first feature information and each of the plurality of second feature information;
For each of the plurality of first feature information, the method further includes a detection step of detecting an average similarity obtained by averaging similarities with the plurality of second feature information,
The authentication method according to claim 3 , wherein the registration step registers, as registration information, feature information having the highest average similarity detected in the detection step among the plurality of first feature information.
コンピュータに、
登録しようとする対象物を撮影した複数の第1のフレームの画像それぞれから特徴情報を抽出し、複数の第1の特徴情報として保持する保持ステップと、
前記第1のフレームとは異なるフレームであり、前記対象物を撮影した1または複数の第2のフレームの画像から第2の特徴情報を抽出する抽出ステップと、
前記複数の第1の特徴情報と前記第2の特徴情報とを照合して第1の類似度を算出する第1の算出ステップと、
前記複数の第1の特徴情報の内、第1の類似度が最も大きい1つの特徴情報を登録情報として登録する登録ステップと、
前記複数の第1の特徴情報と、前記登録しようとする対象物とは異なる対象物の第3の特徴情報との第2の類似度を算出する第2の算出ステップと、
を実行させ
前記登録ステップとして、前記複数の第1の特徴情報の内、前記第1の類似度と前記第2の類似度との差が最も大きい特徴情報を登録情報として登録する処理を実行させる
とを特徴とする認証プログラム。
On the computer,
A holding step of extracting feature information from each of a plurality of first frame images obtained by photographing the object to be registered, and holding the extracted feature information as a plurality of first feature information;
An extraction step of extracting second feature information from an image of one or a plurality of second frames that are different from the first frame and photographed the object;
A first calculation step of calculating a first similarity by collating the plurality of first feature information and the second feature information;
A registration step of registering, as registration information, one feature information having the highest first similarity among the plurality of first feature information;
A second calculation step of calculating a second similarity between the plurality of first feature information and third feature information of an object different from the object to be registered;
Was executed,
As the registration step, a process of registering, as registration information, feature information having the largest difference between the first similarity and the second similarity among the plurality of first feature information is executed.
Authentication program which is characterized a call.
前記第2のフレームは複数であり、
コンピュータに、
前記第1の算出ステップとして、前記複数の第1の特徴情報それぞれと複数の第2の特徴情報それぞれとの類似度を算出する処理を実行させ、
前記複数の第1の特徴情報それぞれに対して、前記複数の第2の特徴情報との類似度を平均した平均類似度を検出する検出ステップをさらに実行させ、
前記登録ステップとして、前記複数の第1の特徴情報の内、前記検出ステップにて検出した平均類似度が最も大きい特徴情報を登録情報として登録する処理を実行させる
ことを特徴とする請求項記載の認証プログラム。
A plurality of the second frames;
On the computer,
As the first calculation step, a process of calculating a similarity between each of the plurality of first feature information and each of the plurality of second feature information is executed.
For each of the plurality of first feature information, a detection step of detecting an average similarity obtained by averaging similarities with the plurality of second feature information is further executed.
Examples registration step, the plurality of first characteristic information, according to claim 5, characterized in that to execute a process of registering the largest characteristic information average degree of similarity is detected by said detecting step as registration information Certification program.
JP2011163142A 2011-07-26 2011-07-26 Authentication device, authentication method, authentication program Active JP5747713B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011163142A JP5747713B2 (en) 2011-07-26 2011-07-26 Authentication device, authentication method, authentication program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011163142A JP5747713B2 (en) 2011-07-26 2011-07-26 Authentication device, authentication method, authentication program

Publications (2)

Publication Number Publication Date
JP2013025755A JP2013025755A (en) 2013-02-04
JP5747713B2 true JP5747713B2 (en) 2015-07-15

Family

ID=47783987

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011163142A Active JP5747713B2 (en) 2011-07-26 2011-07-26 Authentication device, authentication method, authentication program

Country Status (1)

Country Link
JP (1) JP5747713B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6032566B2 (en) * 2014-03-14 2016-11-30 Necソリューションイノベータ株式会社 Identification data processing apparatus and identification data processing method

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5210797A (en) * 1989-10-30 1993-05-11 Kokusan Kinzoku Kogyo Kabushiki Kaisha Adaptive dictionary for a fingerprint recognizer
JPH0991434A (en) * 1995-09-28 1997-04-04 Hamamatsu Photonics Kk Human body collation device
JPH11232459A (en) * 1998-02-17 1999-08-27 Nec Corp Authentication object original information registering method for personal identification, and personal identification device
JP4546168B2 (en) * 2004-06-28 2010-09-15 富士通株式会社 Biometric authentication system registration method, biometric authentication system and program thereof

Also Published As

Publication number Publication date
JP2013025755A (en) 2013-02-04

Similar Documents

Publication Publication Date Title
CN109948408B (en) Activity test method and apparatus
JP5801601B2 (en) Image recognition apparatus, image recognition apparatus control method, and program
TWI278782B (en) Personal recognition apparatus
CN104298909B (en) Electronic device, authentication system and method
JP6268960B2 (en) Image recognition apparatus and data registration method for image recognition apparatus
JP6202983B2 (en) Identification system
US8264327B2 (en) Authentication apparatus, image sensing apparatus, authentication method and program therefor
JP4760049B2 (en) Face authentication device, face authentication method, electronic device incorporating the face authentication device, and recording medium recording the face authentication program
WO2018181819A1 (en) Facial authentication device and facial authentication method
CA3152812A1 (en) Facial recognition method and apparatus
JP2006114018A (en) Security system
JP5170094B2 (en) Spoofing detection system, spoofing detection method, and spoofing detection program
JP4850609B2 (en) Face image matching device
JP5087037B2 (en) Image processing apparatus, method, and program
JP6964527B2 (en) Authentication system, authentication device, authentication program, and authentication method
JP2006085268A (en) Biometrics system and biometrics method
JP2007249587A (en) Authentication device, authentication method, authentication program and computer readable recording medium having the same recorded thereon
JP2006085289A (en) Facial authentication system and facial authentication method
JP2003233816A (en) Access control system
JP5621534B2 (en) Access control system and personal identification data reader
JP5747713B2 (en) Authentication device, authentication method, authentication program
JP2008065651A (en) Face image authentication method, face image authentication apparatus and program
WO2022222957A1 (en) Method and system for identifying target
JP6798285B2 (en) Biometric device, biometric method and program
JP4429873B2 (en) Face image authentication apparatus and face image authentication method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141104

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150427

R150 Certificate of patent (=grant) or registration of utility model

Ref document number: 5747713

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150