JP2008065651A - Face image authentication method, face image authentication apparatus and program - Google Patents

Face image authentication method, face image authentication apparatus and program Download PDF

Info

Publication number
JP2008065651A
JP2008065651A JP2006243669A JP2006243669A JP2008065651A JP 2008065651 A JP2008065651 A JP 2008065651A JP 2006243669 A JP2006243669 A JP 2006243669A JP 2006243669 A JP2006243669 A JP 2006243669A JP 2008065651 A JP2008065651 A JP 2008065651A
Authority
JP
Japan
Prior art keywords
face image
authentication
face
similarity
registered
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006243669A
Other languages
Japanese (ja)
Inventor
Satoshi Haruyama
智 春山
Ei Sakano
鋭 坂野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Data Group Corp
Original Assignee
NTT Data Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Data Corp filed Critical NTT Data Corp
Priority to JP2006243669A priority Critical patent/JP2008065651A/en
Publication of JP2008065651A publication Critical patent/JP2008065651A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a procedure for improving the determination accuracy of face authentication processing to be generated by changes in face directions, changes of expressions, illumination conditions, or combinations of these conditions. <P>SOLUTION: A face image authentication apparatus 10 is provided with: a registered face image acquisition part 13 for acquiring a registered face image photographed under a photographing condition including an element of a prescribed direction; an authentication face image acquisition part 14 for acquiring a plurality of authentication face images of a target person newly photographed under photographing conditions including elements of a plurality of directions; a similarity degree data calculation part 16 for collating respective similarity degrees of the plurality of authentication face images with the acquired registered face image and relating respective similarity degrees with the elements of the directions; and an authentication part 17 for determining whether the related information data belong to a same-person similarity group or a different person similarity group, by comparing these information data with group discrimination data, and determining whether the plurality of authentication face images and the registered face image are obtained by photographing the same person or not to identify the authentication face images with the registered face image. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、顔画像を認証する顔画像認証方法およびその関連技術に関する。   The present invention relates to a face image authentication method for authenticating a face image and related technology.

顔画像認証方法とは、予めデータベース等に登録された人物の顔画像データ(登録顔画像)と、認証時に撮影された認証対象者の顔画像データ(入力画像)との類似度を算出し、その類似度が予め設定された閾値以上であれば、認証対象者はデータベースに登録された顔画像の人物と同一(照合成立)と判定し、その類似度が閾値未満であれば、認証対象者はデータベースに登録された顔画像の人物と非同一(照合不成立)と判定する技術である。   The face image authentication method calculates the degree of similarity between face image data (registered face image) of a person registered in advance in a database or the like and face image data (input image) of a person to be authenticated photographed at the time of authentication, If the similarity is greater than or equal to a preset threshold, the person to be authenticated is determined to be the same as the person of the face image registered in the database (matching is established). If the similarity is less than the threshold, the person to be authenticated Is a technique for determining that the face image person registered in the database is not the same as the person in the face image (matching failure).

一般に、顔画像認証方法では、顔の向き、照明の条件、撮影機器の差異等からなる撮影条件の変化(要因1)、または、表情、化粧、装着物の有無、時間経過等からなる顔の状態の変化(要因2)等によって、撮影される顔画像が大きく異なるため、同一人物の顔画像同士であっても、所望の類似度が得られず、照合結果が不一致になることが少なからずある。そのため、このような顔画像の映り方の変化が生じないように、利用条件を限定しないと十分な照合精度が得られない。   In general, in the face image authentication method, a change in photographing condition (factor 1) including a face direction, lighting conditions, differences in photographing devices, etc., or a facial expression including a facial expression, makeup, presence / absence of an attachment, time passage, etc. Since the captured face images differ greatly depending on the change in the state (factor 2) and the like, the desired similarity cannot be obtained even for face images of the same person, and the matching results often become inconsistent. is there. For this reason, sufficient matching accuracy cannot be obtained unless the use conditions are limited so that the change in the appearance of the face image does not occur.

しかしながら、顔画像認証方法の現実の利用シーンにおいては、撮影条件や顔の状態が照合処理に適するように設定することが困難な場合が多く、特に、不特定多数のユーザを対象とする場合は、撮影条件等を設定することがより困難になるため、安定して正確な照合処理を行うことが困難であった。   However, in the actual usage scene of the face image authentication method, it is often difficult to set the shooting conditions and the face state to be suitable for the collation process, especially when targeting an unspecified number of users. Since it is more difficult to set shooting conditions and the like, it has been difficult to perform stable and accurate collation processing.

この課題に対し、従来の顔画像認証方法においては、より高い照合精度を確保するために、複数の顔画像を採取し、それぞれに対し照合を行い、類似度の最大値を採用する方法、または、類似度の算出にあたり、画像からの照明変化成分の除去、照明等の変化に対しても安定した顔画像特徴を用いる方法等があった。   For this problem, in the conventional face image authentication method, in order to ensure higher collation accuracy, a plurality of face images are collected and collated for each, and the maximum value of similarity is adopted, or In calculating the similarity, there are a method of removing a lighting change component from an image, a method using a stable face image feature even with respect to a change in lighting or the like.

また、非特許文献1には、類似度の算出にあたり、グラフマッチング法等を用いて、認証対象者の表情等の変化に対しても安定した顔画像特徴を用いる方法が開示されている。
非特許文献2には、類似度の算出にあたって、照明の変化、顔の向きによる顔画像の映り方の変化を、予め推定する方法が開示されている。
非特許文献3には、類似度の算出アルゴリズムを工夫し、照明条件の変化による顔画像の映り方の変化に対しても安定して類似度を算出する方法が開示されている。
特許文献1には、1人の登録者について照明条件が異なる複数の登録者顔画像データ毎に、認証対象者の顔画像から得た認証者顔画像データと照合して、その類似度を求め、類似度が抽出閾値よりも大きい登録者顔画像データが含まれている登録者毎に算出した類似度の総和に基づいて認証対象者が登録者であるかどうかを認証方法が開示されている。
Non-Patent Document 1 discloses a method of using a face image feature that is stable against changes in the facial expression of the person to be authenticated using a graph matching method or the like in calculating similarity.
Non-Patent Document 2 discloses a method for preliminarily estimating a change in lighting and a change in the appearance of a face image due to the face orientation when calculating the similarity.
Non-Patent Document 3 discloses a method for calculating the degree of similarity in a stable manner even with respect to a change in how a face image is projected due to a change in illumination conditions by devising a similarity degree calculation algorithm.
In Patent Document 1, for each registrant, a plurality of registrant face image data having different lighting conditions are collated with the certifier face image data obtained from the face image of the person to be authenticated, and the degree of similarity is obtained. An authentication method is disclosed as to whether or not the person to be authenticated is a registrant based on the sum of similarities calculated for each registrant that includes registrant face image data whose similarity is greater than the extraction threshold. .

川手雅人、細井聖著「実環境にロバストな顔認識技術とその応用」IIP2000情報・知能・精密機器部門講演会講演論文集 日本機械学会(2000年3月)Masato Kawate and Sei Hosoi “Robust Face Recognition Technology in Real Environments and Its Applications” IIP2000 Information, Intelligence and Precision Instruments Lecture Proceedings The Japan Society of Mechanical Engineers (March 2000) 今岡仁、佐藤敦著「判別分析と摂動画像法を用いた顔照合アルゴリズム」第4回情報科学技術フォーラム講演論文集(2005年)Hitoshi Imaoka and Kei Sato “Face Matching Algorithm Using Discriminant Analysis and Perturbation Image Method” Proceedings of the 4th Information Science and Technology Forum (2005) 福井和広他著「制約相互部分空間法を用いた環境変動にロバストな顔画像認証−照明変動の影響を抑える制約部分空間の学習−」電子情報通信学会 論文誌D-II Vol.J82-D-II, No.4,p.613-620,1999Fukui Kazuhiro et al., “Face Image Recognition Robust to Environmental Changes Using the Constraint Mutual Subspace Method-Learning Constraint Subspace to Reduce the Effects of Lighting Variation” IEICE Transactions D-II Vol.J82-D- II, No.4, p.613-620,1999 特開2005−56004号公報JP 2005-56004 A

従来の顔画像認証方法では、顔画像の映り方の変化が原因となって生じる誤認証に対して、上述のような改善がなされてきてはいるが、その対策は未だ不十分である。
中でも、顔の向きの変化に起因する誤認証に対しては十分な対策が行われているとはいえず、利用者が顔画像認証方法に慣れていない場合には、本人が意識しない程度の顔の向きの変化によっても、誤認証が生じる場合があるという課題があった。
また、顔の映り方の変化は、顔の向きの変化のみならず、前述の各種要因が複合的に発生してもたらされることが多く、上記の顔の向きによる変化と、照明の条件や表情の変化などが複合的に発生する場合は、認証精度がさらに低下するという課題があった。
さらに、特許文献1記載の顔照合方法では、登録顔画像に対する複数の認証顔画像の各々の類似度を照合することによって得る各類似度を方向の要素と関連付け、関連付けられたこれらの情報に基づいて認証を行う、という視点では行われていなかった。
In the conventional face image authentication method, the above-described improvement has been made against the erroneous authentication caused by the change in how the face image is reflected, but the countermeasure is still insufficient.
Above all, it cannot be said that sufficient measures have been taken against mis-authentication due to changes in the orientation of the face, and if the user is not familiar with the face image authentication method, the person himself / herself is not conscious. There has been a problem that misauthentication may occur even when the face orientation changes.
In addition, changes in the appearance of the face are often caused not only by changes in the orientation of the face, but also by a combination of the various factors described above. When such changes occur in combination, there is a problem that authentication accuracy further decreases.
Further, in the face collation method described in Patent Document 1, each similarity obtained by collating the similarity of each of the plurality of authentication face images with the registered face image is associated with the direction element, and based on the associated information. It was not done from the viewpoint of authenticating.

本発明は、顔の向きの変化、表情の変化、照明条件、あるいは、これらが複合的に絡み合うことにより発生する顔認証処理における判定精度を向上させる手法を提供することを課題とする。   It is an object of the present invention to provide a technique for improving determination accuracy in face authentication processing that occurs when a change in face orientation, a change in facial expression, illumination conditions, or a combination of these changes occur.

本発明が提供する顔画像認証方法は、メモリと制御手段を有するコンピュータが行う方法であって、前記制御手段が、一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物類似度群データと異人物類似度群データとを判別するための群判別データを導出する処理と、所定の方向の要素を含む撮影条件で撮影された登録顔画像、および、複数の方向の要素を含む撮影条件で新たに撮影された認証対象者の複数の認証顔画像を、それぞれ取得して前記メモリに保存し、保存されている前記登録顔画像に対する前記複数の認証顔画像の各々の類似度を照合することにより得、各類似度を方向の要素と関連付け、関連付けられたこれらの情報が前記同一人物類似度群または異人物類似度群のいずれに帰属するかを、前記群判別データとの比較により、前記複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定する処理とを実行する。このため、認証顔画像と登録顔画像の画像データの相関度を多元的に検証することにより、認証顔画像と登録顔画像の同一性を正しく判定することができる。   The face image authentication method provided by the present invention is a method performed by a computer having a memory and a control means, wherein the control means is a plurality of faces photographed under photographing conditions including elements in a plurality of directions for one person. Features of face images generated by collecting images for a plurality of persons and associating similarity obtained by matching face images of the same person and face images of different persons with each of the elements in the plurality of directions. The process is a process for deriving group discrimination data for discriminating between the same-person similarity group data and the different-person similarity group data included in the group data representing the set of the images, and the shooting was performed under the shooting conditions including elements in a predetermined direction. A registered face image and a plurality of authentication face images of a person to be authenticated that are newly photographed under photographing conditions including elements in a plurality of directions are acquired, stored in the memory, and stored. It is obtained by collating the similarity of each of the plurality of authentication face images with the recorded face image, and associates each similarity with a direction element, and the associated information is the same person similarity group or different person similarity. The process of determining whether the plurality of authentication face images and the registered face images are images obtained by photographing the same person by comparing which group belongs to the group discrimination data. For this reason, it is possible to correctly determine the identity between the authentication face image and the registered face image by verifying the degree of correlation between the image data of the authentication face image and the registered face image in a multiple manner.

ある実施形態では、前記制御手段が、顔画像およびこの顔画像の方向の要素からなる集合に、前記登録顔画像または前記認証顔画像を照合し、顔画像の特徴を比較することにより、前記登録顔画像の前記所定の方向の要素または前記複数の認証顔画像の複数の方向の要素を推定し、推定された方向の要素と関連づけられた類似度を含む情報の前記帰属を判定する。このため、認証顔画像または登録顔画像の方向条件を正しく判定できる。   In one embodiment, the control means checks the registered face image or the authentication face image against a set of face images and elements of the direction of the face image, and compares the features of the face image to thereby compare the registration image. The elements of the predetermined direction of the face image or the elements of the plurality of directions of the plurality of authentication face images are estimated, and the attribution of the information including the similarity associated with the elements of the estimated direction is determined. For this reason, it is possible to correctly determine the direction condition of the authentication face image or the registered face image.

ある実施形態では、前記方向の要素は、顔画像の撮影方向、または、顔画像の撮影時における光の照射方向である。このため、撮影方向の異なる複数の撮影手段によって撮影された顔画像、または、撮影時の光の照射方向が異なる状況において撮影手段によって撮影された顔画像のいずれに含まれる顔の方向であっても正しく判定することができる。   In one embodiment, the direction element is a photographing direction of a face image or a light irradiation direction at the time of photographing a face image. For this reason, it is a face direction included in either a face image photographed by a plurality of photographing means having different photographing directions or a face image photographed by the photographing means in a situation where light irradiation direction at the time of photographing is different. Can also be judged correctly.

本発明が提供する顔画像認証装置は、一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物類似度群データと異人物類似度群データとを判別するための群判別データが登録されたデータベースと、前記データベースの登録情報を管理するデータベース管理手段と、所定の方向の要素を含む撮影条件で撮影された登録顔画像取得する登録顔画像取得手段と、複数の方向の要素を含む撮影条件で新たに撮影された認証対象者の複数の認証顔画像を取得する認証顔画像取得手段と、取得した前記登録顔画像に対する前記複数の認証顔画像の各々の類似度を照合することにより得、前記各類似度を方向の要素と関連付ける類似度算出手段と、前記類似度算出手段によって関連付けられたこれらの情報が前記同一人物類似度群または異人物類似度群のいずれに帰属するかを、前記群判別データとの比較することにより、前記複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定する判定手段とを備え、前記認証顔画像と前記登録顔画像の同一性を判定する。   The face image authentication apparatus provided by the present invention collects a plurality of face images taken for a person under shooting conditions including elements in a plurality of directions, and the face images of the same person and different persons are collected. Same-person similarity group data and different-person similarity included in group data representing a set of facial image features generated by associating similarity obtained by matching face images with each of the elements in the plurality of directions Acquire a registered face image photographed under photographing conditions including a database in which group discrimination data for discriminating the degree group data are registered, database management means for managing registration information of the database, and elements in a predetermined direction. Registered face image acquisition means, authentication face image acquisition means for acquiring a plurality of authentication face images of a person to be authenticated newly photographed under shooting conditions including elements in a plurality of directions, and Obtained by comparing the similarity of each of the plurality of authentication face images with respect to the registered face image, and a similarity calculating means for associating each similarity with a direction element, and these related by the similarity calculating means Whether the information belongs to the same person similarity group or the different person similarity group is compared with the group discrimination data, so that the plurality of authentication face images and the registered face images photograph the same person. Determination means for determining whether or not the image is an image, and determining the identity between the authentication face image and the registered face image.

本発明が提供する顔画像認証用のプログラムは、一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物類似度群データと異人物類似度群データとを判別するための群判別データが登録されたデータベースにアクセス可能なコンピュータを、所定の方向の要素を含む撮影条件で撮影された登録顔画像取得する登録顔画像取得手段、複数の方向の要素を含む撮影条件で新たに撮影された認証対象者の複数の認証顔画像を取得する認証顔画像取得手段、取得した前記登録顔画像に対する前記複数の認証顔画像の各々の類似度を照合することにより得、前記各類似度を方向の要素と関連付ける類似度算出手段、および、前記類似度算出手段によって関連付けられたこれらの情報が前記同一人物類似度群または異人物類似度群のいずれに帰属するかを、前記群判別データとの比較することにより、前記複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定する判定手段、として機能させる。   The face image authentication program provided by the present invention collects a plurality of face images photographed under photographing conditions including elements in a plurality of directions with respect to one person, face images of the same person, and Different from the same person similarity group data included in the group data representing the set of facial image features generated by associating the similarity obtained by collating face images of different persons with each of the elements in the plurality of directions. Registered face image acquisition means for acquiring a registered face image photographed under a photographing condition including an element in a predetermined direction from a computer that can access a database in which group discrimination data for identifying person similarity group data is registered; Authentication face image acquisition means for acquiring a plurality of authentication face images of a person to be authenticated newly photographed under shooting conditions including elements in a plurality of directions, Obtained by collating the similarities of each of the number of authentication face images, the similarity calculating means for associating each similarity with a direction element, and the information related by the similarity calculating means is the same person Whether the plurality of authentication face images and the registered face images are images obtained by photographing the same person by comparing with the group discrimination data whether it belongs to the similarity group or the different person similarity group. It functions as a determination means for determination.

本発明によれば、同一人物類似度群データと異人物類似度群データとを判別するための群判別データを用いて複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定するので、登録顔画像と認証顔画像の顔方向が異なる場合、登録顔画像と認証顔画像における表情または照明の照射方向が異なる場合、または、登録顔画像と認証顔画像の顔方向、表情および照明の方向のすべてが異なる場合においても、高精度な顔画像認証を行うことが可能である。また、登録顔画像または認証顔画像の顔方向を判定できるので、登録顔画像または認証顔画像の顔方向が一定でない場合でも高精度な顔画像認証を行うことが可能である。また、登録顔画像と認証顔画像の撮影時に証明の照射方向が異なる場合でも、顔方向が異なる場合と同様に高精度な顔画像認証を行うことが可能である。   According to the present invention, whether a plurality of authentication face images and the registered face images are images of the same person using group discrimination data for discriminating between the same person similarity group data and different person similarity group data. If the face direction of the registered face image and the authentication face image is different, the facial expression or illumination direction of the registered face image and the authentication face image is different, or the face direction of the registered face image and the authentication face image Even when facial expressions and lighting directions are all different, highly accurate face image authentication can be performed. Further, since the face direction of the registered face image or the authentication face image can be determined, it is possible to perform highly accurate face image authentication even when the face direction of the registered face image or the authentication face image is not constant. Further, even when the proof irradiation direction is different when the registered face image and the authentication face image are photographed, it is possible to perform highly accurate face image authentication as in the case where the face directions are different.

以下、本発明を適用した顔画像認証装置の実施の形態例を説明する。ここでは、認証対象者とは、本発明の顔画像認証装置による顔画像の認証を受ける者をいい、後述する撮影手段で撮影した認証対象者の顔画像を認証顔画像という。また、登録顔画像とは、認証を受けるために自己の顔画像を予め登録画像保持手段に登録している者をいう。すなわち、認証対象者が正しい登録顔画像を保持していれば、本発明を適用した顔画像装置によって認証顔画像と登録顔画像の同一性が認証される。
また、この形態例では、顔画像の撮影時における方向の要素として、後述するカメラに対する顔の方向(以下、顔方向))を用い、登録者の顔画像を予め登録した所定の登録顔画像保持手段として登録者が保持するICカードを用いる場合の例を挙げる。
Embodiments of a face image authentication device to which the present invention is applied will be described below. Here, the person to be authenticated means a person who receives face image authentication by the face image authentication apparatus of the present invention, and the face image of the person to be authenticated photographed by photographing means described later is called an authentication face image. The registered face image refers to a person who has registered his / her face image in the registered image holding means in advance to receive authentication. That is, if the person to be authenticated holds a correct registered face image, the identity of the authenticated face image and the registered face image is authenticated by the face image device to which the present invention is applied.
Further, in this embodiment, a face direction with respect to the camera (to be described later) (hereinafter referred to as “face direction”) is used as a direction element at the time of photographing a face image, and a predetermined registered face image in which a registrant's face image is registered in advance is stored. As an example, an example in which an IC card held by a registrant is used will be given.

[構成]
図1は、本実施形態による顔画像認証装置の構成例を示した図である。この顔画像認証装置10は、後述する同一人物類似度群データ、異人物類似度群データおよび顔方向集合データが登録されたデータベース11、このデータベース11の登録情報を管理するデータベース管理部12、登録顔画像を取得する登録顔画像取得部13、認証顔画像を取得する認証顔画像取得部14、登録顔画像および認証顔画像の顔方向を判定する顔方向判定部15、登録顔画像と認証顔画像の類似度を算出し、算出した類似度と顔画像の顔方向とを関連付ける類似度データ算出部16、および、複数の認証顔画像と登録顔画像とが同一人物を撮影した画像かどうかを判定する認証部17を備える。
また、顔画像認証装置10は、登録顔画像、認証顔画像、類似度および顔方向を保存するための内部メモリ(図示せず)を有する。顔画像認証装置10内の各部11〜17は、必要に応じてこの内部メモリにアクセス可能である。
[Constitution]
FIG. 1 is a diagram illustrating a configuration example of the face image authentication apparatus according to the present embodiment. The face image authentication device 10 includes a database 11 in which same-person similarity group data, different-person similarity group data, and face direction set data, which will be described later, are registered, a database management unit 12 that manages registration information of the database 11, registration A registered face image acquisition unit 13 that acquires a face image, an authentication face image acquisition unit 14 that acquires an authentication face image, a face direction determination unit 15 that determines the face direction of the registered face image and the authentication face image, a registered face image and an authentication face The similarity data calculation unit 16 that calculates the similarity of the image and associates the calculated similarity with the face direction of the face image, and whether or not the plurality of authentication face images and the registered face images are images of the same person. An authentication unit 17 for determination is provided.
The face image authentication device 10 also has an internal memory (not shown) for storing a registered face image, an authentication face image, a similarity, and a face direction. Each part 11-17 in the face image authentication apparatus 10 can access this internal memory as needed.

データベース11に登録されている同一人物類似度群データおよび異人物類似度群データとは、一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物の顔画像同士および異なる人物の顔画像同士について得られる類似度群データをいう。この詳細については後述する。
また、顔方向集合データは、不特定多数の人物の顔画像と、その顔画像を撮影した際の顔方向とを関連付けて集合させたデータである。
なお、ここでは、顔方向判定部15が登録顔画像および認証顔画像の顔方向の判定に用いる顔画像と顔方向とを関連づけた集合データ(以下、顔方向集合データ)がデータベース11に登録されている形態について説明するが、この顔方向集合データは別個独立したデータベースに登録されていてもよい。
The same person similarity group data and different person similarity group data registered in the database 11 are obtained by collecting a plurality of face images photographed under photographing conditions including elements in a plurality of directions for one person. Group data representing a set of facial image features generated by associating similarity obtained by collating face images of the same person and face images of different persons with each of the elements in the plurality of directions. Similarity group data obtained for face images of the same person and face images of different persons included. Details of this will be described later.
The face direction set data is data obtained by associating face images of a large number of unspecified persons with the face directions when the face images are taken.
Here, set data (hereinafter referred to as face direction set data) in which the face direction and the face direction used by the face direction determination unit 15 for determining the face direction of the registered face image and the authentication face image are registered in the database 11. The face direction set data may be registered in a separate and independent database.

データベース管理部12は、データベース11に格納された3つのデータに登録された情報の読み書きの制御を行う。
登録顔画像取得部13は、カード読取装置3に接続されており、このカード読取装置3によって読み取られたICカード2に登録された登録顔画像を取得する。
認証顔画像取得部14は、一人の認証対象者について複数方向から顔画像を撮影できる撮影手段である9個のカメラ4a〜4iに接続されている。図1には、図を簡略化するために2つのカメラ4aとカメラ4iしか示さないが、実際には、正面、および、上下左右各2段階の計9方向から認証顔画像を撮影するように配設されている。
ここで、認証対象者の顔画像は、少なくとも2つ以上の方向から撮影されたものを取得できればよいため、認証対象者の顔画像を撮影するためのカメラは、2つ以上の方向から認証対象者の顔を撮影できるように構成されていればよい。
なお、図2に登録顔画像取得部13および認証顔画像取得部14がそれぞれ登録顔画像および認証顔画像a〜iを取得する処理段階を図示する。
The database management unit 12 controls reading / writing of information registered in the three data stored in the database 11.
The registered face image acquisition unit 13 is connected to the card reader 3 and acquires a registered face image registered in the IC card 2 read by the card reader 3.
The authentication face image acquisition unit 14 is connected to nine cameras 4a to 4i that are imaging means capable of capturing a face image from a plurality of directions for one person to be authenticated. Although only two cameras 4a and 4i are shown in FIG. 1 to simplify the drawing, in practice, authentication face images are taken from a total of nine directions in front and in two stages, up, down, left, and right. It is arranged.
Here, since the authentication target person's face image only needs to be acquired from at least two directions, the camera for capturing the authentication target person's face image can be authenticated from two or more directions. What is necessary is just to be comprised so that a person's face can be image | photographed.
FIG. 2 illustrates processing steps in which the registered face image acquisition unit 13 and the authentication face image acquisition unit 14 acquire the registered face images and the authentication face images a to i, respectively.

顔方向判定部15は、登録顔画像および認証顔画像のパターンを公知の部分空間法等のパターン認識法によって抽出し、抽出したパターンをデータベース11に登録された顔方向集合データに含まれる顔画像の特徴(パターン)と比較する。さらに、この比較処理を顔方向集合データに含まれる顔画像の集合に対して統計的に行うことにより、図2に示すように登録顔画像a〜iおよび認証顔画像の顔方向D1〜D9およびD0を推定する。
例えば、顔方向集合データに予め十分な人数の人物について正面および上下左右2段階の計9方向から撮影した顔画像をサンプルとして登録しておき、ある認証顔画像の顔方向が、サンプル内のどの顔画像の顔方向に近いかを、部分空間法などのパターン認識技術を用いて特徴を比較することにより、認証顔画像a〜iの顔方向D1〜D9を推定することができる。
なお、登録顔画像の顔方向D0は、認証顔画像a〜iのいずれかの方向と同一であってもよいし、いずれとも異なる方向であってもよい。
The face direction determination unit 15 extracts the registered face image and the authentication face image pattern by a known pattern recognition method such as a subspace method, and the extracted pattern is included in the face direction set data registered in the database 11. Compared with the characteristics (pattern). Further, by performing this comparison process statistically on the set of face images included in the face direction set data, as shown in FIG. 2, the registered face images a to i and the face directions D1 to D9 of the authentication face image and Estimate D0.
For example, face images taken from a total of nine directions of front and top / bottom / left / right for a sufficient number of persons are registered in the face direction set data in advance as a sample, and the face direction of a certain authentication face image indicates which face in the sample The face directions D1 to D9 of the authentication face images a to i can be estimated by comparing features using a pattern recognition technique such as a subspace method to determine whether the face image is close to the face direction.
Note that the face direction D0 of the registered face image may be the same as the direction of any one of the authentication face images a to i, or may be a different direction.

また、顔方向判定部15は、ICカード2に印刷されている一枚の顔写真を表す登録顔画像についても、認証顔画像a〜iの顔方向判定と同様に、部分空間法を用いた統計的な処理により、顔方向D0の推定を行う。
なお、登録顔画像の顔方向D0は、予めICカード2に登録されていてもよく、その場合は、顔方向判定部15が推定する顔方向は、カメラ4a〜4iによって撮影された認証顔画像の顔方向D1〜D9だけとなり、以下の処理において必要な登録顔画像の顔方向D0としては、ICカード2に登録された顔方向を用いるようにすればよい。
また、ここでは、部分空間法を用いた顔画像のパターン認識を行うことにより、登録顔画像および認証顔画像の顔方向を判定する形態について説明したが、顔画像から顔方向を判定できる統計的な手法であれば、他の方法を用いてもよい。
The face direction determination unit 15 also uses the subspace method for the registered face image representing one face photograph printed on the IC card 2 as in the face direction determination of the authentication face images a to i. The face direction D0 is estimated by statistical processing.
The face direction D0 of the registered face image may be registered in advance in the IC card 2. In this case, the face direction estimated by the face direction determination unit 15 is the authentication face image taken by the cameras 4a to 4i. Therefore, the face direction registered in the IC card 2 may be used as the face direction D0 of the registered face image required in the following processing.
Also, here, a mode has been described in which the face direction of the registered face image and the authentication face image is determined by performing face image pattern recognition using the subspace method. Other methods may be used as long as they are simple techniques.

類似度データ算出部16は、図2に示すように、方向判定部15によって顔方向が判定された登録顔画像a〜iと認証顔画像の類似度Ra〜Riを算出し、算出した類似度Ra〜Riと顔画像の顔方向D1〜D9およびD0とを関連付ける。すなわち、図2に示すように、1つの登録顔画像(顔方向D0)に対して、9個の認証顔画像a〜i(顔方向D1〜D9)を照合することにより、9つの類似度Ra〜Riを算出し、それぞれの類似度Ra〜Riが得られた登録顔画像および認証顔画像a〜iの顔方向の組み合わせ(方向D0−D1〜方向D0−D9)を類似度Ra〜Riと関連付ける。
例えば、図3に示すように、各類似度は、Ra=0.52、Rb=0.38、・・・、Ri=0.22というように求まる。
このようにして得られる9つの類似度Ra〜Riおよび顔方向の組み合わせ(方向D0−D1〜方向D0−D9)は、9次元ベクトルを構成する。
As shown in FIG. 2, the similarity data calculation unit 16 calculates the similarity Ra to Ri between the registered face images a to i and the authentication face images whose face directions have been determined by the direction determination unit 15, and the calculated similarities Ra to Ri are associated with face directions D1 to D9 and D0 of the face image. That is, as shown in FIG. 2, nine similarities Ra are obtained by matching nine authentication face images a to i (face directions D1 to D9) against one registered face image (face direction D0). -Ri are calculated, and the combinations (directions D0-D1 to D0-D9) of the registered face images and the authentication face images a-i from which the respective similarities Ra-Ri are obtained are referred to as similarities Ra-Ri. Associate.
For example, as shown in FIG. 3, the respective similarities are obtained as Ra = 0.52, Rb = 0.38,..., Ri = 0.22.
The nine similarities Ra to Ri and the combinations of face directions (directions D0 to D1 to D0 to D9) obtained in this way constitute a nine-dimensional vector.

ここで、顔画像の類似度を利用する顔画像認証技術における人物の同一性判別と、類似度の算出方法について説明する。
一般に、顔画像認証技術は、例えば、所定のデータベースに登録された同一人物又は異なる人物の複数の顔画像同士の類似度を予め導出しておき、そのデータベースに登録されている顔画像と、認証時に撮影された認証対象者の顔画像との類似度を算出する。この類似度が一定の値以上であれば、登録された顔画像の人物と認証対象者が同一人物であると判定する。一方、類似度が一定値に満たなければ、顔画像が登録された者と認証対象者は同一人物ではないと判定する。
Here, a person identity determination and a similarity calculation method in the face image authentication technique using the similarity of face images will be described.
In general, in the face image authentication technology, for example, the similarity between a plurality of face images of the same person or different persons registered in a predetermined database is derived in advance, and the face image registered in the database and the authentication The similarity with the face image of the person to be authenticated photographed at times is calculated. If the similarity is a certain value or more, it is determined that the person of the registered face image and the person to be authenticated are the same person. On the other hand, if the similarity is less than a certain value, it is determined that the person who registered the face image and the person to be authenticated are not the same person.

顔画像同士の類似度の算出方法には様々なものがあり、その一例として、固有顔法(Eigenface method)が挙げられる。
この方法では、顔画像を画像サイズ(画素数)の次元数を持つ特徴ベクトルとみなし、予め収集した多数の顔画像の特徴ベクトルに対して、主成分分析(K-L展開: Karhunen-Loeve expansionとも称す)を行う。この分析で求められた固有ベクトルのうち、主成分形成への寄与率が高い複数の固有ベクトルを選択し、選択した固有ベクトルからなる射影行列を生成する。
There are various methods for calculating the degree of similarity between face images, and one example is the eigenface method.
In this method, the face image is regarded as a feature vector having the number of dimensions of the image size (number of pixels), and principal component analysis (KL expansion: also called Karhunen-Loeve expansion) is performed on the feature vectors of many face images collected in advance. )I do. Among the eigenvectors obtained by this analysis, a plurality of eigenvectors having a high contribution ratio to the principal component formation are selected, and a projection matrix composed of the selected eigenvectors is generated.

ここで、上述の射影行列を用いて、データベースに登録されている複数の顔画像の特徴ベクトルの射影を求め、その射影した複数のベクトルの平均ベクトルもデータベースに登録しておく。
また、この射影行列を用いて、認証時に撮影された顔画像から得られるベクトルを射影し、射影したベクトルと、データベースに登録した平均ベクトルとの二乗誤差を求める。こうして得られた二乗誤差を、登録顔画像と認証時に撮影された顔画像との距離とする。顔画像同士の類似度は、この距離から求まる。ここで算出される距離は、顔画像同士の類似度とは絶対値の大きさが逆の関係であり、同一人物である場合に小さな値をとり、同一人物ではない場合に大きな値をとる。すなわち、顔画像同士の類似度は、同一人物である場合に大きな値をとり、同一人物ではない場合に小さな値をとる。
以上のような手法により、類似度データ算出部16は、方向判定部15によって顔方向が判定された登録顔画像a〜iと認証顔画像の類似度Ra〜Riを算出する。
Here, using the above projection matrix, the projection of feature vectors of a plurality of face images registered in the database is obtained, and the average vector of the projected plurality of vectors is also registered in the database.
Also, using this projection matrix, a vector obtained from the face image photographed at the time of authentication is projected, and a square error between the projected vector and the average vector registered in the database is obtained. The square error obtained in this way is set as the distance between the registered face image and the face image taken at the time of authentication. The similarity between face images can be obtained from this distance. The distance calculated here is a relationship in which the magnitude of the absolute value is opposite to the similarity between the face images, and takes a small value when they are the same person, and takes a large value when they are not the same person. That is, the similarity between face images takes a large value when they are the same person, and takes a small value when they are not the same person.
With the above-described method, the similarity data calculation unit 16 calculates the similarity Ra to Ri between the registered face image ai to which the face direction is determined by the direction determination unit 15 and the authentication face image.

認証部17は、例えばサポートベクターマシン法や核非線形判別分析法等の統計的手法によって実現される群判別方法を用いて、複数の認証顔画像と登録顔画像とが同一人物を撮影した画像かどうかを判定する。この判定には、n次元特徴空間において顔画像同士の類似度が同一人物類似度群データまたは異人物類似度群データのいずれに帰属するかを判別する群判別データを用いる。
この認証部17には、端末5が接続されており、この端末5は、例えば、複数の認証顔画像と登録顔画像とが同一人物を撮影した画像であるとの判定結果を受けた場合に、図示しないゲートを開錠する端末で構成することができる。この端末5は、顔画像認証装置の用途に応じて構成を適宜変更することができる。
The authentication unit 17 uses, for example, a group discrimination method realized by a statistical method such as a support vector machine method or a nuclear nonlinear discriminant analysis method to determine whether a plurality of authentication face images and registered face images are images of the same person. Determine if. This determination uses group determination data for determining whether the similarity between face images belongs to the same person similarity group data or different person similarity group data in the n-dimensional feature space.
The authentication unit 17 is connected to the terminal 5, and the terminal 5 receives, for example, a determination result that a plurality of authentication face images and registered face images are images of the same person. The terminal can unlock the gate (not shown). The terminal 5 can be appropriately changed in configuration according to the use of the face image authentication device.

ここで、群判別データの求め方について説明する。この群判別データは、本実施形態例による顔画像認証装置内の群判別面算出部(図示せず)、または、顔画像認証装置に接続された群判別面算出装置(図示せず)によって予め算出され、データベース11に登録されている。ここでは、顔画像認証装置内の群判別面算出部によって群判別面を表すデータが算出される場合について説明する。
まず、群判別面算出部は、一人の人物について複数の顔方向で撮影された顔画像を複数人分収集する。これを学習用の顔画像の集合とする。この学習用の顔画像集合に含まれる各顔画像は、すべて顔方向が特定されており、また、上述した認証顔画像の顔方向および登録顔画像の顔方向として生じうるすべての顔方向のものが学習用の顔画像集合に含まれている必要がある。
Here, how to obtain the group discrimination data will be described. This group discrimination data is previously obtained by a group discrimination plane calculation unit (not shown) in the face image authentication apparatus according to the present embodiment or a group discrimination plane calculation apparatus (not shown) connected to the face image authentication apparatus. It is calculated and registered in the database 11. Here, a case where data representing a group discrimination plane is calculated by the group discrimination plane calculation unit in the face image authentication apparatus will be described.
First, the group discrimination plane calculation unit collects a plurality of face images taken in a plurality of face directions for one person. This is a set of learning face images. All face images included in this learning face image set have face directions specified, and all face directions that can occur as the face directions of the authentication face image and the registered face image described above. Must be included in the learning face image set.

次に、図4(a)に示すように、同一人物の顔画像データ同士を照合して得られる類似度の組と、異なる人物の顔画像データ同士を照合して得られる類似度の組とを算出する。これらの組に含まれる各類似度は、撮影時の顔方向と関連付けられている。例えば、顔方向がD1とD2の顔画像データを照合して類似度を算出したのであれば、その類似度と顔方向D1−D2とを関連付ければよい。
なお、この類似度の組は、照合される認証顔画像と登録顔画像とのすべての組み合わせに含まれる顔方向の組み合わせを含むように構成されている必要がある。
Next, as shown in FIG. 4 (a), a similarity set obtained by collating face image data of the same person and a similarity set obtained by collating face image data of different persons. Is calculated. Each similarity included in these sets is associated with a face direction at the time of photographing. For example, if the similarity is calculated by collating face image data with face directions D1 and D2, the similarity may be associated with the face direction D1-D2.
The similarity set needs to be configured to include combinations of face directions included in all combinations of the authentication face image and the registered face image to be collated.

このような類似度算出および顔方向の関連付け処理を全ての学習用の顔画像について行うと、図4(b)に示すように、n次元特徴空間において、同一人物の顔画像同士および異なる人物の顔画像同士について、顔方向と関連付けられた類似度のデータを得る。このn次元の次元数nは、学習用の顔画像の集合に含まれるすべての顔画像の顔方向の数によって定まる。   When such similarity calculation and face direction association processing are performed for all learning face images, as shown in FIG. 4B, in the n-dimensional feature space, face images of the same person and different persons are displayed. For the face images, the similarity data associated with the face direction is obtained. The n-dimensional number n is determined by the number of face directions of all face images included in the set of learning face images.

図4(b)中において、○のプロットで表される群データは、同一人物の顔画像同士によって得られる類似度を表し、同図中の×のプロットで表される群データは、異人物の顔画像同士によって得られる類似度を表す。
次に、群判別面算出部は、これらすべての類似群の各々をn次元の特徴ベクトルとみなし、サポートベクターマシン法によって実現されるパターン認識技術を用いて、すべての特徴ベクトルが同一人物の顔画像同士による類似度と、異なる人物の顔画像同士による類似度とを判別するための群判別面を表す群判別データを算出する。
すなわち、群判別データは、図4(c)に示すn次元特徴空間に存在する顔画像同士の類似度が、同一人物の顔画像同士による類似度群に帰属するか、異なる人物の顔画像同士による類似度群に帰属するかを判別する面を表すデータである。
以上のようにして群判別データが求まる。
In FIG. 4 (b), the group data represented by the plot of ○ represents the similarity obtained by the face images of the same person, and the group data represented by the x plot in the figure is different people. This represents the degree of similarity obtained between the face images.
Next, the group discriminant plane calculation unit regards all of these similar groups as n-dimensional feature vectors, and uses a pattern recognition technique realized by the support vector machine method, and all the feature vectors are the faces of the same person. Group discrimination data representing a group discrimination plane for discriminating the similarity between images and the similarity between face images of different persons is calculated.
That is, the group discrimination data includes the similarity between face images existing in the n-dimensional feature space shown in FIG. 4C belonging to the similarity group of face images of the same person, or face images of different persons. This is data representing a surface for determining whether or not it belongs to the similarity group.
The group discrimination data is obtained as described above.

認証部17は、類似度データ算出部16によって算出された9次元のベクトルで表される登録顔画像と認証顔画像との類似度が、同一人物の顔画像同士による類似度群に帰属するか、異なる人物の顔画像同士による類似度群に帰属するかを群判別データによって判別する。
認証部17は、登録顔画像と認証顔画像との類似度が同一人物の顔画像同士による類似度群に帰属すると判定した場合は、登録顔画像と認証顔画像は同一であると判定する。一方、登録顔画像と認証顔画像との類似度が異なる人物の顔画像同士による類似度群に帰属すると判定した場合は、認証部17は、登録顔画像と認証顔画像は同一ではないと判定する。
The authentication unit 17 determines whether the similarity between the registered face image represented by the 9-dimensional vector calculated by the similarity data calculation unit 16 and the authentication face image belongs to a similarity group of face images of the same person. Whether the images belong to a similarity group of face images of different persons is determined based on the group determination data.
If the authentication unit 17 determines that the similarity between the registered face image and the authentication face image belongs to a similarity group of face images of the same person, the authentication unit 17 determines that the registered face image and the authentication face image are the same. On the other hand, if it is determined that the registered face image belongs to the similarity group of face images of persons having different degrees of similarity, the authentication unit 17 determines that the registered face image and the authentication face image are not the same. To do.

ここでは、サポートベクターマシン法を用いた群判別を行う場合について説明したが、群判別を行う手法は、これに限らず、核非線形判別分析法等の他の手法によって行うこともできる。   Here, the case of performing group discrimination using the support vector machine method has been described. However, the method of performing group discrimination is not limited to this, and other methods such as a nuclear nonlinear discriminant analysis method can also be used.

図6は、本実施形態による認証処理の手順説明図である。
まず、認証対象者からの認証要求があるかを判定する(ステップS1)。具体的には、認証対象者によって、ICカード読取装置3にICカード2が通されたことを登録顔画像取得部13が検出すると、認証要求があったと判定する。
次に、登録画像取得部13は、ICカード読取装置3を通じて、ICカード2に登録された登録顔画像を取得する(ステップS2)。
FIG. 6 is an explanatory diagram of the authentication processing procedure according to the present embodiment.
First, it is determined whether there is an authentication request from a person to be authenticated (step S1). Specifically, when the registered face image acquisition unit 13 detects that the IC card 2 has been passed through the IC card reader 3 by the person to be authenticated, it is determined that an authentication request has been made.
Next, the registered image acquisition unit 13 acquires a registered face image registered in the IC card 2 through the IC card reader 3 (step S2).

認証顔画像取得部14は、カメラ4a〜4iによって撮影された認証顔画像a〜iを取得する(ステップS3)。
次に、顔方向判定部15は、登録顔画像と認証顔画像a〜iの顔方向を判定する(ステップS4)。すべての登録顔画像と認証顔画像について顔方向を判定した場合は、処理手順はステップS5に進行する。
このステップS4において、判定された認証顔画像または登録顔画像の顔方向が顔方向集合データに含まれるサンプルの顔画像の顔方向と一致しない場合は、その認証顔画像または登録顔画像の顔方向は判定不能であるとして、処理手順はSTARTにリターンする。
The authentication face image acquisition unit 14 acquires authentication face images a to i photographed by the cameras 4a to 4i (step S3).
Next, the face direction determination unit 15 determines the face directions of the registered face image and the authentication face images a to i (step S4). If the face direction is determined for all registered face images and authentication face images, the processing procedure proceeds to step S5.
In step S4, when the face direction of the determined authentication face image or registered face image does not match the face direction of the sample face image included in the face direction set data, the face direction of the authentication face image or registered face image Is determined to be impossible, and the processing procedure returns to START.

類似データ算出部16は、登録顔画像と認証顔画像a〜iの各々を照合し、類似度Ra〜Riを算出する(ステップS5)。
認証部17は、データベース11から群判別データを読み出す(ステップS6)。
さらに、認証部17は、9次元のベクトルで表される登録顔画像と認証顔画像との類似度が同一人物の顔画像同士による類似度群に帰属するか、異なる人物の顔画像同士による類似度群に帰属するかを群判別データによって判別する(ステップS7)。
認証部17は、登録顔画像と認証顔画像との類似度が同一人物の顔画像同士による類似度群に帰属すると判定した場合は、複数の認証顔画像と登録顔画像とが同一人物を撮影した画像であると判定し、判別結果を所定の端末5に出力する(ステップS8)。
図5は、n次元特徴空間における群判別面と算出された類似度の関係を示す図である。この図において、登録顔画像と認証顔画像の類似度は、黒い丸のプロットで表されている。この黒い丸のプロットは、群判別データによって表される面よりも同一人物類似度群側にあるので、認証部17は、登録顔画像と認証顔画像は同一であると判定する。
このステップS8が終了すると、本形態例による処理手順は終了する(END)。
The similar data calculation unit 16 collates each of the registered face image and the authentication face images a to i, and calculates the similarity Ra to Ri (step S5).
The authentication unit 17 reads group discrimination data from the database 11 (step S6).
Further, the authentication unit 17 has a similarity between the registered face image represented by a 9-dimensional vector and the authentication face image belonging to a similarity group of face images of the same person, or similarity between face images of different persons. Whether it belongs to the degree group is determined based on the group determination data (step S7).
If the authentication unit 17 determines that the similarity between the registered face image and the authentication face image belongs to the similarity group of face images of the same person, the authentication face image and the registered face image photograph the same person. It is determined that the image has been processed, and the determination result is output to the predetermined terminal 5 (step S8).
FIG. 5 is a diagram illustrating the relationship between the group discrimination plane in the n-dimensional feature space and the calculated similarity. In this figure, the similarity between the registered face image and the authentication face image is represented by a black circle plot. Since the black circle plot is on the same person similarity group side as the surface represented by the group discrimination data, the authentication unit 17 determines that the registered face image and the authentication face image are the same.
When step S8 ends, the processing procedure according to the present embodiment ends (END).

なお、ステップS7において、登録顔画像と認証顔画像との類似度が異なる人物の顔画像同士による類似度群に帰属すると判定した場合は、認証部17は、複数の認証顔画像と登録顔画像とが同一人物を撮影した画像ではないと判定し、処理手順はSTRATにリターンする。   Note that if it is determined in step S7 that the registered face image belongs to a similarity group of face images of persons with different degrees of similarity between the authentication face image and the authentication face image, the authentication unit 17 includes a plurality of authentication face images and registered face images. Are not images of the same person, and the processing procedure returns to STRAT.

以上、本実施例によれば、n次元特徴空間における群判別面を用いて、登録顔画像と認証顔画像の同一性を統合的に判定するので、登録顔画像と認証顔画像の顔方向が異なる場合、登録顔画像と認証顔画像における表情または照明の照射方向が異なる場合、または、登録顔画像と認証顔画像の顔方向、表情および照明の方向のすべてが異なる場合においても、高精度な顔画像認証を行うことが可能である。また、登録顔画像または認証顔画像の顔方向を判定できるので、登録顔画像または認証顔画像の顔方向が一定でない場合でも高精度な顔画像認証を行うことが可能である。また、登録顔画像と認証顔画像の撮影時に証明の照射方向が異なる場合でも、顔方向が異なる場合と同様に高精度な顔画像認証を行うことが可能である。   As described above, according to the present embodiment, since the identity of the registered face image and the authentication face image is integrally determined using the group determination surface in the n-dimensional feature space, the face directions of the registered face image and the authentication face image are determined. If the registered face image and the authentication face image have different facial expressions or illumination irradiation directions, or if the registered face image and the authentication face image all have different face directions, facial expressions, and illumination directions, high accuracy It is possible to perform face image authentication. Further, since the face direction of the registered face image or the authentication face image can be determined, it is possible to perform highly accurate face image authentication even when the face direction of the registered face image or the authentication face image is not constant. Further, even when the proof irradiation direction is different when the registered face image and the authentication face image are photographed, it is possible to perform highly accurate face image authentication as in the case where the face directions are different.

なお、以上の説明では、方向条件として顔方向を用いる場合について説明したが、顔画像を撮影する際の照明の照射方向を用いてもよい。
また、認証対象者の判定結果を学習データとして、同一人物類似度群データ、異人物類似度群データおよび顔方向集合データに追加登録してもよい。
In the above description, the case where the face direction is used as the direction condition has been described. However, the illumination direction when photographing a face image may be used.
The determination result of the person to be authenticated may be additionally registered as learning data in the same person similarity group data, different person similarity group data, and face direction set data.

本実施形態による顔画像認証装置の構成例を示す図。The figure which shows the structural example of the face image authentication apparatus by this embodiment. 本実施形態による顔画像認証装置の機能ブロックを示す図。The figure which shows the functional block of the face image authentication apparatus by this embodiment. 顔画像の類似度と顔方向との関係を示す図。The figure which shows the relationship between the similarity of a face image, and a face direction. 群判別面の算出手順およびn次元特徴空間における群判別面を示す図。The figure which shows the calculation procedure of a group discrimination | determination surface, and the group discrimination | determination surface in n-dimensional feature space. n次元特徴空間における群判別面と算出された類似度の関係を示す図。The figure which shows the relationship between the group discrimination | determination surface in n-dimensional feature space, and the calculated similarity. 本実施形態による顔画像認証装置による処理手順を示す図。The figure which shows the process sequence by the face image authentication apparatus by this embodiment.

符号の説明Explanation of symbols

10…顔画像認証装置、11…データベース、12…データベース管理部、13…登録顔画像取得部、14…認証顔画像取得部、15…顔方向判定部、16…類似度データ算出部、17…認証部。   DESCRIPTION OF SYMBOLS 10 ... Face image authentication apparatus, 11 ... Database, 12 ... Database management part, 13 ... Registered face image acquisition part, 14 ... Authentication face image acquisition part, 15 ... Face direction determination part, 16 ... Similarity data calculation part, 17 ... Authentication department.

Claims (5)

メモリと制御手段を有するコンピュータが行う方法であって、前記制御手段が、
一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物類似度群データと異人物類似度群データとを判別するための群判別データを導出する処理と、
所定の方向の要素を含む撮影条件で撮影された登録顔画像、および、複数の方向の要素を含む撮影条件で新たに撮影された認証対象者の複数の認証顔画像を、それぞれ取得して前記メモリに保存し、保存されている前記登録顔画像に対する前記複数の認証顔画像の各々の類似度を照合することにより得、各類似度を方向の要素と関連付け、関連付けられたこれらの情報が前記同一人物類似度群または異人物類似度群のいずれに帰属するかを、前記群判別データとの比較により、前記複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定する処理とを実行する、
顔画像認証方法。
A method performed by a computer having a memory and control means, wherein the control means comprises:
Similarities obtained by collating face images of the same person and face images of different persons, by collecting multiple face images taken for a person with shooting conditions including elements in multiple directions. Group discrimination for discriminating between the same person similarity group data and the different person similarity group data included in the group data representing the set of facial image features generated by associating each of the plurality of direction elements with each other Processing to derive data;
A registered face image photographed under photographing conditions including elements in a predetermined direction, and a plurality of authentication face images of a person to be authenticated newly photographed under photographing conditions including elements in a plurality of directions, respectively Obtained by collating the similarity of each of the plurality of authentication face images with respect to the registered face image stored in the memory, associating each similarity with a direction element, and the associated information Whether the plurality of authentication face images and the registered face images are images of the same person by comparing with the group discrimination data whether it belongs to the same person similarity group or the different person similarity group. Execute the process of determining,
Face image authentication method.
前記制御手段が、顔画像およびこの顔画像の方向の要素からなる集合に、前記登録顔画像または前記認証顔画像を照合し、顔画像の特徴を比較することにより、前記登録顔画像の前記所定の方向の要素または前記複数の認証顔画像の複数の方向の要素を推定し、推定された方向の要素と関連づけられた類似度を含む情報の前記帰属を判定する、請求項1記載の顔画像認証方法。   The control means compares the registered face image or the authentication face image against a set of face images and elements of the direction of the face image, and compares the characteristics of the face image to thereby compare the predetermined face image with the predetermined face image. 2. The face image according to claim 1, wherein an element of a plurality of directions or an element of a plurality of directions of the plurality of authentication face images is estimated, and the attribution of information including a similarity associated with the estimated direction element is determined. Authentication method. 前記方向の要素は、顔画像の撮影方向、または、顔画像の撮影時における光の照射方向である、請求項1または2記載の顔画像認証方法。   The face image authentication method according to claim 1, wherein the element of the direction is a shooting direction of the face image or a light irradiation direction at the time of shooting the face image. 一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物類似度群データと異人物類似度群データとを判別するための群判別データが登録されたデータベースと、
前記データベースの登録情報を管理するデータベース管理手段と、
所定の方向の要素を含む撮影条件で撮影された登録顔画像を取得する登録顔画像取得手段と、
複数の方向の要素を含む撮影条件で新たに撮影された認証対象者の複数の認証顔画像を取得する認証顔画像取得手段と、
前記登録顔画像に対する前記複数の認証顔画像の各々の類似度を照合することにより得、前記各類似度を方向の要素と関連付ける類似度算出手段と、
前記類似度算出手段によって関連付けられたこれらの情報が前記同一人物類似度群または異人物類似度群のいずれに帰属するかを、前記群判別データとの比較することにより、前記複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定する判定手段と
を備え、前記認証顔画像と前記登録顔画像の同一性を判定する、顔画像認証装置。
Similarities obtained by collating face images of the same person and face images of different persons, by collecting multiple face images taken for a person with shooting conditions including elements in multiple directions. Group discrimination for discriminating between the same person similarity group data and the different person similarity group data included in the group data representing the set of facial image features generated by associating each of the plurality of direction elements with each other A database with registered data,
Database management means for managing registration information of the database;
Registered face image acquisition means for acquiring a registered face image shot under shooting conditions including an element in a predetermined direction;
Authentication face image acquisition means for acquiring a plurality of authentication face images of a person to be authenticated newly photographed under shooting conditions including elements in a plurality of directions;
Similarity calculation means obtained by collating similarities of each of the plurality of authentication face images with respect to the registered face image, and associating each similarity with a direction element;
By comparing with the group discrimination data whether the information related by the similarity calculation unit belongs to the same person similarity group or the different person similarity group, the plurality of authentication face images And a determination unit that determines whether the registered face image is an image of the same person, and determines the identity of the authentication face image and the registered face image.
一人の人物について複数の方向の要素を含む撮影条件で撮影された複数の顔画像が複数人分収集され、同一人物の顔画像同士、および、異なる人物の顔画像同士の照合により得られる類似度を前記複数の方向の要素の各々と関連付けることにより生成された顔画像の特徴の集合を表す群データに含まれる同一人物類似度群データと異人物類似度群データとを判別するための群判別データが登録されたデータベースにアクセス可能なコンピュータを、
所定の方向の要素を含む撮影条件で撮影された登録顔画像取得する登録顔画像取得手段、
複数の方向の要素を含む撮影条件で新たに撮影された認証対象者の複数の認証顔画像を取得する認証顔画像取得手段、
取得した前記登録顔画像に対する前記複数の認証顔画像の各々の類似度を照合することにより得、前記各類似度を方向の要素と関連付ける類似度算出手段、および、
前記類似度算出手段によって関連付けられたこれらの情報が前記同一人物類似度群または異人物類似度群のいずれに帰属するかを、前記群判別データとの比較することにより、前記複数の認証顔画像と前記登録顔画像とが同一人物を撮影した画像かどうかを判定する判定手段、として機能させるためのコンピュータプログラム。
Similarities obtained by collating face images of the same person and face images of different persons, by collecting multiple face images taken for a person with shooting conditions including elements in multiple directions. Group discrimination for discriminating between the same person similarity group data and the different person similarity group data included in the group data representing the set of facial image features generated by associating each of the plurality of direction elements with each other A computer that can access the database where the data is registered.
Registered face image acquisition means for acquiring a registered face image shot under shooting conditions including elements in a predetermined direction;
Authentication face image acquisition means for acquiring a plurality of authentication face images of a person to be authenticated newly photographed under a shooting condition including elements in a plurality of directions;
A similarity calculation unit that associates each similarity with a direction element obtained by comparing the similarities of each of the plurality of authentication face images with the acquired registered face image; and
By comparing with the group discrimination data whether the information related by the similarity calculation unit belongs to the same person similarity group or the different person similarity group, the plurality of authentication face images And a computer program for functioning as determination means for determining whether the registered face image is an image obtained by photographing the same person.
JP2006243669A 2006-09-08 2006-09-08 Face image authentication method, face image authentication apparatus and program Pending JP2008065651A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006243669A JP2008065651A (en) 2006-09-08 2006-09-08 Face image authentication method, face image authentication apparatus and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006243669A JP2008065651A (en) 2006-09-08 2006-09-08 Face image authentication method, face image authentication apparatus and program

Publications (1)

Publication Number Publication Date
JP2008065651A true JP2008065651A (en) 2008-03-21

Family

ID=39288316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006243669A Pending JP2008065651A (en) 2006-09-08 2006-09-08 Face image authentication method, face image authentication apparatus and program

Country Status (1)

Country Link
JP (1) JP2008065651A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018501586A (en) * 2015-01-12 2018-01-18 ユウトウ・テクノロジー(ハンジョウ)・カンパニー・リミテッド Image identification system and method
EP3511850A1 (en) 2018-01-11 2019-07-17 Fujitsu Limited High speed biological authentication of multiple persons
JP2020154946A (en) * 2019-03-22 2020-09-24 富士ゼロックス株式会社 Object recognition device
WO2022034668A1 (en) * 2020-08-13 2022-02-17 日本電気株式会社 Information processing device, information processing method, and storage medium
CN116485788A (en) * 2023-06-16 2023-07-25 东莞市华驰高分子材料有限公司 Image processing method and mobile phone PET (polyethylene terephthalate) protective film priming process quality detection method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018501586A (en) * 2015-01-12 2018-01-18 ユウトウ・テクノロジー(ハンジョウ)・カンパニー・リミテッド Image identification system and method
EP3511850A1 (en) 2018-01-11 2019-07-17 Fujitsu Limited High speed biological authentication of multiple persons
US11068572B2 (en) 2018-01-11 2021-07-20 Fujitsu Limited High speed biological authentication of multiple persons
JP2020154946A (en) * 2019-03-22 2020-09-24 富士ゼロックス株式会社 Object recognition device
WO2022034668A1 (en) * 2020-08-13 2022-02-17 日本電気株式会社 Information processing device, information processing method, and storage medium
JPWO2022034668A1 (en) * 2020-08-13 2022-02-17
CN116485788A (en) * 2023-06-16 2023-07-25 东莞市华驰高分子材料有限公司 Image processing method and mobile phone PET (polyethylene terephthalate) protective film priming process quality detection method
CN116485788B (en) * 2023-06-16 2023-08-29 东莞市华驰高分子材料有限公司 Image processing method and mobile phone PET (polyethylene terephthalate) protective film priming process quality detection method

Similar Documents

Publication Publication Date Title
Paulino et al. Latent fingerprint matching using descriptor-based hough transform
US7474769B1 (en) Bioindex mechanism for increasing the relative speed of biometric identification against large population samples
JP2006338092A (en) Pattern collation method, pattern collation system and pattern collation program
JP2003317101A (en) Method for verifying face using method for automatically updating database and system therefor
KR102145132B1 (en) Surrogate Interview Prevention Method Using Deep Learning
Pruitt et al. Facial recognition of identical twins
CN113505717B (en) Online passing system based on face and facial feature recognition technology
Kar et al. A multi-algorithmic face recognition system
Haji et al. Real time face recognition system (RTFRS)
JP2006085268A (en) Biometrics system and biometrics method
Cruz et al. Biometrics based attendance checking using Principal Component Analysis
JP2008065651A (en) Face image authentication method, face image authentication apparatus and program
Sudhakar et al. Facial identification of twins based on fusion score method
JP2006085289A (en) Facial authentication system and facial authentication method
KR20100041562A (en) Method and system for performing user authentication by face recognizing and fingerprint recognizing of user needing an authentication
JP2013218605A (en) Image recognition device, image recognition method, and program
Xu et al. Robust shape-feature-vector-based face recognition system
Karunakar et al. Smart attendance monitoring system (sams): A face recognition based attendance system for classroom environment
KR20160042646A (en) Method of Recognizing Faces
US11580766B2 (en) Method for detecting at least one biometric trait visible in an input image by means of a convolutional neural network
JP4222558B2 (en) Image recognition device
JP2002208011A (en) Image collation processing system and its method
Rattani et al. Facial template synthesis based on SIFT features
JP4446383B2 (en) Image processing apparatus and image recognition apparatus
Faruqui et al. Automatic examinee validation system using eigenfaces

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090804

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100223