JP2008257327A - Collating device - Google Patents

Collating device Download PDF

Info

Publication number
JP2008257327A
JP2008257327A JP2007096288A JP2007096288A JP2008257327A JP 2008257327 A JP2008257327 A JP 2008257327A JP 2007096288 A JP2007096288 A JP 2007096288A JP 2007096288 A JP2007096288 A JP 2007096288A JP 2008257327 A JP2008257327 A JP 2008257327A
Authority
JP
Japan
Prior art keywords
collation
verification
registrant
biometric information
primary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007096288A
Other languages
Japanese (ja)
Inventor
Takayoshi Yamashita
隆義 山下
Atsushi Irie
淳 入江
Hoshiko Ito
星子 伊藤
Koichi Aida
幸一 相田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2007096288A priority Critical patent/JP2008257327A/en
Publication of JP2008257327A publication Critical patent/JP2008257327A/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a collating technique that implements accurate collating involving fewer determination errors by a simple structure. <P>SOLUTION: A collating device has a primary collating means for collating a subject's biometrics information against biometrics information stored in a storage means to select a registrant similar to the subject, a secondary collating means for implementing collating after interchanging the biometrics information about the registrant selected by the primary collating means and the subject, and a determination means for determining a registrant collating the subject according to the collating results of the primary collating and secondary collating. The determination means preferably determines that the primary collating result is correct if the subject is selected as the secondary collating result. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、生体情報を用いた照合技術に関する。   The present invention relates to a verification technique using biometric information.

近年、顔画像や指紋等の生体情報を用いた、照合・認証技術が普及している。このような生体照合技術では、照合精度の向上が研究課題となっている。   In recent years, collation / authentication techniques using biometric information such as facial images and fingerprints have become widespread. In such a biometric matching technique, improvement of matching accuracy is a research subject.

一般に、セキュリティを確保しようとすると、誤って本人(登録者)が拒否されてしまう可能性が高まり利便性が犠牲となる。また、顔認証では照明条件などの環境変動によって、照合の精度が影響を受ける。そこで、個人認証の性能と利便性(快適性)のバランスや環境変動に対する強さなどを状況に応じて変更できるように、照合に関するパラメータを調整可能とする顔認証装置が知られている(特許文献1)。この技術では、利便性重視や安全重視といった複数のモードを切り替え可能とし、セキュリティ強度を調節することができる。   In general, if security is to be ensured, the possibility that the person (registrant) is mistakenly rejected increases, and convenience is sacrificed. In face authentication, the accuracy of matching is affected by environmental changes such as lighting conditions. In view of this, there is known a face authentication device that can adjust parameters related to verification so that the balance between performance and convenience (comfort) of personal authentication and the strength against environmental fluctuation can be changed according to the situation (patent) Reference 1). With this technology, a plurality of modes such as convenience and safety can be switched, and the security strength can be adjusted.

また、顔照合と音声照合の2つの照合方法を用意し、顔照合による一致度が十分に高い場合には照合成功とみなすが、顔照合による一致度がそれほど高くない場合には、音声による照合も行って本人確認を行う技術(マルチモーダル生体認証)も知られている(特許文献2)。このように2種類の照合方法を用いることで、セキュリティの向上や照合精度の向上が実現できる。
特開2005−149527号公報 特開2004−126813号公報
In addition, two collation methods, face collation and voice collation, are prepared. If the matching degree by face matching is sufficiently high, it is regarded as a collation success, but if the matching degree by face matching is not so high, voice collation is performed. Also known is a technique (multimodal biometric authentication) for performing identity verification (Patent Document 2). Thus, by using two types of collation methods, it is possible to improve security and collation accuracy.
JP 2005-149527 A Japanese Patent Laid-Open No. 2004-126913

しかしながら、上記のような従来技術の場合には、下記のような問題が生じていた。すなわち、照合に関するパラメータを調整可能とする場合は、取りうるパラメータの値をあらかじめカスタマイズする必要がある。このカスタマイズ作業によって最適な調整を探し出すのは困難であるとともに、このような調整によって照合精度を向上させることは難しい。また、複数の照合方法を利用する場合は、装置が大型化してしまうという問題点、また、コストアップにつながるという問題点がある。   However, in the case of the prior art as described above, the following problems have occurred. That is, in order to make it possible to adjust the parameters related to collation, it is necessary to customize the possible parameter values in advance. It is difficult to find the optimum adjustment by this customization work, and it is difficult to improve the matching accuracy by such adjustment. In addition, when a plurality of collation methods are used, there are a problem that the apparatus is increased in size and a cost is increased.

本発明は上記実情に鑑みてなされたものであって、その目的とするところは、簡易な方法でより精度の高い照合を行える技術を提供することにある。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique capable of performing collation with higher accuracy by a simple method.

上記目的を達成するために本発明に係る照合装置は、入力データを登録データと照合する一次照合と、入力データと一次照合の結果として選択される登録データを入れ替えて照合する二次照合とを行い、これら二回の照合結果に基づいて入力データと一致する登録者を決定することを特徴とする。   In order to achieve the above object, a collation apparatus according to the present invention includes a primary collation for collating input data with registered data, and a secondary collation for exchanging the input data and registered data selected as a result of the primary collation. And the registrant that matches the input data is determined based on these two collation results.

本発明に係る照合装置は、記憶手段と入力手段と一次照合手段と二次照合手段と判定手段とを有する。   The collation apparatus according to the present invention includes storage means, input means, primary collation means, secondary collation means, and determination means.

記憶手段は、複数の登録者の生体情報を登録データとして格納する。生体情報には、顔、指紋、音声、静脈、網膜、虹彩などに係る情報(例えば、顔情報を用いる場合は、顔画像自体や、顔特徴量のように顔画像から取得された情報)が含まれる。入力手段は、照合
対象者の生体情報の入力を受け付ける。生体情報が顔や指紋などの場合には、入力手段はデジタルカメラ等の撮像装置として構成されることができる。また、生体情報が音声の場合にはマイク等の録音装置として構成されることができる。また、入力手段は、撮像装置や録音装置によって既に取得された生体情報を、ネットワークを介して、あるいは、各種の記憶媒体(ハードディスク装置、CD−ROM,DVD−ROM、フロッピー(登録商標)ディスク、各種フラッシュメモリ等)を介して入力する構成とすることもできる。
The storage means stores biometric information of a plurality of registrants as registration data. The biometric information includes information related to a face, fingerprint, voice, vein, retina, iris, and the like (for example, when using face information, the face image itself or information acquired from the face image such as a face feature amount). included. The input means receives input of biometric information of the person to be verified. When the biological information is a face or a fingerprint, the input means can be configured as an imaging device such as a digital camera. Further, when the biological information is voice, it can be configured as a recording device such as a microphone. In addition, the input means can store the biometric information already acquired by the imaging device or the recording device via a network or various storage media (hard disk device, CD-ROM, DVD-ROM, floppy (registered trademark) disk, It can also be configured to input via various flash memories or the like.

一次照合手段は、入力された照合対象者の生体情報と、記憶手段に格納されている複数の登録者の生体情報とを照合し、照合対象者と類似する登録者を選択する。一次照合手段は、入力された照合対象者の生体情報から特徴量を取得し、登録者の生体情報の特徴量と比較して、その類似度を算出する構成とすることができる。   The primary collation unit collates the biometric information of the input person to be collated with the biometric information of a plurality of registrants stored in the storage unit, and selects a registrant similar to the person to be collated. The primary collating means may be configured to obtain a feature amount from the input biometric information of the person to be collated and compare the feature amount with the biometric information of the registrant to calculate the similarity.

そして、二次照合手段は、一次照合手段によって選択された登録者と照合対象者の生体情報を入れ替えて照合を行う。つまり、二次照合手段は、記憶手段に格納されている登録データのうち、一次照合手段によって選択されなかった登録者の生体情報と入力された照合対象者の生体情報を登録データとして扱う。そして、二次照合手段は、一次照合手段によって選択された登録者の生体情報を入力データとして扱って照合を行う。   Then, the secondary verification unit performs verification by exchanging the biometric information of the registrant selected by the primary verification unit and the verification target person. That is, the secondary collation means treats the biometric information of the registrant who has not been selected by the primary collation means and the biometric information of the input collation target as registration data among the registration data stored in the storage means. Then, the secondary verification unit performs verification by treating the biometric information of the registrant selected by the primary verification unit as input data.

判定手段は、一次照合手段と二次照合手段の照合結果に基づいて、照合対象者と一致する登録者を決定する。   The determination unit determines a registrant that matches the verification target person based on the verification results of the primary verification unit and the secondary verification unit.

このような構成に依れば、入力データと登録データとを入れ替えた二次照合を行うことによって、一次照合の正しさを確認することができる。したがって、一次照合の結果が誤っている場合に、二次照合によって誤判定を検出できるので、照合の精度を向上させることができる。   According to such a configuration, the correctness of the primary collation can be confirmed by performing the secondary collation in which the input data and the registered data are exchanged. Accordingly, when the result of the primary collation is incorrect, an erroneous determination can be detected by the secondary collation, so that the collation accuracy can be improved.

ここで、一次照合手段は、照合結果として、照合対象者と最も類似する登録者を一人選択することができる。この場合、二次照合手段は、記憶手段に格納されている生体情報のうち、選択された登録者の生体情報と照合対象者の生体情報を入れ替えたものを登録データとし、選択された登録者の生体情報を入力データとして照合を行う。そして、判定手段は、二次照合手段の照合結果として、一次照合手段によって選択された登録者(入力データ)が照合対象者と一致すると判定された場合に、一次照合手段による照合結果が正しいと判定することができる。すなわち、判定手段は、一次照合手段によって選択された登録者が照合対象者と一致する登録者であると決定することができる。   Here, the primary verification means can select one registrant who is most similar to the verification target person as the verification result. In this case, the secondary collation means uses the biometric information stored in the storage means as a registration data obtained by replacing the biometric information of the selected registrant and the biometric information of the person to be collated. Is used as input data. The determining means determines that the collation result by the primary collating means is correct when it is determined that the registrant (input data) selected by the primary collating means matches the person to be collated as the collation result of the secondary collating means. Can be determined. That is, the determination means can determine that the registrant selected by the primary verification means is a registrant that matches the verification target person.

なお、二次照合手段による照合は、入力された生体情報を有する人物が登録データに格納されている複数の登録者のうちどの登録者と一致するかを選択する1対N照合によって行われても良い。また、二次照合手段による照合は、照合対象者の生体情報を正解データとし、その他の登録者の生体情報を不正解データとして、入力された生体情報が正解データと一致するか否かを判定する1対1照合によって行われて良い。   The collation by the secondary collation means is performed by 1-to-N collation for selecting which registrant among a plurality of registrants stored in the registration data the person having the input biometric information matches. Also good. Further, the collation by the secondary collating means determines whether or not the input biometric information matches the correct answer data by using the biometric information of the person to be collated as correct data and the biometric information of other registrants as incorrect answer data. One-to-one matching may be performed.

また、一次照合手段は、照合結果として、所定の閾値以上の類似度を有する複数の登録者を選択することもできる。この場合、二次照合手段は、一次照合手段によって選択された複数の登録者のそれぞれについて、照合対象者の生体情報と入れ替えた照合を行う。そして、判定手段が、二次照合の結果に基づいて、選択された複数の登録者のうちいずれの登録者が照合対象者と一致するか決定することができる。すなわち、判定手段は、二次照合手段による照合において照合対象者との類似度が最も高いと判定された登録者を、照合対象者と一致する登録者と決定することができる。   Further, the primary verification unit can select a plurality of registrants having a degree of similarity equal to or higher than a predetermined threshold as a verification result. In this case, the secondary verification unit performs verification for each of the plurality of registrants selected by the primary verification unit by replacing the biometric information of the verification target person. Then, the determination unit can determine which registrant among the plurality of selected registrants matches the person to be collated based on the result of the secondary collation. That is, the determination unit can determine a registrant who is determined to have the highest similarity to the verification target person in the verification by the secondary verification unit as a registrant that matches the verification target person.

なお、記憶手段に登録される生体情報が、登録者一人について一つである場合には、登
録者と照合対象者を入れ替えて行う二次照合は、登録者一人について一回だけ行えばよい。これに対して、記憶手段に登録される生体情報が、登録者一人について複数ある場合には、以下のようにして二次照合手段による照合および判定手段による判定を行えばよい。
In addition, when the biometric information registered in a memory | storage means is one about one registrant, the secondary collation performed by switching a registrant and a collation target person should just be performed once about one registrant. On the other hand, when there are a plurality of pieces of biometric information registered in the storage unit for each registrant, the verification by the secondary verification unit and the determination by the determination unit may be performed as follows.

まず、二次照合手段は、一次照合手段によって選択された登録者の複数の生体情報のうち、照合対象者の生体情報との類似度が最も高い生体情報のみを入れ替えて、二次照合を行うことができる。この場合、二次照合は一回だけ行われることになり、判定手段による判定は登録データが登録者一人あたり一つである場合と同様となる。   First, the secondary collation means performs the secondary collation by replacing only the biometric information having the highest similarity with the biometric information of the person to be collated among the plurality of biometric information of the registrant selected by the primary collation means. be able to. In this case, the secondary verification is performed only once, and the determination by the determination unit is the same as when the registration data is one per registrant.

また、二次照合手段は、一次照合手段によって選択された登録者の複数の生体情報のそれぞれについて、照合対象者の生体情報と入れ替えた二次照合を行うこともできる。この場合、二次照合手段は、選択された登録者の生体情報の数だけ二次照合を行う。そして、判定手段は、二次照合手段によるこれら複数回の二次照合の結果のうち、最も類似度が高い照合結果(信頼度が高い照合結果とも言える)に基づいて、照合対象者と一致する登録者を決定することができる。たとえば、最も類似度の高い二次照合結果において、一次照合手段によって選択された登録者と照合対象者とが所定の閾値以上の類似度で類似すると判定された場合に、判定手段は、この登録者が照合対象者と一致する登録者であると決定することができる。   Moreover, the secondary verification means can also perform secondary verification for each of the plurality of biometric information of the registrant selected by the primary verification means with the biometric information of the verification target person. In this case, the secondary verification means performs secondary verification for the number of biometric information of the selected registrant. Then, the determination means matches the person to be verified based on the matching result with the highest similarity (which can be said to be a matching result with high reliability) among the results of the secondary matching performed by the secondary matching means. The registrant can be determined. For example, in the secondary matching result with the highest similarity, when it is determined that the registrant selected by the primary matching means and the person to be verified are similar with a similarity equal to or higher than a predetermined threshold, the determining means It can be determined that the registered person is a registered person that matches the person to be verified.

また、二次照合手段が、一次照合手段によって選択された登録者の複数の生体情報のそれぞれについて、照合対象者の生体情報と入れ替えた二次照合を行う場合に、判定手段は以下のようにして照合対象者と一致する登録者を決定することができる。すなわち、判定手段は、二次照合手段による複数回の二次照合の結果の平均に基づいて、照合対象者と一致する登録者を決定することができる。判定手段は、たとえば、二次照合結果における、一次照合手段によって選択された登録者と照合対象者との類似度の平均を取って、この類似度の平均値が所定の閾値以上であれば、一次照合手段によって選択された登録者を照合対象者と一致する登録者と決定することができる。   Further, when the secondary verification unit performs secondary verification for each of the plurality of biometric information of the registrant selected by the primary verification unit with the biometric information of the verification target person, the determination unit is as follows. Thus, a registrant that matches the person to be verified can be determined. In other words, the determination unit can determine a registrant that matches the verification target person based on the average of the results of the multiple secondary verifications by the secondary verification unit. The determination means, for example, takes the average of the similarity between the registrant selected by the primary verification means and the verification target person in the secondary verification result, and if the average value of this similarity is equal to or greater than a predetermined threshold, The registrant selected by the primary verification means can be determined as the registrant that matches the verification target person.

本発明において、一次照合手段と二次照合手段とは、同じ生体情報を利用して照合を行うが、同じ照合アルゴリズムを採用する必要はない。たとえば、一次照合手段は生体情報の全体に着目した照合を行い、二次照合手段は生体情報のうち一部の情報のみに着目した照合を行っても良い。また、この逆の構成を採用しても良い。   In the present invention, the primary verification unit and the secondary verification unit perform verification using the same biological information, but it is not necessary to employ the same verification algorithm. For example, the primary verification unit may perform verification focusing on the entire biometric information, and the secondary verification unit may perform verification focusing on only part of the biometric information. Further, the reverse configuration may be adopted.

たとえば、生体情報が顔画像であり顔照合が行われる場合に、一次照合手段は顔全体の特徴に着目した照合を行い、二次照合手段は目や口や耳など顔の一部の器官のみに着目して照合を行うことができる。   For example, when the biometric information is a face image and face collation is performed, the primary collation means performs collation focusing on the characteristics of the entire face, and the secondary collation means only applies to some organs of the face such as the eyes, mouth, and ears. It is possible to perform collation by paying attention to the above.

また、記録手段に複数種類の生体情報(顔と音声など)を記憶しておき、一次照合手段と二次照合手段とが着目する生体情報を異ならせても良い。例えば、一次照合手段は顔に着目した照合を行い、二次照合手段は音声に着目した照合を行うことができる。   Further, a plurality of types of biometric information (such as face and voice) may be stored in the recording unit, and the biometric information focused on by the primary verification unit and the secondary verification unit may be different. For example, the primary collating unit can perform collation focusing on the face, and the secondary collating unit can perform collation focusing on the voice.

なお、本発明は、上記手段の少なくとも一部を有する照合装置として捉えることができる。また、本発明は、上記処理の少なくとも一部を含む照合方法、または、かかる方法を実現するためのプログラムとして捉えることもできる。上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。   Note that the present invention can be understood as a collation device having at least a part of the above means. The present invention can also be understood as a collation method including at least a part of the above processing, or a program for realizing the method. Each of the above means and processes can be combined with each other as much as possible to constitute the present invention.

たとえば、本発明の一態様に係る照合方法は、情報処理装置が、複数の登録者の生体情報を格納する記憶ステップと、照合対象者の生体情報の入力を受け付ける入力ステップと、前記照合対象者の生体情報と前記登録者の生体情報とを照合し、前記照合対象者と類似する登録者を選択する一次照合ステップと、一次照合ステップにおいて選択された登録者
と前記照合対象者の生体情報を入れ替えて照合を行う二次照合ステップと、前記一次照合ステップと前記二次照合ステップの照合結果に基づいて、前記照合対象者と一致する登録者を決定する判定ステップと、を実行することを特徴とする。
For example, in the collation method according to an aspect of the present invention, the information processing apparatus stores a biometric information of a plurality of registrants, an input step of accepting input of biometric information of a collation target person, and the collation target person The biometric information of the registrant and the biometric information of the registrant, a primary verification step of selecting a registrant similar to the verification target person, and the biometric information of the registrant and the verification target person selected in the primary verification step. A secondary collation step for performing collation by exchanging, and a determination step for determining a registrant that matches the collation target person based on the collation results of the primary collation step and the secondary collation step are performed. And

また、たとえば、本発明の一態様に係る照合プログラムは、情報処理装置に対して、複数の登録者の生体情報を格納する記憶ステップと、照合対象者の生体情報の入力を受け付ける入力ステップと、前記照合対象者の生体情報と前記登録者の生体情報とを照合し、前記照合対象者と類似する登録者を選択する一次照合ステップと、一次照合ステップにおいて選択された登録者と前記照合対象者の生体情報を入れ替えて照合を行う二次照合ステップと、前記一次照合ステップと前記二次照合ステップの照合結果に基づいて、前記照合対象者と一致する登録者を決定する判定ステップと、を実行させることを特徴とする。   For example, the collation program which concerns on 1 aspect of this invention WHEREIN: The memory | storage step which stores biometric information of a several registrant with respect to information processing apparatus, the input step which receives the input of biometric information of a collation subject person, A primary collation step of collating the biometric information of the person to be collated with the biometric information of the registrant and selecting a registrant similar to the person to be collated, the registrant selected in the primary collation step, and the person to be collated A secondary collation step for performing collation by exchanging the biometric information, and a determination step for determining a registrant that matches the collation target person based on the collation results of the primary collation step and the secondary collation step. It is characterized by making it.

本発明によれば、簡易な方法によってより精度の高い照合を行うことが可能となる。   According to the present invention, it is possible to perform collation with higher accuracy by a simple method.

以下に図面を参照して、この発明の好適な実施の形態を例示的に詳しく説明する。   Exemplary embodiments of the present invention will be described in detail below with reference to the drawings.

(第1の実施形態)
第1の実施形態は、顔画像の入力を受け付けて、あらかじめ登録されている登録者のいずれと一致するかを判定する顔照合装置である。
(First embodiment)
The first embodiment is a face collation device that accepts input of a face image and determines which of the registered users is registered in advance.

<構成>
本実施形態に係る顔照合装置1は、ハードウェア的には、バスを介して接続されたCPU(中央演算処理装置)、主記憶装置(RAM)、補助記憶装置などを備えるように構成される。この場合、プログラムがCPUに実行されることによって、顔照合装置1が実現される。
<Configuration>
The face matching device 1 according to the present embodiment is configured to include a CPU (Central Processing Unit), a main storage device (RAM), an auxiliary storage device, and the like connected via a bus in terms of hardware. . In this case, the face matching device 1 is realized by executing the program on the CPU.

図1は、顔照合装置1の機能ブロック例を示す図である。顔照合装置1は、補助記憶装置に記憶された各種のプログラム(OS,アプリケーション等)が主記憶装置にロードされCPUにより実行されることによって、画像入力部2、顔検出部3、登録画像DB4、一次照合部5、二次照合部6(画像管理部7、学習部8、照合部9を含む)と判定部10として機能する。また、顔照合装置1の全部または一部は、専用のチップとして構成されても良い。   FIG. 1 is a diagram illustrating an example of functional blocks of the face matching device 1. The face collating device 1 is loaded with various programs (OS, applications, etc.) stored in the auxiliary storage device and executed by the CPU, whereby the image input unit 2, the face detection unit 3, and the registered image DB 4 are loaded. The primary verification unit 5, the secondary verification unit 6 (including the image management unit 7, the learning unit 8, and the verification unit 9) and the determination unit 10. Further, all or part of the face collation apparatus 1 may be configured as a dedicated chip.

次に、顔照合装置1が含む各機能部について説明する。   Next, each functional unit included in the face matching device 1 will be described.

画像入力部2は、照合対象者の顔画像のデータを顔照合装置1へ入力するためのインタフェースとして機能する。画像入力部2によって、顔画像のデータが顔照合装置1へ入力される。画像入力部2は、顔照合装置1へ顔画像のデータを入力するためのどのような既存の技術を用いて構成されても良い。   The image input unit 2 functions as an interface for inputting face image data of the person to be collated into the face collation apparatus 1. The image input unit 2 inputs face image data to the face matching device 1. The image input unit 2 may be configured using any existing technique for inputting face image data to the face matching device 1.

たとえば、ネットワーク(LANやインターネットなど)を介して顔画像のデータが顔照合装置1へ入力されても良い。また、デジタルカメラやスキャナや記録装置(たとえばハードディスクドライブ)等から顔画像が顔照合装置1へ入力されても良い。また、顔照合装置1がデジタルカメラ等の撮像装置またはデジタルカメラ等の撮像装置を備える各種装置(携帯電話機やPDA(Personal Digital Assistant)等)の内部に含まれ、撮像された画像が顔照合装置1へと入力されても良い。   For example, face image data may be input to the face collation apparatus 1 via a network (such as a LAN or the Internet). Further, a face image may be input to the face collation apparatus 1 from a digital camera, a scanner, a recording device (for example, a hard disk drive), or the like. The face matching device 1 is included in various devices (such as a mobile phone and a PDA (Personal Digital Assistant)) including an imaging device such as a digital camera or an imaging device such as a digital camera. 1 may be input.

顔検出部3は、画像入力部2を介して入力された顔画像から、人の顔を検出する。顔検
出部3は、たとえば、顔全体の輪郭に対応した基準テンプレートを用いたテンプレートマッチングによって顔を検出するように構成されても良い。また、顔検出部3は、顔の構成要素(目、鼻、耳など)に基づくテンプレートマッチングによって顔を検出するように構成されても良い。また、顔検出部3は、肌の色に近い領域を検出し、その領域を顔として検出するように構成されても良い。また、顔検出部3は、ニューラルネットワークを使って教師信号による学習を行い、顔らしい領域を顔として検出するように構成されても良い。また、顔検出部3は、その他既存のどのような技術が適用されることによって実現されても良い。
The face detection unit 3 detects a human face from the face image input via the image input unit 2. The face detection unit 3 may be configured to detect a face by template matching using a reference template corresponding to the outline of the entire face, for example. The face detection unit 3 may be configured to detect a face by template matching based on face components (eg, eyes, nose, ears). The face detection unit 3 may be configured to detect a region close to the skin color and detect the region as a face. Further, the face detection unit 3 may be configured to perform learning by a teacher signal using a neural network and detect a face-like region as a face. The face detection unit 3 may be realized by applying any other existing technique.

登録画像DB4はハードディスク装置などの補助記憶装置によって構成される。登録画像DB4には、登録者の顔画像が記憶されている。登録画像DB4には、登録者一人について一枚の登録画像を記憶することもできるし、複数枚の登録画像を記憶することができる。本実施形態においては、登録画像DB4には登録者一人について一枚の登録画像のみが記憶されているものとして説明する。   The registered image DB 4 is configured by an auxiliary storage device such as a hard disk device. The registered image DB 4 stores a registrant's face image. In the registered image DB 4, one registered image can be stored for each registrant, or a plurality of registered images can be stored. In the present embodiment, it is assumed that only one registered image is stored in the registered image DB 4 for each registrant.

一次照合部5は、入力された照合対象者の顔画像と登録画像DB4内の登録画像とを照合し、照合対象者がどの登録者であるかを判定する。一次照合部5は、顔画像から特徴量を取得し登録画像と比較して、入力画像と各登録画像との照合スコア(類似度)を算出する。そして、一次照合部5は、この照合スコアに基づいて、照合対象者と一致する登録者(以下、該当者ともいう)を選択する(1対N照合)。本実施形態においては、照合スコアが最も高い登録者が、該当者として選択される。ただし、最も高い照合スコアが所定の閾値より小さい場合には、一次照合部5は、該当者無しと判断し、照合対象者は未登録者であると判定する。   The primary collation unit 5 collates the input face image of the person to be collated with the registered image in the registered image DB 4 to determine which registrant is the person to be collated. The primary collation unit 5 obtains a feature amount from the face image, compares it with the registered image, and calculates a collation score (similarity) between the input image and each registered image. And the primary collation part 5 selects the registrant (henceforth applicable person) who corresponds with a collation subject person based on this collation score (1 to N collation). In the present embodiment, the registrant with the highest matching score is selected as the corresponding person. However, when the highest collation score is smaller than the predetermined threshold, the primary collation unit 5 determines that there is no corresponding person, and determines that the person to be collated is an unregistered person.

二次照合部6は、照合精度を向上させるために一次照合部5とは異なる方式によって照合を行う。そして、判定部10が、一次照合部5と二次照合部6の照合結果に基づいて、照合対象者がどの登録者と一致するかを判定する。   The secondary verification unit 6 performs verification by a method different from that of the primary verification unit 5 in order to improve the verification accuracy. Then, the determination unit 10 determines which registrant matches the verification target person based on the verification results of the primary verification unit 5 and the secondary verification unit 6.

二次照合部6は、画像管理部7と学習部8と照合部9とを含む。画像管理部7は、画像入力部2を介して入力された照合対象者の入力画像と登録画像DB4内に記憶されている登録画像の管理を行う。画像管理部7は、登録画像DB4内に格納されている登録画像と入力画像とを取得する。そして、画像管理部7は、登録画像のうち一次照合部5によって選択された登録者(該当者)の登録画像を入力画像と入れ替えて、これらの顔画像を学習部8へ渡す。また、画像管理部7は、該当者の登録画像を照合部9へ入力データとして渡す。   The secondary collation unit 6 includes an image management unit 7, a learning unit 8, and a collation unit 9. The image management unit 7 manages the input image of the person to be collated input via the image input unit 2 and the registered image stored in the registered image DB 4. The image management unit 7 acquires a registered image and an input image stored in the registered image DB 4. Then, the image management unit 7 replaces the registered image of the registrant (corresponding person) selected by the primary verification unit 5 among the registered images with the input image, and passes these face images to the learning unit 8. In addition, the image management unit 7 passes the registered image of the corresponding person to the collation unit 9 as input data.

学習部8は、上述したように画像管理部7から、登録画像DB4に記憶されている登録画像のうち該当者の登録画像が入力画像で置き換えられた顔画像の集合を渡される。学習部8は、これらの顔画像に基づいて学習処理を行う。学習方法は、PCA、テンプレート、SVMなどの既存のどのような技術によって行われても良い。   As described above, the learning unit 8 receives from the image management unit 7 a set of face images obtained by replacing the registered image of the corresponding person among the registered images stored in the registered image DB 4 with the input image. The learning unit 8 performs learning processing based on these face images. The learning method may be performed by any existing technique such as PCA, template, or SVM.

照合部9は、画像管理部7から渡された該当者の顔画像を入力データとして、また、学習部8の学習結果を学習データセットとして顔照合を行う。照合部9は、入力データである該当者が、学習データセット内のどの人物を一致するかを判定する。具体的には、照合部9は、一次照合部5と同様に顔の特徴量を比較して照合スコアを算出し、照合スコアに基づいて該当者と一致する人物を判定する。   The collation unit 9 performs face collation using the face image of the corresponding person passed from the image management unit 7 as input data and the learning result of the learning unit 8 as a learning data set. The matching unit 9 determines which person in the learning data set matches the corresponding person as input data. Specifically, the collation unit 9 compares the facial feature amounts to calculate a collation score, similarly to the primary collation unit 5, and determines a person who matches the corresponding person based on the collation score.

判定部10は、一次照合部5と二次照合部6の照合結果に基づいて、画像入力部2を介して入力された照合対象者がどの登録者と一致するかを判定する。二次照合部6による照合結果として、該当者と照合対象者とが一致すると判定された場合は、判定部10は一次
照合部5による照合結果が正しいと判定する。すなわち、この場合、判定部10は照合対象者と該当者は一致すると判定する。また、二次照合部6による照合結果として、照合対象者以外の人物が該当者と一致するという結果が得られた場合は、判定部10は一次照合部5による照合が正しくなかったと判定する。すなわち、判定部10は照合対象者と一致する登録者は存在せず、照合対象者は未登録者であると判定する。
The determination unit 10 determines which registrant matches the verification target person input via the image input unit 2 based on the verification results of the primary verification unit 5 and the secondary verification unit 6. If it is determined as a matching result by the secondary matching unit 6 that the corresponding person matches the matching target person, the determining unit 10 determines that the matching result by the primary matching unit 5 is correct. That is, in this case, the determination unit 10 determines that the person to be verified matches the corresponding person. Further, when a result that a person other than the person to be collated matches the corresponding person is obtained as a collation result by the secondary collation unit 6, the determination unit 10 determines that the collation by the primary collation unit 5 is not correct. That is, the determination unit 10 determines that there is no registrant that matches the verification target person, and the verification target person is an unregistered person.

<動作例>
図2,3は、顔照合装置1の動作例を示すフローチャートである。図4は、顔照合装置1の照合方法を説明する図である。
<Operation example>
2 and 3 are flowcharts showing an example of the operation of the face collation apparatus 1. FIG. 4 is a diagram for explaining a collation method of the face collation apparatus 1.

まず、図2を参照して、一次照合部5による一次照合処理について説明する。図2は、主に一次照合部5による照合処理の流れを示すフローチャートである。顔照合装置1は、まず、画像入力部2を介して、照合対象者の顔画像(照合画像)の入力を受け付ける(S10)。そして、顔検出部3が照合画像から顔を検出する(S11)。次に、一次照合部5が、照合画像から検出された顔と登録画像DB4内の登録画像を照合して、照合対象者と最も類似度の高い登録者を選択する(S12)。この類似度が所定の閾値より高いか否かが判定され(S13)、閾値より高い場合(S13−YES)はこの登録者が照合対象者と一致する登録者(該当者)であると判断される(S14)。この照合結果が正しいか否かは、二次照合によって確認される。一方、類似度が所定の閾値以下である場合(S13−NO)は、照合対象者は未登録者であると判定される。この場合、二次照合部6による確認をせずに、未登録者であると結論づける。   First, with reference to FIG. 2, the primary collation process by the primary collation part 5 is demonstrated. FIG. 2 is a flowchart mainly showing the flow of collation processing by the primary collation unit 5. First, the face collation apparatus 1 accepts input of a face image (collation image) of the person to be collated via the image input unit 2 (S10). Then, the face detection unit 3 detects a face from the collation image (S11). Next, the primary collation unit 5 collates the face detected from the collation image with the registered image in the registered image DB 4 and selects a registrant having the highest similarity with the collation target person (S12). It is determined whether or not the similarity is higher than a predetermined threshold (S13). If the similarity is higher than the threshold (S13-YES), it is determined that the registrant is a registrant (corresponding person) that matches the person to be verified. (S14). Whether or not this collation result is correct is confirmed by secondary collation. On the other hand, when the similarity is equal to or less than a predetermined threshold (S13-NO), it is determined that the person to be verified is an unregistered person. In this case, it is concluded that the person is an unregistered person without confirmation by the secondary verification unit 6.

なお、ここでは図4に示すように、登録者としてA〜Dの4人が登録されており、一次照合の結果として、照合画像はBさんであると判定されたものとする。   Here, as shown in FIG. 4, it is assumed that four persons A to D are registered as registrants, and it is determined that the collation image is Mr. B as a result of the primary collation.

次に、図3,4を参照して、二次照合部6による二次照合処理について説明する。図3は、主に二次照合部6による照合処理の流れを示すフローチャートである。まず、画像管理部7が、照合画像と該当者(Bさん)の登録画像の入れ替えを行う(S20)。そして、学習部8が、照合対象者とAさん,Cさん,Dさんの合計4人の顔画像に基づいて学習処理を行う(S21)。また、画像管理部7が、該当者(Bさん)の登録画像を、入力データとして照合部9へ入力する(S22)。照合部9は、上記の学習結果を利用して1対N照合を行って、Bさんがどの人物と一致するかを判断する(S23)。その後、判定部10が、Bさんと一致する人物として照合対象者の顔画像(照合画像)が選択されたかを判定する(24)。照合対象者の顔画像が選択された場合(S24−YES)は、判定部10は一次照合部5による照合が正しかったと判定する。逆に、照合対象者の顔画像が選択されなかった場合(S24−NO)は、一次照合部5による照合が正しくなかったと判定し、照合対象者は未登録者であると判定する。なお、照合対象者の顔画像が選択されない場合には、他の登録者が選択された場合と該当者無しの場合が含まれる。   Next, with reference to FIGS. 3 and 4, the secondary verification process by the secondary verification unit 6 will be described. FIG. 3 is a flowchart mainly showing the flow of collation processing by the secondary collation unit 6. First, the image management unit 7 replaces the collation image and the registered image of the person (Mr. B) (S20). Then, the learning unit 8 performs a learning process based on the face images of a total of four people including the person to be collated and Mr. A, Mr. C, and Mr. D (S21). Also, the image management unit 7 inputs the registered image of the person (Mr. B) as input data to the verification unit 9 (S22). The collation unit 9 performs 1-to-N collation using the learning result described above, and determines which person Mr. B matches (S23). Thereafter, the determination unit 10 determines whether or not the face image (collation image) of the person to be collated has been selected as the person who matches Mr. B (24). When the face image of the person to be collated is selected (S24-YES), the determination unit 10 determines that the collation by the primary collation unit 5 is correct. Conversely, when the face image of the person to be collated is not selected (S24-NO), it is determined that the collation by the primary collation unit 5 is not correct, and the person to be collated is determined to be an unregistered person. The case where the face image of the person to be collated is not selected includes the case where another registrant is selected and the case where there is no corresponding person.

<実施形態の作用・効果>
本実施形態に係る顔照合装置1では、一次照合の結果を、照合画像と一次照合の結果の登録者の画像とを入れ替えて行う二次照合によって確認している。したがって、一次照合の結果が誤っている場合に、二次照合によって誤りを検出することができるので、誤判別を減少させることができる。したがって、顔照合装置1では照合精度が向上する。
<Operation / Effect of Embodiment>
In the face collation apparatus 1 according to the present embodiment, the result of the primary collation is confirmed by the secondary collation performed by exchanging the collation image and the image of the registrant as the result of the primary collation. Therefore, when the result of the primary collation is incorrect, the error can be detected by the secondary collation, so that erroneous discrimination can be reduced. Therefore, the face matching device 1 improves the matching accuracy.

また、本実施形態に係る顔照合装置1では、一次照合と二次照合のいずれにおいて、顔照合処理という同じ照合を行っている。したがって、複数の照合方式を併用したマルチモーダルな照合装置と比べて、構成を簡単なものとすることができ、装置の大型化やコストアップを避けることができる。   Further, in the face collation apparatus 1 according to the present embodiment, the same collation called face collation processing is performed in either the primary collation or the secondary collation. Therefore, the configuration can be simplified as compared with a multi-modal collation apparatus that uses a plurality of collation methods in combination, and an increase in size and cost of the apparatus can be avoided.

(第2の実施形態)
上記の第1の実施形態では、二次照合部6による照合処理として1対N照合が行ったが、本実施形態では1対1照合によって二次照合を行う。
(Second Embodiment)
In the first embodiment, the one-to-N collation is performed as the collation processing by the secondary collation unit 6. In the present embodiment, the second collation is performed by one-to-one collation.

図5は本実施形態における二次照合処理の流れを示すフローチャートであり、図6は二次照合処理を説明する図である。   FIG. 5 is a flowchart showing the flow of the secondary collation process in the present embodiment, and FIG. 6 is a diagram for explaining the secondary collation process.

一次照合については、第1の実施形態と同様に、入力された照合対象者と一致する登録者(該当者)を選択する。二次照合処理では、画像管理部7が照合画像と該当者の登録画像を入れ替える(S30)。そして、学習部8が、照合画像を正解データとして、該当者以外の登録画像(図6の例では、Aさん、Cさん、Dさんの3名の画像)を不正解データとして学習を行う。また、画像管理部7は、該当者(Bさん)の登録画像を、入力データとして照合部9へ入力する(S32)。照合部9は、上記の学習結果を利用して、入力データである該当者の登録画像が、正解データに属するか否かの1対1照合を行う(S33)。   For the primary verification, as in the first embodiment, a registrant (corresponding person) that matches the input verification target person is selected. In the secondary collation process, the image management unit 7 replaces the collation image with the registered image of the corresponding person (S30). Then, the learning unit 8 learns using the verification images as correct answer data and the registered images other than the corresponding person (in the example of FIG. 6, three images of Mr. A, Mr. C, and Mr. D) as incorrect answer data. Further, the image management unit 7 inputs the registered image of the person (Mr. B) as input data to the verification unit 9 (S32). Using the learning result, the matching unit 9 performs one-to-one matching as to whether or not the registered image of the corresponding person as input data belongs to correct data (S33).

判定部10は、二次照合部6による照合結果として、該当者(Bさん)が正解データに属すると判定されたか否かを調べる(S34)。該当者が正解データのクラスに属すると判定された場合(34−YES)は、一次照合部5による照合が正しかったと判定する。逆に、該当者が不正解データのクラスの属すると判定された場合は(S34−NO)、一次照合部5による照合は正しくなかったと判定し、照合対象者は未登録者であると判定する。   The determination unit 10 checks whether or not the corresponding person (Mr. B) is determined to belong to the correct answer data as a verification result by the secondary verification unit 6 (S34). When it is determined that the corresponding person belongs to the correct data class (34-YES), it is determined that the collation by the primary collation unit 5 is correct. Conversely, if it is determined that the corresponding person belongs to the class of incorrect data (S34-NO), it is determined that the collation by the primary collation unit 5 is not correct, and the collation target person is determined to be an unregistered person. .

本実施形態に係る顔照合装置1においても、上記第1の実施形態と同様の効果を得ることができる。   Also in the face collation apparatus 1 according to the present embodiment, the same effects as in the first embodiment can be obtained.

(第3の実施形態)
上記の実施形態においては、一次照合処理および二次照合処理のいずれにおいても、顔全体の特徴量を取得して照合スコアを算出していた。これに対して本実施形態においては、一次照合処理と二次照合処理において、照合スコアを算出するアルゴリズムを異なるものとする。すなわち、一次照合処理と二次照合処理において、着目する顔の部位を異なるものとする。
(Third embodiment)
In the above embodiment, in both the primary collation process and the secondary collation process, the feature amount of the entire face is acquired and the collation score is calculated. On the other hand, in this embodiment, the algorithm for calculating the matching score is different between the primary matching process and the secondary matching process. That is, the face part of interest is different in the primary matching process and the secondary matching process.

たとえば、図7に示すように、一次照合においては顔全体に着目して照合スコアを算出するのに対して、二次照合においては目だけに着目して照合スコアを算出するように構成しても良い。また、たとえば、図8に示すように、一次照合においては顔全体に着目して照合スコアを算出するのに対して、二次照合においては口だけに着目して照合スコアを算出するように構成しても良い。このように、二次照合において、顔の一部の部位(目、鼻、口、耳などの器官、もしくはこれらの組み合わせやその位置関係など)のみに着目する照合アルゴリズムを採用することができる。また、一次照合において一部の器官に着目し、二次照合において顔全体に着目しても良い。また、一次照合において目のみに着目し、二次照合において口に着目するといったように、一次照合および二次照合のいずれにおいても顔の一部の器官に着目した照合を行っても良い。   For example, as shown in FIG. 7, in the primary collation, the collation score is calculated by focusing on the entire face, whereas in the secondary collation, the collation score is calculated by focusing only on the eyes. Also good. Also, for example, as shown in FIG. 8, in the primary collation, the collation score is calculated by focusing on the entire face, whereas in the secondary collation, the collation score is calculated by focusing only on the mouth. You may do it. As described above, in the secondary matching, a matching algorithm that focuses only on a part of the face (an organ such as the eyes, nose, mouth, ear, or a combination thereof or a positional relationship thereof) can be employed. Further, some organs may be focused on in the primary matching, and the entire face may be focused on in the secondary matching. In addition, it is also possible to perform collation focusing on a part of the face in both the primary collation and the secondary collation, such as focusing on eyes only in the primary collation and focusing on the mouth in the secondary collation.

顔の一部の器官のみに着目する場合、たとえば、マスクを着用している場合は、目を比較の対象として、隠れている口を照合に用いないことで照合精度を向上させることができる。また、サングラスを着用している場合には、口を比較の対象として、隠れている目を照合に用いないことで照合精度を向上させることができる。このように、顔の一部が隠されている顔画像に対して、顔全体と一部の器官(隠されていない)を対象とする2種類の照合を行うことで照合精度を向上させることができる。   When focusing on only a part of the organs of the face, for example, when wearing a mask, the accuracy of matching can be improved by not using the hidden mouth as a target for eye comparison. Moreover, when wearing sunglasses, the accuracy of verification can be improved by using the mouth as a comparison target and not using the hidden eyes for verification. Thus, collation accuracy is improved by performing two types of collation for the face image in which a part of the face is hidden and targeting the entire face and some organs (not hidden). Can do.

なお、マスクやサングラスなどの着用はテンプレートマッチングなどの技術によって判別することができる。また、顔画像において一部の器官が隠れていることは、顔検出の差異に特徴点の位置関係を調べることによっても検出可能である。   In addition, wearing of a mask or sunglasses can be determined by a technique such as template matching. Further, it is possible to detect that some organs are hidden in the face image by examining the positional relationship of the feature points with respect to the difference in face detection.

本実施形態では、生体情報として顔に係る情報を用い、一次照合と二次照合とで着目する顔の器官を変えているが、他の生体情報を用いる場合も同様の構成を採用することができる。また、一次照合と二次照合とにおいて、異なる生体情報に着目して照合を行っても良い。   In the present embodiment, information related to a face is used as biometric information, and the organ of the face to which attention is paid is changed between primary verification and secondary verification, but the same configuration can be adopted when other biometric information is used. it can. Further, in the primary verification and the secondary verification, the verification may be performed by paying attention to different biological information.

(第4の実施形態)
上記の実施形態の説明においては、登録画像DB4に各登録者について登録画像が一枚のみ格納されている場合を説明した。本実施形態では、登録画像DB4に各登録者について登録画像が複数枚(n枚とする)格納されている場合について説明する。
(Fourth embodiment)
In the description of the above embodiment, the case where only one registered image is stored in the registered image DB 4 for each registrant has been described. In the present embodiment, a case will be described in which a plurality of registered images (n) are stored for each registrant in the registered image DB 4.

一次照合部5が行う一次照合処理については上記の実施形態と同様であり、照合画像と最も類似度の高い登録者が該当者として選択される。   The primary verification process performed by the primary verification unit 5 is the same as that in the above embodiment, and the registrant having the highest similarity with the verification image is selected as the corresponding person.

以下、図9を参照して本実施形態における二次照合部6が行う二次照合処理について説明する。図9は、二次照合処理の流れを示すフローチャートである。   Hereinafter, the secondary verification process performed by the secondary verification unit 6 in the present embodiment will be described with reference to FIG. FIG. 9 is a flowchart showing the flow of the secondary collation process.

まず、二次照合部6は、変数iに1を代入する(S40)。次に、画像管理部7が、照合画像と該当者のi番目の登録画像を入れ替える(S41)。そして、学習部8が、登録画像DB4内の登録画像のうち、該当者のi番目の登録画像を照合画像で置き換えた顔画像の集合を学習データとして学習処理を行う(S42)。次に、画像管理部7が、該当者のi番目の登録画像を入力データとして照合部9へ渡す(S43)。照合部9は、上記の学習結果を用いて、入力データである該当者のi番目の登録画像の照合を行う(S44)。そして、照合部9は、該当者のi番目の登録画像と照合画像の類似度Siを算出する(S45)。   First, the secondary verification unit 6 substitutes 1 for the variable i (S40). Next, the image management unit 7 replaces the collation image with the i-th registered image of the corresponding person (S41). Then, the learning unit 8 performs a learning process using, as learning data, a set of face images obtained by replacing the i-th registered image of the corresponding person with a matching image among the registered images in the registered image DB 4 (S42). Next, the image management unit 7 passes the i-th registered image of the corresponding person to the verification unit 9 as input data (S43). The collation unit 9 collates the i-th registered image of the corresponding person as input data using the learning result (S44). Then, the collation unit 9 calculates the similarity Si between the i-th registered image of the corresponding person and the collation image (S45).

次に、該当者の全ての画像について処理が終わったか判定する。すなわち、変数iがnより小さいか否か判定する(S46)。変数iがnより小さい、すなわち、処理をしていない画像がある場合(S46−YES)には、変数iをインクリメントして(S47)、次の登録画像について上記の処理を繰り返す。   Next, it is determined whether or not the processing has been completed for all images of the corresponding person. That is, it is determined whether the variable i is smaller than n (S46). If the variable i is smaller than n, that is, there is an image that has not been processed (S46-YES), the variable i is incremented (S47), and the above processing is repeated for the next registered image.

該当者のn枚の登録画像全てについて上記の処理が完了した場合(S46−NO)は、類似度Si(i=1〜n)の最大値が、所定の閾値以上であるか判定する(S48)。類似度Siの最大値が閾値以上である場合(S48−YES)には、一次照合の結果が正しいと判定する。類似度Siの最大値が閾値より小さい場合(S48−NO)には、一次照合の結果は誤りでありと判定し、照合対象者は未登録者であると判定する。   When the above process is completed for all n registered images of the corresponding person (S46-NO), it is determined whether the maximum value of the similarity Si (i = 1 to n) is equal to or greater than a predetermined threshold (S48). ). If the maximum value of the similarity score Si is equal to or greater than the threshold value (S48-YES), it is determined that the result of the primary collation is correct. When the maximum value of similarity score Si is smaller than the threshold value (S48-NO), it is determined that the result of the primary verification is an error, and the verification target person is determined to be an unregistered person.

このような構成に依れば、登録画像DB4に各登録者に複数の顔画像が登録されている場合にも対応することができる。   According to such a configuration, it is possible to cope with a case where a plurality of face images are registered for each registrant in the registered image DB 4.

なお、各登録者に複数の顔画像が登録されている場合に二次照合の方法は上記以外の方法を採用することができる。以下に、二次照合の他の例について説明する。   In addition, when a plurality of face images are registered for each registrant, a method other than the above can be adopted as the method of secondary verification. Hereinafter, another example of the secondary collation will be described.

たとえば、ステップS48において類似度Siの最大と閾値を比較するのではなく、Siの平均値と閾値とを比較する構成とすることができる。   For example, instead of comparing the maximum similarity Si with the threshold value in step S48, the average value of Si and the threshold value can be compared.

また、たとえば、二次照合において入れ替える登録画像は、一次照合において類似度が高いと判定された所定枚数の登録画像のみとすることができる。たとえば、最も類似度が高いと判定された登録画像のみについて、照合画像と入れ替えて学習・照合処理を行う構成とすることができる。また、たとえば、類似度が高い方から所定枚数の登録画像について、照合画像と入れ替えて学習・照合処理を行う構成とすることができる。   Further, for example, the registered images to be replaced in the secondary collation can be only a predetermined number of registered images determined to have high similarity in the primary collation. For example, only registered images determined to have the highest degree of similarity may be configured to perform learning / collation processing by replacing them with collation images. Further, for example, it is possible to adopt a configuration in which learning / collation processing is performed for a predetermined number of registered images from the one with a higher degree of similarity, replacing the collation images.

(第5の実施形態)
上記実施形態においては、一次照合処理によって照合対象者と一致する登録者を一人選択し、二次照合処理によって一次照合が正しいか確認していた。これに対して本実施形態では、一照合処理によって照合対象者と一致する可能性が高い登録者を複数選び、二次照合処理によって絞り込むことを特徴とする。
(Fifth embodiment)
In the embodiment described above, one registrant who matches the person to be collated is selected by the primary collation process, and whether the primary collation is correct is confirmed by the secondary collation process. On the other hand, the present embodiment is characterized in that a plurality of registrants who are highly likely to match the person to be collated are selected by one collation process and narrowed down by the secondary collation process.

図10は、本実施形態における、一次照合部5による一次照合処理の流れを示すフローチャートである。顔照合装置1は、画像入力部2を介して、照合対象者の顔画像の入力を受け付ける(S50)。そして、顔検出部3が、入力された顔画像から顔を検出する(S51)。一次照合部5は、照合画像から検出された顔と登録画像DB4内の登録画像を照合し(S52)、照合対象者との類似度が高い上位n人の登録者を候補者として選択する(S53)。ただし、一次照合部5は、類似度に閾値を設けて、閾値以下の類似度しか有さない登録者は候補者に含めないようにしても良い。この場合、候補者として選択される登録者がn人よりも少なくなる場合もある。また、最大の類似度から所定値以内の類似度を有する登録者を候補者とすることもできる。   FIG. 10 is a flowchart showing the flow of the primary verification process by the primary verification unit 5 in the present embodiment. The face collation apparatus 1 accepts input of the face image of the person to be collated via the image input unit 2 (S50). Then, the face detection unit 3 detects a face from the input face image (S51). The primary collation unit 5 collates the face detected from the collation image with the registration image in the registration image DB 4 (S52), and selects the top n registrants with high similarity to the collation target person as candidates ( S53). However, the primary verification unit 5 may set a threshold value for the similarity, and may not include a registrant who has only a similarity less than or equal to the threshold as a candidate. In this case, there may be fewer than n registrants selected as candidates. A registrant who has a similarity within a predetermined value from the maximum similarity can also be set as a candidate.

次に、図11を参照して二次照合処理について説明する。図11は、二次照合部6による二次照合処理の流れを示すフローチャートである。まず、二次照合部6は変数iに1を代入する(S60)。そして、画像管理部7が、照合画像とi番目の候補者の登録画像を入れ替える(S61)。次に、学習部8が、入れ替えた後の顔画像を学習データとして学習処理を行う(S62)。そして、画像管理部7が、i番目の候補者の登録画像を入力データとして照合部9へ渡す(S63)。照合部9は、上記の学習結果を用いて、入力データであるi番目の候補者の登録画像の照合を行う(S64)。そして、照合部9は、i番目の候補者の登録画像と照合画像の類似度Siを算出する(S65)。   Next, the secondary verification process will be described with reference to FIG. FIG. 11 is a flowchart showing the flow of secondary verification processing by the secondary verification unit 6. First, the secondary verification unit 6 substitutes 1 for the variable i (S60). Then, the image management unit 7 replaces the collation image with the registered image of the i-th candidate (S61). Next, the learning unit 8 performs a learning process using the face image after the replacement as learning data (S62). Then, the image management unit 7 passes the registered image of the i-th candidate as input data to the matching unit 9 (S63). The collation unit 9 collates the registered image of the i th candidate, which is input data, using the learning result (S64). Then, the matching unit 9 calculates the similarity Si between the registered image of the i-th candidate and the matching image (S65).

次に、全ての候補者について上記の処理が終わったか判定する。すなわち、変数iがnより小さいか否か判定する(S66)。変数iがnより小さい、すなわち、処理をしていない候補者が存在する場合(S66−YES)は、変数iをインクリメントして(S67)、次の候補者について上記の処理を繰り返す。   Next, it is determined whether the above processing has been completed for all candidates. That is, it is determined whether or not the variable i is smaller than n (S66). If the variable i is smaller than n, that is, there is a candidate who has not been processed (S66-YES), the variable i is incremented (S67), and the above processing is repeated for the next candidate.

n人の候補者全てについて上記の処理が完了した場合(S66−NO)は、判定部10は、類似度Siが最大の候補者を照合画像と一致する登録者であると判定する(S68)。   When the above processing is completed for all n candidates (S66-NO), the determination unit 10 determines that the candidate having the highest similarity Si is a registrant that matches the collation image (S68). .

このような構成によれば、一次照合によって照合対象者と一致する登録者にある程度絞り込みをかけ、二次照合によって一致する登録者を決定するので、照合精度の向上が見込める。特に、一次照合の結果として、複数の登録者の類似度(照合スコア)がいずれも高かった場合に、二次照合処理によって確認を行うことで、誤判別を減少させることが可能となる。   According to such a configuration, registrants that match the verification target person by primary verification are narrowed down to some extent, and registrants that match by secondary verification are determined, so that the verification accuracy can be improved. In particular, if the similarity (matching score) of a plurality of registrants is high as a result of the primary collation, it is possible to reduce misjudgment by performing confirmation by the secondary collation process.

(その他)
上記の説明では、顔照合装置に顔画像を入力する構成を採用したが、顔照合装置には照合に用いられる生体情報が入力されれば良い。したがって、照合に顔の特徴量を用いる場合には、顔照合装置に顔画像自体ではなく顔の特徴量が入力される構成を採用することも
できる。
(Other)
In the above description, a configuration is adopted in which a face image is input to the face matching device. However, it is only necessary that biometric information used for matching is input to the face matching device. Therefore, when a facial feature value is used for matching, a configuration in which a facial feature value is input to the face matching device instead of the face image itself may be employed.

また、上記の説明では、生体情報として顔画像を用いる顔照合装置について説明したが、本発明は顔照合のみに限定されるものではなく、顔画像以外にも、指紋、音声、静脈、網膜、虹彩またはそれらの特徴量などどのような生体情報を用いることができる。   In the above description, the face collation apparatus using the face image as the biometric information has been described. However, the present invention is not limited only to the face collation. In addition to the face image, the fingerprint, voice, vein, retina, Any biological information such as irises or their feature quantities can be used.

また、一次照合と二次照合とで生体情報が同一である必要はない。例えば一次照合に顔画像を利用し、二次照合に音声を利用してもよい。   In addition, the biometric information does not have to be the same between the primary verification and the secondary verification. For example, a face image may be used for primary verification, and voice may be used for secondary verification.

第1の実施形態に係る顔照合装置の機能ブロック例を示す図である。It is a figure which shows the example of a functional block of the face collation apparatus which concerns on 1st Embodiment. 第1の実施形態における一次照合処理の動作例を示すフローチャートである。It is a flowchart which shows the operation example of the primary collation process in 1st Embodiment. 第1の実施形態における二次照合処理の動作例を示すフローチャートである。It is a flowchart which shows the operation example of the secondary collation process in 1st Embodiment. 第1の実施形態における顔照合の方法を説明する概念図である。It is a conceptual diagram explaining the method of face collation in 1st Embodiment. 第2の実施形態における二次照合処理の動作例を示すフローチャートである。It is a flowchart which shows the operation example of the secondary collation process in 2nd Embodiment. 第2の実施形態における顔照合の方法を説明する概念図である。It is a conceptual diagram explaining the method of face collation in 2nd Embodiment. 第3の実施形態における顔照合の方法を説明する概念図である。It is a conceptual diagram explaining the method of face collation in 3rd Embodiment. 第3の実施形態における顔照合の方法を説明する概念図である。It is a conceptual diagram explaining the method of face collation in 3rd Embodiment. 第4の実施形態における二次照合処理の動作例を示すフローチャートである。It is a flowchart which shows the operation example of the secondary collation process in 4th Embodiment. 第5の実施形態における一次照合処理の動作例を示すフローチャートである。It is a flowchart which shows the operation example of the primary collation process in 5th Embodiment. 第5の実施形態における二次照合処理の動作例を示すフローチャートである。It is a flowchart which shows the operation example of the secondary collation process in 5th Embodiment.

符号の説明Explanation of symbols

1 顔照合装置
2 画像入力部
3 顔検出部
4 顔画像DB
5 一次照合部
6 二次照合部
7 画像管理部
8 学習部
9 照合部
10 判定部
DESCRIPTION OF SYMBOLS 1 Face collation apparatus 2 Image input part 3 Face detection part 4 Face image DB
5 Primary collation unit 6 Secondary collation unit 7 Image management unit 8 Learning unit 9 Collation unit 10 Determination unit

Claims (12)

複数の登録者の生体情報を格納する記憶手段と、
照合対象者の生体情報の入力を受け付ける入力手段と、
前記照合対象者の生体情報と前記記憶手段に格納されている生体情報とを照合し、前記照合対象者と類似する登録者を選択する一次照合手段と、
一次照合手段によって選択された登録者と前記照合対象者の生体情報を入れ替えて照合を行う二次照合手段と、
前記一次照合手段と前記二次照合手段の照合結果に基づいて、前記照合対象者と一致する登録者を決定する判定手段と、
を有することを特徴とする照合装置。
Storage means for storing biometric information of a plurality of registrants;
Input means for accepting input of biometric information of the person to be verified;
Primary collation means for collating the biometric information of the person to be collated with the biometric information stored in the storage means, and selecting a registrant similar to the person to be collated;
Secondary collation means for performing collation by exchanging biometric information of the registrant selected by the primary collation means and the person to be collated;
A determination unit that determines a registrant that matches the verification target person based on a verification result of the primary verification unit and the secondary verification unit;
The collation apparatus characterized by having.
前記一次照合手段は、照合対象者と最も類似する登録者を選択し、
前記判定手段は、前記二次照合手段の照合結果が前記照合対象者である場合に、前記一次照合手段によって選択された登録者を、前記照合対象者と一致する登録者として決定する
ことを特徴とする請求項1に記載の照合装置。
The primary verification means selects a registrant that is most similar to the verification target person,
The determination unit determines a registrant selected by the primary verification unit as a registrant that matches the verification target person when the verification result of the secondary verification unit is the verification target person. The collation apparatus according to claim 1.
前記一次照合手段は、所定の閾値以上の類似度を有する複数の登録者を選択し、
前記二次照合手段は、前記一次照合手段によって選択された複数の登録者のそれぞれについて、前記照合対象者の生体情報と入れ替えた照合を行い、
前記判定手段は、前記二次照合手段による照合において前記照合対象者との類似度が最も高いと判定された登録者を、前記照合対象者と一致する登録者として決定する
ことを特徴とする請求項1に記載の照合装置。
The primary collation means selects a plurality of registrants having a similarity equal to or higher than a predetermined threshold,
The secondary verification unit performs verification for each of a plurality of registrants selected by the primary verification unit with the biometric information of the verification target person,
The determination means determines a registrant determined as having the highest similarity to the verification target person in the verification by the secondary verification means as a registrant that matches the verification target person. Item 4. The verification device according to item 1.
前記二次照合手段による照合は、1対N照合であることを特徴とする請求項1〜3のいずれかに記載の照合装置。   The collation apparatus according to claim 1, wherein the collation by the secondary collation unit is a one-to-N collation. 前記二次照合手段による照合は、1対1照合であることを特徴とする請求項1〜3のいずれかに記載の照合装置。   The collation apparatus according to claim 1, wherein the collation by the secondary collation unit is a one-to-one collation. 前記記憶手段は、登録者一人あたりに生体情報を複数格納しており、
前記二次照合手段は、前記一次照合手段によって選択された登録者の複数の生体情報のうち、照合対象者の生体情報との類似度が最も高い生体情報のみを入れ替えて照合する
ことを特徴とする請求項1〜5のいずれかに記載の照合装置。
The storage means stores a plurality of biometric information per registrant,
The secondary collating means replaces and collates only the biometric information having the highest degree of similarity with the biometric information of the person to be collated among the plurality of biometric information of the registrant selected by the primary collating means. The collation apparatus in any one of Claims 1-5.
前記記憶手段は、登録者一人あたりに生体情報を複数格納しており、
前記二次照合手段は、前記一次照合手段によって選択された登録者の複数の生体情報のそれぞれについて、前記照合対象者の生体情報と入れ替えて照合し、
前記判定手段は、前記二次照合手段による最も類似度の高い照合結果に基づいて、前記照合対象者と一致する登録者を決定する
ことを特徴とする請求項1〜5のいずれかに記載の照合装置。
The storage means stores a plurality of biometric information per registrant,
The secondary collating unit collates each of the plurality of biometric information of the registrant selected by the primary collating unit with the biometric information of the verification target person,
The said determination means determines the registrant who corresponds with the said collation subject person based on the collation result with the highest similarity by the said secondary collation means. The Claim 1 characterized by the above-mentioned. Verification device.
前記記憶手段は、登録者一人あたりに生体情報を複数格納しており、
前記二次照合手段は、前記一次照合手段によって選択された登録者の複数の生体情報のそれぞれについて、前記照合対象者の生体情報と入れ替えて照合し、
前記判定手段は、前記二次照合手段による複数の照合結果の平均に基づいて、前記照合対象者と一致する登録者を決定する
ことを特徴とする請求項1〜5のいずれかに記載の照合装置。
The storage means stores a plurality of biometric information per registrant,
The secondary collating unit collates each of the plurality of biometric information of the registrant selected by the primary collating unit with the biometric information of the verification target person,
The collation according to claim 1, wherein the determination unit determines a registrant that matches the collation target person based on an average of a plurality of collation results by the secondary collation unit. apparatus.
前記生体情報は顔画像であることを特徴とする請求項1〜8のいずれかに記載の照合装置。   The collation apparatus according to claim 1, wherein the biological information is a face image. 前記一次照合手段は顔全体を対象として照合し、
前記二次照合手段は顔の一部の器官のみを対象として照合する
ことを特徴とする請求項9に記載の照合装置。
The primary verification means performs verification for the entire face,
The collation apparatus according to claim 9, wherein the secondary collation unit collates only a part of an organ of a face.
情報処理装置が、
複数の登録者の生体情報を格納する記憶ステップと、
照合対象者の生体情報の入力を受け付ける入力ステップと、
前記照合対象者の生体情報と前記登録者の生体情報とを照合し、前記照合対象者と類似する登録者を選択する一次照合ステップと、
一次照合ステップにおいて選択された登録者と前記照合対象者の生体情報を入れ替えて照合を行う二次照合ステップと、
前記一次照合ステップと前記二次照合ステップの照合結果に基づいて、前記照合対象者と一致する登録者を決定する判定ステップと、
を実行することを特徴とする照合方法。
Information processing device
A storage step for storing biometric information of a plurality of registrants;
An input step for receiving input of biometric information of the person to be verified;
A primary collation step of collating the biometric information of the person to be collated with the biometric information of the registrant and selecting a registrant similar to the person to be collated;
A secondary collation step of performing collation by exchanging the biometric information of the registrant selected in the primary collation step and the collation subject;
A determination step of determining a registrant that matches the verification target person based on the verification result of the primary verification step and the secondary verification step;
The verification method characterized by performing.
情報処理装置に対して、
複数の登録者の生体情報を格納する記憶ステップと、
照合対象者の生体情報の入力を受け付ける入力ステップと、
前記照合対象者の生体情報と前記登録者の生体情報とを照合し、前記照合対象者と類似する登録者を選択する一次照合ステップと、
一次照合ステップにおいて選択された登録者と前記照合対象者の生体情報を入れ替えて照合を行う二次照合ステップと、
前記一次照合ステップと前記二次照合ステップの照合結果に基づいて、前記照合対象者と一致する登録者を決定する判定ステップと、
を実行させることを特徴とする照合プログラム。
For information processing equipment
A storage step for storing biometric information of a plurality of registrants;
An input step for receiving input of biometric information of the person to be verified;
A primary collation step of collating the biometric information of the person to be collated with the biometric information of the registrant and selecting a registrant similar to the person to be collated;
A secondary collation step for performing collation by exchanging biometric information of the registrant selected in the primary collation step and the collation target person;
A determination step of determining a registrant that matches the verification target person based on the verification result of the primary verification step and the secondary verification step;
The collation program characterized by performing.
JP2007096288A 2007-04-02 2007-04-02 Collating device Withdrawn JP2008257327A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007096288A JP2008257327A (en) 2007-04-02 2007-04-02 Collating device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007096288A JP2008257327A (en) 2007-04-02 2007-04-02 Collating device

Publications (1)

Publication Number Publication Date
JP2008257327A true JP2008257327A (en) 2008-10-23

Family

ID=39980866

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007096288A Withdrawn JP2008257327A (en) 2007-04-02 2007-04-02 Collating device

Country Status (1)

Country Link
JP (1) JP2008257327A (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012017589A1 (en) * 2010-08-05 2012-02-09 パナソニック株式会社 Face image registration device and method
JP2013134735A (en) * 2011-12-27 2013-07-08 Canon Inc Object recognition device and dictionary data registration method
JP2013235492A (en) * 2012-05-10 2013-11-21 Hitachi Omron Terminal Solutions Corp Authentication device and authentication method
CN111989689A (en) * 2018-03-16 2020-11-24 识别股份有限公司 Method for identifying objects within an image and mobile device for performing the method
WO2022224639A1 (en) * 2021-04-23 2022-10-27 オムロン株式会社 Object recognition device and method for controlling object recognition device
WO2023074229A1 (en) * 2021-11-01 2023-05-04 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ Information processing method, information processing device, and information processing program

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012017589A1 (en) * 2010-08-05 2012-02-09 パナソニック株式会社 Face image registration device and method
JP2012037995A (en) * 2010-08-05 2012-02-23 Panasonic Corp Face image registration device and method
US9092660B2 (en) 2010-08-05 2015-07-28 Panasonic Intellectual Property Management Co., Ltd. Face image registration device and method
JP2013134735A (en) * 2011-12-27 2013-07-08 Canon Inc Object recognition device and dictionary data registration method
JP2013235492A (en) * 2012-05-10 2013-11-21 Hitachi Omron Terminal Solutions Corp Authentication device and authentication method
CN111989689A (en) * 2018-03-16 2020-11-24 识别股份有限公司 Method for identifying objects within an image and mobile device for performing the method
JP2021517330A (en) * 2018-03-16 2021-07-15 アイデンティー インコーポレイテッド A method for identifying an object in an image and a mobile device for carrying out the method.
US11508184B2 (en) 2018-03-16 2022-11-22 Identy Inc. Method for identifying an object within an image and mobile device for executing the method
JP7386545B2 (en) 2018-03-16 2023-11-27 アイデンティー インコーポレイテッド Method for identifying objects in images and mobile device for implementing the method
WO2022224639A1 (en) * 2021-04-23 2022-10-27 オムロン株式会社 Object recognition device and method for controlling object recognition device
WO2023074229A1 (en) * 2021-11-01 2023-05-04 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ Information processing method, information processing device, and information processing program

Similar Documents

Publication Publication Date Title
Abozaid et al. Multimodal biometric scheme for human authentication technique based on voice and face recognition fusion
Rodrigues et al. Robustness of multimodal biometric fusion methods against spoof attacks
US7356168B2 (en) Biometric verification system and method utilizing a data classifier and fusion model
Monwar et al. Multimodal biometric system using rank-level fusion approach
Modak et al. Multibiometric fusion strategy and its applications: A review
JP5017873B2 (en) Personal verification device and personal verification method
US9684850B2 (en) Biological information processor
US8856541B1 (en) Liveness detection
Tsai et al. Interactive artificial bee colony supported passive continuous authentication system
US8611618B2 (en) Apparatus and method for generating representative fingerprint template
Alonso-Fernandez et al. Quality-based conditional processing in multi-biometrics: application to sensor interoperability
JP2008257327A (en) Collating device
CN110647955A (en) Identity authentication method
EP1395946A1 (en) Personal identity verification process and system
Soltane et al. Multi-modal biometric authentications: concept issues and applications strategies
Rai et al. Automated biometric personal identification-techniques and applications
Lau et al. Fuzzy logic decision fusion in a multimodal biometric system
Hassan et al. Fusion of face and fingerprint for robust personal verification system
JP4887966B2 (en) Verification device
CN114519898A (en) Biological characteristic multi-mode fusion recognition method and device, storage medium and equipment
Teoh et al. Nearest neighbourhood classifiers in a bimodal biometric verification system fusion decision scheme
Tovarek et al. Human abnormal behavior impact on speaker verification systems
Jung et al. Live-scanned fingerprint classification with markov models modified by GA
JP2005275605A (en) Personal identification device and method
Gofman et al. Quality-based score-level fusion for secure and robust multimodal biometrics-based authentication on consumer mobile devices

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20100706