JP6360304B2 - Authentication database management method, authentication database management apparatus, and authentication database management program - Google Patents

Authentication database management method, authentication database management apparatus, and authentication database management program Download PDF

Info

Publication number
JP6360304B2
JP6360304B2 JP2013272615A JP2013272615A JP6360304B2 JP 6360304 B2 JP6360304 B2 JP 6360304B2 JP 2013272615 A JP2013272615 A JP 2013272615A JP 2013272615 A JP2013272615 A JP 2013272615A JP 6360304 B2 JP6360304 B2 JP 6360304B2
Authority
JP
Japan
Prior art keywords
image data
identification information
authentication
registered
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013272615A
Other languages
Japanese (ja)
Other versions
JP2015127853A (en
JP2015127853A5 (en
Inventor
拓明 夏見
拓明 夏見
二見 聡
聡 二見
央智 牛島
央智 牛島
淳希 秋元
淳希 秋元
裕介 中▲崎▼
裕介 中▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SOHGO SECURITY SERVICES CO.,LTD.
Original Assignee
SOHGO SECURITY SERVICES CO.,LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SOHGO SECURITY SERVICES CO.,LTD. filed Critical SOHGO SECURITY SERVICES CO.,LTD.
Priority to JP2013272615A priority Critical patent/JP6360304B2/en
Publication of JP2015127853A publication Critical patent/JP2015127853A/en
Publication of JP2015127853A5 publication Critical patent/JP2015127853A5/ja
Application granted granted Critical
Publication of JP6360304B2 publication Critical patent/JP6360304B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)

Description

この発明は、カメラ等の撮像装置で撮像された画像データから切り出された利用者の部分画像データ(例えば、顔部分を含む部分画像データ。以下、「顔画像データ」と言う)を該利用者の利用者識別情報(以下、「利用者ID」と言う)と対応付けて管理する認証データベース管理方法、認証データベース管理装置及び認証データベース管理プログラムに関する。   According to the present invention, partial image data (for example, partial image data including a face portion) extracted from image data captured by an imaging device such as a camera is used. The present invention relates to an authentication database management method, an authentication database management apparatus, and an authentication database management program that are managed in association with user identification information (hereinafter referred to as “user ID”).

従来、認証対象者となる利用者に対して会員証や社員証などのIDカード(Identity Card)を発行しておき、各利用者の入退室時にIDカードに記録した利用者IDをリーダライタで読み取って個人認証を行う個人認証システムが知られている。また、かかるIDカードの偽造等の不正に対応するために、利用者の指紋等を用いて個人認証を行う個人認証技術も知られている。   Conventionally, ID cards (Identity Cards) such as membership cards and employee ID cards have been issued to users who are subject to authentication, and the user ID recorded on the ID card at the time of each user's entry / exit is read with a reader / writer. A personal authentication system that performs personal authentication by reading is known. Also, a personal authentication technique for performing personal authentication using a user's fingerprint or the like is known in order to deal with fraud such as forgery of the ID card.

ところが、上記個人認証技術を用いる場合には、利用者を認証する度に該利用者を静止させて指紋等を採取しなければならず、利用者の利便性の観点から見て好ましくない。このため、最近では、歩行する利用者を静止させなくとも個人認証を行うことができる顔認証技術が注目されている。例えば、特許文献1には、あらかじめ利用者の顔画像データの特徴量を辞書情報として登録しておき、歩行中の利用者がカメラに近づく際に、該カメラで利用者の顔部分を撮像して顔画像データを取得し、取得した利用者の顔画像データの特徴量と辞書情報の内容とを照合して利用者の顔認証を行う技術が開示されている。   However, when the above personal authentication technology is used, every time a user is authenticated, the user must be stopped and a fingerprint or the like must be collected, which is not preferable from the viewpoint of user convenience. For this reason, recently, face authentication technology that can perform personal authentication without stopping a walking user has attracted attention. For example, in Patent Document 1, the feature amount of the user's face image data is registered as dictionary information in advance, and when the walking user approaches the camera, the user's face portion is captured by the camera. A technique is disclosed in which face image data is acquired, and the user's face authentication is performed by comparing the feature amount of the acquired user's face image data with the contents of dictionary information.

しかし、この特許文献1に代表される従来の顔認証システムによれば、あらかじめ利用者の顔画像データを顔認証データベースに登録しなければならないため、利用者自身及び顔認証データベースの作業者に負担を強いる結果となる。顔部分を撮像した顔画像データを顔認証データベースに登録する時間が利用者及び作業者に必要であり、また作業者が該顔画像データを手動で編集する必要が生じるからである。特に、人の顔は経年変化する性質があるため、定期的に上記負担が生ずる。   However, according to the conventional face authentication system represented by this Patent Document 1, since the user's face image data must be registered in the face authentication database in advance, it is a burden on the user himself and the face authentication database operator. Result. This is because it takes time for the user and the operator to register the face image data obtained by capturing the face portion in the face authentication database, and the operator needs to manually edit the face image data. In particular, since the human face has the property of changing over time, the above-mentioned burden is periodically generated.

このため、特許文献2では、出入口の近くにカードリーダ及びカメラを設置しておき、利用者IDが付与されたIDカードがカードリーダで読み込まれた際に、該カメラに映っている人物の顔画像データを利用者IDに関連づけて顔認証データベースに自動登録するように構成した入退室管理装置が開示されている。この特許文献2を用いると、初回のみ利用者の顔画像データを利用者IDに関連づけて登録しておけば、2回目以降はIDカードの読取操作を行わなくとも出入口を通過することができる。また、利用者の顔画像データが顔認証データベースに自動登録されるため、利用者及び作業者の負担を軽減することができる。   For this reason, in Patent Document 2, when a card reader and a camera are installed near the entrance and an ID card to which a user ID is assigned is read by the card reader, the face of the person reflected in the camera An entrance / exit management device configured to automatically register image data in a face authentication database in association with a user ID is disclosed. If this patent document 2 is used, if face image data of a user is registered in association with a user ID only for the first time, the user can pass through the doorway without performing an ID card reading operation for the second and subsequent times. In addition, since the user's face image data is automatically registered in the face authentication database, the burden on the user and the operator can be reduced.

特開2009−104599号公報JP 2009-104599 A 特開2005−146709号公報JP 2005-146709 A

しかしながら、上記特許文献2に代表される従来技術を用いた場合には、他人の顔が誤って登録される誤登録の問題が生ずる。例えば、IDカードの読取り時に、カメラに複数の人物が映っていると、本来の利用者とは別の人物の顔画像データを利用者IDに関連づけてしまい、誤登録の原因となる。   However, when the conventional technique represented by the above-mentioned Patent Document 2 is used, there arises a problem of erroneous registration in which the face of another person is erroneously registered. For example, when a plurality of persons appear on the camera when reading an ID card, the face image data of a person different from the original user is associated with the user ID, which may cause erroneous registration.

このように誤登録された顔画像データが認証時に使用されると、誤認証の原因となり、認証精度の低下を引き起こす要因となる。誤登録を避けるため、登録の条件を厳しくすることも考えられるが、登録の条件を厳しくすると、登録される顔画像データが少なくなるので、データベースの構築が遅くなる。すなわち、登録の条件の厳しさは、データベースの構築速度と誤登録のリスクとがトレードオフの関係となるため、一意に定めることが困難であった。   If the misregistered face image data is used at the time of authentication, it causes misauthentication and causes a decrease in authentication accuracy. In order to avoid erroneous registration, it may be possible to tighten the registration conditions. However, if the registration conditions are tightened, the face image data to be registered is reduced, so that the database construction is delayed. That is, it is difficult to uniquely determine the severity of registration conditions because the database construction speed and the risk of erroneous registration have a trade-off relationship.

さらに、条件を厳しくしたとしても、他人顔の誤登録を完全に排除することは困難である。そして、一旦誤登録が発生すると、従来の技術では、誤登録された顔画像データは管理者が手動で削除せねばならないため、大きな作業負担となっていた。   Furthermore, even if the conditions are stricter, it is difficult to completely eliminate misregistration of another person's face. Once erroneous registration occurs, the prior art has a large work load because the administrator must manually delete the erroneously registered face image data.

これらのことから、認証データベースを構築する場合に、誤登録の問題をいかにして解消するかが重要な課題となっていた。   For these reasons, when constructing an authentication database, how to eliminate the problem of erroneous registration has become an important issue.

本発明は、上述した従来技術の課題を解消するためになされたものであって、認証データベースにおける誤登録の問題を解消することができる認証データベース管理方法、認証データベース管理装置及び認証データベース管理プログラムを提供することを目的とする。   The present invention has been made to solve the above-described problems of the prior art, and provides an authentication database management method, an authentication database management device, and an authentication database management program capable of solving the problem of erroneous registration in an authentication database. The purpose is to provide.

上述した課題を解決し、目的を達成するため、請求項1に記載の発明は、利用者を一意に識別する利用者識別情報と、利用者の登録画像データとを関連づけて記憶する認証データベースを管理する認証データベース管理方法であって、前記利用者識別情報を取得する利用者識別情報取得ステップと、前記利用者識別情報取得ステップにより取得された利用者識別情報である取得識別情報を用い、当該取得識別情報に前記登録画像データとともに関連付けられ、前記登録画像データの登録状態の評価を示す成熟度を前記認証データベースから取得する成熟度取得ステップと、撮像装置により撮像された入力画像データと前記認証データベースに記憶された登録画像データとを照合処理し、前記入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する画像認証ステップと、少なくとも前記成熟度を用い、当該成熟度の値によっては前記画像認証識別情報と前記取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、前記入力画像データを新たな登録顔画像データとして前記取得識別情報に関連付けて登録することで前記認証データベースを更新するデータベース更新ステップとを含んだことを特徴とする。 In order to solve the above-described problems and achieve the object, an invention according to claim 1 is an authentication database that stores user identification information for uniquely identifying a user and registered image data of the user in association with each other. An authentication database management method for managing, using a user identification information acquisition step for acquiring the user identification information, and an acquisition identification information that is a user identification information acquired by the user identification information acquisition step, A maturity level acquisition step of acquiring from the authentication database a maturity level that is associated with the acquired identification information together with the registered image data and indicates an evaluation of a registration state of the registered image data; The registered image data stored in the database is collated to correspond to the registered image data similar to the input image data. And image authentication step of outputting the user identity that is as image authentication identifying information, using at least the maturity, further use of the result of comparison between the acquired identification information and the image authentication identification information by the maturity value A database update step of updating the authentication database by registering the input image data as new registered face image data in association with the acquired identification information when a predetermined condition is satisfied. .

また、請求項2に記載の発明は、請求項1に記載の発明において、前記データベース更新ステップは、前記取得識別情報の成熟度が第1の成熟度閾値から第2の成熟度閾値の範囲内であり、前記取得識別情報と前記画像認証識別情報とが一致する場合には、前記入力画像データを新たな登録顔画像データとして登録し、前記取得識別情報の成熟度が第1の成熟度閾値から第2の成熟度閾値の範囲内であり、前記取得識別情報と前記画像認証識別情報とが不一致である場合には、前記入力画像データと前記登録画像データとの類似度が類似度閾値以下であることを条件に、前記入力画像データを新たな登録顔画像データとして登録することを特徴とするThe invention according to claim 2 is the invention according to claim 1, wherein in the database update step, the maturity of the acquired identification information is within a range from a first maturity threshold to a second maturity threshold. If the acquired identification information matches the image authentication identification information, the input image data is registered as new registered face image data, and the maturity level of the acquired identification information is a first maturity threshold value. In the range of the second maturity threshold and the acquired identification information and the image authentication identification information do not match, the similarity between the input image data and the registered image data is equal to or less than the similarity threshold The input image data is registered as new registered face image data on the condition that

また、請求項3に記載の発明は、請求項2に記載の発明において、前記データベース更新ステップは、前記取得識別情報の成熟度が前記第2の成熟度閾値以下である場合には、前記画像認証識別情報と前記取得識別情報とが一致するか否かに関わらず、前記入力画像データを前記取得識別情報に関連づけて新たな登録画像データとして登録することを特徴とする。
Further, in the invention described in claim 3, in the invention described in claim 2 , in the database update step, when the maturity level of the acquired identification information is equal to or less than the second maturity threshold value, the image is updated. Regardless of whether or not the authentication identification information matches the acquired identification information, the input image data is registered as new registered image data in association with the acquired identification information.

また、請求項4に記載の発明は、請求項2〜3のいずれか一つに記載の発明において、前記データベース更新ステップは、前記取得識別情報の成熟度が前記第1の成熟度閾値より大きい場合には、前記取得識別情報と前記画像認証識別情報とが一致し、かつ前記入力画像データと前記登録画像データとの類似度が類似度閾値よりも大きいことを条件に、前記入力画像データの登録を行うことを特徴とする。 The invention according to claim 4 is the invention according to any one of claims 2 to 3, wherein in the database update step, the maturity of the acquired identification information is larger than the first maturity threshold. In the case, the acquired identification information and the image authentication identification information match, and the similarity between the input image data and the registered image data is greater than a similarity threshold value. It is characterized by registration.

また、請求項5に記載の発明は、請求項1〜4のいずれか一つに記載の発明において、前記成熟度は、前記登録画像データの登録実績並びに/若しくは認証における使用実績を用いて算出された評価値であることを特徴とする。 The invention according to claim 5 is the invention according to any one of claims 1 to 4 , wherein the maturity is calculated using a registration record of the registered image data and / or a use record in authentication. It is characterized by being evaluated value.

また、請求項6に記載の発明は、請求項1〜5のいずれか一つに記載の発明において、前記認証データベースは、前記利用者の顔部分の画像を登録画像データとして記憶し、前記画像認証ステップは、前記撮像装置により撮像された画像から顔部分を検出した部分画像を前記入力画像データとして用いることを特徴とする。 The invention according to claim 6 is the invention according to any one of claims 1 to 5 , wherein the authentication database stores an image of the face portion of the user as registered image data, and the image The authentication step uses a partial image obtained by detecting a face portion from an image captured by the imaging device as the input image data.

また、請求項7に記載の発明は、請求項6に記載の発明において、前記画像認証ステップは、移動中の人物を前記撮像装置が連続的に撮像した複数の画像からそれぞれ前記入力画像データを検出することを特徴とする。 Further, in the invention according to claim 7 , in the invention according to claim 6 , in the image authentication step, the input image data is respectively obtained from a plurality of images obtained by the imaging device continuously imaging a moving person. It is characterized by detecting.

また、請求項8に記載の発明は、請求項1〜7のいずれか一つに記載の発明において、前記利用者識別情報取得ステップは、所定の記録媒体から前記利用者識別情報を読み出して取得することを特徴とする。 The invention according to claim 8 is the invention according to any one of claims 1 to 7 , wherein the user identification information acquisition step reads and acquires the user identification information from a predetermined recording medium. It is characterized by doing.

また、請求項9に記載の発明は、利用者を一意に識別する利用者識別情報と、利用者の登録画像データとを関連づけて記憶する認証データベースを管理する認証データベース管理装置であって、前記認証データベースは、前記利用者識別情報に前記登録画像データの登録状態の評価を示す成熟度をさらに関連付けて管理し、前記利用者識別情報を取得する利用者識別情報取得手段と、撮像装置により撮像された入力画像データと前記認証データベースに記憶された登録画像データとを照合処理し、前記入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する画像認証手段と、前記利用者識別情報取得手段により取得された利用者識別情報である取得識別情報に関連付けられた成熟度を少なくとも用い、当該成熟度の値によっては前記画像認証識別情報と前記取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、前記入力画像データを新たな登録顔画像データとして前記取得識別情報に関連付けて登録することで前記認証データベースを更新するデータベース更新手段とを備えたことを特徴とする。 Further, an invention according to claim 9, comprising an authentication database management apparatus which manages uniquely identifying user identification information user, the authentication database in association with the registered image data of a user, wherein The authentication database manages the maturity indicating the evaluation of the registration state of the registered image data in association with the user identification information , and manages the user identification information acquiring means for acquiring the user identification information, and imaging by the imaging device An image for collating the inputted image data and the registered image data stored in the authentication database and outputting user identification information associated with the registered image data similar to the input image data as image authentication identification information authentication means, the maturity associated with the acquired identification information is user identification information acquired by said user identifying information acquisition means small Ku and also used, the case by the maturity value satisfies a predetermined condition using further result of comparison between the acquired identification information and the image authentication identification information, the input image data as a new registered face image data Database updating means for updating the authentication database by registering in association with acquired identification information is provided.

また、請求項10に記載の発明は、利用者を一意に識別する利用者識別情報と、利用者の登録画像データとを関連づけて記憶する認証データベースを管理する認証データベース管理プログラムであって、前記利用者識別情報を取得する利用者識別情報取得手順と、前記利用者識別情報取得手順により取得された利用者識別情報である取得識別情報を用い、当該取得識別情報に前記登録画像データとともに関連付けられ、前記登録画像データの登録状態の評価を示す成熟度を前記認証データベースから取得する成熟度取得手順と、撮像装置により撮像された入力画像データと前記認証データベースに記憶された登録画像データとを照合処理し、前記入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する画像認証手順と、少なくとも前記成熟度を用い、当該成熟度の値によっては前記画像認証識別情報と前記取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、前記入力画像データを新たな登録顔画像データとして前記取得識別情報に関連付けて登録することで前記認証データベースを更新するデータベース更新手順とをコンピュータに実行させることを特徴とする。 The invention according to claim 10 is an authentication database management program for managing an authentication database for storing user identification information for uniquely identifying a user and registered image data of the user in association with each other. The user identification information acquisition procedure for acquiring the user identification information and the acquisition identification information that is the user identification information acquired by the user identification information acquisition procedure are used together with the registered image data. The maturity acquisition procedure for acquiring the maturity indicating the evaluation of the registration state of the registered image data from the authentication database and the input image data captured by the imaging device and the registered image data stored in the authentication database are collated Process the user identification information associated with the registered image data similar to the input image data into the image authentication identification information And image authentication procedure for and outputting, using at least the maturity, the case by the maturity value satisfies a predetermined condition using further result of comparison between the acquired identification information and the image authentication identification information, wherein The computer is caused to execute a database update procedure for updating the authentication database by registering the input image data as new registered face image data in association with the acquired identification information .

本発明によれば、利用者識別情報を取得識別情報として取得して、取得識別情報に対する登録画像データの登録状態の評価を示す成熟度を取得するとともに、撮像装置により撮像された入力画像データと認証データベースに記憶された登録画像データとを照合処理し、入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する。そして、少なくとも成熟度を用い、当該成熟度の値によっては画像認証識別情報と取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、入力画像データを新たな登録顔画像データとして取得識別情報に関連付けて登録することで認証データベースを更新する。かかる構成により、誤登録の問題を解消することができる。
According to the present invention, the user identification information is acquired as the acquisition identification information, the maturity indicating the evaluation of the registration state of the registered image data with respect to the acquisition identification information is acquired, and the input image data captured by the imaging device The registered image data stored in the authentication database is collated, and user identification information associated with registered image data similar to the input image data is output as image authentication identification information. When at least a maturity level is used and a predetermined condition for further using the comparison result between the image authentication identification information and the acquired identification information is satisfied depending on the value of the maturity level , the input image data is set as new registered face image data. The authentication database is updated by registering in association with the acquired identification information . With this configuration, the problem of erroneous registration can be solved.

図1は、実施例1に係る顔画像データの追加登録について説明するための説明図である。FIG. 1 is an explanatory diagram for explaining additional registration of face image data according to the first embodiment. 図2は、実施例1に係る入退室管理装置の内部構成を示すブロック図である。FIG. 2 is a block diagram illustrating an internal configuration of the entrance / exit management device according to the first embodiment. 図3は、図2に示した入退室管理装置の記憶部が記憶するデータを説明するための説明図である。FIG. 3 is an explanatory diagram for explaining data stored in the storage unit of the entry / exit management device shown in FIG. 2. 図4は、図2に示した入退室管理装置による追加登録の処理手順を示すフローチャートである。FIG. 4 is a flowchart showing a process procedure of additional registration by the entrance / exit management device shown in FIG. 図5は、図2に示した入退室管理装置によるゲート制御の処理手順を示すフローチャートである。FIG. 5 is a flowchart showing a gate control processing procedure performed by the entrance / exit management device shown in FIG. 図6は、実施例2に係る誤登録された登録顔画像データの削除について説明するための説明図である。FIG. 6 is an explanatory diagram for explaining deletion of erroneously registered registered face image data according to the second embodiment. 図7は、実施例2に係る入退室管理装置の内部構成を示すブロック図である。FIG. 7 is a block diagram illustrating an internal configuration of the entrance / exit management device according to the second embodiment. 図8は、図7に示した入退室管理装置の記憶部が記憶するデータを説明するための説明図である。FIG. 8 is an explanatory diagram for explaining data stored in the storage unit of the entry / exit management device shown in FIG. 7. 図9は、削除の連鎖が起きないケースについて説明するための説明図である。FIG. 9 is an explanatory diagram for explaining a case where no deletion chain occurs. 図10は、削除の連鎖が起きるケースについて説明するための説明図である。FIG. 10 is an explanatory diagram for explaining a case in which a deletion chain occurs. 図11は、図7に示した入退室管理装置による誤登録データ削除の処理手順を示すフローチャートである。FIG. 11 is a flowchart showing a processing procedure for deleting erroneous registration data by the entrance / exit management device shown in FIG.

以下に、添付図面を参照して、本発明に係る認証データベース管理方法、認証データベース管理装置及び認証データベース管理プログラムの好適な実施例を詳細に説明する。以下に示す実施例1及び2では、本発明に係る認証データベース管理方法、認証データベース管理装置及び認証データベース管理プログラムを入退室管理装置に適用した場合について説明する。   Exemplary embodiments of an authentication database management method, an authentication database management apparatus, and an authentication database management program according to the present invention will be described below in detail with reference to the accompanying drawings. In the following first and second embodiments, a case where the authentication database management method, the authentication database management device, and the authentication database management program according to the present invention are applied to an entrance / exit management device will be described.

本実施例1では、カードからのIDの読み取りと、画像認証とを用いた顔画像データの追加登録について説明する。図1は、本実施例1に係る顔画像データの追加登録について説明するための説明図である。   In the first embodiment, additional registration of face image data using ID reading from a card and image authentication will be described. FIG. 1 is an explanatory diagram for explaining additional registration of face image data according to the first embodiment.

まず、入退室管理の対象となるゲート装置30の前にはカードリーダ10が設置されている。また、ゲート装置30及びカードリーダ10に近づく人物を撮像可能な位置にカメラ20が設置されている。   First, the card reader 10 is installed in front of the gate device 30 that is subject to entrance / exit management. The camera 20 is installed at a position where a person approaching the gate device 30 and the card reader 10 can be imaged.

図1に示すように、予め登録された利用者がカードリーダ10に接近し、IDカードをカードリーダ10にかざすと、カードリーダ10は、IDカードから利用者IDを読み出す。図1では、読み出した利用者IDが「0001」である場合を示している。   As shown in FIG. 1, when a user registered in advance approaches the card reader 10 and holds the ID card over the card reader 10, the card reader 10 reads the user ID from the ID card. FIG. 1 shows a case where the read user ID is “0001”.

また、カメラ20は、カードリーダ10に接近する利用者を連続的に撮像する。入退室管理装置40は、カメラ20の出力を用い、撮像タイミングの異なる複数の画像からそれぞれ顔画像を検出する。   The camera 20 continuously captures images of users approaching the card reader 10. The entrance / exit management device 40 uses the output of the camera 20 to detect face images from a plurality of images with different imaging timings.

入退室管理装置40は、検出した顔画像を入力顔画像データとし、顔認証データベース42aを用いて認証処理を行う。顔認証データベース42aは、利用者IDに対し、成熟度や登録顔画像データ等を関連づけたデータベースである。   The entrance / exit management device 40 uses the detected face image as input face image data, and performs an authentication process using the face authentication database 42a. The face authentication database 42a is a database in which the maturity level and registered face image data are associated with the user ID.

成熟度は、利用者IDに対する登録顔画像データの登録状態を評価した評価値である。この成熟度は、登録顔画像データの登録実績(登録数、登録回数等)や、認証における使用実績等を用いて算出する。例えば、登録顔画像データの登録数が、利用者IDに対して定められた上限数の10%未満である場合には成熟度「C」、10%以上30%未満である場合には成熟度「B」、30%以上である場合には成熟度「A」とする。以下の説明では、利用者IDに関連づけられた成熟度を「利用者IDの成熟度」という。   The maturity level is an evaluation value obtained by evaluating the registration state of the registered face image data for the user ID. This maturity level is calculated by using the registration results of registered face image data (the number of registrations, the number of registrations, etc.) and the use results in authentication. For example, when the registered number of registered face image data is less than 10% of the upper limit number determined for the user ID, the maturity is “C”, and the maturity is 10% or more and less than 30%. When “B” is 30% or more, the maturity is “A”. In the following description, the maturity level associated with the user ID is referred to as a “user ID maturity level”.

認証処理では、顔認証データベース42aに登録された登録顔画像データの各々と入力顔画像データとを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとする。   In the authentication process, each registered face image data registered in the face authentication database 42a is collated with the input face image data, and the user ID of the registered face image data having the highest similarity is set as the authentication ID.

入退室管理装置40は、カードリーダ10により読み取った利用者IDと認証IDとが一致するか否かを判定し、その判定結果に基づいて入力顔画像データを登録顔画像データとして追加登録するか否かを決定する。   The entrance / exit management device 40 determines whether or not the user ID read by the card reader 10 matches the authentication ID, and whether to additionally register the input face image data as registered face image data based on the determination result. Decide whether or not.

追加登録の基準は、登録処理テーブル42bにより規定されている。具体的には、読み取った利用者IDの成熟度が「A」であれば、読み取った利用者IDと認証IDとが一致し、かつ、認証時の類似度が所定の閾値(第1の登録閾値)以上である場合にのみ、入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。   The criteria for additional registration are defined by the registration processing table 42b. Specifically, if the maturity of the read user ID is “A”, the read user ID matches the authentication ID, and the similarity at the time of authentication is a predetermined threshold (first registration) Only when it is equal to or greater than (threshold), additional registration is performed as registered face image data of the user ID that has read the input face image data.

読み取った利用者IDの成熟度が「B」であれば、読み取った利用者IDと認証IDとが一致した場合には、認証時の類似度に関わらず入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。一方、読み取った利用者IDと認証IDとが不一致である場合には、認証時の類似度が所定の閾値(第2の登録閾値)未満である場合にのみ、入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。ここで、認証時の類似度が低いケースは、入力顔画像データが最も類似する登録顔画像データは、別の利用者IDに対応付けられているが、その類似の程度は低い場合に対応する。読み取った利用者IDの成熟度が「B」の場合には、このような入力顔画像データも追加登録することとしている。なお、第2の登録閾値は、第1の登録閾値と同一であってもよい。本実施例1では、第2の登録閾値と第1の登録閾値とが同一であることとし、類似度がこの登録閾値を超える場合を類似度「高」、類似度が登録閾値以下である場合を類似度「低」とする。 If the read user ID has a maturity level of “B” and the read user ID matches the authentication ID, the user ID that has read the input face image data regardless of the similarity at the time of authentication. Are additionally registered as registered face image data. On the other hand, when the read user ID and the authentication ID do not match, the use of reading the input face image data only when the similarity at the time of authentication is less than a predetermined threshold (second registration threshold) Is additionally registered as registered face image data of the person ID. Here, the case where the degree of similarity at the time of authentication is low corresponds to the case where the registered face image data with the most similar input face image data is associated with another user ID, but the degree of similarity is low. . When the read user ID has a maturity level of “B”, such input face image data is additionally registered. Note that the second registration threshold may be the same as the first registration threshold. In the first embodiment, when the second registration threshold and the first registration threshold are the same, the case where the similarity exceeds the registration threshold is “high”, and the similarity is equal to or lower than the registration threshold. Is the similarity “low”.

読み取った利用者IDの成熟度が「C」であれば、読み取った利用者IDと認証IDとが一致するか否かに関わらず、また、認証時の類似度に関わらず、入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。   If the maturity of the read user ID is “C”, the input face image data regardless of whether or not the read user ID matches the authentication ID, and regardless of the similarity at the time of authentication. Is additionally registered as registered face image data of the user ID that has read.

すなわち、登録処理テーブル42bによれば、成熟度が低い場合には追加登録の条件を緩くして登録顔画像データを増やすことを優先し、成熟度が高くなるほど追加登録の条件を厳しくして認証精度の向上に寄与するデータを厳選するようにしている。   That is, according to the registration processing table 42b, when the maturity level is low, priority is given to increasing the registered face image data by loosening the additional registration condition, and the higher the maturity level, the stricter the additional registration condition. Careful selection of data that contributes to improved accuracy.

図1の例では、カードリーダ10が読み取った利用者IDが「0001」であり、利用者ID「0001」の成熟度は「B」である。そのため、入力顔画像データの認証IDが「0001」であれば、類似度に関わらず入力顔画像データを利用者ID「0001」の登録顔画像データとして追加登録する。また、入力顔画像データの認証IDが「0002」であり、類似度が低ければ、入力顔画像データを利用者ID「0001」の登録顔画像データとして追加登録する。入力顔画像データの認証IDが「0002」であり、類似度が高い場合には、入力顔画像データの登録顔画像データの追加登録は行わない。   In the example of FIG. 1, the user ID read by the card reader 10 is “0001”, and the maturity of the user ID “0001” is “B”. Therefore, if the authentication ID of the input face image data is “0001”, the input face image data is additionally registered as registered face image data of the user ID “0001” regardless of the similarity. If the authentication ID of the input face image data is “0002” and the similarity is low, the input face image data is additionally registered as registered face image data of the user ID “0001”. When the authentication ID of the input face image data is “0002” and the similarity is high, the registered face image data of the input face image data is not additionally registered.

このように、本実施例1に係る入退室管理装置40は、カードリーダ10により利用者IDを読み取るとともに、画像認証により認証IDをもとめ、そのIDの比較結果と、読み取った利用者IDの成熟度とに応じて、入力顔画像データを追加登録するか否かを決定するので、成熟度が低い場合には登録顔画像データを増やすことを優先し、成熟度が高くなるほど誤登録を厳しく防止して、高精度な顔認証データベースを早期に構築することができる。   As described above, the entrance / exit management device 40 according to the first embodiment reads the user ID by the card reader 10, obtains the authentication ID by image authentication, compares the ID, and matures the read user ID. Depending on the degree, it is decided whether or not to register additional input face image data. Therefore, priority is given to increasing the number of registered face image data when the maturity level is low, and misregistration is strictly prevented as the maturity level increases. Thus, a highly accurate face authentication database can be constructed at an early stage.

次に、入退室管理装置40の内部構成について説明する。図2は、入退室管理装置40の内部構成を示すブロック図である。図2に示すように、入退室管理装置40は、カードリーダ10、カメラ20及びゲート装置30と接続される。また、入退室管理装置40は、その内部に入出力部41、記憶部42及び制御部43を有する。   Next, the internal configuration of the entrance / exit management device 40 will be described. FIG. 2 is a block diagram showing an internal configuration of the entrance / exit management device 40. As shown in FIG. 2, the entrance / exit management device 40 is connected to the card reader 10, the camera 20, and the gate device 30. The entrance / exit management device 40 includes an input / output unit 41, a storage unit 42, and a control unit 43.

カードリーダ10は、IDカードから利用者IDを読み出すための装置である。IDカードとしては、磁気カードや近距離無線通信式のカード等、記録や読み書きの方法を問わず、任意の記録媒体を用いることができる。また、カード以外の形状の記録媒体であってもよい。   The card reader 10 is a device for reading a user ID from an ID card. As the ID card, any recording medium such as a magnetic card or a short-distance wireless communication type card can be used regardless of the recording or reading / writing method. Further, it may be a recording medium having a shape other than the card.

カメラ20は、利用者を撮像して入退室管理装置40に出力するCCD(Charge Coupled Device)素子などからなる撮像装置である。このカメラ20は、カードリーダ10及びゲート装置30に至る途中での利用者の顔部分を撮像できる画角にあらかじめ設定されている。ゲート装置30は、入退室管理装置40の制御を受けて開閉する。   The camera 20 is an image pickup device including a CCD (Charge Coupled Device) element that picks up an image of a user and outputs the image to the entrance / exit management device 40. The camera 20 is set in advance to an angle of view that can capture the face portion of the user on the way to the card reader 10 and the gate device 30. The gate device 30 opens and closes under the control of the entry / exit management device 40.

入出力部41は、液晶パネル、キーボード、マウス等の入出力デバイス群である。記憶部42は、ハードディスク装置や不揮発性メモリ等の記憶デバイスであり、顔認証データベース42a及び登録処理テーブル42bを記憶する。   The input / output unit 41 is an input / output device group such as a liquid crystal panel, a keyboard, and a mouse. The storage unit 42 is a storage device such as a hard disk device or a nonvolatile memory, and stores a face authentication database 42a and a registration processing table 42b.

制御部43は、入退室管理装置40を全体制御する制御部であり、利用者ID取得部43a、顔画像検出部43b、認証処理部43c、ゲート制御部43d、登録処理部43e及び選別処理部43fを有する。実際には、これらの機能部に対応するプログラムを図示しないROM(Read Only Memory)や不揮発性メモリに記憶しておき、これらのプログラムをCPU(Central Processing Unit)にロードして実行することにより、利用者ID取得部43a、顔画像検出部43b、認証処理部43c、ゲート制御部43d、登録処理部43e及び選別処理部43fにそれぞれ対応するプロセスを実行させることになる。   The control unit 43 is a control unit that controls the entire entrance / exit management device 40, and includes a user ID acquisition unit 43a, a face image detection unit 43b, an authentication processing unit 43c, a gate control unit 43d, a registration processing unit 43e, and a selection processing unit. 43f. Actually, programs corresponding to these functional units are stored in a ROM (Read Only Memory) or a non-volatile memory (not shown), and these programs are loaded into a CPU (Central Processing Unit) and executed. The user ID acquisition unit 43a, the face image detection unit 43b, the authentication processing unit 43c, the gate control unit 43d, the registration processing unit 43e, and the selection processing unit 43f execute corresponding processes.

利用者ID取得部43aは、カードリーダ10がIDカードから読み取った利用者IDを取得する処理部である。顔画像検出部43bは、カメラ20の出力を用い、撮像タイミングの異なる複数の画像からそれぞれ顔画像を検出する。具体的には、顔画像検出部43bは、人の一般的な顔の輪郭を示すテンプレート(マスクパターン)を用い、テンプレートをずらしマッチングすることで、画像内に存在する顔画像を検出する。なお、かかるテンプレートマッチングだけではなく、公知の各種顔検出アルゴリズム(画像処理技術)を用いることができる。顔画像検出部43bは、検出した顔画像を入力顔画像データとして出力する。   The user ID acquisition unit 43a is a processing unit that acquires the user ID read by the card reader 10 from the ID card. The face image detection unit 43b uses the output of the camera 20 to detect a face image from a plurality of images having different imaging timings. Specifically, the face image detection unit 43b detects a face image existing in the image by using a template (mask pattern) indicating a general outline of a human face and shifting and matching the template. In addition to such template matching, various known face detection algorithms (image processing techniques) can be used. The face image detection unit 43b outputs the detected face image as input face image data.

認証処理部43cは、顔画像検出部43bが出力した入力顔画像データと、顔認証データベース42aに登録された登録顔画像データの各々とを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとして出力する。   The authentication processing unit 43c collates the input face image data output from the face image detection unit 43b with each of the registered face image data registered in the face authentication database 42a, so that the registered face image data with the highest similarity is obtained. The user ID is output as the authentication ID.

ゲート制御部43dは、IDカードによる認証と、顔画像による認証のいずれかが成立した場合にゲート装置30に対してゲートの開放を指示する。具体的には、ゲート制御部43dは、利用者ID取得部43aが読み取った利用者IDが、顔認証データベース42aに登録された利用者IDである場合に、ゲート装置30に対してゲートの開放を指示する。また、ゲート制御部43dは、認証処理部43cにより認証IDが出力され、かつ類似度が認証閾値以上である場合にも、ゲート装置30に対してゲートの開放を指示する。   The gate control unit 43d instructs the gate device 30 to open the gate when either the authentication by the ID card or the authentication by the face image is established. Specifically, the gate control unit 43d opens the gate with respect to the gate device 30 when the user ID read by the user ID acquisition unit 43a is the user ID registered in the face authentication database 42a. Instruct. The gate control unit 43d also instructs the gate device 30 to open the gate when the authentication processing unit 43c outputs the authentication ID and the similarity is equal to or higher than the authentication threshold.

登録処理部43eは、利用者ID取得部43aにより利用者IDが取得され、顔画像検出部43bにより入力顔画像データが出力された場合に、登録処理テーブル42bに従って追加登録処理を行う処理部である。   The registration processing unit 43e is a processing unit that performs additional registration processing according to the registration processing table 42b when the user ID is acquired by the user ID acquisition unit 43a and the input face image data is output by the face image detection unit 43b. is there.

選別処理部43fは、登録顔画像データを選別する処理部である。具体的には、選別処理部43fは、成熟度がAである利用者IDについて、登録されてから所定時間以上が経過し、かつ認証への寄与が少ない登録顔画像データを削除することで、登録顔画像データを選別する。   The sorting processing unit 43f is a processing unit that sorts registered face image data. Specifically, the selection processing unit 43f deletes the registered face image data for a user ID having a maturity level A that has been registered for a predetermined time or more and has little contribution to authentication. Select registered face image data.

次に、入退室管理装置40の記憶部42が記憶するデータの具体例について説明する。図3は、入退室管理装置40の記憶部42が記憶するデータを説明するための説明図である。   Next, a specific example of data stored in the storage unit 42 of the entrance / exit management device 40 will be described. FIG. 3 is an explanatory diagram for explaining data stored in the storage unit 42 of the entrance / exit management device 40.

図3に示すように、顔認証データベース42aは、利用者IDに対し、成熟度、登録顔画像データ、登録日時、認証使用回数及び累積認証スコアを関連づけたデータベースである。   As shown in FIG. 3, the face authentication database 42a is a database in which a maturity level, registered face image data, registration date and time, the number of times of authentication use, and a cumulative authentication score are associated with a user ID.

登録日時、認証使用回数及び累積認証スコアは、登録顔画像データごとに関連づけられている。登録日時は、当該登録顔画像データを登録した日時を示す。認証使用回数は、認証時において、当該登録顔画像データとの類似度が最大となった回数を示している。累積認証スコアは、認証時において、当該登録顔画像データとの類似度が最大となる度に、その類似度を加算した値である。   The registration date / time, the number of times of authentication use, and the cumulative authentication score are associated with each registered face image data. The registration date / time indicates the date / time when the registered face image data was registered. The number of times of authentication use indicates the number of times that the similarity with the registered face image data is maximized at the time of authentication. The cumulative authentication score is a value obtained by adding the degree of similarity every time the degree of similarity with the registered face image data becomes maximum at the time of authentication.

この累積認証スコアは、認証使用回数が多いほど、また、類似度が高いほど大きな値となるので、認証への寄与の大きさの指標となる。さらに、累積認証スコアを認証使用回数で除算すれば、当該登録顔画像データとの類似度が最大となった場合の平均の類似度である平均認証スコアを求めることができる。平均認証スコアにより、当該登録顔画像データを用いた場合における認証の精度を評価することが可能である。   This cumulative authentication score becomes a larger value as the number of times of authentication use is larger and as the degree of similarity is higher, and thus becomes an index of the magnitude of contribution to authentication. Further, by dividing the cumulative authentication score by the number of times of authentication use, an average authentication score that is an average similarity when the similarity with the registered face image data is maximized can be obtained. Based on the average authentication score, it is possible to evaluate the accuracy of authentication when the registered face image data is used.

例えば、選別処理部43fが登録顔画像データを選別する場合には、登録日時から所定時間以上が経過し、かつ累積認証スコアが選別閾値以下の登録顔画像データを削除すればよい。累積認証スコアに代えて、平均認証スコアにより削除の可否を判定してもよい。   For example, when the selection processing unit 43f selects the registered face image data, it is only necessary to delete the registered face image data that has passed a predetermined time from the registration date and the cumulative authentication score is equal to or lower than the selection threshold. Instead of the cumulative authentication score, whether or not deletion can be performed may be determined based on an average authentication score.

また、累積認証スコアや平均認証スコアは、成熟度の判定に用いてもよい。累積認証スコアや平均認証スコアを加味することにより、登録顔画像データの数のみならず、その質も考慮して成熟度を決定することができる。   Further, the cumulative authentication score and the average authentication score may be used for determination of maturity. By adding the cumulative authentication score and the average authentication score, the maturity can be determined in consideration of not only the number of registered face image data but also the quality thereof.

図3に示す顔認証データベース42aは、利用者ID「0001」に成熟度「B」と、登録顔画像データ「G001001.jpg」及び登録顔画像データ「G001002.jpg」とが関連づけられた状態を示している。また、登録顔画像データ「G001001.jpg」の登録日時は「2011/05/02 11:42」であり、認証使用回数は「9」、累積認証スコアは「540」である。登録顔画像データ「G001002.jpg」の登録日時は「2011/05/02 11:42」であり、認証使用回数は「8」、累積認証スコアは「640」である。   The face authentication database 42a shown in FIG. 3 shows a state in which the maturity “B”, the registered face image data “G001001.jpg”, and the registered face image data “G001002.jpg” are associated with the user ID “0001”. Show. The registered face image data “G001001.jpg” has a registration date of “2011/05/02 11:42”, an authentication usage count of “9”, and a cumulative authentication score of “540”. The registration date and time of the registered face image data “G001002.jpg” is “2011/05/02 11:42”, the number of times of authentication use is “8”, and the cumulative authentication score is “640”.

また、図3に示す顔認証データベース42aは、利用者ID「0002」に成熟度「A」と、登録顔画像データ「G002001.jpg」及び登録顔画像データ「G002002.jpg」とが関連づけられた状態を示している。また、登録顔画像データ「G002001.jpg」の登録日時は「2011/10/10 15:10」であり、認証使用回数は「4」、累積認証スコアは「320」である。登録顔画像データ「G002002.jpg」の登録日時は「2011/10/11 09:30」であり、認証使用回数は「7」、累積認証スコアは「630」である。   In the face authentication database 42a shown in FIG. 3, the maturity “A”, the registered face image data “G002001.jpg” and the registered face image data “G002002.jpg” are associated with the user ID “0002”. Indicates the state. The registration date and time of the registered face image data “G002001.jpg” is “2011/10/10 15:10”, the number of times of authentication use is “4”, and the cumulative authentication score is “320”. The registration date and time of the registered face image data “G002002.jpg” is “2011/10/11 09:30”, the number of times of authentication use is “7”, and the cumulative authentication score is “630”.

図3に示すように、登録処理テーブル42bは、IDの比較結果と、認証IDの類似度と、利用者IDの成熟度とに応じて追加登録の可否を決定するテーブルである。ここで、利用者IDの成熟度としては、カードリーダ10がIDカードから読み取った利用者IDに関連づけられた成熟度を用いる。具体的には、利用者IDの成熟度が「A」であれば、読み取った利用者IDと認証IDとが一致し、かつ、認証時の類似度が「高」である場合にのみ、入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。   As illustrated in FIG. 3, the registration processing table 42 b is a table that determines whether additional registration is possible according to the ID comparison result, the similarity of the authentication ID, and the maturity of the user ID. Here, as the maturity of the user ID, the maturity associated with the user ID read by the card reader 10 from the ID card is used. Specifically, if the maturity level of the user ID is “A”, the input is performed only when the read user ID matches the authentication ID and the similarity at the time of authentication is “high”. It is additionally registered as registered face image data of the user ID that has read the face image data.

利用者IDの成熟度が「B」であれば、読み取った利用者IDと認証IDとが一致した場合には、認証時の類似度に関わらず入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。一方、読み取った利用者IDと認証IDとが不一致である場合には、認証時の類似度が「低」である場合にのみ、入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。   If the maturity level of the user ID is “B”, if the read user ID matches the authentication ID, registration of the user ID that read the input face image data regardless of the similarity at the time of authentication Additional registration as face image data. On the other hand, when the read user ID and the authentication ID do not match, the registered face image data of the user ID that has read the input face image data is used only when the similarity at the time of authentication is “low”. Register additional.

利用者IDの成熟度が「C」であれば、読み取った利用者IDと認証IDとが一致するか否かに関わらず、また、認証時の類似度に関わらず、入力顔画像データを読み取った利用者IDの登録顔画像データとして追加登録する。   If the maturity of the user ID is “C”, the input face image data is read regardless of whether or not the read user ID matches the authentication ID, and regardless of the similarity at the time of authentication. Are additionally registered as registered face image data of the user ID.

次に、入退室管理装置40による追加登録の処理手順について説明する。図4は、入退室管理装置40による追加登録の処理手順を示すフローチャートである。まず、利用者ID取得部43aは、カードリーダ10がIDカードから読み取った利用者IDを取得する(ステップS101)。また、利用者ID取得部43aは、取得した利用者IDの成熟度を顔認証データベース42aから取得する(ステップS102)。   Next, an additional registration processing procedure performed by the entry / exit management device 40 will be described. FIG. 4 is a flowchart showing the additional registration processing procedure performed by the entrance / exit management device 40. First, the user ID acquisition unit 43a acquires the user ID read by the card reader 10 from the ID card (step S101). In addition, the user ID acquisition unit 43a acquires the maturity level of the acquired user ID from the face authentication database 42a (step S102).

顔画像検出部43bは、カメラ20の出力を用い、撮像タイミングの異なる複数の画像からそれぞれ顔画像を検出し、入力顔画像データとして出力する(ステップS103)。登録処理部43eは、未処理の入力顔画像データを1つ選択する(ステップS104)。登録処理部43eは、利用者IDの成熟度が「A」であるか否かを判定し(ステップS105)、成熟度が「A」であれば(ステップS105;Yes)、ステップS106に移行する。   The face image detection unit 43b uses the output of the camera 20 to detect a face image from a plurality of images having different imaging timings, and outputs the detected face image data as input face image data (step S103). The registration processing unit 43e selects one unprocessed input face image data (step S104). The registration processing unit 43e determines whether or not the maturity level of the user ID is “A” (step S105). If the maturity level is “A” (step S105; Yes), the process proceeds to step S106. .

ステップS106では、認証処理部43cは、入力顔画像データと、顔認証データベース42aに登録された登録顔画像データの各々とを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとして出力する。   In step S106, the authentication processing unit 43c collates the input face image data and each registered face image data registered in the face authentication database 42a, and obtains the user ID of the registered face image data having the highest similarity. Output as authentication ID.

ステップS106の後、登録処理部43eは、ステップS101で取得した利用者IDと認証IDとが一致するか否かを判定する(ステップS107)。IDが一致するならば(ステップS107;Yes)、ステップS106で求めた認証IDの類似度が「高」であるか否かを判定する(ステップS108)。そして、類似度が「高」であれば(ステップS108;Yes)、入力顔画像データをステップS101で取得した利用者IDの登録顔画像データとして追加登録する(ステップS109)。   After step S106, the registration processing unit 43e determines whether the user ID acquired in step S101 matches the authentication ID (step S107). If the IDs match (step S107; Yes), it is determined whether or not the similarity of the authentication ID obtained in step S106 is “high” (step S108). If the similarity is “high” (step S108; Yes), the input face image data is additionally registered as registered face image data of the user ID acquired in step S101 (step S109).

成熟度が「A」でなければ(ステップS105;No)、登録処理部43eは、利用者IDの成熟度が「B」であるか否かを判定し(ステップS111)、成熟度が「B」であれば(ステップS111;Yes)、ステップS112に移行する。   If the maturity is not “A” (step S105; No), the registration processing unit 43e determines whether the maturity of the user ID is “B” (step S111), and the maturity is “B”. "(Step S111; Yes), the process proceeds to step S112.

ステップS112では、認証処理部43cは、入力顔画像データと、顔認証データベース42aに登録された登録顔画像データの各々とを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとして出力する。   In step S112, the authentication processing unit 43c collates the input face image data and each registered face image data registered in the face authentication database 42a, and obtains the user ID of the registered face image data having the highest similarity. Output as authentication ID.

ステップS112の後、登録処理部43eは、ステップS101で取得した利用者IDと認証IDとが一致するか否かを判定する(ステップS113)。IDが一致するならば(ステップS113;Yes)、入力顔画像データをステップS101で取得した利用者IDの登録顔画像データとして追加登録する(ステップS114)。IDが一致しなければ(ステップS113;No)、登録処理部43eは、ステップS112で求めた認証IDの類似度が「高」であるか否かを判定する(ステップS115)。そして、類似度が「高」でなければ(ステップS115;No)、入力顔画像データをステップS101で取得した利用者IDの登録顔画像データとして追加登録する(ステップS114)。   After step S112, the registration processing unit 43e determines whether or not the user ID acquired in step S101 matches the authentication ID (step S113). If the IDs match (step S113; Yes), the input face image data is additionally registered as registered face image data of the user ID acquired in step S101 (step S114). If the IDs do not match (step S113; No), the registration processing unit 43e determines whether or not the similarity of the authentication ID obtained in step S112 is “high” (step S115). If the similarity is not “high” (step S115; No), the input face image data is additionally registered as registered face image data of the user ID acquired in step S101 (step S114).

成熟度が「B」でない場合(ステップS111;No)、すなわち成熟度が「C」である場合、登録処理部43eは、入力顔画像データをステップS101で取得した利用者IDの登録顔画像データとして追加登録する(ステップS116)。   When the maturity level is not “B” (step S111; No), that is, when the maturity level is “C”, the registration processing unit 43e registers the registered face image data of the user ID acquired in step S101. Are additionally registered (step S116).

ステップS109、ステップS114又はステップS116において入力顔画像データを登録した後はステップS110に移行する。また、ステップS107においてIDが一致しない場合(ステップS107;No)、ステップS108において類似度が「低」である場合(ステップS108;No)、ステップS115において類似度が「高」である場合(ステップS115;Yes)にも、ステップS110に移行する。   After the input face image data is registered in step S109, step S114, or step S116, the process proceeds to step S110. If the IDs do not match in step S107 (step S107; No), the similarity is “low” in step S108 (step S108; No), or the similarity is “high” in step S115 (step S108). Also in S115; Yes, the process proceeds to step S110.

ステップS110では、登録処理部43eは、全ての入力顔画像データを処理済みであるか否かを判定する。そして、未処理の入力顔画像データが残っている場合(ステップS110;No)には、ステップS104に移行し、全ての入力顔画像データを処理した場合(ステップS110;Yes)に、追加登録処理を終了する。   In step S110, the registration processing unit 43e determines whether or not all input face image data has been processed. If unprocessed input face image data remains (step S110; No), the process proceeds to step S104. If all input face image data has been processed (step S110; Yes), additional registration processing is performed. Exit.

次に、入退室管理装置40によるゲート制御の処理手順について説明する。図5は、入退室管理装置40によるゲート制御の処理手順を示すフローチャートである。ゲート制御部43dは、利用者ID取得部43aがIDカードから利用者IDを取得したか否かを判定する(ステップS201)。   Next, the process procedure of the gate control by the entrance / exit management device 40 will be described. FIG. 5 is a flowchart showing a gate control processing procedure performed by the entrance / exit management device 40. The gate control unit 43d determines whether the user ID acquisition unit 43a has acquired a user ID from the ID card (step S201).

利用者ID取得部43aが利用者IDを取得しているならば(ステップS201;Yes)、ゲート制御部43dは、取得された利用者IDが顔認証データベース42aに登録済の利用者IDであるか否かを検証する(ステップS202)。登録済の利用者IDでなければ(ステップS202;No)、ゲート制御部43dは、認証エラーを出力して利用者に報知し(ステップS203)、ゲート制御処理を終了する。一方、登録済の利用者IDであるならば(ステップS202;Yes)、ゲート制御部43dは、ゲート装置30に対してゲートの開放を指示して(ステップS204)、ゲート制御処理を終了する。   If the user ID acquisition unit 43a has acquired a user ID (step S201; Yes), the gate control unit 43d has the acquired user ID registered in the face authentication database 42a. It is verified whether or not (step S202). If it is not a registered user ID (step S202; No), the gate control unit 43d outputs an authentication error to notify the user (step S203), and ends the gate control process. On the other hand, if it is a registered user ID (step S202; Yes), the gate control unit 43d instructs the gate device 30 to open the gate (step S204), and ends the gate control process.

利用者ID取得部43aが利用者IDを取得していなければ(ステップS201;No)、ゲート制御部43dは、顔画像検出部43bがカメラ20の出力から顔画像を検出したか否かを判定する(ステップS205)。顔画像検出部43bが顔画像を検出していなければ(ステップS205;No)、ゲート制御部43dは、ゲート制御処理を終了する。   If the user ID acquisition unit 43a has not acquired the user ID (step S201; No), the gate control unit 43d determines whether the face image detection unit 43b has detected a face image from the output of the camera 20. (Step S205). If the face image detection unit 43b has not detected a face image (step S205; No), the gate control unit 43d ends the gate control process.

顔画像検出部43bが顔画像を検出したならば(ステップS205;Yes)、認証処理部43cは、検出された顔画像を含む入力顔画像データと、顔認証データベース42aに登録された登録顔画像データの各々とを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとして出力する(ステップS206)。さらに、認証処理部43cは、最も類似度が高い登録顔画像データについて、その類似度が認証閾値以上であるか否かを判定し、認証閾値以上であれば認証成功とする。認証が成功した場合には(ステップS207;Yes)、ゲート制御部43dは、ゲート装置30に対してゲートの開放を指示して(ステップS204)、ゲート制御処理を終了する。認証が成功していなければ(ステップS207;No)、ゲート制御部43dは、ゲート制御処理を終了する。   If the face image detection unit 43b detects a face image (step S205; Yes), the authentication processing unit 43c includes input face image data including the detected face image and a registered face image registered in the face authentication database 42a. Each data is collated, and the user ID of the registered face image data having the highest similarity is output as an authentication ID (step S206). Further, the authentication processing unit 43c determines whether or not the similarity of the registered face image data having the highest similarity is equal to or higher than an authentication threshold. If the authentication is successful (step S207; Yes), the gate control unit 43d instructs the gate device 30 to open the gate (step S204), and ends the gate control process. If the authentication is not successful (step S207; No), the gate control unit 43d ends the gate control process.

上述してきたように、本実施例1に係る入退室管理装置40は、カードリーダ10により利用者IDを読み取るとともに、画像認証により認証IDをもとめ、そのIDの比較結果と、読み取った利用者IDの成熟度とに応じて、入力顔画像データを追加登録するか否かを決定するので、成熟度が低い場合には登録顔画像データを増やすことを優先し、成熟度が高くなるほど誤登録を厳しく防止して、高精度な顔認証データベースを早期に構築することができる。   As described above, the entrance / exit management device 40 according to the first embodiment reads the user ID by the card reader 10, obtains the authentication ID by image authentication, compares the ID, and the read user ID. Depending on the maturity level, it will be decided whether or not to register additional input face image data. If the maturity level is low, priority will be given to increasing the registered face image data. It is possible to construct a highly accurate face authentication database at an early stage while strictly preventing it.

本実施例2では、誤登録された登録顔画像データの削除について説明する。図6は、本実施例2に係る誤登録された登録顔画像データの削除について説明するための説明図である。   In the second embodiment, deletion of erroneously registered registered face image data will be described. FIG. 6 is an explanatory diagram for explaining deletion of erroneously registered registered face image data according to the second embodiment.

まず、入退室管理の対象となるゲート装置30の前にはカードリーダ10が設置されている。また、ゲート装置30及びカードリーダ10に近づく人物を撮像可能な位置にカメラ20が設置されている。   First, the card reader 10 is installed in front of the gate device 30 that is subject to entrance / exit management. The camera 20 is installed at a position where a person approaching the gate device 30 and the card reader 10 can be imaged.

図6に示すように、予め登録された利用者がカードリーダ10に接近し、IDカードをカードリーダ10にかざすと、カードリーダ10は、IDカードから利用者IDを読み出す。図6では、読み出した利用者IDが「0001」である場合を示している。   As shown in FIG. 6, when a user registered in advance approaches the card reader 10 and holds the ID card over the card reader 10, the card reader 10 reads the user ID from the ID card. FIG. 6 shows a case where the read user ID is “0001”.

また、カメラ20は、カードリーダ10に接近する利用者を連続的に撮像する。入退室管理装置140は、カメラ20の出力を用い、撮像タイミングの異なる複数の画像からそれぞれ顔画像を検出する。   The camera 20 continuously captures images of users approaching the card reader 10. The entrance / exit management device 140 uses the output of the camera 20 to detect face images from a plurality of images having different imaging timings.

入退室管理装置140は、検出した顔画像を入力顔画像データとし、顔認証データベース142aを用いて認証処理を行う。顔認証データベース142aは、利用者IDに対し、登録顔画像データ等を関連づけたデータベースである。また、各登録顔画像データには、一致カウントNTと不一致カウントNFとが関連づけられている。   The entrance / exit management device 140 uses the detected face image as input face image data, and performs authentication processing using the face authentication database 142a. The face authentication database 142a is a database in which registered face image data and the like are associated with a user ID. Each registered face image data is associated with a match count NT and a mismatch count NF.

認証処理では、顔認証データベース142aに登録された登録顔画像データの各々と入力顔画像データとを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとする。   In the authentication process, each registered face image data registered in the face authentication database 142a is collated with the input face image data, and the user ID of the registered face image data having the highest similarity is set as the authentication ID.

入退室管理装置140は、カードリーダ10により読み取った利用者IDと認証IDとが一致するか否かを判定し、IDが一致するならば、入力顔画像データとの類似度が最も高くなった登録顔画像データの一致カウントNTを1加算する。また、IDが一致しなければ、入力顔画像データとの類似度が最も高くなった登録顔画像データの不一致カウントNFを1加算する。そして、不一致カウントNFが一致カウントNTよりも大きくなった登録顔画像データを削除する。   The entrance / exit management device 140 determines whether the user ID read by the card reader 10 and the authentication ID match, and if the IDs match, the similarity to the input face image data is the highest. Add 1 to the match count NT of the registered face image data. If the IDs do not match, 1 is added to the mismatch count NF of the registered face image data having the highest similarity with the input face image data. Then, the registered face image data in which the mismatch count NF is larger than the match count NT is deleted.

不一致カウントが大きい登録顔画像データは、登録先の利用者IDではなく、他の利用者IDに登録された登録顔画像データとの類似が高いことが示される。すなわち、不適切な顔画像が誤って登録された可能性が高いと考えられる。このように誤って登録された登録顔画像データは、認証精度の低下を引き起こす。そこで、不一致カウントが大きい登録顔画像データを削除するのである。   The registered face image data having a large mismatch count is not similar to the registered user ID but is highly similar to the registered face image data registered in another user ID. In other words, it is highly likely that an inappropriate face image has been registered by mistake. The registered face image data registered in error in this way causes a decrease in authentication accuracy. Therefore, the registered face image data having a large mismatch count is deleted.

図6の例では、カードリーダ10が読み取った利用者IDが「0001」である。そのため、入力顔画像データの認証IDが「0001」であれば、類似度が最も高くなった登録顔画像データの一致カウントNTを1加算する。また、入力顔画像データの認証IDが「0002」であれば、類似度が最も高くなった登録顔画像データの不一致カウントNFを1加算する。   In the example of FIG. 6, the user ID read by the card reader 10 is “0001”. Therefore, if the authentication ID of the input face image data is “0001”, 1 is added to the match count NT of the registered face image data having the highest similarity. If the authentication ID of the input face image data is “0002”, 1 is added to the mismatch count NF of the registered face image data having the highest similarity.

このように、本実施例2に係る入退室管理装置140は、カードリーダ10により利用者IDを読み取るとともに、画像認証により認証IDをもとめ、そのIDの比較結果により、登録顔画像データの一致カウントと不一致カウントを加算する。そして、不一致カウントNFが一致カウントNTよりも大きくなった登録顔画像データを削除するので、誤登録された登録顔画像データを自動的に削除し、認証精度の向上に寄与することができる。   As described above, the entrance / exit management device 140 according to the second embodiment reads the user ID by the card reader 10, obtains the authentication ID by image authentication, and matches the registered face image data based on the comparison result of the ID. And the mismatch count are added. Since the registered face image data whose mismatch count NF is larger than the match count NT is deleted, erroneously registered registered face image data can be automatically deleted, which can contribute to improvement in authentication accuracy.

次に、入退室管理装置140の内部構成について説明する。図7は、入退室管理装置140の内部構成を示すブロック図である。図7に示すように、入退室管理装置140は、カードリーダ10、カメラ20及びゲート装置30と接続される。また、入退室管理装置40は、その内部に入出力部41、記憶部42及び制御部143を有する。   Next, the internal configuration of the entrance / exit management device 140 will be described. FIG. 7 is a block diagram showing an internal configuration of the entrance / exit management device 140. As shown in FIG. 7, the entrance / exit management device 140 is connected to the card reader 10, the camera 20, and the gate device 30. Moreover, the entrance / exit management device 40 includes an input / output unit 41, a storage unit 42, and a control unit 143 therein.

記憶部42は、顔認証データベース42a及び登録処理テーブル42bではなく、顔認証データベース142aを記憶する点が実施例1と異なる。また、制御部143は、登録処理部43e及び選別処理部43fではなく、誤登録削除処理部143gを有する点が実施例1と異なる。その他の構成及び動作は実施例1に示した入退室管理装置40と同様であるので同一の構成要素には同一の構成要素を付して説明を省略する。   The storage unit 42 is different from the first embodiment in that it stores not the face authentication database 42a and the registration processing table 42b but the face authentication database 142a. The control unit 143 is different from the first embodiment in that the control unit 143 includes an erroneous registration deletion processing unit 143g instead of the registration processing unit 43e and the selection processing unit 43f. Since other configurations and operations are the same as those of the entrance / exit management device 40 shown in the first embodiment, the same components are denoted by the same components and the description thereof is omitted.

顔認証データベース142aは、図8に示すように、利用者IDに対し、登録顔画像データ、一致カウントNT及び不一致カウントNFを関連づけたデータベースである。具体的には、利用者ID「0001」に、登録顔画像データ「G001001.jpg」及び登録顔画像データ「G001002.jpg」とが関連づけられた状態を示している。登録顔画像データ「G001001.jpg」の一致カウントNTは「9」であり、不一致カウントNFは「1」である。登録顔画像データ「G001002.jpg」の一致カウントNTは「8」であり、不一致カウントNFは「2」である。   As shown in FIG. 8, the face authentication database 142a is a database in which registered face image data, a match count NT, and a mismatch count NF are associated with a user ID. Specifically, the registered face image data “G001001.jpg” and the registered face image data “G001002.jpg” are associated with the user ID “0001”. The registered face image data “G001001.jpg” has a match count NT of “9” and a mismatch count NF of “1”. The registered face image data “G001002.jpg” has a match count NT of “8” and a mismatch count NF of “2”.

また、図8に示す顔認証データベース142aは、利用者ID「0002」に、登録顔画像データ「G002001.jpg」及び登録顔画像データ「G002002.jpg」とが関連づけられた状態を示している。登録顔画像データ「G002001.jpg」の一致カウントNTは「4」であり、不一致カウントNFは「6」である。登録顔画像データ「G002002.jpg」の一致カウントNTは「7」であり、不一致カウントNFは「3」である。   Further, the face authentication database 142a shown in FIG. 8 shows a state where the registered face image data “G002001.jpg” and the registered face image data “G002002.jpg” are associated with the user ID “0002”. The registered face image data “G002001.jpg” has a match count NT of “4” and a mismatch count NF of “6”. The registered face image data “G002002.jpg” has a match count NT of “7” and a mismatch count NF of “3”.

誤登録削除処理部143gは、誤登録された登録顔画像データを削除する処理部である。具体的には、カードリーダ10により利用者IDが読み取られ、画像認証により認証IDが求められた場合に、そのIDを比較し、比較結果によって登録顔画像データの一致カウントNTと不一致カウントNFを加算する。そして、不一致カウントNFが一致カウントNTよりも大きくなった登録顔画像データを削除する。   The erroneous registration deletion processing unit 143g is a processing unit that deletes erroneously registered registered face image data. Specifically, when the user ID is read by the card reader 10 and an authentication ID is obtained by image authentication, the IDs are compared, and the match count NT and the mismatch count NF of the registered face image data are calculated based on the comparison result. to add. Then, the registered face image data in which the mismatch count NF is larger than the match count NT is deleted.

ここで、登録顔画像データの削除についてさらに説明する。誤登録削除処理部143gは、不一致カウントNFが一致カウントNTよりも大きくなった登録顔画像データを削除対象データとし、削除対象データと各利用者IDとの類似度を算出する。   Here, the deletion of registered face image data will be further described. The erroneous registration deletion processing unit 143g uses the registered face image data in which the mismatch count NF is larger than the match count NT as deletion target data, and calculates the similarity between the deletion target data and each user ID.

そして、削除対象データが複数の利用者IDと類似している場合には、削除対象データを顔認証データベース142aから削除する。一方、削除対象データが特定の利用者と高い類似度を示す場合には、当該利用者IDに削除対象データを移動する。   When the deletion target data is similar to a plurality of user IDs, the deletion target data is deleted from the face authentication database 142a. On the other hand, when the deletion target data shows a high degree of similarity with a specific user, the deletion target data is moved to the user ID.

例えば、利用者ID「0001」の登録顔画像データのいずれかが削除対象データとなる場合に、削除対象データの利用者ID「0001」における他の登録顔画像データとの類似度が40、利用者ID「0002」の登録顔画像データとの類似度が20、利用者ID「0003」の登録顔画像データとの類似度が20、利用者ID「0004」の登録顔画像データとの類似度が20であれば、削除対象データは様々な利用者と類似度が高いので、顔認証データベース142aから削除する。   For example, when any of registered face image data with the user ID “0001” is the deletion target data, the similarity with the other registered face image data with the user ID “0001” of the deletion target data is 40, The similarity with the registered face image data with the user ID “0002” is 20, the similarity with the registered face image data with the user ID “0003” is 20, and the similarity with the registered face image data with the user ID “0004”. Is 20, the deletion target data is highly similar to various users, and is deleted from the face authentication database 142a.

一方、削除対象データの利用者ID「0001」における他の登録顔画像データとの類似度が40、利用者ID「0002」の登録顔画像データとの類似度が60であれば、削除元の利用者ID「0001」よりも利用者ID「0002」との類似度の方が高く、かつ、その他の利用者とは類似していない。そこで、削除対象データを利用者ID「0001」から削除し、利用者ID「0002」に移動させる。   On the other hand, if the similarity of the deletion target data with the registered face image data of the user ID “0001” is 40 and the similarity with the registered face image data of the user ID “0002” is 60, the deletion source data The degree of similarity with the user ID “0002” is higher than the user ID “0001” and is not similar to other users. Therefore, the deletion target data is deleted from the user ID “0001” and moved to the user ID “0002”.

図9及び図10は、削除の連鎖について説明するための説明図である。誤登録削除処理部143gは、削除対象データを削除する際に、削除元の利用者IDに関連づけられた複数の登録顔画像データが互いにどれだけ類似しているかによって、連鎖して削除を行うか否かを決定する。   9 and 10 are explanatory diagrams for explaining a deletion chain. Whether the erroneous registration deletion processing unit 143g deletes the deletion target data in a chained manner depending on how similar the registered face image data associated with the user ID of the deletion source are. Decide whether or not.

具体的には、誤登録削除処理部143gは、同一の利用者IDに関連づけられた複数の登録顔画像データについて、互いに類似度を算定し、類似度が所定値(例えば認証閾値)以上となる登録顔画像データの間にリンクを張る。そして、削除対象データの削除により、孤立する登録顔画像データが存在する場合には、孤立する登録顔画像データも削除する。孤立する登録顔画像データは、削除対象データとの類似度が高いために誤って登録された可能性が高いからである。   Specifically, the misregistration deletion processing unit 143g calculates the degree of similarity for a plurality of registered face image data associated with the same user ID, and the degree of similarity becomes a predetermined value (for example, an authentication threshold) or more. Link between registered face image data. If there is isolated registered face image data due to deletion of the deletion target data, the isolated registered face image data is also deleted. This is because the isolated registered face image data has a high degree of similarity with the deletion target data, and thus has a high possibility of being registered by mistake.

図9は、削除の連鎖が起きないケースを示している。削除対象データとリンクが張られている登録顔画像データであっても、その登録顔画像データが他の登録顔画像データとリンクを張っている場合には、削除対象データのみを削除すればよい。かかる削除により登録顔画像データの孤立が発生しないためである。   FIG. 9 shows a case where no deletion chain occurs. Even if the registered face image data is linked to the deletion target data, if the registered face image data is linked to other registered face image data, only the deletion target data needs to be deleted. . This is because the registration face image data is not isolated by such deletion.

具体的には、登録顔画像データ「G001003.jpg」は登録顔画像データ「G001001.jpg」及び登録顔画像データ「G001002.jpg」とリンクしている。また、登録顔画像データ「G001001.jpg」と登録顔画像データ「G001002.jpg」とはリンクしている。このため、登録顔画像データ「G001003.jpg」を削除対象データとしても、登録顔画像データ「G001001.jpg」及び登録顔画像データ「G001002.jpg」は孤立しない。従って、登録顔画像データ「G001003.jpg」のみを削除する。   Specifically, the registered face image data “G001003.jpg” is linked to the registered face image data “G001001.jpg” and the registered face image data “G001002.jpg”. The registered face image data “G001001.jpg” and the registered face image data “G001002.jpg” are linked. For this reason, even if the registered face image data “G001003.jpg” is the data to be deleted, the registered face image data “G001001.jpg” and the registered face image data “G001002.jpg” are not isolated. Therefore, only the registered face image data “G001003.jpg” is deleted.

また、削除対象データと他の登録顔画像データとのリンクが1つしかない、すなわち、削除対象データがリンク関係の端部に位置する場合には、削除対象データのみを削除する。   In addition, when there is only one link between the deletion target data and the other registered face image data, that is, when the deletion target data is located at the end of the link relationship, only the deletion target data is deleted.

具体的には、登録顔画像データ「G001004.jpg」は登録顔画像データ「G001001.jpg」のみとリンクしている。このため、登録顔画像データ「G001004.jpg」を削除対象データとする場合には、登録顔画像データ「G001004.jpg」のみを削除する。   Specifically, the registered face image data “G001004.jpg” is linked only to the registered face image data “G001001.jpg”. Therefore, when the registered face image data “G001004.jpg” is to be deleted, only the registered face image data “G001004.jpg” is deleted.

図10は、削除の連鎖が起きるケースを示している。図10に示すように、削除対象データの削除により、同一利用者ID内で孤立する登録顔画像データが存在する場合には、孤立する登録顔画像データも削除対象データの削除に連鎖して削除する。   FIG. 10 shows a case where a chain of deletion occurs. As shown in FIG. 10, when there is isolated registered face image data within the same user ID due to deletion of the deletion target data, the isolated registered face image data is also deleted in conjunction with the deletion of the deletion target data. To do.

具体的には、登録顔画像データ「G001001.jpg」は登録顔画像データ「G001002.jpg」、「G001003.jpg」及び登録顔画像データ「G001004.jpg」とリンクしている。また、登録顔画像データ「G001002.jpg」と登録顔画像データ「G001003.jpg」とはリンクしている。登録顔画像データ「G001001.jpg」を削除対象データとすると、登録顔画像データ「G001002.jpg」及び登録顔画像データ「G001003.jpg」は孤立しないが、登録顔画像データ「G001004.jpg」は孤立する。従って、登録顔画像データ「G001001.jpg」の削除と連鎖して、登録顔画像データ「G001004.jpg」も削除する。   Specifically, the registered face image data “G001001.jpg” is linked to the registered face image data “G001002.jpg”, “G001003.jpg” and the registered face image data “G001004.jpg”. Also, the registered face image data “G001002.jpg” and the registered face image data “G001003.jpg” are linked. If the registered face image data “G001001.jpg” is to be deleted, the registered face image data “G001002.jpg” and the registered face image data “G001003.jpg” are not isolated, but the registered face image data “G001004.jpg” Isolated. Therefore, the registered face image data “G001004.jpg” is also deleted in conjunction with the deletion of the registered face image data “G001001.jpg”.

次に、入退室管理装置140による誤登録データ削除の処理手順について説明する。図11は、入退室管理装置140による誤登録データ削除の処理手順を示すフローチャートである。まず、利用者ID取得部43aは、カードリーダ10がIDカードから読み取った利用者IDを取得する(ステップS301)。   Next, a processing procedure for deleting erroneous registration data by the entrance / exit management device 140 will be described. FIG. 11 is a flowchart showing a processing procedure for deleting erroneous registration data by the entrance / exit management device 140. First, the user ID acquisition unit 43a acquires the user ID read by the card reader 10 from the ID card (step S301).

顔画像検出部43bは、カメラ20の出力を用い、撮像タイミングの異なる複数の画像からそれぞれ顔画像を検出し、入力顔画像データとして出力する(ステップS302)。誤登録削除処理部143gは、未処理の入力顔画像データを1つ選択する(ステップS303)。認証処理部43cは、ステップS303で選択された入力顔画像データと、顔認証データベース42aに登録された登録顔画像データの各々とを照合処理し、最も類似度が高い登録顔画像データの利用者IDを認証IDとして出力する認証処理を行う(ステップS304)。   The face image detection unit 43b uses the output of the camera 20 to detect face images from a plurality of images having different imaging timings, and outputs the detected face images as input face image data (step S302). The erroneous registration deletion processing unit 143g selects one unprocessed input face image data (step S303). The authentication processing unit 43c collates the input face image data selected in step S303 with each registered face image data registered in the face authentication database 42a, and uses the registered face image data with the highest similarity. An authentication process for outputting the ID as an authentication ID is performed (step S304).

誤登録削除処理部143gは、ステップS301で取得した利用者IDと認証IDとが一致するか否かを判定する(ステップS305)。IDが一致したならば(ステップS305;Yes)、誤登録削除処理部143gは、入力顔画像データとの類似度が最も高くなった登録顔画像データの一致カウントNTを1加算する(ステップS306)。   The erroneous registration deletion processing unit 143g determines whether or not the user ID acquired in step S301 matches the authentication ID (step S305). If the IDs match (step S305; Yes), the erroneous registration deletion processing unit 143g adds 1 to the match count NT of the registered face image data having the highest similarity to the input face image data (step S306). .

IDが一致しなければ(ステップS305;No)、誤登録削除処理部143gは、入力顔画像データとの類似度が最も高くなった登録顔画像データの不一致カウントNFを1加算する(ステップS308)。そして、当該登録顔画像データの不一致カウントNFが一致カウントNTよりも大きくなったか否かを判定する(ステップS309)。   If the IDs do not match (step S305; No), the erroneous registration deletion processing unit 143g adds 1 to the mismatch count NF of the registered face image data having the highest similarity with the input face image data (step S308). . Then, it is determined whether or not the mismatch count NF of the registered face image data is larger than the match count NT (step S309).

不一致カウントNFが一致カウントNTよりも大きくなったならば(ステップS309;Yes)、誤登録削除処理部143gは、当該登録顔画像データを削除対象データとして削除を行う(ステップS310)。また、ステップS310では、削除対象データの他の利用者IDへの移動や、削除の連鎖の必要性を判定し、必要に応じて移動や連鎖を行う。   If the mismatch count NF is greater than the match count NT (step S309; Yes), the erroneous registration deletion processing unit 143g deletes the registered face image data as deletion target data (step S310). In step S310, it is determined whether or not deletion target data is to be moved to another user ID and deletion chain is necessary, and movement or chaining is performed as necessary.

ステップS306の後、ステップS310の後、若しくは不一致カウントNFが一致カウントNT以下である場合(ステップS309;No)、誤登録削除処理部143gは、全ての入力顔画像データを処理済みであるか否かを判定する(ステップS307)。そして、未処理の入力顔画像データが残っている場合(ステップS307;No)には、ステップS303に移行し、全ての入力顔画像データを処理した場合(ステップS307;Yes)に、誤登録データ削除処理を終了する。ゲート制御の処理手順については、実施例1と同様であるので、説明を省略する。   After step S306, after step S310, or when the mismatch count NF is equal to or less than the match count NT (step S309; No), the erroneous registration deletion processing unit 143g determines whether all input face image data has been processed. Is determined (step S307). If unprocessed input face image data remains (step S307; No), the process proceeds to step S303, and if all input face image data is processed (step S307; Yes), erroneous registration data. The deletion process ends. The processing procedure of the gate control is the same as that in the first embodiment, and thus the description thereof is omitted.

上述してきたように、本実施例2に係る入退室管理装置140は、カードリーダ10により利用者IDを読み取るとともに、画像認証により認証IDをもとめ、そのIDの比較結果により、登録顔画像データの一致カウントNTと不一致カウントNFを加算する。そして、不一致カウントNFが一致カウントNTよりも大きくなった登録顔画像データを削除するので、誤登録された登録顔画像データを自動的に削除し、認証精度の向上に寄与することができる。   As described above, the entrance / exit management device 140 according to the second embodiment reads the user ID by the card reader 10, obtains the authentication ID by image authentication, and compares the registered face image data based on the ID comparison result. The match count NT and the mismatch count NF are added. Since the registered face image data whose mismatch count NF is larger than the match count NT is deleted, erroneously registered registered face image data can be automatically deleted, which can contribute to improvement in authentication accuracy.

本実施例2では、不一致カウントNFが一致カウントNTよりも大きいことを条件に登録顔画像データの削除を行う場合を例示したが、不一致カウントNFと一致カウントNTとの関係を適宜規定し、削除の条件とすることができる。例えば、一致カウントに対する不一致カウントの比率を削除の条件として規定してもよい。また、同一利用者ID内において一致カウントが上位である所定数の登録顔画像データについては、削除の対象としないこととしてもよい。   In the second embodiment, the registered face image data is deleted on condition that the mismatch count NF is larger than the match count NT. However, the relationship between the mismatch count NF and the match count NT is appropriately defined and deleted. The conditions can be as follows. For example, the ratio of the mismatch count to the match count may be defined as the deletion condition. Further, a predetermined number of registered face image data having the highest matching count in the same user ID may not be deleted.

なお、説明の便宜上、追加登録について説明するための実施例1と、誤登録データの削除について説明するための実施例2とを個別に説明したが、追加登録と誤登録データの削除の双方を行う入退室管理装置として実施してもよいことは言うまでもない。この場合には、実施例1に開示した入退室管理装置40において、顔認証データベース42aに一致カウントNT及び不一致カウントNFをさらに関連づけ、制御部43に誤登録削除処理部143gをさらに持たせればよい。   For convenience of explanation, the first embodiment for explaining the additional registration and the second embodiment for explaining the deletion of erroneous registration data are individually described. However, both the additional registration and the deletion of erroneous registration data are both described. It goes without saying that the entry / exit management device may be implemented. In this case, in the entrance / exit management device 40 disclosed in the first embodiment, the face authentication database 42a may be further associated with the match count NT and the mismatch count NF, and the control unit 43 may further include an erroneous registration deletion processing unit 143g. .

また、上記実施例1及び2では、入退室管理装置40及び入退室管理装置140に本発明を適用する場合について説明したが、制御部43及び制御部143の各処理部をコンピュータに実行させるプログラムとして本発明を実施してもよい。   In the first and second embodiments, the case where the present invention is applied to the entrance / exit management device 40 and the entrance / exit management device 140 has been described, but a program for causing a computer to execute the processing units of the control unit 43 and the control unit 143. The present invention may be implemented as

また、上記実施例1及び2では、本発明を入退室管理システムに適用した場合を示したが、本発明はこれに限定されるものではなく、勤怠管理システムなど各種システムに適用することができる。これにより、入退室管理や勤怠管理に顔認証を導入することができる。また、入退室管理や勤怠管理を行わず、データベースの管理のみを行う装置やプログラムとして実施してもよい。   Moreover, in the said Example 1 and 2, although the case where this invention was applied to the entrance / exit management system was shown, this invention is not limited to this, It can apply to various systems, such as an attendance management system. . Thereby, face authentication can be introduced into entrance / exit management and attendance management. Moreover, you may implement as an apparatus and program which perform only management of a database, without performing entrance / exit management and attendance management.

また、上記実施例1及び2では、顔部分の画像を認証に用いる場合を例に説明を行ったが、本発明はこれに限定されるものではなく、人物の顔以外の部分画像や、全身画像、上半身画像などを認証に用いる場合にも適用可能である。   In the first and second embodiments, the case where an image of a face portion is used for authentication has been described as an example. However, the present invention is not limited to this, and a partial image other than a human face, The present invention can also be applied when an image, an upper body image, or the like is used for authentication.

以上のように、本発明に係る認証データベース管理方法、認証データベース管理装置及び認証データベース管理プログラムは、認証データベースにおける誤登録の問題を解消することに適している。   As described above, the authentication database management method, authentication database management device, and authentication database management program according to the present invention are suitable for solving the problem of erroneous registration in the authentication database.

10 カードリーダ
20 カメラ
30 ゲート装置
40、140 入退室管理装置
41 入出力部
42 記憶部
42a、142a 顔認証データベース
42b 登録処理テーブル
43、143 制御部
43a 利用者ID取得部
43b 顔画像検出部
43c 認証処理部
43d ゲート制御部
43e 登録処理部
43f 選別処理部
143g 誤登録削除処理部
DESCRIPTION OF SYMBOLS 10 Card reader 20 Camera 30 Gate apparatus 40,140 Entrance / exit management apparatus 41 Input / output part 42 Storage part 42a, 142a Face authentication database 42b Registration process table 43, 143 Control part 43a User ID acquisition part 43b Face image detection part 43c Authentication Processing unit 43d Gate control unit 43e Registration processing unit 43f Sorting processing unit 143g Incorrect registration deletion processing unit

Claims (10)

利用者を一意に識別する利用者識別情報と、利用者の登録画像データとを関連づけて記憶する認証データベースを管理する認証データベース管理方法であって、
前記利用者識別情報を取得する利用者識別情報取得ステップと、
前記利用者識別情報取得ステップにより取得された利用者識別情報である取得識別情報を用い、当該取得識別情報に前記登録画像データとともに関連付けられ、前記登録画像データの登録状態の評価を示す成熟度を前記認証データベースから取得する成熟度取得ステップと、
撮像装置により撮像された入力画像データと前記認証データベースに記憶された登録画像データとを照合処理し、前記入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する画像認証ステップと、
少なくとも前記成熟度を用い、当該成熟度の値によっては前記画像認証識別情報と前記取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、前記入力画像データを新たな登録顔画像データとして前記取得識別情報に関連付けて登録することで前記認証データベースを更新するデータベース更新ステップと
を含んだことを特徴とする認証データベース管理方法。
An authentication database management method for managing an authentication database for storing user identification information for uniquely identifying a user and registered image data of the user in association with each other,
A user identification information acquisition step for acquiring the user identification information;
Using the acquired identification information which is the user identification information acquired in the user identification information acquisition step, the maturity indicating the evaluation of the registration status of the registered image data is associated with the acquired identification information together with the registered image data. A maturity obtaining step to obtain from the authentication database;
The input image data captured by the imaging device is collated with the registered image data stored in the authentication database, and the user identification information associated with the registered image data similar to the input image data is displayed as the image authentication identification information. Image authentication step to output as
When at least the maturity level is used, and depending on the value of the maturity level, a predetermined condition for further using a comparison result between the image authentication identification information and the acquired identification information is satisfied, the input image data is newly registered as a face image. A database update step of updating the authentication database by registering it in association with the acquired identification information as data.
前記データベース更新ステップは、前記取得識別情報の成熟度が第1の成熟度閾値から第2の成熟度閾値の範囲内であり、前記取得識別情報と前記画像認証識別情報とが一致する場合には、前記入力画像データを新たな登録顔画像データとして登録し、前記取得識別情報の成熟度が第1の成熟度閾値から第2の成熟度閾値の範囲内であり、前記取得識別情報と前記画像認証識別情報とが不一致である場合には、前記入力画像データと前記登録画像データとの類似度が類似度閾値以下であることを条件に、前記入力画像データを新たな登録顔画像データとして登録することを特徴とする請求項1に記載の認証データベース管理方法。   In the database update step, when the maturity level of the acquired identification information is within a range from a first maturity level threshold value to a second maturity level threshold value, and the acquired identification information and the image authentication identification information match. The input image data is registered as new registered face image data, and the maturity of the acquired identification information is within a range from a first maturity threshold to a second maturity threshold, and the acquired identification information and the image If the authentication identification information does not match, the input image data is registered as new registered face image data on the condition that the similarity between the input image data and the registered image data is not more than a similarity threshold. The authentication database management method according to claim 1, wherein: 前記データベース更新ステップは、前記取得識別情報の成熟度が前記第2の成熟度閾値以下である場合には、前記画像認証識別情報と前記取得識別情報とが一致するか否かに関わらず、前記入力画像データを前記取得識別情報に関連づけて新たな登録画像データとして登録することを特徴とする請求項2に記載の認証データベース管理方法。
In the database update step, when the maturity level of the acquired identification information is equal to or less than the second maturity threshold value, the image authentication identification information and the acquired identification information are matched regardless of whether the acquired identification information matches. 3. The authentication database management method according to claim 2 , wherein the input image data is registered as new registered image data in association with the acquired identification information.
前記データベース更新ステップは、前記取得識別情報の成熟度が前記第1の成熟度閾値より大きい場合には、前記取得識別情報と前記画像認証識別情報とが一致し、かつ前記入力画像データと前記登録画像データとの類似度が類似度閾値よりも大きいことを条件に、前記入力画像データの登録を行うことを特徴とする請求項2〜3のいずれか一つに記載の認証データベース管理方法。 In the database update step, when the maturity level of the acquired identification information is larger than the first maturity level threshold, the acquired identification information and the image authentication identification information match, and the input image data and the registration The authentication database management method according to any one of claims 2 to 3, wherein the input image data is registered on the condition that a similarity with image data is larger than a similarity threshold. 前記成熟度は、前記登録画像データの登録実績並びに/若しくは認証における使用実績を用いて算出された評価値であることを特徴とする請求項1〜4のいずれか一つに記載の認証データベース管理方法。   The authentication database management according to any one of claims 1 to 4, wherein the maturity is an evaluation value calculated using a registration record and / or a use record in authentication of the registered image data. Method. 前記認証データベースは、前記利用者の顔部分の画像を登録画像データとして記憶し、
前記画像認証ステップは、前記撮像装置により撮像された画像から顔部分を検出した部分画像を前記入力画像データとして用いる
ことを特徴とする請求項1〜5のいずれか一つに記載の認証データベース管理方法。
The authentication database stores an image of the user's face part as registered image data,
The authentication database management according to any one of claims 1 to 5, wherein the image authentication step uses, as the input image data, a partial image obtained by detecting a face portion from an image captured by the imaging device. Method.
前記画像認証ステップは、移動中の人物を前記撮像装置が連続的に撮像した複数の画像からそれぞれ前記入力画像データを検出することを特徴とする請求項6に記載の認証データベース管理方法。   The authentication database management method according to claim 6, wherein in the image authentication step, the input image data is detected from a plurality of images in which the imaging device continuously captures a moving person. 前記利用者識別情報取得ステップは、所定の記録媒体から前記利用者識別情報を読み出して取得することを特徴とする請求項1〜7のいずれか一つに記載の認証データベース管理方法。   The authentication database management method according to claim 1, wherein the user identification information acquisition step reads and acquires the user identification information from a predetermined recording medium. 利用者を一意に識別する利用者識別情報と、利用者の登録画像データとを関連づけて記憶する認証データベースを管理する認証データベース管理装置であって、
前記認証データベースは、前記利用者識別情報に前記登録画像データの登録状態の評価を示す成熟度をさらに関連付けて管理し、
前記利用者識別情報を取得する利用者識別情報取得手段と、
撮像装置により撮像された入力画像データと前記認証データベースに記憶された登録画像データとを照合処理し、前記入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する画像認証手段と、
前記利用者識別情報取得手段により取得された利用者識別情報である取得識別情報に関連付けられた成熟度を少なくとも用い、当該成熟度の値によっては前記画像認証識別情報と前記取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、前記入力画像データを新たな登録顔画像データとして前記取得識別情報に関連付けて登録することで前記認証データベースを更新するデータベース更新手段と
を備えたことを特徴とする認証データベース管理装置。
An authentication database management apparatus that manages an authentication database that stores user identification information that uniquely identifies a user and user registered image data in association with each other,
The authentication database further manages the user identification information in association with a maturity indicating an evaluation of a registration state of the registered image data,
User identification information acquisition means for acquiring the user identification information;
The input image data captured by the imaging device is collated with the registered image data stored in the authentication database, and the user identification information associated with the registered image data similar to the input image data is displayed as the image authentication identification information. Image authentication means for outputting as
At least the maturity level associated with the acquired identification information that is the user identification information acquired by the user identification information acquisition means is used, and depending on the value of the maturity level, the image authentication identification information and the acquired identification information may be compared. Database update means for updating the authentication database by registering the input image data as new registered face image data in association with the acquired identification information when a predetermined condition for further using the result is satisfied. An authentication database management device.
利用者を一意に識別する利用者識別情報と、利用者の登録画像データとを関連づけて記憶する認証データベースを管理する認証データベース管理プログラムであって、
前記利用者識別情報を取得する利用者識別情報取得手順と、
前記利用者識別情報取得手順により取得された利用者識別情報である取得識別情報を用い、当該取得識別情報に前記登録画像データとともに関連付けられ、前記登録画像データの登録状態の評価を示す成熟度を前記認証データベースから取得する成熟度取得手順と、
撮像装置により撮像された入力画像データと前記認証データベースに記憶された登録画像データとを照合処理し、前記入力画像データに類似する登録画像データに対応付けられた利用者識別情報を画像認証識別情報として出力する画像認証手順と、
少なくとも前記成熟度を用い、当該成熟度の値によっては前記画像認証識別情報と前記取得識別情報との比較結果をさらに用いる所定の条件を満たした場合に、前記入力画像データを新たな登録顔画像データとして前記取得識別情報に関連付けて登録することで前記認証データベースを更新するデータベース更新手順と
をコンピュータに実行させることを特徴とする認証データベース管理プログラム。
An authentication database management program for managing an authentication database for storing user identification information for uniquely identifying a user and registered image data of the user in association with each other,
A user identification information acquisition procedure for acquiring the user identification information;
Using the acquired identification information which is the user identification information acquired by the user identification information acquisition procedure, the maturity indicating the evaluation of the registration status of the registered image data is associated with the acquired identification information together with the registered image data. A maturity acquisition procedure acquired from the authentication database;
The input image data captured by the imaging device is collated with the registered image data stored in the authentication database, and the user identification information associated with the registered image data similar to the input image data is displayed as the image authentication identification information. Image authentication procedure to output as
When at least the maturity level is used, and depending on the value of the maturity level, a predetermined condition for further using a comparison result between the image authentication identification information and the acquired identification information is satisfied, the input image data is newly registered as a face image. An authentication database management program that causes a computer to execute a database update procedure for updating the authentication database by registering it in association with the acquired identification information as data.
JP2013272615A 2013-12-27 2013-12-27 Authentication database management method, authentication database management apparatus, and authentication database management program Active JP6360304B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013272615A JP6360304B2 (en) 2013-12-27 2013-12-27 Authentication database management method, authentication database management apparatus, and authentication database management program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013272615A JP6360304B2 (en) 2013-12-27 2013-12-27 Authentication database management method, authentication database management apparatus, and authentication database management program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017207605A Division JP6427248B2 (en) 2017-10-26 2017-10-26 Authentication database management method, authentication database management device and authentication database management program

Publications (3)

Publication Number Publication Date
JP2015127853A JP2015127853A (en) 2015-07-09
JP2015127853A5 JP2015127853A5 (en) 2016-12-15
JP6360304B2 true JP6360304B2 (en) 2018-07-18

Family

ID=53837841

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013272615A Active JP6360304B2 (en) 2013-12-27 2013-12-27 Authentication database management method, authentication database management apparatus, and authentication database management program

Country Status (1)

Country Link
JP (1) JP6360304B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7104291B2 (en) * 2017-06-30 2022-07-21 キヤノンマーケティングジャパン株式会社 Information processing system, information processing method, program
JP7299543B2 (en) * 2017-06-30 2023-06-28 キヤノンマーケティングジャパン株式会社 Information processing system, information processing method, program
WO2019181442A1 (en) * 2018-03-20 2019-09-26 日本電気株式会社 Information processing device, control method, and program
JP7211399B2 (en) * 2020-06-25 2023-01-24 横河電機株式会社 Apparatus, method and program
CN114429663B (en) * 2022-01-28 2023-10-20 北京百度网讯科技有限公司 Updating method of face base, face recognition method, device and system

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013077068A (en) * 2011-09-29 2013-04-25 Sogo Keibi Hosho Co Ltd Face authentication database management method, face authentication database management device, and face authentication database management program

Also Published As

Publication number Publication date
JP2015127853A (en) 2015-07-09

Similar Documents

Publication Publication Date Title
KR101714350B1 (en) Image Recognition Apparatus and Data Registration Method for Image Recognition Apparatus
JP5574515B2 (en) Biometric device and method
JP6360304B2 (en) Authentication database management method, authentication database management apparatus, and authentication database management program
JP5228872B2 (en) Biometric authentication apparatus, biometric authentication method, biometric authentication computer program, and computer system
US7257241B2 (en) Dynamic thresholding for a fingerprint matching system
JP5710748B2 (en) Biometric authentication system
JP4911300B2 (en) Pattern information registration device, pattern information registration method, pattern information registration program, and pattern matching system
JP2013077068A (en) Face authentication database management method, face authentication database management device, and face authentication database management program
US9792484B2 (en) Biometric information registration apparatus and biometric information registration method
JP5932317B2 (en) Face authentication database management method, face authentication database management apparatus, and face authentication database management program
CN103313018A (en) Registration determination device, control method thereof, and electronic apparatus
JPH07121712A (en) Fingerprint matching device
JP6427248B2 (en) Authentication database management method, authentication database management device and authentication database management program
JP2006085268A (en) Biometrics system and biometrics method
JP2011150497A (en) Person identification device, person identification method, and software program thereof
JP6855266B2 (en) Face recognition system, face recognition method, and face recognition program
JP6432634B2 (en) Authentication device, authentication method, and program
Meagher et al. Characterization of Latent Print" Lights-Out" Modes for Automated Fingerprint Identification Systems.
JP2006277146A (en) Collating method and collating device
JP2013077067A (en) Face authentication database management method, face authentication database management device, and face authentication database management program
JP5498096B2 (en) Fingerprint verification device
JP2010129045A (en) Biometric authentication device
US20050152585A1 (en) Print analysis
CN115668311A (en) Authentication method, authentication program, and information processing device
JP6049253B2 (en) Face authentication database management method, face authentication database management apparatus, and face authentication database management program

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161027

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161027

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170829

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180213

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180612

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180622

R150 Certificate of patent or registration of utility model

Ref document number: 6360304

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250