JP5791148B2 - 認証システム及び信頼度判定方法 - Google Patents

認証システム及び信頼度判定方法 Download PDF

Info

Publication number
JP5791148B2
JP5791148B2 JP2011200869A JP2011200869A JP5791148B2 JP 5791148 B2 JP5791148 B2 JP 5791148B2 JP 2011200869 A JP2011200869 A JP 2011200869A JP 2011200869 A JP2011200869 A JP 2011200869A JP 5791148 B2 JP5791148 B2 JP 5791148B2
Authority
JP
Japan
Prior art keywords
determination process
face image
authentication
reliability
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011200869A
Other languages
English (en)
Other versions
JP2013061875A (ja
Inventor
佑人 小松
佑人 小松
智明 吉永
智明 吉永
哲 染谷
哲 染谷
洋登 永吉
洋登 永吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Information and Telecommunication Engineering Ltd
Original Assignee
Hitachi Information and Telecommunication Engineering Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Information and Telecommunication Engineering Ltd filed Critical Hitachi Information and Telecommunication Engineering Ltd
Priority to JP2011200869A priority Critical patent/JP5791148B2/ja
Priority to DE102012216191A priority patent/DE102012216191A1/de
Priority to CN201210339487.7A priority patent/CN103093187B/zh
Priority to US13/613,772 priority patent/US9189680B2/en
Publication of JP2013061875A publication Critical patent/JP2013061875A/ja
Application granted granted Critical
Publication of JP5791148B2 publication Critical patent/JP5791148B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Collating Specific Patterns (AREA)

Description

本発明は、認証システムに関し、特に入退室時のなりすましを検出するシステムに関する。
近年、犯罪率の増加などのセキュリティ問題への関心の高まりによって、セキュリティ区域への入退室時のセキュリティ管理の必要性が高まっている。このため、セキュリティ製品の高信頼化が望まれている。入退室管理システムでは、主に、被験者が所持する非接触型又は接触型のカードをカードリーダで読み取る方法が用いられている。また、被験者の顔画像によって認証する入退室管理システムもある。
一方、画像を高信頼で検索するために、画像の撮影時間を用いて検索する顔画像検索システムが提案されている。例えば、特許文献1には、顔が登録されてから顔が撮影されるまでの時間に対応する予測係数を記憶し、顔が登録された時点から顔が撮影された時点までの時間を予測する特徴量を演算し、顔を認識する方式が開示されている。
特開2007−102517号公報
しかし、前述した特許文献1に開示されている方式では、予め登録された顔画像データと照合するため、最近の顔画像データと照合されておらず、照合の精度を高めることができないという問題や、顔画像データが増加すると照合の処理時間が増加する問題がある。
本発明の目的は、ユーザがカードを用いて入退室する場合、顔画像データベースを検索した結果によって、管理者に警報を高速かつ精度良く発報することにある。
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、被験者を認証する認証システムであって、被験者を識別するための識別情報又は生体情報を取得する読取装置と、前記読取装置によって取得された情報を認証する認証装置と、被験者の顔画像を撮影するカメラと、警報を発報する端末に接続され、前記カメラによって撮影された画像を蓄積する画像データベースを有する管理装置と、を備え、前記管理装置は、前記カメラが顔画像を取得したことを契機に、当該顔画像と前記画像データベースに蓄積された画像との類似度を判定する第1の判定処理と、前記読取装置が情報を取得したことを契機に、当該読取装置が取得した情報を用いて、前記画像データベースを検索し、前記カメラが取得した顔画像と前記検索された画像との類似度を判定する第2の判定処理と、前記第1の判定処理の判定結果及び第2の判定処理の判定結果に基づいて、前記認証の信頼度が低いと判定された場合、警報を発するためのデータを前記端末に送信する処理と、を実行し、前記第1の判定処理では、前記カメラが取得した顔画像を用いて前記画像データベースを検索し、前記画像データベースに蓄積された画像と前記顔画像との類似度を計算し、前記計算された類似度と所定の閾値とを比較することによって、類似度が高い顔画像を前記画像データベースから抽出し、前記抽出された画像を、該画像を撮影したカメラ毎に分類し、前記分類された画像を解析した結果、前記分類された画像の数を比較し、前記分類された画像の数が1位となるカメラの占める割合と、2位となるカメラの占める割合との比が所定の閾値より大きい場合、当該認証の信頼度が高いと判定する。
本発明の代表的な実施の形態によれば、被験者の成りすましを高速かつ精度よく判定することができる。
本発明の第1の実施の形態の認証システムの構成を示すブロック図である。 本発明の第1の実施の形態の判定結果表示画面の一例を説明する図である。 本発明の第1の実施の形態の判定結果表示画面の一例を説明する図である。 本発明の第1の実施の形態の成りすまし判定結果の警報の発報の一例を説明する図である。 本発明の第1の実施の形態の管理サーバに格納される認証結果データベースを説明する図である。 本発明の第1の実施の形態の顔画像検索システムに格納される顔画像データベースを説明する図である。 本発明の第1の実施の形態の成りすまし検出処理の全体を示すフローチャートである。 本発明の第1の実施の形態の第2の例において警報を表示する画面の一例を説明する図である。 本発明の第1の実施の形態の信頼度判定処理1の第1の例のフローチャートである。 本発明の第1の実施の形態の信頼度判定処理1の第2の例のフローチャートである。 本発明の第1の実施の形態の信頼度判定処理1の第3の例のフローチャートである。 本発明の第1の実施の形態の信頼度判定処理2の第2の例のフローチャートである。 本発明の第1の実施の形態の信頼度判定処理2の第3の例のフローチャートである。 本発明の第1の実施の形態の信頼度判定処理2の第4の例のフローチャートである。 本発明の第2の実施の形態の認証システムの構成を示すブロック図である。
<実施形態1>
図1は、本発明の第1の実施の形態の認証システムの構成を示すブロック図である。
第1の実施の形態の認証システムは、カメラ102、読取装置103、コントローラ104、管理サーバ105及び顔画像検索システム106を備える。図1には、複数の読取装置103、複数のコントローラ104及び複数の管理サーバ105が備わるが、各々一つずつ備わってもよい。
カメラ102は、被験者の顔画像を撮影する撮像装置であり、読取装置103を操作する人の顔位置を、その撮影範囲に含む。読取装置103は、被験者が所持する記憶媒体(例えば、磁気カード、ICカード、無線タグ等)に付与され、記憶されている識別情報(カードID)を読み出す装置であり、例えばカードリーダである。
コントローラ104は、読取装置103を制御し、読取装置103が取得した情報の認証が成功した場合、認証に基づく処理(例えば、ドアの解錠、コンピュータのロックの解錠など)を行う。図1には、1台のコントローラ104に複数の読取装置103が接続される例を示したが、コントローラ104と読取装置103が1対1で接続されてもよい。
管理サーバ105は、プログラムを実行するプロセッサ、プロセッサによって実行されるプログラムを記憶するメモリ、他の装置との通信を制御する通信インターフェース、及び認証結果データベース300を格納する不揮発性記憶装置を有するコンピュータである。認証結果データベース300は、図5に示す、被験者の過去の認証結果が蓄積されるデータベースである。
管理サーバ105は、コントローラ104を制御し、読取装置103が取得した情報を認証し、認証の成否をコントローラ104に送る。図1には、1台の管理サーバ105に複数のコントローラ104が接続される例を示したが、管理サーバ105とコントローラ104が1対1で接続されてもよい。
顔画像検索システム106は、プログラムを実行するプロセッサ、プロセッサによって実行されるプログラムを記憶するメモリ、他の装置との通信を制御する通信インターフェース、及び顔画像データベース310を格納する不揮発性記憶装置を有するコンピュータである。顔画像データベース310は、図6に示す、被験者の顔画像が蓄積されるデータベースである。また、顔画像検索システム106は、カメラ102が撮影した顔画像と蓄積された顔画像との類否を判定し、被験者の成りすましの有無を端末107に通知する。図1には、1台の顔画像検索システム106に複数の管理サーバ105が接続される例を示したが、管理サーバ105は1台でもよい。
端末107は、プログラムを実行するプロセッサ、プロセッサによって実行されるプログラムを記憶するメモリ、他の装置との通信を制御する通信インターフェース、及びキーボード、表示装置などの入出力インターフェースを有するコンピュータである。
図1には、各装置及びコンピュータが1対1で接続されるように図示したが、これらの装置及びコンピュータはネットワークを介して接続されてもよい。
なお、各コンピュータのプロセッサによって実行されるプログラムは、不揮発性の記憶媒体又はネットワークを介して、各コンピュータに提供される。このため、各コンピュータは、記憶媒体(CD−ROM、フラッシュメモリ等)を読み込むインターフェースを備えるとよい。
読取装置103は、被験者が所持するカードに格納されたカードIDを取得し、取得したカードIDをコントローラ104に送る。コントローラ104は、読取装置103が取得したカードIDを管理サーバ105に送り、管理サーバ105は、読取装置103が取得したカードIDを顔画像検索システム106に送る。
なお、読取装置103とカメラ102とを一つの装置に構成してもよい。この場合、カメラ102と顔画像検索システム106とは直接接続されずに、コントローラ104及び管理サーバ105を介して接続されてもよい。
また、管理サーバ105は、読取装置103が取得したカードID認証データベースに格納された情報とを比較して、カードIDを認証する。管理サーバ105は、認証が成功した場合、コントローラ104に認証成功を通知する。コントローラ104は、認証成功の通知を受けると、読取装置103が設置されているドアを解錠し、被験者の入退室を許可する。なお、この認証時に暗証番号の入力を求め、被験者が読取装置103に入力した暗証番号とカードIDとを併用して認証してもよい。
カメラ102は、顔画像検索システム106に接続されており、撮影した被験者の顔画像を顔画像検索システム106に送る。
顔画像検索システム106は、カメラ102が撮影した顔画像及び管理サーバ105から出力されたカードIDを取得し、顔画像の撮影時刻及びカードIDの取得時刻に基づいて、顔画像とカードIDとを対応付ける。さらに、顔画像検索システム106は、撮影された顔画像と蓄積された顔画像との類似度を計算し、両画像の類否を判定する。画像の類似度は、公知の画像マッチング技術を用いて計算することができる。なお、本発明の実施の形態では、画像が似ている程、大きな値となる類似度を用いる。
この判定は、後述するように、読取装置103が取得したカードIDによる絞り込みを併用してもよいし、カードIDによる絞り込みを併用しなくてもよい。さらに、顔画像検索システム106は、該判定結果に基づいて被験者の成りすましの有無を判定し、なりすましの判定結果を端末107に通知する。
端末107では、表示プログラム(例えば、ウェブブラウザ)が実行されており、顔画像検索システム106から出力される成りすましの判定結果を、表示画面に表示する。なお、顔画像検索システム106が顔画像の類否判定の結果を出力し、端末107が、この類否判定結果に基づいて、成りすましの有無を判定してもよい。
図2及び図3は、第1の実施の形態の成りすまし判定結果を通知するために端末107に表示される判定結果表示画面の一例を説明する図であり、図2は成りすましが検出されていない場合に表示される画面200を、図3は成りすましが検出された場合に表示される画面230を示す。
判定結果表示画面200、230には、図2、図3に示すように、入室者欄202、氏名欄201及び顔検索結果欄203が含まれ、これらの情報が被験者毎に表示される。入室者欄202には、読取装置103が被験者のカードからカードIDを取得した時刻に対応する顔画像、及び当該顔画像を撮影した時刻が表示される。氏名欄201には、被験者が所持するカードから読み取ったカードIDに対応する氏名が表示される。なお、カードIDをキーとして、顔画像検索システム106に格納された被験者データベース(図示省略)を検索することによって、氏名は取得することができる。顔検索結果欄203には、顔画像データベース310に登録された顔画像のうち、読取装置103が取得したカードIDに対応する顔画像及び当該顔画像を撮影した時刻が表示される。
顔画像検索システム106が成りすましを検出していない場合、図2に示すように、判定結果表示画面200の各入室者毎に設けられた表示領域210、220に、入室者の顔画像、氏名及び検索された顔画像検索結果が表示される。
一方、顔画像検索システム106が成りすましを検出した場合、図3に示すように、判定結果表示画面230の成りすましが検出された入室者の表示領域250は、成りすましが検出されていない入室者の表示領域240と異なる態様で表示される。例えば、この成りすましが検出された場合の表示態様は、図3に示すように、通常と異なる色で表示領域の背景を表示したり、通常と異なる枠で表示領域を表示したり、さらに、音による警報を発してもよい。
この成りすましを検出した警報は、管理者が確認するまで継続され、連続的に発報しても、図4に示すように断続的に発報してもよい。断続的に発報する場合、前記の背景、枠が点滅するように表示される。また、警報音も断続的に発せられる。
図5は、第1の実施の形態の管理サーバ105に格納される認証結果データベース300を説明する図である。
認証結果データベース300は、過去に試みられた認証に関する情報を格納し、時刻301、カードリーダID302、カードID303、判定結果304及び類似度305を含む。
時刻301は、この認証の元となるカードIDが取得された時刻である。なお、管理サーバ105がこの認証を判定した時刻でもよい。カードリーダID302は、この認証の元となるカードIDを取得した読取装置103を一意に識別するための識別情報である。カードID303は、この認証の元となるカードIDが記憶された記憶媒体の識別情報であり、当該記憶媒体を所持する被験者を一意に特定するために用いられる。
判定結果304には、この認証が成功したか、失敗したかを示すフラグが格納される。類似度305は、この認証時に撮影された顔画像と、この認証に伴い検索された顔画像との類似度である。
管理サーバ105は、被験者の認証を試みる毎に、認証結果データベース300にデータを追加する。さらに、管理サーバ105は、認証結果データベース300に追加されたデータを顔画像検索システム106に送る。顔画像検索システム106は、受信したデータを顔画像データベース310に追加する。
図6は、第1の実施の形態の顔画像検索システム106に格納される顔画像データベース310を説明する図である。
顔画像データベース310は、被験者の顔画像及び当該画像に関する情報(例えば、入退室履歴)を格納し、時刻311、カードリーダID312、カードID313、サーバID314、判定結果315、類似度316及び顔画像317を含む。
時刻311、カードリーダID312、カードID313、判定結果315及び類似度316には、それぞれ、認証結果データベース300に含まれる時刻301、カードリーダID302、カードID303、判定結果304及び類似度305と同じ情報が格納される。すなわち、顔画像検索システム106は、各管理サーバ105から送られた上記データを、認証の際に撮影された画像とリンクさせて、顔画像データベース310に登録する。
サーバID314は、上記データを顔画像検索システム106に送信した(すなわち、この認証を処理した)管理サーバ105を一意に識別するための識別情報である。顔画像317は、この認証時に撮影された被験者の顔画像のデータである。なお、顔画像317に、顔画像のバイナリデータではなく、画像ファイルへのリンクを格納してもよい。
なお、顔画像データベース310には、カメラ102が撮影した顔画像の他に、予め登録された被験者の顔画像を登録してもよい。また、撮影(カードIDの取得時刻)から所定期間を経過したデータを顔画像データベース310から削除してもよい。
図7は、第1の実施の形態の成りすまし検出処理の全体を示すフローチャートである。図7に示す成りすまし検出処理は、顔画像検索システム106のプロセッサが、メモリに格納されたプログラムを実行することによって実行される。
第1の実施の形態では、被験者がカメラ102の撮影範囲に入ったタイミングで、カメラ102が被験者の顔画像を撮影する。すなわち、カメラ102は、常時、動画像を撮影し、フレームに変化があれば、当該フレームをキャプチャして静止画像を取得する。カメラ102は、撮影範囲に入った被験者の顔を撮影すると、撮影された顔画像を顔画像検索システム106に送る。顔画像検索システム106は、カメラ102が撮影した顔画像を受信することによって、成りすまし検出処理を開始する(S101)。
次に、顔画像検索システム106は、認証の信頼度を判定する(S102)。この信頼度判定処理1の具体的な内容は図9から図11を用いて後述する。認証の信頼度が低いと判定された場合、読取装置103からカードIDを取得するまでの間、カメラ102が取得した他の顔画像を用いて、認証の信頼度を判定する処理(S102)を繰り返す。一方、被験者が保持するカードを読取装置103に読み取らせると、読取装置103は、当該カードに格納されたカードIDを読み取り、読み取ったカードIDを管理サーバ105を経由して顔画像検索システム106に送る(S105)。
読取装置103が読み取ったカードIDを取得すると(S103)、顔画像検索システム106は、信頼度判定処理1を停止して、信頼度の判定結果を出力する(S104)。
また、顔画像検索システム106は、信頼度判定処理1を停止した後、読取装置103が読み取ったカードIDを用いて、さらに、認証の信頼度を判定する(S106)。この信頼度判定処理2の具体的な内容は図12から図14を用いて後述する。
信頼度判定処理2では、読取装置103が読み取ったカードID及びカメラ102が取得した顔画像を用いて、認証の信頼度を判定し、信頼度を出力する(S107)。
そして、信頼度判定処理1及び2の判定結果を用いて、成りすましを判定する(S108)。判定の結果、認証の信頼度が高いと判定された場合、この被験者は他人に成りすましている可能性が低いので、成りすまし検出「無」の表示画面(図2)を端末107に出力する(S109)。一方、認証の信頼度が低いと判定された場合、この被験者は他人に成りすましている可能性が高いので、成りすまし検出「有」の表示画面(図3)を端末107に出力する(S110)。
このステップS110における警報の発報の例を図8に示す。判定結果表示画面260には、入室者欄202、氏名欄201及び顔検索結果欄203が含まれ、これらの情報が被験者毎に表示される。判定結果表示画面260には、認証の信頼度が低い入室者の表示領域270は、認証の信頼度が高い入室者の表示領域280と異なる態様で表示される。この認証の信頼度が低い場合の表示態様は、通常と異なる色で表示領域の背景を表示したり、通常と異なる枠で表示領域を表示したりする。さらに、音による警報を発してもよい、連続的又は断続的に警報を発報してもよい。
その後、終了命令を待って処理を終了するが、終了命令が無ければステップS101に戻って、カメラ102より被験者の顔画像を取得する。
次に、信頼度判定処理1(S102)の詳細について三つの例を説明する。
図9は、信頼度判定処理1(S102)の第1の例のフローチャートである。第1の例では、顔画像の類似度によって認証の信頼性を判定する。
まず、顔画像検索システム106は、ステップS101において取得した1枚以上の被験者の顔画像をキーとして顔画像データベース310を検索し、所定の類似度以上の顔画像を抽出する(S112)。
そして、顔画像データベース310から抽出された顔画像とステップS101で取得した顔画像との類似度の平均値を計算する(S113)。
そして、計算された類似度の平均値と所定の閾値とを比較することによって、信頼度を判定する(S114)。具体的には、類似度の平均値が所定の閾値より高い場合、認証の信頼度が高いと判定する(S115)。一方、類似度の平均値が所定の閾値より低い場合、認証の信頼度が低いと判定する(S116)。この判定に用いられる閾値の数は、一つでも複数でもよい。複数の閾値を用いた場合、信頼度を高・中・低の多段階に区分けでき、S108からS110において「平常」「注意」「警戒」などの複数段階の警告を発報することができる。
なお、計算された類似度の合計値を用いて信頼度を判定してもよい。この合計値は、ヒット画像の類似度の合計値でも、類似度の高い順に所定数のヒット画像の類似度の合計値でもよい。また、計算された類似度の最小値や最大値を用いて信頼度を判定してもよい。全てのヒット画像の類似度の合計値を用いて信頼度を判定することによって、過去の認証実績を考慮して、認証の信頼度を判定することができる。
図10は、信頼度判定処理1(S102)の第2の例のフローチャートである。第2の例では、当該カメラによる過去の認証実績によって認証の信頼度を判定する。
まず、ステップS101において取得した1枚以上の被験者の顔画像と、顔画像データベース310に格納された顔画像とを比較し、顔画像データベース310に格納された顔画像の類似度を計算する(S129)。
そして、計算された類似度と所定の閾値とを比較することによって、類似度が高い顔画像を選択する(S123)。
その後、当該顔画像を撮影したカメラ毎に、選択された顔画像を分類する(S124)。なお、カメラ毎に顔画像を分類することなく、ステップS101で取得した顔画像を撮影したカメラと同一のカメラによって撮影された画像を選択することによって、当該カメラによって撮影された顔画像と、他のカメラによって撮影された顔画像とを分類してもよい。
その後、分類された画像の信頼度を計算し(S125)、計算された信頼度を所定の閾値と比較することによって、認証の信頼度を判定する(S126)。この信頼度の判定は、例えば、分類された画像の認証成功時の類似度の和を計算し、計算された類似度を所定の閾値と比較することによって、認証の信頼度を判定する。
また、分類された画像の数を計数し、計数された画像数を所定の閾値と比較し、画像数が大きい場合に認証の信頼度が高いと判定してもよい。分類された画像のうち認証に成功した画像の数を計数し、計数された画像数を所定の閾値と比較し、画像数が大きい場合に認証の信頼度が高いと判定してもよい。
また、分類された画像が撮影された際に計算された類似度と、今回の認証時に計算された類似度とを乗じた値の合計を求め、この合計値を所定の閾値と比較し、合計値が大きい場合に認証の信頼度が高いと判定してもよい。
さらに、類似度や画像数を所定の閾値と比較するのではなく、画像を撮影したカメラ毎にこれらの値(類似度、画像数)を比較し、全部の中で当該カメラの占める割合が大きい場合に認証の信頼度が高いと判定してもよい。また、画像を撮影したカメラ毎にこれらの値(類似度、画像数)を比較し、1位となる当該カメラの占める割合と、2位となるカメラの占める割合との比が大きい場合に認証の信頼度が高いと判定してもよい。
そして、信頼度が所定の閾値より大きければ、信頼度が高いと判断し(S127)、信頼度が所定の閾値より小さければ、信頼度が低いと判断する(S128)。
以上説明したように、第2の例では、顔画像データベース310から取得した顔画像の数によって認証の信頼度を判定することによって、過去の認証実績を考慮した警報を発報することができる。また、顔画像の類似度を計算しないので、少ない計算量で認証の信頼度を判定することができる。
図11は、信頼度判定処理1(S102)の第3の例のフローチャートである。
まず、顔画像検索システム106は、ステップS101において取得した1枚以上の被験者の顔画像をキーとして顔画像データベース310を検索し、ステップS101で取得した顔画像と顔画像データベース310に格納された顔画像との類似度を計算し、所定の類似度以上の顔画像を抽出する(S137)。
その後、顔画像データベース310から抽出された顔画像の撮影日時によって、計算された類似度に重み付けをする(S133)。具体的には、顔画像データベース310から取得した顔画像の撮影日時と現在日時とを比較し、現在日時から撮影日時を減じた値(経過時間)を所定の基準で区分けして、各顔画像の重みを決定し、決定された係数を計算された類似度に乗じる。例えば、下記のように係数を決定することができる。
現在日時から30以内 1.5
30日から60日 1.0
60日以上 0.5
また、前述のように表を用いずに、所定の計算式によって重み(係数)を決定してもよい。例えば、最近の画像の重みと古い画像の重みとの差が大きくなるように、経過時間の対数値を用いた式によって重みを計算することができる。
その後、重み付けされた類似度の平均値と所定の閾値とを比較する(S134)。その結果、類似度の平均値が所定の閾値より小さければ、認証の信頼度が高いと判定する(S135)。一方、類似度の平均値が所定の閾値より大きければ、認証の信頼度が低いと判定する(S136)。
第3の例においても、前述した第1の例と同様に、類似度の平均値ではなく、様々な統計値を用いて信頼度を判定することができる。
ここまで、前述した第1の例に重み付けを適用した処理について説明したが、前述した第2の例に第3の例の重み付けを適用することもできる。この場合、重み付けの係数の合計値が画像数となり、重み付けの係数の合計値を認証の信頼度の判定に用いることができる。
以上説明したように、第3の例では、新しい画像は信頼度への貢献が高く、古い画像は信頼度への貢献が低くなることから、信頼度の判定精度を向上させることができる。
以上説明したように、第1の実施の形態によると、ユーザの顔画像およびカード情報に基づいて、成りすましを検出することによって、被験者の成りすましを精度よく発報することができる。また、予め登録された顔画像だけでなく、認証時に撮影された顔画像も用いてなりすましを判定することができる。
次に、信頼度判定処理2(S106)の詳細について四つの例を説明する。
第1の例では、取得したカードIDを用いることなく、顔画像の類似度によって認証の信頼性を判定する。
信頼度判定処理2(S106)の第1の例は、前述した信頼度判定処理1の第1の例と同じであるため、詳細な説明は省略する。
図12は、信頼度判定処理2(S106)の第2の例のフローチャートである。第2の例では、当該カメラによる過去の認証実績によって認証の信頼度を判定する。
まず、顔画像検索システム106は、ステップS105において取得したカードIDをキーとして顔画像データベース310を検索し、当該カードIDに関連付けられた顔画像を取得する(S121)。
そして、顔画像データベース310から抽出された顔画像と、ステップS101で取得した顔画像との類似度を計算する(S122)。
その後、ステップS123〜S128の処理を実行する。このステップS123〜S128の処理は、前述した信頼度判定処理1の第2の例の処理と同じである。
図13は、信頼度判定処理2(S106)の第3の例のフローチャートである。第3の例は、前述した第1及び第2の例に付加される変形例で、顔画像データベース310から取得した顔画像を撮影した日時に従って画像毎に重み付けをする。
まず、顔画像検索システム106は、ステップS103において取得したカードIDをキーとして顔画像データベース310を検索し、当該カードIDに関連付けられた顔画像を取得する(S131)。
そして、顔画像データベース310から抽出された顔画像と、ステップS101で取得した(すなわち、この認証において撮影された)顔画像との類似度を計算する(S132)。
その後、ステップS133〜S136の処理を実行する。このステップS133〜S136の処理は、前述した信頼度判定処理1の第3の例の処理と同じである。
図14は、信頼度判定処理2(S106)の第4の例のフローチャートである。第4の例では、顔画像のヒット数によって認証の信頼性を判定する。
まず、顔画像検索システム106は、ステップS103において取得したカードIDをキーとして顔画像データベース310を検索し、当該カードIDに関連付けられた顔画像を抽出する(S141)。
そして、顔画像データベース310から抽出された顔画像の数を計数し(S142)、計数された顔画像数と所定の閾値とを比較する(S143)。その結果、顔画像数が大ければ、認証の信頼度が高いと判定する(S144)。一方、顔画像数が小さければ、認証の信頼度が低いと判定する(S145)。この判定に用いられる閾値の数は、一つでも複数でもよい。複数の閾値を用いた場合、信頼度を高・中・低の多段階に区分けでき、「平常」「注意」「警戒」などの複数段階の警告を発報することができる。
これは、抽出された顔画像の数が多い場合、当該被験者は頻繁に認証を試みているので、この認証が適切である可能性が高く、信頼度が高いと判定することができる。一方、抽出された顔画像の数が少ない場合、当該被験者はたまにしか認証を試みていないので、この認証が適切でない可能性があり、認証の信頼度が低いと判定することができる。
なお、抽出された全ての画像の数ではなく、抽出された画像のうち認証に成功した場合の画像数を用いてもよい。認証に成功した際に撮影された顔画像のみを用いる(認証に失敗した際に撮影された顔画像を除外する)ことによって、信頼度の判定精度を向上させることができる。
また、特定の管理サーバ105又は特定の読取装置103を用いた認証の結果(認証試行回数、認証成功回数)に基づいて信頼度を判定してもよい。特定の場所における認証回数を用いることによって、通常と異なる行動を検出することができ、信頼度の判定精度を向上させることができる。
さらに、過去の認証結果のうち、認証失敗回数を所定の閾値と比較し、認証失敗回数が多い場合に警報を発報してもよい。
信頼度判定処理2において、前述した第1から第4の例を併用してもよい。すなわち、いずれかの判定で信頼度が低いと判定された場合、成りすまし「有」と判定することができる。また、複数の判定で信頼度が低いと判定された場合のみ、成りすまし「有」と判定することもできる。
次に、信頼度判定処理1と信頼度判定処理2との関係について説明する。
(1)第1のパターンでは、信頼度判定処理1と信頼度判定処理2とは同じ処理で、信頼度判定処理2では、顔画像データベース310のうち、信頼度判定処理1による処理が終わっていない部分についてカードIDを用いて絞り込んだ後、画像間の類似度を計算する。
例えば、信頼度判定処理1(S102)及び信頼度判定処理2(S106)の両方が第2の例である場合、被験者がカメラ102の撮影範囲に入ったタイミングで、カメラ102が被験者の顔画像を撮影し(S101)、取得した被験者の顔画像と、顔画像データベース310に格納された顔画像とを比較し、顔画像データベース310に格納された顔画像の類似度を計算し(S129)、選択された顔画像をカメラ毎に分類し(S124)、分類された画像の信頼度を計算する(S125)。信頼度判定処理1の実行中に、読取装置103がカードIDを読み取ると(S105)、信頼度判定処理1が終了し(S104)、信頼度判定処理2が開始する(S106)。信頼度判定処理2では、顔画像データベース310に含まれる顔画像のうち、信頼度判定処理1で処理が終わっていない部分の画像について処理を実行する。
そして、信頼度判定処理1によって出力された中間的な信頼度(S104)及び信頼度判定処理2によって出力された信頼度(S107)に基づいて、成りすましを判定する(S108)。
第1のパターンによると、読取装置103がカードIDを読み取る前から、取得した被験者の顔画像を用いて顔画像データベース310と照合又は検索を開始するので、読取装置103がカードIDを取得してから成りすましの判定結果が得られるまでの時間を短くすることができる。
なお、読取装置103がカードIDを読み取る前に、顔画像データベース310に格納された全ての顔画像について信頼度判定処理1が完了している場合、信頼度判定処理2を実行しなくてもよい。また、信頼度判定処理2を実行して、信頼度判定処理1によって判定された信頼度及び信頼度判定処理2によって判定された信頼度に基づいて、成りすましを判定し、判定の信頼性の確度を向上させてもよい。
(2)第2のパターンでは、信頼度判定処理1(S102)と信頼度判定処理2(S106)とは異なる処理で、信頼度判定処理2は信頼度判定処理1より厳しく判定される。
例えば、同じ画像の集合を処理した場合、信頼度判定処理1で類似と判定される画像の数が、信頼度判定処理2で類似と判定される画像の数より多くなったり、信頼度判定処理1による類似度の判定閾値が信頼度判定処理2による類似度の判定閾値より低くなったり、信頼度判定処理1による類似度が信頼度判定処理2による類似度より高くなったりする。
より具体的には、信頼度判定処理1(S102)及び信頼度判定処理2(S106)の両方が第3の例であるが、判定閾値が違う場合、ステップS132において顔画像データベース310から顔画像を抽出する際の閾値を、信頼度判定処理1では緩く設定し、信頼度判定処理2では厳しく設定する。そして、信頼度判定処理1で顔画像データベース310から抽出された顔画像について、信頼度判定処理2で処理をする。すなわち、信頼度判定処理1で顔画像データベース310から抽出された顔画像について、信頼度判定処理2のステップS131においてカードIDをキーにして検索する。
(3)第3のパターンでは、信頼度判定処理1(S102)と信頼度判定処理2(S106)とは異なる処理で、信頼度判定処理1は信頼度判定処理2より高速であり、信頼度判定処理2は信頼度判定処理1より高精度で処理される。
例えば、顔画像データベース310に、ピクセル数が少ない粗い顔画像と、ピクセル数が多い詳細な顔画像とが含まれている場合、信頼度判定処理1(S102)では、粗い顔画像を用いて高速かつ低精度で画像の類否を判定し、信頼度判定処理2(S106)では、信頼度判定処理1によって絞り込まれた画像について、詳細な顔画像を用いて高精度かつ低速に画像の類否を判定する。
第2及び第3のパターンによると、取得した被験者の顔画像を用いて、読取装置103がカードIDを読み取る前から顔画像データベース310と概略の照合又は検索をし、読取装置103がカードIDを読み取った後に、概略の照合又は検索がされた顔画像と詳細な照合又は検索をするので、読取装置103がカードIDを取得してから成りすましの判定結果が得られるまでの時間を短くすることができる。
(4)第4のパターンでは、前述した第1から第3のパターンにおいて、信頼度判定処理2(S106)の実行を制御する。
例えば、読取装置103がカードIDを読み取る前に、顔画像データベース310に格納された全ての顔画像について信頼度判定処理1が完了している場合、信頼度判定処理1によって判定された信頼度を使用し、信頼度判定処理2を実行しない。
また、読取装置103がカードIDを読み取る前に、顔画像データベース310に格納された一部の顔画像について信頼度判定処理1が完了していなくても、信頼度判定処理1によって信頼度が高いと判定された場合、信頼度判定処理2を実行しない。すなわち、信頼度判定処理1によって信頼度が高いと判定されなかった場合に、信頼度判定処理2を実行する。
第4のパターンによると、取得した被験者の顔画像を用いて、読取装置103がカードIDを読み取る前から顔画像データベース310と概略の照合又は検索をし、読取装置103がカードIDを読み取った際に、認証の信頼度が高いと判定された場合、読取装置103がカードIDを取得した後の照合又は検索を行わないので、読取装置103がカードIDを取得してから成りすましの判定結果が得られるまでの時間を短くすることができる。
以上説明したように、本発明の第1の実施形態によると、読取装置103がカードIDを読み取る前から、取得した被験者の顔画像を用いて顔画像データベース310との照合又は検索を開始するので、読取装置103がカードIDを取得してから成りすましの判定結果が得られるまでの時間を短くすることができる。
<実施形態2>
前述した第1の実施の形態では、カメラ102の撮影範囲内の状態、すなわち、カメラ102が連続的に撮影する動画像のフレームに変化があれば、当該フレームをキャプチャして静止画像を撮影し、撮影された画像に含まれる被験者の顔画像を顔画像データベース310に蓄積している。しかし、顔画像データベース310には、様々な方向から見た、様々な大きさの顔画像が保存されているので、蓄積されている顔画像には、同一人でも類似度が高い画像と、類似度が低い画像とが混在している。このように、カメラに正対した場合の顔画像との類似度が高い顔画像と、類似度が低い顔画像とが混在することによって、信頼度の判定精度が低下する。
そこで、本発明の第2の実施の形態では、被験者がカメラ102の撮影範囲に入って、適切な顔画像が撮影可能なタイミングで、カメラ102が被験者の顔画像を撮影する。すなわち、読取装置103に人感センサ108を設け、読取装置103の前に被験者が立った(すなわち、カメラ102の撮影範囲に被験者が入って、カメラに正対した)ことを、人感センサ108が検出した場合、カメラ102が被験者の顔画像を撮影する。人感センサ108には、例えば、赤外線センサや、超音波センサを用いることができる。
人感センサ108を、読取装置103ではなくカメラ102に設け、カメラ102の撮影範囲に被験者が入ったことを人感センサ108が検出した場合、カメラ102が被験者の顔画像を撮影してもよい。
カメラ102は、撮影範囲に入った被験者の顔を撮影すると、撮影された顔画像を顔画像検索システム106に送る。顔画像検索システム106は、カメラ102が撮影した顔画像を受信することによって、成りすまし検出処理を開始する(S101)。以後の処理は、前述した第1の実施形態と同じである。
なお、第2の実施の形態は、前述した第1の実施の形態だけでなく、後述する第3の実施の形態にも適用することができる。
以上説明したように、第2の実施の形態では、被験者の顔がカメラ102の撮影範囲に入ったタイミングで顔画像を撮影するので、照合に不適な顔画像の蓄積が抑制され、このシステムを長期間運用しても、顔画像データベース310の容量の増加を抑制することができる。よって、ストレージ装置(磁気ディスク等)の記憶容量が小さい場合でも、顔画像データベース310をストレージ装置に格納することができる。また、顔画像データを削除するためのバッチ処理を実行する必要がない。
<実施形態3>
前述した第1の実施の形態では、例えば被験者が保持するカードを読取装置103に読み取らせると、読取装置103は、当該カードに格納されたカードIDを読み取り、読み取ったカードIDを管理サーバ105を経由して顔画像検索システム106に送信する(S103)。読取装置103がカードIDを読み出す(すなわち、被験者が所持する)記憶媒体は、第1の実施形態で例示した磁気カード、ICカード、無線タグに限らず、車両用鍵、ドア用鍵、無線タグ等に付与され、これらに記憶されている識別情報を利用することができる。また、記憶媒体に格納されたカードIDだけではなく、指紋、指静脈パターン、掌静脈パターン、虹彩等の、被験者に固有の生体情報を用いてもよい。
102 カメラ
103 読取装置
104 コントローラ
105 管理サーバ
106 顔画像検索システム
107 端末
108 人感センサ

Claims (12)

  1. 被験者を認証する認証システムであって、
    被験者を識別するための識別情報又は生体情報を取得する読取装置と、
    前記読取装置によって取得された情報を認証する認証装置と、
    被験者の顔画像を撮影するカメラと、
    警報を発報する端末に接続され、前記カメラによって撮影された画像を蓄積する画像データベースを有する管理装置と、を備え、
    前記管理装置は、
    前記カメラが顔画像を取得したことを契機に、当該顔画像と前記画像データベースに蓄積された画像との類似度を判定する第1の判定処理と、
    前記読取装置が情報を取得したことを契機に、当該読取装置が取得した情報を用いて、前記画像データベースを検索し、前記カメラが取得した顔画像と前記検索された画像との類似度を判定する第2の判定処理と、
    前記第1の判定処理の判定結果及び第2の判定処理の判定結果に基づいて、前記認証の信頼度が低いと判定された場合、警報を発するためのデータを前記端末に送信する処理と、を実行し、
    前記第1の判定処理では、
    前記カメラが取得した顔画像を用いて前記画像データベースを検索し、
    前記画像データベースに蓄積された画像と前記顔画像との類似度を計算し、
    前記計算された類似度と所定の閾値とを比較することによって、類似度が高い顔画像を前記画像データベースから抽出し、
    前記抽出された画像を、該画像を撮影したカメラ毎に分類し、
    前記分類された画像を解析した結果、前記分類された画像の数を比較し、前記分類された画像の数が1位となるカメラの占める割合と、2位となるカメラの占める割合との比が所定の閾値より大きい場合、当該認証の信頼度が高いと判定することを特徴とする認証システム。
  2. 前記第1の判定処理と前記第2の判定処理とは同一の処理であって、
    前記第1の判定処理は、前記カメラが顔画像を取得した後に開始し、前記読取装置が情報を取得した場合に停止し、
    前記第2の判定処理は、前記読取装置が情報を取得した後に開始し、前記画像データベースのうち、前記第1の判定処理によって処理がされていない部分について処理をすることを特徴とする請求項1に記載の認証システム。
  3. 前記第1の判定処理は、類似と判定される画像の数が、前記第2の判定処理より多くなる処理であって、
    前記第2の判定処理は、前記第1の判定処理によって類似と判定された画像のみについて処理をすることを特徴とする請求項1に記載の認証システム。
  4. 前記第1の判定処理は、前記第2の判定処理より高速な処理であって、
    前記第2の判定処理は、前記第1の判定処理によって類似と判定された画像のみについて処理をすることを特徴とする請求項1に記載の認証システム。
  5. 前記第1の判定処理によって認証の信頼度が高いと判定された場合、前記第2の判定処理を実行せず、認証の信頼度が高いと判定することを特徴とする請求項1から4のいずれか一つに記載の認証システム。
  6. 前記管理装置は、前記第1の判定処理及び前記第2の判定処理の少なくとも一方として、
    前記計算された画像の類似度に、前記画像の撮影日時が新しければ大きな値となる重み付けをし、
    前記重み付けされた類似度の平均と所定の閾値とを比較し、
    前記比較の結果、前記類似度が低いと判定された場合、前記認証の信頼度が低いと判定することを特徴とする請求項1から4のいずれか一つに記載の認証システム。
  7. 被験者を識別するための識別情報又は生体情報を取得する読取装置と、
    前記読取装置によって取得された情報を認証する認証装置と、を備える認証システムにおける認証の信頼度を判定する方法であって、
    前記認証システムは、被験者の顔画像を撮影するカメラと、警報を発報する端末に接続され、前記カメラによって撮影された画像を蓄積する画像データベースを有する管理装置と、を含み、
    前記方法は、
    前記管理装置が、前記カメラが顔画像を取得したことを契機に、当該顔画像と前記画像データベースに蓄積された画像との類似度を判定する第1の判定処理ステップと、
    前記管理装置が、前記読取装置が情報を取得したことを契機に、当該読取装置が取得した情報を用いて、前記画像データベースを検索し、前記カメラが取得した顔画像と前記検索された画像との類似度を判定する第2の判定処理ステップと、
    前記管理装置が、前記第1の判定処理の判定結果及び第2の判定処理の判定結果に基づいて、前記認証の信頼度が低いと判定された場合、警報を発するためのデータを前記端末に送信する第3のステップとを含み、
    前記第1の判定処理では、
    前記カメラが取得した顔画像を用いて前記画像データベースを検索し、
    前記画像データベースに蓄積された画像と前記顔画像との類似度を計算し、
    前記計算された類似度と所定の閾値とを比較することによって、類似度が高い顔画像を前記画像データベースから抽出し、
    前記抽出された画像を、該画像を撮影したカメラ毎に分類し、
    前記分類された画像を解析した結果、前記分類された画像の数を比較し、前記分類された画像の数が1位となるカメラの占める割合と、2位となるカメラの占める割合との比が所定の閾値より大きい場合、当該認証の信頼度が高いと判定することを特徴とする認証の信頼度の判定方法。
  8. 前記第1の判定処理と前記第2の判定処理とは同一の処理であって、
    前記第1の判定処理ステップは、前記カメラが顔画像を取得した後に開始し、前記読取装置が情報を取得した場合に停止し、
    前記第2の判定処理ステップは、前記読取装置が情報を取得した後に開始し、前記画像データベースのうち、前記第1の判定処理によって処理がされていない部分について処理をすることを特徴とする請求項7に記載の認証の信頼度の判定方法。
  9. 前記第1の判定処理は、類似と判定される画像の数が、前記第2の判定処理より多くなる処理であって、
    前記第2の判定処理ステップは、前記第1の判定処理によって類似と判定された画像のみについて処理をすることを特徴とする請求項7に記載の認証の信頼度の判定方法。
  10. 前記第1の判定処理は、前記第2の判定処理より高速な処理であって、
    前記第2の判定処理ステップは、前記第1の判定処理によって類似と判定された画像のみについて処理をすることを特徴とする請求項7に記載の認証の信頼度の判定方法。
  11. 前記第3のステップでは、前記第1の判定処理によって認証の信頼度が高いと判定された場合、前記第2の判定処理を実行せず、認証の信頼度が高いと判定することを特徴とする請求項7から10のいずれか一つに記載の認証の信頼度の判定方法。
  12. 前記管理装置は、前記第1の判定処理ステップ及び前記第2の判定処理ステップの少なくとも一方において、
    前記計算された画像の類似度に、前記画像の撮影日時が新しければ大きな値となる重み付けをし、
    前記重み付けされた類似度の平均と所定の閾値とを比較し、
    前記比較の結果、前記類似度が低いと判定された場合、前記認証の信頼度が低いと判定することを特徴とする請求項7から10のいずれか一つに記載の認証の信頼度の判定方法。
JP2011200869A 2011-09-14 2011-09-14 認証システム及び信頼度判定方法 Active JP5791148B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2011200869A JP5791148B2 (ja) 2011-09-14 2011-09-14 認証システム及び信頼度判定方法
DE102012216191A DE102012216191A1 (de) 2011-09-14 2012-09-12 Authentifizierungssystem
CN201210339487.7A CN103093187B (zh) 2011-09-14 2012-09-13 认证系统
US13/613,772 US9189680B2 (en) 2011-09-14 2012-09-13 Authentication system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011200869A JP5791148B2 (ja) 2011-09-14 2011-09-14 認証システム及び信頼度判定方法

Publications (2)

Publication Number Publication Date
JP2013061875A JP2013061875A (ja) 2013-04-04
JP5791148B2 true JP5791148B2 (ja) 2015-10-07

Family

ID=48186477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011200869A Active JP5791148B2 (ja) 2011-09-14 2011-09-14 認証システム及び信頼度判定方法

Country Status (1)

Country Link
JP (1) JP5791148B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2015016262A1 (ja) * 2013-07-30 2017-03-02 日本電気株式会社 情報処理装置、認証システム、認証方法、及びプログラム
CN107408298B (zh) 2015-03-13 2021-05-28 日本电气株式会社 生命体检测设备、生命体检测方法和记录介质
JP6816821B2 (ja) 2017-03-31 2021-01-20 日本電気株式会社 顔認証システム、装置、方法、プログラム
JP6819653B2 (ja) * 2018-07-09 2021-01-27 日本電気株式会社 検知装置
JP7167790B2 (ja) * 2019-03-20 2022-11-09 株式会社デンソーウェーブ 認証システム
JP7253735B2 (ja) * 2019-07-02 2023-04-07 パナソニックIpマネジメント株式会社 通過可否判定装置、通過管理システム、通過可否判定方法、及び、コンピュータプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002279466A (ja) * 2001-03-15 2002-09-27 Toshiba Corp 入場管理装置および入場管理方法
JP2003346149A (ja) * 2002-05-24 2003-12-05 Omron Corp 顔照合装置および生体情報照合装置
US20040151352A1 (en) * 2002-11-25 2004-08-05 Hiroshi Nakajima Pattern collation apparatus
JP2004258963A (ja) * 2003-02-26 2004-09-16 Fujitsu Ltd 多段階照合による高速idレス照合方法およびシステム
US7515741B2 (en) * 2005-01-07 2009-04-07 Motorola, Inc. Adaptive fingerprint matching method and apparatus
JP4832951B2 (ja) * 2006-04-28 2011-12-07 富士通株式会社 生体認証装置および生体認証プログラム
JP2008071366A (ja) * 2007-10-22 2008-03-27 Toshiba Corp 顔画像照合装置、顔画像照合システム及び顔画像照合方法
JP2009259269A (ja) * 2009-07-27 2009-11-05 Toshiba Corp 顔画像記録システム及び顔画像記録方法
JP5438419B2 (ja) * 2009-07-29 2014-03-12 富士フイルム株式会社 人物照合装置及び人物照合方法

Also Published As

Publication number Publication date
JP2013061875A (ja) 2013-04-04

Similar Documents

Publication Publication Date Title
US9189680B2 (en) Authentication system
US8079061B2 (en) Authentication system managing method
JP5618295B2 (ja) 認証システム及び認証の信頼度の判定方法
JP5791148B2 (ja) 認証システム及び信頼度判定方法
US9430693B2 (en) Biometric authentication apparatus and biometric authentication method
US11798332B2 (en) Information processing apparatus, information processing system, and information processing method
US20130216094A1 (en) Systems, methods and computer program products for identifying objects in video data
CN108875341A (zh) 一种人脸解锁方法、装置、系统及计算机存储介质
US20080002861A1 (en) Biometrics authentication method and biometrics authentication system
US20010026634A1 (en) Personal identification apparatus and method
US20070183634A1 (en) Auto Individualization process based on a facial biometric anonymous ID Assignment
JP2009289253A (ja) 生体認証システム、認証クライアント端末、及び生体認証方法
CN108734092B (zh) 人物认证装置
JP6035059B2 (ja) 認証システム、認証方法
KR102415504B1 (ko) 사용자 인증을 위한 등록 데이터베이스의 갱신 방법 및 장치
JP7147860B2 (ja) 生体認証装置、生体認証方法、及び生体認証プログラム
US9798958B2 (en) Biometric information registration device and method
JPWO2012144105A1 (ja) 生体認証システム
JP2010146502A (ja) 認証処理装置および認証処理方法
CN112231668A (zh) 基于击键行为的用户身份认证方法、电子设备和存储介质
JP4862518B2 (ja) 顔登録装置、顔認証装置および顔登録方法
JP2018128736A (ja) 顔認証システム、顔認証方法、及び顔認証プログラム
WO2022180814A1 (ja) 認証方法、認証プログラム、および情報処理装置
KR101106450B1 (ko) 분석되지 않은 복수개의 대상들에 대해 셀프 체크아웃으로보안 작용을 수행하는 방법 및 시스템
JP2014071684A (ja) 顔画像認証装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140411

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150731

R150 Certificate of patent or registration of utility model

Ref document number: 5791148

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250