JP7253691B2 - 照合装置及び照合方法 - Google Patents

照合装置及び照合方法 Download PDF

Info

Publication number
JP7253691B2
JP7253691B2 JP2019530909A JP2019530909A JP7253691B2 JP 7253691 B2 JP7253691 B2 JP 7253691B2 JP 2019530909 A JP2019530909 A JP 2019530909A JP 2019530909 A JP2019530909 A JP 2019530909A JP 7253691 B2 JP7253691 B2 JP 7253691B2
Authority
JP
Japan
Prior art keywords
image
subject
face
captured image
registered
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019530909A
Other languages
English (en)
Other versions
JPWO2019017080A1 (ja
Inventor
めぐみ 山岡
隆行 松川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2019017080A1 publication Critical patent/JPWO2019017080A1/ja
Application granted granted Critical
Publication of JP7253691B2 publication Critical patent/JP7253691B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40Spoof detection, e.g. liveness detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation

Description

本発明は、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合装置及び照合方法に関する。
従来、顔画像に基づいて個人を識別する顔認証技術が知られている。このような顔認証技術では、被認証者の顔を撮像装置で撮影して得た顔画像を、予め登録されている被認証者の顔画像と照合することにより、顔認証が行われる。例えば、スマートフォンなどのモバイル端末において、該端末の利用者の本人確認のための顔認証を行なう場合は、モバイル端末に搭載された撮像装置(カメラ)で被認証者の顔を撮影して得た顔画像を、モバイル端末または該端末と通信可能な認証サーバに予め登録されている登録画像(事前に撮影して得ておいた被認証者の顔画像)と照合することにより顔認証が行われる。
しかし、このような顔認証技術では、顔写真を利用して顔写真の人物になりすまして不正に認証を取得しようとする「なりすまし」の問題がある。例えば、モバイル端末と該端末の利用者の身分証明証を不正に入手し、その身分証明証に付されている顔写真を撮像装置で撮影して得た顔画像を用いて、顔写真の人物になりすまして不正に認証を取得しようとすることが想定される。そのため、撮像装置で撮影して得た顔画像が、写真を撮影して得たものか、それとも人間を撮影して得たものであるかを識別することが求められている。
そこで、撮影時に被認証者に対して瞬きや顔の向きの変更などの所定の動作を要求し、要求した動作の実施の有無に基づいて撮影対象が人間であることを確認する手法や、照明条件を変更して複数回撮影し、各回の撮影で得られた顔画像に生じた陰影を比較することにより、撮影対象が人間であることを確認する手法が提案されている(特許文献1参照)。
特開平11-339048号公報
しかしながら、上記の特許文献1の手法では、撮影時に被認証者に対して所定の動作を要求したり、照明条件を変更して複数回撮影したりする必要があるため、顔認証作業の利便性や簡便性が損なわれるという問題があった。
本開示は、このような従来技術の課題を鑑みて案出されたものであり、被写体を撮像装置で撮影して得た撮像画像を予め登録されている登録被写体の登録画像と照合する技術において、写真を利用した不正を容易に防止することを可能とする照合装置及び照合方法を提供することを主目的とする。
本開示は、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合装置であって、プロセッサと、前記被写体の写真を撮影して得た画像である写真画像を排除可能な予め定められた判定条件を予め記憶した記憶部とを備え、前記プロセッサは、前記撮像画像に含まれる顔領域の輝度分布を検出し、前記検出された輝度分布が前記判定条件を満たすか否かを判定し、前記判定条件を満たす撮像画像を使用して、該画像中の前記被写体が前記登録画像中の前記被写体と一致するか否かの照合を行うことを特徴とする。
また、本開示は、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合装置であって、プロセッサと、前記被写体の写真を撮影して得た画像である写真画像を排除可能な予め定められた判定条件を予め記憶した記憶部とを備え、前記プロセッサは、前記撮像画像の輝度分布を検出し、前記検出された輝度分布が前記判定条件を満たすか否かを判定し、前記判定条件を満たす撮像画像を使用して、前記撮像画像中の前記被写体が前記登録画像中の前記登録被写体と一致するか否かの照合を行い、前記判定条件が、前記撮像画像を取得するときに前記被写体に照射される判定用光線の形状であり、前記プロセッサは、前記判定用光線が照射された前記被写体を撮影して取得した撮像画像から、前記撮像画像中の輝度が予め定められた基準値を上回った領域であるハイライトを検出し、前記ハイライトが検出され、かつ前記検出されたハイライトの形状が前記判定用光線の形状に対応する場合には、前記撮像画像が前記写真画像であると判定することを特徴とする。
本開示によれば、被写体を撮像装置で撮影して得た撮像画像を予め登録されている登録被写体の登録画像と照合する照合技術において、写真を利用した不正を容易に防止することが可能となる。
図1は、本開示に係る照合装置を含む照合システムの概略図である。 図2は、モバイル端末の概略構成を示すブロック図である。 図3は、認証サーバの概略構成を示すブロック図である。 図4Aは、写真画像とその顔領域の輝度ヒストグラムとを示す図である。 図4Bは、実写画像とその顔領域の輝度ヒストグラムとを示す図である。 図5は、複数の写真画像及び実写画像について、各顔領域の最大輝度値と最小輝度値をプロットしたグラフである。 図6は、分離境界を求める方法を説明するためのフロー図である。 図7は、本開示の第1実施形態に係る照合装置での一連の処理について説明するためのフロー図である。 図8は、判定用光線の照射方法の一例を示す図である。 図9Aは、写真画像に形成されたハイライトを示す図である。 図9Bは、実写画像に形成されたハイライトを示す図である。 図10は、本開示の第2実施形態に係る照合装置での一連の処理について説明するためのフロー図である。
上記課題を解決するためになされた第1の発明は、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合装置であって、プロセッサと、前記被写体の写真を撮影して得た画像である写真画像を排除可能な予め定められた判定条件を予め記憶した記憶部とを備え、前記プロセッサは、前記撮像画像の輝度分布を検出し、前記検出された輝度分布が前記判定条件を満たすか否かを判定し、前記判定条件を満たす撮像画像を使用して、該画像中の前記被写体が前記登録画像中の前記登録被写体と一致するか否かの照合を行うことを特徴とする。
この第1の発明に係る照合装置によれば、照合を行うときに、被写体を撮像装置で撮影して得た撮像画像の輝度分布に基づいて、写真画像を排除することができる。これにより、写真を利用した不正を容易に防止することが可能となる。
また、第2の発明は、上記第1の発明において、前記判定条件が、前記撮像画像中に予め定められた上限境界を上回る輝度が含まれているか否か、及び、前記撮像画像中に予め定められた下限境界を下回る輝度が含まれているか否かの少なくとも一方に基づき、前記被写体の実物を撮影して得た画像である実写画像と前記写真画像とを分離できる分離境界であることを特徴とする。
この第2の発明に係る照合装置によれば、輝度の高さ及び低さの少なくとも一方に基づいて、実写画像と写真画像とを区別することができる。したがって、複雑な画像処理を行うことなく、実写画像と写真画像とを比較的容易に区別することが可能となる。
また、第3の発明は、上記第2の発明において、前記分離境界が、前記撮像画像の輝度の最大値及び最小値の少なくとも一方に基づき、前記被写体の実物を撮影して得た画像である実写画像と前記写真画像とを分離できる境界であり、前記プロセッサは、前記撮像画像の輝度の最大値及び最小値の少なくとも一方を検出し、前記検出された輝度の最大値及び最小値の少なくとも一方を前記分離境界と照らし合わせることにより、前記撮像画像が前記実写画像であるかそれとも前記写真画像であるかを判定することを特徴とする。
この第3の発明に係る照合装置によれば、撮像画像に基づいて照合を行うときに、予め求めておいた分類境界を用いて、実写画像と写真画像とを識別することができる。これにより、写真画像の排除が容易となる。
また、第4の発明は、上記第3の発明において、前記分離境界は、前記写真画像及び前記実写画像の輝度の最大値及び最小値の少なくとも一方のデータ群を、2クラス分類識別器を使用して2クラス分類することにより求めたことを特徴とする。
この第4の発明に係る照合装置によれば、適切な分離境界を容易に求めることができる。
また、第5の発明は、上記第1の発明において、前記判定条件が、前記撮像画像を取得するときに前記被写体に照射される判定用光線の形状であり、前記プロセッサは、前記判定用光線が照射された前記被写体を撮影して取得した撮像画像から、該画像中の輝度が予め定められた基準値を上回った領域であるハイライトを検出し、前記ハイライトが検出され、かつ前記検出されたハイライトの形状が前記判定用光線の形状に対応する場合には、前記撮像画像が前記写真画像であると判定することを特徴とする。
この第5の発明に係る照合装置によれば、撮像画像に基づいて照合を行うときに、撮像画像に形成されたハイライトの有無または形状に基づいて、実写画像と写真画像とを識別することができる。これにより、写真画像の排除が容易となる。
また、第6の発明は、上記第5の発明において、前記判定用光線が、予め定められた幅を有する横長直線状の形状を有する光線であることを特徴とする。
この第6の発明に係る照合装置によれば、撮像画像に形成されたハイライトの形状が、判定用光線の形状に対応するか否かを容易に判定することが可能となる。
また、第7の発明は、上記第5の発明または第6の発明において、前記プロセッサは、前記検出されたハイライトの面積が予め定められた面積よりも小さい場合には、前記撮像画像が前記実写画像であると判定することを特徴とする。
この第7の発明に係る照合装置によれば、検出されたハイライトの面積に基づいて、実写画像と写真画像とを識別することができる。これにより、写真画像の排除が容易となる。
また、第8の発明は、上記第1の発明ないし第7の発明のいずれかにおいて、前記被写体が、人物の顔であることを特徴とする。
この第8の発明に係る照合装置によれば、人物の顔を照合することができる。したがって、身分証明証等に付されている顔写真を利用したなりすましを防止することが可能となる。
また、第9の発明は、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合方法であって、前記被写体の写真を撮影して得た画像である写真画像を排除可能な予め定められた判定条件を予め記憶しておくステップと、前記撮像画像の輝度分布を検出するステップと、前記検出された輝度分布が前記判定条件を満たすか否かを判定するステップと、前記判定条件を満たす撮像画像を使用して、該画像中の前記被写体が前記登録画像中の前記登録被写体と一致するか否かの照合を行うステップとを有することを特徴とする。
この第9の発明に係る照合方法によれば、照合を行うときに、被写体を撮像装置で撮影して得た撮像画像の輝度分布に基づいて、写真画像を排除することができる。これにより、写真を利用した不正を容易に防止することが可能となる。
以下、本開示の実施形態について、図面を参照しながら説明する。以下の実施形態では、被認証者の顔を撮影して得た顔画像を、予め登録されている登録画像(事前に撮影して得ておいた被認証者の顔画像)と照合することにより顔認証を行う場合について説明する。
(第1実施形態)
図1は、本開示に係る照合装置を含む照合システム1の概略図である。図1に示すように、この照合システム1は、顔認証を要求する被認証者が所持するモバイル端末2と、モバイル端末2と連携して顔認証を行う認証サーバ3とを備えている。モバイル端末2は、本開示に係る照合装置に相当する。モバイル端末2と認証サーバ3とは、インターネットや専用回線などのネットワーク4を介して互いに接続されている。
モバイル端末2は、例えばスマートフォンやタブレット端末などであり、被認証者の顔を撮影するための撮影部14を搭載している。また、モバイル端末2には、撮影部14で撮影して得た顔画像(以降、「撮像画像」と称する)に基づいて顔認証を要求するための、認証要求用のアプリケーションプログラムがインストールされている。顔認証を実施するときは、この認証要求用のアプリケーションプログラムを起動して、被認証者が顔認証を求める操作を行うとともに、撮影部14で被認証者の顔を撮影すると、モバイル端末2から認証サーバ3に認証要求及び撮像画像が送信され、認証サーバ3において顔認証に関する処理が実行される。
認証サーバ3は、一般的なコンピュータ装置であり、事前に撮影して得ておいた被認証者の顔画像(以降、「登録画像」と称する)を保管している。そして、認証サーバ3は、モバイル端末2から、認証要求及び撮像画像を受信したときに、受信した撮像画像を登録画像と照合して顔認証を行う。この照合は、顔の各部位(例えば、目、鼻、口)や輪郭などの特徴点に基づく従来公知の照合方法を用いて行うとよい。そして、その照合結果(すなわち、認証結果)をモバイル端末2に送信し、これにより、撮像画像に基づく顔認証が完了する。
図2は、モバイル端末2の概略構成を示すブロック図である。モバイル端末2は、公知のハードウェア構成を備えており、所定の制御プログラム(例えば認証要求プログラム)に基づき、モバイル端末2の各処理(例えば認証要求処理)を統括的に実行するプロセッサ11、例えばRAM(Random Access Memory)であり、プロセッサ11のワークエリア等として機能するメモリ12、例えばROM(Read Only Memory)やハードディスクなどのストレージ(記憶装置)であり、プロセッサ11が実行する制御プログラムやなりすまし判定データベース(DB)などを格納する記憶部13を有している。なりすまし判定DBには、後述する分離境界が保存されている。
また、モバイル端末2は、被認証者の顔を撮影して顔画像(撮像画像)を生成する撮影部14、顔認証を求める操作や、撮影部14に撮影を実行させる操作などが被認証者により行われる操作部15、撮像画像や認証結果の画面などが表示される表示部16、ネットワーク4を介した通信を実行する通信部17をさらに有している。撮影部14は、例えばCMOSイメージセンサなどの固体撮像素子であり、焦点距離は固定されている。
図3は、認証サーバ3の概略構成を示すブロック図である。認証サーバ3は、公知のハードウェア構成を備えており、所定の制御プログラム(例えば顔認証プログラム)に基づき認証サーバ3の各処理(例えば顔認証処理)を統括的に実行するプロセッサ21、例えばRAMであり、プロセッサ21のワークエリア等として機能するメモリ22、例えばROMやハードディスクなどのストレージであり、プロセッサ21が実行する制御プログラムや顔認証に使用される登録画像などを格納する記憶部23、ネットワーク4を介した通信を実行する通信部24を有している。
次に、なりすまし判定DBに保存される分離境界と、それを求める方法について説明する。以降、被認証者の顔写真(プリントされた顔写真)を撮影して得た画像を「写真画像」と称し、被認証者の実物の顔を撮影して得た画像を「実写画像」と称する。本実施形態では、被認証者の顔写真として、運転免許証の写真を用いている。なお、被認証者の顔写真は、運転免許証の写真に限らず、パスポート、住基カード、学生証、その他の各種の身分証明書などに付されている顔写真を用いることができる。
図4Aは、写真画像とその顔領域の輝度ヒストグラムとを示す図である。図4Bは、実写画像とその顔領域の輝度ヒストグラムを示す図である。輝度ヒストグラムは、顔領域の全画素について、輝度毎に画素数(頻度)をカウントしたものである。図4A、図4Bの輝度ヒストグラムから分かるように、実写画像では、輝度は0から255まで幅広く分布しているが、写真画像では、輝度は0及び255までは分布していない。すなわち、写真画像は、実写画像よりも輝度分布の範囲が狭い。
これは、顔写真の反射特性に起因すると考えられる。顔写真は平面状であるため、顔写真に入射した光は一様に反射される。このため、写真画像では、輝度分布の範囲は狭くなる。これに対して、実物の顔は3次元状であり、例えば鼻の部分などにおいて凹凸を有するため、実物の顔に入射した光は様々に反射される。このため、実写画像では、輝度分布の範囲は広くなる。
図5は、複数の写真画像及び実写画像について、各顔領域の最大輝度値と最小輝度値との組み合わせをプロットしたグラフである。グラフの横軸は最小輝度値を示し、縦軸は最大輝度値を示す。上述したように、実写画像は、輝度が0から255まで幅広く分布しているので、最小輝度値が0、または最大輝度値が255であるプロット点が多くなる。これに対して、写真画像は、実写画像よりも輝度分布の範囲が狭いので、プロット点は、最小輝度値が0よりも大きく、最大輝度値が255よりも小さい範囲に分布することとなる。
したがって、実写画像と写真画像とを分離できる分離境界を試行錯誤や実験などによって予め求めておけば、顔認証を行うときに、予め求めておいた分離境界に基づいて、実写画像と写真画像とを識別することが可能となる。求めた分離境界は、なりすまし判定DBに保存しておく。
次に、上述した分離境界を求める方法について、図6のフロー図を参照して説明する。以下の処理は、モバイル端末2で行ってもよいし、認証サーバ3と通信可能な他の端末装置で行ってもよい。他の端末装置を使用する場合は、実際の顔認証時の撮影条件と同一になるように、モバイル端末2の撮影部14と同一の撮像能力を有する撮像装置を使用することが好ましい。
まず、被認証者の実物の顔を撮影する(ステップST101)。続いて、被認証者の実物の顔を撮影することにより得た実写画像から顔領域を抽出する(ステップST102)。顔領域の抽出は、顔の各部位(例えば、目、鼻、口)や輪郭などの特徴点に基づく従来公知の顔領域抽出方法を用いて行うとよい。そして、実写画像の顔領域の輝度の最大値及び最小値を検出する(ステップST103)。
次に、被認証者の顔写真を撮影する(ステップST104)。続いて、被認証者の顔写真を撮影することにより得た写真画像から顔領域を抽出する(ステップST105)。被認証者の顔写真は、例えば、予め用意した被認証者の運転免許証の写真などを用いるとよい。顔領域の検出は、実写画像から顔領域を抽出する場合と同様に、顔の各部位(例えば、目、鼻、口)や輪郭などの特徴点に基づく従来公知の顔領域抽出方法を用いて行うとよい。そして、写真画像の顔領域の輝度の最大値及び最小値を検出する(ステップST106)。なお、ステップST101-103と、ステップST104-106との順番は、逆であってもよい。
次に、実写画像及び写真画像の各顔領域における最大輝度値と最小輝度値との組み合わせを2次元空間に投影(プロット)する(ステップST107)。具体的には、図5を参照して上述したようにして、各顔領域における最大輝度値と最小輝度値との組み合わせを、横軸が最小輝度値を示し縦軸が最大輝度値を示すグラフ上にプロットする。上述したように、実写画像は、輝度が0から255まで幅広く分布しているので、最小輝度値が0、または最大輝度値が255のプロット点が多くなる。一方、写真画像は、実写画像よりも輝度分布の範囲が狭いので、最小輝度値が0より大きく、最大輝度値が255よりも小さいプロット点が多くなる。なお、分離境界の精度は、なりすまし判定DBに登録される最大輝度値と最小輝度値との組み合わせの数が多いほど向上する。そのため、上記のステップST101-ST107の処理は、複数の実写画像と写真画像のそれぞれに対して行われる。よって、ステップST107に続くステップST108では、複数の実写画像と写真画像の全画像について、上記のステップST101-ST107の処理が終了したか否か、すなわち、顔領域の輝度の最大値・最小値が検出されたか否かを判定する。全画像についての処理が終了したと判定された場合(ステップST108:Yes)はステップST109に進み、終了していないと判定された場合(ステップST108:No)はステップST101に戻る。
そして、2次元空間上で実写画像と写真画像とを分類できる分類境界を算出する(ステップST109)。具体的には、SVM(Support Vector Machine)などの2クラス分類器を用いて、実写画像のプロット点(データ群)と写真画像のプロット点(データ群)との2クラスに分類できる最適な分離境界を求める。求められた分類境界は、なりすまし判定DBに保存する(ステップST110)。
このようにして、実写画像と写真画像とを分離できる最適な分離境界を求めることができる。
分離境界は、最大輝度値と最小輝度値との組み合わせとして求められる。以降、分離境界として求められた最大輝度値及び最小輝度値を、それぞれ「境界最大値」及び「境界最小値」と称する。
したがって、顔画像に基づいて顔認証を行うときに、顔画像の顔領域における輝度の最大値が境界最大値以上となり、かつ顔画像の顔領域における輝度の最小値が境界最小値以下となった場合に、実写画像と判定することができる。あるいは、顔画像の顔領域における輝度の最大値が境界最大値を下回り、かつ顔画像の顔領域における輝度の最小値が境界最小値を上回った場合に、写真画像と判定することができる。
なお、分離境界は、境界最大値と境界最小値のいずれか一方だけであってもよい。
境界最大値のみを用いる場合は、顔画像の顔領域における輝度の最大値が境界最大値以上となった場合に、実写画像と判定することができる。あるいは、顔画像の顔領域における輝度の最大値が境界最大値を下回った場合に、写真画像と判定することができる。
境界最小値のみを用いる場合は、顔画像の顔領域における輝度の最小値が境界最小値以下となった場合に、実写画像と判定することができる。あるいは、顔画像の顔領域における輝度の最小値が境界最小値を上回った場合に、写真画像と判定することができる。
なお、分離境界は、実写画像と写真画像とを分離できる限り特に限定されるものではなく、非線形の分離境界を含む様々な分離境界であってよい。また、分離境界を求める方法も、特に限定されるものではなく、例えばニューラルネットワークなどの様々な種類の識別器を用いて分離境界を求めることができる。
次に、本開示の第1実施形態に係る照合装置(モバイル端末)2での一連の処理について、図7のフロー図を参照して説明する。
まず、モバイル端末2の撮影部14で被認証者の実物の顔または顔写真を撮影して、被認証者の顔画像(撮像画像)を取得する(ステップST201)。続いて、取得した顔画像から顔領域を検出する(ステップST202)。これは、顔の各部位(例えば、目、鼻、口)や輪郭などの特徴点に基づく従来公知の顔領域抽出方法を用いて行うとよい。そして、顔領域の輝度の最大値・最小値を抽出する(ステップST203)。
次に、顔画像の顔領域から検出した輝度の最大値・最小値を、なりすまし判定DBに保存されている分類境界と照らし合わせることにより、実写画像と写真画像とを識別する(ステップST204)。上述したように、分類境界は、実写画像と写真画像とを分離することができる。
以上のように、本開示の第1実施形態に係る照合装置(モバイル端末)2によれば、顔画像に基づいて顔認証を行うときに、予め求めておいた分類境界を用いて、実写画像と写真画像とを識別することができる。これにより、顔写真を利用したなりすましを容易に防止することが可能となる。
(第2実施形態)
次に、本開示に係る照合装置(モバイル端末)2の第2実施形態について説明する。なお、この第2実施形態では、以下で特に言及しない事項については、上記の第1実施形態の場合と同様とする。
この第2実施形態は、顔画像の顔領域における輝度の最大値及び最小値に基づいてではなく、顔画像の顔領域における輝度の飽和領域(ハイライト)に基づいて、写真画像であるかそれとも実写画像であるかを判定する点が、上記の第1実施形態と異なる。
モバイル端末2の撮影部14で被写体を撮影するときに、被写体に向けて予め定められた形状の光線(以降、「判定用光線」と称する)を照射すると、被写体が判定用光線を反射することにより、被写体を撮影して得た画像には輝度の飽和領域(輝度が255に達した領域)であるハイライトが形成される。
判定用光線の照射は、例えば、図8に示すように、モバイル端末2の表示部16に高輝度白色領域30を表示することにより実現することができる。本実施形態では、モバイル端末2の表示部16に横長直線状の高輝度白色領域30を表示することにより、横長直線状の判定用光線を照射する。
なお、判定用光線の形状は、横長直線状に限定されるものではなく、縦長直線状、格子状、同心円状などの様々な形状であってよい。また、判定用光線の照射は、モバイル端末2の表示部16に高輝度白色領域を表示することに限らず、例えば、モバイル端末2に搭載された照明部(ライト)から照射するようにしてもよい。この場合は、照明部の光照射面を所定の形状のフィルタで覆うことにより、判定用光線の形状を設定するようにするとよい。
被写体が顔写真である写真画像の場合は、図9Aに示すように、判定用光線の形状と略同一形状のハイライトが形成される。本実施形態では、横長直線状の判定用光線を照射するので、写真画像には、横長直線状のハイライトHが形成される。また、モバイル端末2の撮影部14(カメラ)は焦点距離が固定されているため、顔写真を撮影部14で撮影するときは、顔写真に撮影部14を近づけて撮影することとなる。そのため、顔写真に対して判定用光線が至近距離で照射されるので、写真画像にはハイライトHがはっきりと形成される。
一方、被写体が実物の顔である実写画像の場合は、図9Bに示すように、顔の3次元形状に起因して、顔領域に形成されるハイライトHの形状に歪みが生じる。ハイライトHは、撮影部14から見て光の反射が強い部分に発生する。撮影部14で撮影される反射光の強さは、光源の位置と、光が投影される面の法線と、撮影部14の位置とにより決定される。一般的に、光源と撮影部14とが略同一の位置に存在する場合、つまり、光の投影方向と撮影部14の撮影軸とがほぼ一致する場合、光の投影方向と、光が投影される面の法線とが一致すればするほど、撮影部14で撮影される反射光は強くなる。そのため、実写画像では、顔表面の法線と撮影部14の撮影軸とのなす角度が小さい部分(例えば、人が撮影部14を向いている場合は、鼻の頂点や頬などの部分)にハイライトHが現れやすく、他の部分にはハイライトHは現れにくい。このように、実写画像では、ハイライトHの形状は、判定用光線の形状と一致しない。また、実物の顔を撮影するときは、実物の顔は撮影部14からある程度離して撮影されるので、実写画像にハイライトが形成されないこともある。なお、上記の説明では、判定用光線の光源と撮影部14とが略同一の位置に存在しているという前提に基づいているが、判定用光線の光源と撮影部14とが互いに離れた位置に存在している場合は、上述した部分(例えば、鼻の頂点や頬などの部分)にハイライトHが発生するとは限らない。また、上述した部分または他の部分にハイライトHが発生した場合でも、ハイライトHの形状は、顔表面の3次元形状の影響を受けるため、判定用光線の形状と一致しない。
したがって、モバイル端末2の撮影部14で被認証者の顔(実物の顔または顔写真)を撮影して被認証者の顔画像を取得するときに、被認証者の顔に向けて判定用光線を照射すると、撮影により取得された顔画像の顔領域に形成されたハイライトの有無、またはハイライトの形状が判定用光線の形状と一致するか否かに基づいて、実写画像と写真画像とを識別することが可能となる。判定用光線の形状は、モバイル端末2の記憶部13に予め記憶させておく。
そして、判定用光線として、予め定められた幅を有する横長直線状の光線を照射すると、顔画像に形成されたハイライトの形状が判定用光線の形状と一致するか否かを容易に判定することができる。これは、図9Bに示したようなハイライトHの形状の上下方向の歪みは、他の方向または他の形状の歪みと比べて、検出が容易なためである。
次に、本開示の第2実施形態に係る照合装置(モバイル端末)2での一連の処理について、図10のフロー図を参照して説明する。
まず、モバイル端末2の表示部16に高輝度白色領域30を表示することにより、被認証者の顔(実物の顔または顔写真)に向けて判定用光線を照射する(ステップST301)。続いて、モバイル端末2の撮影部14で被認証者の顔を撮影して、被認証者の顔画像(撮像画像)を取得する(ステップST302)。
次に、顔画像からハイライトが検出されたか否かを判定する(ステップST303)。具体的には、顔画像における輝度の飽和領域(輝度が255に達した領域)をハイライトとして検出する。ハイライトが検出されたと判定された場合(ステップST303:Yes)は、ステップST304に進み、ハイライトが検出されなかったと判定された場合(ステップST303:No)は、ステップST306に進む。
ステップST304では、ステップST303で検出されたハイライトの形状が、判定用光線の形状と一致するか否かを判定する。上述したように、判定用光線の形状は、モバイル端末2の記憶部13に記憶されている。判定用光線の形状と一致すると判定された場合(ステップST304:Yes)は、ステップST305に進み、判定用光線の形状と一致しないと判定された場合(ステップST304:No)は、ステップST306に進む。
ステップST305では、顔画像が写真画像であると判定し、ステップST306では、顔画像が実写画像であると判定する。
以上のように、本開示の第2実施形態に係る照合装置(モバイル端末)2によれば、顔画像に基づいて顔認証を行うときに、顔画像に形成されたハイライトの有無または形状に基づいて、実写画像と写真画像とを識別することができる。これにより、顔写真を利用したなりすましを容易に防止することが可能となる。
以上、本開示を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本開示はこれらの実施形態によって限定されるものではない。また、上記実施形態に示した本開示に係る照合装置及び照合方法の各構成要素は、必ずしも全てが必須ではなく、少なくとも本開示の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
例えば、本実施形態では、照合システム1を、モバイル端末2と認証サーバ3とから構成したが、認証サーバ3の機能をモバイル端末2内に組み込むように構成してもよい。この場合は、照合システム1は、モバイル端末2のみにより構成されることとなる。
また、本実施形態では、モバイル端末2における顔認証について説明したが、本開示に係る照合システム1は、例えばデスクトップ型のパーソナルコンピュータなどの非モバイル端末における顔認証や、入出ゲートで電気鍵または自動ドアの解錠を行うセキュリティシステムにおける顔認証などの様々な用途に適用可能である。
また、本実施形態では、輝度の飽和領域をハイライトとしたが、これに限られるものではない。飽和していなくとも輝度が予め定められた基準値よりも高い領域をハイライトとしてもよい。写真が光沢のある印画紙等に現像されている場合には輝度は容易に飽和するが、写真が画用紙などに印刷されている場合には輝度は飽和しにくくなる。そのため、輝度が飽和しにくい紙に印刷された写真なども排除したい場合には、ハイライトは、輝度が予め定められた基準値よりも高い領域とすればよい。
また、本実施形態では、ハイライトの形状が判定用光線の形状と一致するか否かにより、写真画像であるか否かを判定していたが、これに限られるものではない。例えば、写真を傾けたり曲げたりした状態で判定用光線に当てると、ハイライトの形状に多少の歪みが生じる。例えば、傾けた状態の写真に対して真円状の判定用光線を当てると、真円状ではなく楕円状のハイライトが現れることとなる。そのため、ハイライトの形状と判定用光線の形状との一致は厳密に判断するのではなく、ある程度の対応関係が見られれば写真画像であると判断してもよい。対応関係の例としては、角の数が判定用光線とハイライトとで一致するか否かを評価したり、ハイライトの形状が判定用光線の形状を線形変換して得られる形状であるか否かを評価したりするなど、様々なものが考えられる。
また、本実施形態では、撮影部14として焦点距離が固定されたものを例として説明したが、これに限られるものではない。撮影部14として焦点距離が可変のものを使用してもよい。ただし、被写体と撮影部14との間の距離が大きくなると適切なハイライトが現れない場合があるため、ハイライトを使用して実写画像と写真画像とを識別する場合は、焦点距離を短距離に固定することが望ましい。この場合、ユーザは撮像画像の焦点を合わせるために撮影部14に接近せざるを得ないので、その結果、適切なハイライトが現れることが期待できる。
また、本実施形態において、ハイライトの面積が予め定められた面積よりも小さい場合には(ハイライト自体を認識できない場合も含む)、実写画像であると判定してもよい。一般的に、光沢紙等に印画されている写真よりも実物の方が、光が散乱し易く、ハイライトが発生しにくいためである。また、厳格に不正を検知する必要がある場合は、形状が認識できないほどハイライトの面積が小さい場合には、撮り直しを要求するように構成してもよい。実物であれば撮影部14に接近するなどの行動によりハイライトが発生する画像を撮り直すことは容易だからである。
また、本実施形態では、顔画像を照合することによって認証する構成を例として説明したが、これに限られるものではない。認証は照合技術の応用の一つに過ぎず、例えば、特定の特徴を持つ人物を検索する場合など認証を想定していない照合を行うことも考えられるが、本実施形態はこのような場合にも適用することができる。また、照合の対象も人物の顔には限らない。被写体の写真を用いることで実際の被写体と混同させる不正行為を行うことができる他の被写体であってもよい。例えば、ブランド品や貴金属を遠隔で鑑定する場合などにも本実施形態を応用することができる。
本開示に係る照合装置及び照合方法は、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合技術において、写真を利用した不正を容易に防止することを可能とする照合装置及び照合方法等として有用である。
1 照合システム
2 モバイル端末(照合装置)
3 認証サーバ
4 ネットワーク
11 プロセッサ
12 メモリ
13 記憶部
14 撮影部
15 操作部
16 表示部
17 通信部
30 高輝度白色領域
H ハイライト

Claims (5)

  1. 被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合装置であって、
    プロセッサと、
    前記被写体の写真を撮影して得た画像である写真画像を排除可能な予め定められた判定条件を予め記憶した記憶部とを備え、
    前記プロセッサは、
    前記撮像画像の輝度分布を検出し、
    前記検出された輝度分布が前記判定条件を満たすか否かを判定し、
    前記判定条件を満たす撮像画像を使用して、前記撮像画像中の前記被写体が前記登録画像中の前記登録被写体と一致するか否かの照合を行い、
    前記判定条件が、前記撮像画像を取得するときに前記被写体に照射される判定用光線の形状であり、
    前記プロセッサは、前記判定用光線が照射された前記被写体を撮影して取得した撮像画像から、前記撮像画像中の輝度が予め定められた基準値を上回った領域であるハイライトを検出し、
    前記ハイライトが検出され、かつ前記検出されたハイライトの形状が前記判定用光線の形状に対応する場合には、前記撮像画像が前記写真画像であると判定することを特徴とする照合装置。
  2. 前記判定用光線が、予め定められた幅を有する横長直線状の形状を有する光線であることを特徴とする請求項1に記載の照合装置。
  3. 前記プロセッサは、前記検出されたハイライトの面積が予め定められた面積より小さい場合には、前記撮像画像が実写画像であると判定することを特徴とする請求項1または2に記載の照合装置。
  4. 前記被写体が、人物の顔であることを特徴とする請求項1ないし3のいずれかに記載の照合装置。
  5. プロセッサが記憶部と協働して、被写体を撮像装置で撮影して得た撮像画像を、予め登録されている登録被写体の登録画像と照合する照合方法であって、
    前記記憶部が、前記被写体の写真を撮影して得た画像である写真画像を排除可能な予め定められた判定条件を予め記憶しておくステップと、
    前記プロセッサが、前記撮像画像に含まれる顔領域の輝度分布を検出するステップと、
    前記プロセッサが、前記検出された輝度分布が前記判定条件を満たすか否かを判定するステップと、
    前記プロセッサが、前記判定条件を満たす撮像画像を使用して、前記撮像画像中の前記被写体が前記登録画像中の前記登録被写体と一致するか否かの照合を行うステップとを有し、
    前記判定条件が、前記撮像画像を取得するときに前記被写体に照射される判定用光線の形状であり、
    前記プロセッサは、前記判定用光線が照射された前記被写体を撮影して取得した撮像画像から、前記撮像画像中の輝度が予め定められた基準値を上回った領域であるハイライトを検出し、
    前記ハイライトが検出され、かつ前記検出されたハイライトの形状が前記判定用光線の形状に対応する場合には、前記撮像画像が前記写真画像であると判定することを特徴とする照合方法。
JP2019530909A 2017-07-20 2018-05-30 照合装置及び照合方法 Active JP7253691B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017140718 2017-07-20
JP2017140718 2017-07-20
PCT/JP2018/020687 WO2019017080A1 (ja) 2017-07-20 2018-05-30 照合装置及び照合方法

Publications (2)

Publication Number Publication Date
JPWO2019017080A1 JPWO2019017080A1 (ja) 2020-05-28
JP7253691B2 true JP7253691B2 (ja) 2023-04-07

Family

ID=65015384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019530909A Active JP7253691B2 (ja) 2017-07-20 2018-05-30 照合装置及び照合方法

Country Status (3)

Country Link
US (1) US11227170B2 (ja)
JP (1) JP7253691B2 (ja)
WO (1) WO2019017080A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019017080A1 (ja) * 2017-07-20 2019-01-24 パナソニックIpマネジメント株式会社 照合装置及び照合方法
US11049224B2 (en) * 2018-12-05 2021-06-29 Microsoft Technology Licensing, Llc Automated real-time high dynamic range content review system
CN113678164A (zh) * 2019-04-19 2021-11-19 富士通株式会社 图像处理装置、图像处理方法以及图像处理程序
JP6896307B1 (ja) 2020-07-28 2021-06-30 株式会社サイバーウェア 画像判定方法および画像判定装置
KR102480503B1 (ko) * 2020-09-16 2022-12-22 중소기업은행 신분증 이미지의 검증을 위한 서비스 제공 장치 및 방법
US20230118236A1 (en) * 2021-10-20 2023-04-20 Fujifilm Business Innovation Corp. Collation device and non-transitory computer readable medium storing program
WO2023105635A1 (ja) * 2021-12-07 2023-06-15 富士通株式会社 判定装置、判定方法、および判定プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007072861A (ja) 2005-09-08 2007-03-22 Omron Corp なりすまし検出装置及び顔認証装置
JP2009187130A (ja) 2008-02-04 2009-08-20 Panasonic Electric Works Co Ltd 顔認証装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4085470B2 (ja) 1998-05-29 2008-05-14 オムロン株式会社 個人識別装置、個人識別方法および個人識別プログラムを記録した記録媒体
JP4143305B2 (ja) * 2001-01-30 2008-09-03 日本電気株式会社 ロボット装置、照合環境判定方法、及び照合環境判定プログラム
JP4218348B2 (ja) * 2003-01-17 2009-02-04 オムロン株式会社 撮影装置
JP4699139B2 (ja) * 2004-09-14 2011-06-08 富士フイルム株式会社 セキュリティシステム
JP5076563B2 (ja) * 2006-03-14 2012-11-21 オムロン株式会社 顔照合装置
KR101700595B1 (ko) * 2010-01-05 2017-01-31 삼성전자주식회사 얼굴 인식 장치 및 그 방법
JP5434708B2 (ja) * 2010-03-15 2014-03-05 オムロン株式会社 照合装置、デジタル画像処理システム、照合装置制御プログラム、コンピュータ読み取り可能な記録媒体、および照合装置の制御方法
TWI453680B (zh) * 2010-10-08 2014-09-21 Micro Star Int Co Ltd 可抑制雜訊及環境影響之臉部辨識方法
KR101870226B1 (ko) * 2016-09-01 2018-06-25 상명대학교산학협력단 위조 바이오 정보 검출 장치 및 방법
JP7129598B2 (ja) * 2017-02-03 2022-09-02 パナソニックIpマネジメント株式会社 学習済みモデル生成方法、学習済みモデル生成装置、および学習済みモデル利用装置
WO2019017080A1 (ja) * 2017-07-20 2019-01-24 パナソニックIpマネジメント株式会社 照合装置及び照合方法
JP6544404B2 (ja) * 2017-09-19 2019-07-17 日本電気株式会社 照合システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007072861A (ja) 2005-09-08 2007-03-22 Omron Corp なりすまし検出装置及び顔認証装置
JP2009187130A (ja) 2008-02-04 2009-08-20 Panasonic Electric Works Co Ltd 顔認証装置

Also Published As

Publication number Publication date
JPWO2019017080A1 (ja) 2020-05-28
WO2019017080A1 (ja) 2019-01-24
US20200134343A1 (en) 2020-04-30
US11227170B2 (en) 2022-01-18

Similar Documents

Publication Publication Date Title
JP7253691B2 (ja) 照合装置及び照合方法
US8280120B2 (en) Fraud resistant biometric financial transaction system and method
KR102387571B1 (ko) 라이브니스 검사 방법 및 장치
JP6650946B2 (ja) モバイル・デバイスを用いてキャプチャしたイメージを使用する指紋ベースのユーザ認証を実行するためのシステムおよび方法
CN107111704B (zh) 基于生物识别系统在虹膜内欺骗检测的系统和方法
JP7159509B1 (ja) 画像に基づくなりすまし検出のために複数の焦点スタックを使用するシステムおよび方法
EP2784723B1 (en) Method, system and computer program for comparing images
KR102406432B1 (ko) 신원 인증 방법 및 장치, 전자 기기 및 저장 매체
JP5076563B2 (ja) 顔照合装置
US20180034852A1 (en) Anti-spoofing system and methods useful in conjunction therewith
JP6754642B2 (ja) 生体検知装置
KR101108835B1 (ko) 얼굴 인증 시스템 및 그 인증 방법
US11314966B2 (en) Facial anti-spoofing method using variances in image properties
WO2006013678A1 (ja) 生体判別装置およびそれを用いた認証装置ならびに生体判別方法
KR102079952B1 (ko) 얼굴 인식 출입 방법 및 장치
Tao et al. Illumination normalization based on simplified local binary patterns for a face verification system
KR100711110B1 (ko) 다중 분광 영상을 융합하여 위조 홍채를 검출하는 위조홍채검출시스템 및 방법
US11087440B2 (en) Collation device and collation method
KR100585640B1 (ko) 홍채의 진위 판단방법
KR20220165423A (ko) 신분증 스푸핑 탐지 방법 및 이를 위한 서버
CN114067383A (zh) 基于宏观结构和微观结构图像尺寸的被动三维面部成像
El Nahal Mobile Multimodal Biometric System for Security

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220520

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221201

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221201

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221214

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230227

R151 Written notification of patent or utility model registration

Ref document number: 7253691

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151