JP2017033132A - 顔認証装置 - Google Patents

顔認証装置 Download PDF

Info

Publication number
JP2017033132A
JP2017033132A JP2015150416A JP2015150416A JP2017033132A JP 2017033132 A JP2017033132 A JP 2017033132A JP 2015150416 A JP2015150416 A JP 2015150416A JP 2015150416 A JP2015150416 A JP 2015150416A JP 2017033132 A JP2017033132 A JP 2017033132A
Authority
JP
Japan
Prior art keywords
face
image
unit
feature amount
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015150416A
Other languages
English (en)
Other versions
JP6722878B2 (ja
Inventor
章吾 田中
Shogo Tanaka
章吾 田中
松山 好幸
Yoshiyuki Matsuyama
好幸 松山
田部井 憲治
Kenji Tabei
憲治 田部井
宏明 由雄
Hiroaki Yoshio
宏明 由雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2015150416A priority Critical patent/JP6722878B2/ja
Priority to PCT/JP2016/003204 priority patent/WO2017017906A1/ja
Priority to US15/744,472 priority patent/US20180211098A1/en
Publication of JP2017033132A publication Critical patent/JP2017033132A/ja
Application granted granted Critical
Publication of JP6722878B2 publication Critical patent/JP6722878B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/243Aligning, centring, orientation detection or correction of the image by compensating for image skew or non-uniform image deformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V10/7515Shifting the patterns to accommodate for positional errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

【課題】簡易な構成の装置を用いて簡単な手法で顔認証をすることにより、コストを増大させることなく顔認証における顔画像の歪みを最小限にすること。
【解決手段】顔認証装置100は、顔の中心位置と撮像部101の位置に基づいて顔の向きを推定し、顔の向きが撮像部101の光軸方向に一致するように可視光画像データに対して光軸ズレを含む画像歪を補正する画像補正部107と、撮像部101により撮像された画像データから顔の部分を切り出し、顔の特徴量を算出して画像補正部107に出力すると共に、画像補正部107で補正された画像データから顔の特徴量を算出して顔照合部109に出力する特徴量算出部105と、を有する。
【選択図】図3

Description

本発明は、被写体である人物の顔画像を用いて顔認証を行う顔認証装置に関する。
従来、人物の顔認証によりセキュリティ管理を行う顔認証装置が知られている。かかる顔認証装置では、撮影する人物の身長の違いにより、顔位置とカメラの光軸とにズレを生じ、撮影した顔画像に歪みを生じることにより認証率の低下を招くという課題があった。
これに対して、特許文献1は、顔画像認識装置に関し、広視野レンズにより被写体である人物の身長方向に視野を拡大した画像を入力し、入力した画像の歪みを補正する構成を開示する。
また、特許文献2は、顔認証装置に関し、複数のカメラを用いて撮影した複数の顔画像データから複数の3次元顔モデルを生成し、複数の3次元顔モデルから歪が最小となる照合用顔向きの2次元合成画像を生成する構成を開示する。
特許文献1及び特許文献2によれば、顔画像の歪みを最小限にすることができるので、認証率の低下を抑制することができる。
特開2001−266152号公報 特開2009−43065号公報
しかしながら、特許文献1においては、高価な広視野レンズを用いるため、コストを低減することができないという課題を有する。また、特許文献2においては、複数のカメラを必要とし、また、複雑な装置及びアルゴリズムを用いるため、コストを低減することができないという課題を有する。
本発明の目的は、簡易な構成の装置を用いて簡単な手法で顔認証をすることにより、コストを増大させることなく顔認証における顔画像の歪みを最小限にして、顔認証の認証率を向上させることができる顔認証装置を提供することである。
本発明に係る顔認証装置は、カメラにより撮像された撮像データから可視光画像データを取得するカメラ信号処理部と、前記可視光画像データの画像から被写体の顔の部分を切り出し、前記顔の特徴量を算出する特徴量算出部と、前記顔の特徴量に基づいて前記画像における前記顔の中心位置を検出する顔位置検出部と、前記顔の中心位置と前記カメラの位置に基づいて前記顔の向きを推定し、前記顔の向きが前記カメラの光軸方向に一致するように、光軸ズレを含む前記可視光画像データの画像歪を補正して補正画像データを取得する画像補正部と、を具備し、前記特徴量算出部は、前記補正画像データから前記顔の特徴量を算出し、前記補正画像データから算出された顔の特徴量と、予め登録された顔画像の特徴量とを照合することにより顔認識を行う顔照合部をさらに具備する。
本発明によれば、簡易な構成の装置を用いて簡単な手法で顔認証をすることにより、コストを増大させることなく顔認証における顔画像の歪みを最小限にして、顔認証の認証率を向上させることができる。
本発明の実施の形態1に係る顔認証装置の正面図 本発明の実施の形態1に係る顔認証装置の側面図 本発明の実施の形態1に係る顔認証装置の構成を示すブロック図 本発明の実施の形態1に係る顔画像歪み補正処理を示すフロー図 本発明の実施の形態1に係る画像座標における顔の中心位置を示す図 本発明の実施の形態1に係るカメラ座標における顔の中心位置を示す図 本発明の実施の形態1に係る世界座標における撮像装置及び顔の位置関係を示す図 本発明の実施の形態1に係る顔の光軸方向のズレのカメラ座標と世界座標の関連を示す図 本発明の実施の形態1に係る世界座標における顔の位置に対応する平面を示す図 本発明の実施の形態1に係る光軸ズレ有無での顔画像を示す図 本発明の実施の形態2に係る顔認証装置の構成を示すブロック図 本発明の実施の形態2に係る被写体までの距離を求める方法を示す図 本発明の実施の形態2に係る被写体までの距離を求める際の顔の基準位置を示す図 本発明の実施の形態2に係る撮像部と被写体の顔との距離を示す図 本発明の実施の形態3に係る顔認証装置の構成を示すブロック図 本発明の実施の形態3に係る顔認証装置の動作を示すフロー図 本発明の実施の形態3に係る顔の上下方向の長さが最長となる顔の向きを示す図 本発明の実施の形態3に係る顔の上下方向の長さを示す図 本発明の実施の形態3に係る表示部に表示される画像を示す図 本発明の実施の形態4に係る顔認証装置の構成を示すブロック図 本発明の実施の形態4に係る表示部に表示される画像を示す図
以下、図面を適宜参照して、本発明の実施の形態について、詳細に説明する。
(実施の形態1)
<顔認証装置の構成>
本発明の実施の形態1に係る顔認証装置100の構成について、図1乃至図3を参照しながら、以下に詳細に説明する。
顔認証装置100は、撮像部101と、カメラ信号処理部102と、UI制御部103と、表示部104と、特徴量算出部105と、顔位置検出部106と、画像補正部107と、データベース(DB)108と、顔照合部109と、照明部110と、を有している。
撮像部101は、被写体である人物Jを撮像し、撮像データをカメラ信号処理部102に出力する。撮像部101は、典型的にはイメージセンサ及びレンズ等の光学系を含む。
カメラ信号処理部102は、撮像部101から入力したアナログの撮像データをデジタルの可視光画像データに変換し、可視光画像データをUI制御部103及び特徴量算出部105に出力する。
UI制御部103は、カメラ信号処理部102から入力した可視光画像データの画像を表示部104に表示させる表示制御処理を実行する。
表示部104は、UI制御部103の表示制御処理の実行により被写体Jの顔画像を表示する。
特徴量算出部105は、カメラ信号処理部102から入力した可視光画像データから顔の部分を切り出し、顔画像の特徴量を算出して顔位置検出部106に出力する。特徴量算出部105は、画像補正部107で画像歪を補正された可視光画像データから顔画像の特徴量を算出して顔照合部109に出力する。算出される特徴量は、眼、鼻及び口等の特徴部分に応じた値となる。従って、特徴量算出部105は、算出した特徴量に基づいて、眼、鼻及び口等の特徴部分を検出することができる。
顔位置検出部106は、特徴量算出部105から入力した特徴量に基づいて画像における顔の中心位置を検出し、検出結果を画像補正部107に出力する。
画像補正部107は、顔位置検出部106から入力した検出結果の示す顔の中心位置と、予め記憶している撮像部101の位置と、に基づいて顔の向きを推定する。画像補正部107は、推定した顔の向きが撮像部101の光軸方向に一致するように、光軸ズレを含む可視光画像データの画像歪を補正し、画像歪を補正した画像データ(以下、「補正画像データ」という)を特徴量算出部105に出力する。
データベース(DB)108は、顔画像の特徴量の算出値を予め記憶している。
顔照合部109は、特徴量算出部105から入力した特徴量と、データベース108に予め登録された顔画像の特徴量と、を照合することにより顔認識を行う。顔照合部109は、顔認証の結果を出力する。
照明部110は、被写体Jを照射する。
<顔画像歪み補正処理>
本発明の実施の形態1に係る顔画像歪み補正処理について、図4乃至図10を参照しながら、以下に詳細に説明する。図5は、画像座標を示している。図6は、カメラ座標を示している。図9は、世界座標を示している。図10は光軸ズレ有無での顔画像を示している。
図4に示すように、カメラ信号処理部102から可視光画像データが特徴量算出部105に入力することにより画像歪み補正処理が開始される。
まず、特徴量算出部105は、入力した可視光画像データを解析して顔画像の特徴量を算出し、眼、鼻及び口等の特徴部分を検出する。顔位置検出部106は、図5に示すように、特徴量算出部105で算出した特徴量に基づいて画像における顔の中心位置P1を検出し、検出した顔の中心位置P1の画像座標におけるy座標を、顔の中心位置P1として取得する(S1)。顔位置検出部106は、図5に示すように、画像座標では画像の左上を原点O1とすると共に、横方向をx軸及び縦方向をy軸とする。
次に、画像補正部107は、(1)式により、顔位置検出部106で取得した顔の中心位置をカメラ座標に変換する(S2)。ここでは説明の簡易化のために画像座標の中心をカメラ座標の原点とする。
Figure 2017033132
ここで、pixelSizeはイメージセンサの1画素の大きさ
heightは画像の上下方向の長さ(画像サイズの高さ)
画像補正部107は、図6に示すように、カメラ座標では中心を原点O2とすると共に、横方向をu軸及び縦方向をv軸とする。
次に、画像補正部107は、カメラ座標における顔の中心位置を、(2)式を用いて、世界座標に変換する(S3)。
Figure 2017033132
ここで、fは焦点距離
画像補正部107は、図7に示すように、撮像部101の位置を原点とすると共に、原点から被写体方向をZ軸として、世界座標(X,Y,Z)を設定する。
図8に示すように、顔の中心位置を通るY軸と平行な直線がZ軸と交わる位置P2と、顔の中心位置P1と、の距離hが光軸方向のズレになる。
次に、画像補正部107は、顔が撮像部101を向いていると仮定した場合、撮像部101に対する顔の向きθを、(3)式より求める。
Figure 2017033132
ここで、hは、顔の中心位置の光軸方向のズレ
zzは、撮像部101と被写体の顔との距離
画像補正部107は、世界座標の原点上に仮に幅0.2mの平面を配置し、この平面を、(4)式により世界座標上を移動させることにより、図9のA、B、C、Dの座標を有する平面H1を得る(S4)。
Figure 2017033132
(4)式では、原点に配置した平面を、X軸を回転軸としてθだけ回転させ、更に、Z軸上を撮像部101から離れる方向に距離zzだけ平行移動させる。
なお、原点に配置する平面は、計算誤差が問題にならない程度の大きさ以上であり、後述するカメラ座標の画像サイズからはみ出さない大きさである。
次に、画像補正部107は、世界座標においてA、B、C、Dの座標を有する平面H1を、(5)式によりカメラ座標に変換する(S5)。
Figure 2017033132
ここで、fは焦点距離
次に、画像補正部107は、カメラ座標上の平面を、(6)式により画像座標に変換する(S6)。
Figure 2017033132
ここで、widthは画像の左右方向の長さ(画像サイズの幅)
heightは画像の上下方向の長さ(画像サイズの高さ)
pixelSizeはイメージセンサの1画素の大きさ
また、画像補正部107は、世界座標の原点O5上に仮に平面を配置し、この平面を、(7)式により世界座標上を移動させることにより、図9のE、F、G、Hの座標を有する平面H2を得る(S7)。
Figure 2017033132
(7)式では、原点O5に配置した平面を、Z軸上を撮像部101から離れる方向に距離zzだけ平行移動させる。
図9のE、F、G、Hの座標により構成される平面H2の位置が、本来の顔位置に相当する。
次に、画像補正部107は、世界座標においてE、F、G、Hの座標を有する平面H2を、(8)式によりカメラ座標に変換する(S8)。
Figure 2017033132
ここで、fは焦点距離
次に、画像補正部107は、カメラ座標上の平面を、(9)式により画像座標に変換する(S9)。
Figure 2017033132
ここで、widthは画像の左右方向の長さ(画像サイズの幅)
heightは画像の上下方向の長さ(画像サイズの高さ)
pixelSizeはイメージセンサの1画素の大きさ
次に、画像補正部107は、(10)式よりMATLAB(MATrix LABoratory;マトラブ)を使った射影変換行列tformを算出する。
Figure 2017033132
ここで、movingPointsは、平面H1の角のx、y座標
fixedPointsは、平面H2の角のx、y座標
‘Projective’は、変換方式で射影変換を表す。
そして、画像補正部107は、(11)式よりMATLABを使った射影変換を行う(S10)。なお、(10)式および(11)式は、一般的なC言語でも実装可能である。
Figure 2017033132
ここで、Bは、補正後の画像
Aは、入力画像
このような顔画像歪み補正処理を行うことにより、図10の歪んだ画像G1を、被写体Jの顔を撮像部101により正面から撮像した図10の画像G2に近くなるように補正することができる。画像G2の被写体Jの顔の向きは、撮像部101の光軸方向(図10の左右方向)に一致している。
<効果>
本実施の形態によれば、顔の中心位置と撮像部101の位置に基づいて顔の向きを推定し、顔の向きが撮像部101の光軸方向に一致するように、光軸ズレを含む可視光画像データの画像歪を補正すると共に、補正画像データから顔の特徴量を算出して顔認証する。これにより、簡易な構成の装置を用いて簡単な手法で顔認証をすることができるので、コストを増大させることなく顔認証における顔画像の歪みを最小限にして、顔認証の認証率を向上させることができる。
(実施の形態2)
<顔認証装置の構成>
本発明の実施の形態2に係る顔認証装置200の構成について、図11を参照しながら、以下に詳細に説明する。
なお、図11に示す顔認証装置200において、図3に示した顔認証装置100と共通する構成部分については同一符号を付して、その説明を省略する。図11に示す顔認証装置200は、図3に示した顔認証装置100と比較して、カメラ信号処理部102および画像補正部107を削除し、カメラ信号処理部201、顔傾き検出部202、IR照明部203および画像補正部204を追加した構成を採る。
撮像部101は、被写体である人物Jを撮像し、撮像データをカメラ信号処理部201に出力する。
カメラ信号処理部201は、撮像部101から入力したアナログの撮像データをデジタルの可視光画像データに変換すると供に、撮像データから距離画像データを取得する。カメラ信号処理部201は、可視光画像データを顔傾き検出部202、UI制御部103及び特徴量算出部105に出力し、距離画像データを顔傾き検出部202に出力する。
UI制御部103は、カメラ信号処理部201から入力した可視光画像データの画像を表示部104に表示させる表示制御処理を実行する。
顔傾き検出部202は、IR照明部203から被写体Jに向けて赤外光を照射させる制御を行う。顔傾き検出部202は、カメラ信号処理部201から入力した距離画像データ及び可視光画像データに基づいて被写体Jの顔の傾きを検出し、検出結果を画像補正部204に出力する。
IR照明部203は、顔傾き検出部202の制御により赤外光を被写体Jに向けて照射する。
画像補正部204は、顔位置検出部106から入力した検出結果の示す顔の中心位置と、予め記憶している撮像部101の位置と、顔傾き検出部202から入力した検出結果の示す顔の傾きと、に基づいて顔の傾きを推定する。画像補正部204は、推定した顔の向きが撮像部101の光軸方向に一致するように、光軸ズレを含む可視光画像データの画像歪を補正し、補正画像データを特徴量算出部105に出力する。
特徴量算出部105は、補正画像データから顔画像の特徴量を算出して顔照合部109に出力する。なお、特徴量算出部105における上記以外の構成は上記実施の形態1の特徴量算出部105と同一構成であるので、その説明を省略する。
顔位置検出部106は、特徴量算出部105から入力した特徴量に基づいて画像における顔の中心位置を検出し、検出結果を画像補正部204に出力する。
<顔画像歪み補正処理>
本発明の実施の形態2に係る顔画像歪み補正処理について、図12乃至図14を参照しながら、以下に詳細に説明する。
IR照明部203は、図12(b)に示すように、赤外光を被写体Jに照射する。IR照明部203で照射する赤外光(投光信号)と距離画像信号(受光信号)とは、図12(a)に示すように、位相差φを生じる。
顔傾き検出部202は、この位相差φにより被写体Jとの距離を検出する。
顔傾き検出部202は、カメラ信号処理部201から入力した可視光画像信号より可視光画像を生成する。顔傾き検出部202は、図13に示すように、生成した可視光画像の額A及び顎Bの位置座標を抽出する。そして、顔傾き検出部202は、図14に示すように、額Aに照射した赤外光とその距離画像信号、及び顎Bに照射した赤外光とその距離画像信号における上記の位相差φを求める。顔傾き検出部202は、求めた位相差φに相当する顔認証装置100と額Aとの距離Laと、顔認証装置100と顎Bとの距離Lbと、を検出する。
距離La>距離Lbの場合には、顔がカメラ方向に対して下向きであることを示している。また、距離La<距離Lbの場合(図14の場合)には、顔がカメラ方向に対して上向きであることを示している。更に、距離La=距離Lbの場合には、顔が正面(カメラ方向)を向いていることを示している。
顔傾き検出部202は、距離Laと距離Lbとの差と、顔の向きθと、を対応付けて記憶したテーブルを予め保持することにより、距離Laと距離Lbとの差より顔の傾きθを求めることができる。
画像補正部204は、距離Laと距離Lbとの差より求めた顔の向きθを、上記(4)式のθに代入することにより、上記実施の形態1に比べて、顔の歪みを精度よく補正することができる。
なお、(4)式によりA、B、C、Dの座標を得た後の処理は上記実施の形態1と同一処理であるので、その説明を省略する。
<効果>
本実施の形態によれば、顔の傾きを検出し、顔の傾きを用いて可視光画像データの画像歪を補正することにより、上記実施の形態1の効果に加えて、上記実施の形態1に比べて、顔画像の歪みを更に抑制することができ、顔認証の認証率を更に向上させることができる。
なお、本実施の形態において、1つの顔認証装置で可視光画像データ及び距離画像データを取得したが、可視光画像データ及び距離画像データを各々別の装置により取得してもよい。
また、本実施の形態において、額A及び顎Bの上下の2点の撮像部101からの距離を求めたが、左右の頬骨等の左右の2点の撮像部101からの距離を求めてもよい。この場合には、左右方向の顔の向き及び傾きを補正することができる。
(実施の形態3)
<顔認証装置の構成>
本発明の実施の形態3に係る顔認証装置300の構成について、図15を参照しながら、以下に詳細に説明する。
なお、図15に示す顔認証装置300において、図3に示した顔認証装置100と共通する構成部分については同一符号を付して、その説明を省略する。図15に示す顔認証装置300は、図3に示した顔認証装置100と比較して、特徴量算出部105およびUI制御部103を削除し、特徴量算出部301およびUI制御部302を追加した構成を採る。
カメラ信号処理部102は、撮像部101から入力したアナログの撮像データをデジタルの可視光画像データに変換し、可視光画像データを特徴量算出部301及びUI制御部302に出力する。
UI制御部302は、カメラ信号処理部102から入力した可視光画像データの画像を表示部104に表示させる表示制御処理を実行する。UI制御部302は、「OK」及び「NG」の表示を表示部104に表示させる。UI制御部302は、特徴量算出部301からベストショットであることを示すベストショット信号が入力するまでは表示部104に表示されている「NG」の表示を点灯させ、特徴量算出部301からベストショットであることを示すベストショット信号が入力した際に表示部104に表示されている「OK」の表示を点灯させる。
表示部104は、UI制御部302の表示制御処理の実行により被写体Jの顔画像を表示すると共に、「OK」及び「NG」の表示を表示する。
特徴量算出部301は、カメラ信号処理部102から入力した可視光画像データから顔の部分を切り出し、顔画像の特徴量を算出し、算出した特徴量に基づいて、被写体の顔の上下方向の動作に応じて顔画像の上下方向の長さLcを繰り返し算出する。特徴量算出部301は、繰り返し算出した長さLcが最長となる顔画像をベストショットとして取得する。具体的には、特徴量算出部301は、過去の長さLcの算出結果を記憶し、その最長値が一定時間更新されなければ当該長さLcを最長値として推定し、当該推定した長さLcの最長値に所定の係数(例えば0.95)を乗算した値を閾値とし、長さLcが当該閾値を超える場合をベストショットとして取得する。そして、特徴量算出部301は、ベストショットにおける顔画像の特徴量を顔位置検出部106に出力すると共に、ベストショット信号をUI制御部302に出力する。なお、特徴量算出部301における上記以外の構成は特徴量算出部105の構成と同一であるので、その説明を省略する。
顔位置検出部106は、特徴量算出部301から入力した特徴量に基づいて画像における顔の中心位置を検出し、検出結果を画像補正部107に出力する。
画像補正部107は、顔位置検出部106から入力した検出結果の示す顔の中心位置と、予め記憶している撮像部101の位置とに基づいて顔の向きを推定する。画像補正部107は、推定した顔の向きが撮像部101の光軸方向に一致するように、光軸ズレを含む可視光画像データの画像歪を補正し、補正画像データを特徴量算出部301に出力する。
顔照合部109は、特徴量算出部301から入力した特徴量と、データベース108に予め登録された顔画像の特徴量と、を照合することにより顔認識を行う。顔照合部109は、顔認証の結果を出力する。
<顔認証装置の動作>
本発明の実施の形態3に係る顔認証装置300の動作について、図16乃至図19を参照しながら、以下に詳細に説明する。
まず、顔認証装置300は、撮像部101で撮像を開始する(S101)。
次に、表示部104は、撮像部101で撮像した顔画像を表示する(S102)。
次に、被写体Jは、表示部104に表示された「OK」が点灯しないことにより顔の向きを変化させる(S103)。
次に、特徴量算出部301は、顔画像の特徴量に基づいて顔画像の上下方向の長さLc(図18参照)を繰り返し算出し、顔画像の長さLcが最長であるか否かを判定する(S104)。
特徴量算出部301は、顔画像の長さLcが最長でない場合(S104:No)、S102の処理に戻る。
一方、特徴量算出部301は、顔画像の長さLcが最長である場合(S104:Yes)、長さLcが最長の顔画像をベストショットとして取得する(S105)。長さLcが最長の場合には、図17に示すように、顔が撮像部101に向いたときである。
次に、表示部104は、図19に示すように、「OK」の表示を点灯する(S106)。
次に、特徴量算出部301及び画像補正部107は、顔画像歪み補正処理を実行する(S107)。なお、本実施の形態における顔画像歪み補正処理は、上記実施の形態1の顔画像歪み補正処理と同一処理であるので、その説明を省略する。
次に、顔照合部109は、特徴量算出部301から入力した特徴量と、データベース108に予め登録された顔画像の特徴量と、を照合することにより顔認識を行う(S108)。
<効果>
本実施の形態によれば、顔画像の上下方向の長さが最長である場合に顔画像歪み補正処理を実行することにより、上記実施の形態1の効果に加えて、上記実施の形態1に比べて、顔画像の歪みを更に抑制することができ、顔認証の認証率を更に向上させることができる。
また、本実施の形態によれば、被写体であるユーザは表示部104の「OK」又は「NG」の表示を見ることにより、顔画像の歪みを補正可能であるか否かを判断することができる。
(実施の形態4)
<顔認証装置の構成>
本発明の実施の形態4に係る顔認証装置400の構成について、図20及び図21を参照しながら、以下に詳細に説明する。
なお、図20に示す顔認証装置400において、図11に示した顔認証装置200と共通する構成部分については同一符号を付して、その説明を省略する。図20に示す顔認証装置400は、図11に示した顔認証装置200と比較して、特徴量算出部105およびUI制御部103を削除し、UI制御部401および特徴量算出部402を追加した構成を採る。
カメラ信号処理部201は、撮像部101から入力したアナログの撮像データをデジタルの可視光画像データに変換すると供に、撮像データから距離画像データを取得する。カメラ信号処理部201は、可視光画像データを顔傾き検出部202、UI制御部401及び特徴量算出部402に出力し、距離画像データを顔傾き検出部202に出力する。
UI制御部401は、カメラ信号処理部201から入力した可視光画像データの画像を表示部104に表示させる表示制御処理を実行する。UI制御部401は、「OK」及び「NG」の表示を表示部104に表示させる。UI制御部401は、顔画像を表示部104に表示させる際に、図22に示すように、表示画面の所定の大きさのエリアE1に収まるか否かを判定する。UI制御部401は、顔画像がエリアE1に収まる場合には図21に示すように表示部104に表示された「OK」の表示を点灯させ、顔画像歪み補正処理を開始させるトリガー信号を特徴量算出部402に出力する。UI制御部401は、顔画像がエリアE1からはみ出す場合には表示部104に表示された「NG」の表示を点灯させる。
特徴量算出部402は、UI制御部401からトリガー信号が入力した際に、カメラ信号処理部201から入力した可視光画像データから顔の部分を切り出し、顔画像の特徴量を算出して顔位置検出部106に出力する。なお、特徴量算出部402における上記以外の構成は特徴量算出部105の構成と同一であるので、その説明を省略する。
なお、本実施の形態の顔画像歪み補正処理は、特徴量算出部402にトリガー信号が入力した際に開始される以外は上記実施の形態2の顔画像歪み補正処理と同一処理であるので、その説明を省略する。
<効果>
本実施の形態によれば、顔画像が表示画面の所定のエリアに収まる可視光画像データに対して顔の向き及び顔の傾きを補正することにより、上記実施の形態2の効果に加えて、上記実施の形態2に比べて、顔画像の歪みを更に抑制することができ、顔認証の認証率を更に向上させることができる。
また、本実施の形態によれば、被写体であるユーザは表示部104の「OK」又は「NG」の表示を見ることにより、顔画像の歪みを補正可能であるか否かを判断することができる。
なお、本実施の形態において、1つの顔認証装置で可視光画像データ及び距離画像データを取得したが、可視光画像データ及び距離画像データを各々別の装置により取得してもよい。
また、本実施の形態において、額A及び顎Bの上下の2点の撮像部101からの距離を求めたが、左右の頬骨等の左右の2点の撮像部101からの距離を求めてもよい。この場合には、左右方向の顔の向き及び傾きを補正することができる。
本発明は、部材の種類、配置、個数等は前述の実施の形態に限定されるものではなく、その構成要素を同等の作用効果を奏するものに適宜置換する等、発明の要旨を逸脱しない範囲で適宜変更可能である。
具体的には、上記実施の形態1乃至実施の形態4において、上下方向の顔の向き又は傾きを補正したが、(12)式を用いて、左右方向の顔の向き及び傾きを補正してもよい。
Figure 2017033132
本発明は、被写体である人物の顔画像を用いて顔認証を行う顔認証装置に用いるに好適である。
100、200、300、400 顔認証装置
101 撮像部
102、201 カメラ信号処理部
103、302、401 UI制御部
104 表示部
105、301、402 特徴量算出部
106 顔位置検出部
107、204 画像補正部
109 顔照合部
110 照明部
202 顔傾き検出部
203 IR照明部

Claims (3)

  1. カメラにより撮像された撮像データから可視光画像データを取得するカメラ信号処理部と、
    前記可視光画像データの画像から被写体の顔の部分を切り出し、前記顔の特徴量を算出する特徴量算出部と、
    前記顔の特徴量に基づいて前記画像における前記顔の中心位置を検出する顔位置検出部と、
    前記顔の中心位置と前記カメラの位置に基づいて前記顔の向きを推定し、前記顔の向きが前記カメラの光軸方向に一致するように、光軸ズレを含む前記可視光画像データの画像歪を補正して補正画像データを取得する画像補正部と、
    を具備し、
    前記特徴量算出部は、前記補正画像データから前記顔の特徴量を算出し、
    前記補正画像データから算出された顔の特徴量と、予め登録された顔画像の特徴量とを照合することにより顔認識を行う顔照合部をさらに具備する、
    顔認証装置。
  2. 前記カメラ信号処理部は、前記撮像データから距離画像データを取得し、
    前記距離画像データ及び前記可視光画像データに基づいて前記被写体の顔の傾きを検出する顔位置検出部をさらに具備し、
    前記画像補正部は、前記検出された被写体の顔の傾きを用いて前記補正画像データを取得する、
    請求項1に記載の顔認証装置。
  3. 前記特徴量算出部は、前記被写体の顔の方向の動作に応じて前記画像の顔の長さかつ/または幅を前記特徴量に基づいて繰り返し算出し、前記顔の長さかつ/または幅が最長となる画像をベストショットとして取得し、
    前記可視光画像データの画像、および、前記ベストショットが取得されたか否かの情報を表示部に表示させる表示制御処理を実行するUI制御部をさらに具備し、
    前記顔位置検出部は、前記ベストショットにおける前記顔の中心位置を検出する、
    請求項1または請求項2に記載の顔認証装置。
JP2015150416A 2015-07-30 2015-07-30 顔認証装置 Active JP6722878B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015150416A JP6722878B2 (ja) 2015-07-30 2015-07-30 顔認証装置
PCT/JP2016/003204 WO2017017906A1 (ja) 2015-07-30 2016-07-05 顔認証装置
US15/744,472 US20180211098A1 (en) 2015-07-30 2016-07-05 Facial authentication device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015150416A JP6722878B2 (ja) 2015-07-30 2015-07-30 顔認証装置

Publications (2)

Publication Number Publication Date
JP2017033132A true JP2017033132A (ja) 2017-02-09
JP6722878B2 JP6722878B2 (ja) 2020-07-15

Family

ID=57884170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015150416A Active JP6722878B2 (ja) 2015-07-30 2015-07-30 顔認証装置

Country Status (3)

Country Link
US (1) US20180211098A1 (ja)
JP (1) JP6722878B2 (ja)
WO (1) WO2017017906A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020178290A (ja) * 2019-04-19 2020-10-29 パナソニックIpマネジメント株式会社 画像情報出力システム、画像情報出力方法及びプログラム
KR20210004319A (ko) * 2019-07-04 2021-01-13 (주)드림시큐리티 안면 인식을 사용하여 인증을 수행하는 방법, 장치 및 시스템

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10212778B1 (en) * 2012-08-17 2019-02-19 Kuna Systems Corporation Face recognition systems with external stimulus
US10555393B1 (en) * 2012-08-17 2020-02-04 Kuna Systems Corporation Face recognition systems with external stimulus
CN107992728B (zh) * 2016-10-27 2022-05-20 腾讯科技(深圳)有限公司 人脸验证方法及装置
CN109191412B (zh) * 2018-08-17 2019-12-20 河南工程学院 基于核稀疏典型相关分析热红外人脸图像可见光重建方法
EP4002303A1 (en) * 2020-11-09 2022-05-25 Tata Consultancy Services Limited Real time region of interest (roi) detection in thermal face images based on heuristic approach

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004038531A (ja) * 2002-07-03 2004-02-05 Matsushita Electric Ind Co Ltd 物体の位置検出方法および物体の位置検出装置
JP2008009849A (ja) * 2006-06-30 2008-01-17 Matsushita Electric Ind Co Ltd 人物追跡装置
JP2010056720A (ja) * 2008-08-27 2010-03-11 Panasonic Corp ネットワークカメラおよびネットワークカメラシステム
JP2010140425A (ja) * 2008-12-15 2010-06-24 Hitachi Kokusai Electric Inc 画像処理システム
JP2010217980A (ja) * 2009-03-13 2010-09-30 Omron Corp 情報処理装置及び方法、並びにプログラム
JP2011164711A (ja) * 2010-02-04 2011-08-25 Honda Motor Co Ltd 顔向き検知装置
JP2013134570A (ja) * 2011-12-26 2013-07-08 Canon Inc 撮像装置及びその制御方法、並びにプログラム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6772057B2 (en) * 1995-06-07 2004-08-03 Automotive Technologies International, Inc. Vehicular monitoring systems using image processing
US7203346B2 (en) * 2002-04-27 2007-04-10 Samsung Electronics Co., Ltd. Face recognition method and apparatus using component-based face descriptor
US7643671B2 (en) * 2003-03-24 2010-01-05 Animetrics Inc. Facial recognition system and method
JP2007148872A (ja) * 2005-11-29 2007-06-14 Mitsubishi Electric Corp 画像認証装置
JP4427515B2 (ja) * 2006-01-27 2010-03-10 富士フイルム株式会社 対象画像検出表示制御装置およびその制御方法
EP2048615A4 (en) * 2006-07-27 2009-08-05 Panasonic Corp AUTHENTICATION APPARATUS AND METHOD FOR DISPLAYING AN IMAGE FOR AUTHENTICATION
US8174555B2 (en) * 2007-05-30 2012-05-08 Eastman Kodak Company Portable video communication system
JP4994311B2 (ja) * 2007-06-18 2012-08-08 富士フイルム株式会社 顔検出方法、顔検出装置及びデジタルカメラ
JP2009205283A (ja) * 2008-02-26 2009-09-10 Olympus Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP5390943B2 (ja) * 2008-07-16 2014-01-15 キヤノン株式会社 画像処理装置及び画像処理方法
US20100135580A1 (en) * 2008-11-28 2010-06-03 Inventec Appliances Corp. Method for adjusting video frame
US8194938B2 (en) * 2009-06-02 2012-06-05 George Mason Intellectual Properties, Inc. Face authentication using recognition-by-parts, boosting, and transduction
JP5399502B2 (ja) * 2009-10-07 2014-01-29 パナソニック株式会社 追尾対象選択装置、方法、プログラム及び回路
JP5642410B2 (ja) * 2010-03-30 2014-12-17 パナソニック株式会社 顔認識装置及び顔認識方法
KR20120057783A (ko) * 2010-11-29 2012-06-07 삼성메디슨 주식회사 사용자의 자세에 따라 최적의 초음파 영상을 제공하는 초음파 시스템
JP5291735B2 (ja) * 2011-02-24 2013-09-18 ソネットエンタテインメント株式会社 似顔絵作成装置、配置情報生成装置、配置情報生成方法、及びプログラム
US20130069980A1 (en) * 2011-09-15 2013-03-21 Beau R. Hartshorne Dynamically Cropping Images
JP5958079B2 (ja) * 2012-05-22 2016-07-27 株式会社Jvcケンウッド 投射装置、画像補正方法およびプログラム
TW201445454A (zh) * 2013-05-22 2014-12-01 Asustek Comp Inc 提升人臉辨識率的影像處理系統及影像處理方法
JP6052751B2 (ja) * 2013-07-03 2016-12-27 パナソニックIpマネジメント株式会社 物体認識装置及び物体認識方法
JP6803525B2 (ja) * 2015-10-14 2020-12-23 パナソニックIpマネジメント株式会社 顔検出装置およびこれを備えた顔検出システムならびに顔検出方法
US10440307B2 (en) * 2015-12-22 2019-10-08 Casio Computer Co., Ltd. Image processing device, image processing method and medium

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004038531A (ja) * 2002-07-03 2004-02-05 Matsushita Electric Ind Co Ltd 物体の位置検出方法および物体の位置検出装置
JP2008009849A (ja) * 2006-06-30 2008-01-17 Matsushita Electric Ind Co Ltd 人物追跡装置
JP2010056720A (ja) * 2008-08-27 2010-03-11 Panasonic Corp ネットワークカメラおよびネットワークカメラシステム
JP2010140425A (ja) * 2008-12-15 2010-06-24 Hitachi Kokusai Electric Inc 画像処理システム
JP2010217980A (ja) * 2009-03-13 2010-09-30 Omron Corp 情報処理装置及び方法、並びにプログラム
JP2011164711A (ja) * 2010-02-04 2011-08-25 Honda Motor Co Ltd 顔向き検知装置
JP2013134570A (ja) * 2011-12-26 2013-07-08 Canon Inc 撮像装置及びその制御方法、並びにプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020178290A (ja) * 2019-04-19 2020-10-29 パナソニックIpマネジメント株式会社 画像情報出力システム、画像情報出力方法及びプログラム
JP7390634B2 (ja) 2019-04-19 2023-12-04 パナソニックIpマネジメント株式会社 ロビーインターホン、インターホンシステム、画像情報出力方法及びプログラム
KR20210004319A (ko) * 2019-07-04 2021-01-13 (주)드림시큐리티 안면 인식을 사용하여 인증을 수행하는 방법, 장치 및 시스템
KR102345825B1 (ko) * 2019-07-04 2022-01-03 (주)드림시큐리티 안면 인식을 사용하여 인증을 수행하는 방법, 장치 및 시스템

Also Published As

Publication number Publication date
US20180211098A1 (en) 2018-07-26
JP6722878B2 (ja) 2020-07-15
WO2017017906A1 (ja) 2017-02-02

Similar Documents

Publication Publication Date Title
JP6722878B2 (ja) 顔認証装置
JP4649319B2 (ja) 視線検出装置、視線検出方法、および視線検出プログラム
JP6373265B2 (ja) 情報処理装置および情報処理装置の制御方法
WO2016131217A1 (zh) 一种图像校正的方法和装置
WO2010035472A1 (ja) 視線方向判定装置及び視線方向判定方法
WO2017049776A1 (zh) 一种可透视型智能眼镜及其透视方法
JP2010086336A (ja) 画像制御装置、画像制御プログラムおよび画像制御方法
JP2015106252A (ja) 顔向き検出装置及び3次元計測装置
JP6840697B2 (ja) 視線方向推定装置、視線方向推定方法、及び視線方向推定プログラム
KR20100061361A (ko) 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체
US10671173B2 (en) Gesture position correctiing method and augmented reality display device
TW201237773A (en) An electronic system, image adjusting method and computer program product thereof
WO2018154634A1 (ja) 投写型表示装置、投写型表示装置の制御方法、及びプログラム
JP6552266B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2017194301A (ja) 顔形状測定装置及び方法
JP2009064395A (ja) ポインティングデバイス、操作者の注視位置とカーソルの位置との誤差の補正をコンピュータに実行させるためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
KR20210136092A (ko) 화상 처리 장치, 화상 처리 방법 및 화상 처리 프로그램
JP7046347B2 (ja) 画像処理装置及び画像処理方法
TWI545936B (zh) 電子裝置及其校正方法
CN115244360A (zh) 计算方法
JP6906943B2 (ja) 車載器
JP6406044B2 (ja) カメラ校正ユニット、カメラ校正方法、およびカメラ校正プログラム
JP4871315B2 (ja) 複眼撮影装置およびその制御方法並びにプログラム
JP5958082B2 (ja) 画像処理装置、画像処理方法
JP5004099B2 (ja) カーソル移動制御方法及びカーソル移動制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190619

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190625

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20191018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200605

R151 Written notification of patent or utility model registration

Ref document number: 6722878

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151