JP5730095B2 - 顔画像認証装置 - Google Patents
顔画像認証装置 Download PDFInfo
- Publication number
- JP5730095B2 JP5730095B2 JP2011072413A JP2011072413A JP5730095B2 JP 5730095 B2 JP5730095 B2 JP 5730095B2 JP 2011072413 A JP2011072413 A JP 2011072413A JP 2011072413 A JP2011072413 A JP 2011072413A JP 5730095 B2 JP5730095 B2 JP 5730095B2
- Authority
- JP
- Japan
- Prior art keywords
- face
- image
- person
- unit
- registered
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Collating Specific Patterns (AREA)
Description
顔画像認証装置に対して認証を要望する人物は、なかなか認証されない場合、カメラを直視しながら立ち止まったりゆっくり歩くといった特徴的な行動をとる傾向にある。そこで、本発明を適用した顔画像認証装置は、監視領域を撮影した監視画像を順次取得するとともに、その順次取得した複数の監視画像にわたって同一の人物を追跡する。そして顔画像認証装置は、追跡中の人物がカメラを直視しながら立ち止まったりゆっくり歩く等の、認証されようとする特徴的な行動を取っているか否かを判定することにより、認証されにくい状態にある人物を検出する。これにより、顔画像認証装置は、認証されにくい状態にある人物を早期かつ高精度に検出し、認証に適した、登録顔画像の更新に用いる顔画像をすみやかに選択することを図る。
撮像部100は、監視領域内を通行する人物(顔画像認証装置10による照合の対象となる監視領域内の人物を対象人物と称する)の顔を順次撮影できるように設置される。そして撮像部100は、監視領域を撮影した監視画像を、所定の時間間隔(例えば、200msec)ごとに取得する。撮像部100は、画像処理部500と接続され、取得した監視画像を画像処理部500へ渡す。
また、顔画像認証装置10は、画像処理部500からの要求に応じて音声を鳴動させたり、振動を発生させたりする、スピーカまたは振動装置等(図示せず)をさらに備えてもよい。
顔領域を抽出するために、顔検出手段521は、例えばフレーム間差分処理または背景差分処理を利用して、撮像部100によって取得される複数の監視画像において輝度値の時間的な変化のある変化領域を抽出する。そして顔検出手段521は、抽出した変化領域のうち、その変化領域の大きさ等の特徴量から人物らしいと考えられる変化領域を人物領域として抽出する。そして顔検出手段521は、抽出した人物領域に対してSobelフィルタなどを用いて輝度変化の傾き方向が分かるようにエッジ画素抽出を行う。そして顔検出手段521は、抽出したエッジ画素から、所定の大きさをもつ、頭部の輪郭形状を近似した楕円形状のエッジ分布を検出し、そのエッジ分布に囲まれた領域を、顔領域として抽出する。この場合において、顔検出手段521は、例えば、一般化ハフ変換を用いて、楕円形状のエッジ分布を検出することができる。
そして顔検出手段521は、抽出した顔領域を監視画像から切り出して顔領域画像を作成し、その顔領域画像及び監視画像における顔領域の座標情報を顔追跡手段522に出力する。
例えば、顔追跡手段522は、最新の監視画像から抽出された顔領域(以降、現フレームの顔領域と称する)の重心位置と、1フレーム前の監視画像から抽出された顔領域(以降、前フレームの顔領域と称する)の重心位置の距離を求めて、その距離が所定の閾値以下である場合に、その顔領域を同一人物によるものとして対応付ける。なお、対象人物が撮像部100から離れているときに一定の距離を移動した場合と撮像部100の近くにいるときに同じ距離を移動した場合とでは、その移動の前後において監視画像における顔領域の位置の差は異なる。そのため、例えば所定の閾値を顔領域の大きさとすることにより、監視領域内の対象人物の位置にかかわらず、現フレームの顔領域と前フレームの顔領域が同一人物によるものか否かを適切に評価することができる。複数の顔領域が抽出されている場合には、重心位置の距離が最も近い顔領域どうしが対応づくか否かを調べる。
図3に示した履歴テーブル310において、試行番号311は、追跡中の対象人物の履歴データを他の履歴データと識別するための識別番号であり、対象人物が監視領域内に存在している間、つまり顔追跡手段522によって追跡がされている間、同一の識別番号が割り当てられ続ける。対象人物ID312は、追跡中の対象人物を他の対象人物と識別するための識別番号であり、試行番号311と1対1に対応する。対象人物ID312は、一意に定まるように付与されるものとなる。例えば、顔追跡手段522が追跡を開始した時刻を基に、乱数を発生させればよい。あるいは、対象人物ID312と試行番号311は1対1に対応するので、いずれかを省略してもよい。開始時刻313は、顔検出手段521がその対象人物について顔領域画像を最初に抽出し、顔追跡手段522が追跡処理を開始した時刻をあらわす。
追跡フラグ314は、その対象人物に対する追跡が継続しているか否かをあらわすフラグであり、顔追跡手段522がその対象人物の追跡を開始するとONになり、追跡を終了するとOFFになる。つまり、追跡フラグ314がONのときはその対象人物は監視領域内に存在し、追跡フラグ314がOFFのときはその対象人物が既に認証されて入室したか、又は認証されずに監視領域から離れたということになる。
顔画像データ315は、顔検出手段521によって作成され、顔追跡手段522によって追跡処理でその対象人物のものとして対応付けられた全ての顔領域画像のデータである。追跡位置情報316は、顔画像データ315として記憶された各顔画像データが切り出された監視画像内の顔領域の座標情報及び追跡処理がされた時刻を示す時刻情報である。
顔照合手段523は、照合処理として、公知の様々な照合方法を用いることができる。例えば、顔照合手段523は、顔領域画像と登録顔画像のパターンマッチングを行う。顔照合手段523は、顔領域画像と登録顔画像の位置をずらしながら顔領域画像に含まれる各画素と登録顔画像の対応画素の輝度値の差の二乗和を算出し、算出した二乗和のうち最も小さいものを顔領域画像に含まれる画素数で割って正規化した値の逆数を類似度として求める。顔照合手段523は、各登録顔画像について求めた類似度のうち、最も高い類似度が所定の認証閾値を越える場合、その顔領域画像に写っている対象人物を、類似度が最も高い値を有する登録顔画像により登録された登録人物である(認証成功)と判断する。一方、顔照合手段523は、何れの類似度も所定の基準値を越えない場合、顔領域画像に写っている対象人物は登録人物ではない(認証失敗)と判断する。なおこの認証閾値は、顔画像認証装置10が設置される環境、目的などに応じて適宜定められる。
この座標系において、人物の顔向きは、人物が撮像部100を直視した状態(すなわち、人物が顔の正面を撮像部100に向けており、Z軸が撮像部100と顔を結ぶ直線となる状態)を顔向きの基準となる正対状態とした場合のヨー角ψ、ピッチ角θ及びロール角φの組(ψ,θ,φ)で表される。ヨー角ψは、正対状態における人物の顔向きに対する、左右方向の回転角(すなわち、X軸を回転中心とした、YZ平面内での回転角)を表す。またピッチ角θは、正対状態における人物の顔向きに対する、上下方向の回転角(すなわち、Y軸を回転中心とした、XZ平面内での回転角)を表す。またロール角φは、正対状態における人物の顔向きに対する、Z軸を回転中心とした時計回りの回転角を表す。以下では、ヨー角ψ、ピッチ角θ及びロール角φを、ラジアン単位で表し、それぞれ、右向き方向、下向き方向、時計回り方向を正とする。
顔向き検出手段526は、顔領域画像から顔特徴点を抽出すると、3次元形状モデルについて、所定の回転量、並進量または拡大/縮小率にしたがってその顔向きを調整し、撮像部100の結像光学系の像面と平行な面に仮想的に投影して、その面上における3D顔特徴点の位置を求める。そして顔向き検出手段526は、顔領域画像から抽出された各顔特徴点と、投影された3D顔特徴点のうちの対応する特徴点との位置ずれ量の総和を求める。顔向き検出手段526は、回転量、並進量または拡大/縮小率を変更して、上記の手順を繰り返し、位置ずれ量の総和が最小となるときの3次元形状モデルの顔の向きを求める。そして顔向き検出手段526は、その3次元形状モデルの顔の向きから、上記のヨー角ψ、ピッチ角θ及びロール角φの組(ψ,θ,φ)を求めることができる。
あるいは、本願出願人による特開2009−237993に開示されている手法を採用することもできる。
そして顔向き検出手段526は、直視度を算出すると、算出した直視度をその顔領域画像と対応付けて記憶部510に記憶しておく。
そして静止検出手段527は、静止度を算出すると、算出した静止度をその顔領域画像と対応付けて記憶部510に記憶しておく。
なお、撮像部100の床面からの高さ、俯角、焦点距離などの撮像条件が既知である場合には、撮像部100と対象人物との実際の距離をおおよそ算出できるので、静止検出手段527は、(4)式に準じ、当該距離の時間変化の絶対値の逆数を静止度として算出してもよい。
また、登録人物ID413は、登録人物を他の登録人物と識別するためのIDである。登録人物ID413は、連続した正の整数でもよいが、例えば社員番号のように登録人物を一意に特定できるものであればどのようなものでもよい。登録顔画像414は、事前登録あるいは追加登録された登録人物の顔画像である。登録人物一人に対して一つ又は複数の登録顔画像が存在し得る。登録人物一人に対して複数の登録顔画像414が存在するときは、それぞれの登録顔画像414に対して登録人物ID413を割り当てることが好適である。なお、図4では理解しやすいように登録顔画像414として顔をあらわす画像を示しているが、顔照合手段523が顔画像の照合処理を実施するために必要なデータの形式で記憶しておいてもよい。例えば顔照合手段523が所定の顔特徴点の比較のみにより照合処理を実施する場合には、その顔特徴点の情報のみを記憶しておくことにより、記憶容量を節約できる。
あるいは、判定手段528は、顔照合手段523が認証成功と判断しなかった登録顔画像414については、その対象人物を写した顔領域画像と登録顔画像414について算出された、全ての類似度の平均値又は最近の所定数の類似度(例えば、最近5秒間に算出された類似度)の平均値を類似度412として記録してもよい。これにより対象人物を写した顔領域画像と登録顔画像がどれくらい類似しているかについて、より高精度に求めることができる。
本実施形態の判定手段528は、監視領域内の対象人物が認証時間内に撮像部100に顔を向けた状態で立ち止まったり、ゆっくり歩いたりしているか否かを判定する。そのために判定手段528は、顔向き検出手段526によって算出された直視度を直視度閾値と比較するとともに、静止検出手段527によって算出された静止度を静止度閾値と比較する。なお、直視度閾値は、顔領域画像に写っている対象人物の顔の向きが撮像部100を直視しているとみなせる角度範囲にあることを判別できるように定められ、例えばヨー角ψ及びピッチ角θをラジアン値で表した場合、4とするのが好適である。また、静止度閾値は、顔領域画像に写っている対象人物が略停止していることを判別できるように定められ、例えば1秒間に5フレームの監視画像を処理する場合、顔領域画像の幅をWとしたときに1/(W×0.5)とするのが好適である。
あるいは、判定手段528は、直視度が直視度閾値以上であり、静止度が静止度閾値以上である場合に、常に要望行動カウンタをインクリメントするのではなく、静止している時間が長いほど要望行動カウンタの増加幅が大きくなるようにしてもよい。例えば判定手段528はそのときの要望行動カウンタ自体の値を加算する(そのときの要望行動カウンタの値が0のときは1にする)ようにする。一方、直視度が直視度閾値未満である場合、又は静止度が静止度閾値未満である場合、その対象人物は撮像部100から顔を背けていたり、又はすばやく動いていると考えられ、認証されたいという心理状態でない可能性が高い。そのためその場合、判定手段528は要望行動カウンタを更新しない。
顔追跡手段522が対象人物の顔領域画像の追跡を開始した時刻は、履歴テーブル310の該当する履歴データの開始時刻313に記憶されている。顔照合手段523が照合成功と判断した時刻は、その照合成功との判断に用いた顔領域画像を顔画像データ315として記憶した際に対応づけて履歴テーブル310に記憶された追跡位置情報316の最新のものである。そこで判定手段528は、両者の差から認証時間を算出する。
そして判定手段528は、認証時間が所定時間以上であり、その認証時間内に要望行動カウンタが所定の閾値以上となった場合、その顔領域画像に写っている対象人物は認証されにくい人物であり、その対象人物の登録顔画像は認証しづらい画像である可能性が高いため登録顔画像を更新すべきと判断して図3に示した履歴テーブル310の更新フラグ319をONにする。この更新フラグ319は、認証されにくいと判断された人物の登録顔画像を更新すべきか否かを示すフラグである。なお、認証時間についての所定時間は、顔画像認証装置の動作として、一般的に認証処理に要すると考えられる時間を考慮し、認証成功との結果を得るために認証処理を最大限繰り返すべき時間に基づき定められるとする。本実施の形態では、図2に示すように、歩行中の対象人物について、顔追跡手段522が対象人物の顔領域画像を追跡し始めてから、顔照合手段523が時間切れとして認証失敗の結果を出すための時間を基準に定めるとして、例えば10秒間とすることができる。あるいは、撮像部100の画角や俯角、運用場所に依って増減するのが良い。また、要望カウンタについての所定の閾値は1以上の整数値である。例えば、3〜4秒間、その対象人物が撮像部100を直視しながらその場に静止している場合、その対象人物についての登録顔画像を更新すべきと判断することができる。従って、例えば1秒間に5フレームの監視画像を処理する場合、この所定の閾値は20とすることができる。要望行動カウンタは、1枚の監視画像ごとにインクリメントの有無が判断されるので、その数は、監視画像の処理間隔を考慮すると、対象人物が、撮像部100を直視しており、静止している時間を表している。
あるいは、判定手段528は、その対象人物について記録された顔領域画像のうち、静止度が最も高かったときの顔領域を切り出した顔領域画像を候補顔画像として選択して履歴データに記録してもよい。静止度が高いとき、その対象人物は認証されようとして立ち止まったり、通常の歩行速度よりもかなり低速に移動していると考えられ、そのような場合、その対象人物は認証されようとして顔を撮像部100に向けている可能性が高い。従って、そのときの顔領域画像を候補顔画像として選択することにより、登録顔画像を照合に適した正面向きの顔画像に更新できる可能性が高くなる。
あるいは、判定手段528は、顔照合手段523が照合成功と判断したときの顔領域画像を候補顔画像として選択しても良い。
あるいは、判定手段528は、その対象人物について記録された顔領域画像のうち、更新しようとしている登録顔画像との類似度が最も高い顔領域画像を候補顔画像として選択して履歴データに記録してもよい。この場合、登録顔画像が現在のものから大きく変化することを抑制でき、登録人物以外の人物が写っている顔領域画像が誤って登録される危険性を低減できる。
例えば、対象人物ID312が0511の対象人物において、要望行動カウンタ318は0で要望行動カウンタの閾値を越えておらず、その対象人物が写っている顔画像と登録人物ID413が2の登録顔画像との類似度は9.87で認証閾値を越えている。この場合、顔画像認証装置10は、この対象人物は登録人物であるとして、すみやかに認証成功と判断している。
一方、対象人物ID413が0011の対象人物において、要望行動カウンタ318は5で要望行動カウンタの閾値を越えており、その対象人物が写っている顔画像と登録人物ID413が1の登録顔画像との類似度は5.52で認証閾値を越えている。この場合、顔画像認証装置10はこの対象人物について認証成功と判断しているが、この対象人物は認証成功と判断されるまで要望行動をとっていた認証されにくい人物と考えられる。そのため、判定手段528は、この対象人物の履歴データについて更新フラグ319をONにし、候補顔画像を選択し、記憶する。
一方、対象人物ID312が0205の対象人物において、要望行動カウンタ318は6で要望行動カウンタの閾値を越えており、その対象人物が写っている顔画像と各登録顔画像との類似度は最大でも0.95で認証閾値を越えていない。この場合、対象人物は要望行動をとっているが、顔画像認証装置10は、まだこの対象人物について認証成功と判断していない。この対象人物は、登録されているものの、髪型や化粧などの原因で非常に認証困難な状態になっている人物であると考えられる。または、未登録の来訪者、場合によっては侵入を企てる不審者の可能性もある。いずれにしても、認証成功との結果が得られていない以上、どの登録顔画像414を更新すべきかは不明であるので、判定手段528は、更新フラグ319をOFFとする。
ただし、顔画像認証装置10の運用方針によっては、このように認証成功と判断できなかった対象人物も管理者による目視確認の対象にするのが望ましい場合もある。その場合には、判定手段528は、この対象人物の履歴データについても更新フラグ319をONにし、候補顔画像を選択し、記憶する。なお、後述するように登録手段525の説明は、認証成功と判断されなかった対象人物についても更新フラグ319をONにする場合について述べている。
顔画像認証装置10の管理者は、例えば、顔画像認証装置10の登録人物から認証がされにくい旨の報告を受けた場合、又は定期的に装置のメンテナンスを行う場合、入力部400に特定の暗証番号等を入力して、顔画像認証装置10に通常モードから管理者モードへの移行を指示する。登録手段525は、入力部400を介して管理者モードへの移行の指示を受け取ると、顔画像認証装置10を管理者モードへ移行させ、表示部300に登録顔画像の更新画面を表示させる。
一覧表示領域530には、判定手段528によって登録顔画像を更新すべきと判断された対象人物ごとに、要望行動カウンタ535、開始時刻536、候補顔画像537及び登録顔画像538が表示される。要望行動カウンタ535として、履歴データの要望行動カウンタ318の値が表示される。開始時刻536として、履歴データの開始時刻313が表示される。候補顔画像537として、履歴データの候補顔画像320が表示される。登録顔画像538として、その対象人物の認証処理において認証成功と判断された登録顔画像が表示される。
このとき、登録手段525は、各対象人物に関する情報を要望行動カウンタの値の大きい順に並べて一覧表示する。これにより、撮像部100を直視しながら長時間静止していた対象人物から順に表示されるので、管理者は、更新すべき登録顔画像を容易に選択することができる。あるいは、履歴データの開始時刻313を参照して、要望行動カウンタ値が同じ対象人物については古い順に並べて一覧表示をしてもよい。
また登録手段525は、入力部400からキャンセルボタン534が押下されたことを示す信号を受け取ると、管理者モードを終了する。
しかし、認証成功と判断されなかった対象人物に登録されている人物が含まれている可能性は否定できず、そのままの状態を放置するのも不適切との運用方針もあり得る。その運用方針下では、多少管理者に負荷はかかるものの、管理者による目視確認を前提に登録顔画像414の更新をする。そこで、登録されているにも関わらず認証成功とならなかった人物の登録顔画像542の更新処理として、以下説明することにする。
この対象人物については、登録者であっても認証処理において認証成功と判断された登録顔画像がないため、登録手段525は、登録顔画像538の欄に登録顔画像リスト表示ボタン541を表示する。登録手段525は、入力部400から登録顔画像リスト表示ボタン541が押下されたことを示す信号を受け取ると、表示部300に登録顔画像の選択画面を新たに表示させる。
登録顔画像情報表示領域606には、その登録顔画像の登録人物ID608、登録顔画像609、及び図5において選択された対象人物の顔画像とその登録顔画像とについて算出された類似度610が表示される。
なお、登録手段525は、更新処理を実施すると、その対象人物についての履歴データ及び照合データを削除してもよい。これにより以後の更新処理において、候補顔画像の冗長な表示を抑制することができる。
また、登録手段525は、更新フラグがONになっている履歴データ、つまり要望行動カウンタが所定の閾値以上となっている履歴データが発生すると、表示部300にその旨を示すメッセージを表示してもよい。このとき、登録手段525は、さらにスピーカによる音声鳴動、振動装置による振動等によって警報を発するようにしてもよい。これにより、登録手段525は、更新すべき登録顔画像が存在することを管理者に報知することができる。
また、管理者が対象人物の候補顔画像605と登録顔画像609とを目視により比較確認した際に、候補顔画像605に写った人物が見覚えのない人物である場合、善意の来訪者であるか、あるいは犯罪を企てるべく侵入を試みたり下見に訪れた不審人物であると判断することも可能となる。
その場合、管理者は登録顔画像の更新は行わない。また不審人物であると判断できる場合には、通報するなどの適切な対応が可能となる。
また、認証フラグ317がOFFの場合には、それまでに算出された類似度を対応する照合テーブル410に記憶する。
一方、現フレームの顔領域について前フレームの顔領域と対応付けることができた場合、顔追跡手段522は、履歴テーブル310の、対応する履歴データの顔画像データ315にその現フレームの顔領域から作成された顔領域画像を追加するとともに、追跡位置情報316にその顔領域の座標情報及び現在時刻を追加する更新処理を行う。そして顔追跡手段522は、更新した履歴データを顔照合手段523へ出力する。
ステップS709で認証が失敗した場合、顔向き検出手段526は、その認証が失敗した対象人物の顔が写っている顔領域画像について直視度を算出し、その顔領域画像と対応づけて記憶部510に記憶する(ステップS710)。次に静止検出手段527は、その顔領域について静止度を算出し、その顔領域画像と対応づけて記憶部510に記憶する(ステップS711)。そして判定手段528は、直視度と静止度から、対象人物がカメラを直視しながら静止しているか否かを判定する(ステップS712)。そして判定手段528は、対象人物がカメラを直視しながら静止していると判定すると、要望行動カウンタ318をインクリメントする(ステップS713)。
次に、顔照合手段523は認証フラグ317をONに設定する。また判定手段528は、履歴テーブル310の開始時刻313と最新の追跡位置情報316とから認証時間を算出し、顔照合手段523が算出した類似度を照合テーブル410に記憶する(ステップS715)。
判定手段528は、認証時間が所定時間以上であり、その認証時間内にインクリメントされた要望行動カウンタ318が所定の閾値以上であるか否かを判定する(ステップS716)。
認証時間が所定時間を下回った場合には、対象人物はすみやかに認証成功との判断を得て入室可能となったと考えられる。また要望行動カウンタ318が所定の閾値を下回った場合には顔を撮像部100に向けたり静止したりすることなく入室可能となったと考えられるので、どちらの場合も候補顔画像の選定などの処理を行う必要はない(ステップS716のNoの分岐)。
一方で、認証時間が所定時間以上であり、その認証時間の間にインクリメントされた要望行動カウンタ318が所定の閾値以上である場合(ステップS716のYesの分岐)には、その対象人物は登録顔画像414の更新が必要な認証されにくい人物であると考えられるので、判定手段528は更新フラグ319をONに設定する(ステップS717)。
次に、判定手段528は、登録顔画像414の更新に用いる候補顔画像の選定処理を行う(ステップS718)。
判定手段528は、ステップS709にて認証成功との判断を得た最新の顔領域画像を、履歴テーブル310の顔画像データ315から読み出して、同テーブルの候補顔画像320に記憶するものとする。
あるいは、判定手段528は、顔領域画像と対応づけられて記憶部510に記憶されている直視度を参照し、認証時間内にてそれが最大値を示した時の顔領域画像を選択して履歴テーブル310の候補顔画像320に記憶するものとする。
このときの直視度閾値又は静止度閾値は、直視度が直視度閾値以上であり、かつ静止度が静止度閾値以上である場合に要望行動カウンタをインクリメントする場合の直視度閾値又は静止度閾値と同じにしてもよい。あるいは、要望行動を取っていない人物を誤って検出することを抑制するため、このときの直視度閾値又は静止度閾値は、直視度が直視度閾値以上であり、かつ静止度が静止度閾値以上である場合に要望行動カウンタをインクリメントする場合の直視度閾値又は静止度閾値より大きい値にしてもよい。この場合も、顔画像認証装置は、登録された顔画像が認証時に取得される顔領域画像と異なって認証されにくい状態にある人物を早期に、かつ高精度に検出し、認証に適した、登録顔画像の更新に用いる顔画像をすみやかに選択することができる。
そして判定手段は、顔向き変化検出手段によって算出された顔向き変化度が顔向き変化度閾値以上であり、かつ静止検出手段によって算出された静止度が静止度閾値以上である場合に要望行動カウンタをインクリメントする。なお、顔向き変化度閾値は、顔領域画像に写っている対象人物の顔の向きが変化していることを判別できるように定められる。例えば、図2に示した正規直交座標系において(1)式を用いて直視度を算出し、(1)式のヨー角ψ及びピッチ角θをラジアン値で表し、上記の所定数を5秒間に相当するフレーム数とした場合、顔向き変化度閾値はπとすることができる。また判定手段は、さらに顔向き検出手段によって算出された直視度が直視度閾値以上である場合のみ要望行動カウンタをインクリメントするようにしてもよい。
なお、この場合の判定方法は、顔領域に写っている対象人物が撮像部に近づいた後に遠ざかったこと、又は撮像部から遠ざかった後に近づいたことを判定できるものであればどのようなものであってもよい。例えば、判定手段は、各監視画像において方向変化検出手段によって算出された差分値が所定回数以上連続して正の値であり(対象人物が撮像部に近づき)、その後所定回数以上連続して負の値となり(撮像部から離れ)、その後再度正の値となった(撮像部に再度近づいた)場合に要望行動カウンタをインクリメントしてもよい。なお、この所定回数は例えば5回とすることができる。また、判定手段は、この行動が例えば2回以上繰り返されたときに要望行動カウンタをインクリメントしてもよい。その場合、監視画像において2回目の行動時の顔領域の位置の変化の割合が1回目の行動時の顔領域の位置の変化の割合より小さいとき、すなわち対象人物の移動速度が遅くなったとき、その対象人物はより強く認証を要望していると考えられるので、要望行動カウンタの加算幅を大きくしてもよい。また、監視画像において顔領域の位置の変化の割合が徐々に小さくなる場合も、その対象人物はより強く認証を要望していると考えられるので、要望行動カウンタの加算幅を大きくしてもよい。
あるいは、判定手段は、顔状態判定手段によって顔の特徴となる部位を覆う物が存在すると判定されたときの直視度閾値及び静止度閾値を、存在しないと判定されたときの直視度閾値及び静止度閾値より大きくしてもよい。あるいは、判定手段は、顔状態判定手段によって顔の特徴となる部位を覆う物が存在すると判定されたときの要望行動カウンタの加算幅を、存在しないと判定されたときの要望行動カウンタの加算幅より小さくしてもよい。これにより顔画像認証装置は、マスク、サングラス等を用いて顔の特徴となる部位を物理的に覆い隠している対象人物を、認証を要望している人物と判定しづらくすることができ、認証を要望している人物をさらに高精度に判定することができる。
あるいは、顔状態判定手段は、Adaboost識別器を用いて顔の特徴となる部位を物理的に覆い隠しているものを検出する。この方法についてはP.Violaと M.Jonesによる論文「Rapid Object Detection Using a Boosted Cascade of Simple Features」(Proc. the IEEE International Conference on Computer Vision and Pattern Recognition, vol.1, pp.511-518, 2001)を参照することができる。その場合、Adaboost識別器には、顔の特徴となる部位が覆い隠された複数のサンプル画像と覆い隠されていない複数のサンプル画像を用いて、顔の特徴となる部位が覆い隠された画像に対して覆い隠すものが写っているとの識別結果を出力し、顔の特徴となる部位が覆い隠されていない画像に対しては覆い隠すものが写っていないとの識別結果を出力するように事前に学習させておく。これにより顔状態判定手段は、顔画像をAdaboost識別器に入力し、その顔画像に顔の特徴となる部位を覆い隠すものが写っているか否かの識別結果を得ることができる。
これに代えて、認証時間において継続的に対象人物の静止度が静止閾値を越えている時間が所定の時間を越えていると、対象人物が立ち止まっていると判断しても良い。この場合の所定時間は、これまでに述べてきた本発明の実施の形態において要望行動カウンタに用いた閾値20に対応した、例えば3〜4秒とすることができる。
この場合も、対象人物が移動することを止めて静止し続けるという認証されようとする意思の現れとして判定することもできる。
さらに、対象人物が静止しながら撮像部に顔を向けている場合、その対象人物は認証されようとしているものと推認される。そこで、上記の対象人物の静止度が継続的に静止閾値を越えている間に、当該対象人物が撮像部に顔を向けていることを判断の条件に加えることが好適である。
上記のように、認証時間内において継続的に対象人物が静止閾値を越えている時間を用いて、対象人物が立ち止まっていると判断する場合においても、認証成功と判断されたときの顔領域画像を、登録顔画像の更新に用いる候補顔画像として選択することが可能である。
一方で、顔画像認証装置における処理速度が十分に速いにも関わらず、認証成功との結果を得るまでに時間がかかるのは、それだけでも認証されにくい人物であると考えることもできる。そこで、これまでに述べてきた本発明の実施の形態よりも判定条件を少なくし、要望行動カウンタを用いず、認証時間が所定時間を越えた場合には、対象人物が認証されにくい人物であると直ちに判定しても良い。この場合の所定時間は、これまでに述べてきた本発明の実施の形態において用いた場合と同様に、例えば10秒とすることができる。
この場合でも、対象人物の行動に基づいて、認証されようと要望行動を取っている人物について、認証成功と判断されたときの顔領域画像を、登録顔画像の更新に用いる候補顔画像として選択することが可能である。
100 撮像部
200 出力部
300 表示部
400 入力部
500 画像処理部
510 記憶部
520 照合部
521 顔検出手段
522 顔追跡手段
523 顔照合手段
524 行動判定手段
525 登録手段
526 顔向き検出手段
527 静止検出手段
528 判定手段
Claims (6)
- 監視領域内の人物を撮影した監視画像を順次取得する撮像部と、登録人物の顔画像である登録顔画像を予め記憶する記憶部と、前記監視画像を用いて人物認証を行う照合部を具備する顔画像認証装置であって、
前記照合部は、
前記監視画像から人物の顔を含む領域の画像を顔領域画像として抽出する顔検出手段と、
順次取得する監視画像にて同一人物の前記顔領域画像を追跡する顔追跡手段と、
前記顔領域画像と前記登録顔画像を照合し、同一人物かを認証する顔照合手段と、
前記追跡した顔領域画像について、前記顔領域画像に写っている顔が前記撮像部に対して略正面方向を向いていることを条件に前記顔領域画像に写っている人物が認証を要望する要望行動を取っていると判定し、追跡を開始してから同一人物と認証されるまでの認証時間が第1の所定時間以上であり、且つ、前記認証時間内に取得した前記顔領域画像に写っている人物が前記要望行動を取っていると判定した回数が所定数以上である場合に、前記顔照合手段にて認証された前記登録人物を認証されにくい人物と判定する判定手段と、を有することを特徴とした顔画像認証装置。 - 更に、前記判定手段は、前記登録人物が前記認証されにくい人物と判定されたときに前記撮像部に対して略正面方向を向いている顔であると判定された顔領域画像を、前記登録顔画像を更新するための候補顔画像として前記記憶部に記憶する請求項1に記載の顔画像認証装置。
- 前記判定手段は、前記追跡した前記顔領域画像の追跡位置が略静止していることを前記条件に追加する請求項1または2に記載の顔画像認証装置。
- 監視領域内の人物を撮影した監視画像を順次取得する撮像部と、登録人物の顔画像である登録顔画像を予め記憶する記憶部と、前記監視画像を用いて人物認証を行う照合部を具備する顔画像認証装置であって、
前記照合部は、
前記監視画像から人物の顔を含む領域の画像を顔領域画像として抽出する顔検出手段と、
順次取得する監視画像にて同一人物の前記顔領域画像を追跡する顔追跡手段と、
前記顔領域画像と前記登録顔画像を照合し、同一人物かを認証する顔照合手段と、
前記追跡した顔領域画像について、前記顔領域画像の追跡位置が略静止していることを条件に前記顔領域画像に写っている人物が認証を要望する要望行動を取っていると判定し、追跡を開始してから同一人物と認証されるまでの認証時間内に取得した前記顔領域画像に写っている人物が前記要望行動を取っていると判定した回数が所定数以上である場合に、前記顔照合手段にて認証された前記登録人物を認証されにくい人物と判定する判定手段と、を有することを特徴とした顔画像認証装置。 - 前記判定手段は、前記略静止していると判定している時間の前記顔領域画像に写っている顔が前記撮像部に対して略正面方向を向いていることを前記条件に追加する請求項4に記載の顔画像認証装置。
- 更に、前記判定手段は、前記認証されにくい人物と判定されたときに同一人物と認証された顔領域画像を、前記登録顔画像を更新するための候補顔画像として前記記憶部に記憶する請求項4または5に記載の顔画像認証装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011072413A JP5730095B2 (ja) | 2011-03-29 | 2011-03-29 | 顔画像認証装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011072413A JP5730095B2 (ja) | 2011-03-29 | 2011-03-29 | 顔画像認証装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012208610A JP2012208610A (ja) | 2012-10-25 |
JP5730095B2 true JP5730095B2 (ja) | 2015-06-03 |
Family
ID=47188312
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011072413A Active JP5730095B2 (ja) | 2011-03-29 | 2011-03-29 | 顔画像認証装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5730095B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6123653B2 (ja) * | 2013-11-28 | 2017-05-10 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理方法、プログラム |
KR101977887B1 (ko) * | 2015-11-02 | 2019-05-13 | 주식회사 파이브지티 | 환경순응형 얼굴 인식 시스템 및 그 방법 |
JP2017152013A (ja) * | 2017-04-05 | 2017-08-31 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理方法、プログラム |
JP7286328B2 (ja) * | 2018-03-02 | 2023-06-05 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP7327923B2 (ja) * | 2018-10-18 | 2023-08-16 | キヤノン株式会社 | 情報処理装置、情報処理方法、システムおよびプログラム |
CN110516543A (zh) * | 2019-07-19 | 2019-11-29 | 平安科技(深圳)有限公司 | 人脸图片的更新方法、装置、计算机设备和存储介质 |
JP7389997B2 (ja) * | 2019-11-07 | 2023-12-01 | シーテックドライブ株式会社 | カメラを用いたマーケティングシステム |
JP7491099B2 (ja) | 2020-07-07 | 2024-05-28 | 大日本印刷株式会社 | 画像販売システム |
JP7479987B2 (ja) | 2020-08-07 | 2024-05-09 | エヌ・ティ・ティ・コミュニケーションズ株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP7279772B2 (ja) * | 2020-09-11 | 2023-05-23 | 日本電気株式会社 | サーバ装置、システム、サーバ装置の制御方法及びコンピュータプログラム |
JP7093037B2 (ja) * | 2020-10-28 | 2022-06-29 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、顔認証システム、その制御方法とプログラム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4314016B2 (ja) * | 2002-11-01 | 2009-08-12 | 株式会社東芝 | 人物認識装置および通行制御装置 |
JP4569190B2 (ja) * | 2004-06-24 | 2010-10-27 | オムロン株式会社 | 不審者対策システム及び不審者検出装置 |
JP2006099190A (ja) * | 2004-09-28 | 2006-04-13 | Mitsubishi Electric Corp | 出入管理装置 |
JP2009211556A (ja) * | 2008-03-05 | 2009-09-17 | Fujitsu Ltd | 生体認証装置 |
-
2011
- 2011-03-29 JP JP2011072413A patent/JP5730095B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2012208610A (ja) | 2012-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5730095B2 (ja) | 顔画像認証装置 | |
JP5808974B2 (ja) | 顔画像認証装置 | |
KR102465532B1 (ko) | 객체 인식 방법 및 장치 | |
JP5390322B2 (ja) | 画像処理装置、及び画像処理方法 | |
JP6610906B2 (ja) | 活動検出方法及びデバイス、並びに本人認証方法及びデバイス | |
US10127439B2 (en) | Object recognition method and apparatus | |
JP5127531B2 (ja) | 画像監視装置 | |
JP2004213087A (ja) | 個人認証装置および個人認証方法 | |
JP6222948B2 (ja) | 特徴点抽出装置 | |
JP5955133B2 (ja) | 顔画像認証装置 | |
EP2605169B1 (en) | User detecting apparatus, user detecting method, and a user detecting program | |
JP6148065B2 (ja) | 顔認証システム | |
JP2007334623A (ja) | 顔認証装置、顔認証方法、および入退場管理装置 | |
JP6148064B2 (ja) | 顔認証システム | |
JP2009245338A (ja) | 顔画像照合装置 | |
JP2001331799A (ja) | 画像処理装置および画像処理方法 | |
JP2008146539A (ja) | 顔認証装置 | |
JP5955031B2 (ja) | 顔画像認証装置 | |
JP6973175B2 (ja) | 画像選択プログラム、情報処理装置、システム、および画像選択方法 | |
JP6265592B2 (ja) | 顔特徴抽出装置および顔認証システム | |
KR101640014B1 (ko) | 허위 안면 이미지 분류가 가능한 홍채 인식 장치 | |
JP2006236260A (ja) | 顔認証装置、顔認証方法および入退場管理装置 | |
JP5766096B2 (ja) | 顔画像認証装置 | |
JP5101429B2 (ja) | 画像監視装置 | |
JP5955056B2 (ja) | 顔画像認証装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140107 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140808 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140819 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141017 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150310 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150407 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5730095 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |