JP7092255B2 - 画像処理装置および画像処理方法 - Google Patents

Description

本発明は、生体認証に好適に適用される画像処理装置および画像処理方法に関する。

虹彩認証などの画像を用いた非接触認証では、まず、認証対象（例えば、人物）またはその一部が撮像され、認証処理対象（例えば、虹彩）のパターンが取得される。次に、取得されたパターンが特徴量化される。そして、その特徴量とあらかじめデータベースに登録されている特徴量とが照合されることによって認証が行われる。

画像を用いた非接触認証において、パターンが微細である場合、パターンの鮮明さや解像度が認証精度に影響する。したがって、充分な解像度が確保され、かつ、認証処理対象を含む被写体が、合焦状態で撮像されることが求められる。

カメラの合焦範囲（被写界深度）は、近似的に、（１）式のように表される。

ＤｏＦ（Depth of field）＝（２・ｐ^２・Ｎ・ＣｏＣ）／ｆ^２ （１）

（１）式において、Ｎは、Ｆ値（レンズの開口）を示す。ｐは、カメラから被写体までの距離を示す。ｆはレンズ焦点距離を示す。ＣｏＣ（Circle of Confusion ）は、許容錯乱円径を示す。許容錯乱円径は、合焦しているとみなせるぼけ度合（錯乱円径）を表す。許容錯乱円径として、例えば、撮像に使用するイメージセンサの画素サイズが用いられる。

一例として、被写体が約２ｍ先にある状況で、直径１２ｍｍの虹彩を高解像度で撮像することが求められるカメラシステムにおいて、焦点距離２００ｍｍ程度の望遠レンズを用い、Ｆ値を８に設定して撮像した場合、被写界深度は約１０ｍｍである。

上記のように、カメラの被写界深度は狭いので、認証処理に最適な合焦画像（合焦範囲内で撮像された画像）を得ることは一つの課題である。なお、特許文献１～３には、好適な合焦画像を得るための方法が記載されている。

特許文献１には、フォーカスレンズで画像を取得し、画像中の高周波成分が最も高いフォーカスレンズ位置を合焦位置とする方法が記載されている。特許文献２には、位置検出手段が計測した被写体までの距離に基づいて、合焦度があらかじめ設定された所定値以上になる虹彩画像が撮像される蓋然性が高い距離を算出し、算出された距離をカメラの焦点位置として被写体を撮像する方法が記載されている。

特許文献３には、複数の撮像素子で被写体を撮像し、高周波成分量が最も大きい画像を認証処理用の画像として選択する方法が記載されている。

特開２００２－１２２８９９号公報 特開２００４－２２６７２９号公報 特開２００５－２４４５４９号公報 特開２００２－３４１４０６号公報

「日本初ウォークスルー虹彩認証システムを開発」、２００７年８月３日、[online]、松下電器産業株式会社、[平成３１年２月２０日検索]、インターネット<URL:https://news.panasonic.com/jp/press/data/jn070803-1/jn070803-1.html>

実用的な生体認証装置を構築するために、短時間で合焦画像が得られることが要求される。

認証対象が静止せず移動する状態で非接触認証を行うウォークスルー認証が知られている（例えば、非特許文献１参照）。また、特許文献４に、移動する人物を対象として虹彩認証を行う装置が記載されている。特許文献４に記載されているように、ウォークスルー認証では、より高速に合焦画像を得ることが要求される。

例えば、認証対象である歩行者が、歩行速度１ｍ／ｓでカメラから２ｍ離れた合焦範囲を通過することを想定する。また、被写界深度が１０ｍｍであるレンズを用いた撮像環境において、合焦画像を得るには、少なくとも１００フレーム／ｓのフレームレートで画像を取得しなければならない。したがって、各々のフレームから合焦画像を得るために焦点評価およびそれに基づくフォーカス変更処理を実施する場合、１フレームあたり１０ｍｓでフォーカス変更処理を完了することが求められる。

また、人によって画角内の虹彩の位置が異なる。したがって、遠方から歩行者の虹彩を認証することを目的とした場合、虹彩以外の面積が多い画像から虹彩領域を検出した上で、合焦度が算出される。すなわち、１０ｍｓで完了すべき処理の量はさらに多くなる。

特許文献４に記載された発明では、高速に合焦画像を得るために、画像の間引き処理が利用されている。具体的には、当該発明では、おおよその合焦がなされた後、カメラを移動させつつ順次画像が取得され、取得された複数の画像から、認証処理に最適な合焦画像が選択される。

しかし、認証処理に最適な合焦画像を得るために、おおよその合焦がなされた後にカメラを物理的に移動させるので、最適な合焦画像を得るまでに時間がかかるという課題がある。

本発明は、生体認証処理をより高速に実行し、生体認証処理に要する時間を短くすることができる画像処理装置および画像処理方法を提供することを目的とする。

本発明による画像処理装置は、時間的に連続して撮影された複数の画像を順次記憶する画像記憶手段と、連続して撮影された複数の画像に対する間引き処理を行う間引き手段と、間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行う第１の画像評価手段と、第１の合焦評価の評価結果に基づいて、連続して撮影された複数の画像から複数の合焦フレーム候補を選定する選定手段と、選定手段が選定した合焦フレーム候補の画像を画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行う第２の画像評価手段と、第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、合焦フレーム候補の画像から選択する照合画像決定手段とを含む。

本発明による画像処理方法は、時間的に連続して撮影された複数の画像を画像記憶手段に順次格納し、連続して撮影された複数の画像に対する間引き処理を行い、間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行い、第１の合焦評価の評価結果に基づいて、連続して撮影された複数の画像から複数の合焦フレーム候補を選定し、選定された合焦フレーム候補の画像を画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行い、第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、合焦フレーム候補の画像から選択する。

本発明による画像処理プログラムは、コンピュータに、時間的に連続して撮影された複数の画像を画像記憶手段に順次格納する処理と、連続して撮影された複数の画像に対する間引き処理と、間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行う処理と、第１の合焦評価の評価結果に基づいて、連続して撮影された複数の画像から複数の合焦フレーム候補を選定する処理と、選定された合焦フレーム候補の画像を画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行う処理と、第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、合焦フレーム候補の画像から選択する処理とを実行させる。

本発明によれば、生体認証処理に要する時間を短くすることができる。

画像処理装置が実行する画像処理方法の流れを示す説明図である。 画像処理装置の構成例を示すブロック図である。 第１の実施形態の画像処理装置の動作を示すフローチャートである。 合焦評価処理の評価結果の一例を示す説明図である。 第１の実施形態における粗画像評価部の評価結果の一例を示す説明図である。 第２の実施形態の画像処理装置の動作を示すフローチャートである。 第２の実施形態における粗画像評価部の評価結果の一例を示す説明図である 第３の実施形態の画像処理装置の動作を示すフローチャートである。 第３の実施形態における粗画像評価部の評価結果の一例を示す説明図である。 スプライン近似を用いずに作成された時系列評価値の一例を示す説明図である。 スプライン近似を用いて作成された時系列評価値の一例を示す説明図である。 ウォークスルー型虹彩認証システムの構成と作用を説明する説明図である。 ＣＰＵを有するコンピュータの一例を示すブロック図である。 画像処理装置の概要を示すブロック図である。

生体認証処理に要する時間を短くするために、被写体の動きや奥行にピントを合わせず、固定焦点レンズを用いて被写体が接近する一連の画像を高フレームレートで撮像する方法が考えられる。すなわち、固定焦点レンズを介して合焦画像を含む画像群を高速に撮像することが考えられる。なお、この方法は、歩行する被写体がレンズ焦点位置を含む合焦範囲を必ず通過することを前提としている。

上記の方法で得られた全ての画像を特徴量化した上で特徴量データベースに格納されている特徴量との照合を行う場合、照合処理に膨大な時間がかかる。照合処理の時間と照合精度とはトレードオフの関係にある。照合精度は、入力画像の解像度に依存する。画像の解像度が高いほど、データ量は増大する。照合精度が高いと、処理時間は、要求される時間（例えば、１０ｍｓ）を超過してしまう。

特に、多くの認証対象を短時間で扱わなければならない場合などには、１つの認証対象に係る画像群の撮像から照合処理の結果が出るまでの時間を短縮する要請の度合いがより高くなる。

例えば、動く被写体を考慮する場合、上述したように、認証対象が歩行者であるときに、少なくとも１００フレーム／ｓ以上の高いフレームレートで撮像されることが望ましい。したがって、被写体の撮像枚数は非常に多い。撮像された画像の全てを対象とする照合処理が実行されると処理時間が長くなるので、事前に（例えば、照合処理の対象とされる画像の選定が実行される前に）、照合処理の対象とされる画像が画像群から選択されることが好ましい。選択される画像は、合焦範囲内で撮像された画像である。以下、照合処理の対象とされる画像を画像群から選択する処理を、画像評価処理という。

しかし、画像の解像度を高くするために画素数の大きい画像が用いられることが好ましいので、画像群における全ての画像を対象として画像評価処理を実行すると、画像評価処理の処理時間が長くなってしまう。

そこで、以下に述べるように、実施形態では、画像評価処理に要する時間を短縮できる画像処理装置および画像処理方法が開示される。

図１は、一実施形態の画像処理装置が実行する画像処理方法の流れを示す説明図である。図１において、矢印は、画像１枚当たりの処理時間を示す。

図１において、（Ａ）は、画像キャプチャ（撮像手段（例えば、カメラ）による撮像開始からメモリに画像が記録されるまで）の処理時間を示す。（Ｂ）に、粗評価処理の処理時間を示す。（Ｃ）は、メモリに記録された画像を対象として時系列順に画像評価を行う処理時間を示す。（Ｄ）は、合焦していると判断された画像（照合に最適であると判断された画像）を対象として、照合結果を算出する処理の処理時間を示す。

粗評価処理は、少なくとも１枚の画像がメモリに書き込まれると開始される。粗評価処理は、画像の画素を空間的に間引くか、または、画像を時間的に間引き（画像そのものすなわちフレームを間引く。）、空間的または時間的に間引かれた画像を対象として各画像が合焦範囲内で撮像された画像であるか否か判定する処理である。すなわち、粗評価処理では、間引かれた時系列データが粗く合焦評価されることによって合焦フレーム候補が推定される。合焦フレーム候補は、合焦範囲内で撮像された蓋然性が高い画像である。

粗評価処理によって得られる合焦フレーム候補は、空間方向または時間方向に間引かれた画像群から選定された画像であるから、最適な照合画像とは限らない。画像評価処理において、評価値が大きい画像の前後複数枚の間引かれていない画像（合焦フレーム候補の画像）に対して、合焦評価が行われることによって、より高精度な評価を経て照合画像が抽出される。なお、照合画像は、認証処理において使用される画像である。

図１に示された処理によって、撮像された全ての画像に対して画像評価処理（合焦評価処理）が実行される場合に比べて、合焦評価の対象の画像数が削減される。したがって、撮像から照合処理を開始可能になるまでの一連の処理時間が短縮される。

図２は、画像処理装置の構成例を示すブロック図である。

図２に示す画像処理装置は、画像取得部１０１、画像記録部１０２、粗画像評価部１０３、合焦フレーム候補推定部１０４、画像評価部１０５、合焦フレーム判定部１０６、および特徴抽出・照合部１０７を備える。

画像取得部１０１は、一の被写体（例えば、被認証者）が撮像手段によって時間的に連続して撮影された画像を順次入力する。画像記録部１０２は、画像を記憶するメモリである。

粗画像評価部１０３は、上記の粗評価処理（図１（Ｂ）参照）のうち、粗い合焦評価処理を実行する。すなわち、粗画像評価部１０３は、時間的に画像が間引かれた画像群を作成し、作成された画像群における各画像が合焦範囲内で撮像された画像である可能性を判断する処理を実行する。粗画像評価部１０３は、処理結果として、各画像の評価値を出力する。評価値は、画像が合焦範囲内で撮像された画像である可能性（合焦している可能性）が高いほど大きな値になる。

なお、粗画像評価部１０３は、画像記録部１０２に一連の画像の全てが書き込まれたときとほぼ同時に粗評価処理が終了するように、画像の画素数やフレーム数を削減する。

合焦フレーム候補推定部１０４は、上記の粗評価処理のうち、合焦フレーム候補を推定する処理を実行する。上述したように、評価値は、時間的間引きによって画像数が減った画像群における画像の評価値である。したがって、粗画像評価部１０３が出力する評価値に基づいて最適な合焦フレームが得られない可能性がある。

合焦フレーム候補推定部１０４は、例えば、評価値が最も高い画像の前後数フレームの画像（評価値が最も高い画像も含む。）を合焦フレーム候補として出力する。合焦フレーム候補推定部１０４は、例えば、合焦フレーム候補のフレーム番号を出力する。フレーム番号として、一例として、撮像された画像の通し番号が用いられる。なお、画像記録部１０２には、フレーム番号に対応づけられて画像のデータが保存される。

画像評価部１０５は、合焦フレーム候補を対象として、真に合焦フレームであるか否かを評価する画像評価処理（図１（Ｃ）参照）を行う。画像評価処理において、画像評価部１０５は、画像記録部１０２に保存されている画像を用いる。すなわち、画像評価部１０５は、間引き処理が施されていない画像を評価する。画像評価部１０５は、例えば、各合焦フレーム候補の評価値を出力する。

合焦フレーム判定部１０６は、評価値が最も高い合焦フレーム候補を合焦フレームとする。合焦フレーム判定部１０６は、例えば、合焦フレームのフレーム番号を出力する。

特徴抽出・照合部１０７は、合焦フレームの画像（照合画像に相当）について、特徴量抽出を行い、特徴量データベースなどを用いた照合処理を行う。

実施形態１．
図３のフローチャートを参照して、画像処理装置の第１の実施形態を説明する。第１の実施形態では、画像処理装置は、合焦フレーム候補を推定するときに、キャプチャされた画像を時間的に間引く処理を実行する。

図３に例示された処理では、Ｍ（Ｍ：２以上の自然数）フレーム分の画像が画像記録部１０２にキャプチャされる度に、１フレームの画像が画像記録部１０２から読み出され、読み出された画像に対して合焦評価が実行される。そして、あらかじめ決められているＮ（Ｎ：２以上の自然数）フレームの画像がキャプチャされたら、合焦フレーム候補を推定する処理に移行する。

画像処理装置において、画像取得部１０１は、撮像手段から順次画像を入力する（ステップＳ１０１）。そして、画像取得部１０１は、入力された画像を画像記録部１０２に書き込む（ステップＳ１０２）。

画像記録部１０２に１フレーム分の画像が記録されたら、粗画像評価部１０３は、粗画像処理を開始する。粗画像処理では、画像記録部１０２から画像が読み出されつつ、時間サンプリングが行われる。図３に示された例では、粗画像評価部１０３は、Ｍフレームおきに合焦評価処理を実行する（ステップＳ１０３，Ｓ１０５）。すなわち、粗画像評価部１０３は、画像記録部１０２から読み出した画像が、Ｍの自然数倍目のフレームの画像であるときに、その画像に対して合焦評価処理を施す。

粗画像評価部１０３は、公知の方法で合焦評価処理を実行して評価値を算出する。例えば、粗画像評価部１０３は、ハイパスフィルタを使用して画像の高周波成分を抽出する。そして、粗画像評価部１０３は、ハイパスフィルタ通過後の画素の平均値を評価値とする。粗画像評価部１０３は、評価値をフレーム番号と対応づけて一時記憶する（ステップＳ１０６）。

キャプチャされた画像の数がＮになるまで，ステップＳ１０１～Ｓ１０６の処理が繰り返され（ステップＳ１０７）、処理された画像の数がＮになると、キャプチャは終了する（ステップＳ１０８）。

次に、合焦フレーム候補推定部１０４は、合焦フレーム候補を推定する（ステップＳ１０９）。推定される合焦フレーム候補は、例えば、評価値が最も高い画像と、その前後数フレームの画像である。合焦フレーム候補推定部１０４は、それらの画像のフレーム番号を、合焦フレーム候補を特定可能なデータとして画像評価部１０５に出力する。なお、合焦フレーム候補の数は、一連の処理に要する時間が許容時間（例えば、１０ｍｓ）以下になるように選定される。

画像評価部１０５は、フレーム番号で特定される合焦フレーム候補の画像を画像記録部１０２から読み出し、読み出された画像を対象として１画像ずつ合焦評価処理を実行して評価値を算出する（ステップＳ１１０）。画像評価部１０５が実行する合焦評価処理は、粗画像評価部１０３で実行される合焦評価処理と同じ処理でよい。

次いで、合焦フレーム判定部１０６は、画像評価部１０５が算出した評価値に基づいて、合焦フレーム候補の画像が合焦画像であるか否か確認する（ステップＳ１１１）。ステップＳ１１１において、合焦フレーム判定部１０６は、例えば、評価値があらかじめ決められているしきい値（合焦画像であることが確実であることを判定可能なしきい値）を越えているか否か判定する。合焦フレーム判定部１０６は、合焦フレーム候補の画像の評価値がしきい値を越えていたら、その合焦フレーム候補のフレーム番号を、合焦画像（照合画像に相当）のフレーム番号として特徴抽出・照合部１０７に出力する。

特徴抽出・照合部１０７は、合焦画像について、特徴量抽出を行い、特徴量データベースなどを用いた照合処理を行う（ステップＳ１１２）。なお、特徴抽出・照合部１０７は、合焦フレーム判定部１０６からのフレーム番号で特定される画像の前後数枚の画像も用いて特徴量抽出および照合処理を行ってもよい。

図４は、合焦評価処理の評価結果の一例を示す説明図である。図４に示すグラフにおいて、横軸はフレーム数を示し、縦軸は評価値を示す。図４に示す例は、移動する被写体が固定焦点レンズを用いて連続的に撮影され、得られた２４０枚の画像に対して上述したような合焦評価処理を実行した場合の例である。図４に示されるように、評価値（合焦評価値）は、被写体の移動すなわちフレームの推移に合わせてピークを持つ。

図５は、本実施形態における粗画像評価部１０３の評価結果の一例を示す説明図である。図５に示す例は、粗画像評価部１０３が、１０フレームおきに合焦評価処理を実行した場合の例である。図５に示されるように、評価値のピーク（図４参照）は損なわれていない。したがって、本実施形態のように時間的に画像を間引いても、合焦フレーム判定部１０６が合焦画像を得ることができる。また、粗画像評価部１０３が１０フレームおきに合焦評価処理を実行した場合には、全体的な処理時間は、１／１０に短縮される。

実施形態２．
図６のフローチャートを参照して、画像処理装置の第２の実施形態を説明する。第２の実施形態では、画像処理装置は、合焦フレーム候補を推定するときに、キャプチャされた画像を空間的に間引く処理を実行する。画像を空間的に間引く処理は、画像の画素を減らす処理、換言すれば、解像度を低くする処理である。

第２の実施形態の画像処理装置の構成は、図２に示された構成と同じである。ただし、本実施形態では、粗画像評価部１０３は、空間的に画素が間引かれた画像を作成し、作成された画像が合焦範囲内で撮像された画像である可能性を判断する処理を実行する。

図６に示された処理は、図３に示された第１の実施形態の画像処理装置の処理とほぼ同じであるが、本実施形態では、図３に示されたステップＳ１０３の処理は実行されず、その代わりに、ステップＳ１０４の処理が実行される。また、粗画像評価部１０３は、粗い合焦評価処理を実行する（ステップＳ１０５Ａ）。粗い合焦評価処理は、画素が間引かれた画像を対象とする合焦評価処理を意味する。その他の処理は、図３に示された処理と同じである。

図７は、本実施形態における粗画像評価部１０３の評価結果の一例を示す説明図である。図７に示す例は、粗画像評価部１０３が、画像の縦横について４画素ごとに３画素を間引いた場合の例である。よって、画像サイズは、元のサイズの１／４になる。粗画像評価部１０３は、空間的に間引かれた画像を対象として合焦評価処理を実行する。４画素ごとに３画素が間引かれた場合、処理対象画素数は１／１６になるので、全体的な処理時間は、１／１６に短縮される。

また、図７に示されるように、評価値のピーク（図４参照）は損なわれていない。したがって、本実施形態のように時間的に画像を間引いても、合焦フレーム判定部１０６が合焦画像を得ることができる。

実施形態３．
図８のフローチャートを参照して、画像処理装置の第３の実施形態を説明する。第３の実施形態では、画像処理装置は、合焦フレーム候補を推定するときに、キャプチャされた画像を時間的に間引く処理を実行するとともに、空間的に画素を間引く処理を実行する。

第３の実施形態の画像処理装置の構成は、図２に示された構成と同じである。ただし、本実施形態では、粗画像評価部１０３は、第１の実施形態の場合と同様、キャプチャされた画像群を構成する時系列画像から画像を間欠的に選択し、選択された画像に対して、第２の実施形態の場合と同様に、画素間引きを行うことによって間引かれた画像を生成する。その後、粗画像評価部１０３は、作成された画像が合焦範囲内で撮像された画像である可能性を判断する処理を実行する。

すなわち、図８に示された処理では、図３に示されたステップＳ１０３の処理と図６に示されたステップＳ１０４の処理とがともに実行される。

すなわち、粗画像評価部１０３は、粗画像処理において、まず、時間サンプリングを実行する。図８に示された例では、粗画像評価部１０３は、画像群からＭフレームおきに画像を選択する（ステップＳ１０３）。粗画像評価部１０３は、選択された画像を対象として粗い合焦評価処理を実行する（ステップＳ１０４，Ｓ１０５Ａ）。

その他の処理は、図３に示された処理および図６に示された処理と同じである。

図９は、本実施形態における粗画像評価部１０３の評価結果の一例を示す説明図である。図９に示す例は、粗画像評価部１０３が、１０フレームおきに１フレームの画像を選択し、かつ、選択された画像の縦横について４画素ごとに３画素を間引いた場合の例である。よって、全体的な処理時間は、（１／１０）×（１／１６）に短縮されることが期待される。

また、図９に示されるように、評価値のピーク（図４参照）は損なわれていない。したがって、本実施形態のように時間的に画像を間引いても、合焦フレーム判定部１０６が合焦画像を得ることができる。

なお、合焦フレーム候補推定部１０４が、評価値が最も高い画像の前後数フレームの画像を合焦フレーム候補として出力する場合、時間的な間引きを行ったときには、前後数フレームの数を、例えば、間引き間隔の２倍程度にしてもよい。具体的には、キャプチャされる画像数がＮ＝２４０であり、粗画像評価部１０３が１０フレームおきに１フレームの画像を選択する場合、前後数フレームを２０フレームとする。この場合には、粗画像処理の対象になる画像の数は、Ｎの１／１２である。

また、合焦フレーム候補推定部１０４は、合焦フレーム候補を決定するときに、粗画像評価部１０３が算出した評価値の系列から、スプライン近似などを用いた補間によって密な時系列評価値を作成してもよい。

図１０および図１１は、スプライン近似の効果を説明するための説明図である。すなわち、図１０は、スプライン近似を用いずに作成された時系列評価値の一例を示す説明図である。具体的には、図１０には、粗画像評価部１０３が、２０フレームおきに１フレームの画像を選択し、かつ、選択された画像の縦横について４画素ごとに３画素を間引いた場合の例が示されている。

図１１は、スプライン近似を用いて作成された時系列評価値の一例を示す説明図である。図１１にも、粗画像評価部１０３が、２０フレームおきに１フレームの画像を選択し、かつ、選択された画像の縦横について４画素ごとに３画素を間引いた場合の例が示されているが、さらにスプライン近似がなされることによって、密な評価値の系列が作成される。合焦フレーム候補推定部１０４が密な評価値を用いて合焦フレーム候補を決定することによって、より精度よく合焦フレーム候補が決定される。

図１０に示された例と図１１に示された例とを比較すると、スプライン近似を用いないときには評価値のピークが損なわれてしまう（真のピークが現れない）場合でも、スプライン近似によって評価値のピークが現れるようにすることができることがわかる。

また、上記の各実施形態では、ステップＳ１０９の処理（図３等参照）で、評価値が最も高い画像（中央合焦フレーム候補とする。）に基づいて合焦フレーム候補を決定する場合、合焦フレーム候補推定部１０４は、粗画像評価部１０３から出力された全てのフレーム番号で特定される画像を対象として順次合焦評価処理を実行する。

しかし、確実に合焦画像が得られることが保証されるようなしきい値をあらかじめ設定し、合焦フレーム候補推定部１０４は、しきい値を越える評価値を検出したときに、その評価値に対応するフレーム番号で特定される画像を中央合焦フレーム候補としてもよい。その場合には、残りの評価値についての処理を実行することなく、ステップＳ１１０に移行する。

また、図４等に例示されたように、評価値の系列は、ピークを持つ形状をなす。そのことを利用して、ステップＳ１０９の処理で、しきい値を越える評価値が検出された後、しきい値以下の評価値が検出されたときに、残りの評価値についての処理を実行することなく、ステップＳ１１０に移行するようにしてもよい。そのように構成される場合には、例えば、最初にしきい値を越えた評価値としきい値以下の評価値が検出される直前の評価値との中間に存在する評価値が活用される。すなわち、合焦フレーム候補推定部１０４は、その評価値に対応するフレーム番号で特定される画像を中央合焦フレーム候補とする。

以上に説明したように、上記の各実施形態の画像処理装置は、キャプチャ開始と同時に粗評価処理を開始する（厳密には、少なくとも１枚の画像が画像記録部１０２に書き込まれたときに開始される。）。そして、画像処理装置において、画像群における画像に対する粗い合焦評価処理が実行されるので、キャプチャ開始から照合処理の結果算出までの時間が短縮される。よって、所定時間で認証できる被認証者の人数を増加することが可能である。

なお、より高精度な認証処理ができるようにするために画像処理装置は、画像から、認証処理対象を含む部位（例えば、目位置）を検出する機能（評価領域を絞る機能）を含んでいてもよい。そして、画像処理装置は、評価領域を絞った後に合焦評価処理を行ってもよい。

以下、図１２の説明図を参照して画像処理装置の実施例を説明する。本実施例は、ウォークスルー型虹彩認証システム（以下、システムという。）に、上記の実施形態の画像処理装置が適用された例である。ウォークスルー型認証は、入場ゲートなどの入退場管理に使用される。本実施例では、登録者（例えば、入場ゲートを通過できる資格を有する者）を認証（照合）できた場合には、登録者がノンストップでゲートを通過することを想定する。

被認証者４００が正しく照合された場合には、歩行しながら止まることなくゲートを通過できるようにすることが求められる。例えば、ゲートから約２ｍ離れた状態で撮像された虹彩画像を対象として、被認証者４００が２ｍ離れた地点から０ｍ地点（入場ゲート地点）を通過するまでの間に照合結果が算出されることが求められる。

システムは、全体俯瞰カメラ３００と、垂直方向に複数の赤外線照明およびカメラ２０１，２０２，２０３が配列された虹彩撮像用カメラ２００とを含む。全体俯瞰カメラ３００は、被認証者４００の顔を含む部位を撮像する（ステップＳ３１）。そして、システムにおける制御部（図示せず）は、被認証者４００の顔検出を行う。また、制御部は、被認証者４００と虹彩撮像用カメラ２００との間の距離を推定する（ステップＳ３２）。さらに、制御部は、被認証者４００の身長に合わせたカメラを選択する。

制御部は、被認証者４００の顔の大きさなどに基づいて被認証者４００の位置を推定する。そして、制御部は、被認証者４００がピント位置に近づく瞬間に選択したカメラを、被認証者４００の目の位置をＲＯＩ（Region Of Interest）すなわち処理対象領域として起動する。

ステップＳ３３で、虹彩撮像用カメラ２００は、起動してから数秒の間、撮像した画像４０１を、上記の実施形態の画像処理装置における画像取得部１０１（図２参照）に出力する。画像取得部１０１は、入力された画像を、順次、画像記録部１０２に格納する。

粗画像評価部１０３は、最初に撮像された画像が画像記録部１０２に格納された直後から、画像記録部１０２に格納された画像を順次読み出して、粗評価処理を行う（ステップＳ３４）。粗評価処理では、上述したように、画像を時間方向に間引く処理もしくは画像の解像度を低くする処理（空間的間引き処理）、または双方の処理が実行されつつ、画像の合焦評価処理が行われる。

その後、画像評価部１０５によって、評価値が大きい画像の前後複数枚の合焦フレーム候補の画像に対して、合焦評価が行われる（ステップＳ３５）。そして、特徴抽出・照合部１０７によって、得られた合焦画像（照合画像）の特徴量抽出が行われ、データベースなどを用いた照合処理が行われる。

なお、本実施例では、ウォークスルー型認証を例にしたが、上記の各実施形態は、虹彩認証に限らず他の生体認証にも適用可能である。特に、一画素に対して０．０６ｍｍ程度の高解像度が必要とされる画像を用いる認証に対して好適に使用可能である。

次に、ウォークスルー型認証以外の認証の一例を説明する。

ウォークスルー型認証以外の認証として、静止している被写体（静止被写体）に対してピント位置を変化させ、合焦画像を含んだ画像群を取り込む認証を例にする。

例えば、カメラからの距離がある程度わかっている静止被写体の虹彩を照合する場合を考える。その場合、レンズ駆動範囲は限定される。ボイスコイルモータでレンズを駆動したり、液体レンズ等を駆動することによって、連続的に合焦位置を変化させた一連の画像が取得できる。本実施例では、センシング結果をフォーカス駆動機構にフィードバックするといった処理は要求されない。よって、高速な連続撮像が可能である。

上記の各実施形態のように、最初に撮像された画像が画像記録部１０２に格納された直後から、画像が画像記録部１０２から順次読み出される。その後、図２に示された粗画像評価部１０３、合焦フレーム候補推定部１０４、画像評価部１０５、合焦フレーム判定部１０６、および特徴抽出・照合部１０７は、上述した処理を実行する。

よって、上記の実施形態の画像処理装置は、静止している照合対象者を高速に撮影し、撮影開始から照合結果出力までの時間を短縮することも可能である。

図１３は、ＣＰＵ（Central
Processing Unit ）を有するコンピュータの一例を示すブロック図である。ＣＰＵ１０００は、記憶装置１００１に格納された画像処理プログラムに従って処理を実行することによって、上記の実施形態における各機能を実現する。

すなわち、ＣＰＵ１０００は、図２に示された画像取得部１０１、粗画像評価部１０３、合焦フレーム候補推定部１０４、画像評価部１０５、合焦フレーム判定部１０６、および特徴抽出・照合部１０７の機能を実現する。

記憶装置１００１は、例えば、非一時的なコンピュータ可読媒体（non-transitory computer readable medium ）である。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium ）を含む。非一時的なコンピュータ可読媒体の具体例として、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM ）、フラッシュＲＯＭ）がある。

メモリ１００２は、例えばＲＡＭ（Random Access Memory）で実現され、ＣＰＵ１０００が処理を実行するときに一時的にデータを格納する記憶手段である。なお、図２に示された画像記録部１０２は、メモリ１００２で実現可能である。

図１４は、画像処理装置の概要を示すブロック図である。画像処理装置１０は、時間的に連続して撮影された複数の画像を順次記憶する画像記憶手段１１（実施形態では、画像記録部１０２で実現される。）と、連続して撮影された複数の画像に対する間引き処理を行う間引き手段１２（実施形態では、粗画像評価部１０３で実現される。）と、間引き処理が行われた後の複数の画像を対象として第１の合焦評価（例えば、ステップＳ１０５，Ｓ１０５Ａの処理）を行う第１の画像評価手段１３（実施形態では、粗画像評価部１０３で実現される。）と、第１の合焦評価の評価結果に基づいて、連続して撮影された複数の画像から複数の合焦フレーム候補を選定する選定手段１４（実施形態では、合焦フレーム候補推定部１０４で実現される。）と、選定手段１４が選定した合焦フレーム候補の画像を画像記憶手段１１から読み出し、読み出した画像を対象として第２の合焦評価（例えば、ステップＳ１１０の処理）を行う第２の画像評価手段１５（実施形態では、画像評価部１０５で実現される。）と、第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、合焦フレーム候補の画像から選択する照合画像決定手段１６（実施形態では、合焦フレーム判定部１０６で実現される。）とを備えている。

上記の実施形態の一部または全部は以下の付記のようにも記載されうるが、本発明の構成は以下の構成に限定されない。

（付記１）時間的に連続して撮影された複数の画像を順次記憶する画像記憶手段と、
前記連続して撮影された複数の画像に対する間引き処理を行う間引き手段と、
前記間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行う第１の画像評価手段と、
前記第１の合焦評価の評価結果に基づいて、前記連続して撮影された複数の画像から複数の合焦フレーム候補を選定する選定手段と、
前記選定手段が選定した合焦フレーム候補の画像を前記画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行う第２の画像評価手段と、
前記第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、前記合焦フレーム候補の画像から選択する照合画像決定手段と
を備えたことを特徴とする画像処理装置。

（付記２）第１の画像評価手段は、第１の合焦評価の評価結果として、合焦している可能性が高いほど値が高い評価値を出力し、
選定手段は、最も高い評価値の画像、および、当該画像の前後に撮影された画像を、合焦フレーム候補とする
付記１の画像処理装置。

（付記３）間引き手段は、間引き処理として、連続して撮影された複数の画像からなる画像群から間欠的に画像を選択する処理を行う
付記１または付記２の画像処理装置。

（付記４）間引き手段は、間引き処理として、連続して撮影された複数の画像の各々について画素を間引く処理を行う
付記１から付記３のいずれかの画像処理装置。

（付記５）間引き手段は、画像記憶手段に最初の画像が格納されたときに直ちに間引き処理を開始する
付記１から付記４のいずれかの画像処理装置。

（付記６）連続して撮影された複数の画像を画像記憶手段に順次格納し、
前記連続して撮影された複数の画像に対する間引き処理を行い、
前記間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行い、
前記第１の合焦評価の評価結果に基づいて、前記連続して撮影された複数の画像から複数の合焦フレーム候補を選定し、
選定された合焦フレーム候補の画像を前記画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行い、
前記第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、前記合焦フレーム候補の画像から選択する
ことを特徴とする画像処理方法。

（付記７）第１の合焦評価の評価結果として、合焦している可能性が高いほど値が高い評価値を出力し、
最も高い評価値の画像、および、当該画像の前後に撮影された画像を、合焦フレーム候補とする
付記６の画像処理方法。

（付記８）間引き処理として、連続して撮影された複数の画像からなる画像群から間欠的に画像を選択する処理を行う
付記６または付記７の画像処理方法。

（付記９）間引き処理として、連続して撮影された複数の画像の各々について画素を間引く処理を行う
付記６から付記８のいずれかの画像処理方法。

（付記１０）画像記憶手段に最初の画像が格納されたときに直ちに間引き処理を開始する
付記６から付記９のいずれかの画像処理方法。

（付記１１）コンピュータに、
連続して撮影された複数の画像を画像記憶手段に順次格納する処理と、
前記連続して撮影された複数の画像に対する間引き処理と、
前記間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行う処理と、
前記第１の合焦評価の評価結果に基づいて、前記連続して撮影された複数の画像から複数の合焦フレーム候補を選定する処理と、
選定された合焦フレーム候補の画像を前記画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行う処理と、
前記第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、前記合焦フレーム候補の画像から選択する処理と
を実行させるための画像処理プログラム。

（付記１２）コンピュータに、
第１の合焦評価の評価結果として、合焦している可能性が高いほど値が高い評価値を出力する処理と、
最も高い評価値の画像、および、当該画像の前後に撮影された画像を、合焦フレーム候補とする処理と
を実行させるための付記１１の画像処理プログラム。

（付記１３）コンピュータに、
間引き処理として、連続して撮影された複数の画像からなる画像群から間欠的に画像を選択する処理を行わせる
ための付記１１または付記１２の画像処理プログラム。

（付記１４）コンピュータに、
間引き処理として、連続して撮影された複数の画像の各々について画素を間引く処理を行わせる
ための付記１１から付記１３のいずれかの画像処理プログラム。

（付記１５）コンピュータに、
画像記憶手段に最初の画像が格納されたときに直ちに間引き処理を開始させる
ための付記１１から付記１４のいずれかの画像処理プログラム。

以上、実施形態を参照して本願発明を説明したが、本願発明は上記の実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。

この出願は、２０１９年３月２５日に出願された日本特許出願２０１９－０５５８０９を基礎とする優先権を主張し、その開示の全てをここに取り込む。

１０ 画像処理装置
１１ 画像記憶手段
１２ 間引き手段
１３ 第１の画像評価手段
１４ 選定手段
１５ 第２の画像評価手段
１６ 照合画像決定手段
１０１ 画像取得部
１０２ 画像記録部
１０３ 粗画像評価部
１０４ 合焦フレーム候補推定部
１０５ 画像評価部
１０６ 合焦フレーム判定部
１０７ 特徴抽出・照合部
２００ 虹彩撮像用カメラ
２０１，２０２，２０３ カメラ
３００ 全体俯瞰カメラ
４００ 被認証者
１０００ ＣＰＵ
１００１ 記憶装置
１００２ メモリ

Claims (10)

1. 時間的に連続して撮影された複数の画像を順次記憶する画像記憶手段と、
   前記連続して撮影された複数の画像に対する間引き処理を行う間引き手段と、
   前記間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行う第１の画像評価手段と、
   前記第１の合焦評価の評価結果に基づいて、前記連続して撮影された複数の画像から複数の合焦フレーム候補を選定する選定手段と、
   前記選定手段が選定した合焦フレーム候補の画像を前記画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行う第２の画像評価手段と、
   前記第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、前記合焦フレーム候補の画像から選択する照合画像決定手段と
   を備えたことを特徴とする画像処理装置。
2. 第１の画像評価手段は、第１の合焦評価の評価結果として、合焦している可能性が高いほど値が高い評価値を出力し、
   選定手段は、最も高い評価値の画像、および、当該画像の前後に撮影された画像を、合焦フレーム候補とする
   請求項１記載の画像処理装置。
3. 間引き手段は、間引き処理として、連続して撮影された複数の画像からなる画像群から間欠的に画像を選択する処理を行う
   請求項１または請求項２記載の画像処理装置。
4. 間引き手段は、間引き処理として、連続して撮影された複数の画像の各々について画素を間引く処理を行う
   請求項１から請求項３のうちのいずれか１項に記載の画像処理装置。
5. 間引き手段は、画像記憶手段に最初の画像が格納されたときに間引き処理を開始する
   請求項１から請求項４のうちのいずれか１項に記載の画像処理装置。
6. 時間的に連続して撮影された複数の画像を画像記憶手段に順次格納し、
   前記連続して撮影された複数の画像に対する間引き処理を行い、
   前記間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行い、
   前記第１の合焦評価の評価結果に基づいて、前記連続して撮影された複数の画像から複数の合焦フレーム候補を選定し、
   選定された合焦フレーム候補の画像を前記画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行い、
   前記第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、前記合焦フレーム候補の画像から選択する
   ことを特徴とする画像処理方法。
7. 間引き処理として、連続して撮影された複数の画像からなる画像群から間欠的に画像を選択する処理を行う
   請求項６記載の画像処理方法。
8. 間引き処理として、連続して撮影された複数の画像の各々について画素を間引く処理を行う
   請求項６または請求項７記載の画像処理方法。
9. 画像記憶手段に最初の画像が格納されたときに間引き処理を開始する
   請求項６から請求項８のうちのいずれか１項に記載の画像処理方法。
10. コンピュータに、
    時間的に連続して撮影された複数の画像を画像記憶手段に順次格納する処理と、
    前記連続して撮影された複数の画像に対する間引き処理と、
    前記間引き処理が行われた後の複数の画像を対象として第１の合焦評価を行う処理と、
    前記第１の合焦評価の評価結果に基づいて、前記連続して撮影された複数の画像から複数の合焦フレーム候補を選定する処理と、
    選定された合焦フレーム候補の画像を前記画像記憶手段から読み出し、読み出した画像を対象として第２の合焦評価を行う処理と、
    前記第２の合焦評価の評価結果に基づいて、認証処理の対象となる照合画像を、前記合焦フレーム候補の画像から選択する処理と
    を実行させるための画像処理プログラム。

Images