JP5939705B2 - 被写体判定装置、被写体判定方法及びプログラム - Google Patents

被写体判定装置、被写体判定方法及びプログラム Download PDF

Info

Publication number
JP5939705B2
JP5939705B2 JP2012024947A JP2012024947A JP5939705B2 JP 5939705 B2 JP5939705 B2 JP 5939705B2 JP 2012024947 A JP2012024947 A JP 2012024947A JP 2012024947 A JP2012024947 A JP 2012024947A JP 5939705 B2 JP5939705 B2 JP 5939705B2
Authority
JP
Japan
Prior art keywords
image
subject
similarity
candidate
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012024947A
Other languages
English (en)
Other versions
JP2013161405A5 (ja
JP2013161405A (ja
Inventor
敬輔 島田
敬輔 島田
滋 加福
滋 加福
雅昭 佐々木
雅昭 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012024947A priority Critical patent/JP5939705B2/ja
Priority to CN201310042617.5A priority patent/CN103297670B/zh
Priority to KR1020130013115A priority patent/KR101441786B1/ko
Priority to US13/761,529 priority patent/US9092659B2/en
Publication of JP2013161405A publication Critical patent/JP2013161405A/ja
Publication of JP2013161405A5 publication Critical patent/JP2013161405A5/ja
Application granted granted Critical
Publication of JP5939705B2 publication Critical patent/JP5939705B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Description

本発明は、被写体判定装置、被写体判定方法及びプログラムに関する。
従来、撮像に基づいて逐次取得されたフレーム画像から顔検出を行う技術が知られている(例えば、特許文献1参照)。
特開2005−318515号公報
しかしながら、上記特許文献1の場合、特定の被写体であるか否かの判定値を厳しくすることで当該特定の被写体の誤検出の低減を図ることができるものの、当該特定の被写体の検出率も低下してしまうといった問題がある。
そこで、本願発明の課題は、特定の被写体の検出率を低下させることなく、当該特定の被写体の誤検出の低減を図ることができる被写体判定装置、被写体判定方法及びプログラムを提供することである。
上記課題を解決するため、本発明に係る被写体判定装置は、
フレーム画像を逐次取得する第1の取得手段と、前記第1の取得手段により取得された第1のフレーム画像における所定の被写体の画像の候補領域と当該所定の被写体との第1の類似度が第1の閾値以上であるか前記第1の閾値未満かを判定する第1閾値判定手段と、前記第1閾値判定手段により前記第1の類似度が前記第1の閾値以上であると判定された場合、前記候補領域を、前記所定の被写体の画像であると判定する第1の被写体判定手段と、前記第1閾値判定手段により前記第1の類似度が前記第1の閾値未満であると判定された場合、前記第1の取得手段により取得された複数のフレーム画像のうち、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得する第2の取得手段と、前記第2の取得手段により取得された前記候補領域に対応する領域の情報から、前記候補領域が前記所定の被写体の画像であると判定する第2の被写体判定手段と、を備えたことを特徴としている。
また、本発明に係る被写体判定方法は、
フレーム画像を逐次取得する処理と、取得された第1のフレーム画像における所定の被写体の画像の候補領域と当該所定の被写体との第1の類似度が第1の閾値以上であるか前記第1の閾値未満かを判定する処理と、前記第1の類似度が前記第1の閾値以上であると判定された場合、前記候補領域を、前記所定の被写体の画像であると判定する処理と、前記第1閾値判定手段により前記第1の類似度が前記第1の閾値未満であると判定された場合、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得する処理と、取得された前記候補領域に対応する領域の情報から、前記候補領域が前記所定の被写体の画像であると判定する処理と、を含むことを特徴とする。
また、本発明に係るプログラムは、
コンピュータを、フレーム画像を逐次取得する第1の取得手段、前記第1の取得手段により取得された第1のフレーム画像における所定の被写体の画像の候補領域と当該所定の被写体との第1の類似度が第1の閾値以上であるか前記第1の閾値未満かを判定する第1閾値判定手段、前記第1閾値判定手段により前記第1の類似度が前記第1の閾値以上であると判定された場合、前記候補領域を、前記所定の被写体の画像であると判定する第1の被写体判定手段、前記第1閾値判定手段により前記第1の類似度が前記第1の閾値未満であると判定された場合、前記第1の取得手段により取得された複数のフレーム画像のうち、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得する第2の取得手段、前記第2の取得手段により取得された前記候補領域に対応する領域の情報から、前記候補領域が前記所定の被写体の画像であると判定する第2の被写体判定手段、として機能させることを特徴としている。
本発明によれば、特定の被写体の検出率を低下させることなく、当該特定の被写体の誤検出の低減を図ることができる。
本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。 図1の撮像装置による被写体検出処理に係る動作の一例を示すフローチャートである。 図2の被写体検出処理に係るフレーム画像の一例を模式的に示す図である。 図3のフレーム画像の縮小画像を模式的に示す図である。 図3のフレーム画像に係る識別対象領域の一例を模式的に示す図である。 図2の被写体検出処理に係る類似評価値算出部のサブ識別器の構成の一例を模式的に示す図である。 図2の被写体検出処理に係る特定の被写体画像の一例を模式的に示す図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
本実施形態の撮像装置100は、特定の被写体画像の候補領域Aの類似度が第1の閾値未満であると判定された場合に、当該類似度が第2の閾値以上であるか否かを判定し、特定の被写体画像の候補領域Aの類似度が第2の閾値以上であると判定された場合に、一のフレーム画像よりも所定フレーム数前に取得された他のフレーム画像における当該特定の被写体画像の候補領域Aに対応する領域Bの画像と所定の基準画像との類似度合に関連する類似度合情報を取得する。そして、撮像装置100は、取得された類似度合情報を基準として、一のフレーム画像における領域Bに対応する特定の被写体画像の候補領域Aが特定の被写体画像の画像領域Dとして特定されるべきであるか否かを判定する。
図1に示すように、撮像装置100は、具体的には、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、識別情報設定部6と、記録媒体制御部7と、表示制御部8と、表示部9と、操作入力部10と、中央制御部11とを備えている。
撮像部1は、撮像手段として、被写体を撮像してフレーム画像Fを生成する。具体的には、撮像部1は、レンズ部1aと、電子撮像部1bとを備えている。
レンズ部1aは、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部1aの各種レンズを通過した光学像を二次元の画像信号に変換する。
なお、図示は省略するが、撮像部1は、レンズ部1aを通過する光の量を調整する絞りを備えていても良い。
撮像制御部2は、撮像部1による被写体の撮像を制御する。即ち、撮像制御部2は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部2は、タイミング発生器、ドライバにより電子撮像部1bを走査駆動して、所定周期毎に光学像を電子撮像部1bにより二次元の画像信号に変換させ、当該電子撮像部1bの撮像領域から1画面分ずつフレーム画像Fを読み出して画像データ生成部3に出力させる。
また、撮像制御部2は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体の撮像条件の調整制御を行う。
画像データ生成部3は、電子撮像部1bから転送されたフレーム画像Fのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。このように、画像データ生成部3は、撮像画像からフレーム画像Fの画像データを生成する。
また、画像データ生成部3は、生成したフレーム画像FのYUVデータを水平及び垂直ともに所定倍率で縮小処理を行って、ライブビュー表示用の低解像度(例えば、VGAやQVGAサイズ等)の画像データを生成する。具体的には、画像データ生成部3は、表示部9によるライブビュー画像の所定の表示フレームレートに応じた所定のタイミングで、フレーム画像FのYUVデータからライブビュー表示用の低解像度の画像データを生成する。
なお、生成された画像データ(YUVデータ)は、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
メモリ4は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、画像データ生成部3、画像処理部5、識別情報設定部6、中央制御部11等によって処理されるデータ等を一時記憶する。具体的には、メモリ4は、画像データ生成部3により生成された所定フレーム数分のフレーム画像Fのライブビュー表示用の画像データを一時記憶する。
また、メモリ4は、後述する被写体検出処理に係る類似度合情報を一時的に格納するための関連情報格納部4aを具備している。
関連情報格納部4aは、例えば、リングバッファから構成され、画像処理部5の類似評価値算出部5cにより算出された所定フレーム数分のフレーム画像Fにおける特定の被写体画像の候補領域A(図7(a)参照)の画像と所定の基準画像との類似度合に関連する類似度合情報をデータ履歴として順次格納する。ここで、一のフレーム画像Fnよりも所定フレーム(例えば、一フレーム)前に画像データ生成部3により生成された他のフレーム画像Fmにおける複数の候補領域A、…のうち、一のフレーム画像Fnにおける候補領域Aの座標(例えば、中心や矩形領域の四隅等の座標)に対応する座標を有する領域は、特定の被写体画像の候補領域Aに対応する領域B(図7(b)参照)となる。
また、類似度合情報としては、他のフレーム画像Fmにおける特定の被写体画像の候補領域A(領域Bを含む)の画像と所定の基準画像との類似度に係る評価値、当該候補領域AのXY平面空間での座標位置、当該候補領域Aを構成する画素数等により規定された大きさ、特定の被写体画像のXY平面空間に対する向き、当該候補領域Aの特定に用いられた各フレーム画像Fの複数の縮小画像データR、…の略等しい位置で検出された仮候補領域(後述)の個数等が挙げられる。
なお、特定の被写体画像の向きは、例えば、特定の被写体画像として顔画像の検出に用いられるサブ検出器(後述)が顔の向きに応じて設けられている場合には、当該サブ検出器の種類に応じて規定されても良い。
このように、関連情報格納部4aは、他のフレーム画像Fmにおける予め算出された特定の被写体画像の候補領域Aに対応する領域Bの画像と所定の基準画像との類似度を記憶する第1記憶手段を構成している。また、関連情報格納部4aは、略等しい位置で複数の縮小画像から検出された特定の被写体画像の仮候補領域の個数を記憶する第2記憶手段を構成している。
画像処理部5は、画像取得部5aと、縮小画像生成部5bと、類似評価値算出部5cと、第1類似度判定部5dと、第2類似度判定部5eと、関連情報取得部5fと、被写体判定部5gと、画像領域特定部5hとを具備している。
画像取得部5aは、フレーム画像Fを逐次取得する。
即ち、画像取得部5aは、画像データ生成部3により所定のタイミングで生成されたフレーム画像Fのライブビュー表示用の画像データ(例えば、輝度信号Yのデータ等)をメモリ4から逐次取得する。
ここで、画像取得部5aは、フレーム画像Fを逐次取得する取得手段を構成している。
縮小画像生成部5bは、フレーム画像Fの画像データから縮小画像データRを生成する。
即ち、縮小画像生成部5bは、画像縮小手段として、画像取得部5aにより逐次取得された各フレーム画像Fを所定の比率で順次縮小して縮小画像を順次生成する。具体的には、縮小画像生成部5bは、各フレーム画像Fの画像データに基づいて、当該画像データの水平(x軸)及び垂直(y軸)の各方向の画素を所定の比率(例えば、0.9倍)ずつ縮小することで解像度を段階的に低減させた縮小画像データRを順次生成する(図4(a)〜図4(f)参照)。
なお、縮小画像データRの生成数(縮小回数)は、入力される輝度データのサイズや特定の被写体画像の画像領域D(図7(c)参照)の識別精度等を考慮して適宜任意に変更可能である。
類似評価値算出部5cは、フレーム画像Fの特定の被写体画像の候補領域Aの画像と所定の基準画像との類似度に係る評価値を算出する。
即ち、類似評価値算出部5cは、画像取得部5aにより逐次取得された各フレーム画像Fの画像データや縮小画像生成部5bにより生成された縮小画像データRの各々に対して、例えば、顔検出処理、エッジ検出処理、特徴抽出処理等の各種画像処理を施して、特定の被写体画像の候補領域A(図7(c)中の検出枠Wbに対応する領域)を複数抽出する。そして、類似評価値算出部5cは、例えば、各候補領域Aの画像データと所定の基準画像の画像データとの類似度に係る評価値を算出する。
具体的には、類似評価値算出部5cは、仮候補検出部c1と、候補領域特定部c2とを具備している。
仮候補検出部c1は、検出手段として、縮小画像生成部5bにより順次生成された複数の縮小画像データR、…の各々から特定の被写体画像の仮候補領域を検出する。
即ち、仮候補検出部c1は、例えば、一のフレーム画像Fnの解像度を所定段階低減させた縮小画像データRから、所定サイズ(例えば、24×24画素)の識別対象領域Cを複数生成する(図5参照)。そして、仮候補検出部c1は、例えば、各識別対象領域Cの画像データと所定の基準画像の画像データとの類似度に係る評価値をadaboost(アダブースト)出力計算を用いて算出する。
具体的には、仮候補検出部c1は、識別対象領域Cと所定の基準画像との類似度を算出して顔であるか否かを判断するための複数のサブ識別器を具備している。これらのサブ識別器は、例えば、顔の向き(角度)毎(例えば、正面顔や左右横顔等)に設けられている。
また、これらのサブ識別器が複数(例えば、20)のステージに分けて規定されている。例えば、サブ識別器部は、第1ステージに2つ、第2ステージに5つ、第3ステージに10、第4ステージに20といったように、各ステージに所定個数のサブ識別器が規定されている。なお、より低い(数値の小さい)ステージに規定されているサブ識別器ほど、顔であるか否かの判断の信頼度がより高く設定されても良い。
そして、仮候補検出部c1は、識別対象領域Cの画像データを、ステージ順に各ステージのサブ識別器に入力していく。仮候補検出部c1は、一のステージの全てのサブ識別器にて顔であると判断された画像データ(図6における「T」)を次のステージのサブ識別器に入力する一方で、顔でないと判断された画像データ(図6における「F」)のそれ以降の識別を中止する。仮候補検出部c1は、各識別対象領域Cについて、サブ識別器の識別結果に従って評価値を算出する。具体的には、仮候補検出部c1は、各識別対象領域Cについて、複数のサブ識別器を規定する複数のステージの通過数、即ち、各ステージに規定されている全てのサブ識別器にて顔であると判断された場合には、当該ステージを通過して次のステージに受け渡されるが、通過した全てのステージに規定されているサブ識別器の個数を加算した値を評価値として算出する。一方、ステージの通過数が「0」の場合(第1ステージを通過できずに第2ステージに受け渡されなかった場合)、仮候補検出部c1は、例えば、負の値など所定の最低値を評価値として算出する。
そして、仮候補検出部c1は、評価値が所定の値(例えば、0「ゼロ」)よりも大きい識別対象領域Cや、当該識別対象領域Cを含む所定範囲の領域を特定の被写体画像の仮候補領域(図7(a)における各仮検出枠Waに対応する領域)として検出する。
例えば、図6に示すように、仮候補検出部c1は、第1ステージの2つのサブ識別器に所定の順序で識別対象領域Cの画像データを入力し、これら2つのサブ識別器の両方にて顔であると判断された識別対象領域Cの画像データを、次のステージである第2ステージのサブ識別器に入力する。一方、第1ステージの2つ目のサブ識別器までに仮候補検出部c1により算出された類似度が予め設定された閾値未満と判断されると、仮候補検出部c1は、当該画像データのそれ以降の識別を中止して、所定の負の値を評価値として算出する。具体的には、例えば、第1ステージのサブ識別器は、青空や無地の背景部分といった輝度変化の少ない画像領域を判断するものであり、当該第1ステージにて、青空や無地の背景部分といった輝度変化の少ない画像領域であると判断されると、それ以降の顔であるか否かの識別が中止される。
また、仮候補検出部c1は、第1ステージにて顔であると判断された識別対象領域Cの画像データについて、第1ステージと同様に、第2ステージの5つのサブ識別器に所定の順序で入力し、1つ目のサブ識別器から5つ目のサブ識別器までに算出された類似度が予め設定された閾値以上と判断された画像データを、次のステージである第3ステージのサブ識別器に入力する。一方、第2ステージの1つ目のサブ識別器から5つ目のサブ識別器までに仮候補検出部c1により算出された類似度が予め設定された閾値未満と判断されると、仮候補検出部c1は、当該画像データのそれ以降の識別を中止して、通過済みの一つ前のステージ(第1ステージ)までのサブ識別器の総数(第1ステージのみ通過している場合、「2」)を評価値として算出する。
仮候補検出部c1は、第3ステージ以降についても上記と同様にして類似度を算出していく。つまり、より顔であると判断される可能性の高い画像領域ほど、より先のステージのサブ識別器に入力される。
なお、類似評価値算出部5cによる類似度の算出方法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、顔の向きに応じて評価値の算出に係るサブ識別器の個数等を異ならせるようにしても良い(例えば、正面顔の評価値が高く、顔が横を向いたり下を向いた場合には、評価値が低くなる等)。
また、所定の基準画像の画像データは、例えば、画像処理部5の一時記憶手段(図示略)に記憶された情報であり、識別対象領域Cについて特定の被写体であるか否かを判定するための各種の識別用情報である。識別用情報は、例えば、ニューラルネット、アダブースト、サポートベクターマシン等の所定のサブ識別器に入力される識別対象領域Cについて、特定の被写体画像(例えば、顔等)であるか否かを判定するための各種の情報である。
なお、識別用情報としては、例えば、「ヒトの顔」や「動物」などの形状を基準とするものや、明度や彩度が高く鮮やかな(派手な)色合いであるか否かや肌色であるか否かなどの色調を基準とするものや、画角全体の画像に対する割合(例えば、半分以上であるか)などの大きさを基準とするもの等であっても良い。
また、顔検出処理やエッジ検出処理や特徴抽出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
候補領域特定部c2は、候補特定手段として、仮候補検出部c1により各フレーム画像Fの略等しい位置で複数の縮小画像データR、…から検出された特定の被写体画像の仮候補領域に基づいて、当該フレーム画像Fにおける特定の被写体画像の候補領域Aを特定する。
即ち、候補領域特定部c2は、各フレーム画像Fの複数の縮小画像データR、…から特定の被写体画像の仮候補領域が検出された場合に、検出された所定数の特定の被写体画像の仮候補領域のXY平面空間での座標位置、大きさ(構成画素数)等に基づいて、これらの仮候補領域を統合して各フレーム画像Fにおける特定の被写体画像の候補領域A(図7(c)中の検出枠Wbに対応する領域)を特定する。具体的には、候補領域特定部c2は、XY平面空間の略等しい位置(例えば、複数の縮小画像の垂直及び水平の各方向のサイズを揃えた状態で、中心座標のずれ量が所定画素数以内等)で複数の縮小画像データR、…から検出された複数の仮候補領域の大きさを基準として所定の演算(例えば、重み付け平均等)を行って、当該複数の仮候補領域の大きさを代表する特定の被写体画像の候補領域Aの大きさを特定する。また、候補領域特定部c2は、統合に用いられた複数の仮候補領域の評価値を基準として所定の演算を行って、当該複数の仮候補領域の評価値を代表する特定の被写体画像の候補領域Aの評価値を算出する。また、候補領域特定部c2は、統合に用いられた複数の仮候補領域の座標位置を基準として所定の演算を行って、当該複数の仮候補領域の位置を代表する特定の被写体画像の候補領域Aの位置(例えば、中心座標等)を特定する。
なお、候補領域特定部c2により特定された特定の被写体画像の候補領域Aの評価値、位置、大きさ等は、類似度合情報としてメモリの4の関連情報格納部4aに格納される。
また、候補領域特定部c2は、複数の仮候補領域の評価値に基づいて当該特定の被写体画像の候補領域Aの評価値を算出するようにしたが、例えば、XY平面空間の略等しい位置の複数の仮候補領域を代表する特定の被写体画像の候補領域Aの画像データと所定の基準画像の画像データとの類似度に係る評価値をadaboost(アダブースト)出力計算を用いて算出するようにしても良い。
また、候補領域特定部c2は、仮候補検出部c1により検出された複数の仮候補領域に基づいて特定の被写体画像の候補領域Aを特定するのではなく、画像取得部5aにより取得された各フレーム画像Fから直接特定の被写体画像の候補領域Aを特定するようにしても良い。
第1類似度判定部5dは、一のフレーム画像Fnにおける特定の被写体画像の候補領域Aの評価値が第1の閾値以上であるか否かを判定する。
即ち、第1類似度判定部5dは、第1類似度判定手段として、画像取得部5aにより取得された一のフレーム画像Fnにおける特定の被写体画像の候補領域Aの画像と当該特定の被写体画像の判定基準となる所定の基準画像との類似度に係る評価値が、第1の閾値以上であるか否かを判定する。具体的には、第1類似度判定部5dは、類似評価値算出部5cにより算出された一のフレーム画像Fnの特定の被写体画像の候補領域Aの各々の評価値が第1の閾値以上であるか否かを判定する。
なお、第1の閾値や後述する第2の閾値は、例えば、ユーザによる操作入力部10の所定操作に基づいて入力された所定の値であっても良いし、予めデフォルトとして設定されている所定の値等であっても良い。
第2類似度判定部5eは、一のフレーム画像Fnにおける特定の被写体画像の候補領域Aの評価値が第1の閾値よりも小さい第2の閾値以上であるか否かを判定する。
即ち、第2類似度判定部5eは、第2類似度判定手段として、第1類似度判定部5dにより特定の被写体画像の候補領域Aの評価値が第1の閾値未満であると判定された場合に、当該評価値が第1の閾値よりも小さい第2の閾値以上であるか否かを判定する。
関連情報取得部5fは、他のフレーム画像Fmにおける領域Bの画像と所定の基準画像との類似度合に関連する類似度合情報を取得する。
即ち、関連情報取得部5fは、情報取得手段として、第2類似度判定部5eにより特定の被写体画像の候補領域Aの画像の評価値が第2の閾値以上であると判定された場合に、一のフレーム画像Fnよりも所定フレーム数前に取得された他のフレーム画像Fmにおける当該特定の被写体画像の候補領域Aに対応する領域Bの画像と所定の基準画像との類似度合に関連する類似度合情報を取得する。
具体的には、関連情報取得部5fは、一のフレーム画像Fnよりも所定フレーム(例えば、一フレーム等)前に生成された他のフレーム画像Fm内で、第2類似度判定部5eにより評価値が第2の閾値以上であると判定された特定の被写体画像の候補領域Aの座標に対応する座標を有する領域(領域B)を特定する(図7(b)参照)。そして、関連情報取得部5fは、特定した領域Bの類似度合情報をメモリ4の関連情報格納部4aから取得する。例えば、関連情報取得部5fは、類似度合情報として、領域Bの画像データと所定の基準画像の画像データとの類似度に係る評価値や、当該領域Bに対応する特定の被写体画像の候補領域Aの特定に用いられた仮候補領域の個数等を関連情報格納部4aから取得する。
なお、他のフレーム画像Fmは、1フレームであっても良いし、複数フレームであっても良い。例えば、複数フレームの場合には、関連情報取得部は、1フレーム前のフレーム画像Fにおける領域Bの類似度合情報を取得して、後述する被写体判定部5gによる判定の結果、特定の被写体画像の候補領域Aが特定の被写体画像の画像領域Dとして特定されるべきでないと判定された場合に、2フレーム前のフレーム画像Fにおける領域Bの類似度合情報を取得するといったように、順次1つ前のフレーム画像Fを処理対象とするようにしても良い。
或いは、関連情報取得部は、所定数のフレーム画像Fを処理対象として、各フレーム画像Fにおける領域Bの類似度合情報を取得して、後述する被写体判定部5gによって判定されるようにしても良い。
被写体判定部5gは、一のフレーム画像Fnにおける特定の被写体画像の候補領域Aが、特定の被写体画像の画像領域Dとして特定されるべきであるか否かを判定する。
即ち、被写体判定部5gは、被写体判定手段として、関連情報取得部5fにより取得された類似度合情報に基づいて、候補領域Aが特定の被写体画像の画像領域Dとして特定されるべきであるか否かを判定する。具体的には、被写体判定部5gは、関連情報取得部5fにより取得された類似度合情報としての領域Bの評価値が所定の判定値(例えば、少なくとも第2の閾値よりも大きい所定値等)以上であるか否かを判定する。また、被写体判定部5gは、関連情報取得部5fにより取得された類似度合情報としての仮候補領域の個数が所定の判定値(例えば、2個)以上であるか否かを判定する。
ここで、所定の判定値の例として2個としたが、顔検出に使用する識別器の個数や閾値等の条件により所定の判定値は任意の値に変更して良い。
そして、領域Bの評価値が所定の判定値以上であると判定され、且つ、仮候補領域の個数が所定の判定値以上であると判定された場合に、被写体判定部5gは、一のフレーム画像Fnにおける領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定されるべきであると判定する。
なお、領域Bの評価値及び仮候補領域の個数のうち、何れか一方が所定の判定値以上であると判定された場合に、被写体判定部5gは、一のフレーム画像Fnにおける領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定されるべきであると判定するようにしても良い。
画像領域特定部5hは、一のフレーム画像Fn内で特定の被写体画像の画像領域Dを特定する。
即ち、画像領域特定部5hは、被写体特定手段として、第1類似度判定部5dにより評価値が第1の閾値以上であると判定された特定の被写体画像の候補領域A(例えば、候補領域A1〜A4等)を、特定の被写体画像の画像領域Dとして特定する(図7(a)及び図7(c)参照)。
また、画像領域特定部5hは、被写体判定部5gにより評価値が所定の判定値以上であると判定された領域Bに対応する特定の被写体画像の候補領域Aを、特定の被写体画像の画像領域Dとして特定する。また、画像領域特定部5hは、被写体判定部5gにより特定の被写体画像の仮候補領域の個数が所定の判定値以上であると判定された領域Bに対応する特定の被写体画像の候補領域Aを、特定の被写体画像の画像領域Dとして特定する。
例えば、画像領域特定部5hは、被写体判定部5gにより評価値が所定の判定値以上であり、且つ、特定の被写体画像の仮候補領域の個数が所定の判定値以上であると判定された領域Bに対応する特定の被写体画像の候補領域A(例えば、候補領域A5等)を、特定の被写体画像の画像領域Dとして特定する(図7(b)及び図7(c)参照)。
なお、画像領域特定部5hによる特定の被写体画像の画像領域Dの特定方法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、画像領域特定部5hは、被写体判定部5gにより評価値が所定の判定値以上であると判定された領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定しても良いし、被写体判定部5gにより特定の被写体画像の仮候補領域の個数が所定の判定値以上であると判定された領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定しても良い。
識別情報設定部6は、特定の被写体画像を識別表示するための識別情報を設定する。
即ち、識別情報設定部6は、画像領域特定部5hにより特定の被写体画像の画像領域Dが特定されると、当該特定の被写体画像を識別表示する識別情報として、特定の被写体画像の画像領域Dの縁部に重畳して表示部9に表示される検出枠Wbを設定する。
なお、特定の被写体画像の識別情報として、当該特定の被写体画像の画像領域Dの縁部に重畳して表示される検出枠Wbを例示したが、一例であってこれに限られるものではなく、所定の識別標識など当該特定の被写体画像を識別表示するものであれば適宜任意に変更可能である。
記録媒体制御部7は、記録媒体Mが着脱自在に構成され、装着された記録媒体Mからのデータの読み出しや記録媒体Mに対するデータの書き込みを制御する。
即ち、記録媒体制御部7は、画像処理部5の符号化部(図示略)により所定の圧縮形式(例えば、JPEG形式等)で符号化された記録用の画像データを記録媒体Mに記録させる。
なお、記録媒体Mは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
表示制御部8は、メモリ4に一時的に記憶されている表示用の画像データを読み出して表示部9に表示させる制御を行う。
具体的には、表示制御部8は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部11の制御下にてメモリ4から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部9に出力する。
表示部9は、例えば、液晶表示パネルであり、表示制御部8からのビデオ信号に基づいて電子撮像部1bにより撮像された画像などを表示画面に表示する。具体的には、表示部9は、静止画撮像モードや動画撮像モードにて、撮像部1及び撮像制御部2により撮像され画像データ生成部3により生成された複数のフレーム画像F、…を所定の表示フレームレートで逐次更新しながらライブビュー画像を表示する。また、表示部9は、静止画として記録される画像のレックビュー画像を表示したり、動画として記録中の画像を表示する。
操作入力部10は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部10は、被写体の撮像指示を入力するためのシャッタボタン、撮像モードや機能等の選択指示を入力するための選択決定用ボタン、ズーム量の調整指示を入力するためのズームボタン(何れも図示略)等を備え、これらのボタンのユーザによる操作に応じて所定の操作信号を中央制御部11に出力する。
中央制御部11は、撮像装置100の各部を制御するものである。具体的には、中央制御部11は、図示は省略するが、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
次に、撮像装置100による被写体検出処理について、図2〜図7を参照して説明する。
図2は、被写体検出処理に係る動作の一例を示すフローチャートである。また、図3は、被写体検出処理に係る画像の一例を模式的に示す図である。図4は、フレーム画像Fの縮小画像を模式的に示す図である。図5は、フレーム画像Fに係る識別対象領域Cの一例を模式的に示す図である。図6は、被写体検出処理に係る類似評価値算出部5cのサブ識別器の構成の一例を模式的に示す図である。図7(a)〜図7(c)は、被写体検出処理に係る特定の被写体画像(顔画像)の一例を模式的に示す図である。
なお、以下に説明する被写体検出処理は、ユーザによる操作入力部10の所定操作に基づいて被写体検出モードが設定されている場合に、中央制御部11の制御下にて実行される処理である。
また、以下の説明にあっては、フレーム画像F内に特定の被写体画像としての顔画像が含まれているフレーム画像Fを用いるものとする。
図2に示すように、先ず、中央制御部11は、撮像部1による被写体の撮像により画像データ生成部3により逐次生成されたフレーム画像Fのライブビュー表示用の画像データをメモリ4に逐次格納して一時記憶させる(ステップS1)。
続けて、画像処理部5の画像取得部5aは、表示部9による表示フレームレートに応じた所定のタイミングで、処理対象となる一のフレーム画像Fnのライブビュー表示用の画像データをメモリ4から取得する(ステップS2)。
次に、縮小画像生成部5bは、画像取得部5aにより取得された一のフレーム画像Fnの画像データの水平及び垂直の各方向の画素を所定の比率(例えば、0.9倍)ずつ縮小することで解像度を段階的に低減させた縮小画像データR(R1〜R5、…)を順次生成する(ステップS3;図4(a)〜図4(f)参照)。
続けて、類似評価値算出部5cの仮候補検出部c1は、複数の縮小画像データR、…の各々から、所定サイズ(例えば、24×24画素)の識別対象領域Cを複数生成した後(ステップS4)、各識別対象領域Cの画像データと所定の基準画像の画像データとの類似度に係る評価値を算出する(ステップS5)。具体的には、仮候補検出部c1は、例えば、adaboost出力計算を用いて、各識別対象領域Cの画像データについてのサブ識別器の識別結果に従って評価値を算出する(図5及び図6参照)。
そして、仮候補検出部c1は、算出された評価値が所定の値(例えば、0「ゼロ」)よりも大きい識別対象領域Cを特定の被写体画像の仮候補領域として検出する(ステップS6)。ここで、図7(a)に示すように、各縮小画像データR内で識別された複数の特定の被写体画像の仮候補領域(例えば、顔領域)の各々に仮検出枠Waが重畳された状態を模式的に示す。例えば、集合写真にて手前側にいる人など画像全体に対してより大きな面積の顔を有していたり、正面を向いている人は、縮小画像データRを順次生成していった場合に、より小さい縮小画像データR内でも顔領域を識別可能となる。即ち、画像全体に対してより大きな面積の顔を有していたり、正面を向いている人は、より小さな面積の顔を有していたり、横を向いている人に比べて相対的に顔領域を識別し易くなって、より多くの仮検出枠Waが重畳された状態となる。
なお、仮候補領域として検出された各識別対象領域Cの評価値は、メモリ4の関連情報格納部4aに一時的に格納される。
次に、類似評価値算出部5cの候補領域特定部c2は、各フレーム画像Fの複数の縮小画像データR、…から検出された特定の被写体画像の仮候補領域のXY平面空間での座標位置、大きさ等に基づいて、これらの仮候補領域を統合して各フレーム画像Fにおける特定の被写体画像の候補領域Aを特定する(ステップS7;図7(a)参照)。続けて、候補領域特定部c2は、複数の仮候補領域の評価値を基準として所定の演算を行って特定の被写体画像の候補領域Aの評価値を算出する(ステップS8)。
なお、算出された特定の被写体画像の候補領域Aの評価値は、メモリ4の関連情報格納部4aに一時的に格納される。
そして、第1類似度判定部5dは、類似評価値算出部5cにより算出された一のフレーム画像Fnにおける特定の被写体画像の候補領域Aの評価値が、第1の閾値以上であるか否かを判定する(ステップS9)。
ここで、特定の被写体画像の候補領域Aの評価値が第1の閾値以上であると判定されると(ステップS9;YES)、画像領域特定部5hは、当該特定の被写体画像の候補領域A(例えば、候補領域A1〜A4等)を特定の被写体画像の画像領域Dとして特定する(ステップS10;図7(a)及び図7(c)参照)。
一方、ステップS9にて、 特定の被写体画像の候補領域A(例えば、候補領域A5等)の評価値が第1の閾値未満であると判定されると(ステップS9;NO)、第2類似度判定部5eは、当該特定の被写体画像の候補領域Aの評価値が第2の閾値以上であるか否かを判定する(ステップS11)。
ここで、特定の被写体画像の候補領域Aの評価値が第2の閾値以上であると判定されると(ステップS11;YES)、関連情報取得部5fは、一のフレーム画像Fnよりも所定フレーム(例えば、一フレーム等)前に生成された他のフレーム画像Fm内で、評価値が第2の閾値以上であると判定された特定の被写体画像の候補領域Aに対応する領域Bを特定して(ステップS12;図7(b)参照)、当該領域Bの類似度合情報をメモリ4の関連情報格納部4aから取得する(ステップS13)。具体的には、関連情報取得部5fは、類似度合情報として、領域Bの評価値や、当該領域Bに対応する被写体画像の候補領域Aの特定に用いられた仮候補領域の個数等を関連情報格納部4aから取得する。
そして、被写体判定部5gは、関連情報取得部5fにより取得された類似度合情報としての領域Bの評価値が所定の判定値以上であるか否か、及び、関連情報取得部5fにより取得された類似度合情報としての仮候補領域の個数が所定の判定値以上であるか否かを判定する(ステップS14)。
ここで、領域Bの評価値が所定の判定値以上であり、且つ、仮候補領域の個数が所定の判定値以上であると判定されると(ステップS14;YES)、画像領域特定部5hは、当該領域Bに対応する特定の被写体画像の候補領域A、即ち、評価値が第2の閾値以上である特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定する(ステップS15;図7(c)参照)。
そして、ステップS10及びステップS15の後、識別情報設定部6は、一のフレーム画像Fnにて画像領域特定部5hにより特定された特定の被写体画像の画像領域Dの縁部に重畳して検出枠Wbを設定し、表示制御部8は、当該一のフレーム画像Fnを表示部9にライブビュー表示させる。
その後、中央制御部11は、被写体検出処理の終了指示が入力されたか否かを判定する(ステップS16)。具体的には、中央制御部11は、例えば、ユーザによる操作入力部10のシャッタボタンの所定操作(例えば、全押し操作等)に基づいて被写体の撮像指示が入力されたか否かや、選択決定ボタンの所定操作に基づいて被写体検出モードとは異なるモードが設定されたか否か等に応じて、被写体検出処理の終了指示が入力されたか否かを判定する。
また、ステップS11にて、特定の被写体画像の候補領域Aの評価値が第2の閾値未満であると判定されるか(ステップS11;NO)、又は、ステップS14にて、領域Bの評価値が所定の判定値未満であると判定されるか、或いは、仮候補領域の個数が所定の判定値未満であると判定された場合にも(ステップS14;NO)、中央制御部11は、処理をステップS16に移行して、被写体検出処理の終了指示が入力されたか否かを判定する(ステップS16)。
ステップS16にて、被写体検出処理の終了指示が入力されていないと判定されると(ステップS16;NO)、中央制御部11は、処理をステップS2に移行して、画像取得部5aは、処理対象となる新たな一のフレーム画像のライブビュー表示用の画像データをメモリ4から取得する(ステップS2)。その後、中央制御部11は、ステップS3以降の各処理を上記と同様にして実行する。
一方、被写体検出処理の終了指示が入力されたと判定されると(ステップS16;YES)、中央制御部11は、被写体検出処理を終了する。
以上のように、本実施形態の撮像装置100によれば、取得された一のフレーム画像Fn(例えば、撮像画像から生成されたライブビュー表示用の画像等)における特定の被写体画像(例えば、顔画像等)の候補領域Aの画像と当該特定の被写体画像の判定基準となる所定の基準画像との評価値(類似度)が第1の閾値以上であると判定されると、当該特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定するので、より厳しい第1の閾値を設定して一のフレーム画像Fnにて特定の被写体画像の候補領域Aが特定の被写体画像の画像領域Dであるか否かを判定することができ、当該特定の被写体の誤検出を低減させることができる。
一方、特定の被写体画像の候補領域Aの評価値が第1の閾値未満であると判定された場合には、当該評価値が第1の閾値よりも小さい第2の閾値以上であるか否かを判定し、特定の被写体画像の候補領域Aの評価値が第2の閾値以上であると判定されると、一のフレーム画像Fnよりも所定フレーム数前に取得された他のフレーム画像Fmにおける当該特定の被写体画像の候補領域Aに対応する領域Bの画像と所定の基準画像との類似度合に関連する類似度合情報を取得する。そして、取得された類似度合情報に基づいて、一のフレーム画像Fnにおける領域Bに対応する特定の被写体画像の候補領域Aが特定の被写体画像の画像領域Dとして特定されるべきであるか否かを判定するので、特定の被写体画像の候補領域Aの評価値が第1の閾値未満であっても第2の閾値以上であれば、他のフレーム画像Fmにおける当該特定の被写体画像の候補領域Aに対応する領域Bの類似度合情報に基づいて、特定の被写体画像であるか否かを特定することができ、特定の被写体の検出率の低下を抑制することができる。
このように、より厳しい第1の閾値を設定することで当該閾値を用いて検出される特定の被写体の検出率が低下したとしても、特定の被写体画像の候補領域Aの評価値が第2の閾値以上であれば、特定の被写体画像の画像領域Dとして特定される余地があるので、特定の被写体の検出率を低下させることなく、当該特定の被写体の誤検出の低減を図ることができる。
また、画像領域特定部5hは、領域Bの画像と所定の基準画像との評価値が所定の判定値以上であると判定された場合に、当該領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定するので、他のフレーム画像Fmにおける評価値が所定の判定値以上である領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定することができ、特定の被写体の検出率の低下を適正に抑制することができる。
また、画像領域特定部5hは、領域Bに対応し、略等しい位置で複数の縮小画像から検出された特定の被写体画像の仮候補領域の個数が所定の判定値以上であると判定された場合に、当該領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定するので、他のフレーム画像Fmにおける特定の被写体画像の仮候補領域の個数が所定の判定値以上である領域Bに対応する特定の被写体画像の候補領域Aを特定の被写体画像の画像領域Dとして特定することができ、特定の被写体の検出率の低下を適正に抑制することができる。
また、略等しい位置で複数の縮小画像データR、…から検出された特定の被写体画像の仮候補領域に基づいて、当該フレーム画像Fにおける特定の被写体画像の候補領域Aを特定するので、生成される縮小画像データRの数を増減させることにより識別される仮候補領域の数の増減を調整することができ、画像内での特定の被写体画像の候補領域Aの識別精度の変更や特定の被写体画像の画像領域Dの検出処理に係る時間の高速化等を図ることができる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、被写体検出処理(図2参照)にて、フレーム画像F内の特定の被写体画像として人の顔画像を検出するようにしたが、一例であってこれに限られるものではなく、特定の被写体画像は適宜任意に変更可能である。
また、上記実施形態にあっては、類似度合情報として、領域Bの画像と所定の基準画像との類似度に係る評価値や、略等しい位置で複数の縮小画像から検出された特定の被写体画像の仮候補領域の個数等を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
さらに、上記実施形態にあっては、識別情報設定部6を備え、特定された特定の被写体画像の画像領域Dを識別表示するための識別情報(例えば、検出枠Wb等)を設定するようにしたが、識別情報設定部6を備えるか否か、即ち、画像領域特定部5hにより特定された特定の被写体画像を識別表示するための識別情報を設定するか否かは適宜任意に変更可能である。
また、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。例えば、被写体特定装置として、撮像装置100を例示したが、これに限られるものではない。即ち、処理対象となるフレーム画像Fとして、撮像画像から生成された画像を例示したが、撮像装置100とは異なる装置から被写体特定装置を構成する場合、所定の取得手段により逐次取得されるフレーム画像Fであれば良い。
また、類似評価値算出部5cを備えるようにしたが、必ずしも当該類似評価値算出部5cを備える必要はなく、例えば、所定の取得手段がフレーム画像Fとともに特定の被写体画像の各候補領域の評価値を取得するようにしても良い。
加えて、上記実施形態にあっては、取得手段、第1類似度判定手段、被写体特定手段、第2類似度判定手段、情報取得手段、被写体判定手段としての機能を、中央制御部11の制御下にて、画像処理部5の画像取得部5a、第1類似度判定部5d、画像領域特定部5h、第2類似度判定部5e、関連情報取得部5f、被写体判定部5gが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部11のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、取得処理ルーチン、第1類似度判定処理ルーチン、被写体特定処理ルーチン、第2類似度判定処理ルーチン、情報取得処理ルーチン、被写体判定処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部11のCPUを、フレーム画像Fを逐次取得する取得手段として機能させるようにしても良い。また、第1類似度判定処理ルーチンにより中央制御部11のCPUを、取得手段により取得された一のフレーム画像Fnにおける特定の被写体画像の候補領域Aの画像と所定の基準画像との類似度が、第1の閾値以上であるか否かを判定する第1類似度判定手段として機能させるようにしても良い。また、被写体特定処理ルーチンにより中央制御部11のCPUを、第1類似度判定手段により類似度が第1の閾値以上であると判定された候補領域Aを、特定の被写体画像の画像領域Dとして特定する被写体特定手段として機能させるようにしても良い。また、第2類似度判定処理ルーチンにより中央制御部11のCPUを、第1類似度判定手段により類似度が第1の閾値未満であると判定された場合に、当該類似度が第1の閾値よりも小さい第2の閾値以上であるか否かを判定する第2類似度判定手段として機能させるようにしても良い。また、情報取得処理ルーチンにより中央制御部11のCPUを、第2類似度判定手段により候補領域Aの類似度が第2の閾値以上であると判定された場合に、一のフレーム画像Fnよりも所定フレーム数前に取得された他のフレーム画像Fmにおける候補領域Aに対応する領域Bの画像と所定の基準画像との類似度合に関連する情報を取得する情報取得手段として機能させるようにしても良い。また、被写体判定処理ルーチンにより中央制御部11のCPUを、情報取得手段により取得された情報に基づいて、候補領域Aが特定の被写体画像の画像領域Dとして特定されるべきであるか否かを判定する被写体判定手段として機能させるようにしても良い。
同様に、第1記憶制御手段、画像縮小手段、検出手段、第2記憶制御手段、候補特定手段についても、中央制御部11のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
フレーム画像を逐次取得する取得手段と、
この取得手段により取得された一のフレーム画像における特定の被写体画像の候補領域の画像と所定の基準画像との類似度が、第1の閾値以上であるか否かを判定する第1類似度判定手段と、
前記第1類似度判定手段により類似度が第1の閾値以上であると判定された候補領域を、前記特定の被写体画像の画像領域として特定する被写体特定手段と、
前記第1類似度判定手段により類似度が第1の閾値未満であると判定された場合に、当該類似度が前記第1の閾値よりも小さい第2の閾値以上であるか否かを判定する第2類似度判定手段と、
前記第2類似度判定手段により前記候補領域の類似度が第2の閾値以上であると判定された場合に、前記一のフレーム画像よりも所定フレーム数前に取得された他のフレーム画像における前記候補領域に対応する領域の画像と前記所定の基準画像との類似度合に関連する情報を取得する情報取得手段と、
前記情報取得手段により取得された情報に基づいて、前記候補領域が前記特定の被写体画像の画像領域として特定されるべきであるか否かを判定する被写体判定手段と、
を備えたことを特徴とする被写体特定装置。
<請求項2>
予め算出された前記候補領域に対応する領域の画像と前記所定の基準画像との類似度を記憶させる第1記憶制御手段を更に備え、
前記情報取得手段は、前記類似度合に関連する情報として、前記第1記憶制御手段により記憶された前記候補領域に対応する領域の類似度を取得し、
前記被写体判定手段は、前記候補領域に対応する領域の類似度が所定の判定値以上であるか否かを判定することで、前記候補領域が前記特定の被写体画像の画像領域として特定されるべきであるか否かを判定することを特徴とする請求項1に記載の被写体特定装置。
<請求項3>
前記取得手段により逐次取得された各フレーム画像を所定の比率で順次縮小して縮小画像を順次生成する画像縮小手段と、
前記画像縮小手段により順次生成された複数の縮小画像の各々から特定の被写体画像の仮候補領域を検出する検出手段と、
前記検出手段により略等しい位置で前記複数の縮小画像から検出された前記特定の被写体画像の仮候補領域の個数を記憶させる第2記憶制御手段とを更に備え、
前記情報取得手段は、前記類似度合に関連する情報として、前記第2記憶制御手段により記憶された前記領域に対応する仮候補領域の個数を取得し、
前記被写体判定手段は、前記領域に対応する被写体画像の仮候補領域の個数が所定の判定値以上であるか否かを判定することで、前記候補領域が前記特定の被写体画像の画像領域として特定されるべきであるか否かを判定することを特徴とする請求項1に記載の被写体特定装置。
<請求項4>
前記検出手段により略等しい位置で前記複数の縮小画像から検出された前記被写体画像の仮候補領域に基づいて、当該フレーム画像における被写体画像の候補領域を特定する候補特定手段を更に備えることを特徴とする請求項3に記載の被写体特定装置。
<請求項5>
前記特定の被写体画像は、顔が含まれる顔画像であることを特徴とする請求項1〜4の何れか一項に記載の被写体特定装置。
<請求項6>
前記フレーム画像は、撮像画像から生成された画像であることを特徴とする請求項1〜5の何れか一項に記載の被写体特定装置。
<請求項7>
被写体特定装置を用いた被写体特定方法であって、
フレーム画像を逐次取得する処理と、
取得された一のフレーム画像における特定の被写体画像の候補領域の画像と所定の基準画像との類似度が、第1の閾値以上であるか否かを判定する処理と、
類似度が第1の閾値以上であると判定された候補領域を、前記特定の被写体画像の画像領域として特定する処理と、
前記候補領域の画像と前記所定の基準画像との類似度が第1の閾値未満であると判定された場合に、当該類似度が前記第1の閾値よりも小さい第2の閾値以上であるか否かを判定する処理と、
前記候補領域の画像と前記所定の基準画像との類似度が第2の閾値以上であると判定された場合に、前記一のフレーム画像よりも所定フレーム数前に取得された他のフレーム画像における前記候補領域に対応する領域の画像と前記所定の基準画像との類似度合に関連する情報を取得する処理と、
取得された類似度合に関連する情報に基づいて、前記候補領域が前記特定の被写体画像の画像領域として特定されるべきであるか否かを判定する処理と、
を含むことを特徴とする被写体特定方法。
<請求項8>
コンピュータを、
逐次取得された一のフレーム画像における特定の被写体画像の候補領域の画像と所定の基準画像との類似度が、第1の閾値以上であるか否かを判定する第1類似度判定手段、
前記第1類似度判定手段により類似度が第1の閾値以上であると判定された候補領域を、前記特定の被写体画像の画像領域として特定する被写体特定手段、
前記第1類似度判定手段により類似度が第1の閾値未満であると判定された場合に、当該類似度が前記第1の閾値よりも小さい第2の閾値以上であるか否かを判定する第2類似度判定手段、
前記第2類似度判定手段により前記候補領域の類似度が第2の閾値以上であると判定された場合に、前記一のフレーム画像よりも所定フレーム数前に取得された他のフレーム画像における前記候補領域に対応する領域の画像と前記所定の基準画像との類似度合に関連する情報を取得する情報取得手段、
前記情報取得手段により取得された情報に基づいて、前記候補領域が前記特定の被写体画像の画像領域として特定されるべきであるか否かを判定する被写体判定手段、
として機能させることを特徴とするプログラム。
100 撮像装置
4 メモリ
4a 関連情報格納部
5 画像処理部
5a 画像取得部
5b 縮小画像生成部
5c 類似評価値算出部
c1 仮候補検出部
c2 候補領域特定部
5d 第1類似度判定部
5e 第2類似度判定部
5f 関連情報取得部
5g 被写体判定部
5h 画像領域特定部
11 中央制御部

Claims (10)

  1. フレーム画像を逐次取得する第1の取得手段と、
    前記第1の取得手段により取得された第1のフレーム画像における所定の被写体の画像の候補領域と当該所定の被写体との第1の類似度が第1の閾値以上であるか前記第1の閾値未満かを判定する第1閾値判定手段と、
    前記第1閾値判定手段により前記第1の類似度が前記第1の閾値以上であると判定された場合、前記候補領域を、前記所定の被写体の画像であると判定する第1の被写体判定手段と、
    前記第1閾値判定手段により前記第1の類似度が前記第1の閾値未満であると判定された場合、前記第1の取得手段により取得された複数のフレーム画像のうち、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得する第2の取得手段と
    前記第2の取得手段により取得された前記候補領域に対応する領域の情報から、前記候補領域が前記所定の被写体の画像であると判定する第2の被写体判定手段と、
    を備えたことを特徴とする被写体判定装置。
  2. 前記第1の取得手段により取得された前記第1のフレーム画像における前記第1の類似度が前記第1閾値判定手段により前記第1の閾値未満であると判定された場合、更に、前記第1の類似度が前記第1の閾値より小さい第2の閾値以上であるか否かを判定する第2閾値判定手段を更に備え、
    前記第2の取得手段は、前記第1の類似度が第2閾値判定手段により前記第1の類似度が第2の閾値以上であると判定された場合に、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得することを特徴とする請求項1に記載の被写体判定装置。
  3. 前記第2の取得手段は、前記候補領域に対応する領域の情報として、当該候補領域に対応する領域と前記所定の被写体との第2の類似度を取得することを特徴とする請求項1又は2に記載の被写体判定装置。
  4. 予め算出された前記候補領域に対応する領域と前記所定の被写体との類似度を記憶させる第1記憶制御手段を更に備え、
    前記第2の取得手段は、前記第2の類似度として、前記第1記憶制御手段により記憶された前記候補領域に対応する領域と前記所定の被写体との類似度を取得し、
    前記第2の被写体判定手段は、前記候補領域に対応する領域と前記所定の被写体らしさとの類似度が前記第2の閾値以上であると判定することで、前記候補領域が前記所定の被写体の画像であると判定することを特徴とする請求項3に記載の被写体判定装置。
  5. 前記第1の取得手段により逐次取得された各フレーム画像を所定の比率で順次縮小して縮小画像を順次生成する画像縮小手段と、
    前記画像縮小手段により順次生成された複数の縮小画像の各々から前記所定の被写体の画像の仮候補領域を検出する検出手段と、
    前記検出手段により略等しい位置で前記複数の縮小画像から検出された前記所定の被写体の画像の仮候補領域の個数を記憶させる第2記憶制御手段とを更に備え、
    前記第2の取得手段は、更に、前記第2記憶制御手段により記憶された前記領域に対応する仮候補領域の個数を前記候補領域に対応する領域の情報として取得し、
    前記第2の被写体判定手段は、更に、前記領域に対応する被写体の画像の仮候補領域の個数が所定の判定値以上であると判定することで、前記候補領域が前記所定の被写体の画像であると判定することを特徴とする請求項1から4の何れか一項に記載の被写体判定装置。
  6. 前記検出手段により略等しい位置で前記複数の縮小画像から検出された前記被写体の画像の仮候補領域に基づいて、当該フレーム画像における被写体の画像の候補領域を特定する候補特定手段を更に備えることを特徴とする請求項5に記載の被写体判定装置。
  7. 前記所定の被写体の画像は、顔が含まれる画像であることを特徴とする請求項1から6の何れか一項に記載の被写体判定装置。
  8. 前記フレーム画像は、撮像画像から生成された画像であることを特徴とする請求項1から7の何れか一項に記載の被写体判定装置。
  9. 被写体判定装置を用いた被写体判定方法であって、
    フレーム画像を逐次取得する処理と、
    取得された第1のフレーム画像における所定の被写体の画像の候補領域と当該所定の被写体との第1の類似度が第1の閾値以上であるか前記第1の閾値未満かを判定する処理と、
    前記第1の類似度が前記第1の閾値以上であると判定された場合、前記候補領域を、前記所定の被写体の画像であると判定する処理と、
    前記第1閾値判定手段により前記第1の類似度が前記第1の閾値未満であると判定された場合、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得する処理と、
    取得された前記候補領域に対応する領域の情報から、前記候補領域が前記所定の被写体の画像であると判定する処理と、
    を含むことを特徴とする被写体判定方法。
  10. コンピュータを、
    フレーム画像を逐次取得する第1の取得手段、
    前記第1の取得手段により取得された第1のフレーム画像における所定の被写体の画像の候補領域と当該所定の被写体との第1の類似度が第1の閾値以上であるか前記第1の閾値未満かを判定する第1閾値判定手段、
    前記第1閾値判定手段により前記第1の類似度が前記第1の閾値以上であると判定された場合、前記候補領域を、前記所定の被写体の画像であると判定する第1の被写体判定手段、
    前記第1閾値判定手段により前記第1の類似度が前記第1の閾値未満であると判定された場合、前記第1の取得手段により取得された複数のフレーム画像のうち、前記第1のフレーム画像よりも所定フレーム数前に取得された第2のフレーム画像における前記候補領域に対応する領域の情報を取得する第2の取得手段
    前記第2の取得手段により取得された前記候補領域に対応する領域の情報から、前記候補領域が前記所定の被写体の画像であると判定する第2の被写体判定手段、
    として機能させることを特徴とするプログラム。
JP2012024947A 2012-02-08 2012-02-08 被写体判定装置、被写体判定方法及びプログラム Expired - Fee Related JP5939705B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012024947A JP5939705B2 (ja) 2012-02-08 2012-02-08 被写体判定装置、被写体判定方法及びプログラム
CN201310042617.5A CN103297670B (zh) 2012-02-08 2013-02-04 被摄体判断装置以及被摄体判断方法
KR1020130013115A KR101441786B1 (ko) 2012-02-08 2013-02-05 피사체 판정 장치, 피사체 판정 방법, 및 기록 매체
US13/761,529 US9092659B2 (en) 2012-02-08 2013-02-07 Subject determination apparatus that determines whether or not subject is specific subject

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012024947A JP5939705B2 (ja) 2012-02-08 2012-02-08 被写体判定装置、被写体判定方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2013161405A JP2013161405A (ja) 2013-08-19
JP2013161405A5 JP2013161405A5 (ja) 2014-11-13
JP5939705B2 true JP5939705B2 (ja) 2016-06-22

Family

ID=48902922

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012024947A Expired - Fee Related JP5939705B2 (ja) 2012-02-08 2012-02-08 被写体判定装置、被写体判定方法及びプログラム

Country Status (4)

Country Link
US (1) US9092659B2 (ja)
JP (1) JP5939705B2 (ja)
KR (1) KR101441786B1 (ja)
CN (1) CN103297670B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120118383A (ko) * 2011-04-18 2012-10-26 삼성전자주식회사 이미지 보정 장치 및 이를 이용하는 이미지 처리 장치와 그 방법들
JP2014139734A (ja) * 2013-01-21 2014-07-31 Sony Corp 情報処理装置および方法、並びにプログラム
KR20140112774A (ko) * 2013-03-14 2014-09-24 삼성전자주식회사 이미지 편집 방법, 저장 매체 및 단말
US9158996B2 (en) * 2013-09-12 2015-10-13 Kabushiki Kaisha Toshiba Learning image collection apparatus, learning apparatus, and target object detection apparatus
US11087264B2 (en) * 2015-03-16 2021-08-10 International Business Machines Corporation Crowdsourcing of meetings
US10586238B2 (en) * 2016-06-22 2020-03-10 Microsoft Technology Licensing, Llc Automation of image validation
WO2018011930A1 (ja) * 2016-07-13 2018-01-18 楽天株式会社 画像処理装置、画像処理方法、及びプログラム
JP6907774B2 (ja) * 2017-07-14 2021-07-21 オムロン株式会社 物体検出装置、物体検出方法、およびプログラム
KR102402639B1 (ko) 2017-11-24 2022-05-26 삼성전자주식회사 전자 장치 및 그의 통신 방법
JP6697042B2 (ja) * 2018-08-31 2020-05-20 ソニーセミコンダクタソリューションズ株式会社 固体撮像システム、固体撮像方法及びプログラム
CN111488776B (zh) * 2019-01-25 2023-08-08 北京地平线机器人技术研发有限公司 对象检测方法、对象检测装置和电子设备

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5640200A (en) * 1994-08-31 1997-06-17 Cognex Corporation Golden template comparison using efficient image registration
US7171311B2 (en) * 2001-06-18 2007-01-30 Rosetta Inpharmatics Llc Methods of assigning treatment to breast cancer patients
JP4489608B2 (ja) 2004-03-31 2010-06-23 富士フイルム株式会社 ディジタル・スチル・カメラ,画像再生装置および顔画像表示装置ならびにそれらの制御方法
US7440608B2 (en) * 2005-05-31 2008-10-21 Hewlett-Packard Development Company, L.P. Method and system for detecting image defects
JP2007334623A (ja) * 2006-06-15 2007-12-27 Toshiba Corp 顔認証装置、顔認証方法、および入退場管理装置
US8355569B2 (en) * 2006-08-10 2013-01-15 Nec Corporation Object region extracting device
JP4267029B2 (ja) * 2006-09-05 2009-05-27 キヤノン株式会社 画像処理装置、画像処理方法、画像処理方法のプログラム及びその記憶媒体
JP4983684B2 (ja) * 2008-03-26 2012-07-25 セイコーエプソン株式会社 画像処理装置、画像処理方法、画像処理のためのコンピュータプログラム
JP4577410B2 (ja) * 2008-06-18 2010-11-10 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP5048614B2 (ja) * 2008-09-03 2012-10-17 富士フイルム株式会社 撮影装置及び方法
JP4702418B2 (ja) * 2008-09-09 2011-06-15 カシオ計算機株式会社 撮影装置、画像領域の存否判定方法及びプログラム
JP5219795B2 (ja) * 2008-12-26 2013-06-26 キヤノン株式会社 被写体追跡装置、その制御方法、撮像装置、表示装置及びプログラム
US8713030B2 (en) * 2009-06-05 2014-04-29 Kabushiki Kaisha Toshiba Video editing apparatus
KR100970119B1 (ko) * 2009-11-23 2010-07-15 (주)올라웍스 적응적으로 객체를 추적하는 방법, 시스템, 및 컴퓨터 판독 가능한 기록 매체
US8542982B2 (en) * 2009-12-22 2013-09-24 Sony Corporation Image/video data editing apparatus and method for generating image or video soundtracks
JP5567853B2 (ja) * 2010-02-10 2014-08-06 キヤノン株式会社 画像認識装置および方法

Also Published As

Publication number Publication date
US9092659B2 (en) 2015-07-28
KR20130091679A (ko) 2013-08-19
CN103297670B (zh) 2017-04-12
US20130202163A1 (en) 2013-08-08
CN103297670A (zh) 2013-09-11
JP2013161405A (ja) 2013-08-19
KR101441786B1 (ko) 2014-09-17

Similar Documents

Publication Publication Date Title
JP5939705B2 (ja) 被写体判定装置、被写体判定方法及びプログラム
JP4748244B2 (ja) 画像選択装置、画像選択方法及びプログラム
JP4862930B2 (ja) 画像処理装置、画像処理方法及びプログラム
US8989504B2 (en) Image processing device that renews identification information of specific subject
KR101375988B1 (ko) 피사체 검출 장치, 피사체 검출 방법 및 기록 매체
US8295609B2 (en) Image processing apparatus, image processing method and computer readable-medium
JP5966778B2 (ja) 撮像装置、撮像方法及びプログラム
JP2018093376A (ja) 撮像装置、撮像方法及びプログラム
JP5395650B2 (ja) 被写体領域抽出装置およびその制御方法、被写体追跡装置、並びにプログラム
JP2014007528A (ja) 画像処理装置およびその制御方法
JP2013152643A (ja) 画像処理装置、画像処理方法及びプログラム
JP5807695B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP5740934B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP2017092544A (ja) 出力制御装置、出力制御方法及びプログラム
JP5146223B2 (ja) プログラム、カメラ、画像処理装置および画像の輪郭抽出方法
JP2012060292A (ja) 画像処理装置、画像選択方法、及び、プログラム
JP5794413B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5287965B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6601062B2 (ja) 撮像制御装置、撮像制御方法及びプログラム
JP5732773B2 (ja) 画像識別装置、画像識別方法及びプログラム
JP2009130840A (ja) 撮像装置及びその制御方法及びプログラム
JP6627418B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6668646B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014022826A (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP2017151562A (ja) 画像処理装置、撮像装置およびこれらの制御方法ならびにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140926

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140926

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20140926

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20141024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150113

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150511

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150519

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160516

R150 Certificate of patent or registration of utility model

Ref document number: 5939705

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees