JP5485781B2 - 電子カメラ - Google Patents

電子カメラ Download PDF

Info

Publication number
JP5485781B2
JP5485781B2 JP2010107861A JP2010107861A JP5485781B2 JP 5485781 B2 JP5485781 B2 JP 5485781B2 JP 2010107861 A JP2010107861 A JP 2010107861A JP 2010107861 A JP2010107861 A JP 2010107861A JP 5485781 B2 JP5485781 B2 JP 5485781B2
Authority
JP
Japan
Prior art keywords
face
search
animal
image
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010107861A
Other languages
English (en)
Other versions
JP2011239120A (ja
Inventor
正義 岡本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xacti Corp
Original Assignee
Xacti Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xacti Corp filed Critical Xacti Corp
Priority to JP2010107861A priority Critical patent/JP5485781B2/ja
Priority to US13/089,858 priority patent/US20110273578A1/en
Priority to CN201110119593XA priority patent/CN102244725A/zh
Publication of JP2011239120A publication Critical patent/JP2011239120A/ja
Application granted granted Critical
Publication of JP5485781B2 publication Critical patent/JP5485781B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

この発明は、電子カメラに関し、特に、特定物体像を被写界像から探索する、電子カメラに関する。
この種のカメラの一例が、特許文献1に開示されている。この背景技術によれば、撮像部によって取得されたデジタル画像情報により示される被写体に人の顔が含まれている場合に、検出部が当該被写体における顔領域の位置及び大きさを検出する。特定部は、縦撮り構図及び横撮り構図の何れとされているかを特定する。検出部により検出された顔領域の位置が被写体の水平方向の中心を含む予め定められた範囲内にあり、かつ検出部により検出された顔領域の大きさが予め定められた大きさ以上であると共に、特定部により横撮り構図とされていると特定された場合に、制御部は、縦撮り構図とすることを薦める情報を表示するように制御する。
特開2009−088710号公報
しかし、背景技術では、顔の特徴が科目および品種毎に大きく異なる動物を撮影する場合には、撮像面における動物の姿勢の判定処理の負荷が大きくなり、この点で撮像性能に限界がある。
それゆえに、この発明の主たる目的は、撮像性能を向上させることができる、電子カメラを提供することである。
この発明に従う電子カメラ(10:実施例で相当する参照符号。以下同じ)は、被写界を捉える撮像面で生成された被写界像を繰り返し出力する撮像手段(16)、撮像手段から出力された被写界像から人物の顔部を表す顔画像を探索する第1探索手段(S41~S69)、互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書の中から第1探索手段によって発見された顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書を指定する指定手段(S165)、撮像手段から出力された被写界像から動物の顔部を表す顔画像を探索する処理を指定手段によって指定された動物顔辞書を参照して実行する第2探索手段(S101~S129, S167~S177)、および第2探索手段の探索結果に応じて異なる出力処理を実行する処理手段(S19~S31)を備える。
好ましくは、処理手段は第2探索手段によって発見された顔画像が現れた被写界像を取り込む取り込み手段(S27)を含む。
好ましくは、処理手段は第2探索手段によって発見された顔画像に注目して撮像条件を調整する調整手段(S23, S25)を含む。
好ましくは、第1探索手段は顔画像の姿勢を示す姿勢情報を作成する作成手段(S89)を含み、指定手段は作成手段によって作成された姿勢情報に基づいて指定処理を実行する。
好ましくは、指定手段によって注目される姿勢は撮像面に直交する軸の回転方向における姿勢に相当する。
この発明によれば、動物の顔部を表す顔画像の探索にあたっては、互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書のうち、人物の顔部を表す顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書が参照される。これによって、動物の顔画像の探索に要する時間が短縮され、撮像性能が向上する。
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
この発明の基本的構成を示すブロック図である。 この発明の一実施例の構成を示すブロック図である。 評価エリアを撮像面に割り当てた状態の一例を示す図解図である。 ペット撮像タスクにおいて参照されるレジスタの一例を示す図解図である。 人物辞書HDCに収められた人物の顔の特徴量の一例を示す図解図である。 ペット撮像タスクにおいて用いられる顔検出枠の一例を示す図解図である。 ペット撮像タスクにおける顔検出処理の一部を示す図解図である。 撮像面によって捉えられた人物を表す画像の一例を示す図解図である。 ペット撮像タスクにおいて参照される他のレジスタの一例を示す図解図である。 ペット辞書PDCの構成の一例を示す図解図である。 ペット辞書PDCに収められた動物の顔の特徴量の一例を示す図解図である。 撮像面によって捉えられた動物を表す画像の一例を示す図解図である。 撮像面によって捉えられた人物および動物の各々の画像の一例を示す図解図である。 図2実施例に適用されるCPUの動作の一部を示すフロー図である。 図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。 図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。
以下、この発明の実施の形態を図面を参照しながら説明する。
[基本的構成]
図1を参照して、この発明の電子カメラは、基本的に次のように構成される。撮像手段1は、被写界を捉える撮像面で生成された被写界像を繰り返し出力する。第1探索手段2は、撮像手段から出力された被写界像から人物の顔部を表す顔画像を探索する。指定手段3は、互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書の中から第1探索手段によって発見された顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書を指定する。第2探索手段4は、撮像手段から出力された被写界像から動物の顔部を表す顔画像を探索する処理を指定手段によって指定された動物顔辞書を参照して実行する。処理手段5は、第2探索手段の探索結果に応じて異なる出力処理を実行する。
したがって、動物の顔部を表す顔画像の探索にあたっては、互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書のうち、人物の顔部を表す顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書が参照される。これによって、動物の顔画像の探索に要する時間が短縮され、撮像性能が向上する。
[実施例]
図2を参照して、この実施例のディジタルカメラ10は、ドライバ18aおよび18bによってそれぞれ駆動されるフォーカスレンズ12および絞りユニット14を含む。これらの部材を経た被写界の光学像は、イメージャ16の撮像面に照射され、光電変換を施される。これによって、被写界像を表す電荷が生成される。
キー入力装置28に設けられたモードキー28mdによって通常撮像モードまたはペット撮像モードが選択されると、CPU26は、通常撮像タスクまたはペット撮像タスクの下で動画取り込み処理を開始するべく、ドライバ18cに露光動作および電荷読み出し動作の繰り返しを命令する。ドライバ18cは、図示しないSG(Signal Generator)から周期的に発生する垂直同期信号Vsyncに応答して、撮像面を露光し、かつ撮像面で生成された電荷をラスタ走査態様で読み出す。イメージャ16からは、読み出された電荷に基づく生画像データが周期的に出力される。
前処理回路20は、イメージャ16から出力された生画像データにディジタルクランプ,画素欠陥補正,ゲイン制御などの処理を施す。これらの処理を施された生画像データは、メモリ制御回路30を通してSDRAM32の生画像エリア32aに書き込まれる。
後処理回路34は、生画像エリア32aに格納された生画像データをメモリ制御回路30を通して読み出し、読み出された生画像データに色分離処理,白バランス調整処理,YUV変換処理などの処理を施し、YUV形式に従う表示画像データおよび探索画像データを個別に作成する。
表示画像データは、メモリ制御回路30によってSDRAM32の表示画像エリア32bに書き込まれる。探索画像データは、メモリ制御回路30によってSDRAM32の探索画像エリア32cに書き込まれる。
LCDドライバ36は、表示画像エリア32bに格納された表示画像データをメモリ制御回路30を通して繰り返し読み出し、読み出された画像データに基づいてLCDモニタ38を駆動する。この結果、被写界のリアルタイム動画像(スルー画像)がモニタ画面に表示される。なお、探索画像データに対する処理については、後述する。
図3を参照して、撮像面の中央には評価エリアEVAが割り当てられる。評価エリアEVAは水平方向および垂直方向の各々において16分割され、256個の分割エリアが評価エリアEVAを形成する。また、前処理回路20は、上述した処理に加えて、生画像データを簡易的にRGBデータに変換する簡易RGB変換処理を実行する。
AE評価回路22は、前処理回路20によって生成されたRGBデータのうち評価エリアEVAに属するRGBデータを、垂直同期信号Vsyncが発生する毎に積分する。これによって、256個の積分値つまり256個のAE評価値が、垂直同期信号Vsyncに応答してAE評価回路22から出力される。
また、AF評価回路24は、前処理回路20から出力されたRGBデータのうち同じ評価エリアEVAに属するRGBデータの高周波成分を抽出し、抽出された高域周波数成分を垂直同期信号Vsyncが発生する毎に積分する。これによって、256個の積分値つまり256個のAF評価値が、垂直同期信号Vsyncに応答してAF評価回路24から出力される。
CPU26は、AE評価回路22からの出力に基づく簡易AE処理を動画取り込み処理と並列して実行し、適正EV値を算出する。算出された適正EV値を定義する絞り量および露光時間は、ドライバ18bおよび18cにそれぞれ設定される。この結果、スルー画像の明るさが適度に調整される。
通常撮像モードが選択されている状態でシャッタボタン28shが半押しされると、CPU26は、AE評価回路22の出力に基づくAE処理を通常撮像タスクの下で実行し、これによって算出された最適EV値を定義する絞り量および露光時間をドライバ18bおよび18cにそれぞれ設定する。この結果、スルー画像の明るさが厳格に調整される。CPU26はまた、AF評価回路24からの出力に基づくAF処理を通常撮像タスクの下で実行し、ドライバ18aを通じてフォーカスレンズ12を合焦点に設定する。これによって、スルー画像の鮮鋭度が向上する。
シャッタボタン28shが半押し状態から全押し状態に移行すると、CPU26は、記録処理のために、通常撮像タスクの下でI/F40を起動する。I/F40は、シャッタボタン28shが全押しされた時点の被写界を表す1フレームの表示画像データをメモリ制御回路30を通して表示画像エリア32bから読み出し、読み出された表示画像データが収められた画像ファイルを記録媒体42に記録する。
ペット撮像モードが選択されている場合、CPU26は、ペット撮像タスクと並列して実行される人顔検出タスクの下で、探索画像エリア32cに格納された画像データから人物の顔画像を探索する。このような人顔検出タスクのために、図4に示すレジスタRGSTH、図5(A)〜図5(C)に示す人物辞書HDCおよび図6に示す複数の顔検出枠FD,FD,FD,…が準備される。
レジスタRGSTHは人物の顔画像情報を保持するためのレジスタに相当し、検出された人物の顔画像の位置(顔画像が検出された時点の顔検出枠FDの位置)を記述するカラムと検出された顔画像のサイズ(顔画像が検出された時点の顔検出枠FDのサイズ)を記述するカラムとによって形成される。
人物辞書HDCにおいては、人物の3つの顔姿勢にそれぞれ対応する3つの特徴量が収められる。図5(A)の例は、人物の正立した姿勢に対応し、顔パターン番号HDC_1に割り当てられる。図5(B)の例は、人物の左に90°傾斜した姿勢に対応し、顔パターン番号HDC_2に割り当てられる。図5(C)の例は、人物の右に90°傾斜した姿勢に対応し、顔パターン番号HDC_3に割り当てられる。
図6に示す顔検出枠FDは、探索画像エリア32cに割り当てられた探索エリア上をラスタ走査態様で移動する。顔検出枠FDのサイズは、ラスタ走査が終了する毎に最大サイズSZmaxから最小サイズSZminまで“5”刻みで縮小される。
探索エリアはまず、評価エリアEVAの全域を覆うように設定される。また、最大サイズSZmaxは“200”に設定され、最小サイズSZminは“20”に設定される。したがって、顔検出枠FDは、“200”〜“20”の範囲で変化するサイズを有して、図7に示す要領で評価エリアEVA上を走査される。
人顔検出タスクの下ではまず、フラグFLG_H_ENDが“0”に設定される。ここで、フラグFLG_H_ENDは、人顔検出タスクが完了したか否かを識別するための、フラグである。“0”がタスクの実行中を示す一方、“1”がタスクの完了を示す。
垂直同期信号Vsyncが発生すると、顔検出枠FDに属する画像データが探索画像エリア32cから読み出され、読み出された画像データの特徴量が算出される。
はじめに、変数HDIRが“0”に設定される。続いて、変数Nが“1”,“2”,“3”の各々に設定され、算出された特徴量が人物辞書HDCの顔パターンHDC_Nと照合される。上述のように、人物辞書HDCには人物の3つの顔姿勢にそれぞれ対応する3つの特徴量が収められており、変数Nは人物の姿勢に対応する。したがって、探索画像エリア32cから読み出された画像データの特徴量は、3つの特徴量と照合される。
正立する人物HB1の顔が図8に示す要領で捉えられていることを前提として、顔パターン番号HDC_1に割り当てられた顔パターンの特徴量に対する照合度は、カメラ筐体を正立させた姿勢で人物HB1の顔を捉えたときに基準値H_REFを上回る。また、顔パターン番号HDC_2に割り当てられた顔パターンの特徴量に対する照合度は、カメラ筐体を右に90°傾斜させた姿勢で人物HB1の顔を捉えたときに基準値H_REFを上回る。さらに、顔パターン番号HDC_3に割り当てられた顔パターンの特徴量に対する照合度は、カメラ筐体を左に90°傾斜させた姿勢で人物HB1の顔を捉えたときに基準値H_REFを上回る。
照合度が基準値H_REFを上回ると、CPU26は、人物HB1の顔が発見されたとみなし、顔検出枠FDの現時点の位置およびサイズを顔画像情報としてレジスタRGSTHに登録するとともに、変数HDIRを変数Nが現時点で示す値に設定する。すなわち、変数Nが人物HB1の姿勢に対応しているので、発見された人物HB1の姿勢情報が変数HDIRに保持される。さらにこれに応じて、フラグFLG_H_ENDが“1”に設定され、人顔検出タスクが完了する。
変数HDIRは、人顔検出タスクの下で“0”に初期設定され、人物辞書HDCに収められた人物の顔の特徴量と符合する顔画像が発見されたときに、変数Nが示す値に更新される。よって、変数HDIRが“0”以外である場合は人物の顔画像が発見されたことを示している。
フラグFLG_H_ENDが“1”に更新され、変数HDIRが初期値の“0”以外であると、CPU26は、顔検出枠FDの現時点の位置およびサイズに対応する顔枠キャラクタ表示命令をグラフィックジェネレータ46に向けて発行する。また、グラフィックジェネレータ46は、与えられた顔枠キャラクタ表示命令に基づいて顔枠を表すグラフィック画像データを作成し、作成されたグラフィック画像データをLCDドライバ36に与える。LCDドライバ36は、与えられたグラフィック画像データに基づいて、顔枠キャラクタKF_Hを人物HB1の顔画像を囲うようにLCDモニタ38に表示する(図8参照)。
ペット撮像モードが選択されている場合、CPU26は、人顔検出タスクの完了後にペット撮像タスクと並列して実行されるペット顔検出タスクの下で、探索画像エリア32cに格納された画像データから動物の顔画像を探索する。このようなペット顔検出タスクのために、図9に示すレジスタRGSTPおよび図10に示すペット辞書PDCが準備される。
図9に示すレジスタRGSTPは動物の顔画像情報を保持するためのレジスタに相当し、検出された動物の顔画像の位置(顔画像が検出された時点の顔検出枠FDの位置)を記述するカラムと検出された顔画像のサイズ(顔画像が検出された時点の顔検出枠FDのサイズ)を記述するカラムとによって形成される。
図10に示すペット辞書PDCにおいては、42品種の動物の顔の特徴量が、顔パターン番号PDC_1_1〜PDC_42_3に各々割り当てられる。顔パターン番号PDC_1_1〜PDC_24_3には24品種の犬の顔の特徴量がそれぞれ割り当てられ、顔パターン番号PDC_25_1〜PDC_32_3には8品種の猫の顔の特徴量がそれぞれ割り当てられ、顔パターン番号PDC_33_1〜PDC_42_3には10品種のうさぎの顔の特徴量がそれぞれ割り当てられる。なお、図10の例では、科目名、数字および姿勢からなる文字列が顔パターン番号PDC_1_1〜PDC_42_3の各々に割り当てられているが、実際には動物の顔の特徴量が割り当てられる。
また、ペット辞書PDCにおいては、3つの姿勢にそれぞれ対応する3つの特徴量が品種毎にそれぞれ収められる。図11(A)の例は、猫2の正立した姿勢に対応し、顔パターン番号PDC_26_1に割り当てられる。図11(B)の例は、猫2の左に90°傾斜した姿勢に対応し、顔パターン番号PDC_26_2に割り当てられる。図11(C)の例は、猫2の右に90°傾斜した姿勢に対応し、顔パターン番号PDC_26_3に割り当てられる。同様に、顔パターン番号PDC_L_1(L=1,2,3…42)には各々の品種の正立姿勢での顔の特徴量が割り当てられ、顔パターン番号PDC_L_2には各々の品種の左90°傾斜姿勢での顔の特徴量が割り当てられ、顔パターン番号PDC_L_3には各々の品種の右90°傾斜姿勢での顔の特徴量が割り当てられる。
よって、ペット辞書PDCの顔パターン番号を“PDC_L_M”
(L=1,2,3…42, M=1,2,3)と表した場合は、変数Lは動物の品種に対応し、変数Mは姿勢に対応する。
人顔検出タスクの完了後、ペット顔検出タスクが起動される。ペット顔検出タスクの下ではまず、フラグFLG_P_ENDが“0”に設定される。ここで、フラグFLG_P_ENDは、ペット顔検出タスクが完了したか否かを識別するための、フラグである。“0”がタスクの実行中を示す一方、“1”がタスクの完了を示す。
垂直同期信号Vsyncが発生すると、顔検出枠FDに属する画像データが探索画像エリア32cから読み出され、読み出された画像データの特徴量が算出される。次に、フラグFLG_P_DTCTが“0”に設定される。フラグFLG_P_DTCTは、顔検出枠FDに属する画像データとの照合度が基準値P_REFを上回る特徴量がペット辞書PDCにおいて発見されたか否かを識別するための、フラグである。“0”が未発見を示す一方、“1”が発見済みを示す。
上述のように、変数HDIRが“0”以外である場合は人物の顔画像が発見されたことを示す。よって、変数HDIRが“0”である場合は人物の顔画像が発見されていない。このような場合、算出された特徴量は、ペット顔検出タスクの下で、ペット辞書PDCに収められた全ての特徴量と照合される。
具体的には、変数Lが“1”,“2”,“3”…“42”の各々に設定され、変数Mが“1”,“2”,“3”の各々に設定され、算出された特徴量はペット辞書PDCの顔パターン番号PDC_L_Mの特徴量と照合される。上述のように、ペット辞書PDCにおいては、3つの顔姿勢にそれぞれ対応する3つの特徴量が42の品種の各々に収められている。したがって、算出された特徴量は、合計126個(=42品種×3姿勢)の特徴量と照合される。
図12を参照して、品種が猫2である猫EM1が撮像面に捉えられていると、猫EM1の顔が正立していることを前提として、顔パターン番号PDC_26_1に割り当てられた顔パターンの特徴量に対する照合度は、カメラ筐体を正立させた姿勢で猫EM1の顔を捉えたときに基準値P_REFを上回る。また、顔パターン番号PDC_26_2に割り当てられた顔パターンの特徴量に対する照合度は、カメラ筐体を右に90°傾斜させた姿勢で猫EM1の顔を捉えたときに基準値P_REFを上回る。さらに、顔パターン番号PDC_26_3に割り当てられた顔パターンの特徴量に対する照合度は、カメラ筐体を左に90°傾斜させた姿勢で猫EM1の顔を捉えたときに基準値P_REFを上回る。
照合度が基準値P_REFを上回ると、CPU26は、動物の顔が発見されたとみなし、顔検出枠FDの現時点の位置およびサイズを顔画像情報としてレジスタRGSTPに登録するとともに、フラグFLG_P_DTCTを“1”に更新する。さらにこれに応じて、フラグFLG_P_ENDが“1”に設定され、ペット顔検出タスクが完了する。
フラグFLG_P_ENDが“1”に更新され、フラグFLG_P_DTCTが“1”であると、CPU26は、顔検出枠FDの現時点の位置およびサイズに対応する顔枠キャラクタ表示命令をグラフィックジェネレータ46に向けて発行する。グラフィックジェネレータ46は、与えられた顔枠キャラクタ表示命令に基づいて顔枠を表すグラフィック画像データを作成し、作成されたグラフィック画像データをLCDドライバ36に与える。LCDドライバ36は、与えられたグラフィック画像データに基づいて、顔枠キャラクタKF_Pを猫EM1の顔画像を囲うようにLCDモニタ38に表示する(図12参照)。
一方、変数HDIRが“0”以外である場合、すなわち人物の顔画像が発見された場合は、顔検出枠FDに属する画像データは、ペット顔検出タスクの下で、ペット辞書PDCに収められた一部の特徴量と照合される。
図13に示すように、人物と動物とを同時に撮像面に捉える場合は、いずれの顔の向きも同様であることが多い。よって、人顔検出タスクにおいて人物の顔が検出されてその姿勢(カメラ筐体の傾斜)が判明した場合、ペット顔検出タスクの下では、ペット辞書PDCに収められた動物の顔の特徴量のうち人物と同一の姿勢に対応するもののみを参照して、照合処理が行われる。これによって、動物の顔画像の探索に要する時間が短縮される。
具体的には、顔パターン番号PDC_L_Mの特徴量が照合処理に用いられる場合、変数Lが“1”,“2”,“3”…“42”の各々に設定される一方、変数Mは、人物の姿勢情報が保持されている変数HDIRの示す値に設定される。したがって、顔検出枠FDに属する画像データの特徴量は、ペット辞書PDCに収められる126個の特徴量のうち42個(=42品種×1姿勢)の特徴量と照合される。
図13の例によると、カメラ筐体を正立させた状態で被写界が捉えられていることを前提に、人物HB2の顔は正立しているので、人物HB2の顔画像は顔パターン番号HDC_1の特徴量との照合度が基準値H_REFを上回る。よって、変数NおよびHDIRには“1”が設定されるので、ペット顔検出タスクの下では、顔検出枠FDに属する画像データの特徴量は、ペット辞書PDCの顔パターン番号PDC_L_1(L=1,2,3…42)の特徴量と照合される。
人物HB2に抱きかかえられた猫EM2の品種が“猫2”である場合は、顔パターン番号PDC_26_1の特徴量が基準値P_REFを上回るとともに、顔画像情報がレジスタRGSTPに登録される。
猫EM2の顔画像が発見されたのでフラグFLG_P_DTCTが“1”に更新され、ペット顔検出タスクの完了後、LCDモニタ38に顔枠キャラクタKF_Pが顔枠キャラクタKF_Hとともに表示される(図13参照)。
CPU26はその後、ペット撮像タスクの下で、発見された猫EM2の顔画像に注目した厳格AE処理およびAF処理を実行する。AF処理が完了した直後の1フレームの画像データは、静止画取り込み処理によって静止画エリア32dに取り込まれる。取り込まれた1フレームの画像データは、記録処理に関連して起動したI/F40によって静止画エリア32dから読み出され、ファイル形式で記録媒体42に記録される。顔枠KF_HおよびKF_Pは、記録処理が完了した後に非表示とされる。
CPU26は、ペット撮像モードが選択されたとき、図14〜図15に示すペット撮像タスク、図16〜図17に示す人顔検出タスクおよび図19〜図20に示すペット顔検出タスクを含む複数のタスクを並列的に実行する。これらのタスクに対応する制御プログラムは、フラッシュメモリ44に記憶される。
図14を参照して、ステップS1では動画取り込み処理を実行する。この結果、被写界を表すスルー画像がLCDモニタ38に表示される。ステップS3では人顔検出タスクを起動する。
フラグFLG_H_ENDは、起動された人顔検出タスクの下で“0”に初期設定され、人顔検出タスクが完了したか否かを識別するための、フラグである。“0”がタスクの実行中を示す一方、“1”がタスクの完了を示す。ステップS5ではこのようなフラグFLG_H_ENDが“1”を示すか否かを判別し、判別結果がNOである限り、ステップS7で簡易AE処理を繰り返し実行する。スルー画像の明るさは、簡易AE処理によって適度に調整される。
また、変数HDIRは、上述の通り、その値が“0”以外である場合は、人物の顔画像が発見されたことを示している。ステップS5の判別結果がNOからYESに更新されると、ステップS9ではこのような変数HDIRが“0”を示すか否かを判別する。判別結果がNOであれば、人物の顔画像が発見されているので、ステップS11において、顔検出枠FDの現時点の位置およびサイズに対応する顔枠キャラクタ表示命令を、グラフィックジェネレータ46に向けて発行する。この結果、顔枠キャラクタKF_Hが人物の顔画像を囲うようにLCDモニタ38に表示される。判別結果がYESであれば、人物の顔画像は発見されていないので、顔枠キャラクタKF_Hを表示させることなくステップS13に進む。
ステップS13ではペット顔検出タスクを起動する。フラグFLG_P_ENDは、起動されたペット顔検出タスクの下で“0”に初期設定され、ペット顔検出タスクが完了したか否かを識別するための、フラグである。“0”がタスクの実行中を示す一方、“1”がタスクの完了を示す。ステップS15ではこのようなフラグFLG_P_ENDが“1”を示すか否かを判別し、判別結果がNOである限り、ステップS17で簡易AE処理を繰り返し実行する。スルー画像の明るさは、簡易AE処理によって適度に調整される。
また、フラグFLG_P_DTCTは、起動されたペット顔検出タスクの下で“0”に初期設定され、ペット辞書PDCに収められた動物の顔の特徴量と符合する顔画像が発見されたときに“1”に更新される。ステップS15の判別結果がNOからYESに更新されると、ステップS19ではこのようなフラグFLG_P_DTCTが“1”を示すか否かを判別する。判別結果がYESであれば、動物の顔画像が発見されているので、ステップS21において、顔検出枠FDの現時点の位置およびサイズに対応する顔枠キャラクタ表示命令を、グラフィックジェネレータ46に向けて発行する。この結果、顔枠キャラクタKF_Pが動物の顔画像を囲うようにLCDモニタ38に表示される。判別結果がNOであれば、動物の顔画像は発見されていないので、顔枠キャラクタKF_Pの表示およびその他の処理を実行することなくステップS31に進む。
ステップS23およびS25では、発見された動物の顔画像に注目したAE処理およびAF処理をそれぞれ実行する。AE処理およびAF処理の結果、スルー画像の明るさおよびフォーカスが厳格に調整される。AF処理が完了すると、ステップS27およびS29で静止画取り込み処理および記録処理を実行する。AF処理が完了した直後の1フレームの画像データは、静止画取り込み処理によって静止画エリア32dに取り込まれる。取り込まれた1フレームの画像データは、記録処理に関連して起動したI/F40によって静止画エリア32dから読み出され、ファイル形式で記録媒体42に記録される。
記録処理が完了すると、顔枠KF_HおよびKF_PをステップS31で非表示とし、その後にステップS3に戻る。
図16を参照して、ステップS41ではフラグFLG_H_ENDを“0”に設定し、ステップS43では垂直同期信号Vsyncが発生したか否かを判別する。判別結果がNOからYESに更新されると、ステップS45で評価エリアEVAの全域を探索エリアとして設定する。
ステップS47では、顔検出枠FDのサイズの可変範囲を定義するべく、最大サイズSZmaxを“200”に設定し、最小SZminを“20”に設定する。ステップS49では顔検出枠FDのサイズを“SZmax”に設定し、ステップS51で顔検出枠FDを探索エリアの左上位置に配置する。ステップS53では顔検出枠FDに属する画像データを探索画像エリア32cから読み出し、読み出された画像データの特徴量を算出する。
ステップS55では、算出された特徴量を人物辞書HDC_1〜HDC_3に収められた人物の顔の特徴量と照合する照合処理を、実行する。照合処理が完了すると、変数HDIRが“0”を示すか否かをステップS57で判別する。判別結果がNOであればステップS69に進む一方、判別結果がYESであればステップS59に進む。
ステップS59では、顔検出枠FDが探索エリアの右下位置に到達したか否かを判別する。判別結果がNOであれば、ステップS61で顔検出枠FDを既定量だけラスタ方向に移動させ、その後にステップS53に戻る。判別結果がYESであれば、ステップS63で顔検出枠FDのサイズを“5”だけ縮小させ、顔検出枠FDのサイズが“SZmin”未満であるか否かをステップS65で判別する。ステップS65の判別結果がNOであれば、ステップS67で顔検出枠FDを探索エリアの左上位置に配置し、その後にステップS53に戻る。ステップS65の判別結果がYESであれば、ステップS69に進む。
ステップS69ではフラグFLG_H_ENDを“1”に設定し、その後に処理を終了する。
図16に示すステップS55の人顔照合処理は、図18に示すサブルーチンに従って実行される。まずステップS81では、人物の姿勢が不定であることを表明するべく変数DIRを“0”に設定し、変数Nを“1”に設定する。
ステップS83では顔検出枠FDに属する画像データの特徴量を人物辞書HDC_Nに収められた特徴量と照合し、ステップS85では照合度が基準値H_REFを上回るか否かを判別する。判別結果がNOであれば、ステップS91で変数Nをインクリメントし、インクリメントされた変数Nが“3”を上回るか否かをステップS93で判別する。N≦3であればステップS83に戻る一方、N>3であれば上階層のルーチンに復帰する。ステップS85の判別結果がYESであれば人物の顔が発見されたとみなして、ステップS87で顔検出枠FDの現在の位置およびサイズを顔画像情報としてレジスタRGSTHに登録する。
ステップS89では、発見された人物の姿勢情報を保持するべく、変数HDIRを変数Nが現時点で示す値に設定し、その後に上階層のルーチンに復帰する。
図19を参照して、ステップS101ではフラグFLG_P_ENDを“0”に設定し、ステップS103では垂直同期信号Vsyncが発生したか否かを判別する。判別結果がNOからYESに更新されると、ステップS105で評価エリアEVAの全域を探索エリアとして設定する。
ステップS107では、顔検出枠FDのサイズの可変範囲を定義するべく、最大サイズSZmaxを“200”に設定し、最小SZminを“20”に設定する。ステップS109では顔検出枠FDのサイズを“SZmax”に設定し、ステップS111で顔検出枠FDを探索エリアの左上位置に配置する。ステップS113では顔検出枠FDに属する画像データを探索画像エリア32cから読み出し、読み出された画像データの特徴量を算出する。
ステップS115では、算出された特徴量をペット辞書PDCに収められた動物の顔の特徴量と照合する照合処理を、実行する。照合処理が完了すると、フラグFLG_P_DTCTが“1”を示すか否かをステップS117で判別する。判別結果がYESであればステップS129に進む一方、判別結果がNOであればステップS119に進む。
ステップS119では、顔検出枠FDが探索エリアの右下位置に到達したか否かを判別する。判別結果がNOであれば、ステップS121で顔検出枠FDを既定量だけラスタ方向に移動させ、その後にステップS113に戻る。判別結果がYESであれば、ステップS123で顔検出枠FDのサイズを“5”だけ縮小させ、顔検出枠FDのサイズが“SZmin”未満であるか否かをステップS125で判別する。ステップS125の判別結果がNOであれば、ステップS127で顔検出枠FDを探索エリアの左上位置に配置し、その後にステップS113に戻る。ステップS125の判別結果がYESであれば、ステップS129に進む。
ステップS129ではフラグFLG_P_ENDを“1”に設定し、その後に処理を終了する。
図19に示すステップS115のペット顔照合処理は、図21〜図23に示すサブルーチンに従って実行される。まずステップS141では、撮像面での動物の存在が不定であることを表明するべくフラグFLG_P_DTCTを“0”に設定し、変数Lを“1”に設定する。ステップS143では変数HDIRが“0”であるか否かを判別し、判別結果がNOであればステップS165に進む一方、判別結果がYESであればステップS145で変数Mを“1”に設定する。
ステップS147では顔検出枠FDに属する画像データの特徴量をペット辞書PDC_L_Mに収められた特徴量と照合し、ステップS149では照合度が基準値P_REFを上回るか否かを判別する。判別結果がNOであればステップS155に進む一方、判別結果がYESであれば動物の顔が発見されたとみなして、ステップS151で顔検出枠FDの現在の位置およびサイズを顔画像情報としてレジスタRGSTPに登録する。ステップS153では、動物の顔画像が発見されたことを表明するべくフラグFLG_P_DTCTを“1”に設定し、その後に上階層のルーチンに復帰する。
ステップS155では変数Mをインクリメントし、インクリメントされた変数Mが“3”を上回るか否かをステップS157で判別する。N≦3であればステップS147に戻る一方、N>3であればステップS159に進む。
ステップS159では変数Lをインクリメントし、インクリメントされた変数Lが“42”を上回るか否かをステップS161で判別する。L≦42であればステップS163で変数Mを“1”に設定してステップS147に戻る一方、L>42であれば上階層のルーチンに復帰する。
ステップS165では変数Mを変数HDIRが現時点で示す値に設定し、ステップS167で顔検出枠FDに属する画像データの特徴量をペット辞書PDC_L_Mに収められた特徴量と照合する。ステップS169では照合度が基準値P_REFを上回るか否かを判別する。判別結果がNOであればステップS175に進む一方、判別結果がYESであれば動物の顔が発見されたとみなして、ステップS171で顔検出枠FDの現在の位置およびサイズを顔画像情報としてレジスタRGSTPに登録する。ステップS173では、動物の顔画像が発見されたことを表明するべくフラグFLG_P_DTCTを“1”に設定し、その後に上階層のルーチンに復帰する。
ステップS175では変数Lをインクリメントし、インクリメントされた変数Lが“42”を上回るか否かをステップS177で判別する。L≦42であればステップS167に戻る一方、L>42であれば上階層のルーチンに復帰する。
以上の説明から分かるように、イメージャ16は、被写界を捉える撮像面で生成された被写界像を繰り返し出力する。CPU26は、イメージャ16から出力された被写界像から人物の顔部を表す顔画像を探索し(S41~S69)、互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書の中から、発見された顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書を指定する(S165)。CPU26はまた、イメージャ16から出力された被写界像から動物の顔部を表す顔画像を探索する処理を、指定された動物顔辞書を参照して実行し(S101~S129, S167~S177)、動物の顔部を表す顔画像の探索結果に応じて異なる出力処理を実行する(S19~S31)。
このように、動物の顔部を表す顔画像の探索にあたっては、互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書のうち、人物の顔部を表す顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書が参照される。これによって、動物の顔画像の探索に要する時間が短縮され、撮像性能が向上する。
なお、この実施例では、ペット辞書PDCには、3科目に分類される42の品種の動物顔の特徴量をそれぞれ収めるようにしている。しかし、ペット辞書が対応する科目の数および品種の数は、これら以外であってもよい。
また、この実施例では、人物辞書HDCおよびペット辞書PDCにおいては、3つの姿勢での顔の特徴量が品種毎にそれぞれ収められている。しかし、これらに加えて、斜光属性等を有する特徴量を各々の姿勢ごとに追加してもよい。
また、この実施例では、静止画像を記録するスチルカメラを想定しているが、この発明は動画像を記録するムービーカメラにも適用できる。
10 …ディジタルカメラ
16 …イメージャ
22 …AE評価回路
24 …AF評価回路
26 …CPU
32 …SDRAM
44 …フラッシュメモリ
HDC …人物辞書
PDC …ペット辞書

Claims (7)

  1. 被写界を捉える撮像面で生成された被写界像を繰り返し出力する撮像手段、
    前記撮像手段から出力された被写界像から人物の顔部を表す顔画像を探索する第1探索手段、
    互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書の中から前記第1探索手段によって発見された顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書を指定する指定手段、
    前記撮像手段から出力された被写界像から動物の顔部を表す顔画像を探索する処理を前記指定手段によって指定された動物顔辞書を参照して実行する第2探索手段、および
    前記第2探索手段の探索結果に応じて異なる出力処理を実行する処理手段を備える、電子カメラ。
  2. 前記処理手段は前記第2探索手段によって発見された顔画像が現れた被写界像を取り込む取り込み手段を含む、請求項1記載の電子カメラ。
  3. 前記処理手段は前記第2探索手段によって発見された顔画像に注目して撮像条件を調整する調整手段を含む、請求項1または2記載の電子カメラ。
  4. 前記第1探索手段は前記顔画像の姿勢を示す姿勢情報を作成する作成手段を含み、
    前記指定手段は前記作成手段によって作成された姿勢情報に基づいて指定処理を実行する、請求項1ないし3のいずれかに記載の電子カメラ。
  5. 前記指定手段によって注目される姿勢は前記撮像面に直交する軸の回転方向における姿勢に相当する、請求項1ないし4のいずれかに記載の電子カメラ。
  6. 被写界を捉える撮像面で生成された被写界像を繰り返し出力する撮像手段を備える電子カメラのプロセッサに、
    前記撮像手段から出力された被写界像から人物の顔部を表す顔画像を探索する第1探索ステップ、
    互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書の中から前記第1探索ステップによって発見された顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書を指定する指定ステップ、
    前記撮像手段から出力された被写界像から動物の顔部を表す顔画像を探索する処理を前記指定ステップによって指定された動物顔辞書を参照して実行する第2探索ステップ、および
    前記第2探索ステップの探索結果に応じて異なる出力処理を実行する処理ステップを実行させるための、撮像制御プログラム。
  7. 被写界を捉える撮像面で生成された被写界像を繰り返し出力する撮像手段を備える電子カメラによって実行される撮像制御方法であって、
    前記撮像手段から出力された被写界像から人物の顔部を表す顔画像を探索する第1探索ステップ、
    互いに異なる複数の姿勢にそれぞれ対応する複数の動物顔辞書の中から前記第1探索ステップによって発見された顔画像の姿勢に沿う姿勢に対応する一部の動物顔辞書を指定する指定ステップ、
    前記撮像手段から出力された被写界像から動物の顔部を表す顔画像を探索する処理を前記指定ステップによって指定された動物顔辞書を参照して実行する第2探索ステップ、および
    前記第2探索ステップの探索結果に応じて異なる出力処理を実行する処理ステップを備える、撮像制御方法。
JP2010107861A 2010-05-10 2010-05-10 電子カメラ Expired - Fee Related JP5485781B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010107861A JP5485781B2 (ja) 2010-05-10 2010-05-10 電子カメラ
US13/089,858 US20110273578A1 (en) 2010-05-10 2011-04-19 Electronic camera
CN201110119593XA CN102244725A (zh) 2010-05-10 2011-05-06 电子照相机

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010107861A JP5485781B2 (ja) 2010-05-10 2010-05-10 電子カメラ

Publications (2)

Publication Number Publication Date
JP2011239120A JP2011239120A (ja) 2011-11-24
JP5485781B2 true JP5485781B2 (ja) 2014-05-07

Family

ID=44901698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010107861A Expired - Fee Related JP5485781B2 (ja) 2010-05-10 2010-05-10 電子カメラ

Country Status (3)

Country Link
US (1) US20110273578A1 (ja)
JP (1) JP5485781B2 (ja)
CN (1) CN102244725A (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6184189B2 (ja) * 2013-06-19 2017-08-23 キヤノン株式会社 被写体検出装置およびその制御方法、撮像装置、被写体検出装置の制御プログラムおよび記憶媒体
US10038497B2 (en) 2013-12-18 2018-07-31 Northrup Grumman Systems Corporation Optical transceiver with variable data rate and sensitivity control
JP7113364B2 (ja) 2018-10-18 2022-08-05 パナソニックIpマネジメント株式会社 撮像装置
WO2022054124A1 (ja) * 2020-09-08 2022-03-17 楽天グループ株式会社 画像判定装置、画像判定方法及びプログラム
US11569976B2 (en) 2021-06-07 2023-01-31 Northrop Grumman Systems Corporation Superconducting isochronous receiver system

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090202180A1 (en) * 2008-02-11 2009-08-13 Sony Ericsson Mobile Communications Ab Rotation independent face detection

Also Published As

Publication number Publication date
US20110273578A1 (en) 2011-11-10
JP2011239120A (ja) 2011-11-24
CN102244725A (zh) 2011-11-16

Similar Documents

Publication Publication Date Title
JP5485781B2 (ja) 電子カメラ
JP2012003539A (ja) 画像処理装置
JP2011071573A (ja) 画像処理装置
JP2011193063A (ja) 電子カメラ
JP2010098382A (ja) 電子カメラ
JP5485712B2 (ja) 電子カメラ
JP5865120B2 (ja) 電子カメラ
JP5785034B2 (ja) 電子カメラ
JP2012155044A (ja) 電子カメラ
US20110141304A1 (en) Electronic camera
JP5297766B2 (ja) 電子カメラ
JP2012217106A (ja) 画像処理装置
JP2011078041A (ja) 画像処理装置および電子カメラ
JP2012129796A (ja) 画像処理装置
JP2014053706A (ja) 電子カメラ
US11653087B2 (en) Information processing device, information processing system, and information processing method
JP2011101202A (ja) 電子カメラ
JP5582924B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20120148095A1 (en) Image processing apparatus
JP2011249956A (ja) 画像処理装置
JP2014045318A (ja) 電子カメラ
JP2011221602A (ja) 顔探索装置
US20130016242A1 (en) Electronic camera
JP2011130043A (ja) 電子カメラ
JP2013090112A (ja) 電子カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20130404

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20130521

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140220

R150 Certificate of patent or registration of utility model

Ref document number: 5485781

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees