JP2010102041A - 自動合焦装置および自動合焦方法、ならびに、撮像装置 - Google Patents

自動合焦装置および自動合焦方法、ならびに、撮像装置 Download PDF

Info

Publication number
JP2010102041A
JP2010102041A JP2008272349A JP2008272349A JP2010102041A JP 2010102041 A JP2010102041 A JP 2010102041A JP 2008272349 A JP2008272349 A JP 2008272349A JP 2008272349 A JP2008272349 A JP 2008272349A JP 2010102041 A JP2010102041 A JP 2010102041A
Authority
JP
Japan
Prior art keywords
face
imaging
evaluation
frame
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008272349A
Other languages
English (en)
Other versions
JP5517435B2 (ja
JP2010102041A5 (ja
Inventor
Kazunori Ishii
和憲 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008272349A priority Critical patent/JP5517435B2/ja
Priority to US12/579,984 priority patent/US8330849B2/en
Publication of JP2010102041A publication Critical patent/JP2010102041A/ja
Publication of JP2010102041A5 publication Critical patent/JP2010102041A5/ja
Priority to US13/653,724 priority patent/US8497929B2/en
Priority to US13/940,939 priority patent/US9277112B2/en
Application granted granted Critical
Publication of JP5517435B2 publication Critical patent/JP5517435B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Abstract

【課題】人物撮影の際の焦点検出を安定的に行う。
【解決手段】撮像信号から顔が検出されたら、顔が安定的に認識されたことを判断するための安定性判断時間を設定すると共に、時間の計測を開始する。計測された時間が安定性判断時間を超えるまでは、顔に対応する顔枠を含むようにされた通常枠から取得されたAF評価値を用いてTV−AF制御を行う。計測された時間が安定性判断時間を超えたら、顔枠および通常枠からそれぞれ取得されたAF評価値に基づきTV−AF制御を行う。
【選択図】図2

Description

本発明は、撮影時の焦点を自動的に調節する場合に用いて好適な自動合焦装置および方法、表示装置および方法、ならびに、撮像装置に関し、特には、人物の特徴部(特に顔部)を抽出し、その結果に基づいて焦点調節制御を行う場合に用いて好適な自動合焦装置および自動合焦方法、ならびに、撮像装置に関する。
ビデオカメラなどのオートフォーカス(AF)制御では、撮像素子を用いて生成された映像信号の鮮鋭度(コントラスト状態)を示すAF評価値信号を生成し、このAF評価値信号が最大となるフォーカスレンズの位置を探索する、TV−AF方式が主流である。
この映像信号の鮮鋭度に基づくオートフォーカス制御は、例えば人物を撮影する場合において、主被写体である人物とその背景のコントラストとの関係から、人物に合焦できず、背景に合焦してしまうことがあった。
これを解決するために、撮像信号による画像に含まれる顔を認識する顔認識機能を撮像装置に搭載し、顔の認識結果を用いてオートフォーカス制御を行う技術が開発されている。例えば、特許文献1には、認識された顔領域を含む焦点検出領域を設定し、焦点検出を行う技術が記載されている。また、特許文献2には、人物の目を検出し、検出された目に基づいて焦点検出を行う技術が記載されている。
特開2006−227080 特開2001−215403
ところで、上述した顔認識機能を用いた焦点検出の場合、認識された顔に対する合焦制御を常に行う。例えば、顔認識機能により認識された顔に対して合焦させるために、認識された顔の位置に対応して焦点検出領域を設定する。顔が認識されていない場合には、例えば撮影画面の中央位置といった撮影画面内の所定の固定位置に、焦点検出領域を設定する。この焦点検出領域内の映像信号から生成されたAF評価値に基づき、合焦制御を行う。
ここで、人物である主被写体(以下、主人物被写体と呼ぶ)の絵柄の変化による影響や、撮影者の手振れの影響などによっては、顔の認識が困難になることも考えられ、常に顔が認識されるとは限らない。特に動画撮影の場合には、主人物被写体は動いていることが多く、主人物被写体が横を向いた状態になったり、一時的に他の被写体が主人物被写体を覆った場合などは、直前に顔認識されていた焦点検出領域であっても、顔認識に失敗してしまうことになる。
このような、撮影画面内の同一位置において、顔が認識された状態と顔の認識に失敗した状態とが短い間隔で頻繁に繰り返されると、何処に合焦すればよいかを判断するのが困難となってしまうことになる。この場合、撮影者が意図する主人物被写体に対する合焦動作が遅くなる、合焦できないなど、合焦制御を安定的に行えなくなる可能性があるという問題点があった。
したがって、本発明の目的は、人物撮影の際の焦点検出を安定的に行うことができる自動合焦装置および自動合焦方法、ならびに、撮像装置を提供することにある。
本発明は、上述した課題を解決するために、所定時間間隔で供給される撮像信号から顔を検出する検出手段と、撮像信号による撮像画面に対して、AF評価値を検出するための、検出手段で検出された顔に対応する第1の評価枠と、第1の評価枠を含み第1の評価枠よりも大きい第2の評価枠とを設定する設定手段と、設定手段により設定された第1および第2の評価枠の少なくとも一方の中の撮像信号に基づきAF評価値を取得する取得手段と、取得手段で取得されたAF評価値に基づき撮像光学系の合焦制御を行う合焦制御手段とを有し、合焦制御手段は、検出手段で撮像信号から継続して顔が検出される時間を計測し、時間が閾値を超えたら、少なくとも第1の評価枠の中の撮像信号に基づき取得手段で取得されたAF評価値を用いて合焦制御を行い、時間が閾値を超えるまでは、第2の評価枠の中の撮像信号に基づき取得手段で取得されたAF評価値を用いて合焦制御を行うことを特徴とする。
また、本発明は、所定時間間隔で供給される撮像信号から顔を検出する検出手段と、撮像信号による撮像画面に対して、AF評価値を検出するための、検出手段で検出された顔に追従した第1の評価枠と、検出手段で検出された顔に追従しない第2の評価枠とを設定する設定手段と、設定手段により設定された第1および第2の評価枠の少なくとも一方の中の撮像信号に基づきAF評価値を取得する取得手段と、取得手段で取得されたAF評価値に基づき撮像光学系の合焦制御を行う合焦制御手段とを有し、合焦制御手段は、検出手段で撮像信号から継続して顔が検出される時間を計測し、時間が閾値を超えたら、少なくとも第1の評価枠の中の撮像信号に基づき取得手段で取得されたAF評価値を用いて合焦制御を行い、時間が閾値を超えるまでは、第2の評価枠の中の撮像信号に基づき取得手段で取得されたAF評価値を用いて合焦制御を行うことを特徴とする。
また、本発明は、所定時間間隔で供給される撮像信号から顔を検出する検出ステップと、撮像信号による撮像画面に対して、AF評価値を検出するための、検出ステップで検出された顔に対応する第1の評価枠と、第1の評価枠を含み第1の評価枠よりも大きい第2の評価枠とを設定する設定ステップと、設定ステップにより設定された第1および第2の評価枠の少なくとも一方の中の撮像信号に基づきAF評価値を取得する取得ステップと、取得ステップで取得されたAF評価値に基づき撮像光学系の合焦制御を行う合焦制御ステップとを有し、合焦制御ステップは、検出ステップで撮像信号から継続して顔が検出される時間を計測し、時間が閾値を超えたら、少なくとも第1の評価枠の中の撮像信号に基づき取得ステップで取得されたAF評価値を用いて合焦制御を行い、時間が閾値を超えるまでは、第2の評価枠の中の撮像信号に基づき取得ステップで取得されたAF評価値を用いて合焦制御を行うことを特徴とする。
また、本発明は、所定時間間隔で供給される撮像信号から顔を検出する検出ステップと、撮像信号による撮像画面に対して、AF評価値を検出するための、検出ステップで検出された顔に追従した第1の評価枠と、検出ステップで検出された顔に追従しない第2の評価枠とを設定する設定ステップと、設定ステップにより設定された第1および第2の評価枠の少なくとも一方の中の撮像信号に基づきAF評価値を取得する取得ステップと、取得ステップで取得されたAF評価値に基づき撮像光学系の合焦制御を行う合焦制御ステップとを有し、合焦制御ステップは、検出ステップで撮像信号から継続して顔が検出される時間を計測し、時間が閾値を超えたら、少なくとも第1の評価枠の中の撮像信号に基づき取得ステップで取得されたAF評価値を用いて合焦制御を行い、時間が閾値を超えるまでは、第2の評価枠の中の撮像信号に基づき取得ステップで取得されたAF評価値を用いて合焦制御を行うことを特徴とする。
本発明は、上述の構成を有するため、人物撮影の際の焦点検出を安定的に行うことができる。
以下、本発明の実施形態を、図面を参照しながら説明する。図1は、本発明の実施形態に適用可能なデジタルビデオカメラ100の一例の構成を示す。このデジタルビデオカメラ100は、本発明による自動合焦を行う自動焦点調節機能を搭載している。
図1において、第1固定レンズ群101、変倍レンズ102、絞り103、第2固定レンズ群104およびフォーカスコンペンセータレンズ(以下、フォーカスレンズ)105により撮像光学系が構成される。変倍レンズ102は、光軸方向に移動してズーム倍率を変更する。フォーカスレンズ105は、変倍レンズ102によるズーム倍率の変更に伴う焦点面の移動を補正する機能と、フォーカシングの機能とを兼ね備える。
撮像手段としての撮像素子106は、CCDセンサやCMOSセンサといった素子により、入射された光を光電変換により電気信号である撮像信号に変換して出力する。撮像素子106は、図示されないタイミングジェネレータから供給される各種タイミング信号に応じて、画素からの電荷の読み出しやシャッタ制御が行われる。撮像素子106からの電荷の読み出しを所定時間間隔、例えばフィールドまたはフレーム周期で連続的に行うことで、フィールドまたはフレーム周期毎に更新される撮像信号を得ることができ、動画の撮影が可能となる。
撮像信号処理部107は、撮像素子106の出力をサンプリングするCDS部、ゲイン調整を行うAGCおよびアナログ信号の撮像信号をデジタル信号に変換するA/D変換部を備える。カメラ信号処理部108は、撮像信号処理部107の出力信号に対して各種の画像処理を施し、映像信号を生成する。また、カメラ信号処理部108は、生成された映像信号に対して、MPEG2方式やH.264|AVC方式といった所定の圧縮符号化方式で圧縮符号化を施し、圧縮映像信号を生成する。
さらに、カメラ信号処理部108は、後述する制御部114から供給された表示制御信号に基づき、当該表示制御信号に応じた映像を表示させるための映像信号を生成することができる。カメラ信号処理部108は、この表示制御信号に基づく映像信号と、撮像信号処理部107から供給された、撮像素子106からの撮像信号に基づく映像信号とを合成して出力することができる。これにより、撮像信号に基づく映像に対し、所定のメッセージや枠表示などを合成して表示させることができる。
表示部109は、例えばLCDといった表示デバイスと、当該表示デバイスを駆動する駆動部とからなり、カメラ信号処理部108で生成された映像信号を表示する。記録手段としての記録再生部115は、カメラ信号処理部108から出力された圧縮映像信号の、磁気テープ、光ディスク、半導体メモリといった記録媒体への記録と、記録媒体に記録された圧縮映像信号の再生を行う。
設定手段としてのAFゲート112は、後述する制御部114から供給される情報に基づき、撮像信号処理部107から供給された、撮像素子106の全画素による出力信号のうち、焦点検出に用いられる領域の信号のみを選択的に通過させる。以下では、焦点検出に用いられる領域(AF信号取得領域)を、AF枠と呼ぶ。すなわち、AF枠は、焦点検出の際に用いる信号の評価を行う評価枠である。
取得手段としてのAF信号処理部113は、AFゲート112を通過した信号、すなわちAF信号取得領域の中の信号からバンドパスフィルタ処理により高周波成分を抽出する。AF信号処理部113は、抽出した高周波信号から、AFゲート112を通過した信号の輝度レベルの最大値と最小値の差分である輝度差成分を生成する。そして、この輝度差成分から焦点信号を生成する。ここで、焦点信号は、実際には、撮像素子106からの出力信号に基づいて生成される映像の鮮鋭度(コントラスト状態)を表す信号である。この鮮鋭度は、撮像光学系の焦点状態によって変化するので、精鋭度を表す信号は、撮像光学系の焦点状態を評価するAF評価値として用いられる。
検出手段としての顔検出処理部116は、カメラ信号処理部108から供給される映像信号に対して公知の顔認識処理を施し、撮像画面内の人物の顔領域(顔)を検出する。顔検出処理部116は、例えば1フレーム周期あるいは数フレーム周期など、所定の周期で顔認識処理を行う。顔検出処理部116による顔領域の検出結果は、後述する制御部114に供給される。
なお、顔検出処理部116に適用可能な公知の顔検認識処理としては、例えば、画像データで表される各画素の階調色から肌色領域を抽出し、予め用意する顔の輪郭プレートとのマッチング度で顔を検出する方法が知られている。また、周知のパターン認識技術を用いて、目、鼻、口等の顔の特徴点を抽出することで顔検出を行う方法なども周知である。さらに、本発明に適用可能な顔認識処理の手法については、これらの手法に限るものではなく、他の手法を用いてもよい。
ズーム駆動部110は、変倍レンズ102を移動させるためのアクチュエータおよびそのドライバを含む。フォーカシング駆動部111は、フォーカスレンズ105を移動させるためのアクチュエータおよびそのドライバを含む。ズーム駆動部110およびフォーカシング駆動部111は、ステッピングモータ、DCモータ、振動型モータおよびボイスコイルモータなどのアクチュエータにより構成される。
制御部114は、例えばCPU、ROMおよびRAMを有し、CPUが、ROMに予め記憶されたプログラムに従い、RAMをワークメモリとして用いてこのデジタルビデオカメラ100の全体の動作を制御する。制御部114は、不揮発性メモリをさらに有し、後述する操作部117に対する操作や、他の処理により設定された設定値などを不揮発性メモリに記憶する。
合焦制御手段としての制御部114は、顔検出処理部116による顔領域の検出結果に基づき、撮像画面内の顔領域を含む位置に焦点検出に用いられる領域を追加するように、AFゲート112へ情報を送信する。また、制御部114は、AF信号処理部113の出力信号に基づいて、フォーカシング駆動部111を制御してフォーカスレンズ105を駆動し、合焦制御を行う。
さらに、制御部114は、撮像素子106のシャッタスピードを設定することができる。例えば、制御部114は、撮像素子106から出力された撮像信号や絞り103の状態などに基づきシャッタスピードを設定し、設定されたシャッタスピードに対応するタイミング信号を出力するように、図示されないタイミングジェネレータを制御する。さらにまた、制御部114は、時間を計測するタイマ機能を有する。また、表示制御手段としての制御部114は、プログラムに従い上述した表示制御信号を生成し、カメラ信号処理部108に供給する。
操作部117は、ユーザ操作を受け付ける複数の操作子が設けられ、操作子に対する操作に応じた制御信号を、制御部114に対して出力する。例えば、操作部117に対する操作により、このデジタルビデオカメラ100における電源のON/OFF、撮影の開始および終了、ズームなどの指示を行うことができる。
<第1の実施形態>
次に、本発明の第1の実施形態によるTV−AF制御の例について、図2のフローチャートを用いて説明する。この図2のフローチャートにおける各処理は、制御部114において、ROMに予め記憶されたプログラムに従ったCPUにより実行される。
ステップS201で、制御部114が処理を開始する。この図2に例示されるフローチャートによる処理は、例えば1フィールド画像を生成するための撮像素子106からの撮像信号の読み出し周期で、ステップS202〜ステップS213の処理が繰り返し実行される。
ステップS202で、制御部114は、顔検出処理部116で最新の撮影画像に対して顔認識処理が実行された結果、認識された顔の有無を取得する。そして、次のステップS203で、ステップS202で取得された顔の有無に基づき顔認識ができたか否かが判断される。若し、顔認識できたと判断されたら、処理はステップS204に移行される。
ステップS204では、顔が安定的に継続して認識されているか否かを判断するための閾値である安定性判断時間を設定する。この安定性判断時間は、例えばこの図2のフローチャートの繰り返し周期を単位として設定される。そして、次のステップS205で、顔が認識されてからの時間がステップS204で設定された安定性判断時間を超えたか否かが判断される。より具体的には、ステップS205において、後述するステップS208でカウントアップされる顔認識維持時間が当該安定性判断時間を超えたか否かが判断される。若し、超えたと判断されたら、処理はステップS206に移行される。
ステップS206で、制御部114は、顔検出処理部116での顔認識処理により顔が認識された画面上の位置情報を基に、顔領域を含む被写体に追従して移動する所定のAF枠と被写体に追従しない所定のAF枠とを、AFゲート112に設定する。位置情報としては、顔が認識された領域の中心位置や、目、鼻、口などの顔の特徴点の位置を示す情報を用いてもよい。
なお、以下では、「顔領域を含む被写体に追従して移動する所定のAF枠」を「顔枠」と呼び、「被写体に追従しない所定のAF枠」を「通常枠」と呼ぶ。
ここで、ステップS206での通常枠(第2の評価枠)の設定方法の例として、顔枠(第1の評価枠)を含む画面上の中央を中心とした固定枠を設定する。また、通常枠は、画面上に1つに限るものではなく、複数存在しても構わない。その場合、少なくとも1つの通常枠が顔枠を含むような大きさに設定する。
なお、ステップS206で顔枠および通常枠が設定された際に、表示部109に対して、設定された顔枠を示す表示を行うことができる。一例として、制御部114は、顔枠を示す表示、例えば顔枠の境界を示す枠線表示を行うための表示制御信号を生成し、カメラ信号処理部108に供給する。カメラ信号処理部108は、当該表示制御信号に基づき枠表示を行う映像信号を生成し、この映像信号を、撮像信号処理部107から供給された映像信号に対して合成して、表示部109に出力する。これにより、表示部109に対し、撮像画像に対して顔枠が示された表示がなされ、撮影者は、現在撮像画像のどの部分に注目して合焦が行われているかを容易に知ることができる。
なお、顔枠を示す表示は、枠線表示に限られない。例えば顔枠内の輝度や色度を変更することで、顔枠の領域を示すようにしてもよい。また、ここでは、顔枠のみを示すように説明したが、通常枠を示す表示を、顔枠表示に加えてさらに表示してもよい。この場合、通常枠を示す表示と顔枠を示す表示とで、例えば枠線の色を変えるなど、容易に区別がつくようにすると好ましい。
次のステップS207で、制御部114は、AF信号処理部113から、顔枠および通常枠のそれぞれによるAF評価値を取得し、処理はステップS212に移行される。ステップS212では、設定されている各AF枠からそれぞれ取得されたAF評価値を加算し、TV−AF処理で合焦制御を行う場合に主として用いるAF評価値を生成する。
ところで、特に動画撮影時には、撮影中に、人物に限らず、主被写体とは異なる被写体が画面内に入ってくることが多く発生することが考えられる。ここで、顔枠のAF評価値と、通常枠のAF評価値とを同等に扱って合焦制御を行う場合について考える。この場合、例えば偶然に画面上の端部にある意図しない人物被写体が顔認識されてしまうと、撮影者が意図しない被写体に対して合焦制御が行われてしまい、一時的に合焦状態が不安定になることが起こり得る。
このような事態を避けるために、設定されている各AF枠から取得されたAF評価値の加算の方法として、顔枠から取得したAF評価値に重み付けをして加算することが考えられる。顔枠から取得したAF評価値に重み付けを行うことにより、撮影者が意図する主人物被写体に対する合焦を、より容易に行うことが可能となる。
これに限らず、上述した顔検出処理部116での顔認識処理により顔が認識された画面上の位置情報によって、顔枠の重み付け比率を変更してもよい。例えば、顔が画面中央付近に検出された場合には、重み付けを大きくし、画面の端付近に検出された場合には、重み付けを小さくする。撮影者は、主人物被写体を画面中央付近に配置しながら撮影することが多いと考えられるため、画面上の顔位置に応じて重み付けを行うことで、撮影者が意図する主人物被写体に対する合焦を、より容易に行うことが可能となる。
ステップS213では、ステップS212で生成されたAF評価値を用いてTV−AF処理が実行される。このTV−AF処理は、公知の技術を用いることができ、例えば、AF評価値が最大になるように、AF評価値をモニタしつつフォーカスレンズ105を駆動して合焦を得る。また、TV−AF処理には、合焦が得られている状態において、フォーカスレンズ再駆動の必要性の有無を判断するために、AF評価値の低下があったか否かを判定する等、合焦を維持するための処理も含まれる。そして、処理はステップS202に戻される。
上述のステップS205で、顔が認識されてから安定性判断時間が経過していないと判断されたら、処理はステップS208に移行される。ステップS208では、上述した顔認識維持時間がカウントアップされる。また、上述のステップS203で、顔認識に失敗したと判断されたら、処理はステップS209に移行され、顔認識維持時間がクリアされる。ステップS208での顔認識維持時間のカウントアップまたはステップS209での顔認識維持時間のクリアが行われたら、処理はステップS210に移行される。
ステップS210で、制御部114は、通常枠のみをAF枠としてAFゲート112に対して設定する。ここで、上述したステップS206における顔枠の設定時に、表示部109に対して顔枠を示す表示を行った場合には、当該顔枠を示す表示を消去する。そして、次のステップS211で当該通常枠からAF評価値が取得され、処理がステップS212に移行される。
すなわち、本第1の実施形態では、顔認識に失敗したときのみならず、顔が認識された場合であっても、顔が認識されてから所定時間(安定性判断時間)を経過するまでは、通常枠のみをAF枠として用いて、TV−AF制御が行われることになる。
なお、ステップS203で顔認識ができて、且つ、ステップS205で顔認識維持時間が安定性判断時間を超えない状態でステップS210に処理が移行された場合には、処理はステップS206を通過しておらず、顔枠の設定が行われていない。この場合、顔認識処理により得られた顔に基づき顔枠の領域を推定し、この推定された顔枠の領域を含むように通常枠を設定することが考えられる。または、予め顔認識処理により得られる顔が画面内で存在する領域を特定しておき、顔枠を設定した際には顔枠の領域が含まれるであろう大きさの通常枠を設定しておくことが考えられる。
このように、本発明の第1の実施形態においては、顔が認識された後も直ぐに顔枠をAF枠に設定せずに、所定時間を経過するまで顔が認識され続けているか否かを判断している。そして、所定時間経過後に顔が認識され続けていると判断されたら、通常枠と共に顔枠をAF枠として設定するようにしている。
これにより、顔が認識される状態と認識されない状態とが短時間に頻繁に繰り返し発生したような場合に、AF枠が頻繁に切り替わることが防がれる。そのため、合焦すべき被写体を確定できないなどにより、焦点検出制御を安定的に行うことができなくなる事態を軽減することが可能である。
特に動画撮影時には、主人物被写体が動いていることが多いと考えられ、主人物被写体が頻繁に横を向いたり、一時的に他の被写体が主人物被写体を覆ってしまうなど、顔認識に失敗する頻度が大きいと想定される。本発明の第1の実施形態は、このような場合に有効であり、より安定的な合焦制御を実現できる。
<顔認識の安定性を判断するための安定性判断時間について>
上述では、ステップS204で設定される、顔認識の安定性を判断するための安定性判断時間が固定的に設定されるように説明したが、これはこの例に限定されない。例えば、当該安定性判断時間は、撮像光学系の焦点距離に応じて設定することができる。
これは、焦点距離が長いほど、つまりテレ側になるほど手振れによる影響が発生し易くなるため、ワイド側と比較して安定した映像が得られない。そのため、焦点距離が長いほど顔認識に関しても信頼性が低くなり、確実に顔と認識される確率が低下し、顔が安定的に認識されない場合が多くなると考えられる。したがって、安定性判断時間を、焦点距離が長いほどより長時間に設定することで、認識された顔に対して安定的に合焦制御を行うことができる。
図3のフローチャートを用いて、焦点距離に応じて安定性判断時間を設定する一例の処理について説明する。ステップS301で、制御部114は、撮像光学系における現在の焦点距離を取得する。例えば、制御部114は、ズーム駆動部110およびフォーカシング駆動部111に対する駆動情報に基づき、撮像光学系の焦点距離を取得することができる。そして、次のステップS302で、当該焦点距離が基準値よりも大きいか否かが判断される。
若し、ステップS302で当該焦点距離が基準値よりも大きい、すなわち現在よりもテレ側であると判断されたら、処理はステップS303に移行される。そして、ステップS303で、焦点距離がテレ側である場合に適用する時間を、ステップS204で設定する安定性判断時間として設定する。一方、ステップS302で、当該焦点距離が基準値よりも小さい、すなわち現在よりもワイド側であると判断されたら、処理はステップS304に移行される。そして、ステップS304で、焦点距離がワイド側である場合に適用する、上述のテレ側である場合に適用する時間よりも短い時間を、ステップS204で設定する安定性判断時間として設定する。なお、上述のステップS303およびステップS304で設定する値は、それぞれ予め決められているものとする。
なお、ここでは、焦点距離がテレ側およびワイド側の何れかで判断したが、これはこの例に限定されず、焦点距離の判断をさらに細かく行い、判断された焦点距離に応じた安定性判断時間を選択するようにしてもよい。これにより、焦点距離に依らず、安定的に合焦制御を行うことができる。
また、別の例として、安定性判断時間を、撮像時のシャッタスピードに応じて設定することができる。シャッタスピードが遅くなるほど手振れによる影響が発生しやすくなり、安定した映像が得られにくくなる。そのため、顔認識に関してもシャッタスピードが遅いと信頼性が低くなり、確実に顔と認識される確率が低下し、顔が安定的に認識されない場合が多くなると考えられる。したがって、安定性判断時間を、シャッタスピードが遅いほどより長時間に設定することで、認識された顔に対して安定的に合焦制御を行うことができる。
図4に示すフローチャートを用いて、シャッタスピードに応じて安定性判断時間を設定する一例の処理について説明する。ステップS401で、制御部114は、現在のシャッタースピード値を取得し、次のステップS402で、取得されたシャッタスピードがスローシャッターか否かを判断する。例えば、シャッタスピードを所定値と比較して、当該シャッタスピードがスローシャッタか否かを判断することが考えられる。若し、スローシャッタであると判断されたら、処理はステップS403に移行され、スローシャッタに適用する時間を安定性判断時間として設定する。一方、スローシャッタではないと判断されたら、処理はステップS404に移行され、スローシャッタに適用するより短い時間を、安定性判断時間として設定する。なお、ステップS403およびステップS404で設定する値は、それぞれ予め決められているものとする。
なお、ここでは、シャッタスピードがスローシャッタか否かの判断により安定性判断時間を決定したが、これはこの例に限定されない。例えば、現在のシャッタスピードを複数の異なるシャッタスピードと比較してもよい。この場合、安定性判断時間も、比較を行うシャッタスピードの数に応じて予め用意される。これにより、シャッタスピードに依らず、安定的に合焦制御を行うことができる。
さらに、安定性判断時間を、顔検出処理部116での顔認識処理の周期に応じて適応的に設定することことができる。
顔認識処理は、上述したようにパターン認識を利用して行っている。そのため、認識させる顔の数などにより、撮像信号に対する走査の回数も異なり、1回の認識処理時間も変わってくる。そのため、AF制御の周期に対して顔認識処理の検出周期が長くなるほど、安定的に顔が認識されているか否かを判断する判断回数が少なくり、顔が安定的に認識されているか否かの判断の信頼性が低くなる。したがって、安定性判断時間を、顔認識処理の検出周期、すなわち、1の撮像画面に対する顔検出に要する時間が長いほどより長時間に設定することで、認識された顔に対して安定的に合焦判断を行うことができる。
図5は、安定性判断時間を顔認識処理の周期に応じて設定する一例の処理を示すフローチャートである。制御部114は、ステップS501で、顔検出処理部116による顔認識処理の検出周期を取得する。例えば、制御部114は、顔認識処理の認識周期を、顔検出処理部116から顔検出の位置、サイズ、信頼性などの情報と同様に取得する。次のステップS502で、取得された検出周期が基準周期よりも長いか否かを判定する。若し、長いと判定されたら、処理はステップS503に移行され、時間の長い安定性判断時間が設定される。一方、短いと判定された場合には、処理はステップS504に移行され、ステップS503で設定されたよりも時間の短い安定性判断時間が設定される。なお、ステップS502で用いる基準周期は、予め決められているものとする。
このように安定性判断時間を設定することで、顔認識処理に要する時間に関わらず、一定の回数だけ顔認識処理を行った結果から顔が認識されない状態であると判定することができ、安定的に判定結果を得ることができる。
さらにまた、安定性判断時間を、デジタルビデオカメラ100の撮影モードに応じて設定することができる。
すなわち、静止画撮影を行う静止画撮影モードにおいて、動画撮影モードと共通の安定性判断時間を設定した場合、撮影者の所望する一瞬のシーンが撮影できない、あるいは、主被写体に合焦しないなどにより、撮影者に不快感を与えてしまう。そのため、静止画撮影時には、安定性判断時間の設定を短くする必要がある。さらに、静止画撮影時には、主人物被写体も安定した位置にあり、構図も決まっていることが多いため、顔が認識されたり、認識されなかったりすることが頻繁には発生しないと考えられる。
図6は、安定性判断時間を撮影モードに応じて設定する一例の処理を示すフローチャートである。制御部114は、ステップS601で現在の撮影モードを取得し、次のステップS602で、現在の撮影モードが動画撮影モードであるか否かを判断する。若し、動画撮影モードであると判断されたら、処理はステップS603に移行され、時間の長い安定性判断時間を設定する。一方、静止画撮影モードであると判断されたら、処理はステップS604に移行され、ステップS603で設定されるよりも時間の短い安定性判断時間を設定する。
なお、ここでは、デジタルビデオカメラ100の撮影モードが動画撮影モードおよび静止画撮影モードの何れであるかでステップS602の判定を行っているが、これはこの例に限られない。例えば、ある特定の撮影モード、例えば、人物を撮影する場合に用いるポートレートモードか否かで判断してもよい。これにより、撮影者の撮影するシーンや条件に応じて、安定的に合焦制御を行うことができる。
<AF枠の設定例>
ここで、顔枠および通常枠の設定例について、図7を用いて説明する。図7(a)は、撮像画面内に顔枠Aと通常枠Bとを設定した例を示す。通常枠Bが撮像画面の中央を中心として設定されると共に、顔認識がなされた位置に対して顔枠Aが設定される。
図7(b)は、通常枠のみでTV−AF制御を行う場合の例である。ここで、撮像画面内に通常枠のみを設定する場合、図7(a)に例示される状態から単純に顔枠Aを削除して、通常枠BのみでAF評価値を検出しTV−AF制御を行うことができる。これに限らず、撮影者が撮像画面の中央に被写体を配置する場合が多いことを考慮し、通常枠Bよりも小さい通常枠Cを、画面中央を中心としてさらに設定するようにしてもよい。この場合、通常枠Bおよび通常枠Cそれぞれから取得されたAF評価値を加算してTV−AF制御を行う。
さらに、上述のステップS205で顔が安定的に認識されていると判断された場合において、次のステップS206で、図7(c)に例示されるように、顔枠AのみをAF枠に設定してもよい。すなわち、顔枠AのみからAF評価値を取得し(ステップS207)、そのAF評価値を用いて、ステップS213によるTV−AF制御を行う。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。本第2の実施形態では、上述した第1の実施形態によるTV−AF制御に対して、顔認識処理で認識された顔が複数あった場合に、これら複数の顔の中から最も優先度の高い顔(主顔と呼ぶ)を判定するようにしている。そして、主顔と判定された顔が、所定時間の間、安定的に主顔と判定されるか否かで、顔枠と通常枠でTV−AF制御を行うか、通常枠のみでTV−AF制御を行うかを判定する。
図8は、本発明の第2の実施形態によるTV−AF制御の一例を示すフローチャートである。なお、図8において、上述した図2と共通する部分には同一の符号を付し、詳細な説明を省略する。また、この図8のフローチャートによる処理は、上述した図2のフローチャートと同様に、例えば1フィールド画像を生成するための撮像素子106からの撮像信号の読み出し周期で繰り返される。
ステップS201で制御部114により処理が開始され、次のステップS202で顔検出処理部116で顔認識処理が実行され、ステップS203で、顔認識ができたか否かが判断される。若し、顔認識ができなかったと判断されたら、処理はステップS224に移行され、後述するステップS223でカウントアップされる主顔認識維持時間がクリアされる。そして、処理はステップS210に移行され、通常枠のみをAF枠としてAFゲート112に対して設定し、次のステップS211で、当該通常枠からAF評価値が取得され、処理がステップS212に移行される。
一方、上述のステップS203で、顔認識ができたと判断されたら、処理はステップS220に移行される。ステップS220では、認識された顔のうち最も優先度の高い顔とされる主顔を設定する主顔判定処理が行われる。この主顔判定処理の詳細については、後述する。
ステップS220で主顔が設定されると、次のステップS221において、前回の主顔判定処理における主顔に対して、今回の主顔判定処理における主顔が変わったか否かが判断される。若し、主顔が変わったと判断されたら、処理はステップS224に移行され、主顔認識維持時間がクリアされる。
一方、前回の主顔判定処理と今回の主顔判定処理とで主顔が変わっていないと判断されたら、処理はステップS222に移行される。ステップS222では、主顔が安定的に認識されているか否かを判断するための主顔安定性判断時間を設定する。この主顔安定性判断時間は、例えば上述の安定性判断時間と同様に、この図8のフローチャートの繰り返し周期を単位として設定される。
なお、この主顔安定性判断時間は、予め設定された値を用いることができる。これに限らず、主顔安定性判断時間を、上述の第1の実施形態で図3〜図6を用いて説明したような、撮像光学系の焦点距離やシャッタスピード、顔認識処理における顔検出周期、デジタルビデオカメラ100の撮影モードなどに応じて設定することができる。
ステップS222で主顔安定性判断時間が設定されると、処理はステップS225に移行され、主顔が設定されてからの時間が当該主顔安定性判断時間を超えたか否かが判断される。より具体的には、ステップS225において、主顔認識維持時間が当該主顔安定性判断時間を超えたか否かが判断される。若し、超えていないと判断されたら、処理はステップS223に移行され、主顔認識維持時間がカウントアップされる。そして、処理がステップS210に移行される。
一方、ステップS225において、主顔認識維持時間が主顔安定性判断時間を超えたと判断されたら、処理はステップS226に移行される。ステップS226では、主顔に対応する顔枠と、当該顔枠を含み撮像画面の中央を中心とする通常枠とが、AF枠としてAFゲート112に対してそれぞれ設定される。なお、主顔に対応する顔枠は、顔検出処理部116による顔認識処理による、顔が認識された画面上の位置情報と、上述のステップS220で設定された主顔の情報とに基づき求めることができる。そして、次のステップS207で、制御部114は、AF信号処理部113から、顔枠および通常枠のそれぞれによるAF評価値を取得し、処理がステップS212に移行される。
ステップS212では、設定されている各AF枠からそれぞれ取得されたAF評価値を加算し、TV−AF制御で用いるAF評価値を生成する。このとき、顔枠から取得されたAF評価値に対して重み付けを行うことができる。次のステップS213で、ステップS212で生成されたAF評価値を用いてTV−AF制御が実行される。ステップS213でのTV−AF制御の実行後、処理がステップS202に戻される。
なお、本第2の実施形態においても、上述した第1の実施形態と同様に、ステップS226において、主顔に対して顔枠を設定した際に、当該顔枠を示す表示を表示部109に対して行うことができる。また、この顔枠を示す表示は、次に顔認識に失敗したり(ステップS203)、主顔が異なる顔に変わったりした(ステップS221)場合には、ステップS210でAF枠が通常枠のみに対して設定される際に、消去される。
また、ステップS226およびステップS210におけるAF枠の設定も、上述した第1の実施形態で説明したのと同様にして行われる。すなわち、ステップS226においては、図7(a)に例示されるように、主顔に対応する顔枠Aと、顔枠Aを含む通常枠Bを設定してもよいし、図7(c)に例示されるように、主顔に対応する顔枠Aのみを設定してもよい。また、ステップS210においては、図7(b)に例示されるように、図7(a)に例示される状態から単純に顔枠Aのみを削除して、通常枠Bのみとしてもよいし、通常枠Bに対してより小さい通常枠Cをさらに設定してもよい。
このように、本発明の第2の実施形態においては、顔認識処理で認識された顔から最も優先度が高い顔を主顔として設定し、この主顔が他の顔に変わらずに安定的に所定時間検出されているか否かを判断している。そのため、1の撮像画面に対して複数の顔が認識されていても、顔枠が当該複数の顔の間で頻繁に切り替わるのが防がれ、合焦制御を安定的に行うことができる。
図9は、上述したステップS220で実行される主顔判定の一例の処理を示すフローチャートである。先ず、ステップS901で、顔認識処理で認識された顔の情報を取得する。ここで、顔情報は、例えば認識された顔の撮像画面上での位置およびサイズや、顔認識処理における信頼度である。次に、ステップS902で、顔認識処理で認識された顔の確からしさを判定する。これは、主に顔情報に含まれる信頼度から顔として確からしさを判定するもので、信頼度が低いものは顔ではないものを顔として誤検出している可能性が高い。そのため、検出された顔のうち、信頼度が所定値よりも高いものを顔として確かであると判定し、信頼度が当該所定値より低いものは、認識された顔の中から除く。
次のステップS903で、1の撮像画面に複数の顔が認識されているか否かが判断される。若し、1の撮像画面に対して1の顔のみが認識されていると判断されたら、処理はステップS904に移行され、当該1の顔を主顔と判定する。そして、処理がステップS907に移行される。
一方、1の撮像画面に複数の顔が認識されたと判断されたら、処理はステップS905に移行される。ステップS905では、認識された複数の顔に対して優先順位が設定される。優先順位は、複数の顔のうち撮影者が主人物被写体として意図していると推定される顔から順に、設定される。
第1の例として、複数の顔それぞれの撮像画面内の位置に基づき、画面中央に近い顔から順に、優先順位を設定する。第2の例として、複数の顔それぞれの撮像画面内におけるサイズが大きいものから順に、優先順位を設定する。第3の例として、複数の顔それぞれの、顔認識処理における信頼度が高いものから順に、優先順位を設定する。複数の顔に対する優先順位付けは、これら第1〜第3の例に限定されない。また、これら第1〜第3の例を適宜、組み合わせて優先順位付けを行ってもよい。
次のステップS906では、ステップS905で複数の顔に対する優先順付の結果、最も高い優先順位が付けられた顔を主顔として設定する。そして、処理はステップS907に移行される。
ステップS907では、前回の主顔判定処理において設定された主顔と、今回の主顔判定処理において設定された主顔とが比較される。例えば、前回の主顔判定処理において設定された主顔と、今回の主顔判定処理において設定された主顔とで、撮像画面内の位置やサイズを比較する。そして、次のステップS908で、前回の主顔判定処理で主顔に設定された顔とは異なる顔が、今回の主顔判定処理で主顔として設定されたか否かが判定される。
主顔が前回と今回とで変わったか否かの判定は、主顔として設定された顔の情報に基づいて行う。第1の例として、顔の撮像画面内の位置情報に基づき、前回の主顔の位置と今回の主顔の位置との差分が所定値以下であれば、前回と今回とで主顔が変わっていないと判定することができる。第2の例として、顔の撮像画面内でのサイズに基づき、前回の主顔のサイズと今回の主顔のサイズとの差分が所定値以下であれば、前回と今回とで主顔が変わっていないと判断することができる。第3の例として、顔の顔認識処理における信頼度に基づき、前回の主顔の信頼度と今回の主顔の信頼度との差分が所定値以下であれば、前回と今回とで主顔が変わっていないと判断することができる。
なお、主顔が前回と今回とで変わったか否かの判定を行う判定方法は、これら第1〜第3の例に限定されない。また、これら第1〜第3の例を適宜、組み合わせて判定を行ってもよい。
若し、ステップS908で、前回の主顔判定処理において設定された主顔に対して、今回の主顔判定処理において設定された主顔が変化していないと判定されたら、処理はステップS909に移行され、主顔変化無しフラグがセットされる。一方、前回に対して今回の主顔が変わったと判定されたら、処理はステップS910に移行し、主顔変化無しフラグがクリアされる。図8のフローチャートにおけるステップS221では、この主顔変化無しフラグに基づき主顔が変わったか否かの判断を行うことになる。
ステップS908またはステップS909の処理の後、処理がステップS911に移行され、今回の主顔判定処理において設定された主顔の情報が、例えば制御部114が有するRAMに記憶されて履歴として残される。次回の主顔判定の際には、この履歴として残された今回の主顔判定処理による主顔の情報を前回の主顔の情報として用いる。今回の主顔情報が履歴に残されると、一連の主顔判定処理が終了され、処理が図8のフローチャートにおけるステップS221に移行される。
なお、上述では、顔枠を主顔に対して設定するように説明したが、これはこの例に限定されない。例えば、図8のフローチャートにおけるステップS202で顔認識された顔の全てに顔枠を設定するようにしてもよい。この場合、ステップS220以降で主顔が決定された際に、主顔以外の顔に設定された顔枠を削除することが考えられる。
<他の実施形態>
上述の各実施形態は、システム或は装置のコンピュータ(或いはCPU、MPU等)によりソフトウェア的に実現することも可能である。したがって、上述の実施形態をコンピュータで実現するために、該コンピュータに供給されるコンピュータプログラム自体も本発明を実現するものである。つまり、上述の実施形態の機能を実現するためのコンピュータプログラム自体も本発明の一つである。
なお、上述の各実施形態を実現するためのコンピュータプログラムは、コンピュータで読み取り可能であれば、どのような形態であってもよい。例えば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等で構成することができるが、これらに限るものではない。
上述の各実施形態を実現するためのコンピュータプログラムは、記憶媒体又は有線/無線通信によりコンピュータに供給される。プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、磁気テープ等の磁気記憶媒体、MO、CD、DVD等の光/光磁気記憶媒体、不揮発性の半導体メモリなどがある。
有線/無線通信を用いたコンピュータプログラムの供給方法としては、コンピュータネットワーク上のサーバを利用する方法がある。この場合、本発明を形成するコンピュータプログラムとなりうるデータファイル(プログラムファイル)をサーバに記憶しておく。プログラムファイルとしては、実行形式のものであっても、ソースコードであっても良い。
そして、このサーバにアクセスしたクライアントコンピュータに、プログラムファイルをダウンロードすることによって供給する。この場合、プログラムファイルを複数のセグメントファイルに分割し、セグメントファイルを異なるサーバに分散して配置することも可能である。
つまり、上述の各実施形態を実現するためのプログラムファイルをクライアントコンピュータに提供するサーバ装置も本発明の一つである。
また、上述の各実施形態を実現するためのコンピュータプログラムを暗号化して格納した記憶媒体を配布し、所定の条件を満たしたユーザに、暗号化を解く鍵情報を供給し、ユーザの有するコンピュータへのインストールを許可してもよい。鍵情報は、例えばインターネットを介してホームページからダウンロードさせることによって供給することができる。
また、上述の各実施形態を実現するためのコンピュータプログラムは、すでにコンピュータ上で稼働するOSの機能を利用するものであってもよい。さらに、上述の各実施形態を実現するためのコンピュータプログラムは、その一部をコンピュータに装着される拡張ボード等のファームウェアで構成してもよいし、拡張ボード等が備えるCPUで実行するようにしてもよい。
本発明の実施形態に適用可能なデジタルビデオカメラの一例の構成を示すブロック図である。 本発明の第1の実施形態によるTV−AF制御の一例を示すフローチャートである。 焦点距離に応じて安定性判断時間を設定する一例の処理を示すフローチャートである。 シャッタスピードに応じて安定性判断時間を設定する一例の処理を示すフローチャートである。 安定性判断時間を顔認識処理の周期に応じて設定する一例の処理を示すフローチャートである。 安定性判断時間を撮影モードに応じて設定する一例の処理を示すフローチャートである。 顔枠および通常枠の設定の例を示す図である。 本発明の第2の実施形態によるTV−AF制御の一例を示すフローチャートである。 主顔判定の一例の処理を示すフローチャートである。
符号の説明
100 デジタルビデオカメラ
105 フォーカスレンズ
106 撮像素子
107 撮像信号処理部
108 カメラ信号処理部
111 フォーカシング駆動部
112 AFゲート
113 AF信号処理部
114 制御部
116 顔検出処理部

Claims (14)

  1. 所定時間間隔で供給される撮像信号から顔を検出する検出手段と、
    前記撮像信号による撮像画面に対して、AF評価値を検出するための、前記検出手段で検出された顔に対応する第1の評価枠と、該第1の評価枠を含み該第1の評価枠よりも大きい第2の評価枠とを設定する設定手段と、
    前記設定手段により設定された前記第1および第2の評価枠の少なくとも一方の中の前記撮像信号に基づきAF評価値を取得する取得手段と、
    前記取得手段で取得された前記AF評価値に基づき撮像光学系の合焦制御を行う合焦制御手段と
    を有し、
    前記合焦制御手段は、
    前記検出手段で前記撮像信号から継続して顔が検出される時間を計測し、該時間が閾値を超えたら、少なくとも前記第1の評価枠の中の前記撮像信号に基づき前記取得手段で取得された前記AF評価値を用いて前記合焦制御を行い、
    前記時間が前記閾値を超えるまでは、前記第2の評価枠の中の前記撮像信号に基づき前記取得手段で取得された前記AF評価値を用いて前記合焦制御を行う
    ことを特徴とする自動合焦装置。
  2. 所定時間間隔で供給される撮像信号から顔を検出する検出手段と、
    前記撮像信号による撮像画面に対して、AF評価値を検出するための、前記検出手段で検出された顔に追従した第1の評価枠と、前記検出手段で検出された顔に追従しない第2の評価枠とを設定する設定手段と、
    前記設定手段により設定された前記第1および第2の評価枠の少なくとも一方の中の前記撮像信号に基づきAF評価値を取得する取得手段と、
    前記取得手段で取得された前記AF評価値に基づき撮像光学系の合焦制御を行う合焦制御手段と
    を有し、
    前記合焦制御手段は、
    前記検出手段で前記撮像信号から継続して顔が検出される時間を計測し、該時間が閾値を超えたら、少なくとも前記第1の評価枠の中の前記撮像信号に基づき前記取得手段で取得された前記AF評価値を用いて前記合焦制御を行い、
    前記時間が前記閾値を超えるまでは、前記第2の評価枠の中の前記撮像信号に基づき前記取得手段で取得された前記AF評価値を用いて前記合焦制御を行う
    ことを特徴とする自動合焦装置。
  3. 前記合焦制御手段は、
    前記検出手段で前記撮像信号による1の撮像画面から複数の顔が検出されたら、該複数の顔のうち優先順位が最も高い顔に対して、前記継続して顔が検出される時間を計測する
    ことを特徴とする請求項1または請求項2に記載の自動合焦装置。
  4. 前記優先順位が最も高い顔は、前記複数の顔のうち、前記撮像画面の中央に最も近い位置にある顔、前記撮像画面上で最もサイズが大きい顔、ならびに、前記検出手段による検出結果の信頼度が最も高い顔の何れか1つである
    ことを特徴とする請求項3に記載の自動合焦装置。
  5. 前記設定手段は、前記撮像画面の中央を中心として前記第2の評価枠を設定する
    ことを特徴とする請求項1乃至請求項4の何れか1項に記載の自動合焦装置。
  6. 前記合焦制御手段は、
    前記閾値として、前記検出手段による、1の撮像画面に対する前記検出に要する時間が長いほどより長い時間を設定する
    ことを特徴とする請求項1乃至請求項5の何れか1項に記載の自動合焦装置。
  7. 前記撮像光学系と、
    前記撮像光学系を介して入射された光を撮像して前記撮像信号として出力する撮像手段と、
    前記撮像手段を用いて得られた前記撮像信号に基づく映像信号を記録媒体に記録する記録手段と、
    請求項1乃至請求項5の何れか1項に記載の自動合焦装置と
    を有する
    ことを特徴とする撮像装置。
  8. 前記合焦制御手段は、
    前記閾値として、前記検出手段による、1の撮像画面に対する前記検出に要する時間が長いほどより長い時間を設定する
    ことを特徴とする請求項7記載の自動合焦装置。
  9. 前記合焦制御手段は、
    前記閾値として、前記撮像時のシャッタスピードが遅いほどより長い時間を設定する
    ことを特徴とする請求項7に記載の撮像装置。
  10. 前記合焦制御手段は、
    前記閾値として、前記撮像光学系の焦点距離が長いほどより長い時間を設定する
    ことを特徴とする請求項7に記載の撮像装置。
  11. 前記合焦制御手段は、
    前記閾値として、撮影モードが静止画撮影モードであれば動画撮影モードの場合よりも短い時間を設定する
    ことを特徴とする請求項7に記載の撮像装置。
  12. 前記映像信号による映像を表示する表示デバイスと、
    前記表示デバイスに対する表示を制御する表示制御手段と
    をさらに有し、
    前記表示制御手段は、
    前記時間が前記閾値を超えたら、前記第1の評価枠を示す表示を前記映像信号による映像と共に前記表示デバイスに対して表示させる
    ことを特徴とする請求項7乃至請求項11の何れか1項に記載の撮像装置。
  13. 所定時間間隔で供給される撮像信号から顔を検出する検出ステップと、
    前記撮像信号による撮像画面に対して、AF評価値を検出するための、前記検出ステップで検出された顔に対応する第1の評価枠と、該第1の評価枠を含み該第1の評価枠よりも大きい第2の評価枠とを設定する設定ステップと、
    前記設定ステップにより設定された前記第1および第2の評価枠の少なくとも一方の中の前記撮像信号に基づきAF評価値を取得する取得ステップと、
    前記取得ステップで取得された前記AF評価値に基づき撮像光学系の合焦制御を行う合焦制御ステップと
    を有し、
    前記合焦制御ステップは、
    前記検出ステップで前記撮像信号から継続して顔が検出される時間を計測し、該時間が閾値を超えたら、少なくとも前記第1の評価枠の中の前記撮像信号に基づき前記取得ステップで取得された前記AF評価値を用いて前記合焦制御を行い、
    前記時間が前記閾値を超えるまでは、前記第2の評価枠の中の前記撮像信号に基づき前記取得ステップで取得された前記AF評価値を用いて前記合焦制御を行う
    ことを特徴とする自動合焦方法。
  14. 所定時間間隔で供給される撮像信号から顔を検出する検出ステップと、
    前記撮像信号による撮像画面に対して、AF評価値を検出するための、前記検出ステップで検出された顔に追従した第1の評価枠と、前記検出ステップで検出された顔に追従しない第2の評価枠とを設定する設定ステップと、
    前記設定ステップにより設定された前記第1および第2の評価枠の少なくとも一方の中の前記撮像信号に基づきAF評価値を取得する取得ステップと、
    前記取得ステップで取得された前記AF評価値に基づき撮像光学系の合焦制御を行う合焦制御ステップと
    を有し、
    前記合焦制御ステップは、
    前記検出ステップで前記撮像信号から継続して顔が検出される時間を計測し、該時間が閾値を超えたら、少なくとも前記第1の評価枠の中の前記撮像信号に基づき前記取得ステップで取得された前記AF評価値を用いて前記合焦制御を行い、
    前記時間が前記閾値を超えるまでは、前記第2の評価枠の中の前記撮像信号に基づき前記取得ステップで取得された前記AF評価値を用いて前記合焦制御を行う
    ことを特徴とする自動合焦方法。
JP2008272349A 2008-10-22 2008-10-22 自動合焦装置および自動合焦方法、ならびに、撮像装置 Active JP5517435B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008272349A JP5517435B2 (ja) 2008-10-22 2008-10-22 自動合焦装置および自動合焦方法、ならびに、撮像装置
US12/579,984 US8330849B2 (en) 2008-10-22 2009-10-15 Auto focusing apparatus and auto focusing method, and image sensing apparatus for stable focus detection
US13/653,724 US8497929B2 (en) 2008-10-22 2012-10-17 Auto focusing apparatus and auto focusing method, and image sensing apparatus
US13/940,939 US9277112B2 (en) 2008-10-22 2013-07-12 Auto focusing apparatus and auto focusing method, and image sensing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008272349A JP5517435B2 (ja) 2008-10-22 2008-10-22 自動合焦装置および自動合焦方法、ならびに、撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014070074A Division JP5926757B2 (ja) 2014-03-28 2014-03-28 自動合焦装置および自動合焦方法、ならびに、撮像装置

Publications (3)

Publication Number Publication Date
JP2010102041A true JP2010102041A (ja) 2010-05-06
JP2010102041A5 JP2010102041A5 (ja) 2011-12-08
JP5517435B2 JP5517435B2 (ja) 2014-06-11

Family

ID=42108355

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008272349A Active JP5517435B2 (ja) 2008-10-22 2008-10-22 自動合焦装置および自動合焦方法、ならびに、撮像装置

Country Status (2)

Country Link
US (3) US8330849B2 (ja)
JP (1) JP5517435B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012019265A (ja) * 2010-07-06 2012-01-26 Jvc Kenwood Corp 画像処理装置
JP2012163588A (ja) * 2011-02-03 2012-08-30 Olympus Imaging Corp 撮像装置
WO2013084593A1 (ja) * 2011-12-06 2013-06-13 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP2013140256A (ja) * 2012-01-05 2013-07-18 Canon Inc 焦点調節装置
JP2014102293A (ja) * 2012-11-16 2014-06-05 Canon Inc 自動焦点検出装置およびその制御方法
JP2014233029A (ja) * 2013-05-30 2014-12-11 株式会社ニコン 画像処理装置、撮像装置及び画像処理プログラム
US9247123B2 (en) 2012-10-12 2016-01-26 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus
JP2019134438A (ja) * 2019-02-28 2019-08-08 株式会社ニコン 画像処理装置、撮像装置及び画像処理プログラム
JP2020511685A (ja) * 2017-06-16 2020-04-16 オッポ広東移動通信有限公司Guangdong Oppo Mobile Telecommunications Corp., Ltd. 焦点合わせの方法、端末、およびコンピュータ可読記憶媒体
US10638033B2 (en) 2017-08-03 2020-04-28 Canon Kabushiki Kaisha Focus control apparatus, focus control method and storage medium

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011141374A (ja) * 2010-01-06 2011-07-21 Renesas Electronics Corp オートフォーカス制御方法
JP2012010162A (ja) * 2010-06-25 2012-01-12 Kyocera Corp カメラ装置
KR20120019703A (ko) * 2010-08-26 2012-03-07 삼성전자주식회사 디지털 촬영 장치의 제어 방법 및 디지털 촬영 장치
JP5814557B2 (ja) * 2011-02-07 2015-11-17 キヤノン株式会社 画像表示制御装置、撮像装置、表示制御方法、及び制御プログラム
US8643746B2 (en) * 2011-05-18 2014-02-04 Intellectual Ventures Fund 83 Llc Video summary including a particular person
US8665345B2 (en) * 2011-05-18 2014-03-04 Intellectual Ventures Fund 83 Llc Video summary including a feature of interest
US9160916B2 (en) * 2011-10-16 2015-10-13 Canon Kabushiki Kaisha Focus adjustment apparatus with a size detector
FR2982678B1 (fr) * 2011-11-14 2014-01-03 Dxo Labs Procede et systeme de capture de sequence d'images avec compensation des variations de grandissement
JP2015097301A (ja) * 2012-03-09 2015-05-21 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP6071374B2 (ja) * 2012-09-21 2017-02-01 キヤノン株式会社 画像処理装置、画像処理方法およびプログラムならびに画像処理装置を備えた撮像装置
JP6049448B2 (ja) * 2012-12-27 2016-12-21 キヤノン株式会社 被写体領域追跡装置、その制御方法及びプログラム
JP6337779B2 (ja) * 2013-01-09 2018-06-06 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP6261187B2 (ja) * 2013-05-21 2018-01-17 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
KR20150043795A (ko) * 2013-10-15 2015-04-23 삼성전자주식회사 영상처리장치 및 그 제어방법
JP6525809B2 (ja) * 2015-08-18 2019-06-05 キヤノン株式会社 焦点検出装置及びその制御方法
JP6774233B2 (ja) * 2016-06-21 2020-10-21 キヤノン株式会社 焦点検出装置、制御方法およびプログラム
JP2017228975A (ja) * 2016-06-23 2017-12-28 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、画像処理方法、イメージセンサ、情報処理装置、並びにプログラム
US20180234708A1 (en) * 2017-02-10 2018-08-16 Seerslab, Inc. Live streaming image generating method and apparatus, live streaming service providing method and apparatus, and live streaming system
CN108492266B (zh) * 2018-03-18 2020-10-09 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN109005393B (zh) * 2018-08-01 2021-02-19 苏州佳世达光电有限公司 一种自动对焦方法及其系统
CN109799984B (zh) * 2019-01-15 2022-04-26 深圳前海微众银行股份有限公司 人脸框绘制方法、装置、设备及计算机可读存储介质
US10825163B1 (en) 2019-06-13 2020-11-03 Viavi Solutions Inc. Automatically executing a test to inspect an end face of an optical fiber when an image is in focus
JP2021043256A (ja) * 2019-09-06 2021-03-18 パナソニックIpマネジメント株式会社 撮像装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10311941A (ja) * 1997-05-12 1998-11-24 Nikon Corp オートフォーカスシステム、オートフォーカスシステムのプログラムを記録した記録媒体、および、オートフォーカスシステムの移動被写体データを記録した記録媒体
JP2007034261A (ja) * 2005-06-22 2007-02-08 Fujifilm Corp 自動合焦制御装置およびその制御方法
JP2008076786A (ja) * 2006-09-22 2008-04-03 Sony Corp 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
JP2008175995A (ja) * 2007-01-18 2008-07-31 Ricoh Co Ltd 撮像装置
JP2008193411A (ja) * 2007-02-05 2008-08-21 Fujifilm Corp 撮影制御装置、撮影装置、及び撮影制御方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0441380B1 (en) * 1990-02-08 1996-09-11 Canon Kabushiki Kaisha Image pick-up device
EP0908846A3 (en) * 1997-10-07 2000-03-29 Canon Kabushiki Kaisha Moving object detection apparatus and method
US6972798B1 (en) * 1999-08-31 2005-12-06 Canon Kabushiki Kaisha Focusing device and method
JP2001215403A (ja) 2000-02-01 2001-08-10 Canon Inc 撮像装置および焦点の自動検出方法
JP4639837B2 (ja) 2005-02-15 2011-02-23 株式会社ニコン 電子カメラ
US20060182433A1 (en) * 2005-02-15 2006-08-17 Nikon Corporation Electronic camera
JP2007065290A (ja) 2005-08-31 2007-03-15 Nikon Corp オートフォーカス装置
JP4641494B2 (ja) * 2005-11-28 2011-03-02 キヤノン株式会社 光学機器
JP4427533B2 (ja) * 2006-09-22 2010-03-10 富士フイルム株式会社 顔画像検出装置およびその制御方法
JP4725802B2 (ja) * 2006-12-27 2011-07-13 富士フイルム株式会社 撮影装置、合焦方法および合焦プログラム
JP5188071B2 (ja) * 2007-02-08 2013-04-24 キヤノン株式会社 焦点調節装置、撮像装置及び、焦点調節方法
JP4429328B2 (ja) 2007-02-09 2010-03-10 キヤノン株式会社 自動合焦装置とその制御方法並びに撮像装置
JP4789825B2 (ja) * 2007-02-20 2011-10-12 キヤノン株式会社 撮像装置及びその制御方法
JP2009003003A (ja) 2007-06-19 2009-01-08 Hoya Corp 自動焦点調節装置を備えたカメラ
JP5046788B2 (ja) * 2007-08-10 2012-10-10 キヤノン株式会社 撮像装置及びその制御方法
JP5368723B2 (ja) * 2008-04-09 2013-12-18 キヤノン株式会社 撮像装置及びその制御方法
US8237847B2 (en) * 2008-10-16 2012-08-07 Fujinon Corporation Auto focus system having AF frame auto-tracking function

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10311941A (ja) * 1997-05-12 1998-11-24 Nikon Corp オートフォーカスシステム、オートフォーカスシステムのプログラムを記録した記録媒体、および、オートフォーカスシステムの移動被写体データを記録した記録媒体
JP2007034261A (ja) * 2005-06-22 2007-02-08 Fujifilm Corp 自動合焦制御装置およびその制御方法
JP2008076786A (ja) * 2006-09-22 2008-04-03 Sony Corp 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
JP2008175995A (ja) * 2007-01-18 2008-07-31 Ricoh Co Ltd 撮像装置
JP2008193411A (ja) * 2007-02-05 2008-08-21 Fujifilm Corp 撮影制御装置、撮影装置、及び撮影制御方法

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012019265A (ja) * 2010-07-06 2012-01-26 Jvc Kenwood Corp 画像処理装置
JP2012163588A (ja) * 2011-02-03 2012-08-30 Olympus Imaging Corp 撮像装置
US10630891B2 (en) 2011-12-06 2020-04-21 Sony Corporation Image processing apparatus, image processing method, and program
WO2013084593A1 (ja) * 2011-12-06 2013-06-13 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP2013120949A (ja) * 2011-12-06 2013-06-17 Sony Corp 画像処理装置、画像処理方法、プログラム
US9734580B2 (en) 2011-12-06 2017-08-15 Sony Corporation Image processing apparatus, image processing method, and program
JP2013140256A (ja) * 2012-01-05 2013-07-18 Canon Inc 焦点調節装置
US9247123B2 (en) 2012-10-12 2016-01-26 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus
JP2014102293A (ja) * 2012-11-16 2014-06-05 Canon Inc 自動焦点検出装置およびその制御方法
JP2014233029A (ja) * 2013-05-30 2014-12-11 株式会社ニコン 画像処理装置、撮像装置及び画像処理プログラム
JP2020511685A (ja) * 2017-06-16 2020-04-16 オッポ広東移動通信有限公司Guangdong Oppo Mobile Telecommunications Corp., Ltd. 焦点合わせの方法、端末、およびコンピュータ可読記憶媒体
JP7311418B2 (ja) 2017-06-16 2023-07-19 オッポ広東移動通信有限公司 焦点合わせの方法、端末、およびコンピュータ可読記憶媒体
US10638033B2 (en) 2017-08-03 2020-04-28 Canon Kabushiki Kaisha Focus control apparatus, focus control method and storage medium
JP2019134438A (ja) * 2019-02-28 2019-08-08 株式会社ニコン 画像処理装置、撮像装置及び画像処理プログラム

Also Published As

Publication number Publication date
JP5517435B2 (ja) 2014-06-11
US8497929B2 (en) 2013-07-30
US8330849B2 (en) 2012-12-11
US20130038780A1 (en) 2013-02-14
US20130300908A1 (en) 2013-11-14
US9277112B2 (en) 2016-03-01
US20100097515A1 (en) 2010-04-22

Similar Documents

Publication Publication Date Title
JP5517435B2 (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP5368723B2 (ja) 撮像装置及びその制御方法
JP5553472B2 (ja) 焦点調節装置、撮像装置、及びその制御方法
US8259214B2 (en) Image pickup apparatus and auto-focus detection method
JP4727534B2 (ja) 撮像装置
JP2006301378A (ja) 撮像装置
JP5294647B2 (ja) 焦点調節装置及びその制御方法
JP5335408B2 (ja) 焦点調節装置及び方法
JP5438805B2 (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP5926757B2 (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP5075110B2 (ja) 焦点調節装置及び方法
JP5495773B2 (ja) 撮像装置及び撮像装置の制御方法
JP4991899B2 (ja) 撮像装置及びその制御方法
JP5322629B2 (ja) 自動焦点検出装置及びその制御方法、撮像装置
JP5607458B2 (ja) 撮像装置、及びその制御方法
JP4981758B2 (ja) 焦点調節装置及び方法
JP2006157604A (ja) カメラ装置及び自動撮影制御プログラム
JP5449448B2 (ja) 撮像装置及びその制御方法
JP5164711B2 (ja) 焦点調節装置およびその制御方法
JP5017195B2 (ja) 焦点調節装置及び方法
JP5305817B2 (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP5759127B2 (ja) 焦点調節装置及び焦点調節方法
JP5610889B2 (ja) 焦点調節装置及び方法
JP5451869B2 (ja) 焦点調節装置及び方法
JP2010156731A (ja) 自動焦点調節装置及びその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111020

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111020

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140401

R151 Written notification of patent or utility model registration

Ref document number: 5517435

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151