以下に、本発明の一実施形態について、添付図面を参照して詳細に説明する。なお、本実施形態によって実現される機能は、撮影者によるフレーミングを支援するフレーミング支援ズーム機能であり、便宜上、フレーミングアシストズーム機能(以下、FAズーム機能と略記する)と呼ぶこととする。
図1は、本発明の撮像装置の一実施形態としての、デジタルカメラ100の構成を示すブロック図である。レンズ鏡筒101は、その内部にレンズ群を保持している。ズームレンズ102は、光軸方向に移動することで焦点距離を調節し、光学的に画角を変更(ズーム位置を移動)する。フォーカスレンズ103は、光軸方向に移動することでピントを調節する。防振レンズ104は、手ぶれに起因する像振れを補正する補正用レンズである。光量を調節する絞り及びシャッタ105は露出制御に使用される。レンズ鏡筒101を通過した光は、CCD(電荷結合素子)やCMOS(相補型金属酸化膜半導体)等を用いた撮像素子106にて受光され、光電変換されて撮像信号が生成される。撮像信号は、画像処理回路107に入力されて、画素補間処理や色変換処理等が施された後、画像データとして画像メモリ108に送られる。画像メモリ108はDRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等で構成される。
表示手段としての表示部109は、TFT型LCD(薄膜トランジスタ駆動型液晶表示器)等で構成され、撮影した画像データとともに、特定の情報(例えば、撮影情報や後述するFAズーム枠等)を表示する。このようなライブビュー等の情報表示により、撮影者が画角合わせを行うための電子ビューファインダ(EVF)機能を実現している。
絞りシャッタ駆動部110は、画像処理回路107での画像処理によって得られた輝度情報に基づいて露出制御値(絞り値及びシャッタ速度)を演算し、この演算結果に基づき絞り及びシャッタ105を駆動する。これによって、自動露出(AE)制御が行われる。防振レンズ駆動部111は、ジャイロセンサ等の角速度センサの情報に基づいてデジタルカメラ100に加わる振れ量を演算し、振れを打ち消すように防振レンズ104を駆動する。
フォーカスレンズ駆動部112は、フォーカスレンズ103を駆動する。例えば、コントラストAF(オートフォーカス)方式の制御では、画像処理回路107の画像処理によって得られた撮影光学系の焦点調節情報(コントラスト評価値)に基づき、被写体にピントが合うようにフォーカスレンズ103が駆動される。なお、本実施形態の適用上、焦点調節制御の如何は問わないので、位相差AF方式や他の方式と組み合わせた方式が採用可能である。ズームレンズ駆動部113は、ズーム操作指示に従ってズームレンズ102を駆動する。操作部117には、撮影者がカメラにズーミングを指示するためのズーム操作部材としてのズームレバーまたはズームボタン等が設けられている。ズーム指示操作に用いるズーム操作部材(第2の操作部)の操作量及び操作方向に基づいてシステム制御部114によりズーム駆動速度や駆動方向が演算され、演算結果に従ってズームレンズ102が光軸に沿って移動する。
撮影動作によって生成された画像データは、インターフェース部(以下I/F部と呼ぶ)115を介して記録部116に送られて記録される。画像データは、カメラに装着して使用するメモリカード等の外部記録媒体や、デジタルカメラ100に内蔵されている不揮発性のメモリ118、あるいは両方に記録される。
操作部117は上記のズーム操作部材の他、撮影開始を指示するレリーズスイッチ、FAズーム機能の開始や終了を指示する、FAズーム操作スイッチ(第1の操作部)等を含む。操作信号は後述のシステム制御部114に送られる。メモリ118は、プログラムデータや画像データの他に、デジタルカメラ100の設定情報や、後述するFAズーム機能におけるズームイン位置等の情報を記憶する。なお、ズームイン位置とは、FAズームの終了時にズームインする際の目標となる戻り位置であり、その詳細については後述する。
制御手段としてのシステム制御部114は、CPU(中央演算処理装置)等の演算装置を用いて構成され、撮影者の操作に応じて各部に制御命令を送ることでカメラ全体を制御する。システム制御部114は、メモリ118に記憶されている各種の制御プログラム、例えば撮像素子106の制御やAE/AF制御、ズーム制御(FAズーム処理を含む)等を行うためのプログラムを実行する。
次に、システム制御部114のうち、FAズーム機能に関連する制御について説明する。なお図1にはシステム制御部114の内部処理を119乃至123の各機能ブロックで表している。
光学ズームによる画角変更時でも合焦状態を維持するためには、レンズ鏡筒101に示すリアフォーカスタイプの鏡筒の場合、ズームレンズ102の位置に応じてフォーカスレンズ103を適正なフォーカス位置へ移動させる必要がある。このような制御をコンピュータズーム(CZ)制御という。図2は、ズームレンズの焦点距離と、ピントが合うフォーカス位置との関係を、被写体までの距離ごとに示すデータデーブルをグラフ化した図である。このテーブルはフォーカスカムテーブルと称する。横軸はズーム位置に対応する焦点距離を示し、縦軸はフォーカス位置を示し、各グラフ線の横にはカメラから被写体までの距離(被写体距離)を示している。システム制御部114は、AF動作時にフォーカスレンズ駆動部112を制御してフォーカスレンズ103を所定の範囲で移動させることでスキャン動作を行う。この動作中に得られるコントラスト評価値等を用いて、既知の方法により合焦点であるフォーカス位置が検出される。その時のズーム位置とフォーカス位置から、フォーカスカムテーブルを参照することで被写体距離が計測可能である。
デジタルカメラ100は、光学ズーム機能と電子ズーム機能を有する。CZ制御部119とズームレンズ駆動部113は、光学ズーム駆動を担当する。CZ制御部119は、ズーム動作時に所定の制御周期ごとにズームレンズ102のズーム位置を検出し、そのズーム位置に応じてフォーカスカムテーブルに追従するようにフォーカスレンズ103を駆動させる。これによって、合焦状態を維持したまま光学ズーム動作を行うことが可能となる。
一方、電子ズーム制御部120及び画像メモリ108は、電子ズーム駆動を担当する。電子ズーム制御部120は、画像メモリ108に転送された画像データから対象領域を切り出すことによって電子ズーム機能を実現する。また、撮像素子106に取り込む映像のフレームレート周期で切り出す範囲を徐々に大きくし、表示部109に表示させることで滑らかな電子ズーム表示が実現される。
被写体検出部123は、画像メモリ108の画像データ(画像領域内)から所望の被写体領域を検出する。本実施形態では顔情報及び色情報を元に被写体を検出する被写体検出方法について説明する。顔検出処理は、画像データ中に存在する顔領域を公知のアルゴリズムにより検出する処理である。例えば、被写体検出部123は、画像データ上の正方形状の部分領域から特徴量を抽出し、その特徴量を予め用意された顔の特徴量と比較し、両者の相関が一定の閾値を超えるときに、その部分領域を顔領域と判定する。この判定を、部分領域のサイズ、配置位置、配置角度の組み合わせを様々に変更しながら繰り返せば、画像データ中に存在する様々な顔領域が検出される。色検出処理では、後述する被写体指定方法に従って指定された被写体領域の色情報を特徴色として記憶する。色検出処理は検出する被写体が人物以外の「モノ」である場合に実行される。色情報には、画像処理回路107からの出力信号であるRGBや輝度Y及び色差R−Y、B−Y等を用いる。被写体検出時には画像データをいくつかの部分領域に分割し、部分領域ごとの輝度及び色差の平均値を算出する。さらに、予め記憶した特徴色情報と被写体検出時の各領域の色情報を比較し、輝度及び色差の差分が所定量以下の部分領域を被写体領域の候補とする。この領域候補で隣り合う部分領域の塊を同一色領域として、同一色領域が所定のサイズ範囲となる領域を最終的な被写体領域とする。
被写体検出部123は、顔情報及び色情報と共に、CZ制御部119で計測した被写体距離情報及びズームレンズ102の焦点距離情報を用いることで画像データ上での被写体領域の大きさを推定することができる。
次に、FAズーム機能の概要と、FAズーム枠制御部121及びFAズーム制御部122について説明する。本実施形態におけるFAズーム機能は、手動探索モードと自動追尾モードの二つのモードを備えている。二つのモードの違いは被写体がフレームアウトしたときに撮影者がFAズーム操作スイッチを操作して被写体を捉え直すモードであるか、カメラが自動で被写体を検出して画角合わせを支援するモードであるかの違いである。各モードの機能の概要を説明する。
FAズーム機能が非搭載のカメラでは、撮影者が望遠状態でフレーミングしてシャッタチャンスを待っている間に被写体が動いてフレームアウトした場合等では、撮影者(ユーザ)は以下の操作が必要であった。
(1)ズーム操作部材の操作によりズームアウト(広角側へのズーム)を行って被写体を探索すること。
(2)再び所望の画角(例えばズームアウトによるズーム移動前の画角)になるまでズーム操作(望遠側へのズーム操作)を行って画角調整すること。
これに対して、FAズーム機能の手動探索モード(第2のモード)を搭載したデジタルカメラ100では、撮影前に画角合わせ等を行う状態(以下、撮影準備状態という)で被写体を見失ってしまった場合、撮影者はFAズーム操作スイッチを操作すればよい。このFAズーム操作スイッチは、FAズーム機能のために割り当てられたスイッチであり、ズーム操作部材とは別の部材である。FAズーム操作スイッチの押下によって、FAズーム機能の開始をカメラに指示する。FAズーム制御部122は、FAズーム操作スイッチからのFAズーム開始指示にともなって電子ズーム及び光学ズームの各ズーム位置(ズームイン位置)をメモリ118に記憶する。さらにFAズーム制御部122は、後述する図6の処理手順に従って、CZ制御部119または電子ズーム制御部120に対して広角方向にズームアウトの指示を行い、撮影準備状態よりも画角がズームアウトされた状態(以下、被写体探索状態という)にする。
図3(a)及び図3(d)はズームイン状態での画角を示し、図3(b)及び図3(c)はズームアウト状態での画角を示す。撮影者は被写体がフレームアウトしたとき(図3(a))、被写体を探索するためにFAズーム操作スイッチを押下する。FAズーム操作スイッチの押下中はズームアウト状態が保持されるとともに、ズームイン位置を示すFAズーム枠300が画像に重畳して表示部109に表示される。被写体探索状態で所望の被写体を発見した場合(図3(b))、このFAズーム枠300を目安としてFAズーム枠内(枠の周辺部)に被写体が収まるようにフレーミングを行う(図3(c))。その後、撮影者がFAズーム操作スイッチを開放してFAズーム終了をカメラに指示すると、FAズーム制御部122は、記憶しておいた撮影準備状態のズーム位置(ズームイン位置)まで電子ズームまたは光学ズームによるズームイン動作を行う。このようにして、図3(d)で示すような最適なフレーミング状態が得られる。
FAズーム枠制御部121は、図3(b)及び図3(c)で示すように、記憶した撮影準備状態での画角を示す大きさを算出し、表示部109のEVFの中心部にFAズーム枠300を表示させる。FAズーム枠300の大きさは、ズームアウトした時点(ズームアウト開始前)でのズーム倍率を元に計算される。例えば、撮影準備状態から電子ズーム倍率を2倍、光学ズーム倍率を3倍としてズームアウトして被写体探索状態となった場合には、被写体探索状態でEVFに表示される画角に対して、(1/2)×(1/3)=1/6倍の大きさのFAズーム枠が表示される。本処理によって、撮影者は簡単な操作で、フレームアウトした被写体を再度フレームインさせながら所望の画角で撮影することができる。
一方、動いている被写体を撮影する場合など被写体がフレームアウトしやすいシーンを撮影する場合には、以下で説明するようにカメラが自動でズーム位置を変更することで、より簡単にフレームアウトを防止することができる。
本実施形態のデジタルカメラ100は、FAズーム機能の自動追尾モード(第1のモード)を備える。自動追尾モードでは、モードを自動追尾モードとした後、タッチパネル等から被写体を指定する操作を実施することにより撮影したい被写体を指定する。被写体の指定方法としては、タッチパネル操作以外でも、特定のボタンを押下したときに中央付近にいる被写体を指定する方法や、カメラが検出した被写体の中から自動で主被写体を選択する方法なども考えられる。被写体検出部123では、画像メモリ108から指定された被写体領域の画像データ上での位置や大きさを算出する。これをライブビューとして表示するサンプリングごとの画像データに対して連続的に行なうことで被写体の動きを追尾することが可能となる。追尾している被写体を後述するズームアウト領域で検出した場合や所定の大きさよりも大きくなった場合(図3(a))に、CZ制御部119または電子ズーム制御部120に対してカメラが広角方向にズームアウトの指示を行う(図3(b))。被写体をFAズーム枠300のズームイン領域内に検出し、かつ、所定の大きさの範囲内に収まった場合(図3(c))には、FAズーム枠300が示すズーム位置までズームイン動作を行う(図3(d))。本処理によって、撮影者はズーム操作を気にせず被写体を画面に収めるようにカメラを動かすだけでよく、万が一、フレームアウトしそうになっても自動でズーム位置が変更されるため、より簡単に画角合わせを行なうことが可能となる。本実施形態の目的は、この自動追尾モードにおけるズームアウト動作及びズームイン動作を最適なタイミングで実施することで、撮影者が容易にフレーミングできるようにすることである。
次に図4及び図5を用いて、ズームアウト動作やズームイン動作の開始条件について説明する。400は人物以外のモノを追尾するモノ追尾枠、500は人物の顔を追尾する顔追尾枠である。本実施形態において、被写体が人物とモノのどちらでもよい場合には、モノ追尾枠400と顔追尾枠500とをまとめて被写体追尾枠と呼ぶこともある。被写体追尾枠は、撮影者が指定した被写体を視認できるように表示部109のEVF上に被写体を囲むように表示される。被写体追尾枠の画面上(画像内)での位置及び大きさは、被写体検出部123によって顔情報及び色情報に基づき算出され、フレームレート周期で更新される。図4は被写体とした飛行機が画面外にフレームアウトする場合にフレームアウトを防止する例を示している。図4(a)では、EVFで表示される画角全体に対して所定の比率よりも外側の領域(第1の領域外)をズームアウト領域(ZO)として示している。例えば、画面の中心点を0%、画面全体を100%とし、画面全体に対して80%となる位置をZOの境界とした場合、80〜100%の領域をZOとする。この領域にモノ追尾枠400aの一部が進入したときに、ズームアウト動作を開始する。被写体のサイズや移動速度に応じてズームアウトするズーム倍率やズーム速度を算出しておき、その倍率や速度に従ってズームアウト動作を行うことで、被写体がフレームアウトすることを防止することができる。図4(b)では、被写体探索状態(第1のズーム位置)においてFAズーム枠300で示されるズームイン画角(第2のズーム位置)に対して所定の比率よりも内側の領域(第2の領域)をズームイン領域(ZI)として示している。例えば、画面の中心点を0%、FAズーム枠300で示されるズームイン画角を100%とし、ズームイン画角に対して70%となる位置をZIの境界とした場合、0〜70%の領域をZIとする。このとき、ズームアウト倍率が例えば1/2倍である場合、FAズーム枠300は画面全体に対して50%の大きさとなる。したがって、ZIの領域は、画面全体に対して0〜35%(=70%×(1/2))までの領域であるとも言える。撮影者が、ZI内にモノ追尾枠400bが収まるようにカメラの向きを変更すると、ズームイン動作を開始する。
ここで、ZOの下限比率(上記例では80%)とZIの上限比率(上記例では70%)との関係について説明する。撮影準備状態でモノ追尾枠400がZO下限比率ぎりぎりの位置で検出されたことでズームアウト動作をし、被写体がその位置で停止して、かつ、カメラ自体の向きも変更していない場合について考える。このとき、ZO下限比率とZI上限比率とを同じ比率に設定している場合、ズームアウト動作直後(ズームアウト停止後)にはほぼモノ追尾枠400全体がZIに収まった状態となる。さらに、ZO下限比率≦ZI上限比率となるような設定をしている場合には、ズームアウト動作直後に完全にモノ追尾枠400全体がZIに収まり、即座にズームイン動作を開始してしまう。すなわち、ズームアウト動作とズームイン動作を繰り返すハンチング現象が発生してしまう。したがって、ハンチング現象を防止するためにZO下限比率とZI上限比率との関係は、ZO下限比率>ZI上限比率となるように設定する必要がある。
図5は被写体である人物がカメラに近づいてきた場合に、カメラが自動で被写体が占める割合を所定の比率内に収めるようにズーム動作させる例を示している。顔追尾枠500は、被写体である人物の特徴領域として顔領域を囲むように表示している。したがって、ここでは顔追尾枠500の大きさ=被写体サイズとして説明する。図5(a)では、後述する被写体指定方法に従って被写体を指定されたときの画角を示している。被写体指定時の顔追尾枠500aの大きさを基準の被写体サイズ(基準サイズ)としてメモリ118に記憶しておく。図5(b)では、図5(a)の状態からズーム位置を変えずに被写体がカメラに向かって近づいてきたときの画角を示している。例えば、基準の被写体サイズである顔追尾枠500aの大きさに対して150%となる大きさ(所定倍以上大きくなる大きさ)をズームアウト開始サイズとする。被写体追尾枠の関係が、顔追尾枠500b>顔追尾枠500a×150%となったとき、ズームアウト動作を開始する。図5(c)は、図5(a)から図5(b)までで変化した被写体サイズの変化量と同等の1/1.5倍だけズーム倍率を広角方向にズームアウトしたときの画角を示している。この後さらに被写体が近づいてくる場合には光学ズーム位置がワイド端となるまでズームアウトを繰り返すことで被写体を所定の比率内に収め続けることができ、撮影者はレリーズスイッチの操作だけに集中することができる。図4及び図5では、被写体がモノである場合にフレームアウトを防止する処理と、人物である場合に被写体の大きさを所定の比率に収める処理について説明を行ったが、追尾する被写体とズーム動作開始の判定処理とはいずれの組み合わせであってもよい。
次に図6を用いて、FAズーム機能の処理の概要について説明する。図6はFAズーム機能の大まかな処理の流れを示すフローチャートである。S100でFAズーム制御部122は、FAズームを開始するか否かを判定する。FAズーム開始判定では、手動探索モードか自動追尾モードかのモード判定を行い、手動探索モードの場合には操作部117のFAズーム操作スイッチの状態を、自動追尾モードの場合には被写体検出結果を元にFAズーム開始の判定を行う。モード判定の方法については後述する。S100のFAズーム開始判定にて、FAズームの開始判定がなされるとS101に進む。
S101でFAズーム制御部122は、ズームアウト開始時の光学ズーム位置及び電子ズーム位置を記憶するとともに、所定の駆動量だけCZ制御部119もしくは電子ズーム制御部120に指令してFAズームアウト動作を行う。FAズームアウト動作が終了するとS102に進み、FAズーム枠制御部121は記憶したズーム位置を示すFAズーム枠300を表示部109に表示する。FAズーム枠300を目安として、撮影者は撮影したい被写体を画面中央付近に収めるようにフレーミング操作を行う。このとき、FAズーム枠300内に被写体が収まらない場合や被写体が小さすぎる場合には、S103にてFAズーム枠300を適切な大きさに変更するとともに記憶したズーム位置の情報を更新する。S104でFAズーム制御部122は、FAズームを終了するか否かを判定する。
FAズーム終了判定では、FAズーム開始時のモードが手動探索モードの場合には操作部117のFAズーム操作スイッチの状態を、自動追尾モードの場合には被写体検出結果を元にFAズーム終了の判定を行う。S104のFAズーム終了判定にて、FAズームの終了判定がなされるとS105に進む。S105でFAズーム制御部122は、記憶した光学ズーム位置及び電子ズーム位置まで駆動するようにCZ制御部119もしくは電子ズーム制御部120に指令してFAズームイン動作を行い、FAズーム機能を終了する。
次に図7乃至図11を用いて、図6で示したFAズーム機能の処理の流れに従って各処理の詳細を説明する。
図7はS100のFAズーム開始判定処理を説明するフローチャートである。S200でFAズーム制御部122は、操作部117のFAズーム操作スイッチが押下されたか否かの判定を行う。FAズーム操作スイッチが押下されるとS201に進み、スイッチの押下時間(操作時間)を測定する。S201ではFAズーム操作スイッチが押下開始されてから所定の時間内に開放されたか否かの判定を行う。すなわち、スイッチの長押しもしくは短押しの判定を行い、押下時間によって実行するモードを変更する。長押し(第2の操作)時にはS202に進み、モードを手動探索モードに、短押し(第1の操作)時にはS203に進み、モードを自動追尾モードにし、メモリ118に選択されたモードを記憶する。手動探索モードの場合には、スイッチの押下開始からスイッチの押下が継続したまま所定時間を経過した時点、すなわち、長押しであることが確定した時点でS208に進み、FAズームの開始が判定される。自動追尾モードの場合にはS204に進み、追尾する被写体の被写体指定処理を行う。
なお、本実施形態では、スイッチの押下時間によって手動探索モードか自動追尾モードかを判定しているが、モード判定の方法はズーム操作スイッチを用いたものであればこれに限定されない。例えば、ズーム操作スイッチが一度押下されてから所定時間内に再度押下された場合に、いずれかのモードと判定するようにしても良い。また、ズーム操作スイッチと他の部材との同時操作によって、いずれかのモードと判定するようにしても良い。また、押下するタイプのズーム操作スイッチに限らず、代わりに回転可能なリング部材などを用いてFAズームの操作を指示するようにしても良い。
ここで、図8を用いてS204の被写体指定処理について説明する。図8(a)は操作部117の部材であるタッチパネルを用いて表示部109に表示された被写体をタッチして指定する操作例のフローチャートを示している。S300では、タッチパネルが押下されたか否かの判定を行う。タッチパネルが押下された場合にはS301に進み、FAズーム制御部122はタッチされた位置を取得する。
S302では、FAズーム制御部122はタッチ位置を被写体検出部123に通知し、被写体検出部123ではタッチ位置付近で顔検出を行う。タッチ位置付近に顔を検出した場合には主被写体は人物であると判定しS303へと進む。S303では自動追尾の対象である人物の顔情報をメモリ118に記憶する。具体的な顔情報としては、被写体指定時の顔のサイズや顔の検出位置、顔の向き等がある。また、顔認証機能を有するカメラにおいては認証ID等も記憶する。
S302でタッチ位置付近に顔を検出しなかった場合には、主被写体は人物以外のモノであると判定しS304へと進む。S304では、タッチ位置付近の特徴色を自動追尾対象の色情報としてメモリ118に記憶する。具体的な色情報としては、被写体指定時の特徴色の色や輝度、色差の値や同一色領域のサイズ、同一色領域の重心位置等がある。顔情報及び色情報のことを以降の説明ではまとめて被写体情報(被写体サイズ/被写体検出位置)として説明に用いることとする。
S303又はS304で被写体情報を記憶するとS305に進む。S305で、被写体検出位置を中心に被写体サイズに対応した大きさの被写体追尾枠(モノ追尾枠400もしくは顔追尾枠500)を表示部109に表示すると被写体指定処理が終了となる。上述した図8(a)の方法を用いると、撮影者が追尾したい被写体を直感的な指定方法で簡単に指定することが可能となる。
一方、図8(b)は操作部117の部材であるFAズーム操作スイッチとは別のスイッチによって被写体を指定する操作例のフローチャートを示している。S306でFAズーム制御部122は、表示部109の画面中央付近に被写体指定の目安となる枠を表示する。撮影者はこの枠を目安として追尾したい被写体を中央付近に収めるようにカメラの向きを調整する。S307では、被写体指定用のスイッチが押下されたか否かの判定を行い、被写体指定用スイッチが押下された場合にはS308に進む。S308で被写体検出部123は、画面中央付近で顔検出を行う。画面中央付近に顔を検出した場合には主被写体は人物であると判定しS303へと進み、画面中央付近に顔を検出しなかった場合には主被写体は人物以外のモノであると判定しS304へと進む。さらに、図8(a)と同様にS303又はS304で被写体情報を記憶するとS305に進み、被写体追尾枠(モノ追尾枠400もしくは顔追尾枠500)を表示して被写体指定処理が終了となる。
S303乃至S305の処理については被写体検出を行う領域が画面中央付近となること以外は図8(a)と同様であるため説明を省略する。図8(b)の方法を用いると、タッチパネルのような操作部材を搭載しないカメラにおいても被写体を簡単に指定することが可能となる。
図8(c)は操作部117の部材であるFAズーム操作スイッチが短押しされた時点で検出された顔の中から追尾する被写体を自動で選択する例のフローチャートを示している。S309で被写体検出部123は、画面全体で顔検出を行う。画面全体で一人でも顔を検出した場合には主被写体は人物であると判定しS310に進む。
S310で被写体検出部123は、検出した顔が一人の場合にはその顔を主顔とし、複数の場合にはその顔の中から追尾する被写体とする主顔を選択する。主顔選択の判定基準としては、例えば、顔検出位置がより画面中央付近にいるものであるとし、同程度の位置であれば顔サイズが大きいものを主顔として選択する。また、顔認証機能を有するカメラにおいては認証登録されている顔がある場合には、その顔を優先して主顔とする。
S303では、選択された主顔の顔情報をメモリ118に記憶する。S303で顔情報を記憶するとS305に進み、顔追尾枠500を表示する。S311では、複数の顔から自動で選択された主顔が撮影者の意図しない顔である場合に撮影者が主顔を変更することが可能である。このとき、操作部117のスイッチ(FAズーム操作スイッチでも他のスイッチでもよい)を押下すると、検出された顔の中から主顔として選択されなかった顔に主顔を変更し、顔追尾枠500を更新する。主顔が変更された場合には再度S303に進み、記憶する顔情報を更新するとともに、S305で顔追尾枠500を新たに選択された主顔のサイズ及び検出位置に変更する。
S309にて画面全体で顔を検出しない場合には、主被写体は人物以外のモノであると判定しS304へと進む。S304では画面中央付近の特徴色を自動追尾対象の色情報としてメモリ118に記憶する。さらに、S304で色情報を記憶するとS306に進み、モノ追尾枠400を表示して被写体指定処理が終了となる。
S303乃至S306の処理については被写体検出を行う領域が顔の場合には画面全体、色の場合には画面中央付近となること以外は図8(a)と同様であるため説明を省略する。図8(c)の方法を用いると、より少ない操作回数で被写体を簡単に指定することが可能となる。
被写体指定処理を終了すると図7のS205へと進む。S205乃至S207では、被写体指定時に指定した基準となる被写体情報と、周期的に検出する被写体情報とを元にFAズームを開始するか否かの判定を行う。FAズーム開始の条件を満たすまで所定の制御周期でこの判定は繰り返される。
S205で被写体検出部123は、画面全体の中から基準被写体情報と同じ特徴を持つ被写体、すなわち、基準被写体が人物である場合には顔が、モノである場合には同一の特徴色が検出されるか否かを判定する。追尾する被写体が検出されなかった場合にはS209に進む。一方、追尾する被写体が検出された場合にはS206に進む。S206では、追尾する被写体の被写体追尾枠が図4(a)で示すズームアウト領域に含まれるか否かを判定する。S206で追尾枠がズームアウト領域に含まれる、すなわち、被写体が画面周辺付近にありフレームアウトする恐れがある場合にはS208に進み、FAズームの開始が判定される。S206で被写体追尾枠がズームアウト領域に含まれていない、すなわち、画面中央付近で被写体を捉えられている場合には、S207に進む。
次にS207では、基準被写体情報の被写体サイズとS205で検出した被写体サイズとの比較を行う。S205の被写体サイズが基準の被写体サイズに対して所定倍以上となって大きくなってしまう場合にはS208に進み、FAズームの開始が判定される。S208でFAズームの開始判定がなされると、図6のS101に進みズームアウト動作を開始する。
一方、S205で被写体が検出されなかった場合、FAズーム制御部122は、S209で所定時間が経過したか否かを判定する。所定時間が経過していなければ、FAズーム制御部122は、S210でFAズーム操作スイッチが押下されたか否かを判定する。また、S205で検出した被写体が画面中央付近でかつ被写体サイズが基準の被写体サイズに対して所定倍未満である場合(S207でno)も、S210でFAズーム操作スイッチの押下を判定する。S210でFAズーム操作スイッチが押下されなければS205の被写体検出処理に戻り、S205、S209、S210のループを繰り返す。そして、S209で被写体が検出されない状態で所定時間が経過した場合、S204に進み、再度被写体指定処理を行う。S210でFAズーム操作スイッチが押下された場合は、S211に進む。
S211では、FAズーム操作スイッチが押下されてから所定時間内に開放されたか否かを判定する。所定時間内にFAズーム操作スイッチが開放された場合、自動追尾モードがキャンセルされたとして、FAズーム機能を終了する。一方、所定時間内にスイッチが開放されない場合、S202に進み、手動探索モードが記憶される。すなわち、本実施形態では、自動追尾モード中にFAズーム操作スイッチが所定時間以上押下された場合、FAモードを手動探索モードに変更する。
図9(a)は図6のS101のFAズームアウト動作の処理を説明するフローチャートである。S400でFAズーム制御部122は、撮影準備状態での光学ズーム位置をCZ制御部119から取得し、電子ズーム位置を電子ズーム制御部120から取得する。さらにFAズーム制御部122は光学ズーム位置及び電子ズーム位置のデータをメモリ118に記憶する。なお、光学ズーム位置は、光学ズーム機能によって変更可能なズーム倍率に相当するズームレンズの位置を表し、電子ズーム位置は電子ズーム機能によって変更可能な画像拡大及び縮小の倍率に相当する制御位置を表す。手動探索モードの場合、ここで記憶したズーム位置がズーム戻り位置に設定される。
S401でFAズーム制御部122は、メモリ118に記憶しているズームアウト駆動量を取得する。自動追尾モードのズームアウト駆動量は、検出された被写体のサイズに応じて設定される。具体的には、被写体のサイズが小さいほどズームアウト駆動量は小さく設定される。なお、被写体検出可能な最小サイズを考慮して、被写体のサイズが所定のサイズより小さい場合は、ズームアウトを行わないようにする。また、手動探索モードのズームアウト駆動量は、撮影者が設定メニューからの操作によって変更可能にしてもよい。S402でFAズーム制御部122は、撮影準備状態でのズーム状態が電子ズーム状態であるか否かを判定する。一般的なズーム操作では、操作部117のズーム操作スイッチが押下されると、光学ズーム位置がワイド端からテレ端の間である場合には、CZ制御部119の制御下で光学ズームを駆動させる。光学ズーム位置がテレ端であって、さらに望遠方向への操作指示がなされた場合には電子ズーム制御部120が電子ズームを駆動させることで超望遠撮影が可能となる。ズーム操作スイッチの操作によるズーム動作とFAズーム動作との整合性を取るために、FAズーム動作においても、撮影準備状態でのズーム状態が電子ズーム状態の場合には電子ズームを先に駆動させる。つまり、メモリ118に記憶した時点のズーム位置が優先すべきズーム状態でのズーム領域内にあるか否かが判定され、本例では電子ズームが優先されるので、S402ではズーム位置が電子ズーム領域にあるか否かが判定される。
FAズーム開始時のズーム状態が電子ズーム状態であった場合には、S403に処理を進める。S403でFAズーム制御部122はS400で取得した電子ズーム位置とS401で取得したズームアウト駆動量から電子ズームのズームアウト位置を算出し、電子ズーム制御部120に設定する。S404でFAズーム制御部122は、電子ズーム制御部120に対して、S403で設定した電子ズームのズームアウト位置まで変倍処理を行うように指示する。電子ズーム制御部120は電子ズームによるズームアウト動作を行う。
S402にて撮影準備状態でのズーム位置が光学ズーム領域にあると判定された場合や、S404にて電子ズームのズームアウト動作が行われた後、S405に進む。S405でFAズーム制御部122は、さらに光学ズームによるズームアウトが必要であるか否かを判断する。つまり、電子ズームだけでは、設定したズームアウト駆動量のズーム駆動に充分でない場合、残りのズームアウト駆動量を光学ズームで補う必要がある。光学ズームによるズームアウトが必要と判断された場合にはS406に進む。S406でFAズーム制御部122は、光学ズーム位置とズームアウト駆動量から光学ズームのズームアウト位置を算出し、CZ制御部119に設定する。
S407でFAズーム制御部122は、CZ制御部119に対して、S406で設定した光学ズームのズームアウト位置までズーム駆動するように指示する。CZ制御部119はズームレンズ駆動部113を制御し、光学ズームのズームアウト動作を行う。
以上説明したFAズームアウト動作が終了すると、図6のS102に進む。S102でFAズーム制御部122は、ズーム戻り位置に対応するFAズーム枠300の表示をFAズーム枠制御部121に指示する。自動追尾モードの場合、現在の画角に対して所定倍率望遠側のズーム位置をズーム戻り位置としてメモリ118に記憶するとともに、それに対応する画角をFAズーム枠として表示する。一方、手動探索モードの場合、図9(a)のS400で記憶したFAズームアウト開始時のズーム位置に対応する画角をFAズーム枠として表示する。FAズーム枠を表示すると、被写体探索状態として、S103のズーム戻り位置変更処理に進む。
図10は図6のS103のズーム戻り位置変更の処理を説明するフローチャートである。S500では、図7のFAズーム開始判定においてS202又はS203で記憶したモードが自動追尾モードであるか、手動探索モードであるかの判定を行う。記憶したモードが手動探索モードである場合には、S506に進む。手動探索モード時には撮影者がズームレバー操作を行うことによって図9(a)のS400で記憶したズーム戻り位置(第3のズーム位置)及びFAズーム枠300を変更することが可能である。
S506では、操作部117のズームレバーが望遠方向もしくは広角方向のいずれかに操作されたか否かの判定を行い、ズームレバー操作が行われた場合にはS507に進む。ズームレバー操作が行われなければ、本フローを終了する。S507では、ズームアウト動作前にS400でメモリ118に記憶したズーム戻り位置(ズームイン位置)をS506で判定した操作方向に応じて望遠方向もしくは広角方向に所定量だけ更新し、S508へ進む。S508では、S507で更新したズーム戻り位置に対応する画角を示すようにFAズーム枠300の表示を更新し、S509へ進む。
S509では、操作部117のズームレバーが開放されたか否かの判定を行い、ズームレバーが開放されない場合にはS507乃至S509の処理を継続する。ズームレバーが開放された場合には、本フローを終了する。
以上の処理によって、ズームアウト動作後に被写体が近づいてくるなどして表示部109に表示される被写体の大きさが変わった場合でも、撮影者が簡単な操作でズーム戻り位置を変更できフレーミング操作がより簡単にできるようになる。
S500の判定においてモードが自動追尾モードである場合には、S501に進む。自動追尾モード時にはカメラが検出した被写体サイズを元に、ズームイン動作後に被写体が適切な画角に収まるようにメモリ118に記憶したズーム戻り位置(第2のズーム位置)及びFAズーム枠300を自動で変更することが可能である。
本実施形態における適切な画角とは、画面全体に対して被写体が占める比率が図7のS204で指定した基準となる被写体サイズと同程度となる画角を保持することであることとする。S501では、基準被写体情報と対応する顔情報もしくは色情報を持つ被写体が検出されるか否かを判定する。追尾する被写体が検出された場合にはS502に進み、検出されない場合はS510に進む。S510では、FAズーム制御部122は、被写体が検出されない状態で所定時間が経過したか否かを判定する。所定時間が経過していなければ本フローを終了し、所定時間が経過した場合は図7のS204に進んで再度被写体指定処理を行う。
S502では、画面全体に対して基準被写体サイズの比率と、FAズーム枠300すなわちズームイン動作後の画角に対してS501で検出した被写体が占める比率とを比較し、二つの比率の差が所定範囲を超える場合にはS503に進み、所定範囲内の場合は本フローを終了する。S503では、メモリ118に記憶したズーム戻り位置を変更する。具体的には、S501で検出した被写体サイズが基準の被写体サイズよりも大きい場合には広角方向に、小さい場合には望遠方向に所定量だけズーム戻り位置を更新し、S504へ進む。
S504では、S503で更新したズーム戻り位置と同じ画角を示すようにFAズーム枠300の表示を更新し、S505へ進む。S505では、画面全体に対する基準の被写体サイズの比率と、更新されたズーム戻り位置を示すFAズーム枠300に対する被写体の比率との差が所定範囲以内か否かの判定を行う。ズーム戻り位置を所定量更新してもFAズーム枠300に対する被写体の比率と基準の被写体の比率との差が所定範囲を超える場合には、さらにズーム戻り位置を変更するようにS503乃至S505の処理を継続する。S505でFAズーム枠300に対する被写体と基準の被写体の比率との差が所定範囲内の場合には、本フローを終了する。
以上の処理によって、FAズームアウト動作後に被写体が近づいてくるなどして表示部109に表示される被写体の大きさが変わった場合でも、カメラにより自動でズーム戻り位置が変更されフレーミング操作がより簡単にできるようになる。図10においては、ズーム戻り位置を手動探索モード時にはズームレバーの手動操作によって変更し、自動追尾モード時には被写体サイズに応じて自動で変更する例を示したが、手動探索モード時の自動変更や自動追尾モード時の手動変更ができる構成としてもよい。
図11は図6のS104のFAズーム終了判定処理を説明するフローチャートである。S601では、図7のFAズーム開始判定においてS202又はS203で記憶したモードが自動追尾モードであるか、手動探索モードであるかの判定を行う。モードが手動探索モードである場合には、S605に進む。手動探索モードである場合には、被写体探索状態である間はS200又はS210でFAズーム操作スイッチの押下を検出してから押下状態が継続している。
S605では、FAズーム操作スイッチが長押し状態からスイッチが開放されたか否かの判定を行う。FAズーム操作スイッチが開放された(第3の操作)場合にはS604に進み、FAズームの終了が判定される。一方、S605でFAズーム操作スイッチが開放されていない場合、被写体探索状態が継続しているので、図10のS500に戻り、ズーム戻り位置変更のフローを繰り返す。
S601の判定においてモードが自動追尾モードである場合には、S602に進む。S602では図7のS204で指定した基準となる被写体情報と同じ特徴を持つ被写体、すなわち、基準被写体が人物である場合には顔、モノである場合には対応する特徴色が検出されたか否かを判定する。追尾する被写体が検出されなかった場合、S606に進む。
S602で追尾する被写体が検出された場合にはS603に進む。S603では追尾する被写体の被写体追尾枠が図4(b)で示すズームイン領域に包含されているか否かを判定する。S603で追尾枠がズームイン領域に包含されている、すなわち、画面中央付近でかつズーム戻り位置の画角内の被写体サイズとなるように被写体を捉えられている場合にはS604に進み、FAズームの終了が判定される。S604でFAズームの終了判定がなされると、図6のS105に進みFAズームイン動作を開始する。
一方、S602で被写体が検出されなかった場合、FAズーム制御部122は、S606で所定時間が経過したか否かを判定する。所定時間が経過していなければ、FAズーム制御部122は、S607でFAズーム操作スイッチが押下されたか否かを判定する。また、S602で検出した被写体の被写体追尾枠がズームイン領域に包含されていない場合(S603でno)も、S607でFAズーム操作スイッチの押下を判定する。S607でFAズーム操作スイッチが押下されなければ図10のS500に戻り、ズーム戻り位置変更処理を繰り返す。そして、S606で被写体が検出されない状態で所定時間が経過した場合、図7のS204に進み、再度被写体指定処理を行う。S607でFAズーム操作スイッチが押下された場合は、S608に進む。
S608では、FAズーム操作スイッチが押下されてから所定時間内に開放されたか否かを判定する。所定時間内にFAズーム操作スイッチが開放された場合、自動追尾モードがキャンセルされたとして、FAズーム機能を終了する。一方、所定時間内にスイッチが開放されない場合、図7のS202に進み、手動探索モードが記憶される。すなわち、本実施形態では、自動追尾モード中にFAズーム操作スイッチが所定時間以上押下された場合、FAモードを手動探索モードに変更する。
図9(b)はS105のFAズームイン動作の処理を説明するフローチャートである。S408でFAズーム制御部122は、記憶したズーム位置(ズーム戻り位置)のデータをメモリ118から読み込む。S409でFAズーム制御部122は、被写体探索状態でのズーム状態が光学ズーム状態であるか否かを判定する。光学ズーム状態の場合(S409のyes)、光学ズームを優先してズームインを行うためにS410に処理を進め、電子ズーム状態の場合(S409のno)では電子ズームのみでズームインを行うためにS412に処理を進める。
S410でFAズーム制御部122は、S408で読み込んだズーム戻り位置のうち、光学ズームによるズームイン位置をCZ制御部119に設定する。S411でFAズーム制御部122は、CZ制御部119に対して、S410で設定した光学ズームによるズームイン位置までズームレンズ102を駆動するように指示する。CZ制御部119はズームレンズ駆動部113を制御して、光学ズームでのズームイン動作を行う。
S409にて被写体探索状態でのズーム位置が電子ズーム領域内であると判定された場合や、S411での光学ズームでズームイン動作が行われた後、S412に進む。S412でFAズーム制御部122は、さらに電子ズームによるズームインが必要か否かを判断する。電子ズームによるズームインが必要な場合にはS413に進み、電子ズームによるズームインが不要な場合には撮影準備状態にして処理を終了する。
S413でFAズーム制御部122は、S408で読み込んだズーム戻り位置のうち、電子ズームによるズームイン位置を電子ズーム制御部120に設定する。S414でFAズーム制御部122は、電子ズーム制御部120に対して、S413で設定した電子ズームによるズームイン位置まで変倍処理を行うように指示する。電子ズーム制御部120は電子ズームイン動作を行い、これによってズーム戻り位置へと復帰する。該動作が終了すると、撮影準備状態にして処理を終了する。
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記憶した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行する。この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
また、本発明はデジタルカメラのような撮影を主目的とした機器に限定されず、携帯電話、パーソナルコンピュータ(ラップトップ型、デスクトップ型、タブレット型など)、ゲーム機など、撮像装置を内蔵もしくは外部接続する任意の機器に適用可能である。従って、本明細書における「撮像装置」は、撮像機能を備えた任意の電子機器を包含することが意図されている。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。適用するシーンとして、静止画撮影のための画角合わせ中のみでなく、動画記録中の画角合わせの際に実施しても構わない。