[第1実施形態]
本発明の第1実施形態について図面を参照して詳細に説明する。
図1には、レンズ鏡筒111と、焦点調節装置191を備える撮像装置100と、記憶媒体200との構成がブロック図で示されている。撮像装置100は、レンズ鏡筒111から入射される光学像を撮像し、得られた画像を静止画又は動画の画像として、記憶媒体200に記憶させる。
まず、レンズ鏡筒111の構成を説明する。
レンズ鏡筒111は、焦点調整レンズ(以下、「AF(Auto Focus)レンズ」という)112と、レンズ駆動部116と、AFエンコーダ117と、鏡筒制御部118を備える。なお、レンズ鏡筒111は、撮像装置100に着脱可能に接続されてもよいし、撮像装置100と一体であってもよい。
AFレンズ112は、レンズ駆動部116により駆動され、後述する撮像部110の撮像素子119の受光面(光電変換面)に、光学像を導く。
AFエンコーダ117は、AFレンズ112の移動を検出し、AFレンズ112の移動量に応じた信号を、鏡筒制御部118に出力する。ここで、AFレンズ112の移動量に応じた信号とは、例えば、AFレンズ112の移動量に応じて位相が変化するサイン(sin)波信号であってもよい。
鏡筒制御部118は、撮像装置100の焦点調節装置191から入力される駆動制御信号に応じて、レンズ駆動部116を制御する。ここで、駆動制御信号とは、AFレンズ112を光軸方向に駆動させる制御信号である。鏡筒制御部118は、駆動制御信号に応じて、例えば、レンズ駆動部116に出力するパルス電圧のステップ数やパルスレートを変更する。
また、鏡筒制御部118は、AFレンズ112の移動量に応じた信号に基づいて、レンズ鏡筒111におけるAFレンズ112の位置(フォーカスポジション)を、焦点調節装置191に出力する。ここで、鏡筒制御部118は、例えば、AFレンズ112の移動量に応じた信号を、AFレンズ112の移動方向に応じて積算することで、レンズ鏡筒111におけるAFレンズ112の移動量(位置)を算出してもよい。
レンズ駆動部116は、鏡筒制御部118の制御に応じてAFレンズ112を駆動し、AFレンズ112をレンズ鏡筒111内で光軸方向に移動させる。
ここで、本実施形態では、レンズ駆動部116はステッピングモーター(STM)を用いて構成されている。また、鏡筒制御部118は、そのステッピングモーター(STM)を制御するコントローラ(STMC)の機能を有している。そして、鏡筒制御部118は、レンズ駆動部116に出力するパルス電圧のステップ数を変更することで、レンズ駆動部116の移動距離(AFレンズ112の移動距離)を変更することができ、また、レンズ駆動部116に出力するパルス電圧のパルスレートを変更することで、レンズ駆動部116の移動速度(AFレンズ112の移動速度)を変更することができる。
次に、撮像装置100の構成を説明する。
撮像装置100は、撮像部110と、画像処理部140と、表示部150と、バッファメモリ部130と、操作部180と、記憶部160と、CPU(Central Processing Unit)190と、通信部170と、焦点調節装置191と、告知部213とを備える。告知部123は、音出力部211と、光出力部212とを備える。
撮像部110は、撮像素子119と、A/D(Analog/Digital)変換部120とを備える。撮像部110は、設定された撮像条件(例えば絞り値、露出値等)に従って、CPU190により制御される。
撮像素子119は、光電変換面を備え、レンズ鏡筒111(光学系)により光電変換面に結像された光学像を電気信号に変換して、A/D変換部120に出力する。撮像素子119は、例えば、CMOS(Complementary Metal Oxide Semiconductor)で構成されていてもよい。また、撮像素子119は、光電変換面の一部の領域について、光学像を電気信号に変換するようにしてもよい(画像切り出し)。
また、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けた際に得られる画像を、A/D変換部120を介して記憶媒体200に記憶させる。つまり、画像を撮像する。
一方、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けていない状態において、連続的に得られる画像をスルー画像として、焦点調節装置191及び表示部150に、A/D変換部120を介して出力する。
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像をバッファメモリ部130に出力する。
操作部180は、例えば、電源スイッチ、シャッタボタン、マルチセレクタ(十字キー)、又はその他の操作キーを備え、ユーザによって操作されることでユーザの操作入力を受け付け、操作入力に応じた信号をCPU190や焦点調節装置191に出力する。
ここで、本実施形態では、シャッタボタンが押される状態として、半分程度押された状態(半押しの状態)と、全部押された状態(全押しの状態)がある。シャッタボタンが半押しの状態は、ユーザからの撮影指示を受け付けていない状態であり、そして、シャッタボタンが全押しの状態になったときに、ユーザからの撮影指示を受け付けたと判断する。
基本的には、シャッタボタンが半押しの状態になると、AFの処理を行うことでAFレンズ112の焦点を合わせるように当該AFレンズ112の位置を調整し、そして、シャッタボタンが全押しの状態になると、画像を撮像する。この場合、通常は、シャッタボタンが半押しの状態から全押しの状態になったときには、シャッタボタンが半押しの状態であるときに調整されたAFレンズ112の位置で画像を撮像するが、本実施形態では、シャッタボタンが全押しの状態になってから、AFの処理を行う構成が用いられてもよい。
なお、本実施形態では、1つのシャッタボタンが半押しの状態と全押しの状態といった2つの状態にされる構成としたが、他の例として、これに関して2つのボタンを備えて、第1のボタンのみが押された状態で前記した半押しの状態における動作を行い、第2のボタンが押された状態(第1のボタンは押されていてもいなくてもよい)で前記した全押しの状態における動作を行う構成とすることも可能である。
また、本実施形態では、1つのシャッタボタンが押されていない状態から半押しの状態と全押しの状態といった2つの状態にされる構成を示すが、他の例として、シャッタボタンについてこのような2つの状態を設けずに、シャッタボタンが押された状態と押されていない状態のみを設けて、シャッタボタンが押された状態になると、AFの処理を行うことでAFレンズ112の焦点を合わせるように当該AFレンズ112の位置を調整し、続いて、画像を撮像するといった構成を用いることも可能である。
画像処理部140は、記憶部160に記憶されている画像処理条件に基づいて、バッファメモリ部130に一時的に記憶されている画像を画像処理する。そして、画像処理された画像は、通信部170を介して記憶媒体200に記憶される。
表示部150は、例えば液晶ディスプレイであって、撮像部110によって得られた画像、及び操作画面等を表示する。
バッファメモリ部130は、撮像部110によって撮像された画像を、一時的に記憶する。
記憶部160は、シーン判定の際にCPU190によって参照される判定条件や、シーン判定によって判断されたシーン毎に対応付けられた撮像条件等を記憶する。
CPU190は、設定された撮像条件(例えば絞り値、露出値等)に従って撮像部110を制御する。また、CPU190は、操作部180から入力された「操作入力に応じた信号」に基づいて、静止画又は動画として、画像処理部140に画像を画像処理させる。
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報(画像データなど)の書込み、読み出し、或いは消去を行う。
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、情報(画像データなど)を記憶する。なお、記憶媒体200は、撮像装置100と一体であってもよい。
音出力部211は、撮像装置100の動作状態や設定に関する情報等を音により出力する。例えば、音出力部211は、スピーカーを備えており、撮像装置100における、シャッター音、警告音等の通知音、又は操作音などを、当該スピーカーから出力する。なお、音出力部211は、スピーカーを備えている構成に限らず、ブザー音を出力するブザー等を備えている構成であってもよい。
光出力部212は、例えば、LED(Light Emitting Diode)から構成されており、光を出力する。また、光出力部212は、点滅光を出力することもできる。
次に、焦点調節装置191の詳細について説明する。
焦点調節装置191は、第1の領域設定部192と、第2の領域設定部193と、焦点調節部194と、告知制御部197とを備える。告知制御部197は、音出力制御部195と、光出力制御部196とを備える。なお、本実施形態では、告知制御部197(音出力制御部195、光出力制御部196)については備えられなくてもよく、これは他の実施形態で説明するものである。
第1の領域設定部192は、撮像素子119からA/D変換部120を介して入力されたスルー画像に対して、AF評価値を算出する対象とするマスク領域(以下で、第1マスク領域という)や、AF評価値を算出する範囲を特定する枠であるAF評価ウインドウ(以下で、第1AF評価ウインドウという)を設定する。
ここで、第1の領域設定部192は、例えば、画像を構成する各画素の特徴量を算出し、同じ特徴量を有する画素が連続(或いは、近接)する領域を第1マスク領域として設定する。他の例として、第1の領域設定部192は、差異が所定の範囲内である特徴量を有する画素が連続(或いは、近接)する領域を第1マスク領域として設定してもよい。
このような第1マスク領域は、各画素にラベル(例えば、番号などの識別子)をグループ特性として付加するラベリング処理により抽出することができる。
具体例として、輝度成分Y及び色差成分Cb、Crのうちの輝度成分Yの値を特徴量とし、同じ輝度成分Yの値(一例として、128)を有する連続領域を第1マスク領域として設定することや、或いは、輝度成分Yの値が所定の範囲内(一例として、128±30の範囲内)にある連続領域を第1マスク領域として設定することができる。
なお、特徴量としては、輝度成分Yに限られず、色差成分Cb、色差成分Cr、赤成分R、緑成分G、青成分B、色相、彩度、明度などのように、様々なものの1種類以上が用いられてもよい。
また、第1の領域設定部192は、例えばラベリング処理により複数のマスク領域が抽出される場合には、各マスク領域に優先度を設定する。そして、第1の領域設定部192は、これら複数のマスク領域の中で、優先度が最も高いマスク領域をAF評価値を算出する対象(第1マスク領域)として設定する。優先度が最も高いマスク領域は、主要な被写体であると想定される。
なお、優先度は、様々な手法で設定されてもよく、例えば、各マスク領域について、位置、形状、かたまり度(慣性モーメント)、大きさ、異質度、違和感などの評価結果に基づいて設定することができる。一例として、最も至近に位置すると判定されるマスク領域に最も高い優先度を設定することができる。また、例えば、同じ距離の位置に存在すると判定される2つ以上のマスク領域があって、2つ以上のマスク領域の優先度が同等になるような場合には、より大きいマスク領域の優先度を高くするなどの任意の手法で、優先度が異ならされてもよい。
また、第1の領域設定部192は、例えば、ラベリング処理により抽出されたマスク領域が有効なものであるか否かを判定して、有効なものであると判定されたマスク領域のみを使用することもできる。抽出されたマスク領域が有効なものであるか否かを判定する手法としては、様々なものが用いられてもよく、一例として、所定の数より多い数の画素から構成されるマスク領域のみを有効なものであると判定することができる。
また、第1の領域設定部192は、AF評価値を算出する対象として設定した第1マスク領域に対して、第1AF評価ウインドウを設定する。
ここで、第1AF評価ウインドウとしては、様々な手法で設定されてもよく、本実施形態では、AF評価値を算出する対象として設定した第1マスク領域の境界(外周)を含むように設定する。
第2の領域設定部193は、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、当該第1マスク領域に含まれる画素の輝度成分Yの値に基づいて、所定の判定条件により画像の輝度が低いか否かを判定する。
ここで、この所定の判定条件としては、様々なものが用いられてもよく、例えば、AF評価値を算出する対象として設定された第1マスク領域に含まれる画素の輝度成分Yの平均値又は最大値又は最小値が所定の閾値より小さい場合に、画像の輝度が低いと判定する判定条件を用いることができる。
この所定の閾値としては、例えば、輝度に関する値(前記の例では、第1マスク領域に含まれる画素の輝度成分Yの平均値又は最大値又は最小値)とAF評価値のS/N比(Signal to Noise Ratio)との対応関係に基づいて、光学系の焦点を合焦状態に調節するために最低限必要と想定される輝度に関する値が予め設定される。このような対応関係は、経験上或いは測定やシミュレーションにより知ることができる。
また、前記した所定の判定条件として、画像の輝度が低いか否かを判定するとともに、図1に示されるレンズ鏡筒111及び撮像装置100の露光量(カメラの露光量)が所定の閾値以上であるか否かを判定する条件を用いることもできる。具体的には、レンズ鏡筒111及び撮像装置100の露光量(カメラの露光量)が所定の閾値以上であるにもかかわらず、画像の輝度が低いと判定された場合に、所定の判定条件を満たすと判定することができる。この構成では、画像の輝度が低いと判定しても、レンズ鏡筒111及び撮像装置100の露光量(カメラの露光量)が所定の閾値未満である場合(低い場合)には、所定の条件を満たさないと判定することができる。なお、この所定の閾値としては、任意の値が設定されてもよい。
また、前記した輝度に関する値の閾値と、前記した露光量の値との対応関係を予め設定しておいて、露光量の値に応じて前記した輝度に関する値の閾値を変更することも可能である。
そして、第2の領域設定部193は、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定した場合には、第1の領域設定部192により設定された第1マスク領域より大きいマスク領域(以下で、第2マスク領域という)を、AF評価値を算出する対象として、設定する。また、第2の領域設定部193は、設定した第2マスク領域に対して、AF評価ウインドウ(以下で、第2AF評価ウインドウという)を設定する。
ここで、第2の領域設定部193が第2マスク領域や第2AF評価ウインドウを設定する手法としては、第1の領域設定部192が第1マスク領域や第1AF評価ウインドウを設定する手法と同様なものを用いることができる。
この場合に、第2の領域設定部193は、例えば、第1の領域設定部192が同じ特徴量(一例として、Y=128)を有する画素が連続する領域を第1マスク領域として設定している場合には、当該特徴量に対して差異が所定の範囲内である特徴量(一例として、Y=128±10)を有する画素が連続する領域を第2マスク領域として設定する。他の例として、第2の領域設定部193は、第1の領域設定部192が差異が所定の範囲内である特徴量(一例として、Y=128±30)を有する画素が連続する領域を第1マスク領域として設定している場合には、この所定の範囲の幅を広げて、差異が所定の範囲(幅が広がった範囲:一例として、Y=128±50)内である特徴量を有する画素が連続する領域を第2マスク領域として設定する。これらでは、例えば、ラベリング処理するときに画素を連結する特徴量の幅が広がることで、第2マスク領域の大きさが第1マスク領域の大きさ以上となる。
また、他の例として、第2の領域設定部193は、第1の領域設定部192が第1マスク領域を設定したときに使用した特徴量とは異なる種類の特徴量を使用して第2マスク領域を設定することで、第2マスク領域を第1マスク領域より大きくすることも可能である。具体例として、第1の領域設定部192が輝度成分Yを使用して第1マスク領域を設定した場合に、第2の領域設定部193が、第2マスク領域を第1マスク領域より大きくすることができる他の特徴量(例えば、色差成分Cb、色差成分Cr、赤成分R、緑成分G、青成分B、色相、彩度、明度など)を使用して、例えば、第1の領域設定部192とは使用する特徴量が異なるラベリング処理により、第2マスク領域を設定することができる。
また、他の例として、第2の領域設定部193は、第1の領域設定部192により設定された第1マスク領域に対して、当該第1マスク領域を予め設定された所定の倍率(比率)で大きくしたものを第2マスク領域として設定することができる。この所定の倍率としては、任意の値を用いることができる。また、第1マスク領域を所定の倍率で大きくするときの中心点としては、例えば、第1マスク領域に外接する枠の中心点などを用いることができる。また、他の例として、所定の倍率でマスク領域を拡大する処理の代わりに、予め設定された所定の量だけマスク領域を拡大する処理を用いることもできる。
なお、第1マスク領域より第2マスク領域の方が大きくなることで、通常、第1AF評価ウインドウより第2AF評価ウインドウの方が大きくなるように設定される。
また、例えば、第1マスク領域を予め設定された所定の倍率で或いは所定の量だけ大きくしたものを第2マスク領域として設定する場合には、AF評価ウインドウについても同様に、第1AF評価ウインドウを予め設定された所定の倍率で或いは所定の量だけ大きくしたものを第2AF評価ウインドウとして設定することもできる。
また、本実施形態では、AF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いか否かを判定するが、他の例として、2つ以上のマスク領域について、所定の判定条件により画像の輝度が低いか否かを判定してもよい。また、他の例として、画像の全体や、或いは、AF評価値を算出する対象として設定された第1マスク領域を画像の全体から除いた部分(つまり、当該第1マスク領域の周囲の環境の領域:撮影環境の領域)について、所定の判定条件により画像の輝度が低いか否かを判定してもよい。また、他の例として、第1マスク領域の代わりに、第1AF評価ウインドウ或いは予め設定された他の所定の領域に含まれる画素の値に基づいて、所定の判定条件により画像の輝度が低いか否かを判定する構成が用いられてもよい。
また、本実施形態では、輝度成分Yの値を用いて画像の輝度が低いか否かを判定するが、他の例として、輝度成分Yの代わりに、明度(L値)や、照度などが用いられてもよい。
また、他の例として、画像の輝度が低いか否かをユーザにより判断する構成を用いることもできる。具体例として、ユーザが操作部180に対して所定の操作を行ったことを検出した場合には、画像の輝度が低いと判定する一方、このような操作が行われなかった場合には、画像の輝度が低くないと判定することができる。つまり、ユーザの操作により、画像の輝度が低いモードと、それ以外のモードとで切り替えることができる。
また、他の例として、本実施形態に係る撮像装置100或いはレンズ鏡筒111に測光センサを設けて、当該測光センサにより検出した光の輝度が低いか否かを所定の判定条件により判定し、その判定結果に応じて、本実施形態と同様な動作を行うこともできる。この所定の判定条件としては、例えば、本実施形態と同様に、閾値を使用する判定条件を用いることができる。
焦点調節部194は、第2の領域設定部193によって、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定されなかった場合には、第1の領域設定部192により設定された第1AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。本実施形態では、このコントラストスキャン処理は、通常時(本実施形態において低輝度ではないと判定したとき)のコントラストスキャン処理となる。
一方、焦点調節部194は、第2の領域設定部193によって、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定された場合には、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。
ここで、コントラストスキャン処理では、焦点調節部194は、レンズ鏡筒111の鏡筒制御部118との間で通信して、AFレンズ112の位置を移動させて、撮像素子119により得られる画像に基づいて、AFレンズ112の各位置でAF評価値を算出し、算出したAF評価値が最大(ピーク)となるAFレンズ112の位置を合焦位置として調節する。
なお、焦点調節部194とレンズ鏡筒111の鏡筒制御部118との間の通信としては、焦点調節部194から鏡筒制御部118へ駆動制御信号を送信することや、鏡筒制御部118から焦点調節部194へレンズ鏡筒111におけるAFレンズ112の位置(フォーカスポジション)を送信することが行われる。
また、AF評価値としては、使用するAF評価ウインドウ内(本実施形態では、第1AF評価ウインドウ内、又は、第2AF評価ウインドウ内)のコントラストの強弱を示す値が用いられる。具体例として、使用するAF評価ウインドウ内の画素領域における画素の値について、予め決められたウインドウ(本実施形態では、使用するAF評価ウインドウ)で予め決められた係数による空間フィルタを行ったときの結果値を当該ウインドウ内で積算した値を、AF評価値として用いることができる。なお、画素の値としては、例えば、輝度成分Y、色差成分Cb、色差成分Cr、赤成分R、緑成分G、青成分B、色相、彩度、明度などのように、様々なものの1種類以上が用いられてもよい。
図2には、マスク領域の拡大の一例が示されている。
マスク領域の拡大前には、画像フレーム11において、第1の領域設定部192により第1マスク領域12及び第1AF評価ウインドウ13が設定されている。そして、画像の輝度が低くて、マスク領域の拡大が必要な場合には、第2の領域設定部193により、画像フレーム11に、拡大された第2マスク領域14が設定され、これに応じて、拡大された第2AF評価ウインドウ15が設定される。
例えば、第1マスク領域が9画素から構成されていたのに対して、第2マスク領域が36画素から構成されるというように、マスク領域を構成する画素の数が増加して、AF評価ウインドウ内の画素の数が増加すると、全体の電子数(サンプル数)が増加することで、AF評価値はより強いコントラストを示す値となり、AF評価値のS/N比が向上する。これにより、光学系の焦点を調節する際における合焦の精度を高めることができ、AFの性能を向上させることができる。
図3には、マスクの拡大を行う場合における焦点調節装置191により行われる処理の手順の一例を表すフローチャートが示されている。本実施形態では、このフローチャートの処理は、シャッタボタンが半押しの状態で行われる。
本実施形態では、スルー画モードにおける処理の手順を示す。
まず、第1の領域設定部192は、前回のフレーム画像により、特徴量にてマスク領域を探索する処理を行う(ステップS1)。この処理は、ラベリング処理により実現される。
なお、この場合に、必要があれば、補助光が点灯されてもよい。補助光を用いることにより、例えば、撮影の環境が暗くて画像の輝度が低いような場合においても、ラベリング処理を効果的に実現することができる。
次に、第1の領域設定部192は、探索されたマスク領域の中で、有効なマスク領域があるか否かを判定する(ステップS2)。この判定の結果、第1の領域設定部192は、有効なマスク領域が無いと判定した場合には、ステップS1の処理へ戻る。一方、この判定の結果、第1の領域設定部192は、有効なマスク領域があると判定した場合には、有効なマスク領域が複数あるか否かを判定し、有効なマスク領域が複数ある場合には、有効な各マスク領域に優先度を付ける(ステップS3)。なお、有効なマスク領域が1つである場合には、そのマスク領域の優先度が最も高いとする。本実施形態では、優先度が最も高いマスク領域が第1マスク領域とされる。
また、第1の領域設定部192は、第1AF評価ウインドウを設定する。
第2の領域設定部193は、第1の領域設定部192により優先度が最も高いマスク領域とされた第1マスク領域に基づいてコントラストスキャン処理を行うために、当該第1マスク領域の輝度について平均値等を算出する(ステップS4)。
そして、第2の領域設定部193は、算出した輝度の平均値等に基づいて、所定の判定条件により第1マスク領域の輝度が低いか否かを判定する(ステップS5)。
なお、他の例として、第1マスク領域の輝度が低いか否かを判定する処理の代わりに、第1マスク領域の周囲の環境の領域の輝度が低いか否かを判定する処理などを用いることもできる。
この判定の結果、第2の領域設定部193が第1マスク領域の輝度が低くはないと判定した場合には、焦点調節部194は、第1の領域設定部192により設定された第1AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、通常時のコントラストスキャン処理を実行する(ステップS8)。
一方、この判定の結果、第2の領域設定部193は、第1マスク領域の輝度が低いと判定した場合には、第1マスク領域よりも拡大した第2マスク領域を設定して、当該第2マスク領域に応じた第2AF評価ウインドウを設定する(ステップS6)。そして、この場合には、焦点調節部194は、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する(ステップS7)。これにより、AFレンズ112の位置が調節されて合焦状態とされる。
このように、本実施形態では、例えば、撮像装置100の露光量が低い、照度が低いなどの理由で画像の輝度(本実施形態では、第1マスク領域の輝度の平均値等)が低いと判定される場合には、拡大されたマスク領域(第2マスク領域)及び拡大されたAF評価ウインドウ(第2AF評価ウインドウ)を設定して、コントラストスキャン処理で使用されるAF評価値のS/N比を向上させることができ、これにより、合焦の精度を高めることができる。
ここで、本実施形態では、ステップS6の処理に関して、第2の領域設定部193は、第1マスク領域に対して1つの拡大されたマスク領域(第2マスク領域)を設定するが、他の例として、第1マスク領域に対して複数の拡大されたマスク領域(第2マスク領域)を生成して設定してもよい。具体的には、第2の領域設定部193は、ラベリング処理で画素を連結させる特徴量の範囲を異ならせることや、或いは、ラベリング処理で使用する特徴量の種類を異ならせることや、或いは、所定の倍率でマスク領域を拡大する場合にその倍率(例えば、1.2倍、1.3倍、1.4倍など)を異ならせることにより、複数の段階で拡大されたマスク領域(第2マスク領域)を設定し、これらの各マスク領域に応じた複数の段階で拡大されたAF評価ウインドウ(第2AF評価ウインドウ)を設定する。
そして、焦点調節部194は、第2の領域設定部193により設定された複数の段階のAF評価ウインドウ(第2AF評価ウインドウ)のそれぞれに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。この場合、焦点調節部194は、複数の段階のAF評価ウインドウ(第2AF評価ウインドウ)の中で、AF評価値が最も良好となるAF評価ウインドウを最終的に採用して、光学系の焦点を合焦状態になるように調節する。
なお、AF評価値が最も良好となる場合としては、様々な基準で判定されてもよく、例えば、AFレンズ112を移動させた位置に対するAF評価値の変化において、当該AF評価値のピークが1つのみになる場合を用いることができる。また、ピークが1つのみになるAF評価値が複数ある場合には、例えば、ピーク値が最も高いものが最も良好であると判定することができる。ここで、AFレンズ112を移動させた位置に対するAF評価値の変化において、当該AF評価値のピークが2つ以上ある場合には、使用されているAF評価ウインドウ(第2AF評価ウインドウ)の内に、AFレンズ112から異なる距離に位置する2つ以上の被写体が存在すると推定される。
また、本実施形態では、静止画(本実施形態では、スルー画)を用いて焦点調節処理を行う場合を示したが、他の例として、動画を用いて焦点調節処理を行うこともできる。動画を用いて焦点調節処理を行う場合には、静止画を用いる場合とは異なる点として、例えば、コントラストスキャン処理を実行するための所定の起動条件を満たしたことを検出した場合に、ウォブリングをすることでAFの方向を判定し、その後、その判定結果に対応した一方向(至近側又は無限側)のみについてコントラストスキャン処理を実行する。この所定の起動条件としては、例えば、画像の輝度に関する値が所定の閾値を超えて変化したという条件や、或いは、コントラストの評価値(AF評価値)が所定の閾値を超えて変化したという条件などを用いることができる。なお、動画を用いて焦点調節処理を行う場合に特有な前記した処理は、一例として、焦点調節部194により行われる。
以上のように、本実施形態に係る焦点調節装置191では、スルー画や動画において、画像又は画像列より被写体の領域を想定し、その領域をコントラストスキャン処理に利用する場合に、その領域のデータが低輝度であるとき(或いは、撮影環境が低輝度であるようなとき)には、被写体と想定される領域(本実施形態では、マスク領域)を空間的に拡大することで、合焦の精度を高めることができる。
[第2実施形態]
本発明の第2実施形態について図面を参照して詳細に説明する。
本実施形態では、図1に示される焦点調節装置191を備える撮像装置100、レンズ鏡筒111、記憶媒体200と同様な構成を用いる。
また、本実施形態では、第1実施形態と同様な部分については詳しい説明を省略し、異なる部分について詳しく説明する。
概略的には、第1実施形態では、第1マスク領域及び第1AF評価ウインドウに対して、第1マスク領域より大きい第2マスク領域を設定し、当該第2マスク領域に応じて第2AF評価ウインドウを設定したが、本実施形態では、第1マスク領域はそのままとして、第1AF評価ウインドウより大きい第2評価ウインドウを設定する。
以下で、詳しく説明する。
第1の領域設定部192は、第1実施形態と同様に、第1マスク領域及び第1AF評価ウインドウを設定する。
第2の領域設定部193は、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定した場合には、第1の領域設定部192により設定された第1AF評価ウインドウより大きいAF評価ウインドウ(第2AF評価ウインドウ)を設定する。本実施形態では、第1の領域設定部192により設定された第1マスク領域についてはそのままとする。
具体例として、第2の領域設定部193は、第1の領域設定部192により設定された第1AF評価ウインドウに対して、当該第1AF評価ウインドウを予め設定された所定の倍率で大きくしたものを第2AF評価ウインドウとして設定することができる。この所定の倍率としては、任意の値を用いることができる。また、第1AF評価ウインドウを所定の倍率で大きくするときの中心点としては、例えば、第1AF評価ウインドウの中心点(或いは、重心点)や、又は、画角(画像フレーム)の中心点を用いることができる。また、他の例として、所定の倍率でAF評価ウインドウを拡大する処理の代わりに、予め設定された所定の量だけAF評価ウインドウを拡大する処理を用いることもできる。
焦点調節部194は、第1実施形態と同様に、第2の領域設定部193によって、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定された場合には、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。
図4には、AF評価ウインドウの拡大の一例が示されている。
AF評価ウインドウの拡大前には、画像フレーム21において、第1の領域設定部192により第1マスク領域22及び第1AF評価ウインドウ23が設定されている。そして、画像の輝度が低くて、AF評価ウインドウの拡大が必要な場合には、第2の領域設定部193により、画像フレーム21に、拡大された第2AF評価ウインドウ24が設定される。なお、本実施形態では、第1マスク領域22は変更されない。
図5には、AF評価ウインドウの拡大を行う場合における焦点調節装置191により行われる処理の手順の一例を表すフローチャートが示されている。本実施形態では、このフローチャートの処理は、シャッタボタンが半押しの状態で行われる。
本実施形態では、スルー画モードにおける処理の手順を示す。
ここで、本実施形態に係る図5に示されるステップS11〜ステップS15の処理及びステップS17〜ステップS18の処理は、それぞれ、第1実施形態に係る図3に示されるステップS1〜ステップS5の処理及びステップS7〜ステップS8の処理と同様である。このため、ステップS16〜ステップS17の処理について説明する。
ステップS15の処理における判定の結果、第2の領域設定部193は、第1マスク領域の輝度が低いと判定した場合には、第1AF評価ウインドウよりも拡大した第2AF評価ウインドウを設定する(ステップS16)。そして、この場合には、焦点調節部194は、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する(ステップS17)。
このように、本実施形態では、例えば、撮像装置100の露光量が低い、照度が低いなどの理由で画像の輝度(本実施形態では、第1マスク領域の輝度の平均値等)が低いと判定される場合には、拡大されたAF評価ウインドウ(第2AF評価ウインドウ)を設定して、コントラストスキャン処理で使用されるAF評価値のS/N比を向上させることができ、これにより、合焦の精度を高めることができる。
ここで、本実施形態では、第2の領域設定部193は、第1AF評価ウインドウに対して1つの拡大されたAF評価ウインドウ(第2AF評価ウインドウ)を設定するが、他の例として、第1AF評価ウインドウに対して複数の拡大されたAF評価ウインドウ(第2AF評価ウインドウ)を生成して設定してもよい。具体的には、第2の領域設定部193は、所定の倍率でAF評価ウインドウを拡大する場合にその倍率(例えば、1.2倍、1.3倍、1.4倍など)を異ならせることにより、複数の段階で拡大されたAF評価ウインドウ(第2AF評価ウインドウ)を設定する。
そして、焦点調節部194は、第2の領域設定部193により設定された複数の段階のAF評価ウインドウ(第2AF評価ウインドウ)のそれぞれに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。
以上のように、本実施形態に係る焦点調節装置191では、スルー画や動画において、画像又は画像列より被写体の領域を想定し、その領域をコントラストスキャン処理に利用する場合に、その領域のデータが低輝度であるとき(或いは、撮影環境が低輝度であるようなとき)には、被写体と想定される領域に対して設定されるAF評価ウインドウを空間的に拡大することで、合焦の精度を高めることができる。
[第3実施形態]
本発明の第3実施形態について図面を参照して詳細に説明する。
本実施形態では、図1に示される焦点調節装置191を備える撮像装置100、レンズ鏡筒111、記憶媒体200と同様な構成を用いる。
また、本実施形態では、第1実施形態と同様な部分については詳しい説明を省略し、異なる部分について詳しく説明する。
概略的には、第1実施形態では、第1マスク領域及び第1AF評価ウインドウに対して、第1マスク領域より大きい第2マスク領域を設定し、当該第2マスク領域に応じて第2AF評価ウインドウを設定したが、本実施形態では、第1マスク領域とそれに隣接する他のマスク領域とを結合(統合)し、この結合領域に応じて第2AF評価ウインドウを設定する。
以下で、詳しく説明する。
第1の領域設定部192は、第1実施形態と同様に、第1マスク領域及び第1AF評価ウインドウを設定する。
第2の領域設定部193は、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定した場合には、第1の領域設定部192により設定された第1マスク領域に隣接する他のマスク領域を特定し、特定した当該他のマスク領域と第1マスク領域とを結合し、この結合領域に応じて第2AF評価ウインドウを設定する。本実施形態では、第1の領域設定部192により設定された第1マスク領域についてはそのままとする。
具体例として、第2の領域設定部193は、第1の領域設定部192により行われたラベリング処理により複数のマスク領域が抽出されて、その中の1つが第1マスク領域とされた場合に、抽出されたが第1マスク領域とはされなかった他のマスク領域の中で、第1マスク領域と最も近い位置(最も近い距離)にあるマスク領域を当該第1マスク領域と結合するために特定する。そして、第2の領域設定部193は、特定したマスク領域と第1マスク領域とを結合し、この結合により得られた全体の領域(結合領域)に対してAF評価ウインドウ(第2AF評価ウインドウ)を設定する。
ここで、2つの異なるマスク領域の間の距離としては、様々な手法で求められてもよく、例えば、各マスク領域の外枠の任意の位置同士で最も距離が短くなるところの距離を用いることができる。また、他の例として、各マスク領域の図形的な中心点を求めて、この中心点同士の距離を用いることができる。また、他の例として、各マスク領域内の画素の値に応じて重み付けをした重心点を求めて、この重心点同士の距離を用いることができる。
焦点調節部194は、第1実施形態と同様に、第2の領域設定部193によって、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定された場合には、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。
なお、本実施形態では、第1マスク領域とそれに隣接する他の1つのマスク領域とを結合するが、他の例として、第1マスク領域と他の2つ以上のマスク領域とを結合してもよい。第1マスク領域と他の2つ以上のマスク領域とを結合する場合には、例えば、第1マスク領域に対する距離が近い順に他のマスク領域を結合していくことができ、或いは、他の例として、第1マスク領域に結合した他のマスク領域に近いほかのマスク領域を結合することができる。
図6には、マスク領域の結合の一例が示されている。
マスク領域の結合前には、画像フレーム31において、第1の領域設定部192により第1マスク領域32及び第1AF評価ウインドウ33が設定されている。そして、画像の輝度が低くて、マスク領域の結合が必要な場合には、第2の領域設定部193により、第1マスク領域32とそれに隣接する他のマスク領域34とを結合した領域(本実施形態では、両方のマスク領域32、34を合わせた領域)に対して、画像フレーム31に、第2AF評価ウインドウ35が設定される。なお、本実施形態では、第1マスク領域32は変更されない。
図7には、マスク領域の結合を行う場合における焦点調節装置191により行われる処理の手順の一例を表すフローチャートが示されている。本実施形態では、このフローチャートの処理は、シャッタボタンが半押しの状態で行われる。
本実施形態では、スルー画モードにおける処理の手順を示す。
ここで、本実施形態に係る図7に示されるステップS21〜ステップS25の処理及びステップS27〜ステップS28の処理は、それぞれ、第1実施形態に係る図3に示されるステップS1〜ステップS5の処理及びステップS7〜ステップS8の処理と同様である。このため、ステップS26〜ステップS27の処理について説明する。
ステップS25の処理における判定の結果、第2の領域設定部193は、第1マスク領域の輝度が低いと判定した場合には、第1マスク領域とそれに隣接する他のマスク領域とを結合し、この結合領域に対して第2AF評価ウインドウを設定する(ステップS26)。そして、この場合には、焦点調節部194は、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する(ステップS27)。
このように、本実施形態では、例えば、撮像装置100の露光量が低い、照度が低いなどの理由で画像の輝度(本実施形態では、第1マスク領域の輝度の平均値等)が低いと判定される場合には、第1マスク領域とそれに隣接する他のマスク領域とを結合し、この結合領域に対してAF評価ウインドウ(第2AF評価ウインドウ)を設定して、コントラストスキャン処理で使用されるAF評価値のS/N比を向上させることができ、これにより、合焦の精度を高めることができる。
なお、第1マスク領域と他のマスク領域とがそれぞれAFレンズ112から異なる距離に位置する被写体に対応する場合には、これらの領域を結合した領域に対して第2AF評価ウインドウを設定して、AFコントラススキャン処理を実行すると、AFレンズ112を移動させた位置に対するAF評価値の変化において、当該AF評価値のピークが2つ以上発生すると推定される。この場合には、例えば、この第2AF評価ウインドウを使用するコントラストスキャン処理を中止することや、或いは、最も至近に存在する被写体に対応するマスク領域に焦点を合わせることができる。最も至近に存在する被写体は、例えば、各被写体(各マスク領域)に焦点を合わせたときにおけるAFレンズ112の位置に基づいて検出することができる。
ここで、本実施形態では、第2の領域設定部193は、第1マスク領域と他のマスク領域とを結合した領域を1つだけ設定するが、他の例として、マスク領域の結合の仕方が異なる複数の段階の結合領域を設定して、各段階の結合領域に対してAF評価ウインドウ(第2AF評価ウインドウ)を設定してもよい。複数の段階の結合領域としては、例えば、結合するマスク領域の数を1つずつ増加させたものを用いることができる。
そして、焦点調節部194は、第2の領域設定部193により設定された複数の段階のAF評価ウインドウ(第2AF評価ウインドウ)のそれぞれに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。
以上のように、本実施形態に係る焦点調節装置191では、スルー画や動画において、画像又は画像列より被写体の領域を想定し、その領域をコントラストスキャン処理に利用する場合に、その領域のデータが低輝度であるとき(或いは、撮影環境が低輝度であるようなとき)には、被写体と想定される領域(本実施形態では、マスク領域)を隣接する他の領域(本実施形態では、他のマスク領域)と結合して空間的に拡大することで、合焦の精度を高めることができる。
[以上の実施形態に関する例]
図8には、3つの異なるAF評価ウインドウ1、2、3について、各AF評価ウインドウ1、2、3によるコントラストスキャン処理時のAF評価値の例が示されている。
横軸はAFレンズ112の位置を表しており、縦軸はコントラスト統計量(本実施形態では、AF評価値)を表している。なお、AF評価値のグラフの太さは揺らぎを表している。
この例では、AF評価ウインドウ1よりAF評価ウインドウ2の方が大きく、AF評価ウインドウ2よりAF評価ウインドウ3の方が大きい。そして、AF評価ウインドウ1を使用した場合よりAF評価ウインドウ2を使用した場合の方がAF評価値のS/N比が改善され、AF評価ウインドウ2を使用した場合よりAF評価ウインドウ3を使用した場合の方がAF評価値のS/N比が改善される。これにより、例えば、AF評価ウインドウ1やAF評価ウインドウ2を使用した場合にはコントラストのピーク(山)を十分には検知できないのに対して、AF評価ウインドウ3を使用した場合にはコントラストのピーク(山)を十分に検知することができる。
なお、図8に示されるような状況は、AF評価ウインドウ1、2、3としてそれぞれ様々なものが使用されたときに成立し得る。具体例として、AF評価ウインドウ1として第1の領域設定部192により設定された第1AF評価ウインドウが用いられ、AF評価ウインドウ2として第2の領域設定部193によりマスク拡大(第1実施形態)、AF評価ウインドウ拡大(第2実施形態)、マスク結合(第3実施形態)のいずれかにより設定された第2AF評価ウインドウが用いられ、AF評価ウインドウ3として第2の領域設定部193によりマスク拡大(第1実施形態)、AF評価ウインドウ拡大(第2実施形態)、マスク結合(第3実施形態)のいずれかにより設定された第2AF評価ウインドウが用いられるような場合が考えられる。
[第4実施形態]
本発明の第4実施形態について図面を参照して詳細に説明する。
本実施形態では、図1に示される焦点調節装置191を備える撮像装置100、レンズ鏡筒111、記憶媒体200と同様な構成を用いる。
また、本実施形態では、第1実施形態と同様な部分については詳しい説明を省略し、異なる部分について詳しく説明する。
概略的には、第1実施形態から第3実施形態では、マスク領域やAF評価ウインドウを空間的に拡大して、サンプルの量を空間的に拡大したが、本実施形態では、複数の画像フレームを用いることで、サンプルの量を時間的に拡大する。
また、本実施形態では、焦点調節装置191は、音出力制御部195と、光出力制御部196を備えており、これらが動作する。
以下で、詳しく説明する。
第1の領域設定部192は、第1実施形態と同様に、第1マスク領域及び第1AF評価ウインドウを設定する。
第2の領域設定部193は、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定した場合には、AF評価値を算出する対象とする画像フレームの数(N)を設定する。
ここで、AF評価値を算出する対象とする画像フレームの数(N)を決定する手法としては、様々なものが用いられてもよく、例えば、AF評価値を算出する対象として設定された第1マスク領域に含まれる画素の輝度成分Yの平均値又は最大値又は最小値などのように、予め任意に設定された画像の輝度に関する値に基づいて、コントラストスキャン処理で使用されるAF評価値のS/N比が十分(一例として、所定のデシベル値)となると推定される画像フレームの数を決定することができる。
この一例としては、予め行われた測定やシミュレーションの結果に基づいて、このような画像の輝度に関する値と画像フレームの数との対応を記憶しておいて、この記憶内容を参照して、検出された当該画像の輝度に関する値に対応した画像フレームの数を読み出して決定することができる。
また、他の例として、このような画像の輝度に関する値をパラメータとする関数を予め記憶しておいて、この関数を参照して、検出された当該画像の輝度に関する値を当該関数に代入した結果の値を算出して、その算出結果の値を画像フレームの数として決定することができる。
また、他の例として、AF評価値を算出する対象とする画像フレームの数(N)が予め所定の値に固定的に設定されてもよい。
また、AF評価値を算出する対象とする複数(N枚)の画像フレームとしては、本実施形態では、一定の時間間隔毎に撮影された画像フレームが用いられる。なお、他の例として、AF評価値を算出する対象とする複数(N枚)の画像フレームとして、予め設定された選択手法で、一定の時間間隔毎ではない任意の複数の画像フレームが選択されて用いられてもよい。
また、同一の第1マスク領域が存在する複数の画像フレームでは、撮影時間が変化することで、各画像フレームにおける第1マスク領域の位置が変化することが考えられるが、短い時間であれば、その変化量は小さいとも考えらえる。
このため、本実施形態では、第2の領域設定部193は、AF評価値を算出する対象とする複数(N枚)の画像フレームのそれぞれに対して、第1の領域設定部192により設定された第1AF評価ウインドウと同じ位置にあるAF評価ウインドウを第2AF評価ウインドウとして設定する。
他の例として、第2の領域設定部193は、AF評価値を算出する対象とする複数(N枚)の画像フレームのそれぞれに対して、異なる位置となり得る第2AF評価ウインドウを設定することもできる。具体例として、第2の領域設定部193は、複数(N枚)の画像フレームのそれぞれについて、位置が変化し得る第1マスク領域に対してAF評価ウインドウを設定する処理を行い、これにより得られた画像フレーム毎に位置が異なり得るAF評価ウインドウを第2AF評価ウインドウとして設定する。
同様に、AFレンズ112を1つの位置で停止させた状態でN枚の画像フレームについてAF評価値を算出等する処理を、AFレンズ112の位置を異ならせて、所定の回数(M回)実行する場合に、一例として、第2の領域設定部193は、これら全ての回数について、同一の位置にある第2AF評価ウインドウを設定することができる。他の例として、第2の領域設定部193は、この回数毎に、異なる位置となり得る第2AF評価ウインドウを設定することができる。
図9には、AF評価値を算出する対象とする複数の画像フレームの設定の一例が示されている。
この例では、第1の領域設定部192が画像フレーム41に対して第1マスク領域45及び第1AF評価ウインドウ46を設定する。そして、第2の領域設定部193が、所定の判定条件により画像の輝度が低いと判定した場合には、AF評価値を算出する対象とする画像フレームの数(この例では、N=4)を設定し、AF評価値を算出する対象とするN(=4)枚の画像フレーム41〜44のそれぞれについて、第2AF評価ウインドウ47を設定する。
ここで、この例では、第1の領域設定部192により第1マスク領域45及び第1AF評価ウインドウ46を設定した画像フレーム41を、AF評価値を算出する対象とする複数の画像フレーム41〜44に含めたが、他の例として、含めないようにしてもよい。
焦点調節部194は、第2の領域設定部193によって、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定されなかった場合には、第1の領域設定部192により設定された第1AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、この場合には、1枚の画像フレームに基づいて、コントラストスキャン処理を実行する。本実施形態では、このコントラストスキャン処理は、通常時(本実施形態において低輝度ではないと判定したとき)のコントラストスキャン処理となる。
一方、焦点調節部194は、第2の領域設定部193によって、第1の領域設定部192によりAF評価値を算出する対象として設定された第1マスク領域について、所定の判定条件により画像の輝度が低いと判定された場合には、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、この場合には、複数(N枚)の画像フレームに基づいて、コントラストスキャン処理を実行する。
具体的には、焦点調節部194は、AF評価値を算出する対象として設定された複数(N枚)の画像フレームのそれぞれについて、設定された第2AF評価ウインドウを使用してAF評価値を算出し、算出された複数(N枚分)のAF評価値の平均値を算出し、この平均値が最大(ピーク)となるAFレンズ112の位置を合焦位置として調節する。
なお、本実施形態では、複数(N枚分)のAF評価値の平均値を用いるが、他の例として、複数(N枚分)のAF評価値の加算値が用いられてもよい。
また、本実施形態では、AF評価値を算出する対象とする複数(N枚)の画像フレームとしては、AFレンズ112の位置が同一であるときに撮影されたものを用いる。他の例として、合焦の精度が許容される範囲で、AF評価値を算出する対象とする複数(N枚)の画像フレームとして、AFレンズ112の位置が同一ではないが近い位置にあるときに撮影されたものが用いられてもよい。
図10には、複数(N枚)の画像フレームのそれぞれについて算出されたAF評価値1〜Nを平均する例が示されている。
具体的には、N枚の画像フレーム51−1〜51−Nと、各画像フレーム51−1〜51−Nにおける第1マスク領域52と、各画像フレーム51−1〜51−Nにおける第2AF評価ウインドウ53が示されている。
この例では、N枚の画像フレーム51−1〜51−Nのそれぞれについて算出したAF評価値1〜Nの平均値を使用して、コントラストスキャン処理を実行する。
このように複数(N枚)の画像フレームのそれぞれについて算出されたAF評価値の平均値(或いは、加算値)を使用すると、1枚の画像フレームについて算出されたAF評価値のみを使用する場合と比べて、全体の電子数(サンプル数)が増加することで、AF評価値(本実施形態では、その平均値或いは加算値)はより強いコントラストを示す値となり、AF評価値のS/N比が向上する。これにより、光学系の焦点を調節する際における合焦の精度を高めることができ、AFの性能を向上させることができる。
具体例として、第2AF評価ウインドウ内に含まれる画素の数が同じであっても、複数(N枚)の画像フレームのそれぞれについて算出されたAF評価値の平均値(或いは、加算値)を使用すると、1枚の画像フレームについて算出されたAF評価値のみを使用する場合と比べて、AF評価値のS/N比が向上する。
音出力制御部195及び光出力制御部196の動作について説明する。
本実施形態では、暗い環境で撮影する場合のように、所定の判定条件により画像の輝度が低いと判定された場合には、複数の画像フレームを使用してコントラストスキャン処理を実行することが行われる。そして、このようなコントラストスキャン処理には、通常のコントラストスキャン処理よりも長い時間がかかるため、本実施形態では、そのことを写真を撮られる被写体側或いは撮影者側に知らせる(告知する)ための音や光を出力する。
ここで、本実施形態では、シャッタボタンが全押しの状態になってから、このようなコントラストスキャンを実行する構成とする。このため、シャッタボタンが全押しの状態になってからコントラストスキャン処理が終了するまでの間に時間を要するため、この間に、人などの被写体が動くことや、或いは、撮影者が撮像装置100(カメラ)を動かすことは好ましくない。
そこで、具体的には、シャッタボタンが全押しの状態になってから複数の画像フレームを使用したコントラストスキャン処理が終了するまでの間、音出力制御部195は、音出力部211を制御して、所定の音を当該音出力部211により出力する。
同様に、シャッタボタンが全押しの状態になってから複数の画像フレームを使用したコントラストスキャン処理が終了するまでの間、光出力制御部196は、光出力部212を制御して、所定の光を当該光出力部212により出力する。
ここで、告知のために出力する音としては、様々な音が用いられてもよい。一例として、ビープ(BEEP)音を用いることができる。
また、告知のために出力する光としては、様々な光が用いられてもよい。一例として、LEDにより点滅する光を用いることができる。
また、告知のために音や光を出力することを開始するタイミングや終了するタイミングとしては、任意であってもよく、例えば、シャッタボタンが全押しの状態になってから複数の画像フレームを使用したコントラストスキャン処理が終了するまでの間の期間の開始タイミング及び終了タイミングに対して、必ずしも完全に一致していなくてもよい。
また、本実施形態では、告知のために音と光を出力するが、音と光のうちの一方のみを出力する構成が用いられてもよい。
図11及び図12には、複数(N枚)の画像フレームについてのAF評価値の平均値を使用する場合における焦点調節装置191により行われる処理の手順の一例を表すフローチャートが示されている。
本実施形態では、スルー画モードにおける処理の手順を示す。
まず、第1の領域設定部192は、前回のフレーム画像により、特徴量にてマスク領域を探索する処理を行う(ステップS31)。
なお、この場合に、必要があれば、補助光が点灯されてもよい。
次に、第1の領域設定部192は、探索されたマスク領域が複数あるか否かを判定し、探索されたマスク領域が複数ある場合には、探索された各マスク領域に優先度を付ける(ステップS32)。なお、探索されたマスク領域が1つである場合には、そのマスク領域の優先度が最も高いとする。本実施形態では、優先度が最も高いマスク領域が第1マスク領域とされる。
第2の領域設定部193は、第1の領域設定部192により優先度が最も高いマスク領域とされた第1マスク領域に基づいてコントラストスキャン処理を行うために、当該第1マスク領域の輝度について平均値等を算出する(ステップS33)。
次に、第2の領域設定部193は、操作部180のシャッタボタンが全押しの状態にされたか否かを判定する(ステップS34)。
この判定の結果、第2の領域設定部193が操作部180のシャッタボタンが全押しの状態にされていないと判定した場合には、ステップS31の処理へ戻る。
一方、この判定の結果、第2の領域設定部193は、操作部180のシャッタボタンが全押しの状態にされたと判定した場合には、算出した輝度の平均値等に基づいて、所定の判定条件により第1マスク領域の輝度が低いか否かを判定する(ステップS35)。
なお、他の例として、第1マスク領域の輝度が低いか否かを判定する処理の代わりに、第1マスク領域の周囲の環境の領域の輝度が低いか否かを判定する処理などを用いることもできる。
この判定の結果、第2の領域設定部193が第1マスク領域の輝度が低くはないと判定した場合には、焦点調節部194は、第1の領域設定部192により設定された第1AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、通常時のコントラストスキャン処理を実行する(ステップS38)。
一方、この判定の結果、第2の領域設定部193は、第1マスク領域の輝度が低いと判定した場合には、その低輝度の条件(状況)に応じて、AF評価値を算出するために加算を行う露光フレームの数(AF評価値を算出する対象とする画像フレームの数)(N)を設定する。また、第2の領域設定部193は、AF評価値を算出する対象とする複数(N枚)の画像フレームのそれぞれに対して、第2AF評価ウインドウを設定する(ステップS36)。
ここで、本実施形態では、AFレンズ112の1つの位置(1つのフォーカスポジション)毎に、N枚の画像フレームについてAF評価値を算出する構成を用いている。
概要としては、焦点調節部194は、AF評価値を算出する対象として設定された複数(N枚)の画像フレームのそれぞれについて、設定された第2AF評価ウインドウを使用してAF評価値を算出し、算出された複数(N枚分)のAF評価値の平均値を算出し、この平均値が最大(ピーク)となるAFレンズ112の位置を合焦位置として調節する。
このような調節を行うために、焦点調節部194は、まず、鏡筒制御部118に対して駆動制御信号を送信することで、AFレンズ112を所定の初期位置に移動させるとともに、AFレンズ112を駆動するステッピングモーター(STM)のコントローラ(STMC)にステップ数を書き込んで設定する(ステップS37)。
ここで、ステップ数はAFレンズ112の移動距離を規定する。ステップ数は、例えば、AF評価値を算出する対象とする画像フレームの数(N)に基づいて決定されてもよく、或いは、予め所定の値が固定的に設定されてもよい。
また、AFレンズ112の所定の初期位置としては、様々な位置が用いられてもよく、例えば、無限位置、或いは、至近位置を用いることができる。
次に、焦点調節部194は、ステップアンドリードの動作により、AFレンズ112の各位置で、N枚の画像フレームについてAF評価値を算出及び記憶する(ステップS39〜ステップS43、ステップS47)。
なお、この場合に、必要があれば、補助光が点灯されてもよい。
具体的には、焦点調節部194は、AFレンズ112が停止した状態で、撮像センサ(本実施形態では、撮像素子119)により得られた画像のデータを読み出し(ステップS39)、読み出した画像のデータに基づいてAF評価値を算出し、算出したAF評価値を記憶する(ステップS40)。
そして、焦点調節部194は、AFレンズ112の1つの位置で、このような処理をN枚の画像フレームについて終了したか否かを判定し(ステップS41)、終了していないと判定した場合にはステップS39の処理へ戻る。
一方、焦点調節部194は、AFレンズ112の1つの位置で、前記のような処理をN枚の画像フレームについて終了したと判定した場合には、ステップS42の処理へ進む。このとき、このAFレンズ112の1つの位置について、算出されたN個のAF評価値が記憶されることとなる。
なお、AF評価値を記憶する場所としては、任意であってもよく、例えば、記憶部160に記憶することができる。
ステップS42の処理では、焦点調節部194から鏡筒制御部118に送信される駆動制御信号に基づいて、AFレンズ112を規定パルス(本実施形態では、設定されたステップ数)に応じた移動距離だけ移動させる(ステップS42)。このAFレンズ112の移動の方向は、1回のコントラストスキャン処理において、同一の方向である。
次に、焦点調節部194は、コントラストスキャン処理におけるN枚の画像フレームについてのAF評価値の算出等が所定の回数(M回)終了したか否かを判定する(ステップS43)。
この判定の結果、焦点調節部194がコントラストスキャン処理におけるN枚の画像フレームについてのAF評価値の算出等が所定の回数(M回)終了していないと判定した場合には、音出力制御部195が音出力部211によりビープ音を出力するとともに、光出力制御部196が光出力部212によりLED表示の光を出力する(ステップS47)。そして、ステップS39の処理へ戻る。
ここで、告知のために出力される音や光により、複数の画像フレームを使用したコントラストスキャン処理が実行中であることが、被写体人物や撮影者に知らされる。これによって、被写体人物は動かないように注意し、撮影者は撮像装置100を動かさないように注意する、ことを促すことができる。
本実施形態におけるステップアンドリードの動作では、AFレンズ112を1つの位置で停止させた状態でN枚の画像フレームについてAF評価値を算出して記憶し、その後、AFレンズ112を次の位置へ移動させて停止させた状態で同様にAF評価値を算出等することを所定の回数(M回)行う。このようなAFレンズ112の移動及び停止の動作を制御する構成としては、例えば、焦点調節部194から鏡筒制御部118へAFレンズ112の移動のたびに駆動制御信号を送信して制御する構成が用いられてもよく、或いは、他の例として、コントラストスキャン処理における一連のAFレンズ112の移動及び停止の動作の全てについて予め焦点調節部194から鏡筒制御部118へ駆動制御信号を送信して制御する構成が用いられてもよい。
また、AFレンズ112を1つの位置で停止させた状態でN枚の画像フレームについてAF評価値を算出等する所定の回数(M回)としては、任意の値が設定されてもよく、例えば、15回などの値を用いることができる。
また、N枚の画像フレームについてAF評価値を算出等する最初のAFレンズ112の位置としては、例えば、AFレンズ112の初期位置であってもよく、或いは、AFレンズ112の初期位置から移動させた位置であってもよい。
ステップS43の処理における判定の結果、焦点調節部194は、コントラストスキャン処理におけるN枚の画像フレームについてのAF評価値の算出等が所定の回数(M回)終了したと判定した場合には、各回(AFレンズ112の各位置)について、算出したN枚の画像フレームについてのAF評価値を平均する(ステップS44)。
次に、焦点調節部194は、各回(AFレンズ112の各位置)について算出したAF評価値の平均値について、その山のピークを検出する(ステップS45)。
そして、焦点調節部194は、検出した山のピークに対応したAFレンズ112の位置となるように、鏡筒制御部118に駆動制御信号を送信して、AFレンズ112を移動させる(ステップS46)。
本実施形態では、これにより、光学系の焦点が合焦状態に調節される。そして、撮影露光する(ステップS48)。これにより、画像が撮像される。
ここで、図11及び図12に示されるフローチャートでは、AFレンズ112を各位置で停止した状態でN枚の画像フレームを取得する場合を示したが、他の例として、AFレンズ112を移動させた状態で、AFレンズ112の各位置について、当該各位置を含む近い範囲の位置で、N枚の画像フレームを取得する構成(流し読みの構成)を用いることも可能である。
このような流し読みの構成を用いる場合には、図11及び図12に示されるフローチャートにおいて、ステップS37の処理では、焦点調節部194は、AFレンズ112を駆動するステッピングモーター(STM)のコントローラ(STMC)にステップ数を書き込んで設定する処理の代わりに、ステッピングモーター(STM)のコントローラ(STMC)にパルスレートを書き込んで設定する。
ここで、パルスレートはAFレンズ112の移動速度を規定する。パルスレートは、例えば、AF評価値を算出する対象とする画像フレームの数(N)に基づいて決定されてもよく、或いは、予め所定の値が固定的に設定されてもよい。
また、本実施形態では、1回のコントラストスキャン処理では、パルスレートは一定であり、AFレンズ112の移動速度は等速であるとする。
また、流し読みの構成を用いる場合には、ステップS39〜ステップS41の処理では、AFレンズ112が等速で移動している状態で、焦点調節部194は、AFレンズ112の各位置の付近のタイミングで、撮像センサ(本実施形態では、撮像素子119)により得られたN枚の画像のデータを読み出し、読み出したそれぞれの画像のデータに基づいてAF評価値を算出し、算出したAF評価値を記憶する。
また、流し読みの構成を用いる場合には、ステップS42の処理は不要である。
ここで、ステップアンドリードの動作と流し読みの動作を比較すると、通常、ステップアンドリードの方が精度は良いが時間がかかる。この点を考慮して、いずれか任意の動作が選択されて行われればよい。また、これら2種類の動作を任意に切り替えて行うことが可能な構成を用いることもできる。
図13には、焦点調節時におけるAFレンズ112の位置(フォーカスポジション)の駆動の一例が示されている。
この例では、AFレンズ112の位置(フォーカスポジション)の初期位置として無限位置が用いられている。
具体的には、まず、初期位置駆動によりフォーカスポジションが初期位置へ移動させられ、その後、AFサーチ駆動によりフォーカスポジションが初期位置から最後の位置(本実施形態では、至近の方の位置)へ移動させられ、その後、合焦駆動によりAF評価値(本実施形態では、複数(N枚)の画像フレームについてのAF評価値の平均値)が最も大きかった位置(ピークの位置)へフォーカスポジションが移動させられる。
ここで、図13では、AFサーチ駆動において、フォーカスポジションが連続的に移動させられる例が示されているが、ステップアンドリードの動作では、AFサーチ駆動において、設定されたステップ数(移動距離)ごとにフォーカスポジションが停止された状態となり、移動と停止が繰り返される。
図14(a)には、通常時(本実施形態において低輝度ではないと判定したとき)のコントラストスキャン処理の場合におけるAF評価値のサンプルの例が示されている。
図14(b)には、低輝度時(本実施形態において低輝度であると判定したとき)のコントラストスキャン処理の場合におけるAF評価値のサンプルの例が示されている。
図14(a)に示されるように、通常時のコントラストスキャン処理では、フォーカスポジションが連続的に等速度で移動させられるときに、所定の回数(この例では、M=12回)、等間隔でAF評価値のサンプルが取得される。
一方、図14(b)に示されるように、低輝度時のコントラストスキャン処理では、ステップアンドリードの動作が行われる場合、フォーカスポジションが移動中に所定の回数(この例では、M=12回)停止状態となり、各停止状態で複数(この例では、N=4枚)の画像フレームについてAF評価値のサンプルが取得される。
このように、本実施形態では、例えば、撮像装置100の露光量が低い、照度が低いなどの理由で画像の輝度(本実施形態では、第1マスク領域の輝度の平均値等)が低いと判定される場合には、複数回の露光により得られる複数(N枚)の画像フレームのデータを利用する。具体的には、これら複数(N枚)の画像フレームのデータについてAF評価値を取得して、これら複数のAF評価値の平均値等を使用することで、コントラストスキャン処理で使用されるAF評価値(本実施形態では、平均値等)のS/N比を向上させることができ、これにより、合焦の精度を高めることができる。
ここで、本実施形態では、第2の領域設定部193は、AF評価値を算出する対象とする画像フレームの数(N)を1つだけ設定するが、他の例として、AF評価値を算出する対象とする画像フレームの数(N)として異なる複数の段階の値を設定して、各段階の値に対してAF評価ウインドウ(第2AF評価ウインドウ)を設定してもよい。複数の段階の値としては、例えば、AF評価値を算出する対象とする画像フレームの数(N)を1つずつ増加させたものを用いることができる。
そして、焦点調節部194は、第2の領域設定部193により設定された複数の段階の画像フレームの数(N)のそれぞれに基づいてAF評価値(本実施形態では、平均値等)を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。
以上のように、本実施形態に係る焦点調節装置191では、スルー画や動画において、画像又は画像列より被写体の領域を想定し、その領域をコントラストスキャン処理に利用する場合に、その領域のデータが低輝度であるとき(或いは、撮影環境が低輝度であるようなとき)には、被写体と想定される領域(本実施形態では、マスク領域)を複数回露光サンプリングし、その複数回のデータを利用することで、合焦の精度を高めることができる。本実施形態では、複数回のデータを利用する場合に、毎回のデータによりAF評価値を算出し、算出した複数のデータについてのAF評価値を利用する。
なお、本実施形態では、シャッタボタンが全押しの状態にされる場合の動作について説明したが、シャッタボタンが半押しの状態にされる場合の動作については、任意の態様が用いられてもよい。一例として、シャッタボタンが半押しの状態では、シャッタボタンが全押しの状態になったときと同様に、告知のために音と光を出力しながら、複数の画像フレームを使用したコントラストスキャン処理を実行するが、シャッタボタンが半押しの状態である間は、他の動作はロックして行われないようにすることができる。
[以上の実施形態に関する例]
ここで、第1実施形態に係る空間的なマスク拡大を行う構成と、第2実施形態に係る空間的なAF評価ウインドウ拡大を行う構成と、第3実施形態に係る空間的なマスク結合を行う構成と、第4実施形態に係る時間的に複数の画像フレームを使用する構成は、それぞれ独立して実施されてもよく、或いは、任意の2つ以上が組み合わされて実施されてもよい。
[第5実施形態]
本発明の第5実施形態について図面を参照して詳細に説明する。
本実施形態では、図1に示される焦点調節装置191を備える撮像装置100、レンズ鏡筒111、記憶媒体200と同様な構成を用いる。
本実施形態では、顔検出の画像処理を実行する構成について説明する。
ここで、顔検出の画像処理では、画像フレームから顔(例えば、人の顔)であると判断される部分を含む領域(顔枠領域)を検出する。この処理では、例えば、顔を構成する2つの目、鼻、口などといった所定の特徴から顔に相当すると推定される部分を探して、その部分を含む顔枠領域を特定する。この顔枠領域は、例えば、顔に相当すると推定される部分の境界(外周)を含むように設定され、一例として、顔に相当すると推定される部分の縦横の所定値倍(1.2倍など)の大きさの矩形の領域などを用いることができる。
なお、顔に相当すると推定される部分を探すための目、鼻、口などといった所定の特徴の情報は、例えば、予め設定される。
また、本実施形態では、顔検出の画像処理を使用する場合を示すが、他の例として、顔検出の画像処理の代わりに、ペット検出の画像処理を使用することもできる。
ここで、ペット検出の画像処理では、画像フレームからペット(例えば、犬や猫などの特定の動物)であると判断される部分を含む領域(ペット枠領域)を検出する。ペット検出の画像処理では、このペット枠領域が、顔検出の画像処理における顔枠領域に対応するものとして、適用することができる。
なお、顔検出やペット検出の画像処理としては、様々な手法が用いられてもよく、例えば、様々な公知の技術を利用することが可能である。
また、本実施形態では、第3実施形態に係る空間的な領域の結合を行う構成と同様な構成と、第4実施形態に係る時間的に複数の画像フレームを使用する構成と同様な構成とを組み合わせた構成に、顔検出の画像処理を適用した場合について説明する。
このため、本実施形態では、第3実施形態や第4実施形態と同様な部分については詳しい説明を省略し、異なる部分について詳しく説明する。
以下で、詳しく説明する。
焦点調節装置191により行われる動作について説明する。
第1の領域設定部192は、顔検出の画像処理を行う機能を有している。そして、第1の領域設定部192は、撮像素子119からA/D変換部120を介して入力されたスルー画像に対して、AF評価値を算出する範囲を特定する枠であるAF評価ウインドウ(第1AF評価ウインドウ)として、顔検出の画像処理により検出された顔枠領域を設定する。
なお、本実施形態では、第3実施形態や第4実施形態で言うマスク領域(第1マスク領域)としては、顔検出の画像処理により顔であると判断される部分が対応するが、この部分自体は特定せずに、この部分を含む顔枠領域を特定する。このため、本実施形態では、第1の領域設定部192は、AF評価値を算出する対象とするマスク領域(第1マスク領域)については特に設定せずに、AF評価値を算出する範囲を特定する枠である第1AF評価ウインドウ(顔枠領域)のみを設定する。
また、第1の領域設定部192は、例えば顔検出の画像処理により複数の顔枠領域が抽出される場合には、各顔枠領域に優先度を設定する。そして、第1の領域設定部192は、これら複数の顔枠領域の中で、優先度が最も高い顔枠領域をAF評価値を算出する範囲を特定する枠である第1AF評価ウインドウとして設定する。優先度が最も高い顔枠領域の顔は、主要な被写体であると想定される。
なお、優先度は、様々な手法で設定されてもよく、例えば、画像フレームの中心に近いほど高い優先度を顔枠領域に設定することができる。
第2の領域設定部193は、第1の領域設定部192により設定されたAF評価値を算出する範囲を特定する枠である第1AF評価ウインドウ(顔枠領域)について、当該第1AF評価ウインドウに含まれる画素の輝度成分Yの値に基づいて、所定の判定条件により画像の輝度が低いか否かを判定する。
ここで、この判定の手法としては、第3実施形態や第4実施形態と同様に、様々な手法が用いられてもよい。例えば、画像の輝度が低いか否かをユーザにより判断する手法、或いは、測光センサを使用する手法などを用いることもできる。
第2の領域設定部193は、第1の領域設定部192により所定の判定条件により画像の輝度が低いと判定した場合には、第1の領域設定部192により複数の顔枠領域が抽出されているときには、所定の条件を満たせば、顔の結合処理を行う。具体的には、第2の領域設定部193は、第1の領域設定部192により第1AF評価ウインドウとして設定された顔枠領域の顔に対して、直近にあってAFレンズ112の同一の深度内にあるとみなすことができる他の顔枠領域の顔を特定し、これら2つの顔の部分を含む枠の領域を第2AF評価ウインドウとして設定する。一方、第2の領域設定部193は、第1の領域設定部192により第1AF評価ウインドウとして設定された顔枠領域の顔に対して、直近にあって同一の深度内にあるとみなすことができる他の顔枠領域の顔が無い場合には、第1AF評価ウインドウ(1つの顔の顔枠領域)を第2AF評価ウインドウとして設定する。
具体例として、第2の領域設定部193は、第1の領域設定部192により複数の顔枠領域が抽出されて、その中の1つが第1AF評価ウインドウとされた場合に、抽出されたが第1AF評価ウインドウとはされなかった他の顔枠領域の顔の中で、第1AF評価ウインドウとされた顔枠領域の顔と最も近い位置(最も近い距離)にある顔を結合対象の候補として特定する。そして、第2の領域設定部193は、結合対象の候補として特定した顔と第1AF評価ウインドウとされた顔枠領域の顔とが同一の深度内にあるとみなせるか否かを判定し、これらの顔が同一の深度内にあるとみなせると判定した場合には、これらの顔を結合した部分を含む枠の領域を第2AF評価ウインドウとして設定する。
ここで、2つの異なる顔の間の距離としては、様々な手法で求められてもよく、例えば、各顔に相当すると推定される部分の任意の位置同士で最も距離が短くなるところの距離を用いることができる。また、他の例として、各顔に相当すると推定される部分の図形的な中心点を求めて、この中心点同士の距離を用いることができる。また、他の例として、各顔に相当すると推定される部分内の画素の値に応じて重み付けをした重心点を求めて、この重心点同士の距離を用いることができる。また、以上について、各顔の間の距離として、各顔に相当すると推定される部分の間の距離の代わりに、各顔の顔枠領域の間の距離を用いることもできる。
また、2つの異なる顔がAFレンズ112の同一の深度内にあるとみなせるか否かを判定する手法としては、様々な手法が用いられてもよく、例えば、画像フレームにおいて、2つの異なる顔の大きさ(画素数)の差(又は、比率)が所定の閾値以下である場合には、同一の深度内にあるとみなせると判定することができる。
他の例として、画像フレームにおいて、2つの異なる顔を構成する2つの目、鼻、口などの配置関係に関する値の差(又は、比率)が所定の閾値以下である場合には、同一の深度内にあるとみなせると判定することができる。このような顔の構成部の配置関係に関する値としては、一例として、2つの目の間の幅を用いることができる。
なお、画像処理において、大人の顔と子供の顔を識別する技術が知られており、この技術を利用して、子供の顔である場合には、同一の深度内にあっても大人の顔より小さいものとして扱うことも可能である。
また、2つの異なる顔を結合した部分を含む枠の領域(第2AF評価ウインドウ)としては、例えば、2つの異なる顔に相当すると推定される部分の境界(外周)を含むように設定され、一例として、2つの異なる顔に相当すると推定される部分の縦横の所定値倍(1.2倍など)の大きさの矩形の領域などを用いることができる。
更に、第2の領域設定部193は、第1の領域設定部192により所定の判定条件により画像の輝度が低いと判定した場合には、AF評価値を算出する対象とする画像フレームの数(N)を設定する。
ここで、AF評価値を算出する対象とする画像フレームの数(N)を決定する手法としては、第4実施形態と同様に、様々なものが用いられてもよい。
また、同一の顔が存在する複数の画像フレームでは、撮影時間が変化することで、各画像フレームにおける顔の位置が変化することが考えられる。
このため、本実施形態では、AFレンズ112を1つの位置で停止させた状態でN枚の画像フレームについてAF評価値を算出等する処理を、AFレンズ112の位置を異ならせて、所定の回数(M回)実行する場合に、第2の領域設定部193は、この回数毎に、顔検出の画像処理又は顔の位置ずれの検出処理を行って、異なる位置となり得る第2AF評価ウインドウを設定する。
具体的には、一例として、第2の領域設定部193は、顔検出の画像処理を行う機能を有しており、撮像素子119からA/D変換部120を介して入力されたスルー画像に対して、AF評価値を算出する範囲を特定する枠であるAF評価ウインドウ(第2AF評価ウインドウ)として、顔検出の画像処理により特定された枠の領域を設定する。本実施形態では、この枠の領域として、前記と同様に、1つの顔の顔枠領域又は2つの顔を結合した部分を含む枠の領域が用いられる。
他の例として、第2の領域設定部193は、顔の位置ずれの検出処理を行う機能を有しており、撮像素子119からA/D変換部120を介して入力されたスルー画像に対して、画像フレームの時間的な変化による顔の位置ずれを検出して、その検出結果に基づいて、第2AF評価ウインドウ(本実施形態では、前記と同様に、1つの顔の顔枠領域又は2つの顔を結合した部分を含む枠の領域)の位置を補正して設定する。ここで、顔の位置ずれの検出処理としては、様々な手法が用いられてもよく、例えば、様々な公知の技術を利用することが可能である。
ここで、上記のように、AFレンズ112を1つの位置で停止させた状態でN枚の画像フレームについてAF評価値を算出等する処理を、AFレンズ112の位置を異ならせて、所定の回数(M回)実行する場合に、第2の領域設定部193が、この回数毎に、顔検出の画像処理又は顔の位置ずれの検出処理を行って、異なる位置となり得る第2AF評価ウインドウを設定する処理は、例えば、位置ずれを検出する対象とする顔について、前回における顔の位置と今回における顔の位置との差が所定の閾値以上である場合にだけ行う構成とされてもよい。つまり、対象とする顔の位置ずれが所定の閾値以上に大きいときにだけ第2AF評価ウインドウを設定し直す構成を用いることもできる。
なお、他の例として、AFレンズ112を1つの位置で停止させた状態でN枚の画像フレームについてAF評価値を算出等する処理を、AFレンズ112の位置を異ならせて、所定の回数(M回)実行する場合に、第2の領域設定部193は、これら全ての回数について、同一の位置にある第2AF評価ウインドウを設定することもできる。
焦点調節部194は、第2の領域設定部193によって、第1の領域設定部192により設定されたAF評価値を算出する範囲を特定する枠である第1AF評価ウインドウ(顔枠領域)について、所定の判定条件により画像の輝度が低いと判定されなかった場合には、第1の領域設定部192により設定された第1AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、この場合には、1枚の画像フレームに基づいて、コントラストスキャン処理を実行する。本実施形態では、このコントラストスキャン処理は、通常時(本実施形態において低輝度ではないと判定したとき)のコントラストスキャン処理となる。
一方、焦点調節部194は、第2の領域設定部193によって、第1の領域設定部192により設定されたAF評価値を算出する範囲を特定する枠である第1AF評価ウインドウ(顔枠領域)について、所定の判定条件により画像の輝度が低いと判定された場合には、第2の領域設定部193により設定された第2AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、この場合には、複数(N枚)の画像フレームに基づいて、コントラストスキャン処理を実行する。また、本実施形態では、顔の結合処理を行った場合には、2つの顔を結合した部分を含む枠の領域を第2AF評価ウインドウとして用いる。
具体的には、焦点調節部194は、AF評価値を算出する対象として設定された複数(N枚)の画像フレームのそれぞれについて、設定された第2AF評価ウインドウを使用してAF評価値を算出し、算出された複数(N枚分)のAF評価値の平均値を算出し、この平均値が最大(ピーク)となるAFレンズ112の位置を合焦位置として調節する。
なお、本実施形態では、複数(N枚分)のAF評価値の平均値を用いるが、他の例として、複数(N枚分)のAF評価値の加算値が用いられてもよい。
また、本実施形態では、AF評価値を算出する対象とする複数(N枚)の画像フレームとしては、AFレンズ112の位置が同一であるときに撮影されたものを用いる。他の例として、合焦の精度が許容される範囲で、AF評価値を算出する対象とする複数(N枚)の画像フレームとして、AFレンズ112の位置が同一ではないが近い位置にあるときに撮影されたものが用いられてもよい。
なお、本実施形態では、第1AF評価ウインドウとして設定された顔枠領域の顔と他の1つの顔を結合するが、他の例として、第1AF評価ウインドウとして設定された顔枠領域の顔と他の2つ以上の顔とを結合する場合には、例えば、同一の深度内とみなせる複数の顔について、第1AF評価ウインドウとして設定された顔枠領域の顔に対する距離が近い順に他の顔を結合していくことができ、或いは、他の例として、第1AF評価ウインドウとして設定された顔枠領域の顔に結合した他の顔に近いほかの顔を結合することができる。
図15には、顔の結合の一例が示されている。
顔の結合前には、画像フレーム61において、第1の領域設定部192により顔62に対する顔枠領域(第1AF評価ウインドウ)63が設定されている。そして、画像の輝度が低くて、顔の結合が必要な場合には、第2の領域設定部193により、前記した顔62と他の顔64とを結合した部分に対して、画像フレーム61に、これら2つの顔62、64の部分を含む枠の領域(第2AF評価ウインドウ)65が設定される。
図16には、複数(N枚)の画像フレームのそれぞれについて算出されたAF評価値1〜Nを平均する例が示されている。
具体的には、N枚の画像フレーム71−1〜71−Nと、各画像フレーム71−1〜71−Nにおける結合された2つの顔72、73と、各画像フレーム71−1〜71−Nにおける第2AF評価ウインドウ74が示されている。
この例では、N枚の画像フレーム71−1〜71−Nのそれぞれについて算出したAF評価値1〜Nの平均値を使用して、コントラストスキャン処理を実行する。
図17及び図18には、顔の結合及び複数(N枚)の画像フレームについてのAF評価値の平均値を使用する場合における焦点調節装置191により行われる処理の手順の一例を表すフローチャートが示されている。
本実施形態では、スルー画モードにおける処理の手順を示す。
まず、第1の領域設定部192は、例えば前回のフレーム画像により、顔検出の画像処理を実行する(ステップS51)。
なお、この場合に、必要があれば、補助光が点灯されてもよい。
次に、第1の領域設定部192は、顔検出の画像処理において、顔が検知されたか否か(これによって顔枠領域が検知されたか否か)を判定し(ステップS52)、顔枠領域が検知されなかったと判定した場合には、ステップS51の処理へ戻る。
一方、第1の領域設定部192は、顔枠領域が検知されたと判定した場合には、検知された顔枠領域が複数あるか否かを判定し、検知された顔枠領域が複数ある場合には、検知された各顔枠領域に中央から優先度を付ける(ステップS53)。なお、検知された顔枠領域が1つである場合には、その顔枠領域の優先度が最も高いとする。本実施形態では、優先度が最も高い顔枠領域が第1AF評価ウインドウとされる。
第2の領域設定部193は、第1の領域設定部192により優先度が最も高い顔枠領域とされた第1AF評価ウインドウに基づいてコントラストスキャン処理を行うために、当該第1AF評価ウインドウの輝度について平均値等を算出する(ステップS54)。
次に、第2の領域設定部193は、操作部180のシャッタボタンが全押しの状態にされたか否かを判定する(ステップS55)。
この判定の結果、第2の領域設定部193が操作部180のシャッタボタンが全押しの状態にされていないと判定した場合には、ステップS51の処理へ戻る。
一方、この判定の結果、第2の領域設定部193は、操作部180のシャッタボタンが全押しの状態にされたと判定した場合には、算出した輝度の平均値等に基づいて、所定の判定条件により第1AF評価ウインドウの輝度が低いか否かを判定する(ステップS56)。
なお、他の例として、第1AF評価ウインドウの輝度が低いか否かを判定する処理の代わりに、第1AF評価ウインドウの周囲の環境の領域の輝度が低いか否かを判定する処理などを用いることもできる。
この判定の結果、第2の領域設定部193が第1AF評価ウインドウの輝度が低くはないと判定した場合には、焦点調節部194は、第1の領域設定部192により設定された第1AF評価ウインドウに基づいてAF評価値を算出することとし、算出したAF評価値に基づいて光学系の焦点を合焦状態になるように調節するコントラストスキャン処理を実行する。つまり、通常時のコントラストスキャン処理を実行する(ステップS61)。
一方、この判定の結果、第2の領域設定部193は、第1AF評価ウインドウの輝度が低いと判定した場合には、顔の結合を行うか否かを判定する(ステップS57)。具体的には、第2の領域設定部193は、第1の領域設定部192により複数の顔が検知された場合には、第1の領域設定部192により第1AF評価ウインドウとして設定された顔枠領域の顔に対して、直近にある他の顔枠領域の顔が同一の深度内にあるとみなすことができるか否かを判定する(ステップS57)。
この判定の結果、第2の領域設定部193は、第1の領域設定部192により第1AF評価ウインドウとして設定された顔枠領域の顔に対して、直近にある他の顔枠領域の顔が同一の深度内にあるとみなすことができないと判定した場合には、第1AF評価ウインドウを第2AF評価ウインドウとして設定し、ステップS59の処理へ移行する。
一方、この判定の結果、第2の領域設定部193は、第1の領域設定部192により第1AF評価ウインドウとして設定された顔枠領域の顔に対して、直近にある他の顔枠領域の顔が同一の深度内にあるとみなすことができると判定した場合には、これら2つの顔の部分を含む枠の領域を第2AF評価ウインドウとして設定する(ステップS58)。この場合には、図15に示されるように、2つの顔の領域が合成されて、トータルの枠の大きさが拡大される。そして、ステップS59の処理へ移行する。
ステップS59の処理では、第2の領域設定部193は、第1AF評価ウインドウの低輝度の条件(状況)に応じて、AF評価値を算出するために加算を行う露光フレームの数(AF評価値を算出する対象とする画像フレームの数)(N)を設定する。また、第2の領域設定部193は、AF評価値を算出する対象とする複数(N枚)の画像フレームのそれぞれに対して、第2AF評価ウインドウを設定する(ステップS59)。
ここで、本実施形態では、AFレンズ112の1つの位置(1つのフォーカスポジション)毎に、N枚の画像フレームについてAF評価値を算出する構成を用いている。
概要としては、焦点調節部194は、AF評価値を算出する対象として設定された複数(N枚)の画像フレームのそれぞれについて、設定された第2AF評価ウインドウを使用してAF評価値を算出し、算出された複数(N枚分)のAF評価値の平均値を算出し、この平均値が最大(ピーク)となるAFレンズ112の位置を合焦位置として調節する。
このような調節を行うために、焦点調節部194は、まず、鏡筒制御部118に対して駆動制御信号を送信することで、AFレンズ112を所定の初期位置に移動させるとともに、AFレンズ112を駆動するステッピングモーター(STM)のコントローラ(STMC)にステップ数を書き込んで設定する(ステップS60)。
次に、焦点調節部194は、ステップアンドリードの動作により、AFレンズ112の各位置で、N枚の画像フレームについてAF評価値を算出及び記憶する(ステップS62〜ステップS67、ステップS71)。
なお、この場合に、必要があれば、補助光が点灯されてもよい。
具体的には、焦点調節部194は、AFレンズ112が停止した状態で、まず、画像フレームにおいて、顔検出の画像処理(又は、顔の位置ずれの検出処理)を実行して、顔の領域を確認し、例えば、第2AF評価ウインドウにある顔が移動したことなどによって、当該顔の位置がずれたような場合には、位置がずれた後の顔の位置に合わせて第2AF評価ウインドウを設定し直す(ステップS62)。なお、このように第2AF評価ウインドウを設定し直す処理は、例えば、所定の判定条件に基づいて、その顔の位置が大きく変化したと判定された場合にだけ行ってもよい。
次に、焦点調節部194は、AFレンズ112が停止した状態で、撮像センサ(本実施形態では、撮像素子119)により得られた画像のデータを読み出し(ステップS63)、読み出した画像のデータに基づいてAF評価値を算出し、算出したAF評価値を記憶する(ステップS64)。
そして、焦点調節部194は、AFレンズ112の1つの位置で、このような処理をN枚の画像フレームについて終了したか否かを判定し(ステップS65)、終了していないと判定した場合にはステップS63の処理へ戻る。
一方、焦点調節部194は、AFレンズ112の1つの位置で、前記のような処理をN枚の画像フレームについて終了したと判定した場合には、ステップS66の処理へ進む。このとき、このAFレンズ112の1つの位置について、算出されたN個のAF評価値が記憶されることとなる。
ステップS66の処理では、焦点調節部194から鏡筒制御部118に送信される駆動制御信号に基づいて、AFレンズ112を規定パルス(本実施形態では、設定されたステップ数)に応じた移動距離だけ移動させる(ステップS66)。このAFレンズ112の移動の方向は、1回のコントラストスキャン処理において、同一の方向である。
次に、焦点調節部194は、コントラストスキャン処理におけるN枚の画像フレームについてのAF評価値の算出等が所定の回数(M回)終了したか否かを判定する(ステップS67)。
この判定の結果、焦点調節部194がコントラストスキャン処理におけるN枚の画像フレームについてのAF評価値の算出等が所定の回数(M回)終了していないと判定した場合には、音出力制御部195が音出力部211によりビープ音を出力するとともに、光出力制御部196が光出力部212によりLED表示の光を出力する(ステップS71)。そして、ステップS62の処理へ戻る。
ここで、告知のために出力される音や光により、複数の画像フレームを使用したコントラストスキャン処理が実行中であることが、被写体人物や撮影者に知らされる。これによって、被写体人物は動かないように注意し、撮影者は撮像装置100を動かさないように注意する、ことを促すことができる。
ステップS67の処理における判定の結果、焦点調節部194は、コントラストスキャン処理におけるN枚の画像フレームについてのAF評価値の算出等が所定の回数(M回)終了したと判定した場合には、各回(AFレンズ112の各位置)について、算出したN枚の画像フレームについてのAF評価値を平均する(ステップS68)。
次に、焦点調節部194は、各回(AFレンズ112の各位置)について算出したAF評価値の平均値について、その山のピークを検出する(ステップS69)。
そして、焦点調節部194は、検出した山のピークに対応したAFレンズ112の位置となるように、鏡筒制御部118に駆動制御信号を送信して、AFレンズ112を移動させる(ステップS70)。
本実施形態では、これにより、光学系の焦点が合焦状態に調節される。そして、撮影露光する(ステップS72)。これにより、画像が撮像される。
ここで、図17及び図18に示されるフローチャートでは、AFレンズ112を各位置で停止した状態でN枚の画像フレームを取得する場合を示したが、他の例として、AFレンズ112を移動させた状態で、AFレンズ112の各位置について、当該各位置を含む近い範囲の位置で、N枚の画像フレームを取得する構成(流し読みの構成)を用いることも可能である。
このような流し読みの構成を用いる場合には、図17及び図18に示されるフローチャートにおいて、ステップS60の処理では、焦点調節部194は、AFレンズ112を駆動するステッピングモーター(STM)のコントローラ(STMC)にステップ数を書き込んで設定する処理の代わりに、ステッピングモーター(STM)のコントローラ(STMC)にパルスレートを書き込んで設定する。
ここで、パルスレートはAFレンズ112の移動速度を規定する。パルスレートは、例えば、AF評価値を算出する対象とする画像フレームの数(N)に基づいて決定されてもよく、或いは、予め所定の値が固定的に設定されてもよい。
また、本実施形態では、1回のコントラストスキャン処理では、パルスレートは一定であり、AFレンズ112の移動速度は等速であるとする。
また、流し読みの構成を用いる場合には、ステップS62〜ステップS65の処理では、AFレンズ112が等速で移動している状態で、焦点調節部194は、AFレンズ112の各位置の付近のタイミングで、撮像センサ(本実施形態では、撮像素子119)により得られたN枚の画像のデータを読み出し、読み出したそれぞれの画像のデータに基づいてAF評価値を算出し、算出したAF評価値を記憶する。
また、流し読みの構成を用いる場合には、ステップS66の処理は不要である。
以上のように、本実施形態に係る焦点調節装置191では、スルー画や動画において、画像又は画像列よりAF評価値を算出する範囲を特定する枠の領域(本実施形態では、顔の部分を含む領域である顔枠領域)を設定し、その領域をコントラストスキャン処理に利用する場合に、その領域のデータが低輝度であるとき(或いは、撮影環境が低輝度であるようなとき)には、その領域を空間的に拡大することで、合焦の精度を高めることができる。本実施形態では、画像フレームにおいて、顔の結合により、空間的な拡大を実現している。
ここで、本実施形態では、顔検出の画像処理を用いて、AF評価値を算出する範囲を特定する枠の領域(本実施形態では、顔の部分を含む領域である顔枠領域)を設定しており、この場合、検出対象(本実施形態では、顔)の大きさを大体予測することが可能である。このため、本実施形態では、一例として、画像フレームにおいて、結合する候補となる2つの顔の大きさを比較して、これら2つの顔がAFレンズ112からほぼ同じ距離だけ離れた位置に存在する(AFレンズ112の同一深度内である)とみなすことができる大きさの関係であるときに、これら2つの顔を結合して、枠の領域(第2AF評価ウインドウ)を拡大するように判断する。
なお、顔検出の画像処理と同様に、ペット検出の画像処理においても、検出対象(この例では、所定のペット)の大きさを大体予測することが可能である。
また、本実施形態に係る焦点調節装置191では、スルー画や動画において、画像又は画像列よりAF評価値を算出する範囲を特定する枠の領域(本実施形態では、顔の部分を含む領域である顔枠領域)を設定し、その領域をコントラストスキャン処理に利用する場合に、その領域のデータが低輝度であるとき(或いは、撮影環境が低輝度であるようなとき)には、その領域を複数回露光サンプリングし、その複数回のデータを利用することで、合焦の精度を高めることができる。本実施形態では、複数回のデータを利用する場合に、毎回のデータによりAF評価値を算出し、算出した複数のデータについてのAF評価値を利用する。
また、本実施形態に係る焦点調節装置191では、複数回のデータ(本実施形態では、複数の画像フレーム)について、毎回のデータに基づいてAF評価値を取得することを繰り返して行う場合に、このような繰り返しの処理(サンプリング)を複数回のデータについて行っている途中であることを音や光によって外部に告知することで、被写体となる人物や撮影者などに、注意を喚起することができる。
なお、本実施形態では、このような繰り返しの処理(サンプリング)を複数回のデータについて行っている途中であることを外部に告知するが、他の例として、このような繰り返しの処理(サンプリング)を複数回のデータについて終了したときに、そのことを音や光によって外部に告知する構成とすることもできる。また、このような繰り返しの処理(サンプリング)を複数回のデータについて行っている途中であるときと、このような繰り返しの処理(サンプリング)を複数回のデータについて終了したときとで、外部に告知する音や光の種類を異ならせて、両方の告知を行う構成とすることもできる。
ここで、本実施形態では、顔検出の画像処理(又は、ペット検出の画像処理)を、第3実施形態と同様な構成や、第4実施形態と同様な構成に適用した場合について説明したが、他の例として、第2実施形態に係る空間的なAF評価ウインドウ拡大を行う構成と同様な構成に適用することも可能である。
顔検出の画像処理(又は、ペット検出の画像処理)を第2実施形態に係る空間的なAF評価ウインドウ拡大を行う構成と同様な構成に適用する場合には、第2の領域設定部193は、所定の判定条件により画像の輝度が低いと判定した場合には、第1の領域設定部192により設定された第1AF評価ウインドウより大きいAF評価ウインドウ(第2AF評価ウインドウ)を設定する。
また、本実施形態では、AF評価値を算出する範囲を特定する枠の領域を設定する手法として、顔検出の画像処理やペット検出の画像処理を用いて特定の枠の領域を設定する場合について説明したが、他の様々な領域設定の手法が用いられてもよい。
具体的な一例として、画像フレームにおいて、予め用意されたテンプレート画像に一致する或いは類似する画像部分の領域を、被写体(第1マスク領域)或いは第1AF評価ウインドウの領域として検出する画像処理を適用することも可能である。
また、他の例として、第1の領域設定部192により設定される第1マスク領域或いは第1評価ウインドウを人の手動によって設定する構成を用いることもできる。なお、人の手動によって操作する操作部としては、例えば、操作部180を用いることができ、この場合、操作部180は、人(ユーザ)の操作入力を受け付け、操作入力に応じた信号を第1の領域設定部192へ送信する構成とする。
また、他の例として、画像フレーム(画角)に予め固定的に設定された第1AF評価ウインドウ(例えば、画像フレームに設定される9点のウインドウなど)を使用する構成を適用することもできる。
また、本実施形態のように、顔検出の画像処理で検出された顔(又は、ペット検出の画像処理で検出されたペット)など、時間的に変化し得る領域を使用する場合には、例えば、時間的に変化し得る領域を追尾する構成が用いられてもよく、或いは、時間的な変化が小さいようなときには、時間的に変化し得る領域を追尾せずに固定的に扱うような構成が用いられてもよい。
[以上の実施形態について]
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
また、本発明により行われる処理の手順(例えば、図3、5、7、11、12、17、18を用いて説明した手順)を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
更に、「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
更に、前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。