以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
まず、図1を参照して、本実施形態における撮像装置の概略構成について説明する。図1は、本実施形態における撮像装置100(カメラ)のブロック図である。撮像装置100は、カメラ本体とカメラ本体に着脱可能な交換レンズ(結像光学系または撮影光学系)とを備えたデジタルカメラシステムである。ただし本実施形態は、これに限定されるものではなく、カメラ本体とレンズとが一体的に構成された撮像装置にも適用可能である。
第1レンズ群101は、撮影レンズ(結像光学系)を構成する複数のレンズ群のうち最も前方(被写体側)に配置されており、光軸OAの方向(光軸方向)に進退可能な状態でレンズ鏡筒に保持される。絞り兼用シャッタ102(絞り)は、その開口径を調節することで撮影時の光量調節を行うとともに、静止画撮影時には露光時間調節用シャッタとして機能する。第2レンズ群103は、絞り兼用シャッタ102と一体的に光軸方向に進退し、第1レンズ群101の進退動作と連動して変倍動作を行うズーム機能を有する。第3レンズ群105は、光軸方向に進退することにより焦点調節(フォーカス動作)を行うフォーカスレンズ群である。光学的ローパスフィルタ106は、撮影画像の偽色やモアレを軽減するための光学素子である。第1レンズ群101、絞り兼用シャッタ102、第2レンズ群103、第3レンズ群105、および、光学的ローパスフィルタ106は、結像光学系を構成している。
撮像素子107は、結像光学系を介して被写体像(光学像)の光電変換を行い、例えばCMOSセンサまたはCCDセンサ、および、その周辺回路により構成される。撮像素子107としては、例えば、横方向にm個の画素、縦方向にn個の画素を有する受光ピクセル上にベイヤー配列の原色カラーモザイクフィルタをオンチップで形成した2次元単板カラーセンサが用いられる。
ズームアクチュエータ111は、不図示のカム筒を回動(駆動)することで第1レンズ群101、絞り兼用シャッタ102、および、第2レンズ群103を光軸方向に沿って移動させることにより、変倍動作を行う。絞りシャッタアクチュエータ112は、絞り兼用シャッタ102の開口径を制御して光量(撮影光量)を調節するとともに、静止画撮影時の露光時間を制御する。絞りシャッタアクチュエータ112は、絞り駆動手段と遮光手段とを兼ねている。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に移動させて焦点調節を行う。
電子フラッシュ115は、被写体を照明するために用いられる照明装置である。電子フラッシュ115としては、キセノン管を備えた閃光照明装置または連続発光するLED(発光ダイオード)を備えた照明装置が用いられる。AF補助光手段116は、所定の開口パターンを有するマスクの像を、投光レンズを介して、被写体に投影する。これにより、暗い被写体や低コントラストの被写体に対する焦点検出能力を向上させることができる。
CPU121は、撮像装置100の種々の制御を司る制御装置(制御手段)である。CPU121は、絞り制御手段121a、信号制御手段121b、露出制御手段121c、デフォーカス量算出手段121d、および、フォーカス制御手段121eを有する。これらの各手段の機能については後述する。またCPU121は、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、および、通信インターフェイス回路などを有する。CPU121は、ROMに記憶された所定のプログラムを読み出して実行することにより、撮像装置100の各種回路を駆動し、焦点検出(AF)、撮影、画像処理、または、記録などの一連の動作を制御する。
また本実施形態において、CPU121は、結像光学系の状態に応じた焦点検出用の補正値を記憶している。焦点検出補正値は、第3レンズ群105の位置に対応したフォーカス状態、第1レンズ群101の位置に対応したズーム状態、および、結像光学系のFナンバーごとに複数用意されている。そしてCPU121は、撮像素子107の出力信号を用いて後述する焦点調節を行う際に、結像光学系の第1レンズ群101、第3レンズ群105の位置、および、Fナンバーに対応した最適な焦点検出補正値を選択する。なお本実施形態において、焦点検出補正値をCPU121(の内部メモリ)に記憶するように構成されているが、これに限定されるものではない。例えば、交換レンズ式の撮像装置においては、結像光学系を有する交換レンズが不揮発性メモリを有し、そのメモリに前述の焦点検出補正値を記憶してもよい。この場合、結像光学系の状態に応じて、焦点検出補正値を撮像装置に送信すればよい。
電子フラッシュ制御回路122は、撮影動作に同期して電子フラッシュ115の点灯制御を行う。補助光駆動回路123は、焦点検出動作に同期してAF補助光手段116の点灯制御を行う。撮像素子駆動回路124は、撮像素子107の撮像動作を制御するとともに、取得した画像信号をA/D変換してCPU121に送信する。
画像処理回路125は、撮像素子107から出力された画像データのγ(ガンマ)変換、カラー補間、または、JPEG(Joint Photographic Experts Group)圧縮などの処理を行う。
フォーカス駆動回路126は、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動し、第3レンズ群105を光軸方向に沿って移動させることにより、焦点調節を行う。絞りシャッタ駆動回路128は、絞りシャッタアクチュエータ112を駆動して、絞り兼用シャッタ102の開口径を制御する。ズーム駆動回路129(ズーム駆動手段)は、撮影者のズーム操作に応じて、ズームアクチュエータ111を駆動する。
表示器131(表示手段)は、例えばLCD(液晶表示装置)を備えて構成される。表示器131は、撮像装置100の撮影モードに関する情報、撮影前のプレビュー画像、撮影後の確認用画像、または、焦点検出時の合焦状態表示画像などを表示する。操作部132(操作スイッチ群)は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、および、撮影モード選択スイッチなどを備えて構成される。レリーズスイッチは、半押し状態(SW1がONの状態)、および、全押し状態(SW2がONの状態)の2段階のスイッチを有する。記録媒体133は、例えば撮像装置100に着脱可能なフラッシュメモリであり、撮影画像(画像データ)を記録する。
次に、図2および図3を参照して、本実施形態における撮像素子107の画素配列および画素構造について説明する。図2は、撮像素子107の画素配列を示す図である。図3は、撮像素子107の画素構造を示す図であり、図3(a)は撮像素子107の画素200Gの平面図(+z方向から見た図)、図3(b)は図3(a)中の線a−aの断面図(−y方向から見た図)をそれぞれ示している。
図2は、撮像素子107(2次元CMOSセンサ)の画素配列(撮影画素の配列)を、4列×4行の範囲で示している。本実施形態において、各々の撮像画素(画素200R、200G、200B)は、2つの焦点検出画素201、202(副画素)により構成されている。このため、図2には、焦点検出画素の配列が、8列×4行の範囲で示されている。
図2に示されるように、2列×2行の画素群200は、画素200R、200G、200Bがベイヤー配列で配置されている。すなわち画素群200のうち、R(赤)の分光感度を有する画素200Rが左上に、G(緑)の分光感度を有する画素200Gが右上と左下に、B(青)の分光感度を有する画素200Bが右下にそれぞれ配置されている。各画素200R、200G、200B(各撮像画素)は、2列×1行に配列された焦点検出画素201、202(副画素)により構成されている。焦点検出画素201(第1焦点検出画素)は、結像光学系の第1瞳領域を通過した光束を受光する画素である。焦点検出画素202(第2焦点検出画素)は、結像光学系の第2瞳領域を通過した光束を受光する画素である。
図2に示されるように、撮像素子107は、4列×4行の撮像画素(8列×4行の焦点検出画素)を面上に多数配置して構成されており、撮像信号(焦点検出信号または副画素信号)を出力する。本実施形態の撮像素子107は、画素(撮像画素)の周期Pが4μm、画素(撮像画素)の数Nが横5575列×縦3725行=約2075万画素である。また撮像素子107は、焦点検出画素の列方向の周期PAFが2μm、焦点検出画素の数NAFが横11150列×縦3725行=約4150万画素である。
図3(b)に示されるように、本実施形態の画素200Gには、画素の受光面側に入射光を集光するためのマイクロレンズ305が設けられている。マイクロレンズ305は、2次元状に複数配列されており、受光面からz軸方向(光軸OAの方向)に所定の距離だけ離れた位置に配置されている。また画素200Gには、x方向にNH分割(2分割)、y方向にNV分割(1分割)された光電変換部301および光電変換部302が形成されている。光電変換部301および光電変換部302は、それぞれ、焦点検出画素201および焦点検出画素202に対応する。
光電変換部301および光電変換部302は、それぞれ、p型層とn型層との間にイントリンシック層を挟んだpin構造のフォトダイオードとして構成される。必要に応じて、イントリンシック層を省略し、pn接合のフォトダイオードとして構成してもよい。画素200G(各画素)には、マイクロレンズ305と、光電変換部301および光電変換部302との間に、カラーフィルタ306が設けられる。必要に応じて、焦点検出画素ごとにカラーフィルタ306の分光透過率を変えることができ、またはカラーフィルタを省略してもよい。
図3に示されるように、画素200Gに入射した光は、マイクロレンズ305により集光され、カラーフィルタ306で分光された後、光電変換部301および光電変換部302で受光される。光電変換部301および光電変換部302においては、受光量に応じて電子とホールとの対が生成され、それらが空乏層で分離された後、負電荷の電子はn型層に蓄積される。一方、ホールは定電圧源(不図示)に接続されたp型層を通じて、撮像素子107の外部へ排出される。光電変換部301および光電変換部302のn型層に蓄積された電子は、転送ゲートを介して、静電容量部(FD)に転送され、電圧信号に変換される。
次に、図4を参照して、撮像素子107の瞳分割機能について説明する。図4は、撮像素子107の瞳分割機能の説明図であり、一つの画素部における瞳分割の様子を示している。図4は、図3(a)に示される画素構造のa−a断面を+y側から見た断面図、および、結像光学系の射出瞳面を示している。図4では、射出瞳面の座標軸と対応を取るため、断面図のx軸およびy軸を図3のx軸およびy軸に対してそれぞれ反転させている。
図4において、焦点検出画素201(第1焦点検出画素)の瞳部分領域501(第1瞳部分領域)は、重心が−x方向に偏心している光電変換部301の受光面と、マイクロレンズ305を介して略共役関係になっている。このため瞳部分領域501は、焦点検出画素201で受光可能な瞳領域を表している。焦点検出画素201の瞳部分領域501の重心は、瞳面上で+x側に偏心している。また、焦点検出画素202(第2焦点検出画素)の瞳部分領域502(第2瞳部分領域)は、重心が+x方向に偏心している光電変換部302の受光面と、マイクロレンズ305を介して略共役関係になっている。このため瞳部分領域502は、焦点検出画素202で受光可能な瞳領域を表している。焦点検出画素202の瞳部分領域502の重心は、瞳面上で−x側に偏心している。瞳領域500は、光電変換部301、302(焦点検出画素201、202)を全て合わせた際の画素200G全体で受光可能な瞳領域である。
図5は、撮像素子107と瞳分割機能の説明図である。結像光学系の瞳領域のうち互いに異なる瞳部分領域501、502を通過した光束は、撮像素子107の各画素に互いに異なる角度で撮像素子107の撮像面800に入射し、2×1分割された焦点検出画素201、202で受光される。本実施形態では、瞳領域が水平方向に2つに瞳分割されている例について説明しているが、これに限定されるものではなく、必要に応じて垂直方向に瞳分割を行ってもよい。
なお本実施形態において、第1焦点検出画素と第2焦点検出画素とから構成された撮像画素が複数配列されているが、本実施形態はこれに限定されるものではない。必要に応じて、撮像画素、第1焦点検出画素、および、第2焦点検出画素を個別の画素構成とし、撮像画素の配列の一部に、第1焦点検出画素と第2焦点検出画素とを部分的に配置する構成としてもよい。
本実施形態において、撮像装置100は、撮像素子107の焦点検出画素201の受光信号を集めて第1焦点検出信号を生成し、撮像素子107の焦点検出画素202の受光信号を集めて第2焦点検出信号を生成して焦点検出を行う。また撮像装置100は、撮像素子107の画素ごとに、焦点検出画素201の信号と焦点検出画素202の信号とを加算(合成)することにより、有効画素数Nの解像度の撮像信号(撮像画像)を生成する。
次に、図6を参照して、撮像素子107の焦点検出画素201から取得される第1焦点検出信号および焦点検出画素202から取得される第2焦点検出信号のデフォーカス量と像ずれ量との関係について説明する。図6は、デフォーカス量と像ずれ量との関係図である。図6において、撮像素子107は撮像面800に配置されており、図4および図5と同様に、結像光学系の射出瞳が瞳部分領域501、502に2分割されている様子が示されている。
デフォーカス量dは、被写体の結像位置から撮像面800までの距離を|d|、結像位置が撮像面800よりも被写体側にある前ピン状態を負符号(d<0)、結像位置が撮像面800よりも被写体の反対側にある後ピン状態を正符号(d>0)として定義される。被写体の結像位置が撮像面800(合焦位置)にある合焦状態において、デフォーカス量d=0が成立する。図6において、合焦状態(d=0)である被写体801、および、前ピン状態(d<0)である被写体802がそれぞれ示されている。前ピン状態(d<0)および後ピン状態(d>0)を併せて、デフォーカス状態(|d|>0)という。
前ピン状態(d<0)では、被写体802からの光束のうち、瞳部分領域501(または瞳部分領域502)を通過した光束は、一度、集光する。その後、光束は、光束の重心位置G1(G2)を中心とする幅Γ1(Γ2)に広がり、撮像面800でボケた像となる。ボケた像は、撮像素子107に配列された各画素を構成する焦点検出画素201(焦点検出画素202)により受光され、第1焦点検出信号(第2焦点検出信号)が生成される。このため、第1焦点検出信号(第2焦点検出信号)は、撮像面800上の重心位置G1(G2)に、被写体802が幅Γ1(Γ2)にボケた被写体像として記録される。被写体像のボケ幅Γ1(Γ2)は、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね比例して増加する。同様に、第1焦点検出信号と第2焦点検出信号との間の被写体像の像ずれ量p(=光束の重心位置の差G1−G2)の大きさ|p|も、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加する。後ピン状態(d>0)に関しても同様であるが、第1焦点検出信号と第2焦点検出信号と間の被写体像の像ずれ方向が前ピン状態と反対となる。
このように本実施形態において、第1焦点検出信号と第2焦点検出信号、または、第1焦点検出信号と第2焦点検出信号とを加算した撮像信号のデフォーカス量の大きさが増加するのに伴い、第1焦点検出信号と第2焦点検出信号と間の像ずれ量の大きさは増加する。本実施形態において、撮像装置100は、第1焦点検出信号と第2焦点検出信号のデフォーカス量と像ずれ量との関係性を用いて、位相差検出方式の焦点検出を行う。この詳細については、後述する。
次に、図7を参照して、第1焦点検出信号および第2焦点検出信号を取得する撮像素子107上の領域である焦点検出領域について説明する。図7は、撮像素子107の有効画素領域1000における焦点検出領域と、焦点検出の際に表示器131に表示される焦点検出領域を示す指標と、を重ねて示している。本実施形態において、焦点検出領域として、行方向に3つ、および、列方向に3つの計9個の焦点検出領域が設定されている。行方向にn番目、列方向にm番目の焦点検出領域をA(n,m)と表し、この領域内における焦点検出画素201(第1焦点検出画素)および焦点検出画素202(第2焦点検出画素)の信号を用いて、後述する第1焦点検出および第2焦点検出を行う。同様に、行方向にn番目、列方向にm番目の焦点検出領域の指標をI(n,m)と表す。
なお本実施形態において、行方向に3つ、列方向に3つの焦点検出領域を設定した例を示している。しかしながら、前述の撮像素子107のように、有効画素領域1000の内部に設けられたいずれの画素からも第1焦点検出信号および第2焦点検出信号を取得可能な撮像素子においては、焦点検出領域の数、位置、サイズを適宜設定することができる。例えば、撮影者の指定した領域を中心として、所定の範囲を焦点検出領域として設定してもよい。
次に、図8を参照して、本実施形態における撮像装置100の制御方法(焦点検出動作および撮影動作)について説明する。図8は、本実施形態における焦点検出動作および撮影動作を示すフローチャートである。図8は、撮影スタンバイ状態などのライブビュー状態(動画撮影状態)から撮影を行うライブビュー撮影時の動作を示す。図8中の各ステップは、CPU121により実行されるか、または、CPU121の指令に基づいて撮像装置100の各部により実行される。
まず、ステップS1において、CPU121の制御に従い、撮像素子駆動回路124は、撮像素子107を駆動し、撮像データを取得する。ここでは、ライブビュー表示用の動画撮影のための駆動動作であるため、ライブビュー表示用のフレームレートに応じた時間の電荷蓄積と読み出しを行う、いわゆる電子シャッタを用いた撮影を行う。ここでのライブビュー表示は、撮影者が撮影範囲や撮影条件を確認するためのものであり、例えば、30フレーム/秒(撮影間隔33.3ms)や60フレーム/秒(撮影間隔16.6ms)である。
続いてステップS2において、CPU121は、ステップS1にて得られた撮像データのうち、図7に示される9つの焦点検出領域に含まれる第1焦点検出画素と第2焦点検出画素とから得られる焦点検出データを取得(抽出)する。またCPU121は、第1焦点検出画素からの出力信号と第2焦点検出画素からの出力信号とを加算して撮像信号を生成し、画像処理回路125で色補間処理などを適用して得られる画像データを取得(抽出)する。このように、1回の撮影により、画像データと焦点検出データとを取得することができる。なお本実施形態において、撮像画素、第1焦点検出画素、および、第2焦点検出画素を、個別の画素構成とした場合、焦点検出画素の補完処理などを行って画像データを取得すればよい。
続いてステップS3において、CPU121は、ステップS2にて得られた画像データに基づいて、画像処理回路125を用いてライブビュー表示用の画像を生成し、表示器131に表示する。なお、ライブビュー表示用の画像は、例えば表示器131の解像度に合わせた縮小画像であり、ステップS2にて画像データを生成する際に画像処理回路125を用いて縮小処理を実施することもできる。この場合、CPU121は、ステップS2にて取得した画像データを表示器131に表示させる。前述のとおり、ライブビュー表示中において、所定のフレームレートで撮影と表示が行われる。このため撮影者は、表示器131を通じて、撮影時の構図や露出条件の調整などを行うことができる。
続いてステップS4において、CPU121は、ステップS2にて取得した9つの焦点検出領域に対応する焦点検出データを用いて、デフォーカス量および方向を焦点検出領域ごとに求める。本実施形態において、CPU121は、焦点検出用の像信号(焦点検出信号)の生成、焦点検出信号のずれ量(位相差)の算出、および、算出したずれ量からデフォーカス量と方向を求める処理を実施する。続いてステップS5において、CPU121は、撮影準備開始を示すスイッチSw1のオン/オフを検出する。操作部132の一つであるレリーズ(撮影トリガ)スイッチは、押し込み量に応じて、2段階のオン/オフを検出可能である。前述のスイッチSw1のオン/オフは、レリーズ(撮影トリガ)スイッチの1段階目のオン/オフに相当する。ステップS5にてスイッチSw1のオンが検出されない(あるいはオフが検出された)場合、ステップS11へ進む。そしてステップS11において、CPU121は、操作部132に含まれるメインスイッチがオフされたか否かを判定する。
一方、ステップS5にてスイッチSw1のオンが検出されると、ステップS6へ進む。そしてステップS6において、CPU121は、合焦させる焦点検出領域を設定(選択)する。ここでは、撮影者により指示された焦点検出領域としてもよいし、ステップS4にて取得した9つの焦点検出領域のデフォーカス量の情報や焦点検出領域の撮影範囲中心からの距離の情報を用いて、CPU121が自動的に設定してもよい。一般に、撮影者の意図する被写体は、撮影距離の短い位置に存在する確率が高く、また撮影範囲の中央付近に存在する確率が高い。このため、CPU121は、例えば複数の被写体が存在する場合、これらの条件を考慮して適切と考えられる焦点検出領域を選択する。またCPU121は、例えば、被写体が1つであって、他は背景と考えられる場合、被写体が存在する焦点領域を選択する。
続いてステップS7において、CPU121は、選択した焦点検出領域にて検出されたデフォーカス量に基づいて、フォーカス駆動回路126およびフォーカスアクチュエータ114を用いてレンズ駆動を行う。検出されたデフォーカス量が所定値よりも小さい場合、必ずしもレンズ駆動を行う必要はない。
続いてステップS8において、CPU121は、ステップS1、S4と同様に、撮像データの取得、および、焦点検出処理を行う。ステップS8にて実行される処理は、ステップS7のレンズ駆動中に、並列的に行ってもよい。焦点検出処理を終えると、ステップS9へ進む。そしてステップS9において、CPU121は、撮影開始指示を示すスイッチSw2のオン/オフを検出する。操作部132の一つであるレリーズ(撮影トリガ)スイッチは、押し込み量に応じて、2段階のオン/オフを検出可能であり、前述のスイッチSw2は、レリーズ(撮影トリガ)スイッチの2段階目のオン/オフに相当する。CPU121は、ステップS9にてスイッチSw2のオンが検出されない場合、ステップS5へ戻り、スイッチSw1のオン/オフを検出する。
一方、ステップS9にてスイッチSw2のオンが検出されると、ステップS10へ進む。そしてステップS10において、CPU121は、画像記録を行うか否かを判定する。本実施形態において、CPU121は、連写中(連写撮影中)の画像処理を、記録画像用と焦点検出用とで周期的に切り替える。この周期的な切り替えは、交互でもよいし、例えば、3回に1回焦点検出を行うなどのように設定してもよい。これにより、単位時間当たりの撮影枚数を、大幅に減らすことなく、高精度な焦点検出を行うことができる。
ステップS10にて画像記録を行うと判定された場合、ステップS300へ進む。ステップS300において、CPU121は、撮影サブルーチンを実行する。なお、撮影サブルーチンの詳細については後述する。ステップS300にて撮影サブルーチンが実行されると、ステップS9に戻る。そしてCPU121は、スイッチSw2のオンが検出されたか否か、すなわち連写指示がされているか否かを判定する。
一方、ステップS10にて焦点検出を行うと判定された場合、ステップS400へ進む。ステップS400において、CPU121は、連写撮影中の焦点検出サブルーチンを実行する。なお、連写中の焦点検出サブルーチンの詳細については後述する。ステップS400にて連写中の焦点検出サブルーチンが実行されると、ステップS9へ戻る。そしてCPU121は、スイッチSw2のオンが検出されたか否か、すなわち連写指示がされているか否かを判定する。
ステップS5でスイッチSw1のオンが検出されず(または、スイッチSw1のオフが検出され)、かつ、ステップS11にてメインスイッチのオフが検出されると、CPU121は、焦点検出および撮影動作を終了する。一方、ステップS11にてメインスイッチのオフが検出されない場合、ステップS2へ戻り、画像データおよび焦点検出データの取得を行う。
次に、図9を参照して、図8のステップS300にて実行される撮影サブルーチンについて詳述する。図9は、撮影サブルーチン(ステップS300)を示すフローチャートである。図9中の各ステップは、CPU121により実行されるか、または、CPU121の指令に基づいて撮像装置100の各部により実行される。
まず、ステップS301において、CPU121(露出制御手段121c)は、露出制御処理を実行し、撮影条件(シャッタ速度、絞り値、撮影感度など)を決定する。露出制御処理は、CPU121が画像データの輝度情報に基づいて行うが、任意の公知技術を用いて実行することができる。本実施形態において、露出制御処理を行う際に用いる画像データを得るタイミングなどの詳細については後述する。またステップS301において、CPU121(絞り制御手段121a)は、決定した絞り値とシャッタ速度とを、絞りシャッタ駆動回路128を介して、絞りシャッタアクチュエータ112に送信し、絞り兼用シャッタ102の動作を制御する。またCPU121は、撮像素子駆動回路124を用いて、絞り兼用シャッタ102を介して撮像素子107が露光される期間、電荷蓄積を行わせる。
露光期間が終了すると、ステップS302へ進む。ステップS302において、CPU121(信号制御手段121c)は、撮像素子駆動回路124を用いて、高画素静止画撮影のための画像読み出し、すなわち全画素の読み出しを行う。続いてステップS303において、CPU121は、読み出された画像データに対して、画像処理回路125を用いて欠陥画素の補正処理(欠陥画素の補間)を行う。続いてステップS304において、CPU121は、欠陥画素を補正した後の画像データに対して、画像処理回路125を用いて所定の画像処理(変換処理)を行う。所定の画像処理とは、例えば、デモザイク(色補間)処理、ホワイトバランス処理、γ補正(階調補正)処理、色変換処理、および、エッジ強調処理などの画像処理、並びに、符号化処理である。続いてステップS305において、CPU121は、画像データファイル(画像信号)を記録媒体133(フラッシュメモリなどの記録手段)に記録する。
続いてステップS306において、CPU121は、ステップS305にて記録した撮影画像に対応させて、撮像装置100の本体(カメラ本体)の特性情報を記録媒体133およびCPU121内のメモリ(内部メモリ)に記録する。カメラ本体の特性情報は、撮影条件(絞り値、シャッタ速度、撮影感度など)、画像処理回路125により適用される画像処理に関する情報、撮像素子107の撮像画素および焦点検出画素の受光感度分布情報などを含むことができる。また、カメラ本体の特性情報は、カメラ本体内での撮影光束のケラレ情報、カメラ本体とレンズユニットとの取り付け面から撮像素子107までの距離情報、および、製造誤差情報などを含んでもよい。なお、撮像素子107の撮像画素および焦点検出画素の受光感度分布情報は、オンチップマイクロレンズMLと光電変換部PDに依存する情報であるため、これらの部材に関する情報を記録してもよい。
続いてステップS307において、CPU121は、ステップS305にて記録した撮影画像に対応させて、レンズユニットの特性情報を記録媒体133およびCPU121内のメモリ(内部メモリ)に記録する。レンズユニットの特性情報は、射出瞳の情報、枠情報、撮影時の焦点距離やFナンバー情報、収差情報、製造誤差情報などを含むことができる。
続いてステップS308において、CPU121は、撮影した画像に関する画像関連情報を、記録媒体133およびCPU121内のメモリ(内部メモリ)に記録する。画像関連情報は、撮影前の焦点検出動作に関する情報、被写体移動情報、焦点検出動作の精度に関わる情報などを含むことができる。
続いてステップS309において、CPU121は、表示器131を用いて、撮影画像のプレビュー表示を行う。これにより撮影者は、撮影画像の簡易的な確認を行うことができる。ステップS309にて行うプレビュー表示に用いられる画像は、画像の簡易的な確認が目的であるため、ステップS303やステップS304にて行われる各種処理を行わなくてもよい。これらの各種処理を行わない場合、ステップS303以降の処理と並列して、ステップS309のプレビュー表示を行うことにより、露光から表示までのタイムラグをより低減することができる。ステップS309の処理が終わると、CPU121は、ステップS300の撮影サブルーチンを終了し、メインルーチンのステップS9へ進む。
次に、図10を参照して、図8のステップS400にて実行される連写中焦点検出サブルーチンについて詳述する。図10は、連写中焦点検出サブルーチン(ステップS400)を示すフローチャートである。図10中の各ステップは、CPU121により実行されるか、または、CPU121の指令に基づいて撮像装置100の各部により実行される。
まず、ステップS401において、CPU121(露出制御手段121c)は、露出制御処理を実行し、撮影条件(シャッタ速度、絞り値、撮影感度など)を決定する。露出制御処理は、CPU121が画像データの輝度情報に基づいて行うが、任意の公知技術を用いて実行することができる。本実施形態において、露出制御処理を行う際に用いる画像データを得るタイミングなどの詳細については後述する。またステップS401において、CPU121は、焦点検出のための露光を行うため、焦点検出に適した絞り値を決定する。そしてCPU121は、決定した絞り値に応じて、シャッタ速度および撮影感度を設定する。またステップS401において、CPU121(絞り制御手段121a)は、決定した絞り値とシャッタ速度とを、絞りシャッタ駆動回路128を介して、絞りシャッタアクチュエータ112に送信し、絞り兼用シャッタ102の動作を制御する。またCPU121は、撮像素子駆動回路124を用いて、絞り兼用シャッタ102を介して撮像素子107が露光される期間、電荷蓄積を行わせる。
露光期間が終了すると、ステップS402へ進む。ステップS402において、CPU121(信号制御手段121b)は、撮像素子駆動回路124を用いて、高画素静止画撮影のための画像読み出し、すなわち全画素の読み出しを行う。図8のステップS4にて行われる焦点検出の際には、ライブビュー用に水平方向の画素出力を加算および間引きなどの処理を行った信号を用いるが、ステップS402においては、全画素の信号を読み出して用いる。これにより、撮像素子107の駆動を、撮影とライブビューとの間で切り替える必要がないため、切り替え時間を必要とせずに、焦点検出信号を得ることができる。また、ステップS402にて得られる信号は、焦点検出用に用いるための信号(焦点検出用のデータ)であり、記録画像用の信号(記録用の画像データ)ではない。このため、焦点検出領域の信号のみを読み出せばよい。記録画像に対して焦点検出領域が小さい場合、焦点検出領域の信号のみを読み出すことにより、本サブルーチンの処理を高速化することができる。本実施形態においては、図8のステップS6にて選択された焦点検出領域と対応する領域の信号が読み出せればよい。ステップS6にて選択された焦点検出領域が移動している場合、被写体検出処理などを併用することにより、焦点検出領域の位置を変更して設定すればよい。
続いてステップS403において、CPU121は、読み出された画像データに対して、画像処理回路125を用いて欠陥画素の補正処理(欠陥画素の補間)を行う。続いてステップS404において、CPU121(デフォーカス量算出手段121d)は、ステップS6にて設定した焦点検出領域に対応する焦点検出データを用いて、デフォーカス量および方向を焦点検出領域ごとに求める。本実施形態において、CPU121は、焦点検出用の像信号の生成、焦点検出用信号のずれ量(位相差)の算出、および、算出したずれ量からデフォーカス量と方向を求める処理を実施する。
続いてステップS405において、CPU121(フォーカス制御手段121e)は、選択した焦点検出領域において検出されたデフォーカス量に基づいて、レンズ駆動を行う。検出されたデフォーカス量が所定値よりも小さい場合、必ずしもレンズ駆動を行う必要はない。ステップS405の処理が終わると、CPU121は、ステップS400の連写中焦点検出サブルーチンを終了し、メインルーチンのステップS9へ進む。
次に、図11を参照して、図9に示される撮影サブルーチン(S300)、および、図10に示される連写中焦点検出サブルーチン(S400)について詳述する。図11は、撮影サブルーチンおよび連写中焦点検出サブルーチンのタイミングチャートであり、V同期信号、撮像素子、露出制御、絞り駆動、焦点検出、レンズ駆動、被写体検出の各処理のタイミングチャートを示している。図11において、横軸は時間を示し、V1〜V5は各時間におけるV同期信号のタイミングを示している。
撮像素子に関しては、タイミングV1において、蓄積E1を終えた信号の読み出し処理R1が行われ、タイミングV2以降、同様に蓄積E2〜E5と読み出し処理R2〜R5とを繰り返し行う。本実施形態において、蓄積E1、E3、E5は、記録画像用(画像データ用)の蓄積であり、蓄積E2、E4は、焦点検出用(焦点検出データ用)の蓄積である。このため、読み出し処理R1、R3、R5においては、記録画像用として、焦点検出画素201の出力と焦点検出画素202の出力とを加算した状態で読み出せばよい。一方、読み出し処理R2、R4においては、焦点検出用として、焦点検出画素201の出力と焦点検出画素202の出力とを別々に読み出せばよい。焦点検出用の読み出しの際において、2つの焦点検出画素の出力の加算値と、一方の焦点検出画素の出力信号を読み出し、2つの出力の差分から、他方の焦点検出画素の出力信号に相当する信号を取得してもよい。
露出制御に関しては、CPU121(露出制御手段121c)は、蓄積E1で得られた信号(第1のタイミングにおいて取得される第1の信号)を用いて、露出制御処理AE2を行い、蓄積E2で得られた信号を用いて露出制御処理AE3を行う。蓄積E1から記録画像用の信号が得られるため、露出制御処理AE2では、次の記録画像用の蓄積E3の撮影条件を決定するための露出制御処理を行う(第1のタイミングの次の第2のタイミングにおいて第1の信号を取得する際の露出を制御する)。一方、蓄積E2から焦点検出用の信号が得られるため、露出制御処理AE3では、次の焦点検出用の蓄積E4の撮影条件を決定するための露出制御を行う。前述のとおり、焦点検出用の撮影条件においては、絞り値が焦点検出に適した値に設定され、絞り値に応じて、シャッタ秒時や撮影感度などが決定される。露出制御処理AE4以降も、同様に、記録画像用、焦点検出用に交互に露出制御処理を行う。記録画像用、焦点検出用の蓄積を行うに当たり、事前に露出制御結果がない場合、事前のライブビューで得られた結果を用いて撮影条件を設定する。
絞り制御に関しては、蓄積E1を行った後、焦点検出に適した絞り値に設定するため、CPU121(絞り制御手段121a)は絞りを開放する。一般的に、絞り込みすぎると焦点検出の際に検出される位相差が小さくなり、または、一対の像信号の光量差が大きくなるため、焦点検出精度が低下する。本実施形態において、絞り制御手段121aは、絞りの開放動作FO1を行うことにより、焦点検出に適した絞り設定とする。しかしながら、絞りを最大口径となるまで開放する必要はなく、絞り開放動作に要する時間や焦点検出精度や撮影状態に応じて設定すればよい。一方、蓄積E2で焦点検出用の蓄積を終えた後、蓄積E3を行う前に、絞り制御手段121aは絞りの絞り込み動作FC1を行う。すなわち、撮影者が設定した絞り値や、事前の露出制御結果に応じて決定される絞り値となるように、絞り込み動作を行う。絞り込み動作FC1を行う際に、露出制御結果を用いる場合、露出制御処理AE2の結果を用いて、絞り込みを行う。露出制御処理AE2の結果は、蓄積E1の結果に基づいた露出制御であるため、蓄積E2の読み出しを待つことなく結果を得ることができ、単位時間当たりの撮影回数を増やすことができる。図11において、絞り制御は、蓄積が記録画像用、焦点検出用が交互に行われるため、それに合わせて、絞り開放動作と絞り込み動作とを交互に行う。
焦点検出とレンズ駆動に関しては、蓄積E2を終えて、焦点検出領域内の信号が行ごとに読み出されると、CPU121(デフォーカス量算出手段121d)は、順次、焦点検出処理AF1を行う。焦点検出処理AF1を終えると、その結果に基づき、CPU121(フォーカス制御手段121e)は、レンズ駆動L1を行う。焦点検出およびレンズ駆動は、焦点検出用の蓄積が得られた場合に行うため、2回のV同期信号につき1回行われる。焦点検出に用いる蓄積E2で読み出される信号は、全画面の信号でもよいし、焦点検出領域に対応する部分のみでもよい。全画面の信号を読み出すことにより、露出制御や後述する被写体検出などにも信号を使用することができ、それぞれの検出精度を向上させることが可能である。一方、焦点検出領域に対応する部分のみを読み出すことにより、高速に読み出しを終えることができ、単位時間当たりの撮影回数を増加させることが可能である。
被写体検出に関しては、本実施形態において、記録画像用の蓄積E1を用いて、検出処理D1を行う。被写体検出した結果、人物の顔など被写体の有無、位置、サイズなどを検出し、その情報を、露出条件を決定する際の評価範囲、焦点検出領域の設定などに用いる。検出処理D1で得られた結果は、露出制御処理AE2や焦点検出処理AF1に用いることができる。
以上のような構成により、連写時の単位時間当たりの撮影枚数を大幅に減らすことなく、精度の良い焦点検出結果を得ることができる。すなわち、単位時間当たりの撮影回数の調整の際に、不要な待機時間を設けるのではなく、焦点検出用の信号取得を設ける。この結果、焦点検出から記録画像用の信号取得までのタイムラグを短縮することができ、高精度な焦点検出が可能となる。
本実施形態では、記録画像用と焦点検出用のいずれの画像を取得する際にも、シャッタによる遮光動作(ステップS301、S401)を行うように説明した。ただし、焦点検出用の信号を得る際には、シャッタを必ずしも動作させなくてもよい。例えば、ローリングシャッタ動作により、蓄積を制御してもよい。これにより、シャッタ動作の際に発生する音や振動と、実際に記録する画像の数をそろえることができ、撮影者にとって違和感の少ない撮影を行うことができる。
また、本実施形態では、記録画像用と焦点検出とで、水平方向の出力画素数をそろえることにより撮像素子の駆動モードを切り替えることなく、信号の読み出しを行っている。これにより、撮像素子の駆動モードの切り替えに必要となる時間を低減し、単位時間当たりの撮影枚数を増加させることができる。ただし、撮像素子の駆動モードの切り替えに時間を要しない場合、水平方向の出力画素数をそろえる必要はない。焦点検出用の出力画素を加算や間引き処理で圧縮することにより、焦点検出に必要な時間を短縮することができる。
また、本実施形態では、焦点検出を行った直後のみ、レンズ駆動を行うように構成しているが、レンズ駆動のタイミングはこれに限定されるものではない。焦点検出後のレンズ駆動で、所定量のレンズ駆動が行うために十分な時間が足りない場合などは、記録画像用の蓄積(例えば、蓄積E3)が終了した後に、次の蓄積(E4)が開始される前に、レンズ駆動を行ってもよい。
また、記録画像用の絞り状態と、焦点検出用の絞り状態が同じでよい場合、蓄積の度に、記録画像用と焦点検出用の両方の信号を読み出し、画像記録、焦点検出の両方を行ってもよい。本実施形態で説明した記録画像用と焦点検出用の信号を交互に取得する場合と、状況によって切り替えてもよい。
また、本実施形態では、焦点検出用の画像は記録しない信号として説明しているが、焦点検出用の画像も記録してもよい。焦点検出用信号からは、撮影範囲内のデフォーカス状態(デフォーカスマップ)が得られるため、焦点検出用信号を、加算、間引き処理などを行って圧縮し、記録してもよい。記録の際は、画像信号として記録してもよいし、距離情報やデフォーカス情報として記録してもよい。
次に、本実施形態における変形例について説明する。前述の実施形態では、図11において、蓄積E3を行う際の露出制御結果AE2は、蓄積E1で得られる信号を用いて行われる。このため、露出制御結果については、V同期信号2回分のタイムラグが存在する。露出制御の精度を向上させるには、タイムラグの低減が必要である。そこで変形例として、図12を参照して、露出制御と蓄積のタイムラグを低減する例について説明する。図12は、図11と同様に、撮影サブルーチンおよび連写中焦点検出サブルーチンのタイミングチャートであり、V同期信号、撮像素子、露出制御、絞り駆動、焦点検出、レンズ駆動、被写体検出の各処理のタイミングチャートを示している。図12において、横軸は時間を示し、V1〜V5は各時間におけるV同期信号のタイミングを示している。
図12に示される本変形例は、図11と比較して、露出制御のタイミングが異なる。図12では、直前の蓄積で得られた信号を用いて露出制御を行う。例えば、蓄積E1で得られた信号を読み出し処理R1で読み出し、その結果を用いて、露出制御AE1を行う。図11の場合と比較して、単位時間当たりの撮影回数は減少するが、直前の蓄積結果を用いて露出制御が行われるため、露出制御の精度は向上する。なお本変形例において、絞り駆動、焦点検出、レンズ駆動、被写体検出は、図11と同様であるため、それらの説明は省略する。
このように本実施形態において、制御装置(CPU121)は、結像光学系の互いに異なる瞳部分領域を通過する光束を受光する撮像素子から出力される信号に基づいて位相差検出方式の焦点検出が可能である。制御装置は、絞り制御手段121aおよび信号制御手段121bを有する。絞り制御手段121aは、記録用の画像データに関する第1の信号(撮像信号)を取得するために結像光学系の絞り(絞り兼用シャッタ102)を第1の開口状態に制御する。また絞り制御手段121aは、焦点検出用のデータに関する第2の信号(焦点検出信号)を取得するために絞りを第2の開口状態に制御する。信号制御手段121bは、第1の信号と第2の信号とを撮像素子から周期的に取得する。
好ましくは、信号制御手段121bは、第1の信号と第2の信号とを交互に取得する。また好ましくは、信号制御手段121bは、第1の信号を複数のタイミングで連続して取得し、第2の信号を複数のタイミングの後の所定のタイミングで取得する(例えば、第1の信号を3回連続で取得した後に第2の信号を1回取得することを周期的に繰り返す)。より好ましくは、信号制御手段121bは、連写撮影中において、第1の信号と第2の信号とを周期的に取得する。
好ましくは、絞り制御手段121aは、絞りの絞り込み動作(FC1)を行って第1の開口状態に制御し、絞りの開放動作(FO1)を行って第2の開口状態に制御する。また好ましくは、制御装置は、第1のタイミングにおいて取得される第1の信号を用いて、第1のタイミングの次の第2のタイミングにおいて第1の信号を取得する際の露出を制御する露出制御手段121cを有する。
好ましくは、信号制御手段121bは、第1の開口状態と第2の開口状態とが互いに等しい場合、第1の信号および第2の信号のそれぞれを、記録用の画像データおよび焦点検出用のデータとして用いる。また好ましくは、信号制御手段121bは、第2の信号の少なくとも一部を記録手段(記録媒体133)に記録する。また好ましくは、制御装置は、第2の信号に基づいて結像光学系のデフォーカス量を算出するデフォーカス量算出手段121dと、デフォーカス量に基づいてフォーカス制御を行うフォーカス制御手段121eを有する。
好ましくは、撮像装置100は、撮像素子107を遮光する遮光手段(絞り兼用シャッタ102)を有する。第1の信号は遮光手段を用いて取得され、第2の信号は遮光手段を用いずに取得される。また好ましくは、撮像装置100は、第1の信号を表示し、第2の信号を表示しない表示手段(表示器131)を有する。また好ましくは、第1の信号は撮像素子107の第1の領域(例えば、略全領域)から得られ、第2の信号は撮像素子107の第1の領域よりも小さい第2の領域(焦点検出領域)から得られる。また好ましくは、第1の信号は複数の光電変換部の複数の信号を合成して生成され、第2の信号は複数の光電変換部のうち一つの光電変換部の信号から生成される。また好ましくは、撮像素子107は、一つのマイクロレンズに対して複数の光電変換部を有し、マイクロレンズが2次元状に配列されている。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本実施形態によれば、連写撮影の際における単位時間当たりの撮影枚数を大幅に減らすことなく、高精度な焦点検出が可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。