以下、本発明の実施形態について図面を参照しながら説明する。なお、本発明は以下の実施形態に限定されるものではなく、その要旨を逸脱しない範囲において適宜変更可能である。また、以下で説明する図面において、同じ機能を有するものは同一の符号を付し、その説明を省略又は簡潔にすることもある。
図16は、従来の撮像装置におけるハイブリッドAFの例を示すタイミングチャートである。ハイブリッドAFでは、前述のように、まず位相差検出方式を用いて焦点検出を行った後で、コントラスト検出方式を用いて焦点検出を行う。撮像素子には、撮像光学系の異なる瞳部分領域を通過した一対の光束を受光する複数の位相差検出画素が、画素アレイ上の一部の領域に配置されている。以下、図16を参照しながら従来のハイブリッドAFについて説明する。
例えばユーザ操作により静止画連写モードが開始すると、静止画連写モードであることを示す静止画連写制御信号がHIGHに設定される。これにより、メカニカルシャッタが開かれると同時に、画素の蓄積電荷がリセットされて、画素における露光が開始する(時刻T0)。その後、所定の露光期間が経過すると、メカニカルシャッタが閉じられて被写体からの光が遮光され、画素における露光が終了する(時刻TF0)。
次に、通常の撮像画素からの読み出しが開始される(時刻TF0)。全ての撮像画素から撮像信号が読み出されると、続いて位相差検出画素からの読み出しが開始される。全ての位相差検出画素から位相差信号が読み出されると(時刻TF1)、撮像素子は、位相差信号に基づいて位相差評価値を算出するとともに、撮像信号に基づいてコントラスト評価値を算出する(期間TF1〜TF2)。
次に、撮像素子は、算出した位相差評価値及びコントラスト評価値を、撮像信号に付加する形で撮像素子の外部の制御部へ出力する(期間TF2〜TF3)。制御部は、位相差評価値及びコントラスト評価値に基づいてフォーカスレンズを駆動し、合焦動作を行う(期間TF3〜TF4)。合焦動作が完了すると、時刻T0のときと同様にして、次の静止画撮影のために画素における露光動作を開始する(時刻TF4)。
このように、従来のハイブリッドAFでは、撮像画像を生成するための撮像信号の読み出し完了を待って、位相差評価値及びコントラスト評価値の算出を開始しているため、ハイブリッドAFが完了するまでに時間を要してしまうという課題があった。この結果、例えば静止画連写における連写速度が低下してしまう。後述の実施形態では、ハイブリッドAFをより高速化する方法について説明する。
(第1実施形態)
図1〜図12を参照しながら第1実施形態に係る撮像装置について説明する。図1は、第1実施形態に係る撮像装置の構成を示すブロック図である。図1に示す撮像装置は、撮像光学系101、撮像素子102、駆動部103、信号処理部104、圧縮伸張部105、制御部106、発光部107、操作部108、画像表示部109、画像記録部110を備えている。本実施形態の撮像装置は、例えばスチルカメラやビデオカメラ等に適用される。
撮像光学系101は、被写体からの光を撮像素子102へ集光させるための光学鏡筒、レンズ、及び光学機構部1011を有する。光学機構部1011は、駆動部103により駆動され、撮像光学系101のズーム、シャッタ、絞り値、及びフォーカスを調整する。撮像素子102は、行列状に配置された画素、及び画素から出力される信号を読み出すADコンバータ等を有し、各画素の露光、信号読み出し、リセット等の動作を行う。撮像素子102としては、例えばXY読み出し方式のCMOS型イメージセンサ等が用いられる。駆動部103は、制御部106により制御され、光学機構部1011及び撮像素子102を駆動する。
撮像素子102内のAF評価値算出部1021は、制御部106により制御され、画素から読み出した撮像信号及び位相差信号に基づいて位相差評価値及びコントラスト評価値を算出し、制御部106へ出力する。制御部106は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等を有して構成される。制御部106は、ROM等に記憶されたプログラムをRAMにロードしてCPUで実行することで、撮像装置を統括的に制御する。
信号処理部104は、制御部106により制御され、撮像素子102から出力された撮像信号に対してホワイトバランス調整処理、色補正処理、AE(Auto Exposure)処理等の信号処理を施し、補正された信号を圧縮伸張部105へ出力する。圧縮伸張部105は、制御部106により制御され、補正後の撮像信号に対して符号化処理を行い、符号化された信号を制御部106へ出力する。圧縮伸張部105による撮像信号の符号化方式としては、例えば静止画を生成する場合はJPEG(Joint Photographic Coding Experts Group)方式等が用いられる。また、動画を生成する場合はMPEG(Moving Picture Experts Group)方式等が用いられる。圧縮伸張部105は、符号化の機能に加えて復号化の機能を有していてもよい。
発光部107は、例えば信号処理部104がAE処理によって被写体の輝度が低いと判断した場合に、被写体に対して光を照射する。発光部107としては、例えばキセノン管を用いたストロボ装置やLED発光装置等を用いることができる。操作部108は、シャッタレリーズボタン等の各種操作キー、レバー、ダイヤル等を有し、ユーザによる操作に応じた信号を制御部106へ出力する。画像表示部109は、LCD(Liquid Crystal Display)等の表示デバイスや、表示デバイスを駆動するインタフェース回路等を有し、制御部106から出力される画像データを表示デバイスに表示する。画像記録部110は、可搬型の半導体メモリ、光ディスク、HDD(Hard Disk Drive)、磁気テープ等を用いて構成され、制御部106から出力される符号化された画像データを記憶する。
ここで、図1に示す撮像装置における信号及びデータの流れについて簡単に説明する。撮像素子102の画素から読み出された撮像信号は、CDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理等が施された後、AD変換部によってデジタル化される。
デジタル化された撮像信号は、信号処理部104と、撮像素子102内のAF評価値算出部1021とに出力される。AF評価値算出部1021は、撮像信号のコントラスト情報に基づいてコントラスト評価値を算出し、制御部106へ出力する。信号処理部104は、撮像信号に対して画質補正処理を施し、補正された信号を制御部106へ出力する。制御部106は、撮像信号をライブビュー画像として画像表示部109に表示させる。この結果、ユーザは表示されたライブビュー画像を見て画角合わせ等を行うことができる。
次に、画像表示部109にライブビュー画像が表示された状態で、操作部108のシャッタレリーズボタンが押下されると、撮像素子102は、撮像信号を信号処理部104に出力する。信号処理部104は、撮像信号に対して画質補正処理を施し、補正された信号を圧縮伸張部105へ出力する。圧縮伸張部105は、補正後の撮像信号を符号化し、符号化された信号を制御部106へ出力する。制御部106は、符号化された撮像信号を画像記録部110に静止画又は動画ファイルとして記録する。
次に、画像記録部110に記録された静止画又は動画ファイルが選択された状態で、操作部108の再生ボタンが押下されると、制御部106は、選択された静止画又は動画ファイルを画像記録部110から読み出して圧縮伸張部105へ出力する。圧縮伸張部105は、読み出された画像データを復号化して制御部106へ出力する。制御部106は復号化された画像データを、画像表示部109に表示させる。この結果、ユーザは記録された画像静止画又は動画を再生して見ることができる。
一方、AF評価値算出部1021は、位相差検出画素から出力される一対の位相差信号に対して相関演算を行い、相対的な像ずれ量を求める。そして、像ずれ量から撮像光学系101のデフォーカス量を算出(検出)する。制御部106は、デフォーカス量に基づいて、フォーカスレンズを合焦近傍の位置に移動させるための駆動量を算出する。そして、駆動量に基づいて駆動部103を制御して光学機構部1011内のフォーカスレンズを駆動し、合焦動作を行う。
また、制御部106は、光学機構部1011を制御してフォーカスレンズを移動させながら、所定の周期で、AF評価値算出部1021からコントラスト評価値を取得する。そして、前回撮影した静止画の撮像信号に基づいて算出したコントラスト評価値よりも、今回撮影した静止画の撮像信号に基づいて算出したコントラスト評価値の方がより大きくなる方向にフォーカスレンズを駆動して合焦動作を行う。
図2は、第1実施形態に係る撮像素子102の構成を斜視図と共に示す概略図である。図2(a)は、撮像素子102の斜視図を示しており、図2(b)は、撮像素子102の構成の概略図を示している。本実施形態の撮像素子102は、図2(a)に示すように、第1のチップ20と、第1のチップ20の上に積層された第2のチップ21とを有して構成される。
第1のチップ20には、複数の画素201が行列状に配置されている。複数の画素201には、行毎に、転送信号線203、リセット信号線204、及び行選択信号線205が接続され、列毎に、列信号線202が接続されている。
一方、第2のチップ21には、AD変換部211、行走査回路212、列走査回路213、タイミング制御回路214、信号切替部216、及びAF評価値算出部1021が配置されている。このように、画素201とその周辺回路とを、第1のチップ20と第2のチップ21に分けて配置することで、周辺回路の配線を細線化かつ高密度化して撮像素子102を高速化、小型化、高機能化することができる。
AD変換部211は、列信号線202に出力された信号をAD変換して水平信号線215に出力する。行走査回路212は撮像素子102の各行を走査し、列走査回路213は撮像素子102の各列を走査する。タイミング制御回路214は、制御部106により制御され、行走査回路212及び列走査回路213の走査タイミングを制御する。
信号切替部216は、水平信号線215に出力されたデジタル信号を、位相差評価値算出部217と、コントラスト評価値算出部218及び信号処理部104とにそれぞれに振り分けて供給する。AF評価値算出部1021は、位相差評価値算出部217とコントラスト評価値算出部218とを有して構成され、焦点検出に用いるAF評価値を検出(算出)する。位相差評価値算出部217及びコントラスト評価値算出部218については、後で詳しく説明する。
図3は、第1実施形態に係る撮像素子102における画素201の構成を示す概略図である。画素201は、光電変換部PD、転送トランジスタM1、リセットトランジスタM2、増幅トランジスタM3、選択トランジスタM4を有する。これらトランジスタとしては、例えばnチャネルMOSFET(Metal-Oxide-Semiconductor Field-Effect Transistor)を用いることができる。
転送トランジスタM1、リセットトランジスタM2、選択トランジスタM4の各ゲート端子には、それぞれ転送信号線203、リセット信号線204、行選択信号線205が接続されている。これら信号線には、行走査回路212から制御信号が出力され、同一行の画素201を同時に駆動する。このような構成により、行順次動作型のローリングシャッタ動作や、全行同時駆動型のグローバルシャッタ動作を行うことができる。選択トランジスタM4のソース端子には列信号線202が接続されている。
光電変換部PDは、光電変換により生じた電荷を蓄積するフォトダイオードである。フォトダイオードのp型の側が接地され、n型の側が転送トランジスタM1のソース端子に接続されている。転送トランジスタM1がオンされると、光電変換部PDに蓄積された電荷がフローティングディフュージョンFDへ転送される。ここで、フローティングディフュージョンFDとは、転送トランジスタM1のドレイン端子、増幅トランジスタM3のゲート端子、及びリセットトランジスタM2のソース端子の3つの端子の接続点に形成された浮遊容量領域のことをいう。
増幅トランジスタM3は、フローティングディフュージョンFDに転送された電荷量に応じた信号を出力する。増幅トランジスタM3のドレイン端子には電源電圧Vddが供給されている。選択トランジスタM4は、信号を読み出す画素を選択する。選択トランジスタM4のドレイン端子は増幅トランジスタM3のソース端子に接続され、選択トランジスタM4のソース端子は列信号線202に接続されている。選択トランジスタM4がオンされると、フローティングディフュージョンFDに転送された電荷量に応じた信号が列信号線202に出力される。リセットトランジスタM2は、フローティングディフュージョンFDに転送された電荷をリセットする。リセットトランジスタM2のドレイン端子には電源電圧Vddが供給され、リセットトランジスタM2のソース端子はフローティングディフュージョンFDに接続されている。
図4は、第1実施形態に係る撮像素子102における撮像画素の構造を示す模式図である。ここで撮像画素とは、焦点検出用の副画素を含まない通常の画素201のことをいう。図4(a)には、撮像画素の平面図を示しており、図4(b)には、図4(a)のA−Aに沿った断面図を示している。例えばベイヤー配列を採用した撮像素子102では、図4(a)に示すように、2行×2列の画素における対角2箇所にG(緑色)の分光感度を有する画素が配置され、他の2箇所にR(赤色)とB(青色)の分光感度を有する画素がそれぞれ配置される。
図4(b)に示す撮像画素は、マイクロレンズML、カラーフィルタCF、配線層CL、及び光電変換部PDを有している。ここで、カラーフィルタCFに付した添え字は、通過させる光の色を示しており、例えば、カラーフィルタCFRは赤色光(Red)を通過させ、カラーフィルタCFGは緑色光(Green)を通過させる。同様に、不図示のカラーフィルタCFBは青色光(Brue)を通過させる。光電変換部PDは、図3に示すCMOSセンサの光電変換部PDに対応する。配線層CLは、CMOSセンサ内の各種信号を伝達する信号線である。
撮像画素のマイクロレンズMLと光電変換部PDは、撮影光学系TLを通過した光束を可能な限り有効に取り込めるように構成されている。換言すると、撮影光学系TLの射出瞳EPと光電変換部PDとは、マイクロレンズMLによって共役関係に配置されている。この結果、光電変換部PDに対応した射出瞳EPは大きな径を有し、光電変換部PDの有効面積が大きくなり、被写体からの光束を効率良く取り込んでS/Nを向上させることができる。なお、図4(b)にはR画素の構造を示しているが、G画素及びB画素も同一の構造を有する。
図5は、第1実施形態に係る撮像素子102における位相差検出画素の構造を示す模式図である。ここで位相差検出画素とは、焦点検出用の副画素を含む画素201のことをいう。図5(a)には、位相差検出画素の平面図を示しており、図5(b)には、図5(a)のB−Bに沿った断面図を示している。
RGB画素が出力するRGB信号のうち、G信号は輝度情報の主成分をなす。人間の画像認識特性は輝度情報に敏感であるため、G信号が欠損すると、画質劣化が認められやすい。一方、R信号又はB信号は、色情報を取得するための信号であるが、人間は色情報には鈍感であるため、R信号又はB信号は多少の欠損が生じても画質劣化に気づきにくい。そこで本実施形態では、図5(a)に示すように、2行×2列の4画素のうち、2つのG画素は通常の撮像画素として残し、R画素とB画素の位置に所定の比率で副画素SHA、SHBを配置する。
本実施形態では、副画素SHAと副画素SHBが位相差検出画素を構成する。マイクロレンズML及び光電変換部PDは、図4(b)に示した撮像画素と概ね同一の構造を有する。本実施形態では、副画素から出力される位相差信号を、撮像画像を生成するための撮像信号としては用いないため、図5(b)に示すように、色分離用カラーフィルタの代わりに透明膜(白色膜)のカラーフィルタCFWが配置される。なお、位相差検出画素を撮像画素として用いることも可能である。この場合、位相差検出画素から出力される一対の位相差信号を加算したものが撮像信号として用いられる。
図5(b)に示す位相差検出画素は、x方向の瞳分割を行う。副画素SHAの配線層CLの開口部OPHAは右側(−x方向)に偏っており、副画素SHAの光電変換部PDは、撮影光学系TLの左側(+x方向)の射出瞳領域(第1の瞳領域)EPHAを通過した光束を受光する。一方、副画素SHBの配線層CLの開口部OPHBは左側(+x方向)に偏っており、副画素SHBの光電変換部PDは、撮影光学系TLの右側(−x方向)の射出瞳領域(第2の瞳領域)EPHBを通過した光束を受光する。
x方向に規則的に配列された複数の副画素SHA(第1の画素群)で取得した被写体像をA像(第1の像)とする。また、x方向に規則的に配列された複数の副画素SHB(第2の画素群)で取得した被写体像をB像(第2の像)とする。A像とB像の相対位置ずれ量(位相差)を検出することで、被写体に対する撮影光学系TLのデフォーカス量を演算することができる。
ここで、再び、図2(b)を参照しながら、撮像素子102の動作について説明する。列信号線202に出力された撮像信号及び位相検出信号は、AD変換部211によってデジタル化される。デジタル化された位相検出信号及び撮像信号は、水平信号線215を介して信号切替部216へ出力される。信号切替部216は、列信号線202を介して読み出された信号の出力先を切り替える。信号切替部216によって、位相差信号は位相差評価値算出部217へ出力され、撮像信号はコントラスト評価値算出部218及び信号処理部104へ出力される。
位相差評価値算出部217は、位相差信号に基づいて相関演算を行い、位相差評価値を算出する。一方、コントラスト評価値算出部218は、撮像信号に基づいてコントラスト演算を行い、コントラスト評価値を算出する。算出された位相差評価値及びコントラスト評価値は、撮像画素からの撮像信号の読み出しが完了したタイミングで、撮像信号に付加する形で、信号処理部104を介して制御部106へ出力される。
次に、図6〜図9を参照しながら、位相差方式による焦点検出について説明する。図6は、第1実施形態に係る撮像素子102における画素アレイ601上の焦点検出領域602を示す模式図である。図6に示す焦点検出領域602は、位相差方式による焦点検出を行うことが可能な画素領域を示している。また、焦点検出領域602の両側のシフト領域603は、相関演算に必要な領域である。すなわち、位相差方式による焦点検出のためには、焦点検出領域602とシフト領域603とを合わせた画素領域604が必要となる。図6に示すp、q、s、tは、水平方向(x軸方向)における座標を表し、このうち、pとqはそれぞれ画素領域604の始点と終点のx座標を、sとtはそれぞれ焦点検出領域602の始点と終点のx座標を表している。
図7は、第1実施形態に係る撮像素子102における焦点検出用の一対の位相差信号701、702の例を示す概略図である。図7(a)には、フィルタ処理を行った後の一対の位相差信号のうちの、一方の位相差信号701を実線で示し、他方の位相差信号702を破線で示している。なお、図7(a)に示す位相差信号701、702は、厳密には、x方向に配列された複数の副画素SHA、SHBから得られるx方向に沿った一対の被写体像を示しているが、以下の説明ではこのような一対の被写体像を位相差信号701、702と称する。
一対の位相差信号701、702の相関量を算出する際には、位相差信号701、702を、図7(b)、図7(c)に示すように、互いに逆方向にそれぞれ1画素ずつシフトさせる。図7(b)は、図7(a)に示す位相差信号701、702を、図7(b)に示す矢印の方向にそれぞれシフトさせた結果を示している。一方、図7(c)は、図7(a)に示す位相差信号701、702を、図7(b)とは逆の、図7(c)に示す矢印の方向にそれぞれシフトさせた結果を示している。
位相差評価値算出部217は、一対の位相差信号701、702を、図7(b)、(c)に示すように1画素ずつシフトさせながら、焦点検出領域602における位相差信号701と位相差信号702の差の絶対値の和を算出する。相関量CORは、シフト量i、最小シフト量p−s、最大シフト量q−t、焦点検出領域602の開始座標s、焦点検出領域602の終了座標t、を用いて下式(1)で与えられる。
図8は、第1実施形態に係る撮像素子102における位相差信号のシフト量iと相関量CORとの関係を示す図である。横軸はシフト量iを示し、縦軸は相関量CORを示している。図8(a)に示す相関量CORは、シフト量iに応じて変化し、極値802、803においてその変化量がゼロとなっている。図8(b)には、極値802、803のうちの値が小さいほうの極値802付近を拡大して示している。単位シフト量i当たりの相関変化量ΔCORは、シフト量i、最小シフト量p−s、最大シフト量q−t、焦点検出領域602の開始座標s、焦点検出領域602の終了座標t、を用いて下式(2)で与えられる。
ΔCOR[i]=COR[i−1]−COR[i+1]
{(p−s+1)<(q−t−1)} (2)
図9は、第1実施形態に係る撮像素子102における位相差信号のシフト量iと相関変化量ΔCORとの関係を示す図である。横軸はシフト量iを示し、縦軸は単位シフト量i当たりの相関変化量ΔCORを示している。図9(a)に示す相関変化量ΔCORは、シフト量iに応じて変化し、極値802、803においてその値がマイナスからプラスに変化している。相関変化量ΔCORがゼロとなる点をゼロクロスと呼び、一対の位相差信号701、702の一致度が最も高くなる。ゼロクロスを与えるシフト量iが像ずれ量となる。
位相差評価値算出部217は、ゼロクロスを与えるシフト量iを、フォーカスレンズの駆動量を算出するための位相差評価値として制御部106へ出力する。図9(b)には、ゼロクロスを与える極値802付近を拡大して示している。ゼロクロスを与えるシフト量i=α+βは、整数部分β(=k−1)と小数部分αとに分けられる。像ずれ量の小数部分αは、図9(b)に示す三角形ABCと三角形ADEとの相似関係から、下式(3)で算出される。
AB:AD=BC:DE
ΔCOR[k−1]:ΔCOR[k−1]−ΔCOR[k]=α:k−(k−1)
α=ΔCOR[k−1]/(ΔCOR[k−1]−ΔCOR[k]) (3)
また、像ずれ量の整数部分βは、下式(4)で算出される。
β=k−1 (4)
図9(a)に示すように、相関変化量ΔCORのゼロクロスが複数存在する場合は、相関変化量ΔCORの変化率(以下「急峻性」という)が最も大きいゼロクロスのシフト量iを、位相差評価値として制御部106へ出力する。急峻性は焦点検出の行い易さを表す指標であり、急峻性が大きいほど精度よく焦点検出を行うことができる。急峻性maxderは、下式(5)で与えられる。
maxder=|ΔCOR[k−1]|+|ΔCOR[k]| (5)
次に、位相差評価値の信頼性の算出方法について説明する。評価値信頼性は、一対の位相差信号701、702の一致度fnclvlによって定義される。一致度fnclvlは、像ずれ量の精度を表す指標であり、値が大きいほど焦点検出の精度がよいことを示す。一致度fnclvlは、図8(b)に示す極値802の大きさの逆数として、下式(6)で算出される。
(a): |ΔCOR[k−1]|×2≦maxderのとき、
fnclvl=4/(COR[k−1]+ΔCOR[k−1])
(b): |ΔCOR[k−1]|×2>maxderのとき、
fnclvl=4/(COR[k]−ΔCOR[k]) (6)
次に、本実施形態の撮像装置におけるハイブリッドAFについて説明する。図10は、第1実施形態に係る撮像素子102における副画素の配置を示す模式図である。本実施形態の撮像装置では、位相差信号701、702を出力する副画素SHA、SHBと、通常の撮像画素とが、例えば図10に示すように、撮像素子102に行列状に配置されている。図10では、同じ画素配置が8行周期で繰り返され、画素配置の各周期内において、第1行〜第2行に副画素SHA、SHB、および撮像画素が配置され、第3行〜第8行に撮像画素が配置されている。
本実施形態の行走査回路212は、まず副画素SHA、SHBが配置された位相差検出行を走査した後に、副画素SHA、SHBが配置されていない撮像行を走査する。具体的には、操作部108等の操作により撮影が開始すると、まず、位相差検出行である第1行、第2行、第9行、第10行、…、を順次走査する。その後、撮像行である第3〜8行、第11〜16行、…、を順次走査する。このように、副画素SHA、SHBが配置された位相差検出行から行走査を開始することで、撮像画像を生成するための撮像信号の読み出しの完了を待たずに、副画素SHA、SHBから出力される焦点検出用の位相差信号701、702を取得することができる。
なお、撮像素子102における画素配置は、必ずしも図10に示すような8行周期には限定されず、周期的でなくてもよい。本実施形態の撮像素子102では、副画素SHA、SHBが配置された位相差検出行と、副画素SHA、SHBが配置されていない撮像行とが、それぞれ少なくとも1行以上存在していればよい。
図11は、第1実施形態に係る撮像素子102の制御方法を示すタイミングチャートである。前述のように、本実施形態のハイブリッドAFでは、まず副画素SHA、SHBが配置された位相差検出行を走査した後に、通常の撮像画素のみが配置された撮像行を走査する。
例えばユーザにより操作部108が操作されて静止画連写モードが開始すると、制御部106は、静止画連写モードであることを示す静止画連写制御信号をHIGHにする(時刻T0)。これにより、光学機構部1011のメカニカルシャッタが開かれると同時に、画素201の蓄積電荷がリセットされて、画素201における露光が開始する。その後、所定の露出条件を満たすように設定された露光期間が経過すると、光学機構部1011のメカニカルシャッタが閉じられて被写体からの光が遮光され、画素201における露光が終了する(時刻TF0)。
AF評価値算出部1021は、まず、位相差検出方式を用いて焦点検出を行う。AF評価値算出部1021の位相差評価値算出部217は、位相差AFに必要な位相差評価値を算出するために、位相差信号の読み出しを開始する(時刻TF0)。全ての位相差検出画素から位相差信号が読み出されると(時刻TF1)、続いて撮像画素からの撮像信号の読み出しが開始される。位相差評価値算出部217は、撮像画素から撮像信号が読み出されている間に、位相差信号に基づいて位相差評価値を算出する(期間TF1〜TF2)。その後、算出した位相差評価値に基づいて、被写体への合焦が可能であるか否かを判定するための評価値信頼性を算出する(期間TF2〜TF3)。
撮像素子102の不図示の判定部は、算出された評価値信頼性が所定の閾値以上である場合は、位相差検出方式を用いた焦点検出により被写体への合焦が可能であると判定する。そして、全ての撮像画素から撮像信号が読み出された後で、位相差評価値を撮像信号に付加する形で、信号処理部104を介して制御部106へ出力する(期間TF4〜TF5)。制御部106は、位相差評価値に基づいて光学機構部1011のフォーカスレンズを駆動し、合焦動作を行う(期間TF5〜TF7)。合焦動作が完了すると、時刻T0のときと同様にして、次の静止画撮影のために画素201における露光動作を開始する(時刻TF7)。
一方、撮像素子102の不図示の判定部は、算出された評価値信頼性が所定の閾値未満である場合は、位相差検出方式を用いた焦点検出だけでは被写体への合焦が難しいと判定する。そこで、AF評価値算出部1021は、続いてコントラスト検出方式を用いた焦点検出を行う。なお、不図示の判定部は、位相差評価値算出部217であってもよいし、コントラスト評価値算出部218であってもよい。あるいは、図2(b)に示す第2のチップ21に設けられた周辺回路(回路部)であってもよい。
ここで、AF評価値算出部1021のコントラスト評価値算出部218の動作について説明する前に、コントラストAFについて簡単に説明する。コントラストAFでは、光学機構部1011を制御してフォーカスレンズを移動させながら、所定の周期でコントラスト評価値を算出する。そして、前回撮影した静止画の撮像信号に基づいて算出したコントラスト評価値よりも、今回撮影した静止画の撮像信号に基づいて算出したコントラスト評価値の方がより大きくなる方向にフォーカスレンズを駆動して合焦動作を行う。コントラストAFにおいてフォーカスレンズの駆動方向を決定するためには、少なくとも2つの異なる時刻におけるコントラスト評価値が必要となる。
このため、1回目の静止画を撮影する際は、静止画撮影前のライブビュー時の撮像信号に基づいて、事前にフォーカスレンズを概ね合焦させておく。次に2枚目の静止画を撮影するときは、ライブビュー時の撮像信号に基づくコントラスト評価値と、1枚目の静止画撮影時の撮像信号に基づくコントラスト評価値との差分から、フォーカスレンズの駆動方向を決定する。3枚目以降の静止画を撮影するときも同様である。
再び、図11を参照しながら、コントラスト評価値算出部218の動作について説明する。コントラスト評価値算出部218は、全ての撮像画素から撮像信号が読み出されると(時刻TF4)、高周波成分が抽出された撮像信号に基づいてコントラスト評価値を算出する(期間TF4〜TF6)。撮像素子102は、算出されたコントラスト評価値を、信号処理部104を介して制御部106へ出力する(期間TF6〜TF8)。コントラスト評価値は、撮像信号に付加する形で出力されるため、撮像信号が読み出されてからコントラスト評価値が算出されるまではブランキング期間となる(期間TF4〜TF6)。
制御部106は、コントラスト評価値算出部218からコントラスト評価値を取得すると(時刻TF8)、コントラスト評価値に基づいて光学機構部1011のフォーカスレンズを駆動し、合焦動作を行う(期間TF8〜TF9)。合焦動作が完了すると、位相差AFのときと同様にして、次の静止画撮影のために画素201における露光動作を開始する(時刻TF9)。
このように、本実施形態では、位相差信号を読み出した後で、撮像信号を読み出している。これにより、全ての撮像画素からの撮像信号の読み出しの完了を待たずに、位相差評価値を算出することができるので、ハイブリッドAFをより早いタイミングで開始することができる。この結果、例えば静止画の連写速度を向上させることができる。
また、本実施形態では、コントラスト評価値を算出するか否かを、前記位相差評価値に応じて判定している。これにより、位相差検出方式を用いた焦点検出により被写体への合焦が可能である場合には、コントラスト検出方式を用いた焦点検出が省略されるので、合焦動作を高速化させることができる。また、位相差検出方式を用いた焦点検出だけでは被写体への合焦が難しい場合でも、全ての撮像画素からの撮像信号の読み出しが完了すると直ぐに、コントラスト検出方式を用いた焦点検出を開始することができる。したがって、やはり合焦動作を高速化させることができる。
図12は、第1実施形態に係る撮像素子102の制御方法を示すフローチャートである。本実施形態の制御部106は、図12に示すフローチャートに従ってハイブリッドAFを行う。例えばユーザにより操作部108が操作されて静止画連写モードが開始すると、制御部106は、光学機構部1011を制御して、メカニカルシャッタを開く(ステップS1201)。この結果、画素201における露光が開始する(ステップS1202)。その後、所定の露光期間が経過すると、制御部106は光学機構部1011を制御してメカニカルシャッタを閉じる(ステップS1203)。
続いて、位相差評価値算出部217は、位相差AFに必要な位相差評価値を算出するために、位相差信号の読み出しを開始する(ステップS1204)。そして、全ての位相差検出画素からの位相差信号の読み出しが完了するまで、位相差信号の読み出しを繰り返す(ステップS1205)。全ての位相差検出画素からの位相差信号の読み出しが完了すると、撮像画素から撮像信号の読み出しが開始される(ステップS1206)。読み出された撮像信号は、コントラスト評価値算出部218及び信号処理部104へ出力される。
位相差評価値算出部217は、撮像信号の読み出しが完了する前に、読み出した位相差信号に基づいて位相差評価値を算出する(ステップS1207)。撮像素子102の判定部は、位相差評価値に基づいて、一対の位相差信号の一致度である評価値信頼性fnclvlを算出し、評価値信頼性fnclvlが所定の閾値fth以上であるか否かを判定する(ステップS1208)。
ステップS1208において、信頼性fnclvlが閾値fth以上であった場合(YES)は、撮像素子102の判定部は、位相差検出方式を用いた焦点検出により被写体への合焦が可能であると判定して、ステップS1209へ進む。そして、全ての撮像画素からの撮像信号の読み出しが完了するのを待つ。
撮像素子102は、全ての撮像画素から撮像信号が読み出されると、位相差評価値を撮像信号に付加する形で、信号処理部104を介して制御部106へ出力する(ステップS1210)。制御部106は、位相差評価値に基づいてフィードバック制御量を決定し、駆動部103を制御して光学機構部1011内のフォーカスレンズを駆動し、合焦動作を行う(ステップS1211)。
一方、ステップS1208において、信頼性fnclvlが閾値fth未満であった場合(NO)は、撮像素子102の判定部は、位相差検出方式を用いた焦点検出だけでは被写体への合焦が難しいと判定して、ステップS1212へ進む。そして、全ての撮像画素からの撮像信号の読み出しが完了するのを待つ。
コントラスト評価値算出部218は、全ての撮像画素から撮像信号が読み出されると、撮像信号に基づいて、コントラスト評価値を算出する(ステップS1213)。撮像素子102は、コントラストを撮像信号に付加する形で、信号処理部104を介して制御部106へ出力する(ステップS1214)。制御部106は、位相差評価値に基づいてフィードバック制御量を決定し、駆動部103を制御して光学機構部1011内のフォーカスレンズを駆動し、合焦動作を行う(ステップS1215)。
制御部106は、合焦動作が完了すると、例えばユーザにより操作部108が操作されて静止画連写モードが終了されたか否かを確認する(ステップS1216)。静止画連写モードが終了された場合は(YES)、ハイブリッドAF処理を終了する。一方、静止画連写モードが継続中である場合は(NO)、ステップS1201へ戻って、上述のフローチャートを繰り返して次の静止画を撮影する。
以上のように、本実施形態の撮像素子は、位相差信号に基づいて位相差評価値を算出する位相差評価値算出部と、撮像信号に基づいてコントラスト評価値を算出するコントラスト評価値算出部とを備えている。そして、撮像信号の読み出しが完了する前に、位相差信号に基づいて位相差評価値を算出するとともに、コントラスト評価値を算出するか否かを位相差評価値に応じて判定している。
このような構成により、全ての撮像画素からの撮像信号の読み出しの完了を待たずに、相差評価値を算出することができるので、ハイブリッドAFの開始タイミングを早めることができる。すなわち、位相差検出方式とコントラスト検出方式とを組み合わせた焦点検出をより高速に行うことができる。
また、位相差検出方式を用いた焦点検出により被写体への合焦が可能である場合には、コントラスト検出方式を用いた焦点検出を省略することができるので、焦点検出を更に高速化することができる。なお、コントラスト評価値を算出するか否かを判定する判定部は、位相差評価値算出部217であってもよいし、コントラスト評価値算出部218であってもよい。あるいは、図2(b)に示す第2のチップ21に設けられた周辺回路(回路部)であってもよい。
(第2実施形態)
次に、図13〜図15を参照しながら第2実施形態に係る撮像装置について説明する。第1の実施形態では、撮像素子102の列毎に1本の列信号線202を有する構成について説明した。これに対し、本実施形態では、撮像素子102bの列毎に少なくとも2本の列信号線202a、202bを有し、撮像画素からの撮像信号と位相差検出画素からの位相差信号とを並行して読み出し得る構成について説明する。
図13は、第2実施形態に係る撮像素子102bの構成を示す概略図である。図13に示す本実施形態の撮像素子102bは、列毎に2本の列信号線202a、202bを有している。そして、撮像素子102bの画素アレイの一方の側に、AD変換部211a、列走査回路213a、及び水平信号線215aを有し、他方の側に、AD変換部211b、列走査回路213b、及び水平信号線215bを有している。その他の構成については、第1実施形態と概ね同じであるため説明は省略する。以下、主に第1実施形態と異なる構成について説明する。
本実施形態の撮像素子102bの第1のチップ20には、第1の実施形態と同様に、複数の画素201が行列状に配置されている。これらの画素201のうち、副画素SHA、SHBが共に配置された位相差検出行の画素201には、列信号線202bが接続されている。一方、通常の撮像画素のみが配置された撮像行の画素201には、列信号線202aが接続されている。なお、必ずしもこのような構成に限定されるものではなく、本実施形態では、画素アレイの全ての副画素SHA、SHBが、列信号線202bに接続されていればよい。
一方、本実施形態の撮像素子102bの第2のチップ21には、AD変換部211a、AD変換部211b、列走査回路213a、及び列走査回路213bが配置されている。AD変換部211aは、列走査回路213aにより制御され、列信号線202aに出力された撮像信号をAD変換して水平信号線215aに出力する。同様に、AD変換部211bは、列走査回路213bにより制御され、列信号線202bに出力された撮像信号又は位相差信号をAD変換して水平信号線215bに出力する。列走査回路213a及び213bは、タイミング制御回路214により制御される。
このような構成により、通常の撮像画素から出力される撮像信号は、列信号線202a又は列信号線202bを介して、コントラスト評価値算出部218及び信号処理部104へ出力される。一方、副画素SHA、SHBを含む位相差検出画素から出力される位相差信号は、列信号線202bを介して、信号切替部216へ出力される。信号切替部216は、列信号線202bを介して読み出された信号の出力先を切り替える。信号切替部216によって、撮像信号は、コントラスト評価値算出部218及び信号処理部104に出力され、位相差信号は、位相差評価値算出部217に出力される。
ここで、再び、図10を参照しながら、本実施形態の撮像装置におけるハイブリッドAFについて説明する。本実施形態の行走査回路212は、副画素SHA、SHBが配置された位相差検出行の走査と、通常の撮像画素のみが配置された撮像行の走査とを並行して行う。
具体的には、操作部108等の操作により撮影が開始すると、位相差検出行である第1行、第2行、第9行、第10行、…、を順次走査する。同時に、撮像行である第3〜8行、第11〜16行、…、を順次走査する。このように、撮像信号と位相差信号とを、2本の列信号線202a、202bを用いて並行して読み出すことで、撮像信号及び位相差信号の読み出しを高速化することができる。
なお、撮像素子102bにおける画素配置は、必ずしも図10に示すような8行周期には限定されず、周期的でなくてもよい。本実施形態の撮像素子102bでは、副画素SHA、SHBが配置された位相差検出行と、副画素SHA、SHBが配置されていない撮像行とが、それぞれ少なくとも1行以上存在していればよい。
次に、本実施形態の撮像装置におけるハイブリッドAFについて説明する。図14は、第2実施形態に係る撮像素子102bの制御方法を示すタイミングチャートである。図11に示す第1実施形態のタイミングチャートでは、位相差信号の読み出しが完了した後で撮像信号の読み出しを開始した。これに対し、図14に示す本実施形態のタイミングチャートでは、位相差信号の読み出しと並行して撮像信号の読み出しを行う。その他の構成については、第1実施形態と概ね同じであるため説明は省略する。以下、主に第1実施形態と異なる構成について説明する。
例えばユーザにより操作部108が操作されて静止画連写モードが開始すると、制御部106は、静止画連写モードであることを示す静止画連写制御信号をHIGHにする(時刻T0)。これにより、光学機構部1011のメカニカルシャッタが開かれると同時に、画素201の蓄積電荷がリセットされて、画素201における露光が開始する。その後、所定の露出条件を満たすように設定された露光期間が経過すると、光学機構部1011のメカニカルシャッタが閉じられて被写体からの光が遮光され、画素201における露光が終了する(時刻TF0)。
AF評価値算出部1021は、まず、位相差検出方式を用いて焦点検出を行う。AF評価値算出部1021の位相差評価値算出部217は、位相差AFに必要な位相差評価値を算出するために、位相差検出画素から水平信号線215b及び信号切替部216を介して位相差信号の読み出しを開始する(時刻TF0)。同時に、水平信号線215aを介して、撮像画素からの撮像信号の読み出しが開始される(時刻TF0)。
位相差評価値算出部217は、全ての位相差検出画素から位相差信号が読み出されると(時刻TF1)、位相差信号に基づいて位相差評価値を算出する(期間TF1〜TF2)。その後、位相差評価値算出部217は、算出した位相差評価値に基づいて、被写体への合焦が可能であるか否かを判定するための評価値信頼性を算出する(期間TF2〜TF3)。その後の処理は、図11に示す第1実施形態のタイミングチャートと同じであるので説明は省略する。
図15は、第2実施形態に係る撮像素子102bの制御方法を示すフローチャートである。本実施形態の制御部106は、図15に示すフローチャートに従ってハイブリッドAFを行う。図12に示す第1実施形態のフローチャートでは、位相差信号の読み出しが完了した後で撮像信号の読み出しを開始した。これに対し、図15に示す本実施形態のフローチャートでは、位相差信号の読み出しと並行して撮像信号の読み出しを行う。その他の構成については、第1実施形態と概ね同じであるため説明は省略する。以下、主に第1実施形態と異なる構成について説明する。
例えばユーザにより操作部108が操作されて静止画連写モードが開始すると、制御部106は、光学機構部1011を制御して、メカニカルシャッタを開く(ステップS1201)。この結果、画素201における露光が開始する(ステップS1202)。その後、所定の露光期間が経過すると、制御部106は光学機構部1011を制御してメカニカルシャッタを閉じる(ステップS1203)。
続いて、位相差評価値算出部217は、位相差AFに必要な位相差評価値を算出するために、位相差信号の読み出しを開始する(ステップS1204)。同時に、水平信号線215aを介して、撮像画素からの撮像信号の読み出しが開始される(ステップS1206)。読み出された撮像信号は、コントラスト評価値算出部218及び信号処理部104へ出力される。そして、全ての位相差検出画素からの位相差信号の読み出しが完了するまで、位相差信号の読み出しを繰り返す(ステップS1205)。
全ての位相差検出画素からの位相差信号の読み出しが完了すると、位相差評価値算出部217は、撮像信号の読み出しが完了する前に、読み出した位相差信号に基づいて位相差評価値を算出する(ステップS1207)。その後の処理は、図12に示す第1実施形態のフローチャートと同じであるため説明は省略する。
以上のように、本実施形態の撮像素子は、位相差検出画素が配置された行の走査と、位相差検出画素が配置されていない行の走査とを並行して行う。これにより、撮像画素からの撮像信号の読み出しが早く完了するので、ハイブリッドAFをより早く開始することができる。すなわち、位相差検出方式とコントラスト検出方式とを組み合わせた焦点検出を更に高速化することができる。
(変形実施形態)
本発明は、上記実施形態に限らず種々の変形が可能である。例えば、上記実施形態に記載の撮像装置の構成は一例を示したものであり、本発明を適用可能な撮像装置は上記実施形態の構成に限定されるものではない。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならない。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。