図1には、本発明の実施例1であるデジタルスチルカメラやデジタルビデオカメラ等の撮像装置の構成を示している。撮像装置は、光学鏡筒101と、撮像素子102と、駆動回路103と、信号処理部104と、圧縮伸張部105とを有する。また、撮像装置は、位相差検出部106と、制御部107と、発光部108と、操作部109と、画像表示部110と、画像記録部111と、記憶部112と、温度検出部113とを有する。
光学鏡筒101は、被写体からの光を撮像素子102上に結像させる撮像光学系(図示せず:以下、撮像レンズという)を収容する。撮像レンズは、焦点調節を行うフォーカスレンズおよびフォーカスレンズの駆動を制御するフォーカス制御回路を含むフォーカス機構部1011と、変倍を行う変倍レンズおよび変倍レンズの駆動を制御するズーム制御回路を含むズーム機構部1012とを有する。また、撮像レンズは、撮像素子102に入射する光量を調整する絞り機構部1013と、撮像素子102の露光量を制御するシャッタ機構部1014も有する。フォーカス機構部1011、ズーム機構部1012、絞り機構部1013およびシャッタ機構部1014は、制御部107からの制御信号に応じて動作する。なお、光学鏡筒101は、撮像装置に一体に設けられていてもよいし、着脱(交換)可能に設けられていてもよい。
撮像素子102は、CMOSセンサ等により構成され、複数の画素を含む画素部と、該画素部からのアナログ出力信号をデジタル出力信号に変換するADコンバータ(図示せず)とを有する。撮像素子102は、制御部107からの制御信号に応じて動作する駆動回路103によって駆動されて露光(電荷蓄積)および信号出力(読み出し)を行い、上記デジタル出力信号としての撮像信号を出力する。
信号処理部104は、制御部107により制御され、撮像素子102の全画素から得られる撮像信号に対して、ホワイトバランス調整処理や色補正処理を行って表示または記録用の画像信号を生成する画像生成処理を行う。また、信号処理部104は、撮像信号から検出される被写体の明るさに応じて絞り値やシャッタ速度を設定するAE(auto exposure)処理も行う。さらに、信号処理部(信号生成手段)104は、撮像素子102における後述するAF画素行からの撮像信号を用いて、互いに対をなす位相差像信号を生成する。対の位相差像信号は、撮像レンズの焦点状態(デフォーカス量)に対応する位相差を有する。
圧縮伸張部105は、制御部107により制御され、信号処理部104からの画像信号に対してJPEG方式等の静止画データフォーマットにより圧縮符号化処理を行う。また、圧縮伸張部105は、制御部107から供給された静止画像の符号化データを伸張復号化処理する。圧縮伸張部105は、MPEG方式等によって動画像の圧縮符号化/伸張復号化処理を行ってもよい。
位相差検出部106は、信号処理部104により生成された対の位相差像信号を取得し、該対の位相差像信号に対して相関演算を行うことによりこれら位相差像信号の位相差を検出(算出)する。そして、検出した位相差を制御部107に送る。制御部107は、位相差に基づいて撮像レンズの焦点状態を示すデフォーカス量を算出する。さらに、制御部107は、算出したデフォーカス量から、合焦状態を得るために必要なフォーカスレンズの駆動量(以下、フォーカス駆動量という)を算出し、該フォーカス駆動量を含むフォーカス制御信号をフォーカス機構部1011に送る。フォーカス機構部1011は、制御部107からのフォーカス制御信号に従い、フォーカス駆動量だけフォーカスレンズを移動させる。これにより、撮像面位相差検出方式によるフォーカス制御としてのAF(autofocus)が行われる。
制御部107は、CPU、ROM、RAM等により構成されるマイクロコンピュータであり、ROMに記憶されたコンピュータプログラムを実行することにより撮像装置の全体を制御する。本実施例の制御部107は、撮像レンズのフォーカス制御を行うフォーカス制御手段および後述する欠陥画素対応処理を行う処理手段として機能する。
発光部108は、信号処理部104でのAE処理において被写体の明るさが暗いと判定された場合に被写体に対して照明光を照射する。
操作部109は、シャッタレリーズボタン等の各種操作キー、レバー、ダイヤル等を含み、ユーザによる入力操作に応じた操作信号を制御部107に出力する。
画像表示部110は、LCD等の表示デバイスやこれに対するインタフェース回路等を含み、制御部107から供給される画像信号を表示用フォーマットに変換する等して画像を表示デバイスに表示させる。
画像記録部111は、撮像装置に対して着脱が可能な半導体メモリ、光ディスク、HDD、磁気テープ等により構成され、圧縮伸張部105により符号化された画像データファイルを制御部107から受け取って記憶する。また、画像記録部111は、制御部107からの読み出し制御信号に応じて画像データファイルを読み出して、制御部107に出力する。
記憶部112は、撮像装置における制御情報や撮像装置の個体ごとに製造/調整工程で調整された補正データ等を記憶する。さらに、記憶部112は、撮像素子102内の欠陥画素に関する情報(以下、欠陥画素情報という)を記憶している。欠陥画素情報は、欠陥画素のアドレス(座標)を示す情報と、欠陥画素から出力される信号のレベルを示す情報を含む。
温度検出部113は、撮像装置内における撮像素子102や制御部107等の電子部品の温度を検出し、検出した温度の情報を制御部107に送る。
図2には、本実施例における撮像素子102の1画素の構成を示している。画素201は、1つのマイクロレンズ202と、光電変換素子としての2つのフォトダイオード(PD)203,204とを有する。さらに、画素201は、PD203とPD204のそれぞれの信号を読み出す転送スイッチ205,206と、PD203またはPD204の信号を一時的に蓄積するフローティングディフュージョン(FD)207とを有する。画素201は、図示された構成要素以外にも後述する複数の構成要素を備えている。
図3には、撮像素子102における画素配列を示している。撮像素子102には、2次元画像を取得するために、複数の画素を2次元アレイ状に配列している。各画素は図2に示す構成を有する。例えば画素301,302,303,304において、301L,302L,303L,304Lは図2に示したPD203に対応し、301R,302R,303R,304Rは図2に示したPD204に対応する。
図3に示した画素配列を有する撮像素子102には、図4に示すように、撮像レンズの射出瞳を通過した光束が入射する。図4において、401は各画素の断面を示す。断面401に示すように、各画素は、マイクロレンズ202、PD203およびPD204に加えて、カラーフィルタ403を有する。中央のマイクロレンズ202を有する画素に対して、射出瞳406からの光束の中心を光軸409とする。射出瞳406からの光束は、光軸409を中心として撮像素子102に入射する。407,408は撮像レンズの射出瞳406のうち一部の領域(以下、瞳領域という)を示す。瞳領域407からの光束のうち最外周の光線を410,411で示し、瞳領域408からの光束のうち最外周の光線を412,413で示す。
図4に示すように、射出瞳406からの光束のうち、光軸409を境にして上側の光束はPD204に入射し、下側の光束はPD203に入射する。つまり、PD203とPD204はそれぞれ、射出瞳406における互いに異なる瞳領域407,408からの光束を受光する。この構成により、瞳分割が行われる。
図3に示す画素行305に含まれる画素301,302,303,304において、一方の瞳領域からの光束により形成される被写体像(A像)を光電変換するPD203に対応するPD301L,302L,303L,304Lから得られる信号をA像信号とする。また、他方の射出瞳からの光束により形成される被写体像(B像)を光電変換するPD204に対応するPD301R,302R,303R,304Rから得られる信号をB像信号とする。A像信号とB像信号は、前述した互いに対をなす位相差像信号に相当する。
図5には、図2に示した画素の等価回路の構成を示す。ここでは、模式的に3列1行分の画素の等価回路を示している。図5において、図2と同じ構成要素には同じ参照符号を付している。画素201の転送スイッチ205,206はそれぞれ、転送パルスφTX1,φTX2によって駆動され、それぞれ対応するPD203,204で発生した光電荷をFD207に転送する。FD207は電荷を一時的に蓄積するバッファとしての役割を有する。501はソースフォロアとして機能する増幅MOSアンプであり、502は垂直選択パルスφSELによって画素を選択する選択スイッチである。FD207、増幅MOSアンプ501および垂直出力線503に接続された不図示の定電流源からフローティングディフュージョンアンプが構成される。
選択スイッチ502で選択された画素のFD207の信号電荷は、フローティングディフュージョンアンプにより電圧に変換されて、垂直出力線503に出力され、読み出し回路103に読み出される。504はリセットパルスφRESを受けてVDDによりFD207をリセットするリセットスイッチである。
上述したように、PD203,204はそれぞれに対応する転送スイッチ205,206を有するが、画素中の回路においてFD207以降で信号読み出しに用いる回路は共有する。このような構成にすることで、画素の縮小化を図ることができる。また、図示したように転送パルスφTX1,φTX2を提供する配線は各行に配列された画素により共有される。
次に、撮像素子102の駆動方法について、撮像素子102の駆動パターンを示す図6のタイミングチャートを用いて説明する。図6には、1画素行分の信号を読み出し回路103に読み出す駆動における駆動パターンを示している。
まず、時間t601の間にリセットパルスφRESと転送パルスφTX1,φTX2とが同時に高電位(以下、Hと記す)に設定される。これにより、リセットスイッチ504と転送スイッチ205,206がオンとなり、PD203,PD204およびFD207の電位が初期電位VDDにリセットされる。その後、転送パルスφTX1,φTX2が低電位(以下、LOと記す)に設定されると、PD203およびPD204において電荷蓄積が始まる。
次に、電荷蓄積時間に基づいて決められる所定時間が経過した後、時間t603において選択パルスφSELがHに設定されて選択スイッチ502がオンになることで読み出し行が選択され、1画素行分の信号の読み出し動作が行われる。また同時にリセットパルスφRESがLOに設定されて、FD207のリセットが解除される。
時間t603のうち時間t604の間にφTNがHに設定されると、読み出し回路103によりFD207のリセット信号であるN信号が読み出されて記録される。なお、図示はしないが、読み出し回路103は、φTN、φS1およびφS2の制御に基づいて、FD207の電位を垂直出力線503を介して読み出して記録する。
次に、時間t603のうち時間t605の間に転送パルスφTX1とφS1とが同時にHに設定されて転送スイッチ205がオンになることで、PD203の光信号とノイズ信号の加算信号である第1PD信号とが読み出し回路103により読み出されて記録される。
次に、リセットスイッチ504をオンしない状態で、時間t603のうち時間t606の間に転送パルスφTX1,φTX2とφS2とが同時にHに設定されることで、転送スイッチ205,206がオンになる。これにより、PD203の光信号とPD204の光信号とノイズ信号とが混合された加算信号である第2PD信号が読み出し回路103よりに読み出されて記録される。時間t605において一度転送パルスφTX1がオンに設定されてPD203の信号がFD207に読み出されているので、時間t606では転送パルスφTX1はオフ状態でもよい。また、厳密には、時間t601の終了から時間t606の終了までが電荷蓄積時間t602となる。なお、転送パルスφTX2をHに設定してPD204をリセットするタイミングを、時間t605と時間t606との時間差分、遅らせてもよい。
以上の動作で読み出し回路103により読み出されたN信号、第1PD信号および第2PD信号に基づいて、第1PD信号からノイズ信号を差分したA像信号と、第2PD信号からノイズ信号を差分した画像信号とが撮像素子102から出力される。この画像信号はPD203とPD204の信号を合成した信号(A+B像信号)であるので、該画像信号からA像信号を減算することでB像信号を生成することができる。
次に、本実施例の撮像装置において行われるフォーカス制御のための処理(フォーカス制御処理)について、図7のフローチャートを用いて説明する。制御部107は、コンピュータプログラムである制御プログラムに従って、このフォーカス制御処理を行う。なお、ここでは、画像表示部110に電子ファインダ画像(ライブビュー画像)としての表示用画像信号または記録用画像信号を生成する画像生成処理を行いながら撮像面位相差検出方式AFを行う場合について説明する。
まず、ステップS701では、制御部107は、操作部109におけるAF開始ボタンがON操作されたか否かを判定し、ON操作された場合にはステップS702へ進む。なお、AF開始ボタンがON操作されたか否かの判定に代えて、電子ファインダ画像の表示や動画像の記録を開始したか否かを判定してもよい。
ステップS702では、制御部107は、光学鏡筒101における撮像レンズの各種設定情報(レンズ情報)を取得する。
次に、ステップS703では、制御部107は、位相差検出部106に、撮像素子102のAF画素行からの撮像信号に基づいて信号処理部104により逐次生成される位相差像信号(A像信号およびB像信号)を取得させる。本実施例では、位相差検出部106に、上述したようにA+B像信号からのA像信号の減算によってB像信号を生成させる。
次に、ステップS704では、制御部107は、位相差像信号および画像信号に対する欠陥画素対応処理の選択処理を行う。欠陥画素対応処理およびその選択処理については後に詳しく説明する。
次に、ステップS705では、制御部107は、位相差検出部106に、A像信号およびB像信号に対する相関演算を行わせて、これらA像およびB像信号の位相差を検出させる。さらに、制御部107は、位相差に基づいて撮像レンズのデフォーカス量を算出する。
次に、ステップS706では、制御部107は、ステップS704で算出したデフォーカス量に基づいてフォーカス駆動量を算出する。
続いてステップS707では、制御部107は、フォーカス駆動量を含むフォーカス制御信号をフォーカス機構部1011に送り、フォーカスレンズを駆動させる。これにより、AFを完了する。
なお、この後は、ステップS701からの処理を繰り返し行ったり、被写体の状況の変化を検出して再度、該処理を行ったりしてもよい。
次に、図8および図9を用いて、ステップS704で行う欠陥画素対応処理の選択処理について説明する。本実施例では、撮像素子102の全画素のうちAFにより撮像レンズのピントを合わせる目標である被写体の光学像(被写体像)の少なくとも一部を光電変換して位相差像信号を生成するための撮像信号を出力する2以上の画素の集合を位相差検出画素群とする。位相差検出画素群は、ユーザの選択操作に応じて又は制御部107が所定のアルゴリズムによって撮像画面内にて選択される焦点検出領域に対応する2以上の画素である。そして、以下の説明では、位相差検出画素群を水平方向に1列に並んだ2以上の画素からなる画素行とし、この画素行をAF画素行という。
選択処理では、制御部107は、AF画素行に欠陥画素が含まれるか否かを判定する。そして、AF画素行に欠陥画素が含まれている場合に、その欠陥画素の信号レベルに応じて、位相差像信号と画像信号に対する欠陥画素対応処理を行うか否かを選択する。欠陥画素対応処理は、詳しくは後述するが、位相差像信号または画像信号に対する補正処理やAF画素行の変更処理を含む。
図8には欠陥画素が位相差検出に与える影響を示し、図9のフローチャートには選択処理の流れを示している。
AF画素行において、図8(a)に示すような信号波形のA像信号(点線)およびB像信号(実線)が得られたとする。図8(a)の横軸はAF画素行における画素番号(画素No)を示し、縦軸はA像およびB像信号の値(ADカウント数)を示している。
A像信号とB像信号は本来は同波形を有する信号である。しかし、例えばAF画素行に含まれる1画素のうちA像信号を生成するためのPDに欠陥があると、B像信号とは異なる波形のA像信号が得られる。このような画素を欠陥画素という。欠陥画素がなければ、A像信号とB像信号は一致するので、A像信号とB像信号の位相差は0となり、結果としてデフォーカス量も0である。しかし、欠陥画素があると、その欠陥画素の位置と信号レベルとに応じてA像信号とB像信号の位相差が0に対して変化し、この変化した位相差分がデフォーカス量の誤差となる。
本実施例の撮像装置の製造工程では、図3に示す画素配列を有する撮像素子102に対して欠陥画素の有無を撮像装置への組み付け前にチェックする。仮にそのチェックで欠陥画素が発見された場合には、その欠陥画素の位置と信号レベルとを含む欠陥画素情報を記憶部112に記憶する。このときの信号レベルは、撮像素子102に全く光が入射しないダーク状態での信号レベルである。ダーク状態での信号レベルは本来は0であるが、欠陥画素では常に0からオフセットした信号レベルの信号が出力される。以下の説明において、欠陥画素から出力される信号を欠陥画素信号という。
本実施例においては、各画素のPD203とPD204のそれぞれから別々に得る対の位相差像信号に対する欠陥画素情報と、PD203とPD204のそれぞれからの信号を合成して得る画像信号に対する欠陥画素情報とを分けて記憶部112に記憶する。なお、位相差像信号に対する欠陥画素情報として、PD203の欠陥画素情報とPD204の欠陥画素情報とを分けて記憶部112に記憶してもよい。また、画像信号に対する欠陥画素の信号レベルとして、PD203とPD204からの信号を足し合わせた信号レベルを記憶してもよい。
以下の説明において、欠陥画素の信号レベルを欠陥信号レベルという。本実施例では、欠陥信号レベルを位相差像信号のコントラスト(位相差像信号の最大値と最小値の差)で除した値、つまりコントラストに対する比率で表現する。これは、位相差を求めるための相関演算は一般に位相差像信号のコントラストに大きく依存するため、欠陥画素の影響を考えるには、欠陥信号レベルをコントラストに対する比率に換算した方が都合が良いからである。位相差像信号のコントラストは、ここではA像信号に対して欠陥画素が存在し、B像信号に対しては欠陥画素が存在しない場合を想定しているため、B像信号を用いてコントラストを計算する。
図8(a)に示す画素Noがi=0〜64の全65画素から得られるB像信号の値をB(i)とすると、コントラストPBは、位相差像信号の最大値Max{B(i)}と最小値Min{(Bi)}を用いて、
PB=Max{B(i)}−Min{(Bi)}
で計算される。なお、A像信号に対して欠陥画素が存在せず、B像信号に対して欠陥画素が存在する場合は、A像信号の値A(i)を用いてコントラストPBを算出すればよい。
予め記憶部112に欠陥画素情報の一部として記憶された欠陥信号レベルをnとするとき、正規化された欠陥信号レベルS_lvlは、
S_lvl=n/PB
で求められる。
A像信号に対して1画素だけ存在する欠陥画素の欠陥信号レベルS_lvl=+40[%]であるとする。図8(b)には、この欠陥画素が上記全65画素のうち各画素Noの位置に存在する場合に最終的に得られるデフォーカス量が真のデフォーカス量(=0)に対してどれだけずれるか(誤差を有するか)を示している。
図8(b)から分かるように、欠陥信号レベルが一定(+40%)であっても、欠陥画素がどの画素Noの位置に存在するかによって、デフォーカス量の誤差が異なる。例えば、図8(b)に示した例では、S_lvl=+40[%]の場合のデフォーカス量の最大誤差は、欠陥画素が画素No=30および37の位置に存在する場合の±50[μm]である。このデフォーカス量の最大誤差が分かっていれば、実際に行われるAFの誤差(以下、実AF誤差という)が撮像装置に求められるAF精度の範囲(以下、要求AF精度範囲という)内に収まる欠陥信号レベルが決まる。
図9において、選択処理を開始した制御部107は、ステップS7041において、撮像素子102のうちAF画素行に欠陥画素が存在するか否かを記憶部112に記憶されている位相差像信号に対する欠陥画素情報を用いて判定する。AF画素行に欠陥画素が存在しない場合は、制御部107は、そのまま位相差像信号および画像信号の使用を許可して本処理を終了する。一方、AF画素行に欠陥画素が存在する場合はステップS7042に進む。
ステップS7042では、制御部107は、欠陥画素の欠陥信号レベルS_lvlが位相差用閾値(所定値)より高いか否か、すなわち欠陥画素を用いた場合の実AF誤差が要求AF精度範囲から逸脱するか否かを判定する。欠陥信号レベルが位相差用閾値より高い場合は、その欠陥信号レベルが、その欠陥画素からの欠陥画素信号を含む位相差像信号の補正が必要となる信号レベル(以下、位相差欠陥補正レベルという)であるとしてステップS7043に進む。一方、欠陥信号レベルS_lvlが閾値と同じかより低く、欠陥信号レベルが位相差欠陥補正レベルではない(実AF誤差が要求AF精度範囲に収まる)場合は、ステップS7044に進む。
ステップS7043では、制御部107は、記憶部112に記憶されている画像信号に対する欠陥画素情報を用いて、画像信号に対する補間補正処理を行うか否かを判定(選択)する。
ここで、画像信号に対する欠陥画素情報には、欠陥画素の位置と信号レベルの情報に加えて、温度、撮像素子102の感度および露出時間に応じた画像信号用閾値を示すテーブルが含まれる。画像信号用閾値は、これよりも高い欠陥信号レベルを、それを有する欠陥画素信号を含む画像信号の補正が必要となる信号レベル(以下、画像欠陥補正レベル)と判定するために用いられる。制御部107は、温度検出部113から得られる撮像素子102の動作温度、ユーザ操作等により感度指定された場合の撮像素子102の感度およびAE処理により設定されたシャッタ速度(露光時間)に応じた画像欠陥補正レベルを上記テーブルから読み出す。そして、欠陥画素の欠陥信号レベルが画像欠陥補正レベルである場合はステップS7045に進み、該欠陥信号レベルが画像欠陥補正レベルではない場合はステップS7046に進む。
ステップS7045では、制御部107は、位相差像信号と画像信号の双方に対して補間補正処理を行うか、またはAF画素行を欠陥画素を含まない画素行に変更する処理を行う一方で画像信号に対して補間補正処理を行うかする。AF画素行の変更処理を行った場合は、制御部107は、信号処理部104に変更後のAF画素行からの撮像信号を用いて新たな位相差像信号を生成させる。
補間補正処理は、欠陥画素の周辺に存在する正常な画素の信号値を用いて欠陥画素の補正後の信号値を計算することで行う。また、AF画素行の変更処理は、欠陥画素の近傍の画素行(例えば、欠陥画素に隣接する画素行)であって欠陥画素を含まない画素行に変更することで行う。この後、制御部107は、本処理を終了する。
ステップS7046では、制御部107は、位相差像信号に対して補間補正処理を行い、画像信号に対する補正処理は行わずに画像信号を出力する処理を行う。そして、本処理を終了する。
また、ステップS7044では、制御部107は、ステップS7043と同様に、画像信号を補正する(欠陥画素の欠陥信号レベルが画像欠陥補正レベルである)か否かを判定する。そして、欠陥画素の欠陥信号レベルが画像欠陥補正レベルである場合はステップS7047に進む。一方、欠陥信号レベルが画像欠陥補正レベルではない場合は、画像信号に対する補正処理を行わずに画像信号を出力する処理を行い、本処理を終了する。
ステップS7047では、制御部107は、ステップS7045で説明した画像信号に対する補間補正処理のみを行い、位相差像信号に対する補正処理を行わずに該位相差像信号を位相差検出部106に出力して位相差を検出させる処理を行う。そして、本処理を終了する。
このように本実施例では、欠陥画素信号を含む位相差像信号と画像信号のそれぞれに対して、別々の欠陥信号レベルの閾値(位相差用および画像信号用閾値)を用いて、位相差像信号と画像信号に対して別々に欠陥画素対応処理を行うか否かを判定(選択)する。このため、位相差像信号と画像信号とで欠陥画素対応処理の対象とすべき欠陥信号レベル(位相差欠陥補正レベルと画像欠陥補正レベル)が異なっている場合に、位相差像信号と画像信号のそれぞれに対して適切な欠陥画素対応処理を行うことができる。
次に、本発明の実施例2である撮像装置について説明する。本実施例では、AF画素列(位相差検出画素群)に欠陥画素が存在する場合に、焦点検出(つまりはAF)の精度が許容される範囲で欠陥画素を有効利用する。
本実施例の撮像装置の構成は実施例1(図1)に示した撮像装置と同じであり、本実施例において実施例1との共通する構成要素には実施例1と同符号を付して説明に代える。また、本実施例におけるフォーカス制御処理の基本的な流れは、実施例1(図7)に示したものと同じである。ただし、図7のステップS704で行われる欠陥画素対応処理の選択処理が実施例1とは異なる。また本実施例における欠陥画素対応処理は、位相差像信号に対する補正処理またはAF画素行の変更処理である。
本実施例において、制御部(フォーカス制御手段および処理手段)107は、位相差検出部106から得られる位相差に対してデフォーカス変換係数を乗じることで撮像レンズのデフォーカス量を算出する。本実施例では、このデフォーカス変換係数に応じて焦点検出の精度が許容できる範囲で欠陥画素を有効利用することが可能な撮像装置について説明する。
図10および図11には、デフォーカス変換係数の求め方を示している。撮像素子102には、光学鏡筒101内においてフォーカスレンズや変倍レンズ等のレンズを保持するレンズ保持枠1040,1041および絞り機構部1013内の光学絞り等の構成部材によって制限された光束が入射する。
図10には、撮像素子の中央付近の画素(以下、中央画素という)に対して射出瞳面1001の位置にある光学絞りによって光束が制限されている(ケラレが生じている)様子を示している。図10において、1003は撮像レンズの予定結像面に位置する撮像素子を示し、1004は予定結像面からずれた位置(デフォーカス量1029に対応する位置)にある撮像素子を示している。1005は撮像レンズの光軸であり、1006は撮像素子1003上での光軸位置を示している。また、1007,1008は光学絞りによって制限された光束(以下、制限光束という)のうち最外周の光線を示し、1009,1020は光学絞りによって制限されていない光束(以下、非制限光束という)のうち最外周の光線を示している。また、制限光束(1007,1008)のうち位相差検出用光束を1021,1022で示し、これら位相差検出用光束1021,1022の重心をそれぞれ1025,1026で示す。さらに、非制限光束(1009,1020)のうち位相検出用光束を1023,1024で示し、これら位相検出用光束1023,1024の重心をそれぞれ1027,1028で示す。
図11には、中央画素における射出瞳面1001でのケラレによる入射光束の重心位置の変化を示している。図11において、1033,1034はそれぞれ、中央画素に入射する制限光束(1007,1008)および非制限光束(1009,1020)が通過する瞳領域を示す。また、1035は図2に示したPD203に対するA像を形成する光束の入射角特性を示し、1036は図2に示したPD204に対するB像を形成する光束の入射角特性を示す。PD203,204には、円形の瞳領域1033,1034を通過した上記光束の一部である位相差検出用光束が、入射角特性1035,1036の内側に等高線で示した感度分布をPD203,204に与えるように入射する。このため、位相差検出用光束に対するPD203,204の感度分布の重心をそれぞれ求めることで、位相差検出用光束が制限光束である場合と非制限光束である場合とでの上記重心の間隔を求めることができる。PD203,204の感度分布および撮像レンズの口径の情報を測定または計算により求めて記憶しておくことで、これらの情報を用いて、位相差からデフォーカス量を算出するためのデフォーカス変換係数を求めることができる。
図10においてデフォーカス量1029をDEFとし、撮像素子1003から射出瞳面1001までの距離1030をLとする。また、制限光束(1007,1008)のうちPD203,204に入射する位相差検出用光束による感度分布の重心1026,1025の間隔をG1とし、該位相差検出用光束により形成されるA像とB像の像ずれ量(位相差)をPRED1(1031)とする。さらに、非制限光束(1009,1020)のうちPD203,204に入射する位相差検出用光束による感度分布の重心1028,1027の間隔をG2とし、該入射光束により形成されるA像とB像の像ずれ量(位相差)をPRED2(1032)とする。そして、位相差PRED1,PRED2をデフォーカス量に変換するためのデフォーカス変換係数をそれぞれK1,K2とするとき、以下の式によってデフォーカス量が求まる。
DEF=K1×PRED1
DEF=K2×PRED2
デフォーカス変換係数K1,K2はそれぞれ、以下の式によって求まる。
K1=L/G1(光束が制限されているとき)
K2=L/G2(光束が制限されていないとき)
上記式において、G1<G2であることからK1>K2となる。これは、一般に位相差検出用光束が制限されているほど、デフォーカス変換係数Kの値が大きくなることを意味する。
位相差を検出する画素が光軸位置近傍にない場合は、射出瞳面1001以外の位置にある光学絞りによって位相差検出用光束のケラレが生じる。また、光学絞りよりF値が明るい場合でも撮像レンズにおける光学絞り以外のレンズ保持枠に対応した射出瞳によって光束のケラレが発生する。
図12には、撮像素子の中央(光軸位置)から離れた像高に位置する画素(以下、周辺画素という)に対して、レンズ保持枠によって制限された光束が入射する様子を示している。図12において、1103は撮像レンズの予定結像面に位置する撮像素子を示し、1104は予定結像面からずれた位置(デフォーカス量1129に対応する位置)にある撮像素子を示している。1105は撮像レンズの光軸であり、1106は撮像素子1103上での光軸位置を示す。1107は撮像素子1003に最も近い位置にあるレンズ保持枠1140により制限された制限光束のうち最外周の光線を示し、1108は被写体に最も近い位置にあるレンズ保持枠1141により制限された制限光束の最外周の光線を示している。また、制限光束(1107)のうち位相差検出用光束を1121で示し、この位相差検出用光束1121の重心を1125で示す。制限光束(1108)のうち位相差検出用光束を1122で示し、この位相差検出用光束1122の重心を1126で示す。
図13には、周辺画素における射出瞳面1101でのケラレによる入射光束の重心位置の変化を示している。図13において、1133は周辺画素に入射する制限光束(1107,1108)が通過する瞳領域を示す。1135は図2に示したPD203に対するA像を形成する光束の入射角特性を示し、1136は図2に示したPD204に対するB像を形成する光束の入射角特性を示す。PD203、PD204には、瞳領域1133の内側を透過した光束の一部である位相差検出用光束が、入射角特性1135,1136の内側に等高線で示した感度分布をPD203,204に与えるように入射する。このため、位相差検出用光束に対するPD203,204の感度分布の重心をそれぞれ求めることで、位相差検出用光束がレンズ保持枠によって制限されている場合の上記重心の間隔を求めることができる。PD203,204の感度分布および撮像レンズの口径の情報を測定または計算により求めて記憶しておくことで、これらの情報を用いて、位相差からデフォーカス量を算出するためのデフォーカス変換係数を求めることができる。
図12においてデフォーカス量1129をDEFとし、撮像素子1103から射出瞳面1101までの距離1130をLとする。また、制限光束(1107,1108)のうちPD203,204に入射する位相差検出用光束による感度分布の重心1126,1125の間隔をG3とし、該位相差検出用光束により形成されるA像とB像の像ずれ量(位相差)をPRED3(1131)とする。そして、位相差PRED3をデフォーカス量に変換するためのデフォーカス変換係数をそれぞれK3とするとき、以下の式によってデフォーカス量が求まる。
DEF=K3×PRED3
また、デフォーカス変換係数K3は、以下の式により求められる。
K3=L/G3
本実施例では、撮像素子上において位相差検出に用いられる画素の位置(像高)に応じてレンズ保持枠により位相差検出用光束が制限される場合について説明している。しかし、その他にも、撮像レンズの像面からズーム機構部1012やフォーカス機構部1011に含まれるレンズが形成する光学像(射出瞳)までの距離である射出瞳距離の変化によっても位相差検出用光束が制限される位置が変化する。また、撮像レンズの口径の違い、さらには撮像素子102の製造ばらつきによる画素の感度分布の個体差によっても、位相差検出用光束が制限される位置が変化する。
図10〜図13を用いて説明したように、光学絞りの絞り値や光束が制限される位置等の光束制限条件の変化によって、位相差をデフォーカス量に変換するためのデフォーカス変換係数が変化する。すなわち、位相差PREDに対するデフォーカス量の敏感度は、光束が制限されることにより変化する。位相差検出(焦点検出)時の撮像レンズの絞り値が大きいほど、また撮像素子上での光軸位置からの像高が高くなるほど、デフォーカス変換係数の値は大きくなり、位相差PREDに対するデフォーカス量の敏感度が高くなる。さらに、撮像素子102における光学的な製造ばらつきに起因する画素への入射光線角度の変化により撮像面内として感度分布が個体ごとに変わる。そのため、捉える光束が個体ごとに変化することによっても、位相差PREDに対するデフォーカス量の敏感度が高くなる。
次に、本実施例において図7でのステップS704で行う選択処理の流れについて、図14のフローチャートを用いて説明する。
選択処理を開始した制御部107は、ステップS1201において、撮像素子102のうちAF画素行に欠陥画素が存在するか否かを記憶部112に記憶されている位相差像信号に対する欠陥画素情報を用いて判定する。AF画素行に欠陥画素が存在しない場合は、制御部107は、そのまま位相差像信号および画像信号の使用を許可して本処理を終了する。一方、AF画素行に欠陥画素が存在する場合はステップS1202に進む。
ステップS1202では、撮像条件である撮像レンズの状態、すなわち絞り値や射出瞳距離を確認する。
次に、ステップS1203では、制御部107は、撮像素子102(撮像面)上でのAF画素行の位置(像高)を確認する。
そして、ステップS1204では、制御部107は、ステップS1202で取得した撮像条件およびステップS1203で取得したAF画素行の像高に基づいて、デフォーカス変換係数Kを選択する。
ここで、制御部107は、その内部のメモリ(または外部のメモリ)に、絞り値、射出瞳距離およびAF画素行の像高に応じたデフォーカス変換係数をテーブルデータとして記憶(保持)している。このテーブルデータである係数テーブルは、例えば以下のように作成される。まず、撮像装置の製造/調整工程において、その個体ごとに、絞り値および射出瞳距離を変えながら撮像素子102における各像高の画素の感度分布を検出(測定)する。次に、予め用意された複数の感度分布に対応するデフォーカス変換係数から、検出された感度分布に対応するデフォーカス変換係数を選択して、絞り値、射出瞳距離およびAF画素行の像高に応じたデフォーカス変換係数を得る。そして、これらデフォーカス変換係数をテーブル化することで上記係数テーブルが作成される。
前述したように光束のケラレによって射出瞳面における位相差検出用光束の重心の位置がずれるため、制御部107は、ステップS1202,S1203で得た撮像条件およびAF画素行の像高を確認する。そして、撮像条件およびAF画素行の像高に応じたデフォーカス変換係数Kを、メモリに記憶されている係数テーブルから選択する。
ステップS1205では、制御部107は、ステップS1204で選択したデフォーカス変換係数Kと変換係数閾値Kthとを比較し、デフォーカス変換係数Kが変換係数閾値Kthより大きいか否かを判定する。これにより、欠陥画素の影響による位相差のばらつき量(つまりは実AF誤差)が要求AF精度範囲に収まるか否かを確認する。変換係数閾値Kthの決定方法については後述する。デフォーカス変換係数Kが変換係数閾値Kthより大きい場合は、実AF誤差が要求AF精度範囲に収まらないとしてステップS1206に進む。一方、デフォーカス変換係数Kが変換係数閾値Kthと同じかそれよりも小さい場合は、実AF誤差が要求AF精度範囲に収まるとして、欠陥画素対応処理を行うことなく本処理を終了する。
ステップS1206では、制御部107は、位相差像信号に対する補間補正処理を行うか、またはAF画素行を欠陥画素を含まない画素行に変更する処理を行って信号処理部104に新たに位相差像信号を生成させるかする。補間補正処理は、欠陥画素の周辺に存在する正常な画素の信号値を用いて欠陥画素の補正後の信号値を計算することで行う。また、AF画素行の変更は、欠陥画素の近傍の画素行(例えば、欠陥画素に隣接する画素行)であって欠陥画素を含まない画素行に変更することで行う。この後、制御部107は、本処理を終了する。
図15を用いて、実施例1で説明した欠陥信号レベルS_lvlとデフォーカス変換係数Kとの関係から変換係数閾値Kthを決定する方法について説明する。位相差から算出されるデフォーカス量の誤差は、欠陥画素による位相差への影響の大きさとデフォーカス変換係数Kとを乗じたものとなる。このため、要求AF精度範囲内に収まるデフォーカス量の誤差(つまりは実AF誤差)に対応する欠陥信号レベルS_lvlに応じて変換係数閾値Kthが決まる。
図15の縦軸はAF画素行に含まれる欠陥画素の信号レベルである欠陥信号レベルS_lvlを示し、横軸にデフォーカス変換係数Kを示している。図中の白い菱形の点を結んだ直線は、各欠陥信号レベルS_lvlにおいて要求AF精度範囲内に収まるデフォーカス量の最大誤差を算出させるデフォーカス変換係数K、つまりは変換係数閾値Kthを示している。例えば、欠陥画素レベルS_lvlが40%である場合は、要求AF精度範囲内に収まるデフォーカス量の最大誤差を算出させるデフォーカス変換係数はK7となるため、制御部107は、変換係数閾値KthとしてK7を設定する。
制御部107は、全ての欠陥信号レベルに対応する変換係数閾値Kthをメモリに記憶してもよい。また、図15中に白い菱形の点で示した離散的な複数の欠陥信号レベル(以下、特定欠陥信号レベルという)に対応する複数の変換係数閾値Kthのみをメモリに記憶してもよい。この場合において、特定欠陥信号レベルに対応する変換係数閾値Kthを設定するときには、メモリに記憶された複数の変換係数閾値Kthの中から該特定欠陥信号レベルに対応する変換係数閾値Kthを読み出す。また、特定欠陥信号レベル以外の欠陥信号レベル(以下、非特定欠陥信号レベルという)に対する変換係数閾値Kthを設定する場合には、その非特定欠陥信号レベルに近い2つの特定欠陥信号レベルに対応する2つの変換係数閾値Kthを用いた線形補間演算する。これにより、非特定欠陥信号レベルに対応する変換係数閾値Kthを求める。
このように、本実施例では、撮像素子102の光学的な製造ばらつき、撮像条件(絞り値、射出瞳距離)およびAF画素行の像高に応じて異なるデフォーカス変換係数を設定する。そして、該デフォーカス変換係数と変換係数閾値Kthとを比較した結果に応じて欠陥画素対応処理を行うか否かを判定(選択)する。具体的には、デフォーカス変換係数が欠陥画素の信号レベルに応じて設定された変換係数閾値Kthより大きい場合、すなわち撮像装置に要求されるAF精度が保証できない場合に限って欠陥画素対応処理を行う。これにより、デフォーカス変換係数が変換係数閾値Kthより小さくて欠陥画素の影響による位相差の誤差に対するデフォーカス量の誤差の敏感度が低い状況においては欠陥画素を有効利用して焦点検出(つまりはAF)を行うことができる。一方、デフォーカス変換係数が変換係数閾値Kthより大きくて欠陥画素の影響による位相差の誤差に対するデフォーカス量の誤差の敏感度が高い状況においては、欠陥画素の影響を抑えて又は排除して良好な精度で焦点検出を行うことができる。
なお、上記各実施例では、位相差像信号に対する欠陥画素対応処理として補間補正処理やAF画素行の変更処理を行う場合について説明した。しかし、これらの処理以外の欠陥画素対応処理として、欠陥画素を含むAF画素行のうち欠陥画素を除いた正常画素のみで位相差信号を生成する補正処理を行ってもよい。例えば、正常画素同士の加算処理または平均処理によって補正された位相差像信号を生成するようにしてもよい。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。