以下、本発明の例示的な実施形態について、添付図面を参照して詳細に説明する。ここでは、本発明に係る焦点検出装置をレンズ交換式のデジタル一眼レフカメラ(カメラシステム)に適用した実施形態について説明する。しかしながら本発明は、位相差検出方式の焦点検出に用いる信号を生成可能な撮像素子を有する任意の電子機器に適用可能である。このような電子機器には、デジタルスチルカメラ、デジタルビデオカメラなどのカメラ一般はもとより、カメラ機能を有する携帯電話機、コンピュータ機器、メディアプレーヤ、ロボット機器、ゲーム機器、家電機器などが含まれるが、これらに限定されるものではない。
図1は、本発明の撮像装置の一実施形態としての、撮影レンズを交換可能なカメラと撮影レンズからなるカメラシステムの構成例を示す図である。図1において、カメラシステムはカメラ100と、交換可能な撮影レンズ300とから構成される。
撮影レンズ300を通過した光束は、レンズマウント106を通過し、メインミラー130により上方へ反射されて光学ファインダ104に入射する。光学ファインダ104により、撮影者は被写体光学像を観察しながら撮影を行うことができる。光学ファインダ104内には、後述する表示部54の一部の機能、例えば、合焦表示、手振れ警告表示、絞り値表示、露出補正表示等が設置されている。
メインミラー130の一部は半透過性のハーフミラーで構成され、メインミラー130に入射する光束のうち一部はこのハーフミラー部分を通過し、サブミラー131で下方へ反射されて焦点検出装置105へ入射する。焦点検出装置105は、2次結像光学系とラインセンサを有する位相差検出方式の焦点検出装置であり、1対の像信号をAF部(オートフォーカス部)42に出力する。AF部42では、1対の像信号に対して位相差検出演算を行い、撮影レンズ300のデフォーカスの量および方向を求める。この演算結果に基づき、システム制御部50が、撮影レンズ300のフォーカス制御部342(後述)に対してフォーカスレンズの駆動制御を行う。
撮影レンズ300の焦点調節処理が終了して静止画撮影を行う場合や、電子ファインダ表示を行う場合、動画撮影を行う場合には、不図示のクイックリターン機構によりメインミラー130とサブミラー131を光路外に退避させる。そうすると、撮影レンズ300を通過してカメラ100に入射する光束は、露光量を制御するためのシャッター12を介して、撮像素子14に入射可能になる。撮像素子14による撮影動作終了後には、メインミラー130とサブミラー131は図示する様な位置に戻る。
撮像素子14はCCDまたはCMOSイメージセンサであり、光電変換領域(またはフォトダイオード)を有する画素が複数、2次元的に配置された構成を有する。撮像素子14は被写体光学像に対応する電気信号を出力する。撮像素子14により光電変換された電気信号はA/D変換器16へ送られ、アナログ信号出力がデジタル信号(画像データ)に変換される。なお、後述するように、A/D変換器16は撮像素子14に組み込まれてもよい。
本実施形態における撮像素子14は、少なくとも一部の画素が複数の光電変換領域(またはフォトダイオード)を有するように構成されている。上述の通り、このような構成を有する画素は、位相差検出方式の焦点検出に用いる信号を出力可能である。従って、クイックリターン機構によりメインミラー130とサブミラー131が光路外に退避し、焦点検出装置105に光が入射しない場合であっても、撮像素子14の出力を用いた位相差検出方式の焦点検出が可能である。
タイミング発生回路18は、撮像素子14、A/D変換器16、D/A変換器26にクロック信号や制御信号を供給する。タイミング発生回路18はメモリ制御部22及びシステム制御部50により制御される。複数の光電変換領域を有する画素から、一部の光電変換領域の出力を読み出したり、全ての光電変換領域の出力を加算読み出ししたりするための制御信号は、システム制御部50がタイミング発生回路18を制御して撮像素子14に供給する。
画像処理部20は、A/D変換器16からの画像データ或いはメモリ制御部22からの画像データに対して画素補間処理、ホワイトバランス調整処理、色変換処理などの所定の処理を適用する。
画像処理部20はまた、A/D変換器16からの画像データ(撮像素子14の出力信号)のうち、焦点検出用信号の生成に用いられる出力信号から、位相差検出方式の焦点検出に用いる1対の信号列を生成する。その後、1対の信号列はシステム制御部50を介してAF部42へ送られる。AF部42は1対の信号列の相関演算により信号列間のずれ量(シフト量)を検出し、ずれ量を撮影レンズ300のデフォーカス量とデフォーカス方向に変換する。AF部42は、変換したデフォーカスの量および方向をシステム制御部50に出力する。システム制御部50は、撮影レンズ300のフォーカス制御部342を通じてフォーカスレンズを駆動し、撮影レンズ300の合焦距離を調節する。
また、画像処理部20は、撮像素子14から得られる、通常の画像データを生成するための信号(上述したA+B信号に相当)に基づいて、コントラスト評価値を演算することができる。システム制御部50は、撮影レンズ300のフォーカス制御部342を通じてフォーカスレンズ位置を変更しながら撮像素子14で撮影を行い、画像処理部20で算出されたコントラスト評価値の変化を調べる。そして、システム制御部50は、フォーカスレンズを、コントラスト評価値が最大となる位置に駆動する。このように、本実施形態のカメラ100は、コントラスト検出方式の焦点検出も可能である。
従って、カメラ100は、ライブビュー表示時や動画撮影時のようにメインミラー130とサブミラー131が光路外に退避していても、撮像素子14から得られる信号に基づいて、位相差検出方式とコントラスト検出方式の両方の焦点検出が可能である。また、カメラ100は、メインミラー130とサブミラー131が光路内にある通常の静止画撮影では、焦点検出装置105による位相差検出方式の焦点検出が可能である。このように、カメラ100は、静止画撮影時、ライブビュー表示時、動画撮影時のどの状態においても焦点検出が可能である。
メモリ制御部22は、A/D変換器16、タイミング発生回路18、画像処理部20、画像表示メモリ24、D/A変換器26、メモリ30、圧縮伸長部32を制御する。そして、A/D変換器16のデータが画像処理部20およびメモリ制御部22を介して、あるいはメモリ制御部22のみを介して、画像表示メモリ24あるいはメモリ30に書き込まれる。画像表示メモリ24に書き込まれた表示用の画像データは、D/A変換器26を介して液晶モニタ等から構成される画像表示部28に表示される。撮像素子14で撮影した動画像を画像表示部28に逐次表示することで、電子ファインダ機能(ライブビュー表示)を実現することができる。画像表示部28は、システム制御部50の指示により表示をON/OFFすることが可能であり、表示をOFFにした場合にはカメラ100の電力消費を大幅に低減することができる。
また、メモリ30は、撮影した静止画像や動画像の一時記憶に用いられ、所定枚数の静止画像や所定時間の動画像を記憶するのに十分な記憶容量を備えている。これにより、連射撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ30に対して行うことができる。また、メモリ30はシステム制御部50の作業領域としても使用することができる。圧縮伸長部32は、適応離散コサイン変換(ADCT)等により画像データを圧縮伸長する機能を有し、メモリ30に記憶された画像を読み込んで圧縮処理或いは伸長処理を行い、処理を終えた画像データをメモリ30に書き戻す。
シャッター制御部36は、測光部46からの測光情報に基づいて、撮影レンズ300の絞り312を制御する絞り制御部344と連携しながら、シャッター12を制御する。インターフェース部38とコネクタ122は、カメラ100と撮影レンズ300とを電気的に接続する。これらは、カメラ100と撮影レンズ300との間で制御信号、状態信号、データ信号等を伝え合うと共に、各種電圧の電流を供給する機能も備えている。また、電気通信のみならず、光通信、音声通信等を伝達する構成としてもよい。
測光部46は、自動露出制御(AE)処理を行う。撮影レンズ300を通過した光束を、レンズマウント106、メインミラー130、そして不図示の測光用レンズを介して、測光部46に入射させることにより、被写体光学像の輝度を測定できる。被写体輝度と露出条件とを対応付けたプログラム線図などを用いて、測光部46は露出条件を決定することができる。また、測光部46は、フラッシュ48と連携することにより調光処理機能も有する。なお、画像処理部20による撮像素子14の画像データを演算した演算結果に基づき、システム制御部50が、シャッター制御部36と撮影レンズ300の絞り制御部344に対してAE制御を行うことも可能である。フラッシュ48は、AF補助光の投光機能、フラッシュ調光機能も有する。
システム制御部50は例えばCPUやMPUなどのプログラマブルプロセッサを有し、予め記憶されたプログラムを実行することによりカメラシステム全体の動作を制御する。不揮発性のメモリ52はシステム制御部50の動作用の定数、変数、プログラム等を記憶する。表示部54はシステム制御部50でのプログラムの実行に応じて、文字、画像、音声等を用いて動作状態やメッセージ等を表示する、例えば液晶表示装置である。表示部54はカメラ100の操作部近辺の視認し易い位置に単数或いは複数設置され、例えばLCDやLED等の組み合わせにより構成される。表示部54の表示内容のうち、LCD等に表示するものとしては、記録枚数や残撮影可能枚数等の撮影枚数に関する情報や、シャッタースピード、絞り値、露出補正、フラッシュ等の撮影条件に関する情報等がある。その他、電池残量や日付・時刻等も表示される。また、表示部54は、前述した様にその一部の機能が光学ファインダ104内に設置されている。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばEEPROM等が用いられる。60、62、64、66、68及び70は、システム制御部50の各種の動作指示を入力するための操作部であり、スイッチやダイアル、タッチパネル、視線検知によるポインティング、音声認識装置等の単数或いは複数の組み合わせで構成される。
モードダイアル60は、電源オフ、オート撮影モード、マニュアル撮影モード、再生モード、PC接続モード等の各機能モードを切り替え設定できる。シャッタースイッチSW1である62は、不図示のシャッターボタンが半押しされるとONとなり、AF処理、AE処理、AWB処理、EF処理等の動作開始を指示する。シャッタースイッチSW2である64は、シャッターボタンが全押しされるとONとなり、撮影に関する一連の処理の動作開始を指示する。撮影に関する一連の処理とは、露光処理、現像処理及び記録処理等のことである。露光処理では、撮像素子14から読み出した信号をA/D変換器16、メモリ制御部22を介してメモリ30に画像データとして書き込む。現像処理では、画像処理部20やメモリ制御部22での演算を用いた現像を行う。記録処理では、メモリ30から画像データを読み出し、圧縮伸長部32で圧縮を行い、記録媒体150或いは160に画像データとして書き込む。
画像表示ON/OFFスイッチ66は、画像表示部28のON/OFFを設定できる。この機能により、光学ファインダ104を用いて撮影を行う際に、液晶モニタ等から成る画像表示部28への電流供給を遮断することにより、省電力を図ることができる。クイックレビューON/OFFスイッチ68は、撮影した画像データを撮影直後に自動再生するクイックレビュー機能を設定する。操作部70は、各種ボタンやタッチパネル等からなる。各種ボタンには、メニューボタン、フラッシュ設定ボタン、単写/連写/セルフタイマー切り替えボタン、露出補正ボタン等がある。
電源制御部80は、電池検出回路、DC/DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成されている。電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果及びシステム制御部50の指示に基づいてDC/DCコンバータを制御し、必要な電圧を必要な期間、記録媒体を含む各部へ供給する。コネクタ82及び84は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、リチウムイオン電池等の二次電池、ACアダプタ等からなる電源部86をカメラ100と接続する。
インターフェース90及び94は、メモリカードやハードディスク等の記録媒体との接続機能を有し、コネクタ92及び96は、メモリカードやハードディスク等の記録媒体と物理的接続を行う。記録媒体着脱検知部98は、コネクタ92または96に記録媒体が装着されているかどうかを検知する。なお、本実施形態では、記録媒体を取り付けるインターフェース及びコネクタを2系統持つものとして説明しているが、インターフェース及びコネクタは、単数あるいは複数、いずれの系統数を備える構成としても構わない。また、異なる規格のインターフェース及びコネクタを組み合わせて備える構成としても構わない。更に、インターフェース及びコネクタにLANカード等の各種通信カードを接続することで、コンピュータやプリンタ等の他の周辺機器との間で画像データや画像データに付属した管理情報を転送し合うことができる。
通信部110は、有線通信、無線通信等の各種通信機能を有する。コネクタ112は、通信部110によりカメラ100を他の機器と接続し、無線通信の場合はアンテナである。記録媒体150及び160は、メモリカードやハードディスク等である。記録媒体150及び160は、半導体メモリや磁気ディスク等から構成される記録部152、162、カメラ100とのインターフェース154、164、カメラ100と接続を行うコネクタ156、166を備えている。
次に、撮影レンズ300について説明する。撮影レンズ300は、レンズマウント306をカメラ100のレンズマウント106に係合させることによりカメラ100と機械的並びに電気的に結合される。電気的な結合はレンズマウント106及びレンズマウント306に設けられたコネクタ122及びコネクタ322によって実現される。レンズ311には撮影レンズ300の合焦距離を調節するためのフォーカスレンズが含まれる。フォーカス制御部342は、フォーカスレンズを光軸に沿って駆動することで撮影レンズ300の焦点調節を行う。フォーカス制御部342の動作は、システム制御部50が、レンズシステム制御部346を通じて制御する。絞り312はカメラ100に入射する被写体光の量と角度を調節する。
コネクタ322及びインターフェース338は、撮影レンズ300をカメラ100のコネクタ122と電気的に接続する。そして、コネクタ322は、カメラ100と撮影レンズ300との間で制御信号、状態信号、データ信号等を伝え合うと共に、各種電圧の電流を供給される機能も備えている。コネクタ322は電気通信のみならず、光通信、音声通信等を伝達する構成としてもよい。
ズーム制御部340はレンズ311の変倍レンズを駆動し、撮影レンズ300の焦点距離(画角)を調整する。撮影レンズ300が単焦点レンズであればズーム制御部340は存在しない。絞り制御部344は、測光部46からの測光情報に基づいて、シャッター12を制御するシャッター制御部36と連携しながら、絞り312を制御する。
レンズシステム制御部346は例えばCPUやMPUなどのプログラマブルプロセッサを有し、予め記憶されたプログラムを実行することにより撮影レンズ300全体の動作を制御する。そして、レンズシステム制御部346は、撮影レンズの動作用の定数、変数、プログラム等を記憶するメモリの機能を備えている。不揮発性メモリ348は、撮影レンズ固有の番号等の識別情報、管理情報、開放絞り値や最小絞り値、焦点距離等の機能情報、現在や過去の各設定値などを記憶する。
本実施形態においては、撮影レンズ300の状態に応じたレンズ枠情報も記憶されている。このレンズ枠情報は、撮影レンズを通過する光束を決定する枠開口の半径の情報と、撮像素子14から枠開口までの距離の情報である。絞り312は、撮影レンズを通過する光束を決定する枠に含まれ、他にもレンズを保持するレンズ枠部品の開口などが枠に該当する。また、撮影レンズを通過する光束を決定する枠は、レンズ311のフォーカス位置やズーム位置によって異なるため、レンズ枠情報はレンズ311のフォーカス位置やズーム位置に対応して複数用意されている。そして、カメラ100が、焦点検出手段を用いて焦点検出を行う際には、レンズ311のフォーカス位置とズーム位置に対応した最適なレンズ枠情報が選択され、カメラ100にコネクタ322を通じて送られる。
以上が、カメラ100と撮影レンズ300からなる本実施形態のカメラシステムの構成である。
次に、撮像素子14の構成について、図2および図3を用いて説明する。
図2(a)は、撮像素子14が有する複数の画素のうち、位相差検出方式の焦点検出に用いる信号を出力可能な画素の回路構成例を示す図である。ここでは、1つの画素200に、1つのマイクロレンズを共有する複数の光電変換領域または光電変換部として2つのフォトダイオードPD201a、201bが設けられた構成について説明する。しかし、1つのマイクロレンズに対してより多く(例えば、4つ)のフォトダイオードが設けられてもよい。また、フォトダイオードの配置も水平方向の配置のみには限定されず、垂直方向に配置してもよい。フォトダイオード201a、フォトダイオード201bは、後述するように、焦点検出画素として機能するとともに、撮像画素としても機能する。
転送スイッチ202a、202b、リセットスイッチ205、選択スイッチ206は例えばMOSトランジスタにより構成される。以下の説明では、これらのスイッチはN型のMOSトランジスタとするが、P型のMOSトランジスタであってもよいし、他のスイッチング素子であってもよい。
図2(b)は、撮像素子14に2次元に配列された複数の画素のうち、水平n画素、垂直m画素を取り出して模式的に示した図である。ここでは、全ての画素が図2(a)に示した構成を有するものとする。各画素にはマイクロレンズ236が設けられ、1つのマイクロレンズに対して2つのフォトダイオード201a、201bが配置されている。以下では、フォトダイオード201aにより得られる信号をA信号または第1の信号、フォトダイオード201bにより得られる信号をB信号または第2の信号と呼ぶ。また、複数のA信号から生成される焦点検出用の信号列をA像または第1の像信号、複数のB信号から生成される焦点検出用の信号列をB像または第2の像信号と呼ぶ。また、対をなすA像とB像とを、信号列対または像信号対と呼ぶ。
転送スイッチ202aはフォトダイオード201aとフローティングディフュージョン部(以下、FD)203との間に接続される。また、転送スイッチ202bはフォトダイオード201bとFD203との間に接続される。転送スイッチ202a、202bは、それぞれフォトダイオード201a、201bで発生した電荷を共通のFD203に転送する素子である。転送スイッチ202a、202bは、それぞれ制御信号TX_A、TX_Bによって制御される。
フローティングディフュージョン部(FD)203は、フォトダイオード201a、201bから転送された電荷を一時的に保持するとともに、保持した電荷を電圧信号に変換する電荷電圧変換部(キャパシタ)として機能する。
増幅部204は、ソースフォロワMOSトランジスタである。増幅部204のゲートは、FD203に接続され、増幅部204のドレインは電源電位VDDを供給する共通電源208に接続されている。増幅部204は、FD203に保持された電荷に基づく電圧信号を増幅して、画像信号として出力する。
リセットスイッチ205は、FD203と共通電源208との間に接続される。リセットスイッチ205は、制御信号RESによって制御され、FD203の電位を共通電源208の電源電位VDDにリセットする機能を有する。
選択スイッチ206は、増幅部204のソースと垂直出力線207の間に接続される。選択スイッチ206は、制御信号SELによって制御され、増幅部204で増幅された画像信号を垂直出力線207に出力する。
図3は、撮像素子14の構成例を示す図である。撮像素子14は、画素アレイ234、垂直走査回路209、電流源負荷210、読み出し回路235、共通出力線228、229、水平走査回路232及びデータ出力部233を有する。以下では画素アレイ234に含まれる全ての画素が図2(a)に示した回路構成を有するものとする。しかしながら、一部の画素は1つのマイクロレンズあたり1つのフォトダイオードが設けられた構成を有してもよい。
画素アレイ234は、行列状に配置された複数の画素200を有する。図3には説明を分かりやすくするために、4行n列の画素アレイ234を示している。しかし、画素アレイ234が有する画素200の行数および列数は任意である。また、本実施形態において、撮像素子14は単板式カラー撮像素子であり、原色ベイヤー配列のカラーフィルタを有している。そのため、1つ1つの画素200には赤(R)、緑(G)及び青(B)のカラーフィルタのいずれか1つが設けられている。なお、カラーフィルタを構成する色や配列に特に制限はない。また、画素アレイ234に含まれる一部の画素は遮光され、オプティカルブラック(OB)領域を形成する。
垂直走査回路209は、行ごとに設けられた駆動信号線208を介して、各行の画素200に、図2(a)に示した各種の制御信号を供給する。なお、図3では説明を分かりやすくするために各行の駆動信号線208を1本の線で表しているが、実際には複数の駆動信号線が各行に存在する。
画素アレイ234に含まれる画素は、一列ごとに共通の垂直出力線207に接続される。垂直出力線207の各々には、電流源負荷210が接続される。それぞれの画素200からの信号は、列ごとに設けられた読み出し回路235に垂直出力線207を通じて入力される。
水平走査回路232は、それぞれが1つの読み出し回路235に対応する制御信号hsr(0)〜hsr(n−1)を出力する。制御信号hsr()はn個の読み出し回路235の1つを選択する。制御信号hsr()で選択された読み出し回路235は、共通出力線228、229を通じてデータ出力部233に信号を出力する。
次に、読み出し回路235の具体的な回路構成例について説明する。図3には、n個の読み出し回路235のうち1つについての回路構成例を示しているが、他の読み出し回路235も同じ構成を有する。本実施形態の読み出し回路235はランプ型のAD変換器を含んでいる。
垂直出力線207を通じて読み出し回路235に入力された信号は、クランプ容量211を介してオペアンプ213の反転入力端子に入力される。オペアンプ213の非反転入力端子には、基準電圧源212から基準電圧Vrefが供給される。フィードバック容量214〜216とスイッチ218〜220がオペアンプ213の反転入力端子と出力端子の間に接続される。オペアンプ213の反転入力端子と出力端子の間にはさらにスイッチ217が接続される。スイッチ217は制御信号RES_Cにより制御され、フィードバック容量214〜216の両端をショートさせる機能を有する。また、スイッチ218〜220はシステム制御部50からの制御信号GAIN0〜GAIN2により制御される。
比較器221には、オペアンプ213の出力信号と、ランプ信号発生器230から出力されるランプ信号224が入力される。Latch_N222はノイズレベル(N信号)を保持するための記憶素子であり、Latch_SはA信号およびA信号とB信号が加算された信号レベル(A+B信号)を保持するための記憶素子である。比較器221の出力(比較結果を表す値)とカウンタ231の出力(カウンタ値)225が、Latch_N222とLatch_S223のそれぞれに入力される。Latch_N222とLatch_S223の動作(有効または無効)はそれぞれ、制御信号LATEN_N、LATEN_Sで制御される。Latch_N222で保持したノイズレベルはスイッチ226を介して共通出力線228に出力される。Latch_S223で保持した信号レベルはスイッチ227を介して共通出力線229に出力される。共通出力線228、229はデータ出力部233に接続される。
スイッチ226、227は水平走査回路232からの制御信号hsr(h)で制御される。ここで、hは制御信号線が接続されている読み出し回路235の列番号を示す。各読み出し回路235のLatch_N222、Latch_S223に保持された信号レベルは共通出力線238、229に順次出力され、データ出力部233を通じてメモリ制御部22や画像処理部20に出力される。この、各読み出し回路235で保持された信号レベルを順次外部に出力する動作を水平転送と呼ぶ。なお、読み出し回路に入力される制御信号(hsr()を除く)や、垂直走査回路209、水平走査回路232、ランプ信号発生器230、カウンタ231の制御信号は、タイミング発生回路18やシステム制御部50から供給される。
図3に示した撮像素子14の読み出し動作に関するタイミングチャートである図4を参照して、1行分の画素に対する読み出し動作について説明する。なお、各制御信号がHのときに各スイッチはオンになり、Lのときに各スイッチはオフになるものとする。
時刻t1において垂直走査回路209は、制御信号RESをHにした状態で制御信号TX_A、TX_BをLからHにして、転送スイッチ202a、202bをオンにする。これにより、フォトダイオード201a、201bに蓄積された電荷は、転送スイッチ202a、202b、リセットスイッチ205を介して電源208に転送され、フォトダイオード201a、201bはリセットされる。また、FD203も同様にリセットされる。時刻t2において垂直走査回路209が、制御信号TX_A、TX_BをLとし、転送スイッチ202a、202bをオフすると、フォトダイオード201a、201bで光電荷の蓄積が開始される。
所定の蓄積時間が経過すると、時刻t3において垂直走査回路209は、制御信号SELをHとし、選択スイッチ206をオンにする。これにより、増幅部204のソースが垂直出力線207に接続される。時刻t4において垂直走査回路209は、制御信号RESをLとし、リセットスイッチ205をオフする。これにより、FD203のリセットが解除され、FD203のリセット信号レベルが増幅部204を介して垂直出力線207に読み出され、読み出し回路235に入力される。
その後、時刻t5においてタイミング発生回路18は制御信号RES_CをLにする。これにより、スイッチ217がオンし、垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefとの差分に基づく電圧がオペアンプ213から出力される。撮像素子14には予め、操作部102により設定されたISO感度に基づき、システム制御部50が制御信号GAIN0〜GAIN2のいずれか1つをHにする設定が行われる。例えば実施形態のカメラ100がISO感度100、200、400のいずれかが設定可能である場合、ISO感度100のときは制御信号GAIN0がH、GAIN1、GAIN2がLとなる。同様に、ISO感度200では制御信号GAIN1がH、ISO感度400では制御信号GAIN2がHとなる。なお、設定感度の種類や、設定感度と制御信号との関係はこれに限定されるものではない。
オペアンプ213は、入力された電圧を、クランプ容量211と、制御信号GAIN0〜GAIN2のうちHのものに対応するスイッチに対応するフィードバック容量214〜216の1つとの容量比で定まる反転ゲインで増幅して出力する。この増幅により、オペアンプ213までの回路で発生するランダムノイズ成分も増幅される。したがって、増幅後の信号に含まれるランダムノイズの大きさは、ISO感度に依存する。
次に、時刻t6において、ランプ信号発生器230は時間経過とともに信号レベルが線形に増加するランプ信号の出力を開始し、同時にカウンタ231はリセット状態からカウントアップを開始する。また、タイミング発生回路18はLATEN_NをHにして、Latch_Nを有効にする。比較器221は、オペアンプ213の出力信号とランプ信号発生器230が出力するランプ信号とを比較する。ランプ信号レベルがオペアンプ213の出力信号レベルを上回ると、比較器221の出力がLからHに変化する(時刻t7)。Latch_N222はLATEN_NがHの状態において、比較器221の出力がLからHに変化すると、その時点でカウンタ231が出力しているカウンタ値を記憶する。Latch_N222が記憶するカウンタ値が、N信号レベルを表すデジタル値(N信号データ)に相当する。なお、LATEN_SはLであるため、Latch_S223は無効であり、カウント値は記憶しない。その後時刻t8において、ランプ信号レベルが予め定められた値に達するとランプ信号発生器230がランプ信号の出力を停止し、またタイミング発生回路はLATEN_NをLにする。
時刻t9で垂直走査回路209は制御信号TX_AをHにする。これにより、転送スイッチ202aがオンし、時刻t2からフォトダイオード201aに蓄積された光電荷(A信号)がFD203へ転送される。その後、時刻t10で垂直走査回路209は制御信号TX_AをLにする。FD203は転送された電荷を電位に変換し、この電位(A信号レベル)が、増幅部204および垂直出力線207を介して読み出し回路235へ出力される。オペアンプ213は、垂直出力線207に読み出されたA信号レベルと、基準電圧Vrefとの差分に基づく電圧を出力する。オペアンプ213の反転ゲインは、クランプ容量211と、フィードバック容量214〜216のいずれか1つとの比率によって定まる。
次に、時刻t11でランプ信号発生器230はランプ信号の出力を開始し、同時にカウンタ231はリセット状態からカウントアップを開始する。また、タイミング発生回路18はLATEN_SをHにして、Latch_Sを有効にする。比較器221は、オペアンプ213の出力信号とランプ信号発生器230が出力するランプ信号とを比較する。ランプ信号レベルがオペアンプ213の出力信号レベルを上回ると、比較器221の出力がLからHに変化する(時刻t12)。Latch_S223はLATEN_SがHの状態において、比較器221の出力がLからHに変化すると、その時点でカウンタ231が出力しているカウンタ値を記憶する。Latch_S223が記憶するカウンタ値が、A信号レベルを表すデジタル値(A信号データ)に相当する。なお、LATEN_NはLであるため、Latch_N222は無効であり、カウント値は記憶しない。その後時刻t13において、ランプ信号レベルが予め定められた値に達するとランプ信号発生器230がランプ信号の出力を停止し、またタイミング発生回路はLATEN_SをLにする。
その後、時刻t14〜t15の間、水平走査回路232は制御信号hsr(h)を順次一定期間ずつHにする。これにより、各読み出し回路235のスイッチ226、227が一定期間オンし、オフに戻る。各読み出し回路235のLatch_N222、Latch_S223に保持されたN信号データとA信号データは共通出力線228、229へそれぞれ読み出され、データ出力部233に入力される。データ出力部233では各読み出し回路235から出力されたA信号データとN信号データについて、A信号データからN信号データを減じた値を外部へ出力する。
時刻t16からt17の間、垂直走査回路209は制御信号TX_AおよびTX_BをHにし、転送スイッチ202a,202bをオンにする。これにより、両方のフォトダイオード201a、201bから光電荷がFD203へ転送される。FD203は転送された電荷を電位に変換し、この電位(A+B信号レベル)が、増幅部204および垂直出力線207を介して読み出し回路235へ出力される。オペアンプ213は、垂直出力線207に読み出されたA+B信号レベルと、基準電圧Vrefとの差分に基づく電圧を出力する。
次に、時刻t18でランプ信号発生器230はランプ信号の出力を開始し、同時にカウンタ231はリセット状態からカウントアップを開始する。また、タイミング発生回路18はLATEN_SをHにして、Latch_Sを有効にする。比較器221は、オペアンプ213の出力信号とランプ信号発生器230が出力するランプ信号とを比較する。ランプ信号レベルがオペアンプ213の出力信号レベルを上回ると、比較器221の出力がLからHに変化する(時刻t19)。Latch_S223はLATEN_SがHの状態において、比較器221の出力がLからHに変化すると、その時点でカウンタ231が出力しているカウンタ値を記憶する。Latch_S223が記憶するカウンタ値が、A+B信号レベルを表すデジタル値(A+B信号データ)に相当する。その後時刻t20において、ランプ信号レベルが予め定められた値に達するとランプ信号発生器230がランプ信号の出力を停止し、またタイミング発生回路はLATEN_SをLにする。
その後、時刻t21〜t22の間、水平走査回路232は制御信号hsr(h)を順次一定期間ずつHにする。これにより、各読み出し回路235のスイッチ226、227が一定期間オンし、オフに戻る。各読み出し回路235のLatch_N222、Latch_S223に保持されたN信号データとA+B信号データは共通出力線228、229へそれぞれ読み出され、データ出力部233に入力される。データ出力部233では各読み出し回路235から出力されたA+B信号データとN信号データについて、A+B信号データからN信号データを減じた値を外部へ出力する。
時刻t22でタイミング発生回路18は制御信号RES_CをHとし、時刻t23で垂直走査回路209が制御信号RESをHとし、時刻t24で垂直走査回路209が制御信号SELをLにすると、1行分の読み出し動作が完了する。この動作を所定の行数分繰り返すことにより1画面分の像信号を取得することができる。
このようにして、リセットノイズが除去されたA信号とA+B信号を撮像素子14から読み出すことができる。A信号は焦点検出用の信号として、A+B信号は撮影画像を構成する信号として用いられる。A+B信号およびA信号はまた、焦点検出用のB信号を生成するためにも用いられる。
なお、本実施形態の撮像素子14は、全画素読み出しモードと、間引き読み出しモードの2種類の読み出しモードを有する。全画素読み出しモードは全ての有効画素を読み出すモードであり、例えば高精細静止画を得る際に設定される。
間引き読み出しモードは、全画素読み出しモードより少ない画素を読み出すモードであり、例えば動画やプレビュー用の画像のように、高精細静止画よりも解像度の低い画像を得る場合や、高速に読み出す必要がある場合に設定される。例えば画像の水平および垂直方向の両方で同じまたは異なる割合で画素を間引いて読み出すことができる。なお、「間引き」は読み出し自体を行わないことだけでなく、読み出しされた信号を棄てる(無視する)構成や、読み出した複数の信号を加算して1つの信号を生成する構成も含む。例えば、隣接する複数の画素から読み出した信号を平均して1つの信号を生成することで、S/Nを改善することができる。
図5Aは、本実施形態の撮像装置において、撮影レンズ300の射出瞳面と、撮像素子14の像面の中央近傍に配置された画素200(中央画素)のフォトダイオード201a、201bとの共役関係を説明する図である。撮像素子14内のフォトダイオード201a、201bと撮影レンズ300の射出瞳面は、オンチップマイクロレンズ201iによって共役関係となるように設計される。そして撮影レンズ300の射出瞳面は、光量調節用の虹彩絞りが設けられる面とほぼ一致するのが一般的である。
一方、本実施形態の撮影レンズ300は変倍機能を有したズームレンズである。ズームレンズには、変倍操作を行なうと、射出瞳の大きさや、像面から射出瞳までの距離(射出瞳距離)が変化するものがある。図5Aでは、撮影レンズ300の焦点距離が広角端と望遠端の中央にある状態を示している。この状態における射出瞳距離Dlを標準値として、オンチップマイクロレンズの形状や、像高(画面中心からの距離またはXY座標)に応じた偏心パラメータの最適設計がなされる。
図5Aにおいて、撮影レンズ300は、第1レンズ群101、第1レンズ群を保持する鏡筒部材101b、第3レンズ群105、および第3レンズ群を保持する鏡筒部材105bを有している。また、撮影レンズ300は、絞り102と、絞り開放時の開口径を規定する開口板102a、および絞り込み時の開口径を調節するための絞り羽根102bを有している。なお、図5Aにおいて、撮影レンズ300を通過する光束の制限部材として作用する101b、102a、102b、及び105bは、像面から観察した場合の光学的な虚像を示している。また、絞り102の近傍における合成開口を撮影レンズ300の射出瞳と定義し、像面からの距離を射出瞳距離Dlとしている。
画素200の最下層には、フォトダイオード(光電変換部)201aおよび201bが配置される。フォトダイオード201a、201bの上層には、配線層201e〜201g、カラーフィルタ201h、及びオンチップマイクロレンズ201iが設けられている。フォトダイオード201a、201bは、オンチップマイクロレンズ201iによって撮影レンズ300の射出瞳面に投影される。換言すれば、射出瞳が、オンチップマイクロレンズ201iを介して、フォトダイオード201a、201bの表面に投影される。
図5Bは、撮影レンズ300の射出瞳面上における、フォトダイオード201a、201bの投影像EP1a、EP1bを示している。円TLは、絞り102の開口板102aで規定される、画素200への光束の最大入射範囲を射出瞳面に示したものである。円TLは開口板102aで規定されるため、図では円TLを102aとも記載している。図5Bは中央画素を示しているため、光束のケラレは光軸に対して対称となり、フォトダイオード201a及び201bは同じ大きさの瞳領域を通過した光束を受光する。そして、円TLには、投影像EP1a、EP1bの大部分が含まれるため、光束のケラレはほぼ発生しない。従って、フォトダイオード201a、201bで光電変換された信号を加算した場合、円TL、すなわち射出瞳領域のほぼ全体を通過した光束を光電変換した結果が得られる。フォトダイオード201aが受光する射出瞳の領域を第1の瞳領域、フォトダイオード201bが受光する射出瞳の領域を第2の瞳領域、第1の瞳領域と第2の瞳領域を合わせた領域を第3の瞳領域と呼ぶこととする。
図5A、図5Bに示した画素200の構造を用いて、画素間で発生するクロストークについて説明する。隣接する画素間でのクロストークは、要因によって2つに分類される。1つは、オンチップマイクロレンズ201i、カラーフィルタ201h、配線層201e〜201gの配置や、透過光の反射、散乱などによる迷光などにより発生する光学的クロストークである。もう1つは、各画素の光電変換部で生じた電荷が、他の画素へ移動することにより発生する電気的クロストークである。
光学的なクロストークは、光の波長により、透過率、反射率、屈折率などが異なることにより、発生するクロストーク量(隣接画素への光の移動量)も、色毎に異なる。また光の入射角度により発生するクロストーク量も異なる。さらに、画素の配線層201e〜201gの異方性により、クロストークが発生する方向にも異方性が生じる。
同様に、電気的クロストークも、波長により、フォトダイオードに進入する深さ(光電変換される深さ)が異なるため、発生するクロストーク量(隣接画素への電化の移動量)も、色毎に異なる。また、電気的なクロストークは、波長に加えて、画素の配線層201e〜201gの異方性や、画素間の信号電荷に対する障壁の高さによって、クロストークの発生する方向に異方性が生じる。画素間の信号電荷に対する障壁の高さについて、詳細は、特開2014−187067号公報に示されている。
本実施形態の撮像素子の画素は、クロストークに異方性を有し、水平方向の方が、垂直方向よりも、クロストーク量が多いことを想定して説明する。このような状況は、例えば、画素の障壁の高さや配線層の状態が、水平方向よりも垂直方向の方がクロストークを生じさせにくいような構成になっている場合に発生する。
上述のように、クロストークの発生量に波長や入射角度への依存性や異方性がある場合、焦点検出誤差が生じる。本実施形態では、クロストークが発生しても、高精度な焦点検出を実現することができる方法を提案する。詳細は、後述する。
次に、図6を用いて、フォトダイオード201a、201bの入射角に対する波長ごとの受光感度分布の特性について説明する。図6は、撮像素子14の像面の中央近傍に配置されたカラーフィルタが赤(R)と緑(G)の2つの画素200のフォトダイオード201a、201bの入射角に対する信号強度分布を示す図である。横軸は入射角度であり、右側が正である。縦軸は受光感度に相当する信号強度であり、フォトダイオード201a、201bの信号強度の交点Cにおける入射角度を原点としている。入射角度が負の場合に強度の最大値をとるのがフォトダイオード201aの強度分布であり、入射角度が正の場合に強度の最大値をとるのがフォトダイオード201bの強度分布である。波長による屈折率の違いにより、RとGの入射角に対する受光感度の特性の形状が異なる。なお、撮像素子14の画素に配置されたカラーフィルタには、青(B)もあるが、ここでは説明を分かりやすくするために省略している。但し、青の場合も、波長依存性があるため赤や緑と異なる強度分布形状となる。
図6から分かるように、特性曲線の交点に対応する入射角度Cでは、RとGの信号強度比がフォトダイオード201aと201bで等しい。一方、入射角度に対する信号強度の変化率がRとGで異なるため、入射角度Cから外れた領域においては、RとGの信号強度比がフォトダイオード201aと201bで異なる。例えば、入射角度が負の場合、フォトダイオード201aにおいては、Rの信号強度はGの信号強度よりも小さい。一方、フォトダイオード201bにおいては、Rの信号強度はGの信号強度よりも大きい。この場合、焦点検出に用いる対の信号でRとGの信号強度比が異なる。
図7を用いて、上述の波長ごとに信号強度比が異なる場合について説明する。図7は、撮像素子14の周辺像高における、フォトダイオード201aに対応する第1の瞳領域501、フォトダイオード201bに対応する第2の瞳領域502、および撮影レンズ300の射出瞳である第3の瞳領域400の関係を示す図である。第3の瞳領域400の水平方向をX軸方向、垂直方向をY軸方向としている。
図7(a)は、撮影レンズ300の射出瞳距離Dlと撮像素子14の設定瞳距離Dsが等しい場合を示す図である。この場合、第1の瞳領域501と第2の瞳領域502により、撮影レンズ300の射出瞳400が、概ね均等に分割される。入射角に対する受光感度分布で考えると、各像高への光線入射角度θは、フォトダイオード201a、201bを有する画素の最も感度の高い入射角度θcにほぼ等しくなる(θ=θc)。言い換えると、図6に示した入射角に対する受光感度分布において、どの像高においても、入射角度θcを原点とした場合に、縦軸に対して対称な領域の光束を受光することになり、焦点検出に用いる対の信号におけるRGBの信号強度比はほぼ等しくなる。
図7(b)は、撮影レンズ300の射出瞳距離Dlが撮像素子14の設定瞳距離Dsより短い場合を示す図である。また、図7(c)は、撮影レンズ300の射出瞳距離Dlが撮像素子14の設定瞳距離Dsより長い場合を示す図である。どちらの場合も、撮像素子14の周辺像高において、撮影レンズ300の射出瞳400と第1及び第2の瞳領域にずれが生じ、撮影レンズ300の射出瞳400が、不均等に分割される。入射角に対する受光感度分布で考えると、図7(b)、図7(c)における光線入射角度θは、像高が高くなるほどフォトダイオード201a、201bを有する画素の最も感度の高い入射角度θcからずれることになる。したがって、撮影レンズ300の射出瞳距離Dlと設定瞳距離Dsのずれが大きく、且つ像高が高くなるほど、図6に示した入射角に対する受光感度分布において、原点から離れた入射角度の光束をフォトダイオード201a、201bが受光することになる。それにより、焦点検出に用いる対の信号におけるRGB信号の強度の差は大きくなる。一方で、撮像素子14の中央像高においては、撮影レンズ300の射出瞳距離Dlと撮像素子14の設定瞳距離Dsの関係によらず、瞳ずれが発生しない。そのため、均等に瞳分割され、焦点検出に用いる対の信号におけるRGB信号の強度の差は発生しない。本実施形態では、上述した通り、撮影レンズ300の焦点距離が広角端や望遠端になった場合に、図7(b)や図7(c)の状態が起こりうる。また、撮影レンズを交換した場合なども、同様である。
図8は、撮影範囲600に設定された焦点検出領域601、602の例を示す図である。焦点検出領域601は、その中心が撮影レンズ300の光軸と撮像素子14の交点と一致する、いわゆる中央像高に設定された焦点検出領域である。一方で、焦点検出領域602は、焦点検出領域の中心が、撮影レンズ300の光軸と撮像素子14の交点から離れている、いわゆる周辺像高に設定された焦点検出領域である。撮像素子14が有する画素の出力を用いた焦点検出を行う場合、コントラスト検出方式、位相差検出方式のいずれにおいても、焦点検出領域601、602に対応する撮像素子14の領域内に含まれる画素の出力を用いる。つまり、焦点検出領域601、602は撮像素子14に設定されているとも言うことができる。そのため、以下では説明を分かりやすくするために、焦点検出領域601、602を撮像素子14の画素領域として説明する。また、焦点検出領域601、602には、図2(a)に示した構成の画素200が、4行2N列配置されているものとする。なお、これは単なる例示であり、焦点検出領域の数や大きさ(含まれる画素数)は位相差検出に支障のない範囲で適宜定めることができる。また、水平方向のみではなく、垂直方向に長い領域を焦点検出領域としてもよい。
図9は、焦点検出領域601、602内に配置された4行2N列の画素を示している。本実施形態では、i行j列目のAF用A像の信号を得るために用いられるフォトダイオード201aおよびその出力をA(i,j)と表す。同様に、i行j列目のAF用B像の信号を得るために用いられるフォトダイオード201bおよびその出力をB(i,j)と表す。図9では、1行目と3行目は、赤(R)と緑(Gr)のカラーフィルタを有する画素が交互に配置され、2行目と4行目は、緑(Gb)と青(B)のカラーフィルタを有する画素が交互に配置されている。本実施形態では、赤(R)の左右方向の隣に配置された緑の画素をGrとし、青(B)の左右方向の隣に配置された緑の画素をGbとして区別して表現する。
図10Aは、焦点検出領域601内に配置された画素から得られる信号の強度分布の例を、カラーフィルタの配置ごとに分けて示した図である。横軸は、画素番号、縦軸は光量と対応する信号強度を示している。A像とB像の相対的な位置関係が分かりやすいように、上下に2つのグラフを隣接させて示している。上のグラフがA像を、下のグラフがB像を示している。
図10Aの2つのグラフにおいて、赤(R)の信号は長破線、緑(Gr)の信号は短破線、緑(Gb)の信号は実線、青(B)の信号は1点鎖線で示されている。なお、2つの緑の信号(Gr,Gb)は、略等しい出力が得られるため、重なって示されている。一方で、赤や青の信号が緑に対してピークの高さがずれているのは、被写体の分光特性の違いに主に起因している。
また、図10Aでは、合焦近傍であるため、A像とB像の間で像ずれは発生しておらず、重心位置は揃っている状態を示している。図7で説明した通り、焦点検出領域601は中央像高であるため、撮影レンズ300によるケラレの程度なども略等しく、A像とB像の信号の差は小さい。
図10Bは、焦点検出領域602内に配置された画素から得られる信号の強度分布の例を、カラーフィルタの配置ごとに分けて示した図である。横軸は、画素番号、縦軸は光量と対応する信号強度を示している。A像とB像の相対的な位置関係が分かりやすいように、上下に2つのグラフを隣接させている。上のグラフがA像を、下のグラフがB像を示している。
図10Bの2つのグラフで、赤(R)の信号は長破線、緑(Gr)の信号は短破線、緑(Gb)の信号は実線、青(B)の信号は1点鎖線で示されている。なお、A像(上のグラフ)では、2つの緑の信号(Gr,Gb)は、略等しい出力が得られるため、重なって示されている。一方で、赤や青の信号が、緑に対してピークの高さがずれているのは、被写体の分光特性の違いに主に起因している。A像のグラフでは、さらに、赤や青の信号の重心の画素位置がずれている。これは、撮影レンズ300の有する倍率色収差により、色毎に異なる位置に線像が結像していることを示している。
図10BのB像(下のグラフ)では、2つの緑の信号(Gr,Gb)は、ピークの高さ、重心の画素位置ともに異なる出力が得られていることを示している。同じ分光特性を有する緑の信号であるにも関わらず、GrとGbで信号出力が異なる形状になる原因については後述する。一方で、赤や青の信号が、緑に対してピークの高さがずれているのは、被写体の分光特性の違いに主に起因している。B像のグラフでは、さらに、赤や青の信号の横軸方向の位置がずれている。これは、撮影レンズ300の有する倍率色収差により、色毎に異なる位置に線像が結像していることを示している。
また、図10Bでは、どの色においても、A像の信号に対してB像の信号の出力は小さくなっている。これは、撮影レンズ300を通過したA像とB像の光束で非対称にケラレが発生していることを示している。図7(b)で説明した通り、撮影光束の入射角度に対応するA像信号とB像信号の入射角に対する受光感度分布の違いから、A像の信号に対して、B像の信号の出力は小さくなっている。
さらに、図10Bで、A像とB像の色毎(RGB)の強度比が異なる。A像は信号のピークが、G、R、Bの順に小さくなるに対して、B像は、R、G、Bの順に小さくなる。このことは、周辺像高の画素への入射光束の色毎の感度分布が、A像とB像で異なることを示している。A像とB像の色毎(RGB)の強度比についても、図7(b)で説明した通り、A像信号とB像信号の入射角に対応する受光感度分布のRGB比の違いから、差が生じている。
次に、図10BのB像の2つの緑の信号(Gr,Gb)の出力の形状に差がある原因について、図11を用いて説明する。本実施形態においては、B像のGrとGbの出力の差は、A像とB像の信号強度比、撮影レンズ300の倍率色収差、画素間のクロストークの異方性などの影響により生じる。詳細について、以下に説明する。
図11(a)は、画素Grに対するクロストークの発生経路を示した図である。図11(b)は、画素Gbに対するクロストークの発生経路を示した図である。画素間のクロストークは、本来双方向で考える必要があるが、以下ではGrとGbの差に着目し、Gr、Gbの画素に混入するクロストーク量について説明する。また、同じ画素内でのA像とB像間のクロストークは像ずれ量を打ち消すように働き、やはり焦点検出誤差を生じさせる。しかし、Gr、Gbの画素共に、A像、B像間の光量比は略等しいため、クロストーク量の比も等しく、B像のGrとGbの差を生じさせる要因にはならない。そのため、説明を省略する。
まず、図11(a)、図11(b)を用いて、A像のGrとGbについて説明する。A像のGrは、左側のB像のRからクロストーク(CT_h1)を受け取る。但し、B像のRの光量は、図10Bに示した通りA像のGrに対して小さいため、クロストークによる出力変化は小さい。さらに、A像のGrは、上下からA像のBからのクロストーク(CT_v1)を受け取る。但し、A像のBの光量は、図10Bに示した通りA像のGrに対して小さいため、クロストークによる出力変化は小さい。つまり、A像のGrは、図10Bに示されるような条件では、クロストークの影響をあまり受けない。
A像のGbは、図11(b)に示した通り、左側のB像のBからクロストーク(CT_h3)を受け取る。但し、B像のBの光量は、図10Bに示した通りA像のGbに対して小さいため、クロストークによる出力変化は小さい。さらに、A像のGbは、上下からA像のRからのクロストーク(CT_v3)を受け取る。A像のRの光量は、図10Bに示した通りA像のGbに対して比較的大きい。但し、本実施形態の撮像素子14の画素は、水平、垂直方向のクロストークの発生量に差があり、垂直方向の方がクロストーク量が少ない。そのため、A像のGbは、図10Bに示されるような条件では、クロストークの影響をあまり受けない。結果的に、A像のGrとGbに、大きな差が生じない。
次に、図11(a)、図11(b)を用いて、B像のGrとGbについて説明する。B像のGrは、右側のA像のRからクロストーク(CT_h2)を受け取る。A像のRの光量は、図10Bに示した通りB像のGrに対して大きく、クロストークによる出力変化は大きい。そのため、図10BのA像のRの画素位置(横軸)において、B像のGrはクロストークによる出力変化が生じる。さらに、B像のGrは、上下からB像のBからのクロストーク(CT_v2)を受け取る。但し、B像のBの光量は、図10Bに示した通りB像のGrに対して小さいため、クロストークによる出力変化は小さい。つまり、B像のGrは、図10Bに示されるような条件では、A像のRの影響を主に受けて、出力変化による重心位置変化が生じる。
B像のGbは、図11(b)に示したように、右側のA像のBからクロストーク(CT_h4)を受け取る。但し、A像のBの光量は、図10Bに示した通りB像のGbに対して小さいため、クロストークによる出力変化は小さい。さらに、B像のGbは、上下からB像のRからのクロストーク(CT_v4)を受け取る。B像のRの光量は、図10Bに示した通り、B像のGbに対して比較的大きい。但し、本実施形態の撮像素子14の画素は、水平、垂直方向のクロストークの発生量に差があり、垂直方向の方がクロストーク量が少ない。そのため、B像のGbは、図10Bに示されるような条件では、クロストークの影響をあまり受けない。結果的に、B像のGrとGbは、主としてA像のRからのクロストークにより、B像のGrの出力がGbより大きくなり、また重心位置が図10Bにおいて左側にずれるように変化する。
このようなクロストークの影響により、デフォーカスしていないにもかかわらず、B像のGrは、B像のGbに対して線像強度分布の重心位置が、図10Bで左側にずれる。焦点検出は、A像とB像の像ずれ量(重心間隔)を算出することに相当するため、Grの重心位置誤差は、焦点検出誤差となってしまう。そこで、本実施形態では、信号の加算を行う際に、色毎の重み付けを行うことにより、焦点検出誤差の発生要因となりうる信号を排除し、高精度な焦点検出を実現する。
信号の加算方法について、詳細は後述するが、ここでその概略について説明する。
クロストークの影響は、上記で説明したように、クロストーク量が大きく且つクロストークを受けた画素の信号量が小さい場合に大きくなる。図11(a)に示すように、B像のGr画素(B−Gr)の信号と、A像のR画素からB像のGr画素へ漏れ込んだクロストーク量(CT_h2)の比率であるCT_h2/B−Grを第1の比率とする。また、図11(b)に示すように、B像のGb画素(B−Gb)の信号と、A像のB画素からB像のGb画素へ漏れ込んだクロストーク量(CT_h4)の比率であるCT_h4/B−Gbを第2の比率とする。これらの各比率が大きいほど、比率の分母に対応する画素は、クロストークに起因する出力変化で重心位置変化が大きくなる。第1の比率が第2の比率より大きい場合には、クロストークの影響がB像のGr画素の方がB像のGb画素より大きくなる。そして、B像のGb画素の重心位置の方が、クロストークの無い本来の重心位置に近い。そのため、本実施形態では、B像のGb画素の信号をB像のGr画素の信号よりも重み付けを大きくして焦点検出演算を行う。これにより、クロストークによる重心位置変化を低減して、A像とB像の像ずれ量(重心間隔)を精度よく算出することができる。なお、本実施形態では、B像のGr画素とGb画素に着目して説明したが、その他の異なる画素間でも同様である。なお、信号(B−Gr)や信号(B−Gb)などを出力するのは、Grのフォトダイオード(光電変換部)やGbのフォトダイオード(光電変換部)などであるが、これらのフォトダイオードを以下では説明の便宜上、「画素」と呼ぶことにする。
上述の説明からわかるとおり、本来同じ出力が得られるはずのGrとGbの画素から異なる出力が得られる要因として、下記のものが考えられる。
・被写体の分光特性(RGB比)
・対のフォトダイオードの入射角に対する感度分布の角度依存、分光依存
・撮影レンズと焦点検出領域の像高
・撮影レンズで生じる倍率色収差
・画素間のクロストーク量(隣接方向毎)
これらの要因により、GrとGbの画素から異なる出力が得られるため、一つ一つの要因の寄与度を求めたり、得られた焦点検出結果に対する検出誤差の影響度合いを要因ごとに求めたりすることは困難である。また、被写体の分光特性も寄与するため、事前に撮像装置がクロストーク量や焦点検出誤差を補正値として記憶しておくことも困難である。
そこで、本実施形態では、結果的に生じるGrとGbの出力の差を用いて、焦点検出結果の信頼性判定を行う。これにより、製造誤差などにより設計値とは異なるクロストーク量や焦点検出誤差が生じた場合にも、高精度な信頼性判定を行うことができる。信頼性判定方法の詳細については、後述するが、本実施形態においては、緑色の光を受光するB像のGrと略等しい分光の光を受光するB像のGbを用いて、後述する信頼性判定を行う。
(焦点検出動作)
次に、カメラ100における焦点調節動作について、図12に示すフローチャートを用いて説明する。なお、図12に示す処理は、メインミラー130とサブミラー131が光路外へ退避(ミラーアップ)した状態、より具体的にはライブビュー表示時(表示用動画撮影時)もしくは動画記録時(記録用動画撮影時)において実施される処理である。なお、ここでは撮像素子14の出力を用いた位相差検出方式の自動焦点検出を行うものとして説明するが、上述の通り、コントラスト検出方式の自動焦点検出を行うこともできる。
S701でシステム制御部50は、スイッチSW1(62)や操作部70などの操作により、焦点検出開始指示が入力されたか否かを判別し、入力されていると判別された場合に処理をS702へ進め、入力されていると判別されなければ待機する。なお、システム制御部50は、焦点検出開始指示の入力に限らず、ライブビュー表示や動画記録の開始をトリガとして処理をS702に進めてもよい。
S702でシステム制御部50は、撮影レンズ300のレンズ枠情報やフォーカスレンズ位置などの各種レンズ情報を、インターフェース部38、338およびコネクタ122、322を介してレンズシステム制御部346から取得する。
S703でシステム制御部50は、逐次読み出されているフレーム画像データの、焦点検出領域内の画素データから、光電変換部の信号を瞳分割方向に連結してAF用の像信号対を生成するように画像処理部20に指示する。画像処理部20は、AF用の像信号対を生成し、AF部42へ供給する。AF部42では、AF用の像信号対に対して信号レベルの差を補正する処理などを行う。また、AF部42は、AF用の像信号のピーク値(最大値)やボトム値(最小値)を検出する。画像処理部20は、AF用の像信号対として、画素のカラーフィルタ種別(R,Gr,Gb,B)ごとに処理を行い、像信号対を生成する。
S704でAF部42は、A像もしくはB像のGr、Gbの信号を用いた信頼性判定処理を行う。上述のとおり、種々の理由から生じたクロストークが焦点検出に影響を与えた場合の信頼性を、A像もしくはB像のGrとGbの信号が、クロストークがない場合には等しい信号波形となることを利用して、判定する。この処理の詳細は、後述する。AF部42は、信頼性判定結果をシステム制御部50に出力する。
S705でシステム制御部50は、S704でAF部42から得られた信頼性判定結果に基づき、焦点検出信号の信頼性を判定する。信頼性が高いと判定された場合には、S706に進み、画像処理部20は、画素のカラーフィルタ種別(R,Gr,Gb,B)ごとで構成されているAF用の像信号対を、フィルタ処理や加算処理を行うことで、色毎の特性を有さないY信号(輝度信号)に加工する。これにより、AF用の像信号対の情報量を減らし、以後の処理の演算量を低減することができる。本実施形態では、焦点検出領域601、602に4行2N列の画素が配置されているが、例えば水平、垂直方向に2画素ずつ加算し、2行N列の信号に圧縮する。
一方で、S705で焦点検出信号の信頼性が低いと判定された場合には、S707に進む。画像処理部20は、画素のカラーフィルタ種別(R,Gr,Gb,B)ごとで構成されているAF用の像信号対を、色毎に重みづけ処理を行った後、フィルタ処理や加算処理を行うことで、色毎の特性を有さない信号(加算信号)に加工する。例えば、本実施形態の構成では、B像のGrにクロストークの影響が出やすいため、焦点検出信号に占めるGrの割合が減るように、重み付けして、カラーフィルタ種別(R,Gr,Gb,B)ごとの信号を加算することが考えられる。重み付けは、Grを使用せずに(Grの重みをゼロにし)、焦点検出信号を生成することも含む。本実施形態では、焦点検出領域601、602には、4行2N列の画素が配置されているが、色毎に重み付けを行いながら、S705と同様に2行N列の信号に圧縮する。
色毎の重み付けは以下の情報によって変更する。
・撮影レンズの射出瞳距離と撮像素子の設定瞳距離の絶対値差と撮像素子の入射角に対する受光感度分布
・撮影レンズの倍率色収差
・被写体の分光特性(RGB比)
・撮像素子の構造(遮光壁の有無、画素間または配線層の構造など)
以下、それぞれについて説明する。
(結像光学系の射出瞳距離と撮像素子の設定瞳距離の絶対値差と撮像素子の入射角に対する受光感度分布)
図7を用いて説明したように、撮影レンズ300の射出瞳距離と撮像素子14の設定瞳距離との差の絶対値が大きいほど、また像高が高くなるほど、フォトダイオード201a、201bは、図6に示した入射角に対する受光感度分布において、原点から離れた入射角度の光束を受光することになる。そのため、焦点検出に用いる対の信号におけるRGB信号強度の差は大きくなる。つまり、前述のGrとGbの画素から異なる出力が生じやすい。以上から、撮影レンズの射出瞳距離と撮像素子の設定瞳距離の絶対値差が大きい、または像高が高いほど、クロストークの影響度が小さい画素(例えばGb)の重み付けを大きくすることにより、クロストーク量の影響を低減し、焦点検出誤差を低減することができる。
(結像光学系の倍率色収差)
図10を用いて説明したように、撮影レンズ300の有する倍率色収差によって、赤(R)、緑(G)、青(B)の信号の重心の画素位置がずれることにより、色毎に異なる位置に線像が結像する。そのため、例えば撮影レンズ300の倍率色収差情報としてRとG間とBとG間の重心差の情報をカメラ100または撮影レンズ300が保持し、RとG間とBとG間の線像の重心差の量に応じて色毎の重み付けを変更するとよい。例えばGの信号量が大きく、RとG間の重心差が大きく、BとG間の重心差が小さい場合にはGrとBの重み付けを大きくするとクロストーク量を低減し、焦点検出誤差を低減することができる。
(被写体の分光特性(RGB比))
被写体の分光特性に応じてクロストークの影響度は異なる。例えば緑の分光特性のみを有する被写体の場合には、Gr(Gb)の画素が最も被写体光を受光し、その他の画素の信号強度はGr(Gb)からのクロストークを受けるため焦点検出用信号には用いない方がよい。このように被写体の分光特性から被写体光を受光する強度に応じて、色毎の重み付けを変更することによりクロストーク量を低減し、焦点検出誤差を低減することができる。被写体の分光特性は、焦点検出領域のR、G、B比を画像処理部20で予め計算し、その計算結果に応じて焦点検出用信号の色毎の重み付けを行う。また、被写体の明るさに応じて重み付けを変更してもよい。
(撮像素子の構造)
前述したように、撮像素子の画素ピッチや画素構造によって、画素の配線層の異方性や画素間の信号電荷に対する障壁の高さが異なる。これらの構造により、発生するクロストーク量が異なるため、クロストークが生じやすい構造(例えば画素間の信号電荷に対する障壁が低い)の場合には、色毎(R、Gr、Gb、B)による重み付け(クロストークの影響が小さい画素の重みを大きくする)を行う。また、クロストークが生じにくい構造(例えば画素間の信号電荷に対する障壁が大きい)の場合には、色毎の重み付けを小さくする。これらにより、焦点検出誤差を低減することができる。
また、重み付けは、GrとGbに限らず、他の色を含めて行ってもよい。上述した倍率色収差の量などに応じて、赤(R)や青(B)の出力に対しても重み付けを行えばよい。例えば、倍率色収差によりRとGの結像位置のずれが大きい場合には、図12のS707で、赤の重み付けがS706で行われる処理に対して、小さくなるようにすればよい。
図12の説明に戻って、S708でAF部42は、A像とB像について相関量COR(k)を算出し、相関量COR(k)を最小にするシフト量kを像のずれ量(位相差)として検出する。さらに、AF部42は検出したずれ量をデフォーカス量に変換する。この処理の詳細は後述する。AF部42は、デフォーカス量をシステム制御部50に出力する。
S709でシステム制御部50は、S708でAF部42から得られたデフォーカス量に基づき、撮影レンズ300のフォーカスレンズ駆動量および駆動方向を決定する。
S710でシステム制御部50は、インターフェース部38、338、コネクタ122、322を介して、フォーカスレンズの駆動量および駆動方向の情報を撮影レンズ300のレンズシステム制御部346に送信する。レンズシステム制御部346は、フォーカスレンズの駆動量および駆動方向の情報をフォーカス制御部342に送信する。フォーカス制御部342は、受信したレンズ駆動量と駆動方向の情報に基づいて、フォーカスレンズを駆動する。これにより、撮影レンズ300の焦点調節が行われる。なお、図12の動作は次フレーム以降の動画データが読み出された際にも継続的に実施されてよい。フォーカスレンズの駆動量および駆動方向の情報は、システム制御部50からフォーカス制御部342に直接送信されてもよい。
(G画素による信頼性判定のサブルーチン)
次に、図12のS704で行われるG画素による信頼性判定のサブルーチンについて、図13のフローチャートを用いて説明する。S7041で、AF部42は、信頼性判定を行う信号の選択を行う。上述のとおり、クロストークは、ビネッティングにより光量の小さい信号に対して影響が大きいため、光量の小さい信号を選択する。図10Bで説明した状況では、B像を選択する。
S7041以降で、AF部42は、B像のGrとB像のGbの信号の比較を行う。図14を用いて、以降の比較処理の内容について説明する。図14は、図10BのB像のGrとGbの信号を抜出し、分かりやすくするために縦軸方向に伸長したものである。
AF部42は、S7042で、2つの信号のPeakとBottomの差を比較する。図14に示した通り、2つの信号のPeakであるP−B_GrとP−B_Gbを比較する。所定の閾値以上の差がある場合には、クロストークの影響が大きく、全信号を用いた焦点検出の信頼性は低いと判定する。全信号を用いた焦点検出とは、S706で行うY信号を用いた焦点検出のことである。本実施形態では、Y信号を用いた焦点検出の信頼性が低いと判定される場合には、上述のS707で説明した色毎に重み付け処理を行った信号を用いた焦点検出を行う。
AF部42は、S7043で、GrとGbのコントラスト情報の比較を行う。コントラスト情報としては、隣接信号の差分の絶対値和や、隣接信号の差分の2乗和などを用いればよい。これにより、信号の振幅の強度差を検出することができる。S7043で、GrとGbのコントラスト情報に所定の閾値以上の差があることが判明した場合には、クロストークの影響が大きい懸念があるため、全信号を用いた焦点検出の信頼性が低いと判定する。
AF部42は、S7044で、B像のGrとGbの像ずれ量を検出する。後述する焦点検出の際に行う像ずれ量検出方法を流用し、像ずれ量を算出する。S7042やS7043での判定は、クロストークの光量(振幅)に着目した信頼性判定となるが、S7044では、クロストークによる信号の重心位置のずれ(位相の差)を検出し、信頼性を判定する。像ずれ量の算出方法は、後述の焦点検出方法の説明の際に説明する。S7044では、B像のGrとGbの像ずれ量が所定の閾値以上の場合に、全信号を用いた焦点検出の信頼性が低いと判定する。
AF部42は、S7045で、測光部46の出力として被写体分光情報を取得し、被写体分光によるクロストークの影響を見積もる。上述のとおり、クロストークによる焦点検出誤差は、分光特性により様々な影響を受ける。一方で、被写体から受光する光束の分光が、単一波長に近ければ近いほど、影響は小さくなる。単一波長では、倍率色収差は発生せず、フォトダイオードの入射角に対する感度分布は分光依存が発生せず、カラーフィルタを通過した後に出力が得られる画素が限定されるためである。S7045では、被写体分光が、単一波長に近いか否かを判定し、クロストークの影響度合いを判定する。
また、S7045では、被写体分光が単一波長でない場合にも、クロストークの影響度合いを更に判定する。S7042からS7044では、B像のGrとGbを用いてクロストークの影響を判定している。しかしながら、被写体の分光が、赤や青の成分が多く、緑が少ない場合には、B像のGrとGbに差があったとしても焦点検出結果に与える影響は小さい。そこで、S7045では、測光部46の出力を用いて、全光量に対する緑色の出力の比を算出し、緑の占める割合が所定の閾値以上である場合に、クロストークの影響が大きいと判定し、全信号を用いた焦点検出の信頼性は低いと判定する。
AF部42は、S7046で、S7042からS7045で行った信頼性判定結果から、総合的に、全信号を用いた焦点検出の信頼性を判定する。S7042からS7044までの判定結果は、全てにおいて信頼性が高いと判定された場合のみ信頼性が高いと判定すればよい。S7045で得られた結果を用いて、S7042からS7044で、信頼性が低いと判定された場合にも、影響度合いが小さいと考えられる場合は、全信号を用いた焦点検出の信頼性が高いと判定すればよい。
AF部42は、S7046を終えると、G画素による信頼性判定のサブルーチンを終了し、図12のS705に進む。
本実施形態において、クロストークの量は、上述のとおり、以下の要素によって異なる。
・被写体の分光特性(RGB比)
・対のフォトダイオードの入射角に対する感度分布の角度依存、分光依存
・撮影光学系と焦点検出領域の像高
・撮影光学系で生じる倍率色収差
・画素間のクロストーク量(隣接方向毎)
そのため、焦点検出の際に生じる誤差の量も、上記の要因の程度に影響される。そのため、G画素による信頼性判定の際に用いる各判定の閾値は、上述の要因を鑑みて変更すればよい。例えば、像高が高いほど、倍率色収差量が多いほど、クロストーク量が多いほど、厳しく信頼性判定が行えるよう閾値の設定を行えばよい。なお、本実施形態では一つの画素内に2つの光電変換部を水平方向に備える例で説明したが、光電変換部の配置方向や数によっても画素間のクロストーク量は異なる。そのため、より正確に判定するために、これらの要素を加味して信頼性判定を行うようにしてもよい。
次に、図12のS708でAF部42が行うデフォーカス量の算出処理のサブルーチンについて、図15に示すフローチャートを用いてさらに説明する。S7081でAF部42は、焦点検出領域内に複数ある行から演算対象となる行を選択し、相関演算を行う。本実施形態では、S706やS707で信号生成された2行N列の信号の1行目を選択する。
位相差検出方式の焦点検出では、同じ被写体に対応した部分を有する1対の像を生成し、1対の像の位相差(ずれ量)を検出し、位相差をデフォーカスの量および方向に変換する。所定方向(例えば水平方向)に存在する複数の画素200のフォトダイオード201aから得られる信号に基づく信号列(A像)と、フォトダイオード201bから得られる信号に基づく信号列(B像)とは、同じ被写体を違う視点からみた像に相当する。したがって、A像とB像の位相差を検出し、デフォーカスの量および方向に変換することで、位相差検出方式の焦点検出が実現できる。
そして、所定方向におけるA像とB像との相対距離(シフト量)を変更しながら、個々の位置においてA像とB像との相関を表す値(相関量)を算出し、相関が最も高くなるシフト量を、A像とB像との位相差として検出することができる。相関量は例えば、対応信号値の差分累積値であってもよいが、他の値であってもよい。
例えば、A像としてA(1,1)〜A(1,N)を、B像としてB(1,1)〜B(1,N)を生成し、シフト量kを画素単位で−kmax≦k≦kmaxの範囲で変化させるとすると、個々の相対位置における相関量COR(k)は以下の様に算出できる。なお、ここで、A(M,N)、B(M,N)は、M行N列目のA画素の信号とB画素の信号をそれぞれ表わす。
…(1)
S7081では、選択された行のA像とB像の信号から、相関量CORを算出する。
S7082では、相関量の行加算の判定を行う。焦点検出領域内に、複数の行が存在し、相関演算を行う場合に、相関量の加算を行う。但し、相関演算を行う行によっては、飽和などにより信頼性の高い焦点検出結果が得られない行も存在する。そのため、S7082で得られた相関量を、事前に加算されている相関量に対して加算するか否かについて判定を行う。S7081で演算した相関量の信頼性が高い場合には、加算を行うよう判定する。
S7083では、S7082で行った判定結果に基づき、加算を行う場合にはS7084に進み、事前に得ていた相関量の加算結果に対して、S7081で得られた相関量を加算する。一方で、S7083で加算しないと判定された場合には、S7084をスキップする。
次に、S7085では全行について相関演算を行ったか否かを判定する。全行終えていない場合には、S7081に戻り、処理を続行する。焦点検出領域内の全行について、相関演算を終えた場合には、S7086に進み、デフォーカス量の算出を行う。まず、加算を終えて得られた、COR(k)を最小にするシフト量kの値を求める。ここで、式(1)で算出するシフト量kは整数であるが、分解能を向上させるため、最終的に求めるシフト量kは実数とする。例えば式(1)で得られる最小値がCOR(a)の場合、COR(a−1)、COR(a)、COR(a+1)からの補間演算などにより、この区間での相関量を最小にする実数値のシフト量を求める。
本実施形態では、相関量CORの差分値の符号が変化するシフト量dkを、相関量COR1(k)が最小となるシフト量kとして算出する。
まず、AF部42は、相関量の差分値DCORを以下の式(2)に従って算出する。
DCOR(k)=COR1(k)−COR1(k−1) …(2)
そして、AF部42は、相関量の差分値DCORを用いて、差分量の符号が変化するシフト量dkを求める。差分量の符号が変化する直前のkの値をk1、符号が変化したkの値をk2(k2=k1+1)とすると、AF部42はシフト量dkを、以下の式(3)に従って算出する。
dk=k1+|DCOR(k1)|/|DCOR(k1)−DCOR(k2)|
…(3)
以上のようにしてAF部42は、A像とB像の相関量が最大となるシフト量dkをサブピクセル単位で算出する。なお、2つの1次元像信号の位相差を算出する方法は、ここで説明したものに限らず、公知の任意の方法を用いることができる。
引き続き、S7086で得られたシフト量dkに対して、所定のデフォーカス換算係数を乗じて、デフォーカス量Defに変換する。ここで、デフォーカス換算係数は、撮影時の光学条件(絞り、射出瞳距離、レンズ枠情報など)や、焦点検出領域の像高、A像、B像を構成する信号のサンプリングピッチなどから求めることができる。
S7086でデフォーカス量の算出を終えると、デフォーカス量の算出処理のサブルーチンを終了し、図12のS709に進む。
以上のように、本実施形態によれば、本来撮影レンズを通過した被写体像に対してサンプリングを行い等しい出力を得られることが想定される2つの信号(Gr、Gb)を用いて、信号の特徴量の差を検出することにより、信頼性判定を行った。このような構成により、クロストークの影響やクロストーク補正などで信号に誤差が含まれる場合でも、検出精度に関して信頼性の高い焦点検出結果を得ることができる。
さらに、信頼性判定結果に基づき、焦点検出処理を行う際に用いる信号の選択を、信号圧縮の際の色毎の重み付け加算により実現した。これにより、クロストークの影響がある場合のみ、影響のある信号を排除し、精度の高い焦点検出結果を得ることができる。また、クロストークの影響がない場合には、全ての信号を使用することにより、SNのよい焦点検出結果を得ることができる。
本実施形態では、信頼性判定結果に基づき、信号圧縮の際の色毎の重み付け加算を行ったが、クロストークの影響を排除した焦点検出結果を得る方法はこれに限らない。例えば、焦点検出結果は、色毎(Gr,Gb,R,B)に算出した後、信頼性判定結果に基づき、焦点検出結果の重み付け平均を行ってもよい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。