以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
まず、図11を参照して、比較例の構成、動作、およびそれに伴う問題点について説明する。図11は、比較例の構成および動作の説明図である。具体的には、比較例として、1つのマイクロレンズに対して複数の光電変換部(PD)を有し、このようなマイクロレンズが2次元状に配列されている撮像素子を用いて位相差検出方式による焦点検出を行う場合の問題点について説明する。例えば、1つのマイクロレンズに関してPDが2つに分割されている場合、一方のPDの電荷量に対応する画素信号をA像、他方のPDの電荷量に対応する画素信号をB像、および、全てのPDの加算値(加算電荷量)に対応する画素信号をA+B像とする。
撮像装置(例えば特許文献2に開示されている撮像装置)は、A像を読み出した後にA+B像を読み出し、A+B像からA像を減算することでB像を生成して、焦点検出の演算を行う。A像とB像とを互いに独立に読み出して焦点検出の演算を行うこともできるが、画像(撮影画像)を生成するためにA+B像も必要となる。その際、A像とB像とを加算してA+B像を生成すると、A像とB像とがそれぞれランダムノイズを含むため、A像とB像とを加算することによりA+B像のランダムノイズ量が大きくなってしまう。ランダムノイズ量が大きくなると画質が低下するため、A像とA+B像とを独立に読み出すように構成することが好ましい。
焦点状態の検出は、A像とB像とのずれ量を相関演算から算出し、像ずれ量をフォーカスレンズのデフォーカス量と対応付けることにより行われる。図11(a)は、比較例における撮像素子の画素配列図である。図11(a)において、1000は1つのマイクロレンズ(同一マイクロレンズ)、1001はA像用PD(第1光電変換部)、1002はB像用PD(第2光電変換部)をそれぞれ示している。図11(a)に示されるように、比較例の撮像素子は、1つのマイクロレンズ1000に対して複数の光電変換部(A像用PD1001、B像用PD1002)を有し、マイクロレンズ1000が2次元状に配列されている。
水平方向に配列された画素(画素列)のそれぞれのA像信号およびB像信号をA(n)、B(n)とする。ここで、B像信号B(n)は、上述したように、A+B像信号からA像信号A(n)を減算して生成される。相関演算に用いられる相関量COR(k)は、以下の式(1)のように算出される。
式(1)において、kは相関演算の際のシフト量であり、−kmax以上かつkmax以下の整数である。その後、A像信号とB像信号との相関が最大となる場合(すなわち、相関量CORが最小となる場合)のシフト量kの値を求める。ここで、シフト量kは、整数で算出すると分解能が粗くなるため、適宜補間処理、所謂サブピクセル演算を行う。この差異、第1列のPDの電荷に対応するA像信号をS[A(l)]、A+B像信号をS[A+B(l)]とする。また、A像を読み出した際に画素データに重畳される読み出し回路に起因するランダムノイズをN[A(l)]、A+B像を読み出した際に画素データに重畳される読み出し回路に起因するランダムノイズをN[A+B(l)]とする。上述した手法に従ってB像を生成すると、B像は以下の式(2)のように表される。
B像=(A+B)像−A像
=(S[A+B(l)]+N[A+B(l)])−(S[A(l)]+N[A(l)])
=S[A+B(l)]−S[A(l)]+N[A+B(l)]−N[A(l)] … (2)
このとき、0以外のシフト量=sの場合における相関量COR(s)は、以下の式(3)のように表される。
COR(s)=Σ|A(i−s)−B(i+s)|
=Σ|{S[A(i−s)]+N[A(i−s)]}−{S[A+B(i+s)]−S[A(i+s)]+N[A+B(i+s)]−N[A(i+s)]}|
=Σ|S[A(i−s)]+S[A(i+s)]−S[A+B(i+s)]+N[A(i−s)]+N[A(i+s)]−N[A+B(i+s)]| … (3)
また、シフト量=0の場合における相関量COR(0)は、以下の式(4)のように表される。
COR(0)=Σ|A(i)−B(i)|
=Σ|S[A(i)]+S[A(i)]−S[A+B(i)]+N[A(i)]+N[A(i)]−N[A+B(i)]|
=Σ|2×S[A(i)]−S[A+B(i)]+2×N[A(i)]−N[A+B(i)]| … (4)
ここで、0以外のシフト量=sおよびシフト量=0の場合における相関量CORに重畳されるランダムノイズ量Noise(S)、Noise(0)は、それぞれ、以下の式(5)、(6)のように表される。
Noise(S)=Σ|N[A(i−s)]+N[A(i+s)]−N[A+B(i+s)]| … (5)
Noise(0)=Σ|2×N[A(i)]−N[A+B(i)]| … (6)
N[A(i−s)]、N[A(i+s)]、N[A+B(i+s)]は、互いに相関のないランダムノイズである。このため、ランダムノイズ量Noise(s)は、図11(b)に示されるように、シフト量=0以外で略一定の値になる。一方、ランダムノイズ量Noise(0)に関し、N[A(i)]とN[A+B(i)]は互いに相関のないランダムノイズである。しかし、N[A(i)]が2倍となり、積分されるため、ランダムノイズ量Noise(0)はランダムノイズ量Noise(s)よりも大きくなる。このため、図11(b)に示されるように、シフト量=0の場合にのみランダムノイズに起因する相関量が大きくなる。このように、A+B像とA像とからB像を生成して相関演算を行う場合、A像に重畳されるランダムノイズ量の符号が反転したランダムノイズ量がB像に重畳される。このため、シフト量=0の場合にΣ|2×N[A(i)]|のノイズ量が相関値に重畳され、局所的にピークが発生してしまう。
A像信号とB像信号のコントラストが低い被写体の撮影や、低輝度環境下で撮影する場合、信号Sに対するノイズNが相対的に大きくなり、相関量CORにおいてはノイズが支配的になる。ノイズの影響がなければ、合焦の際にはシフト量=0の場合に相関量CORが最小となり(図11(c)の点H)、この点(点H)を検出することにより焦点検出が適切に行われる。しかし、相関量CORの成分としてノイズが支配的になると、図11(d)に示されるように、シフト量=0の場合に相関量CORが大きくなる(相関が低くなる)結果が得られる(点I)。その結果、相関値P(h)が最小となる複数の点(点J、点K)が発生し、それらの点(点J、点K)を合焦位置のシフト量であると認識し、結果的に誤った焦点検出やハンチングの要因となる。
上述のA像とB像で負の相関のあるノイズが発生した場合と同様に、A像とB像との間で正の相関のあるノイズが発生した場合にも課題が生じる。例えば、画素ごとの感度の不均一性は、画素ごとの透過率のムラや、読み出し回路などで生じ、A像とA+B像との間でノイズの発生源を共有する。この際、A像とA+B像との間において、出力信号量に比例するノイズ成分を有する。
上述と同様に、第l列のPDの電荷に対応するA像信号をS[A(l)]、画素間の出力差を生じるノイズ成分をN[A(l)]と表す。この際、A像とA+B像で正の相関のあるノイズ以外にノイズが生じない場合で、A+B像信号S[A+B(l)]を、g×S[A(l)](g≧1)のように表すと、N[A+B(l)]は、g×N[A(l)]と表すことができる。
この際に得られるB像は、以下の式(7)のように表すことができる。
B像=(S[A+B(l)]+N[A+B(l)])−(S[A(l)]+N[A(l)])
=(g−1)(S[A(l)]+N[A(l)]) … (7)
同様に相関量の演算を行うと、シフト量=Sおよびシフト量=0の場合のノイズ量はそれぞれ、以下の式(8)、(9)のように表される。
Noise(S)=Σ|N[A(i‐s)]−(g−1)×N[A(i+s)]| … (8)
Noise(0)=Σ|(2−g)×N[A(i)]| … (9)
N[A(i‐s)]、N[A(i+s)]は、互いに相関のないノイズであって、N[A(l)]と同じバラつきを有するノイズである。このため、N[A(i‐s)]−(g−1)×N[A(i+s)]は、N[A(l)]より大きなばらつきを有するノイズとなる。このばらつきを式(8)で積算するNoise(S)に対して、Noise(0)は、N[A(l)]のばらつきの積算値であるため、小さくなる頻度が高くなる。
図11(c)を参照して説明したように、相関量CORの極小値を算出することにより、デフォーカス状態を検出する。このため、ノイズによるシフト量=0の相関量が小さくなることは、検出精度の低下につながる。正の相関のあるノイズが信号量に比例して発生するため、低コントラストで一様に明るい被写体などで、ノイズによる極小値が、本来の被写体信号による極小値に影響を与え、検出精度を損ねる場合がある。また、被写体のパターンが一様である場合、本来、焦点検出は不可能である。しかし、ノイズ成分のみで極小値が発生するため、合焦していると誤って判定する可能性がある。
そこで本発明の各実施形態は、低コントラストの被写体撮影や低輝度環境下で撮影する場合でも、ノイズの影響を適切に把握し、高精度な焦点検出結果を利用して焦点調節を行うことが可能な撮像装置を提供する。以下、各実施形態について説明する。
(第1の実施形態)
図1を参照して、本発明の実施形態1における撮像装置について説明する。図1は、本実施形態における撮像装置10のブロック図である。撮像装置10は、撮像素子を有するカメラ100(撮像装置本体)と、カメラ100に着脱可能な撮影レンズ300(交換レンズ、レンズ装置)とを備えて構成されるカメラシステムである。ただし本実施形態はこれに限定されるものではなく、カメラ100と撮影レンズ300とが一体的に構成された撮像装置にも適用可能である。
まず、カメラ100の構成について説明する。カメラ100は、複数種類の撮影レンズ300(および、製造番号が異なる同一種類の撮影レンズ)が装着可能である。またカメラ100は、焦点距離や開放Fナンバーが異なる撮影レンズまたはズーム機能を備える撮影レンズなども装着可能であり、同種、異種の撮影レンズにかかわらず交換可能に構成されている。
カメラ100において、撮影レンズ300を通過した光束は、カメラマウント106を通過し、メインミラー130により上方へ反射されて光学ファインダ104に入射する。光学ファインダ104により、撮影者は被写体を光学像として観察しながら撮影することができる。光学ファインダ104は、表示部54の一部の機能、例えば、合焦表示、手振れ警告表示、絞り値表示、および、露出補正表示などの機能を有する。
メインミラー130は半透過性のハーフミラーで構成され、メインミラー130に入射する光束のうち一部はハーフミラーを通過し、サブミラー131で下方へ反射されて焦点検出装置105へ入射する。焦点検出装置105は、2次結像光学系からなる位相差検出方式AF機構を採用しており、得られた光学像を電気信号に変換しAF部42(オートフォーカス部)へ送る。AF部42は、この電気信号から位相差検出演算を行う。システム制御回路50は、AF部42の演算結果に基づいて、撮影レンズ300に設けられた後述のフォーカス制御部342に対して、焦点調節処理などの制御を行う。本実施形態において、AF部42は、焦点検出結果の補正をも行う。AF部42は、位相差演算手段として機能する。
一方、撮影レンズ300の焦点調節処理が終了し、静止画撮影、電子ファインダ表示、動画撮影を行う場合、不図示のクイックリターン機構によりメインミラー130とサブミラー131とを撮影光束外に退避させる。このような構成により、撮影レンズ300を通過した光束は、露光量を制御するためのシャッタ12を介して、光学像を電気信号に変換する撮像素子14に入射する。これらの撮影動作終了後、メインミラー130およびサブミラー131は図1に示されるような位置(撮影光束内)に戻る。
撮像素子14により光電変換された電気信号はA/D変換器16へ送られ、アナログ信号出力がデジタル信号(画像データ)に変換される。タイミング発生回路18は、撮像素子14、A/D変換器16、および、D/A変換器26にクロック信号や制御信号を供給し、メモリ制御回路22およびシステム制御回路50により制御される。画像処理回路20は、A/D変換器16からの画像データまたはメモリ制御回路22からの画像データに対して、所定の画素補間処理や色変換処理を行う。また画像処理回路20は、画像データを用いて所定の演算処理を行う。
撮像素子14は、焦点検出装置の一部を構成し、クイックリターン機構によりメインミラー130およびサブミラー131が撮影光束外に退避した状態においても位相差検出方式AFを行うことができる。得られた画像データのうち、焦点検出に対応する画像データは、画像処理回路20で焦点検出用画像データに変換される。その後、システム制御回路50を介してAF部42へ送られ、撮影レンズ300の焦点合わせが行われる。システム制御回路50は、画像処理回路20による撮像素子14の画像データを演算した演算結果に基づいて、撮影レンズ300のフォーカス制御部342に対して焦点合わせを行う所謂コントラスト方式AFも可能である。このような構成により、電子ファインダ観察や動画撮影の際において、メインミラー130およびサブミラー131が撮影光束外に退避するが、撮像素子14による位相差検出方式AFとコントラスト方式AFとの両者を併用して焦点調節を行うことができる。特に、位相差検出方式AFを行うため、高速な焦点合わせが可能である。
このように本実施形態のカメラ100は、メインミラー130およびサブミラー131が撮影光路内にある通常の静止画撮影では、焦点検出装置105による位相差検出方式AFを用いる。一方、カメラ100は、メインミラー130およびサブミラー131が撮影光束外へ退避する電子ファインダ観察や動画撮影の際には、撮像素子14による位相差検出方式AFとコントラスト方式AFとを併用するように構成されている。従って、静止画撮影、電子ファインダ、または、動画撮影のいずれの撮影においても焦点調節が可能である。
メモリ制御回路22は、A/D変換器16、タイミング発生回路18、画像処理回路20、画像表示メモリ24、D/A変換器26、メモリ30、および、圧縮伸長回路32を制御する。A/D変換器16のデータは、画像処理回路20およびメモリ制御回路22を介して、または直接メモリ制御回路22を介して、画像表示メモリ24またはメモリ30に書き込まれる。画像表示部28は、液晶モニタなどから構成され、画像表示メモリ24に書き込まれた表示用の画像データを、D/A変換器26を介して画像表示部28により表示する。画像表示部28を用いて撮像した画像データを逐次表示することにより、電子ファインダ機能を実現することができる。画像表示部28は、システム制御回路50の指示に基づいて任意に表示をON/OFFすることが可能であり、表示をOFFにした場合にはカメラ100の電力消費を低減することができる。
メモリ30は、撮影した静止画像や動画像を記憶する記憶手段であり、所定枚数の静止画像や所定時間の動画像を記憶するのに十分な記憶容量を備えている。これにより、連射撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ30に対して行うことができる。また、メモリ30はシステム制御回路50の作業領域としても使用可能である。圧縮伸長回路32は、適応離散コサイン変換(ADCT)などにより画像データを圧縮伸長する機能を有し、メモリ30に記憶された画像を読み込んで圧縮処理または伸長処理を行い、処理後の画像データをメモリ30に書き込む。
シャッタ制御部36は、測光部46からの測光情報に基づいて、撮影レンズ300の絞り312を制御する絞り制御部344と連携しながら、シャッタ12を制御する。インターフェース部38(I/F部)およびコネクタ122は、カメラ100と撮影レンズ300とを電気的に接続する。これらは、カメラ100と撮影レンズ300との間で制御信号、状態信号、および、データ信号などを伝達すると共に、各種電圧の電流を供給する機能も備えている。また、電気通信のみならず、光通信や音声通信などを伝達する構成としてもよい。測光部46は、AE処理を行う。撮影レンズ300を通過した光束を、カメラマウント106、メインミラー130、および、不図示の測光用レンズを介して、測光部46に入射させることにより、画像の露出状態を測定することができる。また、測光部46は、フラッシュ48と連携することにより、調光処理機能も有する。システム制御回路50は、画像処理回路20による撮像素子14の画像データを演算した演算結果に基づいて、シャッタ制御部36と撮影レンズ300の絞り制御部344とに対してAE制御を行うことも可能である。フラッシュ48は、AF補助光の投光機能およびフラッシュ調光機能も有する。
システム制御回路50は、カメラ100の全体を制御する制御装置である。本実施形態において、システム制御回路50は、取得手段50a、相関演算手段50b、ノイズ算出手段50c、および、判定手段50dを有する。取得手段50aは、撮像光学系(撮影レンズ300)の互いに異なる瞳領域を通過する光束に対応する第1信号および第2信号を取得する。相関演算手段50bは、第1信号と第2信号との相関量を演算する。ノイズ算出手段50cは、第1信号と第2信号との相関ノイズを算出する。判定手段50dは、相関ノイズに応じた基準を用いて相関量に関する信頼性を判定する。
メモリ52は、システム制御回路50の動作用の定数、変数、および、プログラムなどを記憶する。表示部54は、システム制御回路50によるプログラムの実行に応じて、文字、画像、または、音声などを用いて動作状態やメッセージなどを表示する液晶表示装置である。表示部54は、カメラ100の操作部近辺の視認し易い位置に単数または複数設置され、例えばLCDおよびLEDなどの組み合わせにより構成される。表示部54の表示内容のうち、LCDなどに表示する内容としては、記録枚数や残撮影可能枚数などの撮影枚数に関する情報や、シャッタスピード、絞り値、露出補正、および、フラッシュなどの撮影条件に関する情報がある。またLCDには、電池残量や日付・時刻なども表示される。また表示部54は、前述のように、その一部の機能が光学ファインダ104に設けられている。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばEEPROMである。60、62、64、66、68、および、70は、システム制御回路50の各種の動作指示を入力するための操作部であり、スイッチやダイアル、タッチパネル、視線検知によるポインティング、音声認識装置などの単数または複数の組み合わせにより構成される。
モードダイアルスイッチ60は、電源オフ、オート撮影モード、マニュアル撮影モード、再生モード、PC接続モードなどの各機能モードを切り替え設定するために用いられる。シャッタースイッチ62(SW1)は、不図示のシャッタボタンが半押しされるとONとなり、AF処理、AE処理、AWB処理、EF処理などの動作開始を指示する。シャッタースイッチ64(SW2)は、シャッタボタンが全押しされるとONとなり、撮影に関する一連の処理の動作開始を指示する。撮影に関する処理とは、露光処理、現像処理、および、記録処理などを含む。露光処理の際には、撮像素子14から読み出された信号がA/D変換器16およびメモリ制御回路22を介してメモリ30に画像データとして書き込まれる。現像処理の際には、画像処理回路20やメモリ制御回路22による演算を用いた現像を行う。記録処理の際には、メモリ30から画像データを読み出し、圧縮伸長回路32で圧縮を行い、記録媒体150または記録媒体160に画像データとして書き込む。
画像表示ON/OFFスイッチ66は、画像表示部28のON/OFFを設定するために用いられる。この機能により、光学ファインダ104を用いて撮影を行う際に、液晶モニタなどからなる画像表示部28への電流供給を遮断することにより、省電力を図ることができる。クイックレビューON/OFFスイッチ68は、撮影直後に撮影した画像データを自動再生するクイックレビュー機能を設定するために用いられる。操作部70は、各種ボタンやタッチパネルなどからなる。各種ボタンには、メニューボタン、フラッシュ設定ボタン、単写/連写/セルフタイマー切り替えボタン、および、露出補正ボタンなどがある。
電源制御部80は、電池検出回路、DC/DCコンバータ、および、通電するブロックを切り替えるスイッチ回路などを備えて構成されている。電源制御部80は、電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果およびシステム制御回路50の指示に基づいてDC/DCコンバータを制御し、必要な電圧を必要な期間、記録媒体150、160を含む各部へ供給する。コネクタ82、84は、アルカリ電池やリチウム電池などの一次電池、NiCd電池やNiMH電池やリチウムイオン電池などの二次電池、および、ACアダプタなどからなる電源部86をカメラ100と接続する。
インターフェース90、94(I/F部)は、メモリカードやハードディスクなどの記録媒体との接続機能を有する。コネクタ92、96は、メモリカードやハードディスクなどの記録媒体と物理的接続を行う。記録媒体着脱検知部98は、コネクタ92、96に記録媒体150、160がそれぞれ装着されているか否かを検知する。なお本実施形態では、記録媒体150、160を取り付けるインターフェースおよびコネクタを2系統持つものとして説明しているが、インターフェースおよびコネクタは、単数または複数のいずれの系統数を備える構成としても構わない。また、異なる規格のインターフェースおよびコネクタを組み合わせて備える構成としてもよい。また、インターフェースおよびコネクタにLANカードなどの各種通信カードを接続することにより、コンピュータやプリンタなどの他の周辺機器との間で画像データや画像データに付属した管理情報を転送し合うことができる。
通信部110は、有線通信または無線通信などの各種通信機能を有する。コネクタ112は、通信部110によりカメラ100を他の機器と接続し、無線通信の場合はアンテナである。記録媒体150、160は、メモリカードやハードディスクなどである。記録媒体150、160は、半導体メモリや磁気ディスクなどから構成される記録部152、162、カメラ100とのインターフェース154、164(I/F部)、カメラ100と接続を行うコネクタ156、166を備えている。
次に、撮影レンズ300について説明する。撮影レンズ300は、カメラ100に着脱可能に構成される。レンズマウント306は、撮影レンズ300をカメラ100と機械的に結合し、カメラマウント106を介してカメラ100に交換可能に取り付けられる。カメラマウント106およびレンズマウント306は、撮影レンズ300をカメラ100と電気的に接続するコネクタ122およびコネクタ322の機能を有する。レンズ311は、被写体の焦点合わせを行うフォーカスレンズを含む。絞り312は、撮影光束の光量を制御する。
コネクタ322およびインターフェース部338(I/F部)は、撮影レンズ300をカメラ100のコネクタ122と電気的に接続する。コネクタ322は、カメラ100と撮影レンズ300との間で制御信号、状態信号、および、データ信号などを伝達すると共に、各種電圧の電流を供給する機能も有する。コネクタ322は、電気通信のみならず、光通信や音声通信などを伝達する構成としてもよい。ズーム制御部340は、レンズ311のズーミング(ズームレンズの動作)を制御する。フォーカス制御部342は、レンズ311のフォーカスレンズの動作を制御する。撮影レンズ300がズーム機能のない単焦点レンズである場合、ズーム制御部340はなくてもよい。絞り制御部344は、測光部46からの測光情報に基づいて、シャッタ12を制御するシャッタ制御部36と連携しながら、絞り312を制御する。絞り制御部344および絞り312は、絞り開口調節手段を構成する。
レンズシステム制御部346は、撮影レンズ300の全体を制御する。またレンズシステム制御部346は、撮影レンズ300の動作用の定数、変数、および、プログラムなどを記憶するメモリの機能を有する。不揮発性メモリ348は、撮影レンズ300に固有の番号などの識別情報、管理情報、開放絞り値や最小絞り値、焦点距離などの機能情報、現在や過去の各設定値などを記憶する。本実施形態において、不揮発性メモリ348は、撮影レンズ300の状態に応じたレンズ枠情報も記憶している。レンズ枠情報は、撮影レンズ300を通過する光束を決定する枠開口の撮像素子14からの距離と枠開口の半径の情報である。絞り312は、撮影レンズ300を通過する光束を決定する枠に含まれ、他にもレンズを保持するレンズ枠部品の開口などが枠に該当する。また、撮影レンズ300を通過する光束を決定する枠は、レンズ311のフォーカス位置やズーム位置に応じて異なるため、レンズ311のフォーカス位置やズーム位置に対応して複数の枠が用意されている。カメラ100が焦点検出を行う際には、レンズ311のフォーカス位置およびズーム位置に対応した最適なレンズ枠情報が選択され、そのレンズ枠情報がコネクタ322を介してカメラ100に送られる。
次に、図2(a)、図2(b)、図2(c)を参照して、撮像素子14について詳述する。撮像素子14は、焦点検出装置105と同様に、位相差検出方式AFを行う。図2(a)は、撮像素子14の画素200の回路図である。図2(b)は、撮像素子14の画素配列図である。
画素200は、フォトダイオード(PD)201a、201b、転送スイッチ202a、202b、フローティングディフュージョン領域203、増幅部204、リセットスイッチ205、および、選択スイッチ206を有する。なお、各スイッチはMOSトランジスタなどにより構成され得る。以下、各スイッチは一例としてN型MOSトランジスタであるとして説明するが、各スイッチはP型MOSトランジスタであってもよく、またはその他のスイッチング素子であってもよい。
このように、本実施形態における撮像素子14は、1つの画素200内に、2つのフォトダイオードを有する。ただし、各画素200に設けられるフォトダイオードの個数は図2(a)に示される2つに限定されず、3つ以上(例えば、4つ)設けられてもよい。本実施形態において、フォトダイオード201a、201bは、後述するように、焦点検出画素として機能するとともに、撮像画素としても機能する。
フォトダイオード201a、201bは、図2(b)に示される1つのマイクロレンズ236(同一のマイクロレンズ)を通過した光を受光し、光電変換によりその受光量に応じた信号電荷を生成する光電変換部として機能する。フォトダイオード201aにより得られる信号をA信号(第1信号)、フォトダイオード201bにより得られる信号をB信号(第2信号)と呼ぶ。このように撮像素子14は、撮像光学系の互いに異なる瞳領域を通過する光束を受光する第1光電変換部(フォトダイオード201a)および第2光電変換部(フォトダイオード201b)を有する。また撮像素子14は、1つのマイクロレンズ236に対して第1光電変換部および第2光電変換部を有し、マイクロレンズ236が2次元状に配列されている。
転送スイッチ202aは、フォトダイオード201aとフローティングディフュージョン領域203との間に接続され、転送スイッチ202bはフォトダイオード201bとフローティングディフュージョン領域203との間に接続される。転送スイッチ202a、202bは、それぞれフォトダイオード201a、201bで発生した電荷を共通のフローティングディフュージョン領域203に転送する素子である。転送スイッチ202a、202bは、それぞれ制御信号TX_A、TX_Bにより制御される。
フローティングディフュージョン領域203は、フォトダイオード201a、201bから転送された電荷を一時的に保持するとともに、保持した電荷を電圧信号に変換する電荷電圧変換部として機能する。増幅部204は、ソースフォロワMOSトランジスタである。増幅部204のゲートは、フローティングディフュージョン領域203に接続され、増幅部204のドレインは電源電位VDDを供給する共通電源208に接続される。増幅部204は、フローティングディフュージョン領域203に保持された電荷に基づく電圧信号を増幅して、画像信号として出力する。リセットスイッチ205は、フローティングディフュージョン領域203と共通電源208との間に接続される。リセットスイッチ205は、制御信号RESによって制御され、フローティングディフュージョン領域203の電位を電源電位VDDにリセットする機能を有する。選択スイッチ206は、増幅部204のソースと垂直出力線207の間に接続される。選択スイッチ206は、制御信号SELによって制御され、増幅部204で増幅された画像信号を垂直出力線207に出力する。
図2(c)は、撮像素子14の構成図である。撮像素子14は、画素アレイ234、垂直走査回路209、電流源負荷210、読み出し回路235、共通出力線228、229、水平走査回路232、および、データ出力部233を有する。
画素アレイ234は、行列状に配置された複数の画素200を有する。図2(c)では、説明の簡略化のため、水平方向にn画素、垂直方向に4画素を示しているが、画素200の行数および列数は任意である。また、各画素200には複数色のカラーフィルタのうちいずれか1つが設けられている。図2(c)に示される例では、カラーフィルタの色は赤色(R)、緑色(G)、および、青色(B)である。画素200はベイヤー配列に従って配置される。また、本実施形態における撮像素子14は、画素アレイ234の一部が遮光層で遮光された領域(OB)を有する。
垂直走査回路209は、行ごとに設けられた駆動信号線215を介して、各行の画素200に制御信号を出力する。なお図2(c)において、駆動信号線215は、簡略化のため、行ごとに1本ずつ示されているが、実際には行ごとに複数の駆動信号線が接続される。同じ列の画素200は、列ごとに設けられた垂直出力線207に共通接続される。各画素200から出力される信号は、垂直出力線207を介して読み出し回路235に入力され、読み出し回路235で処理される。電流源負荷210は各列の垂直出力線207に接続される。
水平走査回路232は、制御信号HSR(0)〜HSR(n−1)信号を出力することにより、複数の読み出し回路235の中から信号を出力させる列を順次選択する。選択された行の読み出し回路235は、共通出力線228、229を介してデータ出力部233(出力アンプ部)に処理した信号を出力する。
次に、読み出し回路235の具体的な回路構成を説明する。読み出し回路235は、クランプ容量211、フィードバック容量214〜216、オペアンプ213、基準電圧源212、および、スイッチ217〜220を有する。また読み出し回路235は、比較器221、Latch_N222、Latch_S223、スイッチ226、227を有する。
垂直出力線207により読み出し回路235に入力される信号は、クランプ容量211を介してオペアンプ213の反転入力端子に入力される。オペアンプ213の非反転入力端子には、基準電圧源212から基準電圧Vrefが供給される。フィードバック容量214〜216は、オペアンプ213の反転入力端子と出力端子の間に接続される。スイッチ217もオペアンプ213の反転入力端子と出力端子との間に接続され、フィードバック容量214〜216の両端をショートさせる機能を有する。スイッチ217は、制御信号RES_Cにより制御される。スイッチ218〜220は、制御信号GAIN0〜GAIN2により制御される。
比較器221には、オペアンプ213の出力信号と、ランプ信号発生器230から出力されるランプ信号224とが入力される。Latch_N222は、ノイズレベル(N信号)を保持するための記憶素子である。Latch_S223は、A信号およびA信号とB信号が加算されたAB信号の信号レベル(S信号)を保持するための記憶素子である。比較器221の出力信号と、カウンタ231から出力されるカウンタ値225とがLatch_N222とLatch_S223に入力され、それぞれLATEN_N、LATEN_Sにより制御される。Latch_N、Latch_Sの出力端子は、スイッチ222、223を介してそれぞれ共通出力線228、229に接続される。共通出力線228、229は、データ出力部233に接続される。
スイッチ226、227は、水平走査回路232からの制御信号HSR(h)(HSR(0)〜HSR(n−1))信号により制御される。ここで、hは制御信号線が接続されている読み出し回路235の列番号を示す。Latch_N222、Latch_S223に保持された信号は、共通出力線228、229を介して出力され、データ出力部233から外部へ出力される。この動作を水平転送と呼ぶ。
次に、図3を参照して、撮像装置10の読み出し動作について説明する。図3は、撮像装置10の読み出し動作を示すタイミングチャートである。以下、図3を参照しつつ画像信号の1行分の読み出し動作について説明する。なお、各制御信号がH(High)の場合に各スイッチはオンになり、L(Low)の場合に各スイッチはオフになるものとする。
時刻t1において、制御信号TX_A、TX_BはHになり、転送スイッチ202a、202bがオンになる。このとき、RESはHになっており、フォトダイオード201a、201bに蓄積された電荷は、転送スイッチ202a、202b、リセットスイッチ205を介して共通電源208に転送され、フォトダイオード201a、201bはリセットされる。時刻t2において、制御信号TX_A、TX_BをLとし、フォトダイオード201a、201bへの光電荷の蓄積が開始される。
所定の時間だけ光電荷の蓄積を行った後の時刻t3において、選択スイッチ206の制御信号SELがHになり、増幅部204のソースが垂直出力線に接続される。時刻t4において、リセットスイッチ205の制御信号RESをLとすることにより、フローティングディフュージョン領域203のリセットを解除する。このとき、フローティングディフュージョン領域203の電位に応じたリセット信号レベルの電位が増幅部204を介して垂直出力線207に読み出され、読み出し回路235に入力される。
その後、時刻t5において、制御信号RES_CがLになると、垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefとの差分に基づく電圧がオペアンプ213から出力される。撮像装置10は、予め、操作部70にて設定されたISO感度に基づいて、システム制御回路50が制御信号GAIN0〜2のいずれか一つの信号をHにするように設定されている。本実施形態の撮像装置10は、ISO感度100、200、400を備える。ISO感度100〜400に対して、それぞれ制御信号GAIN0〜2がHとなる。これにより、スイッチ218〜219の中で対応するスイッチがオンとなる。オペアンプ213は、入力された電圧をクランプ容量211とフィードバック容量214〜216のいずれかの比率で定まる反転ゲインで増幅して出力する。ここで、オペアンプ213までの回路で発生するランダムノイズ成分も増幅することになり、ISO感度100、200、400において、それぞれ出力される信号のランダムノイズ量が異なる。
次に、時刻t6において、ランプ信号発生器230は、時間経過に比例して信号レベルが変化するランプ信号の出力を開始する。同時にカウンタ231は、リセット状態からカウントアップを開始し、LATEN_NがHになる。比較器221は、オペアンプ213の出力信号とランプ信号発生器230が出力するランプ信号とを比較する。入力されたランプ信号の信号レベルが時間の経過とともに大きくなり、その信号レベルがオペアンプ213の出力信号の値を上回った時点で、Latch_N222に出力する信号をLからHに反転させる(時刻t7)。Latch_N222は、LATEN_NがHの状態で、比較器221からの信号がLからHに反転されると、その時にカウンタ231から出力されているカウンタ値を記憶する。この記憶されたカウンタ値がN信号レベルとなる。その後、時刻t8において、ランプ信号の変化が終了し、LATEN_NがLとなる。
時刻t9では、制御信号TX_AがHになり、フォトダイオード201aの光電荷がフローティングディフュージョン領域203へ転送される。その後、時刻t10において、制御信号TX_AがLになる。この動作により、フォトダイオード201aに蓄積された電荷は、フローティングディフュージョン領域203へ転送される。そして、その変化に応じた電圧が増幅部204及び垂直出力線207を介して読み出し回路235へ出力される。垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefとの差分に基づく電圧がオペアンプ213から出力される。オペアンプ213は、入力された電圧をクランプ容量211とフィードバック容量214〜216のいずれかの比率で定まる反転ゲインで増幅して出力する。
次に、時刻t11において、ランプ信号発生器230は、ランプ信号の出力を開始する。同時にカウンタ231は、リセット状態からカウントアップを開始し、LATEN_SがHになる。比較器221は、オペアンプ213の出力信号とランプ信号発生器230が出力するランプ信号とを比較する。ランプ信号の信号レベルがオペアンプ213の出力信号の値を上回った時点で、Latch_S223に出力する信号をLからHに反転させる(時刻t12)。Latch_S223は、LATEN_SがHの状態で、比較器221からの信号がLからHに反転されると、その時にカウンタ231から出力されているカウンタ値を記憶する。この記憶されたカウンタ値がA信号レベルとなる。その後、時刻t13において、ランプ信号の変化が終了し、LATEN_NがLとなる。
その後、時刻t14〜t15の間に、水平走査回路232から出力される制御信号HSR(h)が順次LからHになり、Lに戻る。これに伴い、スイッチ226、227がオフからオンになり、再びオフに戻る。各列のLatch_N222、Latch_S223に保持されたN信号データとA信号データは、共通出力線228、229へそれぞれ読み出され、データ出力部233に入力される。データ出力部233では各列のA信号データとN信号データの差を外部へ出力する。
時刻t16において、再び制御信号TX_AがHになるとともに制御信号TX_BもHとなる。その後、時刻t17において、制御信号TX_AとTX_BがLになる。この動作により、フォトダイオード201a、201bの双方の光電荷がともにフローティングディフュージョン領域203へ転送される。そして、その変化に応じた電圧が増幅部204及び垂直出力線207を介して読み出し回路235へ出力される。垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefとの差分に基づく電圧がオペアンプ213から出力される。オペアンプ213は、入力された電圧をクランプ容量211とフィードバック容量214〜216のいずれかの比率で定まる反転ゲインで増幅して出力する。
次に、時刻t18において、ランプ信号発生器230は、ランプ信号の出力を開始する。同時にカウンタ231は、リセット状態からカウントアップを開始し、LATEN_SがHになる。比較器221は、オペアンプ213の出力信号とランプ信号発生器230が出力するランプ信号とを比較する。ランプ信号の信号レベルがオペアンプ213の出力信号の値を上回った時点で、Latch_S223に出力する信号をLからHに反転させる(時刻t19)。Latch_S223はLATEN_SがHの状態で、比較器221からの信号がLからHに反転されると、その時にカウンタ231から出力されているカウンタ値を記憶する。この記憶されたカウンタ値がAB信号レベルとなる。その後時刻t20において、ランプ信号の変化が終了し、LATEN_NがLとなる。
その後、時刻t21〜t22の間に、水平走査回路232から出力される制御信号HSR(h)が順次LからHになり、Lに戻る。これに伴い、スイッチ226、227がオフからオンになり、再びオフに戻る。各列のLatch_N222、Latch_S223に保持されたN信号データとAB信号データは、共通出力線228、229へそれぞれ読み出され、データ出力部233に入力される。データ出力部233は、各列のAB信号データとN信号データの差を外部へ出力する。
最後に、時刻t22にて制御信号RES_CがH、時刻t23にて制御信号RESがH、時刻t24にて制御信号SELがLになり、1行分の読み出し動作が完了する。この動作を所定の行数分繰り返すことにより1画面分の像信号を取得する。
本実施形態の撮像装置10は、静止画モードと動画モードとを具備する。静止画モードでは、撮像素子14の全行分の画素データを読み出す。動画モードでは、3行周期の行の画素データを読み出し、静止画モードより読み出す行数が少ない構成とする。ただし、静止画モードと動画モードの構成や読み出しは、これに限定されるものではない。以上の動作により、ノイズが除去されたA信号とAB信号とが得られる。A信号は焦点検出信号として用いられ、AB信号は撮影された画像を構成するデータまたは焦点検出信号として用いられる。
本実施形態の撮像素子14は、以下の2種類の読み出しモードを有する。第1の読み出しモードは全画素読み出しモードと称するもので、高精細静止画を撮像するためのモードである。この場合、全画素の信号が読み出される。第2の読み出しモードは、間引き読み出しモードと称するもので、動画記録、またはプレビュー画像の表示のみを行なうためのモードである。この場合に必要な画素数は全画素よりも少ないため、画素群はX方向及びY方向ともに所定比率に間引いた画素のみ読み出す。また、高速に読み出す必要がある場合にも、同様に間引き読み出しモードが用いられる。X方向に間引く際には、信号の加算を行いS/Nの改善を図り、Y方向に対する間引きは、間引かれる行の信号出力を無視する。
次に、図4を参照して、撮像光学系(撮影レンズ300)の射出瞳面と撮像素子14の光電変換部との共役関係について説明する。図4(A)、(B)は、本実施形態の撮像装置10において、撮像光学系の射出瞳面と、像高ゼロすなわち像面中央近傍に配置された撮像素子14の光電変換部との共役関係の説明図である。撮像素子14内の光電変換部と撮像光学系の射出瞳面は、オンチップマイクロレンズによって共役関係となるように設計される。そして撮像光学系の射出瞳は、一般的に光量調節用の虹彩絞りが置かれる面と略一致する。一方、本実施形態の撮像光学系は、変倍機能を有するズームレンズである。ただし、光学タイプによっては変倍操作を行うと、射出瞳の像面からの距離や大きさが変化する。図4に示される撮像光学系は、焦点距離が広角端と望遠端の中間、すなわちMiddleの状態を示している。これを標準的な射出瞳距離Zepと仮定して、オンチップマイクロレンズの形状や、像高(X、Y座標)に応じた偏心パラメータの最適設計がなされる。
図4(A)において、101は第1レンズ群、101bは第1レンズ群を保持する鏡筒部材、103は第3レンズ群、103bは第3レンズ群を保持する鏡筒部材である。102は絞りで、102aは絞り開放時の開口径を規定する開口板、102bは絞り込み時の開口径を調節するための絞り羽根である。なお、撮像光学系を通過する光束の制限部材として作用する鏡筒部材101b、開口板102a、絞り羽根102b、および、鏡筒部材103bは、像面から観察した場合の光学的な虚像を示している。また、絞り102の近傍における合成開口をレンズの射出瞳と定義し、前述したように像面からの距離をZepとする。
2110は、被写体像を光電変換するための画素である。画素2110は、像面中央近傍に配置された中央画素である。画素2110(中央画素)は、最下層より、光電変換部2110a、2110b、配線層2110e〜2110g、カラーフィルタ2110h、および、オンチップマイクロレンズ2110iの各部材で構成される。2つの光電変換部は2110a、2110bは、オンチップマイクロレンズ2110iによって撮像光学系の射出瞳面に投影される。換言すると、撮像光学系の射出瞳は、オンチップマイクロレンズ2110iを介して、光電変換部の表面に投影される。
図4(B)は、撮像光学系の射出瞳面上における、光電変換部の投影像を示している。光電変換部2110a、2110bに対する投影像はそれぞれ、EP1a、EP1bである。また本実施形態において、撮像素子14は、2つの光電変換部2110a、2110bのいずれか一方の出力信号と、両方の和の出力信号とを得ることが可能である。両方の和の出力信号は、撮像光学系の略全瞳領域である投影像EP1a、EP1bの両方の領域を通過した光束を光電変換して得られる信号である。投影像EP1aを第1の瞳領域と呼び、投影像EP1bを第2の瞳領域と呼ぶ。
図4(A)において、撮像光学系を通過する光束CLa、CLbの最外部をLで示すと、光束Lは、絞りの開口板102aで規制されており、投影像EP1a、EP1bは撮像光学系でケラレがほぼ発生していない。図4(B)において、図4(A)の光束LをTLとして示している。TLで示す円の内部に、光電変換部2110a、2110bの投影像EP1a、EP1bの大部分が含まれていることからも、ケラレがほぼ発生していないことがわかる。光束Lは、絞りの開口板102aでのみ制限されているため、TLは102aと言い換えることができる。この際、像面中央では各投影像EP1a、EP1bのケラレ状態は光軸に関して対称となり、光電変換部2110a、2110bが受光する光量は等しい。
以上のように、撮像素子14は、撮像機能だけではなく焦点検出機能も有する。また撮像素子14は、射出瞳を分割した光束を受光する焦点検出用画素を備えているため、位相差検出方式AFを行うことが可能である。
次に、図5を参照して、撮像素子14の焦点検出領域について説明する。図5は、焦点検出領域の説明図であり、撮影範囲400内における焦点検出領域401を示している。焦点検出領域401内(撮像面上(受光面上)の焦点検出センサ)で撮像素子14による位相差検出方式AFが行われる。焦点検出領域401内では、撮影範囲400内の水平方向のコントラスト差を用いて位相差検出を行う。焦点検出領域401内には、画素2110が、1行4N列配置されている。本実施形態では、焦点検出に用いる画素を1行4N列としているが、行数および列数はこれに限定されるものではない。行数および列数は、位相差を検出することが可能な範囲内で適宜設定すればよい。
次に、図6を参照して、焦点検出領域401内に配置されたAF信号対について説明する。図6は、焦点検出領域401内に配置されたAF信号対の説明図であり、焦点検出領域401内に配置された1行4N列の画素を示している。図6には、i行j列目のAF用A像の信号を作成するために用いられる画素をA(i,j)、同様にi行j列目のAF用B像の信号を作成するために用いられる画素をB(i,j)として示している。
本実施形態では、演算負荷の低減、出力信号のS/N改善、出力画像サイズに合わせることなどを目的として、2画素の出力信号を加算して用いる。i行目のk番目のAF用A像の信号、AF用B像の信号をそれぞれAs(i,k)、Bs(i,k)とすると、信号As_1(i,k)、Bs_1(i,k)は、以下の式(10)のように表される。
As_1(1,k)=A(1,2×(k−1)+1)+A(1,2×(k−1)+2)
Bs_1(1,k)=B(1,2×(k−1)+1)+B(1,2×(k−1)+2)
(1≦k≦2N) … (10)
第1の画素群の出力信号で構成される第1の像信号群であるAF用A像信号(第1信号)は、式(10)における信号列As_1である。第2の画素群の出力信号で構成される第2の像信号群であるAF用B像信号(第2信号)は、信号列Bs_1であり、A+B像信号(前画素信号)からA像信号(第1信号)を減算して生成される。また、同一の光学系で読出し回路を共有しているため、同一マイクロレンズ内のA像信号およびB像信号は互いにノイズ成分に負または正の相関関係が発生する。このため、式(10)における信号列As_1(m)、Bs_1(m)は、ノイズ成分に相関がある信号対となる。本実施例では、第1の画素群の出力信号で構成される第1の像信号群である信号列As_1と、第1の信号列に対して相関のあるノイズ成分を出力信号に含む第2の像信号群である信号列Bs_1とに基づいて相関量を演算する。
次に、図7を参照して、撮像装置10(カメラ100)の動作について説明する。図7は、撮像装置10の焦点調節動作を示すフローチャートである。図7の各ステップは、システム制御回路50に格納されたプログラムに基づいて、撮像装置10(カメラ100)の各部により実行される。なお、本フローチャートは、メインミラー130およびサブミラー131が撮影光束外へ退避し、撮像素子14による位相差検出方式AFを行う電子ファインダまたは動画撮影の際の焦点調節動作を示している。すなわち、電子ファインダのための表示や動画記録を行いつつ、焦点調節動作が並行して行われている。
まずステップS501において、システム制御回路50は、焦点検出が開始したか否かを判定(すなわち、SW1や操作部70などの操作により焦点検出開始指示ボタンがONされたか否かを検知)する。焦点検出開始指示釦がONされて焦点検出が開始した場合、ステップS502へ進む。一方、焦点検出が開始するまで、ステップS501を繰り返す。本実施形態では、焦点検出開始ボタンによる判定を行うが、電子ファインダ表示や動画記録に移行したことをトリガーとして焦点検出を開始してもよい。
続いてステップS502において、システム制御回路50は、撮影レンズ300のレンズ枠情報やフォーカスレンズ位置などの各種レンズ情報をインターフェース部38、338、コネクタ122、322を介して取得する。続いてステップS503において、システム制御回路50は、逐次読み出されている画像データから画像処理回路20の合成部と連結部により対の焦点検出用信号(AF信号)を生成する。本実施形態では、式(10)で表されるようなAF用A像、B像の信号が生成される。これらの信号は、AF部42へ送られ、光量補正などが行われる。またAF部42は、焦点検出の際に評価しようとする信号の周波数特性に合わせたデジタルフィルタ処理を行い、所望の周波数成分の抽出(空間周波数帯域の抽出処理)を行う。以後の相関演算は、デジタルフィルタ処理後のAF用A像信号、AF用B像信号を用いて行われる。
続いてステップS504において、AF部42(システム制御回路50)は公知の相関演算手法などを用いて対の焦点検出用信号のずれ量を算出し、デフォーカス量に換算する(デフォーカス量の算出)。この詳細については後述する。続いてステップS505において、システム制御回路50は、ステップS504にて算出した焦点検出結果に基づいて、撮影レンズ300のレンズ駆動量を算出する。続いてステップS506において、システム制御回路50は、インターフェース部38、338、コネクタ122、322を介して、ステップS505にて算出したレンズ駆動量を撮影レンズ300のフォーカス制御部342に送る。そしてシステム制御回路50およびフォーカス制御部342は、フォーカスレンズを駆動することにより、撮影レンズ300の焦点調節(レンズ駆動)を行う。
次に、図8を参照して、デフォーカス量の算出(図7のステップS504)について説明する。図8は、デフォーカス量の算出サブルーチンのフローチャートである。メインルーチン(図7)のステップS504から図8のサブルーチンに進むと、ステップS5041に進む。
ステップS5041において、システム制御回路50(AF部42)は、AF用A像信号As_1とAF用B像信号Bs_1を用いた相関演算を行う。相関演算に用いる相関量COR1(k)は、前述の式(1)により算出される。その後、AF用A像とAF用B像の信号の相関を最も示す場合、すなわち、相関量COR1が最小となる場合の値kを求める。ここで、値kは、整数で算出すると分解能が荒くなるため、適宜補間処理を行い、所謂サブピクセル演算を行う。本実施形態では、相関量COR1の差分を取り、差分量の符号が変化するシフト量dk1を算出(検出)する。相関量の差分DCOR1は、以下の式(11)のように算出される。
DCOR1(k)=COR1(k)−COR1(k−1) … (11)
システム制御回路50は、相関量COR1の差分量DCOR1を用いて、差分量の符号が変化するシフト量dk1を検出する。符号が変化する直前のkをk1、符号が変化した直後のkをk2(k2=k1+1)とすると、シフト量dk1は、以下の式(12)のように算出される。
dk1=k1+|DCOR1(k1)|/|DCOR1(k1)−DCOR1(k2)| … (12)
以上のように、システム制御回路50は、1ピクセル以下のAF用A像とAF用B像のシフト量dk1を算出し、ステップS5041の処理を終える。前述の位相差の算出方法としては種々の公知の方法があり、本実施形態において他の方法を用いても構わない。
続いてステップS5042において、システム制御回路50は、ノイズ量を算出する。前述のとおり、AF用A像とAF用B像とに相関のあるノイズが発生した場合、ステップS5041にて行うシフト量の算出精度が劣化する。これは、相関量COR1の極小値近傍の値に、相関のあるノイズの影響が発生するためである。そこでステップS5042では、ノイズ量に影響を与えるAF用信号にかけられるゲインやSN改善のための平均処理やフィルタ処理などを考慮し、2種のノイズ量の算出を行う。2種のノイズ量の一つは、AF用A像とAF用B像に相関がないノイズが発生する状況、すなわちシフト量が0近傍ではない場合に発生するノイズ量(無相関ノイズ量)である。他方のノイズ量は、シフト量が0近傍でAF用A像とAF用B像に相関がないノイズが発生する状況相関がある状況でのノイズ量(相関ノイズ量)である。相関ノイズ量は、負の相関のある場合と正の相関のある場合がある。各種のノイズ量の算出方法の詳細については後述する。
続いてステップS5043において、システム制御回路50は、ステップS5042にて算出された相関ノイズ量が所定量よりも小さいか否かを判定する(相関ノイズ量の大小の判定を行う)。相関ノイズ量が所定量よりも小さい場合、ノイズの多くは、無相関ノイズで構成されるということを示している。この場合、ステップS5044に進み、システム制御回路50(判定手段50d)は通常の信頼性判定を行う。ステップS5044では、信頼性判定として、相関量COR1の極小値の大きさと極小値近傍の相関量の差分DCOR1の大きさとを用いた判定を行う。
相関量COR1の極小値の大きさについては、極小値が小さければ小さいほど信頼性が高いと判定する。理想的には、相関量COR1の極小値は、AF用A像とAF用B像が完全に同一形状である場合に0となる。しかしながら、AF用A像とAF用B像は、被写体からの光の拡散特性や光量調整誤差や画素ごとに個別に生じるノイズの影響などの影響で、形状が異なる。このため、相関量COR1の極小値は、正の値となるのが一般的である。一方、AF用A像とAF用B像の形状が異なれば異なるほど、極小値の検出精度が劣化し、焦点検出精度が劣化する。例えば、信頼性判定の1つとして、閾値Thr1(基準としての判定閾値)よりも相関量COR1の極小値が小さければ、信頼性が高いと判定する。
またシステム制御回路50は、シフト量dk1近傍の相関量の差分DCOR1を用いた信頼性判定を行う。相関量の差分DCOR1は、大きければ大きいほど、シフト量dk1を高精度に算出することができる。これは、相関量が誤差によりばらついた場合でも、相関量の差分が大きければ、シフト量の検出に与える影響が小さいためである。このことから、閾値Thr2よりも相関量の差分DCOR1が大きい場合、信頼性が高いと判定することができる。前述の閾値Thr1や閾値Thr2は、無相関ノイズ量の大小により変更してもよい。
ステップS5043にて相関ノイズの量が所定量よりも大きいと判定された場合、ステップS5045に進む。ステップS5045において、システム制御回路50は、相関ノイズの相関の正負を判定する。相関ノイズが負の相関である場合、ステップS5046に進む。ステップS5046において、システム制御回路50は、負の相関ノイズを有する場合の信頼性判定(負の相関ノイズ用信頼性判定)を行う。具体的には、信頼性判定方法は、ステップS5044と同様であるが、閾値を変更する。ステップS5046において、負の相関を有する相関ノイズ量が発生する場合、システム制御回路50は、閾値Thr1を、無相関ノイズ量と相関ノイズ量との差に基づいて変更する。
無相関ノイズ量と相関ノイズ量は、図11(b)のNoise(S)とNoise(0)に相当し、その差は、突起の大きさに相当する。負の相関によるノイズ量が小さい場合でも、無相関ノイズ量が発生し、相関量COR1の極小値は、所定値以下にはなり得ない。このため、閾値Thr1としては、無相関ノイズ量を考慮して所定の値が設定される。負の相関によるノイズが発生する場合、相関量COR1の極小値は、より大きな値になる。このため、閾値Thr1としては、無相関ノイズ量に加えて負相関ノイズ量を加味してより大きな値が設定され、信頼性判定が行われる。また、相関量の差分DCOR1の信頼性判定については、ステップS5044と同様に閾値Thr2を用いて行う。相関ノイズの負の相関は、極小値の近傍のDCORを小さくする方向に働く。このため、ステップS5044にて用いる閾値と同じ値を設定すれば十分である。
ステップS5045にて相関ノイズの相関が正であると判定された場合、ステップS5047に進む。ステップS5047において、システム制御回路50は、ステップS5044と同様に、2つの信頼性判定を行う。正の相関を有する相関ノイズ量が大きい場合、相関量COR1の極小値が極めて小さくなる。このため、相関量COR1の極小値が十分に小さいか否かをステップS5044と同じ閾値Thr1を用いて判定するのに加えて、極小値が小さ過ぎないか否かを判定する。具体的には、システム制御回路50は、閾値Thr3(<Thr1)よりも相関量COR1の極小値が大きい場合、信頼性が高いと判定する信頼性判定も行う。閾値Thr3の値は、無相関ノイズ量に基づいて変更される。相関ノイズ量の大小により谷形状の大きさ(深さ)は変わるが、これによって閾値Thr3の値を変更する必要はない。正の相関によるノイズが発生する場合、相関量COR1の極小値は、無相関ノイズ量から想定される値より、小さい値が算出される。前述のシフト量の算出では極小値の位置を検出するため、相関ノイズはノイズ量の大小によらず、極小値の検出誤差は大きい。このため閾値Thr3は、無相関ノイズ量に基づいて設定される。
ステップS5047における信頼性判定として、システム制御回路50は、シフト量dk1近傍の相関量の差分DCOR1を用いた信頼性判定も行う。正の相関を有する相関ノイズ量が大きい場合、AF用信号が一様でコントラストが小さく、本来の信号成分で生成される極小値の近傍の相関量変化が小さい場合でも、大きな相関量変化が得られる。このため、精度よくシフト量を算出するには、相関ノイズ量により発生する相関量変化よりも十分に大きい相関量の変化が必要である。したがって、極小値近傍の相関量の差分DCOR1の大小を判定する閾値Thr2としては、相関ノイズ量が大きい場合、より大きな値が設定される。
ステップS5044、S5046、S5047にて以上の信頼性判定を、相関ノイズに応じた基準としての判定閾値(閾値Thr1、Thr2、Thr3)を用いて行い、ステップS5048に進む。ステップS5048において、システム制御回路50は、信頼性判定の結果として、信頼性が有るか否かを判定する。得られたシフト量dk1の信頼性が有ると判定された場合、ステップS5049に進む。ステップS5049において、システム制御回路50は、得られたシフト量dk1をデフォーカス量に変換する。デフォーカス量に変換する際に用いる変換係数は、焦点検出を行う検出領域の像高や撮影レンズの光学条件(F値や射出瞳位置、ビネッティング状況)などに応じて異なる。本実施形態では、システム制御回路50は、各種条件ごとに記憶されたテーブルから、用いる変換係数を取得する。
一方、ステップS5048にて信頼性が低いと判定された場合、ステップS5050に進む。ステップS5050において、システム制御回路50は、フォーカスレンズ駆動を行う際に、用いる検出結果がないため、被写体の距離分布などの統計データなどを用いてフォーカスレンズの駆動方向を決定する。一般的に、被写体は至近側に存在することが多いため、システム制御回路50は至近側にサーチ駆動を行うための設定を行う。ステップS5049またはステップS5050を終えると、本サブルーチンを終了し、図7のステップS505に進む。
次に、図9を参照して、ノイズ量の算出(図8のステップS5042)について説明する。図9は、ノイズ量の算出サブルーチンのフローチャートである。図9の各ステップは、主に、システム制御回路50(ノイズ算出手段50c)により行われる。図8のステップS5041から図9のサブルーチンに進むと、ステップS201に進む。
ステップS201において、システム制御回路50は、AF用A像信号とAF用B像信号に施されたゲイン処理に関する情報(ゲイン情報)を取得する。AF用A像信号とAF用B像信号に施されるゲイン処理としては、センサ内のゲイン処理やAD変換後に施されるゲイン処理、2つの信号の光量調整などを行うためのゲイン処理などが考えられる。施されるゲインにより、ノイズ量は増加する。信号のゲイン情報Gは、以下の式(13)のように算出される。
G=Gi×Go×Gab … (13)
式(13)において、Giはセンサ(撮像素子14)内で信号に対してかかるゲイン、Goはセンサ出力後の信号に対してかかるゲイン、GabはAF用A像信号とB像信号に施されるゲインを示している。AF用A像信号やAF用B像信号に施されるゲインは、光量調整を行うため、画素ごとに異なる。ゲインGabとしては、各画素に施されるゲインの平均値を代表値として用いればよい。
続いてステップS202において、システム制御回路50は、信号加算数を取得する。信号加算は、ノイズ量を減らす効果を有し、異なる行の信号間や異なるフレーム間の輝度信号の加算や相関量の加算などが考えられる。信号加算数Nsumは、以下の式(14)のように算出される。
Nsum=Npix+Nframe+Ncor … (14)
式(14)において、Npixは異なる行や列の画素から得られた信号の加算数、Nframeは異なるフレーム間の加算数、Ncorは相関量の加算数である。
続いてステップS203において、システム制御回路50は、AF用A像信号とAF用B像信号に施されたデジタルフィルタの設定を取得する。デジタルフィルタにより、図11(b)を参照して説明したノイズ量Noise(0)は、周辺のシフト量に拡散する。これは、対の画素同士のみ相関があったノイズが、デジタルフィルタにより周囲の画素にノイズが拡散するためである。デジタルフィルタのタップ数が2T+1の場合、式(1)の相関演算を行うと、シフト量が±Tの範囲で相関のあるノイズの影響が発生する。例えば、3タップのフィルタ[p,q,r](p+q+r=1)を施した場合、式(4)で表されるシフト量=0の際の相関量COR(0)は、以下の式(15)のように表される。
COR(0)=Σ|p×(A(i−1)−B(i−1))+q×(A(i)−B(i))+r×(A(i+1)−B(i+1))| …(15)
式(15)のノイズ部分は、2×(p×N[A(i−1)]+q×N[A(i)]+r×N[A(i+1)])−(p×N[A+B(i−1)]+q×N[A+B(i)]+r×N[A+B(i+1)])と表される。3画素のノイズであるN[A(i−1)]、N[A(i)]、N[A(i+1)]の間で相関がない場合、p、q、rによる重み付け加算により平均化処理が行われ、ノイズ量が低減する。デジタルフィルタによるノイズ低減効果Fは、以下の式(16)のように算出される。
式(16)により算出されるノイズ低減効果Fは、前述のゲインGと同様に扱うことができる。
同様に、シフト量=1の際の相関量COR(1)は、以下の式(17)のように表される。
COR(1)=Σ|p×(A(i−2)−B(i))+q×(A(i−1)−B(i+1))+r×(A(i)−B(i+2))| … (17)
式(17)では、シフト量が、A(i)とB(i)というノイズに相関のある信号を含んで計算される。具体的には、r×A(i)−p×B(i)のノイズ成分に相関が発生する。このように、デジタルフィルタ処理により、シフト量0の近傍に相関のあるノイズの影響が拡散する。ステップS203では、フィルタの設定を取得し、相関のあるノイズの影響範囲Tや、デジタルフィルタによるノイズ低減効果Fを算出する。
続いてステップS204において、システム制御回路50は、ノイズ量を算出する。ここでは、前述の2種のノイズ(無相関ノイズおよび相関ノイズ)のノイズ量を算出する。これらの2種のノイズについては、基準となるノイズ量が、撮像素子の出力信号の基礎特性として、設計値または測定値が撮像装置10のメモリなどの記憶手段に予め記憶されている。無相関ノイズの基準量Nn0、相関ノイズの基準量Np0、NNm0(Np0、Nm0は、正および負の相関をそれぞれ有する相関ノイズの基準量)とすると、無相関ノイズ量Nnおよび相関ノイズNcは、以下の式(18)、(19)のようにそれぞれ算出される。
無相関ノイズNnや負の相関を有する相関ノイズ(式(19)の後の項)は、主に受光量(信号量)によらないダークノイズ成分であるため、基準となる量に対して、前述のゲインや信号加算やフィルタの影響を加味して、ノイズ量を算出する。一方、正の相関を有する相関ノイズ(式(19)の前の項)は、画素ごとの感度の不均一性は、画素ごとの透過率のムラや、読み出し回路などで生じ、信号量が大きい場合に大きくなるノイズである。このため、AF用A像信号とAF用B像信号の輝度信号(デジタルフィルタ処理前)の平均値I(信号列の少なくとも一部の領域の積算値)を乗じて、ノイズ量を算出する。相関ノイズNcの符号は正の場合、正の相関を有する相関ノイズを有することを示す。一方、符号が負の場合、負の相関を有する相関ノイズを有することを示す。前述のノイズ量の算出の際には、相関ノイズNcの絶対値が用いられる。本実施形態において、無相関ノイズは、受光量などに影響を受けないオフセット成分として説明したが、無相関ノイズに関して、オフセット成分とゲイン成分を分けて考えてもよい。ステップS204にてノイズ量の算出を終えると、本サブルーチンを終了し、図8のステップS5043に進む。
これにより、1対のAF像信号間でノイズ成分に相関のある信号を出力する撮像装置において、低コントラストの被写体撮影や低輝度環境下で撮影する場合でも、ノイズの影響を適切に把握し、高精度な焦点検出結果のみを利用して焦点調節することが可能となる。なお本実施形態では、同一のマイクロレンズを共有する画素間で相関があるノイズが発生する場合を想定して説明したが、ノイズの発生源や性質についてはこれに限定されるものではない。例えば、フローティングディフュージョンや信号出力線やアンプ回路を共有する場合、カラーフィルタの領域間のムラなどがある場合など、A像信号とB像信号で相関のあるノイズが発生しうる。このような場合にも、適切にノイズ量を算出し、信頼性判定を行うことにより、本実施形態の効果を得ることができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態は、相関量COR1の極小値と対応するシフト量dk1の大きさに応じて信頼性判定(判定閾値)を異ならせる点で、第1の実施形態とは異なる。本実施形態における他の構成や動作は、第1の実施形態と同様であるため、それらの説明を省略する。
第1の実施形態では、シフト量dk1の大きさによらず、相関ノイズ量の大小によって信頼性判定の閾値を切り替えて、信頼性判定を行う。前述のとおり、相関ノイズの影響は、デジタルフィルタの影響により拡散はするが、シフト量が0近傍の範囲で発生する。このため、シフト量dk1の絶対値が十分に大きい場合、相関ノイズの影響は受けない。したがって本実施形態では、シフト量dk1の大きさに応じて信頼性判定を切り替える。これにより、不要な相関ノイズの大小による閾値の変更を行う必要がなく、演算負荷を低減することができる。また、信頼性判定を無用に厳しくすることなく、高精度の信頼性判定を実現することが可能となる。
図10を参照して、本実施形態における相関量の極小値を得たシフト量の大小による信頼性判定の切り替え方法(デフォーカス量の算出(図7のステップS504))について説明する。図10は、デフォーカス量の算出サブルーチンのフローチャートである。メインルーチン(図7)のステップS504から図10のサブルーチンに進むと、ステップS5041に進む。なお、図10において、図8と同一の処理については、同じステップ番号を付している。図10のフローチャートは、図8のステップS5043に代えて、ステップS5100が挿入されている点で、図8のフローチャートとは異なる。図10中の他のステップは、図8と同様である。
ステップS5100において、システム制御回路50は、相関ノイズの大きさとシフト量dk1の絶対値の大きさの判定を行う。相関のあるノイズ量の大小に応じて信頼性判定の閾値を変更する点は、第1の実施形態と同じである。本実施形態では、相関ノイズ量が所定量よりも小さいか、または、シフト量dk1の絶対値の大きさが所定値よりも大きい場合、ステップS5044に進み、通常の信頼性判定を行う。一方、相関ノイズが所定量よりも大きく、かつ、シフト量dk1の絶対値の大きさが所定値よりも小さい場合、相関ノイズの影響があると判定し、ステップS5045に進む。ステップS5044やステップS5045以降の処理は、第1の実施形態と同様である。
以上のように、本実施形態では、シフト量dk1が大きい場合、相関ノイズの影響はないと判定して信頼性判定を行う。これにより、適切な信頼性判定の閾値を設定することができ、高精度の信頼性判定を行うことができる。また、不要な相関ノイズによる閾値設定を行う必要がなく、演算負荷の低減が可能である。
このように各実施形態において、制御装置(システム制御回路50)は、取得手段50a、相関演算手段50b、ノイズ算出手段50c、および、判定手段50dを有する。取得手段50aは、撮像光学系(撮影レンズ300)の互いに異なる瞳領域を通過する光束に対応する第1信号(第1光電変換部からの出力信号)および第2信号(第2光電変換部からの出力信号)を取得する。相関演算手段50bは、第1信号と第2信号との相関量を演算する。ノイズ算出手段50cは、第1信号と第2信号との相関ノイズを算出する。判定手段50dは、相関ノイズに応じた基準を用いて相関量に関する信頼性を判定する。好ましくは、第1信号は、第1光電変換部の出力信号に対応し、第2信号は、第1光電変換部および第2光電変換部の出力信号から第1光電変換部の出力信号を減算して得られた信号に対応する。
好ましくは、判定手段50dは、前記基準として、相関ノイズに応じた判定閾値(閾値Thr1、Thr2、Thr3)を設定し、相関量に関する情報(相関量の極小値など)と判定閾値とを比較して信頼性を判定する。また好ましくは、相関ノイズは、第1信号と第2信号との間に正の相関および負の相関があるノイズである。また好ましくは、相関演算手段50bは、第1信号と第2信号とをシフトしながらシフト量ごとの相関量を算出して、最も相関の高いシフト量を算出する。そして判定手段50dは、相関量に関する信頼性として、最も相関の高いシフト量の信頼性を判定する。
好ましくは、判定手段50dは、第1信号および第2信号に対するゲイン処理に応じて判定閾値を変更する(ステップS201、式(13))。また好ましくは、判定手段50dは、第1信号と第2信号、または、相関量に対する信号加算処理(ステップS202、式(14))に応じて判定閾値を変更する。また好ましくは、判定手段50dは、第1信号および第2信号に対する空間周波数帯域の抽出処理(ステップS203、式(15)〜(17))に応じて判定閾値を変更する。また好ましくは、判定手段50dは、第1信号と第2信号との少なくとも一方の少なくとも一部の領域の積算値に応じて判定閾値を変更する。また好ましくは、判定手段50dは、最も相関の高いシフト量に応じて判定閾値を変更する。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施形態の撮像装置によれば、低コントラストの被写体撮影や低輝度環境下で撮影する場合でも、ノイズの影響を適切に把握することが可能である。このため各実施形態によれば、高精度な焦点検出を行うことが可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。