以下、この発明の実施の形態について図を参照して説明するが、この発明は以下の実施の形態に限定されない。また、この発明の実施の形態は発明の最も好ましい形態を示すものであり、発明の範囲を限定するものではない。
図1は、本発明に係る撮像装置1の構成図で、固体撮像装置(撮像手段)である撮像素子を有したカメラ本体と撮影レンズが一体となったデジタルカメラを示している。同図において、第1レンズ群101は撮像光学系(結像光学系)の先端に配置されたレンズ群であり、光軸方向に進退可能に保持される。シャッタ102は絞り兼用シャッタであり、その開口径を調節することで撮影時の光量調節を行うほか、静止画撮影時には露光秒時調節用シャッタとしての機能も備える。第2レンズ群103は第1レンズ群101に次ぐレンズ群である。シャッタ102及び第2レンズ群103は、一体となって光軸方向に進退し、第1レンズ群101の進退動作との連動により、変倍作用(ズーム機能)をなす。
第3レンズ群105は、第2レンズ群103に次ぐレンズ群であり、光軸方向の進退により焦点調節を行う。ローパスフィルタ106は、撮影画像の偽色やモアレを軽減するための光学素子である。撮像素子107は、結像光学系により結像された被写体像を取得するための複数の光電変換素子(画素)が配列されたC−MOSイメージセンサとその周辺回路で構成された撮像素子である。撮像素子107としては、横方向m画素、縦方向n画素の受光ピクセル(光電変換素子)上に、ベイヤー配列の原色カラーモザイクフィルタがオンチップで形成された、2次元単板カラーセンサが用いられる。なお、撮像素子107の詳細については後述する。
ズームアクチュエータ111は、不図示のカム筒を回動することで、ズームアクチュエータ111ないし第2レンズ群103を光軸方向に進退駆動し、変倍操作を行う。絞りシャッタアクチュエータ112は、シャッタ102の開口径を制御して撮影光量を調節すると共に、静止画撮影時の露光時間制御を行う。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。
電子フラッシュ115は、撮影時の被写体照明用であり、キセノン管を用いた閃光照明装置が好適だが、連続発光するLEDを備えた照明装置を用いても良い。AF補助光部116は、所定の開口パターンを有したマスクの像を、投光レンズを介して被写界に投影し、暗い被写体あるいは低コントラスト被写体に対する焦点検出能力を向上させる。
CPU121(Central Processing Unit)は、カメラ本体の種々の制御を司る。具体的には、CPU121は、演算部、ROM(Read Only Memory)、RAM(Random Access Memory)、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有している。CPU121は、ROMに記憶された所定のプログラムに基づいて、カメラが有する各種回路に制御信号を出力して各部を駆動可能とし、AF(オートフォーカス)、撮影、画像処理と記録等の一連の動作を実行する。
電子フラッシュ制御回路122は、撮影動作に同期して電子フラッシュ115を点灯制御する。補助光回路123は、焦点検出動作に同期してAF補助光部116を点灯制御する。撮像素子駆動回路124は、撮像素子107の撮像動作を制御するとともに、取得した画像信号をA/D変換してCPU121に送信する。画像処理回路125は、撮像素子107が取得した画像データに対してγ変換、カラー補間、ローパスフィルタ処理(詳細は後述する)、JPEG圧縮等の画像処理を行う。
フォーカス駆動回路126は、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。絞りシャッタ駆動回路128は、絞りシャッタアクチュエータ112を駆動制御してシャッタ102の開口を制御する。ズーム駆動回路129は、ユーザの操作スイッチ132などを介したズーム操作に応じてズームアクチュエータ111を駆動する。
表示器131はLCD等であり、カメラの撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態表示画像等を表示する。操作スイッチ132は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、デジタルズームの操作スイッチ、撮影モード選択スイッチ等のスイッチ群で構成される。操作スイッチ132におけるレリーズスイッチは、焦点調整の開始指示をユーザから受け付ける操作手段である。また、操作スイッチ132におけるデジタルズームの操作スイッチは、動画像の撮像時などにユーザから拡大又は縮小指示を受け付ける指示手段である。フラッシュメモリ133は、特に図示しないインターフェイスを介して本体に着脱可能であり、撮影済みの画像データなどを記録する。
図2は、本発明に係る撮像素子107のブロック図である。なお、図2のブロック図では、後述の読み出し動作を説明するのに必要な構成を示しており、画素リセット信号などについては省略している。光電変換部201は、撮像素子107において被写体像が結像する撮像面に2次元的に配列されており、被写体像を光電変換するためのフォトダイオード(光電変換素子)を含む構成である。以下、フォトダイオードはPDと略す。なお、PDmnにおける添え字のmは、X方向アドレスを示し、m=0、1・・・m−1、添え字のnは、Y方向アドレスを示し、n=0、1・・・n−1である。また、光電変換部201は、上述したPDmnの他、画素アンプ、リセット用のスイッチなどで構成されている。
同図に示すように、撮像素子107は、m×nの光電変換部(光電変換素子(画素))が2次元上に配置されている。なお、符号は、煩雑になるので、左上の光電変換部のPD00のみに付記した。また、光電変換部に付記されたR(赤色)、G(緑色)、B(青色)は、カラーフィルタを示している。このカラーフィルタは、いわゆるベイヤー配列になるように配置されている。
スイッチ202は、光電変換部のPDmnの出力を選択する。スイッチ202は、後述の垂直走査回路213により、一行ごとに選択される。定電流源203は、光電変換部の画素アンプ(不図示)の負荷となる電流源であり、各垂直出力線に配置される。
ラインメモリ204は、光電変換部のPDmn出力信号を一時的に記憶する。具体的には、ラインメモリ204は、垂直走査回路213により選択された、一行分の光電変換部の出力信号を記憶するものである。通常は、ラインメモリ204にはコンデンサが使用される。
スイッチ205、206は、垂直出力線をショートするスイッチである。スイッチ205、206は、後述の加算読み出し時に、水平方向の画素の加算を行うために使用される。撮像素子107では、205、206を使って、R画素、奇数行のG画素をそれぞれ加算することができる。また、図より明らかなように、スイッチ205、206は3画素の加算を行う。
スイッチ207、208は、スイッチ205、206と同様に垂直出力線をショートするスイッチであり、水平方向の画素の加算に使用される。スイッチ207、208は、加算読み出し時に使用され、B画素、偶数行のG画素の3画素を加算出力する。また、画素加算では、図より明らかなように、ラインメモリ204に使用されるコンデンサを並列に接続するため、スイッチをショートすることにより3画素の加算平均出力を取得している。スイッチ205〜208の各スイッチは、信号端子ADDにHレベルを出力することにより導通する。なお、6行目以降のスイッチの接続については、スイッチ205〜208と同様であるため省略するが、3画素ごとに同色加算が行えるようにスイッチが配置されている。
スイッチ209は、ラインメモリ204に記憶された光電変換部におけるPDmnの出力信号を水平出力線に順次出力するためのスイッチである。撮像素子107では、後述する水平走査回路211によりH0からHm−1のスイッチ209を順次走査することで一行分の光電変換の出力信号が読み出される。スイッチ210は、水平出力線に接続されて、水平出力線を所定の電位VHRTにリセットするためのスイッチであり、信号HRSTにより制御される。
水平走査回路211は、ラインメモリ204に記憶された光電変換部の出力信号を順次操作して、水平出力線に出力させる。水平走査回路211において、信号PHSTはデータ入力、PH1、PH2はシフトクロック入力であり、PH1=Hでデータがセットされ、PH2でデータがラッチされる構成となっている。水平走査回路211では、PH1、PH2にシフトクロックを入力することにより、PHSTを順次シフトさせて、H0からHm−1のスイッチを順次オンさせることができる。水平走査回路211において、SKIPは、後述の間引き読み出し時に設定を行わせる制御端子入力である。SKIP端子をHレベルに設定することにより、水平走査回路211では、撮像素子107の水平読み出しを所定間隔でスキップさせることが可能になる。なお、撮像素子107の読み出し動作に関する詳細は後述する。
増幅部212は、水平出力線から順次出力される画素信号のバッファーアンプである。
垂直走査回路213は、順次走査してV0からVn−1を出力することにより、光電変換部におけるPDmnのスイッチ202を選択することができる。増幅部212の制御は、水平走査回路と同様に、データ入力のPVST、シフトクロック入力のPV1、PV2、間引き読み設定入力のSKIPにより行われる(特に図示しない)。垂直走査回路213の動作に関しては、水平走査回路211と同様であるので詳細説明は省略する。
図3は、撮像素子107の全画素からの読み出しを説明する図である。図3(a)は、m×nの光電変換部の配置を例示した概念図である。同図に付記されたR、G、Bの記号は、光電変換部に塗布されたカラーフィルタをあらわしている。撮像素子107は、2行×2列の4つの光電変換部(画素)のうち、対角2画素にG(緑色)の分光感度を有する画素を配置し、他の2画素にR(赤色)とB(青色)の分光感度を有する画素を各1個配置した、ベイヤー配列である。図中の上および左側に付記された番号は、前述したXおよびYの番号である。また、斜線部分は読み出し対象の画素を示す(全画素読み出しなのですべての画素に斜線がひかれている)。撮像素子107では、通常、黒レベルを検出する遮光されたOB(オプティカルブラック)画素なども配置され、OB画素も読み出されるが、本実施例では説明が煩雑になるため省略する。
図3(b)は、撮像素子107の全画素読み出しを示すタイミングチャートである。撮像素子107における画素の読み出しは、CPU121が撮像素子駆動回路124を制御することで撮像素子107に同図に示すパルス信号を送信して行われる。以下では、図3(b)を参照して全画素読み出し時の撮像素子107の動作を説明する。
まず、垂直走査回路213を駆動して、V0をアクティブにする。このとき、0行目の画素の信号が、垂直出力線にそれぞれ出力される。この状態で、ラインメモリ204におけるMEM信号をアクティブにして、各画素のデータをラインメモリ204でサンプルホールドする。次に、PHST信号をアクティブして、PH1、PH2のシフトクロックを入力し、順次H0からHm−1をアクティブにすることで、水平出力線に画素信号を出力させる。出力された画素信号は、増幅部212を介して、VOUTとして出力される。出力されたVOUTは、図示しないAD変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が施される。
次に、垂直走査回路213は、V1をアクティブにする。このとき、1行目の画素信号が、垂直出力線にそれぞれ出力される。以降は0行目と同様であり、MEM信号をアクティブにして、ラインメモリ204に画素信号が一旦メモリされる。次に、PHST信号をアクティブして、PH1、PH2のシフトクロックを入力することで、順次H0からHm−1をアクティブにして、水平出力線に画素信号を出力する。
以上のようにして、n−1行目までの読み出しを順次行う。0行目からn−1行目までの読み出し時にはADD信号およびSKIP信号がLレベルとなっている。従って、撮像素子107では、0行目からn−1行目までの読み出しにより全画素が読み出されることとなる。
なお、上述した0〜n−1までの行指定や0〜m−1までの列指定を適宜行う場合は、指定された一矩形領域に含まれる全画素を読み出すことが可能となる。例えば、0〜n−1までの範囲でi〜i+kの行と、0〜m−1までの範囲でj〜j+kの列が指定された場合は、(i,j)から開始されて一辺の長さがkの正方形状の矩形領域に含まれる全画素を読み出すことが可能となる。
次に、撮像素子107における間引き読み出し(第2のモード)について説明する。図4は、m×nの光電変換部の配置を例示した概念図であり、撮像素子107の間引き読み出しの一例を説明する図である。図4において、斜線部は読み出し対象の画素を示す。同図に示すように、本実施形態では、X、Yともに1/3(X=2、5…、Y=0、3…)の間引き読み出しとしている。
図5(a)は、撮像素子107の間引き読み出しを示すタイミングチャートである。図5(b)は、撮像素子107の加算読み出しを示すタイミングチャートである。間引き読み出しの設定は、水平走査回路211や垂直走査回路213のシフトレジスタの制御端子、SKIP端子を、アクティブにすることで行う。SKIP端子をアクティブにすることで、水平走査回路211、垂直走査回路213は、1画素ごとの順次走査から3画素ごとの順次走査に動作が変更される。3画素ごとに順次走査を行う具体的方法に関しては、既に公知の技術なので詳細は省略する。このとき信号ADDをLレベルに設定すれば、撮像素子107では、加算なしの単純間引き出力が得られる。また、ADD信号をHレベルにして水平走査回路211を駆動すれば、撮像素子107では画素加算した画素信号が得られることとなる。
図5(a)を参照して間引き読み出し時の撮像素子107の動作を説明する。間引き時の動作は、まず、垂直走査回路213を駆動して、V0をアクティブにする。このとき、0行目の画素の信号が、垂直出力線にそれぞれ出力される。この状態で、ラインメモリ204におけるMEM信号をアクティブにして、各画素のデータをラインメモリ204でサンプルホールドする。次に、PHST信号をアクティブして、PH1、PH2のシフトクロックを入力する。このとき、SKIP端子をアクティブ設定にすることで、シフトレジスタの経路が変更され、水平走査回路211は順次H2、H5、H8・・・がアクティブになるように制御される。また、ADD端子には、Lレベルを出力し、画素加算が行われない設定にしておく。このように設定することで、PD20、PD50、PD80・・・・のように、3画素ごとに水平出力線に画素信号が出力される。出力された画素信号は、増幅部212を介してVOUTとして出力される。出力されたVOUTは、図示しないAD変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が施される。
次に、垂直走査回路213は、水平走査回路211と同様に、V1、V2をスキップさせて、V3をアクティブにして、3行目の画素信号を垂直出力線に出力させる。その後、MEM信号がアクティブにされることで、ラインメモリ204に画素信号が一旦メモリされる。次に、PHST信号をアクティブして、PH1、PH2のシフトクロックを入力し、順次H2、H5、H8・・・をアクティブにして、水平出力線に画素信号を出力する動作は、前述したとおりである。
以上のようにして、撮像素子107では、間引き読み出し時において、V6、V9・・・・のように3行ごとに垂直走査を順次行いながら読み出しを行う。従って、撮像素子107では、水平、垂直ともに1/3の間引き読み出しが行われることとなる。以上のように、上述した水平走査回路211及び垂直走査回路213は、第2のモードでの読み出しを行う読出手段であり、撮像素子107の撮像面に2次元的に配列された光電変換部201から一部の素子の信号を選択して読み出す。
次に、図5(b)を参照して加算読み出し時(第1のモード)の撮像素子107の動作を説明する。加算読み出し時の動作は、まず、垂直走査回路213を駆動して、V0をアクティブにする。このとき、0行目の画素の信号が、垂直出力線にそれぞれ出力される。この状態で、ラインメモリ204におけるMEM信号をアクティブにして、各画素のデータをラインメモリ204でサンプルホールドする。次に、PHST信号をアクティブして、PH1、PH2のシフトクロックを入力する。このとき、SKIP端子をアクティブ設定にすることで、シフトレジスタの経路が変更され、順次H2、H5、H8・・・がアクティブになるように制御される。また、ADD端子には、Hレベルを出力し、画素加算を行う設定にしておく。このように設定することで、スイッチ205〜208のスイッチが導通し、画素加算が行われる。即ち、H2がアクティブになることにより、PD00、PD20、PD40の加算平均出力が、水平出力線に出力される。同様に、H5アクティブのときには、PD30、PD50、PD70の加算平均出力が、水平出力線に出力される。以下、同様に、3画素ごとに加算平均されて水平出力線に画素出力が出力される。
出力された画素信号は、増幅部212を介してVOUTとして出力される。出力されたVOUTは、図示しないAD変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が行われる。
次に、垂直走査回路213は、水平走査回路211と同様に、V1、V2をスキップさせて、V3をアクティブにして、3行目の画素信号を垂直出力線に出力させる。その後、MEM信号がアクティブにされることで、ラインメモリ204に画素信号が一旦メモリさせる。次に、PHST信号をアクティブにして、PH1、PH2のシフトクロックを入力し、順次H2、H5、H8・・・をアクティブにして、水平出力線に画素信号を出力する動作は、前述したとおりである。
以上のようにして、撮像素子107では、加算読み出し時において、V6、V9・・・・のように3行ごとに垂直走査を順次行いながら読み出しを行う。従って、水平走査回路211及び垂直走査回路213は第1のモードでの読み出しを行う読出手段であり、撮像素子107では、水平、垂直ともに1/3の加算間引き読み出しが行われることとなる。
図6(a)は、GR行の加算間引き読み出しを例示する概念図であり、図6(b)は、GB行の加算間引き読み出しを例示する概念図である。例えば、図6(a)に示すように、V0がアクティブであり、GR行である0行目が読み出された場合は、R、Gの加算平均が出力されることとなる。具体的には、H2がアクティブとなった際には、PD00、PD20、PD40のRに関する加算平均が出力される。同様に、H5がアクティブとなった際には、PD30、PD50、PD70のGに関する加算平均が出力される。
また、図6(b)に示すように、V3がアクティブであり、GB行である3行目が読み出された場合は、G、Bの加算平均が出力されることとなる。具体的には、具体的には、H2がアクティブとなった際には、PD03、PD23、PD43のGに関する加算平均が出力される。同様に、H5がアクティブとなった際には、PD33、PD53、PD73のBに関する加算平均が出力される。
次に、撮像素子107における撮像用画素と位相差検出に用いられる焦点検出用画素(位相差検出用素子)の構造について説明する。図7は撮像用画素の構造を説明するための図であり、図7(a)は、2×2の4画素の配置を例示する平面外観図であり、図7(b)は、A−A方向における断面図である。図8は焦点検出用画素の構造を説明するための図であり、図8(a)は、焦点検出用画素を含む2×2の4画素の配置を例示する平面外観図であり、図8(b)は、A’−A’方向における断面図である。
図7(a)に示すように、本実施形態では、2×2の4画素のうち、対角2画素にG(緑色)の分光感度を有する画素を配置し、他の2画素にR(赤色)とB(青色)の分校感度を有する画素を各1個配置した、ベイヤー配列が採用されている。そして、このベイヤー配列の間において、図8(a)に例示する焦点検出用画素が所定の規則にて分散配置されている(詳細は後述する)。
先ず、撮像用画素の構成について説明する。図7(a)に示すように、撮像用画素は、ベイヤー配列に従って、対角方向にG画素が、他の2画素にRとBの画素が配列される。そして、撮像素子107において被写体像が結像される撮像面では、上述した2行×2列の構造が繰り返し配置されている。
図7(b)に示すように、各PDの最前面には、オンチップマイクロレンズMLが配置されており、その後段にはカラーフィルタCFが配置されている。なお、カラーフィルタCFに付された添え字(R、G)は、カラーフィルタの色(R:赤色、G:緑色)を示す。配線層CLは、C−MOSイメージセンサ内の各種信号を伝達する信号線が形成された層である。撮影光学系TLは、前述したレンズ群を1枚のレンズとして模式的に示したものである。
ここで、撮像用画素のオンチップマイクロレンズMLとPDは、撮影光学系TLを通過した光束を可能な限り有効に取り込むように構成されている。換言すると、撮影光学系TLの射出瞳EPとPDは、オンチップマイクロレンズMLにより共役関係にあり、且つ、PDの有効面積は大面積に設計される。また、図7(b)では、R画素の入射光束について例示しているが、G画素及びB画素も同一の構成となっている。従って、撮像用のRGB各画素に対応した射出瞳EPは大径となり、被写体からの光束を効率よく取り込んで画像信号におけるS/N比を向上させている。
次に、焦点検出用画素の構成について説明する。撮像信号を得る場合、G画素は輝度情報の主成分をなす。そして、人間の画像認識特性は輝度情報に敏感である。従って、G画素が欠損すると画質劣化が認められやすくなる。一方で、R画素もしくはB画素は赤色又は青色情報を取得する画素であるが、人間は色情報には鈍感である。従って、R画素もしくはB画素などの色情報を取得する画素は、多少の欠損が生じたとしても画質劣化が認められにくい。そこで、本実施形態では、図8(a)に示すように、ベイヤー配列における2行×2列の4画素のうち、G画素は撮像用画素として残し、R、B画素を焦点検出用画素SA、SBとしている。
図8(b)に示すように、焦点検出用画素SA、SBにおけるオンチップマイクロレンズML、PDは図7(b)に例示した撮像用画素と同一構成である。焦点検出用画素SA、SBにおいては、その出力信号は画像創生には用いないため、前述したカラーフィルタCFの代わりに透明膜CFw(White)が配置される。また、撮像素子107で瞳分割を行うため、配線層CLの開口部OPHA、OPHBはオンチップマイクロレンズMLの中心線に対して一方に偏倚している。具体的には、焦点検出用画素SAにおいて、開口部OPHAは右側に偏倚している。従って、焦点検出用画素SAでは、撮影光学系TLの左側の射出瞳EPHAを通過した光束を受光することとなる。また、焦点検出用画素SBにおいて、開口部OPHBは左側に偏倚している。従って、焦点検出用画素SBでは、撮影光学系TLの右側の射出瞳EPHBを通過した光束を受光することとなる。
よって、撮像素子107においては、焦点検出用画素SAを水平方向(X方向)に規則的に配列し、これらの画素群で取得した被写体像を甲像とする。また、焦点検出用画素SBも水平方向に規則的に配列し、これらの画素群で取得した被写体像を乙像とすると、甲像と乙像の相対位置を検出することで、被写体像のピントずれ(デフォーカス量)が検出できる。なお、焦点検出用画素SA、SBは、少なくとも一組あれば被写体像のピントずれを検出することができるが、撮像面において複数組配置されていることが好ましい。また、垂直方向(Y方向)のピントずれを検出したい場合には、焦点検出用画素SAの開口部OPHAを上側に、焦点検出用画素SBの開口部OPHBを下側に偏倚させ、各焦点検出用画素を垂直方向に規則的に配列させればよい。また、図示しないが、垂直方向のピントずれ量を検出したい場合には、焦点検出用画素SA、SBを90度回転させて偏倚させればよい。
次に、撮像素子107における撮像用画素と焦点検出用画素の配置について説明する。図9(a)は、間引き読み出しにより読み出される画素を示す概念図であり、X(水平)方向及びY(垂直)方向ともに1/3になるように間引きされている。同図において、焦点検出用画素SA、SBの他、Gは緑フィルターを塗布された画素、Rは赤フィルターを塗布された画素、Bは青フィルターを塗布された画素である。また、図中において符号が付された画素は間引き読み出し時において読み出される画素であり、符号が付されていない白抜き画素は間引き読み出し時に読み出されない画素(間引かれた画素)である。
また、図9(a)における焦点検出用画素SAは、画素部の開口を水平(X)方向に偏倚させて形成されたX方向の焦点検出用の画素である。焦点検出用画素SAによる画素群は、後述の焦点検出用画素SBによる画素群との水平方向の像ずれ量を検出するための基準画素群である。また、図8(a)における焦点検出用画素SBは、画素の開口を焦点検出用画素SAとは逆方向に偏倚させて形成された焦点検出用の画素である。焦点検出用画素SBによる画素群は、水平方向の像ずれ量を検出するための前述した基準画素群に対する参照画素群である。なお、図中の焦点検出用画素SA、SBにおける斜線部は、偏倚した開口部を示している。
図9(a)に示したように、撮像素子107において、水平方向の焦点検出用画素SA、SBは、水平走査回路211、垂直走査回路213によって間引き読み出しされる複数の画素に含まれている。また、撮像素子107の撮像面における焦点検出用画素SA、SBの配置については、焦点検出用画素群が撮像用に使用できないことを考慮して、X、Y方向にある程度の間隔をおいた離散的なものである。なお、間引した撮像画像の画質向上の観点からすると、焦点検出用画素SA、SBは、撮像素子107の撮像面において可能な限り均一に分散配置されることが望ましい。なお、前述したとおり、画像の劣化が目立たないようにG画素部分には配置されないことが望ましい。
本実施形態では、図9(a)の太い黒枠で示された4×4画素(間引き前の画素配置では12×12画素)のブロック内に焦点検出用画素SA、SBの1組を配置するようにしている。なお、BLOC_H(i,j)は、上述した4×4画素のブロック名をあらわしている。また、ブロックは、4×4(BLOCK_H(0,0)〜BLOCK_H(3,3))で完結するように構成されている。
また、本実施形態における焦点検出用画素の配置規則に関して、X方向が同一ブロックで、Y方向が一つ異なるブロックでは、焦点検出用画素SA、SBの画素配置をX方向に1画素(間引き前の画素では3画素)シフトさせている。具体的には、図9(a)のBLOCK_H(0,0)〜BLOCK_H(0,3)において矢印で示したとおりである。これは、離散的に配置された焦点検出用画素SA、SBによる画素群の焦点検出方向に係るサンプリング特性を改善させるためである。すなわち、焦点検出用画素SA、SBはX(水平)方向に瞳分割された画素群であるため、間引き後のY方向1ブロックあたりのX方向のシフト量が1画素単位となり、X方向におけるサンプリングが密となるような配置規則となっている。
図9(b)は、ブロック間における焦点検出用画素の配置規則を示す図である。図中の太枠で示された部分が、BLOCK_H(0,0)〜BLOCK_H(3,3)の各ブロックを示している。また、焦点検出用画素SA、SBの配置が同じブロックのX方向へのシフト規則は矢印で示している。図9(b)に例示したように、X方向が異なるブロックでは、Y方向にブロック単位で焦点検出用画素SA、SBの配置が同じブロックがシフトしている。従って、4×4ブロックで一巡する構成となっており、撮像素子107の撮像面への拡張は、4×4ブロック単位で、任意の位置に適宜配置すればよい。
垂直(Y)方向の焦点検出用画素を配置する場合については、図10に示したように図9を90度回転させた配置と同様である。具体的には、図9(a)と同様、図10(a)は、間引き読み出しにより読み出される画素を示す概念図であり、X(水平)方向及びY(垂直)方向ともに1/3になるように間引きされている。また、図10(a)において、符号が付された画素は間引き読み出し時において読み出される画素であり、符号が付されていない白抜き画素は間引き読み出し時に読み出されない画素(間引かれた画素)である。
図10(a)における焦点検出用画素SAは、画素部の開口を垂直(Y)方向に偏倚させて形成されたY方向の焦点検出用の画素である。焦点検出用画素SAによる画素群は、後述の焦点検出用画素SBによる画素群との垂直方向の像ずれ量を検出するための基準画素群である。また、図10(a)における焦点検出用画素SBは、画素の開口を焦点検出用画素SAとは逆方向に偏倚させて形成された焦点検出用の画素である。焦点検出用画素SBによる画素群は、垂直方向の像ずれ量を検出するための前述した基準画素群に対する参照画素群である。なお、図中の焦点検出用画素SA、SBにおける斜線部は、偏倚した開口部を示している。
前述した水平方向の場合と同様、図10(a)に例示したように、撮像素子107において、垂直方向の焦点検出用画素SA、SBは、水平走査回路211、垂直走査回路213によって間引き読み出しされる複数の画素に含まれている。また、撮像素子107の撮像面における焦点検出用画素SA、SBの配置については、X、Y方向にある程度の間隔をおいた離散的なものであり、G画素部分には配置されないことが望ましい。
本実施形態では、図10(a)の太い黒枠で示された4×4画素(間引き前の画素配置では12×12画素)のブロック内に焦点検出用画素SA、SBの1組を配置するようにしている。なお、BLOCK_V(i,j)は、上述した4×4画素のブロック名をあらわしている。また、ブロックは、4×4(BLOCK_V(0,0)〜BLOCK_H(3,3))で完結するように構成されている。
また、本実施形態における焦点検出用画素の配置規則に関して、Y方向が同一ブロックで、X方向が一つ異なるブロックでは、焦点検出用画素SA、SBの画素配置をY方向に1画素(間引き前の画素では3画素)シフトさせている。具体的には、図10(a)のBLOCK_V(0,0)〜BLOCK_H(3,0)において矢印で示したとおりである。これは、離散的に配置された焦点検出用画素SA、SBによる画素群の焦点検出方向に係るサンプリング特性を改善させるためである。すなわち、焦点検出用画素SA、SBはY(水平)方向に瞳分割された画素群であるため、間引き後のX方向1ブロックあたりのY方向のシフト量が1画素単位となり、Y方向におけるサンプリングが密となるような配置規則となっている。
なお、ブロック間における垂直方向の検出に係る焦点検出用画素の配置規則は、図10(b)に示すように、瞳分割の方向(Y方向)にあわせて、図9(b)の配置規則を90度回転させたものと同様である。
なお、前述した図9、10におけるBLOCK_H(i,j)及びBLOCK_V(i,j)を市松状に入れ子配置した場合は、水平又は垂直方向の像ずれ量の検出を同一の撮像面で行うことが可能である。具体的には、図11(a)に示すように、BLOCK_C(i,j)は、BLOCK_H(i,j)及びBLOCK_V(i,j)を市松状に入れ子配置したものであってよい。なお、図9、10の各4×4ブロックを用いて入れ子配置を構成した場合、8×8ブロックで1つのパターンが完結することになるが、図面が煩雑になるので、図11(a)では4×4ブロックのみを記載している。
図11(b)は、ブロックの配置規則を示す概念図であり、BLOCK_C(0,0)〜BLOCK_C(3,3)に対応するBLOCK_H(i,j)とBLOCK_V(i,j)を記載している。同図からも明らかなように、BLOCK_H(i,j)とBLOCK_V(i,j)とは、市松状に入れ子配置されている。
次に、電子ビューファインダーにおける拡大表示や動画撮影時のデジタルズームなどを実現するため、撮像素子107の撮像面の一部を切り出して読み出す(第3のモード)際の切り出し領域における焦点検出用画素の配置について説明する。このデジタルズームなどを実現するための切り出し領域は、例えば、撮像面において被写体像が結像する位置を中心とし、デジタルズームの倍率に応じた面積で読み出される矩形領域である。この切り出し領域では、撮像面において一様に間引いて読み出す前述した間引き読み出しと異なり、全画素が読み出される。従って、切り出し領域には、間引き読み出し時に読み出されない画素にも焦点検出用画素SA、SBが配置されている。このため、デジタルズーム時における焦点検出精度の向上を図ることが可能となっている。なお、この切り出し読み出しは、読出手段としての水平走査回路211及び垂直走査回路213が切り出し領域の画素を選択して読み出すことで行われる。
図12(a)は、図9(a)と同様に、切り出し領域における撮像用画素及び焦点検出用画素(水平(X)方向)の配置を示した図である。図12(a)では、図9(a)に示した間引き読み出しにより読み出される画素と焦点検出用画素SA、SBが示されている。すなわち、図12(a)において、間引き読み出しにより読み出される画素は、X(水平)方向及びY(垂直)方向ともに1/3になるように間引きされた画素である。同図において、焦点検出用画素SA、SBの他、Gは緑フィルターを塗布された画素、Rは赤フィルターを塗布された画素、Bは青フィルターを塗布された画素である。また、図中においてX方向及びY方向とも1/3の周期で符号が付された画素は間引き読み出し時において読み出される画素であり、符号が付されていない白抜き画素は間引き読み出し時に読み出されない画素(間引かれた画素)である。また、図中のBLOCK_H(0,0)〜BLOCK_H(0,3)における白抜き矢印は、間引き読み出しされる画素以外の焦点検出用画素SA、SBを示している。
図12(a)に示すとおり、切り出し領域においては、間引き読み出しされる複数の画素以外にも焦点検出用画素SA、SBが含まれている。従って、デジタルズーム時において、切り出し領域の全画素が読み出される際には、図中において符号が付されていない白抜き画素とともに白抜き矢印で示した焦点検出用画素SA、SBも読み出されることとなる。このため、デジタルズーム時における焦点検出精度の向上を図ることが可能となっている。
焦点検出用画素の配置規則に関しては、図12(a)より明らかなように、X方向が同一ブロックでY方向が一つ異なるブロックでは、焦点検出用画素SA、SBの画素配置をX方向に1画素(間引き前の画素では3画素)シフトさせている。間引き読み出しされる画素以外の焦点検出用画素SA、SBは、上記シフト間を補完するように配置されている。具体的には、BLOCK_H(0,0)〜BLOCK_H(0,1)において、黒塗りの矢印で示した焦点検出用画素SA、SBの1シフト間(3画素間)を補完するように2組の焦点検出用画素SA、SBが配置されている。これにより、全画素読み出し時における焦点検出方向に係るサンプリング特性を改善することができる。すなわち、焦点検出用画素SA、SBはX(水平)方向に瞳分割された画素群であるため、全画素読み出し時のサンプリングピッチを上記のとおり最小とすることで、検出精度を向上させることが可能となる。また、Y方向については、図9(a)と同様に、X方向に比べてより離散的に配置されているため、焦点検出用画素による画像の劣化を防止することができる。
なお、ブロック間における垂直方向の検出に係る焦点検出用画素の配置規則は、図12(b)に示すように、図8(b)の場合と同一規則である。また、垂直(Y)方向の焦点検出用画素についても、図12(a)と同様に、切り出し領域においては、間引き読み出しされない画素に補完的に配置されることが望ましい。なお、垂直(Y)方向の焦点検出用画素の配置規則に関しては図9、10、12を用いた説明から明らかであるので、詳細説明は省略する。さらに、同一の切り出し領域において、水平又は垂直方向の像ずれ量の検出を行う構成に関しても、図11を用いた説明から明らかであるので、詳細説明は省略する。
次に、上記撮像素子107を用いた撮像装置1においてCPU121が行う動作であって、電子ビューファインダー(図中はライブビューと記載)時の動作シーケンスの概要について説明する。図13(a)は、電子ビューファインダー時の撮像装置1の動作シーケンスを示すタイミングチャートである。図13(a)に示すように、CPU121の制御の下、撮像素子107では、露光動作が行われた後、撮像素子107の各画素の蓄積電荷が画像信号として読み出される。この読み出し動作は、読出制御手段としてのCPU121の制御に従って出力される垂直同期信号VD及び水平同期信号(特に図示しない)に同期して行われる。
垂直同期信号VDは、撮像の1フレームを表す信号である。撮像素子107では、入力される垂直同期信号VDのフレームレートで逐次駆動することで、そのフレームレートの動画像データが取得可能である。本実施形態では、例えば1/30秒ごとにCPU121からのコマンドを受けた撮像素子駆動回路124より撮像素子107へ送られる。なお、以下の説明では、1フレームが1/30であり、1秒間に30フレームの動画像の撮影を行うことを前提とする。また、水平同期信号は、撮像素子107の水平方向の画素の読み出しを行うための信号であり、1フレームの期間に水平ラインのライン数に応じたパルス数が所定間隔で送出される。なお、垂直同期信号VDや水平同期信号による画素の読み出しに関しては、公知の技術であるので、詳細な説明は省略する。
電子ビューファインダー時のような動画撮影時における逐次駆動した撮像素子107からの読み出しは、CPU121の制御の下、複数の読み出しモードの中のいずれかのモードで行われる。読み出しモードとしては、間引き読み出しを行う第2のモード、加算読み出しを行う第1のモード、デジタルズームによる拡大などの指示に応じて一矩形領域のみを切り出して読み出す第3のモードなどがある。デジタルズームによる拡大などの指示がない、通常の電子ビューファインダー時には、第1のモード又は第2のモードで読み出される。また、通常の電子ビューファインダー時における撮像素子107からの読み出しは、読み出し画素数を減らすとともにモアレなどを低減させるため、通常、任意の数の画素を加算して読み出す加算読み出しを行うことが一般的である。従って、電子ビューファインダー時における撮像素子107からの読み出しは、CPU121の制御の下、加算読み出しが主に行われ、間引き読み出しは間欠的に行われる。
具体的には、図13(a)の例では、0〜8番目までのフレームでは加算読み出しが行われ、9番目のフレームで間引き読み出しが行われている。なお、間引き読み出しを行うタイミングは、所定のフレーム数(例えば10フレーム)が経過したところであってもよいし、所定のフレーム数の中でランダムに行われるものであってもよい。ただし、動画撮影時のモアレを低減させるため、間引き読み出しは連続して行われないことが望ましい。
先ず、CPU121の制御の下で行われる加算読み出し時(0〜8番目のフレーム)の動作について説明する。垂直同期信号VDや水平同期信号により、蓄積読み出しが実行されると、垂直同期信号VD信号が撮像素子107に送出されて次のフレームの蓄積動作が開始される。また、読み出された画像信号は、画像処理回路125へ転送され、欠陥画素補正などの画像処理が行われる。
また、欠陥画素補正された信号は、撮像光学系による焦点状態を検出するために、画像処理回路125内のコントラスト検出ブロック(特に図示しない)へ転送される。コントラスト検出ブロックでは、画像の先鋭度(コントラスト値)の検出を行い、コントラストAFに関する評価値を演算する。コントラストAFは、撮像素子107の出力信号からコントラスト値である高周波成分の情報を合焦を評価する評価値として着目し、その評価値が最も大きくなる撮像光学系の焦点状態を合焦位置とする。従って、画像処理回路125においてコントラスト値を算出することで、コントラストAFを行うことが可能となる。
画像処理回路125で演算されたコントラストAFに関する評価値に基づいて、制御手段としてのCPU121は、フォーカス駆動回路126を制御してフォーカスアクチュエータ114を動作させることで焦点調整を行う。また、CPU121は、画像処理回路125で処理された画像データに基づいて、表示器131における撮像画像の表示を次のフレーム画像へ更新する。図13(a)における0〜8番目のフレームに関しては、上述したシーケンスが表現されている。
また、撮像素子107には、撮像用画素の他に、瞳分割機能が付与されており、位相差AFが可能な焦点検出用画素が含まれている。加算読み出し時において、焦点検出用画素が加算される画素群に含まれる場合は、焦点検出用画素を欠陥画素(欠陥信号)とみなして、補間手段としての画像処理回路125で欠陥画素補正が行われる。この欠陥画素補正では、欠陥画素の周囲の画素の値に基づいた欠陥画素の補間、例えば、周囲の画素の値を平均した値での画素の補間などが行われる。撮像装置1では、欠陥画素補正を行うことで、加算読み出し時を行う場合に含まれている焦点検出用画素による欠損を補間することができる。
次に、CPU121の制御の下で行われる間引き読み出し時(9番目のフレーム)の動作について説明する。CPU121の制御の下、間引き読み出しにより読み出された画像信号は、画像処理回路125へ転送され、欠陥画素補正などの画像処理が行われる。また、間引き読み出し時は、撮像光学系の焦点状態を検出するために、画像データ内に含まれる焦点検出用画素のデータが画像処理回路125においてピックアップされる。この焦点検出用画素のデータのピックアップは、予めROMなどに設定された撮像素子107の撮像面における焦点検出用画素の位置情報などに従って行われる。
画像処理回路125でピックアップされた焦点検出用画素のデータは、画像処理回路125内の位相差検出ブロック(特に図示しない)へ転送される。位相差検出ブロックでは、瞳分割された焦点検出用画素SAの画素群及び焦点検出用画素SBの画素群の相関演算を行うことで、位相差AFに関する評価値を算出する。
画像処理回路125で演算された位相差AFに関する評価値に基づいて、制御手段としてのCPU121は、フォーカス駆動回路126を制御してフォーカスアクチュエータ114を動作させることで焦点調整を行う。また、CPU121は、画像処理回路125で処理された画像データに基づいて、表示器131における撮像画像の表示を次のフレーム画像へ更新する。なお、表示器131における撮像画像の表示については、焦点検出用画素を欠陥画素とみなした欠陥補正が画像処理回路125で行われた後の画像データに基づいて行われる。図13(a)における9番目のフレームに関しては、上述したシーケンスが表現されている。
コントラストAFに関する評価値に基づいたAF処理では、撮像光学系の焦点位置を調整しながら複数のフレームの評価値を取得し、その評価値のピークを探索して焦点調整を行わなければならない。しかしながら、位相差AFに関する評価値に基づいたAF処理では、1フレームの画像データで焦点調整が可能である。従って、電子ビューファインダー時において位相差AFを可能とすることで、より高速な焦点調整を実現できる。
また、焦点検出用画素群は、撮像素子107において離散的に配置されており、その離散的に配置された焦点検出用画素群によるサンプリング周波数以上の空間周波数の被写体では、折り返しエラーによる検出誤差が生じる虞がある。従って、図13(a)に示すように、コントラストAFも併用することが望ましい。このように、コントラストAFと位相差AFを併用することで、互いの欠点を相互補完して、高速且つ正確な焦点合わせを実現することが可能となる。
ただし、加算読み出し時と間引き読み出し時とでは、加算読み出し時にコントラストAF、間引き読み出し時に位相差AFのように、焦点検出を切り替える必要がある。これは、加算読み出しでは、焦点検出用画素のみの信号を取り出すことができず、位相差AFを行うことができないためである。また、加算読み出しに適宜挿入された間引き読み出しにおいては、加算によるローパスフィルタ効果が得られない。このため、間引き読み出しの挿入前後の加算読み出し時に算出されたコントラストAFに関する評価値と、間引き読み出し時に算出されたコントラストAFに関する評価値との連続性は失われる。すなわち、間引き読み出し時においてもコントラストAFを行った場合は、コントラストAFに関する評価値のピーク探索を正しく行うことができない。従って、間引き読み出し時には位相差AFのみを行うように焦点検出を切り替える必要がある。
また、間引き読み出しされた画像(第2のモード時の動画像)は、モアレなどが発生しやすくなる。このため、加算読み出し時(第1のモード時)と間引き読み出し時(第2のモード時)とでは、画像処理回路125で行われる画像処理のローパスフィルタの特性を異ならせることが望ましい。具体的には、間引き読み出し時の画像では、ローパスフィルタの特性を加算読み出し時と比べて低周波数側にシフトさせ、可能な限り画像劣化を目立たなくする。なお、図13(a)では、加算読み出しされた画像データは画像処理G1が、間引き読み出しされた画像データは画像処理G2が行われることを明記した。
次に、上述した電子ビューファインダー時において、レリーズスイッチが操作された場合の動作シーケンスの概要について説明する。図13(b)は、電子ビューファインダー時においてレリーズスイッチが操作された際の撮像装置1の動作シーケンスを示すタイミングチャートである。なお、図13(b)では、露光調整や焦点調整などの開始指示をユーザから受け付けるスイッチであり、半押しされた場合にONするレリーズスイッチSW1が操作された場合のシーケンスを記載している。
図13(b)に示すように、レリーズスイッチSW1が操作された場合、CPU121は、その操作時点から次に撮像素子107の露光により蓄積された電荷の読み出しを間引き読み出しで行い、位相差AFに関する評価値の演算を画像処理回路125で行う。具体的には、0番目のフレームでレリーズスイッチSW1が操作された場合、次の1番目のフレームで間引き読み出しが行われて位相差AFに関する評価値の演算が行われる。
次いで、CPU121は、画像処理回路125で演算された位相差AFに関する評価値に基づいて、フォーカス駆動回路126を制御してフォーカスアクチュエータ114を動作させることで位相差AFを行う。従って、ユーザのレリーズスイッチSW1の操作により撮影のトリガがかけられた際には、間引き読み出しによる位相差AFが行われるため、ユーザ指示に応じた焦点検出のレスポンスが向上することとなる。
次に、上述した電子ビューファインダー時において、デジタルズームの操作スイッチによりユーザから拡大指示が行われた場合の動作シーケンスの概要について説明する。図14は、電子ビューファインダー時においてデジタルズームの操作スイッチにより拡大指定が行われた場合の撮像装置1の動作シーケンスを示すタイミングチャートである。
図14に示すように、デジタルズームの操作スイッチにより拡大指定が行われた場合、CPU121は、その操作時点以降に撮像素子107の露光により蓄積された電荷の読み出しを、指定された倍率に応じた切り出し領域の全画素読み出しで行う。具体的には、9番目のフレームで拡大指定が行われた場合、10番目以降のフレームで切り出し領域の全画素読み出しが行われる。
次いで、CPU121は、読み出した画像データに基づいてコントラストAFに関する評価値及び位相差AFに関する評価値の両方を画像処理回路125で演算する。次いで、CPU121は、演算された両方の評価値に基づいて、フォーカス駆動回路126を制御してフォーカスアクチュエータ114を動作させることでAFを行う。すなわち、デジタルズームによる拡大指定が行われた場合は、指定された倍率に応じた切り出し領域の全画素読み出しが行われることで、コントラストAFに関する評価値及び位相差AFに関する評価値の両方が算出可能であるため、両方とも実行される。このため、より精度の高い焦点調整を行うことが可能となる。
図15は、電子ビューファインダー時における撮像装置1の動作を示すフローチャートである。図15に示すように、CPU121は、操作スイッチ132を介したユーザの指示などにより動画撮像が開始されると、先ず撮像素子107での露光を行う(S101)。次いで、CPU121は、デジタルズームによる拡大指示の有無(S102)、前述した間引きタイミングの到来(S103)、レリーズスイッチの操作の有無(S104)を判定する。
S102において、CPU121は、拡大指示があると判定した場合、撮像素子107から拡大指定された倍率に応じた切り出し領域の全画素読み出しを行う(S105)。次いで、CPU121は、読み出されたデータに基づいて、位相差AFに関する評価値演算とコントラストAFに関する評価値演算を画像処理回路125で行う(S106、S107)。
なお、S103において、CPU121は、間引きタイミングの到来を判定した場合、撮像素子107から加算読み出しを行う(S108)。次いで、CPU121は、読み出されたデータに基づいてコントラストAFに関する評価値演算を画像処理回路125で行う(S109)。
なお、S104において、CPU121は、レリーズスイッチの操作があると判定した場合、撮像素子107から間引き読み出しを行う(S110)。次いで、CPU121は、読み出されたデータに基づいて位相差AFに関する評価値演算を画像処理回路125で行う(S111)。
S107、S109、S111に次いで、CPU121は、フォーカス駆動回路126を制御してフォーカスアクチュエータ114を動作させることで、演算された評価値に基づいた焦点調整を行う(S112)。次いで、CPU121は、撮像素子107から読み出されたデータに基づいた画像を表示器131に表示させ(S113)、操作スイッチ132を介したユーザの終了指示の有無を判定する(S114)。
S114において終了指示がない場合、CPU121は、S101へ処理を戻し、撮像素子107における次のフレームの露光を行わせる。すなわち、CPU121は、上述したS101〜S114の処理を所定のフレームレートで実行することで電子ビューファインダー機能を実現させる。また、S114において終了指示がある場合、CPU121は処理を終了させる。
なお、上述した実施の形態における記述は、一例を示すものであり、これに限定するものではない。上述した実施の形態における構成及び動作に関しては、適宜変更が可能である。
(他の実施形態)
上述の実施形態は、システム或は装置のコンピュータ(或いはCPU、MPU等)によりソフトウェア的に実現することも可能である。従って、上述の実施形態をコンピュータで実現するために、該コンピュータに供給されるコンピュータプログラム自体も本発明を実現するものである。つまり、上述の実施形態の機能を実現するためのコンピュータプログラム自体も本発明の一つである。
なお、上述の実施形態を実現するためのコンピュータプログラムは、コンピュータで読み取り可能であれば、どのような形態であってもよい。例えば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等で構成することができるが、これらに限るものではない。上述の実施形態を実現するためのコンピュータプログラムは、記憶媒体又は有線/無線通信によりコンピュータに供給される。プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、磁気テープ等の磁気記憶媒体、MO、CD、DVD等の光/光磁気記憶媒体、不揮発性の半導体メモリなどがある。
有線/無線通信を用いたコンピュータプログラムの供給方法としては、コンピュータネットワーク上のサーバを利用する方法がある。この場合、本発明を形成するコンピュータプログラムとなりうるデータファイル(プログラムファイル)をサーバに記憶しておく。プログラムファイルとしては、実行形式のものであっても、ソースコードであっても良い。そして、このサーバにアクセスしたクライアントコンピュータに、プログラムファイルをダウンロードすることによって供給する。この場合、プログラムファイルを複数のセグメントファイルに分割し、セグメントファイルを異なるサーバに分散して配置することも可能である。つまり、上述の実施形態を実現するためのプログラムファイルをクライアントコンピュータに提供するサーバ装置も本発明の一つである。
また、上述の実施形態を実現するためのコンピュータプログラムを暗号化して格納した記憶媒体を配布し、所定の条件を満たしたユーザに、暗号化を解く鍵情報を供給し、ユーザの有するコンピュータへのインストールを許可してもよい。鍵情報は、例えばインターネットを介してホームページからダウンロードさせることによって供給することができる。また、上述の実施形態を実現するためのコンピュータプログラムは、すでにコンピュータ上で稼働するOSの機能を利用するものであってもよい。さらに、上述の実施形態を実現するためのコンピュータプログラムは、その一部をコンピュータに装着される拡張ボード等のファームウェアで構成してもよいし、拡張ボード等が備えるCPUで実行するようにしてもよい。