<第1実施形態>
本発明の一実施の形態の撮像素子および撮像装置を説明する。図1は一実施の形態の撮像素子を搭載したレンズ交換式デジタルスチルカメラの構成を示す横断面図である。一実施の形態のデジタルスチルカメラ201は交換レンズ202とカメラボディ203から構成され、種々の交換レンズ202がマウント部204を介してカメラボディ203に装着される。
交換レンズ202はレンズ209、ズーミング用レンズ208、フォーカシング用レンズ210、絞り211、レンズ駆動制御装置206などを備えている。レンズ駆動制御装置206は不図示のマイクロコンピュータ、メモリ、駆動制御回路などから構成され、フォーカシング用レンズ210の焦点調節と絞り211の開口径調節のための駆動制御や、ズーミング用レンズ208、フォーカシング用レンズ210および絞り211の状態検出などを行う他、後述するボディ駆動制御装置214との通信によりレンズ情報の送信とカメラ情報の受信を行う。絞り211は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。
カメラボディ203は撮像素子212、ボディ駆動制御装置214、液晶表示素子駆動回路215、液晶表示素子216、接眼レンズ217、メモリカード219などを備えている。撮像素子212には、撮像画素兼焦点検出画素として機能する画素が二次元状に配置される。この撮像素子212については詳細を後述する。
ボディ駆動制御装置214はマイクロコンピュータ、メモリ、駆動制御回路などから構成され、撮像素子212の駆動制御と撮像素子212からの出力信号の読み出しと、該出力信号に基づく焦点検出演算と交換レンズ202の焦点調節を繰り返し行うとともに、該出力信号に基づく画像処理演算と記録、カメラの動作制御などを行う。また、ボディ駆動制御装置214は電気接点213を介してレンズ駆動制御装置206と通信を行い、レンズ情報の受信とカメラ情報(デフォーカス量や絞り値など)の送信を行う。
液晶表示素子216は電子ビューファインダー(EVF:Electronic View Finder)として機能する。液晶表示素子駆動回路215は撮像素子212によるスルー画像を液晶表示素子216に表示し、撮影者は接眼レンズ217を介してスルー画像を観察することができる。メモリカード219は、撮像素子212により撮像された画像を記憶する画像ストレージである。
交換レンズ202を通過した光束により、撮像素子212の受光面上に被写体像が形成される。この被写体像は撮像素子212の各画素で光電変換され、各画素の出力信号がボディ駆動制御装置214へ送られる。
ボディ駆動制御装置214は、撮像素子212の各画素からの出力信号に基づいてデフォーカス量を算出し、このデフォーカス量をレンズ駆動制御装置206へ送る。また、ボディ駆動制御装置214は、撮像素子212の各画素からの出力信号を処理して画像データを生成し、メモリカード219に格納するとともに、撮像素子212からのスルー画像信号を液晶表示素子駆動回路215へ送り、スルー画像を液晶表示素子216に表示させる。さらに、ボディ駆動制御装置214は、レンズ駆動制御装置206へ絞り制御情報を送って絞り211の開口制御を行う。
レンズ駆動制御装置206は、フォーカシング状態、ズーミング状態、絞り設定状態、絞り開放F値などに応じてレンズ情報を更新する。具体的には、ズーミング用レンズ208とフォーカシング用レンズ210の位置と絞り211の絞り値を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択する。
レンズ駆動制御装置206は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ210を合焦位置へ駆動する。また、レンズ駆動制御装置206は受信した絞り値に応じて絞り211を駆動する。
図2は、交換レンズ202の撮影画面上における焦点検出位置(図1に不図示の操作部材の操作によりユーザーにより設定される)を示す図であり、後述する撮像素子212上の画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央に焦点検出エリア101が配置される。長方形で示す焦点検出エリア101は、撮影画面100において水平方向に延在し、焦点検出エリア101の長手方向に沿って直線的に配列された画素の出力信号が焦点検出に用いられる。
図3、図4は撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリア101の近傍を拡大して示したものである。図3は撮像画素兼焦点検出画素となる画素311(以降焦点検出画素311と称す)のレイアウトを示す図であって、焦点検出画素311が行方向(水平方光)および列方向(垂直方向)において二次元正方格子状に稠密に配列される。図4は図3に示す焦点検出画素311の配列における色フィルタの配列を示した図であって、焦点検出画素311にはベイヤー配列の規則に従って色フィルタ(R:赤色フィルタ、G:緑色フィルタ、B:青色フィルタ)が配置されており、各色フィルタの分光感度は図5に示す特性になっている。
焦点検出画素311は、図6に示すように矩形のマイクロレンズ10、垂直方向に延在する素子分離領域15により2分割された一対の光電変換部13,14から構成される。一対の光電変換部13,14を統合すると、通常の撮像画素の光電変換部と同等のサイズとなる。なお簡潔のため図6において色フィルタは不図示としている。なお焦点検出画素311の一対の光電変換部13,14の出力を加算した場合、加算した出力が通常の撮像画素の光電変換部の出力と同等になるようにするため、素子分離領域15の幅は出来る限り狭くし、一対の光電変換部13,14を近接させることが望ましい。
図7は図6に示した焦点検出画素311の断面図であって、光電変換部13,14の上に近接して遮光マスク30が形成され、遮光マスク30の開口部30dを通過した光を光電変換部13,14は受光する。遮光マスク30の上には平坦化層31が形成され、その上に色フィルタ38が形成される。色フィルタ38の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30dに制限された光電変換部13,14の形状が前方に投影されて、一対の測距瞳を形成する。光電変換部13,14は半導体回路基板29上に形成される。また光電変換部13,14を分離するために素子分離領域15が形成される。以上のような構成により光電変換部13,14は交換レンズの射出瞳の一対の測距瞳を通過する一対の焦点検出光束をそれぞれ受光する。
図8は、マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す。なお焦点検出エリア101の焦点検出画素配列の一部分を拡大して示す。図8において、射出瞳90は、交換レンズ202(図1参照)の予定結像面に配置されたマイクロレンズ10から前方に距離dの位置に設定されている。この距離dは、マイクロレンズ10の曲率、屈折率、マイクロレンズ10と光電変換部13,14との間の距離などに応じて決まる距離であって、この明細書では測距瞳距離と呼ぶ。図11には他に、交換レンズの光軸91、マイクロレンズ10、光電変換部13、14、焦点検出画素311、焦点検出光束73、74が示されている。
測距瞳93は、開口部30dにより制限された光電変換部13がマイクロレンズ10により投影されたものである。同様に、測距瞳94は、開口部30dにより制限された光電変換部14がマイクロレンズ10により投影されたものである。測距瞳93,94は、射出瞳90のうちの互いに異なる部分領域であり、水平方向に並ぶとともに、光軸91を通る垂直線に対して線対称な形状となっている。
図8では、撮影光軸91近傍の焦点検出エリア101における隣接する5つの焦点検出画素311を模式的に例示しているが、画面周辺に配置された焦点検出画素311においても、各光電変換部はそれぞれ対応した測距瞳93、94から各マイクロレンズに到来する光束を受光するように構成されている。マイクロレンズ10により、一対の光電変換部13および14と上述した互いに異なる部分領域、すなわち一対の測距瞳93および94とが互いに共役関係になる。
以上のような構成により、光電変換部13は測距瞳93を通過し、焦点検出画素311のマイクロレンズ10に向かう光束73によりマイクロレンズ10上に形成される像の強度に対応した信号を出力する。また、光電変換部14は測距瞳94を通過し、焦点検出画素311のマイクロレンズ10に向う光束74によりマイクロレンズ10上に形成される像の強度に対応した信号を出力する。
上述した焦点検出エリア101において水平方向に配列した複数の焦点検出画素311の光電変換部13,14の出力を測距瞳93および測距瞳94に対応した出力グループにまとめることによって、測距瞳93と測距瞳94をそれぞれ通過する焦点検出用光束73,74が焦点検出画素311の配列上に形成する一対の像の強度分布に関する情報が得られる。この情報に対して後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を施すことによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に一対の測距瞳93,94の重心間隔と測距瞳距離の比例関係に応じた変換演算を行うことによって、予定結像面に対する現在の結像面(予定結像面上のマイクロレンズアレイの位置に対応した焦点検出位置における結像面)の偏差(デフォーカス量)が算出される。 具体的には像ズレ量(光軸91に垂直な面内の量)に対し所定の変換係数(測距瞳距離dを測距瞳93,94の重心間隔で除した値)を乗ずることによりデフォーカス量(光軸91の方向における結像面と予定結像面との偏差)が算出されることになる。
また全画面において各焦点検出画素311の光電変換部13,14の出力を加算した出力信号を得ることにより、通常の撮像画素をベイヤー配列した場合と同等の画像信号を得ることが出来る。
図9は、本発明に関連する部分の撮像素子212とボディ駆動制御装置214との関係を詳細に示すブロック図であって、ボディ駆動制御装置214内には撮像素子制御部220、バッファメモリ221、CPUa(マイクロコンピュータ)222、CPUb(マイクロコンピュータ)223が収納される。撮像素子212は撮像素子制御部220の制御に従って焦点検出画素311の電荷蓄積制御(電荷蓄積時間および電荷蓄積タイミング)および信号の出力制御を行なう。撮像素子212は後述するように焦点検出画素311の一対の光電変換部13,14の出力信号をAD変換するとともにチャネル1からデジタルデータ(焦点検出用のデータ)として出力すると同時に焦点検出画素311の一対の光電変換部13,14のデジタルデータをデジタル加算したデジタルデータ(通常の撮像画素の出力信号と同等な信号)をチャネル2からデジタルデータとして出力する。チャネル1およびチャネル2から出力されたデジタルデータは1フレーム分のデジタルデータとしてバッファメモリ221に一時的に格納される。CPUa222はバッファメモリ221に格納された焦点検出エリアの焦点検出画素311の一対の光電変換部13,14のデジタルデータ(焦点検出用のデータ)に対して後述する処理を行なって焦点検出を行なう。CPUb223はバッファメモリ221に格納された1フレーム分のデジタルデータ(画像データ)に対して周知の画像処理を行なって画像表示や画像記録を行なう。
以上のように撮像素子212からは焦点検出用のデジタルデータと画像用のデジタルデータが別チャネルを介して時間的にオーバーラップして出力される。また焦点検出用のデジタルデータと画像用のデジタルデータは個別のCPU222,223において処理されるので、焦点検出処理と画像処理を時間的に分離する必要がなく、同時に独立して行なうことができる。
次に2つのチャネルから同時に焦点検出画素311の一対の光電変換部13,14のデジタルデータと、焦点検出画素311の一対の光電変換部13,14のデジタルデータをデジタル加算したデジタルデータ(通常の撮像画素の出力信号と同等な信号)を出力可能な撮像素子212の構成について図10を用いて説明する。
図10は、撮像素子212(CMOSイメージセンサ)の構成を示すブロック図である。撮像素子212は、一対の光電変換部13,14を含む焦点検出画素311が行列状(マトリックス状)に多数2次元配置されてなる画素アレイ部40に加えて、行走査回路41、カラムAD変換装置42、第2ラインメモリ44、第2列走査回路51、第2水平出力回路45、カラムデジタル加算装置46、第1ラインメモリ48、第1列走査回路52、第1水平出力回路49およびタイミング制御回路50を有する構成となっている。
このシステム構成において、タイミング制御回路50は、外部から入力されるマスタークロックおよび撮像素子制御部220から入力される制御信号に基づいて、行走査回路41、カラムAD変換装置42、カラムデジタル加算装置46、第1ラインメモリ48、第2ラインメモリ44、第1列走査回路52、第2列走査回路51などの動作の基準となるクロック信号や制御信号などを生成し、行走査回路41、カラムAD変換装置42、カラムデジタル加算装置46、第1ラインメモリ48、第2ラインメモリ44、第1列走査回路52、第2列走査回路51などに対して与える。
また、画素アレイ部40の各焦点検出画素311を駆動制御する周辺の駆動系や信号処理系、即ち行走査回路41、カラムAD変換装置42、カラムデジタル加算装置46、第1ラインメモリ48、第2ラインメモリ44、第1列走査回路52、第2列走査回路51、第1水平出力回路49、第2水平出力回路45およびタイミング制御回路50などは、画素アレイ部40と同一のチップ(半導体基板)上に集積される。これらが集積されるチップは、画素アレイ部40のチップに積層される。
焦点検出画素311としては、ここでは図示を省略するが、一対の光電変換素部13,14(例えば、フォトダイオード)に加えて、例えば、当該光電変換部13,14で光電変換して得られる電荷をFD(フローティングディフュージョン)部に転送する転送トランジスタと、当該FD部の電位を制御するリセットトランジスタと、FD部の電位に応じた信号を出力する増幅トランジスタとを有する3トランジスタ構成のものや、さらに画素選択を行うための選択トランジスタを別に有する4トランジスタ構成のものなどを用いることができる。
画素アレイ部40には、焦点検出画素311が2N行2M列分だけ2次元配置される。換言すると、画素アレイ部40は、2M個の焦点検出画素311が水平方向に配列された焦点検出画素群を各行に有し、その焦点検出画素群が、水平方向に交差する垂直方向に2N行配置される。図10において左上の焦点検出画素311が1行目、1列目の画素であり、この画素にはベイヤー配列の緑色のフィルタが配置され、1行目の画素群として配列される焦点検出画素には緑色のフィルタと青色のフィルタが配置される。この2N行2M列の画素配置に対して行毎に1系統の行制御線21(21(1)〜21(2N))が配線され、列毎に2本の列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)が配線されている。行制御線21(21(1)〜21(2N))の各一端は、行走査回路41の各行に対応した各出力端に接続され、各行制御線21には制御信号R(1)〜R(2N)が出力される。行走査回路41は、シフトレジスタなどによって構成され、行制御線21(21(1)〜21(2N))を介して画素アレイ部40の行アドレスや行走査の制御を行う。
同一行の各焦点検出画素311の一対の光電変換部13,14は同一の行制御線21により行走査回路41と接続されており、制御信号R(1),・・・,R(L),・・・,R(2N)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。また各焦点検出画素311の一対の光電変換部13,14の一方の光電変換部13は列毎に設けられた2本の列信号線の一方の列信号線22(m)bに接続され、光電変換部13の出力信号(アナログ信号)は列信号線22(m)bに出力される。また各焦点検出画素311の一対の光電変換部13,14の他方の光電変換部14は列毎に設けられた2本の列信号線の他方の列信号線22(m)aに接続され、光電変換部14の出力信号(アナログ信号)は列信号線22(m)aに出力される。例えば行走査回路41から与えられる制御信号R(L)により画素アレイ部40のL行目の焦点検出画素群を構成する焦点検出画素311が選択された場合には、L行目の焦点検出画素311の一対の光電変換部13,14の出力信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力されることになる。
カラムAD変換装置42は、画素アレイ部40の画素列に対応して設けられた列信号線22(1)a、22(1)b〜22(2M)a、22(2M)b毎に設けられたADC(アナログ−デジタル変換回路)23(1)a、23(1)b〜23(2M)a、23(2M)bを有し、画素アレイ部40の各焦点検出画素311から列毎に出力される一対のアナログ信号を、タイミング制御回路50から与えられる制御信号TA1に応じて、Hビットのデジタル信号に変換して出力する。「Hビット」はビット数を表し、例えば10ビット、12ビット、14ビット等である。
第2ラインメモリ44は、カラムAD変換装置42を構成する各ADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)毎に設けられたメモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)を有し、ADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)毎に出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TM2に応じて、Hビットのデジタル信号として記憶する。ここで第2ラインメモリ44の各メモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)には1行分の焦点検出画素について一対の光電変換部13,14の出力信号がデジタル信号として記憶されることになる。
カラムデジタル加算装置46は、カラムAD変換装置42を構成する一対のADC((23(1)a、23(1)b)〜(23(2M)a、23(2M)b))毎に設けられたデジタル加算回路(26(1)〜26(2M))を有し、一対のADC((23(1)a、23(1)b)〜(23(2M)a、23(2M)b))から出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TD1に応じて加算し、Hビットの加算デジタル信号として出力する。
第1ラインメモリ48は、カラムデジタル加算装置46を構成する各デジタル加算回路(26(1)〜26(2M))毎に設けられたメモリ(28(1)〜28(2M))を有し、デジタル加算回路(26(1)〜26(2M))毎に出力される加算デジタル信号を、タイミング制御回路50から与えられる制御信号TM1に応じて、Hビットのデジタル信号として記憶する。ここで第1ラインメモリ48の各メモリ(28(1)〜28(2M))には1行分の焦点検出画素について一対の光電変換部13,14の出力信号を加算した加算信号(撮像画素の出力信号に相当する)がデジタル信号として記憶されることになる。
第2列走査回路51は、シフトレジスタなどによって構成され、タイミング制御回路50の制御のもとに第2ラインメモリ44におけるメモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)の列アドレスや列走査の制御を行う。第2ラインメモリ44は第2列走査回路51から与えられる走査信号TS2に応じて動作し、メモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)の各々で記憶されたHビットのデジタル信号は順に第2水平出力回路45に読み出され、当該第2水平出力回路45を経由して焦点検出用の一対の光電変換部13,14の出力信号(デジタル信号)として外部にシリアル出力される。
第1列走査回路52は、シフトレジスタなどによって構成され、タイミング制御回路50の制御のもとに第1ラインメモリ48におけるメモリ(28(1)〜28(2M))の列アドレスや列走査の制御を行う。第1ラインメモリ48は第1列走査回路52から与えられる走査信号TS1に応じて動作し、メモリ(28(1)〜28(2M))の各々で記憶されたHビットの加算デジタル信号は順に第1水平出力回路49に読み出され、当該第1水平出力回路49を経由して撮像画素の出力信号と同等な出力信号(デジタル信号)として外部にシリアル出力される。
次に、図10に示した撮像素子の構成において、1フレーム期間中に焦点検出画素の一対の光電変換部の出力信号の個別読出し動作と一対の光電変換部の出力信号を加算した加算信号の読出し動作を並行して行う場合について、図11、図12のタイミングチャートを用いて説明する。図11,図12において、VSは1フレーム期間を示す垂直同期信号、HSは1水平走査期間を示す水平同期信号である。
図11に示す動作では、水平同期信号HSに同期して行走査回路41から画素アレイ部40に制御信号R(1)、R(2)、R(3)〜R(2n+1)、R(2n+2)、R(2n+3)〜R(N)が順次発せられ、制御信号R(1)、R(2)、R(3)〜R(2n+1)、R(2n+2)、R(2n+3)〜R(N)に応じた行の1ライン分の焦点検出画素311の一対の光電変換部13,14のアナログ信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に順次出力される。
図12は、図11における(2n+1)行、(2n+2)行、(2n+3)行の動作部分を拡大した図である。制御信号R(2n+1)により画素アレイ部40の(2n+1)行が選択されると、(2n+1)行の1ライン分の焦点検出画素311の一対の光電変換部13,14のアナログ信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力される。列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力された(2n+1)行の1ライン分の焦点検出画素311の一対の光電変換部13,14のアナログ信号は制御信号TA1に応じて、列信号線22(1)a、22(1)b〜22(2M)a、22(2M)に接続されたカラムAD変換装置42のADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)によりデジタル信号に変換される。
デジタル変換された(2n+1)行の1ライン分の焦点検出画素311の一対の光電変換部13,14のデジタル信号は、制御信号TM2に応じて、カラムAD変換装置42のADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)に接続された第2ラインメモリ44のメモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)に記憶される。
それと同時にデジタル変換された(2n+1)行の1ライン分の焦点検出画素311の一対の光電変換部13,14のデジタル信号は、制御信号TD1に応じて、カラムAD変換装置42を構成する一対のADC((23(1)a、23(1)b)〜(23(2M)a、23(2M)b))毎に設けられたカラムデジタル加算装置46のデジタル加算回路(26(1)〜26(2M))により加算される。
一対の光電変換部13,14の出力信号が加算された(2n+1)行の1ライン分の焦点検出画素311の加算デジタル信号は、制御信号TM1に応じて、カラムデジタル加算装置46のデジタル加算回路(26(1)〜26(2M))に接続された第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶される。
第2ラインメモリ44のメモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)に記憶された(2n+1)行の1ライン分の焦点検出画素311の一対の光電変換部13,14のデジタル信号は、走査信号TS2に応じて、次の水平同期信号HSが発生するまでの期間に第2水平出力回路45から外部に順次シリアル出力される。第2水平出力回路45から出力されたデジタル信号に基づき、ボディ駆動制御装置214の焦点検出用のCPUa222が、後述する図13に示すように、交換レンズ202(光学系)の焦点状態を検出し、その焦点状態を調節する。
同じく第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶された一対の光電変換部13,14の出力信号が加算された(2n+1)行の1ライン分の焦点検出画素311の加算デジタル信号は、走査信号TS1に応じて、次の水平同期信号HSが発生するまでの期間に第1水平出力回路49から外部に順次シリアル出力される。第1水平出力回路49から出力された加算デジタル信号に基づき、ボディ駆動制御装置214の画像処理用のCPUb223が、後述する図14に示すように、画像データを生成する。
次の水平同期信号HSに同期して制御信号R(2n+2)が発せられ、画素アレイ部40の(2n+2)行が選択されると、(2n+2)行の1ライン分の焦点検出画素311の一対の光電変換部13,14のアナログ信号に対して同様な動作で処理が繰り返される。さらに次の水平同期信号HSに同期した制御信号R(2n+3)の下で同様な処理が繰り返される。
図13、図14は、一実施の形態のデジタルスチルカメラ(撮像装置)201の動作を示すフローチャートである。これらのフローチャートに従った処理が並行して行われる。図13はボディ駆動制御装置214の焦点検出用のCPUa222の動作フローチャートであり、ステップS100でデジタルスチルカメラ201の電源がオンされると、ステップS110以降の焦点検出動作を開始する。ステップS110においてフレーム同期して選択された焦点検出エリア内に配列された焦点検出画素の一対の光電変換部のデータを読み出す。この一対の光電変換部のデータは、上述した第2水平出力回路45から出力されたデジタル信号である。続くステップS120では焦点検出画素のデータに基づいて、後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を行い、像ズレ量を演算する。なお、焦点検出エリアの位置は、撮影者が操作部材(不図示)を用いて予め選択しているものとする。
ステップS130では、像ズレ量をデフォーカス量に変換する。
ステップS140で交換レンズ202(光学系)の焦点状態が合焦近傍か否か、すなわち算出されたデフォーカス量の絶対値が所定値以内であるか否かを検出する。合焦近傍でないと判定された場合はステップS150へ進み、デフォーカス量をレンズ駆動制御装置206へ送信し、交換レンズ202のフォーカシングレンズ210を合焦位置に駆動させることによって交換レンズ202(光学系)の焦点状態を調節する。
なお、焦点検出不能な場合もこのステップに分岐し、レンズ駆動制御装置206へスキャン駆動命令を送信し、交換レンズ202のフォーカシングレンズ210を無限から至近までの間でスキャン駆動させる。その後、ステップS160へ進む。
ステップS140で合焦近傍であると判定された場合はステップS160へ進み、シャッターボタン(不図示)の操作によりシャッターレリーズがなされたか否かを判別する。シャッターレリーズがなされていないと判定された場合はステップS110へ戻り、上述した動作を繰り返す。一方、シャッターレリーズがなされたと判定された場合はステップS170へ進み、シャッターレリーズに応じた撮影動作が終了するのを待機し、撮影動作が終了したらステップS110へ戻って上述した動作を繰り返す。
図13のステップS120、ステップS130における像ズレ検出演算処理(相関演算処理、位相差検出処理)の詳細について以下説明する。なお焦点検出画素311の一対のデータはベイヤー配列における同色の色毎に分別される。
焦点検出画素311が検出する一対の像は、測距瞳93,94がレンズの絞り開口によりけられて光量バランスが崩れている可能性があるので、光量バランスに対して像ズレ検出精度を維持できるタイプの相関演算を施す。焦点検出画素311の配列から読み出された一対のデータ列をA1n(A11,・・・,A1j:j)はデータ数)、A2n(A21,・・・,A2j)として色の相違による区別をなくして一般化して示すと、一対のデータ列をA1n、A2nに対し特開2007−333720号公報に開示された下記の相関演算式(1)を行い、相関量C(k)を演算する。
C(k)=Σ|A1n・A2n+1+k−A2n+k・A1n+1| ・・・(1)
(1)式において、Σ演算はnについて累積される。nのとる範囲は、像ずらし量kに応じてA1n、A1n+1、A2n+k、A2n+1+kのデータが存在する範囲に限定される。ずらし量kは整数であり、データ列のデータ間隔を単位とした相対的シフト量である。(1)式の演算結果は、図15(a)に示すように、一対のデータの相関が高いシフト量(図15(a)ではk=kj=2)において相関量C(k)が極小(小さいほど相関度が高い)になる。
次に、(2)式から(5)式の3点内挿の手法を用いて連続的な相関量に対する極小値C(X)を与えるシフト量Xを求める。
X=kj+D/SLOP ・・・(2)
C(X)=C(kj)−|D| ・・・(3)
D={C(kj−1)−C(kj+1)}/2 ・・・(4)
SLOP=MAX{C(kj+1)−C(kj),C(kj−1)−C(kj)}
・・・(5)
(2)式で算出されたずらし量Xの信頼性があるかどうかは次のようにして判定される。図15(b)に示すように、一対のデータの相関度が低い場合は、内挿された相関量の極小値C(X)の値が大きくなる。したがって、C(X)が所定のしきい値以上の場合は、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量Xをキャンセルする。あるいは、C(X)をデータのコントラストで規格化するために、コントラストに比例した値となるSLOPでC(X)を除した値が所定値以上の場合は、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量Xをキャンセルする。あるいはまた、コントラストに比例した値となるSLOPが所定値以下の場合は、被写体が低コントラストであり、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量Xをキャンセルする。
図15(c)に示すように、一対のデータの相関度が低く、シフト範囲kmin〜kmaxの間で相関量C(k)の落ち込みがない場合は、極小値C(X)を求めることができず、このような場合は焦点検出不能と判定する。
算出されたずらし量Xの信頼性があると判定された場合は、(6)式により像ズレ量shftに換算される。
shft=PY・X ・・・(6)
(6)式において、PYは焦点検出画素311の画素ピッチの2倍の値(同色の焦点検出画素の画素ピッチ)となる。
(6)式により算出された像ズレ量shftに所定の変換係数kを乗じてデフォーカス量defへ変換する。
def=k・shft1 ・・・(7)
(7)式において変換係数kは一対の測距瞳93,94の重心間隔と測距瞳距離の比例関係に応じた変換係数であり、光学系の絞りF値に応じて変化するものである。
このようにしてベイヤー配列の3色に対して3つのデフォーカス量が算出されるので、単純平均または重み付け平均などの平均化処理を行なって、選択された焦点検出エリアにおける最終的なデフォーカス量が算出される。
図14はボディ駆動制御装置214の画像処理用のCPUb223の動作フローチャートであり、ステップS200でデジタルスチルカメラ201の電源がオンされると、ステップS210以降の画像処理動作を開始する。ステップS210においてフレーム同期して焦点検出画素の一対の光電変換部の出力データを加算した加算デジタルデータ(撮像画素のデータに相当する)を読み出し、該データに対して表示用の画像処理を行なってから電子ビューファインダーに表示させる。ステップS210において読み出される加算デジタルデータは、上述した第1水平出力回路49から出力された加算デジタル信号である。
ステップS220では、シャッターボタン(不図示)の操作によりシャッターレリーズがなされたか否かを判別する。シャッターレリーズがなされていないと判定された場合はステップS210へ戻り、上述した動作を繰り返す。一方、シャッターレリーズがなされたと判定された場合はステップS230へ進み、シャッターレリーズに応じた撮影動作を行なう。まずレンズ駆動制御装置206へ絞り調整命令を送信し、交換レンズ202の絞り値を制御F値(撮影者または自動により設定されたF値)にする。絞り制御が終了した時点で、焦点検出画素の一対の光電変換部の出力データを加算した加算デジタルデータ(ベイヤー配列された撮像画素のデータに相当する)を読み出し、該加算デジタルデータに対して周知の画像処理(デモザイク処理、ノイズ処理、階調処理、ホワイトバランス処理など)を施して画像データを生成し、ステップS240で該画像データをメモリカードに格納する。一連の撮影動作が終了したらステップS210へ戻って上述した動作を繰り返す。
以上説明した第1実施形態においては、選択された焦点検出エリアにおいてのみ焦点検出を行なう動作であったが、バッファメモリには画面全体の焦点検出用データが格納されるので、焦点検出用CPUa222の処理能力が高い場合には、画面全体の複数の焦点検出エリアにおいて焦点検出を行い、その結果に応じてレンズの焦点調節を行なうようにしても構わない。
以上説明した第1実施形態においては、画像用の焦点検出画素の一対の光電変換部のデータを加算したデータを1フレーム毎に全データ読み出すとして説明を行なったが、全データ読み出す代わりに間引き読出し(行/列)や画素加算読出し(行/列)をするための回路構成を本発明の構成にさらに追加し、読出した画像データを表示などに使用しても構わない。
以上説明した第1実施形態においては、焦点検出用の全焦点検出画素の一対の光電変換部のデータを1フレーム毎に読み出すとして説明を行なったが、全焦点検出画素の一対の光電変換部のデータを読み出すのは負荷も多く、データ格納用に多量のメモリ容量も必要になるので、必要に応じてフレーム間引き(数フレームに1回読み出す)/行間引き(数行に1行読み出す)/行部分読出し(一部の行だけ読み出す)/列間引き(数列に1列読み出す)/列部分読出し(一部の列だけ読み出す)ようにしても構わない。
図16は行部分読出し((2n+2)行目のみ焦点検出画素の一対の光電変換部のデータを読み出す)を行なう場合の、図12に対応したタイミングチャートであって、図11における(2n+1)行、(2n+2)行、(2n+3)行の動作部分を拡大した図である。
制御信号R(2n+2)により画素アレイ部40の(2n+2)行が選択された場合の動作は図12と同一である。一方(2n+2)行以外が選択された場合(図16の制御信号R(2n+1)、制御信号R(2n+3)に応じた動作)には、制御信号TM2が発生せず、カラムAD変換装置42のADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)によりデジタル信号に変換された1ライン分の焦点検出画素311の一対の光電変換部13,14のデジタル信号は、カラムAD変換装置42のADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)に接続された第2ラインメモリ44のメモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)に記憶されない。また走査信号TS2も発生しないので、次の水平同期信号HSが発生するまでの期間に第2水平出力回路45から外部に順次シリアル出力もされない。
行部分読出しする行や列部分読出しする列は選択された焦点検出エリアの位置に応じて、ボディ駆動制御装置214から撮像素子212に情報を送付して変更可能にすることができる。
以上説明した第1実施形態においては、1行分の焦点検出画素の一対の光電変換部の数に対応した数のADCを有するカラムAD変換装置42を設けるとともに、一対のADCのデジタル出力信号をデジタル加算するデジタル加算回路26を1行分の焦点検出画素の数だけ設けたカラムデジタル加算装置46を設ける構成としたので、1フレーム期間中に焦点検出画素の一対の光電変換部の出力信号の個別読出し動作と一対の光電変換部の出力信号を加算した加算信号(撮像画素の出力信号に相当する)の読出し動作を並行して行うことが可能となる。これにより従来の技術(焦点検出画素毎にアナログ加算装置を設ける)の課題(1フレーム期間中に焦点検出画素の一対の光電変換部の出力信号の個別読出し動作と一対の光電変換部の出力信号を加算した加算信号(撮像画素の出力信号に相当する)の読出し動作を並行して行うことができない)を解決することができる。
また従来の技術の課題を解決する方法として、撮像素子から1フレーム期間中に全焦点検出画素の一対の光電変換部の出力データを個別に読み出して、一旦外部のバッファメモリに格納し、該バッファメモリに格納された一対の光電変換部の出力データに対して加算処理を行なうことも考えられるが、その場合には加算処理時間分だけ処理時間が増大するとともに、外部の処理負荷も増大してしまう。本願の撮像素子の構成および動作によれば、画像データの読出し/画像処理に関しては通常の撮像素子と同様に取り扱うことができる。また部分的に焦点検出画素の一対の光電変換部の出力データを個別に読み出しすることも可能なので、読出し処理の負荷も軽減でき、データ格納用のバッファメモリの容量も節約することができる。
また従来の技術の課題を解決する方法として、カラムデジタル加算装置46を設ける代わりに焦点検出画素の一対の光電変換部の出力データを水平走査して順次シリアル出力する際に、第2水平出力回路45の出力端に並列にデータ保持メモリ(データを1データ出力時間だけ遅延保持する)とデジタル加算回路を設け、個別データ出力に同期して焦点検出画素の一対の光電変換部の出力データを加算して加算データを生成して出力することも考えられるが、加算処理時間(1つの焦点検出画素に対する加算時間×全焦点検出画素数)の分だけデータ転送レートが遅くなり、高速なデータ読出しができなくなる。本願の撮像素子212にはカラムデジタル加算装置46が設けられ、加算処理は列毎に独立して同時に行なわれるので、通常の撮像画素のみからなる撮像素子とほとんど同じデータ転送レートで高速読出しが可能になる。
<第2実施形態>
第1実施形態においては、焦点検出画素311の一対の光電変換部13,14は水平方向(行方向)に並置されていたが、焦点検出画素の一対の光電変換部の並置される方向を水平方向(行方向)以外とすることで、像ズレ検出を水平方向以外の方向で行なうことが出来る。図17は図6に示す焦点検出画素311を90度回転した構成の焦点検出画素312を示す図であって、焦点検出画素312は、矩形のマイクロレンズ10、水平方向に延在する素子分離領域18により2分割された一対の光電変換部16,17から構成される。一対の光電変換部16,17を統合すると、通常の撮像画素の光電変換部と同等のサイズとなる。
図18は図3の画素レイアウト図に対応した図(フィルタ配列は図4に対応している)であって、焦点検出画素311と焦点検出画素312が配置された撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリア101の近傍を拡大して示したものである。焦点検出画素311と焦点検出画素312が1行おきに交互に配列される。
図19は、図18に示す画素レイアウトを持つ撮像素子212の構成を示すブロック図であって、図10の構成と同一な部分は説明を省略し、特徴的な部分のみについて説明する。画素アレイ部40における図10との相違点は、偶数行目において、垂直方向に分離した一対の光電変換部16,17を備える焦点検出画素312が配置されている点である。
偶数行に配置された各焦点検出画素312の一対の光電変換部16,17は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)(Lは偶数)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。また偶数行に配置された各焦点検出画素312の一対の光電変換部16,17の一方の光電変換部16は列毎に設けられた2本の列信号線の一方の列信号線22(m)aに接続され、光電変換部16の出力信号(アナログ信号)は列信号線22(m)aに出力される。また各焦点検出画素312の一対の光電変換部16,17の他方の光電変換部17は列毎に設けられた2本の列信号線の他方の列信号線22(m)bに接続され、光電変換部17の出力信号(アナログ信号)は列信号線22(m)bに出力される。例えば行走査回路41から与えられる制御信号R(L)により画素アレイ部40のL行目の焦点検出画素312が選択された場合には、L行目の焦点検出画素312の一対の光電変換部16,17の出力信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力されることになる。
以上のような構成の撮像素子212を用いた場合には奇数行目に配列された同一色の焦点検出画素311の一対の光電変換部13,14のデータを水平方向に光電変換部毎にグループ化した一対のデータを用いて水平方向にコントラスト変化のある被写体像に対して位相差検出が可能になるとともに、偶数行目に配置された同一色の焦点検出画素312の一対の光電変換部16,17のデータを光電変換部毎に垂直方向にグループ化した一対のデータを用いて垂直方向にコントラスト変化のある被写体像に対して位相差検出が可能になる。
図20は、図18の変形例であって、焦点検出画素311と焦点検出画素312が1列おきに交互に配列される。このような構成の撮像素子212を用いた場合には奇数列目に配列された同一色の焦点検出画素311の一対の光電変換部13,14のデータを水平方向に光電変換部毎にグループ化した一対のデータを用いて水平方向にコントラスト変化のある被写体像に対して位相差検出が可能になるとともに、偶数列目に配置された同一色の焦点検出画素312の一対の光電変換部16,17のデータを光電変換部毎に垂直方向にグループ化した一対のデータを用いて垂直方向にコントラスト変化のある被写体像に対して位相差検出が可能になる。
図21は、図18の変形例であって、焦点検出画素311と焦点検出画素312が交互に千鳥配置される。即ち(奇数行かつ奇数列)または(偶数行かつ偶数列)の位置には焦点検出画素311が配置され、(奇数行かつ偶数列)または(偶数行かつ奇数列)の位置には焦点検出画素312が配置される。ベイヤー配列の色フィルタの観点では、焦点検出画素311は緑色フィルタが備えられ、焦点検出画素312は赤色フィルタ又青色フィルタが備えられることになる。
このような構成の撮像素子212を用いた場合には奇数行目の奇数列目または偶数行目の偶数列目に配列された緑色フィルタを備えた焦点検出画素311の一対の光電変換部13,14のデータを水平方向に光電変換部毎にグループ化した一対のデータを用いて水平方向にコントラスト変化のある被写体像に対して位相差検出が可能になるとともに、奇数行目の偶数列目に配列された青色フィルタを備えた焦点検出画素312または偶数行目の奇数列目に配列された赤色フィルタを備えた焦点検出画素312の一対の光電変換部16,17のデータを光電変換部毎に垂直方向にグループ化した一対のデータを用いて垂直方向にコントラスト変化のある被写体像に対して位相差検出が可能になる。
<第3実施形態>
第1実施形態においては、全画素が焦点検出画素により構成されていたが、光電変換部が分割されていない通常の撮像画素と光電変換部が分割されている焦点検出画素とを混在させることにより、撮像素子全体における焦点検出画素の数を減らし撮像素子の構成を簡素化するとともに、撮像素子から外部出力される焦点検出用データ数を減少させることにより焦点検出用データのデータ転送レートを画像処理用データのデータ転送レート並にすることが可能になる。
撮像画素310は、図22に示すように矩形のマイクロレンズ10、後述の遮光マスクで受光領域を制限された光電変換部11を有している。
図23は図22に示した撮像画素310の断面図である。撮像画素310では撮像用の光電変換部11の上に近接して遮光マスク30が形成され、光電変換部11は、遮光マスク30の開口部30aを通過した光を受光する。遮光マスク30の上には平坦化層31が形成され、その上に色フィルタ38が形成される。色フィルタ38の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30aの形状が前方に投影される。光電変換部11は半導体回路基板29上に形成される。
図24は、図22に示す撮像画素310が受光する撮影光束の様子を図8と比較して説明するための図であって、図8と重複する部分の説明は省略する。
撮像画素310はマイクロレンズ10とその背後に配置された光電変換部11等から構成され、光電変換部11に近接して配置された開口部30a(図23参照)の形状がマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上に投影され、その投影形状は測距瞳93、94に略外接する領域95を形成する。
光電変換部11は、領域95を通過してマイクロレンズ10へ向かう撮影光束71によってマイクロレンズ11上に形成される像の強度に対応した信号を出力する。
図25は図3の画素レイアウト図に対応した図(フィルタ配列は図4に対応している)であって、撮像画素310と焦点検出画素311が交互に千鳥配置される。即ち(奇数行かつ奇数列)または(偶数行かつ偶数列)の位置には焦点検出画素311が配置され、(奇数行かつ偶数列)または(奇数行かつ偶数列)の位置には撮像画素310が配置される。ベイヤー配列の色フィルタの観点では、焦点検出画素311は緑色フィルタが備えられ、撮像画素310は赤色フィルタ又青色フィルタが備えられることになる。焦点検出性能の面では、緑色フィルタの分光感度特性が、図5に示すように、赤色フィルタの分光感度特性と青色フィルタの分光感度特性との中間に位置するため、焦点検出画素311に緑色フィルタが設けられるのが好ましい。また、図6および図22に示すように、焦点検出画素311の一対の光電変換部13および14の表面積の和が、素子分離領域15が存在するため、撮像画素310の光電変換部11の表面積よりも小さい。したがって、撮像性能の面では、焦点検出画素311の一対の光電変換部13および14が出力する光電変換信号値の和が撮像画素310の光電変換部11の光電変換信号値よりも小さくなるため、焦点検出画素311には、赤色フィルタおよび青色フィルタよりも多く配置される緑色フィルタが設けられるのが好ましい。
図26は、図25に示す画素レイアウトを持つ撮像素子212の構成を示すブロック図であって、図10の構成と同一な部分は説明を省略し、特徴的な部分のみについて説明する。図10との主要な相違点は、カラムAD変換装置42と第2ラインメモリ44、カラムデジタル加算装置46の中間に第2カラムスイッチ装置43を設けることにより、第2ラインメモリ44を構成するメモリの数およびカラムデジタル加算装置46を構成するデジタル加算回路の数を減少させている点である。
撮像素子212は、一対の光電変換部13,14を含む焦点検出画素311が行列状(マトリックス状)に多数2次元配置されてなる画素アレイ部40に加えて、行走査回路41、カラムAD変換装置42、第2カラムスイッチ装置43、第2ラインメモリ44、第2列走査回路51、第2水平出力回路45、カラムデジタル加算装置46、第1カラムスイッチ装置47、第1ラインメモリ48、第1列走査回路52、第1水平出力回路49およびタイミング制御回路50を有する構成となっている。
このシステム構成において、タイミング制御回路50は、外部から入力されるマスタークロックおよび撮像素子制御部220から入力される制御信号に基づいて、行走査回路41、カラムAD変換装置42、第1カラムスイッチ装置47、第2カラムスイッチ装置43、カラムデジタル加算装置46、第1ラインメモリ48、第1ラインメモリ44、第1列走査回路52、第2列走査回路51などの動作の基準となるクロック信号や制御信号などを生成し、行走査回路41、カラムAD変換装置42、第1カラムスイッチ装置47、第2カラムスイッチ装置43、カラムデジタル加算装置46、第1ラインメモリ48、第1ラインメモリ44、第1列走査回路52、第2列走査回路51などに対して与える。
画素アレイ部40には、撮像画素310と焦点検出画素311が2N行2M列分だけ2次元配置される。図26において左上の焦点検出画素311が1行目、1列目の画素であり、この画素にはベイヤー配列の緑色のフィルタが配置されることになる。この2N行2M列の画素配置に対して行毎に行制御線21(21(1)〜21(2N))が配線され、列毎に2本の列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)が配線される。行制御線の数は全部で2N本となり、列信号線の数は全部で4M本となる。行制御線21(21(1)〜21(2N))の各一端は、行走査回路41の各行に対応した各出力端に接続され、各行制御線21には制御信号R(1)〜R(2N)が出力される。
同一行に配置された撮像画素310の光電変換部および焦点検出画素311の一対の光電変換部13,14は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。撮像画素310の光電変換部11は列毎に設けられた2本の列信号線の一方の列信号線22(m)aに接続され、光電変換部11の出力信号(アナログ信号)は列信号線22(m)aに出力される。また焦点検出画素311の一対の光電変換部13,14の一方の光電変換部13は列毎に設けられた2本の列信号線の一方の列信号線22(m)bに接続され、光電変換部13の出力信号(アナログ信号)は列信号線22(m)bに出力される。また焦点検出画素311の一対の光電変換部13,14の他方の光電変換部14は列毎に設けられた2本の列信号線の他方の列信号線22(m)aに接続され、光電変換部14の出力信号(アナログ信号)は列信号線22(m)aに出力される。例えば行走査回路41から与えられる制御信号R(L)により画素アレイ部40のL行目が選択された場合には、L行目の撮像画素310の光電変換部11の出力信号が列信号線(22(1)a〜22(2M)a)に出力されL行目の焦点検出画素311の一対の光電変換部13,14の出力信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力されることになる。この時Lが奇数の場合には、この行の偶数列には撮像画素310が配置されているため、偶数列に対応する列信号線22(2m)b上の信号は無効信号となる。またLが偶数の場合には、この行の奇数列には撮像画素310が配置されているため、奇数列に対応する列信号線22(2m+1)b上の信号は無効信号となる。
カラムAD変換装置42は、画素アレイ部40の画素列に対応して設けられた列信号線22(1)a、22(1)b〜22(2M)a、22(2M)b毎に設けられた4M個のADC(アナログ−デジタル変換回路)23(1)a、23(1)b〜23(2M)a、23(2M)bを有し、画素アレイ部40の各画素から列毎に出力されるアナログ信号を、タイミング制御回路50から与えられる制御信号TA1に応じて、Hビットのデジタル信号(S(1)a、S(1)b〜S(2M)a、S(2M)b)に変換して出力する。
第2カラムスイッチ装置43は、隣接した2列の画素列毎に設けられたM個のスイッチ24(1、2)〜24(2M−1、2M)を有し、ADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)毎に出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TW2に応じて選択して出力する。
図27(a)、(b)は隣接した2列の画素列((2m+1)列と(2m+2)列)に設けられたスイッチ24(2m+1、2m+2)の選択動作を説明する図であって、スイッチ24(2m+1、2m+2)には2列の画素列((2m+1)列と(2m+2)列)に対応した4個のADC(23(2m+1)a、23(2m+1)b、23(2m+2)a、23(2m+2)b)から4つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)a、S(2m+2)bが入力される。スイッチ24(2m+1、2m+2)には2の倍数列、例えば4列の画素列((2m+1)列、(2m+2)列、(2m+3)列、(2m+4)列)に対応した4の倍数個、例えば8個のADC(23(2m+1)a、23(2m+1)b、23(2m+2)a、23(2m+2)b、23(2m+3)a、23(2m+3)b、23(2m+4)a、23(2m+4)b)から、4の倍数個、例えば8つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)a、S(2m+2)b、S(2m+3)a、S(2m+3)b、S(2m+4)a、S(2m+4)bが入力されることとしてもよい。その場合、例えば(2m+1)列に焦点検出画素311が配置され、かつ(2m+2)列、(2m+3)列、(2m+4)列にはいずれも撮像素子310が配置される。
図27(a)は行走査回路41により画素アレイ部40の奇数行目が選択された場合のスイッチ24(2m+1、2m+2)の選択動作であり、スイッチ24(2m+1、2m+2)には奇数行目の偶数列目に配置された撮像画素310と奇数行目の奇数列目に焦点検出画素311に対応する4つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)a、S(2m+2)bが入力される。このうち信号S(2m+2)bは無効信号となる。
スイッチ24(2m+1、2m+2)は第2カラムスイッチ装置43に入力される制御信号TW2(奇数行か偶数行かの識別情報)に応じて、デジタル加算用の一対の信号(Q(2m+1、2m+2)a、Q(2m+1、2m+2)b)として、焦点検出画素311の一対の光電変換部に対応したデジタル信号S(2m+1)a、S(2m+1)bを選択して出力する。
図27(b)は行走査回路41により画素アレイ部40の偶数行目が選択された場合のスイッチ24(2m+1、2m+2)の選択動作であり、スイッチ24(2m+1、2m+2)には偶数行目の奇数列目に配置された撮像画素310と偶数行目の偶数列目に焦点検出画素311に対応する4つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)a、S(2m+2)bが入力される。このうち信号S(2m+1)bは無効信号となる。
スイッチ24(2m+1、2m+2)は第2カラムスイッチ装置43に入力される制御信号TW2(奇数行か偶数行かの識別情報)に応じて、焦点検出画素311の一対の光電変換部13,14に対応する一対の信号(Q(2m+1、2m+2)a、Q(2m+1、2m+2)b)として、焦点検出画素311の一対の光電変換部に対応したデジタル信号S(2m+2)a、S(2m+2)bを選択して出力する。
第2ラインメモリ44は、第2カラムスイッチ装置43のM個のスイッチ24(1、2)〜24(2M−1、2M)毎に一対設けられた合計2M個のメモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)を有し、M個のスイッチ24(1、2)〜24(2M−1、2M)毎に出力される焦点検出画素311の一対の光電変換部13,14に対応する一対のデジタル信号(Q(1、2)a、Q(1、2)b〜Q(2M−1、2M)a、Q(2M−1、2M)b)を、タイミング制御回路50から与えられる制御信号TM2に応じて、Hビットのデジタル信号として記憶する。ここで第2ラインメモリ44の各メモリ(25(1、2)a、25(1、2)b〜25(22M−1、2M)a、25(22M−1、2M)b)には1行分のM個の焦点検出画素について一対の光電変換部13,14の出力信号がデジタル信号として記憶されることになる。
カラムデジタル加算装置46は、第2カラムスイッチ装置43のM個のスイッチ24(1、2)〜24(2M−1、2M)毎に設けられた合計M個のデジタル加算回路(26(1、2)〜26(2M−1、2M))を有し、M個のスイッチ24(1、2)〜24(2M−1、2M)毎に出力される焦点検出画素311の一対の光電変換部13,14に対応する一対のデジタル信号(Q(1、2)a、Q(1、2)b〜Q(2M−1、2M)a、Q(2M−1、2M)b)を、タイミング制御回路50から与えられる制御信号TD1に応じて加算し、Hビットの加算デジタル信号(P(1、2)〜P(2M−1、2M))として出力する。
第1カラムスイッチ装置47は、隣接した2列の画素列毎に設けられたM個のスイッチ27(1、2)〜27(2M−1、2M)を有し、2M個のADC(23(1)a〜23(2M)a)毎に出力されるデジタル信号(S(1)a、S(2)a〜S(2M−1)a、S(2M)a)と、M個のデジタル加算回路(26(1、2)〜26(2M−1、2M))毎に出力される加算デジタル信号(P(1、2)〜P(2M−1、2M))を、タイミング制御回路50から与えられる制御信号TW1(奇数行か偶数行かの識別情報)に応じて選択して出力する。
図28(a)、(b)は隣接した2列の画素列((2m+1)列と(2m+2)列)に設けられたスイッチ27(2m+1、2m+2)の選択動作を説明する図であって、スイッチ27(2m+1、2m+2)には2列の画素列((2m+1)列と(2m+2)列)に対応した2個のADC(23(2m+1)a、23(2m+2)a)から2つのデジタル信号S(2m+1)a、S(2m+2)aが入力されるとともに、デジタル加算回路26(2m+1、2m+2)から1つの加算デジタル信号P(2m+1、2m+2)が入力される。
図28(a)は行走査回路41により画素アレイ部40の奇数行目が選択された場合のスイッチ27(2m+1、2m+2)の選択動作であり、スイッチ27(2m+1、2m+2)には奇数行目の偶数列目に配置された撮像画素310の光電変換部11に対応する1つのデジタル信号S(2m+2)aと奇数行目の奇数列目に配置された焦点検出画素311の光電変換部14に対応する1つのデジタル信号S(2m+1)aと、デジタル加算回路26(2m+1、2m+2)から奇数行目の奇数列目に配置された焦点検出画素311の一対の光電変換部13,14に対応する一対の信号S(2m+1)a、(2m+1)bを加算した加算デジタル信号P(2m+1、2m+2)(撮像画素の信号に相当する)が入力される。このうち、ADC23(2m+1)aから入力された信号S(2m+1)aは撮像画素の信号に相当していない。
スイッチ27(2m+1、2m+2)は第1カラムスイッチ装置47に入力される制御信号TW1(奇数行か偶数行かの識別情報)に応じて、奇数列目に配置される仮想的な撮像画素の信号に相当する信号U(2m+1)として、焦点検出画素311の一対の光電変換部に対応したデジタル信号を加算したデジタル加算信号P(2m+1、2m+2)を選択して出力するとともに、偶数列目に配置される撮像画素の信号U(2m+1)として、撮像画素310に対応するデジタル信号S(2m+2)aを選択して出力する。
図28(b)は行走査回路41により画素アレイ部40の偶数行目が選択された場合のスイッチ27(2m+1、2m+2)の選択動作であり、スイッチ27(2m+1、2m+2)には偶数行目の奇数列目に配置された撮像画素310の光電変換部11に対応する1つのデジタル信号S(2m+1)aと偶数行目の偶数列目に配置された焦点検出画素311の光電変換部14に対応する1つのデジタル信号S(2m+2)aと、デジタル加算回路26(2m+1、2m+2)から偶数行目の偶数列目に配置された焦点検出画素311の一対の光電変換部13,14に対応する一対の信号S(2m+2)a、(2m+2)bを加算した加算デジタル信号P(2m+1、2m+2)(撮像画素の信号に相当する)が入力される。このうち信号S(2m+2)aは撮像画素の信号に相当していない。
スイッチ27(2m+1、2m+2)は第1カラムスイッチ装置47に入力される制御信号TW1(奇数行か偶数行かの識別情報)に応じて、偶数列目に配置される仮想的な撮像画素の信号に相当する信号U(2m+2)として、焦点検出画素311の一対の光電変換部に対応したデジタル信号を加算したデジタル加算信号P(2m+1、2m+2)を選択して出力するとともに、奇数列目に配置される撮像画素の信号U(2m+1)として、撮像画素310に対応するデジタル信号S(2m+1)aを選択して出力する。
第1ラインメモリ48は、カラムスイッチ装置47を構成するM個のスイッチ(27(1、2)〜27(2M−1、2M))毎に一対設けられた2M個のメモリ(28(1)〜28(2M))を有し、スイッチ(27(1、2)〜27(2M−1、2M))毎に一対出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TM1に応じて、Hビットのデジタル信号として記憶する。ここで第1ラインメモリ48の各メモリ(28(1)〜28(2M))には1行分の焦点検出画素について一対の光電変換部13,14の出力信号を加算した加算信号(撮像画素の出力信号に相当する)と撮像画素の光電変換部の出力信号が、焦点検出画素を撮像画素の配置順に応じてデジタル信号として記憶されることになる。
第2列走査回路51は、シフトレジスタなどによって構成され、タイミング制御回路50の制御のもとに第2ラインメモリ44におけるメモリ(25(1)a、25(1)b〜25(2M)a、25(2M)b)の列アドレスや列走査の制御を行う。第2ラインメモリ44は第2列走査回路51から与えられる走査信号TS2に応じて動作し、メモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)の各々で記憶されたHビットのデジタル信号は順に第2水平出力回路45に読み出され、当該第2水平出力回路45を経由して焦点検出用の一対の光電変換部13,14の出力信号(デジタル信号)として外部にシリアル出力(データ数は2M個)される。
第1列走査回路52は、シフトレジスタなどによって構成され、タイミング制御回路50の制御のもとに第1ラインメモリ48におけるメモリ(28(1)〜28(2M))の列アドレスや列走査の制御を行う。第1ラインメモリ48は第1列走査回路52から与えられる走査信号TS1に応じて動作し、メモリ(28(1)〜28(2M))の各々で記憶されたHビットのデジタル信号および加算デジタル信号は順に第1水平出力回路49に読み出され、当該第1水平出力回路49を経由して撮像画素配列の出力信号と同等な出力信号(デジタル信号)として外部にシリアル出力される。
次に、図26に示した撮像素子の構成において、1フレーム期間中に焦点検出画素の一対の光電変換部の出力信号(焦点検出用の信号)の個別読出し動作と撮像画素の出力信号に相当する出力信号(画像処理用の信号)の読出し動作を並行して行う場合について、図29のタイミングチャートを用いて説明する。
図26に示した撮像素子の構成において、行走査回路41による行走査選択動作の概要は図11に示す動作と同一である。
図29は、図11における(2n+1)行、(2n+2)行、(2n+3)行の動作部分を拡大した図である。制御信号R(2n+1)により画素アレイ部40の(2n+1)行が選択されると、(2n+1)行の1ライン分の焦点検出画素311と撮像画素310のアナログ信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力される。列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力された(2n+1)行の1ライン分の奇数列に配置された焦点検出画素311の一対の光電変換部13,14のアナログ信号と偶数列に配置された撮像信号310の光電変換部11のアナログ信号は制御信号TA1に応じて、列信号線22(1)a、22(1)b〜22(2M)a、22(2M)に接続されたカラムAD変換装置42のADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)によりデジタル信号に変換される。
カラムAD変換装置42から第2カラムスイッチ装置43に入力される(2n+1)行の1ライン分の奇数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号と偶数列に配置された撮像信号310の光電変換部11のデジタル信号は、制御信号TW2に応じて、第2カラムスイッチ装置43(24(1、2)〜24(2M−1、2M))により奇数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号が選択されて出力される。
第2カラムスイッチ装置43(24(1、2)〜24(2M−1、2M))から出力される奇数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号は、制御信号TM2に応じて、第2ラインメモリ44の2M個のメモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)に記憶される。
それと同時に奇数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号は、制御信号TD1に応じて、カラムデジタル加算装置46のM個のデジタル加算回路(26(1、2)〜26(2M−1、2M))により加算されて出力される。
第1カラムスイッチ装置47に入力される奇数列に配置された焦点検出画素311の一対の光電変換部の一方の光電変換部14に対応するデジタル信号と偶数列に配置された撮像信号310の光電変換部11のデジタル信号と奇数列に配置された焦点検出画素311の一対の光電変換部13、14に対応するデジタル信号を加算した加算デジタル信号は、制御信号TW1に応じて、第1カラムスイッチ装置47(27(1、2)〜27(2M−1、2M))により奇数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号と偶数列に配置された撮像信号310の光電変換部11のデジタル信号とが選択され、奇数列の撮像画素の出力信号として奇数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号が出力され、偶数列の撮像画素の出力信号として偶数列に配置された撮像信号310の光電変換部11のデジタル信号が出力される。
第1カラムスイッチ装置47により選択出力された奇数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号と偶数列に配置された撮像信号310の光電変換部11のデジタル信号とは、制御信号TM1に応じて、第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶される。
第2ラインメモリ44の2M個のメモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)に記憶された(2n+1)行の奇数列に配置されたM個の焦点検出画素311の一対の光電変換部13,14のデジタル信号は、走査信号TS2に応じて、次の水平同期信号HSが発生するまでの期間に第2水平出力回路45から外部に順次シリアル出力される。
同じく第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶された(2n+1)行の撮像画素の出力信号に相当する2M個のデジタル信号(奇数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号と偶数列に配置された撮像信号310の光電変換部11のデジタル信号)は、走査信号TS1に応じて、次の水平同期信号HSが発生するまでの期間に第1水平出力回路49から外部に順次シリアル出力される。
次の水平同期信号HSに同期して制御信号R(2n+2)が発せられ、画素アレイ部40の(2n+2)行が選択されると、(2n+2)行の1ライン分の焦点検出画素311と撮像画素310のアナログ信号が列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力される。列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)に出力された(2n+2)行の1ライン分の偶数列に配置された焦点検出画素311の一対の光電変換部13,14のアナログ信号と奇数列に配置された撮像信号310の光電変換部11のアナログ信号は制御信号TA1に応じて、列信号線22(1)a、22(1)b〜22(2M)a、22(2M)に接続されたカラムAD変換装置42のADC(23(1)a、23(1)b〜23(2M)a、23(2M)b)によりデジタル信号に変換される。
カラムAD変換装置42から第2カラムスイッチ装置43に入力される(2n+2)行の1ライン分の偶数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号と奇数列に配置された撮像信号310の光電変換部11のデジタル信号は、制御信号TW2に応じて、第2カラムスイッチ装置43(24(1、2)〜24(2M−1、2M))により偶数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号が選択されて出力される。
第2カラムスイッチ装置43(24(1、2)〜24(2M−1、2M))から出力される偶数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号は、制御信号TM2に応じて、第2ラインメモリ44の2M個のメモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)に記憶される。
それと同時に偶数列に配置された焦点検出画素311の一対の光電変換部13,14のデジタル信号は、制御信号TD1に応じて、カラムデジタル加算装置46のM個のデジタル加算回路(26(1、2)〜26(2M−1、2M))により加算されて出力される。
第1カラムスイッチ装置47に入力される偶数列に配置された焦点検出画素311の一対の光電変換部の一方の光電変換部14に対応するデジタル信号と奇数列に配置された撮像信号310の光電変換部11のデジタル信号と偶数列に配置された焦点検出画素311の一対の光電変換部13、14に対応するデジタル信号を加算した加算デジタル信号は、制御信号TW1に応じて、第1カラムスイッチ装置47(27(1、2)〜27(2M−1、2M))により偶数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号と奇数列に配置された撮像信号310の光電変換部11のデジタル信号とが選択され、偶数列の撮像画素の出力信号として偶数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号が出力され、奇数列の撮像画素の出力信号として奇数列に配置された撮像信号310の光電変換部11のデジタル信号が出力される。
第1カラムスイッチ装置47により選択出力された偶数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号と奇数列に配置された撮像信号310の光電変換部11のデジタル信号とは、制御信号TM1に応じて、第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶される。
第2ラインメモリ44の2M個のメモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)に記憶された(2n+2)行の偶数列に配置されたM個の焦点検出画素311の一対の光電変換部13,14のデジタル信号は、走査信号TS2に応じて、次の水平同期信号HSが発生するまでの期間に第2水平出力回路45から外部に順次シリアル出力される。第2水平出力回路45から出力されたデジタル信号に基づき、ボディ駆動制御装置214の焦点検出用のCPUa222が、図13に示すように、交換レンズ202(光学系)の焦点状態を検出し、その焦点状態を調節する。
同じく第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶された(2n+2)行の撮像画素の出力信号に相当する2M個のデジタル信号(偶数列に配置された焦点検出画素311の一対の光電変換部13,14の加算デジタル信号と奇数列に配置された撮像画素310の光電変換部11のデジタル信号)は、走査信号TS1に応じて、次の水平同期信号HSが発生するまでの期間に第1水平出力回路49から外部に順次シリアル出力される。第1水平出力回路49から出力された2M個のデジタル信号(偶数列の焦点検出画素311の一対の光電変換部13,14の加算デジタル信号および奇数列の撮像画素310の光電変換部11のデジタル信号)に基づき、ボディ駆動制御装置214の画像処理用のCPUb223が、図14に示すように、画像データを生成する。ただし、本実施の形態では、図14のステップS210において、第1水平出力回路49から出力された2M個のデジタル信号(偶数列の焦点検出画素311の一対の光電変換部13,14の加算デジタル信号および奇数列の撮像画素310の光電変換部11のデジタル信号)のデータが読み出され、その読み出されたデータに対して表示用の画像処理が行なわれてから電子ビューファインダーに表示される。また、図14のステップS230においては、第1水平出力回路49から出力された2M個のデジタル信号(偶数列の焦点検出画素311の一対の光電変換部13,14の加算デジタル信号および奇数列の撮像画素310の光電変換部11のデジタル信号)のデータが読み出され、その読み出されたデータに対して周知の画像処理(デモザイク処理、ノイズ処理、階調処理、ホワイトバランス処理など)が施されて画像データが生成される。
次の水平同期信号HSに同期して制御信号R(2n+3)が発せられ、画素アレイ部40の(2n+3)行が選択されると、(2n+3)行の1ライン分の焦点検出画素311と撮像画素310に対して制御信号R(2n+1)の場合と同様な動作で処理が繰り返される。
以上のように第3実施形態においては画素アレイ部40撮像画素310と焦点検出画素311を混在させ、ベイヤー配列の緑色フィルタの位置に焦点検出画素311を配置し、赤色フィルタおよび青色フィルタの位置に撮像画素310を配置するとともに、行走査回路41により画素アレイ部40の奇数行と偶数行のどちらが走査されたかによって、第1カラムスイッチ装置47、第2カラムスイッチ装置43の選択処理を切替えているため、図10の撮像素子の構成に比較して、スイッチ回路と比較して回路規模が大きいカラムデジタル加算装置46を構成するデジタル回路の個数を削減(2M個からM個に削減)でき、同じくスイッチ回路と比較して回路規模が大きい第2ラインメモリ44を構成するメモリの個数を削減(4M個から2M個)でき、撮像素子の構成を簡素化することができる。同時に第2水平出力回路45から水平走査期間中に出力されるデータ数が図10の撮像素子の構成に比較して半減(4M個から2M個に削減)され、第1水平出力回路49から水平走査期間中に出力されるデータ数と同じになり、データ転送レートを下げることができる。また第2水平出力回路45から読み出される焦点検出用のデータは緑色フィルタを備える焦点検出画素のデータに統一されており、焦点検出に都合が良い(自然界には緑色のコントラストを有する被写体が多いとともに、一般的に撮影レンズに色収差がある場合には緑色に対する焦点位置を合焦位置とする)。
以上説明した第3実施形態においては、1行における第2列走査回路51の水平走査に応じた焦点検出用のデータの数と第1列走査回路52の水平走査に応じた画像用のデータの数が一致しているので、第2列走査回路51と第1列走査回路52を共通化(例えば第1列走査回路52の走査信号TS1を第2ラインメモリ44の走査信号TS2として使用する)することにより、撮像素子の構成をより簡素化することも可能である。
以上説明した第3実施形態においては、焦点検出用に全ての焦点検出画素の一対の光電変換部のデータを1フレーム毎に読み出すとして説明を行なったが、全て焦点検出画素の一対の光電変換部のデータを読み出すのは負荷も多く、データ格納用に多量のメモリ容量も必要になるので、必要に応じてフレーム間引き(数フレームに1回読み出す)/行間引き(数行に1行読み出す)/行部分読出し(一部の行だけ読み出す)/列間引き(数列に1列読み出す)/列部分読出し(一部の列だけ読み出す)ようにしても構わない。
図30は行部分読出し((2n+2)行目のみ焦点検出画素の一対の光電変換部のデータを読み出す)を行なう場合の、図29に対応したタイミングチャートである。制御信号R(2n+2)により画素アレイ部40の(2n+2)行が選択された場合の動作は図29と同一である。一方(2n+2)行以外が選択された場合(図30の制御信号R(2n+1)、制御信号R(2n+3)に応じた動作)には、制御信号TM2が発生せず、第2ラインメモリ44のメモリ(25(1、2)a、25(1、2)b〜25(2M−1、2M)a、25(2M−1、2M)b)には焦点検出画素の一対の光電変換部のデータは記憶されない。また走査信号TS2も発生しないので、次の水平同期信号HSが発生するまでの期間に第2水平出力回路45から外部に順次シリアル出力もされない。
行部分読出しする行や列部分読出しする列は選択された焦点検出エリアの位置に応じて、ボディ駆動制御装置214から撮像素子212に情報を送付して変更可能にすることができる。
以上説明した第3実施形態において、第1カラムスイッチ装置47を構成する各スイッチは図28で示すように、行走査回路41により画素アレイ部40の奇数行が選択されているか偶数行が選択されているかに応じて、撮像画素の出力信号に相当する2つの信号を選択するとともに、選択されている行における画素並びに整合するように選択された2つの信号を振り分けて第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶しているが、選択された2つの信号を選択されている行における画素並び順に整合するように振り分けることなく固定的に第1ラインメモリ48のメモリ((28(1)〜28(2M))に記憶するようにするとともに、第1列走査回路52が第1ラインメモリ48のメモリ((28(1)〜28(2M))に供給する走査信号TS1を行走査回路41により画素アレイ部40の奇数行が選択されているか偶数行が選択されているかに応じて、選択されている行における画素並び順に整合するように走査信号TS1を変更して第1ラインメモリ48のメモリ((28(1)〜28(2M))を走査するようにしてもよい。
<第4実施形態>
第4実施形態は第3実施形態の変形例であって、図31に示す第4実施形態の撮像素子212の構成において、図26の構成と同一な部分は説明を省略し、特徴的な部分のみについて説明する。画素アレイ部40における図26との相違点は、画素アレイ部40において、図26では列毎に2本の列信号線(22(1)a、22(1)b〜22(2M)a、22(2M)b)が配線され、列信号線の数は全部で4M本であったのに対し、図31においては 偶数列においては列信号線の数が1本に削減され、奇数列の列信号線を共用することにより、列信号線の数は全部で3M本に削減されている点である。第4実施形態においては列信号線の本数を減らすことにより、画素アレイ部40における配線レイアウトの過密状態を緩和するとともに、光電変換部の面積の増加が可能となり、より高画質な画像取得と高精度な焦点検出が可能になる。
また第4実施形態においては列信号線の本数の減少に伴い、カラムAD変換装置42を構成するADCの個数も削減(4M個から3M個)でき、撮像素子の構成を簡素化することができる。
図31において、行制御線21(21(1)〜21(2N))の各一端は、行走査回路41の各行に対応した各出力端に接続され、各行制御線21には制御信号R(1)〜R(2N)が出力される。
同一行に配置された撮像画素310の光電変換部および焦点検出画素311の一対の光電変換部13,14は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。画素アレイ部40において奇数列には2本の列信号線22(2m+1)a、22(2m+1)bが配置され、偶数列には1本の列信号線22(2m+2)aが配置される。奇数列に設けられた撮像画素310の光電変換部11と奇数列に設けられた焦点検出画素311の光電変換部14は奇数列に設けられた2本の列信号線の一方の列信号線22(2m+1)aに接続され、奇数列に設けられた焦点検出画素311の光電変換部13は奇数列に設けられたもう一方の列信号線22(2m+1)bに接続される。また偶数列に設けられた撮像画素310の光電変換部11と偶数列に設けられた焦点検出画素311の光電変換部14は偶数列に設けられた列信号線22(2m+2)aに接続され、偶数列に設けられた焦点検出画素311の光電変換部13は奇数列に設けられた列信号線22(2m+1)bに接続される。
例えば行走査回路41により画素アレイ部40の奇数行目が選択された場合には、奇数行目の撮像画素310の光電変換部11の出力信号が列信号線22(2m+2)aに出力され、奇数行目の焦点検出画素311の一対の光電変換部13,14の出力信号が列信号線22(2m+1)a、22(2m+1)bに出力されることになる。また行走査回路41により画素アレイ部40の偶数行目が選択された場合には、偶数行目の撮像画素310の光電変換部11の出力信号が列信号線22(2m+1)aに出力され、偶数行目の焦点検出画素311の光電変換部14の出力信号が列信号線22(2m+2)aに出力され、偶数行目の焦点検出画素311の光電変換部13の出力信号が列信号線22(2m+1)bに出力されることになる。
カラムAD変換装置42は、画素アレイ部40の画素列に対応して設けられた3M本の列信号線22(1)a、22(1)b〜22(2M)a毎に設けられた3M個のADC(アナログ−デジタル変換回路)23(1)a、23(1)b〜23(2M)aを有し、画素アレイ部40の各画素から列毎に出力されるアナログ信号を、タイミング制御回路50から与えられる制御信号TA1に応じて、Hビットのデジタル信号(S(1)a、S(1)b〜S(2M)a)に変換して出力する。
第2カラムスイッチ装置43は、隣接した2列の画素列毎に設けられたM個のスイッチ24(1、2)〜24(2M−1、2M)を有し、ADC(23(1)a、23(1)b〜23(2M)a)毎に出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TW2に応じて選択して出力する。
図32は(a)、(b)は隣接した2列の画素列((2m+1)列と(2m+2)列)に設けられたスイッチ24(2m+1、2m+2)の選択動作を説明する図であって、スイッチ24(2m+1、2m+2)には奇数列(2m+1)列に対応した2個のADC(23(2m+1)a、23(2m+1)b)と偶数列(2m+2)列に対応した1個のADC(23(2m+2)a)から3つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)aが入力される。
図32(a)は行走査回路41により画素アレイ部40の奇数行目が選択された場合のスイッチ24(2m+1、2m+2)の選択動作であり、スイッチ24(2m+1、2m+2)には奇数行目の偶数列目に配置された撮像画素310と奇数行目の奇数列目に焦点検出画素311に対応する3つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)aが入力される。
スイッチ24(2m+1、2m+2)は第2カラムスイッチ装置43に入力される制御信号TW2(奇数行を示す)に応じて、デジタル加算用の一対の信号(Q(2m+1、2m+2)a、Q(2m+1、2m+2)b)として、焦点検出画素311の一対の光電変換部に対応したデジタル信号S(2m+1)a、S(2m+1)bを選択して出力する。
図32(b)は行走査回路41により画素アレイ部40の偶数行目が選択された場合のスイッチ24(2m+1、2m+2)の選択動作であり、スイッチ24(2m+1、2m+2)には偶数行目の奇数列目に配置された撮像画素310と偶数行目の偶数列目に焦点検出画素311に対応する3つのデジタル信号S(2m+1)a、S(2m+1)b、S(2m+2)aが入力される。
スイッチ24(2m+1、2m+2)は第2カラムスイッチ装置43に入力される制御信号TW2(偶数行を示す)に応じて、焦点検出画素311の一対の光電変換部13,14に対応する一対の信号(Q(2m+1、2m+2)a、Q(2m+1、2m+2)b)として、焦点検出画素311の一対の光電変換部に対応したデジタル信号S(2m+2)a、S(2m+1)bを選択して出力する。
<第5実施形態>
第5実施形態は第3実施形態における画素アレイ部の焦点検出画素の構成の変形例である。図33は図25の画素レイアウト図に対応した図(フィルタ配列は図4に対応している)であって、図25の偶数行目に配置された焦点検出画311が、垂直方向に並置された一対の光電変換部16,17を有する焦点検出画素312に置換される。
即ち奇数行においては、奇数列に焦点検出画素311、偶数列には撮像画素310が配置され、偶数行においては、奇数列に撮像画素310,偶数列に焦点検出画素312が配置される。ベイヤー配列の色フィルタの観点では、焦点検出画素311と焦点検出画素312には緑色フィルタが備えられ、撮像画素310は赤色フィルタ又青色フィルタが備えられることになる。
図34は、図33に示す画素レイアウトを持つ撮像素子212の構成を示すブロック図であって、図26の構成と同一な部分は説明を省略し、特徴的な部分のみについて説明する。画素アレイ部40における図26との相違点は、偶数行目の偶数列において、垂直方向に分離した一対の光電変換部16,17を備える焦点検出画素312が配置されている点である。
偶数行の偶数列に配置された各焦点検出画素312の一対の光電変換部16,17は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)(Lは偶数)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。また偶数行の偶数列に各焦点検出画素312の一対の光電変換部16,17の一方の光電変換部16は列毎に設けられた2本の列信号線の一方の列信号線22(2m+2)aに接続され、光電変換部16の出力信号(アナログ信号)は列信号線22(2m+2)aに出力される。また各焦点検出画素312の一対の光電変換部16,17の他方の光電変換部17は列毎に設けられた2本の列信号線の他方の列信号線22(2m+2)bに接続され、光電変換部17の出力信号(アナログ信号)は列信号線22(2m+2)bに出力される。
以上のような構成の撮像素子212を用いた場合には奇数行目の偶数列に配列された緑色フィルタを備えた焦点検出画素311の一対の光電変換部13,14のデータを水平方向に光電変換部毎にグループ化した一対のデータを用いて水平方向にコントラスト変化のある被写体像に対して位相差検出が可能になるとともに、偶数行目の偶数列に配置された緑色フィルタを備えた焦点検出画素312の一対の光電変換部16,17のデータを光電変換部毎に垂直方向にグループ化した一対のデータを用いて垂直方向にコントラスト変化のある被写体像に対して位相差検出が可能になる。
<第6実施形態>
第6実施形態は第4実施形態における画素アレイ部の焦点検出画素の構成の変形例である。第6実施形態における画素レイアウトは図33と同一であって、図25の偶数行目に配置された焦点検出画311が垂直方向に並置された一対の光電変換部16,17を有する焦点検出画素312に置換される。
即ち奇数行においては、奇数列に焦点検出画素311、偶数列には撮像画素310が配置され、偶数行においては、奇数列に撮像画素310,偶数列に焦点検出画素312が配置される。ベイヤー配列の色フィルタの観点では、焦点検出画素311と焦点検出画素312には緑色フィルタが備えられ、撮像画素310は赤色フィルタ又青色フィルタが備えられることになる。
図35は、図33に示す画素レイアウトを持つ撮像素子212の構成を示すブロック図であって、図31の構成と同一な部分は説明を省略し、特徴的な部分のみについて説明する。画素アレイ部40における図31との相違点は、偶数行目の偶数列において、垂直方向に分離した一対の光電変換部16,17を備える焦点検出画素312が配置されている点である。
偶数行の偶数列に配置された各焦点検出画素312の一対の光電変換部16,17は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)(Lは偶数)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。また各焦点検出画素312の一対の光電変換部16,17の一方の光電変換部16は偶数列に設けられた1本の列信号線の一方の列信号線22(2m+2)aに接続され、光電変換部16の出力信号(アナログ信号)は列信号線22(2m+2)aに出力される。また各焦点検出画素312の一対の光電変換部16,17の他方の光電変換部17は奇数列に設けられた2本の列信号線のうちの1本の列信号線22(2m+1)bに接続され、光電変換部17の出力信号(アナログ信号)は列信号線22(2m+1)bに出力される。
以上のような構成の撮像素子212を用いた場合には奇数行目の偶数列に配列された緑色フィルタを備えた焦点検出画素311の一対の光電変換部13,14のデータを水平方向に光電変換部毎にグループ化した一対のデータを用いて水平方向にコントラスト変化のある被写体像に対して位相差検出が可能になるとともに、偶数行目の偶数列に配置された緑色フィルタを備えた焦点検出画素312の一対の光電変換部16,17のデータを光電変換部毎に垂直方向にグループ化した一対のデータを用いて垂直方向にコントラスト変化のある被写体像に対して位相差検出が可能になる。
<第7実施形態>
第1実施形態〜第6実施形態においては、画素アレイ部40に画素(焦点検出画素、撮像画素)が正方格子状に配列されていたが、正方格子状の画素配列以外の画素配列にも本発明を適用することが可能である。
図36はいわゆるハニカム配列と呼ばれている画素配列であって、正方格子配列を45度回転させた画素配列となっている。また図36の画素レイアウトに対応するフィルタ配列を図37に示す。図37に示すフィルタ配列はベイヤー配列を45度傾けたフィルタ配列となっている。図36、図37に示すハニカム配列には、水平方向に一対の光電変換部33,34が並置された焦点検出画素411が配列される。
このようなハニカム配列における行列を次のように定義する。即ち緑色フィルタが配置された水平方向の画素配列を奇数行、赤色フィルタまたは青色フィルタが配置された水平方向の画素配列を偶数行とするとともに、緑色フィルタが配置された垂直方向の画素配列を奇数列、赤色フィルタまたは青色フィルタが配置された垂直方向の画素配列を偶数列とする。
図38は、図36に示すハニカム配列の画素レイアウト(2N行2M列)を持つ撮像素子212の構成を示すブロック図であって、図10に示す撮像素子の構成において画素アレイ部40に配列された焦点検出画素311を1画素おきに間引きして焦点検出画素411に置換した構成となっている。即ち奇数行においては奇数列のみに焦点検出画素411が配置され、偶数行においては偶数列のみに焦点検出画素411が配置されることになる。
画素アレイ部40には、焦点検出画素411が2N行2M列分だけ2次元配置される。図38において左上の焦点検出画素411が1行目、1列目の画素であり、この画素には緑色のフィルタが配置される。この2N行2M列の画素配置に対して行毎に行制御線21(21(1)〜21(2N))が配線され、奇数列に2本の列信号線(22(1)a、22(1)b〜22(2M―1)a、22(2M−1)b)が配線されている。行制御線21(21(1)〜21(2N))の各一端は、行走査回路41の各行に対応した各出力端に接続され、各行制御線21には制御信号R(1)〜R(2N)が出力される。
各焦点検出画素411の一対の光電変換部33,34は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。また奇数行の奇数列(2m+1列)に配置された焦点検出画素411の一対の光電変換部33,34の一方の光電変換部33は奇数列(2m+1列)に設けられた2本の列信号線の一方の列信号線22(2m+1)bに接続され、光電変換部33の出力信号(アナログ信号)は列信号線22(2m+1)bに出力される。また各焦点検出画素411の一対の光電変換部33,34の他方の光電変換部34は奇数列(2m+1列)に設けられた2本の列信号線の他方の列信号線22(2m+1)aに接続され、光電変換部34の出力信号(アナログ信号)は列信号線22(2m+1)aに出力される。
また偶数行の偶数列(2m+2列)に配置された焦点検出画素411の一対の光電変換部33,34の一方の光電変換部33は奇数列(2m+1列)に設けられた2本の列信号線の一方の列信号線22(2m+1)bに接続され、光電変換部33の出力信号(アナログ信号)は列信号線22(2m+1)bに出力される。また各焦点検出画素411の一対の光電変換部33,34の他方の光電変換部34は奇数列(2m+1列)に設けられた2本の列信号線の他方の列信号線22(2m+1)aに接続され、光電変換部34の出力信号(アナログ信号)は列信号線22(2m+1)aに出力される。
カラムAD変換装置42は、画素アレイ部40の画素列に対応して設けられた列信号線22(1)a、22(1)b〜22(2M−1)a、22(2M−1)b毎に設けられたADC(アナログ−デジタル変換回路)23(1)a、23(1)b〜23(2M−1)a、23(2M−1)bを有し、画素アレイ部40の各焦点検出画素411から列毎に出力される一対のアナログ信号を、タイミング制御回路50から与えられる制御信号TA1に応じて、Hビットのデジタル信号に変換して出力する。
第2ラインメモリ44は、カラムAD変換装置42を構成する各ADC(23(1)a、23(1)b〜23(2M−1)a、23(2M−1)b)毎に設けられたメモリ(25(1)a、25(1)b〜25(2M−1)a、25(2M−1)b)を有し、ADC(23(1)a、23(1)b〜23(2M−1)a、23(2M−1)b)毎に出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TM2に応じて、Hビットのデジタル信号として記憶する。ここで第2ラインメモリ44の各メモリ(25(1)a、25(1)b〜25(2M−1)a、25(2M−1)b)には1行分の焦点検出画素について一対の光電変換部33,34の出力信号がデジタル信号として記憶されることになる。
カラムデジタル加算装置46は、カラムAD変換装置42を構成する一対のADC((23(1)a、23(1)b)〜(23(2M−1)a、23(2M−1)b))毎に設けられたデジタル加算回路(26(1)〜26(2M−1))を有し、一対のADC((23(1)a、23(1)b)〜(23(2M−1)a、23(2M−1)b))から出力されるデジタル信号を、タイミング制御回路50から与えられる制御信号TD1に応じて加算し、Hビットの加算デジタル信号として出力する。
第1ラインメモリ48は、カラムデジタル加算装置46を構成する各デジタル加算回路(26(1)〜26(2M−1))毎に設けられたメモリ(28(1)〜28(2M−1))を有し、デジタル加算回路(26(1)〜26(2M−1))毎に出力される加算デジタル信号を、タイミング制御回路50から与えられる制御信号TM1に応じて、Hビットのデジタル信号として記憶する。ここで第1ラインメモリ48の各メモリ(28(1)〜28(2M−1))には1行分の焦点検出画素について一対の光電変換部33,34の出力信号を加算した加算信号(撮像画素の出力信号に相当する)がデジタル信号として記憶されることになる。
第2ラインメモリ44は第2列走査回路51から与えられる走査信号TS2に応じて動作し、メモリ(25(1)a、25(1)b〜25(2M−1)a、25(2M−1)b)の各々で記憶されたHビットのデジタル信号は順に第2水平出力回路45に読み出され、当該第2水平出力回路45を経由して焦点検出用の一対の光電変換部33,34の出力信号(デジタル信号)として外部にシリアル出力される。
第1ラインメモリ48は第1列走査回路52から与えられる走査信号TS1に応じて動作し、メモリ(28(1)〜28(2M−1))の各々で記憶されたHビットの加算デジタル信号は順に第1水平出力回路49に読み出され、当該第1水平出力回路49を経由して撮像画素の出力信号と同等な出力信号(デジタル信号)として外部にシリアル出力される。
<第8実施形態>
第8実施形態は第7実施形態における画素アレイ部の焦点検出画素の構成の変形例である。図39は図36の画素レイアウト図に対応した図(フィルタ配列は図37に対応している)であって、図36の偶数行目に配置された焦点検出画411が、垂直方向に並置された一対の光電変換部36,37を有する焦点検出画素412に置換される。
即ち奇数行においては、奇数列に焦点検出画素411が配置され、偶数行においては、偶数列に焦点検出画素412が配置される。
図40は、図39に示す画素レイアウトを持つ撮像素子212の構成を示すブロック図であって、図38の構成と同一な部分は説明を省略し、特徴的な部分のみについて説明する。画素アレイ部40における図38との相違点は、偶数行目の偶数列において、垂直方向に分離した一対の光電変換部36,37を備える焦点検出画素412が配置されている点である。
偶数行の偶数列(2m+2列)に配置された各焦点検出画素412の一対の光電変換部36,37は同一の行制御線21により行走査回路41と接続されており、制御信号R(L)(Lは偶数)に応じて同時に電荷蓄積制御、信号読出し制御が行なわれる。また各焦点検出画素412の一対の光電変換部36,37の一方の光電変換部36は奇数列(2m+1列)に設けられた2本の列信号線の一方の列信号線22(2m+1)aに接続され、光電変換部36の出力信号(アナログ信号)は列信号線22(2m+1)aに出力される。また各焦点検出画素412の一対の光電変換部36,37の他方の光電変換部37は奇数列(2m+1列)に設けられた2本の列信号線の他方の列信号線22(2m+1)bに接続され、光電変換部37の出力信号(アナログ信号)は列信号線22(2m+1)bに出力される。
以上のような構成の撮像素子212を用いた場合には奇数行目の奇数列に配列された緑色フィルタを備えた焦点検出画素411の一対の光電変換部33,34のデータを水平方向に光電変換部毎にグループ化した一対のデータを用いて水平方向にコントラスト変化のある被写体像に対して位相差検出が可能になるとともに、偶数行目の偶数列に配置された赤色フィルタおよび青色フィルタを備えた焦点検出画素412の一対の光電変換部36,37のデータを光電変換部毎に垂直方向にグループ化した同色の一対のデータを用いて垂直方向にコントラスト変化のある被写体像に対して位相差検出が可能になる。
<その他の実施形態>
本発明において焦点検出画素における光電変換部の数は2個に限定されることはなく、焦点検出画素が2個以上光電変換部を備える構成についても本発明を適用することが可能である。例えば図6に示す焦点検出画素311は水平方向に正方形を2等分割した2つの光電変換部13,14を備えているが、さらに2つの光電変換部13,14を垂直方向に2等分割した4つの光電変換部を備える焦点検出画素を備える構成に対しても本発明を適用することができる。例えば4つの光電変換部のアナログ信号を独立に読み出すために各列に4本の列信号線を設けるとともに、4つの光電変換部の出力するアナログ信号を個別にAD変換するデジタル信号として出力するADCから構成されるカラムAD変換装置と、カラムAD変換装置から出力される4つの光電変換部のデジタル信号をデジタル加算するデジタル加算回路を備えたカラムデジタル加算装置を設けることにより、図10に示す構成と同様な効果を得ることができる。
また4つの光電変換部に対応して列信号線を4本設ける代わりに、4つの光電変換部のうちの2つの光電変換部と他の2つの光電変換部を仮想的な隣接する2行の焦点検出画素の光電変換部とみなして撮像素子を構成することにより、列信号線を2本に削減することも可能である。例えば、各焦点検出画素311において4つの光電変換部が2つずつ2段配置されているような場合、上段の2つの光電変換部と下段の2つの光電変換部を仮想的な隣接する2行の焦点検出画素の光電変換部とみなして列信号線を2本に削減する。
上述した実施形態の撮像素子においては、画像アレイ部全体に対して焦点検出用のデータ出力チャネルと画像用のデータ出力チャネルをそれぞれ1本ずつ備える例を示しているが、読出し速度を高速化するために画像アレイ部を複数領域に分割するとともに、各領域に対して焦点検出用のデータ出力チャネルと画像用のデータ出力チャネルをそれぞれ1本ずつ備える構成とすることも可能である。
上述した実施形態の撮像素子212においては、カラムAD変換装置42が一対のアナログ信号を変換することによって得られるデジタル信号に基づき、ボディ駆動制御装置214のCPUa222は、交換レンズ202(光学系)の焦点状態を検出する。しかし、カラムAD変換装置42が一対のアナログ信号を変換することによって得られるデジタル信号を3Dカメラ用の信号として用いることとしてもよい。
また本発明は図7に示すようなマイクロレンズと光電変換部の間に配線層が存在するタイプの撮像素子のみならず、マイクロレンズと光電変換部の間に配線層が存在せず、光電変換部に対してマイクロレンズの方向と反対側に配線層が配置される裏面照射型の撮像素子にも適用可能である。本発明による撮像素子のように、列信号線22が必要となるような撮像素子には、従来の撮像素子よりも配線層が多く設けられる。裏面照射型の撮像素子においては光電変換部のレイアウトに制限されることなく配線層を配置できるので、列信号線の数の増加に対するフレキシビリティが向上する。
上述した実施形態における撮像素子212では撮像画素がベイヤー配列の色フィルタを備えた例を示したが、色フィルタの構成や配列はこれに限定されることはなく、補色フィルタ(緑:G、イエロー:Ye、マゼンタ:Mg,シアン:Cy)の配列やベイヤー配列以外の配列にも本発明を適用することができる。またモノクロの撮像素子にも適用が可能である。
上述した実施形態における撮像素子212は、画素アレイ部40とそれ以外の部分とを有する。画素アレイ部40とそれ以外の部分とを別々の基板上に設けて、それら別々の基板を互いに積層させることとしたが、画素アレイ部40とそれ以外の部分とを同一基板上に設けることとしてもよい。
なお、撮像装置としては、上述したようなカメラボディに交換レンズが装着される構成のデジタルスチルカメラに限定されない。例えばレンズ一体型のデジタルスチルカメラあるいはビデオカメラにも本発明を適用することができる。さらには、携帯電話などに内蔵される小型カメラモジュール、監視カメラやロボット用の視覚認識装置、車載カメラなどにも適用できる。