図1は、本発明の第1の実施形態による撮像装置の構成を示すブロック図である。図1では、撮像装置本体(カメラ本体)と撮像レンズ(撮像光学系)とが一体となった撮像装置を示しているが、本発明は、これに限定されるものではなく、撮像レンズが撮像装置本体に対して交換可能に装着される撮像システムにも適用可能である。
図1を参照して、本発明の撮像装置は、撮像素子100を備えており、動画像または静止画像を撮影する機能を有している。この撮像素子100は、被写体側に配置された撮像光学系により形成される光学像を電気信号(アナログ信号、つまり、画像信号)に変換する。撮像素子100から出力されたアナログ信号は、アナログフロントエンド(AFE)102でゲインが調整されるとともに、所定の量子化ビットに応じてデジタル信号(画像データ)に変換される。なお、撮像素子100およびAFE102はタイミングジェネレータ(TG)101によって駆動タイミングが制御される。なお、ここでは撮像素子100から出力されるアナログ信号をAFE102にてデジタル信号に変換する構成だが、この限りではない。撮像素子100からデジタル信号が出力される構成でもよい。また、ここでは撮像素子100外部にあるTG101が撮像素子100に対して駆動タイミングを制御する構成だが、撮像素子100内部のTGが駆動タイミングを制御する構成でもよい。
RAM107は、AFE102から出力される画像データおよび後述する画像処理部108で処理された画像データを記憶するためのメモリ(画像メモリ)であり、さらに、RAM107は後述するCPU103によってワークメモリとしても用いられる。なお、ここでは、画像メモリおよびワークメモリとしてRAM107を用いているが、アクセス速度が問題ないレベルのメモリであれば、他のメモリを用いるようにしてもよい。
ROM105には、CPU103上で動作するプログラムが格納される。図示の例では、ROM105としてフラッシュROMが用いられるが、アクセス速度が問題ないレベルのメモリであれば、フラッシュROM以外の他のメモリを用いるようにしてもよい。
CPU103は、撮像装置を統括的に制御する制御手段としての機能を有する。画像処理部108は撮影の結果得られた画像データの補正や圧縮等の処理を行う。また、画像処理部108は、後述する画像補正部300を含む。
記録部109は、例えば、不揮発性メモリ又はハードディスクである。記録部109には、例えば、静止画像データおよび動画像データが記録される。
図1では、記録部109が撮像装置に含まれているように記載しているが、記録部109は、コネクタを介して着脱可能な不揮発性メモリ又はハードディスク等の記録媒体でもよい。
操作部104は撮影命令および撮像条件等の設定をCPU103に対して行う際に用いられる。表示部106はCPU103の制御下で撮影の結果得られた静止画像、動画像、およびメニュー等の表示を行う。
110はAF演算部であり、AFE102から出力される画像データに基づいて、後述する処理で焦点検出を行う。
119は撮像光学系(結像光学系)の先端に配置された第1レンズ群で、光軸方向に進退可能に保持される。118は絞りで、その開口径を調節することで撮影時の光量調節を行う。117は第2レンズ群である。絞り118及び第2レンズ群117は、本実施例では一体となって光軸方向に進退し、第1レンズ群119の進退動作との連動により、変倍作用(ズーム機能)をなす。
116は第3レンズ群(フォーカスレンズ)で、光軸方向の進退により、焦点調節を行う。
111は静止画撮影時に露光秒時を調節するフォーカルプレーンシャッタである。本実施例ではフォーカルプレーンシャッタにて撮像素子100の露光秒時を調節する構成であるが、この限りではない。撮像素子100が電子シャッタ機能を有し、制御パルスで露光秒時を調節する構成でもよい。
112はフォーカス駆動回路で、AF演算部110の焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群116を光軸方向に進退駆動して焦点調節を行なう。113は絞り駆動回路で、絞りアクチュエータ115を駆動制御して絞り118の開口を制御する。
つぎに、図1に示す撮像素子100の構成を図2(a)および図2(b)を用いて詳細に説明する。
図2(a)は、本発明における撮像素子100の単位画素200を示す回路図である。図2(a)に示すように、単位画素200は、第1のフォトダイオード(光電変換部)201a、第2のフォトダイオード(光電変換部)201b、第1の転送スイッチ202a、第2の転送スイッチ202bを有する。さらに単位画素200は、フローティングディフュージョン203、増幅部204、リセットスイッチ205、選択スイッチ206を含んで構成される。
このように、本発明における撮像素子100は、第1の光電変換部と第2の光電変換部とを有する単位画素を有する。ただし、各単位画素に設けられる光電変換部の数は図2に示される2つに限定されず、2以上(例えば、4つ)設けられてもよい。本発明において第1の光電変換部または第2の光電変換部は、後述するように、焦点検出画素として機能する。また、第1の光電変換部および第2の光電変換部は、後述するように、撮像画素として機能する。
フォトダイオード201a、201bは、同一のマイクロレンズを通過した光を受光し、その受光量に応じた信号電荷を生成する光電変換部として機能する。
転送スイッチ202a、202bは、それぞれフォトダイオード201a、201bで発生した電荷を共通のフローティングディフュージョン領域203に転送する。転送スイッチ202a、202bは、それぞれ転送パルス信号TX_A、TX_Bによって制御される。
フローティングディフュージョン203は、フォトダイオード201aおよび201bから転送された電荷を一時的に保持するとともに、保持した電荷を電圧信号に変換する電荷電圧変換部として機能する。
増幅部204は、ソースフォロワMOSトランジスタであり、フローティングディフュージョン203に保持した電荷に基づく電圧信号を増幅して、画素信号として出力する。
リセットスイッチ205は、リセットパルス信号RESによって制御され、フローティングディフュージョン203の電位を基準電位VDDにリセットする。
選択スイッチ206は、垂直選択パルス信号SELによって制御され、増幅部204で増幅された画素信号を垂直出力線207に出力する。
208は基準電位VDDを供給する共通電源である。
図2(b)は、本発明による撮像素子100の読み出し回路について説明する図である。
234は画素領域であり、複数の単位画素200が行列状に配置されている。本実施例では説明を簡略化するために、水平方向にn+1画素、垂直方向に4画素並ぶ構成で示してあるが、実際の垂直方向の画素数はさらに多数である。また、単位画素200には複数色(本実施例では、赤色、緑色、青色の3色)のカラーフィルタのうちいずれか1つが設けられている。図2(b)では、赤色カラーフィルタが設けられ、赤色光を撮像する画素をR画素、緑色カラーフィルタが設けられ、緑色光を撮像する画素をG画素、青色カラーフィルタが設けられ、青色光を撮像する画素をB画素として表記する。3色のカラーフィルタをそれぞれ有する各画素はベイヤー配列に従って配置される。
209は垂直シフトレジスタであり、各行の画素毎に共通の駆動信号線210を通して、駆動パルスが送出される。なお、駆動信号線210は、簡略化のため、各行毎に1本ずつ図示してあるが、実際には各行毎に複数の駆動信号線が接続される。
同じ列の単位画素200は共通の垂直出力線207に接続されており、各画素からの信号は、この垂直出力線207を介して共通の読み出し回路212に入力される。そして、読み出し回路212で処理された信号は水平シフトレジスタ232により順次出力アンプ233に出力される。211は垂直出力線207に接続される電流源負荷である。
つぎに、読み出し回路212の具体的な回路構成を説明する。
213はクランプ容量C0、214はフィードバック容量Cf、215はオペアンプ、216は基準電圧Vrefを供給する基準電圧源、229はフィードバック容量Cfの両端をショートさせるためのスイッチである。スイッチ229はRES_C信号で制御される。217、219は信号電圧(S信号)を保持するための容量であり、218、220はノイズ(N信号)を保持するための容量である。217を容量S信号保持容量AB、219を容量S信号保持容量A、218および220を容量N信号保持容量と表記する。
221、222、223、224は容量への書き込みを制御するスイッチである。スイッチ221はTS_AB信号で制御され、スイッチ223は、TS_A信号で制御される。スイッチ222、224はTN信号で制御される。225、226、227、228は水平シフトレジスタ232からの信号を受けて出力アンプ233に信号を出力するためのスイッチである。スイッチ225、226は水平シフトレジスタ232のHAB(m)信号で制御され、スイッチ227、228はHA(m)信号で制御される。ここで、mは制御信号線が接続されている読み出し回路の列番号を表す。容量S信号保持容量AB217、容量S信号保持容量A219に書き込まれた信号は共通出力線230を介して、容量N信号保持容量218、220に書き込まれた信号は共通出力線231を介して、出力アンプ233に出力される。
次に撮像素子100が出力する画像データについて説明する。
図4(a)と図4(b)は、撮像素子100におけるピント状態と位相差との関係を示す。
404は画素アレイの断面を示す。400は各単位画素に一つ設けられたマイクロレンズである。前述した様に、フォトダイオード201a、201bは、同一のマイクロレンズを通過した光を受光する構成となっている。フォトダイオード201aとフォトダイオード201bは後述する構成により位相差を持った別の像が入射されるため、ここではフォトダイオード201aをA像用画素、フォトダイオード201bをB像用画素とする。図中においては、A像用画素をA、B像用画素をBと表記している。なお、本実施例ではマイクロレンズ1つに対してフォトダイオードが2つ配置される構成であるがこの限りではない。マイクロレンズ1つに対してフォトダイオードが上下または左右に複数配置される構成であれば適用することができる。
401は、図1に示す第1レンズ群119、第2レンズ群117、第3レンズ群116を合わせて1つのレンズとして考えた撮影レンズを表す。
被写体402から発せられた光は、光軸403を中心として、撮影レンズ401の各領域を通過し、撮像素子に結像される。ここでは射出瞳と撮影レンズの中心は同一としている。
この様な構成によれば、撮像光学系をA像用画素から見た場合とB像用画素から見た場合とで、撮像光学系の瞳が対称に分割されたことと等価となる。言い換えれば、撮像光学系からの光束が2つの光束にいわゆる瞳分割され、それぞれの分割光束(第1の光束及び第2の光束)がA像用画素及びB像用画素に入射する。このように、A像用画素とB像用画素のそれぞれは、撮像光学系の射出瞳のうち互いに異なる瞳領域を通過した光を受光(光電変換)することから、後述するように焦点検出画素として機能することができる。また、A像用画素およびB像用画素は、互いの信号を加算することで撮像光学系からの光束により形成された像を光電変換できることから、後述するように撮像画素として機能することができる。
被写体402上の特定点からの光束は、A像用画素Aに対応する分割瞳を通って該A像用画素Aに入射する光束ΦLaと、B像用画素Bに対応する分割瞳を通って該B像用画素Bに入射する光束ΦLbとに分割される。これら2つの光束は、被写体402上の同一点から入射しているため、撮像光学系のピントが合った状態では、図4(a)に示すように、同一のマイクロレンズを通過して撮像素子上の1点に到達する。したがって、A像用画素AとB像用画素Bからそれぞれ得られる像信号は互いに一致する。
しかし、図4(b)に示すように、光軸方向にYだけピントがずれている状態では、光束ΦLa,ΦLbのマイクロレンズへの入射角の変化分だけ両光束ΦLa,ΦLbの到達位置が互いにずれる。したがって、A像用画素AとB像用画素Bからそれぞれ得られる像信号には位相差が生じる。
A像用画素AとB像用画素Bのそれぞれ(すなわち、焦点検出画素)は、位相差を持った2つの被写体像(A像及びB像)を光電変換し、該光電変換により得られた信号は、撮像素子100外部へ出力され、後述するAF動作に使用される。
撮像素子100の読出しは、後述する動作によりA像用画素Aの信号(以下、焦点検出信号ともいう)のみを読み出す第1の読出しと、A像用画素AとB像用画素Bの信号を加算した信号(以下、画像信号ともいう)を読み出す第2の読出しとを行う。以降、A像用画素Aの信号をAFE102にてデジタル信号に変換したものをA像、A像用画素AとB像用画素Bの信号を加算した信号をAFE102にてデジタル信号に変換したものをAB像とする。
A像とAB像は、画像処理部108に含まれる画像補正部300にて後述する補正を適用された後にAF演算部110に入力される。AF演算部110ではAB像からA像を減算し、B像用画素Bのみで光電変換された画像データである、B像を生成する。
次にAF演算部110において行われる焦点検出動作について説明する。図4(c)はピントがあった図4(a)の場合におけるA像と、B像である。横軸は、画素位置を表し、縦軸は出力を表す。ピントがあっている場合はA像とB像は一致する。図4(d)はピントがあっていない図4(b)の場合のA像とB像である。このときは、A像とB像は前述した状態によって位相差を持ち、画素位置がずれ量Xでずれている。AF演算部110では、フレーム毎のずれ量Xを算出することによりピントのずれ量、即ち図4(b)におけるY値を算出する。AF演算部110は算出したY値をフォーカス駆動回路112に転送する。
フォーカス駆動回路112はAF演算部110から取得したY値に基づき第3レンズ群116を動かす量を算出し、フォーカスアクチュエータ114に駆動命令を出力する。第3レンズ群116はフォーカスアクチュエータ114によりピントが合う位置まで移動され、撮像素子100にてピントが合った状態となる。
図3は、図1に示す画像処理部108に含まれる画像補正部300の構成の一例を示すブロック図である。
画像位置情報生成回路304は入力されたデータ数をカウントし、CPU103により設定された画像サイズ(列数・行数)に基づいて、入力データが画像のどの位置のデータであるかを示す画像位置情報を算出する。同時に、CPU103により設定されるA像領域と上記画像位置情報とに基づき、入力データがA像であることを示すA像領域情報を出力する。また、CPU103により設定されるAB像領域と上記画像位置情報とに基づき、入力データがAB像であることを示すAB像領域情報を出力する。
補正データ生成回路301は上記画像位置情報とCPU103により設定された演算領域を参照し、演算領域内の画像データを使用して列毎の補正データを生成する生成手段として機能する。本実施例では、列毎に、所定の画素数分の画像データの平均値を算出したものを補正データとする。また、所定画素数分の画像データが平均されるまでの計算過程のデータは列毎にメモリ305に格納され、補正データ生成に使用される。最終的に算出されたA像またはAB像の列毎の補正データはメモリ(記憶手段)305に格納される。
メモリ制御部303は画像位置情報生成回路304から出力されるA像領域情報・AB像領域情報に基づき、A像とAB像のそれぞれの、各列の補正データを格納するアドレスを算出し、メモリ305に対してアドレスを出力する。また、補正データ生成時は計算過程データや生成した補正データをメモリ305に格納するための書き込み信号を出力する。
メモリ305からは入力されるアドレスに格納される補正データが出力され、補正回路(補正手段)302に入力される。補正回路302では補正データを用いて入力データ(例えば、焦点検出信号に対応するA像の画像データと画像信号に対応するAB像の画像データ)を補正してデータを出力する。本実施例での補正は、上述した列毎の補正データを、各々画像データから減算することにより、列毎のオフセット補正をする。
なお、本実施例では画像データの列毎の平均値を算出し、それを画像データの対応する列から減算することにより画像データを補正するとしたが、この限りではない。
次に、図5に示すフローチャートを用いて本実施例における撮像装置の動作を説明する。
操作部104に含まれる動画撮影スイッチが押下されると、動画の撮影が開始される。ステップS100にて、CPU103はA像を読み出す水平位置を撮像素子100に対して設定する。A像読み出し位置は、予め設定されている焦点検出領域を含む領域に設定される。ここでは、A像の読み出し位置、すなわち第1の焦点検出領域は第h〜i列とする。
次にステップS101にて、CPU103はTG101に対して、A像とAB像の読み出しモードを補正データ生成用信号出力モード(第1の読み出しモード)に設定する。この設定により、読出し時にA像とAB像はそれぞれ補正データ生成用信号が出力され、AFE102にてデジタル信号に変換された補正データ生成用データとして画像補正部300に入力される。
次にステップS102にて、CPU103は画像補正部300に対してA像とAB像の補正データを生成する設定を行う。画像補正部300では、ここでの設定に従ってA像とAB像の補正データ生成用データから各々の補正データを生成する。
その後ステップS103にてA像とAB像の補正データ生成用信号の読み出しが行われる。以下に図7Aを用いてA像とAB像の補正データ生成用信号の読み出しについて説明する。図7AはA像とAB像の補正データ生成用信号の1行の読み出しタイミングを示した図である。時刻a1で転送スイッチ202aおよび202bの制御信号であるTX_AおよびTX_BをHにする。TX_AおよびTX_BがHになると、フォトダイオード201a,201bに蓄積された電荷は、第1の転送スイッチ202a、第2の転送スイッチ202bを介して増幅部204のゲートに転送され、フォトダイオード201a、201bはリセットされる。時刻a2でTX_AおよびTX_BをLとし、フォトダイオード201a、201bに光電荷を蓄積開始する。
必要時間蓄積を行った後に時刻a3で選択スイッチ206の制御信号であるSELをHにして、増幅部204をONする。時刻a4でリセットスイッチ205の制御信号であるRESをLとすることでフローティングディフュージョン領域203のリセットを解除する。このときのフローティングディフュージョン領域203の電位を垂直出力線207に増幅部204を介してリセット信号レベルとして読み出し、読み出し回路212に入力する。
その後、時刻a5でRES_CをLとすると、垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefの差分がオペアンプ215から出力される。時刻a6でTNをHとして、スイッチ222、224をONし、時刻a7でTNをLとして、スイッチ222、224をOFFすることにより、オペアンプ215の出力を容量N信号保持容量218、220へ書き込む。
つぎに、時刻a8ではこのときのオペアンプ215の出力を容量S信号保持容量A219へ書き込むためにTS_AをHとして、スイッチ223をONし、時刻a9でTS_AをLとして、スイッチ223をOFFして書き込みを終了する。
続いて時刻a10ではこのときのオペアンプ215の出力を容量S信号保持容量AB217へ書き込むためにTS_ABをHとして、スイッチ221をONし、時刻a11でTS_ABをLとして、スイッチ221をOFFして書き込みを終了する。
本動作により、容量S信号保持容量AB217と容量N信号保持容量218の差電圧をとることで、読出し回路212のノイズ成分を得ることができる。すなわち、この画素のリセット電位の読み出し信号はAB像の補正データ生成用信号(第2の補正信号)となる。また、容量S信号保持容量A219と容量N信号保持容量220の差電圧をとることにより、読出し回路212のノイズ成分を得ることができる。すなわち、この画素のリセット電位の読み出し信号はA像の補正データ生成用信号(第1の補正信号)となる。
つぎに時刻a12でRESをHとして、フローティングディフュージョン領域203をリセット状態にする。
その後、時刻a13〜a14の間に、水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ227、228がOFF→ON→OFFとなる。スイッチ227、228がOFF→ON→OFFとなった列の容量S信号保持容量A219、容量N信号保持容量220に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の補正データ生成用信号となる。
ここで、ステップS100における設定に従い、水平シフトレジスタ232の駆動パルスHA(m)がL→H→Lとなる画素列は図7Aの駆動タイミングに示すように第h〜i列目であり、それ以外は常にLレベルのままである。したがって、A像の補正データ生成用信号が読み出される画素列は第h〜i列目となる。
次に、時刻a14〜a15の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ225、226がOFF→ON→OFFとなる。スイッチ225、226がOFF→ON→OFFとなった列の容量S信号保持容量AB217、容量N信号保持容量218に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の補正データ生成用信号となる。ここで、駆動パルスHAB(m)は図7Aの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の補正データ生成用信号はすべての列から読み出される。
以上の動作が各行毎に順次行われ、A像とAB像の補正データ生成用信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(a)の起動時に記載の様にA像とAB像の補正データ生成用データが得られる。このデータは画像補正部300に入力される。画像補正部300では、入力されたデータを列毎に平均し、上述した処理によりA像の第h〜i列の列毎の第1の補正データと、AB像の第0〜n列の列毎の第2の補正データを生成し、それぞれ図6(a)の起動時に記載の様に格納する。
次にステップS104にてCPU103はA像とAB像の補正データの生成が終了したかを判断する。本実施例では1フレーム分の補正データ生成用データで補正データの生成が終了するのでステップS105に進む。複数フレーム分の補正データ生成用データが必要な場合は、ステップS103に戻って読み出しを繰り返し、補正データの生成が終了するまで続ける。
ステップS105ではCPU103はTG101に対して、A像とAB像の読み出しモードを画像信号出力モード(第2の読み出しモード)に設定する。この設定により、読出し時にA像とAB像はフォトダイオード201a、201bにて光電変換された光成分の信号が出力され、AFE102にてデジタル信号に変換された画像データとして画像補正部300に入力される。
次にステップS106にて、CPU103は画像補正部300に対してA像とAB像を補正する設定を行う。画像補正部300では、ここでの設定に従ってA像とAB像の画像データをそれぞれ補正する。
その後ステップS107にてA像とAB像の画像信号の読み出しが行われる。以下に図7Bを用いてA像とAB像の画像信号の読み出しについて説明する。
図7BはA像とAB像の画像信号の1行の読み出しタイミングを示した図である。時刻b1で転送スイッチ202aおよび202bの制御信号であるTX_AおよびTX_BをHにする。TX_AおよびTX_BがHになると、フォトダイオード201a,201bに蓄積された電荷は、第1の転送スイッチ202a、第2の転送スイッチ202bを介して増幅部204のゲートに転送され、フォトダイオード201a、201bはリセットされる。時刻b2でTX_AおよびTX_BをLとし、フォトダイオード201a、201bに光電荷を蓄積開始する。
必要時間蓄積を行った後に時刻b3で選択スイッチ206の制御信号であるSELをHにして、増幅部204をONする。時刻b4でリセットスイッチ205の制御信号であるRESをLとすることでフローティングディフュージョン領域203のリセットを解除する。このときのフローティングディフュージョン領域203の電位を垂直出力線207に増幅部204を介してリセット信号レベルとして読み出し、読み出し回路212に入力する。
その後、時刻b5でRES_CをLとすると、垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefの差分がオペアンプ215から出力される。時刻b6でTNをHとして、スイッチ222、224をONし、時刻b7でTNをLとして、スイッチ222、224をOFFすることにより、オペアンプ215の出力を容量N信号保持容量218、220へ書き込む。
つぎに、時刻b8でTX_AをHとして、フォトダイオード201aの光電荷をフローティングディフュージョン領域203へ転送し、時刻b9でTX_AをLとする。この動作によりフォトダイオード201aに蓄積された電荷がフローティングディフュージョン領域203へ読み出される。そして、その変化に応じた出力が増幅部204および垂直出力線207を介して読み出し回路212へ供給される。
読み出し回路212では213のクランプ容量C0と214のフィードバック容量Cf、の比率で電圧変化に対し反転ゲインがかかり出力される。
この電圧を容量S信号保持容量A219へ書き込むために、時刻b10でTS_AをL→Hへ切り替え、スイッチ223をONし、時刻b11でTS_AをH→Lと切り替え、スイッチ223をOFFし書き込みを終了する。
つぎに、時刻b12で再びTX_AをHとすると同時にTX_BもHとする。この動作によりフォトダイオード201aと201bの双方の光電荷を同時にフローティングディフュージョン領域203へ読み出すことができる。読み出された電荷はフォトダイオード201aのみを読みだした際と同様に読み出し回路212へ供給され、オペアンプ215を介して出力される。
この電圧を容量S信号保持容量AB217へ書き込むために、時刻b14でTS_ABをL→Hへ切り替え、スイッチ221をONし、時刻b15でTS_ABをH→Lと切り替え、スイッチ221をOFFし書き込みを終了する。
本動作により、容量S信号保持容量AB217と容量N信号保持容量218の差電圧をとることで、フォトダイオード201aおよび201bからの出力信号の和であるAB像の画像信号が得られる。このAB像信号は撮影画像となる。また、容量S信号保持容量A219と容量N信号保持容量220の差電圧をとることにより、フォトダイオード201aからの出力信号であるA像の画像信号(焦点検出信号)が得られる。
つぎに時刻b16でRESをHとして、フローティングディフュージョン領域203をリセット状態にする。
その後、時刻b17〜b18の間に、水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ227、228がOFF→ON→OFFとなる。スイッチ227、228がOFF→ON→OFFとなった列の容量S信号保持容量A219、容量N信号保持容量220に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の画像信号となる。
ここで、ステップS100における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図7Bの駆動タイミングに示すように第h〜i列目であり、それ以外は常にLレベルのままである。したがって、A像信号が読み出される画素列は第h〜i列目となる。
つぎに、時刻b18〜b19の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ225、226がOFF→ON→OFFとなる。スイッチ225、226がOFF→ON→OFFとなった列の容量S信号保持容量AB217、容量N信号保持容量218に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の画像信号となる。ここで、駆動パルスHAB(m)は図7Bの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の画像信号はすべての列から読み出される。
以上の動作が各行毎に順次行われ、A像、AB像の画像信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(a)の1フレーム目に記載の様にA像とAB像の画像データが得られる。このデータは画像補正部300に入力される。画像補正部300では、メモリ305に格納されるA像の第h〜i列と、AB像の第0〜n列の列毎の補正データを入力データの列対応に合わせてメモリ305から出力させ、各列毎のオフセット補正を行う。
補正されたA像、AB像はAF演算部110に入力され、上述した処理によりAF動作を行う。また、AB像の画像データはRAM107に格納される。CPU103はRAM107に格納されるAB像の画像データを画像処理部108に転送し、画像処理部108では画像データの圧縮等が行われる。その後動画データとして記録部109に記録される。
次にステップS108にて、CPU103は、操作部104の動画撮影スイッチが再び押下されて撮影が終了するかを判断する。撮影終了である場合には、そのまま撮影動作を終了する。撮影終了でない場合にはステップS109に進む。
ステップS109では、CPU103が、焦点検出領域の位置(すなわち、焦点検出画素の読み出し位置)が変更されたかを判断する。焦点検出領域の位置が変更されていない場合には、ステップS107に戻り、上述したステップS107からステップS108の動作を繰り返す(図6(a))。
焦点検出領域の位置が変更されている場合(もしくは、撮像素子の焦点検出画素の読み出し条件が変更されている場合)は、ステップS110へと進む。ステップS110では、CPU103は変更後の焦点検出領域の位置に合わせてA像を読み出す水平位置を撮像素子100に対して設定する。ここではA像の読み出し位置、すなわち第2の焦点検出領域は第j〜k列とする。ここで、焦点検出領域が変更される前の焦点検出領域を第1の焦点検出領域、焦点検出領域が変更された後の焦点検出領域を第2の焦点検出領域、とする。
次にステップS111にて、CPU103はTG101に対して、A像の読み出しモードを補正データ生成用信号出力モードに、AB像の読み出しモードを画像信号出力モード(第3の読み出しモード)に設定する。この設定により、読出し時にA像は補正データ生成用信号が出力され、AB像は画像信号が出力される。
次にステップS112にて、CPU103は画像補正部300に対してA像の補正データを生成する設定と、AB像を補正する設定を行う。画像補正部300では、ここでの設定に従ってA像の補正データ生成用データからA像の補正データを生成するとともに、AB像の画像データを補正する。
その後ステップS113にてA像の補正データ生成用信号と、AB像の画像信号の読み出しが行われる。以下に図7Cを用いてA像の補正データ生成用信号と、AB像の画像信号の読み出しについて説明する。
図7CはA像の補正データ生成用信号と、AB像の画像信号の1行の読み出しタイミングを示した図である。時刻c1で転送スイッチ202aおよび202bの制御信号であるTX_AおよびTX_BをHにする。TX_AおよびTX_BがHになると、フォトダイオード201a,201bに蓄積された電荷は、第1の転送スイッチ202a、第2の転送スイッチ202bを介して増幅部204のゲートに転送され、フォトダイオード201a、201bはリセットされる。時刻c2でTX_AおよびTX_BをLとし、フォトダイオード201a、201bに光電荷を蓄積開始する。
必要時間蓄積を行った後に時刻c3で選択スイッチ206の制御信号であるSELをHにして、増幅部204をONする。時刻c4でリセットスイッチ205の制御信号であるRESをLとすることでフローティングディフュージョン領域203のリセットを解除する。このときのフローティングディフュージョン領域203の電位を垂直出力線207に増幅部204を介してリセット信号レベルとして読み出し、読み出し回路212に入力する。
その後、時刻c5でRES_CをLとすると、垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefの差分がオペアンプ215から出力される。時刻c6でTNをHとして、スイッチ222、224をONし、時刻c7でTNをLとして、スイッチ222、224をOFFすることにより、オペアンプ215の出力を容量N信号保持容量218、220へ書き込む。
つぎに、時刻c8ではこのときのオペアンプ215の出力を容量S信号保持容量A219へ書き込むためにTS_AをHとして、スイッチ223をONし、時刻c9でTS_AをLとして、スイッチ223をOFFして書き込みを終了する。
つぎに、時刻c10で再びTX_AをHとすると同時にTX_BもHとする。この動作によりフォトダイオード201aと201bの双方の光電荷を同時にフローティングディフュージョン領域203へ読み出すことができる。読み出された電荷は読み出し回路212へ供給され、オペアンプ215を介して出力される。
この電圧を容量S信号保持容量AB217へ書き込むために、時刻c12でTS_ABをL→Hへ切り替え、スイッチ221をONし、時刻c13でTS_ABをH→Lと切り替え、スイッチ221をOFFし書き込みを終了する。
本動作により、容量S信号保持容量AB217と容量N信号保持容量218の差電圧をとることで、フォトダイオード201aおよび201bからの出力信号の和であるAB像の画像信号が得られる。このAB像信号は撮影画像となる。また、容量S信号保持容量A219と容量N信号保持容量220の差電圧をとることにより、読出し回路212のノイズ成分を得ることができる。この信号はA像の補正データ生成用信号(第1の補正信号)となる。
つぎに時刻c14でRESをHとして、フローティングディフュージョン領域203をリセット状態にする。
その後、時刻c15〜c16の間に、水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ227、228がOFF→ON→OFFとなる。スイッチ227、228がOFF→ON→OFFとなった列の容量S信号保持容量A219、容量N信号保持容量220に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の補正データ生成用信号となる。
ここで、ステップS110における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図7Cの駆動タイミングに示すように第j〜k列目であり、それ以外は常にLレベルのままである。したがって、A像信号が読み出される画素列は第j〜k列目となる。
次に、時刻c16〜c17の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ225、226がOFF→ON→OFFとなる。スイッチ225、226がOFF→ON→OFFとなった列の容量S信号保持容量AB217、容量N信号保持容量218に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の画像信号となる。ここで、駆動パルスHAB(m)は図7Cの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の画像信号はすべての列から読み出される。
以上の動作が各行毎に順次行われ、A像の補正データ生成用信号、およびAB像の画像信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(b)のpフレーム目に記載の様にA像の補正データ生成用データとAB像の画像データが得られる。このデータは画像補正部300に入力される。画像補正部300では、入力されたデータを列毎に平均し、上述した処理によりA像の第j〜k列の列毎の補正データを生成し、図6(b)のpフレーム目に記載の様に格納する。ここで、メモリ305は、焦点検出領域が変更される前の補正データを、焦点検出領域が変更された後の補正データに、更新する。つまり、焦点検出領域が変更される前は第1の焦点検出領域に対応する第1の補正データを記憶し、焦点検出領域が変更された後は第2の焦点検出領域に対応する第2の補正データを記憶している。したがって、メモリ305は、該第1の補正データと該第2の補正データのいずれか一方を保持するだけで足り、全ての焦点検出領域に対応する補正データを保持する必要がないことから、必要なメモリの容量を少なくできる。これにより、撮像装置を小型化することができる。また、AB像の第0〜n列の列毎の補正データを入力データの列対応に合わせてメモリ305から出力させ、各列毎のオフセット補正を行う。
補正されたAB像の画像データはRAM107に格納される。CPU103はRAM107に格納されるAB像の画像データを画像処理部108に転送し、画像処理部108では画像データの圧縮等が行われる。その後動画データとして記録部109に記録される。
次にステップS114にてCPU103はA像の補正データの生成が終了したかを判断する。本実施例では1フレーム分の補正データ生成用データで補正データの生成が終了するのでステップS105に進む。複数フレーム分の補正データ生成用データが必要な場合は、ステップS113に戻って読み出しを繰り返し、補正データの生成が終了するまで続ける。
続くステップS105ではCPU103はTG101に対して、A像とAB像の読み出しモードを画像信号出力モード(第2の読み出しモード)に設定する。この設定により、読出し時にA像とAB像はフォトダイオード201a、201bにて光電変換された光成分の信号が出力され、AFE102にてデジタル信号に変換された画像データとして画像補正部300に入力される。
次にステップS106にて、CPU103は画像補正部300に対してA像とAB像を補正する設定を行う。画像補正部300では、ここでの設定に従ってA像とAB像の画像データをそれぞれ補正する。
その後ステップS107にてA像とAB像の画像信号の読み出しが行われる。以下に図7Dを用いてA像とAB像の画像信号の読み出しについて説明する。
図7DはA像とAB像の画像信号の1行の読み出しタイミングを示した図である。時刻d1〜d16までの動作は図7Bに示す時刻b1〜b16までの動作と同様なので説明を省略する。時刻d17〜d18の間に、水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ227、228がOFF→ON→OFFとなる。スイッチ227、228がOFF→ON→OFFとなった列の容量S信号保持容量A219、容量N信号保持容量220に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の画像信号(焦点検出信号)となる。
ここで、ステップS110における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図7Dの駆動タイミングに示すように第j〜k列目であり、それ以外は常にLレベルのままである。したがって、A像信号が読み出される画素列は第j〜k列目となる。
つぎに、時刻d18〜d19の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ225、226がOFF→ON→OFFとなる。スイッチ225、226がOFF→ON→OFFとなった列の容量S信号保持容量AB217、容量N信号保持容量218に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の画像信号となる。ここで、駆動パルスHAB(m)は図7Dの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の画像信号はすべての列から読み出される。
以上の動作が各行毎に順次行われ、A像、AB像の画像信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(b)のp+1フレーム目に記載の様にA像とAB像の画像データが得られる。このデータは画像補正部300に入力される。画像補正部300では、メモリ305に格納されるA像の第j〜k列と、AB像の第0〜n列の列毎の補正データを入力データの列対応に合わせてメモリ305から出力させ、各列毎のオフセット補正を行う。
補正されたA像、AB像はAF演算部110に入力され、上述した処理によりAF動作を行う。また、AB像の画像データはRAM107に格納される。CPU103はRAM107に格納されるAB像の画像データを画像処理部108に転送し、画像処理部108では画像データの圧縮等が行われる。その後動画データとして記録部109に記録される。
その後ステップS108以降の動作は上述した動作と同様に行われ、AF動作と動画記録が続けられる。
上述した様に、動画撮影において焦点検出に使用するデータ(A像)の読み出し位置が変更した場合でも、A像の補正データを再生成することによりA像の列毎のオフセット補正を適用することができる。また、A像の補正データ再生成時にA像は補正データ生成用データを出力し、AB像は画像データを出力することができるので、動画のフレームデータが抜けることなくフレームレートを保ったまま、焦点検出位置を変更することができる。したがって、本発明によれば、画像データの取得を中断せずに新しい位置の焦点検出画素の補正データを再生成することができる。
また、本実施例では画像信号を出力する画素と同一の画素を使用して補正データ生成用信号を出力することができるため、撮像素子内に特別な画素を別途設ける必要はない。
なお、本実施例では焦点検出位置を変更した場合に補正データを再生成する構成としたが、この限りではない。画像の撮像以外に使用される、例えばA像(焦点検出画素)の撮影条件(撮影感度等)や画素加算周期(加算率)、画素間引き周期(読み出し間引き率)等が変更になった場合にも適用することができる。
また、本実施例では補正データ生成回路301が補正データを生成する構成としたが、この限りではない。画像データ読出し時に画像データの上部に補正データ更新用データを読み出し、補正データ更新用データを使用してメモリ内部の補正データを更新する構成も適用することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
本発明の第2の実施形態による撮像装置の構成は、実施例1にて述べた図1に示す構成と同様なため、説明を省略する。
本実施例では撮像素子100の読み出し回路の構成が実施例1と異なる。図8(a)は、本実施例における撮像素子の読み出し回路500を示した図である。図2(b)と同じ符号が付してあるものについては図2(b)と同じ機能のため、説明を省略する。
以下に本実施例の読み出し回路500の具体的な回路構成を説明する。
501はクランプ容量C0、502はフィードバック容量Cf、503はオペアンプ、504は基準電圧Vrefを供給する基準電圧源、517はフィードバック容量Cfの両端をショートさせるためのスイッチである。スイッチ517はRES_C信号で制御される。505、506、507、508は信号電圧を保持するための第1の容量であり、505を容量S信号保持容量1AB、507を容量S信号保持容量1A、506を容量N信号保持容量1AB,508を容量N信号保持容量1Aと表記する。
509、510、511、512は第1の容量への書き込みを制御するスイッチである。スイッチ509はTS1_AB信号で制御され、スイッチ511は、TS1_A信号で制御される。また、スイッチ510はTN_AB信号で制御され、スイッチ512はTN_A信号で制御される。
526、527、528、529は信号電圧を保持するための第2の容量であり、526を容量S信号保持容量2AB、528を容量S信号保持容量2A、527を容量N信号保持容量2AB,529を容量N信号保持容量2Aと表記する。522、523、524、525は第2の容量への書き込みを制御するスイッチである。スイッチ522、523はTS2_AB信号で制御され、スイッチ524、525は、TS2_A信号で制御される。518、519、520、521は第2の容量へ書き込むためのバッファであり、513、514、515、516は水平シフトレジスタ232からの信号を受けて出力アンプ233に信号を出力するためのスイッチである。スイッチ513、514は水平シフトレジスタ232のHAB(m)信号で制御され、スイッチ515、516はHA(m)信号で制御される。ここで、mは制御信号線が接続されている読み出し回路の列番号を表す。容量S信号保持容量2AB526、容量S信号保持容量2A528に書き込まれた信号は共通出力線230を介して、出力アンプ233に出力される。容量N信号保持容量2AB527、容量N信号保持容量2A529に書き込まれた信号は共通出力線231を介して、出力アンプ233に出力される。
また、本実施例における撮像素子100は、図8(b)に示す様にフォトダイオードの上部が遮光された、遮光領域(OB)を持つ。本実施例ではこのOB領域の出力データを使用して補正データの生成を行う。なお、本実施例ではOBを使用する構成としたが、この限りではない。画素にフォトダイオードを持たないダミー画素を使用する構成でも可能である。
次に、図9に示すフローチャートを用いて本実施例における撮像装置の動作を説明する。
操作部104に含まれる動画撮影スイッチが押下されると、動画の撮影が開始される。ステップS200にて、CPU103はA像を読み出す水平位置を撮像素子100に対して設定する。A像読み出し位置は、予め設定されている焦点検出領域を含む領域に設定される。ここでは、A像の読み出し位置は第h〜i列とする。
次にステップS201にて、CPU103はTG101に対して、A像とAB像の読み出しモードを補正データ生成用信号出力モード(第1の読み出しモード)に設定する。この設定により、読出し時にA像とAB像はそれぞれ補正データ生成用信号が出力され、AFE102にてデジタル信号に変換された補正データ生成用データとして画像補正部300に入力される。
次にステップS202にて、CPU103は画像補正部300に対してA像とAB像の補正データを生成する設定を行う。画像補正部300では、ここでの設定に従ってA像とAB像の補正データ生成用データから各々の補正データを生成する。
その後ステップS203にてA像とAB像の補正データ生成用信号の読み出しが行われる。以下に図10Aを用いてA像とAB像の補正データ生成用信号の読み出しについて説明する。
図10AはA像とAB像の補正データ生成用信号の1行目の読み出しタイミングを示した図である。1行目は図8(b)に示す様にOB領域であり、遮光されたフォトダイオードの信号を読み出す。
時刻e1で転送スイッチ202aおよび202bの制御信号であるTX_AおよびTX_BをHにする。TX_AおよびTX_BがHになると、フォトダイオード201a,201bに蓄積された電荷は、第1の転送スイッチ202a、第2の転送スイッチ202bを介して増幅部204のゲートに転送され、フォトダイオード201a、201bはリセットされる。時刻e2でTX_AおよびTX_BをLとし、フォトダイオード201a、201bに光電荷を蓄積開始する。
必要時間蓄積を行った後に時刻e3で選択スイッチ206の制御信号であるSELをHにして、増幅部204をONする。時刻e4でリセットスイッチ205の制御信号であるRESをLとすることでフローティングディフュージョン領域203のリセットを解除する。このときのフローティングディフュージョン領域203の電位を垂直出力線207に増幅部204を介してリセット信号レベルとして読み出し、読み出し回路500に入力する。
その後、時刻e5でRES_CをLとすると、垂直出力線207に読み出されたリセット信号レベルと基準電圧Vrefの差分がオペアンプ503から出力される。時刻e6でTN_AB、TN_AをHとしてスイッチ510、512をONし、時刻e7でTN_AB、TN_AをLとしてスイッチ510、512をOFFすることにより、オペアンプ503の出力を容量N信号保持容量1AB506、1A508へ書き込む。
つぎに、時刻e8でTX_AをHとして、フォトダイオード201aの光電荷をフローティングディフュージョン領域203へ転送し、時刻e9でTX_AをLとする。この動作によりフォトダイオード201aに蓄積された電荷がフローティングディフュージョン領域203へ読み出される。そして、その変化に応じた出力が増幅部204および垂直出力線207を介して読み出し回路500へ供給される。
読み出し回路500では501のクランプ容量C0と502のフィードバック容量Cf、の比率で電圧変化に対し反転ゲインがかかり出力される。
この電圧を容量S信号保持容量1A507へ書き込むために、時刻e10でTS1_AをL→Hへ切り替え、スイッチ511をONし、時刻e11でTS1_AをH→Lと切り替え、スイッチ511をOFFし書き込みを終了する。
続いて、容量S信号保持容量1A507と容量N信号保持容量1A508に書き込まれた信号を容量S信号保持容量2A528と容量N信号保持容量2A529に書き込むために、時刻e12においてTS2_AをL→Hへ切り替える。TS2_AをL→Hへ切り替えることで、スイッチ524、525をONし、時刻e13でTS2_AをH→Lと切り替え、スイッチ524、525をOFFし書き込みを終了する。
本動作により、容量S信号保持容量2A528と容量N信号保持容量2A529の差電圧をとることにより、遮光されたフォトダイオード201aからの出力信号であるA像の補正データ生成用信号が得られる。
その後、容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は時刻e14に出力が開始される。水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ515、516がOFF→ON→OFFとなる。スイッチ515、516がOFF→ON→OFFとなった列の容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の補正データ生成用信号となる。
ここで、ステップS200における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図10Aの駆動タイミングに示すように第h〜i列目であり、それ以外は常にLレベルのままである。したがって、A像の補正データ生成用信号が読み出される画素列は第h〜i列目となる。
つぎに、時刻e15で再びTX_AをHとすると同時にTX_BもHとする。この動作によりフォトダイオード201aと201bの双方の光電荷を同時にフローティングディフュージョン領域203へ読み出すことができる。読み出された電荷はフォトダイオード201aのみを読みだした際と同様に読み出し回路500へ供給され、オペアンプ503を介して出力される。
この電圧を容量S信号保持容量1AB505へ書き込むために、時刻e17でTS1_ABをL→Hへ切り替え、スイッチ509をONし、時刻e18でTS1_ABをH→Lと切り替え、スイッチ509をOFFし書き込みを終了する。
つぎに時刻e19でRESをHとして、フローティングディフュージョン領域203をリセット状態にする。
続いて、容量S信号保持容量1AB505と容量N信号保持容量1AB506に書き込まれた信号を容量S信号保持容量2AB526と容量N信号保持容量2AB527に書き込むために、時刻e20においてTS2_ABをL→Hへ切り替える。TS2_ABをL→Hへ切り替えることで、スイッチ522、523をONし、時刻e21でTS2_ABをH→Lと切り替え、スイッチ522、523をOFFし書き込みを終了する。
本動作により、容量S信号保持容量2AB526と容量N信号保持容量2AB527の差電圧をとることで、遮光されたフォトダイオード201aおよび201bからの出力信号の和であるAB像の補正データ生成用信号が得られる。
つぎに、時刻e22〜e23の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ513、514がOFF→ON→OFFとなる。スイッチ513、514がOFF→ON→OFFとなった列の容量S信号保持容量2AB526、容量N信号保持容量2AB527に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の補正データ生成用信号となる。ここで、駆動パルスHAB(m)は図10Aの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の補正データ生成用信号はすべての列から読み出される。
次に、A像とAB像の補正データ生成用信号の読み出しにおける、2行目以降の読み出しタイミングを説明する。
図10BはA像とAB像の補正データ生成用信号の2行目の読み出しタイミングを示した図である。
時刻f1で転送スイッチ202aおよび202bの制御信号であるTX_AおよびTX_BをHにする。TX_AおよびTX_BがHになると、フォトダイオード201a,201bに蓄積された電荷は、第1の転送スイッチ202a、第2の転送スイッチ202bを介して増幅部204のゲートに転送され、フォトダイオード201a、201bはリセットされる。時刻f2でTX_AおよびTX_BをLとし、フォトダイオード201a、201bに光電荷を蓄積開始する。
必要時間蓄積を行った後に時刻f3で選択スイッチ206の制御信号であるSELをHにして、増幅部204をONする。時刻f4でリセットスイッチ205の制御信号であるRESをLとすることでフローティングディフュージョン領域203のリセットを解除する。このときのフローティングディフュージョン領域203の電位を垂直出力線207に増幅部204を介してリセット信号レベルとして読み出し、読み出し回路500に入力する。
その後、時刻f5でRES_CをLとする。
続いて、容量S信号保持容量1A507と容量N信号保持容量1A508に書き込まれた信号を容量S信号保持容量2A528と容量N信号保持容量2A529に書き込むために、時刻f6においてTS2_AをL→Hへ切り替える。TS2_AをL→Hへ切り替えことで、スイッチ524、525をONし、時刻f7でTS2_AをH→Lと切り替え、スイッチ524、525をOFFし書き込みを終了する。
そして、本動作により、容量S信号保持容量2A528と容量N信号保持容量2A529の差電圧をとる。これにより、1行目の読み出しにて容量S信号保持容量1A507と容量N信号保持容量1A508に格納された遮光されたフォトダイオード201aからの出力信号を再度読み出すことになり、A像の補正データ生成用信号が得られる。
その後、容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は時刻f8に出力が開始される。水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ515、516がOFF→ON→OFFとなる。スイッチ515、516がOFF→ON→OFFとなった列の容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の補正データ生成用信号となる。
ここで、ステップS200における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図10Bの駆動タイミングに示すように第h〜i列目であり、それ以外は常にLレベルのままである。したがって、A像の補正データ生成用信号が読み出される画素列は第h〜i列目となる。
つぎに時刻f9でRESをHとして、フローティングディフュージョン領域203をリセット状態にする。
続いて、1行目の読み出しにて容量S信号保持容量1AB505と容量N信号保持容量1AB506に書き込まれた信号を容量S信号保持容量2AB526と容量N信号保持容量2AB527に書き込む。時刻f10においてTS2_ABをL→Hへ切り替えることで、スイッチ522、523をONし、時刻f11でTS2_ABをH→Lと切り替えることで、スイッチ522、523をOFFし書き込みを終了する。
そして、容量S信号保持容量2AB526と容量N信号保持容量2AB527の差電圧をとる。本動作により、1行目の読み出しにて容量S信号保持容量1AB505と容量N信号保持容量1AB506に格納された遮光されたフォトダイオード201aおよび201bからの出力信号の和であるAB像の補正データ生成用信号が得られる。
つぎに、時刻f12〜f13の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ513、514がOFF→ON→OFFとなる。スイッチ513、514がOFF→ON→OFFとなった列の容量S信号保持容量2AB526、容量N信号保持容量2AB527に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の補正データ生成用信号となる。ここで、駆動パルスHAB(m)は図10Bの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の補正データ生成用信号はすべての列から読み出される。
以上の動作が各行毎に順次行われ、A像とAB像の補正データ生成用信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(a)の起動時に記載の様にA像とAB像の補正データ生成用データが得られる。このデータは画像補正部300に入力される。画像補正部300では、入力されたデータを列毎に平均し、上述した処理によりA像の第h〜i列と、AB像の第0〜n列の列毎の補正データを生成し、それぞれ図6(a)の起動時に記載の様に格納する。
次にステップS204にてCPU103はA像とAB像の補正データの生成が終了したかを判断する。本実施例では1フレーム分の補正データ生成用データで補正データの生成が終了するのでステップS205に進む。複数フレーム分の補正データ生成用データが必要な場合は、ステップS203に戻って読み出しを繰り返し、補正データ生成が終了するまで続ける。
ステップS205ではCPU103はTG101に対して、A像とAB像の読み出しモードを画像信号出力モード(第2の読み出しモード)に設定する。この設定により、読出し時にA像とAB像はフォトダイオード201a、201bにて光電変換された光成分の信号が出力され、AFE102にてデジタル信号に変換された画像データとして画像補正部300に入力される。
次にステップS206にて、CPU103は画像補正部300に対してA像とAB像を補正する設定を行う。画像補正部300では、ここでの設定に従ってA像とAB像の画像データをそれぞれ補正する。
その後ステップS207にてA像とAB像の画像信号の読み出しが行われる。画像信号の1行の読み出しは上述した図10Aと同様の読み出しタイミングで行われる。図10Aに記載の読み出し動作が各行毎に順次行われ、A像、AB像の画像信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(a)の1フレーム目に記載の様にA像とAB像の画像データが得られる。このデータは画像補正部300に入力される。画像補正部300では、メモリ305に格納されるA像の第h〜i列と、AB像の第0〜n列の列毎の補正データを入力データの列対応に合わせてメモリ305から出力させ、各列毎のオフセット補正を行う。
補正されたA像、AB像はAF演算部110に入力され、上述した処理によりAF動作を行う。また、AB像の画像データはRAM107に格納される。CPU103はRAM107に格納されるAB像の画像データを画像処理部108に転送し、画像処理部108では画像データの圧縮等が行われる。その後動画データとして記録部109に記録される。
次にステップS208にて、CPU103は、操作部104の動画撮影スイッチが再び押下されて撮影が終了するかを判断する。撮影終了である場合には、そのまま撮影動作を終了する。撮影終了でない場合にはステップS209に進む。
ステップS209では、CPU103が、焦点検出領域の位置が変更されたかを判断する。焦点検出領域の位置が変更されていない場合には、ステップS207に戻り、上述したステップS207からステップS208の動作を繰り返す(図6(a))。
焦点検出領域の位置が変更されている場合には、ステップS210へと進む。ステップS210では、CPU103は変更後の焦点検出領域の位置に合わせてA像を読み出す水平位置を撮像素子100に対して設定する。ここではA像の読み出し位置は第j〜k列とする。
次にステップS211にて、CPU103はTG101に対して、A像の読み出しモードを補正データ生成用信号出力モードに、AB像の読み出しモードを画像信号出力モード(第3の読み出しモード)に設定する。この設定により、読出し時にA像は補正データ生成用信号が出力され、AB像は画像信号が出力される。
次にステップS212にて、CPU103は画像補正部300に対してA像の補正データを生成する設定と、AB像を補正する設定を行う。画像補正部300では、ここでの設定に従ってA像の補正データ生成用データからA像の補正データを生成するとともに、AB像の画像データを補正する。
その後ステップS213にてA像の補正データ生成用信号と、AB像の画像信号の読み出しが行われる。以下に図10Cを用いてA像の補正データ生成用信号と、AB像の画像信号の読み出しについて説明する。
図10CはA像の補正データ生成用信号と、AB像の画像信号の1行目の読み出しタイミングを示した図である。1行目は図8(b)に示す様にOB領域であり、遮光されたフォトダイオードの信号を読み出す。時刻g13までの動作は上述した図10Aの時刻e13までの動作と同様の動作のため、説明を省略する。
容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は時刻g14に出力が開始される。水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ515、516がOFF→ON→OFFとなる。スイッチ515、516がOFF→ON→OFFとなった列の容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の補正データ生成用信号となる。
ここで、ステップS210における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図10Cの駆動タイミングに示すように第j〜k列目であり、それ以外は常にLレベルのままである。したがって、A像信号が読み出される画素列は第j〜k列目となる。
その後時刻g15以降の動作は上述した図10Aの時刻e15以降の動作と同様の動作のため、説明を省略する。
次に、A像の補正データ生成用信号と、AB像の画像信号の読み出しにおける、2行目以降の読み出しタイミングを説明する。
図10DはA像の補正データ生成用信号とAB像の画像信号の2行目の読み出しタイミングを示した図である。
時刻h5までの動作は、上述した図10Bの時刻f5までの動作と同様のため、説明を省略する。
時刻h6ではオペアンプ503の出力を容量N信号保持容量1AB506へ書き込むためにTN_ABをHとして、スイッチ510をONし、時刻h7でTN_ABをLとして、スイッチ510をOFFして書き込みを終了する。
続いて、容量S信号保持容量1A507と容量N信号保持容量1A508に書き込まれた信号を容量S信号保持容量2A528と容量N信号保持容量2A529に書き込むために、時刻h8においてTS2_AをL→Hへ切り替える。TS2_AをL→Hへ切り替えることで、スイッチ524、525をONし、時刻h9でTS2_AをH→Lと切り替え、スイッチ524、525をOFFし書き込みを終了する。
そして、容量S信号保持容量2A528と容量N信号保持容量2A529の差電圧をとる。本動作により、1行目の読み出しにて容量S信号保持容量1A507と容量N信号保持容量1A508に格納された遮光されたフォトダイオード201aからの出力信号を再度読み出すことになり、A像の補正データ生成用信号が得られる。
その後、容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は時刻h10に出力が開始される。水平シフトレジスタ232の駆動パルスHA(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ515、516がOFF→ON→OFFとなる。スイッチ515、516がOFF→ON→OFFとなった列の容量S信号保持容量2A528、容量N信号保持容量2A529に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がA像の補正データ生成用信号となる。
ここで、ステップS210における設定に従い、駆動パルスHA(m)がL→H→Lとなる画素列は図10Dの駆動タイミングに示すように第j〜k列目であり、それ以外は常にLレベルのままである。したがって、A像信号が読み出される画素列は第j〜k列目となる。
つぎに、時刻h11で再びTX_AをHとすると同時にTX_BもHとする。この動作によりフォトダイオード201aと201bの双方の光電荷を同時にフローティングディフュージョン領域203へ読み出すことができる。読み出された電荷はフォトダイオード201aのみを読みだした際と同様に読み出し回路500へ供給され、オペアンプ503を介して出力される。
この電圧を容量S信号保持容量1AB505へ書き込むために、時刻h13でTS1_ABをL→Hへ切り替え、スイッチ509をONし、時刻h14でTS1_ABをH→Lと切り替え、スイッチ509をOFFし書き込みを終了する。
つぎに時刻h15でRESをHとして、フローティングディフュージョン領域203をリセット状態にする。
続いて、容量S信号保持容量1AB505と容量N信号保持容量1AB506に書き込まれた信号を容量S信号保持容量2AB526と容量N信号保持容量2AB527に書き込むために、時刻h16においてTS2_ABをL→Hへ切り替える。TS2_ABをL→Hへ切り替え、スイッチ522、523をONし、時刻h17でTS2_ABをH→Lと切り替え、スイッチ522、523をOFFし書き込みを終了する。
本動作により、容量S信号保持容量2AB526と容量N信号保持容量2AB527の差電圧をとることで、フォトダイオード201aおよび201bからの出力信号の和であるAB像の画像信号が得られる。
つぎに、時刻h18〜h19の間に、水平シフトレジスタ232の駆動パルスHAB(m)が読み出し回路毎に順次L→H→Lとなり、それに伴い、スイッチ513、514がOFF→ON→OFFとなる。スイッチ513、514がOFF→ON→OFFとなった列の容量S信号保持容量2AB526、容量N信号保持容量2AB527に保持された信号は共通出力線230、231へそれぞれ読み出され、出力アンプ233で差電圧として出力される。この差電圧がAB像の画像信号となる。ここで、駆動パルスHAB(m)は図10Dの駆動タイミングに示すように第0〜n列のすべての列で順次L→H→Lとなる。したがって、AB像の画像信号はすべての列から読み出される。
以上の動作が各行毎に順次行われ、A像の補正データ生成用信号、およびAB像の画像信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(b)のpフレーム目に記載の様にA像の補正データ生成用データとAB像の画像データが得られる。このデータは画像補正部300に入力される。画像補正部300では、入力されたデータを平均し、上述した処理によりA像の第j〜k列の列毎の補正データを、図6(b)のpフレーム目に記載の様に格納する。また、AB像の第0〜n列の列毎の補正データを入力データの列対応に合わせてメモリ305から出力させ、各列毎のオフセット補正を行う。
補正されたAB像の画像データはRAM107に格納される。CPU103はRAM107に格納されるAB像の画像データを画像処理部108に転送し、画像処理部108では画像データの圧縮等が行われる。その後動画データとして記録部109に記録される。
次にステップS214にてCPU103はA像の補正データの生成が終了したかを判断する。本実施例では1フレーム分の補正データ生成用データで補正データの生成が終了するのでステップS205に進む。複数フレーム分の補正データ生成用データが必要な場合は、ステップS213に戻って読み出しを繰り返し、補正データ生成が終了するまで続ける。
続くステップS205ではCPU103はTG101に対して、A像とAB像の読み出しモードを画像信号出力モード(第2の読み出しモード)に設定する。この設定により、読出し時にA像とAB像はフォトダイオード201a、201bにて光電変換された光成分の信号が出力され、AFE102にてデジタル信号に変換された画像データとして画像補正部300に入力される。
次にステップS206にて、CPU103は画像補正部300に対してA像とAB像を補正する設定を行う。画像補正部300では、ここでの設定に従ってA像とAB像の画像データをそれぞれ補正する。
その後ステップS207にてA像とAB像の画像信号の読み出しが行われる。A像とAB像の画像信号の読み出しは上述した図10Cの読み出し動作と同様なので、説明を省略する。図10Cの読み出し動作が各行毎に順次行われ、A像、AB像の画像信号の読み出しが完了する。出力された信号はAFE102にてデジタル信号に変換される。
この様にして図6(b)のp+1フレーム目に記載の様にA像とAB像の画像データが得られる。このデータは画像補正部300に入力される。画像補正部300では、メモリ305に格納されるA像の第j〜k列と、AB像の第0〜n列の列毎の補正データを入力データの列対応に合わせてメモリ305から出力させ、各列毎のオフセット補正を行う。
補正されたA像、AB像はAF演算部110に入力され、上述した処理によりAF動作を行う。また、AB像の画像データはRAM107に格納される。CPU103はRAM107に格納されるAB像の画像データを画像処理部108に転送し、画像処理部108では画像データの圧縮等が行われる。その後動画データとして記録部109に記録される。
その後ステップS208以降の動作は上述した動作と同様に行われ、AF動作と動画記録が続けられる。
上述した様に、動画撮影において焦点検出に使用するデータ(A像)の読み出し位置が変更した場合でも、A像の補正データを再生成することによりA像の列毎の補正を適用することができる。また、A像の補正データ再生成時にA像は補正データ生成用データを出力し、AB像は画像データを出力することができるので、動画のフレームデータが抜けることなくフレームレートを保ったまま、焦点検出位置を変更することができる。したがって、本発明によれば、画像データの取得を中断せずに新しい位置の焦点検出画素の補正データを再生成することができる。
また、本実施例では画素の信号を繰り返して読み出した信号を補正データ生成用信号としているので、画素部の持つ列毎の固定パターンノイズも含めて補正することができる。
なお、本実施例では焦点検出位置を変更した場合に補正データを再生成する構成としたが、この限りではない。画像の撮像以外に使用される、例えばA像(焦点検出画素)の撮影条件(撮影感度等)や画素加算周期(加算率)、画素間引き周期(読み出し間引き率)等が変更になった場合にも適用することができる。
また、本実施例では補正データ生成回路301が補正データを生成する構成としたが、この限りではない。画像データ読出し時に画像データの上部に補正データ更新用データを読み出し、補正データ更新用データを使用してメモリ内部の補正データを更新する構成も適用することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、装置(例えば、撮像装置)に供給する。そしてその装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれる。
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。