以下に述べる各実施形態では、光電変換装置の一例として撮像装置を中心に説明する。ただし、各実施形態は、撮像装置に限られるものではなく、光電変換装置の他の例にも適用可能である。光電変換装置の他の例としては、例えば、測距装置(焦点検出やTOF(Time Of Flight)を用いた距離測定等の装置)、測光装置(入射光量の測定等の装置)などがある。
[第1実施形態]
本発明の第1実施形態による撮像装置の概略構成について、図1乃至図4を用いて説明する。図1は、本実施形態による撮像装置の概略構成を示すブロック図である。図2は、本実施形態による撮像装置における画素の構成例を示す回路図である。図3は、本実施形態による撮像装置における信号処理部の概略構成を示すブロック図である。図4は、本実施形態による撮像装置の構成例を示す概略図である。
本実施形態による撮像装置100は、図1に示すように、画素部10と、垂直走査回路部20と、列回路部30と、水平走査回路部40と、信号処理部50と、出力部60と、制御部70と、を有する。
画素部10には、各々が光電変換部を含む複数の画素Pが複数の行及び複数の列をなすように2次元状に配列されている。複数の画素Pの各々は、光電変換部に入射した光の量に応じた画素信号を出力するように構成されている。図1には、m列×n行の行列状に配列された複数の画素Pで構成される画素部10を示すとともに、各画素の符号Pに(列番号,行番号)で表される座標を付記している。なお、本明細書では、各行の延在する方向(行方向)を水平方向、各列の延在する方向(列方向)を垂直方向と定義するものとする。また、先頭行の行番号は第1行であり、先頭列の列番号は第1列であるものとする。
画素部10を構成する画素Pの数は、特に限定されるものではない。例えば、一般的なデジタルカメラのように数千列×数千行のアレイ状に配された複数の画素Pにより画素部10を構成することができる。或いは、1行又は1列に並べた複数の画素Pにより画素部10を構成してもよい。或いは、1つの画素Pにより画素部10を構成してもよい。なお、画素部10には、入射光の光量に応じた画素信号を出力する有効画素のほか、光電変換部が遮光されたオプティカルブラック画素や、信号を出力しないダミー画素などが配置されていてもよい。
画素部10の各行には、行方向に延在して制御線12が配されている。制御線12の各々は、行方向に並ぶ画素Pにそれぞれ接続され、これら画素Pに共通の信号線をなしている。制御線12の各々は、複数の信号線を含みうる。制御線12は、垂直走査回路部20に接続されている。
画素部10の各列には、列方向に延在して垂直出力線14が配されている。垂直出力線14の各々は、列方向に並ぶ画素Pに接続され、これら画素Pに共通の信号線をなしている。垂直出力線14は、列回路部30に接続されている。
垂直走査回路部20は、制御部70から供給される制御信号を受け、画素Pを駆動するための制御信号を生成し、制御線12を介して画素Pに供給する機能を備える制御回路である。垂直走査回路部20には、シフトレジスタやアドレスデコーダといった論理回路が用いられうる。垂直走査回路部20は、各行の制御線12に制御信号を供給し、画素部10の画素Pを行単位で駆動する。行単位で画素Pから読み出された信号は、画素部10の各列に配された垂直出力線14を介して列回路部30に入力される。
列回路部30は、画素部10の各列に対応して設けられた複数の列回路を有する。複数の列回路の各々は、対応する列の画素Pで取得された画素信号を読み出す読み出し回路であり、増幅器32とAD変換回路(ADC)34とを有する。増幅器32は、対応する列の垂直出力線14を介して画素部10から出力される画素信号を所定のゲインで増幅して出力する。ADC34は、対応する列の増幅器32から出力される画素信号をアナログ信号からデジタル信号に変換する。ADC34は、メモリ部を有し、デジタル信号に変換した後の画素信号(画像データ)をメモリ部に保持する。
水平走査回路部40は、制御部70から供給される制御信号を受け、列回路部30が保持する画素信号を読み出すための信号を生成し、各列のADC34に供給する機能を備える制御回路である。画素部10の各列に対応して設けられた水平走査回路部40の制御線は、対応する列のADC34に接続されている。水平走査回路部40は、列回路部30の各列のADC34を順次走査し、各々に保持されている画素信号を、水平出力線42を介して信号処理部50へと出力させる。水平走査回路部40には、シフトレジスタやアドレスデコーダといった論理回路が用いられうる。
信号処理部50は、列回路部30から転送される画素信号に対して所定の信号処理を行う機能を備える。信号処理部50は、少なくとも、画素部10で発生したノイズを低減するための補正を行う機能及び列回路部30で発生したノイズを低減するための補正を行う機能を備える。信号処理部50が備えうるその他の処理としては、例えば、各種の演算処理や、増幅処理や、CDSによる補正処理などが挙げられる。なお、信号処理部50の詳細については後述する。
出力部60は、外部インターフェース回路を有し、信号処理部50で処理された画素信号を撮像装置100の外部へ出力するための回路である。出力部60が備える外部インターフェース回路は、特に限定されるものではない。外部インターフェース回路には、例えば、LVDS(Low Voltage Differential Signaling)回路、SLVS(Scalable Low Voltage Signaling)回路等のSerDes(SERializer/DESerializer)送信回路を適用可能である。
制御部70は、垂直走査回路部20、列回路部30、水平走査回路部40、信号処理部50、出力部60の動作を制御する制御信号を生成し、各機能ブロックに供給する制御回路である。なお、垂直走査回路部20、列回路部30、水平走査回路部40、信号処理部50、出力部60の動作を制御する制御信号は必ずしも制御部70から供給される必要はなく、これらのうちの少なくとも一部は撮像装置100の外部から供給されてもよい。
次に、本実施形態による撮像装置における画素Pの構成例について、図2を用いて説明する。図2には、画素部10を構成する複数の画素Pのうち、第M列、第N行に配された画素P(M,N)を抜き出して示している。ここで、Mは1~mの整数であり、Nは1~nの整数である。画素部10を構成するその他の画素Pの回路構成は、画素P(M,N)と同様でありうる。
画素P(M,N)は、例えば図2に示すように、光電変換素子PDと、転送トランジスタM1と、リセットトランジスタM2と、増幅トランジスタM3と、選択トランジスタM4と、により構成されうる。画素P(M,N)は、入射光が光電変換素子PDに導かれるまでの光路上に配されたマイクロレンズ及びカラーフィルタを更に有していてもよい。マイクロレンズは、入射光を光電変換素子PDに集光する。カラーフィルタは、所定の色の光を選択的に透過する。
光電変換素子PDは、例えばフォトダイオードである。光電変換素子PDは、アノードが基準電圧ノードに接続され、カソードが転送トランジスタM1のソースに接続されている。転送トランジスタM1のドレインは、リセットトランジスタM2のソース及び増幅トランジスタM3のゲートに接続されている。転送トランジスタM1のドレイン、リセットトランジスタM2のソース及び増幅トランジスタM3のゲートが接続されるノードFDは、いわゆる浮遊拡散(フローティングディフュージョン)部である。浮遊拡散部は、容量成分(浮遊拡散容量)を有し、電荷保持部としての機能を備える。浮遊拡散容量には、pn接合容量や配線容量などが含まれうる。リセットトランジスタM2のドレイン及び増幅トランジスタM3のドレインは、電源電圧(電圧VDD)が供給されるノードに接続されている。増幅トランジスタM3のソースは、選択トランジスタM4のドレインに接続されている。選択トランジスタM4のソースは、垂直出力線14に接続されている。
図2の回路構成の場合、各行の制御線12は、転送トランジスタM1のゲート、リセットトランジスタM2のゲート及び選択トランジスタM4のゲートに接続された3本の信号線を含む。第N行の画素Pの転送トランジスタM1のゲートには、垂直走査回路部20から制御信号PTX(N)が供給される。第N行の画素PのリセットトランジスタM2のゲートには、垂直走査回路部20から制御信号PRES(N)が供給される。第N行の画素Pの選択トランジスタM4のゲートには、垂直走査回路部20から制御信号PSEL(N)が供給される。各トランジスタがN型MOSトランジスタで構成される場合、垂直走査回路部20からHighレベルの制御信号が供給されると対応するトランジスタがオンになる。また、垂直走査回路部20からLowレベルの制御信号が供給されると対応するトランジスタがオフになる。
なお、本実施形態では、光入射によって光電変換素子PDで生成される電子正孔対のうち、電子を信号電荷として用いる場合を想定して説明を行う。信号電荷として電子を用いる場合、画素Pを構成する各トランジスタは、N型MOSトランジスタによって構成されうる。ただし、信号電荷は電子に限られるものではなく、正孔を信号電荷として用いてもよい。信号電荷として正孔を用いる場合、各トランジスタの導電型は、本実施形態で説明するものとは逆導電型となる。なお、MOSトランジスタのソース及びドレインの呼称はトランジスタの導電型や着目する機能によって異なることがある。本実施形態において使用するソース及びドレインの名称の一部又は全部は、逆の名称で呼ばれることもある。
光電変換素子PDは、入射光をその光量に応じた量の電荷に変換(光電変換)し、生じた電荷を蓄積する。転送トランジスタM1は、オンになることにより光電変換素子PDが保持する電荷をノードFDに転送する。光電変換素子PDから転送された電荷は、ノードFDの容量(浮遊拡散容量)に保持される。その結果、ノードFDは、浮遊拡散容量による電荷電圧変換によって、光電変換素子PDから転送された電荷の量に応じた電位となる。
選択トランジスタM4は、オンになることにより増幅トランジスタM3を垂直出力線14に接続する。増幅トランジスタM3は、ドレインに電圧VDDが供給され、ソースに選択トランジスタM4を介して不図示の電流源からバイアス電流が供給される構成となっており、ゲートを入力ノードとする増幅部(ソースフォロワ回路)を構成する。これにより増幅トランジスタM3は、ノードFDの電圧に基づく信号を、選択トランジスタM4を介して垂直出力線14に出力する。
リセットトランジスタM2は、電荷保持部としてのノードFDをリセットするための電圧(電圧VDD)のFDノードへの供給を制御する機能を備える。リセットトランジスタM2は、オンになることによりノードFDを電圧VDDに応じた電圧にリセットする。この際、転送トランジスタM1を同時にオンにすることで、光電変換素子PDを電圧VDDに応じた電圧にリセットすることも可能である。
転送トランジスタM1,リセットトランジスタM2及び選択トランジスタM4を適宜制御することにより、各々の画素Pからは、ノードFDのリセット電圧に応じた信号と光電変換素子PDへの入射光量に応じた信号とが読み出される。以下では、ノードFDのリセット電圧に応じた信号をノイズ信号(N信号)と呼び、光電変換素子PDへの入射光量に応じた信号を光電変換信号(S信号)と呼ぶものとする。
次に、本実施形態による撮像装置における信号処理部50の構成例について、図3を用いて説明する。信号処理部50は、図3に示すように、第1処理部52と、第1補正値保持部54と、第2処理部56と、第2補正値保持部58と、を有する。第1処理部52は、水平出力線42と、第1補正値保持部54と、第2処理部56と、に接続されている。第2処理部56は、第2補正値保持部58と、出力部60と、に接続されている。
第1処理部52は、水平出力線42を介して受信した画素信号に対し、第1補正値保持部54に保持されている補正値を用い、列回路部30で発生したゲイン成分のノイズを低減するための演算処理を行う。第2処理部56は、第1処理部52で処理された画素信号に対し、第2補正値保持部58に保持されている補正値を用い、画素部10で発生したオフセット成分のノイズを低減するための演算処理を行う。第2処理部56で処理された画素信号は、出力部60を介して撮像装置100の外部へと出力される。
第1補正値保持部54及び第2補正値保持部58は、フリップフロップやSRAMのような揮発性記憶媒体によって構成されうる。第1補正値保持部54には、画素部10の列の各々に対応するm個の補正値が予め保持されている。第2補正値保持部58には、少なくとも1個の補正値が予め保持されている。これら補正値は、撮像装置100の内部で生成して第1補正値保持部54及び第2補正値保持部58に書き込むようにしてもよいし、撮像装置100の外部で生成したものを第1補正値保持部54及び第2補正値保持部58に書き込むようにしてもよい。補正値の生成を撮像装置100の外部で行うことには、回路面積の制限を受けることなく適切な補正値を生成できるメリットがある。第1補正値保持部54及び第2補正値保持部58の各々に保持する補正値の数は、画素P又は列回路の構成や回路面積の要請等に応じて互いに独立して設定することができる。
第1補正値保持部54及び第2補正値保持部58は、必ずしも撮像装置100の内部に設けられている必要はなく、撮像装置100の外部に設けられていてもよい。第1補正値保持部54及び第2補正値保持部58を撮像装置100の外部に設けることで、メモリ容量の制限を受けることなく所望の第1補正値保持部54及び第2補正値保持部58を構築することができる。
本実施形態による撮像装置100は、1枚の基板に形成してもよいし、複数の基板を積層した積層型の撮像装置として構成してもよい。後者の場合、例えば図4に示すように、画素基板110と回路基板120とを積層して電気的に接続した積層型の撮像装置として構成可能である。画素基板110には、撮像装置100の構成要素のうち、画素部10を配置することができる。また、回路基板120には、撮像装置100の構成要素のうち、垂直走査回路部20、列回路部30、水平走査回路部40、信号処理部50、出力部60及び制御部70を配置することができる。
撮像装置100をこのように構成することで、撮像装置100を製造する際に、画素部10を含むアナログ部及び信号処理部50を含むロジック部に対し、各々に適切な製造プロセスを選択できるようになる。これにより、撮像装置100の各部の特性を独立して向上し、ひいては画質の向上した撮像装置を実現することができる。
また、信号処理部50の第1処理部52及び第2処理部56をともに回路基板120に設けることで、画像データ内の信号成分のダイナミックレンジを拡大することができる。また、画素基板110と回路基板120とを積層することで、信号処理部50の回路面積を大きくできるため、単層構造の撮像装置よりも好適である。
次に、本実施形態による撮像装置における画素信号の補正方法について、図5及び図6を用いて説明する。図5は、本実施形態による撮像装置における画素信号の補正方法を示すフローチャートである。図6は、本実施形態による撮像装置における画素信号の補正方法を概念的に説明するグラフである。
ここでは、画素部10を構成するm列×n行の画素Pのうちの任意の1つの画素Pから出力される信号S1に着目して説明するものとする。なお、信号S1はアナログ信号であるのに対し、列回路部30から出力される信号はこのアナログ信号を増幅してAD変換したデジタル信号であり、両者は尺度の異なるパラメータである。ここでは理解を容易にするため、信号S1及び列回路部30からの出力信号を、共通のパラメータ、すなわち取得したい真の信号成分Sを用い、同じ尺度で表現するものとする。
まず、ステップS101において、画素部10のある画素Pから垂直出力線14を介して信号S1を出力する。信号S1には、取得したい真の信号成分Sに対し、画素部10における暗電流によるオフセット成分のノイズN1が重畳している。すなわち、信号S1は、以下の式(1)のように表される。
S1=S+N1 …(1)
続くステップS102では、列回路部30において信号S1に対する増幅処理及びAD変換処理を行う。列回路部30では、各列の増幅器32の特性ばらつきに起因して、列ごとにゲイン成分のノイズN2が発生する。列回路部30では、画素部10と同様、オフセット成分のノイズも発生しうるが、ここでは簡略化のため説明を省略する。列回路部30から出力される信号をS2で表すと、信号S2は、以下の式(2)のように表される。
S2=(S+N1)×N2 …(2)
続くステップS103では、信号処理部50の第1処理部52において信号S2に対する補正処理を行う。第1処理部52では、信号S2に対し、列回路部30において生じたゲイン成分のノイズN2を低減するための補正処理を行う。列回路部30で発生するノイズは列ごとのばらつきを持つため、列ごとに定められた補正値を用いて補正処理を行うことで、より高い精度で補正を行うことができる。そこで、第1補正値保持部54には予め、各列の増幅器32に対応するm個のゲイン補正値を保持しておく。第1処理部52における補正処理は、信号S2に対し、第1補正値保持部54に保持された対応する列の補正値(1/N2)を乗算することにより実施することができる。具体的には、第1処理部52における補正処理後の信号をS3で表すと、信号S3は、以下の式(3)のように表される。
S3=(S+N1)×N2/N2=S+N1 …(3)
続くステップS104では、第2処理部56において信号S3に対する補正処理を行う。第2処理部56では、信号S3に対し、画素部10において生じた暗電流によるオフセット成分のノイズN1を低減するための補正処理を行う。画素部10が同じ特性をもつ画素Pで構成される場合、総ての画素Pに対して一括で補正を行うことで、補正精度を維持したままで補正値の保持のために必要なメモリ容量の削減することができる。そこで、第2補正値保持部58には予め、1つの補正値を保持しておく。この補正値は、例えば複数画素の平均値で生成されうる。以後、この補正値をN1aveと表記するものとする。第2処理部56における補正処理は、信号S3に対し、第2補正値保持部58に保持された補正値(-N1ave)を加算することにより実施することができる。具体的には、第2処理部56における補正処理後の信号をS4で表すと、信号S4は、以下の式(4)のように表される。すなわち、信号S4として、取得したい真の信号成分Sを得ることができる。N1は画素毎に異なるランダムノイズのため、(N1-N1ave)も同様にランダムノイズになると想定される。一般的にランダムノイズは目につきにくいと言われており、ステップS104における補正処理は、取得したい真の信号成分Sを得るために有効な補正といえる。
S4=S+(N1-N1ave) …(4)
仮に、信号S2に対してステップS104の処理をステップS103の処理よりも先に行うものとすると、信号S3は式(5)のように表される。一例では、先にステップS104の処理を行う際における第2処理部56の補正値は、複数画素の平均値で生成したN1ave×N2aveでありうる。このとき、N2aveは複数列のノイズが混在した状態になる。N1ave及びN2aveは複数画素の平均値から生成されるため、N1×N2≠N1ave×N2aveとなり、補正残りが生じる。この信号S3に対して、ステップS103の処理を行うと、信号S4は式(6)のように表される。ここでN2は、列毎に異なる固定パターンノイズのため、(N1-N1ave×N2ave/N2)も同様に列毎の固定パターンノイズになると想定される。一般的に列毎の固定パターンノイズは目に付きやすいと言われており、取得したい真の信号成分Sを得るために有効な補正とは言えない。
S3=(S+N1)×N2-N1ave×N2ave …(5)
S4=S+(N1-N1ave×N2ave/N2) …(6)
このように、本実施形態の補正方法においては、まず、第1処理部52において、列回路から出力される信号S2の各々に対し、列回路で発生して信号S2に重畳している列回路のゲイン誤差成分を低減するための処理を含む演算処理を行う。その後に、第2処理部56において、第1処理部52で処理された信号S3に対し、画素Pで発生して信号S3に重畳しているノイズを低減するための演算処理を行う。このような処理手順で信号S2に対して補正処理を行うことにより、補正残りがない或いは大幅に低減された信号S4を取得することが可能となる。
次に、本実施形態の補正方法を、図6を用いて模式的に説明する。図6(a)は列回路部30で処理された後の信号S2を示している。図6(b)は第1処理部52で処理された後の信号S3を示している。図6(c)は第2処理部56で処理された後の信号S4を示している。各図において、縦軸は各信号の出力レベルを示し、横軸は真の信号成分のレベルを示している。グラフの傾きはゲインを示し、グラフの切片はノイズによるオフセットを示している。例えば、増幅器32のゲインが1倍でノイズN1,N2がない場合、出力信号のレベルは真の信号成分Sのレベルと等しくなるため、グラフは傾きが1で切片が0の直線となる。
列回路部30で処理された後の信号S2には、前述のように、画素部10で発生したオフセット成分のノイズN1と列回路部30で発生したゲイン成分のノイズN2とが重畳する。信号S2のグラフの切片は、画素部10で発生したオフセット成分のノイズN1によって原点から縦軸方向に持ち上げられる。なお、ここでは簡略化のため、画素毎のランダムノイズは省略する。また、信号S2のグラフの傾きは、ゲインのばらつきに応じて変化する。各列の増幅器32にはゲインのばらつきが存在するため、各列の列回路から出力される信号S2のグラフは、1本に重ならず、最大で列数に相当するm本の直線に分離することになる(図6(a)参照)。
第1処理部52において各列の信号S2に対してそれぞれ補正処理を行うことで、信号S2に重畳していたゲイン成分のノイズN2が除去され、各列の信号S3に対するゲインが等しくなる。これにより、最大でm本に分離していた信号S2の直線は1本に重なり、信号S3の直線は1本になる(図6(b)参照)。
第2処理部56において信号S3に対して補正処理を行うことで、信号S3に重畳していたオフセット成分のノイズN1が除去され、グラフの切片は0になる(図6(c)参照)。
このようにして、列回路部30で発生したゲイン成分のノイズN2を除去した後に画素部10で発生したオフセット成分のノイズN1を除去することで、ノイズ成分を含まない画像データ(信号S4)を信号処理部50から出力することができる。
なお、本実施形態では、第1処理部52における補正方法として乗算による補正を例示したが、第1処理部52における補正処理はこれに限定されるものではない。すなわち、第1処理部52における補正処理は、列回路部30で発生したゲイン誤差成分を低減するための処理であればよい。例えば、第1処理部52において除算による補正を行ってもよい。或いは、補正値を保持する補正値テーブルを用意しておき、補正値テーブルから読み出した補正値に基づいて補正を行ってもよい。
また、本実施形態では、第1処理部52における補正対象としてゲイン成分のノイズN2を例示したが、第1処理部52における補正対象はこれに限定されるものではない。第1処理部52における補正対象は、列回路部30で発生したノイズであって、信号S2に対して乗算する演算処理によって処理できるものであればよい。例えば、第1処理部52では、入射光の光量と出力信号のレベルとが線型的な関係となるように補正を行うリニアリティ補正を行うことも可能である。
同様に、本実施形態では、第2処理部56における補正対象としてオフセット成分のノイズN1を例示したが、第2処理部56における補正対象はこれに限定されるものではない。第2処理部56における補正対象は、画素部10で発生したノイズであればよい。例えば、第2処理部56ではゲイン成分のノイズの低減やリニアリティ補正のための演算処理を行うことも可能である。これらの場合においても、本実施形態において説明したように、補正残りを低減し、画質の低下を防ぐことができる。
また、本実施形態では、第1処理部52における信号S2に対する補正を、各列の列回路に対応する補正値を用いて列ごとに行う例を示したが、所定数の列を含むグループごとに設定された補正値を用いて当該グループごとに行うようにしてもよい。例えば、m個の列を各々が5列を含む複数のグループに分け、同じグループに属する列に対して共通の補正値を用いて補正を行うことができる。この場合、第1補正値保持部54は(m/5)個の補正値を保持すればよく、補正値の保持に必要なメモリ容量を削減することができる。ただし、列回路部30で発生するノイズは列ごとのばらつきを持つため、より高い精度の補正が求められる場合は、本実施形態のように列ごとの補正値を用いるなど、1グループに含まれる列の数を少なくすることが好ましい。
また、本実施形態では、第1処理部52において列ごとのノイズを低減するための補正を行う例を示したが、第1処理部52において行ごとのノイズを低減するための補正を行うようにしてもよい。この場合にも、本実施形態において説明したように、補正残りを低減し、画質の低下を防ぐことができる。
このように、本実施形態によれば、画素回路及び読み出し回路に起因するノイズを適切に補正し、画質の低下を抑制することができる。
[第2実施形態]
本発明の第2実施形態による撮像装置について、図7及び図8を用いて説明する。図7は、本実施形態による撮像装置における画素の構成例を示す回路図である。図8は、本実施形態による撮像装置における信号処理部の構成例を示すブロック図である。第1実施形態による撮像装置と同様の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。
本実施形態による撮像装置は、画素部10を構成する複数の画素Pのうちの少なくとも一部の画素Pの構成が、第1実施形態の撮像装置とは異なっている。すなわち、本実施形態による撮像装置の画素P(M,N)は、例えば図7に示すように、光電変換素子PDA,PDBと、転送トランジスタM1A,M1Bと、リセットトランジスタM2と、増幅トランジスタM3と、選択トランジスタM4と、により構成されうる。1つの画素Pの光電変換素子PDA,PDBは1つのマイクロレンズを共有するように配されており、光電変換素子PDA,PDBには入射光学系の互いに異なる瞳領域を通過した光が入射する。画素Pは、光電変換素子PDAを含む副画素Aと、光電変換素子PDBを含む副画素Bと、を含むとも言える。
光電変換素子PDA,PDBは、例えばフォトダイオードである。光電変換素子PDAは、アノードが基準電圧ノードに接続され、カソードが転送トランジスタM1Aのソースに接続されている。また、光電変換素子PDBは、アノードが基準電圧ノードに接続され、カソードが転送トランジスタM1Bのソースに接続されている。転送トランジスタM1Aのドレイン及び転送トランジスタM1Bのドレインは、リセットトランジスタM2のソース及び増幅トランジスタM3のゲートに接続されている。転送トランジスタM1Aのドレイン、転送トランジスタM1Bのドレイン、リセットトランジスタM2のソース及び増幅トランジスタM3のゲートが接続されるノードFDが、浮遊拡散部である。リセットトランジスタM2のドレイン及び増幅トランジスタM3のドレインは、電源電圧(電圧VDD)が供給されるノードに接続されている。増幅トランジスタM3のソースは、選択トランジスタM4のドレインに接続されている。選択トランジスタM4のソースは、垂直出力線14に接続されている。
図7の回路構成の場合、各行の制御線12は、転送トランジスタM1Aのゲート、転送トランジスタM1Bのゲート、リセットトランジスタM2のゲート及び選択トランジスタM4のゲートに接続された4本の信号線を含む。第N行の画素Pの転送トランジスタM1Aのゲートには、垂直走査回路部20から制御信号PTXA(N)が供給される。第N行の画素Pの転送トランジスタM1Bのゲートには、垂直走査回路部20から制御信号PTXB(N)が供給される。第N行の画素PのリセットトランジスタM2のゲートには、垂直走査回路部20から制御信号PRES(N)が供給される。第N行の画素Pの選択トランジスタM4のゲートには、垂直走査回路部20から制御信号PSEL(N)が供給される。各トランジスタがN型MOSトランジスタで構成される場合、垂直走査回路部20からHighレベルの制御信号が供給されると対応するトランジスタがオンになる。また、垂直走査回路部20からLowレベルの制御信号が供給されると対応するトランジスタがオフになる。
光電変換素子PDA,PDBは、入射光をその光量に応じた量の電荷に変換(光電変換)し、生じた電荷を蓄積する。転送トランジスタM1Aは、オンになることにより光電変換素子PDAが保持する電荷をノードFDに転送する。転送トランジスタM1Bは、オンになることにより光電変換素子PDBが保持する電荷をノードFDに転送する。光電変換素子PDA,PDBから転送された電荷は、ノードFDの容量(浮遊拡散容量)に保持される。その結果、ノードFDは、浮遊拡散容量による電荷電圧変換によって、光電変換素子PDA,PDBから転送された電荷の量に応じた電位となる。
選択トランジスタM4は、オンになることにより増幅トランジスタM3を垂直出力線14に接続する。増幅トランジスタM3は、ドレインに電圧VDDが供給され、ソースに選択トランジスタM4を介して不図示の電流源からバイアス電流が供給される構成となっており、ゲートを入力ノードとする増幅部(ソースフォロワ回路)を構成する。これにより増幅トランジスタM3は、ノードFDの電圧に基づく信号を、選択トランジスタM4を介して垂直出力線14に出力する。
リセットトランジスタM2は、電荷保持部としてのノードFDをリセットするための電圧(電圧VDD)のFDノードへの供給を制御する機能を備える。リセットトランジスタM2は、オンになることによりノードFDを電圧VDDに応じた電圧にリセットする。この際、転送トランジスタM1Aを同時にオンにすることで、光電変換素子PDAを電圧VDDに応じた電圧にリセットすることも可能である。また、転送トランジスタM1Bを同時にオンにすることで、光電変換素子PDBを電圧VDDに応じた電圧にリセットすることも可能である。
転送トランジスタM1A,M1B、リセットトランジスタM2及び選択トランジスタM4を適宜制御することにより、各々の画素Pからは、ノイズ信号(N信号)と光電変換素子PDA,PDBへの入射光量に応じた信号(S信号)とを読み出すことができる。
また、本実施形態の画素Pは、2つの光電変換素子PDA,PDBが1つの浮遊拡散部(ノードFD)を共有している。このような画素Pからは、光電変換素子PDAで生成された電荷に基づく信号と、光電変換素子PDBで生成された電荷に基づく信号と、を別々に或いは組み合わせて読み出すことが可能である。例えば、まず、N信号と光電変換素子PDAで生成された電荷に基づくS信号(A信号)とを読み出し、次に、N信号と光電変換素子PDBで生成された電荷に基づくS信号(B信号)とを読み出す。A信号及びB信号は、焦点検出用の信号として用いることができる。A信号とB信号とを加算することにより得られる(A+B)信号は、画像生成用の信号として用いることができる。
また、本実施形態による撮像装置は、画素Pの構成の違いに対応して、信号処理部50の構成についても第1実施形態の撮像装置とは異なっている。すなわち、本実施形態による撮像装置の信号処理部50は、例えば図8に示すように、第2補正値保持部58に、少なくとも2個の補正値が予め保持されている。信号処理部50のその他の点は、第1実施形態の信号処理部50と同様である。
本実施形態において、任意の列の画素Pから出力されるA信号及びB信号は、列回路部30を構成する複数の列回路のうちの一の列回路に入力される。したがって、これらA信号及びB信号には、列回路部30において同じゲイン成分のノイズN2が重畳する。そこで、信号処理部50の第1処理部52では、第1実施形態の場合と同様、各列の列回路に対応するm個の補正値を用い、ゲイン成分のノイズN2を低減するための補正を行う。このような観点から、第1補正値保持部54には、画素部10の列の各々に対応するm個の補正値を予め保持しておく。
一方、A信号は光電変換素子PDAで生成された電荷に基づく信号であるのに対し、B信号は光電変換素子PDBで生成された電荷に基づく信号である。したがって、A信号及びB信号には、互いに異なるオフセット成分のノイズN1が重畳しうる。そこで、信号処理部50の第2処理部56では、第1実施形態の場合とは異なり、副画素Aに対応する補正値及び副画素Bに対応する補正値を用い、A信号及びB信号に重畳するオフセット成分のノイズN1を低減するための補正をそれぞれに対して行う。このような観点から、第2補正値保持部58には、1つの画素Pに含まれる副画素の数に対応する数の補正値を予め保持しておく。
本実施形態の信号処理部50において補正処理を行う順番は、第1実施形態と同様である。すなわち、第1処理部52においてゲイン成分のノイズN2を低減するための補正処理を行った後、第2処理部56においてオフセット成分のノイズN1を低減するための補正処理を行う。
このようにして、オフセット成分のノイズN1を低減するための補正処理を副画素の単位で行うことにより、画素Pが異なるノイズを発生しうる複数の副画素で構成されている場合でも、補正残りを低減し、画質の低下を防ぐことができる。
なお、本実施形態では、第2補正値保持部58が副画素A及び副画素Bに対応する2つの補正値を保持する場合を示したが、第2補正値保持部58は(A+B)信号に対応する補正値のみを有する構成としてもよい。このように構成することで、補正値の保持に必要なメモリ容量を削減することができる。この場合、第2補正値保持部58は、第1実施形態の場合と同様、1つの補正値を保持していればよい。
このように、本実施形態によれば、画素回路及び読み出し回路に起因するノイズを適切に補正し、画質の低下を抑制することができる。
[第3実施形態]
本発明の第3実施形態による撮像装置について、図9及び図10を用いて説明する。図9は、本実施形態による撮像装置の概略構成を示すブロック図である。図10は、本実施形態による撮像装置における信号処理部の構成例を示すブロック図である。第1又は第2実施形態による撮像装置と同様の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。
本実施形態による撮像装置100は、図9に示すように、画素部10と、垂直走査回路部20と、列回路部30A,30Bと、水平走査回路部40A,40Bと、信号処理部50A,50Bと、出力部60A,60Bと、制御部70と、を有する。列回路部30A、水平走査回路部40A、信号処理部50A及び出力部60Aは、一組の読み出し回路部を構成する。列回路部30B、水平走査回路部40B、信号処理部50B及び出力部60Bは、他の一組の読み出し回路部を構成する。画素部10は、これら2つの読み出し回路部の間に配されている。
画素部10には、第1実施形態と同様、m列×n行の行列状に配列された複数の画素Pが配列されている。画素部10に配される各画素Pは、所定の分光感度特性を有するカラーフィルタを備えている。図9には、複数の画素Pを、カラーフィルタの色パターンの配列の一つであるベイヤー配列に従って配置した例を示している。ベイヤー配列では、緑のカラーフィルタを備えた画素(G(Green)画素)と、赤のカラーフィルタを備えた画素(R(Red)画素)と、青のカラーフィルタを備えた画素(B(Blue)画素)とが、2:1:1の比率で配置される。ここで、R画素は赤色の波長域の光に感度を有する画素であり、G画素は緑色の波長域の光に感度を有する画素であり、B画素は青色の波長域の光に感度を有する画素である。すなわち、R画素、G画素及びB画素は、互いに光学特性が異なる画素である。
ベイヤー配列では、R画素とG画素とが交互に配される行と、G画素とB画素とが交互に配される行とが、交互に配置される。ここでは便宜上、R画素と同じ行に配されるG画素をGr画素と表記し、B画素と同じ行に配されるG画素をGb画素と表記するものとする。すなわち、画素部10は、図9に示すように、R画素、Gr画素、…、が配される行と、Gb画素、B画素、…、が配される行と、を有する。
画素部10の各行には、行方向に延在して制御線12が配されている。制御線12の各々は、行方向に並ぶ画素Pにそれぞれ接続され、これら画素Pに共通の信号線をなしている。制御線12の各々は、複数の信号線を含みうる。制御線12は、垂直走査回路部20に接続されている。垂直走査回路部20は、第1実施形態の垂直走査回路部20と同様である。
画素部10の各列には、列方向に延在して、垂直出力線14A及び垂直出力線14Bが配されている。画素部10を構成する複数の画素Pは、垂直出力線14Aに接続された画素Pと、垂直出力線14Bに接続された画素Pと、に分けられる。図9に示す構成例では、画素部10を構成する画素アレイの各行及び各列において、垂直出力線14Aに接続された画素Pと、垂直出力線14Bに接続された画素Pとは、交互に配置されている。
具体的には、垂直出力線14Aの各々は、列方向に並ぶ画素Pのうち、R画素又はB画素に接続され、これら画素Pに共通の信号線をなしている。垂直出力線14Bの各々は、列方向に並ぶ画素Pのうち、Gr画素又はGb画素に接続され、これら画素Pに共通の信号線をなしている。垂直出力線14Aは、列回路部30Aに接続されている。また、垂直出力線14Bは、列回路部30Bに接続されている。
列回路部30A,30Bは、第1実施形態の列回路部30と同様、画素部10の各列に対応して設けられた複数の列回路を有する。複数の列回路の各々は、増幅器32とAD変換回路(ADC)34とを有する。増幅器32は、対応する列の垂直出力線14を介して画素部10から出力される画素信号を所定のゲインで増幅して出力する。ADC34は、対応する列の増幅器32から出力される画素信号をアナログ信号からデジタル信号に変換する。ADC34は、メモリ部を有し、デジタル信号に変換した後の画素信号(画像データ)をメモリ部に保持する。
水平走査回路部40Aは、制御部70から供給される制御信号を受け、列回路部30Aが保持する画素信号を読み出すための信号を生成し、各列のADC34に供給する機能を備える制御回路である。画素部10の各列に対応して設けられた水平走査回路部40Aの制御線は、対応する列のADC34に接続されている。水平走査回路部40Aは、列回路部30Aの各列のADC34を順次走査し、各々に保持されている画像データを、水平出力線42Aを介して信号処理部50Aへと出力させる。
同様に、水平走査回路部40Bは、制御部70から供給される制御信号を受け、列回路部30Bが保持する画素信号を読み出すための信号を生成し、各列のADC34に供給する機能を備える制御回路である。画素部10の各列に対応して設けられた水平走査回路部40Bの制御線は、対応する列のADC34に接続されている。水平走査回路部40Bは、列回路部30Bの各列のADC34を順次走査し、各々に保持されている画像データを、水平出力線42Bを介して信号処理部50Bへと出力させる。
信号処理部50Aは、列回路部30Aから転送される画素信号に対して所定の信号処理を行う機能を備える。信号処理部50Aは、少なくとも、画素部10で発生したオフセット成分のノイズを低減するための補正を行う機能及び列回路部30Aで発生したゲイン成分のノイズ低減するための補正を行う機能を備える。信号処理部50Aが備えうるその他の処理としては、例えば、各種の演算処理や、増幅処理や、CDSによる補正処理などが挙げられる。
同様に、信号処理部50Bは、列回路部30Bから転送される画像データに対して所定の信号処理を行う機能を備える。信号処理部50Bは、少なくとも、画素部10で発生したオフセット成分のノイズを低減するための補正を行う機能及び列回路部30Bで発生したゲイン成分のノイズを低減するための補正を行う機能を備える。信号処理部50Bが備えうるその他の処理としては、例えば、各種の演算処理や、増幅処理や、CDSによる補正処理などが挙げられる。
出力部60Aは、外部インターフェース回路を有し、信号処理部50Aで処理された画像データを撮像装置100の外部へ出力するための回路である。出力部60Bは、外部インターフェース回路を有し、信号処理部50Bで処理された画像データを撮像装置100の外部へ出力するための回路である。
制御部70は、垂直走査回路部20、列回路部30A,30B、水平走査回路部40A,40B、信号処理部50A,50B、出力部60A,60Bの動作を制御する制御信号を生成し、各機能ブロックに供給する制御回路である。
次に、本実施形態による撮像装置における信号処理部50Aの構成例について、図10を用いて説明する。なお、信号処理部50Bの構成は信号処理部50Aと同様であるため、ここでの説明は省略する。
信号処理部50Aは、図10に示すように、第1処理部52と、第1補正値保持部54と、第2処理部56と、第2補正値保持部58と、を有する。第1処理部52は、水平出力線42Aと、第1補正値保持部54と、第2処理部56と、に接続されている。第2処理部56は、第2補正値保持部58と、出力部60Aと、に接続されている。なお、第1補正値保持部54及び第2補正値保持部58は、必ずしも撮像装置100の内部に設けられている必要はなく、撮像装置100の外部に設けられていてもよい。
第1処理部52は、水平出力線42Aを介して受信した画素信号に対し、第1補正値保持部54に保持されている補正値を用い、列回路部30Aで発生したゲイン成分のノイズを低減するための演算処理を行う。第2処理部56は、第1処理部52で処理された画素信号に対し、第2補正値保持部58に保持されている補正値を用い、画素部10で発生したオフセット成分のノイズを低減するための演算処理を行う。第2処理部56で処理された画素信号は、出力部60Aを介して撮像装置100の外部へと出力される。
第1補正値保持部54及び第2補正値保持部58は、フリップフロップやSRAMのような揮発性記憶媒体によって構成されうる。第1補正値保持部54には、m個の補正値が予め保持されている。第2補正値保持部58には、n個の補正値が予め保持されている。これら補正値は、撮像装置100の内部で生成して第1補正値保持部54及び第2補正値保持部58に書き込むようにしてもよいし、撮像装置100の外部で生成したものを第1補正値保持部54及び第2補正値保持部58に書き込むようにしてもよい。補正値の生成を撮像装置100の外部で行うことには、回路面積の制限を受けることなく適切な補正値を生成できるメリットがある。
ベイヤー配列では、2列×2行の画素ブロックが最小の繰り返し単位である単位画素ブロックをなす。本実施形態において、1つの単位画素ブロックを構成する4つの画素Pの画素信号は、互いに異なる列回路を介して信号処理部50A,50Bへと入力される。例えば図9において、画素P(1,1)、画素P(1,2)、画素P(2,1)及び画素P(2,2)は、1つの単位画素ブロックを構成している。画素P(1,1)の画素信号は、1列目の垂直出力線14Aを介して列回路部30Aに入力され、列回路部30Aの1列目の列回路で処理される。画素P(1,2)の画素信号は、1列目の垂直出力線14Bを介して列回路部30Bに入力され、列回路部30Bの1列目の列回路で処理される。画素P(2,1)の画素信号は、2列目の垂直出力線14Bを介して列回路部30Bに入力され、列回路部30Bの2列目の列回路で処理される。画素P(2,2)の画素信号は、2列目の垂直出力線14Aを介して列回路部30Aに入力され、列回路部30Aの2列目の列回路で処理される。
つまり、1つの単位画素ブロックを構成する4つの画素Pの画素信号は、互いに別の列回路において処理される。別の言い方をすると、異なる色のカラーフィルタを備える画素Pの画素信号は、互いに別の列回路において処理される。そこで、本実施形態においては、第2補正値保持部58に保持する補正値として、異なる色のカラーフィルタを備える画素Pごとに補正値を用意する。
例えば、信号処理部50Aの第2補正値保持部58には、R画素が配された奇数行の各々に対応する(n/2)個の補正値と、B画素が配された偶数行の各々に対応する(n/2)個の補正値と、が保持される。また、信号処理部50Bの第2補正値保持部58には、Gr画素が配された奇数行の各々に対応する(n/2)個の補正値と、Gb画素が配された偶数行の各々に対応する(n/2)個の補正値と、が保持される。第2補正値保持部58に保持する補正値としてこのような補正値を用意することにより、画素Pが備えるカラーフィルタの色ごとに異なるノイズが発生した場合にも、各々の画素Pに適した補正値で補正を行うことができる。これにより、共通の補正値で補正を行う場合と比較して、補正残りを低減し、画質の低下を防ぐことができる。
信号処理部50A,50Bの第1補正値保持部54に保持する補正値は、第1実施形態の場合と同様である。すなわち、信号処理部50Aの第1補正値保持部54には、列回路部30Aのm個の列回路の各々に対応するm個の補正値を保持しておく。また、信号処理部50Bの第1補正値保持部54には、列回路部30Bのm個の列回路の各々に対応するm個の補正値を保持しておく。これにより、列回路の特性ばらつきに起因するノイズを適切に補正することができる。
なお、本実施形態では、配線の引き回しの容易性等を考慮して、列回路部30、信号処理部50及び出力部60を各々が含む2組の読み出し回路を、画素部10を間に挟むように配置した。しかしながら、読み出し回路の配置は、列回路部30で発生したノイズを低減するための補正と画素部10で発生したノイズを低減するための補正とをこの順番で処理できる構成であれば、特に限定されるものではない。例えば、画素部10の一方の側に、列回路部30、信号処理部50及び出力部60を各々が含む2組の読み出し回路を配置してもよい。また、信号処理部50及び出力部60は、必ずしも2つに分割する必要はなく、1つの信号処理部及び1つの出力部60を2つの読み出し回路で共用してもよい。
また、本実施形態では、垂直出力線14A,14Bと列回路部30A,30Bの列回路とが1対1で対応している例を示したが、垂直出力線14と列回路とは必ずしも1対1で対応していなくてもよい。例えば、複数の垂直出力線14うちの任意の垂直出力線14が1つの列回路に接続可能に構成されていてもよい。このような場合には、垂直出力線14と列回路との組み合わせの数に応じた補正値を第1補正値保持部54に保持することで、共通の補正値で補正をする場合と比較して補正残りを低減することができる。
また、本実施形態では、異なる色のカラーフィルタを備える画素Pごとに第2処理部56における補正処理を行う例を示したが、その他の単位で補正処理を行うようにしてもよい。例えば、画素Pが備えるカラーフィルタの色のほか、垂直出力線14ごと、複数列ごと或いは画素ごとに、第2処理部56における補正処理を行うこともできる。これらの場合にも、本実施形態と同様の効果を得ることができる。
このように、本実施形態によれば、画素回路及び読み出し回路に起因するノイズを適切に補正し、画質の低下を抑制することができる。
[第4実施形態]
本発明の第4実施形態による撮像装置について、図11及び図12を用いて説明する。図11は、ΔΣ型ADC回路の構成例を示すブロック図である。図12は、本実施形態による撮像装置における信号処理部の構成例を示すブロック図である。第1乃至第3実施形態による撮像装置と同様の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。
本実施形態では、列回路部30で発生した2種類のノイズを第1処理部52において補正する例を示す。このような例としては、列回路部30のADC34がΔΣ型ADC回路を含んで構成されている場合が挙げられる。
ΔΣ型ADCは、サンプリング数を増やすことで高い分解能を得ることができるAD変換回路である。ΔΣ型ADC回路80は、例えば図11に示すように、減算回路(Δ)82と、積分回路(Σ)84と、比較器86と、DAC(Digital Analog Converter)88と、により構成されうる。ΔΣ型ADC回路80の入力ノードでもある減算回路82の入力ノードは、増幅器32の出力ノードと、DAC88の出力ノードとに接続されている。減算回路82の出力ノードは、積分回路84の入力ノードに接続されている。積分回路84の出力ノードは、比較器86の入力ノードに接続されている。比較器86の出力ノードは、DAC88の入力ノードに接続されているとともに、ΔΣ型ADC回路80の出力ノードを構成している。
減算回路82は、入力された画素信号とある固定値との差を出力する。積分回路84は、減算回路82から出力される減算値を積分する。比較器86は、積分回路84から出力される積分結果をある値と比較し、比較結果を出力する。DAC88は、比較器86から出力される信号をアナログ信号に変換する。このように、ΔΣ型ADC回路80は、減算回路82と積分回路84とにおいて2段階の変換を行うことを特徴としている。このような場合、減算回路82による変換処理ではオフセット成分のノイズが発生し、積分回路84による変換では画素信号に乗算されるノイズが発生しうる。
そこで、本実施形態の信号処理部50においては、ADC34において発生するこれらノイズを低減するための補正を行うために、第1処理部52が参照する補正値保持部として、2種類の補正値を保持する2つの第1補正値保持部54A,54Bを設けている。そして、第1補正値保持部54Aには、オフセット成分のノイズを低減する補正を行うための補正値として、列回路部30のm個の列回路の各々に対応するm個の補正値を保持しておく。また、第1補正値保持部54Bには、画素信号に乗算されるノイズを低減する補正を行うための補正値として、列回路部30のm個の列回路の各々に対応するm個の補正値を保持しておく。
そして、第1処理部52では、列回路部30の各列の列回路で処理されたm個の信号の各々に対して、第1補正値保持部54Aに保持しておいた補正値を用いた補正と、第1補正値保持部54Bに保持しておいた補正値を用いた補正と、をそれぞれ行う。第2処理部56では、第1実施形態の場合と同様、第1処理部52で処理されたm個の信号の各々に対して、第2補正値保持部58に保持しておいた共通の補正値を用いて補正を行う。
このようにして、画素部10で発生したノイズを低減する補正を行う前に、列回路部30の各列の列回路において発生した2種類のノイズを低減する補正を行うことで、補正残りを低減し、画質の低下を防ぐことができる。
なお、本実施形態では列回路部30において2種類のノイズが発生した場合の補正方法について示したが、画素部10において2種類のノイズが発生することもありうる。このような場合は、本実施形態の第1補正値保持部54A,54Bと同様に、第2処理部56が参照する補正値保持部として2つの第2補正値保持部を準備すればよい。列回路部30の各列の列回路において発生したノイズを低減する補正を行った後、画素部10で発生した2種類のノイズを低減する補正を行うことで、本実施形態と同様の効果を得ることができる。
このように、本実施形態によれば、画素回路及び読み出し回路に起因するノイズを適切に補正し、画質の低下を抑制することができる。
[第5実施形態]
本発明の第5実施形態による撮像装置について、図13乃至図16を用いて説明する。図13は、第2実施形態による撮像装置における信号読み出し動作を示すタイミング図である。図14は、本実施形態による撮像装置における信号処理部の概略構成を示すブロック図である。図15は、本実施形態による撮像装置における第1補正値保持部の構成例を示す図である。図16は、本実施形態による撮像装置における水平シェーディング処理部の動作を示す模式図である。第1乃至第4実施形態による撮像装置と同様の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。
第2実施形態による撮像装置のように複数の光電変換素子が1つのフローティングディフュージョンを共有する画素を有する構成では、画素の構造等に起因して各光電変換素子からの信号の読み出し条件に応じたシェーディングが発生することがある。本実施形態では、このようなシェーディングをも効果的に補正しうる撮像装置について説明する。
本実施形態による撮像装置における具体的なノイズ除去方法を説明する前に、第2実施形態による撮像装置における画素部10からの列回路部30による信号の読み出し動作について、図13を用いて説明する。図13には、画素部10から信号を読み出す動作のタイミング図が例示されている。ここでは、垂直走査回路部20によって第j行及び第(j+1)行の画素Pから信号を読み出す動作が代表的に示されている。なお、図13に示された各信号は、ハイアクティブの信号である。
第j行の画素Pの読み出し動作が開始される時刻t401の直前において、制御信号PSEL(j),PTXA(j),PTXB(j),PSEL(j+1),PTXA(j+1),PTXB(j+1)はローレベルである。また、制御信号PRES(j),PRES(j+1)はHighレベルである。
まず、時刻t401において、水平同期信号HSYNCがHighレベルに活性化され、垂直走査回路部20によって読み出し対象行である第j行の制御信号PSEL(j)がHighレベルに活性化される。制御信号PSEL(j)がHighレベルに活性化されると、読み出し対象行である第j行の画素Pの選択トランジスタM4がオン状態となり、第j行のn個の画素Pの各々が対応する列の垂直出力線14に電気的に接続される。
続く時刻t402までの期間、垂直走査回路部20により制御信号PRES(j)がHighレベルに維持されることにより、第j行の画素PのリセットトランジスタM2がオン状態に維持される。これにより、ノードFDが電圧VDDにリセットされる。
時刻t402において、垂直走査回路部20により制御信号PRES(j)がLowレベルに非活性化され、リセットトランジスタM2がオフ状態となる。これにより、ノードFDのリセットが解除される。選択トランジスタM4はオン状態のままであるため、各列の垂直出力線14にはノードFDのリセットが解除された際の増幅トランジスタM3のゲート電位に応じた信号(N信号)が出力される。
続く時刻t403から時刻t404の期間において、垂直走査回路部20により制御信号PTXA(j)がHighレベルに活性化される。これにより、転送トランジスタM1Aがオン状態となり、光電変換素子PDAにおいて光電変換により発生した電荷がノードFDに転送される。各列の垂直出力線14には、光電変換素子PDAで発生した電荷に応じた画素信号(S信号)が出力される。
時刻t404において、垂直走査回路部20により制御信号PTXA(j)がローレベルに非活性化される。これにより、転送トランジスタM1Aがオフ状態となる。転送トランジスタM1Aがオフ状態となった後も、垂直出力線14にはSレベルが出力され続ける。光電変換素子PDAからの信号の読み出しは、ノードFDを使う順番として先になるので、光電変換素子PDAからの信号の読み出しをFD先読みと呼ぶものとする。
光電変換素子PDBからの信号の読み出しは、時刻t406から時刻t410の期間において実施される。具体的な読み出し方法(駆動方法)は、光電変換素子PDAからの信号の読み出しと同様である。光電変換素子PDBからの信号の読み出しは、ノードFDを使う順番として後になるので、光電変換素子PDBからの信号の読み出しをFD後読みと呼ぶものとする。
続く時刻t411から時刻t412の期間には、第(j+1)行の画素Pからの信号の読み出しが実施される。なお、図13に示した動作例では、水平同期信号HSYNCがHighレベルに活性化される度にFD先読みとFD後読みとを切り替えている。しかし、水平同期信号HSYNCの一度の活性化に応じて、FD先読みとFD後読みとの双方が行われてもよい。
このようにして列回路部30を介して信号処理部50に読み出される画素信号には、水平方向(行方向)に変化するノイズ成分、すなわち列間でばらつきを有するノイズ成分が含まれている。このノイズ成分は、例えば、列回路部30を構成する複数の列回路の特性ばらつきや、メモリ部を構成する複数のメモリの特性ばらつきに依存しうる。また、このノイズ成分は、光電変換素子で発生する暗電流、複数の列回路から信号処理部50までの距離の違い、画素P内の複数(所定数)の光電変換素子からの信号の読み出し順序、各列の増幅器32のゲインばらつき等に依存しうる。
本明細書では、便宜的に、ノイズ成分におけるばらつきのうち、列単位で発生するばらつきを列ばらつき、より大きな単位で発生するばらつきを水平シェーディングと呼ぶものとする。列ばらつきは、列回路部30で発生するノイズ成分が主たる成分であり、画素Pの影響をほぼ受けない。よって、列ばらつきは、FD先読み及びFD後読みといった読み出し条件には依存しない成分とみなせる。なお、列ばらつきにはオフセット成分のノイズとゲイン誤差成分のノイズとが含まれる。オフセット成分のノイズ及びゲイン誤差成分のノイズは、列毎の相関性の低いノイズであり、水平シェーディングは列ごとの相関性の高いノイズである。
次に、水平シェーディングについて説明する。FD先読みに関わる構成要素とFD後読みに関わる構成要素との間には、垂直出力線14からの直線距離に関して相違が存在しうる。例えば、光電変換素子と垂直出力線14との直線距離、或いは、転送トランジスタのゲートと垂直出力線14との直線距離が、FD先読みに関わる構成要素とFD後読みに関わる構成要素との間で異なりうる。このため、垂直出力線14に付加される寄生容量が、FD先読みに関わる構成要素とFD後読みに関わる構成要素との間で異なりうる。これにより、FD先読みによって得られる画素信号とFD後読みによって得られる画素信号との間でノイズ成分の大きさが異なりうる。つまり、同じ行であっても、FD先読みによって得られる複数の画素信号における水平シェーディングの形状(分布)とFD後読みによって得られる複数の画素信号における水平シェーディングの形状(分布)とが異なりうる。以上より、水平シェーディングを効果的に補正するためには、FD先読み及びFD後読み(つまり、画素Pからの各光電変換素子の信号の読み出し順位)を考慮すべきであると言える。
次に、本実施形態による撮像装置における信号処理部50の構成例について、図14を用いて説明する。
本実施形態の信号処理部50は、例えば図14に示すように、識別情報生成部51と、第1処理部52と、第1補正値保持部54と、第2処理部56と、第2補正値生成部57と、第2補正値保持部58と、を含んで構成されうる。第1処理部52は、列オフセット処理部522と、列ゲイン処理部524と、水平シェーディング処理部526と、を含んで構成されうる。
識別情報生成部51は、制御部70から供給される駆動モード情報MODEに基づいて識別情報PDSELを生成し、生成した識別情報PDSELを第1補正値保持部54及び水平シェーディング処理部526に出力する。識別情報生成部51が生成する識別情報PDSELは、補正対象の画素信号がFD先読み及びFD後読みのいずれで読み出された信号であるかを示す信号である。識別情報PDSELは、複数(所定数)の光電変換素子PDA,PDBのうち読み出す対象を示す識別情報であるとも言える。或いは、識別情報PDSELは、複数(所定数)の光電変換素子PDA、PDBのそれぞれの読み出し順位を示す情報であるとも言える。例えば、FD先読みの場合は識別情報PDSELとして“0”、FD後読みの場合は識別情報PDSELとして“1”が生成されうる。その識別情報によって処理対象の画素信号がFD先読みかFD後読みであるかを判別することが可能となる。識別情報PDSELは、例えば1水平同期期間(以下、hd)毎に更新されうる。
第1補正値保持部54は、識別情報生成部51から識別情報PDSELを受信するとともに、信号処理部50の外部から供給されるhofst補正値、hgain補正値及びhshdデータを受信し、格納する。
第1補正値保持部54は、例えば図15に模式的に示されるように、1つの第1領域R1と、1つの第2領域R2と、1つの画素Pに含まれる光電変換素子PDA,PDBの個数(所定数)と同数の第3領域R3と、を含みうる。第1領域R1には、画素部10の複数の列にそれぞれ対応するhofst補正値として、複数の列オフセット補正値hofstdatが格納されうる。第2領域R2には、画素部10の複数の列にそれぞれ対応するhgain補正値として、複数の列ゲイン補正値hgaindatが格納されうる。第3領域R3の各々は、列回路部30による各画素Pからの信号の読み出し条件に対応付けられる。第3領域R3の各々には、画素部10の複数の列を分割した複数のグループの各々に対応するhshdデータとして、複数の水平シェーディングhshdデータhshddatが格納されうる。
一例において、列ゲイン補正値hgaindat、列オフセット補正値hofstdat及び水平シェーディングhshdデータhshddatは、撮像装置100の出荷前に生成され撮像装置100に供給されうる。他の一例において、列ゲイン補正値hgaindat、列オフセット補正値hofstdat及び水平シェーディングhshdデータhshddatは、外部装置において準備され、撮像装置100の出荷前に生成され、撮像装置100に提供或いは組み込まれうる。
第1処理部52には、画素部10の画素Pから信号を読み出す期間に、画素部10の画素Pから列回路部30によって読み出された画素信号Vreadが供給される。第1処理部52に供給された画素信号Vreadは、列オフセット処理部522に入力される。
列オフセット処理部522は、列回路部30から出力される画素信号Vreadを第1補正値保持部54から供給されるhofst補正値に基づいて補正し、画素信号VhofstOutを生成する。例えば、列オフセット処理部522は、列回路部30から出力される画素信号Vreadに第1補正値保持部54から供給されるhofst補正値を加算する。列オフセット処理部522による補正は、識別情報生成部51で生成される識別情報PDSELの値とは無関係である。つまり、hofst補正値は、FD先読みとFD後読みとで共通である。画素信号が画素P(i,j)の光電変換素子PDA又は光電変換素子PDBから読み出された信号であると考えると、hofst補正値は、画素P(i,j)に対応付けられたデータであると言える。hofst補正値は、列単位のばらつきを補正するためのデータであるので、列オフセット処理部522による補正によって列単位のばらつきが補正される。
本実施形態によれば、第1補正値保持部54は、FD先読み用のhofst補正値とFD後読み用のhofst補正値とを保持せず、FD先読みとFD後読みとで共通のhofst補正値を保持するので、第1補正値保持部54の規模を小さくすることができる。列オフセット処理部522は、垂直走査回路部20により選択された光電変換素子から列回路部30によって複数の垂直出力線14を介して読み出される信号に対して第1領域に格納された複数の第1補正値に基づく第1補正を行う機能ブロックとして理解されうる。
列ゲイン処理部524は、列オフセット処理部522から出力される画素信号VhofstOutを第1補正値保持部54から供給されるhgain補正値に基づいて補正し、画素信号VhgainOutを生成する。例えば、列ゲイン処理部524は、列オフセット処理部522から出力される画素信号VhofstOutに第1補正値保持部54から供給されるhgain補正値を乗算する乗算処理を行う。列ゲイン処理部524による補正は、識別情報生成部51で生成される識別情報PDSELの値とは無関係である。つまり、hgain補正値は、FD先読みとFD後読みとで共通である。画素信号が画素P(i,j)の光電変換素子PDA又は光電変換素子PDBから読み出された信号であると考えると、hgain補正値は、画素P(i,j)に対応付けられたデータであると言える。hgain補正値は、列単位のゲインばらつきを補正するためのデータであるので、列ゲイン処理部524による補正によって列単位のゲインばらつきが補正される。
本実施形態によれば、第1補正値保持部54は、FD先読み用のhgain補正値とFD後読み用のhgain補正値を保持せず、FD先読みとFD後読みとで共通のhgain補正値を保持するので、第1補正値保持部54の規模を小さくすることができる。列ゲイン処理部524は、列オフセット処理部522から出力される信号に対して第2領域に格納された複数の第2補正値に基づく第2補正を行う機能ブロックとして理解されうる。
水平シェーディング処理部526は、第1補正値保持部54から供給されるhshdデータに基づいて、識別情報PDSELに応じたhshd補正値を生成する。そして、生成したhshd補正値を用いて画素信号VhgainOutを補正し、画素信号VhshdOutを生成する。水平シェーディング処理部526は、所定数の第3領域のうち、垂直走査回路部20によって選択された光電変換素子からの信号の読み出し条件に応じた第3領域に格納された複数の第3補正値に基づく第3補正を行う機能ブロックとして理解されうる。
図16には、水平シェーディング処理部526における水平シェーディング補正の一例が模式的に示されている。この例では、画素部10の複数の列が複数のグループに分割され、各グループが16の列からなる場合を想定している。第1補正値保持部54の1つの第3領域R3には、複数の水平シェーディングhshdデータhshddatが格納されている。図16の例において、hshd補正値Q(16k+n)は、列番号(iの値)に応じて複数の水平シェーディングhshdデータhshddatから選択されるCave,L2ave,L1ave,R1ave,R2aveに基づいて生成される。そして、画素P(i,j)の画素信号VhgainOutは、このようにして生成されたhshd補正値Q(16k+n)を用いて補正される。
ここで、Caveは、画素P(i,j)が属するグループCに割り当てられた水平シェーディングhshdデータhshddatである。Caveは、例えば、グループCを構成する16列に配置された画素Pから列回路部30によって読み出された信号の平均値である。L2ave,L1aveは、グループCの左側の2つのグループL2,L1にそれぞれ割り当てられた水平シェーディングhshdデータhshddatである。L2aveは、グループL2を構成する16列に配置された画素Pから列回路部30によって読み出された信号の平均値である。L1aveは、グループL1を構成する16列に配置された画素Pから列回路部30によって読み出され信号の平均値である。R1ave,R2aveは、グループCの右側の2つのグループR1,R2に割り当てられた水平シェーディングhshdデータhshddatである。R1aveは、グループR1を構成する16列に配置された画素Pから列回路部30によって読み出された信号の平均値である。R2aveは、グループR2を構成する16列に配置された画素Pから列回路部30によって読み出された信号の平均値である。
この例では、水平シェーディング処理部526は、Cave,L2ave,L1ave,R1ave,R2aveに基づいて、以下の式(7)に従って、線形補間によってhshd補正値Q(16k+n)を生成する。水平シェーディング処理部526は、画素信号VhgainOutをhshd補正値Q(16k+n)に基づいて補正する。一例において、水平シェーディング処理部526は、画素信号VhgainOutにhshd補正値Q(16k+n)を加算する。
ここで、kは整数、nは整数(0~15)、L1[n],L2[n],C[n],R1[n],R2[n]は補間パラメータである。
ところで、上述の値のうちL2ave,L1ave,R1ave,R2aveは、一部が存在しないケースがある。例えば、画素部10の左端から2番目のグループに属する画素Pの画素信号を補正するためのhshd補正値を生成する場合には、L2aveが存在しない。そのような場合には、例えば、L2aveとしてL1aveを使用するなどの例外処理がなされうる。なお、式(7)で示される処理は一例であり、他の式が適用されてもよいし、他の補間方法が使用されてもよい。本実施形態によれば、FD先読み、FD後読みに依存する水平シェーディングノイズは、補正対象の画素が属するグループ及びそれに近いグループに与えられたhshdデータの補間によって得られるhshd補正値に基づいて補正される。これにより、第1補正値保持部54の規模を小さくしつつノイズ成分を効果的に除去することができる。
なお、ここではhshdデータを複数列の平均値である水平シェーディングhshddatとしたが、hshdデータは、FD先読みとFD後読みとで第3領域が分かれており、少なくとも2列以上に対応した補正値であればよい。また、水平シェーディング処理部526は、第1補正値保持部54から取得したhshdデータからhshd補正値を生成するとしたが、hshdデータをそのまま補正値として処理に用いてもよい。
第2補正値生成部57は、第1処理部52から出力される画素信号VhshdOutを用いて、画素部10で発生した暗電流によるオフセット成分のノイズを補正するためのobc補正値を生成する。第2補正値保持部58は、第2補正値生成部57から供給されるobc補正値を受信し、格納する。第2処理部56は、第2補正値保持部58から供給されるobc補正値に基づいて画素信号VhshdOutを補正し、画素信号VobcOutを生成する。例えば、第2処理部56は、第1処理部52から出力される画素信号VhshdOutに第2補正値保持部58から供給されるobc補正値を加算する。第2処理部56による補正は、識別情報生成部51で生成される識別情報PDSELの値とは無関係である。つまり、obc補正値は、FD先読みとFD後読みとで共通である。画素信号が画素P(i,j)の光電変換素子PDA又は光電変換素子PDBから読み出された信号であると考えると、obc補正値は、画素P(i,j)に対応付けられたデータであると言える。obc補正値は、画素ごとの暗電流によるオフセット成分のノイズを補正するためのデータであるので、第2処理部56による補正によって、画素で発生した暗電流によるオフセット成分のノイズが補正される。
なお、本実施形態ではFD先読みとFD後読みとで共通のobc補正値を保持する構成を想定したが、その限りではない。
このように、本実施形態によれば、画素回路及び読み出し回路に起因するノイズを適切に補正し、画質の低下を抑制することができる。
[第6実施形態]
本発明の第6実施形態による撮像装置について、図17を用いて説明する。図17は、本実施形態による撮像装置における信号処理部の構成例を示すブロック図である。第1乃至第5実施形態による撮像装置と同様の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。
本実施形態では、第5実施形態と同様、複数の光電変換素子が1つのフローティングディフュージョンを共有する画素を有する撮像装置において、各光電変換素子からの信号の読み出し条件に応じたシェーディングを補正するための構成例を説明する。
本実施形態の信号処理部50は、例えば図17に示すように、第1処理部52と、第1補正値取得部53と、第1補正値保持部54と、第2処理部56と、第2補正値保持部58と、識別情報生成部51と、第2補正値生成部57と、を含んで構成されうる。第1処理部52は、列オフセット処理部522と、列ゲイン処理部524と、水平シェーディング処理部526と、を含んで構成されうる。第1補正値取得部53は、列オフセット補正値生成部532と、列ゲイン補正値取得部534と、水平シェーディング補正値生成部536と、を含んで構成されうる。
列オフセット補正値生成部532は、オフセット成分の列ばらつきを補正するためのhofst補正値を生成し、第1補正値保持部54に格納する機能を備える。列ゲイン補正値取得部534は、ゲイン成分の列ばらつきを補正するためのhgain補正値を取得し、第1補正値保持部54に格納する機能を備える。水平シェーディング補正値生成部536は、FD先読み・後読みに起因する水平シェーディングを補正するためのhshdデータを生成し、第1補正値保持部54に格納する機能を備える。信号処理部50のその他の機能ブロックは、第5実施形態の信号処理部と同様である。制御部70は、列オフセット補正値生成部532を制御して、列オフセット補正値hofstdat、水平シェーディングhshdデータhshddat及びobc補正値を生成するための補正値生成動作を実行するように構成されうる。
列回路部30から供給される画素信号Vreadは、列オフセット補正値生成部532及び列オフセット処理部522に供給される。列オフセット補正値生成部532は、画素信号Vreadを用いてhofst補正値を生成し、生成したhofst補正値を第1補正値保持部54に格納する。列オフセット処理部522は、第1補正値保持部54から供給されるhofst補正値に基づいて画素信号Vreadを処理することにより画素信号VhofstOutを生成する。そして、列オフセット処理部522は、生成した画素信号VhofstOutを列ゲイン補正値取得部534及び列ゲイン処理部524に出力する。
列ゲイン補正値取得部534は、画素信号VhofstOutを用いてhgain補正値を生成し、生成したhgain補正値を第1補正値保持部54に格納する。列ゲイン処理部524は、第1補正値保持部54から供給されるhgain補正値に基づいて画素信号VhofstOutを処理することにより画素信号VhgainOutを生成する。そして、列ゲイン処理部524は、生成した画素信号VhgainOutを水平シェーディング補正値生成部536及び水平シェーディング処理部526に出力する。
識別情報生成部51は、制御部70から供給される駆動モード情報MODEに基づいて、補正対象の画素信号がFD先読み及びFD後読みのいずれで読み出された信号であるかを示す識別情報PDSELを生成する。そして、識別情報生成部51は、生成した識別情報PDSELを第1補正値保持部54及び水平シェーディング補正値生成部536に出力する。
水平シェーディング補正値生成部536は、画素信号VhgainOut及び識別情報PDSELを用いてhshdデータを生成し、生成したhshdデータを第1補正値保持部54に格納する。水平シェーディング処理部526は、第1補正値保持部54から供給されるhshdデータに基づいて画素信号VhgainOutを処理することにより画素信号VhshdOutを生成する。そして、水平シェーディング処理部526は、生成した画素信号VhshdOutを第2補正値生成部57及び第2処理部56に出力する。
第2補正値生成部57は、第1処理部52から出力される画素信号VhshdOutを用いてobc補正値を生成し、生成したobc補正値を第2補正値保持部58に格納する。第2処理部56は、第2補正値保持部58から供給されるobc補正値に基づいて第1処理部52から出力される画素信号VhshdOutを処理することにより画素信号VobcOutを生成し、生成した画素信号VobcOutを出力する。
本実施形態の撮像装置においては、撮像動作に先立ち、第1補正値取得部53において補正値生成動作を行い、hofst補正値及びhshdデータを生成することができる。また、第1補正値取得部53は、hgain補正値を撮像動作に先立ってさらに生成しても良い。撮像動作に先立って補正値生成動作を行うことにより、温度特性や駆動モード変更等による列ばらつき、水平シェーディングの形状の変化、暗電流成分の大きさの変化に対し、信号処理部50における補正処理内容を追従させることができる。特に、消費電力が大きい駆動モードの実行中や駆動モードの変更時においては、列ばらつき、水平シェーディングの形状の変化及び暗電流成分の大きさの変化は大きくなるため、撮像条件の変化に追従して補正処理内容を変更することの効果は大きい。
なお、ここでは第1補正値取得部53及び第2補正値生成部57が取得・生成した補正値を第1補正値保持部54及び第2補正値保持部58に一旦格納してから処理部に供給する例を示したが、取得・生成した補正値を処理部に直接供給するようにしてもよい。
第1補正値取得部53及び第2補正値生成部57において取得・生成する補正値は、熱による影響を受けてノイズの大きさが変化するような撮影環境の場合はリアルタイムで取得することが有効である。補正値を更新するタイミングは、撮影モードやISO感度に応じて適宜設定されうる。また、補正値を更新するタイミングは、各補正値の取得に要する時間をも考慮して適宜設定することが望ましい。
撮影モードに関しては、例えば動画像撮影時と静止画像撮影時とにおいて、更新タイミングは異なりうる。例えば、動画像撮影時には、温度の変化する時間に応じて、複数フレーム毎に1度、補正値を更新することで補正精度が向上しうる。一方、静止画像撮影時には、1フレーム毎に1度、補正値を更新することで補正精度が向上しうる。また、ISO感度に関しては、ISO感度毎に列回路のゲインが変化するため、ISO感度が変化する毎にhgain補正値を更新することで補正精度が向上しうる。
また、補正値の取得に要する時間を考慮すると、第1補正値取得部53が取得する補正値の更新タイミングと、第2補正値生成部57が生成する補正値の更新タイミングとは、それぞれ独立して設定することが望ましい。すなわち、画素部10で発生したノイズを低減するための補正値を生成する第2補正値生成部57は、複数列、複数行の画素値から補正値を生成するため、補正値生成に必要なデータ数を短い時間で取得しうる。そのため、第2補正値生成部57における補正値の生成は時間的な制約を受けにくく、フレーム毎に補正値を更新することが容易である。一方、列回路部30で発生したノイズを低減するための補正値を取得する第1補正値取得部53は、列毎に分けて補正値を生成するため、補正値の生成に必要なデータ数を取得するために複数行を読み出す必要がある。そのため、第1補正値取得部53における補正値の生成はフレームレートを落とす要因になるため、フレーム毎に補正値を更新することは困難になりうる。
このように、本実施形態によれば、画素回路及び読み出し回路に起因するノイズを適切に補正し、画質の低下を抑制することができる。
[第7実施形態]
本発明の第7実施形態による撮像システムについて、図18を用いて説明する。図18は、本実施形態による撮像システムの概略構成を示すブロック図である。
上記第1乃至第6実施形態で述べた撮像装置100は、種々の撮像システムに適用可能である。適用可能な撮像システムの例としては、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などが挙げられる。また、レンズなどの光学系と撮像装置とを備えるカメラモジュールも、撮像システムに含まれる。図18には、これらのうちの一例として、デジタルスチルカメラのブロック図を例示している。
図12に例示した撮像システム200は、撮像装置201、被写体の光学像を撮像装置201に結像させるレンズ202、レンズ202を通過する光量を可変にするための絞り204、レンズ202の保護のためのバリア206を有する。レンズ202及び絞り204は、撮像装置201に光を集光する光学系である。撮像装置201は、第1乃至第6実施形態のいずれかで説明した撮像装置100であって、レンズ202により結像された光学像を画像データに変換する。
撮像システム200は、また、撮像装置201から出力される信号の処理を行う信号処理部208を有する。信号処理部208は、撮像装置201が出力するデジタル信号から画像データの生成を行う。信号処理部208は、必要に応じて各種の補正、圧縮を行って画像データを出力する動作を行う。信号処理部208は、撮像装置100が備える機能の一部を備えていてもよい。例えば、信号処理部208は、第1乃至第6実施形態で述べた撮像装置100が備える機能のうち、ADC34の機能や信号処理部50(第1処理部52及び第2処理部56)の機能を備えていてもよい。
撮像システム200は、更に、画像データを一時的に記憶するためのバッファメモリ部210、外部コンピュータ等と通信するための外部インターフェース部(外部I/F部)212を有する。撮像システム200は、更に、撮像データの記録又は読み出しを行うための半導体メモリ等の記録媒体214、記録媒体214に記録又は読み出しを行うための記録媒体制御インターフェース部(記録媒体制御I/F部)216を有する。なお、記録媒体214は、撮像システム200に内蔵されていてもよく、着脱可能であってもよい。
撮像システム200は、更に、各種演算とデジタルスチルカメラ全体を制御する全体制御・演算部218、撮像装置201と信号処理部208に各種タイミング信号を出力するタイミング発生部220を有する。ここで、タイミング信号などは外部から入力されてもよく、撮像システム200は少なくとも撮像装置201と、撮像装置201から出力された出力信号を処理する信号処理部208とを有すればよい。
撮像装置201は、撮像信号を信号処理部208に出力する。信号処理部208は、撮像装置201から出力される撮像信号に対して所定の信号処理を実施し、画像データを出力する。また、信号処理部208は、撮像信号を用いて、画像を生成する。
このように、本実施形態によれば、第1乃至第6実施形態による撮像装置100を適用した撮像システムを実現することができる。
[第8実施形態]
本発明の第8実施形態による撮像システム及び移動体について、図19を用いて説明する。図19は、本実施形態による撮像システム及び移動体の構成を示す図である。
図19(a)は、車載カメラに関する撮像システムの一例を示したものである。撮像システム300は、撮像装置310を有する。撮像装置310は、上記第1乃至第6実施形態のいずれで説明した撮像装置100でありうる。撮像システム300は、撮像装置310により取得された複数の画像データに対し、画像処理を行う画像処理部312と、撮像装置310により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差取得部314を有する。また、撮像システム300は、算出された視差に基づいて対象物までの距離を算出する距離取得部316と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部318と、を有する。ここで、視差取得部314や距離取得部316は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部318はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。
撮像システム300は車両情報取得装置320と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、撮像システム300は、衝突判定部318での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置である制御ECU330が接続されている。また、撮像システム300は、衝突判定部318での判定結果に基づいて、ドライバーへ警報を発する警報装置340とも接続されている。例えば、衝突判定部318の判定結果として衝突可能性が高い場合、制御ECU330はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置340は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
本実施形態では、車両の周囲、例えば前方又は後方を撮像システム300で撮像する。図19(b)に、車両前方(撮像範囲350)を撮像する場合の撮像システムを示した。車両情報取得装置320が、撮像システム300ないしは撮像装置310に指示を送る。このような構成により、測距の精度をより向上させることができる。
上記では、他の車両と衝突しないように制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。更に、撮像システムは、自車両等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
[第9実施形態]
本発明の第9実施形態による機器について、図20を用いて説明する。図20は、本実施形態による機器の概略構成を示すブロック図である。
図20は、光電変換装置APRを含む機器EQPを示す模式図である。光電変換装置APRは、第1乃至第6実施形態のいずれかで説明した撮像装置100の機能を備える。光電変換装置APRの全部又は一部が、半導体デバイスICである。本例の光電変換装置APRは、例えば、イメージセンサやAF(Auto Focus)センサ、測光センサ、測距センサとして用いることができる。半導体デバイスICは、光電変換部を含む画素回路PXCが行列状に配列された画素エリアPXを有する。半導体デバイスICは画素エリアPXの周囲に周辺エリアPRを有することができる。周辺エリアPRには画素回路以外の回路を配置することができる。
光電変換装置APRは、複数の光電変換部が設けられた第1半導体チップと、周辺回路が設けられた第2半導体チップとを積層した構造(チップ積層構造)を有していてもよい。第2半導体チップにおける周辺回路は、ぞれぞれ、第1半導体チップの画素列に対応した列回路とすることができる。また、第2半導体チップにおける周辺回路は、それぞれ、第1半導体チップの画素あるいは画素ブロックに対応したマトリクス回路とすることもできる。第1半導体チップと第2半導体チップとの接続は、貫通電極(TSV)、銅等の導電体の直接接合によるチップ間配線、チップ間のマイクロバンプによる接続、ワイヤボンディングによる接続などを採用することができる。
光電変換装置APRは、半導体デバイスICの他に、半導体デバイスICを収容するパッケージPKGを含みうる。パッケージPKGは、半導体デバイスICが固定された基体と、半導体デバイスICに対向するガラス等の蓋体と、基体に設けられた端子と半導体デバイスICに設けられた端子とを接続するボンディングワイヤやバンプ等の接続部材と、を含みうる。
機器EQPは、光学装置OPT、制御装置CTRL、処理装置PRCS、表示装置DSPL、記憶装置MMRY及び機械装置MCHNのうちの少なくともいずれかを更に備えうる。光学装置OPTは、光電変換装置としての光電変換装置APRに対応するものであり、例えばレンズやシャッター、ミラーである。制御装置CTRLは、光電変換装置APRを制御するものであり、例えばASICなどの半導体デバイスである。処理装置PRCSは、光電変換装置APRから出力された信号を処理するものであり、AFE(アナログフロントエンド)あるいはDFE(デジタルフロントエンド)を構成する。処理装置PRCSは、CPU(中央処理装置)やASIC(特定用途向け集積回路)などの半導体デバイスである。表示装置DSPLは、光電変換装置APRで得られた情報(画像)を表示する、EL表示装置や液晶表示装置である。記憶装置MMRYは、光電変換装置APRで得られた情報(画像)を記憶する、磁気デバイスや半導体デバイスである。記憶装置MMRYは、SRAMやDRAMなどの揮発性メモリ、或いは、フラッシュメモリやハードディスクドライブなどの不揮発性メモリである。機械装置MCHNは、モーターやエンジン等の可動部あるいは推進部を有する。機器EQPでは、光電変換装置APRから出力された信号を表示装置DSPLに表示したり、機器EQPが備える通信装置(不図示)によって外部に送信したりする。そのために、機器EQPは、光電変換装置APRが有する記憶回路部や演算回路部とは別に、記憶装置MMRYや処理装置PRCSを更に備えることが好ましい。
図20に示した機器EQPは、撮影機能を有する情報端末(例えばスマートフォンやウエアラブル端末)やカメラ(例えばレンズ交換式カメラ、コンパクトカメラ、ビデオカメラ、監視カメラ)などの電子機器でありうる。カメラにおける機械装置MCHNはズーミングや合焦、シャッター動作のために光学装置OPTの部品を駆動することができる。また、機器EQPは、車両や船舶、飛行体などの輸送機器(移動体)でありうる。また、機器EQPは、内視鏡やCTスキャナーなどの医療機器でありうる。また、機器EQPは、内視鏡やCTスキャナーなどの医療機器でありうる。
輸送機器における機械装置MCHNは移動装置として用いられうる。輸送機器としての機器EQPは、光電変換装置APRを輸送するものや、撮影機能により運転(操縦)の補助及び/又は自動化を行うものに好適である。運転(操縦)の補助及び/又は自動化のための処理装置PRCSは、光電変換装置APRで得られた情報に基づいて移動装置としての機械装置MCHNを操作するための処理を行うことができる。
本実施形態による光電変換装置APRは、その設計者、製造者、販売者、購入者及び/又は使用者に、高い価値を提供することができる。そのため、光電変換装置APRを機器EQPに搭載すれば、機器EQPの価値も高めることができる。よって、機器EQPの製造、販売を行う上で、本実施形態の光電変換装置APRの機器EQPへの搭載を決定することは、機器EQPの価値を高める上で有利である。
[変形実施形態]
本発明は、上記実施形態に限らず種々の変形が可能である。
例えば、いずれかの実施形態の一部の構成を他の実施形態に追加した例や、他の実施形態の一部の構成と置換した例も、本発明の実施形態である。
また、上記第1乃至第6実施形態では、信号処理部50の第1処理部52及び第2処理部56の機能を撮像装置100が備えていたが、これら機能は必ずしも撮像装置100が備えている必要はない。すなわち、第1処理部52及び第2処理部56のうちの少なくとも一方の機能は、撮像装置100とは別の装置が備えていてもよい。当該別の装置は、例えば、撮像装置100とは別のプロセッサ(例えば、CPUやMPU)を含むパソコンなどの信号処理装置でありうる。或いは、当該別の装置は、第1処理部52及び第2処理部56のうちの少なくとも一方の機能を実現するASICのような回路でありうる。
また、上記第1乃至第6実施形態では、列回路部30で発生するゲイン成分のノイズとして増幅器32において生じるノイズを例示したが、列回路部30で発生するゲイン成分のノイズはADC34が備えるコンパレータにおいても生じうる。第1処理部52で補正するゲイン成分のノイズは、ADC34において生じるノイズであってもよいし、増幅器32において生じるノイズ及びADC34において生じるノイズの両方であってもよい。
また、上記第7及び第8実施形態に示した撮像システムは、本発明の光電変換装置を適用しうる撮像システム例を示したものであり、本発明の光電変換装置を適用可能な撮像システムは図18及び図19に示した構成に限定されるものではない。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
なお、上記実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
上記実施形態の開示は、以下の構成及び方法を含む。
(構成1)
複数の列をなすように配された複数の画素と、
前記複数の列に対応して設けられ、対応する列の画素で取得された信号を各々が読み出す複数の列回路と、
前記複数の列回路から出力される信号の各々に対し、前記列回路で発生して前記信号に重畳している前記列回路のゲイン誤差成分を低減する処理を含む演算処理を行う第1処理部と、
前記第1処理部で処理された信号に対し、前記画素で発生して前記信号に重畳しているノイズを低減するための演算処理を行う第2処理部と
を有することを特徴とする光電変換装置。
(構成2)
前記ゲイン誤差成分を低減する処理は除算の演算処理を含む
ことを特徴とする構成1記載の光電変換装置。
(構成3)
前記ゲイン誤差成分を低減する処理は乗算の演算処理を含む
ことを特徴とする構成1記載の光電変換装置。
(構成4)
前記ゲイン誤差成分を低減する処理は補正値テーブルを用いた演算処理を含む
ことを特徴とする構成1記載の光電変換装置。
(構成5)
前記複数の画素のうちの少なくとも一部の画素は、第1光電変換素子を含む第1副画素と、第2光電変換素子を含む第2副画素と、を有し、
前記第2処理部は、前記一部の画素の前記第1副画素で取得された信号に対して第1補正値を用いて前記演算処理を行い、前記一部の画素の前記第2副画素で取得された信号に対して第2補正値を用いて前記演算処理を行う
ことを特徴とする構成1乃至4のいずれかに記載の光電変換装置。
(構成6)
前記複数の画素は、互いに光学特性の異なる第1画素及び第2画素を同じ列に含み、
前記第2処理部は、前記第1画素で取得された信号に対して第1補正値を用いて前記演算処理を行い、前記第2画素で取得された信号に対して第2補正値を用いて前記演算処理を行う
ことを特徴とする構成1乃至4のいずれかに記載の光電変換装置。
(構成7)
前記複数の列の各々に少なくとも2つが配され、各々が対応する列の画素に接続された複数の出力線を更に有し、
前記複数の列回路は、前記複数の出力線の各々に対応して設けられており、
前記第1画素は、前記複数の出力線のうちの第1出力線を介して前記複数の列回路のうちの第1列回路に接続されており、
前記第2画素は、前記複数の出力線のうちの第2出力線を介して前記複数の列回路のうちの第2列回路に接続されている
ことを特徴とする構成6記載の光電変換装置。
(構成8)
前記第1処理部及び前記第2処理部は、前記第1列回路で処理された信号に対して前記演算処理を行う第1の組と、前記第2列回路で処理された信号に対して前記演算処理を行う第2の組と、に分けられている
ことを特徴とする構成7記載の光電変換装置。
(構成9)
前記第1処理部は、第1の数の信号ごとに共通の補正値を用いて前記演算処理を行い、
前記第2処理部は、前記第1の数から独立した第2の数の信号ごとに共通の補正値を用いて前記演算処理を行う
ことを特徴とする構成1乃至8のいずれかに記載の光電変換装置。
(構成10)
前記第1処理部における前記演算処理は、リニアリティ補正を行うための処理を含む
ことを特徴とする構成1乃至9のいずれかに記載の光電変換装置。
(構成11)
前記第1処理部における前記演算処理で用いる補正値を取得する第1補正値取得部を更に有し、
前記第1補正値取得部は、前記補正値を前記光電変換装置の外部から取得するように構成されている
ことを特徴とする構成1乃至10のいずれかに記載の光電変換装置。
(構成12)
前記第1処理部における前記演算処理で用いる補正値を取得する第1補正値取得部を更に有し、
前記第1補正値取得部は、前記光電変換装置の内部で生成した前記補正値を取得するように構成されている
ことを特徴とする構成1乃至10のいずれかに記載の光電変換装置。
(構成13)
前記第1処理部における前記演算処理で用いる前記補正値を保持する第1補正値保持部を更に有する
ことを特徴とする構成11又は12記載の光電変換装置。
(構成14)
前記第1補正値保持部は、前記複数の列の数と同じ数の前記補正値を保持する
ことを特徴とする構成13記載の光電変換装置。
(構成15)
前記第1処理部における前記演算処理で用いる前記補正値は、前記第1補正値取得部が取得して前記第1補正値保持部に格納したものである
ことを特徴とする構成13又は14記載の光電変換装置。
(構成16)
前記第1処理部における前記演算処理は、前記列回路から出力される信号に重畳する列毎の相関性の低いノイズを低減する演算処理及び列毎の相関性の高いノイズを低減する演算処理のうちの少なくとも一方を含む
ことを特徴とする構成11乃至15のいずれかに記載の光電変換装置。
(構成17)
前記第1処理部は、前記列毎の相関性の低いノイズを低減する演算処理を行った後の信号に対して、前記列回路のゲイン誤差成分を低減する演算処理を行う
ことを特徴とする構成16記載の光電変換装置。
(構成18)
前記第1補正値取得部は、前記列毎の相関性の低いノイズを低減する演算処理で用いる補正値を、前記列回路のゲイン誤差成分を低減する処理を行う前の信号から、前記列毎に対応して生成する
ことを特徴とする構成17記載の光電変換装置。
(構成19)
前記第1処理部は、前記列回路のゲイン誤差成分を低減する演算処理を行った後の信号に対して、前記列毎の相関性の高いノイズを低減する演算処理を行う
ことを特徴とする構成16記載の光電変換装置。
(構成20)
前記第1補正値取得部は、前記列毎の相関性の高いノイズを低減する演算処理で用いる補正値を、前記列回路のゲイン誤差成分を低減する処理を行った後の信号から、少なくとも2つ以上の列に対応して生成する
ことを特徴とする構成19記載の光電変換装置。
(構成21)
前記第2処理部における前記演算処理で用いる補正値を生成する第2補正値生成部を更に有する
ことを特徴とする構成1乃至20のいずれかに記載の光電変換装置。
(構成22)
前記第2補正値生成部は、前記第1処理部で補正した後の画素値から前記補正値を生成する
ことを特徴とする構成21記載の光電変換装置。
(構成23)
前記第2処理部における前記演算処理で用いる前記補正値を保持する第2補正値保持部を更に有する
ことを特徴とする構成21又は22記載の光電変換装置。
(構成24)
前記第2処理部における前記演算処理で用いる前記補正値は、前記第2補正値生成部が生成して前記第2補正値保持部に格納したものである
ことを特徴とする構成23記載の光電変換装置。
(構成25)
前記第2処理部における前記演算処理は、オフセット成分のノイズを低減するための処理を含む
ことを特徴とする構成1乃至24のいずれかに記載の光電変換装置。
(構成26)
前記複数の列回路の各々は、増幅器又はコンパレータを含む
ことを特徴とする構成1乃至25のいずれかに記載の光電変換装置。
(構成27)
前記複数の画素が設けられた第1基板と、
前記第1基板に積層され、前記複数の列回路と、前記第1処理部と、前記第2処理部と、が設けられた第2基板と、を有する
ことを特徴とする構成1乃至26のいずれかに記載の光電変換装置。
(構成28)
複数の列をなすように配された複数の画素と、
前記複数の列に対応して設けられ、対応する列の画素で取得された信号を各々が読み出す複数の列回路と、
前記複数の列回路から出力される信号の各々に対し、前記列回路で発生して前記信号に重畳しているノイズを低減するための乗算を含む演算処理を行う第1処理部と、
前記第1処理部で処理された信号に対し、前記画素で発生して前記信号に重畳しているノイズを低減するための演算処理を行う第2処理部と
を有することを特徴とする光電変換装置。
(構成29)
構成1乃至28のいずれかに記載の光電変換装置と、
前記光電変換装置から出力される信号を処理する信号処理装置と
を有することを特徴とする撮像システム。
(構成30)
移動体であって、
構成1乃至28のいずれかに記載の光電変換装置と、
前記光電変換装置からの信号に基づく視差画像から、対象物までの距離情報を取得する距離情報取得手段と、
前記距離情報に基づいて前記移動体を制御する制御手段と
を有することを特徴とする移動体。
(構成31)
構成1乃至28のいずれかに記載の光電変換装置と、
前記光電変換装置に対応する光学装置、
前記光電変換装置を制御する制御装置、
前記光電変換装置から出力された信号を処理する処理装置、
前記光電変換装置で得られた情報に基づいて制御される機械装置、
前記光電変換装置で得られた情報を表示する表示装置、及び、
前記光電変換装置で得られた情報を記憶する記憶装置、の少なくともいずれかと
を備えることを特徴とする機器。
(構成32)
複数の列をなすように配された複数の画素と、前記複数の列に対応して設けられ、対応する列の画素で取得された信号を各々が読み出す複数の列回路と、を有する光電変換装置から出力される信号を処理する信号処理装置であって、
前記光電変換装置の前記複数の列回路から出力される信号の各々に対し、前記列回路で発生して前記信号に重畳している前記列回路のゲイン誤差成分を低減する処理を含む演算処理を行う第1処理部と、
前記第1処理部で処理された信号に対し、前記画素で発生して前記信号に重畳しているノイズを低減するための演算処理を行う第2処理部と
を有することを特徴とする信号処理装置。
(方法1)
複数の列をなすように配された複数の画素と、前記複数の列に対応して設けられ、対応する列の画素で取得された信号を各々が読み出す複数の列回路と、を有する光電変換装置から出力される信号を処理する信号処理方法であって、
前記光電変換装置の前記複数の列回路から出力される信号の各々に対し、前記列回路で発生して前記信号に重畳している前記列回路のゲイン誤差成分を低減する処理を含む第1演算処理を行うステップと、
前記第1演算処理で処理された信号に対し、前記画素で発生して前記信号に重畳しているノイズを低減するための第2演算処理を行うステップと
を有することを特徴とする信号処理方法。