[実施例1]
図1の回路ブロック図を参照して、第1の実施例に係る撮像装置IM1の構成について説明する。図1は、撮像装置IM1の含む構成要素を示している。撮像装置IM1は、行列状に配置された複数の画素100によって構成された画素アレイ101を含む。図1では一例として画素アレイ101が4行3列の画素100を有する場合を説明する。しかし、画素アレイ101の配置はこれに限られない。画素100は、画素100への入射光に応じた画素信号を生成する。また、画素100は、画素100のリセットされた状態に応じたリセットレベル信号を生成する。
同じ行を構成する複数の画素100は、共通の制御線に接続される。制御線を通じて垂直走査回路103から画素100に、画素100の動作を制御するための制御信号が供給される。また、同じ列を構成する複数の画素100は、1つの出力線102に共通に接続される。出力線102を通じて列信号処理部104に供給されるアナログ信号を出力線信号Vvlと呼ぶ。例えば、画素100から出力線102に画素信号が読み出された場合に、出力線信号Vvlの信号値は画素信号に応じた値となる。また、画素100から出力線102にリセットレベル信号が読み出された場合に、出力線信号Vvlの信号値はリセットレベル信号に応じた値となる。つまり、画素100から出力線102へ出力された画素信号およびリセットレベル信号を、まとめて、出力線信号Vvlと呼ぶ。出力線102は列信号処理部104に接続される。複数の列に対応して、複数の列信号処理部104が配される。
列信号処理部104は、増幅回路105、制御回路106、比較回路108、メモリ部110を含む。
増幅回路105は、出力線信号Vvlを増幅することによって増幅信号Vampを生成し、増幅信号Vampを制御回路106及び比較回路108に供給する。増幅信号Vampは、増幅された画素信号と、増幅されたリセットレベル信号とを含む。後述するように、増幅回路105は複数のゲインの何れかで出力線信号Vvlを増幅することによって増幅信号Vampを生成する。つまり、増幅回路105は可変のゲインを有する。
制御回路106は、増幅信号Vampの信号値と所定の閾値Vthとを比較する。制御回路は、その比較結果に応じた判定信号ATTを増幅回路105及びメモリ部110に供給する。一例として、本実施例の制御回路106は、増幅信号Vampの信号値が閾値Vthよりも小さい場合に判定信号ATTをLレベルとし、増幅信号Vampの信号値が閾値Vthよりも大きい場合に判定信号ATTをHレベルとする。増幅回路105は、判定信号ATTのレベルに応じて、出力線信号Vvlの増幅に用いるゲインを変更する。すなわち、制御回路106は、増幅回路105がゲインを変更すべきかを判定する。ゲインの変更は、増幅回路105が出力線に出力された画素信号(出力線信号Vvl)を増幅している間に行われる。
比較回路108には、増幅回路105からの増幅信号Vampと、参照信号発生回路107からの参照信号Vrとが供給される。参照信号発生回路107は、全体制御部113からの指示に応じて、参照信号Vrとしてランプ信号を出力する。ランプ信号とは、時間の経過に対して一定の変化量で変化する信号値を持つ信号である。
比較回路108は、増幅信号Vampと参照信号Vrとを比較し、その比較結果を示す比較信号Vcmpをメモリ部110に供給する。一例として、本実施例の比較回路108は、増幅信号Vampが参照信号Vrよりも大きい場合に比較信号VcmpをLレベルとし、増幅信号Vampが参照信号Vrよりも小さい場合に比較信号VcmpをHレベルとする。
メモリ部110には、制御回路106からの判定信号ATT及び比較回路108からの比較信号Vcmpのほかに、カウンタ109からカウント信号CNTが供給される。カウンタ109は、全体制御部113からの指示に応じて、カウント信号CNTが表すカウント値を時間の経過とともにカウントアップまたはカウントダウンする。メモリ部110は、メモリ110Sと、メモリ110Nと、メモリ110Dとを含む。メモリ110S、メモリ110N、および、メモリ110Dは、それぞれ少なくとも1ビットのデジタル信号を保持する。メモリ110Dは、制御回路106から供給された判定信号ATTのレベルを保持する。判定信号ATTは、HレベルとLレベルとの2値を取るデジタル信号である。メモリ110S及びメモリ110Nはそれぞれ、参照信号発生回路107がランプ信号を供給し始めた時点におけるカウント信号CNTのカウント値と、比較信号Vcmpのレベルが切り替わった時点におけるカウント信号CNTのカウント値との差分を保持する。この差分は、通常、複数ビットのデジタル信号として表される。そのため、メモリ110N、および、メモリ110Dは、複数ビットのデジタル信号を保持できることが好ましい。
メモリ110Nは、画素100がリセットされている状態で増幅回路105が出力する増幅信号Vampから変換されたデジタル信号を保持する。つまり、メモリ110Nはリセットレベル信号から変換されたデジタル信号を保持する。メモリ110Sは、画素100から画素信号が読み出されている状態で増幅回路105が出力する増幅信号Vampから変換されたデジタル信号を保持する。つまり、メモリ110Sは画素信号から変換されたデジタル信号を保持する。画素信号は、画素100の光電変換部で生じた電荷に基づく信号である。
参照信号発生回路107と、比較回路108と、カウンタ109と、メモリ部110とが、増幅信号Vampをデジタル信号に変換するアナログデジタル変換部(以下、AD変換部)を構成する。AD変換部によって生成されるデジタル信号は、画素信号から変換されたデジタル信号と、リセットレベル信号から変換されたデジタル信号とを含む。
列信号処理部104は、出力線102ごとに個別に配置される。本実施例では、1つの参照信号発生回路107と1つのカウンタ109が、複数の列信号処理部104に対して共通に設けられている。複数の列信号処理部104のそれぞれに、個別に、参照信号発生回路107とカウンタ109とが配されていてもよい。
水平走査回路111は、複数のメモリ部110からデジタル信号を、順次、出力部112に読み出す。出力部112は、デジタル信号を撮像装置IM1の外部へ出力する。出力部112は、必要に応じて、リセットレベル信号から変換されたデジタル信号と、画素信号から変換されたデジタル信号との差分処理を行ってもよい。
全体制御部113は、撮像装置IM1の各構成要素に対して後述の制御信号を供給することによって、各構成要素の動作を制御する。
続いて、図2~図4を参照して、図1の画素100、増幅回路105、および、制御回路106の回路構成例について説明する。
図2は、画素100の等価回路を示す。画素100はフォトダイオードPD、増幅トランジスタMSF、転送トランジスタMTX、リセットトランジスタMRS及び選択トランジスタMSELを含む。転送トランジスタMTX、リセットトランジスタMRS及び選択トランジスタMSELは、それぞれ垂直走査回路103から供給される制御信号φPTX、φPRS、φPSELによって導通状態または非導通状態となるように制御される。
フォトダイオードPDは光電変換部の一例である。フォトダイオードPDは、画素100への入射光に応じた電荷を発生し、この電荷を蓄積する。
増幅トランジスタMSFは、画素100の増幅部を構成する。増幅トランジスタMSFのゲートは、フローティングディフュージョンFDに接続される。増幅トランジスタMSFのゲートとフローティングディフュージョンFDとが増幅部の入力ノードを構成する。増幅トランジスタMSFのソースは選択トランジスタMSELを介して出力線102に接続される。
リセットトランジスタMRSはリセット部を構成する。リセットトランジスタMRSはフローティングディフュージョンFDに接続される。制御信号φPRSがHレベルになると、リセットトランジスタMRSが導通状態になる。これにより、フローティングディフュージョンFDが電源VDDに接続され、フローティングディフュージョンFDの電圧がリセットされる。つまり、増幅部の入力ノードの電圧がリセットされる。増幅部の入力ノードの電圧がリセットされた状態を、画素100がリセットされた状態という。
制御信号φPTXがHレベルになると、転送トランジスタMTXが導通状態になり、フォトダイオードPDに蓄積された電荷がフローティングディフュージョンFDに転送される。制御信号φPSELがHレベルになると、選択トランジスタMSELが導通状態となり、不図示の電流源から出力線102を介して増幅トランジスタMSFに電流が供給される。それによって、フローティングディフュージョンFDの電圧に基づいたアナログ信号(画素信号、または、リセットレベル信号)が出力線102に読み出される。
図3は、増幅回路105の回路構成例を説明する。増幅回路105は、反転増幅器AMP、容量CIN、容量CFB1、容量CFB2及びスイッチS1、スイッチS2を含む。反転増幅器AMPの入力端子には容量CINを介して出力線信号Vvlが供給される。反転増幅器AMPの入力端子と出力端子との間には、スイッチS1と、容量CFB1とが並列に接続される。また、これらと並列に、反転増幅器AMPの入力端子と出力端子との間には、直列に接続されたスイッチS2及び容量CFB2とが接続される。
容量CFB1及び容量CFB2は、フィードバック容量として作用する。スイッチS2のオンおよびオフは、判定信号ATTと制御信号φFB2との論理和により制御される。この論理和がHレベルの場合にスイッチS2がオンとなり、容量CFB2がフィードバック容量として作用する。判定信号ATTは、後述するように、増幅回路105のゲインを制御するために用いられる。制御信号φFB2は、ゲインの制御にかかわらず、容量CFB2の電荷をリセットするために用いられる。スイッチS1は、制御信号φARSがHレベルの場合にオンとなる。スイッチS1がオンすることにより、容量CFB1、容量CFB2に蓄積された電荷がリセットされる。
増幅回路105は、可変のゲインを持つ。スイッチS2のオンとオフとが切り替わることにより、増幅回路105のゲインは異なる値に制御される。容量CIN、容量CFB1、容量CFB2の容量値は、増幅回路105に設定したいゲインによって適宜設定される。一例として、本実施例の容量CIN、容量CFB1、容量CFB2の容量値をそれぞれC、C、3Cとする。そのため、スイッチS2がオフの場合に増幅回路105のゲインは1倍に制御され、スイッチS2がオンの場合に増幅回路105のゲインは1/4倍に制御される。反転増幅器AMPは、設定されたゲインで出力線信号Vvlを増幅することによって得られた信号を増幅信号Vampとして出力する。上述のように、ゲインは1倍より小さい値であってもよいし、あるいは、ゲインは1倍より大きな値であってもよい。また、直列に接続されたスイッチと容量の組を追加することで、増幅回路105のゲインを3値以上に切り替えることができる。
一例として、本実施例の反転増幅器AMPは、NMOSトランジスタであるトランジスタM1及びM2と、PMOSトランジスタであるトランジスタM3及びM4とから構成されたNMOSソース接地増幅回路によって実現される。トランジスタM1は、ソース接地増幅トランジスタとして動作する。トランジスタM2は、ゲート接地増幅トランジスタとして動作する。また、トランジスタM3とM4とは、カスコード接続され、定電流負荷を構成する。トランジスタM2、M3、M4のゲートにはDCバイアス電圧Vbn1、Vbp1、Vbp2がそれぞれ供給され、これらのDCバイアスによって各トランジスタの動作点が定まる。
図4は、制御回路106の等価回路を示す。制御回路106は、比較器CMP1、Dラッチ回路DL、および、Dラッチ回路DLの後段に接続されたANDゲートを含む。
比較器CMP1の非反転入力端子には増幅信号Vampが供給される。比較器CMP1の反転入力端子には閾値Vthを示す信号が供給される。比較器CMP1は、増幅信号Vampの信号値(レベル)と閾値Vthとの大小関係を判定し、判定結果に応じた信号をDラッチ回路DLのD端子に供給する。換言すると、比較器CMP1は、増幅信号Vampの信号値と閾値Vthとを比較している。比較器CMP1は、増幅信号Vampの信号値が閾値Vthよりも小さい場合にLレベルの信号を出力し、増幅信号Vampの信号値が閾値Vthよりも大きい場合にHレベルの信号を出力する。
Dラッチ回路DLは、E端子に供給される制御信号φDLに応じて、D端子に供給されている信号のレベルを保持し、保持しているレベルを出力する。D端子には、比較器CMP1から、比較の結果を示す信号が入力されている。そのため、Dラッチ回路DLは、制御信号φDLのHレベルが入力されたタイミングで、比較の結果を後段の回路に伝達する機能を担う。
ANDゲートの一方の入力には、Dラッチ回路DLから出力された信号が供給される。ANDゲートの別の入力には制御信号φDLOが入力される。制御信号φDLOがHレベルのとき、Dラッチ回路DLが保持しているレベルを判定信号ATTとして制御回路106の外部へ出力する。つまり、制御信号φDLOによって、Dラッチ回路DLの保持しているレベルを、外部へ出力するか否かを選択することができる。
本実施例では、画素100から出力されたアナログ信号(画素信号およびリセットレベル信号)は、出力線信号Vvlとして、増幅回路105に入力される。増幅回路105は画素100から出力されたアナログ信号を増幅信号Vampとして出力する。増幅信号Vampはアナログ信号である。そして、制御回路106は、増幅信号Vampの信号値と閾値Vthとの比較の結果に応じて、増幅回路105のゲインを制御するための判定信号ATTを出力する。このような構成により、本実施例の制御回路106は、画素100の増幅部から出力されたアナログ信号の信号値と閾値との比較に応じて、列信号処理部104のゲインを制御している。
続いて、図5、図6を参照して、撮像装置IM1の動作について説明する。撮像装置IM1の動作は、全体制御部113が撮像装置IM1の各構成要素の動作を制御することによって行われる。画素100の動作は、全体制御部113が垂直走査回路103を制御することによって行われる。また、メモリ部110から出力部112へのデジタル信号の読出しは、全体制御部113が水平走査回路111を制御することによって行われる。
図5のタイミングチャート図を参照して、リセットレベル信号および画素信号の読み出し動作について説明する。図5のタイミングチャート図は、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも大きい場合を示す。画素信号の読み出し動作とは、画素100から画素信号を読み出し、画素信号から変換されたデジタル信号をメモリ部110に保持する動作のことである。
図5は、1つの画素100から画素信号を1回読み出すための動作を説明する。同じ行を構成する複数の画素100に対して、図5に説明される動作が同時に行われる。図5は、1行の読み出しに対応した“1H”期間のタイミングチャートを模式的に示している。撮像装置IM1は、画素アレイ101を構成する複数の行のそれぞれに対して図5に説明される動作を順次行うことによって、画素アレイ101の全ての画素100から画素信号を読み出す。
垂直走査回路103は、図5に示す期間を通じて、画素信号の読み出し動作の対象の画素100に供給する制御信号φPSELをHレベルに維持し、他の画素100に供給する制御信号φPSELをLレベルに維持する。制御信号φPSELがHレベルであることにより、画素100の増幅部がアナログ信号(画素信号およびリセットレベル信号)を出力線102に出力する。
画素信号の読み出し動作が開始されると、垂直走査回路103は、制御信号φPRSを一時的にHレベルにすることによって、画素100をリセットする。これにより、リセット状態にある画素100に応じた信号、つまり、リセットレベル信号が出力線102に読み出される。リセットレベル信号が出力線102に読み出されると、出力線信号Vvlの信号値はリセットレベル信号に応じた値となる。全体制御部113は、画素100のリセットと並行して、制御信号φARS、φFB2をそれぞれ一時的にHレベルにすることによって、容量CFB1、容量CFB2、容量CINに蓄積された電荷をリセットする。垂直走査回路103が制御信号φPRSをLレベルにした後、全体制御部113は、制御信号φARS、φFB2をそれぞれLレベルにする。
このとき、制御信号φDLOはLレベルであるため、制御回路106が出力する判定信号ATTはLレベルとなる。判定信号ATTと制御信号φFB2とが両方ともLレベルであるので、増幅回路105のスイッチS2はオフとなり、容量CFB2は反転増幅器AMPのフィードバック容量を構成しない。そのため、反転増幅器AMPのフィードバック容量の容量値はCとなる。反転増幅器AMPの入力ノードと出力線102との間に接続されている入力容量(容量CIN)の容量値もCであるので、増幅回路105のゲインは1倍に制御される。本明細書では、リセットレベル信号を読み出す時に増幅回路105のゲインを1倍に制御することを、リセットレベル信号に適用するゲインを1倍に制御するとも記述する。他の信号についても同様である。また、ゲインを設定する対象が増幅回路105以外の回路である場合も同様である。例えば、画素100の増幅部のゲインが変更されてもよい。
その後、参照信号発生回路107は、全体制御部113からの指示に応じて、参照信号Vrとしてランプ信号を供給し始める。言い換えると、参照信号発生回路107は、参照信号Vrの信号値を時間の経過に対して一定の変化量で変化させ始める。これと同時に、カウンタ109は、全体制御部113からの指示に応じて、出力するカウント値をゼロからカウントアップし始める。参照信号Vrが増幅信号Vampより大きくなり、比較信号VcmpがLレベルからHレベルに切り替わる時点で、メモリ110Nは、その時点のカウンタ109からのカウント値を保持する。このカウント値は、リセットレベル信号を1倍のゲインで増幅することによって得られた増幅信号VampをAD変換したデジタル信号に対応する。以下、リセットレベル信号から変換されたデジタル信号をデジタル信号Nと呼ぶ。
その後、垂直走査回路103が制御信号φPTXを一時的にHレベルにすることによって、転送トランジスタMTXがオンする。この時には、所定の長さの露光期間に生じた電荷がフォトダイオードPDに蓄積されている。そのため、フォトダイオードPDに蓄積された電荷がフローティングディフュージョンFDに転送される。これにより、画素100から画素信号が出力線102に読み出され、出力線信号Vvlの信号値が画素信号に応じた値となる。画素100のリセット時の出力線信号Vvlの信号値を基準として、電荷が転送された後の出力線信号Vvlの信号値の変化量をΔVvlで表す。変化量ΔVvlは画素100への入射光量に応じた値となる。出力線信号Vvlの変化に伴い、増幅信号Vampも変化する。増幅回路105のゲインが1倍に設定されている状態の増幅信号Vampの変化量をΔVamp1と呼ぶ。
この後の動作については、増幅信号Vampが、閾値Vth以上となるときと、閾値Vth未満となるときとで、撮像装置IM1は異なる動作をする。図5では、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampが閾値Vthよりも大きい場合について説明する。なお、閾値Vthは、増幅回路105の出力ダイナミックレンジの1/4以下となるように設定されている。しかし、閾値Vthは、増幅回路105の出力ダイナミックレンジの範囲内であればどのような値に設定されてもよい。
垂直走査回路103が制御信号φPTXをLレベルにしてから所定の時間が経過した後に、全体制御部113は、制御信号φDLを一時的にHレベルにする。図5に示された例では、増幅信号Vampの信号値が閾値Vthよりも大きいので、Dラッチ回路DLにはHレベルが保持される。次に、制御信号φDLOをHレベルにする。これにより、制御回路106は、Dラッチ回路DLに保持された信号を出力する。つまり、制御回路106から出力される判定信号ATTはHレベルとなる。その結果、増幅回路105のスイッチS2がオンとなり、容量CFB2が反転増幅器AMPのフィードバック容量として寄与する。反転増幅器AMPに接続されているフィードバック容量の容量値は4Cとなる。反転増幅器AMPに接続されている入力容量の容量値がCであるので、増幅回路105のゲインは1/4倍に制御される。それに伴い、増幅信号Vampの値も変化する。増幅回路105のゲインが1/4倍に設定されている状態の増幅信号Vampの変化量をΔVamp2と呼ぶ。
その後、撮像装置IM1は、リセットレベル信号に対するAD変換と同様にして、画素信号を増幅することによって得られた増幅信号Vampをデジタル信号に変換する。メモリ110Sは、画素信号から変換されたデジタル信号を保持する。以下、画素信号から変換されたデジタル信号をデジタル信号Sと呼ぶ。その後、メモリ110Dは、判定信号ATTのレベルを保持する。最後に、制御信号φDLOはLレベルとなり、次の行の読み出しに移るために判定信号ATTをLレベルとする。
以上の動作によって、画素信号の信号値と閾値Vthとの比較の結果を表す判定信号ATTのレベルがメモリ110Dに保持される。また、リセットレベル信号から変換されたデジタル信号Nがメモリ110Nに保持され、画素信号から変換されたデジタル信号Sがメモリ110Sに保持される。上述の例のように、増幅回路105のゲインが1倍から1/4倍に変更された場合に、メモリ110DにはHレベルの判定信号ATTが保持される。そして、メモリ110Sには1/4倍のゲインで増幅された画素信号を表すデジタル信号Sが保持される。
一方、図6のタイミング図は、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも小さい場合を示す。図6において説明がない部分は、図5と同じである。
図6では、変化量ΔVvlおよび変化量ΔVamp1が、図5に対して小さい。また、画素信号に対応する増幅信号Vampの信号値が閾値Vthよりも小さい。従って、制御信号φDLOがHレベルのときに、制御回路106の出力する判定信号ATTはLレベルである。結果として、画素信号に対してAD変換を行う時に、増幅回路105のゲインは1倍のまま維持される。この場合に、メモリ110DにはLレベルの判定信号ATTが保持され、メモリ110Sには1倍のゲインで増幅された画素信号を表すデジタル信号Sが保持される。
増幅回路105のゲインが1倍から1/4倍に変更された場合と1倍のまま維持された場合との両方において、メモリ110Nには1倍のゲインで増幅されたリセットレベル信号を表すデジタル信号Nが保持される。
図5および図6の両方において、メモリ部110へのデジタル信号の保持の動作の後、メモリ部110に保持されたデジタル信号N、設定信号ATT、デジタル信号Sが水平走査回路111の走査によって出力部112に読み出される。その後、出力部112は、差分処理、ゲイン誤差の補正などの処理を行い、そして、フォトダイオードPDに蓄積された電荷に応じたデジタル信号Dを出力する。なお、ゲイン誤差の補正などの処理は、外部の信号処理装置によって行われてもよい。
図5および図6では、最初に増幅回路105のゲインが相対的に高いゲイン(第2のゲイン)に制御されている。そして、その後、増幅回路105のゲインが相対的に低いゲイン(第1のゲイン)に制御される。しかし、この順序は逆であってもよい。最初に相対的に低いゲイン(第1のゲイン)に制御され、その後、画素信号の信号値が閾値Vthより低い場合に、相対的に高いゲイン(第2のゲイン)に制御されてもよい。
図7は輝度とデジタル信号Dの信号値の関係を模式的に示す図である。横軸が輝度を示し、縦軸がデジタル信号Dの信号値を示す。輝度の低い範囲Lでは、増幅回路105のゲインは、相対的に高いゲイン(第2のゲイン)に制御される。本実施例では、相対的に高いゲインは、1倍に設定される。増幅回路105のゲインが相対的に高いゲインに制御されたときに得られる信号を、便宜的に、高ゲイン信号と呼ぶ。輝度の高い範囲Hでは、増幅回路105のゲインは相対的に低いゲイン(第1のゲイン)に制御される。本実施例では、相対的に低いゲインは、1/4倍に設定される。増幅回路105のゲインが相対的に低いゲインに制御されたときに得られる信号を、便宜的に、低ゲイン信号と呼ぶ。
低ゲイン信号と高ゲイン信号との線形性を維持するため、通常、低ゲイン信号に対してゲイン比に応じた補正を行う。本実施例の場合は、ゲイン比(相対的に高いゲイン/相対的に低いゲイン)が4であるため、低ゲイン信号の信号値を4倍する。低ゲイン信号および高ゲイン信号のそれぞれは、AD変換部のダイナミックレンジ(AD変換レンジ)に収まる信号値を取るのみである。これに対して、ゲイン比に応じた補正を行うことで、低輝度の範囲Lから高輝度の範囲Hまでの広い範囲の輝度変化に応じて、AD変換レンジを超えて信号値の変化するデジタル信号Dを得ることができる。つまり、列信号処理部104が可変のゲインで、画素100から出力されるアナログ信号(画素信号およびリセットレベル信号)を処理することにより、ダイナミックレンジを拡大することができる。
ここで、回路の設計誤差などの影響で、実際のゲイン比は設定値と一致しない場合がある。そのため、図7に示されるように、高ゲイン信号とゲイン比に応じて補正された低ゲイン信号とは直線にならない場合がある。このような場合には、ゲイン比に応じた補正値を調整することで、線形性を向上させることが可能である。図7は、補正値を調整した結果の合成信号をさらに示している。
本実施例では、露光期間の長さの異なる複数の画像用データを合成してダイナミックレンジをさらに拡大することが可能である。本実施例の撮像装置IM1は、画素信号の読み出し動作の前に、光電変換部のリセットを行う。一般的には、光電変換部をリセットした時点から、図5において電荷の転送が終了した時点までが、露光期間である。制御信号φPTXがHレベルからLレベルに遷移した時に電荷の転送が終了する。
なお、変形例では、画素100の電荷保持部で、複数の離散した期間に生じた電荷を加算することがある。この場合、当該複数の離散した期間の合計が、1回の露光期間である。電荷保持部において電荷が加算されるため、複数の離散した期間に生じた電荷が1つの画素信号として出力される。そのため、当該複数の離散した期間の合計が、1回の露光期間である。電荷保持部は、例えば、フローティングディフュージョンFD、あるいは、フローティングディフュージョンFDとは別に設けられた保持容量である。
図8のタイミングチャート図を参照して、露光時間が異なる複数の画像用データを得るための動作を説明する。図8は、図5、図6に示された信号の一部を表す。図5または図6と同じ要素には、同じ符号を付し、詳細な説明は省略する。
まず、長時間の露光(第1の露光期間)が行われる。第1の露光期間の後に、1行の読み出しに対応した“1H”期間で、第1の露光期間に生じた電荷に応じたデジタル信号Dを読み出す。“1H”期間の読み出し動作は、図5または図6で説明した動作である。続いて、短時間の露光(第2の露光期間)が行われる。第2の露光期間の後に、1行の読み出しに対応した“1H”期間で、第2の露光期間に生じた電荷に応じたデジタル信号Dを読み出す。
なお、長時間および短時間は、相対的な露光期間の長さの関係を意味している。つまり、長時間露光(第1の露光期間)および短時間露光(第2の露光期間)とは、一方の露光期間(第1の露光期間)が、他方の露光期間(第2の露光期間)より長いということを意味している。また、動画を撮影する場合、長時間露光と短時間露光とが交互に行われる。一般的に被写体の明るさに応じて露光期間の長さを制御する場合、露光期間の長さは段階的に変化する。この点において、ダイナミックレンジ拡大のための露光期間の制御は、被写体の明るさに応じた露光期間の制御とは異なる。
図8において、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも大きい場合を、増幅信号Vamp_Hが表している。画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも小さい場合を、増幅信号Vamp_Lが表している。また、図8は、それぞれの場合の増幅回路105のゲインの状態を、ゲイン(Vamp_H)、および、ゲイン(Vamp_L)で示す。長時間露光(第1の露光期間)の後の“1H”期間、および、短時間露光(第2の露光期間)の後の“1H”期間のそれぞれで、制御回路106は、増幅信号Vampの信号値と閾値Vthとの比較の結果に応じて、増幅回路105のゲインを制御する。
なお、変形例として、制御回路106による増幅信号Vampの信号値に応じたゲインの制御は、長時間露光(第1の露光期間)の後の“1H”期間、および、短時間露光(第2の露光期間)の後の“1H”期間のいずれか一方のみで行われるだけでもよい。例えば、長時間露光(第1の露光期間)の後の“1H”期間のみで、増幅信号Vampの信号値と閾値Vthとの比較、および、当該比較の結果に応じたゲインの制御が行われる。
第1の露光期間に生じた電荷に応じたデジタル信号Dによって構成される第1の画像と、第2の露光期間に生じた電荷に応じたデジタル信号Dによって構成される第2の画像とは、外部の画像合成装置によって、1つの画像に合成される。これにより、さらにダイナミックレンジの拡大された画像を得ることができる。
図9は輝度とデジタル信号Dの信号値の関係を模式的に示す図である。横軸が輝度を示し、縦軸がデジタル信号Dの信号値を示す。輝度とデジタル信号Dの信号値との関係は、輝度に応じて、増幅回路105のゲイン、および、露光期間の長さの異なる4つの組み合わせから選択される。
輝度の範囲について、低い方から順に、範囲LL、範囲LH、範囲SL、範囲SHと呼ぶ。範囲LLおよび範囲LHでは、長時間の露光(第1の露光期間)によって得られたデジタル信号Dが用いられる。これらを総称して、長時間露光信号と呼ぶ。長時間露光信号は、図7での説明と同様に、高ゲイン信号と低ゲイン信号を含む。すなわち、輝度が低輝度側の範囲LLに含まれる場合、増幅回路105のゲインは、相対的に高いゲイン(第2のゲイン)に制御される。輝度が高輝度側の範囲LHに含まれる場合、増幅回路105のゲインは、相対的に低いゲイン(第1のゲイン)に制御される。また、図7での説明と同様に、低ゲイン信号に対してはゲイン比に応じた補正が行われる。
範囲SLおよび範囲SHでは、短時間の露光(第2の露光期間)によって得られたデジタル信号Dが用いられる。これらを総称して、短時間露光信号と呼ぶ。短時間露光信号は、図7での説明と同様に、高ゲイン信号と低ゲイン信号を含む。すなわち、輝度が低輝度側の範囲SLに含まれる場合、増幅回路105のゲインは、相対的に高いゲイン(第2のゲイン)に制御される。輝度が高輝度側の範囲SHに含まれる場合、増幅回路105のゲインは、相対的に低いゲイン(第1のゲイン)に制御される。また、図7での説明と同様に、低ゲイン信号に対してはゲイン比に応じた補正が行われる。
図7で説明したように、長時間露光信号および短時間露光信号のそれぞれについて、AD変換レンジを超えて信号値の変化するデジタル信号Dを得ることができる。そして、長時間露光信号と短時間露光信号とを合成することで、図9が示すように、より広いダイナミックレンジを得ることができる。
長時間露光信号と短時間露光信号とを合成する際に、短時間露光信号に対して露光期間の長さの比に応じたゲインを適用する。図9では、露光時間補正値として、ゲインのかかった短時間露光信号が示されている。通常は、長時間露光信号に適用するゲインよりも、高いゲインが短時間露光信号に適用される。
以上に説明した通り、本実施例では、長時間の露光(第1の露光期間)により生じた電荷に基づくデジタル信号D、および、短時間の露光(第2の露光期間)により生じた電荷に基づくデジタル信号Dが読み出される。そして、デジタル信号Dの読み出しに際して、画素100の出力する画素信号の信号値と閾値Vthとの比較に応じて、当該画素信号に適用するゲインを制御する。このような構成により、ダイナミックレンジを拡大することが可能である。
上述の実施例では、ゲイン比に応じた補正、異なる長さの露光期間の画像の合成、および、合成の際の露光期間の長さの比に応じた補正などについて説明している。しかし、これらの処理は、いずれも撮像装置の外部で行われるものである。つまり、本発明の実施において、必ずしも行われる処理ではない。本実施例の撮像装置においては、異なる長さの露光期間の電荷に基づく信号を読み出すこと、および、比較に基づいてゲインを制御することで、ダイナミックレンジの拡大された信号が出力される。もちろん、いくつかの実施例では、撮像装置IM1が上述の補正や画像合成を行う画像処理部を備えている。
[実施例2]
第2の実施例について説明する。第1の実施例では、長時間露光の後の“1H”期間、および、短時間露光の後の“1H”期間のそれぞれで、制御回路106が、増幅信号Vampの信号値に応じて、増幅回路105のゲインを制御する。これに対して、第2の実施例では、短時間露光(第2の露光期間)により生じた電荷に基づく画素信号を読み出す際は、増幅回路105のゲインを固定する。換言すると、長時間露光(第1の露光期間)の後の“1H”期間のみで、増幅信号Vampの信号値と閾値Vthとの比較、および、当該比較の結果に応じたゲインの制御が行われる。そこで、以下では主として第1の実施例と異なる部分を説明し、第1の実施例と同様の部分についての説明を省略する。
第2の実施例に係る撮像装置IM1の構成は、第1の実施例と同じである。すなわち、図1が第2の実施例に係る撮像装置IM1の構成を模式的に示している。図1についての説明は省略する。
第2の実施例の画素100、および、列信号処理部104に含まれる増幅回路105は、第1の実施例と同じである。すなわち、図2、図3が、ぞれぞれ、本実施例の画素100、および、増幅回路105の等価回路を示している。図2、および、図3の説明は省略する。
第2の実施例の撮像装置IM1の各部の動作は、第1の実施例と同じである。すなわち、図5および図6に示された制御信号に基づいて、撮像装置IM1は動作する。ただし、短時間露光(第2の露光期間)によって生じる電荷に基づく信号を読み出す際には、本実施例の撮像装置IM1は、第1の実施例とは異なる動作を行う。
本実施例では、第1の実施例と同様に、露光期間の長さの異なる複数の画像用データを合成してダイナミックレンジを拡大することが可能である。露光期間についての定義は、第1の実施例で説明しているため、ここでは重複する説明を省略する。
図10のタイミングチャート図を参照して、露光期間の長さが異なる複数の画像用データを得るための動作を説明する。図10は、図5、図6に示された信号の一部を表す。図5、図6、または、図8と同じ要素には、同じ符号を付し、詳細な説明は省略する。長時間の露光(第1の露光期間)により得られる信号を読み出す時の動作は、図8と同様である。
本実施例では、短時間露光(第2の露光期間)により生じた電荷に基づくデジタル信号Dを読み出す際に、増幅回路105のゲインを固定する。図10において、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも大きい場合を、増幅信号Vamp_Hが表している。画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも小さい場合を、増幅信号Vamp_Lが表している。また、図10は、それぞれの場合の増幅回路105のゲインの状態を、ゲイン(Vamp_H)、および、ゲイン(Vamp_L)で示している。図10が示す通り、いずれの場合においても、増幅回路105のゲインは、相対的に低いゲイン(第1のゲイン)に制御される。図10の長時間露光(第1の露光期間)での動作と、短時間露光(第2の露光期間)での動作とを比較すると、長時間露光では相対的に高いゲインが適用されるような信号値であっても、短時間露光では相対的に低いゲインが適用される。
増幅回路105のゲインを固定する方法は、増幅信号Vampの信号値と閾値Vthの比較の結果にかかわらずゲインを制御する、当該比較を行わずに増幅回路105のゲインを制御する、当該比較の閾値Vthを変更するなどを、少なくとも含む。
本実施例では、比較の結果にかかわらずにゲインを制御する方法を説明する。図11は増幅回路105のゲインを制御する制御回路106の一例である。図4に示された制御回路106との差異として、本実施例の制御回路106は出力段にORゲートを含む。ORゲートには、ANDゲートからの出力と、制御信号φLGとが入力される。制御信号φLGがHレベルのときは、ANDゲートからの出力にかかわらず、つまり、比較の結果にかかわらず、判定信号ATTがHレベルとなる。このように、制御信号φLGおよびORゲートにより、比較の結果にかかわらず判定信号ATTをHレベルとし、ゲインを固定することができる。この例では、ゲインは1/4倍(相対的に低いゲイン)に固定される。なお、ORゲートに代えてANDゲートを用いることで、ゲインを1倍(相対的に高いゲイン)に固定することができる。このように、制御回路106の出力段に論理ゲートが配されることで、判定信号ATTのレベルを固定することができる。
図10が示すように、長時間露光(第1の露光期間)の後の“1H”期間では、制御信号φLGがLレベルである。つまり、判定信号ATTのレベルは、増幅信号Vampの信号値と閾値Vthの比較の結果に応じて変化する。一方で、短時間露光(第2の露光期間)の後の“1H”期間では、制御信号φLGがHレベルである。そのため、増幅回路105のゲインが1/4倍(相対的に低いゲイン)に固定される。
なお、長時間露光(第1の露光期間)の後の“1H”期間では、リセットレベル信号に適用されるゲインは1倍である。短時間露光(第2の露光期間)の後の期間では、リセットレベル信号に適用されるゲインは1/4倍である。
図12は輝度とデジタル信号Dの信号値の関係を模式的に示す図である。横軸が輝度を示し、縦軸がデジタル信号Dの信号値を示す。輝度とデジタル信号Dの信号値との関係は、輝度に応じて、増幅回路105のゲイン、および、露光期間の長さの異なる3つの組み合わせから選択される。
輝度の範囲について、低い方から順に、範囲LL,範囲LH、範囲SHと呼ぶ。範囲LLおよび範囲LHでは、長時間の露光(第1の露光期間)によって得られたデジタル信号Dが用いられる。これらを総称して、長時間露光信号と呼ぶ。長時間露光信号は、図7での説明と同様に、高ゲイン信号と低ゲイン信号を含む。すなわち、輝度が低輝度側の範囲LLに含まれる場合、増幅回路105のゲインは、相対的に高いゲイン(第2のゲイン)に制御される。輝度が高輝度側の範囲LHに含まれる場合、増幅回路105のゲインは、相対的に低いゲイン(第1のゲイン)に制御される。また、図7での説明と同様に、低ゲイン信号に対してはゲイン比に応じた補正が行われる。
範囲LHよりも高輝度側の範囲SHでは、短時間の露光(第2の露光期間)によって得られたデジタル信号Dが用いられる。これを短時間露光信号と呼ぶ。短時間露光においては、増幅回路105のゲインが相対的に低いゲイン(第1のゲイン)に固定される。そのため、短時間露光信号としては、低ゲイン信号だけが読み出される。短時間露光信号に対しては、第1の実施例と同様に、ゲイン比に応じた補正、および、露光期間の長さの比に応じた補正を行う。
図12に示されるように、本実施例では、短時間露光信号として高ゲイン信号が用いられない。換言すると、図9に示された範囲SLに相当する範囲が存在しない。そのため輝度が範囲SHの中の低輝度側である場合、画素信号の信号値が小さく、かつ、増幅回路105のゲインが低いため、回路のノイズに対する信号値の比(SN比)が相対的に小さくなる場合がある。SN比の小さいデジタル信号に対して露光期間の補正のためにゲインをかけるため、相対的に回路のノイズの影響が強くなる。
しかし、長時間の露光期間(第1の露光期間)の長さと短時間の露光期間(第2の露光期間)の長さとの比、増幅回路105のゲインの比などを適切に設定することにより、範囲SHからノイズが生じやすい部分を除外できる。
この点について図9を基準として説明する。図9では、先述の通り、長時間露光信号および短時間露光信号のそれぞれに、高ゲイン信号および低ゲイン信号が使われている。露光期間の長さの比、および、ゲイン比を変えたときに、範囲LL、範囲LH、範囲SL、範囲SHがどのように変化するかを説明する。
第1の露光期間(長時間露光)が長くなると、範囲LLと範囲LHとの合計の範囲は短くなる。第1の露光期間(長時間露光)が短くなると、範囲LLと範囲LHとの合計の範囲は広くなる。被写体の低輝度の部分には長時間露光信号を用いるため、範囲LLと範囲LHとの合計の範囲は、輝度が0の点を起点に変化する。
第2の露光期間(短時間露光)についても同様である。第2の露光期間(短時間露光)が長くなると、範囲SLと範囲SHとの合計の範囲は短くなる。第2の露光期間(短時間露光)が短くなると、範囲SLと範囲SHとの合計の範囲は広くなる。短時間露光信号も、低輝度側(範囲LLや範囲LH)の輝度に対しても信号値を持つ。このことを図9などにおいては細い直線が表現している。この点を考慮すると、範囲SLと範囲SHとの合計の範囲は、輝度が0の点を起点に変化する。
具体例として、図9の場合に比べて第1の露光期間(長時間露光)が短い例を、図13に示す。図13は、図9と同様に、輝度とデジタル信号Dの信号値の関係を模式的に示す図である。
図9と比較すると、範囲LLと範囲LHの合計の範囲が広くなっている。一方で、短時間露光(第2の露光期間)については条件を変えていない。その結果、範囲SLが狭くなっている。より正確には、範囲LHの高輝度側(範囲SLに近い部分)では、長時間信号の低ゲイン信号または短時間露光の高ゲイン信号のいずれを使ってもよいということである。このようにして、さらに第1の露光期間(長時間露光)を短くすることで、範囲LLと範囲LHの合計の範囲が広がり、図9の範囲SLの全部をカバーする。結果として、短時間露光の高ゲイン信号を使う必要がなくなる。短時間露光の高ゲイン信号の代わりに使われる長時間露光の低ゲイン信号は、比較的高い信号値を持っている。そのため、SN比も比較的高い。結果としてノイズを低減することができる。
増幅回路105のゲインについて、ゲインが高くなると各範囲の幅が狭くなる。一方、ゲインが低くなると、各範囲の幅が広くなる。具体例として、相対的に高いゲイン(第2のゲイン)が図9の場合に比べて高い例を、図14に示す。図14は、図9と同様に、輝度とデジタル信号Dの信号値の関係を模式的に示す図である。相対的に低いゲイン(第1のゲイン)は図9の場合と同じである。
図14が示すように、範囲LL、および、範囲SLが狭くなっている。それに対して、範囲LHおよび範囲SHは広くなっている。ゲインが高くなったため、より低輝度で高ゲイン信号が飽和レベルに達するためである。
このようにゲイン比を変えることにより、範囲LL、範囲LH、範囲SL、および、範囲SHを変化させることができる。例えば、長時間露光(第1の露光期間)における相対的に低いゲインを下げて、短時間露光(第2の露光期間)における相対的に高いゲインを上げることで、短時間露光の高ゲイン信号を使う範囲(範囲SL)を狭くすることができる。
次に、第2の露光期間(短時間露光)により生じた電荷に基づく画素信号を処理する際に、増幅回路105のゲインを固定することの効果を説明する。ゲインを固定することにより、異なるゲイン間でのオフセットに起因するノイズを低減することができる。
増幅信号Vampの信号値と閾値Vthとの比較に応じて、画素信号に適用するゲインを、複数のゲインの1つに選択的に制御する場合、リセットレベル信号に適用されるゲインと、画素信号に適用されるゲインとが異なることがある。増幅回路105のゲインが異なる場合には、スイッチのフィードスルー等に起因して、出力される増幅信号Vampが異なるオフセットを有する可能性がある。つまり、リセットレベル信号の増幅信号Vampと、画素信号の増幅信号Vampとの間には、ゲインの違いのほかに、オフセットの違いも生じうる。
相関二重サンプリング(CDS:Correlated Double Smapling)を行う場合、画素信号とリセットレベル信号との差分処理を行う。適用されているゲインが違うときは、ゲイン比に応じて信号値を増幅したうえで、差分処理が行われる。しかし、この時に上述のオフセットの差が増幅されるため、結果としてノイズが生じる可能性がある。
列信号処理部104は、互いに異なるオフセットを有することが多いため、オフセットの差に起因したノイズを補正により低減することは困難である。特に、短時間露光信号は、画像合成の際に露光期間の長さの比に応じてゲインがかけられる。そのため、当該ノイズがさらに目立ちやすくなる。
これに対して、第2の露光期間(短時間露光)により生じた電荷に基づく画素信号を処理する際に、増幅回路105のゲインを固定することで、画素信号に適用されるゲインとリセットレベル信号に適用されるゲインとをほぼ同じに制御することができる。これにより、画素信号とリセットレベル信号との間のオフセットの差を低減することができる。そのため、増幅信号Vampに含まれるオフセット成分は、差分処理によりキャンセルすることができる。結果として、ノイズを低減することができるのである。
続いて、変形例として、増幅回路105のゲインを固定する別の方法を説明する。増幅信号Vampの信号値と閾値Vthとの比較を行わずに増幅回路105のゲインを制御することで、増幅回路105のゲインを固定することができる。
例えば、図11の制御回路106に含まれる比較器CMP1、Dラッチ回路DL、および、ANDゲートの少なくとも1つに電源が供給されなければ、比較は行われない。したがって、短時間露光(第2の露光期間)の後の“1H”期間には、比較器CMP1、Dラッチ回路DL、および、ANDゲートの回路の電源を落とす。
なお、この場合に、判定信号ATTをHレベルとするため、ORゲートには電源を供給し、そして、制御信号φLGはHレベルとすればよい。あるいは、別の回路が、増幅回路105、および、メモリ110DにHレベルの判定信号ATTに相当する信号を供給してもよい。
変形例として、増幅回路105のゲインを固定する別の方法を説明する。例えば、比較に用いられる閾値Vthを変更することで、増幅回路105のゲインを実質的に固定することができる。この変形例では、図4に示された制御回路106が用いられてもよい。
図5で説明した通り、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampが閾値Vthよりも大きい場合に、増幅回路105のゲインは、相対的に低いゲインに制御される。そこで、閾値Vthを増幅信号Vampが取り得る信号値よりも小さく設定することで、比較の結果を示す判定信号ATTを常にHレベルとすることができる。また、閾値Vthを増幅信号Vampが取り得る信号値よりも大きく設定することで、判定信号ATTを常にHレベルとすることができる。
このように、長時間露光(第1の露光期間)により生じた電荷に基づく画素信号との比較に用いられる閾値Vthと、短時間露光(第2の露光期間)により生じた電荷に基づく画素信号との比較に用いられる閾値Vthとが異なる。このような方法によって、増幅回路105のゲインを固定することができる。
閾値Vthを変更することにより、画素信号の信号値と適用されるゲインとの関係は次の通りとなる。長時間露光(第1の露光期間)により生じた電荷に基づく画素信号の信号値が第1の範囲に含まれる場合に、当該画素信号に適用するゲインを相対的に低いゲイン(第1のゲイン)に制御する。当該画素信号の信号値が第1の範囲よりも低輝度側である第2の範囲に含まれる場合に、当該信号に適用するゲインを相対的に高いゲイン(第2のゲイン)に制御する。これに対して、短時間露光(第2の露光期間)により生じた電荷に基づく画素信号に対しては、当該画素信号が第2の範囲に含まれる場合と第1の範囲含まれる場合との両方で、相対的に低いゲイン(第1のゲイン)を適用する。
本実施例では、画素信号に適用されるゲインと、リセットレベル信号に適用されるゲインとが同じである。別の観点で言えば、画素信号が画素100から出力される前に、当該画素信号に適用されるゲインが、複数のゲインのうちの1つに予め制御されている。つまり、増幅回路105のゲインをリセットレベル信号に適用されるゲインに制御した後、ゲインを変更する制御を行わない。この点は、ゲインを固定することの1つの側面である。
以上、ゲインを固定するための方法の変形例を説明したが、ゲインを固定するという技術は上記の例に限定されるものではない。
本実施例のように、増幅回路105のゲインを固定する場合、メモリ110Dに保持される信号は既知である。具体的に、相対的に高いゲインが適用される場合、メモリ110DにはLレベルが保持される。相対的に低いゲインが適用される場合、メモリ110DにはHレベルが保持される。
そのため、例えば、メモリ110Dへの判定信号ATTの保持を行わなくてもよい。この場合、メモリ110Dへの書き込みに電力が使われないため、消費電力が低減できる。また、メモリ110Dからの信号の読み出しを省略またはスキップしてもよい。これにより消費電力を低減できる。または、撮像装置IM1から出力されるデータの量が減るため、高速化が可能である。
以上に説明した通り、第2の実施例では、長時間露光(第1の露光期間)の後の“1H”期間には、増幅信号Vampの信号値と閾値Vthとの比較、および、当該比較の結果に応じたゲインの制御が行われる。一方、短い露光期間(第2の露光期間)で生じた電荷に基づく画素信号を読み出す際は、増幅回路105のゲインが固定される。このような構成により、ノイズを低減することができる。
本実施例についても、ゲイン比に応じた補正、異なる長さの露光期間の画像の合成、および、合成の際の露光期間の長さの比に応じた補正などは、ダイナミックレンジ拡大の効果を得るため、あるいは、ノイズ低減の効果を得るために必須の構成ではない。本発明に含まれない外部の画像処理部によって、上述の処理を行うことができるためである。
[実施例3]
第3の実施例について説明する。第3の実施例では、列信号処理部104の構成が、第1の実施例乃至第2の実施例の列信号処理部104と異なる。そこで、以下では主として、第1の実施例および第2の実施例と異なる部分を説明し、第1の実施例または第2の実施例と同様の部分についての説明を省略する。
図15の回路ブロック図を参照して、第3の実施例に係る撮像装置IM1の構成について説明する。列信号処理部104を除く構成は、図1と同じである。そのため、図1と同じ部分については、図1についての説明が全て図15に適用される。ここでの説明は省略する。
図1では、増幅回路105から出力された増幅信号Vampは、制御回路106および比較回路108に入力される。一方、本実施例においては、図15が示す通り、増幅信号Vampは、比較回路108に入力される。そして、比較回路108の出力ノードが、制御回路106に接続される。このような構成により、比較回路108は、増幅信号Vampの信号値と閾値Vthとの比較、および、増幅信号VampとAD変換のための参照信号との比較の両方を行う。
そのため、参照信号発生回路107は、増幅信号Vampの信号値と閾値Vthとの比較を行う時には、比較回路108へ閾値Vthを表す信号を供給する。また、増幅信号VampのAD変換を行う時には、参照信号発生回路107は、第1の実施例で説明したAD変換のための参照信号を、比較回路108へ供給する。
図16は、制御回路106の等価回路を示す。制御回路106は、インバータINV1、Dラッチ回路、および、ラッチ回路DLの後段に接続されたANDゲートを含む。また、図16(b)が示すように、制御回路106はANDゲートの後段に論理ゲートを含んでいてもよい。図4または図11と比較すると、比較器CMP1の代わりに、インバータINV1が配される。本実施例では、増幅信号Vampの信号値と閾値Vthとの比較は比較回路108によって行われるため、制御回路106が、比較器を含まなくてもよい。第1の実施例および第2の実施例と同様に、制御回路106から出力された判定信号ATTは、増幅回路105およびメモリ部110のメモリ110Dに入力される。
列信号処理部104のその他の構成は、第1の実施例または第2の実施例と同じである。そのため詳細な説明は省略する。
続いて、図17、および、図18のタイミングチャート図を参照して、画素信号の読み出し動作について説明する。全体制御部113が、垂直走査回路103、水平走査回路111などの撮像装置IM1の各構成要素の動作を制御する。
図17、および、図18は、それぞれ、第1の実施例の図5、および、図6に対応する。図5のタイミングチャート図は、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも大きい場合を示す。一方、図6のタイミングチャート図は、画素信号を1倍のゲインで増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも小さい場合を示す。
第1の実施例との差異としては、リセットレベル信号のAD変換を行う期間(図中の矢印N)と画素信号のAD変換を行う期間(図中の矢印S)との間の期間Jに、参照信号Vrの信号値が閾値Vthとなっている。これ以外の動作は、図5、および、図6と同じである。そのため、第1の実施例での説明を援用し、詳細な説明は省略する。
期間Jでは、参照信号発生回路107の出力する参照信号Vrの信号値が閾値Vthである。この期間には、制御信号φPTXがHレベルになるため、画素100において電荷の転送が行われる。これにより、画素100から画素信号が出力され、増幅回路105の出力する増幅信号Vampが画素信号に対応した信号値を取る。比較回路108には、増幅信号Vampと閾値Vthを示す参照信号Vrとが入力されている。そのため、比較回路108が、増幅信号Vampの信号値と閾値Vthとを比較する。
図17では、1倍のゲインで増幅された増幅信号Vampの信号値が閾値Vthより大きい。そのため、比較回路108から出力される比較信号VcmpはLレベルである。Lレベルの比較信号Vcmpが制御回路106に入力されることで、制御回路106はHレベルの判定信号ATTを出力する。その結果、増幅回路105のゲインは、相対的に低いゲイン(第1のゲイン)である1/4倍のゲインに制御される。
図18では、1倍のゲインで増幅された増幅信号Vampの信号値が閾値Vthより小さい。そのため、比較回路108から出力される比較信号VcmpはHレベルである。Hレベルの比較信号Vcmpが制御回路106に入力されることで、制御回路106はLレベルの判定信号ATTを出力する。その結果、増幅回路105のゲインは、相対的に高いゲイン(第2のゲイン)である1倍のゲインに制御される。
その他の動作は、第1の実施例または第2の実施例と同じである。本実施例においても、長時間露光(第1の露光期間)により生じた電荷に基づくデジタル信号Dと、短時間露光(第2の露光期間)により生じた電荷に基づくデジタル信号Dとが読み出される。
第1の実施例のように、長時間露光(第1の露光期間)の後の“1H”期間、および、短時間露光(第2の露光期間)の後の“1H”期間の両方において、制御回路106は、比較の結果に応じてゲインを制御してもよい。このような動作は図8に示されている。図8においては、リセットレベル信号のAD変換を行う期間と画素信号のAD変換を行う期間との間の期間に、参照信号Vrの信号値が一定である。本実施例においては、図17または図18が示すように、この期間の参照信号Vrの信号値を閾値Vthとすればよい。
あるいは、第2の実施例のように、短時間露光(第2の露光期間)の後の“1H”期間において、制御回路106は増幅回路105のゲインを固定してもよい。このような動作は図10に示されている。図10においては、リセットレベル信号のAD変換を行う期間と画素信号のAD変換を行う期間との間の期間に、参照信号Vrの信号値が一定である。本実施例においては、図17または図18が示すように、この期間の参照信号Vrの信号値を閾値Vthとすればよい。ゲインを固定する方法は、第2の実施例と同様に、増幅信号Vampの信号値と閾値Vthの比較の結果にかかわらずゲインを制御する、当該比較を行わずに増幅回路105のゲインを制御する、当該比較の閾値Vthを変更するなどを、少なくとも含む。
以上に説明した通り、第1の実施例のように、長時間の露光(第1の露光期間)により生じた電荷に基づくデジタル信号D、および、短時間の露光(第2の露光期間)により生じた電荷に基づくデジタル信号Dが読み出される。そして、デジタル信号Dの読み出しに際して、画素100の出力する画素信号の信号値と閾値Vthとの比較に応じて、当該画素信号に適用するゲインを制御する。このような構成により、ダイナミックレンジを拡大することが可能である。
また、第2の実施例のように、長時間露光(第1の露光期間)の後の“1H”期間には、増幅信号Vampの信号値と閾値Vthとの比較、および、当該比較の結果に応じたゲインの制御が行われる。一方、短い露光期間(第2の露光期間)で生じた電荷に基づく画素信号を読み出す際は、増幅回路105のゲインが固定される。このような構成により、ノイズを低減することができる。
また、本実施例では、比較回路108が、増幅信号Vampの信号値と閾値Vthとの比較、および、増幅信号Vampと参照信号Vrとの比較の両方を行う。そのため、回路規模を縮小することができる。
[実施例4]
第4の実施例について説明する。第4の実施例では、列信号処理部104の構成が、第1の実施例乃至第3の実施例の列信号処理部104と異なる。そこで、以下では主として、実施例1と異なる部分を説明し、第1の実施例乃至第3の実施例のいずれかと同様の部分についての説明を適宜省略する。
第1の実施例乃至第3の実施例では、増幅回路105のゲインを変更することで、列信号処理部104が可変のゲインで画素信号を処理している。一方、本実施例では、AD変換部によるAD変換の変換ゲインが可変である。具体的には、参照信号発生回路107が、信号値の単位時間当たりの変化率の異なる複数の参照信号Vrを出力する。つまり、本実施例の参照信号発生回路107は、ランプ信号の傾きを変化させる。このような構成により、列信号処理部104が可変のゲインで画素信号を処理する。
図19の回路ブロック図を参照して、第4の実施例に係る撮像装置IM1の構成について説明する。列信号処理部104の構成、および、参照信号発生回路107と列信号処理部104との接続を除き、本実施例の撮像装置IM1の構成は、第1の実施例乃至第3の実施例の撮像装置IM1の構成と同じである。
第4の実施例の画素100、および、列信号処理部104に含まれる増幅回路105は、第1の実施例と同じである。すなわち、図2、図3が、ぞれぞれ、本実施例の画素100、および、増幅回路105の等価回路を示している。図2、および、図3の説明は省略する。なお、本実施例の増幅回路105は可変のゲインを持つ必要はない。そのため、図3に示された、スイッチS2、容量CFB2は省略されてもよい。
本実施例においては、図19が示す通り、増幅信号Vampは、比較回路108に入力される。そして、比較回路108の出力ノードが、制御回路106に接続される。なお、第1の実施例または第2の実施例のように、増幅回路105の出力する増幅信号Vampが、比較回路108および制御回路106の両方に入力されてもよい。
参照信号発生回路107は第1の参照信号VrLと第2の参照信号VrHとを出力する。第1の参照信号VrLおよび第2の参照信号VrHは、それぞれの信号線を介して、制御回路106に入力される。第2の参照信号VrHの信号値の単位時間当たりの変化量は、第1の参照信号VrLの信号値の単位時間当たりの変化量よりも大きい。2つの参照信号の当該変化量の比が、AD変換ゲインの比に相当する。変化量が小さいほど、参照信号Vrの信号値が変化を開始してから比較回路108の出力する比較信号Vcmpが反転するまでの時間が長くなる。つまり、より大きな信号値を持つデジタル信号に変換される。そのため、参照信号Vrの信号値の単位時間当たりの変化量が小さいほど、AD変換ゲインが高いと言える。別の観点では、変化量が小さいほど、AD変換における1ビット当たりの分解能が小さくなる。つまり、AD変換ゲインを高くすることで、AD変換の精度(分解能)を向上させることができる。
制御回路106は、第3の実施例と同様に、比較回路108の出力する比較信号Vcmpに応じた判定信号ATTを出力する。さらに、本実施例の制御回路106は、第1の参照信号VrLと第2の参照信号VrHとの一方を選択し、選択された参照信号Vrを比較回路108に出力する。
図20は、制御回路106の等価回路を示す。制御回路106は、インバータINV1、Dラッチ回路DL、Dラッチ回路DLの後段に接続されたANDゲート、および、ANDゲートの後段に接続されたORゲートを含む。これらの構成は、図16(b)と同じである。増幅回路105の出力ノードが制御回路106に接続される変形例では、制御回路106は、インバータINV1の代わりに、図1または図11に示された比較器CMP1を含む。
本実施例の制御回路106は、さらに、インバータINV2、スイッチS3、および、スイッチS4を含む。インバータINV2は、判定信号ATTを反転し、反転信号ATTBを出力する。スイッチS3は、判定信号ATTによって制御される。判定信号ATTがHレベルの時に、スイッチS3はオン状態である。スイッチS3がオンすることで、第2の参照信号VrHが、参照信号Vrとして、制御回路106から出力される。スイッチS4は、反転信号ATTBによって制御される。反転信号ATTBがHレベルの時に、スイッチS4はオン状態である。スイッチS4がオンすることで、第1の参照信号VrLが、参照信号Vrとして、制御回路106から出力される。スイッチS3とスイッチS4とが相補的に動作するため、制御回路106は、第1の参照信号VrLと第2の参照信号VrHとの一方を選択することができる。
続いて、図21、および、図22を参照して、撮像装置IM1の動作について説明する。撮像装置IM1の動作は、全体制御部113が撮像装置IM1の各構成要素の動作を制御することによって行われる。画素100の動作は、全体制御部113が垂直走査回路103を制御することによって行われる。また、メモリ部110から出力部112へのデジタル信号の読出しは、全体制御部113が水平走査回路111を制御することによって行われる。
図21のタイミングチャート図は、画素信号を増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも大きい場合を示す。一方、図22のタイミングチャート図は、画素信号を増幅することによって得られる増幅信号Vampの信号値が閾値Vthよりも小さい場合を示す。
電荷の転送が開始されるまでの動作は、図5と同じである。垂直走査回路103は、図5に示す期間を通じて、画素信号の読み出し動作の対象の画素100に供給する制御信号φPSELをHレベルに維持し、他の画素100に供給する制御信号φPSELをLレベルに維持する。制御信号φPSELがHレベルであることにより、画素100の増幅部がアナログ信号(画素信号およびリセットレベル信号)を出力線102に出力する。
続いて、垂直走査回路103は、制御信号φPRSを一時的にHレベルにすることによって、画素100をリセットする。これにより、リセットレベル信号が出力線102に読み出される。全体制御部113は、画素100のリセットと並行して、制御信号φARS、φFB2をそれぞれ一時的にHレベルにすることによって、容量CFB1、容量CFB2、容量CINに蓄積された電荷をリセットする。垂直走査回路103が制御信号φPRSをLレベルにした後、全体制御部113は、制御信号φARS、φFB2をそれぞれLレベルにする。
このとき、制御信号φDLOおよび制御信号φLGは、いずれもLレベルである。そのため、制御回路106が出力する判定信号ATTはLレベルとなる。一方、反転信号ATTBはHレベルである。スイッチS3がオフし、スイッチS4がオンするので、制御回路106は、第1の参照信号VrLを出力する。
その後、参照信号発生回路107は、全体制御部113からの指示に応じて、第1の参照信号VrLの信号値および第2の参照信号VrHの信号値を、時間の経過に対して一定の比率で変化させ始める。なお、第1の参照信号VrLの信号値の単位時間当たりの変化量と、第2の参照信号VrHの単位時間当たりの変化量は異なる。これと同時に、カウンタ109は、全体制御部113からの指示に応じて、出力するカウント値をゼロからカウントアップし始める。
前述の通り、制御回路106は、第1の参照信号VrLを、参照信号Vrとして出力している。参照信号Vrが増幅信号Vampより大きくなり、比較信号VcmpがLレベルからHレベルに切り替わる時点で、メモリ110Nは、その時点のカウンタ109からのカウント値を保持する。このカウント値は、リセットレベル信号から変換されたデジタル信号に対応する。以下、リセットレベル信号から変換されたデジタル信号をデジタル信号Nと呼ぶ。
その後、垂直走査回路103が制御信号φPTXを一時的にHレベルにすることによって、転送トランジスタMTXがオンする。この時には、所定の長さの露光期間に生じた電荷がフォトダイオードPDに蓄積されている。そのため、フォトダイオードPDに蓄積された電荷がフローティングディフュージョンFDに転送される。これにより、画素100から画素信号が出力線102に読み出され、出力線信号Vvlの信号値が画素信号に応じた値となる。画素100のリセット時の出力線信号Vvlの信号値を基準として、電荷が転送された後の出力線信号Vvlの信号値の変化量をΔVvlで表す。
電荷の転送と並行して、参照信号発生回路107は、第1の参照信号VrHの信号値を閾値Vthとする。これにより、比較回路108が、画素信号に対応した増幅信号Vampの信号値と、閾値Vthとの比較を行うことができる。図21に示された例では、増幅信号Vampの信号値が閾値Vthよりも大きい。そのため、比較回路108の出力する比較信号Vcmpは、Lレベルである。一方、図22に示された例では、増幅信号Vampの信号値が閾値Vthよりも小さい。そのため、比較回路108の出力する比較信号Vcmpは、Hレベルである。
垂直走査回路103が制御信号φPTXをLレベルにしてから所定の時間が経過した後に、全体制御部113は、制御信号φDLを一時的にHレベルにする。これにより、Dラッチ回路DLは比較信号Vcmpに応じた信号値を保持する。制御回路106はインバータINV1を含むので、増幅信号Vampの信号値が閾値Vthよりも大きい場合(図21)には、HレベルがDラッチ回路DLに保持される。増幅信号Vampの信号値が閾値Vthよりも小さい場合(図22)には、LレベルがDラッチ回路DLに保持される。その後、全体制御部113は、制御信号φDLOをHレベルにする。図21においては、判定信号ATTがHレベルとなる。一方、図22においては、判定信号ATTがLレベルとなる。
図21に示す例では、判定信号ATTがHレベルであるため、制御回路106は第2の参照信号VrHを出力する。具体的には、制御回路106のスイッチS3がオンし、スイッチS4がオフする。その後、参照信号発生回路107は、第2の参照信号VrHの信号値を変化させ始める。このようにして、増幅信号Vampの信号値が閾値Vthよりも大きい場合、相対的に低い変換ゲイン(第1のゲイン)で、画素信号がデジタル信号に変換される。
一方、図22に示す例では、判定信号ATTがLレベルであるため、制御回路106は第1の参照信号VrLを出力する。具体的には、制御回路106のスイッチS3がオフし、スイッチS4がオンする。その後、参照信号発生回路107は、第1の参照信号VrLの信号値を変化させ始める。このようにして、増幅信号Vampの信号値が閾値Vthよりも低い場合、相対的に高い変換ゲイン(第2のゲイン)で、画素信号がデジタル信号に変換される。
本実施例では、第2の参照信号VrHの単位時間当たりの変化量は、第1の参照信号VrLの単位時間当たりの変化量の4倍である。そのため、変換ゲインの比は4である。図21および図22は、便宜的に、変換ゲインが1倍または4倍である表示しているが、AD変換において、変換ゲインの絶対値自体は本質的な意味を持たない。
本実施例におけるカウンタ109の動作は、第1の実施例と同じである。また、判定信号ATTの信号値、デジタル信号N、および、デジタル信号Sを、それぞれ、メモリ110D、メモリ110N、メモリ110Sに保持することは、第1の実施例と同じである。これらの説明は省略する。
以上に説明した通り、本実施例では、参照信号発生回路107が、異なる変化率で変化する信号値を持つ第1の参照信号VrLおよび第2の参照信号VrHを出力する。これにより、AD変換部の変換ゲインが可変である。それ以外の点は、第1の実施例乃至第3の実施例と同じである。
例えば、ダイナミックレンジの拡大のため、長時間露光(第1の露光期間)により生じた電荷に基づく信号の読み出し、および、短時間露光(第2の露光期間)により生じた電荷に基づく信号の読み出しを行う。これらの読み出し動作の両方で、画素信号に応じた変換ゲインの制御を行ってもよい。あるいは、これらの読み出し動作のうち一方だけで、画素信号に応じた変換ゲインの制御を行い、他方では、変換ゲインが固定されるように制御してもよい。
このような構成により、第1の実施例乃至第3の実施例と同様に、ダイナミックレンジを拡大することが可能である。
[実施例5]
第5の実施例について説明する。第4の実施例では、列信号処理部104の構成が、第4の実施例の列信号処理部104と異なる。そこで、以下では主として、実施例1と異なる部分を説明し、実施例1と同様の部分についての説明を適宜省略する。
図23の回路ブロック図を参照して、第4の実施例に係る撮像装置IM1の構成について説明する。本実施例では、列信号処理部104が図1などに示された増幅回路105を有していない。そのため、出力線102が、比較回路108に接続されている。このような構成により、出力線信号Vvl(画素信号およびリセットレベル信号)が、比較回路108に入力される。その他の構成は、第4の実施例と同じである。
続いて、図24、および、図25を参照して、撮像装置IM1の動作について説明する。図21および図22との差異としては、参照信号Vrの信号値の変化する方向が逆である。第4の実施例では、増幅回路105が反転増幅器AMPを含んでいたため、電荷の転送により、増幅信号Vampの信号値は高い方向(Hレベル側)へ変化した。それに合わせて、参照信号Vrの信号値は高い方向へ変化していた。一方、本実施例では、出力線信号Vvlが比較回路108に入力される。出力線信号Vvlの信号値は、電荷の転送に伴い、低い方向(Lレベル側)へ変化する。そのため、本実施例では、参照信号Vrの信号値が引く方向へ変化している。そのほかの動作は第4の実施例と同じであるため、説明を省略する。
以上に説明した通り、本実施例では、参照信号発生回路107が、異なる変化率で変化する信号値を持つ第1の参照信号VrLおよび第2の参照信号VrHを出力する。これにより、AD変換部の変換ゲインが可変である。それ以外の点は、第1の実施例乃至第3の実施例と同じである。
例えば、ダイナミックレンジの拡大のため、長時間露光(第1の露光期間)により生じた電荷に基づく信号の読み出し、および、短時間露光(第2の露光期間)により生じた電荷に基づく信号の読み出しを行う。これらの読み出し動作の両方で、画素信号に応じた変換ゲインの制御を行ってもよい。あるいは、これらの読み出し動作のうち一方だけで、画素信号に応じた変換ゲインの制御を行い、他方では、変換ゲインが固定されるように制御してもよい。
このような構成により、第1の実施例乃至第3の実施例と同様に、ダイナミックレンジを拡大することが可能である。
[駆動方法の実施例]
実施例1~実施例5の撮像装置IMにおいて、複数の画像を取得する動作、つまり、動画撮影について説明する。各実施例において、1つの行の画素100から画素信号を1回読み出すための動作(例えば、実施例1の図5および図6)が説明された。この読み出し動作が、複数の行の画素100に対して、順に行われることによって、1つの画像が取得される。
図26(a)は、画素アレイ101の各行における画素信号の読み出しのタイミングを模式的に示す。図26(a)の縦軸は、行番号を表している。図26(a)の横軸は、時間を表している。
図26(a)は、4つの期間220a~220dを示している。期間220aでは、短時間露光が行われる。期間220bでは、長時間露光が行われる。期間220cでは、短時間露光が行われる。期間220dでは、長時間露光が行われる。図中の四角形が、画素信号を読み出す1回の読み出し動作を表している。また、この例では、読み出し動作と同時に、次の露光期間における蓄積を開始するための光電変換部のリセット動作が行われている。便宜的に、期間220aに行われた露光で蓄積された電荷に基づく画素信号を読み出す動作を、読み出し動作210と呼ぶ。同様に、期間220bに行われた露光で蓄積された電荷に基づく画素信号を読み出す動作を、読み出し動作230と呼ぶ。また、期間220cに行われた露光で蓄積された電荷に基づく画素信号を読み出す動作を、読み出し動作250と呼ぶ。なお、図中の矢印は、最初に読み出される行の露光期間に対応している。本実施例では、いわゆるスリットローリングシャッタ動作が行われるため、行ごとに露光期間はずれている。
期間220aに短時間露光が行われる。読み出し動作210によって、期間220aに蓄積された信号電荷に基づく信号が読み出される。ここで、各行に対する読み出し動作210は、“1H”期間に行われる。そして、1つの行に対する読み出し動作210と、次の行に対する読み出し動作210との間隔が、“1H”期間である。
このとき、各行において、画素信号の読み出しと同時に、次の露光期間を開始するための光電変換部のリセットが行われる。すなわち、読み出し動作210は、期間220bに行われる長時間露光の開始動作である。読み出し動作230によって、期間220bに蓄積された信号電荷に基づく信号が読み出される。このとき、1つの行に対する読み出し動作230と、次の行に対する読み出し動作230との間隔が、“1H”期間である。また、読み出し動作230によって、次の期間220cに行われる短時間露光が開始される。
短時間露光の場合、露光時間が短いため、読み出し動作230がすべての行において完了する前に、読み出し動作250が開始される。各行に対する読み出し動作250は、ある行の読み出し動作230と次の行の読み出し動作230の間に行われる。したがって、撮像装置IMから出力される画素信号を時系列に並べると、図26(b)のようになる。図26(b)では、1つのブロックが“1H”期間に対応する。最初は、読み出し動作230によって出力された画素信号(長時間露光に対応)が、“1H”期間の間隔を置いて連続して出力される。その後、読み出し動作230によって出力された画素信号(長時間露光に対応)と、読み出し動作250によって出力された画素信号(短時間露光に対応)とが、交互に出力される。最後は、読み出し動作250(短時間露光に対応)によって出力された画素信号が、“1H”期間の間隔を置いて連続して出力される。なお、これらの画素信号は、後段の信号処理部で、図26(b)の点線で示されるように、2つの画像に構成される。
以上の動作により、短時間露光における露光期間を短くすることができる。露光期間が短くても、前の画像の画素信号の読み出しが完了する前に、次の画像の画素信号を読み出せるからである。結果として、より広いダイナミックレンジを得ることが可能である。
[実施例6]
撮像システムの実施例について説明する。撮像システムとして、デジタルスチルカメラ、デジタルカムコーダ、カメラヘッド、複写機、ファックス、携帯電話、車載カメラ、観測衛星などがあげられる。図26に、撮像システムの例としてデジタルスチルカメラのブロック図を示す。
図27において、1001はレンズの保護のためのバリアである。1002は被写体の光学像を撮像装置1004に結像させるレンズである。1003はレンズ1002を通った光量を可変するための絞りである。撮像装置1004には、上述の各実施例で説明した撮像装置が用いられる。
1007は撮像装置1004より出力された画素信号に対して、補正やデータ圧縮などの処理を行い、画像信号を取得する信号処理部である。そして、図27において、1008は撮像装置1004および信号処理部1007に、各種タイミング信号を出力するタイミング発生部、1009はデジタルスチルカメラ全体を制御する全体制御部である。1010は画像データを一時的に記憶する為のフレームメモリ部である。1011は記録媒体に記録または読み出しを行うためのインターフェース部である。1012は撮像データの記録または読み出しを行う為の半導体メモリ等の着脱可能な記録媒体である。1013は外部コンピュータ等と通信する為のインターフェース部である。
なお、撮像システムは少なくとも撮像装置1004と、撮像装置1004から出力された画素信号を処理する信号処理部1007とを有すればよい。その場合、他の構成は撮像システムの外部に配される。
以上に説明した通り、撮像システムの実施例において、撮像装置1004には、第1の実施例、乃至、第5の実施例のいずれかの撮像装置が用いられる。このような構成によれば、撮像装置から得られる画像のダイナミックレンジを拡大させることができる。
[実施例7]
移動体の実施例について説明する。本実施例の移動体は、車載カメラを備えた自動車である。図28(a)は、自動車2100の外観と主な内部構造を模式的に示している。自動車2100は、撮像装置2102、撮像システム用集積回路(ASIC:Application Specific Integrated Circuit)2103、警報装置2112、主制御部2113を備える。
撮像装置2102には、上述の各実施例で説明した撮像装置が用いられる。警報装置2112は、撮像システム、車両センサ、制御ユニットなどから異常を示す信号を受けたときに、運転手へ向けて警告を行う。主制御部2113は、撮像システム、車両センサ、制御ユニットなどの動作を統括的に制御する。なお、自動車2100が主制御部2113を備えていなくてもよい。この場合、撮像システム、車両センサ、制御ユニットが個別に通信インターフェースを有して、それぞれが通信ネットワークを介して制御信号の送受を行う(例えばCAN規格)。
図28(b)は、自動車2100のシステム構成を示すブロック図である。自動車2100は、第1の撮像装置2102と第2の撮像装置2102を含む。つまり、本実施例の車載カメラはステレオカメラである。撮像装置2102には、光学部2114により被写体像が結像される。撮像装置2102から出力された画素信号は、画像前処理部2115によって処理され、そして、撮像システム用集積回路2103に伝達される。画像前処理部2115は、S-N演算や、同期信号付加などの処理を行う。
撮像システム用集積回路2103は、画像処理部2104、メモリ2105、光学測距部2106、視差演算部2107、物体認知部2108、異常検出部2109、および、外部インターフェース(I/F)部2116を備える。画像処理部2104は、画素信号を処理して画像信号を生成する。また、画像処理部2104は、画像信号の補正や異常画素の補完を行う。メモリ2105は、画像信号を一時的に保持する。また、メモリ2105は、既知の撮像装置2102の異常画素の位置を記憶していてもよい。光学測距部2106は、画像信号を用いて被写体の合焦または測距を行う。視差演算部2107は、視差画像の被写体照合(ステレオマッチング)を行う。物体認知部2108は、画像信号を解析して、自動車、人物、標識、道路などの被写体の認知を行う。異常検出部2109は、撮像装置2102の故障、あるいは、誤動作を検知する。異常検出部2109は、故障や誤動作を検知した場合には、主制御部2113へ異常を検知したことを示す信号を送る。外部I/F部2116は、撮像システム用集積回路2103の各部と、主制御部2113あるいは種々の制御ユニット等との間での情報の授受を仲介する。
自動車2100は、車両情報取得部2110および運転支援部2111を含む。車両情報取得部2110は、速度・加速度センサ、角速度センサ、舵角センサ、測距レーダ、圧力センサなどの車両センサを含む。
運転支援部2111は、衝突判定部を含む。衝突判定部は、光学測距部2106、視差演算部2107、物体認知部2108からの情報に基づいて、物体との衝突可能性があるか否かを判定する。光学測距部2106や視差演算部2107は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。
運転支援部2111が他の物体と衝突しないように自動車2100を制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。
自動車2100は、さらに、エアバッグ、アクセル、ブレーキ、ステアリング、トランスミッション等の走行に用いられる駆動部を具備する。また、自動車2100は、それらの制御ユニットを含む。制御ユニットは、主制御部2113の制御信号に基づいて、対応する駆動部を制御する。
本実施例に用いられた撮像システムは、自動車に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
以上に説明した通り、自動車の実施例において、撮像装置2102には、第1の実施例、乃至、第5の実施例のいずれかの撮像装置が用いられる。このような構成によれば、撮像装置から得られる画像のダイナミックレンジを拡大させることができる。