JP2009010627A - 固体撮像装置およびこれを用いたカメラ - Google Patents

固体撮像装置およびこれを用いたカメラ Download PDF

Info

Publication number
JP2009010627A
JP2009010627A JP2007169435A JP2007169435A JP2009010627A JP 2009010627 A JP2009010627 A JP 2009010627A JP 2007169435 A JP2007169435 A JP 2007169435A JP 2007169435 A JP2007169435 A JP 2007169435A JP 2009010627 A JP2009010627 A JP 2009010627A
Authority
JP
Japan
Prior art keywords
pixel
signal
output signal
nir
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007169435A
Other languages
English (en)
Inventor
Makoto Inagaki
誠 稲垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2007169435A priority Critical patent/JP2009010627A/ja
Publication of JP2009010627A publication Critical patent/JP2009010627A/ja
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】機構的な操作を無くし、高解像度でかつノイズを増加させることなく信号量を増加させることが可能であり、高照度下の撮像状態から低照度での撮像状態や暗視状態まで連続的に画像を撮像することができる固体撮像装置とこれを用いたカメラを提供すること。
【解決手段】行方向および列方向に配置された複数の画素から構成される画素ユニットが、行方向および列方向にそれぞれ複数設けられた受光領域と、行方向に配置された前記画素に共通する垂直走査線と、列方向に配置された前記画素に共通する信号出力線とを備え、前記画素ユニットは、カラー画素とNIRフィルタが形成されたNIR画素とを含み、前記カラー画素からの出力信号と、前記NIR画素からの出力信号とが、一連の水平走査によって前記信号出力線から読み出される。
【選択図】図4

Description

本発明は、近赤外光(NIR)に感度を有する画素を有る固体撮像装置、および、この固体撮像装置を受光部に用いたカメラに関する。
近年の固体撮像装置、および、この固体撮像装置を受光部として用いたカメラの利用方法として、車載用途や監視用途を中心に、近赤外光(near infrared radiation、以下本明細書では「NIR」という。)を利用した暗視、もしくは低照度撮像が盛んとなってきている。しかしながら、従来の固体撮像装置、もしくはこれを用いたカメラは、意図的にNIRを受光してこれを活用しようとするのではなく、通常の可視光を撮像する中で得られる微弱なNIRを用いるというものであった。
図20は従来の固体撮像装置における受光領域201の画素配置の一例を示している。図20に示すように、従来の固体撮像装置の受光領域201は、赤色領域に透過波長のピークを有するRフィルタが形成されたR画素202と、緑色領域に透過波長のピークを有するGフィルタが形成されたG画素203と、青色領域に透過波長のピークを有するBフィルタが形成されたB画素204とがモザイク状に形成されている。なお、図20に示す例では、一つの行がR画素202とG画素203とで形成され、この行と交互に配置されるもう一つの行がG画素203とB画素204とで形成されている。
図21は、図20で示したような受光領域201を有する固体撮像装置を用いた、従来のカメラの概略構成を示すブロック図である。一般的に、シリコン基板上に形成されるCCDやCMOS型の固体撮像装置では、200〜1100nmの光の波長を光電変換して出力する波長特性を有している。このため、日中の屋外でのような照度が高い状態で被写体を撮像すると、可視領域の光のみならずNIRも多く含まれているため、固体撮像装置から出力される画像信号は、実際に人間が見た印象と異なる画像となってしまう。
このような不自然な画像が出力されることを防ぐために、従来のカメラでは、図21に示すように、固体撮像装置208とレンズユニット206との間に、赤外線カットフィルタ207が設けられていて、被写体205からの入力光からNIRを含む赤外光を除去していた。
図22は、このような従来の固体撮像装置208のそれぞれの画素に形成される、可視領域に主たる透過波長領域を有するカラーフィルタの透過波長特性を示している。図22において、Bフィルタの透過波長特性が209、Gフィルタの透過波長特性が210,Rフィルタの透過波長特性が211である。そして、図22のハッチング部分が、上記した赤外線カットフィルタ207でカットされるカット領域212である。赤外線カットフィルタ207では、約650nmよりも長い波長を有する近赤外領域がカットされている。
図22に示すような透過波長特性を有する各色カラーフィルタが形成された従来の固体撮像装置において、NIRを利用した暗視撮像は、赤外線カットフィルタ207を除去して約650nmよりも長波長のNIR光を固体撮像装置で受光することで行われる。NIRをより多く受光できるように、赤外光ライトを使用して被写体にNIRを照射することなども行われるが、赤外線カットフィルタ207を除去したとは言っても、受光できるNIRは、Rフィルタ202が透過させるわずかのNIRでしかないので、暗視カメラや人間の眼の虹彩を撮像して個体認識をするといった、NIRを利用する用途に必ずしも十分なものであるとは言えなかった。
ここで、図20に示した画素配置パターンを有する受光領域201を備えた従来の固体撮像装置における、撮像信号の出力方法について簡単に説明する。
図23は従来の固体撮像装置の概略構成を示すブロック図である。可視領域に主たる透過波長領域を有するR、G、B3色のカラーフィルタを有するR、G、B各色の画素が、モザイク状に配置されて受光領域201を形成している。受光領域201では、行方向に配置された画素に共通する垂直走査線218と、列方向に配置された画素に共通する信号出力線219が形成されている。そして、垂直走査回路213によって垂直走査線218に接続された画素の行が一行ずつ選択され、選択された一行分の画素からの出力信号は、信号出力線219を介してノイズ除去回路214に入力されてノイズ成分を除去される。ノイズ除去回路214でノイズ除去された出力信号は、水平走査線220を介して印加される水平走査回路215からの選択信号に基づいて、列ごとの信号として水平信号線216に読み出される。水平信号線216に読み出された信号は出力アンプ217によって増幅されて出力信号221となって出力される。このような動作を一行分ずつ全ての行について繰り返して、一画面分の信号を出力する。
図23において点線で囲んだ領域Cの部分を拡大したものが、図24である。図24に示すように、従来の固体撮像装置は、R画素202、G画素203、B画素204が行方向および列方向に配置された受光領域201を備え、また、行方向に配置された画素に共通して、信号電荷を読み出すための信号を与えるTR線と、信号電荷をリセットするRS線とを備えている。これらTR線とRS線とが垂直走査線218を構成する。さらに、列方向に配置された画素に共通して、信号出力線219を備えている。
各色の画素が、信号出力線219を介して接続されるノイズ除去回路214は、それぞれの信号出力線219に対応して、第1の容量C11、ノイズ除去回路214の電位を固定するための電源VDD、電源VDDとの変化量を保持するための第2の容量C12が設けられている。また、受光領域201に形成された各色の画素とノイズ除去回路214との接続と切り離しをスイッチ制御するSH線、ノイズ除去回路214の電位を一時的に固定するためのクランプを駆動するCL線とを有している。なお、図24において、ADDRESS1〜4は、水平走査回路から水平走査線220を介して入力される水平走査信号を示す。
次に、この従来の固体撮像素子の動作について、動作タイミングチャートである図25を用いて説明する。なお、固体撮像装置の受光領域やノイズ除去回路の構成については、適宜図24を参照するものとする。
図25の上部に、撮像動作タイミング全体をイメージ図で示している。固体撮像装置における各色画素の選択動作と、ノイズ除去回路214におけるノイズ除去動作は、イメージ図の左側端部に示した、実際に撮像を行わない水平ブランキング期間217において実施される。その後の実際に画像を撮像する有効期間218において、各色画素での受光量に応じた出力信号が出力される。
水平ブランキング期間では、まず、RS線にRSタイミングが入力される。これによって各色画素がリセットされ、信号電荷のない状態となる。これと同時にSH線にSHタイミングが入力されて受光領域201の各色画素とノイズ除去回路214とが接続され、また、CL線にCLタイミングが入力されてノイズ除去回路214の電位が固定される。従って、第1の容量C11には、各色画素の信号のない状態の電位が保持される。
その後、RSタイミングを立ち下げ、同時にCLタイミングを立ち下げる。その後、TRタイミングを入力することによって、各色画素の信号を読み出し、信号出力線219を介してノイズ除去回路214に伝達させる。このとき、第1の容量C11には各色画素の信号のない状態の電位が保持されているため、第2の容量C12には、各色画素の信号から信号のない状態の電位の差分のデータが充電され保持される。
このような動作によって、各色画素に固有のトランジスタの閾値のばらつきや受光素子自体が有している暗電流成分のばらつきなどのオフセット成分が除去されることになり、結果としてノイズを低減・除去する効果が得られる。
この状態で、SHタイミングを立ち下げることによって、受光領域201とノイズ除去回路214とを切り離す。ここまでがブランキング期間の動作である。
その後、有効期間において、水平走査回路215を動作させ、ADDRESS1タイミングから順次ADDRESSを選択していくことによって、各列の画素における出力信号を一行分の出力信号として順次出力することができる。なお、ここで例示した従来の固体撮像装置では、その受光領域における画素配置として、各行に対応する画素がR画素とG画素の組み合わせと、G画素とB画素の組み合わせとが交互に繰り返されるような配置となっているため、出力信号は、各行ごとにR画素とG画素との信号、または、G画素とB画素との信号が交互に出力される。
上記したような、従来の固体撮像装置を用いたカメラでは、NIRを積極的に用いる用途での撮像を行うたびに、赤外線カットフィルタを物理的にカメラの光学系から外す処理が必要となり、このための機構が必要となることでカメラの小型化を阻害する要因やコストアップの要因となっていた。また、赤外線カットフィルタを除去する機構を設けることが、機構系の故障による障害発生の確率を高くするなどの問題が生じていた。
このような課題に対して、CMOSセンサを用いた固体撮像装置として、可視領域に主たる透過波長領域を有するR、G、B3色のカラーフィルタを有するR、G、B各色の画素の他に、カラーフィルタを設けないW画素を形成してNIRを受光し、このW画素の出力信号をR、G、B各色の画素からの出力信号と分離して取得できるようにすることで、3次元計測やLED光の点滅検出といった種々の検出を行う技術が提案されている(特許文献1)。
特開2005−295381号公報
しかしながら、特許文献1に記載された従来の固体撮像装置では、NIRにも感度を有するW画素での出力信号を、R、G、B各色画素からの出力信号とは別の経路で出力する構造となっている。このため、W画素から得られる近赤外領域の出力信号と、R、G、B各色画素から得られる可視領域の出力信号との処理を、固体撮像装置から取り出された後の外部回路で行わなくてはならない。この結果、信号処理時に外来ノイズなどの影響を受け易くなり、特に出力信号が微弱な低照度時の暗視カメラとして用いるような場合には、撮像された画像の品位低下が著しくなってしまう。
また、特許文献1に記載の発明では、R、G、B各色の画素とW画素とを並べて形成するような構成であるので、R、G、B画素に比べてW画素の数が1/3程度となる。カラー画像を構成する場合は、R、G、B3色の画素を使用するが、NIR画像を構成する場合は、NIR画素のみを使用するからである。このため、NIR利用時に得られる画像の解像度が低下してしまう。更には、日中などの通常撮像時と低照度時や暗時での撮像状態を連続的に動作させ、同じモニタに映し出すことが非常に困難となる。
そこで本発明は、通常画像の撮像時とNIR利用時とにおいて、赤外線カットフィルタを取り除くという機構的な操作を無くし、高解像度でかつノイズを増加させることなく信号量を増加させることが可能であり、また、通常画像撮像時の高照度下の撮像状態から低照度での撮像状態や暗視状態にいたるまで連続的に画像を撮像することができる固体撮像装置、およびこれを用いたカメラを提供することを目的とする。
上記課題を解決するために、本発明の固体撮像装置は、行方向および列方向に配置された複数の画素から構成される画素ユニットが、行方向および列方向にそれぞれ複数設けられた受光領域と、行方向に配置された前記画素に共通する垂直走査線と、列方向に配置された前記画素に共通する信号出力線とを備え、前記画素ユニットは、可視領域に主たる透過波長領域を有するカラーフィルタが形成されたカラー画素と、近赤外領域に主たる透過波長領域を有するNIRフィルタが形成されたNIR画素とを含み、前記カラー画素からの出力信号と、前記NIR画素からの出力信号とが、一連の水平走査によって前記信号出力線から読み出されることを特徴とする。
また、本発明のカメラは、請求項1〜13のいずれかに記載の固体撮像装置を受光部に備えたことを特徴とする。
本発明によれば、通常画像の撮像時とNIR利用時とにおいて、赤外線カットフィルタを取り除くという機構的な操作を無くし、高解像度でかつノイズを増加させることなく信号量を増加させることが可能であり、また、通常画像撮像時の高照度下の撮像状態から低照度での撮像状態や暗視状態にいたるまで連続的に画像を撮像することができる固体撮像装置、およびこれを用いたカメラを実現できる。
本発明の固体撮像装置は、行方向および列方向に配置された複数の画素から構成される画素ユニットが、行方向および列方向にそれぞれ複数設けられた受光領域と、行方向に配置された前記画素に共通する垂直走査線と、列方向に配置された前記画素に共通する信号出力線とを備え、前記画素ユニットは、可視領域に主たる透過波長領域を有するカラーフィルタが形成されたカラー画素と、近赤外領域に主たる透過波長領域を有するNIRフィルタが形成されたNIR画素とを含み、前記カラー画素からの出力信号と、前記NIR画素からの出力信号とが、一連の水平走査によって前記信号出力線から読み出される構成となっている。
このようにすることで、NIR画素で受光した出力信号と可視領域における各色画素の出力信号とを同等に扱うことができ、外来ノイズの影響のない固体撮像装置内で信号処理を行うことができる。
また、上記した本発明の固体撮像装置においては、前記画素ユニットが、赤色領域に主たる透過波長領域を有するRフィルタが形成されたR画素と、緑色領域に主たる透過波長領域を有するGフィルタが形成されたG画素と、青色領域に主たる透過波長領域を有するBフィルタが形成されたB画素と、前記NIR画素とが2行2列に配置されて構成されていることが好ましい。
このようにすることで、通常の画像撮影に利用されるR、G、B各色の出力信号とNIR領域の出力信号とを得ることができる。
また、前記画素ユニットに含まれる、前記カラー画素からの出力信号と前記NIR画素からの出力信号とを加算する加算回路を備えたことが好ましい。
このようにすることで、各色画素での受光量が少なくても、ノイズフロアレベルを上回ったレベルの出力信号を得ることができる。
この場合、前記画素ユニットに含まれる、全ての前記カラー画素からの出力信号それぞれと、前記NIR画素からの出力信号とが前記加算回路で加算されることが好ましい。
このようにすることで、各色画素からの出力信号レベルをそれぞれ大きくすることができる。
また、前記画素ユニットに含まれる、全ての前記カラー画素からの出力信号と、前記NIR画素からの出力信号とが前記加算回路で加算されることが好ましい。
このようにすることで、低照度時や暗視状態においても、大きなレベルの出力信号が得られ、S/N比の高い画像信号を得ることができる。
さらに、前記画素ユニットに含まれる前記カラー画素からの出力信号を加算判定信号として、前記加算回路での前記加算を行うか否かの判定を行う加算判定回路をさらに備えたことが好ましい。
このようにすることで、日中の撮像など高照度下の撮像では、NIR画素からの出力信号を用いることなく、高い画質での撮像画像を得ることができる。
また、前記画素ユニットに含まれる前記カラー画素からの出力信号のうち、光電変換特性の傾きが最も大きな出力信号を前記加算判定信号として用いることがより好ましい。
このようにすることで、撮像画像の色温度が異なる撮像環境に関わらず、各色画素の出力信号を飽和レベル以下で得ることができる。
また、前記加算判定信号とした前記カラー画素からの出力信号の光電変換特性において、飽和レベルの出力値をSa、前記飽和レベルに達する露光量よりも小さい露光量xの時の出力値をSo(x)とし、前記NIR画素からの出力信号の光電変換特性において、前記露光量xの時の出力値をSoNIR(x)としたとき、前記加算判定回路が、
SoNIR(x)+So(x)≦Saであれば、前記加算を行い、
SoNIR(x)+So(x)>Saであれば、前記加算を行なわないことが好ましい。
このようにすることで、各色画素の出力信号を飽和レベル以下で得るための判断を容易に実現できる。
さらに、前記NIR画素からの出力信号レベルに応じて、前記カラー画素からの出力信号の増幅率を変化させるゲイン調整回路を備えることが、また、前記NIR画素からの出力信号レベルに応じて、前記加算回路で加算された出力信号の増幅率を変化させるゲイン調整回路を備えることがより好ましい。
このようにすることで、被写体ごとのNIR画像の特徴に応じて、可視領域の各色画素の信号を強調することができ、特に暗視状態においてより実体に近い画像を得ることが可能となる。
また、前記NIR画素内に半導体基板内部の信号電荷を吸収する電子シャッタ部を備えたことが、そして、前記電子シャッタ部を備えた前記NIR画素と同じ前記画素ユニットに含まれる前記カラー画素からの出力信号をシャッタ動作判定信号として、前記電子シャッタ部を動作させるか否かを判定することが、さらに、前記電子シャッタ部を備えた前記NIR画素と同じ前記画素ユニットに含まれる前記カラー画素からの出力信号のうち、光電変換特性の傾きが最も大きな出力信号を前記シャッタ動作判定信号として用いることが好ましい。
このようにすることで、飽和しやすいNIR画素で生じた信号電荷が、隣接する他の画素に流れ込むことで生じる出力信号の画質低下を効果的に抑制することができる。
また、本発明にかかるカメラは、請求項1〜13のいずれかに記載の固体撮像装置を受光部に備える構成としている。
このようにすることで、上記した本発明にかかる固体撮像装置の特徴を活かして、特に低照度時や暗視状態においても、高品位な画像を撮像するカメラを得ることができる。
そして、本発明にかかるカメラは、車載用途や監視用途に使用されることが好ましい。
また、撮像環境を把握する環境確認手段を具備することが好ましく、前記環境確認手段が照度計であること、前記環境確認手段が色温度計であることが好ましい。
以下、本発明の実施形態について図面を参照しながら説明する。
(第1の実施形態)
本発明の固体撮像装置の特徴は、受光領域を構成する一つの単位となる画素ユニットにおいて、通常の固体撮像装置に用いられている、R、G、B各色のような、可視領域に主たる透過波長領域を有するカラーフィルタが形成されたカラー画素とともに、近赤外領域に主たる透過波長域を有するNIRフィルタが形成されたNIR画素とを有していて、NIR画素からの出力信号を、カラー画素からの出力信号と同等に読み取って出力する点にある。
そこで、まず、本実施形態では、本発明にかかる固体撮像装置の基本構成の説明を行うとともに、本発明にかかる固体撮像装置を用いて、太陽光や、蛍光灯および白熱電球といった通常の照明環境下で主として可視領域の画像を撮像する場合について説明する。
図1は本実施形態にかかる固体撮像装置における、受光領域の各色画素の配置を示している。図1に示すように、本実施形態にかかる固体撮像装置の受光領域1は、行方向および列方向に配置された複数の画素から構成される画素ユニット2をその構成の1単位としている。そして、この一単位である画素ユニット2が、さらに行方向および列方向に複数設けられることで受光領域1が構成される。
この画素ユニット2には、可視領域に主たる透過波長領域を有するカラーフィルタが形成されたカラー画素と、近赤外領域に主たる透過波長領域を有するNIRフィルタが形成されたNIR画素とを含んでいる。
ここで、可視領域とは人間が見ることができる光の波長領域であり、約400nm〜約650nm程度の領域を指す。また、近赤外領域とは、可視領域よりも長波長側の約650nm〜約1000nm程度の領域を指す。また、主たる透過波長領域を有するとは、それぞれのフィルタの分光特性を考えたときに、当該波長領域の光について強い分光出力を有していることをいうこととする。なお、通常のカラーフィルタは、例えば400nm〜500nm程度の青色領域の光を主だって透過するフィルタを青色(B)フィルタと呼ぶなど、主たる透過波長領域の色で呼ばれている。
本実施形態に示す固体撮像装置の画素ユニット2は、図1において拡大した図を示すように、それぞれ異なる色のフィルタが形成された四つの画素が、2行2列に配置されて形成されている。具体的には、画素ユニット2の左上に赤色領域に主たる透過波長領域を有するR(赤色)フィルタを有するR画素3、左下に緑色領域に主たる透過波長領域を有するG(緑色)フィルタを有するG画素4、右下に青色領域に主たる透過波長領域を有するB(青色)フィルタを有するB画素5、そして、右上に近赤外領域に主たる透過波長領域を有するNIRフィルタが形成されたNIR画素6が配置されている。
次に、図2に、それぞれの画素に形成されている、カラーフィルタであるRフィルタ、Gフィルタ、Bフィルタと、NIRフィルタの透過波長特性を示す。図2中、7がBフィルタの透過波長特性、8がGフィルタの透過波長特性、9がRフィルタの透過波長特性である。なお、これら、図2に示した本実施形態にかかる固体撮像装置に形成されている、Bフィルタ、Gフィルタ、Rフィルタの透過波長特性7,8,9は、図22で示した従来の固体撮像装置におけるBフィルタの透過波長特性209、Gフィルタの透過波長特性210、Rフィルタの透過波長特性211とそれぞれ同じである。しかしながら、本発明にかかる固体撮像装置に形成されるBフィルタ、Gフィルタ、Rフィルタは、それぞれ図2に示す透過波長特性を有するものに限定されるわけではなく、図2はあくまでこれらのカラーフィルタの透過波長特性の一例を示したものに過ぎない。
本発明にかかる固体撮像装置の特徴であるNIRフィルタの透過波長特性を、図2では10として表す。このNIRフィルタの透過波長特性は、近赤外領域である650nmよりも長い波長領域で分光出力があるようになっている。なお、本実施形態で例示したNIRフィルタの透過波長特性10は、長波長側でフラットな分光出力を有するようになっているが、これに限られるものではなく、例えば図2に示したGフィルタの透過波長特性8のように、ほぼ正規分布を描くような形状の特性を有していても良い。NIRフィルタとしては、波長650nm以上の近赤外領域において、他のBフィルタ、Gフィルタ、Rフィルタがそれぞれ対応する色の波長領域で有している程度の強さの分光出力を有していれば、その透過波長特性の分布形状に制約はない。
図3は、本実施形態にかかる固体撮像装置における、R画素、G画素、B画素、NIR画素からの出力信号の光電変換特性を示す図である。なお、図3(b)は、図3(a)の点線で示したA部を拡大して表示したものである。
図3(a)(b)において、15がG画素からの出力信号の光電変換特性を、16がR画素からの出力信号の光電変換特性を、17がB画素からの出力信号の光電変換特性を、また、14がNIR画素からの出力信号の光電変換特性をそれぞれ示す。そして、11はG画素からの出力信号とNIR画素からの出力信号とを加算した出力信号の光電変換特性を、12はR画素からの出力信号とNIR画素からの出力信号とを加算した出力信号の光電変換特性を、13はB画素からの出力信号とNIR画素からの出力信号とを加算した出力信号の光電変換特性を、それぞれ示している。
また、図3(a)(b)において、光電変換特性を示すグラフの横軸は、それぞれの画素での露光量を示し、この露光量とは電荷蓄積時間と画素に入射される光の照度とを掛け合わせた値である。したがって、画素での電荷蓄積時間が一定なら照度が大きくなるほど露光量は大きくなり、また、照度が一定ならば、電荷蓄積時間が長くなるほど露光量が大きくなる。露光量が大きくなるということは、すなわち、光電変換されて発生する電荷の数が多くなるということを示している。
ここで、図3(a)におけるR画素、G画素、B画素、NIR画素それぞれ単独の場合の出力信号の光電変換特性14〜17が示すように、各画素からの出力信号は、いずれも露光量を大きくしていけばこれにほぼ比例して大きくなっていくが、所定の出力値を超えるとその傾きが極端に小さくなっている。この傾きが小さくなっている出力のレベルを、飽和レベル18と呼ぶこととする。
なお、この飽和レベル18の大きさは、固体撮像装置の受光領域が形成される半導体基板における光電変換特性に事実上左右されるものであるから、同じ半導体基板上に形成された画素であれば、それぞれの画素に形成されたフィルタの透過波長特性に関係なくほぼ一定の値を示す。また、固体撮像装置において、それぞれの画素で受光された光の強さを電気信号の大きさに変換して出力する際には、受光した光の強さと出力される電気信号の大きさとの間に一定の相関関係があることが必要となる。したがって、この飽和レベル18よりも出力レベルが低い領域において、光電変換を行う必要がある。
一方、露光量が小さく信号の出力が低い部分においては、それぞれの固体撮像装置に固有の回路系のノイズフロア19が存在する。このノイズフロア19は、回路系で発生するサーマルノイズ、kTCノイズ、1/fノイズなどに支配されるものであり基本的に不可避のものである。そして、このノイズフロア19よりも出力レベルの低い信号は、固体撮像装置から出力された段階でノイズに埋もれた状態となってしまうため、実効的に正しい画像情報と認識することができない。
以上述べたように、固体撮像装置において受光量を正しく電気信号に変換するためには、その信号出力レベルが、飽和レベル18より低くノイズフロア19より高いレベルであることが必要となる。なお、通常用いられる一般的な固体撮像装置とその周辺の信号処理回路では、この飽和レベル18とノイズフロア19との間のレベル差は、約60〜80dB程度である。
ここで、図3(a)(b)に示すように、本実施形態にかかる固体撮像装置における、R、G、Bそれぞれのカラー画素からの出力信号に、NIR画素からの出力信号を加算した出力信号の光電変換特性は、NIR画素からの出力信号を加算したものではない、それぞれのカラー画素からの出力信号そのままの光電変換特性よりも、その傾きが大きくなっている。このことは、NIR画素からの出力信号を加算することで、同じ露光量であっても固体撮像装置からの出力信号のレベルが大きくなっていること、言い換えると、低照度での撮像においてもノイズフロア19よりも高いレベルで、固体撮像装置からの信号出力が得られることを示している。例えば、図3(b)において、B画素からの出力信号の光電変換特性を比較してみると、B画素そのままの出力信号の光電変換特性17とノイズフロア19との交点pと比べて、B画素からの出力信号とNIR画素からの出力信号を加算した出力信号の光電変換特性13とノイズフロア19との交点p’は、図3(b)中に矢印20で示した分だけ左側、すなわち、より露光量が少ない方向に移動しており、ノイズフロア19を上回る出力レベルを得るための最低限必要な露光量が低下していることが分かる。
また、後述するように、本発明におけるNIR画素からの出力信号とカラー画素からの出力信号との加算は、ノイズを含まない信号電荷レベルで実施することができるため、NIR画素からの出力信号とカラー画素からの出力信号とをそれぞれ別々に取り出した後に加算する場合と比較して、純粋に出力信号成分のみを増加させることになる。このため、出力信号のレベルと回路系に起因するノイズフロア19のレベル差を拡大することができる点で優れた方法である。このように、カラー画素からの出力信号と、NIR画素からの出力信号を加算することによって、従来の固体撮像装置では100el/lx・s程度であった最低被写体露光量を、30el/lx・s程度とほぼ1/3以下にまで下げることができる。
次に、本実施形態にかかる固体撮像装置の具体的な構成について説明する。図4は、本実施形態にかかる固体撮像装置100の全体構成を示すブロック図である。
図4に示すように、本実施形態にかかる固体撮像装置100は、図1にも示したとおり、それぞれR、G、B、NIRの各色のフィルタが形成されたR画素、G画素、B画素、NIR画素を2行2列に配置した画素ユニットが、行方向および列方向に複数設けられた受光領域1を有している。受光領域1のそれぞれの画素には、図示しない固体撮像素子がそれぞれ形成されていて、各色フィルタを透過した光を撮像して電気信号に変換、出力する。なお、この光電変換を行う固体撮像素子の具体的構成は、周知のものと同じであるため説明を省略する。
これら受光領域1に形成された各色の画素には、行方向に配置された画素に共通する垂直走査線56が画素の各行に対応して設けられ、また、列方向に配置された画素に共通する信号出力線57がように画素の各列に対応して設けられている。そして、垂直走査線56から印加される垂直走査回路51からの信号に基づいて、一行分の画素が一括して選択され、選択された一行分の画素からの出力信号は、信号出力線57を介して加算回路としての機能を有する加算・ノイズ除去回路52に入力される。この加算・ノイズ除去回路52では、それぞれの画素からの出力信号を適宜加算したり、それぞれの画素からの出力信号からノイズ成分を除去したりする。なお、出力信号をどのようにして加算するのかについては、図5以下を用いて後に詳述する。
加算・ノイズ除去回路52にて適宜加算され、ノイズが除去された出力信号は、水平走査線58から印加される水平走査回路53からの信号に基づいて、列ごとに順次水平信号線54に読み出される。水平信号線54に読み出された一行分の出力信号は、出力アンプ55によって増幅されて信号処理回路59に入力される。このような各行ごとの信号出力動作が、垂直走査回路51によって垂直走査されることで全ての行に対して順次行われることで、一画面分の全ての画素からの出力信号が順次信号処理回路59に入力される。信号処理回路59に入力された全ての画素からの出力信号が合成されることで、一画面分の撮像信号が得られる。
次に、本実施形態にかかる固体撮像装置100における受光領域1と加算・ノイズ除去回路52の具体的な構成を説明する。図5は、図4において点線で囲んだ領域Bの部分を拡大したものであり、受光領域1における2行4列分の画素と、この画素の4つの列に対応する加算・ノイズ除去回路52の内部の回路構成を示す要部拡大図である。
図5にも示すように、本実施形態にかかる固体撮像装置100では、その受光領域1において、R画素3とNIR画素6とが行方向に順次配置されて一つの行を形成し、また、G画素4とB画素5とが行方向に順次配置されてもう一つの行を形成している。そして、この行方向に配置された画素に共通して、信号電荷を読み出すTR線と、信号電荷をリセットするRS線とが設けられている。これらのTR線とRS線とは、いずれも垂直走査回路51と接続されて垂直走査線56を構成する。また、列方向に配置された画素に共通して信号出力線57が設けられていて、信号出力線57は加算・ノイズ除去回路52に接続されている。
加算・ノイズ除去回路52は、受光領域1と加算・ノイズ除去回路との接続と切り離しをスイッチ制御するSH線、それぞれの信号出力線57に設けられた第1の容量C1、加算・ノイズ除去回路52の電位を一時的に固定するためのクランプを駆動するCL線、加算・ノイズ除去回路52の電位を固定するための電源VDDを有している。
また、この電源VDDとそれぞれの画素からの出力信号との差分量を保持するための容量を選択するスイッチを駆動する、CLC_R線、CLC_B線、CLC_G線、CLC_NIR1線、CLC_RG線、CLC_NIR2線が形成されている。
さらに、CLC_R線で選択され、VDDとR画素3からの出力信号との差分量を保持するための第2の容量C2,CLC_B線で選択され、VDDとB画素5からの出力信号との差分量を保持するための第3の容量C3,CLC_G線で選択され、VDDとG画素4からの出力信号との差分量を保持するための第4の容量C4,CLC_NIR1線で選択され、VDDとNIR画素6からの出力信号との差分量を保持するための第5の容量C5,CLC_RG線で選択され、R画素3からの出力信号とG画素4からの出力信号それぞれとNIR画素6からの出力信号とを加算するための第6の容量C6,CLC_NIR2線で選択され、VDDとNIR画素6からの出力信号との差分量を保持するための第7の容量C7とを有している。
さらに、第2の容量C2と第3の容量C3とを加算するためのMIX_RB線、第4の容量C4と第5の容量C5とを加算するためのMIX_GNIR1線、第6の容量C6と第7の容量C7とを加算するためのMIX_RGNIR線を有している。
また、ADDRESS1〜4は、水平走査回路から水平走査線58を介して入力される水平走査信号を示す。
次に、本実施の形態にかかる固体撮像素子100の動作について、動作タイミングチャートである図6〜図9を用いて説明する。
最初に図6を用いて、R画素3からの出力信号と、G画素4からの出力信号と、B画素5からの出力信号と、NIR画素6からの出力信号とを、それぞれ独立して読み出す場合の動作について説明する。図6は、それぞれの画素からの出力信号を独立して読み出す場合の動作を示す動作タイミングチャートである。
まず、水平ブランキング期間では、RS線にRS信号が入力される。これによってRS線に接続されている画素がリセットされ、信号のない状態となる。これと同時にSH線と、CL線に信号が入力されて、受光領域1と加算・ノイズ除去回路52とを接続し、加算・ノイズ除去回路52の電位を固定する。この結果、第1の容量C1は、それぞれの画素で信号のない状態の電位に保持される。なお、以下のR画素3からの出力信号、G画素4からの出力信号、B画素5からの出力信号、NIR画素6からの出力信号をそれぞれ独立して読み出す場合の説明においては、加算・ノイズ除去回路52に加算回路としての機能を発揮させるような動作は行われない。
まず、図6に示した第1の行、すなわちR画素3と、NIR画素6とが形成されている行の動作を説明する。この第1の行では、RS信号、SH信号、CL信号の入力タイミングと同時に、CLC_R信号、CLC_NIR1信号が入力されることで、それぞれの信号入力によって、第2の容量C2と第5の容量C5に電位を保持できる状態にする。第1の行の動作時には、CLC_B信号、CLC_G信号、CLC_RG信号、CLC_NIR2信号は全て信号が入力されていないLowの状態としておき、第3の容量C3、第4の容量C4、第6の容量C6、第7の容量C7は切り離された状態としておく。
その後、RS信号が立ち下げられて、同時にCL信号も立ち下げられる。その後に、TR信号が入力されることによって、R画素3とNIR画素6からの出力信号が読み出されて、加算・ノイズ除去回路52に伝達される。このとき、第1の容量C1には各画素での信号のない状態の電位が保持されているため、第2の容量C2、第5の容量C5には、それぞれR画素3とNIR画素6の出力信号から信号のない状態の電位の差分のデータ(電位)が充電・保持される。
上記の動作によって、それぞれの画素に固有のオフセット成分、すなわち、トランジスタの閾値のばらつき、受光セルが持っている暗電流成分のばらつきなどが除去されることになり、結果として出力信号におけるノイズを低減する効果が得られる。これが、加算・ノイズ除去回路52でノイズ除去を行う原理である。
この状態で、SH信号が立ち下げられることによって受光領域1と加算・ノイズ除去回路52とが切り離される。ここまでの操作が、水平ブランキング期間に行なわれる。
その後、有効期間において、水平走査回路53が動作することによってADDRESS信号がADDRESS信号1から順次選択されて入力されることによって、図6に「信号出力」として示したように各列からの出力信号が信号出力線を介して順次出力されていく。なお、CLC_R信号、CLC_NIR1信号は、有効期間内に前記水平走査回路53ですべての列に属する画素からの出力信号を順次選択し終わってから立ち下げられる。この動作によって、第1の行に属するR画素3からの出力信号と、NIR画素6からの出力信号とが、水平信号線に出力されることになる。
次に、第2の行であるG画素4およびB画素5が接続された行の読み出し動作を説明する。この第2の行に接続された画素の読み出しでは、CLC_G信号とCLC_B信号とが立ち上げられ、第3の容量C3と第4の容量C4が電位を保持できる状態にされる。このときは、CLC_R信号とCLC_NIR1信号とは信号が印加されていないLowの状態とされて、第2の容量C2と第5の容量C5とが切り離される。その他の動作は、上記した第1の行を読み出す動作と同様である。
このようにして、第2の行の信号を読み出す動作では、G画素4からの出力信号、B画素5からの出力信号が出力される。そして、上記第1の行の画素の信号を読み出す動作と、第2の行の画素の信号を読み出す動作を交互に繰り返すことで、R画素3、G画素4,B画素5,NIR画素6それぞれの画素からの出力信号を独立に読み出すことができる。
本発明においては、上記したように近赤外領域に主たる波長透過領域を有するNIRフィルタが形成されたNIR画素からの出力信号と、可視領域に主たる波長透過領域を有するカラーフィルタである、赤色領域に主たる波長透過領域を有するRフィルタ、緑色領域に主たる波長透過領域を有するGフィルタ、青色領域に主たる波長透過領域を有するBフィルタがそれぞれ形成されたR画素、G画素、B画素からの出力信号とが、水平走査回路からの水平走査信号に基づく一連の水平走査によって、それぞれの画素が接続されている信号出力線から読み出される。このようにすることで、NIR画素からの出力信号をR画素、G画素、B画素からの出力信号と同等に取り扱うことができるので、上記したようにNIR領域の画像信号として単独で取り扱うこともできるし、また、後述するようにNIR画素からの出力信号を、R画素、G画素、B画素といったカラー画素からの出力信号と適宜加算して出力することもできるのである。
それでは次に、NIR画素からの出力信号をカラー画素からの出力信号に加算する場合として、本実施形態にかかる図1に示した受光領域1の画素配置パターンを有する固体撮像装置において、R画素3からの出力信号、G画素4からの出力信号、B画素5からの出力信号それぞれに対して、NIR画素6からの出力信号を加算して出力する際の動作を、図7と図8とを用いて説明する。
まず、図7は、R画素3とNIR画素6とが属する第1の行における信号出力の動作を示す動作タイミングチャートである。
図7に示すように、水平ブランキング期間において、RS線にRS信号が入力される。これによってR画素3とNIR画素6とがリセットされて、信号のない状態となる。このRS信号の入力と同時に、SH信号とCL信号が入力され、受光領域1と、加算回路としての機能を有する加算・ノイズ除去回路52とが接続されて、加算・ノイズ除去回路52の電位が固定される。このとき、第1の容量C1は、各画素で信号のない状態の電位に保持される。
さらに、RS信号の入力と同時に、CLC_R信号、CLC_NIR1信号、CLC_NIR2信号が立ち上げられて、それぞれ第2の容量C2、第5の容量C5、第7の容量C7に電位を保持できる状態にされる。このとき、CLC_B信号、CLC_G信号、CLC_RG信号は信号が入力されていないLowの状態とされて、第3の容量C3、第4の容量C4、第6の容量C6は切り離された状態となる。
その後、RS信号が立ち下げられ、同時にCL信号が立ち下げられる。次に、TR信号が立ち上げられることによって、R画素3とNIR画素6からの出力信号が読み出されて、加算・ノイズ除去回路52に伝達される。このとき、第1の容量C1には、信号のない状態の電位が保持されているため、第2の容量C2、第5の容量C5、第7の容量C7には、それぞれの画素の出力信号から信号のない状態の電位の差分データ、すなわちそれぞれの画素に固有のオフセット成分が除去された状態での電荷が充電・保持されることとなり、ノイズ低減効果が得られる。
次に、SH信号が立ち下げられ、受光領域1と加算・ノイズ除去回路52とが切り離される同時に、CLC_R信号、CLC_NIR1信号、CLC_NIR2信号が立ち下げられる。
この状態で、第2の容量C2にはR画素からの出力信号が、第5の容量C5には、NIR画素からの出力信号がそれぞれ保持されていて、第7の容量C7にも、NIR画素からの出力信号が保持されている。このように、第5の容量C5と、第7の容量C7でともにNIR画素からの出力信号を保持することで、NIR画素6が含まれていない、G画素4とB画素5とが形成する行から出力信号を読み出す際に、NIR画素6の出力信号を加算することができるようになる。
次に、MIX_GNIR1信号が立ち上げられる。これにより、切り離された状態にあった第4の容量C4に、第5の容量C5に保持されていたNIR画素6からの出力信号が伝達される。
そして、MIX_GNIR1信号が立ち下げられる。このとき、第2の容量C2にはR画素からの出力信号が、第4の容量C4、第5の容量C5、第7の容量C7には、いずれもNIR画素からの出力信号が保持されている。
次にCLC_R信号、CLC_G信号、CLC_NIR1信号が立ち上げられる。これによって、第2の容量C2と第4の容量C4、および、第5の容量C5が信号出力線に接続された状態となる。
その後、有効期間の動作に移行する。有効期間では、水平走査回路53が動作して、ADDRESSタイミングがADDRESS1から順次選択されることによって、図7に「信号出力」として示したように、画素の各列に対応する信号出力線から、R+NIRの出力信号と、NIRの出力信号とが交互に得られる。なお、CLC_R信号、CLC_G信号、CLC_NIR1信号は有効期間内に前記水平走査回路53ですべての列に属する画素からの出力信号を選択して出力し終わってから一旦立ち下げられる。
このようにして、R画素と、NIR画素が属する第1の行を読み出す動作では、R画素からの出力信号とNIR画素からの出力信号とを加算した出力信号と、NIR画素からの出力信号とが交互に出力される。
次に、図8は、G画素4とB画素5とが属する第2の行における信号出力の動作を示す動作タイミングチャートである。
図8に示すように、水平ブランキング期間では、RS線にRS信号が入力される。これによって、それぞれの画素がリセットされて信号のない状態となる。同時にSH信号とCL信号とが入力されて、受光領域1と加算・ノイズ除去回路52とが接続され、加算・ノイズ除去回路52の電位が固定される。このとき、第1の容量C1の電位は、信号のない状態で保持される。
そして、RS信号の立ち上げと同時にCLC_B信号、CLC_G信号とが立ち上げられ、それぞれ第3の容量C3、第4の容量C4に電位を保持できる状態にする。この時、CLC_R信号、CLC_NIR1信号、CLC_RG信号、CLC_NIR2信号はいずれも信号が入力されていないLowの状態とされ、第2の容量C2、第5の容量C5、第6の容量C6、第7の容量C7は切り離された状態となる。
その後、RS信号が立ち下げられ、同時にCL信号も立ち下げられる。その後、TR信号が立ち上げられることによって、それぞれの画素の信号が読み出されて、加算・ノイズ除去回路52に伝達される。このとき、第1の容量C1には画素に信号のない状態の電位が保持されているため、第3の容量C3、第4の容量C4には、それぞれの画素からの出力信号と信号のない状態の電位の差分に相当するノイズが除去された状態での出力信号が充電・保持される。
次に、SH信号が立ち下げられ、受光領域1と加算・ノイズ除去回路52とが切り離されると同時に、CLC_B信号、CLC_G信号が立ち下げられる。この状態で、第3の容量C3にB画素からの出力信号が、第4の容量C4にG画素からの出力信号が、さらに第7の容量C7にはNIR画素からの出力信号がそれぞれ保持されている。なお、第7の容量C7に保持されているNIR画素からの出力信号は、先に説明した第1の行を動作させた際に保持した信号である。
次に、MIX_RGNIR2信号が立ち上げられる。これにより、現在切り離された状態にある第6の容量C6に、第7の容量C7に保持されていたNIR画素からの出力信号が伝達される。
次に、MIX_RGNIR2信号が立ち下げられる。この状態で、第3の容量C3にB画素からの出力信号が、第4の容量C4にG画素からの出力信号が、第6の容量C6にNIR画素からの出力信号が、第7の容量C7にもNIR画素からの出力信号がそれぞれ保持されている。
次にCLC_B信号、CLC_G信号、CLC_RG信号、CLC_NIR2信号が立ち上げられる。これによって、第3の容量C3、第4の容量C4、第6の容量C6、第7の容量C7が信号出力線に接続された状態となる。
その後、有効期間の動作に移行する。有効期間では、水平走査回路53が動作して、ADDRESSをADDRESS1から順次選択走査されていくことで、G画素からの出力信号とNIR画素からの出力信号とを加算した出力信号と、B画素からの出力信号とNIR画素からの出力信号とを加算した出力信号とが、図8に「信号出力」として表すように交互に出力される。なお、CLC_B信号、CLC_G信号、CLC_RG信号、CLCNIR1信号は有効期間内に水平走査回路53ですべての列に属する画素からの出力信号を順次読み出し終わってから一旦立ち下げられる。
このようにして、R画素と、NIR画素が属する第1の行を読み出す動作では、R画素からの出力信号とNIR画素からの出力信号とを加算した出力信号(R+NIR)と、NIR画素からの出力信号(NIR)とを、また、G画素と、B画素が属する第2の行を読み出す動作では、G画素からの出力信号とNIR画素からの出力信号とを加算した出力信号(G+NIR)と、B画素からの出力信号とNIR画素からの出力信号とを加算した出力信号(B+NIR)とを読み込むことができ、これらの動作を各行について交互に繰り返されることによって、カラー画素であるR画素セル3、G画素4,B画素5からの出力信号それぞれとNIR画素からの出力信号とが加算・ノイズ除去回路52で加算されることとなる。
次に、本実施形態にかかる固体撮像装置において、画素ユニット2に含まれる全てのカラー画素からの出力信号、すなわち、R画素3からの出力信号、G画素4からの出力信号、B画素5からの出力信号と,NIR画素6からの出力信号とを全て加算して出力する場合の動作について、図9を用いて説明する。図9は、画素ユニットに含まれる全てのカラー画素からの出力信号と、NIR画素からの出力信号を加算する場合の動作を示す、動作タイミングチャートである。
図9に示すように、まず水平ブランキング期間で、R画素とNIR画素とが接続されている第1の行について、出力信号の読み出し動作が行われる。第1の行に接続されたRS線にRS信号が入力され、これによってR画素とNIR画素との電荷がリセットされて、信号のない状態となる。同時にSH信号、CL信号が入力されて、受光領域1と加算・ノイズ除去回路52とが接続され、加算・ノイズ除去回路52の電位が固定される。このとき、第1の容量C1には、それぞれの受光セルにおける信号のない状態の電位が保持される。
RS信号が入力されると同時に、CLC_R信号、CLC_NIR1信号が立ち上げられて、それぞれ第2の容量C2、第5の容量C5が電位を保持できる状態にされる。このとき、CLC_B信号、CLC_G信号、CLC_RG信号、CLC_NIR2信号はいずれも信号が入力されていないLowの状態とされているので、第3の容量C3、第4の容量C4、第6の容量C6、第7の容量C7は切り離された状態となっている。
その後、RS信号が立ち下げられ、同時にCL信号が立ち下げられる。その後、TR信号が立ち上げられることによって、R画素とNIR画素からの出力信号が読み出され、加算・ノイズ除去回路52に伝達される。このとき、第1の容量C1には、各画素での信号のない状態の電位が保持されているため、第2の容量C2、第5の容量C5には、それぞれの画素での信号から信号のない状態の電位の差であるノイズが除去された状態でのデータが充電・保持される。
次に、SH信号が立ち下げられ、受光領域1と加算・ノイズ除去回路52とが切り離されると同時に、CLC_R信号、CLC_NIR1信号、CLC_NIR2信号が立ち下げられる。この状態で、第2の容量C2にR画素の信号が、第5の容量C5にNIR画素の信号が保持されている。
次に、垂直走査回路動作パルスが入力されて、垂直走査回路が動作されることで、一行次の行へ選択行が移動される。以下、次の行であるG画素とB画素とが形成された第2の行からの出力信号を読み出す動作が行われる。
第2の行が選択されている状態で、RS線に再度RS信号が入力される。これによってそれぞれの画素がリセットされ、信号のない状態となる。同時に再度SH信号、CL信号が入力され、受光領域1と加算・ノイズ除去回路52とを接続して、加算・ノイズ除去回路52の電位が固定される。このとき、第1の容量C1には、それぞれの画素における信号のない状態の電位が保持されている。
同時にCLC_B信号、CLC_G信号が立ち上げられて、それぞれ第3の容量C3、および、第4の容量C4が電位を保持できる状態にされる。このとき、CLC_R信号、CLC_NIR1信号、CLC_RG信号、CLC_NIR2信号はいずれも信号入力がされていないLow状態とされて、それぞれ第2の容量C2、第5の容量C5、第6の容量C6、第7の容量C7は切り離された状態となる。
その後、RS信号が立ち下げられ、同時にCL信号が立ち下げられる。その後、TR信号が立ち上げられることによって、各画素の信号が読み出されて、加算・ノイズ除去回路52に伝達される。このとき、第1の容量C1には、画素での信号のない状態の電位が保持されているため第3の容量C3、および、第4の容量C4には、それぞれの画素の信号から信号のない状態の電位の差分データが充電・保持されている。
次に、SH信号を立ち下げ、受光領域1と加算・ノイズ除去回路52とを切り離すと同時に、CLC_B信号、CLC_G信号を立ち下げる。この状態で、第3の容量C3にはB画素からの出力信号が、第4の容量C4にはG画素からの出力信号が保持される。
次に、MIX_RB信号、および、MIX_GNIR1信号が立ち上げられる。これにより、まず、第2の容量C2に保持されていたR画素からの出力信号と、第3の容量C3に保持されていたB画素からの出力信号とが加算される。また、第4の容量C4に保持されていたG画素からの出力信号と、第5の容量C5に保持されていたNIR画素からの出力信号とが加算される。
次に、MIX_RB信号、MIX_GNIR1信号が立ち下げられる。この状態で、第2の容量C2と第3の容量C3には、ともに、R画素からの出力信号とB画素からの出力信号とが加算された出力信号が保持されている。また、第4の容量C4と第5の容量C5には、ともに、G画素からの出力信号とNIR画素からの出力信号とが加算された出力信号が保持された状態になっている。
次に、CLC_R信号、CLC_B信号、CLC_G信号、CLC_NIR1信号が立ち上げられる。これによって、第2の容量C2、第3の容量C3、第4の容量C4、第5の容量C5が信号出力線に接続された状態となる。
その後、有効期間の動作に移行する。有効期間では、水平走査回路53が動作することで、ADDRESSをADDRESSS1から順次選択していくことによって、それぞれの信号出力線から出力信号が順次読み出される。具体的には、ADDRESS1信号が入力されたときには、ADDRESS信号1が入力された列に対応する信号出力線における第2の容量C2と第4の容量C4とを接続して読み出すことになり、R画素からの出力信号とB画素からの出力信号とが加算された出力信号に、さらに、G画素からの出力信号とNIR画素からの出力信号とが加算された出力信号が読み出されることになる。
同様に、ADDRESS2信号が入力された場合には、ADDRESS信号2が入力された列に対応する信号出力線から第3の容量C3と、第5の容量C5とを接続して読み出すことになり、同じように、R画素からの出力信号とB画素からの出力信号とが加算された出力信号に、さらに、G画素からの出力信号とNIR画素からの出力信号とが加算された出力信号とが加算して読み出されることになる。なお、CRC_R信号、CLC_B信号、CLC_G信号、CLC_NIR1信号は、有効期間内に水平走査回路53ですべての列の信号を選択・出力し終わったときに、一旦立ち下げられる。
このようにして、各信号出力線から、その信号出力線が接続されている画素が含まれる画素ユニット内に含まれる全てのカラー画素とNIR画素からの出力信号が加算されて出力されることになる。なお、本実施形態にかかる固体撮像装置では、画素ユニットが2行2列の配置となっているため、一つの画素ユニットに対して2本の信号出力線が接続されることとなる。このため、出力される出力信号は、隣り合う2本ずつの信号出力線から得られる出力信号が、同じ画素ユニットに属する4つの画素からの出力信号を全て加算した同じ出力信号となっている。
なお、本実施形態において説明した、図5における加算・ノイズ除去回路52の構成はあくまで一例にすぎず、本発明の固体撮像装置の回路構成がこれに限られるものではない。また、本実施形態として、R画素3からの出力信号、G画素4からの出力信号、B画素5からの出力信号、NIR画素6からの出力信号をそれぞれ単独で読み出す場合、さらに、R画素3からの出力信号、G画素4からの出力信号、B画素5からの出力信号それぞれに、NIR画素6からの出力信号を加算して読み出す場合、さらに、R画素3からの出力信号、G画素4からの出力信号、B画素5からの出力信号、NIR画素6からの出力信号を全て加算して読み出す場合の、3つの信号処理についての回路動作を説明したが、本発明はこの3つの回路動作に限られるものではなく、出力する信号の加算の組み合わせにおいて他の種々の回路動作を行うことができる。
また、本実施形態においては、それぞれの画素からの出力信号を加算するために、それぞれの画素に形成された受光素子が検出した信号電荷を、加算・ノイズ除去回路52内に配置された容量C1〜C7を用いてそれぞれ保持するという例を挙げて説明したが、加算回路において読み出された出力信号を一旦保持するための回路素子として、本発明はこのような容量を用いる方法に限られず、その他のメモリ、CCD型の遅延素子などの、いろいろな出力信号保持手段を用いることが考えられる。
以上のとおり、本発明の特徴である、R、G、B各色の画素からの出力信号と、NIR画素からの出力信号を一連の水平走査によって同様に読み込み、さらに読み込んだ出力信号を適宜加算するという概念を逸脱しない限り、具体的な回路構成や信号処理手段について特に制限を設けるものではない。
また、本実施形態においては、電圧変化型のいわゆるアナログ出力についての例を示したが、2値化出力であるいわゆるデジタル出力の場合にも良好に適用できることは言うまでもない。
そして、以上説明してきた本実施形態にかかる固体撮像装置においては、特に、カラー画素からの出力信号とNIR画素からの出力信号の加算が、加算・ノイズ除去回路の内部において信号電荷のレベルで実施されるために、ノイズレベルを増加させることなく、信号の振幅のみを増加させることができる。また、ノイズを増加させることがないので、回路系のノイズフロアに影響を与えないという特徴を有する。この結果、最低被写体露光量を従来の固体撮像装置と比較して、約1/3程度にまで下げることができ、光量が少ない状況下でも、良好な撮像画像を得ることができる。
なお、本実施形態において、NIR画素と、R、G、B各色のカラー画素における光電変換特性として図3を示し、それぞれの光電変換特性の傾きが、NIR画素の光電変換特性14、G画素の光電変換特性15、R画素の光電変換特性16、B画素の光電変換特性17の順に小さくなるものとして説明した。しかしながら、本発明の固体撮像装置における各画素における光電変換特性は、被写体やその他の状況によって変化するものであり、この例に限られるものではない。一般に、NIR画素での光電変換特性が最も傾きが大きくなる傾向があるので、例えば、NIR画素>R画素>G画素>B画素の順に光電変換特性の傾きが小さくなる場合、さらには、これ以外の場合も各種考えられる。
(第2の実施形態)
次に本発明にかかる固体撮像装置の第2の実施の形態として、NIR画素からの出力信号を、R画素からの出力信号、G画素からの出力信号、B画素からの出力信号それぞれと加算するかしないかの判断手法について説明する。
図10は、本発明の第2の実施形態にかかる固体撮像装置の概略構成を示すブロック図である。図10に示す固体撮像装置110は、図4に示した第1の実施形態にかかる固体撮像装置100と基本的な構成は同じであり、R、G、B、NIR各色のフィルタが形成された各色画素を有する受光領域1と、この受光領域1と垂直走査線56で接続された垂直走査回路51,信号出力線57が接続された各画素からの出力信号を適宜加算して出力する加算・ノイズ除去回路52,受光領域1の画素の列に対応して設けられた水平走査線58を介して、画素の各列からの出力信号を水平信号線54に読み出すための制御を行う水平走査回路53と、水平信号線54に読み出された出力信号を増幅する出力アンプ55と更に出力信号の信号処理を行う信号処理回路59とを有している。
図10に示す本実施形態にかかる固体撮像素子が、図4に示した第1の実施形態のものと異なる点は、加算判定回路である比較・加算制御回路60とタイミングジェネレータ61とを有している点である。
比較・加算制御回路60は、加算・ノイズ除去回路52から得られるR、G、B各色のカラー画素からの出力信号が出力モニタ62として入力され、入力されたカラー画素からの出力信号を所定の規定値と比較して、カラー画素からの出力信号とNIR画素からの出力信号とを加算するか否かを判断する。また、カラー画素からの出力信号とNIR画素からの出力信号とを加算する場合には、その制御を行うための信号を出力する。
タイミングジェネレータ61は、比較・加算制御回路60からの出力信号に基づいて、加算・ノイズ除去回路に対して適切なタイミングで出力信号の加算を行うための、加算タイミング信号63を出力する。加算・ノイズ除去回路52では、この加算タイミング信号63に基づいて、上記第1の実施形態で説明したような各種の動作を行って、受光領域1における各色カラー画素からの出力信号とNIR画素からの出力信号とを適宜加算して出力できるようにする。
次に、NIR画素からの出力信号を、R画素からの出力信号、G画素からの出力信号、B画素からの出力信号と加算するかしないかの判断の手法について説明する。最初に、図11および図12を用いて、NIR画素からの出力信号を加算するか否かの判断を行う際に、どのカラー画素からの出力信号を基準とするかについて説明する。
図11および図12は、本実施形態にかかる固体撮像装置において、R、G、B、の各色カラー画素およびNIR画素における、露光量と信号出力のレベルとの関係である光電変換特性を示す。なお、図11と図12におけるそれぞれの画素における光電変換特性の表し方等は、第1の実施形態で示した図3と同じであるため詳細な説明は省略する。
図11は、撮像環境が色温度で3200K程度の時の、各色カラー画素とNIR画素との光電変換特性を示している。なお、このように、撮像環境の色温度が3200K程度となる場合としては、白熱電球などの照明下における撮像が考えられる。
図11に示すように、色温度が3200K程度である場合には、R画素からの出力信号の光電変換特性16、G画素からの出力信号の光電変換特性15、B画素からの出力信号の光電変換特性17と、NIR画素からの出力信号の光電変換特性14における、出力が飽和レベル18に達するまでの光電変換特性の傾きの大小関係は、NIR>G>R>Bの順となっている。そして、この場合には、カラー画素の中で、その出力信号の光電変換特性の傾きが最も大きなG画素からの出力信号を加算判定信号として、その出力レベルが加算判定レベル21よりも大きいか否かで、NIR画素からの出力信号を加算する否かを判定する。具体的には、図11中にgとして示す、G画素からの出力信号の光電変換特性15と判定レベル21との交点よりも、G画素からの出力信号の出力信号が大きいときにはNIR画素との加算は行われず、g点よりもG画素からの出力信号の出力信号が小さい場合には、NIR画素からの出力信号との加算が行われる。別の言い方をすれば、交点gの位置を境界線22として、境界線22よりも露光量が小さい領域ではNIR画素からの出力信号が加算され、境界線22よりも露光量が大きい領域ではNIR画素からの出力信号の加算が行われない。
なお、図3と同様に、G画素からの出力信号にNIR画素からの出力信号を加算した状態の光電変換特性を11,R画素からの出力信号にNIR画素からの出力信号を加算した状態の光電変換特性を12,B画素からの出力信号にNIR画素からの出力信号を加算した状態の光電変換特性を13とする。
次に、図12は、撮像環境が色温度で1000K程度の時の、各色カラー画素とNIR画素との光電変換特性を示している。なお、このように、撮像環境の色温度が1000K程度となる場合としては、夕暮れ時の撮像環境が考えられる。
図12に示すように、色温度が1000K程度である場合には、カラー画素からの出力信号における光電変換特性の傾きが最も大きいものは、R画素からの出力信号の光電変換特性16である。なお、各画素からの出力信号の光電変換特性の傾きの大小関係は、NIR>R>G>Bの順となっている。そして、この場合では、カラー画素の中で、その出力信号の光電変換特性の傾きが最も大きなR画素からの出力信号を加算判定信号として、その出力レベルが加算判定レベル21よりも大きいか否かで、NIR画素からの出力信号を加算する否かを判定する。具体的には、図12中にrとして示す、R画素からの出力信号の光電変換特性15と判定レベル21との交点よりも、R画素からの出力信号の出力信号が大きいときにはNIR画素との加算は行われず、r点よりもR画素からの出力信号の出力信号が小さい場合には、NIR画素からの出力信号との加算が行われる。
なお、図3および図11と同様に、G画素からの出力信号にNIR画素からの出力信号を加算した状態の光電変換特性を11,R画素からの出力信号にNIR画素からの出力信号を加算した状態の光電変換特性を12,B画素からの出力信号にNIR画素からの出力信号を加算した状態の光電変換特性を13としている。
図11および図12に示したように、撮像対象の色温度によって、R、G、Bの各色カラー画素からの出力信号の露光量と出力との光電変換特性の傾きの大小関係が変化するのであるが、本発明では、それぞれの撮像環境において、その信号出力の露光量と出力との関係を示す光電変換特性の傾きが、最も大きい色の画素からの出力信号を加算判定信号として用い、これが所定の判定レベルよりも大きいか小さいかに応じて、NIR画素からの出力を加算するか否かの判断を行うようにする。
このように、可視光領域に主たる透過波長領域を有するカラーフィルタが形成されたカラー画素からの信号出力における、露光量と出力との光電変換特性の傾きが最も大きい画素からの出力信号を加算判定信号として、NIR画素からの出力信号との加算を判断することで、信号レベルが小さい場合でも所望の撮像画像を得ることができ、また、飽和領域に達することなく好適な撮像信号を得ることができる。この理由は以下の通りである。
まず、可視光領域の光を信号として出力するカラー画素からの出力信号の中で、その光電変換特性の傾きが最も大きい色の画素からの信号出力が所定の規定値を下回るということは、他の色の画素からの出力信号はより小さい出力レベルであると考えられる。例えばG画素からの出力信号を加算判定信号としている場合には、R画素およびB画素からの信号出力は、G画素からの出力信号よりも基本的には出力レベルが小さいから、この状態ではカラー画素からの出力信号はいずれも所定のレベルに達していないこととなる。このような規定のレベル以下の信号出力では、画像として十分な解像度を得られないということであり、極端な場合には、何が写っているかわからない状態となることもあるため、そのまま各色カラー画素からの出力信号を用いることは好ましくない。したがって、このような場合に、NIR画素からの出力信号を加算することで出力信号のレベルを向上させることが好ましい。
また仮に、露光量と出力との光電変換特性の傾きがより小さい色の画素からの出力信号を加算判定信号とすると、基準とした色よりも光電変換特性の傾きの大きな他の色では、NIR画素からの出力信号を加算することで飽和レベルを上回ってしまう可能性がある。このような場合には、撮像画像が、いわゆる「白飛び」と呼ばれる状態となってしまうため、やはり好適な撮像信号が得られないことになってしまう。このため、光電変換特性の傾きが最も大きい色の画素からの出力信号を加算判定信号とすることが最も好ましいと言えるのである。
なお、上記本実施形態では、図11と図12とを用いて撮像環境の色温度によって、G画素からの出力信号、または、R画素からの出力信号の光電変換特性の傾きが最も大きくなることを示し、それぞれの出力信号を加算判定信号とする例を示したが、この他にももちろんB画素からの出力信号における光電変換特性の傾きが最も大きくなる場合も想定され、その場合にはB画素からの出力信号を加算判定信号として用いることとなる。このように、B画素からの出力信号における光電変換特性の傾きが最も大きくなる場合としては、快晴の屋外の場合など、色温度が5000K程度の場合が考えられる。
以上、ここまで、どの色の画素からの出力信号を基準として、NIR画素からの出力を加算するか否かを判断するかについて説明してきたが、次に、NIR画素からの出力信号を加算するか否かの判定レベルの大きさについて図13を用いて説明する。
図13は、NIR画素からの出力信号を加算するかしないかのレベル判断を行うための、信号出力の大きさの関係を示す図である。図13では、NIR画素と、R、G、B各色のカラー画素からの出力信号の光電変換特性の傾きが、NIR>R>G>Bの関係である場合を示している。NIR画素の出力信号の光電変換特性を14、G画素の出力信号の光電変換特性を15、R画素の出力信号の光電変換特性を16,B画素の出力信号の光電変換特性を17としている点、18が飽和レベルを、また、21がNIR画素の出力信号を加算するか否かの判定レベルを示している点は、図11および図12と同じである。
上記の通り、図13に示す状態では、最も光電変換特性の傾きの大きいのはR画素からの出力信号であるので、以下の説明では、R画素からの出力信号を加算判定信号として、NIR画素からの出力信号を加算するか否かの判断を行う場合を例示する。
いま、加算判定信号としたR画素からの出力信号の光電変換特性において、飽和レベルの出力値をSa、出力値のレベルがこの飽和レベルの出力値Saよりも小さく、また、ノイズフロアよりは大きな出力が得られるレベルである、露光量がxの時の出力値をSo(x)とする。また、NIR画素からの出力信号の光電変換特性において、露光量がxの時のNIR画素からの出力信号の出力値をSoNIR(x)とする。
このとき、「SoNIR(x)+So(x)」と、「Sa」との大小関係によって、NIR画素からの出力信号を加算するか否かを判断する。具体的には、
SoNIR(x)+So(x) ≦ Sa であれば加算をし、
SoNIR(x)+So(x) > Sa であれば加算を行わない。
このようにして定めたSo(x)の値を、加算判定の判定レベル21とするのである。
このように判定レベルを定めることで、図13の左側に出力信号レベルの大きさを図示したとおり、出力信号における光電変換特性の傾きが最も大きいために加算判定信号とされた、R画素からの出力信号とNIR画素からの出力信号を加算した場合に、その合計の出力信号レベル「SoNIR(x)+So(x)」が、R画素の飽和レベル「Sa」を上回ることがない。最も信号出力レベルが大きいR画素の出力信号レベルがその飽和レベルを超えないため、他のG画素およびB画素からの出力信号レベルも飽和レベルに達することが無くなる。この結果、NIR画素からの出力信号を加算した場合でも、各色カラー画素からの出力信号が飽和レベルに達することを防止できるので、いわゆる「白飛び」などが生じて撮像画質の品位が低下することを効果的に防止することができる。
なお、上記の本実施形態では、NIR画素からの出力を加算するか否かの判断基準について、R画素からの出力信号を加算判定信号とする場合を示したが、本発明はこれに限られるものではなく、G画素からの出力信号やB画素からの出力信号をそれぞれ加算判定信号とすることができる。そして、その場合にもR画素からの出力信号を加算判定信号とした場合と同様に、
SoNIR(x)+So(x) ≦ Sa であれば加算をし、
SoNIR(x)+So(x) > Sa であれば加算を行わない、
とすることで、上記したいわゆる「白飛び」を防止することができるという効果を奏することができる。
また、本実施形態の説明では、比較・加算制御回路60とタイミングジェネレータ61とを固体撮像装置内に配置する例を示してきたが、これに限られるものではなく、固体撮像装置外に配置して外部からNIR画素信号からの出力信号の加算を制御してもよいことはいうまでもない。
(第3の実施形態)
次に、本発明の固体撮像装置の第3の実施形態として、低照度時や暗時の画像をより実態に近い鮮やかな色で表示する場合について説明する。
本実施形態では、NIRに対する被写体の反射率の差や、被写体自身が発するNIRの量を判定することで、実態に近い色をつけて出力する固体撮像装置について説明する。図14は、NIRに対する反射率の差について説明するための撮像画像を示す図であり、図14(a)がR、G、Bの通常のカラーフィルタを有するカラー画素によって得られた撮像画像を示し、図14(b)は、NIR画素によって得られた撮像画像を示している。図14(a)および図14(b)を比較すると、NIR画素からの出力信号よって得られた画像では、植物の部分が白くなっていることが分かる。これは、植物が他の物体と比較してNIRの反射率が高く、また、NIRの自己発光量も大きいので、NIR画素からの出力信号のレベルが大きいことを示している。
このような場合、特に植物の緑を映すということがわかっている場合であれば、NIR画素からの出力信号の強さに応じて、G画素からの出力信号の増幅率、すなわち信号処理回路におけるゲインを高くする。こうすることで、得られる画像は、植物の緑を強調した画像となり、より実態に近い画像を鮮明に得ることが可能となる。
また、別の例として、血液もNIR反射率が高いことが知られている。したがって、この場合には、NIR画素からの出力信号の強さに応じて、R画素からの出力信号のゲインを高くする。そうすることで、得られる画像は、血液および血管の赤を強調した画像となり、より実態に近い画像を鮮明に得ることが可能となる。このほかにも、例えば海中観測の場合などでは、NIR画素からの出力信号に応じて、B画素からの出力信号に対するゲインを高くすることも考えられる。
次に、本実施形態にかかる固体撮像装置の構成について図15を用いて説明する。
図15は、本発明の第3の実施形態にかかる固体撮像装置120の回路構成を示すブロック図である。なお、図15において、R、G、B各色カラー画素とNIR画素が形成された受光領域1,および、垂直走査回路51や水平走査回路52、加算・ノイズ除去回路52などは、上記第1および第2の実施形態に示したものと同じであるため、説明を省略する。
図15に示す、本実施形態にかかる固体撮像素子120の特徴は、比較・加算制御回路64に、加算・ノイズ除去回路52からのNIR出力信号がNIR出力モニタ66として入力される点と、このNIR出力信号を所定の規定値と比較して、R、G、Bのカラー画素からの出力信号に対するゲイン調整を行うために、加算・ノイズ除去回路に対して適切なタイミングで出力信号の加算を行うための加算タイミング信号67を出力するとともに、出力アンプ55に対してゲイン制御信号68を出力する、ゲイン調整回路としてのタイミングジェネレータ65を有している点である。
このようなゲイン調整回路としてのタイミングジェネレータ65を有することで、NIR画素からの出力信号のレベルに応じて、タイミングジェネレータ65からゲイン制御信号68を出力アンプ55に入力することで、カラー画素であるR、G、B各色画素からのそれぞれの出力信号に対する信号増幅率、すなわち出力アンプにおけるゲインを変化させることにある。このようにして、暗視カメラとしての用途やNIRを用いた特殊な用途に用いられた際のNIR画素での撮像信号に基づいて、より鮮明な撮像画像情報を出力することができる。
なお、本実施形態で説明したのは、信号出力の最終段階での出力アンプにおいて、それぞれのカラー画素からの出力信号に対するゲインを変化させるという方法であるが、本発明において出力信号の増幅率を変える方法は、これに限られるものではない。例えば、ゲイン調整回路からの信号に基づいて、加算・ノイズ除去回路52内で画素の列ごとに出力信号のゲインを変化させることも可能である。また、ゲイン変化のタイミングとしても、一つの画像フレームごとに出力信号の増幅を行っても、また、受光領域における画素の一行分ごとに増幅を行っても、そのどちらでもよいことはいうまでもない。
さらに、ゲイン調整回路からの信号に応じて増幅される信号は、R、G、B各色のカラー画素からの出力信号に限られるものではなく、上記した本発明の第1の実施形態の内容と組み合わせて、カラー画素からの出力信号とNIR画素からの出力信号とを加算した信号に対して、その増幅率を変化させることもできる。また、増幅率を変化させる信号の種類は一種類のものだけに限られるのではなく、例えばR画素からの出力信号とG画素からの出力信号との両方を増幅させることも考えられる。そして、複数の信号の増幅率を変化させる場合に、複数の信号それぞれについてその増幅率を均一なものとするのではなく、それぞれ異なった増幅率とすることももちろん可能である。
また、本実施形態においては、比較・加算制御回路64とゲイン調整回路であるタイミングジェネレータ65とを固体撮像装置120内に配置する例を示しているが、もちろん固体撮像装置120の外に設けても何ら問題はない。
(第4の実施形態)
次に、本発明にかかる固体撮像装置の第4の実施形態として、NIR画素における撮像電荷の蓄積を調整する場合について説明する。
図16は、本実施形態にかかる固体撮像装置のR、G、B各色のカラー画素からの出力信号と、NIR画素からの出力信号における光電変換特性を示す図である。図16において、NIR画素からの出力信号の光電変換特性を14、G画素からの出力信号の光電変換特性を15、R画素からの出力信号の光電変換特性を16,B画素からの出力信号の光電変換特性を17とし、NIR画素を含めたR、G、B各色の画素からの出力信号の光電変換特性の傾きが、NIR>R>G>Bの関係である場合を示している。なお、18が飽和レベルを示す。
本実施形態にかかる固体撮像装置の特徴は、NIR画素の出力の光電変換特性の傾きの大きさを、図16に14として示す本来の傾きから、同じく図16中に23として示したような、より緩やかなものに切り替えることにある。そして、この切り替えは、R、G、B各色のカラー画素からの出力信号の光電変換特性において、その信号出力のレベルを所定の電子シャッタ動作切替基準値24と比較することにおいて行われる。
具体的には、本実施形態の場合はR、G、B三色のカラー画素のうち、その出力における光電変換特性の傾きが最も大きいR画素からの出力信号をシャッタ動作判定信号として用いて、その出力信号のレベルが電子シャッタ動作切替基準値24と一致するレベル、すなわち図16に示したs点に相当する露光量を境目として、NIR画素からの出力信号の光電変換特性の傾きを切り替えている。すなわち、図16中のs点に相当する露光量となったときに、図17に示す本実施形態にかかる固体撮像装置130のタイミングジェネレータ70からスタートパルスを出力し、より大きな露光量においては、電子シャッタを動作させてNIR画素からの出力信号の光電変換特性を切り替えることで、図16中14として示す本来の大きな傾きを持ったものから、図16中23として示すより緩やかな傾きとなるようにしている。
次に、上記図16で示したように、NIR画素からの出力信号の光電変換特性を切り替える方法について説明する。
図17は本実施形態にかかる固体撮像装置の概略構成を示すブロック図である。図17に示すように、本実施形態にかかる固体撮像装置130は、R、G、B各色のカラー画素とNIR画素とが形成された受光領域1、水平走査回路53、加算・ノイズ除去回路52、などを有する点においては、上記第1、第2、第3の各実施形態に示した固体撮像装置と同じであり、かかる部分の詳細な説明は省略する。
図17に示す、本実施形態にかかる固体撮像素子130では、垂直走査回路が、R、G、B画素を垂直走査するカラー画素垂直走査回路51aと、NIR画素を垂直走査するNIR画素垂直走査回路51bとの2つの系統に分かれて構成されている。また、比較・加算制御回路69には、加算・ノイズ除去回路52からのR、G、B各色カラー画素からの出力信号がRGBモニタ71として入力され、比較・加算制御回路69でこのR、G、B各色カラー画素からの出力信号が所定の電子シャッタ動作切替基準値と比較される。そしてこの比較結果に基づいて、タイミングジェネレータ70から、加算・ノイズ除去回路52に対して適切なタイミングで出力信号の加算を行うための加算タイミング信号72が出力されるとともに、出力アンプ55に対してゲイン制御信号75が出力される。さらに、カラー画素垂直走査回路51aにカラー画素駆動信号73と、NIR画素垂直走査回路51bにNIR画素駆動信号74が入力される。
次に、図18を用いて、本実施形態にかかる固体撮像装置の固体撮像素子部分における画素の詳細な構造を示す。図18は、本実施形態にかかる固体撮像装置の固体撮像素子において、受光領域1のNIR画素に相当する部分の、光電変換を行う半導体基板部分を拡大して示す模式的断面図である。
図18に示すように、本実施形態にかかる固体撮像装置の固体撮像素子では、半導体基板81中に形成されたNIR光電変換部83と、隣接する他のカラー画素の光電変換部であるRGB光電変換部85との間に電子シャッタ部である電圧変換部84と電荷転送ゲート86とが設けられている。そして、この電圧変換部84が画素内アンプ87を介して加算・ノイズ除去回路52に接続されて、電圧変換部84での出力信号が加算・ノイズ除去回路に出力されるようになっている。また、電荷転送ゲート86は、NIR光電変換部83と電圧変換部84との間の半導体基板81上に形成されている。
一般に、半導体基板に形成された固体撮像素子においては、入射光の波長によってそのエネルギーレベルが異なることから、入射光の波長が長くなるほど半導体基板の表面からの深さが深い光電変換部で光電変換が行われて電荷が発生する。本実施形態にかかる固体撮像装置の固体撮像素子の場合は、図18に示すように、入射光82の波長に応じて半導体基板深さ方向を示す矢印95に沿うように電荷発生領域が異なっている。具体的には、波長の短い青色光によるB電荷発生領域88は半導体基板の表面から0.2〜0.4μm程度、緑色光によるG電荷発生領域89は半導体基板の表面から0.3〜0.8μm程度、赤色光によるR電荷発生領域90は半導体基板の表面から0.5〜1.2μm程度、と深くなり、NIRによるNIR電荷発生領域91は半導体基板の表面から1.0〜2.0μm程度と最も深くなる。
このように、NIRによるNIR電荷発生領域91が他の色の電荷発生領域と比較して深い位置にあるため、NIRが光電変換されて生成する信号電荷92は、半導体基板81内の中性領域(GND領域)を漂いやすくなっている。そして、中性領域内の信号電荷92は、本来のNIR光電変換部91に取り込まれることなく、図18中に波線矢印94で示すような経路を通って、隣接するカラー画素のカラー画素光電変換領域85に取り込まれやすくなる。
特に、NIR画素からの信号出力における光電変換特性は、図16にも示すように本来その傾斜が大きく、他のR、G、B各色カラー画素における出力信号と比較した場合に、より少ない露光量で出力レベルが飽和してしまいやすい。そして、NIR画素に形成されたNIR光電変換領域83が飽和してしまった場合には、吸収されなくなったNIRが光電変換された信号電荷92が隣接するRGB光電変換領域85で取り込まれて、他のR、G、B各色カラー画素における出力信号のノイズとなる。このような場合には、R、G、B各色カラー画素からの出力信号の精度が落ち、カラーバランスが崩れるなど撮像信号の品位が低下する。
これに対して、本実施形態の固体撮像装置のように、NIR画素光電変換領域83と隣接するカラー画素光電変換領域85との間のNIR画素領域内に、電圧変換部84を設けて電圧変換部84の電位を高く変調した状態とすることにより、電子シャッタとしての効果を持たせることができる。そして、この電子シャッタによって、半導体基板81内の浮遊する信号電荷92を、図18中に矢印93として示した経路で電圧変換部84において吸収することができる。そして、電荷転送ゲート86を介して、NIR光電変換領域83で読み出された信号電荷を電圧変換部84に転送するとともに、電圧変換部84で吸収した信号電荷92と打ち消しあわせることで、NIR画素の露光量に対する信号出力レベルを下げて、実質的にNIR画素から出力信号の光電変換特性の傾きをより緩やかなものにすることができる。
このように、本実施形態の固体撮像装置の固体撮像素子においては、NIR画素と近接するR、G、B各色のカラー画素との間に、電子シャッタ部である電圧変換部84と電荷転送ゲート86とを設けることで、NIR光電変換領域83で吸収できなかった電荷が浮遊して、隣接するカラー画素光電変換領域85で吸収されることを防止することができる。さらに、本実施形態の固体撮像装置では、RGB各色のカラー画素における光電変換特性よりもその傾斜が大きく、わずかな露光量で出力レベルが飽和してしまいやすい、NIR画素での信号検出のレンジを広げることができる。
なお、上記した本発明の実施形態においては、NIR画素からの出力信号の光電特性を変化させるために電子シャッタ部のシャッタ動作を行わせるか否かの判定基準として、本実施形態にかかるR、G、B各色のカラー画素からの信号出力において、光電変換特性の傾きが最も大きなR画素からの出力信号を、シャッタ動作判定信号として用いた。これは、NIR画素からの出力信号の光電変換特性は、通常、各色カラー画素からの出力信号の光電変換特性と比較してその傾斜が大きいため、少ない露光量で信号出力が飽和レベルに到達しやすいことを考慮したものである。すなわち、NIR画素の光電変換特性に最も近い、より傾きの大きな光電変換特性を有するカラー画素からの出力信号に基づいて、NIR画素における光電変換特性を切り替えることで、NIR画素からの出力信号が飽和レベルに達するのをより確実に防止することができるからである。
このため、電子シャッタ動作判定信号として用いられる出力信号は、R画素からの出力信号に限られる訳ではなく、それぞれの撮像状態においてその出力信号における光電変換特性の傾きが最も大きな画素からの出力信号を用いることで、同様の効果が奏せられる。なお、このように、カラー画素の中でその出力信号の光電変換特性の傾きが、最も大きな画素からの出力信号を電子シャッタ動作判定信号として用いるのは、NIR画素からの出力信号が飽和レベルに到達することを防ぐことが目的であるから、この目的が達成できるのであれば、電子シャッタ動作判定信号として、出力信号の光電変換特性の傾きが最も大きな画素以外からの出力信号を用いることができることはいうまでもない。
さらに、上記各実施の形態と同じように、本実施形態においても固体撮像装置の内部に設けられているものとして説明した、比較・加算制御回路69とタイミングジェネレータ70とを、固体撮像装置外の別回路として有する構成とすることに何らの問題もない。
(第5の実施形態)
次に、上記各実施の形態として説明してきた本発明にかかる固体撮像装置を使用したカメラについて、その具体的な構成を本発明の第5の実施形態として説明する。
図19は、本発明の固体撮像装置の例として、第4の実施形態にかかる固体撮像装置130を用いたカメラの概略構成を示すブロック図である。なお、固体撮像装置130についての繰り返しの説明は省略する。
図19に示すように、本実施形態にかかるカメラは、撮像環境を確認できる環境確認手段としての照度計131を備え、照度計131の出力は固体撮像装置130の比較・加算制御回路69に入力される。また、タイミングジェネレータ70からのタイミング信号を受けて、点灯/消灯する近赤外光(NIR)ランプ132を備えている。
さらに、本実施形態にかかるカメラは、固体撮像装置130において、出力アンプ55で増幅された出力信号に対して、色処理などの信号処理を施して画像信号134を出力する撮像信号処理部133を備えている。
このような構成とすることで、本実施形態にかかるカメラでは、撮像環境の把握が容易かつ確実となるため、撮像環境に応じてR、G、B各色のカラー画素からの出力信号とNIR画素からの出力信号を加算するか否かの判断を正確に行うことができ、本発明の各実施形態で説明した固体撮像装置の特徴を十分に活かすことができる。また、NIR画素からの信号出力レベルが小さい場合には、近赤外光ランプ132を点灯させることにより、NIR信号のレベルを向上させ、NIR画素での画像情報を得る場合、また、NIR画素の出力をR、G、B各色の画素の出力と加算する場合のいずれの場合においても、得られる信号出力のレベルを向上させることができる。
なお、上記本実施の形態では、撮像環境を把握するための環境確認手段として照度計131を用いた場合を示したが、これに限らず、色温度計を用いることでも同様に本実施形態にかかるカメラとして有効な、撮像環境の情報を得ることができる。また、撮像環境確認手段である照度計131の出力が、比較・加算制御回路69に入力されるような構成を示したが、本発明にかかる固体撮像装置を用いたカメラとしてはこれに限られるものではなく、たとえはタイミングジェネレータ70が、環境確認手段からの情報を得て、適切な信号処理のタイミングを指示する機能を有するのであれば、照度計131からの出力が、タイミングジェネレータ70に入力されるような構成としてもかまわない。
また、本実施形態では、環境確認手段である照度計131と、近赤外光ランプ132とを共に備えた構成を例示したが、これに限られるものではなく、環境確認手段と、近赤外光ランプとのいずれか一方のみを有する構成としてもよい。
なお、本実施形態として示したカメラは、特に、低照度下、または、暗視状態での撮影に特に有効となるため、車載用途や監視用途に使用することが有用となる。また、他のより好適な用途としては、血管認識などの医療用の用途や、緑地分布解析などの航空写真用途、衛星地質調査などの宇宙写真用途などが考えられる。
本発明の固体撮像装置、また、これを用いたカメラは、低照度時、および、暗視画像を撮像する車載用途や監視用途に使用されるものとして、また、医療分野、航空写真、宇宙写真用途などに使用されるものとして適している。
本発明の一実施形態にかかる固体撮像装置の受光領域の画素配置を示す図である。 本発明の一実施形態にかかる固体撮像装置の画素に形成されたフィルタの透過波長特性を示す図である。 本発明の一実施形態にかかる固体撮像装置の各画素からの出力信号の光電変換特性を示す図である。 本発明の第1の実施形態にかかる固体撮像装置の全体構成を示すブロック図である。 本発明の第1の実施形態にかかる固体撮像装置の回路構成を示す要部拡大図である。 本発明の第1の実施形態にかかる固体撮像装置において、それぞれの画素からの出力信号を独立して読み出す場合の動作を示す動作タイミングチャートである。 本発明の第1の実施形態にかかる固体撮像装置において、カラー画素からの出力信号とNIR画素からの出力信号とを加算する場合の第1行目におけるタイミングチャートである。 本発明の第1の実施形態にかかる固体撮像装置において、カラー画素からの出力信号とNIR画素からの出力信号とを加算する場合の第2行目におけるタイミングチャートである。 本発明の第1の実施形態にかかる固体撮像装置において、カラー画素からの出力信号とNIR画素からの出力信号とを全て加算する場合のタイミングチャートである。 本発明の第2の実施形態にかかる固体撮像装置の全体構成を示すブロック図である。 撮像環境が色温度で3200K程度の時の、各色カラー画素とNIR画素との光電変換特性を示す図である。 撮像環境が色温度で1000K程度の時の、各色カラー画素とNIR画素との光電変換特性を示す図である。 NIR画素からの出力信号を加算するか否かの判定レベルの大きさを説明するための図である。 NIRに対する反射率の差について説明するための撮像画像を示す図であり、(a)はカラー画素によって得られた撮像画像を示し、(b)はNIR画素によって得られた撮像画像を示す。 本発明の第3の実施形態にかかる固体撮像装置の全体構成を示すブロック図である。 本発明の第3の実施形態にかかる固体撮像装置の各画素からの出力信号の光電変換特性を示す図である。 本発明の第4の実施形態にかかる固体撮像装置の全体構成を示すブロック図である。 本発明の第4の実施形態にかかる固体撮像装置における、NIR画素部分の半導体基板部分を拡大して示す模式的断面図である。 本発明にかかるカメラの概略構成を示すブロック図である。 従来の固体撮像装置における受光領域の画素配置を示す図である。 従来のカメラにおける被写体の撮像状況を示すブロック構成図である。 従来のカメラにおけるフィルタの透過波長特性とNIRフィルタの特性を示す図である。 従来の固体撮像装置の全体構成を示すブロック図である。 従来の固体撮像装置の回路構成を示す要部拡大図である。 従来の固体撮像装置において、それぞれの画素からの出力信号を読み出す動作を示す動作タイミングチャートである。
符号の説明
1 受光領域
2 画素ユニット
3 R画素
4 G画素
5 B画素
6 NIR画素
7 Bフィルタ透過波長特性
8 Gフィルタ透過波長特性
9 Rフィルタ透過波長特性
10 NIRフィルタ透過波長特性
11 G画素+NIR画素の出力信号の光電変換特性
12 R画素+NIR画素の出力信号の光電変換特性
13 B画素+NIR画素の出力信号の光電変換特性
14 NIR画素からの出力信号の光電変換特性
15 G画素からの出力信号の光電変換特性
16 R画素からの出力信号の光電変換特性
17 B画素からの出力信号の光電変換特性
18 飽和レベル
19 ノイズフロア
21 加算判定レベル
23 NIR画素からの出力信号の光電変換特性
24 電子シャッタ動作切替基準値
51 垂直走査回路
52 加算・ノイズ除去回路
53 水平走査回路
54 水平信号線
55 出力アンプ
26 垂直走査線
27 信号出力線
28 水平走査線
59 信号処理回路
60、64、69 比較・加算制御回路
61、65、70 タイミングジェネレータ
81 半導体基板
82 入射光
83 NIR光電変換部
84 電圧変換部
85 RGB光電変換部
86 電荷転送ゲート
87 画素内アンプ
88 B電荷発生領域
89 G電荷発生領域
90 R電荷発生領域
91 NIR電荷発生領域
92 信号電荷
131 照度計
132 近赤外光ランプ
133 撮像信号処理部

Claims (19)

  1. 行方向および列方向に配置された複数の画素から構成される画素ユニットが、行方向および列方向にそれぞれ複数設けられた受光領域と、
    行方向に配置された前記画素に共通する垂直走査線と、列方向に配置された前記画素に共通する信号出力線とを備え、
    前記画素ユニットは、可視領域に主たる透過波長領域を有するカラーフィルタが形成されたカラー画素と、近赤外領域に主たる透過波長領域を有するNIRフィルタが形成されたNIR画素とを含み、
    前記カラー画素からの出力信号と、前記NIR画素からの出力信号とが、一連の水平走査によって前記信号出力線から読み出されることを特徴とする固体撮像装置。
  2. 前記画素ユニットが、赤色領域に主たる透過波長領域を有するRフィルタが形成されたR画素と、緑色領域に主たる透過波長領域を有するGフィルタが形成されたG画素と、青色領域に主たる透過波長領域を有するBフィルタが形成されたB画素と、前記NIR画素とが2行2列に配置されて構成されている、請求項1に記載の固体撮像装置。
  3. 前記画素ユニットに含まれる、前記カラー画素からの出力信号と前記NIR画素からの出力信号とを加算する加算回路を備えた、請求項1または2に記載の固体撮像装置。
  4. 前記画素ユニットに含まれる、全ての前記カラー画素からの出力信号それぞれと、前記NIR画素からの出力信号とが前記加算回路で加算される、請求項3に記載の固体撮像装置。
  5. 前記画素ユニットに含まれる、全ての前記カラー画素からの出力信号と、前記NIR画素からの出力信号とが前記加算回路で加算される、請求項3に記載の固体撮像装置。
  6. 前記画素ユニットに含まれる前記カラー画素からの出力信号を加算判定信号として、前記加算回路での前記加算を行うか否かの判定を行う加算判定回路をさらに備えた、請求項3〜5のいずれか1項に記載の固体撮像装置。
  7. 前記画素ユニットに含まれる前記カラー画素からの出力信号のうち、光電変換特性の傾きが最も大きな出力信号を前記加算判定信号として用いる、請求項6に記載の固体撮像装置。
  8. 前記加算判定信号とした前記カラー画素からの出力信号の光電変換特性において、飽和レベルの出力値をSa、前記飽和レベルに達する露光量よりも小さい露光量xの時の出力値をSo(x)とし、
    前記NIR画素からの出力信号の光電変換特性において、前記露光量xの時の出力値をSoNIR(x)としたとき、
    前記加算判定回路が、
    SoNIR(x)+So(x)≦Saであれば、前記加算を行い、
    SoNIR(x)+So(x)>Saであれば、前記加算を行なわない、
    請求項6または7に記載の固体撮像装置
  9. 前記NIR画素からの出力信号のレベルに応じて、前記カラー画素からの出力信号の増幅率を変化させるゲイン調整回路を備えた、請求項1または2に記載の固体撮像装置。
  10. 前記NIR画素からの出力信号のレベルに応じて、前記加算回路で加算された出力信号の増幅率を変化させるゲイン調整回路を備えた、請求項3〜8のいずれか1項に記載の固体撮像装置。
  11. 前記NIR画素内に、半導体基板内部の信号電荷を吸収する電子シャッタ部を備えた、請求項1または2に記載の固体撮像素子。
  12. 前記電子シャッタ部を備えた前記NIR画素と同じ前記画素ユニットに含まれる前記カラー画素からの出力信号をシャッタ動作判定信号として、前記電子シャッタ部を動作させるか否かを判定する、請求項11に記載の固体撮像素子。
  13. 前記電子シャッタ部を備えた前記NIR画素と同じ前記画素ユニットに含まれる前記カラー画素からの出力信号のうち、光電変換特性の傾きが最も大きな出力信号を前記シャッタ動作判定信号として用いる、請求項12に記載の固体撮像装置。
  14. 請求項1〜13のいずれかに記載の固体撮像装置を受光部に備えたことを特徴とするカメラ。
  15. 車載用途に使用される、請求項14に記載のカメラ。
  16. 監視用途に使用される、請求項14に記載のカメラ。
  17. 撮像環境を把握する環境確認手段を具備する、請求項14に記載のカメラ。
  18. 前記環境確認手段が照度計である、請求項17に記載のカメラ。
  19. 前記環境確認手段が色温度計である、請求項17に記載のカメラ。
JP2007169435A 2007-06-27 2007-06-27 固体撮像装置およびこれを用いたカメラ Withdrawn JP2009010627A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007169435A JP2009010627A (ja) 2007-06-27 2007-06-27 固体撮像装置およびこれを用いたカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007169435A JP2009010627A (ja) 2007-06-27 2007-06-27 固体撮像装置およびこれを用いたカメラ

Publications (1)

Publication Number Publication Date
JP2009010627A true JP2009010627A (ja) 2009-01-15

Family

ID=40325274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007169435A Withdrawn JP2009010627A (ja) 2007-06-27 2007-06-27 固体撮像装置およびこれを用いたカメラ

Country Status (1)

Country Link
JP (1) JP2009010627A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014520459A (ja) * 2011-06-21 2014-08-21 フロント、ストリート、インベストメント、マネジメント、インコーポレイテッド、アズ、マネジャー、フォー、フロント、ストリート、ダイバーシファイド、インカム、クラス 3次元画像情報を生成する方法および装置
KR101858577B1 (ko) * 2012-10-10 2018-05-16 삼성전자주식회사 결상 광학계 및 이를 포함하는 3차원 영상 획득 장치
CN108347551A (zh) * 2017-01-25 2018-07-31 芯视达系统公司 高动态范围的图像传感器件

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014520459A (ja) * 2011-06-21 2014-08-21 フロント、ストリート、インベストメント、マネジメント、インコーポレイテッド、アズ、マネジャー、フォー、フロント、ストリート、ダイバーシファイド、インカム、クラス 3次元画像情報を生成する方法および装置
KR101858577B1 (ko) * 2012-10-10 2018-05-16 삼성전자주식회사 결상 광학계 및 이를 포함하는 3차원 영상 획득 장치
US9998730B2 (en) 2012-10-10 2018-06-12 Samsung Electronics Co., Ltd. Imaging optical system and 3D image acquisition apparatus including the imaging optical system
CN108347551A (zh) * 2017-01-25 2018-07-31 芯视达系统公司 高动态范围的图像传感器件
US10868971B2 (en) 2017-01-25 2020-12-15 Cista System Corp. System and method for visible and infrared high dynamic range sensing
US11678063B2 (en) 2017-01-25 2023-06-13 Cista System Corp. System and method for visible and infrared high dynamic range sensing

Similar Documents

Publication Publication Date Title
JP4821921B2 (ja) 固体撮像装置および電子機器
JP4691930B2 (ja) 物理情報取得方法および物理情報取得装置、並びに物理量分布検知の半導体装置、プログラム、および撮像モジュール
JP2021193814A (ja) 撮像装置
JP4747781B2 (ja) 撮像装置
CN108141531B (zh) 摄像装置
JPWO2017013806A1 (ja) 固体撮像装置
JP2010093472A (ja) 撮像装置および撮像装置用信号処理回路
JP6573186B2 (ja) 撮像装置及びそれを備えたカメラシステム
JP2010020055A (ja) 撮像装置とその制御方法
US11387267B2 (en) Image sensor, focus adjustment device, and imaging device
JP2009049525A (ja) 撮像装置及び信号処理方法
US20240089629A1 (en) Image sensor and imaging device
EP3420592B1 (en) Improved ultra-high dynamic range pixel architecture
JP2011239292A (ja) 撮像装置および画像処理装置
JP4941131B2 (ja) 固体撮像素子及び電子カメラ
JP2009010627A (ja) 固体撮像装置およびこれを用いたカメラ
TWI285501B (en) An image pickup apparatus and imaging method
JP2009005061A (ja) 固体撮像素子およびそれを用いる撮像装置
JP5464008B2 (ja) 画像入力装置
JP5538067B2 (ja) 内視鏡システム
JP2015008343A (ja) 撮像装置および撮像画像の形成方法
JP6747465B2 (ja) 電子機器
JP2009049524A (ja) 撮像装置及び信号処理方法
JP2006197229A (ja) 撮像装置およびカメラ
JP4848349B2 (ja) 撮像装置及び固体撮像素子の駆動方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091214

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20110914