以下、図面を参照して本発明の実施形態について詳細に説明する。
<基本概念>
図1は、補正演算により可視光カラー画像を高感度に取得することを可能にする色分離フィルタの配置例の基本構造を示す図である。ここでは、可視光カラー画像用に色フィルタC1,C2,C3(何れも第1の波長領域成分を透過)の3つの波長領域(色成分)用のものと、色フィルタC1,C2,C3とは異なる色フィルタC4といった別個のフィルタ特性を有する4種類の色フィルタを規則的(本例では正方格子状)に配設している。
色フィルタC1,C2,C3,C4を通して対応する検知部で検知することで、それぞれの成分を独立して検知することができる。色フィルタC1,C2,C3が配される検知部が第1の検知部であり、色フィルタC4が配される検知部が第2の検知部である。また、色フィルタC1,C2,C3が配される検知部(検知要素)は、カラー画像取得のために第1の波長領域をさらに波長分離して検知するためのものである。
本実施形態において、色フィルタC4を通して得られる第2の波長領域の成分は、第2の検知部を、カラー画像取得用の色フィルタC1,C2,C3の検知部よりも光の利用効率が高い画素、すなわち感度の高い画素とし、この第2の波長領域の成分を検知した第2の検知部から出力される高感度の単位信号を用いて、色フィルタC1,C2,C3を通して第1の波長領域の成分を検知した各第1の検知部から出力される各単位信号との間で所定の補正演算処理を実行することで、可視光カラー画像を高感度に取得することができるようにするものである。
その限りにおいて、第2の波長領域の成分は、赤外光領域の成分を含んでいてもよいし含んでいなくてもよい。つまり、色フィルタC4は赤外光成分を通過させるか否かすなわち赤外光IRに対する透過率は不問であり、第2の検知部に赤外光が入射するように、従来よく使われている赤外光カットフィルタを取り除いて撮像してもよい。
なお、色フィルタC1,C2,C3は、たとえば、可視光帯内のある色成分で透過率が略1、その他で略ゼロとする原色フィルタとする。たとえば、可視光VL(波長λ=380〜780nm)の3原色である青色成分B(たとえば波長λ=400〜500nmで透過率が略1、その他で略ゼロ)、緑色成分G(たとえば波長λ=500〜600nmで透過率が略1、その他で略ゼロ)、赤色成分R(たとえば波長λ=600〜700nmで透過率が略1、その他で略ゼロ)を中心とする原色フィルタであってもよい。
もしくは、色フィルタC1,C2,C3は、可視光帯内のある色成分で透過率が略ゼロ、その他で略1の透過率を持つ補色系の色フィルタとする。たとえば、黄Ye(たとえば波長λ=400〜500nmで透過率が略ゼロ、その他で略1)、マゼンダMg(たとえば波長λ=500〜600nmで透過率が略ゼロ、その他で略1)、シアンCy(たとえば波長λ=600〜700nmで透過率が略ゼロ、その他で略1)など、可視光の3原色成分に対して略ゼロの透過率を持つ補色系の色フィルタであってもよい。
補色系の色フィルタは原色系の色フィルタよりも感度が高いので、可視領域の透過光が3原色の各々の補色である補色系の色フィルタを使用することで撮像装置の感度を高めることができる。逆に、原色系の色フィルタを用いることで、差分処理を行なわなくても原色の色信号を取得でき、可視光カラー画像の信号処理が簡易になる利点がある。
なお、透過率が“略1”であるとは、理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに大きいものであればよい。一部に“1”でない透過率”があってもよい。また、透過率が“略ゼロ”であるについても、同様に理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに小さいものであればよい。一部に“ゼロ”でない透過率”があってもよい。
また、原色系および補色系の何れも、可視光領域の内の所定色(原色もしくは補色)の波長領域成分を通過させるものであればよく、赤外光領域を通過させるか否かすなわち赤外光IRに対する透過率は不問である。
たとえば、現状一般的に用いられる各色フィルタは、可視光帯内では、たとえばR,G,Bの各々に対して透過率が高くその他の色(たとえばRであればGやB)の透過率が低いが、可視光帯外の透過率に関しては規定外であり、通常、その他の色(たとえばRであればGやB)の透過率よりも高く、たとえば各フィルタともに赤外領域に感度を持ち、赤外領域において光の透過がある。しかしながら、本実施形態では、このような可視光帯外で透過率が高い特性であっても、影響を受けない。
一方、色フィルタC4は、少なくとも、第2の検知部を色フィルタC1,C2,C3の検知部よりも高感度の画素とするような所定波長領域用のものであればよく、典型的には、第1の波長領域(本例では可視光)から赤外光領域までの全域の成分を通過させるもの(全域通過フィルタ)であるのがよい。
たとえば、第2の検知部が、青色から赤色までの光(波長450〜660nm)に対して感度を持つようにする白色フィルタを用いるのがよい。可視光から赤外光(特に近赤外光)までの全波長の成分を通過させるという点においては、色フィルタC4としては、事実上、カラーフィルタを設けない構成を採ることができる。本願明細書では、このように、事実上、カラーフィルタを設けない構成をも含めて、「フィルタC4を通して」第2の検知部で検知すると称する。
なお、色フィルタC1,C2,C3が配される画素の検知部(たとえばフォトダイオードなどの撮像素子)は、可視光に感度を有していればよく、近赤外光に感度を有する必要はない。一方、色フィルタC4が配される画素のフォトダイオードなどで構成される検知部は、色フィルタC4が全域通過フィルタでかつ赤外光対応とする場合には、可視光と近赤外光に感度を有することが必要である。
また、色フィルタC4が配される色画素は、この色フィルタC4が配される色画素に基づいて得られる第2の波長領域の成分に関わる物理情報(本例では赤外光画像)再現用として使用されるだけでなく、色フィルタC1,C2,C3が配される色画素に基づいて得られる可視光カラー画像再現用の色信号に対して補正画素としても使用される。色フィルタC4は、色フィルタC1,C2,C3に対しての補正色フィルタとして機能することになるのである。
すなわち、可視光の画素R,G,BまたはCy,Mg,Yeの画素に赤外光が同時に入射すると本来のR,G,BやCy,Mg,Yeの輝度値と異なって色再現が悪くなることがある。この問題を回避するには、後述するように、色フィルタC1,C2,C3が配される可視光の画素(第1の検知部)の上に電体多層膜を利用した赤外光カット機能部を形成して赤外光をカットしてもよい。ただし、この場合でも、カット性能の限界から赤外光の影響を完全に排除できないこともあるので、その場合は、色フィルタC4を通して得られる第2の検知部の出力信号を用いて、信号処理によって赤外光成分を抑制するとよい。
要するに、可視光カラー画像の再現に当たっては、先ず、色フィルタC1,C2,C3が配される色画素から第1の波長領域の信号成分SC1,SC2,SC3を、この第1の波長領域の成分とは異なる第2の波長領域(赤外)の成分から事実上分離して、それぞれ独立の検知領域で検知する。また、高感度対応の所定波長領域の信号成分SC4をさらに別の検知領域で検知する。
そして、各信号成分SC1,SC2,SC3を、信号成分SC4を使ってより高感度な信号となるように補正演算(特に高感度化補正演算と称する)を実行することにより、第1の波長領域の成分(可視光成分)に関わる画像(ここでは可視光カラー画像)を再現するための各補正色信号SC1*,SC2*,SC3*を取得する。
このとき、色フィルタC4が赤外光成分を通過させる特性の場合、その赤外光領域の成分の影響を排除するような補正演算(特に赤外光抑制補正演算と称する)をも実行する。赤外光抑制補正演算に当たっては、第1波長領域の信号成分SC1,SC2,SC3から、少なくも赤外光成分を含むSC4に所定の係数αC1,αC2,αC3を掛けた信号成分を減算する。
なお、赤外光に関わる赤外光画像は、信号成分SC4から取得できる。つまり、色フィルタC4が第1の波長領域(本例では可視光)から赤外光までの全域の成分を通過させる全域通過フィルタである場合には、信号成分SC4から信号成分SC1,SC2,SC3により得られる可視光像の成分を減算すればよい。なお、赤外光画像に関しては、赤外光と可視光の混在による像を取得するようにしてもよい。
このようにして、4種類の波長領域(ここでは4種類の色フィルタを配設した各画素)で得られる信号出力をマトリクス演算すると、主に色フィルタC1,C3を通した可視光カラー画像および色フィルタC4を通した高感度対応用画像をそれぞれ独立に求めることができる。
すなわち、フォトダイオードなどの撮像素子の各画素に、別個のフィルタ特性を有する4種類の色フィルタを配設し、4種類の色フィルタを配設した各画素の出力をマトリクス演算することで、可視光カラー画像を形成するための3原色出力と、可視光カラー画像に対して高感度化補正演算を実行するための出力(高感度対応用画像)を、それぞれ独立かつ同時に取得することができる。
また、可視光カラー画像に関しては、赤外光抑制補正演算によって、赤外光の漏れによる色再現の悪さを演算処理にて補正することで、暗所で感度の高く、かつ色再現の良好な撮像が可能になる。赤外光に近い赤色の信号成分が大きくなる現象や映像の赤い部分で輝度が高くなる現象を緩和することもでき、特別な撮像素子や機構を用いなくても、低コストで色再現性の向上と低照度時の感度アップのバランスを取ることができる。
また、減色フィルタの一例として厚みや重さのある高価なガラス製の光学部材(いわゆる赤外光カットフィルタ)を結像光学系の光路上のセンサの前に入れる必要がなくなる。高価な赤外光カットフィルタ(IRカットフィルタ)を不要にすることで、光学系を軽量かつコンパクトにできるし、コストを大幅に低減できる。もちろん、赤外光カットフィルタの挿入/抜出機構が不要であり、装置が大がかりになることもない。
また赤外光カットフィルタが不用になることによって高感度化も達成される。赤外光カットフィルタなしでカラー撮像を行なうことで、現行の信号処理回路と組み合わせつつ、近赤外線領域の光を有効に利用し高感度化を図ることもでき、その際、低照度時であっても、色再現性が良好になる。
可視光成分に漏れ込む赤外光成分による可視光カラー画像の色再現の悪さについては、演算処理により簡単に補正することができる。また、その補正演算に際しては、特開2003−70009号公報に記載の仕組みのような単なる見積もりで補正するのではなく、赤外光成分を実測し、その情報を使って補正するので、実際の撮像環境下での赤外光の強度に応じた適正量で補正を加えることができ、補正精度が極めて良好である。また、ユーザが撮像環境に合わせて補正量を調整する必要がなく使い勝手がよい。
加えて、本実施形態では、色フィルタC4を通した高感度対応用画像を利用した高感度化補正演算をも適用する点に大きな特徴を有する。すなわち、フィルタC1,C2,C3を通して可視光領域内を波長分離して第1の各波長別の検知部で検知するとともに、フィルタC1,C2,C3を通すよりもより高感度となるようにされたフィルタC4を通して第2の検知部で検知する。
フィルタC1,C2,C3を通して第1の検知部で検知される各波長の信号SC1,SC2,SC3に基づいて測定量を示す信号を取得し、この測定量を示す信号と第2の検知部で検知される高感度の第1の波長領域の成分の信号とを使って、第1の検知部で検知された各波長の信号SC1,SC2,SC3に対して感度補正演算を実行するのである。こうすることで、従来のセンサに比べて、一層の高感度化を達成することができるようになる。これによって、暗い場所でもクロマノイズが少ない撮影が可能となる。またシャッタ時間を短くすることもできるので、被写体ボケや動体ボケも防ぐことが可能となる。
さらに、詳細は後述するが、高感度化の演算アルゴリズム(高感度化補正演算)が簡単な式で実現できるために、演算速度が速く、静止画撮像に限らず、動画撮像にも対応可能である。
また、可視光のない、たとえば夜間においても、赤外光を照射して撮像することで、鮮明な像を得ることができるので、防犯用のイメージセンサとしての応用も可能である。このように、眼で見ることができる可視光のイメージ像と対応して、眼で見ることのできない赤外光の像情報を同時に受けることができる。これによって新しい情報システムへのキーデバイスとして応用が広がる。
<撮像装置>
図2は、本発明に係る物理情報取得装置の一例である撮像装置の概略構成を示す図である。この撮像装置300は、可視光カラー画像および近赤外光画像を独立に得る撮像装置になっている。
具体的には、撮像装置300は、被写体Zの像を担持する光Lを撮像部側に導光して結像させる撮影レンズ302と、光学ローパスフィルタ304と、色フィルタ群312および固体撮像素子(イメージセンサ)314を有する撮像部310と、固体撮像素子314を駆動する駆動部320と、固体撮像素子314から出力された各撮像信号SIR(赤外光成分),SV(可視光成分)を処理する撮像信号処理部330とを備えている。
光学ローパスフィルタ304は、折返し歪みを防ぐために、ナイキスト周波数以上の高周波成分を遮断するためのものである。また、図中に点線で示しように、光学ローパスフィルタ304と合わせて、赤外光成分を低減させる赤外光カットフィルタ305を設けることもできる。この点は、一般的な撮像装置と同様である。ただし、本構成例では、口授する信号処理との組合せとの観点から、赤外光カットフィルタ305を備えない構成を基本とする。
また、可視光カラー画像および近赤外光画像を独立に得る構成とする場合、撮影レンズ302を通して入射された光L1を不可視光の一例である赤外光IRと可視光VLとに分離する波長分離用の光学部材(波長分離光学系という)を備える仕組みが採られることもあるが、本構成では、そのような入射系において波長分離を行なう波長分離光学系を備えていない。
固体撮像素子314は、2次元マトリックス状に形成された光電変換画素群からなる撮像素子である。なお、本実施形態で用いる固体撮像素子314の具体的な構成については後述する。
固体撮像素子314の撮像面では、被写体Zの像を担持する赤外光IRに応じた電荷や可視光VLに応じた電荷が発生する。電荷の蓄積動作や電荷の読出動作などの動作は、図示しないシステムコントロール回路から駆動部320へ出力されるセンサ駆動用のパルス信号によって制御される。
固体撮像素子314から読み出された電荷信号、すなわち赤外光画像を担持する赤外光撮像信号SIRと可視光像を担持する可視光撮像信号SVLは撮像信号処理部330に送られ、所定の信号処理が加えられる。
ここで、本実施形態の構成においては、色フィルタC4としては、色フィルタC1,C2,C3を通して得られる信号よりも光の利用効率が高い高感度信号が得られるようにしており、赤外光撮像信号SIRは、高感度撮像信号SHS(HS:High Sensitivity)としても機能するようになっている。
たとえば、撮像信号処理部330は、固体撮像素子314から出力されたセンサ出力信号(可視光撮像信号SVLおよび赤外光撮像信号SIR)に対して黒レベル調整やゲイン調整やガンマ補正などの前処理を行なう前処理部332と、前処理部332から出力されたアナログ信号をデジタイル信号に変換するAD変換部334と、撮影レンズ302で生じるシェーディングや固体撮像素子314の画素欠陥などを補正する補正処理部336と、画像信号処理部340とを備えている。
画像信号処理部340は、被写体Zを色フィルタC1〜C4の配列パターン(モザイクパターン)に従って画素ごとに異なる色と感度で撮像し、色と感度がモザイク状になった色・感度モザイク画像から、各画素が全ての色成分を有し、かつ、均一の感度を有する画像に変換する高感度化信号処理部341を備えている。
高感度化信号処理部341は、色フィルタC1〜C3を通して信号を検知する第1の検知部で検知された各波長の単位信号に基づいて測光量(測定量)を示す信号を取得し、この測光量を示す信号と色フィルタC4を通して信号を検知する第2の検知部で検知される高感度の第1の波長領域(本例では可視光領域)の各色成分の信号とを使って、第1の検知部で検知された各波長の単位信号(色信号)に対して感度補正演算を実行する。この感度補正演算としては、具体的には、第1の検知部で検知された各波長の色信号に対して、測光量を示す信号と第2の検知部で検知される高感度の色信号との比を掛けることで実現する。
このため、高感度化信号処理部341は、図示を割愛するが、撮像動作によって得られた色・感度モザイク画像から測光量を示す信号として輝度画像を生成する輝度画像生成処理部、および、色・感度モザイク画像と輝度画像を用いて単色画像R,G,Bを生成する単色画像処理部とを有する。なお、一般に、波長成分(色成分)や感度が異なるモザイク状の撮像情報としてのモザイク画像から、全ての画素位置について色や感度が均一な情報としての輝度画像や単色画像を生成する処理をデモザイク処理と称する。
また、高感度化信号処理部341は、単色画像処理部で得られる単色画像に対して、輝度画像生成処理部で得られる輝度画像(測光量を示す)と色フィルタC4を通して得られる高感度撮像信号SHSを用いて補正を加えることで、高感度補正がなされた単色画像R,G,Bを生成する高感度化補正部を備えている。
輝度画像生成部は、色・感度モザイク画像、色フィルタC1〜C4の配列パターンを示す色モザイクパターン情報、および感度モザイクパターン情報に基づいて、3原色成分R,G,Bの各推定値を求め、求めた推定値に色バランス係数を乗算する。そして、各色についての乗算値を加算し、その和を画素値とする輝度画像を生成する。ここで、色バランス係数kR,kG,kBは、予め設定されている値である。
単色画像処理部は、注目する色成分について、近傍の同一色の画素信号を用いて色・感度モザイク画像に補間処理を施すことで、得られる全ての画素が各色成分の画素値を有する単色画像を生成する。
また、画像信号処理部340は、可視光撮像信号SVLに対して赤外光撮像信号SIR(高感度撮像信号SHS)を使って補正を加えることで補正可視光撮像信号SVL*(SR*,SG*,SB*)を生成する赤外光抑制補正処理部342を備えている。
また、画像信号処理部340は、赤外光抑制補正処理部342から出力された補正可視光撮像信号SVL*に基づいて輝度信号を生成する輝度信号処理部344と、赤外光抑制補正処理部342から出力された補正可視光撮像信号SVL*に基づいて色信号(原色信号や色差信号)を生成する色信号処理部346と、赤外光撮像信号SIRに基づいて赤外光画像を表わす赤外光信号を生成する赤外信号処理部348とを備えている。
なお、本実施形態の構成例では、高感度化信号処理部341の後段に、赤外光対応の赤外光抑制補正処理部342を設けているが、赤外光抑制補正処理部342の後段に、高感度化信号処理部341を設ける構成とすることもできる。この場合、高感度化信号処理部341に設けられる輝度画像生成部を輝度信号処理部344と兼用し、また単色画像処理部を色信号処理部346と兼用することができる。
固体撮像素子314から出力された撮像信号は、撮像信号処理部330の前処理部332により所定レベルに増幅され、AD変換部334によりアナログ信号からデジタル信号に変換される。また、可視光成分のデジタルの画像信号は、赤外光抑制補正処理部342で赤外光成分が抑制され、さらに輝度信号処理部344や色信号処理部346にて、必要に応じて(特に色フィルタC1,C2,C3として補色フィルタを使用した場合)R,G,Bの色分離信号に分離された後、輝度信号や色信号もしくはこれを合成した映像信号などに変換され出力される。また、赤外信号処理部348にて、赤外光撮像信号SIRに対して可視光撮像信号SVLを使って補正が加えられる。
なお、赤外光抑制補正処理部342は、可視光撮像信号SVLに対して赤外光撮像信号SIRを使って補正を加えることができればよく、その配設位置は、このような構成に限定されない。たとえば、AD変換部334とシェーディング補正や画素欠陥補正を行なう補正処理部336との間に設け、シェーディング補正や画素欠陥補正の前に赤外光の影響を抑制する補正を行なうようにしてもよい。
あるいは、前処理部332とAD変換部334との間に設け、黒レベル調整やゲイン調整やガンマ補正などの前処理の後に赤外光抑制処理を行なうようにしてもよいし、固体撮像素子314と前処理部332との間に設け、黒レベル調整やゲイン調整やガンマ補正などの前処理の前に赤外光抑制処理を行なうようにしてもよい。
このような構成によって、撮像装置300は、撮影レンズ302により赤外光IRを含む被写体Zを表わす光学画像を取り込み、赤外光画像(近赤外光光学画像)と可視光像(可視光光学画像)とを分離することなく撮像部310に取り込み、撮像信号処理部330によってこれら赤外光画像と可視光像とをそれぞれ映像信号に変換した後に所定の信号処理(たとえばR,G,B成分への色信号分離など)を行なって、カラー画像信号や赤外光画像信号、あるいは両者を合成した混在画像信号として出力する。
たとえば、撮影レンズ302は、波長380nm程度から2200nm程度までの光を透過することができる石英またはサファイアなどの光学材料によって構成されるレンズであり、赤外光IRを含む光学画像を取り込んで、これを集光しながら固体撮像素子314上に結像させる。
また、本実施形態の撮像装置300においては、撮像部310に、本来の検知目的の波長成分の検知に最適化された検知部(イメージセンサ)を設けるようにする点に特徴を有している。特に、本実施形態においては、可視光VLと赤外光IRの内の短波長側を検知するべく、可視光VLの検知に最適化された固体撮像素子314が設けられている。
ここで“最適化されたイメージセンサ”とは、本来の検知目的の波長成分の撮像信号に、本来の検知目的の波長成分以外が可能な限り含まれないようにするような波長分離対応の領域を備えた構造を持つことを意味する。
波長分離光学系による光路上での波長分離を備えなくても、イメージセンサ側で波長分離対応の構造を持つようにすることで、光学系をコンパクトにすることを可能にする点に特徴を有している。
このような撮像装置の構造は、特開平10−210486号公報や特開平06−121325号公報のように、波長分離光学系で分離した各波長成分を、同様の構造を持つそれぞれ個別のセンサに入射させることで、可視光像と赤外光画像とを個別に取得する構成とは異なる。
また、特開平10−210486号公報のように、コールドミラーを透過した可視光成分をさらに3枚のダイクロイックミラーで、赤色成分、緑色成分、および青色成分に分離し、それぞれを個別のセンサに入射させることで、可視光VLに関して、R,G,Bの個別の画像を取得する仕組みとも異なる。特開平10−210486号公報の方式では、可視光VLについて3つのセンサが必要になり、感度向上はあるものの、コストが増大するという問題点がある。本実施形態の構成ではこの問題がない。
また、特開2002−369049号公報のように、光路上にて2段構えで波長分離を行ない、同様の構造を持つそれぞれ個別のセンサに入射させることで、可視光像と赤外光画像とを個別に取得する構成とも異なる。同公報の方式では、光路上にて2段構えで波長分離を行なうので、光学系が大掛かりになる難点がある。加えて、感度やボケなどの問題も有する。本実施形態の構成ではこの問題がない。
たとえば、本実施形態の構成では、撮像部310による可視光VLの撮像において、減色フィルタの一例として赤外光カットフィルタを固体撮像素子314の前に入れる必要がなくなる。高価な赤外光カットフィルタを不要にすることで、コストを大幅に低減できる。また、厚みや重さのある赤外光カットフィルタを不要にすることで、光学系を軽量かつコンパクトにできる。もちろん、赤外光カットフィルタの挿入/抜出機構が不要であり、装置が大がかりになることもない。既存のガラス製の赤外光カットフィルタを用いる場合に比べて、コスト的に有利になるし、コンパクトになって携帯性などに優れたデジタルカメラなどの撮像装置を提供することができる。
また、赤外光カットフィルタを固体撮像素子314の前に入れる構成では、ガラス基板をCCDやCMOSなどの撮像素子の前に入れることで光路の途中に空気とガラス界面が生じてしまう。したがって、透過して欲しい可視光VLの光までがその界面で反射されてしまい、感度低下を招く問題が生じる。さらにこのような界面が多くなることで、斜め入射における(ガラス内で)屈折する角度が波長によって異なり、光路の変化による焦点ぼけを引き起こす。これに対して固体撮像素子314の前側の光路上に赤外光カットフィルタを用いないことで、このような焦点ぼけがなくなる利点が得られる。
なお、さらに波長分離性能を向上させるために、光学系が大きくなってしまなどの問題が生じてしまうが、全体に弱い赤外光カットフィルタを入れてもよい。たとえば50%以下の赤外光カットフィルタを入れることで可視光VLに対して殆ど問題のないレベルまでカットするとよい。
何れにしても、可視光VLのみの撮像と赤外光IRのみの撮像、あるいは可視光VLのみの撮像と赤外光IRと可視光VLとを混在させた撮像を、同時に行なうようにすることができる。
昼間におけるモノクロ画像あるいはカラー画像の撮像時に赤外光IRの影響を受けず、また、夜間などにおいて、赤外光IRによる撮像が可能となる。必要に応じて、他方の像も同時に出力することもできる。その場合でも、昼間において、可視光VLの影響を受けない赤外光IRのみの画像を得ることができる。
たとえば赤外光IRの影響をほぼ全く受けない可視光VLのみのモノクロ画像が得られる。特開2002−142228号公報記載の仕組みとは異なり、赤外光IRの影響をほぼ全く受けない可視光VLのモノクロ画像を得るに際して、赤外光IRの成分との間での演算処理が不要である。
さらに、固体撮像素子314上に、可視光VL内を所定の波長領域成分に分離する光学部材の一例として、可視光領域において所定の波長透過特性を持つ色フィルタを画素(単位画素マトリクス)に対応させて設けることで、赤外光IRの影響をほぼ全く受けない可視光領域中の特定波長領域のみの像が得られる。
また、単位画素マトリクスを構成する複数のフォトダイオード上に一体的に、可視光領域においてそれぞれ異なる波長透過特性を持つ色フィルタを、各波長対応(色別)のフォトダイオードに位置整合させて、規則的に配列することで、可視光領域を波長別(色別)に分離することができ、これらの色別の画素から得られる各画素信号に基づいて合成処理をすることで、赤外光IRの影響をほぼ全く受けない可視光VLのみのカラー画像(可視光カラー画像)が得られる。
特開2002−142228号公報記載の仕組みのような単純なマトリクス演算とは異なり、赤外光IRの影響をほぼ全く受けない可視光VLのカラー画像を得るに際して、可視光領域の信号成分SVから少なくも赤外光領域の成分を含む信号成分SIRに所定の係数αを掛けた信号成分を減算する補正演算を行なうので、可視光領域の画素信号に含まれる赤外光成分を精度よく抑制することができる。
また、特開2003−70009号公報記載の仕組みのような単なる見積もりで補正するのではなく、赤外光成分を実測し、その情報を使って可視光成分に補正を加えるので、実情に即してかつ精度よく補正を行なうことができる。
このように、可視光VLのモノクロ画像あるいはカラー画像と、“赤外光IRに関わる像”をそれぞれ独立に求めることが常時可能となる。“赤外光IRに関わる像”とは、可視光VLの影響をほぼ全く受けない赤外光IRのみの像や赤外光IRと可視光VLとを混在させた像を意味する。
赤外光IRの影響をほぼ全く受けない可視光VLのみの撮像(モノクロ撮像もしくはカラー撮像)と、赤外光IRと可視光VLとを混在させた撮像を、同時に行なうようにすることもできる。また、可視光VLのみの成分(モノクロ像成分もしくはカラー像成分)と、赤外光IRと可視光VLとを混在させた成分との合成処理(詳しくは差分処理)により、可視光VLの影響をほぼ全く受けない赤外光IRのみの撮像を行なうようにすることもできる。
なお、上記において、“影響をほぼ全く受けない”とは、最終的に人間の視覚によることを考慮し、一般的に人間の視覚によって明確な差が関知できない程度であれば、“影響を若干受ける”ことがあってもよい。すなわち、赤外光IR側については通過波長領域(可視光VL)の影響を無視可能な赤外画像(物理情報の一例)を取得できればよく、可視光VL側については反射波長領域成分(赤外光IR)の影響を無視可能な通常画像(物理情報の一例)を取得できればよい。
なお、色フィルタC4として、白色フィルタを使用する場合には、色フィルタC4が配される補正画素は、可視光から赤外光まで広い波長域において感度を持つことになるので、色フィルタC1,C2,C3が配される可視光撮像用の他の画素に比べて、画素信号が飽和し易い。
この問題を避けるには、色フィルタC4が配される第2の検知部の検知時間を駆動部320により制御するとよい。たとえば、明るい所での撮像においては、電子シャッタ機能を利用するなどして、通常よりも短い周期で補正画素の検知部から画素信号を読み出して、それを前処理部332に送るようにするのがよい。この場合、60フレーム/秒より高いレートで信号を送ることで飽和に対して効果が得られる。
あるいは単に0.01667秒より短い時間(蓄積時間)で補正画素の検知部から電荷を読み出せればよい。この場合、オーバーフローを用いて基板側に電荷信号を排出することで実効的に短い時間での電荷の蓄積を読み出してもよい。さらに望ましくは、240フレーム/秒より高いレートで信号を送ることで飽和に対して効果がよりある。あるいは、単に4.16ミリ秒より短い時間(蓄積時間)で検知部から電荷を読み出せればよい。何れにしても、補正画素の検知部から出力される画素信号が飽和し難いようにできればよい。なお、このように飽和しないように短い時間(蓄積時間)で電荷を読み出すのは補正画素だけ行なってもよいし、全画素をそのようにしてもよい。
さらに短い時間で読み取った信号を2回以上積算することで、弱い信号を強い信号に変換し、S/N比を高めてもよい。たとえば、このようにすることで暗いところで撮像しても、また明るいところで撮像しても適切な感度と高いS/N比が得られ、ダイナミックレンジが広がることになる。
<撮像装置;CCD対応>
図3は、図1に示す色分離フィルタ配置を、インターライン転送方式のCCD固体撮像素子(IT_CCDイメージセンサ)に適用した場合の撮像装置の回路図である。
ここで、図3は、可視光帯内をR,G,Bの各色成分に分けつつ赤外光IRを検知するようにした構造を示し、可視光VLの内の青色光B、緑色光G、および赤色光Rと、赤外光IRとを、それぞれ独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長別に画素(光電変換素子)12B,12G,12Rを形成しつつ、波長分離構造を有していない画素12IRを有し、画素12IRを他の画素に対して補正画素として利用する構造である。
たとえば、図3(A)に示すように、CCD固体撮像素子101は、単位画素マトリクス12の他に、垂直転送方向に、垂直転送CCD122が複数本並べられて設けられている。垂直転送CCD122の電荷転送方向すなわち画素信号の読出方向が縦方向(図中のX方向)である。
さらに、垂直転送CCD122と各単位画素マトリクス12との間には読出ゲート124(波長別には124B,124G,124R,124IR)をなすMOSトランジスタが介在し、また各ユニットセル(単位構成要素)の境界部分には図示しないチャネルストップが設けられる。
なお、図3から分かるように、1つの単位画素マトリクス12が、青色光B、緑色光G、赤色光B、および赤外光IRを独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長(色)別に画素12B,12G,12R,12IRを形成した構造である。これら単位画素マトリクス12を有して構成されるセンサ部112の垂直列ごとに設けられ、各センサ部から読出ゲート124によって読み出された信号電荷を垂直転送する複数本の垂直転送CCD122とセンサ部112とによって撮像エリア110が構成される。
ここで、色フィルタ14の配列としては、たとえば、シリコン基板1_ωの受光面側における、垂直転送CCD122の縦方向(X方向)に青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となり、また、複数の垂直転送CCD122の同一行方向(Y方向)にも、青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となるようにする。また、補正画素を設けることによる解像度低下を考慮した画素配列にすることも有効である(詳細は後述する)。
センサ部112の単位画素マトリクス12(各画素12B,12G,12R,12IR)に蓄積された信号電荷は、読出ゲート124に読出パルスROGに対応するドライブパルスφROGが印加されることで、同一垂直列の垂直転送CCD122に読み出される。垂直転送CCD122は、たとえば3相〜8相などの垂直転送クロックVxに基づくドライブパルスφVxよって転送駆動され、読み出された信号電荷を水平ブランキング期間の一部にて1走査線(1ライン)に相当する部分ずつ順に垂直方向に転送する。この1ラインずつの垂直転送を、特にラインシフトという。画素12IRは、本実施形態の構成においては、高感度対応の色フィルタC4が設けられることで、特に高感度対応の画素12HSとしての機能を持つ。
また、CCD固体撮像素子101には、複数本の垂直転送CCD122の各転送先側端部すなわち、最後の行の垂直転送CCD122に隣接して、所定(たとえば左右)方向に延在する水平転送CCD126(Hレジスタ部、水平転送部)が1ライン分設けられる。この水平転送CCD126は、たとえば2相の水平転送クロックH1,H2に基づくドライブパルスφH1,φH2によって転送駆動され、複数本の垂直転送CCD122から転送された1ライン分の信号電荷を、水平ブランキング期間後の水平走査期間において順次水平方向に転送する。このため2相駆動に対応する複数本(2本)の水平転送電極が設けられる。
水平転送CCD126の転送先の端部には、たとえばフローティング・ディフュージョン・アンプ(FDA)構成の電荷電圧変換部を有する出力アンプ128が設けられる。出力アンプ128は、物理情報取得部の一例であって、電荷電圧変換部において、水平転送CCD126によって水平転送されてきた信号電荷を順次電圧信号に変換し所定レベルに増幅して出力する。この電圧信号は、被写体からの光の入射量に応じたCCD出力(Vout )として画素信号が導出される。以上により、インターライン転送方式のCCD固体撮像素子101が構成される。
CCD出力(Vout )として出力アンプ128から導出された画素信号は、図3(B)に示すように、撮像信号処理部330に入力される。撮像信号処理部330には、信号切替制御部の一例である画像切替制御部360からの画像切替制御信号が入力されるようになっている。
画像切替制御部360は、撮像信号処理部330の出力を赤外光IRの影響をほぼ全く受けない可視光VLのモノクロ画像やカラー画像と、可視光VLの影響をほぼ全く受けない赤外光IRの画像の何れか一方のみ、もしくはこれらの双方、あるいは可視光VLと赤外光IRの混在画像すなわち赤外光IRの輝度を加算した擬似モノクロ画像あるいは擬似カラー画像にするかの切替えを指令する。つまり、可視光VLの画像と赤外光IRに関わる画像との同時撮像出力や切替撮像出力を制御する。
この指令は、撮像装置を操作する外部入力によってもよく、また、撮像信号処理部330の赤外光IRのない可視光輝度により画像切替制御部360が自動処理により切替えを指令してもよい。
ここで、撮像信号処理部330は、たとえば、各画素の撮像データR,G,B,IRを同時化する同時化処理、スミア現象やブルーミング現象によって生じる縦縞のノイズ成分を補正する縦縞ノイズ補正処理、ホワイトバランス(WB;White Balance )調整を制御するWB制御処理、階調度合いを調整するガンマ補正処理、電荷蓄積時間の異なる2画面の画素情報を利用してダイナミックレンジを拡大するダイナミックレンジ拡大処理、あるいは輝度データ(Y)や色データ(C)を生成するYC信号生成処理などを行なう。これにより、赤(R),緑(G),青(B)の原色の撮像データ(R,G,B,IRの各画素データ)に基づく可視光帯の画像(いわゆる通常画像)が得られる。
また、撮像信号処理部330は、赤外光IRの画素データを用いて、赤外光IRに関わる画像を生成する。たとえば、可視光像取得用の画素12R,12G,12Bに対して補正画素として機能する画素12IRにおいて、赤外光IRだけでなく可視光VLも同時に信号に寄与するように色フィルタ14Cを入れない場合には、画素12IRからの画素データを用いることで、高感度の画像が得られる。また、画素12R,12G,12Bから得られる各色成分との差分を取ることで、赤外光IRのみの像が得られる。
このようにして生成された各画像は、図示しない表示部に送られ、操作者に可視画像として提示されたり、あるいはそのままハードディスク装置などの記憶装置に記憶・保存されたり、またはその他の機能部に処理済みデータとして送られる。
<撮像装置;CMOS対応>
図4は、図1に示す色分離フィルタ配置を、CMOS固体撮像素子(CMOSイメージセンサ)に適用した場合の撮像装置の回路図である。
ここで、図4は、可視光帯内をR,G,Bの各色成分に分けつつ赤外光IRを検知するようにした構造を示し、可視光VLの内の青色光B、緑色光G、および赤色光Rと、赤外光IRとを、それぞれ独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長別に画素(光電変換素子)12B,12G,12Rを形成しつつ、波長分離構造を有していない画素12IRを有し、画素12IRを他の画素に対して補正画素として利用する構造である。画素12IRは、本実施形態の構成においては、高感度対応の色フィルタC4が設けられることで、特に高感度対応の画素12HSとしての機能を持つ。
COMSに応用した場合、単位画素マトリクス12内の1つ1つの画素(光電変換素子)12B,12G,12R,12IRに対してセルアンプを1つ持つ構造となる。よってこの場合、図4(A)のような構造となる。画素信号はセルアンプで増幅された後にノイズキャンセル回路などを通して出力される。
たとえばCMOS固体撮像素子201は、入射光量に応じた信号を出力する受光素子(電荷生成部の一例)を含む複数個の画素が行および列に配列された(すなわち2次元マトリクス状の)画素部を有し、各画素からの信号出力が電圧信号であって、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部やデジタル変換部(ADC;Analog Digital Converter)などが列並列に設けられている、いわゆる典型的なカラム型となっている。
具体的には、図4に示すように、CMOS固体撮像素子201は、複数の画素12が行および列に配列された画素部(撮像部)210と、画素部210の外側に設けられた駆動制御部207と、カラム処理部226と、出力回路228とを備えている。
なお、カラム処理部226の前段または後段には、必要に応じて信号増幅機能を持つAGC(Auto Gain Control) 回路などをカラム処理部226と同一の半導体領域に設けることも可能である。カラム処理部226の前段でAGCを行なう場合にはアナログ増幅、カラム処理部226の後段でAGCを行なう場合にはデジタル増幅となる。nビットのデジタルデータを単純に増幅してしまうと、階調が損なわれてしまう可能性があるため、どちらかというとアナログにて増幅した後にデジタル変換するのが好ましいと考えられる。
駆動制御部207は、画素部210の信号を順次読み出すための制御回路機能を備えている。たとえば、駆動制御部207としては、列アドレスや列走査を制御する水平走査回路(列走査回路)212と、行アドレスや行走査を制御する垂直走査回路(行走査回路)214と、外部との間でのインタフェース機能や内部クロックを生成するなどの機能を持つ通信・タイミング制御部220とを備えている。
水平走査回路212は、カラム処理部226からカウント値を読み出す読出走査部の機能を持つ。これらの駆動制御部207の各要素は、画素部210とともに、半導体集積回路製造技術と同様の技術を用いて単結晶シリコンなどの半導体領域に一体的に形成され、半導体システムの一例である固体撮像素子(撮像デバイス)として構成される。
図4では、簡単のため行および列の一部を省略して示しているが、現実には、各行や各列には、数十から数千の画素12が配置される。この画素12は、典型的には、受光素子(電荷生成部)としての単位画素マトリクス12と、増幅用の半導体素子(たとえばトランジスタ)を有する画素内アンプ(セルアンプ;画素信号生成部)205(波長別には205B,205G,205R,205IR)とから構成される。画素信号生成部205IRは、本実施形態の構成においては、高感度対応の画素信号生成部としての機能を持つ。
また、図4から分かるように、1つの単位画素マトリクス12が、青色光B、緑色光G、赤色光R、および赤外光IRを独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長(色)別に画素12B,12G,12R,12IRを形成した構造である。
ここで、色フィルタ14の配列としては、たとえば、シリコン基板1_ωの受光面側におけるX方向に青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となり、またX方向と直交するY方向にも、青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となるようにする。また、補正画素を設けることによる解像度低下を考慮した色配列にすることも有効である(詳細は後述する)。
画素内アンプ205としては、たとえばフローティングディフュージョンアンプ構成のものが用いられる。一例としては、電荷生成部に対して、電荷読出部(転送ゲート部/読出ゲート部)の一例である読出選択用トランジスタ、リセットゲート部の一例であるリセットトランジスタ、垂直選択用トランジスタ、およびフローティングディフュージョンの電位変化を検知する検知素子の一例であるソースフォロア構成の増幅用トランジスタを有する、CMOSセンサとして汎用的な4つのトランジスタからなる構成のものを使用することができる。
あるいは、特許第2708455号公報に記載のように、電荷生成部により生成された信号電荷に対応する信号電圧を増幅するための、ドレイン線(DRN)に接続された増幅用トランジスタと、画素内アンプ205をリセットするためのリセットトランジスタと、垂直シフトレジスタより転送配線(TRF)を介して走査される読出選択用トランジスタ(転送ゲート部)を有する、3つのトランジスタからなる構成のものを使用することもできる。
画素12は、行選択のための行制御線215を介して垂直走査回路214と、また垂直信号線219を介してカラム処理部226と、それぞれ接続されている。ここで、行制御線215は垂直走査回路214から画素に入る配線全般を示す。一例として、この行制御線215は、長尺状の散乱体3に対して平行な方向に配される。
水平走査回路212や垂直走査回路214は、たとえばシフトレジスタやデコーダを含んで構成され、通信・タイミング制御部220から与えられる制御信号に応答してアドレス選択動作(走査)を開始するようになっている。このため、行制御線215には、画素12を駆動するための種々のパルス信号(たとえば、リセットパルスRST、転送パルスTRF、DRN制御パルスDRNなど)が含まれる。
通信・タイミング制御部220は、図示しないが、各部の動作に必要なクロックや所定タイミングのパルス信号を供給するタイミングジェネレータTG(読出アドレス制御装置の一例)の機能ブロックと、端子220aを介してマスタークロックCLK0を受け取り、また端子220bを介して動作モードなどを指令するデータDATAを受け取り、さらにCMOS固体撮像素子201の情報を含むデータを端子220cを介して出力する通信インタフェースの機能ブロックとを備える。
たとえば、水平アドレス信号を水平デコーダへ、また垂直アドレス信号を垂直デコーダへ出力し、各デコーダは、それを受けて対応する行もしくは列を選択し、駆動回路を介して画素12やカラム処理部226を駆動する。
この際、画素12を2次元マトリックス状に配置してあるので、画素内アンプ(画素信号生成部)205により生成され垂直信号線219を介して列方向に出力されるアナログの画素信号を行単位で(列並列で)アクセスし取り込む(垂直)スキャン読みを行ない、この後に、垂直列の並び方向である行方向にアクセスし画素信号(たとえばデジタル化された画素データ)を出力側へ読み出す(水平)スキャン読みを行なうようにすることで、画素信号や画素データの読出しの高速化を図るのがよい。もちろん、スキャン読みに限らず、読み出したい画素12を直接にアドレス指定することで、必要な画素12の情報のみを読み出すランダムアクセスも可能である。
また、通信・タイミング制御部220では、端子220aを介して入力されるマスタークロック(マスタークロック)CLK0と同じ周波数のクロックCLK1や、それを2分周したクロックやより分周した低速のクロックをデバイス内の各部、たとえば水平走査回路212、垂直走査回路214、カラム処理部226などに供給する。
垂直走査回路214は、画素部210の行を選択し、その行に必要なパルスを供給するものである。たとえば、垂直方向の読出行を規定する(画素部210の行を選択する)垂直デコーダと、垂直デコーダにて規定された読出アドレス上(行方向)の画素12に対する行制御線215にパルスを供給して駆動する垂直駆動回路とを有する。なお、垂直デコーダは、信号を読み出す行の他に、電子シャッタ用の行なども選択する。
水平走査回路212は、低速クロックCLK2に同期してカラム処理部226内の図示しないカラム回路を順番に選択し、その信号を水平信号線(水平出力線)218に導くものである。たとえば、水平方向の読出列を規定する(カラム処理部226内の個々のカラム回路を選択する)水平デコーダと、水平デコーダにて規定された読出アドレスに従って、選択スイッチ227にてカラム処理部226の各信号を水平信号線218に導く水平駆動回路とを有する。なお、水平信号線218は、たとえばカラムAD回路が取り扱うビット数n(nは正の整数)分、たとえば10(=n)ビットならば、そのビット数分に対応して10本配置される。
このような構成のCMOS固体撮像素子201において、画素12から出力された画素信号は、垂直列ごとに、垂直信号線219を介して、カラム処理部226のカラム回路に供給される。ここで、単位画素マトリクス12(各画素12B,12G,12R,12IR)に蓄積された信号電荷は、同一垂直列の垂直信号線219を介して読み出される。
カラム処理部226の各カラム回路は、1列分の画素の信号を受けて、その信号を処理する。たとえば、各カラム回路は、アナログ信号を、たとえば低速クロックCLK2を用いて、たとえば10ビットのデジタルデータに変換するADC(Analog Digital Converter)回路を持つ。
また、回路構成を工夫することで、垂直信号線219を介して入力された電圧モードの画素信号に対して、画素リセット直後の信号レベル(ノイズレベル)と真の(受光光量に応じた)信号レベルVsig との差分をとる処理を行なうことができる。これにより、固定パターンノイズ(FPN;Fixed Pattern Noise )やリセットノイズといわれるノイズ信号成分を取り除くことができる。
このカラム回路で処理されたアナログの画素信号(あるいはデジタルの画素データ)は、水平走査回路212からの水平選択信号により駆動される水平選択スイッチ217を介して水平信号線218に伝達され、さらに出力回路228に入力される。なお、10ビットは一例であって、10ビット未満(たとえば8ビット)や10ビットを超えるビット数(たとえば14ビット)など、その他のビット数としてもよい。
このような構成によって、電荷生成部としての単位画素マトリクス12(画素12B,12G,12R,12IR)が行列状に配された画素部210からは、行ごとに各垂直列について画素信号が順次出力される。そして、受光素子が行列状に配された画素部210に対応する1枚分の画像すなわちフレーム画像が、画素部210全体の画素信号の集合で示されることとなる。
出力回路228は、CCD固体撮像素子101における出力アンプ128に対応するものであって、その後段には、CCD固体撮像素子101と同様に、図4(B)に示すように、撮像信号処理部330が設けられる。撮像信号処理部330には、CCD固体撮像素子101の場合と同様に、画像切替制御部360からの画像切替制御信号が入力されるようになっている。
これにより、赤(R),緑(G),青(B)の原色の撮像データ(R,G,B,IRの各画素データ)もしくは可視光VL用の画素データに基づく可視光帯の画像(いわゆる通常画像)が得られるとともに、赤外光IRの画素データを用いることで、赤外光IRに関わる画像を得ることができる。
<撮像素子;誘電体積層膜を利用>
図5は、固体撮像素子314の一実施形態を説明する図である。この固体撮像素子314は、誘電体積層膜を利用して電磁波を所定波長ごとに分光する波長分離の概念を採り入れた点に特徴を有する。ここでは、電磁波の一例である光を所定波長ごとに分光することを例に説明する。
具体的には、本出願人が特願2004−358139号にて提案している構成を利用したもので、固体撮像素子314の電磁波が入射する入射面側に、隣接する層間で屈折率が異なり所定の厚みを持つ層を複数積層した構造を有し、入射される光(電磁波)の内の本来の検知目的外である波長成分(本例では赤外光IR成分)を反射させ残り(本例では可視光VL成分)を通過させる特性を持った積層部材としての誘電体積層膜を利用した波長分離対応の構造を持つ分光イメージセンサ(分光検知部)としている。センサの基本構造そのものは、CCD型やCMOS型やその他の何れであってもよい。
積層部材が持つ前述の特性は、逆に言えば、入射される光(電磁波)の内の本来の検知目的の波長成分(本例では可視光VL成分)を通過させ残り(本例では赤外光IR成分)を反射させる特性ということができる。
可視光VLの検知部側に、可視光VLの検知に最適化された誘電体積層膜を利用した分光イメージセンサ構造を持つイメージセンサとしている。赤外光IRを誘電体積層膜を利用して光学的に排除し、可視光VLの検知部に入射した可視光VL成分だけの光電子だけを電気信号に変換するようにする。光路上で波長分離を行なうことなく、1つのイメージセンサ上の可視光検知画素(具体的にはR,G,Bの各色画素)に誘電体多層膜を利用した分光フィルタを一体的に形成し、赤外光検知画素には誘電体多層膜を利用した分光フィルタを形成しないことで、可視光像と赤外光画像とを独立かつ同時に取得できるようにしている。これにより、赤外光IRの影響を殆ど受けることなく、可視光像を赤外光画像とは独立に得ることができる。
<誘電体積層膜を利用した波長分離の概念>
誘電体積層膜1は、図5(A)に示すように、隣接する層間で屈折率nj(jは2以上の正の整数;以下同様)が異なり(屈折率差Δn)、所定の厚みdjを持つ層を複数積層した構造を有する積層部材である。これによって、後述するように、電磁波の内の所定の波長領域成分を反射させ残りを通過させる特性を持つようになる。
誘電体積層膜1をなす各誘電体層1_jの層数の数え方は、その両側の厚い層(第n0層1_0および第k層1_k)を層数として数えずに、たとえば、第1層目から第k層側に向けて順に数える。実質的には、両側の厚い層(第0層1_0および第k層1_k)を除いた基本層1_1〜1_n(図ではn=5)により、誘電体積層膜1が構成される。
このような構造を持つ誘電体積層膜1に光を入射させると、誘電体積層膜1での干渉により、反射率(あるいは透過率)が波長λに対してある依存性を持つようになる。光の屈折率差Δnが大きいほどその効果が強くなる。
特に、この誘電体積層膜1が、周期的な構造や、ある条件(たとえば各層の厚みdの条件d〜λ/4n)を持つことで、白色光などの入射光L1が入射すると、ある特定波長域の光(特定波長領域光)の反射率だけを効果的に高めて殆どを反射光成分L2にさせ、すなわち透過率を小さくさせて、かつ、それ以外の波長域の光の反射率を低くすることで殆どを透過光成分L3にさせる、すなわち、透過率を大きくさせることができる。
ここで波長λは、ある波長域の中心波長であり、nはその層の屈折率である。本実施形態では、この誘電体積層膜1による反射率(あるいは透過率)の波長依存性を利用することで、分光フィルタ10を実現する。
図5(B)は、赤外光IR(InfraRed)と可視光VL(Visible Light )とを分光する事例で示している。可視光VLよりも長波長側である赤外領域の波長λ(主に780nmより長波長側)の赤外光IRに対して、高い反射率を持たせるような誘電体積層膜1を形成することで、赤外光IRをカットすることができる。
なお、誘電体積層膜1をなす各誘電体層1_jの部材(層材)は、複数の層で誘電体積層膜1を構成することから少なくとも2種となり、3層以上の場合には各誘電体層1_jの何れもが異なる層材でなるものであってもよいし、2種(あるいはそれ以上)を交互にあるいは任意の順に積層したものであってもよい。また、誘電体積層膜1を、基本的な第1および第2の層材で構成しつつ、一部を第3(あるいはそれ以上)の層材に代えるようにしてもよい。以下、具体的に説明する。
<<誘電体積層膜の設計手法;赤外光カットの例>>
<厚みdjの設計手法>
図6〜図8は、誘電体積層膜1を設計する手法の基本概念を説明する図である。ここでは、誘電体積層膜1を、基本的な第1および第2の層材で構成しつつ、赤外光IRを選択的に反射させるような設計例を述べる。
図6にその構造図を示すように、本実施形態で用いる誘電体積層膜1は、両側(以下、光入射側を第0層、反対側を第k層と称する)の厚い酸化シリコンSiO2(以下SiO2と記す)に挟まれて、第1および第2の層材でなる複数の誘電体層1_jが積層されて構成されている。図示した例では、誘電体層1_jをなす第1および第2の層材として何れも一般的な材料を用いることとし、シリコンナイトライドSi3N4(以下SiNと記す)を第1の層材、酸化シリコンSiO2を第2の層材とする2種を用いて、これらを交互に積層している。また、誘電体積層膜1の構造は、上下に十分に厚い酸化シリコンSiO2層がある場合(d0=dk=∞)を仮定している。
このような誘電体積層膜1は、下記式(1)の条件を満たすことで、反射率を有効に高くすることができる。
ここでdj(jは層番号;以下同様)は、誘電体積層膜1を構成する各誘電体層1_jの厚みであり、njは、その各誘電体層1_jの屈折率であり、λ0は反射波長領域の中心波長(以下反射中心波長という)である。
誘電体積層膜1をなす各誘電体層1_jの層数の数え方は、その両側の厚い酸化シリコンSiO2を層数として数えずに、たとえば、第1層目から第k層側に向けて順に、SiN層/SiO2層/SiN層で3層、SiN層/SiO2層/SiN層/SiO2層/SiN層で5層というように数える。図4では、7層構造を示している。
また、反射波長領域である赤外光IRの反射中心波長λ0=900nmとして、奇数番目の層をなすシリコンナイトライドSiNの屈折率nα=2.03、0番目、偶数番目、およびk番目の層をなす酸化シリコンSiO2の屈折率nβ=1.46としており、屈折率差Δnは、0.57である。
また、上記式(1)に従い、シリコンナイトライドSiNの厚みdα(=d1,d3,…;j=奇数)は111nm、酸化シリコンSiO2層の厚みdβ(=d2,d4,…;j=偶数)は154nmとしている。
図7は、一般的な材料を用いた図6の構造について、層数を変えて、有効フレネル係数法で計算した反射率Rの結果(反射スペクトル図)を示し、これにより、反射スペクトルの層数依存特性が分かる。
図7の結果から、層数が増えるに従い、赤外光IRの反射中心波長λ0=900nmを中心に反射率Rが高くなっているのが分かる。さらに、このように波長900nmを反射中心波長λ0に選ぶことで、ほぼ赤外光IRと可視光VLを分けていることが分かる。ここでは、5層以上にすることで、反射率Rが0.5以上、特に、7層以上にすることで、反射率が0.7を超えて望ましいことが分かる。
図8は、誘電体層1_jの厚みの変動依存性(ばらつきとの関係)を説明する反射スペクトル図である。ここでは、7層の場合を例に、各誘電体層1_jの厚みdjを±10%変えて計算した結果(反射スペクトル図)を示している。
条件式(1)は、フレネル係数法による理想的な計算値であるが、実際には式(1)の条件はゆるやかで幅がある。たとえば、±10%の厚みdjの誤差があっても有効に反射率を高くできることがフレネル係数法による計算で分かった。
たとえば、図7に示すように、厚みdjにばらつきの差があっても、有効に反射率Rを高くできることが分かった。たとえば、赤外光IRの反射中心波長λ0=900nmにおいて反射率Rが0.5以上という十分な反射率Rが得られているし、赤外光IR全体(主に780nmより長波長側)においても、反射が強いことが分かる。したがって、実際には、ばらつきも加味すれば、誘電体層1_jの厚みdjは、下記式(2)の範囲であれば、反射率を有効に高くする上で、十分な効果が得られることになる。
<反射中心波長λ0の設計手法>
図9〜図11は、反射中心波長λ0の条件を説明する図である。厚みdjの数値条件は、スペクトルの赤外反射領域のバンド幅ΔλIRに依存する。反射スペクトルの概念を示した図9(A)のように、赤外反射領域のバンド幅ΔλIRが広い場合には長波長側に中心波長λ0を持っていかないと可視光VLでの反射が顕著になる。また反射スペクトルの概念を示した図9(B)のように、逆に赤外反射領域のバンド幅ΔλIRが狭い場合には、短波長側に中心波長λ0を持っていかないと可視光VLに近い赤外領域での反射が起こらなくなる。可視光VLと赤外光IRの波長分離性能が非常によい。
ところで図35に示したシリコンSiの吸収スペクトルのグラフから、赤外領域の内、0.78μm≦λ≦0.95μmの範囲の赤外光IRを反射させれば、赤外カット効果として十分になることが分かる。これは、波長0.95μmより長波長側の光は殆どシリコンSi内部で吸収されず、光電変換されないからである。したがって0.78μm≦λ≦0.95μmの範囲の波長の赤外光IRを反射できるように反射中心波長λ0を選べばよいことになる。
また、可視光VLでも、赤(R)領域の内、640〜780nmの範囲の光は視感度が低いために反射されてもされなくても特に撮像素子の性能に影響はないと考えてよい。したがって640〜780nmの波長領域に反射が生じていても不都合がない。
さらに、赤外反射領域のバンド幅ΔλIRは、誘電体積層膜1の屈折率差Δnが大きいときには広くなり、逆に屈折率差Δnが小さいときには狭くなる。したがって、赤外反射領域のバンド幅λIRは、SiN/SiO2多層膜の場合には狭く、Si/SiO2多層膜の場合には広くなる。
これらのことから、SiN/SiO2多層膜(屈折率差Δn=0.57)の場合には、図10の反射スペクトル図に示す780nmと950nmの反射中心波長λ0の計算から、780nm≦λ0≦950nmの範囲であれば、ほぼ上述の条件を満たすことが分かる。ところで、図10は後述する図15のような積層構造で、λ0=780nmとλ0=950nmになるように、誘電体層1_jの膜厚djだけを変えて計算されたものである。
また同様に、Si/SiO2多層膜(屈折率差Δn=2.64)の場合、図11の反射スペクトル図に示すように900nm≦λ0≦1100nmの範囲であれば、ほぼ上述の条件を満たす。
以上のことから、シリコンナイトライドSiNやシリコンSiと酸化シリコンSiO2の組合せにおいては、反射中心波長λ0としては、下記式(3−1)を満たせばよいことになる。好ましくは、下記式(3−2)を満たすのがよい。これらは、900nm近傍を反射中心波長λ0とするのが理想的であることを意味する。
もちろん、上記で示した材料は一例に過ぎず、上述のような効果は必ずしも酸化シリコンSiO2とシリコンナイトライドSiN層の組み合わせに限ったことでなく、屈折率差が0.3以上、さらに望ましくは0.5以上あるような材料を選べば同様な効果があることが計算によって見積もられた。
たとえばSiN膜は、作製条件によって多少の組成のばらつきがあってもよい。また、誘電体積層膜1を構成する誘電体層1_jとしては、酸化シリコンSiO2やシリコンナイトライドSiNの他、アルミナAl2O3やジルコニアZrO2(屈折率2.05)や酸化チタンTiO2(屈折率2.3〜2.55)や酸化マグネシウムMgOや酸化亜鉛ZnO(屈折率2.1)などの酸化物あるいはポリカーボネートPC(屈折率1.58)やアクリル樹脂PMMA(屈折率1.49)などの高分子材料、炭化珪素SiC(屈折率2.65)やゲルマニウムGe(屈折率4〜5.5)などの半導体材料も使用可能である。
高分子材料を用いることで、従来のガラス製にはない特徴を持った分光フィルタ10を構成することができる。すなわち、プラスチック製にすることができ、軽量で耐久性(高温、高湿、衝撃)に優れる。
<<誘電体積層膜を利用した分波イメージセンサ>>
図12〜図16は、誘電体積層膜1を利用した固体撮像素子314への適用に好適な分光イメージセンサ11の一実施形態を説明する図である。この分光イメージセンサ11は、誘電体積層膜1を利用した分光フィルタ10の基本的な設計手法を用いて構成されるものである。ここでは、赤外光IRを選択的に反射させるような誘電体積層膜1を半導体素子層上に形成することで、赤外光IRをカットして可視光VL成分を受光するようにした分光イメージセンサ11の設計例を述べる。
なお、分光イメージセンサ11の基本構造は、分光フィルタ10を半導体素子層の受光部上に形成したもので、これだけでは、単波長分波対応(つまりモノクロ画像撮像用)の分光イメージセンサ11になるが、分光イメージセンサ11の各受光部に対させて色分離フィルタの所定色(たとえばR,G,Bの何れか)を設けることで、カラー画像撮像対応となる。
ここで、図6〜図8を用いて説明した誘電体積層膜1をシリコン(Si)フォトディテクタなどの検知素子が形成された屈折率が誘電体積層膜1をなす各誘電体層1_jよりも大きい半導体素子層上に作製するに当たっては、半導体素子層から誘電体積層膜1までの距離、すなわち第k層の誘電体層1_kをなす酸化シリコンSiO2層の厚みdkが重要である。
これは図12の構造図に示すように、たとえばシリコンSi(屈折率4.1)でなる半導体素子層(フォトディテクタなど)の表面であるシリコン基板1_ωの表面からの反射光L4との干渉効果によって、トータルな反射光LRtotal のスペクトルが変化することを意味する。
図13は、トータルな反射光LRtotal の、誘電体層1_kをなす酸化シリコンSiO2層の厚みdkの変動依存性を説明する反射スペクトル図である。ここでは、図6に示した7層構造の誘電体積層膜1について、誘電体層1_kの厚みdkを変えて計算した結果を示している。図13内の各図において、横軸は波長λ(μm)で、縦軸は反射率Rである。
図13内の各図から分かるように、厚みdk=0.154μmのとき、すなわち赤外光IRの反射中心波長λ0に対して、条件式(1)を満たす値のときに、反射スペクトルは殆ど影響を受けず、赤外光IR(波長λ≧780nm)を強く反射していることが分かる。それに対して厚みdk=0.3〜50μmまでのスペクトルには、厚みdk=∞の反射スペクトルに比べて別の振動が生じていることが分かる。それによって赤外での反射がディップ状に低下している波長域が存在するのが分かる。
ただし、厚みdk=2.5μm以上になると、赤外でのディップの半値幅が30nm以下になり、とりわけ厚みdk=5.0μm以上になるとその半値幅が20nm以下となり、一般的なブロードな自然光に対して十分に半値幅が狭くなるので平均化された反射率となる。さらに、厚みdk=0.3〜1.0μmのスペクトルに関しては、可視光VLでの反射率が高いことも分かる。これらのことから、望ましくは、厚みdk=0.154μm付近、すなわち条件式(1)を満たす値のときが最適であると言える。
図14は、誘電体層1_kをなす酸化シリコンSiO2層の厚みdkの変動依存性を説明する反射スペクトル図であって、特に、厚みdk=0.154μm付近で、厚みdkの値を変えて計算した結果を示すものである。図14内の各図において、横軸は波長λ(μm)で、縦軸は反射率Rである。
この結果から分かるように、条件式(1)を満たす厚みdk=0.154μmを中心として、厚みdk=0.14〜0.16μmの範囲であれば、可視光VLでの反射が抑えられることが分かる。
以上のことから、分光イメージセンサ11の最適構造は、図15の構造図に示すように、実質的には、第k層の誘電体層1_kを含めて8層構造の誘電体積層膜1Aを有するものとなり、その反射スペクトルの計算結果は図16に示す反射スペクトル図のようになる。言い換えると、誘電体積層膜1Aは、シリコン基板1_ω上に、第2の層材である酸化シリコンSiO2でなる層を4周期分設けた構造をなしている。
<<製造プロセスの具体例>>
図17は、上記実施形態で説明した積層膜を利用したセンサ構造の分光イメージセンサを製造する具体的なプロセス例を示す図である。この図17は、赤外光IR用の受光部と可視光VL用の受光部とを備えた分光イメージセンサの製造プロセス例である。
この構造の作製に当たっては、一般的なCCDやCMOS構造の回路をまず形成する(図17(A))。この後に、Siフォトダイオードの上にたとえばCVD(Chemical Vapor Deposition ;化学気相成長法)などを用いてSiO2膜とSiNを順次積層する(図17(B))。
この後、たとえば4つの画素の内1つだけをリソグラフィ技術やRIE(Reactive Ion Etching)法などを用いてエッチングすることで、赤外光IR用の受光部に最下層のSiO2膜に達する開口部を設ける(図17(E))。この赤外光IR用の受光部は、他の可視光カラー画像撮像用の色画素に対して補正画素としても使用される。
この後、誘電体積層膜1などの保護のために、一部に開口部が設けられた誘電体積層膜1上にたとえば再度CVDなどを用いてSiO2膜を積層して平坦化する(図17(F))。もちろん、このプロセスは必須ではない。
なお、この際、可視光VL用の3つの画素(R,G,B成分用)をエッチングしないように、赤外光IR用の受光部に開口部が設けられたフォトレジストを用いてもよい(図17(C),(D))。この場合、誘電体積層膜1上にSiO2膜を積層する前に、フォトレジストを除去する必要がある(図17(D)→(E))。
また、図示を割愛するが、さらにその上に色フィルタやマイクロレンズを画素に対応するように形成する。この際、赤外光IR用の受光部にはたとえば黒フィルタを配し、可視光用の検知部には原色フィルタを配することで、黒フィルタの画素が赤外光を受光し、他の3色の画素が可視光の赤、緑、青色の3原色を受光するようにする。
こうすることで、3原色可視光の画素の検知部上にはSiN層とSiO2層の誘電体多層膜が形成されるが、黒フィルタの画素の検知部上にはこの誘電体多層膜が形成されないこととなる。このような構造で作製された撮像素子を用いることで、3原色の可視光の像と赤外光の像を同時に撮像できる。
さらに若干の赤外光IRが漏れて可視光VL用の光電変換素子(フォトダイオードなど)に入射する場合、全体に弱い赤外光カットフィルタを入れてもよい。たとえば50%以下の赤外光カットフィルタを入れることで、可視光VLに対して殆ど問題のないレベルまでカットしても赤外光IR用の光電変換素子(フォトダイオードなど)では、赤外光IRが集光するので十分な感度となる。
なお、このような製造プロセスでは、Si基板表面近くまでエッチングする、すなわち赤外光IR用の受光部に最下層のSiO2膜に達する開口部を設けるため(図17(E))、エッチングによるダメージが問題になることがある。この場合は、Si基板直上のSiO2層の厚みdを大きくしてダメージを低減することも可能である。
ここでdk=2.5μm以上になると、図13のように反射スペクトルの赤外光領域でのディップの半値幅が狭くなるので、一般的なブロードな自然光に対して平均化された反射率となるので、赤外光の反射が可能となる。したがって望ましくは第k番目の誘電体層1_kの厚みdkを2.5μm以上にするのがよい。さらに望ましくは、5μm以上の厚みにするとなおよい。
また、シリコン基板1_ω上に形成されるフォトダイオードや画素内アンプなどためのメタル配線、すなわち、単位信号生成部としての画素内アンプなどから単位信号としての画素信号を撮像部(検出領域)から読み出すための信号線をなす配線層をシリコン基板1_ω直上に形成する場合、シリコン基板1_ω直上に誘電体積層膜1を設けた構造よりは、シリコン基板1_ω上である程度離したところに誘電体積層膜1を形成する、すなわちメタル配線より上側に誘電体積層膜1を形成することで、プロセスが容易になり、コストが低く抑えられるメリットが得られる。詳しくは後述するが、誘電体積層膜1をなす層数を増やすことで、ある程度よい結果が得られる。以下、メタル配線を考慮した分光イメージセンサについて説明する。
<<誘電体積層膜を利用した分波イメージセンサ;変形例>>
図18〜図24は、誘電体積層膜1を利用した単波長分波対応の分光イメージセンサ11の変形例を説明する図である。この変形例は、図12〜図16にて説明した手法を基本として、メタル配線を考慮して、シリコン基板1_ωよりある程度距離の離れた上側において、誘電体積層膜1をシリコン基板1_ω上に、フォトダイオードなどの検知部と一体的に形成する点に特徴を有する。
たとえば、図18のように、CMOS構造を考えると、フォトダイオードなどの検知部が形成された半導体素子層上に配線層を1つ有し、その厚みが0.7μm程度ある場合において、フォトダイオードなどが形成されるシリコン基板1_ωよりも略0.7μm上に多層膜構造を一体的に形成する場合、第1層目の配線層のプロセスの後に誘電体積層膜1を形成すればよい。こうすることで、厚みdk≒0.7μmを持つ第k層内に配線層を設けることができる。
また、図19のように、半導体素子層上に配線層を3つ有し、それらの総厚みが3.2μm程度ある場合において、フォトダイオードなどが形成されるシリコン基板1_ωよりも略3.2μm上に多層膜構造を一体的に形成する場合、最上である第3層目の配線層のプロセスの後に誘電体積層膜1を形成すればよいことになる。こうすることで、厚みdk=3.2μmを持つ第k層内に配線層を設けることができる。
ここで、“略3.2μm”と記載したのは、図示のように、本例では、シリコン基板1_ω上に厚みが10nm程度のSiO2層(δ層)を設け、その上に、厚みが65nm程度のSiN層(γ層)を設けており、“3.2μm”は、これらγ,δ層を除くk層の厚さを意味するからである。
色フィルタ14やマイクロレンズなどは、この誘電体積層膜1を形成した後に形成すればよい。
図20および図21は、このような分光イメージセンサ11の積層構造の概念を示す図である。ここでは、基本層1_1〜1_nの他に、第k層目の誘電体層1_kとシリコン基板1_ωとの間に、第3の層1_γと第4の層1_δとを備える構造を利用する。また、赤外光IRの反射中心波長λ0を852nmにしている。
たとえば、図20では、7層構造を基本層としつつ、第k層の誘電体層1_k(酸化シリコンSiO2層)とシリコンナイトライドSiN層1_γと酸化シリコンSiO2層1_δの3層分を持つ誘電体積層膜1Cをベースとして、第k層の誘電体層1_kの厚さを700nmにしている。また、第k層目の酸化シリコンSiO2とシリコン基板1_ωとの間に厚みdγ=65nmもしくは100nmの比較的薄いシリコンナイトライドSiN層1_γを第3の層材として積層し、さらに、この追加した第3の層材とシリコン基板1_ωとの間に、第3の層材よりも小さな屈折率をもつ第4の層材としての酸化シリコンSiO2層1_δを厚みdδ=10nmで積層した誘電体積層膜1Cにしている。
また、図21では、基本となる誘電体積層膜1を9層構造としつつ、第k層の誘電体層1_kの厚さを700nmもしくは3.2μmにしている。また、第k層目の酸化シリコンSiO2とシリコン基板1_ωとの間に厚みdγ=65nmの比較的薄いシリコンナイトライドSiN層1_γを第3の層材として積層し、さらに、この追加した第3の層材とシリコン基板1_ωとの間に、第3の層材よりも小さな屈折率をもつ第4の層材としての酸化シリコンSiO2層1_δを厚みdδ=10nmで積層した誘電体積層膜1Cにしている。
これらの反射スペクトルの計算結果は図22〜図24に示すようになる。図18や図19から分かるように、0.7μmや3.2μmほどシリコン基板1_ωの上側に誘電体積層膜1を形成することで、配線プロセスが容易になる。なお、正確には、シリコン基板1_ω直上には第4の層材であるSiO2層と第3の層材であるSiN層の順にそれぞれ10nmと65nm(あるいは100nm)の厚が存在するので、それより上側になる。
ここではSiN膜とSiO2膜とを有する誘電体積層膜1において、7層の場合と9層の場合を示したが、図22から分かるように、シリコンナイトライドSiN層1_γを過度に厚くすると、赤外光反射領域でのディップが大きく、結果として反射が大きく低下していることが分かる。加えて、第3の層材であるSiN層の厚さdγが厚いと、可視光領域での反射が高くなる。これは、中間層として設ける第3の層材は、可視光領域内における反射を低減することを目的とするものであり、中間層として設けた誘電体層1_γの厚みdγは、薄い方には十分な余裕があるが、大きい方には余裕が少ないことによると考えられる。
また図23から分かるように、7層の場合に比べて9層まで多層構造の層数を増やすと、赤外光領域での反射率Rが0.9を超えるようになり、赤外光領域での反射性能をさらに向上させることができることが分かる。また図24から分かるように、第k番目の誘電体層1_kの厚みdkが3.2μmの7層構造では、赤外光反射領域でのディップが大きく、結果として反射が大きく低下していることが分かる。しかしながら、これも9層まで層数を増やすと、これらのディップが小さくなり、赤外光領域での反射性能をさらに向上させることができることが分かる。
このように、従来の配線プロセスを行なった後に、誘電体積層膜1を形成する方が製造が容易となり、新たなプロセスの検討が不必要となりコスト的によい。すなわち図18や図19のようなCMOS構造を作製することで、プロセスも容易にできて、かつ有効な効果が得られることになる。誘電体積層膜1を形成してから配線プロセスをすると、誘電体積層膜1の除去などを行なうなどプロセス的に困難になるのと大きな違いである。
なお、上記の分光フィルタ10の構造は、誘電体積層膜1を利用した基本構造を示したもののであり、その他の様々な変形が可能である。同様に、上記の分光イメージセンサ11の構造は、誘電体積層膜1を利用した分光フィルタ10をCMOSやCCDなどの受光部上に形成する基本構造を示したもののであり、その他の様々な変形が可能である。たとえば、詳細は割愛するが、分光フィルタ10や分光イメージセンサ11の変形例としては、本願出願人が特願2004−358139号にて提案しているように様々な構成を採用することができる。
また、前述では、固体撮像素子314として、本願出願人が特願2004−358139号にて提案した誘電体積層膜1を利用したものについて説明したが、本実施形態で使用し得る固体撮像素子は、このようなものに限らない。たとえば、本出願人が特願2004−250049号にて提案したような回折格子を利用して波長分離を実現する構成のものや、特許文献1に記載の仕組みと同様に、半導体の深さ方向における波長による吸収係数の違いを利用して波長分離を実現する構成のものなど、様々なものを使用することができる。
ただし、白色補正画素12Wとして、赤外光成分をも検知する形態の素子とする場合、赤外光成分と可視光成分の分離性能も問題となり得る。この点においては、本願出願人が特願2004−358139号にて提案しているように、第1の検知部の電磁波が入射する入射面側に、隣接する層間で屈折率が異なり所定の厚みを持つ層を複数積層した構造を有し、電磁波の内の所定の波長領域成分を反射させ残りを通過させる特性を持った積層部材が配されている構造の本来的に赤外光成分の抑制能力の高い素子とするのが好ましい。
<<赤外光混入による問題点とその解決手法>>
以上のように、各種構造の固体撮像素子314の構成例について説明したが、その構成によっては、可視光成分に赤外光成分が混入して検知部に侵入してしまうことになって、可視光像を表わす信号強度に赤外信号が加算されてしまい、可視光カラー画像の色再現が悪化する問題を有する。
たとえば、誘電体積層膜を利用した仕組みでは、赤外光と可視光の像を同時に取り入れることで高感度化や赤外通信機能など高機能化を達成できるものの、可視光であるRGB原色フィルタまたはCyMgYe補色フィルタの画素では赤外光を完全に反射させないと赤外光が一部漏れて検知部に侵入してしまうことになり、信号強度に赤外信号が加算されて色再現が悪化することになる。
したがって、色再現を考慮した場合、赤外光カットフィルタを用いることが効果的である。しかしながら、赤外光カットフィルタを用いると、コストが高くなるし、可視光での光もカットされるので感度が低下する。
赤外光カットフィルタを用いない特許に関して特開2001−69519に近赤外領域の光を透過しないフィルタを備えた撮像素子を利用することが書かれているが、具体的なフィルタの材質や構造については書かれていない。また特開2000−59798に記載されている赤外カットフィルタの位置を切り替えること、特開2003−70009に記載されているR−Y信号の正負を検出し、赤外光の影響が大きくなるR−Y信号が正の場合に補正を行なうことが提案されている。しかしながら装置が大掛かりになったり回路が大掛かりになったりすることでコストが高くなる欠点や、補正精度が十分でない、などの欠点を有する。
そこで、赤外光の反射率を上げるために、赤外光カットフィルタを用いない誘電体積層膜を利用した分光イメージセンサとして、多層膜の層数を多くするか、または多層膜の各層の屈折率差を大きくする方法を採ることが考えられる。しかしながら、層数を増やす方法では、たとえば図6に示したようにSiO2層とSiN層の組合せの分光イメージセンサ11とした場合、たとえば6周期11層とした場合でも、図7に示したように、反射率は0.9程度であり、これでは可視光成分に赤外光の入射分が存在し色再現が悪化することとなる。反射率を1.0に近づけるためには、さらに層数を増やすことが考えられるが、この場合、同時に厚みも1μm以上に厚くなる。このような厚膜構造にすることは、多層膜の作製工程上困難が伴い、量産性において問題となる。
また、屈折率差を大きく取ることとすれば、赤外領域での反射率を“1”程度に高くすることができるが、その反面、可視光領域での反射率が高くなり、可視光の光電変換効率が低下してしまい、感度低下の原因になる。
また、斜め入射光による漏れが少なからず存在するので、互いに他方の漏れ成分の影響を受け、分離取得した可視光像は色再現性がその漏れ分だけ低下し、また赤外光画像にはその漏れ分の可視光像成分が現われてしまう懸念が存在する。
つまり、誘電体積層膜を利用したセンサ構造とする場合、デバイスの厚さや受光感度や色再現性などの全てを最適にすることは難しく、全体のバランスを取った構造にせざるを得ず、結果として、赤外光成分の漏れによる色再現性が問題として残る。
また、回折格子を利用した分光イメージセンサの場合、幅方向(図中のX方向)における波長による場所依存性を利用することで可視光と赤外光とを分離できるが、可視光と赤外光の境界付近では可視光(青色光、緑色光、および赤色光)と赤外光(波長880nm)の分離が不完全であり、結果として、赤外光成分の漏れによる色再現性が問題として残る。逆に、赤外光画像に関しては、可視光成分の漏れによる影響が存在する。
また、半導体の深さ方向における波長による吸収係数の違いを利用した固体撮像素子の場合、可視光検知領域で得られる可視光成分には、従来技術にて説明したことから分かるように、赤外光IRが通過するときにある程度吸収を受けるために、その赤外光IRが可視光VLとして誤検知されるので、赤外光成分の影響を受ける。
また、半導体の深さ方向における波長による吸収係数の違いを利用した構造の固体撮像素子を用いた場合、赤外光IRと可視光VLの内の赤色成分との境界近傍波長は互いに他方の吸収をある程度受けるので、赤外光撮像領域で得られる赤外光画像成分には、可視光帯の特に赤色成分の影響を受け得る。
このような赤外光混入の問題点を解決するべく、本実施形態の撮像装置300は、画像信号処理部340に赤外光抑制補正処理部342を備えることで、可視光を受光する検知領域における赤外光混入による色再現問題の解決を図るようにしている。こうすることで、光学的な波長分離手段(典型例は赤外光カットフィルタ)をイメージセンサの前に設けなくても信号処理によって可視光領域に対しての不要成分である赤外光を抑制・除去できる。赤外光の漏れが可視光検知部の検知結果に存在しても、その不要な赤外光の成分を信号処理により抑制・除去できるので、十分な色再現性の可視光カラー画像を取得できる撮像装置の実現に際し、イメージセンサの使用範囲が広くなる。以下、その手法について、具体的に説明する。
<色分離フィルタ配列>
図25は、補正演算により可視光カラー画像と赤外光画像をそれぞれ独立に求めることを常時可能にするとともに、高感度の色画像信号を取得することができるようにする色分離フィルタ配置の具体例を示す図である。この具体例は、可視光カラー画像に対する補正用の検知領域として、赤外光とともに可視光の全波長成分をも受光・検知する検知領域を設ける点に特徴を有する。
図25(A)に示すように、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタを利用しており、先ず、正方格子状に配された単位画素が赤(R),緑(G),青(B)の3色カラーフィルタに対応するように、色分離フィルタの繰返単位が2画素×2画素で配されて画素部を構成するようにする。また、赤外光とともに可視光の全波長成分を受光・検知する検知部(検知領域)を設けるべく、2つの緑(G)のうちの一方を白色フィルタWに置き換える。つまり、可視光カラー画像用に原色フィルタR,G,Bの3つの波長領域(色成分)用のものと、原色フィルタR,G,Bの成分とは異なる赤外光用の白色フィルタWといった別個のフィルタ特性を有する4種類の色フィルタを規則的に配設している。
なお、白色フィルタWが配される白色補正画素は、可視光から赤外光(特に近赤外光)までの全波長の成分を通過させるものであり、この点においては、事実上、カラーフィルタを設けない構成を採ることができる。
たとえば、偶数行奇数列には第1のカラー(赤;R)を感知するための第1のカラー画素を配し、奇数行奇数列には第2のカラー(緑;G)を感知するための第2のカラー画素を配し、奇数行偶数列には第3のカラー(青;B)を感知するための第3のカラー画素を配し、偶数行偶数列には赤外光IRを感知するための第4のカラー画素(ここでは白画素)を配しており、行ごとに異なったG/B、またはR/Wの画素が市松模様状に配置されている。このようなベイヤ配列の基本形のカラーフィルタの色配列は、行方向および列方向の何れについても、G/BまたはR/Wの2色が2つごとに繰り返される。
原色フィルタR,G,Bを通して対応する検知部で検知することで可視光カラー画像を撮像できるとともに、白色フィルタWを通して対応する検知部で検知することで赤外光画像、もしくは赤外光と可視光の混在画像を可視光カラー画像とは独立かつ同時に撮像することができる。
たとえば、赤外光IRと可視光VLの混合成分を受光する画素12IR(事実上、高感度画素12HS)からの画素データをそのまま用いることで、赤外光IRと可視光VLの混合成分の像を得ることができ、感度を高くすることができる。また、赤外光IRと可視光VLの混合成分の像とともに可視光VLの像が得られるが、両者の差分を取ることで、赤外光IRのみの像が得られる。また、この白色フィルタWを配した画素から得られる混在画像信号は、原色フィルタR,G,Bを配した画素から得られる可視光カラー画像に対しての補正信号としても利用する。
なお、本実施形態における補正信号の使用目的としては、各信号成分SR,SG,SBを、信号成分SIR(=SHS)を使って、赤外光領域の成分の影響を排除するような赤外光抑制補正と、各信号成分SR,SG,SBを、信号成分SIR(=SHS)を使って、より高感度な信号となるように高感度化補正する、2つが存在する。
図26〜図28は、図51に示した色分離フィルタの配置を持ち、赤外光IRのみと可視光VLの2つの波長成分を同時に像として別々に撮像できるとともに高感度画像を取得できるようにしたCCD固体撮像素子を説明する図である。ここで、図26は、構造例を示す見取り図(斜視図)である。また、図28は、基板表面付近の断面構造図である。なおここでは、誘電体積層膜を利用したCCD固体撮像素子101への適用事例で示している。
図26や図27に示すCCD固体撮像素子101の構造においては、4画素でなる単位画素マトリクス12だけを示しているが、実際にはこれを横方向に繰り返し、それをさらに縦方向に繰り返した構造である。
ここで、図26に示す第1の構成例においては、単位画素マトリクス12をなす周期配列の4画素の内、1つの画素12IR上には誘電体積層膜1が形成されていないし色フィルタ14が設けられておらず、色フィルタ14を通さずに赤外光IRを受光するようになっている。この場合、画素12IRでは、赤外光IRと可視光VLの混合成分を受光できるようになる。この色フィルタ14が設けられていない画素12IRを、特に白色補正画素12Wあるいは全域通過画素と呼ぶ。
なお、図27に示す第2の構成例のように、白色補正画素12Wの赤色成分、緑色成分、および青色成分のホワイトバランスがとれるように、白色補正画素12Wの電磁波(光)の入射側にホワイトバランス用の色フィルタ14WBを配置させるようにしてもよい。
このように、誘電体積層膜1を形成しなかった画素12IR(白色補正画素12W)において、赤外光IRだけでなく可視光VLも同時に信号に寄与するように、白色補正画素12Wについては、色フィルタ14を入れない。こうすることで、実質的に、赤外光用の画素12IRを、赤外光IR用のみでなく、赤外光IR用と可視光VL用を兼ねる画素として機能させることができる。
一方、他の3つの画素12B,12G,12R上には誘電体積層膜1が形成され、さらにその上に原色フィルタ14R,14G,14Bが設けられていて、原色フィルタ14R,14G,14Bを通して可視光VLの内の対応する青色B、緑色G、および赤色Rの3原色を受光するようにしている。つまり、誘電体積層膜を3原色系のカラーフィルタのある画素の検知部上に形成することで、赤外光を効果的にカットできる機能を持たせている。
また基板表面付近の断面構造図を示した図28では、可視光VLのみを受光する画素を示している。赤外光IRを受光する画素12IRは、誘電体積層膜1がなく白色フィルタ14Wが設けられる。すなわち、図17で説明した作製プロセス工程のように誘電体積層膜を図15に示した構造でCVD法でSiN層とSiO2層を順次積層した後、リソグラフィ技術とRIE法によって赤外光IRを受光する画素のみにおいて除去する。その後、再びSiO2層を積層して平坦化した。
このような構造で作製された撮像素子を用いることで、3原色成分に基づく可視光カラー画像と、赤外光IRのみの像または赤外光IRと可視光VLの混合の像を同時に撮像できることが分かった。また、高感度画素12HSで得られる高感度信号を利用して3原色成分の信号に補正を加えることで高感度対応の3原色信号を取得できることが分かった。ただし、可視光カラー画像は、赤外光の漏れによる色再現性の低下の懸念があるので赤外光の漏れ成分を補正することが望ましいことも分かった。以下、これらの補正演算について説明する。
なお、本実施形態における補正信号の使用目的としては、各信号成分SR,SG,SBを、信号成分SIR(=SHS)を使って、赤外光領域の成分の影響を排除するような赤外光抑制補正と、各信号成分SR,SG,SBを、信号成分SIR(=SHS)を使って、より高感度な信号となるように高感度化補正する、2つの補正が存在する。
<<補正手法>>
<赤外光抑制補正処理>
図29および図30は、赤外光成分の補正手法(赤外光抑制補正処理)を説明する図である。ここで、図29は、補正演算で用いる係数の設定手法を説明する図である。また、図30は、本例において用いる色フィルタ14の特性例を示す図である。
色フィルタ14が配されていない白色補正画素12Wを設けることで、撮像素子に入射してくる赤外光IRと可視光の合成成分を示す信号値SWとして画素12IR(=高感度画素12HS)により測定できる。
なお、図29では、白色フィルタの透過特性を可視光帯と赤外光帯とで等しいものとして示しているが、このことは必須ではなく、可視光帯の透過強度よりも赤外光帯の透過強度が低下していてもよい。可視光帯の全波長成分を十分な強度で透過させることができるとともに、赤外光帯では、R,G,Bの原色フィルタの透過強度に比べて十分な強さで透過させる特性を持っていればよいのである。
さらに、その白色補正画素12Wから得られる赤外光成分に係数を掛けたものを各3原色または補色の光の信号から引くことで加算された赤外信号(赤外成分の信号)をカットできる。これによって赤外光がある状況下でも色再現の良い画像を取得できる。
ただし、白色補正画素12Wから得られる信号値SWには、赤外光成分IRだけでなく可視光成分VLも含まれるので、可視光成分VLの信号強度SVLを排除した赤外光の信号強度SIRを見積もる必要がある。
具体的には、先ず、可視光カラー画像撮像用の色フィルタ14として、可視光VL(波長λ=380〜780nm)の3原色である青色成分B(たとえば波長λ=400〜500nmで透過率が略1、その他で略ゼロ)、緑色成分G(たとえば波長λ=500〜600nmで透過率が略1、その他で略ゼロ)、赤色成分R(たとえば波長λ=600〜700nmで透過率が略1、その他で略ゼロ)を中心とする原色フィルタ14R,14G,14Bを用いる。
なお、透過率が“略1”であるとは、理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに大きいものであればよい。一部に“1”でない透過率”があってもよい。また、透過率が“略ゼロ”であるについても、同様に理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに小さいものであればよい。一部に“ゼロ”でない透過率”があってもよい。
また、通過波長領域成分である可視光VL領域の内の所定色(原色もしくは補色)の波長領域成分を通過させるものであればよく、反射波長領域成分である赤外光IR領域を通過させるか否かすなわち赤外光IRに対する透過率は不問である。誘電体積層膜1によって赤外光IR成分をカットするからである。
一例として、図30(A)に示すような分光感度特性のものを用いることができる。これは、現在一般的に使用されている色フィルタのものである。波長380nm〜540nm程度を青色波長領域とし、波長420nm〜620nm程度を緑色波長領域とし、波長560nm〜780nmを赤色波長領域とし、色別の波長領域におけるピーク波長の分光感度が少しずつ異なるような感度特性としている。
あるいは、図30(B)に示すように、波長380nm〜540nm程度を青色波長領域とし、波長420nm〜620nm程度を緑色波長領域とし、波長560nm〜780nmを赤色波長領域とし、色別の波長領域におけるピーク波長の分光感度が概ね同じような感度特性とすることもできる。
この図30から分かるように、緑色Gの感度曲線は、640nmより長波長の光に対しても感度を持つことになる。このことは640nmより長波長の光が入射したときには色再現性が悪くなることを意味する。同様のことは、他の色(R,B)についても言え、赤外光領域の光に対しても感度を持ち、このことは赤外光が入射したときには色再現性が悪くなることを意味する。
ここで先ず、赤外光抑制補正処理部342における赤外光抑制補正処理では、可視光カラー画像を表わす各原色信号成分SR,SG,SBを、赤外光画像を表わす赤外光信号成分SIR(赤外光の測定信号強度)を使って補正することにより、赤外光成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための補正済み原色信号SR*,SG*,SB*、すなわち本来の可視光波長領域における各色信号成分のみの正確な色信号強度を取得する。
この補正演算に当たっては、下記式(4−1)のように、本来の可視光波長領域における各色信号成分に赤外光の漏れ信号成分が加わった原色信号成分SR,SG,SBから、赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算することで、赤外光(第2の波長領域)の漏れ成分の影響を排除した補正済み原色信号SR*,SG*,SB*を取得する。
なお、赤外光成分を低減するための赤外光カットフィルタを設けた場合との比較においては、赤外光カットフィルタを設けない場合には、可視光カラー画像用の3原色信号成分が大きくなるので、同等の信号レベルにするには、さらに下記式(4−2)のように、赤外光信号成分SIRに係数εR,εG,εBと原色信号成分SR,SG,SBとを掛けた非線形な補正信号成分をさらに減算するとよい。つまり、色信号成分SR,SG,SBに対して予め赤外光信号成分SIRに所定の係数εR,εG,εBを掛けた値で非線形に感度補正を加えておき、この感度補正が加えられたものから赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算するとよい。
負の係数εR,εG,εBと考えれば、事実上、第2の検知部で検知された赤外光成分と第1の検知部で検知された本来の画素信号との積に負の係数εR,εG,εBを掛けた非線形の信号成分を加算することにより補正を行なうことになる。
こうすることで、赤外光の漏れ成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための、本来の可視光波長領域における各色信号成分のみの各補正色信号SR**,SG**,SB**をさらに精度よく取得できる。なお、この式(4−2)に従った補正は、3原色信号成分の全てに対して行なう必要はなく、特に輝度信号への影響度合いの強い緑色信号成分に対してのみ行なうようにしてもよい。
なお、係数αR,αG,αBの設定に当たっては、赤外光の漏込み成分を十分に抑制できるようにすることが肝要である。ここで、赤外光の漏込み成分は、光源に含まれる赤外光波長領域の強度にも依存することになる。
ここで赤外光信号成分SIRは、図29からも分かるように、白色補正画素12Wで取得される信号値SWの内、主に赤外光成分IRの信号強度を表す。よって、白色補正画素12Wで取得される可視光成分の信号値SVLとの間には、下記式(5)が成立する。なお、ここでの赤外光成分IRとは、図30(A)に示した色分離フィルタの分光感度曲線から、G成分の640nm付近より長波長側の光を遮断したいことから、主に640nmより長波長の光を指すこととする。一般的には、赤外光の定義は眼に見えない光ということで、780nmより長波長であるが、ここではこのように定義する。
一方、赤外光IRまたは可視光VLの光量は被写体側と撮像側において比例関係にある。すなわち被写体側で増加すれば撮像側でもそれに比例して増加する。したがって、図30(A)のような関係になる。
たとえば、白色フィルタ(色フィルタ14が配されない場合も含む)を透過した可視光VLの光量は原色フィルタ14R,14G,14Bで透過した可視光の光量に各係数を掛けたものの和に等しいと考えることができるので、白色フィルタで透過した可視光成分VLの信号強度SVLは原色フィルタ14R,14G,14Bで透過した可視光成分の補正済み原色信号強度SR*,SG*,SB*に各係数βR,βG,βBを掛けたものの和にほぼ等しく、下記式(6)のように表わすことができる。
したがって、白色フィルタを透過する赤外光成分の信号強度SIRは、下記式(7−1)のように表わすことができる。さらに、式(4−1)を式(7−1)に代入すると、式(7−2)のように表わすことができる。これをさらに赤外光成分IRについてまとめると、式(7−3)のように表わすことができる。
ここで、白色補正画素で得られる信号成分SW、原色フィルタ画素で得られる信号成分SR,SG,SBに着目して、それぞれの係数をγW,γR,γG,γBとすると、係数γW,γR,γG,γBは下記式(8−1)〜(8−4)のように表わすことができ、この係数γW,γR,γG,γBを使うことで、式(7−3)を式(8−5)と書き換えることができる。
つまり、画像信号処理部340は、第2の検知部としての白色補正画素12Wから得られる信号値SWに対して、原色フィルタ画素で得られる信号成分SR,SG,SBを使って補正することで、第1の波長領域の成分としての可視光成分(青成分〜赤成分)を排除した第2の波長領域の成分としての赤外光成分IRのみの信号強度SIRを見積もることができる。
なお、白色補正画素12Wから得られる信号値SW(輝度値)を下記式(8−6)のように、第1の波長領域の成分(可視光成分)を排除した第2の波長領域の成分(赤外光成分)のみの補正後の信号強度SIRを使って正し、補正後の値を式(7−1)のSWに置き換えてもよい。こうすることで、白色補正画素12Wが赤外光成分をも検知するようにするときに、白色補正画素12Wに含まれる赤外光成分の影響を抑制することができる利点がある。
なお、係数γR,γG,γBの設定に当たっては、係数αR,αG,αBと係数βR,βG,βBとの関わりを持つ。係数αR,αG,αBに関しては、前述の通りである。係数βR,βG,βBに関しては、白色フィルタ(色フィルタ14が配されない場合も含む)を透過した可視光VLの光量と、原色フィルタ14R,14G,14Bで透過した可視光の光量に各係数βR,βG,βBを掛けたものの和との対応関係から設定することになる。たとえば、各係数α,β,γは、ニュートン法を用いて誤差が小さくなるように算術計算で求める。
一般的には、図29に示すように、原色フィルタ14R,14G,14Bの可視光領域における透過特性が概ね同様の形状をしている場合には、βR:βG:βB=3:6:1とすればよい。
このようにして、4種類の色フィルタの各画素の出力、詳しくは3種類の原色フィルタが配された画素と白色フィルタ14Wを配した(事実上色フィルタを配さない)画素の各出力をマトリクス演算することにより、可視光カラー画像および近赤外光画像をそれぞれ独立に求めることができる。
すなわち、フォトダイオードなどの撮像素子の各画素に、別個の波長通過特性(フィルタ特性)を有する4種類の色フィルタを配設し、4種類の色フィルタを配設した各画素の出力をマトリクス演算することで、近赤外光の影響をほぼ全く受けない可視光カラー画像を形成するための3原色出力と、赤外光と可視光とを混在させた合成画像もしくは白色補正画素12Wから得られる混在成分と可視光成分との合成処理(詳しくは差分処理)により、可視光の影響をほぼ全く受けない赤外光のみの画像を、それぞれ独立かつ同時に取得することができる。
たとえば、赤外光IRと可視光VLの混合成分を受光する画素12IRからの画素データをそのまま用いることで、赤外光IRと可視光VLの混合成分の像を得ることができ、感度を高くすることができる。また、赤外光IRと可視光VLの混合成分の像とともに可視光VLの像が得られるが、両者の差分を取ることで、赤外光IRのみの像が得られる。
また、同じ撮像素子において、フォトダイオード上に一体的に形成された誘電体積層膜1の一部を、部分的に誘電体積層膜1を形成しないようにするので、部分的に誘電体積層膜1が形成されていない誘電体積層膜1をもつ別個の光学部材を撮像素子の前面に配設する場合とは異なり、位置合せの問題が起きない。
特に、可視光カラー画像に関しては、赤外光の漏れによる色再現の悪さを演算処理にて補正することで、暗所で感度の高く、かつ色再現の良好な撮像が可能になる。赤外光に近い赤色の信号成分が大きくなる現象や映像の赤い部分で輝度が高くなる現象を緩和することもでき、特別な撮像素子や機構を用いなくても、低コストで色再現性の向上と低照度時の感度アップのバランスを取ることができる。
たとえば白色補正画素12Wから得られる信号SWには、赤外光成分だけでなく可視光成分も含まれるので、この可視光成分の信号SVLを使って、可視光カラー画像撮像用の原色フィルタ14R,14G,14Bが配された画素に基づき得られる輝度信号に補正を加える(実際には加算演算処理を行なう)ことで、色再現性とは独立して、可視光カラー画像の高感度化を図ることもできる。
図25のようにR,G,Bの原色フィルタの画素に加えて白色フィルタの画素(白色補正画素12W)を加えることによって赤外光の信号を得るが、白色補正画素12Wは、可視光カラー画像に対する補正という点においては、必ずしも赤外光画像を撮像するに十分な配置形態にする必要はなく、図25に示す配置例に限らず、任意のところに置いてもよい。たとえば素子の角のほうに所々入れてもよいし、または画素配列全体に周期的に入れてもよい。特に、被写体表面の赤外光の反射率がその被写体の部分によって変化するような場合には、画素配列全体に周期的に入れることで補正が適切に行なえることになる。
このように、白色補正画素12Wと誘電体積層膜1を組み合わせることで、効果的に可視光の画素の信号に足された赤外光の信号を取り除くことができ、硝子製の赤外光カットフィルタを使用しなくても、色再現性の良好な可視光カラー画像を取得することができる。硝子製の赤外光カットフィルタを使用しないので、コストのメリットがあるし、可視光の透過率も高く高感度化が達成される。
誘電体積層膜1を利用した場合の赤外光の漏れによる色再現の悪さについては、白色補正画素12Wにより実測した赤外光成分を含む信号から赤外光成分を見積もり、この見積もった赤外光成分を使って演算処理により補正するので、暗所で感度の高くかつ色再現の良い撮像が可能になり、また補正のための構成が簡単であるし(ただし、赤外光成分を見積もる分だけ第1具体例よりは複雑にはなる)、見積もった赤外光成分は事実上実測した赤外光成分となるので補正精度が良好である。
ところで、白色補正画素12Wは、可視光VLから赤外光IRまで広い波長領域において感度があるので、可視光カラー画像撮像用の画素(ここでは原色フィルタが配された原色画素)に比べて信号が飽和し易く、特に明るい環境下での撮像においては、この飽和現象が問題となり得る。具体的には、明るい環境下では、適正な赤外光画像を取得できないし、可視光カラー画像に対する補正が不適切になり得る。
この飽和の問題を解消するには、たとえば、明るい環境下での撮像においては、シャッタ機能(メカシャッタに限らず電子シャッタを含む)を利用した露光制御を用いて、高速で撮像するようにするとよい。たとえば、撮像素子に対して短い周期で露光を行なって、その撮像素子(詳しくは検知部)から画素信号を読み出して、それを撮像信号処理部330の前処理部332に送ってもよい。
この場合、たとえば60フレーム/秒より高いレートで露光と信号読出し行なうことで飽和に対して効果が高まる。あるいは単に0.01667秒より短い時間(蓄積時間)で信号読出し行なうことができればよい。この場合、たとえば、オーバーフローを用いて基板側に電荷信号を排出することで実効的に短い時間での電荷の蓄積を読み出してもよい。
さらに望ましくは240フレーム/秒より高いレートで露光と信号読出し行なうことで飽和に対しての効果をさらに向上させることができる。あるいは単に4.16ミリ秒より短い時間(蓄積時間)で信号読出し行なうことができればよい。
なお、このように飽和しないように短い時間(蓄積時間)で電荷を読み出す対象画素は、白色補正画素12Wのみとしてもよいし、可視光カラー画像撮像用の他の画素(ここでは原色フィルタが配された原色画素)を含む全画素としてもよい。
また、さらに短い露光時間で読み取った信号を2回以上積算することで、暗部における弱い信号を強い信号に変換し、S/N比を高めてもよい。たとえば、このようにすることで、暗い環境下で撮像しても、また明るい環境下で撮像しても適切な感度と高いS/N比が得られ、ダイナミックレンジが広がることになる。つまり、高速で撮像することで白色補正画素12Wでの飽和が起き難くなるとともに、信号を積算することで広いダイナミックレンジがとれるようになる。
なお、上記例では、可視光カラー画像撮像用の色フィルタ14として、原色フィルタ14R,14G,14Bを用いていたが、補色フィルタCy,Mg,Yeを用いることもできる。この場合たとえば、図25(B)に示すように、原色フィルタ14RをイエローYeに、原色フィルタ14GをマゼンタMgに、原色フィルタ14BをシアンCyに、それぞれ置き換えた配置とするとよい。そして、対角に2つ存在することになるマゼンタMgの一方に、補正画素としての白色フィルタWを配する。
白色フィルタが配される画素を除く画素12Cy,12Mg,12Ye上には誘電体積層膜1が形成され、さらにその上に、補色フィルタ14Cy,14Mg,14Yeが設けられ、補色フィルタ14Cy,14Mg,14Yeを通して可視光VLの内の対応するシアンCy、マゼンタMg、およびイエローYeの各色を受光するようにする。つまり、誘電体積層膜を補色系のカラーフィルタのある画素の検知部上に形成することで、赤外光を効果的にカットできる機能を持たせる。
また、Cy,Mg,Yeの補色フィルタのみの組合せに限らず、原色フィルタの1つである緑色フィルタGを補色フィルタと組み合せたものに対しても、補正画素をなす白色フィルタWの画素を設けることもできる。たとえば、図25(C)に示すように、Cy,Mgの2つの補色フィルタとGの原色フィルタとを組み合わせたフィールド蓄積周波数インターリーブ方式用のものにおいて、4画素内に2つ存在する原色フィルタGの内の一方を補正画素としての白色フィルタWに置き換えるとよい。
これら補色フィルタを用いる場合の補正演算に当たっては、下記式(9)のように、本来の可視光波長領域における各色信号成分に赤外光の漏れ信号成分が加わった色信号成分SCy,SMg,SYe,SGから、赤外光信号成分SIRに所定の係数αCy,αMg,αYe,αGを掛けた補正信号成分を減算するのがよい。こうすることで、赤外光(第2の波長領域)の漏れ成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための、本来の可視光波長領域における各色信号成分のみの各補正色信号SCy*,SMg*,SYe*,SG*を取得できる。
また、その際の赤外光成分SIRは、式(8−5)から推測されるように、下記式(10)のように置き換えるとよい。なお、式(10)中において、Cy,Mg,Ye,Gの各成分は、実際に使用する色フィルタに応じて適用され、必ずしも全色の成分が必要になると言うことではなく、たとえば、図25(B)に示す色フィルタ配置であればG成分をゼロに、また図25(C)に示す色フィルタ配置であればMg成分をゼロにする。
<高感度化補正処理>
一方、高感度化信号処理部341における高感度化補正処理(高感度化アルゴリズム)では、光の利用効率が高く、すなわち感度の高い白色補正画素12Wを用いることで高感度化を達成する。しかしながら、感度の高い画素は色に関する情報が少ないか、全くない。そこで、白色補正画素12Wの輝度値SWを、赤成分RHS,緑成分GHS,青成分BHSに分配することを考えてみる。一例として、分配式を下記式(11)のように与えることにする。
一方、色フィルタC1〜C3を通して得られる感度の低い可視光画素R,G,Bはそれぞれの輝度値の色情報が存在する。つまり、色信号SR,SG,SBは、色画像R,G,Bの輝度値を示す。この輝度値SR,SG,SBから測光量(または全光量)である式(12−1)に従って輝度信号Yに変換することができる。
ここで、色バランス係数k(kR,kG,kB)は、予め設定されている値である。たとえば、大田登著「色彩工学」(東京電機大学出版局)のp70から、kR=1.0000,kG=4.5907,kB=0.601とすることで、式(12−2)に従って信号Yに変換することができる。
なお、色バランス係数kの値は、基本的には輝度値として輝度変化に相関がある値を算出することができればよい。たとえば、白色光を入射して白色補正画素12WのRHS成分、GHS成分、BHS成分の比に一致するように、kR=RHS/W,kR=GHS/W,kR=BHS/Wとして色バランス係数kを求めてもよい。こうすることで、R,G,Bなどの色フィルタの特性やそのバラツキに関係なく、係数を容易に求めることができる。
また、図30(B)に示すように、色別の波長領域におけるピーク波長の分光感度が概ね同じような感度特性を持っている場合には、kR=kG=kBとしてもよく、この場合、その値を1/3とすればよい。この場合、式(12−3)に従って輝度信号Yに変換することができる。
このように、色フィルタC1〜C3を通して得られる感度の低い色信号SR,SG,SBから測光量(または全光量)を示す輝度信号Yを演算で求めることができる。
さらに、色信号SR,SG,SBの輝度値の測光量(または全光量)に対する各比率は、式(13)のように表すことができる。
したがって、式(14)に示すように、式(13)で与えられる比率に、白画素信号Wを掛けた結果が、感度補正済の色信号RHS,GHS,BHSとなる。
この式(14)を用いることで、白色補正画素12Wの輝度値を比例配分された感度補正済の色信号RHS,GHS,BHSとなるが、元々の白色補正画素12Wの輝度信号のS/N比が高いために、比例配分されたこれらの信号もS/N比が高く、この信号を使って得られた画像は高感度のものとなる。
比較的簡単な積和演算により高感度化補正演算を実行できるので、感度不足を解決しつつ、動画対応可能な高速処理イメージセンサや演算手法を実現できる利点がある。
また、このような高感度化補正演算を、デモザイク処理後に実行するようにすれば、色画像R,G,Bの各画素位置と高感度対応用の白画像の各画素位置が全て一致した計算が可能となるので、より正確で好都合である。
ところで、高感度化信号処理部341は、予めホワイトバランスがとられた色信号SR,SG,SBの輝度値に基づいて高感度化補正演算を実行するのがよい。こうすることで、求める感度補正済の色信号RHS,GHS,BHSにおいても、ホワイトバランスがとれることになって好都合である。
なお、「ホワイトバランスをとる」に当たっては、撮像素子からの撮像信号に基づいて取得した複数の色信号のうちの少なくとも1つの色信号に対してゲイン調整を行なうことになる。
すなわち、CCD撮像素子などの固体撮像素子を用いて被写体画像を撮像すると、被写体に含まれる白色は、屋内などの色温度が低い環境で撮像した場合には赤っぽくなり、屋外などの色温度が高い環境で撮像した場合には青っぽくなるという現象が生じる。このことを、ホワイトバランスが崩れるといっている。なお、色温度とは、テスト光源と同じ色度を持った黒体の温度(K)をいう。
そこで、固体撮像素子を撮像デバイスとして用いた撮像装置では、被写体の白色を撮像した撮像結果において、その白色を無彩色の白色として映し出すために、光源の色温度が変化した場合に、色温度の変化に応じて白色が黒体放射カーブに沿って移動し色付いて見える白色を、無彩色の白に合わせるオートホワイトバランス処理を行なう。このオートホワイトバランス処理としては種々の方式があり、公知の技術であるのでここではその詳細説明を割愛する。
さらに望ましくは、予め白画素信号SWの赤成分RHS,緑成分GHS,青成分BHSのホワイトバランスがとれるようにして計算するのがよい。こうすることで、計算した結果RHS,GHS,BHSが、SR,SG,SBと正確にバランスがとれて対応することとなり、好都合である。白画素信号SWのホワイトバランスがとれていない場合には、予めホワイトバランスがとれるように白色補正画素12Wに色フィルタを配置するのがよい。
さらに、白色補正画素12Wに赤外光成分を含めることで、さらに高感度化が望めるので白画素は必ずしも可視光だけでなく赤外光成分が含まれてもよいのである。この場合、色再現性の改善のためには、前述のように、赤外光抑制補正演算を実行すればよい。
なお、補正用の色フィルタを配する画素を赤外光を検知する画素として使うことができるので、赤外光による光通信や距離測定など高機能化が達成できるし、可視光とともに赤外光も同時に検出してイメージ化できる。これによって、同じイメージセンサで、眼で見ることができる可視光のイメージ像、特に色合いが正確な(色再現性の良好な)カラー画像と対応して、眼で見ることのできない赤外光の像情報を同時に受けることができる。これによって暗視カメラなどの新しい情報システムのキーデバイスとして応用が広がる。
たとえば、赤外線の発光点を予め用意してそれを追跡することで、可視光カラー画像の像の中にある赤外光の発光点の位置を検出することができる。また、可視光のない、たとえば夜間においても赤外光を照射して撮像することで鮮明な赤外光画像を得ることができるので、防犯用のイメージセンサとしての応用も可能である。
<色分離フィルタの他の配置例>
図31〜図33は、誘電体積層膜1を利用した分光イメージセンサ11に、可視光カラー画像に対する補正用の画素を設ける場合における解像度低下を考慮した画素配列を説明する図である。
画素配列に関して言えば図25のような配列構造を適用した場合、単純に従来のRGB原色フィルタやCyMgYe補色フィルタ(あるいは原色フィルタG)の可視光の画素に高感度対応用の画素を追加することになる。
たとえば、本来、可視光カラー画像撮像用の緑色画素Gやマゼンタ色画素Mgが、白色補正画素に置き換わることになり、可視光カラー画像および赤外光画像の何れについても、解像度低下を招く可能性がある。たとえば、従来のRGBベイヤ配列のGの1つの画素を赤外画素に置き換えると、解像度が低下する。しかしながら、補正画素と解像度に大きく寄与する波長成分の画素(たとえば緑色画素G)の配置態様を工夫することで、この解像度低下の問題を解消することができる。
この際に重要なことは、従来と同様に、各色のフィルタをモザイク状に配した色分離フィルタ構造を採用する場合、赤外光と可視光の混在の画素がある一定の格子間隔を持ってモザイク模様になるようにするとともに、可視光の原色系RGBまたは補色系CyMgYe画素の内の1つの画素がある一定の格子間隔を持ってモザイク模様になるように配置することである。
ここで、「モザイク模様になるようにする」とは、ある色画素に着目したとき、それらがある一定の格子間隔を持って格子状に配列されるようにすることを意味する。必ずしも、その色画素が隣接することを必須とはしない。なお、色画素が隣接する配置態様を採った場合の典型例としては、赤外光の画素とその他の色画素の正方形を互い違い並べた碁盤目模様(市松模様)となるようにする配置態様がある。あるいは、可視光の原色系RGBまたは補色系CyMgYe画素の内の1つの画素とその他の色画素の正方形を互い違い並べた碁盤目模様(市松模様)となるようにする配置態様がある。
<原色フィルタへの適用例>
たとえば、RGB原色フィルタを用いつつ可視光カラー画像の解像度低下を抑えるには、可視光領域のGの画素の配置密度を維持し、可視光領域の残りのRもしくはBの画素を、感度補正用の白画素に置き換えるとよい。たとえば図31(A)に示すように、2行2列の単位画素マトリクス12内において先ず、奇数行奇数列および偶数行偶数列に可視光領域の緑色成分を感知するためのカラー画素Gを配し、偶数行奇数列には補正用の白画素を配する。
また、単位画素マトリクス12の列方向の奇数番目においては、行方向の奇数番目の単位画素マトリクス12における奇数行偶数列に可視光領域の青色成分を感知するためのカラー画素Bを配し、行方向の偶数番目の単位画素マトリクス12における奇数行偶数列に可視光領域の赤色成分を感知するためのカラー画素Rを配する。単位画素マトリクス12の列方向の偶数番目においては、カラー画素Bとカラー画素Rの配置を逆にする。全体としては、色フィルタ14の繰返しサイクルは、2×2の単位画素マトリクス12で完結することになる。
この図31(A)に示すような配置形態の場合、可視光の原色系RGB画素の内の1つの画素Gとその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、可視光カラー画像における解像度に大きく寄与するカラー画素Gの配置密度をベイヤ配列と同じにできるので、可視光カラー画像の解像度の低下はなくなる。
ただし、カラー画素Rとカラー画素Bの配置密度はベイヤ配列に対して1/2になるのでカラー分解能が低下する。しかしながら、色に関する人間の視感度は、緑Gに比べて赤Bや青Bは劣るので、大きな問題にはならないと考えてよい。一方、補正画素を利用した赤外光画像に関しては、補正画素の配置密度が、可視光領域の緑色成分を感知するためのカラー画素Gに対して1/2になるので、分解能は可視光カラー画像よりも劣る。
また、赤外光画像の解像度低下を抑えるには、たとえば図31(B)に示すように、図31(A)に示す可視光領域の緑色成分を感知するためのカラー画素Gと、補正用の白画素の配置を入れ替えるとよい。この場合、補正画素としての赤外光の画素とその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、補正画素の配置密度をベイヤ配列の場合と同じにできるので、赤外光画像の解像度の低下はなくなる。ただし、可視光カラー画像における解像度に大きく寄与するカラー画素Gの配置密度は、補正画素に対して1/2になるので、可視光カラー画像は、赤外光画像の分解能よりも劣る。カラー分解能に関しては、図31の場合と同様である。
<補色フィルタへの適用例>
また、CyMgYe補色フィルタを用いつつ可視光カラー画像の解像度低下を抑えるには、可視光領域のMgの画素の配置密度を維持し、可視光領域の残りのRもしくはBの画素を、補正用の黒画素や白画素や緑色画素に置き換えるとよい。たとえば図32(A)に示すように、2行2列の単位画素マトリクス12内において、先ず、奇数行奇数列および偶数行偶数列に可視光領域のマゼンタ色成分を感知するためのカラー画素Mgを配し、偶数行奇数列には補正用の白画素を配する。なお、マゼンタ色Mgの内の一方を緑色Gに置き換えることもできる。
この場合、可視光の補色系CyMgYe画素の内の1つの画素Mgとその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、可視光カラー画像における解像度に大きく寄与するカラー画素Mgの配置密度をベイヤ配列と同じにできるので、可視光カラー画像の解像度の低下はなくなる。
なお、カラー画素Cyとカラー画素Yeの配置密度はカラー画素Mgの配列に対して1/2になるのでカラー分解能が低下するが、色に関する人間の視感度は低く大きな問題にはならないと考えてよい。また、補正画素を利用した赤外光画像に関しては、補正画素(赤外光画素)の配置密度が、可視光領域のマゼンタ色成分を感知するためのカラー画素Mgに対して1/2になるので、分解能は可視光カラー画像よりも劣る。
また、赤外光画像の解像度低下を抑えるには、たとえば図32(B)に示すように、図32(A)に示す可視光領域のマゼンタ色成分を感知するためのカラー画素Mgと、補正用の白画素の配置を入れ替えるとよい。この場合、補正画素としての赤外光の画素とその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、補正画素の配置密度をベイヤ配列の場合と同じにできるので、赤外光画像の解像度の低下はなくなる。ただし、可視光カラー画像における解像度に大きく寄与するカラー画素Mgの配置密度は、補正画素に対して1/2になるので、可視光カラー画像は、赤外光画像の分解能よりも劣る。カラー分解能に関しては、図32(A)の場合と同様である。
なお、解像度低下を抑えるための上記の配置態様例では、緑色Gまたはマゼンタ色Mgの画素をできるだけ高密度でモザイク模様(定型例としての市松模様)となるように配置していたが、その他の色(R,BまたはCy,Ye)の画素を市松模様となるように配置しても、ほぼ同様の効果を得ることができる。もちろん、解像度や色分解能を高める上では、視感度の高い色成分のフィルタをできるだけ高密度でモザイク模様となるように配置するのが好ましい。
<斜め配置への適用例>
なお、上記例では、正方格子状に色フィルタを配置する事例を説明したが、斜め格子状に配列することもできる。たとえば、図33(A)に示す配置態様は、図31(A)に示す配置態様を、右回りに略45度だけ回転させた状態の画素配列になっている。また図33(B)に示す配置態様は、図31(B)に示す配置態様を、右回りに略45度だけ回転させた状態の画素配列になっている。このように、斜め格子状に配列すると、垂直方向と水平方向の各画素密度が増すことになり、その方向での解像度をさらに高くすることができるのである。
<<実験例>>
図34は、高感度化対応の画素を利用して可視光カラー画像の高感度化を実現する仕組みの実験例を説明する図である。この実験例では、図3に示したような回路を持つCCD撮像素子に高感度化対応の白色補正画素12Wを適用して、撮像条件として照度40lxの暗い環境下で撮像して実験を行なった。
単位画素マトリクス12の画素配列構造としては、図31(B)に示したように、2×2画素を単位として、白色補正画素12Wを対角で備える画素配列に作製した。
また、赤色成分R,緑色成分G,および青色成分Bの輝度値にデモザイク処理を施した後にホワイトバランス処理を行なった上で、前述のような式(11)〜式(14)を適用して高感度化補正演算を実行した。
高感度化補正演算を実行して得られた高感度補正済の色画像信号を用いて生成した出力画像結果が図34(B)に示す画像である。なお、比較のために、同一の撮像条件(照明40lx)において、通常のベイヤ構造の画素配列のイメージセンサで得られた出力画像結果を図34(A)に示す。
図34(A)に示すベイヤ構造の画素配列のイメージセンサで得られた出力画像結果では、ノイズが目立つ画像となっている。これに対して、高感度化補正演算を実行して得られた出力画像結果では、ノイズが小さい。
これから、前述のように、高感度化対応の白色補正画素12Wを配置して、この白色補正画素12Wから得られる高感度の撮像信号を用いてカラー撮像用の通常の色フィルタC1〜S3を通して得られる可視光帯の色信号に対して高感度化の補正演算を適用することで、従来のようなベイヤ配列で得られる画像に比べて、ノイズが十分に小さく、つまりS/N比が十分に高く、高感度化が達成できていることが分かる。
1…誘電体積層膜、10…分光フィルタ、11…分光イメージセンサ、12…単位画素マトリクス、14…色フィルタ、101…CCD固体撮像素子、122…垂直転送CCD、124…読出ゲート、126…水平転送CCD、128…出力アンプ、201…CMOS固体撮像素子、205…画素内アンプ、207…駆動制御部、219…垂直信号線、226…カラム処理部、300…撮像装置、302…撮影レンズ、304…光学ローパスフィルタ、305…赤外光カットフィルタ、310…撮像部、312…色フィルタ群、314…固体撮像素子、320…駆動部、330…撮像信号処理部、332…前処理部、334…AD変換部、336…補正処理部、340…画像信号処理部、341…高感度化信号処理部、342…赤外光抑制補正処理部、344…輝度信号処理部、346…色信号処理部、348…赤外信号処理部、360…画像切替制御部