<撮像装置の構成>
本発明の撮像装置の構成について、図1を参照して説明する。図1は、本発明の撮像装置の内部構成を示すブロック図である。
図1の撮像装置は、複数のレンズから構成される光学系1と、光学系1を通じて入射される光の入射光量を電気信号に変換する固体撮像素子2と、固体撮像素子2から出力される電気信号を増幅するアンプ3と、アンプ3で増幅された電気信号をデジタル信号に変換するAD変換回路4と、AD変換回路4からのデジタル信号の最低レベルを設定する黒基準補正回路5と、黒基準補正回路5で黒基準値により補正されたデジタル信号が固体撮像素子2の各画素の感度などによるFPNを除去するFPN補正回路6と、FPN補正回路6でFPN除去されたデジタル信号より自動露出制御(AE)及びホワイトバランス(WB)を行うためのそれぞれの評価値を検出するAE・WB評価値検出回路7と、FPN補正回路6でFPN除去されたデジタル信号について色バランスがとれるように各色信号毎に補正を行うWB制御回路8と、WB制御回路8から出力される隣接する複数の画素の色信号に基づいて各色信号の補間を行う色補間回路9と、色補間回路9から出力される各色信号を他の色信号により色合いを各画素毎に補正する色補正回路10と、色補正回路10から出力されるデジタル信号の階調変換を行う階調変換回路11と、階調変換回路11から出力されるデジタル信号についてエッジ強調などの処理を施すコアリング回路12と、各ブロックの制御を行う全体制御部13と、光学系1に備えられる絞り1aによる露光量を制御する絞り制御部14と、固体撮像素子2及びAD変換回路4に動作タイミング用のクロックを与えるタイミング生成回路15と、を備える。
このように構成される撮像装置は、光学系1を介して光が各画素毎に異なる色フィルタを備えた固体撮像素子2に入射されると、各画素において光電変換動作が行われ、各画素毎に異なる色信号となるアナログ信号が出力される。即ち、図2のように、RGBによるベイヤ型配列となる色フィルタが固体撮像素子2に設けられるとき、Rとなる色フィルタが設けられた画素からは赤色を表すR信号が、Gとなる色フィルタが設けられた画素からは緑色を表すG信号が、Bとなる色フィルタが設けられた画素からは青色を表すB信号が、それぞれ出力される。尚、固体撮像素子2は、後述するように、全体制御部13から与えられるダイナミックレンジを変化させるダイナミックレンジ制御信号によって、線形変換動作及び対数変換動作を切り換える輝度を変更させる。
この固体撮像素子2からシリアルに出力されるR信号及びG信号及びB信号が、アンプ3において増幅された後、AD変換回路4においてデジタル信号に変換される。このようにデジタル信号に変換されたR信号及びG信号及びB信号が黒基準補正回路5に与えられると、全体制御部13から与えられるダイナミックレンジ制御信号に基づいて、最低輝度値となる黒レベルが基準値(0)に補正される。即ち、固体撮像素子2のダイナミックレンジによって黒レベルが異なるため、AD変換回路4から出力されるR信号及びG信号及びB信号それぞれの信号レベルに対して、黒レベルとなる信号レベルが減算されることで、基準値補正が行われる。
この黒基準補正が行われたR信号及びG信号及びB信号は、後述するように、FPN補正回路6において格納しているFPN成分を減算することによって、FPN成分が除去される。このFPN成分は、固体撮像素子2内の各画素を構成するMOSトランジスタの閾値バラツキなどが原因となって生じるオフセットバラツキである。このようにFPN成分が除去されたR信号及びG信号及びB信号が、AE・WB評価値検出回路7及びWB制御回路8に与えられる。このFPN補正回路6の詳細については後述する。
AE・WB評価値検出回路7では、与えられたR信号及びG信号及びB信号より成る画像信号の輝度値を確認することにより、被写体の輝度範囲を表す輝度の平均値分布範囲を算出し、露光量を設定するAE評価値として全体制御部13に送出する。このAE評価値に基づいて全体制御部13が絞り1aの開口度を制御することで、露光量が制御される。又、AE・WB評価値検出回路7では、与えられたR信号及びG信号及びB信号よりそれぞれの輝度比及び輝度差を確認し、ホワイトバランスを行うための基準値であるWB評価値を算出し、全体制御部13に送出する。そして、WB制御回路8では、全体制御部13より与えられるWB評価値及びダイナミックレンジ制御信号に基づいて、R信号及びG信号及びB信号が、同一の光電変換特性となるようにホワイトバランス処理が施される。
WB制御回路8でホワイトバランス処理が施されたR信号及びG信号及びB信号は、色補間回路9において色補間処理が施される。図2のようなRGBによるベイヤ型配列となる色フィルタが固体撮像素子2に設けられているとき、各画素から出力される色信号は、その画素に設けられる色フィルタによる色信号のみである。よって、色補間回路9において、他の色信号が隣接する画素の色信号により生成されることで、色補間処理が施される。
そして、RGBそれぞれの色フィルタが各画素G11〜G44に図2のように配列されているとき、画素G11,G31,G13,G33からR信号r11,r31,r13,r33が、画素G21,G41,G12,G32,G23,G43,G14,G34からG信号g21,g41,g12,g32,g23,g43,g14,g34が、画素G22,G42,G24,G44からB信号b22,b42,b24,b44が、出力される。このとき、画素G22,G23,G32,G33のRGB信号が、以下の式のように表される。
画素G22のR信号r22、G信号g22、B信号b22
r22=(r11+r31+r13+r33)/4
g22=(g21+g12+g32+g23)/4
b22=b22
画素G32のR信号r32、G信号g32、B信号b32
r32=(r31+r33)/2
g32=g32
b32=(b22+b42)/2
画素G23のR信号r23、G信号g23、B信号b23
r23=(r13+r33)/2
g23=g23
b23=(b22+b24)/2
画素G33のR信号r33、G信号g33、B信号b33
r33=r33
g33=(g32+g23+g43+g34)/4
b33=(b22+b42+b24+b44)/4
このように画素補間処理を行うことで、各画素毎にRGB信号が得られると、各画素のRGB信号が色補正回路10に与えられ、各画素の色合いを強調するための色補正処理が施される。このとき、RGB信号はそれぞれ、他の色信号の値により色補正が施される。即ち、画素GklのRGB信号rkl,gkl,bklを以下の式に代入することによって、色合い補正が施された画素GklのRGB信号rxkl,gxkl,bxklが生成される。この際、a1〜a3,b1〜b3,c1〜c3によるマトリックス係数が、全体制御部13から入力されるダイナミックレンジ制御信号に基づいて切り換えられて、各画素のRGB信号による色合いが強調される。
rxkl=a1×rkl+a2×gkl+a3×bkl
gxkl=b1×rkl+b2×gkl+b3×bkl
bxkl=c1×rkl+c2×gkl+c3×bkl
色補正回路10で色補正が施されたRGB信号は、階調変換回路11に与えられて、適切な出力レベルとなるように、全体制御部13から入力されるダイナミックレンジ制御信号及びAE評価値に基づいて、γカーブに基づく変化やデジタルゲインの変化により階調特性を変化させる。そして、エッジ成分に対して図3のような関係のレベル変換特性を備えるコアリング回路12において、RGB信号それぞれに重畳したノイズ成分が除去されるとともに、エッジ成分が抽出されてエッジ強調処理が施される。
<固体撮像素子の構成例>
図1のように構成される撮像装置における固体撮像素子2の構成について、図面を参照して説明する。図4は、本例の固体撮像素子の一部の構成を概略的に示すブロック図であり、図5は、各画素の構成を示す回路図である。
固体撮像素子2は、図4に示すように、G11〜Gmnは行列配置(マトリクス配置)された画素を示している。21は垂直走査回路であり、各画素に信号φVを与える行(ライン)23−1,23−2,・・・,23−nを順次走査していくとともに、ライン24−1,24−2,・・・,24−nを介して各画素に信号φVDを、ライン25−1,25−2,・・・,25−nを介して各画素に信号φVPSを、それぞれ与える。22は水平走査回路であり、画素から出力信号線26−1,26−2,・・・,26−mに導出された光電変換信号を画素ごとに水平方向に順次読み出す。20は電源ラインである。各画素に対し、上記ライン23−1〜23−n,24−1〜24−n,25−1〜25−nや出力信号線26−1〜26−m、電源ライン20だけでなく、他のライン(例えば、クロックラインやバイアス供給ライン等)も接続されるが、図4ではこれらについて省略する。
又、出力信号線26−1〜26−mのそれぞれには、定電流源27−1〜27−mが接続されるとともに、信号線26−1〜26−mのそれぞれを介して与えられる画素G11〜Gmnから与えられる画像信号とノイズ信号をサンプルホールドする選択回路28−1〜28−mが設けられる。そして、補正回路29に選択回路28−1〜28−mから画像信号及びノイズ信号が順に送出されると、この補正回路29で補正処理が行われて、ノイズ除去された画像信号が外部に出力される。尚、定電流源27−1〜27−mの一端に直流電圧VPSが印加される。
このような固体撮像素子において、画素Gab(a:1≦a≦mの自然数、b:1≦b≦nの自然数)からの出力となる画像信号及びノイズ信号が、それぞれ、出力信号線26−aを介して出力されるとともに、この出力信号線26−aに接続された定電流源27−aによって増幅される。そして、画素Gabから出力された画像信号及びノイズ信号が順番に選択回路28−aに送出されるとともに、この選択回路28−aにおいて、送出された画像信号及びノイズ信号がサンプルホールドされる。その後、選択回路28−aより、サンプルホールドされた画像信号が補正回路29に送出された後、同じくサンプルホールドされたノイズ信号が補正回路29に送出される。補正回路29では、選択回路28−aより与えられた画像信号を、同じく選択回路28−aより与えられたノイズ信号に基づいて補正処理して、ノイズ除去した画像信号をアンプ3に出力する。
このような構成の固体撮像素子2において、画素G11〜Gmnは、図5に示すように、カソードに直流電圧VPDが印加されたフォトダイオードPDのアノードにMOSトランジスタT1のドレインが接続され、MOSトランジスタT1のソースにMOSトランジスタT2のゲート及びドレインとMOSトランジスタT3のゲートが接続される。又、MOSトランジスタT3のソースにMOSトランジスタT4のゲート及びMOSトランジスタT5のドレインが接続され、MOSトランジスタT4のソースにMOSトランジスタT6のドレインが接続される。そして、MOSトランジスタT6のドレインが出力信号線26(図4の出力信号線26−1〜26−mに相当する)に接続される。尚、MOSトランジスタT1〜T6は、PチャネルのMOSトランジスタである。
MOSトランジスタT2のソースにはライン25(図4のライン25−1〜25−nに相当する)を介して信号φVPSが入力され、MOSトランジスタT3,T4のドレインに直流電圧VPDが印加される。又、MOSトランジスタT3のソースには、その一端にライン24(図4のライン24−1〜24−nに相当する)を介して信号φVDが与えられるキャパシタCの他端が接続される。又、MOSトランジスタT5のソースには直流電圧VRGが入力され、そのゲートに信号φRSが入力される。更に、MOSトランジスタT1,T6のゲートにはそれぞれ、信号φS,φVが入力される。
尚、信号φVPSは2値の電圧信号で、入射光量が所定値を超えたときにMOSトランジスタT2をサブスレッショルド領域で動作させるための電圧をVLとし、又、この電圧よりも高くMOSトランジスタT2を導通状態にする電圧をVHとする。又、信号φVDは、3値の電圧信号であり、キャパシタCを積分動作させる際の電圧値を最も高いVhとし、画像信号読み出し時の電圧値をVhよりも低いVmとし、ノイズ信号読み出し時の電圧値をVmよりも低いVlとする。
このように構成される固体撮像素子2における画素G11〜Gmnの動作について、図6のフローチャートを参照して説明する。まず、電圧値Vmのパルス信号φVDとパルス信号φVが与えられて画像信号が出力されると、信号φVDをVhとした後、信号φSをハイにしてMOSトランジスタT1をOFFにして、リセット動作が始まる。次に、MOSトランジスタT2のソースに与える信号φVPSをVHにして、MOSトランジスタT2のソース電圧を高くすることで、MOSトランジスタT2のゲート及びドレイン、そしてMOSトランジスタT3のゲートに蓄積された負の電荷が速やかに再結合される。このとき、信号φRSをローとして、MOSトランジスタT5をONにして、キャパシタCとMOSトランジスタT4のゲートとの接続ノードの電圧を初期化する。
そして、MOSトランジスタT2のソースに与える信号φVPSをVLにして、MOSトランジスタT2のポテンシャル状態を基の状態に戻した後、信号φRSをハイにして、MOSトランジスタT5をOFFにする。その後、キャパシタCが積分動作を行って、キャパシタCとMOSトランジスタT4のゲートとの接続ノードの電圧が、リセットされたMOSトランジスタT2のゲート電圧に応じたものとなる。そして、パルス信号φVをMOSトランジスタT6のゲートに与えてMOSトランジスタT6をONにするとともに信号φVDの電圧値をVlにする。このとき、MOSトランジスタT4がソースフォロワ型のMOSトランジスタとして動作するため、出力信号線26にはノイズ信号が電圧信号として現れる。その後、再び、パルス信号φRSをMOSトランジスタT5に与えて、キャパシタCとMOSトランジスタT4のゲートとの接続ノードの電圧をリセットした後、信号φSをローにしてMOSトランジスタT1を導通させて撮像動作が行える状態にする。
このようにノイズ信号が出力された後、MOSトランジスタT1がONとされると、撮像動作が開始される。このとき、信号φRSをハイとして、MOSトランジスタT5をOFFとする。又、MOSトランジスタT2のソースに与える信号φVPSをVLとするとともに、キャパシタCに与える信号φVDの電圧値をVhとして、積分動作を行うようにする。そして、フォトダイオードPDより入射光量に応じた光電荷がMOSトランジスタT2に流れ込むと、MOSトランジスタT2はカットオフ状態であるので、光電荷がMOSトランジスタT2のゲートに蓄積される。
よって、撮像する被写体の輝度が低くフォトダイオードPDに入射される入射光量が少ない場合は、MOSトランジスタT2のゲートに蓄積された光電荷量に応じた電圧がMOSトランジスタT2のゲートに現れるため、入射光量の積分値に対して線形的に比例した電圧がMOSトランジスタT3のゲートに現れる。又、撮像する被写体の輝度が高くフォトダイオードPDに入射される入射光量が多く、MOSトランジスタT2のゲートに蓄積された光電荷量に応じた電圧が高くなると、MOSトランジスタT2がサブスレッショルド領域で動作を行うため、入射光量に対して自然対数的に比例した電圧がMOSトランジスタT3のゲートに現れる。
この入射光量に対して線形的に又は自然対数的に比例した電圧がMOSトランジスタT3で電流増幅されたドレイン電流がキャパシタCから流れるため、MOSトランジスタT4のゲート電圧が、入射光量の積分値に対して線形的又は自然対数的に比例した電圧となる。そして、信号φVDの電圧値をVmとするとともに、MOSトランジスタT6にパルス信号φVを与えることで、MOSトランジスタT4のゲート電圧に応じたソース電流が、MOSトランジスタT6を介して出力信号線26へ流れる。このとき、MOSトランジスタT4がソースフォロワ型のMOSトランジスタとして動作するため、出力信号線26には画像信号が電圧信号として現れる。その後、信号φVをハイにしてMOSトランジスタT6をOFFにするとともに、信号φVDの電圧値をVhとする。
このように動作するとき、撮像時の信号φVPSの電圧値VLが低くなり、リセット時の信号φVPSの電圧値VHとの差を大きくするほど、MOSトランジスタT2のゲート・ソース間のポテンシャルの差が大きくなり、MOSトランジスタT2がカットオフ状態で動作する被写体輝度の割合が大きくなる。よって、図7のように、電圧値VLが低いほど、線形変換する被写体輝度の割合が大きくなる。即ち、被写体の輝度範囲が狭いと電圧値VLを低くして、線形変換する輝度範囲を広くし、又、被写体の輝度範囲が広いと電圧値VLを高くして、対数変換する輝度範囲を広くする。よって、電圧値VLを最小とするとき、常に線形変換する状態とし、又、電圧値VLを最大とするとき、常に対数変換する状態とする。
このように動作する固体撮像素子2の画素G11〜Gmnに与える信号φVPSの電圧値VLの値を全体制御部13が切り換えることによって、被写体の輝度範囲に応じたダイナミックレンジを備えた固体撮像素子2とすることができる。即ち、全体制御部13が信号φVPSの電圧値VLの値を切り換えることで、固体撮像素子2の画素G11〜Gmnにおける線形変換動作から対数変換動作へ切り替わる変極点(輝度値)を設定することができる。尚、撮像時に対数変換動作に変わるときのMOSトランジスタT2のゲート電圧に至るまでにMOSトランジスタT2に流れ込む光電荷量が、全ての画素において等しい。
尚、本構成例では、図5のように構成される画素を備えた固体撮像素子としたが、このような構成に限られるものではなく、線形変換動作と対数変換動作が各画素において自動的に切り換えることが可能なものであれば、特許文献2に示されるような構成の画素などのような他の構成の画素より構成されるものとしても構わない。又、撮像時の信号φVPSの電圧値VLを変更することで線形変換動作と対数変換動作との変極点を変更するものとしたが、リセット時の信号φVPSの電圧値VHを変更することで線形変換動作と対数変換動作との変極点を変更するものとしても構わない。又、光電変換特性が暗時から明時に線形変換特性から対数変換特性に切り替わるものとしているが、暗時から明時に対数変換特性から線形変換特性に切り替わるものとしても構わない。又、光電変換特性が線形変換特性と対数変換特性との間で切り替わるものとしているが、常に線形変換動作を行うとともにそのゲインが切り替わるものとしても構わない。更に、各画素にRGBフィルタを備えるものとしたが、シアン(Cyan)、マゼンタ(Magenta)、イエロー(Yellow)などの他の色フィルタを備えるものとしても構わない。
このような共通の構成を備える撮像装置の各実施形態について、以下に説明する。尚、以下の各実施形態における撮像装置はそれぞれ、FPN補正回路の構成が異なるものであるので、以下の各実施形態では、この構成の異なるFPN補正回路について説明する。
<第1の実施形態>
本発明の第1の実施形態について、図面を参照して説明する。尚、図8は、本実施形態の撮像装置におけるFPN補正回路の内部構成を示すブロック図である。
本実施形態の撮像装置におけるFPN補正回路6a(図1のFPN補正回路6に相当する)は、図8に示すように、黒基準補正回路5から与えられる均一光照射時のRGB信号及びFPN成分抽出部64で得られたFPN成分が各画素毎に格納される画像メモリ61と、画像メモリ61の書き込み及び読み出し制御を行うメモリ制御部62と、均一光照射時のRGB信号それぞれの平均値を求める平均値演算部63と、均一光を照射したときのRGB信号とその平均値により固体撮像素子2の各画素のFPN成分を抽出するFPN成分抽出部64と、画像メモリ61に格納したFPN成分に基づいて被写体撮像時のRGB信号から各画素のFPN成分を除去するFPN成分除去部65と、黒基準補正回路5から与えられるRGB信号それぞれの値より撮像動作が線形変換動作か対数変換動作を確認する比較器66と、黒基準補正回路5から与えられるRGB信号をメモリ制御部62及びFPN成分除去部65のいずれに送出するか選択するためのスイッチSW1と、メモリ制御部62によって読み出された信号を平均値演算部63及びFPN成分抽出部64及びFPN成分除去部65のいずれに送出するか選択するためのスイッチSW2と、を備える。
又、画像メモリ61は、固体撮像素子2が線形変換動作を行ったときに得られたFPN成分を格納する線形変換用メモリ61aと、固体撮像素子2が対数変換動作を行ったときに得られたFPN成分を格納する対数変換用メモリ61bと、を備える。即ち、固体撮像素子2に低い輝度の均一光を入射したときに得られる各画素のFPN成分が線形変換用メモリ61aに格納されるとともに、固体撮像素子2に高い輝度の均一光を入射したときに得られる各画素のFPN成分が対数変換用メモリ61bに格納される。メモリ61a,61bは、フラッシュメモリなどの不揮発性のものであり、取得されたFPN成分を表すデータを保持し続ける。
このようにFPN補正回路6aが構成されるとき、固体撮像素子2に対して工場出荷時などにおいて、輝度の低い均一光が照射されて線形変換動作時のFPN成分がFPN補正回路6aで抽出されるとともに、輝度の高い均一光が照射されて対数変換動作時のFPN成分がFPN補正回路6aで抽出される。即ち、線形変換動作時及び対数変換動作時それぞれのFPN成分を抽出するために、輝度の低い均一光(以下、「低輝度均一光」とする)と輝度の高い均一光(以下、「高輝度均一光」とする)とによって固体撮像素子2に2回均一光が照射されるとともに、FPN補正回路6aにおいて2回FPN成分の抽出動作が行われる。
このとき、このFPN補正回路6aにおけるFPN成分の抽出動作については、低輝度均一光が照射されたときに得られた線形変換動作時のFPN成分(線形変換用FPN成分)が線形変換用メモリ61aに格納されるとともに、高輝度均一光が照射されたときに得られた対数変換動作時のFPN成分(対数変換用FPN成分)が対数変換用メモリ61bに格納される以外の動作が同じ動作となる。よって、以下では、線形変換用FPN成分の抽出動作について、図9のフローチャートを参照して説明する。尚、均一光照射時においても、通常の撮像時と同様、固体撮像素子2の各画素G11〜Gmnが図6の状態遷移図に従って動作する。
固体撮像素子2に低輝度均一光が照射されることで得られたRGB信号が、黒基準補正回路5から出力されると、線形変換用FPN成分の抽出動作が行われる。このFPN成分の抽出動作が行われるとき、FPN補正回路6aでは、まず、黒基準補正回路5から与えられるRGB信号がメモリ制御部62に送出されるように、スイッチSW1の接点を切り換える(STEP1)。次に、RGB信号がメモリ制御部62から平均値演算部63に送出されるように、スイッチSW2の接点を切り換える(STEP2)。
そして、黒基準補正回路5から与えられるRGB信号がスイッチSW1を介してメモリ制御部62に与えられ、各画素毎に画像メモリ61の線形変換用メモリ61aに格納される(STEP3)。又、メモリ制御部62よりRGB信号が平均値演算部63に与えられることによって、RGB信号それぞれの平均値rav,gav,bavが求められるとともに平均値演算部63内に格納される(STEP4)。具体的には、メモリ制御部62に与えられたRGB信号は、線形変換用メモリ61a及び平均値演算部63に与えられる。そして、平均値演算部63において、メモリ制御部62より与えられたRGB信号は、それぞれの信号が与えられる毎に加算する。その後、メモリ制御部62により全てのRGB信号が線形変換用メモリ61a及び平均値演算部63に与えられたとき、平均値演算部63では、RGB信号それぞれの加算された値が各信号を出力する画素数で除算することで平均値rav,gav,bavが求められて格納される。
よって、色フィルタが画素G11〜G44に対して図2のように設けられているとき、画素G11,G31,G13,G33に対して低輝度均一光照射時のR信号rb11,rb31,rb13,rb33が、画素G21,G41,G12,G32,G23,G43,G14,G34に対してG信号gb21,gb41,gb12,gb32,gb23,gb43,gb14,gb34が、画素G22,G42,G24,G44に対してB信号bb22,bb42,bb24,bb44が、それぞれ画像メモリ61に格納される。そして、平均値演算回路63において、R信号の平均値rav=(rb11+rb31+rb13+rb33)/4が、G信号の平均値gav=(gb21+gb41+gb12+gb32+gb23+gb43+gb14+gb34)/8が、B信号の平均値bav=(bb22+bb42+bb24+bb44)/4が求められて格納される。
このように、低輝度均一光照射時における各画素のRGB信号を線形変換用メモリ61aに格納するとともに、その平均値rav,gav,bavを平均値演算部63に格納すると、メモリ制御部62によって線形変換用メモリ61aから読み出されたRGB信号がFPN成分抽出部64に送出されるように、スイッチSW2の接点を切り換える(STEP5)。その後、メモリ制御部62により線形変換用メモリ61aからRGB信号が読み出されると、スイッチSW2を介して読み出されたRGB信号がFPN成分抽出部64に与えられ、平均値演算部63から与えられるRGB信号の平均値が減算されて、各画素の線形変換用FPN成分が抽出される(STEP6)。このように画素毎に抽出された線形変換用FPN成分は、メモリ制御部62に与えられた後、メモリ制御部62によって各画素毎に線形変換用メモリ61aに格納される。
このとき、FPN成分抽出部64は、図10のように、メモリ制御部62によって画像メモリ61より読み出されたRGB信号それぞれが入力される減算回路64r,64g,64bを備える。そして、この減算回路64r,64g,64bそれぞれに対して平均値演算部63よりRGB信号の平均値rav,gav,bavが入力される。よって、色フィルタが画素G11〜G44に対して図2のように設けられているとき、画素G11,G31,G13,G33におけるR信号rb11,rb31,rb13,rb33がそれぞれ減算回路64rに与えられて、R信号の平均値ravが減算されると、画像メモリ61では、線形変換用メモリ61aに、画素G11,G31,G13,G33に対して線形変換用FPN成分f11=rb11−rav,f31=rb31−rav,f13=rb13−rav,f33=rb33−ravが格納される。
同様に、画素G21,G41,G12,G32,G23,G43,G14,G34におけるG信号gb21,gb41,gb12,gb32,gb23,gb43,gb14,gb34がそれぞれ減算回路64gに与えられて、G信号の平均値gavが減算されると、画像メモリ61では、線形変換用メモリ61aに、画素G21,G41,G12,G32,G23,G43,G14,G34に対して線形変換用FPN成分f21=gb21−gav,f41=gb41−gav,f12=gb12−gav,f32=gb32−gav,f23=gb23−gav,f43=gb43−gav,f14=gb14−gav,f34=gb34−gavが格納される。又、画素G22,G42,G24,G44におけるB信号bb22,bb42,bb24,bb44がそれぞれ減算回路64bに与えられて、B信号の平均値bavが減算されると、画像メモリ61では、線形変換用メモリ61aに、画素G22,G42,G24,G44に対して線形変換用FPN成分f22=bb22−bav,f42=bb42−bav,f24=bb24−bav,f44=bb44−bavが格納される。
このように、低輝度均一光照射時のRGB信号それぞれに対してRGB信号それぞれの平均値rav,gav,bavを減算した値を線形変換用FPN成分として抽出することで、抽出した線形変換動作時のFPN成分を、低輝度均一光照射時に格納された各画素のRGB信号より各色フィルタの透過率によるオフセットを除いた値とすることができる。即ち、図2の例の場合、低輝度均一光照射時に黒基準補正回路5より与えられる画素G11〜G44によるRGB信号の値が図11(a)の実線のようになるとき、図11(a)の点線で表されるRGB信号それぞれの平均値rav,gav,bavが減算される。よって、抽出される画素G11〜G44の線形変換用FPN成分が図11(b)のようになり、各色フィルタの透過率によるオフセットを除いた値とすることができる。
このようにして、低輝度均一光照射時に得られたRGB信号より線形変換用FPN成分を各画素毎に抽出して、線形変換用メモリ61aに格納すると、次に、高輝度均一光が固体撮像素子2に照射されて、FPN補正回路6aにおいて、対数変換用FPN成分の抽出動作が行われる。このFPN補正回路6aにおいて、高輝度均一光照射時における対数変換用FPN成分の抽出動作が行われるとき、上述した低輝度均一光照射時における線形変換用FPN成分の抽出動作と同様、図9のフローチャートに従って動作が行われる。このとき、メモリ制御部62によって画像メモリ61内の対数変換用メモリ61bの書き込み制御及び読み出し制御が行われるとともに、スイッチSW1,SW2及び平均値演算部63及びFPN成分抽出部64が、線形変換用FPN成分の抽出動作時と同一の動作を行う。
即ち、高輝度均一光照射時に黒基準補正回路5から与えられるRGB信号が、対数変換用メモリ61bに格納されるとともに、平均値演算部63に与えられてRGB信号の平均値が求められる。そして、対数変換用メモリ61b内のRGB信号と平均値演算部63で求められたRGB信号の平均値とが、FPN成分抽出部64に与えられて、対数変換用FPN成分が求められる。この得られた各画素毎に対数変換用FPN成分が、対数変換用メモリ61bに格納される。
このようにして線形変換用FPN成分及び対数変換用FPN成分がそれぞれ、FPN成分抽出部64で抽出されて、画像メモリ61の線形変換用メモリ61a及び対数変換用メモリ61bそれぞれに格納されると、黒基準補正回路5から与えられるRGB信号がFPN成分除去部65に送出されるように、スイッチSW1の接点を切り換える。そして、次に、メモリ制御部62によって画像メモリ61から読み出されたFPN成分がFPN成分除去部65に送出されるように、スイッチSW2の接点を切り換える。このようにすることで、通常動作時に得られたRGB信号が黒基準補正回路5から与えられるとき、これらのRGB信号は、FPN成分除去部65において各画素毎に画像メモリ61に記憶されているFPN成分が除去される。
このFPN成分除去部65を用いたFPN成分除去動作について、以下に説明する。固体撮像素子2において撮像動作が行われることで得られた各画素のRGB信号が、黒基準補正回路5からFPN補正回路6aに与えられると、スイッチSW1を介して、FPN成分除去部65及び比較器66に与えられる。そして、比較器66では、図12のように、黒基準補正回路5から与えられるRGB信号がそれぞれ比較器66r,66g,66bに入力される。この比較器66r,66g,66bそれぞれには、全体制御部13よりRGB信号それぞれに対する光電変換特性の変極点となる信号の値Vrth,Vgth,Vbthが与えられる。
よって、比較器66rにおいて、黒基準補正回路5から与えられるR信号の値と変極点となる値Vrthを比較して、R信号の値が変極点の値Vrth以上となるときは、与えられたR信号が対数変換特性による信号であるものとし、R信号の値が変極点の値Vrthより小さいときは、与えられたR信号が線形変換特性による信号であるものとする。同様に、比較器66gにおいて、G信号の値が変極点の値Vgth以上となるときは、与えられたG信号が対数変換特性による信号であるものとし、G信号の値が変極点の値Vgthより小さいときは、与えられたG信号が線形変換特性による信号であるものとする。又、比較器66bにおいて、B信号の値が変極点の値Vbth以上となるときは、与えられたB信号が対数変換特性による信号であるものとし、B信号の値が変極点の値Vbthより小さいときは、与えられたB信号が線形変換特性による信号であるものとする。
このように比較器66内において各画素毎に比較器66r〜66bが動作することで、各画素からのRGB信号それぞれに対して、線形変換特性による信号と対数変換特性による信号のいずれかであるか判断される。そして、この比較器66r〜66bからの比較結果が各画素毎に比較器66よりメモリ制御部62に与えられると、メモリ制御部62では、その比較結果に応じて、画像メモリ61の線形変換用メモリ61a及び対数変換用メモリ61bそれぞれに格納された線形変換用FPN成分及び対数変換用FPN成分のいずれを読み出すかを決定する。
又、FPN成分除去部65では、図13のように、黒基準補正回路5から与えられるRGB信号がそれぞれ減算回路65r,65g,65bに入力される。そして、黒基準補正回路5からのR信号が入力される減算回路65rでは、そのR信号を出力した画素のFPN成分がメモリ制御部62より与えられて、R信号からFPN成分を減算する。又、黒基準補正回路5からのG信号が入力される減算回路65gでは、そのG信号を出力した画素のFPN成分がメモリ制御部62より与えられて、G信号からFPN成分を減算する。又、黒基準補正回路5からのB信号が入力される減算回路65bでは、そのB信号を出力した画素のFPN成分がメモリ制御部62より与えられて、B信号からFPN成分を減算する。
よって、色フィルタが画素G11〜G44に対して図2のように設けられているとき、画素G11,G31,G13,G33におけるR信号r11,r31,r13,r33がそれぞれ、黒基準補正回路5から減算回路65rに入力されるとき、画像メモリ61より読み出された画素G11,G31,G13,G33におけるFPN成分f11,f31,f13,f33がメモリ制御部62から減算回路65rに与えられる。そして、減算回路65rから、画素G11,G31,G13,G33に対するR信号がそれぞれ、r11−f11、r31−f31、r13−f13、r33−f33となり、FPN補正されてAE・WB評価値検出回路7及びWB制御回路8に出力される。
又、画素G21,G41,G12,G32,G23,G43,G14,G34におけるG信号g21,g41,g12,g32,g23,g43,g14,g34がそれぞれ、黒基準補正回路5から減算回路65gに入力されるとき、画像メモリ61より読み出された画素G21,G41,G12,G32,G23,G43,G14,G34におけるFPN成分f21,f41,f12,f32,f23,f43,f14,f34がメモリ制御部62から減算回路65gに与えられる。そして、減算回路65gから、画素G21,G41,G12,G32,G23,G43,G14,G34に対するG信号がそれぞれ、g21−f21、g41−f41、g12−f12、g32−f32、g23−f23、g43−f43、g14−f14、g34−f34となり、FPN補正されてAE・WB評価値検出回路7及びWB制御回路8に出力される。
又、画素G22,G42,G24,G44におけるB信号b22,b42,b24,b44がそれぞれ、黒基準補正回路5から減算回路65bに入力されるとき、画像メモリ61より読み出された画素G22,G42,G24,G44におけるFPN成分f22,f42,f24,f44がメモリ制御部62から減算回路65bに与えられる。そして、減算回路65bから、画素G22,G42,G24,G44に対するB信号がそれぞれ、b22−f22、b42−f42、b24−f24、b44−f44となり、FPN補正されてAE・WB評価値検出回路7及びWB制御回路8に出力される。
よって、上述のように動作する画像メモリ61、メモリ制御部62、FPN成分除去部65、及び比較器66の関係が、図14のように表される。即ち、メモリ制御部62に相当するセレクタ100が、比較器66の比較結果に応じて、画像メモリ61より、線形変換用メモリ61a内の線形変換用FPN成分と対数変換用メモリ61b内の対数変換用FPN成分のいずれかを選択し、FPN成分除去部65に相当する減算器101に与える。このとき、各画素から出力される信号毎にFPN成分除去動作が行われる。
よって、比較器66によって黒基準補正回路5より与えられる信号が線形変換動作時の信号であることが確認されると、メモリ制御部62であるセレクタ100が、線形変換用メモリ61a内の線形変換用FPN成分を選択して、FPN成分除去部65となる減算器101に与えられる。そして、この減算器101において、黒基準補正回路5より与えられる信号が同一画素の線形変換用FPN成分を減算することで、FPN成分が除去された信号が出力される。又、比較器66によって黒基準補正回路5より与えられる信号が対数変換動作時の信号であることが確認されると、セレクタ100が、対数変換用メモリ61b内の対数変換用FPN成分を選択して、減算器101に与えられる。そして、この減算器101において、黒基準補正回路5より与えられる信号が同一画素の対数変換用FPN成分を減算することで、FPN成分が除去された信号が出力される。
本実施形態において、上述のようにFPN補正回路6aがFPN成分を除去する際、黒基準補正回路5から出力される信号が線形変換特性又は対数変換特性のいずれによる信号であるかを確認し、それぞれの光電変換特性に応じたFPN成分により動作することができる。そのため、更に、上述のようにFPN補正回路6aがRGB信号毎に動作することによって、FPN補正が施されたRGB信号には、色フィルタの透過率の差によって生じるオフセットが含まれることとなり、色フィルタの透過率の差によって生じるオフセットを含めて除去した場合と比べて、後段のWB制御回路8における演算処理を単純化することができる。
<第2の実施形態>
本発明の第2の実施形態について、図面を参照して説明する。尚、図15は、本実施形態の撮像装置におけるFPN補正回路の内部構成を示すブロック図である。又、図15のFPN補正回路において、図8のFPN補正回路と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。
本実施形態の撮像装置におけるFPN補正回路6b(図1のFPN補正回路6に相当する)は、図15に示すように、図8の構成と異なり、比較器66が除かれるとともに、スイッチSW2を介してFPN成分除去部65に与えられるFPN成分を増幅するFPN成分増幅部67が付加される。又、画像メモリ61には、第1の実施形態と異なり、1種類の均一光が照射されたときに得られるFPN成分が格納される。即ち、本実施形態の撮像装置においては、FPN成分抽出動作が一度だけ行われ、第1の実施形態のように、均一光の輝度値を変更してFPN成分抽出動作を二度行うことがない。
このようにFPN補正回路6bが構成されるとき、第1の実施形態と同様、固体撮像素子2に均一光が照射されると、FPN補正回路6bが図9のフローチャートに従って動作することで、黒基準補正回路5より与えられるRGB信号より各画素のFPN成分が抽出される。即ち、黒基準補正回路5から出力されるRGB信号が、画素毎にスイッチSW1を介してメモリ制御部62に与えられると、画像メモリ61に格納されるとともに、スイッチSW2を介して平均値演算部63に与えられる。そして、平均値演算部63では、RGB信号毎の平均値が求められる。
そして、黒基準補正回路5より固体撮像素子2を構成する全ての画素からの信号が与えられて画像メモリ61に格納すると、スイッチSW2を介して画像メモリ61内のRGB信号を各画素毎に読み出してFPN成分抽出部64に与える。このFPN成分抽出部64では、各画素毎に、RGB信号それぞれから平均値演算部63で求められたRGB信号それぞれの平均値を減算して、各画素におけるFPN成分を抽出する。このようにして得られた各画素のFPN成分は、メモリ制御部62に与えられて画像メモリ61に格納される。
このようにして、各画素のFPN成分が画像メモリ61に格納されると、固体撮像素子2が撮像動作したときに得られる黒基準補正回路5からのRGB信号がFPN成分除去部65に与えられて、各画素のRGB信号よりFPN成分が除去される。このとき、全体制御部13よりFPN成分増幅部67に対して、固体撮像素子2内に設けられた内部アンプやアンプ3に対して設定された増幅率を示すゲイン情報が与えられる。そして、FPN成分増幅率67では、このゲイン情報によって、メモリ制御部62によって画像メモリ61より読み出されるとともにスイッチSW2を介して与えられるFPN成分を増幅する増幅率が設定される。
即ち、固体撮像素子2に均一光が入射されてFPN補正回路6bでFPN成分抽出動作が行われるとき、固体撮像素子2内の内部アンプの増幅率が1.0であるとともに、アンプ3の増幅率が2.0であったとする。そして、撮像動作を行う際に、固体撮像素子2内の内部アンプの増幅率を1.0とするとともに、アンプ3の増幅率を4.0とすると、これらの増幅率を表すゲイン情報がFPN補正回路6bのFPN成分増幅部67に与えられる。このようなゲイン情報が与えられるFPN成分増幅部67では、スイッチSW2を介して与えられるFPN成分を増幅する増幅率を2.0と設定する。即ち、FPN成分抽出動作時における固体撮像素子2の内部アンプ及びアンプ3の増幅率に対する撮像時の増幅率の変化に基づいて、FPN成分増幅部67における増幅率が設定される。
このようにして、FPN成分増幅部67における増幅率が設定されると、各画素毎に画像メモリ61より読み出されたFPN成分がメモリ制御部62からスイッチSW2を介して与えられる。そして、このFPN成分増幅部67において、スイッチSW2に与えられた各画素のFPN成分を、設定された増幅率で増幅して、FPN成分除去部65に送出する。このFPN成分増幅部67で増幅された各画素のFPN成分が、FPN成分除去部65に与えられて、黒基準補正部5より与えられる各画素のRGB信号より減算されると、FPN成分が除去されたRGB信号が画素毎にWB制御部8に出力される。
よって、上述のように動作する画像メモリ61、FPN成分除去部65、及びFPN成分増幅部67の関係が、図16のように表される。尚、図16において、図14と同一の部分については同一の符号を付す。即ち、FPN成分増幅部67に相当する乗算器102が、画像メモリ61より読み出されたFPN成分に対して、固体撮像素子2の内部アンプ及びアンプ3それぞれの増幅率の変化量に応じた値を乗算係数として乗算する。この乗算されたFPN成分が、FPN成分除去部65に相当する減算器101に与えられて、各画素から出力される信号毎にFPN成分除去動作が行われる。
本実施形態において、上述のようにFPN補正回路6bが動作することによって、固体撮像素子2の内部アンプ及びアンプ3それぞれの増幅率の変化に応じたFPN補正を行うことができる。そのため、第1の実施形態と異なり、固体撮像素子2やアンプ3の動作設定が変更された場合においても、FPN成分の抽出動作を再度行う必要がなくなる。
<第3の実施形態>
本発明の第3の実施形態について、図面を参照して説明する。尚、図17は、本実施形態の撮像装置におけるFPN補正回路の内部構成を示すブロック図である。又、図17のFPN補正回路において、図8及び図15のFPN補正回路と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。
本実施形態の撮像装置におけるFPN補正回路6c(図1のFPN補正回路6に相当する)は、図17に示すように、図8の構成に、図15のFPN補正回路6bに備えられたFPN成分増幅部67が付加された構成となる。即ち、本実施形態においては、第1の実施形態と同様、低輝度均一光及び高輝度均一光の2種類の均一光を固体撮像素子2に照射することで、線形変換用FPN成分と対数変換用FPN成分を抽出する。又、第2の実施形態と同様、固体撮像素子2内の内部アンプとアンプ3それぞれの増幅率の変化に応じてFPN成分を変化させて、RGB信号からのFPN成分の除去を行う。
このようにFPN補正回路6cが構成されるとき、第1の実施形態と同様、固体撮像素子2に低輝度均一光及び高輝度均一光それぞれが照射されると、FPN補正回路6cが図9のフローチャートに従って動作する。そして、低輝度均一光照射時において、黒基準補正回路5より与えられるRGB信号より各画素の線形変換用FPN成分が抽出されて、この線形変換用FPN成分が線形変換用メモリ61aに格納され、又、高輝度均一光照射時において、黒基準補正回路5より与えられるRGB信号より対数変換用FPN成分が抽出されて、この対数変換用FPN成分が対数変換用メモリ61bに格納される。
このようにして、各画素の線形変換用FPN成分及び対数変換用FPN成分が得られて画像メモリ61内に格納されると、固体撮像素子2において撮像動作が行われる。この撮像動作時のRGB信号が各画素毎に黒基準補正回路5より与えられると、比較器66において与えられたRGB信号の信号値より、その信号を出力した画素の光電変換特性が線形変換特性及び対数変換特性のいずれであるか確認される。そして、線形変換特性であるものと判断された場合は、メモリ制御部62によって画像メモリ61から線形変換用FPN成分が読み出されて、スイッチSW2を介してFPN成分増幅部67に与えられる。又、同様に、対数変換特性であるものと判断された場合は、メモリ制御部62によって画像メモリ61から対数変換用FPN成分が読み出されて、スイッチSW2を介してFPN成分増幅部67に与えられる。
そして、FPN成分増幅部67では、固体撮像素子2内に設けられた内部アンプやアンプ3における増幅率の変化に基づいて設定された増幅率によって、スイッチSW2を介してメモリ制御部62より与えられる線形変換用FPN成分又は対数変換用FPN成分を増幅する。このようにしてFPN成分増幅部67で増幅された線形変換用FPN成分又は対数変換用FPN成分と、黒基準補正回路5より出力されるRGB信号とが、同一の画素のものとなるように同期されてFPN成分除去部65に与えられる。そして、FPN成分除去部65において、このFPN成分とRGB信号との減算処理が行われることによって、FPN成分が除去されたRGB信号が画素毎にWB制御部8に出力される。
よって、上述のように動作する画像メモリ61、メモリ制御部62、FPN成分除去部65、比較器66、及びFPN成分増幅部67の関係が、図18のように表される。尚、図18において、図14及び図16と同一の部分については同一の符号を付す。即ち、メモリ制御部62に相当するセレクタ100が、比較器66の比較結果に応じて、画像メモリ61より線形変換用FPN成分と対数変換用FPN成分のいずれかを選択する。そして、FPN成分増幅部67に相当する乗算器102が、セレクタ100で選択されたFPN成分に対して、固体撮像素子2の内部アンプ及びアンプ3それぞれの増幅率の変化量に応じた値を乗算係数として乗算する。この乗算されたFPN成分が、FPN成分除去部65に相当する減算器101に与えられて、各画素から出力される信号毎にFPN成分除去動作が行われる。
このように、本実施形態においては、第1の実施形態と同様、画素の光電変換特性に応じたFPN成分を用いてFPN成分の除去を行うことができるとともに、更に、このFPN成分を、第2の実施形態と同様、固体撮像素子2の内部アンプ及びアンプ3の増幅率の変化に応じて変化させることができる。よって、第2の実施形態と同様、固体撮像素子2やアンプ3の動作設定が変更された場合においても、FPN成分の抽出動作を再度行う必要がなくなる。
<第4の実施形態>
本発明の第4の実施形態について、図面を参照して説明する。尚、図19は、本実施形態の撮像装置におけるFPN補正回路の内部構成を示すブロック図である。又、図19のFPN補正回路において、図17のFPN補正回路と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。
本実施形態の撮像装置におけるFPN補正回路6d(図1のFPN補正回路6に相当する)は、図19に示すように、図17の構成における比較器66の代わりに、1フレーム分の信号より得られるヒストグラムを解析するヒストグラム解析部68が設けられた構成となる。又、ヒストグラム解析部68は、図20に示すように、黒基準補正回路5より出力されるRGB信号それぞれが与えられてRGB信号それぞれのヒストグラムを形成するヒストグラム形成部68r,68g,68bと、ヒストグラム形成部68r,68g,68bで得られたRGB信号それぞれのヒストグラムより得られる線形変換動作及び対数変換動作それぞれを行う画素数(度数)の大小を比較する判定部68aと、を備える。
このようにFPN補正回路6dが構成されるとき、第1の実施形態と同様、固体撮像素子2に低輝度均一光及び高輝度均一光それぞれを固体撮像素子2に照射するとともに、FPN補正回路6dが図9のフローチャートに従って動作することで、線形変換用FPN成分と対数変換用FPN成分とを抽出する。そして、このようにして抽出された線形変換用FPN成分と対数変換用FPN成分とをそれぞれ、画像メモリ61の線形変換用メモリ61aと対数変換用メモリ61bに格納する。
このようにして、各画素の線形変換用FPN成分及び対数変換用FPN成分が得られて画像メモリ61内に格納されると、固体撮像素子2において撮像動作が行われる。この撮像動作時のRGB信号が各画素毎に黒基準補正回路5より与えられると、スイッチSW1を介してヒストグラム解析部68及びFPN成分除去部65に入力される。そして、ヒストグラム解析部68では、RGB信号それぞれがヒストグラム形成部68r,68g,68bそれぞれに与えられ、その値が確認されることで、RGB信号それぞれにおける各輝度に対する度数を表すヒストグラムが形成される。
即ち、ヒストグラム形成部68rでは、R信号を出力する全画素の値を確認することで、各輝度値に対する画素数に相当する度数を確認し、R信号に対するヒストグラムが形成される。同様に、ヒストグラム形成部68g,68bそれぞれにおいては、G信号及びB信号それぞれを出力する全画素の値を確認することで、G信号及びB信号それぞれに対するヒストグラムが形成される。このように、ヒストグラム形成部68r〜68bにおいてRGB信号それぞれのヒストグラムが形成されると、このRGB信号のヒストグラムが判定部68aに与えられる。
そして、判定部68aにおいて、RGB信号それぞれのヒストグラムを確認することで、低輝度側に度数が多い場合は、線形変換特性による撮像が行われたものと判定し、又、高輝度側に度数が多い場合は、対数変換特性による撮像が行われたものと判定する。即ち、RGB信号それぞれの出力値に対して、光電変換特性の変わる変極点として閾値Vrth,Vgth,Vbthを設けたとき、RGB信号それぞれのヒストグラムより、閾値Vrth,Vgth,Vbth以下の値における度数(「低輝度側の度数」とする)と、閾値Vrth,Vgth,Vbthより大きい値における度数(「高輝度側の度数」とする)とを確認する。そして、得られた低輝度側及び高輝度側それぞれの度数を比較して、低輝度側の度数が多いとき、線形変換特性による撮像が行われたものと判定し、又、高輝度側の度数が多いときは、対数変換特性による撮像が行われたものと判定する。
この判定部68aにおける判定結果が、ヒストグラム解析部68からメモリ制御部62に送出される。よって、ヒストグラム解析部68において、線形変換特性による撮像が行われたものと判定されたとき、メモリ制御部62によって画像メモリ61より線形変換用メモリ61aに格納された線形変換用FPN成分が読み出され、又、対数変換特性による撮像が行われたものと判定されたとき、メモリ制御部62によって画像メモリ61より対数変換用メモリ61bに格納された対数変換用FPN成分が読み出される。
このようにして、読み出された線形変換用FPN成分又は対数変換用FPN成分が、スイッチSW2を介してFPN成分増幅部67において、固体撮像素子2内の内部アンプとアンプ3それぞれの増幅率の変化に応じてFPN成分を変化された後、FPN成分除去部65に与えられる。そして、FPN成分除去部65において、このFPN成分とRGB信号との減算処理が行われることによって、FPN成分が除去されたRGB信号が画素毎にWB制御部8に出力される。
よって、上述のように動作する画像メモリ61、メモリ制御部62、FPN成分除去部65、FPN成分増幅部67、及びヒストグラム解析部68の関係が、図21のように表される。尚、図21において、図18と同一の部分については同一の符号を付す。即ち、セレクタ100が、ヒストグラム解析部68の判定結果に応じて、画像メモリ61より線形変換用FPN成分と対数変換用FPN成分のいずれかを選択する。そして、乗算器102において、セレクタ100で選択されたFPN成分に対して、設定した乗算係数が乗算された後に、FPN成分除去部65に相当する減算器101に与えられて、各画素から出力される信号毎にFPN成分除去動作が行われる。
このように、本実施形態においては、第3の実施形態と異なり、1フレームを構成するRGB信号それぞれのヒストグラムに基づいて、固体撮像素子2においてより多くの画素が行っている光電変換特性に応じたFPN成分を用いて、各画素の信号よりFPN成分の除去を行う。即ち、線形変換動作を行う画素の割合が多い場合は、全ての画素に対して、線形変換用FPN成分が選択され、又、対数変換動作を行う画素の割合が多い場合は、全ての画素に対して、対数変換用FPN成分が選択される。
<第5の実施形態>
本発明の第5の実施形態について、図面を参照して説明する。尚、図22は、本実施形態の撮像装置におけるFPN補正回路の内部構成を示すブロック図である。又、図22のFPN補正回路において、図19のFPN補正回路と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。
本実施形態の撮像装置におけるFPN補正回路6e(図1のFPN補正回路6に相当する)は、図22に示すように、画像メモリ61が線形変換用メモリ61aのみを備えるとともに、図19の構成に、線形変換用メモリ61aより読み出された線形変換用FPN成分を対数変換用FPN成分に変換する線形/対数変換部69と、メモリ制御部62によって読み出された線形変換用FPN成分をFPN成分増幅部67と線形/対数変換部69のいずれに出力するか切り換えるスイッチSW3と、を付加した構成となる。
このようにFPN補正回路6eが構成されるとき、第4の実施形態と異なり、固体撮像素子2に低輝度均一光のみを固体撮像素子2に照射するとともに、FPN補正回路6eが図9のフローチャートに従って動作することで、線形変換用FPN成分を抽出して、画像メモリ61の線形変換用メモリ61aに格納する。その後、固体撮像素子2において撮像動作が開始され、RGB信号が各画素毎に黒基準補正回路5より与えられると、スイッチSW1を介してヒストグラム解析部68及びFPN成分除去部65に入力される。
そして、ヒストグラム解析部68では、RGB信号のヒストグラムを形成し、低輝度側の度数と高輝度側の度数とを比較することにより、線形変換特性及び対数変換特性のいずれで撮像された割合が高いか判定する。このとき、低輝度側の度数が多く、線形変換特性による撮像が行われたものと判定した場合は、スイッチSW3の接点をFPN成分増幅部67側に接続する。よって、メモリ制御部62によって読み出された線形変換用FPN成分が、画素毎にFPN成分増幅部67に与えられて増幅された後、FPN成分除去部65に送出される。
又、高輝度側の度数が多く、対数変換特性による撮像が行われたものと判定した場合は、スイッチSW3の接点を線形/対数変換部69側に接続する。よって、メモリ制御部62によって読み出された線形変換用FPN成分が、画素毎に線形/対数変換部69に与えられるため、画素毎に与えられる線形変換用FPN成分が対数変換用FPN成分に変換される。そして、この線形/対数変換部69で得られた各画素の対数変換用FPN成分が画素毎にFPN成分増幅部67に与えられて増幅された後、FPN成分除去部65に送出される。
このように、ヒストグラム解析部68の判定結果に応じて、画像メモリ61内の線形変換用FPN成分をFPN成分除去に使用するか、又は、この線形変換用FPN成分に基づいて線形/対数変換部69で得られた対数変換用FPN成分をFPN成分除去に使用するかを決定する。そのため、FPN成分除去部65では、第4の実施形態と同様、ヒストグラム解析部68の判定結果に応じて、フィールド毎に設定される線形変換用FPN成分又は対数変換用FPN成分のいずれかを用いて、各画素のRGB信号よりFPN成分を除去する。
よって、上述のように動作する画像メモリ61、メモリ制御部62、FPN成分除去部65、FPN成分増幅部67、ヒストグラム解析部68、線形/対数変換部69、及びスイッチSW3の関係が、図23のように表される。尚、図23において、図21と同一の部分については同一の符号を付す。即ち、セレクタ100の代わりに、線形/対数変換部69とスイッチSW3とで構成されるFPN成分変換部103が設置された構成となり、このFPN成分変換部103に対してヒストグラム解析部68が判定結果を送出する。
このとき、FPN成分変換部103において、低輝度側の度数が多い場合は、画像メモリ61より読み出した線形変換用FPN成分をそのまま乗算器102に出力し、又、高輝度側の度数が多い場合は、画像メモリ61より読み出した線形変換用FPN成分を対数変換用FPN成分に変換して、乗算器102に出力する。そして、乗算器102において、FPN成分変換部103から出力されたFPN成分に対して、設定した乗算係数が乗算された後に、FPN成分除去部65に相当する減算器101に与えられて、各画素から出力される信号毎にFPN成分除去動作が行われる。
このように、本実施形態においては、第4の実施形態と同様、1フレームを構成するRGB信号それぞれのヒストグラムに基づいて、固体撮像素子2においてより多くの画素が行っている光電変換特性に応じたFPN成分を用いて、各画素の信号よりFPN成分の除去を行う。又、第4の実施形態と異なり、低輝度均一光のみによるFPN成分抽出動作を行って得た線形変換用FPN成分のみを記憶するため、FPN成分抽出動作にかかる時間を低減するとともに、画像メモリ61の記憶容量を小さくすることができる。
<第6の実施形態>
本発明の第6の実施形態について、図面を参照して説明する。尚、図24は、本実施形態の撮像装置におけるFPN補正回路の内部構成を示すブロック図である。又、図24のFPN補正回路において、図22のFPN補正回路と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。
本実施形態の撮像装置におけるFPN補正回路6f(図1のFPN補正回路6に相当する)は、図24に示すように、図22の構成と異なり、画像メモリ61が対数変換用メモリ61bのみを備えるとともに、図22の構成における線形/対数変換部69の代わりに、対数変換用メモリ61bより読み出された対数変換用FPN成分を線形変換用FPN成分に変換する対数/線形変換部70が設けられた構成となる。
よって、本実施形態においては、第5の実施形態と異なり、固体撮像素子2に高輝度均一光のみが固体撮像素子2に照射されて、対数変換用FPN成分が画像メモリ61に格納される。そして、固体撮像素子2において撮像動作が開始されると、第5の実施形態と同様、ヒストグラム解析部68において、線形変換特性及び対数変換特性のいずれで撮像された割合が高いか判定する。
そして、対数変換特性による撮像が行われたものと判定した場合、メモリ制御部62によって読み出された対数変換用FPN成分が、FPN成分増幅部67で増幅された後、FPN成分除去部65に送出される。又、線形変換特性による撮像が行われたものと判定した場合は、メモリ制御部62によって読み出された対数変換用FPN成分が、対数/線形変換部70において、線形変換用FPN成分に変換される。そして、この対数/線形変換部70で得られた線形変換用FPN成分がFPN成分増幅部67で増幅された後、FPN成分除去部65に送出される。
このように、ヒストグラム解析部68の判定結果に応じて、画像メモリ61内の対数変換用FPN成分をFPN成分除去に使用するか、又は、この対数変換用FPN成分に基づいて対数/線形変換部70で得られた線形変換用FPN成分をFPN成分除去に使用するかを決定する。そのため、FPN成分除去部65では、第5の実施形態と同様、ヒストグラム解析部68の判定結果に応じて、フィールド毎に設定される線形変換用FPN成分又は対数変換用FPN成分のいずれかを用いて、各画素のRGB信号よりFPN成分を除去する。
よって、上述のように動作する画像メモリ61、メモリ制御部62、FPN成分除去部65、FPN成分増幅部67、ヒストグラム解析部68、対数/線形変換部70、及びスイッチSW3の関係が、図23における画像メモリ61内の線形変換用メモリ61aを対数変換用メモリ61bのみとした図25のように表される。このとき、FPN成分変換部103は、対数/線形変換部70とスイッチSW3とによる構成に相当するものとなる。
即ち、第5の実施形態と異なり、FPN成分変換部103において、高輝度側の度数が多い場合は、画像メモリ61より読み出した対数変換用FPN成分をそのまま乗算器102に出力し、又、低輝度側の度数が多い場合は、画像メモリ61より読み出した対数変換用FPN成分を線形変換用FPN成分に変換して、乗算器102に出力する。そして、乗算器102において、FPN成分変換部103から出力されたFPN成分に対して、設定した乗算係数が乗算された後に、FPN成分除去部65に相当する減算器101に与えられて、各画素から出力される信号毎にFPN成分除去動作が行われる。
このように、本実施形態においては、第5の実施形態と同様、1フレームを構成するRGB信号それぞれのヒストグラムに基づいて、固体撮像素子2においてより多くの画素が行っている光電変換特性に応じたFPN成分を用いて、各画素の信号よりFPN成分の除去を行う。又、第5の実施形態と同様、高輝度均一光のみによるFPN成分抽出動作を行って得た対数変換用FPN成分のみを記憶するため、FPN成分抽出動作にかかる時間を低減するとともに、画像メモリ61の記憶容量を小さくすることができる。
尚、第5及び第6の実施形態において、ヒストグラム解析部の代わりに、第1の実施形態における比較器を備えるものとし、各画素毎に、線形変換特性及び対数変換特性のじずれによる撮像であるか判定するものとしても構わない。
又、上述の各実施形態において、固体撮像素子を画像信号からノイズ信号を減算することで素子内で画素バラツキを除去するように動作するものとし、FPN補正回路において画像信号内に更に残存するFPN成分を除去するようにしたが、固体撮像素子においてノイズ信号の読み出しを行うことなく、FPN補正回路において画素バラツキなどにより発生するFPN成分全てを除去するようにしても構わない。
更に、上述の各実施形態において、固体撮像素子の撮像動作における光電変換特性や固体撮像素子又はアンプの増幅率などの駆動モードに基づいてFPN成分を設定するものとしたが、固体撮像素子におけるリセット時間や撮像するフレームレートなどの駆動タイミングによってFPN成分を設定し、FPN成分除去を行うものとしても構わない。