JPWO2010073541A1 - 撮像方法および撮像装置 - Google Patents
撮像方法および撮像装置 Download PDFInfo
- Publication number
- JPWO2010073541A1 JPWO2010073541A1 JP2010543809A JP2010543809A JPWO2010073541A1 JP WO2010073541 A1 JPWO2010073541 A1 JP WO2010073541A1 JP 2010543809 A JP2010543809 A JP 2010543809A JP 2010543809 A JP2010543809 A JP 2010543809A JP WO2010073541 A1 JPWO2010073541 A1 JP WO2010073541A1
- Authority
- JP
- Japan
- Prior art keywords
- signal
- value
- dark current
- average
- multiplication
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 206
- 230000015654 memory Effects 0.000 claims abstract description 170
- 230000003321 amplification Effects 0.000 claims abstract description 136
- 238000003199 nucleic acid amplification method Methods 0.000 claims abstract description 136
- 238000005259 measurement Methods 0.000 claims abstract description 23
- 230000003247 decreasing effect Effects 0.000 claims abstract description 7
- 238000012545 processing Methods 0.000 claims description 90
- 230000002596 correlated effect Effects 0.000 claims description 67
- 238000012935 Averaging Methods 0.000 claims description 60
- 238000000034 method Methods 0.000 claims description 45
- 230000001276 controlling effect Effects 0.000 claims description 40
- 238000009825 accumulation Methods 0.000 claims description 36
- 238000012937 correction Methods 0.000 claims description 34
- 125000004122 cyclic group Chemical group 0.000 claims description 24
- 239000013598 vector Substances 0.000 claims description 11
- 230000010354 integration Effects 0.000 claims description 5
- 238000009529 body temperature measurement Methods 0.000 claims 3
- 230000035945 sensitivity Effects 0.000 abstract description 43
- 238000001514 detection method Methods 0.000 description 114
- 238000010586 diagram Methods 0.000 description 60
- 230000003287 optical effect Effects 0.000 description 42
- 238000000926 separation method Methods 0.000 description 32
- 238000001816 cooling Methods 0.000 description 26
- 238000012546 transfer Methods 0.000 description 26
- 230000002238 attenuated effect Effects 0.000 description 22
- 230000007423 decrease Effects 0.000 description 17
- 125000002015 acyclic group Chemical group 0.000 description 15
- 239000003086 colorant Substances 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 230000009191 jumping Effects 0.000 description 8
- 102000003712 Complement factor B Human genes 0.000 description 6
- 108090000056 Complement factor B Proteins 0.000 description 6
- 230000000875 corresponding effect Effects 0.000 description 6
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 6
- 229920009441 perflouroethylene propylene Polymers 0.000 description 6
- 238000005070 sampling Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 4
- 238000012217 deletion Methods 0.000 description 4
- 230000037430 deletion Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000020169 heat generation Effects 0.000 description 4
- 230000011664 signaling Effects 0.000 description 3
- 101000694017 Homo sapiens Sodium channel protein type 5 subunit alpha Proteins 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000009189 diving Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000005337 ground glass Substances 0.000 description 2
- 230000017525 heat dissipation Effects 0.000 description 2
- 238000010438 heat treatment Methods 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000006641 stabilisation Effects 0.000 description 2
- 238000011105 stabilization Methods 0.000 description 2
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/63—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
そこで、従来、暗電流が異常に大きい画素欠陥(いわゆる、白キズ)は少ない。しかし、暗電流は6℃のCCD撮像素子の温度上昇でおおよそ2倍となる。さらに、暗電流は電子増倍と蓄積時間とに比例して増加する。そのため、高温度時や高感度撮像時や蓄積時は暗電流が大きくなる。即ち、白キズが目立つ。光学的黒画素部分の白キズの影響を低減するため、CCD撮像素子の垂直方向の光学的黒画素( Vertical-Optical Black:V−OB)部分の12ラインの出力の各垂直画素信号を平均し、1ライン分の信号として記憶し、この固体撮像素子の有効画素部分の出力信号よりこの記憶した信号を減算していた(特許文献1参照)。
また、CCD撮像素子を用いた固体撮像装置においては、白キズ等の画素欠陥の発生に起因するCCD撮像素子の暗電流への影響や高レベル圧縮の影響を受けない様に、垂直スミアの低減を図っている。このため、以下の(1)若しくは(2)を実施することがある。
(1)垂直遮光画像4ラインの各垂直画素(V−OB)信号の平均信号を算出しその水平信号も平均し、低レベルと高レベルを圧縮しCCD撮像素子の受光面の有効画素から出力される画像信号から減算する(特許文献2参照)。
(2)垂直遮光画素(V−OB)信号4ラインの画面垂直方向の暗電流むらを補正する。次に、垂直遮光画像(V−OB)4ラインの各垂直画素信号の最小値から2番目の値を算出し、垂直スミア補正信号として記憶し、CCD撮像素子の受光面の有効画素についてAGC処理後の画像信号から減算する。また、前記固体撮像素子から出力される信号を14ビットにA/D変換して前記代表値信号を算出して15/16に減衰して、CCD撮像素子の受光面の有効画素から出力される画像信号から減算する(特許文献3参照)。
さらに、CCD撮像素子から出力された信号から雑音を除去するCDS( Correlated Double Sampling )、暗電流補正及び利得を可変する利得可変増幅( Automatic Gain Control :AGC)部、並びに、デジタル映像信号Viに変換するADC( Analog to Digital Converter )を内蔵したFEP( Front End Processor )が普及してきている。FEPのADC階調は、従来、10ビットだった。しかし、近年、FEPのADC階調は、12ビットや14ビットが一般化し、16ビットも製品化された。また、ADC階調を22ビットとし、AGC部をADCの後に配置したFEPも製品化された。12ビット階調のFEPでは、ダイナミックレンジの広いNTSC( National Television System Committee )用2/3型CCD撮像素子と組み合わせると低域雑音が目立つ。
14ビット階調のFEPでは、ダイナミックレンジの広いNTSC用2/3型CCD撮像素子の出力信号と組み合わせても、低域雑音は目立たない。しかし、14ビット階調のFEPといえども、タイミング余裕の少なくなる74MHzでは、HDTV( High Definition Tele-Vision )用2/3型CCD撮像素子と組み合わせると、例えば55ケのH−OB( Horizontal-Optical Black:H−OB)の内の36ケをクランプしても低域雑音が目立つ。
さらに、フレームメモリを内蔵したDNRIC( Digital Noise Reduction Integrated Circuit )も低価格で発売された。
また、手ぶれ電子補正では、動き検出信号を元に画像メモリに書き込まれている映像信号を水平と垂直方向に手ぶれによって移動した後の位置から読み出し、元の被写体の同一の点が重ね合わされるように合成する処理方法が使われている。
また、OFDM伝送では、受信したOFDM信号と該OFDM信号を有効シンボル遅延した信号と複素乗算し加算することにより、相関演算を行い、当該相関演算の結果得られる信号の絶対値のピーク位置を検出し、当該検出したピーク位置における相関信号のI成分の絶対値とQ成分の絶対値を算出し加算し、ピーク値を算出し、当該ピーク値の二乗値または二乗値の平方根値の何れかの値の加算平均値から上記受信信号のレベルを算出していた(特許文献5参照)。
EM−CCDは、電子冷却と組み合わせて感度を高くできる。例えば、EM−CCDの電子増倍電極(以下、CMGと称する)の振幅電圧が0.1V高くなると1.4倍増幅率が高くなり、EM−CCDの温度が11℃低くなると1.8倍電子増倍率が高くなる。このため、駆動波形の電圧振幅確保と高安定性と発熱低減、つまり消費電力の低減が求められる。
さらに電子増倍率は、CMGの振幅電圧に強く相関して、CMG一段当たり0〜2%の確率で発生し、例えば、一段当たり1%とすると、CMGが640段では、EM−CCDとしては、“1.01”の649乗で、583倍の電子増倍率となる。そのため、CMGの振幅電圧が0.1V高くなると、EM−CCDの電子増倍率が1.4倍高くなる。このため、非常に低い周波数で、電子増倍率の変動が不規則に揺らぎ、画像信号が不規則に変調され、偽信号が発生する。また、電子増倍の低入射光量レベル側の増倍感度を高くすると、画面の目視上でも非常に目立つ雑音となり、実効感度が大幅劣化する。さらに高電子増倍時は、高電子増倍率と入射光量との積の累積で電子増倍率が低下する。そのため、EM−CCDを特に強く電子冷却してCMG電圧の振幅を最小限にする必要がある(非特許文献1と非特許文献2と非特許文献3参照)。しかし、EM−CCDは、密閉状態で使用する必要があり、熱発生部を電子冷却し、撮像装置自体を密閉された空間内に収納し、冷却ファンで空気を対流循環させている。このため、放熱が困難で、電子冷却の冷却効果が小さい。
また上述したように、EM−CCDのCMGの振幅電圧が0.1V高くなると1.4倍増幅率が高くなり、EM−CCDの温度が11℃低くなると1.8倍電子増倍率が高くなる。このため、EM−CCDを用いた撮像装置では、駆動波形の電圧振幅の確保と高安定性、及び発熱の抑制(つまり、消費電力の低減)が求められる。また、暗電流も電子増倍されるため、画面内の暗電流むらがすりガラスの様に目立つ上に、高電子増倍時は、電子増倍率と入射光量との積の累積で電子増倍率が低下する。このため、暗電流むらの補正が困難である。
さらに、電子増倍は確率的に発生するため、電子増倍は非常に低い周波数で不規則に揺らぎ、非常に低い周波数で暗電流むらと画像信号が不規則に変調される偽信号が発生し、画面の目視上非常に目立つすだれ状の雑音となり、信号雑音(S/N)比が低下し、実効感度が大幅に劣化する。しかし、不規則な1/fゆらぎの正確な補正は困難である。
本発明の目的は、上記の問題に鑑み、CCD撮像素子を用いた撮像装置において、実効感度を向上することにある。
つまり、利得可変増幅を高くするか蓄積時間を長くするかにより、電子増倍率の増加による増倍ゆらぎを抑制する事により、映像信号のふらつき雑音を減衰させる事である。
つまり、14bit以上のFEPの使用で電子増倍ゆらぎ以外の1/f雑音を減衰させておき、電子増倍ゆらぎの総量に強く相関する検出量と電子増倍ゆらぎと熱雑音の合計の総量(熱雑音の総計)に強く相関する検出量とを比較し、電子増倍ゆらぎの1/f雑音の総量と熱雑音の総計とが等しくなるように利得可変増幅の画面内平均値を高く、電子増倍電極振幅値を低く制御し、映像信号の所定レベルを一定にする事である。
つまり、各HOBのNケの白キズを除外してペデスタルレベルを安定させ、水平周期の電子増倍ゆらぎを打ち消して、映像信号の横引き雑音を減衰させる事である。
なお、以下に説明する実施形態は説明のためのものであり、本願発明の範囲を制限するものではない。従って、当業者であればこれらの各要素若しくは全要素をこれと均等なものに置換した実施形態を採用することが可能であり、これらの実施形態も本願発明の範囲に含まれる。
なお、図2Aと図2Bは、高域成分検出を含む増倍むら検出処理を行う映像信号処理部の内部構成を示すブロック図である。
図4Aにおいて、現画面(1V)に対し、前の画面(2V)とは垂直周期前の画面で、後の画面(0V)とは垂直周期後の画面である。上下方向は、現走査線(1H)に対し、前の走査線(2H)と後の走査線(0H)である。破線はランダム雑音で実線はランダム雑音を平均化した有効信号成分である。実線のランダム雑音を平均化した有効信号成分同士が類似している場合を、相関有りとしている。
図4Bは、実施例1の増倍揺らぎの垂直成分の検出の模式図である。
図4A、図4B、図4C、及び図5Aにおいて、電子増倍ゆらぎの総計Y=Y1+Y2の近似計算には、増倍分補正した有効画素の暗電流を減算する。そして、さらに熱雑音の影響を減らすため、下記の式1、式2を用いて非循環平均演算をする。
なお、E2V2H は前の画面の前の走査線の映像信号、E2V1H は前の画面の現走査線の映像信号、E2V0H は前の画面の後の走査線の映像信号を示す。また、E1V2H は、現画面の前の走査線の映像信号、E1V1H は現画面の現走査線の映像信号、E1V0H は現画面の後の走査線の映像信号を示す。さらに、E0V2H は後の画面の前の走査線の映像信号、E0V1H は後の画面の現走査線の映像信号、E0V0H は後の画面の後の走査線の映像信号を示す。
Y/Z<K
であれば、垂直周期以上の平均のAGCの可変量(AGC量)を増加し、垂直周期以上の平均のCMG振幅量を減少し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを減少し、熱雑音の総計Zを増加させる。
また、
Y/Z≒K
であれば、垂直周期以上の平均のAGC量、垂直周期以上の平均のCMG振幅量、垂直周期以上の平均の感度、電子増倍ゆらぎの総計Y、及び、熱雑音の総計Zをそのまま変えない。
また、
Y/Z>K
であれば、垂直周期以上の平均のAGC量を減少し、垂直周期以上の平均のCMG振幅量を増加し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを増加し、熱雑音の総計Zを減少させる。
次に、推定した暗電流の増倍率と、前後の垂直周期の推定した暗電流の増倍率の平均、との相違が、垂直周期の増倍率の揺らぎ成分であり、現在の暗電流の増倍率と前後の垂直周期の暗電流の増倍率の平均との相違に比例してAGC量を低減することによって、垂直周期の増倍率の揺らぎ成分を打ち消すことができる。
それに対し、熱雑音は利得に比例する。そのため、暗電流の増倍率Bと利得増幅率Aは、一義的に推測される。
図5Bの電子増倍率と利得増幅率Aの比の判定を示すフローチャートの概略は、上述したように、現在のV−OBライン内のH−OBの暗電流の代表値を、記憶しておいた非増倍時のV−OBライン内のH−OBの暗電流の代表値を温度補正したもので除算し、暗電流の各垂直周期の増倍率Bを推定するものである。
次に、暗電流の各垂直周期の増倍率B及び利得増幅率Aと係数Kとを比較し、その関係が、
B/A<K
であれば、垂直周期以上の平均のAGC量を増加し、垂直周期以上の平均のCMG振幅量を減少し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを減少し、熱雑音の総計Zを増加させる。
また、
B/A≒K
であれば、垂直周期以上の平均のAGC量、垂直周期以上の平均のCMG振幅量、垂直周期以上の平均の感度、電子増倍ゆらぎの総計Y、及び、熱雑音の総計Zをそのまま変えない。
また、
B/A>K
であれば、垂直周期以上の平均のAGC量を減少し、垂直周期以上の平均のCMG振幅量を増加し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを増加し、熱雑音の総計Zを減少させる。
図1Aにおいて、1は撮像装置、2は入射光を結像するレンズ等の光学系、3は光学系2から入射した光を電気信号に変換するCCD撮像素子、4はFEP、5は増倍検出処理部を含む映像信号処理部、6は撮像装置1内の各部を制御するCPU( Central Processing Unit )である。13はタイミング発生部( Timing Generator:TG)を含む垂直転送駆動部、15は電子増倍の利得制御を行うためのCMG駆動部、8は温度センサ、17は冷却部である。
なお、CCD撮像素子3は、色分離フィルタ付きのCCD撮像素子であり、例えば、EM−CCDである。また、FEP4は、少なくとも、CCD撮像素子3から出力された信号の雑音を除去するCDS401、CDS401の出力信号に暗電流補正して利得を調整するAGC部402、及び、AGC部402からの出力信号をデジタル映像信号Viに変換する信号処理階調が14bit以上のADC403、TG404、メモリ部405、D.AGC部406、及び、DAC部407で構成される。なお、図1A及び図1Bでは、メモリ部405、D.AGC部406、及び、DAC部407は図示していない。また、TG404は、CCD撮像素子3に水平転送駆動信号を出力し、FEP4中のCDS401、AGC部402、及びADC403に、タイミング( Timing )信号を出力する信号発生器である。
また、図1A(図1B)では、読出及び垂直転送駆動部13(13’)が、読出及び垂直転送駆動タイミング信号を出力し、CCD撮像素子3(3’、7、9)それぞれの読出垂直転送部に出力している。
また、冷却部17は、CCD撮像素子3を冷却するペルチェ素子とペルチェ素子駆動回路と放熱フィンとファンとファン駆動回とから構成される(図示しない)。冷却部17は、CPU9の制御により、温度センサ8が検出する温度に応じてCCD撮像素子3を冷却し、CCD撮像素子3の温度を調節する。なお、図1Bでは、冷却部17及び温度センサ8を図示せず、省略している。
また映像信号処理部5は、デジタル映像信号Viに種々の画像処理を施し、NTSC方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync :VBS)またはSDI( Serial Digital Interface )映像信号、あるいは、HDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する。
図3Aにおいて、検出部18はデジタル映像信号Viを比較部41〜42でV−OBラインの垂直画素信号ごとに比較し小さい順にラインメモリ43〜44に記憶し、垂直(以下V)スミアを含むOB代表値信号を検出する。Vスミアを含むOB代表値信号を比較部55〜56で比較しVスミアを含む最大値とVスミアを含まない最小値の差からVスミアを算出する。また、図3Aにおいて、基準温度で非電子増倍時のV−OBラインのH−OB信号を平均して基準メモリ48に記憶しておいた値をD.AGC50で温度補正して値で、V−OBラインのH−OB信号を平均した値を除算すれば、暗電流増倍量が算出できる。そして基準温度で非電子増倍時の有効画素の暗電流から基準温度で非電子増倍時のV−OBラインのH−OB信号を平均して基準メモリ48に記憶しておいた値を減算して画面メモリ49に記憶しておいた値に暗電流増倍量を乗算器52で乗算すれば、有効画素とV−OBとの差分の暗電流が算出でき、加算器45でVスミアを含むOB代表値と加算すれば、各有効画素の暗電流とVスミアとの合計が算出でき、減算器19でデジタル映像信号Viから減算すれば、各有効画素の暗電流とVスミアとが補正でき、無効信号つまり雑音が低減され、実効感度が向上する。
また、図2Bの本発明の撮像装置の一実施例の映像信号処理部も、図1Bと同様に、色分解光学系と3ケのCCD撮像素子を用いた場合であり、図1Bの映像信号処理部には、例えば、R(赤)、G(緑)、B(青)等の光の3原色(若しくは、それらの補色)に色分離された色毎に、FEP部4’、10、及び12から、映像信号Vi(例えば、RVi、GVi、BVi)が入力され、映像メモリ部32’及び相関検出部33’から各色毎に、3つの信号が出力されるものである。(詳細の説明は省略する)。
次に、本発明の一実施例の動作を図1Aと図2Aを参照しつつ説明する。撮像装置1のCCD撮像素子3は、光学系2で受光面に結像された入射光をフォトダイオードで光電変換して信号電荷を生成し、垂直転送したのち水平転送しながら信号電荷を電子増倍して、電子増倍した信号をFEP4に出力する。FEP4は、CCD撮像素子3から出力された信号から、雑音を除去し、暗電流成分を補正し、補正した信号を増幅した信号(デジタル映像信号Vi)に変換して、映像信号処理部5に出力する。
つまり、FEP4として、14bit以上の階調の信号処理を行うことで、電子増倍率の変動要素中のゆらぎ以外の1/f雑音を減衰させておき、ゆらぎの総量に強く相関する検出量とする。そして、このゆらぎの総量に強く相関する検出量と、ゆらぎと熱雑音の合計の総量に強く相関する検出量とを比較し、ゆらぎの1/f雑音の総量と熱雑音の総量とが等しくなるように、利得可変増幅の画面内平均値を高く、電子増倍電極振幅値(CMG振幅電圧)を低く制御する。このように制御することによって、映像信号レベルが一定の所定レベルになる。
図3A〜図3Eと図5C〜5Dとを用いて垂直スミア信号の検出と補正の動作について説明する。
水平周期暗電流増倍量または画面内平均暗電流増倍量から平均部68の循環平均で、画面内平均暗電流増倍量または画面間平均暗電流増倍量を算出し、平均部69の循環平均で画面間平均暗電流増倍量を算出し、図1Aと図1BのCPU6に出力する。
次に、図3Dに示す実施例について説明する。図3Dと図3Cとの相違は、FEP4のOB暗電流粗補正を用い、基準メモリ部60と除算器58と加算器59とを追加し、FEP4のbit数(階調)が少なくすることである。そこで、詳細動作の説明は省略する。
図1Aと図1Bにおいて、CPU6は垂直転送駆動部(w/TG)13を制御し蓄積時間を制御する。また、CPU6はFEPの4,10,12を制御し利得可変増幅を制御する。また、CPU6は、増倍検出含む映像信号処理部5を制御し有効画素信号の暗電流成分の利得可変増幅を制御し有効画素信号から減算する。
別方法としては、V−OBの垂直水平の画素レベルの最小値が、垂直スミアや水平スミアがほとんど混入しない暗電流成分であることを利用する。即ち、図3Bの検出部45に示すように、V−OBの垂直水平の最小値を検出し、基準温度で非電子増倍状態でのEM−CCDのV―OBの垂直水平の最小値の信号を加算平均して記憶しておいた基準メモリ部の信号と比較すれば、温度と電子増倍による暗電流の増倍量がリアルタイムで推定できる。そこで、画面メモリ部49に記憶された画面有効画素から暗電流を出力しから、V―OBのH―OB部分の信号の加算平均を減算した有効画素OB差分基準暗電流信号に温度と電子増倍による暗電流の増倍量をかければ、OBとの差分の画面有効画素の暗電流が推定できる。
つまり、14bit以上のFEPを使用し、温度測定手段とV−OBとを備える電子増倍型CCD撮像素子と可変電圧電子増倍電極駆動部と利得可変増幅部とラインメモリと画面メモリとを有する固体撮像装置の撮像方法において、V−OBの暗電流の現在の代表値と、非電子増倍時に記憶しておいたV−OBの暗電流の代表値を撮像素子測定温度で補正した暗電流の想定値と、の比(各垂直周期の電子増倍率の推定値)を非電子増倍時に記憶しておいた画面メモリの各有効画素の基準の暗電流に、乗算し、有効画素信号から減算する。この結果、画面の目視上目立つ暗部のすだれ状の固定雑音の暗電流むらが減算され、電子増倍ゆらぎの1/f雑音の主成分の暗電流のが画面間変動も減算され、V―OBの暗電流や白キズや垂直スミア成分と、OBとの差分の画面有効画素の暗電流や白キズ成分とを減算し、画面有効画素の映像信号のみを算出できる。
そこで、(1)所定以下のレベルの映像信号を走査線内(水平周期内で、1次元)で平均する事、(2)所定以下のレベルの映像信号を画面内(水平周期間で、2次元)で平均する事、(3)所定以下のレベルの映像信号を画面間(垂直周期間で、3次元)で平均する事、等の(1)、(2)、または(3)のいずれかの固定雑音低減方法と、映像信号の画面(垂直周期)間の相関と動きベクトルとをを検出し、所定以上の相関で所定以下の動きベクトルの映像信号は相関の高い部分同士を画面間で平均する等のランダム雑音低減方法との、2種類の雑音低減方法を併用する場合に適用できる。
また、高輝度映像信号がなければ水平スミアも少ないので、H―OB部分の平均が暗電流の1/f雑音成分であることを利用し、高輝度映像信号がない走査線内の所定以下のレベルの映像信号を走査線内で平均し、H―OB部分の平均の走査線間の変動分を減算すれば、画面内平均のラインメモリの量は削減できる。また、高輝度映像信号があり、水平スミアがあったとしても、H―OB部分の平均が高輝度映像信号がある走査線内の映像信号に共通の水平スミア成分と暗電流の1/f雑音成分との合計であることを利用し、H―OB部分の平均の走査線間の変動分を減算すれば、水平スミア成分と暗電流の1/f雑音成分が減衰し、画面内平均のラインメモリの量は削減できる。
図2Aと図3Aにおいて、CPU6は、ラインメモリ部43,44に最小値信号の上限値、2番目に小さい信号の上限値をそれぞれ設定しておく。ここで、これらの上限値は、例えば、信号の輝度を数値化したものを用いてよい(以下で述べる各値についても、同様の基準で数値化されたものである)。
比較部42は、ラインメモリ部43に記憶されている上限値とV−OB領域の1ライン目(以下V−OB1)の映像信号の画素の値とを各画素間で比較し、値が小さい方の信号(V−OB1の映像信号)を各画素の最小値の信号としてラインメモリ部43に記憶する(開始ステップ61、最小値記憶ステップ62)。
比較部41は、V−OB2の映像信号の画素の値とラインメモリ部44に最小値の信号の値とを各画素間で比較し、値が小さい方の信号をラインメモリ部44に各画素の最小値の信号として記憶する。値が大きい方の信号は比較部42に送られる。比較部42は、大きい方の信号の値と2番目に小さい信号としてラインメモリ部43に記憶されている上限値とを各画素間で比較し、小さい方の信号を各画素の2番目に小さい信号としてラインメモリ部43に記憶する(2番目に小さい値記憶ステップ63)。
同様に、比較部41は、Nライン目(Nは3以上の自然数)のV−OBNの映像信号の画素の値とラインメモリ部44の最小値とを各画素間で比較し、値が小さい方の信号を各画素の最小値の信号としてラインメモリ部44に記憶する。値が大きい方の信号は各画素の比較1の信号として、比較部42に出力する(比較1信号出力ステップ64)。
比較部42は、2番目に小さい信号の値と比較1信号の値とを各画素間で比較し、値が小さい方の信号を各画素の2番目に小さい信号(比較2信号)としてラインメモリ部43に記憶する(比較2信号記憶ステップ65)。
比較部42が最後のV−OBの比較処理を終了すると、ラインメモリ部43は、比較2信号をスミア補正用のOB代表値信号として加算器45に出力し(OB代表値出力ステップ66)、代表値検出処理を終了する(終了ステップ67)。
スミア量が所定の基準量以上なら、有効画素の横のH−OBに漏れ込む水平スミアも−80dB程度の垂直スミアと同程度大きい。しかし、V−OBに漏れ込む垂直スミアからV−OBのH−OBに漏れ込む水平スミアは、−160dB程度で無視できる。
したがって、図3Aの平均部47でV−OBのH−OBを加算平均し、基準メモリ部48に記憶しておいた基準V−OBのH−OB加算平均を、D.AGC部50で温度やAFE( Analog Front End )の増幅度を補正した基準H−OBと、除算器51で比をとれば、その垂直周期の暗電流増倍量が算出できる。
基準メモリ部48に記憶しておいた基準V−OBのH−OB加算平均と、有効画素の基準暗電流との、減算器46での差分を、有効画素OB差分基準暗電流として画面メモリ部49に記憶しておき、有効画素基準暗電流と暗電流増倍量とを乗算器52で乗算すれば、その垂直周期の有効画素OB差分暗電流が算出できる。そして、算出された有効画素OB差分暗電流とOB代表値とを加算器45で加算し、減算器19に出力する。
なお、図3Aの平均部47で加算平均を算出するかわりに、図3Bの比較部54を用い、H−OBの最小値を算出しても良い。
基準メモリ部48に記憶しておいた基準H−OB加算平均と、有効画素の基準暗電流との差分を、減算器46で算出し、算出した差分を有効画素OB差分基準暗電流として画面メモリ49に記憶しておき、記憶した有効画素OB差分基準暗電流と暗電流増倍量とを乗算器52で乗算する。この乗算の結果、その水平周期の有効画素OB差分暗電流が算出できる。さらに、算出した水平周期の有効画素OB差分暗電流とOB代表値とを加算器45で加算し、加算した値を減算器19に出力する。
なお、図3Aの平均部47で加算平均を算出するかわりに、図3Cの比較部54を用い、H−OBの最小値を算出しH−OBの最小値の比をとり、その水平周期の暗電流増倍量を算出しても良い。
図2A、図3B、図3C、及び、図5Dにおいて、CPU6は、比較部53及び54に、最小値信号の上限値と2番目に小さい信号の上限値をそれぞれ設定しておく。ここで、これらの上限値は、例えば、信号の輝度を数値化したものを用いてよい。なお、以下で述べる各値についても、同様の基準で数値化されたものである。
比較部54は、設定されている上限値とV−OB領域の映像信号の各画素の値とを比較し、値が小さい方の信号(V−OBの映像信号)をV−OBの最小値の信号としてラインメモリ部44に記憶し、設定する。そして、値が大きい方の信号を、比較部53に出力する(開始ステップ71、最小値記憶ステップ72)。
比較部53は、大きい方の信号の値と、2番目に小さい信号として設定されている上限値とを比較し、小さい方の信号をV−OBの2番目に小さい信号としてラインメモリ部43に記憶し、設定する(2番目に小さい値記憶ステップ73)。
同様に、比較部53は、Nライン目のV−OBNの映像信号の画素の値と、ラインメモリ部44の最小値とを各画素間で比較し、値が小さいほうの信号を各画素間最小値の信号としてラインメモリ部44に記憶する。値が大きい方の信号は、各画素の比較1の信号として、比較部42に出力する(比較1信号出力ステップ74)。
比較部54が最後のV−OBの比較処理を終了すると、比較部53は、2番目に小さい信号を暗電流増倍量設定用のOB代表値信号として除算器51に出力し(OB代表値出力ステップ76)、代表値検出処理を終了する(終了ステップ77)。
つまり、V−OBライン内のH−OBには、有効画素の高輝度信号の垂直スミア成分も水平スミア成分もないので、V−OBの暗電流の代表値として、V−OBライン内のH−OBを加算平均し、非増倍時の基準温度のEM−CCDのV−OBライン内のH−OBを加算平均し、温度補正したものをV−OBの暗電流の代表値で除算することで、暗電流の各画面V−OB時の増倍率が検出でき、各垂直周期の増倍率が推定できる。
または、V−OBの最小値からN番目の値にも、有効画素の高輝度信号の垂直スミア成分も水平スミア成分もないので、V−OBの暗電流の代表値として、V−OBの最小値からN番目の値を算出し、非増倍時のV−OBの最小値からN番目の値を算出し温度補正したものを除算しても、暗電流の各画面V−OB時の増倍率が検出でき、各垂直周期の増倍率が推定できる。
垂直周期の増倍率の揺らぎ成分とは、非増倍時の基準温度のEM−CCDのV−OBの暗電流の代表値を温度補正したものを、V−OBの暗電流の代表値で除算し、除算することによって推定した暗電流の増倍率の、各V−OBと前後のV−OBの平均との相違である。増倍率の揺らぎ成分は、増倍率にほぼ比例する。それに対し、熱雑音は、利得に比例する。したがって、簡易には、増倍率の揺らぎ成分にほぼ比例する上記増倍率と、熱雑音に比例する上記利得を、比例増加させれば、AGC量の増加による熱雑音も、固体撮像素子の電子増倍ゆらぎによる1/f雑音も、同等に目立たなくなる。これにより、電子増倍度の低下による暗電流のすだれ状の固定雑音との低減と合わせて、より高い実効的な感度を獲得できる。さらに、より高い実効的な感度を獲得することができた結果、蓄積時間が少なくてすむため、動くものの監視が容易になる。
また図3Eに図示しないが、比較部53のL出力に比較部55を追加し、加算器63の入力を比較部53のS出力と比較部54のS出力ではなく、比較部53のS出力と比較部55のS出力とにする。この結果、CCD撮像素子のV−OBのH−OBに暗電流が異常に少ない画素が1つある場合であっても、CCD撮像素子のV−OBのH−OBの2番目に小さい信号とV−OBのH−OBの3番目に小さい信号への雑音の影響が半減し、より高精度な暗電流増倍量が算出できる。
つまり、垂直周期で利得可変増幅量を低くすることにより、電子増倍率の増加による増倍ゆらぎを抑制する。これにより、映像信号のふらつきの雑音を減衰させる。垂直周期の増倍ゆらぎと暗電流ゆらぎとは抑制されている。
増倍ゆらぎと暗電流ゆらぎ以外の雑音が少ない状態で相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できる少なさに抑制されるので、有効画素信号の暗電流成分の減算量は一定でも良い。
具体的には、暗電流量に強く相関する検出量として、スミア代表値として検出している、V−OBの垂直画素の最小値をの水平方向に最小値を暗電流量の代表値として算出する。またはV−OBの最小値を検出し暗電流量の代表値としても良い。またはV−OBのH−OBの最小値を検出し暗電流量の代表値としても良い。
本発明の実施例1で説明したように、図3Aから図3Dの実施例には、暗電流増倍量を検出する機能がある。そこで、画面内で循環平均するレジスタと加算器と係数器からなる平均部68と、画面間で循環平均するレジスタと加算器と係数器からなる平均部69を、実施例1の検出部に追加した図3Aから図3Dの全体の構成にすれば良い。この場合、平均部68と平均部69以外の構成と動作は、実施例1と同一なので説明を省略する。
図3Aから図3Dにおいて、検出部18A〜18Dから出力される水平周期暗電流増倍量または画面内平均暗電流増倍量から、平均部68の循環平均で、画面内平均暗電流増倍量または画面間平均暗電流増倍量として算出され、外部(図1AのCPU6若しくは図1BのCPU6’)に出力すると共に平均部69に出力される。そして、平均部69に入力された電流増倍量は、平均部69の循環平均で、画面間平均暗電流増倍量として算出され、図1AのCPU6若しくは図1BのCPU6’に出力される。
図1A若しくは図1Bにおいて、CPU6若しくはCPU6’は、垂直転送駆動部(w/TG)13若しくは13’を制御し、蓄積時間を制御する。また、CPU6(若しくはCPU6’)はFEPの4(若しくは、4,10,12)を制御し、利得可変増幅を制御する。また、CPU6(若しくはCPU6’)は、増倍検出含む映像信号処理部5(若しくは映像信号処理部5’)を制御し、有効画素信号の暗電流成分の利得可変増幅を制御し、有効画素信号から減算し、出力する。
また、前記H−OBの代表値と、前記H−OBの代表値の、垂直周期以上の平均との比、または前記H−OBの代表値の垂直周期内の循環平均と前記H−OBの代表値の垂直周期以上の平均との比に、負に相関して前記FEPの利得可変増幅を制御して、暗電流の水平周期から垂直周期の間の周期の増倍揺らぎをAGCで補正する。この結果、上位Nケを除けば、白キズの影響はほとんどなくなる。ここで、(M−N)ケの平均とするので、(M−N)ケ以下の短い周期の暗電流の揺らぎ影響はほとんどなくなる。なお、SDTVでは、H−OBは一般に20ケ程度、Mは一般に17程度、Nは一般に4程度である。また、水平有効画素1920のHDTVでは、H−OBは一般に55ケ程度、Mは一般に36ケ程度、Nは一般に10程度である。また、白キズの多い撮像素子では、Nを増やし、白キズの少ない撮像素子ではNを減らした方が良い。
つまり、各H−OBのNケの白キズを除外してペデスタルレベルを安定させ、水平周期の電子増倍ゆらぎを打ち消して、映像信号の横引き雑音を減衰させる。
例えば、水平スミアにより、H−OBの最大値のN番目から(N+4)番目までの平均と、最小値から〜最小値の4番目までの平均とが同一レベル上昇するのに対し、電荷増倍によりH−OBの最大値のN番目から(N+4)番目までの平均 AVmaxn-n+4 と、最小値から最小値の4番目までの平均 AVmin-+4 とが、暗電流と白キズとのレベルに比例して上昇するので、下記式4が電荷増倍率となる。
つまり、利得可変増幅を高くするか、若しくは蓄積時間を長くするか、どちらかの方法によって暗電流成分を多く減算し、これによって電子増倍率の増加による増倍ゆらぎを抑制する、この結果、映像信号の横引き雑音を減衰させることができる。
平均部68と平均部69以外の構成と動作は、実施例1と同一なので説明を省略する。
平均部68と平均部69を備えた図3Dにおいて、水平周期暗電流増倍量または画面内平均暗電流増倍量から、平均部68の循環平均によって、画面内平均暗電流増倍量または画面間平均暗電流増倍量を算出し、平均部69の循環平均によって、画面間平均暗電流増倍量を算出し、図1A(若しくは、図1B)のCPU6に出力する。
図1A(若しくは、図1B)において、CPU6は垂直転送駆動部(w/TG)13を制御し蓄積時間を制御する。また、CPU6は、FEPの4を制御し利得可変増幅を制御する。また、CPU6は、増倍検出処理部を含む映像信号処理部5を制御し、有効画素信号の暗電流成分の利得可変増幅を制御し、有効画素信号から減算する。
そして、(1)水平周期暗電流増倍量または水平周期暗電流増倍量の画面内の循環平均量と、画面間平均暗電流増倍量との比に負に相関して、有効画素信号の利得可変増幅を制御する。つまり、水平周期で利得可変増幅を低くすることにより、電子増倍率の増加による増倍ゆらぎを抑制する。この結果、映像信号の横引き雑音を減衰させる。
このように、水平周期の増倍ゆらぎと暗電流ゆらぎとは抑制されており、増倍ゆらぎと暗電流ゆらぎ以外の雑音が少ない状態で相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できる少なさに抑制されるので、有効画素信号の暗電流成分の減算量は一定でも良い。
または、水平周期暗電流増倍量の画面間の循環平均量に正に相関して、有効画素信号の利得可変増幅を制御するか蓄積時間を制御する。つまり、利得可変増幅を高くするか蓄積時間を長くすることにより、電子増倍率の増加による増倍ゆらぎと暗電流ゆらぎを抑制する事により、映像信号の横引き雑音を減衰させる。増倍ゆらぎと暗電流ゆらぎは抑制されている。相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できるので、有効画素信号の暗電流成分の減算量は一定で良い。
また、(2)水平周期暗電流増倍量の画面間の循環平均量と、各画面内の水平周期暗電流増倍量の比に負に相関して、有効画素信号の利得可変増幅を制御する。つまり、各画面で利得可変増幅を低くすることにより、電子増倍率の増加による増倍ゆらぎと暗電流ゆらぎとを抑制する。この結果、映像信号の各画面のふらつき雑音を減衰させる。
このように、各画面の増倍ゆらぎと暗電流ゆらぎとは抑制されており、増倍ゆらぎと暗電流ゆらぎ以外の雑音が少ない状態で相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できる少なさに抑制されるので、有効画素信号の暗電流成分の減算量は一定でも良い。
その結果、サンプリング位相と減衰振動の飛び込み波形の位相が揺らいでもH−OBクランプレベルが変動することがなくなり、水平周期単位の映像のペデスタルレベルの変動つまり低周波数雑音がなくなり、暗部の画質が改善する。さらに、クランプ位相は飛び込みが少ない位相に設定してあるが、位相が揺らいで、飛び込みが増加しても、上述の様に、誤差が低減される。
41,42,53,54,55,56:比較部、 22:差分部、 23:LPF、 24,25:二乗部、 26,27:累積部、 28:係数付比較部、 29:除算部、 30,50:デジタルAGC(D.AGC)部、 31:映像信号処理部、 32:映像メモリ部、 33:相関検出部、 34:出力回路。
そこで、従来、暗電流が異常に大きい画素欠陥(いわゆる、白キズ)は少ない。しかし、暗電流は6℃のCCD撮像素子の温度上昇でおおよそ2倍となる。さらに、暗電流は電子増倍と蓄積時間とに比例して増加する。そのため、高温度時や高感度撮像時や蓄積時は暗電流が大きくなる。即ち、白キズが目立つ。光学的黒画素部分の白キズの影響を低減するため、CCD撮像素子の垂直方向の光学的黒画素( Vertical-Optical Black:V−OB)部分の12ラインの出力の各垂直画素信号を平均し、1ライン分の信号として記憶し、この固体撮像素子の有効画素部分の出力信号よりこの記憶した信号を減算していた(特許文献1参照)。
また、CCD撮像素子を用いた固体撮像装置においては、白キズ等の画素欠陥の発生に起因するCCD撮像素子の暗電流への影響や高レベル圧縮の影響を受けない様に、垂直スミアの低減を図っている。このため、以下の(1)若しくは(2)を実施することがある。
(1)垂直遮光画像4ラインの各垂直画素(V−OB)信号の平均信号を算出しその水平信号も平均し、低レベルと高レベルを圧縮しCCD撮像素子の受光面の有効画素から出力される画像信号から減算する(特許文献2参照)。
(2)垂直遮光画素(V−OB)信号4ラインの画面垂直方向の暗電流むらを補正する。次に、垂直遮光画像(V−OB)4ラインの各垂直画素信号の最小値から2番目の値を算出し、垂直スミア補正信号として記憶し、CCD撮像素子の受光面の有効画素についてAGC処理後の画像信号から減算する。また、前記固体撮像素子から出力される信号を14ビットにA/D変換して前記代表値信号を算出して15/16に減衰して、CCD撮像素子の受光面の有効画素から出力される画像信号から減算する(特許文献3参照)。
さらに、CCD撮像素子から出力された信号から雑音を除去するCDS( Correlated Double Sampling )、暗電流補正及び利得を可変する利得可変増幅( Automatic Gain Control :AGC)部、並びに、デジタル映像信号Viに変換するADC( Analog to Digital Converter )を内蔵したFEP( Front End Processor )が普及してきている。FEPのADC階調は、従来、10ビットだった。しかし、近年、FEPのADC階調は、12ビットや14ビットが一般化し、16ビットも製品化された。また、ADC階調を22ビットとし、AGC部をADCの後に配置したFEPも製品化された。12ビット階調のFEPでは、ダイナミックレンジの広いNTSC( National Television System Committee )用2/3型CCD撮像素子と組み合わせると低域雑音が目立つ。
14ビット階調のFEPでは、ダイナミックレンジの広いNTSC用2/3型CCD撮像素子の出力信号と組み合わせても、低域雑音は目立たない。しかし、14ビット階調のFEPといえども、タイミング余裕の少なくなる74MHzでは、HDTV( High Definition Tele-Vision )用2/3型CCD撮像素子と組み合わせると、例えば55ケのH−OB( Horizontal-Optical Black:H−OB)の内の36ケをクランプしても低域雑音が目立つ。
さらに、フレームメモリを内蔵したDNRIC( Digital Noise Reduction Integrated Circuit )も低価格で発売された。
また、手ぶれ電子補正では、動き検出信号を元に画像メモリに書き込まれている映像信号を水平と垂直方向に手ぶれによって移動した後の位置から読み出し、元の被写体の同一の点が重ね合わされるように合成する処理方法が使われている。
また、OFDM伝送では、受信したOFDM信号と該OFDM信号を有効シンボル遅延した信号と複素乗算し加算することにより、相関演算を行い、当該相関演算の結果得られる信号の絶対値のピーク位置を検出し、当該検出したピーク位置における相関信号のI成分の絶対値とQ成分の絶対値を算出し加算し、ピーク値を算出し、当該ピーク値の二乗値または二乗値の平方根値の何れかの値の加算平均値から上記受信信号のレベルを算出していた(特許文献5参照)。
EM−CCDは、電子冷却と組み合わせて感度を高くできる。例えば、EM−CCDの電子増倍電極(以下、CMGと称する)の振幅電圧が0.1V高くなると1.4倍増倍率が高くなり、EM−CCDの温度が11℃低くなると1.8倍電子増倍率が高くなる。このため、駆動波形の電圧振幅確保と高安定性と発熱低減、つまり消費電力の低減が求められる。
さらに電子増倍率は、CMGの振幅電圧に強く相関して、CMG一段当たり0〜2%の確率で発生し、例えば、一段当たり1%とすると、CMGが640段では、EM−CCDとしては、“1.01”の649乗で、583倍の電子増倍率となる。そのため、CMGの振幅電圧が0.1V高くなると、EM−CCDの電子増倍率が1.4倍高くなる。このため、非常に低い周波数で、電子増倍率の変動が不規則に揺らぎ、画像信号が不規則に変調され、偽信号が発生する。また、電子増倍の低入射光量レベル側の増倍感度を高くすると、画面の目視上でも非常に目立つ雑音となり、実効感度が大幅劣化する。さらに高電子増倍時は、高電子増倍率と入射光量との積の累積で電子増倍率が低下する。そのため、EM−CCDを特に強く電子冷却してCMG電圧の振幅を最小限にする必要がある(非特許文献1と非特許文献2と非特許文献3参照)。しかし、EM−CCDは、密閉状態で使用する必要があり、熱発生部を電子冷却し、撮像装置自体を密閉された空間内に収納し、冷却ファンで空気を対流循環させている。このため、放熱が困難で、電子冷却の冷却効果が小さい。
また上述したように、EM−CCDのCMGの振幅電圧が0.1V高くなると1.4倍増幅率が高くなり、EM−CCDの温度が11℃低くなると1.8倍電子増倍率が高くなる。このため、EM−CCDを用いた撮像装置では、駆動波形の電圧振幅の確保と高安定性、及び発熱の抑制(つまり、消費電力の低減)が求められる。また、暗電流も電子増倍されるため、画面内の暗電流むらがすりガラスの様に目立つ上に、高電子増倍時は、電子増倍率と入射光量との積の累積で電子増倍率が低下する。このため、暗電流むらの補正が困難である。
さらに、電子増倍は確率的に発生するため、電子増倍は非常に低い周波数で不規則に揺らぎ、非常に低い周波数で暗電流むらと画像信号が不規則に変調される偽信号が発生し、画面の目視上非常に目立つすだれ状の雑音となり、信号雑音(S/N)比が低下し、実効感度が大幅に劣化する。しかし、不規則な1/fゆらぎの正確な補正は困難である。
本発明の目的は、上記の問題に鑑み、CCD撮像素子を用いた撮像装置において、実効感度を向上することにある。
前記第2の取得部で取得した遮光した画素から出力される信号の代表値の現在値と電子増倍しないように低い電子増倍電極電圧時に記憶しておいた前記第2の取得部で取得した遮光した画素から出力される信号の代表値を撮像素子測定温度で補正した暗電流の想定値との比を非電子増倍時に記憶しておいた有効画素の基準の暗電流に乗算し、有効画素信号から減算する事を特徴とする撮像方法である。
なお、以下に説明する実施形態は説明のためのものであり、本願発明の範囲を制限するものではない。従って、当業者であればこれらの各要素若しくは全要素をこれと均等なものに置換した実施形態を採用することが可能であり、これらの実施形態も本願発明の範囲に含まれる。
なお、図2Aと図2Bは、高域成分検出を含む増倍むら検出処理を行う映像信号処理部の内部構成を示すブロック図である。
図4Aにおいて、現画面(1V)に対し、前の画面(2V)とは垂直周期前の画面で、後の画面(0V)とは垂直周期後の画面である。上下方向は、現走査線(1H)に対し、前の走査線(2H)と後の走査線(0H)である。破線はランダム雑音で実線はランダム雑音を平均化した有効信号成分である。実線のランダム雑音を平均化した有効信号成分同士が類似している場合を、相関有りとしている。
図4Bは、実施例1の増倍揺らぎの垂直成分の検出の模式図である。
図4A、図4B、図4C、及び図5Aにおいて、電子増倍ゆらぎの総計Y=Y1+Y2の近似計算には、増倍分補正した有効画素の暗電流を減算する。そして、さらに熱雑音の影響を減らすため、下記の式1、式2を用いて非循環平均演算をする。
なお、E2V2H は前の画面の前の走査線の映像信号、E2V1H は前の画面の現走査線の映像信号、E2V0H は前の画面の後の走査線の映像信号を示す。また、E1V2H は、現画面の前の走査線の映像信号、E1V1H は現画面の現走査線の映像信号、E1V0H は現画面の後の走査線の映像信号を示す。さらに、E0V2H は後の画面の前の走査線の映像信号、E0V1H は後の画面の現走査線の映像信号、E0V0H は後の画面の後の走査線の映像信号を示す。
Y/Z>K
であれば、垂直周期以上の平均のAGCの可変量(AGC量)を増加し、垂直周期以上の平均のCMG振幅量を減少し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを減少し、熱雑音の総計Zを増加させる。
また、
Y/Z≒K
であれば、垂直周期以上の平均のAGC量、垂直周期以上の平均のCMG振幅量、垂直周期以上の平均の感度、電子増倍ゆらぎの総計Y、及び、熱雑音の総計Zをそのまま変えない。
また、
Y/Z<K
であれば、垂直周期以上の平均のAGC量を減少し、垂直周期以上の平均のCMG振幅量を増加し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを増加し、熱雑音の総計Zを減少させる。
次に、推定した暗電流の増倍率と、前後の垂直周期の推定した暗電流の増倍率の平均、との相違が、垂直周期の増倍率の揺らぎ成分であり、現在の暗電流の増倍率と前後の垂直周期の暗電流の増倍率の平均との相違に比例してAGC量を低減することによって、垂直周期の増倍率の揺らぎ成分を打ち消すことができる。
それに対し、熱雑音は利得に比例する。そのため、暗電流の増倍率Bと利得増幅率Aは、一義的に推測される。
図5Bの電子増倍率と利得増幅率Aの比の判定を示すフローチャートの概略は、上述したように、現在のV−OBライン内のH−OBの暗電流の代表値を、記憶しておいた非増倍時のV−OBライン内のH−OBの暗電流の代表値を温度補正したもので除算し、暗電流の各垂直周期の増倍率Bを推定するものである。
次に、暗電流の各垂直周期の増倍率B及び利得増幅率Aと係数Kとを比較し、その関係が、
B/A>K
であれば、垂直周期以上の平均のAGC量を増加し、垂直周期以上の平均のCMG振幅量を減少し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを減少し、熱雑音の総計Zを増加させる。
また、
B/A≒K
であれば、垂直周期以上の平均のAGC量、垂直周期以上の平均のCMG振幅量、垂直周期以上の平均の感度、電子増倍ゆらぎの総計Y、及び、熱雑音の総計Zをそのまま変えない。
また、
B/A<K
であれば、垂直周期以上の平均のAGC量を減少し、垂直周期以上の平均のCMG振幅量を増加し、垂直周期以上の平均の感度をそのまま変えず、電子増倍ゆらぎの総計Yを増加し、熱雑音の総計Zを減少させる。
図1Aにおいて、1は撮像装置、2は入射光を結像するレンズ等の光学系、3は光学系2から入射した光を電気信号に変換するCCD撮像素子、4はFEP、5は増倍検出処理部を含む映像信号処理部、6は撮像装置1内の各部を制御するCPU( Central Processing Unit )である。13はタイミング発生部( Timing Generator:TG)を含む垂直転送駆動部、15は電子増倍の利得制御を行うためのCMG駆動部、8は温度センサ、17は冷却部である。
なお、CCD撮像素子3は、色分離フィルタ付きのCCD撮像素子であり、例えば、EM−CCDである。また、FEP4は、少なくとも、CCD撮像素子3から出力された信号の雑音を除去するCDS401、CDS401の出力信号に暗電流補正して利得を調整するAGC部402、及び、AGC部402からの出力信号をデジタル映像信号Viに変換する信号処理階調が14bit以上のADC403、TG404、メモリ部405、D.AGC部406、及び、DAC部407で構成される。なお、図1A及び図1Bでは、メモリ部405、D.AGC部406、及び、DAC部407は図示していない。また、TG404は、CCD撮像素子3に水平転送駆動信号を出力し、FEP4中のCDS401、AGC部402、及びADC403に、タイミング( Timing )信号を出力する信号発生器である。
また、図1A(図1B)では、読出及び垂直転送駆動部13(13’)が、読出及び垂直転送駆動タイミング信号を出力し、CCD撮像素子3(3’、7、9)それぞれの読出垂直転送部に出力している。
また、冷却部17は、CCD撮像素子3を冷却するペルチェ素子とペルチェ素子駆動回路と放熱フィンとファンとファン駆動回とから構成される(図示しない)。冷却部17は、CPU6の制御により、温度センサ8が検出する温度に応じてCCD撮像素子3を冷却し、CCD撮像素子3の温度を調節する。なお、図1Bでは、冷却部17及び温度センサ8を図示せず、省略している。
また映像信号処理部5は、デジタル映像信号Viに種々の画像処理を施し、NTSC方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync :VBS)またはSDI( Serial Digital Interface )映像信号、あるいは、HDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する。
図3Aにおいて、検出部18はデジタル映像信号Viを比較部41〜42でV−OBラインの垂直画素信号ごとに比較し小さい順にラインメモリ43〜44に記憶し、垂直(以下V)スミアを含むOB代表値信号を検出する。Vスミアを含むOB代表値信号を比較部55〜56で比較しVスミアを含む最大値とVスミアを含まない最小値の差からVスミアを算出する。また、図3Aにおいて、基準温度で非電子増倍時のV−OBラインのH−OB信号を平均して基準メモリ48に記憶しておいた値をD.AGC50で温度補正して値で、V−OBラインのH−OB信号を平均した値を除算すれば、暗電流増倍量が算出できる。そして基準温度で非電子増倍時の有効画素の暗電流から基準温度で非電子増倍時のV−OBラインのH−OB信号を平均して基準メモリ48に記憶しておいた値を減算して画面メモリ49に記憶しておいた値に暗電流増倍量を乗算器52で乗算すれば、有効画素とV−OBとの差分の暗電流が算出でき、加算器45でVスミアを含むOB代表値と加算すれば、各有効画素の暗電流とVスミアとの合計が算出でき、減算器19でデジタル映像信号Viから減算すれば、各有効画素の暗電流とVスミアとが補正でき、無効信号つまり雑音が低減され、実効感度が向上する。
また、図2Bの本発明の撮像装置の一実施例の映像信号処理部も、図1Bと同様に、色分解光学系と3ケのCCD撮像素子を用いた場合であり、図1Bの映像信号処理部には、例えば、R(赤)、G(緑)、B(青)等の光の3原色(若しくは、それらの補色)に色分離された色毎に、FEP部4’、10、及び12から、映像信号Vi(例えば、RVi、GVi、BVi)が入力され、映像メモリ部32’及び相関検出部33’から各色毎に、3つの信号が出力されるものである。(詳細の説明は省略する)。
次に、本発明の一実施例の動作を図1Aと図2Aを参照しつつ説明する。撮像装置1のCCD撮像素子3は、光学系2で受光面に結像された入射光をフォトダイオードで光電変換して信号電荷を生成し、垂直転送したのち水平転送しながら信号電荷を電子増倍して、電子増倍した信号をFEP4に出力する。FEP4は、CCD撮像素子3から出力された信号から、雑音を除去し、暗電流成分を補正し、補正した信号を増幅した信号(デジタル映像信号Vi)に変換して、映像信号処理部5に出力する。
つまり、FEP4として、14bit以上の階調の信号処理を行うことで、電子増倍率の変動要素中のゆらぎ以外の1/f雑音を減衰させておき、ゆらぎの総量に強く相関する検出量とする。そして、このゆらぎの総量に強く相関する検出量と、ゆらぎと熱雑音の合計の総量に強く相関する検出量とを比較し、ゆらぎの1/f雑音の総量と熱雑音の総量とが等しくなるように、利得可変増幅の画面内平均値を高く、電子増倍電極振幅値(CMG振幅電圧)を低く制御する。このように制御することによって、映像信号レベルが一定の所定レベルになる。
図3A〜図3Eと図5C〜5Dとを用いて垂直スミア信号の検出と補正の動作について説明する。
水平周期暗電流増倍量または画面内平均暗電流増倍量から平均部68の循環平均で、画面内平均暗電流増倍量または画面間平均暗電流増倍量を算出し、平均部69の循環平均で画面間平均暗電流増倍量を算出し、図1Aと図1BのCPU6に出力する。
次に、図3Dに示す実施例について説明する。図3Dと図3Cとの相違は、FEP4のOB暗電流粗補正を用い、基準メモリ部60と除算器58と加算器59とを追加し、FEP4のbit数(階調)が少なくすることである。そこで、詳細動作の説明は省略する。
図1Aと図1Bにおいて、CPU6は垂直転送駆動部(w/TG)13を制御し蓄積時間を制御する。また、CPU6はFEPの4,10,12を制御し利得可変増幅を制御する。また、CPU6は、増倍検出含む映像信号処理部5を制御し有効画素信号の暗電流成分の利得可変増幅を制御し有効画素信号から減算する。
別方法としては、V−OBの垂直水平の画素レベルの最小値が、垂直スミアや水平スミアがほとんど混入しない暗電流成分であることを利用する。即ち、図3Bの検出部45に示すように、V−OBの垂直水平の最小値を検出し、基準温度で非電子増倍状態でのEM−CCDのV―OBの垂直水平の最小値の信号を加算平均して記憶しておいた基準メモリ部の信号と比較すれば、温度と電子増倍による暗電流の増倍量がリアルタイムで推定できる。そこで、画面メモリ部49に記憶された画面有効画素から暗電流を出力しから、V―OBのH―OB部分の信号の加算平均を減算した有効画素OB差分基準暗電流信号に温度と電子増倍による暗電流の増倍量をかければ、OBとの差分の画面有効画素の暗電流が推定できる。
つまり、14bit以上のFEPを使用し、温度測定手段とV−OBとを備える電子増倍型CCD撮像素子と可変電圧電子増倍電極駆動部と利得可変増幅部とラインメモリと画面メモリとを有する固体撮像装置の撮像方法において、V−OBの暗電流の現在の代表値と、非電子増倍時に記憶しておいたV−OBの暗電流の代表値を撮像素子測定温度で補正した暗電流の想定値と、の比(各垂直周期の電子増倍率の推定値)を非電子増倍時に記憶しておいた画面メモリの各有効画素の基準の暗電流に、乗算し、有効画素信号から減算する。この結果、画面の目視上目立つ暗部のすだれ状の固定雑音の暗電流むらが減算され、電子増倍ゆらぎの1/f雑音の主成分の暗電流のが画面間変動も減算され、V―OBの暗電流や白キズや垂直スミア成分と、OBとの差分の画面有効画素の暗電流や白キズ成分とを減算し、画面有効画素の映像信号のみを算出できる。
そこで、(1)所定以下のレベルの映像信号を走査線内(水平周期内で、1次元)で平均する事、(2)所定以下のレベルの映像信号を画面内(水平周期間で、2次元)で平均する事、(3)所定以下のレベルの映像信号を画面間(垂直周期間で、3次元)で平均する事、等の(1)、(2)、または(3)のいずれかの固定雑音低減方法と、映像信号の画面(垂直周期)間の相関と動きベクトルとをを検出し、所定以上の相関で所定以下の動きベクトルの映像信号は相関の高い部分同士を画面間で平均する等のランダム雑音低減方法との、2種類の雑音低減方法を併用する場合に適用できる。
また、高輝度映像信号がなければ水平スミアも少ないので、H―OB部分の平均が暗電流の1/f雑音成分であることを利用し、高輝度映像信号がない走査線内の所定以下のレベルの映像信号を走査線内で平均し、H―OB部分の平均の走査線間の変動分を減算すれば、画面内平均のラインメモリの量は削減できる。また、高輝度映像信号があり、水平スミアがあったとしても、H―OB部分の平均が高輝度映像信号がある走査線内の映像信号に共通の水平スミア成分と暗電流の1/f雑音成分との合計であることを利用し、H―OB部分の平均の走査線間の変動分を減算すれば、水平スミア成分と暗電流の1/f雑音成分が減衰し、画面内平均のラインメモリの量は削減できる。
図2Aと図3Aにおいて、図1Aと図1BのCPU6は、ラインメモリ部43,44に最小値信号の上限値、2番目に小さい信号の上限値をそれぞれ設定しておく。ここで、これらの上限値は、例えば、信号の輝度を数値化したものを用いてよい(以下で述べる各値についても、同様の基準で数値化されたものである)。
比較部42は、ラインメモリ部44に記憶されている上限値とV−OB領域の1ライン目(以下V−OB1)の映像信号の画素の値とを各画素間で比較し、値が小さい方の信号(V−OB1の映像信号)を各画素の最小値の信号としてラインメモリ部44に記憶する(開始ステップ61、最小値記憶ステップ62)。
比較部42は、V−OB2の映像信号の画素の値とラインメモリ部44に最小値の信号の値とを各画素間で比較し、値が小さい方の信号をラインメモリ部44に各画素の最小値の信号として記憶する。値が大きい方の信号は比較部41に送られる。比較部41は、大きい方の信号の値と2番目に小さい信号としてラインメモリ部43に記憶されている上限値とを各画素間で比較し、小さい方の信号を各画素の2番目に小さい信号としてラインメモリ部43に記憶する(2番目に小さい値記憶ステップ63)。
同様に、比較部42は、Nライン目(Nは3以上の自然数)のV−OBNの映像信号の画素の値とラインメモリ部44の最小値とを各画素間で比較し、値が小さい方の信号を各画素の最小値の信号としてラインメモリ部44に記憶する。値が大きい方の信号は各画素の比較1の信号として、比較部41に出力する(比較1信号出力ステップ64)。
比較部41は、2番目に小さい信号の値と比較1信号の値とを各画素間で比較し、値が小さい方の信号を各画素の2番目に小さい信号(比較2信号)としてラインメモリ部43に記憶する(比較2信号記憶ステップ65)。
比較部42が最後のV−OBの比較処理を終了すると、ラインメモリ部43は、比較2信号をスミア補正用のOB代表値信号として加算器45に出力し(OB代表値出力ステップ66)、代表値検出処理を終了する(終了ステップ67)。
スミア量が所定の基準量以上なら、有効画素の横のH−OBに漏れ込む水平スミアも−80dB程度の垂直スミアと等しいかより大きい。しかし、V−OBに漏れ込む垂直スミアからV−OBのH−OBに漏れ込む水平スミアは、−160dB程度で無視できる。
したがって、図3Aの平均部47でV−OBのH−OBを加算平均し、基準メモリ部48に記憶しておいた基準V−OBのH−OB加算平均を、D.AGC部50で温度やAFE( Analog Front End )の増幅度を補正した基準H−OBと、除算器51で比をとれば、その垂直周期の暗電流増倍量が算出できる。
基準メモリ部48に記憶しておいた基準V−OBのH−OB加算平均と、有効画素の基準暗電流との、減算器46での差分を、有効画素OB差分基準暗電流として画面メモリ部49に記憶しておき、有効画素基準暗電流と暗電流増倍量とを乗算器52で乗算すれば、その垂直周期の有効画素OB差分暗電流が算出できる。そして、算出された有効画素OB差分暗電流とOB代表値とを加算器45で加算し、減算器19に出力する。
なお、図3Aの平均部47で加算平均を算出するかわりに、図3Bの比較部54を用い、H−OBの最小値を算出しても良い。
基準メモリ部48に記憶しておいた基準H−OB加算平均と、有効画素の基準暗電流との差分を、減算器46で算出し、算出した差分を有効画素OB差分基準暗電流として画面メモリ49に記憶しておき、記憶した有効画素OB差分基準暗電流と暗電流増倍量とを乗算器52で乗算する。この乗算の結果、その水平周期の有効画素OB差分暗電流が算出できる。さらに、算出した水平周期の有効画素OB差分暗電流とOB代表値とを加算器45で加算し、加算した値を減算器19に出力する。
なお、図3Aの平均部47で加算平均を算出するかわりに、図3Cの比較部54を用い、H−OBの最小値を算出しH−OBの最小値の比をとり、その水平周期の暗電流増倍量を算出しても良い。
図2A、図3B、図3C、及び、図5Dにおいて、CPU6は、比較部53及び54に、最小値信号の上限値と2番目に小さい信号の上限値をそれぞれ設定しておく。ここで、これらの上限値は、例えば、信号の輝度を数値化したものを用いてよい。なお、以下で述べる各値についても、同様の基準で数値化されたものである。
比較部54は、設定されている上限値とV−OB領域の映像信号の各画素の値とを比較し、値が小さい方の信号(V−OBの映像信号)をV−OBの最小値の信号としてラインメモリ部44に記憶し、設定する。そして、値が大きい方の信号を、比較部53に出力する(開始ステップ71、最小値記憶ステップ72)。
比較部53は、大きい方の信号の値と、2番目に小さい信号として設定されている上限値とを比較し、小さい方の信号をV−OBの2番目に小さい信号としてラインメモリ部43に記憶し、設定する(2番目に小さい値記憶ステップ73)。
同様に、比較部53は、Nライン目のV−OBNの映像信号の画素の値と、ラインメモリ部44の最小値とを各画素間で比較し、値が小さいほうの信号を各画素間最小値の信号としてラインメモリ部44に記憶する。値が大きい方の信号は、各画素の比較1の信号として、比較部42に出力する(比較1信号出力ステップ74)。
比較部54が最後のV−OBの比較処理を終了すると、比較部53は、2番目に小さい信号を暗電流増倍量算出用のOB代表値信号として除算器51に出力し(OB代表値出力ステップ75)、代表値検出処理を終了する(終了ステップ76)。
つまり、V−OBライン内のH−OBには、有効画素の高輝度信号の垂直スミア成分も水平スミア成分もないので、V−OBの暗電流の代表値として、V−OBライン内のH−OBを加算平均し、非増倍時の基準温度のEM−CCDのV−OBライン内のH−OBを加算平均し、温度補正したものをV−OBの暗電流の代表値で除算することで、暗電流の各画面V−OB時の増倍率が検出でき、各垂直周期の増倍率が推定できる。
または、V−OBの最小値からN番目の値にも、有効画素の高輝度信号の垂直スミア成分も水平スミア成分もないので、V−OBの暗電流の代表値として、V−OBの最小値からN番目の値を算出し、非増倍時のV−OBの最小値からN番目の値を算出し温度補正したものを除算しても、暗電流の各画面V−OB時の増倍率が検出でき、各垂直周期の増倍率が推定できる。
垂直周期の増倍率の揺らぎ成分とは、非増倍時の基準温度のEM−CCDのV−OBの暗電流の代表値を温度補正したものを、V−OBの暗電流の代表値で除算し、除算することによって推定した暗電流の増倍率の、各V−OBと前後のV−OBの平均との相違である。増倍率の揺らぎ成分は、増倍率にほぼ比例する。それに対し、熱雑音は、利得に比例する。したがって、簡易には、増倍率の揺らぎ成分にほぼ比例する上記増倍率と、熱雑音に比例する上記利得を、比例増加させれば、AGC量の増加による熱雑音も、固体撮像素子の電子増倍ゆらぎによる1/f雑音も、同等に目立たなくなる。これにより、電子増倍度の低下による暗電流のすだれ状の固定雑音との低減と合わせて、より高い実効的な感度を獲得できる。さらに、より高い実効的な感度を獲得することができた結果、蓄積時間が少なくてすむため、動くものの監視が容易になる。
また図3Eに図示しないが、比較部53のL出力に比較部55を追加し、加算器63の入力を比較部53のS出力と比較部54のS出力ではなく、比較部53のS出力と比較部55のS出力とにする。この結果、CCD撮像素子のV−OBのH−OBに暗電流が異常に少ない画素が1つある場合であっても、CCD撮像素子のV−OBのH−OBの2番目に小さい信号とV−OBのH−OBの3番目に小さい信号への雑音の影響が半減し、より高精度な暗電流増倍量が算出できる。
つまり、垂直周期で利得可変増幅量を低くすることにより、電子増倍率の増加による増倍ゆらぎを抑制する。これにより、映像信号のふらつきの雑音を減衰させる。垂直周期の増倍ゆらぎと暗電流ゆらぎとは抑制されている。
増倍ゆらぎと暗電流ゆらぎ以外の雑音が少ない状態で相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できる少なさに抑制されるので、有効画素信号の暗電流成分の減算量は一定でも良い。
具体的には、暗電流量に強く相関する検出量として、スミア代表値として検出している、V−OBの垂直画素の最小値をの水平方向に最小値を暗電流量の代表値として算出する。またはV−OBの最小値を検出し暗電流量の代表値としても良い。またはV−OBのH−OBの最小値を検出し暗電流量の代表値としても良い。
本発明の実施例1で説明したように、図3Aから図3Dの実施例には、暗電流増倍量を検出する機能がある。そこで、画面内で循環平均するレジスタと加算器と係数器からなる平均部68と、画面間で循環平均するレジスタと加算器と係数器からなる平均部69を、実施例1の検出部に追加した図3Aから図3Dの全体の構成にすれば良い。この場合、平均部68と平均部69以外の構成と動作は、実施例1と同一なので説明を省略する。
図3Aから図3Dにおいて、検出部18A〜18Dから出力される水平周期暗電流増倍量または画面内平均暗電流増倍量から、平均部68の循環平均で、画面内平均暗電流増倍量または画面間平均暗電流増倍量として算出され、外部(図1AのCPU6若しくは図1BのCPU6’)に出力すると共に平均部69に出力される。そして、平均部69に入力された電流増倍量は、平均部69の循環平均で、画面間平均暗電流増倍量として算出され、図1AのCPU6若しくは図1BのCPU6’に出力される。
図1A若しくは図1Bにおいて、CPU6若しくはCPU6’は、垂直転送駆動部(w/TG)13若しくは13’を制御し、蓄積時間を制御する。また、CPU6(若しくはCPU6’)はFEPの4(若しくは、4,10,12)を制御し、利得可変増幅を制御する。また、CPU6(若しくはCPU6’)は、増倍検出含む映像信号処理部5(若しくは映像信号処理部5’)を制御し、有効画素信号の暗電流成分の利得可変増幅を制御し、有効画素信号から減算し、出力する。
また、前記H−OBの代表値と、前記H−OBの代表値の、垂直周期以上の平均との比、または前記H−OBの代表値の垂直周期内の循環平均と前記H−OBの代表値の垂直周期以上の平均との比に、負に相関して前記FEPの利得可変増幅を制御して、暗電流の水平周期から垂直周期の間の周期の増倍揺らぎをAGCで補正する。この結果、上位Nケを除けば、白キズの影響はほとんどなくなる。ここで、(M−N)ケの平均とするので、(M−N)ケ以下の短い周期の暗電流の揺らぎ影響はほとんどなくなる。なお、SDTVでは、H−OBは一般に20ケ程度、Mは一般に17程度、Nは一般に4程度である。また、水平有効画素1920のHDTVでは、H−OBは一般に55ケ程度、Mは一般に36ケ程度、Nは一般に10程度である。また、白キズの多い撮像素子では、Nを増やし、白キズの少ない撮像素子ではNを減らした方が良い。
つまり、各H−OBのNケの白キズを除外してペデスタルレベルを安定させ、水平周期の電子増倍ゆらぎを打ち消して、映像信号の横引き雑音を減衰させる。
例えば、水平スミアにより、H−OBの最大値のN番目から(N+4)番目までの平均と、最小値から〜最小値の4番目までの平均とが同一レベル上昇するのに対し、電荷増倍によりH−OBの最大値のN番目から(N+4)番目までの平均 AVmaxn-n+4 と、最小値から最小値の4番目までの平均 AVmin-+4 とが、暗電流と白キズとのレベルに比例して上昇するので、下記式4が電荷増倍率となる。
つまり、利得可変増幅を高くするか、若しくは蓄積時間を長くするか、どちらかの方法によって暗電流成分を多く減算し、これによって電子増倍率の増加による増倍ゆらぎを抑制する、この結果、映像信号の横引き雑音を減衰させることができる。
平均部68と平均部69以外の構成と動作は、実施例1と同一なので説明を省略する。
平均部68と平均部69を備えた図3Dにおいて、水平周期暗電流増倍量または画面内平均暗電流増倍量から、平均部68の循環平均によって、画面内平均暗電流増倍量または画面間平均暗電流増倍量を算出し、平均部69の循環平均によって、画面間平均暗電流増倍量を算出し、図1A(若しくは、図1B)のCPU6に出力する。
図1A(若しくは、図1B)において、CPU6は垂直転送駆動部(w/TG)13を制御し蓄積時間を制御する。また、CPU6は、FEPの4を制御し利得可変増幅を制御する。また、CPU6は、増倍検出処理部を含む映像信号処理部5を制御し、有効画素信号の暗電流成分の利得可変増幅を制御し、有効画素信号から減算する。
そして、(1)水平周期暗電流増倍量または水平周期暗電流増倍量の画面内の循環平均量と、画面間平均暗電流増倍量との比に負に相関して、有効画素信号の利得可変増幅を制御する。つまり、水平周期で利得可変増幅を低くすることにより、電子増倍率の増加による増倍ゆらぎを抑制する。この結果、映像信号の横引き雑音を減衰させる。
このように、水平周期の増倍ゆらぎと暗電流ゆらぎとは抑制されており、増倍ゆらぎと暗電流ゆらぎ以外の雑音が少ない状態で相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できる少なさに抑制されるので、有効画素信号の暗電流成分の減算量は一定でも良い。
または、水平周期暗電流増倍量の画面間の循環平均量に正に相関して、有効画素信号の利得可変増幅を制御するか蓄積時間を制御する。つまり、利得可変増幅を高くするか蓄積時間を長くすることにより、電子増倍率の増加による増倍ゆらぎと暗電流ゆらぎを抑制する事により、映像信号の横引き雑音を減衰させる。増倍ゆらぎと暗電流ゆらぎは抑制されている。相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できるので、有効画素信号の暗電流成分の減算量は一定で良い。
また、(2)水平周期暗電流増倍量の画面間の循環平均量と、各画面内の水平周期暗電流増倍量の比に負に相関して、有効画素信号の利得可変増幅を制御する。つまり、各画面で利得可変増幅を低くすることにより、電子増倍率の増加による増倍ゆらぎと暗電流ゆらぎとを抑制する。この結果、映像信号の各画面のふらつき雑音を減衰させる。
このように、各画面の増倍ゆらぎと暗電流ゆらぎとは抑制されており、増倍ゆらぎと暗電流ゆらぎ以外の雑音が少ない状態で相関を比例とすれば、増倍ゆらぎと暗電流ゆらぎとは無視できる少なさに抑制されるので、有効画素信号の暗電流成分の減算量は一定でも良い。
その結果、サンプリング位相と減衰振動の飛び込み波形の位相が揺らいでもH−OBクランプレベルが変動することがなくなり、水平周期単位の映像のペデスタルレベルの変動つまり低周波数雑音がなくなり、暗部の画質が改善する。さらに、クランプ位相は飛び込みが少ない位相に設定してあるが、位相が揺らいで、飛び込みが増加しても、上述の様に、誤差が低減される。
つまり、利得可変増幅を高くするか蓄積時間を長くするかにより、電子増倍率の増加による増倍ゆらぎを抑制する事により、映像信号のふらつき雑音を減衰させる事である。
つまり、14bit以上のFEPの使用で電子増倍ゆらぎ以外の1/f雑音を減衰させておき、電子増倍ゆらぎの総量に強く相関する検出量と電子増倍ゆらぎと熱雑音の合計の総量(熱雑音の総計)に強く相関する検出量とを比較し、電子増倍ゆらぎの1/f雑音の総量と熱雑音の総計とが等しくなるように利得可変増幅の画面内平均値を高く、電子増倍電極振幅値を低く制御し、映像信号の所定レベルを一定にする事である。
つまり、各HOBのNケの白キズを除外してペデスタルレベルを安定させ、水平周期の電子増倍ゆらぎを打ち消して、映像信号の横引き雑音を減衰させる事である。
41,42,53,54,55,56:比較部、 22:差分部、 23:LPF、 24,25:二乗部、 26,27:累積部、 28:係数付比較部、 29:除算部、 30,50:デジタルAGC(D.AGC)部、 31:映像信号処理部、 32:映像メモリ部、 33:相関検出部、 34:出力回路、
401:CDS、402:AGC部、403:ADC、404:TG。
Claims (10)
- CCD撮像素子と該CCD撮像素子の受光面の有効画素から出力される画像信号を取得する第1の取得部と前記CCD撮像素子の受光面の上部または下部または左または右の少なくとも一方の遮光した画素から出力される信号を取得する第2の取得部とを有する撮像装置において、AGC部と、前記第2の取得部で取得した遮光した画素から出力される信号の代表値を算出する手段と、前記第1の取得部で取得した有効画素から出力される暗電流成分を記憶する画面メモリと、前記記憶した有効画素信号の暗電流成分を利得可変増幅し有効画素信号から減算する手段と、前記第1の取得部で取得した有効画素から出力される有効画素信号を記憶するラインメモリと、を有し、前記代表値に相関して有効画素信号の利得可変増幅を制御することと、前記代表値に正に相関して前記記憶した有効画素信号の暗電流成分の利得可変増幅を制御し有効画素信号から減算することと、との少なくとも一方を行う事を特徴とする撮像方法。
- 請求項1の撮像方法において、前記代表値の垂直周期以上の平均に正に相関して有効画素信号の垂直周期以上の利得可変増幅を制御することと、前記代表値の水平周期の値と前記代表値の垂直周期以上の平均との比または前記代表値の画面内の循環平均と前記代表値の垂直周期以上の平均との比に負に相関して有効画素信号の水平周期の利得可変増幅を制御することと、前記代表値の垂直周期に応じて有効画素信号の暗電流成分の垂直周期の利得可変増幅を制御し有効画素信号から減算することと、前記代表値の水平周期の値または前記代表値の画面内の循環平均と前記代表値の垂直周期以上の平均との比に正に相関して有効画素信号の暗電流成分の有効画素信号の水平周期の利得可変増幅を制御し有効画素信号から減算すること、との少なくとも一方を行う事を特徴とする撮像方法。
- 請求項2の撮像方法において、前記撮像装置が電子増倍型CCD撮像素子と可変電圧電子増倍電極駆動部とを有し、
前記第2の取得部で取得した遮光した画素から出力される信号の代表値の現在値と電子増倍しないように低い電子増倍電極電圧時に記憶しておいた前記第2の取得部で取得した遮光した画素から出力される信号の代表値を撮像素子測定温度で補正した暗電流の想定値との比を非電子増倍時に記憶しておいた有効画素の基準の暗電流に、乗算し、有効画素信号から減算する事を特徴とする撮像方法。 - 請求項3の撮像方法において、前記撮像装置が温度測定手段を有し、前記撮像素子がV−OBとH−OBを有し、
V−OBの暗電流の現在の代表値と非電子増倍時に記憶しておいたV−OBの暗電流の代表値を撮像素子測定温度で補正した暗電流の想定値との比を非電子増倍時に記憶しておいた画面メモリの各有効画素の基準の暗電流に乗算し、有効画素信号から減算する事と、現在のV−OBの垂直画素間の代表値の最小値と最大値との差を垂直スミアとして垂直スミアが所定値以下ならH−OBの暗電流の現在の代表値と非電子増倍時に記憶しておいたH−OBの暗電流の代表値を撮像素子測定温度で補正した暗電流の想定値との比を非電子増倍時に記憶しておいた画面メモリの有効画素の基準の暗電流に、乗算し、有効画素信号から減算する事と、の少なくとも一方を行うことを特徴とする撮像方法。 - 請求項2の撮像方法において、前記撮像装置が、前記第1の取得部で取得した有効画素から出力される有効画素信号を記憶する画面メモリと蓄積時間を制御する手段とを有し、前記代表値の画面間循環平均に正に相関して前記有効画素信号の利得可変増幅を制御するか、前記代表値の画面間循環平均に正に相関して蓄積時間を制御するかの少なくとも一方を行う事を特徴とする撮像方法。
- 請求項1の撮像方法において、前記撮像装置が電子増倍型CCD撮像素子と可変電圧電子増倍電極駆動部とを有し、
前記記憶した代表値と走査線信号間の相関部分の平均の比の自乗積分と走査線信号間の相関部分の平均の差の自乗積分との合計等の走査線信号間の相関部分の平均の誤差の自乗積分と走査線信号間の相関部分の差の自乗積分を比較し、走査線信号間の相関部分の差の自乗積分が走査線信号間の相関部分の平均の誤差の2倍になるように垂直周期以上の平均の利得可変増幅を高くすることと、有効画素信号の垂直周期の利得可変増幅を低くすることと、有効画素信号の水平周期の利得可変増幅を低くすることと、垂直周期以上の平均の電子増倍電極振幅値を低く制御すること、との少なくとも一方を行う事を特徴とする撮像方法。 - 請求項6の撮像方法において、前記撮像装置が温度測定手段を有し、前記撮像素子がV−OBとH−OBを有し、
所定以下のレベルの映像信号を走査線内で平均する事と、所定以下のレベルの映像信号を画面内で平均する事と、所定以下のレベルの映像信号を画面間で平均する事と、映像信号の画面間の相関と動きベクトルとをを検出し、所定以上の相関で所定以下の動きベクトルの映像信号は相関の高い部分同士を画面間で平均する事と、の少なくとも一方を行う固体撮像装置の撮像方法において、V−OBの暗電流の現在の代表値と非電子増倍時に記憶しておいたV−OBの暗電流の代表値を撮像素子測定温度で補正した暗電流の想定値との比を有効画素の平均の基準の暗電流に乗算し、有効画素信号から減算する事を特徴とする撮像方法。 - 請求項6の撮像方法において、前記撮像装置が温度測定手段を有し、前記撮像素子がV−OBとH−OBを有し、
V−OBの暗電流の現在の代表値と非電子増倍時に記憶しておいたV−OBの暗電流の代表値を撮像素子測定温度で補正した暗電流の想定値との比(各垂直周期の電子増倍率)、または、前記非増倍時のV−OBの暗電流の代表値を算出し温度補正したものを除算し推定した暗電流の増倍率の各V−OBと前後のV−OBの平均との比、または、画面メモリの有効画素の基準の暗電流に、前記非増倍時のV−OBの暗電流の代表値を算出し温度補正したものを除算し推定した暗電流の増倍率を乗算し有効画素信号から減算し、1Hラインと前画面の同一ラインと上下のラインと相関検出し、1Hラインと最も相関の高いライン間の信号比の二乗積分と1Hラインと最も相関の高いライン間の信号差分の二乗積分との比、または1Hラインと最も相関の高いライン間の信号差分の低周波数成分レベルと高周波数成分レベルとの比、または現在の利得可変増幅の値と前記電子増倍の想定値との比との少なくとも一方で電子増倍電極振幅と利得可変増幅の画面内平均値とを制御し、映像信号の所定レベルを一定にする事を特徴とする撮像方法。 - 請求項6の撮像方法において、前記撮像装置が温度測定手段と雑音除去部と14bit以上のADCとを有し、少なくとも電子増倍持に、現在の走査線の映像信号の非循環平均成分を、1画面前の走査線の映像信号の非循環平均成分と1画面前の1H前走査線の映像信号の非循環平均成分と1画面前の1H後の走査線の映像信号の非循環平均成分との相関を比較する手段を有し、相関の高い位置同士の非循環平均成分の比の二乗の累積を算出する手段と、相関の高い位置同士の非循環平均成分の差の二乗の累積とを算出する手段と、比の二乗の累積と差の二乗の累積との比を算出する手段または、相関の高い位置同士の非循環平均成分の差の二乗の低周波数成分レベルと高周波数成分との比を算出する手段または現在の利得可変増幅の値と前記電子増倍の想定値との比を算出する手段のすくなくとも一方を有し、前記比が所定値以上になるように利得可変増幅の画面内平均値と電子増倍電極振幅値とを制御する手段と、映像信号の(平均値またはスポット除くピーク値またはピーク値等の)所定レベルを一定に制御する手段とを有する事を特徴とする撮像装置。
- 請求項1の撮像方法において、前記CCD撮像素子がH−OBを有し、前記撮像装置がCCD撮像素子から出力された信号から雑音を除去するCDSと暗電流補正と信号の利得を調整するAGC部とデジタル映像信号Viに変換するADCからなるFEPとデジタル映像信号処理回路とを有し、前記デジタル映像信号処理回路でHOBのMケの上位Nケを除いたM−Nケの平均をH−OBの代表値として、当該ラインの有効画素から前記H−OBの代表値を減算することと、前記H−OBの代表値と前記H−OBの代表値の垂直周期以上の平均との比または前記H−OBの代表値の垂直周期内の循環平均と前記H−OBの代表値の垂直周期以上の平均との比に負に相関して前記FEPの利得可変増幅を制御することを特徴とする撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010543809A JP5520833B2 (ja) | 2008-12-24 | 2009-12-15 | 撮像方法および撮像装置 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008328384 | 2008-12-24 | ||
JP2008328384 | 2008-12-24 | ||
JP2010543809A JP5520833B2 (ja) | 2008-12-24 | 2009-12-15 | 撮像方法および撮像装置 |
PCT/JP2009/006890 WO2010073541A1 (ja) | 2008-12-24 | 2009-12-15 | 撮像方法および撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2010073541A1 true JPWO2010073541A1 (ja) | 2012-06-07 |
JP5520833B2 JP5520833B2 (ja) | 2014-06-11 |
Family
ID=42287198
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010543809A Expired - Fee Related JP5520833B2 (ja) | 2008-12-24 | 2009-12-15 | 撮像方法および撮像装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8860863B2 (ja) |
JP (1) | JP5520833B2 (ja) |
WO (1) | WO2010073541A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013150144A (ja) * | 2012-01-19 | 2013-08-01 | Hitachi Kokusai Electric Inc | 撮像方法および撮像装置 |
JP2013239861A (ja) * | 2012-05-14 | 2013-11-28 | Freebit Co Ltd | 画像撮影システム |
JP2014017724A (ja) * | 2012-07-10 | 2014-01-30 | Sumitomo Electric Ind Ltd | 撮像装置 |
JP6880709B2 (ja) * | 2016-12-20 | 2021-06-02 | 株式会社リコー | 光電変換装置、光電変換方法及び画像形成装置 |
US11039089B2 (en) * | 2019-03-27 | 2021-06-15 | Indian Institute Of Technology Ropar | Thermal imaging for identifying a defect in a material |
CN114630054A (zh) * | 2020-12-14 | 2022-06-14 | 瑞昱半导体股份有限公司 | 具有图像闪烁检测机制的图像获取装置及其图像闪烁检测方法 |
CN113469297B (zh) * | 2021-09-03 | 2021-12-14 | 深圳市海邻科信息技术有限公司 | 图像篡改检测方法、装置、设备及计算机可读存储介质 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04107824A (ja) | 1990-08-28 | 1992-04-09 | Tokyo Electron Ltd | 洗浄用部材の洗浄方法 |
JPH0767038A (ja) | 1993-08-24 | 1995-03-10 | Sony Corp | 固体撮像装置 |
JP3089298B2 (ja) * | 1997-11-07 | 2000-09-18 | 松下電器産業株式会社 | 光電変換装置及び固体撮像素子 |
CN1179551C (zh) | 1997-11-07 | 2004-12-08 | 松下电器产业株式会社 | 光电变换器与固态摄像元件 |
JP2000152098A (ja) * | 1998-11-10 | 2000-05-30 | Matsushita Electric Ind Co Ltd | 映像信号処理装置 |
JP2002232382A (ja) | 2001-01-29 | 2002-08-16 | Hitachi Kokusai Electric Inc | 直交周波数分割多重変調方式伝送装置の基準信号再生方法及びその伝送装置 |
JP2003009000A (ja) * | 2001-06-21 | 2003-01-10 | Fuji Photo Film Co Ltd | 撮像装置 |
JP4107824B2 (ja) | 2001-10-04 | 2008-06-25 | 株式会社日立国際電気 | Ofdm受信装置のアンテナ方向調整方法及びその装置 |
JP2005109772A (ja) * | 2003-09-30 | 2005-04-21 | Sanyo Electric Co Ltd | 固体撮像素子を用いたビデオカメラ装置の黒レベル補正回路および黒レベル補正方法 |
JP4358182B2 (ja) | 2005-11-29 | 2009-11-04 | 株式会社日立国際電気 | 撮像装置およびその雑音低減方法 |
JP2007150828A (ja) * | 2005-11-29 | 2007-06-14 | Pentax Corp | 固定パターンノイズ除去装置 |
JP4932578B2 (ja) | 2006-04-27 | 2012-05-16 | 株式会社日立国際電気 | 撮像装置の感度補正方法および撮像装置 |
KR100849475B1 (ko) | 2006-04-27 | 2008-07-30 | 가부시키가이샤 히다치 고쿠사이 덴키 | 촬상장치 및 촬상장치의 감도 보정방법 |
JP2008054281A (ja) * | 2006-07-26 | 2008-03-06 | Matsushita Electric Ind Co Ltd | 撮像回路の自動調整装置 |
US7800663B2 (en) | 2006-09-25 | 2010-09-21 | Hitachi Kokusai Electric Inc. | Image pickup device and image pickup method |
JP2008109639A (ja) * | 2006-09-25 | 2008-05-08 | Hitachi Kokusai Electric Inc | 撮像装置および撮像方法 |
JP2008124725A (ja) * | 2006-11-10 | 2008-05-29 | Toshiba Corp | 固体撮像素子の駆動装置及びその駆動方法 |
JP4642036B2 (ja) * | 2007-02-27 | 2011-03-02 | 株式会社日立国際電気 | 撮像装置およびその雑音低減方法 |
JP2010016475A (ja) * | 2008-07-01 | 2010-01-21 | Mitsubishi Electric Corp | 固体撮像装置および三板式固体撮像装置 |
JP5195289B2 (ja) * | 2008-10-30 | 2013-05-08 | パナソニック株式会社 | 撮像装置 |
JP5312246B2 (ja) * | 2009-07-24 | 2013-10-09 | キヤノン株式会社 | 撮像装置及び制御方法 |
US8570405B2 (en) * | 2010-08-11 | 2013-10-29 | Inview Technology Corporation | Determining light level variation in compressive imaging by injecting calibration patterns into pattern sequence |
-
2009
- 2009-12-15 JP JP2010543809A patent/JP5520833B2/ja not_active Expired - Fee Related
- 2009-12-15 WO PCT/JP2009/006890 patent/WO2010073541A1/ja active Application Filing
-
2011
- 2011-05-18 US US13/110,332 patent/US8860863B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP5520833B2 (ja) | 2014-06-11 |
US8860863B2 (en) | 2014-10-14 |
US20110216223A1 (en) | 2011-09-08 |
WO2010073541A1 (ja) | 2010-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8988561B2 (en) | Imaging apparatus having temperature sensor within image sensor wherein apparatus outputs an image whose quality does not degrade if temperature increases within image sensor | |
KR100617781B1 (ko) | 이미지 센서의 화질 개선장치 및 방법 | |
JP5520833B2 (ja) | 撮像方法および撮像装置 | |
KR101252275B1 (ko) | 고체촬상소자의 신호처리장치 및 방법과 촬상장치 | |
KR101211117B1 (ko) | 고체촬상소자의 신호처리장치 및 방법과 촬상장치 | |
KR100825076B1 (ko) | 촬상장치 및 그 잡음저감방법 | |
US10027919B2 (en) | Signal processing apparatus, image capturing apparatus, control apparatus, signal processing method, and control method | |
JP2013150144A (ja) | 撮像方法および撮像装置 | |
US8576307B2 (en) | Imaging device having a characteristic converting section | |
US8842187B2 (en) | Image processing device, image processing method, and solid-state imaging device | |
JP2008109639A (ja) | 撮像装置および撮像方法 | |
JP5411322B2 (ja) | 撮像装置および撮像方法 | |
JP5195289B2 (ja) | 撮像装置 | |
JP2013175907A (ja) | 画像処理装置及び固体撮像装置 | |
JP5500702B2 (ja) | 撮像方法および撮像装置 | |
JP7134786B2 (ja) | 撮像装置および制御方法 | |
JP5784669B2 (ja) | 撮像装置 | |
JP5395710B2 (ja) | 撮像装置 | |
JP2006100913A (ja) | 画像処理装置および画像処理方法 | |
JP2013153380A (ja) | 撮像装置および撮像方法 | |
JP2007151186A (ja) | 撮像装置およびその雑音低減方法 | |
JP2019004403A (ja) | 画像処理装置 | |
JP2018147417A (ja) | 画像処理装置、画像処理方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121225 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130709 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130904 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131015 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131212 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140318 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140407 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5520833 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |