JP2021057833A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2021057833A JP2021057833A JP2019180782A JP2019180782A JP2021057833A JP 2021057833 A JP2021057833 A JP 2021057833A JP 2019180782 A JP2019180782 A JP 2019180782A JP 2019180782 A JP2019180782 A JP 2019180782A JP 2021057833 A JP2021057833 A JP 2021057833A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- pixel
- unit
- imaging
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 164
- 238000012937 correction Methods 0.000 claims abstract description 63
- 238000006243 chemical reaction Methods 0.000 claims abstract description 37
- 230000035945 sensitivity Effects 0.000 claims description 23
- 230000006866 deterioration Effects 0.000 abstract description 3
- 238000012545 processing Methods 0.000 description 86
- 238000009825 accumulation Methods 0.000 description 26
- 230000004048 modification Effects 0.000 description 18
- 238000012986 modification Methods 0.000 description 18
- 230000003321 amplification Effects 0.000 description 11
- 238000000034 method Methods 0.000 description 11
- 238000003199 nucleic acid amplification method Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 11
- 238000001514 detection method Methods 0.000 description 8
- 230000007547 defect Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 239000012535 impurity Substances 0.000 description 6
- 238000012546 transfer Methods 0.000 description 5
- 241000519995 Stachys sylvatica Species 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000002950 deficient Effects 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 238000003705 background correction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 101100191136 Arabidopsis thaliana PCMP-A2 gene Proteins 0.000 description 1
- 101100041125 Arabidopsis thaliana RST1 gene Proteins 0.000 description 1
- 101100443250 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) DIG1 gene Proteins 0.000 description 1
- 101100443251 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) DIG2 gene Proteins 0.000 description 1
- 101100422768 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) SUL2 gene Proteins 0.000 description 1
- 101100048260 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) UBX2 gene Proteins 0.000 description 1
- 101100041128 Schizosaccharomyces pombe (strain 972 / ATCC 24843) rst2 gene Proteins 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
図1は、第1の実施の形態に係る撮像装置の一例であるカメラ1の構成例を示す図である。カメラ1は、撮影光学系(結像光学系)2、撮像素子3、制御部4、メモリ5、表示部6、操作部7、及び温度検出部8を備える。撮影光学系2は、焦点調節レンズ(フォーカスレンズ)を含む複数のレンズ及び開口絞りを有し、撮像素子3に被写体像を結像する。なお、撮影光学系2は、カメラ1から着脱可能にしてもよい。
水平制御部22により画素信号が増幅される際、画素信号に含まれる暗電流成分も、ISO感度に基づいて決定されるゲインで増幅される。このため、画素信号に含まれるノイズ成分の大きさは、カメラ1に設定されるISO感度に依存する。
DC’=DC×{exp[−(q/k×Ea_d)/Temp_d]/exp[−(q/k×Ea_d)/Temp_st)]}×Time_d
=DC×exp[(q/k×Ea_d)×(1/Temp_st−1/Temp_d)]×Time_d …(1)
補正対象画素の暗電流値DC_h’[e−]は、次式(2)で表すことができる。
DC_h’=DC_h×exp[(q/k×Ea_h)×(1/Temp_st−1/Temp_d)]×Time_d …(2)
上述の式(1)において、DC[e−/s]は温度(絶対温度)がTemp_st[K]の場合の通常画素の暗電流値であり、Ea_d[eV]は通常画素の暗電流の活性化エネルギーである。上述の式(2)において、DC_h[e−/s]は温度がTemp_st[K]の場合の補正対象画素の暗電流値であり、Ea_h[eV]は補正対象画素の暗電流の活性化エネルギーである。また、qは素電荷(電荷素量)であり、kはボルツマン定数であり、Temp_dは予備撮像時の温度であり、Time_dは予備撮像時の電荷蓄積期間(露光時間)である。一般的に、撮像時の温度が高くなる程、また電荷蓄積期間が長くなる程、暗電流値が大きくなる。また、予備撮像時の温度Temp_dが高く、電荷蓄積期間Time_dが長くなるにつれて、通常画素の暗電流値DC’に比べて補正対象画素の暗電流値DC_h’の方がより大きくなり、暗電流値DC’と暗電流値DC_h’とが離れる。
DC’+b×sqrt(DC’)<DC_h’−b×sqrt(DC_h’) …(3)
上述の式(3)において、bは標準偏差の倍率である。倍率bは、使用する撮像素子等によって適宜選択すればよいが、例えば倍率b=3.5とした式(3)を満たすように温度Temp_d及び電荷蓄積期間Time_dを決定し、決定した温度Temp_d及び電荷蓄積期間Time_dにて予備撮像を行うことによって、補正対象画素の画素信号と通常画素の画素信号とを十分に区別することが可能となる。このような温度及び電荷蓄積期間の条件は、特定の温度依存性をもつ暗電流に起因する白点が多く発生する条件となる。このような条件で予備撮像を行った場合の撮像素子3の各画素の暗電流の分布は、図3に示すようになる。
Thre_d1=Thre_st1×G_Temp1×(Time_d/Time_st)×(2(SV_d−SV_st)) …(4)
Thre_d2=Thre_st2×G_Temp1×(Time_d/Time_st)×(2(SV_d−SV_st)) …(5)
上述の式(4)、(5)において、閾値Thre_st1及び閾値Thre_st2は、それぞれ、補正対象画素の画素信号と通常画素の画素信号とが完全に分離される条件(温度Temp_st、ISO感度SV_st、及び電荷蓄積期間Time_st)の場合の第1の閾値、第2の閾値である。閾値Thre_st1及び閾値Thre_st2は、予備撮像の前に、予めシミュレーションや実験等により求められる。SV_dは、予備撮像時のISO感度である。また、G_Temp1は、次式(6)で表されるパラメータである。
G_Temp1=exp[(q/k×Ea_d)×(1/Temp_st−1/Temp_d)] …(6)
G=G_adj×G_Temp2×(Time_h/Time_d)×(2(SV_h−SV_d)) …(7)
なお、式(7)において、G_adjは、調整用ゲインであり、予め実験やシミュレーションにより求められる。G_Temp2は、次式(8)で表されるパラメータである。
G_Temp2=exp[(q/k×Ea_h)×(1/Temp_st−1/Temp_h)] …(8)
(1)撮像装置(カメラ1)は、光電変換部11で生成された電荷に基づく信号を出力する画素10を有する撮像部(撮像素子3)と、撮像部への光を遮光した状態で第1の温度及び第1の期間において光電変換部11で生成された電荷に基づく第1信号と、第1の温度と第1の期間とに基づいて、撮像部へ光が入射した状態で光電変換部11で生成された電荷に基づく第2信号を補正する補正部(処理部4b)と、を備える。本実施の形態では、処理部4bは、予備撮像により得られた暗時画像信号と予備撮像時の条件情報とに基づいて、本撮像時の画像信号を補正する。このため、本撮像時の画像信号に含まれる暗電流成分を低減することができ、画像の画質低下を抑制することができる。
(2)処理部4bは、予備撮像時の撮像素子3の温度及び電荷蓄積期間に基づいて、本撮像時に生じる暗電流量に応じた画像信号を算出して、本撮像時の画像信号に対するノイズ補正処理を行う。このため、ノイズ補正処理の精度を向上させることができる。
暗時画像信号に含まれるノイズ成分が大きく、本撮像時の画像信号に含まれるノイズ成分が小さい場合は、ノイズ補正処理の精度が低下する場合がある。そこで、本変形例では、制御部4は、予備撮像を複数回行って、複数の暗時画像信号を取得し、複数の暗時画像信号を加算平均する。制御部4は、加算平均された暗時画像信号に対してクリップ処理を行い、クリップ処理後の暗時画像信号を記憶部4a(又はメモリ5)に記憶する。このため、制御部4は、加算平均された暗時画像信号を用いて、本撮像時の画像信号のノイズ補正処理を行うことが可能となり、ノイズ補正処理の精度が低下することを抑制できる。なお、クリップ処理後の暗時画像信号は信号の値が0の画素信号を多く含むため、制御部4は、クリップ処理後の暗時画像信号に対してハフマン圧縮(ハフマン符号化)を行って、圧縮後の暗時画像信号を記憶部4aに記憶させてもよい。
本撮像時に撮像素子3の温度が変化した場合に、ゲインGに誤差が生じる場合がある。そこで、本変形例では、制御部4は、本撮像時の電荷蓄積期間の間に繰り返し検出された複数の温度情報を、温度検出部8から取得する。制御部4は、上述した式(7)の代わりに、次式(9)を用いて、ゲインGを算出する。
G=G_adj×2(SV_h−SV_d))×1/Time_d×Σ(G_Temp’×Δt) …(9)
式(9)において、Δtは温度検出部8が温度を検出する時間間隔であり、ΣΔt=Time_hとなる。また、G_Temp’は、次式(10)で表されるパラメータである。
G_Temp’=exp[(q/k×Ea_h)×(1/Temp_d−1/Temp_h’)] …(10)
式(10)において、Temp_h’は、温度情報によって把握される各時刻における撮像素子3の温度である。
制御部4は、本撮像時の電荷蓄積期間における撮像素子3の温度を考慮してゲインGを算出して、本撮像時の画像信号に対してノイズ補正処理を行う。このため、ノイズ補正処理を精度良く行うことができる。
上述した実施の形態では、カメラ1の出荷前の工程において、暗時画像信号を取得する例について説明した。しかし、カメラ1の出荷後の工程において、暗時画像信号を取得可能としてもよい。暗時画像信号の更新を行い、最新の暗時画像信号を用いてノイズ補正処理を行うことにより、ノイズ補正処理の精度を向上させることができる。
画像信号に含まれる各画素の画素信号のうち、一部の画素信号のみについてノイズ補正処理を行うようにしてもよい。制御部4は、本撮像時の画像信号に含まれる画素信号のうち、画像を表示した場合にノイズが目立ちやすいところのみノイズ補正処理を行うようにしてもよい。
上述した実施の形態では、補正対象画素の画素信号の減算処理を行う例について説明した。しかし、制御部4は、本撮像時の補正対象画素の画素信号を、その補正対象画素の周辺画素の画素信号を用いて補間する処理を行ってもよい。この場合、制御部4は、補正対象画素の画素信号を、その補正対象画素の周辺の複数(例えば8つ)の同色画素の画素信号の平均値に置き換えてもよい。また、制御部4は、補正対象画素の周辺の8つの同色画素の画素信号のうち、信号レベルが上位4番目の画素信号を用いて、その補正対象画素の画素信号を補間してもよい。
制御部4は、暗時画像信号に含まれる補正対象画素の画素信号の平均値を算出し、算出した平均値を、本撮像時の画像信号に含まれる複数の補正対象画素の画素信号それぞれから減算するようにしてもよい。前述したように補正対象画素の画素信号には補正対象画素の平均的な暗電流[e−]の平方根の暗電流ショットノイズによるランダムノイズ成分が含まれており、固定値で減算することにより、ランダム性質同士の減算によるランダムノイズの増加を防ぐことができる。
制御部4は、クリップ処理前の暗時画像信号を用いて、ダークシェーディング補正を行うようにしてもよい。この場合、予備撮像が行われた後、制御部4は、クリップ処理前の暗時画像信号を記憶部4a(又はメモリ5)に記憶させる。制御部4は、本撮像時の画像信号から、クリップ処理前の暗時画像信号を減算する。
また、制御部4は、暗時画像信号に含まれる各画素の画素信号を、画像内の複数の領域毎に分割し、分割された各領域の画素信号の平均値または中央値を、記憶部4aに記憶してもよい。記憶部4aには、分割された各領域の画素信号の平均値または中央値からなる暗時画像信号が記憶されるため、記憶部4aに記憶されるデータ量を低減することができる。制御部4は、分割された各領域の画素信号の平均値からなる暗時画像信号をもとの画像サイズに復元するためにガウシアンフィルタ等による平滑化処理を行った後、処理後の暗時画像信号を、本撮像時の画像信号から減算する。また、分割しない場合に対しても高周波成分を除去する目的で、ガウシアンフィルタ等による平滑化処理を行って減算してもよい。本変形例では、本撮像時の画像信号に対してダークシェーディング補正が行われて、画像信号のノイズ成分を低減することができる。
上述した実施の形態では、制御部4は、電荷蓄積期間が所定時間以上であり、かつ温度が所定温度以上である場合に、本撮像時の画像信号に対してノイズ補正処理を行う例について説明した。しかし、制御部4は、本撮像時の電荷蓄積期間が所定時間以上、及び温度が所定温度以上の少なくとも一方である場合に、本撮像時の画像信号に対してノイズ補正処理を行うようにしてもよい。
上述した実施の形態および変形例では、光電変換部としてフォトダイオードを用いる例について説明した。しかし、光電変換部として光電変換膜(有機光電膜)を用いるようにしてもよい。
上述の実施の形態及び変形例で説明した撮像素子及び撮像装置は、カメラ、スマートフォン、タブレット、PCに内蔵のカメラ、車載カメラ、無人航空機(ドローン、ラジコン機等)に搭載されるカメラ等に適用されてもよい。
Claims (12)
- 光電変換部で生成された電荷に基づく信号を出力する画素を有する撮像部と、
前記撮像部への光を遮光した状態で第1の温度及び第1の期間において前記光電変換部で生成された電荷に基づく第1信号と、前記第1の温度と前記第1の期間とに基づいて、前記撮像部へ光が入射した状態で前記光電変換部で生成された電荷に基づく第2信号を補正する補正部と、
を備える撮像装置。 - 請求項1に記載の撮像装置において、
前記撮像部は、前記撮像部へ光が入射した状態で、第2の温度及び第2の期間において前記光電変換部で生成された電荷に基づく前記第2信号を出力し、
前記補正部は、前記第1信号と前記第1及び第2の温度と前記第1及び第2の期間とに基づいて、前記第2信号を補正する撮像装置。 - 請求項2に記載の撮像装置において、
前記補正部は、前記第1及び第2の温度と前記第1及び第2の期間とに基づく値を乗じた前記第1信号を前記第2信号から減算する撮像装置。 - 請求項2または請求項3に記載の撮像装置において、
前記補正部は、前記第2の温度が所定温度以上、及び前記第2の期間が所定期間以上の少なくとも一方である場合、前記第2信号を補正する撮像装置。 - 請求項2から請求項4までのいずれか一項に記載の撮像装置において、
前記補正部は、前記撮像部への光を遮光した状態で第1の感度において前記光電変換部で生成された電荷に基づく前記第1信号と前記第1の温度と前記第1の期間と前記第1の感度とに基づいて、前記第2信号を補正する撮像装置。 - 請求項5に記載の撮像装置において、
前記撮像部は、前記撮像部へ光が入射した状態で、第2の感度において前記光電変換部で生成された電荷に基づく前記第2信号を出力し、
前記補正部は、前記第1信号と前記第1及び第2の温度と前記第1及び第2の期間と前記第1及び第2の感度とに基づいて、前記第2信号を補正する撮像装置。 - 請求項6に記載の撮像装置において、
前記補正部は、前記第1及び第2の温度と第1及び第2の期間と前記第1及び第2の感度とに基づく値を乗じた前記第1信号を前記第2信号から減算する撮像装置。 - 請求項7に記載の撮像装置において、
前記補正部は、前記第1信号と前記第1の温度と前記第1及び第2の期間と前記第1及び第2の感度と前記第2の期間内の異なる時刻における温度とに基づいて、前記第2信号を補正する撮像装置。 - 請求項1から請求項8までのいずれか一項に記載の撮像装置において、
前記補正部は、複数の前記画素の各々の前記第1信号の平均値を前記第2信号から減算する撮像装置。 - 請求項1から請求項9までのいずれか一項に記載の撮像装置において、
前記補正部は、信号の値が所定範囲内となる前記第1信号に基づいて前記第2信号を補正する撮像装置。 - 請求項10に記載の撮像装置において、
前記所定範囲は、前記撮像部への光を遮光した状態で前記撮像部から出力される前記第1信号の値の分布に基づいて決定される撮像装置。 - 請求項1から請求項11までのいずれか一項に記載の撮像装置において、
前記第1の温度、前記第1の期間、及び前記第1信号を記憶する記憶部を備える撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019180782A JP7490939B2 (ja) | 2019-09-30 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019180782A JP7490939B2 (ja) | 2019-09-30 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021057833A true JP2021057833A (ja) | 2021-04-08 |
JP7490939B2 JP7490939B2 (ja) | 2024-05-28 |
Family
ID=
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9838625B2 (en) | Image processing apparatus and control method for image processing apparatus for controlling correction of a black level in a combined image signal | |
US20140347533A1 (en) | Image processing device and image processing method | |
JP2009284424A (ja) | 撮像装置、撮像方法及びプログラム | |
US11290648B2 (en) | Image capture apparatus and control method thereof | |
JP6351271B2 (ja) | 画像合成装置、画像合成方法、およびプログラム | |
JP6099536B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP2015130630A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
US10270991B2 (en) | Image processing apparatus, image processing method, and computer-readable recording medium | |
JP2015018084A (ja) | 撮像装置、画像処理方法及び画像処理プログラム | |
JP2010118876A (ja) | 撮像装置及びその制御方法 | |
JP2016105568A (ja) | 撮像装置 | |
JP6736279B2 (ja) | 撮像装置、画像処理装置、画像処理方法 | |
US10425602B2 (en) | Image processing apparatus, image processing method, and computer-readable recording medium | |
JP6270400B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP7490939B2 (ja) | 撮像装置 | |
JP2021057833A (ja) | 撮像装置 | |
JP2009055415A (ja) | カメラ | |
JP6704611B2 (ja) | 撮影装置及び撮影方法 | |
JP6149615B2 (ja) | 撮像装置 | |
JP5311927B2 (ja) | 撮像装置、撮像方法 | |
JP2017143585A (ja) | 撮像装置 | |
JP5522299B2 (ja) | 撮像装置、撮像方法、および、プログラム | |
JPWO2018020687A1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2024000839A (ja) | 撮像装置および画像処理方法 | |
JP5476725B2 (ja) | 電子カメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191010 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20210423 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210715 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210817 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220831 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230629 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230704 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230901 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231102 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240123 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240322 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240416 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240429 |