JP2016100686A - 撮像装置および撮像方法 - Google Patents
撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP2016100686A JP2016100686A JP2014234763A JP2014234763A JP2016100686A JP 2016100686 A JP2016100686 A JP 2016100686A JP 2014234763 A JP2014234763 A JP 2014234763A JP 2014234763 A JP2014234763 A JP 2014234763A JP 2016100686 A JP2016100686 A JP 2016100686A
- Authority
- JP
- Japan
- Prior art keywords
- exposure
- image
- imaging
- dark current
- amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】画像処理の負担を抑制しつつ、画像のダイナミックレンジを改善することができる撮像装置および撮像方法を提供する。【解決手段】本発明による撮像装置は、一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより前記複数回の露光に対応した複数のフレーム画像を取得し、前記複数のフレーム画像から一つの画像を生成する撮像装置であって、前記フレーム画像に含まれるノイズ成分を規定する当該撮像装置の特性量を取得し、前記特性量に基づき、前記複数回の露光のそれぞれにおける露光時間の上限値を取得し、前記上限値に従って前記複数回の露光を制御することにより前記複数のフレーム画像を発生させる露光制御部と、前記複数のフレーム画像を前記一つの画像に合成する画像合成部と、を備える。【選択図】図1
Description
本発明は、デジタルスチールカメラ等の撮像装置および撮像方法に関し、更に詳しくは、撮像装置に備えられた撮像素子の暗電流に起因したノイズを低減するための技術に関する。
夜景、花火、天体、星空等のように、光量が少ない被写体を撮像する場合、1秒以上の長時間露光を必要とする。このような長時間露光では、通常、バルブモード(Bulb mode)が用いられる。バルブモードでの長時間露光によれば、露光時間を長くするほど大きな光量を得ることができる。しかしながら、CCD(Charge Coupled Device)イメージセンサ等の撮像素子により画像を電子的に形成するデジタルスチールカメラ等の場合、露光時間に比例して撮像素子の暗電流によるノイズ成分が増加するため、長時間露光により画像のダイナミックレンジ(Dynamic Range)が低下する。
上述の長時間露光における撮像素子の暗電流に起因したダイナミックレンジの低下を回避するための技術として、いわゆる分割露光技術がある(特許文献1および特許文献2参照)。分割露光技術によれば、一定時間以上の長時間露光を複数の短時間露光に分割することにより、撮像素子の暗電流の影響を抑え、画像のダイナミックレンジを改善することができる。
しかしながら、従来の分割露光技術によれば、長時間露光を分割して得られる複数の短時間露光のそれぞれの露光時間は、撮像素子の暗電流に起因したノイズの発生量に影響を与える筐体温度やISO感度等とは無関係に設定される。このため、筐体温度やISO感度等が変化すると、短時間露光の露光時間を設定し直す必要がある。
ここで、短時間露光の露光時間が短すぎる場合、即ち、長時間露光の分割数が必要以上に多い場合、その分割数に応じて画像処理の負担が増加する。このため、画像処理に要する時間と消費電力が増加する。また、短時間露光の露光時間が長すぎる場合、即ち、長時間露光の分割数が少なすぎる場合、撮像素子の暗電流の影響が顕在化する。このため、ダイナミックレンジの改善効果を得ることができなくなる。
本発明は、上記事情に鑑みてなされたものであり、画像処理の負担を抑制しつつ、画像のダイナミックレンジを改善することができる撮像装置および撮像方法を提供することを目的とする。
上記目的を達成するため、本発明の一態様に係る撮像装置は、一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより前記複数回の露光に対応した複数のフレーム画像を取得し、前記複数のフレーム画像から一つの画像を生成する撮像装置であって、前記フレーム画像に含まれるノイズ成分を規定する当該撮像装置の特性量を取得し、前記特性量に基づき、前記複数回の露光のそれぞれにおける露光時間の上限値を取得し、前記上限値に従って前記複数回の露光を制御することにより前記複数のフレーム画像を発生させる露光制御部と、前記複数のフレーム画像を前記一つの画像に合成する画像合成部と、を備えた撮像装置の構成を有する。
上記撮像装置において、例えば、前記露光制御部は、前記特性量を用いて撮像素子の単位時間あたりの暗電流を取得し、前記単位時間あたりの暗電流を用いて、前記複数回の露光のそれぞれにおける前記撮像素子の暗電流の積算量が所定値に到達するのに要する時間を算出し、前記積算量が前記所定値に到達するのに要する時間を前記上限値として取得する。
上記撮像装置において、例えば、前記露光制御部は、前記特性量として、少なくとも、当該撮像装置の筐体温度と、ISO感度に対応したアナログゲインとを取得する。
上記撮像装置において、例えば、前記撮像素子のぺデスタルレベルが前記所定値として設定される。
上記撮像装置において、例えば、前記撮像素子のぺデスタルレベルが前記所定値として設定される。
上記撮像装置において、例えば、前記露光制御部は、前記撮像素子の単位時間あたりの暗電流発生量をμdark.1sとし、前記筐体温度をθとし、前記アナログゲインをAGとし、前記撮像素子の出力信号を画素値に変換する際のコンバージョンゲインをCGとし、前記筐体温度が30℃のときの1秒あたりの前記撮像素子の暗電流をNd30とし、暗電流倍化温度係数をKdとしたときに、μdark.1s=CG×AG×Nd30×2(θ―30)/Kdなる数式を用いて前記撮像素子の単位時間あたりの暗電流の発生量を算出する。
上記目的を達成するため、本発明の一態様に係る撮像方法は、一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより、前記複数回の露光に対応した複数のフレーム画像を取得し、前記複数のフレーム画像から一つの画像を生成する撮像方法であって、前記フレーム画像に含まれるノイズ成分を規定する当該撮像装置の特性量を取得し、前記特性量に基づき、前記複数回の露光のそれぞれにおける露光時間の上限値を取得し、前記上限値に従って前記複数回の露光を制御することにより前記複数のフレーム画像を発生させる第2段階と、前記複数のフレーム画像を前記一つの画像に合成する第3段階と、を含む撮像方法の構成を有する。
本発明の一態様によれば、画像処理の負担を抑制しつつ、画像のダイナミックレンジを改善することができる。
以下、本発明の実施形態について、図面を参照して説明する。
図1は、本実施形態による撮像装置100の構成の一例を示す図である。
概略的には、撮像装置100は、例えばデジタルスチールカメラであり、一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより、上記複数回の露光に対応した複数のフレーム画像を取得し、上記複数のフレーム画像から一つの画像を生成するように構成される。ただし、この例に限定されず、撮像装置100は、静止画を撮像する撮像モードを有する装置であれば、どのような撮像装置であってもよく、例えば、静止画の撮像機能を有する動画撮像装置であってもよい。
図1は、本実施形態による撮像装置100の構成の一例を示す図である。
概略的には、撮像装置100は、例えばデジタルスチールカメラであり、一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより、上記複数回の露光に対応した複数のフレーム画像を取得し、上記複数のフレーム画像から一つの画像を生成するように構成される。ただし、この例に限定されず、撮像装置100は、静止画を撮像する撮像モードを有する装置であれば、どのような撮像装置であってもよく、例えば、静止画の撮像機能を有する動画撮像装置であってもよい。
以下では、一回の静止画の撮像につき所望の露光量が得られるまで複数回の露光を実施する露光形式を「分割露光」と称す。また、分割露光における複数回の露光のそれぞれを「分割単位露光」と称す。ただし、このような用語の定義は、説明の便宜のためのものであり、本発明の本質を限定するものではない。また、本実施形態では、バルブモードにおいて分割露光が実施されるものとするが、バルブモード以外の通常の撮像モードにおいて本実施形態による分割露光を実施することも可能である。
撮像装置100は、レンズ101、絞り102、シャッタ103、撮像素子104、アナログ/デジタル(A/D)変換器105、前処理部106、画像メモリ107、画像処理部108、画像記録部109、露光制御回路110、温度センサ111、特性量記憶部112、露光制御部113、画像合成部114を備えている。
撮像素子104に入射する入射光Lの光路に沿って、レンズ101、絞り102、シャッタ103が配置されている。撮像素子104は、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の光電変換素子であり、入射光Lの光量に応じた電荷を発生させてアナログ量の画素信号Sを出力する。撮像素子104から出力された画素信号Sは、アナログ/デジタル変換器105に供給される。アナログ/デジタル変換器105は、画素信号Sをデジタル量の画素データ(画素値)Dに変換するための構成要素である。本実施形態では、アナログ/デジタル変換器105は、撮像素子104から出力される画素信号に対し、アンプ雑音等を除去するための相関2重サンプリング処理(CDS処理)、アナログゲインコントロール(AGC)処理等のアナログフロントエンドを含んでいる。
前処理部106は、画素データDの前処理を施してRAW画像データRDを生成するための構成要素である。前処理部106での前処理には、OB(Optical Black)減算が含まれる。RAW画像データRDは画像メモリ107に保持される。画像処理部108は、RAW画像データRDに対し、ホワイトバランス補正処理、ベイヤー色補間処理(デモザイク処理)、色補正処理、ガンマ補正処理等の後処理を施すための構成要素である。上記の後処理が施されたRAW画像データは画像記録部109に格納される。
露光制御回路110は、露光制御部113の制御の下、絞り102、シャッタ103、撮像素子104のそれぞれを駆動制御するための構成要素である。バルブモードにおいて、露光制御回路110は、露光制御部113の制御の下、シャッタ103が開状態にある期間、撮像素子104の画素信号Sの読み出し動作を複数回行い、1回の読み出し動作につき1フレーム画像分の画素信号が読み出される。これにより、バルブモードにおいて分割露光が実施され、画素信号Sの読み出し回数に応じて、複数のフレーム画像の画素信号Sが読み出される。
このように、本実施形態では、分割露光はシャッタ103の開閉動作によるのではなく、シャッタ103が開状態にある期間において、1フレーム画像分の画素信号Sの読み出し動作を複数回繰り返すことによって分割露光が実施される。分割露光における画素信号Sの複数回の読み出し動作の時間間隔(周期)は、分割単位露光の露光時間を定める。以下では、分割単位露光の露光時間を「分割単位露光時間」と称す。分割露光を用いた撮像における最終的な露光時間は、分割単位露光時間を積算した値となる。
温度センサ111は、撮像素子104の暗電流の発生量を規定する撮像装置100の特性量の一つである撮像素子104の周囲温度を検出するための構成要素である。本実施形態では、温度センサ111は、撮像素子104の周囲温度として撮像装置100の筐体温度θを検出する。ただし、この例に限定されず、撮像装置100に備えられた撮像素子104の暗電流の発生量を算出することができることを限度として、温度センサ111は任意の部位の温度を検出してもよい。
特性量記憶部112は、撮像素子104の暗電流の発生量を規定する撮像装置100の各種の特性量に関する情報を格納するための構成要素である。本実施形態では、撮像素子104の暗電流の発生量を規定する撮像装置100の特性量は、上述の筐体温度θと、後述のISO感度に応じて設定されるアナログゲインAGとに加えて、撮像素子104に固有の特性量を含む。これらの特性量のうち、撮像素子104に固有の特性量が特性量記憶部112に格納されている。具体的には、特性量記憶部112には、入射光Lにより誘起された電荷を画素信号Sに変換する際のコンバージョンゲインCG[DN/e-]に関する情報と、周囲温度が30℃での1秒(単位時間)あたりの暗電流発生量Nd30[e-/sec]に関する情報と、暗電流倍化温度Kd[℃]に関する情報とが格納されている。以下では、説明の便宜上、周囲温度が30℃での1秒(単位時間)あたりの暗電流発生量Nd30を「基準暗電流発生量Nd30」と称す。
特性量記憶部112に格納された情報によって示される特性量は、撮像素子104に固有の固定値であり、例えば撮像素子104の仕様に基づいて設定される。撮像素子104の個体差が大きい場合には、個々の撮像素子毎に実測された特性値を特性量記憶部112に格納してもよい。特に、基準暗電流発生量Nd30には撮像素子104の個体差が顕著に反映される傾向があるため、基準暗電流発生量Nd30の実測値から得られた情報を特性量記憶部112に格納しておくことが望ましい。
露光制御部113は、露光制御回路110を通じて、絞り102の絞り量と、シャッタ103の動作速度と、撮像素子104の読み出し動作と、画像メモリ107の動作を制御するための構成要素である。露光制御部113は、分割露光において、撮像素子104により撮像されたフレーム画像に含まれるノイズ成分を規定する撮像装置100の上記の特性量を取得し、上記の特性量に基づき、分割単位露光における分割単位露光時間の上限値(後述の分割露光時間上限値Tdiv)を取得する機能を有している。
本実施形態では、露光制御部113は、上記のフレーム画像に含まれるノイズ成分を規定する撮像装置100の特性量として、撮像素子104の暗電流の発生量を規定する撮像装置100の特性量(上述の筐体温度θ、コンバージョンゲインCG、基準暗電流発生量Nd30、暗電流倍化温度Kd、等々)に関する情報を取得する。また、露光制御部113は、分割露光において、上記の分割単位露光時間の上限値に従って複数回の分割単位露光を制御することにより複数のフレーム画像を発生させるための制御を実施する機能を有している。
画像合成部114は、画像メモリ107から複数のフレーム画像の画像データを読み出して、上記の複数のフレーム画像を一つの画像データに合成するための構成要素である。本実施形態では、画像合成部114は、画像メモリ107から読み出された複数のフレーム画像を一つの画像データに合成する。合成されたフレーム画像は、画像処理部108に供給され、ホワイトバランス補正処理等の後処理が施される。
次に、図2に示すフローチャートに沿って、本実施形態による撮像装置100の動作を説明する。
図2は、本実施形態による撮像装置100の動作の流れの一例を示す図であり、本実施形態による撮像装置100が実施する分割露光処理の一例を示すフローチャートである。
ここでは、ユーザが撮像モードをバルブモードに設定して撮像する場合を例とし、分割露光に着目して撮像装置100の動作を説明する。
図2は、本実施形態による撮像装置100の動作の流れの一例を示す図であり、本実施形態による撮像装置100が実施する分割露光処理の一例を示すフローチャートである。
ここでは、ユーザが撮像モードをバルブモードに設定して撮像する場合を例とし、分割露光に着目して撮像装置100の動作を説明する。
露光制御部113は、撮像モードがバルブモードであるか否かを判定する(ステップS201)。撮像モードがバルブモードである場合(ステップS201;Y)、次に説明するように、分割露光による撮像処理(ステップS202〜S208)が実施される。これに対し、撮像モードがバルブモードではなく、通常の撮像モードである場合(ステップ201;N)、通常露光時に決定される絞り量およびシャッタ速度に基づいて通常露光による撮像処理が実施される。このような通常露光による撮像処理は、本実施形態の特徴ではないので、その説明は省略する。ただし、通常露光による撮像モードで所定値以上の露光時間(例えば30秒以上)が設定された場合においても、次に説明する分割露光による撮像処理を実施してもよい。
上述のステップS201において、撮像モードがバルブモードであると判定された場合(ステップS201;Y)、露光制御部113は、撮像素子104の暗電流の発生量を規定する撮像装置100の特性量として、温度センサ111から筐体温度θに関する温度情報を取得する(ステップS202)。
続いて、露光制御部113は、撮像素子104の暗電流の発生量を規定する撮像装置100の特性量として、特性量記憶部112から、コンバージョンゲインCGに関する情報と、30℃での1秒当たりの基準暗電流発生量Nd30に関する情報と、暗電流倍化温度Kdに関する情報とを取得する(ステップS203)。また、露光制御部113は、撮像素子104の暗電流の発生量を規定する撮像装置100の特性量として、撮像装置100のISO感度の設定値からアナログゲインAGに関するゲイン情報を取得する(ステップS203)。
続いて、露光制御部113は、上記の5つの特性量を用いて、撮像素子104の1秒(単位時間)あたりの暗電流発生量μdark.1sを算出する。そして、露光制御部113は、暗電流発生量μdark.1sと後述の暗電流上限閾値Thとを用いて、分割単位露光における分割単位露光時間の上限値Tdiv(以下、「分割露光時間上限値Tdiv」と称す。)を算出する(ステップS204)。即ち、露光制御部113は、次の6つの量を用いて分割露光時間上限値Tdivを算出する。
(1)筐体温度θ[℃]
(2)基準暗電流発生量Nd30[e-/sec]
(3)コンバージョンゲインCG[DN/e-]
(4)暗電流倍化温度Kd[℃]
(5)アナログゲインAG
(6)暗電流上限閾値Th
(2)基準暗電流発生量Nd30[e-/sec]
(3)コンバージョンゲインCG[DN/e-]
(4)暗電流倍化温度Kd[℃]
(5)アナログゲインAG
(6)暗電流上限閾値Th
ここで、前述したように、基準暗電流発生量Nd30、コンバージョンゲインCG、暗電流倍化温度Kdは、撮像素子104に固有の量であり、固定値である。これに対し、アナログゲインAGは、撮像装置100に設定されたISO感度に応じた可変値である。ISO感度の値はユーザによって指定された値であってもよく、撮像装置100の露光制御部113が決定した値であってもよい。温度センサ111によって検出される筐体温度θも可変値である。
また、暗電流上限閾値Thは、分割単位露光において許容される撮像素子104の暗電流の発生量の上限値として設定される所定値であり、露光制御部113の記憶領域に予め格納されている。後述するように、暗電流上限閾値Thは、画像処理の負担と画像のダイナミックレンジの両方を考慮して適切に設定される。分割露光時間上限値Tdivは、分割単位露光が開始してから、撮像素子104の暗電流の積算量が暗電流上限閾値Thに達するまでの時間である。本実施形態では、撮像素子104のぺデスタルレベルが、暗電流上限閾値Thとして設定される。
分割露光時間上限値Tdivの算出方法を具体的に説明する。
1秒(単位時間)あたりの暗電流発生量μdark.1sは、コンバージョンゲインCG、アナログゲインAG、基準暗電流発生量Nd30、筐体温度θ、暗電流倍化温度Kdを用いて次式(1)から算出される。
1秒(単位時間)あたりの暗電流発生量μdark.1sは、コンバージョンゲインCG、アナログゲインAG、基準暗電流発生量Nd30、筐体温度θ、暗電流倍化温度Kdを用いて次式(1)から算出される。
μdark.1s=CG×AG×Nd30×2(θ−30)/Kd …(1)
分割露光時間上限値Tdivは、分割単位露光が開始してから撮像素子104の暗電流の発生量が暗電流上限閾値Thに達するまでの露光時間であるから、分割露光時間上限値Tdivは、式(1)を用いて次式(2)により表される。
Tdiv=Th/μdark.1s=Th/{CG×AG×Nd30×2(θ−30)/Kd} …(2)
ここで、分割露光時間上限値Tdivが極端に小さくなると、分割単位露光の回数が過剰になるため、消費電力および処理時間が増加する。また、画像合成部114が画像メモリ107から1フレームずつフレーム画像を読み出して合成する合成処理を行う場合、1回の分割単位露光の期間内で1回の合成処理を完結しなければならないため、高速な画像処理が必要になる。従って、実用上は、過剰な回数の分割単位露光による画像処理の負荷を制限する必要があり、このため、分割露光時間上限値Tdivの下限値Tminを設定することが望ましい。この場合、分割露光時間上限値Tdivは、次式(3)のように表される。
Tdiv=max(Tdiv,Tmin) …(3)
式(3)において、関数max(Tdiv,Tmin)は、分割露光時間上限値Tdivと下限値Tminとのうち、大きい方の値を表す。
なお、分割露光時間上限値Tdivを算出するための簡易的な手法として、ルックアップテーブルを用いる手法を用いることもできる。この場合、ルックアップテーブルには、各種の特性量の組み合わせに応じて上記算出手順に従って算出された複数の分割露光時間上限値Tdivが登録されている。このルックアップテーブルは、露光制御部113に保持される。露光制御部113は、撮像開始時に撮像装置100の各種の上記の特性量に基づいてルックアップテーブルを参照することにより分割露光時間上限値Tdivの値を決定する。
なお、分割露光時間上限値Tdivを算出するための簡易的な手法として、ルックアップテーブルを用いる手法を用いることもできる。この場合、ルックアップテーブルには、各種の特性量の組み合わせに応じて上記算出手順に従って算出された複数の分割露光時間上限値Tdivが登録されている。このルックアップテーブルは、露光制御部113に保持される。露光制御部113は、撮像開始時に撮像装置100の各種の上記の特性量に基づいてルックアップテーブルを参照することにより分割露光時間上限値Tdivの値を決定する。
このように、分割露光における分割単位露光の回数に影響する分割露光時間上限値Tdivは暗電流上限閾値Thに応じて設定されるので、分割単位露光の回数は暗電流上限閾値Thによって変わる。具体的には、暗電流上限閾値Thが小さくなる程、分割単位露光の回数が増加し、逆に、暗電流上限閾値Thが大きくなる程、分割単位露光の回数が減少する。分割単位露光の回数が増加すると、画像処理の負担が増え、逆に、分割単位露光の回数が減少すると、画像のダイナミックレンジの改善効果が低下する。従って、暗電流上限閾値Thは、画像処理の負担と画像のダイナミックレンジの改善効果との両方を勘案して適切に設定される。
説明を図2のフローチャートに戻す。
露光制御部113は、上述したステップS204において算出された分割露光時間上限値Tdivに従い、分割露光に関する処理を実施する(ステップS205)。この分割露光により、複数のフレーム画像が生成される。
露光制御部113は、上述したステップS204において算出された分割露光時間上限値Tdivに従い、分割露光に関する処理を実施する(ステップS205)。この分割露光により、複数のフレーム画像が生成される。
ここで、図3を参照して、分割露光を補足説明する。
図3は、本発明の実施形態による撮像装置100による分割露光の概念を補足説明するための図である。ここで、図3(A)は、通常露光における露光時間Texpと撮像素子104の画素信号Sの信号レベルとの関係を示し、図3(B)は、通常露光における撮像素子104の画素信号Sの信号レベルと分割露光における撮像素子104の画素信号Sの信号レベルとの関係を示している。図3(A)および図3(B)において、斜線部は、撮像素子104の暗電流によるノイズ成分を示し、Smaxは、撮像素子104の画素信号Sの最大階調値を表している。図3(B)に示す通常露光における画素信号Sの信号レベルは、図3(A)において例えば露光時間Texpを時間T1としたときの画素信号Sの信号レベルに対応している。
図3は、本発明の実施形態による撮像装置100による分割露光の概念を補足説明するための図である。ここで、図3(A)は、通常露光における露光時間Texpと撮像素子104の画素信号Sの信号レベルとの関係を示し、図3(B)は、通常露光における撮像素子104の画素信号Sの信号レベルと分割露光における撮像素子104の画素信号Sの信号レベルとの関係を示している。図3(A)および図3(B)において、斜線部は、撮像素子104の暗電流によるノイズ成分を示し、Smaxは、撮像素子104の画素信号Sの最大階調値を表している。図3(B)に示す通常露光における画素信号Sの信号レベルは、図3(A)において例えば露光時間Texpを時間T1としたときの画素信号Sの信号レベルに対応している。
図3(A)に示すように、通常露光では、露光時間Texpの増加に伴って、斜線により示される暗電流によるノイズ成分が増加する。露光時間Texpが長くなると、撮像素子104の暗電流によるノイズ成分により画素信号Sの信号成分が浸食される。このため、画像が劣化する。さらに露光時間Texpが長くなると、撮像素子104の暗電流により画素信号Sの信号レベルは最大階調値に到達し、信号成分が消失する。
これに対し、分割露光では、図3(B)に示すように、分割単位露光を複数回行うことにより、暗電流によるノイズ成分を一定に抑制する。図3(B)の例では、3回の分割単位露光が行われている。1回の分割単位露光における露光時間は上述の分割露光時間上限値Tdivで制限される。このため、例えば分割露光時間上限値Tdivを1秒とし、3秒の長時間露光を行う場合、本実施形態の分割露光によれば、1秒の分割単位露光が3回繰り返される。このように、本実施形態では、分割単位露光の露光時間の積算値が所望の露光時間に達するまで、分割単位露光が繰り返される。
分割露光によれば、露光時間が分割露光時間上限値Tdivに到達した時点で1回の分割単位露光が終了するため、1回あたりの露光時間が制限され、撮像素子104の暗電流の発生量が抑えられる。このことは暗電流に起因したノイズ成分による信号成分の浸食が抑えられること、即ち、ダイナミックレンジの劣化が抑制されることを意味する。分割露光により1回の露光時間が短くなれば信号成分(ノイズ以外の成分)も小さくなるが、複数回の分割単位露光により得られる各信号成分を合成することにより、信号成分を増やすことができる。
ここで、上述のステップ205における分割露光に関する撮像装置100の動作を詳細に説明する。
バルブモードにおいてシャッタが開かれると、ステップS205において、露光制御部113の制御の下、分割露光が開始される。そして、露光制御部113の制御の下、分割露光が開始してから分割露光時間上限値Tdivが経過した時点で撮像素子104からの画素信号Sの読み出し動作が実施される。撮像素子104から読み出された画素信号Sはアナログ/デジタル変換器105により画素データDにアナログ/デジタル変換される。画素データDは、前処理部106によりRAW画像データRDに変換される。RAW画像データRDは画像メモリ107に保持される。
バルブモードにおいてシャッタが開かれると、ステップS205において、露光制御部113の制御の下、分割露光が開始される。そして、露光制御部113の制御の下、分割露光が開始してから分割露光時間上限値Tdivが経過した時点で撮像素子104からの画素信号Sの読み出し動作が実施される。撮像素子104から読み出された画素信号Sはアナログ/デジタル変換器105により画素データDにアナログ/デジタル変換される。画素データDは、前処理部106によりRAW画像データRDに変換される。RAW画像データRDは画像メモリ107に保持される。
上述の撮像素子104からの画素信号Sの読み出し処理と、アナログ/デジタル変換器105によるA/D変換処理と、前処理部106による前処理と、画像メモリ107へのRAW画像データRDの保持処理が実施されることにより、1回分の分割単位露光が実施される。
前述のように、本実施形態では、撮像素子104のぺデスタルレベルが暗電流上限閾値Thとして設定されているので、分割単位露光における撮像素子104の暗電流の発生量がぺデスタルレベルに到達した時点で1回の分割単位露光が終了される。この後、分割単位露光時間の積算値が所望の露光時間に達するまで、即ちバルブモードによる露光が終了するまで、分割単位露光が繰り返し実施され、複数回の分割単位露光に対応した複数のフレーム画像(複数のRAW画像データ)が生成される。図3(B)の例では、3回の分割単位露光に対応する3つのフレーム画像が生成される。
なお、例えば画像メモリ107の記憶容量の制限などにより、複数のフレーム画像を保持するための記憶領域を画像メモリ107に確保できない場合、1つのフレーム画像が画像メモリ107に保持されるたびに、画像合成部114が、画像メモリ107からフレーム画像の読み出しを行って画像合成を実施してもよい。これにより、画像メモリ107のフレーム画像の記憶領域は1フレーム分で足りる。
図4を参照して、分割露光により撮像素子104の暗電流に起因したノイズ成分が抑制される原理を説明する。
図4は、本発明の実施形態による撮像装置100の動作原理を説明するための説明図であり、上述した分割露光における撮像素子104の画素信号Sに含まれる信号成分と暗電流によるノイズ成分との関係を示す図である。
図4は、本発明の実施形態による撮像装置100の動作原理を説明するための説明図であり、上述した分割露光における撮像素子104の画素信号Sに含まれる信号成分と暗電流によるノイズ成分との関係を示す図である。
本実施形態では、撮像素子104のぺデスタルレベルを暗電流上限閾値Thに設定しているため、暗電流発生量を必要最小限に抑えることができる。このため、撮像素子104の暗電流に起因したノイズ成分を抑制しつつ、信号領域を有効に確保することができる。ただし、1回の分割単位露光は、撮像素子104のぺデスタルレベル(即ち、暗電流上限閾値Th)に応じた分割単位露光時間で制限されるので、1回の分割単位露光で得られる信号成分も制限される。そこで、本実施形態では、1回のバルブモード撮像において複数回の分割単位露光を実施することにより、必要な信号成分を確保している。
図4において、実線は撮像素子104の画素信号Sの信号レベルを表し、点線は撮像素子104の暗電流によるノイズ成分を表している。図4に示すように、時刻t0で分割露光が開始すると、時間(t)の経過に伴って撮像素子104に誘起される電荷量が増加し、この電荷量の増加に伴って画素信号Sの信号レベルが増加する。このとき、画素信号Sに含まれるノイズ成分も増加する。図4の例では、撮像素子104の暗電流の発生量が暗電流上限閾値Thに到達する時刻t1で、露光時間(分割単位露光時間)が分割露光時間上限値Tdivに到達して1回目の分割単位露光が終了している。なお、時刻t1で2回目の分割単位露光が開始する際に撮像素子104の初期化が実施され、それまでに誘起された全電荷が消去される。時刻t0,t2,t3においても同様の初期化が実施される。
説明を図3のフローに戻す。
画像合成部114は、画像メモリ107に格納された複数のフレーム画像を一つのフレーム画像(RAW画像)に合成する(ステップS206)。ここで、分割露光により、十分な信号成分が確保されているため、上記複数のフレーム画像を合成する結果、フレーム画像の信号成分が増加する。即ち、フレーム画像のダイナミックレンジが改善される。
画像合成部114は、画像メモリ107に格納された複数のフレーム画像を一つのフレーム画像(RAW画像)に合成する(ステップS206)。ここで、分割露光により、十分な信号成分が確保されているため、上記複数のフレーム画像を合成する結果、フレーム画像の信号成分が増加する。即ち、フレーム画像のダイナミックレンジが改善される。
画像処理部108は、上述の画像合成部114によって合成されたフレーム画像の画像データに対して後処理としての画像処理を施す(ステップS207)。そして、画像処理部108は、後処理が施された画像データを画像記録部109に記録する(ステップS208)。
本実施形態によれば、筐体温度およびISO感度に応じて分割露光における各分割単位露光の露光時間を最適化することができる。このため、画像処理の負担を抑制しつつ、画像のダイナミックレンジを改善することができ、バルブモードでの長時間露光撮影において良好な画質を得ることが可能となる。
また、本実施形態によれば、画像処理において、筐体温度θおよびISO感度に応じて撮像素子104の暗電流の発生量が変化しても、その暗電流の発生量の変化に応じて適応的に分割露光時間上限値Tdivを設定することができる。このため、筐体温度θおよびISO感度に応じて、バルブモードでの長時間露光撮影において最適な分割露光を行うことが可能となる。
更に、本実施形態によれば、分割単位露光の回数が過剰に設定されないので、撮像素子104の画素信号の読み出し動作の頻度が抑制される。このため、撮像素子104の画素信号の読み出し動作に伴うリードアウトノイズの発生を抑制することができ、リードアウトノイズに起因して画素信号Sに含まれるノイズ成分を抑制することができる。
上述した本発明の実施形態では、本発明の一態様を撮像装置100として表現したが、本発明の一態様を撮像方法として表現することもできる。この場合、本発明の一態様による撮像方法は、一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより、前記複数回の露光に対応した複数のフレーム画像を取得し、前記複数のフレーム画像から一つの画像を生成する撮像方法であって、前記フレーム画像に含まれるノイズ成分を規定する当該撮像装置の特性量を取得し、前記特性量に基づき、前記複数回の露光のそれぞれにおける露光時間の上限値を取得し、前記上限値に従って前記複数回の露光を制御することにより前記複数のフレーム画像を発生させる第2段階と、前記複数のフレーム画像を前記一つの画像に合成する第3段階と、を含む撮像方法として表現することができる。
以上、本発明の実施形態を説明したが、本発明は上述の実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲で任意の変形や修正が可能である。
例えば、上述した実施形態では、オフセットレベルの減算を前処理部106でのOB減算により実施するものとしたが、OB減算に代えてダークフレーム減算により実施してもよい。
例えば、上述した実施形態では、オフセットレベルの減算を前処理部106でのOB減算により実施するものとしたが、OB減算に代えてダークフレーム減算により実施してもよい。
また、上述した実施形態では、露光制御部113は、温度センサ111から得られる筐体温度θとISO感度に対応したアナログゲインAGの両方を取得するものとしたが、例えば、撮像素子104の暗電流の温度依存性が小さい場合、筐体温度θを固定値とし、上述の式(2)における変数θに関する情報を固定値として特性量記憶部112に格納してもよい。また、例えば、ISO感度が好感度に固定された用途では、ISO感度に対応するアナログゲインAGに関する情報を特性量記憶部112に格納してもよい。
また、上述の実施形態では、分割露光時間上限値Tdivを一定としたが、分割単位露光ごとに分割露光時間上限値Tdivを変化させてもよい。例えば、分割単位露光の露光時間の積算値が所望の露光時間に達したことにより、最後の分割単位露光が途中で終了した場合、この最後の分割単位露光における露光時間に合わせて、分割露光時間上限値Tdivを減少させてもよい。これにより、最後の分割単位露光において発生した暗電流に起因するノイズ成分の抑圧を適正化することができる。
100…撮像装置、101…レンズ、102…絞り、103…シャッタ、104…撮像素子、105…アナログ/デジタル変換器、106…前処理部、107…画像メモリ、108…画像処理部、109…画像記録部、110…露光制御回路、111…温度センサ、112…特性量記憶部、113…露光制御部、114…画像合成部、S201〜S208…処理ステップ。
Claims (6)
- 一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより前記複数回の露光に対応した複数のフレーム画像を取得し、前記複数のフレーム画像から一つの画像を生成する撮像装置であって、
前記フレーム画像に含まれるノイズ成分を規定する当該撮像装置の特性量を取得し、前記特性量に基づき、前記複数回の露光のそれぞれにおける露光時間の上限値を取得し、前記上限値に従って前記複数回の露光を制御することにより前記複数のフレーム画像を発生させる露光制御部と、
前記複数のフレーム画像を前記一つの画像に合成する画像合成部と、
を備えた撮像装置。 - 前記露光制御部は、
前記特性量を用いて撮像素子の単位時間あたりの暗電流を取得し、前記単位時間あたりの暗電流を用いて、前記複数回の露光のそれぞれにおける前記撮像素子の暗電流の積算量が所定値に到達するのに要する時間を算出し、前記積算量が前記所定値に到達するのに要する時間を前記上限値として取得する、請求項1に記載の撮像装置。 - 前記露光制御部は、
前記特性量として、少なくとも、当該撮像装置の筐体温度と、ISO感度に対応したアナログゲインとを取得する、請求項2に記載の撮像装置。 - 前記撮像素子のぺデスタルレベルが前記所定値として設定された、請求項3に記載の撮像装置。
- 前記露光制御部は、
前記撮像素子の単位時間あたりの暗電流発生量をμdark.1sとし、前記筐体温度をθとし、前記アナログゲインをAGとし、前記撮像素子の出力信号を画素値に変換する際のコンバージョンゲインをCGとし、前記筐体温度が30℃のときの1秒あたりの前記撮像素子の暗電流発生量をNd30とし、暗電流倍化温度係数をKdとしたときに、
μdark.1s=CG×AG×Nd30×2(θ―30)/Kd
なる数式を用いて前記撮像素子の単位時間あたりの暗電流の発生量を算出する、請求項4に記載の撮像装置。 - 一回の撮像につき所望の露光量が得られるまで複数回の露光を実施することにより、前記複数回の露光に対応した複数のフレーム画像を取得し、前記複数のフレーム画像から一つの画像を生成する撮像方法であって、
前記フレーム画像に含まれるノイズ成分を規定する当該撮像装置の特性量を取得し、前記特性量に基づき、前記複数回の露光のそれぞれにおける露光時間の上限値を取得し、前記上限値に従って前記複数回の露光を制御することにより前記複数のフレーム画像を発生させる第2段階と、
前記複数のフレーム画像を前記一つの画像に合成する第3段階と、
を含む撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014234763A JP2016100686A (ja) | 2014-11-19 | 2014-11-19 | 撮像装置および撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014234763A JP2016100686A (ja) | 2014-11-19 | 2014-11-19 | 撮像装置および撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016100686A true JP2016100686A (ja) | 2016-05-30 |
Family
ID=56078139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014234763A Pending JP2016100686A (ja) | 2014-11-19 | 2014-11-19 | 撮像装置および撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016100686A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE112017002541T5 (de) | 2016-05-19 | 2019-02-21 | Mitsubishi Electric Corporation | Festkörper-bildgebungseinrichtung und bildsensor |
CN109792492A (zh) * | 2016-09-30 | 2019-05-21 | 松下知识产权经营株式会社 | 摄像控制装置及方法、程序和记录有该程序的记录介质 |
CN112335230A (zh) * | 2019-07-31 | 2021-02-05 | 深圳市大疆创新科技有限公司 | 控制装置、摄像装置、移动体、控制方法以及程序 |
-
2014
- 2014-11-19 JP JP2014234763A patent/JP2016100686A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE112017002541T5 (de) | 2016-05-19 | 2019-02-21 | Mitsubishi Electric Corporation | Festkörper-bildgebungseinrichtung und bildsensor |
CN109792492A (zh) * | 2016-09-30 | 2019-05-21 | 松下知识产权经营株式会社 | 摄像控制装置及方法、程序和记录有该程序的记录介质 |
CN109792492B (zh) * | 2016-09-30 | 2021-02-05 | 松下知识产权经营株式会社 | 摄像控制装置及方法、记录有程序的记录介质 |
CN112335230A (zh) * | 2019-07-31 | 2021-02-05 | 深圳市大疆创新科技有限公司 | 控制装置、摄像装置、移动体、控制方法以及程序 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5784426B2 (ja) | 撮像装置 | |
US9571742B2 (en) | Image capture apparatus and control method thereof | |
JP6278713B2 (ja) | 撮像装置および撮像方法 | |
JP4743243B2 (ja) | 撮像装置、黒レベルの調整方法およびプログラム | |
JP2013066142A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2012235332A (ja) | 撮像装置、および撮像装置制御方法、並びにプログラム | |
JP2007243774A (ja) | 電子的ぶれ補正装置 | |
JP6557455B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP5954623B2 (ja) | 撮像装置および画像処理方法 | |
JP5013812B2 (ja) | 撮像装置及び補正方法 | |
CN109997352B (zh) | 摄像装置、相机以及摄像方法 | |
JP7378951B2 (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP5701942B2 (ja) | 撮像装置、カメラシステム及び画像処理方法 | |
JP2016100686A (ja) | 撮像装置および撮像方法 | |
JP2007019577A (ja) | 固体撮像装置 | |
JP2007174266A (ja) | 撮像装置 | |
JP6478703B2 (ja) | 撮像装置及び撮像システム | |
JP2008205635A (ja) | 撮像装置 | |
JP5147652B2 (ja) | 撮像装置及びその制御方法及びプログラム | |
JP2014175778A (ja) | 撮像装置および撮像方法 | |
JP6075829B2 (ja) | 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体 | |
JP2009260871A (ja) | 撮像装置 | |
JP2009302850A (ja) | 固体撮像素子のノイズ除去装置、撮像装置、固体撮像素子のノイズ除去方法 | |
JP6223166B2 (ja) | 画像合成装置、画像合成方法、撮像装置、プログラム及び記憶媒体 | |
JP5404217B2 (ja) | 撮像装置及びその制御方法 |