JP2007049228A - 画像処理装置及び方法 - Google Patents
画像処理装置及び方法 Download PDFInfo
- Publication number
- JP2007049228A JP2007049228A JP2005228554A JP2005228554A JP2007049228A JP 2007049228 A JP2007049228 A JP 2007049228A JP 2005228554 A JP2005228554 A JP 2005228554A JP 2005228554 A JP2005228554 A JP 2005228554A JP 2007049228 A JP2007049228 A JP 2007049228A
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- time
- short
- exposure
- exposure image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title description 13
- 239000002131 composite material Substances 0.000 claims description 28
- 239000000203 mixture Substances 0.000 claims description 9
- 238000003672 processing method Methods 0.000 claims description 2
- 230000002194 synthesizing effect Effects 0.000 abstract description 5
- 238000003384 imaging method Methods 0.000 description 9
- 230000015572 biosynthetic process Effects 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 4
- 238000003786 synthesis reaction Methods 0.000 description 4
- 230000015556 catabolic process Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- GGCZERPQGJTIQP-UHFFFAOYSA-N sodium;9,10-dioxoanthracene-2-sulfonic acid Chemical compound [Na+].C1=CC=C2C(=O)C3=CC(S(=O)(=O)O)=CC=C3C(=O)C2=C1 GGCZERPQGJTIQP-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【課題】露光時間の異なる画像を合成して出力する場合に、S/Nの高い高品質のワイドダイナミックレンジ画像を得る。
【解決手段】第1の露光時間にて撮像された長時間露光画像信号と、第1の露光時間よりも短い第2の露光時間にて撮像された短時間露光画像信号とを入力する入力手段1と、短時間露光画像信号において所定値以下の信号を除去する画像信号処理手段6,7と、所定値以下の信号が除去された短時間露光画像信号と長時間露光画像信号とを基に合成画像信号を形成する画像合成手段8〜13とを有する画像処理装置。
【選択図】図1
【解決手段】第1の露光時間にて撮像された長時間露光画像信号と、第1の露光時間よりも短い第2の露光時間にて撮像された短時間露光画像信号とを入力する入力手段1と、短時間露光画像信号において所定値以下の信号を除去する画像信号処理手段6,7と、所定値以下の信号が除去された短時間露光画像信号と長時間露光画像信号とを基に合成画像信号を形成する画像合成手段8〜13とを有する画像処理装置。
【選択図】図1
Description
本発明は、異なる露光量で被写体を撮像して得られた複数枚の画像を合成して階調性の優れたダイナミックレンジの広い1枚の画像を形成する装置及び方法に関する。
近年、テレビカメラ、ビデオカメラ、デジタルカメラ等の画像入力装置の撮像デバイスとしてCCD撮像素子、CMOS撮像素子等の固体撮像素子が使用されている。ところが、固体撮像素子のダイナミックレンジは、銀塩カメラのフィルムのダイナミックレンジに比べると狭く、ダイナミックレンジの拡大が望まれていた。
そこで、固体撮像素子のダイナミックレンジの拡大の方式として、同一シーンにおける露光量の異なる複数枚の画像を撮影し、この複数枚の画像を合成して、ダイナミックレンジを拡大した画像を得る手法がある。
特許文献1には、出力装置へ出力する画像データのダイナミックレンジ幅を出力装置のダイナミックレンジ幅あるいは出力特性に合わせる制御方法に関して記載されている。その画像の合成方法として、長時間露光画像と短時間露光画像の双方で、つぶれの無い画素を基準点として、同一画素間の輝度レベルの差を算出する。そして、双方の画像の輝度レベルを合せこみ、長時間露光画像信号の輝度レベルが、設定されたしきい値以上の時は、差分補正された短時間露光画像信号に置き換えることで合成画像を作成する方法が開示されている。
また特許文献2には、長時間露光画像と短時間露光画像を交互に出力する構成が開示されている。短時間露光画像出力時、その輝度値が、所定値以下の画素に関しては、黒つぶれがあると判断し、フレームメモリに記憶されている長時間露光画像信号に切り替える。長時間露光画像出力時、その輝度値が、所定値以上の画素に関しては、白つぶれがあると判断し、フレームメモリに記憶されている短時間露光画像信号に切り替える構成が開示されている。
また特許文献3には、標準輝度映像信号のピーク値から高輝度映像信号と標準輝度映像信号の合成のための加算割合を決定する構成が開示されている。
また特許文献4には、露光比が大きい場合、短時間露光画像信号の信号レベルが低下して、合成画像の中輝度部(長時間露光画像信号と短時間露光画像信号の切り替えポイント付近)のS/Nが悪化する課題に対して、短時間露光画像信号を、複数フィールド分多重加算して中時間露光画像信号を生成する。長時間露光画像信号を低輝度部に、中時間露光画像信号を中輝度部に、短時間露光画像信号を高輝度部に割りあたるように、入力画像信号のレベルによって可変する係数を3種類の露光画像信号に乗算して合成する構成が開示されている。
しかしながら、特許文献1においては、単純に輝度レベルのオフセット値を短時間露光画像信号に加算して、それを合成画像とする。短時間露光画像信号の低輝度領域のS/Nの悪い領域が、そのまま合成画像の中輝度から高輝度領域に割り当てられる為、合成画像の中輝度領域のS/Nが悪化した画像となる。
同様に、特許文献2においても、長時間露光画像の輝度レベルがある閾値以上になったら、短時間露光画像に置き換え、合成画像の中間輝度から高輝度画像としている為、短時間露光画像のレベルの低い部分に相当する合成画像の中輝度領域のS/Nが悪化した画像となる。
また、前記閾値を基準に、単純に長時間露光画像と短時間露光画像を切り替える為、閾値近傍の輝度レベルにある画素は、ノイズの影響で、選択する画像が変動するため、合成後の画像に不連続な輝度変動が発生するという問題があった。
また特許文献3においては、短時間露光画像信号のピーク値に応じて、合成時の加算の割合を決定する。特にピーク値が低い場合、短時間露光画像の低輝度領域が、合成画像の中輝度から高輝度領域に割り当てられる為、合成画像の中輝度領域のS/Nは極端に悪化する。
また特許文献4においては、短時間露光画像を複数枚単純に加算して、レベルの大きい中時間露光画像を得ており、これを合成画像の中輝度部に割り当てる事でS/Nが改善できるとしている。しかし、単純な加算では、信号レベルと一緒にノイズレベルも大きくなる為、合成画像の中輝度部のS/Nの劇的な改善は困難である。また合成画像の高輝度部には、何のノイズ対策もしていないレベルの低い短時間露光画像を割り当てている為、中輝度から高輝度にかけて、特に高輝度部でS/Nの悪い合成画像となる。
本発明の目的は、露光時間の異なる画像を合成して出力する場合に、S/Nの高い高品質のワイドダイナミックレンジ画像を得ることである。
本発明の画像処理装置は、第1の露光時間にて撮像された長時間露光画像信号と、前記第1の露光時間よりも短い第2の露光時間にて撮像された短時間露光画像信号とを入力する入力手段と、前記短時間露光画像信号において所定値以下の信号を除去する画像信号処理手段と、前記所定値以下の信号が除去された短時間露光画像信号と前記長時間露光画像信号とを基に合成画像信号を形成する画像合成手段とを有することを特徴とする。
本発明の画像処理方法は、第1の露光時間にて撮像された長時間露光画像信号と、前記第1の露光時間よりも短い第2の露光時間にて撮像された短時間露光画像信号とを入力する入力ステップと、前記短時間露光画像信号において所定値以下の信号を除去する画像信号処理ステップと、前記所定値以下の信号が除去された短時間露光画像信号と前記長時間露光画像信号とを基に合成画像信号を形成する画像合成ステップとを有することを特徴とする。
信号が所定値以下のS/Nの悪い短時間露光画像信号を除去し、短時間露光画像信号と長時間露光画像信号とを基に合成画像信号を形成することにより、短時間露光画像信号及び長時間露光画像信号のつなぎ目部分のS/Nが向上したダイナミックレンジの広い画像を合成することができる。
以下、本発明の実施形態における画像処理装置について説明する。
図2は、本実施形態における合成前の短時間露光画像と長時間露光画像のイメージセンサからの出力波形例を示す。左から右にいくほど、明るくなる(輝度が高くなる)被写体を撮影した場合の信号である。画像信号Sig1は、画像信号Sig1−a及びSig1−dを有する。画像信号Sig1−aは、時間(時刻)t1を始点に、露光時間Taで撮像された短時間露光画像信号である。画像信号Sig1−dは、時間(時刻)t2を始点に、露光時間Tbで撮像された長時間露光画像信号である。露光時間Tbは、露光時間Taより長い。
図2は、本実施形態における合成前の短時間露光画像と長時間露光画像のイメージセンサからの出力波形例を示す。左から右にいくほど、明るくなる(輝度が高くなる)被写体を撮影した場合の信号である。画像信号Sig1は、画像信号Sig1−a及びSig1−dを有する。画像信号Sig1−aは、時間(時刻)t1を始点に、露光時間Taで撮像された短時間露光画像信号である。画像信号Sig1−dは、時間(時刻)t2を始点に、露光時間Tbで撮像された長時間露光画像信号である。露光時間Tbは、露光時間Taより長い。
図1は、本実施形態における画像処理装置の構成例を示す。本画像処理装置は、短時間露光で撮像された白とびの無い画像信号(以下、短時間露光画像信号)Sig1−aと長時間露光で撮像された黒つぶれの無い画像信号(以下、長時間露光画像信号)Sig1−dから、白とびも、黒つぶれも無いダイナミックレンジの広い画像を合成する画像処理装置である。1は、カメラ部で撮像デバイスによって、撮像された画像信号Sig1の入力端子であり、短時間露光画像信号Sig1−aと長時間露光画像信号Sig1−dが時系列に入力される。入力端子1には、図2で示した画像信号Sig1が入力される。4はセレクト信号であり、該入力端子1に短時間露光画像信号Sig1−aが入力された時、第2のスイッチ3がオンし、第1のスイッチ2はオフし、短時間露光画像信号Sig1−aを該第2のスイッチ3に導く。また、該セレクト信号4は、該入力端子1に長時間露光画像信号Sig1−dが入力された時、第2のスイッチ3がオフし、第1のスイッチ2がオンし、長時間露光画像信号Sig1−dを該第1のスイッチ2に導く。5はフレームディレイであり、短時間露光画像信号Sig1−aを1フレーム分、遅延させ、同一時間に短時間露光画像信号Sig1−aと長期間露光信号Sig1−dが存在するようにする。6はレベルリミッタであり、短時間露光画像信号Sig1−aにおいて、所定の振幅Soff以下の信号をカットし、リミットする。この処理により、短時間露光画像信号Sig1−aのS/Nの悪い小振幅成分のみを除去し、S/Nの良い短時間露光画像信号Sig1−aだけを後述する合成処理に利用する。7は、レベルシフト用の減算器であり、該レベルリミッタ6でカットされた短時間露光画像信号Sig1−aのオフセット分Soffを、短時間露光画像信号Sig1−aから減算し、レベルシフトする。12は、第2の乗算器であり、ゲイン11で設定される係数G2を、短時間露光画像信号Sig1−aに乗算する。8は、第1の乗算器であり、ゲイン9で設定される係数G1を、長時間露光画像信号Sig1−dに乗算する。10は、ゲインコントロール部(ブロック)であり、短時間露光画像信号Sig1−a及び長時間露光画像信号Sig1−dを入力し、該ゲイン11のG2、該ゲイン9のG1を決定し、短時間露光画像信号Sig1−aと長時間露光画像信号Sig1−dの合成比率を決定する。13は加算器であり、該ゲイン11のG2が乗算された短時間露光画像信号Sig1−aと該ゲイン9のG1が乗算された長時間露光画像信号Sig1−dを加算し、合成する。
合成画像信号の第1の輝度領域(低輝度領域)は、長時間露光画像信号Sig1−dを主体に形成され、第1の輝度領域よりも高輝度側の第2の輝度領域(高輝度領域)は、所定値Soff以下の信号が除去され、S/Nが改善された短時間露光画像信号Sig1−aを主体に形成される。
次に、本実施形態の画像合成法について、図3、図4を用いて説明する。
図3は、画像合成前処理の概念を示す図である。Sig1は、撮像デバイスから出力される画像信号であり、短時間露光画像信号Sig1−a及び長時間露光画像信号Sig1−dを有する。Noiseは、撮像デバイス及び増幅器が持つノイズと光ショットノイズからなる撮像画像信号のノイズ成分である。短時間露光画像信号Sig1−aは、該レベルリミッタ6により、Soff以下の信号レベルがゼロにリミットされ削られる。該レベルシフト用の減算器7は、Soffでリミットされた短時間露光画像信号Sig1−aから、オフセットとなるSoffを引き、レベルシフトする。
図3は、画像合成前処理の概念を示す図である。Sig1は、撮像デバイスから出力される画像信号であり、短時間露光画像信号Sig1−a及び長時間露光画像信号Sig1−dを有する。Noiseは、撮像デバイス及び増幅器が持つノイズと光ショットノイズからなる撮像画像信号のノイズ成分である。短時間露光画像信号Sig1−aは、該レベルリミッタ6により、Soff以下の信号レベルがゼロにリミットされ削られる。該レベルシフト用の減算器7は、Soffでリミットされた短時間露光画像信号Sig1−aから、オフセットとなるSoffを引き、レベルシフトする。
図4は、本実施形態によって合成された画像信号である。長時間露光画像信号Sig1−dには、該ゲインG1が乗じられる。短時間露光画像信号Sig1−aは、該レベルリミッタ6でSoff以下をゼロにリミットされ、該レベルシフト用減算器7でオフセットSoffが減算され、該ゲインG2が乗じられる。加算器13は、短時間露光画像信号G2×((Sig1−a)−Soff)と長時間露光画像信号G1×(Sig1−d)を合成する。長時間露光画像信号Sig1−dと短時間露光画像信号Sig1−aのつなぎ目である15のポイントにおける短時間露光画像信号Sig1−aのS/Nは、該レベルリミッタ6により所定のS/N以下の信号レベルがカットされている為、極端なS/Nの劣化はなく、従来問題になっていた合成画像信号のつなぎ目での短時間露光画像信号のノイズによる画質の悪化を抑える事が出来る。また、該ゲインG1と該ゲインG2を独立に設定する事で、短時間露光画像信号Sig1−aと長時間露光画像信号Sig1−dの合成時の信号の傾きを同じにする事が出来る為、従来問題になっていた合成画像のつなぎ目での信号波形の傾きの違いから発生する擬似輪郭を低減する事ができる。さらに、この処理の為に、短時間露光画像信号Sig1−aの該ゲインG2を大きく設定しても、つなぎ目での短時間露光画像信号Sig1−aのノイズによる画質の低下を抑える事が出来る。
本実施形態は、所定の振幅レベル以下の短時間露光画像信号Sig1−a成分をゼロにリミット(除去)する事で、S/Nの悪い短時間露光画像信号Sig1−aをカットする。この部分の合成画像は、長時間露光画像信号Sig1−dのみで合成する事により、上記特許文献1〜4で問題になっていた合成画像の中輝度領域のS/Nの悪化を改善できる。また、上記特許文献4で問題になっていた合成画像の高輝度領域のS/Nの悪化を劇的に改善できる。
また、本実施形態は、所定の振幅レベル以下をカットし、S/Nが改善した短時間露光信号と長時間露光信号を、それぞれ定まられたゲインを乗じて、線形加算により、ワイドダイナミックレンジ画像を合成する事により、単純に閾値から判断して長時間露光画像と短時間露光画像のうち、いずれか一方を合成画像として出力する特許文献2の方式で問題になっていた、合成後の画像に不連続な輝度変動を劇的に改善できる。
S/Nの悪い低振幅時の短時間露光画像信号Sig1−aをレベルリミッタ6によりカットし、この部分の合成画像を長時間露光画像信号Sig1−dから合成する事で、短時間露光画像信号Sig1−a及び長時間露光画像信号Sig1−dのつなぎ目部分のS/Nの悪化がないダイナミックレンジの広い画像を合成する事が出来る。また、擬似輪郭の発生を抑える為、短時間露光画像信号Sig1−aに所定のゲインG2で信号を増幅しても、合成後のわいこれにより、階調表現の優れた、かつS/Nの高い高品質のワイドダイナミックレンジ画像を得る事が出来る。
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
1 撮像素子からの画像信号入力端子
2 第1のスイッチ
3 第2のスイッチ
4 セレクト信号
5 フレームディレイ
6 レベルリミッタ
7 レベルシフト用減算器
8 第1の乗算器
9 ゲインG1
10 ゲインコントロール部
11 ゲインG2
12 第2の乗算器
13 加算器
2 第1のスイッチ
3 第2のスイッチ
4 セレクト信号
5 フレームディレイ
6 レベルリミッタ
7 レベルシフト用減算器
8 第1の乗算器
9 ゲインG1
10 ゲインコントロール部
11 ゲインG2
12 第2の乗算器
13 加算器
Claims (5)
- 第1の露光時間にて撮像された長時間露光画像信号と、前記第1の露光時間よりも短い第2の露光時間にて撮像された短時間露光画像信号とを入力する入力手段と、
前記短時間露光画像信号において所定値以下の信号を除去する画像信号処理手段と、
前記所定値以下の信号が除去された短時間露光画像信号と前記長時間露光画像信号とを基に合成画像信号を形成する画像合成手段と
を有することを特徴とする画像処理装置。 - 前記画像信号処理手段は、前記短時間露光画像信号から所定値を減算することを特徴とする請求項1記載の画像処理装置。
- 前記合成画像信号の第1の輝度領域は、前記長時間露光画像信号を主体に形成され、前記第1の輝度領域よりも高輝度側の第2の輝度領域は、前記所定値以下の信号が除去された短時間露光画像信号を主体に形成されることを特徴とする請求項1又は2記載の画像処理装置。
- 前記画像合成手段は、前記長時間露光画像信号に第1のゲインを乗算し、前記所定値以下の信号が除去された短時間露光画像に第2のゲインを乗算し、それらを加算することを特徴とする請求項1〜3のいずれか1項に記載の画像処理装置。
- 第1の露光時間にて撮像された長時間露光画像信号と、前記第1の露光時間よりも短い第2の露光時間にて撮像された短時間露光画像信号とを入力する入力ステップと、
前記短時間露光画像信号において所定値以下の信号を除去する画像信号処理ステップと、
前記所定値以下の信号が除去された短時間露光画像信号と前記長時間露光画像信号とを基に合成画像信号を形成する画像合成ステップと
を有することを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005228554A JP2007049228A (ja) | 2005-08-05 | 2005-08-05 | 画像処理装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005228554A JP2007049228A (ja) | 2005-08-05 | 2005-08-05 | 画像処理装置及び方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007049228A true JP2007049228A (ja) | 2007-02-22 |
Family
ID=37851726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005228554A Pending JP2007049228A (ja) | 2005-08-05 | 2005-08-05 | 画像処理装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007049228A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008263345A (ja) * | 2007-04-11 | 2008-10-30 | Seiko Epson Corp | 画像処理装置、画像処理方法及び画像処理用プログラム |
KR100892972B1 (ko) | 2007-05-29 | 2009-04-10 | 한국과학기술연구원 | 영상센서의 물리적 특성을 이용한 넓은 생동폭을 갖는 영상신호 처리 방법 |
JP2010073035A (ja) * | 2008-09-19 | 2010-04-02 | Sharp Corp | 画像生成装置、画像生成方法、画像生成プログラム、および該プログラムを記録したコンピュータ読み取り可能な記録媒体 |
CN106454141A (zh) * | 2015-08-07 | 2017-02-22 | 豪威科技股份有限公司 | 实施堆叠芯片高动态范围图像传感器的方法及系统 |
-
2005
- 2005-08-05 JP JP2005228554A patent/JP2007049228A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008263345A (ja) * | 2007-04-11 | 2008-10-30 | Seiko Epson Corp | 画像処理装置、画像処理方法及び画像処理用プログラム |
KR100892972B1 (ko) | 2007-05-29 | 2009-04-10 | 한국과학기술연구원 | 영상센서의 물리적 특성을 이용한 넓은 생동폭을 갖는 영상신호 처리 방법 |
JP2010073035A (ja) * | 2008-09-19 | 2010-04-02 | Sharp Corp | 画像生成装置、画像生成方法、画像生成プログラム、および該プログラムを記録したコンピュータ読み取り可能な記録媒体 |
CN106454141A (zh) * | 2015-08-07 | 2017-02-22 | 豪威科技股份有限公司 | 实施堆叠芯片高动态范围图像传感器的方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007049227A (ja) | 画像処理装置及び方法 | |
JP5083046B2 (ja) | 撮像装置及び撮像方法 | |
JP3642245B2 (ja) | 固体撮像装置 | |
JP2008263522A (ja) | 画像処理装置及び方法 | |
JP2009049547A (ja) | 画像処理装置、画像処理方法、画像処理プログラム | |
JP4715853B2 (ja) | 固体撮像装置および撮像方法 | |
JP2011109638A (ja) | 画像処理装置、画像処理方法 | |
JP2007202098A (ja) | 撮像装置および撮像方法 | |
JP5430379B2 (ja) | 撮像装置及びその制御方法及びプログラム | |
JP2009177782A (ja) | 画像処理装置および撮影装置 | |
JP6029430B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2007049228A (ja) | 画像処理装置及び方法 | |
JP2004297701A (ja) | 映像処理装置および撮像システム | |
JP2009213032A (ja) | ワイド・ダイナミック・レンジ画像生成処理装置 | |
JP2003319269A (ja) | 固体撮像装置および撮像方法 | |
JP4224996B2 (ja) | 撮像装置 | |
JP3748031B2 (ja) | 映像信号処理装置及び映像信号処理方法 | |
JP2004056573A (ja) | 映像信号処理方法、処理回路、及び撮像装置の駆動方法 | |
JP2007194832A (ja) | 階調補正装置 | |
JP5423201B2 (ja) | 画像処理装置、画像処理プログラム | |
JPH11155108A (ja) | 映像信号処理装置と処理方法、それを用いたビデオカメラ | |
JP2010041200A (ja) | 映像信号処理装置および映像信号処理方法 | |
JP7117532B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JPH11155098A (ja) | 信号処理装置および方法 | |
JP2009022044A (ja) | 画像処理装置及び画像処理プログラム |