JP2009017477A - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP2009017477A
JP2009017477A JP2007179899A JP2007179899A JP2009017477A JP 2009017477 A JP2009017477 A JP 2009017477A JP 2007179899 A JP2007179899 A JP 2007179899A JP 2007179899 A JP2007179899 A JP 2007179899A JP 2009017477 A JP2009017477 A JP 2009017477A
Authority
JP
Japan
Prior art keywords
video signal
exposure
exposure condition
histogram
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007179899A
Other languages
English (en)
Other versions
JP4986747B2 (ja
Inventor
Yuichiro Yamashita
雄一郎 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007179899A priority Critical patent/JP4986747B2/ja
Priority to US12/168,565 priority patent/US7990433B2/en
Publication of JP2009017477A publication Critical patent/JP2009017477A/ja
Application granted granted Critical
Publication of JP4986747B2 publication Critical patent/JP4986747B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

【課題】従来の手法では適切な露光条件を得ることができないような撮影シーンにおいても、適切な露光条件を決定し、結果として適切な合成後映像信号を生成することを課題とする。
【解決手段】撮影シーンの輝度分布のヒストグラムを基に複数の露光条件を決定する露光条件決定手段(103)と、前記決定された複数の露光条件で撮影シーンを複数回撮影し、第1の合成前映像信号及び第2の合成前映像信号を生成する撮像手段(101)と、前記第1の合成前映像信号中の基準値を境界として前記第1の合成前映像信号及び前記第2の合成前映像信号を合成し、合成後映像信号を生成する画像合成手段(104)とを有し、前記露光条件決定手段は、前記第1の合成前映像信号中の基準値が、前記撮影シーンの輝度分布のヒストグラムの谷間の輝度値に対応するように、前記複数の露光条件の中の少なくとも一つの露光条件を決定することを特徴とする撮像装置が提供される。
【選択図】図1

Description

本発明は、撮像装置及び撮像方法に関する。
画像取得を行う際、撮影シーンの輝度のダイナミックレンジが、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置の有する入力ダイナミックレンジを上回るというケースが起こり得る。そのような場合、入力ダイナミックレンジ外の輝度にあたる撮影シーンの一部が、取得後の映像上では黒くつぶれたり(黒沈み)、白く飛んだり(白飛び)して撮影されてしまい、それらの形状や色に関する情報が失われてしまう。
そのような問題を解決するために、入力ダイナミックレンジの大きい撮像装置が様々発案されている。その一つが、異なる露光条件での複数回撮影、いわゆる多重露光を行い、露光量の異なる複数枚の画像の映像信号を得た後に、その映像信号を合成して入力ダイナミックレンジの大きい「合成後映像信号」を生成する撮像装置である。
そのような装置では、合成前の各映像信号では黒沈み、白飛びが生じていても、合成後映像信号では極力黒沈み、白飛びが生じないように各撮影の露光条件を算出することが必要となる。そのような場合、あらかじめ何らかの手法で取得された、撮影シーンの輝度分布のヒストグラムを用いて複数回の撮影のための複数の露光条件、つまり露光条件群を算出する方式が有効である。
図6は、下記の特許文献1中に説明されている、ヒストグラムを用いて露光条件群を算出するための手法を説明する図である。撮影シーンの輝度分布から算出したヒストグラム中の、頻度のピークに当たる部分に最適な露光条件群を算出している。
図7は、下記の非特許文献1中で説明される、露光時間の異なる二枚の画像の合成前映像信号を合成する従来の手法である。CCDから得られた「蓄積時間長」(以後、長秒露光と呼ぶ)の合成前画像の合成前映像信号(以下、単に映像信号と記す)と、「蓄積時間短」(以後、短秒露光と呼ぶ)の映像信号を、蓄積時間の比でゲインをかけた後に重み付けをして加算している。ここで、重み付けの手法としては、長秒露光画像の映像信号の出力ダイナミックレンジでの80%から100%の範囲において、長秒露光の画像の信号から短秒露光の画像の信号に線形に切り替わるような重みをもうけている。
いいかえると、基準値を境界として合成する作業として、上記の例では「長秒露光画像の映像信号の出力ダイナミックレンジの80%」の値を基準値とし、その値を境界に合成を行う。また、合成する実際の作業としては「蓄積時間の比でゲインをかけた後に重み付けをして加算」という作業を行っている。
特開2002−135648号公報 「広ダイナミックレンジ画像合成処理技術」,National Technical Report Vol.43, No.4, Aug. 1997, pp 455-460
特許文献1の手法においては、図6に示されたような条件の撮影シーンにおいては最適な露光条件群を得られるが、最適な露光条件群が算出できないシーンが存在する。以下にその課題を説明する。
図8は、画面内に3つの異なる明るさを有する被写体から構成される撮影シーンの輝度分布をヒストグラムに変換したものである。
特許文献1に示す手法では、「ピークに当たる部分」を検出するので、この場合では1201、1202、1203で示した3領域が検出され、それらに対して最適な露光を算出しようとする。3領域に対して2回の露光回数しか許されておらず、最適な露光条件群を得るのは困難である。
本発明は、上に示したような、従来の手法では適切な露光条件を得ることができないような撮影シーンにおいても、適切な露光条件を決定し、結果として適切な合成後映像信号を生成することを目的とするものである。
本発明の撮像装置は、撮影シーンの輝度分布のヒストグラムを基に複数の露光条件を決定する露光条件決定手段と、前記決定された複数の露光条件で撮影シーンを複数回撮影し、第1の合成前映像信号及び第2の合成前映像信号を生成する撮像手段と、前記第1の合成前映像信号中の基準値を境界として前記第1の合成前映像信号及び前記第2の合成前映像信号を合成し、合成後映像信号を生成する画像合成手段とを有し、前記露光条件決定手段は、前記第1の合成前映像信号中の基準値が、前記撮影シーンの輝度分布のヒストグラムの谷間の輝度値に対応するように、前記複数の露光条件の中の少なくとも一つの露光条件を決定することを特徴とする。
本発明の撮像方法は、撮影シーンの輝度分布のヒストグラムを基に複数の露光条件を決定する露光条件決定ステップと、前記決定された複数の露光条件で撮影シーンを複数回撮影し、第1の合成前映像信号及び第2の合成前映像信号を生成する撮像ステップと、前記第1の合成前映像信号中の基準値を境界として前記第1の合成前映像信号及び前記第2の合成前映像信号を合成し、合成後映像信号を生成する画像合成ステップとを有し、前記露光条件決定ステップは、前記第1の合成前映像信号中の基準値が、前記撮影シーンの輝度分布のヒストグラムの谷間の輝度値に対応するように、前記複数の露光条件の中の少なくとも一つの露光条件を決定することを特徴とする。
輝度分布のヒストグラムで三つ以上のピークを有するような撮影シーンにおいても、適切な露光条件を決定し、結果として適切な合成後映像信号を生成することができる。
(第1の実施形態)
図1は、本発明の第1の実施形態による広ダイナミックレンジ撮像装置の構成の一例を説明するブロック図である。101は撮影シーンの光情報を電気信号に変換する光電変換装置であり、例えばCCDやCMOSイメージセンサなどが具体的に挙げられる。光電変換装置101は、ある露光条件で撮影シーンを撮影することで、撮影シーンの有する輝度のうち、自身の入力ダイナミックレンジに収まる範囲を映像信号に変換する作業を行う。光電変換装置101が出力する画像の映像信号は、フレームメモリ102に一時的に蓄えられた後、露光条件決定手段103と画像合成手段104に出力される。画像合成手段104は、露光条件の異なる複数枚の画像の映像信号から、合成後映像信号を生成する。
以降では、合成を行う際に、複数枚画像の映像信号のうち、長秒露光の画像において白飛びしている映像信号を、短秒露光の画像における同一の座標の映像信号を用いることで白飛びしないように処理する、という作業を行うことを例として説明を進める。
また、ここにおける基準値とは、長秒露光の画像における、白飛び判定のしきい値となる映像信号値に対応している。その値を基準値信号線105を介して画像合成手段104から露光条件決定手段103にフィードバックしている。
なお、短秒露光の画像において黒沈みしている映像信号を、長秒露光の画像における同一の座標の映像信号を用いることで黒沈みしないように処理する、という方式を用いてもよい。その場合は、上記の説明における「長秒・短秒」「白飛び・黒沈み」を適宜入れ替えて読み進めればよい。
なお、ここでの「白飛び」の定義であるが、必ずしもダイナミックレンジの最大値に信号がクリップしている状態を意味していない。例えば撮像装置の入出力特性の最大値出力側での線形性が確保されない場合などは、信号がダイナミックレンジの上側10%以内の範囲に属する状態を「白飛び」と称し、そのデータを使用しないようにすればよい。
同様に、ここでの「黒沈み」の定義であるが、必ずしもダイナミックレンジの最小値に信号がクリップしている状態を意味してはおらず、例えば信号が撮像装置のダイナミックレンジの下側10%以内の範囲に属する状態を「黒沈み」と称しても良い。
なお、本実施形態においては、基準値の決定手法、及び、合成の作業をどのように行うか、という点については何ら限定しない。本実施形態は、それらが既知の手法で与えられたことを前提とした際の、複数の露光条件の決定手法に関するものであるからである。
図2は、撮影シーンの輝度分布のヒストグラムの一例である。大きなピーク201〜203が3つ存在している。このようなヒストグラムを有する撮影シーンに対して、二枚の画像に対応する映像信号を取得して広ダイナミックレンジ画像を作る際の、それぞれの撮影に最適な露光条件を与えるための手法を以下に説明する。
まず、画像合成手段104は、基準値205を露光条件決定手段103に出力する。基準値205は、例えば長秒露光画像の映像信号の出力ダイナミックレンジ206での80%から100%の範囲の映像信号値(輝度値)であり、80%の映像信号値(輝度値)が好ましい。次に、露光条件決定手段103は、ヒストグラムの谷間に対応する輝度値204に対応する輝度をヒストグラムから見いだす。次に、露光条件決定手段103は、その輝度が、図中の白抜きの三角形205で示す長秒露光画像中の基準値にちょうど対応するような露光条件を算出する。具体的な算出方法の一つとして、次式となるように露光量を算出すればよい。
露光量×輝度値(204)×輝度−照度変換係数 = 基準値(205)
なお、ここでの「輝度―照度変換係数」であるが、被写体輝度を光電変換装置直前の面照度に変換するための、レンズなどによって決まる係数である。このようにして、二枚撮影するうちの、長秒露光側の露光条件が算出される。
次に、露光条件決定手段103は、短秒露光側の露光条件を算出する。短秒露光側の露光条件の算出手法は、例えば、長秒露光側の露光条件から、一義的にある係数をかけて決定する方法が挙げられる。係数を例えば0.1とした場合、かつ、露光量を時間のみで制御する場合、今回求めた露光量の多い側の露光時間に0.1をかけた露光時間を短秒露光側の露光条件とする。算出されたそれら露光条件群は、露光条件信号線106を介して露光条件決定手段103から光電変換装置101にフィードバックされる。
また、短秒露光側の露光条件を算出するための別な手法としては、以下のような方法もある。まず、長秒露光側が撮影できる撮影シーンの輝度分布の範囲は以前の過程ですでに把握されているので、ヒストグラム上で長秒露光のみで白飛びすると判断されている領域を抜き出す。そののちに、それらの領域を最適に露光できるような露光条件を別途算出する。具体的な手法としては、例えば抜き出された領域のヒストグラムのピークに最適な露光条件を選んだり、抜き出された領域のヒストグラムから算出される輝度の平均値に最適な露光条件を選んだりする方法が挙げられる。
なお、短秒露光側の露光時間を選択する方式を本実施形態では特に限定していない。本実施形態の特徴は、映像信号の合成時における信号の「切り替わり」を、ヒストグラムの谷間に持ってくる点にある。短秒露光側の露光条件の算出手法には特に限定されず効果を発揮できる。
また、上記露光条件を算出する前にあらかじめ撮影シーンの輝度分布のヒストグラムを把握しておく必要があるが、それは例えば動画であれば以前のフレームのヒストグラムを用いればよい。また、静止画であれば先行撮影によりあらかじめ対象のヒストグラムを把握しているものとする。
まず、光電変換装置101は、長秒露光の露光条件で本撮影を行い、長秒露光の映像信号をフレームメモリ102を介して画像合成手段104に出力する。ダイナミックレンジ206は、長秒露光画像のダイナミックレンジである。続いて、光電変換装置101は、短秒露光の露光条件で本撮影を行い、短秒露光の映像信号をフレームメモリ102を介して画像合成手段104に出力する。ダイナミックレンジ207は、短秒露光画像のダイナミックレンジである。
画像合成手段104は、長秒露光画像の映像信号及び短秒露光画像の映像信号に対して電荷蓄積時間(露光時間)の比でゲインをかけた後に重み付けをして加算し、合成画像を生成する。重み付けは、基準値205において、長秒露光の画像の信号から短秒露光の画像の信号に線形に切り替わるような重み付けを行う。いいかえると、画像合成手段104は、基準値205を境界として長秒露光画像の映像信号及び短秒露光画像の映像信号を合成し、合成後映像信号を生成する。
もちろん上記の例は一例であり、例えば基準値205として、長秒露光の画像の映像信号の出力ダイナミックレンジでの100%に対応する信号値を用いてもよい。また、合成する実際の作業として「重み付けをして加算」の代わりに「長秒露光の映像信号を、短秒露光の映像信号で置き換える」などの手法をとってもよい。
本実施形態の効果は以下の通りである。本実施形態の本質は、合成時に画像が切り替えられる映像信号の値を基準値として画像合成手段104から露光条件決定手段103にフィードバックし、切り替わりの輝度に対応する映像信号の値を撮影シーンの輝度分布のヒストグラムの谷間に対応させる点にある。この手法を用いることで、図6に説明した従来の例とは異なり、三つのピークを有する被写体においても、最適な露光を得ることができる。
また、合成後の画像における長秒露光画像と短秒露光画像の切り替えが生ずる位置において、隣接する画素との露光条件の違いによるノイズ量の違いから、見た目の不連続性が生まれる場合がある。ただし、本実施形態によればそのような不連続性を生む画素の出現頻度は画面内で極小になっているので、画質が改善される。
次に、ヒストグラムの谷間に属する輝度値の具体的な選択方法を図3のヒストグラムを例に説明する。図3のようなヒストグラムが与えられたときは、例えば、あるしきい値301以下の値にある領域302をすべて「谷間」とし、その中心の輝度値303を谷間に属する輝度値として選択する手法がある。
また、谷間から輝度を選択する際に、中心を選択するのではなく、谷間にある輝度を303、304、305のようにいくつか選び出し、それら複数の値に対して前述の手法でそれぞれ露光条件群を仮に選び出す。そして、それら仮に選び出された露光条件群を用いて生成される合成後画像上の白飛び画素及び黒沈み画素の個数が少なくなる露光条件群を既知のヒストグラムから予測し、その露光条件群とその露光条件群に対応する輝度を選択する。これにより、最適な露光条件群が得られる。
また、306のようなしきい値を設定すると、谷間307が新たに出現する可能性があり、露光条件群の可能性として二つ存在することになる。そのような場合は、各組み合わせにおいて、それぞれの組み合わせを用いて露光した合成後画像上の白飛びする画素、及び、黒沈みする画素がいくつになるかを、本撮影の前に既知のヒストグラムからあらかじめ予測する。そして、合成後画像における白飛び画素及び黒沈み画素を最も少なくする露光条件の組を選択すればよい。
また、谷間を定義する際に、しきい値を用いる代わりに、ヒストグラムの形状が下に凸になっている領域、つまりヒストグラムを関数と見立てたときにその二回微分が負の領域を谷間と定義してもよい。
いずれにしても、谷間に属する輝度の選択方法、及び、谷間を定義する際のしきい値などは、計算時間などがトレードオフになった設計パラメータである。いかなる手法を用いても、本実施形態の効果は同様に得ることができる。
次に、露光条件を算出するために用いるヒストグラムの算出の際、頻度の計数時に重み付けを行うことで追加の効果を得ることができることについて以下説明する。
例えば画面内において、撮影シーンのうちの、中心付近に位置する画素の輝度をヒストグラムにする際には、度数をひとつではなく二つ、もしくは三つとカウントすることで、より中心に位置する画素の輝度情報が反映されたヒストグラムが形成される。また、画面中心付近に位置する像に適切な複数の露光条件を算出できるようになる。
また、別途形状認識を行い、例えば「顔」や「背景」という形状を認識し、それらにそれぞれ重み付けを行うことで、その形状に対応した輝度情報に適切な複数の露光条件を算出できるようになる。
また、肌色、などを別途認識し、それらに重点的に重み付けを行うことで、肌色に適した複数の露光条件を算出できるようになる。
また、別途動きを認識し、動いている物体に重み付けを行うことで、動いているものに適した複数の露光条件を算出できるようになる。
なお、形状、色、動きの認識方法自身に関しては本実施形態で特に限定をしていない。認識方法によらず本実施形態の効果を同様に得られるからである。
(第2の実施形態)
図4は、本発明の第2の実施形態による撮像装置の撮像方法を説明する図である。本実施形態は、動画撮影時など、経時的にその輝度が変化する被写体を想定しており、例えば明滅する光源や、時々刻々変化する木漏れ日などにより、ピーク401と402の頻度の大小関係が図4(a)及び図4(b)のように頻繁に変化するシーンを想定している。
第1の実施形態の手法を用いることで、撮影シーンの輝度分布のヒストグラムのピーク位置が図4(a)と図4(b)のように入れ替わったとしても、本実施形態では谷間に属する値403を基準に露光条件群を算出するので、露光条件群は大きく変化しない。
本実施形態の特有の効果を説明する。従来の例では、画像データが多く存在する位置、つまりヒストグラム上のピークや山を基に露光条件を決めることから、図4に示したような撮影シーンを動画撮影する際には露光条件が頻繁に変化してしまう。頻繁な露光条件の変化は、動画再生時のちらつきなどになってあらわれ、画質を著しく悪化させる。
本実施形態においては、値403を基準に常に露光条件を算出するので、ヒストグラムのピークが多少変動しても同一の最適露光条件が得られ、ちらつきなどのない安定した合成後画像が得られる。
(第3の実施形態)
図5は、本発明の第3の実施形態による撮像装置の撮像方法を説明する図である。ここでは、離れた位置に3つのピークを持つヒストグラムを想定している。本実施形態は、撮影シーンの輝度のダイナミックレンジが第1及び第2の実施形態に比べて格段に広く、2枚の画像を基に合成する手法では数多くの画素が合成後画像上で白飛びもしくは黒沈みしてしまうシーンとなっている。
このような場合における本実施形態の動作を、以下に説明する。なお、撮像装置の構成は図1と全く同じである。まず、第1及び第2の実施形態と同様、何らかの先行撮影を基に、図5に示されるような被写体輝度のヒストグラムが取得される。先行撮影の結果得られたヒストグラムが画像合成手段104によって解析され、二回の撮影では白飛び、及び黒沈み無しに合成後画像を作成することが不可能であることが判断される。そして、画像合成手段104は今回、三回の撮影を行うことを露光条件決定手段103に指示する。また、三回の撮影を行うという判断は、画像合成手段104ではなく、露光条件決定手段103で判断しても良い。
なお、本実施形態では、それぞれの撮影における、画像データの切り替わりの位置、つまり基準値は白抜きの三角形503、504で示される。基準値は、第1の露光条件511で撮影された場合、及び第2の露光条件512で撮影された場合、両者において、同一の映像信号の値であるので、それぞれの撮影のダイナミックレンジにおいては同一の箇所に位置している。ただし、それら二回の撮影はそれぞれ別の露光条件を前提としているので、503、504が対応する輝度値はそれぞれ異なる値を示している。
その基準値に対応する輝度値がヒストグラムの谷間の値501、502に位置するように3つの露光条件を算出する。なお、谷間の値の決定方法は第1の実施形態の説明と同様である。
また、図中の第3の露光条件513で示される、最短時間で露光される短秒露光画像の露光条件算出手法も、第1の実施形態の説明と同様である。光電変換装置101は、第1の露光条件511、第2の露光条件512及び第3の露光条件513の3つの撮像信号を生成する。画像合成手段104は、3つの映像信号を合成する。
本実施形態の特有の効果を説明する。本実施形態においては、被写体の輝度範囲が二回の撮影でその全容をとらえられないほど広い場合においても、画像合成手段104から動的に最適な露光回数をフィードバックすることで、第1及び第2の実施形態の効果を同様に得ることができる。
以上のように、第1〜第3の実施形態によれば、露光条件決定手段103は、撮影シーンの輝度分布のヒストグラムを基に複数の露光条件を決定する。光電変換装置101は、前記決定された複数の露光条件で撮影シーンを複数回撮影し、第1の合成前映像信号及び第2の合成前映像信号を生成する撮像手段である。画像合成手段104は、前記第1の合成前映像信号中の基準値205を境界として前記第1の合成前映像信号及び前記第2の合成前映像信号を合成し、合成後映像信号を生成する。前記露光条件決定手段103は、前記第1の合成前映像信号中の基準値205が、前記撮影シーンの輝度分布のヒストグラムの谷間の輝度値204に対応するように、前記複数の露光条件の中の少なくとも一つの露光条件を決定する。
前記撮影シーンの輝度分布のヒストグラムは、撮影パラメータを基に頻度の計数時に重み付けされている。前記撮影パラメータは、前記撮影シーン内における位置である。また、前記撮影パラメータは、前記撮影シーン内に存在する被写体の形状である。また、前記撮影パラメータは、前記撮影シーン内に存在する被写体の色である。また、前記撮影パラメータは、前記撮影シーン内に存在する被写体の動きである。
前記露光条件決定手段103は、前記ヒストグラムの谷間に位置する複数の輝度値303〜305に対してそれぞれ前記基準値205が対応するように、複数の露光条件候補を決定し、評価関数に基づいて前記複数の露光条件候補の中から一つの露光条件を決定する。
前記評価関数は、前記複数の露光条件候補を用いてそれぞれ生成される合成後映像信号中の黒沈み又は白飛びしている画素数を、前記ヒストグラムから予測して計数した関数である。
第3の実施形態では、前記露光条件決定手段103は、前記ヒストグラムを基に予測される合成後映像信号中の黒沈み又は白飛びしている画素数を基に、決定する露光条件の数を変更し、前記撮像手段101に撮影させる回数を変更する。
第1〜第3の実施形態によれば、従来は適切な露光条件の算出が困難だった、三つ以上のピークを有するような撮影シーンにおいても、最適な露光条件群を得ることができる。
特に、合成後画像上での、画像の切り替えの位置において、隣接する画素との露光条件の違いによるノイズ量の違いから、見た目上での不連続性が生まれる場合がある。その場合、本実施形態によってそのような不連続性を生む画素の出現頻度は画面内で極小にすることができるので、画質の改善につながる。
また、谷間の値を基準に常に露光条件を算出するので、ヒストグラムのピークが多少変動しても同一の最適露光条件を得ることが可能になる。
また、画像合成手段104から動的に最適な露光回数をフィードバックすることを行う。これにより、撮影シーンの輝度のダイナミックレンジが二回の撮影でその全容をとらえられないほど広い場合においても、上記のすべての効果を得ながら合成後映像信号中の黒沈みもしくは白飛びする信号の数を減少させることが可能となる。
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
本発明の第1の実施形態による広ダイナミックレンジ撮像装置の構成の一例を説明するブロック図である。 得られた被写体輝度のヒストグラムの一例を示す図である。 被写体輝度のヒストグラムのもう一つの例を示す図である。 本発明の第2の実施形態による撮像装置の撮像方法を説明する図である。 本発明の第3の実施形態による撮像装置の撮像方法を説明する図である。 特許文献1中に説明されている、ヒストグラムを用いて露光条件を決定するその決定手法を説明する図である。 非特許文献1中に説明されている広ダイナミックレンジ撮像装置の構成の一例を説明するブロック図である。 画面内に3つの異なる明るさを有する被写体の輝度をヒストグラムに変換したものを示す図である。
符号の説明
101 光電変換装置
102 フレームメモリ
103 露光条件決定手段
104 画像合成手段
105 基準値信号線
106 露光条件信号線
201 ヒストグラムのピーク
202 ヒストグラムのピーク
203 ヒストグラムのピーク
204 谷に対応する輝度値
205 基準値に対応する輝度値
301 しきい値
302 谷の領域
303 谷の領域の中心の輝度値
304 谷の領域に属する輝度値
305 谷の領域に属する輝度値
306 しきい値
307 谷の領域に属する輝度値の別な候補
401 ヒストグラムのピーク
402 ヒストグラムのピーク
403 谷間に属する値
501 谷間に属する値
502 谷間に属する値
503 基準値に対応する輝度値
504 基準値に対応する輝度値

Claims (10)

  1. 撮影シーンの輝度分布のヒストグラムを基に複数の露光条件を決定する露光条件決定手段と、
    前記決定された複数の露光条件で撮影シーンを複数回撮影し、第1の合成前映像信号及び第2の合成前映像信号を生成する撮像手段と、
    前記第1の合成前映像信号中の基準値を境界として前記第1の合成前映像信号及び前記第2の合成前映像信号を合成し、合成後映像信号を生成する画像合成手段とを有し、
    前記露光条件決定手段は、前記第1の合成前映像信号中の基準値が、前記撮影シーンの輝度分布のヒストグラムの谷間の輝度値に対応するように、前記複数の露光条件の中の少なくとも一つの露光条件を決定することを特徴とする撮像装置。
  2. 前記撮影シーンの輝度分布のヒストグラムは、撮影パラメータを基に頻度の計数時に重み付けされていることを特徴とする請求項1記載の撮像装置。
  3. 前記撮影パラメータは、前記撮影シーン内における位置であることを特徴とする請求項2記載の撮像装置。
  4. 前記撮影パラメータは、前記撮影シーン内に存在する被写体の形状であることを特徴とする請求項2記載の撮像装置。
  5. 前記撮影パラメータは、前記撮影シーン内に存在する被写体の色であることを特徴とする請求項2記載の撮像装置。
  6. 前記撮影パラメータは、前記撮影シーン内に存在する被写体の動きであることを特徴とする請求項2記載の撮像装置。
  7. 前記露光条件決定手段は、前記ヒストグラムの谷間に位置する複数の輝度値に対してそれぞれ前記基準値が対応するように、複数の露光条件候補を決定し、評価関数に基づいて前記複数の露光条件候補の中から一つの露光条件を決定することを特徴とする請求項1〜6のいずれか1項に記載の撮像装置。
  8. 前記評価関数は、前記複数の露光条件候補を用いてそれぞれ生成される合成後映像信号中の黒沈み又は白飛びしている画素数を、前記ヒストグラムから予測して計数した関数であることを特徴とする請求項7記載の撮像装置。
  9. 前記露光条件決定手段は、前記ヒストグラムを基に予測される合成後映像信号中の黒沈み又は白飛びしている画素数を基に、決定する露光条件の数を変更し、前記撮像手段に撮影させる回数を変更することを特徴とする請求項1〜8のいずれか1項に記載の撮像装置。
  10. 撮影シーンの輝度分布のヒストグラムを基に複数の露光条件を決定する露光条件決定ステップと、
    前記決定された複数の露光条件で撮影シーンを複数回撮影し、第1の合成前映像信号及び第2の合成前映像信号を生成する撮像ステップと、
    前記第1の合成前映像信号中の基準値を境界として前記第1の合成前映像信号及び前記第2の合成前映像信号を合成し、合成後映像信号を生成する画像合成ステップとを有し、
    前記露光条件決定ステップは、前記第1の合成前映像信号中の基準値が、前記撮影シーンの輝度分布のヒストグラムの谷間の輝度値に対応するように、前記複数の露光条件の中の少なくとも一つの露光条件を決定することを特徴とする撮像方法。
JP2007179899A 2007-07-09 2007-07-09 撮像装置及び撮像方法 Expired - Fee Related JP4986747B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007179899A JP4986747B2 (ja) 2007-07-09 2007-07-09 撮像装置及び撮像方法
US12/168,565 US7990433B2 (en) 2007-07-09 2008-07-07 Imaging apparatus and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007179899A JP4986747B2 (ja) 2007-07-09 2007-07-09 撮像装置及び撮像方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012097558A Division JP5274686B2 (ja) 2012-04-23 2012-04-23 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP2009017477A true JP2009017477A (ja) 2009-01-22
JP4986747B2 JP4986747B2 (ja) 2012-07-25

Family

ID=40252765

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007179899A Expired - Fee Related JP4986747B2 (ja) 2007-07-09 2007-07-09 撮像装置及び撮像方法

Country Status (2)

Country Link
US (1) US7990433B2 (ja)
JP (1) JP4986747B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011004353A (ja) * 2009-06-22 2011-01-06 Canon Inc 画像処理装置、画像処理方法
WO2012143977A1 (ja) * 2011-04-22 2012-10-26 株式会社日立製作所 血管画像撮影装置及び生体認証装置
JP2015211469A (ja) * 2014-04-24 2015-11-24 アクシス アーベー 露出設定を決定するための方法及び装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100843087B1 (ko) 2006-09-06 2008-07-02 삼성전자주식회사 영상 생성 장치 및 방법
JP5054583B2 (ja) * 2008-03-17 2012-10-24 株式会社リコー 撮像装置
WO2009133967A2 (en) 2008-05-02 2009-11-05 Canon Kabushiki Kaisha Solid-state imaging apparatus
US20120007996A1 (en) * 2009-12-30 2012-01-12 Nokia Corporation Method and Apparatus for Imaging
DE102010023166B4 (de) * 2010-06-07 2016-01-21 Dräger Safety AG & Co. KGaA Wärmebildkamera
TWI486058B (zh) * 2010-11-12 2015-05-21 Altek Corp 影像擷取裝置及其影像合成方法
CN102480599B (zh) * 2010-11-22 2014-07-02 华晶科技股份有限公司 影像拍摄装置及其影像合成方法
TWI433533B (zh) * 2010-11-22 2014-04-01 Altek Corp 影像擷取裝置及其影像合成方法
JP6534780B2 (ja) * 2016-10-04 2019-06-26 富士フイルム株式会社 撮像装置、撮像方法、およびプログラム
CN111565265A (zh) * 2019-02-14 2020-08-21 上海银镐环境科技有限公司 一种频率差值摄像器件

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002369075A (ja) * 2001-06-04 2002-12-20 Olympus Optical Co Ltd 撮像装置および画像処理装置並びに撮像プログラムおよび画像処理プログラム
JP2003319263A (ja) * 2002-04-23 2003-11-07 Olympus Optical Co Ltd 画像合成装置
JP2007036714A (ja) * 2005-07-27 2007-02-08 Hitachi Ltd 撮像装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5638118A (en) * 1987-06-09 1997-06-10 Canon Kabushiki Kaisha Image sensing device with diverse storage times used in picture composition
US5194960A (en) * 1990-03-05 1993-03-16 Konica Corporation Optical image signal control device
JP3666900B2 (ja) * 1994-04-25 2005-06-29 キヤノン株式会社 撮像装置および撮像方法
JP2951910B2 (ja) * 1997-03-18 1999-09-20 松下電器産業株式会社 撮像装置の階調補正装置及び階調補正方法
DE69915721D1 (de) * 1998-01-28 2004-04-29 Konishiroku Photo Ind Bildverarbeitungsvorrichtung
US6825884B1 (en) * 1998-12-03 2004-11-30 Olympus Corporation Imaging processing apparatus for generating a wide dynamic range image
JP4869474B2 (ja) 2000-10-26 2012-02-08 オリンパス株式会社 撮像装置
US7298402B2 (en) * 2000-10-26 2007-11-20 Olympus Corporation Image-pickup apparatus with expanded dynamic range capabilities
US6859565B2 (en) * 2001-04-11 2005-02-22 Hewlett-Packard Development Company, L.P. Method and apparatus for the removal of flash artifacts
JP3801126B2 (ja) * 2002-09-25 2006-07-26 ソニー株式会社 撮像装置,撮像装置の画像出力方法,およびコンピュータプログラム
JP4556722B2 (ja) * 2004-05-31 2010-10-06 コニカミノルタホールディングス株式会社 撮像装置
JP4733419B2 (ja) * 2005-04-26 2011-07-27 富士フイルム株式会社 合成画像データ生成装置およびその制御方法ならびにその制御プログラム
JP4630730B2 (ja) * 2005-05-27 2011-02-09 キヤノン株式会社 撮像装置、カメラ及び撮像方法
JP4264553B2 (ja) * 2006-06-12 2009-05-20 ソニー株式会社 画像処理装置、撮像装置、画像出力装置、これらの装置における方法およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002369075A (ja) * 2001-06-04 2002-12-20 Olympus Optical Co Ltd 撮像装置および画像処理装置並びに撮像プログラムおよび画像処理プログラム
JP2003319263A (ja) * 2002-04-23 2003-11-07 Olympus Optical Co Ltd 画像合成装置
JP2007036714A (ja) * 2005-07-27 2007-02-08 Hitachi Ltd 撮像装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011004353A (ja) * 2009-06-22 2011-01-06 Canon Inc 画像処理装置、画像処理方法
WO2012143977A1 (ja) * 2011-04-22 2012-10-26 株式会社日立製作所 血管画像撮影装置及び生体認証装置
JP5816682B2 (ja) * 2011-04-22 2015-11-18 株式会社日立製作所 血管画像撮影装置及び生体認証装置
JP2015211469A (ja) * 2014-04-24 2015-11-24 アクシス アーベー 露出設定を決定するための方法及び装置

Also Published As

Publication number Publication date
US20090015690A1 (en) 2009-01-15
JP4986747B2 (ja) 2012-07-25
US7990433B2 (en) 2011-08-02

Similar Documents

Publication Publication Date Title
JP4986747B2 (ja) 撮像装置及び撮像方法
JP6423625B2 (ja) 画像処理装置および画像処理方法
KR101537182B1 (ko) 높은 다이나믹 레인지 이미지들을 이용한 화이트 밸런스 최적화
JP5713752B2 (ja) 画像処理装置、及びその制御方法
JP6020199B2 (ja) 画像処理装置、方法、及びプログラム、並びに撮像装置
JP4630730B2 (ja) 撮像装置、カメラ及び撮像方法
JP2012235332A (ja) 撮像装置、および撮像装置制御方法、並びにプログラム
JP5672796B2 (ja) 画像処理装置、画像処理方法
JP2013106113A (ja) 撮像装置
JP6672081B2 (ja) 撮像装置
JP2017022610A (ja) 画像処理装置、画像処理方法
US11818466B2 (en) Notifying apparatus, image capturing apparatus, notifying method, image capturing method, and storage medium
JP5898509B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP7142507B2 (ja) 画像処理装置および画像処理方法、ならびに撮像装置
JP5274686B2 (ja) 撮像装置及び撮像方法
JP6108680B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP2016001809A (ja) 撮像装置、及び、撮像方法
JP2014179920A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP2002232777A (ja) 撮像システム
JP2019047336A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2015023498A (ja) 画像符号化装置、画像符号化方法およびプログラム
JP5286927B2 (ja) 画像合成装置、撮像装置、画像合成方法、およびプログラム
JP6570311B2 (ja) 画像処理装置及び画像処理方法
JP2015080157A (ja) 画像処理装置、画像処理方法及びプログラム
JP2023090492A (ja) 画像処理装置および画像処理方法、撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120327

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120424

R151 Written notification of patent or utility model registration

Ref document number: 4986747

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees