JP6223028B2 - 撮像装置、制御方法及びそのプログラム - Google Patents

撮像装置、制御方法及びそのプログラム Download PDF

Info

Publication number
JP6223028B2
JP6223028B2 JP2013145800A JP2013145800A JP6223028B2 JP 6223028 B2 JP6223028 B2 JP 6223028B2 JP 2013145800 A JP2013145800 A JP 2013145800A JP 2013145800 A JP2013145800 A JP 2013145800A JP 6223028 B2 JP6223028 B2 JP 6223028B2
Authority
JP
Japan
Prior art keywords
exposure
dead zone
image
mode
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013145800A
Other languages
English (en)
Other versions
JP2015019281A (ja
Inventor
和彦 杉江
和彦 杉江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013145800A priority Critical patent/JP6223028B2/ja
Priority to US14/327,407 priority patent/US9485434B2/en
Publication of JP2015019281A publication Critical patent/JP2015019281A/ja
Application granted granted Critical
Publication of JP6223028B2 publication Critical patent/JP6223028B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、露出の異なる複数の画像を合成することでダイナミックレンジの拡大処理をおこなう撮像装置とその制御方法およびプログラムに関し、特に、ダイナミックレンジ拡大処理を適用した動画の取得に関する。
従来、撮像装置において、ダイナミックレンジを拡大する技術として、同一シーンで露出量が異なる複数の画像を取得し、該複数の画像を合成するHDR(High Dynamic Range)合成という技術が一般的に知られている。
このHDR合成のための処理(以下、HDR合成処理と称す)としては、まず、被写体の測光結果に応じた露出(適正露出)条件の画像を取得する。そして、該適正露出の露出量より相対的に露出量の少ない露出(アンダー露出)条件、及び相対的に露出量の多い露出(オーバー露出)条件で撮影した画像の一方、若しくはその双方を取得する。その後、取得した露出量の異なる画像同士を合成することで広いダイナミックレンジを有する画像を取得することが出来る。
以上の構成を動画に適用した、いわゆる動画HDRの技術として、特許文献1には露出量の異なる画像を周期的に取得し、各画像を撮像装置内部で合成し連続的に出力することが可能な撮像装置について提案されている。
特公平07−097841号公報
しかしながら、特許文献1には、被写体の輝度が変化した場合に、該輝度の変化に追従するための露出制御(以下、被写体の輝度変化に応じた露出制御と称す)については記載されていない。
更に、動画HDRでは、露出量の異なる複数の画像(以下、被合成画像と称す)同士を合成するために、被合成画像間に露出差を生じさせる制御(以下、露出差制御と称する)をおこなう。
以上説明した、被写体の輝度変化に応じた露出制御と露出差制御は、絞り値、蓄積時間、ISO感度のパラメータの内の何れかを変化させることでおこなわれる。
この際、撮影後の動画に求める品質によって、それぞれの露出制御に使用するパラメータの使用頻度は異なる。例えば、被写界深度が頻繁に変わることを抑制したい場合、絞り値を変化させることによる露出制御の頻度を減らすことが望ましい。
即ち、撮影したい動画の品質によって、動画撮影中に変化させたくないパラメータは異なる。
ここで、動画HDRにおいて、絞りと蓄積時間を極力変化させずに、ISO感度によって露出差制御をおこなう場合を考える。
この場合、露出差制御に使用したISO感度の分だけ、ISO感度によって被写体の輝度変化に応じた露出制御が可能な範囲(以下、露出制御範囲と称す)は減少してしまう。
そして、ISO感度による露出制御範囲が減少した分、輝度変化に応じた露出制御において絞りや蓄積時間を変化させて露出制御をおこなう頻度が増加する可能性がある。
即ち、被合成画像間の露出差制御に使用しないパラメータによって輝度変化に応じた露出制御をおこなう頻度が動画HDR時には増加してしまうため、意図した品質の動画が取得できない可能性がある。
本発明の目的は、ダイナミックレンジ拡大処理を適用する動画の撮影中に、被合成画像間の露出差制御に使用しないパラメータによって、輝度変化に応じた露出制御をおこなう頻度が増加することを抑制することが可能な撮像装置を提供するものである。
上記目的を達成するための本発明としての撮像装置は、被写体を撮像して画像を出力する撮像手段を備えた撮像装置であって、前記撮像手段によって、合成に用いる露出量の異なる複数の画像を周期的に連続して出力させる第1のモードと、前記第1のモードとは異なる第2のモードとを切り替え可能な制御手段と、被写体の輝度変化に追従した露出量の変更をおこなわない不感帯を決定する不感帯決定手段と、を有し、前記不感帯決定手段は、前記第1のモードにおける前記不感帯の幅を前記第2のモードにおける前記不感帯の幅よりも広い幅に決定することを特徴とする。
本発明によれば、ダイナミックレンジ拡大処理を適用した動画撮影中に、被合成画像間の露出差のための露出制御に使用しないパラメータによって、被写の輝度変化に応じた露出制御をおこなう頻度が増加することを抑制することができる。
本発明の第1実施形態に係る撮像装置の構成例を示す図である。 本発明の第1実施形態に係る映像信号処理部の構成例を示す図である。 本発明の第1実施形態に係る撮像装置の撮影処理の例を説明するフローチャートである。 本発明の第1実施形態に係る撮像装置の露出制御に関するプログラムを例示的に説明するプログラム線図である。 本発明の第1実施形態に係る撮像装置の露出差制御によって出力される画像を例示的に説明する図である。 本発明の第1実施形態に係る撮像装置の露出制御における輝度不感帯を例示的に説明する図である。 本発明の第2実施形態に係る撮像装置の通常動画モード時での、所定の時刻における被写体輝度と露出量の変化を例示的に説明した図である。 本発明の第2実施形態に係る撮像装置の動画HDRモードでの、所定の時刻における被写体輝度と露出量の変化を例示的に説明した図である。 本発明の第2実施形態に係る撮像装置の撮影処理の例を説明するフローチャートである。
(第1実施形態)
以下、本発明の実施形態について図1、図2を参照して説明する。図1は本実施形態に係る撮像装置であるカメラ100の構成例を示したブロック図である。
本実施形態においてカメラ100は、被写体の光学像をカメラ100内の各部へと導くレンズと、該レンズを取り外し可能に設けられたカメラ本体とからなる撮像装置である。尚、カメラ100は上述のものに限定されるものではなく、例えば、レンズとカメラ本体とが一体構造となっているような撮像装置であってもよい。
レンズ101は、フォーカスレンズやズームレンズなどを含む複数のレンズからなるレンズ群であり、入射した被写体の光学像を撮像素子105へと導く。
絞り102はレンズ101を介して入射する光量を調節する光量調節部材である。
レンズ制御部141は、レンズ101、絞り102の駆動を制御することにより、ズーム、フォーカス、絞りなどの制御を実行する。また、レンズ101は、レンズマウント103を介してレンズとカメラ本体とがそれぞれ取り外し可能に設けられている。
シャッタ104は、撮像素子105の状態を露光状態と遮光状態とに適宜切換え可能なシャッタである。
シャッタ制御部142は、シャッタ104の駆動を制御することにより、撮像素子105を前述した露光状態と遮光状態とに切り替える制御をおこなう。
撮像素子105は、CCDやCMOSなどの電荷蓄積型のイメージセンサである。ここで、撮像素子105は、レンズ101によって導かれた被写体の光学像に応じて、アナログ画像データを出力する。更に、撮像素子105は、蓄積した電荷のリセットタイミングを変更することによって、蓄積時間を調整できる。
AFE(Analog Front End)106では、撮像素子105から出力されたアナログ画像データに対して、ゲイン調整、サンプリング、A/D変換等を行い、デジタル画像データとして画像データを映像信号処理部121へと出力する。尚、撮像素子105やAFE106などが本実施形態における撮像手段である。そして、後述する露出制御のうち、絞り値と蓄積時間の変更は撮像素子105による電荷蓄積前に行われ、ISO感度の変更は撮像素子105での電荷蓄積後にAFE106によってゲイン調整がされることで行われる。
次に、図2を参照して本実施形態に係る映像信号処理部121を説明する。同図は映像信号処理部121の構成例を示したブロック図である。映像信号処理部121は、AFE106から出力されたデジタル画像データに対して種々の画像処理を実行する。以下、映像信号処理部121の内部の構成と各部の動作について説明する。
映像信号処理部121の内部には、測光演算部201、露出制御部202、現像処理部203、メモリインターフェイス204、合成部205、動画エンコード処理部206が備えられている。
測光演算部201は、AFE106から出力されたデジタル画像データに基づいて被写体の明るさを測光し、被写体の輝度(被写体輝度)を算出する。
露出制御部202では、測光演算部201で求めた被写体輝度に応じて露出条件(露出量)を算出する。尚、露出条件の算出は後述の図4のプログラム線図に基づいておこなわれる。算出した露出条件は、メモリインターフェイス204とバス150を介してカメラ100内の各部に伝達される。そして、伝達された露出条件に応じてカメラ100内の各部を駆動し、被写体輝度に対する露出制御をおこなうことが可能である。
尚、露出制御部202は、本実施形態における、動画HDRモードで露出差制御をおこない被合成画像間の露出量の差(露出差)の設定をおこなう露出差設定手段でもある。更に、露出制御部202は、本実施形態における、動画HDRモードで被写体の輝度変化に追従して露出条件(露出量)を変化させない範囲である不感帯の幅を決定する不感帯決定手段でもある。以上の点については図3を参照して後述する。
現像処理部203は、AFE106によってデジタル変換された画像データに対して、ホワイトバランス、色補間、色補正、γ変換、エッジ強調、解像度変換等の処理を実行する。そして、上述の処理の結果をメモリインターフェイス204とバス150を介して映像信号処理部121の外部に接続されたメモリ132へと出力する。
尚、本実施形態では後述するHDR合成処理のために、撮像素子105によって被合成画像それぞれの画像データを取得する。そして、現像処理部203において被合成画像それぞれに対して上述した各種の処理をおこないメモリ132へと結果が出力される。被合成画像の取得方法については図3を参照して後述する。
メモリインターフェイス204は、バス150を介してメモリ132と接続されており、メモリ132に記憶された映像信号処理部121の内部で使用するデータの取得、および出力を行う。
メモリ132は本実施形態において使用される種々のデータの記憶と、図3などで後述するカメラ100の撮影処理に応じて出力されるデータの保存をおこなうための記憶部である。例えば、タイミング発生部143における各部の駆動タイミングや種々の露出条件、カメラ100内の処理で使用する算出式、図3に示すフローと同様の動作を指示するためのプログラムなどのデータがメモリ132に記憶されている。
合成部205は、本実施形態におけるダイナミックレンジ拡大手段であって、現像処理部203が出力した露出量の異なる複数の画像データをメモリ132から読出し、HDR合成処理を行った後にメモリ132に合成データを出力する。
動画エンコード処理部206は、合成部205が出力した合成データをメモリ132から読出し、エンコード処理をおこない動画像データを生成し、メモリ132へと結果を出力する。即ち、映像信号処理部121から入力されるデータ、及び出力されるデータは、メモリインターフェイス204を介してメモリ132の内部に記憶される。以上が本実施形態における映像信号処理部121の構成である。
図1に戻り、タイミング発生部143は、撮像素子105、AFE106、映像信号処理部121それぞれについて、動作のタイミングを制御する。
バス150には前述した構成部以外にレンズ制御部141、シャッタ制御部142、電源110、メモリ132、表示制御部151、カード入出力部171、そして、各種のスイッチ類が接続される。
尚、上述の各種のスイッチ類とは、メインスイッチ161、第1レリーズスイッチ162、第2レリーズスイッチ163、ライブビュー開始/終了ボタン164、動画記録開始/終了ボタン165、上下左右選択ボタン166、決定ボタン167である。
電源110は、バス150を介してカメラ100の内部に設けられている各回路に電源供給を行う。
表示制御部151は、バス150を介してタイミング発生部143からの信号に応じて、メモリ132に保存された表示用画像データをD/A変換部152においてデジタル画像データから表示用のアナログ画像データへと変換する。変換されたアナログ画像データは、液晶表示素子からなるTFTなどの表示部153、若しくはVIDEO出力端子154、HDMI(登録商標)出力端子155などのケーブルを介して外部に設けられた外部表示部(不図示)へと表示用のアナログ画像データを出力する。
尚、デジタル画像データが記憶されているメモリ132内部の領域をVRAMと呼ぶ。表示制御部151が、メモリ132のVRAMを読み出し前述の処理をおこなうことで、表示部153に表示用のアナログ画像データが更新される。そして、上述の動作を連続的におこない表示部153に表示画像が更新され続けることによって動画の表示が可能となる。
カードスロット172は、例えばSDカード等の着脱可能な記録媒体173を差し込み可能である。そして、記録媒体173は、カードスロット172に差し込まれた状態でカード入出力部171と電気的に接続される。この状態で、メモリ132に記録されている画像データを記録媒体173へと記録することが可能である。また、記録媒体173の内部に記録されたデータをカメラ100で読み出すことも可能である。
CPU131は、バス150を介して上述したようなカメラ100内の各部へと接続されており、カメラ100内の各部を統括的に制御する制御部である。本実施形態では、CPU131は、レンズ制御部141、シャッタ制御部142、タイミング発生部143、映像信号処理部121、表示制御部151に対して、カメラ100内の各部の制御を指示する。尚、上述したような制御部や処理部を設けずに、CPU131がカメラ100内の各部の駆動を制御するような構成であっても良い。また、CPU131を設けずに上述した制御部や処理部がそれぞれ連動して制御(処理)をおこなうことでカメラ100内の各部の駆動を制御するような構成であってもよい。
(装置の基本動作)
以下、本実施形態に係る撮像装置であるカメラ100の基本動作について図1を参照して説明する。まず、ユーザによりメインスイッチ161がオンされることで、電源110はカメラ100を構成する各部へと電源を供給する。
次に、カメラ100を構成する各部へと電源の供給がなされると、シャッタ制御部142を駆動することでシャッタ104を開き、撮像素子105に、レンズ101によって導かれた被写体の光学像を結像される。また、表示部153に各種のパラメータを設定するためのグラフィカルインターフェース(以下、GUIと称する)が表示する。
次に、第1レリーズスイッチ162はレリーズボタン(不図示)の第1ストローク(半押し状態)でオンとなり、被写体の撮影準備を開始する。ここで、撮影準備の詳細としては、レンズ制御部141によるレンズ101と絞り102の駆動制御によって前述したフォーカス、ズーム、絞りなどの制御を必要に応じて実行する。
次に、第2レリーズスイッチ163は、レリーズボタン(不図示)の第2ストローク(全押し状態)でオンとなる。この状態で、シャッタ制御部142とタイミング発生部143によって、メモリ132の内部に記憶されている蓄積の開始タイミングに基づいてシャッタ104の駆動(開閉)を制御する。そして、シャッタ104の駆動(開閉)によって、被写体の像が撮像素子105上に所定の蓄積時間で撮像される。
次に、上下左右選択ボタン166、決定ボタン167をユーザが操作することによって、GUIに表示された各種のパラメータの選択と設定を行うことが可能である。また、HDR合成処理をおこなわない動画撮影モード(通常動画モード)とHDR合成処理をおこなう動画撮影モード(動画HDRモード)のいずれかに切替え設定することができる。
尚、本実施形態において通常動画モード(第2のモード)と、動画HDRモード(第1のモード)との切替えは、上述したスイッチ類の操作に応じて、CPU131が、カメラ100内の各部の設定変更を指示することで実現される。
次に、ユーザによりライブビュー開始/終了ボタン164が押されると、撮像素子105から定期的(例えば1秒に60回)に画像データが取り込まれ、各種処理を実行した後にメモリ132のVRAMへ配置する。これにより、撮像素子105から取り込んだ画像を表示部153に逐次表示(ライブビュー)することができる。尚、ライブビューは釦等により指示するのではなく、メインスイッチ161のオンと同時に開始されるような構成であっても良い。
次に、ライブビュー中にユーザが動画記録開始/終了ボタン165を押すと、動画の記録が開始または終了される。尚、本実施形態では、ライブビュー中に動画記録開始/終了ボタン165を押すことで動画記録の開始または終了をおこなうが、これに限定されるものではない。例えば、ライブビューされていない状態で、動画記録開始/終了ボタン165を押すことにより、表示部153へのライブビューを開始するとともに動画記録の開始をおこなうような構成でも良い。以上が本実施形態におけるカメラ100の基本動作である。
(撮影処理)
以下、本実施形態に係る撮影処理を図3に示すフローを参照して説明する。尚、以下のフローにおける各処理の結果は、メモリ132に一時的に保存され、必要な際にはメモリ132から適宜出力されるものとする。
ステップS100で撮影処理が開始され、ステップS101でCPU131は、ユーザによって選択されたモードが動画HDRモード(第1のモード)であるか否かを判定する。動画HDRモードでないと判定された場合、通常動画モード(第2のモード)であるとCPU131が判定しステップS102へと進む。また、動画HDRモードであると判定された場合、ステップS112へと進む。
(通常動画モードの撮影処理)
以下、通常動画モード(第2のモード)の撮影処理を説明する。ステップS102で露出制御部202は、メモリ132から図4(A)に示す通常動画用のプログラム線図を読み出し、通常動画モードの撮影処理を開始する。
尚、図4(A)は通常動画撮影モード用のプログラム線図の例を示しており、絞り、蓄積時間、ISO感度による露出制御と被写体輝度との関係を示したプログラム線図である。ここで、上側の横軸と左側の縦軸は被写体輝度、下側の横軸は蓄積時間およびゲイン(ISO感度)、右側の縦軸は絞り値を示している。尚、本実施形態において露出制御は前述したように、被写体の輝度変化に応じて絞り値、蓄積時間、ISO感度の3つのパラメータを変化させることでおこなわれる。
一般的に動画では、動画の品質を維持するために絞り駆動の回数を少なくし、高速秒時を避けた蓄積時間と、高いISO感度の使用を避けることが望ましい。そこで、本実施形態では図4(A)のプログラム線図を用いて、露出量を多く(大きく)する場合は、実線に沿って露出制御し、露出量を少なく(小さく)する場合は、破線に沿って露出制御をおこなう。
図3のフローに戻り、ステップS103で撮像素子105は、メモリ132から予め決められた露出量(露出条件)で予備画像の撮像をおこなう。尚、予備画像の露出条件は一般的なものであればどのようなものであってもよい。また、本実施形態において、予備画像は後述する測光演算に使用するだけなので保存はしないが、メモリ132へ保存をするような構成であっても良い。
次に、ステップS104で測光演算部201は、先に取得した予備画像の測光演算をおこなう。そして、露出制御部202は、該測光演算により算出した被写体輝度に対応する露出量である目標露出を算出する。尚、算出した被写体輝度はメモリ132に保存され、該被写体輝度とメモリ132の内部に記憶された露出条件とを比較することで目標露出を算出するような構成であってもよい。
ここで、本実施形態において目標露出とは、測光演算の結果から算出される被写体の平均的な明るさに対する露出量である。本実施形態では、先に説明したように図4(A)に示すプログラム線図に基づいて目標露出の算出をおこなう。
次に、ステップS105で露出制御部202は、露出量の輝度変化に対する不感帯(輝度不感帯)を決定する。一般的に動画では、目標露出に実際の撮影に用いる露出量である撮影露出を追従させて露出制御をおこなう。しかしながら、目標露出に対する撮影露出の追従を過度におこなうことで露出量が頻繁に変化してしまう。従って、撮影される動画は不自然なものとなり、品位も低下してしまう。
そこで、本実施形態では上述の問題を防止するために撮影露出を基準とした所定範囲を、被写体の輝度変化に追従した露出量の変更をおこなわない輝度の範囲として輝度不感帯を設ける。そして、輝度不感帯(の幅)に目標露出に対応する輝度が含まれるか否かを判定し、判定の結果によって被写体の輝度変化に応じた露出制御を行い撮影露出を変更するか否かを決定する。
詳細としては、撮影露出に対応する輝度を基準とした所定範囲が輝度不感帯であるが、本実施形態では便宜的に撮影露出を基準とした所定範囲を輝度不感帯と称する。尚、本実施形態における輝度不感帯としては、被写体の輝度変化に応じて露出量を変化させない輝度の範囲に対応する露出量の範囲であっても良い。その場合の輝度不感帯の中心位置は撮影露出となり、撮影露出を基準とした輝度不感帯の幅に目標露出が含まれるか否かで撮影露出の変更をおこなう。
また、本実施形態において、輝度不感帯の幅は撮像素子105のダイナミックレンジや測光演算部201が出力する演算精度、現像処理部203のγ変換パラメータ等から決定するがこれに限定されるものではない。例えば、露出量が過度に変化しないような幅であれば輝度不感帯の幅はどのように決定してもよい。
更に、本実施形態では、撮影露出に対する輝度の位置を輝度不感帯の中心位置とする構成であるがこれに限定されるものではなく、輝度不感帯の中心位置を撮影露出とは異なる位置に決定するような構成であってもよい。例えば、被写体の輝度変化の指向が高輝度側なのか低輝度側なのかを判定し、該判定の結果に応じて輝度不感帯の中心位置を決定(変更)するような構成であってもよい。
図3のフローに戻り、ステップS106で露出制御部202は、先に算出した目標露出が輝度不感帯に含まれる否かを判定する。そして、目標露出が輝度不感帯内である場合はステップS108へと進む。目標露出が決定した輝度不感帯内でない場合、ステップS107でCPU131は、カメラ100内の各部の駆動を指示し、撮影露出を変更する。この際、撮影露出の変更は、本実施形態における露出変更手段である絞り102やシャッタ104の駆動とAFE106内部における処理を制御し、絞り値、蓄積時間、ISO感度を変更することでおこなう。
次に、ステップS108で撮像素子105は、設定された撮影露出で被写体の撮像をおこない画像データを出力する。
次に、ステップS109で表示部153は、出力した画像データを表示画像として表示することでライブビューの更新をおこなう。尚、撮影処理の開始後、初めての処理である場合はライブビューを開始する。
次に、ステップS110でCPU131は、撮影処理を終了するか否かの判定をおこない、終了する場合はS111へと進み撮影処理を終了し、ライブビューも終了する。撮影処理を終了しない場合は、ステップS104へと戻り次の画像の撮影動作を開始する。
そして、本実施形態における通常動画モードでは、撮像素子105によって、撮像した画像データを周期的に連続させて出力することで動画の撮影をおこなう。以上が通常動画モードの撮影処理についてのフローである。
(動画HDRモードの撮影処理)
以下、本実施形態に動画HDRモード(第1のモード)での撮影処理について説明する。本実施形態では、前述したように露出量の異なる複数の被合成画像を合成することでダイナミックレンジ拡大処理をおこなう。
ここで、被合成画像としては、被写体の明るさに対する平均的な露出量である適正露出で撮影した適正露出画像(第1の画像)と、適正露出よりも相対的に露出量の少ないアンダー露出で撮影したアンダー露出画像(第2の画像)を用いる。そして、適正露出画像とアンダー露出画像とを合成することで、適正露出画像のみを出力する場合(通常時)に比べてダイナミックレンジが拡大された画像を取得することが出来る。
尚、撮像素子105によって、合成に用いる適正露出画像とアンダー露出画像とは図5に示すように周期的に連続して出力される。図5は本実施形態の動画HDRモードにおける露出差制御によって、周期的に連続して出力される画像について例示的に説明した図である。
図5に示すように、動画HDRモードではアンダー露出画像と適正露出画像とが単位フレームごとに所定のタイミング(例えば、画像の読み出しタイミング)において交互に出力される。そして、適正露出画像が出力された後のフレームで、2つの画像を合成した画像(以下、合成画像と称する)を表示画像として表示する。
以下、本実施形態における動画HDRモードの撮影処理に関するフローについて図3を参照して説明する。尚、以下のフローにおける各処理の結果は、メモリ132に一時的に保存され、必要な際にはメモリ132から適宜出力されるものとする。
ステップS101で、CPU131の判定によって動画HDRモードが選択されていると判定した場合は、ステップS112へと進み、動画HDRモードの撮影処理を開始する。そして、ステップS112で露出制御部202は、メモリ132から図4(B)に示す動画HDR用のプログラム線図を読み出し、動画HDRモードの撮影処理を開始する。尚、図4(B)は動画HDRモード用のプログラム線図を示している。
次に、ステップS113で撮像素子105は、予備画像の撮像をおこなう。尚、予備画像の撮影については前述の通常動画モードと同様なので説明は省略する。
次に、ステップS114で測光演算部201は、先に取得した予備画像の測光演算をおこなう。そして、露出制御部202は、該測光演算により算出した被写体輝度に対する露出条件(露出量)である目標露出を算出する。ここで、動画HDRモードにおける目標露出とは、適正露出画像を取得するための目標となる露出量である。
本実施形態の動画HDRモードにおいて、アンダー露出画像は、図4(B)で示すプログラム線図から所定の露出差の分だけ露出量を減らして取得する。即ち、動画HDRモードでは、被合成画像間に露出差を生じさせるための露出差制御をおこなう必要がある。尚、本実施形態で該露出差制御は蓄積時間とISO感度を変化させることでおこなう。そして、被合成画像間の露出差は2段とし、アンダー露出画像を、適正露出画像より露出量が2段分少なくなるように取得する。
ここで、本実施形態において、上述した露出量の段数はAPEX単位におけるEv値で2段分である。即ち、図4(B)のプログラム線図からAPEX単位で2Ev(以下、単に2Evと称す)少ない露出量となるようにアンダー露出を決定する。従って、動画HDRモードでは、アンダー露出の為の露出量を確保するために、図4(B)のプログラム線図において、蓄積時間とISO感度によって露出制御が可能な領域を2Ev分確保する必要がある。
詳細としては、図4(B)に示す動画HDRモード用のプログラム線図の、同一の絞り値において、蓄積時間とISO感度により露出制御が可能な領域を、通常動画モード時(図4(A))よりも2Ev少なくなるように設定する。上述の構成により、適正露出画像とアンダー露出画像とで2Ev分の露出差を確保することが可能となる。
しかしながら、露出差制御のために確保した分だけ、プログラム線図において、同一の絞り値で設定可能な蓄積時間とISO感度による露出量は減少してしまう。即ち、蓄積時間とISO感度によって被写体の輝度変化に応じた露出制御が可能な範囲である露出制御範囲は減少してしまう。この場合、蓄積時間とISO感度による露出制御範囲が減少した分だけ、絞り値を変化させて露出制御をおこなう頻度が増加する可能性がある。即ち、動画HDRモード時は、露出差制御に用いないパラメータによって露出制御をおこなう頻度が増加してしまう可能性がある。
一般的に、動画撮影時に絞り値を変化させることで露出制御をおこなう頻度が増加すると、動画の単位フレーム(単位画像)間の被写界深度が頻繁に変化するため、撮影される動画は不自然なものとなってしまう。
また、絞り102は機械的な変化によって駆動するため、露出差制御中に絞り102を駆動することで、露出差制御によって設定した被合成画像間の露出差が意図したしたものと異なってしまう可能性がある。即ち、被合成画像間で、露出差制御のために確保した2Ev分の露出差を維持することが出来ない可能性がある。
この場合、絞り102を駆動中に撮影される動画の明るさは単位フレーム間で不均一となり、動画として不自然なものとなってしまう。
尚、絞り値を変化させることで露出差制御をおこなう場合は、蓄積時間とISO感度によって被写体の輝度変化に応じた露出制御をおこなう頻度が増加する。例えば、ISO感度を変化させる頻度が増えれば、単位フレーム間のノイズの量が変化してしまい、撮影後の動画は不自然なものとなってしまう。また、蓄積時間を変化させる頻度が増える場合は、単位フレーム間ごとに蓄積時間が異なることで画像の連続性が失われて、撮影後の動画は不自然なものとなってしまう。
ここで、通常の動画撮影では、ユーザが求める動画の品質によって、露出制御に使用するパラメータは異なる。例えば、上述したように単位フレーム間の被写界深度が異なることを避けたければ、絞り値を変化させることによる露出制御は極力おこなわないようにする。しかしながら、動画HDRモードでは、上述したように、露出差制御で使用しないパラメータであっても、該パラメータによって露出制御をおこなう頻度は増加してしまう可能性がある。即ち、撮影後の動画の品質はユーザが意図したものとは異なってしまう可能性がある。この問題を解決するために、動画HDRモードにおいて、露出差制御に用いないパラメータによる露出制御の頻度が増加を極力抑制することが求められる。
そこで、本実施形態における動画HDRモードでは、輝度不感帯の幅を前述した通常動画モードよりも広い(大きい)幅に決定することで上述の問題に対応する。この点について図6を参照して後述する。
図3のフローに戻る。ステップS115で露出制御部202は、測光演算の結果から、適正露出とアンダー露出との露出差を決定する。尚、本実施形態において、被合成画像間の露出差は2Ev以外にしてもよい。また、予め所定の算出式をメモリ132に記憶させておき、該算出式に従って露出差を算出するような構成でも良い。
次に、ステップS116で露出制御部202は、動画HDR用の輝度不感帯を決定する。
以下に、動画HDRモードにおける輝度不感帯について、図6を参照して説明する。尚、図6は、本実施形態における通常動画モードと動画HDRモードにおけるそれぞれのダイナミックレンジと輝度不感帯の幅を説明した図の例である。図6で示すように、本実施形態では、通常動画撮影モードの輝度不感帯の幅よりも動画HDRモードにおける輝度不感帯の幅の方が広くなるように決定する。この構成によって、例えば通常動画モード時に目標露出が輝度不感帯に収まらない(含まれない)場合でも、動画HDRモード時には目標露出を輝度不感帯に収める(含む)ことができる。
前述したように、本実施形態では、輝度不感帯に目標露出が含まれるか否かを判定して、撮影露出を変更するか否かを決定する。従って、HDR動画モード時の輝度不感帯の幅を、通常動画モード時よりも広くすることで、絞り値を変化させることのよる露出制御の頻度が増加することを抑制することが出来る。即ち、動画HDRモード時に、露出差制御に用いないパラメータにより露出制御をおこなう頻度が増加することを抑制することが出来る。
ここで、輝度不感帯の幅を広げることで、被写体の輝度変化に応じた目標露出に対する撮影露出の追従性が通常動画モード時よりも低下し、撮影される適正露出画像のダイナミックレンジは被写体の輝度に対してずれが生じる可能性がある。例えば、ダイナミックレンジが高輝度側へずれた場合は、適正露出画像に黒つぶれが生じ、ダイナミックレンジが低輝度側へずれた場合は、適正露出画像に白とびが生じてしまう。即ち、ダイナミックレンジがずれることで、動画HDRモード時の適正露出画像は、被写体の輝度変化が同様である場合の通常動画モード時の単位フレームの画像と比較して表現できない明るさの領域が生じてしまう。
しかしながら、動画HDRモードでは適正露出画像とアンダー露出画像とを合成することで合成画像のダイナミックレンジは拡大される。従って、合成画像では、適正露出画像で表現できなかった明るさを表現することができる。即ち、合成画像の明るさが不自然になることは極力抑制され、HDR合成処理後の動画が不自然になることは抑制される。
尚、輝度不感帯の幅(範囲)は、適正露出画像とアンダー露出画像の露出差に連動させて変更することが望ましい。例えば、適正露出画像とアンダー露出画像との露出差が大きくなった場合、被写体の輝度変化に応じて露出制御をおこなう頻度は更に増加してしまう可能性がある。その場合、被合成画像間の露出差が大きくなった分だけ輝度不感帯の幅を広げる。この構成によって、露出差制御に用いないパラメータによって被写体の輝度変化に応じた露出制御をおこなう頻度を更に抑制することができる。
更に、前述した通常動画モードと動画HDRモードとで不感帯の中心位置を変更するような構成であってもよい。例えば、動画HDRモードでは、輝度不感帯の幅を広くするだけでなく、輝度不感帯の中心位置を高輝度側(例えば、図6の上方向)へ変更させる。この場合、輝度不感帯の中心位置はダイナミックレンジが拡大される指向に沿って変更されるため、合成画像が不自然な明るさになることを抑制することができる。
図3のフローに戻る。ステップS117で露出制御部202は、先に算出した目標露出が輝度不感帯内であるか否かを判定する。目標露出が輝度不感帯内である場合は、ステップS119へと進む。目標露出が決定した輝度不感帯内でない場合、ステップS118でCPU131は、カメラ100内の各部の駆動を指示し、撮影露出を変更する。尚、本実施形態では、輝度不感帯内であっても露出差制御はおこなわれる。
次に、ステップS119で撮像素子105は、設定された撮影露出に基づいてアンダー露出で被写体の撮像をおこないアンダー露出画像の画像データを出力する。
次に、ステップS120で撮像素子105は、設定された撮影露出に基づいて適正露出で被写体の撮像をおこない適正露出画像の画像データを出力する。尚、本実施形態では図5に示したように、先にアンダー露出画像を撮影した後に適正露出画像の撮影をおこなう。これは、撮像素子105からの電荷の読み出しタイミングは周期的で、蓄積の開始タイミングは読み出しタイミングから逆算して設定されることに起因する。例えば適正画像から撮影を行った場合、アンダー露出画像の方が適正露出画像より蓄積時間が短いため、適正露出画像とアンダー露出画像との間で電荷の蓄積をおこなわない間隔が長くなってしまう。従って、HDR合成処理をおこなう場合に適正露出画像とアンダー露出画像とで被写体のずれ量が大きくなってしまい、合成後の画像にブレが生じてしまう可能性がある。
以上より、本実施形態ではアンダー露出画像、適正露出画像の順で撮影をおこなうが、例えば、適正露出画像、アンダー露出画像の順に撮影をおこなうような構成でも良い。特に、被写体に所定以上の動きが生じないような場合は撮影の順序を限定する必要はない。
次に、ステップS121で合成部205は、アンダー露出画像と適正露出画像とを合成してHDR合成処理(ダイナミックレンジ拡大処理)をおこなう。合成処理の詳細としては、まず、被合成画像毎に画像を複数のブロックに分割し、該ブロック内部の所定の画素について、適正露出画像とアンダー露出画像とを比較することで被合成画像同士の位置合わせをおこなう。
次に、被合成画像の所定の画素毎に輝度値を積算し平均輝度値を算出する。そして、積算した平均輝度値が所定の閾値を超えるか否かで画像中の黒つぶれ輝度領域、および白とび輝度領域を検出する。そして検出された黒つぶれ領域と白とび領域を合成の対象から画素から除外する(除外処理)。以上の動作を被合成画像である適正露出画像とアンダー露出画像の双方でおこなう。
最後に、適正露出画像の輝度レベルを基準として被合成画像の輝度レベルを合わせ、所定の合成比率に応じての適正露出画像とアンダー露出画像の合成が実行され合成画像が出力される。尚、本実施形態に係る撮像装置において、合成処理は前述の動作をおこなうものに限定されるものではなく、例えば、被合成画像同士の加算平均をおこなうだけでも良い。
次に、ステップS122で表示部153は、出力した合成画像の画像データを表示してライブビューの更新をおこなう。尚、撮影処理の開始後、初めての処理である場合はライブビューを開始する。
次に、ステップS123でCPU131は、撮影処理を終了するか否かの判定をおこない、終了する場合はS124へと進み撮影処理を終了し、ライブビューも終了する。撮影処理を終了しない場合は、ステップS114へと戻り次の画像の撮影動作を開始する。以上が動画HDRモードの撮影処理を示すフローである。
以上の説明より、動画HDRモード時に、被合成画像間の露出差制御に使用しないパラメータによって、被写体の輝度変化に応じた露出制御をおこなう頻度が増加することを抑制することができる。即ち、ダイナミックレンジ拡大処理を適用した動画撮影中に、被合成画像間の露出差のための露出制御に使用しないパラメータによって、輝度変化に応じた露出制御をおこなう頻度が増加することを抑制することが可能な撮像装置を提供することができる。
尚、本実施形態では、適正露出画像とアンダー露出画像とを合成することでHDR合成処理をおこなうがこれに限定されるものではない。例えば適正露出よりも相対的に露出量の多いオーバー露出画像を撮影し、適正露出画像とアンダー露出画像に該オーバー露出画像を加えてHDR合成処理をおこなうような構成であってもよい。その場合、適正露出画像とアンダー露出画像とでHDR合成処理をおこなう場合よりも更にダイナミックレンジを拡大することが可能である。
また、この場合の被合成画像間の露出差は、測光演算部201における測光結果(被写体輝度)に応じて、本実施形態の露出差決定手段である露出制御部202によって自動的に決定される。若しくは、ユーザが前述のスイッチ類を手動操作することによって決定するような構成であってもよい。
更に、この場合、HDR合成処理をおこなう被合成画像の組み合わせを被写体の輝度に応じて決定するような構成であってもよい。例えば、適正露出画像とアンダー露出画像とで合成をおこなう場合、被写体の明るい部分は暗い部分よりも被写体輝度に対する合成画像の明るさの表現性(以下、単に表現性と称する)が低くなってしまう。即ち、被合成画像の組み合わせによって、表現性は変化してしまう。
そこで、被写体の輝度が全体的に暗い場合は、適正露出画像とオーバー露出画像とを合成する。反対に、被写体の輝度が全体的に明るい場合は適正露出画像とアンダー露出画像とを合成する。
更に、上述した場合において、被合成画像の組み合わせに応じて、輝度不感帯の中心位置を撮影露出よりも高輝度側か低輝度側へと変更するような構成であってもよい。例えば、被合成画像の組み合わせを適正露出画像とアンダー露出画像とした場合の合成画像は、通常動画モードの表示画像と比較して、高輝度側の表現性は高くなるが低輝度側の表現性は変わらない。
そこで、不感帯の中心位置を表現性の高い高輝度側(領域)に変更する。この構成によって、被写体輝度が低輝度側(領域)へと変化した場合であっても、低輝度側における不感帯の幅は通常動画モードと変わらないので、被写体輝度の変化に応じた露出制御の追従性が低下することを抑制することができる。尚、被合成画像の組み合わせが適正露出画像とオーバー露出画像である場合は、不感帯の中心位置を低輝度側へと変更することで、被写体輝度の変化に応じた露出制御の追従性が低下することを抑制することができる。
上述の構成によって、被合成画像の組み合わせに応じて輝度不感帯の中心位置を、表現性の高い領域へと移動させることが出来る。従って、HDR合成処理によって、表現性が変化しない領域に対しては被写体の輝度変化に追従させて露出制御をおこないつつ、表現性が高くなる領域は露出制御の頻度が増加することを抑制することが出来る。
即ち、輝度不感帯の中心位置を撮影露出の位置とする場合よりも、被写体の輝度に対して、合成後に拡大されるダイナミックレンジの範囲に応じた露出制御が可能となるため、合成画像の明るさが不自然になることを抑制することが出来る。
(第2実施形態)
前述した第1実施形態では、動画HDRモード時の輝度不感帯の幅を、通常動画モードより広げることで、露出差制御に用いないパラメータによって露出制御をおこなう頻度が増加することを抑制する構成について説明した。即ち、前述した第1実施形態では、露出量の輝度変化に対する不感帯の幅を変化させることで、露出差制御に用いないパラメータによって露出制御をおこなう頻度が増加することを抑制していた。
本実施形態では、同様の課題を解決するために、被写体の輝度変化に対する露出量の時間変化に対する不感帯(時間不感帯)の幅を変化させる構成について説明する。以下、本実施形態に係る撮像装置の構成について説明する。尚、本実施形態に係る撮像装置であるカメラ100は前述の第1実施形態と同様であるので説明は省略する。
一般的に、動画撮影時は図7(A)に示すように、被写体の輝度変化に応じて、露出制御の開始前に露出制御おこなわない範囲(t1〜t2の時間)の無効領域(時間不感帯)Xを設けている。即ち、被写体の輝度変化に追従した露出量の変更をおこなわない時間の範囲として無効領域(時間不感帯)Xを設ける。これは、例えば外部に設けられたフラッシュ装置の点灯などによって、被写体輝度が一時的に(輝度Cから輝度Dへと)変化するような場合に、露出制御をおこなう頻度が増加することを極力抑制するためである。
尚、図7は本実施形態の通常動画モード時での、所定の時刻tにおける被写体輝度と露出量の変化を例示的に説明した図であり、縦軸は被写体輝度と露出量を表し、横軸は所定の時刻tを表している。図7(A)は被写体の輝度変化が一時的なものである場合の図の一例であり、後述の図7(B)は、被写体の輝度変化が一時的なものでない場合の図の一例である。
ここで、図7(B)を参照して、被写体の輝度変化が一時的なものではない場合について説明する。まず、測光により検出された当初の被写体の輝度Dに対する露出である露出量Aで被写体の撮影処理をおこなう。
その後、被写体輝度は時刻t1で輝度Dから輝度Eに変化するが、無効領域X1の範囲内では露出条件の変更はおこなわないので、撮影露出の変更はしない。尚、前述の第1実施形態と同様に目標露出が輝度不感帯に含まれるか否かの判定は被写体の輝度変化毎におこなっている。
次に、無効領域X1の範囲を超えた後(時刻t2以降)で、撮影露出を被写輝度Eに対応する露出量Bへと変更する。
次に、撮影露出を変更した直後の時刻t3で、被写体輝度が輝度Eから輝度Fへと変化する。
そして、無効領域X2の範囲内では撮影露出の変更はしないが、無効領域X2を超えた後(時刻t4以降)で、撮影露出を輝度Eに対応する露出量Cへと変更する。即ち、例え無効領域Xを設けていたとしても、短い期間内で被写体輝度が複数回変化する場合は、該被写体輝度の変化に伴って撮影露出を変更する必要がある。
上述の状況を、動画HDRモードに適用した場合、前述した第1実施形態と同様に、被写体の輝度変化に応じて、露出差制御に用いないパラメータによって露出制御をおこなう頻度は増加してしまう可能性がある。この問題を解決するために、本実施形態では図8に示すように、被写体輝度の変化に対して露出制御をおこなわない無効領域Xの範囲を通常動画モードよりも広くする。即ち、本実施形態では、時間不感帯である無効領域Xの幅を、通常動画モード時より動画HDRモード時の方が広く(広い幅に)なるように決定する。
図8は、本実施形態の動画HDRモードでの、所定の時刻tにおける被写体輝度と露出量の変化を例示的に説明した図である。ここで、図8と前述した図7(A)とを比較すると、動画HDRモードの無効領域Xの幅(時間)が通常動画モードの無効領域Xの幅(時間)よりも広い(長い)ことがわかる。この場合、短い期間に何度も被写体輝度が変化する場合であっても、露出制御をおこなう頻度を減らすことが出来る。従って、無効領域Xの幅(時間)が広く(長く)なった分だけ、無効領域Xの範囲内で露出差制御に使用しないパラメータによって、被写体の輝度変化に応じた露出制御をおこなう頻度が増加をすることを抑制することができる。
以下より、前述した構成により実現される、本実施形態に係る撮影処理を図9に示すフローを参照して説明する。尚、以下のフローにおける各処理の結果は、メモリ132に一時的に保存され、必要な際にはメモリ132から適宜出力されるものとする。
まず通常動画モードの撮影処理について説明する。尚、ステップS200からステップS204までは前述の第1実施形態と同様なので、説明は省略する。
ステップS205で露出制御部202は、無効領域Xを通常動画モード用(通常動画用)のものに決定する。
次に、ステップS206で露出制御部202は、先に算出した目標露出が輝度不感帯内か否かを判定し、目標露出が輝度不感帯内でない場合はステップS207へと進み、範囲内の場合はステップS209へと進む。ここで、本実施形態では前述の第1実施形態とは異なり、通常動画モードと動画HDRモードとで輝度不感帯の幅は変更しない。従って、本実施形態では通常動画モードと動画HDRモードとで、輝度不感帯は同様のものを用いる。
ステップS207で測光演算部201は、被写体の輝度変化が無効領域Xの範囲外で行われているか否かを判定する。詳細としては、図7(B)に示す被写体の輝度変化が開始した時刻t1から所定の時間が経過した時刻t2までの期間(範囲)を無効領域Xとする。ここで、時刻t1の検出は、露出制御部202に、測光演算部201から被写体輝度の変化を検出したタイミングが伝えられることによっておこなわれる。尚、無効領域Xの期間(範囲)は一般的なものであればどのようなものでもよい。
ステップS207で、被写体の輝度変化が無効領域Xの範囲内で行われていると判定された場合、撮影露出は変更せずにステップS209と進む。そして、被写体の輝度変化が無効領域Xの範囲外でおこなわれていると判定された場合、ステップS208で露出制御部202は、カメラ100内の各部の駆動を指示し、先に求めた目標露出に対して撮影露出を変更する。以降の処理は、前述の第1実施形態と同様なので説明は省略する。以下、動画HDRモードにおける撮影処理について説明する。尚、ステップS216までは前述の第1実施形態と同様の処理をおこなうので説明は省略する。
ステップS217で露出制御部202は、動画HDRモード用(動画HDR用)の無効領域Xの決定をおこなう。詳細としては、図8に示すような、被写体の輝度変化が開始した時刻t1から所定の時間が経過した時刻t2までの期間(範囲)を無効領域Xとする。即ち、図7(B)に示す通常動画用の無効領域Xの幅より、動画HDR用の無効領域Xの幅を広くする。
尚、本実施形態において、動画HDR用の無効領域Xの幅は、通常動画用の無効領域の幅よりも広いものであって、撮影した動画が不自然なものにならないようなものであればどのように決定しても良い。例えば、ユーザが任意に決定できるようなものであっても良いし、被合成画像の組み合わせに応じて決定できるような構成であってもよい。
次に、ステップS218で露出制御部202は、先に算出した目標露出が輝度不感帯内か否かを判定する。目標露出が輝度不感帯内にあると判定した場合はステップS220へと進む。尚、前述したように、輝度不感帯は通常動画モードと同様とする。
次に、ステップS218で露出制御部202が、目標露出が輝度不感帯内ではないと判定した場合、ステップS219で測光演算部201は、被写体輝度の変化が無効領域Xに含まれるか否かを判定する。ステップS219で、被写体の輝度変化が無効領域Xの範囲内で行われていると判定された場合、撮影露出は変更せずにステップS221と進む。そして、被写体の輝度変化が無効領域Xの範囲外でおこなわれていると判定された場合、ステップS220でCPU131は、カメラ100内の各部の駆動を指示し、先に算出した目標露出に対して撮影露出を変更する。尚、本実施形態において、輝度不感帯内であっても露出差制御は通常通りおこなわれる。そして、これは無効領域(時間不感帯)X内であっても同様である。
また、本実施形態では、被写体輝度の測光は無効領域X内においてもおこなわれ、無効領域Xを超えた際に、無効領域X内での測光結果から撮影露出を変更するような構成であるが、これに限定されるものではない。例えば、無効領域X内では被写体輝度の測光をおこなわないような構成であっても良い。以降の処理は、前述した第1実施形態と同様なので説明は省略する。
以上説明したように、本実施形態における動画HDRモードでは、無効領域Xの幅を通常動画モードにおける無効領域Xの幅よりも広くするので、被写体輝度の変化に応じて露出制御をおこなう頻度を抑制することができる。従って、動画HDRモード時に、被合成画像間の露出差制御に使用しないパラメータによって、輝度変化に応じた露出制御をおこなう頻度が増加することを抑制することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、前述した実施形態では、蓄積時間とISO感度を変化させることで露出差制御をおこなうような構成であったが、絞り値を変更することで露出差制御をおこなうような構成であってもよい。
この場合、被写体の輝度変化に応じて露出制御をする場合に、蓄積時間とISO感度によって露出制御をする頻度が増加することを抑制することが出来る。従って、動画の単位フレーム間でのノイズの増加や減少などの弊害や、動画の連続性が失われることを抑制することが出来るため、動画の品位を向上させることが可能である。
また、上述した実施形態ではカメラ100の内部で被合成画像同士の合成処理をおこなうような構成であるがこれに限定されるものではない。例えば、カメラ100側で合成処理に用いる被合成画像を連続して出力し、カメラ100に接続された不図示の外部装置で該被合成画像同士の合成処理を行うような構成であってもよい。
また、動画HDRモードにおいて、前述した第1実施形態と第2実施形態で説明した、輝度不感帯と時間不感帯(無効領域X)の双方の幅を、通常動画モードよりも広げるような構成であってもよい。この場合、露出差制御に用いないパラメータにより露出制御をおこなう頻度が増加することを更に抑制することが可能である。
更に、本発明においてカメラ100内の各部の駆動は、レンズ制御部141、シャッタ制御部142、タイミング発生部143、映像信号処理部121、表示制御部151などによって制御されるがこれに限定されるものではない。例えば、前述した図3や図9のフローに従ったプログラムをメモリ132に記憶させておき、CPU131が該プログラムを実行することでカメラ100内の各部の駆動を制御するような構成であってもよい。この場合、輝度不感帯や時間不感帯(無効領域X)の決定や、動画HDRモードにおける露出差制御はCPU131によっておこなわれる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
100 カメラ(撮像装置)
105 撮像素子
106 AFE
121 映像信号処理部
131 CPU
132 メモリ
202 露出制御部

Claims (12)

  1. 被写体を撮像して画像を出力する撮像手段を備えた撮像装置であって、
    前記撮像手段によって、合成に用いる露出量の異なる複数の画像を周期的に連続して出力させる第1のモードと、前記第1のモードとは異なる第2のモードとを切り替え可能な制御手段と、
    被写体の輝度変化に追従した露出量の変更をおこなわない不感帯を決定する不感帯決定手段と、
    を有し、
    前記不感帯決定手段は、前記第1のモードにおける前記不感帯の幅を前記第2のモードにおける前記不感帯の幅よりも広い幅に決定することを特徴とする撮像装置。
  2. 前記不感帯決定手段は、前記第1のモードにおける前記不感帯の幅を、合成に用いる露出量の異なる複数の画像の露出差に応じて決定することを特徴とする請求項1に記載の撮像装置。
  3. 前記第1のモードで、合成に用いる露出量の異なる複数の画像間の露出差を設定するための露出差設定手段と、
    前記露出差設定手段によって設定された露出差に基づいて露出量を変更する露出変更手段と、
    を有し、
    前記露出変更手段は、前記不感帯の幅の内部であっても、露出量の異なる複数の画像間の露出差を前記露出差設定手段で設定した露出差に変更することを特徴とする請求項1又は請求項2に記載の撮像装置。
  4. 前記不感帯は、被写体の輝度変化に追従した露出量の変更をおこなわない輝度の範囲であって、
    前記不感帯決定手段は、前記不感帯の中心位置を、前記撮像手段を用いて撮影をおこなうための露出である撮影露出に対応する輝度とは異なる位置に決定することを特徴とする請求項1乃至請求項3の何れか一項に記載の撮像装置。
  5. 前記不感帯は、被写体の輝度変化に追従した露出量の変化をおこなわない露出量の範囲であって、
    前記不感帯決定手段は、前記撮像手段を用いて撮影をおこなうための露出量である撮影露出の位置とは異なる位置に前記不感帯の中心位置を決定することを特徴とする請求項1乃至請求項3の何れか一項に記載の撮像装置。
  6. 前記第1のモードは、合成に用いる第1の画像と、前記第1の画像より相対的に露出量の少ない第2の画像とを周期的に連続して出力させるモードであって、
    前記不感帯決定手段は、前記第1の画像と前記第2の画像とを合成する場合に、前記不感帯の中心位置を前記撮影露出よりも高輝度側に決定することを特徴とする請求項4、又は請求項5に記載の撮像装置。
  7. 前記不感帯決定手段は、前記第1の画像と前記第1の画像よりも相対的に露出量の多い第3の画像とを連続して出力する場合の前記不感帯の中心位置とは異なる位置に、前記第1の画像と前記第2の画像とを周期的に連続して出力する場合の前記不感帯の中心位置を決定することを特徴とする請求項6に記載の撮像装置。
  8. 前記不感帯決定手段は、前記第1の画像と前記第3の画像とを周期的に連続して出力する場合の前記不感帯の中心位置を前記撮影露出よりも低輝度側に決定することを特徴とする請求項7に記載の撮像装置。
  9. 前記不感帯は、被写体の輝度変化に追従した露出量の変更をおこなわない時間であって、
    前記不感帯決定手段は、前記不感帯を被写体の輝度変化が開始した後の所定の時間に決定し、前記第1のモードにおける前記不感帯を、前記第2のモードにおける不感帯よりも長い時間に決定することを特徴とする請求項1乃至3の何れか一項に記載の撮像装置。
  10. 前記第2のモードは、前記撮像手段によって、合成のために露出量を異ならせずに撮像した画像を周期的に連続して出力し、被写体の輝度変化に追従して露出量を変化させることを特徴とする請求項1乃至請求項9の何れか一項に記載の撮像装置。
  11. 被写体を撮像して画像を出力する撮像工程を備えた撮像装置であって、
    前記撮像工程によって、合成に用いる露出量の異なる複数の画像を周期的に連続して出力させる第1のモードと、前記第1のモードとは異なる第2のモードとを切り替え可能な制御工程と、
    被写体の輝度変化に追従した露出量の変更をおこなわない不感帯を決定する不感帯決定工程と、
    を有し、
    前記不感帯決定工程は、前記第1のモードにおける前記不感帯の幅を前記第2のモードにおける前記不感帯の幅よりも広い幅に決定することを特徴とする撮像装置の制御方法。
  12. 請求項11に記載の撮像装置の制御方法をコンピュータに実行させるためのコンピュータで読み取り可能なプログラム。
JP2013145800A 2013-07-11 2013-07-11 撮像装置、制御方法及びそのプログラム Active JP6223028B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013145800A JP6223028B2 (ja) 2013-07-11 2013-07-11 撮像装置、制御方法及びそのプログラム
US14/327,407 US9485434B2 (en) 2013-07-11 2014-07-09 Image capturing apparatus, control method, and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013145800A JP6223028B2 (ja) 2013-07-11 2013-07-11 撮像装置、制御方法及びそのプログラム

Publications (2)

Publication Number Publication Date
JP2015019281A JP2015019281A (ja) 2015-01-29
JP6223028B2 true JP6223028B2 (ja) 2017-11-01

Family

ID=52276813

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013145800A Active JP6223028B2 (ja) 2013-07-11 2013-07-11 撮像装置、制御方法及びそのプログラム

Country Status (2)

Country Link
US (1) US9485434B2 (ja)
JP (1) JP6223028B2 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9819849B1 (en) * 2016-07-01 2017-11-14 Duelight Llc Systems and methods for capturing digital images
JP5704476B1 (ja) * 2014-06-24 2015-04-22 株式会社ビジョナリスト デジタル写真分析装置及びデジタル写真分析プログラム
CN104104886B (zh) * 2014-07-24 2016-07-06 努比亚技术有限公司 过曝拍摄方法及装置
JP5866674B1 (ja) * 2014-07-29 2016-02-17 パナソニックIpマネジメント株式会社 撮像装置
JP6351452B2 (ja) * 2014-09-08 2018-07-04 オリンパス株式会社 撮像装置、撮像方法およびプログラム
US12401911B2 (en) 2014-11-07 2025-08-26 Duelight Llc Systems and methods for generating a high-dynamic range (HDR) pixel stream
US12401912B2 (en) 2014-11-17 2025-08-26 Duelight Llc System and method for generating a digital image
US10217022B2 (en) * 2015-03-06 2019-02-26 Ricoh Company, Ltd. Image acquisition and management
US12445736B2 (en) 2015-05-01 2025-10-14 Duelight Llc Systems and methods for generating a digital image
JP6529381B2 (ja) * 2015-08-07 2019-06-12 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US10397469B1 (en) 2015-08-31 2019-08-27 Snap Inc. Dynamic image-based adjustment of image capture parameters
US10334154B2 (en) 2015-08-31 2019-06-25 Snap Inc. Automated adjustment of digital image capture parameters
US10298852B2 (en) * 2015-10-27 2019-05-21 Canon Kabushiki Kaisha Image capturing apparatus, control method and program thereof
JP6623916B2 (ja) * 2016-04-26 2019-12-25 リコーイメージング株式会社 撮像装置
JP6736407B2 (ja) * 2016-07-28 2020-08-05 キヤノン株式会社 撮像装置、その制御方法およびプログラム
CN107105172B (zh) * 2017-06-27 2021-01-29 虹软科技股份有限公司 一种用于对焦的方法和装置
CN107635098B (zh) * 2017-10-30 2019-09-10 Oppo广东移动通信有限公司 高动态范围图像噪声去除方法、装置及设备
US11064173B2 (en) * 2017-12-14 2021-07-13 International Business Machines Corporation Photographic directional light reference for articulating devices
KR102412591B1 (ko) * 2017-12-21 2022-06-24 삼성전자주식회사 다른 노출값을 갖는 복수의 영상들을 이용하여 합성 영상을 생성하는 방법 및 이를 지원하는 전자 장치
JP2020022034A (ja) * 2018-07-31 2020-02-06 キヤノン株式会社 撮像素子、撮像装置および制御方法
CA3112247A1 (en) * 2018-09-13 2020-03-19 Spectrum Optix Inc. Photographic underexposure correction using a neural network
JP7171342B2 (ja) * 2018-09-26 2022-11-15 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム
JP6757392B2 (ja) * 2018-11-21 2020-09-16 株式会社モルフォ 画像生成装置、画像生成方法及び画像生成プログラム
CN110049240B (zh) * 2019-04-03 2021-01-26 Oppo广东移动通信有限公司 摄像头控制方法、装置、电子设备和计算机可读存储介质
WO2022014250A1 (ja) * 2020-07-14 2022-01-20 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置および電子機器
CN114500835B (zh) * 2022-01-20 2025-03-14 深圳市源德盛数码科技有限公司 一种视频拍摄方法、系统、智能终端和存储介质
EP4564133A4 (en) * 2022-08-26 2025-11-12 Samsung Electronics Co Ltd ELECTRONIC DEVICE AND METHOD FOR TRACKING USER MOTION
CN119052656A (zh) * 2024-08-09 2024-11-29 深圳市积加创新技术有限公司 用于无线摄像头的红外灯亮度动态调节方法、装置、电子设备和计算机可读介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5638118A (en) 1987-06-09 1997-06-10 Canon Kabushiki Kaisha Image sensing device with diverse storage times used in picture composition
US6943832B2 (en) * 2001-03-22 2005-09-13 Agilent Technologies, Inc. Hysteresis in image processing algorithms
JP3949903B2 (ja) * 2001-04-09 2007-07-25 東芝エルエスアイシステムサポート株式会社 撮像装置及び撮像信号処理方法
JP5058479B2 (ja) * 2005-11-07 2012-10-24 キヤノン株式会社 撮像装置の絞り制御装置
JP4433045B2 (ja) * 2007-12-26 2010-03-17 株式会社デンソー 露出制御装置及び露出制御プログラム
JP4770907B2 (ja) * 2008-10-21 2011-09-14 ソニー株式会社 撮像装置、撮像方法及びプログラム

Also Published As

Publication number Publication date
US20150015774A1 (en) 2015-01-15
US9485434B2 (en) 2016-11-01
JP2015019281A (ja) 2015-01-29

Similar Documents

Publication Publication Date Title
JP6223028B2 (ja) 撮像装置、制御方法及びそのプログラム
JP6214206B2 (ja) 撮像装置、制御方法及びプログラム
JP6343200B2 (ja) 撮像装置およびその制御方法ならびにプログラム
JP6675194B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP6333095B2 (ja) 撮像装置およびその制御方法ならびにプログラム
JP6765820B2 (ja) カメラ
JP5759190B2 (ja) 撮像装置及びその制御方法
JP6831493B2 (ja) 撮像装置、撮像方法、およびプログラム
JP6744711B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP6429915B2 (ja) 撮像装置、その制御方法とプログラムと記録媒体
JP2009284136A (ja) 電子カメラ
WO2015049990A1 (ja) 撮像装置および撮像方法
KR20090095920A (ko) 디지털 이미지 촬영 장치, 상기 장치의 노출 제어 방법,디지털 이미지 촬영 방법 및 상기 디지털 이미지 촬영방법을 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는매체
JP5772064B2 (ja) 撮像装置及び画像生成プログラム
JP2011176880A (ja) 撮像装置、撮像方法及びプログラム
JP6779408B2 (ja) 撮像装置、撮像方法、およびプログラム
JP2018006828A (ja) 撮像装置、その制御方法とプログラム
JP6288990B2 (ja) 撮像装置、制御方法及びそのプログラム
JP6949803B2 (ja) 撮像装置、その制御方法とプログラムと記録媒体
JP2008199518A (ja) カメラ
JP2021057709A (ja) 撮像装置および露出制御方法
JP4869801B2 (ja) 撮影装置
JP2014171146A (ja) 撮影装置
JP2010239514A (ja) 撮像システム及び画像処理方法並びにプログラム
JP6727975B2 (ja) 撮像装置、その制御方法とプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171003

R151 Written notification of patent or utility model registration

Ref document number: 6223028

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151