JP2014175734A - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP2014175734A
JP2014175734A JP2013044716A JP2013044716A JP2014175734A JP 2014175734 A JP2014175734 A JP 2014175734A JP 2013044716 A JP2013044716 A JP 2013044716A JP 2013044716 A JP2013044716 A JP 2013044716A JP 2014175734 A JP2014175734 A JP 2014175734A
Authority
JP
Japan
Prior art keywords
imaging
evaluation value
image
unit
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013044716A
Other languages
English (en)
Other versions
JP6159105B2 (ja
JP2014175734A5 (ja
Inventor
Shinobu Watanabe
忍 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013044716A priority Critical patent/JP6159105B2/ja
Priority to US14/184,891 priority patent/US9571742B2/en
Priority to CN201410080011.5A priority patent/CN104038702B/zh
Publication of JP2014175734A publication Critical patent/JP2014175734A/ja
Publication of JP2014175734A5 publication Critical patent/JP2014175734A5/ja
Application granted granted Critical
Publication of JP6159105B2 publication Critical patent/JP6159105B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】 HDR動画撮影時の撮像評価値の検出精度を改善する撮像装置およびその制御方法を提供する。
【解決手段】 1枚の合成画像を生成するために用いる露出の異なる複数の画像の少なくとも2つから撮像評価値を検出する。検出した複数の撮像評価値から、撮像装置の動作を制御するために用いる撮像評価値を、予め定められた条件に基づいて選択する。
【選択図】 図1

Description

本発明は、撮像装置及びその制御方法に関し、特に、ダイナミックレンジを拡大した動画像を撮影可能な撮像装置及びその制御方法に関する。
従来、一般的なデジタルカメラに使われている撮像素子(CCDイメージセンサ、CMOSイメージセンサなど)のダイナミックレンジ(出力値で表現可能な入力輝度の範囲)が銀塩フィルムに比べ狭いという問題があった。撮像素子のダイナミックレンジより広いダイナミックレンジを有する画像を得る方法として、HDR(High Dynamic Range)と呼ばれる技術が知られている。HDRは、同一シーンを露光量を異ならせて撮影した複数枚の画像(例えば、オーバー露出画像とアンダー露出画像等)を合成して1枚の画像(HDR画像)を生成する手法である(特許文献1)。
また、近年では、1フレーム期間の撮影時に複数の異なる露出の画像を撮影することが可能なイメージセンサを用いてHDR画像を生成する技術が提案されており、動画撮影時のHDR画像生成への適用についても言及されている(特許文献2)。
特開平11−164195号公報 特開2011−244309号公報
複数枚の画像を合成してフレーム画像を作成するHDR動画撮影において、撮影に必要な撮像評価値を合成画像から検出すると、撮像評価値の反映タイミングが遅くなってしまう。この問題は、特許文献1記載のような、露出の異なる複数の画像を複数フレーム期間で取得する構成ではもちろん、特許文献2に記載されているような、1フレーム期間内に露出の異なる複数の画像を取得可能な構成であっても存在する。なお、撮像評価値とは、例えばAF(自動焦点検出)評価値、AE(自動露出制御)評価値、WB(ホワイトバランス)評価値などである。
例えば、HDR動画の撮影中にAF評価値に基づくAF制御動作を行う場合を考える。この場合、合成画像から検出したAF評価値を用いてAF制御動作を行う構成にすると、AF評価値を反映するタイミングが画像合成後になるため、被写体の動きに対するAFの応答性が悪くなる。そのため、合成前の画像を用いてAF評価値の検出、反映を行うことが望ましい。
しかしながら、合成前の画像(例えば露出量の多い高露出画像と、露出量の少ない低露出画像)の一方を常に用いて撮像評価値を検出する構成では、露出量と撮影シーンとの関係により、合成前の画像からは精度のよい撮像評価値を検出できない場合がある。例えば、夜景をバックに人物を撮影するような非常に暗いシーンでは、低露出画像からは精度良く撮像評価値が検出できない。また、撮影シーンが十分に明るく、撮影シーンのダイナミックレンジが広いために、被写体が黒つぶれもしくは白飛びしている場合、高露出画像からは撮像評価値を精度良く検出できない。
逆光シーン(主被写体の背景が非常に明るいシーン)や、トンネルシーン(背景が暗く、主被写体の占有面積が小さいシーン)などでも同様の問題が起きる。
本発明はこのような従来技術の課題に鑑みなされたものであり、HDR動画撮影時の撮像評価値の検出精度を改善する撮像装置およびその制御方法を提供することを目的とする。
上述の目的は、撮像装置であって、動画を撮影する撮像手段と、1枚の合成画像を生成するために用いる露出の異なる複数の画像を撮影するように、撮像手段に露出条件を設定する設定手段と、撮像手段から得られる、露出の異なる複数の画像の少なくとも2つから、撮像評価値を検出する評価値検出手段と、評価値検出手段によって検出された複数の撮像評価値から、撮像装置の動作を制御するために用いる撮像評価値を、予め定められた条件に基づいて選択する選択手段と、選択手段が選択した撮像評価値に基づいて、撮像装置の動作を制御する制御手段と、を有することを特徴とする撮像装置によって達成される。
このような構成により、本発明によれば、HDR動画撮影時の撮像評価値の検出精度を改善する撮像装置およびその制御方法を提供することができる。
本発明の第1の実施形態に係る撮像装置の機能構成例を示すブロック図 本発明の第1の実施形態に係る撮像装置におけるHDR動画撮影時の動作タイミングを説明するためのタイミングチャート 本発明の第1の実施形態に係る撮像装置のHDR動画撮影に係る動作を説明するためのフローチャート 本発明の第2の実施形態に係る撮像装置の機能構成例を示すブロック図 本発明の第2の実施形態に係る撮像装置のHDR動画撮影に係る動作を説明するためのフローチャート 本発明の第2の実施形態に係る撮像装置における撮像評価値の選択例を示す図 本発明の第3の実施形態に係る撮像装置の撮像素子の構成例を示す図 図7における単位画素の構成例を示す図 本発明の第3の実施形態に係る撮像装置のHDR動画撮影に係る動作を説明するためのフローチャート 本発明の第3の実施形態に係る撮像装置のHDR動画撮影時の垂直走査部の動作を説明するためのタイミングチャート 本発明の第3の実施形態に係る撮像装置のHDR動画撮影に係る動作を説明するためのフローチャート 本発明の第3の実施形態に係る撮像装置においてヒストグラムを用いて撮像評価値を選択動作を説明するための図 本発明の第4の実施形態に係る撮像装置のHDR動画撮影に係る動作を説明するためのフローチャート
以下、本発明の例示的な実施形態を、添付図面に基づいて詳細に説明する。なお、以下の実施形態は単なる例示であり、本発明は実施形態に記載した特有の構成に限定されない。
(第1の実施形態)
本明細書において、撮像評価値とは、撮像装置の制御や、撮影された画像に対する補正等を行う際に必要なパラメータであり、撮影された画像から取得するパラメータである。例えば、AF(自動焦点検出)評価値や、WB(ホワイトバランス)評価値、AE(自動露出制御)評価値などが代表的な撮像評価値であるが、これらに限定されない。
AF評価値とは、被写体に光学系を合焦させるための評価値であり、主にフォーカスレンズの位置を制御する際に必要である。
WB評価値とは、撮影画像の色調を補正するための評価値であり、現像処理に必要なパラメータである。
AE評価値とは、撮影時の露出条件を自動的に調整するための評価値であり、主に、絞り、シャッタースピード、および感度の設定に用いられる。
図1は、本実施形態の撮像装置の機能構成例を示すブロック図である。
レンズ101は光学系を構成するレンズ群であり、合焦距離を調節するためのフォーカスレンズが含まれている。フォーカスレンズは光軸方向に沿って位置が変更可能であり、システム制御部108が、撮像評価値検出部107によって検出されたAF評価値を基に、レンズ駆動制御部106を通じてフォーカスレンズの位置を制御する。
レンズ101を通じて入射した光は、CCDまたはCMOSイメージセンサ等で構成された撮像素子102の結像面上に被写体の光学像として結像される。
撮像素子102は各画素に入射した光を電荷に変換し、被写体の光学像を画素ごとに電気信号に変換して出力する。
撮像信号処理部103は、撮像素子102から出力された電気信号にA/D変換などの信号処理を適用し、画像データとして出力する。なお、撮像信号処理部103は、撮像素子102の周辺回路として組み込まれてもよい。
撮像評価値検出部107は撮像信号処理部103が出力する画像データから所定の撮像評価値を検出する。その際、システム制御部108から出力されるタイミングにおいて、HDR処理される前の、高露出画像および低露出画像から撮像評価値を検出し、一方を選択する(詳細については後述する)。
そして、システム制御部108は、検出された撮像評価値のうちAF評価値に基づいてレンズ101(フォーカスレンズ)の制御量を決定し、この制御量をレンズ駆動制御部106に出力する。
レンズ駆動制御部106は、システム制御部108からの制御量に基づいて、レンズ101に含まれるフォーカスレンズを光軸方向に駆動し、レンズ101の合焦距離を調整する。
フレームメモリ113は、映像信号処理部104に入力された画像データを記憶する。フレームメモリ113に記憶された画像データに対して、映像信号処理部104は所定の処理を施してHDR画像を生成し、表示部105に表示可能な画像信号として出力する。
映像信号処理部104は、撮像素子102から出力された動画のフレームごとに、あるいは所定数のフレームごとに画像信号を出力する。
システム制御部108は例えばCPU(Central Processing Unit)などのプログラマブルプロセッサであり、ROMなどに記憶されたプログラムに従って撮像装置全体を制御する。具体的には、システム制御部108は、レンズ駆動制御部106、撮像素子102、撮像信号処理部103、映像信号処理部104、撮像評価値検出部107の処理を制御する。また、システム制御部108は、表示部105、外部入出力端子部109、操作部110、記憶部111、電源部112を制御する。
外部入出力端子部109は、撮像装置に外部機器を接続するための外部インタフェースであり、例えばHDMIやUSB等の規格に準拠したコネクタが設けられている。
操作部110は、ユーザが撮像装置に対して指示や設定を行うための入力デバイス群である。操作部110にはレリーズボタン、記録/再生モード切り替えスイッチ、方向キー、決定/実行キー、メニューボタンなど、撮像装置が一般的に備えるボタン、キーなどが含まれる。なお、タッチパネルや音声入力など、ハードウェアキーを有さない入力方法を実現するための構成も操作部110に含まれる。
記憶部111は記録媒体を有し、撮影された動画像や静止画像を記録媒体に記録する。記録媒体は例えば半導体メモリカードのような着脱可能なタイプであっても、内蔵ドライブのような固定タイプであっても、その両方であってもよい。
電源部112は、例えば2次電池と電源回路を有し、撮像装置の各部を駆動するための電源を供給する。
次に、本実施形態におけるHDR動画の生成処理について説明する。なお、動画撮影は記録用の動画撮影に限らず、撮影スタンバイ時に表示部105に表示するために撮影されるライブビュー画像の撮影も含む。また、本実施形態では、説明および理解を容易にするため、露光量の異なる2枚の画像を合成して1枚のHDR画像(動画フレーム)を生成するものとするが、3枚以上の画像を用いて1枚のHDR画像を生成する構成であってもよい。なお、以下の説明では、適正露出よりも多い露出で撮影されたオーバー露出の画像をHigh画像、適正露出で撮影された画像をMiddle画像、適正露出よりも少ない露出で撮影されたアンダー露出の画像をLow画像と呼ぶ。
図2は本実施形態の撮像装置におけるHDR動画撮影時の動作タイミングを説明するためのタイミングチャートである。ここでは、HDR動画のフレームレートは30フレーム/秒(fps)とする。HDR動画の1フレームを2枚の画像から生成するため、撮影フレームレートは60fpsである。なお、これらのフレームレートは例示であり、他のフレームレートを用いてもよい。
タイミングパルスは、内蔵クロックを用いてシステム制御部108が生成する。1/60s周期の撮影同期信号によって、60fpsの撮影が行われる。
本実施形態においてシステム制御部108は、High画像201とLow画像202の撮影動作を交互に行っていく。ここで、例えば、High画像は適正露出Ev(0)から1段明るく(+1段)した露出条件Ev(H)で撮影した高露出画像を、Low画像は、適正露出から1段暗く(−1段)した露出条件Ev(L)で撮影した低露出画像とする。
撮影された画像は、フレームメモリ113に一時的に記憶され、High画像201とLow画像202が揃うと、次のフレーム周期で映像信号処理部104が両画像を合成し、HDR画像203を作成する。なお、High画像201とLow画像202からのHDR画像203の生成は、公知の方法を用いて行うことができる。
撮像評価値検出部107は、システム制御部108から出力される撮像評価値抽出タイミング204、205に従い、High画像201およびLow画像202のそれぞれについて、予め定められた撮像評価値を検出する。
さらに撮像評価値検出部107は、システム制御部108から出力される撮像評価値選択タイミング206に従い、HDR動画撮影動作に使用するために他方よりも適切と判定される撮像評価値を選択する。
合成画像から撮像評価値を得る場合、撮像評価値が得られるのは合成処理終了後になるが、本実施形態では、合成処理の開始前のタイミングで撮像評価値が選択され、反映可能となるため、撮像評価値を用いる処理の応答性を向上できる。
システム制御部108は、撮像評価値選択タイミングで選択された撮像評価値のうち、AF評価値に基づいて、レンズ駆動制御部106を通じてフォーカスレンズ位置を制御し、レンズ101の合焦距離を調整する。システム制御部108は、フォーカスレンズ位置の制御を、レンズ制御タイミング207の1周期、すなわち出力同期信号の1周期(1/30秒)内で実施する。
図3に示すフローチャートを用いて、本実施形態の撮像装置のHDR動画撮影に係る動作について詳細に説明する。なお、以下の説明では、High画像で検出される撮像評価値をα、Low画像で検出される撮像評価値をβとする。
操作部110の電源スイッチの操作などにより、電源がONされると(S301)、電源部112から各部に電源が供給される。システム制御部108は、各種初期設定を行い(S302)、撮影スタンバイ状態となる。
この状態で操作部110の録画ボタンなどが操作されると、記録用の動画撮影が開始される。また、録画ボタンなどの操作がなされなくても、スタンバイ時に表示部105に表示するためのライブビュー映像の撮影が開始される(S303)。ここでは、いずれの場合もHDR動画撮影を行うものとし、以下ではライブビュー映像か記録用映像かの区別はせずに説明する。
まず、システム制御部108が、公知の任意の方法で適正露出の条件を算出し、この適正露出の条件を基準として、+1段のHigh画像用露出(Ev(H))および−1段のLow画像用露出(Ev(L))を決定する(S304)。なお、ここでは、シャッタースピード(必要に応じてさらに感度)を適正露出条件から+1段および−1段分調整してEv(H)およびEV(L)を決定するものとする。また、ここではシステム制御部108が撮像素子102における電荷蓄積時間を制御することによりシャッタースピードを制御するものとする。
S305でシステム制御部108は、S304で決定した露出条件Ev(H)に従って撮影を行う。システム制御部108は、撮影で得られたHigh画像をフレームメモリ113へ保存するとともに、撮像評価値検出部107に与える。撮像評価値検出部107ではHigh画像から撮像評価値αを検出する(S306)。
S307でシステム制御部108は、S304で決定した露出条件Ev(L)に従って撮影を行う。システム制御部108は、撮影で得られたLow画像をフレームメモリ113へ保存するとともに、撮像評価値検出部107に与える。撮像評価値検出部107ではLow画像から撮像評価値βを検出する(S308)。
S309で、映像信号処理部104が、フレームメモリ113に保存されたHigh画像とLow画像とからHDR画像(HDR動画フレーム)を生成する合成処理を開始する。
S310で、映像信号処理部104は、S309で生成したHDR画像の現像処理を行う。現像処理後、記憶部111への動画記録や、表示部105のライブビュー表示などを行う。なお、図2に示したように、S310で記録または表示されるHDR画像は、1つ前のフレーム周期で撮影されたHigh画像とLow画像の合成画像である。
S311においてシステム制御部108は、記録動作の終了が指示されたり、ライブビュー表示動作を行わない動作モードへの移行が指示されたりした場合など、動作撮影を終了する指示がなされていれば、処理を終了する。一方、撮影が継続される場合は処理をS312へ進める。
S312〜S314で、撮像評価値検出部107は、S306でHigh画像から検出された撮像評価値αと、S308でLow画像から検出された撮像評価値βとの比較結果に基づいて、より好適と判定される一方を選択する。
例えば、撮像評価値がコントラスト検出方式の自動焦点検出(コントラストAF)用のAF評価値であるとする。この場合、AF評価値はコントラストの大きさを表し、AF評価値が高い(大きい)ほど、光学系が合焦状態に近いことを意味する。従って、画像の明暗差が大きい方が、高いAF評価値が得られる。
例えば、逆光のようなシーンを撮影した場合、被写体のコントラスト(AF評価値)は、High画像の方が高く、Low画像の方が小さくなる。
S312で、High画像から検出された撮像評価値αがLow画像から検出された撮像評価値β以上(α≧β)と判別された場合、S313において撮像評価値検出部107は、High画像から検出された撮像評価値αを選択する。また、S312で、Low画像から検出された撮像評価値βの方が高い(α<β)と判別された場合、S314において撮像評価値検出部107は、Low画像から検出された撮像評価値βを選択する。なお、3枚以上を合成する場合、最も高い値のものを選択することができる。
そして、S304からの処理を繰り返す。
システム制御部108は、選択された撮像評価値を基に、撮像装置の動作を制御する。撮像評価値がAF評価値であれば、図2に示したように、レンズ制御タイミング207で、フォーカスレンズの制御を行う。なお、AF評価値に基づいてどのようにフォーカスレンズの制御を行うかは特に限定されず、公知の手法を用いることができる。
このように本実施形態では、HDR動画を撮影しながら検出した撮像評価値を用いる必要がある場合、合成後のHDR画像から検出した撮像評価値ではなく、複数の合成前画像から検出された撮像評価値のうち、好適なものを動的に選択して用いる。そのため、合成前画像の撮影から撮像評価値が得られるまでの時間が短く、応答性のよい制御が可能になる。また、複数の合成前画像から検出された撮像評価値のうち、最適なものを用いることができるため、複数の合成前画像のうち特定の順番で撮影されるものから検出される撮像評価値を用いる場合よりも、制御の精度が向上するという効果がある。
なお、本実施形態では撮像評価値の一例としてAF評価値について説明したが、その他の撮像評価値、例えば、ホワイトバランス評価値(WB評価値)や、AE評価値などについても同様の構成を適用することができる。
つまり、他の撮像評価値に関しても、図3に示したS306でHigh画像、S308でLow画像からそれぞれ検出し、S312で最適な1つを選択する。そして、選択された撮像評価値に基づいて撮像装置の動作(ホワイトバランス係数の算出動作や次の撮影時の露出制御パラメータの決定)を制御する。
(第2の実施形態)
第1の実施形態では、複数の合成前画像から検出した撮像評価値の比較結果に基づいて最適な撮像評価値を選択するものであった。第2の実施形態では、最適な撮像評価値を、撮影シーンの検出に用いられる情報に基づいて選択することを特徴とする。
図4は、第2の実施形態に係る撮像装置の機能構成例を示すブロック図であり、図1の撮像装置と共通する構成には共通する参照数字を付してある。本実施形態の撮像装置は図1の撮像装置に対して、顔情報検出部401、輝度情報検出部402、色情報検出部403、シーン判別部404を付加した点を特徴とする。
顔情報検出部401は、撮像信号処理部103が出力した画像信号に対して公知の顔検出処理を適用し、画像中に存在する人物や動物(ペットなど)の顔領域を検出し、検出した顔領域の情報を被写体検出情報としてシーン判別部404に出力する。なお、被写体検出情報は顔領域以外の検出情報であってもよい。
輝度情報検出部402では、映像信号処理部104から受信した映像信号に対応する画像を複数の領域に分割し、各領域における平均輝度を求める。
そして、輝度情報検出部402は、これらの平均輝度を用いて、例えば、フレーム画像の中心部とその周辺部との輝度差や中心輝度値などの輝度情報を求める。輝度情報検出部402で検出された輝度情報は、シーン判別部404へ送られる。
色情報検出部403では、映像信号処理部104から受信した映像信号に対して色検出処理を行い、平均彩度、高彩度領域の面積などの色情報を検出する。色情報検出部403で検出された色情報は、シーン判別部404へ送られる。
シーン判別部404では、顔情報検出部401、輝度情報検出部402、及び、色情報検出部403から送られてきた各情報を基に、映像信号処理部104で処理された映像信号から撮影シーンが特定の条件を満たす撮影シーンかどうかを判別する。この判別は、例えば背景の輝度や被写体の輝度の関係や、背景の色情報、人物の検出有無などに基づいて行う事が可能であり、公知のシーン判別技術(シーン認識技術とも呼ばれる)を用いることができる。
顔情報検出部401、輝度情報検出部402、及び、色情報検出部403から送られてきた各情報は、シーン判別部404により一時的に保存され、随時更新される。
そして、シーン判別部404は、判別した撮影シーンに応じて、撮影時の撮影パラメータや画像処理パラメータなどを変更するための情報をシステム制御部108へ送る。
ここで、撮像評価値検出部107は、High画像、Low画像のそれぞれから得られた撮像評価値のどちらを用いるかを、シーン判別部404の情報を基に選択する。
次に、シーン判別部404によるシーン判別動作について説明する。
シーン判別部404は、HDR処理される前の、High画像、Low画像に対し、輝度情報検出部402にて検出された輝度情報と色情報検出部403にて検出された色情報を用いて、撮影シーンの背景を判別する。
さらに、HDR処理される前の、High画像、Low画像に対し、顔情報検出部401にて検出された顔情報を用いて、撮影シーンにおける主被写体を判別する。
まず、撮影シーンの背景を判別する場合について説明する。
シーン判別部404は、輝度情報検出部402にて検出された輝度情報と色情報検出部403にて検出された色情報を解析する。そして、シーン判別部404は、画像上の青空色の領域の面積が閾値以上ならば、撮影シーンの背景は青空であると判定する。
また、シーン判別部404は、輝度情報検出部402からの輝度情報と色情報検出部403からの色情報を解析し、画像の輝度が、ヒストグラム分布や分散について所定の条件を満たすと判定した場合に、撮影シーンの背景は夜景であると判定する。
例えば、画像の輝度ヒストグラムにおいて低輝度部が大部分を占め、かつ、高輝度部が単発的に分布している場合に、撮影シーンの背景は夜景であると判定することができる。
また、シーン判別部404は、輝度情報検出部402からの輝度情報と色情報検出部403からの色情報を解析し、画像の平均彩度と、高彩度の領域の面積とが共に閾値以上であれば、撮影シーンが鮮やかなシーンであると判定する。
次に、撮影シーンにおける主被写体を判別する場合について説明する。
シーン判別部404は、顔情報検出部401からの顔情報を解析し、画像信号から顔が検出されていた場合には、撮影シーンにおける主被写体が人物であると判定する。
このように、シーン判別部404は、シーンの背景と被写体の両方を判定し、これらの判定結果を組み合わせて、1つの判定結果をシステム制御部108に出力する。
例えば、逆光シーンのように背景が非常に明るい状況で人物を撮影した場合、輝度情報と色情報の検出値はLow画像の方が、顔情報の検出値はHigh画像の方が高くなる。
一方で、トンネルシーンのように、背景が暗く、主被写体の占有面積が小さい場合、輝度情報と色情報の検出値はHigh画像の方が、顔情報の検出値はLow画像の方が高くなる。
撮像評価値検出部107は、シーン判別部404から得られた情報を基に、High画像から検出された撮像評価値αと、Low画像から検出された撮像評価値βとの何れかを選択する。
図5に示すフローチャートを用いて、本実施形態の撮像装置のHDR動画撮影に係る動作について詳細に説明する。なお、図5において第1の実施形態と同様の処理を行うステップには図3と同じ参照数字を付し、重複する説明は省略する。また、以下の説明では、High画像から検出される顔情報検出値をXh、輝度情報検出値をYh、色情報検出値をZhとし、Low画像から検出される顔情報検出値をXl、輝度情報検出値をYl、色報検出値をZlとする。なお、比較に用いる顔情報、輝度情報、色情報は、各検出部401〜403において検出される複数種の情報のうち、予め定めた1つであってもよいし、複数種の情報を所定の条件により1つの値に変換したものであってもよい。
撮像評価値検出部107は、Low画像およびHigh画像のそれぞれから検出された顔情報X、輝度情報Y、色情報Zの各情報値を比較し、例えば図6に示すように、撮像評価値α、βを選択する。図6では、顔情報、輝度情報、および色情報の大小関係の組み合わせにより、撮像評価値α、βのどちらが選択されるかを示している。
なお、撮像評価値検出部107は、図6に示すように、シーン判別部404におけるシーン判別結果に基づいて撮像評価値α、βを選択してもよい。シーン判別結果を用いる場合、個々の情報についての比較を行う必要が無い。
S305におけるHigh画像の取得後、S501では、High画像に対して、顔情報検出部401が顔情報Xh、輝度情報検出部402が輝度情報Yh、色情報検出部403が色情報Zhを、それぞれ検出する。
また、S502では、S307にて取得したLow画像に対して、顔情報検出部401が顔情報Xl、輝度情報検出部402が輝度情報Yl、色情報検出部403が色情報Zlを、それぞれ検出する。
S311においてシステム制御部108は、動作撮影を終了する指示がなされていれば、処理を終了する。一方、撮影が継続される場合は処理をS504へ進める。
S504で撮像評価値検出部107は、S501でHigh画像から検出された各値と、S502でLow画像から検出された各値から、次の撮影に反映するための撮像評価値を決定する。
例えば、各値の関係が
顔情報値:Xh≦Xl
輝度情報値:Yh>Yl
色情報値:Zh>Zl
であった場合、撮像評価値検出部107は、High画像から検出された撮像評価値αを選択する。なお、この関係はシーン判別部404において逆光シーンと判別した場合に満たされる関係でもあるため、シーン判別部404において逆光シーンと判別されていれば、撮像評価値検出部107は直ちに撮像評価値αを選択することができる。
同様に、
顔情報値:Xh>Xl
輝度情報値:Yh≦Yl
色情報値:Zh≦Zl
であった場合、撮像評価値検出部107は、Low画像から検出された撮像評価値βを選択する。なお、この関係はシーン判別部404においてトンネルシーンと判別した場合に満たされる関係でもあるため、シーン判別部404においてトンネルシーンと判別されていれば、撮像評価値検出部107は直ちに撮像評価値βを選択することができる。
S504で選択された撮像評価値が次の撮影時に反映される。
第2の実施形態では、ライブビューモードや、動画記録時にHDR処理を行う場合において、シーン判別結果またはシーン判別に用いる情報に基づいて最適な撮像評価値を選択することで、動画における精度のよいHDR結果を得ることが可能である。
本実施形態においてシーン判別を行う際、High画像とLow画像それぞれから、顔情報、輝度情報、色情報を検出したが、例えば、1フレーム前の、合成前画像もしくはHDR画像から各情報を検出するなど、他の方法を用いてもよい。
また、本実施形態では、顔情報、輝度情報、色情報を用いてシーン判別を行う場合について説明したが、これら情報の一部を用いたり、より多くの情報を用いてシーン判別や撮像評価値の選択を行ってもよい。
また、本実施形態では、シーン判別を行う際に用いる顔情報、輝度情報、色情報のうち、少なくとも2つが大きな値となる画像から検出される撮像評価値を選択した。しかし、各情報値を重み付けして比較を行ってもよい。
本実施形態では、High画像、Low画像の2枚を合成する場合において、説明を行ったが、High画像、Low画像、middle画像等の3枚以上の複数画像を合成する場合においても同様な構成で対応可能である。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。本実施形態は、1フレーム期間内に露出の異なる複数の画像を取得可能な構成に、第1の実施形態の構成を適用したものである。
図7は、撮像素子102の一例としてのCMOSイメージセンサの構成例を示す図である。撮像素子102は、光電変換素子を含む単位画素(以下、単に「画素」と記す場合もある)700が行列状(マトリクス状)に2次元配置されてなる画素アレイ部701を有する。また、撮像素子102は、画素アレイ部701の周辺回路として、例えば、垂直走査部702、列信号処理回路703、列選択回路704、水平走査部705等を有している。
単位画素700には、列ごとに垂直信号線706が配線され、ラインごとに駆動制御線、例えばリセット制御線RST707と転送制御線TRS708および選択制御線SEL709が配線されている。
図8に、単位画素700の回路構成例を示す。
単位画素700は、光電変換素子、例えばフォトダイオード300に加えて、例えば転送トランジスタ301、リセットトランジスタ302、増幅トランジスタ303及び選択トランジスタ304の四つのトランジスタを有する画素構成となっている。
転送トランジスタ301は、フォトダイオード300のカソード電極と電荷電圧変換部であるフローティングディフュージョン305との間に接続されている。
また、転送トランジスタ301のゲート電極は、転送制御線TRS708に接続されている。転送トランジスタ301は、ゲート電極(制御電極)に転送制御線TRS708から転送パルスが与えられると、フォトダイオード300で光電変換により蓄積された信号電荷を、フローティングディフュージョン305に転送する。
リセットトランジスタ302は、画素電源VDDにドレイン電極が、フローティングディフュージョン305にソース電極がそれぞれ接続されている。また、リセットトランジスタ302のゲート電極は、リセット制御線RST707に接続されている。
フォトダイオード300からフローティングディフュージョン305への信号電荷の転送に先立って、リセットトランジスタ302のゲート電極にリセット制御線RST707からリセットパルスが与えられる。これにより、フローティングディフュージョン305の電位を所定電位にリセットされる。
増幅トランジスタ303は、フローティングディフュージョン305にゲート電極が、画素電源VDDにドレイン電極がそれぞれ接続されている。増幅トランジスタ303は、リセットトランジスタ302によってリセットされた後のフローティングディフュージョン305の電位をリセットレベルとして出力する。
さらに、増幅トランジスタ303は、転送トランジスタ301によって信号電荷が転送されたあとのフローティングディフュージョン305の電位を信号レベルとして出力する。
選択トランジスタ304は、例えば、ドレイン電極が増幅トランジスタ303のソース電極に、ソース電極が垂直信号線706にそれぞれ接続されている。
また、選択トランジスタ304のゲート電極は、選択制御線SEL709に接続されている。選択トランジスタ304は、ゲート電極に選択パルスが与えられることによってオン状態となり、単位画素700を選択状態として増幅トランジスタ303から出力される電気信号を垂直信号線706に出力する。
なお、選択トランジスタ304については、画素電源VDDと増幅トランジスタ303のドレイン電極との間に接続した構成とすることも可能である。
また、ここで説明した単位画素の構成は一例であり、例えば選択トランジスタ304を省略し、増幅トランジスタ303を選択トランジスタ304として兼用する3トランジスタの構成であってもよい。あるいは、増幅トランジスタ303を複数の単位画素間で共有する構成などであってもよい。他の構成であってもよい。
図7に示す垂直走査部702は、ライン選択回路とドライバ回路を備えている。
ライン選択回路は、シフトレジスタあるいはアドレスデコーダ等によって構成され、システム制御部108の制御のもと、単位画素700をライン単位で垂直走査するための転送パルス、リセットパルスおよび選択パルス等の画素駆動パルスを発生する。
ドライバ回路は、ライン選択回路による垂直走査に同期して、単位画素700の各トランジスタ301,302,304をON/OFFするための、所定電圧を有する転送パルス、リセットパルスおよび選択パルスを単位画素700に供給する。また、ドライバ回路は、垂直走査に同期して、所定電圧より低い中間的な電圧の転送パルスを単位画素700に供給可能に構成されている。
列信号処理回路703は、画素アレイ部701の各列に対して単一に配されている。
列信号処理回路703は、垂直走査によって選択された読み出しラインの各単位画素700から垂直信号線706を通して出力される電気信号に対して所定の信号処理を行い、単位画素700から読み出された信号電荷に応じた画素信号を生成して一時的に保持する。
例えば、列信号処理回路703は、撮像信号処理部103に代わって同様の信号処理を実施してもよい。例えば、列信号処理回路703は、CDS(Correlated Double Sampling:相関二重サンプリング)処理を実施することができる。CDSは、リセットノイズや増幅トランジスタ303の閾値ばらつき等の画素固有の固定パターンノイズを低減させる処理である。また、列信号処理回路703は、アナログ信号をデジタル信号に変換するAD変換処理などを行うことができる。
列選択回路704は、シフトレジスタあるいはアドレスデコーダ等によって構成されている。列選択回路704は、画素アレイ部701の画素列ごとの水平走査を行い、列信号処理回路703に一時的に保持されている画素信号を、水平走査順に水平走査部705で読み出させる。
水平走査部705は、水平選択スイッチ等によって構成されており、列信号処理回路703に一時的に保持されている画素信号を、列選択回路704による水平走査によって画素列ごとに順次読み出して、ライン単位で画像信号の出力を行う。
システム制御部108は、垂直走査部702や列選択回路704の動作を制御して、画素アレイ部701の単位画素700をライン単位で垂直方向に走査し、この垂直走査によって読み出された各画素の信号を水平走査によって出力させる。
本実施形態では、図7に示すように、隣接する2ラインを1単位として、長時間露光用のEvenラインと短時間露光用のOddラインを設定し、画素アレイ部701の走査を制御する。
現在市販されている単板式のカラー撮像素子は、縦横2画素を繰り返し単位としてR,G1,B,G2の画素が規則的に配列された原色ベイヤー配列のカラーフィルタを備えている。本実施形態においても撮像素子102が原色ベイヤー配列のカラーフィルタを備えているものとして説明する。
ベイヤー配列は縦横2画素の4画素を繰り返し単位とするため、本実施形態では、ベイヤー配列の繰り返し単位から構成される隣接2ラインを1つの画素領域として、画素領域ごとに、長時間露光用のEvenラインと短時間露光用のOddラインを設定する。図7において、ライン(Ln,Ln+1)および(Ln+2,Ln+3)はそれぞれOddライン、ライン(Hn,Hn+1)および(Hn+2,Hn+3)はそれぞれEvenラインに設定される。短時間露光用のOddラインと長時間露光用のEvenラインとは、垂直方向で隣接する。
図9は、本実施形態の撮像装置におけるHDR動画撮影時の動作タイミングを説明するためのタイミングチャートである。ここでは、HDR動画のフレームレートは60フレーム/秒(fps)とする。HDR動画の1フレームを2枚の画像から生成するが、本実施形態では露出の異なる2枚の画像を1フレーム期間内に(1回の撮影で)取得するため、撮影フレームレートは60fpsである。なお、これらのフレームレートは例示であり、他のフレームレートを用いてもよい。
システム制御部108が生成する1/60s周期の撮影同期信号(垂直同期信号)によって、1フレーム期間ごとに撮影動作が行われる。
本実施形態においてシステム制御部108は、1フレーム期間内に、Low画像901とHigh画像902と撮影の露光動作を同時に行っていく。ここで、例えば、High画像は適正露出Ev(0)から1段明るく(+1段)した露出条件Ev(H)で撮影した高露出画像を、Low画像は、適正露出から1段暗く(−1段)した露出条件Ev(L)で撮影した低露出画像とする。
1フレーム期間内で取得されたLow画像901とHigh画像902は、フレームメモリ113に一時的に記憶され、Low画像とHigh画像が揃うと、次のフレーム期間で映像信号処理部104が両画像を合成し、HDR画像903を作成する。
撮像評価値検出部107は、システム制御部108から出力される撮像評価値抽出タイミング904、905に従い、Low画像901およびHigh画像902のそれぞれについて、予め定められた撮像評価値を検出する。
さらに、撮像評価値検出部107はシステム制御部108から出力される撮像評価値選択タイミング905に従い、HDR動画撮影動作に使用するために他方よりも適切と判定される撮像評価値を選択する。
合成画像から撮像評価値を得る場合、撮像評価値が得られるのは合成処理終了後になるが、本実施形態では、合成処理の開始前のタイミングで撮像評価値が選択され、反映可能となるため、撮像評価値を用いる処理の応答性を向上できる。
システム制御部108は、撮像評価値選択タイミングで選択された撮像評価値のうち、AF評価値に基づいて、レンズ駆動制御部106を通じてフォーカスレンズ位置を制御し、レンズ101の合焦距離を調整する。システム制御部108は、フォーカスレンズ位置の制御を、レンズ制御タイミング906の1周期、すなわち出力同期信号の1周期(1/60秒)内で実施する。
図10は本実施形態において、HDR画像を生成するためのLow画像およびHigh画像を1フレーム期間内に取得するために垂直走査部702が生成する信号のタイミングチャートである。ここでは、短時間露光に対応するOddラインLnのリセット制御線RST_Lnと転送制御線TRX_Ln、長時間露光に対応するEvenラインHnのリセット制御線RST_Hnと転送制御線TRX_Hnの信号タイミングを示す。
転送制御線TRS信号およびリセット制御RST信号が立ち上がることによって、フォトダイオード300の電荷がリセットされ露光(電荷蓄積)が開始される。この動作はシステム制御部108によって設定された条件で、画素アレイ部701の各ラインに対して所定の順番で順次行われる。
その後、Low画像用のOddラインにおいて、Low画像取得用の露光時間経過後に、oddライン用のTRS_Ln信号が順次立ち上がる。これにより、フォトダイオード300に蓄積された電荷が選択トランジスタ304に読み出され、列選択回路704を通して出力される。この信号からLow画像901が得られる。
そして、High画像取得用の露光時間経過後に、TRS_Hn信号が順次立ち上がり、フォトダイオード300に蓄積された電荷が選択トランジスタ304に読み出され、列選択回路704を通して出力される。この信号からHigh画像902が得られる。
次に、図11に示すフローチャートを用いて、本実施形態の撮像装置のHDR動画撮影に係る動作について詳細に説明する。なお、以下の説明では、High画像で検出される撮像評価値をα、Low画像で検出される撮像評価値をβとする。
図11において、第1の実施形態で説明した処理と同じ処理を行うステップには図3と同じ参照数字を付して説明を省略し、第1の実施形態と異なる処理ステップに関して説明する。図3と図11との比較から分かるように、本実施形態では、図3のS305,S307におけるHigh画像、Low画像の取得動作がS1101に、S306,S308における撮像評価値α,βの検出動作がS1102に置き換わっている。
S1101においてシステム制御部108は、S304で決定した露出条件Ev(H)およびEv(L)に応じたタイミングパルスを生成し、撮像素子102のevenラインとoddラインに供給する。これにより、oddラインからはLow画像が、evenラインからはHigh画像が、1フレーム期間中に取得できる。システム制御部108は、取得したLow画像およびHigh画像をフレームメモリ113へ保存する。
S1102において撮像評価値検出部107は、フレームメモリ113を参照して、High画像に対する撮像評価値α、Low画像に対する撮像評価値βをそれぞれ検出する。
他の処理は第1の実施形態と同様であるため、説明を省略する。
このように、第1の実施形態は、1フレーム期間中に異なる露出の複数枚画像を取得してHDR合成を行う撮像装置に対しても適用することができる。
なお、AF評価値を選択する際、コントラストAF評価値を比較する代わりに、焦点検出エリアのヒストグラムの比較によって最適なAF評価値を選択してもよい。
図12(a),(b)は、それぞれHigh画像、Low画像の例と、それに対するヒストグラムの例を示している。
図12(a)においてヒストグラム1202は、Low画像の焦点検出エリア1201の信号レベル分布を示し、ヒストグラム1204は、High画像の焦点検出エリア1203の信号レベル分布を示す。信号レベルは輝度レベルであってよい。撮像評価値検出部107は、ヒストグラム1202,1204を生成した後、それぞれにおける信号レベルmin値の個数とmax値の個数をHigh画像、Low画像について算出する。
図12(a)におけるLow画像のmin値の個数をmin_la,max値の個数をmax_laとし、High画像のmin値の個数をmin_ha,max値の個数をmax_haとする。図12(a)に示したヒストグラム1202,1204では、以下のような関係がある。
min_la<max_la
min_ha<max_ha
この場合、撮像評価値検出部107は、それぞれの画像において個数の多い方、すなわち図12(a)の例では、Low画像ではmax_la,High画像ではmax_haの個数について、比較を行う。
この例では、max_la<max_haであるため、High画像の焦点検出エリア1203についてのヒストグラム1204は、信号レベルが高い画素が多く、High画像の白飛びを示唆していると考えられる。
一方で、Low画像の焦点検出エリア1201についてのヒストグラム1202は、信号レベルがHigh画像よりも中央に分布しており、白飛びしている可能性は低いと考えられる。そのため撮像評価値検出部107は、図12(a)の例については、Low画像で検出された撮像評価値βをS312で選択する。
図12(b)は、逆光シーンなどの例であり、Low画像の焦点検出エリア1205のヒストグラム1206は、信号レベルの低い画素が多いことを示している。
図12(b)におけるLow画像のmin値の個数をmin_lb,max値の個数をmax_lbとし、High画像のmin値の個数をmin_hb,max値の個数をmax_hbとする。この場合、とそれぞれの画像のヒストグラムから、以下のような関係が得られる。
min_lb> max_lb
min_hb< max_hb
この場合、撮像評価値検出部107は、それぞれの画像において個数の多い方、すなわち図12(b)の例では、Low画像ではmin_lb,High画像ではmax_hbの個数について、比較を行う。
この例では、min_lb > max_hbにあるため、Low画像の焦点検出エリア1205のヒストグラム1206は信号レベルの低い画素が多く、黒つぶれの発生が示唆される。
一方で、High画像の焦点検出エリア1207内のヒストグラム1208は、信号レベルがLow画像よりも中央に分布している。そのため撮像評価値検出部107は、そのため撮像評価値検出部107は、図12(b)の例については、High画像で検出された撮像評価値αをS312で選択する。
このように、High画像、Low画像から検出されるヒストグラムのmin値,max値の個数に応じてAF評価値を選択するようにしてもよい。
なお、ヒストグラムの比較の例として、min値とmax値を有する画素の数を比較する方法を説明したが、所定の閾値以上の個数と閾値未満の個数との比較など、他の方法を採用しても、最適な撮像評価値を検出することが可能である。
また、撮像評価値の例としてのAF評価値について説明したが、その他の撮像評価値、例えば、WB評価値や、AE評価値においても同様な構成で最適な評価値を検出することが可能である。
WB評価値やAE評価値においても、図11のS1102で取得されたHigh画像、Low画像に対して、WB評価値、AE評価値を検出する。
そして、S313またはS314では、選択されたWB評価値を基に現像に必要なパラメータを算出する。また、AE評価値についても、S313またはS314で選択されたAE評価値を基に、次フレームの撮影時に露出が適正になるように、絞りの制御値や、シャッタースピード、感度を算出する。
このように、1フレーム期間内に露出の異なる複数の画像を取得する装置においても、第1の実施形態と同様の効果を得ることができる。
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。本実施形態は、1フレーム期間内に露出の異なる複数の画像を取得可能な構成に、第2の実施形態の構成を適用したものである。
本実施形態に係る撮像装置の機能構成は、第2の実施形態(図4)と同様であってよいため、説明を省略する。
本実施形態の撮像装置のHDR動画撮影に係る動作を、図13のフローチャートに示す。なお、図13において第2の実施形態と同様の処理を行うステップには図5と同じ参照数字を付し、重複する説明は省略する。
S1201においては、第3の実施形態におけるS1101と同様に、Low画像およびHigh画像を1フレーム期間内に取得する。
S1202においては、S501およびS502と同様の処理を行う。
S1203においれは、S306およびS308と同様の処理を行う。
他の処理ステップについては第2の実施形態と同様である。
このように、1フレーム期間内に露出の異なる複数の画像を取得する装置においても、第2の実施形態と同様の効果を得ることができる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (12)

  1. 撮像装置であって、
    動画を撮影する撮像手段と、
    1枚の合成画像を生成するために用いる露出の異なる複数の画像を撮影するように、前記撮像手段に露出条件を設定する設定手段と、
    前記撮像手段から得られる、前記露出の異なる複数の画像の少なくとも2つから、撮像評価値を検出する評価値検出手段と、
    前記評価値検出手段によって検出された複数の撮像評価値から、前記撮像装置の動作を制御するために用いる撮像評価値を、予め定められた条件に基づいて選択する選択手段と、
    前記選択手段が選択した撮像評価値に基づいて、前記撮像装置の動作を制御する制御手段と、を有することを特徴とする撮像装置。
  2. 前記露出の異なる複数の画像を合成して、1枚の合成画像を動画フレームとして生成する生成手段をさらに有することを特徴とする請求項1記載の撮像装置。
  3. 前記撮像評価値がAF評価値、AE評価値、ホワイトバランス評価値の少なくとも1つであることを特徴とする請求項1または請求項2に記載の撮像装置。
  4. 前記選択手段は、前記評価値検出手段によって検出された複数の撮像評価値の比較結果に基づいて前記選択を行うことを特徴とする請求項1から請求項3のいずれか1項に記載の撮像装置。
  5. さらに、撮影シーンを判別するシーン判別手段を有し、
    前記選択手段は、前記シーン判別手段によって判別されたシーンに応じて前記選択を行うことを特徴とする請求項1から請求項4のいずれか1項に記載の撮像装置。
  6. 前記設定手段が、適正露出より多い露出で撮影を行う条件と、前記適正露出より少ない露出で撮影を行う条件とを含んだ露出条件を設定し、
    前記選択手段は、前記撮像評価値がAF評価値であり、前記シーン判別手段で撮影シーンが逆光シーンであると判別された場合には、前記露出の異なる複数の画像のうち、前記適正露出より多い露出で撮影を行う条件で撮影された画像から検出された前記撮像評価値を選択することを特徴とする請求項5に記載の撮像装置。
  7. 前記設定手段が、適正露出より多い露出で撮影を行う条件と、前記適正露出より少ない露出で撮影を行う条件とを含んだ露出条件を設定し、
    前記選択手段は、前記撮像評価値がAF評価値であり、前記シーン判別手段で撮影シーンがトンネルシーンであると判別された場合には、前記露出の異なる複数の画像のうち、前記適正露出より少ない露出で撮影を行う条件で撮影された画像から検出された前記撮像評価値を選択することを特徴とする請求項5または請求項6に記載の撮像装置。
  8. 前記露出の異なる複数の画像のそれぞれから得られる情報に基づいて撮影シーンを判別するシーン判別手段をさらに有し、
    前記選択手段は、前記露出の異なる複数の画像のそれぞれから得られる前記情報の比較結果に基づいて前記選択を行うことを特徴とする請求項1から請求項4のいずれか1項に記載の撮像装置。
  9. 前記情報が、輝度情報、色情報、被写体検出情報の少なくとも1つを含むことを特徴とする請求項8記載の撮像装置。
  10. 前記設定手段は、前記撮像手段に予め設定された複数の画素領域に対し、複数の電荷蓄積時間を設定することにより、予め定められた動画の1フレーム期間内に、前記撮像手段によって前記露出の異なる複数の画像を撮影することを特徴とする請求項1から請求項9のいずれか1項に記載の撮像装置。
  11. 前記複数の画素領域が、前記撮像手段が有する撮像素子のカラーフィルタの繰り返し単位に基づいて設定されることを特徴とする請求項10記載の撮像装置。
  12. 動画を撮影する撮像手段を有する撮像装置の制御方法であって、
    設定手段が、1枚の合成画像を生成するために用いる露出の異なる複数の画像を撮影するように、前記撮像手段に露出条件を設定する設定工程と、
    評価値検出手段が、前記撮像手段から得られる、前記露出の異なる複数の画像の少なくとも2つから、撮像評価値を検出する評価値検出工程と、
    選択手段が、前記評価値検出工程において検出された複数の撮像評価値から、前記撮像装置の動作を制御するために用いる撮像評価値を、予め定められた条件に基づいて選択する選択工程と、
    制御手段が、前記選択工程で選択された撮像評価値に基づいて、前記撮像装置の動作を制御する制御工程と、を有することを特徴とする撮像装置の制御方法。
JP2013044716A 2013-03-06 2013-03-06 撮像装置及びその制御方法 Expired - Fee Related JP6159105B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013044716A JP6159105B2 (ja) 2013-03-06 2013-03-06 撮像装置及びその制御方法
US14/184,891 US9571742B2 (en) 2013-03-06 2014-02-20 Image capture apparatus and control method thereof
CN201410080011.5A CN104038702B (zh) 2013-03-06 2014-03-06 摄像设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013044716A JP6159105B2 (ja) 2013-03-06 2013-03-06 撮像装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2014175734A true JP2014175734A (ja) 2014-09-22
JP2014175734A5 JP2014175734A5 (ja) 2016-04-21
JP6159105B2 JP6159105B2 (ja) 2017-07-05

Family

ID=51469276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013044716A Expired - Fee Related JP6159105B2 (ja) 2013-03-06 2013-03-06 撮像装置及びその制御方法

Country Status (3)

Country Link
US (1) US9571742B2 (ja)
JP (1) JP6159105B2 (ja)
CN (1) CN104038702B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9749546B2 (en) 2015-07-13 2017-08-29 Olympus Corporation Image processing apparatus and image processing method
JP7444958B1 (ja) 2022-12-12 2024-03-06 レノボ・シンガポール・プライベート・リミテッド 情報処理装置、及び制御方法

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5889247B2 (ja) * 2013-07-02 2016-03-22 キヤノン株式会社 画像処理装置、画像処理方法及び画像処理プログラム、並びに撮像装置
WO2015084991A1 (en) * 2013-12-04 2015-06-11 Rambus Inc. High dynamic-range image sensor
JP6070599B2 (ja) * 2014-02-18 2017-02-01 ソニー株式会社 情報処理装置、情報処理方法、情報処理システム、および撮像装置
JP6378519B2 (ja) * 2014-03-27 2018-08-22 キヤノン株式会社 焦点検出装置及びその制御方法、及び、撮像装置
TWI543615B (zh) * 2014-07-17 2016-07-21 華碩電腦股份有限公司 影像處理方法及其電子裝置
JP6398679B2 (ja) * 2014-12-12 2018-10-03 Smk株式会社 撮像装置
JP6700661B2 (ja) * 2015-01-30 2020-05-27 キヤノン株式会社 画像処理装置、画像処理方法、及び画像処理システム
KR102465212B1 (ko) * 2015-10-30 2022-11-10 삼성전자주식회사 다중 노출 센서를 이용하는 촬영 장치 및 이의 촬영 방법
JP6341184B2 (ja) * 2015-11-18 2018-06-13 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP6675194B2 (ja) * 2015-12-15 2020-04-01 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP6706792B2 (ja) * 2016-03-31 2020-06-10 パナソニックIpマネジメント株式会社 車載用表示装置
JP6914633B2 (ja) * 2016-09-30 2021-08-04 キヤノン株式会社 撮像装置及び撮像方法
JP6911135B2 (ja) * 2017-09-29 2021-07-28 富士フイルム株式会社 撮像装置、撮像方法、およびプログラム
WO2019111528A1 (ja) * 2017-12-06 2019-06-13 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、固体撮像装置の制御方法およびコンピュータプログラム
JP7075272B2 (ja) 2018-04-20 2022-05-25 キヤノン株式会社 画像処理装置、情報表示装置、制御方法、及びプログラム
JP7075271B2 (ja) * 2018-04-20 2022-05-25 キヤノン株式会社 画像処理装置、情報表示装置、制御方法、及びプログラム
CN110166706B (zh) * 2019-06-13 2020-09-04 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备以及存储介质
CN110166707B (zh) * 2019-06-13 2020-09-25 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备以及存储介质
CN110475075B (zh) * 2019-08-05 2021-01-12 上海海鸥数码照相机有限公司 一种曝光信号反馈系统及其方法和无人机
CN111263079B (zh) * 2020-02-18 2021-06-15 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN113706495B (zh) * 2021-08-23 2022-11-22 广东奥普特科技股份有限公司 一种在传送带上自动检测锂电池参数的机器视觉检测系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006049098A1 (ja) * 2004-11-02 2006-05-11 Matsushita Electric Industrial Co., Ltd. イメージセンサ
JP2009071666A (ja) * 2007-09-14 2009-04-02 Sony Corp 撮像装置、その制御方法およびプログラム
JP2009218895A (ja) * 2008-03-11 2009-09-24 Ricoh Co Ltd 撮像装置及び撮像方法
JP2011232671A (ja) * 2010-04-30 2011-11-17 Olympus Corp 撮像装置
JP2012010307A (ja) * 2010-05-26 2012-01-12 Olympus Imaging Corp 撮像装置および撮像方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5929908A (en) * 1995-02-03 1999-07-27 Canon Kabushiki Kaisha Image sensing apparatus which performs dynamic range expansion and image sensing method for dynamic range expansion
JPH11164195A (ja) 1997-12-01 1999-06-18 Olympus Optical Co Ltd 撮像装置
JP4024581B2 (ja) 2002-04-18 2007-12-19 オリンパス株式会社 撮像装置
US20040252217A1 (en) * 2003-06-12 2004-12-16 Battles Amy E. System and method for analyzing a digital image
US7595823B2 (en) * 2005-02-17 2009-09-29 Hewlett-Packard Development Company, L.P. Providing optimized digital images
US20060221223A1 (en) * 2005-04-05 2006-10-05 Hiroshi Terada Digital camera capable of continuous shooting and control method for the digital camera
US7903168B2 (en) * 2006-04-06 2011-03-08 Eastman Kodak Company Camera and method with additional evaluation image capture based on scene brightness changes
US8830341B2 (en) * 2008-05-22 2014-09-09 Nvidia Corporation Selection of an optimum image in burst mode in a digital camera
JP4561912B2 (ja) 2008-09-12 2010-10-13 ソニー株式会社 撮像装置、撮像方法及びプログラム
JP2011244309A (ja) 2010-05-20 2011-12-01 Sony Corp 画像処理装置、画像処理方法及びプログラム
US9363446B2 (en) * 2013-04-15 2016-06-07 Htc Corporation Automatic exposure control for sequential images

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006049098A1 (ja) * 2004-11-02 2006-05-11 Matsushita Electric Industrial Co., Ltd. イメージセンサ
JP2009071666A (ja) * 2007-09-14 2009-04-02 Sony Corp 撮像装置、その制御方法およびプログラム
JP2009218895A (ja) * 2008-03-11 2009-09-24 Ricoh Co Ltd 撮像装置及び撮像方法
JP2011232671A (ja) * 2010-04-30 2011-11-17 Olympus Corp 撮像装置
JP2012010307A (ja) * 2010-05-26 2012-01-12 Olympus Imaging Corp 撮像装置および撮像方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9749546B2 (en) 2015-07-13 2017-08-29 Olympus Corporation Image processing apparatus and image processing method
JP7444958B1 (ja) 2022-12-12 2024-03-06 レノボ・シンガポール・プライベート・リミテッド 情報処理装置、及び制御方法

Also Published As

Publication number Publication date
JP6159105B2 (ja) 2017-07-05
US9571742B2 (en) 2017-02-14
CN104038702B (zh) 2017-11-14
CN104038702A (zh) 2014-09-10
US20140253792A1 (en) 2014-09-11

Similar Documents

Publication Publication Date Title
JP6159105B2 (ja) 撮像装置及びその制御方法
US9160934B2 (en) Image capturing apparatus obtaining high-exposure and low-exposure images, and method for controlling the same
US20150009352A1 (en) Imaging apparatus and method for controlling the same
JP5614993B2 (ja) 撮像装置及び固体撮像素子の駆動方法
JP6082274B2 (ja) 撮像装置、及びその制御方法
US10027919B2 (en) Signal processing apparatus, image capturing apparatus, control apparatus, signal processing method, and control method
JP4885902B2 (ja) 撮影装置及びその制御方法
JP2009284136A (ja) 電子カメラ
JP2007208885A (ja) 撮像ユニットおよび撮像装置
US9888189B2 (en) Image capturing apparatus and storage medium for storing image capturing control program
JP6478703B2 (ja) 撮像装置及び撮像システム
JP5106055B2 (ja) 撮像装置及びそのフリッカ検出方法
CN109964479B (zh) 摄像设备及其控制方法
JP5947625B2 (ja) 撮像装置、及びその制御方法
JP6075829B2 (ja) 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体
JP2007088842A (ja) 撮像装置、および撮像素子の駆動方法
JP6990988B2 (ja) 撮像装置及び撮像素子の制御方法
JP2008072512A (ja) 撮像装置及びその制御方法、撮像システム
US11368610B2 (en) Image capture apparatus and control method therefor
JP7020463B2 (ja) 撮像装置
JP6167473B2 (ja) 撮像装置
JP6590055B2 (ja) 撮像装置
JP2019004257A (ja) 撮像装置及びその制御方法
JP6402807B2 (ja) 撮像装置
JP2018093301A (ja) 撮像素子及び撮像素子の制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160303

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160303

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170512

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170609

R151 Written notification of patent or utility model registration

Ref document number: 6159105

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees