JP2015115714A - 撮像装置、撮像装置の制御方法、及び、プログラム - Google Patents

撮像装置、撮像装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP2015115714A
JP2015115714A JP2013255373A JP2013255373A JP2015115714A JP 2015115714 A JP2015115714 A JP 2015115714A JP 2013255373 A JP2013255373 A JP 2013255373A JP 2013255373 A JP2013255373 A JP 2013255373A JP 2015115714 A JP2015115714 A JP 2015115714A
Authority
JP
Japan
Prior art keywords
image
bracket
subject
shooting
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013255373A
Other languages
English (en)
Other versions
JP2015115714A5 (ja
JP6267502B2 (ja
Inventor
新之介 大澤
Shinnosuke Osawa
新之介 大澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013255373A priority Critical patent/JP6267502B2/ja
Priority to CN201410743607.9A priority patent/CN104702824B/zh
Priority to US14/563,640 priority patent/US20150163391A1/en
Publication of JP2015115714A publication Critical patent/JP2015115714A/ja
Publication of JP2015115714A5 publication Critical patent/JP2015115714A5/ja
Application granted granted Critical
Publication of JP6267502B2 publication Critical patent/JP6267502B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/35Categorising the entire scene, e.g. birthday party or wedding scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Studio Devices (AREA)

Abstract

【課題】ブラケット画像に対して被写体に応じた画像処理を施す際に、より適切な画像を生成可能にする。
【解決手段】撮影が指示される前の撮影待機中に撮影手段106により生成された待機中画像を解析手段112が解析して待機中画像から検出した被写体につき、撮影の指示に応じて被写体ごとに設定された撮影条件を用いて撮影手段がブラケット撮影を行い、解析手段112がブラケット撮影により生成された複数のブラケット画像を解析し被写体を含む被写体領域を複数のブラケット画像のそれぞれから検出し、検出された各被写体領域について撮影条件との関連で判定を行い判定の結果に従って各被写体領域につき複数のブラケット画像のうち1つのブラケット画像を選択し、画像処理手段108は各被写体領域につき選択された1つのブラケット画像に対して画像処理を実行する。
【選択図】図1

Description

本発明は、撮像装置、撮像装置の制御方法、及び、プログラムに関する。
複数の露出値でブラケット撮影を行うAEブラケット機能や、複数のフォーカス位置でブラケット撮影を行うAFブラケット機能が知られている。特許文献1は、撮影待機中のスルー画像でシーン解析を行い、露出を合わせる複数の対象被写体を決定し、その対象被写体に応じた複数の露出値を設定して、AEブラケット撮影を行う技術を開示する。
また、撮影画像に対して、ぼかし処理、色フィルタ処理、トリミング処理等の画像処理を施して、趣の異なる画像を生成する技術が一般に知られている。
特開2012−119788号
上述の技術の組み合わせにおいて、ブラケット撮影された各画像に対して、被写体に応じた画像処理を施す構成を考えた場合、単純に組み合わせただけでは以下のような課題がある。例えば、特許文献1によれば、撮影待機中に検出した複数の顔などの被写体情報に基づいてブラケットする露出を求めて撮影する。その際、撮影待機中から本撮影までの間に被写体の位置や明るさが変化した場合、撮影待機中の被写体に露出を合わせたブラケット画像は、その被写体に適切なものとはならない。そのため、その後の画像処理において、ブラケット画像から、被写体情報に基づいて画像処理を施した画像を生成した場合、例えば不適切な露出で、被写体からずれた位置を切り出した画像が生成されてしまう可能性がある。
そこで、本発明は、ブラケット画像に対して被写体に応じた画像処理を施す際に、より適切な画像を生成可能にすることを目的とする。
上記課題を解決する本発明は、撮像装置であって、
撮影手段と、
前記撮影手段が撮影した画像を解析する解析手段と、
前記解析手段の解析結果に基づき前記画像を処理する画像処理手段とを備え、
撮影が指示される前の撮影待機中に前記撮影手段により生成された待機中画像を前記解析手段が解析して前記待機中画像から検出した被写体につき、撮影の指示に応じて被写体ごとに設定された撮影条件を用いて前記撮影手段がブラケット撮影を行い、
前記解析手段が、前記ブラケット撮影により生成された複数のブラケット画像を解析し、前記被写体を含む被写体領域を前記複数のブラケット画像のそれぞれから検出し、該検出された各被写体領域について前記撮影条件との関連で判定を行い、該判定の結果に従って各被写体領域につき前記複数のブラケット画像のうち1つのブラケット画像を選択し、
前記画像処理手段は、前記各被写体領域につき、選択された前記1つのブラケット画像に対して画像処理を実行することを特徴とする。
本発明によれば、ブラケット画像に対して被写体に応じた画像処理を施す際に、より適切な画像を生成することが可能となる。
発明の実施形態に係る撮像装置の構成例を示すブロック図である。 発明の実施形態に係る撮影処理の一例を示すフローチャートである。 発明の実施形態に係るシーン解析処理の一例を示すフローチャートである。 発明の実施形態に係る撮影処理の一例を説明するための図である。 発明の実施形態に係るシーン解析結果統合の一例を説明するための図である。 発明の実施形態に係る各撮影画像に対する画像処理の方法の一例を示す図である。 発明の実施形態に係るトリミング処理の結果の一例を示す図である。
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。ここでは、本発明の実施形態に係る撮像装置、情報処理装置、或いは、画像処理装置として、所謂、デジタルカメラを取り上げることとするが、本発明はこれに限定されるものではない。撮影機能を有する他の装置、例えば、デジタルビデオカメラ、携帯電話、スマートフォン、その他の携帯型電子機器等として実施されても良い。
[実施形態1]
<デジタルカメラの構成>
図1は、本発明の実施形態に係るデジタルカメラの構成を示すブロック図である。図1はデジタルカメラ100のハードウェア構成を示すが、ここに示す構成はあくまで一例であって、図1に示す以外の構成要素が付加されてもよい。また、図1のデジタルカメラ100において、撮像素子、操作表示部、操作部、スイッチのような物理的デバイスを除き、各ブロックは専用ロジック回路やメモリを用いてハードウェア的に構成されてもよい。或いは、メモリに記憶されている処理プログラムをCPU等のコンピュータが実行することにより、ソフトウェア的に構成されてもよい。以下、デジタルカメラ100の構成要素及びその機能について説明する。
撮影レンズ101は、ズーム機構を有する。絞り及びシャッタ102は、AE処理部103からの指示に従って、被写体の反射光である入射光の撮像素子106への入射光量と電荷蓄積時間を制御する。AE処理部103は、絞り及びシャッタ102の動作を制御すると共に、後述するA/D変換部107を制御する。フォーカスレンズ104は、AF処理部105からの制御信号にしたがって、撮像素子106の受光面上に焦点を合わせて光学像を結像させる。
撮像素子106は、受光面に結像した光学像をCCD素子或いはCMOS素子等の光電変換手段によって電気信号に変換してA/D変換部107へ出力する。A/D変換部107は、受信した電気信号(アナログ信号)をデジタル信号に変換する。A/D変換部107は、受信した電気信号からノイズを除去するCDS回路や、受信した電気信号をデジタル信号に変換する前に非線形増幅するための非線形増幅回路を含む。
画像処理部108は、A/D変換部107から出力されたデジタル信号に対して所定の画素補間や画像縮小等のリサイズ処理と色変換処理とを行って、画像データを出力する。フォーマット変換部109は、画像データをDRAM110に記憶するために、画像処理部108で生成した画像データのフォーマット変換を行う。DRAM110は、高速な内蔵メモリの一例であり、画像データの一時的な記憶を司る高速バッファとして、或いは、画像データの圧縮/伸張処理における作業用メモリ等として使用される。
画像記録部111は、撮影画像(静止画、動画)を記録するメモリーカード等の記録媒体とそのインターフェースを有する。システム制御部112は、CPU、ROM、RAMを有し、CPUがROMに格納されたプログラムをRAMの作業エリアに展開し、実行することにより、デジタルカメラの全体的な動作制御を行う。また、撮像素子106の有する複数の撮像駆動モードからどのモードを使用するかの制御を行う。VRAM113は画像表示用のメモリである。表示部114は、例えば、LCD等であり、画像の表示や操作補助のための表示、カメラ状態の表示を行う他、撮影時には撮影画面と測距領域を表示する。
ユーザは、操作部115を操作することによりデジタルカメラを外部から操作する。操作部115は、例えば、露出補正や絞り値の設定、画像再生時の設定等の各種設定を行うメニュースイッチ、撮影レンズのズーム動作を指示するズームレバー、撮影モードと再生モードの動作モード切換えスイッチ等を有する。メインスイッチ116は、デジタルカメラのシステムに電源を投入するためのスイッチである。第1スイッチ117は、AE処理やAF処理等の撮影準備動作を行うためのスイッチである。第1スイッチ(SW1)を操作して行われるAE処理やAF処理等の撮影準備動作を以下SW1処理と呼ぶ。第2スイッチ118は、第1スイッチ117の操作後に、システム制御部112に対して撮影指示を行うスイッチである。第2スイッチ(SW2)を操作して行われる撮影指示処理を以下SW2処理と呼ぶ。なお、SW1とSW2とは単一のシャッターボタンとして実装されてもよい。例えばシャッターボタンが半押しされた場合にSW1が操作されたものとし、全押しされた場合にSW2が操作されたものとすることができる。
<全体のフローチャート>
次に、図2を参照して発明の実施形態にかかるデジタルカメラ100における処理の流れについて説明する。本実施形態では、AEブラケット処理を行い、その後画像処理を行う方法を一例として説明する。図2はAEブラケット処理および画像処理を行う方法の一例を示すフローチャートである。該フローチャートに対応する処理は、例えば、システム制御部112内で、CPUが、ROMに格納された対応プログラムをRAMの作業エリアに展開し実行することにより実現できる。
まずS201では、撮影待機中のスルー画像のシーンを解析する。ここでは、例えば画像中の青空領域を検出する特徴領域検出技術や、人物の顔などを検出する被写体検出技術を利用する。この結果をシーン解析結果と呼ぶ。これらは、公知の種々の方法を使用してよい。なお、スルー画像とはSW2による撮影指示がなされていない状態で撮像素子が撮影し、操作表示部114に表示される画像である。
次にS202では露出制御を行う。ここでは、S201のシーン解析結果等に基づき、撮影待機中のスルー画像として好ましい、シーン全体のバランスを考慮した露出設定を行う。例えば、測光エリアごとに重み付けしたテンプレート重みを用いて、画面の広範囲の平均輝度を求めて測光する評価測光方式などの公知の露出制御方法を使用してもよい。
次にS203では、AEブラケット撮影を行うかどうかを判定する。AEブラケット判定は、S201のシーン解析結果に基づいて、AEブラケットの対象とする被写体(AEブラケット対象被写体)を決定し、AEブラケット対象被写体領域の輝度値に基づいて行ってもよい。これによって、露出オーバーまたは露出アンダーとなってしまう被写体または特徴領域がスルー画像中に複数存在する場合に、AEブラケット撮影を行うと判定される。またこの際、ブラケット撮影を行う回数を、AEブラケット対象被写体の数と同回数に設定する。
S204ではSW1処理がされたかどうかを判定する。SW1処理された場合には(S204で「YES」)、S205へ移動する。一方、そうでない場合(S204で「NO」)はS201へ移動し、周期的にS201〜S204の処理を繰り返す。続くS205では、S203でAEブラケットを行うと判定されている場合には、AEブラケット対象被写体の輝度値に基づいて、ブラケット回数ごとに露出値を決定する。AEブラケットを行わないと判定されている場合には、1回分の撮影の露出値を決定する。露出値の決定方法については、例えば特許文献1の方法を用いることができる。
S206では、SW2処理がされたかどうかを判定する。SW2処理がされた場合(S206で「YES」)にはS207へ移動する。S207では、S203でAEブラケット判定がされたかどうかを判定する。AEブラケットを行うと判定されている場合は、S208へ移動する。AEブラケットを行わないと判定されている場合には、S209へ移動する。S208ではS205で決定した露出値に基づいてAEブラケット撮影を行う。各々の撮影画像は、対応するAEブラケット対象被写体と関連付けて記憶される。
S209では通常撮影を行う。通常撮影でも同様に、撮影時に露出を合わせた被写体と関連付けて記憶される。続くS210では、S208およびS209で撮影された画像を用いたシーン解析を行う。シーン解析方法については、図3を参照して説明する。更にS211では、S210の撮影画像を用いたシーン解析結果に基づいて、各画像に画像処理を施す。画像処理方法については、図6を参照して説明する。
<撮影画像を用いたシーン解析>
次に、撮影画像を用いたシーン解析の方法について説明する。図3は撮影画像を用いたシーン解析を行う処理の一例を示すフローチャートである。該フローチャートに対応する処理も、例えば、システム制御部112内で、CPUが、ROMに格納された対応プログラムをRAMの作業エリアに展開し実行することにより実現できる。
また、図4は本実施形態における好適なシーンを撮影したスルー画像に基づいて取得されるAEブラケット画像の一例を示す。図4では、撮影待機中に取得された画像401には、被写体Aとして人物、被写体Bとして植物、被写体Cとして雲が写っている。画像401を例にとって、シーン解析処理の流れを説明する。
まず、S301では、図2のS201において行った撮影待機中のシーン解析結果を取得する。図4の待機中画像401に示す撮影待機中では、例えば、被写体Aの人物は、画像中央の、輝度が中程度の領域に存在していることがシーン解析結果として得られる。続くS302では、ループ処理を用いて、ブラケット撮影した画像それぞれについて、シーン解析を行う。シーン解析処理は、図2のS201における手法と同様の公知の方法を用いることができる。1枚目の撮影画像から順に処理が行われ、すべての撮影画像について処理が終了した場合、ループを抜けてS303へ移動する。図4の例では、S203において、3つの被写体および特徴領域がAEブラケット対象被写体と判定された。従って、1枚目が被写体A(人物)に対応した露出値、2枚目が被写体B(植物)に対応した露出値、3枚目が被写体C(雲)に対応した露出値が設定され、画像403から405までの3枚のブラケット画像が撮影される。これら3枚の画像について、シーン解析が順に行われ、3枚目のブラケット画像が処理された後、ループを抜ける。
S303ではS301で取得した撮影待機中シーンの解析結果と、S302で取得した撮影画像を用いたシーン解析結果とを統合する。まず、撮影待機中のシーン解析結果と、撮影画像を用いたシーン解析結果それぞれについて、被写体の位置、大きさ、輝度値等についてのリストを作成する。次に、撮影待機中画像401に対するシーン解析処理で検出した被写体それぞれが、ブラケット撮影により得られたブラケット画像403から405を用いたシーン解析処理で検出した被写体と一致するかを判定する。一致の判定方法は、例えば被写体の大きさや位置の差が所定以内かどうかに応じて決定してもよい。被写体が顔である場合は、公知の顔認証技術を用いて、一致を判定してもよい。
一致すると判定された被写体については、ブラケット画像における一致した被写体領域の輝度値を測定する。そして、AEブラケット対象被写体の中から注目の被写体を選択し、注目被写体の領域の輝度値(平均輝度値)を、所定値(適正値:適正輝度値CL)と比較する。輝度値と適正値との差分が最小、即ち輝度値が最も適正値に近いブラケット画像を、適正な注目被写体に対応するブラケット画像として再度選択する。この処理を、AEブラケット対象被写体各々を注目被写体として実行する。
また、ブラケット画像間で、撮影環境又は撮影状況(シーン)が変化したかどうかの判定を実施し、シーンが変化したと判定された場合に、シーン解析統合結果を作成する構成としてもよい。あるいは、SW1処理される前に最後にシーン解析を行ってからブラケット撮影が終わるまでに得られた複数の画像間において、撮影環境又は撮影状況(シーン)が変化したかどうかの判定を実施してもよい。当該シーン変化判定は、例えばその間に得られた画像間で、同一の被写体の移動量が所定の移動量以上、画角の変化量が所定の変化量以上、及び輝度値の変化量が所定量以上のうち、少なくとも一つの条件が満たされる場合に、シーンが変化したと判定してもよい。なお、輝度値の変化量が所定量以上とは、例えば、画像全体又は一部の平均輝度値の変化量が、AEブラケットによって生じるべき輝度変化量よりも大きな変化量であることを示す。SW1処理される前に最後にシーン解析を行ってからブラケット撮影が終わるまでにシーンが変化していないのであれば、撮影待機中に得られたシーン解析結果に基づいて、それぞれの注目被写体が適正値となるブラケット画像を得ることができたと考えられる。そのため、シーン解析統合を実施する必要はなく、被写体Aについては1枚目の画像、被写体Bについては2枚目の画像、そして被写体Cについては3枚目の画像が、それぞれの被写体に対して輝度が適正な画像であると判定する。このような構成とすることで、不必要にシーン解析統合を実施することがなくなるため、処理時間を短縮する効果が得られる。
本処理を図4を例として説明する。被写体Aは、撮影待機中画像401で示す画面中央にいた状態から、参照番号402で示す状態図のように撮影時に画面左の物陰に移動したため、輝度値が下がり、適正な輝度を有しなくなってしまった。よって、待機中画像401が示す撮影待機中の条件で被写体Aに対応した露出値を設定した1枚目のブラケット画像403は、被写体Aに適正な露出となっていない。しかし、上記の処理により、被写体Aの輝度値が最も適正に近い2枚目のブラケット画像404を、被写体Aに対応するブラケット画像として再度選択することができる。
図5は、シーン解析結果の統合処理の結果を一例として示す図である。図5では、シーン解析統合結果として、各ブラケット画像について、対応する被写体と、被写体の位置、サイズ、被写体の輝度値等がテーブル上に保持される。テーブル(a)は、1枚目から3枚目のブラケット画像403から405のそれぞれについて、被写体AからCのそれぞれについてデータを登録している。輝度値については、適正輝度値との比較結果に基づく低、高、適正の3段階の指標が登録されているが、実際の値を登録してもよい。その際に登録される値は被写体領域における平均輝度値であってもよい。
テーブル(b)は統合後のデータを示すところ、ここではブラケット画像間で重複する被写体のデータが削除され、被写体1つにつき1つのエントリとなっている。また、テーブル(b)に登録された被写体の輝度値はすべて「適正」なものとなっている。なお、図5では適正な輝度値を有する画像が各被写体について1枚しか存在していないが、複数存在している場合もある。その場合は、被写体領域の輝度値と適正輝度値との差が最小の画像を選択することができる。
<画像処理>
次に、図2のS211における画像処理の詳細を図6のフローチャートに沿って説明する。図6は画像処理を行う方法の一例を示すフローチャートである。ここでは特に、画像処理として色フィルタ処理、トリミング処理を行う方法を例にとって説明するが、この処理に限定されず、ぼかし処理などの公知のいかなる画像処理を行ってもよい。該フローチャートに対応する処理も、例えば、システム制御部112内で、CPUが、ROMに格納された対応プログラムをRAMの作業エリアに展開し実行することにより実現できる。
S601では、S303で生成されたシーン解析統合結果を取得する。S602では、S601で取得したシーン解析統合結果に基づいて、画像生成枚数を決定する。例えば、画像生成枚数は、画像403からは0枚、画像404からは2枚、画像405からは1枚というように、各ブラケット画像について決定する。このとき、各ブラケット画像からの画像生成枚数は、シーン解析統合結果におけるテーブル(b)に登録された被写体の数に基づき決定することができる。
続くS603では、以降の処理対象のブラケット画像を決定する。初期値としては、S303での画像生成枚数の決定結果に従い1枚目の画像403からは画像を生成しないので、2枚目の画像404とすることができる。次に、S604では、処理対象の被写体を決定する。初期値としては、シーン解析統合結果に従い被写体Aとすることができる。
続くS605では、色フィルタ処理を実行する。色フィルタ処理は、シーン解析統合結果に含まれる被写体の種類に応じて、実施するフィルタを決定してもよい。例えば、被写体に顔が含まれている場合は、ソフトフォーカスフィルタやハイキー効果のあるフィルタを実施するとしてもよい。また、周辺光量落としフィルタについて、顔領域の輝度値が落ちないように実施してもよい。また、風景被写体として花や植物の場合、輪郭を強調するエッジ強調フィルタを実施し、雲や青空についてはノイズを除去するためにローパスフィルタを施してもよい。
続くS606では、トリミング処理を実行する。トリミング処理は、シーン解析統合結果に含まれる被写体の位置やサイズに基づいて、S603で決定した対象被写体がトリミング画像中の好適な位置に配置されるようにトリミング領域を設定し実施する。好適な位置とは、例えば被写体を画像の中心に配置した日の丸構図や、画像を縦横三分割した線の交点に配置した三分割構図などの公知の定石とされた構図に基づいて決めてもよい。その際、シーン解析統合結果に含まれる各被写体領域の位置の情報に基づき、他の被写体領域を避けてトリミング領域を設定してもよい。このような処理を行うことで、図4に示すシーンについてより好適なトリミング画像を生成できる。
続くS607では、処理対象のブラケット画像から画像を生成すべき被写体で未処理の被写体が存在するか否かを判定する。未処理の被写体が存在する場合(S607で「YES」)、S604に戻って未処理の被写体を選択して処理を継続する。未処理の被写体が存在しない場合(S607で「NO」)、S608に移行して、未処理のブラケット画像が存在するか否かを判定する。未処理のブラケット画像が存在する場合(S608で「YES」)、S603に戻って、未処理のブラケット画像を選択して処理を継続する。一方、未処理のブラケット画像が存在しない場合(S608で「NO」)、本処理を終了する。
図7は、図6の処理におけるトリミング結果の一例を示す図である。ここで、トリミング処理の対象となる画像は、2枚目のブラケット画像404と3枚目のブラケット画像405であり、1枚目のブラケット画像403からは被写体はトリミングされない。一方、ブラケット画像404からはシーン解析統合結果に従い、被写体Aのトリミング画像701と、被写体Bのトリミング画像702とが生成される。また、ブラケットが図405からは被写体Cのトリミング画像703が生成される。
以上説明したように、撮影待機中から本撮影までの間に被写体の明るさや位置が変化した場合においても、撮影画像を用いたシーン解析結果を統合することにより、対象の被写体が適正な露出となったブラケット画像を判別できる。そのため、そのブラケット画像から、適切な被写体情報に基づいて画像処理を行うことができるため、より好適な処理画像を生成することが可能となる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、実施形態中に挙げた各種パラメータ数値は、その要旨の範囲内で実施態様に則した好みの数値に変更してもよい。その一例として、本実施形態では、ブラケット撮影回数は、シーン解析において検出された被写体の数と同回数に設定したが、実施形態に則した好みの回数を設定可能である。所定の固定回数としてもよいし、ユーザが選択可能なものとしてもよい。
また、本実施形態では、AEブラケットを例に説明したが、本発明はAEブラケットにのみ限定的に適用されるものではなく、他のいかなるブラケット撮影手法に対しても適応が可能である。本発明の基礎となる技術的思想として、まず、撮影待機中に得られた画像から検出された被写体につき、被写体毎に異なる撮影条件を与えて行ったブラケット撮影により複数のブラケット画像を取得する。その上で、各ブラケット画像につき再度シーン解析を行って被写体を改めて検出し、検出された被写体領域の画像が適正な画像か否かを判定する。そして、適正な被写体領域を有するブラケット画像について、該被写体領域に対する画像処理を行う点にある。ここで被写体毎に異なる撮影条件には、露出条件だけでなく、フォーカス位置に関する条件、フラッシュ光の強度に関する条件、ISO感度に関する条件等も含むことができる。このうち、フラッシュ光やISO感度は撮影画像の輝度に関連する撮影条件であるので、例えば露出条件と同じく輝度値に基づいて適正な画像を判定することができる。フォーカス位置については、以下詳述する。
ここでは一例として、シーン中に複数存在する被写体に異なるフォーカス位置を振った画像を撮影するAFブラケット撮影について説明する。AFブラケットの場合、距離の異なる被写体其々をAFブラケット対象被写体として設定し、ブラケット撮影を行う。ブラケット撮影画像は、焦点を合わせたAFブラケット対象被写体と関連付けて記憶される。その後、各ブラケット撮影画像について、対応付けられた対象被写体について所定の画像処理を行い画像を生成する。しかし、撮影待機中からブラケット撮影までの間に被写体が動いた場合、ブラケット撮影画像は、対応付けられた対象被写体に対して焦点が合っていない画像となるおそれがある。これに対し本発明では、S303において、各ブラケット画像で被写体領域の画素値が有する鮮鋭度を測定し、鮮鋭度が最も高かったブラケット画像を、前記対象被写体に対応するブラケット画像として再度選択することができる。
なお、鮮鋭度の判定は、例えば被写体領域の画素値から得られる高周数成分の平均強度の比較により行うことができるが、その他の公知の手法を用いてもよい。これにより、ブラケット撮影時に被写体の環境や状態が変化した場合であっても、対象被写体に適切なブラケット画像を再選択して、対象被写体に基づいた処理画像を生成することが可能となる。このように、AFブラケットを例にとった場合でも、より好適な処理画像を取得することができる。
また、画像処理では、色フィルタを一例として説明したが、例えば、他に背景ぼかし処理を使用してもよい。背景ぼかし処理では、被写体領域に含まれない領域(背景領域と称する)に対してぼかし処理を行うとしてもよい。その際、本発明においては、撮影待機中から本撮影までの間にシーンが変化した場合でも、位置ずれがないように、背景領域をぼかすことができる。
また、色フィルタ処理では、画像の周辺領域が減光したような効果をもたらす周辺減光フィルタを、周辺減光フィルタの処理領域が被写体領域に掛からない位置関係の場合にのみ、実施する構成としてもよい。周辺減光フィルタは、例えば画像の中心からの距離が遠くなるほど輝度値を低くする演算処理等をはじめとした、種々の公知の方法を使用してもよい。周辺減光フィルタの処理領域が被写体領域に掛からない位置関係の場合にのみ、周辺減光フィルタを実施することで、被写体領域が暗くなった、不都合な画像が生成されなくなる効果がある。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (10)

  1. 撮影手段と、
    前記撮影手段が撮影した画像を解析する解析手段と、
    前記解析手段の解析結果に基づき前記画像を処理する画像処理手段と
    を備える撮像装置であって、
    撮影が指示される前の撮影待機中に前記撮影手段により生成された待機中画像を前記解析手段が解析して前記待機中画像から検出した被写体につき、撮影の指示に応じて被写体ごとに設定された撮影条件を用いて前記撮影手段がブラケット撮影を行い、
    前記解析手段が、前記ブラケット撮影により生成された複数のブラケット画像を解析し、前記被写体を含む被写体領域を前記複数のブラケット画像のそれぞれから検出し、該検出された各被写体領域について前記撮影条件との関連で判定を行い、該判定の結果に従って各被写体領域につき前記複数のブラケット画像のうち1つのブラケット画像を選択し、
    前記画像処理手段は、前記各被写体領域につき、選択された前記1つのブラケット画像に対して画像処理を実行する
    ことを特徴とする撮像装置。
  2. 前記撮影条件は、露出条件、フラッシュ光の強度に関する条件、又は、ISO感度に関する条件であって、
    前記解析手段は、前記各被写体領域の輝度値と所定値との差分に基づき、当該差分の最も小さくなる被写体領域を含むブラケット画像を前記1つの画像として選択することを特徴とする請求項1に記載の撮像装置。
  3. 前記撮影条件は、フォーカス位置に関する条件であって、
    前記解析手段は、前記各被写体領域に含まれる画素の鮮鋭度に基づき、当該鮮鋭度が最も高くなる被写体領域を含むブラケット画像を前記1つの画像として選択することを特徴とする請求項1に記載の撮像装置。
  4. 前記画像処理手段は、前記1つのブラケット画像から該1つのブラケット画像と関連づけられた被写体についてトリミング処理することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記解析手段は、前記少なくとも複数のブラケット画像の間で撮影環境に変化が生じていないと判定される場合に、前記解析手段が前記複数のブラケット画像から前記1つのブラケット画像を選択することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記解析手段は、前記複数のブラケット画像のそれぞれで検出された同一の被写体につき、被写体の移動量が所定の移動量を超えない場合、該複数のブラケット画像における画角の変化量が所定の変化量を超えない場合、および、前記複数のブラケット画像の間で輝度値の変化量が所定の輝度変化量を超えない場合の少なくとも1つの条件が満たされる場合に、前記複数のブラケット画像の間で前記撮影環境に変化が生じていないと判定することを特徴とする請求項5に記載の撮像装置。
  7. 前記画像処理には、前記被写体領域に含まれる被写体の種類に応じたフィルタを用いた色フィルタ処理が含まれることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記撮影手段は、前記待機中画像から検出された被写体の数と同回数、又は、所定の回数において前記ブラケット撮影を行うことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 撮影手段と、
    前記撮影手段が撮影した画像を解析する解析手段と、
    前記解析手段の解析結果に基づき前記画像を処理する画像処理手段と
    を備える撮像装置の制御方法であって、
    撮影が指示される前の撮影待機中に前記撮影手段により生成された待機中画像を前記解析手段が解析して前記待機中画像から被写体を検出する工程と、
    撮影の指示に応じて、前記検出された被写体ごとに設定された撮影条件を用いて前記撮影手段がブラケット撮影を行う工程と、
    前記解析手段が、前記ブラケット撮影により生成された複数のブラケット画像を解析し、前記被写体を含む被写体領域を前記複数のブラケット画像のそれぞれから検出する工程と、
    前記解析手段が、前記検出された各被写体領域について前記撮影条件との関連で判定を行い、該判定の結果に従って各被写体領域につき前記複数のブラケット画像のうち1つのブラケット画像を選択する工程と、
    前記画像処理手段が、前記各被写体領域につき、選択された前記1つのブラケット画像に対して画像処理を実行する工程と
    を備えることを特徴とする撮像装置の制御方法。
  10. 撮影手段を備える撮像装置を、請求項1乃至8のいずれか1項に記載の撮像装置の解析手段及び画像処理手段として機能させるためのプログラム。
JP2013255373A 2013-12-10 2013-12-10 撮像装置、撮像装置の制御方法、及び、プログラム Expired - Fee Related JP6267502B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013255373A JP6267502B2 (ja) 2013-12-10 2013-12-10 撮像装置、撮像装置の制御方法、及び、プログラム
CN201410743607.9A CN104702824B (zh) 2013-12-10 2014-12-08 摄像装置及摄像装置的控制方法
US14/563,640 US20150163391A1 (en) 2013-12-10 2014-12-08 Image capturing apparatus, control method of image capturing apparatus, and non-transitory computer readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013255373A JP6267502B2 (ja) 2013-12-10 2013-12-10 撮像装置、撮像装置の制御方法、及び、プログラム

Publications (3)

Publication Number Publication Date
JP2015115714A true JP2015115714A (ja) 2015-06-22
JP2015115714A5 JP2015115714A5 (ja) 2017-01-26
JP6267502B2 JP6267502B2 (ja) 2018-01-24

Family

ID=53272397

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013255373A Expired - Fee Related JP6267502B2 (ja) 2013-12-10 2013-12-10 撮像装置、撮像装置の制御方法、及び、プログラム

Country Status (3)

Country Link
US (1) US20150163391A1 (ja)
JP (1) JP6267502B2 (ja)
CN (1) CN104702824B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017142753A (ja) * 2016-02-12 2017-08-17 キヤノン株式会社 情報処理装置、方法、プログラム、および記憶媒体
WO2017216933A1 (ja) * 2016-06-16 2017-12-21 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10230888B2 (en) * 2015-07-31 2019-03-12 Qualcomm Incorporated Sensor-based camera initialization
CN105898151A (zh) * 2015-11-15 2016-08-24 乐视移动智能信息技术(北京)有限公司 图像处理方法及装置
CN106357987B (zh) * 2016-10-19 2018-08-07 浙江大华技术股份有限公司 一种曝光方法和装置
JP6942472B2 (ja) * 2017-01-13 2021-09-29 キヤノン株式会社 映像認識装置、映像認識方法及びプログラム
CN107370940B (zh) * 2017-06-16 2019-08-02 Oppo广东移动通信有限公司 图像获取方法、装置及终端设备
CN107749952B (zh) * 2017-11-09 2020-04-10 睿魔智能科技(东莞)有限公司 一种基于深度学习的智能无人摄影方法和系统
JP7197981B2 (ja) * 2018-01-24 2022-12-28 キヤノン株式会社 カメラ、端末装置、カメラの制御方法、端末装置の制御方法、およびプログラム
TWI695622B (zh) * 2018-09-06 2020-06-01 華晶科技股份有限公司 影像處理方法及影像處理裝置
US11727538B2 (en) * 2019-10-22 2023-08-15 Canon U.S.A., Inc. Apparatus and method for determining sharpness
CN111050069B (zh) * 2019-12-12 2021-11-23 维沃移动通信有限公司 一种拍摄方法及电子设备
JP7471832B2 (ja) * 2020-01-23 2024-04-22 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007259004A (ja) * 2006-03-23 2007-10-04 Nikon Corp デジタルカメラ、画像処理装置及び画像処理プログラム
JP2008244991A (ja) * 2007-03-28 2008-10-09 Fujifilm Corp 撮像装置および撮像方法
JP2008311885A (ja) * 2007-06-14 2008-12-25 Sharp Corp デジタルカメラ、カメラ付き携帯電話
JP2009094725A (ja) * 2007-10-05 2009-04-30 Fujifilm Corp 撮像方法及び装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4422667B2 (ja) * 2005-10-18 2010-02-24 富士フイルム株式会社 撮影装置および撮影方法
JP4666179B2 (ja) * 2007-07-13 2011-04-06 富士フイルム株式会社 画像処理方法および画像処理装置
JP5083090B2 (ja) * 2007-09-18 2012-11-28 ソニー株式会社 表示制御装置、撮像装置、表示制御方法およびプログラム
JP4850818B2 (ja) * 2007-11-30 2012-01-11 キヤノン株式会社 画像処理装置およびその方法
JP5381060B2 (ja) * 2008-02-05 2014-01-08 株式会社リコー 撮像装置およびその画像処理方法
KR20090113076A (ko) * 2008-04-25 2009-10-29 삼성디지털이미징 주식회사 디지털 영상 처리기에서 브라케팅 촬영 장치 및 방법
JP5224955B2 (ja) * 2008-07-17 2013-07-03 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム及び記録媒体
JP5159515B2 (ja) * 2008-08-26 2013-03-06 キヤノン株式会社 画像処理装置およびその制御方法
JP5445235B2 (ja) * 2010-03-09 2014-03-19 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP2012119788A (ja) * 2010-11-29 2012-06-21 Fujifilm Corp 撮影装置、画像処理装置、撮影方法及び画像処理方法
US9019400B2 (en) * 2011-05-31 2015-04-28 Olympus Imaging Corp. Imaging apparatus, imaging method and computer-readable storage medium
JP5240349B2 (ja) * 2011-11-14 2013-07-17 カシオ計算機株式会社 画像合成装置、及びプログラム
US20150085159A1 (en) * 2013-09-20 2015-03-26 Nvidia Corporation Multiple image capture and processing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007259004A (ja) * 2006-03-23 2007-10-04 Nikon Corp デジタルカメラ、画像処理装置及び画像処理プログラム
JP2008244991A (ja) * 2007-03-28 2008-10-09 Fujifilm Corp 撮像装置および撮像方法
JP2008311885A (ja) * 2007-06-14 2008-12-25 Sharp Corp デジタルカメラ、カメラ付き携帯電話
JP2009094725A (ja) * 2007-10-05 2009-04-30 Fujifilm Corp 撮像方法及び装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017142753A (ja) * 2016-02-12 2017-08-17 キヤノン株式会社 情報処理装置、方法、プログラム、および記憶媒体
WO2017216933A1 (ja) * 2016-06-16 2017-12-21 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム

Also Published As

Publication number Publication date
CN104702824A (zh) 2015-06-10
US20150163391A1 (en) 2015-06-11
JP6267502B2 (ja) 2018-01-24
CN104702824B (zh) 2017-12-15

Similar Documents

Publication Publication Date Title
JP6267502B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
US9049363B2 (en) Digital photographing apparatus, method of controlling the same, and computer-readable storage medium
JP6218377B2 (ja) 画像処理装置及び画像処理方法
JP6077853B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP2014123809A (ja) 撮像装置、撮像システム、および、撮像装置の制御方法
JP6472183B2 (ja) 画像処理装置、その制御方法、プログラム
JP2013106284A (ja) 光源推定装置、光源推定方法、光源推定プログラムおよび撮像装置
JP2016009998A (ja) 撮像装置、撮像方法及びプログラム
JP2015040941A (ja) 撮像装置、その制御方法およびプログラム
JP2015019354A (ja) 撮像装置、画像処理装置、および、これらの制御方法
WO2019111659A1 (ja) 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP2014179920A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP6270578B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2012090041A (ja) 画像処理装置及び方法、並びにプログラム
US11343438B1 (en) Instant auto exposure control with multiple cameras
JP2016046610A (ja) 撮像装置
JP6294607B2 (ja) 撮像装置およびその制御方法、プログラム並びに記憶媒体
JP2006217249A (ja) 電子カメラ、電子カメラシステムおよびプログラム
JP6223173B2 (ja) 画像処理装置、その制御方法およびプログラム
JP6271985B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP6682792B2 (ja) 撮影パラメータ設定変更システム、撮像装置、およびコンピュータプログラム
JP2015118274A (ja) 撮像装置、その制御方法及びプログラム
JP2012204952A (ja) 露出制御装置及びカメラ
JP2011197090A (ja) 撮影支援プログラムおよび撮像装置
JP2017126959A (ja) 撮像装置およびその制御方法ならびにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170915

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171124

R151 Written notification of patent or utility model registration

Ref document number: 6267502

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees