JP2015162779A - 撮像装置、撮像方法、およびプログラム - Google Patents

撮像装置、撮像方法、およびプログラム Download PDF

Info

Publication number
JP2015162779A
JP2015162779A JP2014036340A JP2014036340A JP2015162779A JP 2015162779 A JP2015162779 A JP 2015162779A JP 2014036340 A JP2014036340 A JP 2014036340A JP 2014036340 A JP2014036340 A JP 2014036340A JP 2015162779 A JP2015162779 A JP 2015162779A
Authority
JP
Japan
Prior art keywords
image
imaging
estimation
unit
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014036340A
Other languages
English (en)
Other versions
JP6325841B2 (ja
Inventor
学 市川
Manabu Ichikawa
学 市川
拓也 松永
Takuya Matsunaga
拓也 松永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014036340A priority Critical patent/JP6325841B2/ja
Priority to US14/612,761 priority patent/US9398230B2/en
Priority to CN201510088749.0A priority patent/CN104883480B/zh
Publication of JP2015162779A publication Critical patent/JP2015162779A/ja
Application granted granted Critical
Publication of JP6325841B2 publication Critical patent/JP6325841B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)
  • Automatic Focus Adjustment (AREA)
  • Exposure Control For Cameras (AREA)
  • Focusing (AREA)
  • Image Processing (AREA)

Abstract

【課題】可能な限り多くの撮影枚数を確保でき、十分な画質の合成画像を生成可能な撮像装置、撮像方法、およびプログラムを提供する。【解決手段】撮像部において被写体を撮像して画像データを取得する撮像ステップと(S79)、撮像ステップで取得した複数の画像データを合成する画像合成ステップと(S87)、画像合成ステップにおいて、合成する可能性がある被写体が含まれているかを推定する画像合成推定ステップと(S73)、撮像部に対して撮影を指示する撮影指示ステップ(S75)を行い、撮影指示ステップでは、画像合成推定ステップにおける推定結果に基づき、撮像ステップにおいて複数回の撮像を指示する。【選択図】 図4

Description

本発明は、複数の画像データを合成し、合成画像を生成可能な撮像装置、撮像方法、およびプログラムに関する。
デジタルカメラ等の撮像装置において、複数の画像を撮影し、この複数の画像を合成することにより、1枚の画像では表現できない画質を実現する機能を搭載したものが市販されている。
複数の画像を合成する技術としては、例えば、焦点位置を移動しながら複数の画像を撮影し、この撮影によって取得した複数の画像データを用い、被写体の位置合わせを行い、画像を合成することで、全焦点画像やボケをコントロールした画像を生成することが提案されている(特許文献1参照)。
特開2008−271240号公報
このように、複数の画像データを合成し、合成画像データを生成する技術は種々提案されているが、画像を合成する際に、一般に画像枚数を多くするほど、良好な結果を得られる。このため、画質の観点からは撮影枚数を可能な限り多くすることが好ましいといえる。
本発明は、このような事情を鑑みてなされたものであり、可能な限り多くの撮影枚数を確保でき、十分な画質の合成画像を生成可能な撮像装置、撮像方法、およびプログラムを提供することを目的とする。
上記目的を達成するため第1の発明に係る撮像装置は、被写体を撮像して画像データを取得する撮像部と、上記画像データに基づいて合成用画像データを合成する画像合成部と、上記画像合成部において、合成する可能性がある被写体が含まれているかを推定する画像合成推定部と、上記撮像部に対して撮影を指示する撮影指示部と、を具備し、上記撮影指示部は、上記画像合成推定部の推定結果に基づき、上記撮像部に対して複数回の撮影を指示する。
第2の発明に係る撮像装置は、上記第1の発明において、上記画像合成推定部は、上記撮像部に異なる複数の状態となる複数の撮像を指示し、推定に使用する複数の推定用画像データを取得し、上記複数の推定用画像データを解析することで、上記複数の状態に応じた画像合成を行うかどうかの可否判断を行う。
第3の発明に係る撮像装置は、上記第2の発明において、上記状態は、フォーカスレンズのフォーカス位置である。
第4の発明に係る撮像装置は、上記第3の発明において、上記画像合成推定部は、複数のフォーカス位置で上記推定用画像データを撮像させ、上記推定用画像データのコントラストを解析し、コントラストに応じて可否判断を行う。
第5の発明に係る撮像装置は、上記第4の発明において、上記画像合成推定部は、上記コントラストが低い画像データを否と判断する。
第6の発明に係る撮像装置は、上記第2の発明において、上記撮影指示部は、上記画像合成推定部の判定が可となった画像データ数を撮影回数とする。
第7の発明に係る撮像装置は、上記第2の発明において、上記画像合成推定部は、少なくとも一つの上記状態を変更し、複数の上記推定用画像データを撮像させ、上記被写体の移動量を解析し、上記移動量に応じて可否判断を行う。
第8の発明に係る撮像装置は、上記第7の発明において、上記画像合成推定部は、上記被写体の移動量が大きい画像データの前後のフォーカス位置で撮影された画像を否と判断する。
第9の発明に係る撮像方法は、撮像部において被写体を撮像して画像データを取得する撮像ステップと、上記撮像ステップで取得した複数の画像データを合成する画像合成ステップと、上記画像合成ステップにおいて、合成する可能性がある被写体が含まれているかを推定する画像合成推定ステップと、上記撮像部に対して撮影を指示する撮影指示ステップと、を具備し、上記撮影指示ステップでは、上記画像合成推定ステップにおける推定結果に基づき、上記撮像ステップにおいて複数回の撮影を指示する。
第10の発明に係るプログラムは、撮像装置のコンピュータを実行させるためのプログラムであって、撮像部において被写体を撮像して画像データを取得する撮像ステップと、上記撮像ステップで取得した複数の画像データを合成する画像合成ステップと、上記画像合成ステップにおいて、合成する可能性がある被写体が含まれているかを推定する画像合成推定ステップと、上記撮像部に対して撮影を指示する撮影指示ステップと、を具備し、上記撮影指示ステップでは、上記画像合成推定ステップにおける推定結果に基づき、上記撮像ステップにおいて複数回の撮影を指示する。
本発明によれば、可能な限り多くの撮影枚数を確保でき、十分な画質の合成画像を生成可能な撮像装置、撮像方法、およびプログラムを提供することができる。
本発明の一実施形態に係るカメラの主として電気的構成を示すブロック図である。 本発明の一実施形態に係るカメラのメイン動作を示すフローチャートである。 本発明の一実施形態に係るカメラのメイン動作を示すフローチャートである。 本発明の一実施形態に係るカメラの撮影・画像処理の動作を示すフローチャートである。 本発明の一実施形態に係るカメラの画像合成推定の動作を示すフローチャートである。 本発明の一実施形態に係るカメラにおいて、コントラストに基づいて行う画像合成推定を説明する図である。 本発明の一実施形態に係るカメラにおいて、被写体の動きに基づいて行う画像合成推定を説明する図である。
以下、本発明の実施形態としてデジタルカメラに適用した例について説明する。このデジタルカメラは、撮像部を有し、この撮像部によって被写体像を画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタチャンスを決定する。レリーズ操作時には、画像データが記録媒体に記録される。記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
また、一実施形態に係るカメラにおいては、撮影前に撮影レンズを移動させながら画像データを取得し(スキャン)、画像データから抽出したコントラストが高い部分がない場合には撮影を行わない。また、スキャンしながら取得した画像データから、被写体の動きを予想し、被写体が動いている場合には、動いている被写体のコントラストが高いフレームの前後では撮影を行わない。上述の撮影判断に従って行った撮影で取得した複数の画像データを用いて画像合成を行う。
図1は、本発明の一実施形態に係るカメラの主として電気的構成を示すブロック図である。このカメラは、カメラ本体100と、これに脱着可能な交換式レンズ200とから構成される。なお、本実施形態においては、撮影レンズは交換レンズ式としたが、これに限らず、カメラ本体に撮影レンズが固定されるタイプのデジタルカメラであっても勿論かまわない。
交換式レンズ200は、撮影レンズ201、絞り203、ドライバ205、マイクロコンピュータ207、フラッシュメモリ209から構成され、後述するカメラ本体100との間にインターフェース(以後、I/Fと称す)199を有する。
撮影レンズ201は、被写体像を形成するための複数の光学レンズ(ピント調節用のフォーカスレンズを含む)から構成され、単焦点レンズまたはズームレンズである。この撮影レンズ201の光軸の後方には、絞り203が配置されており、絞り203は開口径が可変であり、撮影レンズ201を通過した被写体光束の光量を制限する。また、撮影レンズ201はドライバ205によって光軸方向に移動可能であり、マイクロコンピュータ207からの制御信号に基づいて、撮影レンズ201内のフォーカスレンズを移動させることによりピント位置が制御され、ズームレンズの場合には、焦点距離も制御される。また、ドライバ205は、絞り203の開口径の制御も行う。
ドライバ205に接続されたマイクロコンピュータ207は、I/F199およびフラッシュメモリ209に接続されている。マイクロコンピュータ207は、フラッシュメモリ209に記憶されているプログラムに従って動作し、後述するカメラ本体100内のマイクロコンピュータ121と通信を行い、マイクロコンピュータ121からの制御信号に基づいて交換式レンズ200の制御を行う。
フラッシュメモリ209には、前述したプログラムの他、交換式レンズ200の光学的特性や調整値等の種々の情報が記憶されている。I/F199は、交換式レンズ200内のマイクロコンピュータ207とカメラ本体100内のマイクロコンピュータ121の相互間の通信を行うためのインターフェースである。
カメラ本体100内であって、撮影レンズ201の光軸上には、メカシャッタ101が配置されている。このメカシャッタ101は、被写体光束の通過時間を制御し、公知のフォーカルプレーンシャッタ等が採用される。このメカシャッタ101の後方であって、撮影レンズ201によって被写体像が形成される位置には、撮像素子103が配置されている。
撮像素子103は、被写体像を撮像して画像データを取得する撮像部としての機能を果たし、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されており、各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。各画素の前面には、ベイヤ―配列のRGBフィルタが配置されている。また、撮像素子103は電子シャッタを有している。電子シャッタは、撮像素子103の電荷蓄積から電荷読出までの時間を制御することにより露光時間の制御を行う。なお、撮像素子103はベイヤ配列に限定されず、例えばFoveon(登録商標)のような積層形式でも勿論かまわない。撮像素子103は被写体を撮像して画像データを出力する撮像部として機能する。
撮像素子103はアナログ処理部105に接続されており、このアナログ処理部105は、撮像素子103から読み出した光電変換信号(アナログ画像信号)に対し、リセットノイズ等を低減した上で波形整形を行い、さらに適切な輝度になるようにゲインアップを行う。
アナログ処理部105はA/D変換部107に接続されており、このA/D変換部107は、アナログ画像信号をアナログ―デジタル変換し、デジタル画像信号(以後、画像データという)をバス110に出力する。なお、本明細書においては、画像処理部109において画像処理される前の生の画像データをRAWデータと称する。
バス110は、カメラ本体100の内部で読み出され若しくは生成された各種データをカメラ本体100の内部に転送するための転送路である。バス110には、前述のA/D変換部107の他、画像処理部109、AE(Auto Exposure)処理部111、AF(Auto Focus)処理部113、画像合成推定部115、撮影指示部117、マイクロコンピュータ121、SDRAM127、メモリインターフェース(以後、メモリI/Fという)129、表示ドライバ133が接続されている。
画像処理部109は、通常の画像処理を行う基本画像処理部109aと、画像合成を行う画像合成部109bを有する。複数の画像を合成する場合には、基本画像処理部109b、および画像合成部109cを使用する。
基本画像処理部109aは、RAWデータに対して、オプティカルブラック(OB)減算処理、ホワイトバランス(WB)補正、ベイヤデータの場合に行う同時化処理、色再現処理、ガンマ補正処理、カラーマトリックス演算、ノイズリダクション(NR)処理、エッジ強調処理等を行う。1枚撮影で、かつ特殊効果等が設定されていない場合には、この基本画像処理部109aによる処理のみで画像処理が完了する。
画像合成部109bは、設定されている合成モード等応じて種々の画像合成を行う。この画像合成部109bは、撮像部からの画像データに基づいて合成用画像データを合成する画像合成部として機能する。すなわち、画像合成部109bは、焦点位置、絞り値等、異なる状態で取得した複数の画像データを用い、画像データの合成を行う。本実施形態においては、後述するように、被写界の深度を深くする深度合成等の合成モードが設定可能である。深度合成モードが設定されている場合には、画像合成部109bは、複数のフォーカス位置で撮影した複数の画像データに対し、位置合わせと合成を行うことで、単写とは異なる被写界深度の画像を生成する。
なお、図示しないが、画像処理部109内には、画像圧縮部と画像伸張部が設けられている。画像圧縮部は、画像データの記録媒体131への記録時に、SDRAM127から読み出した画像データを、静止画の場合にはJPEG圧縮方式等、また動画の場合にはMPEG等の各種圧縮方式に従って圧縮する。また、画像伸張部は、画像再生表示用にJPEG画像データやMPEG画像データの伸張も行う。伸張にあたっては、記録媒体131に記録されているファイルを読み出し、画像伸張部おいて伸張処理を施した上で、伸張した画像データをSDRAM127に一時記憶する。なお、本実施形態においては、画像圧縮方式としては、JPEG圧縮方式やMPEG圧縮方式を採用するが、圧縮方式はこれに限らずTIFF、H.264等、他の圧縮方式でも勿論かまわない。また、圧縮方式は、可逆圧縮でも、非可逆圧縮でもよい。
AE処理部111は、バス110を介して入力した画像データに基づいて被写体輝度を測定し、この被写体輝度情報を、バス110を介してマイクロコンピュータ121に出力する。被写体輝度の測定のために専用の測光センサを設けても良いが、本実施形態においては、画像データに基づいて被写体輝度を算出する。
AF処理部113は、画像データから高周波成分の信号を抽出し、積算処理により合焦評価値を取得し、バス110を介してマイクロコンピュータ121に出力する。本実施形態においては、いわゆるコントラスト法によって撮影レンズ201のピント合わせを行う。この実施形態では、コントラスト法によるAF制御を例にとって説明したが、被写体光束を分割し、その光路上に位相差センサを設け、または撮像素子上に位相差センサを設け、位相差AFによるAF制御によりピント合わせを行ってもよい。
画像合成推定部115は、撮像部に異なる複数の状態となる複数の撮像を指示し、画像合成の推定の際に使用する複数の推定用画像データを取得する。この推定用画像データを取得すると、この推定用画像データを解析し、複数の状態に応じた画像合成を行うか否かの可否判断を行う。複数の状態としては、例えば、フォーカスレンズのフォーカス位置、絞り値、シャッタ速度値、露光量等がある。本実施形態においては、複数の状態として、フォーカスレンズのフォーカス位置を変更する例について説明する。すなわち、本実施形態においては、本撮影時には複数回の撮像が行われるが、本撮影に先立って、フォーカスレンズのフォーカス位置を順次異ならせながら、撮像を行い、このとき得られた個々の画像について、コントラストや被写体の動きを解析し、この解析結果に基づいて、個々の画像毎に、合成用画像として相応しい画像であるか否かを判断している。
この画像合成推定部115は、画像合成部において、合成する可能性がある被写体が含まれているか否かを推定する画像合成推定部として機能する。また、画像合成推定部115は、撮像部に異なる複数の状態となる複数の撮像を指示し、推定に使用する複数の推定用画像データを取得し、複数の推定用画像データを解析することで、複数の状態に応じた画像合成を行うかどうかの可否判断を行う(詳しくは、図5ないし図7参照)。異なる複数の状態は、例えば、フォーカスレンズのフォーカス位置を異ならせる。
撮影指示部117は、画像合成推定部115における推定結果を受け、撮像部に対して複数回の撮像を指示する。すなわち、本実施形態においては、画像合成推定部が、本撮影前に取得した画像毎に合成用画像として相応しい画像であるか否かを判断しているので、この判断結果に従って、合成用画像として相応しい場合には撮像を行い、相応しくない場合には撮像を行わないようにする。撮影指示部117は、撮像部に対して撮影を指示する撮影指示部として機能する。また、この撮影指示部は、画像合成推定部の推定結果に基づいて、撮像部に対して複数回の撮影を指示する。
マイクロコンピュータ121は、このカメラ全体の制御部としての機能を果たし、フラッシュメモリ125に記憶されているプログラムに従って、カメラの各種シーケンスを総括的に制御する。マイクロコンピュータ121には、前述のI/F199以外に、操作部123およびフラッシュメモリ125が接続されている。
操作部123は、電源釦、レリーズ釦、動画釦、再生釦、メニュー釦、十字キー、OK釦等、各種入力釦や各種入力キー等の操作部材を含み、これらの操作部材の操作状態を検知し、検知結果をマイクロコンピュータ121に出力する。マイクロコンピュータ121は、操作部123からの操作部材の検知結果に基づいて、ユーザの操作に応じた各種シーケンスを実行する。電源釦は、当該デジタルカメラの電源のオン/オフを指示するための操作部材である。電源釦が押されると当該デジタルカメラの電源はオンとなり、再度、電源釦が押されると当該デジタルカメラの電源はオフとなる。
レリーズ釦は、半押しでオンになるファーストレリーズスイッチと、半押しから更に押し込み全押しとなるとオンになるセカンドレリーズスイッチからなる。マイクロコンピュータ121は、ファーストレリーズスイッチがオンとなると、AE動作やAF動作等の撮影準備シーケンスを実行する。また、セカンドレリーズスイッチがオンとなると、メカシャッタ101等を制御し、撮像素子103等から被写体画像に基づく画像データを取得し、この画像データを記録媒体131に記録する一連の撮影シーケンスを実行して撮影を行う。
動画釦は、動画撮影の開始と終了を指示するための操作釦であり、最初に動画釦を操作すると動画撮影を開始し、再度、操作すると動画撮影を終了する。再生釦は、再生モードの設定と解除するための操作釦であり、再生モードが設定されると、記録媒体131から撮影画像の画像データを読み出し、表示パネル135に撮影画像を再生表示する。
メニュー釦は、メニュー画面を表示パネル135に表示させるための操作釦である。メニュー画面上では、各種のカメラ設定を行うことができる。カメラ設定としては、例えば、HDR合成、深度合成、および超解像合成等の合成モードがある。
フラッシュメモリ125は、マイクロコンピュータ121の各種シーケンスを実行するためのプログラムを記憶している。マイクロコンピュータ121はこのプログラムに基づいてカメラ全体の制御を行う。
SDRAM127は、画像データ等の一時記憶用の電気的書き換え可能な揮発性メモリである。このSDRAM127は、A/D変換部107から出力された画像データや、画像処理部109等において処理された画像データを一時記憶する。
メモリI/F129は、記録媒体131に接続されており、画像データや画像データに添付されたヘッダ等のデータを、記録媒体131に書き込みおよび読出しの制御を行う。記録媒体131は、例えば、カメラ本体100に着脱自在なメモリカード等の記録媒体であるが、これに限らず、カメラ本体100に内蔵されたハードディスク等であっても良い。記録媒体131は、合成画像データを記録する画像記録部として機能する。
表示ドライバ133は、表示パネル135に接続されており、SDRAM127や記録媒体131から読み出され、画像処理部109内の画像伸張部によって伸張された画像データに基づいて画像を表示パネル135において表示させる。表示パネル135は、カメラ本体100の背面等に配置され、画像表示を行う。表示パネル135は、背面等のカメラ本体の外装部に表示面が配置されることから、外光の影響を受け易い表示部であるが、大型の表示パネルを設定することが可能である。なお、表示部としては、液晶表示パネル(LCD、TFT)、有機EL等、種々の表示パネルを採用できる。
表示パネル135における画像表示としては、撮影直後、記録される画像データを短時間だけ表示するレックビュー表示、記録媒体131に記録された静止画や動画の画像ファイルの再生表示、およびライブビュー表示等の動画表示が含まれる。
次に、図2よび図3に示すフローチャートを用いて、本実施形態におけるカメラのメイン処理について説明する。なお、図2、図3、および後述する図4、図5に示すフローチャートは、フラッシュメモリ125に記憶されているプログラムに従ってマイクロコンピュータ121が各部を制御し実行する。
操作部123の内の電源釦が操作され、電源オンとなると、図2に示すメインフローが動作を開始する。動作を開始すると、まず、初期化を実行する(S1)。初期化としては、機械的初期化や各種フラグ等の初期化等の電気的初期化を行う。各種フラグの1つとして、動画記録中か否かを示す記録中フラグをオフにリセットする(ステップS13、S15、S31等参照)。
初期化を行うと、次に、再生釦が押されたか否かを判定する(S3)。ここでは、操作部123内の再生釦の操作状態を検知し、判定する。この判定の結果、再生釦が押された場合には、再生・編集を実行する(S5)。ここでは、記録媒体131から画像データを読み出し、LCD135に静止画と動画の一覧を表示する。ユーザは十字キーを操作することにより、一覧の中から画像を選択し、OK釦により画像を確定する。また、選択している画像の編集を行うことができる。
ステップS5における再生・編集を実行すると、またはステップS3における判定の結果、再生釦が押されていなかった場合には、カメラ設定を行うか否かを判定する(S7)。操作部123の内のメニュー釦が操作された際に、メニュー画面においてカメラ設定を行う。そこで、このステップでは、このカメラ設定が行われたか否かに基づいて判定する。
ステップS7における判定の結果、カメラ設定の場合には、カメラ設定を行う(S9)。前述したように、種々のカメラ設定をメニュー画面で行うことができる。カメラ設定としては、前述したように、例えば、撮影モードとしては、通常撮影、HDR合成、深度合成、超解像合成等のモードが設定可能である。また、静止画記録モードとしては、JPEG記録、TIFF記録、JPEG−RAW記録、RAW記録等のモードが設定可能である。動画記録モードとしては、Motion JPEG記録、H.264記録等のモードの設定が可能である。画質モードとしては、ファイン(Fine)、ノーマル(Normal)等のモードが設定可能である。
ステップS9においてカメラ設定を行うと、またはステップS7における判定の結果、カメラ設定でなかった場合には、次に、動画釦が押されたか否かの判定を行う(S11)。ここでは、マイクロコンピュータ121は操作部123から動画釦の操作状態を入力し、判定する。
ステップS11における判定の結果、動画釦が押された場合には、記録中フラグの反転を行う(S13)。記録中フラグは、動画撮影中にはオン(1)が設定され、動画を撮影していない場合にはオフ(0)にリセットされている。このステップにおいては、フラグを反転、すなわちオン(1)が設定されていた場合には、オフ(0)に反転させ、オフ(0)が設定されていた場合には、オン(1)に反転させる。
ステップS13において記録中フラグの反転を行うと、次に、動画記録中か否を判定する(S15)。ここでは、ステップS13において反転された記録中フラグがオンに設定されているか、オフに設定されているかに基づいて判定する。
ステップS15における判定の結果、動画記録中の場合には、動画ファイルを生成する(S19)。後述するステップS61において動画の記録を行うが、このステップでは、動画記録用の動画ファイルを生成し、動画の画像データを記録できるように準備する。
一方、判定の結果、動画記録中でない場合には、動画ファイルを閉じる(S17)。動画釦が操作され、動画撮影が終了したことから、このステップで動画ファイルを閉じる。動画ファイルを閉じるにあたって、動画ファイルのヘッダにフレーム数を記録する等により、動画ファイルとして再生可能な状態にし、ファイル書き込みを終了する。
ステップS17において動画ファイルを閉じると、またはステップS19において動画ファイルを生成すると、またはステップS11における判定の結果、動画釦が押されていない場合には、次に、動画記録中か否かの判定を行う(S31)。このステップでは、ステップS15と同様に、記録中フラグのオンかオフに基づいて判定する。
ステップS31における判定の結果、動画記録中でない場合には、レリーズ釦が半押しされたか否か、言い換えると、ファーストレリーズスイッチがオフからオンとなったか否かの判定を行う(S33)。この判定は、レリーズ釦に連動するファーストレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて行う。検知の結果、ファーストレリーズスイッチがオフからオンに遷移した場合には判定結果はYesとなり、一方、オン状態またはオフ状態が維持されている場合には、判定結果はNoとなる。
ステップS33における判定の結果、レリーズ釦が半押しされ、オフからファーストレリーズに遷移した場合には、AE・AF動作を実行する(S35)。ここでは、AE処理部111が、撮像素子103によって取得された画像データに基づいて被写体輝度を検出し、この被写体輝度に基づいて、適正露出となるシャッタ速度、絞り値等を算出する。
また、ステップS33においては、AF動作を行う。ここでは、AF処理部113によって取得された合焦評価値がピーク値となるように、交換式レンズ200内のマイクロコンピュータ207を介してドライバ205が撮影レンズ201のピント位置を移動させる。したがって、動画撮影を行っていない場合に、レリーズ釦が半押しされると、その時点で、撮影レンズ201のピント合わせを行う。その後、ステップS35へ進む。
ステップS31における判定の結果、レリーズ釦がオフからファーストレリーズに遷移しなかった場合には、次に、レリーズ釦が全押しされ、セカンドレリーズスイッチがオンになったか否かの判定を行う(S41)。このステップでは、レリーズ釦に連動するセカンドレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて判定を行う。
ステップS41における判定の結果、レリーズ釦が全押しされ、セカンドレリーズスイッチがオンになった場合には、撮影・画像処理を行う(S43)。ここでは、ステップS33において演算された絞り値で絞り203が制御され、また演算されたシャッタ速度でメカシャッタ101のシャッタ速度が制御される。そして、シャッタ速度に応じた露光時間が経過すると、撮像素子103から画像信号が読み出され、アナログ処理部105およびA/D変換部107によって処理されたRAWデータがバス110に出力される。
また、深度合成モードが設定されている場合には、本撮影に先立って、フォーカスレンズを移動させながら、合成するに相応しい画像があるか相応しくない画像があるか否かを判定し、この判定結果に基づいて、合成する相応しい画像に対応するフォーカス位置で本撮影を行い、複数の画像データを取得する。深度合成モードが設定されている場合の撮影・画像処理の詳しい動作について、図5を用いて後述する。
また、ステップS43においては、撮影を行うと画像処理を行う。撮像素子103で取得されたRAWデータを読出し、画像処理部109によって画像処理を行う。また、画像合成モードが設定されている場合には、このステップにおいて、画像合成モードに応じて複数回の撮影が行われ、画像合成の際に使用する画像データが記録媒体133等に一時的に退避する。この撮影・画像処理の詳しい動作については、図4を用いて後述する。
撮影・画像処理を行うと、次に静止画記録を行う(S45)。ここでは、画像処理が施された静止画の画像データを記録媒体131に記録する。静止画記録にあたっては、設定されている形式で記録を行う。JPEGが設定されている場合には、画像処理済みデータを画像圧縮部においてJPEG圧縮して記録する。またTIFF形式の場合には、RGBデータに変換してRGB形式で記録する。また、RAW記録が設定されている場合に、撮影によって取得したRAWデータと合成を行った場合には、合成RAWデータも記録する。画像データの記録先は、カメラ本体内の記録媒体131でもよいし、通信部(不図示)を介して外部の機器へ記録するようにしてもよい。
ステップS41における判定の結果、レリーズ釦2ndでなかった場合、またはステップS31における判定の結果、動画記録中であった場合には、次に、AEを行う(S51)。前述のステップS41の判定がNoであった場合は、レリーズ釦に対して何ら操作を行っていない場合であり、この場合には後述するステップS57においてライブビュー表示を行う。また、前述のステップS31の判定がYesであった場合は、動画記録中である。このステップでは、適正露出でライブビュー表示または動画撮影を行うための撮像素子103の電子シャッタのシャッタ速度およびISO感度を算出する。
AEを行うと、次に、電子シャッタによる撮影を行う(S53)。ここでは、被写体像を画像データに変換する。すなわち、撮像素子103の電子シャッタによって決まる露光時間の間、電荷蓄積を行い、露光時間が経過すると蓄積電荷を読み出することにより画像データを取得する。
電子シャッタによる撮影を行うと、次に、取得した画像データに対して画像処理を行う(S55)。このステップでは、基本画像処理部109bによって、WB補正、カラーマトリックス演算、ガンマ変換、エッジ強調、ノイズリダクションン等の基本画像処理を行う。
基本画像処理を行うと、次に、ライブビュー表示を行う(S57)。このステップでは、ステップS55における基本画像処理された画像データを用いて、表示パネル135にライブビュー表示を行う。すなわち、ステップS53において画像データを取得し、画像処理を行ったことから、この処理された画像を用いて、ライブビュー表示の更新を行う。撮影者はこのライブビュー表示を観察することにより、構図やシャッタタイミングを決定することができる。
ステップS57においてライブビュー表示を行うと、次に、動画記録中か否かの判定を行う(S59)。ここでは、記録中フラグがオンか否かを判定する。この判定の結果、動画記録中であった場合には、動画記録を行う(S61)。ここでは、撮像素子103から読み出される撮像データを動画用の画像データに画像処理を行い、動画ファイルに記録する。
ステップS61において動画記録を行うと、またはステップS59における判定の結果、動画記録中でない場合、またはステップS45において静止画記録を行うと、またはステップS35において、AE・AFを行うと、次に、電源オフか否かの判定を行う(S37)。このステップでは、操作部123の電源釦が再度、押されたか否かを判定する。この判定の結果、電源オフではなかった場合には、ステップS3に戻る。一方、判定の結果、電源オフであった場合には、メインフローの終了動作を行ったのち、このメインフローを終了する。
このように本発明の一実施形態におけるメインフローにおいては、深度合成モード等、複数の画像データを合成する撮影モードの設定が可能であり(S9)、深度合成モードが設定された場合には、合成用画像として相応しくないフォーカス位置においては撮像を行わず、合成用画像として相応しいフォーカス位置において撮像を行う(S43)。
次に、図4を用いて、ステップS43における撮像・画像処理の詳しい動作について説明する。撮影・画像処理のフローに入ると、まず、深度合成か否かの判定を行う(S71)。このステップでは、ステップS9において、深度合成モードが設定されたか否かに基づいて判定する。
ステップS71における判定の結果、深度合成モードが設定されていなかった場合には、撮影を行う(S91)。ここでは、ステップS35において決定した露出制御値およびピント位置において、撮影像素子103で撮像を行い、画像データを取得する。撮影を行うと、次に、基本画像処理を行う(S93)。ここでは、ステップS91において取得した画像データに対して、基本画像処理部109aがOB減算処理、WB補正、カラーマトリックス演算、ガンマ変換、エッジ強調、ノイズリダクション等の画像処理を施す。
一方、ステップS71における判定の結果、深度合成モードが設定されている場合には、画像合成推定を行う(S73)。ここでは、画像合成推定部115が、ステップS79における本撮影に先立って、フォーカスレンズを移動させながら、画像データを取得し、合成用画像として相応しいか否かを判定する。すなわち、フォーカスレンズのフォーカス位置等、状態を変更し撮影を実施する。ここでの撮影枚数と、状態変更の内容は、2ndレリーズ時の撮影状態、例えば、焦点位置や被写体距離応じて変更させてもよい。撮影した画像から複数の状態それぞれで画像合成を行うかどうかの可否判断を行う。可否判断は、フォーカス位置を移動させて取得した画像を用いて、画像内のコントラストを解析し、コントラストに応じて合成可否判断を行う。また、撮影画像とその直前の撮影画像を用い、被写体の移動量を解析し、この移動量に基づいて可否判断を行う。これらの可否判断単独、または両者を組み合わせて判断を行う。この判断に基づいて、フォーカス位置毎に、撮影の可否を記憶しておく。この画像合成推定の詳しい動作については、図5ないし図7を用いて後述する。
画像合成推定を行うと、次に、撮影指示を行う(S75)。ここでは、撮影指示部117が、ステップS73における画像合成推定における判断結果に基づいて、撮像部に撮影指示を与える。すなわち、画像合成推定部115における判断結果、否と判断された画像(フォーカス位置)は撮影から除き、可と判断された画像(フォーカス位置)のみに撮影する指示を与える。つまり、可と判断された画像について、フォーカス位置と撮影枚数を指示する。画像合成推定部115の判定が可となった画像データ数が撮影回数となる。
ステップS75において撮影指示を出すと、次に、フォーカス移動を行う(S77)。ここでは、ステップS75において指示されたフォーカス位置に順次、交換レンズ200のマイクロコンピュータ207を介して、フォーカスレンズを移動させる。
フォーカス移動を行うと、次に、撮影を行う(S79)。ここでは、ステップS75に指示されたフォーカス位置に達すると、所定時間の間、メカシャッタ203によって露光時間制御しながら露光を行い、露光時間経過後に撮像素子103から画像データを取得し、この取得した画像データをSDRAM127に一時記憶する。なお、シャッタとしては、メカシャッタ203を用いずに、撮像素子103内の電子シャッタを用いるようにしてもよい。
撮影を行うと、次に、指示枚数に達したか否かを判定する(S81)。ここでは、ステップS79における撮影の回数が、ステップS75における指示された撮影枚数に達したか否かを判定する。この判定の結果、指示枚数に達していない場合には、ステップS77に戻り、フォーカス移動させ撮影を行う。
一方、ステップS81における判定の結果、指示枚数に達した場合には、基本画像処理を行う(S83)。ここでは、SDRAM127に一時記憶された画像データを読み出し、基本画像処理部109aがOB減算処理、WB補正、カラーマトリックス演算、ガンマ変換、エッジ強調、ノイズリダクション等の画像処理を施す。
基本画像処理を行うと、次に、位置合わせを行う(S85)。ここでは、撮影した画像の位置ずれを補正する位置合わせを行う。位置合わせは、例えば、2枚の画像をブロック分割し、ブロック毎の相関値が最も少ない位置への移動量を算出し、この移動量に基づいて位置を合わせればよい。
位置合わせを行うと、次に、深度合成を行う(S87)。ここでは、画像合成部109bが、被写界深度を拡大する効果を与えるための画像合成を行う。例えば、各画像の高周波成分を抽出し、高周波成分を合成することで、被写界深度の深い画像を生成する。
ステップS87において深度合成を行うと、またはステップS93において基本画像処理を行うと、撮影・画像処理のフローを終了し、元のフローに戻る。
このように、撮影・画像処理のフローでは、深度合成モードが設定されている場合には、フォーカス位置を移動させ撮像し、この時取得した複数の画像毎に、合成の使用の適否の判断を行う画像合成推定を行い(S73)、この判断結果に従って、フォーカス移動させ、本撮影を行い(S77、S79)、本撮影で取得した画像データを用いて深度合成を行っている(S87)。本撮影に先立って画像合成推定において、画像合成の使用の適否を判断していることから、実際に使用可能な撮影枚数を多く確保でき、十分な画質の合成画像を生成することが可能となる。
次に、図5を用いて、ステップS75の画像合成推定の詳しい動作について説明する。画像合成推定のフローに入ると、まず、カメラ状態変更を行う(S101)。ここでは、深度合成モードが設定されている場合であることから、フォーカスレンズの位置を変更する。具体的には、マイクロコンピュータ207を介してドライバ205によってフォーカスレンズの位置を所定量だけ移動させる。この移動量は、撮影レンズ201の焦点距離、設定絞り値等に基づいて、適宜決めればよいが、ステップS77において撮影指示部117が指示するフォーカスレンズの移動間隔と同等にすればよい。
カメラ状態変更を行うと、次に電子シャッタ撮影を行う(S103)。ここでは、露光時間を撮像素子103内の電子シャッタにより制御し、画像データを取得する。この時の画像データは、画像記録用ではなく、画像合成に使用する否かの判断のためであることから、処理速度向上のために画像サイズは小さくてもよい。電子シャッタを使用するのは、メカシャッタ203よりは短時間で撮影を行うことができるためである。
電子シャッタ撮影を行うと、次に、画像解析を行う(S105)。ここでは、ステップS103の電子シャッタ撮影で取得した画像の解析を行う。画像解析としては、被写体のコントラスト値の算出や、前に撮影した画像と比較し、移動被写体であるか等を行う。コントラストの解析は、例えば、画像データから高周波情報を抽出するバンドパスフィルタ(BPF)によって処理し、BPF出力のピーク値を、その画像のコントラスト量としてもよく、また他の方法によってコントラスト量を算出するようにしてもよい。また、コントラスト量は、1stレリーズ時のAF測距時(ステップS35)に取得できていれば、その結果を用いてもよい。
また、被写体の動き量の解析を行う場合には、例えば、画像を領域に分割し、領域毎にひとつ前のフォーカス位置で撮影された画像と、相関データを算出し、この相関データが周囲の相関データ、あるいは相関データ全体の平均値と比較して、差が大きい領域がある場合には、被写体の動き量が大きいと判断すればよい。また、被写体追尾AF情報などで取得できれば、この追尾AF情報を利用して追尾している被写体の動きがあるかどうかを判定し、前後のフォーカス位置で撮影される画像を合成画像として不適として判断してもよい。コントラスト量と被写体動きに基づく、画像解析については、図6および図7を用いて後述する。
画像解析を行うと、次に、合成可能か否かを判定する(S107)。ここでは、ステップS105における画像解析結果に基づいて、画像合成に使用するに相応しい画像であるか否かを判定する。例えば、コントラストの低い画像や、移動被写体の画像等は、合成に適当でないことから「合成可能」ではないと判定され、コントラストの高い画像や、静止被写体の画像等は、合成に適当であることから「合成可能」と判定される。
ステップS107における判定の結果、合成可能と判定されると、撮影指示記憶を行う(S109)。ここでは、ステップS101において変更されたフォーカス位置と撮影の指示を記憶する(フラグを設定しておいてもよい)。
ステップS109において撮影指示の記憶を行うと、またはステップS107における判定の結果、合成可能でなかった場合には、枚数に達したか否かを判定する(S111)。ここでは、ステップS101におけるカメラ状態変更がこれ以上変更できないか、またはステップS109において設定したフラグ数が上限に達したか等に基づいて判定する。この判定の結果、枚数に達していない場合には、ステップS101に戻り、カメラ状態を変更して、合成可能か否かの判定を続行する。一方、枚数に達した場合には、画像合成推定のフローを終了し、元のフローに戻る。
このように、画像合成推定のフローにおいては、カメラ状態を変更すると(S101)、撮影を行い(S103)、取得した画像の解析結果に基づいて合成可能な否かを判定している(S107)。このため、本撮影に先立って合成に不適な画像を排除することができ、効率的な撮影が可能となる。
次に、図6および図7を用いて、画像合成推定について説明する。図6は、画像データのコントラスト量に基づいて、画像合成推定を行う場合を示す。図6(a)は、カメラ10に対して近距離側から遠距離側に離れていくに従って、花20、人物30、山40が被写体として存在する例を示す。
図6(b)は、フォーカス位置を移動させながら、撮影した画像と、コントラスト量を示す。すなわち、カメラ10はステップS101のカメラ状態変更において、フォーカス位置を移動させ、ステップS103の電子シャッタ撮影において、画像推定用画像50を撮影し、ステップS105においてコントラスト量を算出する。花20、人物30、山40に対応するフォーカス位置において、コントラスト量が高くなるが、その中間において、コントラスト量は低くなる。深度合成においては、中間のコントラスト量が低くなるフォーカス位置で撮影した画像は合成に不適当である。
そこで、図6(c)に示すように、画像60a、60b、60c、60dは、コントラスト量が小さいことから、合成に不適当として本撮影をスキップする。すなわち、撮影指示部117は、画像60a〜60dを除いた画像を撮影指示画像60として指定する。
画像合成推定部115は、画像データのコントラスト量に基づいて、画像合成の可否判断を行うために、コントラスト量判定閾値を有し、その判定閾値を下回る場合には合成不適と判定し、撮影をスキップさせる。コントラスト量が少ない被写体は深度合成で合成に使用する領域が少ないためである。
このように、本実施形態においては、画像合成推定部115は、複数のフォーカス位置で推定用画像データを撮像させ、推定用画像データのコントラストを解析し、コントラストに応じて可否判断を行うようにしている。すなわち、画像合成推定部115は、コントラストが低い画像データを否と判断する。
次に、図7を用いて、被写体の動きに基づいて、画像合成推定を行う場合を示す。図7(a)は、図6(a)と同様に、カメラ10に対して近距離側から遠距離側に離れていくに従って、花20、人物30、山40が被写体として存在する例を示す。
図7(b)は、フォーカス位置を移動させながら、撮影した画像と、動き量が大きい画像を示す。すなわち、カメラ10はステップS101のカメラ状態変更において、フォーカス位置を移動させ、ステップS103の電子シャッタ撮影において、画像推定用画像51を撮影し、ステップS105において動き量を算出する。この例では、花20が風で揺らいでおり、また人物30が動いている。また、花20と人物30は、図6(b)に示したように、コントラスト量が高い被写体である。
そこで、本実施形態においては画像の中で最もコントラストが高い画像を選択し、その前後のフォーカス位置での撮影をスキップしている。図7(c)に示す例では、コントラスト量の高い花20の前後にあり、動き量が大の画像61a、コントラスト量の高い人物30の前後にあり、動き量が大の画像61b、61cに対応するフォーカス位置での本撮影をスキップする。すなわち、撮影指示部117は、画像61a〜60cを除いた画像を撮影指示画像61として指定する。
このように、本実施形態においては、画像合成推定部115は、複数のフォーカス位置で推定用画像データを撮像させ、推定用画像データのコントラストを解析し、被写体の動きに応じて可否判断を行うようにしている。すなわち、画像合成推定部115は、少なくとも一つの状態(ここでは、フォーカス位置)を変更し(S101参照)、複数の推定用画像データを撮像させ(S103参照)、被写体の移動量を解析し(S105参照)、移動量に応じて合成可否の判断を行っている。被写体に動きがある場合には、合成後の画像で被写体が多重像となる可能性があり、また、画像合成推定部115は、被写体の移動量が大きい画像データの前後のフォーカス位置で撮影された画像を否と判断している。本実施形態では、深度合成した画像が多重像となることを防止することができる。なお、図7に示す例では、被写体の動きに加えて、コントラスト量も判断の対象としていた。しかし、コントラスト量を使用せずに、被写体の動きのみで判断するようにしてもよい。
以上説明したように、本発明の一実施形態においては、撮像部において被写体を撮像して画像データを取得する撮像ステップ(例えば、図4のS79)と、撮像ステップで取得した複数の画像データを合成する画像合成ステップと(例えば、図4のS87)、画像合成ステップにおいて、合成する可能性がある被写体が含まれているかを推定する画像合成推定ステップと(例えば、図4のS73)、撮像部に対して撮影を指示する撮影指示ステップ(例えば、図4のS75)を行い、撮影指示ステップでは、画像合成推定ステップにおける推定結果に基づき、撮像ステップにおいて複数回の撮影を指示している。このため、可能な限り多くの撮影枚数を確保でき、十分な画質の合成画像を生成することができる。
また、本発明の一実施形態においては、画像合成推定ステップにおいて合成する可能性のあると推定された撮影コマに対して、撮影を指示するようにしている。SDRAM127等のメモリの容量が限られている場合には、同時に記憶できる画像の数が限られてしまう。しかし、本実施形態によれば、合成する可能性がないと推定された撮影コマに対しては、本撮影を行わず、従ってメモリを有効に活用できる。
なお、本発明の一実施形態においては、レリーズ釦の2ndレリーズ操作がなされた後に、撮影・画像処理において(図3のS43参照)、画像合成推定を行っていた。しかし、このタイミングに限らず、例えば、レリーズ釦の1stレリーズ操作がなされた後、所定のタイミングで繰り返し行ってもよい。
また、本発明の一実施形態においては、画像合成として深度合成モードが設定されている場合について説明したが、例えば、ダイナミックレンジを広げるHDR合成や、解像度の高くする超解像合成等、他の合成モードが設定された場合でも、画像合成推定を行うようにしても勿論かまわない。この場合、画像解析は合成モードに応じて適宜変更すればよい。
また、本発明の一実施形態においては、撮影時に画像合成推定を行い、画像合成に不適な画像は、本撮影を行わないようにしていたが、これに限らず、撮影時には全ての画像について本撮影を行って画像データをメモリに記憶し、画像合成する際に、不適当な画像データは画像合成に使用しないようにしてもよい。
また、本発明の一実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォーン、携帯情報端末(PDA:Personal Digital Assist)、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、複数の画像データを合成可能な撮影機器であれば、本発明を適用することができる。また、複数の画像データを処理する画像処理装置であれば、本発明を適用することができる。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
10・・・カメラ、20・・・花、30・・・人、40・・・山、50・・・画像合成推定用画像、51・・・画像合成推定用画像、60・・・撮影指示撮像画像、61・・・撮影指示撮像画像、100・・・カメラ本体、101・・・メカシャッタ、103・・・撮像素子、105・・・アナログ処理部、107・・・A/D変換部、109・・・画像処理部、109a・・・基本画像処理部、109b・・・画像合成部、110・・・バス、111・・・AE処理部、113・・・AF処理部、115・・・画像合成推定部、117・・・撮影指示部、121・・・マイクロコンピュータ、123・・・操作部、125・・・フラッシュメモリ、127・・・SDRAM、129・・・メモリI/F、131・・・記録媒体、133・・・表示ドライバ、135・・・表示パネル、199・・・I/F、200・・・交換式レンズ、201・・・撮影レンズ、203・・・絞り、205・・・ドライバ、207・・・マイクロコンピュータ、209・・・フラッシュメモリ

Claims (10)

  1. 被写体を撮像して画像データを取得する撮像部と、
    上記画像データに基づいて合成用画像データを合成する画像合成部と、
    上記画像合成部において、合成する可能性がある被写体が含まれているかを推定する画像合成推定部と、
    上記撮像部に対して撮影を指示する撮影指示部と、
    を具備し、
    上記撮影指示部は、上記画像合成推定部の推定結果に基づき、上記撮像部に対して複数回の撮影を指示することを特徴とする撮像装置。
  2. 上記画像合成推定部は、上記撮像部に異なる複数の状態となる複数の撮像を指示し、推定に使用する複数の推定用画像データを取得し、上記複数の推定用画像データを解析することで、上記複数の状態に応じた画像合成を行うかどうかの可否判断を行うことを特徴とする請求項1に記載の撮像装置。
  3. 上記状態は、フォーカスレンズのフォーカス位置であることを特徴とする請求項2に記載の撮像装置。
  4. 上記画像合成推定部は、複数のフォーカス位置で上記推定用画像データを撮像させ、上記推定用画像データのコントラストを解析し、コントラストに応じて可否判断を行うことを特徴とする請求項3に記載の撮像装置。
  5. 上記画像合成推定部は、上記コントラストが低い画像データを否と判断することを特徴とする請求項4に記載の撮像装置。
  6. 上記撮影指示部は、上記画像合成推定部の判定が可となった画像データ数を撮影回数とすること特徴とする請求項2に記載の撮像装置。
  7. 上記画像合成推定部は、少なくとも一つの上記状態を変更し、複数の上記推定用画像データを撮像させ、上記被写体の移動量を解析し、上記移動量に応じて可否判断を行うことを特徴とする請求項2に記載の撮像装置。
  8. 上記画像合成推定部は、上記被写体の移動量が大きい画像データの前後のフォーカス位置で撮影された画像を否と判断することを請求項7に記載の撮像装置。
  9. 撮像部において被写体を撮像して画像データを取得する撮像ステップと、
    上記撮像ステップで取得した複数の画像データを合成する画像合成ステップと、
    上記画像合成ステップにおいて、合成する可能性がある被写体が含まれているかを推定する画像合成推定ステップと、
    上記撮像部に対して撮影を指示する撮影指示ステップと、
    を具備し、
    上記撮影指示ステップでは、上記画像合成推定ステップにおける推定結果に基づき、上記撮像ステップにおいて複数回の撮影を指示することを特徴とする撮像方法。
  10. 撮像装置のコンピュータを実行させるためのプログラムであって、
    撮像部において被写体を撮像して画像データを取得する撮像ステップと、
    上記撮像ステップで取得した複数の画像データを合成する画像合成ステップと、
    上記画像合成ステップにおいて、合成する可能性がある被写体が含まれているかを推定する画像合成推定ステップと、
    上記撮像部に対して撮影を指示する撮影指示ステップと、
    を具備し、
    上記撮影指示ステップでは、上記画像合成推定ステップにおける推定結果に基づき、上記撮像ステップにおいて複数回の撮影を指示することを特徴とするプログラム。
JP2014036340A 2014-02-27 2014-02-27 撮像装置、撮像方法、およびプログラム Active JP6325841B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014036340A JP6325841B2 (ja) 2014-02-27 2014-02-27 撮像装置、撮像方法、およびプログラム
US14/612,761 US9398230B2 (en) 2014-02-27 2015-02-03 Imaging device and imaging method
CN201510088749.0A CN104883480B (zh) 2014-02-27 2015-02-26 摄像装置和摄像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014036340A JP6325841B2 (ja) 2014-02-27 2014-02-27 撮像装置、撮像方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2015162779A true JP2015162779A (ja) 2015-09-07
JP6325841B2 JP6325841B2 (ja) 2018-05-16

Family

ID=53883469

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014036340A Active JP6325841B2 (ja) 2014-02-27 2014-02-27 撮像装置、撮像方法、およびプログラム

Country Status (3)

Country Link
US (1) US9398230B2 (ja)
JP (1) JP6325841B2 (ja)
CN (1) CN104883480B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7399247B2 (ja) 2019-02-28 2023-12-15 キヤノン株式会社 撮像装置及びその制御方法及びプログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6325885B2 (ja) * 2014-05-12 2018-05-16 オリンパス株式会社 撮像装置、撮像方法、及びプログラム
JP6399869B2 (ja) * 2014-09-09 2018-10-03 キヤノン株式会社 被写体追尾装置、撮像装置、被写体追尾方法及びプログラム
US9894285B1 (en) * 2015-10-01 2018-02-13 Hrl Laboratories, Llc Real-time auto exposure adjustment of camera using contrast entropy
JP6702777B2 (ja) * 2016-04-12 2020-06-03 キヤノン株式会社 撮像装置、撮像方法、及びプログラム
CN109690568A (zh) * 2016-09-12 2019-04-26 华为技术有限公司 一种处理方法及移动设备
CN110933288B (zh) * 2018-09-19 2021-05-18 聚晶半导体股份有限公司 图像产生方法与电子装置
JP7100574B2 (ja) * 2018-12-21 2022-07-13 ルネサスエレクトロニクス株式会社 半導体装置、画像処理方法およびプログラム
CN111726526B (zh) * 2020-06-22 2021-12-21 Oppo广东移动通信有限公司 一种图像处理方法、装置、电子设备和存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0987885A2 (en) * 1998-09-16 2000-03-22 Olympus Optical Co., Ltd. Image pickup apparatus
JP2002223386A (ja) * 2001-01-25 2002-08-09 Olympus Optical Co Ltd 撮影装置
JP2010154306A (ja) * 2008-12-25 2010-07-08 Olympus Corp 撮像制御装置、撮像制御プログラム及び撮像制御方法
JP2010206552A (ja) * 2009-03-03 2010-09-16 Ricoh Co Ltd 撮像装置、再生表示装置、撮像記録方法および再生表示方法
US20110050983A1 (en) * 2009-08-31 2011-03-03 Nec Electronics Corporation Apparatus, method, and program product for autofocus
JP2012156747A (ja) * 2011-01-26 2012-08-16 Casio Comput Co Ltd 撮像装置、画像合成方法、及びプログラム
WO2012132486A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
US20130044254A1 (en) * 2011-08-18 2013-02-21 Meir Tzur Image capture for later refocusing or focus-manipulation
US20140204236A1 (en) * 2013-01-23 2014-07-24 Samsung Electronics Co., Ltd Apparatus and method for processing image in mobile terminal having camera

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6614998B1 (en) * 1999-10-18 2003-09-02 Fuji Photo Film Co., Ltd. Automatic focusing camera and shooting method
CN100477739C (zh) * 2004-12-16 2009-04-08 松下电器产业株式会社 复眼摄像装置
JP4678603B2 (ja) 2007-04-20 2011-04-27 富士フイルム株式会社 撮像装置及び撮像方法
EP2026567B1 (en) * 2007-07-31 2010-10-06 Ricoh Company, Ltd. Imaging device and imaging method
US8390729B2 (en) * 2007-09-05 2013-03-05 International Business Machines Corporation Method and apparatus for providing a video image having multiple focal lengths
JP5043595B2 (ja) * 2007-10-23 2012-10-10 富士フイルム株式会社 撮影装置および内視鏡システム
US9148582B2 (en) * 2012-06-29 2015-09-29 Intel Corporation Method and system for perfect shot imaging from multiple images

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000092378A (ja) * 1998-09-16 2000-03-31 Olympus Optical Co Ltd 撮像装置
US20060250515A1 (en) * 1998-09-16 2006-11-09 Olympus Optical Co., Ltd. Image pickup apparatus
EP0987885A2 (en) * 1998-09-16 2000-03-22 Olympus Optical Co., Ltd. Image pickup apparatus
JP2002223386A (ja) * 2001-01-25 2002-08-09 Olympus Optical Co Ltd 撮影装置
JP2010154306A (ja) * 2008-12-25 2010-07-08 Olympus Corp 撮像制御装置、撮像制御プログラム及び撮像制御方法
US20110298964A1 (en) * 2009-03-03 2011-12-08 Ricoh Company, Ltd. Imaging apparatus, reproduction display apparatus, image recording method, and reproduction displaying method
JP2010206552A (ja) * 2009-03-03 2010-09-16 Ricoh Co Ltd 撮像装置、再生表示装置、撮像記録方法および再生表示方法
CN102415090A (zh) * 2009-03-03 2012-04-11 株式会社理光 成像设备、再现显示设备、图像记录方法和再现显示方法
EP2404442A1 (en) * 2009-03-03 2012-01-11 Ricoh Company, Ltd. Imaging apparatus, reproduction display apparatus, image recording method, and reproduction displaying method
JP2011053255A (ja) * 2009-08-31 2011-03-17 Renesas Electronics Corp オートフォーカス装置、オートフォーカス方法及びプログラム
KR20110023724A (ko) * 2009-08-31 2011-03-08 르네사스 일렉트로닉스 가부시키가이샤 오토포커스를 위한 장치, 방법, 및 컴퓨터 판독가능 매체
US20110050983A1 (en) * 2009-08-31 2011-03-03 Nec Electronics Corporation Apparatus, method, and program product for autofocus
JP2012156747A (ja) * 2011-01-26 2012-08-16 Casio Comput Co Ltd 撮像装置、画像合成方法、及びプログラム
WO2012132486A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
US20130044254A1 (en) * 2011-08-18 2013-02-21 Meir Tzur Image capture for later refocusing or focus-manipulation
US20140204236A1 (en) * 2013-01-23 2014-07-24 Samsung Electronics Co., Ltd Apparatus and method for processing image in mobile terminal having camera

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7399247B2 (ja) 2019-02-28 2023-12-15 キヤノン株式会社 撮像装置及びその制御方法及びプログラム

Also Published As

Publication number Publication date
CN104883480A (zh) 2015-09-02
US20150244931A1 (en) 2015-08-27
CN104883480B (zh) 2019-03-08
JP6325841B2 (ja) 2018-05-16
US9398230B2 (en) 2016-07-19

Similar Documents

Publication Publication Date Title
JP6325885B2 (ja) 撮像装置、撮像方法、及びプログラム
JP6325841B2 (ja) 撮像装置、撮像方法、およびプログラム
JP6346793B2 (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP3873994B2 (ja) 撮像装置、及び画像取得方法
JP4787180B2 (ja) 撮影装置及び撮影方法
US10298862B2 (en) Imaging apparatus and imaging method
JP2017108309A (ja) 撮像装置および撮像方法
JP2013090095A (ja) 撮像装置、撮像方法、およびプログラム
JP6296914B2 (ja) 撮像装置、撮像装置の制御方法、及びプログラム
EP3249906A1 (en) Image-capturing device, image-capturing method, and image display device
JP6706167B2 (ja) 撮像装置、画像合成方法、およびプログラム
JP2015231192A (ja) 撮像装置および撮像装置の露光制御方法
JP6280780B2 (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP2007133810A (ja) 画像処理装置
JP5629456B2 (ja) 撮像装置及びその制御方法
JP6242244B2 (ja) 撮像装置、撮像方法、およびプログラム
JP2018006828A (ja) 撮像装置、その制御方法とプログラム
JP5530304B2 (ja) 撮像装置および撮影画像表示方法
JP2010062987A (ja) 撮像装置及び方法
JP4761039B2 (ja) 撮像装置
JP4329473B2 (ja) 画像処理装置及び画像処理プログラム
JP4985716B2 (ja) 撮像装置、合焦評価領域の設定方法、及び、プログラム
JP2009139423A (ja) 撮像装置及び被写体距離算出方法
JP2012239078A (ja) 撮影装置
JP5370662B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180413

R151 Written notification of patent or utility model registration

Ref document number: 6325841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250