以下、本発明の実施形態としてデジタルカメラに適用した例について説明する。このデジタルカメラは、撮像部を有し、この撮像部によって被写体像を画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタチャンスを決定する。レリーズ操作時には、画像データが記録媒体に記録される。記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
また、第1実施形態に係るカメラは、複数の画像データを合成する際に、基準となる画像データよりも、合成する画像データのサイズを小さくしてからSDRAM等の内部メモリに記憶する。このため限られた容量の内部メモリ内に多くの撮影画像データを記憶することができ、同じ容量の内部メモリの場合と比較すると、より高品位の合成画像を生成することができる。
図1は、本発明の第1実施形態に係るカメラの主として電気的構成を示すブロック図である。このカメラは、カメラ本体100と、これに脱着可能な交換式レンズ200とから構成される。なお、本実施形態においては、撮影レンズは交換レンズ式としたが、これに限らず、カメラ本体に撮影レンズが固定されるタイプのデジタルカメラであっても勿論かまわない。
交換式レンズ200は、撮影レンズ201、絞り203、ドライバ205、マイクロコンピュータ207、フラッシュメモリ209から構成され、後述するカメラ本体100との間にインターフェース(以後、I/Fと称す)199を有する。
撮影レンズ201は、被写体像を形成するための複数の光学レンズから構成され、単焦点レンズまたはズームレンズである。この撮影レンズ201の光軸の後方には、絞り203が配置されており、絞り203は開口径が可変であり、撮影レンズ201を通過した被写体光束の光量を制限する。また、撮影レンズ201はドライバ205によって光軸方向に移動可能であり、マイクロコンピュータ207からの制御信号に基づいて、撮影レンズ201のピント位置が制御され、ズームレンズの場合には、焦点距離も制御される。また、ドライバ205は、絞り203の開口径の制御も行う。
ドライバ205に接続されたマイクロコンピュータ207は、I/F199およびフラッシュメモリ209に接続されている。マイクロコンピュータ207は、フラッシュメモリ209に記憶されているプログラムに従って動作し、後述するカメラ本体100内のマイクロコンピュータ121と通信を行い、マイクロコンピュータ121からの制御信号に基づいて交換式レンズ200の制御を行う。
フラッシュメモリ209には、前述したプログラムの他、交換式レンズ200の光学的特性や調整値等の種々の情報が記憶されている。I/F199は、交換式レンズ200内のマイクロコンピュータ207とカメラ本体100内のマイクロコンピュータ121の相互間の通信を行うためのインターフェースである。
カメラ本体100内であって、撮影レンズ201の光軸上には、メカシャッタ101が配置されている。このメカシャッタ101は、被写体光束の通過時間を制御し、公知のフォーカルプレーンシャッタ等が採用される。このメカシャッタ101の後方であって、撮影レンズ201によって被写体像が形成される位置には、撮像素子103が配置されている。
撮像素子103は、撮像部としての機能を果たし、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されており、各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。各画素の前面には、ベイヤ―配列のRGBフィルタが配置されている。また、撮像素子103は電子シャッタを有している。電子シャッタは、撮像素子103の電荷蓄積から電荷読出までの時間を制御することにより露光時間の制御を行う。なお、撮像素子103はベイヤ配列に限定されず、例えばFoveon(登録商標)のような積層形式でも勿論かまわない。撮像素子103は被写体を撮像して画像データを出力する撮像部として機能する。
撮像素子103はアナログ処理部105に接続されており、このアナログ処理部105は、撮像素子103から読み出した光電変換信号(アナログ画像信号)に対し、リセットノイズ等を低減した上で波形整形を行い、さらに適切な輝度になるようにゲインアップを行う。
アナログ処理部105はA/D変換部107に接続されており、このA/D変換部107は、アナログ画像信号をアナログ―デジタル変換し、デジタル画像信号(以後、画像データという)をバス110およびRAWデータ圧縮部108に出力する。なお、本明細書においては、画像処理部109において画像処理される前の生の画像データをRAWデータと称する。
RAWデータ圧縮部108は、A/D変換部107から出力されたRAWデータの圧縮を行い、基準画像以外のRAWデータの取り込み時に使用する。基準画像は、複数枚の画像データを合成する際に、基準とする画像をいう。基準画像としては、後述する画像合成部109cにおいて合成を行う複数の画像データの内、最初に撮像された画像データ、またはピントの合っている画像データ、または適正露出で撮影された画像データのいずれかである。
RAWデータ圧縮部108は、A/D変換されたRAWデータに対して、折れ線またはテーブルを用い、入力データよりもデータ量の小さいデータに変換する。単純な下位ビット切り落としや、1未満の係数を乗じるような変換方法でもよいが、画像処理部109におけるガンマ変換を考慮し、折れ線やテーブルを用いた変換の方が、画質劣化を少なくすることができる。RAWデータ圧縮部108は、画像データのデータ量を削減し、基準画像データよりデータ量の少ない合成用画像データを生成する画像データ量削減部として機能する。この画像データ量削減部は、画像データ量の削減にあたっては、非可逆な方式によりデータ量を削減する。また、RAWデータ圧縮部108における圧縮特性については、図6を用いて後述する。
バス110は、カメラ本体100の内部で読み出され若しくは生成された各種データをカメラ本体100の内部に転送するための転送路である。バス110には、前述のA/D変換部107とRAWデータ圧縮部108の他、画像処理部109、AE(Auto Exposure)処理部111、AF(Auto Focus)処理部113、画像圧縮部115、画像伸張部117、マイクロコンピュータ121、SDRAM127、メモリインターフェース(以後、メモリI/Fという)129、表示ドライバ133が接続されている。
画像処理部109は、圧縮されたRAWデータを伸張するRAWデータ伸張部109aと、通常の画像処理を行う基本画像処理部109bと、画像合成を行う画像合成部109cを有する。複数の画像を合成する場合には、RAWデータ伸張部109a、基本画像処理部109b、および画像合成部109cを使用する。
基準画像以外の画像データは、RAWデータ圧縮部108によって圧縮されており、RAWデータ伸張部109aは、圧縮されたRAWデータの伸張を行う。RAWデータ伸張部109aは、RAWデータ圧縮部108の逆特性を適用し、A/D変換直後と同様のデータに変換する。圧縮が可逆であれば、同一のデータになり、また不可逆圧縮であれば、同様のデータに変換する。一般には、A/D変換後のデータは、露光量に対してリニアな特性のため、SDRAMに記憶されている圧縮されたRAWデータをリニアなRAWデータに変換する。RAWデータ伸張部109aにおける伸張特性は、図7を用いて後述する。
基本画像処理部109bは、RAWデータに対して、オプティカルブラック(OB)減算処理、ホワイトバランス(WB)補正、ベイヤデータの場合に行う同時化処理、色再現処理、ガンマ補正処理、カラーマトリックス演算、ノイズリダクション(NR)処理、エッジ強調処理等を行う。1枚撮影で、かつ特殊効果等が設定されていない場合には、この基本画像処理部109aによる処理のみで画像処理が完了する。
画像合成部109cは、設定されている合成モード等応じて種々の画像合成を行う。この画像合成部109cは、基準画像データと合成用画像データを用いて画像データの合成を行い、合成画像データを生成する画像合成部として機能する。本実施形態においては、後述するように、ダイナミックレンジを広げるHDR合成、被写界の深度を深くする深度合成、および解像度の高くする超解像合成の3種類の合成モードが設定可能である。HDR合成モードが設定されている場合には、画像合成部109cは、複数の露光量で撮影した複数の画像データに対し、基準画像に対して位置合わせと合成を行うことで、単写よりも広いダイナミックレンジの画像を生成する。
また、深度合成モードが設定されている場合には、画像合成部109cは、複数のフォーカス位置で撮影した複数の画像データに対し、基準画像に対して位置合わせと合成を行うことで、単写とは異なる被写界深度の画像を生成する。超解像合成モードが設定されている場合には、画像合成部109cは、複数の画像データに対し、基準画像に対して位置合わせと合成を行うことがで、単写よりも解像感のある画像を生成する。
AE処理部111は、バス110を介して入力した画像データに基づいて被写体輝度を測定し、この被写体輝度情報を、バス110を介してマイクロコンピュータ121に出力する。被写体輝度の測定のために専用の測光センサを設けても良いが、本実施形態においては、画像データに基づいて被写体輝度を算出する。
AF処理部113は、画像データから高周波成分の信号を抽出し、積算処理により合焦評価値を取得し、バス110を介してマイクロコンピュータ121に出力する。本実施形態においては、いわゆるコントラスト法によって撮影レンズ201のピント合わせを行う。この実施形態では、コントラスト法によるAF制御を例にとって説明したが、被写体光束を分割し、その光路上に位相差センサを設け、または撮像素子上に位相差センサを設け、位相差AFによるAF制御によりピント合わせを行ってもよい。
画像圧縮部115は、画像データの記録媒体131への記録時に、SDRAM127から読み出した画像データを、静止画の場合にはJPEG圧縮方式等、また動画の場合にはMPEG等の各種圧縮方式に従って圧縮する。
また、画像伸張部117は、画像再生表示用にJPEG画像データやMPEG画像データの伸張も行う。伸張にあたっては、記録媒体131に記録されているファイルを読み出し、画像伸張部115において伸張処理を施した上で、伸張した画像データをSDRAM127に一時記憶する。なお、本実施形態においては、画像圧縮方式としては、JPEG圧縮方式やMPEG圧縮方式を採用するが、圧縮方式はこれに限らずTIFF、H.264等、他の圧縮方式でも勿論かまわない。また、圧縮方式は、可逆圧縮でも、非可逆圧縮でもよい。
マイクロコンピュータ121は、このカメラ全体の制御部としての機能を果たし、フラッシュメモリ125に記憶されているプログラムに従って、カメラの各種シーケンスを総括的に制御する。マイクロコンピュータ121には、前述のI/F199以外に、操作部123およびフラッシュメモリ125が接続されている。
操作部123は、電源釦、レリーズ釦、動画釦、再生釦、メニュー釦、十字キー、OK釦等、各種入力釦や各種入力キー等の操作部材を含み、これらの操作部材の操作状態を検知し、検知結果をマイクロコンピュータ121に出力する。マイクロコンピュータ121は、操作部123からの操作部材の検知結果に基づいて、ユーザの操作に応じた各種シーケンスを実行する。電源釦は、当該デジタルカメラの電源のオン/オフを指示するための操作部材である。電源釦が押されると当該デジタルカメラの電源はオンとなり、再度、電源釦が押されると当該デジタルカメラの電源はオフとなる。
レリーズ釦は、半押しでオンになるファーストレリーズスイッチと、半押しから更に押し込み全押しとなるとオンになるセカンドレリーズスイッチからなる。マイクロコンピュータ121は、ファーストレリーズスイッチがオンとなると、AE動作やAF動作等の撮影準備シーケンスを実行する。また、セカンドレリーズスイッチがオンとなると、メカシャッタ101等を制御し、撮像素子103等から被写体画像に基づく画像データを取得し、この画像データを記録媒体131に記録する一連の撮影シーケンスを実行して撮影を行う。
動画釦は、動画撮影の開始と終了を指示するための操作釦であり、最初に動画釦を操作すると動画撮影を開始し、再度、操作すると動画撮影を終了する。再生釦は、再生モードの設定と解除するための操作釦であり、再生モードが設定されると、記録媒体131から撮影画像の画像データを読み出し、表示パネル135に撮影画像を再生表示する。
メニュー釦は、メニュー画面を表示パネル135に表示させるための操作釦である。メニュー画面上では、各種のカメラ設定を行うことができる。カメラ設定としては、例えば、HDR合成、深度合成、および超解像合成等の合成モードがある。
フラッシュメモリ125は、マイクロコンピュータ121の各種シーケンスを実行するためのプログラムを記憶している。マイクロコンピュータ121はこのプログラムに基づいてカメラ全体の制御を行う。
SDRAM127は、画像データ等の一時記憶用の電気的書き換え可能な揮発性メモリである。このSDRAM127は、A/D変換部107から出力された画像データや、画像処理部109、画像圧縮部115、画像伸張部117等において処理された画像データを一時記憶する。
メモリI/F129は、記録媒体131に接続されており、画像データや画像データに添付されたヘッダ等のデータを、記録媒体131に書き込みおよび読出しの制御を行う。記録媒体131は、例えば、カメラ本体100に着脱自在なメモリカード等の記録媒体であるが、これに限らず、カメラ本体100に内蔵されたハードディスク等であっても良い。記録媒体131は、合成画像データを記録する画像記録部として機能する。
表示ドライバ133は、表示パネル135に接続されており、SDRAM127や記録媒体131から読み出され、画像伸張部117によって伸張された画像データに基づいて画像を表示パネル135において表示させる。表示パネル135は、カメラ本体100の背面等に配置され、画像表示を行う。表示パネル135は、背面等のカメラ本体の外装部に表示面が配置されることから、外光の影響を受け易い表示部であるが、大型の表示パネルを設定することが可能である。なお、表示部としては、液晶表示パネル(LCD、TFT)、有機EL等、種々の表示パネルを採用できる。
表示パネル135における画像表示としては、撮影直後、記録される画像データを短時間だけ表示するレックビュー表示、記録媒体131に記録された静止画や動画の画像ファイルの再生表示、およびライブビュー表示等の動画表示が含まれる。
次に、図2よび図3に示すフローチャートを用いて、本実施形態におけるカメラのメイン処理について説明する。なお、図2、図3、および後述する図4、図5、図9、図10、図12、図13に示すフローチャートは、フラッシュメモリ125に記憶されているプログラムに従ってマイクロコンピュータ121が各部を制御し実行する。
操作部123の内の電源釦が操作され、電源オンとなると、図2に示すメインフローが動作を開始する。動作を開始すると、まず、初期化を実行する(S1)。初期化としては、機械的初期化や各種フラグ等の初期化等の電気的初期化を行う。各種フラグの1つとして、動画記録中か否かを示す記録中フラグをオフにリセットする(ステップS13、S15、S31等参照)。
初期化を行うと、次に、再生釦が押されたか否かを判定する(S3)。ここでは、操作部123内の再生釦の操作状態を検知し、判定する。この判定の結果、再生釦が押された場合には、再生・編集を実行する(S5)。ここでは、記録媒体131から画像データを読み出し、LCD135に静止画と動画の一覧を表示する。ユーザは十字キーを操作することにより、一覧の中から画像を選択し、OK釦により画像を確定する。また、選択している画像の編集を行うことができる。
ステップS5における再生・編集を実行すると、またはステップS3における判定の結果、再生釦が押されていなかった場合には、カメラ設定を行うか否かを判定する(S7)。操作部123の内のメニュー釦が操作された際に、メニュー画面においてカメラ設定を行う。そこで、このステップでは、このカメラ設定が行われたか否かに基づいて判定する。
ステップS7における判定の結果、カメラ設定の場合には、カメラ設定を行う(S9)。前述したように、種々のカメラ設定をメニュー画面で行うことができる。カメラ設定としては、前述したように、例えば、撮影モードとしては、通常撮影、HDR合成、深度合成、超解像合成等のモードが設定可能である。また、静止画記録モードとしては、JPEG記録、TIFF記録、JPEG−RAW記録、RAW記録等のモードが設定可能である。動画記録モードとしては、Motion JPEG記録、H.264記録等のモードの設定が可能である。画質モードとしては、ファイン(Fine)、ノーマル(Normal)等のモードが設定可能である。
ステップS9においてカメラ設定を行うと、またはステップS7における判定の結果、カメラ設定でなかった場合には、次に、動画釦が押されたか否かの判定を行う(S11)。ここでは、マイクロコンピュータ121は操作部123から動画釦の操作状態を入力し、判定する。
ステップS11における判定の結果、動画釦が押された場合には、記録中フラグの反転を行う(S13)。記録中フラグは、動画撮影中にはオン(1)が設定され、動画を撮影していない場合にはオフ(0)にリセットされている。このステップにおいては、フラグを反転、すなわちオン(1)が設定されていた場合には、オフ(0)に反転させ、オフ(0)が設定されていた場合には、オン(1)に反転させる。
ステップS13において記録中フラグの反転を行うと、次に、動画記録中か否を判定する(S15)。ここでは、ステップS13において反転された記録中フラグがオンに設定されているか、オフに設定されているかに基づいて判定する。
ステップS15における判定の結果、動画記録中の場合には、動画ファイルを生成する(S19)。後述するステップS61において動画の記録を行うが、このステップでは、動画記録用の動画ファイルを生成し、動画の画像データを記録できるように準備する。
一方、判定の結果、動画記録中でない場合には、動画ファイルを閉じる(S17)。動画釦が操作され、動画撮影が終了したことから、このステップで動画ファイルを閉じる。動画ファイルを閉じるにあたって、動画ファイルのヘッダにフレーム数を記録する等により、動画ファイルとして再生可能な状態にし、ファイル書き込みを終了する。
ステップS17において動画ファイルを閉じると、またはステップS19において動画ファイルを生成すると、またはステップS11における判定の結果、動画釦が押されていない場合には、次に、動画記録中か否かの判定を行う(S31)。このステップでは、ステップS15と同様に、記録中フラグのオンかオフに基づいて判定する。
ステップS31における判定の結果、動画記録中でない場合には、レリーズ釦が半押しされたか否か、言い換えると、ファーストレリーズスイッチがオフからオンとなったか否かの判定を行う(S33)。この判定は、レリーズ釦に連動するファーストレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて行う。検知の結果、ファーストレリーズスイッチがオフからオンに遷移した場合には判定結果はYesとなり、一方、オン状態またはオフ状態が維持されている場合には、判定結果はNoとなる。
ステップS33における判定の結果、レリーズ釦が半押しされ、オフからファーストレリーズに遷移した場合には、AE・AF動作を実行する(S35)。ここでは、AE処理部111が、撮像素子103によって取得された画像データに基づいて被写体輝度を検出し、この被写体輝度に基づいて、適正露出となるシャッタ速度、絞り値等を算出する。
また、ステップS33においては、AF動作を行う。ここでは、AF処理部113によって取得された合焦評価値がピーク値となるように、交換式レンズ200内のマイクロコンピュータ207を介してドライバ205が撮影レンズ201のピント位置を移動させる。したがって、動画撮影を行っていない場合に、レリーズ釦が半押しされると、その時点で、撮影レンズ201のピント合わせを行う。その後、ステップS35へ進む。
ステップS31における判定の結果、レリーズ釦がオフからファーストレリーズに遷移しなかった場合には、次に、レリーズ釦が全押しされ、セカンドレリーズスイッチがオンになったか否かの判定を行う(S41)。このステップでは、レリーズ釦に連動するセカンドレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて判定を行う。
ステップS41における判定の結果、レリーズ釦が全押しされ、セカンドレリーズスイッチがオンになった場合には、撮影・画像処理を行う(S43)。ここでは、ステップS33において演算された絞り値で絞り203が制御され、また演算されたシャッタ速度でメカシャッタ101のシャッタ速度が制御される。そして、シャッタ速度に応じた露光時間が経過すると、撮像素子103から画像信号が読み出され、アナログ処理部105およびA/D変換部107によって処理されたRAWデータがバス110に出力される。
また、ステップS43においては、撮影を行うと画像処理を行う。撮像素子103で取得されたRAWデータを読出し、画像処理部109によって画像処理を行う。また、画像合成モードが設定されている場合には、このステップにおいて、画像合成モードに応じて複数回の撮影が行われ、画像合成の際に使用する画像データが記録媒体133等に一時的に退避する。この撮影・画像処理の詳しい動作については、図4および図5を用いて後述する。
撮影・画像処理を行うと、次に静止画記録を行う(S45)。ここでは、画像処理が施された静止画の画像データを記録媒体131に記録する。静止画記録にあたっては、設定されている形式で記録を行う。JPEGが設定されている場合には、画像処理済みデータを画像圧縮部115においてJPEG圧縮して記録する。またTIFF形式の場合には、RGBデータに変換してRGB形式で記録する。また、RAW記録が設定されている場合に、撮影によって取得したRAWデータと合成を行った場合には、合成RAWデータも記録する。ここで、撮影によって取得したRAWデータを合成した場合、合成する前の複数のRAWデータを記録し、ステップS5において複数のRAWデータを1セットとしてユーザが選択可能にし、ユーザが編集を指示した場合には、ステップS43における画像処理部分のみ(図5参照)を処理するようにしてもよい。画像データの記録先は、カメラ本体内の記録媒体131でもよいし、通信部(不図示)を介して外部の機器へ記録するようにしてもよい。
ステップS41における判定の結果、レリーズ釦2ndでなかった場合、またはステップS31における判定の結果、動画記録中であった場合には、次に、AEを行う(S51)。前述のステップS41の判定がNoであった場合は、レリーズ釦に対して何ら操作を行っていない場合であり、この場合には後述するステップS57においてライブビュー表示を行う。また、前述のステップS31の判定がYesであった場合は、動画記録中である。このステップでは、適正露出でライブビュー表示または動画撮影を行うための撮像素子103の電子シャッタのシャッタ速度およびISO感度を算出する。
AEを行うと、次に、電子シャッタによる撮影を行う(S53)。ここでは、被写体像を画像データに変換する。すなわち、撮像素子103の電子シャッタによって決まる露光時間の間、電荷蓄積を行い、露光時間が経過すると蓄積電荷を読み出することにより画像データを取得する。
電子シャッタによる撮影を行うと、次に、取得した画像データに対して画像処理を行う(S55)。このステップでは、基本画像処理部109bによって、WB補正、カラーマトリックス演算、ガンマ変換、エッジ強調、ノイズリダクションン等の基本画像処理を行う。
基本画像処理を行うと、次に、ライブビュー表示を行う(S57)。このステップでは、ステップS55における基本画像処理された画像データを用いて、表示パネル135にライブビュー表示を行う。すなわち、ステップS53において画像データを取得し、画像処理を行ったことから、この処理された画像を用いて、ライブビュー表示の更新を行う。撮影者はこのライブビュー表示を観察することにより、構図やシャッタタイミングを決定することができる。
ステップS57においてライブビュー表示を行うと、次に、動画記録中か否かの判定を行う(S59)。ここでは、記録中フラグがオンか否かを判定する。この判定の結果、動画記録中であった場合には、動画記録を行う(S61)。ここでは、撮像素子103から読み出される撮像データを動画用の画像データに画像処理を行い、動画ファイルに記録する。
ステップS61において動画記録を行うと、またはステップS59における判定の結果、動画記録中でない場合、またはステップS45において静止画記録を行うと、またはステップS35において、AE・AFを行うと、次に、電源オフか否かの判定を行う(S37)。このステップでは、操作部123の電源釦が再度、押されたか否かを判定する。この判定の結果、電源オフではなかった場合には、ステップS3に戻る。一方、判定の結果、電源オフであった場合には、メインフローの終了動作を行ったのち、このメインフローを終了する。
このように本発明の第1実施形態におけるメインフローにおいては、画像合成モード等の設定が可能であり(S9)、画像合成モードが設定されると、撮影・画像処理において、画像合成モードに応じて複数回、撮影が行われ(S43)、合成された画像データが記録される(S45)。
なお、ステップS45またはS61において、画像データを記録媒体131に記録する際に、後述するステップS115、S127、S138において画像データを圧縮し、S157、S167、S177において画像合成を行った場合には、合成画像データに削減情報を添付の上、記録媒体に131に記録してもよい。この場合、削減情報としては、データ量削減の有無の他に、例えば、削減率等であってもよい。
また、ステップS115、S127、S137において、画像データの削減を行うにあたって、RAWデータ圧縮部は、画像データのデータ量に応じて、またカメラの外部にデータ送信する際の送信先の条件に応じて、画像データの削減量(削減率)を変更するようにしてもよい。
次に、図4および図5に示すフローチャートを用いて、ステップS43の撮影・画像処理の詳しい動作について説明する。撮影・画像処理のフローに入ると、まず、適正露出撮影を行う(S101)。ここでは、レリーズ釦が半押しされた際に、ステップS35において算出された露出条件で撮影を行う。また、ステップS35において焦点調節が行われていることから、合焦状態で撮影を行う。なお、撮影モード等によっては、このステップでの撮影は適正露光としなくてもよく、また非合焦状態でもよい。
適正露出撮影を行うと、次に、RAW取り込みを行う(S103)。ステップS101における撮影は基準画像であり、画質を優先するために、RAWデータ圧縮部108によってデータ圧縮を行うことなく、非圧縮でRAW画像データを取り込みSDRAM127に記憶する。ここでは、撮像素子103が画像データから基準画像を生成する基準画像生成部として機能する。
RAW取り込みを行うと、次に、HDR合成か否かを判定する(S105)。ステップS9のカメラ設定において、撮影モードとしてHDR合成モードが設定されたか否かを判定する。HDR合成モードは、前述したように、異なる露光量で順次撮影することによって取得した複数の画像データを用いて、単写よりも広いダイナミックレンジの画像を生成するモードである。
ステップS105における判定の結果、HDR合成の場合には、露光量変更を行う(S111)。露光量を、例えば、ステップS35で決定した適正露光条件に対して、−1段、+1段と順次変更する。露光量を変更すると、合成用画像の撮影を行う(S113)。ここでは、ステップS111において変更した露光量に従って撮影を行う。
撮影を行うと、RAW圧縮取り込みを行う(S115)。露光量を変更して撮影した画像は基準画像でないことから、多少の画質の劣化は許容される。そこで、画像データの容量を小さくするために、読み出された画像データを、RAWデータ圧縮部108によってデータ圧縮し、この圧縮したRAW画像データを合成用画像RAWデータとしてSDRAM127に一時記憶する。
RAW圧縮取り込みを行うと、次に、合成用画像の撮影枚数が所定枚数か否かを判定する(S117)。ここでは、HDR合成を行うために設定されている枚数、例えば、合成用画像の撮影枚数が2枚に達したか否かを判定する。この判定の結果、所定枚数に達していない場合には、ステップS111に戻り、HDR合成のための撮影を続行する。
ステップS105における判定の結果、HDR合成でない場合には、次に、深度合成か否かを判定する(S121)。ステップS9のカメラ設定において、撮影モードとして深度合成モードが設定されたか否かを判定する。深度合成モードは、前述したように、異なるフォーカス位置で順次撮影することによって取得した複数の画像データを用いて、単写とは異なる被写界深度の画像を生成するモードである。
ステップS121における判定の結果、深度合成の場合には、フォーカス移動を行う(S123)。ここでは、交換式レンズ200内のマイクロコンピュータ207に対して、撮影レンズ201を所定フォーカス位置に順次移動させるように指示する。所定位置としては、例えば、至近側から無限遠まで1/8ステップずつ変更させた位置でもよい。
フォーカス移動を行うと、次に、適正露出撮影を行う(S125)。ここでは、露光量を、ステップS35で決定した適正露光条件に従って、合成用画像の撮影を行う。適正露出撮影を行うと、次に、ステップS115と同様に、RAW圧縮取り込みを行う(S127)。ここでは、読み出された画像データを、RAWデータ圧縮部108によってデータ圧縮し、この圧縮したRAW画像データを合成用画像RAWデータとしてSDRAM127に一時記憶する。
RAW圧縮取り込みを行うと、次に、合成用画像の撮影枚数が所定枚数か否かを判定する(S129)。ここでは、深度合成を行うために設定されている枚数、例えば、フォーカス位置のステップ数を1/8に設定した場合には、合成用画像の撮影枚数が所定枚数=8枚に達したか否かを判定する。この判定の結果、所定枚数に達していない場合には、ステップS123に戻り、深度合成のための撮影を続行する。
ステップS121における判定の結果、深度合成でない場合には、次に、超解像合成か否かを判定する(S131)。ステップS9のカメラ設定において、撮影モードとして超解像合成モードが設定されたか否かを判定する。超解像合成モードは、前述したように、複数の画像データを用いて、単写よりも解像感のある画像を生成するモードである。具体的には、センサ手振れ補正の場合にはセンサ(撮像素子103)を、またレンズ手振れ補正の場合には補正用レンズを、例えば、センサの1画素分ずらしながら、順次複数の撮影を行う。複数の画像データを取得すると、これらの画像データを用いて、単写とは異なる解像度の高い画像を生成するモードである。
ステップS131における判定の結果、超解像合成の場合には、光軸微移動を行う(S133)。ここでは、センサ手振れの場合には、撮像素子103を、例えば、1画素分移動させるように、センサの位置を光軸と直交する面内で微移動させる。
光軸微移動を行うと、ステップS125と同様に、適正露出撮影を行う(S135)。ここでは、露光量を、ステップS35で決定した適正露光条件に従って、合成用画像の撮影を行う。適正露出撮影を行うと、次に、ステップS115と同様に、RAW圧縮取り込みを行う(S137)。ここでは、読み出された画像データを、RAWデータ圧縮部108によってデータ圧縮し、この圧縮したRAW画像データを合成用画像RAWデータとしてSDRAM127に一時記憶する。
RAW圧縮取り込みを行うと、次に、合成用画像の撮影枚数が所定枚数か否かを判定する(S139)。ここでは、超解像合成を行うために設定されている所定枚数、例えば、最初に撮影した位置から、左へ1画素、下へ1画素、左下へ各1画素、ずらした3枚に達したか否かを判定する。この判定の結果、合成用画像の撮影枚数が所定枚数に達していない場合には、ステップS133に戻り、超解像合成のための撮影を続行する。
ステップS117、S129、S139における判定の結果、所定枚数に達すると、次に、ステップS151以下において画像合成を行う。まず、ステップS105と同様に、HDR合成か否かを判定する(S151)。この判定の結果、HDR合成であった場合には、次に、RAW取得と伸張を行う(S153)。基準画像のRAWデータと合成用画像のRAWデータをSDRAM127から取得する。この場合、基準画像のRAWデータは非圧縮であるが、合成用画像のRAWデータは圧縮されているので、合成用画像のRAWデータについては、RAWデータ伸張部109aにおいて伸張処理を行う。
RAW取得と伸張を行うと、次に、位置合わせを行う(S155)。ここでは、ステップS153において取得した基準画像のRAWデータと合成用画像のRAWデータの画像の部分部分で位置合わせを行う。
位置合わせを行うと、次に、HDR合成を行う(S157)。ここでは、基準画像のRAWデータに対して、異なる露光量で順次撮影された合成用のRAWデータを順次読出し、この読み出された合成用RAWデータを用いて、単写よりも広いダイナミックレンジの画像を生成する。
HDR合成を行うと、次に、ステップS117と同様に、合成した合成用画像が所定枚数に達したか否かを判定する(S159)。ここでは、HDR合成用に撮影された枚数について、HDR合成を行ったか否かを判定する。この判定の結果、所定枚数に達していなかった場合には、ステップS153に戻り、HDR合成を続行する。
ステップS151における判定の結果、HDR合成でなかった場合には、次に、ステップS121と同様に、深度合成か否かを判定する(S161)。この判定の結果、深度合成の場合には、ステップS153と同様にRAW取得と伸張を行う(S163)。続いて、ステップS155と同様に、位置合わせを行う(S165)。
位置合わせを行うと、次に、深度合成を行う(S167)。ここでは、基準画像のRAWデータに対して、異なるフォーカス位置で順次撮影された合成用のRAWデータを順次読出し、この読み出された合成用RAWデータを用いて、単写とは異なる被写界深度の画像を生成する。
深度合成を行うと、次に、ステップS129と同様に、合成した合成用画像が所定枚数に達したか否かを判定する(S169)。ここでは、深度合成用に撮影された枚数について、深度合成を行ったか否かを判定する。この判定の結果、所定枚数に達していなかった場合には、ステップS163に戻り、深度合成を続行する。
ステップS161における判定の結果、深度合成でなかった場合には、次に、ステップS131と同様に、超解像合成か否かを判定する(S171)。この判定の結果、超解像合成の場合には、ステップS153と同様にRAW取得と伸張を行う(S173)。続いて、ステップS155と同様に、位置合わせを行う(S175)。
位置合わせを行うと、次に、超解像合成を行う(S177)。ここでは、基準画像のRAWデータに対して、異なる光軸位置で順次撮影された合成用のRAWデータを順次読出し、この読み出された合成用RAWデータを用いて、単写とは異なる解像感の画像を生成する。
超解像合成を行うと、次に、ステップS139と同様に、合成した合成用画像が所定枚数に達したか否かを判定する(S179)。ここでは、超解像合成用に撮影された枚数について、超解像合成を行ったか否かを判定する。この判定の結果、所定枚数に達していなかった場合には、ステップS173に戻り、超解像合成を続行する。
ステップS159、S169、S179における判定の結果、所定枚数であれば、次に、基本画像処理を行う(S181)。ここでは、ステップS157、S167、S177において合成されたRAWデータに対して、基本画像処理部109bが基本画像処理、すなわちWB補正、カラーマトリックス演算、ガンマ変換、エッジ強調、ノイズリダクション等の画像を行う。基本画像処理を行うと、撮影・画像処理のフローを終了し、元のフローに戻る。
このように、本実施形態における撮影・画像処理のフローにおいては、最初に適正露出で基準画像を撮影し、基準画像のRAWデータを非圧縮で取り込み(S103)、その後、設定された撮影モード(合成モード)に沿った撮影を行うと(S111、S113、S123、S125、S133、S135)、取得したRAWデータを圧縮して取り込んでいる(S115、S127、S135)。このように、画像合成用の画像データは、圧縮して一時記憶しているので、一時記憶用のメモリの容量が小さくても、画像合成用に多数の画像を取得することができ、合成画像の画質を向上させることができる。
次に、図6を用いて、RAWデータ圧縮部108における圧縮特性について説明する。図6(a)は、撮影モードとして、HDR合成モードが設定された場合の圧縮特性を示し、ステップS115(図4)におけるRAW圧縮の際に使用される圧縮特性である。図6(a)と図6(b)では、横軸が入力輝度を、縦軸が出力を示す。ここで示した圧縮特性で圧縮したデータを、入力輝度よりも少ないビット数でサンプリングすることにより、画質低下を最小限にしながらRAWデータを圧縮できる。
図6(a)に示す例では、HDR合成を行うために、適正露光で撮影した基準画像の他に、適正露光よりも+1段オーバー露光での画像と、−1段アンダー露光での画像を取得する。すなわち、HDR合成では、オーバー撮影(+1段撮影)した画像は暗部階調があるため暗部を、アンダー撮影(−1段撮影)した画像は明部階調があるため明部を主として合成に使用する。
RAWデータ圧縮部108は、+1段オーバー露光で取得したRAWデータに対しては、被写体の暗い部分について再現しやすくするために、圧縮特性ラインLC(+1)に沿ったRAW圧縮を行う。すなわち、オーバー撮影した場合には、暗部の階調を保持し明部の階調を圧縮する。一方、−1段アンダー露光で取得したRAWデータに対しては、被写体の明るい部分について再現しやすくために、圧縮特性ラインLC(−1)に沿ったRAW圧縮を行う。すなわち、アンダー撮影した場合には、明部の階調をできるだけ保持し、暗部の階調を圧縮する。
なお、図6(a)に示す図では、圧縮特性ラインLC(+1)、LC(−1)を折れ線としているが、なめらかなカーブを描くような特性としてもよい。折れ線状の特性ラインの場合には、ハードウエアの規模を小さくすることができる。特に傾きが2のべき乗(2のk乗:kは整数)の折れ線状の特性にすると、乗算することなくビットシフトを用いて入力値と出力値の相互の変換演算が可能になる。
図6(b)は、撮影モードとして、深度合成または超解像合成が設定された場合の圧縮特性ラインLCの一例を示し、ステップS127、S137(図4)におけるRAW圧縮の際の圧縮特性である。図中、横軸が入力輝度、縦軸が出力である。
深度合成では、コントラストの高い部分を基準画像に合成する。また超解像合成では、単写での画素の間に、位置をずらして撮影した画像の画素に基づくデータを補間挿入する。よって、輝度に応じて合成部分を変えるわけではない。そこで、RAWデータを用いて合成した後に画像処理で用いるガンマ特性に類する特性でデータを圧縮する。これにより、合成後に画像処理したときに、トーンジャンプなどの画質劣化を最小限に抑えることができる。なお、図6(b)では、圧縮特性ラインLCは、なめらかなカーブを描いているが、図6(a)に示すような折れ線形状としてもよい。
次に、図7を用いて、RAWデータ伸張部109aおける伸張特性について説明する。図7(a)は、撮影モードとして、HDR合成モードが設定された場合の伸張特性を示し、ステップS153(図5)におけるRAW伸張の際に使用される伸張特性である。図7(a)では、横軸が入力輝度を、縦軸が出力を示す。
RAW伸張する場合には、圧縮時の圧縮特性ライン(図中に細線で記載)LC(+1)、LC(−1)に対して、逆特性の伸張特性ラインLE(+1)、LE(−1)で変換することにより、元のRAWデータと同様のデータに戻る。すなわち、オーバー撮影した場合には圧縮特性ラインLC(+1)によって被写体の暗い部分の変化率を大きくし明るい部分の変化率を小さくしていたが、伸張する場合には伸張特性ラインLE(+1)で示すように、被写体の暗い部分の変化率を小さくし明るい部分の変化率を大きくすることにより、被写体の暗い部分について単写の場合よりも階調を再現することができる。アンダー撮影した場合には、オーバー撮影した場合と逆の傾向の圧縮特性ラインLC(−1)と伸張特性ラインLE(−1)を組み合わせることにより、被写体の明るい部分について単写の場合よりも階調を再現することができる。なお、特性ラインLは、非圧縮の場合の伸張特性を示す。
図7(b)は、撮影モードとして、深度合成・超解像合成モードが設定された場合の伸張特性を示し、ステップS167、S177(図5)におけるRAW伸張の際に使用される伸張特性である。図7(b)でも、横軸が入力輝度を、縦軸が出力を示す。この場合も、RAW伸張する場合には、圧縮時の圧縮特性ライン(図中に細線で記載)LCに対して、逆特性の伸張特性ラインLEで変換することにより、元のRAWデータと同様のデータに戻る。
このように、本発明の第1実施形態においては、基準画像データは非圧縮で一時記憶するが(図4のS103)、合成用画像データは図6に示すような圧縮特性でRAW圧縮し一時記憶している(図4のS115、S127、S137)。そして、画像合成する際には、RAW圧縮した画像データは、図7に示すような伸張特性でRAW伸張し、基準画像データと伸張された合成用画像データを用いて、HDR合成等、各種の画像合成が行われる。このため、多数の合成用画像データを記憶することが可能となり、合成画像の画質を向上させることができる。
次に、本発明の第2実施形態について、図8ないし図10を用いて説明する。第1実施形態においては、合成用画像の画像データについて、RAW圧縮してから一時記憶し、この圧縮した画像データをRAW伸張してから画像合成を行っていた。これに対して、本実施形態においては、合成用画像の画像データについてはダウンサンプル処理をしてから一時記憶し、このダウンサンプルした画像データをアップサンプルしてから画像合成を行うようにしている。
本実施形態の構成は、第1実施形態に係る図1のブロック図と比較し、第1実施形態におけるRAWデータ圧縮部108とRAWデータ伸張部109aの代わりに、ダウンサンプル処理部109dとアップサンプル処理部109aを配置し、また基本画像処理部109b等の接続関係を変更した点が相違し、他は同一である。そこで、この相違点を中心に図8を用いて本実施形態の構成について説明する。
図8において、A/D変換部107の出力は、バス110と基本画像処理部109bに出力される。画像処理部109内の基本画像処理部109bは、第1実施形態の場合と同様、RAWデータに対して、オプティカルブラック(OB)減算処理、ホワイトバランス(WB)補正、ベイヤデータの場合に行う同時化処理、色再現処理、ガンマ補正処理、カラーマトリックス演算、ノイズリダクション(NR)処理、エッジ強調処理等を行う。基本画像処理部109bによって画像処理された画像データは、バス110とダウンサンプル処理部109dに出力される。
画像処理部109内のダウンサンプル処理部109dは、基本画像処理部109bによる基本画像処理後に、画像データをダウンサンプルして色差成分のデータ量を減らす処理を行う。例えば、水平2画素単位で1組の色差成分CbCrだけ残すYC422データや、水平垂直2画素(2×2の領域)で1組のCbCrだけを残すYC420データにダウンサンプルする。ダウンサンプル処理部109によって処理された画像データは、バス110に出力される。なお、ダウンサンプルにおいて、どのように一組のCbCrを生成するかは、JEIDA規格のデジタルスチルカメラ用画像ファイルフォーマット規格(Exif)Version2.1(JEIDA−49−1998)などで規定されている方法を使用すればよい。
ダウンサンプル処理部109dは、画像データのデータ量を削減し、基準画像データよりデータ量の少ない合成用画像データを生成する画像データ量削減部として機能する。この画像データ量削減部は、色差信号の数(データ量)、輝度信号の数(データ量)よりも少なくなるように削減している。これにより、色の解像度は低下するが、人間の知覚特製は輝度の変化よりも色の変化を知覚しにくいため、画質の劣化を抑えながらデータ量を削減できる。
基本画像処理部109bは、基準画像および合成用画像の両画像データを処理するが、基準画像の画像データは、基本画像処理部109bによって処理された後に、バス110を介してSDRAM127に一時記憶される。一方、合成用画像の画像データは、ダウンサンプル処理部109dによって処理された後に、バス110を介してSDRAM127に一時記憶される。したがって、基準画像の画像データはダウンサンプルされることなく、各画素YCbCrの情報を持つデータ(例えば、YC444データ)がSDRAM127に一時記憶されるのに対して、合成用画像の画像データはダウンサンプルされ、データ量を小さくした上で、SDRAM127に一時記憶される。
画像処理部109内のアップサンプル処理部109eは、画像合成部109cによる画像合成前に、画像データをアップサンプルする。すなわち、画像データの内の色差成分CbCrが輝度データ(Y)に対して少ない場合(上述のYC422、YS420データのような場合)、色差成分CbCrをアップサンプルして、各画素YCbCrのデータがあるように変換する。アップサンプルの方法は、単純に色差成分CbCrをコピーしてもよく、またYC420やYC422形式のデータにおいて近傍のCbCrを使用して線形補間で求めるようしてもよい。なお、基準画像(YC444形式)の画像データは、既に各画素のCbCrを有するため、アップサンプル処理の必要はない。
次に、図9および図10に示すフローチャートを用いて、本実施形態の動作について説明する。本実施形態におけるメイン動作は、図2および図3に示したフローチャートと同様であるので、詳しい説明は省略する。本実施形態は、第1実施形態に係る図4および図5に示したフローチャートを図9および図10に示すフローチャートに置き換えればよく、さらに、これらのフローチャートにおいて、図4のステップS115、S127、S137を図9のS115A、S127A、S137Aに置き換え、図5のステップS153、S163、S173を図10のS153A、S163A、S173Aに置き換える点でのみ相違する。そこで、第1実施形態に係る図5および図6と同一の処理を行うステップには同一のステップ番号を付し詳しい説明を省略し、相違点を中心に説明する。
図9に示す撮影のフローに入ると、適正露出で撮影を行う(S101)。このステップでは、レリーズ釦の1stレリーズで決めた露出条件および合焦位置(図3のS35)で露光を行う。続いて、基本画像処理を行う(S103)。このステップでは、ステップS101における露光で取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、画像データをダウンサンプルせずにSDRAM127に一時記憶させる。
基本画像処理を行うと、次に、HDR合成が設定されている場合には、第1実施形態と同様に、露光量を変更しながら撮影を行う(S105Yes、S111、S113)。撮影を行うと、基本画像処理とダウンサンプルを行う(S115A)。ここでは、取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、この画像データをダウンサンプル処理部109dがダウンサンプル処理を行い、ダウンサンプルした画像データをSDRAM127に一時記憶させる。ダウンサンプルを行うと所定枚数に達したか否かを判定し(S117)。達していない場合には、ステップS111に戻る。
また、深度合成が設定されている場合には、第1実施形態と同様に、フォーカス移動を行いながら撮影を行う(S121Yes、S123、S125)。撮影を行うと、基本画像処理とダウンサンプルを行う(S127A)。ここでは、ステップS115Aと同様に、取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、この画像データをダウンサンプル処理部109dがダウンサンプル処理を行い、ダウンサンプルした画像データをSDRAM127に一時記憶させる。ダウンサンプルを行うと所定枚数に達したか否かを判定し(S129)。達していない場合には、ステップS123に戻る。
また、超解像合成が設定されている場合には、第1実施形態と同様に、光軸を微移動させながら撮影を行う(S131Yes、S133、S135)。撮影を行うと、基本画像処理とダウンサンプルを行う(S137A)。ここでは、ステップS115Aと同様に、取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、この画像データをダウンサンプル処理部109dがダウンサンプル処理を行い、ダウンサンプルした画像データをSDRAM127に一時記憶させる。ダウンサンプルを行うと所定枚数に達したか否かを判定し(S139)。達していない場合には、ステップS133に戻る。
ステップS117、S129、S139における判定の結果、所定枚数に達すると、次に、ステップS151以下において画像合成を行う。まず、撮影モードとしてHDR合成が設定されている場合には(S151Yes)、まずアップサンプルを行う(S153A)。ここでは、SDRAM127に一時記憶されている基準画像と合成用画像の画像データを読み出し、合成用画像の画像データに対しアップサンプルを行う。合成用画像の画像データは、前述したようにダウンサンプルしてデータ量を減らしたYCデータ記憶していることから、このステップでアップサンプル処理部109eがアップサンプル処理を行う。
アップサンプル処理を行うと、位置合わせを行い(S155)、HDR合成を行い(S157)、所定枚数に達したか否かを判定し(S159)、達していない場合には、ステップS153Aに戻る。
また、撮影モードとし深度合成が設定されている場合には(S161Yes)、まずステップS153Aと同様に、アップサンプルを行う(S163A)。ここでは、SDRAM127に一時記憶されている基準画像と合成用画像の画像データを読み出し、合成用画像の画像データに対してアップサンプル処理部109eがアップサンプルを行う。アップサンプル処理を行うと、位置合わせを行い(S165)、深度合成を行い(S167)、所定枚数に達したか否かを判定し(S169)、達していない場合には、ステップS163Aに戻る。
また、撮影モードとし超解像合成が設定されている場合には(S171Yes)、まずステップS153Aと同様に、アップサンプルを行う(S173A)。ここでは、SDRAM127に一時記憶されている基準画像と合成用画像の画像データを読み出し、合成用画像の画像データに対してアップサンプル処理部109eがアップサンプルを行う。アップサンプル処理を行うと、位置合わせを行い(S175)、超解像合成を行い(S177)、所定枚数に達したか否かを判定し(S179)、達していない場合には、ステップS173Aに戻る。
このように、本発明の第2実施形態においては、基準画像データはダウンサンプル行うことなく一時記憶するが(図9のS103)、基本画像処理を行った合成用画像データはダウンサンプルを行ってから一時記憶している(図9のS115A、S127A、S137A)。そして、画像合成する際には、ダウンサンプルした画像データは、アップサンプルしてから、HDR合成等、各種の画像合成が行われる。このため、多数の合成用画像データを記憶することが可能となり、合成画像の画質を向上させることができる。
なお、本実施形態においては、基準画像の画像データはダウンサンプルを行っていないが、合成用画像の画像データよりは、データ量の削減が大きくないようなダウンサンプルを行うようにしても勿論かまわない。また、ダウンサンプルの例として、輝度信号Yと色差信号CbCrを用いたが、他の輝度成分と色成分に分けて表記する色空間(例えば、YPbPr、L*a*b*、HSV等の色空間)を用い、輝度成分を表す信号よりも色差成分を表す信号を減らすようなダウンサンプルしてもよい。
次に、本発明の第3実施形態について、図11ないし図13を用いて説明する。第1実施形態においては、合成用画像の画像データについて、RAW圧縮してから一時記憶し、この圧縮した画像データをRAW伸張してから画像合成を行い、また第2実施形態においては、ダウンサンプル処理して一時記憶し、このダウンサンプルした画像データをアップサンプルしてから画像合成していた。これに対して、本実施形態においては、合成用画像の画像データについてはJPEG等の画像圧縮をしてから一時記憶し、この画像圧縮した画像データを画像伸張してから画像合成を行うようにしている。
本実施形態の構成は、第1実施形態に係る図1のブロック図と比較し、第1実施形態におけるRAWデータ圧縮部108とRAWデータ伸張部109aの代わりに、画像圧縮部109fと画像伸張部109eを配置し、また基本画像処理部109b等の接続関係を変更し、画像圧縮部115および画像伸張部117が重複することから省略した点が相違し、他は同一である。そこで、この相違点を中心に図11を用いて本実施形態の構成について説明する。
図8において、A/D変換部107の出力は、バス110と基本画像処理部109bに出力される。画像処理部109内の基本画像処理部109bは、第1実施形態の場合と同様、RAWデータに対して、オプティカルブラック(OB)減算処理、ホワイトバランス(WB)補正、ベイヤデータの場合に行う同時化処理、色再現処理、ガンマ補正処理、カラーマトリックス演算、ノイズリダクション(NR)処理、エッジ強調処理等を行う。基本画像処理部109bによって画像処理された画像データは、バス110と画像圧縮部109fに出力される。
画像処理部109内の画像圧縮部109fは、第1実施形態における画像圧縮部115と同様に、画像データを、静止画の場合にはJPEG圧縮方式等、また動画の場合にはMPEG等の各種圧縮方式に従って圧縮する。画像圧縮部109fは、画像データのデータ量を削減し、基準画像データよりデータ量の少ない合成用画像データを生成する画像データ量削減部として機能する。また、この画像データ量削減部は、画像データを符号化して圧縮する圧縮部を含んでいる。この圧縮部はJPEG等の非可逆圧縮を行う。
基本画像処理部109bは、基準画像および合成用画像の両画像データを処理するが、基準画像の画像データは、基本画像処理部109bによって処理された後に、バス110を介してSDRAM127に一時記憶される。一方、合成用画像の画像データは、画像圧縮部109fによって画像圧縮処理された後に、バス110を介してSDRAM127に一時記憶される。したがって、基準画像の画像データは画像圧縮されることなく、SDRAM127に一時記憶されるのに対して、合成用画像の画像データは画像圧縮され、データ量を小さくした上で、SDRAM127に一時記憶される。
画像処理部109内の画像伸張部109gは、第1実施形態と同様に、JPEG画像データやMPEG画像データ等の圧縮画像データの伸張を行う。なお、基準画像(の画像データは、非圧縮データであることから、画像伸張処理の必要はない。
次に、図12および図13に示すフローチャートを用いて、本実施形態の動作について説明する。本実施形態におけるメイン動作は、図2および図3に示したフローチャートと同様であるので、詳しい説明は省略する。また、本実施形態は、第1実施形態に係る図4および図5に示したフローチャートを図12および図13に示すフローチャートに置き換えればよく、さらに、これらのフローチャートにおいて、図4のステップS103、S115、S127、S137を図12のS103B、S115B、S127B、S137Bに置き換え、図5のステップS153、S163、S173を図13のS153B、S163B、S173Bに置き換える点でのみ相違する。そこで、第1実施形態に係る図5および図6と同一の処理を行うステップには同一のステップ番号を付し詳しい説明を省略し、相違点を中心に説明する。
図12に示す撮影のフローに入ると、適正露出で撮影を行う(S101)。このステップでは、レリーズ釦の1stレリーズで決めた露出条件および合焦位置(図3のS35)で露光を行う。続いて、基本画像処理と低圧縮を行う(S103B)。このステップでは、ステップS101における露光で取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、また画像圧縮部109fによって低圧縮したのちにSDRAM127に一時記憶させる。ここでは、撮像素子103と低圧縮で画像データを圧縮する画像圧縮部109fが画像データから基準画像を生成する基準画像生成部として機能する。
基本画像処理と低圧縮を行うと、次に、HDR合成が設定されている場合には、第1実施形態と同様に、露光量を変更しながら撮影を行う(S105Yes、S111、S113)。撮影を行うと、基本画像処理と高圧縮を行う(S115B)。ここでは、取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、この画像データを画像圧縮部109fが高圧縮で画像圧縮を行い、高圧縮した画像データをSDRAM127に一時記憶させる。高圧縮を行うと所定枚数に達したか否かを判定し(S117)。達していない場合には、ステップS111に戻る。
また、深度合成が設定されている場合には、第1実施形態と同様に、フォーカス移動を行いながら撮影を行う(S121Yes、S123、S125)。撮影を行うと、基本画像処理と高圧縮を行う(S127B)。ここでは、ステップS115Bと同様に、取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、この画像データを画像圧縮部109fが高圧縮で画像圧縮処理を行い、画像圧縮した画像データをSDRAM127に一時記憶させる。高圧縮を行うと所定枚数に達したか否かを判定し(S129)。達していない場合には、ステップS123に戻る。
また、超解像合成が設定されている場合には、第1実施形態と同様に、光軸を微移動させながら撮影を行う(S131Yes、S133、S135)。撮影を行うと、基本画像処理と高圧縮を行う(S137B)。ここでは、ステップS115Bと同様に、取得した画像データに対して、基本画像処理部109bが基本画像処理を行い、この画像データを画像圧縮部109fが高圧縮で画像圧縮処理を行い、画像圧縮した画像データをSDRAM127に一時記憶させる。高圧縮を行うと所定枚数に達したか否かを判定し(S139)。達していない場合には、ステップS133に戻る。
ステップS117、S129、S139における判定の結果、所定枚数に達すると、次に、ステップS151以下において画像合成を行う。まず、撮影モードとしてHDR合成が設定されている場合には(S151Yes)、まず、画像伸張を行う(S153B)。ここでは、SDRAM127に一時記憶されている基準画像と合成用画像の画像データを読み出し、合成用画像の画像データに対し高伸張率で画像伸張を行い、基準画像の画像データに対し低伸張率で画像伸張を行う。合成用画像の画像データは、前述したように高画像圧縮によりデータ量を減らしてデータ記憶していることから、このステップでは高伸張率で画像伸張部109gが画像伸張処理を行う。また基準画像の画像データは低画像圧縮で圧縮されていることから、このステップでは低伸張率で画像伸張を行う。
画像伸張を行うと、位置合わせを行い(S155)、HDR合成を行い(S157)、所定枚数に達したか否かを判定し(S159)、達していない場合には、ステップS153Bに戻る。
また、撮影モードとし深度合成が設定されている場合には(S161Yes)、まずステップS153Bと同様に、画像伸張を行う(S163B)。ここでは、SDRAM127に一時記憶されている基準画像と合成用画像の画像データを読み出し、低伸張率または高伸張率で画像伸張部109gが画像伸張を行う。画像伸張を行うと、位置合わせを行い(S165)、深度合成を行い(S167)、所定枚数に達したか否かを判定し(S169)、達していない場合には、ステップS163Bに戻る。
また、撮影モードとし超解像合成が設定されている場合には(S171Yes)、まずステップS153Bと同様に、画像伸張を行う(S173B)。ここでは、SDRAM127に一時記憶されている基準画像と合成用画像の画像データを読み出し、低伸張率または高伸張率で画像伸張部109gが画像伸張を行う。画像伸張を行うと、位置合わせを行い(S175)、超解像合成を行い(S177)、所定枚数に達したか否かを判定し(S179)、達していない場合には、ステップS173Bに戻る。
このように、本発明の第3実施形態においては、基準画像データは低圧縮率で画像圧縮を行い一時記憶するが(図12のS103B)、基本画像処理を行った合成用画像データは高圧縮率で画像圧縮を行ってから一時記憶している(図13のS115B、S127B、S137B)。そして、画像合成する際には、画像圧縮した画像データは、画像伸張してから、HDR合成等、各種の画像合成が行われる。このため、多数の合成用画像データを記憶することが可能となり、合成画像の画質を向上させることができる。
なお、本実施形態においては、基準画像データを低圧縮率で画像圧縮していたが、画像圧縮を行わないままで、SDRAM127に一時記憶するようにしても構わない。この場合には、画像伸張の必要がない。
以上説明したように、本発明の各実施形態においては、被写体を撮像して基準画像の画像データを生成し(例えば、図4のS101、S103)、被写体を撮像して合成用画像の画像データを生成し(例えば、図4のS113、S125、S135)合成用画像の画像データを基準画像の画像データよりデータ量の少なくなるようにデータ量を削減し(例えば、図4のS115、S127、S137、図6)、基準画像の画像データと合成用画像の画像データを用いて、画像データの合成を行い、合成画像データを生成している(例えば、図5のS157、S167、S177)。このように、複数の画像を合成する際に、基準となる画像データよりも、合成する画像データのサイズを小さくしてメモリ(例えば、図1のSDRAM127)に一時記憶する。この結果、限られた容量のメモリ内において多くの撮影画像を記憶でき、同じ容量のメモリで比較すると、より高品位の合成画像を実現できる。
なお、本発明の各実施形態においては、RAW圧縮データ等の画像データはSDRAM127に一時記憶したが、記憶媒体137やフラッシュメモリ123に一時記憶するようにしてもよい。RAWデータで合成処理が終わってから、基本画像処理を行う実施形態と、逆に基本画像処理後に合成処理を行う実施形態があるが、RAWデータで合成処理を行うか、基本画像処理後の画像データで合成処理を行うかは適宜選択してもよい。
また、本発明の第1および第2実施形態においては、基準画像の画像データは、データ量の削減を行っていなかったが、合成用画像のデータ量よりは低削減率(非可逆な削減方法の場合であれば合成用画像よりも高画質の状態)であれば、基準画像の画像データのデータ量を削減してもよい。
また、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末(PDA:Personal Digital Assist)、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、複数の画像データを合成する撮影のための機器であれば、本発明を適用することができる。また、撮影機器で撮影した複数の画像データを合成する画像合成装置であれば、本発明を適用することができる。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。