以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
図1から図12は本発明の実施形態1を示したものであり、図1は画像処理装置が適用された撮像装置1の構成を示すブロック図である。
この撮像装置1は、撮像部2と、表示部3と、サムネイル処理部5と、合成制御部6と、撮影情報取得部7と、入力部8と、現像処理部9と、内部メモリ10と、外部メモリ11と、画像処理部12と、システム制御部13と、を備えている。
撮像部2は、駆動制御部21と、レンズ22と、絞り23と、シャッタ24と、イメージセンサ25と、を備えている。
レンズ22は、被写体の光学像をイメージセンサ25に結像する。レンズ22は、フォーカスレンズやズームレンズ等を含んで構成されていて、ピント位置およびズーム状態を調整可能となっている。
絞り23は、絞り径の大きさが可変となっていて、レンズ22からイメージセンサ25へ照射される光束の通過範囲を制御することにより、イメージセンサ25に到達する光の量を調節する。
シャッタ24は、遮光幕を開閉動作することによりイメージセンサ25への光の入射/遮光を制御するものであり、露光時間であるシャッタ速度を調節する。
イメージセンサ25は、例えばCMOSイメージセンサ、あるいはCCDイメージセンサなどにより構成されていて、2次元状に配列された複数の画素を備えている。各画素は、入射した光を光電変換して画素信号を蓄積し、蓄積した画素信号を、アナログ値の画素データとして、またはA/D変換してからデジタル値の画素データとして、出力する。こうして、画像データは、複数の画素の画素データにより構成されている。
駆動制御部21は、システム制御部13の指令に応じて、撮像部2全体を制御する。例えば駆動制御部21は、レンズ22を駆動制御して、ピント位置やズーム状態を制御する。また、駆動制御部21は、絞り23を駆動制御して絞り径を変化させ、シャッタ24を駆動制御して遮光幕の開閉を行わせる。さらに、駆動制御部21は、イメージセンサ25による画素信号の蓄積から画像データの出力までの動作を制御する。
入力部8は、操作ボタン、操作スイッチ、タッチパネルなどの各種の操作入力デバイスを含み、使用者が操作することにより撮像装置1に対する入力を行うための操作部である。
現像処理部9は、イメージセンサ25から読み出された画像データ、あるいは合成制御部6により生成された合成画像データなどに対して、デモザイキング処理、ノイズリダクション処理、WB(ホワイトバランス)調整処理、ノイズリダクション処理、表示部3の表示画素数に合わせて画素数を調節するリサイズ処理、圧縮処理などの種々の処理を行う。
内部メモリ10は、揮発性のDRAMや不揮発性のフラッシュメモリなどを備えて構成されていて、撮像装置1全体の制御を行う制御プログラムを記録して保持すると共に、画像データなどの各種データを一時的に(あるいは継続的に)記録して保持する。内部メモリ10内のメモリ領域は、自由に再配置することができるようになっている。
外部メモリ11は、例えばメモリカードなどの可搬性の記録媒体として構成されていて、現像処理部9により処理される前のいわゆるRAW画像データ、あるいは現像処理部9により現像処理された画像データ、または現像処理後にさらに必要に応じて画像処理部12により処理された画像データを、例えば画像ファイル形式で記録する。外部メモリ11は、上述したように可搬性があるために、撮像装置1から取り出して、例えばコンピュータなどの他の装置に接続して画像データを読み込み、画像処理、あるいは画像再生などを行うことができるようになっている。
画像処理部12は、現像処理部9により処理された画像に対して、色調整やコントラスト調整などの画像処理を行う。
撮影情報取得部7は、外部メモリ11に記録しようとする画像データに添付する撮影情報(メタデータ)を収集する。また、撮影情報取得部7は、外部メモリ11に記録されている画像データに添付されている撮影情報(メタデータ)を収集する。
サムネイル処理部5は、サムネイル生成部51と、サムネイル強調処理部52と、を備えている。
サムネイル生成部51は、サムネイル画像生成部であり、後述する合成方法判定部62により判定された合成方法に応じて、合成画像データの合成前の画像データと合成後の画像データとの少なくとも一方に基づき複数のサムネイル画像を生成する。具体的に本実施形態においては、サムネイル生成部51は、複数のサムネイル画像の1つを合成後の画像データに基づいて生成する。ここに、サムネイル生成部51がサムネイル画像を生成する元となる画像は、例えば、撮影を行って撮像部2から入力された画像、外部メモリ11から入力された画像、あるいは通信回線等を介して入力された画像などである。
ここに、サムネイル画像は、元の画像データ(後述する図12に示す主画像データ113に対応する画像データ)よりもデータ量が小さく、かつ画像サイズが小さい画像のことである。ただし、データ量の大小は、同一条件において(例えば、圧縮の有無、圧縮方式などの条件を同一にして)比較するものとする。
従って、サムネイル画像は、120×160画素などの画像サイズに限定されるものではなく、一例を挙げれば、撮影により得られた画像データが3600×5400画素である場合には、1800×2700画素の画像サイズであっても構わない。
そして、サムネイル生成部51は、複数の画像データを合成した合成画像データに対しては、複数のサムネイル画像を生成するようになっている。ここに、複数のサムネイル画像は、後述するように、1つの主サムネイル画像と、1つの副サムネイル画像と、を含む。さらに、サムネイル生成部51は、後述するサムネイル表示制御部33から入力されたモーフィングデータと表示時間とに基づいて、サムネイル画像を生成する。
サムネイル強調処理部52は、サムネイル生成部51により生成された複数のサムネイル画像の少なくとも1つに、合成方法判定部62により判定された合成方法によって得られる画像処理効果を強調する画像強調処理を行う画像強調部である。ここに、画像強調処理の幾つかの具体例としては、明るさ調整、コントラスト調整、輪郭強調などが挙げられる。さらに、サムネイル強調処理部52は、入力された情報に基づいて、サムネイル画像の画像強調処理が必要であるか否かを判定する。
表示部3は、画像データを表示するものであり、表示部材31と、再生情報取得部32と、サムネイル表示制御部33と、表示用メモリ37と、を備えている。
表示部材31は、液晶表示素子などの表示デバイスを備えて構成され、画像や撮像装置1に係る各種の情報を表示するモニタである。
再生情報取得部32は、例えば撮影情報取得部7から、表示部材31に表示する画像の撮影情報(メタデータ)を取得する。
サムネイル表示制御部33は、サムネイル生成部51により生成された複数のサムネイル画像を、表示部3に表示するように制御する表示制御部であり、具体的には、表示部3に、主サムネイル画像から副サムネイル画像に変化するアニメーション表示をさせる。従って、主サムネイル画像はアニメーション表示における初期サムネイル画像、副サムネイル画像はアニメーション表示における最終サムネイル画像(あるいは、副サムネイル画像を複数とした場合には、アニメーション表示における変化過程のサムネイル画像および最終サムネイル画像)となっている。
このサムネイル表示制御部33は、コマ切換アニメーション部34と、透過度変更アニメーション部35と、モーフィングアニメーション部36と、を備え、モーフィングデータの生成も行う。
コマ切換アニメーション部34は、複数のサムネイル画像の内の1つが表示されている場合に、所定の時間が経過したところで複数のサムネイル画像の内の他の1つの表示に切り換える処理を行う。具体的に、コマ切換アニメーション部34は、アニメーション表示を、主サムネイル画像から副サムネイル画像への画像切替処理により行う。
透過度変更アニメーション部35は、複数のサムネイル画像を重畳して表示したときに、一番下のサムネイル画像以外のサムネイル画像の透過度を時間が経過するに従って変更する処理を行う。具体的には、一番上のサムネイル画像の透過度を時間が経過するに従って最小(0%)→最大(100%)へ徐々に変更し、次に上から2番目のサムネイル画像の透過度を時間が経過するに従って最小(0%)→最大(100%)へ徐々に変更し、等を順次行う。
複数のサムネイル画像が、主サムネイル画像と副サムネイル画像との2枚である場合を例に挙げれば、透過度変更アニメーション部35は、アニメーション表示を、副サムネイル画像の上に重畳された主サムネイル画像の透過度を最小(0%)から最大(100%)へ変化させる透過度変更処理により行う。
モーフィングアニメーション部36は、サムネイル表示制御部33により生成されたモーフィングデータを用いて、表示している画像の形態を、時間が経過するに従って変化させる処理を行う。ここに、あるサムネイル画像から他のサムネイル画像へ形状を変化させるモーフィング処理は、3Dのサムネイル画像を生成する処理よりは負荷が軽い処理となっている。このモーフィングアニメーション部36との連携により、サムネイル表示制御部33は、アニメーション表示を、例えば主サムネイル画像から副サムネイル画像へ形状を変化させるモーフィング処理により行う。
表示用メモリ37は、表示画像展開メモリ38と、主サムネイル展開メモリ39と、副サムネイル展開メモリ40と、モーフィングデータ展開メモリ41と、を備えている。
表示画像展開メモリ38は、表示部材31に表示する画像(後述する図12に示す主画像データ113に対応する画像)を格納する。
主サムネイル展開メモリ39は、表示画像展開メモリ38に格納された画像の主サムネイル画像を格納する。
副サムネイル展開メモリ40は、表示画像展開メモリ38に格納された画像の副サムネイル画像を格納する。
モーフィングデータ展開メモリ41は、サムネイル表示制御部33により生成されたモーフィングデータを格納する。
合成制御部6は、合成判定部61と、合成方法判定部62と、合成処理部63と、を備えている。
合成判定部61は、画像データ(静止画データ、または動画データを構成する少なくとも1フレームの画像データ)が、複数の画像データを合成した合成画像データであるか否かを判定する。この合成判定部61による判定は、例えば、合成判定部61に入力された撮影情報(メタデータ)に基づき行われる。すなわち、合成判定部61は、画像を撮像して外部メモリ11に記録しようとする際には、外部メモリ11に記録する前の撮影情報(メタデータ)に基づいて、合成処理部63が合成を行うか否かを判定することにより、画像データが合成画像データであるか否かを判定する。また、合成判定部61は、既に外部メモリ11に記録されている画像を再生する際には、外部メモリ11の画像データの撮影情報(メタデータ)として合成方法が記録されているか否かに基づき画像データが合成画像データであるか否かを判定する。
合成方法判定部62は、合成判定部61の判定結果が合成画像データである場合に、合成画像データの合成方法を判定する。ここに、合成方法判定部62は、入力された撮影情報(メタデータ)に基づき判定を行い、これから外部メモリ11に記録しようとする画像データである場合には合成処理部63が合成画像データを生成する際に行う合成方法を判定し、既に外部メモリ11に記録されている画像データである場合には合成画像データの撮影情報(メタデータ)として記録された合成方法を判定する。
合成処理部63は、複数の画像データを合成して合成画像データを生成する。本実施形態においては、合成処理部63による合成方法として、加算合成、比較明合成、および比較暗合成を例に挙げる。ただし、合成処理部63が行う合成方法はこれらに限定されるものではなく、その他の合成方法を加えても良いし、その他の合成方法に差し替えても構わない。
システム制御部13は、ハードウェアとして構成されたプロセッサ(例えばCPUなど)を有し、上述した各部を含む撮像装置1全体の制御を行う。このシステム制御部13は、サムネイル生成部51により生成された複数のサムネイル画像を、合成画像データに関連付けて、記録媒体である外部メモリ11に記録するように制御する記録制御部を兼ねたものとなっている。
次に、図2は、撮像装置1における再生および撮影の処理を示すフローチャートである。
例えば、撮像装置1の電源がオンされると、この処理が開始される。
すると、システム制御部13が、入力部8の出力に基づき、撮像装置1が再生モードに設定されているか否かを判定する(ステップS1)。
ここで再生モードに設定されていると判定された場合は、後で図9を参照して説明するような再生処理を行う(ステップS2)。
そして、システム制御部13は、入力部8から新たに「再生終了操作」の入力があったか否かを判定する(ステップS3)。ここで、入力がないと判定された場合には、入力があったと判定されるまで、ステップS2の再生処理が継続して行われる。
ステップS3において「再生終了操作」の入力があったと判定されるか、またはステップS1において再生モードに設定されていないと判定された場合は、システム制御部13が、入力部8から「撮影開始操作」の入力があったか否かを判定し(ステップS4)、入力があるまでは撮影を開始せず、現状を維持して待機する。
そして、「撮影開始操作」の入力があったと判定された場合には撮影モードに移行して、システム制御部13の指令に基づいて、撮影情報取得部7が、種々の設定(例えば、ユーザによる設定、自動露出制御による設定、自動焦点調節制御による設定など)に基づいて、撮影情報(メタデータ)を収集し、収集した撮影情報を内部メモリ10の規定の領域に格納する(ステップS5)。
続いて、後で図5を参照して説明するように、収集された撮影情報(メタデータ)に基づいて、これから行う撮影処理により得ようとする画像データが、複数の画像データを合成した合成画像データであるか否かを合成判定部61が判定し、合成判定部61の判定結果が合成画像データである場合に、合成画像データの合成方法を合成方法判定部62が判定する(ステップS6)。
システム制御部13が、入力部8からの「撮影開始操作」の入力が、静止画撮影であるか否か(ひいては、静止画撮影と動画撮影との何れであるか)を判定する(ステップS7)。
ここで、静止画撮影であると判定した場合には、後で図3を参照して説明するような静止画撮影処理を行う(ステップS8)。
また、ステップS7において、静止画撮影でないと判定した場合には、後で図4を参照して説明するような動画撮影処理を行う(ステップS9)。
こうして、ステップS8を行った場合には撮影されて内部メモリ10の記録画像確保領域に記録されている静止画データを、またステップS9を行った場合には撮影されて内部メモリ10の記録画像確保領域に記録されている動画データを、後で図6〜図8を参照して説明するように、外部メモリ11に記録する(ステップS10)。
さらに、一連の撮影処理で記録した画像を表示部3に表示するレックビュー表示を行ってから(ステップS11)、撮影処理を終了する。
次に、図3は、撮像装置1における静止画撮影の処理を示すフローチャートである。
図2のステップS7において静止画撮影であると判定されると、ステップS8においてこの図3に示すような静止画撮影の処理が行われる。
まず、ステップS6における合成処理判定の結果である「合成フラグ」が、オンであるか否かを判定する(ステップS21)。
この「合成フラグ」は、画像データ(静止画データ、または動画データを構成する少なくとも1フレームの画像データ)が、複数の画像データを合成処理して得られる(あるいは得られた)画像データであるか否かを、オン/オフにより示すフラグである。
従って、ここで「合成フラグ」がオフであると判定された場合には、合成処理を行う撮影(合成撮影)ではないことになる。
そこで、入力部8から「撮影終了操作」の入力があったか否かを判定する(ステップS22)。ここで、入力がないと判定した場合には、入力があったと判定するまで、撮影状態を継続する。
ステップS22において「撮影終了操作」の入力があったと判定された場合には、システム制御部13が、イメージセンサ25に画像データを出力させて、出力された画像データを内部メモリ10の読出データ確保領域に記録する(ステップS23)。
そして、システム制御部13が、内部メモリ10の読出データ確保領域に記録された画像データを、内部メモリ10の記録画像確保領域に記録する(ステップS24)。
一方、ステップS21において、「合成フラグ」がオンであると判定された場合には、合成処理を行う撮影(合成撮影)であることになる。この場合には、システム制御部13が、イメージセンサ25に画像データを出力させて、出力された画像データを内部メモリ10の読出データ確保領域に記録する(ステップS25)。
システム制御部13は、ステップS25において得られた画像データが、合成撮影を始めてから1コマ目の画像データであるか否かを判定する(ステップS26)。
ここで、1コマ目の画像データであると判定された場合には、システム制御部13が、内部メモリ10の読出データ確保領域に記録された画像データを、内部メモリ10の1コマ目確保領域に記録する(ステップS27)。
また、ステップS26において1コマ目の画像データでないと判定された場合には、システム制御部13が制御を行って、合成制御部6の合成処理部63に、イメージセンサ25から新たに得られ内部メモリ10の読出データ確保領域に記録されている画像データと、内部メモリ10の記録画像確保領域に記録されているそれまでの合成画像データとを合成させる(ステップS28)。なお、新たに得られた画像データが2コマ目の画像データである場合には、読出データ確保領域に記録されている画像データを、ステップS27において1コマ目確保領域に記録した1コマ目の画像データと合成することになる。
そして、合成処理部63により生成された合成画像データを、内部メモリ10の記録画像確保領域に記録する(ステップS29)。なお、この図3に示す処理は静止画撮影であるために、このステップS29においては、記録画像確保領域に既に記録されている1つ前の合成画像データに対して、新たに生成された合成画像データを上書きすれば良い。
こうしてステップS27またはS29の処理を行ったら、入力部8から「撮影終了操作」の入力があったか否かを判定する(ステップS30)。ここで、入力がないと判定した場合には、入力があったと判定するまで、撮影状態を継続する。
ステップS30において「撮影終了操作」の入力があったと判定された場合、またはステップS24の処理を行った場合には、システム制御部13の制御に基づき、内部メモリ10の記録画像確保領域に記録されている画像データを、現像処理部9が現像処理し、必要に応じて画像処理部12が画像処理して(ステップS31)、この処理からリターンする。
続いて、図4は、撮像装置1における動画撮影の処理を示すフローチャートである。
図2のステップS7において静止画撮影でないと判定されると、ステップS9においてこの図4に示すような動画撮影の処理が行われる。
まず、ステップS6における合成処理判定の結果である「合成フラグ」が、オンであるか否かを判定する(ステップS41)。
ここで、「合成フラグ」がオフであると判定された場合には、システム制御部13が、イメージセンサ25に画像データを出力させて、出力された画像データを内部メモリ10の読出データ確保領域に記録する(ステップS42)。
システム制御部13の制御に基づき、内部メモリ10の読出データ確保領域に記録されている画像データを、現像処理部9が現像処理し、必要に応じて画像処理部12が画像処理する(ステップS43)。
そして、処理された画像データを、内部メモリ10の記録画像確保領域に1フレーム単位で記録する(ステップS44)。ここに、内部メモリ10は、動画データを全フレーム分記録可能なメモリを想定しているが、メモリ容量が十分でない場合には、動画撮影と並行して外部メモリ11への記録を行うことはいうまでもない。
その後、入力部8から「撮影終了操作」の入力があったか否かを判定する(ステップS45)。ここで、入力がないと判定した場合には、入力があったと判定するまで、ステップS42へ戻って撮影状態を継続する。
一方、ステップS41において、「合成フラグ」がオンであると判定された場合には、システム制御部13が、イメージセンサ25に画像データを出力させて、出力された画像データを内部メモリ10の読出データ確保領域に記録する(ステップS46)。
システム制御部13は、ステップS46において得られた画像データが、合成撮影を始めてから1フレーム目の画像データであるか否かを判定する(ステップS47)。
ここで、1フレーム目の画像データであると判定された場合には、システム制御部13が、内部メモリ10の読出データ確保領域に記録された画像データを、内部メモリ10の1フレーム目確保領域と、内部メモリ10の合成フレーム確保領域と、に記録する(ステップS48)。
システム制御部13の制御に基づき、内部メモリ10の1フレーム目確保領域に記録されている画像データを、現像処理部9が現像処理し、必要に応じて画像処理部12が画像処理する(ステップS49)。
そして、処理された画像データを、内部メモリ10の記録画像確保領域に記録する(ステップS50)。
また、ステップS47において1フレーム目の画像データでないと判定された場合には、システム制御部13が合成制御部6の合成処理部63を制御して、イメージセンサ25から新たに得られ内部メモリ10の読出データ確保領域に記録されている画像データと、内部メモリ10の合成フレーム確保領域に記録されているそれまでの合成画像データとを合成させる(ステップS51)。
そして、合成処理部63により生成された合成画像データを、内部メモリ10の合成フレーム確保領域に記録する(ステップS52)。
システム制御部13の制御に基づき、内部メモリ10の合成フレーム確保領域に記録されている画像データを、現像処理部9が現像処理し、必要に応じて画像処理部12が画像処理する(ステップS53)。
そして、処理された画像データを、内部メモリ10の記録画像確保領域に1フレーム単位で記録する(ステップS54)。
このステップS54の処理、または上述したステップS50の処理を行ったら、入力部8から「撮影終了操作」の入力があったか否かを判定する(ステップS55)。ここで、入力がないと判定した場合には、入力があったと判定するまで、ステップS46へ戻って撮影状態を継続する。
こうして、ステップS45またはS55において「撮影終了操作」の入力があったと判定された場合には、この処理からリターンする。
次に、図5は、撮像装置1における合成処理判定の処理を示すフローチャートである。
図2のステップS6に入ると(または、後述する図9のステップS103に入ると)、この図5に示すような合成処理判定の処理が行われる。
まず、合成判定部61が、撮影情報(メタデータ)に基づいて、「合成撮影オン」であるか否かを判定する(ステップS61)。
ここで、「合成撮影オン」でないと判定された場合には、全ての合成撮影フラグ(本実施形態の例では、加算合成フラグ、比較明合成フラグ、および比較暗合成フラグ)(後述する図12の合成撮影フラグ118参照)をオフする(ステップS62)。
また、ステップS61において「合成撮影オン」であると判定された場合には、合成方法判定部62が、撮影情報(メタデータ)に基づいて、合成撮影方法を判定する(ステップS63)。具体的に、合成方法判定部62は、合成画像データの合成方法が、比較明合成、加算合成、または比較暗合成の何れであるかを判定する。
ここで、合成撮影方法が「加算」であると判定された場合には、[加算合成フラグ]をオンにして、それ以外の全てのフラグ(比較明合成フラグおよび比較暗合成フラグ)をオフにする(ステップS64)。
また、ステップS63において、合成撮影方法が「比較明」であると判定された場合には、[比較明合成フラグ]をオンにして、それ以外の全てのフラグ(加算合成フラグおよび比較暗合成フラグ)をオフにする(ステップS65)。
さらに、ステップS63において、合成撮影方法が「比較暗」であると判定された場合には、[比較暗合成フラグ]をオンにして、それ以外の全てのフラグ(加算合成フラグおよび比較明合成フラグ)をオフにする(ステップS66)。
こうして、ステップS62,S64,S65,またはS66において全てのフラグがオンまたはオフの何れかに設定されたら、システム制御部13が、入力部8の出力に基づき、撮像装置1が再生モードに設定されているか否かを判定する(ステップS67)。
ここで、再生モードに設定されていない(ひいては、撮影モードに設定されている)と判定された場合には、合成処理部63が、合成フラグの状態を、撮影情報(メタデータ)に設定する(ステップS68)。
このステップS68の処理を行うか、またはステップS67において再生モードに設定されていると判定された場合には、この処理からリターンする。
続いて、図6は、撮像装置1における外部メモリ記録の処理を示すフローチャートである。
図2のステップS10に入ると、この図6に示すような外部メモリ記録の処理が行われる。
まず、システム制御部13は、内部メモリ10の記録画像確保領域に記録されている画像データが、静止画データであるか否かを判定する(ステップS71)。
ここで、静止画データであると判定された場合には、サムネイル生成部51により、後で図7を参照して説明するような、静止画サムネイル生成の処理を行う(ステップS72)。
また、ステップS71において静止画データでないと判定された場合には、サムネイル生成部51により、後で図8を参照して説明するような、動画サムネイル生成の処理を行う(ステップS73)。
ステップS72またはS73の処理を行ったら、撮像装置1の設定情報(例えば、ユーザが入力部8を介して撮像装置1に設定した情報)に基づいて、サムネイル強調処理部52がサムネイル画像の画像強調処理が必要であるか否かを判定する(ステップS74)。
ここで、サムネイル画像の画像強調処理が必要であると判定された場合には、サムネイル生成部51により生成されたサムネイル画像に対して、サムネイル強調処理部52により画像強調処理を行う(ステップS75)。なお、ステップS72またはS73において生成されたサムネイル画像が複数である場合には、全てのサムネイル画像に対して画像強調処理を行うことを想定している。ただし、生成された複数のサムネイル画像の内の、一部のサムネイル画像に対してのみ画像強調処理を行うことを妨げるものではなく、例えば、1コマ(または1フレーム)目の画像から生成されたサムネイル画像に対しては画像強調処理を行わず、撮影結果となる合成画像から生成されたサムネイル画像に対しては画像強調処理を行う、等であっても構わない。
そして、サムネイル強調処理部52が、図2のステップS5において生成された撮影情報(メタデータ)に、「サムネイル画像自体が画像強調処理済」であることを追加する(ステップS76)(後述する図12の画像強調フラグ117参照)。
このステップS76の処理を行った場合、ステップS74においてサムネイル画像の画像強調処理が必要でないと判定された場合、または後述する図7のステップS82の処理を行った場合には、記録画像確保領域の画像に、撮影情報(メタデータ)を添付する(ステップS77)。このときに、例えば2枚のサムネイル画像を生成した場合は、格納場所を次のように設定する。
ここで、図12は、撮像装置1における画像データの構造を示すブロック図である。
画像データ111は、ヘッダ112と、主画像データ113と、フッタ114と、を備えている。
ヘッダ112は、撮影情報(メタデータ)格納領域115と、第1サムネイル格納領域116と、を備えており、図示はしないが、画像フォーマットの構成に必要なその他の情報も格納している。
撮影情報格納領域115は、画像強調フラグ117と、合成撮影フラグ118と、サムネイル格納位置情報119と、を備え、図示はしないが画像に係るその他の情報、例えば、撮影日時、ホワイトバランスの設定値なども格納されるようになっている。
画像強調フラグ117は、画像データ111に含まれるサムネイル画像が画像強調されているか否かの情報を格納する。本実施形態においては、サムネイル画像が複数である場合に、全てのサムネイル画像に対して一括して画像強調が行われたか、または何れのサムネイル画像にも画像強調が行われていないか、の情報が格納されることを想定している。ただし、これに限定されるものではなく、サムネイル画像毎に、画像強調の有無、あるいはさらに画像強調の度合いの情報を格納するようにしても構わない。
合成撮影フラグ118は、画像データ111が、合成撮影によって記録されたか否かの情報を格納する。具体的に、本実施形態の合成撮影フラグ118は、加算合成フラグ、比較明合成フラグ、および比較暗合成フラグのそれぞれについて、オンまたはオフの情報を格納する。従って、全てのフラグがオフであれば、画像データ111が、合成撮影によって記録された画像データではないと判定することができる。一方、何れかのフラグがオンであれば、オンであるフラグの種類に応じて、加算合成、比較明合成、または比較暗合成の何れが行われた画像データ111であるかを判定することができる。
サムネイル格納位置情報119は、第1サムネイル格納領域116に格納されている第1サムネイル画像が、主サムネイル画像であるかまたは副サムネイル画像であるかの情報を格納する。ここに、生成されたサムネイル画像が2つである場合には、第1サムネイル画像が主サムネイル画像と副サムネイル画像との内の一方である情報があれば、第2サムネイル画像が主サムネイル画像と副サムネイル画像との内の他方であることが分かる。
また、生成されたサムネイル画像が3つ以上ある場合には、どのサムネイル画像が主サムネイル画像であり、どのサムネイル画像が副サムネイル画像であるかの情報をサムネイル格納位置情報119として格納するようにしても良い(あるいは、主サムネイル画像となるのがどのサムネイル画像であるかの情報のみを格納すれば、それ以外のサムネイル画像は全て副サムネイル画像であると判定することができるようにしても構わない)。
このように、生成するサムネイル画像は2つに限るものではなく、3つ以上であっても良い。例えば、動画の場合に、全フレームについてサムネイル画像を作成しても構わない。
第1サムネイル格納領域116は、合成後の画像データに基づいて生成されたサムネイル画像として、主画像データ113が静止画である場合には撮影結果に対するサムネイル画像を格納し、主画像データ113が動画である場合には1フレーム目のサムネイル画像を格納する(この第1サムネイル格納領域116への記録は、記録制御部であるシステム制御部13により行われる)。ここに、第1サムネイル格納領域116は、外部メモリ11における、合成画像データ以外の通常の画像データのサムネイル画像と互換性のある記録位置(格納領域)となっている。そして、静止画について撮影結果に対するサムネイル画像を第1サムネイル格納領域116に格納し、動画について1フレーム目のサムネイル画像を第1サムネイル格納領域116に格納することは、従来と互換性のある記録方法である。これにより、第2サムネイル格納領域120を想定していない従来の装置や従来のソフトウェアとの互換性を保つようにしている。
主画像データ113は、記録画像としての静止画または動画を、主画像として格納する。
フッタ114は、第2サムネイル格納領域120を備えている。
第2サムネイル格納領域120は、主画像に対して生成されたサムネイル画像が複数である場合に、第1サムネイル格納領域116に格納される撮影結果(または1フレーム目)に対するサムネイル画像以外の、全てのサムネイル画像を格納する。
図6の説明に戻って、記録画像確保領域の画像に、サムネイル画像を添付する(ステップS78)。
そして、主画像データ113に、撮影情報格納領域115と第1サムネイル格納領域116とを備えるヘッダ112が添付され、必要に応じてさらに第2サムネイル格納領域120を備えるフッタ114が添付された記録画像確保領域の画像を、画像データ111として外部メモリ11に記録してから(ステップS79)、この処理からリターンする。
図7は、撮像装置1における静止画サムネイル生成の処理を示すフローチャートである。
図6のステップS71において静止画データであると判定されると、ステップS72においてこの図7に示すような静止画サムネイル生成の処理が行われる。
するとまず、合成判定部61が、画像の撮影情報(メタデータ)に基づいて、合成フラグがオンであるか否かを判定する(ステップS81)。
ここで合成フラグがオンでないと判定された場合には、合成撮影により得られた静止画ではないことになるために、サムネイル処理部5のサムネイル生成部51は、撮影結果の画像に基づいて、通常のサムネイル画像を生成する(ステップS82)。このステップS82の処理を行った後は、上述したように、図6のステップS77の処理に進む。
ステップS81において、合成フラグがオンであると判定された場合には、上述したステップS5の処理により生成された撮影情報(メタデータ)に基づいて、合成方法判定部62が「合成方法」を判定する(ステップS83)。具体的に、合成方法判定部62は、合成方法が、加算、比較明、または比較暗の何れに該当するかを判定する。
ステップS83において合成方法が加算であると判定された場合には、サムネイル処理部5のサムネイル生成部51が、合成後の画像データである撮影結果の画像に基づきサムネイル画像を生成して主サムネイル画像とし、合成前の画像データである1コマ目の画像に基づきサムネイル画像を生成して副サムネイル画像とする。こうして、サムネイル生成部51は、2枚の(2種類の)サムネイル画像を生成する(ステップS84)。
また、ステップS83において合成方法が比較明であると判定された場合には、サムネイル処理部5のサムネイル生成部51が、撮影結果の画像に基づきサムネイル画像を生成して主サムネイル画像とし、1コマ目の画像に基づきサムネイル画像を生成して副サムネイル画像とする。こうして、サムネイル生成部51は、2枚の(2種類の)サムネイル画像を生成する(ステップS85)。
さらに、ステップS83において合成方法が比較暗であると判定された場合には、サムネイル処理部5のサムネイル生成部51が、1コマ目の画像に基づきサムネイル画像を生成して主サムネイル画像とし、撮影結果の画像に基づきサムネイル画像を生成して副サムネイル画像とする。こうして、サムネイル生成部51は、2枚の(2種類の)サムネイル画像を生成する(ステップS86)。
ステップS84、S85、またはS86の何れかの処理を行ったら、この処理からリターンする。
図8は、撮像装置1における動画サムネイル生成の処理を示すフローチャートである。
図6のステップS71において静止画データでないと判定されると、ステップS73においてこの図8に示すような動画サムネイル生成の処理が行われる。
するとまず、合成判定部61が、画像の撮影情報(メタデータ)に基づいて、合成フラグがオンであるか否かを判定する(ステップS91)。
ここで合成フラグがオンでないと判定された場合には、合成撮影により得られた動画ではない(動画データを構成する何れのフレームについても合成処理が行われていない動画である)ことになるために、サムネイル処理部5のサムネイル生成部51は、1フレーム目の画像に基づいて、通常のサムネイル画像を生成する(ステップS92)。
一方、ステップS91において、合成フラグがオンであると判定された場合には、上述したステップS5の処理により生成された撮影情報(メタデータ)に基づいて、合成方法判定部62が「合成方法」を判定する(ステップS93)。具体的に、合成方法判定部62は、合成方法が、加算、比較明、または比較暗の何れに該当するかを判定する。
ステップS93において合成方法が加算であると判定された場合には、サムネイル処理部5のサムネイル生成部51が、合成後の画像データである最終フレームの画像に基づきサムネイル画像を生成して主サムネイル画像とし、合成前の画像データである1フレーム目の画像に基づきサムネイル画像を生成して副サムネイル画像とする。こうして、サムネイル生成部51は、2枚の(2種類の)サムネイル画像を生成する(ステップS94)。
また、ステップS93において合成方法が比較明であると判定された場合には、サムネイル処理部5のサムネイル生成部51が、最終フレームの画像に基づきサムネイル画像を生成して主サムネイル画像とし、1フレーム目の画像に基づきサムネイル画像を生成して副サムネイル画像とする。こうして、サムネイル生成部51は、2枚の(2種類の)サムネイル画像を生成する(ステップS95)。
さらに、ステップS93において合成方法が比較暗であると判定された場合には、サムネイル処理部5のサムネイル生成部51が、1フレーム目の画像に基づきサムネイル画像を生成して主サムネイル画像とし、最終フレームの画像に基づきサムネイル画像を生成して副サムネイル画像とする。こうして、サムネイル生成部51は、2枚の(2種類の)サムネイル画像を生成する(ステップS96)。
このように、合成方法判定部62が比較明合成または加算合成であると判定した場合は、サムネイル生成部51は、合成後の画像データに基づき主サムネイル画像を生成し、合成前の画像データに基づき副サムネイル画像を生成する(ステップS84、S85、S94、S95参照)。一方、合成方法判定部62が比較暗合成であると判定した場合は、サムネイル生成部51は、合成前の画像データに基づき主サムネイル画像を生成し、合成後の画像データに基づき副サムネイル画像を生成する(ステップS86、S96参照)。
このステップS96(同様に、上述したステップS86)において、1フレーム目を主サムネイル画像、最終フレームを副サムネイル画像としたのは、次の理由による。すなわち、比較暗の場合には、合成枚数が増えるに従って画像が暗くなるために、最終フレームを主サムネイル画像、1フレーム目を副サムネイル画像とすると、暗い画像である主サムネイル画像を指定して再生を行うと、突然、1フレーム目の明るい画像から再生開始となる。そこで、こうした暗から明への突然の輝度変化を避けるようにしたためである。
ステップS92、S94、S95、またはS96の何れかの処理を行ったら、この処理からリターンする。
図9は、撮像装置1における再生処理を示すフローチャートである。
図2のステップS2に入ると、この図9に示すような再生処理が行われる。
するとまず、外部メモリ11から再生対象の画像データ111を読み出して、読み出した画像データ111を表示部3の表示用メモリ37内にある表示画像展開メモリ38に格納する(ステップS101)。
次に、表示部3の再生情報取得部32が、表示画像展開メモリ38に格納された画像データ111から、撮影情報(メタデータ)を取得する(ステップS102)。
続いて、これから再生を行う対象の画像が、合成処理により生成された画像であるか否かを、撮影情報(メタデータ)の合成撮影フラグ118に基づいて、上述した図5の処理により判定する(ステップS103)。
そして、再生対象の画像のサムネイル表示制御を、後で図10を参照して説明するように行い(ステップS104)、この処理からリターンする。
図10は、撮像装置1におけるサムネイル表示制御の処理を示すフローチャートである。
図9のステップS104に入ると、この図10に示すようなサムネイル表示制御の処理が行われる。
するとまず、表示画像展開メモリ38に格納された画像データ111からサムネイル画像を取得する(ステップS111)。このときには、サムネイル格納位置情報119を参照して、第1サムネイル格納領域116に格納されているサムネイル画像と、第2サムネイル格納領域120に格納されているサムネイル画像と、の何れが主サムネイル画像であり、何れが副サムネイル画像であるかを判定して、主サムネイル画像であると判定されたサムネイル画像を主サムネイル展開メモリ39に格納し、副サムネイル画像であるかと判定されたサムネイル画像を副サムネイル展開メモリ40に格納する。ただし、画像データ111に含まれるサムネイル画像が1つのみである場合には、そのサムネイル画像を、主サムネイル展開メモリ39に格納する。
サムネイル強調処理部52が、撮影情報(メタデータ)の画像強調フラグ117に基づいて、サムネイル画像が画像強調処理されているか否かを判定する(ステップS112)。
ここで、画像強調処理されていないと判定された場合には、撮像装置1の設定情報に基づいて、サムネイル強調処理部52が、サムネイル画像の画像強調処理が必要であるか否かを判定する(ステップS113)。このような処理を行うことにより、画像データ111中のサムネイル画像が画像強調されていなくても、再生時に画像強調して表示することが可能となっている。
このステップS113において、画像強調処理が必要であると判定した場合には、サムネイル強調処理部52は、表示部3のサムネイル表示制御部33に対して、サムネイル画像の画像強調処理を行う旨の[強調オン]を通知する(ステップS114)。
このステップS114の処理を行った場合、ステップS112において画像強調処理されていると判定された場合、ステップS113において画像強調処理が必要でないと判定された場合には、上述したステップS103の判定結果として得られた合成フラグがオンであるか否かを判定する(ステップS115)。
ここで、合成フラグがオンであると判定された場合には、上述したステップS111において取得されたサムネイル画像の枚数が2枚以上であるか否かを判定する(ステップS116)。
そして2枚以上であると判定された場合には、さらに、撮像装置1の設定情報に基づいて、サムネイル画像の表示方法を判定する(ステップS117)。ここでは、サムネイル画像の表示方法として、コマ切換、透過度変更、モーフィングの何れかが設定されるものとして説明するが、その他の表示方法を用いても勿論構わない。
上述したステップS115において合成フラグがオンでないと判定された場合、上述したステップS116においてサムネイル画像の枚数が2枚以上でなく1枚のみであると判定された場合には、例えばシステム制御部13が、[通常表示]を行うことをサムネイル表示制御部33に通知する(ステップS118)。
また、ステップS117において、表示方法がコマ切換であると判定された場合には、例えばシステム制御部13が、[コマ切換]を行うことをサムネイル表示制御部33に通知する(ステップS119)。
ステップS117において、表示方法が透過度変更であると判定された場合には、例えばシステム制御部13が、[透過度変更]を行うことをサムネイル表示制御部33に通知する(ステップS120)。
ステップS117において、表示方法がモーフィングであると判定された場合には、例えばシステム制御部13が、[モーフィング]を行うことをサムネイル表示制御部33に通知する(ステップS121)。
上述したステップS118〜S121の何れかの処理により通知を受信したら、サムネイル表示制御部33は、後で図11を参照して説明するようにサムネイル表示処理を行って(ステップS122)、この処理からリターンする。
図11は、撮像装置1におけるサムネイル表示処理を示すフローチャートである。
図10のステップS122に入ると、この図11に示すようなサムネイル表示処理が行われる。
まず、サムネイル表示制御部33は、[通常表示]の通知を受信したか否かを判定する(ステップS131)。
ここで、[通常表示]の通知を受信したと判定した場合には、サムネイル表示制御部33が、主サムネイル展開メモリ39のサムネイル画像を、表示部材31に表示する(ステップS132)。このときに表示されるサムネイル画像は、画像強調がなされていない通常の表示である。
また、ステップS131において、[通常表示]の通知を受信していないと判定した場合には、サムネイル表示制御部33は、[強調オン]の通知を受信したか否かを判定する(ステップS133)。
ここで、[強調オン]の通知を受信したと判定された場合には、サムネイル処理部5のサムネイル強調処理部52が、サムネイル画像の画像強調を行う(ステップS134)。従って、後述するステップS136、S138、S139、S141、S147において再生対象となっている本画像のサムネイル画像をサムネイル表示制御部33が表示する際には、画像強調処理が行われたサムネイル画像が表示されることになる。
ステップS134の処理を行うか、またはステップS133において[強調オン]の通知を受信していないと判定した場合には、サムネイル表示制御部33は、受信した通知が示す表示方法を判定する(ステップS135)。
ここで、[コマ切換]の通知を受信したと判定された場合には、コマ切換アニメーション部34が、主サムネイル展開メモリ39のサムネイル画像を表示部材31に表示する(ステップS136)。
そして、コマ切換アニメーション部34は、サムネイル画像を表示部材31に表示してから一定時間が経過したか否かを判定する(ステップS137)。ここで、経過していないと判定した場合には、経過したと判定するまで、現在の表示状態を継続する。
こうして、一定時間が経過したと判定した場合には、コマ切換アニメーション部34は、副サムネイル展開メモリ40のサムネイル画像を表示部材31に表示する(ステップS138)。すなわち、表示制御部であるサムネイル表示制御部33は、複数のサムネイル画像に基づくサムネイル画像の表示を、コマ切換アニメーションにより行う。
また、ステップS135において、[透過度変更]の通知を受信したと判定された場合には、透過度変更アニメーション部35が、副サムネイル展開メモリ40のサムネイル画像を表示部材31に表示する(ステップS139)。
さらに、透過度変更アニメーション部35が、主サムネイル画像の透過度を最小(具体例としては、透過率0%)に設定した上で(ステップS140)、ステップS139の処理で表示された副サムネイル画像の上に重畳させる形で、主サムネイル展開メモリ39のサムネイル画像を表示部材31に表示する(ステップS141)。これにより、表示部材31上において観察されるのは主サムネイル画像のみとなる。
その後、透過度変更アニメーション部35は、一定時間が経過したか否かを判定する(ステップS142)。ここで、経過していないと判定した場合には、経過したと判定するまで、現在の表示状態を継続する。
こうして、一定時間が経過したと判定した場合には、透過度変更アニメーション部35が、主サムネイル画像の透過度を一定量増加する(ステップS143)。これにより、主サムネイル画像だけでなく、下の副サムネイル画像も重畳して、表示部材31上において観察される。
透過度変更アニメーション部35は、透過度が規定の最大値(具体例としては、透過率100%)に達したか否かを判定する(ステップS144)。ここで、最大値に達していないと判定した場合には、ステップS142に戻って、上述したような、一定時間経過毎の透過度の増大処理を繰り返して行う。すなわち、表示制御部であるサムネイル表示制御部33は、複数のサムネイル画像に基づくサムネイル画像の表示を、透過度変更アニメーションにより行う。
なお、ステップS139〜S144においては、副サムネイル画像の上に主サムネイル画像を重畳して、主サムネイル画像の透過度を最小(0%)から最大(100%)へ変更したが、これに代えて、主サムネイル画像の上に副サムネイル画像を重畳して、副サムネイル画像の透過度を最大(100%)から最小(0%)へ変更するようにしても勿論構わない。
一方、ステップS135において、[モーフィング]の通知を受信したと判定された場合には、サムネイル表示制御部33が、主サムネイル展開メモリ39のサムネイル画像と副サムネイル展開メモリ40のサムネイル画像とに基づいてモーフィングデータを生成し、生成したモーフィングデータをモーフィングデータ展開メモリ41に格納する(ステップS145)。
すると、サムネイル処理部5のサムネイル生成部51が、モーフィングデータ展開メモリ41に格納されたモーフィングデータに基づいて、サムネイル画像を生成する(ステップS146)。
そして、モーフィングアニメーション部36が、ステップS146により生成されたサムネイル画像を、表示部材31に表示する(ステップS147)。
その後、モーフィングアニメーション部36は、一定時間が経過したか否かを判定する(ステップS148)。ここで、経過していないと判定した場合には、経過したと判定するまで、現在の表示状態を継続する。
こうして、一定時間が経過したと判定した場合には、モーフィングアニメーション部36が、モーフィングデータ再生の最大時間に達したか否かを判定する(ステップS149)。ここで、達していないと判定した場合には、達したと判定するまで、ステップS146に戻って上述した処理を繰り返して行う。すなわち、表示制御部であるサムネイル表示制御部33は、複数のサムネイル画像に基づくサムネイル画像の表示を、モーフィングアニメーションにより行う。
このような実施形態1によれば、画像データが複数の画像データを合成した合成画像データである場合に、サムネイル生成部51が、合成前の画像データと合成後の画像データとの少なくとも一方に基づき複数のサムネイル画像を生成するようにしたために、合成画像データに係るサムネイル画像の視認性を向上することが可能となる。
また、生成された複数のサムネイル画像を記録媒体である外部メモリ11に記録するようにしたために、サムネイル画像を表示しようとする毎に、複数のサムネイル画像を生成し直す処理が不要となり、簡便なサムネイル画像表示が可能となる。
そして、複数のサムネイル画像に基づくサムネイル画像を表示部3に表示するようにしたために、合成画像データであることを分かり易く表示することができる。
撮影された画像については、合成処理部63が合成を行うか否か、および合成を行う場合の合成方法に基づき、合成判定と合成方法判定とを行うようにしたために、合成画像を外部メモリ11に記録する前に、サムネイル画像を適切に生成することができる。
外部メモリ11に記録済みの画像については、記録されている画像データの撮影情報を参照するようにしたために、合成判定と合成方法判定とを直ちに行うことが可能となる。
比較明合成または加算合成の場合は、合成後の画像データに基づき主サムネイル画像を生成し、合成前の画像データに基づき副サムネイル画像を生成するようにしたために、時系列に沿った自然なサムネイル画像表示により、画像データが合成画像データであることを確認することができる。
一方、比較暗合成の場合は、合成前の画像データに基づき主サムネイル画像を生成し、合成後の画像データに基づき副サムネイル画像を生成するようにしたために、暗から明への突然の輝度変化を避けることができる。
そして、主サムネイル画像から副サムネイル画像に変化するアニメーション表示を行うようにしたために、合成画像データがどのような合成方法により合成された画像データであるかを分かり易く表示することができると共に、3Dのサムネイル画像に比べて、表示処理の負荷を軽減することができる。
ここに、アニメーション表示を、主サムネイル画像から副サムネイル画像への画像切替処理により行う場合には、処理負荷を極めて軽くすることができる。
また、アニメーション表示を、副サムネイル画像の上に重畳された主サムネイル画像の透過度を最小から最大へ変化させる透過度変更処理により行う場合には、画像変化が緩やかになるために、より視覚的に自然な表示を得ることができる。
さらに、アニメーション表示を、主サムネイル画像から副サムネイル画像へ形状を変化させるモーフィング処理により行う場合には、さらに一層滑らかに変化する表示を得ることができる。
複数のサムネイル画像の少なくとも1つに、画像合成方法によって得られる画像処理効果を強調する画像強調処理を行うようにした場合には、表示サイズが小さいサムネイル画像においても、どのような合成方法で生成された合成画像であるかを容易に確認することが可能となる。
そして、合成後の画像データに基づいて生成されたサムネイル画像を、外部メモリ11における、合成画像データ以外の通常の画像データのサムネイル画像と互換性のある記録位置に記録するようにしたために、複数のサムネイル画像の表示に対応していない従来の装置や処理プログラム等においても、従来と同様の表示を行うことが可能となり、互換性の高いシステムを構築することができる。
なお、上述した各部は、回路として構成されていてもよい。そして、任意の回路は、同一の機能を果たすことができれば、単一の回路として実装されていてもよいし、複数の回路を組み合わせたものとして実装されていても構わない。さらに、任意の回路は、目的とする機能を果たすための専用回路として構成されるに限るものではなく、汎用回路に処理プログラムを実行させることで目的とする機能を果たす構成であっても構わない。あるいは、ハードウェアとして構成されたプロセッサが、各部の処理を行うようにしても良い。
また、上述では主として画像処理装置について説明したが、画像処理方法であってもよいし、コンピュータに画像処理装置と同様の処理を行わせるための処理プログラム、該処理プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。
さらに、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。