以下、本発明に係る電子カメラ101の実施形態について説明する。図1は、本実施形態に係る電子カメラ101の構成を示すブロック図である。図1において、電子カメラ101は、撮像部102と、画像バッファ103と、画像処理部104と、記憶部105と、制御部106と、操作部107とで基本的に構成される。尚、図1において、各部はシステムバス108で相互に接続されて、制御信号や画像データなどを入出力できる。また、図1の電子カメラ101に撮影中の画像や撮影済みの画像を再生できるように表示部109を設けても構わない。或いは、記憶部105をメモリカードで構成して、撮影済みの画像をパソコンなどで読み出して再生するようにしても構わない。
図1において、撮像部102は、光学系201と、CCD型またはCMOS型の固体撮像素子202と、AFE(アナログフロントエンド)203と、TG(タイミングジェネレータ)204とで構成される。
ここで、固体撮像素子202は、撮影した画像を指定された複数の解像度で読み出すことができる多重解像度データの出力機能を備えた撮像素子である。解像度の指定は制御部106が行い、制御部106は撮像部102のTG204に対して固体撮像素子202から読み出す画像の解像度を指示する。TG204は、制御部106から指示された解像度の画像になるように行読み出しタイミング信号や列読み出しタイミング信号を固体撮像素子202およびAFE203に出力し、指示された解像度の画像データを画像バッファ103に取り込む。
尚、固体撮像素子202がCMOS型の固体撮像素子である場合は、アドレッシング機能によって二次元行列状に配置された画素の読み出す行と列の位置を指定できるので所望の解像度の画像を直接得ることができるが、固体撮像素子202がCCD型の固体撮像素子である場合は、読み出す画素の列位置を指定できないので、行の位置のみを指定して読み出した後で所望の解像度になるように不要な列の画像データを削除する必要がある。本実施形態の説明では、分かり易いように、固体撮像素子202は、CMOS型の固体撮像素子とする。そして、図2において、全画素読み出しの解像度を1とした場合、1/4,1/16,1/64,1/256,1/1024のように1/4ずつの解像度で読み出すことができるものとするが、1/8や1/10など他の解像度で読み出すようにしても構わない。また、全画素読み出しの解像度を基準にする必要はなく、例えば1/4の解像度の画像を基準にしても構わない。
図1において、制御部106は、原画像取得処理部151と、解像度決定処理部152と、予備画像取得処理部153と、類似度判定処理部154とで構成される。原画像取得処理部151は、通常の電子カメラと同様に、静止画撮影や所定フレームレートで動画撮影を行う。ここで、静止画撮影される画像および所定フレーム間隔で動画撮影される画像を原画像と定義し、原画像以外に撮影される画像を予備画像と定義する。解像度決定処理部152は、予備画像の解像度を決定する処理を行う。予備画像取得処理部153は、原画像の撮影の合間に解像度決定処理部152が決定した解像度で予備画像を撮影する処理を行う。類似度判定処理部154は、予備画像や原画像の間の類似度を判定する処理を行う。尚、各部の処理については、後で詳しく説明する。
図1において、被写体からの光は光学系201によって、固体撮像素子202の受光面に結像される。固体撮像素子202の受光面には光電変換部が二次元状に配置されており、各光電変換部は受光量に応じた大きさのアナログ信号に変換してAFE203に出力する。AFE203は、固体撮像素子202が出力するアナログ信号のノイズ除去や増幅などを行い、デジタルの画像データにA/D変換して画像バッファ103に一時的に記憶する。そして、画像バッファ103に一時的に記憶された画像データは、画像処理部104によって所定の画像処理(例えば、色補間処理,ホワイトバランス処理,輪郭処理,ガンマ変換処理など)が施される。尚、画像処理部104は、静止画撮影の場合は例えばJPEG規格に準拠した画像圧縮処理を行い、動画撮影の場合は例えばMPEG規格に準拠した画像圧縮処理を行う。そして、画像圧縮処理後の画像データは記憶部105に撮影画像として保存される。ここで、制御部106は予め内部に記憶されたプログラムに従って動作し、操作部107の操作内容に応じて電子カメラ101全体の動作を制御する。操作部107は、電源ボタン,レリーズボタン,動画撮影ボタン,モード切替ダイヤルなどの操作部材で構成され、ユーザはこれらの操作部材を操作して電子カメラ101を使用する。例えば、電源ボタンで電子カメラ101の電源オン/オフを操作し、レリーズボタンで静止画の撮影を行い、動画撮影ボタンで動画撮影の開始/終了を操作する。また、モード切替ダイヤルで撮影モードと再生モードを切り替えることができる。撮影モードでは、静止画単写モード(1枚の静止画を撮影するモード)、静止画連写モード、動画撮影モード、動画/静止画撮影モード(動画撮影中に静止画撮影ができるモード)などを選択することができる。また、再生モードでは、撮影済みの静止画の表示または動画再生を選択することができ、特に動画再生においてはスロー再生,コマ送り再生,早送り再生などの特殊再生モードを選択することができる。
ここで、本実施形態の説明において、通常の電子カメラと同様に所定のフレームレートで撮影される動画やレリーズボタン押下時に撮影される静止画を原画像(または本画像)と定義し、原画像とは別に補助的に撮影される画像を予備画像と定義する。本実施形態に係る電子カメラ101は、原画像だけでなく予備画像を撮影する機能を有している。例えば動画撮影時の予備画像は、動画をスロー再生する際に原画像のフレーム間の補間画像として利用する。また、静止画撮影時の予備画像は、例えば撮影された静止画を高画質化したり、印刷時に高解像度化する処理などに利用する。尚、予備画像は原画像と同じ解像度の画像であっても構わないが、本実施形態では原画像より低い解像度で撮影し、複数の予備画像を撮影する場合は各予備画像の解像度は異なっていても構わない。特に本実施形態に係る電子カメラ101は、予備画像の前に撮影される画像間の類似度(特徴量の差)に応じて予備画像の解像度を可変するようになっている。
ここで、予備画像の解像度は、図2の例の場合、固体撮像素子202の原画像の解像度を1として、1/4,1/16,1/64,1/256,1/1024のように1/4ずつの解像度に対応する。尚、原画像の解像度は、必ずしも固体撮像素子202の全画素読み出しに対応する解像度である必要はなく、例えば固体撮像素子202の全画素の1/4の解像度で動画撮影を行っても構わない。
次に、原画像および予備画像の解像度と撮影時に画像バッファ103に取り込むデータ量(またはデータ取得時間)との関係について図3を用いて説明する。図3は、時間的に前後する2枚の原画像の間の期間(時間)を示した図で、動画撮影モードの場合はフレーム間隔に相当し、静止画連写撮影モードの場合は連写間隔に相当する。尚、静止画単写撮影モードの場合でも次に撮影可能になるまでの時間に対応させることができる。
図3において、横軸は時間tを示し、最初の原画像の取得をタイミングT1で開始し、次の原画像の取得をタイミングT3で開始する。動画撮影モードの場合は、タイミングT1からタイミングT3までの期間(T_cap)がフレーム取得可能期間となり、例えばフレームレートが30フレーム/秒の場合はタイミングT1からタイミングT3までの期間は1/30秒(sec)となる。ところが、実際の処理では、1枚の原画像を取得する時間は期間T_capより短く、実質的な原画像取得時間はタイミングT1からタイミングT2までの期間(T_base)となり、タイミングT2からタイミングT3までの期間は画像の取得処理を行っていないアイドル期間(T_idle)となる。例えば、分かり易いように、フレーム取得可能期間T_cap=1.25sec、原画像取得時間T_base=1secとした場合、アイドル期間T_idle=0.25secとなる。つまり、アイドル期間T_idle(0.25sec)は、原画像の1/4の解像度の画像を撮影して画像バッファ103に取り込み可能な時間に相当する。従って、1の解像度の原画像を撮影する間に、更に1/4の解像度の画像(予備画像)を撮影することができる。
尚、電子カメラ101の回路構成によっては、画像の取り込みだけではなく撮影時に別の処理を行わなければならない電子カメラもあるので、上記の説明のように単純にアイドル期間T_idle全てを予備画像の撮影に利用できない場合もあるが、1/4の解像度より小さい解像度の画像の取り込みは可能である。尚、本実施形態の説明においては、分かり易いように、フレーム取得可能期間T_cap=原画像取得期間T_base+アイドル期間T_idleの関係が成り立つものとして説明する。また、実際には撮影する画像の解像度に依らない画像取得に必要な共通の処理時間が含まれる場合があるので、必ずしも解像度が1/k(kは自然数)になれば画像取得時間が1/kになるとは限らないが、本実施形態の説明では解像度比=画像取得時間比として説明する。
例えば図3において、原画像取得時間T_base=1sec、アイドル期間T_idle=0.25secの場合は、アイドル期間T_idleに原画像の1/4の解像度の予備画像を1枚撮影することができる。また、原画像の1/16の解像度の予備画像であれば4枚の撮影が可能であり、原画像の1/64の解像度の予備画像であれば16枚の撮影が可能である。同様に、原画像の1/256の解像度の予備画像であれば64枚、原画像の1/1024の解像度の予備画像であれば256枚の予備画像がそれぞれ撮影可能である。
ここで、アイドル期間T_idleに撮影する予備画像の枚数は、この期間内に撮影可能な最大解像度の予備画像を1枚だけ撮影するようにしても構わないし、小さな解像度の複数枚の予備画像を組み合わせて撮影しても構わない。この場合、複数の予備画像の解像度は同じ解像度であっても構わないし、異なる解像度であっても構わない。例えば、図3の例において、アイドル期間T_idle=0.25secの場合、原画像の1/4の解像度の予備画像を1枚だけ撮影するのではなく、原画像の1/16の解像度の予備画像を2枚と、原画像の1/64の解像度の予備画像を4枚と、原画像の1/256の解像度の予備画像を16枚とを組み合わせて撮影するようにしても構わない。
このように、本実施形態に係る電子カメラ101は、制御部106の指令によって、原画像を撮影する間のアイドル期間T_idleに少なくとも1枚の予備画像を撮影して画像バッファ103に取り込むことができるようになっている。
[スロー再生用の予備画像を撮影する場合の例]
次に、動画撮影時にスロー再生用の予備画像を取り込む場合の例について図4を用いて説明する。本実施例では、撮影した動画をスロー再生する際に、原画像のフレーム間に撮影された予備画像を補間画像として利用することによって、実質的なフレームレートが高くなるので、従来の補間画像を用いる方法に比べて、スムーズで自然なスロー再生を行うことができる。
図4は制御部106の処理例を示し、原画像取得処理部151が所定のフレームレート(所定のフレーム間隔)で撮影する動画の原画像間に、予備画像取得処理部153が撮影する予備画像の解像度を解像度決定処理部152が決定する。尚、図4(a)および図4(b)において、縦軸は原画像および予備画像の解像度を示し、横軸はフレーム番号の時間的な流れを示す。ここで、図4(a)は、フレーム(n−3)からフレーム(n+3)までの動画の原画像が解像度1/1で所定のフレーム間隔で撮影される様子を示している。また、図4(b)は、図4(a)のフレーム(n−1)とフレーム(n)の間で撮影される予備画像の位置と解像度の例を示した図である。
図4(b)の例において、制御部106の解像度決定処理部152は、フレーム(n−1)またはフレーム(n)の原画像に時間的に近い位置にある予備画像を低い解像度に決定し、フレーム(n−1)またはフレーム(n)の原画像に時間的に遠い位置にある予備画像を高い解像度に決定する。そして、制御部106の予備画像取得処理部153は、決定された解像度でそれぞれの予備画像を撮影する。ここで、各予備画像の撮影間隔を示すΔfは必ずしも等間隔である必要はないが、図4(b)ではわかり易いようにフレーム間隔を1/6した時の時間間隔をΔfとして描いてある。例えば予備画像301は、フレーム(n)の原画像から時間Δf前の位置で撮影される予備画像(フレーム番号を(n−Δf)と記す)である。また、予備画像302は、フレーム(n)の原画像から時間(2・Δf)前の位置で撮影される予備画像(フレーム番号を(n−2・Δf)と記す)である。ここで、2・Δfは時間Δfの2倍の時間であることを示している。同様に、予備画像303はフレーム(n)の原画像から時間(3・Δf)前の位置で撮影される予備画像(フレーム番号(n−3・Δf))であり、予備画像304はフレーム(n)の原画像から時間(4・Δf)前の位置で撮影される予備画像(フレーム番号(n−4・Δf))であり、予備画像305はフレーム(n)の原画像から時間(5・Δf)前の位置で撮影される予備画像(フレーム番号(n−5・Δf))である。
ここで、解像度決定処理部152は、予備画像303がフレーム(n)とフレーム(n−1)の中間に位置し、他の予備画像よりも両方のフレームから遠い位置にあるので、予備画像303をできるだけ高い解像度(原画像の1/4の解像度)に決定する。また、予備画像301と予備画像305はそれぞれフレーム(n)またはフレーム(n−1)に近い位置なので、低い解像度(原画像の1/64の解像度)に決定する。さらに、予備画像302と予備画像304はそれぞれ予備画像301(または予備画像305)と予備画像303の中間に位置するので、予備画像301(または予備画像305)の解像度と予備画像303の解像度との中間の解像度(原画像の1/16の解像度)に決定する。そして、制御部106の予備画像取得処理部153は、決定された解像度でそれぞれの予備画像を撮影する。
尚、図4(b)は、解像度決定処理部152が予備画像の解像度の決定する一例を説明するための図であり、実際には、動画撮影のフレーム間で撮影する少なくとも1枚の予備画像を取り込むために必要な時間の総和は、図3で説明したアイドル期間T_idleを超えてはならない。例えば、図4(b)は、実際には図5(a)に示すように、原画像のフレーム(n−1)を画像バッファ103に取り込むタイミングT2までの時間T_base後のアイドル期間T_idleに取り込み可能な予備画像(例えば図4(b)の予備画像301と予備画像302の2つの予備画像)を撮影する。或いは、アイドル期間T_idleに予備画像302だけしか撮影する時間がない場合は、図5(b)に示すように、予備画像302だけを撮影するようにしても構わないし、予備画像302よりも低い解像度の予備画像301を撮影するようにしても構わない。
このように、動画撮影モードにおいて、アイドル期間T_idle内に複数の予備画像を撮影可能な場合は、前後するフレームの原画像から近い位置にある予備画像の解像度を原画像から遠い位置にある予備画像の解像度よりも低くすることにより、限られたアイドル期間T_idle内にできるだけ多くの予備画像を撮影することができる。これは、原画像に近い位置にある予備画像は遠い位置にある予備画像よりも原画像に類似している可能性が高いので、低い解像度で撮影しても十分に原画像の補間画像として利用できるからである。この結果、撮影した動画をスロー再生する場合に、品質の高い補間画像を生成することができ、スムーズで自然なスロー再生を行うことができる。尚、類似度については後で詳しく説明する。
[動画撮影中に静止画撮影をする場合の例]
次に、動画撮影中に操作部107のレリーズボタンを押下して静止画を撮影する撮影モードにおいて、撮影した静止画を高画質化するための予備画像を撮影する例について図6を用いて説明する。
図6(a)は、先に説明した図4(a)に相当する図で、制御部106の原画像取得処理部151がフレーム(n−3)からフレーム(n+3)までの動画の原画像(解像度1/1)を所定のフレーム間隔で撮影する様子を示している。また、図6(b)は、図6(a)のフレーム(n)のタイミングで操作部107のレリーズボタンが押下された時に、制御部106の原画像取得処理部151がフレーム(n)を静止画(原画像)として撮影する場合の様子を示している。この時、制御部106の予備画像取得処理部153がフレーム(n)の原画像を高画質化するためにフレーム(n)前後で撮影する予備画像の位置と解像度の例を示した図である。尚、図4と同様に、図6(a)および図6(b)において、縦軸は原画像および予備画像の解像度を示し、横軸はフレーム番号の時間的な流れを示す。
図6(b)において、制御部106の解像度決定処理部152は、フレーム(n)の原画像に時間的に近い位置にある予備画像を低い解像度に決定し、フレーム(n)の原画像に時間的に遠い位置にある予備画像を高い解像度に決定する。そして、制御部106の予備画像取得処理部153は、決定された解像度でそれぞれの予備画像を撮影する。ここで、Δfは、図4(b)と同様に、フレーム間隔を1/6した時の時間間隔を示しているが、Δfは必ずしも等間隔である必要はない。例えば予備画像401は、フレーム(n)の原画像から時間Δf後の位置で撮影される予備画像(フレーム番号を(n+Δf)と記す)である。また、予備画像402は、フレーム(n)の原画像から時間(2・Δf)後の位置で撮影される予備画像(フレーム番号を(n+2・Δf)と記す)である。ここで、2・Δfは、図4(b)と同様に、時間Δfの2倍の時間であることを示している。以下、同様に、予備画像403はフレーム(n)の原画像から時間(3・Δf)後の位置で撮影される予備画像(フレーム番号(n+3・Δf))であり、予備画像404はフレーム(n)の原画像から時間(Δf)前の位置で撮影される予備画像(フレーム番号(n−Δf))であり、予備画像405はフレーム(n)の原画像から時間(2・Δf)前の位置で撮影される予備画像(フレーム番号(n−2・Δf))であり、予備画像406はフレーム(n)の原画像から時間(3・Δf)前の位置で撮影される予備画像(フレーム番号(n−3・Δf))である。
ここで、制御部106の解像度決定処理部152は、予備画像401と予備画像404はフレーム(n)に一番近い位置にあるので低い解像度(原画像の1/64の解像度)に決定し、予備画像403と予備画像406はフレーム(n)に一番遠い位置にあるので高い解像度(原画像の1/4の解像度)に決定する。また、予備画像402と予備画像405は、予備画像401および予備画像404と予備画像403および予備画像406との中間に位置するのでこれらの解像度の中間の解像度(原画像の1/16の解像度)に決定する。そして、制御部106の予備画像取得処理部153は、決定された解像度でそれぞれの予備画像を撮影する。
尚、図6(b)は、解像度決定処理部152が動画撮影中に行われる静止画を高解像度化するために撮影される予備画像の解像度を決定する一例を説明するための図であり、実際には、動画撮影のフレーム間で撮影する少なくとも1枚の予備画像を取り込むために必要な時間の総和は、図3で説明したアイドル期間T_idleを超えてはならない。例えば、アイドル期間T_idleの間に取り込み可能な予備画像が1/16の解像度の予備画像1枚と1/64の解像度の予備画像1枚である場合は、図6(b)において、フレーム(n)の前では予備画像404と予備画像405の2枚だけを撮影し、フレーム(n)の後では予備画像401と予備画像402の2枚だけを撮影する。これにより、動画撮影に影響を与えることなく、撮影した静止画像を高画質化するための予備画像を撮影することができる。尚、高画質化は、例えば画素数を増やして超空間解像度化する手法などを用いることができ、フレーム(n)の解像度1の静止画を予備画像401と予備画像402の画像データで補間して例えば2倍の解像度(解像度2)に高解像度化することができる。
ここで、図6(b)において、予備画像404,予備画像405および予備画像406は、レリーズボタンが押下される前(フレーム(n)の原画像の撮影前)なので実際には予備画像の取得が難しいが、例えばレリーズボタンの半押し時点(一般的な電子カメラでは、レリーズボタンの半押しで焦点検出や測光などを行うようになっている)からリングバッファに予備画像を繰り返し取り込むようにして、レリーズボタンの全押し時点(静止画の撮影時点)でリングバッファへの予備画像の取り込みを終了することで、静止画撮影前の予備画像の取り込みが可能になる。尚、この場合のリングバッファの記憶容量は、アイドル期間T_idleで取り込み可能な最大解像度の予備画像のデータ量があれば十分である。
このように、動画撮影中に静止画撮影を行う撮影モードにおいて、アイドル期間T_idle内に複数の予備画像を撮影可能な場合は、原画像(静止画像)から近い位置にある予備画像の解像度を原画像から遠い位置にある予備画像の解像度よりも低くすることにより、限られたアイドル期間T_idle内にできるだけ多くの予備画像を撮影することができ、静止画像を精度良く高画質化することができる。これは、先の実施例で説明したように、原画像に近い位置にある予備画像は遠い位置にある予備画像よりも原画像に類似している可能性が高いので、低い解像度で撮影しても十分に原画像の補間画像として利用できるからである。
[静止画撮影をする場合の例]
次に、ユーザがレリーズボタンを押下する毎に1枚の静止画を撮影する静止画単写撮影モードにおいて、予備画像を撮影する例について図7を用いて説明する。尚、本実施例は、図6で説明した動画撮影中の静止画撮影と同様に、撮影した静止画像を高画質化するために予備画像を撮影する。
図7の例では、ユーザが操作部107のレリーズボタンを押下(全押し)すると、制御部106の原画像取得処理部151は静止画像(原画像)501を撮影する。尚、通常の電子カメラでは、静止画像501が画像バッファ103に取り込まれるだけであるが、本実施例では制御部106の予備画像取得処理部153が静止画像501の前後に予備画像を撮影する。例えば、予備画像取得処理部153は、静止画像501の撮影後、ユーザが再びレリーズボタンを押下して次の静止画像502を撮影するまでのアイドル期間T_idleに撮影可能な予備画像503や予備画像504を撮影する。ここで、静止画像501および静止画像502の解像度を1とした場合、制御部106の解像度決定処理部152は、例えば静止画像501に一番近い位置にある予備画像503の解像度を低めの1/64にし、予備画像503より遠い位置にある予備画像504の解像度を高めの1/16のように決定する。尚、予備画像取得処理部153は、アイドル期間T_idleに撮影可能な予備画像が予備画像503だけの場合は予備画像503のみを撮影する。また、レリーズボタンが押下される前の予備画像505や予備画像506を取り込む場合は、図6の実施例で説明したように、例えばレリーズボタンの半押し時点からリングバッファに予備画像を繰り返し取り込むようにすれば、静止画撮影前の予備画像の取り込みが可能である。
このように、1枚の静止画像501を撮影する静止画単写撮影モードにおいても、ユーザが再びレリーズボタンを押下して次の静止画像502を撮影するまでのアイドル期間T_idleに予備画像を撮影することができる。特に、アイドル期間T_idle内に複数の予備画像を撮影できる場合は、原画像(静止画像)から近い位置にある予備画像の解像度を原画像から遠い位置にある予備画像の解像度よりも低くすることにより、限られたアイドル期間T_idle内にできるだけ多くの予備画像を撮影することができ、静止画像を精度良く高画質化することができる。これは、先の実施例で説明したように、原画像に近い位置にある予備画像は遠い位置にある予備画像よりも原画像に類似している可能性が高いので、低い解像度で撮影しても十分に原画像の補間画像として利用できるからである。次に、予備画像の解像度と類似度について詳しく説明する。
[予備画像の解像度と類似度との関係]
上記の各実施例において、制御部106の解像度決定処理部152が予備画像の解像度を決定する際に、予備画像の撮影位置が原画像に近い位置にあるか遠い位置にあるかによって判断し、原画像に近い位置にある予備画像の解像度を原画像から遠い位置にある予備画像より低い解像度になるようにして、限られたアイドル期間T_idle内にできるだけ多くの予備画像を撮影できるようにしていた。これは、各実施例で説明したように、原画像により近い位置(撮影時間の差が小さい)にある予備画像ほど原画像との類似度が大きいので、低い解像度の予備画像でもスロー再生時の補間画像の作成や静止画像の補足データとしては十分だからである。とつまり、原画像から遠い位置にある予備画像は、撮影時間差が大きいので、画像の特徴量(主要被写体の形状,明るさ,色相,輪郭成分,周波数成分,動きベクトルなど)が大きく変化している可能性が高い。このため、原画像と予備画像との差が大きいので、撮影する予備画像はできるだけ高解像度の画像であることが望ましい。
ここで、類似度は、上記の特徴量の差の逆数としても定義できる。例えば、主要被写体の形状が変化しない場合は、特徴量の差が小さいので類似度は大きくなる。同様に、明るさが変化しない場合,色相が変化しない場合も特徴量の差が小さいので類似度は大きくなる。或いは、輪郭成分はエッジの量に相当し、構造物が多い画像では輪郭成分が多くなるので、例えば建築物の画像から空や雲などの画像に変化する場合、特徴量の差が大きくなって類似度は小さくなる。高周波成分についても同じである。また、特徴量が動きベクトルである場合は、主要被写体の動きベクトルが変化すれば特徴量の差が大きくなって類似度は小さくなる。例えば、同じ明るさ,同じ色相,同じ輪郭成分および同じ主要被写体の形状であっても主要被写体が画面内で移動した場合は動きベクトルだけが変化する場合がある。このような場合でも、動きベクトルの変化で類似度を判断することによって、最適な予備画像の解像度を決定することができる。尚、このような類似度の判定処理は、図1の制御部106の類似度判定処理部154によって行われる。
ここで、予備画像の解像度と類似度の関係を図8に示す。尚、図8において、横軸は類似度,縦軸は予備画像の解像度を示す。例えば、類似度として明るさ(HSV空間のV(Value)データ画面平均差分など)をパラメータとして用いる場合、同じ明るさの画像であれば類似度は大きくなり、明るさが異なるほど類似度は小さくなる。尚、図8において、予備画像の解像度と類似度の関係は、特性601のような直線的な反比例の関係であっても構わないし、撮影可能な予備画像の数に比較的余裕がある場合は特性602のようにして、少しの誤差(特徴量の差)でも高い解像度で撮影するようにしても構わない。或いは、撮影可能な予備画像の数に余裕がない場合は特性603のようにして、できるだけ低い解像度で撮影するようにしても構わない。ここで、実際にはこれから取得しようとする予備画像と原画像または他の予備画像との類似度を求めることができないので、類似度判定処理部154は1つ前の予備画像および1つ前の原画像などを用いて類似度を求める。尚、この点については次の例で詳しく説明する。
[類似度に応じて予備画像の解像度を決定する例]
次に、制御部106の類似度判定処理部154が求めた類似度に応じて予備画像の解像度を決定する例について図9を用いて説明する。図9は、図6で説明した動画撮影中に静止画撮影をする場合の例に対応する図で、図9(a)は図6(a)と全く同じである。従って、図9(b)は、図9(a)のフレーム(n)のタイミングでユーザが操作部107のレリーズボタンが押下した時に、制御部106の原画像取得処理部151が撮影するフレーム(n)の静止画(原画像)と、その前後で予備画像取得処理部153が撮影する予備画像の位置と解像度の例を示した図である。尚、図4と同様に、図9(a)および図9(b)において、縦軸は原画像および予備画像の解像度を示し、横軸はフレーム番号の時間的な流れを示す。
図9(b)においても、図6(b)と同様にΔfの間隔で予備画像を撮影するものとするが、実際には各予備画像を取得可能な時間を確保できればよいので必ずしも等間隔である必要はない。
図9(b)において、制御部106の解像度決定処理部152は、フレーム(n)の原画像700の前後に撮影する予備画像701,予備画像702,予備画像703,予備画像704,予備画像705および予備画像706の解像度を決定する。この時、制御部106の類似度判定処理部154は、各予備画像と原画像(フレーム(n))との類似度を求める。
ここで、先の説明では、分かり易いように、制御部106の類似度判定処理部154は、原画像と予備画像の類似度に応じて予備画像の解像度を決定するとしたが、実際にはこれから取得しようとする予備画像との類似度を求めることができないので、類似度判定処理部154は、1つ前の予備画像および1つ前の原画像などを用いて類似度を求め、次に取得する予備画像の解像度を決定する。例えば、図9(b)において、類似度判定処理部154は、これから撮影しようとする予備画像701の解像度は、予備画像702と原画像(フレーム(n−1))との類似度を求めて決定するか、予備画像702と予備画像703との類似度を求めて決定する。或いは、原画像(フレーム(n−1))とさらに1つ前の原画像(フレーム(n−2))との類似度を求めて決定しても構わない。いずれにしても、できるだけ時間的に近い位置にある画像との類似度を求めるのが望ましい。図9(b)において、類似度判定処理部154が予備画像701,予備画像702,予備画像703および原画像(フレーム(n−1))の類似度が大きいと判定した場合、特徴量の変化が少ない画像なので、解像度決定処理部152は比較的低い解像度(原画像の1/64の解像度)に決定し、予備画像取得処理部153は、決定された解像度でこれらの予備画像の撮影を行う。
また、静止画の原画像(フレーム(n))の撮影後に撮影される予備画像704の解像度は、類似度判定処理部154が原画像(フレーム(n))と予備画像701との類似度または原画像(フレーム(n))と原画像(フレーム(n−1))との類似度を求め、その類似度に応じて解像度決定処理部152によって決定される。例えば、類似度判定処理部154が原画像(フレーム(n))と予備画像701との類似度が大きいと判定した場合、解像度決定処理部152は比較的低い解像度(原画像の1/64の解像度)に決定し、予備画像取得処理部153は決定された解像度で予備画像704の撮影を行う。
同様に、予備画像705の解像度は、類似度判定処理部154が原画像(フレーム(n))と予備画像704との類似度を求め、その類似度に応じて解像度決定処理部152によって決定される。例えば、類似度判定処理部154が原画像(フレーム(n))と予備画像704との類似度が直前の類似度に比べて少し小さいと判定した場合、解像度決定処理部152は直前に決定した解像度(原画像の1/64の解像度)よりも少し高い解像度(原画像の1/16の解像度)に決定し、予備画像取得処理部153は決定された解像度で予備画像705の撮影を行う。
さらに、予備画像706の解像度は、類似度判定処理部154が予備画像705と予備画像704との類似度または原画像(フレーム(n))と予備画像704との類似度を求め、その類似度に応じて解像度決定処理部152によって決定される。例えば、類似度判定処理部154が予備画像705と予備画像704との類似度が直前の類似度に比べて小さいと判定した場合、解像度決定処理部152は直前に決定した解像度(原画像の1/16の解像度)よりも高い解像度(原画像の1/4の解像度)に決定し、予備画像取得処理部153は決定された解像度で予備画像706の撮影を行う。
ここで、図9(b)において、図6(b)の場合と同様に、予備画像701,予備画像702および予備画像703は、レリーズボタンが押下される前(フレーム(n)の原画像の撮影前)なので実際には予備画像の取得が難しいが、例えばレリーズボタンの半押し時点からリングバッファに予備画像を繰り返し取り込むようにして実現することができる。
このようにして、類似度が大きい場合は低い解像度で予備画像を撮影し、類似度が小さい場合は高い解像度で予備画像を撮影することにより、限られたアイドル期間T_idle内にできるだけ多くの予備画像を撮影することができ、静止画像を精度良く高画質化することができる。尚、動画撮影の場合についても同様に類似度を用いて予備画像の解像度を決定することができ、静止画の場合と同様の効果が得られる。
(電子カメラ101の変形例)
次に、電子カメラ101の変形例について図10を用いて説明する。図10は、図1で説明した電子カメラ101の変形例である電子カメラ101aの構成を示すブロック図である。尚、図10において、図1と同符号のものは同じものを示す。図10が図1と異なるのは、第2の撮像部110が設けられていることである。第2の撮像部は類似度判定用の画像を固定解像度で撮影する。
図10において、第2の撮像部110は、撮像部102の撮影処理とは無関係に撮像部102と同じ画角の被写体画像を撮影することができる。例えば、第2の撮像部110は、例えば測光センサと兼用しても構わない。また、第2の撮像部110は、制御部106に直接接続されているが、システムバス108を介して接続されていても構わない。
制御部106は、撮像部102で原画像や予備画像を撮影する処理とは別に第2の撮像部110で被写体画像を撮像する。この様子を図11に示す。図11は、図9(b)の原画像(フレーム(n))と予備画像701から予備画像706に対応させて、第2の撮像部110で類似度判定用画像801から類似度判定用画像814を撮像する場合の例を示した図である。
図11の例では、類似度判定用画像800から類似度判定用画像807は、原画像(フレーム(n))と予備画像701から予備画像706を撮影する直前で撮影される。これにより、例えば制御部106の解像度決定処理部152が予備画像703を撮影する際の解像度を決定する時に、類似度判定処理部154は第2の撮像部110が撮影した類似度判定用画像800と類似度判定用画像801とを用いて類似度を求める。ここで、類似度判定用画像800は原画像(フレーム(n−1))の直前に第2の撮影部110によって撮影された画像で、類似度判定用画像801は予備画像701の直前に撮影された画像である。尚、第2の撮像部110は、固定解像度なので類似度の判定を迅速且つ安定して精度良く行うことができる。以降の処理は、図9の場合と同様に行われ、類似度判定処理部154が求めた類似度に応じて解像度決定処理部152が予備画像703を撮影する際の解像度を決定し、予備画像撮影処理部153が予備画像703を撮影する。
また、予備画像702の解像度を決定する時は、類似度判定処理部154が1つ前の予備画像701の直前の類似度判定用画像801と次に撮影しようとする予備画像702の直前の類似度判定用画像802とを用いて類似度を求め、類似度に応じた解像度で予備画像702を撮影する。同様に、予備画像703の解像度を決定する時は、類似度判定処理部154が1つ前の予備画像702の直前の類似度判定用画像802と次に撮影しようとする予備画像703の直前の類似度判定用画像803とを用いて類似度を求め、予備画像704,予備画像705および予備画像706についてもそれぞれ直前の類似度判定用画像と1つ前の予備画像の類似度判定用画像とを用いて類似度を求め、類似度に応じた解像度でそれぞれの予備画像を撮影する。
尚、図11の例では、類似度判定用画像を原画像または各予備画像の撮影前に1枚ずつ撮影するようにしたが、不定期に類似度判定用画像を撮影する必要はない。例えば、類似度判定処理部154は、原画像または各予備画像の撮影間に複数枚の類似度判定用画像を撮影するのに十分な短い固定フレームレートで第2の撮像部110で常時撮影を行うようにして、1つ前の予備画像や原画像の撮影タイミングに近い類似度判定用画像と次に撮影しようとする予備画像の直前の類似度判定用画像との類似度を求め、この類似度を用いて解像度決定処理部152が次に撮影しようとする予備画像の解像度を決定するようにしても構わない。
以上、様々な実施形態について説明してきたが、本実施形態に係る電子カメラ101または電子カメラ101aは、原画像の撮影に利用していないアイドル期間(T_idle)に解像度の異なる予備画像を撮影することによって、動画のスロー再生時のフレーム補間画像として利用して高品質なスロー再生を実現でき、また静止画の高解像度化などの用途にも利用することができる。特に、撮影する予備画像の解像度を当該予備画像の撮影前の画像の類似度に応じて決定するので、効率よく適切な予備画像を取得することができる。
尚、撮影した予備画像は、時系列に原画像と一緒に記憶部105に保存するようにしても構わないし、原画像とは別のファイルで記憶部105に保存するようにしても構わない。尚、別のファイルで予備画像を保存する場合は、同じファイル名で属性を変えるようにしたり、ヘッダ情報に関連するファイルであることを示す情報を記載するものとする。
以上、本発明に係る電子カメラについて、各実施形態で例を挙げて説明してきたが、その精神またはその主要な特徴から逸脱することなく他の多様な形で実施することができる。そのため、上述した実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明は、特許請求の範囲によって示されるものであって、本発明は明細書本文にはなんら拘束されない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内である。