本発明の実施形態について、以下に図面を参照して説明する。最初に、本発明における電子機器の一例である撮像装置について説明する。なお、以下に説明する撮像装置は、デジタルカメラなどの音声、動画及び静止画の記録が可能なものである。
<<撮像装置>>
まず、撮像装置の構成について、図1を参照して説明する。図1は、本発明の実施形態における撮像装置の構成を示すブロック図である。
図1に示すように、撮像装置1は、入射される光学像を電気信号に変換するCCD(Charge Coupled Device)またはCMOS(Complimentary Metal Oxide Semiconductor)センサなどの固体撮像素子から成るイメージセンサ2と、被写体の光学像をイメージセンサ2に結像させるとともに光量などの調整を行うレンズ部3と、を備える。レンズ部3とイメージセンサ2とで撮像部が構成され、この撮像部によって画像信号が生成される。なお、レンズ部3は、ズームレンズやフォーカスレンズなどの各種レンズ(不図示)や、イメージセンサ2に入力される光量を調整する絞り(不図示)などを備える。
さらに、撮像装置1は、イメージセンサ2から出力されるアナログ信号である画像信号をデジタル信号に変換するとともにゲインの調整を行うAFE(Analog Front End)4と、入力される音声を電気信号に変換する集音部5と、AFE4から出力されるR(赤)G(緑)B(青)のデジタル信号となる画像信号をY(輝度信号)U,V(色差信号)を用いた信号に変換するとともに画像信号に各種画像処理を施す入力画像処理部6と、集音部5から出力されるアナログ信号である音声信号をデジタル信号に変換する音声処理部7と、入力画像処理部6から出力される画像信号に対してJPEG(Joint Photographic Experts Group)圧縮方式などの静止画用の圧縮符号化処理を施したり入力画像処理部6から出力される画像信号と音声処理部7からの音声信号とに対してMPEG(Moving Picture Experts Group)圧縮方式などの動画用の圧縮符号化処理を施したりする圧縮処理部8と、圧縮処理部8で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、画像信号を外部メモリ10に記録したり読み出したりするドライバ部9と、ドライバ部9において外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部11と、を備える。
また、撮像装置1は、伸長処理部11で復号された画像信号や入力画像処理部6から出力される画像信号に基づいて表示用の画像信号を生成する出力画像処理部12と、出力画像処理部12から出力される画像信号をディスプレイなどの表示装置(不図示)で表示可能な形式の信号に変換する表示画像出力回路部13と、伸長処理部11で復号された音声信号をスピーカなどの再生装置(不図示)で再生可能な形式の信号に変換する音声出力回路部14と、を備える。
また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)15と、各処理を行うための各プログラムを記憶するとともにプログラム実行時の信号の一時保管を行うメモリ16と、撮像を開始するボタンや各種設定の決定を行うボタンなどを備えてユーザからの指示が入力される操作部17と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部18と、CPU15と各部との間で信号のやりとりを行うためのバス19と、メモリ16と各部との間で信号のやりとりを行うためのバス20と、を備える。
なお、外部メモリ10は画像信号や音声信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。
次に、撮像装置1の基本動作について図1を用いて説明する。まず、撮像装置1は、レンズ部3より入射される光をイメージセンサ2において光電変換することによって、電気信号である画像信号を取得する。そして、イメージセンサ2は、TG部18から入力されるタイミング制御信号に同期して、所定のフレーム周期(例えば、1/30秒)で順次AFE4に画像信号を出力する。そして、AFE4によってアナログ信号からデジタル信号へと変換された画像信号は、入力画像処理部6に入力される。入力画像処理部6では、画像信号がYUVを用いた信号に変換されるとともに、階調補正や輪郭強調等の各種画像処理が施される。また、メモリ15はフレームメモリとして動作し、入力画像処理部6が処理を行なう際に画像信号を一時的に保持する。
また、このとき入力画像処理部6に入力される画像信号に基づき、レンズ部3において、各種レンズの位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。また、入力される画像信号に基づいて、ホワイトバランスの調整も行われる。このフォーカスや露出、ホワイトバランスの調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり、ユーザの指示に基づいて手動で行われたりする。
動画を記録する場合であれば、画像信号だけでなく音声信号も記録される。集音部5において電気信号に変換されて出力される音声信号は音声処理部7に入力されてデジタル化されるとともにノイズ除去などの処理が施される。そして、入力画像処理部6から出力される画像信号と、音声処理部7から出力される音声信号と、はともに圧縮処理部8に入力され、圧縮処理部8において所定の圧縮方式で圧縮される。このとき、画像信号と音声信号とは時間的に関連付けられており、再生時に画像と音とがずれないように構成される。そして、圧縮された画像信号及び音声信号はドライバ部9を介して外部メモリ10に記録される。
一方、静止画や音声のみを記録する場合であれば、画像信号または音声信号が圧縮処理部8において所定の圧縮方法で圧縮され、外部メモリ10に記録される。なお、動画を記録する場合と静止画を記録する場合とで、入力画像処理部6において行われる処理を異なるものとしても構わない。
外部メモリ10に記録された圧縮後の画像信号及び音声信号は、ユーザの指示に基づいて伸長処理部11に読み出される。伸長処理部11では、圧縮された画像信号及び音声信号を伸長する。伸長された画像信号は出力画像処理部12に入力され、表示用の画像信号が生成される。出力画像処理部12から出力される画像信号は、表示画像出力回路部13に入力される。また、伸長処理部11で伸長された音声信号は、音声出力回路部14に入力される。そして、表示画像出力回路部13や音声出力回路部14において、表示装置やスピーカで表示または再生可能な形式の信号に変換されて出力される。
なお、表示装置やスピーカは、撮像装置1と一体となっているものでも構わないし、別体となっており、撮像装置1に備えられる端子とケーブル等を用いて接続されるようなものでも構わない。
また、画像信号の記録を行わずに表示装置などに表示される画像をユーザが確認する、所謂プレビュー時に、入力画像処理部6から出力される画像信号を圧縮せずに出力画像処理部12に出力することとしても構わない。また、動画の画像信号を記録する際に、圧縮処理部8で圧縮して外部メモリ10に記録するのと並行して、出力画像処理部12及び表示画像出力回路部13を介して表示装置などに画像信号を出力することとしても構わない。
また、入力画像処理部6と、出力画像処理部12と、を併せて1つの画像処理部(画像処理装置)として解釈しても構わないし、それぞれの一部を組み合わせたものを1つの画像処理部(画像処理装置)として解釈しても構わないものとする。
<出力画像処理部>
次に、図1に示した出力画像処理部の構成について、図面を参照して説明する。図2は、本発明の実施形態における出力画像処理部の構成を示すブロック図である。なお、以下では説明の具体化のために、出力画像処理部12に入力される画像信号を画像として表現するとともに、「入力画像」と呼ぶこととする。また、出力画像処理部12から出力される画像信号を「出力画像」と呼ぶこととする。
また、プレビュー時などにおいて、入力画像処理部6からバス20やメモリ16などを介して出力画像処理部12に直接的に入力される入力画像を、特に「スルー入力画像」と呼ぶ。また、圧縮処理部8で圧縮されて外部メモリ10に記録された後に、伸長処理部11に読み出されて伸長されて出力画像処理部12に入力される入力画像を、特に「読み出し入力画像」と呼ぶ。さらに、出力画像処理部12から出力された後に圧縮処理部8に入力されて圧縮され、外部メモリ10に記録される出力画像を、特に「記録用出力画像」と呼ぶ。また、出力画像処理部12から出力された後に表示画像出力回路部13に入力されてユーザに対して表示が行われる出力画像を、特に「表示用出力画像」と呼ぶ。
図2に示すように、出力画像処理部12は、入力される読み出し入力画像の出力先を適宜選択するデマルチプレクサ120と、デマルチプレクサ120から出力された読み出し入力画像に超解像処理を施して超解像画像を生成する超解像処理部121と、スルー入力画像とデマルチプレクサ120から出力される読み出し入力画像と超解像処理部121から出力される画像との中から一つを選択して出力するセレクタ122と、セレクタ122から出力される画像を表示装置で表示するための画像に加工して表示用出力画像を生成する表示用画像加工部123と、を備える。また、超解像処理部121から出力される超解像画像は、記録用出力画像として出力画像処理部12から出力される。
デマルチプレクサ120は、超解像処理が施されている読み出し入力画像が入力される場合、その読み出し入力画像をセレクタ122に入力する。一方、超解像処理が施されていない読み出し入力画像が入力される場合は、その読み出し入力画像を超解像処理部121に入力する。
次に、出力画像処理部12の動作について図面を参照して説明する。図3は、画像記録時に超解像効果表示処理を行う場合の出力画像処理部の動作の一例を示すフローチャートであり、図4は、画像再生時に超解像効果表示処理を行う場合の出力画像処理部の動作の一例を示すフローチャートである。超解像効果表示処理とは、超解像処理を施そうとする画像に対して、超解像処理を施した場合に得られる効果(以下、超解像効果とする)を、ユーザに報知するために行う画像処理である。なお、超解像効果表示処理の詳細については後述する。
[画像記録時]
まず、画像記録時に超解像効果表示処理を行う場合の動作例について説明する。図3に示すように、記録動作の前にユーザが記録する画像の構図などを決定するためのプレビューが行われる(STEP1)。プレビューが開始されると、出力画像処理部12は、スルー入力画像の取得を行う。このときセレクタ122は、入力されるスルー入力画像を表示用画像加工部123に出力するように動作する。
また、スルー入力画像が入力される表示用画像加工部123は、表示装置の表示能力に合わせた解像度変換を行って表示用出力画像を生成し、出力する(STEP3)。例えば、表示装置が撮像装置に備えられる小型のものであり、スルー入力画像の解像度に対して表示解像度が低いものであれば、スルー入力画像の低解像度化処理(縮小処理)を行う。低解像度化処理とは、例えば、画素の間引きや画素加算を行うことにより、画素数を減少させる処理である。
そして、操作部17を介して、ユーザから画像を記録する指示が入力されたか否かが確認される(STEP4)。画像を記録する指示が入力されていない場合(STEP4、NO)、プレビューを継続するためにSTEP2に戻りスルー入力画像の取得を行う。
一方、画像を記録する指示が入力されている場合(STEP4、YES)、画像の記録が開始される。このとき出力画像処理部12は、記録される画像(以下、記録画像とする)のスルー入力画像の取得を行う(STEP5)。記録画像とは、入力画像処理部6から出力されて圧縮処理部8に入力されて圧縮され、外部メモリ10に入力されて記録される画像である。また、このとき入力画像処理部6は、圧縮処理部8に記録画像を出力するとともに、出力画像処理部12にも記録画像(即ち、スルー入力画像)を出力する。
STEP5において出力画像処理部12で取得されたスルー入力画像は、セレクタ122によって表示用画像加工部123に入力される。そして、表示用画像加工部123は、超解像効果表示処理をスルー入力画像に対して施す(STEP6)。
表示用画像加工部123は、STEP6の超解像効果表示処理以外にも解像度変換などの処理を行うことで表示用出力画像を生成し、出力する(STEP7)。そして、表示用出力画像は、出力画像処理部12から出力されるとともに表示画像出力回路部13に入力され、その後上述のように表示装置で表示される。
また次に、例えば操作部17を介してユーザから画像の記録を停止する指示が入力されたか否か、所定の画像数を記録し終わったか否かなどに基づいて、記録を停止するか否かを確認する(STEP8)。画像の記録を停止しない場合(STEP8、NO)、画像の記録を継続するためにSTEP5に戻り、次の記録画像のスルー入力画像の取得を行う。
一方、画像の記録を停止する場合(STEP8、YES)、次に、撮像装置1の動作を終了するか否かを確認する(STEP9)。撮像装置1の動作を終了しない場合(STEP9、NO)、STEP1に戻りプレビューを開始する。一方、撮像装置1の動作を終了する場合(STEP9、YES)は、終了する。
このように構成することにより、画像の記録時に、ユーザに対して超解像処理の効果の大きさを報知することが可能となる。そのためユーザは、記録した画像に対して超解像処理を施すべきか否かを容易に判断することが可能となる。
なお、本実施例では、外部メモリ10に画像を記録する場合のみに超解像効果表示処理(STEP6)を行うこととしたが、これに加えて(または代えて)、プレビュー時(STEP1〜3)に超解像効果表示処理を行うこととしても構わない。この場合、STEP2とSTEP3との間に、STEP6と同様の超解像効果表示処理が行われることとする。
また、プレビュー時(STEP1〜3)に入力されるスルー入力画像を、イメージセンサ2から画像を読み出す際に低解像度化処理(例えば、加算読み出しや間引き読み出し)が施された画像としても構わない。またこのとき、表示用画像加工部123において、スルー入力画像の低解像度化処理を行わないこととしても構わない。
また、超解像効果を示す情報を、画像とともに外部メモリ10に記録することとしても構わない。例えば、ユーザが書き込み可能な箇所(画像ファイル(またはその中に含まれる画像データ)のヘッダ情報など、以下単にヘッダ情報等とする)に記載しても構わない。
[画像再生時]
次に、画像再生時に超解像効果表示処理を行う場合の動作例について説明する。図4に示すように、再生動作の前にユーザに再生する画像を選択させる画面の表示が行われる(STEP10)。例えば、伸長処理部11から、外部メモリ10に記録されている画像の情報(例えばサムネイル画像)を取得するとともに、表示用画像加工部123が、この情報を整列させた画像を表示用出力画像として出力することによって行われる。なお、このとき選択され得る画像は、超解像処理が施されていない画像である。
ユーザが、再生する画像を選択しない場合(STEP11、NO)、STEP10の選択画面の表示を継続する。一方、ユーザによって再生する画像が選択された場合(STEP11、YES)、出力画像処理部12が読み出し入力画像の取得を行う(STEP12)。このとき、デマルチプレクサ120は、超解像処理が施されていない読み出し入力画像が入力されるため、これを超解像処理部121に出力する。このとき超解像処理部121は、読み出し入力画像に超解像処理を施さずにセレクタ122に出力し、セレクタ122は、入力される読み出し入力画像を表示用画像加工部123に出力する。
表示用画像加工部123は、入力される読み出し入力画像に対して超解像効果表示処理を施す(STEP13)。また、表示用画像加工部123は、STEP13の超解像効果表示処理以外にも解像度変換などの処理を行うことで表示用出力画像を生成し、出力する(STEP14)。そして、表示用出力画像は、出力画像処理部12から出力されるとともに表示画像出力回路部13に入力され、その後上述のように表示装置で表示される。なお、超解像効果表示処理の詳細については後述する。
STEP13で表示用出力画像が出力されると、次に、例えば操作部17を介してユーザから画像の再生を停止する指示が入力されたか否かなどに基づいて、再生を停止するか否かを確認する(STEP15)。画像の再生を停止しない場合(STEP15、NO)、画像の再生を継続するためにSTEP12に戻り、次の読み出し入力画像の取得を行う。
一方、画像の再生を停止する場合(STEP15、YES)、次に、撮像装置1の動作を終了するか否かを確認する(STEP16)。撮像装置1の動作を終了しない場合(STEP16、NO)、STEP10に戻り再生画像の選択画面の表示を行う。一方、撮像装置1の動作を終了する場合(STEP16、YES)は、終了する。
このように構成することにより、画像の再生時においても、ユーザに対して超解像処理の効果の大きさを報知することが可能となる。そのためユーザは、記録している画像に対して超解像処理を施すべきか否かを容易に判断することが可能となる。
なお、本例では、超解像効果表示処理を施した読み出し入力画像を連続的に表示する場合を示しているが、静止画として表示することとしても構わない。また、ユーザの指示に応じて、任意のタイミングで表示用出力画像が順次切り替えられることとしても構わない。このように構成すると、ユーザが特に重要と考えるシーンや画像について、超解像処理の要否を精査することが可能となる。
また、超解像効果を示す情報を、画像記録時に画像とともに外部メモリ10に記録しておき、再生時にこの情報を利用して超解像効果表示処理を行うこととしても構わない。例えば、ヘッダ情報等を参照することで超解像効果を示す情報を得ることができた場合、その情報を参照して超解像効果表示処理を行っても構わない。
[超解像処理]
ユーザは、画像記録時または画像再生時において、超解像効果表示処理が施された表示用出力画像を確認して超解像処理の要否を検討し、超解像処理を実行する指示を操作部17を介して入力する。例えば、画像記録時に超解像処理を実行する指示が入力されて、超解像処理を実行した画像を外部メモリ10に記録する場合、入力画像処理部6が超解像処理を行うこととしても構わない。
一方、超解像処理を実行する指示の入力時を問わず、外部メモリ10に記録されている画像に超解像処理を施す場合、例えば以下のように超解像処理を行う。まず、読み出し入力画像が出力画像処理部12のデマルチプレクサ120に入力される。この読み出し入力画像は、超解像処理が施されていない画像である。そのため、デマルチプレクサ120は、読み出し入力画像を超解像処理部121に入力する。超解像処理部121は、読み出し入力画像に超解像処理を施して超解像画像を生成する。生成される超解像画像は、圧縮処理部8に入力されて圧縮され、外部メモリ10に記録される。
なお、画像再生時に、ユーザが超解像処理が施された画像に対して超解像処理を実行する旨の指示を入力する場合、エラーメッセージなどを表示することとしても構わない。また、超解像処理部121が、複数の画像に基づいて超解像処理を行うものとしても構わなく、複数の画像を保持するメモリを備える構成としても構わない。また、超解像処理の詳細については後述する。
また、超解像画像(デマルチプレクサ120からセレクタ122に直接的に入力されるものや、超解像処理部121で超解像処理が施されることにより生成されるもの)を、表示装置において表示可能としても構わない。この場合、セレクタ122から出力される超解像画像は、表示用画像加工部123において表示に適した画像へと変換される。また、画像再生時に、ユーザから超解像処理を実行する指示が入力されない場合、超解像処理部121は、読み出し入力画像に超解像処理を施さずに、そのままセレクタ122に出力する。
<<超解像効果表示処理>>
次に、超解像効果表示処理について具体例を挙げて説明する。
<第1実施例>
超解像効果表示処理の第1実施例について図面を参照して説明する。図5は、超解像効果表示処理の第1実施例における超解像効果の算出例を説明する入力画像の模式図である。また、図6は、超解像効果表示処理の第1実施例における表示用出力画像の例を示す模式図である。
本実施例では、表示用画像加工部123が、入力画像の位置毎に算出された超解像効果に基づいて超解像効果画像を生成するとともに、この超解像効果画像を含む表示用出力画像を生成し、出力する。具体的に例えば、表示用画像加工部123が、入力画像の鮮明度(例えばコントラスト)の大きさに基づいて超解像効果画像を生成する。なお、画像の鮮明度が大きい領域ほど、超解像効果は大きいものとなる。即ち、高解像度化される程度が大きいものとなる。
また、入力画像処理部6が、入力画像の位置毎に鮮明度の大きさを算出し、出力画像処理部12の表示用画像加工部123がこの算出結果を取得して、表示用出力画像を生成することも可能である。
例えば、画像記録時に本実施例を適用する場合、表示用画像加工部123が、入力画像処理部6からスルー入力画像と鮮明度の算出結果とをあわせて取得する構成としても構わない。また、画像再生時に本実施例を適用する場合、画像記録時に入力画像処理部6が鮮明度の算出を行い、この算出結果と記録画像とが外部メモリ10に記録される構成としても構わない。この場合、表示用画像加工部123が、画像再生時に読み出し入力画像と鮮明度の算出結果とをあわせて取得する。
本実施例では、入力画像の鮮明度を算出するための評価値の一つとして、AF(Auto-Focus)評価値を用いることができる。AF評価値は、例えば、入力画像の輝度値の高周波成分を用いて算出される。特に、入力画像を所定のブロック毎に分割(例えば、8×8=64個のブロックに分割)して、ブロック毎に輝度値の高周波成分を積算することによって算出することができる。なお、画像記録時には、入力画像処理部6がAF評価値を算出し、レンズ部3のフォーカスの制御を行う。そのため、画像記録時において算出されたAF評価値を、表示用画像加工部123が取得して利用する構成とすると、演算量を低減することができるため好ましい。
図5(a)は、AF評価値の算出結果の具体例について示す入力画像の模式図である。図5(a)では、算出対象となる入力画像50において、AF評価値が大きいブロックが含まれる領域である合焦領域51と、AF評価値が小さいブロックが含まれる領域である非合焦領域53と、合焦領域51と非合焦領域53との中間のAF評価値となるブロックが含まれる領域である中間領域52と、を示している。なお、図5(a)は、入力画像50の中央が合焦領域51となり、入力画像50の端部が非合焦領域53となる場合について示したものとなる。
また本実施例では、入力画像の鮮明度を算出するための評価値の一つとして、レンズ特性評価値を用いることができる。レンズ特性評価値は、レンズMTF(Modulation Transfer Function )などを用いて算出される値であり、撮像装置1に使用されるレンズの特性によって決定される評価値である。そのため、算出対象となる画像に因らず、予め設定され得る不変の評価値となる。そして例えば、AF評価値と同様にブロック毎の値とすることが可能である。
図5(b)は、レンズ特性評価値の具体例について示す入力画像の模式図である。特に、レンズMTFを用いて設定されたものである。なお、図5(b)は、入力画像50の中央部分が、レンズ特性評価値が大きくなる大領域54となり、入力画像50の端部が、レンズ特性評価値が小さくなる小領域56となり、これらの中間の領域が、レンズ特性評価値が大領域54と小領域56との中間の値となる中領域55となる場合について示したものとなる。
上述したAF評価値とレンズ特性評価値とを用いて超解像効果の大きさを算出する場合を、図5(c)に示す。図5(c)は、図5(a)に示すAF評価値と、図5(b)に示すレンズ特性評価値と、を組み合わせて表示した入力画像の模式図である。図5(c)に示すように、AF評価値の合焦領域51とレンズ特性評価値の大領域54とが重複する領域が、特に超解像効果が大きい領域57となる。なお、図5(c)は、入力画像50の中央部分が超解像効果の大きい領域57となり、画像50の端部に向かって超解像効果が小さくなる場合について示したものとなる。
図5(c)に示すような超解像効果の大きさをユーザに報知するために生成する、表示用出力画像の一例を、図6(a)及び(b)に示す。図6(a),(b)ともに、図5(c)に示した超解像効果の算出結果に基づいたものである。
図6(a)に示す表示用出力画像60は、入力画像中の特に超解像効果の大きい領域(図5(c)の領域57)に、超解像効果画像である強調マーク61を付加したものである。なお、図6(a)では強調マーク61を楕円形で表現する場合について示しているが、矩形で表現しても構わない。また、特に超解像効果が大きい領域のみだけでなく、超解像効果が大きい領域全体を表示することとしても構わない。
また、図6(b)に示す表示用出力画像61は、超解像効果画像である超解像効果の大きさに応じた塗り分け画像を、入力画像に付加したものである。なお、図6(b)では、グレースケールの塗り分け画像を付加した場合について示しているが、カラーの塗り分け画像を付加することとしても構わない。
このように、画像の鮮明度に基づいて画像内の位置に応じた超解像効果画像を、表示用出力画像に含ませることとすると、ユーザが、所望の領域の超解像効果が大きいか否かを確認することが可能となる。また、超解像効果が客観的な大きさとして表現されることとなるため、超解像効果の大きさが容易に把握されることとなる。したがって、ユーザが超解像処理の要否を容易に判断することが可能となる。
なお、図5及び図6に示す例では、ブロック毎に超解像効果の大きさを算出して超解像画像を生成することとしたが、画素毎としても構わない。
<第2実施例>
超解像効果表示処理の第2実施例について図面を参照して説明する。図7は、入力画像と超解像効果との関係を示す図である。また、図8は、超解像効果表示処理の第2実施例における表示用出力画像の一例を示す模式図である。また図9は、超解像効果表示処理の第2実施例における表示用出力画像の別例を示す模式図である。
本実施例では、表示用画像加工部123が、複数の入力画像の位置関係を求めることで超解像効果を算出し、この算出結果に基づいた超解像効果画像を生成する。そして、この超解像効果画像を含む表示用出力画像を生成し、出力する。具体的には、複数の入力画像を合成するために入力画像の位置合わせ(位置ずれの補正)を行った後の入力画像の位置関係に基づいて、超解像効果を算出する。例えば、位置ずれの大きさである位置ずれ量を用いて超解像効果を算出する。
また、入力画像処理部6が、複数の入力画像の位置ずれ量を算出し、出力画像処理部12の表示用画像加工部123がこの算出結果を取得して、表示用出力画像を生成することも可能である。
例えば、画像記録時に本実施例を適用する場合、表示用画像加工部123が、入力画像処理部6からスルー入力画像と位置ずれ量の算出結果とをあわせて取得する構成としても構わない。また、画像再生時に本実施例を適用する場合、画像記録時に入力画像処理部6が位置ずれ量の算出を行い、この算出結果と記録画像とが外部メモリ10に記録される構成としても構わない。この場合、表示用画像加工部123が、画像再生時に読み出し入力画像と位置ずれ量の算出結果とをあわせて取得する。
後述するような複数の入力画像を用いた超解像処理を行う場合、特に2つの入力画像を用いて行う場合、最適となる(高解像度化される程度が最大となる)位置ずれ量は、例えば、入力画像の0.5画素分の大きさである。
位置ずれ量が0.5画素分の大きさとなる場合について、図7(a)に示す。図7(a)では、比較する一方の入力画像(第1画像)70の各画素が示す被写体72の位置を黒塗りの三角形で示し、他方の入力画像(第2画像)71の各画素が示す被写体72の位置を白塗りの星形で示す。図7(a)に示すように、位置ずれ量が0.5画素分の大きさになる場合とは、第1画像70の水平方向に隣接する画素の中間位置かつ垂直方向に隣接する画素の中間位置となる被写体72の各位置を、第2画像71の各画素が示す場合である。
後述する超解像処理は、複数の入力画像の画素を合成して高解像度化を行うものである。そのため、それぞれの画像の画素が示す被写体72の位置が、図7(a)に示すような中間位置でずれる(即ち、位置ずれ量が最大となるようにずれる)場合を、超解像効果が大きい場合と仮定することができる。
位置ずれ量の算出には、後述する代表点マッチング法を用いることができる。また、ブロックマッチング法や勾配法などを用いることも可能である。ただし、画像の画素間隔よりも分解能の高い、所謂サブピクセルの分解能を有する算出方法を用いることとする。例えば、特開平11-345315号公報に記載された方法や、“奥富,「ディジタル画像処理」,第二版,CG−ARTS協会,2007年3月1日発行”に記載された方法(p.205参照)を用いることとしても構わない。
位置ずれ量は、画素毎に算出された位置ずれ量を、画像全体で平均化することで算出される。なお、ブロック毎に算出された位置ずれ量を、画像全体で平均化することによって算出することとしても構わない。
また例えば、位置ずれ量が0.5画素分の大きさになる場合の超解像効果を100%とし、0画素分の大きさとなる場合を0%とする。なお、超解像効果が、位置ずれ量に対して線形に変動するものと見なしても構わないし、非線形に変動するものと見なしても構わない。線形に変動するものと見なす場合、位置ずれ量が0画素分より大きく0.5画素分より小さくなるときの超解像効果を、0画素分の超解像効果の値と0.5画素分の超解像効果の値とを線形補間することによって算出することとしても構わない。一方、非線形に変動するものと見なす場合、例えば図7(b)に示す補間曲線L1によって算出することとしても構わない。なお、図7(b)に示す補間曲線L1から得られる0画素分より大きく0.5画素分より小さい場合の超解像効果は、線形補間した場合の補間直線L2から得られる超解像効果よりも大きい値となる。
次に、表示用出力画像の具体例について説明する。図8(a)に示す表示用出力画像80は、超解像効果画像であるキャラクターの顔81を、入力画像に付加したものである。このキャラクターの顔81を、例えば図8(b)に示すように、超解像効果が大きいほど明るい表情(笑顔)となるように構成しても構わない。
また、図9に示す表示用出力画像90のように、超解像効果画像である超解像効果の値を示す画像91を、入力画像に付加することとしても構わない。
このように、画像の位置ずれ量に基づいて画像全体に対する超解像効果を示す超解像効果画像を、表示用出力画像に含ませることとすると、ユーザが、超解像効果が大きいか否かを迅速に確認することが可能となる。また、超解像効果が客観的な大きさとして表現されることとなるため、超解像効果の大きさが容易に把握されることとなる。したがって、ユーザが超解像処理の要否を容易に判断することが可能となる。
なお、例として2つの入力画像の位置ずれ量を算出するとともに、位置ずれ量が0.5画素分の場合に最も超解像効果が大きくなることとしたが、本実施例はこの例に限られるものではない。例えば、3つ以上の入力画像の位置関係を求めることとしても構わない。この場合例えば、2つの入力画像の位置ずれ量を順次算出するとともにこれらの位置ずれ量を用いて(例えば総和を用いて)超解像効果を算出しても構わないし、複数の入力画像の対応する画素(例えば、位置ずれしているが近接している画素)によって形成される多角形の面積を用いて超解像効果を算出しても構わない。さらに、これらの位置ずれ量または面積が大きくなる場合に、超解像効果が大きくなることとしても構わない。また、超解像処理で用いられる入力画像数と同数の入力画像を用いて位置関係を求めることとしても構わない。
また、第1実施例と同様に、画像内の位置毎(例えばブロック毎)に超解像効果を算出し、超解像効果画像を生成することとしても構わない。また、動画の超解像効果を求める場合に、画像(またはブロック)毎の超解像効果を、複数枚分(または所定の時間分)もしくは1動画ファイル分、加重平均することで求めても構わない。また、第1実施例と組み合わせることとしても構わない。例えば、第1実施例により算出される超解像効果と、第2実施例により算出される超解像効果と、に重み付けをして合成し、超解像効果を算出することとしても構わない。
<第3実施例>
超解像効果表示処理の第3実施例について図面を参照して説明する。図10は、超解像効果表示処理の第3実施例における表示用出力画像の一例を示す模式図である。また図11は、超解像効果表示処理の第3実施例における表示用出力画像の別例を示す模式図である。
図10に示すように、本実施例では、入力画像中の超解像効果が大きいと判定された領域(以下、対象領域とする)のみに対して局所的な超解像処理が施された、局所的超解像画像101を利用する。具体的には、表示用画像加工部123が、入力画像中の対象領域を示す画像である局所的入力画像102と、局所的超解像画像101と、を用いて表示用出力画像100を生成する。なお、局所的超解像画像101及び局所的入力画像102を組み合わせた画像が、超解像効果画像となる。
例えば、表示用画像加工部123は、局所的超解像画像101及び局所的入力画像102を隣接させて入力画像に重畳させる。また、表示用画像加工部123は、局所的超解像画像101及び局所的入力画像102が重畳される領域と、表示用出力画像100の対象領域と、が重ならないようにする。
以上のような表示用出力画像100を生成して表示することとすると、局所的超解像画像101及び局所的入力画像102が隣接して表示されるため、これらの画像を比較されやすいものとすることが可能となる。また、局所的超解像画像101及び局所的入力画像102と、表示用出力画像100の対象領域と、が重ならないように表示されるため、対象領域の位置や対象領域の周囲の画像などを、ユーザに把握されやすいものとすることが可能となる。
また例えば、図11に示すような表示用出力画像110とすることも可能である。図11の表示用出力画像110では、局所的超解像画像111及び局所的入力画像112が、それぞれ図10に示すものよりも大きいものとなる。即ち、入力画像全体を表示用出力画像とする場合の対象領域の大きさよりも、局所的超解像画像111及び局所的入力画像112が大きくなるように構成する。
例えば、上述のように表示用画像加工部123が、撮像装置1に備えられる表示装置の表示解像度に適合させるために入力画像に対して縮小処理を施す場合、縮小処理を施していない局所的超解像画像111及び局所的入力画像112を用いて、表示用出力画像110を生成する。または、入力画像全体を表示用出力画像とする場合の縮小率(縮小後の画像/元画像)よりも大きい縮小率で縮小処理して得られる局所的超解像画像111及び局所的入力画像112を用いて、表示用出力画像110を生成することとする。
図10と同様に、図11の表示用出力画像110においても、局所的超解像画像111及び局所的入力画像112が隣接するようにする。また、局所的入力画像112の端部の所定の領域(図11では左上の領域)に、入力画像全体を縮小した縮小入力画像113を重畳させる。縮小入力画像113は、例えば、入力画像全体を表示用出力画像とする場合の縮小率よりも小さい縮小率で縮小処理した画像となる。なお、縮小入力画像113を、局所的入力画像112内に収まる大きさとすると、局所的超解像画像111がより把握されやすくなるため好ましい。
さらに、縮小入力画像113中の対象領域に相当する領域に、強調マーク114を付加する。例えば図11に示すように、対象領域を囲む矩形が縮小入力画像113に付加される。
以上のような表示用出力画像110を生成して表示することとすると、局所的超解像画像111及び局所的入力画像112が隣接して表示されるため、これらの画像を比較されやすいものとすることが可能となる。また、局所的超解像画像111及び局所的入力画像112が図10と比較して大きく表示されるため、超解像処理の効果をより確認されやすいものとすることが可能となる。さらに、縮小入力画像113や矩形114が表示されるため、対象領域の位置や対象領域の周囲の画像などを、ユーザに把握されやすいものとすることが可能となる。
以上のように、局所的な領域であり超解像効果が大きい対象領域にのみ超解像処理を施して表示することとすると、ユーザが、超解像効果を直接的かつ効果的に確認することが可能となる。そのため、容易に超解像処理の要否を決定することが可能となる。また、超解像処理が施される領域が、局所的な領域に限られることとなる。そのため、入力画像全体に超解像処理を施す場合と比較して、処理時間の短縮化や消費電力の低減化を図ることが可能となる。
なお、超解像効果が大きい領域である対象領域の決定方法として、第1実施例や第2実施例に示した方法を用いても構わない。また、本実施例は、超解像処理部121で記録用出力画像を生成する前に行われることとすると好ましい。特に、第1実施例または第2実施例による表示用出力画像の表示を行うことによって、ユーザが超解像処理を行う決定をした後に、ユーザに最終確認をさせるために本実施例を実行することとしても構わない。また、局所的超解像画像を、例えば超解像処理部121が生成することとしても構わない。この場合、スルー入力画像が超解像処理部121に入力される構成としても構わない。さらに、超解像処理部121が、局所的超解像画像と入力画像とを併せて出力することとしても構わない。
<変形例>
上記第1〜第3実施例を組み合わせて実行しても構わない。例えば、画像記録時に第1実施例を実行し、画像記録後の画像再生時に第2実施例を実行し、超解像処理の直前に第3実施例を実行することとしても構わない。また例えば、第1〜第3実施例を実行することによって生成される超解像効果画像を同時に表示した表示用出力画像を生成しても構わない。
(超解像処理)
上述の超解像処理として、既存のどの方法を用いても構わないが、以下に超解像処理の一種であるMAP(Maximum A Posterior)法を用いる場合を一例として挙げるとともに、図面を参照して説明する。図12及び図13は、超解像画像の生成例の概要を示す図である。なお、本例は反復処理を実行可能な超解像処理方法であるが、反復処理を行わない超解像処理方法であっても、本発明に適用することは可能である。
また、以下においては説明を簡単にするため、入力画像のある1方向に整列した複数の画素について考えることとする。また、2つの入力画像を合成して超解像画像を生成する場合であり、合成する画素値が輝度値である場合を例に挙げて説明する。
図12(a)は、撮像しようとする被写体の輝度分布を示したものである。また、図12(b)及び(c)のそれぞれは、図12(a)に示す被写体を撮像した入力画像から得られる入力画像の輝度分布である。また、図12(d)は、図12(c)に示す入力画像を所定の位置だけずらしたものである。なお、図12(b)に示す入力画像(以下、低解像度実画像Faとする)と図12(c)に示す入力画像(以下、低解像度実画像Fbとする)とは、撮像された時間が異なる。
図12(b)に示すように、図12(a)に示す輝度分布を有する被写体を時間T1に撮像して得られた低解像度実画像Faのサンプル点の位置を、S1、S1+ΔS、S1+2ΔSとする。また、図12(c)に示すように、時間T2(T1≠T2)に撮像して得られた低解像度実画像Fbのサンプル点の位置を、S2、S2+ΔS、S2+2ΔSとする。このとき、低解像度実画像Faのサンプル点S1と低解像度実画像Fbのサンプル点S2とは、手ブレなどが原因となりその位置にずれが生じているものとする。即ち、画素位置が(S1−S2)だけずれたものとなる。
図12(b)に示す低解像度実画像Faについて、サンプル点S1、S1+ΔS、S1+2ΔSから得られた輝度値を、画素P1,P2,P3における画素値pa1,pa2,pa3とする。同様に、図12(c)に示す低解像度実画像Fbについて、サンプル点S2、S2+ΔS、S2+2ΔSから得られた輝度値が、画素P1,P2,P3における画素値pb1,pb2,pb3とする。
ここで、低解像度実画像Faの画素P1,P2,P3を基準(注目画像)として低解像度実画像Fbを表した場合(即ち、低解像度実画像Fbを、低解像度実画像Faに対する位置ずれ量(S1−S2)だけ位置ずれ補正した場合)、位置ずれ補正後の低解像度実画像Fb+は、図12(d)に示すようになる。
次に、低解像度実画像Faと低解像度実画像Fb+とを組み合わせて高解像度画像を生成する方法を図13に示す。まず、図13(a)に示すように、低解像度実画像Faと低解像度実画像Fb+とを組み合わせて高解像度画像Fx1を推定する。なお、説明を簡単にするために、例えば、解像度をある1方向に対して2倍にするものとする。即ち、高解像度画像Fx1の画素が、低解像度実画像Fa,Fb+の画素P1,P2,P3と、画素P1,P2の中間位置に位置する画素P4と、画素P2,P3の中間位置に位置する画素P5と、を備えるものとする。
低解像度実画像Faの画素P4の画素値は、低解像度実画像Faの画素P1,P2の画素位置(画素の中心位置)と画素P4の画素位置との距離よりも、低解像度実画像Fb+における画素P1の画素位置と画素P4の画素位置との距離の方が近いことにより、画素値pb1が選択される。同様に、画素P5の画素値については、低解像度実画像Faにおける画素P2,P3の画素位置と画素P5の画素位置との距離よりも、低解像度実画像Fb+における画素P2の画素位置と画素P5の画素位置との距離の方が近いことにより、画素値pb2が選択される。
その後、図13(b)に示すように、得られた高解像度画像Fx1に対してダウンサンプリング量やぼけ量や位置ずれ量などをパラメータとして備えた変換式による演算を行うことで、低解像度実画像Fa,Fbのそれぞれに相当する推定画像である低解像度推定画像Fa1,Fb1を生成する。なお、図13(b)では、n回目の処理によって推定された高解像度画像Fxnより生成される低解像度推定画像Fan,Fbnを示している。
例えば、n=1のとき、図13(a)に示す高解像度画像Fx1に基づいて、サンプル点S1、S1+ΔS、S1+2ΔSにおける画素値を推定して、取得した画素値pa11〜pa31を画素P1〜P3の画素値とする低解像度推定画像Fa1を生成する。同様に、高解像度画像Fx1に基づいて、サンプル点S2、S2+ΔS、S2+2ΔSにおける画素値を推定して、取得した画素値pb11〜pb31を画素P1〜P3の画素値とする低解像度推定画像Fb1を生成する。そして、図13(c)に示すように、低解像度推定画像Fa1,Fb1のそれぞれと、低解像度実画像Fa,Fbのそれぞれとの間における差分を求め、この差分を合成することで高解像度画像Fx1に対する差分画像ΔFx1を取得する。なお、図13(c)では、n回目の処理によって取得された高解像度画像Fxnに対する差分画像ΔFxnを示している。
例えば、差分画像ΔFa1は、差分値(pa11−pa1)、(pa21−pa2)、(pa31−pa3)がP1〜P3の画素値となり、差分画像ΔFb1は、差分値(pb11−pb1)、(pb21−pb2)、(pb31−pb3)がP1〜P3の画素値となる。そして、差分画像ΔFa1,ΔFb1の画素値を合成することによって、画素P1〜P5のそれぞれにおける差分値を算出して、高解像度画像Fx1に対する差分画像ΔFx1を取得する。この差分画像ΔFa1,ΔFb1の画素値を合成して差分画像ΔFx1を取得する際、例えば、ML(Maximum Likelihood)法やMAP法を用いる場合では、二乗誤差を評価関数として用いる。即ち、差分画像ΔFa1,ΔFb1の画素値を二乗してフレーム間で加算した値を評価関数とする。この評価関数の微分値である勾配は、差分画像ΔFa1,ΔFb1の画素値を2倍した値となる。そのため、高解像度画像Fx1に対する差分画像ΔFx1は、差分画像ΔFa1,ΔFb1それぞれの画素値を2倍した値を用いて高解像度化することで算出される。
その後、図13(d)に示すように、得られた差分画像ΔFx1における画素P1〜P5の画素値(差分値)が、高解像度画像Fx1における画素P1〜P5の画素値より減算されることで、図12(a)に示した輝度分布の被写体に近い画素値となる高解像度画像Fx2が再構成される。なお、図13(d)では、n回目の処理によって取得された高解像度画像Fx(n+1)を示している。
上述した一連の処理を繰り返すことによって、得られる差分画像ΔFxnの画素値が小さくなり、高解像度画像Fxnの画素値が図12(a)に示す輝度分布の被写体に近い画素値に収束される。そして、差分画像ΔFxnの画素値(差分値)が所定値より小さくなったときや、差分画像ΔFxnの画素値(差分値)が収束したとき、前の処理(n−1回目の処理)において得られた高解像度画像Fxnを、例えば超解像画像として超解像処理部121から出力する。
(代表点マッチング法)
超解像効果表示処理の第2実施例や上記の超解像処理において、位置ずれ量を求める際に、例えば以下に示すような、代表点マッチング法と1画素内位置ずれ量検出とを行うこととしても構わない。最初に、代表点マッチング法について図面を参照して説明し、その後に1画素内位置ずれ量検出について図面を参照して説明する。図14及び図15は、代表点マッチング法について示す図である。図14は、画像の各領域の分割方法について示す画像の模式図であり、図15は、基準画像及び非基準画像について示す模式図である。
代表点マッチング法は、例えば、基準となる画像(基準画像)と、基準画像と比較されて動きが検出される画像(非基準画像)のそれぞれに対して、図14に示すような領域分割を行う。例えば、a×bの画素群(例えば、36×36の画素群)を1つの小領域eとして分割し、さらに、この小領域eのp×q領域分(例えば、6×8領域分)を1つの検出領域Eとして分割する。また、図15(a)に示すように、小領域eを構成するa×bの画素から1つの画素が代表点Rとして設定される。一方、図15(b)に示すように、小領域eを構成するa×bの画素のうちの複数の画素がサンプリング点Sとして設定される(例えば、a×bの画素全てをサンプリング点Sとしても構わない)。
以上のように小領域e及び検出領域Eが設定されると、基準画像と非基準画像の同一位置となる小領域eについて、非基準画像の各サンプリング点Sの画素値と基準画像の代表点Rの画素値との差が、各サンプリング点Sでの相関値として求められる。そして、検出領域E毎に、各小領域e間で代表点Rとの相対位置が同一となるサンプリング点Sの相関値を、検出領域Eを構成する全ての小領域e分だけ累積加算することで、各サンプリング点Sにおける累積相関値を取得する。これにより、検出領域E毎に、代表点Rとの相対位置が同一となるp×q個のサンプリング点Sの相関値が累積加算されることで、サンプリング点の個数分の累積相関値が得られる(例えば、a×bの画素全てをサンプリング点Sとする場合、a×b個の累積相関値が得られることとなる)。
各検出領域Eに対して、各サンプリング点Sに対する累積相関値が求められると、各検出領域Eにおいて、代表点Rと相関性が最も高いと考えられるサンプリング点S(即ち、累積相関値が最小となるサンプリング点S)が検出される。そして、各検出領域Eでは、累積相関値が最小となるサンプリング点Sと代表点Rとの位置ずれ量が、それぞれの画素位置によって求められる。その後、各検出領域Eそれぞれに対して求められた位置ずれ量を平均することで、この平均値を、基準画像と非基準画像との間の画素単位による位置ずれ量として検出する。
(1画素内位置ずれ量検出)
次に、1画素内位置ずれ量検出について図面を参照して説明する。図16は、1画素内位置ずれ量検出について示す基準画像及び非基準画像の模式図であり、図17は、1画素内位置ずれ量検出を行う際の代表点及びサンプリング点の画素値の関係を示すグラフである。
上述のように、例えば代表点マッチング法を用いるなどして画素単位の位置ずれ量を検出した後、さらに、下記に示す方法を用いて1画素内の位置ずれ量を検出することができる。例えば、小領域e毎に基準画像の代表点Rの画素の画素値と、代表点Rと相関性の高いサンプリング点Sxの画素及びその周辺画素のそれぞれの画素値と、の関係によって1画素内の位置ずれ量を検出することができる。
図16に示すように、各小領域eにおいて、基準画像で画素位置(ar,br)となる代表点Rの画素値Laと、非基準画像において画素位置(as,bs)となるサンプル点Sxの画素値Lbと、サンプル点Sxと水平方向に隣接する画素位置(as+1,bs)の画素値Lcと、サンプル点Sxと垂直方向に隣接する画素位置(as,bs+1)の画素値Ldとの関係によって、1画素内における位置ずれ量が検出される。このとき、代表点マッチング法により、基準画像から非基準画像への画素単位の位置ずれ量が、(as−ar,bs−br)となるベクトル量で表される値となる。
また、図17(a)に示すように、サンプル点Sxとなる画素から水平方向に1画素ずれることで、画素値Lbから画素値Lcに線形的に変化するものとする。同様に、図17(b)に示すように、サンプル点Sxとなる画素から垂直方向に1画素ずれることで、画素値Lbから画素値Ldに線形的に変化するものとする。そして、画素値Lb,Lcの間で画素値Laとなる水平方向の位置Δx(=(La−Lb)/(Lc−Lb))を求めるとともに、画素値Lb,Ldの間で画素値Laとなる垂直方向の位置Δy(=(La−Lb)/(Ld−Lb))を求める。即ち、(Δx,Δy)で表されるベクトル量が、基準画素と非基準画素との間における、1画素内での位置ずれ量として求められる。
このようにして、小領域eそれぞれにおける1画素内での位置ずれ量を求める。そして、求めた位置ずれ量を平均して得られる平均値を、基準画像(例えば、低解像度実画像Fb)と非基準画像(例えば、低解像度実画像Fa)との間の1画素内での位置ずれ量として検出する。そして、代表点マッチング法によって得られた画素単位による位置ずれ量に、求めた1画素内での位置ずれ量を加えることによって、基準画像と非基準画像との間における位置ずれ量を算出することができる。
(超解像効果の判定)
上述の実施例は、ユーザに対して超解像効果画像を表示用出力画像に含めて表示することにより、超解像効果を報知する。しかしながら、例えばユーザが不慣れである場合、超解像効果画像の解釈の仕方がわからなかったり、誤った解釈をしたりすることがある。即ち、超解像効果画像を表示したとしても、それに基づいて必ずしもユーザが適切な操作を行うとは限られない。そこで以下では、不慣れなユーザであったとしても、容易に適切な操作を行うことができるように支援するための変形例について説明する。
[画像記録時の変形例]
まず、撮像装置1の画像記録時の動作について図面を参照して説明する。図18は、画像記録時に超解像効果表示処理を行う場合の出力画像処理部の動作の一例を示すフローチャートであり、上述した図3に相当するものである。なお、図18中、図3と同じ動作については同じステップ番号を付し、その詳細な説明については省略する。
上述したように、また図18に示すように、画像の記録前にプレビューが行われ(STEP1〜3、STEP4のNO)、その後に画像の記録が開始される(STEP4、YES)。また、画像の記録に伴って、超解像効果画像を含む表示用出力画像が生成され、表示される(STEP5〜7、STEP8のNO)。そして、ユーザが画像の記録の停止を指示したり(例えば動画記録時)、所定の画像数の記録が終わったり(例えば静止画記録時)したことなどを確認して、画像の記録を停止する(STEP8、YES)。なお、超解像効果画像を含む表示用出力画像を、プレビュー時に作成及び表示しても構わない。
本変形例では、例えば画像の記録を停止した後に、超解像効果の大きさを判定する(STEP100)。このとき、例えばSTEP6で超解像効果画像を作成する際に得た超解像効果の大きさを利用して、判定を行う。なお、画像の記録中やプレビュー中に判定を行うこととしても構わない。
具体的に例えば、図5(a)〜(c)、図6(b)の一部の領域(例えば中央付近の領域や対象領域)または全部の領域の超解像効果を平均化して得られた超解像効果の大きさや、図7(b)、図8(a),(b)及び図9に示す超解像効果の大きさを、記録した複数の画像の一部または全部について平均化した大きさに基づいて、判定を行う。特に、動画の超解像効果の大きさを求めて判定する場合、画像(またはブロック)毎の超解像効果を、複数枚分(または所定の時間分)もしくは1動画ファイル分、加重平均することで超解像効果の大きさを求め、この大きさに基づいて判定しても構わない。なお、表示用画像加工部123やCPU15が、この判定を行っても構わない。
STEP100では、超解像効果が小さいか否かを判定する。具体的に例えば、図7(b)に示す方法で算出される超解像効果を用いて、閾値を50%とする場合、超解像効果が50%以下となるときに「超解像効果が小さい」と判定する。
超解像効果が小さい場合(STEP101、YES)、ユーザに対してその旨を報知する(STEP102)。このとき、例えば記録停止(STEP8、YES)後も継続して表示されている表示用出力画像に、「画像の記録し直し(再度の撮像)を勧める」旨や、「記録した画像に超解像処理を施しても超解像効果が小さいため、超解像処理を施すことは勧められない」旨を報知するメッセージを重畳させることで、報知を行っても構わない。またこのとき、ヘッダ情報等に超解像効果が小さい旨を記載しても構わない。
表示用出力画像を用いて報知する方法に限らず、ユーザに対して超解像効果が小さい旨を報知することができる方法であれば、どのような方法を用いて報知しても構わない。例えば、音(報知音、ボイスメッセージ)や振動、光などによって報知しても構わない。ただし、これらの方法によって報知する場合、必要に応じて部品(報知専用のスピーカ、振動用のモータ、LED(Light Emitting Diode)など)を撮像装置1に実装する。
一方、超解像効果が大きい(例えば、超解像効果が上記の閾値よりも大きい)場合は(STEP101、NO)、STEP102の報知をすることなく終了か否かの確認を行う(STEP9)。なお、超解像効果が大きい場合であっても、その旨を報知しても構わないし、ヘッダ情報等に超解像効果が大きい旨を記載しても構わない。また、超解像効果が大きい画像を、超解像処理に利用可能な画像として1つのファイルに関連付けて記録しても構わない。
以上のように構成すると、超解像効果が小さいことをユーザに対して報知することができる。そのため、ユーザが不慣れであったとしても、自身で判断する必要を低減することが可能となり、ユーザが適切な操作を行うことを支援することが可能となる。
また、「画像の記録し直しを勧める」や「超解像処理を施すことは勧められない」などの具体的な操作内容を報知することで、さらにユーザが適切な操作を行うことを支援することが可能となる。特に、「画像の記録し直しを勧める」旨を報知することで、超解像処理の効果が大きくなる画像を確実に記録することが可能となる。また、「超解像処理を施すことは勧められない」旨を報知することで、効果が小さく無用と成り得る超解像処理が施されることを抑制することが可能となる。
なお、超解像効果が大きいと判定された画像については、そのまま(または事後的に、承諾を得ることなく)超解像処理を実行しても構わないし、超解像処理の実行前にユーザに承諾を取り、承諾を得た後に実行しても構わない。また、生成された超解像画像と、超解像処理に利用した画像と、を1つのファイルに関連付けて記録しても構わない。
また、ユーザがSTEP102の報知に基づいて画像の記録し直しを行って(STEP9、NO)、超解像効果が大きいと判定される場合(STEP101、NO)、記録し直す前に記録した画像を削除しても構わない。一方、再度超解像効果が小さいと判定される場合(STEP101、YES)、再度「画像の記録し直し」を報知しても構わない(STEP102)。またこのとき、前回記録した画像の超解像効果と今回記録した画像の超解像効果とを比較し、超解像効果が大きい方の画像を記録して小さい方を削除しても構わない。または、両方記録しても構わない。また、超解像効果が大きい方の画像の超解像処理を上記の如く行っても構わないし、ヘッダ情報に超解像効果が(比較的)大きい旨を記載しても構わない。
[画像再生時の変形例]
次に、撮像装置1の画像再生時の動作について図面を参照して説明する。図19は、画像再生時に超解像効果表示処理を行う場合の出力画像処理部の動作の一例を示すフローチャートであり、上述した図4に相当するものである。なお、図19中、図4と同じ動作については同じステップ番号を付し、その詳細な説明については省略する。
上述したように、また図19に示すように、再生動作の前にユーザに再生する画像を選択させる画面の表示が行われ(STEP10、STEP11のNO)、ユーザによって再生する画像が選択される(STEP11、YES)。すると、出力画像処理部12が読み出し入力画像の取得を行い、超解像効果画像を含む表示用出力画像が生成され、表示される(STEP12〜STEP14、STEP15のNO)。そして、例えばユーザから画像の再生を停止する指示が入力されれば、再生を停止する(STEP15、YES)。
本変形例では、例えば画像の再生を停止した後に、超解像効果の大きさを判定する(STEP110)。判定方法は、上述した画像記録時と同様である(図18、STEP100参照)。なお、画像の再生中に判定を行うこととしても構わない。
超解像効果が小さい場合(STEP111、YES)、ユーザに対してその旨を報知する(STEP112)。このとき、例えば再生停止(STEP15、YES)後に継続して表示されている表示用出力画像に、「記録した画像に超解像処理を施しても超解像効果が小さいため、超解像処理を施すことは勧められない」旨を報知するメッセージを重畳させることで、報知を行っても構わない。また、上述した画像記録時と同様に、音や振動、光によって報知を行っても構わない。また同様に、ヘッダ情報等に超解像効果が小さい旨を記載しても構わない。
一方、超解像効果が大きい(例えば、超解像効果が上記の閾値よりも大きい)場合は(STEP111、NO)、STEP112の報知をすることなく終了か否かの確認を行う(STEP16)。なお、超解像効果が大きい場合であっても、その旨を報知しても構わないし、ヘッダ情報等に超解像効果が大きい旨を記載しても構わない。また、超解像効果が大きい画像を、超解像処理に利用可能な画像として1つのファイルに関連付けて記録しても構わない。
以上のように構成すると、超解像効果が小さいことをユーザに対して報知することができる。そのため、ユーザが不慣れであったとしても、自身で判断する必要を低減することが可能となり、ユーザが適切な操作を行うことを支援することが可能となる。
また、「超解像処理を施すことは勧められない」などの具体的な操作内容を報知することで、さらにユーザが適切な操作を行うことを支援することが可能となる。特に、「超解像処理を施すことは勧められない」旨を報知することで、効果が小さく無用と成り得る超解像処理が行われることを抑制することが可能となる。
なお、超解像効果が大きいと判定された画像については、そのまま(または事後的に、承諾を得ることなく)超解像処理を実行しても構わないし、超解像処理の実行前にユーザに承諾を取り、承諾を得た後に実行しても構わない。また、生成された超解像画像と、超解像処理に利用した画像と、を1つのファイルに関連付けて記録しても構わない。
また、STEP11で選択された画像が超解像画像である場合も、同様の再生処理を行うことができる。このとき、例えばSTEP11において、「再生しようとしている画像が超解像画像である」旨を報知しても構わない。さらにこのとき、STEP111において超解像効果を判定した際、さらなる超解像処理を施した場合の超解像効果が大きいと判定されれば(STEP111、NO)、「さらなる超解像処理を施すことを勧める」旨の報知を行っても構わない。
(その他の変形例)
本発明の電子機器の一例として撮像装置を挙げて説明したが、本発明の電子機器は撮像装置に限られるものではない。例えば、再生機能や記録機能のみを有し、外部(例えば、光ディスクなどの記録媒体)から入力画像を取得することで超解像画像を生成し、記録したり表示したりする構成としても構わない。即ち、本発明の電子機器は、再生装置であっても構わないし、編集装置であっても構わない。ただし、上述のように表示用出力画像をユーザに表示して、超解像効果を報知することとする。
また、本発明の実施形態における撮像装置1について、入力画像処理部6や再生入力画像処理部12などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
また、上述した場合に限らず、図1の撮像装置1や入力画像処理部6、図1及び図2の出力画像処理部12は、ハードウェア、あるいは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1や入力画像処理部6、再生入力画像処理部12を構成する場合、ソフトウェアによって実現される部位についてのブロック図は、その部位の機能ブロック図を表すこととする。
以上、本発明の実施形態についてそれぞれ説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。