以下、図面を参照して、本発明を実施するための形態(以下、「実施の形態」という)について説明する。なお、以下の実施の形態により本発明が限定されるものではない。また、図面の記載において、同一の部分には同一の符号を付して説明する。
(実施の形態1)
〔撮像装置の構成〕
図1は、本発明の実施の形態1に係る撮像装置の機能構成を示すブロック図である。図1に示す撮像装置1は、撮像部10と、画像処理部20と、記録部21と、メモリI/F22と、記録媒体23と、表示部24と、入力部25と、バス26と、制御部27と、を備える。
撮像部10は、被写体を撮像し、この被写体の画像データを生成する。撮像部10は、レンズ部11と、絞り12と、シャッタ13と、撮像素子14と、A/D変換部15と、駆動制御部16と、を有する。
レンズ部11は、撮像素子14の受光面に光学像(被写体像)結像させる。レンズ部11は、一または複数のレンズを用いて構成される。例えば、レンズ部11は、フォーカスレンズおよびズームレンズ等を用いて構成される。レンズ部11は、駆動制御部16の制御のもと、光軸に沿って移動する。
絞り12は、駆動制御部16の制御のもと、レンズ部11が集光した光の入射量を制限することにより露出の調整を行う。
シャッタ13は、駆動制御部16の制御のもと、開閉動作を行うことによって、撮像素子14の状態を露光状態または遮光状態に切り替える。また、シャッタ13は、駆動制御部16の制御のもと、撮像素子14に入射する光の入射時間であるシャッタ速度を調整する。
撮像素子14は、レンズ部11が集光した光学像を受光して光電変換を行うことによって電気信号を出力する複数の画素が2次元的に配列されたCMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)等のイメージセンサを用いて構成される。撮像素子14は、駆動制御部16の制御のもと、所定のフレームレート、例えば30fpsや60fpsで連続的にアナログの画像データを生成してA/D変換部15へ出力する。
A/D変換部15は、駆動制御部16の制御のもと、撮像素子14から入力されたアナログの画像データに対して、A/D変換を行うことによって、デジタルの画像データを生成して出力する。
駆動制御部16は、制御部27の制御のもと、撮像部10全体の制御を行う。具体的には、駆動制御部16は、レンズ部11の駆動制御を行うことによって、ズーム位置やピント位置の制御、絞り12やシャッタ13の開閉状態を制御する。また、駆動制御部16は、撮像素子14の光の露光時間(受光時間)や画像データの読み出しタイミングを制御する。
画像処理部20は、撮像部10が生成した画像データに対して、各種の画像処理を行って出力する。なお、画像処理部20の詳細な構成は、後述する。
記録部21は、ROM(Read Only Memory)やRAM(Random Access Memory)等を用いて構成され、バス26を介してA/D変換部15から入力される画像データ、撮像装置1の処理中の情報を一時的に記録する。また、記録部21は、プログラム記録部21aを有する。プログラム記録部21aは、撮像装置1を動作させるための各種プログラムや本実施の形態1に係るプログラムおよびプログラムの実行中に使用される各種データを記録する。
記録媒体23は、撮像装置1の外部から装着されるメモリカード等を用いて構成される。記録媒体23は、メモリI/F22を介して撮像装置1に着脱自在に装着される。記録媒体23には、画像処理部20によって画像処理が施された画像データやA/D変換部15によって生成されたデジタルの画像データ(RAWデータ)が書き込まれることによって記録される。また、記録媒体23は、メモリI/F22を介して記録された画像データが読み出される。
表示部24は、制御部27の制御のもと、バス26を介して記録部21または記録媒体23に記録された画像データに対応する画像を表示する。ここで、画像の表示には、撮影直後に画像データを所定時間(例えば3秒間)だけ表示する確認表示(レックビュー表示)、記録媒体23に記録された画像データに対応する画像を再生する再生表示、および撮像部10が連続的に生成する画像データに対応するライブビュー画像を時系列に沿って順次表示するライブビュー表示等が含まれる。表示部24は、液晶または有機EL(Electro Luminescence)等の表示パネル等を用いて構成される。
入力部25は、ボタンやスイッチ類等の物理スイッチや表示部24の表示領域上に重畳して設けられたタッチパネル等を用いて構成される。入力部25は、撮像装置1に関する操作の入力を受け付ける。具体的には、入力部25は、撮像装置1の電源状態をオン状態またはオフ状態に切り替える指示信号、撮像装置1に撮影の指示を与えるレリーズ信号、各種の操作を指定する指定信号の入力を受け付ける。タッチパネルは、外部からの物体のタッチ位置を検出し、この検出したタッチ位置に応じた位置信号を、バス26を介して制御部27へ出力する。
バス26は、撮像装置1の各構成部を接続する伝送路等を用いて構成される。バス26は、撮像装置1の内部で発生した各種データを撮像装置1の各構成部へ転送する。
制御部27は、CPU(Central Processing Unit)等を用いて構成され、撮像装置1を構成する各部に対する指示やデータの転送等を行って撮像装置1の動作を統括的に制御する。
〔画像処理部の構成〕
次に、画像処理部20の詳細な構成について説明する。
画像処理部20は、画像合成部30と、画像情報処理部40と、現像処理部50と、を備える。
画像合成部30は、撮像部10が生成した複数の画像データを合成して合成画像データを生成する。画像合成部30は、合成領域指定部301と、合成方法指定部302と、閾値指定部303と、閾値判定部304と、合成処理部305と、を有する。
合成領域指定部301は、合成方法指定部302による2つの合成方法を指定可能な所定の領域(以下、「合成領域」という)を、時系列順に並ぶ複数の画像データに対応する複数の画像の各々に1つ以上指定する。具体的には、合成領域指定部301は、入力部25から入力される指示信号に応じて、時系列順に並ぶ複数の画像の各々に合成領域を指定する。
合成方法指定部302は、時系列順に並ぶ複数の画像データに対応する複数の画像の各々の所定の領域に、複数の画像の各々を合成するための2つの合成方法を指定する。具体的には、合成方法指定部302は、入力部25から入力される指示信号に応じて、後述する合成処理部305が実行可能な2つの合成方法を、合成領域指定部301によって指定された合成領域に指定する。例えば、合成方法指定部302は、入力部25から入力される指示信号に応じて、合成領域指定部301によって指定された合成領域に、後述する合成処理部305による比較明合成処理と比較暗合成処理とを指定する。
閾値指定部303は、合成方法指定部302が合成領域に指定した2つの合成方法を切り替えるための閾値を指定する。具体的には、入力部25から入力される指示信号に応じて、閾値を指定する。
閾値判定部304は、後述する画像情報処理部40の画像情報抽出部402によって抽出された画像情報に応じて定まる値が閾値以上であるか否かを判定する。例えば、閾値判定部304は、画像情報に含まれる輝度成分が閾値以上であるか否かを判定する。
合成処理部305は、合成領域指定部301によって指定された合成領域および合成方法指定部302によって指定された合成方法に基づいて、少なくとも2つ以上の画像データを合成して合成画像データを生成する。具体的には、合成処理部305は、合成方法指定部302によって合成領域に指定された2つの合成方法を順次切り替えながら時系列順に並ぶ複数の画像を順次合成して1つの合成データを生成する。合成処理部305は、比較明合成処理部305aと、比較暗合成処理部305bと、加算合成処理部305cと、平均合成処理部305dと、置換合成処理部305eと、を有する。
比較明合成処理部305aは、少なくとも2コマ以上の画像データを合成する際に、同じ画素アドレス(座標位置)の画素値を比較し、一番大きい画素値を合成画像の画素値(出力値)として合成画像データを生成する。
比較暗合成処理部305bは、少なくとも2コマ以上の画像データを合成する際に、同じ画素アドレスの画素値を比較し、一番小さい画素値を合成画像の画素値として合成画像データを生成する。
加算合成処理部305cは、少なくとも2コマ以上の画像データを合成する際に、同じ画素アドレスの画素の画素値を加算し、この加算した加算値を合成画像の画素値として合成画像データを生成する。
平均合成処理部305dは、少なくとも2コマ以上の画像データを合成する際に、同じ画素アドレスの画素値を平均し、この平均した平均値を合成画像の画素値として合成画像データを生成する。
置換合成処理部305eは、2コマの画像データに対応する2コマの画像を合成する際に、同じ画素アドレスの画素値のいずれか一方の画素値を合成画像の画素値として合成画像データを生成する。
画像情報処理部40は、撮像部10が生成した画像データに対して、所定の領域に含まれる画像情報を抽出し、この抽出した情報を表示部24に表示させる。画像情報処理部40は、情報領域指定部401と、画像情報抽出部402と、表示制御部403と、を有する。
情報領域指定部401は、画像情報抽出部402が画像情報を抽出するための情報領域を指定する。具体的には、入力部25から入力される指示信号に応じて、画像情報抽出部402が画像情報を抽出するための情報領域を指定する。
画像情報抽出部402は、情報領域指定部401が指定した情報領域に含まれる画像情報を抽出する。ここで、画像情報とは、輝度、色成分、画像データ間の画素値の変化量および被写体の移動量のいずれか1つ以上である。
表示制御部403は、画像情報抽出部402が抽出した画像情報を表示部24に表示させる。
現像処理部50は、撮像部10から出力された画像データまたは画像合成部30によって生成された合成画像データに対して、所定の画像処理を行って画像データまたは合成画像データを現像して表示部24または記録媒体23へ出力する。ここで、所定の画像処理とは、デモザイキング処理、ノイズリダクション処理、ホワイトバランス処理、リサイズ処理および圧縮処理等である。
〔撮像装置の処理〕
次に、撮像装置1が実行する処理について説明する。図2は、撮像装置1が実行する処理の概要を示すフローチャートである。
図2に示すように、まず、制御部27は、撮像部10に撮像させ、画像処理部20が画像データに画像処理を施した画像データに対応するライブビュー画像を表示部24に表示させる(ステップS101)。具体的には、図3に示すように、表示部24は、撮像部10によって生成されたライブビュー画像LV1を表示する。
続いて、画像情報処理部40は、撮像部10が生成した画像データに対応する画像から輝度およびRGB成分等の情報を抽出して表示する画像情報抽出処理を実行する(ステップS102)。
〔画像情報抽出処理〕
図4は、図2のステップS102における画像情報抽出処理の概要を示すフローチャートである。
図4に示すように、表示制御部403は、画像情報を抽出する抽出領域を表示部24が表示するライブビュー画像LV1に重畳して表示させる(ステップS201)。具体的には、図5に示すように、表示制御部403は、ライブビュー画像LV1上に抽出領域Z1を重畳して表示部24に表示させる。これにより、ユーザは、現在の抽出領域Z1を直感的に把握することができる。
続いて、情報領域指定部401は、入力部25からの指示信号に応じて、画像情報を抽出する抽出領域を指定する(ステップS202)。
その後、画像情報抽出部402は、情報領域指定部401によって指定された抽出領域の画像情報を抽出する(ステップS203)。
続いて、表示制御部403は、画像情報抽出部402が抽出した画像情報をライブビュー画像LV1上に重畳して表示部24に表示させる(ステップS204)。具体的には、図6に示すように、表示制御部403は、画像情報A1をライブビュー画像LV1上に重畳して表示部24に表示させる。これにより、ユーザは、入力部25を介して指定した領域の画像情報を直感的に把握することができる。なお、図6において、画像情報として、抽出領域における各成分の平均値の輝度成分(Y:22)、R成分(R:22)、G成分(G:35)およびB成分(B:15)の各々を表示させているが、これ以外にも、例えば彩度やヒストグラム等を表示させてもよい。もちろん、所定の成分、例えば、輝度成分のみを表示させてもよい。また、画像情報抽出部402は、複数のライブビュー画像について、各コマの平均値の輝度成分(R成分、G成分、B成分)を計算し、その値の平均値や、最大値、最小値を表示させても良い。また、画像情報抽出部402は、ライブビュー画像LV1から画像情報を抽出していたが、後述する合成途中の画像から画像情報を抽出してもよい。
その後、入力部25から画像情報を抽出する抽出領域を追加指定する指示信号が入力された場合(ステップS205:Yes)、撮像装置1は、上述したステップS202へ戻る。これに対して、入力部25から画像情報を抽出する抽出領域を追加する指示信号が入力されていない場合(ステップS205:No)、撮像装置1は、図2のメインルーチンへ戻る。
図2へ戻り、ステップS103以降の説明を続ける。
ステップS103において、画像合成部30は、ユーザによって指定された領域毎に指定された合成方法を設定する合成設定処理を実行する。
〔合成設定処理〕
図7は、図2のステップS103の合成設定処理の概要を示すフローチャートである。図8は、合成設定処理を模式的に説明する図である。
図7に示すように、合成領域指定部301は、入力部25からの指示信号に応じて、2コマ以上の画像を合成する際に、互いに異なる合成方法を行うための合成領域を指定する(ステップS301)。具体的には、図8に示すように、合成領域指定部301は、入力部25からの指示信号に応じて、2コマ以上の画像を合成する際に、互いに異なる合成方法を行うための合成領域R1を指定する。これにより、表示制御部403は、合成領域指定部301が指定した合成領域R1をライブビュー画像LV1上に重畳して表示部24に表示させる。この場合、表示制御部403は、指定された合成領域R1以外の領域に対する合成モードによる合成方法に関するアイコンA12および合成方法の情報A121を表示部24に表示させる。さらに、表示制御部403は、後述する合成領域R1に対して指定する合成方法の閾値に関する情報A10および合成領域R1に対する合成方法に関するアイコンA11を表示部24に表示させる。さらにまた、表示制御部403は、後述する閾値に応じて設定する合成方法に関する情報A111および情報A112を表示部24に表示させる。
続いて、合成方法指定部302は、入力部25からの指示信号に応じて、合成領域指定部301が指定した合成領域に対して、合成処理部305が合成処理する合成方法を指定する(ステップS302)。具体的には、図9に示すように、ユーザが入力部25を介してアイコンA11の情報A111を選択した場合、表示制御部403は、合成可能な複数の合成処理を表示部24に表示させる。ユーザは、入力部25を介して、表示された複数の合成処理の中から2つを選択する。これにより、合成方法指定部302は、入力部25からの指示信号に応じて、合成領域指定部301が指定した合成領域に対して、合成処理部305が合成処理する2つの合成方法を指定する。なお、情報A111には、比較明合成処理、比較暗合成処理、加算合成処理、平均合成処理、置換合成処理および非合成が含まれる。
その後、閾値指定部303は、入力部25からの指示信号に応じて、合成方法指定部302が合成領域に対して指定した2つの合成方法を切り替えるための閾値を指定する(ステップS303)。具体的には、図8に示すように、ユーザは、入力部25を介して表示部24が情報A100において表示する各画像情報を選択し、合成領域R1に対する合成処理を行う際の閾値を入力する。これにより、閾値指定部303は、入力部25からの指示信号に応じて、合成方法指定部302が合成領域に対して指定した2つの合成方法を切り替えるための閾値を指定することができる。
続いて、入力部25から合成領域を追加指定する指示信号が入力された場合(ステップS304:Yes)、撮像装置1は、上述したステップS301へ戻る。これに対して、入力部25から合成領域を追加指定する指示信号が入力されていない場合(ステップS304:No)、撮像装置1は、図2のメインルーチンへ戻る。
図2に戻り、ステップS104以降の説明を続ける。
ステップS104において、入力部25から撮影を指示する指示信号が入力された場合(ステップS104:Yes)、撮像部10は、撮像を実行する(ステップS105)。これに対して、入力部25から撮影を指示する指示信号が入力されていない場合(ステップS104:No)、撮像装置1は、この判断を続ける。
続いて、撮像部10によって撮像されて生成された画像データが1コマ目である場合(ステップS106:Yes)、撮像装置1は、後述するステップS108へ移行する。これに対して、撮像部10によって撮像されて生成された画像データが1コマ目でない場合(ステップS106:No)、画像合成部30は、少なくとも2コマ以上の画像データを合成する合成処理を実行する(ステップS107)。なお、合成処理の詳細は、後述する。ステップS107の後、撮像装置1は、後述するステップS108へ移行する。
ステップS108において、制御部27は、撮像部10が生成した画像データを記録部21に一時的に記録させる。
続いて、現像処理部50は、記録部21に一時的に記録された画像データに対して現像処理を行う(ステップS109)。具体的には、現像処理部50は、画像データに対して、デモザイキング処理、ノイズリダクション処理、ホワイトバランス処理、リサイズ処理および圧縮処理を行って画像データの現像を行う。
その後、制御部27は、所定時間、例えば3秒間だけ撮影結果を表示部24に表示させる(ステップS110)。
続いて、入力部25から合成処理を終了する指示信号が入力された場合(ステップS111:Yes)、撮像装置1は、後述するステップS112へ移行する。これに対して、入力部25から合成処理を終了する指示信号が入力されていない場合(ステップS111:No)、撮像装置1は、上述したステップS105へ戻る。
ステップS112において、制御部27は、現像処理部50が生成した画像データを、メモリI/F22を介して記録媒体23に記録する(ステップS112)。
続いて、制御部27は、現像処理部50が生成した画像データに対応する画像を表示部24に表示させる(ステップS113)。ステップS113の後、撮像装置1は、本処理を終了する。
〔合成処理〕
次に、上述した図2のステップS107において説明した合成処理の詳細について説明する。図10は、画像合成部30が実行する合成処理の概要を示すフローチャートである。
図10に示すように、合成領域指定部301は、撮像部10が生成した画像データに対応する画像に対して、上述した図7のステップS301において指定した合成領域を選択する(ステップS401)。
続いて、画像情報抽出部402は、合成領域指定部301によって指定された合成領域の画像情報を抽出する(ステップS402)。
その後、閾値判定部304は、画像情報抽出部402が抽出した画像情報が閾値指定部303によって指定された閾値以上であるか否かを判定する(ステップS403)。閾値判定部304によって画像情報抽出部402が抽出した画像情報が閾値以上であると判定された場合(ステップS403:Yes)、撮像装置1は、後述するステップS404へ移行する。これに対して、閾値判定部304によって画像情報抽出部402が抽出した画像情報が閾値以上でないと判定された場合(ステップS403:No)、撮像装置1は、後述するステップS405へ移行する。
ステップS404において、合成処理部305は、合成領域指定部301によって指定された合成領域に、合成方法指定部302によって画像情報が閾値以上のときに指定された合成方法(閾値以上で指定された第1合成方法)によって新たな画像データを合成する。ステップS404の後、撮像装置1は、後述するステップS406へ移行する。
ステップS405において、合成処理部305は、合成領域指定部301によって指定された合成領域に、合成方法指定部302によって画像情報が閾値以上でないとき(閾値未満)に指定された合成方法(閾値未満で指定された第2合成方法)によって新たな画像データを合成する。ステップS405の後、撮像装置1は、後述するステップS406へ移行する。
図11は、合成処理部305が合成する時系列に並ぶ画像群の一例を模式的に示す図である。図12は、図11の画像群を従来の比較明合成処理によって合成した場合における合成画像の遷移を模式的に示す図である。図13は、合成処理部305が合成処理によって生成した合成画像の遷移を模式的に示す図である。また、図13では、合成領域指定部301によって指定された合成領域に、合成方法指定部302によって指定された合成方法によって合成された合成画像の遷移を模式的に示す。さらに、図13では、合成領域指定部301によって指定された合成領域以外の領域に比較明合成処理が指定され、かつ、合成領域については閾値以上の場合に合成なし(非合成)が指定され、閾値未満の場合に比較明合成処理が指定されているときについて説明する。なお、図12および図13では、合成方法指定部302によって比較明合成が指定された場合について説明するが、もちろん他の合成方法であっても同様である。
図11に示すように、撮像装置1が星の軌跡を主要被写体として撮影している場合において、撮影の途中で車K1が通過したとき、車K1のヘッドライトの光も撮像する(画像P1→画像P2→画像P3→画像P4)。このため、図12に示すように、従来の比較明合成では、画像P1〜画像P4を時系列に沿って順次合成した場合、車K1のヘッドライトの光も徐々に合成されてしまう(画像P11→画像P12→画像P13→画像P14)。この結果、従来の比較明合成では、車K1のヘッドライトの軌跡が邪魔となり、撮影者の創作意図にそぐわない画像P14(合成画像)を生成してしまうという問題点があった。
これに対して、図13に示すように、合成処理部305は、上述した図7において合成領域指定部301によって指定された合成領域R1に、閾値指定部303によって指定された閾値および合成方法指定部302によって指定された合成方法で画像P1に画像P2〜画像P4を時系列に沿って順次合成する合成処理を行う場合において、画像P2〜画像P4の合成領域R1における画像情報(例えば輝度)が閾値以上のとき、合成方法が合成なし(非合成)のため、画像P1の合成領域R1に画像P2〜P4を合成せず、画像P2〜画像P4の合成領域R1における画像情報(例えば輝度)が閾値未満のとき、画像P1の合成領域R1に画像P2〜P4を順次比較明合成する。さらに、合成処理部305は、合成領域R1以外の領域に対して、比較明合成を行う。これにより、本実施の形態1では、画像P1〜画像P4を時系列に沿って順次合成した場合、車K1のヘッドライトの軌跡がないうえ、星の軌跡が写る撮影者の創作意図に沿った合成画像(画像P21→画像P22→画像P23→画像P24)を生成することができる。
図10に戻り、ステップS406以降の説明を続ける。
ステップS406において、画像を合成する追加領域がある場合(ステップS406:Yes)、撮像装置1は、上述したステップS401へ戻る。これに対して、画像を合成する追加領域がない場合(ステップS406:No)、撮像装置1は、図2のメインルーチンへ戻る。
以上説明した本発明の実施の形態1によれば、合成方法指定部302が複数の画像の各々の合成領域域に、複数の画像の各々を合成するための2つの合成方法を指定し、画像情報抽出部402が複数の画像の各々の所定の領域に含まれる画像情報を順次抽出し、合成処理部305が画像情報抽出部402によって順次抽出された画像情報に基づいて、合成領域に指定された2つの合成方法を切り替えながら複数の画像を順次合成して1つの合成データを生成するので、ユーザの創作意図を反映した合成画像を生成することができる。
また、本発明の実施の形態1によれば、閾値指定部303が合成方法指定部302によって合成領域に指定された2つの合成方法を切り替えるための閾値を指定し、閾値判定部304が画像情報抽出部402によって抽出された画像情報に応じて定まる値が閾値以上であるか否かを判定し、合成処理部305が閾値判定部304の判定結果に基づいて、合成データを生成するので、ユーザは、創作意図をより反映した合成画像を生成することができる。
(実施の形態1の変形例1)
次に、本発明の実施の形態1の変形例1について説明する。本実施の形態1に係る変形例1は、上述した実施の形態1に係る撮像装置1と同様の構成を有し、画像合成部が実行する合成設定処理が異なる。具体的には、上述した実施の形態1では、入力部25から入力された指示信号に応じて、合成領域に指定された合成処理の内容を切り替える閾値を手動によって指定していたが、本実施の形態1の変形例1では、画像情報抽出部402によって抽出された画像情報に基づいて、合成領域に指定された合成処理の内容を切り替える閾値を自動的に指定する。以下においては、本実施の形態1の変形例1に係る画像合成部が実行する合成設定処理について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔合成設定処理〕
図14は、本発明の実施の形態1の変形例1に係る撮像装置1が実行する合成設定処理の概要を示すフローチャートである。図14において、ステップS501およびステップS503は、上述した図7のステップS302およびステップS304それぞれに対応する。
ステップS502において、画像合成部30は、画像情報処理部40によって画像情報が抽出された抽出領域を合成領域に指定するとともに、画像情報を閾値に設定する。具体的には、図15に示すように、合成領域指定部301は、情報領域指定部401によって指定された抽出領域を合成領域R1に指定する。さらに、閾値指定部303は、画像情報抽出部402によって抽出された画像情報を合成領域に指定された合成方法の内容を切り替える閾値に指定する。この場合において、閾値指定部303は、画像情報抽出部402によって抽出された画像情報に所定の値を加算、減算、乗算および除算のいずれか1つを行った値を閾値に指定してもよい。例えば、図15に示す場合、閾値指定部303は、画像情報抽出部402によって抽出された画像情報に含まれる各値に対して、所定の値として+10を加算することによって閾値を指定する。なお、閾値指定部303は、画像情報抽出部402によって抽出された画像情報に、合成方法指定部302によって指定された合成処理の内容に応じて、所定の値を加算、減算、乗算および除算のいずれか1つを行った値を閾値に指定してもよい。また、閾値指定部303は、画像情報抽出部402によって抽出された複数の画像において最も古い画像の画像情報に応じて定まる値(抽出領域の輝度または色成分の平均値)を合成領域に指定された合成方法の内容を切り替える閾値に設定する。ステップS502の後、撮像装置1は、ステップS503へ移行する。
以上説明した本発明の実施の形態1の変形例1によれば、閾値指定部303が画像情報抽出部402によって複数の画像において最も古い画像に対して抽出した画像情報に応じて定まる値を閾値に指定するので、複雑な設定を行うことなく、抽出領域のみ指定することで、ユーザの創作意図を反映した合成画像を生成することができる。
(実施の形態1の変形例2)
次に、本発明の実施の形態1の変形例2について説明する。上述した実施の形態1では、画像情報としてYRGB(輝度成分、R成分、G成分およびB成分)を用いていたが、本実施の形態1の変形例2は、画像情報として時間的に並ぶ画像群において移動する被写体の移動量を用いる。また、本実施の形態1の変形例2に係る撮像装置は、上述した実施の形態1に係る撮像装置1と同様の処理を行うため、本実施の形態1の変形例2に係る撮像装置が実行する処理の詳細については説明を省略し、本実施の形態1の変形例2に係る撮像装置が実行する処理の概要について説明する。以下においては、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔画像情報抽出の概要〕
図16は、撮像装置1が時刻Tで生成した画像の一例を示す図である。図17は、撮像装置1が時刻Tから所定時間t経過後に生成した画像の一例を示す図である。図18は、画像情報処理部40による処理を模式的に説明する図である。なお、図17は、撮像装置1が画像PTを生成した同じ位置で所定時間t経過後に生成した画像であるため、画像PT+tに写る被写体の星が画像PTから移動している。
図16〜図18に示すように、入力部25からの指示信号に応じて、画像情報を抽出する抽出領域R10が指定された場合、画像情報抽出部402は、画像PTおよび画像PT+tに基づいて、抽出領域R10において移動した被写体(星)の移動量を抽出する。具体的には、画像情報抽出部402は、抽出領域R10において移動した被写体(星)の移動量を画素数(ピクセル数)によって数値化し、この数値化した値を画像情報として抽出する。例えば、図16〜図18に示すように、画像情報抽出部402は、時刻Tから所定時間t経過後の時刻T+tにおいて、抽出領域R10を移動する複数の被写体の各々の移動量の平均が100ピクセルである場合、抽出領域R10における画像情報として100ピクセルを抽出する。この場合、画像情報抽出部402は、画像PTおよび画像PT+tに基づいて、抽出領域R10における所定値以上の輝度を有する画素または領域の移動量を算出することによって画像情報を抽出する。そして、表示制御部403は、画像情報抽出部402によって抽出された画像情報A20を画像PT+tに重畳して表示部24に表示する。これにより、ユーザは、直感的に被写体の移動量を把握することができる。
〔合成設定処理の概要〕
次に、合成設定処理の概要について説明する。図19は、合成設定処理の概要を模式的に説明する図である。
図19に示すように、ユーザは、入力部25を介して、合成領域R1に対する合成方法、合成方法の内容を切り替える閾値および合成領域R1以外の合成方法の各々を指定する。より具体的には、ユーザは、入力部25を介して、合成領域R1以外の非選択領域に比較明合成処理を指定し、かつ、合成領域R1を指定する。この場合、合成領域指定部301は、入力部25から入力される指示信号に応じて、合成領域R1を指定する。
続いて、ユーザは、入力部25を介して、合成領域R1における合成方法を指定する。この場合、合成方法指定部302は、入力部25から入力される指示信号に応じて、合成領域R1における合成方法を指定する。例えば、合成方法指定部302は、合成領域R1に対して、比較明合成および比較暗合成を指定する。
その後、ユーザは、入力部25を介して、合成領域R1に指定した合成方法の内容を切り替える閾値を指定する。例えば、ユーザは、図18において表示された画像情報に基づいて、合成領域R1に指定した合成方法の内容を切り替える閾値を指定する。例えば、図18において被写体が100ピクセル移動する場合、200ピクセルを閾値に指定する。この場合、閾値指定部303は、入力部25から入力される指示信号に応じて、合成方法指定部302によって合成領域R1に指定された合成方法の内容を切り替える閾値を指定する。これにより、合成領域R1において200ピクセル以上で大きく移動する被写体(例えば星よりも速く移動する被写体)は、合成処理部305によって比較暗合成が行われる一方、合成領域R1において200ピクセル未満で小さく移動する被写体(例えば星を含めてゆっくり移動する被写体)は、合成処理部305によって比較明合成が行われる。
〔合成処理の概要〕
次に、合成処理部305による合成処理の概要について説明する。図20は、従来の比較明合成処理によって合成した場合における合成画像の遷移を模式的に示す図である。図21は、合成処理部305が合成処理によって生成した合成画像の遷移を模式的に示す図である。
図20に示すように、従来の比較明合成処理では、撮像装置1の撮影途中に飛行機K10が映りこんだ場合、飛行機K10のライトL1が順次合成されている(画像P31→画像P32→画像P33→画像P34)。ユーザは、星を主要被写体として撮影しているため、飛行機K10のライトL1の軌跡が創作意図にそぐわない画像P34(合成画像)となり、撮影が失敗となる。
これに対して、図21に示すように、合成処理部305は、上述した図19において合成領域指定部301によって指定された合成領域R1に、閾値指定部303によって指定された閾値および合成方法指定部302によって指定された合成方法によって順次合成する(画像P41→画像P42→画像P43→画像P44)。図21に示すように、飛行機K10は、星よりも移動速度が速いため、コマ毎の移動量が200ピクセル以上となる。このため、合成処理部305は、飛行機K10のライトL1の軌跡に対して比較暗合成を行う。この場合、合成処理部305は、合成領域R1の背景の星空が飛行機K10のライトL1よりも暗いので(輝度が小さい)、飛行機K10のライトL1を合成しない。これにより、合成処理部305は、星の光の軌跡が映るとともに、不要な飛行機K10のライトL1の軌跡が映らない画像P44(合成画像)を生成する。この結果、撮影者の創作意図に沿った画像P44を生成することができる。
以上説明した本発明の実施の形態1の変形例2によれば、ユーザの創作意図を反映した合成画像を生成することができる。
なお、本発明の実施の形態1の変形例2では、閾値指定部303が指定する移動量に、YRGB成分を合わせて追加してもよい。例えば、飛行機K10のライトは、様々な色のものがある一方、星の色は、限られているので、色(RGB成分)に対して閾値を指定することで、遠方を飛行しており移動量が星と同じか小さい飛行機の場合であっても、飛行機のライトの軌跡を除外して合成した合成画像を生成することができる。
(実施の形態1の変形例3)
次に、本発明の実施の形態1の変形例3について説明する。本実施の形態1の変形例3は、撮像装置が実行する処理が異なる。具体的には、本実施の形態1の変形例3は、表示部が合成処理部によって合成処理が終了した合成画像を表示している際に、入力部から合成方法の変更を指示する指示信号が入力された場合、指定された合成領域、合成方法および閾値を変更して再度、合成画像を生成する。以下においては、本実施の形態1の変形例3に係る撮像装置が実行する処理について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔撮像装置の処理〕
図22は、本実施の形態1の変形例3に係る撮像装置1が実行する処理の概要を示すフローチャートである。図22において、ステップS601〜ステップS610は、上述した図2のステップS101〜ステップS110それぞれに対応する。
ステップS611において、入力部25から合成方法を変更する指示信号が入力された場合(ステップS611:Yes)、撮像装置1は、後述するステップS612へ移行する。これに対して、入力部25から合成方法を変更する指示信号が入力されていない場合(ステップS611:No)、撮像装置1は、後述するステップS614へ移行する。
ステップS612およびステップS613は、上述した図2のステップS102およびステップS103それぞれに対応する。この場合、ユーザは、撮影結果である合成画像を見ながら合成画像の設定および合成方法を変更することができる。ステップS613の後、撮像装置1は、後述するステップS614へ移行する。ステップS614〜ステップS616は、上述した図2のステップS111〜ステップS113それぞれに対応する。
ステップS617において、入力部25を介して合成方法を変更する指示信号が入力された場合(ステップS617:Yes)、撮像装置1は、後述するステップS618へ移行する。これに対して、入力部25を介して合成方法を変更する指示信号が入力されていない場合(ステップS617:No)、撮像装置1は、本処理を終了する。
ステップS618およびステップS619は、上述した図2のステップS102およびステップS103それぞれに対応する。ステップS620は、上述した図2のステップS107に対応する。ステップS621およびステップS622は、上述した図2のステップS112およびステップS113それぞれに対応する。
ステップS623において、入力部25を介して合成方法を変更する指示信号が入力された場合(ステップS623:Yes)、撮像装置1は、上述したステップS618へ移行する。これに対して、入力部25を介して合成方法を変更する指示信号が入力されていない場合(ステップS623:No)、撮像装置1は、本処理を終了する。
以上説明した本発明の実施の形態1の変形例3によれば、撮影途中であっても、入力部25を介して合成方法および閾値を変更することができるので、ユーザの創作意図を反映した合成画像を生成することができる。
また、本発明の実施の形態1の変形例3によれば、撮影後であっても、入力部25を介して合成方法および閾値を変更することができるので、ユーザの創作意図を反映した合成画像を生成することができる。
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2に係る撮像装置は、上述した実施の形態1に係る撮像装置1と構成が異なるうえ、実行する合成設定処理が異なる。具体的には、本実施の形態2に係る撮像装置は、ユーザによって指定された合成領域が複数指定された場合において、指定された複数の合成領域が重なるとき、合成領域に指定された優先度に応じた合成方法によって合成画像を生成する。以下においては、本実施の形態2に係る撮像装置の構成を説明後、本実施の形態2に係る撮像装置が実行する合成設定処理について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔撮像装置の構成〕
図23は、本発明の実施の形態2に係る撮像装置の機能構成を示すブロック図である。図23に示す撮像装置1aは、上述した実施の形態1に係る撮像装置1の画像処理部20に換えて、画像処理部20aを備える。画像処理部20aは、上述した実施の形態1に係る画像処理部20の構成に加えて、優先度指定部306を有する。
優先度指定部306は、合成領域指定部301によって指定された複数の合成領域の各々の優先度を指定する。具体的には優先度指定部306は、合成領域指定部301によって指定された複数の合成領域の少なくとも一部が重複している場合において、この重複している重複領域についての優先度を指定する。
〔合成設定処理〕
次に、撮像装置1aが実行する合成設定処理について説明する。図24は、撮像装置1aが実行する合成設定処理の概要を示すフローチャートである。図24において、ステップS701〜ステップS704は、上述した図7のステップS301〜ステップS304それぞれに対応する。
ステップS705において、合成領域指定部301によって指定された合成領域の重複がある場合(ステップS705:Yes)、撮像装置1aは、後述するステップS706へ移行する。これに対して、合成領域指定部301によって指定された合成領域の重複がない場合(ステップS705:No)、撮像装置1aは、図2のメインルーチンへ戻る。
ステップS706において、優先度指定部306は、合成領域指定部301によって指定された複数の合成領域の各々の優先度を指定する。具体的には、図25に示すように、優先度指定部306は、合成領域指定部301によって指定された合成領域R1と合成領域R2とが重複している場合において、この重複している重複領域R3についての優先度を指定する。例えば、ユーザが入力部25を介して合成領域R1の優先度を「1」に指定し、合成領域R2の優先度を「2」に指定した場合、優先度指定部306は、入力部25からの指示信号に応じて、合成領域R1の優先度a1を「1」に指定するとともに、合成領域R2の優先度a2を「2」に指定する。表示制御部403は、合成領域R1および合成領域R2の各々に設定された閾値、合成方法および優先度に関する情報A40をライブビュー画像LV1上に重畳して表示部24に表示させる。その後、画像合成部30aは、重複領域R3に対して、合成領域R1に設定された閾値および合成方法によって合成が行われる。
以上説明した本発明の実施の形態2によれば、合成領域が2以上指定された場合において、互いの少なくとも一部の領域が重なる重複領域が発生したときであっても、優先度指定部306の優先度に応じて、合成処理部305が合成するので、ユーザの創作意図を反映した合成画像を生成することができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3は、上述した実施の形態2に係る撮像装置1aの構成と異なるうえ、合成設定処理が異なる。具体的には、本実施の形態3では、移動する被写体を追尾しながら合成画像を生成する。以下においては、本実施の形態3に係る撮像装置の構成を説明後、本実施の形態3に係る撮像装置が実行する合成設定処理について説明する。なお、上述した実施の形態2に係る撮像装置1aと同一の構成には同一の符号を付して説明を省略する。
〔撮像装置の構成〕
図26は、本発明の実施の形態3に係る撮像装置の機能構成を示すブロック図である。図26に示す撮像装置1bは、上述した実施の形態2に係る撮像装置1aの画像処理部20aに換えて、画像処理部20bを備える。画像処理部20bは、上述した実施の形態2に係る画像処理部20aの構成に加えて、被写体指定部60と、被写体追尾部70と、を備える。
被写体指定部60は、入力部25から入力される指示信号に応じた画像内の被写体を含む被写体を追尾被写体として指定する。
被写体追尾部70は、被写体指定部60によって指定された被写体の特徴量を抽出し、この特徴量に基づいて、撮像部10が連続的に生成する複数の画像データに対応する複数の画像の各々に写る被写体が写る位置を含む被写体領域を順次追尾する。ここで、特徴量とは、輝度、色、エッジおよびコントラスト等である。また、表示制御部403は、被写体追尾部70による追尾結果を画像に重畳して表示部24に表示させてもよい。
〔合成設定処理〕
次に、撮像装置1bが実行する合成設定処理について説明する。図27は、撮像装置1bが実行する合成設定処理の概要を示すフローチャートである。図27において、ステップS801〜ステップS804は、上述した図7のステップS301〜ステップS304それぞれに対応する。
ステップS805において、入力部25から合成領域指定部301によって指定された合成領域の追尾指定を指示する指示信号があった場合(ステップS805:Yes)、撮像装置1bは、後述するステップS806へ移行する。これに対して、入力部25から合成領域指定部301によって指定された合成領域の追尾指定を指示する指示信号がなかった場合(ステップS805:No)、撮像装置1bは、図2のメインルーチンへ戻る。
ステップS806において、被写体指定部60は、入力部25から入力される指示信号に応じて撮像部10によって連続的に生成される画像群において追尾する被写体を指定する。具体的には、図28に示すように、合成領域指定部301によって被写体K200に合成領域R100が指定されている場合において、入力部25から被写体K200を追尾被写体として指定する指示信号が入力されたとき、被写体指定部60は、被写体K200を追尾被写体として指定する。この場合において、合成領域指定部301は、被写体追尾部70によって追尾された追尾結果に基づいて、撮像部10によって連続的に生成される画像毎に、被写体K200を含む合成領域R100およびを移動させながら合成領域R100(被写体K200)の位置を追尾しながら指定する。さらに、表示制御部403は、被写体指定部60によって指定された被写体を含む合成領域を画像P100上に重畳して表示部24に表示させる。さらにまた、表示制御部403は、合成領域以外の合成方法に係る情報をA200、合成領域R100に対する閾値、合成方法および追尾の有無に関する情報A200を画像P100に重畳して表示部24に表示させる。
続いて、入力部25から合成領域指定部301によって指定された合成領域の追尾指定を指示する指示信号があった場合(ステップS807:Yes)、撮像装置1bは、後述するステップS808へ移行する。これに対して、入力部25から合成領域指定部301によって指定された合成領域の追尾指定を指示する指示信号がなかった場合(ステップS807:No)、撮像装置1bは、図2のメインルーチンへ戻る。
ステップS808において、被写体指定部60は、入力部25から入力される指示信号に応じて撮像部10によって連続的に生成される画像群において追尾する被写体を指定する。具体的には、図28に示すように、合成領域指定部301によって被写体K200および被写体K201の各々に合成領域R100および合成領域R101が指定されている場合において、入力部25から被写体K201を追尾被写体としてさらに指定する指示信号が入力されたとき、被写体指定部60は、被写体K201を追尾被写体としてさらに指定する。この場合において、合成領域指定部301は、被写体追尾部70によって追尾された追尾結果に基づいて、撮像部10によって連続的に生成される画像毎に、被写体K200および被写体K201の各々を含む合成領域R100および合成領域R101を移動させながら合成領域R100(被写体K200)および合成領域R101(被写体K201)の位置を追尾しながら指定する。さらに、表示制御部403は、被写体指定部60によって指定された被写体を含む合成領域を画像P100上に重畳して表示部24に表示させる。さらにまた、表示制御部403は、合成領域以外の合成方法に係る情報をA100、合成領域R100に対する閾値、合成方法および追尾の有無に関する情報A200および合成領域R101に対する閾値、合成方法および追尾の有無に関する情報A201を画像P100に重畳して表示部24に表示させる。
続いて、入力部25から合成領域指定部301によって指定された合成領域の追尾指定を指示する指示信号があった場合(ステップS809:Yes)、撮像装置1bは、上述したステップS808へ戻る。これに対して、入力部25から合成領域指定部301によって指定された合成領域の追尾指定を指示する指示信号がなかった場合(ステップS809:No)、撮像装置1bは、後述するステップS810へ移行する。
ステップS810において、優先度指定部306は、合成領域指定部301によって指定された複数の合成領域の各々の優先度を指定する。ステップS807の後、撮像装置1bは、図2のメインルーチンへ戻る。
〔合成処理の概要〕
次に、上述した合成設定処理によって設定された画像合成部30aによる合成処理の概要について説明する。図29は、撮像装置1bが連続的に生成した画像群の一例を示す図である。図30は、画像合成部30aによって生成された合成画像の遷移を模式的に示す図である。なお、図30において、合成方法指定部302によって合成領域R100,R101に置換合成処理が指定され、合成領域R100,R101以外の領域に平均合成処理が指定されている。
図29に示すように、合成領域指定部301は、被写体追尾部70の追尾結果に基づいて、コマ毎に合成領域を移動する(画像P100→画像P101→画像P102)。そして、図30に示すように、合成処理部305は、合成領域R100,R101に対して、置換合成処理を行い、合成領域R100,R101以外の領域に対して、平均合成処理を行う。これにより、合成処理部305は、合成領域R100,R101の画像が背景に換えて、観覧車の画像に置き換えられ、合成領域R100,R101以外を平均合成処理によって合成する。例えば、画像間で移動する飛行機K100や観覧車の支柱が薄く写る(画像P200→画像P201)。この場合において、合成処理部305は、飛行機K100と合成領域R101とが重複した場合、合成領域R101を優先する。このため、合成処理部305は、合成領域R101の画像が観覧車の画像に置き換えられる。
その後、合成処理部305は、合成領域R100と合成領域R101とが発生した場合、合成領域R100と合成領域R101とが重複した重複領域に対する合成処理の内容を、優先度指定部306によって指定された優先度が高い合成領域R100の合成処理によって合成処理を行う。具体的には、図30に示すように、合成処理部305は、合成領域R100に指定された合成処理の内容を優先して合成処理を行う。これにより、被写体K200(観覧車)が合成され、被写体K201(観覧車)が合成されない合成画像P202となる。
以上説明した本発明の実施の形態3によれば、被写体追尾部70が被写体指定部60によって指定された被写体が合成領域に含まれている場合に、複数の画像の各々において被写体が写る位置を含む被写体領域を順次追尾し、合成領域指定部301が被写体追尾部70によって順次追尾された被写体領域を合成領域に指定し、合成処理部305が合成領域に指定された2つの合成方法を切り替えながら複数の画像を順次合成して1つの合成データを生成するので、ユーザの創作意図を反映した合成画像を生成することができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。本実施の形態4は、上述した実施の形態1に係る撮像装置と構成が異なるうえ、撮像装置が実行する合成設定処理が異なる。具体的には、本実施の形態4では、自動で合成領域、合成方法および閾値の各々を指定する。以下においては、本実施の形態4に係る撮像装置の構成を説明後、本実施の形態4に係る撮像装置が実行する合成設定処理について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔撮像装置の構成〕
図31は、本発明の実施の形態4に係る撮像装置の機能構成を示すブロック図である。図31に係る撮像装置1dは、上述した実施の形態1に係る撮像装置1の記録部21に換えて、記録部21dを備える。記録部21dは、上述した実施の形態1に係る記録部21の構成に加えて、合成情報記録部21bを有する。
合成情報記録部21bは、画像情報抽出部402によって抽出された画像情報に基づいて設定される合成モードと、画像合成部30が合成する合成領域、合成方法および閾値の各々を指定するための合成情報を記録する。
図32は、合成情報記録部21bが記録する合成情報の一例を模式的に示す図である。図32に示すように、合成情報T1には、各合成モードと、合成範囲と、画像情報(移動量)と、合成方法とが対応付けられて記録されている。具体的には、合成モードが星空モードの場合、合成範囲に暗部、移動量が小、合成方法に比較明合成の各々が記載される。星空モードは、図33の画像P300のような場合、合成範囲が暗部(黒塗りの領域)に設定され、被写体が星であり、移動量が小さいため、閾値としての移動量が小(例えば200ピクセル)に設定され、合成合法が比較明合成に設定される。また、花火モードは、図33の画像P300のような場合、合成範囲が全体(全領域)に設定され、被写体が花火であり、移動量が大きいため、閾値としての移動量が大(例えば50ピクセル)に設定され、合成方法が比較明合成に設定される。さらに、夜景モードは、図33の画像P300のような場合、合成範囲を明部(白い領域)に設定され、被写体がビルであり、移動しないため、閾値としての移動量を0に設定され、合成方法を比較明合成に設定される。なお、図32では、星空モード、花火モードおよび夜景モードを一例として記載したが、これに限定されることなく、例えば夜景観覧車モードや夜景電車モードがあってもよい。
〔合成設定処理〕
次に、撮像装置1dが実行する合成設定処理について説明する。図34は、撮像装置1dが実行する合成設定処理の概要を示すフローチャートである。
図34に示すように、表示制御部403は、上述した図4の画像情報抽出処理と合成情報記録部21bが記録する合成情報とに基づいて、現在の撮影シーンにおける推奨モードを表示部24に表示させる(ステップS901)。具体的には、図35に示すように、表示制御部403は、推奨モードの一覧を示すメニュー画像G1を表示部24に表示させる。メニュー画像G1には、星空モードM11、花火モードM12および夜景モードM13が含まれる。
続いて、入力部25を介して表示部24が表示するメニュー画像G1のいずれかのモードが選択された場合(ステップS902:Yes)、撮像装置1dは、ステップS903へ移行する。これに対して、入力部25を介して表示部24が表示するメニュー画像G1のいずれかのモードが選択されていない場合(ステップS902:No)、撮像装置1dは、ステップS901へ戻る。
ステップS903において、合成領域指定部301は、入力部25を介して選択されたモードに応じた領域を合成領域に指定する(ステップS903)。
続いて、閾値指定部303は、入力部25を介して選択されたモードに応じた閾値を合成領域に指定する(ステップS904)。
その後、合成方法指定部302は、入力部25を介して選択されたモードに応じた合成方法を合成領域に指定する(ステップS905)。ステップS905の後、撮像装置1dは、図2のメインルーチンへ戻る。
以上説明した本発明の実施の形態4によれば、ユーザの創作意図を反映した合成画像を生成することができる。
(その他の実施の形態)
また、本発明に係る撮像装置や画像処理装置は、デジタルスチルカメラ以外にも、デジタルビデオカメラ、監視カメラ、撮像機能を有するタブレット型携帯機器等の電子機器および内視鏡や顕微鏡で撮像された医療用、産業用分野の画像データに対応する画像を表示する表示装置等にも適用することができる。
また、本発明に係る撮像装置および画像処理装置に実行させるプログラムは、インストール可能な形式または実行可能な形式のファイルデータでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)、USB媒体、フラッシュメモリ等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、本発明に係る撮像装置および画像処理装置に実行させるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。さらに、本発明に係る撮像装置に実行させるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」等の表現を用いてステップ間の処理の前後関係を明示していたが、本発明を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。即ち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
本願の実施の形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
このように、本発明は、ここでは記載していない様々な実施の形態を含みうるものであり、請求の範囲によって特定される技術的思想の範囲内で種々の設計変更等を行うことが可能である。