以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る撮影機器の回路構成を示すブロック図である。
図1において、撮影機器10は、CCDやCMOSセンサ等の撮像素子によって構成された撮像部2を有している。撮像部2は、信号処理及び制御部1によって、絞り、ピント、ズーム等が制御可能に構成されており、様々な構図、被写体に対応した撮像が可能である。
撮像部2は、信号処理及び制御部1によって駆動制御されて、被写体を撮像し、撮像画像を出力する。信号処理及び制御部1は、撮像部2に撮像素子の駆動信号を出力すると共に、撮像部2からの撮像画像を読み出す。この撮像画像の取り込みは読取部1aによって行われる。読取部1aは撮像部2から読み出した撮像画像を分配用仮記録部3に与える。
分配用仮記録部3は、撮像部2からの撮像画像を所定期間保存する容量を有し、撮像部2から読み出された撮像画像(動画及び静止画)を記憶保持する。
信号処理及び制御部1は、分配用仮記録部3に記録された撮像画像を読み出して画像処理する2系統の画像処理部1b,1cを有している。画像処理部1b,1cは、入力された画像に対して、所定の信号処理、例えば、色信号生成処理、マトリックス変換処理、その他各種の信号処理を行う。更に、画像処理部1b,1cは、入力画像をリサイズするリサイズ処理、入力画像の一部の領域の画像(以下、部分画像という)を生成する処理等の各種画像処理を行うことも可能に構成されている。なお、以後、入力画像の全領域の画像については、リサイズ処理の有無に拘わらず全体画像というものとする。即ち、全体画像に対して、部分画像は画角が狭い画像、即ち、アップ画像である。
特徴判定部1dは、部分画像を生成するためにユーザによって入力画像の一部の領域(以下、部分指定領域という)を指定する操作(以下、部分指定操作という)が行われた場合、或いは、撮像画像に対する画像解析によって人物等の特定の被写体が含まれると判定された領域(以下、部分特定領域という)が検出された場合には、画像処理部1bから部分指定領域及び部分特定領域(以下、これらを部分領域という)の画像情報が与えられて、人物の顔等の対象被写体の特徴量を判定し、判定結果を部分領域中に検出された対象被写体の情報として追尾変化判定部1e1及び別候補決定部1e2に出力する。また、特徴判定部1dは、各被写体の特徴量の情報を部分画像特徴記憶部3aに与えて記憶させるようになっている。
追尾変化判定部1e1は、部分画像特徴記憶部3aから対象被写体の特徴量を読み出し、順次入力される入力画像から対象被写体の特徴量と一致する特徴量を有する部分を含む領域を追尾し、追尾結果を画像処理部1cに出力する。こうして、画像処理部1cは、対象被写体を含む部分領域の画像部分を常に追尾しながら、この画像を部分画像として生成することができるようになっている。
更に、本実施の形態においては、特徴判定部1d及び追尾変化判定部1e1との間で情報を授受して、別候補を決定する別候補決定部1e2が設けられている。別候補決定部1e2は、部分領域の部分画像が追尾不能な場合に、他の1つ以上の部分領域中の被写体の情報が与えられて、いずれか1つの被写体を対象被写体として選択して選択結果を追尾変化判定部1e1に与える。この選択結果に基づいて、追尾変化判定部1e1は、新たな対象被写体の特徴量を部分画像特徴記憶部3aから読み出して追尾処理を行い、追尾結果を画像処理部1cに出力するようになっている。
これにより、例えば、部分指定操作に基づく部分画像が追尾不能な場合でも、画像処理部1cにおいて、部分特定領域の部分画像を生成することが可能である。なお、本実施の形態においては、追尾変化判定部1e1の追尾処理が完全に行われている場合でも、部分領域において部分画像の大部分が消失している場合等においては、追尾不能であるものと判定する。
画像処理部1b,1cからの動画像及び静止画像は、画像選択部1fに与えられる。画像選択部1fは入力された動画像及び静止画像を選択して、表示制御部1gに与えると共に、S圧縮部1h、M圧縮部1i及びM圧縮部1jにも与える。
表示制御部1gは、入力された動画像及び静止画像を表示部5に与えて表示させるための表示処理を行う。表示部5はLCD等によって構成されており、表示制御部1gから与えられた動画像や静止画像を表示する。
一方、S圧縮部1hは入力された静止画像を圧縮して記録制御部1kに与え、M圧縮部1i,1jは入力された動画像を圧縮して記録制御部1kに与える。記録制御部1kは、圧縮された圧縮動画像及び圧縮静止画像を記録部4に与えて記録させる。記録部4は、記録制御部1kに制御されて、入力された圧縮動画像及び圧縮静止画像を記録する。記録部4としては、例えばカードインターフェースを採用することができ、記録部4はメモリカード等の記録媒体に画像情報及び音声情報等を記録可能である。
また、撮影機器10には、操作部6も設けられている。操作部6は、撮影モード設定等の各種スイッチやボタンを有しており、ユーザ操作に基づく操作信号を発生して信号処理及び制御部1に供給する。例えば、図1では、操作部6の具体例として、動画撮影操作部6a及び静止画撮影操作部6bを示している。動画撮影操作部6aは動画撮影を指示するためのものであり、動画撮影操作部6aが操作されることで、動画撮影を開始するための操作信号が信号処理及び制御部1に供給されるようになっている。また、静止画撮影操作部6bは静止画撮影を指示するためのものであり、静止画撮影操作部6bが操作されることで、静止画撮影を開始するための操作信号が信号処理及び制御部1に供給されるようになっている。信号処理及び制御部1は、操作信号に基づいて、各部を制御する。
更に、操作部6としてはタッチパネルを採用することもできる。例えば、操作部6としてのタッチパネルを表示部5の表示画面上に設けることで、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。これにより、ユーザは、表示部5の表示画面上に表示された画像中の所定の領域を部分指定領域として指定する操作を簡単に行うことができる。
信号処理及び制御部1は、各部を制御することで、ユーザ操作に基づく撮影モードを設定して、各撮影モードに応じた撮影機能を実現する。この場合において、信号処理及び制御部1は、動画撮影操作部6a及び静止画撮影操作部6bの操作のみによって、撮影モードを変更することができるようになっている。
本実施の形態においては、別候補決定部1e2は、操作部6によるユーザの部分指定操作によって、複数の対象被写体を予め登録し、優先順位を付すことが可能である。別候補決定部1e2は、各対象被写体の優先順位の情報を追尾変化判定部1e1に与えることで、追尾可能な場合にはより優先順位が高い被写体を追尾変化判定部1e1に追尾させることができるようになっている。
次に、このように構成された実施の形態の動作について図2乃至図10を参照して説明する。
先ず、図2乃至図5を参照して、本実施の形態の撮影機器が有する撮影モードであるフォトインムービー、回想フォト及びマルチフレームについて説明する。図2乃至図4は夫々フォトインムービー、回想フォト及びマルチフレームの動作を示す説明図である。また、図5は入力画像及び部分画像の例を示す説明図である。図2乃至図4においては、連続した四角の枠によって、撮像部2からの画像を読み出す読取部1aの動画出力11aの各フレームを示している。
図2に示すフォトインムービーにおいては、動画出力11aの各フレームを夫々リサイズして得た動画11cが、M圧縮部1i,1jに供給されることを示している。M圧縮部1i,1jは、入力された動画11cに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、フォトインムービーにおける動画として記録される。
また、フォトインムービーにおいては、動画撮影中に、ユーザによって静止画撮影操作部6bの操作が行われた場合には、動画出力11aの各フレームのうち静止画撮影操作に対応するフレームの静止画11bがS圧縮部1hに与えられる。S圧縮部1hは、入力された静止画11bに対する圧縮処理を行い、圧縮静止画像を得る。この圧縮静止画像が、フォトインムービーにおける静止画として記録される。
図3に示す回想フォトにおいては、動画出力11aの各フレームは仮記録されている。回想フォトにおいては、動画撮影中に、ユーザによって静止画撮影操作部6bの操作が行われた場合には、動画出力11aの各フレームのうち静止画撮影操作に対応するフレームの静止画11bがS圧縮部1hに与えられる。S圧縮部1hは、入力された静止画11bに対する圧縮処理を行い、圧縮静止画像を得る。この圧縮静止画像が、回想フォトにおける静止画として記録される。
一方、静止画11bの前後のフレームは、リサイズされた後、静止画11bに関連する回想動画11dとしてM圧縮部1i,1jに供給される。M圧縮部1i,1jは、入力された回想動画11dに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、回想フォトにおける回想動画として記録される。
図4に示すマルチフレームにおいては、動画出力11aの各フレームを夫々リサイズして得た全体動画11eが、M圧縮部1i,1jに供給されることを示している。M圧縮部1i,1jは、入力された全体動画11eに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、マルチフレームにおける全体動画として記録される。
図5(a)は入力画像を示している。図5の例では、入力画像には、A〜Cの3人の人物が撮像されている。マルチフレームにおいて、ユーザが図5(a)の破線領域に示すように人物Aの顔を含む部分指定領域を指定する部分指定操作を行うものとする。そうすると、図5(b)に示す部分指定領域の画像(部分画像)が入力画像から抽出される。更に、特徴判定部1d,追尾変化判定部1e1によって、入力画像中から部分画像が追尾され、以後、人物Aの部分画像が各フレームから抽出される。そして、動画出力11aの各フレームの部分画像からなる部分動画11fが、M圧縮部1i,1jに供給される。M圧縮部1i,1jは、入力された部分動画11fに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、マルチフレームにおける部分動画として記録される。
次に、図6のフローチャートを参照して、カメラ撮影制御について説明する。
操作部6の操作によって撮影機器10に電源が投入されると、信号処理及び制御部1は、ステップS1においてスルー画の表示及び仮記録を開始する。即ち、信号処理及び制御部1は、撮像部2を駆動して被写体を撮影させる。読取部1aは、撮像部2からの撮像画像を読み出して、分配用仮記録部3に順次記録させる。分配用仮記録部3は、所定期間の撮像画像を順次記録する。
信号処理及び制御部1は、分配用仮記録部3に記録された撮像画像を順次読み出し、画像処理部1b又は1cに与える。画像処理部1b又は1cは、撮像画像に対して所定の画像信号処理を施した後、画像選択部1fを介して表示制御部1gに与える。表示制御部1gは、入力画像を表示部5に与えて表示させる。こうして、表示部5の表示画面上において、スルー画が表示される。
本実施の形態においては、次のステップS19において、優先順位の指定が行われる。図7は優先順位の指定を説明するための説明図である。別候補決定部1e2は、動画撮影時、特にマルチフレームモード時において、部分画像として追尾する対象被写体について優先順位を決定する。別候補決定部1e2は、例えば、表示制御部1gを制御して、表示部5に対象被写体候補の表示を表示させる。図7(a)はこの表示を示しており、撮影機器10の本体21の背面には表示部5の表示画面5aが設けられ、前面には撮影レンズ22が設けられ、上面にはシャッタボタン23が設けられている。表示画面5a上の下側には、対象被写体候補者表示24が表示されている。図7(a)の例では対象被写体候補者として左から順に人物B,A,Cが並んで表示されている。
なお、対象被写体は、ユーザがスルー画表示されている撮像画像に対して、操作部6による部分指定操作を行って指定してもよく、特徴判定部1dが撮像画像から予め設定されている人物の顔等の特徴量に基づいて自動的に検出してもよい。
対象被写体候補表示24が表示されている状態で、ユーザは指25で対象被写体候補の画像部分をタッチする。図7(a)は人物Bの画像部分をタッチした状態を示している。タッチパネルを構成する操作部6は、ユーザが人物Bを指定したことを示す操作信号を別候補決定部1e2に出力する。この操作により、別候補決定部1e2は、人物Bの対象被写体候補表示24上に人物Bが選択されていることを示す選択表示26を表示させると共に、表示画面5a上の上側に、優先順位表示27を表示させる。
図7(b)では“1”、“2”、“3”の優先順位が表示されていることを示している。この状態で、ユーザが指25によって優先順位“3”の優先順位表示27の画像部分をタッチする。この操作信号は別候補決定部1e2に供給され、別候補決定部1e2は人物Bの優先順位を3番目に設定する。以後、ユーザが対象被写体候補表示24の各人物の画像部分をタッチする操作及び優先順位表示27の各優先順位の数字の画像部分をタッチする操作を繰り返すことで、対象被写体候補について優先順位が設定される。
次に、信号処理及び制御部1は、ステップS2において、静止画撮影操作部6bが操作されたか否かを判定する。更に、信号処理及び制御部1は、ステップS5において、動画撮影操作部6aが操作されたか否かを判定する。
信号処理及び制御部1は、ステップS2において静止画撮影操作部6bが操作されたと判断した場合には、回想フォトモードを設定し、ステップS5において動画撮影操作部6aが操作されたと判断した場合には、フォトインムービーモードを設定するようになっている。
ステップS2において静止画撮影操作部6bが操作されると、信号処理及び制御部1は、ステップS3において回想フォトにおける静止画撮影を行い、ステップS4において回想フォトにおける回想動画記録を行う。即ち、信号処理及び制御部1は、静止画撮影操作部6bの操作タイミングで読取部1aから取り込まれた撮像画像(静止画)を分配用仮記録部3から読み出して、画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された静止画を画像処理し画像選択部1fを介してS圧縮部1hに供給する。S圧縮部1hは入力された静止画を圧縮し、記録制御部1kは圧縮された静止画像を記録部4に与えて記録させる(ステップS3)。
また、信号処理及び制御部1は、分配用仮記録部3から読み出された静止画像の前後に記録されている動画像を読み出して画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された動画像をリサイズし、回想動画を画像選択部1fを介してM圧縮部1i又は1jに供給する。M圧縮部1i又は1jは入力された回想動画を圧縮し、記録制御部1kは圧縮された回想動画を記録部4に与えて記録させる(ステップS4)。
ステップS5において動画撮影操作部6aが操作されると、信号処理及び制御部1は、ステップS6においてフォトインムービーにおける動画撮影を行う。即ち、信号処理及び制御部1は、分配用仮記録部3に順次記録される動画像を読み出して画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された動画像をリサイズし、画像選択部1fを介してM圧縮部1i又は1jに供給する。M圧縮部1i又は1jは入力されたフォトインムービーにおける動画を圧縮し、記録制御部1kは圧縮された動画像を記録部4に与えて記録させる(ステップS6)。
このフォトインムービーモードにおいて、静止画撮影操作部6bの操作が行われると、信号処理及び制御部1は、ステップS7からステップS16を経由してステップS8に処理を移行し、静止画撮影を行う。即ち、信号処理及び制御部1は、静止画撮影操作部6bの操作タイミングで読取部1aから取り込まれた撮像画像(静止画)を分配用仮記録部3から読み出して、画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された静止画を画像処理し画像選択部1fを介してS圧縮部1hに供給する。S圧縮部1hは入力された静止画を圧縮し、記録制御部1kは圧縮された静止画像を記録部4に与えて記録させる(ステップS8)。こうして、フォトインムービーにおける静止画記録が行われる。
また、信号処理及び制御部1は、フォトインムービーモードにおいて、ステップS7の静止画撮影操作部6bの操作が検出されなければ、ステップS9において終了操作が行われたか否かを判定し、行われていない場合には、処理をステップS10に移行して、部分指定操作の有無を判定する。
本実施の形態においては、フォトインムービーモードにおいて、部分指定操作が発生した場合にはマルチフレームモードに移行し、発生しない場合にはフォトインムービーを継続するようになっている。即ち、信号処理及び制御部1は、フォトインムービーモード時に、ステップS10において部分指定操作の発生を検出しない場合には、ステップS11においてマルチフレームへの移行が行われていないものと判定して、処理をステップS6に戻してフォトインムービーを継続し、部分指定操作の発生を検出した場合には、処理をステップS12に移行してマルチフレームモードを設定する。
マルチフレームモードにおいても、フォトインムービーモード時と同様に、入力画像をリサイズして得た全体画像を動画記録する。従って、信号処理及び制御部1は、マルチフレームモードに移行しても、分配用仮記録部3から動画像を読み出し、この動画像を画像処理部1bにおいてリサイズして全体画像を得、画像選択部1fを介してM圧縮部1i又は1jに与えて圧縮し、記録制御部1kにより記録部4において記録する。
また、マルチフレームモード時には、信号処理及び制御部1は、分配用仮記録部3から読み出した画像を画像処理部1cに与えて、部分指定操作に応じた部分画像を切り出す。この場合には、画像処理部1cは、追尾変化判定部1e1によって追尾された部分画像を含む部分指定領域を切り出す。こうして、画像処理部1cからは部分画像からなる動画像が出力され、画像選択部1fを介してM圧縮部1i又は1jに供給されて圧縮され、記録制御部1kによって記録部4において記録される(ステップS13)。
更に、本実施の形態においては、マルチフレームモード時には、全体画像と部分画像とをピクチャインピクチャ表示することによって、利便性を向上させるようになっている。図8はマルチフレームモードにおける画面表示を説明するための説明図であり、図5と同一の入力画像が入力された場合の例を示している。
いま、図5(a)に示す入力画像が画像処理部1b,1cに入力されるものとする。図5(a)の例では、入力画像として、A〜Cの3人の人物が撮像されている。ユーザが図5(a)の破線領域に示すように人物Aの顔を含む部分指定領域を指定する部分指定操作を行うものとする。なお、この部分指定操作は、マルチフレームモードにおける部分画像を特定するための操作であり、ユーザはステップS19における優先順位が1番の対象被写体候補を含む画像部分を指定するものと考えられる。しかし、仮に、ステップS19において指定した優先順位が1番の対象被写体候補と異なる人物が含まれる部分指定領域を指定する部分指定操作が行われた場合には、この部分指定操作を単にマルチフレームモードへの移行操作として次のステップに移行してもよく、この部分指定操作に基づく対象被写体候補を優先順位の1番に設定して他の対象被写体候補の優先順位を再設定してもよく、また、再度ステップS19の優先順位の指定処理を実行して、優先順位を再設定してもよい。
いま、図5(a)の人物Aが優先順位1番の対象被写体候補であるものとする。この場合には、図5(a)の破線部の部分指定領域の画像(部分画像)が入力画像から抽出される。更に、特徴判定部1d,追尾変化判定部1e1によって、入力画像中から部分画像が追尾され、以後、人物Aの部分画像を含む領域が部分指定領域として画像処理部1cに指定される。
画像処理部1cは、追尾変化判定部1e1の指示に従って、部分画像を追尾しながら切り出す。画像処理部1cは図5(b)に示す部分画像をそのまま画像選択部1fを介してM圧縮1i又は1jに出力すると共に、部分画像と全体画像とを合成した後、画像選択部1fを介して表示制御部1gに出力する。
即ち、画像処理部1cは、図8(a)に示すように、表示部5の表示画面5aの略全域のメイン表示領域5bに全体画像に基づくメイン画像を配置し、表示画面5aの一部領域(以下、サブ表示領域という)5cに部分画像をサブ画像として配置するように、全体画像と部分画像との合成を行う。即ち、この場合には、画像処理部1cは、部分画像をサブ画像化することになる(ステップS12)。
信号処理及び制御部1は、マルチフレームモード時には、ステップS14において、ユーザーがサブ表示領域5cをタッチしたか否かを判定する。信号処理及び制御部1は、ユーザがサブ表示領域5cをタッチした場合には、ステップS15において、現在のサブ画像をメイン画像化し、現在のメイン画像をサブ画像化する。
図8(b)はこの状態を示しており、図8(a)の状態においてサブ表示領域5cがタッチされると、サブ表示領域5cに表示されていたサブ画像である部分画像がメイン画像としてメイン表示領域5bに表示され、メイン表示領域5bに表示されていたメイン画像である全体画像がサブ画像としてサブ表示領域5cに表示される。なお、図8(b)の状態においてサブ表示領域5cがタッチされると、サブ表示領域5cに表示されていたサブ画像である全体画像がメイン画像としてメイン表示領域5bに表示され、メイン表示領域5bに表示されていたメイン画像である部分画像がサブ画像としてサブ表示領域5cに表示される。即ち、図8(a)の表示に戻る。
信号処理及び制御部1は、マルチフレームモード時において、ユーザが静止画撮影操作部6bを操作したことを、ステップS7において検出すると、フォトインムービーモードに移行する。この場合には、マルチフレームモードからフォトインムービーモードに移行する場合であるので、ステップS16からステップS17に処理が移行して、静止画撮影が行われる。
ステップS17の静止画撮影の直前においては、図8(a),(b)に示すように、表示部5の表示画面5a上には、全体画像と部分画像とが合成表示されている。そこで、ステップS17のフォトインムービーにおける静止画撮影では、全体画像及び部分画像並びに全体画像と部分画像の合成画像の全ての静止画像を記録するようになっている。即ち、画像処理部1b,1cからの全体画像が画像選択部1fを介してS圧縮部1hに供給されて圧縮され、記録制御部1kによって記録部4において記録される。また、画像処理部1cは、部分画像を切り出しており、この部分画像は画像選択部1fを介してS圧縮部1hに供給されて圧縮され、記録制御部1kによって記録部4において記録される。また、画像処理部1cは、全体画像と部分画像との合成画像を生成している。即ち、部分画像がサブ画像化された合成画像と全体画像がサブ画像化された合成画像の2つの合成画像は、画像選択部1fを介してS圧縮部1hに供給されて圧縮され、記録制御部1kによって記録部4において記録される。こうして、マルチフレームモードから、静止画撮影操作部6bの操作によってフォトインムービーモードに移行した場合には、全体画像、部分画像、全体画像と部分画像との2枚の合成画像からなる4枚の静止画像が記録される。
図9及び図10は夫々マルチフレームモードにおける全体画像又は部分画像を示す説明図である。入力画像が図9(a)の状態から図9(b)の状態を経て図9(c)の状態に変化したことを示している。なお、図9は被写体として3人の人物A〜Cが撮影されたことを示しており、そのうちの人物Aが優先順位が1位の対象被写体であって、人物Aの顔を含む領域が部分領域として指定されていることを示している。また、図10は部分画像を示しており、図10(a)乃至(c)は、夫々図9(a)乃至 (c)の入力画像中の破線で示す部分領域における部分画像を示している。
マルチフレームモードにおいては、入力画像をリサイズして得た全体画像に基づく動画像と入力画像中の部分領域の部分画像による動画像とが記録される。いま、図9(a)に示す入力画像35aに対して、破線に示す部分領域36aが設定されるものとする。追尾変化判定部1e1は、入力画像35b,35cのように変化した場合でも追尾を行って、部分指定領域36b,36cを検出する。マルチフレームモードでは、入力画像35a乃至35cをリサイズして得た全体画像に基づく動画像と、部分指定領域36a〜36cに対応した部分画像37a〜37c(図10)とが記録される。
このようなマルチモードによれば、ユーザが撮影を希望する対象被写体である人物Aの周囲の様子を全体画像によって記録することができるだけでなく、人物Aの表情等を部分画像によって記録することができる。図10(a)〜(c)では、各入力画像35a〜35cに対応した人物Aの顔38a〜38cが撮影され、口39a〜39c等の顔の表情まで記録することができる。これによって、ユーザーは、全体の動きや、注目する被写体の表情も、記録しておき、見たい方を鑑賞することが可能となる。
例えば、複数の人物が合唱しているシーンの撮影時等においては、各人物の動きが少なく、上述した有効な記録が可能である。しかし、複数の人物による徒競走等のシーンを撮影する場合のように、複数の人物の位置が比較的変化する場合には、追尾対象の対象被写体の画像が他の被写体等によって見えなくなることが考えられる。そこで、本実施の形態においては、部分画像として記録被写体を切り替えることで、常に有効な部分画像を記録することを可能にしている。
即ち、本実施の形態においては、追尾対象の対象被写体を、優先順位に従って切り替えるようになっている。追尾変化判定部1e1は、追尾対象の対象被写体について追尾不能になると、別候補決定部1e2に次の優先順位の対象被写体について問い合わせる。別候補決定部1e2は、現在の追尾対象の対象被写体を除き、複数の対象被写体候補のうち最も優先順位が高い対象被写体を、追尾変化判定部1e1に設定する。
これにより、追尾変化判定部1e1は、設定された対象被写体を新たな追尾対象として、この対象被写体についての特徴量を部分画像特徴記憶部3aから読み出して追尾を行い、追尾結果を画像処理部1cに出力する。また、追尾変化判定部1e1は、新たに設定された対象被写体についても追尾不能の場合には、更に、別候補決定部1e2に次の優先順位の対象被写体についての問い合わせを行う。こうして、追尾変化判定部1e1は、追尾可能な対象被写体のうちより高い優先順位が付された対象被写体の追尾を行う。
画像処理部1cは、追尾変化判定部1e1の追尾結果に従って、入力画像から部分画像を生成する。この部分画像は、追尾可能な対象被写体のうちより高い優先順位を有する対象被写体を含む画像であり、ユーザの希望する部分画像の記録が可能である。
このように本実施の形態においては、マルチフレームモードにおいて、複数の対象被写体についてユーザが設定した優先順位を付し、追尾可能な対象被写体のうちより優先順位が高い対象被写体を含む部分画像を記録するようになっている。これにより、第1位の優先順位を有する対象被写体を追尾不能となった場合でも、第2,第3,…の優先順位を有する対象被写体を追尾して部分画像を取得することができ、ユーザーの希望する撮像が可能である。例えば、自分の子供が参加する徒競走の撮影時において、第1位の優先順位を付した自分の子供の表情を部分画像によって記録するだけでなく、自分の子供の画像が他の子供の画像によって隠れてしまった場合には、その期間にユーザが設定した他の子供の表情を部分画像によって記録することができ、ユーザにとって有効な記録が可能である。
(第2の実施の形態)
図11乃至図17は本発明の第2の実施の形態に係り、図11は第2の実施の形態において採用される処理フローを示すフローチャートである。本実施の形態のハードウェア構成は第1の実施の形態と同一であり、信号処理及び制御部1の処理フローが第1の実施の形態と異なるのみである。
第1の実施の形態においては、複数の対象被写体について優先順位を付し、追尾可能な対象被写体のうちより高い優先順位を付した対象被写体を追尾して部分画像を生成する例について説明した。これに対し、本実施の形態においては、別候補決定部1e2が、予め設定される条件に従って、特徴判定部1dの出力に基づいて1つ以上の対象被写体の候補から1つの対象被写体を選択して追尾変化判定部1e1に設定するようになっている。例えば、別候補決定部1e2は、追尾中の対象被写体との位置関係、動き、選択回数、選択時間等に基づいて1つの対象被写体を選択して、追尾変化判定部1e1に指定する。
なお、別候補決定部1e2は、第1の実施の形態と同様に複数の対象被写体について優先順位を付し、優先順位を付された対象被写体のうち追尾可能な対象被写体が存在しない場合に、予め設定された条件に従って、優先順位が付されていない対象被写体から1つの対象被写体を選択して追尾変化判定部1e1に設定するようにしてもよい。
また、別候補決定部1e2は、表示制御部1gを制御して、スルー画中に各対象被写体候補を含む部分領域の範囲を示す表示を表示すると共に、追尾対象の対象被写体を示す表示をスルー画中に表示させるようにしてもよい。
図11は図6のステップS13のマルチフレーム動画撮影処理に対応した処理を示している。また、図12は対象被写体の切換えを説明するための説明図である。図12(a1)〜(a3)は、3人の人物A〜Cによる徒競走を撮影して得た時間的に前後する撮像画像に基づくスルー画の一例を示しており、全体画像をメイン画像とし、部分画像をサブ画像とした合成画像を示している。また、図12(b1),(b2)は図12(a1)に、図12(b3),(b4)は図12(a2)に、図12(b5),(b6)は図12(a3)に夫々対応したスルー画を示しており、全体画像をサブ画像とし、部分画像をメイン画像とした合成画像を示している。なお、図12は優先順位を付すことなく、人物Aを含む部分領域を指定する部分指定操作によってマルチフレームモードに移行した例を示している。
入力画像が図12(a1)の状態から図12(a2)の状態を経て図12(a3)の状態に変化するものとする。図12(a1)〜(a3)に示す入力画像のスルー画41a〜41cには、夫々各対象被写体を含む部分領域を示す枠表示(破線)が表示されており、また、現在の追尾対象の対象被写体による部分画像を表示するサブ画像42a〜42cが表示されている。
ユーザが全体画像よりも部分画像(アップ画像)の方を見ながら撮影したいと考えることもある。この場合には、図12(a1)〜(a3)のサブ画像42a〜42cの画像部分をタッチすると、図12(b1)〜(b6)のように、部分画像をメイン画像化して表情を確認することを重視した撮影が可能となる。なお、マルチフレームモードにおいて撮影した画像から図12に示す形態で再生表示を行うようにしてもよい。
図11のステップS21において、信号処理及び制御部1は全体画像及び部分画像を夫々別々の動画として動画記録を開始する。特徴判定部1dは、入力される撮像画像中の各対象被写体について、例えば顔等の特徴量や画面上の位置の情報を取得して部分画像特徴記憶部3aに記録する(ステップS22)。これにより、撮像されている人物、その顔及び撮像時における位置等を、撮像画像毎に記録することができる。
次のステップS23においては、別候補決定部1e2は、現在追尾中の部分領域の画像が、記録する部分画像として必要な条件を満足しているか否かを判定する。例えば、追尾不能となった場合や、追尾中の部分領域内の人物の顔の一部が隠されている場合や、追尾対象の対象被写体とする期間を超過した場合等においては、別候補決定部1e2は部分領域は必要な条件を満足していないと判定する。
図12(a1)のスルー画41aでは、人物A〜Cの画像が含まれる部分領域は、殆ど重なっておらず、別候補決定部1e2は、引き続き人物Aの画像を含む部分領域を追尾変化判定部1e1に設定する。こうして、図12(b1),(b2)に示すように、スルー画43a1,43a2には、人物Aを含む部分領域の画像が部分画像44a1,44a2としてメイン画像化され、全体画像44がサブ画像化される。
即ち、図12(a1)のスルー画41aの状態では、別候補決定部1e2は、ステップS23において、部分領域中の画像が必要な条件を満足していると判定することになる。この場合には、信号処理及び制御部1は、ステップS24において追尾中の部分領域の動画撮影を継続し、ステップS25において動画を記録する。
次に、図12(a2)に示すスルー画41bが表示されるタイミングでは、追尾中の人物Aを含む部分領域が人物Cの画像で隠されてしまう。図12(a3)に示すスルー画41cが表示されるタイミングでも同様である。
そこで、別候補決定部1e2は、処理をステップS31に移行して別候補が有るか否かを判定する。人物Aの対象被写体以外に優先順位が付されている対象被写体が存在する場合には、処理をステップS38に移行して、別候補決定部1e2は次の優先順位の対象被写体を追尾変化判定部1e1に設定する。追尾変化判定部1e1は、部分画像特徴記憶部3aの情報を読み出すことで、設定された対象被写体を追尾し、追尾した対象被写体を含む部分領域を画像処理部1cに設定する。これにより、新たな部分領域の部分画像が動画像として記録される(ステップS24,S25)
図12の例では、優先順位は設定されていないので、別候補決定部1e2は処理を次のステップS32に移行して、追尾中の対象被写体の部分領域を隠す対象被写体が存在するか否かを判定する。図12(a2)のスルー画41bでは、追尾中の人物Aの部分領域は人物Cの画像で隠されるので、別候補決定部1e2は、人物Cを対象被写体として、ステップS35の処理を行う。
ステップS35においては、人物Cの対象被写体が過度に選択されていないかが判定される。例えば、自分の子供が参加する徒競走の撮影時には、ユーザは自分の子供のみを部分画像として記録したいと考えられる。しかし、徒競走では人物の動きが激しく、自分の子供の画像が他人の子供の画像に隠されてしまうことがある。この場合でも、自分の子供の画像を隠した他人の子供の画像を部分画像として撮像することで、自分の子供だけでなく、他人の子供の表情の変化等も記録することができ、多彩な映像表現が可能となる。この理由から、優先順位を付した対象被写体やユーザが指定した対象被写体以外の対象被写体についても部分画像の記録を行う。
しかし、全体画像には自分の子供だけでなく他人の子供も記録されており、本来部分画像として記録したいのは他人の子供ではなく、自分の子供である。そこで、ユーザが指定した対象被写体以外の被写体を撮像する場合には、記録回数や頻度、記録時間等の制限を課す。ステップS35では、別候補決定部1e2は、新たに選択された対象被写体について、このような記録回数又は記録頻度の制限を超えたか否かを判定するのである。
ステップS32において選択された対象被写体が過度に選択されていない場合には、別候補決定部1e2は、次のステップS36において、選択された対象被写体を所定の時間(例えば数秒間)だけ追尾対象の対象被写体とする。別候補決定部1e2は、記録回数や頻度の情報を得るために、新たに設定する追尾対象の対象被写体に関する情報を図示しない記憶部に記憶する。次に、別候補決定部1e2は、新たな対象被写体を追尾変化判定部1e1に設定する(ステップS38)。
これにより、図12(b3)に示すように、スルー画43b1は、人物Cを含む部分領域の画像が部分画像44b1としてメイン画像化され、全体画像44がサブ画像化された合成画像となる。即ち、追尾変化判定部1e1は、所定期間だけ人物Cを追尾する対象被写体として追尾を行い、追尾結果を画像処理部1cに出力する。こうして、信号処理及び制御部1は、ステップS24において人物Cの部分画像による動画撮影を継続し、ステップS25において動画を記録する。
図12(b4)のスルー画43b2は、図12(b3)と同様に、人物Cを含む部分領域の画像を部分画像44b2としてメイン画像化し、全体画像44をサブ画像化することを示している。なお、ステップS36で設定した所定期間が経過する前に、人物Cに隠れていた人物Aの部分領域が隠れなくなると、別候補決定部1e2は、ステップS23からステップS31を経てステップS38に移行して、人物Aを対象被写体に設定して、人物Aの部分領域の画像を部分画像とするようにしてもよい。
次に、図12(a3)に示すスルー画41cが表示されるタイミングでは、ユーザが指定した人物Aを含む部分領域は他の人物B,Cの画像で隠されていないが、スルー画41b,41cの比較から明らかなように、人物Bの画像が大きく移動している。この場合には、別候補決定部1e2は、ステップS33において動きが所定の閾値よりも大きい対象被写体が存在するものと判定する。別候補決定部1e2は、動きが大きい人物Bが過度に選択されていないか判定する(ステップS35)。
こうして、図12(b5)に示すように、スルー画43c1は、人物Bを含む部分領域の画像が部分画像44c1としてメイン画像化され、全体画像44がサブ画像化された合成画像となる。即ち、追尾変化判定部1e1は、所定期間だけ人物Bを追尾する対象被写体として追尾を行い、追尾結果を画像処理部1cに出力する。こうして、信号処理及び制御部1は、ステップS24において人物Bの部分画像による動画撮影を継続し、ステップS25において動画を記録する。
人物Bの追尾期間が終了すると、別候補決定部1e2は、ステップS31から処理をステップS32に移行する。別候補決定部1e2は、ステップS32,S33において対象被写体が存在しない場合には、ステップS34に移行し、未選択の被写体が有るか否かを判定する。別候補決定部1e2は、未選択の被写体が存在する場合には、その中から1つの対象被写体を選択して、ステップS36以降の処理を繰り返す。なお、未選択の被写体が存在しない場合には、別候補決定部1e2は、画像処理部1cに対して全体画像を部分画像として設定するよう指示を出す(ステップS39)。
なお、別候補決定部1e2は、優先順位が付されていない場合でも、ユーザが部分指定操作によって対象被写体を指定した場合には、この対象被写体を新たな追尾対象としてもよい。図12(b6)はこの状態を示しており、スルー画43c2は、人物Aを含む部分領域の画像を部分画像44c2としてメイン画像化し、全体画像44をサブ画像化した合成画像となる。
このように、ユーザが指定した対象被写体を隠す被写体や、動きが大きい被写体等を部分画像とて選択することで、画面に変化が生じ、多彩な映像表現が可能となる。
図13は図11のステップS32の処理の一例を具体的に示すフローチャートであり、図14はステップS32の処理の一例を具体的に示す説明図である。
図14(a)乃至(c)は撮像画像の変化を示しており、図14(a)に示す撮像画像51aが図14(b)に示す撮像画像51bに変化し、更に、図14(c)に示す撮像画像51cに変化するものとする。図14においては、撮像画像51a,51bに人物A〜Cが撮像されており、撮像画像51cに人物B,Cが撮像されていることを示している。また、撮像画像51aについては追尾対象の対象被写体が人物Aであるものとして説明する。
別候補決定部1e2は、ステップS41において、追尾中の対象被写体を含む部分領域の周辺に存在する人物の顔を、予め設定されている顔特徴に基づいて判定する。例えば、図14(a)の撮像画像51aにおいては、別候補決定部1e2は、人物Aの部分領域52a(破線)の周辺から、人物Cの顔を検出する。なお、図14(a)では人物Cを含む部分領域53cを破線にて示してある。
次に、別候補決定部1e2は、追尾中の対象被写体を含む部分領域に、顔が接近したか否かを判定する。接近していない場合には、別候補決定部1e2は、図11のステップS32のNO分岐に移行する。
例えば、図14(b)の撮像画像51bのように、人物Aの部分領域52bに人物Cの顔が接近すると、別候補決定部1e2は、ステップS43に処理を移行して追尾中の部分領域内の顔の特徴が消失したか否かを判定する。撮像画像51bのように、人物Aの顔が人物Cで隠されると、撮像画像51bから得られる人物Aの顔の特徴量では、人物Aを特定することができなくなる。この場合には、別候補決定部1e2は、接近した顔、即ち、人物Cを対象被写体として(ステップS44)、ステップS32のYES分岐に進む。こうして、図14(c)に示すように、撮像画像51cでは、人物Cが追尾対象となり、人物Cを含む部分領域53cに基づいて部分画像が生成される。
図15乃至図17は図11のステップS33の処理の一例を具体的に示すものであり、図15はフローチャート、図16は説明図、図17はグラフである。
図16(a),(b)は撮像画像の変化を示しており、図16(a)に示す撮像画像61が図16(b)に示す撮像画像62に変化するものとする。図16(a)においては、撮像画像61に人物A〜Cの顔63a〜63cが撮像されており、撮像画像62に人物A〜Dの顔64a〜64dが撮像されていることを示している。また、撮像画像61,62については追尾対象の対象被写体が人物Aであるものとして説明する。
別候補決定部1e2は、ステップS51において、予め設定されている顔特徴に基づいて撮像画像中に顔画像が有るか否かを判定する。図16の撮像画像61,62には人物の顔が写されており、別候補決定部1e2は次のステップS52に処理を移行する。
ステップS52においては、別候補決定部1e2は、各顔の直前位置との変化を算出する。図17は横軸に時間をとり縦軸に画像上の横方向の位置をとって、各顔63a〜63c,64a〜64dの横方向の位置を示している。図17の時間T1は、撮像画像61の撮像タイミングに相当し、時間T2は撮像画像62の撮像タイミングに相当する。
図17は画像の左側を基準に各顔の位置を示しており、時間T1では、顔Bの方が顔Cよりも右側に位置することを示している。また、時間T2では、顔D,C,Bの順で画像のより右側に位置する。別候補決定部1e2は、各顔毎に時間T1,T2の位置の差を求める。図16の例では、顔B,Cの位置変化には差があり、図17に示すように、顔Cの位置変化Δcよりも顔Bの位置変化Δbの方が大きい。
別候補決定部1e2は、ステップS53において、顔の位置変化に差異があるか否かを判定する。差異がない場合には、別候補決定部1e2は、図11のステップS32のNO分岐に移行する。図16の例では、別候補決定部1e2は、処理をステップS54に移行して、位置変化が大きい顔Bを追尾対象の対象被写体として(ステップS54)、ステップS32のYES分岐に進む。こうして、撮像画像61,62の例では、人物Bが追尾対象となり、人物Bを含む部分領域に基づいて部分画像が生成される。
このように本実施の形態においては、マルチフレームモード時には、設定される条件に従って、1つの対象被写体を選択して部分画像に設定する。これにより、多彩な映像表現が可能となり、ユーザが希望する画像を記録することができる。