以下、本発明を実施するための最良の形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(注目被写体抽出動画の記録制御および注目被写体の抽出制御:注目被写体抽出動画を記録し、この動画を用いて注目被写体を抽出する例)
2.第2の実施の形態(注目被写体抽出動画の記録制御および注目被写体の表示制御:注目被写体抽出動画および通常の撮像動画を交互に記録し、これらの動画を用いてストロボ画像および通常の撮像動画を表示する例)
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、本発明の実施の形態における撮像装置100の機能構成例を示すブロック図である。撮像装置100は、撮像部110と、記録制御部120と、動画記憶部130と、メタデータ記憶部140とを備える。また、撮像装置100は、再生処理部150と、対象画像保持部160と、評価値算出部170と、注目被写体抽出部180と、画像合成部190と、合成画像保持部191とを備える。また、撮像装置100は、制御部200と、操作受付部210と、表示制御部220と、表示部230と、モニタリング処理部240とを備える。撮像装置100は、例えば、被写体を撮像して画像データを生成し、この画像データを画像解析することにより各特徴量を抽出し、この抽出された各特徴量を用いて各種画像処理を施すことが可能なデジタルビデオカメラによって実現することができる。
撮像部110は、制御部200の制御に基づいて撮像制御を行い、被写体を撮像して撮像動画(ビデオデータ)を生成するものであり、生成された撮像動画を記録制御部120およびモニタリング処理部240に出力する。具体的には、撮像部110は、注目被写体抽出画像撮像モードが設定されている場合には、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度を浅くして撮像動画を生成する。このように被写界深度を浅くした状態で、注目被写体に合焦させる位置と、注目被写体以外の他の被写体に合焦させる位置とに焦点距離を変更しながら撮像動画が生成される。すなわち、焦点距離が互いに異なる複数の画像の組合せが順次生成され、この組合せを含む撮像動画が生成される。この組合せは、例えば、被写体に含まれる物体のうち対象物体(注目被写体)に合焦させて撮像された1つの画像(基準画像)と、注目被写体に合焦させずに撮像された2つの画像(他の画像)とからなる1組の画像群とすることができる。なお、注目被写体抽出画像撮像モードは、注目被写体を撮像動画から抽出するための撮像モードである。具体的には、注目被写体抽出画像撮像モードは、その1組の画像群に含まれる基準画像および他の画像に含まれる高周波成分に基づいて、基準画像に含まれる注目被写体を抽出するための連続する画像(注目被写体抽出画像)を記録する撮像モードである。ここで、注目被写体抽出画像撮像モード以外の撮像モード(例えば、通常の動画撮像モード)の被写界深度の目標値は、例えば、被写体照度に応じて絞り115(図2に示す)が調整されて設定される値である。また、注目被写体抽出画像撮像モードの被写界深度の目標値は、例えば、絞り115(図2に示す)の絞り値が閾値TH1(図6(a)等に示す)とされて設定される値である。このように抽出された注目被写体の画像を用いて、ストロボ画像や分解画像等を作成することができる。また、撮像部110は、注目被写体抽出画像撮像モードが設定されている場合には、生成された1組の画像群に含まれる各画像に関する情報(注目被写体抽出画像作成情報)を記録制御部120に出力する。この注目被写体抽出画像作成情報は、各画像の付随情報としてメタデータ記憶部140に記憶される。また、撮像部110の内部構成については、図2を参照して詳細に説明する。
記録制御部120は、制御部200からの制御に基づいて、動画記憶部130およびメタデータ記憶部140に対する記録制御を行うものである。具体的には、記録制御部120は、撮像部110から出力された撮像動画をエンコードして動画ファイルとして動画記憶部130に記録する。また、記録制御部120は、撮像部110から出力された撮像動画を構成する各フレーム(画像)に関する注目被写体抽出画像作成情報を、撮像動画およびフレームに関連付けてメタデータファイルとしてメタデータ記憶部140に記録する。
動画記憶部130は、記録制御部120からの制御に基づいて、撮像部110により生成された撮像動画を動画ファイルとして記憶するものである。また、動画記憶部130は、再生処理部150からの要求に応じて動画ファイルを再生処理部150に供給する。
メタデータ記憶部140は、記録制御部120からの制御に基づいて、撮像部110から出力された撮像動画を構成する各フレームに関する注目被写体抽出画像作成情報をメタデータファイルとして記憶するものである。また、メタデータ記憶部140は、再生処理部150からの要求に応じてメタデータファイルを再生処理部150に供給する。なお、メタデータ記憶部140に記憶されるメタデータファイルについては、図7等を参照して詳細に説明する。
再生処理部150は、動画記憶部130に記憶されている動画ファイルを再生する場合に、再生に関する処理を行うものである。具体的には、再生処理部150は、通常の動画再生を指示する指示操作が受け付けられた場合には、動画記憶部130に記憶されている動画ファイルを取得してデコードし、このデコードされた動画ファイルを構成する各画像を表示制御部220に順次供給する。また、再生処理部150は、ストロボ画像の再生を指示する指示操作が受け付けられた場合には、動画記憶部130に記憶されている動画ファイルを取得するとともに、この動画ファイルに対応するメタデータファイルをメタデータ記憶部140から取得する。そして、取得された動画ファイルをデコードし、デコードされた動画ファイルを構成する画像に対応するメタデータに基づいて、デコードされた画像を対象画像保持部160に順次出力して保持させる。
対象画像保持部160は、再生処理部150から出力された画像を保持するものであり、保持されている画像を評価値算出部170に出力する。具体的には、注目被写体抽出画像撮像モードが設定されている場合に生成された1組の画像群に含まれる3つの画像が再生処理部150から順次出力されて対象画像保持部160に保持される。
評価値算出部170は、対象画像保持部160に保持されている1組の画像群に含まれる各画像について、注目被写体を抽出するための評価値を輝度値を用いて算出するものであり、算出された評価値を注目被写体抽出部180に出力する。なお、この評価値の算出方法については、図8等を参照して詳細に説明する。
注目被写体抽出部180は、評価値算出部170から出力された評価値に基づいて、対象画像保持部160に保持されている1組の画像群に含まれる基準画像から注目被写体を抽出するものである。そして、抽出された注目被写体の画像を画像合成部190に出力する。なお、この注目被写体の抽出方法については、図8および図9等を参照して詳細に説明する。
画像合成部190は、注目被写体抽出部180から出力された注目被写体の画像を、合成画像保持部191に保持されている履歴画像に上書き合成して合成画像を作成するものであり、作成された合成画像を表示制御部220に出力する。この合成画像については、図11等を参照して詳細に説明する。
合成画像保持部191は、画像合成部190により作成された合成画像を履歴画像として保持するものであり、保持されている履歴画像を画像合成部190に供給する。
制御部200は、撮像装置100全体の制御を行うものである。例えば、制御部200は、操作受付部210により受け付けられたユーザからの操作入力に応じた制御を行う。また、制御部200は、撮像部110、記録制御部120に対する記録制御を行う。例えば、注目被写体抽出画像撮像モードが設定されている場合には、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度を浅くして撮像動画を記録させる。また、例えば、注目被写体抽出画像撮像モード以外の撮像モードが設定されている場合には、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度を深くして撮像動画を記録させる。この記録制御については、図4乃至図6等を参照して詳細に説明する。また、制御部200は、操作受付部210により再生指示が受け付けられた場合には、その再生指示に応じて、再生処理部150、画像合成部190、表示制御部220に対する再生制御を行う。この再生制御については、図8乃至図11等を参照して詳細に説明する。
操作受付部210は、ユーザからの操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた信号を制御部200に出力する。例えば、注目被写体抽出画像撮像モード設定ボタンが押下されると、注目被写体抽出画像撮像モードが設定される。また、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下されると、記録制御部120が注目被写体抽出動画の記録動作を開始する。また、ストロボ画像再生モード設定ボタンが押下されると、ストロボ画像再生モードが設定される。また、ストロボ画像再生モードが設定されている状態で再生開始ボタンが押下されると、再生処理部150が動画の再生動作を開始する。
表示制御部220は、制御部200からの制御に基づいて、表示部230に対する表示制御を行うものである。具体的には、表示制御部220は、通常の動画再生を指示する指示操作が操作受付部210により受け付けられた場合には、再生処理部150から出力された各画像を表示部230に順次表示させることにより動画の再生制御を行う。また、表示制御部220は、ストロボ画像の再生を指示する指示操作が操作受付部210により受け付けられた場合には、画像合成部190から出力された合成画像を表示部230に順次表示させることによりストロボ画像の表示制御を行う。また、表示制御部220は、モニタリングモードが設定されている場合には、モニタリング処理部240から出力された撮像動画を表示部230に表示させる。
表示部230は、表示制御部220の制御に基づいて、各種画像を表示する表示部である。なお、表示部230の表示例については、図11等に示す。
モニタリング処理部240は、撮像部110から出力された撮像動画を表示部230にモニタリング表示させるためのモニタリング処理を行うものであり、モニタリング処理後の撮像動画を表示制御部220に出力する。モニタリング処理部240は、例えば、モニタリング表示される撮像動画にメッセージを上書き合成し、このメッセージが上書き合成された撮像動画を表示制御部220に出力する。
図2は、本発明の第1の実施の形態における撮像部110の内部構成例を示す図である。撮像部110は、光学系111と、フォーカス制御部116と、絞り制御部117と、イメージャ118と、撮像信号処理部119とを備える。また、光学系111は、複数のレンズ112乃至114と、絞り115とを備える。
レンズ112乃至114は、被写体からの光を集光する複数のレンズ(ズームレンズ、フォーカスレンズ等)であり、入射された被写体からの光がこれらのレンズを介してイメージャ118に供給される。なお、図2では、説明を容易にするため、撮像部110に備えられる複数のレンズを簡略化して、3つのレンズ112乃至114のみを示す。また、レンズ112乃至114のうち、フォーカス制御に用いられるレンズをレンズ112として示す。すなわち、以下では、フォーカス制御部116の制御に従って光軸方向に移動することにより焦点距離を変更し、フォーカス(ピント)を調整するレンズをレンズ112として説明する。すなわち、レンズ112により、フォーカス機能が実現される。
絞り115は、絞り制御部117の制御に従って開閉することによりレンズ112乃至114を通過した光の量(すなわち、露出)を調整するものである。
フォーカス制御部116は、制御部200から出力された制御信号に基づいて、レンズ112の駆動制御を行うものである。具体的には、フォーカス制御部116は、制御部200から出力された制御信号に基づいて、レンズ112を光軸方向に移動させるためのアクチュエータ(図示せず)を駆動させることにより、合焦位置を調整する。
絞り制御部117は、制御部200から出力された制御信号に基づいて、絞り115の駆動制御を行うものである。具体的には、絞り制御部117は、制御部200から出力された制御信号に基づいて、絞り115を開閉させるためのモータ(図示せず)を回転させることにより、絞り115の絞り値(F値)を調整する。
イメージャ118は、制御部200から出力された制御信号に基づいて、絞り115を通過した被写体からの入射光に光電変換処理を施し、光電変換された電気信号を撮像信号処理部119に出力する撮像素子である。なお、イメージャ118として、CCD(Charge Coupled Device)またはCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を用いることができる。
撮像信号処理部119は、制御部200から出力された制御信号に基づいて、イメージャ118から出力された電気信号に対して各種の信号処理を施すものである。そして、信号処理が施された画像信号(画像データ)を、記録制御部120およびモニタリング処理部240に出力する。また、撮像信号処理部119は、制御部200から出力された制御信号に基づいて、信号処理が施された画像信号に対応するフレームに関する注目被写体抽出画像作成情報をフレームに同期して記録制御部120に順次出力する。この注目被写体抽出画像作成情報については、図7を参照して詳細に説明する。
ここで、被写界深度について説明する。被写界深度は、被写体に対して、実質的にフォーカスが合っていると考えられる被写体距離の範囲を示すものである。一般に、この範囲が広い場合には「被写界深度が深い」と称し、この範囲が狭い場合には「被写界深度が浅い」と称する。また、被写界深度は、絞りの開閉に応じて、変化することが広く知られている。例えば、絞りを開くと、この開きの度合いに応じて、被写界深度は浅くなる。一方、絞りを絞ると、この絞りの度合いに応じて、被写界深度が深くなる。
例えば、図2に示す絞り115の開口の直径を直径H1とする場合に、被写体に対して実質的にフォーカスが合うレンズ112の範囲を合焦範囲W1とする。すなわち、絞り115の開口が直径H1である場合には、合焦範囲W1内にレンズ112が存在する場合には、被写体に対して実質的にフォーカスが合うことになる。このため、撮像装置100の光軸方向に対して多少前後している被写体に対しても、比較的広い範囲(光軸方向における範囲)の被写体にフォーカスが合うことになる。また、例えば、絞り115の開口の直径を直径H2とする場合に、被写体に対して実質的にフォーカスが合うレンズ112の範囲を合焦範囲W2とする。すなわち、絞り115の開口が直径H2である場合には、合焦範囲W1よりも狭い合焦範囲W2内にレンズ112が存在しないと、被写体に対して実質的にフォーカスが合わない。このため、撮像範囲に含まれる被写体が撮像装置100の光軸方向に対して多少前後している場合には、これらの被写体にフォーカスが合わないことがある。すなわち、撮像装置100の光軸方向に対して多少前後している被写体に対しては、比較的狭い範囲の被写体にのみフォーカスが合うことになる。
そこで、本発明の第1の実施の形態では、上述した被写界深度の性質を用いて、注目被写体を抽出するための注目被写体抽出画像を含む注目被写体抽出動画を記録する。また、このように記録された注目被写体抽出動画から注目被写体を抽出し、この注目被写体の画像を用いてストロボ画像や分解画像を作成する。具体的には、注目被写体抽出動画を記録する場合には、注目被写体抽出画像撮像モード以外の撮像モードの絞りの目標値よりも小さい値まで絞り115を開放する。そして、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも浅い被写界深度とする。また、連続する3つの画像について、被写体に含まれる注目被写体に合焦させる位置と、注目被写体以外の他の被写体に合焦させる位置とに焦点距離を順次変更しながら記録する。これにより、焦点距離が互いに異なる連続する3つの画像の組合せを順次生成させる。例えば、連続する3つの画像について、注目被写体にフォーカスが合っている1つの画像と、注目被写体にフォーカスが合っていない2つの画像とを1組の画像群として順次記録する。そして、1組の画像群に含まれる各画像の高周波成分に基づいて注目被写体を抽出し、抽出された注目被写体の画像を合成することにより、ストロボ画像や分解画像を作成する。
[注目被写体抽出動画の記録例]
図3は、本発明の第1の実施の形態における撮像部110により生成される撮像動画を構成する画像の遷移を概略的に示す図である。図3(a)には、野球の試合でバットを振る人(バッター)が注目被写体として撮像された一定間隔毎の画像301乃至316を示す。ここで、図3(a)に示す例では、バッターおよび背景等を簡略化して示すとともに、被写体の変化を容易に把握できるように、一定間隔毎の画像を示す。
例えば、通常の記録動作により記録された撮像動画を再生する場合には、図3(a)に示すように、動きのある被写体の変化を順次閲覧することができる。しかしながら、例えば、撮像動画を再生する場合に、動きのある注目被写体(例えば、バッター)の軌跡を把握しながら、閲覧することができれば、さらにその撮像動画の面白みを高めることができる。そこで、本発明の第1の実施の形態では、注目被写体抽出画像撮像モードが設定されている場合には、注目被写体抽出画像撮像モード以外の撮像モードの絞りの目標値よりも小さい値まで絞り115を開放する。これにより、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも浅い被写界深度とする。そして、被写体に含まれる注目被写体に合焦させる位置と、注目被写体以外の他の被写体に合焦させる位置とに焦点距離を順次変更しながら、焦点距離が互いに異なる連続する3つの画像からなる1組の画像群を順次生成する。このように撮像動画を記録することにより、再生時に注目被写体を指定する操作を手動で行わなくても、注目被写体を抽出することができる。また、抽出された注目被写体を用いて、ストロボ画像や分解画像等を作成することができる。
図3(b)には、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも浅い被写界深度にした状態で、焦点距離を変更しながら生成された画像群の例を示す。画像317は、図3(a)に示す画像301と同時刻に撮像された同一場所を被写体とする画像であるものとする。また、画像318および319は、時間軸において画像317に連続する画像であるものとする。例えば、注目被写体抽出画像撮像モードが設定されている場合には、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも浅い被写界深度にした状態で、焦点距離を変更しながら1組の画像群323が生成される。画像群323は、例えば、注目被写体(バッター)に合焦させて撮像された画像318と、注目被写体に合焦させずに撮像された2つの画像317および319とからなる画像群である。例えば、画像317は、注目被写体に合焦させずに注目被写体よりも遠距離に位置する物体に合焦させて撮像された画像とし、画像319は、注目被写体に合焦させずに注目被写体よりも近距離に位置する物体に合焦させて撮像された画像とする。
このように、画像群323は、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも浅い被写界深度にした状態で生成される。このため、注目被写体と、これよりも遠距離に位置する物体と、注目被写体よりも近距離に位置する物体との何れかに合焦された複数の画像となる。このため、画像318は、注目被写体であるバッター以外の被写体がボケて撮像される。一方、画像317は、注目被写体であるバッターおよびその手前の被写体がボケて撮像される。また、画像319は、注目被写体であるバッターおよびその背景の被写体がボケて撮像される。なお、図3(b)では、被写体を示す線分を破線等で表すことによりボケていることを示す。ここで、例えば、100fps(frame per second)の撮影速度(フレームレート)で撮像動画を記録する場合には、1フレームの時間間隔が10msecであるため、1組の画像群の時間間隔は30msecとなる。
また、画像群324も同様に、注目被写体、注目被写体よりも遠距離に位置する物体、注目被写体よりも近距離に位置する物体の何れかに合焦された複数の画像320乃至322である。なお、画像320は、図3(a)に示す画像302と同時刻に撮像された同一場所を被写体とする画像であるものとし、画像321および322は、時間軸において画像320に連続する画像であるものとする。以下では、このような画像群を再生するための絞り制御およびフォーカス制御について、図面を参照して詳細に説明する。
図4は、本発明の第1の実施の形態における撮像部110が注目被写体抽出動画を生成する際におけるレンズおよび絞りの対応関係を概略的に示す図である。なお、図4(a)乃至(d)に示すレンズ112乃至114と、絞り115とは、図2と同様に、光学系111を構成するものである。図4(a)には、通常の動画撮像モードが設定されている場合におけるレンズ112乃至114と絞り115との対応関係の一例を示す。また、図4(b)乃至(d)には、注目被写体抽出画像撮像モードが設定されている場合におけるレンズ112乃至114と絞り115との対応関係の一例を示す。なお、これらの対応関係については、図5を参照して詳細に説明する。
図5は、本発明の第1の実施の形態における撮像部110により生成される撮像動画を構成する画像の例を示す図である。図5(a)乃至(c)には、注目被写体抽出画像撮像モードが設定されている場合に生成された連続する3つの画像341乃至343を示す。図5(d)乃至(f)には、注目被写体抽出画像撮像モードの被写界深度の目標値よりも深い被写界深度にした状態で、図5(a)乃至(c)と同様にレンズ112を移動させて生成された連続する3つの画像344乃至346を示す。ここで、図5に示す例では、画像341および344、画像342および345、画像343および346のそれぞれが、同時刻に同一場所が撮像された画像であるものとする。
例えば、図4(a)に示すように、通常の動画撮像モードが設定されている場合における絞り115の直径を直径H11とし、直径H11に対してフォーカスが合うレンズ112の範囲を合焦範囲W11とする。例えば、図4(a)に示す状態で撮像動作が行われている場合には、合焦範囲W11内にレンズ112が存在するため、注目被写体に対してフォーカスが合っている。なお、注目被写体については、例えば、ユーザ操作により設定するようにしてもよく、撮像範囲における中心部分に存在する被写体を注目被写体として設定するようにしてもよい。
例えば、図4(a)に示す状態で、注目被写体抽出画像撮像モード設定ボタンが押下されると、注目被写体抽出画像撮像モード以外の撮像モードの絞りの目標値よりも小さい値まで絞り115が開放される。これにより、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。すなわち、図4(b)乃至(d)に示すように、絞り値が閾値TH1となるように、制御部200からの制御に基づいて、絞り制御部117が絞り115を開放する。この場合における絞り115の直径を直径H12とし、直径H12に対してフォーカスが合うレンズ112の範囲を合焦範囲W12とする。続いて、録画ボタンが押下されると、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12の外にレンズ112を移動させる。例えば、図4(b)の矢印331に示すように、光軸方向の被写体側にレンズ112を移動させる。このため、図4(b)に示す状態で撮像動作が行われた場合には、注目被写体がボケた画像が生成される。例えば、図5(a)に示すように、注目被写体340よりも遠い位置に存在する被写体(野球場のベンチ等)に合焦した画像341が生成される。
続いて、図4(b)に示す状態から図4(c)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12内にレンズ112を移動させる。例えば、図4(c)の矢印332に示すように、光軸方向のイメージャ側にレンズ112を移動させる。このため、図4(c)に示す状態で撮像動作が行われた場合には、注目被写体に合焦した画像が生成される。例えば、図5(b)に示すように、注目被写体340にのみ合焦した画像342が生成される。ここで、図4(c)に示す状態では、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅い。このため、画像342は、注目被写体340よりも遠い位置に存在する被写体(野球場のベンチ等)と、注目被写体340よりも近い位置に存在する被写体(一塁の審判等)とがボケた画像となる。
続いて、図4(c)に示す状態から図4(d)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12の外にレンズ112を移動させる。例えば、図4(d)の矢印334に示すように、光軸方向のイメージャ側にレンズ112を移動させる。このため、図4(d)に示す状態で撮像動作が行われた場合には、注目被写体340がボケた画像が生成される。例えば、図5(c)に示すように、注目被写体340よりも近い位置に存在する被写体(一塁の審判等)に合焦した画像343が生成される。
続いて、図4(d)に示す状態でレンズ112を移動させず、連続して画像が生成される。すなわち、図4(d)に示す状態で2つの連続する画像が生成される。
続いて、図4(d)に示す状態から図4(c)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12内にレンズ112を移動させ、1つの画像が生成される。例えば、図4(c)の矢印333に示すように、光軸方向の被写体側にレンズ112を移動させ、1つの画像が生成される。
このように、図4(b)乃至(d)に示す各状態で、連続する3つの画像が順次生成される。この生成された連続する3つの画像を1組の画像群とし、この1組の画像群に関する注目被写体抽出画像作成情報がメタデータ記憶部140に記録される。ここで、例えば、図4(a)と同様に絞りを絞った状態で、図4(b)乃至(d)と同様にレンズ112を移動させながら連続する3つの画像を生成する場合を想定する。この場合には、絞り115の直径H11に対してフォーカスが合う合焦範囲W11内にレンズ112が存在することになるため、図5(d)乃至(f)に示すように、撮像範囲に含まれる比較的広い範囲の被写体に合焦された画像344乃至346が生成される。なお、メタデータ記憶部140に記録される注目被写体抽出画像作成情報については、図7を参照して詳細に説明する。また、図4(b)乃至(d)に示す各状態のレンズ112および絞り115の移動の軌跡については、図6を参照して詳細に説明する。なお、注目被写体の移動等により合焦範囲W12が移動する場合があるが、注目被写体の移動等による合焦範囲の移動についての図示および説明は省略する。
図6は、本発明の第1の実施の形態におけるレンズ112および絞り115の移動の軌跡の一例を時系列で示す図である。図6(a)には、横軸を撮像時刻を示す軸とし、縦軸を絞り115の絞り値を示す軸とするグラフを示す。図6(b)には、横軸を撮像時刻を示す軸とし、縦軸をレンズ112の位置(焦点距離)を示す軸とするグラフを示す。なお、図6(a)および(b)に示す横軸では撮像時刻の代わりに、撮像時刻に応じたフレーム番号を示す。図6(a)および(b)に示す例では、注目被写体抽出画像撮像モードが設定された状態で録画ボタンが押下された直後におけるフレームをフレーム1とし、フレーム1以降の各フレームに通し番号を付した場合を示す。
図6に示す例では、注目被写体抽出画像撮像モードが設定された状態で録画ボタンが押下された直後におけるフレーム1からのグラフを示すため、図6(a)に示すグラフでは、絞り115の絞り値が閾値TH1の状態となる。なお、注目被写体抽出画像撮像モードが解除された場合には、図6(a)に示すグラフにおいて、絞り115の絞り値が大きくなるように制御される。すなわち、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度が深くなるように、絞り115が制御される。この絞り値として、例えば、手動設定による値または自動設定による値とすることができる。
図6(b)に示すグラフにおける縦軸の「F(Far)」は、レンズ112の移動可能範囲における無限側の位置を示す。この無限側の位置は、図6(a)に示す絞り115の閾値TH1に対してフォーカスが合うレンズ112の合焦範囲の範囲外に存在する無限側の位置であり、例えば、図4(d)に示すレンズ112の位置である。また、図6(b)に示すグラフにおける「N(near)」は、レンズ112の移動可能範囲における至近側の位置を示す。この至近側の位置は、図6(a)に示す絞り115の閾値TH1に対してフォーカスが合うレンズ112の合焦範囲の範囲外に存在する至近側の位置であり、例えば、図4(b)に示すレンズ112の位置である。また、図6(b)に示すグラフにおける「T(Target)」は、レンズ112の移動可能範囲における合焦位置を示す。この合焦位置は、図6(a)に示す絞り115の閾値TH1に対してフォーカスが合うレンズ112の合焦範囲内に存在する位置であり、例えば、図4(c)に示すレンズ112の位置である。
例えば、注目被写体抽出画像撮像モード設定ボタンが押下されると、図6(a)に示すように、絞り値が閾値TH1となるように、制御部200からの制御に基づいて、絞り制御部117が絞り115を開放する。これにより、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度を浅くする。また、注目被写体抽出画像撮像モードが設定された状態で録画ボタンが押下されると、図6(b)に示すように、制御部200からの制御に基づいて、フォーカス制御部116がフレーム毎にレンズ112を移動させる。このように、絞り値を閾値TH1とした状態で、フレーム毎にレンズ112を移動させることにより、注目被写体がボケた2つの画像と、注目被写体に合焦した1つの画像との組合せにより1組の画像群が生成される。例えば、フレーム1乃至3、4乃至6、7乃至9、10乃至12のそれぞれにより1組の画像群が構成される。これらの画像群の生成は、制御部200の制御に基づいて、イメージャ118および撮像信号処理部119により行われる。また、注目被写体抽出画像撮像モードが設定されている場合は、撮像信号処理部119が撮像動画を生成するとともに、生成された撮像動画を構成する各画像に関する注目被写体抽出画像作成情報を記録制御部120に出力する。
図6(b)に示すように、例えば、フレーム1乃至3からなる1組の画像群を生成する場合には、レンズ112を移動させるアクチュエータの動作方向が近距離から無限遠までの一方向となる。また、例えば、フレーム4乃至6からなる1組の画像群を生成する場合には、レンズ112を移動させるアクチュエータの動作方向が無限遠から近距離までの一方向となる。なお、アクチュエータの加減速を行う上で、フレーム3から4の間は合焦位置を動かさない。このように、1組の画像群を生成する場合におけるアクチュエータの動作方向が一定方向とすることができるため、1組の画像群を生成する場合におけるアクチュエータの加減速を逆方向に行う必要がない。これにより、アクチュエータの動きを最小限とすることができ、撮像動作を高速化することができる。
[メタデータの記録例]
図7は、本発明の第1の実施の形態における動画記憶部130およびメタデータ記憶部140に記憶されている各情報を模式的に示す図である。図7(a)には、動画記憶部130に記憶されている動画ファイル131を模式的に示す。図7(b)には、動画ファイル131に関連付けてメタデータ記憶部140に記憶されているメタデータファイル141を示す。ここで、動画記憶部130に記憶されている各動画ファイルを識別するための識別情報である動画IDが、各動画ファイルに付与されているものとする。例えば、動画ファイル131には「#1」が付与されているものとする。
ここで、動画ファイル131は、複数のフレームにより構成されている撮像動画(ビデオデータ)のファイルであり、これらの各フレームの一例をフレーム1乃至16として示す。また、フレーム1乃至16に対応してメタデータファイル141に記憶されている各情報を破線の矢印で指し示す。
メタデータファイル141には、動画ID142と、フレーム番号143と、注目被写体抽出画像情報144と、焦点情報145と、絞り情報146とが関連付けて記憶されている。
動画ID142は、動画ファイルに付与されている動画IDであり、例えば、動画ファイル131に付与されている「#1」が格納される。
フレーム番号143は、動画ファイルを構成する各フレームの通し番号であり、例えば、動画ファイル131を構成するフレーム1乃至16に対応する「1」乃至「16」が格納される。なお、図7(a)に示す動画ファイル131は、注目被写体抽出画像撮像モードが設定されている状態で撮像動作が開始された場合における動画ファイルの一例を示す。すなわち、動画ファイル131は、先頭のフレーム1から注目被写体抽出動画の記録動作が行われた動画ファイルである。
注目被写体抽出画像情報144は、注目被写体抽出画像撮像モードが設定されている状態で撮像動作が行われたことを示す情報である。例えば、注目被写体抽出動画として生成された3つの連続するフレームの先頭フレームには「−1」が格納され、真中のフレームには「2」が格納され、最後のフレームには「1」が格納される。すなわち、注目被写体抽出画像情報144により、注目被写体抽出動画に係る1組の画像群を構成する各画像を特定することができる。また、例えば、注目被写体抽出画像撮像モード以外の通常の動画撮像モードが設定されている状態で撮像動作が行われた場合には、各フレームに「0」が格納される。ここで、通常の動画撮像モードが設定されて撮像動作が行われている状態で、注目被写体抽出画像撮像モード設定ボタンが押下された場合には、この押下の直後から注目被写体抽出動画の記録動作が行われる。このため、この押下までの各フレームには「0」が格納され、この押下の直後から各フレームには「−1」、「2」、「1」が順次格納される。
焦点情報145は、撮像動作が行われた場合におけるレンズ112の位置に関する情報である。例えば、フォーカスが合う合焦範囲の範囲外の無限側の位置にレンズ112が存在する場合には「F」が格納される。また、例えば、フォーカスが合う合焦範囲の範囲外の至近側の位置にレンズ112が存在する場合には「N」が格納される。また、フォーカスが合う合焦範囲内にレンズ112が存在する場合には、「T」が格納される。なお、これらの「F」、「N」、「T」は、図6(b)に示すグラフにおける「F」、「N」、「T」に対応する。
絞り情報146は、撮像動作が行われた場合における絞り115の開閉に関する情報である。例えば、絞り115の絞り値が閾値TH1以下である場合には、「O(Open)」が格納される。また、例えば、絞り115の絞り値が閾値TH1よりも大きい値である場合には、「C」が格納される。なお、この「C」は、図6(a)に示すグラフにおける「C」に対応し、「O」は、図6(a)に示すグラフにおける「TH1」に対応する。
このように、本発明の第1の実施の形態では、注目被写体抽出画像作成情報として、注目被写体抽出画像情報144、焦点情報145および絞り情報146を各フレームに関連付けて記憶する例を示す。しかしながら、注目被写体抽出動画に係る1組の画像群を構成する各画像を特定することが可能な注目被写体抽出画像作成情報のみを各フレームに関連付けて記憶するようにしてもよい。例えば、注目被写体抽出画像作成情報として、注目被写体抽出画像情報144のみを各フレームに関連付けて記憶するようにしてもよい。
また、注目被写体抽出画像作成情報は、制御部200の制御に基づいて、対応するフレームとともに撮像信号処理部119により生成され、メタデータファイルとしてメタデータ記憶部140に記録される。また、これらの各メタデータに対応する撮像動画が、動画ファイルとして動画記憶部130に記憶される。このように、メタデータ記憶部140に記録されたメタデータファイルを用いて、動画記憶部130に記憶されている動画ファイルからストロボ画像や分解画像を作成することができる。これにより、例えば、動画ファイルの再生時に注目被写体を抽出するための複雑な操作をしなくても、注目被写体を容易に抽出することができる。このように抽出された注目被写体の画像を用いてストロボ画像や分解画像を容易に作成することができる。以下では、注目被写体の抽出方法について図面を参照して詳細に説明する。
[注目被写体の抽出例]
次に、動画記憶部130に記憶されている動画ファイルから注目被写体を抽出する注目被写体抽出方法について図面を参照して詳細に説明する。
図8は、本発明の第1の実施の形態における注目被写体抽出部180が注目被写体を抽出する際に用いられる評価値の算出対象となる画像を示す図である。この評価値の算出は、評価値算出部170により行われる。図8(a)には、評価値の算出対象となる撮像動画360を構成する画像361乃至369を時系列で模式的に示す。ここで、図8(a)では、画像361乃至369を矩形で模式的に示し、各矩形内には、画像361乃至369に関連付けてメタデータ記憶部140に記憶されている注目被写体抽出画像情報144の内容を付して説明する。また、この例では、高周波成分を用いて、注目被写体を抽出する例について説明する。
最初に、再生処理部150が、動画記憶部130に記憶されている動画ファイルおよびこの動画ファイルに関連付けてメタデータ記憶部140に記憶されているメタデータファイルを取得する。続いて、再生処理部150が、取得された動画ファイルをデコードして動画ファイルを構成する各フレームを時系列で順次取得する。続いて、取得された各フレームに関連付けられているメタデータファイルの注目被写体抽出画像情報144を取得する。ここで、注目被写体抽出画像情報144に「0」が格納されている場合には、注目被写体抽出動画を構成する画像ではなく、通常の動画撮像モードで記録された撮像動画を構成する画像である。このため、注目被写体抽出画像情報144に「0」が格納されているフレームについては、再生処理部150が表示制御部220に順次出力し、撮像動画の再生が行われる。
一方、図8(a)に示すように、画像361乃至369のうち3つの連続する画像に関連付けられているメタデータファイルの注目被写体抽出画像情報144に「−1」、「2」、「1」の何れかが格納されている場合には、注目被写体抽出動画を構成する画像である。このため、注目被写体抽出画像情報144に「−1」、「2」、「1」が格納されている3つの連続する画像については、再生処理部150が対象画像保持部160に順次出力して保持させる。例えば、撮像動画360を構成する画像361乃至363が対象画像保持部160に順次出力されて保持される。このように、対象画像保持部160に保持される画像361乃至363は、図8(b)に示すように、注目被写体にのみ合焦された1つの画像362と、注目被写体以外の他の被写体に合焦された2つの画像361および363とからなる1組の画像群である。この1組の画像群に含まれる3つの画像について評価値が画像毎に算出される。そして、時間軸において隣接する2つの画像について算出された評価値を比較することにより注目被写体が抽出される。
図8(c)には、注目被写体を抽出するための評価値の算出対象となる画像を構成する各画素を模式的に示す。ここで、図8(c)には、説明の容易のため、画像を構成する画素のうちの一部の画素#1乃至#49を示す。なお、図8(c)に示す例では、画素#1乃至#49を矩形で示し、各矩形内に画素の番号を付して説明する。また、例えば、評価値の算出対象となる画像における水平方向(左右方向)をx軸とし、垂直方向(上下方向)をy軸とするxy座標を想定する。
ここでは、画素#25(380)の評価値を算出する場合を例にして説明する。例えば、画素#25(380)の評価値を算出する場合には、図8(c)に示すように、画素#25(380)の周囲の12画素を用いる。例えば、画素#25(380)に隣接する8画素(画素#17乃至19、24、26、31乃至33)と、画素#25(380)の水平方向および垂直方向の1画素隔てた位置に存在する4画素(画素#11、23、27、39)とを用いる。図8(c)では、これらの12画素を破線の枠381で囲んで示す。
最初に、評価値算出部170が、評価値の算出対象となる画素#25(380)と、画素#25(380)の周囲の12画素(破線の枠381で囲んだ12画素)の輝度値(輝度成分)を抽出する。続いて、評価値算出部170が、画素#25(380)の輝度値と、画素#25(380)の周囲の12画素の各輝度値との差分値を、画素#25(380)の周囲の12画素毎に算出する。続いて、評価値算出部170が、算出された12画素毎の差分値に重み付けをして、この重み付けがされた各差分値を加算した値を評価値として算出する。
例えば、画素#25の座標を座標(x,y)とし、画素#25の輝度成分をB(x,y)とする。また、画素#23の輝度成分をB(x−2,y)とし、画素#24の輝度成分をB(x−1,y)とし、画素#26の輝度成分をB(x+1,y)とし、画素#27の輝度成分をB(x+2,y)とする。また、画素#11の輝度成分をB(x,y−2)とし、画素#18の輝度成分をB(x,y−1)とし、画素#32の輝度成分をB(x,y+1)とし、画素#39の輝度成分をB(x,y+2)とする。また、画素#17の輝度成分をB(x−1,y−1)とし、画素#19の輝度成分をB(x+1,y−1)とし、画素#31の輝度成分をB(x−1,y+1)とし、画素#33の輝度成分をB(x+1,y+1)とする。この場合に、例えば、画素#25(380)における評価値P(x,y)は、式1を用いて算出される。
評価値P(x,y)=
(B(x,y)−B(x−2,y))β
+(B(x,y)−B(x−1,y))α
+(B(x,y)−B(x+1,y))α
+(B(x,y)−B(x+2,y))β
+(B(x,y)−B(x,y−2))β
+(B(x,y)−B(x,y−1))α
+(B(x,y)−B(x,y+1))α
+(B(x,y)−B(x,y+2))β
+(B(x,y)−B(x−1,y−1))(α+β)/2
+(B(x,y)−B(x+1,y−1))(α+β)/2
+(B(x,y)−B(x−1,y+1))(α+β)/2
+(B(x,y)−B(x+1,y+1))(α+β)/2 …式1
ここで、α、βは重み係数であり、例えば、α>β、α+β=1を満たす値である。
同様に、注目被写体抽出動画を構成する1組の画像群に含まれる各画像について、画素毎の評価値P(x,y)が画像毎に算出される。例えば、図8(b)に示す画像361乃至363について、評価値P(x,y)が画素毎に算出される。なお、1組の画像群に含まれる画像を構成する各画素について評価値P(x,y)を算出する場合には、例えば、1組の画像群に含まれる画像における左上隅の画素から右下隅の画素までのラスタ順に演算が行われる。また、画像における上下左右の端部から2画素以内の各画素については、評価値の算出を省略するようにしてもよい。
このように算出された評価値P(x,y)の値が大きい画素は、評価値の算出対象となる対象画素と、その周辺画素との輝度差の差が大きく、高周波成分の大きい画素である。また、高周波成分の大きい画素の部分は、フォーカスが合っている被写体部分であると想定される。そこで、算出された評価値P(x,y)を用いて注目被写体を抽出する。
例えば、注目被写体抽出動画に係る1組の画像群に含まれる3つの画像を画像A、B、C(画像Bが注目被写体に合焦した基準画像)とする。この場合に、画像A、B、Cにおける互いに同一の画素位置について算出された評価値を評価値AP(x,y)、BP(x,y)、CP(x,y)とする。この場合に、注目被写体抽出部180は、以下の条件を満たす画像Bにおける各画素により構成される画像を注目被写体として抽出する。すなわち、注目被写体抽出部180は、1組の画像群に含まれる3つの画像に含まれる高周波成分に基づいて、基準画像に含まれる注目被写体を抽出する。
AP(x,y)<BP(x,y)、かつ、BP(x,y)>CP(x,y)
例えば、図5(a)に示す画像341は、注目被写体(バッター)よりも遠距離に位置する遠距離被写体(ベンチ等)に合焦された画像である。このため、遠距離被写体に対応する画素の高周波成分が大きいと想定される。すなわち、遠距離被写体に対応する画素について算出された評価値は大きく、他の被写体に対応する画素について算出された評価値は小さいと想定される。また、例えば、図5(b)に示す画像342は、注目被写体(バッター)に合焦された画像である。このため、注目被写体に対応する画素の高周波成分が大きく、他の被写体に対応する画素について算出された評価値は小さいと想定される。すなわち、注目被写体に対応する画素について算出された評価値は大きいと想定される。また、例えば、図5(c)に示す画像343は、注目被写体(バッター)よりも近距離に位置する近距離被写体(一塁の審判等)に合焦された画像である。このため、近距離被写体に対応する画素の高周波成分が大きいと想定される。すなわち、近距離被写体に対応する画素について算出された評価値は大きく、他の被写体に対応する画素について算出された評価値は小さいと想定される。このように1組の画像群に含まれる3つの画像について算出された評価値は、それぞれの撮像状態に応じて異なる値となるため、上記条件を満たす画素を抽出することにより、注目被写体のみを抽出することができる。
このように、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度を浅くした状態で、合焦位置を変更しながら生成された3つの連続する画像について、同一位置の画素の評価値を比較し、上記条件を満たす画素を抽出する。これにより、注目被写体のみを適切に抽出することができる。以下では、このように算出された評価値に基づいて、注目被写体抽出部180が注目被写体を抽出する例を示す。
図9は、本発明の実施の形態における注目被写体抽出部180により抽出された注目被写体の画像の一例を示す図である。図9(a)には、基準画像の一例である画像390を示す。なお、画像390は、図5(b)に示す画像342と同一の画像である。また、図9(b)には、画像390から抽出された注目被写体の画像の一例である画像392を示す。例えば、図5(a)乃至(c)に示す画像341乃至343について式1を用いて評価値が算出され、この算出された評価値に基づいて画像390に含まれる注目被写体が特定される。図9(a)に示す例では、画像390に含まれる注目被写体(図9に示す例では、バッターボックスのバッター)を白枠391で囲んで示す。このように、評価値に基づいて特定された画像390に含まれる注目被写体(白枠391内の被写体)が、図9(b)に示すように、注目被写体の画像392として抽出される。これに対して、図5(d)乃至(f)に示す画像344乃至346について、同様に注目被写体抽出処理を行う場合には、図10に示すように、注目被写体以外の被写体が抽出されるおそれがある。
図10は、図5(d)乃至(f)に示す画像344乃至346を用いて、基準画像から抽出された注目被写体の画像の一例を示す図である。図10(a)に示す画像395は、図5(e)に示す画像345と同一の画像である。また、図10(b)には、画像395から抽出された注目被写体の画像の一例である画像397を示す。例えば、図5(d)乃至(f)に示す画像344乃至346について式1を用いて評価値が算出され、この算出された評価値に基づいて画像395に含まれる注目被写体が特定される。図10(a)に示す例では、画像395に含まれる注目被写体(図10に示す例では、バッター、キャッチャーおよび審判)を白枠396で囲んで示す。このように、評価値に基づいて特定された画像395に含まれる注目被写体(白枠396内の被写体)が、図10(b)に示すように、注目被写体の画像397として抽出される。
ここで、図5(e)に示す画像345は、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度を深くした状態で撮像動作が行われているため、注目被写体以外の比較的広い範囲の被写体に合焦された画像となる。このため、画像345に含まれる注目被写体およびその周辺の被写体に対応する画素の高周波成分が大きいと想定される。同様に、図5(d)に示す画像344は、被写界深度を深くした状態で撮像動作が行われているため、遠距離被写体以外の比較的広い範囲の被写体に合焦された画像となる。このため、画像344に含まれる遠距離被写体およびその周辺の被写体(注目被写体を含む)に対応する画素の高周波成分が大きいと想定される。同様に、図5(f)に示す画像346は、被写界深度を深くした状態で撮像動作が行われているため、近距離被写体以外の比較的広い範囲の被写体に合焦された画像となる。このため、画像346に含まれる近距離被写体およびその周辺の被写体(注目被写体を含む)に対応する画素の高周波成分が大きいと想定される。このように、図5(a)乃至(c)に示す画像341乃至343と比較した場合に、図5(d)乃至(f)に示す画像344乃至346は、注目被写体に対応する画素の高周波成分を適切に利用することができない。このため、注目被写体として抽出したいバッターのみではなく、撮像装置100からの距離(被写体距離)が注目被写体と比較的近いキャッチャーや審判が、注目被写体の画像として抽出される。このため、例えば、注目被写体としてのバッターのストロボ画像を適切に作成することができない。
[ストロボ画像の作成例]
図11は、本発明の第1の実施の形態における注目被写体抽出部180により抽出された注目被写体の画像と、これらの注目被写体の画像が合成された合成画像の例を示す図である。図11(a)には、注目被写体抽出部180により抽出された注目被写体の画像401乃至406を示す。画像401乃至406は、野球の試合においてバッターボックスに立っているバッターの遷移を示す画像である。なお、図11(a)に示す例では、注目被写体の遷移を容易に把握するため、一定間隔毎の注目被写体の画像のみを示す。また、画像401乃至406は、バッターが存在する領域以外の領域は、α値として0が設定された領域とする。ここで、α値は、透明度を表す数値であり、RGB(赤(Red)、緑(Green)、青(Blue))の透明度を0〜255の範囲内で変更するものである。
図11(b)には、図11(a)に示す画像401乃至406が画像合成部190により順次上書き合成された合成画像411乃至416を示す。画像411乃至416は、注目被写体の画像を順次上書き合成した合成画像であり、ストロボ画像と称される。
具体的には、注目被写体抽出部180が、注目被写体の画像401乃至406を順次抽出し、この抽出された画像401乃至406を画像合成部190に順次出力する。画像合成部190は、注目被写体抽出部180から出力された画像401乃至406を合成画像保持部191に順次保持させる。この場合には、合成画像保持部191に保持されている履歴画像に新たな注目被写体の画像を順次上書きする。そして、合成画像保持部191に保持された合成画像を、画像合成部190が表示制御部220に順次出力する。そして、表示制御部220は、画像合成部190から出力された合成画像を表示部230に順次表示させる。すなわち、図11(b)に示す合成画像411乃至416が、表示制御部220の制御に基づいて、表示部230に順次表示される。なお、合成画像411乃至416の代わりに、注目被写体の画像401乃至406のみを順次表示させるようにしてもよい。また、合成画像411乃至416とともに、注目被写体の画像401乃至406を順次表示させるようにしてもよい。これにより、背景なしの注目被写体のみの画像をユーザが視聴することができる。また、注目被写体の画像401乃至406を左右方向に並べて表示させるようにしてもよい。例えば、注目被写体の画像401乃至406を分解画像として表示させることができる。これらの表示方法をユーザ操作により選択するようにしてもよい。
このように、本発明の第1の実施の形態によれば、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度を浅くした状態で、撮像動画を生成することにより、注目被写体のみを適切に抽出することができる。すなわち、被写界深度を浅くした状態で、合焦位置を変更して撮像された1組の画像群に含まれる各画像の高周波成分を用いて、この画像群に含まれる注目被写体のみを適切に抽出することができる。また、特に注目被写体の近距離に背景等の不要な被写体が存在する場合でも、正確に注目被写体を抽出することができる。また、注目被写体に合焦した1つの画像と、注目被写体の前後に合焦した2つの画像とを注目被写体の抽出に用いられる評価値の演算に使用しているため、注目被写体の前景等に不要なものが存在する場合でも、正確に注目被写体を抽出することができる。このように抽出された注目被写体の画像を用いて、例えば、ストロボ画像や分解画像等を容易に表示させることができる。すなわち、撮像動画を構成する画像に含まれる注目被写体の画像を容易に利用することができる。また、ストロボ画像や分解画像等を表示させるための注目被写体抽出動画を、注目被写体抽出画像撮像モード設定ボタンの操作により記録することができるため、ユーザ操作が容易である。また、ストロボ画像や分解画像等を表示させる場合には、注目被写体を指定する等の手動操作が不要であるため、ユーザ操作が容易である。
[フォーカス制御の変形例]
以上では、注目被写体抽出画像撮像モードが設定されている場合には、他の撮像モードの被写界深度の目標値よりも被写界深度を浅くした状態で、図6(b)に示すフォーカス制御を行う例について説明した。以下では、フォーカス制御の変形例について図面を参照して詳細に説明する。
図12は、本発明の第1の実施の形態における撮像部110が注目被写体抽出動画を生成する際におけるレンズおよび絞りの対応関係を概略的に示す図である。なお、図12に示す例は、図4に示すレンズおよび絞りの対応関係の変形例である。このため、図4に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図4に示す例と異なる部分を中心に説明する。
例えば、図12(a)に示す状態で、注目被写体抽出画像撮像モード設定ボタンが押下されると、注目被写体抽出画像撮像モード以外の撮像モードの絞りの目標値よりも小さい値まで絞り115が開放される。これにより、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。この場合における絞り115の直径を直径H12とし、直径H12に対してフォーカスが合うレンズ112の範囲を合焦範囲W22とする。続いて、録画ボタンが押下されると、制御部200からの制御に基づいて、フォーカス制御部116が注目被写体の合焦位置(合焦範囲W22内の位置)にレンズ112を移動させる。例えば、図12(b)の矢印421または422に示すように、光軸方向の何れかの方向にレンズ112を移動させる。なお、注目被写体の合焦位置にレンズ112が存在する場合には、レンズ112を移動させない。
続いて、図12(b)に示す状態から図12(c)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12の外にレンズ112を移動させる。例えば、図12(c)の矢印423に示すように、光軸方向のイメージャ側にレンズ112を移動させる。ここで、図12(b)に示す状態で、1組の画像群の先頭のフレームを生成する際に注目被写体に合焦させておくことにより、現在の絞り値に基づいて、先頭のフレームを基準位置として合焦範囲W22を正確に特定することができる。このため、図12(c)に示す状態では、1組の画像群の次のフレームを生成する際に、レンズ112を移動すべき合焦範囲W22の範囲外の位置を正確に特定することができる。このため、図4(d)に示す場合よりも、レンズ112の移動量を減少させることができる。
続いて、図12(c)に示す状態から図12(d)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W22の外にレンズ112を移動させる。例えば、図12(d)の矢印424に示すように、光軸方向の被写体側にレンズ112を移動させる。ここで、図12(d)に示す状態では、上述したように、1組の画像群の最後のフレームを生成する際に、レンズ112を移動すべき合焦範囲W22の範囲外の位置を正確に特定することができる。このため、図4(b)に示す場合よりも、レンズ112の移動量を減少させることができる。
続いて、図12(d)に示す状態から図12(b)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W22内にレンズ112を移動させ、1つの画像が生成される。例えば、図12(b)の矢印421に示すように、光軸方向のイメージャ側にレンズ112を移動させ、1つの画像が生成される。
このように、図12(b)乃至(d)に示す各状態で、連続する3つの画像が順次生成される。この生成された連続する3つの画像を1組の画像群とし、この1組の画像群に関する注目被写体抽出画像作成情報がメタデータ記憶部140に記録される。なお、メタデータ記憶部140に記録される内容については、1組の画像群を構成する各フレームのうち、注目被写体に合焦された画像と、注目被写体以外の被写体に合焦された画像との順序が異なる以外は、図7に示す例と同様であるため、ここでの説明を省略する。また、図12(b)乃至(d)に示す各状態のレンズ112および絞り115の移動の軌跡については、図13を参照して詳細に説明する。
図13は、本発明の第1の実施の形態におけるレンズ112および絞り115の移動の軌跡の一例を時系列で示す図である。なお、図13に示す例は、図6に示すレンズ112および絞り115の移動の軌跡の変形例である。このため、図6に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図6に示す例と異なる部分を中心に説明する。
ここで、図13(b)に示すグラフにおける縦軸の値は、例えば、図12(b)乃至(d)に示すレンズ112の位置に対応する。例えば、注目被写体抽出画像撮像モード設定ボタンが押下されると、図13(a)に示すように、絞り値が閾値TH1となるように絞り115が開放され、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。また、録画ボタンが押下されると、図13(b)に示すように、制御部200からの制御に基づいて、フォーカス制御部116がフレーム毎にレンズ112を移動させる。例えば、図6(b)に示す場合と同様に、フレーム1乃至3、4乃至6、7乃至9、10乃至12のそれぞれにより1組の画像群が構成される。
図13(b)に示すように、例えば、フレーム1乃至3からなる1組の画像群を生成する場合には、先頭のフレーム1については注目被写体に合焦させた画像とする。このように1組の画像群の先頭のフレームを生成する際に注目被写体に合焦させておくことにより、現在の絞り値に基づいて、先頭のフレームを基準位置として合焦範囲を正確に特定することができる。このため、1組の画像群の他の2つのフレームを生成する際に、レンズ112を移動すべき合焦範囲の範囲外の位置を正確に特定することができる。このため、レンズ112を無限遠および近距離まで移動させずに、注目被写体以外の被写体に合焦させることができる。これにより、アクチュエータの動き量を最小限とすることができ、消費電力を低減させることができる。また、撮像動作をさらに高速化することができる。
図14は、本発明の第1の実施の形態における撮像部110が注目被写体抽出動画を生成する際におけるレンズおよび絞りの対応関係を概略的に示す図である。なお、図14に示す例は、図4に示すレンズおよび絞りの対応関係の変形例である。このため、図4に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図4に示す例と異なる部分を中心に説明する。
例えば、図14(a)に示す状態で、注目被写体抽出画像撮像モード設定ボタンが押下されると、注目被写体抽出画像撮像モード以外の撮像モードの絞りの目標値よりも小さい値まで絞り115が開放される。これにより、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。続いて、録画ボタンが押下されると、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12の外にレンズ112を移動させる。例えば、図14(b)の矢印431に示すように、光軸方向のイメージャ側にレンズ112を移動させる。
続いて、図14(b)に示す状態から図14(c)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W12の外にレンズ112を移動させる。例えば、図14(c)の矢印432に示すように、光軸方向の被写体側にレンズ112を移動させる。
続いて、図14(c)に示す状態から図14(d)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が注目被写体の合焦位置(合焦範囲W12内の位置)にレンズ112を移動させる。例えば、図14(d)の矢印433に示すように、光軸方向のイメージャ側にレンズ112を移動させる。ここで、図14(b)および(c)に示す状態で、1組の画像群の先頭および次のフレームの撮像動作によりレンズ112が合焦位置を中心とする一定範囲を移動する。このため、図14(d)に示す状態では、注目被写体に対する合焦位置をさらに正確に特定することができる。
続いて、図14(d)に示す状態から図14(b)に示す状態となるように、制御部200からの制御に基づいて、フォーカス制御部116が合焦範囲W22の外にレンズ112を移動させ、1つの画像が生成される。例えば、図14(b)の矢印431に示すように、光軸方向のイメージャ側にレンズ112を移動させ、1つの画像が生成される。
このように、図14(b)乃至(d)に示す各状態で、連続する3つの画像が順次生成される。この生成された連続する3つの画像を1組の画像群とし、この1組の画像群に関する注目被写体抽出画像作成情報がメタデータ記憶部140に記録される。なお、メタデータ記憶部140に記録される内容については、1組の画像群を構成する各フレームのうち、注目被写体に合焦された画像と、注目被写体以外の被写体に合焦された画像との順序が異なる以外は、図7に示す例と同様であるため、ここでの説明を省略する。また、図14(b)乃至(d)に示す各状態のレンズ112および絞り115の移動の軌跡については、図15を参照して詳細に説明する。
図15は、本発明の第1の実施の形態におけるレンズ112および絞り115の移動の軌跡の一例を時系列で示す図である。なお、図15に示す例は、図6に示すレンズ112および絞り115の移動の軌跡の変形例である。このため、図6に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図6に示す例と異なる部分を中心に説明する。
ここで、図15(b)に示すグラフにおける縦軸の値は、例えば、図14(b)乃至(d)に示すレンズ112の位置に対応する。例えば、注目被写体抽出画像撮像モード設定ボタンが押下されると、図15(a)に示すように、絞り値が閾値TH1となるように絞り115が開放され、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。また、録画ボタンが押下されると、図15(b)に示すように、制御部200からの制御に基づいて、フォーカス制御部116がフレーム毎にレンズ112を移動させる。例えば、図6(b)に示す場合と同様に、フレーム1乃至3、4乃至6、7乃至9、10乃至12のそれぞれにより1組の画像群が構成される。
図15(b)に示すように、例えば、フレーム1乃至3からなる1組の画像群を生成する場合には、先頭のフレーム1および次のフレーム2の撮像動作により、注目被写体に対する合焦位置を中心とする一定範囲をレンズ112が移動する。このように、焦点距離全体をなめてから、注目被写体に対する合焦位置を特定することができるため、さらに正確な合焦位置を特定することができる。例えば、高速の撮像動作による合焦のばらつきが出てしまうような場合を補う撮像動作として用いることができる。
[撮像装置の動作例]
次に、本発明の第1の実施の形態における撮像装置100の動作について図面を参照して説明する。
図16は、本発明の第1の実施の形態における撮像装置100による動画記録処理の処理手順を示すフローチャートである。この例では、注目被写体抽出画像撮像モードが設定されている場合に、図6(b)に示すグラフに従ってフォーカス制御を行う場合を例にして示す。
最初に、動画記録待機状態であるか否かが判断される(ステップS901)。動画記録待機状態でない場合には(ステップS901)、動画記録処理の動作を終了する。一方、動画記録待機状態である場合には(ステップS901)、注目被写体抽出画像撮像モードが設定されているか否かが判断される(ステップS902)。
注目被写体抽出画像撮像モードが設定されている場合には(ステップS902)、絞り値が閾値TH1となるように、絞り制御部117が絞り115の開閉を制御する(ステップS903)。すなわち、絞り115が開放され、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。続いて、注目被写体抽出動画の記録を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS905)。すなわち、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下されたか否かが判断される。注目被写体抽出動画の記録を指示する指示操作が受け付けられた場合には(ステップS905)、注目被写体抽出動画記録処理が行われる(ステップS910)。この注目被写体抽出動画記録処理については、図17を参照して詳細に説明する。
また、注目被写体抽出画像撮像モードが設定されていない場合には(ステップS902)、絞り値が閾値TH1よりも大きい値となるように、絞り制御部117が絞り115の開閉を制御し(ステップS903)、ステップS906に進む。すなわち、被写体照度に応じて絞り115が調整され、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度が深くなる。
また、注目被写体抽出動画の記録を指示する指示操作が受け付けられていない場合には(ステップS905)、通常の撮像動画の記録を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS906)。通常の撮像動画の記録を指示する指示操作が受け付けられた場合には(ステップS906)、通常の撮像動画記録処理が行われる(ステップS907)。一方、通常の撮像動画の記録を指示する指示操作が受け付けられていない場合には(ステップS906)、動画記録待機状態の停止を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS908)。動画記録待機状態の停止を指示する指示操作が受け付けられた場合には(ステップS906)、動画記録処理の動作を終了する。一方、動画記録待機状態の停止を指示する指示操作が受け付けられていない場合には(ステップS906)、ステップS902に戻り、動画記録処理を繰り返す。
なお、この例では、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下されると、注目被写体抽出動画記録処理を開始する例を示す。しかしながら、例えば、通常の撮像動画記録処理が行われている状態で、注目被写体抽出画像撮像モード設定ボタンが押下された場合に、注目被写体抽出画像撮像モードを設定し、注目被写体抽出動画記録処理を開始するようにしてもよい。
図17は、本発明の第1の実施の形態における撮像装置100による動画記録処理の処理手順のうちの注目被写体抽出動画記録処理手順(図16に示すステップS910の処理手順)を示すフローチャートである。この例では、制御部200が注目被写体抽出画像情報(−1、2、1)を順次保持して、この保持されている注目被写体抽出画像情報に基づいて撮像制御を行う例について説明する。
最初に、現在の注目被写体抽出画像情報は「−1」であるか否かが判断される(ステップS911)。現在の注目被写体抽出画像情報が「−1」である場合には(ステップS911)、撮像範囲に含まれる被写体のうち、注目被写体よりも近距離に存在する被写体に合焦するようにフォーカス制御部116がレンズ112を制御する(ステップS912)。続いて、イメージャ118および撮像信号処理部119が、注目被写体よりも近距離に存在する被写体に合焦する状態で1つの画像を生成する(ステップS913)。続いて、記録制御部120が、注目被写体よりも近距離に存在する被写体に合焦する状態で生成された1つの画像を動画記憶部130に記録する(ステップS914)。続いて、記録制御部120が、注目被写体よりも近距離に存在する被写体に合焦する状態で生成された1つの画像に対応する注目被写体抽出画像作成情報をメタデータ記憶部140に記録する(ステップS915)。例えば、注目被写体抽出画像情報として「−1」が記録される。
また、現在の注目被写体抽出画像情報は「2」であるか否かが判断される(ステップS916)。現在の注目被写体抽出画像情報が「2」である場合には(ステップS916)、撮像範囲に含まれる被写体のうち、注目被写体に合焦するようにフォーカス制御部116がレンズ112を制御する(ステップS917)。続いて、イメージャ118および撮像信号処理部119が、注目被写体に合焦する状態で1つの画像を生成する(ステップS918)。続いて、記録制御部120が、注目被写体に合焦する状態で生成された1つの画像を動画記憶部130に記録する(ステップS919)。続いて、記録制御部120が、注目被写体に合焦する状態で生成された1つの画像に対応する注目被写体抽出画像作成情報をメタデータ記憶部140に記録する(ステップS920)。例えば、注目被写体抽出画像情報として「2」が記録される。
また、現在の注目被写体抽出画像情報は「1」であるか否かが判断される(ステップS921)。現在の注目被写体抽出画像情報が「1」である場合には(ステップS921)、撮像範囲に含まれる被写体のうち、注目被写体よりも遠距離に存在する被写体に合焦するようにフォーカス制御部116がレンズ112を制御する(ステップS922)。続いて、イメージャ118および撮像信号処理部119が、注目被写体よりも遠距離に存在する被写体に合焦する状態で1つの画像を生成する(ステップS923)。続いて、記録制御部120が、注目被写体よりも遠距離に存在する被写体に合焦する状態で生成された1つの画像を動画記憶部130に記録する(ステップS924)。続いて、記録制御部120が、注目被写体よりも遠距離に存在する被写体に合焦する状態で生成された1つの画像に対応する注目被写体抽出画像作成情報をメタデータ記憶部140に記録する(ステップS925)。例えば、注目被写体抽出画像情報として「1」が記録される。
続いて、注目被写体抽出動画の記録停止を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS926)。すなわち、注目被写体抽出動画記録処理が行われている状態で録画ボタンが再押下されたか否かが判断される。注目被写体抽出動画の記録停止を指示する指示操作が受け付けられた場合には(ステップS926)、図16に示すステップS902に戻る。注目被写体抽出動画の記録停止を指示する指示操作が受け付けられていない場合には(ステップS926)、ステップS911に戻る。すなわち、注目被写体抽出動画の記録停止を指示する指示操作が受け付けられるまで、制御部200が注目被写体抽出画像情報(−1、2、1)を順次保持する。そして、この保持された注目被写体抽出画像情報に対応する1つの画像を順次生成させ、1組の画像群を順次生成させる。なお、ステップS904、S907は、特許請求の範囲に記載の第1の制御手順の一例である。また、ステップS903、S910は、特許請求の範囲に記載の第2の制御手順の一例である。
図18は、本発明の第1の実施の形態における撮像装置100による動画再生処理の処理手順を示すフローチャートである。この例では、注目被写体抽出動画を再生する場合に、注目被写体抽出動画から抽出された注目被写体の画像を合成してストロボ画像を作成する例について説明する。
最初に、動画記憶部130に記憶されている動画ファイルを再生させることが可能な動画再生待機状態であるか否かが判断される(ステップS931)。動画再生待機状態でない場合には(ステップS931)、動画再生処理の動作を終了する。一方、動画再生待機状態である場合には(ステップS931)、ストロボ画像の再生を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS932)。すなわち、ストロボ画像再生モードが設定されている状態で再生開始ボタンが押下されたか否かが判断される。ストロボ画像の再生を指示する指示操作が受け付けられた場合には(ステップS932)、ストロボ画像再生処理が行われる(ステップS940)。このストロボ画像再生処理については、図19を参照して詳細に説明する。
一方、ストロボ画像の再生を指示する指示操作が受け付けられていない場合には(ステップS932)、通常の動画再生を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS933)。通常の動画再生を指示する指示操作が受け付けられた場合には(ステップS933)、再生処理部150が、指示操作に応じた動画を表示制御部220に順次出力し、この動画を表示制御部220が表示部230に表示させる(ステップS934)。
一方、通常の動画再生を指示する指示操作が受け付けられていない場合には(ステップS933)、動画再生待機状態を停止させる指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS935)。動画再生待機状態を停止させる指示操作が受け付けられた場合には(ステップS935)、動画再生処理の動作を終了する。一方、動画再生待機状態を停止させる指示操作が受け付けられていない場合には(ステップS935)、ステップS932に戻り、動画再生処理を繰り返す。
図19は、本発明の第1の実施の形態における撮像装置100による動画再生処理の処理手順のうちのストロボ画像再生処理手順(図18に示すステップS940の処理手順)を示すフローチャートである。
最初に、再生処理部150が、ストロボ画像の再生を指示する指示操作に係る動画ファイルを動画記憶部130から取得し、この取得された動画ファイルをデコードして動画ファイルを構成する1フレーム(現フレーム)を取得する(ステップS941)。続いて、再生処理部150が、取得された動画ファイルに対応するメタデータファイルをメタデータ記憶部140から取得し、この取得されたメタデータファイルから現フレームに対応するメタデータを取得する(ステップS942)。
続いて、再生処理部150が、現フレームに対応するメタデータに含まれる注目被写体抽出画像情報は「−1」であるか否かを判断する(ステップS943)。現フレームに対応する注目被写体抽出画像情報が「−1」である場合には(ステップS943)、再生処理部150が、現フレームを対象画像保持部160に出力して保持させ(ステップS944)、ステップS945に進む。また、現フレームに対応する注目被写体抽出画像情報が「−1」でない場合には(ステップS943)、ステップS945に進む。
続いて、再生処理部150が、現フレームに対応するメタデータに含まれる注目被写体抽出画像情報は「2」であるか否かを判断する(ステップS945)。現フレームに対応する注目被写体抽出画像情報が「2」である場合には(ステップS945)、再生処理部150が、現フレームを対象画像保持部160に出力して保持させ(ステップS946)、ステップS947に進む。また、現フレームに対応する注目被写体抽出画像情報が「2」でない場合には(ステップS945)、ステップS947に進む。
続いて、再生処理部150が、現フレームに対応するメタデータに含まれる注目被写体抽出画像情報は「1」であるか否かを判断する(ステップS947)。現フレームに対応する注目被写体抽出画像情報が「1」である場合には(ステップS947)、再生処理部150が、現フレームを対象画像保持部160に出力して保持させ(ステップS948)、ステップS949に進む。一方、現フレームに対応する注目被写体抽出画像情報が「1」でない場合には(ステップS947)、ステップS941に戻る。このように、1組の画像群に含まれる3つの連続する画像が対象画像保持部160に保持されるまで、ステップS941乃至948を繰り返す。
続いて、評価値算出部170が、対象画像保持部160に保持されている3つのフレームについて評価値を算出する(ステップS949)。続いて、注目被写体抽出部180が、算出された評価値に基づいて、対象画像保持部160に保持されている1つのフレーム(注目被写体抽出画像情報が「2」であるフレーム)から注目被写体の画像を抽出する(ステップS950)。
続いて、画像合成部190が、合成画像保持部191に保持されている履歴画像に、抽出された注目被写体の画像を上書き合成し(ステップS951)、上書き合成された新たな合成画像を履歴画像として合成画像保持部191に保持させる(ステップS952)。なお、最初の注目被写体が抽出された場合には、その注目被写体の画像のみが合成画像保持部191に保持される。続いて、表示制御部220が、画像合成部190により上書き合成された新たな合成画像を表示部230に表示させる(ステップS953)。続いて、ストロボ画像の再生を指示する指示操作に係る動画ファイルを構成するフレームのうち、現フレームが最後のフレームであるか否かが判断され(ステップS954)、現フレームが最後のフレームである場合には、ストロボ画像再生処理の動作を終了する。一方、現フレームが最後のフレームでない場合には(ステップS954)、ステップS941に戻る。
<2.第2の実施の形態>
[撮像動画の記録例]
以上では、注目被写体抽出画像撮像モードが設定されている場合には、他の撮像モードの被写界深度の目標値よりも被写界深度を浅くした状態で、フォーカス制御を行う例について説明した。すなわち、同一の撮像シーンについて注目被写体抽出動画のみを記録し、その撮像シーンについてストロボ画像を表示する例を示した。しかしながら、同一の撮像シーンを、通常の撮像動画として再生させるとともに、ストロボ画像としても容易に表示させることができれば、その撮像シーンをさらに楽しんで鑑賞することができると考えられる。そこで、本発明の第2の実施の形態では、被写界深度を浅くしてフォーカス制御を行いながら撮像動画を記録する動作と、被写界深度を深くして通常の撮像制御を行いながら撮像動画を記録する動作とを繰り返し行う例について説明する。なお、本発明の第2の実施の形態は、本発明の第1の実施の形態における絞り制御およびフォーカス制御の一部を変形したものであり、本発明の第2の実施の形態における機能構成は、図1に示す機能構成と同じである。そこで、以下では、本発明の第1の実施の形態に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、本発明の第1の実施の形態に示す例と異なる部分を中心に説明する。
ここで、本発明の第2の実施の形態では、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下されると、注目被写体抽出動画記録動作および撮像動画記録動作を交互に繰り返し行う。具体的には、注目被写体抽出動画記録動作では、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度を浅くした状態でフォーカス制御を行いながら、連続する3つの画像を1組の画像群として記録する。この1組の画像群は、本発明の第1の実施の形態に示すものと同様である。また、撮像動画記録動作では、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度を深くした状態で通常の撮像制御を行いながら、連続する3つの画像を1組の画像群として記録する。この1組の画像群は、通常の撮像動画を構成する3つの画像である。このように、本発明の第2の実施の形態では、3つの連続する画像により構成される画像群毎に、絞り制御およびフォーカス制御を変更しながら、撮像画像を記録する。この絞り制御およびフォーカス制御については、図20を参照して詳細に説明する。
図20は、本発明の第2の実施の形態におけるレンズ112および絞り115の移動の軌跡の一例を時系列で示す図である。なお、図20に示す例は、図6に示すレンズ112および絞り115の移動の軌跡の変形例である。このため、図6に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図6に示す例と異なる部分を中心に説明する。
図20(a)に示す例では、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下された直後のフレーム1乃至3については、絞り115の絞り値が閾値TH1となるように制御される。また、フレーム4乃至6については、絞り115の絞り値が大きくなるように制御される。すなわち、フレーム4乃至6については、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度が深くなるように絞り115が制御される。以降は同様に、3つのフレームについて絞り115の絞り値を閾値TH1とする動作と、次の3つのフレームについて絞り115の絞り値を大きくする動作とが交互に行われる。
また、図20(b)に示す例では、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下された直後のフレーム1乃至3については、制御部200からの制御に基づいて、フォーカス制御部116がフレーム毎にレンズ112を移動させる。例えば、図6(b)に示す場合と同様に、フレーム1乃至3により1組の画像群が構成される。また、フレーム4乃至6については、制御部200からの制御に基づいて、フォーカス制御部116が通常のフォーカス制御を行う。例えば、注目被写体に合焦するようにレンズ112を移動させる。以降は同様に、3つのフレームについてフォーカス制御部116がフレーム毎にレンズ112を移動させる動作と、次の3つのフレームについて通常のフォーカス制御を行う動作とが交互に行われる。例えば、図20(b)に示すフレーム1乃至3、7乃至9、13乃至15について行われるフォーカス制御は、図6(b)に示すフレーム1乃至3、4乃至6、7乃至9について行われるフォーカス制御と同じである。また、図20(b)に示すフレーム4乃至6、10乃至12について行われるフォーカス制御は、通常のフォーカス制御である。ここで、図20(b)に示すフレーム1乃至3、7乃至9、13乃至15は、注目被写体を抽出する場合に用いられるフレームであり、図20(b)に示すフレーム4乃至6、10乃至12は、動画再生を行う場合に用いられるフレームである。
なお、この例では、連続する3つの画像を1組の画像群として記録する注目被写体抽出動画記録動作と、連続する3つの画像を1組の画像群として記録する撮像動画記録動作とを交互に行う例を示す。しかしながら、例えば、それぞれの動作において生成される画像の数を変更して行うようにしてもよい。例えば、注目被写体抽出動画記録動作については、連続する3つの画像を1組の画像群とし、撮像動画記録動作については、連続する9つの画像を1組の画像群として記録するようにしてもよい。これらをユーザ操作により設定可能とするようにしてもよい。
[メタデータの記録例]
図21は、本発明の第2の実施の形態における動画記憶部130およびメタデータ記憶部140に記憶されている各情報を模式的に示す図である。図20(a)には、動画記憶部130に記憶されている動画ファイル132を模式的に示す。図20(b)には、動画ファイル132に関連付けてメタデータ記憶部140に記憶されているメタデータファイル147を示す。ここで、動画ファイル132には動画ID「#11」が付与されているものとする。
メタデータファイル147には、図7に示すメタデータファイル141と同様に、動画ID142と、フレーム番号143と、注目被写体抽出画像情報144と、焦点情報145と、絞り情報146とが関連付けて記憶されている。なお、これらの各情報は、図7に示すメタデータファイル141と同様であるが、記憶される内容が図7に示す例と異なる。このため、以下では、図7に示す例と異なる部分を中心に説明し、共通する部分についての説明を省略する。
注目被写体抽出画像情報144には、注目被写体抽出動画記録動作により生成された3つの連続するフレームの先頭フレームには「−1」が格納され、真中のフレームには「2」が格納され、最後のフレームには「1」が格納される。また、撮像動画記録動作により生成された3つの連続する各フレームには「0」が格納される。すなわち、注目被写体抽出画像情報144により、注目被写体抽出動画記録動作により生成された1組の画像群を構成する各画像と、撮像動画記録動作により生成された1組の画像群を構成する各画像とを特定することができる。
焦点情報145には、注目被写体抽出動画記録動作により生成された3つの連続するフレームについては、レンズ112の位置に応じて、「F」、「N」、「T」が格納される。また、撮像動画記録動作により生成された3つの連続する各フレームには「T」が格納される。なお、これらの「F」、「N」、「T」は、図20(b)に示すグラフにおける「F」、「N」、「T」に対応する。
絞り情報146には、注目被写体抽出動画記録動作により生成された3つの連続する各フレームについては、絞り115の絞り値が閾値TH1以下であるため、「O(Open)」が格納される。また、撮像動画記録動作により生成された3つの連続する各フレームについては、絞り115の絞り値が大きい値であるため、「C」が格納される。なお、この「C」は、図20(a)に示すグラフにおける「C」に対応し、「O」は、図20(a)に示すグラフにおける「TH1」に対応する。
[注目被写体抽出および表示例]
次に、動画記憶部130に記憶されている動画ファイルについて、動画再生を行う場合と、注目被写体を抽出してストロボ画像を表示する場合とについて図面を参照して詳細に説明する。
図22および図23は、本発明の第2の実施の形態における表示制御部220により表示される各画像の遷移を示す図である。図22および図23では、表示部230における表示画面231に含まれる動画再生領域232およびストロボ画像表示領域233に各画像が表示される例を示す。動画再生領域232には、撮像動画記録動作により生成された各画像を示し、ストロボ画像表示領域233には、注目被写体抽出動画記録動作により生成された各画像を用いて作成されたストロボ画像を示す。図22および図23に示す動画再生領域232およびストロボ画像表示領域233に表示される各画像は、野球の試合においてバッターボックスに立っているバッターの遷移を示す画像である。また、動画再生領域232およびストロボ画像表示領域233に同時に表示される2つの画像は、略同時刻に記録された画像である。なお、図22および図23に示す例では、注目被写体の遷移を容易に把握するため、一定間隔毎の注目被写体の画像のみを示す。
最初に、再生処理部150が、動画記憶部130に記憶されている動画ファイルおよびこの動画ファイルに関連付けてメタデータ記憶部140に記憶されているメタデータファイルを取得する。続いて、再生処理部150が、取得された動画ファイルをデコードして動画ファイルを構成する各フレームを時系列で順次取得する。続いて、取得された各フレームに関連付けられているメタデータファイルの注目被写体抽出画像情報144を取得する。ここで、注目被写体抽出画像情報144に「0」が格納されている場合には、撮像動画記録動作により生成された画像である。このため、注目被写体抽出画像情報144に「0」が格納されている画像については、再生処理部150が表示制御部220に順次出力し、撮像動画の再生が行われる。ここで、撮像動画記録動作により生成された画像を表示制御部220が表示させる場合には、撮像動画記録動作により生成された1つの画像群と次の画像群との間に含まれる3つのフレームの間隔では、直前に表示された画像を表示する状態とする。
一方、注目被写体抽出画像情報144に「−1」、「2」、「1」の何れかが格納されている場合には、注目被写体抽出動画記録動作により生成された各フレームである。このため、注目被写体抽出画像情報144に「−1」、「2」、「1」が格納されている3つの連続する画像については、再生処理部150が対象画像保持部160に順次出力して保持させる。続いて、評価値算出部170による評価値の算出、注目被写体抽出部180による注目被写体の抽出、画像合成部190による画像合成の一連の処理が行われる。この一連の処理については、1つの画像群と次の画像群との間に、3つのフレームの間隔が空く点以外の点は、本発明の第1の実施の形態と同様であるため、ここでの説明を省略する。
この例では、撮像動画記録動作により生成された画像と、注目被写体抽出動画記録動作により生成された画像とを同時に表示する例を示すが、何れかの画像のみを表示することもできる。例えば、撮像動画記録動作により生成された画像のみを表示させることができる(いわゆる、フレーム飛ばしの再生)。また、動画再生領域232に表示される画像の遷移に応じて、動画再生領域232以外の領域に分解画像を順次表示させるようにしてもよい。これらの表示方法をユーザ操作により選択するようにしてもよい。
[撮像装置の動作例]
次に、本発明の第2の実施の形態における撮像装置100の動作について図面を参照して説明する。
図24は、本発明の第2の実施の形態における撮像装置100による注目被写体抽出動画記録処理の処理手順を示すフローチャートである。この注目被写体抽出動画記録処理は、図17に示す注目被写体抽出動画記録処理の変形例であり、図17に示す処理と同一の処理については同一の符号を付して説明を省略する。また、この例では、制御部200が注目被写体抽出画像情報(−1、2、1、0)を順次保持して、この保持されている注目被写体抽出画像情報に基づいて撮像制御を行う例について説明する。ここで、制御部200が保持する注目被写体抽出画像情報は、−1、2、1については1つの画像を生成する毎に順次変更されるが、0については所定数(例えば、3)の画像を生成するまで保持される。
現在の注目被写体抽出画像情報は「0」であるか否かが判断される(ステップS961)。現在の注目被写体抽出画像情報が「0」である場合には(ステップS961)、絞り値が閾値TH1よりも大きい値となるように、絞り制御部117が絞り115の開閉を制御する(ステップS962)。すなわち、被写体照度に応じて絞り115が調整され、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度が深くなる。
続いて、撮像範囲に含まれる被写体のうち、注目被写体に合焦するようにフォーカス制御部116がレンズ112を制御する(ステップS963)。この状態は、被写体照度に応じて絞り115が調整されて注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度が深くなった状態であるため、フォーカス制御により比較的広い範囲の被写体に合焦することになる。続いて、イメージャ118および撮像信号処理部119が1つの画像を生成する(ステップS964)。続いて、記録制御部120が、生成された1つの画像を動画記憶部130に記録する(ステップS965)。続いて、記録制御部120が、生成された1つの画像に対応する注目被写体抽出画像作成情報をメタデータ記憶部140に記録する(ステップS966)。例えば、注目被写体抽出画像情報として「0」が記録される。
続いて、絞り制御部117が絞り115を開いて、注目被写体抽出画像撮像モードの被写界深度の目標値よりも被写界深度が深くなった後に、所定数(例えば、3)の画像が生成されたか否かが判断される(ステップS967)。所定数の画像が生成されていない場合には(ステップS967)、ステップS963に戻る。すなわち、通常の撮像動画として所定数の画像を順次生成させ、1組の画像群を生成させる。所定数の画像が生成されている場合には(ステップS967)、絞り値が閾値TH1となるように、絞り制御部117が絞り115の開閉を制御し(ステップS968)、ステップS926に進む。すなわち、絞り115が開放され、注目被写体抽出画像撮像モード以外の撮像モードの被写界深度の目標値よりも被写界深度が浅くなる。
図25は、本発明の第2の実施の形態における撮像装置100による動画再生処理の処理手順を示すフローチャートである。この動画再生処理は、図18に示す動画再生処理の変形例であり、図18に示す処理と同一の処理については同一の符号を付して説明を省略する。なお、この例で示すフレーム飛ばしの再生は、注目被写体抽出画像撮像モードにおいて記録された動画を、通常の動画再生と略同様に見ることができる再生処理である。
ストロボ画像の再生を指示する指示操作が受け付けられていない場合には(ステップS932)、フレーム飛ばしの再生を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS936)。フレーム飛ばしの再生を指示する指示操作が受け付けられた場合には(ステップS936)、フレーム飛ばしの再生処理が行われる(ステップS970)。このフレーム飛ばしの再生処理については、図26を参照して詳細に説明する。
一方、フレーム飛ばしの再生を指示する指示操作が受け付けられていない場合には(ステップS936)、動画およびストロボ画像の同時再生を指示する指示操作が、操作受付部210により受け付けられたか否かが判断される(ステップS937)。動画およびストロボ画像の同時再生を指示する指示操作が受け付けられた場合には(ステップS937)、動画ストロボ画像同時再生処理が行われる(ステップS980)。この動画ストロボ画像同時再生処理については、図27を参照して詳細に説明する。一方、動画およびストロボ画像の同時再生を指示する指示操作が受け付けられていない場合には(ステップS937)、ステップS933に進む。
図26は、本発明の第2の実施の形態における撮像装置100による動画再生処理の処理手順のうちのフレーム飛ばしの再生処理手順(図25に示すステップS970の処理手順)を示すフローチャートである。
最初に、再生処理部150が、フレーム飛ばしの再生を指示する指示操作に係る動画ファイルを動画記憶部130から取得し、この取得された動画ファイルをデコードして動画ファイルを構成する1フレーム(現フレーム)を取得する(ステップS971)。続いて、再生処理部150が、取得された動画ファイルに対応するメタデータファイルをメタデータ記憶部140から取得し、この取得されたメタデータファイルから現フレームに対応するメタデータを取得する(ステップS972)。
続いて、再生処理部150が、現フレームに対応するメタデータに含まれる注目被写体抽出画像情報は「0」であるか否かを判断する(ステップS973)。現フレームに対応する注目被写体抽出画像情報が「0」である場合には(ステップS943)、再生処理部150が、現フレームを表示制御部220に出力して保持させ、現画像とする(ステップS974)。一方、現フレームに対応する注目被写体抽出画像情報が「0」でない場合には(ステップS943)、再生処理部150が、現フレームを表示制御部220に出力せずに、表示制御部220に直前に保持されたフレームを現画像とする(ステップS975)。
続いて、表示制御部220が、現画像を表示部230に表示させる(ステップS976)。続いて、フレーム飛ばしの再生を指示する指示操作に係る動画ファイルを構成するフレームのうち、現フレームが最後のフレームであるか否かが判断される(ステップS977)。現フレームが最後のフレームである場合には(ステップS977)、フレーム飛ばしの再生処理の動作を終了する。一方、現フレームが最後のフレームでない場合には(ステップS977)、ステップS971に戻る。
図27は、本発明の第2の実施の形態における撮像装置100による動画再生処理の処理手順のうちの動画ストロボ画像同時生成処理手順(図25に示すステップS980の処理手順)を示すフローチャートである。この動画ストロボ画像同時生成処理は、図19に示すストロボ画像再生処理の変形例であり、図19に示す処理と同一の処理については同一の符号を付して説明を省略する。
最初に、再生処理部150が、動画およびストロボ画像の同時再生の指示操作に係る動画ファイルを動画記憶部130から取得し、この取得された動画ファイルをデコードして動画ファイルを構成する1フレーム(現フレーム)を取得する(ステップS981)。また、現フレームに対応する注目被写体抽出画像情報が「1」でない場合には(ステップS947)、ステップS982に進む。
続いて、再生処理部150が、現フレームに対応するメタデータに含まれる注目被写体抽出画像情報は「0」であるか否かを判断する(ステップS982)。現フレームに対応する注目被写体抽出画像情報が「0」である場合には(ステップS982)、再生処理部150が、現フレームを表示制御部220に出力して保持させ、現画像とする(ステップS983)。続いて、表示制御部220が、現画像を表示部230に表示させ(ステップS984)、ステップS954に進む。また、現フレームに対応する注目被写体抽出画像情報が「0」でない場合には(ステップS943)、ステップS954に進む。
[フォーカス制御の変形例]
以上では、注目被写体抽出画像撮像モードが設定されている場合には、図20に示すように、絞り制御およびフォーカス制御を画像群毎に変更しながら、撮像画像を記録する例について説明した。以下では、絞り制御およびフォーカス制御の変形例について図面を参照して詳細に説明する。
図28は、本発明の第2の実施の形態におけるレンズ112および絞り115の移動の軌跡の一例を時系列で示す図である。なお、図28に示す例は、図20に示すレンズ112および絞り115の移動の軌跡の変形例である。このため、図20に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図20に示す例と異なる部分を中心に説明する。
図28(b)に示す例では、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下された直後のフレーム1乃至3については、制御部200からの制御に基づいて、フォーカス制御部116がフレーム毎にレンズ112を移動させる。例えば、図13(b)に示す場合と同様に、フレーム1乃至3により1組の画像群が構成される。また、フレーム4乃至6については、制御部200からの制御に基づいて、フォーカス制御部116が通常のフォーカス制御を行う。例えば、注目被写体に合焦するようにレンズ112を移動させる。以降は同様に、3つのフレームについてフォーカス制御部116がフレーム毎にレンズ112を移動させる動作と、次の3つのフレームについて通常のフォーカス制御を行う動作とが交互に行われる。例えば、図28(b)に示すフレーム1乃至3、7乃至9、13乃至15について行われるフォーカス制御は、図13(b)に示すフレーム1乃至3、4乃至6、7乃至9について行われるフォーカス制御と同じである。また、図28(b)に示すフレーム4乃至6、10乃至12について行われるフォーカス制御は、通常のフォーカス制御である。ここで、図28(b)に示すフレーム1乃至3、7乃至9、13乃至15は、注目被写体を抽出する場合に用いられるフレームであり、図28(b)に示すフレーム4乃至6、10乃至12は、動画再生を行う場合に用いられるフレームである。
図29は、本発明の第2の実施の形態におけるレンズ112および絞り115の移動の軌跡の一例を時系列で示す図である。なお、図29に示す例は、図20に示すレンズ112および絞り115の移動の軌跡の変形例である。このため、図20に示す例と共通する部分については、同一の符号を付してこれらの説明を省略し、図20に示す例と異なる部分を中心に説明する。
図29(b)に示す例では、注目被写体抽出画像撮像モードが設定されている状態で録画ボタンが押下された直後のフレーム1乃至3については、制御部200からの制御に基づいて、フォーカス制御部116がフレーム毎にレンズ112を移動させる。例えば、図15(b)に示す場合と同様に、フレーム1乃至3により1組の画像群が構成される。また、フレーム4乃至6については、制御部200からの制御に基づいて、フォーカス制御部116が通常のフォーカス制御を行う。例えば、注目被写体に合焦するようにレンズ112を移動させる。以降は同様に、3つのフレームについてフォーカス制御部116がフレーム毎にレンズ112を移動させる動作と、次の3つのフレームについて通常のフォーカス制御を行う動作とが交互に行われる。例えば、図29(b)に示すフレーム1乃至3、7乃至9、13乃至15について行われるフォーカス制御は、図15(b)に示すフレーム1乃至3、4乃至6、7乃至9について行われるフォーカス制御と同じである。また、図29(b)に示すフレーム4乃至6、10乃至12について行われるフォーカス制御は、通常のフォーカス制御である。ここで、図29(b)に示すフレーム1乃至3、7乃至9、13乃至15は、注目被写体を抽出する場合に用いられるフレームであり、図28(b)に示すフレーム4乃至6、10乃至12は、動画再生を行う場合に用いられるフレームである。
このように、図28または図29に示す各状態で、連続する3つの画像が順次生成される。この生成された連続する3つの画像を1組の画像群とし、この1組の画像群に関する注目被写体抽出画像作成情報がメタデータ記憶部140に記録される。なお、メタデータ記憶部140に記録される内容については、1組の画像群を構成する各画像のうち、注目被写体に合焦された画像と、注目被写体以外の被写体に合焦された画像との順序が異なる以外は図21に示す例と同様であるため、ここでの説明を省略する。
このように、本発明の第2の実施の形態によれば、1つの撮像装置による1度の撮像動作により記録された同一時刻の同一のシーンについて、通常の動画再生と略同一の動画再生と、ストロボ画像や分解画像等の再生とを容易に行うことができる。これにより、同一の動画について色々な再生を楽しむことができ、その動画に対する興味をさらに高めることができる。また、これらの記録動作については、注目被写体抽出画像撮像モード設定ボタンの操作により行うことができるため、ユーザ操作が容易である。また、これらの再生を行う場合にも、注目被写体を指定する等の手動操作が不要であるため、ユーザ操作が容易である。
なお、本発明の実施の形態では撮像装置を例にして説明したが、動画記憶部130およびメタデータ記憶部140に記憶されている各ファイルについて画像処理を行うことが可能な画像処理装置に本発明の実施の形態を適用することができる。また、表示部230に表示される合成画像等を他の画像表示装置において表示させるための画像情報を出力する画像出力部を設けた画像処理装置に本発明の実施の形態を適用することができる。また、動画記憶部130およびメタデータ記憶部140に記憶されている各ファイルを記録媒体等に記録して、他の画像処理装置において各再生処理に用いるようにしてもよい。さらに、動画記録や画像を連射することが可能なデジタルスチルカメラや携帯電話機等の撮像装置に本発明の実施の形態を適用することができる。
なお、本発明の実施の形態は本発明を具現化するための一例を示したものであり、上述のように特許請求の範囲における発明特定事項とそれぞれ対応関係を有する。ただし、本発明は実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変形を施すことができる。
また、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。