以下、本発明の実施の形態につき、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。図33は、以下に示される第1〜第10実施形態の概要を示す図である。
<<第1実施形態>>
本発明の第1実施形態を説明する。図1は、本発明の第1実施形態に係る撮像装置1の全体ブロック図である。撮像装置1は、符号11〜28によって参照される各部位を有する。撮像装置1は、デジタルビデオカメラであり、動画像及び静止画像を撮影可能となっていると共に動画像撮影中に静止画像を同時に撮影することも可能となっている。撮像装置1内の各部位は、バス24又は25を介して、各部位間の信号(データ)のやり取りを行う。尚、表示部27及び/又はスピーカ28は、撮像装置1の外部装置(不図示)に設けられたものであってもよい。
撮像部11は、撮像素子(イメージセンサ)33の他、図示されない光学系、絞り及びドライバを備える。撮像素子33は、水平及び垂直方向に複数の受光画素が配列されることによって形成される。撮像素子33は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等からなる固体撮像素子である。撮像素子33の各受光画素は、光学系及び絞りを介して入射した被写体の光学像を光電変換し、該光電変換によって得られた電気信号をAFE12(Analog Front End)に出力する。光学系を構成する各レンズは、被写体の光学像を撮像素子33上に結像させる。
AFE12は、撮像素子33(各受光画素)から出力されるアナログ信号を増幅し、増幅されたアナログ信号をデジタル信号に変換してから映像信号処理部13に出力する。AFE12における信号増幅の増幅度はCPU(Central Processing Unit)23によって制御される。映像信号処理部13は、AFE12の出力信号によって表される画像に対して必要な画像処理を施し、画像処理後の画像についての映像信号を生成する。マイク14は、撮像装置1の周辺音をアナログの音声信号に変換し、音声信号処理部15は、このアナログの音声信号をデジタルの音声信号に変換する。
圧縮処理部16は、映像信号処理部13からの映像信号及び音声信号処理部15からの音声信号を、所定の圧縮方式を用いて圧縮する。内部メモリ17は、DRAM(Dynamic Random Access Memory)などから成り、各種のデータを一時的に保存する。記録媒体としての外部メモリ18は、半導体メモリや磁気ディスクなどの不揮発性メモリであり、圧縮処理部16による圧縮後の映像信号及び音声信号を互いに関連付けた状態で記録する。
伸張処理部19は、外部メモリ18から読み出された圧縮された映像信号及び音声信号を伸張する。伸張処理部19による伸張後の映像信号又は映像信号処理部13からの映像信号は、表示処理部20を介して、液晶ディスプレイ等から成る表示部27に送られて画像として表示される。また、伸張処理部19による伸張後の音声信号は、音声出力回路21を介してスピーカ28に送られて音として出力される。
TG(タイミングジェネレータ)22は、撮像装置1全体における各動作のタイミングを制御するためのタイミング制御信号を生成し、生成したタイミング制御信号を撮像装置1内の各部に与える。タイミング制御信号は、垂直同期信号Vsyncと水平同期信号Hsyncを含む。CPU23は、撮像装置1内の各部位の動作を統括的に制御する。操作部26は、動画像の撮影及び記録の開始/終了を指示するための録画ボタン26a、静止画像の撮影及び記録を指示するためのシャッタボタン26b及び操作キー26c等を有し、ユーザによる各種操作を受け付ける。操作部26に対する操作内容はCPU23に伝達される。
撮像装置1の動作モードには、画像(静止画像又は動画像)の撮影及び記録が可能な撮影モードと、外部メモリ18に記録された画像(静止画像又は動画像)を表示部27に再生表示する再生モードと、が含まれる。操作キー26cに対する操作に応じて、各モード間の遷移は実施される。再生モードにて動作する時の撮像装置1は、画像再生装置として機能する。
撮影モードでは、所定のフレーム周期にて周期的に被写体の撮影が行われ、被写体の撮影画像が順次取得される。画像を表すデジタルの映像信号を画像データとも呼ぶ。1つのフレーム周期分の画像データによって1枚分の画像が表現される。1つのフレーム周期分の画像データによって表現される1枚分の画像を、フレーム画像とも呼ぶ。
尚、画像データの圧縮及び伸張は、本発明の本質とは関係ないため、以下の説明では、画像データの圧縮及び伸張の存在を無視する(即ち例えば、圧縮された画像データを記録することを、単に、画像データを記録すると表現する)。また、本明細書では、或る画像の画像データのことを単に画像と言うこともある。
撮像装置1は、再生モードにおいて動画像を再生する際、動画像上の被写体間距離に応じて、再生レートとも言うべき再生速度を自動的に可変させる機能(以下、再生速度可変機能という)を有する。ユーザは、再生速度可変機能を有効にするか或いは無効にするかを自由に設定することができる。再生速度可変機能が有効になっている時にのみ、再生速度可変機能が働く。再生速度可変機能が有効になっている状態における再生モードを、特に自動スロー再生モードと呼ぶ。
図2に、自動スロー再生モードにおける動作に特に関与する、撮像装置1の一部ブロック図を示す。図2の追尾処理部51及び速度調整部52は、撮像装置1内に設けられる。例えば、追尾処理部51及び速度調整部52を、図1の映像信号処理部13内又は表示処理部20内に設けることができる。
入力動画像の画像データが追尾処理部51及び速度調整部52に与えられる。第1実施形態において、入力動画像の画像データは外部メモリ18に記録された動画像の画像データであり、その画像データは、撮影モードにおける撮像装置1の撮影動作によって得られる。但し、入力動画像の画像データは、撮像装置1以外の装置から与えられるものであっても良い。
入力動画像は、フレーム画像列から成る。フレーム画像列に代表される画像列とは、時系列に並ぶ静止画像の集まりを指す。従って、フレーム画像列は、時系列に並ぶ複数のフレーム画像から成る。各フレーム画像は静止画像であり、入力動画像を形成する各フレーム画像を、特に入力フレーム画像とも呼ぶ。
図3に示す如く、入力フレーム画像を表す記号として、FI1、FI2、FI3、・・・、FInー1、FIn、・・・を導入する。nは2以上の整数である。入力フレーム画像FIi+1は入力フレーム画像FIiの次に撮影されたフレーム画像である(iは任意の自然数)。今、入力動画像の全体にわたって、入力動画像のフレームレートは60fps(frame per second)であるとする。この場合、入力フレーム画像FIiと入力フレーム画像FIi+1の間の時間的な差、即ち入力フレーム画像FIi及びFIi+1間の撮影時間差は、任意の自然数iに対して、1/60秒である。尚、本明細書では、記述の簡略化上、記号(符号)を参照することによって該記号に対応する名称を省略又は略記することがある。例えば、入力フレーム画像FInと画像FInは同じものを指す。
追尾処理部51は、入力動画像の画像データに基づいて入力動画像上における注目物体を入力動画像上で追尾する追尾処理を実行する。入力動画像が撮像装置1の撮影によって取得されたものである場合、注目物体は、入力動画像の撮影時における撮像装置1の注目被写体である。追尾処理によって追尾されるべき注目物体を、以下、追尾対象という。
ユーザは、追尾対象を指定することができる。例えば、表示部27に所謂タッチパネル機能を設けておく。そして、入力動画像を表示部27の表示画面上で表示している時において、注目物体が表示されている、表示画面上の表示領域を、ユーザが指で触れることにより、該注目物体が追尾対象として設定される。或いは例えば、ユーザは、操作部26に対する所定操作によって追尾対象を指定することもできる。更に或いは、顔認識処理を利用して撮像装置1が自動的に追尾対象を設定するようにしても良い。つまり、入力フレーム画像の画像データに基づき入力フレーム画像から人物の顔を含む領域である顔領域を抽出した後、顔認識処理によって当該顔領域に含まれる顔が予め登録された人物の顔と一致しているか否かを照合し、一致が確認された場合に、その顔領域に含まれる顔を有する人物を追尾対象として設定するようにしても良い。
追尾対象の設定後、追尾処理では、入力フレーム画像列の画像データに基づき、各入力フレーム画像における追尾対象の位置及び大きさが逐次検出される。実際には、追尾対象を表す画像データの存在する画像領域が追尾対象領域として各入力フレーム画像内に設定され、追尾対象領域の中心位置(又は重心位置)及び大きさが追尾対象の位置及び大きさとして検出される。追尾処理部51は、各入力フレーム画像における追尾対象の位置及び大きさを表す情報を含む追尾結果情報を出力する。
第1及び第2のフレーム画像間における追尾処理を次のように実行することができる。ここにおける第1のフレーム画像とは、既に追尾対象の位置及び大きさが検出されているフレーム画像を指し、第2のフレーム画像とは、これから追尾対象の位置及び大きさが検出されるべきフレーム画像を指す。第2のフレーム画像は、通常、第1のフレーム画像の次に撮影されるフレーム画像である。
例えば、追尾処理部51は、追尾対象が有する画像特徴に基づいて追尾処理を行うことができる。画像特徴は、輝度情報及び色情報を含む。より具体的には例えば、第2のフレーム画像内に、追尾対象領域の大きさと同程度の大きさを有すると推定される追尾枠を設定して、第2のフレーム画像における追尾枠内の画像の画像特徴と、第1のフレーム画像における追尾対象領域内の画像の画像特徴との類似性評価を追尾枠の位置を探索領域内で順次変更しながら実行し、最大の類似性が得られた追尾枠の中心位置に、第2のフレーム画像における追尾対象領域の中心位置が存在すると判断する。第2のフレーム画像に対する探索領域は、第1のフレーム画像における追尾対象の位置を基準にして設定される。例えば、その探索領域は、第1のフレーム画像における追尾対象の位置を中心とする矩形領域とされ、探索領域の大きさ(画像サイズ)は、フレーム画像の全画像領域の大きさよりも小さい。
尚、フレーム画像上の追尾対象の位置及び大きさを検出する方法として、上述した方法と異なる他の任意の方法(例えば、特開2004−94680号公報に記載された方法や特開2009−38777号公報に記載された方法)を採用することも可能である。
再生速度制御部又は再生速度調整部とも言うべき速度調整部52は、自動スロー再生モードにおいて、追尾結果情報に基づき入力動画像から出力動画像を生成する。出力動画像を形成する各フレーム画像を、出力フレーム画像とも呼ぶ。再生速度可変機能が有効になっている時において、即ち自動スロー再生モードにおいて、出力動画像は、表示部27の表示画面上で再生表示される。尚、再生速度可変機能が無効になっている時においては、入力動画像が、そのまま、60fpsの再生速度にて表示部27の表示画面上で再生表示される。
速度調整部52は、追尾結果情報に基づき入力動画像の再生速度を調整する。この調整後に得られる動画像が出力動画像である。追尾結果情報に基づく再生速度の決定方法を説明する。第1実施形態では、複数の追尾対象が設定された場合を想定する。この場合、追尾処理部51は、各追尾対象に対して追尾処理を行い、各追尾対象の位置及び大きさを表す情報を追尾結果情報に含める。
図4に示される画像200は、1枚の入力フレーム画像を表している。入力フレーム画像200中には、複数の人物が存在している(換言すれば、入力フレーム画像200の画像データには、複数の人物を表す画像データが含まれている)。入力フレーム画像200を含む入力動画像は、サッカーの試合の様子を撮影したものであり、符号203が付された物体は、サッカー場に設置されたゴールである。今、ユーザがタッチパネル機能等を利用して、上記複数の人物の内の、2人の人物を追尾対象201及び202として指定した場合を想定する。サッカーの試合において、その2人の人物がボールを取り合う様子を詳細に鑑賞したい場合に、ユーザは、その2人の人物を追尾対象に指定すれば良い。
図4において、点211及び212は、夫々、追尾処理部51によって検出された追尾対象201の位置(即ち、追尾対象201の画像データが存在する追尾対象領域の中心位置又は重心位置)及び追尾対象202の位置(即ち、追尾対象201の画像データが存在する追尾対象領域の中心位置又は重心位置)を表している。
速度調整部52は、入力フレーム画像ごとに入力フレーム画像上における位置211及び212間の距離を評価距離として導出し、入力動画像の再生速度を評価距離に基づいて動的に変更する。
図5に、再生速度の調整量を規定する再生速度調整率kRと評価距離との関係例を示す。評価距離を記号DISによって表す。このような関係を表すルックアップテーブル又は数式を、予め速度調整部52に与えておくことができる。入力動画像の基準再生速度REFSPは、入力動画像のフレームレート60fpsと一致する。再生速度調整率kRは、その基準再生速度REFSPを基準とした、再生速度の調整率を表す。入力動画像の再生速度はREFSP×kRとされる。従って、kRの値が小さいほど、再生速度は小さくなり、kRの値が大きいほど、再生速度は大きくなる。
再生速度調整率kRが1である区間においては、入力動画像の再生速度は基準再生速度REFSPと同じである。即ち、仮に入力フレーム画像FIn-1〜FIn+1から成る区間に対する再生速度調整率kRが1である場合、入力フレーム画像FIn-1〜FIn+1が、((3×1/60)÷kR)=((3×1/60)÷1)=1/20[秒]をかけて、出力動画像の一部として表示部27の表示画面上に表示される。
入力フレーム画像FIn-1〜FIn+1から成る区間に対する再生速度調整率kRが一定値kROである場合、入力フレーム画像FIn-1〜FIn+1が、((3×1/60)÷kRO)[秒]をかけて、出力動画像の一部として表示部27の表示画面上に表示される。従って例えば、仮に入力フレーム画像FIn-1〜FIn+1から成る区間に対する再生速度調整率kRが1/2である場合、入力フレーム画像FIn-1〜FIn+1が、((3×1/60)÷kR)=((3×1/60)÷1/2)=1/10[秒]をかけて、出力動画像の一部として表示部27の表示画面上に表示される。
図5に示す如く、基本的に、評価距離DISが大きいほど再生速度調整率kRに大きな値が設定される。従って、図6(a)の入力フレーム画像200aを含む、評価距離DISの比較的小さな入力フレーム画像列が再生される区間においては、再生速度調整率kRに比較的小さな値が設定されて入力動画像の再生速度が比較的遅くなる。逆に、図6(b)の入力フレーム画像200bを含む、評価距離DISの比較的大きな入力フレーム画像列が再生される区間においては、再生速度調整率kRに比較的大きな値が設定されて入力動画像の再生速度が比較的速くなる。
図5に示す例では、不等式「DIS<TH1」の成立時には「kR=1/8」とされ、不等式「TH1≦DIS<TH3」の成立時には評価距離DISが基準距離TH1から基準距離TH3に向かって増大するにつれて再生速度調整率kRが1/8から1に向かって線形的に増大せしめられ、不等式「TH3≦DIS<TH4」の成立時には「kR=1」とされ、不等式「TH4≦DIS<TH5」の成立時には評価距離DISが基準距離TH4から基準距離TH5に向かって増大するにつれて再生速度調整率kRが1から2に向かって線形的に増大せしめられ、不等式「TH5≦DIS」の成立時には「kR=2」とされる。
尚、図5に示す例では、不等式「TH1≦DIS<TH3」又は「TH4≦DIS<TH5」の成立時において、評価距離DISの変化に対して再生速度調整率kRを連続的に変化させているが、図7に示す如く、不等式「TH1≦DIS<TH3」又は「TH4≦DIS<TH5」の成立時において、kRを段階的に変化させるようにしても良い。図7に示すDISとkRの関係を用いる場合、例えば、不等式「DIS<TH1」の成立時において「kR=1/8」とされ、不等式「TH1≦DIS<TH2−Δ」の成立時において「kR=1/4」とされ、不等式「TH2−Δ≦DIS<TH2+Δ」の成立時において「kR=1/2」とされ、不等式「TH2+Δ≦DIS<TH4」の成立時において「kR=1」とされ、不等式「TH4≦DIS」の成立時において「kR=2」とされる(但し、Δ>0)。
TH1〜TH5は、不等式「0<TH1<TH2<TH3<TH4<TH5」を満たす基準距離であり、それらは、矩形画像である入力フレーム画像の対角線の長さを元に予め設定される。その対角線の長さを100とした場合、TH5≦100であると共に、例えば、TH1=10、TH2=25、TH3=30且つTH4=80である。
入力動画像と出力動画像との関係を、具体例を挙げて説明する。入力フレーム画像FIn-1が表示部27の表示画面に表示されるまでに追尾対象201及び202が設定された場合を想定する。追尾処理部51は、入力フレーム画像FIn-1よりも後の各入力フレーム画像に対して追尾結果情報を作成し、その追尾結果情報に基づき、速度調整部52は、入力フレーム画像FIn-1よりも後の各入力フレーム画像に対して評価距離DISを導出する。
そして、入力フレーム画像FIn〜FIn+2に対して求められた評価距離DISについて不等式「TH3≦DIS<TH4」が成立しており、図8に示す如く、入力フレーム画像FIn〜FIn+2に対する再生速度調整率kRに1が設定されたことを想定する。この場合、速度調整部52は、3枚の入力フレーム画像FIn〜FIn+2に基づく3枚の出力フレーム画像FOn〜FOn+2を出力する。出力フレーム画像FOn〜FOn+2は、((3×1/60)÷kR)=((3×1/60)÷1)=1/20[秒]をかけて、出力動画像の一部として表示部27の表示画面上に表示される。出力フレーム画像FOn〜FOn+2は、夫々、入力フレーム画像FIn〜FIn+2と同じ画像である。
また、入力フレーム画像FIn+3〜FIn+5に対して求められた評価距離DISが基準距離TH2と同じ又は略同じであることを想定する。そうすると、図8に示す如く、速度調整部52は、入力フレーム画像FIn+3〜FIn+5に対する再生速度調整率kRに1/2を設定し、3枚の入力フレーム画像FIn+3〜FIn+5に基づく6枚の出力フレーム画像FOn+3〜FOn+5及びFOn+3’〜FOn+5’を出力する。出力フレーム画像FOn+3〜FOn+5は、夫々、入力フレーム画像FIn+3〜FIn+5と同じ画像である。出力フレーム画像FOn+3’は出力フレーム画像FOn+3及びFOn+4間に挿入され、出力フレーム画像FOn+4’は出力フレーム画像FOn+4及びFOn+5間に挿入される。出力フレーム画像FOn+5’は、出力フレーム画像FOn+5と、入力フレーム画像FIn+6と同じ画像である出力フレーム画像FOn+6との間に挿入される。
入力フレーム画像FIn+3と同じ画像を出力フレーム画像FOn+3’として生成することもできるし、入力フレーム画像FIn+3及びFIn+4から補間によって出力フレーム画像FOn+3’を生成するようにしても良い(出力フレーム画像FOn+4’及びFOn+5’についても同様)。
速度調整部52から出力される出力フレーム画像列は、出力動画像として一定のフレームレート60fpsにて表示部27に表示される。つまり、9枚の出力フレーム画像FOn、FOn+1、FOn+2、FOn+3、FOn+3’、FOn+4、FOn+4’、FOn+5及びFOn+5’は、(9×1/60)[秒]をかけて、出力動画像の一部として表示部27の表示画面上に表示される。結果、kRに1/2が設定された入力フレーム画像列FIn+3〜FIn+5は、基準再生速度REFSPの1/2倍の再生速度にてスロー再生されることになる。
動画像の再生時には、動画像に関連付けられた音声信号(動画像の映像信号に関連付けられた音声信号)もスピーカ28にて再生される。kR=1が設定された入力フレーム画像FIn〜FIn+2の再生時には、それに関連付けられた音声信号も通常の速度にて再生されるが、kR=1/2が設定された入力フレーム画像FIn+3〜FIn+5の再生時においては、それに関連付けられた音声信号も、通常の速度の1/2の速度にて再生される。即ち、画像FIn+3に関連付けられた音声信号が、画像FOn+3及びFOn+3’の表示が終了するまで伸ばして再生される(画像FIn+4及びFIn+5に関連付けられた音声信号も同様)。或いは、画像FIn+3に関連付けられた音声信号を画像FOn+3の表示時において通常の速度にて再生し、画像FOn+3’の表示時において、同じ音声信号(即ち、画像FIn+3に関連付けられた音声信号)を通常の速度にて再度再生するようにしても良い(画像FIn+4及びFIn+5に関連付けられた音声信号も同様)。
入力フレーム画像列FIn+3〜FIn+5に対してkR=1/2が設定された場合におけるスロー再生動作を説明したが、kR≠1/2の場合におけるスロー再生動作も同様である。例えば、入力フレーム画像列FIn+3〜FIn+5に対してkR=1/4が設定されたならば、画像FOn+3及びFOn+4間、画像FOn+4及びFOn+5間、画像FOn+5及びFOn+6間に、夫々、画像FOn+3’、FOn+4’、FOn+5’が3枚ずつ挿入される。換言すれば、画像FIn+3及びFIn+4間、画像FIn+4及びFIn+5間、画像FIn+5及びFIn+6間に、夫々、画像FOn+3’、FOn+4’、FOn+5’が3枚ずつ挿入される。結果、kRに1/4が設定された入力フレーム画像列FIn+3〜FIn+5は、基準再生速度REFSPの1/4倍の再生速度にてスロー再生されることになる。
また、入力フレーム画像FIn+6〜FIn+11に対して求められた評価距離DISが十分に大きく、図9に示す如く、入力フレーム画像FIn+6〜FIn+11に対する再生速度調整率kRに2が設定された場合を考える。この場合、速度調整部52は、6枚の入力フレーム画像FIn+6〜FIn+11の一部を間引くことにより3枚の出力フレーム画像FOn+6、FOn+8及びFOn+10を生成する。出力フレーム画像FOn+6、FOn+8及びFOn+10は、夫々、入力フレーム画像FIn+6、FIn+8及びFIn+10と同じ画像である。3枚の出力フレーム画像FOn+6、FOn+8及びFOn+10は、(3×1/60)[秒]をかけて、出力動画像の一部として表示部27の表示画面上に表示される。つまり、kRに2が設定された入力フレーム画像列FIn+6〜FIn+11は、基準再生速度REFSPの2倍の再生速度にて早送り再生されることになる。
本実施形態によれば、ユーザ(視聴者)が注目している複数の追尾対象が近づいた時に(例えば、サッカーの試合において複数の注目人物がボールを取り合っている時に)自動的にスロー再生が成される。つまり、ユーザの希望に符合するスロー再生が自動的に成される。フレーム間差分等を利用して画像上の物体の動きのある/なしを判別し、物体の動きのある映像区間を自動的にスローで再生するといった方法では、ユーザの非注目物体の動きにも反応してスロー再生が成されてしまうが、本実施形態の方法によれば、そのような望ましくないスロー再生が回避される。
また、評価距離DISが大きくなっている映像区間は、重要なシーンについての映像区間ではないと推測される。これを考慮し、上述の例では、評価距離DISが相応に大きい時に早送り再生を行う。これにより、動画像の視聴に要する時間を短縮することができる。また、スロー再生時における再生速度が常に同じであると、スロー再生時における映像が単調になりやすくなるが、本実施形態では、スロー再生時における再生速度を2段階以上で変化させる(基準再生速度REFSPをも含めて考えると、再生速度を3段階以上で変化させる)。このため、臨場感のあるスロー再生が可能となる。
尚、上述したような早送り再生が行われないようにすることも可能である。即ち例えば、不等式「TH3≦DIS」の成立時には、評価距離DISが幾ら大きくなっても、常にkRを1としても良い。
また、追尾対象201及び202(図4参照)の内、少なくとも一方の追尾対象の画像データが入力フレーム画像に含まれなくなった時(追尾対象がフレームアウトした時)、或いは、追尾処理が失敗して追尾対象の位置が検出不能になった時には、評価距離DISの算出ができなくなる。入力動画像の再生中に、評価距離DISの算出が不可能になった場合には、以後、入力動画像の再生速度を基準再生速度REFSPにすれば良い。但し、その後に、評価距離DISの算出が再度可能になったならば、評価距離DISに基づく再生速度の調整を再開することができる。
次に、図10を参照して、自動スロー再生モードにおける撮像装置1の動作の流れを説明する。図10は、この動作の流れを表すフローチャートである。自動スロー再生モードにて入力動画像としての動画像の再生が指示されると、入力動画像を形成する入力フレーム画像が時系列上で早いものから順に外部メモリ18より読み出され(ステップS11)、追尾対象の設定が成されるまで、基準再生速度REFSPにて入力動画像が再生される(ステップS12及びS13)。ユーザの指定等によって追尾対象の設定が成されると(ステップS13のY)、ステップS14〜S16において、現時点の入力フレーム画像が外部メモリ18より読み出されて(ステップS14)、その現時点の入力フレーム画像に対して追尾結果情報に基づく評価距離DISが算出されると共に(ステップS15)該評価距離DISに基づく再生速度にて現時点の入力フレーム画像が再生される(ステップS16)。ステップS14〜S16の処理は、入力動画像の再生が終了するまで繰り返し実行される(ステップS17)。
<<第2実施形態>>
本発明の第2実施形態を説明する。第2実施形態は、第1実施形態の一部を変形した実施形態であり、第2実施形態において特に述べない事項に関しては、矛盾なき限り、第1実施形態にて述べた事項が第2実施形態にも適用される。
第1実施形態では、複数の追尾対象間の距離を評価距離DISとして導出していたが、第2実施形態では、追尾対象の位置と固定位置との距離を評価距離DISとして導出する。
図11に示される画像200は、図4に示すそれと同じ入力フレーム画像である。入力フレーム画像200中には、複数の人物が存在している。タッチパネル機能等を利用して、上記複数の人物の内の、1人の人物を追尾対象201としてユーザが指定した場合を想定する。更に、ユーザがタッチパネル機能等を利用して、入力フレーム画像200中の一点を指定した場合を想定する。図11において、符号213が付された点が指定された一点であり、その指定された一点の、入力フレーム画像200上における位置を固定位置213と呼ぶ。図11に示す例において、固定位置213は、サッカーのゴールが表示されている位置である。サッカーの試合において、ユーザの注目人物(追尾対象201)がゴールに接近した時の様子を詳細に鑑賞したい場合に、ユーザは、タッチパネル機能等を利用して該注目人物とゴールを指定すれば良い。
速度調整部52は、入力フレーム画像ごとに入力フレーム画像上における位置211及び213間の距離を評価距離DISとして導出し、入力動画像の再生速度を評価距離DISに基づいて動的に変更する。入力フレーム画像が異なれば位置211は変化しうるが、固定位置213は不変である。入力動画像の再生速度を評価距離DISに基づいて動的に変更する方法は、第1実施形態で述べたものと同様であり、評価距離DISに基づいて入力動画像から出力動画像が生成される動作も第1実施形態で述べたものと同様である。更に、図10を参照して説明した自動スロー再生モードにおける撮像装置1の動作の流れも、第1実施形態で述べたものと同様である。但し、第2実施形態では、入力動画像の再生開始後、ユーザの指定等によって追尾対象と固定位置の設定が成された後に、ステップS14〜S16の各処理が実行される。
本実施形態によっても、第1実施形態と同様の効果が得られる。
<<第3実施形態>>
本発明の第3実施形態を説明する。外部メモリ18の記録データに基づく上述の各処理を、撮像装置と異なる電子機器(例えば、画像再生装置;不図示)にて実現することも可能である(撮像装置も電子機器の一種である)。
例えば、撮像装置1において、動画像の撮影を行って該動画像の画像データを外部メモリ18に記憶しておく。そして、上記電子機器に、図2の追尾処理部51及び速度調整部52を設けておくと共に図1の表示部27及びスピーカ28と同等の表示部及びスピーカを設けておき、外部メモリ18に記録された動画像の画像データを入力動画像の画像データとして、電子機器内の追尾処理部51及び速度調整部52に与えれば良い。電子機器において、表示部は一定のフレームレート60fpsにて速度調整部52からの出力動画像を再生表示する。これにより、電子機器の表示部上で再生速度調整の成された入力動画像の再生がなされると共に該入力動画像に関連付けられた音声信号も電子機器のスピーカにて再生される。
<<第4実施形態>>
本発明の第4実施形態を説明する。第1又は第2実施形態にて述べた事項は、矛盾なき限り、第4実施形態にも適用される。第4実施形態では、撮影モードにおける撮像装置1の特徴的動作を説明する。
撮像装置1は、撮影モードにおいて動画像を記録する際、動画像上の被写体間距離に応じて、記録される動画像のフレームレートを自動的に可変させる機能(以下、記録レート可変機能という)を有する。ユーザは、記録レート可変機能を有効にするか或いは無効にするかを自由に設定することができる。記録レート可変機能が有効になっている時にのみ、記録レート可変機能が働く。記録レート可変機能が有効になっている状態における撮影モードを、特に自動スロー記録モードと呼ぶ。第4実施形態における以下の説明は、特に記述無き限り、自動スロー記録モードにおける撮像装置1の動作説明である。
図12に、自動スロー記録モードにおける動作に特に関与する、撮像装置1の一部ブロック図を示す。図12の追尾処理部51及び撮影レート調整部(フレームレート制御部)72は、撮像装置1内に設けられる。図12の追尾処理部51は、図2のそれと同じものである。撮影レート調整部72は、例えば、図1のCPU23及び/又はTG22によって実現される。
撮像部11の撮影によって得られた各フレーム画像の画像データは、入力フレーム画像の画像データとして、順次、追尾処理部51に送られる。本実施形態及び後述の第5実施形態における入力フレーム画像の画像データとは、第1〜第3実施形態と異なり、自動スロー記録モードにおいてAFE12から出力されるフレーム画像の画像データを指す。第1〜第3実施形態における入力フレーム画像列のフレームレートは60fpsにて固定されているが、本実施形態では、入力フレーム画像列のフレームレートが適宜変更される(詳細は後述)。
追尾処理部51は、与えられた入力フレーム画像列に対して、第1実施形態で述べた追尾処理を実行する。即ち、与えられた入力フレーム画像列の画像データに基づいて入力フレーム画像列上における追尾対象を入力フレーム画像列上で追尾し、各入力フレーム画像における追尾対象の位置及び大きさを逐次検出して、各入力フレーム画像における追尾対象の位置及び大きさを表す情報を含む追尾結果情報を出力する。
追尾対象の設定方法は、第1実施形態で述べた通りである。撮影モードにおいては、撮影によって順次得られる入力フレーム画像列が動画像として表示部27に表示される。ユーザは、タッチパネル機能を利用し、注目被写体とも言うべき注目物体が表示されている表示領域を指で触れることで、該注目物体を追尾対象として設定することができる。
撮像装置1における撮像素子33は、撮影におけるフレームレート(以下、撮影レートという)をシームレスに変更することができる。図12の撮影レート調整部72は、自動スロー記録モードにおいて、追尾結果情報に基づき撮影レートを動的に変更させる。撮影レートの変更は、撮像素子33の駆動モード及びTG22から撮像素子33に与えられる駆動パルスの周期を変更することで実現される。尚、記録レート可変機能が無効になっている時における撮影レートは常に60fpsであるとする。
図4に示す入力フレーム画像200が表示されている時に、ユーザがタッチパネル機能等を利用して2つの追尾対象を指定し且つ該2つの追尾対象が追尾対象201及び202であったことを想定して、撮影レート調整部72による撮影レートの変更方法を説明する。
撮影レート調整部72は、入力フレーム画像ごとに入力フレーム画像上における位置211及び212間の距離を評価距離DISとして導出し、撮影レートを評価距離DISに基づいて動的に変更する。
図13に、撮影レートと評価距離DISとの関係例を示す。このような関係を表すルックアップテーブル又は数式を、予め撮影レート調整部72に与えておくことができる。図13に示す如く、基本的に、評価距離DISが大きいほど撮影レートが小さくされる。
図13に示す例では、不等式「DIS<TH1」の成立時において撮影レートは300fpsとされ、不等式「TH1≦DIS<TH3」の成立時には評価距離DISが基準距離TH1から基準距離TH3に向かって増大するにつれて撮影レートが300fpsから60fpsに向かって線形的に減少せしめられ、不等式「TH3≦DIS<TH4」の成立時には撮影レートは60fpsとされ、不等式「TH4≦DIS<TH5」の成立時には評価距離DISが基準距離TH4から基準距離TH5に向かって増大するにつれて撮影レートが60fpsから15fpsに向かって線形的に減少せしめられ、不等式「TH5≦DIS」の成立時には撮影レートは15fpsとされる。また、評価距離DISが基準距離TH2と同じ又は略同じである時、撮影レートは120fpsとされる。
撮影レートの連続的な変化が可能であるならば上述のような撮影レートの調整が可能であるが、通常、撮影レートは段階的にしか変化させられないことが多い。従って、図5の関係を図7の関係へと変形したように、不等式「TH1≦DIS<TH3」又は「TH4≦DIS<TH5」の成立時において、撮影レートを連続的に変化させるのではなく段階的に変化させるようにしても良い。
より具体的な動作例を説明する。入力フレーム画像Fnの撮影前までに追尾対象201及び202が設定されたことを想定する。例えば、入力フレーム画像FIn〜FIn+2に対して求められた評価距離DISについて不等式「TH3≦DIS<TH4」が成立しているとしたならば入力フレーム画像FIn〜FIn+2の撮影区間に対する撮影レートは60fpsとされ、入力フレーム画像FIn〜FIn+2に対して求められた評価距離DISが基準距離TH2と同じ又は略同じであったならば入力フレーム画像FIn〜FIn+2の撮影区間に対する撮影レートは120fpsとされ、入力フレーム画像FIn〜FIn+2に対して求められた評価距離DISが基準距離TH1と同じ又は略同じであったならば入力フレーム画像FIn〜FIn+2の撮影区間に対する撮影レートは300fpsとされ、入力フレーム画像FIn〜FIn+2に対して求められた評価距離DISが基準距離TH5と同じ又は略同じであったならば入力フレーム画像FIn〜FIn+2の撮影区間に対する撮影レートは15fpsとされる。
撮影レートの変更は、可能な限りにおいて速やかに実行される。即ち例えば、入力フレーム画像FIn〜FIn+2に対して求められた評価距離DISについて不等式「TH3≦DIS<TH4」が成立しており、且つ、入力フレーム画像FIn+3〜FIn+6に対して求められた評価距離DISが基準距離TH2と同じ又は略同じである場合、可能であるならば撮影レートが瞬時に変更されて、入力フレーム画像FIn+3〜FIn+6の撮影区間に対する撮影レートが120fpsとされる。但し、追尾処理の処理時間等によっては、画像FIn+3及びFIn+4間の撮影間隔や画像FIn+4及びFIn+5間の撮影間隔は、1/120秒よりも大きくなることもある。
上述のようにして得た入力フレーム画像列の画像データは、入力動画像の画像データとして外部メモリ18に記録される。再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した入力動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された入力動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該入力動画像を一定のフレームレート60fpsにて再生させることもできる。
評価距離DISが小さいことに起因して撮影レートが高い状態で記録された部分は、単位時間当たりの記録フレーム数が多いため、スローで再生される。逆に、評価距離DISが大きいことに起因して撮影レートが低い状態で記録された部分は、単位時間当たりの記録フレーム数が少ないため、早送りで再生される。結果、第1実施形態と同様の効果が得られる。また、評価距離DISが小さい時に高い撮影レート(例えば120fps)にて実際に撮影を行って画像記録を行うため、第1〜第3実施形態と比べて、高画質のスロー再生を行うことができる。反面、記録データ量が多くなると共に、高い撮影レート(例えば120fps)にて撮影された部分を通常再生する場合には間引き処理が必要となる。
尚、評価距離DISが大きい時に、撮影レートの低速化を行わないようにしても良い。即ち例えば、不等式「TH3≦DIS」の成立時には、評価距離DISが幾ら大きくなっても、常に撮影レートを60fpsに設定するようにしても良い。また、入力動画像の撮影及び記録中に、評価距離DISの算出が不可能になった場合には、以後、入力動画像の撮影レートを60fpsにすれば良い。但し、その後に、評価距離DISの算出が再度可能になったならば、評価距離DISに基づく撮影レートの調整を再開することができる。
また、第1実施形態を第2実施形態へと変形できるように、本実施形態において、追尾対象の位置と固定位置との距離を評価距離DISとして導出するようにしても良い。即ち例えば、入力動画像の撮影中において入力動画像を形成する入力フレーム画像200が表示されている時(図11参照)、ユーザは、タッチパネル機能等を利用して追尾対象201と固定位置203を指定することができる。この場合、撮影レート調整部72は、入力フレーム画像200以降に得られる各入力フレーム画像に対して入力フレーム画像上における位置211及び213間の距離を評価距離DISとして導出し、入力フレーム画像200以降に得られる入力フレーム画像列の撮影レートを評価距離DISに基づいて動的に変更する。入力フレーム画像が異なれば位置211は変化しうるが、固定位置213は不変である。撮影レートを評価距離DISに基づいて動的に変更する方法は、上述したものと同様である。
図14を参照して、自動スロー記録モードにおける撮像装置1の動作の流れを説明する。図14は、この動作の流れを表すフローチャートである。自動スロー記録モードでは、まず60fpsの撮影レートにて入力動画像の撮影が開始され(ステップS21)、複数の追尾対象の設定が成されるまで或いは追尾対象と固定位置の設定が成されるまで撮影レートは60fpsに維持される(ステップS22)。1回目の録画ボタン26aの押下操作があった時点から入力フレーム画像の画像データが外部メモリ18に順次記録される。ユーザの指定等によって複数の追尾対象の設定又は追尾対象と固定位置の設定が成されると(ステップS22のY)、ステップS23及びS24において、最新の入力フレーム画像から評価距離DISが算出されて最新の評価距離DISに応じて撮影レートが設定されると共に、最新の入力フレーム画像の画像データが順次外部メモリ18に記録される。ステップS23及びS24の処理は、入力動画像の撮影が終了するまで(例えば、2回目の録画ボタン26aの押下操作があるまで)、繰り返し実行される(ステップS25)。
<<第5実施形態>>
本発明の第5実施形態を説明する。第5実施形態は、第4実施形態の一部を変形した実施形態であり、第5実施形態において特に述べない事項に関しては、矛盾なき限り、第4実施形態にて述べた事項が第5実施形態にも適用される。また、第1〜第3実施形態にて述べた事項も、矛盾なき限り第5実施形態に適用される。
第5実施形態では、自動スロー記録モードにおいて、撮影レートを60fpsに固定して入力動画像の画像データを取得し、その入力動画像の画像データを図2の追尾処理部51及び速度調整部52に与え、これによって速度調整部52から得られる出力動画像の画像データを外部メモリ18に記録する。入力動画像から出力動画像を生成する方法は、第1又は第2実施形態で述べた通りである。そして、再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した出力動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された出力動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該出力動画像を一定のフレームレート60fpsにて再生させる。
第5実施形態によっても、第4実施形態と同様、評価距離DISに応じて、記録されるフレーム画像の単位時間当たりの枚数が調整される。即ち、記録フレームレート制御部又はフレームレート制御部とも言うべき図2の速度調整部52により、記録される動画像のフレームレートが評価距離DISに応じて調整される。このため、第5実施形態によっても、第4実施形態と同様の効果が得られる。
<<第6実施形態>>
本発明の第6実施形態を説明する。第1及び第2実施形態において、入力動画像の再生速度を評価距離DISに基づき動的に制御する再生速度可変機能を説明した。第1実施形態で述べたように、再生速度可変機能が有効になっている状態における再生モードは、特に自動スロー再生モードと呼ばれる。第6実施形態では、図1の撮像装置1による再生速度可変機能の他の実現方法を説明する。上述の各実施形態にて記載した事項が、矛盾無き限り、第6実施形態にも適用される。
図15は、第6実施形態に係る自動スロー再生モードの動作に特に関与する、撮像装置1の一部ブロック図である。図15の顔検出部101及び速度調整部52aを、例えば、図1の映像信号処理部13又は表示処理部20内に設けることができる。
入力動画像の画像データが顔検出部101及び速度調整部52aに与えられる。第6実施形態において、入力動画像の画像データは外部メモリ18に記録された動画像の画像データであり、その画像データは、撮影モードにおける撮像装置1の撮影動作によって得られる。但し、入力動画像の画像データは、撮像装置1以外の装置から与えられるものであっても良い。第6実施形態及び後述の他の実施形態においても、第1実施形態と同様、入力動画像を形成する入力フレーム画像を表す記号として、FI1、FI2、FI3、・・・、FInー1、FIn、・・・を導入する(図3参照)。また、第6実施形態では、第1実施形態と同様、入力動画像の全体にわたって、入力動画像のフレームレートは60fps(frame per second)であるとする。第6実施形態における以下の説明は、特に記述無き限り、自動スロー再生モードにおける撮像装置1の動作説明である。
顔検出部101は、入力フレーム画像に基づき当該入力フレーム画像に対する顔検出処理を実行し、その顔検出処理の結果を表す顔検出情報を生成する。顔検出部101は、顔検出処理を、入力フレーム画像ごとに行うことができる。顔検出処理では、入力フレーム画像の画像データに基づいて入力フレーム画像中から人物の顔を検出し、検出された顔を含む顔領域を抽出する。画像中に含まれる顔を検出する手法として様々な手法が知られており、顔検出部101は何れの手法をも採用可能である。例えば、予め登録された基準顔画像との類似度が高い画像部分を入力フレーム画像から顔領域として抽出することで、入力フレーム画像上の顔を検出することができる。
また、顔検出部101は、顔検出処理において、入力フレーム画像における顔の向きをも検出する。即ち例えば、顔検出部101は、入力フレーム画像から検出された顔が、図16(a)に示すような正面顔(正面から見た顔)であるのか、或いは、図16(b)及び(d)に示すような斜め顔(斜め方向から見た顔)であるのか、或るいは、図16(c)及び(e)に示すような横顔(横から見た顔)であるのかを、複数段階に区別して検出可能である。顔の向きを検出する手法として様々な手法が提案されており、顔検出部101は何れの手法をも採用可能である。例えば、特開平10−307923号公報に記載の手法のように、入力フレーム画像の中から、目、鼻、口等の顔部品を順番に見つけていって入力フレーム画像上の顔の位置を検出し、顔部品の投影データに基づいて顔の向きを検出するようにしても良い。或いは例えば、特開2006−72770号公報に記載の手法を用いてもよい。
顔の向きを表す角度を記号θにて表現し、その角度を向き角度と呼ぶ。正面顔の向き角度θは0°であり、横顔の向き角度θは90°又は(−90°)である。斜め顔の向き角度θは、“0°<θ<90°”又は“−90°<θ<0°”を満たす。撮像装置1に真っ直ぐ正対した顔が入力フレーム画像上に現れている場合、その顔の向き角度θは0°である。顔が撮像装置1に真っ直ぐ正対している状態を起点として、その顔が首を回転軸として左及び右方向のどちらかに徐々に回転してゆくと、その回転の過程において、その顔の向き角度θの絶対値は90°に向かって徐々に増大していく。今、入力フレーム画像上における顔が入力フレーム画像上の右方向を向いているとき(図16(b)及び(c)参照)、その顔の向き角度θは負であるとし、入力フレーム画像上における顔が入力フレーム画像上の左方向を向いているとき(図16(d)及び(e)参照)、その顔の向き角度θは正であるとする。
更に、顔検出部101は、顔検出処理において、入力フレーム画像内における顔の傾きをも検出する。ここにおける顔の傾きとは、図17に示す如く、入力フレーム画像310の垂直方向に対する顔313の傾きを意味し、例えば、入力フレーム画像310の垂直方向に平行な直線311に対する顔313の口中央と眉間を結ぶ直線312の傾きである。例えば、入力フレーム画像を回転させ、回転後の画像に対して上記の類似度の評価を行うことにより、傾いた顔を検出可能であると共に顔の傾きを検出することができる。
顔の傾きを表す角度を記号φにて表現し、その角度を傾き角度と呼ぶ。図17の入力フレーム画像310において、傾き角度φは直線311と直線312が成す角度である。図17に示す如く、入力フレーム画像310上において直線311を反時計周り方向に90度未満だけ回転させた直線が直線312である場合には傾き角度φは負であり、図17に示す状況とは異なるが、入力フレーム画像310上において直線311を時計周り方向に90度未満だけ回転させた直線が直線312である場合には傾き角度φは正であるとする。
図18及び図19を参照して、顔検出部101にて実行可能な顔検出処理の一例を説明する。尚、便宜上、顔の向き角度θの検出を向き検出と呼び、顔の傾き角度φの検出を傾き検出と呼ぶ。図18において、符号320は、任意の1枚の入力フレーム画像を表している。図19に示された複数の顔は、顔検出部101に予め登録された複数の基準顔画像RF[θO,φO]を表している。θOは基準顔画像RF[θO,φO]の向き角度を表し、φOは基準顔画像RF[θO,φO]の傾き角度を表している。向き角度θが−90°、−60°、−30°、−15°、0°、15°、30°、60°及び90°である時の基準顔画像RF[θO,φO]が夫々に設定されており、且つ、傾き角度φが−30°、−15°、0°、15°及び30°である時の基準顔画像RF[θO,φO]が夫々に設定されている。従って、基準顔画像RF[θO,φO]の種類の総数は45(=9×5)である。図19には、図示の簡略化上、5つの基準顔画像のみに対して対応する符号(RF[90°,−30°]、RF[−90°,−30°]、RF[90°,30°]、RF[−90°,30°]及びRF[90°,0°])が付されている。
顔検出部101は、入力フレーム画像320内に所定の画像サイズを有する着目領域321を設定する。そして、まず、45種類の基準顔画像RF[θO,φO]の1つである基準顔画像RF[90°,0°]に注目し、着目領域321内の画像と基準顔画像RF[90°,0°]との類似度を判定することで、着目領域321に、向き角度θが90°であって且つ傾き角度φが0°の顔が含まれているか否かを検出する。類似判定は、顔であるか否かを識別するのに有効な特徴量を抽出することによって行う。特徴量は、水平エッジ、垂直エッジ、右斜めエッジ、左斜めエッジ等である。
入力フレーム画像320において着目領域321は一画素ずつ左右方向又は上下方向にずらされる。そして、ずらされた後の着目領域321の画像と基準顔画像RF[90°,0°]とが対比されて、再度、両画像の類似度が判定され、同様の検出が行われる。このように、着目領域321は、例えば入力フレーム画像320の左上から右下方向に向けて1画素ずつずらされながら、更新設定される。図18における矢印は、着目領域321がずらされていく過程を示している。また、入力フレーム画像320を一定割合で縮小し、縮小後の画像に対して、上述と同様の向き検出及び傾き検出を行う。このような処理を繰り返すことにより、入力フレーム画像320から、任意の大きさを有する、向き角度θが90°であって且つ傾き角度φが0°の顔を検出することができる。
基準顔画像RF[90°,0°]に注目して行った処理を、基準顔画像RF[60°,0°]に対しても同様に行う。これにより、入力フレーム画像320中から、任意の大きさを有する、向き角度θが60°であって且つ傾き角度φが0°の顔を検出することができる。更に、基準顔画像RF[90°,0°]及びRF[60°,0°]に注目して行った処理を、残りの43種類の基準顔画像RF[θO,φO]の夫々に対しても同様に行う。そうすると、最終的に、様々な向き角度θ及び傾き角度φを持った顔を入力フレーム画像320から検出することができる。
図19に示す例では、顔の向き角度θが9段階で検出され且つ顔の傾き角度φが5段階で検出されているが、顔の向き角度θは9段階と異なる段階数にて検出されても良く、顔の傾き角度φは5段階と異なる段階数にて検出されても良い。基準顔画像RF[90°,0°]と着目領域321内の画像との類似度と、基準顔画像RF[60°,0°]と着目領域321内の画像との類似度とに基づき、着目領域321内の顔の向き角度θを、「60°<θ<90°」を満たす範囲内において高分解能で検出するようにしても良い(例えば、前者の類似度と後者の類似度が同程度の場合、θが75°であると検出するようにしても良い)。他の基準顔画像(例えば、RF[60°,0°]及びRF[30°,0°])についての類似度に基づく向き角度θの検出においても同様であり、傾き角度φの検出においても同様である。
顔検出部101にて生成される顔検出情報には、顔の存否を表す情報の他、向き角度θ及び傾き角度φを表す情報が含められる(図15参照)。例えば、図18の入力フレーム画像320中から、向き角度θが90°であって且つ傾き角度φが0°の顔が検出された場合、その検出された顔の向き角度θ及び傾き角度φが夫々90°及び0°であることを示す情報が顔検出情報に含められる。顔検出情報に、入力フレーム画像上における顔の位置及び大きさを表す情報を更に含めておくようにしても良い。顔検出情報は速度調整部52aに与えられる(図15参照)。
速度調整部52aは、顔検出情報に基づき入力動画像の再生速度を調整することで出力動画像を生成する。第1実施形態における速度調整部52(図2及び図5参照)では、評価距離DISに基づいて決定した再生速度調整率kRを用いて入力動画像の再生速度を調整していたが、速度調整部52aでは、顔検出情報に基づいて決定した再生速度調整率kRを用いて入力動画像の再生速度を調整する。
速度調整部52aは、向き角度θ及び/又は傾き角度φに基づく評価角度ANGに基づき、再生速度調整率kRを決定する。評価角度ANGは、向き角度θの絶対値である角度|θ|、又は、傾き角度φの絶対値である角度|φ|である。或いは、向き角度θ及び傾き角度φに基づく角度を評価角度ANGに代入しても良い。即ち例えば、ANG=k1・|θ|+k2・|φ|であってもよい。k1及びk2は、正の値を有する所定の重み付け係数である。評価角度ANGが角度|θ|である場合には、顔検出処理から顔の傾き検出を割愛することもできるし、評価角度ANGが角度|φ|である場合には、顔検出処理から顔の向き検出を割愛することもできる。
図20に、再生速度調整率kRと評価角度ANGとの関係例を示す。このような関係を表すルックアップテーブル又は数式を、予め速度調整部52aに与えておくことができる。上述したように、再生速度調整率kRは、入力動画像のフレームレート60fpsと一致する基準再生速度REFSPを基準とした、再生速度の調整率を表し、入力動画像の再生速度はREFSP×kRとされる。従って、kRの値が小さいほど再生速度は小さくなり、kRの値が大きいほど再生速度は大きくなる。
図20に示す例では、不等式「0°≦ANG<THA1」の成立時には「kR=1/8」とされ、不等式「THA1≦ANG<THA2」の成立時には評価角度ANGが基準角度THA1から基準角度THA2に向かって増大するにつれて再生速度調整率kRが1/8から1に向かって線形的に増大せしめられ、不等式「THA2≦ANG<THA3」の成立時には「kR=1」とされ、不等式「THA3≦ANG<THA4」の成立時には評価角度ANGが基準角度THA3から基準角度THA4に向かって増大するにつれて再生速度調整率kRが1から2に向かって線形的に増大せしめられ、不等式「THA4≦ANG」の成立時には「kR=2」とされる。
尚、図20に示す例では、不等式「THA1≦ANG<THA2」又は「THA3≦ANG<THA4」の成立時において、評価角度ANGの変化に対して再生速度調整率kRを連続的に変化させているが、図5に示されるDIS及びkR間の関係を図7のそれへと変更できるように、不等式「THA1≦ANG<THA2」又は「THA3≦ANG<THA4」の成立時において、kRを段階的に変化させるようにしても良い。
THA1〜THA4は、不等式「0°<THA1<THA2<THA3<THA4≦90°」を満たす基準角度であり、それらを予め設定しておくことができる。但し、THA1=THA2とすることもできるし、或いは、THA2=THA3とすることもできるし、或いは、THA3=THA4とすることもできる。ANG=|θ|である場合、例えば、THA1、THA2、THA3及びTHA4に、夫々、15°、30°、45°及び90°が代入される。ANG=|φ|である場合、例えば、THA1、THA2、THA3及びTHA4に、夫々、5°、10°、20°及び30°が代入される。
再生速度調整率kRの決定方法が異なる点を除き、速度調整部52aによる出力動画像の生成方法は、速度調整部52によるそれ(図8及び図9参照)と同じである。速度調整部52aから出力される出力動画像は、一定のフレームレート60fpsにて表示部27に表示される。入力動画像に関連付けられた音声信号の再生方法は、第1実施形態で述べたものと同様である。
人の顔が撮影された動画像上において、人の顔が正面又は概ね正面を向いている映像区間や人の顔の傾きが0°又は0°近辺となっている映像区間は、ユーザ(視聴者)にとっての注目区間であり、比較的長い時間をかけて再生されることが希望される。これを考慮し、本実施形態では、入力動画像上における人の顔が正面又は概ね正面を向いている場合において、或いは、入力動画像上における人の顔の傾きが0°又は0°近辺である場合おいて、自動的に再生速度を低下させる。これにより、ユーザ(視聴者)の希望に符合するスロー再生が成される。
また、人の顔が横を向いている映像区間や人の顔の傾きが比較的大きくなっている映像区間は、重要なシーンについての映像区間ではないと推測される。これを考慮し、上述の例では、評価角度ANGが相応に大きい時に早送り再生を行う。これにより、動画像の視聴に要する時間を短縮することができる。また、スロー再生時における再生速度が常に同じであると、スロー再生時における映像が単調になりやすくなるおそれがある。これを考慮し、評価角度ANGに基づきスロー再生時における再生速度を2段階以上で変化させると良い(基準再生速度REFSPをも含めて考えると、再生速度を3段階以上で変化させると良い)。これにより、臨場感のあるスロー再生が可能となる。
尚、上述したような早送り再生が行われないようにすることも可能である。即ち例えば、不等式「THA2≦ANG」の成立時には、評価角度ANGが幾ら大きくなっても、常にkRを1としても良い。また、入力フレーム画像から顔が検出されない区間など、評価角度ANGを求めることができない区間においては、入力動画像の再生速度が基準再生速度REFSPに設定される。
次に、図21を参照して、第6実施形態の自動スロー再生モードにおける撮像装置1の動作の流れを説明する。図21は、この動作の流れを表すフローチャートである。自動スロー再生モードにて入力動画像としての動画像の再生が指示されると、入力動画像を形成する入力フレーム画像が時系列上で早いものから順に外部メモリ18より読み出され、次々と評価角度ANGが導出されて再生速度が調整される。即ち、現時点の入力フレーム画像が外部メモリ18より読み出されて(ステップS31)、その現時点の入力フレーム画像に対して顔検出情報に基づく評価角度ANGが算出されると共に(ステップS32)該評価角度ANGに基づく再生速度にて現時点の入力フレーム画像が再生される(ステップS33)。ステップS31〜S33の処理は、入力動画像の再生が終了するまで繰り返し実行される(ステップS34)。
尚、外部メモリ18の記録データに基づく上述の各処理を、撮像装置と異なる電子機器(例えば、画像再生装置;不図示)にて実現することも可能である(撮像装置も電子機器の一種である)。例えば、撮像装置1において、動画像の撮影を行って該動画像の画像データを外部メモリ18に記憶しておく。そして、上記電子機器に、図15の顔検出部101及び速度調整部52aを設けておくと共に図1の表示部27及びスピーカ28と同等の表示部及びスピーカを設けておき、外部メモリ18に記録された動画像の画像データを入力動画像の画像データとして、電子機器内の顔検出部101及び速度調整部52aに与えれば良い。電子機器において、表示部は一定のフレームレート60fpsにて速度調整部52aからの出力動画像を再生表示する。これにより、電子機器の表示部上で再生速度調整の成された入力動画像の再生がなされると共に該入力動画像に関連付けられた音声信号も電子機器のスピーカにて再生される。
<<第7実施形態>>
本発明の第7実施形態を説明する。上述の第4実施形態において、記録される動画像のフレームレートを評価距離DISに基づき動的に制御する記録レート可変機能を説明した。第4実施形態で述べたように、記録レート可変機能が有効になっている状態における撮影モードは、特に自動スロー記録モードと呼ばれる。第7実施形態では、図1の撮像装置1による記録レート可変機能の他の実現方法を説明する。上述の各実施形態にて述べた事項は、矛盾なき限り、第7実施形態にも適用される。
図22は、第7実施形態に係る自動スロー記録モードの動作に特に関与する、撮像装置1の一部ブロック図である。図22の顔検出部101は、図15のそれと同じものである。撮影レート調整部72aは、例えば、図1のCPU23及び/又はTG22によって実現される。第7実施形態における入力フレーム画像の画像データは、上述の第4及び第5実施形態と同様、自動スロー記録モードにおいてAFE12から出力されるフレーム画像の画像データを指す。第7実施形態における以下の説明は、特に記述無き限り、自動スロー記録モードにおける撮像装置1の動作説明である。
自動スロー記録モードにおいて、順次得られる入力フレーム画像の画像データは顔検出部101に与えられる。顔検出部101は、入力フレーム画像の画像データに基づき、当該入力フレーム画像に対して顔検出処理を実行し、その顔検出処理の結果を表す顔検出情報を生成する。顔検出処理及び顔検出情報の内容は、第6実施形態で述べたものと同様である。
撮影レート調整部72aは、自動スロー記録モードにおいて、顔検出情報に基づき撮影レートを動的に変更する。より具体的には、顔検出情報から評価角度ANGを算出し、評価角度ANGに応じて撮影レートを動的に変更する。評価角度ANGを入力フレーム画像ごとに算出することができる。評価角度ANGの算出方法は、第6実施形態で述べたものと同様である。
図23に、撮影レートと評価角度ANGとの関係例を示す。このような関係を表すルックアップテーブル又は数式を、予め撮影レート調整部72aに与えておくことができる。図23に示す如く、基本的に、評価角度ANGが大きいほど撮影レートが小さくされる。
図23に示す例では、不等式「ANG<THA1」の成立時において撮影レートは300fpsとされ、不等式「THA1≦ANG<THA2」の成立時には評価角度ANGが基準角度THA1から基準角度THA2に向かって増大するにつれて撮影レートが300fpsから60fpsに向かって線形的に減少せしめられ、不等式「THA2≦ANG<THA3」の成立時には撮影レートは60fpsとされ、不等式「THA3≦ANG<THA4」の成立時には評価角度ANGが基準角度THA3から基準角度THA4に向かって増大するにつれて撮影レートが60fpsから15fpsに向かって線形的に減少せしめられ、不等式「THA4≦ANG」の成立時には撮影レートは15fpsとされる。
撮影レートの連続的な変化が可能であるならば上述のような撮影レートの調整が可能であるが、通常、撮影レートは段階的にしか変化させられないことが多い。従って、図5の関係を図7の関係へと変形したように、不等式「THA1≦ANG<THA2」又は「THA3≦ANG<THA4」の成立時において、撮影レートを連続的に変化させるのではなく段階的に変化させるようにしても良い。
上述の第4実施形態では状態量としての評価距離DISに基づき撮影レートが設定されていたのに対し、第6実施形態では他の状態量としての評価角度ANGに基づき撮影レートが設定される。撮影レートの設定の元となる状態量が異なる点を除き、撮影レート調整部72aの機能は第4実施形態に係る撮影レート調整部72(図12参照)のそれと同様である。従って例えば、入力フレーム画像FIn〜FIn+2の撮影区間に対する撮影レートは、入力フレーム画像FIn〜FIn+2に対して求められた評価角度ANGについて不等式「ANG<THA1」が成立しているとしたならば300fpsとされ、不等式「THA2≦ANG<THA3」が成立しているとしたならば60fpsとされ、不等式「THA4≦ANG」が成立しているとしたならば15fpsとされる。第4実施形態で述べたように、撮影レートの変更は、可能な限りにおいて速やかに実行される。
上述のようにして得た入力動画像の画像データは外部メモリ18に記録される。再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した入力動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された入力動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該入力動画像を一定のフレームレート60fpsにて再生させることもできる。入力動画像の再生時において、外部メモリ18に記録された入力音声信号もスピーカ28にて再生される。
評価角度ANGが小さいことに起因して撮影レートが高い状態で記録された部分は、単位時間当たりの記録フレーム数が多いため、スローで再生される。逆に、評価角度ANGが大きいことに起因して撮影レートが低い状態で記録された部分は、単位時間当たりの記録フレーム数が少ないため、早送りで再生される。結果、第6実施形態と同様の効果が得られる。また、評価角度ANGが小さい時に高い撮影レート(例えば300fps)にて実際に撮影を行って画像記録を行うため、第6実施形態と比べて、高画質のスロー再生を行うことができる。反面、記録データ量が多くなると共に、高い撮影レート(例えば300fps)にて撮影された部分を通常再生する場合には間引き処理が必要となる。
尚、評価角度ANGが大きい時に、撮影レートの低速化を行わないようにしても良い。即ち例えば、不等式「THA2≦ANG」の成立時には、評価角度ANGが幾ら大きくなっても、常に撮影レートを60fpsに設定するようにしても良い。また、入力動画像の撮影及び記録中に、評価角度ANGの算出が不可能になった場合には、以後、入力動画像の撮影レートを60fpsにすれば良い。但し、その後に、評価角度ANGの算出が再度可能になったならば、評価角度ANGに基づく撮影レートの調整を再開することができる。
図24を参照して、第7実施形態の自動スロー記録モードにおける撮像装置1の動作の流れを説明する。図24は、この動作の流れを表すフローチャートである。自動スロー記録モードでは、1回目の録画ボタン26aの押下操作があった時点から入力フレーム画像の画像データが外部メモリ18に順次記録される。この際、最新の入力フレーム画像から評価角度ANGが算出されて最新の評価角度ANGに応じて撮影レートが設定されると共に(ステップS41)、最新の入力フレーム画像の画像データが順次外部メモリ18に記録される(ステップS42)。ステップS41及びS42の処理は、入力動画像の撮影が終了するまで(例えば、2回目の録画ボタン26aの押下操作があるまで)、繰り返し実行される(ステップS43)。
尚、第4実施形態を第5実施形態へと変形できるように、第7実施形態における上述の方法を以下のように変形することもできる。
即ち、自動スロー記録モードにおいて、撮影レートを60fpsに固定して入力動画像の画像データを取得し、その入力動画像の画像データを図15の顔検出部101及び速度調整部52aに与え、これによって速度調整部52aから得られる出力動画像の画像データを外部メモリ18に記録する。入力動画像から出力動画像を生成する方法は、第6実施形態で述べた通りである。そして、再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した出力動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された出力動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該出力動画像を一定のフレームレート60fpsにて再生させる。これによっても、評価角度ANGに応じて、記録されるフレーム画像の単位時間当たりの枚数が調整される。即ち、記録フレームレート制御部又はフレームレート制御部とも言うべき図15の速度調整部52aにより、記録される動画像のフレームレートが評価角度ANGに応じて調整され、図22の撮影レート調整部72aを用いて撮影レートを調整した場合と同様の効果が得られる。
<<第8実施形態>>
本発明の第8実施形態を説明する。第8実施形態では、図1の撮像装置1による再生速度可変機能の更に他の実現方法を説明する。上述の各実施形態にて記載した事項が、矛盾無き限り、第8実施形態にも適用される。
図25は、第8実施形態に係る自動スロー再生モードの動作に特に関与する、撮像装置1の一部ブロック図である。図25の音量検出部111を、例えば図1の音声信号処理部15内に設けることができ、図25の速度調整部52bを、例えば図1の映像信号処理部13又は表示処理部20内に設けることができる。
入力動画像の画像データが速度調整部52bに与えられる。第8実施形態において、入力動画像の画像データは外部メモリ18に記録された動画像の画像データであり、その画像データは、撮影モードにおける撮像装置1の撮影動作によって得られる。但し、入力動画像の画像データは、撮像装置1以外の装置から与えられるものであっても良い。また、第8実施形態では、第1実施形態と同様、入力動画像の全体にわたって、入力動画像のフレームレートは60fps(frame per second)であるとする。第8実施形態における以下の説明は、特に記述無き限り、自動スロー再生モードにおける撮像装置1の動作説明である。
入力動画像の画像データに関連付けられた音声信号が入力音声信号として音量検出部111に与えられる。入力音声信号は、入力動画像の撮影区間において図1のマイク14により収音された音の音声信号であって、撮影モードにおいて入力動画像の画像データと共に外部メモリ18に記録されている。第8実施形態では、図26に示す如く、入力動画像の撮影区間の全体が複数の単位区間P[1]、P[2]、P[3]、・・・に分割される。夫々の単位区間の時間長さはフレーム周期(本実施形態において1/60秒)のL倍である。ここで、Lは自然数である。尚、本明細書において、音声信号という用語を音響信号と読み替えることもできる。
音量検出部111は、単位区間ごとに、単位区間中の入力音声信号に基づいて当該単位区間中の入力音声信号の大きさを検出し、検出した大きさを表す情報である評価音量を出力する。評価音量を記号SVにて表し、単位区間P[i]に対する評価音量SVを特に、記号SV[i]にて表す(iは整数)。入力音声信号の大きさは、入力音声信号の信号レベルであってもよいし、入力音声信号のパワーであっても良い。入力音声信号の信号レベル又はパワーが増大すれば当該入力音声信号の音量及び評価音量SVは増大し、入力音声信号の信号レベル又はパワーが減少すれば当該入力音声信号の音量及び評価音量SVは減少する。尚、評価音量SV[i]の下限値はゼロであるとする。即ち、単位区間P[i]中の入力音声信号の信号レベル又はパワーがゼロであるとき、評価音量SV[i]はゼロになるものとする。
音量検出部111にて検出される入力音声信号の大きさは、当該単位区間中の平均的な入力音声信号の大きさである。従って例えば、音量検出部111は、単位区間P[1]中の入力音声信号に基づいて単位区間P[1]中の入力音声信号の信号レベル又はパワーの平均値を算出し、その平均値を単位区間P[1]に対する評価音量SV[1]として出力する。他の単位区間についても同様である。
速度調整部52bは、評価音量SVに基づき入力動画像の再生速度を調整することで出力動画像を生成する。第1実施形態又は第6実施形態(図5又は図20参照)では、評価距離DIS又は評価角度ANGに基づいて決定した再生速度調整率kRを用いて入力動画像の再生速度を調整していたが、速度調整部52bでは、評価音量SVに基づいて決定した再生速度調整率kRを用いて入力動画像の再生速度を調整する。
図27に、再生速度調整率kRと評価音量SVとの関係例を示す。このような関係を表すルックアップテーブル又は数式を、予め速度調整部52bに与えておくことができる。
図27に示す例では、不等式「0≦SV<THB1」の成立時には「kR=2」とされ、不等式「THB1≦SV<THB2」の成立時には評価音量SVが基準音量THB1から基準音量THB2に向かって増大するにつれて再生速度調整率kRが2から1に向かって線形的に減少せしめられ、不等式「THB2≦SV<THB3」の成立時には「kR=1」とされ、不等式「THB3≦SV<THB4」の成立時には評価音量SVが基準音量THB3から基準音量THB4に向かって増大するにつれて再生速度調整率kRが1から1/8に向かって線形的に減少せしめられ、不等式「THB4≦SV」の成立時には「kR=1/8」とされる。
尚、図27に示す例では、不等式「THB1≦SV<THB2」又は「THB3≦SV<THB4」の成立時において、評価音量SVの変化に対して再生速度調整率kRを連続的に変化させているが、図5に示されるDIS及びkR間の関係を図7のそれへと変更できるように、不等式「THB1≦SV<THB2」又は「THB3≦SV<THB4」の成立時において、kRを段階的に変化させるようにしても良い。
THB1〜THB4は、不等式「0<THB1<THB2<THB3<THB4」を満たす基準音量であり、それらを予め設定しておくことができる。但し、THB1=THB2とすることもできるし、或いは、THB2=THB3とすることもできるし、或いは、THB3=THB4とすることもできる。
再生速度調整率kRの決定方法が異なる点を除き、速度調整部52bによる出力動画像の生成方法は、速度調整部52によるそれ(図8及び図9参照)と同様である。但し、第8実施形態では、単位区間P[i]の入力音声信号に基づく評価音量SV[i]に基づき、単位区間P[i]に属する入力フレーム画像の再生速度が制御される。即ち、評価音量SV[i]に基づいて単位区間P[i]に対する再生速度調整率kRが決定され、単位区間P[i]に対する再生速度調整率kRに基づき、単位区間P[i]に属する入力フレーム画像から単位区間P[i]に属する出力フレーム画像が生成される。
従って例えば、各単位区間に属する入力フレーム画像の枚数(即ちLの値)が4である場合、
不等式「0≦SV[i]<THB1」の成立時には、単位区間P[i]に属する4枚の入力フレーム画像から単位区間P[i]に属する2枚の出力フレーム画像が生成され、
不等式「THB2≦SV[i]<THB3」の成立時には、単位区間P[i]に属する4枚の入力フレーム画像そのものが単位区間P[i]に属する4枚の出力フレーム画像として生成され、
不等式「THB4≦SV[i]」の成立時には、単位区間P[i]に属する4枚の入力フレーム画像から単位区間P[i]に属する32枚の出力フレーム画像が生成される。
速度調整部52bから出力される出力動画像は、一定のフレームレート60fpsにて表示部27に表示される。入力動画像に関連付けられた音声信号の再生方法は、第1実施形態で述べたものと同様である。
例えば、サッカーの試合の様子が撮影された動画像を再生する際、音声信号の大きさが大きくなっている映像区間は、試合上の場面が盛り上がっている区間に相当すると考えられる。従って、そのような映像区間は、ユーザ(視聴者)にとっての注目区間である可能性が高く、比較的長い時間をかけて再生されることが希望される。これを考慮し、本実施形態では、音声信号の大きさが大きく場面が盛り上がっていると推測される場合に、自動的に再生速度を低下させる。これにより、ユーザ(視聴者)の希望に符合するスロー再生が成される。
また、音声信号の大きさが比較的小さくなっている映像区間は、重要なシーンについての映像区間ではないと推測される。これを考慮し、上述の例では、評価音量SVが相応に小さい時に早送り再生を行う。これにより、動画像の視聴に要する時間を短縮することができる。また、スロー再生時における再生速度が常に同じであると、スロー再生時における映像が単調になりやすくなるおそれがある。これを考慮し、評価音量SVに基づきスロー再生時における再生速度を2段階以上で変化させると良い(基準再生速度REFSPをも含めて考えると、再生速度を3段階以上で変化させると良い)。これにより、臨場感のあるスロー再生が可能となる。
尚、上述したような早送り再生が行われないようにすることも可能である。即ち例えば、不等式「SV<THB3」の成立時には、評価音量SVが幾ら小さくなっても、常にkRを1としても良い。
次に、図28を参照して、第8実施形態の自動スロー再生モードにおける撮像装置1の動作の流れを説明する。図28は、この動作の流れを表すフローチャートである。自動スロー再生モードにて入力動画像としての動画像の再生が指示されると、入力動画像を形成する入力フレーム画像及び入力音声信号が時系列上で早いものから順に外部メモリ18より読み出され、次々と評価音量SVが導出されて再生速度が調整される。
具体的には、ステップS50において変数iに1が代入された後、ステップS51において単位区間P[i]の入力フレーム画像及び入力音声信号が外部メモリ18より読み出され、続くステップS52において単位区間P[i]の入力音声信号から評価音量SV[i]が算出される。そして、続くステップS53において評価音量SV[i]に基づく再生速度にて単位区間P[i]の入力フレーム画像が再生される。ステップS51〜S53の処理は、入力動画像の再生が終了するまで繰り返し実行され(ステップS54)、ステップS51〜S53の処理を1回行うごとに、変数iに1が加算される(ステップS55)。
尚、外部メモリ18の記録データに基づく上述の各処理を、撮像装置と異なる電子機器(例えば、画像再生装置;不図示)にて実現することも可能である(撮像装置も電子機器の一種である)。例えば、撮像装置1において、動画像の撮影を行って該動画像の画像データ及びそれに関連付けられるべき音声信号を外部メモリ18に記憶しておく。そして、上記電子機器に、図25の音量検出部111及び速度調整部52bを設けておくと共に図1の表示部27及びスピーカ28と同等の表示部及びスピーカを設けておき、外部メモリ18に記録された動画像の画像データ及びそれに関連付けられた音声信号を入力動画像の画像データ及び入力音声信号として、電子機器内の速度調整部52b及び音量検出部111に与えれば良い。電子機器において、表示部は一定のフレームレート60fpsにて速度調整部52bからの出力動画像を再生表示する。これにより、電子機器の表示部上で再生速度調整の成された入力動画像の再生がなされると共に該入力動画像に関連付けられた音声信号も電子機器のスピーカにて再生される。
<<第9実施形態>>
本発明の第9実施形態を説明する。第9実施形態では、図1の撮像装置1による記録レート可変機能の更に他の実現方法を説明する。上述の各実施形態にて述べた事項は、矛盾なき限り、第9実施形態にも適用される。
図29は、第9実施形態に係る自動スロー記録モードの動作に特に関与する、撮像装置1の一部ブロック図である。図29の音量検出部111は、図25のそれと同じものである。撮影レート調整部72bは、例えば、図1のCPU23及び/又はTG22によって実現される。第9実施形態における入力フレーム画像の画像データは、上述の第4及び第5実施形態と同様、自動スロー記録モードにおいてAFE12から出力されるフレーム画像の画像データを指す。第9実施形態における以下の説明は、特に記述無き限り、自動スロー記録モードにおける撮像装置1の動作説明である。
第9実施形態における入力音声信号とは、入力動画像を撮影する区間において図1のマイク14により収音された音の音声信号を指す。入力音声信号と入力動画像の画像データは互いに関連付けられて外部メモリ18に記録される。第8実施形態と同様、図26に示す如く、入力動画像の撮影区間の全体が複数の単位区間P[1]、P[2]、P[3]、・・・に分割されるものとする。
音量検出部111は、単位区間ごとに単位区間についての評価音量SVを算出し、得られた評価音量SVを撮影レート調整部72bに出力する。評価音量SVの意義及び評価音量SVの算出方法は、第8実施形態で述べた通りである。
撮影レート調整部72bは、自動スロー記録モードにおいて、評価音量SVに基づき撮影レートを動的に変更する。図30に、撮影レートと評価音量SVとの関係例を示す。このような関係を表すルックアップテーブル又は数式を、予め撮影レート調整部72bに与えておくことができる。図30に示す如く、基本的に、評価音量SVが大きいほど撮影レートが大きくされる。
図30に示す例では、不等式「SV<THB1」の成立時において撮影レートは15fpsとされ、不等式「THB1≦SV<THB2」の成立時には評価音量SVが基準音量THB1から基準音量THB2に向かって増大するにつれて撮影レートが15fpsから60fpsに向かって線形的に増大せしめられ、不等式「THB2≦SV<THB3」の成立時には撮影レートは60fpsとされ、不等式「THB3≦SV<THB4」の成立時には評価音量SVが基準音量THB3から基準音量THB4に向かって増大するにつれて撮影レートが60fpsから300fpsに向かって線形的に増大せしめられ、不等式「THB4≦SV」の成立時には撮影レートは300fpsとされる。
撮影レートの連続的な変化が可能であるならば上述のような撮影レートの調整が可能であるが、通常、撮影レートは段階的にしか変化させられないことが多い。従って、図5の関係を図7の関係へと変形したように、不等式「THB1≦SV<THB2」又は「THB3≦SV<THB4」の成立時において、撮影レートを連続的に変化させるのではなく段階的に変化させるようにしても良い。
第4又は第7実施形態では状態量としての評価距離DIS又は評価角度ANGに基づき撮影レートが設定されていたのに対し、第9実施形態では他の状態量としての評価音量SVに基づき撮影レートが設定される。撮影レートの設定の元となる状態量が異なる点を除き、撮影レート調整部72bの機能は第4又は第7実施形態に係る撮影レート調整部72又は72a(図12又は図22参照)のそれと同様である。
但し、第9実施形態では、入力動画像の撮影時に得られる入力音声信号からリアルタイムに撮影レートを調整する必要があるため、単位区間P[i]における音量検出部111の検出結果(即ち評価音量SV[i])を単位区間P[i]の撮影レートに反映させることは困難である。従って、撮影レート調整部72bは、評価音量SV[i]に基づき単位区間P[i]よりも後の単位区間の撮影レートを調整する。具体的には例えば、評価音量SV[i]に基づき単位区間[i+1]の撮影レートを調整する。この場合例えば、単位区間P[i+1]に対する撮影レートは、不等式「SV[i]<THB1」が成立しているとしたならば15fpsとされ、不等式「THB2≦SV[i]<THB3」が成立しているとしたならば60fpsとされ、不等式「THB4≦SV[i]」が成立しているとしたならば300fpsとされる。
上述のようにして得た入力動画像の画像データは入力音声信号と共に外部メモリ18に記録される。再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した入力動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された入力動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該入力動画像を一定のフレームレート60fpsにて再生させることもできる。
評価音量SVが大きいことに起因して撮影レートが高い状態で記録された部分は、単位時間当たりの記録フレーム数が多いため、スローで再生される。逆に、評価音量SVが小さいことに起因して撮影レートが低い状態で記録された部分は、単位時間当たりの記録フレーム数が少ないため、早送りで再生される。結果、第8実施形態と同様の効果が得られる。また、評価音量SVが大きい時に高い撮影レート(例えば300fps)にて実際に撮影を行って画像記録を行うため、第8実施形態と比べて、高画質のスロー再生を行うことができる。反面、記録データ量が多くなると共に、高い撮影レート(例えば300fps)にて撮影された部分を通常再生する場合には間引き処理が必要となる。
尚、評価音量SVが小さい時に、撮影レートの低速化を行わないようにしても良い。即ち例えば、不等式「SV<THB3」の成立時には、評価音量SVが幾ら小さくなっても、常に撮影レートを60fpsに設定するようにしても良い。
図31を参照して、第9実施形態の自動スロー記録モードにおける撮像装置1の動作の流れを説明する。図31は、この動作の流れを表すフローチャートである。自動スロー記録モードでは、1回目の録画ボタン26aの押下操作によって入力動画像の撮影指示が成されると、変数iに1が代入されると共に入力動画像の撮影及び記録が開始される(ステップS60及びS61)。上述したように、入力動画像の撮影区間における入力音声信号も、入力フレーム画像の画像データに関連付けられた上で外部メモリ18に記録されてゆく。ステップS62において、単位区間P[i]における入力音声信号から評価音量SV[i]が算出され、続くステップS63にて、評価音量SV[i]に応じて単位区間P[i+1]の撮影レートが設定される。入力動画像の撮影が終了するまで(例えば、2回目の録画ボタン26aの押下操作があるまで)、順次得られる入力フレーム画像の画像データの記録は継続され、且つ、ステップS62及びS63の処理は繰り返し実行される(ステップS64)。ステップS62及びS63の処理を1回行うごとに、変数iに1が加算される(ステップS65)。また、単位区間P[1]における撮影レートは、60fpsに固定される。或いは、単位区間P[1]の直前の区間である単位区間P[0]の音声信号から評価音量SV[0]を算出し、評価音量SV[0]に基づいて単位区間P[1]における撮影レートを設定するようにしても良い。
尚、第4実施形態を第5実施形態へと変形できるように、第8実施形態における上述の方法を以下のように変形することもできる。
即ち、自動スロー記録モードにおいて、撮影レートを60fpsに固定して入力動画像の画像データを取得し、その入力動画像の画像データ及びそれに関連付けられるべき入力音声信号を図25の速度調整部52b及び音量検出部111に与え、これによって速度調整部52bから得られる出力動画像の画像データを外部メモリ18に記録する。入力動画像から出力動画像を生成する方法は、第8実施形態で述べた通りである。そして、再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した出力動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された出力動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該出力動画像を一定のフレームレート60fpsにて再生させる。これによっても、評価音量SVに応じて、記録されるフレーム画像の単位時間当たりの枚数が調整される。即ち、記録フレームレート制御部又はフレームレート制御部とも言うべき図25の速度調整部52bにより、記録される動画像のフレームレートが評価音量SVに応じて調整され、図29の撮影レート調整部72bを用いて撮影レートを調整した場合と同様の効果が得られる。
<<第10実施形態>>
本発明の第10実施形態を説明する。第10実施形態では、図1の撮像装置1による記録レート可変機能の更に他の実現方法を説明する。上述の各実施形態にて述べた事項は、矛盾なき限り、第10実施形態にも適用される。
図32は、第10実施形態に係る自動スロー記録モードの動作に特に関与する、撮像装置1の一部ブロック図である。記録レート調整部(記録フレームレート制御部)82は、例えば、図1のCPU23によって実現される。第10実施形態における以下の説明は、特に記述無き限り、自動スロー記録モードにおける撮像装置1の動作説明である。
第10実施形態の自動スロー記録モードでは、撮影レートが300fpsに固定された上で入力動画像の画像データが取得される。他方、上述の何れかの実施形態で述べた方法に従い、評価距離DIS、評価角度ANG又は評価音量SVが導出されて記録レート調整部82に与えられる。記録レート調整部82に与えられる評価距離DIS、評価角度ANG又は評価音量SVを評価状態量と呼ぶ。尚、評価距離DIS、評価角度ANG及び評価音量SVの2つ又は3つを組み合わせたものが、評価状態量であっても良い。
記録レート調整部82は、評価状態量に基づき入力動画像から記録用動画像を生成する。生成された記録用動画像の画像データは、入力音声信号と共に外部メモリ18に記録される。
評価状態量が評価距離DISである場合には、記録用動画像が第4実施形態で得られるべき入力動画像と同等の動画像となるように(図12及び図13参照)、且つ、
評価状態量が評価角度ANGである場合には、記録用動画像が第7実施形態で得られるべき入力動画像と同等の動画像となるように(図22及び図23参照)、且つ、
評価状態量が評価音量SVである場合には、記録用動画像が第9実施形態で得られるべき入力動画像と同等の動画像となるように(図29及び図30参照)、
必要に応じて入力フレーム画像列の一部を間引くことで記録用動画像を生成する。
説明の具体化のため、評価状態量が評価音量SVである場合の動作について説明する。また、各単位区間に属する入力フレーム画像の枚数(即ちLの値)が20である場合を想定し(即ち、各単位区間の時間長さが20×1/300=1/15[秒]である場合を想定し)、単位区間P[i]におけるj番目の入力フレーム画像を、夫々、FI[i,j]にて表す(i及びjは整数)。この場合、単位区間P[i]における記録用動画像は、入力フレーム画像FI[i,1]〜FI[i,20]の全部又は一部から形成され、基本的に評価音量SV[i]が大きいほど、単位区間P[i]の記録用動画像を形成する入力フレーム画像の枚数は増大せしめられる。
具体的には例えば(図30参照)、
単位区間P[i]の記録用動画像を形成する入力フレーム画像は、
不等式「SV[i]<THB1」の成立時において、FI[i,1]のみとされ、
不等式「THB1≦SV[i]<THB2」の成立時において、FI[i,1]及びFI[i,11]のみとされ、
不等式「THB2≦SV<THB3」の成立時において、FI[i,1]、FI[i,6]、FI[i,11]及びFI[i,16]のみとされ、
不等式「THB3≦SV<THB4」の成立時において、FI[i,1]、FI[i,3]、FI[i,5]、FI[i,7]、FI[i,9]、FI[i,11]、FI[i,13]、FI[i,15]、FI[i,17]及びFI[i,19]のみとされ、
不等式「THB4≦SV」の成立時においては、FI[i,1]〜FI[i,20]の全てとされる。
再生モードにおいて、撮像装置1は、表示部27を用いて、外部メモリ18から読み出した記録用動画像を一定のフレームレート60fpsにて再生する。或いは、外部メモリ18に記録された記録用動画像を、撮像装置1と異なる電子機器(例えば、画像再生装置;不図示)に与え、その電子機器上で該記録用動画像を一定のフレームレート60fpsにて再生させることもできる。これにより、評価状態量に応じて撮影レートを制御する第4、第7又は第9実施形態と同様の効果を得ることができる。
<<変形等>>
上述した説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。
図1の撮像装置1を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。ソフトウェアを用いて実現される機能をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能を実現するようにしてもよい。