以下、本発明の実施形態を、図面を参照しながら説明する。
<撮影の前提>
実施形態の説明に入る前に、この実施形態で使用する三種類の画像(通常動画、ダイジェスト版動画及び静止画)の構成について説明する。
ちなみに、「通常動画」とは、任意の時間の間、継続的に撮影される動画のことをいう。任意の時間は特に限定されない。最大の時間は一般的に記録メディアの容量に依存する。「通常動画」を撮影するケースは様々である。典型的には、動きそのものを記録したい場合であるが、それ以外にも、たとえば、絶対に逃したくないシャッタチャンスを含む場面を撮影する際にも用いられる。少なくとも“動画”で撮影しておけば、そのようなシャッタチャンスをフレーム画像として残しておくことができるからである。ただし、動画のフレーム画像は、通常の静止画に比べて画質が粗いため、「通常動画」の撮影中に高画質の「静止画」を撮影することが行われる(いわゆるスチルインムービ)。
一方、「ダイジェスト版動画」は、前記のスチルインムービの撮影時点(つまり、動画撮影中の静止画撮影時点)の前後所定範囲の動画を前記の通常動画から切り出し、それらの切り出した動画をつなぎ合わせたものである。動画撮影中の静止画撮影時点は、シャッタチャンスの時点であり、撮影者の注目時点でもあるから、結局、ダイジェスト版動画は、ダラダラと区切りなく撮影された通常動画に対して、もっぱら見たい部分だけで構成された鑑賞に堪え得る動画であるということができる。
図1は、実施形態で使用する三種類の画像の構成を示す図である。
まず、「通常動画」は、図面の左から右へと時間軸に沿って所定の周期(たとえば、毎秒N枚の周期、つまり、N〔fps〕)で逐次に撮影されるフレーム画像の集まり(動画)である。ここで、デジタルビデオやデジタルカメラ等の撮影装置の一般的なフレーム周期は、たとえば、N=30であるが、ここでは説明の都合上、N=1と仮定する。すなわち、通常動画は、1秒(sec)間隔で撮影された多数のフレーム画像から構成されているものとする。
通常動画の四角枠はそれぞれのフレーム画像を模式的に表し、且つ、その枠内に記された数字は各フレーム画像の識別子(フレーム番号)を示している。たとえば、図示の通常動画は、・・・・1、2、3、4、5、6、7、8・・・・51、52、53、54、55、56、57、58・・・・のフレーム画像で構成されている。
次に、「静止画」は、通常動画撮影中の任意の時点、たとえば、図中のTaとTbの二つの時点で撮影された、通常動画のフレーム画像(図示の例ではフレーム番号“4”と“54”)に対応する高画質の静止画である。時点Ta、Tbは、ユーザによって行われる静止画撮影操作の実行タイミングである。
最後に、「ダイジェスト版動画」は、静止画の撮影時点(図示の例ではTa、Tb)の前後数フレームの画像を通常動画から切り出し、それらをつなぎ合わせて構成した動画のことである。切り出しフレーム数は特に限定されないが、ここでは、一例として前後6秒分、つまり、6フレームを切り出すものとする。したがって、図示の例では、時点Taに対応したフレーム番号“2”〜“7”までの第1のフレーム群と、時点Tbに対応したフレーム番号“52”〜“57”までの第2のフレーム群とが切り出され、それらの第1及び第2のフレーム群をつなぎ合わせたダイジェスト版動画が構成される。
ここで、以上の三種類の画像(通常動画、ダイジェスト版動画及び静止画)は、以下のように定義することができる。まず、通常動画は、貴重なシャッタチャンスを逃さないために、ある期間、漫然と撮影が続けられる、言い換えれば不要な部分も含む、ダラダラと撮影が続けられた動画である。これに対して、静止画は、その通常動画の撮影中に訪れた貴重なシャッタチャンスの瞬間の高画質な画像である。一方、ダイジェスト版動画は、そのシャッタチャンスの瞬間の前後の動画であり、且つ、そのシャッタチャンスが複数回存在した場合には、各々のシャッタチャンスの瞬間の前後の動画をつなぎ合わせたものである。
したがって、これら三種類の画像(通常動画、ダイジェスト版動画及び静止画)は、それぞれの特色に応じた使い方(再生)をすることができる。つまり、静止画は、シャッタチャンスの瞬間を捉えた動きのない高画質の絵であるから、被写体の細部を画面で見たり、あるいは、印刷出力したりする場合に好適である。一方、ダイジェスト版動画は、静止画よりも若干画質が劣るものの、シャッタチャンス前後の被写体の動きを抜き出して効率的に見ることができ、さらに、音声も同時記録できる場合は、被写体の声などの環境音も合わせて聞くことができるので、リアルな雰囲気を体感できる点で好適である。さらに、通常動画は、無駄な部分を含むが、無編集の生動画であるので、たとえば、気付かなかった被写体や被写体の動きが写し込まれていることがあり、撮影時点で意図していなかった思わぬ撮影結果が得られる可能性がある点で好ましい。
このように、それぞれ特色のある三種類の画像(通常動画、ダイジェスト版動画及び静止画)であるが、冒頭で説明した従来技術にあっては、各画像間の遷移、つまり、通常動画と、ダイジェスト版動画と、静止画との間の自在な相互切り替えについての手段が講じられておらず、使い勝手の悪さを否めないものであった。
そこで、本実施形態では、以下にその詳細を説明するように、ダラダラと撮影される動画(通常動画)の撮影中に行なわれる、スチルインムービなどのユーザ操作(静止画の撮影操作)を契機(トリガ)として、所定時間(たとえば、数秒分)の動画撮影を行い、それをつなぎ合わせたダイジェスト版を生成して別の動画データとして保存する。
さらに、撮影された静止画と、通常動画及びダイジェスト版動画とを関連付け(対応付けともいう。)て保存し、再生時には、関連付けられた情報を元に、静止画再生、通常動画再生、ダイジェスト版動画の再生をユーザが自由に切り替えられるようにする。
<構成>
次に、本実施形態の構成を説明する。
図2は、本実施形態に係る撮影装置のブロック図である。この図において、撮影装置1は、動画撮影中の静止画撮影(スチルインムービ等)が可能な、たとえば、デジタルカメラであり、この撮影装置1は、撮像部2、モニタ表示用画像処理部3、表示制御部4、表示部5、静止画処理部6、中央制御部7、動画処理部8、FIFOメモリ9、トリガ生成部10、ジャイロ部11、操作部12、ストリーム制御部13、記録メディア制御部14、及び、記録メディア15などを含む。
なお、これ以外にも、たとえば、パーソナルコンピュータ等の外部機器との間でデータのやり取りをする入出力部や電源部などを含むが、図示の都合上、それらの記載を略している。
各部の詳細を説明すると、撮像部2は、CCDやCMOSなどの二次元イメージセンサを含むと共に、そのイメージセンサとの通信制御部、Bayerデータ読み出し部、及び、現像処理部などを含み、通常は所定周期(説明の便宜上、毎秒1枚の周期)のフレーム画像を構図確認用のスルー画像又は動画用の画像として出力すると共に、ユーザによる静止画撮影操作(シャッタ操作など)に応答して高画質の静止画を出力することができるものである。
モニタ表示用画像処理部3は、撮像部2からの画像データに対して、リサイズや色変換などの画像処理を行い、構図確認用のモニタ表示に適した形(スルー画像)に整形し、表示制御部4は、モニタ表示用画像処理部3からのデータ(スルー画像)を表示部5に表示する制御を行う。
静止画処理部6は、中央制御部7からの指示に従い、撮像部2からのデータを使って、リサイズ、色変換、圧縮処理(たとえばJPEG)などの画像処理を行い、1枚分の静止画データを生成し、動画処理部8は、撮像部2からのデータを使って、リサイズ、色変換、圧縮処理(たとえば、H.264)などの画像処理を行い、動画ストリームを生成する。
FIFOメモリ9は、先入れ先出し型のメモリであり、このFIFOメモリ9は、動画処理部8からの動画ストリームを第1の所定時間分保持できるだけの容量を持つ。本実施形態では、第1の所定時間を5秒として説明するがこれに限定されない。第1の所定時間は本発明を適用するアプリケーション毎に任意に設定すればよい。
トリガ生成部10は、スチルインムービなどのユーザ操作(静止画の撮影操作)に応答したトリガを検出するものであり、このトリガは、たとえば、撮像部2からのデータやジャイロ部11からのデータに基づいて検出することができる。
つまり、撮像部2からのデータを使ってフレーム間差分を求める等により、フレーム間に大きな変化があった場合に「トリガあり」を検出したり、あるいは、特定の被写体がフレーム内に写った場合に「トリガあり」を検出したりできる。そして、トリガ生成部10は、「トリガあり」を検出した場合に、中央制御部7にその旨を通知する。または、ジャイロ部11からのデータを使って、撮影装置1がパン/チルトや大きな手振れの最中なのかそうでないのか判断し、撮影装置1が静止したことを検出した場合に、「トリガあり」を検出するようにしてもよい。この場合も、トリガ生成部10は、「トリガあり」の検出の旨を中央制御部7に通知する。ちなみに、ジャイロ部11は、ジャイロセンサやジャイロセンサ制御などが含まれたブロックであり、撮影装置1の姿勢変化などの情報を取得するものである。
なお、トリガ生成部10への入力は、上記の例示に限ったものではなく、不図示のマイクからの音声データを入力してその変化を検出することでトリガを生成する等、様々な方法が考えられる。また、トリガの検出方法や検出条件なども上記に限定するものではなく、どのような方法であってもよい。
中央制御部7は、撮影装置1の全体的な統括制御を行う部分であり、トリガ生成部10からの検出通知を受信したり、操作部12からの各種操作信号入力(シャッタキーやダイジェスト版動画生成許可キーなどの入力)を処理したりする。この中央制御部7の構成は具体的に限定しないが、たとえば、マイクロプログラム制御方式のコンピュータ及びその周辺装置からなる、いわゆるCPUであってもよく、あるいは、そのプログラムの全て又は一部の機能をハードロジックで構成したものであっても構わない。
ストリーム制御部13は、中央制御部7からの指示に従い、FIFOメモリ9を経由した動画ストリームを出力するか否かを制御する。
記録メディア制御部14は、静止画処理部6から送られてくる静止画データ、FIFOメモリ9から直接送られてくる動画ストリーム、ストリーム制御部13からの動画ストリーム、そして、中央制御部7から送られてくる各種情報(静止画ファイル名、通常動画ファイル名、ダイジェスト版動画ファイル名、関連付けデータテーブル20、ダイジェスト版動画インデックステーブル)を、固定式又は着脱式の大容量の記録メディア15に書き込む制御を行う。
<記録処理>
次に、本実施形態の撮影装置1の作用のうち「記録処理」について説明する。
図3及び図4は、中央制御部7の動作フローを示す図である。なお、この動作フローは、ユーザが動画撮影を開始した場合の処理を示している。ユーザが動画撮影を開始した場合には、まず、動画処理部8の動作を開始させ、記録メディア制御部14に通常動画ファイル名を通知する(ステップS1)。記録メディア制御部14では、FIFOメモリ9から直接送られてくる動画ストリーム、つまり、通常動画に任意のファイル名(以下、通常動画ファイル名という。)をつけて記録メディア15に保存する。そして、中央制御部7は、通常動画撮影時間管理タイマをリセットしてスタートさせる(ステップS2)。
ここで、通常動画撮影時間管理タイマは、中央制御部7が内蔵している一般的なカウンタであり、通常動画の撮影開始からの経過時間を管理するためのタイマである。また、中央制御部7は、新規に、後述の関連付けデータテーブル20をワークメモリ(図示せず)に生成し、これに通常動画ファイル名を書き込む(ステップS3)。
図5は、関連付けデータテーブル20の概念構造図であり、この関連付けテーブル20は、通常動画ファイルと、ダイジェスト版動画ファイルと、静止画ファイルとの対応関係を示すためのテーブル構造を有している。すなわち、関連付けテーブル20は、通常動画ファイル名フィールド20aと、ダイジェスト版動画ファイル名フィールド20bと、静止画ファイル名フィールド20cと、それらのファイルの相互関係を定義するための通常動画経過時間フィールド20d及びダイジェスト版動画インデックス情報フィールド20eとを有する。
再び、動作フローに戻り、続いて、中央制御部7は、ユーザによる動画撮影の終了操作が行われたか否かを判断する(ステップS4)。終了操作が行われていなければ、次いで、静止画撮影のためのシャッタキーが押下されているかを判断する(ステップS5)。シャッタキーが押されていたら、中央制御部7は静止画処理部6に1枚分の静止画生成を命令し、記録メディア制御部14に任意のファイル名(以下、静止画ファイル名という。)を通知する(ステップS6)。記録メディア制御部14では、静止画処理部6から送られてくる静止画データに、この静止画ファイル名をつけて記録メディア15に保存する。
さらに、中央制御部7は関連付けデータテーブル20に、静止画ファイル名と静止画撮影時刻情報とを書き込む(ステップS7)。静止画撮影時刻情報は、通常動画撮影時間管理タイマを参照して、通常動画撮影の開始からの経過時間を取得することで求めることができる。
次に、中央制御部7は、ダイジェスト版動画生成許可キーの状態を調べる(ステップS9)。ダイジェスト版動画生成許可キー入力とは“許可”と“禁止”の2つの状態を取り得る二値信号である。ダイジェスト版動画生成許可キーが“許可”であれば、中央制御部7は、ストリーム制御部13にストリーム出力開始を命令する(ステップS10)。この命令をストリーム制御部13が受信すると、ダイジェスト版動画生成を開始するようになっている。
処理部への命令を送信した後は、中央制御部7は、通常動画の撮影を開始後、初めてダイジェスト版動画を生成するのかを判断する(ステップS11)。
そして、初めてならば、ダイジェスト動画撮影時間管理タイマをリセット(ステップS12)すると共に、関連付けデータテーブル20に任意のファイル名(以下、ダイジェスト版動画ファイル名という。)を書き込み(ステップS13)、次いで、ダイジェスト動画撮影時間管理タイマをスタートさせる(ステップS14)が、初めてでなければ、ステップS12とステップS13をパスして、ダイジェスト動画撮影時間管理タイマをスタートさせる(ステップS14)。
ダイジェスト動画撮影時間管理タイマは、前記の通常動画撮影時間管理タイマと同様に、中央制御部7が内蔵している一般的なカウンタであり、ダイジェスト版動画の撮影合計時間を管理するためのタイマである。
このように、中央制御部7は、ダイジェスト版動画生成が初めてか否かに関わらず、ダイジェスト動画撮影時間管理タイマをスタートさせる(ステップS14)が、ダイジェスト版動画生成が初めてではなかったときには、ステップS12(ダイジェスト動画撮影時間管理タイマのリセット)をパスして、ダイジェスト動画撮影時間管理タイマをスタートさせる(ステップS14)ので、ダイジェスト動画撮影時間管理タイマは、その以前にカウントしていた時間から継続してカウントするようになる。
次に、中央制御部7は、関連付けデータテーブル20にダイジェスト版動画開始時刻情報とインデックス情報とを書き込み(ステップS15)、さらに、後述のダイジェスト版動画インデックス管理テーブル21に、ダイジェスト版動画開始時刻情報を書き込む(ステップS16)。ダイジェスト版動画開始時刻情報とは、ダイジェスト版動画の撮影が開始された時刻を記録するための情報であり、通常動画撮影時間管理タイマを参照して得られるもの(通常動画撮影の開始からの経過時間)である。
図6は、ダイジェスト版動画インデックス管理テーブル21の概念構造図である。このダイジェスト版動画インデックス管理テーブル21は、ダイジェスト版動画のシーンの区切り位置を管理する為のチャプター情報(インデックス情報)を集めたテーブルであり、インデックスフィールド21aと、時刻フィールド21bとを有する。図示の例では、インデックスフィールド21aに便宜上のインデックス情報(インデックスX、Y、Z)が格納されており、時刻フィールド21bに、それらのインデックス情報に対応した時刻情報(インデックスX→0:00:00、インデックスY→0:00:10、インデックスZ→0:00:20)が格納されている。
再び、動作フローに戻り、次に、中央制御部7は、ダイジェスト動画生成時間管理タイマをリセットしてスタート(ステップS17)させた後、再びステップS4に戻り、動画撮影が終了されたかを判断する。
ダイジェスト動画生成時間管理タイマは、中央制御部7が内蔵している一般的なカウンタであり、ダイジェスト版動画撮影開始からの撮影継続時間をカウントする。本実施形態のFIFOメモリ9は動画ストリームを5秒分保管できるので、このストリーム制御部13の動作開始時点では、その開始時刻の5秒前(5秒分だけ過去)の動画ストリームから生成が開始されることになる。
一方、ステップS9の判定結果がNOの場合、すなわち、ダイジェスト版動画生成許可キー入力が“禁止”の状態の場合には、何も処理せずに、再びステップS4に戻り、動画撮影が終了されたかを判断する。
さて、ステップS5のシャッタキー押下の判定においてシャッタキーが押されていなかった場合には、トリガ生成部10からの検出通知があるか否かを判定し(ステップS8)、検出通知がある場合には、上述と同じ処理をダイジェスト版動画生成許可キーの状態を調べるところ(ステップS9)から行い、トリガ生成部10からの検出通知がなかった場合には、ダイジェスト動画生成時間管理タイマがスタートしてから第2の所定時間が経過したか否かを判定する(ステップS18)。ここで、第2の所定時間とは、FIFOメモリ9の蓄積時間(第1の所定時間)を充分に上回る時間であって、たとえば、第1の所定時間の2倍の10秒である。
そして、第2の所定時間が経過していなければ、再びステップS4に戻って動画撮影が終了されたかを判断し、一方、第2の所定時間が経過していれば、ダイジェスト動画生成時間管理タイマを停止(ステップS19)させると共に、ストリーム制御部13に一時停止を命令し(ステップS20)、また、ダイジェスト動画撮影時間管理タイマを一時停止(ステップS21)させた後、再びステップS4に戻って動画撮影が終了されたかを判断する。
このように、ステップS10のストリーム制御部13の動作開始時点では、シャッタ押下の第1の所定時間(5秒)前の動画ストリームがストリーム制御部13より出力が開始されることになるので、ストリーム制御部13の動作開始から第2の所定時間(10秒)が経過すると、FIFOメモリ9の蓄積時間(第1の所定時間)に相当する長さの、シャッタ押下前後5秒ずつの動画ストリームが生成されたことになる。
ダイジェスト動画生成時間管理タイマがスタートしてから第2の所定時間が経過していなかった場合(ステップS18のNO)には何も処理を行なわず、再びステップS4に戻って動画撮影が終了されたかを判断し、動画撮影が終了されていなかった場合には上記と同様の処理(ステップS5〜ステップS21)を繰り返す。
一方、動画撮影が終了された場合(ステップS4のYES)には、通常動画処理部8とダイジェスト動画処理部8及びストリーム制御部13を停止させる(ステップS22、ステップS23)と共に、ダイジェスト動画生成時間管理タイマやダイジェスト動画撮影時間管理タイマ及び通常動画撮影時間管理タイマを停止させる(ステップS24〜ステップS26)。そして、関連付けデータテーブル20とダイジェスト版動画インデックス管理テーブル21を記録メディア制御部14に出力し(ステップS27、ステップS28)、記録メディア制御部14ではこれらのテーブルを記録メディア15に格納して処理が終了となる。
図7は、ストリーム制御部13の動作フローを示す図である。この図において、ストリーム制御部13は、まず、ストリーム出力開始命令の有無を判定する(ステップS31)。そして、ストリーム出力開始命令ありであれば、FIFOメモリ9から送られてくる動画ストリームのGOPの先頭を検索し(ステップS32)、GOP(Group of Picture:圧縮コーデックにおける最小の処理単位のこと。)の先頭部分から順に、記録メディア制御部14に対してストリームを転送する(ステップS33)という動作を繰り返す。
一方、ストリーム出力開始命令ありでなければ、次に、ストリーム出力一時停止命令の有無を判定し(ステップS34)、ストリーム出力一時停止命令なしであれば、再びステップS31に戻り、ストリーム出力一時停止命令ありであれば、FIFOメモリ9から送られてくる動画ストリームのGOPの先頭を検索し(ステップS35)、GOPの先頭の直前(直前のGOPの最終)まで、記録メディア制御部14に対してストリームを転送してから転送を一時停止する(ステップS33)という動作を繰り返す。
以上のような動作フロー(図3及び図4並びに図7)を実行することにより、通常動画ストリームの生成と平行して、ダイジェスト版動画のストリームを別途作成することができ、さらに、通常動画ストリームとダイジェスト版動画ストリーム及び静止画とを関連付けた情報(関連付けデータテーブル20とダイジェスト版動画インデックス管理テーブル21)を記録することができる。
<再生処理>
次に、前記のようにして記録された通常動画ストリーム、ダイジェスト版動画ストリーム及び静止画データの再生処理について説明する。
まず、この再生処理で使用する関連付けデータテーブル20の格納情報の一例を示す。
図8は、再生処理で使用する関連付けデータテーブル20の格納情報の一例を示す図であり、通常動画ファイル名フィールド20aには通常動画ファイル名として“通常動画ファイルA”が格納され、ダイジェスト版動画ファイル名フィールド20bにはダイジェスト版動画ファイル名として“ダイジェスト版動画ファイルA”が格納され、さらに、静止画ファイル名フィールド20cには静止画ファイル名として“静止画ファイルA”、“静止画ファイルB”及び“静止画ファイルC”が格納されると共に、それらのファイルの相互関係を定義するための情報として、通常動画経過時間フィールド20dに“0:01:00”、“0:05:00”、“0:09:00”、“0:10:00”の通常動画経過時間情報と、ダイジェスト版動画インデックス情報フィールド20eに“インデックスX”、“インデックスY”、“インデックスZ”のダイジェスト動画インデックス情報とが格納されている。
図9は、中央制御部7における再生時の動作フローを示す図である。この動作フローを開始すると、まず、表示部5に各画像ファイルの代表画像(一般的にサムネイル画像)を表示する(ステップS41)。ここで、各画像データとは、通常画像、ダイジェスト版動画及び静止画のうち、関連付けデータテーブル20によって互いに関連付けられている(対応付けされている)もののことをいう。
次に、ユーザによる画像ファイルの選択操作を判定し(ステップS42)、選択された場合には、その選択画像と、その選択画像に関連付けられた全ての画像の選択肢を表示する(ステップS43)。たとえば、選択画像が「静止画」であって、その静止画に「通常動画」と「ダイジェスト版動画」が関連付けられている場合には、それらの画像(静止画、通常動画、ダイジェスト版動画)のいずれかを選択して再生表示するための選択肢オブジェクト(たとえば、アイコン、メニュー又はそれらに類似するもの)を表示する。
そして、最初に再生する画像データの選択入力を検知し(ステップS44)、その検知された画像データの種類に応じた再生処理、つまり、通常動画データ再生処理(ステップS45)、ダイジェスト版動画データ再生処理(ステップS46)、静止画データ再生処理(ステップS47)のいずれかを実行する。
ここで、ステップS43における“選択肢”の表示について、実例を挙げて説明する。
図10は、選択肢の表示画面を示す図である。この図において、表示部5の表示画面5aには、複数(ここでは、五つ)の矩形状の表示エリア22〜26が設けられている。この表示エリア22〜26は、関連付けデータテーブル20によって互いに関連付けられた各画像の代表画像を表示するためのオブジェクトであり、図示の例では、左上の表示エリア22に通常動画ファイルAの代表画像22aが表示され、右上の表示エリア23にダイジェスト版動画ファイルAの代表画像23aが表示され、左下の表示エリア24に静止画ファイルAの代表画像24aが表示され、下中央の表示エリア25に静止画ファイルBの代表画像25aが表示され、右下の表示エリア26に静止画ファイルCの代表画像26aが表示されている。
さらに、各表示エリア22〜26には、各々の代表画像に関連付けられた他の画像の存在を示すアイコンが表示されている。たとえば、表示エリア22の左上隅にはダイジェストアイコン22bと静止画アイコン22cが表示されており、表示エリア23の左上隅には通常動画アイコン23bと静止画アイコン23cが表示されており、表示エリア24の左上隅にはダイジェストアイコン24bと通常動画アイコン24cが表示されており、表示エリア25の左上隅にはダイジェストアイコン25bと通常動画アイコン25cが表示されており、表示エリア26の左上隅にはダイジェストアイコン25bが表示されている。
したがって、これらのアイコンを一瞥するだけで、通常動画ファイルAにはダイジェスト版動画と静止画が関連付けられていることを知ることができ、また、ダイジェスト版ファイルAには通常動画と静止画が関連付けられていることを知ることができ、また、静止画ファイルAにはダイジェスト版動画と通常動画が関連付けられていることを知ることができ、また、静止画ファイルBにはダイジェスト版動画と通常動画が関連付けられていることを知ることができ、また、静止画ファイルCにはダイジェスト版動画が関連付けられていることを知ることができる。
加えて、各表示エリア22〜26のいずれかを選択することにより、関連付けられた画像の択一的再生を行うための、以下に示す「選択肢」オブジェクトを表示できるようになっている。
図11は、選択肢オブジェクト(その1)を示す図である。この図において、たとえば、左上の表示エリア22を選択(太枠とハッチングで示す)しているものとすると、この場合、この表示エリア22の通常動画ファイルAと、その通常動画ファイルAに関連付けられたダイジェスト版動画ファイル又は静止画ファイルとのいずれかを選択するための選択肢オブジェクトメニュー27を表示する。選択肢オブジェクトメニュー27は、「この通常動画を再生する」、「関連するダイジェスト動画を再生する」、「関連する静止画をスライドショーする」という三つの選択肢を有し、いずれかの選択肢を選ぶことにより、この表示エリア22の通常動画ファイルA、その通常動画ファイルAに関連付けられたダイジェスト版動画ファイル又は静止画ファイルのいずれかを再生することができるようになっている。
図12は、選択肢オブジェクト(その2)を示す図である。この図において、たとえば、右上の表示エリア23を選択(太枠とハッチングで示す)しているものとすると、この場合、この表示エリア23のダイジェスト版動画ファイルAと、そのダイジェスト版動画ファイルAに関連付けられた通常動画ファイル又は静止画ファイルとのいずれかを選択するための選択肢オブジェクトメニュー28を表示する。選択肢オブジェクトメニュー28は、「このダイジェスト動画を再生する」、「関連する通常動画を再生する」、「関連する静止画をスライドショーする」という三つの選択肢を有し、いずれかの選択肢を選ぶことにより、この表示エリア23のダイジェスト版動画ファイルA、そのダイジェスト版動画ファイルAに関連付けられた通常動画ファイル又は静止画ファイルのいずれかを再生することができるようになっている。
図13は、選択肢オブジェクト(その3)を示す図である。この図において、たとえば、左下の表示エリア24を選択(太枠とハッチングで示す)しているものとすると、この場合、この表示エリア24の静止画ファイルAと、その静止画ファイルAに関連付けられたダイジェスト版動画ファイル又は通常動画ファイルとのいずれかを選択するための選択肢オブジェクトメニュー29を表示する。選択肢オブジェクトメニュー29は、「この静止画ファイルからスライドショーする」、「関連する通常動画を再生する」、「関連するダイジェスト動画を再生する」という三つの選択肢を有し、いずれかの選択肢を選ぶことにより、この表示エリア24の静止画ファイルA、その静止画ファイルAに関連付けられたダイジェスト版動画ファイル又は通常動画ファイルのいずれかを再生することができるようになっている。
図14は、選択肢オブジェクト(その4)を示す図である。この図において、たとえば、右下の表示エリア26を選択(太枠とハッチングで示す)しているものとすると、この場合、この表示エリア26の静止画ファイルCと、その静止画ファイルCに関連付けられたダイジェスト版動画ファイルとのいずれかを選択するための選択肢オブジェクトメニュー30を表示する。選択肢オブジェクトメニュー30は、「この静止画ファイルからスライドショーする」、「関連する通常動画を再生する」、「関連するダイジェスト動画を再生する」という三つの選択肢を有している。ただし、関連付けのない選択肢(ここでは、「関連する通常動画を再生する」)は選択不可の状態(薄色表示状態)になっている。「関連する通常動画を再生する」以外のいずれかの選択肢を選ぶことにより、この表示エリア26の静止画ファイルC、その静止画ファイルCに関連付けられたダイジェスト版動画ファイルのいずれかを再生することができるようになっている。
以上のとおり、中央制御部7は、再生処理を開始すると、まず、記録メディア15に格納されている動画ストリームと静止画データを検索し、関連付けデータテーブル20を参照する。中央制御部7は、これらの情報を元に、図10のような表示を表示部5に行う。図10は、記録メディア15に格納されているファイルの一覧とそれぞれのファイルに関連付けられているファイルがあるか否かを示したものであり、図8の関連付けデータテーブル20の格納情報の内容を反映したものである。つまり、図8の関連付けデータテーブル20で、通常動画ファイルAとダイジェスト版動画ファイルAと静止画ファイルA、B、Cが関連付けされているので、図10のような表示になる。
また、図8によると、静止画ファイルA、Bは、通常動画ファイルAとダイジェスト版動画ファイルAの両方に関連付けられている(インデックスXとZ参照)が、静止画ファイルCは、関連付けられたダイジェスト版動画ファイルがない(インデックスがない)ので、図10でもそのような表示になっている。このような状態は、図3、図4の説明における、ダイジェスト版動画生成許可キーが“禁止”の状態であった場合に起こり得る。
中央制御部7は、図10の表示を行うと、ユーザからの再生指示待ちとなる。ユーザが再生したいファイルをカーソルキー(図示せず)により選択して決定キー(図示せず)を押すと、たとえば、図11のような表示になる。図11は、通常動画ファイルAを選択した場合の例であり、この通常動画ファイルAを再生するか、関連するダイジェスト版動画ファイルAを再生するか、又は、関連する静止画ファイルA、B、Cをスライドショー再生するかをユーザに選択させる表示になる。
ユーザは、カーソルキーと決定キーにより、所望の再生動作を選択する。ユーザが動作を選択すると、中央制御部7は、通常動画再生を選択されていれば通常動画再生ステートの処理(図9のステップS45)を行い、ダイジェスト版動画再生が選択されていればダイジェスト版動画再生ステートの処理(図9のステップS46)を行い、静止画ファイル再生が選択されていれば静止画再生ステート処理(図9のステップS47:本実施形態では静止画スライドショー再生)を行う。
同様に、図10の画面でダイジェスト版動画ファイルAが選択された場合には、図12のような表示になる。あるいは、図10で静止画ファイルA、Bが選択されると、図13のような表示になる。また、静止画ファイルCが選択されると、関連するダイジェスト版動画ファイルがないので、図14のような表示になる。
図12は、選択したダイジェスト版動画ファイルを再生するか、関連する通常動画ファイルを再生するか、関連する静止画ファイルのスライドショー再生をするかを選択させる画面を示し、図13、図14は選択した静止画ファイルからスライドショー再生をスタートさせるか、関連する通常動画ファイルを再生するか、関連するダイジェスト版動画ファイルを再生するかを選択させる画面を示している。
以上のように、画像の種類(通常動画、ダイジェスト版動画、静止画)ごとの再生が開始されるのであるが、たとえば、通常動画の再生中に、関連する静止画の再生に切り替えたり、あるいは、ダイジェスト版動画の再生に切り替えたりするための仕組みが必要である。つまり、通常動画、静止画、ダイジェスト版動画の間の柔軟な再生切換の仕組みが必要である。
図15は、再生先の切り替えの仕組みを示す状態遷移図である。この図において、三つの丸図形はそれぞれ、通常動画再生状態S100、静止画再生状態S101、ダイジェスト動画再生状態S102を示し、それらの状態間を結ぶ矢印線(R1〜R6)は、状態遷移条件線を示す。ここで、R1は「関連付けデータテーブル20の時刻付近で、且つ、ユーザからの通常動画再生から静止画再生への切り替え要求あり」という状態遷移条件線であり、R2は「ユーザからの静止画再生から通常動画再生への切り替え要求あり」という状態遷移条件線である。また、R3は「ユーザからの静止画再生からダイジェスト動画再生への切り替え要求あり、且つ、遷移先での動作条件が直近のダイジェスト動画を再生」という状態遷移条件線であり、R4は「関連付けデータテーブル20の時刻付近で、且つ、ユーザからのダイジェスト動画再生から静止画再生への切り替え要求あり」という状態遷移条件線である。また、R5は「ユーザからのダイジェスト動画再生から通常動画再生への切り替え要求あり」という状態遷移条件線であり、R6は「ユーザからの通常動画再生からダイジェスト動画再生への切り替え要求あり、且つ、遷移先での動作条件が直近のダイジェスト動画を再生」という状態遷移条件線である。
図16は、三つの再生状態(通常動画再生状態S100、静止画再生状態S101及びダイジェスト動画再生状態S102)における表示画面例を示す図である。この図において、(a)〜(c)は通常動画再生状態S100における表示画面例であり、(d)、(e)は静止画再生状態S101における表示画面例であり、(f)、(g)はダイジェスト動画再生状態S102における表示画面例である。
まず、通常動画再生中には、図16(a)のように、画面5aの全体より少し小さめの表示エリア31に通常動画再生表示を行い、再生中のシーンの通常動画ファイル先頭からの経過時間を監視するようにしておく。そして、その経過時間と、関連付けデータテーブル20の情報を参照しながら、関連付けデータテーブル20に記録されている時刻になったら、図16(b)のような表示に移行する。図16(b)は、たとえば、図8の“0:01:00”のところに該当する場合の表示例であり、選択可能なダイジェスト動画アイコン32と静止画アイコン33とを表示し、ダイジェスト動画と静止画ファイルへの切り替えが可能であることをユーザに示すものである。ユーザは、図16(b)の表示がされているタイミングでカーソルキーと決定キーにより所望の再生を選択(ダイジェスト動画アイコン32と静止画アイコン33のいずれかを選択)すると、再生が切り替わるようになる。また、図8の“0:05:00”のところでは、関連付けられた静止画ファイルがないので、図16(c)のような表示になり、この表示例では、静止画アイコン33が選択不可状態(薄色表示)になっている。
図17は、静止画データ再生(図9のステップS47)の詳細動作フローを示す図である。この動作フローに示すように、静止画データ再生においては、まず、直前に通常動画データを再生していたか否かを判定し(ステップS51)、再生していれば、直前の「静止画」の選択入力がなされた再生時刻を検知する(ステップS52)。次いで、検知した再生時刻の未来側の直近にある静止画データからスライドショーを表示し(ステップS53)、「通常動画」の選択肢を表示する(ステップS57)。
一方、ステップS51で、直前に通常動画データを再生していたことが判定されなかった場合は、次に、直前にダイジェスト動画データを再生していたか否かを判定する(ステップS54)。そして、再生していれば、直前に再生したダイジェスト動画データに関連付けられた静止画データからスライドショーを表示し(ステップS55)、再生していなければ、最初のインデックスが付された静止画データからスライドショーを表示し(ステップS56)、いずれの場合も「通常動画」の選択肢を表示する(ステップS57)。
次に、現在再生している静止画データに関連付けられたダイジェスト動画の“あり”を判定し(ステップS58)、ありの場合のみ「ダイジェスト」の選択肢を表示する(ステップS59)。次いで、「通常動画」の選択入力を検知し(ステップS60)、「通常動画」の選択入力を検知した場合は、通常動画データ再生(図9のステップS45)を実行し、そうでない場合は、「ダイジェスト動画」の選択入力を検知し(ステップS61)、「ダイジェスト動画」の選択入力を検知した場合は、ダイジェスト動画データ再生(図9のステップS46)を実行し、そうでない場合は、再び、ステップS57に復帰する。
図18は、ダイジェスト動画データ再生(図9のステップS46)の詳細動作フローを示す図である。この動作フローに示すように、ダイジェスト動画データ再生においては、まず、直前に通常動画データを再生していたか否かを判定し(ステップS71)、再生していれば、直前の「ダイジェスト動画」の選択入力がなされた再生時刻を検知する(ステップS72)。次いで、検知した再生時刻の未来側の直近にあるダイジェスト動画を再生表示し(ステップS73)、「通常動画」の選択肢を表示する(ステップS77)。
一方、ステップS71で、直前に通常動画データを再生していたことが判定されなかった場合は、次に、直前に静止画データを再生していたか否かを判定する(ステップS74)。そして、再生していれば、直前に再生した静止画データに関連付けられたダイジェスト動画データを再生表示し(ステップS75)、再生していなければ、最初のインデックスが付されたダイジェスト動画を再生表示し(ステップS76)、いずれの場合も「通常動画」の選択肢を表示する(ステップS77)。
次に、現在再生しているダイジェスト動画データに関連付けられた静止画データの“あり”を判定し(ステップS78)、ありの場合のみ「静止画」の選択肢を表示する(ステップS79)。次いで、「通常動画」の選択入力を検知し(ステップS80)、「通常動画」の選択入力を検知した場合は、通常動画データ再生(図9のステップS45)を実行し、そうでない場合は、「静止画」の選択入力を検知し(ステップS81)、「静止画」の選択入力を検知した場合は、静止画データ再生(図9のステップS47)を実行し、そうでない場合は、再び、ステップS77に復帰する。
図19は、通常動画データ再生(図9のステップS45)の詳細動作フローを示す図である。この動作フローに示すように、通常動画データ再生においては、まず、直前にダイジェスト動画又は静止画データを再生していたか否かを判定し(ステップS91)、いずれかを再生していれば、直前に再生した画像データ(ダイジェスト動画又は静止画データ)のインデックスが示す再生時刻を検知する(ステップS92)。次いで、検知した再生時刻から、通常動画を再生表示し(ステップS93)、「ダイジェスト動画」の選択肢を表示する(ステップS95)。
一方、ステップS91で、直前にダイジェスト動画又は静止画データを再生していたことが判定されなかった場合は、次に、最初の再生時刻(0:00:00)から通常動画データを再生表示し(ステップS94)、「ダイジェスト動画」の選択肢を表示する(ステップS95)。
次に、現在の再生時刻が、直近のインデックスが示す再生時刻の10秒以内であるか否かを判定し(ステップS96)、以内の場合のみ「静止画」の選択肢を表示する(ステップS97)。次いで、「ダイジェスト動画」の選択入力を検知し(ステップS98)、「ダイジェスト動画」の選択入力を検知した場合は、ダイジェスト動画データ再生(図9のステップS46)を実行し、そうでない場合は、「静止画」の選択入力を検知し(ステップS99)、「静止画」の選択入力を検知した場合は、静止画データ再生(図9のステップS47)を実行し、そうでない場合は、再び、ステップS95に復帰する。
ところで、通常動画再生中には、関連付けデータテーブル20に記録されている時刻か否かに関わらず、常にダイジェスト版動画再生の選択を可能にする表示、つまり、図16(b)のような表示を行うことが望ましい。同様に、図8の“0:10:00”では、関連付けられたダイジェスト版動画のインデックス情報がないが、この場合でも、図16(b)のような表示を行うことが望ましい。なお、図16(c)は、再生中の通常動画にダイジェスト版動画だけが関連付けされている場合(つまり、静止画が関連付けされていない場合)の表示例である。
このように、関連付けられたダイジェスト版動画がないときに、ユーザがダイジェスト版動画を選択した場合には、ダイジェスト版動画のインデックス情報と、経過時間を参照して、経過時間より未来の時間で、かつ、最も近いインデックス情報のところからダイジェスト版動画の再生を行うようにすればよい。このようにすることで、通常動画再生中につまらないシーンが続き、鑑賞することに飽きてしまった場合に、ユーザは、すぐにダイジェスト版動画に切り替えられるので使い勝手の向上を図ることができる。
なお、上記の説明では、図16(b)、図16(c)の表示を行うタイミングを、経過時間が、関連付けデータテーブル20に記録されている時刻になった時としているが、これに限らず、たとえば、関連付けデータテーブル20に記録されている時刻の前後10秒の間は継続して図16(b)、図16(c)の表示を行うようにしてもよい。このようにすれば、たとえば、図16(b)、図16(c)の表示時間が短すぎる場合に、ユーザの操作が間に合わないという不都合を回避できる。
ここまでが、図15の通常動画再生状態S100から、静止画再生状態S101、ダイジェスト版動画再生状態S102への遷移の説明である。同様に、静止画再生状態S101からの遷移について説明する。静止画再生状態S101から通常動画再生状態S100への遷移は、ユーザからの再生切り替え要求があれば常に遷移可能である。一方、静止画再生状態S101からダイジェスト版動画再生状態S102への遷移も、図15ではユーザからの要求があれば常に遷移できるようにしている。しかしながら、図8を見ると分かるように、静止画によっては、関連付けられたダイジェスト版動画のインデックス情報がない場合がある。たとえば、静止画ファイルCが該当する。
このような場合、つまり、静止画再生状態S101で静止画のスライドショーを行なっていて、ちょうど静止画ファイルCの再生を行なっていたときに、ダイジェスト版動画への切り替えをユーザにより要求された場合には、関連付けデータテーブル20から静止画ファイルCの時刻情報を取得し、その時刻情報より未来の時間で、かつ最も近いインデックス情報のところから、ダイジェスト版動画を再生するようにする。
図16(d)に静止画再生ステートでの表示の例を示す。なお、上記で静止画再生状態S101からダイジェスト版動画再生状態S102への遷移を常に可能にする例を説明したが、静止画ファイルに関連付けられたダイジェスト版動画のインデックス情報がない場合に、ダイジェスト版動画再生への遷移を不可能にするという方法も考えられる。この場合の表示例を図16(e)に示す。図16(e)は、関連付けられたダイジェスト版動画のインデックス情報がない静止画ファイルを再生中の表示例である。
スライドショーで再生中の静止画ファイルに、関連付けられたダイジェスト版動画のインデックス情報があるかないかによって、図16(d)と図16(e)の表示を切り替えるようにすればよい。
続いて、ダイジェスト版動画再生状態S102からの遷移について説明する。ダイジェスト版動画再生状態S102から通常動画再生状態S101への遷移は、ユーザからの切り替え要求があれば常に可能である。ダイジェスト版動画再生状態S102から静止画再生状態S101への切り替えは、図8の関連付けデータテーブル20に関連付けられた静止画がある場合には、遷移が可能である。図8の例では、ダイジェスト版動画のインデックスXを再生中ならば、静止画ファイルAの再生への遷移ができる。しかし、インデックスYを再生中の場合には、関連付けられた静止画ファイルがないので遷移はできない。また、インデックスZを再生中は、静止画ファイルBの再生へ遷移できる。
ところで、ダイジェスト版動画再生中に、静止画ファイルCの再生への直接遷移することはできないため、静止画ファイルCが埋もれてしまうという懸念が生まれるが、本実施形態では静止画再生はスライドショー再生であるので、静止画ファイルCはスライドショーでのワンシーンとして表示されることになるので、問題はない。図16(f)、図16(g)にダイジェスト動画再生中の表示例を示す。なお、静止画ファイル再生をスライドショーで行なわない場合には、ダイジェスト版動画のインデックスZを再生中には、関連付けデータテーブル20を参照して、現在再生しているダイジェスト版動画のシーンに近い時刻の静止画ファイルを再生するようにすればよい。
以上のようにすることにより、本実施形態によれば、通常動画データの再生中に、再生対象をダイジェスト版動画データや静止画データに切り替えることができるので、視聴者は動画データを効率的に視聴しつつ、動画データに関連付けられた各画像データの全てを視聴できる。
また、本実施形態によれば、関連付けデータテーブル20を使って、通常動画再生、ダイジェスト版動画再生、静止画再生を自由に切り替えることができ、ユーザに新たな鑑賞スタイルを提供することができる。
また、複数の異なる種類の画像データの関連情報を選択肢オブジェク(選択肢オブジェクトメニュー27、28、29、30)によって表示し、ユーザに選択させるようにしているので、それらのメニューを一目見るだけで、関連付けされている画像データの有無を直感的に知ることができ、操作性の改善を図ることができる。
なお、以上の説明では、各画像の関連付け情報を関連付けデータテーブル20に格納し、そのテーブル20を記録メディア15に保存していたが、これに限らず、関連付け情報を通常動画ストリーム、ダイジェスト版動画ストリーム及び静止画データのそれぞれのヘッダに記録するようにしてもよい。
また、以上の説明では、関連付けデータテーブル20は、通常動画ファイルAとダイジェスト版動画ファイルAと静止画ファイルとを関連付ける情報のみを保持しているが、これは説明のための便宜に過ぎず、通常動画ファイルやダイジェスト版動画ファイルが複数存在する場合には、それに合わせて関連付けデータテーブル20のテーブル数が増えることはもちろんである。またこのとき、図10で表示されるファイル数も増えることになる。
さらに、以上の説明では、ダイジェスト版動画を独立したファイルとしているが、これに限定されず、たとえば、元になる通常動画のファイル名や、その通常動画からの切り出し情報(フレーム番号等)などからなるリンク情報で構成してもよい。このようにすれば、リンク情報は単なる文字情報であり、実体を伴うダイジェスト版動画に比べてはるかに情報量が少ないので、記録メディア15の容量圧迫を招かないから好ましい。