以下、この発明の実施の一形態について説明する。図1は、コンテンツの伝送例えば画像および/または音声のコンテンツの伝送を行うコンテンツ伝送システムの全体構成を示している。撮像装置10はフレームレートが可変された映像データを生成して、この映像データに関する付属情報を連結させて素材データDTmとして編集装置30に供給する。また、音声入力装置20が撮像装置10に設けられているときには音声データを生成して、この音声データも素材データDTmとして編集装置30に供給する。なお、素材データDTmは、撮像装置10だけでなく他の機器からも供給されるものとしても良い。
編集装置30は、供給された素材データDTmを用いて編集処理を行い、編集者が所望する画像および/または音声を示すデータを生成する。また、この画像および/または音声を示すデータを主データとして、この主データに対して付属情報を連結して、伝送用のコンテンツデータDCを生成してコンテンツ伝送装置50に供給する。
編集装置30は、編集に関した映像信号Svmを生成して編集画像表示装置40に供給する。これにより、ユーザは、編集画像表示装置40での表示画像によって画像の編集経過や編集結果等の確認を行うことができる。同様に、編集に関した音声信号Samを生成して編集音声出力装置41に供給する。これにより、ユーザは、編集音声出力装置41から出力される音声によって、音声の編集経過や編集結果等の確認を行うことができる。
コンテンツ伝送装置50は、編集装置30から供給されたコンテンツデータDCを蓄積する。また、例えばコンテンツ再生装置70からコンテンツデータの要求がなされたときには、伝送路60の帯域に応じてコンテンツデータのフレームレートを調整し、フレームレート調整後のコンテンツデータに基づき伝送データDTcを生成して、この伝送データDTcを有線あるいは無線の伝送路60を介してコンテンツ再生装置70に供給する。
コンテンツ再生装置70は、伝送路を介して供給された伝送データDTcに基づきコンテンツの映像信号Svzや音声信号Sazを生成して、コンテンツ提示装置80に供給する。また、コンテンツ再生装置70は、付属情報に基づきコンテンツの再生動作を制御する。
コンテンツ提示装置80は、映像信号Svzに基づいた画像表示や音声信号Sazに基づいた音声出力を行うことでコンテンツの提示を行う。
ここで連結とは、主データと、この主データに関するフレームレート情報を含む付属情報が、互いにリンクされている状態であれば良い。例えば主データと付属情報が、別の伝送路で伝送データとして伝送されたものであっても、付属情報に対応するフレーム番号が含まれているようにしていれば、後で互いに対応させることができる。本実施の形態では、このような場合も含めて連結しているという。
図2は、撮像装置10の構成例を示している。撮像レンズ系11を通して入射された光は、撮像部12に入射されて、撮像部12に設けられている例えばCCD(Charge Coupled Device)等の撮像素子の撮像面上に被写体画像が結像される。撮像素子は、光電変換によって被写体画像の撮像電荷を生成する。また、撮像部12は、後述するタイミングジェネレータ142からの駆動信号CRに基づいて、生成した撮像電荷を読み出し、駆動信号CRに応じたフレームレートの撮像信号Spを生成して信号処理部13のカメラ処理回路131に供給する。
カメラ処理回路131は、タイミングジェネレータ142から供給されたタイミング信号CTに基づき、撮像信号Spと同期したタイミングで種々の信号処理を行う。例えば、カメラ処理回路131は、相関二重サンプリング等を行うことで撮像信号Spからノイズ成分を除去する処理、ノイズ除去された撮像信号Spをディジタルの映像データに変換する処理、映像データのクランプ処理、シェーディング補正や撮像素子の欠陥補正、γ処理や輪郭補償処理およびニー補正処理等を行う。また、カメラ処理回路131は、制御部14の撮像制御回路141から供給された動作制御信号CSに基づいた処理条件等で種々の信号処理を行う。このように、カメラ処理回路131で種々の信号処理を行って得られた映像データDVは、出力部15に供給される。
制御部14のタイミングジェネレータ142は、撮像制御回路141からの動作制御信号CSに応じた駆動信号CRを生成して撮像部12に供給することにより、撮像部12における撮像電荷の読み出し周期を可変して、撮像信号Spのフレームレートを、ユーザインタフェース部16からの操作信号PSaに基づいた設定フレームレートFRsに制御する。タイミングジェネレータ142は、例えばNTSC方式ではフレーム周波数59.94Hzや29.97Hz、PAL方式ではフレーム周波数50Hzや25Hzを基準フレームレートFRrのフレーム周波数として、設定フレームレートFRsを基準フレームレートFRrのk(kは整数に限らない正の値)倍とする操作が行われたときには、撮像信号Spのフレームレートが基準フレームレートFRrのk倍となるように制御する。なお、例えば、CCD等の撮像素子の各画素から転送部へ各画素に蓄積された撮像電荷を移動させるための読み出しパルス(センサーゲートパルス)の周期を変更する等することで、撮像電荷の読み出し周期が可変され、フレームレートが可変される。また、この際に、CDR(Common Data Rate)方式を採用しても良い。CDR方式を用いると、有効なフレームレートは可変するが、CCDから出力される信号のフレームレートは不変とすることができ、カメラ処理回路131等の処理レートを一定とすることができる。このCDR方式に関しては、PCT出願、出願番号PCT/JP03/00551,2003/1/22出願に開示されている。
また、タイミングジェネレータ142は、駆動信号CRに同期したタイミング信号CTを生成してカメラ処理回路131や音声処理回路132に供給する。さらに、タイミングジェネレータ142は、映像データDVのフレームレートである設定フレームレートFRsを示すフレームレート情報DM-FRsを生成して、出力部15に供給する。また、タイミングジェネレータ142は、サブフレーム番号BNの生成も行う。このサブフレーム番号BNは、基準フレームレートFRrに対して設定フレームレートFRsを高くしたとき、基準フレームレートFRrのフレーム期間内に含まれる各フレームを識別可能とする番号である。このサブフレーム番号BNをフレーム識別情報DM-BNとして出力部15に供給する。
図3は、タイミングジェネレータ142でのサブフレーム番号の付加動作を示すフローチャートである。タイミングジェネレータ142は、例えば所定周波数の発振信号を分周して、基準フレームレートFRrのフレーム期間と設定フレームレートFRsのフレーム期間を同期させて設定し、設定フレームレートFRsのフレーム期間に基づいて駆動信号CRの生成および基準フレームレートFRrのフレーム期間の区切りを示すフレーム基準タイミングの生成を行う。
タイミングジェネレータ142は、ステップST1でフレーム基準タイミングを検出したか否かを識別する。ここで基準タイミングを検出したときにはステップST2に進む。また基準タイミングを検出していないときにはステップST1に戻る。
ステップST1でフレーム基準タイミングを検出してステップST2に進むと、タイミングジェネレータ142は、ステップST2でサブフレーム番号BNの初期化を行い、サブフレーム番号BNを初期値例えば「0」に設定してステップST3に進む。
ステップST3で、タイミングジェネレータ142は、フレーム基準タイミングを検出してから設定フレームレートFRsの1フレーム期間経過時までに、フレーム基準タイミングを検出したか否かを識別する。ここで、フレーム基準タイミングを検出していないときにはステップST4に進み、タイミングジェネレータ142は、サブフレーム番号BNに「1」を加算して、サブフレーム番号BNの更新を行いステップST3に戻る。このように、設定フレームレートFRsの1フレーム期間経過時までにフレーム基準タイミングが検出されていないときには、設定フレームレートFRsの1フレーム期間毎にサブフレーム番号BNが順番に割り当てられる。
その後、設定フレームレートFRsの1フレーム期間経過までにフレーム基準タイミングを検出するとステップST2に戻り、サブフレーム番号BNの初期化を行う。
このため、基準フレームレートFRrのフレーム期間毎に、このフレーム期間中に設けられた設定フレームレートFRsのフレーム画像に対してサブフレーム番号BNを付加することができる。
図2に示す制御部14の撮像制御回路141には、ユーザインタフェース部16が接続されている。ユーザインタフェース部16は、撮像装置10での動作切換操作やフレームレート可変操作が行われたとき、これらの操作に応じた操作信号PSaを生成して撮像制御回路141に供給する。また、ユーザインタフェース部16は、図示しないリモートコントローラ等の外部機器から操作信号PSaが供給されたとき、この操作信号PSaを撮像制御回路141に供給する。
撮像制御回路141は、ユーザインタフェース部16からの操作信号PSaに基づき、撮像装置10の動作が操作信号PSaに応じた動作となるように、動作制御信号CSを生成してカメラ処理回路131やタイミングジェネレータ142に供給する。
音声処理回路132には、音声入力装置20からアナログの音声信号Sinが供給される。音声処理回路132は、タイミングジェネレータ142から供給されたタイミング信号CTに基づいて音声信号Sinのサンプリング処理を行い、ディジタルの音声データDAを生成して出力部15に供給する。
出力部15は、フレームレート情報DM-FRsやフレーム識別情報DM-BNを含む付属情報DMを生成して、映像データDVや音声データDAに連結させて素材データDTmを生成して編集装置に供給する。なお、素材データDTmあるいは素材データDTmに基づいて生成した記録信号を記録媒体に記録すれば、この素材データDTmあるいは素材データDTmに基づいて生成した記録信号が記録されている記録媒体を編集装置で再生することにより、記録媒体を介して素材データDTmを編集装置に供給できる。また、付属情報DMには、設定フレームレートFRsやサブフレーム番号BNの情報だけでなく、撮像日時や撮像条件および撮像内容等を示す情報を含めるものとしても良い。
ここで、映像データDVや音声データDAに対して付属情報DMを連結させる方法の一例として、映像データDVや音声データDAを圧縮してデータストリームとして素材データDTmを生成するときには映像のデータストリーム中に付属情報DMを挿入、あるいはデータストリームのヘッダ中に付属情報DMを挿入することが考えられる。
また、非圧縮の映像データや音声データを伝送するためにSMPTE(Society of Motion Picture and Television Engineers)259M「Television - 10-Bit 4:2:2 Component and 4fsc Composite Digital Signals - Serial Digital Interface」として規格化されているSDIフォーマットや、圧縮された映像データや音声データを伝送するためにSMPTE305M「Television - Serial Data Transport Interface(SDTI)」として規格化されているSDTIフォーマット、SDTIフォーマットを更に限定しているSMPTE326M「Television - SDTI Content Package Format(SDTI-CP)」として規格化されたSDTI−CPフォーマットを用いる場合、付属情報DMをSMPTE330M「Television - Unique Material Identifier(UMID)」として規格化されているUMIDのデータとして、各フォーマットの信号に挿入する。なお、映像データDVや音声データDAに対して付属情報DMを連結する方法はこれに限られず種々の方法が考えられ、上記の例に限定されるものではない。また、連結とは、互いの関係が何らかの方法でわかるもの、つまり、リンクがとれれば良い。例えば、別の伝送路を介して送られる場合であっても、夫々に同じUMIDが付されていれば関連付けることができ、これも連結に含まれる。
ところで、上述の撮像装置10は、撮像部12における撮像電荷の読み出し周期を可変することで、所望の設定フレームレートFRsの素材データDTmを生成するものであり、設定フレームレートFRsを連続的に可変できる。しかし、設定フレームレートFRsをステップ状に可変するだけでよい場合には、フレーム間引きを行うことで、所望の設定フレームレートFRsの素材データDTmを生成できる。すなわち、設定フレームレートFRsよりも高いフレームレートであり、フレームレートが一定である映像データDVaを生成して、この映像データDVaから設定フレームレートFRs分だけ映像データを抽出することで、設定フレームレートFRsの映像データDVを生成できる。この場合の構成を図4に示す。なお、図4において、図2と対応する部分については同一符号を付し詳細な説明は省略する。
制御部18のタイミングジェネレータ182は、ユーザインタフェース部16を介して設定される設定フレームレートFRsの最高値に応じた駆動信号CRaを生成して撮像部12に供給する。撮像部12は、駆動信号CRaに基づいて撮像信号の生成を行い、フレームレートが基準フレームレートFRrよりも高い固定フレームレートFRqの撮像信号Spaを生成して信号処理部17のカメラ処理回路131に供給する。撮像部12は、例えば、設定フレームレートFRsが基準フレームレートFRrのn(nは正数)倍まで変更可能であるとき、基準フレームレートFRrのn倍のフレームレートである撮像信号Spaを生成して、カメラ処理回路131に供給する。即ち、撮像部12は、ユーザインタフェース部16を介して設定される設定フレームレートFRsに影響されることなく、固定のフレームレートである撮像信号Spaを生成する。
また、タイミングジェネレータ182は、駆動信号CRaに同期したタイミング信号CTaを生成して信号処理部17のカメラ処理回路131や音声処理回路132および有効フレーム信号生成回路183に供給する。
カメラ処理回路131は、撮像信号Spaに基づいて生成した固定フレームレートFRqの映像データDVaを有効データ選別回路171に供給する。音声処理回路132は、一定周波数のタイミング信号CTaに基づいたサンプリングを行って生成した音声データDAaを有効データ選別回路171に供給する。
撮像制御回路181は、ユーザインタフェース部16からの操作信号PSaに基づき、設定フレームレートFRsを示す設定情報信号CFを生成して有効フレーム信号生成回路183に供給する。
有効フレーム信号生成回路183は、映像データDVaの一定値であるフレームレートFRqと設定情報信号CFによって示された設定フレームレートFRsとの比に基づき、映像データDVaからフレーム単位でデータ抽出を行って設定フレームレートFRsの映像データDVを生成するための抽出制御信号CCを生成する。さらに、有効フレーム信号生成回路183は、この抽出制御信号CCをタイミング信号CTaに同期して有効データ選別回路171に供給する。例えば、映像データDVaのフレームレートFRqが基準フレームレートFRrのn倍であり、設定フレームレートFRsが基準フレームレートFRrの(n/2)倍であるとき、有効フレーム信号生成回路183は、映像データDVaから1フレーム置きにフレーム単位でデータ抽出を行う抽出制御信号CCを生成して、タイミング信号CTaに同期して有効データ選別回路171に供給する。
また、有効フレーム信号生成回路183は、設定情報信号CFに基づき設定フレームレートFRsを示すフレームレート情報DM-FRsを生成して出力部15に供給する。さらに、抽出制御信号CCによって基準フレームレートFRrのフレーム期間中におけるフレーム数を識別できることから、有効フレーム信号生成回路183は、基準フレームレートFRrの各フレーム期間中におけるフレームに対するサブフレーム番号BNの設定を行い、このサブフレーム番号BNもフレーム識別情報DM-BNとして出力部15に供給する。
有効データ選別回路171は、抽出制御信号CCによって示されたフレームの映像データDVaおよび音声データDAaを抽出して映像データDVおよび音声データDAとして出力部15に供給する。また、図示せずも、有効フレーム信号生成回路183から有効データ選別回路171に対して設定フレームレートFRsを示すフレームレート情報DM-FRを供給し、有効データ選別回路171で、設定フレームレートFRsと音声データDAaを生成したときのフレームレートとの比に応じて音声データDAaの間引きを行うものとしても良い。例えば、音声データDAaを生成したときのフレームレートFRqが基準フレームレートFRrのn倍であり、設定フレームレートFRsが基準フレームレートFRrの(n/2)倍であるとき、音声データDAaに対して1サンプル置きに間引きを行う。この場合、フレーム単位で音声データを間引く場合よりも間引き間隔を小さくできるので、音声データDAに基づく音声を良好な音質とすることができる。
このように、映像データDVaのフレーム周波数を一定とすることで、撮像部12や信号処理部17のカメラ処理回路131での動作周波数を可変する必要がなくなり、撮像部12やカメラ処理回路131の構成を簡単にできる。また、映像データDVaからフレーム単位でデータ抽出を行うだけで設定フレームレートFRsの映像データDVを生成できるので、所望の設定フレームレートFRsの映像データDVを映像データDVaから容易に生成できる。
また、撮像装置に画像メモリや加算器および除算器を設けるものとして、映像データを所定フレーム分毎に加算して映像データDVを生成するようにしても良い。この場合には、撮像信号Spのフレームレート可変範囲を狭くできる。すなわち、nフレーム分の撮像信号Spを加算して信号レベルを(1/n)倍すれば、撮像信号Spのフレームレートを(1/n)倍としなくとも、フレームレートを(1/n)倍とした信号を得ることが可能となる。
図5および図6は、撮像装置10,10aで生成される映像データDVと付属情報DMの関係を説明するための図である。図5Aに示すように設定フレームレートFRsを例えば基準フレームレートFRrの1倍あるいは2倍とすると、図5Bに示す映像データDV(図では映像データDVに基づいたフレーム画像を示している)に対して、設定フレームレートFRsを示す図5Cのフレームレート情報DM-FRsとサブフレーム番号BNを示す図5Dのフレーム識別情報DM-BNとを含んだ付属情報DMが連結される。なお、図5Eは、時間経過とフレーム画像の関係を示したものである。また、フレームレート情報DM-FRsは、設定フレームレートFRsを示すだけでなく、基準フレームレートFRrに対する設定フレームレートFRsの倍率を示すものとしても良い。図5Cおよび以下の図で示すフレームレート情報DM-FRsでは倍率を記している。
図6Aに示すように設定フレームレートFRsを例えば基準フレームレートFRrの1倍あるいは1/2倍とすると、図6Bに示す映像データDV(図では映像データDVに基づいたフレーム画像を示している)に対して、設定フレームレートFRsを示す図6Cのフレームレート情報DM-FRsとサブフレーム番号BNを示す図6Dのフレーム識別情報DM-BNとを含んだ付属情報DMが連結される。図6Eは、時間経過とフレーム画像の関係を示したものである。
次に、編集装置30について説明する。図7は、編集装置30の構成を示している。編集装置30に供給された素材データDTmは、素材取込部31の情報検出回路311に供給される。情報検出回路311は、素材データDTmから付属情報DMを検出する。この検出した付属情報DMをデータベース化処理回路312に供給する。また、素材データDTmに含まれている映像データDVと音声データDAをデータベース化処理回路312に供給する。
データベース化処理回路312は、映像データDVと音声データDAと情報検出回路311で検出した付属情報DMとを関係付けて編集処理部32のデータ記憶装置321に記憶させる。また、データベース化処理回路312は、データ記憶装置321に記憶した付属情報DMや、この付属情報DMに関係付けられている映像データDVや音声データDAに基づいて、容易に素材データの内容を確認可能とするデータベース情報DBを生成して編集制御部33に供給する。例えば、データベース情報DBは、素材データの内容を識別可能とする情報(例えばサムネイル)、素材データの時間長、設定フレームレートFRs、サブフレーム番号BN、データ記憶装置321における記憶位置等の情報から構成されるものである。
編集制御部33は、GUI(Graphical User Interface)環境で編集処理を可能とするための映像データDVgや、データベース情報の内容を表示するための映像データDViを生成して映像出力信号生成回路351に供給する。映像出力信号生成回路351は、供給された映像データDVg,DViに基づき映像信号Svmを生成して編集画像表示装置40に出力する。このように、映像信号Svmを編集画像表示装置40に供給することで、どのような素材データが記憶されているか等を編集画像表示装置40の画面上に表示できる。
また、編集制御部33は、ポストプロダクション処理の制御を行う。すなわち、編集制御部33に接続されているユーザインタフェース部34から、GUI環境での表示を利用した操作信号PSeが供給されて、操作信号PSeによっていずれかの素材データを選択することが示されたときには、編集制御部33は、この操作信号PSeに応じた読出制御信号RCを生成して編集処理部32の書込読出処理回路322に供給する。また、操作信号PSeが読み出した素材データの加工や結合等の編集操作に関するものであるときには、編集制御部33は、操作信号PSeに応じた編集制御信号ETを生成して編集処理部32の信号編集回路323に供給する。さらに、素材データの編集が終了してコンテンツデータが完成されたとき、操作信号PSeがコンテンツデータをデータ記憶装置321に記憶する操作を示しているときには、編集制御部33は、操作信号PSeに応じた書込制御信号WCを生成して、書込読出処理回路322に供給する。また、操作信号PSeがコンテンツデータの出力を示しているときには、編集制御部33は、操作信号PSeに応じた出力制御信号RPを生成して書込読出処理回路322に供給する。操作信号PSeがコンテンツデータの再生速度範囲を規定するものであるときには、編集制御部33は、操作信号PSeに応じた速度範囲設定信号LPを生成して信号編集回路323に供給する。
書込読出処理回路322は、読出制御信号RCに基づき、要求された素材データをデータ記憶装置321から読み出して信号編集回路323に供給する。また、書込読出処理回路322は、書込制御信号WCに基づき、完成されたコンテンツデータDCをデータ記憶装置321に記憶させる。また、書込読出処理回路322は、出力制御信号RPに基づき、要求されたコンテンツデータDCをデータ記憶装置321から読み出して出力する。
信号編集回路323は、データ記憶装置321から読み出した素材データに含まれている映像データDVおよび/または音声データDAを用いて、画像や音声の加工や結合および削除等の編集処理を編集制御信号ETに基づいて行う。ここで、信号編集回路323は、編集前や編集中あるいは編集後の映像データDVeを映像出力信号生成回路351に供給し、編集前や編集中あるいは編集後の音声データDAeを音声出力信号生成回路352に供給する。また、信号編集回路323は、編集処理によって映像データDVや音声データDAのフレームレートを変更したとき、付属情報DMも編集後の映像データや音声データに合わせて変更する。さらに、信号編集回路323は、編集後の映像データDVや音声データDAおよび編集後の映像データDVや音声データDAに対応する設定フレームレートFRsを示すフレームレート情報DM-FRsやフレーム識別情報DM-BNを含んだ付属情報DMcを連結させてコンテンツデータDCを生成する。また、信号編集回路323は、速度範囲設定信号LPが供給されたときには、この速度範囲設定信号LPに基づいてコンテンツデータDCの再生速度範囲を示す速度範囲情報も付属情報DMcとして連結させる。さらに、信号編集回路323は、ユーザインタフェース部34からコンテンツのタイトルやコンテンツの推奨再生速度が入力されたときには、これらの情報も付属情報DMcとして連結させる。また、編集処理によってコンテンツデータの再生時間長情報が得られているときには、この情報も付属情報DMcとして連結させるものとしても良い。さらに、コンテンツデータの再生可能な最高速度が入力されたときには、この最高速度も付属情報DMcとして連結させる。また、信号編集回路323あるいは編集制御部33は、素材データにサブフレーム番号BNが付加されていない場合、上述の図3に示す処理を行い、サブフレーム番号BNを設定してフレーム識別情報DMc-BNとする。
編集出力信号生成部35の映像出力信号生成回路351は、上述したように、編集制御部33から供給された映像データDVg,DViに基づき映像信号Svmを生成して編集画像表示装置40に供給する。このため、GUI環境で素材データに関する情報を表示できる。さらに、映像出力信号生成回路351は、信号編集回路323から供給された映像データDVeに基づき映像信号Svmを生成する。これにより、ユーザは、編集前や編集中あるいは編集後の画像を編集画像表示装置40の画面上で確認できる。
音声出力信号生成回路352は、信号編集回路323から供給された音声データDAeを、アナログの音声信号Samに変換し、所望の信号レベルとして、例えばスピーカやヘッドホンを用いて構成された編集音声出力装置41に供給する。このため、ユーザは、編集前や編集中あるいは編集後の音声を編集音声出力装置41から出力される音声によって確認できる。
このように、編集装置30で素材データDTmを用いたポストプロダクション処理が行われ、コンテンツデータDCが完成すると、この完成したコンテンツデータDCは、コンテンツ伝送装置50に供給されて、このコンテンツ伝送装置50からユーザのコンテンツ再生装置70に供給される。
図8は、コンテンツ伝送装置50の構成を示している。編集装置30から供給された伝送用のコンテンツデータDCは、書込処理部51に供給される。書込処理部51は、伝送データ生成部52のコンテンツ蓄積装置521と接続されており、供給された伝送用のコンテンツデータをコンテンツ蓄積装置521に記憶させる。なお、コンテンツデータDCは、編集装置30から供給されたものに限られるものではなく、撮像装置10で生成された素材データ等をコンテンツデータDCとして用いるものとしても良い。
伝送データ生成部52は、コンテンツデータDCに基づき伝送データDTzの生成を行うものであり、伝送データ生成部52のコンテンツ蓄積装置521には、読出処理回路522が接続されている。この読出処理回路522には、伝送用のコンテンツデータを伝送する際の伝送路の帯域情報WBやコンテンツ再生装置側からのコンテンツ要求信号RQが後述する伝送処理部53から供給される。
読出処理回路522は、帯域情報WBやコンテンツ蓄積装置521に蓄積されている要求されたコンテンツデータの付属情報DMcに基づき、要求されたコンテンツデータの読み出しを制御してフレームレート調整を行い、フレームレート調整後のコンテンツデータDCzaを情報修正回路523に供給する。
例えば、後述するエンコーダ524で符号化処理を行ったときの1フレーム分のデータ量がBDbit、フレームレート情報DMc-FRsによって示された設定フレームレートFRsが基準フレームレートFRrのn(nは正数)倍であるとき、単位時間で伝送するデータ量BTは「BT=BD×n×FRr+BH」となる。なお、データ量BHは、コンテンツデータをパケット化して伝送するときに付加されるヘッダ情報等をまとめて示したものである。
ここで、帯域情報WBで示された伝送可能なデータ量(帯域幅)BAがデータ量BTより小さくないときには、コンテンツデータのフレームレート調整を行わないものとされ、コンテンツ蓄積装置521からコンテンツデータを順次読み出して情報修正回路523に供給される。また、帯域幅BAがデータ量BTよりも小さいとき、コンテンツデータの映像データ等に対してフレームレート調整を行い、伝送データを受信しながら再生するストリーミング動作時に、画像や音声が途切れてしまうことがないようデータ量を少なくする。例えば付属情報DMcで示された設定フレームレートFRsと基準フレームレートFRrから、基準フレームレートFRrに対する設定フレームレートFRsの倍数「m」を識別する。さらに、識別した倍数「m」の約数を求めて、「m」を除く約数の最大値と基準フレームレートFRrを乗算して調整後の設定フレームレートとする。すなわち「m=10」であるときには約数の最大値が「5」であるので「m=5」とするフレームレート調整を行う。このフレームレート調整では、1フレームおき、すなわちフレーム識別情報DMc-BNを利用して、偶数であるサブフレーム番号「0,2,3,6,8」のコンテンツデータを読み出すことで、基準フレームレートFRrに対して5倍のフレームレートのコンテンツデータを生成する。また、「m=9」であるときには「m=3」に調整して、2フレームおき、すなわちフレーム識別情報DMc-BNを利用して、サブフレーム番号「0,3,6」のコンテンツデータを読み出すことでフレームレート調整後のコンテンツデータを生成する。また、調整後のデータ量BTが帯域幅BAよりも大きいときにはさらにフレームレートの調整を行う。このように、「m」を除く約数の最大値を用いて調整後のフレームレートを決定すれば、コンテンツデータを読み出す際にフレーム識別情報DMc-BNを利用してフレーム単位で間引きを行うだけで、簡単にフレームレート調整後のコンテンツデータを生成できる。
その後、「m=1」でも調整後のデータ量BTが帯域幅BAよりも大きいときには「m=1/k」(k:自然数)となるようにフレーム間引きを行うことで、データ量BTを更に少なくできる。また、帯域幅BAが変化したときには帯域幅BAの変化に応じてフレームレートを可変させる。
また、コンテンツデータの音声データに対しては、映像データに対するフレームレート調整に応じてサンプル間引きを行い、フレームレート調整後の音声データを生成する。例えば映像データが1フレームおきに読み出されるときには、音声データを1サンプル置きに読み出す。また映像データが2フレームおきに読み出されるときには、音声データを2サンプル置きに読み出してフレームレート調整後の音声データを生成する。
情報修正回路523は、読出処理回路522によってフレームレート調整が行われたとき、調整後のフレームレートに対応するようにコンテンツデータDCzaの付属情報DMzaを修正して、フレームレートを正しく示す付属情報DMzとする。さらに、この付属情報DMzを連結したコンテンツデータDCzをエンコーダ524に供給する。例えば「m=10」が「m=5」に調整されたときには、設定フレームレートFRsを「×10」から「×5」に変更する修正を行い、設定フレームレートFRsが「×10」であることを示すフレームレート情報DMza-FRsを、設定フレームレートFRsが「×5」であることを示すフレームレート情報DMz-FRsに変更する。設定フレームレートFRsの変更に伴いフレーム識別情報DMza-BNも変更する。すなわちサブフレーム番号BN「0〜9」をサブフレーム番号BN「0〜4」に付け替えたフレーム識別情報DMz-BNとする。さらに、この変更後のフレームレート情報DMz-FRsとフレーム識別情報DMz-BNを用いて、付属情報DMcを付属情報DMzに変更する。
エンコーダ524は、供給されたコンテンツデータDCzの映像データDVzや音声データDAzを伝送に適した信号に符号化して符号化データDZを生成する。例えばMPEG(Moving Picture Experts Group)4として規格化されている符号化方式等を用いてストリーミング伝送に適した信号に符号化する。この符号化処理によって得られた符号化データDZに付属情報DMzを連結させて、伝送データDTzとして伝送処理部53に供給する。このように、符号化処理を行うことで効率良くコンテンツデータの伝送を行うことが可能となる。
伝送処理部53は、コンテンツ再生装置70から供給された伝送信号TMrqによってコンテンツデータの要求がなされたとき、要求されているコンテンツデータを示すコンテンツ要求信号RQを読出処理回路522に供給する。また、伝送処理部53は、伝送路60の帯域に関する帯域情報WBを生成して読出処理回路522に供給する。さらに、伝送処理部53は、コンテンツデータの要求に基づき、エンコーダ524から供給された伝送データDTzを所定のプロトコルの伝送信号として、伝送路60を介してコンテンツデータの要求を行ったコンテンツ再生装置70に供給する。
この読出処理回路522に供給する帯域情報WBは、例えばルータ等のネットワーク機器を用いて伝送処理部53を構成し、このネットワーク機器が持つ管理情報ベース(MIB:Management Information Base)から得ることができるトラフィック情報を帯域情報WBとして用いることができる。また、計測用のパケットをコンテンツ再生装置70に送信し、コンテンツ再生装置70からのレスポンス時間などを測定することで帯域を識別して、この識別結果を帯域情報WBとして用いることもできる。
また、帯域情報WBに基づき読出処理回路522でフレームレート調整を行うだけでなく、帯域情報WBに基づきエンコーダ524でデータ圧縮率を可変することによってデータ量BTを帯域幅BAに応じて可変するものとしても良い。この場合には、データ量の制御をさらに細かく制御できるので、帯域幅BAが狭くなっても伝送される画像や音声の品質の劣化を少なくすることが可能となる。さらに、設定フレームレートFRsが等しい状態が続くフレーム期間中は、調整後のフレームレートを帯域情報WBにかかわらず一定として、データ量BTの調整をエンコーダ524で行うこともできる。この場合には、撮像装置10や編集装置30によって所望のフレームレートに設定したコンテンツ部分が、帯域幅BAに応じて異なるフレームレートに調整されてしまうことを防止できる。
さらに、付属情報DMcに推奨再生速度が設定されているときには、推奨再生速度での再生が可能となる範囲でフレームレート調整を行い、推奨再生速度での再生時よりもフレーム数を少なくする必要が生じたときには、データ量BTの調整をエンコーダ524で行うものとしても良い。この場合には、伝送路60の帯域が狭くなっても推奨再生速度でコンテンツを再生することができる。
ところで、上述のコンテンツ伝送装置50のコンテンツ伝送処理は、コンピュータを用いてソフトウェア処理によっても実現できる。このソフトウェア処理によってコンテンツ伝送を行う場合の構成を図9に示す。
コンピュータは、図9に示すようにCPU(Central Processing Unit)551を内蔵しており、このCPU551にはバス560を介してROM552,RAM553,記憶容量が大容量であるハード・ディスク・ドライブ等を用いて構成したデータ蓄積部554,入出力インタフェース555が接続されている。さらに、入出力インタフェース555には信号入力部561や通信部562、記録媒体ドライブ563が接続されている。
CPU551は、ROM552やRAM553あるいはデータ蓄積部554に記憶されているプログラムを実行して、コンテンツ伝送処理を行う。信号入力部561に入力されたコンテンツデータは、入出力インタフェース555とバス560を介してデータ蓄積部554に記憶させる。また、CPU551は、通信部562を介してコンテンツ要求信号RQが供給されたとき、データ蓄積部554に記憶されているコンテンツデータから、要求されたコンテンツデータの読み出しを行い、この読み出しを制御して伝送路60に応じたデータ量のコンテンツデータとなるようにフレームレート調整を行う。さらに、CPU551は、伝送に適した符号化を行って伝送データDTzを生成する。この生成した伝送データDTzは、通信部562を介して出力される。
なお、コンテンツ伝送処理を行うプログラムは、予めROM552やデータ蓄積部554に記憶させておくものとしたり、記録媒体ドライブ563によって、コンテンツ伝送処理のプログラムを記録媒体に記録しあるいは記録媒体に記録されているプログラムを読み出して実行するものとしても良い。さらに、通信部562によって、プログラムを有線あるいは無線の伝送路を介して送信あるいは受信するものとし、受信したプログラムをコンピュータで実行するものとしても良い。
図10は、コンテンツ伝送処理動作を示すフローチャートである。ステップST11で、CPU551は、コンテンツデータDCの取り込みを行い、信号入力部561に入力されたコンテンツデータDCをデータ蓄積部554に記憶させる。なお、コンテンツデータは、編集装置30から供給されたデータに限られるものではなく、撮像装置10で生成された素材データ等をコンテンツデータとしてデータ蓄積部554に記憶するものとしても良い。
ステップST12で、CPU551は、コンテンツデータの要求がなされたか否かを判別する。ここでコンテンツデータの要求がなされていないときにはステップST12に戻り、コンテンツデータの要求が例えば通信部562を介してなされたときにはステップST13に進む。
ステップST13で、CPU551は、要求されたコンテンツデータの付属情報を読み出してステップST14に進む。
ステップST14で、CPU551は、伝送路の帯域を検出し、検出された帯域に応じて、データ蓄積部554から読み出すコンテンツデータを、フレーム識別情報を利用して制御することによりフレームレート調整を行う。
ステップST15で、CPU551は、読み出したコンテンツデータDCzaの付属情報DMzaを、調整されたフレームレートと対応するように修正して付属情報DMzとする。ステップST16で、CPU551は、付属情報の修正がなされたコンテンツデータDCzを用いて伝送路に応じた符号化処理を行い符号化データDZを生成する。さらに、生成した符号化データDZと修正後の付属情報DMzを用いて、伝送データDTzを生成してステップST17に進む。
ステップST17で、CPU551は、コンテンツデータの要求先に向けて、生成した伝送データDTzを通信部562から出力する。
次に、コンテンツ再生装置について説明する。図11は、コンテンツ再生装置70の構成を示している。コンテンツ伝送装置50から供給された伝送信号TMzは、入力部71の通信回路711に供給される。入力部71はコンテンツデータの取り込みを行うものであり、入力部71の通信回路711は、供給された伝送信号TMzから伝送データDTzを生成し、この伝送データDTzから符号化データDZと付属情報DMzを抽出する。さらに、通信回路711は、抽出した付属情報DMzを情報記憶回路712に供給し、符号化データDZをデータ保持回路713に供給する。また通信回路711は、後述する再生制御部72からのコンテンツ要求信号RQに基づき伝送信号TMrqを生成して、コンテンツ伝送装置50に供給する。
情報記憶回路712は、供給された付属情報DMzを記憶する。またデータ保持回路713は、供給された符号化データDZを記憶する。
再生制御部72にはユーザインタフェース部73が接続されている。再生制御部72は、ユーザインタフェース部73からの操作信号PSpがコンテンツデータの要求を行うものであるとき、操作信号PSpに基づいたコンテンツ要求信号RQを生成して通信回路711に供給することで、コンテンツ伝送装置50に対してコンテンツデータの伝送要求を行う。
また、操作信号PSpがコンテンツデータの再生を指示するものであるとき、再生制御部72は、読出制御信号CNをデータ保持回路713に供給して、再生の指示が行われたコンテンツの符号化データDZをデータ保持回路713から読み出して再生処理部74に供給する。さらに、再生制御部72は、読み出した符号化データDZに対応する付属情報DMzを情報記憶回路712から読み出して、付属情報DMzに含まれている情報を表示する映像データDVs、例えば付属情報DMzに含まれている制限情報に基づき再生可能速度範囲を示す映像データ、付属情報DMzにタイムコード等の時間情報が含まれているとき、この時間情報で示された合計時間や再生位置の時間等を示す映像データを生成して再生処理部74に供給する。これにより、テレビジョン装置やモニター装置等であるコンテンツ提示装置80の画面上に再生可能速度範囲や合計時間および再生位置の時間等が表示される。また、付属情報DMzに速度範囲情報が含まれていないときには、上述の編集装置30において示したように再生可能速度範囲の設定を行う。設定された再生可能速度範囲は、コンテンツ提示装置80の画面上に表示される。操作信号PSpがコンテンツの再生速度FPを可変するものであるとき、再生制御部72は、再生処理部74の動作を制御する提示制御信号CPを付属情報DMzに基づき生成して再生処理部74に供給する。
また、再生制御部72は、付属情報DMzによってコンテンツの再生可能な最高速度が示されているとき、再生速度FPの可変範囲の最高速度を、付属情報DMzで示された最高速度とする。さらに、付属情報DMzによって推奨再生速度が示されている場合、操作信号PSpによって再生速度が指示されていないときには、再生制御部72は、この推奨再生速度で再生動作を行うように提示制御信号CPを生成する。なお、付属情報DMzによって、コンテンツのタイトルや時間長が示されているとき、再生制御部72は、これらの情報をコンテンツ提示装置80の画面上に表示させる。
コンテンツの可変速再生を行う再生処理部74は、データ保持回路713から供給された符号化データDZの復号化処理を行い、コンテンツの映像データDVzや音声データDAzを生成する。再生処理部74は、さらに、生成した映像データDVzや音声データDAzに対して提示制御信号CPに基づきフレーム識別情報DMz-BNを利用した間引きや繰り返し処理を行い、ユーザの設定した再生速度FPあるいは推奨再生速度と等しい再生速度FPに応じた映像信号Svzや音声信号Sazを生成してコンテンツ提示装置80に供給することで、コンテンツ提示を行う。また、再生処理部74は、再生速度FPの可変範囲を示す映像データDVsが供給されたとき、この再生速度FPの可変範囲をコンテンツ提示装置80の画面上に表示する映像信号Svzの生成を行う。
なお、符号化データDZがフレーム内符号化データで構成されているとき、再生処理部74は、データ保持回路713から提示制御信号CPに基づき、符号化データDZをフレーム単位で間引きして読み出すものとしても良い。この場合には、間引きされてしまう映像データの復号化を行う必要がなく、復号化処理を容易に行うことができる。
また、コンテンツ再生装置70は、コンテンツデータが記録されている記録媒体を用いるものであっても良い。この場合、記録媒体を再生して得られた再生信号から付属情報DMzと符号化データDZを分離して、この付属情報DMzを情報記憶回路712に記憶させ、符号化データDZをデータ保持回路713に記憶させることで、同様に処理することができる。
ところで、上述のコンテンツ再生装置70のコンテンツ再生処理も、コンピュータでソフトウェア処理することによって実現できる。このソフトウェア処理によってコンテンツ再生を行う場合の構成を図12に示す。
コンピュータは、図12に示すようにCPU751を内蔵しており、このCPU751にはバス760を介してROM752,RAM753,データ蓄積部754,入出力インタフェース755が接続されている。さらに、入出力インタフェース755には通信部761やユーザインタフェース部762、信号出力部763、記録媒体ドライブ764が接続されている。
CPU751は、ROM752やRAM753あるいはデータ蓄積部754に記憶されているプログラムを実行して、ユーザインタフェース部762からの操作信号PSpに基づいたコンテンツ伝送処理動作を行う。ここで、通信部761に伝送データDTzが供給されたとき、通信部761は、符号化データDZと付属情報DMzを抽出する。この通信部761で抽出された符号化データDZと付属情報DMzをデータ蓄積部754に記憶させる。また、CPU751は、ユーザインタフェース部762からの操作信号PSpに基づいて、データ蓄積部754に記憶されている符号化データDZの読み出しや復号化処理を行い、映像データDVzや音声データDAzを生成して信号出力部763に供給する。信号出力部763は、映像データDVzや音声データDAzに基づき、コンテンツ提示装置80に応じた映像信号Svzや音声信号Sazを生成して出力する。
なお、コンテンツ再生処理を行うプログラムは、予めROM752やデータ蓄積部754に記憶させておくものとしたり、記録媒体ドライブ764によって、コンテンツ再生処理のプログラムを記録媒体に記録しあるいは記録媒体に記録されているプログラムを読み出して実行するものとしても良い。さらに、通信部761によって、プログラムを有線あるいは無線の伝送路を介して送信あるいは受信するものとし、受信したプログラムをコンピュータで実行するものとしても良い。
図13は、コンテンツ再生処理動作を示すフローチャートである。コンテンツデータを再生する場合、CPU751は、GUI環境を構成するための画像をコンテンツ提示装置80に表示させるとともに、この表示画像に対応した操作をユーザインタフェース部762で行うことで操作入力を行う。
図14は、コンテンツ提示装置80の表示画像を例示したものであり、コンテンツ提示装置80はGUIのための画像を表示する。コンテンツ提示装置80の画面上には、コンテンツの画像を表示するビュワー部801、再生速度FPを可変するためのインタフェースである速度可変コンソール部802、再生速度FPを表示する再生速度表示部803、動作モードや音量等の切り換えを行うための動作コントロール部804、コンテンツのタイトルを示すタイトル表示部805、コンテンツの再生時間や現在の時間を表示する時間表示部806、現在の再生位置を示す再生位置表示部807等が設けられている。
CPU751は、図13のステップST21で、データ蓄積部754からコンテンツの付属情報DMzを読み出して、入出力インタフェース755を介して信号出力部763からコンテンツ提示装置80に、付属情報DMzに基づいて生成された映像信号Svzや音声信号Sazを出力する。これにより、コンテンツ提示装置80で付属情報DMzに応じた表示が行われる。例えばコンテンツのタイトルやコンテンツの時間長がタイトル表示部805や時間表示部806に表示される。また速度範囲情報に基づき最低速度と最高速度が速度可変コンソール部802に表示される。
ステップST22でCPU751は、動作コントロール部804を利用して、コンテンツの再生開始操作が行われたか否かを操作信号PSpに基づき識別する。ここで、再生開始操作が行われていないとき、CPU751はステップST22に戻り、再生開始操作が行われたときにはステップST23に進む。
ステップST23でCPU751は、再生速度FPと設定フレームレートFRsに応じて再生処理条件の設定、すなわち符号化データDZを復号化して得られた映像データDVzや音声データDAzから映像信号Svzや音声信号Sazを生成する際に行うデータの間引き間隔やデータの繰り返し数を決定する。
ステップST24でCPU751は、データ蓄積部754から符号化データDZを読み出して復号化して映像データDVzや音声データDAzを生成し、ステップST23で決定された再生処理条件に基づき、フレーム識別情報DMz-BNを利用してデータの間引きやデータの繰り返し行い、コンテンツ提示用の映像信号Svzや音声信号Sazを生成する。CPU751は、この生成した映像信号Svzや音声信号Sazをコンテンツ提示装置80に供給することで、速度可変コンソール部802のカーソル位置(太線で示す)で示された再生速度FPの再生画像がコンテンツ提示装置80のビュワー部801に表示される。また、このときの再生速度FPが再生速度表示部803に表示され、再生時間や再生位置が時間表示部806や再生位置表示部807に表示される。また、コンテンツ提示装置80は、速度可変コンソール部802のカーソル位置で示された再生速度FPでの再生音声を出力する。
ステップST25でCPU751は、速度可変コンソール部802のカーソル位置が移動されて再生速度FPが変更されたか否かを識別する。ここで、CPU751は、再生速度FPの変更が行われたと識別したときステップST23に戻り、再生速度FPの変更が行われたと識別していないときステップST26に進む。
ステップST26でCPU751は、再生動作の終了であるか否かを識別する。ここで、再生動作を停止する操作が行われていないとき、あるいはコンテンツの再生位置が終了位置となっていないとき、CPU751はステップST25に戻る。また、停止操作が行われたとき、あるいは再生位置が終了位置となったとき、CPU751は変速再生動作を終了する。
図15は、画像に対しての再生処理条件の設定動作を示すフローチャートである。CPU751は、ステップST31で、速度可変コンソール部802のカーソル位置に基づいて再生速度FPを識別してステップST32に進む。ここで、基準フレームレートFRrを1倍速として、速度可変コンソール部802でのカーソルの初期位置を例えば1倍速の位置とすることで、再生動作開始時の再生速度FPを設定する。また、編集装置30によって再生速度FPが推奨されているとき、CPU751は、この推奨されている再生速度FPの位置をカーソルの初期位置とし、推奨されている再生速度FPを、再生動作開始時の再生速度FPと設定する。さらに、カーソル位置がユーザによって移動されているとき、CPU751はカーソル位置と対応する速度を再生速度FPとする。
ステップST32でCPU751は、付属情報DMzに含まれているフレームレート情報DMz-FRsに基づいて設定フレームレートFRsを識別してステップST33に進む。ステップST33でCPU751は、再生速度FPと設定フレームレートFRsを乗算して、再生処理条件を決定するための識別値FDを算出する。
ステップST34でCPU751は、識別値FDに基づいて再生処理条件を決定する。ここで、CPU751は、識別値FDが1以上で小数点以下の値を含まないとき、識別値FDに応じたフレーム間隔で画像を間引いて出力するように再生処理条件を決定する。CPU751は、識別値FDが1以上で小数点以下の値を含む場合、識別値FDの整数値部分に応じたフレーム間隔でフレーム識別情報DMz-BNを利用して画像の間引きを行い、所望の再生速度に応じたフレーム数の画像が得られたときには、サブフレーム番号BNの次の初期値まで画像の位置を移動させるように再生処理条件を決定する。CPU751は、識別値FDが1未満である場合、所望の再生速度に応じたフレーム数となるまで同じ画像を繰り返し出力するように再生処理条件を決定する。このように決定された再生処理条件に基づいて上述のステップST24の処理を行うことで、正しく所望の再生速度でコンテンツの画像を提示させることができる。
図16は、識別値FDが1以上で小数点以下の値を含まない場合での再生動作を示している。図16Aは、設定フレームレートFRsが基準フレームレートFRrに対して10倍速とされているときの映像データDVzに基づく画像を示している。また図16Bはフレーム画像の設定フレームレートFRsを示すフレームレート情報DMz-FRs、図16Cはフレーム画像のサブフレーム番号BNを示すフレーム識別情報DMz-BN、図16Dは絶対フレーム番号ANをそれぞれ示している。
ここで、再生速度FPが(1/5)倍速とされたとき、識別値FDは「10×(1/5)=2」となる。このため、図16E〜図16Gに示すように、「FD=2」フレーム目毎、すなわちフレーム識別情報DMz-BNを利用して映像データDVzを1フレーム置きに用いて映像信号Svzを生成することで、(1/5)倍速での再生画像をコンテンツ提示装置80に表示できる。なお、図16Eは表示される画像のフレーム識別情報DMz-BN、図16Fは表示される画像の絶対フレーム番号AN、図16Fは表示される画像のフレーム識別情報DMz-BN、図16Gは映像信号Svzで表示されるフレーム画像を示している。
再生速度FPが1倍のとき、識別値FDは「10×1=10」となる。このため、図16H〜図16Jに示すように、「FD=10」フレーム目毎、すなわちフレーム識別情報DMz-BNを利用して映像データDVzを9フレーム分飛ばしながら用いて映像信号Svzを生成することで、1倍速の再生画像をコンテンツ提示装置80に表示できる。なお、図16Hは表示される画像のフレーム識別情報DMz-BN、図16Iは表示される画像の絶対フレーム番号AN、図16Jは映像信号Svzで表示されるフレーム画像を示している。
また、再生速度FPが2倍のとき、識別値FDは「10×2=20」となる。このため、図16K〜図16Mに示すように、「FD=20」フレーム目毎、すなわちフレーム識別情報DMz-BNを利用して映像データDVzを19フレーム分飛ばしながら用いて映像信号Svzを生成することで、2倍速の再生画像をコンテンツ提示装置80に表示できる。なお、図16Kは表示される画像のフレーム識別情報DMz-BN、図16Lは表示される画像の絶対フレーム番号AN、図16Mは映像信号Svzで表示されるフレーム画像を示している。
図17は、識別値FDが1以上で小数点以下の値を含む場合での再生動作を示している。図17Aは、設定フレームレートFRsが基準フレームレートFRrに対して7倍速とされているときのフレーム画像を示している。また図17Bはフレーム画像の設定フレームレートFRsを示すフレームレート情報DMz-FRs、図17Cはフレーム画像のサブフレーム番号BNを示すフレーム識別情報DMz-BN、図17Dは絶対フレーム番号ANをそれぞれ示している。
ここで、再生速度FPが(1/3)倍速であるとき、識別値FDは「7×(1/3)=2.33・・・」となる。このため、図17E〜図17Gに示すように、識別値FDの整数値部分に応じて2フレーム目毎すなわちフレーム識別情報DMz-BNを利用して1フレーム置きに映像データDVzを用いる。さらに、所望の再生速度に応じたフレーム数、すなわち(1/3)倍速であるから、基準フレームレートFRrの1フレーム期間中に3フレーム分の画像を出力したときには、サブフレーム番号BNの次の初期値まで用いる映像データDVzの位置を移動させる。この場合、サブフレーム番号BNが「0」「2」「4」の映像データDVzを用いて映像信号Svzが順次生成されて、(1/3)倍速の再生画像をコンテンツ提示装置80に表示できる。なお、図17Eは表示される画像のフレーム識別情報DMz-BN、図17Fは表示される画像の絶対フレーム番号AN、図17Gは映像信号Svzで表示されるフレーム画像を示している。
図18は、識別値FDが1未満となる場合での再生動作を示している。図18Aは、設定フレームレートFRsが基準フレームレートFRrに対して(1/4)倍速とされているときのフレーム画像を示している。また図18Bはフレーム画像の設定フレームレートFRsを示すフレームレート情報DMz-FRs、図18Cはフレーム画像のサブフレーム番号BNを示すフレーム識別情報DMz-BN、図18Dは絶対フレーム番号ANをそれぞれ示している。
ここで、再生速度FPが1倍速とされたとき、識別値FDは「(1/4)×1=1/4」となる。このため、図18E〜図18Gに示すように、再生速度に応じたフレーム数すなわち映像データDVzをフレーム毎に4回繰り返し用いて映像信号Svzを生成することで、1倍速での再生画像をコンテンツ提示装置80に表示できる。なお、図18Eは表示される画像のフレーム識別情報DMz-BN、図18Fは表示される画像の絶対フレーム番号AN、図18Gは映像信号Svzで表示されるフレーム画像を示している。
再生速度FPが2倍速であるとき、識別値FDは「(1/4)×2=1/2」となる。このため、図18H〜図18Jに示すように、映像データDVzをフレーム毎に2回繰り返し用いて映像信号Svzを生成することで、2倍速での再生画像をコンテンツ提示装置80に表示できる。なお、図18Hは表示される画像のフレーム識別情報DMz-BN、図18Iは表示される画像の絶対フレーム番号ANを示しており、図18Jは映像信号Svzで表示される表示されるフレーム画像を示している。
再生速度FPが4倍速であるとき、識別値FDは「(1/4)×4=1」となる。このため、図18K〜図18Mに示すように、映像データDVzをフレーム毎に順次用いて映像信号Svzを生成することで、4倍速での再生画像をコンテンツ提示装置80に表示できる。なお、図18Kは表示される画像のフレーム識別情報DMz-BN、図18Lは表示される画像の絶対フレーム番号ANを示しており、図18Mは映像信号Svzで表示される表示されるフレーム画像を示している。
このように、記録速度と再生速度に基づいた読出間隔で画像のデータを、フレーム識別情報を利用して読み出すことで、所望の再生速度の画像を簡単に表示できる。
次に、音声について説明する。図19は、音声に対しての再生処理条件の設定動作を示すフローチャートである。音声については、フレーム単位で音声データDAzを用いるものとしたとき、フレーム間で音のつながりがなくなり音の不連続を生じてしまう。このため、音声については、サンプル単位で再生処理を行う。
ステップST41でCPU751は、ステップST31と同様にして再生速度を判別してステップST42に進む。ステップST42でCPU751は、ステップST32と同様に設定フレームレートFRsを読み出してステップST43に進む。ステップST43でCPU751は、ステップST33と同様に識別値FDを算出してステップST44に進む。
ステップST44でCPU751は、識別値FDに基づいて再生処理条件を決定する。ここで識別値FDが1以上で小数点以下の値を含まないときには、識別値FDに応じたサンプル間隔で音声データの間引きを行うように再生処理条件を決定する。識別値FDが1以上で小数点以下の値を含む場合、基準フレームレートFRrに対する設定フレームレートFRsの倍数分のフレームから、識別値FDの整数値部分に応じたサンプル間隔で音声データの間引きを行い、再生速度分の音声データを読み出すように再生処理条件を決定する。識別値FDが1未満である場合には、所望の再生速度に応じたフレーム数分のサンプル数となるように音声データを繰り返し用いるよう再生処理条件を決定する。このように決定された再生処理条件に基づいて上述のステップST24の処理を行うことで、正しく所望の再生速度でコンテンツの音声を提示させることができる。
図20は、識別値FDが1以上で小数点以下の値を含まない場合での音声再生動作を示している。図20Aは絶対フレーム番号AN、図20Bはフレーム画像の設定フレームレートFRsを示すフレームレート情報DMz-FRs、図20Cはフレーム画像のサブフレーム番号BNを示すフレーム識別情報DMz-BNをそれぞれ示している。
ここで、再生速度FPが(1/5)倍速とされたとき、設定フレームレートFRsは基準フレームレートFRrに対して10倍速とされていることから、識別値FDは「10×(1/5)=2」となる。このため、「FD=2」サンプル目毎すなわち1サンプル置きに音声データDAzを用いて音声信号Sazを生成することで、1倍速での再生音声をコンテンツ提示装置80から出力できる。なお、図20Dは、映像信号Svzの生成に用いられるフレームを示しており、図20Eは音声データDAzが14サンプル/フレームであるとき、音声信号Sazで用いられる音声データを示している。
図21は、識別値FDが1以上で小数点以下の値を含む場合での音声再生動作を示している。図21Aは絶対フレーム番号AN、図21Bはフレーム画像の設定フレームレートFRsを示すフレームレート情報DMz-FRs、図21Cはフレーム画像のサブフレーム番号BNを示すフレーム識別情報DMz-BNをそれぞれ示している。
ここで、再生速度FPが(1/3)倍速とされたとき、設定フレームレートFRsは基準フレームレートFRrに対して7倍速とされていることから、識別値FDは「7×(1/3)=2.3・・・」となる。また、音声データDAzが14サンプル/フレームであるとき、(1/3)倍速における1フレームのサンプル数は「14×3/7=6」となる。このため、識別値FDの整数値部分に応じて2サンプル目毎すなわち1サンプル置きに音声データDAzを出力させるとともに、1フレームのサンプル数分である6サンプルの音声データDAzの出力がなされたときには、次のフレームの先頭に移動して1サンプル置きに音声データDAzを出力させるようにする。このように音声データDAzを選択して出力させることで、(1/3)倍速の再生音声を得ることができる。また、音声信号Sazに基づいて音声出力する場合にフィルタ処理を行うものとすれば、音声データDAzの間引きによる影響を少なくして良好な再生音声を出力できる。さらに、設定フレームレートFRsや再生速度FPに応じて、固定的にサンプル飛ばしを行いフレーム終了時にサンプル数を合わせるものであることから、再生速度に応じた音声信号Sazの出力を簡単に行うことができる。なお、図21Cは、映像信号Svzの生成に用いられるフレームを示しており、図21Dは音声データDAzが14サンプル/フレームであるとき、音声信号Sazで用いられる音声データを示している。
また、音声データDAzの間引きを行って音声信号Sazの生成する場合、音声データDAzの間隔が広くなって再生音が不連続となってしまうことがないように、音声信号Sazの生成に用いる音声データの間隔が略一定となるように間引きを行うものとしても良い。例えば設定フレームレートFRsが基準フレームレートFRrのKA倍とされており、再生速度FPが(1/KB)倍とされているとき、連続するKBサンプルの音声データDAzから略等間隔でKBサンプル分の音声データを取りだして、この取り出した音声データに基づいて音声信号Sazを生成する。このようにすれば、図21に示す場合に比べて処理が複雑となるが、さらに良好な音質の再生音声を出力できる。
識別値FDが1未満である場合には、図示せずも画像のフレーム繰り返し数分だけ各音声データを繰り返して順次用いることで、所望の再生速度の音声データDAzを生成できる。
このように、コンテンツ伝送側では、フレームレート情報と基準フレーム期間内に含まれるフレームを識別するフレーム識別情報を含む付属情報DMzが、画像および/または音声を示す主データに連結されたコンテンツデータDCzの伝送が行われる。また、コンテンツ再生側では、フレームレート情報とフレーム識別情報を含む付属情報DMzを利用して再生速度を可変して画像および/または音声のデータが再生される。このため、放送番組のように所定の再生速度の画像等を視聴できるだけでなく、ユーザの望む再生速度で画像等の視聴を行うことができる。例えば、設定フレームレートFRsを基準フレームレートFRrよりも大きくしてスポーツ中継等のコンテンツを生成すれば、従来の放送番組のようにコンテンツ提供側からスロー再生の画像が供給するまで待たなくとも、ユーザは通常は1倍速で見ながら、所望のシーンだけスローで見ることができる。
また、コンテンツ伝送側では、フレーム識別情報を利用して伝送路の帯域に応じたフレームレート調整が行われるので、フレームレート調整を容易に行うことができる。また、コンテンツ再生側では、フレーム識別情報を利用することでフレーム単位でのデータ間引き等を簡単に行うことができるので、コンテンツの再生速度を容易に可変できる。
10,10a・・・撮像装置、12・・・撮像部、13,17・・・信号処理部、14,18・・・制御部、15・・・出力部、16,34,73,762・・・ユーザインタフェース部、20・・・音声入力装置、30・・・編集装置、31・・・素材取込部、32・・・編集処理部、33・・・編集制御部、35・・・編集出力信号生成部、40・・・編集画像表示装置、41・・・編集音声出力装置、50・・・コンテンツ伝送装置、51・・・書込処理部、52・・・伝送データ生成部、53・・・伝送処理部、70・・・コンテンツ再生装置、71・・・入力部、72・・・再生制御部、74・・・再生処理部、80・・・コンテンツ提示装置、131・・・カメラ処理回路、132・・・音声処理回路、141,181・・・撮像制御回路、142,182・・・タイミングジェネレータ、171・・・有効データ選別回路、183・・・有効フレーム信号生成回路、311・・・情報検出回路、312・・・データベース化処理回路、321・・・データ記憶装置、322・・・書込読出処理回路、323・・・信号編集回路、351・・・映像出力信号生成回路、352・・・音声出力信号生成回路、521・・・コンテンツ蓄積装置、522・・・読出処理回路、523・・・情報修正回路、524・・・エンコーダ、554,754・・・データ蓄積部、561・・・信号入力部、562・・・通信部、711・・・通信回路、712・・・情報記憶回路、713・・・データ保持回路、763・・・信号出力部