明 細 書
編集装置、 編集方法、 編集プログラムおよび編集システム 技術分野
この発明は、 フレーム間圧縮を用いて圧縮符号化されたビデオデー 夕の編集をより高速に行う編集装置、 編集方法、 編集プログラムおよ び編集システムに関する。 背景技術
従来から、 記録可能で記録再生装置から取り外し可能とされると共 に、 記録容量が比較的大きく、 ビデオデ一夕とオーディオデータとか らなる A V (Audio/Video)データを記録するのに適した記録媒体とし て、 4. 7 GB (Giga Byte)以上の記録容量を有する D VD (Digital Versatile Disc)が普及している。 特許文献 「特開 2004— 3 50 25 1」 には、 記録可能なタイプの DVDに対して DVD— V i d e oフォーマツトで記録する撮像装置が記載されている。
この記録可能なタイプの DVDは、 ファイルシステムに UDF (Uni versal Disk Format)が用いられており、 UDFに対応するコンビュ 一夕装置でアクセスが可能となっている。 UDFは、 I SO lnterna t ional Organization for Standar izat ion) 9660によるフォーマ ットを含んでおり、 コンピュータ装置に用いられる様々なファイルシ ステムでアクセス可能なようになつている。 この記録可能なタイプの DVDに対し、 例えば撮像装置で撮像されたビデオデータと撮像に伴 い得られたオーディォデータとをファイルとして記録することで、 撮 像装置とコンピュータ装置などの他の装置との親和性が増し、 記録さ れたデータをより有効に活用することが可能となる。
ところで、 ビデオデータは、 データ容量が膨大となるため、 所定の 方式で圧縮符号化されて記録媒体に記録されるのが一般的である。 ビ デォデータの圧縮符号化方式としては、 MPEG 2 (Moving Picture Experts Group 2)方式が標準的な方式として知られている。 また、 近 年では、 MP EG 2の圧縮符号化方式をさらに推し進めて効率的な符 号化を行えるようにした、 I TU— T (International Telecommunica tion Union-Telecommunication Standar izat ion Sector)勧告 H. 2 64あるいは I S O (International Organization for Standar izat i on)/ I EC (International Electrotechnical Commission)国際標準 14496 - 10 (MP E G— 4パート 1 0 ) Advanced Video Codin g (以下、 H. 2641 AVCと略称する) も、 普及してきている。
これら MPEG2および H. 2641 AVCにおいては、 直交変換 などを用いたフレーム内符号化を行うと共に、 動き補償を用いた予測 符号化によるフレーム間符号化をさらに行い、 圧縮率を高めている。 以下、 MPEG2方式を例にとって、 予測符号化によるフレーム間圧 縮について説明する。
先ず、 MP E G 2によるデ一タストリーム構造について、 概略的に 説明する。 MPEG2は、 動き補償を用いた予測符号化と、 DCTに よる圧縮符号化とを組み合わせたものである。 MP EG 2のデータ構 造は、 階層構造をなしており、 下位から、 ブロック層、 マクロブロッ ク層、 スライス層、 ピクチャ層、 GOP層およびシーケンス層となつ ている。 ブロック層は、 DCTを行う単位である DCTブロックから なる。 マクロブロック層は、 複数の DCTブロックで構成される。 ス ライス層は、 ヘッダ部と、 1以上のマクロブロックより構成される。 ピクチャ層は、 ヘッダ部と、 1以上のスライスとから構成される。 ピ クチャは、 1画面に対応する。 各層の境界は、 それぞれ所定の識別符
号で識別可能なようになつている。
GOP層は、 ヘッダ部と、 フレーム内符号化に基づくピクチャであ る I (Intra- coded)ピクチャと、 予測符号化に基づくピクチャである P (Predictive - coded)ピクチャ B (Bi - directionally predictive cod ed)ピクチャとから構成される。 I ピクチャは、 それ自身の情報のみ でデコードが可能であり、 Pおよび Bピクチャは、 基準画像として前 あるいは前後の画像が必要とされ、 単独ではデコードされない。 例え ば Pピクチヤは、 自身より時間的に前の Iピクチャまたは Pピクチャ を基準画像として用いてデコードされる。 また、 Bピクチャは、 自身 の前後の Iピクチャまたは Pピクチャの 2枚のピクチャを基準画像と して用いてデコードされる。 最低 1枚の Iピクチャを含むそれ自身で 完結したグループを GO P (Group Of Picture)と呼び、 MP EGのス トリームにおいて独立してアクセス可能な最小の単位とされる。
GOPは、 1または複数のピクチャから構成される。 以下では、 G OPは、 複数のピクチャから構成されるものとする。 GOPにおいて 、 GOP内で完全にデコードが可能な、 GOPで閉じた構造を持つク ローズド GO Pと、 デコードの際に符号化順で 1つ前の GO Pの情報 を用いることができるオープン GO Pとの 2種類がある。 オープン G OPは、 クローズド GO Pと比較して、 より多くの情報を用いてデコ ードできるため高画質を得られ、 一般的に用いられている。
第 1図 A、 第 1図 Bおよび第 1図 Cを用いて、 フレーム間圧縮を行 つたデータのデコード処理について説明する。 ここでは、 1 GOPが 1枚の Iピクチャ、 4枚の Pピクチャおよび 1 0枚の Bピクチャの、 計 1 5枚のピクチヤから構成されるものとし、 GOPのタイプは、 ォ —プン GOPであるものとする。 G〇P内の I、 Pおよび Bピクチャ の表示順は、 第 1図 Aに一例が示されるように、 ΓΒοΒ, I
2B
3B
4P
5
のようになる。 なお、 添え字は表示 順を示す。
この例では、 最初の 2枚の B。ピクチャおよび 8,ピクチャは、 1つ 前の GO Pにおける最後尾の?14ピクチャと、 この G〇P内の 12ピク チヤを用いて予測されデコードされたピクチャである。 GOP内の最 初の?5ピクチャは、 I 2ピクチャから予測されデコードされたピクチ ャである。 他の?8ピクチャ、 ?1|ピクチャおよび P14は、 それぞれ 1 つ前の Pピクチャを用いて予測されデコードされたピクチャである。 また、 Iピクチャ以降の各 Bピクチヤは、 それぞれ前後の Iおよび Z または Pピクチャから予測されデコードされたピクチャである。 一方、 Bピクチャは、 時間的に前後の Iまたは Pピクチャを用いて 予測されデコードされるため、 ストリームや記録媒体上における I、 Pおよび Bピクチャの並び順は、 デコーダにおけるデコードの順序を 考慮して決める必要がある。 すなわち、 Bピクチャをデコードするた めの Iおよび Zまたは Pピクチャは、 当該 Bピクチャよりも常に先に デコードされていなければならない。
上述の例では、 ストリームや記録媒体上の各ピクチャの配列は、 第 1図 Bに例示されるように、 「 I
P14B12B13」 のようになり、 この順でデコーダに入力される。 なお、 添え字は、 第 1図 Aに対応し、 表示順を示す。
デコーダにおけるデコード処理は、 第 1図 Cに示されるように、 先 ず I 2ピクチャをデコードし、 デコードされたこの I 2ピクチャと 1つ 前の GOPにおける最後尾 (表示順) の Pl4ピクチャとにより B。ピク チヤおよび Β, クチャを予測しデコードする。 そして、 8。ピクチャ および 8,ピクチャをデコードされた順にデコーダから出力し、 次に 12ピクチャを出力する。 81ピクチャが出力されると、 次に 5ピクチ
ャが I 2ピクチャを用いて予測されデコードされる。 そして、 12ピク チヤおよび 5ピクチャを用いて 83ピクチャおよび B4ピクチャが予測 されデコードされる。 そして、 デコードされた:63ピクチャおよび B4 ピクチャをデコ一ドされた順にデコーダから出力し、 次に 5ピクチ ャを出力する。
以下、 同様にして、 Bピクチャの予測に用いる Pまたは Iピクチャ を Bピクチヤより先にデコ一ドし、 このデコードされた Pまたは Iピ クチャを用いて Bピクチャを予測してデコードし、 デコ一ドされた B ピクチャを出力してから、 当該 Bピクチャをデコードするために用い た Pまたは Iピクチャを出力する処理が繰り返される。 記録媒体上や ストリームにおける第 1図 Bのようなピクチャ配列は、 一般的に用い られるものである。
なお、 H. 264 I AVC方式においても、 ビデオデータのェンコ —ドおよびデコード処理は、 概略的には、 MP EG 2方式における処 理と略同様にして行われる。 H. 264 I AVC方式においては、 よ り柔軟にピクチャを用いてフレーム間予測を行うことできるようにさ れている。 また、 H. 2641 A VC方式においては、 MP E G 2方 式における Iピクチャに相当する、 ランダムアクセス可能なピクチャ を I D R (Instantaneous Decoding Refresh)ピクチャと呼ぶ。 以下で は、 符号化方式を MPEG2方式に代表させて説明する。
ここで、 MPEG2方式のようにフレーム間圧縮を用いる符号化方 式により圧縮符号化されたビデオデータを編集する場合について考え る。 編集処理の一例として、 ビデオ映像における中間部のシーンを削 除し、 削除した区間の前後を結合する場合について説明する。 例えば 、 第 2図 Aに一例が示されるように、 G〇P# 1、 GOP # 2、 · · ·、 G〇P # 9、 · · 'のように GOP構造が連なったビデオストリ
—ムに対し、 削除するシーンに対応する区間 A— Bを指定する。 ここ で、 区間 A— Bの前端の編集点 Aと、 後端の編集点 Bは、 それぞれ G OP# 3および GOP# 7の中間部分のピクチャであるものとする。 編集により当該区間 A— Bのピクチャを削除して、 編集点 Aおよび編 集点 Bを結合し、 編集された 1本のビデオストリームを得る (第 2図 B) 。
このような編集を行う場合、 単純に区間 A—B内のピクチャを削除 したのでは、 結合後に結合部分を含む GO P # 3 + 7において GOP 構造が破壊されてしまい、 正常に再生できなくなるという不都合が生 じる。 そのため、 フレーム精度での編集が行えず、 編集が GOP単位 での処理となってしまう。
また、 GOP単位で編集処理を行う例として、 削除対象の区間 A— 8に含まれる00?#4〜00?# 6を削除し、 GOP# 3の後端と GOP# 7の先頭とを結合する方法が考えられる。 しかしながら、 G 〇Pがオープン G〇P構造を取る場合、 前側の GOPが削除される G 〇P # 7において、 先頭側の Bピクチャ群 (第 1図 A、 第 1図 Bおよ び第 1図 Cの例では Bピクチャ。および 8(ピクチャ) がデコードでき なくなってしまうという不都合が生じる。
上述した不都合を解決するために、 編集対象のビデオストリームを 一旦デコードし、 その上でフレーム精度での編集を行い、 再びェンコ ードする方法が考えられる。 しかしながら、 対象となるビデオストリ ームの全体をデコードし、 再エンコードする処理を編集の度毎に行う のでは、 処理時間が膨大となる。 また、 一旦エンコードされたビデオ ストリームの全体をデコードし再ェンコ一ドするのでは、 ビデオスト リームの全体にわたって画質劣化を招いてしまう。
また、 これらの不都合は、 複数のビデオストリームを結合する際に
も発生するものである。
そこで、 従来から、 編集点付近の必要最小区間のみをデコードし再 エンコードする手法が知られている。 すなわち、 削除や結合を行う部 分の GO Pおよび当該 GO Pが変化することにより影響を受ける GO Pのみをデコードおよび再エンコードし、 それ以外の GOPについて は、 GOP単位でコピーを行う。 この編集点付近の必要最小区間のみ をデコードし再ェンコ一ドする手法の代表的な例としては、 スマート レンダリングど呼ばれる手法が一般的に知られている。
上述した第 2図 Aおよび第 2図 Bを用いて、 編集点付近の必要最小 区間のみをデコードし再エンコードする一例の処理について、 概略的 に説明する。 編集点 Aおよび編集点 Bによる区間 A— Bを削除する場 合、 編集点 A側においてデコードが必要な部分は、 編集点 Aを含む G 〇P# 3と、 GOP# 3の直前の G〇P# 2となる。 G〇Pがオーブ ン GO Pである場合、 編集点 Aを含む GO P # 3の直前の GOP # 2 は、 GOP # 3の表示順で先頭の B。ピクチャおよび 81ピクチャをデ コードするために必要である。 また、 編集点 B側においてデコードが 必要な部分は、 編集点 Bを含む GOP # 7と、 G〇P# 7の直後の G OP# 8となる。 オープン GO Pでは、 GO P # 8の表示順で先頭の Bピクチャ群をデコ一ドするためには、 GO P # 7のデータを用いる 必要がある。
第 2図 Aの状態において、 例えば先ず GOP # 4〜G〇P # 6を削 除し、 次に GOP# 2および GOP# 3、 ならびに、 G〇P# 7およ び GOP # 8をそれぞれデコードする。 そして、 GOP# 3において は、 デコードされたピクチャのうち編集点 A以降のピクチャを削除す る。 同様に、 GOP# 7においては、 デコードされたピクチャのうち 編集点 B以前のピクチャを削除する。 そして、 編集点 Aおよび編集点
Bを結合し、 新たに作成された GOP # 3 + 7を、 前後の GOP # 2 および GOP # 8の符号量を参照しながら再エンコードする (第 2図 B) 。 GOP # 3 + 7の先頭の B。ピクチャおよび 81ピクチャは、 デ コードされた GOP# 2の最後の P15ピクチャと、 デコードされた G 〇P # 3の I 3ピクチャとを用いてエンコードする。 G〇P # 2およ び GOP # 8については、 デコ一ド前の GOP # 2および GOP # 8 をメモリに記憶しておき、 これを用いることができる。
このような処理は、 複数のビデオストリームを結合するような編集 の際にも、 同様にして適用可能である。
ところで、 上述したような再エンコードを用いた編集を行うために は、 結合するビデオストリームは、 幾つかの制約を満足している必要 がある。 上述したように、 ビデオストリームは、 ファイルに格納され て記録媒体に記録される。 このとき、 1のファイルに記録されるビデ ォストリームに関する所定のパラメータについては、 1ファイル中で 値が固定的である必要がある。
例えば、 あるパラメータについて異なる値を有するビデオストリー ムを、 編集により 1のビデオストリームに結合して 1のファイルに格 納し、 このファイルに格納されたビデオストリームを再生機で再生す る際に、 この属性の値が再生中に変化した場合、 再生機のデコーダが このパラメータの値の変化に対応できない可能性がある。
値が固定的であることが必要なパラメ一夕の例としては、 垂直およ び水平方向それぞれの画枠サイズ、 アスペクト比 (1 6 : 9または 4 : 3など) 、 フレームレート (2 9.97H z、 59.94Hzなど) 、 フレームの構造、 クローズドキャプションのデータの有無などがあ る。 編集により再エンコードを行う際には、 再エンコード区間におい て結合される前後のビデオストリームで、 これらのパラメ一夕の値が
全て一致している必要がある。
編集装置において、 これらのパラメ一夕の全てに対応するェンコ一 ドが可能であれば、 これらの属性に合わせて所定の値を設定してェン コードすればよい。 しかしながらこの場合、 編集装置は、 ビデオスト リームのフォーマットに規定される各パラメータについて、 パラメ一 夕が取り得る値の全ての組み合わせに対応している必要があり、 ェン コーダの規模の増大や、 コス卜の増大を招くことになるという問題点 があった。
これを避けるために、 編集装置側で、 ある特定の記録装置で記録さ れたビデオストリームに対してのみ、 編集が可能であるとすることも 考えられる。 このように編集対象のビデオストリームを制限すること で、 編集装置側では、 その記録装置が対応しているパラメ一夕のみに 対応していればよい。 ところがこの場合、 この編集装置に対して他の 記録装置で記録されたビデオストリームを供給した場合に、 編集装置 が誤動作してしまう可能性があるという問題点があつた。 発明の開示
したがって、 この発明の目的は、 フレーム間圧縮を用いて圧縮符号 化されたビデオデータの編集処理を適切に行うことができるようにし た編集装置、 編集方法、 編集プログラムおよび編集システムを提供す ることにある。
上述した課題を解決するために、 第 1の発明は、 フレーム間圧縮を 用いて圧縮符号化されたビデオデータを編集する編集装置において、 フレーム間圧縮を用いて圧縮符号化されたビデオデータからなるデー タス卜リームが入力される入力部と、 データストリームに埋め込まれ た、 データストリームを生成した装置を識別する識別情報をデータス
トリームから抽出する抽出部と、 データストリームをデコードするデ コード部と、 ビデオデータをフレーム間圧縮を用いた圧縮符号化によ り、 所定の属性で以てエンコードするエンコード部と、 デ一タストリ ームに対して設定された編集点に基づき、 データストリームに対して デコードおよびエンコードを行いデータストリ一ムを編集するように した編集部とを備え、 編集部は、 抽出部でストリームデ一夕から抽出 された識別情報が、 エンコード部によるエンコードの際の所定の属性 と同一の属性でエンコード可能な装置を示しているか否かを判断し、 示していると判断したら、 編集点を含む所定区間をデコードおよびェ ンコードすることで編集を行うことを特徴とする編集装置である。 また、 第 2の発明は、 フレーム間圧縮を用いて圧縮符号化されたビ デォデ一夕を編集する編集方法において、 フレーム間圧縮を用いて圧 縮符号化されたビデオデータからなるデータストリームに埋め込まれ た、 データストリームを生成した装置を識別する識別情報をデ一タス トリームから抽出する抽出のステップと、 データストリームをデコ一 ドするデコードのステップと、 ビデオデータをフレ一ム間圧縮を用い た圧縮符号化により、 所定の属性で以てェンコ一ドするェンコ一ドの ステップと、 データストリームに対して設定された編集点に基づき、 データストリームに対してデコードおよびエンコードを行いデータス トリームを編集するようにした編集のステップとを備え、 編集のステ ップは、 抽出部でストリームデータから抽出された識別情報が、 ェン コードのステップによるエンコードの際の所定の属性と同一の属性で エンコード可能な装置を示しているか否かを判断し、 示していると判 断したら、 編集点を含む所定区間をデコードおよびエンコードするこ とで編集を行うことを特徴とする編集方法である。
また、 第 3の発明は、 フレーム間圧縮を用いて圧縮符号化されたビ
デォデ一夕を編集する編集方法をコンピュータ装置に実行させる編集 プログラムにおいて、 編集方法は、 フレーム間圧縮を用いて圧縮符号 化されたビデオデータからなるデータストリームに埋め込まれた、 デ 一夕ストリームを生成した装置を識別する識別情報をデータストリー ムから抽出する抽出のステップと、 データストリームをデコードする デコードのステップと、 ビデオデータをフレーム間圧縮を用いた圧縮 符号化により、 所定の属性で以てェンコ一ドするエンコードのステツ プと、 データストリームに対して設定された編集点に基づき、 データ ストリームに対してデコードおよびエンコードを行いデ一タストリ一 ムを編集するようにした編集のステップとを備え、 編集のステップは 、 抽出部でストリームデータから抽出された識別情報が、 エンコード のステップによるエンコードの際の所定の属性と同一の属性でェンコ ―ド可能な装置を示しているか否かを判断し、 示していると判断した ら、 編集点を含む所定区間をデコードおよびエンコードすることで編 集を行うことを特徴とする編集プログラムである。
また、 第 4の発明は、 ビデオデ一夕をフレーム間圧縮を用いて圧縮 符号化して記録媒体に記録し、 記録媒体から再生されたフレーム間圧 縮を用いて圧縮符号化されたビデオデータを編集する編集システムに おいて、 ビデオデータをフレーム間圧縮を用いた圧縮符号化により所 定の属性で以てェンコ一ドしてデータストリームとして出力する第 1 のエンコード部と、 第 1のエンコード部から出力されたデータストリ 一ムをストリームファイルとして記録媒体に記録する記録部とを備え 、 データストリームに対して装置自体を識別する識別情報を埋め込ん で記録媒体に記録するようにした記録装置と、 記録媒体に記録された ストリームファイルを読み出してデータストリームを取り出す再生部 と、 データストリームから識別情報を抽出する抽出部と、 データスト
リームをデコードするデコード部と、 ビデオデータをフレーム間圧縮 を用いた圧縮符号化により、 所定の属性で以てエンコードする第 2の エンコード部と、 データストリームに対して設定された編集点に基づ き、 データストリームに対してデコードおよびエンコードを行いデ一 タストリームを編集するようにした編集部とを備え、 編集部は、 抽出 部でストリームデータから抽出された識別情報が、 第 2のエンコード 部によるエンコードの際の所定の属性と同一の属性でエンコード可能 な装置を示しているか否かを判断し、 示していると判断したら、 編集 点を含む所定区間をデコードおよびエンコードすることで編集を行う ようにした編集装置とを有することを特徴とする編集システムである 上述したように、 第 1、 第 2および第 3の発明は、 フレーム間圧縮 を用いて圧縮符号化されたビデオデータからなるデ一タストリームに 埋め込まれた、 データストリームを生成した装置を識別する識別情報 をデータストリームから抽出し、 データストリームに対して設定され た編集点に基づき、 データストリームに対してデコードおよびェンコ —ドを行いデータストリームを編集するようにされ、 編集時に、 抽出 部でストリ一ムデータから抽出された識別情報が、 ビデオデータをフ レーム間圧縮を用いた圧縮符号化によりなされるエンコードの際の所 定の属性と同一の属性でェンコ一ド可能な装置を示しているか否かを 判断し、 示していると判断したら、 編集点を含む所定区間をデコード およびェンコ一ドすることで編集を行うようにしているため、 データ ストリームに埋め込まれた、 データストリームを生成した装置を識別 する識別情報を見るだけで、 編集点を含む所定区間のデコードおよび エンコードによる編集が可能か否かを判断することができる。
また、 第 4の発明は、 記録装置は、 ビデオデ一夕をフレーム間圧縮
を用いた圧縮符号化により所定の属性で以てエンコードして出力され たデ一タストリームをストリームファイルとして記録媒体に記録し、 その際に、 データストリームに対して装置自体を識別する識別情報を 埋め込んで記録媒体に記録するようにされ、 編集装置は、 記録媒体に 記録されたストリームファイルを読み出してデータストリームを取り 出してデータストリームから識別情報を抽出し、 データストリームに 対して設定された編集点に基づき、 データストリームに対してデコー ドおよびフレーム間圧縮を用いた圧縮符号化により所定の属性で以て エンコードを行ってデータストリ一ムを編集するようにされ、 編集の 際に、 ストリームデータから抽出された識別情報が、 編集装置でのェ ンコードの際の所定の属性と同一の属性でエンコード可能な装置を示 しているか否かを判断し、 示していると判断したら、 編集点を含む所 定区間をデコ一ドおよびエンコードすることで編集を行うようにして いるため、 編集装置は、 データストリームを記録した装置を識別する 識別情報に基づき、 対応する記録装置で記録されたデータストリーム であるか否かを知ることができ、 対応する記録装置で記録されたデー タストリームであると判断された場合に、 編集点を含む所定区間のデ コ一ドおよびエンコードによる編集を行うことができる。
第 1、 第 2および第 3の発明は、 上述したように、 フレーム間圧縮 を用いて圧縮符号化されたビデオデータからなるデータストリームに 埋め込まれた、 デ一タストリームを生成した装置を識別する識別情報 をデータストリームから抽出し、 データストリームに対して設定され た編集点に基づき、 データストリームに対してデコードおよびェンコ ードを行いデータストリームを編集するようにされ、 編集時に、 抽出 部でストリームデータから抽出された識別情報が、 ビデオデ一夕をフ レーム間圧縮を用いた圧縮符号化によりなされるェンコ一ドの際の所
定の属性と同一の属性でェンコ一ド可能な装置を示しているか否かを 判断し、 示していると判断したら、 編集点を含む所定区間をデコード およびエンコードすることで編集を行うようにしているため、 データ ストリームに埋め込まれた、 データス卜リームを生成した装置を識別 する識別情報を見るだけで、 編集点を含む所定区間のデコードおよび ェンコ一ドによる編集が可能か否かを判断することができる効果があ る。
また、 第 4の発明は、 上述したように、 記録装置は、 ビデオデータ をフレーム間圧縮を用いた圧縮符号化により所定の属性で以てェンコ 一ドして出力されたデータストリームをストリームファイルとして記 録媒体に記録し、 その際に、 データストリームに対して装置自体を識 別する識別情報を埋め込んで記録媒体に記録するようにされ、 編集装 置は、 記録媒体に記録されたストリームファイルを読み出してデータ ストリームを取り出してデータストリームから識別情報を抽出し、 デ 一夕ストリームに対して設定された編集点に基づき、 データストリー ムに対してデコードおよびフレーム間圧縮を用いた圧縮符号化により 所定の属性で以てェンコ一ドを行ってデータストリームを編集するよ うにされ、 編集の際に、 ストリームデータから抽出された識別情報が 、 編集装置でのエンコードの際の所定の属性と同一の属性でェンコ一 ド可能な装置を示しているか否かを判断し、 示していると判断したら 、 編集点を含む所定区間をデコードおよびエンコードすることで編集 を行うようにしているため、 編集装置は、 デ一夕ストリームを記録し た装置を識別する識別情報に基づき、 対応する記録装置で記録された データストリームであるか否かを知ることができ、 対応する記録装置 で記録されたデータストリームであると判断された場合に、 編集点を 含む所定区間のデコードおよびエンコードによる編集を行うことがで
きる効果がある 図面の簡単な説明
第 1図 A、 第 1図 Bおよび第 1図 Cは、 フレーム間圧縮を行ったデ 一夕のデコード処理について説明すための略線図、 第 2図 Aおよび第 2図 Bは、 ビデオ映像における中間部のシーンを削除し、 削除した前 後を結合する編集を説明するための略線図、 第 3図は、 N A Lュニッ 卜の一例の構成を示す略線図、 第 4図は、 アクセスユニットの一例の 構成を示す略線図、 第 5図は、 この発明の実施の一形態に適用可能な ビデオデータの一例の構造を概略的に示す略線図、 第 6図は、 S E I " User Data Unregi s tered SEI"に格納される情報の一例の構造を表す シンタクスを示す略線図、 第 7図 Aおよび第 7図 Bは、 ブロック one— mod i f i ed— dv_pack ()の構成の例を表すシンタクスを示す略線図、 第 8 図 A、 第 8図 Bおよび第 8図 Cは、 この発明の実施の一形態によるビ デォストリームの一例の編集方法について説明するための略線図、 第 9図は、 この発明の実施の一形態による編集方法による一例の編集処 理を示すフローチャート、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図 C は、 編集点付近の必要最小区間のみを再エンコードする手法による一 例の編集処理について概略的に説明するための略線図、 第 1 1図 Aお よび第 1 1図 Bは、 編集対象のビデオストリームの全区間を再ェンコ 一ドする手法による一例の編集処理について概略的に説明するための 略線図、 第 1 2図 A、 第 1 2図 Bおよび第 1 2図 Cは、 2つのストリ ームファイルに格納されるビデオストリームに対して行う編集処理を 概略的に示す略線図、 第 1 3図 A、 第 1 3図 Bおよび第 1 3図 Cは、 2つのストリームファイルに格納されるビデオストリームに対して編 集を行う場合の、 編集点付近の必要最小区間のみを再エンコードする
手法による一例の編集処理について概略的に説明するための略線図、 第 14図 Aおよび第 14図 Bは、 2つのストリームファイルに格納さ れるビデオストリームに対して編集を行う場合の、 編集対象の全区間 を再ェンコ一ドする手法による一例の処理について概略的に説明する ための略線図、 第 1 5図は、 この発明の実施の一形態に適用可能な記 録装置の一例の構成を示すブロック図、 第 1 6図は、 この発明の実施 の一形態に適用可能な編集装置の一例の構成を示すプロック図、 第 1 7図は、 一般的なコンピュータ装置の一例の構成を概略的に示すプロ ック図である。 発明を実施するための最良の形態
以下、 この発明の実施の一形態を、 図面を参照しながら説明する。 先ず、 理解を容易とするために、 この発明に適用可能な一例のフォー マット (以下、 A VCHDフォーマットと呼ぶ) について説明する。 AVCHDフォーマットは、 ビデオデータとオーディオデータとが所 定に多重化された A V (Audio/Video)ストリームを記録可能な記録媒 体に記録する記録フォ一マツトであって、 AVストリームを記録媒体 にファイルとして記録し、 記録された AVストリームを、 クリップ単 位でプレイリストを用いて管理可能としている。
AVCHDにおいては、 符号化方式として、 例えば I TU— T(Int ernat ional Telecommunicat ion Union - Telecommunication Standar iz aiion Sec tor)勧告 H. 264あるいは I SO (International Organi zat ion for Standarization) ' I E C (International Electrotechni cal Commission)国際標準 14496— 1 0 (MP E G— 4パート 1 0 ) Advanced Video Coding (以下、 H. 264 I AVCと略称する ) に規定される符号化方式を用い、 MP EG 2システムズの規定に従
いビデオデ一夕およびオーディォデータを多重化する。
H. 264 I AVC方式で符号化され、 MPEG 2システムズに従 い多重化されたビットストリームは、 クリップ A Vストリーム (また は A Vストリーム) と称される。 クリップ A Vストリームは、 所定の ファイルシステムによりファイルとして記録媒体に記録される。 以下 では、 クリップ AVストリームが記録されるファイルを、 ストリーム ファイルと呼ぶ。
この AVCHDフォーマットによるデータ構造は、 H. 264 1 A VCに規定されるビットストリーム構造に準ずる。 ここで、 H. 26 4 I AVCに規定されるビットストリーム構造を概略的に説明する。 H. 2641 AVCにおいては、 動画像符号化処理そのものを扱う V CL (Video Coding Layer)と、 符号化された情報の伝送や蓄積を行う 下位システムとの間にある NAL (Network Abstraction Layer)とが 規定され、 VCLと NALとが分離された構造とされる。 また、 シー ケンスゃピクチャのヘッダ情報に相当するパラメータセットも、 VC Lで生成した情報から分離して扱えるようになつている。
H. 264 | A VCによるビットストリームの下位システム、 例え ば MP EG 2システムズに対するマッピングは、 NALの一区切りで ある NALユニットを単位として行われる。 第 3図は、 NALュニッ トの一例の構成を示す。 NALユニットは、 NALヘッダおよび RB S P (Raw Byte Sequence Payload)から構成される。 NALヘッダは 、 1ビットのデータ長を有する固定ビット部分に続けて、 2ビットの データ長を有する情報 naし reし idcと、 5ビットのデータ長を有する 情報 naし unit_typeとが配される。 情報 naし ref_idcは、 この NALュ ニッ卜に参照ピクチャとなり得るスライスが格納されているか否かを 示す。 情報 naし unit typeは、 この N A Lユニットの種類を示す。 R
B S Pは、 動画像の圧縮符号化された生データが格納される。
なお、 RB S Pトレイリングビットは、 この NALユニットのビッ ト長を 8ビッ卜の倍数に調整するための調整用ビットである。 RB S Pトレイリングピットは、 " 1 "から始まりその後ろに" 0"が連なる構 成とされており、 最初のビット " 1 "を検出することにより、 RB S P の最後のビット位置を特定することができる。 また、 " 0"の後ろに" 1"が検出されると、 その位置が N A Lュニットの先頭であることが 分かる。
情報 nal— unit— typeにより示される NALュニットの種類には、 符 号化された各種ピクチャのスライス、 S E I (Supplemental Enhancem ent Information)、 S P S (Sequence Parameter Set) , P P S (Pictu re Parameter Set), AU (Access Unit)デリミタ、 シーケンスの終了 (End Of Sequence: EOS), ストリームの終了(End Of Stream: E OS)などがあり、 情報 naし uniし typeの値により、 RB S Pに格納さ れる情報がこれらのうち何れであるかが示される。
S E Iは、 補足的な付加情報であって、 VCLの復号化に必須では ない付加情報が示される。 S E Iとしては、 仮想参照デコーダに関連 する各ピクチャのタイミング情報、 パン ·スキャン機能に関する情報 、 ランダムアクセスのために用いられる情報、 ユーザの独自定義によ る情報 (ユーザデータ) などが定義される。 S P Sは、 シーケンス全 体の符号化に関わる情報が含まれたヘッダである。 P P Sは、 ピクチ ャ全体の符号化モードに関わる情報が含まれたヘッダである。 また、 AUデリミタは、 後述するアクセスユニットの先頭を示す。
ビットストリーム中の情報をピクチャ単位でアクセスするために、 幾つかの NALユニットを纏めた一区切りを、 アクセスユニットと呼 ぶ。 第 4図は、 アクセスユニットの一例の構成を示す。 第 4図に示さ
W れるアクセスュニットの構成のうち、 主ピクチャの各スライスに相当 する NALュニットを除いた他の情報は、 必ずしもアクセスュニット に存在している必要のない、 オプションの情報である。 これらォプシ ヨンの情報を用いる場合には、 第 4図に示されるように、 AUデリミ 夕、 S P S、 PP S、 S E I、 主ピクチャ、 冗長ピクチャ、 E〇S (E nd Of Sequence)および EO S (End Of Stream)の順序で並んでいる必 要がある。 各 NALユニットは、 NALヘッダの情報に基づき識別さ れる。 なお、 冗長ピクチャに関しては、 この発明との関わりが薄いの で、 説明を省略する。
第 5図は、 この発明の実施の一形態に適用可能なビデオデータの一 例の構造を、 概略的に示す。 この実施の一形態においては、 ビデオデ —夕は、 G〇P (Group Of Picture)構造をとり、 GOPは、 少なくと も 1枚の Iピクチャと、 それぞれ 1乃至複数枚の Pピクチャおよび B ピクチャとからなる。
GOP毎に、 ヘッダが設けられる。 ヘッダは、 第 4図に示した AU デリミタ、 S P S、 P P Sおよび S E Iに対応し、 少なくとも AUデ リミタおよび S E Iを含む。 S E Iは、 H. 2641 AVCの規定に おいて複数の名称が定義され、 名称毎に異なる情報を伝送するように されている。 この発明の実施の一形態では、 特に、 S E Iのうちユー ザ独自の定義が可能とされた S E Iである" User Data Unregistered SEI"に対して、 記録装置固有の情報を格納するようにしている。
第 6図は、 この S E I "User Data Unregistered SEI"に格納される 情報の一例の構造を表すシンタクスを示す。 ここでは、 シンタクスを コンピュータ装置などのプログラムの記述言語として用いられる C言 語の記述法に基づき示す。 これは、 他のシンタクスを表す図において 、 同様である。
065882 この S E I "User Data Unregistered SEI"は、 第 6図の最初の行に " user_d t a_unregis tered (payloadSize)"として示されるように、 ぺ イロ一ドサイズ、 すなわち、 この S E I "User Data Unregistered SE I"の全体のデ一夕長が指定されて参照される。 第 6図において、 1 2 8ビットのデータ長を有するフィールド uuid一 isojec一 11578は、 所定 の識別情報が格納される。 次のデータ長が 32ビットのフィールド ty pe— indicatorは、 この S E I "User Data Unregistered SEI"のタイプ を示す。 フィールド type— indicatorの値が" 0x47413934"で、 if文に従 い、 クローズドキヤプションのデータが格納されるブロック cc— data( )が配される。 クローズドキャプションに関しては、 この発明と関わ りが薄いので、 説明を省略する。
なお、 数値の記述において" Ox"は、 その数値が 1 6進表記されてい ることを示す。 これは、 以下の同様な表記について共通である。
フィールド type— indicatorの値が" 0x4D44504D"であれば、 if文にお ける" else if"の記述に従い、 ブロック ModifiedDVPackMetaOが記述 される。 このブロック ModifiedDVPackMetaOは、 このデータを記録し た記録装置固有の情報が格納される。 ブロック ModifiedDVPackMetaO において、 8ビットのデ一夕長を有するフィ一ルド number— 0し modi ii ed_dv_pack_en t r i esは、 このブロック Mod i f i edDVPackMe t 0に格納さ れるデータ modifiecLdv_packの数を示す。 次の forループ文に従い、 このフィ—— Jレド number— 0 f_mod i f i ed_dv_pack_en triesに示される数た け、 データ modined_dv』ackすなわちブロック one—modi f ied— dv— pack 0が格納される。
ブロック one—modi fied— dv— packOは、 8ビッ卜のデータ長を有する フィールド即 d_idと、 32ビットのデータ長を有するフィールド mpd_ dataとからなる。 第 7図 Aおよび第 7図 Bは、 ブロック onejnodi fied
— dv— packOの構成の例を表すシンタクスを示す。 第 7図 Aは、 ブロッ ク one— mod i f ied_dv_pack 0が、 このデ一夕を記録した記録装置を示す 情報が格納されるブロック MAKER & MODEL ID packOである例である 。 また、 第 7図 Bは、 ブロック one— modified— dv—pack()が、 記録時の 画質モードを示す情報が格納されるブロック MAKER OPTION packOで ある例である。
第 7図 Aのブロック MAKER & MODEL ID packOについて説明する。 フィールド即 d— idは、 8ビットのデータ長を有し、 このブロック one— modified— dv— packOの種別を示す。 すなわち、 フィールド mpd_idが所 定の値で、 このブロック one— modified一 dv— pack ()がこのデータを記録 した記録装置を示す情報が格納されるブロック MAKER & MODEL ID pac k()であることが示される。 第 6図で示したフィ一ルド即 d— dataは、 このブロック MAKER & MODEL ID packOにおいては、 それぞれ 1 6ビ ットのデ一夕長を有するフィールド maker_IDと、 フィールド maker— mo del_codeとに分けられている。 フィールド maker_IDは、 このデ一夕を 記録した記録装置のメーカを識別するための識別情報を示す。 フィー ルド makerjnodeし codeは、 当該記録装置の型番や機種を識別する識別 情報を示す。
第 7図 Bのブロック MAKER OPTION packOについて説明する。 この ブロック MAKER OPTION packOには、 上述のように、 記録時の画質モ ードを示す情報が格納される。 すなわち、 映像や音声を記録再生する 装置において、 ビットレートを段階的に切り換えることで記録時間と 、 画質または音質を切り換えることができるようにすることは、 一般 的に行われている。 一例として、 最もピットレートが高く高画質 (ま たは高音質) が得られるが、 記録可能時間が短い HQ (High Quarity) モード、 実用上十分な画質と記録可能時間とが保証され、 ビットレー
トが中程度な L P (Long Play)モード、 画質は実用上差し支えない程 度とし、 長時間記録を優先した、 ビットレートが低い S P (Standard Play)モードが設定される。
一方、 このような記録時の画質モードは、 映像および音声の記録フ ォーマット上、 必ずしも表現できる訳ではなく、 例えばメーカや装置 の型番、 機種に固有の仕様である場合も多い。 また、 ユーザに対して は、 再生時に、 再生しょうとするコンテンツがどのような記録モード で記録されたのかを通知可能とされていることが望ましい。
そこで、 メーカや型番、 機種に固有の記録モードを記述可能なプロ ック MAKER OPTION packOを定義することが考えられる。 このブロッ ク MAKER OPTION pack 0は、 例えば上述したブロック MAKER & MODEL I D packOと並列的に用いることが考えられる。 一例として、 S E I "U ser Data Unregistered SEI"に対して、 ブロック MAKER & MODEL ID p ackOとブロック MAKER OPTION pack 0とを併記する。
第 7図 Bにおいて、 フィールド即 d— idは、 8ビットのデータ長を有 し、 このブロック one_modif ied_dv_pack()の種別を示す。 すなわち、 フィールド mpd_idが所定の値で、 このブロック onejnodif ied— dv— pack 0がこのデータを記録した際の画質に関する記録モードを示す情報が 格納されるブロック MAKER OPTION packOであることが示される。 第 6図で示したフィールド mpd— dataは、 このブロック MAKER OPTION packOにおいては、 例えば 3 2ビットのデータ長を有するフィール ド REC— MODEに、 このブロック MAKER OPTION packOが格納される S E I "User Data Unregistered SEI"を含むビデオデータが記録された際 の、 画質に関する記録モードが記述される。 例えば、 フィールド REC— MODEの値が" 0"で HQモード、 " 1"で3 ?モ一ド、 " 2"で LPモード を示す。 記録モードは、 この 3種類に限らず、 さらに多くてもよいし
、 HQモードと S Pモードの 2種類のみなど少なくてもよい。
このように、 ビデオデ一夕に対して、 S E I "User Data Unregiste red SE に当該ビデオデータを記録した際の画質に関する記録モ一ド が記述されるブロック MAKER OPTION pack 0と、 当該ビデオデータを 記録した記録機のメーカや型番、 機種が記述されるブロック MAKER & MODEL ID packOとを併記することで、 当該ビデオデータを再生時に 、 ブロック MAKER & MODEL ID packOから当該ビデオデータが自機ぁ るいは自機と同メーカ、 同機種、 型番の記録機で記録されたか否かが 判別できる。 当該ビデオデータが自機あるいは自機と同メーカ、 同機 種、 型番の記録機で記録されたと判別できれば、 当該記録機に特有の データの解釈や、 処理を行うことができる。
一例として、 再生時に、 ブロック MAKER OPTION packOから、 再生 されるビデオデータが記録された際の画質に関する記録モードを読み 取り、 例えば表示することができる。 また、 別の例として、 画質に関 する記録モードを、 S E I "User Data Unregistered SEI"に格納され るブロッグ onejnod i f i ed—dv— pack 0に対して定義することで、 当該記 録モードを示す情報がビデオデータのストリーム中に埋め込まれるた め、 当該ビデオデータに対して編集作業を行った場合でも、 記録モー ド情報を引き継ぐことができる。
次に、 この発明の実施の一形態について説明する。 編集点付近の必 要最小区間のみを再ェンコ一ドすることで編集を行う際には、 編集対 象のビデオストリームに含まれる所定のパラメータの値がストリーム ファイル中で固定的である必要がある。 例えば、 AVCHDフォーマ ットにおいては、 1のストリームファイル内で以下のパラメ一夕 ( 1 ) 〜 (6) が一定でなければならないとして規定されている。
パラメータ (1) :画枠の水平方向のサイズを示すパラメ一夕
パラメ - -夕 (2) :画枠の垂直方向のサイズを示すパラメータ パラメ -夕 (3) :表示画像のァスぺクトを示すパラメ一夕
パラメ —夕 (4) : フレームレートを示すパラメータ
パラメ —夕 (5) : フレームの構造を示すパラメ一夕
パラメ —夕 (6) : クローズドキャプションデータの有無を示すパラ メータ
なお、 AVCHDにおけるこれらパラメ一夕 (1) 〜 (6) の具体 的は、 H. 264 I AVCの規定に基づき、 下記のようになる。 パラ メ一タ (1) は、 S P Sにおいてコード pic— width— in— mbs— minuslと して記述される。 パラメータ (2) は、 S P Sにおいてコード picjie ighし in— map— units— minuslとして記述される。 パラメ一夕 (5) は、 S P Sにおいてコード framejnbs— only一 flagとして記述される。 また 、 パラメ一夕 (3) は、 S P Sにおいてコード aspect— ratio— idcとし て記述される。 パラメータ (4) は、 例えば S P Sにおけるコ^ "ド vi deo— formatに基づき求められる。 これらコード aspect_ratio— idcおよ びコード video_formatは、 S P Sにおいてォプションとして記述され る。 さらに、 パラメ一タ (6) は、 上述の S E I "User Data Unregis tered SEI"において、 フィールド type— indicatorの値に基づき判断で きる。 すなわち、 フィールド type_indicatorの値が" 0x47413934"のと きに、 クローズドキャプションのデータが存在すると判断される。 ここで、 編集対象のストリームファイル中のこれらのパラメ一夕 ( 1) 〜 (6) の取り得る値の全てについて編集装置側がエンコード可 能であれば、 常に編集点付近の必要最小区間のみを再ェンコ一ドする 方法での編集方法を適用して編集処理を高速に行うことができる。 と ころが、 編集装置をパラメータ (1) 〜 (6) の取り得る値の全てに 対して対応可能なように設計すると、 エンコーダの規模が大きくなる
のが避けられず、 また、 コストも嵩んでしまう。
そこで、 この発明では、 ビデオストリームを編集する際に、 編集対 象のビデオス卜リームの所定位置に配置された、 当該ビデオストリー ムを生成した記録装置を示す情報を抽出し、 編集対象のビデオストリ ームを生成した記録装置が特定の記録装置であるか否かを判断する。 特定の記録装置とは、 例えば、 その記録装置で生成されたビデオス トリームにおける上述のパラメ一夕 (1 ) 〜 (6 ) それぞれの値に示 される属性と同等の属性でのェンコ一ドが、 編集装置側で可能な値で あるような記録装置である。 特定の記録装置を示す情報は、 例えば、 第 6図、 ならびに、 第 7図 Aおよび第 7図 Bを用いて説明した S E I " User Dat a Unregi s t ered SEI"において、 ブロック Mod i f i edDVPackMe t a Oに格納されるブロック MAKER & MODEL ID pack Oに、 フィールド m aker_IDおよびフィ一ルド makerjnodeし codeとして記述される。
判断の結果、 編集対象のビデオストリームを生成した記録装置が特 定の記録装置であるとされれば、 編集点付近の必要最小区間のみを再 ェンコ一ドする手法を用いてビデオストリームの編集を行う。 若し、 編集対象のビデオストリームを生成した記録装置が特定の記録装置で はないと判断されたら、 編集対象のビデオストリームの全体をデコ一 ドし、 デコードされたビデオデ一夕に対してフレーム単位での編集を 行い、 編集されたビデオデータの全体を、 再エンコードする。
この発明によれば、 ビデオストリームの編集時に、 編集点付近の必 要最小区間のみを再エンコードする手法が適用可能かを、 編集対象の ビデオストリーム中の情報に基づき容易に判断することできる。 また 、 編集装置側では、 特定の記録装置で記録されたストリームファイル を主な編集対象とする場合、 編集装置のエンコーダは、 対象となる特 定の記録装置と同等のパラメ一夕のみに対応するだけで、 必要最小区
間を再エンコードする手法を用いた編集処理を行うことができる。 この発明の実施の一形態によるビデオストリームの一例の編集方法 について説明する。 第 8図 Aに例示されるように、 GOP# l〜G〇 P # 9の 9個の GOPからなるビデオストリームファイルを考える。 G〇P # 1〜GOP # 9に対して、 ヘッダ # 1〜ヘッダ # 9がそれぞ れ付加されている。 ヘッダ # 1〜ヘッダ # 9のそれぞれには、 上述し た、 このファイルを記録した記録装置の情報を示すデータ modified_d V— packを含むブロック ModifiedDVPac etaOが記述される S E I "Use r Data Unregistered SEI"が格納されている。
このファイルに格納されるビデオストリームに対して、 第 8図 Bに 一例が示されるように、 GOP # 3内のあるピクチャに編集点 Aを設 定し、 G〇P# 7内のあるピクチャに編集点 Bを設定し、 編集点 Aお よび編集点 Bの間の区間 A— Bに含まれるピクチャを削除して編集点 Aおよび編集点 Bを結合する編集処理を行うものとする。 編集結果は 、 第 8図 Cに一例が示されるように、 編集点 Aおよび編集点 B間の G OP#4〜GOP# 6が削除され、 編集点 Aを含む GOP # 3と、 編 集点 Bを含む GOP# 7とが編集点 Aおよび編集点 Bで結合された G OP# 3 + 7が生成され、 全体として、 G〇P # 1、 G〇P# 2、 G OP# 3 + 7、 G〇P# 8および GOP # 9の 5個の GOPからなる ビデオストリームが生成される。 なお、 第 8図 Bおよび第 8図 Cでは 、 繁雑さを避けるためにヘッダの記載を省略している。
第 9図は、 この発明の実施の一形態による編集方法による一例の編 集処理を示すフローチヤ一トである。 編集対象のファイルが指定され ると、 ステップ S 1 0で、 編集対象とされたストリームファイルから 、 このファイルを記録した記録装置の情報を示すデータ modified— dv— packのブロック MAKER & MODEL ID packO (第 6図、 ならびに、 第 7
図 Aおよび第 7図 B参照) が検索される。
例えば、 第 8図 Aを参照し、 編集対象とされたストリームファイル に格納されるビデオストリームの先頭のヘッダ # 1の NALュニット が解析され、 S E I "User Data Unregistered SEI"が抽出される。 そ して、 S E I"User Data Unregistered SEI"から、 このファイルを記 録した記録装置の情報を示すデータ modifiecLdv_packを含むブロック ModifiedDVPackMetaOが検索され、 さらに、 ブロック Modi fiedDVPack MetaOから、 フィ一ルド即 d— idの値に基づきブロック MAKER & MODEL ID pack 0が検索される。
次のステップ S 1 1で、 ブロック MAKER & MODEL ID packOに格納 されるフィ一ルド maker— IDおよびフィールド maker_modeし codeがそれ ぞれ取得され、 同じ属性でエンコードできる機種のデータが存在する か否かが判断される。 なお、 同じ属性とは、 例えば、 上述したパラメ 一夕 (1) 〜 (6) について、 同一のパラメータ値で以てエンコード 可能であることを意味する。
例えば、 編集装置は、 予め R〇M(Read Only Memory)やハ一ドディ スクドライブなどの記憶手段に、 当該編集装置が対応可能なパラメ一 夕でェンコ一ドを行う記録装置の特定情報 (フィールド maker_IDおよ びフィールド makerjnodel— codeの値) を記憶しておき、 記憶されてい るフィールド maker_IDおよびフィ一ルド maker— modeし codeの値のうち 、 編集対象のビデオストリームから取得されたフィールド maker— IDお よびフィ一ルド maker— modeし codeの値が一致するものが存在するか否 かが判断される。
若し、 ステップ S 1 1で、 同じ属性でエンコードできる機種のデー 夕が存在すると判断されたら、 処理はステップ S 1 2に移行され、 編 集対象のビデオストリームの、 編集点付近の必要最小区間のみを再ェ
ンコードする手法を用いて編集を行う一方、 ステップ S 1 1で、 同じ 属性でエンコードできる機種のデータが存在しないと判断されたら、 処理はステップ S 1 3に移行され、 編集対象のビデオストリームの全 区間を再エンコードする手法を用いて編集を行う。
なお、 複数のストリームファイルを編集対象とする場合、 例えば 2 つのストリームファイルのそれぞれに編集点を設けて、 編集点に基づ き当該 2ファイルを結合する編集を行う場合、 編集対象のそれぞれに ついて、 ステップ S 1 0およびステップ S 1 1の処理を行う。 例えば 、 編集対象の 2ファイルについてそれぞれブロック MAKER & MODEL ID packOを検索し (ステップ S 1 0) 、 それぞれのプロック MAKER & M ODEL ID packOにおけるフィールド maker— IDおよびフィールド maker— model— codeの値についての判断がなされる (ステップ S 1 1) 。
そして、 編集対象の 2ファイルにおけるフィールド maker_IDおよび フィールド maker— model— codeの値が、 共に、 編集装置に記憶されてい る値に一致していれば、 ステップ S 1 2の編集点付近の必要最小区間 のみの再ェンコ一ド処理を行うものとする。
ステップ S 12による、 編集点付近の必要最小区間のみを再ェンコ ードする手法による一例の編集処理について、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図 Cを用いて概略的に説明する。 なお、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図 Cに例示されるビデオストリームの構成は 、 上述した第 8図 A、 第 8図 Bおよび第 8図 Cに対応し、 9個の GO P# 1~G〇P# 9からなる。 このビデオストリームに対して、 上述 したようにして G〇P# 3内に編集点 Aを指定し、 GOP # 7内に編 集点 Bを指定し、 区間 A— Bを削除する編集を行う。
先ず、 第 1 0図 Aに例示されるように、 編集点 Aを含む G〇P # 3 の直後の GOP # 4から、 編集点 Bを含む GOP # 7の直前の GO P
# 6までが GOP単位で削除される。 編集点 Aを含む GOP # 3と、 当該 GO P # 3の直前の GO P # 2とがデコードされる。 同様に、 編 集点 Bを含む GOP # 7および GO P # 7の直後の GOP # 8がデコ —ドされる。
次に、 第 1 0図 Bに例示されるように、 デコード済みの GOP# 3 において、 編集点 Aから GO P # 3の終端までがフレーム単位で削除 される。 同様に、 デコード済みの GOP # 7において、 G〇P# 7の 先頭から編集点 Bまでがフレーム単位で削除される。 そして、 第 1 0 図 Cに例示されるように、 編集点 Aと編集点 Bとが結合され、 GOP # 2、 GOP # 3 + 7および G〇P # 8が再エンコードされる。 なお、 上述の第 1 0図 Aの状態においてデコード前の GO P # 2を メモリなどに保持しておき、 再エンコードを GO P # 3 + 7および G OP # 8に対して行い、 保持されているデコード前の GOP # 2をェ ンコードされた GOP # 3 + 7の直前に上書き複写することも考えら れる。
ステップ S 1 3による、 編集対象のビデオストリームの全区間を再 エンコードする手法による一例の編集処理について、 第 1 1図 Aおよ び第 1 1図 Bを用いて概略的に説明する。 編集対象のビデオストリー ムの構成は、 上述の第 8図 A、 第 8図 Bおよび第 8図 C、 ならびに、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図 Cと同等とする。 この場合、 第 1 1図 Aに例示されるように、 編集対象のビデオストリームの全体 (第 1 1図 Aおよび第 1 1図 Bの例では GOP # 1〜G〇P # 9) を 対象としてデコードを行い、 編集点 Aから編集点 Bまでをフレーム単 位で削除して編集点 Aおよび編集点 Bを結合する。 編集点 Aおよび編 集点 Bを結合した結果、 G〇P# 3 + 7が生成される。 G〇P# 3 + 7が生成されたら、 編集結果の G〇P # 1、 GOP # 2、 G〇P# 3
+ 7、 GOP # 8および GOP # 9の全体を再エンコードする (第 1 1図 B) 。
上述では、 1のストリームファイルに格納されたビデオストリーム に対して編集点 Aおよび編集点 Bを設定して編集する例について説明 したが、 上述の処理は、 2つのストリームファイルに格納されたビデ ォストリームに対してそれぞれ編集点 Aおよび編集点 Bを設定して編 集する場合についても、 同様に適用可能である。
第 1 2図 A、 第 1 2図 Bおよび第 1 2図 Cは、 2つのストリームフ アイルに格納されるビデオストリームに対して行う編集処理を概略的 に示す。 GO P #mを終端とするビデオストリーム 1 00が格納され る第 1のストリームファイルと、 G〇P# 1を先頭とするビデオスト リーム 1 0 1が格納される第 2のストリームファイルとを考える (第 1 2図 A) 。 ビデオストリーム 1 00の GOP #m— 1内に編集点 A を設定し、 ビデオストリーム 1 0 1の GOP# 2内に編集点 Bを設定 する。 そして、 ビデオストリーム 1 00の編集点 Aから終端までを削 除すると共に、 ビデオストリーム 1 0 1の先頭から編集点 Bを削除し (第 1 2図 B) 、 編集点 Aおよび編集点 Bを結合して 1本のビデオス トリーム 1 02を作成する (第 1 2図 C) 。
上述のステップ S 1 2による、 2つのストリームファイルに格納さ れるビデオストリームに対して編集を行う場合の、 編集点付近の必要 最小区間のみを再ェンコ一ドする手法による一例の編集処理について 、 第 1 3図 A、 第 1 3図 Bおよび第 1 3図 Cを用いて概略的に説明す る。 なお、 第 1 3図 A、 第 1 3図 Bおよび第 1 3図 Cに例示されるビ デォストリームの構成や編集点 Aおよび編集点 Bの設定、 編集箇所な どは、 上述した第 1 2図 A、 第 1 2図 Bおよび第 1 2図 Cと同等とす
P T/JP2007/065882 先ず、 第 13図 Aに例示されるように、 ビデオストリ一ム 100に おいて、 編集点 Aを含む GO P #m— 1の直後の GOP #mが GOP 単位で削除され、 GOP #m— 1および直前の GOP #m— 2とがデ コ一ドされる。 同様に、 ビデオストリーム 101において、 編集点 B を含む G〇P# 2の直前の G〇P# 1が GOP単位で削除され、 G〇 P # 2と直後の GOP # 3とがデコードされる。
次に、 第 13図 Bに例示されるように、 ビデオストリーム 100の デコード済みの GOP #m— 1において、 編集点 Aから GOP #m— 1の終端までがフレーム単位で削除される。 同様に、 ビデオストリー ム 101のデコード済みの GOP # 2において、 G〇P#2の先頭か ら編集点 Bまでがフレーム単位で削除される。 そして、 第 13図 Cに 例示されるように、 編集点 Aと編集点 Bとが結合され、 G〇P#m— 2、 G〇P# (m— 1) + (2) および GOP # 3が再エンコードさ れ、 1本のビデオストリーム 102が作成される。
なお、 上述の第 13図 Aの状態においてデコード前の GOP # 2を メモリなどに保持しておき、 再ェンコ一ドを GOP# 3 + 7および G OP # 8に対して行い、 保持されているデコ一ド前の G〇P # 2をェ ンコードされた G〇P#3 + 7の直前に上書き複写することも考えら れる。
上述のステップ S 13による、 2つのストリームファイルに格納さ れるビデオストリームに対して編集を行う場合の、 編集対象の全区間 を再ェンコ一ドする手法による一例の処理について、 第 14図 Aおよ び第 14図 Bを用いて概略的に説明する。 なお、 第 14図 Aおよび第 14図 Bに例示されるビデオストリームの構成や編集点 Aおよび編集 点 Bの設定、 編集箇所などは、 上述した第 12図 A、 第 12図 Bおよ び第 Γ2図 Cと同等とする。 この場合、 第 14図 Aに例示されるよう
に、 編集対象のビデオストリーム 1 0 0の全体と、 ビデオストリーム 1 0 1の全体とをそれぞれを対象としてデコードを行い、 ビデオスト リーム 1 0 0においては、 編集点 Aから終端までをフレーム単位で削 除してビデオストリ一ム 1 0 0, とし、 ビデオストリーム 1 0 1にお いても同様に、 先頭から編集点 Bまでをフレーム単位で削除してビデ ォストリーム 1 0 1 ' とする。 そして、 第 1 4図 Bに例示されるよう に、 編集点 Aと編集点 Bとを結合して全体を再エンコードし、 1本の ビデオストリーム 1 0 2を得る。
ここで、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図 C、 第 1 1図 Aお よび第 1 1図 B、 第 1 3図 A、 第 1 3図 Bおよび第 1 3図 C、 ならび に、 第 1 4図 Aおよび第 1 4図 Bを用いて説明した各例のように、 編 集点 Aおよび編集点 Bを結合して新たな G O Pを生成する際に、 編集 点 Aおよび編集点 Bの G O P内での位置によっては、 当該新たな G 0 Pに含まれるピクチャ数が所定数に満たない場合や、 所定数を超える 場合が起こり得る。 このような場合には、 ピクチャの複製や間引きな どを行い、 当該新たな G O P内のピクチャ数を所定数に収めることが 考えられる。
なお、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図( 、 ならびに、 第 1 3図 A、 第 1 3図 Bおよび第 1 3図 Cを用いて説明した、 編集点付近 の必要最小区間のみを再エンコードする手法の手順は、 この発明の実 施の一形態を実施可能とするための一例であって、 この方法に限定さ れるものではない。
また、 上述では、 第 9図のステップ S 1 1における、 同じ属性でェ ンコードできる機種のデータが存在するか否かの判断の結果、 データ が存在しないとされ、 処理がステップ S 1 3に移行した際に、 編集対 象の全区間を再エンコードする手法を用いて編集を行うように説明し
たが、 これはこの例に限定されない。 例えば、 編集対象のビデオスト リームが装置に対応していない可能性がある旨を、 所定の表示手段な どを用いて警告するようにしてもよい。
第 1 5図は、 この発明の実施の一形態に適用可能な記録装置 1の一 例の構成を示す。 この記録装置は、 入力されたビデオデータおよびォ 一ディォデータを所定の方式で圧縮符号化し、 圧縮符号化されたビデ ォデータおよびオーディォデータを多重化して 1本のデータストリー ムとし、 このデータストリームをファイルとして記録媒体に記録する ようにしている。
この第 1 5図に例示される記録装置 1は、 例えば、 光学系や撮像素 子などを備えたカメラブロックと組み合わせ、 撮像した撮像信号に基 づくビデオデ一夕を記録媒体に記録する、 ビデオカメラ装置の記録ブ ロックとして用いられるものである。 これに限らず、 記録装置 1は、 外部から入力されるビデオデータおよびオーディオデータを記録媒体 に記録する、 単独の記録装置として用いることもできる。
適用可能な圧縮符号化や多重化の方式としては、 様々に考えられる 。 例えば、 H. 2 64 I AVCに規定される方式を、 この発明の実施 の一形態の圧縮符号化として適用することができる。 また、 多重化方 式は、 例えば MP EG 2システムズが適用される。
データを記録する記録媒体 20は、 例えば記録可能なタイプの DV D (Digital Versatile Disc)を用いることができる。 記録媒体 20と して、 より大容量を実現した B 1 u— r a y D i s c (ブルーレイ ディスク :登録商標) を適用することも考えられる。 これに限らず、 記録媒体 20として、 半導体メモリを適用することもできるし、 ハー ドディスクドライブを適用することもできる。
制御部 5は、 例えば C P U (Central Processing Unit), R AM(Ra
ndom Access Memory)および R OM (Read Only Memory)などからなり (図示しない) 、 ROMに予め記憶されたプログラムやデータに基づ き、 RAMをワークメモリとして用いてこの記録装置 1の全体を制御 する。 また、 制御部 5上で動作するプログラムにより、 この記録装置 で用いられるファイルシステムが提供される。 例えば、 制御部 5は、 このファイルシステムに基づき、 データが記録媒体 20に記録される 際の、 記録媒体 20の物理的なァドレスと当該データが格納されるフ アイルとの関連付けを行うと共に、 各データが格納されるファイルの 論理的な管理情報を生成する。
U I (User Interface)部 6は、 この記録装置の動作をュ一ザが操作 するための操作子が所定に設けられ、 操作子に対する操作に応じた制 御信号を出力する。 この制御信号は、 制御部 5に供給される。 制御部 5は、 ユーザ操作に応じて U I部 6から供給された制御信号に基づき なされるプログラムの処理により、 記録装置 1の各部の動作を制御す る。 例えば、 U I部 6に対してなされた操作に応じて、 記録装置によ る記録動作の開始および停止の動作が制御部 5により制御される。 ベースバンドのディジタルビデオデ一タが端子 10から入力され、 ビデオエンコーダ 1 1に供給される。 ビデオエンコーダ 1 1は、 複数 フレームのビデオデータを格納可能なバッファメモリを有し、 供給さ れたベースバンドのディジタルビデオデータをバッファメモリに溜め 込んで、 所定の方式で以て圧縮符号化する。 AVCHDフォーマット すなわち H. 264 I AVCに規定される方式に準じて圧縮符号化が なされるこの例では、 例えば、 DCT (Discrete Cosine Transform) と画面内予測とによりフレーム内圧縮を行うと共に、 動きべクトルを 用いたフレーム間圧縮を行い、 さらにエントロピー符号化を行い圧縮 効率を高める。
ビデオエンコーダ 1 1は、 さらに、 圧縮符号化されたビデオデータ に基づき S P S、 PP S、 S E Iなどの付加情報を所定に生成する。 このとき、 この記録装置 1のメーカ名を識別する識別情報と、 機種や 型番を識別する識別情報とを、 S E I "User Data Unregistered SEI" のブロック MAKER MODEL ID packOにおけるフィールド maker_IDお よびフィールド maker_modeI_codeの値として生成する。 これらメーカ 名や、 機種、 型番の識別情報は、 記録装置 1が有する図示されない R OMに予め記憶される。 ビデオエンコーダ 1 1は、 圧縮符号化された ビデオデ一夕や、 これら S P S、 PP S、 S E Iなどの付加情報から NALユニットを形成し、 H. 264 I AVCエレメン夕リストリー ム (ES) として出力する。
なお、 H. 264 I AVCの規定によれば、 デコーダモデルにおい て、 デコーダの入力側のバッファである符号化ピクチャバッファ(C PB : Coded Picture Buffer)と、 出力側のバッファである復号ピク チヤバッファ(DP B : Decoded Picture Buffer)とがそれぞれ定義さ れ、 エンコーダは、 これら CP Bおよび DP Bを破綻させないように 、 ビットストリーム (エレメン夕リストリーム) を生成しなければな らないとされている。 ビデオエンコーダ 1 1は、 発生される符号量が この規定を満たすように、 ビデオデータの符号化処理を制御する。 その際、 発生した符号量に基づき、 C P Bすなわちデコーダの入力 側のバッファに対する畜量情報を求め、 符号化で得られたエレメン夕 リストリームに所定に挿入することができる。 例えば、 NALュニッ トにおいて、 S P Sのォプションとされているコード bit— rate_scale 、 コー卜 cpb— size— scale、 コード biし rate— value_mirmsl、 コ一ド cpb —size— valuejninuslなどに、 バッファの畜量情報を記述することがで きる。 この畜量情報は、 ピクチャ毎に記述してもよいし、 GOP毎に
記述してもよい。
マルチプレクサ (MUX) 1 2は、 ビデオエンコーダ 1 1から出力 されたエレメン夕リストリームと、 図示されないオーディォェンコー ダから出力されたオーディォデータのエレメンタリストリームを所定 の方式で多重化し、 1本のデータストリームとして出力する。 MPE G 2システムズに準じて多重化が行われるこの例では、 MP E G 2の トランスポートストリームを用いて、 供給されたビデオデータのエレ メン夕リストリームと、 オーディオデータのエレメン夕リストリーム とを時分割で多重化する。
例えば、 マルチプレクサ 12は、 バッファメモリを有し、 供給され たエレメンタリストリームを一旦バッファメモリに格納する。 バッフ ァメモリに格納されたエレメン夕リストリームは、 所定サイズ毎に分 割されヘッダが付加されて、 P E S (Packetized Elementary Stream) パケット化される。 ヘッダには、 パケットに格納されるデータの再生 時刻を示す PTSゃ復号時刻を示す DTSといった、 MP EG 2シス テムズに規定される所定の情報が格納される。
PESパケットは、 さらに分割されてトランスポートパケット (T Sパケット) のペイロードに詰め込まれる。 TSパケットのヘッダに は、 ペイロードに詰め込まれたデータ種別などを識別するための P I D (Packet Identi f icat ion)が格納される。 TSパケットに対してさ らに所定データ長のヘッダが付加され、 ソースパケッ卜が形成される 。 マルチプレクサ 1 2は、 このソースパケットを連ねて 1本のデータ ストリームとして出力する。
マルチプレクサ 1 2から出力されたデータストリームは、 ストリー ムバッファ 1 3に一時的に格納される。 ストリームバッファ 1 3に対 するデータストリームの書き込みのタイミングと、 ストリームバッフ
ァ 1 3からのデ一タストリームの読み出しのタイミングとをソ一スパ ケット単位で所定に制御することで、 記録媒体 2 0に対するアクセス 速度と、 オーディォおよびビデオデータのェンコ一ドの信号処理速度 との間の整合性がとられる。
ストリームバッファ 1 3から読み出されたソースパケットは、 デ一 タストリームとして記録処理部 1 4に供給される。 記録処理部 1 4は 、 供給されたデータに対してエラー訂正符号化処理および記録符号化 処理を施し、 得られたディジタルデータを所定に変調して記録媒体 2 0に記録する。 このとき、 記録処理部 1 4は、 制御部など上位からの 命令に基づき、 指定されたアドレスに対してデータを書き込む。
第 1 6図は、 この発明の実施の一形態に適用可能な編集装置 2の一 例の構成を示す。 この編集装置 2は、 例えば上述した記録装置 1で記 録媒体 2 0に記録されたストリームファイルに格納されるビデオスト リームを編集可能とされている。 すなわち、 編集装置 2は、 記録媒体 2 0に記録されたストリームファイルを再生してビデオストリームを 取り出し、 所定にデコードおよびエンコードを行って再び記録媒体 2 0に記録するようにされている。 なお、 編集装置 2は、 記録側の構成 として上述した記録装置 1と同様の構成を有するもので、 第 1 5図と 共通する部分には同一の符号を付し、 詳細な説明を省略する。
この編集装置 2の全体は、 図示されない制御部により、 プログラム に従い制御される。 制御部は、 C P U (Cent ral Proces s ing Uni t) , R O M (Read On ly Memory)および R A M (Random Acces s Memoryノを有 し、 R O Mに予め格納されるプログラムやデータに基づき、 R A Mを ワークメモリとして動作し、 編集装置 2の各部とコマンドゃステ一夕 ス、 データなどのやりとりを行い、 編集装置 2の動作を制御する。 ま た、 制御部上で動作するプログラムにより、 この編集装置 2で用いら
れるファイルシステムが提供される。 例えば、 制御部は、 U I部 4 1 に対する所定の操作に応じて、 ファイルシステムにより記録媒体 2 0 に記録されたファイルにアクセスすることができるようにされている 再生処理部 3 0は、 記録媒体 2 0に記録されたデータの再生を制御 する。 すなわち、 再生処理部 3 0は、 制御部など上位からの命令に基 づき記録媒体 2 0の指定されたァドレスからデータの読み出しを行う 。 再生処理部 3 0は、 このデータの読み出しにより記録媒体 2 0から 再生された再生信号を復調して再生ディジタルデータとし、 再生ディ ジ夕ルデータの記録符号を復号化すると共にエラー訂正符号を復号し てエラー訂正を行い、 再生データストリームを得る。 この再生データ ストリームは、 ソースバケツトが連なって 1本のストリームをなして いるものである。
再生処理部 3 0から出力されたデータストリームは、 ストリームバ ッファ 3 1に一時的に格納される。 ストリームバッファ 3 1に対する デ一タストリームの書き込みのタイミングと、 ストリームバッファ 3 1からのデータストリームの読み出しのタイミングとをソースバケツ ト単位で所定に制御することで、 記録媒体 2 0に対するアクセス速度 と、 オーディオおよびビデオデータのデコードの信号処理速度との間 の整合性がとられる。
ストリームバッファ 3 1から読み出されたデータストリ一ムは、 デ マルチプレクサ (D E M U X) 3 2に供給される。 デマルチプレクサ 3 2は、 データストリームに所定に多重化されたビデオデ一タとォ一 ディォデ一夕とを分離してそれぞれ取り出す。 この例では、 デマルチ プレクサ 3 2は、 供給されたデ一夕ストリームからソースパケットを 抽出し、 抽出されたソースバケツトのヘッダを分離して T Sバケツト
とする。 デマルチプレクサ 32は、 さらに、 TSパケットのへツタ^ ら P I Dを検出し、 TSパケットをペイロードに格納されるデータ種 別毎に振り分ける。 そして、 振り分けられた T Sパケットのそれぞれ について、 ペイロードに格納されたデータを取り出し、 PE Sパケッ トを再構築する。 さらに、 P E Sパケットのペイロードに格納された 圧縮ビデオデータや圧縮オーディォデータを取り出し、 PE Sヘッダ に格納された情報などに基づきへッダ情報などを付加し、 それぞれ 1 本のエレメンタリストリームとして出力する。
デマルチプレクサ 32から出力された、 オーディオデータのエレメ ン夕リストリームは、 図示されないオーディオ処理部に供給される。 デマルチプレクサ 32から出力された、 ビデオデータのエレメン夕 リストリームは、 ビデオデコーダ 33に供給される。 ビデオデコーダ 33は、 複数フレームのビデオデータを格納可能なバッファメモリを 有し、 供給された圧縮ビデオデータをバッファメモリに溜め込んで、 圧縮符号化方式に対応した復号化方式でデコードし、 ベースパンドの ディジ夕ルビデオデ一夕として出力する。
ビデオデータの圧縮符号化が H. 2 64 1 AVCに規定される方式 に準じて行われるこの例では、 ビデオデコーダ 33は、 H. 264 1 AVCに規定される方式に準じてデコード処理を行う。 すなわち、 ビ デォデコーダ 3 3は、 NALユニットを解析し、 圧縮符号化されたビ デォデータや S P S、 P P S、 S E Iなどの付加情報を NALュニッ トから取り出す。 ビデオデコーダ 33は、 NALユニットから取り出 した情報に基づき圧縮符号化されたビデオデータの復号化処理を行う ビデオデコーダ 3 3は、 後述するデマルチプレクサ (DEMUX) 32で抽出される、 DT S (Decoding Time Sta即)および P T S (Pres
entation Time Stamp)で示される時刻に基づき、 デコードおよび出力 を行うことができる。 ビデオデコーダ 33でデコードされて得られた ベースバンドのディジタルビデオデータは、 端子 34から出力される 。 また、 この編集装置 2に映像表示を行うモニタ 3 5が接続されてい る場合には、 ビデオデコーダ 3 3から出力されたベースバンドのディ ジ夕ルビデオデータは、 モニタ 35にも供給される。 なお、 モニタ 3 5は、 ベースバンドのディジ夕ルビデオデータに対応しているものと する。
なお、 H. 264 1 AVC規格では、 適用可能な画像フォーマツト は極めて多岐にわたる。 AVCHDフォーマットは、 記録可能な記録 媒体に対する記録フォーマツトであって、 適用可能な画像フォーマツ トを、 ァスぺクト比が 1 6 : 9で画枠サイズが 1 920ライン X 1 0 80画素の HD (High Defini t ion)フォーマットと、 ァスぺクト比が 4 : 3で画枠サイズが 720ライン X480画素の S D (Standard De finition)フォーマットとに限定している。
ここで、 ビデオデータの圧縮符号化処理と、 圧縮符号化されたビデ ォデータの復号化処理とを比較した場合、 一般的には、 復号化処理の 負荷よりも圧縮符号化処理の負荷の方が遙かに大きいとされている。 そのため、 この実施の一形態による編集装置 2においては、 ビデオェ ンコーダ 1 1の機能を制限して例えばエンコード可能な画像フォーマ ットを HDフォーマットのみとしている。 一方、 比較的処理の負荷が 小さいビデオデコーダ 33は、 S Dフォーマツトおよび HDフォーマ ッ卜の両方に対応する。
U I部 41は、 ビデオデータの編集を行うために必要な様々な操作 子が設けられ、 操作子の操作に対応した制御信号を出力する。 エディ ット部 40は、 U I部 41から供給された制御信号に基づき図示され
ない制御部とコマンドゃデ一夕のやりとりを行ってこの編集装置 2の 全体を制御し、 記録媒体 20に記録されるストリームファイルに格納 されるビデオストリームに対して編集処理を行う。 エディット部 40 は、 ハードディスクドライブ 42を有し、 編集処理を、 このハ一ドデ イスクドライブ 42を用いて行う。
ビデオエンコーダ 1 1は、 エディット部 40から供給されるビデオ データを H. 264 I AVCに規定される方式に準じて圧縮符号化す る。 すなわち、 第 1 5図を用いて説明した記録装置 1の場合と同様に してビデオデータを所定に圧縮符号化すると共に、 圧縮符号化された ビデオデータに基づき S P S、 PP S、 S E Iなどの付加情報を所定 に生成する。 このとき、 この編集装置 2のメーカ名を識別する識別情 報と、 機種や型番を識別する識別情報とを、 SE I"User Data Unreg istered SEI"のブロック MAKER & MODEL ID packOにおけるフィール ド maker— IDおよびフィールド makerjnodeし codeの値として生成し、 S E I "User Data Unregistered SEI"に追加する。 ビデオエンコーダ 1 1は、 圧縮符号化されたビデオデータや、 これら S P S、 P P S、 S E Iなどの付加情報から NALユニットを形成し、 H. 264 I AV Cエレメンタリストリ一ム (E S) として出力する。
マルチプレクサ 1 2は、 エディット部 40から供給されたエレメン 夕リストリームと、 図示されないオーディオエンコーダから出力され たオーディォデータのエレメンタリストリームを MP E G 2システム ズに準じた方式で多重化する。 すなわち、 マルチプレクサ 1 2は、 供 給されたエレメンタリストリームを所定サイズ毎に分割し、 PTSや DT Sなど所定の情報が格納されたヘッダを付加して P E S (Packet! zed Elementary Stream)パケット化する。 マルチプレクサ 1 2は、 P E Sパケットをさらに分割して T Sパケットペイロードに詰め込み、
P I Dを所定に生成してヘッダを付加する。 T Sパケットに対してさ らに所定データ長のヘッダを付加してソ一スバケツ卜を形成し、 ソー スパケットを連ねて 1本のデ一タストリームとして出力する。
マルチプレクサ 1 2から出力されたデ一タストリームは、 ストリー ムバッファ 1 3を介して記録処理部 1 4に供給され、 所定にエラー訂 正符号化および記録符号化され、 変調処理されて記録信号とされ、 記 録媒体 2 0に記録される。
この編集装置 2による編集処理について、 概略的に説明する。 一例 として、 第 8図 A、 第 8図 Bおよび第 8図 Cを用いて説明したような 、 1のストリームファイルに格納されるビデオストリームに対して編 集点 Aおよび編集点 Bを指定して編集を行う場合について説明する。 ユーザは、 U I部 4 1に対して所定の操作を行い、 記録媒体 2 0に記 録されるストリームファイルのうち編集対象とするファイルを指定す る。 エディット部 4 0は、 U I部 4 1から出力される制御信号に基づ き編集対象のストリ一ムフアイルを記録媒体 2 0から読み出すように 制御する。 ストリームファイルは、 記録媒体 2 0から読み出されると 、 エレメン夕リストリームが抽出され、 この抽出されたエレメンタリ ストリームがハ一ドディスクドライブ 4 2に書き込まれる。
例えば、 記録媒体 2 0から読み出されたストリームファイルは、 再 生処理部 3 0およびストリームバッファ 3 1を介してデマルチプレク サ 3 2に供給されて、 パケット構造が分解され、 ヘッダ情報が抜き出 されると共にペイロードのデータが取り出されてエレメン夕リス卜リ ームが再構築される。 このエレメン夕リストリームがエディット部 4 0に供給され、 ハードディスクドライブ 4 2に書き込まれる。
U I部 4 1に対する所定の操作に応じて、 ハードディスクドライブ 4 2からエレメンタリストリームが読み出され、 ビデオデコーダ 3 3
に供給されベースバンドのディジタルビデオデータと ci 4し 。 J イジタルビデオデータは、 モニタ 3 5に供給され映出される。 ユーザ は、 モニタ 35に映出された映像を見ながら U I部 41を操作して、 編集点 Aおよび編集点 Bを指定する。 編集点 Aおよび編集点 Bの指定 は、 例えばフレーム番号やタイムコードなどによりなされる。 編集点 Aおよび編集点 Bの情報は、 U I部 41からエディッ卜部 40に供給 され、 保持される。 そして、 U I部 41に対して例えば編集実行を指 示する操作を行うと、 エディット部 40は、 U I部 41からの制御信 号に基づき、 編集処理を開始する。
すなわち、 第 9図を用いて既に説明したように、 ハードディスクド ライブ 42に書き込まれたエレメンタリストリームがビデオデコーダ 33に供給される。 ビデオデコーダ 33は、 供給されたエレメンタリ ストリームの NALュニットを解析し、 S E I "User Data Unregiste red SEI"を抽出する。 抽出された S E I "User Data Unregistered SE I "は、 エディット部 40に供給される。
エディット部 40は、 供給された S E I "User Data Unregistered SEI"から、 'このファイルを記録した記録装置の情報を示すデータ modi f ied— dv— packを含むブロック Modif iedDVPackMetaOが検索され、 さら に、 ブロック ModifiedDVPackMetaOから、 フィールド即 d— idの値に基 づきブロック MAKER & MODEL ID packOが検索される (第 9図のステ ップ S 1 0) 。 エディット部 40は、 検索されたブロック MAKER & M0 DEL ID packOに格納されるフィールド maker_IDと、 フィールド maker 一 modeし codeとに基づき、 第 9図のステップ S 1 1による、 同じ属性 でエンコードできる機種のデータが存在するか否かの判断を行う。 なお、 この編集装置 2と同じ属性でエンコードできる機種の情報は 、 制御部が有する図示されない ROMや、 エディット部 40に接続さ
れるハードディスクドライブ 42などに予め記憶されているものとす る。 また、 編集対象のストリームファイルにおける S E I "User Data Unregistered SEI"の情報は、 編集点 Aおよび編集点 Bを指定するた めに当該ストリームファイルを再生する際に取得し、 エディット部 4 0に保持していてもよい。
同じ属性でエンコードできる機種のデ一夕が存在すると判断されれ ば、 第 9図のステップ S 1 2による、 必要最小区間のみを再ェンコ一 ドする手法を用いて編集処理が行われる。
一例として、 第 1 0図 A、 第 1 0図 Bおよび第 1 0図 Cを用いて説 明したように、 エディット部 40は、 ハードディスクドライブ 42に 書き込まれたエレメンタリストリ一ムから、 編集点 Aを含む GO P井 3と、 GOP # 3の直前の GOP # 2とを読み出す。 例えば、 エディ ット部 40は、 エレメンタリストリームの NALュニットを所定に解 析しながら GOPの位置を検出し、 所望の GOPを読み出す。 読み出 された GOP # 2および GOP # 3は、 ビデオデコーダ 3 3に供給さ れ、 デコードされる。 デコードされたデ一夕は、 エディット部 40に 供給され、 ハードディスクドライブ 42に書き込まれる。 エディット 部 40が有する図示されない RAMに書き込んでもよい。 エディット 部 40は、 ハードディスクドライブ 42に書き込まれた、 デコ一ド済 みの GOP # 3について、 編集点 A以降を削除する。
同様に、 エディット部 40は、 ハードディスクドライブ 42に書き 込まれたエレメン夕リストリームの、 編集点 Bを含む GOP # 7と、 GOP # 7直後の GO P # 8とを読み出す。 読み出された GO P # Ί および GOP # 8は、 ビデオデコーダ 3 3に供給され、 デコードされ る。 デコードされたデータは、 エディット部 40に供給され、 ハード ディスクドライブ 42などに書き込まれる。 エディット部 40は、 ハ
ードディスクドライブ 4 2に書き込まれた、 デコード済みの GO P # 7について、 先頭から編集点 Bまでを削除する。
次に、 エディット部 40は、 編集点 A以降が削除された GOP # 3 と、 先頭から編集点 Bまでが削除された GOP # 7とを接続し、 新た な GOPである GOP # 3 + 7を作成する。 GOPの接続の際に、 接 続された GO Pに含まれるピクチャ数が所定数にならないときは、 ピ クチャの補間や間引きなどを行い、 ピクチャ数が所定数になるように する。
エディット部 40は、 ハードディスクドライブ 42に書き込まれて いる GOP # 2、 GO P # 3 + 7および GO P # 8をビデオェンコ一 ダ 1 1に供給し、 再エンコードする。 再エンコードされた GOP # 2 、 GOP # 3 + 7および GOP # 8は、 ハードディスクドライブ 42 に書き込まれる。 このとき、 ハードディスクドライブ 42に最初に書 き込まれた、 デコード前の GOP # 2を、 再エンコードされハードデ イスクドライブ 42に書き込まれた G〇P # 2に上書きすることがで きる。 エディット部 40は、 ハードディスクドライブ 42に書き込ま れた GOP# l、 GO P # 2、 GOP# 3 + 7、 GOP# 8および G OP# 9を順次、 連続的に読み出すことで、 1本のエレメンタリスト リームを出力させることができる。
なお、 編集対象のエレメンタリストリ一ムに上述したバッファの畜 量情報が記述されている場合には、 エディット部 40は、 この畜量情 報に基づき発生符号量を所定に制御して、 GOPのェンコ一ドを行う 。 例えば、 編集点 Aが含まれる G〇P # 3の直前の GOP # 2、 編集 点 Aを含む GO P # 3、 編集点 Bを含む GOP # 7および G〇P # 7 直後の GOP # 8について NALュニットを解析してバッファの畜量 情報を取得し、 取得された畜量情報に基づき、 各 GO Pがシームレス
に接続されて再生可能なように、 エンコード処理が行わ 。
一方、 第 9図のステップ S 1 1において、 S E I " User Dat a Unreg i s tered SEI"内のブロック Mod i f i edDVPackMet a Oにおけるブロック MA KER & MODEL ID pack Oの情報に基づき、 同じ属性でエンコードでき る機種のデータが存在しないと判断されれば、 第 9図のステップ S 1 3による、 編集対象のビデオストリームの全区間を再エンコードする 手法を用いて編集処理が行われる。
一例として、 第 1 1図 Aおよび第 1 1図 Bを用いて説明したように 、 エディット部 4 0は、 ハードディスクドライブ 4 2に書き込まれた エレメンタリストリームを読み出して、 ビデオデコーダ 3 3に供給す る。 ビデオデコーダ 3 3は、 供給されたエレメンタリストリームを全 てデコードする。 デコードされたデータは、 エディット部 4 0に供給 され、 ハードディスクドライブ 4 2に供給される。
エディット部 4 0は、 デコードされたビデオデータに対し、 編集点 Aから編集点 Bまでの間をフレーム単位で削除して編集点 Aおよび編 集点 Bを接続する。 このとき、 エディット部 4 0は、 編集点 Aおよび 編集点 Bの接続の際に、 接続部を含む G O Pに含まれるピクチャ数が 所定数にならないときは、 ピクチャの補間や間引きなどを行い、 G O P内のピクチャ数が所定数となるようにする。
編集点 Aおよび編集点 Bが接続されたビデオデータは、 ビデオェン コーダ 1 1に供給される。 ビデオエンコーダ 1 1は、 供給されたビデ ォデータを全長にわたって再エンコードして 1本のエレメン夕リスト リームとして出力する。 このエレメンタリストリームは、 エディット 部 4 0に供給され、 ハードディスクドライブ 4 2に書き込まれる。 ハ ードディスクドライブ 4 2に書き込まれたこのデータは、 ハードディ スクドライブ 4 2から読み出してマルチプレクサ 1 2、 ストリームバ
ッファ 1 3および記録処理部 1 4でそれぞれ所定に処理して記録媒体 2 0に書き込んでもよいし、 図示されない外部ィン夕ーフェイスを介 して外部に出力してもよい。
なお、 2つのストリームファイルに対して編集点 Aおよび編集点 B をそれぞれ設定して編集して 1本のデータストリームを得る場合の処 理も、 上述の 1のストリームファイルに対して編集点 Aおよび編集点 Bをそれぞれ設定して編集処理を行う場合と同様の処理となるため、 説明を省略する。
上述では、 編集装置 2は、 記録媒体 2 0を再生し、 記録媒体 2 0に 記録されたストリームファイルに格納されたデータストリームに対し て編集を行うように説明したが、 これはこの例に限定されない。 すな わち、 編集装置 2は、 外部から供給されたビデオデータを編集するよ うにしてもよい。
ビデオデータが H . 2 6 4 1 A V Cのエレメン夕リストリームの形 式で外部から供給される場合には、 例えば、 外部から供給されたエレ メンタリストリームがエディット部 4 0に入力され、 ハードディスク ドライブ 4 2に書き込まれる。 そして、 第 9図を用いて説明した手順 でデータストリームに埋め込まれたメーカ情報および機種または型番 情報に基づき判断処理を行い、 判断結果に応じて、 必要最小区間のみ を再エンコードする手法、 あるいは、 編集対象のビデオストリームの 全区間を再ェンコ一ドする手法の何れかにより、 編集処理を行う、 また、 ビデオデータがソースバケツ卜が連なるデータストリームの 形式や、 M P E G 2システムズによるトランスポートストリームの形 式で外部から供給される場合には、 例えば、 外部から供給されたデー 夕ストリームがデマルチプレクサ 3 2に入力され、 パケット構造が分 解され、 へッダ情報が抜き出されると共にペイロードのデータが取り
出されてエレメンタリス卜リームが再構築される。 このエレメンタリ ストリームがエディット部 40に供給され、 ハードディスクドライブ
42に書き込まれる。 以降の処理は、 上述と同様である。
上述の第 1 6図では、 この発明の実施の一形態による編集処理を行 う編集装置 2が専用的な八一ドウエアとして構成されているように説 明したが、 これはこの例に限られず、 例えば、 パーソナルコンビユー 夕といったコンピュータ装置で編集装置を構成することも可能である 第 17図は、 一般的なコンピュータ装置 3の一例の構成を概略的に 示す。 バス 50に対して CPU 51、 ROM 52および RAM 53が 接続される。 CPU 51は、 ROM 52や後述するハードディスクド ライブ 60に格納されたプログラムやデータに従い、 RAM 53をヮ ークメモリとして用い、 バス 50を介して各部と通信を行いながら、 このコンピュータ装置 3における各部の動作を制御する。
バス 50には、 また、 グラフィクス処理部 54および通信インタ一 フェイス (通信 IZF) 55が接続される。 グラフィクス処理部 54 には、 モニタ 54 Aが接続され、 CPU 51から供給された表示制御 信号を映像信号に変換してモニタ 54 Aに供給し、 モニタ 54 Aに対 して所定の画像を映出させることができる。 また、 通信 I/F 55は 、 例えばインタ一ネットや L AN (Local Area Network)といったネッ トワークと接続され、 CPU 55の命令に基づき、 ネットワークを介 してこのコンピュータ装置 3と外部との通信を制御する。
バス 50に対して、 さらに、 入力インターフェイス (入力 IZF)
56、 ビデオインターフェイス (ビデオ IZF) 57、 ドライブ装置 58およびハードディスクドライブ 60が接続される。
入力 I ZF 56には、 例えばマウス 56 Aなどのボインティングデ
パイスや、 キーポ一ド 56 Bといったキャラクタ入力デバイスといつ た、 ユーザによる入力を受け付ける入力デバイスが接続される。 入力 I ZF 56に接続される入力デバイスは、 これらの例に限らず、 回転 角に応じた制御信号が出力される口一タリエンコーダや、 スティック を倒した方向や度合いに応じて制御信号を出力するジョイスティック 、 平面上の位置を指定することで値を出力する夕ブレットなど、 様々 に考えられる。
データ I ZF 5 7は、 このコンピュータ装置 3と外部の機器との間 でディジタルデータのやりとりを行うためのィンターフェイスであつ て、 例えば US B (Universal Serial Bus)や I EEE 1 3 94 (Insti tute Electrical and Electronics Engineers 1394)といったインタ —フェイスが適用可能である。 インターフェイスが対応する外部機器 が入出力端 5 7 Aに接続されると、 外部機器とデ一夕 I ZF 57との 間でィンターフェイスのプロトコルに従ってやりとりがなされ、 外部 機器とコンピュータ装置 3との間でデータ通信可能な状態とされる。
ドライブ装置 58は、 例えばディスク状記録媒体に対応し、 装填さ れた記録可能なタイプの記録媒体に対するデータの書き込みや、 記録 媒体からのデータの読み出しを行うことができる。 記録可能なタイプ の記録媒体は、 例えば記録可能なタイプの DVDを適用可能である。 これに限らず、 ドライブ装置 58は、 記録可能なタイプの CD (Compa ct Disc)や B l u— r a y D i s cに対応可能としてもよい。 さら に、 ドライブ装置 58は、 記録可能なタイプの記録媒体のみならず、 再生専用の記録媒体、 例えば DVD— R〇M、 CD— ROM (Co即 act Disc-Read Only Memory)からデータを読み出すことができる。 また 、 ドライブ装置 58は、 ディスク状記録媒体に対応可能であるのに限 られず、 例えばフラッシュメモリなどの半導体メモリを記録媒体 5 9
として対応してもよい。
ハ一ドディスクドライブ 60は、 上述したように、 CPU5 1で用 いるプログラムやデータが格納される。 勿論、 パス 5 0を介して供給 された他のデ一夕の書き込みおよび読み出しを行うことができる。 このようなコンピュータ装置 3に対して、 この発明の実施の一形態 による編集方法を実行するための編集プログラムを搭載させることで 、 このコンピュータ装置 3を AVCHDフォーマツトに対応したビデ ォストリームの編集装置として作動させることができる。 すなわち、 この編集プログラムにより、 第 1 6図を用いて説明した編集装置 2に おけるビデオエンコーダ 1 1、 マルチプレクサ 1 2、 デマルチプレク サ 32、 ビデオデコーダ 33およびエディット部 40の機能が CPU 5 1により実現される。 なお、 ビデオエンコーダ 1 1は、 処理の負荷 が大きいので、 バス 50に接続され CPU 5 1に制御される個別のハ 一ドウエアとしてもよい。
編集プログラムは、 例えば CD— ROMや DVD— ROMといった 記録媒体に記録されて提供される。 一例として、 編集プログラムが D VD— ROMに記録されている場合、 当該 DVD— ROMがドライブ 装置 58に装填されると、 例えば、 CPU 5 1の制御に基づき、 ドラ イブ装置 58により装填された DVD—; OMに記録された、 編集プ ログラムが格納されたプログラムファイルが読み出される。 編集プロ グラムは、 プログラムファイルから読み出され、 CPU 5 1により所 定に展開されてハードディスクドライブ 60に書き込まれると共に、 システムに登録され、 このコンピュータ装置 3上で実行可能な状態と される。
なお、 コンピュータ装置 3に対して編集プログラムを提供する方法 は、 記録媒体を介する方法に限られない。 例えば、 ネットワークに接
続されたサーバ上に当該プログラムファイルを用意しておき、 サーバ からネットワークを介して通信 I / F 5 5で取得するようにしてもよ レ^ また、 データ I / F 5 7を介してプログラムファイルを受け取る ようにもできる。
このように編集プログラムが実行可能に搭載されたコンピュータ装 置 3で、 この発明の実施の一形態による編集方法を実行する際の一例 の処理について、 概略的に説明する。 例えば、 第 1 5図で示した記録 装置 1でストリームファイルが記録された記録媒体 2 0をドライブ 5 8に装填し、 記録媒体 2 0に記録されたストリームファイルに対して 編集を行う。
ストリームファイルが記録された記録媒体 2 0がドライブ装置 5 8 に装填され、 ユーザにより入力 I Z F 5 6に接続された入力デバイス を用いて、 記録媒体 2 0に記録されたストリームファイルの編集が指 示される。
C P U 5 1は、 記録媒体 2 0に記録されたストリームファイルをハ ードディスクドライブ 6 0にコピ一するように制御する。 C P U 5 1 は、 ハードディスクドライブ 6 0に書き込まれたストリームファイル を読み込み、 R AM 5 3をワークメモリとして用いてバケツトを分解 し、 各パケットのヘッダから所定の情報を収集すると共に、 ビデオお よびオーディオのエレメンタリストリ一ムを再構築する。 エレメン夕 リストリームは、 ハードディスクドライブ 6 0に書き込まれる。 なお 、 以下では、 ビデオデータのエレメンタリストリームについて、 説明 を行う。
C P U 5 1は、 ハードディスクドライブ 6 0に書き込まれたエレメ ン夕リストリームを読み込んでデコードし、 ベースバンドのビデオデ 一夕を得る。 このベースバンドのビデオデ一夕は、 グラフィクス処理
部 54に供給され、 映像信号に変換され、 モニタ 54 Aに吠 me 4 LO 。 ユーザは、 モニタ 54 Aに映出された映像を見ながら入力 I /F 5 6に接続された入力デバイスを操作して、 編集点 Aおよび編集点 Bを 、 フレーム番号やタイムコードなどで指定する。 編集点 Aおよび編集 点 Bの情報は、 例えば R A M 53に保持される。
入力デバイスを用いて編集実行が指示されると、 CPU 5 1は、 ハ ードディスクドライブ 60に書き込まれたエレメンタリストリームに 対して編集処理を開始する。 すなわち、 第 9図を用いて既に説明した ように、 CPU 5 1は、 ハードディスクドライブ 60に書き込まれた エレメンタリストリ一ムの NALユニットを解析し、 S E 'User Da ta Unregistered SEI"を抽出する。 そして、 抽出された S E I"User Data Unregistered SEI"から、 記録媒体 20に編集対象のエレメン夕 リストリームが格納されたファイルを記録した記録装置の情報を示す データ modified_dv_packを含むブロック Modi f iedDVPackMetaOが検索 され、 さらに、 ブロック ModifiedDVPackMetaOから、 フィールド nipd— idの値に基づきブロック MAKER MODEL ID pack 0が検索される (第 9図のステップ S 1 0) 。
なお、 編集対象のストリームファイルにおける S E I "User Data U nregistered SEI"の情報は、 編集点 Aおよび編集点 Bを指定するため に当該ストリームファイルを再生する際に取得し、 RAM 53に保持 していてもよい。
CPU 5 1は、 検索されたブロック MAKER & MODEL ID pack 0に格 納されるフィールド maker— IDと、 フィールド makerjnodeし codeとに基 づき、 第 9図のステップ S 1 1による、 同じ属性でエンコードできる 機種のデータが存在するか否かの判断を行う。
なお、 このコンピュータ装置 3に搭載される編集プログラムと同じ
属性でエンコードできる機種の情報は、 例えば当該編集プログラムが 格納されるプログラムファイルに、 編集プログラムと共に格納される 。 これに限らず、 別のファイルとして当該プログラムファイルが記録 される記録媒体に記録されて提供されてもよいし、 ネットワークに接 続された外部のサーバなどからネットワークを介して提供されてもよ い。
同じ属性でエンコードできる機種のデータが存在すると判断されれ ば、 第 9図のステップ S 1 2による、 必要最小区間のみを再ェンコ一 ドする手法を用いて編集処理が行われる。
一例として、 第 10図 A、 第 1 0図 Bおよび第 1 0図 Cを用いて説 明したように CPU 5 1は、 ハードディスクドライブ 60に書き込ま れたエレメン夕リストリ一ムから、 編集点 Aを含む GOP # 3と、 G 〇P # 3の直前の GOP # 2とを読み出す。 例えば、 エディット部 4 0は、 エレメンタリストリームの N A Lュニットを所定に解析しなが ら GOPの位置を検出し、 所望の GOPを読み出す。 CPU 5 1は、 読み出された GOP # 2および GOP # 3をデコ一ドし、 ハードディ スクドライブ 60または RAM 53に書き込む。 CPU 5 1は、 ハー ドディスクドライブ 60または RAM 53に書き込まれた、 デコード 済みの GOP# 3について、 編集点 A以降を削除する。 同様に、 CP U5 1は、 ハードディスクドライブ 60に書き込まれたエレメンタリ ストリームの、 編集点 Bを含む GOP # 7と、 GOP # 7直後の GO P # 8とを読み出してデコードし、 ハードディスクドライブ 60また は RAM 53に書き込む。 CPU 5 1は、 ハードディスクドライブ 6 0または RAM 5 3に書き込まれた、 デコード済みの GO P # 7につ いて、 先頭から編集点 Bまでを削除する。
次に、 CPU 5 1は、 ハードディスクドライブ 60上または RAM
53上で、 編集点 A以降が削除された GOP# 3と、 先頭から編集点 Bまでが削除された GO P # 7とを接続し、 新たな GO Pである GO P # 3 + 7を作成する。 GOPの接続の際に、 接続された GOPに含 まれるピクチャ数が所定数にならないときは、 ピクチャの補間や間引 きなどを行い、 ピクチャ数が所定数になるようにする。
C PU 5 1は、 ハ一ドディスクドライブ 60または RAM 53に書 き込まれている GO P # 2、 GOP# 3 + 7および GOP # 8を再ェ ンコードし、 ハードディスクドライブ 60に書き込む。 このとき、 ハ 一ドディスクドライブ 60または RAM 53に最初に書き込まれた、 デコード前の GO P # 2を、 再エンコードされハードディスクドライ ブ 60に書き込まれた GOP # 2に上書きすることができる。 CPU 5 1は、 再エンコードされハードディスクドライブ 60に書き込まれ た GOP# l、 GOP# 2、 GOP # 3 + 7、 GOP# 8および GO P# 9を順次、 連続的に読み出すことで、 1本のエレメンタリストリ —ムを出力させることができる。
なお、 編集対象のエレメン夕リストリームに上述したバッファの畜 量情報が記述されている場合には、 CPU 5 1は、 この畜量情報に基 づき発生符号量を所定に制御して、 GO Pのエンコードを行う。
一方、 第 9図のステップ S 1 1において、 S E I "User Data Unreg istered SEI"内のブロック Modi fiedDVPackMetaOにおけるブロック MA KER δ MODEL ID packOの情報に基づき、 同じ属性でエンコードでき る機種のデータが存在しないと判断されれば、 第 9図のステップ S 1 3による、 編集対象のビデオストリームの全区間を再ェンコ一ドする 手法を用いて編集処理が行われる。
一例として、 第 1 1図 Aおよび第 1 1図 Bを用いて説明したように 、 CPU 5 1は、 ハードディスクドライブ 60に書き込まれたエレメ
ン夕リストリームを読み出してデコードする。 デコ一 こ:^ "―ッ は、 ハードディスクドライブ 60に書き込まれる。 RAM 5 3の容量 が十分大きければ、 デコードされたデータを RAM 5 3に書き込むよ うにしてもよい。
CPU 5 1は、 デコードされたビデオデータに対し、 編集点 Aから 編集点 Bまでの間をフレーム単位で削除して編集点 Aおよび編集点 B を接続する。 このとき、 CPU 5 1は、 編集点 Aおよび編集点 Bの接 続の際に、 接続部を含む GO Pに含まれるピクチャ数が所定数になら ないときは、 ピクチャの補間や間引きなどを行い、 GO P内のピクチ ャ数が所定数となるようにする。 CPU5 1は、 編集点 Aおよび編集 点 Bが接続されたビデオデータを全長にわたって再エンコードして 1 本のエレメンタリストリームを生成する。 このエレメン夕リストリー ムは、 ハードディスクドライブ 60に書き込まれる。
なお、 2つのストリームファイルに対して編集点 Aおよび編集点 B をそれぞれ設定して編集して 1本のデータストリームを得る場合の処 理も、 上述の 1のストリームファイルに対して編集点 Aおよび編集点 Bをそれぞれ設定して編集処理を行う場合と同様の処理となるため、 説明を省略する。
編集処理が終了してハードディスクドライブ 60に書き込まれたェ レメン夕リストリームは、 CPU 5 1により、 PE Sパケット化、 T Sパケット化およびソースパケット化され、 MP E G 2システムズの トランスポートストリームとされる。 このデ一タストリームは、 ドラ イブ装置 58に供給され、 記録媒体に記録される。
編集結果のエレメン夕リストリームは、 ドライブ装置 58に装填さ れている記録媒体に書き込むのに限らず、 例えばハードディスクドラ イブ 60に蓄積的に保持していてもよい。 また、 当該エレメンタリス
トリームをハードディスクドライブ 6 0から読み出して、 データ I / F 5 7を介して外部機器に対して出力するようにもできる。 通信 1 / F 5 5からネットワークを介して外部に送信することもできる。 また 、 編集結果のエレメン夕リストリームを所定にパケット化してトラン スポートストリームとして、 ハードディスクドライブ 6 0への蓄積、 データ I Z F 5 7を介しての外部機器への出力、 通信 I F 5 5から ネットワークを介しての外部への送信を行ってもよい。
また、 編集対象のビデオデータは、 ドライブ装置 5 8に装填された 記録媒体から読み出されるのに限らず、 外部から供給されたビデオデ 一夕を編集対象とすることもできる。 例えば、 編集対象のビデオデー 夕を入出力端 5 7 Aから入力し、 デ一夕 I Z F 5 7を介してハードデ イスクドライブ 6 0に書き込む。 C P U 5 1は、 上述と同様にして、 ハードディスクドライブ 6 0に書き込まれたビデオデータに対して編 集処理を行う。
なお、 上述では、 編集時のデコード処理において、 ビデオデコーダ 3 3が入力されたエレメンタリストリームをデコード可能であるとし て説明したが、 これはこの例に限定されない。 すなわち、 ビデオデコ ーダ 3 3は、 フォ一マツトに規定される全てのストリームをデコード できるとは限らない。 そのため、 例えば第 9図のステップ S 1 1にお ける同じ属性でエンコードできる機種のデータが存在するか否かの判 断の結果、 データが存在しないとされた場合には、 ビデオデコーダ 3 3に入力されるエレメンタリストリームをビデオデコーダ 3 3がデコ 一ドできない可能性もあり得る。
この場合には、 以下に示す 2つの方法のうち、 何れかを行うことが 考えられる。 第 1の方法は、 第 9図のステップ S 1 1における同じ属 性でェンコ一ドできる機種のデータが存在するか否かの判断の結果、
データが存在しないとされた場合でも、 上述したように、 当該エレメ ン夕リストリームをビデオデコーダ 3 3に入力してデコード処理を行 い、 ビデオデコーダ 3 3においてエラーが発生したらデコード失敗と する方法である。 この場合には、 デコードできなかった旨を、 所定の 表示手段などを用いて通知すると、 好ましい。
第 2の方法は、 当該エレメン夕リストリームの属性情報を用いる方 法である。 例えば、 A V C H Dフォーマットにおいては、 当該エレメ ン夕リストリームがパケット化されたビデオストリームが格納される ストリームファイルに対して、 当該ビデオストリームの属性を示す属 性情報が格納された属性情報ファイルを作成し、 当該ストリームファ ィルが記録される記録媒体に、 この属性情報ファイルを共に記録する ようにされている。 この属性情報ファイルには、 対 'るストリーム の本数や、 対応するストリームのそれぞれに対する符号化に関するパ ラメ一夕が記述されている。
そこで、 編集時のデコードの際にこの属性情報ファイルを参照して 符号化に関するパラメ一夕を抽出し、 対応可能か否かを判断する。 対 応不可であると判断されたら、 デコード処理を中止する。 このとき、 例えばその旨を所定の表示手段などを用いて警告すると好ましい。 一 方、 パラメータに基づき対応可能であると判断されたら、 当該エレメ ンタリストリームをビデオデコーダ 3 3に入力し、 デコードを開始す る。 デコード開始後は、 上述の第 1の方法と同様に、 ビデオデコーダ 3 3においてエラーが発生したらデコード失敗とする。