JP6113865B2 - デコーダ設定のためのビデオ符号化方法及びその装置、並びにデコーダ設定に基づいたビデオ復号化方法及びその装置 - Google Patents

Description

本発明は、ビデオ符号化方法及びビデオ復号化方法に係り、さらに詳細には、デコーダ設定のための情報を符号化／復号化する方法に関する。

高解像度または高画質のビデオコンテンツを再生、保存することができるハードウェアの開発及び普及によって、高解像度または高画質のビデオコンテンツを効果的に符号化／復号化するビデオコーデックの必要性が増大している。既存のビデオコーデックによれば、ビデオは、所定サイズのマクロブロックに基づいて制限された符号化方式によって符号化されている。

周波数変換を利用して、空間領域の映像データは、周波数領域の係数に変換される。ビデオコーデックは、周波数変換の迅速な演算のために、映像を所定サイズのブロックに分割し、ブロックごとにＤＣＴ変換を行い、ブロック単位の周波数係数を符号化する。空間領域の映像データに比べ、周波数領域の係数が、圧縮しやすい形態を有する。特に、ビデオコーデックのインター予測またはイントラ予測を介して、空間領域の映像画素値は、予測誤差で表現されるので、予測誤差に対して周波数変換が行われれば、多くのデータが０に変換される。ビデオコーデックは、連続的に反復的に発生するデータを小サイズのデータに置き換えることにより、データ量を節減している。

マルチレイヤ・ビデオコーデックは、基本レイヤビデオと、１以上の向上レイヤビデオとを符号化／復号化する。基本レイヤビデオと向上レイヤビデオとの時間的／空間的重複性（redundancy）、及びレイヤ間の重複性を除去する方式で、基本レイヤビデオと向上レイヤビデオとのデータ量が節減される。

本発明が解決しようとする課題は、デコーダが復元した映像を正確に再生するために必要な設定情報を伝送するためのビデオ符号化方法及びその装置の提案にある。また、デコーダが復元した映像を正確に再生するために必要な設定情報を受信するビデオ復号化方法及びその装置の提案である。。

多様な実施形態によるビデオ復号化方法は、ＮＡＬ（network abstraction layer）ユニットで構成されたデータストリームを受信する段階と、前記データストリームから、ピクチャのサンプルの配列タイプに係わる制限（constraint）があるか否かということを示す制限情報を獲得する段階と、符号化されたピクチャから復元されたサンプルの配列方式を、前記獲得された制限情報に基づいて決定する段階と、を含む。

本発明によれば、デコーダ設定に係わる制限情報として、サンプル配列方式に係わる制限情報、及びセグメンテーション最大サイズ情報のうち少なくとも一つが決定される。該デコーダは、獲得されたセグメンテーション最大サイズ情報に基づいて、データストリームから、符号化されたピクチャデータのサブ領域を適切に分類し、サブ領域別復号化動作を並列的に遂行することもできる。また、サンプル配列方式に係わる制限情報に基づいて、各ピクチャ／フレーム別に復元されたサンプルを正しく配することができる。

多様な実施形態によるビデオ符号化装置のブロック図である。 多様な実施形態によるビデオ復号化装置のブロック図である。 一実施形態による符号化単位の概念を図示する図面である。 一実施形態による、符号化単位に基づいた映像符号化部のブロック図である。 一実施形態による、符号化単位に基づいた映像復号化部のブロック図である。 一実施形態による、深度別符号化単位及びパーティションを図示する図面である。 一実施形態による、符号化単位及び変換単位の関係を図示する図面である。 一実施形態による深度別符号化情報を図示する図面である。 一実施形態による深度別符号化単位を図示する図面である。 一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 表１の符号化モード情報による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 多様な実施形態による、デコーダ設定のためのビデオ符号化方法のフローチャートである。 多様な実施形態による、デコーダ設定のためのビデオ復号化方法のフローチャートである。 デコーダ設定のためのシンタックスの多様な実施形態を図示する図面である。 デコーダ設定のためのシンタックスの多様な実施形態を図示する図面である。 多様なフレームパッキング（frame packing）タイプの映像の復元過程を図示する図面である。 多様なフレームパッキングタイプの映像の復元過程を図示する図面である。 多様なフレームパッキングタイプの映像の復元過程を図示する図面である。 多様なフレームパッキングタイプの映像の復元過程を図示する図面である。 デコーダ設定のためのシンタックスの他の実施形態を図示する図面である。 可変長及び固定長のシンタックスのバイト整列（byte alignment）方法を図示する図面である。 一実施形態による、プログラムが保存されたディスクの物理的構造を例示する図面である。 ディスクを利用して、プログラムを記録して読み取るためのディスクドライブを図示する図面である。 コンテンツ流通サービス（content distribution service）を提供するためのコンテンツ供給システム（content supply system）の全体的構造を図示する図面である。 一実施形態による、ビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の外部構造を図示する図面である。 一実施形態による、ビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の内部構造を図示する図面である。 一実施形態による通信システムが適用されたデジタル放送システムを図示する図面である。 一実施形態による、ビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピューティングシステムのネットワーク構造を図示する図面である。

多様な実施形態によるビデオ復号化方法は、ＮＡＬ（network abstraction layer）ユニットで構成されたデータストリームを受信する段階と、前記データストリームから、ピクチャのサンプルの配列タイプに係わる制限（constraint）があるか否かということを示す制限情報を獲得する段階と、符号化されたピクチャから復元されたサンプルの配列方式を、前記獲得された制限情報に基づいて決定する段階と、を含む。

多様な実施形態によって、前記獲得する段階は、前記ＮＡＬユニットのうちビデオパラメータセットＲＢＳＰ（raw byte sequence payload）領域から、最大４８ビットである前記制限情報を獲得する段階を含んでもよい。

多様な実施形態によって、前記獲得する段階は、符号化されたピクチャを空間的に区画した各サブ領域（spatial segmentation region）の最大サイズの限界値を示すセグメンテーション最大サイズ情報を、固定長の符号なしの整数型（unsigned integer type）のデータタイプとして獲得する段階を含んでもよい。

多様な実施形態による前記ビデオ復号化方法は、前記セグメンテーション最大サイズ情報が示す１２ビットの、０より大きいか、あるいはそれと同じであり、４０９６より小さい整数に基づいて、前記セグメンテーションのルマサンプル個数の最大値を決定する段階と、前記符号化されたピクチャを前記サブ領域に分け、前記サブ領域別に復号化を行う段階と、をさらに含んでもよい。

多様な実施形態によって、前記制限情報は、ピクチャの復元されたサンプルがプログレッシブスキャンタイプ（progressive scan type）によって配列されるか否かということを示すプログレッシブスキャン情報を含み、前記決定する段階は、前記獲得されたプログレッシブスキャン情報に基づいて、前記復元されたサンプルがプログレッシブスキャン順序で配列されるか否かということを決定する段階を含んでもよい。

多様な実施形態によって、前記制限情報は、ピクチャのサンプルがピクチャ及びフレームにおいて、フレーム単位でのみ符号化されるか否かということを示すフレーム制限情報を含み、前記決定する段階は、前記獲得されたフレーム限定情報に基づいて、前記ピクチャサンプルが少なくとも１つのフレームだけで構成されるか否かということを決定する段階を含んでもよい。

多様な実施形態によって、前記制限情報は、ピクチャの復元されたサンプルがインターレーストスキャンタイプ（interlaced scan type）によって配列されるか否かということに係わるインターレーストスキャン情報を含み、前記決定する段階は、前記獲得されたインターレーストスキャン情報に基づいて、前記復元されたサンプルが、インターレーストスキャン順序で配列されるか否かということを決定する段階を含んでもよい。

多様な実施形態によって、前記制限情報は、ピクチャの復元されたサンプルが、フレームパッキングタイプ（interlaced scan type）ではない配列方式によって構成されるか否かということに係わるノンフレームパッキング制限情報を含み、前記決定する段階は、前記獲得されたノンフレームパッキング制限情報に基づいて、前記復元されたサンプルが、フレームパッキングタイプではない配列方式で構成されるか否かということを決定する段階を含んでもよい。

多様な実施形態によるビデオ符号化方法は、ピクチャのサンプルを符号化する段階と、前記符号化されたピクチャのサンプルの配列方式に基づいて、前記サンプルの配列タイプに対する制限があるか否かということを示す制限情報を決定する段階と、前記制限情報を含むＮＡＬユニットで構成されたデータストリームを生成する段階と、を含んでもよい。

多様な実施形態によって、前記制限情報を決定する段階は、前記制限情報を最大４８ビットで決定する段階を含み、前記データストリームを生成する段階は、前記ＮＡＬユニットのうちビデオパラメータセットＲＢＳＰ領域に前記制限情報を含める段階を含んでもよい。

多様な実施形態によって、前記符号化する段階は、前記ピクチャを空間的に少なくとも１つのサブ領域に分け、各サブ領域別に符号化する段階を含んでもよい。

多様な実施形態によるビデオ復号化装置は、ＮＡＬユニットで構成されたデータストリームを受信し、前記データストリームから、ピクチャのサンプルの配列タイプに係わる制限があるか否かということを示す制限情報を獲得するデータ獲得部と、前記データストリームから、獲得されたシンボルを復号化して前記サンプルを復元し、前記復元されたサンプルの配列方式を、前記獲得された制限情報に基づいて決定するピクチャ復号化部と、を含む。

多様な実施形態によるビデオ符号化装置は、ピクチャのサンプルを符号化する符号化部と、前記符号化されたピクチャのサンプルの配列方式に基づいて、前記サンプルの配列タイプに対する制限があるか否かということを示す制限情報を決定し、前記制限情報を含むＮＡＬユニットで構成されたデータストリームを生成するデータストリーム生成部と、を含む。

また、多様な実施形態によるビデオ復号化方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体について提案する。多様な実施形態によるビデオ符号化方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体について提案する。

以下、図１ないし図１３を参照し、ツリー構造の符号化単位に基づいたビデオ符号化技法及びビデオ復号化技法を開示する。また、図１４ないし図２３を参照し、ツリー構造の符号化単位に基づいたビデオ符号化装置及びビデオ復号化装置において、デコーダ設定のための情報を決定する技法を開示する。また、図２４ないし図３０を参照し、先に提案したビデオ符号化方法、ビデオ復号化方法が適用可能な多様な実施形態を開示する。

以下、「映像」は、ビデオの静止画像や動画、すなわち、ビデオ自体を示す。

以下、「サンプル」は、映像のサンプリング位置に割り当てられたデータであり、プロセッシング対象になるデータを意味する。例えば、空間領域の映像において、ピクセルがサンプルである。

まず、図１ないし図１３を参照し、一実施形態による、ツリー構造の符号化単位及び変換単位に基づいたビデオ符号化方法及びその装置、ビデオ復号化方法及びその装置を開示する。

図１は、一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置１００のブロック図である。

一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置１００は、ピクチャ符号化部１２０及びデータストリーム生成部１３０を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置１００は、「ビデオ符号化装置１００」と縮約して呼ぶ。

ピクチャ符号化部１２０は、映像の現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャを区画することができる。現在ピクチャが最大符号化単位より大きければ、現在ピクチャの映像データは、少なくとも１つの最大符号化単位に分割される。一実施形態による最大符号化単位は、サイズ３２ｘ３２，６４ｘ６４，１２８ｘ１２８，２５６ｘ２５６のようなデータ単位であり、縦横サイズが２の累乗である正方形のデータ単位でもある。

一実施形態による符号化単位は、最大サイズ及び最大深度で特徴づけられる。深度とは、最大符号化単位から符号化単位が空間的に分割された回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が最上位深度であり、最小符号化単位が最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれ、深度別符号化単位の大きさは小さくなるので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含んでもよい。

前述のように、符号化単位の最大サイズによって、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含んでもよい。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域（spatial domain）の映像データが深度によって階層的に分類される。

最大符号化単位の高さ及び幅を階層的に分割することができる総回数を制限する最大深度、及び符号化単位の最大サイズがあらかじめ設定されている。

ピクチャ符号化部１２０は、深度ごとに最大符号化単位の領域が分割された少なくとも１つの分割領域を符号化し、少なくとも１つの分割領域別に最終符号化結果が出力される深度を決定する。すなわち、ピクチャ符号化部１２０は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で映像データを符号化し、最小の符号化誤差が発生する深度を選択して符号化深度として決定する。決定された符号化深度別及び最大符号化単位別の映像データは、データストリーム生成部１３０に出力される。

最大符号化単位内の映像データは、最大深度以下の少なくとも１つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最小である深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも１つの符号化深度が決定される。

最大符号化単位の大きさは、深度が深くなるにつれ、符号化単位が階層的に分割されて分割され、符号化単位の個数は増加する。また、１つの最大符号化単位に含まれる同一深度の符号化単位であるとしても、それぞれのデータに係わる符号化誤差を測定し、下位深度への分割いかんが決定される。従って、１つの最大符号化単位に含まれるデータであるとしても、位置によって、深度別符号化誤差が異なるので、位置によって、符号化深度が異なって決定される。従って、１つの最大符号化単位に対して、符号化深度が１以上設定され、最大符号化単位のデータは、１以上の符号化深度の符号化単位によっても区画される。

従って、一実施形態によるピクチャ符号化部１２０は、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれる全ての深度別符号化単位において、符号化深度と決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内において同一領域では、深度によって階層的に決定され、他の領域については、独立して決定される。同様に、現在領域に係わる符号化深度は、他の領域に係わる符号化深度と独立して決定される。

一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数と係わる指標である。一実施形態による第１最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。一実施形態による第２最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示す。例えば、最大符号化単位の深度が０であるとするとき、最大符号化単位が１回分割された符号化単位の深度は、１に設定され、２回分割された符号化単位の深度が２に設定される。その場合、最大符号化単位から４回分割された符号化単位が最小符号化単位であるならば、深度０，１，２，３及び４の深度レベルが存在するので、第１最大深度は、４に設定され、第２最大深度は、５に設定される。

最大符号化単位の予測符号化及び変換が行われる。予測符号化及び変換も、同様に最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に行われる。

最大符号化単位が深度別に分割されるたびに、深度別符号化単位の個数が増加するので、深度が深くなるにつれ、生成される全ての深度別符号化単位に対して、予測符号化及び変換を含んだ符号化が行われなければならない。以下、説明の便宜のために、少なくとも１つの最大符号化単位において、現在深度の符号化単位を基に、予測符号化及び変換について説明する。

一実施形態によるビデオ符号化装置１００は、映像データの符号化のためのデータ単位の大きさまたは形態を多様に選択することができる。映像データの符号化のためには、予測符号化、変換、エントロピー符号化などの段階を経るが、全ての段階にわたって、同一データ単位が使用され、段階別で、データ単位が変更されもする。

例えば、ビデオ符号化装置１００は、映像データの符号化のための符号化単位だけではなく、符号化単位の映像データの予測符号化を行うため、符号化単位と異なるデータ単位を選択することができる。

最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、それ以上さらに分割されない符号化単位を基に予測符号化が行われる。以下、予測符号化の基になる、それ以上さらに分割されない符号化単位を「予測単位」とする。予測単位が分割されたパーティションは、予測単位、及び予測単位の高さ及び幅のうち少なくとも一つが分割されたデータ単位を含んでもよい。パーティションは、符号化単位の予測単位が分割された形態のデータ単位であり、予測単位は、符号化単位と同一サイズのパーティションでもある。

例えば、サイズ２Ｎｘ２Ｎ（ただし、Ｎは、正の整数）の符号化単位が、それ以上分割されない場合、サイズ２Ｎｘ２Ｎの予測単位になり、パーティションの大きさは、２Ｎｘ２Ｎ、２ＮｘＮ、Ｎｘ２Ｎ、ＮｘＮなどでもある。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が対称的な比率に分割された対称的パーティションだけではなく、１：ｎまたはｎ：１のように、非対称的な比率に分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含んでもよい。

予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つでもある。例えば、イントラモード及びインターモードは、２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ，ＮｘＮサイズのパーティションについて遂行される。また、スキップモードは、２Ｎｘ２Ｎサイズのパーティションについてのみ遂行される。符号化単位以内の１つの予測単位ごとに、独立して符号化が行われ、符号化誤差が最小である予測モードが選択される。

また、一実施形態によるビデオ符号化装置１００は、映像データの符号化のための符号化単位だけではなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの変換を行うことができる。符号化単位の変換のためには、符号化単位より小さいか、あるいはそれと同じ大きさの変換単位を基に変換が行われる。例えば、変換単位は、イントラモードのためのデータ単位、及びインターモードのための変換単位を含んでもよい。

一実施形態によるツリー構造による符号化単位と類似した方式で、符号化単位内の変換単位も、再帰的にさらに小サイズの変換単位に分割されながら、符号化単位のレジデュアルデータが、変換深度によって、ツリー構造による変換単位によって区画される。

一実施形態による変換単位についても、符号化単位の高さ及び幅が分割され、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ２Ｎｘ２Ｎの現在符号化単位の変換単位の大きさが２Ｎｘ２Ｎであるならば、変換深度０に設定され、変換単位の大きさがＮｘＮであるならば、変換深度１に設定され、変換単位の大きさがＮ／２ｘＮ／２であるならば、変換深度２に設定される。すなわち、変換単位についても、変換深度によって、ツリー構造による変換単位が設定される。

符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び変換関連情報が必要である。従って、ピクチャ符号化部１２０は、最小符号化誤差を発生させた符号化深度だけではなく、予測単位をパーティションに分割したパーティションタイプ、予測単位別予測モード、変換のための変換単位の大きさなどを決定することができる。

一実施形態による最大符号化単位のツリー構造による符号化単位及び予測単位／パーティション、並びに変換単位の決定方式については、図１０ないし図１２を参照して詳細に説明する。

ピクチャ符号化部１２０は、深度別符号化単位の符号化誤差をラグランジュ乗数（Lagrangian multiplier）基盤の率歪曲最適化技法（rate-distortion optimization）を利用して測定することができる。

データストリーム生成部１３０は、ピクチャ符号化部１２０で決定された少なくとも１つの符号化深度に基づいて符号化された最大符号化単位の映像データ及び深度別符号化モードに係わる情報を、データストリーム形態に出力する。

符号化された映像データは、映像のレジデュアルデータの符号化結果でもある。

深度別符号化モードに係わる情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位の大きさ情報などを含んでもよい。

符号化深度情報は、現在深度で符号化せず、下位深度の符号化単位で符号化するか否かということを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報は、それ以上下位深度に分割されないように定義される。反対に、現在符号化単位の現在深度が符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みなければならないので、現在深度の分割情報は下、位深度の符号化単位に分割されるように定義される。

現在深度が符号化深度ではないなら、下位深度の符号化単位に分割された符号化単位に対して符号化が行われる。現在深度の符号化単位内に、下位深度の符号化単位が１以上存在するので、それぞれの下位深度の符号化単位ごとに、反復的に符号化が行われ、同一深度の符号化単位ごとに、再帰的（recursive）符号化が行われる。

１つの最大符号化単位内に、ツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも１つの符号化モードに係わる情報が決定されなければならないので、１つの最大符号化単位については、少なくとも１つの符号化モードに係わる情報が決定される。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なるので、データについて、符号化深度及び符号化モードに係わる情報が設定される。

従って、一実施形態によるデータストリーム生成部１３０は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つについて、当該符号化深度及び符号化モードについての符号化情報を割り当てられる。

一実施形態による最小単位は、最下位符号化深度である最小符号化単位が４分割された大きさの正方形のデータ単位である。一実施形態による最小単位は、最大符号化単位に含まれる全ての符号化単位、予測単位、パーティション単位及び変換単位の中に含まれる最大サイズの正方形データ単位でもある。

例えば、データストリーム生成部１３０を介して出力される符号化情報は、深度別符号化単位別符号化情報と、予測単位別符号化情報とに分類される。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向に係わる情報、インターモードの参照映像インデックスに係わる情報、動きベクトルに係わる情報、イントラモードのクロマ成分に係わる情報、イントラモードの補間方式に係わる情報などを含んでもよい。

ピクチャ別、スライス別またはＧＯＰ（group of picture）別に定義される符号化単位の最大サイズに係わる情報、及び最大深度に係わる情報は、データストリームのヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットなどに挿入される。

また、現在ビデオに対して許容される変換単位の最大サイズに係わる情報、及び変換単位の最小サイズに係わる情報も、データストリームのヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットなどを介して出力される。データストリーム生成部１３０は、予測に係わる参照情報、予測情報、スライスタイプ情報などを符号化して出力することができる。

ビデオ符号化装置１００の最も簡単な形態の実施形態によれば、深度別符号化単位は、１階層上位深度の符号化単位の高さ及び幅を半分にした大きさの符号化単位である。すなわち、現在深度の符号化単位の大きさが、２Ｎｘ２Ｎであるならば、下位深度の符号化単位の大きさは、ＮｘＮである。また、２Ｎｘ２Ｎサイズの現在符号化単位は、ＮｘＮサイズの下位深度符号化単位を最大４個含む。

従って、ビデオ符号化装置１００は、現在ピクチャの特性を考慮して決定された最大符号化単位の大きさ及び最大深度を基に、それぞれの最大符号化単位ごとに、最適の形態及び大きさの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式などで符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮し、最適の符号化モードが決定される。

従って、映像の解像度が非常に高いか、あるいはデータ量が非常に多い映像を既存マクロブロック単位で符号化するならば、ピクチャ当たりマクロブロックの数が過度に多くなる。それによって、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下する傾向がある。従って、一実施形態によるビデオ符号化装置は、映像の大きさを考慮し、符号化単位の最大サイズを増大させながら、映像特性を考慮して符号化単位を調節することができるので、映像圧縮効率が上昇する。

図１を参照して説明したインターレイヤビデオ符号化装置１０は、マルチレイヤビデオのレイヤごとに、シングルレイヤ映像の符号化のために、レイヤ個数ほどのビデオ符号化装置１００を含んでもよい。例えば、第１レイヤ符号化部１２が、１つのビデオ符号化装置１００を含み、第２レイヤ符号化部１４が、第２レイヤの個数ほどのビデオ符号化装置１００を含んでもよい。

ビデオ符号化装置１００が、第１レイヤ映像を符号化する場合、ピクチャ符号化部１２０は、最大符号化単位ごとに、ツリー構造による符号化単位別に映像間予測のための予測単位を決定し、予測単位ごとに、映像間予測を行うことができる。

ビデオ符号化装置１００が第２レイヤ映像を符号化する場合にも、ピクチャ符号化部１２０は、最大符号化単位ごとに、ツリー構造による符号化単位及び予測単位を決定し、予測単位ごとに、インター予測を行うことができる。

ビデオ符号化装置１００は、第１レイヤ映像と第２レイヤ映像との輝度差を補償するために、輝度差を符号化することができる。ただし、符号化単位の符号化モードによって、輝度遂行いかんが決定される。例えば、サイズ２Ｎｘ２Ｎの予測単位に対してのみ輝度補償が行われる。

図２は、多様な実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置２００のブロック図である。

一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置２００は、データ獲得部２２０及びピクチャ復号化部２３０を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置２００は、「ビデオ復号化装置２００」と縮約して呼ぶ。

一実施形態によるビデオ復号化装置２００の復号化動作のための符号化単位、深度、予測単位、変換単位、各種符号化モードに係わる情報など各種用語の定義は、図１及びビデオ符号化装置１００を参照して説明したところと同一である。

データ獲得部２２０は、符号化されたビデオに係わるデータストリームを受信してパージングする。データ獲得部２２０は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位によって、符号化単位ごとに、符号化された映像データを抽出し、ピクチャ復号化部２３０に出力する。データ獲得部２２０は、現在ピクチャに係わるヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットから、現在ピクチャの符号化単位の最大サイズに係わる情報を抽出することができる。

また、データ獲得部２２０は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化深度及び符号化モードに係わる情報を抽出する。抽出された符号化深度及び符号化モードに係わる情報は、ピクチャ復号化部２３０に出力される。すなわち、符号化された映像データを最大符号化単位に分割し、ピクチャ復号化部２３０をして、最大符号化単位ごとに、映像データを復号化させる。

最大符号化単位別符号化深度及び符号化モードに係わる情報は、１以上の符号化深度情報に対して設定され、符号化深度別符号化モードに係わる情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位の大きさ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されもする。

データ獲得部２２０が抽出した最大符号化単位別符号化深度及び符号化モードに係わる情報は、一実施形態によるビデオ符号化装置１００のように、符号化端で、最大符号化単位別深度別符号化単位ごとに、反復的に符号化を行って最小符号化誤差を発生させることによって決定された符号化深度及び符号化モードに係わる情報である。従って、ビデオ復号化装置２００は、最小符号化誤差を発生させる符号化方式によって、データを復号化して映像を復元することができる。

一実施形態による符号化深度及び符号化モードについての符号化情報は、当該符号化単位、予測単位及び最小単位において、所定データ単位に対して割り当てられているので、データ獲得部２２０は、所定データ単位別に、符号化深度及び符号化モードに係わる情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードに係わる情報が記録されているならば、同一符号化深度及び符号化モードに係わる情報を有している所定データ単位は、同一最大符号化単位に含まれるデータ単位と類推される。

ピクチャ復号化部２３０は、最大符号化単位別符号化深度及び符号化モードに係わる情報に基づいて、それぞれの最大符号化単位の映像データを復号化し、現在ピクチャを復元する。すなわち、ピクチャ復号化部２３０は、最大符号化単位に含まれるツリー構造による符号化単位のうちそれぞれの符号化単位ごとに、読み取られたパーティションタイプ、予測モード、変換単位に基づいて、符号化された映像データを復号化することができる。復号化過程は、イントラ予測及び動き補償を含む予測過程、及び逆変換過程を含んでもよい。

ピクチャ復号化部２３０は、符号化深度別符号化単位の予測単位のパーティションタイプ情報及び予測モード情報に基づいて、符号化単位ごとに、それぞれのパーティション及び予測モードによって、イントラ予測または動き補償を行うことができる。

また、ピクチャ復号化部２３０は、最大符号化単位別逆変換のために、符号化単位別に、ツリー構造による変換単位情報を読み取り、符号化単位ごとに、変換単位に基づいた逆変換を行うことができる。逆変換を介して、符号化単位の空間領域の画素値が復元される。

ピクチャ復号化部２３０は、深度別分割情報を利用して、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が、現在深度でそれ以上分割されないということを示しているならば、現在深度が符号化深度である。従って、ピクチャ復号化部２３０は、現在最大符号化単位の映像データに対して、現在深度の符号化単位を、予測単位のパーティションタイプ、予測モード及び変換単位サイズ情報を利用して、復号化することができる。

すなわち、符号化単位、予測単位及び最小単位において、所定データ単位に対して設定されている符号化情報を観察し、同一分割情報を含んだ符号化情報を保有しているデータ単位が集まり、ピクチャ復号化部２３０によって、同一符号化モードで復号化する１つのデータ単位と見なされる。そのように決定された符号化単位ごとに、符号化モードについての情報を獲得し、現在符号化単位の復号化が行われる。

図２を参照して説明したインターレイヤビデオ復号化装置２０は、受信された第１レイヤ映像ストリーム及び第２レイヤ映像ストリームを復号化し、第１レイヤ映像及び第２レイヤ映像を復元するために、ビデオ復号化装置２００をレイヤ個数ほど含んでもよい。

第１レイヤ映像ストリームが受信された場合には、ビデオ復号化装置２００のピクチャ復号化部２３０は、データ獲得部２２０によって、第１レイヤ映像ストリームから抽出された第１レイヤ映像のサンプルを、最大符号化単位のツリー構造による符号化単位に分けることができる。ピクチャ復号化部２３０は、第１レイヤ映像のサンプルのツリー構造による符号化単位ごとに、映像間予測のための予測単位別に動き補償を行い、第１レイヤ映像を復元することができる。

第２レイヤ映像ストリームが受信された場合には、ビデオ復号化装置２００のピクチャ復号化部２３０は、データ獲得部２２０によって、第２レイヤ映像ストリームから抽出された第２レイヤ映像のサンプルを、最大符号化単位のツリー構造による符号化単位に分けることができる。ピクチャ復号化部２３０は、第２レイヤ映像のサンプルの符号化単位ごとに、映像間予測のための予測単位別に動き補償を行い、第２レイヤ映像を復元することができる。

データ獲得部２２０は、第１レイヤ映像と第２レイヤ映像との輝度差を補償するために、輝度誤差に係わる情報を、ビットストリームから獲得することができる。ただし、符号化単位の符号化モードによって、輝度遂行いかんが決定される。例えば、サイズ２Ｎｘ２Ｎの予測単位に対してのみ輝度補償が行われる。

結局、ビデオ復号化装置２００は、符号化過程で最大符号化単位ごとに、再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに係わる復号化に利用することができる。すなわち、最大符号化単位ごとに、最適符号化単位として決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。

従って、高い解像度の映像またはデータ量が過度に多い映像でも、符号化端から伝送された最適符号化モードに係わる情報を利用し、映像の特性に適応的に決定された符号化単位の大きさ及び符号化モードによって、効率的に映像データを復号化して復元することができる。

図３は、多様な実施形態による符号化単位の概念を図示している。 符号化単位の例は、符号化単位の大きさは、幅ｘ高さで表現され、サイズ６４ｘ６４である符号化単位から、サイズ３２ｘ３２，１６ｘ１６，８ｘ８を含んでもよい。サイズ６４ｘ６４の符号化単位は、サイズ６４ｘ６４，６４ｘ３２，３２ｘ６４，３２ｘ３２のパーティションに分割され、サイズ３２ｘ３２の符号化単位は、サイズ３２ｘ３２，３２ｘ１６，１６ｘ３２，１６ｘ１６のパーティションに分割され、サイズ１６ｘ１６の符号化単位は、サイズ１６ｘ１６，１６ｘ８，８ｘ１６，８ｘ８のパーティションに分割され、サイズ８ｘ８の符号化単位は、サイズ８ｘ８，８ｘ４，４ｘ８，４ｘ４のパーティションに分割される。

ビデオデータ３１０については、解像度が１９２０ｘ１０８０、符号化単位の最大サイズが６４、最大深度が２に設定されている。ビデオデータ３２０については、解像度が１９２０ｘ１０８０、符号化単位の最大サイズが６４、最大深度が３に設定されている。ビデオデータ３３０については、解像度が３５２ｘ２８８、符号化単位の最大サイズが１６、最大深度が１に設定されている。図３に図示された最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。

解像度が高いか、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ３３０に比べ、解像度が高いビデオデータ３１０，３２０は、符号化サイズの最大サイズが６４に選択される。

ビデオデータ３１０の最大深度が２であるので、ビデオデータ３１０の符号化単位３１５は、長軸サイズが６４である最大符号化単位から、２回分割されて深度が２階層深くなり、長軸サイズが３２，１６である符号化単位まで含んでもよい。一方、ビデオデータ３３０の最大深度が１であるので、ビデオデータ３３０の符号化単位３３５は、長軸サイズが１６である符号化単位から、１回分割されて深度が１階層深くなり、長軸サイズが８である符号化単位まで含んでもよい。

ビデオデータ３２０の最大深度が３であるので、ビデオデータ３２０の符号化単位３２５は、長軸サイズが６４である最大符号化単位から、３回分割されて深度が３階層深くなり、長軸サイズが３２，１６，８である符号化単位まで含んでもよい。深度が深くなるほど、細部情報の表現能が向上することができる。

図４は、多様な実施形態による、符号化単位に基づいた映像符号化部４００のブロック図である。

一実施形態による映像符号化部４００は、ビデオ符号化装置１００のピクチャ符号化部１２０において、映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部４１０は、現在フレーム４０５において、イントラモードの符号化単位に対してイントラ予測を行い、動き推定部４２０及び動き補償部４２５は、インターモードの現在フレーム４０５及び参照フレーム４９５を利用して、インター推定及び動き補償を行う。

イントラ予測部４１０、動き推定部４２０及び動き補償部４２５から出力されたデータは、変換部４３０及び量子化部４４０を経て、量子化された変換係数として出力される。量子化された変換係数は、逆量子化部４６０、逆変換部４７０を介して、空間領域のデータに復元され、復元された空間領域のデータは、デブロッキング部４８０及びオフセット調整部４９０を経て後処理され、参照フレーム４９５として出力される。量子化された変換係数は、エントロピー符号化部４５０を経て、ビットストリーム４５５として出力される。

一実施形態によるビデオ符号化装置１００に適用されるためには、映像符号化部４００の構成要素である、イントラ予測部４１０、動き推定部４２０、動き補償部４２５、変換部４３０、量子化部４４０、エントロピー符号化部４５０、逆量子化部４６０、逆変換部４７０、デブロッキング部４８０及びオフセット調整部４９０が、いずれも最大符号化単位ごとに、最大深度を考慮し、ツリー構造による符号化単位において、それぞれの符号化単位に基づいた作業を遂行しなければならない。

特に、イントラ予測部４１０、動き推定部４２０及び動き補償部４２５は、現在最大符号化単位の最大サイズ及び最大深度を考慮し、ツリー構造による符号化単位において、それぞれの符号化単位のパーティション及び予測モードを決定し、変換部４３０は、ツリー構造による符号化単位において、それぞれの符号化単位内の変換単位の大きさを決定しなければならない。

図５は、多様な実施形態による符号化単位に基づいた映像復号化部５００のブロック図である。

ビットストリーム５０５がパージング部５１０を経て、復号化対象である符号化された映像データ、及び復号化のために必要な符号化に係わる情報がパージングされる。符号化された映像データは、エントロピー復号化部５２０及び逆量子化部５３０を経て、逆量子化されたデータとして出力され、逆変換部５４０を経て、空間領域の映像データが復元される。

空間領域の映像データについて、イントラ予測部５５０は、イントラモードの符号化単位に対してイントラ予測を行い、動き補償部５６０は、参照フレーム５８５を共に利用して、インターモードの符号化単位に対して動き補償を行う。

イントラ予測部５５０及び動き補償部５６０を経た空間領域のデータは、デブロッキング部５７０及びオフセット調整部５８０を経て後処理され、復元フレーム５９５として出力される。また、デブロッキング部５７０及びループフィルタリング部５８０を経て後処理されたデータは、参照フレーム５８５として出力される。

ビデオ復号化装置２００のピクチャ復号化部２３０において、映像データを復号化するために、一実施形態による映像復号化部５００のパージング部５１０以後の段階別作業が遂行される。

一実施形態によるビデオ復号化装置２００に適用されるためには、映像復号化部５００の構成要素である、パージング部５１０、エントロピー復号化部５２０、逆量子化部５３０、逆変換部５４０、イントラ予測部５５０、動き補償部５６０、デブロッキング部５７０及びオフセット調整部５８０が、いずれも最大符号化単位ごとに、ツリー構造による符号化単位に基づいて、作業を遂行しなければならない。

特に、イントラ予測部５５０、動き補償部５６０は、ツリー構造による符号化単位ごとに、それぞれパーティション及び予測モードを決定し、逆変換部５４０は、符号化単位ごとに、変換単位の大きさを決定しなければならない。

図４の符号化動作、及び図５の復号化動作は、それぞれ単一レイヤでのビデオストリームの符号化動作及び復号化動作について説明したものである。従って、図１の符号化部１２が２以上のレイヤのビデオストリームを符号化するならば、レイヤ別に映像符号化部４００を含んでもよい。類似して、図２の復号化部２６が２以上のレイヤのビデオストリームを復号化するならば、レイヤ別に映像復号化部５００を含んでもよい。

図６は、多様な実施形態による深度別符号化単位及びパーティションを図示している。

一実施形態によるビデオ符号化装置１００、及び一実施形態によるビデオ復号化装置２００は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高さ及び最大幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって、多様に設定されもする。あらかじめ設定された符号化単位の最大サイズによって、深度別符号化単位の大きさが決定される。

一実施形態による符号化単位の階層構造６００は、符号化単位の最大高さ及び最大幅が６４であり、最大深度が３である場合を図示している。そのとき、最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。一実施形態による符号化単位の階層構造６００の縦軸に沿って深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造６００の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基になる予測単位及びパーティションが図示されている。

すなわち、符号化単位６１０は、符号化単位の階層構造６００において、最大符号化単位であって深度が０であり、符号化単位の大きさ、すなわち、高さ及び幅が６４ｘ６４である。縦軸に沿って深度が深くなり、サイズ３２ｘ３２である深度１の符号化単位６２０、サイズ１６ｘ１６である深度２の符号化単位６３０、サイズ８ｘ８である深度３の符号化単位６４０が存在する。サイズ８ｘ８である深度３の符号化単位６４０は、最小符号化単位である。

それぞれの深度別に、横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度０のサイズ６４ｘ６４の符号化単位６１０が予測単位であるならば、予測単位は、サイズ６４ｘ６４の符号化単位６１０に含まれるサイズ６４ｘ６４のパーティション６１０、サイズ６４ｘ３２のパーティション６１２、サイズ３２ｘ６４のパーティション６１４、サイズ３２ｘ３２のパーティション６１６に分割される。

同様に、深度１のサイズ３２ｘ３２の符号化単位６２０の予測単位は、サイズ３２ｘ３２の符号化単位６２０に含まれるサイズ３２ｘ３２のパーティション６２０、サイズ３２ｘ１６のパーティション６２２、サイズ１６ｘ３２のパーティション６２４、サイズ１６ｘ１６のパーティション６２６に分割される。

同様に、深度２のサイズ１６ｘ１６の符号化単位６３０の予測単位は、サイズ１６ｘ１６の符号化単位６３０に含まれるサイズ１６ｘ１６のパーティション６３０、サイズ１６ｘ８のパーティション６３２、サイズ８ｘ１６のパーティション６３４、サイズ８ｘ８のパーティション６３６に分割される。

同様に、深度３のサイズ８ｘ８の符号化単位６４０の予測単位は、サイズ８ｘ８の符号化単位６４０に含まれるサイズ８ｘ８のパーティション６４０、サイズ８ｘ４のパーティション６４２、サイズ４ｘ８のパーティション６４４、サイズ４ｘ４のパーティション６４６に分割される。

一実施形態によるビデオ符号化装置１００のピクチャ符号化部１２０は、最大符号化単位６１０の符号化深度を決定するために、最大符号化単位６１０に含まれるそれぞれの深度の符号化単位ごとに、符号化を行わなければならない。

同一範囲及び同一サイズのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度１の符号化単位一つを含むデータに対して、深度２の符号化単位は、四つが必要である。従って、同一データの符号化結果を深度別に比較するために、１つの深度１の符号化単位、及び４つの深度２の符号化単位を利用して、それぞれ符号化されなければならない。

それぞれの深度別符号化のためには、符号化単位の階層構造６００の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度で最小の符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造６００の縦軸に沿って深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較し、最小符号化誤差が検索される。最大符号化単位６１０において、最小符号化誤差が発生する深度及びパーティションが、最大符号化単位６１０の符号化深度及びパーティションタイプに選択される。

図７は、多様な実施形態による、符号化単位及び変換単位の関係を図示している。

一実施形態によるビデオ符号化装置１００、または一実施形態によるビデオ復号化装置２００は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいはそれと同じ大きさの符号化単位で、映像を符号化／復号化する。符号化過程において、変換のための変換単位の大きさは、それぞれの符号化単位ほど大きくないデータ単位を基に選択される。

例えば、一実施形態によるビデオ符号化装置１００、または一実施形態によるビデオ復号化装置２００において、現在符号化単位７１０が６４ｘ６４サイズであるとき、３２ｘ３２サイズの変換単位７２０を利用して変換が行われる。

また、６４ｘ６４サイズの符号化単位７１０のデータを、６４ｘ６４サイズ以下の３２ｘ３２，１６ｘ１６，８ｘ８，４ｘ４サイズの変換単位にそれぞれ変換を行って符号化した後、原本との誤差が最小である変換単位が選択される。

図８は、多様な実施形態による深度別符号化情報を図示している。

一実施形態によるビデオ符号化装置１００のデータストリーム生成部１３０は、符号化モードに係わる情報として、それぞれの符号化深度の符号化単位ごとに、パーティションタイプに係わる情報８００、予測モードに係わる情報８１０、変換単位サイズに係わる情報８２０を符号化して伝送することができる。

パーティションタイプに係わる情報８００は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティションの形態に係わる情報を示す。例えば、サイズ２Ｎｘ２Ｎの現在符号化単位ＣＵ＿０は、サイズ２Ｎｘ２Ｎのパーティション８０２、サイズ２ＮｘＮのパーティション８０４、サイズＮｘ２Ｎのパーティション８０６、サイズＮｘＮのパーティション８０８のうちいずれか１つのタイプに分割されて利用される。その場合、現在符号化単位のパーティションタイプに係わる情報８００は、サイズ２Ｎｘ２Ｎのパーティション８０２、サイズ２ＮｘＮのパーティション８０４、サイズＮｘ２Ｎのパーティション８０６及びサイズＮｘＮのパーティション８０８のうち一つを示すように設定される。

予測モードに係わる情報８１０は、それぞれのパーティションの予測モードを示す。例えば、予測モードに係わる情報８１０を介して、パーティションタイプに係わる情報８００が示すパーティションが、イントラモード８１２、インターモード８１４及びスキップモード８１６のうち一つで予測符号化が行われるかということが設定される。

また、変換単位サイズに係わる情報８２０は、現在符号化単位をいかなる変換単位を基に変換を行うかということを示す。例えば、変換単位は、第１イントラ変換単位サイズ８２２、第２イントラ変換単位サイズ８２４、第１インター変換単位サイズ８２６、第２インター変換単位サイズ８２８のうち一つでもある。

一実施形態によるビデオ復号化装置２００のデータ獲得部２２０は、それぞれの深度別符号化単位ごとに、パーティションタイプに係わる情報８００、予測モードに係わる情報８１０、変換単位サイズに係わる情報８２０を抽出し、復号化に利用することができる。

図９は、多様な実施形態による深度別符号化単位を図示している。

深度の変化を示すために分割情報が利用される。分割情報は、現在深度の符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。

深度０及び２Ｎ＿０ｘ２Ｎ＿０サイズの符号化単位９００の予測符号化のための予測単位９１０は、２Ｎ＿０ｘ２Ｎ＿０サイズのパーティションタイプ９１２、２Ｎ＿０ｘＮ＿０サイズのパーティションタイプ９１４、Ｎ＿０ｘ２Ｎ＿０サイズのパーティションタイプ９１６、Ｎ＿０ｘＮ＿０サイズのパーティションタイプ９１８を含んでもよい。予測単位が対称的な比率に分割されたパーティション９１２，９１４，９１６，９１８だけが例示されているが、前述のように、パーティションタイプは、それらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。

パーティションタイプごとに、１つの２Ｎ＿０ｘ２Ｎ＿０サイズのパーティション、２つの２Ｎ＿０ｘＮ＿０サイズのパーティション、２つのＮ＿０ｘ２Ｎ＿０サイズのパーティション、４つのＮ＿０ｘＮ＿０サイズのパーティションごとに、反復的に予測符号化が行われなければならない。サイズ２Ｎ＿０ｘ２Ｎ＿０、サイズＮ＿０ｘ２Ｎ＿０、サイズ２Ｎ＿０ｘＮ＿０及びサイズＮ＿０ｘＮ＿０のパーティションについては、イントラモード及びインターモードで予測符号化が行われる。スキップモードは、サイズ２Ｎ＿０ｘ２Ｎ＿０のパーティションについてのみ予測符号化が行われる。

サイズ２Ｎ＿０ｘ２Ｎ＿０，２Ｎ＿０ｘＮ＿０及びＮ＿０ｘ２Ｎ＿０のパーティションタイプ９１２，９１４，９１６のうち一つによる符号化誤差が最小であるならば、それ以上下位深度に分割される必要ない。

サイズＮ＿０ｘＮ＿０のパーティションタイプ９１８による符号化誤差が最小であるならば、深度０を１に変更しながら分割し（９２０）、深度２及びサイズＮ＿０ｘＮ＿０のパーティションタイプの符号化単位９３０に対して反復的に符号化を行い、最小符号化誤差を検索していく。

深度１及びサイズ２Ｎ＿１ｘ２Ｎ＿１（＝Ｎ＿０ｘＮ＿０）の符号化単位９３０の予測符号化のための予測単位９４０は、サイズ２Ｎ＿１ｘ２Ｎ＿１のパーティションタイプ９４２、サイズ２Ｎ＿１ｘＮ＿１のパーティションタイプ９４４、サイズＮ＿１ｘ２Ｎ＿１のパーティションタイプ９４６、サイズＮ＿１ｘＮ＿１のパーティションタイプ９４８を含んでもよい。

また、サイズＮ＿１ｘＮ＿１のパーティションタイプ９４８による符号化誤差が最小であるならば、深度１を深度２に変更しながら分割し（９５０）、深度２及びサイズＮ＿２ｘＮ＿２の符号化単位９６０に対して反復的に符号化を行い、最小符号化誤差を検索していく。

最大深度がｄである場合、深度別符号化単位は、深度ｄ−１になるまで設定され、分割情報は、深度ｄ−２まで設定される。すなわち、深度ｄ−２から分割され（９７０）、深度ｄ−１まで符号化が行われる場合、深度ｄ−１及びサイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）の符号化単位９８０の予測符号化のための予測単位９９０は、サイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティションタイプ９９２、サイズ２Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９４、サイズＮ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティションタイプ９９６、サイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９８を含んでもよい。

パーティションタイプにおいて、１つのサイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティション、２つのサイズ２Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティション、２つのサイズＮ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティション、４つのサイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションごとに、反復的に予測符号化を介した符号化が行われ、最小符号化誤差が発生するパーティションタイプが検索される。

サイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９８による符号化誤差が最小であるとしても、最大深度がｄであるので、深度ｄ−１の符号化単位ＣＵ＿（ｄ−１）は、それ以上下位深度への分割過程を経ず、現在最大符号化単位９００に係わる符号化深度が深度ｄ−１に決定され、パーティションタイプは、Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）に決定される。また、最大深度がｄであるので、深度ｄ−１の符号化単位９８０について、分割情報が設定されない。

データ単位９９９は、現在最大符号化単位に係わる「最小単位」とされる。一実施形態による最小単位は、最下位符号化深度である最小符号化単位が４分割された大きさの正方形のデータ単位でもある。そのような反復的符号化過程を介して、一実施形態によるビデオ符号化装置１００は、符号化単位９００の深度別符号化誤差を比較し、最小の符号化誤差が発生する深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが、符号化深度の符号化モードに設定される。

そのように、深度０，１，…，ｄ−１，ｄの全ての深度別最小符号化誤差を比較し、誤差が最小である深度が選択され、符号化深度として決定される。符号化深度、並びに予測単位のパーティションタイプ及び予測モードは、符号化モードに係わる情報として符号化されて伝送される。また、深度０から符号化深度に至るまで符号化単位が分割されなければならないので、符号化深度の分割情報だけが「０」に設定され、符号化深度を除いた深度別分割情報は、「１」に設定されなければならない。

一実施形態によるビデオ復号化装置２００のデータ獲得部２２０は、符号化単位９００に係わる符号化深度及び予測単位に係わる情報を抽出し、符号化単位９１２を復号化するのに利用することができる。一実施形態によるビデオ復号化装置２００は、深度別分割情報を利用して、分割情報が「０」である深度を符号化深度として把握し、当該深度に係わる符号化モードに係わる情報を利用して復号化に利用することができる。

図１０、図１１及び図１２は、多様な実施形態による、符号化単位、予測単位及び変換単位の関係を図示している。

符号化単位１０１０は、最大符号化単位について、一実施形態によるビデオ符号化装置１００が決定した符号化深度別符号化単位である。予測単位１０６０は、符号化単位１０１０において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位１０７０は、それぞれの符号化深度別符号化単位の変換単位である。

深度別符号化単位１０１０は、最大符号化単位の深度が０であるとすれば、符号化単位１０１２，１０５４は、深度が１であり、符号化単位１０１４，１０１６，１０１８、１０２８，１０５０，１０５２は、深度が２であり、符号化単位１０２０，１０２２，１０２４，１０２６，１０３０，１０３２，１０４８は、深度が３であり、符号化単位１０４０，１０４２，１０４４，１０４６は、深度が４である。

予測単位１０６０において一部パーティション１０１４，１０１６，１０２２，１０３２，１０４８，１０５０，１０５２，１０５４は、符号化単位が分割された形態である。すなわち、パーティション１０１４，１０２２，１０５０，１０５４は、２ＮｘＮのパーティションタイプであり、パーティション１０１６，１０４８，１０５２は、Ｎｘ２Ｎのパーティションタイプであり、パーティション１０３２は、ＮｘＮのパーティションタイプである。深度別符号化単位１０１０の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいはそれと同じである。

変換単位１０７０において一部変換単位１０５２の映像データについては、符号化単位に比べ、小サイズのデータ単位で変換または逆変換が行われる。また、変換単位１０１４，１０１６，１０２２，１０３２，１０４８，１０５０，１０５２，１０５４は、予測単位１０６０において、当該予測単位及びパ−ティションと比較すれば、互いに異なる大きさまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置１００、及び一実施形態に他のビデオ復号化装置２００は、同一符号化単位に係わるイントラ予測／動き推定／動き補償作業、及び変換／逆変換作業であるとしても、それぞれ別個のデータ単位を基に遂行することができる。

それにより、最大符号化単位ごとに、領域別に階層的な構造の符号化単位ごとに、再帰的に符号化が行われ、最適符号化単位が決定されることにより、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表１は、一実施形態によるビデオ符号化装置１００、及び一実施形態によるビデオ復号化装置２００で設定することができる一例を示している。

一実施形態によるビデオ符号化装置１００のデータストリーム生成部１３０は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置２００のデータ獲得部２２０は、受信されたビットストリームから、ツリー構造による符号化単位に係わる符号化情報を抽出することができる。

分割情報は、現在符号化単位が下位深度の符号化単位に分割されるか否かということを示す。現在深度ｄの分割情報が０であるならば、現在符号化単位が、現在符号化単位が下位符号化単位にそれ以上分割されない深度が符号化深度であるので、符号化深度について、パーティションタイプ情報、予測モード、変換単位サイズ情報が定義される。分割情報により、さらに１段階分割されなければならない場合には、分割された４個の下位深度の符号化単位ごとに、独立して符号化が行われなければならない。

予測モードは、イントラモード、インターモード及びスキップモードのうち一つで示される。イントラモード及びインターモードは、全てのパーティションタイプで定義され、スキップモードは、パーティションタイプ２Ｎｘ２Ｎでのみ定義される。

パーティションタイプ情報は、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションタイプ２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ及びＮｘＮと、非対称的な比率に分割された非対称的パーティションタイプ２ＮｘｎＵ，２ＮｘｎＤ，ｎＬｘ２Ｎ，ｎＲｘ２Ｎを示す。非対称的パーティションタイプ２ＮｘｎＵ及び２ＮｘｎＤは、それぞれ高さが１：３及び３：１に分割された形態であり、非対称的パーティションタイプｎＬｘ２Ｎ及びｎＲｘ２Ｎは、それぞれ幅が１：３及び３：１に分割された形態を示す。

変換単位サイズは、イントラモードで２種の大きさに設定され、インターモードで２種の大きさに設定される。すなわち、変換単位分割情報が０であるならば、変換単位の大きさは、現在符号化単位のサイズ２Ｎｘ２Ｎに設定される。変換単位分割情報が１であるならば、現在符号化単位が分割された大きさの変換単位が設定される。また、サイズ２Ｎｘ２Ｎである現在符号化単位に係わるパーティションタイプが対称形パーティションタイプであるならば、変換単位の大きさは、ＮｘＮに設定され、非対称形パーティションタイプであるならば、Ｎ／２ｘＮ／２に設定される。

一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位単位のうち少なくとも一つに対して割り当てられる。符号化深度の符号化単位は、同一符号化情報を保有している予測単位及び最小単位を１以上含んでもよい。

従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同一符号化深度の符号化単位に含まれるか否かということが確認される。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。

従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。

他の実施形態において、現在符号化単位が周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用して、深度別符号化単位内において、現在符号化単位に隣接するデータが検索されることにより、周辺符号化単位が参照されもする。

図１３は、表１の符号化モード情報による、符号化単位、予測単位及び変換単位の関係を図示している。

最大符号化単位１３００は、符号化深度の符号化単位１３０２，１３０４，１３０６，１３１２，１３１４，１３１６，１３１８を含む。そのうち１つの符号化単位１３１８は、符号化深度の符号化単位であるので、分割情報が０に設定される。サイズ２Ｎｘ２Ｎの符号化単位１３１８のパーティションタイプ情報は、パーティションタイプ２Ｎｘ２Ｎ １３２２，２ＮｘＮ １３２４，Ｎｘ２Ｎ １３２６，ＮｘＮ １３２８，２ＮｘｎＵ １３３２，２ＮｘｎＤ １３３４，ｎＬｘ２Ｎ １３３６及びｎＲｘ２Ｎ １３３８のうち一つに設定される。

変換単位分割情報（ＴＵ size flag）は、変換インデックスの一種であり、変換インデックスに対応する変換単位の大きさは、符号化単位の予測単位タイプまたはパーティションタイプによって変更される。

例えば、パーティションタイプ情報が、対称形パーティションタイプ２Ｎｘ２Ｎ １３２２，２ＮｘＮ １３２４，Ｎｘ２Ｎ １３２６及びＮｘＮ １３２８のうち一つに設定されている場合、変換単位分割情報が０であるならば、サイズ２Ｎｘ２Ｎの変換単位１３４２が設定され、変換単位分割情報が１であるならば、サイズＮｘＮの変換単位１３４４が設定される。

パーティションタイプ情報が、非対称形パーティションタイプ２ＮｘｎＵ １３３２，２ＮｘｎＤ １３３４，ｎＬｘ２Ｎ １３３６及びｎＲｘ２Ｎ １３３８のうち一つに設定された場合、変換単位分割情報（ＴＵ size flag）が０であるならば、サイズ２Ｎｘ２Ｎの変換単位１３５２が設定され、変換単位分割情報が１であるならば、サイズＮ／２ｘＮ／２の変換単位１３５４が設定される。

図１３を参照して説明した変換単位分割情報（ＴＵ size flag）は、０または１の値を有するフラグであるが、一実施形態による変換単位分割情報は、１ビットのフラグに限定されるものではなく、設定によって、０、１、２、３、…などに増加し、変換単位が階層的に分割されもする。変換単位分割情報は、変換インデックスの一実施形態として利用される。

その場合、一実施形態による変換単位分割情報を、変換単位の最大サイズ、変換単位の最小サイズと共に利用すれば、実際に利用された変換単位の大きさが表現される。一実施形態によるビデオ符号化装置１００は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報は、ＳＰＳに挿入される。一実施形態によるビデオ復号化装置２００は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を利用して、ビデオ復号化に利用することができる。

例えば、（ａ）現在符号化単位がサイズ６４ｘ６４であり、最大変換単位サイズが３２ｘ３２であるならば、（ａ−１）変換単位分割情報が０であるとき、変換単位の大きさは３２ｘ３２に設定され、（ａ−２）変換単位分割情報が１であるとき、変換単位の大きさが１６ｘ１６に設定され、（ａ−３）変換単位分割情報が２であるとき、変換単位の大きさは８ｘ８に設定される。

他の例として、（ｂ）現在符号化単位がサイズ３２ｘ３２であり、最小変換単位サイズは３２ｘ３２であるならば、（ｂ−１）変換単位分割情報が０であるとき、変換単位の大きさが３２ｘ３２に設定され、変換単位の大きさが３２ｘ３２より小さいことがないので、それ以上の変換単位分割情報が設定されることがない。

さらに他の例として、（ｃ）現在符号化単位がサイズ６４ｘ６４であり、最大変換単位分割情報が１であるならば、変換単位分割情報は、０または１であり、他の変換単位分割情報が設定されることがない。

従って、最大変換単位分割情報を「MaxTransformSizeIndex」、最小変換単位サイズを「MinTransformSize」、変換単位分割情報が０である場合の変換単位サイズを「RootTuSize」と定義するとき、現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」は、下記数式（１）のように定義される。

CurrMinTuSize
＝ｍａｘ（MinTransformSize，RootTuSize／（２＾MaxTransformSizeIndex）） （１）
現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」と比較し、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」は、システム上採択可能な最大変換単位サイズを示す。すなわち、数式（１）によれば、「RootTuSize／（２＾MaxTransformSizeIndex）」は、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」を、最大変換単位分割情報に相応する回数ほど分割した変換単位サイズであり、「MinTransformSize」は、最小変換単位サイズであるので、それらのうち小さな値が、現在現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」である。

一実施形態による最大変換単位サイズ「RootTuSize」は、予測モードによって異なる。

例えば、現在予測モードがインターモードであるならば、「RootTuSize」は、下記数式（２）によって決定される。数式（２において、「MaxTransformSize」は、最大変換単位サイズを示し、「PUSize」は、現在予測単位サイズを示す。

RootTuSize＝ｍｉｎ（MaxTransformSize，PUSize） （２）
すなわち、現在予測モードがインターモードであるならば、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在予測単位サイズのうち小さい値に設定される。

現在パーティション単位の予測モードがイントラモードであるならば、「RootTuSize」は、下記数式（３）によって決定される。「PartitionSize」は、現在パーティション単位の大きさを示す。

RootTuSize＝ｍｉｎ（MaxTransformSize，PartitionSize） （３）
すなわち、現在予測モードがイントラモードであるならば、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在パーティション単位サイズのうち小さい値に設定される。

ただし、パーティション単位の予測モードによって変動する一実施形態による現在最大変換単位サイズ「RootTuSize」は、一実施形態であるのみ、現在最大変換単位サイズを決定する要因は、それに限定されるものではないということに留意しなければならない。

図１ないし図１３を参照して説明したツリー構造の符号化単位に基づいたビデオ符号化技法によって、ツリー構造の符号化単位ごとに、空間領域の映像データが符号化され、ツリー構造の符号化単位に基づいたビデオ復号化技法によって、最大符号化単位ごとに、復号化が行われながら空間領域の映像データが復元され、ピクチャ及びピクチャシーケンスであるビデオが復元される。復元されたビデオは、再生装置によって再生されたり、記録媒体に保存されたり、ネットワークを介して伝送されたりする。

以下、図１４ないし図２３を参照し、ツリー構造の符号化単位に基づいたビデオ符号化装置１００及びビデオ復号化装置２００において、デコーダ設定のための情報を決定する技法について提案する。

図１４は、多様な実施形態による、デコーダ設定のためのビデオ符号化方法のフローチャートを図示している。

段階１４１０において、ビデオ符号化装置１００のピクチャ符号化部１２０は、映像のサンプルを符号化することができる。

また、図１ないし図１３を参照して説明したように、ピクチャ符号化部１２０は、各ピクチャに含まれた最大符号化単位別に、ツリー構造の符号化単位を基に、各符号化単位のサンプルに対して符号化を行うことができる。

段階１４２０において、ビデオ符号化装置１００のデータストリーム生成部１３０は、符号化された映像のデコーダ設定による制限があるか否かということに係わる情報を決定することができる。デコーダで映像を復号化して再生するように、映像のデコーダ設定に係わる情報、または制限されるデコーダ設定があるか否かということに係わる情報を決定することができる。

例えば、符号化されたピクチャのサンプルの配列方式に係わる情報が、デコーダに必要である。プログレッシブスキャン（progressive scan）順序またはインターリーブドスキャン（interleaved scan）順序によって、ピクチャのサンプルが配列されるかということにより、デコーダ設定がプログレッシブ方式またはインターリーブド方式に決定される。

または、互いに同一な映像シーケンスではない２つの映像を符号化するとき、１つの映像に、２つの映像のピクセルを配するフレームパッキング（frame packing）構造で符号化が行われたり、互いに異なる映像シーケンスが、互いに別個のレイヤで符号化が行われたりもする。フレームパッキング構造については、図１８ないし図２１を参照して後述する。

エンコーダ側では、ピクチャがフレームパッキング構造で符号化されるか、あるいは別個レイヤで符号化されるかということにより、２種の映像が１つのフレームに符号化されるか、それとも１種の映像が１つのフレームに符号化されるかということが決定される。デコーダ側では、１つのフレームから１種の映像が復号化されるか、２種類の映像が復号化されるかということを知る必要がある。従って、フレームパッキング構造でサンプルが配列されるか否かということに係わる情報がデコーダに必要である。

または、ピクチャのサンプルがフレーム形態にのみ配列されるならば、ピクチャがフィールド形態またはフレーム形態で符号化されたかということを判断する必要なしに、復元されたサンプルを含むフレームが順次に再生される。従って、フレーム構造にのみ制限されてサンプルが配列されるか否かということに係わる情報がデコーダに必要でもある。

従って、段階１４２０において、データストリーム生成部１３０は、符号化された映像のデコーダ設定による制限があるか否かということに係わる情報として、符号化されるピクチャのサンプルの配列方式に係わる制限情報を決定することができる。

多様な実施形態により、サンプルに配列方式に係わる制限情報は、ピクチャの復元されたサンプルが、プログレッシブスキャンタイプによって配列されるか否かということを示すプログレッシブスキャン情報を含んでもよい。

多様な実施形態により、サンプルに配列方式に係わる制限情報は、ピクチャの復元されたサンプルが、インターレーストスキャンタイプによって配列されるか否かということに係わるインターレーストスキャン情報を含んでもよい。

多様な実施形態により、サンプルの配列方式に係わる制限情報は、ピクチャの復元されたサンプルが、フレームパッキングタイプではない配列方式によって構成されるか否かということに係わるノンフレームパッキング制限情報を含んでもよい。

多様な実施形態により、サンプルの配列方式に係わる制限情報は、ピクチャのサンプルが映像及びフレームのうち、フレーム単位でのみ符号化されるか否かということを示すフレーム制限情報を含んでもよい。

段階１４３０において、データストリーム生成部１３０は、デコーダ設定の制限情報を含むＮＡＬユニットで構成されたデータストリームを生成することができる。

一実施形態による制限情報は、最大４８ビットで決定され、ＮＡＬユニットのうち、ビデオパラメータセットＲＢＳＰ（raw byte sequence payload）領域に制限情報が含まれる。

また、ピクチャ符号化部１２０は、映像のサブ領域別に符号化を行うことができる。ビデオ符号化動作及びビデオ復号化動作の並列処理（parallel processing）のためのサブ領域の例として、タイルまたはＷＰＰ（wavefront parallel processing）のスレッド（thread）がある。

データストリーム生成部１３０は、ピクチャ内において、各サブ領域の最大サイズの限界値を示すセグメンテーション最大サイズ情報を決定することができる。

一実施形態によるセグメンテーション最大サイズ情報が示す１２ビットの、０より大きいか、あるいはそれと同じであり、４０９６より小さい整数に基づいて、セグメンテーションのルマサンプル個数の最大値が決定される。それにより、データストリーム生成部１３０は、デコーダ設定の制限情報として、セグメンテーション最大サイズ情報を、固定長の符号なしの整数型のデータタイプと決定することができる。

一実施形態によるデータストリーム生成部１３０は、ＮＡＬユニットのうちＳＰＳ（sequence parameter set）に、ＶＵＩ（video usability information）パラメータとして、セグメンテーション最大サイズ情報を収録することもできる。

従って、多様な実施形態によるビデオ符号化装置１００は、デコーダにおいて、データストリームで符号化されたピクチャデータのサブ領域を適切に区分し、各ピクチャ別に復元されたサンプルを正しく配するように、デコーダ設定に係わる制限情報を決定することができる。また、ビデオ符号化装置１００は、サンプル配列方式に係わる制限情報及びセグメンテーション最大サイズ情報のうち少なくとも一つを含むデータストリームを生成することができる。

図１５は、多様な実施形態による、デコーダ設定のためのビデオ復号化方法のフローチャートを図示している。

段階１５１０において、ビデオ復号化装置２００のデータ獲得部２２０は、ＮＡＬユニットで構成されたデータストリームを受信することができる。

データ獲得部２２０は、受信したデータストリームから、符号化されたデータ及び符号化シンボルを獲得することができる。ビデオ復号化装置のピクチャ復号化部２３０は、符号化されたシンボルを利用して、符号化されたデータに対して復号化を行い、ピクチャのサンプルを復元することができる。

図１ないし図１３を参照して説明したように、ピクチャ復号化部２３０は、各ピクチャに含まれた最大符号化単位別に、ツリー構造の符号化単位を基に、各符号化単位に対して復号化を行い、サンプルを復元することができる。

また段階１５２０において、データ獲得部２２０は、データストリームから、符号化された映像のデコーダ設定による制限があるか否かということに係わる情報を獲得することができる。データ獲得部２２０は、制限情報として、デコーダで映像を復号化して再生するように、映像のデコーダ設定に係わる情報、及び制限されるデコーダ設定があるか否かということに係わる情報のうち少なくとも一つを獲得することができる。

符号化された映像のデコーダ設定による制限があるか否かということに係わる情報として、符号化されるピクチャのサンプルの配列方式に係わる制限情報が獲得される。

多様な実施形態によって、データ獲得部２２０は、データストリームから、ピクチャサンプル配列方式に係わる制限情報として、ピクチャの復元されたサンプルが、プログレッシブスキャンタイプによって配列されるか否かということを示すプログレッシブスキャン情報を獲得することができる。

多様な実施形態によって、データ獲得部２２０は、データストリームから、ピクチャサンプル配列方式に係わる制限情報として、ピクチャのサンプルが、映像及びフレームのうちフレーム単位でのみ符号化されるか否かということを示すフレーム制限情報を獲得することができる。

多様な実施形態によって、データ獲得部２２０は、データストリームから、ピクチャサンプル配列方式に係わる制限情報として、ピクチャの復元されたサンプルが、インターレーストスキャンタイプによって配列されるか否かということに係わるインターレーストスキャン情報を獲得することができる。

多様な実施形態によって、データ獲得部２２０は、データストリームから、サンプル配列方式に係わる制限情報として、ピクチャの復元されたサンプルが、フレームパッキングタイプではない配列方式によって構成されるか否かということに係わるノンフレームパッキング制限情報を獲得することもできる。

段階１５３０において、ビデオ符号化装置１００のピクチャ復号化部２３０は、復元されたサンプルを利用して、正しい配列方式によって整列し、各ピクチャを復元することができる。

ピクチャ復号化部２３０は、ピクチャサンプル配列方式に係わる制限情報から、復号化されたピクチャのサンプルの配列方式が決定される。プログレッシブスキャン情報及びインターリーブドスキャン情報に基づいて、デコーダ設定がプログレッシブ方式であるかインターリーブド方式であるかということが決定される。従って、プログレッシブスキャン情報及びインターリーブドスキャン情報によって、ピクチャサンプルがプログレッシブスキャン順序またはインターリーブドスキャン順序によって、ピクチャのサンプルが配列されるかということが決定される。

従って、プログレッシブスキャン情報に基づいて、プログレッシブスキャン方式による映像が復元される。インターリーブドスキャン情報に基づいて、インターリーブドスキャン方式による映像が復元される。

他の例として、ピクチャ復号化部２３０は、ノンフレームパッキング制限情報に基づいて、復元されたピクチャサンプルがノンフレームパッキング構造ではないか否かということを決定することができる。例えば、フレームパッキング構造であるならば、符号化された１つのピクチャから、互いに異なる性質の２つの映像のピクセルが復元される。しかし、ノンフレームパッキング構造であるならば、１つのフレームから、単一映像のピクセルが復元される。すなわち、単一レイヤにおいて、１つの映像シーケンスが復元される。

他の例として、ピクチャ復号化部２３０は、フレーム制限情報に基づいて、復元されたピクチャサンプルが、フレーム単位でのみ復元されるか否かということを決定することができる。ピクチャのサンプルが、フレームの形態でのみ配列されるならば、フィールド形態またはフレーム形態で符号化されたかということを判断する必要なしに、復元されたサンプルを含むフレームが順次に復元される。

一実施形態によるデータ獲得部２２０は、ＮＡＬユニットのうち、ビデオパラメータセットＲＢＳＰ領域から、サンプル配列方式に係わる制限情報を獲得することができる。総４８ビットの制限情報が獲得される。

また、データ獲得部２２０は、データストリームから、ピクチャ内で各サブ領域の最大サイズの限界値を示すセグメンテーション最大サイズ情報を獲得することができる。一実施形態によるデータ獲得部２２０は、デコーダ設定の制限情報として、セグメンテーション最大サイズ情報を、固定長の符号なしの整数型のデータタイプとして獲得することができる。

一実施形態によるピクチャ復号化部２３０は、セグメンテーション最大サイズ情報が示す１２ビットの、０より大きいか、あるいはそれと同じであり、４０９６より小さい整数に基づいて、セグメンテーションのルマサンプル個数の最大値を決定することができる。

ピクチャ復号化部２３０は、セグメンテーション最大サイズ情報が示す値に基づいて、映像をサブ領域に分けて復号化を行うことができる。ビデオ復号化装置２００が、同時にパラレルプロセッシングが可能なマルチコアプロセッサを具備するならば、ピクチャ復号化部２３０は、各サブ領域に係わる復号化動作を並列的に遂行することもできる。

一実施形態によるデータ獲得部２２０は、ＮＡＬユニットのうち、ＳＰＳにＶＵＩパラメータとして、セグメンテーション最大サイズ情報を獲得することもできる。

従って、多様な実施形態によるビデオ復号化装置２００は、デコーダ設定に係わる制限情報として、サンプル配列方式に係わる制限情報及びセグメンテーション最大サイズ情報のうち少なくとも一つを獲得することができる。ビデオ復号化装置２００は、獲得されたセグメンテーション最大サイズ情報に基づいて、データストリームから、符号化されたピクチャデータのサブ領域を適切に分類し、サブ領域別復号化動作を並列的に遂行することもできる。また、ビデオ復号化装置２００は、サンプル配列方式に係わる制限情報に基づいて、各ピクチャ別に復元されたサンプルを正しく配することができる。

以下、図１６ないし図２３を参照し、多様な実施形態によるデコーダ設定情報を示すシンタックスを提案する。ビデオ符号化装置１００は、図１６、図１７、図２２で例示された少なくとも１つのシンタックスの順序及びビット数により、デコーダ設定のためのパラメータを含むデータストリームを生成することができる。ビデオ復号化装置２００は、図１６、図１７、図２２で例示された少なくとも１つのシンタックスの順序及びビット数により、データストリームから、デコーダ設定のためのパラメータを獲得して読み取ることができる。

図１６及び図１７は、デコーダ設定のためのシンタックスの多様な実施形態を図示している。

図１６において、「HEVCDecoderConfiguratoinRecord」１６００は、一実施形態によるデコーダ設定情報を示す。「HEVCDecoderConfiguratoinRecord」１６００は、デコーダ設定情報として、制限情報を示すパラメータ「constraint＿indicator＿flags」１６１０と、セグメンテーション最大サイズ情報を示すパラメータ「ｍｉｎ＿spatial＿segmentation」１６２０と、を含んでもよい。

一実施形態によって、制限情報を示すパラメータ「constraint＿indicator＿flags」１６１０は、総４８ビットで決定される。４８ビットのうち所定長のビットは、ピクチャサンプル配列方式に係わる制限情報を示し、残りのビットは、追って拡張される機能を設定するために留保する予備ビット（reserved bit）として利用されもする。

一実施形態によって、セグメンテーション最大サイズ情報を示すパラメータ「ｍｉｎ＿spatial＿segmentation」１６２０は、０より大きいか、あるいはそれと同じであり、４０９５より小さいか、あるいはそれと同じ整数であり、１２ビットで決定される。ただし、「HEVCDecoderConfiguratoinRecord」１６００のシンタックスの全長が２のＮ乗数になるようにバイト整列が必要であるので、１２ビットのパラメータ「ｍｉｎ＿spatial＿segmentation」１６２０の前に、４ビット１６３０が追加される。それについては、図２３を参照して後述する。

図１７は、他の実施形態によるサンプル配列方式に係わる制限情報を含むハイレベルシンタックスを図示している。

ＶＰＳ（video parameter set）ＲＢＳＰシンタックスは、プロファイル、ティア及びレベルに係わる設定情報を含むプロファイル−ティア−レベルパラメータ「profile＿tier＿level（）」１７００を含んでもよい。

プロファイル、ティア及びレベルは、それぞれビットストリームに係わる各種制限情報を明示し、またデコーダがビットストリームを復号化するのに必要な最小限の機能及び設定に係わる情報を提供する。基本的に、プロファイルは、シンタックス解釈に前提となるアルゴリズムを制限するので、プロファイルを満足するデコーダだけがビットストリームを復号化することができる。

ティア及びレベルは、それぞれシンタックスのパラメータが有することができる値を制限することができる。ティア０、ティア１など各ティアごとに、パラメータ値の制限範囲が決定され、レベル０、レベル１など各レベルごとに、パラメータ値の制限範囲が決定される。

ティア０は、ティア１より低い性能のティアを意味する。１つのティアで、多くのレベルが設定される。同一のティアであるならば、小さい値のレベルにおいて、大きい値のレベルより低い性能が定義される。

他の実施形態によるサンプル配列方式に係わる制限情報１７１０は、プログレッシブスキャン情報を示す１ビットパラメータ「general＿progressive＿source＿flag」、インターレーストスキャン情報を示す１ビットパラメータ「general＿inerlaced＿source＿flag」、ノンフレームパッキング制限情報を示す１ビットパラメータ「general＿non＿packed＿constraint＿flag」、フレーム制限情報を示す１ビットパラメータ「general＿frame＿only＿constraint＿flag」及び４４ビット予備ビット「general＿reserved＿zero＿４４bits」を含んでもよい。従って、総４８ビットの制限情報１７１０が決定される。

また、多数レイヤのビデオを復号化する場合、一般レイヤの符号化及び復号化のためのサンプル配列方式に係わる制限情報１７１０と類似して、サブレイヤ（sub-layer）の符号化及び復号化のためのサンプル配列方式に係わる制限情報１７２０が、プロファイル−ティア−レベルパラメータ「profile＿tier＿level（）」１７００に含まれてもよい。

従って、サブレイヤで復号化されるビデオについても、プログレッシブスキャン情報を示す１ビットパラメータ「sub＿layer＿progressive＿source＿flag」、インターレーストスキャン情報を示す１ビットパラメータ「sub＿layer＿inerlaced＿source＿flag」、ノンフレームパッキング制限情報を示す１ビットパラメータ「sub＿layer＿non＿packed＿constraint＿flag」、フレーム制限情報を示す１ビットパラメータ「sub＿layer＿frame＿only＿constraint＿flag」、及び４４ビット予備ビット「sub＿layer＿reserved＿zero＿４４bits」を含む、総４８ビットの制限情報１７２０が決定される。

従って、ビデオ復号化装置２００は、デコーダ設定情報「HEVCDecoderConfiguratoinRecord」１６００またはプロファイル−ティア−レベルパラメータ「profile＿tier＿level（）」１７００から、サンプル配列方式に係わる制限情報及びセグメンテーション最大サイズ情報を獲得し、復元されたサンプルの配列方式、及びセグメンテーションの最大サイズの限界値を決定することができる。

図１７を参照して説明したところによれば、一実施形態によるプロファイル−ティア−レベルパラメータ「profile＿tier＿level（）」１７００は、ノンフレームパッキング制限情報「general＿non＿packed＿constraint＿flag」，「sub＿layer＿non＿packed＿constraint＿flag」を含んでもよい。以下、図１８ないし図２１を参照し、フレームパッキングタイプの映像構造について詳細に説明する。

図１８、図１９、図２０、図２１は、多様なフレームパッキングタイプの映像の復元過程を図示している。

フレームパッキングタイプは、サイドバイサイド（side-by-side）タイプ、トップボトム（top-bottom）タイプ、時間方向のインターリービングフレーム（temporal interleaving frame）タイプなどを含んでもよい。図１８、図１９、図２０、図２１において、ピクチャ復号化部２３０が復号化した復元フレーム１８００，１９００，２０００，２１００を、それぞれフレームパッキングタイプによって、２つのフレームに復元する動作について詳細に説明する。

２つのフレームは、互いに異なる性質の映像でもある。例えば、左視点フレームのサンプルと、右視点フレームのサンプルとから構成されたフレームパッキングタイプのフレームが符号化され、フレームパッキングタイプのフレームが復号化されれば、復元フレームから、左視点フレームと右視点フレームとが分離される。

各復元フレーム１８００，１９００，２０００，２１００は、所定カラー成分サンプルによって構成されているということに留意しなければならない。すなわち、復元フレーム１８００，１９００，２０００，２１００は、ルマ成分サンプルの復元フレームや、クロマ成分サンプルの復元フレームでもある。

図１８において、復元フレーム１８００は、サイドバイサイド・パッキングタイプのフレームである。サイドバイサイド・パッキングタイプのフレームでは、「Ｘ」で表示された左半分のサンプルと、「Ｏ」で表示された右半分のサンプルとが互いに異なる性質の原本フレームに属する。

従って、サイドバイサイドパッキング再整列動作１８１０を経て、復元フレーム１８００から、左半分サンプルから構成された半フレーム０ １８２０と、右半分サンプルから構成された半フレーム１ １８４０とが分離される。

復元フレーム１８００の解像度は、原本フレームの原本解像度とも同一である。半フレーム０ １８２０及び半フレーム１ １８４０の解像度は、復元フレーム１８００の原本解像度に比べて半分でもある。

半フレーム０ １８２０は、水平ピクセル方向のアップコンバージョン動作１８３０を経て、復元フレーム１８００と同一解像度のフレーム０ １８６０に復元される。半フレーム１ １８４０は、水平ピクセル方向のアップコンバージョン動作１８５０を経て、復元フレーム１８００と同一解像度のフレーム１ １８８０に復元される。アップコンバージョン動作１８３０，１８５０のために、水平ピクセル方向の補間（interpolation）が行われる。

従って、サイドバイサイド・パッキングタイプの復元フレーム１８００から、原本解像度のフレーム０ １８６０及びフレーム１ １８８０が復元される。

図１９において、復元フレーム１９００は、トップボトム・パッキングタイプのフレームである。トップボトム・パッキングタイプのフレームでは、「Ｘ」で表示された上半部のサンプルと、「Ｏ」で表示された下半部のサンプルとが互いに異なる性質の原本フレームに属する。

従って、トップボトムパッキング再整列動作１９１０を経て、復元フレーム１９００から、上半部サンプルから構成された半フレーム０ １９２０と、下半部サンプルから構成された半フレーム１ １９４０とが分離される。

半フレーム０ １９２０及び半フレーム１ １９４０は、それぞれ垂直ピクセル方向のアップコンバージョン動作１９３０，１９５０を経て、復元フレーム１９００と同一解像度のフレーム０ １９６０及びフレーム１ １９８０に復元される。従って、トップボトムフレーム１９００から、原本解像度のフレーム０ １９６０及びフレーム１ １９８０が復元される。

図２０において、復元フレーム２０００は、サイドバイサイド・パッキングタイプのフレームである。サイドバイサイド・パッキングタイプのフレームでは、「Ｘ」で表示された左半分のサンプルと、「Ｏ」で表示された右半分のサンプルとが互いに異なる性質の原本フレームに属する。

従って、サイドバイサイドパッキング再整列動作２０１０を経て、復元フレーム２０００から、上半部サンプルから構成された半フレーム０ ２０２０と、下半部サンプルから構成された半フレーム１ ２０４０とが分離される。

図１８では、サイドバイサイド・パッキングタイプの復元フレーム１８００から分離される半フレーム０ １８２０及び半フレーム１ １８４０は、それぞれ垂直列にピクセルが配列される。それに対し、図２０では、サイドバイサイド・パッキングタイプの復元フレーム２０００から分離される半フレーム０ ２０２０及び半フレーム１ ２０４０は、それぞれチェッカーボード（checker board）配列にピクセルが配置される。

従って、半フレーム０ ２０２０及び半フレーム１ ２０４０は、それぞれ垂直／水平ピクセル方向のアップコンバージョン動作２０３０，２０５０を経て、復元フレーム２０００と同一解像度のフレーム０ ２０６０及びフレーム１ ２０８０に復元される。従って、サイドバイサイドフレーム２０００から、原本解像度のフレーム０ ２０６０及びフレーム１ ２０８０が復元される。

図２１において、復元フレームシーケンス２１００は、時間方向のインターリービングフレームタイプのフレームである。時間方向のインターリービングフレームタイプのフレームシーケンスでは、偶数番目のフレームと、奇数番目のフレームとが互いに異なる性質の原本フレームシーケンスに属する。

従って、時間方向のインターリービングフレーム再整列動作２１１０を経て、復元フレームシーケンス２１００から、「Ｏ」で表示された偶数番目のフレームから構成されたフレームシーケンス０ ２１２０と、「Ｘ」で表示された奇数番目のフレームから構成されたフレームシーケンス１ ２１４０とが分けられて復元される。

先に図１６において、デコーダ設定情報を含むシンタックス「HEVCDecoderConfiguratoinRecord」１６００に、セグメンテーション最大サイズ情報を示す１２ビットのパラメータ「ｍｉｎ＿spatial＿segmentation」１６２０、及びバイト整列のための４ビット１６３０が含まれる実施形態について提案した。以下、図２２及び図２３を参照し、他の実施形態によるセグメンテーション最大サイズ情報のシンタックスについて詳細に説明する。

図２２は、デコーダ設定のためのシンタックスの他の実施形態を図示している。

他の実施形態によるデコーダ設定情報は、ＶＵＩパラメータ２２００に収録される。また、ＶＵＩパラメータ２２００は、ＮＡＬユニットのうち、ＳＰＳ ＲＢＳＰ領域に収録される。

ＶＵＩパラメータ２２００は、ビデオの多様な活用性を向上させるための各種情報を含んでもよい。例えば、ＶＵＩパラメータ２２００に、縦横比（aspect ratio）に係わる情報が含まれるか否かということを示すパラメータ、オーバースキャン（overscan）に係わる情報が含まれるか否かということを示すパラメータ、ビデオシグナルタイプに係わる情報が含まれるか否かということを示すパラメータ、ルマ成分と比較し、クロマ成分の位置に係わる情報が含まれるか否かということを示すパラメータ、ビットストリーム構造に係わる制限情報が含まれるか否かということを示すパラメータが、ＶＵＩパラメータ２２００に含まれてもよい。

ＶＵＩパラメータ２２００に、ビットストリーム構造に係わる制限情報が含まれているならば、ＶＵＩパラメータ２２００は、セグメンテーション最大サイズ情報を示すパラメータ「ｍｉｎ＿spatial＿segmentation＿ｉｄｃ」２２１０をさらに含んでもよい。

一実施形態によるセグメンテーション最大サイズ情報を示すパラメータが固定長によって決定されるということは、前述の通りである。シンタックスが固定長のパラメータによって構成されるために考慮しなければならない事項について、図２３を参照して詳細に説明する。

図２３は、可変長、及び固定長シンタックスのバイト整列（byte alignment）方法を図示している。

前述のように、パラメータ「ｍｉｎ＿spatial＿segmentation」１６２０及び「ｍｉｎ＿spatial＿segmentation＿ｉｄｃ」２２１０は、０より大きいか、あるいはそれと同じであり、４０９５より小さいか、あるいはそれと同じ１２ビットの値を有することができる。

第１データストリーム２３００、第２データストリーム２３３０及び第３データストリーム２３６０において、Ａ、Ｂ、Ｃ、Ｄ、Ｅは、データストリームのシンタックスを構成する各パラメータを示す。

そのうち、第１データストリーム２３００及び第２データストリーム２３３０のＣパラメータ２３１０，２３４０を含んで濃く表示されたパラメータは、可変長のパラメータである。残りのパラメータは、いずれも固定長のパラメータである。長さは、ビット個数を意味する。

第１データストリーム２３００及び第２データストリーム２３３０において、Ｃパラメータ２３１０，２３４０がそれぞれ可変長であるので、ビデオ復号化装置２００は、Ｄパラメータを獲得するために、Ｃパラメータ２３１０，２３４０の可変長コードを解析するための追加動作が必要である。

それに対し、第３データストリーム２３６０のように、Ｃパラメータ２３７０を固定長に決定するならば、ビデオ復号化装置２００は、可変長コードを解析する必要なしに、Ｃパラメータに続いて位置するＤパラメータに容易にアクセスすることができる。

また、シンタックスが８ビット、すなわち、バイト単位で定義されるために、シンタックスの全ビット長が８の倍数に決定される。従って、前述のように、セグメンテーション最大サイズ情報において、パラメータ「ｍｉｎ＿spatial＿segmentation」１６２０及び「ｍｉｎ＿spatial＿segmentation＿ｉｄｃ」２２１０の値が０より大きいか、あるいはそれと同じであり、４０９５より小さいか、あるいはそれと同じ１２ビットの値であるならば、デコーダ設定情報１６００またはＶＵＩパラメータ２２００のシンタックスの総ビット数は、８ビットの倍数でなくともよい。

従って、一実施形態によるビデオ符号化装置１００は、１２ビットのセグメンテーション最大サイズ情報に、４ビットのダミー（dummy）データを追加することができる。それにより、ビデオ復号化装置２００は、８ビットの倍数である長さに定義されたデコーダ設定情報１６００またはＶＵＩパラメータ２２００から、セグメンテーション最大サイズ情報を抽出し、セグメンテーション最大サイズ情報から、ダミーデータを除いた実際のセグメンテーション最大サイズの限界値を示す値を獲得することができる。

従って、以上、図１４ないし図２３を参照して説明したデコーダ設定に係わる制限情報として、サンプル配列方式に係わる制限情報及びセグメンテーション最大サイズ情報のうち少なくとも一つが決定される。ビデオ復号化装置２００は、獲得されたセグメンテーション最大サイズ情報に基づいて、データストリームから、符号化されたピクチャデータのサブ領域を適切に分類し、サブ領域別復号化動作を並列的に遂行することもできる。また、ビデオ復号化装置２００は、サンプル配列方式に係わる制限情報に基づいて、各ピクチャ／フレーム別に復元されたサンプルを正しく配することができる。

以下、図２４ないし図３０を参照し、先に提案したビデオ符号化方法、ビデオ復号化方法が適用可能な多様な実施形態について提案する。

説明の便宜のために、先に図１ないし図２３を参照して説明したビデオ符号化方法及び／またはビデオ符号化方法は、「ビデオ符号化方法」とする。また、先に図１ないし図２３を参照して説明したビデオ復号化方法及び／またはビデオ復号化方法は、「ビデオ復号化方法」とする。

また、先に図１ないし図２３を参照して説明したビデオ符号化装置１００、または映像符号化部４００で構成されたビデオ符号化装置は、「ビデオ符号化装置」とする。また、先に図１ないし図２３を参照して説明したビデオ復号化装置２００、または映像復号化部５００で構成されたビデオ復号化装置は、「ビデオ復号化装置」とする。

一実施形態によるプログラムが保存されるコンピュータで読み取り可能な記録媒体がディスク２６０００である実施形態について、以下で詳細に説明する。

図２４は、多様な実施形態によるプログラムが保存されたディスク２６０００の物理的構造を例示している。記録媒体として説明したディスク２６０００は、ハードドライブ、ＣＤ（compact disc）−ＲＯＭ（read only memory）ディスク、ブルーレイ（登録商標（Blu-ray））ディスク、ＤＶＤ（digital versatile disk）ディスクでもある。ディスク２６０００は、多数の同心円トラックＴｒから構成され、トラックは、円周方向に沿って、所定個数のセクタＳｅに分割される。前述の一実施形態によるプログラムを保存するディスク２６０００における特定領域に、前述の量子化パラメータ決定方法、ビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムが割り当てられて保存される。

前述のビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムを保存する記録媒体を利用して達成されたコンピュータシステムについて、図２５を参照して説明する。

図２５は、ディスク２６０００を利用して、プログラムを記録して読み取るためのディスクドライブ２６８００を図示している。コンピュータシステム２６７００は、ディスクドライブ２６８００を利用して、多様な実施形態によるビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムを、ディスク２６０００に保存することができる。ディスク２６０００に保存されたプログラムをコンピュータシステム２６７００上で実行するために、ディスクドライブ２６８００によって、ディスク２６０００からプログラムが読み取られ、プログラムがコンピュータシステム２６７００に伝送される。

図２４及び図２５で例示されたディスク２６０００だけではなく、メモリカード、ＲＯＭカセット、ＳＳＤ（solid state drive）にも、多様な実施形態によるビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムが保存される。

前述の実施形態によるビデオ符号化方法及びビデオ復号化方法が適用されたシステムについて説明する。

図２６は、コンテンツ流通サービス（content distribution service）を提供するためのコンテンツ供給システム（content supply system）１１０００の全体的構造を図示している。通信システムのサービス領域は、所定サイズのセルに分割され、各セルに、ベースステーションになる無線基地局１１７００，１１８００，１１９００，１２０００が設置される。

コンテンツ供給システム１１０００は、多数の独立デバイスを含む。例えば、コンピュータ１２１００、ＰＤＡ（personal digital assistant）１２２００、ビデオカメラ１２３００及び携帯電話１２５００のような独立デバイスが、インターネットサービス・プロバイダ１１２００、通信網１１４００、及び無線基地局１１７００，１１８００，１１９００，１２０００を経て、インターネット１１１００に連結される。

しかし、コンテンツ供給システム１１０００は、図２６に図示された構造にのみ限定されるものではなく、デバイスが選択的に連結されてもよい。独立デバイスは、無線基地局１１７００，１１８００，１１９００，１２０００を経ずに、通信網１１４００に直接連結されてもよい。

ビデオカメラ１２３００は、デジタルビデオカメラのように、ビデオ映像を撮影することができる撮像デバイスである。携帯電話１２５００は、ＰＤＣ（personal digital communications）方式、ＣＤＭＡ（code division multiple access）方式、Ｗ−ＣＤＭＡ（wideband code division multiple access））方式、ＧＳＭ（登録商標（global system for mobile communications））方式及びＰＨＳ（personal handyphone system）方式のような多様なプロトコルのうち少なくとも１つの通信方式を採択することができる。

ビデオカメラ１２３００は、無線基地局１１９００及び通信網１１４００を経て、ストリーミングサーバ１１３００に連結されてもよい。ストリーミングサーバ１１３００は、ユーザがビデオカメラ１２３００を使用して伝送したコンテンツを、リアルタイム放送でストリーミング伝送することができる。ビデオカメラ１２３００から受信されたコンテンツは、ビデオカメラ１２３００またはストリーミングサーバ１１３００によって符号化される。ビデオカメラ１２３００によって撮影されたビデオデータは、コンピュータ１２１００を経て、ストリーミングサーバ１１３００に伝送されもする。

カメラ１２６００によって撮影されたビデオデータも、コンピュータ１２１００を経て、ストリーミングサーバ１１３００に伝送されもする。カメラ１２６００は、デジタルカメラのように、静止画像及びビデオ映像をいずれも撮影することができる撮像装置である。カメラ１２６００から受信されたビデオデータは、カメラ１２６００またはコンピュータ１２１００によって符号化される。ビデオ符号化及び復号化のためのソフトウェアは、コンピュータ１２１００がアクセスすることができるＣＤ−ＲＯＭディスク、フロッピー（登録商標）ディスク、ハードディスクドライブ、ＳＳＤ、メモリカードのようなコンピュータで読み取り可能な記録媒体に保存される。

また、携帯電話１２５００に搭載されたカメラによってビデオが撮影された場合、ビデオデータが携帯電話１２５００から受信される。

ビデオデータは、ビデオカメラ１２３００、携帯電話１２５００またはカメラ１２６００に搭載されたＬＳＩ（large scale integrated circuit）システムによって符号化される。

一実施形態によるコンテンツ供給システム１１０００において、例えば、コンサートの現場録画コンテンツのように、ユーザが、ビデオカメラ１２３００、カメラ１２６００、携帯電話１２５００または他の撮像デバイスを利用して録画されたコンテンツが符号化され、ストリーミングサーバ１１３００に伝送される。ストリーミングサーバ１１３００は、コンテンツデータを要請した他のクライアントに、コンテンツデータをストリーミング伝送することができる。

該クライアントは、符号化されたコンテンツデータを復号化することができるデバイスであり、例えば、コンピュータ１２１００、ＰＤＡ １２２００、ビデオカメラ１２３００または携帯電話１２５００でもある。従って、コンテンツ供給システム１１０００は、クライアントとして、符号化されたコンテンツデータを受信して再生させる。また、コンテンツ供給システム１１０００は、クライアントをして、符号化されたコンテンツデータを受信し、リアルタイムで復号化して再生させ、個人放送（personal broadcasting）を可能にさせる。

コンテンツ供給システム１１０００に含まれた独立デバイスの符号化動作及び復号化動作に、多様な実施形態によるビデオ符号化装置及びビデオ復号化装置が適用される。

図２７及び図２８を参照し、コンテンツ供給システム１１０００において、携帯電話１２５００の一実施形態について詳細に説明する。

図２７は、多様な実施形態によるビデオ符号化方法及びビデオ復号化方法が適用される携帯電話１２５００の外部構造を図示している。携帯電話１２５００は、機能が制限されておらず、応用プログラムを介して、相当部分の機能を変更したり拡張したりすることができるスマーフォンでもある。

携帯電話１２５００は、無線基地局１２０００とＲＦ（radio frequency）信号を交換するための内蔵アンテナ１２５１０を含み、カメラ１２５３０によって撮影された映像、またはアンテナ１２５１０によって受信されて復号化された映像をディスプレイするためのＬＣＤ（liquid crystal display）画面、ＯＬＥＤ（organic light emitting diodes）画面のようなディスプレイ画面１２５２０を含む。スマーフォン１２５１０は、制御ボタン、タッチパネルを含む動作パネル１２５４０を含む。ディスプレイ画面１２５２０がタッチスクリーンである場合、動作パネル１２５４０は、ディスプレイ画面１２５２０のタッチ感知パネルをさらに含む。スマーフォン１２５１０は、音声、音響を出力するためのスピーカ１２５８０、または他の形態の音響出力部と、音声、音響が入力されるマイクロホン１２５５０、または他の形態の音響入力部と、を含む。スマーフォン１２５１０は、ビデオ及び静止画像を撮影するためのＣＣＤカメラのようなカメラ１２５３０をさらに含む。また、スマーフォン１２５１０は、カメラ１２５３０によって撮影されたり、電子メール（Ｅ−mail）に受信されたりするか、他の形態で獲得されたビデオや静止画像のように、符号化されたり復号化されたりするデータを保存するための記録媒体１２５７０；及び記録媒体１２５７０を携帯電話１２５００に装着するためのスロット１２５６０；を含んでもよい。記録媒体１２５７０は、ＳＤカード、またはプラスチックケースに内蔵されたＥＥＰＲＯＭ（electrically erasable and programmable read only memory）のような他の形態のフラッシュメモリでもある。

図２８は、携帯電話１２５００の内部構造を図示している。ディスプレイ画面１２５２０及び動作パネル１２５４０によって構成された携帯電話１２５００の各パートを組織的に制御するために、電力供給回路１２７００、動作入力制御部１２６４０、映像符号化部１２７２０、カメラ・インターフェース１２６３０、ＬＣＤ制御部１２６２０、映像復号化部１２６９０、マルチプレクサ／デマルチプレクサ（ＭＵＸ／ＤＥＭＵＸ：multiplexer／demultiplexer）１２６８０、記録／判読部１２６７０、変調／復調（modulation／demodulation）部１２６６０及び音響処理部１２６５０が、同期化バス１２７３０を介して、中央制御部１２７１０に連結される。

ユーザが電源ボタンを動作し、「電源オフ」状態から「電源オン」状態に設定すれば、電力供給回路１２７００は、バッテリパックから携帯電話１２５００の各パートに電源を供給することにより、携帯電話１２５００が動作モードにセッティングされる。

中央制御部１２７１０は、ＣＰＵ（central processing unit）、ＲＯＭ及びＲＡＭ（random access memory）を含む。

携帯電話１２５００が外部に通信データを送信する過程では、中央制御部１２７１０の制御によって、携帯電話１２５００において、デジタル信号が生成される。例えば、音響処理部１２６５０では、デジタル音響信号が生成され、映像符号化部１２７２０では、デジタル映像信号が生成され、動作パネル１２５４０及び動作入力制御部１２６４０を介して、メッセージのテキストデータが生成される。中央制御部１２７１０の制御によって、デジタル信号が変調／復調部１２６６０に伝達されれば、変調／復調部１２６６０は、デジタル信号の周波数帯域を変調し、通信回路１２６１０は、帯域変調されたデジタル音響信号に対して、Ｄ／Ａ変換（digital-analog conversion）処理及び周波数変換（frequency conversion）処理を行う。通信回路１２６１０から出力された送信信号は、アンテナ１２５１０を介して、音声通信基地局または無線基地局１２０００に送出される。

例えば、携帯電話１２５００が通話モードであるとき、マイクロホン１２５５０によって獲得された音響信号は、中央制御部１２７１０の制御によって、音響処理部１２６５０でデジタル音響信号に変換される。生成されたデジタル音響信号は、変調／復調部１２６６０及び通信回路１２６１０を経て送信信号に変換され、アンテナ１２５１０を介して送出される。

データ通信モードにおいて、電子メールのようなテキストメッセージが伝送される場合、動作パネル１２５４０を利用して、メッセージのテキストデータが入力され、テキストデータが、動作入力制御部１２６４０を介して、中央制御部１２６１０に伝送される。中央制御部１２６１０の制御により、テキストデータは、変調／復調部１２６６０及び通信回路１２６１０を介して送信信号に変換され、アンテナ１２５１０を介して無線基地局１２０００に送出される。

データ通信モードにおいて、映像データを伝送するために、カメラ１２５３０によって撮影された映像データが、カメラ・インターフェース１２６３０を介して、映像符号化部１２７２０に提供される。カメラ１２５３０によって撮影された映像データは、カメラ・インターフェース１２６３０及びＬＣＤ制御部１２６２０を介して、ディスプレイ画面１２５２０に直ちにディスプレイされる。

映像符号化部１２７２０の構造は、前述のビデオ符号化装置の構造と相応する。映像符号化部１２７２０は、カメラ１２５３０から提供された映像データを、前述のビデオ符号化方式によって符号化し、圧縮符号化された映像データに変換し、符号化された映像データを、多重化／逆多重化部１２６８０に出力することができる。カメラ１２５３０の録画中に、携帯電話１２５００のマイクロホン１２５５０によって獲得された音響信号も、音響処理部１２６５０を経て、デジタル音響データに変換され、デジタル音響データは、多重化／逆多重化部１２６８０に伝達される。

多重化／逆多重化部１２６８０は、音響処理部１２６５０から提供された音響データと共に、映像符号化部１２７２０から提供された符号化された映像データを多重化する。多重化されたデータは、変調／復調部１２６６０及び通信回路１２６１０を介して送信信号に変換され、アンテナ１２５１０を介して送出される。

携帯電話１２５００が外部から通信データを受信する過程では、アンテナ１２５１０を介して受信された信号を、周波数復元（frequency recovery）処理及びＡ／Ｄ変換（analog-digital conversion）処理を介して、デジタル信号を変換する。変調／復調部１２６６０は、デジタル信号の周波数帯域を復調する。帯域復調されたデジタル信号は、種類によって、ビデオ復号化部１２６９０、音響処理部１２６５０またはＬＣＤ制御部１２６２０に伝達される。

携帯電話１２５００は、通話モードであるとき、アンテナ１２５１０を介して受信された信号を増幅し、周波数変換処理及びＡ／Ｄ変換（analog-digital conversion）処理を介して、デジタル音響信号を生成する。受信されたデジタル音響信号は、中央制御部１２７１０の制御によって、変調／復調部１２６６０及び音響処理部１２６５０を経て、アナログ音響信号に変換され、アナログ音響信号がスピーカ１２５８０を介して出力される。

データ通信モードにおいて、インターネットのウェブサイトからアクセスされたビデオファイルのデータが受信される場合、アンテナ１２５１０を介して、無線基地局１２０００から受信された信号は、変調／復調部１２６６０の処理結果、多重化されたデータを出力し、多重化されたデータは、多重化／逆多重化部１２６８０に伝達される。

アンテナ１２５１０を介して受信した多重化されたデータを復号化するために、多重化／逆多重化部１２６８０は、多重化されたデータを逆多重化し、符号化されたビデオデータストリームと、符号化されたオーディオデータストリームとを分離する。同期化バス１２７３０により、符号化されたビデオデータストリームは、ビデオ復号化部１２６９０に提供され、符号化されたオーディオデータストリームは、音響処理部１２６５０に提供される。

映像復号化部１２６９０の構造は、前述のビデオ復号化装置の構造と相応する。映像復号化部１２６９０は、前述のビデオ復号化方法を利用して、符号化されたビデオデータを復号化し、復元されたビデオデータを生成し、復元されたビデオデータをＬＣＤ制御部１２６２０を経て、ディスプレイ画面１２５２０に復元されたビデオデータを提供することができる。

それにより、インターネットのウェブサイトからアクセスされたビデオファイルのビデオデータが、ディスプレイ画面１２５２０でディスプレイされる。それと同時に、音響処理部１２６５０も、オーディオデータをアナログ音響信号に変換し、アナログ音響信号をスピーカ１２５８０に提供することができる。それにより、インターネットのウェブサイトからアクセスされたビデオファイルに含まれたオーディオデータも、スピーカ１２５８０で再生される。

携帯電話１２５００または他の形態の通信端末機は、多様な実施形態によるビデオ符号化装置及びビデオ復号化装置をいずれも含む送受信端末機であるか、前述の多様な実施形態によるビデオ符号化装置のみを含む送信端末機であるか、多様な実施形態によるビデオ復号化装置のみを含む受信端末機でもある。

通信システムは、図２７及び図２８を参照して説明した構造に限定されるものではない。例えば、図２９は、多様な実施形態による通信システムが適用されたデジタル放送システムを図示している。図２９の一実施形態によるデジタル放送システムは、多様な実施形態によるビデオ符号化装置及びビデオ復号化装置を利用して、衛星ネットワークまたは地上波ネットワークを介して伝送されるデジタル放送を受信することができる。

具体的に見れば、放送局１２８９０は、電波を介して、ビデオデータストリームを通信衛星または放送衛星１２９００に伝送する。放送衛星１２９００は、放送信号を伝送し、該放送信号は、家庭にあるアンテナ１２８６０によって、衛星放送受信機に受信される。各家庭で、符号化されたビデオストリームは、ＴＶ（television）受信機１２８１０、セットトップボックス（set-top box）１２８７０または他のデバイスによって復号化されて再生される。

再生装置１２８３０において、多様な実施形態によるデオ復号化装置が具現されることにより、再生装置１２８３０が、ディスク及びメモリカードのような記録媒体１２８２０に記録された符号化されたビデオストリームを読み取って復号化することができる。それにより、復元されたビデオ信号は、例えば、モニタ１２８４０で再生される。

衛星／地上波放送のためのアンテナ１２８６０、またはケーブルＴＶ受信のためのケーブルアンテナ１２８５０に連結されたセットトップボックス１２８７０にも、多様な実施形態によるビデオ復号化装置が搭載される。セットトップボックス１２８７０の出力データも、ＴＶモニタ１２８８０で再生される。

他の例として、セットトップボックス１２８７０の代わりに、ＴＶ受信機１２８１０自体に、多様な実施形態によるビデオ復号化装置が搭載されもする。

適切なアンテナ１２９１０を具備した自動車１２９２０が、衛星１２８００または無線基地局１１７００から送出される信号を受信することもできる。自動車１２９２０に搭載された自動車ナビゲーションシステム１２９３０のディスプレイ画面に、復号化されたビデオが再生される。

ビデオ信号は、多様な実施形態によるビデオ符号化装置によって符号化され、記録媒体に記録されて保存される。具体的に見れば、ＤＶＤレコーダによって、映像信号がＤＶＤディスク１２９６０に保存されたり、ハードディスクレコーダ１２９５０によって、ハードディスクに映像信号が保存されたりする。他の例として、ビデオ信号は、ＳＤカード１２９７０に保存されもする。ハードディスクレコーダ１２９５０が、一実施形態によるビデオ復号化装置を具備すれば、ＤＶＤディスク１２９６０、ＳＤカード１２９７０、または他の形態の記録媒体に記録されたビデオ信号が、モニタ１２８８０で再生される。

自動車ナビゲーションシステム１２９３０は、図２８のカメラ１２５３０、カメラ・インターフェース１２６３０及び映像符号化部１２７２０を含まないこともある。例えば、コンピュータ１２１００（図２６）及びＴＶ受信機１２８１０も、図２８のカメラ１２５３０、カメラ・インターフェース１２６３０及び映像符号化部１２７２０を含まないこともある。

図３０は、多様な実施形態によるビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピューティングシステムのネットワーク構造を図示している。

多様な実施形態によるクラウドコンピューティングシステムは、クラウドコンピューティングサーバ１４０００、ユーザＤＢ（database）１４１００、コンピューティング資源１４２００及びユーザ端末機を含んでなる。

クラウドコンピューティングシステムは、ユーザ端末機の要請によって、インターネットのような情報通信網を介して、コンピューティング資源のオンデマンド・アウトソーシングサービスを提供する。クラウドコンピューティング環境においてサービスプロバイダは、互いに異なる物理的な位置に存在するデータセンターのコンピューティング資源を仮想化技術で統合し、ユーザに必要するサービスを提供する。サービスユーザは、アプリケーション（application）、ストレージ（storage）、運用体制（ＯＳ）、保安（security）などのコンピューティング資源を、各ユーザ所有の端末にインストールして使用するのではなく、仮想化技術を介して生成された仮想空間上のサービスを、所望する時点で所望するほど選んで使用することができる。

特定サービスユーザのユーザ端末機は、インターネット及び移動通信網を含む情報通信網を介して、クラウドコンピューティングサーバ１４０００に接続する。ユーザ端末機は、クラウドコンピューティングサーバ１４０００から、クラウドコンピューティングサービス、特に、動画再生サービスを提供される。ユーザ端末機は、デスクトップＰＣ（personal computer）１４３００、スマートＴＶ１４４００、スマーフォン１４５００、ノート型パソコン１４６００、ＰＭＰ（portable multimedia player）１４７００、テブレットＰＣ １４８００など、インターネット接続が可能な全ての電子機器にもなる。

クラウドコンピューティングサーバ１４０００は、クラウド網に分散している多数のコンピューティング資源１４２００を統合し、ユーザ端末機に提供することができる。多数のコンピューティング資源１４２００は、さまざまなデータサービスを含み、ユーザ端末機からアップロードされたデータを含んでもよい。そのように、クラウドコンピューティングサーバ１４０００は、多くのところに分散している動画データベースを仮想化技術で統合し、ユーザ端末機が要求するサービスを提供する。

ユーザＤＢ １４１００には、クラウドコンピューティングサービスに加入しているユーザ情報が保存される。ここで、ユーザ情報は、ログイン情報や、住所、氏名のような個人信用情報を含んでもよい。また、ユーザ情報は、動画のインデックス（index）を含んでもよい。ここで、該インデックスは、再生を完了した動画リストや、再生中の動画リストや、再生中の動画の停止時点などを含んでもよい。

ユーザＤＢ １４１００に保存された動画に係わる情報は、ユーザデバイス間に共有される。従って、例えば、ノート型パソコン１４６００から再生要請され、ノート型パソコン１４６００に所定動画サービスを提供した場合、ユーザＤＢ １４１００に、所定動画サービスの再生ヒストリーが保存される。スマーフォン１４５００から、同一動画サービスの再生要請が受信される場合、クラウドコンピューティングサーバ１４０００は、ユーザＤＢ １４１００を参照し、所定動画サービスを見つけ出して再生する。スマーフォン１４５００が、クラウドコンピューティングサーバ１４０００を介して、動画データストリームを受信する場合、動画データストリームを復号化してビデオを再生する動作は、先に図２７及び図２８を参照して説明した携帯電話１２５００の動作と類似している。

クラウドコンピューティングサーバ１４０００は、ユーザＤＢ １４１００に保存された所定動画サービスの再生ヒストリーを参照することもできる。例えば、クラウドコンピューティングサーバ１４０００は、ユーザ端末機から、ユーザＤＢ １４１００に保存された動画に係わる再生要請を受信する。該動画が、それ以前に再生中であったならば、クラウドコンピューティングサーバ１４０００は、ユーザ端末機への選択によって、最初から再生するか、あるいは以前の停止時点から再生するかということによって、ストリーミング方法が異なる。例えば、ユーザ端末機が、最初から再生するように要請した場合には、クラウドコンピューティングサーバ１４０００は、ユーザ端末機に、当該動画を最初のフレームからストリーミング伝送する。一方、端末機が、以前停止時点から続けて再生するように要請した場合には、クラウドコンピューティングサーバ１４０００は、ユーザ端末機に、当該動画を停止時点のフレームからストリーミング伝送する。

そのとき、ユーザ端末機は、図１ないし図２３を参照して説明した多様な実施形態によるビデオ復号化装置を含んでもよい。他の例として、ユーザ端末機は、図１ないし図２３を参照して説明した多様な実施形態によるビデオ符号化装置を含んでもよい。また、ユーザ端末機は、図１ないし図２３を参照して説明した多様な実施形態によるビデオ符号化装置及びビデオ復号化装置をいずれも含んでもよい。

図１ないし図２３を参照して説明したビデオ符号化方法及びビデオ復号化方法、ビデオ符号化装置及びビデオ復号化装置が活用される多様な実施形態について、図２４ないし図３０で説明した。しかし、図１ないし図２３を参照して説明したビデオ符号化方法及びビデオ復号化方法が記録媒体に保存されたり、ビデオ符号化装置及びビデオ復号化装置がデバイスで具現されたしする多様な実施形態は、図２４ないし図３０の実施形態に限定されるものではない。

一方、前述の実施形態は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用して、前記プログラムを動作させる汎用デジタルコンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体（例えば、ＲＯＭ、フロッピー（登録商標）ディスク、ハードディスクなど）、光学的判読媒体（例えば、ＣＤ−ＲＯＭ、ＤＶＤなど）のような記録媒体を含む。

以上で開示された多様な実施形態が属する技術分野で当業者であるならば、本明細書で開示された実施形態の本質的な特性から外れない範囲で変形された形態に具現されるということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されなければならない。本明細書の開示範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にある全ての差異は、本明細書の開示範囲に含まれたものであると解釈されなければならないのである。

Claims (1)

1. ビデオ復号化方法において、
   ＮＡＬ（network abstraction layer）ユニットで構成されたデータストリームを受信する段階と、
   前記ＮＡＬユニットのうち、ビデオパラメータセットＲＢＳＰ（raw byte sequence payload）に含まれたprofile_tier_levelシンタックス構造から、ピクチャのスキャンタイプがプログレッシブ方式であるか否かを示す１ビットのプログレッシブスキャン情報及びピクチャのスキャンタイプがインターレースト方式であるか否かを示す１ビットのインターレーストスキャン情報を獲得する段階と、
   前記獲得されたプログレッシブスキャン情報及びインターレーストスキャン情報によって、符号化されたピクチャのスキャンタイプを決定する段階と、を含むことを特徴とするビデオ復号化方法。
   

Images