本発明の一実施形態による階層的構造のシンボルを符号化するビデオを符号化する方法は、階層的構造のデータ単位を基に、前記ビデオのピクチャを符号化する段階と、前記符号化されたピクチャに係わるシンボルを、前記階層的構造のデータ単位を基に決定する段階と、前記階層的構造のデータ単位を基に決定されたシンボルの特性に基づいて、前記シンボルの符号化方式を決定する段階と、前記決定された符号化方式によって、前記シンボルを符号化して出力する段階と、を含む。
一実施形態による前記シンボルの符号化方式決定段階は、前記階層的構造のデータ単位別に決定されたシンボルを、前記階層的構造のデータ単位によって符号化するシンボル階層的符号化モード、及び前記階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルを符号化する末端レベル符号化モードのうち1つのシンボル符号化方式を選択的に決定する段階を含む。
一実施形態による前記シンボルの符号化方式を選択的に決定する段階は、前記階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、前記同種シンボルをグループ化して符号化する同種シンボルグループ符号化モード、及び前記同種シンボルを個別的に符号化する同種シンボル個別符号化モードのうち、1つのシンボル符号化方式を選択的に決定する段階を含む。
一実施形態によるシンボルの符号化方式を選択的に決定する段階は、前記階層的構造のデータ単位別に決定された異種シンボルの相関度を基に、前記異種シンボルをグループ化して符号化する異種シンボルグループ符号化モード、及び前記異種シンボルを個別的に符号化する異種シンボル個別符号化モードのうち、1つのシンボル符号化方式を選択的に決定する段階を含む。
一実施形態による前記シンボルの符号化方式を決定する段階は、前記階層的構造のデータ単位に係わるシンボル値のうち、0であるシンボル値の比率を基に、前記末端レベルのデータ単位に係わるシンボルのシンボル値を反転して符号化するシンボル反転符号化モード、及び前記末端レベルのデータ単位に係わるシンボルのシンボル値を反転なしに符号化する非反転符号化モードのうち、1つのシンボル符号化方式を選択的に決定する段階を含む。
本発明の一実施形態による階層的構造のシンボルを復号化してビデオを復号化する方法は、前記ビデオの符号化されたピクチャを含むビットストリームを受信する段階と、前記ビットストリームをパージングし、前記ビットストリームから、前記階層的構造のデータ単位に基づいて決定されたシンボルと、前記符号化されたピクチャとを抽出する段階と、前記階層的構造のデータ単位に基づいて決定されたシンボルの特性に基づいて、前記シンボルの復号化方式を決定し、前記復号化方式によって、前記シンボルを復号化し、前記シンボルを利用して、前記符号化されたピクチャを復号化する段階と、を含む。
一実施形態による前記復号化段階は、前記階層的構造のデータ単位別に決定されたシンボルを、前記階層的構造のデータ単位によって復号化するシンボル階層的復号化モード、及び前記階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルを復号化する末端レベル復号化モードのうち1つのシンボル復号化方式を選択的に決定する段階を含む。
一実施形態による前記復号化段階は、前記階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、前記同種シンボルをグループ化して復号化する同種シンボルグループ復号化モード、及び前記同種シンボルを個別的に復号化する同種シンボル個別復号化モードのうち、1つのシンボル復号化方式を選択的に決定する段階を含む。
一実施形態による前記復号化段階は、前記階層的構造のデータ単位別に決定された異種シンボルの相関度を基に、前記異種シンボルをグループ化して復号化する異種シンボルグループ復号化モード、及び前記異種シンボルを個別的に復号化する異種シンボル個別復号化モードのうち、1つのシンボル復号化方式を選択的に決定する段階を含む。
一実施形態による前記復号化段階は、前記階層的構造のデータ単位に係わるシンボル値のうち、0であるシンボル値の比率を基に、前記末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて復号化するシンボル反転復号化モード、及び前記データ単位に係わるシンボルのシンボル値を、反転なしに復号化する非反転復号化モードのうち、1つのシンボル復号化方式を選択的に決定する。
本発明の一実施形態によって、階層的構造のシンボルを符号化するビデオ符号化装置は、階層的構造のデータ単位を基に、前記ビデオのピクチャを符号化するピクチャ階層的符号化部;及び前記符号化されたピクチャに係わるシンボルを、前記階層的構造のデータ単位を基に決定し、前記階層的構造のデータ単位を基に決定されたシンボルの特性に基づいて、前記シンボルの符号化方式を決定し、前記決定された符号化方式によって、前記シンボルを符号化して出力する階層的シンボル符号化部;を含む。
本発明の一実施形態による階層的構造のシンボルを復号化するビデオ復号化装置は、前記ビデオの符号化されたピクチャを含むビットストリームを受信し、前記ビットストリームをパージングし、前記階層的構造のデータ単位に基づいて決定されたシンボルと、前記符号化されたピクチャとを抽出する階層的シンボル/データ抽出部;及び前記階層的構造のデータ単位に基づいて決定されたシンボルの特性に基づいて、前記シンボルの復号化方式を決定し、前記復号化方式によって、前記シンボルを復号化し、前記シンボルを利用して、前記符号化されたピクチャを復号化する階層的ピクチャ復号化部;を含む。
本発明は、一実施形態による階層的構造のシンボルを符号化するビデオ符号化方法を電算的に具現するためのプログラムを記録したコンピュータで読み取り可能な記録媒体を含む。本発明は、一実施形態による階層的構造のシンボルを復号化するビデオ復号化方法を電算的に具現するためのプログラムを記録したコンピュータで読み取り可能な記録媒体を含む。
以下、本明細書に記載した本発明の多様な実施形態で、「映像」は、静止映像だけではなく、ビデオのような動画を含んで包括的に呼ぶことができる。
映像と係わるデータについて各種動作が遂行されるとき、映像と係わるデータは、データグループに分割され、同一データグループに含まれるデータについて同一動作が遂行される。以下、本明細書において、所定基準によって形成されるデータグループを「データ単位」と呼ぶ。以下、本明細書において、「データ単位」ごとに行われる動作は、データ単位に含まれたデータを利用して、当該動作が遂行されるということを意味する。
以下、図1ないし図14を参照し、一実施形態によって、階層的構造のシンボルを符号化及び復号化するビデオの符号化及び復号化を開示する。以下、図15ないし図27を参照し、本発明の一実施形態によって、ツリー構造による符号化単位及び変換単位に基づいたツリー構造のシンボルを符号化及び復号化するビデオの符号化及び復号化を開示する。
以下、図1ないし図14を参照し、一実施形態による階層的構造のシンボルを符号化するビデオ符号化装置、及び階層的構造のシンボルを復号化するビデオ復号化装置、ビデオ符号化方法及びビデオ復号化方法について説明する。
図1は、一実施形態による階層的構造のシンボルを符号化するビデオ符号化装置のブロック図を図示している。
一実施形態による階層的構造のシンボルを符号化するビデオ符号化装置100は、ピクチャ階層的符号化部120、及び階層的シンボル符号化部130を含む。以下、説明の便宜のために、一実施形態による階層的構造のシンボルを符号化するビデオ符号化装置100を「ビデオ符号化装置100」と縮約して呼ぶ。ビデオ符号化装置100のピクチャ階層的符号化部120、及び階層的シンボル符号化部130の動作は、ビデオエンコーディング・プロセッサ、中央プロセッサ、グラフィック・プロセッサなどによって有機的に制御される。
一実施形態によるビデオ符号化装置100は、入力されたビデオにおいて、現在ピクチャを符号化するために、現在ピクチャを所定サイズのデータ単位に分割し、データ単位別に符号化を行う。
例えば、現在ピクチャは、空間領域(spatial domain)の画素で構成される。現在ピクチャにおいて、空間的に隣接する画素を共に符号化するために、所定範囲内の隣接画素が1つのグループをなすように、現在ピクチャは、所定サイズの画素グループに分割される。分割された所定サイズの画素グループの画素に対する一連の符号化動作によって、現在ピクチャに係わる符号化が行われる。
ピクチャの符号化処理対象になる初期データが、空間領域の画素値であるので、それぞれの所定サイズの画素グループが、符号化処理対象になるデータ単位に利用される。また、空間領域の画素グループの画素値に対して、ビデオ符号化のための変換を行い、変換領域(transform domain)の変換係数が生成されるが、変換係数も、空間領域の画素グループと同一サイズの係数グループを維持する。従って、変換領域の変換係数の係数グループも、ピクチャの符号化のためのデータ単位に利用される。
従って、空間領域及び変換領域をまとめて、所定サイズのデータグループが符号化のためのデータ単位に利用される。このとき、データ単位の大きさは、データ単位に含まれるデータの個数と定義される。例えば、空間領域の画素の個数、または変換領域の変換係数の個数が、データ単位の大きさを示すことができる。
ビデオにおいて、現在符号化処理対象であるデータ単位、スライス、ピクチャ、ピクチャシーケンスのうちいずれか1つのデータレベルのデータグループごとに、現在データ単位に係わる符号化方式または符号化特性が決定される。
一実施形態によるビデオ符号化装置100は、領域別に、インター予測・イントラ予測を含む予測符号化、変換及び量子化及びエントロピ符号化を行うことにより、現在ピクチャの符号化を行うことができる。
一実施形態によるピクチャ階層的符号化部120は、階層的構造のデータ単位を基に、ビデオのピクチャを符号化する。所定領域を符号化するために、所定領域のデータ単位が、段階別に、上位レベルのデータ単位から下位レベルのデータ単位に分割され、一つ以上のレベルのデータ単位の階層的構造が構成される。一実施形態によるピクチャ階層的符号化部120は、階層的構造によって、多様な大きさが可能なデータ単位に基づいて、ピクチャを符号化することができる。
一実施形態による階層的シンボル符号化部130は、ピクチャ階層的符号化部120によって出力された符号化されたピクチャに係わるシンボルを、階層的構造のデータ単位を基に決定する。階層的シンボル符号化部130は、階層的構造のデータ単位を基に決定されることに起因するシンボルの特性に基づいて、シンボルの符号化方式を決定することができる。これにより、階層的シンボル符号化部130は、決定された符号化方式によってシンボルを符号化し、出力することができる。階層的シンボル符号化部130は、決定された符号化方式によって階層的構造として決定されたシンボルに割り当てられたシンボルコードを出力することもできる。
階層的シンボル符号化部130は、階層的構造のデータ単位別に符号化されたピクチャに係わるシンボルを決定することができる。一実施形態によるシンボルは、ピクチャの符号化過程で決定されて利用される符号化モード、符号化方式などを示すための符号化情報を含んでもよい。例えば、イントラ/インター予測の予測モード情報及び予測方向情報、データ符号化の基になるデータ単位の構造情報、符号化パターン情報(cbf:coded pattern flag)のように、ビデオ符号化過程で定義される符号化情報などがシンボルとして定義される。
一実施形態による階層的シンボル符号化部130は、階層的構造のデータ単位別にシンボルが決定されるので、シンボルも、階層的構造として決定される。階層的シンボル符号化部130によって、階層的構造によって決定されたシンボルのうち、所定レベルのデータ単位に係わる同種シンボルにおいて、高い相関度のパターンが生じもする。また、階層的シンボル符号化部130によって、階層的構造によって決定された異種シンボル間に高い関連性が発見される。また、階層的シンボル符号化部130によって、階層的構造によって決定されたシンボルの全体レベルで、所定パターンが生じもする。
階層的シンボル符号化部130は、かようにシンボルの階層的構造に起因するシンボルの特徴を考慮して、シンボルの符号化方式を決定することができる。
例えば、階層的シンボル符号化部130は、階層的構造のデータ単位別に決定されたシンボルを、階層構造によっていずれも符号化するか否かを決定することができる。
例えば、階層的シンボル符号化部130は、階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、同種シンボルをグループ化して符号化するか否かを決定することができる。
例えば、階層的シンボル符号化部130は、階層的構造のデータ単位別に決定された異種シンボル間に発生する相関度を基に、同種シンボルをグループ化して符号化するか否かを決定することができる。
例えば、階層的シンボル符号化部130は、階層的構造のデータ単位のうち所定シンボル値の比率を基に、所定レベルのデータ単位に係わるシンボル値を反転させて符号化するか否かを決定することができる。
一例として、階層的シンボル符号化部130は、階層的構造のデータ単位別に決定されたシンボルを、階層的構造のデータ単位によっていずれも符号化するシンボル階層的符号化モードと、階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルを符号化する末端レベル符号化モードとのうち、1つのシンボル符号化方式を選択的に決定することができる。
階層的シンボル符号化部130は、シンボル階層的符号化モードによってシンボルを符号化する場合、階層的構造のデータ単位別に決定されたシンボルを、階層的構造のデータ単位によって符号化して出力することができる。一方、末端レベル符号化モードによってシンボルが符号化される場合、階層的シンボル符号化部130は、階層的構造のデータ単位のうち、所定レベルのデータ単位に係わるシンボルのみを符号化して出力することができる。
階層的シンボル符号化部130は、シンボルのデータ単位の符号化特性に基づいて、シンボル階層的符号化モード、及び末端レベル符号化モードのうち1つのシンボル符号化方式を決定することもできる。このとき、シンボル符号化方式を決定するために考慮される符号化特性は、シンボルのデータ単位の予測モード情報及びカラー成分のうち少なくとも一つを含んでもよい。
他の一例として、階層的シンボル符号化部130は、階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、同種シンボルをグループ化して符号化する同種シンボルグループ符号化モードと、同種シンボルを個別的に符号化する同種シンボル個別符号化モードとのうち、1つのシンボル符号化方式を選択的に決定することができる。
このとき、シンボル符号化方式を決定するために考慮される同種シンボルのシンボル値間の相関度は、シンボル値間に形成されるパターンの形態及び頻度を含んでもよい。
階層的シンボル符号化部130は、同種シンボルグループ符号化モードによってシンボルを符号化する場合、シンボル値のパターンごとに割り当てられるシンボルコードを含むシンボルコード・テーブルを決定することができる。シンボルコード・テーブルは、それぞれのパターンの頻度に基づいて、パターンごとに割り当てられたシンボルコードを含んでもよい。
階層的シンボル符号化部130は、シンボルコード・テーブルと、データ単位に係わる同種シンボルのパターンとに基づいて、データ単位に係わる同種シンボルに係わるシンボルコードを出力することができる。すなわち、シンボルコード・テーブルに基づいて、同種シンボルのシンボル値のパターンに割り当てられたシンボルコードが出力される。
階層的シンボル符号化部130は、スキップモード情報、符号化のためのデータ単位の分割情報、変換のためのデータ単位の分割情報、及び符号化パターン情報のうち少なくとも一つシンボルについて、同種シンボルグループモードによるシンボル符号化いかんを決定することができる。
すなわち、階層的シンボル符号化部130は、スキップモード情報のシンボル値間の相関度に基づいて、同種シンボルグループモードによるシンボル符号化いかんを決定することもできる。
階層的シンボル符号化部130は、符号化単位分割情報のシンボル値間の相関度に基づいて、同種シンボルグループモードによるシンボル符号化いかんを決定することもできる。階層的シンボル符号化部130は、変換単位分割情報のシンボル値間の相関度に基づいて、同種シンボルグループモードによるシンボル符号化いかんを決定することもできる。
階層的シンボル符号化部130は、変換単位符号化パターン情報のシンボル値間の相関度に基づいて、同種シンボルグループモードによるシンボル符号化いかんを決定することもできる。階層的シンボル符号化部130は、同種シンボル個別符号化モードによってシンボルを符号化する場合、同種シンボルのシンボル値間の相関度と係わりなく、階層的構造のデータ単位に係わる同種シンボルを個別的に符号化することができる。
階層的シンボル符号化部130は、シンボルのデータ単位の符号化特性に基づいて、同種シンボルグループ符号化モード及び独立的符号化モードのうち1つのシンボル符号化方式を決定することもできる。例えば、階層的シンボル符号化部130は、シンボルのデータ単位の予測モード情報、スライスタイプ、カラー成分、符号化のためのデータ単位の分割レベル、及び変換のためのデータ単位の分割レベルのうち少なくとも一つを含むデータ単位の符号化特性に基づいて、シンボルの符号化方式を選択的に決定することができる。
一実施形態による符号化のためのデータ単位の分割レベルは、最大サイズの符号化単位から現在符号化単位までの分割回数を示し、符号化深度と呼ばれる。一実施形態による変換のためのデータ単位の分割レベルは、最大サイズの変換単位から現在変換単位までの分割回数を示し、変換深度と呼ばれる。
他の一例として、階層的シンボル符号化部130は、階層的構造のデータ単位別に決定された異種シンボルの相関度を基に、異種シンボルをグループ化して符号化する異種シンボルグループ符号化モード、及び異種シンボルを個別的に符号化する異種シンボル個別符号化モードのうち、1つのシンボル符号化方式を選択的に決定することができる。
階層的構造のデータ単位を基にする符号化過程で、異種シンボルが示す機能の相関度、異種シンボル間の依存的符号化いかん、異種シンボル間の連続的符号化いかんのうち少なくとも一つを含む異種シンボルの相関度に基づいて、異種シンボルグループ符号化モード、及び異種シンボル個別符号化モードのうち1つのシンボル符号化方式が選択的に決定される。
例えば、階層的シンボル符号化部130は、異種シンボルグループ符号化モードによってシンボルを符号化する場合、異種シンボルが示す機能の相関度に基づいて、異種シンボルが共有するコンテクスト(context)を決定することができる。階層的シンボル符号化部130は、共有コンテクストに基づいて、異種シンボルをそれぞれ符号化して出力することができる。
例えば、階層的シンボル符号化部130は、異種シンボルグループ符号化モードによってシンボルを符号化する場合、相互依存的に決定される異種シンボル間に発生する異種シンボルのシンボル値の組み合わせの確率分布に基づいて、シンボル値の組み合わせに係わるシンボルコードを割り当てることができる。階層的シンボル符号化部130は、異種シンボルのシンボル値の組み合わせについて、割り当てられたシンボルコードを出力することができる。
例えば、階層的シンボル符号化部130は、異種シンボルグループ符号化モードによってシンボルを符号化する場合、連続して決定される異種シンボル間に発生する異種シンボルのシンボル値の組み合わせに係わるシンボルコードを割り当てることができる。階層的シンボル符号化部130は、異種シンボルのシンボル値の組み合わせについて、割り当てられたシンボルコードを出力することができる。
一例として、階層的シンボル符号化部130は、符号化単位分割情報と変換単位分割情報との相関度に基づいて、符号化単位分割情報と変換単位分割情報との組み合わせに係わる異種シンボルグループ符号化いかんを決定することができる。
一例として、階層的シンボル符号化部130は、変換単位分割情報と符号化パターン情報との相関度に基づいて、変換単位分割情報と符号化パターン情報との組み合わせに係わる異種シンボルグループ符号化いかんを決定することができる。
一例として、階層的シンボル符号化部130は、符号化単位の予測モードと予測方式情報との相関度に基づいて、予測モードと予測方式情報との組み合わせに係わる異種シンボルグループ符号化いかんを決定することもできる。
一例として、階層的シンボル符号化部130は、符号化単位の分割情報とスキップ情報との相関度に基づいて、符号化単位の分割情報とスキップ情報との組み合わせに係わる異種シンボルグループ符号化いかんを決定することもできる。
一例として、階層的シンボル符号化部130は、2以上のカラー成分別符号化パターン情報間の相関度に基づいて、カラー成分別符号化パターン情報の組み合わせに係わる異種シンボルグループ符号化いかんを決定することもできる。カラー成分別符号化パターン情報は、ルマ成分の符号化パターン情報、クロマ成分の符号化パターン情報、第1クロマ成分の符号化パターン情報、及び第2クロマ成分の符号化パターン情報などであってもよい。例えば、ルマ成分の符号化パターン情報と、クロマ成分の符号化パターン情報との組み合わせ、ルマ成分Y、第1クロマ成分Cr、第2クロマ成分Cb別に、それぞれの符号化パターン情報の組み合わせについて異種シンボルグループ符号化いかんが決定されもする。
一例として、階層的シンボル符号化部130は、2以上のカラー成分別符号化パターン情報と変換単位分割情報との相関度に基づいて、符号化単位のカラー成分別符号化パターン情報と変換単位分割情報との組み合わせに係わる異種シンボルグループ符号化いかんを決定することもできる。例えば、ルマ成分の符号化パターン情報、第1クロマ成分の符号化パターン情報、第2クロマ成分の符号化パターン情報と変換単位分割情報との組み合わせについて、異種シンボルグループ符号化いかんが決定されもする。
階層的シンボル符号化部130は、異種シンボル個別符号化モードによって、シンボルを符号化する場合、異種シンボル間の相関度と係わりなく、階層的構造のデータ単位に係わる異種シンボルを個別的に符号化することができる。
他の一例として、階層的シンボル符号化部130は、階層的構造のデータ単位に係わるシンボル値のうち、0であるシンボル値の比率を基に、末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて符号化するシンボル反転符号化モードと、データ単位に係わるシンボルのシンボル値を反転なしに符号化する非反転符号化モードとのうち、1つのシンボル符号化方式を選択的に決定することができる。
例えば、階層的シンボル符号化部130は、シンボル反転符号化モードによってシンボルを符号化する場合、シンボル値のうち、0であるシンボル値の比率が1であるシンボル値に比べて低ければ、末端レベルのデータ単位に係わるシンボル値を反転させて符号化することができる。同一の趣旨で、階層的シンボル符号化部130は、シンボル値のシンボル分布が稠密であるならば、末端レベルのデータ単位に係わるシンボル値を反転させて符号化することができる。
階層的シンボル符号化部130は、シンボル非反転符号化モードによってシンボルを符号化する場合、シンボル値のうち、0であるシンボル値の比率と関係なく、シンボル値の反転なしにシンボルを符号化することができる。
階層的シンボル符号化部130は、シンボルのデータ単位の予測モード情報、スライスタイプ、カラー成分、及び符号化深度及び変換深度のうち少なくとも一つを含む前記データ単位の符号化特性に基づいて、シンボル反転符号化モード及び非反転符号化モードのうち1つのシンボル符号化方式を選択的に決定することもできる。
一実施形態による階層的シンボル符号化部130は、ビデオのスライス、ピクチャ、シーケンス及び最大符号化単位のうち1つのデータ区間ごとに、シンボルの符号化方式を決定することができる。一実施形態によるビデオ符号化装置100は、前記1つのデータ区間ごとに、シンボルの符号化方式を示すシンボル符号化方式情報を符号化して出力することができる。
一実施形態によるビデオ符号化装置100は、階層的シンボル符号化部130によって符号化されたシンボルと共に符号化されたピクチャを含むビットストリームを出力することができる。
一実施形態によるビデオ符号化装置100の符号化の基になる階層的構造のデータ単位は、一実施形態によるツリー構造による符号化単位、ツリー構造による変換単位、ツリー構造による符号化単位の予測単位及びパーティションを含んでもよい。このために、一実施形態によるピクチャ階層的符号化部120は、ツリー構造による符号化単位、ツリー構造による変換単位、ツリー構造による符号化単位の予測単位及びパーティションを決定することができる。
ピクチャ階層的符号化部120は、ピクチャを最大サイズの符号化単位に分割し、最大符号化単位ごとに、最大符号化単位の空間的分割回数を示す深度によって、階層的に構成される深度別符号化単位のうち、符号化結果として出力される符号化深度の符号化単位を決定することができる。ツリー構造による符号化単位は、最終的に出力される符号化結果を生成した符号化深度の符号化単位を含んでもよい。また、符号化深度の符号化単位が決定されるために、予測符号化のためのデータ単位である予測単位及びパーティションが決定され、変換のためのデータ単位であるツリー構造による変換単位が決定される。
ピクチャ階層的符号化部120は、深度別符号化単位のうち、周辺深度別符号化単位と独立して、それぞれの深度別符号化単位ごとに、符号化深度の符号化単位を決定することができる。一実施形態によるツリー構造による符号化単位は、最大符号化単位内で、同一領域では深度によって階層的であり、他の領域については、独立した符号化深度の符号化単位で構成される。
その場合、階層的シンボル符号化部130は、最大符号化単位ごとに、ツリー構造による符号化単位に基づいて符号化されたピクチャ、並びにツリー構造による符号化単位の符号化深度及び符号化モードに係わる情報を示すシンボルが符号化して出力される。
以上、ツリー構造による符号化単位及びツリー構造による変換単位、予測単位及びパーティションの決定方式は、以後、図15ないし図27を参照して説明する。
図2は、一実施形態による階層的構造のシンボルを復号化するビデオ復号化装置のブロック図を図示している。
一実施形態による階層的構造のシンボルを復号化するビデオ復号化装置200は、階層的シンボル/データ抽出部220、及び階層的ピクチャ復号化部230を含む。以下、説明の便宜のために、一実施形態による階層的構造のシンボルを復号化するビデオ復号化装置200を「ビデオ復号化装置200」と縮約して呼ぶ。ビデオ復号化装置200の階層的シンボル/データ抽出部220、及び階層的ピクチャ復号化部230の動作は、ビデオデコーディング・プロセッサ、グラフィック・プロセッサ、中央プロセッサなどによって有機的に制御される。
ビデオ復号化装置200は、ビットストリームから映像を復元するために、エントロピ復号化、逆量子化、逆変換及びインター予測/補償、イントラ予測/補償を含む動作を介して、ビットストリームの符号化されたピクチャデータを復号化することができる。
一実施形態による階層的シンボル/データ抽出部220は、符号化されたビデオに係わるビットストリームを受信してパージングする。階層的シンボルデータ抽出部220は、パージングされたビットストリームから、現在ピクチャについて、階層的構造のデータ単位別に符号化されたデータを抽出することができる。
また、階層的シンボル/データ抽出部220は、ビットストリームから、現在ピクチャについて、階層的構造のデータ単位を基に階層的構造として決定されたシンボルを抽出することができる。階層的シンボル/データ抽出部220は、ビットストリームから、階層的構造として決定されたシンボルに割り当てられたシンボルコードを抽出することもできる。
階層的シンボル/データ抽出部220は、符号化されたピクチャと抽出されたシンボルとを、階層的ピクチャ復号化部230に伝達することができる。階層的ピクチャ復号化部230は、階層的構造のデータ単位に基づいて決定されたシンボルの特性に基づいて、シンボルの復号化方式を決定することができる。階層的ピクチャ復号化部230は、復号化方式によってシンボルを復号化し、シンボルから符号化情報を読み取り、符号化情報を利用して符号化されたピクチャを復号化することができる。
一実施形態によるシンボルは、階層的構造のデータ単位について割り当てられるシンボルの特性に基づいて決定されたシンボル符号化方式によって符号化されている。一実施形態による階層的シンボル/データ抽出部220は、ビットストリームから、ビデオのスライス、ピクチャ、シーケンス及び最大符号化単位のうち1つのデータ区間ごとに、シンボルの符号化方式情報を抽出することもできる。また、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200間に、シンボル符号化方式情報があらかじめ決定されている。
階層的ピクチャ復号化部230は、シンボルの符号化方式情報、または既設定の符号化方式に基づいて、現在シンボルを符号化したシンボル符号化方式に相応するシンボル復号化方式を決定し、シンボル復号化方式によって、シンボルを復号化することにより、シンボルが示す情報を読み取ることができる。階層的ピクチャ復号化部230は、シンボルコードを受信した場合、シンボル復号化方式によって、シンボルコードからシンボルを読み取って復号化することができる。
例えば、階層的ピクチャ復号化部230は、階層的構造のデータ単位別に決定されたシンボルを、階層構造によっていずれも復号化するか否かを決定することができる。例えば、階層的ピクチャ復号化部230は、階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、同種シンボルをグループ化し、復号化するか否かを決定することができる。
例えば、階層的ピクチャ復号化部230は、階層的構造のデータ単位別に決定された異種シンボル間に発生する相関度を基に、同種シンボルをグループ化し、復号化するか否かを決定することができる。
例えば、階層的ピクチャ復号化部230は、階層的構造のデータ単位のうち所定シンボル値の比率を基に、所定レベルのデータ単位に係わるシンボル値を反転させて復号化するか否かを決定することができる。
まず一例として、階層的ピクチャ復号化部230は、階層的構造のデータ単位別に決定されたシンボルを、階層的構造のデータ単位によって復号化するシンボル階層的復号化モードと、末端レベルのデータ単位に係わるシンボルを復号化する末端レベル復号化モードとのうち、1つのシンボル復号化方式を選択的に決定することができる。
階層的ピクチャ復号化部230が、シンボル階層的復号化モードによって、シンボルを復号化する場合、階層的構造のデータ単位別に決定されたシンボルを、当該階層的構造のデータ単位によって抽出して読み取ることができる。一実施形態によるシンボル階層的符号化モードに基づいて符号化されたシンボルは、シンボル階層的復号化モードに基づいて復号化される。
階層的ピクチャ復号化部230が、末端レベル復号化モードに従って、シンボルを復号化する場合、階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルを抽出して読み取ることができる。その場合、階層的ピクチャ復号化部230は、読み取られた末端レベルがデータ単位に係わるシンボルに基づいて、残りのデータ単位に係わるシンボルを読み取ることができる。一実施形態による末端レベル符号化モードに基づいて符号化されたシンボルは、末端レベル復号化モードに基づいて復号化される。
階層的ピクチャ復号化部230が、シンボルのデータ単位に係わる復号化のために利用されるデータ単位の符号化特性に基づいて、シンボル階層的復号化モード及び末端レベル復号化モードのうち1つのシンボル復号化方式を決定することもできる。例えば、シンボルのデータ単位の予測モード情報及びカラー成分のうち少なくとも一つを含む符号化特性に基づいて、シンボルの階層的復号化いかんが決定される。
他の例として、階層的ピクチャ復号化部230は、同種シンボルをグループ化して復号化する同種シンボルグループ復号化モードと、同種シンボルを個別的に復号化する同種シンボル個別復号化モードとのうち、1つのシンボル復号化方式を選択的に決定することができる。一実施形態による同種シンボルグループ符号化モードによって符号化されたシンボルは、同種シンボルグループ復号化モードによって復号化される。一実施形態による同種シンボル個別符号化モードによって符号化されたシンボルは、同種シンボル個別復号化モードによって復号化される。
同種シンボルグループ復号化モードによって復号化されたシンボルは、階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に高い相関度が生じもする。
一実施形態による同種シンボルのシンボル値間の相関度は、前記シンボル値間に形成されるパターンの形態及び頻度を含む場合、階層的シンボル/データ抽出部220は、ビットストリームから、データ単位に係わる同種シンボルに係わるシンボルコードを抽出し、階層的ピクチャ復号化部230に伝達することができる。
階層的ピクチャ復号化部230は、同種シンボルグループ復号化モードによって、シンボルを復号化する場合、同種シンボルのシンボル値間のパターンの頻度に基づいて、パターンごとに割り当てられるシンボルコードを含むシンボルコード・テーブルを獲得することができる。前記シンボルコード・テーブルは、ビットストリームを介して受信されたり、あるいはビデオ符号化装置100及びビデオ復号化装置200間にあらかじめ決定されている。
階層的ピクチャ復号化部230は、同種シンボルグループ復号化モードによるシンボル復号化のためのシンボルコード・テーブルに基づいて、データ単位について抽出された同種シンボルのシンボルコードから、同種シンボルのシンボル値のパターン及び同種シンボルを読み取ることができる。
階層的ピクチャ復号化部230は、同種シンボル個別符号化モードに基づいて符号化された階層的構造の同種シンボルを、同種シンボル個別復号化モードに基づいて復号化することができる。階層的ピクチャ復号化部230は、同種シンボル個別復号化モードによって、シンボルを復号化する場合、同種シンボル間の相関度と係わりなく、それぞれ階層的構造である同種シンボルを個別的に復号化することができる。
階層的ピクチャ復号化部230が、同種シンボルグループ復号化モードによる復号化を行うシンボルの種類は、スキップモード情報、符号化単位分割情報、変換単位分割情報、及び符号化パターン情報のうち少なくとも一つを含んでもよい。
階層的ピクチャ復号化部230は、ビットストリームから抽出されたスキップモード情報のシンボルコードから、同種シンボルグループ復号化モードによって、スキップモード情報を復号化するか否かを決定し、決定された復号化モードによって、スキップモード情報を復号化することもできる。
階層的ピクチャ復号化部230は、ビットストリームから抽出された符号化単位分割情報のシンボルコードから、同種シンボルグループ復号化モードによって、符号化単位分割情報を復号化するか否かを決定し、決定された復号化モードによって、符号化単位分割情報を復号化することができる。
階層的ピクチャ復号化部230は、ビットストリームから抽出された変換単位分割情報のシンボルコードから、同種シンボルグループ復号化モードによって、変換単位分割情報を復号化するか否かを決定し、決定された復号化モードによって、変換単位分割情報を復号化することもできる。
階層的ピクチャ復号化部230は、ビットストリームから抽出された変換単位符号化パターン情報のシンボルコードから、同種シンボルグループ復号化モードによって、変換単位符号化パターン情報を復号化するか否かを決定し、決定された復号化モードによって、変換単位符号化パターン情報を復号化することもできる。
また階層的ピクチャ復号化部230は、シンボルのデータ単位に係わる復号化のために利用されるデータ単位の符号化特性に基づいて、同種シンボルグループ復号化モード及び前記独立的復号化モードのうち1つのシンボル復号化方式を決定することもできる。例えば、シンボルのデータ単位の予測モード情報、スライスタイプ、カラー成分及び符号化深度及び変換深度のうち少なくとも一つを含む符号化特性に基づいて、シンボルの復号化方式が選択的に決定されもする。
他の例として、階層的ピクチャ復号化部230は、階層的構造の異種シンボルをグループ化して復号化する異種シンボルグループ復号化モードと、異種シンボルを個別的に復号化する異種シンボル個別復号化モードとのうち、1つのシンボル復号化方式を選択的に決定することができる。これにより、異種シンボルグループ符号化モードに基づいて符号化された階層的構造のシンボルは、異種シンボルグループ符号化モードに基づいて復号化される。また、異種シンボル個別符号化モードに基づいて符号化された階層的構造のシンボルは、異種シンボル個別符号化モードに基づいて、階層的構造の異種シンボルがそれぞれ復号化される。
その場合、階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって復号化された階層的構造の異種シンボル間には、相互に高い相関度が生じもする。例えば、階層的構造のデータ単位を基にする復号化過程で、異種シンボルが示す機能の相関度、異種シンボル間の依存的復号化いかん、異種シンボル間の連続的復号化いかんのうち少なくとも一つを含み、復号化された異種シンボル間に、高い相関度が生じもする。
階層的ピクチャ復号化部230は、異種シンボルグループ復号化モードによって、シンボルを復号化する場合、異種シンボルが示す復号化機能間の相関度に基づいて、相互共有するように決定されたコンテクストに基づいて、データ単位について抽出された異種シンボルをそれぞれ読み取ることができる。その場合、共有コンテクストは、ビデオ符号化装置100及びビデオ復号化装置200間にあらかじめ決定されてもいる。
異種シンボルグループ符号化モードによって符号化されたシンボルコードの場合、相互依存的に決定される異種シンボル間に発生する異種シンボルのシンボル値の組み合わせの確率分布に基づいて、異種シンボルのシンボル値の組み合わせについて、シンボルコードがあらかじめ割り当てられている。その場合、階層的ピクチャ復号化部230は、抽出されたシンボルのシンボルコードを、異種シンボルグループ復号化モードによって読み取ることにより、シンボルを復号化することができる。階層的ピクチャ復号化部230は、ビットストリームから抽出された異種シンボルに係わるシンボルコードから、異種シンボルのシンボル値の組み合わせを読み取り、それぞれの異種シンボルを読み取ることができる。読み取られた異種シンボルは、それぞれ階層的構造のデータ単位によって符号化情報として、当該データ単位の復号化過程で相互依存的に利用される。
異種シンボルグループ符号化モードによって符号化されたシンボルコードの場合、連続して決定される異種シンボル間に発生するシンボル値の組み合わせについて、シンボルコードが割り当てられている。その場合、階層的ピクチャ復号化部230は、異種シンボルグループ復号化モードによって、シンボルを復号化することができる。階層的ピクチャ復号化部230は、ビットストリームから抽出された異種シンボルに係わるシンボルコードから異種シンボルのシンボル値の組み合わせを読み取り、それぞれの異種シンボルを読み取ることができる。読み取られた異種シンボルは、それぞれ階層的構造のデータ単位によって符号化情報として、当該データ単位の復号化過程で連続して利用される。
階層的ピクチャ復号化部230は、異種シンボル個別復号化モードによって、シンボルを復号化する場合、異種シンボル間の相関度と係わりなく、階層的構造のデータ単位について抽出されたそれぞれの異種シンボルを読み取ることができる。
階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから、符号化単位分割情報と変換単位分割情報との組み合わせを読み取り、符号化単位分割情報及び変換単位分割情報をそれぞれ復元することができる。
階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから、変換単位分割情報と符号化パターン情報との組み合わせを読み取り、変換単位分割情報及び符号化パターン情報をそれぞれ復元することができる。
階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから、符号化単位の予測モードと予測方式情報との組み合わせを読み取り、符号化単位の予測モード及び予測方式情報をそれぞれ復元することができる。
階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから、符号化単位の分割情報とスキップ情報との組み合わせを読み取り、符号化単位の分割情報及びスキップ情報をそれぞれ復元することができる。
階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから、2以上のカラー成分別符号化パターン情報の組み合わせを読み取り、2以上のカラー成分別符号化パターン情報をそれぞれ復元することができる。例えば、ルマ成分の符号化パターン情報及びクロマ成分の符号化パターン情報の組み合わせが読み取られてそれぞれ復元される。例えば、ルマ成分Y、第1クロマ成分Cr、第2クロマ成分Cb別にそれぞれの符号化パターン情報の組み合わせが読み取られ、それぞれの符号化パターン情報が復元される。
階層的ピクチャ復号化部230によって、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから、2以上のカラー成分別符号化パターン情報と変換単位分割情報との組み合わせを読み取り、それぞれのカラー成分別符号化パターン情報と変換単位分割情報が復元される。例えば、ルマ成分の符号化パターン情報、第1クロマ成分の符号化パターン情報、第2クロマ成分の符号化パターン情報と変換単位分割情報との組み合わせが読み取られ、ルマ成分の符号化パターン情報、第1クロマ成分の符号化パターン情報、第2クロマ成分の符号化パターン情報及び変換単位分割情報がそれぞれ復元される。
他の例として、階層的ピクチャ復号化部230は、階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて復号化するシンボル反転復号化モードと、データ単位に係わるシンボルのシンボル値を、反転なしに復号化する非反転復号化モードとのうち、1つのシンボル復号化方式を選択的に決定することができる。
階層的ピクチャ復号化部230は、シンボル反転復号化モードによって、シンボルを復号化する場合、階層的構造のデータ単位に係わるシンボルのうち、抽出された末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて復号化することができる。また、階層的ピクチャ復号化部230は、シンボル値が反転された末端レベルの上位レベルのデータ単位に係わるシンボルを、反転されたシンボル値に基づいて復号化することができる。一実施形態によるシンボル反転符号化モードに基づいて符号化された階層的構造のシンボルは、シンボル反転符号化モードに基づいて復号化される。シンボル反転復号化モードによって復号化されるシンボルは、階層的構造のデータ単位に係わるシンボル値のうち、0であるシンボル値の比率が特徴的である。
階層的ピクチャ復号化部230は、一実施形態による非反転符号化モードに基づいて符号化された階層的構造のシンボルを、非反転復号化モードに基づいて復号化することができる。階層的ピクチャ復号化部230は、非反転復号化モードによって、シンボルを復号化する場合、抽出された階層的構造のシンボルのシンボル値を、反転なしに復号化することができる。
階層的ピクチャ復号化部230は、シンボルのデータ単位の予測モード情報、スライスタイプ、カラー成分及び符号化深度及び変換深度のうち少なくとも一つを含むデータ単位の符号化特性に基づいて、シンボル反転復号化モード及び非反転復号化モードのうち1つの復号化方式を選択することができる。
結果として、階層的ピクチャ復号化部230が、一実施形態によるシンボル復号化方式によって、復号化したシンボルが、階層的構造のデータ単位によって階層的構造の形態であってもよい。
また、階層的ピクチャ復号化部230が一実施形態によるシンボル復号化方式によって、復号化した階層的構造のシンボルで、所定レベルのデータ単位に係わる同種シンボルで高い相関度のパターンが生じもする。また、階層的ピクチャ復号化部230が、一実施形態によるシンボル復号化方式によって、復号化した階層的構造の所定異種シンボル間に高い関連性が発見される。また、階層的ピクチャ復号化部230が、一実施形態によるシンボル復号化方式によって、復号化限界層的構造のシンボルで、全体レベルで所定パターンが生じもする。
階層的ピクチャ復号化部230は、シンボル復号化方式によって、シンボルを復号化し、シンボルが示す情報を読み取ることができる。例えば、階層的ピクチャ復号化部230は、シンボルから、ピクチャの復号化過程で利用される符号化モード、符号化方式などを示す復号化情報を読み取ることができる。例えば、予測モード情報及び予測方向情報、データ単位の構造情報、符号化パターン情報などがシンボルから読み取られる。
符号化モードに係わる情報に基づいて決定された各種復号化方式によって、符号化されたピクチャについて、エントロピ復号化、逆量子化、逆変換、インター予測/補償、イントラ予測/補償などの各種復号化動作を遂行することにより、画素値を復元して、現在ピクチャを復元することができる。
一実施形態によるビデオ復号化装置200の復号化の基になる階層的構造のデータ単位は、一実施形態によるツリー構造による符号化単位、ツリー構造による変換単位、ツリー構造による符号化単位の予測単位及びパーティションを含んでもよい。その場合、階層的シンボル/データ抽出部220は、パージングされたビットストリームから、それぞれの最大符号化単位に含まれるツリー構造による符号化単位によって、ピクチャの符号化データ及び符号化深度及び符号化モードに係わる情報を示すシンボルを抽出することができる。
これにより、階層的ピクチャ復号化部230は、最大符号化単位ごとにシンボル復号化方式を決定し、ツリー構造による符号化単位、ツリー構造による変換単位及びパーティションに係わる符号化深度、並びに符号化モードに係わる情報を読み取ることができる。階層的ピクチャ復号化部230は、符号化深度及び符号化モードに係わる情報を利用して、ツリー構造による符号化単位、ツリー構造による変換単位及びパーティションに基づいて符号化されたデータを復号化し、ピクチャを復元することができる。
以上、ツリー構造による符号化単位及びツリー構造による変換単位、予測単位及びパーティションの決定方式は、以後、図15ないし図27を参照して説明する。
以下、図3ないし図12を参照し、一実施形態によるビデオ符号化装置100が利用することができる階層的構造のシンボルのためのシンボル符号化方式、及び一実施形態によるビデオ復号化装置200が利用することができる階層的構造のシンボルのためのシンボル復号化方式について説明する。
一実施形態によるビデオ符号化装置100は、シンボル階層的符号化モードと、末端レベル符号化モードとのうち、1つのシンボル符号化方式を選択し、シンボルを符号化することができる。すなわち、ビデオ符号化装置100は、シンボル階層的符号化モードによって、階層的構造のデータ単位別に決定されたシンボルを階層的構造のデータ単位によっていずれも符号化したり、あるいは末端レベル符号化モードによって、末端レベルのデータ単位に係わるシンボルのみを符号化することができる。
図3は、一実施形態による階層的構造の変換単位と、これによる階層的構造の変換単位分割情報とを図示している。
一実施形態による階層的構造のデータ単位の一例である階層的構造の変換単位がある。最上位レベルであるレベル0の変換単位30が、1段階下位レベルであるレベル1の変換単位31a,31b,31c,31dに分割され、レベル1の一部変換単位31a,31dは、それぞれさらに1段階下位レベルであるレベル2の変換単位32a,32b,32c,32d,32e,32f,32g,32hに分割される。
このような変換単位の階層的構造を示すための符号化情報として、それぞれの変換単位が、1段階下位レベルの変換単位に分割されるか否かを示す変換単位分割情報が利用される。例えば、現在変換単位に係わる変換単位分割情報が1であるならば、現在変換単位が下位レベルの変換単位に分割されるということを示し、0であるならば、それ以上分割されないということを示すことができる。
レベル0の変換単位30から分割された変換単位30,31a,31b,31c,31d,32a,32b,32c,32d,32e,32f,32g,32hが、階層的構造を形成することによって、それぞれの変換単位に係わる変換単位分割情報も、階層的構造を形成することができる。すなわち、階層的構造の変換単位分割情報33は、最上位レベル0の変換単位分割情報、レベル1の変換単位分割情報35a,35b,35c,35d、レベル2の変換単位分割情報36a,36b,36c,36d,36e,36f,36g,36hを含む。
階層的構造の変換単位分割情報33において、レベル0の変換単位分割情報は、最上位レベル0の変換単位30が分割されるということを示すことができる。類似した方式で、レベル1の一部変換単位分割情報35a,35dは、それぞれレベル1の変換単位31a,31dが、レベル2の変換単位32a,32b,32c,32d,32e,32f,32g,32hに分割されるということを示すことができる。
レベル1の一部変換単位分割情報35b,35cは、レベル1の変換単位31a,31dがそれ以上分割されず、末端レベルの変換単位であるということを示すことができる。同様に、レベル2の変換単位分割情報36a,36b,36c,36d,36e,36f,36g,36hは、レベル2の変換単位32a,32b,32c,32d,32e,32f,32g,32hがそれ以上分割されず、末端レベルの変換単位であるということを示すことができる。
また、階層的構造の変換単位の符号化方式を示すための符号化情報として、変換単位が0ではない変換係数を含むか否かを示す変換単位符号化パターン情報cbfが利用される。例えば、現在変換単位に係わる変換単位符号化パターン情報が1であるならば、現在変換単位が0ではない変換係数を含むということを示し、0であるならば、0である変換係数のみを含むということを示すことができる。
<シンボル階層的符号化/復号化モード及び末端レベル符号化/復号化モード>
一実施形態によるビデオ復号化装置200は、シンボル階層的復号化モードと、末端レベル復号化モードとのうち、一つに選択的に決定されたシンボル復号化方式によって、シンボルを復号化することができる。すなわち、ビデオ復号化装置200は、シンボル階層的復号化モードによって、抽出されたシンボルコードから、階層的構造のデータ単位別に決定されたシンボルを、階層的構造のデータ単位によっていずれも読み取り、復号化したり、あるいは末端レベル符号化モードによって、抽出された末端レベルのデータ単位に係わるシンボルのみを読み取った後、復号化された末端レベルのシンボルを基に、残りのシンボルを読み取って復号化することができる。
図4及び図5は、それぞれ一実施形態によるシンボル階層的符号化モード、及びこれによって符号化されるシンボルを図示している。図4及び図5で、階層的構造のデータ単位として変換単位が例示され、シンボルとして、変換単位符号化パターン情報が例示される。図4及び図5を参照し、一実施形態による階層的構造の変換単位に係わる変換単位符号化パターン情報のシンボル符号化方式及び復号化方式について以下で説明する。
図3で例示された変換単位30,31a,31b,31c,31d,32a,32b,32c,32d,32e,32f,32g,32hの階層的構造に起因して、変換単位30,31a,31b,31c,31d,32a,32b,32c,32d,32e,32f,32g,32hについて、変換単位符号化パターン情報も、階層的構造40によって構成される。
一実施形態によるビデオ符号化装置100は、シンボル階層的符号化モードによって、全てのレベルの変換単位30,31a,31b,31c,31d,32a,32b,32c,32d,32e,32f,32g,32hに係わる変換単位符号化パターン情報cbf,cbf1a,cbf1b,cbf1c,cbf1d,cbf2a,cbf2b,cbf2c,cbf2d,cbf2e,cbf2f,cbf2g,cbf2hをいずれも符号化することができる。
一実施形態によるビデオ符号化装置100は、末端レベル符号化モードによって、末端レベルの変換単位31b,31c,32a,32b,32c,32d,32e,32f,32g,32hに係わる変換単位符号化パターン情報cbf1b,cbf1c,cbf2a,cbf2b,cbf2c,cbf2d,cbf2e,cbf2f,cbf2g,cbf2hのみを符号化することができる。
一実施形態によるビデオ復号化装置200は、シンボル階層的復号化モードによって、全てのレベルの変換単位30,31a,31b,31c,31d,32a,32b,32c,32d,32e,32f,32g,32hに係わる変換単位符号化パターン情報cbf,cbf1a,cbf1b,cbf1c,cbf1d,cbf2a,cbf2b,cbf2c,cbf2d,cbf2e,cbf2f,cbf2g,cbf2hをいずれも抽出して読み取ることにより、階層的構造の変換単位符号化パターン情報を復元することができる。
一実施形態によるビデオ復号化装置200は、末端レベル符号化モードによって、末端レベルの変換単位31b,31c,32a,32b,32c,32d,32e,32f,32g,32hに係わる変換単位符号化パターン情報cbf1b,cbf1c,cbf2a,cbf2b,cbf2c,cbf2d,cbf2e,cbf2f,cbf2g,cbf2hのみを抽出することができる。次に、ビデオ復号化装置200は、抽出して読み取られた末端レベルの変換単位符号化パターン情報cbf1b,cbf1c,cbf2a,cbf2b,cbf2c,cbf2d,cbf2e,cbf2f,cbf2g,cbf2hを基に、残りの変換単位符号化パターン情報cbf0,cbf1a,cbf1b,cbf1c,cbf1dを読み取ることにより、階層的構造の変換単位符号化パターン情報をいずれも復元することができる。
一実施形態による階層的構造のシンボルのうち、シンボル値が0であるシンボルの比率(シンボル分布)に基づいて、シンボル階層的符号化モード、または末端レベル符号化モードのシンボル符号化方式が決定される。
図6及び図7は、一実施形態によるシンボル階層的符号化モード、及び末端レベル符号化モードのうち一つが選択されるそれぞれの実施形態を図示している。
例えば、階層的構造のシンボルのうち、末端レベルのシンボルにおいて、シンボル値が0であるシンボルの比率に基づいて、シンボル階層的符号化モードまたは末端レベル符号化モードのシンボル符号化方式が決定される。
第1階層的構造の変換単位符号化パターン情報65において、レベル0の変換単位符号化パターン情報60によって、レベル0の変換単位が0ではない変換係数を含まないということが分かる。これにより、レベル1及びレベル2の変換単位符号化パターン情報61a,61b,61c,61d,62a,62b,62c,62d,62e,62f,62g,62hが示すレベル1及びレベル2の変換単位も、0ではない変換係数を含まないということが推定される。
従って、第1階層的構造の変換単位符号化パターン情報65が、シンボル階層的符号化モードによって符号化される場合、レベル0の変換単位符号化パターン情報60だけが符号化される。従って、シンボル階層的符号化モードによって出力される変換単位符号化パターン情報65のビット列は、「0」である。
これに対し、第1階層的構造の変換単位符号化パターン情報65が、末端レベル符号化モードによって符号化される場合、末端レベルの変換単位符号化パターン情報61b,61c,62a,62b,62c,62d,62e,62f,62g,62hが符号化される。符号化された変換単位符号化パターン情報の出力順序は、変換単位符号化パターン情報の階層的構造において、同一レベルの水平方向よりは、上下レベルの垂直方向に沿った出力手順が優先される。このような出力手順によれば、上位レベルの変換単位符号化パターン情報の手順によるので、末端レベル符号化モードによって出力される変換単位符号化パターン情報65のビット列は、「0000 0 0 0000」である。
従って、第1階層的構造の変換単位符号化パターン情報65のように、末端レベルの変換単位符号化パターン情報61b,61c,62a,62b,62c,62d,62e,62f,62g,62hのシンボル分布が稠密ではない場合、すなわち、シンボル値が0であるシンボルの比率が高い場合には、末端レベル符号化モードに比べて、シンボル階層的符号化モードによる符号化効率が相対的に高い。
また、第2階層的構造の変換単位符号化パターン情報75が、シンボル階層的符号化モードによって符号化される場合、レベル0、レベル1及びレベル2の変換単位符号化パターン情報70,71a,71b,71c,71d,72a,72b,72c,72d,72e,72f,72g,72hがいずれも符号化される。従って、シンボル階層的符号化モードによって符号化された変換単位符号化パターン情報75は、出力ビット列が「1 1 1011 0 1 1 1110」である。
これに対し、第2階層的構造の変換単位符号化パターン情報75が、末端レベル符号化モードによって符号化される場合、末端レベルの変換単位符号化パターン情報71b,71c,72a,72b,72c,72d,72e,72f,72g,72hが符号化される。従って、末端レベル符号化モードによって符号化された変換単位符号化パターン情報75の出力ビット列は、「1011 0 1 1110」である。
従って、第2階層的構造の変換単位符号化パターン情報75のように、末端レベルの変換単位符号化パターン情報61b,61c,62a,62b,62c,62d,62e,62f,62g,62hのシンボル分布が稠密である場合、すなわち、シンボル値が0ではないシンボルの比率が高い場合には、シンボル階層的符号化モードに比べて、末端レベル符号化モードによる符号化効率が高い。
すなわち、一実施形態による階層的構造のデータ単位によって決定される階層的構造のシンボルのうち、シンボル値が0であるシンボルの比率が高い場合、すなわち、シンボル分布が稠密ではない場合には、末端レベル符号化モードに比べて、シンボル階層的符号化モードによる符号化効率が高い。これに対し、シンボル値が0であるシンボルの比率が低い場合、すなわち、シンボル分布が稠密である場合には、末端レベル符号化モードによる符号化効率が高い。
従って、ビデオ符号化装置100が、シンボル分布のようなシンボル特性を考慮して、シンボル符号化方式を決定することにより、現在階層的構造のシンボルのための最適化された符号化方式を決定することができる。
ビデオ符号化装置100は、シンボルのデータ単位の符号化特性に基づいて、シンボル階層的符号化モード、及び末端レベル符号化モードのうち1つのシンボル符号化方式を決定することもできる。
図8は、一実施形態によって、符号化特性に基づいて、シンボル階層的符号化モード、及び末端レベル符号化モードのうち一つが選択されるそれぞれの実施形態を図示している。
階層的構造のデータ単位である変換単位83に係わる階層的構造のシンボルの一例である変換単位符号化パターン情報85のために、シンボル階層的符号化モード、及び末端レベル符号化モードの選択基準になる符号化特性について以下で説明する。
階層的構造のデータ単位である変換単位83に係わる階層的構造の変換単位符号化パターン情報85は、レベル0、レベル1及びレベル2の変換単位についてそれぞれ決定されたレベル0、レベル1及びレベル2の変換単位符号化パターン情報80,81a,81b,81c,81d,82a,82b,82c,82d,82e,82f,82g,82hを含んでもよい。
変換単位83の予測モードによって、シンボル値が0であるシンボルの比率が特徴づけられる。例えば、変換単位83の予測モードがインターモードである場合、シンボル値が0であるシンボルの比率が高く、イントラモードである場合、シンボル値が0であるシンボルの比率が低い。
これにより、ビデオ符号化装置100及びビデオ復号化装置200は、変換単位83の予測モードがイントラモードである場合、末端レベル符号化モード及び末端レベル復号化モードをそれぞれ採択することができる。すなわち、末端レベル符号化モードによって、階層的構造の変換単位符号化パターン情報85において送受信される変換単位符号化パターン情報87は、末端レベルの変換単位符号化パターン情報81b,81c,82a,82b,82c,82d,82e,82f,82g,82hのみを含む。
また、これにより、ビデオ符号化装置100及びビデオ復号化装置200は、変換単位83の予測モードがインターモードである場合、シンボル階層的符号化モード及びシンボル階層的復号化モードをそれぞれ採択することができる。すなわち、シンボル階層的符号化モードによって、階層的構造の変換単位符号化パターン情報85において送受信される変換単位符号化パターン情報89は、階層的構造によって、変換単位符号化パターン情報80,81a,81b,81c,81d,82a,82b,82c,82dを含む。
ビデオ符号化装置100によって選択されたシンボル符号化方式によって、階層的構造の変換単位符号化パターン情報85において、一部変換単位符号化パターン情報87,89のみが符号化されて伝送され、ビデオ復号化装置200によって受信されても、これに相応するシンボル復号化方式によって、一部変換単位符号化パターン情報87,89から、階層的構造の変換単位符号化パターン情報85が全部復元されるということは、前述の通りである。
同様に、変換単位83のカラー成分によって、シンボル値が0である変換単位符号化パターン情報の比率が特徴づけられる。例えば、変換単位83のカラー成分がクロマ成分である場合、シンボル値が0である変換単位符号化パターン情報の比率が高く、ルマ成分であるの場合、シンボル値が0である変換単位符号化パターン情報の比率が低い。これにより、ビデオ符号化装置100及びビデオ復号化装置200は、変換単位83のカラー成分がルマ成分である場合、末端レベル符号化モード及び末端レベル復号化モードをそれぞれ採択し、カラー成分がクロマ成分である場合、シンボル階層的符号化モード及びシンボル階層的復号化モードをそれぞれ採択することができる。
他の例として、変換単位83の予測モード及びカラー成分の組み合わせによる符号化特性によって、シンボル値が0である変換単位符号化パターン情報の比率が特徴づけられる。例えば、変換単位83の予測モード及びカラー成分の組み合わせがイントラモード及びルマ成分の組み合わせである場合、シンボル値が0である変換単位符号化パターン情報の比率が最も低く、残りの組み合わせでは、シンボル値が0である変換単位符号化パターン情報の比率が高い。これにより、ビデオ符号化装置100及びビデオ復号化装置200は、変換単位83の予測モード及びカラー成分の組み合わせが、イントラモード及びルマ成分の組み合わせである場合、末端レベル符号化モード及び末端レベル復号化モードをそれぞれ採択し、残りの予測モード及びカラー成分の組み合わせである場合、シンボル階層的符号化モード及びシンボル階層的復号化モードをそれぞれ採択することができる。
<同種シンボルグループ符号化/復号化モード>
一実施形態によるビデオ符号化装置100は、同種シンボルグループ符号化モードと、同種シンボル個別符号化モードとのうち、1つのシンボル符号化方式を選択し、シンボルを符号化することができる。すなわち、ビデオ符号化装置100は、同種シンボルグループ符号化モードによって、階層的構造による同種シンボルのシンボル値のうち、相互相関度が高いシンボル値をグループ化して符号化したり、あるいは同種シンボル個別符号化モードによって同種シンボルのシンボル値の相関度に係わりなく、シンボルを個別的に符号化することができる。
一実施形態によるビデオ復号化装置200は、同種シンボルグループ復号化モードと、同種シンボル個別符号化モードとのうち、一つに選択的に決定されたシンボル復号化方式によって、シンボルを復号化することができる。すなわち、ビデオ復号化装置200は、同種シンボルグループ復号化モードによって、抽出されたシンボルコードから、同種シンボルのシンボルパターンによるシンボルグループを読み取ることにより、階層的構造のシンボルをいずれも読み取って復号化することができる。また、ビデオ復号化装置200は、同種シンボル個別復号化モードによって、抽出されたシンボルコードから、シンボルのシンボル値を個別的に抽出し、今後階層的構造のシンボルを読み取って復号化することができる。
図9は、一実施形態による同種シンボルグループ符号化モードによって符号化されるシンボルを図示している。
一実施形態による階層的構造のシンボル95において、同じレベルの4個のシンボルのシンボル値が「1,1,1,1」を有する場合のように、同種シンボルのシンボル値間に一定パターンが生じもする。また、シンボル値のパターンにおいて、所定パターンの発生頻度が特に高い。従って、一実施形態によるビデオ符号化装置100は、相互相関度が高い同種シンボルのシンボル値間のパターンに基づいて、当該シンボルに係わるシンボルコード・テーブルを決定することができる。
一実施形態による同種シンボルグループ符号化方式に従ったシンボル符号化のために、シンボル値のパターン及びその頻度に基づいて、パターンごとに固有シンボルコードが割り当てられる。パターンの発生頻度が高いほど、短いシンボルコードが割り当てられる。下記表1は、一実施形態による階層的構造の同種シンボルのグループ符号化のためのグループテーブルを例示している。
表1で例示されたグループテーブルによれば、4個の同種シンボルについて、シンボル値のパターンが「1,1,1,1」の発生頻度が最も高ければ、パターン「1,1,1,1」に最小長さのシンボルコード「1」が割り当てられる。残りのシンボル値のパターンについては、相対的に長いシンボルコードが割り当てられる。
一実施形態によるスキップモード情報は、現在データ単位に係わるイントラ/インター予測情報を省略したまま、以前に符号化された周辺データ単位の情報を借用する符号化モードを示す。一実施形態によるスキップモード情報も、階層的構造のデータ単位によって、階層的に決定される。従って、同種シンボルグループ符号化モードによって、スキップモード情報を符号化するためのシンボルコード・テーブルで、スキップモード情報のシンボル値のパターンにおいて、発生頻度が最も高いパターン「1,1,1,0」に、最短のシンボルコードが割り当てられる。
一実施形態による符号化単位分割情報は、上位レベルの符号化単位が、下位レベルの符号化単位に分割されるか否かを示す。一実施形態による符号化単位分割情報も、階層的構造のデータ単位によって階層的に決定される。従って、同種シンボルグループ符号化モードによって、符号化単位分割情報を符号化するためのシンボルコード・テーブルで、符号化単位分割情報のシンボル値のパターンにおいて、発生頻度が最も高いパターン「0,0,0,1」に最短のシンボルコードが割り当てられる。
また、一実施形態による予測モード及びカラー成分組み合わせによる変換単位符号化パターン情報も、階層的構造の変換単位によって階層的に決定される。
例えば、イントラルマモードの変換単位に係わる変換単位符号化パターン情報を、同種シンボルグループ符号化モードによって符号化するためのシンボルコード・テーブルでは、変換単位符号化パターン情報のシンボル値のパターンにおいて、発生頻度が最も高いパターン「1,1,1,1」に最短のシンボルコードが割り当てられる。
例えば、インタークロマモードの変換単位に係わる変換単位符号化パターン情報を、同種シンボルグループ符号化モードによって符号化するためのシンボルコード・テーブルでは、変換単位符号化パターン情報のシンボル値のパターンにおいて、発生頻度が最も高いパターン「0,0,0,0」に最短のシンボルコードが割り当てられる。
ビデオ復号化装置200は、同種シンボルグループ復号化モードによって決定されたシンボルコード・テーブルを基に、抽出されたシンボルコードに対応するシンボル値のパターンを読み取ることにより、階層的構造のシンボルをいずれも読み取って復号化することができる。
以下記、表2、表3、表4は、それぞれインターモードの変換単位符号化パターン情報(Inter cbf)、イントラモードの変換単位符号化パターン情報(Intra cbf)、及びイントラ方向情報(Intra direction)の同種シンボルグループ符号化(復号化)モードによるシンボル符号化(復号化)のためのシンボルコード・テーブルを例示している。
<異種シンボルグループ符号化/復号化モード>
一実施形態によるビデオ符号化装置100は、異種シンボルグループ符号化モードと、異種シンボル個別符号化モードとのうち、1つのシンボル符号化方式を選択し、異種シンボルを共に符号化することができる。すなわち、ビデオ符号化装置100は、異種シンボルグループ符号化モードによって、階層的構造による相互相関度が高い異種シンボルをグループ化して符号化したり、あるいは異種シンボル個別符号化モードによって、異種シンボル間の相関度に係わりなく、異種シンボルを個別的に符号化することができる。
一実施形態によるビデオ復号化装置200は、異種シンボルグループ復号化モードと、異種シンボル個別符号化モードとのうち、一つに選択的に決定されたシンボル復号化方式によって、シンボルを復号化することができる。すなわち、ビデオ復号化装置200は、異種シンボルグループ復号化モードによって、抽出されたシンボルコードから異種シンボルのグループを読み取ることにより、今後階層的構造の異種シンボルをそれぞれ復号化することができる。また、ビデオ復号化装置200は、異種シンボル個別復号化モードによって、個別的に抽出された異種シンボルのシンボルコードから、階層的構造の異種シンボルをそれぞれ読み取って復号化することができる。
一実施形態による異種シンボルグループ符号化モード及び異種シンボルグループ復号化モードで考慮される異種シンボル間の相関度は、異種シンボルが示す符号化特性の機能的類似性、依存性、連続性などを含んでもよい。
一実施形態によるビデオ符号化装置100は、階層的構造のデータ単位を基にした符号化過程で、異種シンボルが示すそれぞれ特定機能が相互類似しているならば、異種シンボル間の相関度が高いと見て、異種シンボルをグループ化して符号化することができる。一実施形態によるビデオ符号化装置100は、相互類似した機能の異種シンボルのコンテクストモデルを共有させ、共有コンテクストを使用して、異種シンボルを符号化することができる。
図10は、一実施形態による異種シンボルグループ符号化モードが選択される実施形態を図示している。
最大符号化単位101,102,103で、濃い境界のブロックは、符号化単位を示し、薄色の境界のブロックは、変換単位を示す。変換単位は、当該符号化単位より大きくはない。
階層的構造の符号化単位分割情報によって、最大符号化単位101,102,103が、それぞれ最上位レベル0であるならば、最大符号化単位101,102,103は、符号化単位Cu1のようなレベル1の符号化単位に分割され、レベル1の符号化単位は、符号化単位Cu2a,Cu2b,Cu2c,Cu2d,Cu3b,Cu3c,Cu3dのようなレベル2の符号化単位に分割される。レベル2の符号化単位は、符号化単位Cu3aa,Cu3adのようなレベル3の符号化単位に分割される。
例えば、符号化単位分割情報は、階層的構造の符号化単位に基づいた符号化過程で、現在符号化単位を、下位レベルの符号化単位に分割する機能を示す。また、変換単位分割情報は、階層的構造の符号化単位に基づいた符号化過程で、現在符号化単位内の現在変換単位を、下位レベルの変換単位に分割する機能を示す。
従って、一実施形態によって、それぞれ階層的構造として決定される符号化単位分割情報及び変換単位分割情報は、互いに符号化過程で、上位レベルのデータ単位を分割するという機能で、機能的に類似している。
例えば、異種シンボル個別符号化モードによれば、現在領域に係わる符号化単位分割情報は、以前に符号化された周辺符号化単位の深度(レベル)を参照して決定されたコンテクストを使用して、シンボル符号化される。現在領域に係わる変換単位分割情報は、現在変換単位の変換深度(レベル)を参照して決定されたコンテクストを使用して、シンボル符号化される。
しかし、所定データ単位が、符号化単位分割情報及び変換単位分割情報によって決定されても、符号化単位分割情報のコンテクストの基になる周辺符号化単位の深度、または変換単位分割情報のコンテクストの基になる現在変換単位の深度と係わりなく、特異である。
例えば、周辺符号化単位の深度が深く(下位レベル)、現在変換単位の深度が深くない(上位レベル)場合、現在符号化単位の深度が深くないとしても、現在変換単位の深度は深い。同一の場合、現在符号化単位の深度が深ければ、現在変換単位の深度が深くなければならない。
他の例として、周辺符号化単位の深度が深くなく(上位レベル)、現在変換単位の深度が深い(下位レベル)場合、現在符号化単位の深度も深ければ、現在変換単位の深度は深くなってしまう。同一の場合、現在符号化単位の深度が深くなければ、現在変換単位の深度は深い。
一実施形態による符号化単位分割情報及び変換単位分割情報が、現在領域を決定するための類似した機能を示し、同時に利用される。これにより、前記既存コンテクストと係わりなく特異な場合をいずれも反映させるためには、一実施形態によるビデオ符号化装置100は、一実施形態による符号化単位分割情報及び変換単位分割情報を符号化するために、符号化単位分割情報及び変換単位分割情報間に共有されたコンテクストを使用することができる。
すなわち、符号化単位分割情報によるコンテクスト、及び変換単位分割情報によるコンテクストが別個に使用されるのではなく、符号化単位分割情報と変換単位分割情報との組み合わせによる共有コンテクストが使用されることにより、符号化単位分割情報及び変換単位分割情報がグループ化して符号化/復号化される。
一例による異種シンボルグループ符号化モードによれば、符号化単位分割情報及び変換単位分割情報が、いずれも周辺符号化単位の深度、及び現在変換単位の変換深度に基づいたコンテクストを使用して符号化されたり復号化される。
他の例による異種シンボルグループ符号化モードによれば、符号化単位分割情報は、周辺符号化単位の深度に基づいたコンテクストを使用して符号化されるが、変換単位分割情報は、周辺符号化単位の深度、及び現在変換単位の変換深度に基づいたコンテクストを使用して符号化されたり復号化される。
さらに他の例による異種シンボルグループ符号化モードによれば、変換単位分割情報は、現在変換単位の深度に基づいたコンテクストを使用して符号化されるが、符号化単位分割情報は、周辺符号化単位の深度、及び現在変換単位の変換深度に基づいたコンテクストを使用して符号化されたり復号化される。
一実施形態によって、異種シンボル間の機能的類似性に基づいて共有されたコンテクストを利用することにより、グループ符号化またはグループ復号化が決定される異種シンボルの組み合わせは、符号化単位分割情報と変換単位分割情報との組み合わせだけではなく、変換単位分割情報と符号化パターン情報との組み合わせ、符号化単位の予測モードと予測方式情報との組み合わせ、符号化単位の分割情報とスキップ情報との組み合わせ、2以上のカラー成分別符号化パターン情報の組み合わせ、2以上のカラー成分別符号化パターン情報と変換単位分割情報との組み合わせのうち少なくとも一つを含んでもよい。
これにより、一実施形態によるビデオ復号化装置200も、相互類似した機能の異種シンボル間に共有されたコンテクストを使用して、異種シンボルをそれぞれ復号化することができる。
また、一実施形態によるビデオ符号化装置100は、異種シンボルグループ符号化モードによってシンボルを符号化する場合、先行するシンボルによって、後続するシンボルが決定される相互依存性が高い異種シンボルをグループ化して符号化することができる。すなわち、依存的に決定される異種シンボルのシンボル値の組み合わせの確率分布に基づいて、シンボル値の組み合わせに係わるシンボルコードが割り当てられる。
一実施形態によるビデオ符号化装置100は、所定レベルの変換単位分割情報について、変換単位分割情報のシンボル値によって、特定の変換単位符号化パターン情報を利用することができる。
一例として、ルマ成分の変換単位について、変換単位分割情報のシンボル値が0であるならば、変換単位符号化パターン情報が、0または1に決定される。その場合、階層的構造の変換深度において、現在許容された最終レベルより1段階上位レベルの変換単位については、変換単位分割情報のシンボル値が1であり、変換単位符号化パターン情報は、「0000」ないし「1111」のシンボル値を有することができる。
従って、一実施形態によるビデオ符号化装置100は、最終レベルより1段階上位レベルであるルマ成分の変換単位の場合、変換単位分割情報と変換単位符号化パターン情報とのシンボル値の確率分布に基づいて、変換単位分割情報と変換単位符号化パターン情報との組み合わせごとに、1つのシンボルコードを割り当てることにより、両シンボルをグループ化して符号化することができる。
表5は、最終レベルより1段階上位レベルであるルマ成分の変換単位に係わる変換単位分割情報(TrSubDiv)と、変換単位符号化パターン情報cbfとのグループ符号化のためのシンボルコード・テーブルを例示している。変換単位分割情報(TrSubDiv)のシンボル値が「1」であり、変換単位符号化パターン情報cbfのシンボルパターンが「1,1,1,1」である組み合わせの発生確率が最も高い。
同一の場合、変換深度において、最上位レベルまたは中間レベルの変換単位については、変換単位分割情報のシンボル値が1であるならば、変換単位符号化パターン情報は、符号化されないこともある。
従って、一実施形態によるビデオ符号化装置100は、最上位レベルまたは中間レベルであるルマ成分の変換単位の場合にも、変換単位分割情報と変換単位符号化パターン情報とのシンボル値の確率分布に基づいて、変換単位分割情報と変換単位符号化パターン情報との組み合わせにシンボルコードを割り当てることにより、両シンボルをグループ化して符号化することができる。
表6は、最上位レベルまたは中間レベルであるルマ成分の変換単位に係わる変換単位分割情報(TrSubDiv)と、変換単位符号化パターン情報cbfとのグループ符号化のためのシンボルコード・テーブルを例示している。変換単位分割情報(TrSubDiv)のシンボル値が「0」であり、変換単位符号化パターン情報cbfのシンボルパターンが「0」である組み合わせの発生確率が最も高い。
一実施形態によるビデオ符号化装置100は、符号化単位分割情報のシンボル値によって、スキップモード情報を利用することができる。
一例として、それ以上分割されるということのない最終レベルの符号化単位であるか、あるいは符号化単位分割情報のシンボル値が0である符号化単位について、スキップモード情報が符号化される。
従って、一実施形態によるビデオ符号化装置100は、符号化単位分割情報とスキップモード情報とのシンボル値の確率分布に基づいて、符号化単位分割情報とスキップモード情報との組み合わせごとに、1つのシンボルコードを割り当てることにより、両シンボルをグループ化して符号化することができる。
表7は、符号化単位に係わる符号化単位分割情報(Split)とスキップモード情報(Skip)とのグループ符号化のためのシンボルコード・テーブルを例示している。また、符号化単位分割情報とスキップモード情報とのシンボル値の確率分布は、現在スライスタイプ(Pスライス、Bスライス)によって異なるので、現在スライスタイプによって、異なるコードテーブルが設定される。
一実施形態によるビデオ符号化装置100は、符号化単位の予測モードによって、予測方式情報が可変的に決定することができる。
一実施形態による符号化単位の予測モードは、少なくとも1つのスキップモード、少なくとも1つのイントラモード、少なくとも1つのインターモードを含んでもよい。例えば、スキップ0モード、スキップ1モードのような多数のスキップモード、イントラ0モード、イントラ1モードのような多数のイントラモード、インター0モード、インター1モードのような多数のインターモードなどが予測モードとして利用される。
一実施形態による多数のスキップモードは、一般スキップモード、併合モード、ダイレクトモードのような多数の予測情報符号化方式を示すことができる。一実施形態による多数のイントラモードは、DC(direct current)モード、垂直モード、水平モードのような多数のイントラ予測方向を示すことができる。一実施形態による多数のインターモードは、前方向(forward-direction)、後方向(backward-direction)、両方向(bi-direction)、ダイレクト方向(direct-direction)のような多数のインター予測方向を示すことができる。
符号化単位の予測モードが、スキップモード、イントラモード、インターモードであるか否かによって、それぞれ予測情報符号化方式、イントラ予測方向、インター予測方向を示す細部予測方式情報が符号化される。
従って、一実施形態によるビデオ符号化装置100は、符号化単位の予測モード及び細部予測方式情報のシンボル値の確率分布によって、符号化単位の予測モード及び細部予測方式情報の組み合わせごとに、1つのシンボルコードを割り当てることにより、両シンボルをグループ化して符号化することができる。また、現在スライスタイプによって、可能な予測モードが特定されるので、現在スライスタイプによって、異なるシンボルコードが決定される。
表8は、スライスタイプによって、符号化単位に係わる予測モード情報及び細部予測方式情報のグループ符号化のためのシンボルコード・テーブルを例示している。
例えば、階層的シンボル符号化部130は、異種シンボルグループ符号化モードによって、シンボルを符号化する場合、連続して決定される異種シンボル間に発生する異種シンボルのシンボル値の組み合わせに係わるシンボルコードを割り当てることができる。階層的シンボル符号化部130は、異種シンボルのシンボル値の組み合わせについて、割り当てられたシンボルコードを出力することができる。
また、一実施形態によるビデオ符号化装置100は、異種シンボルグループ符号化モードによって、シンボルを符号化する場合、連続して決定される異種シンボルをグループ化して符号化することができる。すなわち、連続して決定される異種シンボルのシンボル値の組み合わせに係わるシンボルコードが割り当てられる。
ビデオ符号化装置100及びビデオ復号化装置200で、現在フレームの予測符号化のために、参照フレームインデックスを示す参照フレームインデックス情報と、動きベクトル推定子(MVP:motion vector predictor)のインデックス情報とが利用される。参照フレームインデックス情報と動きベクトル推定子は、一実施形態によるビデオ符号化装置100によって連続して符号化され、一実施形態によるビデオ復号化装置200によって連続して抽出されて復号化される。
一実施形態による異種シンボルグループ符号化方式によるシンボル符号化のために、参照フレームインデックス情報と、動きベクトル推定子インデックス情報とのシンボル値の可能な組み合わせごとに、それぞれの新たなシンボル値が割り当てられる。表9、表10、表11は、参照フレームインデックス情報(RefFrmIdx)と、動きベクトル推定子インデックス情報(MVPIdx)とのグループ符号化のためのシンボルテーブルをそれぞれ例示している。
参照フレームインデックス情報(RefFrmIdx)と動きベクトル推定子インデックス情報(MVPIdx)との組み合わせに新たに割り当てられたシンボル値は、シンボルコードとして出力される。
また、ルマ成分の変換単位符号化パターン情報、及びクロマ成分の変換単位符号化パターン情報Y−cbf,Cb−cbf,Cr−cbfのように、変換単位符号化パターン情報の単一シンボルであるが、異なる用途に使用される異種シンボルについて、一実施形態による異種シンボルグループ符号化(復号化)モードによるシンボル符号化(復号化)が可能である。
ビデオ復号化装置200は、異種シンボルグループ復号化モードによって、異種シンボルの組み合わせに割り当てられたシンボルコードに基づいて、ビットストリームから抽出されたシンボルコードに対応する異種シンボルの組み合わせを読み取ることにより、階層的構造の異種シンボルをそれぞれ復号化することができる。
<シンボル反転符号化/復号化モード>
一実施形態によるビデオ符号化装置100は、シンボル反転符号化モードと非反転符号化モードとのうち1つのシンボル符号化方式を選択し、階層的構造のシンボルを符号化することができる。すなわち、ビデオ符号化装置100は、シンボル反転符号化モードによって、階層的構造の異種シンボルのうち、所定レベルのシンボルのシンボル値0,1を反転させて符号化したり、あるいは非反転符号化モードによって、シンボル値の反転なしにシンボルを符号化することができる。
一実施形態によるビデオ復号化装置200は、シンボル反転復号化モードと非反転復号化モードとのうち、一つに選択的に決定されたシンボル復号化方式によって、シンボルを復号化することができる。すなわち、ビデオ復号化装置200は、シンボル反転復号化モードによって、抽出された所定レベルのシンボルコードを反転させてシンボルを読み取り、反転して読み取られたシンボルを基に、残りのシンボルを読み取って復号化することができる。また、ビデオ復号化装置200は、非反転復号化モードによって、抽出されたシンボルのシンボルコードの反転なしにシンボルを読み取って復号化することができる。
図11は、一実施形態によるシンボル反転符号化モードによって符号化されるシンボルを図示している。
一実施形態による階層的構造のデータ単位によって決定される階層的構造のシンボル115が、シンボル階層的符号化モードによって符号化される場合、レベル0、レベル1及びレベル2の変換単位符号化パターン情報110,111a,111b,111c,111d,112a,112b,112c,112d,112f,112g,112hがいずれも符号化される。従って、シンボル階層的符号化モードによって符号化されたシンボル115の出力ビット列は、「1 1 1111 0 1 1 1111」である。
一実施形態によるビデオ符号化装置100は、シンボル反転符号化モードによって、階層的構造のシンボル115において、末端レベルのシンボル111b,111c,112a,112b,112c,112d,112f,112g,112hのシンボル値を反転させて符号化することができる。
すなわち、末端レベルのシンボル111b,111c,112a,112b,112c,112d,112f,112g,112hのシンボル値の反転結果、シンボル116b,116c,117a,117b,117c,117d,117f,117g,117hが符号化され、レベル2の反転されたシンボル117a,117b,117c,117d,117f,117g,117hによって、上位レベル1のシンボル116a,116dも、原本シンボル111a,111dから反転される。
シンボル値の反転結果、階層的構造のシンボル119の出力ビット列は、「10100」である。
従って、階層的構造のシンボル115において、シンボル値が0ではないシンボルの比率が高い場合、すなわち、シンボル分布が稠密である場合には、末端レベルのシンボルのシンボル値0,1を反転すれば、稠密ではないシンボル分布が稠密ではないように変更される。稠密ではないシンボル分布のシンボルについては、階層的符号化モードによるシンボル符号化の効率が高くなる。
従って、ビデオ符号化装置100が、シンボル分布のようなシンボル特性を考慮して、末端レベルのシンボルのシンボル値を反転させて符号化するか否かを決定することにより、現在階層的構造のシンボルのための最適化された符号化方式を決定することができる。
図12は、一実施形態によるシンボル反転符号化モードによるシンボルの符号化過程及び復号化過程を図示している。
原本変換単位121,122,123,124に係わる原本変換単位符号化パターン情報テーブル1200によれば、原本変換単位121,122,123,124に係わるそれぞれの変換単位符号化パターン情報1201,1202,1203,1204は、0ではないシンボル値の比率が高くてシンボル分布がコンパクトである。
一実施形態によるシンボル反転符号化モードによって、変換単位符号化パターン情報1201,1202,1203,1204のうち、末端レベルのシンボル値を反転すれば、変換単位符号化パターン情報1295,1296,1297,1298の末端レベルのシンボル値に変更される。特に、シンボル値反転後の変換単位符号化パターン情報1296,1298の末端レベルのシンボル値は、いずれも0になるので、これにより、上位変換深度1の変換単位符号化パターン情報も、0に反転される。
従って、シンボル値反転後の変換単位125,126,127,128に係わる変換単位符号化パターン情報テーブル1290によれば、シンボル値反転前に比べて、符号化するコード長が短くなるということを確認することができる。
以上、図3ないし図12を参照し、一実施形態による階層的構造のシンボルのためのシンボル符号化方式及びシンボル復号化方式について説明した。説明の便宜のために、特定シンボルを利用して記述されたが、本発明で説明したシンボル符号化方式及びシンボル復号化方式が適用可能なシンボルは、図3ないし図12で例示されたシンボルに限定されず、階層的構造を構成することができる各種シンボルに適用可能であるということが、当業者に容易に理解されるであろう。
また、前掲の表1ないし表11で例示されたシンボル符号化のためのコードテーブルも、説明の便宜のための例示であるので、本発明によって提案されたそれぞれの実施形態によるシンボル符号化モード及びシンボル復号化モードのためのコードテーブルは、表1ないし表11に限定されて解釈されるものではなく、同一のシンボルパターンとシンボルコードとが他の形態にマッピングされるコードテーブルも可能であるということは、当業者に容易に理解されるであろう。
図13は、一実施形態による階層的構造のシンボルを符号化するビデオ符号化方法のフローチャートを図示している。段階131で、階層的構造のデータ単位を基に、入力ビデオのピクチャが符号化される。段階132では、段階131で符号化されたピクチャに係わるシンボルが、階層的構造のデータ単位を基に決定される。段階133では、段階132で、階層的構造のデータ単位を基に決定されたシンボルの特性に基づいて、シンボルの符号化方式が決定される。
一実施形態によって、階層的構造のデータ単位別に決定されたシンボルを、階層的構造のデータ単位によって符号化するシンボル階層的符号化モード、及び末端レベルのデータ単位に係わるシンボルを符号化する末端レベル符号化モードのうち、シンボル符号化方式が選択的に決定される。シンボルのデータ単位の予測モード情報及びカラー成分のうち少なくとも一つを含む符号化特性に基づいて、シンボル階層的符号化モード、及び末端レベル符号化モードのうち1つのシンボル符号化方式が決定される。
一実施形態によって、階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、同種シンボルをグループ化して符号化する同種シンボルグループ符号化モード、及び同種シンボルを個別的に符号化する同種シンボル個別符号化モードのうち、1つのシンボル符号化方式が選択的に決定される。一実施形態によって、シンボルのデータ単位の予測モード情報、スライスタイプ、カラー成分、符号化深度及び変換深度のうち少なくとも一つを含む符号化特性に基づいて、同種シンボルグループ符号化モード、及び前記独立的符号化モードのうち1つのシンボル符号化方式が決定される。
一実施形態によって、階層的構造のデータ単位別に決定された異種シンボルの相関度を基に、異種シンボルをグループ化して符号化する異種シンボルグループ符号化モード、及び異種シンボルを個別的に符号化する異種シンボル個別符号化モードのうち、1つのシンボル符号化方式が選択的に決定される。一実施形態によって、階層的構造の異種シンボルが示す機能の相関度、依存的符号化いかん、連続的符号化いかんのうち少なくとも一つによって異種シンボルグループ符号化が決定される。
一実施形態によって、階層的構造のデータ単位に係わるシンボル値のうち、0であるシンボル値の比率を基に、末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて符号化するシンボル反転符号化モード、及び末端レベルのデータ単位に係わるシンボルのシンボル値を反転なしに符号化する非反転符号化モードのうち、1つのシンボル符号化方式が選択的に決定される。シンボルのデータ単位の予測モード情報、スライスタイプ、カラー成分、符号化深度及び変換深度のうち少なくとも一つを含むデータ単位の符号化特性に基づいて、シンボル反転符号化モードが選択的に決定される。
ビデオのスライス、ピクチャ、シーケンス及び最大符号化単位のうち1つのデータ区間ごとに、シンボルの符号化方式が決定され、1つのデータ区間ごとに、シンボルの符号化方式を示すシンボル符号化方式情報が符号化される。
段階134で、段階133で決定された符号化方式によって、シンボルが符号化されて出力される。
一実施形態によるシンボル階層的符号化モードによって、階層的構造のデータ単位別に決定されたシンボルが、階層的構造のデータ単位によって符号化されて出力される。一実施形態による末端レベル符号化モードによって、階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルだけ符号化されて出力される。
一実施形態による同種シンボルグループ符号化モードによって、同種シンボルのシンボル値のパターンの頻度に基づいて、シンボルコード・テーブルが決定され、シンボルコード・テーブルに基づいて、データ単位に係わる同種シンボルのパターンに対応するシンボルコードが出力される。
一実施形態による異種シンボルグループ符号化モードによって、異種シンボルが共有するコンテクストが決定され、共有コンテクストに基づいて、データ単位に係わる異種シンボルがそれぞれ符号化されて出力される。一実施形態による異種シンボルグループ符号化モードによって、相互依存的に決定されたり、連続して決定される異種シンボルのシンボル値の組み合わせについて、割り当てられたシンボルコードに基づいて、データ単位に係わる異種シンボルに係わるシンボルコードが出力される。
一実施形態によるシンボル反転符号化モードによって、末端レベルのデータ単位に係わるシンボル値が反転され、これにより、シンボルが符号化されて出力される。
図14は、一実施形態による階層的構造のシンボルを復号化するビデオ復号化方法のフローチャートを図示している。段階141で、ビデオの符号化されたピクチャを含むビットストリームが受信される。段階142では、ビットストリームをパージングし、ビットストリームから、階層的構造のデータ単位に基づいて決定されたシンボルと、符号化されたピクチャとが抽出される。
段階143では、階層的構造のデータ単位に基づいて決定されたシンボルの特性に基づいて、シンボルの復号化方式が決定されて、復号化方式によってシンボルが復号化され、シンボルを利用した符号化されたピクチャの復号化が行われる。
一実施形態による階層的構造のシンボルを、階層的構造のデータ単位によって復号化するシンボル階層的復号化モード、及び階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルを復号化する末端レベル復号化モードのうち、1つのシンボル復号化方式が選択的に決定される。
一実施形態によるシンボル階層的復号化モードによって、階層的構造のデータ単位別に決定されたシンボルが階層的構造のデータ単位によって読み取られて復号化される。
一実施形態による末端レベル復号化モードによって、末端レベルのデータ単位に係わるシンボルだけが読み取られ、読み取られた末端レベルがデータ単位に係わるシンボルに基づいて、残りのデータ単位に係わるシンボルが読み取られる。
一実施形態による階層的構造の同種シンボルのシンボル値間に発生する相関度を基に、同種シンボルをグループ化し、復号化する同種シンボルグループ復号化モード、及び同種シンボルを個別的に復号化する同種シンボル個別復号化モードのうち、1つのシンボル復号化方式が選択的に決定される。一実施形態による同種シンボルグループ復号化モードによって、同種シンボルのシンボル値がパターンの頻度に基づくシンボルコード・テーブルに基づいて、データ単位に係わる同種シンボルのシンボルコードから、同種シンボルのシンボル値のパターン及び同種シンボルが読み取られる。
一実施形態による階層的構造の異種シンボルの相関度を基に、異種シンボルをグループ化して復号化する異種シンボルグループ復号化モード、及び異種シンボルを個別的に復号化する異種シンボル個別復号化モードのうち、1つのシンボル復号化方式が選択的に決定される。
一実施形態による異種シンボルグループ復号化モードによって、異種シンボルが共有するように決定されたコンテクストに基づいて、データ単位に係わる異種シンボルがそれぞれ読み取られる。一実施形態による異種シンボルグループ復号化モードによって、相互依存的に決定される異種シンボル間に発生する異種シンボルのシンボル値の組み合わせについて、割り当てられたシンボルコードに基づいて、ビットストリームから抽出されたシンボルコードから、異種シンボルのシンボル値の組み合わせが読み取られ、それぞれの異種シンボルが読み取られる。
一実施形態による階層的構造のシンボル値のうち、末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて復号化するシンボル反転復号化モード、及びデータ単位に係わるシンボルのシンボル値を、反転なしに復号化する非反転復号化モードのうち、1つのシンボル復号化方式が選択的に決定される。一実施形態によるシンボル反転復号化モードによって、抽出されたシンボル値のうち、末端レベルのデータ単位に係わるシンボルのシンボル値が反転され、反転されたシンボル値に基づいて、上位レベルのデータ単位に係わるシンボルが復号化される。
ビデオのスライス、ピクチャ、シーケンス及び最大符号化単位のうち1つのデータ区間ごとに、シンボルの復号化方式を示すシンボル復号化方式情報が抽出され、シンボル復号化方式情報に基づいて、データ区間ごとに利用するシンボルの復号化方式が決定されもする。
一実施形態によるシンボル符号化及びシンボル復号化によって、階層的構造によるデータ単位による符号化過程で決定される階層的構造の符号化シンボルのシンボル特性によって、最適シンボル符号化方式が決定されるので、シンボルが効率的に符号化される。また、階層的構造によるデータ単位による符号化過程で決定される階層構造の符号化シンボルのうち一部シンボルだけが受信されても、シンボル復号化方式によって、残りのシンボルをいずれも復元することができるので、シンボルが効率的に復号化される。
従って、ビデオ符号化過程では、ピクチャを階層的構造によるデータ単位に基づいてビデオが符号化されるので、ビデオの正確なビデオ復号化のために、符号化方式、符号化モードなどに係わる符号化情報が符号化される。階層的構造の符号化情報は、シンボルとして符号化され、シンボルコードの形態で出力される。ビデオ復号化過程では、復元されたシンボルから、階層的構造によるデータ単位に基づいて符号化されたピクチャに係わる符号化情報が読み取られるので、符号化情報を利用して、ピクチャ、ピクチャシーケンスが復元されることにより、ビデオが復元される。
<ツリー構造による符号化単位、変換単位によるシンボル符号化/復号化>
以下図15ないし図27を参照し、一実施形態によって、ツリー構造による符号化単位及び変換単位に基づいたツリー構造のシンボルを符号化するビデオ符号化装置、及び前記シンボルを復号化するビデオ復号化装置、そしてそれに相応するビデオ符号化方法、及びビデオ復号化方法の実施形態について説明する。
本実施形態によるビデオ符号化装置100は、一実施形態によるツリー構造による符号化単位及び変換単位に基づいてビデオを符号化することができる。
ビデオの現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて現在ピクチャが区画される。現在ピクチャが最大符号化単位より大きければ、現在ピクチャの映像データは、少なくとも1つの最大符号化単位に分割される。一実施形態による最大符号化単位は、サイズ32x32,64x64,128x128,256x256などのデータ単位であり、縦横に大きさが2の自乗である正方形のデータ単位であってもよい。本実施形態によるピクチャ階層的符号化部120は、少なくとも1つの最大符号化単位別に、ピクチャデータを符号化することができる。
一実施形態による符号化単位は、最大サイズ及び深度で特徴づけられる。深度とは、最大符号化単位から符号化単位が空間的に分割された回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が最上位深度であり、最小符号化単位が最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれて、深度別符号化単位の大きさは、減少するので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含んでもよい。
前述のように、符号化単位の最大サイズによって、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含んでもよい。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域(spatial domain)の映像データが、深度によって階層的に分類される。
最大符号化単位の高さ及び幅を階層的に分割することができる総回数を制限する最大深度及び符号化単位の最大サイズがあらかじめ設定されている。
本実施形態によるピクチャ階層的符号化部120は、深度ごとに最大符号化単位の領域が分割された少なくとも1つの分割領域を符号化し、少なくとも1つの分割領域別に最終符号化結果が出力される深度を決定する。すなわち、ピクチャ階層的符号化部120は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で映像データを符号化し、最小の符号化誤差が発生する深度を選択して符号化深度として決定する。
ピクチャ階層的符号化部120は、最大符号化単位別に決定された符号化深度の符号化単位で符号化された映像データを出力することができる。また、ピクチャ階層的符号化部120は、決定された符号化深度に係わる情報を、階層的シンボル符号化部130に伝達し、符号化深度に係わる情報が符号化情報として符号化されるようにすることができる。
最大符号化単位内の映像データは、最大深度以下の少なくとも1つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最小である深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも1つの符号化深度が決定される。
最大符号化単位の大きさは、深度が深くなるにつれて、符号化単位が階層的に分割されて分割され、符号化単位の個数は増加する。また、1つの最大符号化単位に含まれる同一の深度の符号化単位であるとしても、それぞれのデータに係わる符号化誤差を測定し、下位深度への分割いかんが決定される。従って、1つの最大符号化単位に含まれるデータであるとしても、位置によって深度別符号化誤差が異なるので、位置によって符号化深度が異なって決定される。従って、1つの最大符号化単位について、符号化深度が一つ以上設定され、最大符号化単位のデータは、一つ以上の符号化深度の符号化単位によって区画される。
従って、一実施形態によるピクチャ階層的符号化部120は、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれる全ての深度別符号化単位のうち、符号化深度として決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内で、同一領域では、深度によって階層的に決定され、他の領域については、独立して決定される。同様に、現在領域に係わる符号化深度は、他の領域に係わる符号化深度と独立して決定される。
一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数と係わる指標である。一実施形態による第1最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示すことができる。一実施形態による第2最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示すことができる。例えば、最大符号化単位の深度が0であるとするとき、最大符号化単位が1回分割された符号化単位の深度は、1に設定され、2回分割された符号化単位の深度は、2に設定される。その場合、最大符号化単位から4回分割された符号化単位が最小符号化単位であるならば、深度0,1,2,3及び4の深度レベルが存在するので、第1最大深度は4、第2最大深度は5に設定される。
最大符号化単位の予測符号化及び変換が行われる。予測符号化及び変換も同様に、最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に行われる。最大符号化単位が深度別に分割されるたびに、深度別符号化単位の個数が増加するので、深度が深くなるにつれて生成される全ての深度別符号化単位について、予測符号化及び変換を含んだ符号化が行われなければならない。以下、説明の便宜のために、少なくとも1つの最大符号化単位のうち、現在深度の符号化単位を基に、予測符号化及び変換について説明する。
一実施形態によるビデオ符号化装置100は、映像データの符号化のためのデータ単位の大きさまたは形態を、多様に選択することができる。映像データの符号化のためには、予測符号化、変換、エントロピ符号化などの段階を経るが、全ての段階にわたって、同一のデータ単位が使用されもし、段階別に、データ単位が変更されもする。
例えば、ビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位の映像データの予測符号化を行うために、符号化単位と異なるデータ単位を選択することができる。
最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、さらにそれ以上分割されない符号化単位を基に、予測符号化が行われる。以下、予測符号化の基になるさらにそれ以上分割されない符号化単位を「予測単位」と呼ぶ。予測単位が分割されたパーティションは、予測単位及び予測単位の高さ及び幅のうち、少なくとも一つが分割されたデータ単位を含んでもよい。
例えば、サイズ2Nx2N(ただし、Nは、正の整数)の符号化単位が、それ以上分割されない場合、サイズ2Nx2Nの予測単位になり、パーティションの大きさは、2Nx2N、2NxN、Nx2N、NxNなどであってもよい。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が対称的な比率に分割された対称的パーティションだけではなく、1:nまたはn:1のように、非対称的な比率に分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含んでもよい。
予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つであってもよい。例えば、イントラモード及びインターモードは、2Nx2N,2NxN,Nx2N,NxNサイズのパーティションについて遂行される。また、スキップモードは、2Nx2Nサイズのパーティションについてのみ遂行される。符号化単位以内の1つの予測単位ごとに、独立して符号化が行われ、符号化誤差が最小である予測モードが選択される。
また、一実施形態によるビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの変換を行うことができる。
前述のように、符号化単位の変換のためには、符号化単位より小さいか、あるいはそれと同じ大きさの変換単位を基に変換が行われる。例えば、変換単位は、イントラモードのためのデータ単位、及びインターモードのための変換単位を含んでもよい。
一実施形態によるツリー構造による符号化単位と類似した方式で、符号化単位内の変換単位も、再帰的にさらに小サイズの変換単位に分割されながら、符号化単位の残差データが、変換深度によって、ツリー構造による変換単位によって区画される。
一実施形態による変換単位についても、符号化単位の高さ及び幅が分割され、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ2Nx2Nの現在符号化単位の変換単位の大きさが2Nx2Nであるならば、変換深度0、変換単位の大きさがNxNであるならば、変換深度1、変換単位の大きさがN/2xN/2であるならば、変換深度2に設定される。すなわち、変換単位についても、変換深度によって、ツリー構造による変換単位が設定される。
符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び変換関連情報が必要である。従って、ピクチャ階層的符号化部120は、最小符号化誤差を発生させた符号化深度だけではなく、予測単位をパーティションに分割されたパーティションタイプ、予測単位別予測モード、変換のための変換単位の大きさなどを決定することができる。
また、ピクチャ階層的符号化部120は、最大符号化単位または現在符号化単位ごとに、あらかじめ限定的に設定された変換単位の最多分割レベルに基づいて、符号化単位に係わる符号化過程で、ツリー構造の変換単位を利用して変換を行うことができる。
深度別符号化単位ごとに、符号化単位を同じであるか、あるいはそれより小サイズの基礎変換単位は、段階的に、下位変換深度の変換単位に分割される。一実施例によるツリー構造の変換単位は、現在許容される最大サイズの変換単位である基礎変換単位から、符号化単位に許容される最多分割レベルまでの下位レベルの変換単位を含んでもよい。
ピクチャ階層的符号化部120は、現在符号化単位内で、変換深度によるレベル別変換を行った結果、周辺領域の変換単位とは独立しており、同一領域の変換深度別変換単位間では、階層的な構造を形成するツリー構造による変換単位を決定することができる。
すなわち、符号化単位ごとに、多様な大きさの変換単位を利用して変換を行い、変換結果を比べることにより、ツリー構造による変換単位が決定される。符号化単位の決定過程において、符号化単位の変換のための変換単位が決定される。一つ以上の深度の深度別符号化単位、及びそれぞれの深度別符号化ごとに、内部に含まれる一つ以上の変換深度の変換深度別変換単位が変換に利用される。
符号化単位ごとに、符号化誤差が最小である変換単位が決定されなければならない。変換単位の最小符号化誤差を発生させる変換深度が決定されるために、全ての変換深度別変換単位ごとに、符号化誤差が測定されて比較される。一実施形態による変換単位は、符号化単位の変換による誤差を最小化するデータ単位で決定されもする。
従って、深度別符号化単位と変換単位との組み合わせのうち、最も符号化誤差の小さい組み合わせが決定され、最大符号化単位内の領域ごとに、個別的に組み合わせが決定されるので、ツリー構造の符号化単位と、ツリー構造の変換単位とが決定される。
一実施形態による最大符号化単位のツリー構造による符号化単位及びパーティション、ツリー構造による変換単位の決定方式については、図15ないし図25を参照し、詳しく説明する。
ピクチャ階層的符号化部120は、深度別符号化単位の符号化誤差をラグランジュ乗数(Lagrangian multiplier)基盤の率・歪曲最適化技法(Rate-DistortionOptimization)を利用して測定することができる。
ビデオ符号化装置100は、ピクチャ階層的符号化部120で決定された少なくとも1つの符号化深度に基づいて符号化された最大符号化単位の映像データと、階層的シンボル符号化部130によって符号化された、深度別符号化モードについての情報とを、共に含んだビットストリーム形態で出力することができる。
一実施形態によるツリー構造の符号化単位、予測単位、変換単位などに基づいて、ピクチャが符号化されることによって決定された、符号化深度の符号化単位の符号化モードについての情報は、ビットストリームのヘッダ、SPS、PPSなどに含まれる。
符号化された映像データは、映像の残差データの符号化結果であってもよい。深度別符号化モードについての情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位の大きさ情報などを含んでもよい。
符号化深度情報は、現在深度で符号化せずに、下位深度の符号化単位に符号化するか否かを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が、符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報は、それ以上、下位深度に分割されないように定義される。一方、現在符号化単位の現在深度が符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みることになるので、現在深度の分割情報は、下位深度の符号化単位に分割されるように定義される。
現在深度が符号化深度ではないならば、下位深度の符号化単位に分割された符号化単位について符号化が行われる。現在深度の符号化単位内に下位深度の符号化単位が一つ以上存在するので、それぞれの下位深度の符号化単位ごとに反復的に符号化が行われ、同一の深度の符号化単位ごとに、再帰的(recursive)符号化が行われる。
1つの最大符号化単位内にツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも1つの符号化モードについての情報が決定されなければならないので、1つの最大符号化単位については、少なくとも1つの符号化モードについての情報が決定される。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なることがあるので、データについて符号化深度及び符号化モードについての情報が設定される。
従って、一実施形態による階層的シンボル符号化部130は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つについて、当該符号化深度及び符号化モードに係わる符号化情報を割り当てられる。
一実施形態による最小単位は、最下位符号化深度である最小符号化単位が4分割された大きさの正方形のデータ単位である。一実施形態による最小単位は、最大符号化単位に含まれる全ての符号化単位、予測単位、パーティション単位及び変換単位内に含まれる最大サイズの正方形データ単位であってもよい。
例えば、階層的シンボル符号化部130を介して出力される符号化情報は、深度別符号化単位別符号化情報と、予測単位別符号化情報とに分類される。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向についての情報、インターモードの参照映像インデックスについての情報、動きベクトルについての情報、イントラモードのクロマ成分についての情報、イントラモードの補間方式についての情報などを含んでもよい。
ピクチャ、スライス、またはGOP別に定義される符号化単位の最大サイズについての情報及び最大深度についての情報は、ビットストリームのヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットなどに挿入される。
また、現在ビデオを符号化するために利用されたシンボル符号化方式、または復号化するために必要なシンボル復号化方式に係わる情報が、ビットストリームのヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットなどを介して出力される。
ビデオ符号化装置100の最も簡単な形態の実施形態によれば、深度別符号化単位は、1階層上位深度の符号化単位の高さ及び幅を半分にした大きさの符号化単位である。すなわち、現在深度の符号化単位の大きさが2Nx2Nであるならば、下位深度の符号化単位の大きさは、NxNである。また、2Nx2Nサイズの現在符号化単位は、NxNサイズの下位深度符号化単位を最大4個含む。
従って、ビデオ符号化装置100は、現在ピクチャの特性を考慮して、決定された最大符号化単位の大きさ及び最大深度を基に、それぞれの最大符号化単位ごとに、最適の形態及び大きさの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式などに符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮して、最適の符号化モードが決定される。
従って、映像の解像度が非常に高いか、あるいはデータ量が非常に多い映像を既存マクロブロック単位で符号化するならば、ピクチャ当たりマクロブロックの数が過度に多くなる。これにより、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下する傾向がある。従って、一実施形態によるビデオ符号化装置は、映像の大きさを考慮して、符号化単位の最大サイズを増加させながら、映像特性を考慮して、符号化単位を調節することができるので、映像圧縮効率が向上する。
階層的シンボル符号化部130は、ツリー構造の符号化単位、ツリー構造の変換単位に基づいて、ビデオが符号化するのに使われた符号化方式についての情報を示す符号化情報を符号化して出力することができる。一実施形態による符号化情報は、符号化深度の符号化単位に係わる各種符号化モードに係わる情報、及び符号化深度に係わる情報を含んでもよい。
また、一実施形態によるツリー構造の符号化単位、ツリー構造の変換単位に基づいてビデオが符号化されることによって、一実施形態による符号化情報も、ツリー構造の符号化単位、ツリー構造の変換単位によって、ツリー構造として決定される。
階層的シンボル符号化部130は、ツリー構造の符号化情報を、シンボルとして符号化することができる。図1ないし図14を参照して説明したところによって、階層的シンボル符号化部130は、ツリー構造の符号化モードに係わる情報のシンボル特性に基づいて、選択的にシンボル符号化方式を決定することができる。決定されたシンボル符号化方式に基づいて、ツリー構造の符号化モードに係わる情報が符号化される。また、シンボル符号化方式に係わる情報も、符号化され、符号化情報と共に出力される。
これにより、ビデオ符号化装置100の階層的シンボル符号化部130は、最大符号化単位ごとに、ツリー構造による符号化単位の符号化情報及びシンボル符号化方式情報を出力することができる。これにより、ビデオ符号化装置100が符号化して出力するビットストリームは、ツリー構造による符号化単位別に符号化されたピクチャの符号化データ、符号化情報、及びシンボル符号化方式情報が含まれる。
本実施形態によるビデオ復号化装置200の各種プロセッシングのための符号化単位、深度、予測単位、変換単位、各種符号化モードについての情報など各種用語の定義は、ビデオ符号化装置100を参照して説明した通りである。
ビデオ復号化装置200は、符号化されたビデオに係わるビットストリームを受信する。階層的シンボル/データ抽出部220は、受信されたビットストリームをパージングする。階層的シンボル/データ抽出部220は、パージングされたビットストリームから、最大符号化単位別にツリー構造による符号化単位によって、符号化単位ごとに符号化されたピクチャデータを抽出し、階層的ピクチャ復号化部230に出力する。階層的シンボル/データ抽出部220は、現在ピクチャに係わるヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットから、現在ピクチャの符号化単位の最大サイズについての情報を抽出することができる。
また、階層的シンボル/データ抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化情報を抽出することができる。符号化情報から、符号化深度に係わる情報及び符号化モードについての情報が抽出される。抽出された符号化深度及び符号化モードについての情報は、階層的ピクチャ復号化部230に出力される。すなわち、ビット列の映像データを最大符号化単位に分割し、階層的ピクチャ復号化部230が、最大符号化単位ごとに映像データを復号化する。
最大符号化単位別符号化深度及び符号化モードについての情報は、一つ以上の符号化深度情報について設定され、符号化深度別符号化モードについての情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位の大きさ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されもする。
階層的シンボル/データ抽出部220が抽出した最大符号化単位別符号化深度及び符号化モードについての情報は、一実施形態によるビデオ符号化装置100のように、符号化端で、最大符号化単位別深度別符号化単位ごとに、反復的に符号化を行い、最小符号化誤差を発生させることにより、決定された符号化深度及び符号化モードについての情報である。従って、ビデオ復号化装置200は、最小符号化誤差を発生させる符号化方式によってデータを復号化して映像を復元することができる。
階層的シンボル/データ抽出部220は、ビットストリームから、図1ないし図14を参照して説明したツリー構造のシンボルを復号化するために必要なシンボル復号化方式情報も、抽出することができる。抽出されたシンボル復号化方式情報は、ビデオ符号化装置100によって伝送されたシンボル符号化方法情報と相応する。
また、階層的シンボル/データ抽出部220は、現在受信したビデオストリームを復号化するために必要な符号化情報を、ビットストリームのヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットから抽出することができる。抽出された階層的シンボル/データ抽出部220は、シンボル復号化方式情報を、ビットストリームのヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットから抽出することもできる。符号化情報とシンボル復号化方式情報とが、ピクチャ、スライスだけではなく、最大符号化単位または符号化単位ごとに抽出されもする。
階層的ピクチャ復号化部230は、シンボル復号化方式情報によって決定されたシンボル復号化方式に基づいて、抽出された符号化情報から、ツリー構造の符号化情報を復号化して読み取ることができる。ツリー構造の符号化情報のうち一部だけが受信されても、シンボル復号化方式によるシンボル復号化を介して、ツリー構造の符号化単位に係わるツリー構造の符号化情報をいずれも復元して読み取ることができる。これにより、最大符号化単位ごとに、ツリー構造による符号化単位に基づいて符号化されたピクチャデータを復号化するのに必要な符号化深度及び符号化モードに係わる情報が読み取られる。
一実施形態による符号化深度及び符号化モードに係わる符号化情報は、当該符号化単位、予測単位及び最小単位のうち、所定データ単位について割り当てられているので、階層的シンボル/データ抽出部220は、所定データ単位別に、符号化深度及び符号化モードについての情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードについての情報が記録されているならば、同一の符号化深度及び符号化モードについての情報を有している所定データ単位は、同一の最大符号化単位に含まれるデータ単位と類推される。
階層的ピクチャ復号化部230は、深度別分割情報を利用して、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が現在深度で、それ以上分割されないということを示しているならば、現在深度が符号化深度である。従って、階層的ピクチャ復号化部230は、現在最大符号化単位の符号化されたピクチャデータについても、現在深度の符号化単位を予測単位のパーティションタイプ、予測モード及び変換単位サイズ情報を利用して復号化することができる。
すなわち、符号化単位、予測単位及び最小単位のうち、所定データ単位について設定されている符号化情報を観察し、同一の分割情報を含んだ符号化情報を保有しているデータ単位が集まり、階層的ピクチャ復号化部230によって、同一の符号化モードで復号化する1つのデータ単位と見なされる。
階層的ピクチャ復号化部230は、最大符号化単位ごとに、前記読み取られた符号化深度及び符号化モードに基づいて、それぞれの最大符号化単位の符号化されたピクチャデータを復号化し、現在ピクチャを復元することができる。最大符号化単位に含まれるツリー構造による符号化単位のうちそれぞれの符号化単位ごとに、符号化モードとして、パーティションタイプ、予測モード、変換単位構造などが読み取られる。復号化過程は、イントラ予測及び動き補償を含む予測過程及び逆変換過程を含んでもよい。
階層的ピクチャ復号化部230は、ツリー構造の符号化単位の予測単位のパーティションタイプ及び予測モードに基づいて、符号化単位ごとに、それぞれのパーティション及び予測モードによって、イントラ予測または動き補償を行うことができる。また、階層的ピクチャ復号化部230は、ツリー構造の変換単位構造を読み取り、符号化単位ごとに、変換単位に基づいた逆変換を行うことができる。
ビデオ復号化装置200は、符号化過程で、最大符号化単位ごとに再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに係わる復号化に利用することができる。すなわち、最大符号化単位ごとに、最適符号化単位として決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。
従って、高い解像度の映像、またはデータ量が過度に多くの映像でも、符号化端から伝送された最適符号化モードについての情報を利用して、映像の特性に適応的に決定された符号化単位の大きさ及び符号化モードによって、効率的に映像データを復号化して復元することができる。
図15は、本発明の一実施形態による符号化単位の概念を図示している。
符号化単位の例は、符号化単位の大きさは、幅x高さで表現され、サイズ64x64である符号化単位から、32x32、16x16、8x8を含んでもよい。サイズ64x64の符号化単位は、サイズ64x64,64x32,32x64,32x32のパーティションに分割され、サイズ32x32の符号化単位は、サイズ32x32,32x16,16x32,16x16のパーティションに、サイズ16x16の符号化単位は、サイズ16x16,16x8,8x16,8x8のパーティションに、サイズ8x8の符号化単位は、サイズ8x8,8x4,4x8,4x4のパーティションに分割される。
ビデオデータ310については、解像度が1920x1080、符号化単位の最大サイズが64、最大深度が2に設定されている。ビデオデータ320については、解像度が1920x1080、符号化単位の最大サイズが64、最大深度が3に設定されている。ビデオデータ330については、解像度が352x288、符号化単位の最大サイズが16、最大深度が1に設定されている。図15に図示された最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。
解像度が高いか、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ330に比べて、解像度が高いビデオデータ310,320は、符号化サイズの最大サイズが64に選択される。
ビデオデータ310の最大深度が2であるので、ビデオデータ310の符号化単位315は、長軸サイズが64である最大符号化単位から2回分割され、深度が2階層深くなり、長軸サイズが32,16である符号化単位まで含んでもよい。一方、ビデオデータ330の最大深度が1であるので、ビデオデータ330の符号化単位335は、長軸サイズが16である符号化単位から1回分割され、深度が1階層深くなり、長軸サイズが8である符号化単位まで含んでもよい。
ビデオデータ320の最大深度が3であるので、ビデオデータ320の符号化単位325は、長軸サイズが64である最大符号化単位から3回分割され、深度が3階層深くなり、長軸サイズが32,16、8である符号化単位まで含んでもよい。深度が深くなるほど、細部情報の表現能力が向上する。
図16は、本発明の一実施形態による符号化単位に基づいた映像符号化部のブロック図を図示している。
一実施形態による映像符号化部400は、ビデオ符号化装置100のピクチャ階層的符号化部120で、映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部410は、現在フレーム405において、イントラモードの符号化単位についてイントラ予測を行い、動き推定部420及び動き補償部425は、インターモードの現在フレーム405及び参照フレーム495を利用して、インター推定及び動き補償を行う。
イントラ予測部410、動き推定部420及び動き補償部425から出力されたデータは、周波数変換部430及び量子化部440を経て、量子化された変換係数として出力される。量子化された変換係数は、逆量子化部460、周波数逆変換部470を介して空間領域のデータに復元され、復元された空間領域のデータは、デブロッキング部480及びループ・フィルタリング部490を経て後処理され、参照フレーム495として出力される。量子化された変換係数は、エントロピ符号化部450を経て、ビットストリーム455として出力される。
一実施形態によるビデオ符号化装置100に適用されるためには、映像符号化部400の構成要素である、イントラ予測部410、動き推定部420、動き補償部425、周波数変換部430、量子化部440、エントロピ符号化部450、逆量子化部460、周波数逆変換部470、デブロッキング部480及びループ・フィルタリング部490が、いずれも最大符号化単位ごとに、最大深度を考慮して、ツリー構造による符号化単位のうち、それぞれの符号化単位に基づいた作業を行わければならない。
特に、イントラ予測部410、動き推定部420及び動き補償部425は、現在最大符号化単位の最大サイズ及び最大深度を考慮して、ツリー構造による符号化単位のうち、それぞれの符号化単位のパーティション及び予測モードを決定し、周波数変換部430は、ツリー構造による符号化単位のうち、それぞれの符号化単位内の変換単位の大きさを決定しなければならない。
図17は、本発明の一実施形態による符号化単位に基づいた映像復号化部のブロック図を図示している。
ビットストリーム505がパージング部510を経て、復号化対象である符号化された映像データ、及び復号化のために必要な符号化についての情報がパージングされる。符号化された映像データは、エントロピ復号化部520及び逆量子化部530を経て、逆量子化されたデータとして出力され、周波数逆変換部540を経て、空間領域の映像データが復元される。
空間領域の映像データについて、イントラ予測部550は、イントラモードの符号化単位についてイントラ予測を行い、動き補償部560は、参照フレーム585を共に利用して、インターモードの符号化単位について動き補償を行う。
イントラ予測部550及び動き補償部560を経た空間領域のデータは、デブロッキング部570及びループ・フィルタリング部580を経て後処理され、復元フレーム595として出力される。また、デブロッキング部570及びループ・フィルタリング部580を経て後処理されたデータは、参照フレーム585として出力される。
ビデオ復号化装置200の階層的シンボル復号化部230で映像データを復号化するために、一実施形態による映像復号化部500のパージング部510以後の段階別作業が行われる。
一実施形態によるビデオ復号化装置200に適用されるためには、映像復号化部500の構成要素である、パージング部510、エントロピ復号化部520、逆量子化部530、周波数逆変換部540、イントラ予測部550、動き補償部560、デブロッキング部570及びループ・フィルタリング部580が、いずれも最大符号化単位ごとに、ツリー構造による符号化単位に基づいて作業を行わければならない。
特に、イントラ予測部550、動き補償部560は、ツリー構造による符号化単位それぞれごとに、パーティション及び予測モードを決定し、周波数逆変換部540は、符号化単位ごとに、変換単位の大きさを決定しなければならない。
図18は、本発明の一実施形態による深度別符号化単位及びパーティションを図示している。
一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高及び最大幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって多様に設定されもする。既設定の符号化単位の最大サイズによって、深度別符号化単位の大きさが決定される。
一実施形態による符号化単位の階層構造600は、符号化単位の最大高及び最大幅が64であり、最大深度が4である場合を図示している。このとき、最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。一実施形態による符号化単位の階層構造600の縦軸に沿って、深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造600の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基になる予測単位及びパーティションが図示されている。
すなわち、符号化単位610は、符号化単位の階層構造600において、最大符号化単位であって深度が0であり、符号化単位の大きさ、すなわち、高さ及び幅が64x64である。縦軸に沿って深度が深くなり、サイズ32x32である深度1の符号化単位620、サイズ16x16である深度2の符号化単位630、サイズ8x8である深度3の符号化単位640、サイズ4x4である深度4の符号化単位650が存在する。サイズ4x4である深度4の符号化単位650は、最小符号化単位である。
それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度0のサイズ64x64の符号化単位610が予測単位であるならば、予測単位は、サイズ64x64の符号化単位610に含まれるサイズ64x64のパーティション610、サイズ64x32のパーティション612、サイズ32x64のパーティション614、サイズ32x32のパーティション616に分割される。
同様に、深度1のサイズ32x32の符号化単位620の予測単位は、サイズ32x32の符号化単位620に含まれるサイズ32x32のパーティション620、サイズ32x16のパーティション622、サイズ16x32のパーティション624、サイズ16x16のパーティション626に分割される。
同様に、深度2のサイズ16x16の符号化単位630の予測単位は、サイズ16x16の符号化単位630に含まれるサイズ16x16のパーティション630、サイズ16x8のパーティション632、サイズ8x16のパーティション634、サイズ8x8のパーティション636に分割される。
同様に、深度3のサイズ8x8の符号化単位640の予測単位は、サイズ8x8の符号化単位640に含まれるサイズ8x8のパーティション640、サイズ8x4のパーティション642、サイズ4x8のパーティション644、サイズ4x4のパーティション646に分割される。
最後に、深度4のサイズ4x4の符号化単位650は、最小符号化単位であって最下位深度の符号化単位であり、当該予測単位もサイズ4x4のパーティション650だけで設定される。
一実施形態によるビデオ符号化装置100のピクチャ階層的符号化部120は、最大符号化単位610の符号化深度を決定するために、最大符号化単位610に含まれるそれぞれの深度の符号化単位ごとに符号化を行わければならない。
同一の範囲及び大きさのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度1の符号化単位一つが含まれるデータについて、深度2の符号化単位は、四つが必要である。従って、同一のデータの符号化結果を深度別に比較するために、1つの深度1の符号化単位及び4つの深度2の符号化単位を利用して、それぞれ符号化されなければならない。
それぞれの深度別符号化のためには、符号化単位の階層構造600の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度で最小の符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造600の縦軸に沿って、深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較し、最小符号化誤差が検索される。最大符号化単位610において、最小符号化誤差が発生する深度及びパーティションが、最大符号化単位610の符号化深度及びパーティションタイプに選択される。
図19は、本発明の一実施形態による、符号化単位及び変換単位の関係を図示している。
一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいはそれと同じ大きさの符号化単位で、映像を符号化したり復号化する。符号化過程中、変換のための変換単位の大きさは、それぞれの符号化単位より大きくないデータ単位を基に選択される。
例えば、一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200で、現在符号化単位710が64x64サイズであるとき、32x32サイズの変換単位720を利用して変換が行われる。
また、64x64サイズの符号化単位710のデータを、64x64サイズ以下の32x32,16x16,8x8,4x4サイズの変換単位で、それぞれ変換を行って符号化した後、原本との誤差が最小である変換単位が選択される。
図20は、本発明の一実施形態による深度別符号化情報を図示している。
一実施形態によるビデオ符号化装置100の階層的シンボル符号化部130は、符号化モードについての情報として、それぞれの符号化深度の符号化単位ごとにパーティションタイプについての情報800、予測モードについての情報810、変換単位サイズに係わる情報820を符号化して伝送することができる。
パーティションタイプに係わる情報800は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティションの形態に係わる情報を示す。例えば、サイズ2Nx2Nの現在符号化単位CU_0は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806、サイズNxNのパーティション808のうちいずれか1つのタイプに分割されて利用される。その場合、現在符号化単位のパーティションタイプについての情報800は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806及びサイズNxNのパーティション808のうち一つを示すように設定される。
予測モードについての情報810は、それぞれのパーティションの予測モードを示す。例えば、予測モードについての情報810を介して、パーティションタイプについての情報800が示すパーティションが、イントラモード812、インターモード814及びスキップモード816のうち一つで予測符号化が行われるか否かが設定される。
また、変換単位サイズについての情報820は、現在符号化単位を、いかなる変換単位を基に変換を行うかを示す。例えば、変換単位は、第1イントラ変換単位サイズ822、第2イントラ変換単位サイズ824、第1インター変換単位サイズ826、第2イントラ変換単位サイズ828のうち一つである。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部210は、それぞれの深度別符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズに係わる情報820を抽出して復号化に利用することができる。
図21は、本発明の一実施形態による深度別符号化単位を図示している。
深度の変化を示すために、分割情報が利用される。分割情報は、現在深度の符号化単位が下位深度の符号化単位に分割されるか否かを示す。
深度0及び2N_0x2N_0サイズの符号化単位900の予測符号化のための予測単位910は、2N_0x2N_0サイズのパーティションタイプ912、2N_0xN_0サイズのパーティションタイプ914、N_0x2N_0サイズのパーティションタイプ916、N_0xN_0サイズのパーティションタイプ918を含んでもよい。予測単位が対称的な比率に分割されたパーティション912,914,916,918だけが例示されているが、前述のように、パーティションタイプは、それらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。
パーティションタイプごとに、1つの2N_0x2N_0サイズのパーティション、2つの2N_0xN_0サイズのパーティション、2つのN_0x2N_0サイズのパーティション、4つのN_0xN_0サイズのパーティションごとに反復的に予測符号化が行われなければならない。サイズ2N_0x2N_0、サイズN_0x2N_0、サイズ2N_0xN_0及びサイズN_0xN_0のパーティションについては、イントラモード及びインターモードで予測符号化が行われる。スキップモードは、サイズ2N_0x2N_0のパーティションについてのみ予測符号化が行われる。
サイズ2N_0x2N_0,2N_0xN_0及びN_0x2N_0のパーティションタイプ912,914,916のうち一つによる符号化誤差が最も小さければ、それ以上下位深度に分割する必要ない。
サイズN_0xN_0のパーティションタイプ918による符号化誤差が最も小さければ、深度0を1に変更しながら分割し(920)、深度2及びサイズN_0xN_0のパーティションタイプの符号化単位930について反復的に符号化を行い、最小符号化誤差を検索していくことができる。
深度1及びサイズ2N_1x2N_1(=N_0xN_0)の符号化単位930の予測符号化のための予測単位940は、サイズ2N_1x2N_1のパーティションタイプ942、サイズ2N_1xN_1のパーティションタイプ944、サイズN_1x2N_1のパーティションタイプ946、サイズN_1xN_1のパーティションタイプ948を含んでもよい。
また、サイズN_1xN_1サイズのパーティションタイプ948による符号化誤差が最小であれば、深度1を深度2に変更しながら分割し(950)、深度2及びサイズN_2xN_2の符号化単位960について反復的に符号化を行い、最小符号化誤差を検索していくことができる。
最大深度がdである場合、深度別符号化単位は、深度d−1になるまで設定され、分割情報は、深度d−2になるまで設定される。すなわち、深度d−2から分割され(970)、深度d−1まで符号化が行われる場合、深度d−1及びサイズ2N_(d−1)x2N_(d−1)の符号化単位980の予測符号化のための予測単位990は、サイズ2N_(d−1)x2N_(d−1)のパーティションタイプ992、サイズ2N_(d−1)xN_(d−1)のパーティションタイプ994、サイズN_(d−1)x2N_(d−1)のパーティションタイプ996、サイズN_(d−1)xN_(d−1)のパーティションタイプ998を含んでもよい。
パーティションタイプのうち、1つのサイズ2N_(d−1)x2N_(d−1)のパーティション、2つのサイズ2N_(d−1)xN_(d−1)のパーティション、2つのサイズN_(d−1)x2N_(d−1)のパーティション、4つのサイズN_(d−1)xN_(d−1)のパーティションごとに、反復的に予測符号化を介した符号化が行われ、最小符号化誤差が発生するパーティションタイプが検索される。
サイズN_(d−1)xN_(d−1)のパーティションタイプ998による符号化誤差が最小であるとしても、最大深度がdであるので、深度d−1の符号化単位CU_(d−1)は、それ以上下位深度への分割過程を経ず、現在最大符号化単位900に係わる符号化深度が深度d−1に決定され、パーティションタイプは、N_(d−1)xN_(d−1)に決定される。また、最大深度がdであるので、深度d−1の符号化単位952について、分割情報は設定されない。
データ単位999は、現在最大符号化単位に係わる「最小単位」と呼ばれる。一実施形態による最小単位は、最下位符号化深度である最小符号化単位が4分割された大きさである正方形のデータ単位であってもよい。このような反復的符号化過程を介して、一実施形態によるビデオ符号化装置100は、符号化単位900の深度別符号化誤差を比較し、最小の符号化誤差が発生する深度を選択して符号化深度を決定し、当該パーティションタイプ及び予測モードが符号化深度の符号化モードに設定される。
このように、深度0,1,…,d−1,dの全ての深度別最小符号化誤差を比較し、誤差が最小である深度が選択され、符号化深度として決定される。符号化深度、並びに予測単位のパーティションタイプ及び予測モードは、符号化モードについての情報として符号化されて伝送される。また、深度0から符号化深度に至るまで、符号化単位が分割されなければならないので、符号化深度の分割情報だけが「0」に設定され、符号化深度を除いた深度別分割情報は、「1」に設定されなければならない。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部220は、符号化単位900に係わる符号化深度及び予測単位についての情報を抽出し、符号化単位912を復号化するのに利用される。一実施形態によるビデオ復号化装置200は、深度別分割情報を利用して、分割情報が「0」である深度を符号化深度と把握し、当該深度に係わる符号化モードについての情報を利用して、復号化に利用することができる。
図22、図23及び図24は、本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示している。
符号化単位1010は、最大符号化単位について一実施形態によるビデオ符号化装置100が決定した符号化深度別符号化単位である。予測単位1060は、符号化単位1010において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位1070は、それぞれの符号化深度別符号化単位の変換単位である。
深度別符号化単位1010は、最大符号化単位の深度が0であるとすれば、符号化単位1012,1054は、深度が1、符号化単位1014,1016,1018,1028,1050,1052は、深度が2、符号化単位1020,1022,1024,1026,1030,1032,1048は、深度が3、符号化単位1040,1042,1044,1046は、深度が4である。
予測単位1060において、一部パーティション1014,1016,1022,1032,1048,1050,1052,1054は、符号化単位が分割された形態である。すなわち、パーティション1014,1022,1050,1054は、2NxNのパーティションタイプであり、パーティション1016,1048,1052は、Nx2Nのパーティションタイプであり、パーティション1032は、NxNのパーティションタイプである。深度別符号化単位1010の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいはそれと同じである。
変換単位1070において、一部パーティション(1052)の映像データについては、符号化単位に比べて小サイズのデータ単位で、変換または逆変換が行われる。また、変換単位1014,1016,1022,1032,1048,1050,1052,1054は、予測単位1060において、当該予測単位及びパーティションと比較すれば、互いに異なるサイズまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200は、同一の符号化単位に係わるイントラ予測/動き推定/動き補償作業、及び変換/逆変換作業であるとしても、それぞれ別個のデータ単位を基に遂行することができる。
これにより、最大符号化単位ごとに領域別に、階層的な構造の符号化単位ごとに再帰的に符号化が行われ、最適符号化単位が決定されることにより、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表0は、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200で設定することができる一例を示している。
一実施形態によるビデオ符号化装置100の階層的シンボル符号化部130は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置200の階層的シンボル/データ抽出部220は、受信されたビットストリームから、ツリー構造による符号化単位に係わる符号化情報を抽出することができる。
分割情報は、現在符号化単位が、下位深度の符号化単位に分割されるか否かを示す。現在深度dの分割情報が0であるならば、現在符号化単位が、その深度がそれ以上下位符号化単位に分割されない符号化深度であるので、符号化深度について、パーティションタイプ情報、予測モード、変換単位サイズ情報が定義される。分割情報によって、1段階さらに分割されなければならない場合には、分割された4個の下位深度の符号化単位ごとに、独立して符号化が行われなければならない。
予測モードは、イントラモード、インターモード及びスキップモードのうち一つで示すことができる。イントラモード及びインターモードは、全てのパーティションタイプで定義され、スキップモードは、パーティションタイプ2Nx2Nでのみ定義される。
パーティションタイプ情報は、予測単位の高さまたは幅が対称的な比率に分割された対称的パーティションタイプ2Nx2N,2NxN,Nx2N及びNxNと、非対称的な比率に分割された非対称的パーティションタイプ2NxnU,2NxnD,nLx2N,NRx2Nとを示すことができる。非対称的パーティションタイプ2NxnU及び2NxnDは、それぞれ高さが1:3及び3:1に分割された形態であり、非対称的パーティションタイプnLx2N及びnRx2Nは、それぞれ幅が1:3及び3:1に分割された形態を示す。
変換単位サイズは、イントラモードで2種類の大きさ、インターモードで2種類の大きさに設定される。すなわち、変換単位分割情報が0であるならば、変換単位の大きさが、現在符号化単位のサイズ2Nx2Nに設定される。変換単位分割情報が1であるならば、現在符号化単位が分割された大きさの変換単位が設定される。また、サイズ2Nx2Nである現在符号化単位に係わるパーティションタイプが、対称形パーティションタイプであるならば、変換単位の大きさは、NxN、非対称形パーティションタイプであるならば、N/2xN/2に設定される。
一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位のうち、少なくとも一つについて割り当てられる。符号化深度の符号化単位は、同一の符号化情報を保有している予測単位及び最小単位を一つ以上含んでもよい。
従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同一の符号化深度の符号化単位に含まれるか否かが確認される。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。
従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。
他の実施形態で、現在符号化単位が周辺符号化単位を参照し、予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用して、深度別符号化単位内で、現在符号化単位に隣接するデータが検索されることにより、周辺符号化単位が参照されもする。
図25は、表0の符号化モード情報による符号化単位、予測単位及び変換単位の関係を図示している。
最大符号化単位1300は、符号化深度の符号化単位1302,1304,1306,1312,1314,1316,1318を含む。このうち1つの符号化単位1318は、符号化深度の符号化単位であるので、分割情報が0に設定される。サイズ2Nx2Nの符号化単位1318のパーティションタイプ情報は、パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326,NxN 1328,2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定される。
変換単位分割情報TU size flagは、変換インデックスの一種であり、変換インデックスに対応する変換単位の大きさは、符号化単位の予測単位タイプまたはパーティションタイプによって変更される。
例えば、パーティションタイプ情報が、対称形パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326及びNxN 1328のうち一つに設定されている場合、変換単位分割情報が0であるならば、サイズ2Nx2Nの変換単位1342が設定され、変換単位分割情報が1であるならば、サイズNxNの変換単位1344が設定される。
パーティションタイプ情報が、非対称形パーティションタイプ2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定された場合、変換単位分割情報TU size flagが0であるならば、サイズ2Nx2Nの変換単位1352が設定され、変換単位分割情報が1であるならば、サイズN/2xN/2の変換単位1354が設定される。
図25を参照して説明した変換単位分割情報TU size flagは、0または1の値を有するフラッグだが、一実施形態による変換単位分割情報が1ビットのフラグに限定されるものではなく、設定によって、0、1、2、3、…などに増加して変換単位が階層的に分割されもする。変換単位分割情報は、変換インデックスの一実施形態として利用される。
その場合、一実施形態による変換単位分割情報を、変換単位の最大サイズ、変換単位の最小サイズと共に利用すれば、実際に利用された変換単位の大きさが表現される。一実施形態によるビデオ符号化装置100は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報は、SPSに挿入される。一実施形態によるビデオ復号化装置200は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を利用して、ビデオ復号化に利用することができる。
例えば、(a)現在符号化単位がサイズ64x64であり、最大変換単位サイズが32x32であるならば、(a−1)変換単位分割情報が0であるとき、変換単位の大きさが32x32、(a−2)変換単位分割情報が1であるとき、変換単位の大きさが16x16、(a−3)変換単位分割情報が2であるとき、変換単位の大きさが8x8に設定される。
他の例として、(b)現在符号化単位がサイズ32x32であり、最小変換単位サイズが32x32であるならば、(b−1)変換単位分割情報が0であるとき、変換単位の大きさが32x32に設定され、変換単位の大きさが32x32より小さくなることはないので、それ以上の変換単位分割情報が設定されることがない。
さらに他の例として、(c)現在符号化単位がサイズ64x64であり、最大変換単位分割情報が1であるならば、変換単位分割情報は、0または1であり、他の変換単位分割情報が設定されることがない。
従って、最大変換単位分割情報を「MaxTransformSizeIndex」、最小変換単位サイズを「MinTransformSize」、変換単位分割情報が0である場合の変換単位、すなわち、基礎変換単位RootTuの大きさを「RootTuSize」と定義するとき、現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」は、次の数式(1)のように定義される。
CurrMinTuSize
=max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex)) (1)
現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」と比べ、基礎変換単位サイズである「RootTuSize」は、システム上、採択可能な最大変換単位サイズを示すことができる。すなわち、数式(1)によれば、「RootTuSize/(2^MaxTransformSizeIndex)」は、基礎変換単位サイズである「RootTuSize」を最大変換単位分割情報に相応する回数ほど分割した変換単位サイズであり、「MinTransformSize」は、最小変換単位サイズであるので、これらのうち小さい値が、現在現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」である。
一実施形態による基礎変換単位サイズRootTuSizeは、予測モードによって変わりもする。
例えば、現在予測モードがインターモードであるならば、RootTuSizeは、次の数式(2)によって決定される。数式(2)で、「MaxTransformSize」は、最大変換単位サイズ、「PUSize」は、現在予測単位サイズを示す。
RootTuSize=min(MaxTransformSize,PUSize) (2)
すなわち、現在予測モードがインターモードであるならば、変換単位分割情報が0である場合の、変換単位である基礎変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在予測単位サイズのうち小さい値に設定される。
現在パーティション単位の予測モードが、予測モードがイントラモードであるならば、「RootTuSize」は、次の数式(3)によって決定される。「PartitionSize」は、現在パーティション単位の大きさを示す。
RootTuSize=min(MaxTransformSize,PartitionSize) (3)
すなわち、現在予測モードがイントラモードであるならば、基礎変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在パーティション単位サイズのうち小さい値に設定される。
ただし、パーティション単位の予測モードによって変わる一実施形態による現在最大変換単位サイズである基礎変換単位サイズ「RootTuSize」は、一実施形態であるのみ、現在最大変換単位サイズを決定する要因がこれに限定されるものではないということに留意しなければならない。
図26は、本発明の一実施形態によって、ツリー構造による符号化単位及び変換単位に基づいたツリー構造のシンボルを符号化するビデオ符号化方法のフローチャートを図示している。
段階2610で、現在ピクチャは、少なくとも1つの最大符号化単位に分割される。また、可能な全分割回数を示す最大深度があらかじめ設定されもする。
最大符号化単位の領域が1つの以上が深度によって分割された少なくとも1つの分割領域がそれぞれ符号化される。ここで、深度別に分割領域の符号化結果を比べ、少なくとも1つの分割領域別に最終符号化結果が出力される分割深度が決定され、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。ツリー構造の符号化単位と同様に、ツリー構造による変換単位が決定される。すなわち、ピクチャの符号化結果として、決定されたツリー構造の符号化単位と同様に、ツリー構造による変換単位の符号化結果がピクチャの符号化されたデータとして出力される。
段階2620で、段階2610で符号化されたピクチャに係わるシンボルが、階層的構造のデータ単位を基に決定される。最大符号化単位ごとに、少なくとも1つの分割領域別に、最終符号化結果である映像データと、符号化深度及び符号化モードについての情報とが決定される。符号化モードについての情報は、符号化深度についての情報または分割情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位階層構造情報などを含んでもよい。符号化された符号化モードについての情報は、符号化された映像データのように復号化端に伝送される。
段階2630で、ツリー構造のテイド単位のシンボル特性を考慮して、シンボル符号化方法を選択的に決定することができる。一実施形態によって、階層的構造のデータ単位別に決定されたシンボルを、階層的構造のデータ単位によって符号化するシンボル階層的符号化モード、及び末端レベルのデータ単位に係わるシンボルを符号化する末端レベル符号化モードのうち、シンボル符号化方式が選択的に決定される。
一実施形態によって、階層的構造のデータ単位別に決定された同種シンボルのシンボル値間に発生する相関度を基に、同種シンボルをグループ化して符号化する同種シンボルグループ符号化モード、及び同種シンボルを個別的に符号化する同種シンボル個別符号化モードのうち、1つのシンボル符号化方式が選択的に決定される。
一実施形態によって、階層的構造のデータ単位別に決定された異種シンボルの相関度を基に、異種シンボルをグループ化して符号化する異種シンボルグループ符号化モード、及び異種シンボルを個別的に符号化する異種シンボル個別符号化モードのうち、1つのシンボル符号化方式が選択的に決定される。一実施形態によって、階層的構造の異種シンボルが示す機能の相関度、依存的符号化いかん、連続的符号化いかんのうち少なくとも一つによって異種シンボルグループ符号化が決定される。
一実施形態によって、階層的構造のデータ単位に係わるシンボル値のうち、0であるシンボル値の比率を基に、末端レベルのデータ単位に係わるシンボルのシンボル値を反転させて符号化するシンボル反転符号化モード、及び末端レベルのデータ単位に係わるシンボルのシンボル値を反転なしに符号化する非反転符号化モードのうち、1つのシンボル符号化方式が選択的に決定される。
ビデオのスライス、ピクチャ、シーケンス及び最大符号化単位のうち1つのデータ区間ごとに、シンボルの符号化方式が決定され、1つのデータ区間ごとに、シンボルの符号化方式を示すシンボル符号化方式情報が符号化される。
段階2640で、段階2630で決定された符号化方式によって、シンボルが符号化されて出力される。
一実施形態によるシンボル階層的符号化モードによって、階層的構造のデータ単位別に決定されたシンボルが、階層的構造のデータ単位によって符号化されて出力される。一実施形態による末端レベル符号化モードによって、階層的構造のデータ単位のうち、末端レベルのデータ単位に係わるシンボルだけ符号化されて出力される。
一実施形態による同種シンボルグループ符号化モードによって、同種シンボルのシンボル値のパターンの頻度に基づいて、シンボルコード・テーブルが決定され、シンボルコード・テーブルと、データ単位に係わる同種シンボルのパターンとに基づいて、同種シンボルに係わるシンボルコードが出力される。
一実施形態による異種シンボルグループ符号化モードによって、異種シンボルの共有するコンテクストが決定され、共有コンテクストに基づいて、データ単位に係わる異種シンボルがそれぞれ符号化されて出力される。
一実施形態による異種シンボルグループ符号化モードによって、相互依存的に決定されたり、連続して決定される異種シンボルのシンボル値の組み合わせについて、割り当てられたシンボルコードに基づいて、データ単位に係わる異種シンボルに係わるシンボルコードが出力される。
一実施形態によるシンボル反転符号化モードによって、末端レベルのデータ単位に係わるシンボル値が反転され、これにより、シンボルが符号化されて出力される。
図27は、本発明の一実施形態によって、ツリー構造による符号化単位及びツリー構造の変換単位に基づいたツリー構造のシンボルを復号化するビデオ復号化方法のフローチャートを図示している。
段階2710で、符号化されたビデオに係わるビットストリームが受信されてパージングされる。段階2720で、パージングされたビットストリームから、最大サイズの最大符号化単位に割り当てられる現在ピクチャの映像データ、最大符号化単位別符号化深度及び符号化モードについての情報が抽出される。ツリー構造のシンボルに係わるシンボル復号化方式情報が抽出されもする。
段階2730で、抽出された、ツリー構造のシンボルは、シンボル特徴に基づいて、シンボル復号化方式が選択的に決定される。ツリー構造によって、全てのレベルのシンボルが復号化されたり、あるいは特定位置のシンボルだけが復号化されたり、あるいはシンボルの組み合わせが復号化される。
一実施形態によるシンボル階層的復号化モード、または末端レベル復号化モードのシンボル復号化方式によって、階層的構造のシンボルが復号化される。また、一実施形態による同種シンボルグループ復号化モードのシンボル復号化方式によって、階層的構造のシンボルが復号化される。また、一実施形態による異種シンボルグループ復号化モードのシンボル復号化方式によって、階層的構造のシンボルが復号化される。また、一実施形態によるシンボル反転復号化モードのシンボル復号化方式によって、階層的構造のシンボルが復号化される。
ビデオのスライス、ピクチャ、シーケンス及び最大符号化単位のうち1つのデータ区間ごとに、シンボルの復号化方式を示すシンボル復号化方式情報が抽出され、シンボル復号化方式情報に基づいて、データ区間ごとに利用するシンボルの復号化方式が決定されもする。
一実施形態によって、シンボルが復号化されることによって、一実施形態による符号化深度及び符号化モードについての情報が読み取られる。一実施形態による符号化深度及び符号化モードについての情報によれば、最大符号化単位が、ツリー構造による符号化単位に分割される。また、抽出された情報のうち、変換単位階層構造情報によれば、符号化単位内のツリー構造による変換深度の変換単位が決定される。
段階2740で、最大符号化単位別符号化深度及び符号化モードについての情報を利用して、ツリー構造の符号化単位、これに係わる予測単位、これに係わるツリー構造の変換単位に基づいて、それぞれの最大符号化単位の映像データが復号化される。符号化深度及び符号化モードについての情報に基づいて、現在符号化単位について復号化が行われながら、ツリー構造の変換単位のうち決定された変換単位を利用して、現在符号化単位について逆変換が行われる。
符号化単位ごとに、最大符号化単位ごとに復号化が行われながら、空間領域の映像データが復元され、ピクチャ及びピクチャシーケンスであるビデオが復元される。復元されたビデオは、再生装置によって再生されたり、あるいは記録媒体に保存されたり、あるいはネットワークを介して伝送される。
一実施形態によるシンボル符号化及びシンボル復号化によって、ツリー構造による符号化単位と、ツリー構造による変換単位とによる符号化過程で決定されるツリー構造の符号化シンボルのシンボル特性によって、適するシンボル符号化方式が決定されるので、シンボルが効率的に符号化される。また、ツリー構造による符号化単位と、ツリー構造による変換単位とによる符号化過程で決定されるツリー構造の符号化シンボルのうち、一部シンボルだけが受信されても、シンボル復号化方式によって、残りのシンボルをいずれも復元することができるので、シンボルが効率的に復号化される。
従って、ビデオ符号化過程では、ピクチャをツリー構造の符号化単位、及びツリー構造の変換単位、予測単位に基づいてビデオが符号化されるので、ビデオの正確なビデオ復号化のために、符号化方式、符号化モードなどに係わる符号化情報が符号化される。符号化情報は、シンボルとして符号化され、シンボルコードの形態で出力される。ビデオ復号化過程では、復元されたシンボルから、ツリー構造の符号化単位、及びツリー構造の変換単位、予測単位に基づいて符号化されたピクチャに係わる符号化情報が読み取られるので、符号化情報を利用して、ピクチャ、ピクチャシーケンスが復元されることにより、ビデオが復元される。
一方、前述の本発明の実施形態は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用して、前記プログラムを動作させる汎用デジタルコンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体(例えば、ROM(read-only memory)、フロッピー(登録商標)ディスク、ハードディスクなど)、光学的判読媒体(例えば、CD(compact disc)−ROM、DVD(digital versatile disc)など)のような記録媒体を含む。
以上、本発明についてその望ましい実施形態を中心に説明した。本発明が属する技術分野で当業者であるならば、本発明が本発明の本質的な特性から外れない範囲で変形された形態で具現されるということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されなければならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にある全ての差異は、本発明に含まれたものであると解釈されなければならないであろう。