JP5832646B2 - ビデオ復号化方法及びビデオ復号化装置 - Google Patents

Description

本発明は、インター予測及び動き補償を伴うビデオ符号化／復号化に関する。

高解像度または高画質のビデオコンテンツを再生、保存することができるハードウェアの開発及び普及によって、高解像度または高画質のビデオコンテンツを効果的に符号化したり、あるいは復号化するビデオコーデックの必要性が増大している。既存のビデオコーデックによれば、ビデオは、所定サイズのマクロブロックに基づいて、制限された符号化方式によって符号化されている。

周波数変換を利用して、空間領域の映像データは、周波数領域の係数に変換される。ビデオコーデックは、周波数変換の迅速な演算のために、映像を所定サイズのブロックに分割し、ブロックごとにＤＣＴ（discrete cosine transformation）変換を行い、ブロック単位の周波数係数を符号化する。空間領域の映像データに比べ、周波数領域の係数が、圧縮しやすいという形態を有する。特に、ビデオコーデックのインター予測またはイントラ予測を介して、空間領域の映像画素値は、予測誤差でもって表現されるので、予測誤差に対して周波数変換が行われれば、多くのデータが０に変換されもする。ビデオコーデックは、連続的に反復的に発生するデータを小サイズのデータに置換することにより、データ量を節減している。

本発明は、コロケーティッド映像を利用して参照映像を決定するインター予測法及びその装置、並びにそれによるビデオ符号化方法及びその装置、ビデオ復号化方法及びその装置を提案する。

本発明の一実施形態によるインター予測法は、現在映像より先に復元された映像のブロックのうち、前記現在映像の現在ブロックに係わるコロケーティッドブロック（collocated block）を決定する段階と、前記コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認し、前記第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認する段階と、前記確認結果に基づいて、前記第１参照リスト及び前記第２参照リストのうちいずれか１つのコロケーティッド参照リストを決定する段階と、前記コロケーティッド参照リストの動き情報を利用して、前記現在ブロックの参照ブロックを決定する段階と、前記決定された参照ブロックを利用して、前記現在ブロックに対するインター予測を行う段階と、を含む。

本発明によれば、現在ブロックのインター予測のための参照映像を決定するために、コロケーティッドブロックの参照リストに含まれた多数の参照映像をいずれも確認する必要なしに、現在ブロックからコロケーティッドブロックへの方向と反対方向に位置した第１参照リストを最優先的に確認し、残りの参照リストは、選択的に確認することができる。従って、コロケーティッドブロックを利用して、現在ブロックの参照映像を決定する動作において、不要な動作は省略されるので、インター予測のための参照映像を決定するプロセスの効率性が向上する。

一実施形態によるインター予測装置のブロック図を図示する図面である。 従来のコロケーティッドブロックを利用した参照映像決定方法を図示する図面である。 一実施形態によって、コロケーティッドブロックを利用して、参照映像を決定する方法を図示する図面である。 一実施形態によるインター予測法のフローチャートである。 一実施形態によるインター予測を伴うビデオ符号化方法のフローチャートである。 一実施形態によるインター予測を伴うビデオ復号化方法のフローチャートである。 一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置のブロック図である。 一実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置のブロック図である。 本発明の一実施形態による符号化単位の概念を図示する図面である。 本発明の一実施形態による符号化単位に基づいた映像符号化部のブロック図である。 本発明の一実施形態による符号化単位に基づいた映像復号化部のブロック図である。 本発明の一実施形態による深度別符号化単位及びパーティションを図示する図面である。 本発明の一実施形態による符号化単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による深度別符号化情報を図示する図面である。 本発明の一実施形態による深度別符号化単位を図示する図面である。 本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 表１の符号化モード情報による符号化単位、予測単位及び変換単位の関係を図示する図面である。

本発明の一実施形態によるインター予測法は、現在映像より先に復元された映像のブロックのうち、前記現在映像の現在ブロックに係わるコロケーティッドブロック（collocated block）を決定する段階と、前記コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認し、前記第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認する段階と、前記確認結果に基づいて、前記第１参照リスト及び前記第２参照リストのうちいずれか１つのコロケーティッド参照リストを決定する段階と、前記コロケーティッド参照リストの動き情報を利用して、前記現在ブロックの参照ブロックを決定する段階と、前記決定された参照ブロックを利用して、前記現在ブロックに対するインター予測を行う段階と、を含む。

一実施形態による前記第１参照リストは、前記現在映像から前記コロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。

一実施形態によって、前記選択的に第２参照リストが参照されるか否かを確認する段階は、前記コロケーティッドブロックのインター予測のために、前記第１参照リストが参照される場合、前記第２参照リストの参照いかんを確認する動作を省略することができる。

一実施形態によって、前記コロケーティッド参照リストを決定する段階は、前記コロケーティッドブロックのＰＯＣ（picture order count）番号が、前記現在映像より常に小さい場合、前記現在ブロックの参照リストを、前記コロケーティッド参照リストとして決定する段階を含んでもよい。

一実施形態によって、前記選択的に第２参照リストが参照されるか否かを確認する段階は、前記第１参照リストまたは前記第２参照リストの動き情報が存在するか否かということに基づいて、前記第１参照リストまたは前記第２参照リストの参照いかんを確認する段階を含んでもよい。

本発明の一実施形態によるインター予測装置は、現在映像より先に復元された映像のブロックのうち、前記現在映像の現在ブロックに係わるコロケーティッドブロックを決定し、前記コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認し、前記第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認するコロケーティッド参照リスト確認部と、前記確認結果に基づいて、前記第１参照リスト及び前記第２参照リストのうちいずれか１つのコロケーティッド参照リストを決定し、前記コロケーティッド参照リストの動き情報を利用して、前記現在ブロックの参照ブロックを決定する参照ブロック決定部と、前記決定された参照ブロックを利用して、前記現在ブロックに対するインター予測を行うインター予測部と、を含む。

本発明の一実施形態によるビデオ復号化装置は、受信されたビットストリームからパージングされたビット列に対してエントロピ復号化を行ってサンプルを復元するパージング部と、前記復元されたサンプルのうち量子化された変換係数に対して逆量子化及び逆変換を行ってサンプルを復元する逆変換部と、前記サンプルのうちイントラ予測モードのブロックに対してイントラ予測を行うイントラ予測部と、前記サンプルにおいて、インターモードである現在ブロックをインター予測のために、前記現在ブロックに係わるコロケーティッドブロックの参照リストのうちから、優先的に第１参照参照リストが参照されるか否かを確認し、前記第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認し、前記確認結果に基づいて、前記第１参照リスト及び前記第２参照リストのうちいずれか１つのコロケーティッド参照リストを決定し、前記コロケーティッド参照リストの動き情報に基づいて決定された前記現在ブロックの参照ブロックを利用して、前記現在ブロックに対するインター予測を行う動き補償部と、前記インター予測または前記イントラ予測を介して復元されたブロックを利用して、映像を復元する復元部と、を含む。

本発明の一実施形態によるビデオ符号化装置は、ビデオのブロックのうち、イントラ予測モードであるブロックに対してイントラ予測を行うイントラ予測部と、インターモードである現在ブロックをインター予測のために、前記現在ブロックに係わるコロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認し、前記第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認し、前記確認結果に基づいて、前記第１参照リスト及び前記第２参照リストのうちいずれか１つのコロケーティッド参照リストを決定し、前記コロケーティッド参照リストの動き情報に基づいて決定された前記現在ブロックの参照ブロックを利用して、前記現在ブロックに対するインター予測を行うインター予測部と、前記イントラ予測または前記インター予測の遂行結果に対して変換及び量子化を行う変換量子化部と、前記変換及び量子化の結果として生成された量子化された変換係数を含むサンプルに対してエントロピ符号化を行って生成されたビットストリームを出力する出力部と、を含む。

本発明は、一実施形態によるインター予測法を電算的に具現するためのプログラムが記録されたコンピューターで読み取り可能な記録媒体を含む。

以下、図１ないし図５を参照し、一実施形態によって、コロケーティッドブロック（collocated block）の参照映像を利用するインター予測法及びインター予測装置を開示する。また、図５及び図６を参照し、一実施形態によるインター予測を伴うビデオ符号化技法及びビデオ復号化技法を開示する。また、図７ないし図１９を参照し、一実施形態によるツリー構造の符号化単位に基づいて、一実施形態によるインター予測を伴うビデオ符号化技法及びビデオ復号化技法を開示する。以下、「映像」は、ビデオの静止映像や動画、すなわち、ビデオそのものを示すものとする。

まず、図１ないし図４を参照し、一実施形態によって、コロケーティッドブロックの参照リストを利用するインター予測法及びインター予測装置を開示する。また、図５及び図６を参照し、一実施形態によるインター予測を伴うビデオ符号化方法及びビデオ復号化方法を開示する。

図１は、一実施形態によるインター予測装置１０のブロック図である。一実施形態によるインター予測装置１０は、参照リスト確認部１２、参照ブロック決定部１４及びインター予測部１６を含む。

一実施形態によるインター予測装置１０は、ビデオのそれぞれの映像のブロック別に符号化する。ブロックのタイプは、正方形または長方形もであり、任意の幾何学的形態でもある。一定サイズのデータ単位に制限されるものではない。一実施形態によるブロックは、ツリー構造による符号化単位のうちでは、最大符号化単位、符号化単位、予測単位、変換単位などでもある。ツリー構造による符号化単位に基づいたビデオ符号化／復号化方式は、図７ないし図１９を参照して後述する。

一実施形態による参照リスト確認部１２は、現在映像より先に復元された映像のブロックのうち、現在映像の現在ブロックに係わるコロケーティッドブロックを決定することができる。現在映像より先に復元された映像のうち、コロケーティッド映像を決定し、コロケーティッド映像内で、現在ブロックと同一なブロック位置に配置されたコロケーティッドブロックが決定される。

一実施形態による参照リスト確認部１２は、コロケーティッドブロックの参照リストを利用して、現在ブロックの参照リストを決定することができる。一実施形態による参照リスト確認部１２は、コロケーティッドブロックの参照リストを利用して、現在ブロックの参照リストを決定することができる。

一実施形態による参照リスト確認部１２は、コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるかどうかを確認することができる。一実施形態による第１参照リストは、現在映像からコロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。

一実施形態による参照リスト確認部１２は、第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認することができる。第１参照リストが参照された場合、第２参照リストの参照いかんは確認されなくともよい。

一実施形態による参照リスト確認部１２は、コロケーティッドブロックのインター予測のために、第１参照リストが参照されると確認された場合、第２参照リストの参照いかんを確認する動作を省略することができる。

一実施形態による参照リスト確認部１２は、第１参照リストまたは第２参照リストの動き情報が存在するか否かということに基づいて、第１参照リストまたは第２参照リストの参照いかんを確認することもできる。

参照ブロック決定部１４は、第１参照リストまたは第２参照リストの参照いかんを確認した結果に基づいて、現在ブロックのための参照ブロックを決定することができる。

一実施形態による参照ブロック決定部１４は、第１参照リスト及び第２参照リストのうち、いずれか１つのコロケーティッド参照リストを決定することができる。第１参照リストが参照可能であると確認された場合には、第１参照リストがコロケーティッド参照リストであると決定され、第２参照リストが参照可能であると確認された場合には、第２参照リストがコロケーティッド参照リストであると決定される。

一実施形態による参照ブロック決定部１４は、コロケーティッド参照リストの動き情報を利用して、現在ブロックの参照ブロックを決定することができる。コロケーティッド参照リストによって、コロケーティッド参照映像が決定され、コロケーティッド映像からコロケーティッド参照映像までの方向及び距離に相応して、現在映像の参照映像が決定される。また、コロケーティッド映像からコロケーティッド参照映像までの方向及び距離に比例して、コロケーティッド参照リストの動き情報を変形することにより、現在ブロックの動き情報が決定され、それによって、現在映像の参照映像のうち参照ブロックが決定される。

ただし、コロケーティッドブロックの映像のＰＯＣ（picture order count）番号が現在映像より常に小さい場合、参照ブロック決定部１４は、現在ブロックの参照リストで、コロケーティッド参照リストを代替することができる。従って、現在ブロックの参照リストによって、現在ブロックの参照映像が決定される。

参照ブロック決定部１４は、ビデオ復号化のディレイを防止するためのローディレイ状態（low delay condition）である場合、現在ブロックの参照リストによって、現在ブロックの参照映像を決定することができる。例えば、現在ブロックの参照リストのうち、リスト０とリスト１とが同一な参照映像で構成された場合、すなわち、ＧＰＢ（generalized Ｐ and Ｂ）モードである場合にも、現在ブロックの参照リストによって、参照映像を決定することができる。それ以外にも、ローディレイ状態に復号化される条件が満足される場合、参照ブロック決定部１４は、現在ブロックの参照リストによって、現在ブロックの参照映像を決定することができる。

一実施形態によるインター予測部１６は、参照ブロック決定部１４で決定された参照ブロックを利用して、現在ブロックに対するインター予測を行うことができる。

一実施形態によるインター予測装置１０は、参照リスト確認部１２、参照ブロック決定部１４及びインター予測部１６を総括的に制御する中央プロセッサ（図示せず）を含んでもよい。または、参照リスト確認部１２、参照ブロック決定部１４及びインター予測部１６が、それぞれの自体プロセッサ（図示せず）によって作動し、プロセッサ（図示せず）が相互有機的に作動することにより、インター予測装置１０が全体的に作動することも可能である。または、一実施形態によるインター予測装置１０の外部プロセッサ（図示せず）の制御によって、参照リスト確認部１２、参照ブロック決定部１４及びインター予測部１６が制御されもする。

一実施形態によるインター予測装置１０は、参照リスト確認部１２、参照ブロック決定部１４及びインター予測部１６の入出力データが保存される一つ以上のデータ保存部（図示せず）を含んでもよい。インター予測装置１０は、データ保存部（図示せず）のデータ入出力を管轄するメモリ制御部（図示せず）を含んでもよい。

一実施形態によるインター予測装置１０は、現在ブロックの参照映像を決定するために、コロケーティッドブロックの参照リストに含まれた多数の参照映像をいずれも確認する必要なしに、現在ブロックからコロケーティッドブロックへの方向と反対方向に位置した第１参照リストを最優先に確認し、残りの参照リストは、選択的に確認することができる。

インター予測装置１０は、コロケーティッドブロックの第１参照リストが、コロケーティッド映像のインター予測のために利用されたと確認されるならば、コロケーティッドブロックの第１参照リストを基に、現在ブロックの参照映像を決定することができるので、コロケーティッドブロックの残りの参照リストの参照いかんをさらに確認するための動作は省略される。従って、コロケーティッドブロックを利用して、現在ブロックの参照映像を決定する動作において、不要な動作は省略されるので、インター予測のための参照映像を決定するプロセスの効率性が向上する。

図２は、従来のコロケーティッドブロックを利用した参照映像決定方法を図示している。現在映像２０において、現在ブロック２５の参照映像は、現在ブロック２５のコロケーティッドブロック２７の参照リストを参照して決定される。

参照リストのインデックスは、リスト０（List ０；Ｌ０）２８と、リスト１（List １；Ｌ１）２９とで表現される。映像２２，２０，２１，２３のＰＯＣ順序によって、現在映像２０より先立つ参照映像を含む参照リストは、リスト０で、遅れる参照映像を含む参照リストは、リスト１で表現されもする。

現在ブロック２５のコロケーティッド映像２１は、現在ブロック２５の「ｃｏｌＤｉｒ」値は、コロケーティッド映像２１の方向を示す。コロケーティッド映像２１が現在映像２０のリスト１ ２６に含まれるので、「ｃｏｌＤｉｒ」値は、１でもある。他の例で、コロケーティッド映像２１を見つけ出すためのパラメータとして、「collocated＿from＿ｌ０＿flag」値が利用されもする。「collocated＿from＿ｌ０＿flag」値は、コロケーティッド映像２１が、現在映像２０のリスト０の映像であるか否かを示すことができる。従って、現在映像２０の「collocated＿from＿ｌ０＿flag」値は、０に決定される。

コロケーティッドブロック２７は、コロケーティッド映像２１において、現在ブロック２５と同一な位置にある。従来方式によれば、コロケーティッドブロック２７の参照リストのうち、リスト０ ２８とリスト１ ２９との参照いかんをいずれも確認し、現在ブロック２５の参照映像が決定される。

一般的に、コロケーティッドブロック２７から現在映像２０を横切る参照方向に沿って、現在ブロック２５の参照映像が決定されることが望ましい。コロケーティッドブロック２７から現在映像２０を横切る参照方向は、リスト０ ２８の方向であるので、現在ブロック２５の参照映像も、リスト０ ２８の方向に位置する可能性が高い。従って、リスト１ ２９の参照いかんを確認する動作が、不要な動作になる可能性が高いにもかかわらず、従来方式によれば、コロケーティッドブロック２７の参照リストのうち、リスト０ ２８と、リスト１ ２９との参照いかんがいずれも確認されなければならない。

図３は、一実施形態によって、コロケーティッドブロックを利用して、参照映像を決定する方法を図示している。

一般的に、コロケーティッドブロック３７から、現在映像３０を横切る参照方向に沿って、現在ブロック３５の参照映像が決定されることが望ましい。すなわち、コロケーティッド映像３１が、現在ブロック３５のリスト１ ３６に含まれるとするならば、コロケーティッドブロック３７から、現在映像３０を横切るリスト０ ３８の参照方向に沿って、現在ブロック３５の参照映像の決定される傾向がある。

もし現在ブロック３５からリスト０の参照方向に、さらに他のコロケーティッド映像が位置する場合には、コロケーティッド映像から、現在映像３０を横切るリスト１の参照方向に沿って、現在ブロック３５の参照映像が決定される可能性が高い。

従って、一実施形態によるインター予測装置１０は、現在ブロック３５の参照映像を決定するために、コロケーティッドブロック３７の参照リスト３８，３９のうち１つの参照リストの参照いかんを優先的に確認する。参照リストの参照いかんは、当該参照リストが以前に参照された結果、コロケーティッドブロック３７が、当該参照リストに係わる動き情報を有しているか否かということによって決定される。

もし優先的に確認した参照リストが、コロケーティッドブロック３７のインター予測のために利用されたものではないと確認されれば、インター予測装置１０は、コロケーティッドブロック３７の残りの参照リストの参照いかんを確認することができる。

前述のように、コロケーティッドブロック３７から、現在映像３０を横切る参照方向に沿う参照リストが選択されることが望ましいので、コロケーティッド映像３１が、現在ブロック３５のリスト１ ３６に含まれるとするならば、インター予測装置１０は、コロケーティッドブロック３７から、現在映像３０を横切るリスト０ ３８の参照いかんを確認することができる。リスト０ ３８の参照いかんが確認されれば、リスト１ ３９の参照いかんは確認しなくともよい。ただし、コロケーティッドブロック３７のリスト０ ３８の映像がインター予測のために参照されないとするならば、インター予測装置１０は、コロケーティッドブロック３７のリスト１ ３９の参照いかんをさらに確認するのみである。

類似の方式によって、インター予測装置１０は、現在ブロックのコロケーティッド映像が、現在ブロックのリスト０に含まれるとするならば、コロケーティッドブロック３７のリスト１の参照いかんを優先的に確認することができる。

従って、インター予測装置１０は、コロケーティッドブロックの参照リストのうち優先的に参照いかんを確認する参照リストを、現在ブロックからコロケーティッド映像までの参照方向に基づいて決定することができる。

すなわち、インター予測装置１０によれば、コロケーティッドブロックの参照リストのうち、優先的に参照いかんを確認する参照リストの方向は、現在ブロックからコロケーティッド映像までの参照方向と反対方向に決定される。従って、コロケーティッド映像が、現在映像のリスト０の映像であるならば、優先的にコロケーティッドブロックのリスト１の参照いかんが確認され、コロケーティッド映像が、現在映像のリスト１の映像であるならば、優先的にコロケーティッドブロックのリスト０の参照いかんが確認される。

例えば、コロケーティッドブロックの参照リストのうち、優先的に参照いかんを確認する参照リストは、現在ブロックからコロケーティッド映像までの参照方向と反対方向に決定される。従って、現在ブロックからコロケーティッド映像までの参照方向を、「ｃｏｌＤｉｒ」と表現するならば、インター予測装置１０は、コロケーティッドブロックの参照リストのうち、優先的に参照いかんを確認する参照リストを、「１−ｃｏｌＤｉｒ」によって決定することができる。

他の例として、コロケーティッド映像が、現在映像のリスト０の映像であるならば、現在ブロックの「collocated＿from＿ｌ０＿flag」値は、１であり、現在映像のリスト１の映像であるならば、現在ブロックの「collocated＿from＿ｌ０＿flag」値は、０である。従って、インター予測装置１０は、コロケーティッドブロックの参照リストのうち、優先的に参照いかんを確認する参照リストの方向を、現在ブロックの「collocated＿from＿ｌ０＿flag」値に相応するように決定することができる。
従って、インター予測装置１０は、第１参照リストの参照いかんに基づいて選択したコロケーティッド参照リストの動き情報を利用して、現在ブロックの参照ブロックを決定することができる。

ただし、インター予測装置１０は、ローディレイ状態（low delay condition）である場合、コロケーティッドブロックの参照リストではない、現在ブロックの参照リストによって、現在ブロックの参照映像を決定することができる。例えば、コロケーティッドブロックの映像のＰＯＣ番号が、現在映像より常に小さい場合、または現在ブロックの参照リストのうち、リスト０映像と、リスト１映像とが同一な参照映像で構成されたＧＰＢ予測モードである場合を含んで所定条件を満足する場合、ローディレイ状態で、映像が復号化される。一実施形態によるインター予測装置１０は、ローディレイ状態の場合、コロケーティッド参照リストを、現在ブロックの参照リストに代替した後、コロケーティッド参照リストの動き情報を利用して、現在ブロックの参照ブロックを決定することができる。

図４は、一実施形態によるインター予測法のフローチャートを図示している。

段階４１で、現在映像より先に復元された映像のブロックのうち、現在映像の現在ブロックに係わるコロケーティッドブロックが決定される。

段階４２で、コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認し、第１参照リストの参照いかんによって、選択的に第２参照リストが参照されるか否かを確認する。

一実施形態による第１参照リストは、現在映像からコロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。コロケーティッドブロックのインター予測のために、第１参照リストが参照される場合、第２参照リストの参照いかんを確認する動作が省略される。

段階４３で、段階４２の確認結果に基づいて、第１参照リスト及び第２参照リストのうち、いずれか１つのコロケーティッド参照リストが決定される。ローディレイ状態で、ビデオ復号化が行われる場合、現在ブロックの参照リストが、コロケーティッド参照リストとして決定され、現在ブロックの参照リストによって、参照映像が決定される。

段階４４で、コロケーティッド参照リストの動き情報を利用して、現在ブロックの参照ブロックが決定される。段階４５で、段階４４で決定された参照ブロックを利用して、現在ブロックに対するインター予測が行われる。

従って、一実施形態によるインター予測のための参照映像決定方式によれば、コロケーティッドブロックの第１参照リストが、コロケーティッド映像のインター予測のために利用されたと確認されるならば、コロケーティッドブロックの残りの参照リストの参照いかんをさらに確認するための不要な動作は、省略することができるので、インター予測プロセスの効率性が向上する。

図５は、一実施形態によるインター予測を伴うビデオ符号化方法のフローチャートを図示している。段階５１では、ビデオのブロックのうち、イントラ予測モードであるブロックに対してイントラ予測が行われる、
段階５２で、インターモードである現在ブロックに対し、インター予測のために、現在ブロックに係わるコロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認する。第１参照リストは、現在映像からコロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。

第１参照リストが参照可能であるならば、第２参照リストの参照いかんは、確認しなくともよい。第１参照リストが参照されないのであるならば、第２参照リストの参照いかんが確認される。確認結果に基づいて、第１参照リスト及び第２参照リストのうち、いずれか１つのコロケーティッド参照リストが決定され、コロケーティッド参照リストの動き情報に基づいて、現在ブロックの参照ブロックが決定される。現在ブロックの参照ブロックを利用して、現在ブロックに対するインター予測が行われ、残差値が生成される。

段階５３で、イントラ予測またはインター予測の遂行結果に対して、変換及び量子化が行われて量子化された変換係数が生成される。段階５５で、段階５３の量子化された変換係数を含むサンプルに対して、エントロピ符号化を行って生成されたビットストリームが出力される。現在ブロックのコロケーティッド映像の方向を示す「ｃｏｌＤｉｒ」パラメータや、コロケーティッド映像が現在映像のリスト０の映像であるか否かを示す「collocated＿from＿ｌ０＿flag」パラメータが伝送されもする。

また、段階５２のインター予測時、ローディレイ状態で映像が復元される場合には、コロケーティッド参照リストと無関係に、現在ブロックの参照リストによって、参照映像が決定される。

図５によるビデオ符号化方法を遂行するビデオ符号化装置は、一実施形態によるインター予測装置１０を含んでもよい。一実施形態によるインター予測装置１０を含むビデオ符号化装置は、映像ブロック別に、イントラ予測、インター予測、変換、量子化を行ってサンプルを生成し、サンプルに対して、エントロピ符号化を行い、ビットストリームの形態に出力することができる。一実施形態によるインター予測装置１０を含むビデオ符号化装置は、ビデオ符号化結果を出力するために、インター予測装置１０は、ビデオ符号化装置の内部に搭載されたビデオエンコーディング・プロセッサまたは外部ビデオエンコーディング・プロセッサと連繋して作動することにより、変換を含んだビデオ符号化動作を遂行することができる。一実施形態による前記ビデオ符号化装置の内部ビデオエンコーディング・プロセッサは、別個のプロセッサだけでなく、ビデオ符号化装置、中央演算装置またはグラフィック演算装置が、ビデオエンコーディング・プロセッシングモジュールを含むことにより、基本的なビデオ符号化動作を具現する場合を含んでもよい。

図６は、一実施形態によるインター予測を伴うビデオ復号化方法のフローチャートを図示している。

段階６１で、受信されたビットストリームからパージングされたビット列に対して、エントロピ復号化が行われ、サンプルが復元される。段階６２で、サンプルのうち、量子化された変換係数に対して、逆量子化及び逆変換が行われ、サンプルが復元される。段階６３で、イントラモードのサンプルに対して、イントラ予測を行い、段階６４で、インターモードのサンプルに対して動き補償が行われる。段階６５で、段階６３のイントラ予測または段階６４の動き補償を介して復元されたブロックを利用して、映像が復元される。

段階６４で、サンプルにおいて、インターモードである現在ブロックをインター予測するために、現在ブロックに係わるコロケーティッドブロックが決定される。ビットストリームから、現在ブロックのコロケーティッド映像の方向を示す「ｃｏｌＤｉｒ」パラメータや、コロケーティッド映像が、現在映像のリスト０の映像であるか否かを示す「collocated＿from＿ｌ０＿flag」パラメータがパージングされて復元されもする。「ｃｏｌＤｉｒ」パラメータや、「collocated＿from＿ｌ０＿flag」パラメータに基づいて、現在ブロックのコロケーティッドブロックが決定される。

コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認する。第１参照リストは、現在映像からコロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。

第１参照リスト参照可能であるならば、第２参照リストの参照いかんは確認しなくともよい。第１参照リストが参照されないのであるならば、第２参照リストの参照いかんが確認されもする。確認結果に基づいて、第１参照リスト及び第２参照リストのうち、いずれか１つのコロケーティッド参照リストが決定され、コロケーティッド参照リストの動き情報に基づいて、現在ブロックの参照ブロックが決定される。現在ブロックの参照ブロックを利用して、現在ブロックに対する動き補償が行われ、ブロックピクセル・サンプル値が生成されもする。

また、段階６３の動き補償時、ローディレイ状態で映像が復元される場合には、コロケーティッド参照リストと無関係に、現在ブロックの参照リストによって、参照映像が決定される。

図６によるビデオ復号化方法を遂行するビデオ復号化装置は、一実施形態によるインター予測装置１０を含んでもよい。一実施形態によるインター予測装置１０を含むビデオ復号化装置は、ビットストリームから符号化されたサンプルをパージングし、映像ブロック別に、逆量子化、逆変換、イントラ予測、動き補償を行ってサンプルを復元することができる。一実施形態によるビデオ復号化装置は、ビデオ復号化結果を出力するために、インター予測装置１０は、ビデオ復号化装置内部に搭載されたビデオデコーディング・プロセッサ、または外部ビデオデコーディング・プロセッサと連繋して作動することにより、逆変換、予測／補償を含んだビデオ復号化動作を遂行することができる。一実施形態によるビデオ復号化装置の内部ビデオデコーディング・プロセッサは、別個のプロセッサだけではなく、ビデオ復号化装置、中央演算装置またはグラフィック演算装置がビデオデコーディング・プロセッシングモジュールを含むことにより、基本的なビデオ復号化動作を具現する場合を含んでもよい。

一実施形態によるインター予測装置１０で、ビデオデータが分割されるブロックがツリー構造の符号化単位に分割され、符号化単位に対するインター予測のための予測単位が利用される場合があることは、前述の通りである。以下、図７ないし図１９を参照し、一実施形態によるツリー構造の符号化単位及び変換単位に基づいたビデオ符号化方法及びその装置、ビデオ復号化方法及びその装置を開示する。

図７は、本発明の一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置１００のブロック図である。

一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置１００は、最大符号化単位分割部１１０、符号化単位決定部１２０及び出力部１３０を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置１００は、「ビデオ符号化装置１００」と縮約することにする。

最大符号化単位分割部１１０は、映像の現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャを区画することができる。現在ピクチャが最大符号化単位より大きければ、現在ピクチャの映像データは、少なくとも１つの最大符号化単位に分割される。一実施形態による最大符号化単位は、サイズ３２ｘ３２，６４ｘ６４，１２８ｘ１２８，２５６ｘ２５６のようなデータ単位であり、縦横に大きさが２の自乗である正方形のデータ単位でもある。映像データは、少なくとも１つの最大符号化単位別に、符号化単位決定部１２０に出力される。

一実施形態による符号化単位は、最大サイズ及び深度で特徴づけられる。深度とは、最大符号化単位から、符号化単位が空間的に分割された回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が、最上位深度であり、最小符号化単位が、最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれ、深度別符号化単位の大きさは小さくなるので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含んでもよい。

前述のように、符号化単位の最大サイズによって、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含んでもよい。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域（spatial domain）の映像データが、深度によって階層的に分類される。

最大符号化単位の高さ及び幅を階層的に分割することができる総回数を制限する最大深度、及び符号化単位の最大サイズが前もって設定されている。

符号化単位決定部１２０は、深度ごとに、最大符号化単位の領域が分割された少なくとも１つの分割領域を符号化し、少なくとも１つの分割領域別に、最終符号化結果が出力される深度を決定する。すなわち、符号化単位決定部１２０は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で映像データを符号化し、最小の符号化誤差が発生する深度を選択し、符号化深度として決定する。決定された符号化深度及び最大符号化単位別映像データは、出力部１３０に出力される。

最大符号化単位内の映像データは、最大深度以下の少なくとも１つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最小である深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも１つの符号化深度が決定される。

最大符号化単位の大きさは、深度が深くなるにつれ、符号化単位が階層的に分割されて分割され、符号化単位の個数は増加する。また、１つの最大符号化単位に含まれる同一な深度の符号化単位であるとしても、それぞれのデータに対する符号化誤差を測定し、下位深度への分割いかんが決定される。従って、１つの最大符号化単位に含まれるデータであるとしても、位置によって、深度別符号化誤差が異なるので、位置によって、符号化深度が異なって決定される。従って、１つの最大符号化単位に対して、符号化深度が一つ以上設定されもし、最大符号化単位のデータは、一つ以上の符号化深度の符号化単位によって区画される。

従って、一実施形態による符号化単位決定部１２０は、現在最大符号化単位に含まれるツリー構造による符号化単位を決定する。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれる全ての深度別符号化単位において、符号化深度として決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内で、同一領域では、深度によって階層的に決定され、異なる領域については、独立して決定される。同様に、現在領域に対する符号化深度は、他の領域に対する符号化深度と独立して決定される。

一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数と係わる指標である。一実施形態による第１最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示すことができる。一実施形態による第２最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示すことができる。例えば、最大符号化単位の深度が０であるとする、最大符号化単位が１回分割された符号化単位の深度は、１に設定され、２回分割された符号化単位の深度は、２に設定される。その場合、最大符号化単位から４回分割された符号化単位が最小符号化単位であるならば、深度０，１，２，３及び４の深度レベルが存在するので、第１最大深度は、４、第２最大深度は、５に設定される。

最大符号化単位の予測符号化及び変換が行われる。予測符号化及び変換も同様に、最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に行われる。

最大符号化単位が深度別に分割されるごとに、深度別符号化単位の個数が増加するので、深度が深くなるにつれて生成される全ての深度別符号化単位に対して、予測符号化及び変換を含んだ符号化が行われなければならない。以下、説明の便宜のために、少なくとも１つの最大符号化単位内で、現在深度の符号化単位を基に、予測符号化及び変換を説明する。

一実施形態によるビデオ符号化装置１００は、映像データの符号化のためのデータ単位の大きさまたは形態を多様に選択することができる。映像データの符号化のためには、予測符号化、変換、エントロピ符号化などの段階を経るが、全ての段階にわたって同一であるデータ単位が使用され、段階別にデータ単位が変更されもする。

例えば、ビデオ符号化装置１００は、映像データの符号化のための符号化単位だけでなく、符号化単位の映像データの予測符号化を行うために、符号化単位と異なるデータ単位を選択することができる。

最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、それ以上分割されない符号化単位を基に予測符号化が行われる。以下、予測符号化の基になるそれ以上分割されない符号化単位を「予測単位」とする。予測単位が分割されたパーティションは、予測単位、及び予測単位の高さ及び幅のうち少なくとも一つが分割されたデータ単位を含んでもよい。パーティションは、符号化単位の予測単位が分割された形態のデータ単位であり、予測単位は、符号化単位と同一な大きさのパーティションでもある。

例えば、サイズ２Ｎｘ２Ｎ（ただし、Ｎは、正の整数）の符号化単位が、それ以上分割されない場合、サイズ２Ｎｘ２Ｎの予測単位になり、パーティションの大きさは、２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ，ＮｘＮなどでもある。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が対称的な比率に分割された対称的パーティションだけではなく、１：ｎまたはｎ：１のように、非対称的な比率に分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含んでもよい。

予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つでもある。例えば、イントラモード及びインターモードは、２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ，ＮｘＮサイズのパーティションに対して行われる。また、スキップモードは、２Ｎｘ２Ｎサイズのパーティションに対してのみ行われる。符号化単位以内の１つの予測単位ごとに、独立して符号化が行われ、符号化誤差が最小である予測モードが選択される。

また、一実施形態によるビデオ符号化装置１００は、映像データの符号化のための符号化単位だけでなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの変換を行うことができる。符号化単位の変換のためには、符号化単位より小さいか、あるいはそれと同じサイズの変換単位を基に変換が行われる。例えば、変換単位は、イントラモードのためのデータ単位、及びインターモードのための変換単位を含んでもよい。

一実施形態によるツリー構造による符号化単位と類似した方式で、符号化単位内の変換単位も、再帰的に（recursively）さらに小サイズの変換単位に分割されながら、符号化単位の残差データが、変換深度によって、ツリー構造による変換単位によって区画される。

一実施形態による変換単位に対しても、符号化単位の高さ及び幅が分割され、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ２Ｎｘ２Ｎの現在符号化単位の変換単位の大きさが２Ｎｘ２Ｎであるならば、変換深度０、変換単位の大きさがＮｘＮであるならば、変換深度１、変換単位の大きさがＮ／２ｘＮ／２であるならば、変換深度２に設定される。すなわち、変換単位についても、変換深度によって、ツリー構造による変換単位が設定される。

符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び変換関連情報が必要である。従って、符号化単位決定部１２０は、最小符号化誤差を発生させた符号化深度だけでなく、予測単位をパーティションに分割したパーティションタイプ、予測単位別予測モード、変換のための変換単位の大きさなどを決定することができる。

一実施形態による最大符号化単位のツリー構造による符号化単位及び予測単位／パーティション、及び変換単位の決定方式については、図７ないし図１９を参照して詳細に後述する。

符号化単位決定部１２０は、深度別符号化単位の符号化誤差を、ラグランジュ乗数（Lagrangian multiplier）基盤の率・歪曲最適化技法（rate-distortion optimization）を利用して測定することができる。

出力部１３０は、符号化単位決定部１２０で決定された少なくとも１つの符号化深度に基づいて符号化された最大符号化単位の映像データ及び深度別符号化モードについての情報を、ビットストリーム形態に出力する。

符号化された映像データは、映像の残差データの符号化結果でもある。

深度別符号化モードについての情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位の大きさ情報などを含んでもよい。

符号化深度情報は、現在深度に符号化せずに、下位深度の符号化単位で符号化するか否かを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が、符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報は、それ以上、下位深度に分割されないように定義される。一方、現在符号化単位の現在深度が符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みなければならないので、現在深度の分割情報は、下位深度の符号化単位に分割されるように定義される。

現在深度が符号化深度ではないならば、下位深度の符号化単位に分割された符号化単位に対して符号化が行われる。現在深度の符号化単位内に、下位深度の符号化単位が一つ以上存在するので、それぞれの下位深度の符号化単位ごとに、反復的に符号化が行われ、同一である深度の符号化単位ごとに、再帰的（recursive）符号化が行われる。

１つの最大符号化単位中で、ツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも１つの符号化モードについての情報が決定されなければならないので、１つの最大符号化単位については、少なくとも１つの符号化モードについての情報が決定される。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なることがあるので、データについて、符号化深度及び符号化モードについての情報が設定される。

従って、一実施形態による出力部１３０は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つに対して、当該符号化深度及び符号化モードに対する符号化情報が割り当てられる。

一実施形態による最小単位は、最下位符号化深度である最小符号化単位が４分割された大きさの正方形のデータ単位である。一実施形態による最小単位は、最大符号化単位に含まれる全ての符号化単位、予測単位、パーティション単位及び変換単位の中に含まれる最大サイズの正方形データ単位でもある。

例えば、出力部１３０を介して出力される符号化情報は、深度別符号化単位別符号化情報と、予測単位別符号化情報とに分類される。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向についての情報、インターモードの参照映像インデックスについての情報、動きベクトルについての情報、イントラモードのクロマ成分についての情報、イントラモードの補間方式についての情報などを含んでもよい。

ピクチャ、スライスまたはＧＯＰ（group of pictures）の別に定義される符号化単位の最大サイズについての情報及び最大深度についての情報は、ビットストリームのヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットなどに挿入される。

また、現在ビデオに対して許容される変換単位の最大サイズについての情報、及び変換単位の最小サイズについての情報も、ビットストリームのヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットなどを介して出力される。出力部１３０は、図１ないし図６を参照して説明した予測と係わる参照情報、予測情報、単一方向予測情報、第４スライスタイプを含むスライスタイプ情報などを符号化して出力することができる。

ビデオ符号化装置１００の最も簡単な形態の実施形態によれば、深度別符号化単位は、１階層上位深度の符号化単位の高さ及び幅を半分にした大きさの符号化単位である。すなわち、現在深度の符号化単位の大きさが、２Ｎｘ２Ｎであるならば、下位深度の符号化単位の大きさは、ＮｘＮである。また、２Ｎｘ２Ｎサイズの現在符号化単位は、ＮｘＮサイズの下位深度符号化単位を最大４個含む。

従って、ビデオ符号化装置１００は、現在ピクチャの特性を考慮して決定された最大符号化単位の大きさ及び最大深度を基に、それぞれの最大符号化単位ごとに、最適の形態及び大きさの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式などによって符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮して、最適の符号化モードが決定される。

従って、映像の解像度が非常に高いか、あるいはデータ量が非常に多い映像を既存マクロブロック単位で符号化するならば、ピクチャ当たりマクロブロックの数が過度に多くなる。それによって、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下するという傾向がある。従って、一実施形態によるビデオ符号化装置は、映像の大きさを考慮して符、号化単位の最大サイズを増大させながら、映像特性を考慮して、符号化単位を調節することができるので、映像圧縮効率が向上する。

図７のビデオ符号化装置１００は、図１を参照して説明したインター予測装置１０の動作を遂行することができる。

符号化単位決定部１２０は、インター予測装置１０の動作を遂行することができる。最大符号化単位ごとに、ツリー構造による符号化単位別に、インター予測のための予測単位を決定し、予測単位ごとにインター予測を行うことができる。

特に、インターモードである現在予測単位をインター予測のために、現在ブロックに係わるコロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認する。第１参照リストは、現在映像からコロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。

第１参照リスト参照可能であるならば、第２参照リストの参照いかんは確認しなくともよい。第１参照リストが参照されないのであるならば、第２参照リストの参照いかんが確認される。確認結果に基づいて、第１参照リスト及び第２参照リストのうち、いずれか１つのコロケーティッド参照リストが決定され、コロケーティッド参照リストの動き情報に基づいて、現在予測単位の参照ブロックが決定される。現在予測単位の参照ブロックを利用して、現在予測単位に対するインター予測が行われて残差値が生成される。現在予測単位のコロケーティッドブロックを示す「ｃｏｌＤｉｒ」パラメータや「collocated＿from＿ｌ０＿flag」パラメータが伝送される。

図８は、本発明の一実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置２００のブロック図である。

一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置２００は、受信部２１０、映像データ及び符号化情報抽出部２２０及び映像データ復号化部２３０を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置２００は、「ビデオ復号化装置２００」と縮約する。

一実施形態によるビデオ復号化装置２００の復号化動作のための符号化単位、深度、予測単位、変換単位、各種符号化モードについての情報など各種用語の定義は、図７及びビデオ符号化装置１００を参照して説明したところと同一である。

受信部２１０は、符号化されたビデオに係わるビットストリームを受信してパージングする。映像データ及び符号化情報抽出部２２０は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位によって、符号化単位ごとに、符号化された映像データを抽出し、映像データ復号化部２３０に出力する。映像データ及び符号化情報抽出部２２０は、現在ピクチャに係わるヘッダ、シーケンスパラメータ・セットまたはピクチャパラメータ・セットから、現在ピクチャの符号化単位の最大サイズについての情報を抽出することができる。

また、映像データ及び符号化情報抽出部２２０は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化深度及び符号化モードについての情報を抽出する。抽出された符号化深度及び符号化モードについての情報は、映像データ復号化部２３０に出力される。すなわち、ビット列の映像データを最大符号化単位に分割し、映像データ復号化部２３０をして、最大符号化単位ごとに、映像データを復号化させる。

最大符号化単位別符号化深度及び符号化モードについての情報は、一つ以上の符号化深度情報について設定され、符号化深度別符号化モードについての情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位の大きさ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されもする。

映像データ及び符号化情報抽出部２２０が抽出した最大符号化単位別符号化深度及び符号化モードについての情報は、一実施形態によるビデオ符号化装置１００のように、符号化端で、最大符号化単位別深度別符号化単位ごとに反復的に符号化を行い、最小符号化誤差を発生させることによって決定された符号化深度及び符号化モードについての情報である。従って、ビデオ復号化装置２００は、最小符号化誤差を発生させる符号化方式によって、データを復号化して映像を復元することができる。

一実施形態による符号化深度及び符号化モードに係わる符号化情報は、当該符号化単位、予測単位及び最小単位のうち、所定データ単位に対して割り当てられているので、映像データ及び符号化情報抽出部２２０は、所定データ単位別に、符号化深度及び符号化モードについての情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードについての情報が記録されているとするならば、同一な符号化深度及び符号化モードについての情報を有している所定データ単位は、同一な最大符号化単位に含まれるデータ単位と類推される。

映像データ復号化部２３０は、最大符号化単位別符号化深度及び符号化モードについての情報に基づいて、それぞれの最大符号化単位の映像データを復号化し、現在ピクチャを復元する。すなわち、映像データ復号化部２３０は、最大符号化単位に含まれるツリー構造による符号化単位において、それぞれの符号化単位ごとに、読み取られたパーティションタイプ、予測モード、変換単位に基づいて、符号化された映像データを復号化することができる。復号化過程は、イントラ予測及び動き補償を含む予測過程、及び逆変換過程を含んでもよい。

映像データ復号化部２３０は、符号化深度別符号化単位の予測単位のパーティションタイプ情報及び予測モード情報に基づいて、符号化単位ごとに、それぞれのパーティション及び予測モードによって、イントラ予測または動き補償を行うことができる。

また、映像データ復号化部２３０は、最大符号化単位別逆変換のために、符号化単位別に、ツリー構造による変換単位情報を読み取り、符号化単位ごとに、変換単位に基づいた逆変換を行うことができる。逆変換を介して、符号化単位の空間領域の画素値が復元される。

映像データ復号化部２３０は、深度別分割情報を利用して、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が現在深度で、それ以上分割されないことを示しているならば、現在深度が符号化深度である。従って、映像データ復号化部２３０は、現在最大符号化単位の映像データに対して、現在深度の符号化単位を予測単位のパーティションタイプ、予測モード及び変換単位大きさ情報を利用して、復号化することができる。

すなわち、符号化単位、予測単位及び最小単位のうち、所定データ単位について設定されている符号化情報を観察し、同一な分割情報を含んだ符号化情報を保有しているデータ単位が集まり、映像データ復号化部２３０によって、同一な符号化モードで復号化する１つのデータ単位と見ることができる。かように決定された符号化単位ごとに、符号化モードに係わる情報を獲得し、現在符号化単位の復号化が行われる。

また、図８のビデオ復号化装置２００において、映像データ復号化部２３０は、図１を参照して説明したインター予測装置１０の動作を遂行することができる。

映像データ復号化部２３０は、最大符号化単位ごとに、ツリー構造による符号化単位別に、インター予測のための予測単位を決定し、予測単位ごとに、インター予測を行うことができる。

特に、復元されたサンプルにおいて、インターモードである現在ブロックをインター予測のために、現在ブロックに係わるコロケーティッドブロックが決定される。ビットストリームからパージングされた現在予測単位の「ｃｏｌＤｉｒ」パラメータや「collocated＿from＿ｌ０＿flag」パラメータに基づいて、現在予測単位のコロケーティッドブロックが決定される。

コロケーティッドブロックの参照リストのうちから、優先的に第１参照リストが参照されるか否かを確認する。第１参照リストは、現在映像からコロケーティッドブロックまでの方向と反対方向に位置する映像を含んでもよい。

第１参照リストが参照可能であるならば、第２参照リストの参照いかんは、確認しなくともよい。第１参照リストが参照されないのであるならば、第２参照リストの参照いかんが確認される。確認結果に基づいて、第１参照リスト及び第２参照リストのうち、いずれか１つのコロケーティッド参照リストが決定され、コロケーティッド参照リストの動き情報に基づいて、現在予測単位の参照ブロックが決定される。現在予測単位の参照ブロックを利用して、現在予測単位に係わる動き補償が行われ、ブロックピクセル・サンプル値が生成される。

また、ローディレイ状態で映像が復元される場合には、コロケーティッド参照リストと係わりなく、現在予測単位の参照リストによって参照映像が決定される。

結局、ビデオ復号化装置２００は、符号化過程で、最大符号化単位ごとに、再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに対する復号化に利用することができる。すなわち、最大符号化単位ごとに、最適符号化単位として決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。

従って、高い解像度の映像、またはデータ量が過度に多い映像でも、符号化端から伝送された最適符号化モードについての情報を利用して、映像の特性に適応的に決定された符号化単位の大きさ及び符号化モードによって、効率的に映像データを復号化して復元することができる。

図９は、本発明の一実施形態による符号化単位の概念を図示している。

符号化単位の例は、符号化単位の大きさは、幅ｘ高さで表現され、サイズ６４ｘ６４である符号化単位から、サイズ３２ｘ３２，１６ｘ１６，８ｘ８を含んでもよい。サイズ６４ｘ６４の符号化単位は、サイズ６４ｘ６４，６４ｘ３２，３２ｘ６４，３２ｘ３２のパーティションに分割され、サイズ３２ｘ３２の符号化単位は、サイズ３２ｘ３２，３２ｘ１６，１６ｘ３２，１６ｘ１６のパーティションに、サイズ１６ｘ１６の符号化単位は、サイズ１６ｘ１６，１６ｘ８，８ｘ１６，８ｘ８のパーティションに、サイズ８ｘ８の符号化単位は、サイズ８ｘ８，８ｘ４，４ｘ８，４ｘ４のパーティションに分割される。

ビデオデータ３１０については、解像度が１９２０ｘ１０８０、符号化単位の最大サイズが６４、最大深度が２に設定されている。ビデオデータ３２０については、解像度が１９２０ｘ１０８０、符号化単位の最大サイズが６４、最大深度が３に設定されている。ビデオデータ３３０については、解像度が３５２ｘ２８８、符号化単位の最大サイズが１６、最大深度が１に設定されている。図９に図示された最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。

解像度が高いか、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映させるために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ３３０に比べ、解像度が高いビデオデータ３１０，３２０は、符号化サイズの最大サイズが６４に選択される。

ビデオデータ３１０の最大深度が２であるので、ビデオデータ３１０の符号化単位３１５は、長軸サイズが６４である最大符号化単位から、２回分割されて深度が２階層深くなり、長軸サイズが３２，１６である符号化単位まで含んでもよい。一方、ビデオデータ３３０の最大深度が１であるので、ビデオデータ３３０の符号化単位３３５は、長軸サイズが１６である符号化単位から、１回分割されて深度が１階層深くなり、長軸サイズが８である符号化単位まで含んでもよい。

ビデオデータ３２０の最大深度が３であるので、ビデオデータ３２０の符号化単位３２５は、長軸サイズが６４である最大符号化単位から、３回分割されて深度が３階層深くなり、長軸サイズが３２，１６，８である符号化単位まで含んでもよい。深度が深くなるほど、詳細情報の表現能が向上する。

図１０は、本発明の一実施形態による符号化単位に基づいた映像符号化部４００のブロック図である。

一実施形態による映像符号化部４００は、ビデオ符号化装置１００の符号化単位決定部１２０でｂ映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部４１０は、現在フレーム４０５において、イントラモードの符号化単位に対してイントラ予測を行い、動き推定部４２０及び動き補償部４２５は、インターモードの現在フレーム４０５及び参照フレーム４９５を利用して、インター推定及び動き補償を行う。

イントラ予測部４１０、動き推定部４２０及び動き補償部４２５から出力されたデータは、変換部４３０及び量子化部４４０を経て量子化された変換係数として出力される。量子化された変換係数は、逆量子化部４６０、逆変換部４７０を介して、空間領域のデータに復元され、復元された空間領域のデータは、デブロッキング部４８０及びループ・フィルタリング部４９０を経て後処理され、参照フレーム４９５として出力される。量子化された変換係数は、エントロピ符号化部４５０を経て、ビットストリーム４５５として出力される。

一実施形態によるビデオ符号化装置１００に適用されるためには、映像符号化部４００の構成要素であるイントラ予測部４１０、動き推定部４２０、動き補償部４２５、変換部４３０、量子化部４４０、エントロピ符号化部４５０、逆量子化部４６０、逆変換部４７０、デブロッキング部４８０及びループ・フィルタリング部４９０が、いずれも最大符号化単位ごとに、最大深度を考慮して、ツリー構造による符号化単位において、それぞれの符号化単位に基づいた作業を行わなければならない。

特に、イントラ予測部４１０、動き推定部４２０及び動き補償部４２５は、現在最大符号化単位の最大サイズ及び最大深度を考慮して、ツリー構造による符号化単位において、それぞれの符号化単位のパーティション及び予測モードを決定し、変換部４３０は、ツリー構造による符号化単位において、それぞれの符号化単位内の変換単位の大きさを決定しなければならない。

特に、動き補償部４２５は、現在予測単位のインター予測のための参照映像を決定するために、コロケーティッドブロックの第１参照リストの参照いかんを優先的に確認し、コロケーティッドブロックの第１参照リストが先に参照されて動き情報を有しているならば、コロケーティッドブロックの残りの参照リストの参照いかんをさらに確認しない。ただし、コロケーティッドブロックの第１参照リストが参照されず、第１参照リストの動き情報がなければ、動き補償部４２５は、コロケーティッドブロックの残りの参照リストの参照いかんをさらに確認することができる。動き補償部４２５は、参照いかんが確認されたコロケーティッドブロックの参照リストを利用して、現在予測単位の参照リストを決定することができる。

図１１は、本発明の一実施形態による符号化単位に基づいた映像復号化部５００のブロック図である。

ビットストリーム５０５が、パージング部５１０を経て、復号化対象である符号化された映像データ、及び復号化のために必要な符号化についての情報がパージングされる。符号化された映像データは、エントロピ復号化部５２０及び逆量子化部５３０を経て、逆量子化されたデータとして出力され、逆変換部５４０を経て、空間領域の映像データが復元される。

空間領域の映像データについて、イントラ予測部５５０は、イントラモードの符号化単位に対してイントラ予測を行い、動き補償部５６０は、参照フレーム５８５を共に利用して、インターモードの符号化単位に対して動き補償を行う。

イントラ予測部５５０及び動き補償部５６０を経た空間領域のデータは、デブロッキング部５７０及びループ・フィルタリング部５８０を経て後処理され、復元フレーム５９５として出力される。また、デブロッキング部５７０及びループ・フィルタリング部５８０を経て後処理されたデータは、参照フレーム５８５として出力される。

ビデオ復号化装置２００の映像データ復号化部２３０で、映像データを復号化するために、一実施形態による映像復号化部５００のパージング部５１０以後の段階別作業が遂行される。

一実施形態によるビデオ復号化装置２００に適用されるためには、映像復号化部５００の構成要素であるパージング部５１０、エントロピ復号化部５２０、逆量子化部５３０、逆変換部５４０、イントラ予測部５５０、動き補償部５６０、デブロッキング部５７０及びループ・フィルタリング部５８０が、いずれも最大符号化単位ごとに、ツリー構造による符号化単位に基づいて作業を行わなければならない。

特に、イントラ予測部５５０、動き補償部５６０は、ツリー構造による符号化単位それぞれごとに、パーティション及び予測モードを決定し、逆変換部５４０は、符号化単位ごとに、変換単位の大きさを決定しなければならない。

特に、動き補償部５６０は、現在予測単位のインター予測のための参照映像を決定するために、コロケーティッドブロックの第１参照リストの参照いかんを優先的に確認し、コロケーティッドブロックの第１参照リストが先に参照され、動き情報を有しているならば、コロケーティッドブロックの残りの参照リストの参照いかんをさらに確認しない。ただし、コロケーティッドブロックの第１参照リストが参照されず、第１参照リストの動き情報がなければ、動き補償部５６０は、コロケーティッドブロックの残りの参照リストの参照いかんをさらに確認することができる。動き補償部５６０は、参照いかんが確認されたコロケーティッドブロックの参照リストを利用して、現在予測単位の参照リストを決定することができる。

図１２は、本発明の一実施形態による深度別符号化単位及びパーティションを図示している。

一実施形態によるビデオ符号化装置１００、及び一実施形態によるビデオ復号化装置２００は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高及び最大幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって、多様に設定されもする。既設定の符号化単位の最大サイズによって、深度別符号化単位の大きさが決定される。

一実施形態による符号化単位の階層構造６００は、符号化単位の最大高及び最大幅が６４であり、最大深度が４である場合を図示している。このとき、最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。一実施形態による符号化単位の階層構造６００の縦軸に沿って、深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造６００の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基になる予測単位及びパーティションが図示されている。

すなわち、符号化単位６１０は、符号化単位の階層構造６００において、最大符号化単位であり、深度が０であり、符号化単位の大きさ、すなわち、高さ及び幅が６４ｘ６４である。縦軸に沿って深度が深くなり、サイズ３２ｘ３２である深度１の符号化単位６２０、サイズ１６ｘ１６である深度２の符号化単位６３０、サイズ８ｘ８である深度３の符号化単位６４０が存在する。サイズ８ｘ８である深度３の符号化単位６４０は、最小符号化単位である。

それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度０のサイズ６４ｘ６４の符号化単位６１０が、予測単位であるならば、予測単位は、サイズ６４ｘ６４の符号化単位６１０に含まれるサイズ６４ｘ６４のパーティション６１０、サイズ６４ｘ３２のパーティション６１２、サイズ３２ｘ６４のパーティション６１４、サイズ３２ｘ３２のパーティション６１６に分割される。

同様に、深度１のサイズ３２ｘ３２の符号化単位６２０の予測単位は、サイズ３２ｘ３２の符号化単位６２０に含まれるサイズ３２ｘ３２のパーティション６２０、サイズ３２ｘ１６のパーティション６２２、サイズ１６ｘ３２のパーティション６２４、サイズ１６ｘ１６のパーティション６２６に分割される。

同様に、深度２のサイズ１６ｘ１６の符号化単位６３０の予測単位は、サイズ１６ｘ１６の符号化単位６３０に含まれるサイズ１６ｘ１６のパーティション６３０、サイズ１６ｘ８のパーティション６３２、サイズ８ｘ１６のパーティション６３４、サイズ８ｘ８のパーティション６３６に分割される。

同様に、深度３のサイズ８ｘ８の符号化単位６４０の予測単位は、サイズ８ｘ８の符号化単位６４０に含まれるサイズ８ｘ８のパーティション６４０、サイズ８ｘ４のパーティション６４２、サイズ４ｘ８のパーティション６４４、サイズ４ｘ４のパーティション６４６に分割される。

一実施形態によるビデオ符号化装置１００の符号化単位決定部１２０は、最大符号化単位６１０の符号化深度を決定するために、最大符号化単位６１０に含まれるそれぞれの深度の符号化単位ごとに符号化を行わなければならない。

同一な範囲及び大きさのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度１の符号化単位一つが含むデータについて、深度２の符号化単位は、四つが必要である。従って、同一なデータの符号化結果を深度別に比較するために、１つの深度１の符号化単位及び４つの深度２の符号化単位を利用して、それぞれ符号化されなければならない。

それぞれの深度別符号化のためには、符号化単位の階層構造６００の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度で最小の符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造６００の縦軸に沿って、深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較して最小符号化誤差が検索される。最大符号化単位６１０において、最小符号化誤差が発生する深度及びパーティションが、最大符号化単位６１０の符号化深度及びパーティションタイプに選択される。

図１３は、本発明の一実施形態による、符号化単位及び変換単位の関係を図示している。

一実施形態によるビデオ符号化装置１００または一実施形態によるビデオ復号化装置２００は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいはそれと同じサイズの符号化単位で映像を符号化したり、あるいは復号化する。符号化過程において、変換のための変換単位の大きさは、それぞれの符号化単位より大きくないデータ単位を基に選択される。

例えば、一実施形態によるビデオ符号化装置１００、または一実施形態によるビデオ復号化装置２００で、現在符号化単位７１０が６４ｘ６４サイズであるとき、３２ｘ３２サイズの変換単位７２０を利用して変換が行われる。

また、６４ｘ６４サイズの符号化単位７１０のデータを、６４ｘ６４サイズ以下の３２ｘ３２，１６ｘ１６，８ｘ８，４ｘ４サイズの変換単位にそれぞれ変換を行って符号化した後、原本との誤差が最小である変換単位が選択される。

図１４は、本発明の一実施形態による深度別符号化情報を図示している。

一実施形態によるビデオ符号化装置１００の出力部１３０は、符号化モードについての情報であり、それぞれの符号化深度の符号化単位ごとに、パーティションタイプについての情報８００、予測モードについての情報８１０、変換単位サイズに係わる情報８２０を符号化して伝送することができる。

パーティションタイプに係わる情報８００は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティション形態に係わる情報を示す。例えば、サイズ２Ｎｘ２Ｎの現在符号化単位ＣＵ＿０は、サイズ２Ｎｘ２Ｎのパーティション８０２、サイズ２ＮｘＮのパーティション８０４、サイズＮｘ２Ｎのパーティション８０６、サイズＮｘＮのパーティション８０８のうちいずれか１つのタイプに分割されて利用される。この場合、現在符号化単位のパーティションタイプについての情報８００は、サイズ２Ｎｘ２Ｎのパーティション８０２、サイズ２ＮｘＮのパーティション８０４、サイズＮｘ２Ｎのパーティション８０６、及びサイズＮｘＮのパーティション８０８のうち一つを示すように設定される。

予測モードについての情報８１０は、それぞれのパーティションの予測モードを示す。例えば、予測モードについての情報８１０を介して、パーティションタイプについての情報８００が示すパーティションが、イントラモード８１２、インターモード８１４及びスキップモード８１６のうち一つで予測符号化が行われるかが設定される。

また、変換単位サイズについての情報８２０は、現在符号化単位を、いかなる変換単位を基に変換を行うか否かを示す。例えば、変換単位は、第１イントラ変換単位サイズ８２２、第２イントラ変換単位サイズ８２４、第１インター変換単位サイズ８２６、第２インター変換単位サイズ８２８のうち一つである。

一実施形態によるビデオ復号化装置２００の映像データ及び符号化情報抽出部２１０は、それぞれの深度別符号化単位ごとに、パーティションタイプについての情報８００、予測モードについての情報８１０、変換単位サイズに係わる情報８２０を抽出し、復号化に利用することができる。

図１５は、本発明の一実施形態による深度別符号化単位を図示している。

深度の変化を示すために、分割情報が利用される。分割情報は、現在深度の符号化単位が、下位深度の符号化単位に分割されるか否かを示す。

深度０及び２Ｎ＿０ｘ２Ｎ＿０サイズの符号化単位９００の予測符号化のための予測単位９１０は、２Ｎ＿０ｘ２Ｎ＿０サイズのパーティションタイプ９１２、２Ｎ＿０ｘＮ＿０サイズのパーティションタイプ９１４、Ｎ＿０ｘ２Ｎ＿０サイズのパーティションタイプ９１６、Ｎ＿０ｘＮ＿０サイズのパーティションタイプ９１８を含んでもよい。予測単位が対称的な比率に分割されたパーティション９１２，９１４，９１６，９１８のみが例示されているが、前述のように、パーティションタイプは、それらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。

パーティションタイプごとに、１つの２Ｎ＿０ｘ２Ｎ＿０サイズのパーティション、２つの２Ｎ＿０ｘＮ＿０サイズのパーティション、２つのＮ＿０ｘ２Ｎ＿０サイズのパーティション、４つのＮ＿０ｘＮ＿０サイズのパーティションごとに、反復的に予測符号化が行われなければならない。サイズ２Ｎ＿０ｘ２Ｎ＿０、サイズＮ＿０ｘ２Ｎ＿０及びサイズ２Ｎ＿０ｘＮ＿０及びサイズＮ＿０ｘＮ＿０のパーティションについては、イントラモード及びインターモードで予測符号化が行われる。スキップモードは、サイズ２Ｎ＿０ｘ２Ｎ＿０のパーティションについてのみ予測符号化が行われる。

サイズ２Ｎ＿０ｘ２Ｎ＿０，２Ｎ＿０ｘＮ＿０及びＮ＿０ｘ２Ｎ＿０のパーティションタイプ９１２，９１４，９１６のうち一つによる符号化誤差が最小であれば、それ以上下位深度に分割する必要ない。

サイズＮ＿０ｘＮ＿０のパーティションタイプ９１８による符号化誤差が最小であれば、深度０を１に変更しながら分割され（９２０）、深度２及びサイズＮ＿０ｘＮ＿０のパーティションタイプの符号化単位９３０に対して反復的に符号化を行い、最小符号化誤差を検索していくことができる。

深度１及びサイズ２Ｎ＿１ｘ２Ｎ＿１（＝Ｎ＿０ｘＮ＿０）の符号化単位９３０予測符号化のための予測単位９４０）は、サイズ２Ｎ＿１ｘ２Ｎ＿１のパーティションタイプ９４２、サイズ２Ｎ＿１ｘＮ＿１のパーティションタイプ９４４サイズＮ＿１ｘ２Ｎ＿１のパーティションタイプ９４６）、サイズＮ＿１ｘＮ＿１のパーティションタイプ９４８を含んでもよい。

また、サイズＮ＿１ｘＮ＿１サイズのパーティションタイプ９４８による符号化誤差が最小であれば、深度１を深度２に変更しながら分割され（９５０）、深度２及びサイズＮ＿２ｘＮ＿２の符号化単位９６０に対して反復的に符号化を行い、最小符号化誤差を検索していくことができる。

最大深度がｄである場合、深度別符号化単位は、深度ｄ−１になるまで設定され、分割情報は、深度ｄ−２まで設定される。すなわち、深度ｄ−２から分割され（９７０）、深度ｄ−１まで符号化が行われる場合、深度ｄ−１及びサイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）の符号化単位９８０の予測符号化のための予測単位９９０は、サイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティションタイプ９９２、サイズ２Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９４、サイズＮ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティションタイプ９９６、サイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９８を含んでもよい。

パーティションタイプにおいて、１つのサイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティション、２つのサイズ２Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティション、２つのサイズＮ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティション、４つのサイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションごとに、反復的に予測符号化を介した符号化が行われ、最小符号化誤差が発生するパーティションタイプが検索される。

サイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９８による符号化誤差が最小であるとしても、最大深度がｄであるので、深度ｄ−１の符号化単位ＣＵ＿（ｄ−１）は、それ以上、下位深度への分割過程を経ず、現在最大符号化単位９００に係わる符号化深度が、深度ｄ−１に決定され、パーティションタイプは、Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）に決定される。また、最大深度がｄであるので、深度ｄ−１の符号化単位９８０に対して、分割情報は設定されない。

データ単位９９９は、現在最大符号化単位に係わる「最小単位」とされる。一実施形態による最小単位は、最下位符号化深度である最小符号化単位が４分割されたサイズの正方形のデータ単位でもある。このような反復的符号化過程を介して、一実施形態によるビデオ符号化装置１００は、符号化単位９００の深度別符号化誤差を比較し、最小の符号化誤差が発生する深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが符号化深度の符号化モードに設定される。

かように、深度０，１ … ｄ−１，ｄの全ての深度別最小符号化誤差を比較し、誤差が最小である深度が選択されて符号化深度として決定される。符号化深度、予測単位のパーティションタイプ及び予測モードは、符号化モードについての情報として符号化されて伝送される。また、深度０から符号化深度に至るまで符号化単位が分割されなければならないので、符号化深度の分割情報だけが「０」に設定され、符号化深度を除いた深度別分割情報は、「１」に設定されなければならない。

一実施形態によるビデオ復号化装置２００の映像データ、及び符号化情報抽出部２２０は、符号化単位９００に係わる符号化深度及び予測単位についての情報を抽出し、符号化単位９１２を復号化するのに利用することができる。一実施形態によるビデオ復号化装置２００は、深度別分割情報を利用して、分割情報が「０」である深度を、符号化深度として把握し、当該深度に係わる符号化モードについての情報を利用して、復号化に利用することができる。

図１６，図１７及び図１８は、本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示している。

符号化単位１０１０は、最大符号化単位に対して、一実施形態によるビデオ符号化装置１００が決定した符号化深度別符号化単位である。予測単位１０６０は、符号化単位１０１０において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位１０７０は、それぞれの符号化深度別符号化単位の変換単位である。

深度別符号化単位１０１０は、最大符号化単位の深度が０であるとすれば、符号化単位１０１２，１０５４は、深度が１、符号化単位１０１４，１０１６，１０１８，１０２８，１０５０，１０５２は、深度が２、符号化単位１０２０，１０２２，１０２４，１０２６，１０３０，１０３２，１０４８は、深度が３、符号化単位１０４０，１０４２，１０４４，１０４６は、深度が４である。

予測単位１０６０において、一部パーティション１０１４，１０１６，１０２２，１０３２，１０４８，１０５０，１０５２，１０５４は、符号化単位が分割された形態である。すなわち、パーティション１０１４，１０２２，１０５０，１０５４は、２ＮｘＮのパーティションタイプであり、パーティション１０１６，１０４８，１０５２は、Ｎｘ２Ｎのパーティションタイプであり、パーティション１０３２は、ＮｘＮのパーティションタイプである。深度別符号化単位１０１０の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいは同じである。

変換単位１０７０において、一部の変換単位１０５２の映像データについては、符号化単位に比べて、小サイズのデータ単位に変換または逆変換が行われる。また、変換単位１０１４，１０１６，１０２２，１０３２，１０４８，１０５０，１０５２，１０５４は、予測単位１０６０において、当該予測単位及びパーティションと比較すれば、互いに異なる大きさまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置１００、及び一実施形態に他のビデオ復号化装置２００は、同一な符号化単位に係わるイントラ予測／動き推定／動き補償、及び変換／逆変換の作業であるとしても、それぞれ別個のデータ単位を基に行われる。

それによって、最大符号化単位ごとに、領域別に階層的な構造の符号化単位ごとに、再帰的に符号化が行われ、最適符号化単位が決定されることにより、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表１は、一実施形態によるビデオ符号化装置１００、及び一実施形態によるビデオ復号化装置２００で設定することができる一例を示している。

一実施形態によるビデオ符号化装置１００の出力部１３０は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置２００の符号化情報抽出部２２０は、受信されたビットストリームから、ツリー構造による符号化単位に係わる符号化情報を抽出することができる。

分割情報は、現在符号化単位が、下位深度の符号化単位に分割されるか否かを示す。現在深度ｄの分割情報が０であるならば、現在符号化単位が下位符号化単位にそれ以上分割されない深度が符号化深度であるので、符号化深度に対してパーティションタイプ情報、予測モード、変換単位サイズ情報が定義される。分割情報によって、１段階さらに分割されなければならない場合には、分割された４個の下位深度の符号化単位ごとに、独立して符号化が行われなければならない。

予測モードは、イントラモード、インターモード及びスキップモードのうちいずれか一つで示すことができる。イントラモード及びインターモードは、全てのパーティションタイプで定義され、スキップモードは、パーティションタイプ２Ｎｘ２Ｎでのみ定義される。

パーティションタイプ情報は、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションタイプ２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ及びＮｘＮと、非対称的な比率に分割された非対称的パーティションタイプ２ＮｘｎＵ，２ＮｘｎＤ，ｎＬｘ２Ｎ，ｎＲｘ２Ｎを示すことができる。非対称的パーティションタイプ２ＮｘｎＵ及び２ＮｘｎＤは、それぞれ高さが１：３及び３：１に分割された形態であり、非対称的パーティションタイプｎＬｘ２Ｎ及びｎＲｘ２Ｎは、それぞれ幅が１：３及び３：１に分割された形態を示す。

変換単位サイズは、イントラモードで、２種類の大きさ、インターモードで、２種類の大きさに設定される。すなわち、変換単位分割情報が０であるならば、変換単位の大きさが、現在符号化単位のサイズ２Ｎｘ２Ｎに設定される。変換単位分割情報が１であるならば、現在符号化単位が分割された大きさの変換単位が設定される。また、サイズ２Ｎｘ２Ｎである現在符号化単位に係わるパーティションタイプが、対称形パーティションタイプであるならば、変換単位の大きさは、ＮｘＮに、非対称形パーティションタイプであるならば、Ｎ／２ｘＮ／２に設定される。

一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位単位のうち少なくとも一つに対して割り当てられる。符号化深度の符号化単位は、同一な符号化情報を保有している予測単位及び最小単位を一つ以上含んでもよい。

従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同一な符号化深度の符号化単位に含まれるか否かが確認される。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。

従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。

他の実施形態で、現在符号化単位が、周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用して、深度別符号化単位内で、現在符号化単位に隣接するデータが検索されることにより、周辺符号化単位が参照されもする。

図１９は、表１の符号化モード情報による符号化単位、予測単位及び変換単位の関係を図示する。

最大符号化単位１３００は、符号化深度の符号化単位１３０２，１３０４，１３０６，１３１２，１３１４，１３１６，１３１８を含む。このうち１つの符号化単位１３１８は、符号化深度の符号化単位であるので、分割情報が０に設定される。サイズ２Ｎｘ２Ｎの符号化単位１３１８のパーティションタイプ情報は、パーティションタイプ２Ｎｘ２Ｎ １３２２，２ＮｘＮ １３２４，Ｎｘ２Ｎ １３２６，ＮｘＮ １３２８，２ＮｘｎＵ １３３２，２ＮｘｎＤ １３３４，ｎＬｘ２Ｎ １３３６及びｎＲｘ２Ｎ １３３８のうち一つに設定される。

変換単位分割情報（ＴＵ size flag）は、変換インデックスの一種であり、変換インデックスに対応する変換単位の大きさは、符号化単位の予測単位タイプまたはパーティションタイプによって変更される。

例えば、パーティションタイプ情報が対称形パーティションタイプ２Ｎｘ２Ｎ １３２２，２ＮｘＮ １３２４，Ｎｘ２Ｎ １３２６及びＮｘＮ １３２８のうち一つに設定されている場合、変換単位分割情報が０であるならば、サイズ２Ｎｘ２Ｎの変換単位１３４２が設定され、変換単位分割情報が１であるならば、サイズＮｘＮの変換単位１３４４が設定される。

パーティションタイプ情報が、非対称形パーティションタイプ２ＮｘｎＵ １３３２，２ＮｘｎＤ １３３４，ｎＬｘ２Ｎ １３３６及びｎＲｘ２Ｎ １３３８のうち一つに設定された場合、変換単位分割情報（ＴＵ size flag）が０であるならば、サイズ２Ｎｘ２Ｎの変換単位１３５２が設定され、変換単位分割情報が１であるならば、サイズＮ／２ｘＮ／２の変換単位１３５４が設定される。

図１９を参照して説明した変換単位分割情報（ＴＵ size flag）は、０または１の値を有するフラグだが、一実施形態による変換単位分割情報が１ビットのフラグに限定されるものではなく、設定によって、０，１，２，３ … などで増加し、変換単位が階層的に分割されもする。変換単位分割情報は、変換インデックスの一実施形態として利用される。

その場合、一実施形態による変換単位分割情報を、変換単位の最大サイズ、変換単位の最小サイズと共に利用すれば、実際に利用された変換単位の大きさが表現される。一実施形態によるビデオ符号化装置１００は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報は、ＳＰＳ（sequence parameter set）に挿入される。一実施形態によるビデオ復号化装置２００は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を利用して、ビデオ復号化に利用することができる。

例えば、（ａ）現在符号化単位がサイズ６４ｘ６４であり、最大変換単位サイズが３２ｘ３２であるならば、（ａ−１）変換単位分割情報が０であるとき、変換単位の大きさが３２ｘ３２、（ａ−２）変換単位分割情報が１であるとき、変換単位の大きさが１６ｘ１６、（ａ−３）変換単位分割情報が２であるとき、変換単位の大きさが８ｘ８に設定される。

他の例として、（ｂ）現在符号化単位がサイズ３２ｘ３２であり、最小変換単位サイズが３２ｘ３２であるならば、（ｂ−１）変換単位分割情報が０であるとき、変換単位の大きさが３２ｘ３２に設定され、変換単位の大きさが３２ｘ３２より小さいことがないので、それ以上の変換単位分割情報が設定されることがない。

また他の例として、（ｃ）現在符号化単位がサイズ６４ｘ６４であり、最大変換単位分割情報が１であるならば、変換単位分割情報は０または１であり、他の変換単位分割情報が設定されることがない。

従って、最大変換単位分割情報を、「ＭａｘTransformSizeIndex」、最小変換単位サイズを「ＭｉｎTransformSize」、変換単位分割情報が０である場合の変換単位サイズを、「RootTuSize」と定義するとき、現在符号化単位で可能な最小変換単位サイズ「ＣｕｒｒＭｉｎTuSize」は、下記数式（１）のように定義される。

ＣｕｒｒＭｉｎTuSize
＝ｍａｘ（ＭｉｎTransformSize，RootTuSize／（２＾ＭａｘTransformSizeIndex）） （１）
現在符号化単位で可能な最小変換単位サイズ「ＣｕｒｒＭｉｎTuSize」と比較し、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」は、システム上採択可能な最大変換単位サイズを示すことができる。すなわち、数式（１）によれば、「RootTuSize／（２＾ＭａｘTransformSizeIndex）」は、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」を、最大変換単位分割情報に相応する回数ほど分割した変換単位サイズであり、「ＭｉｎTransformSize」は、最小変換単位サイズであるので、それらのうち小さい値が、現在現在符号化単位で可能な最小変換単位サイズ「ＣｕｒｒＭｉｎTuSize」である。

一実施形態による最大変換単位サイズ「RootTuSize」は、予測モードによって変わりも。

例えば、現在予測モードがインターモードであるならば、「RootTuSize」は、下記数式（２）によって決定される。数式（２）で、「ＭａｘTransformSize」は、最大変換単位サイズあり、「ＰＵSize」は、現在予測単位サイズを示す。

RootTuSize＝ｍｉｎ（ＭａｘTransformSize，ＰＵSize） （２）
すなわち、現在予測モードがインターモードであるならば、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在予測単位サイズのうち小さい値に設定される。

現在パーティション単位の予測モードがイントラモードであるならば、「RootTuSize」は、下記数式（３）によって決定される。「PartitionSize」は、現在パーティション単位の大きさを示す。

RootTuSize＝ｍｉｎ（ＭａｘTransformSize，PartitionSize） （３）
すなわち、現在予測モードがイントラモードであるならば、変換単位分割情報が０である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在パーティション単位サイズのうち小さい値に設定される。

ただし、パーティション単位の予測モードによって変動する一実施形態による現在最大変換単位サイズ「RootTuSize」は、一実施形態であるのみ、現在最大変換単位サイズを決定する要因は、それに限定されるものではないということに留意しなければならない。

図７ないし図１９を参照して説明したツリー構造の符号化単位に基づいたビデオ符号化技法によって、ツリー構造の符号化単位ごとに、空間領域の映像データが符号化され、ツリー構造の符号化単位に基づいたビデオ復号化技法によって、最大符号化単位ごとに、復号化が行われながら、空間領域の映像データが復元され、ピクチャ及びピクチャシーケンスであるビデオが復元される。復元されたビデオは、再生装置によって再生されるか、記録媒体に保存されるか、あるいはネットワークを介して伝送される。

一方、前述の本発明の実施形態は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用して、前記プログラムを動作させる汎用デジタル・コンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体（例えば、ＲＯＭ（read-only memory）、フロッピー（登録商標）ディスク、ハードディスクなど）、光学的判読媒体（例えば、ＣＤ（compact disc）−ＲＯＭ、ＤＶＤ（digital versatile disc）など）のような記録媒体を含む。

以上、本発明について、その望ましい実施形態を中心に説明した。本発明が属する技術分野で当業者であるならば、本発明が本発明の本質的な特性から外れない範囲で変形された形態に具現されるということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されなければならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にある全ての差異は、本発明に含まれたものであると解釈されなければならないであろう。

Claims (3)

1. コロケーティッドピクチャが現在ブロックのＬ０方向であるかを示すコロケーティッドピクチャリスト情報を、ビットストリームから獲得する段階と、
   Ｌ０方向及びＬ１方向のうち前記コロケーティッドピクチャリスト情報が示す一つの参照リストに含まれたピクチャのうち、決定された一つのコロケーティッドピクチャ内で一つのコロケーティッドブロックを決定する段階と、
   前記現在ブロックの予測に利用可能な一つ以上の参照リストに含まれるピクチャのＰＯＣ(picture order count)が前記現在ブロックが含まれた現在ピクチャのＰＯＣより小さい場合、前記コロケーティッドブロックのＬ０動きベクトル及びＬ１動きベクトルの中から、前記現在ブロックの参照方向に対応する動きベクトルを選択する段階と、
   前記現在ブロックの予測に利用可能な一つ以上の参照リストに含まれるピクチャのうち前記現在ピクチャより以後に再生されるピクチャが一つ以上存在する場合、前記コロケーティッドピクチャリスト情報がＬ０方向のピクチャであることを示す時、前記コロケーティッドブロックの前記Ｌ１動きベクトルを選択する段階と、
   前記現在ブロックの予測に利用可能な一つ以上の参照リストに含まれるピクチャのうち前記現在ピクチャより以後に再生されるピクチャが一つ以上存在する場合、前記コロケーティッドピクチャリスト情報がＬ１方向のピクチャであることを示す時、前記コロケーティッドブロックの前記Ｌ０動きベクトルを選択する段階と、
   前記選択された動きベクトルを用いて、前記コロケーティッドブロックによる動きベクトル予測候補を決定する段階と、
   前記コロケーティッドブロックによる動きベクトル予測候補を含む予測候補の中から前記現在ブロックの予測動きベクトルを獲得する段階とを含むことを特徴とするビデオ復号化方法。
2. 前記コロケーティッドブロックは、前記現在ピクチャより以前に復元されたピクチャの中から決定された前記コロケーティッドピクチャ内において、前記現在ブロックと同一のブロック位置に配置されたブロックを含むことを特徴とする請求項１に記載のビデオ復号化方法。
3. ビデオ復号化装置において、
   現在ブロックのコロケーティッドブロックによる動きベクトル予測候補を含む予測候補の中で前記現在ブロックの予測動きベクトルを決定するためのプロセッサを備え、
   前記プロセッサは、コロケーティッドピクチャが前記現在ブロックのＬ０方向であるかを示すコロケーティッドピクチャリスト情報を、ビットストリームから獲得し、
   Ｌ０方向及びＬ１方向のうち前記コロケーティッドピクチャリスト情報が示す一つの参照リストに含まれたピクチャのうち、決定された一つのコロケーティッドピクチャ内で一つのコロケーティッドブロックを決定し、
   前記現在ブロックの予測に利用可能な一つ以上の参照リストに含まれるピクチャのＰＯＣ(picture order count)が前記現在ブロックが含まれた現在ピクチャのＰＯＣより小さい場合、前記コロケーティッドブロックのＬ０動きベクトル及びＬ１動きベクトルの中から、前記現在ブロックの参照方向に対応する動きベクトルを選択し、
   前記現在ブロックの予測に利用可能な一つ以上の参照リストに含まれるピクチャのうち前記現在ピクチャより以後に再生されるピクチャが一つ以上存在する場合、前記コロケーティッドピクチャリスト情報がＬ０方向のピクチャであることを示す場合、前記プロセッサは、前記コロケーティッドブロックの前記Ｌ１動きベクトルを選択し、
   前記現在ブロックの予測に利用可能な一つ以上の参照リストに含まれるピクチャのうち前記現在ピクチャより以後に再生されるピクチャが一つ以上存在する場合、前記コロケーティッドピクチャリスト情報がＬ１方向のピクチャであることを示す時、前記プロセッサは、前記コロケーティッドブロックの前記Ｌ０動きベクトルを選択し、
   前記プロセッサは、前記選択された動きベクトルを用いて、前記コロケーティッドブロックによる動きベクトル予測候補を決定することを特徴とするビデオ復号化装置。

Images