JP6599552B2 - ビデオコーディングシステムにおけるイントラ予測方法及び装置 - Google Patents

Description

本発明は、ビデオコーディングに関し、より詳しくは、ビデオコーディングシステムにおけるイントラ予測方法及び装置に関する。

最近、ＨＤ（Ｈｉｇｈ Ｄｅｆｉｎｉｔｉｏｎ）映像及びＵＨＤ（Ｕｌｔｒａ Ｈｉｇｈ Ｄｅｆｉｎｉｔｉｏｎ）映像のような高解像度、高品質の映像に対する需要が多様な分野で増加している。映像データが高解像度及び高品質になるほど、既存の映像データに比べて相対的に送信される情報量またはビット量が増加するため、既存の有無線広帯域回線のような媒体を利用して映像データを送信し、または既存の格納媒体を利用して映像データを格納する場合、送信費用と格納費用が増加される。

それによって、高解像度及び高品質映像の情報を効果的に送信または格納し、再生するために高効率の映像圧縮技術が要求される。

本発明の技術的課題は、イントラ予測効率を上げる方法及び装置を提供することにある。

本発明の他の技術的課題は、イントラ予測サンプルにフィルタリングを適用する方法及び装置を提供することにある。

本発明の他の技術的課題は、イントラ予測モードによってフィルタの種類及び／またはフィルタ係数を適応的に導出する方法及び装置を提供することにある。

本発明の他の技術的課題は、予測サンプルの位置によってフィルタの種類及び／またはフィルタ係数を適応的に導出する方法及び装置を提供することにある。

本発明の一実施例によると、デコーディング装置により実行されるイントラ予測方法を提供する。前記イントラ予測方法は、ビットストリームからイントラ予測モード情報を取得するステップと、現在ブロックの隣接サンプル（ｎｅｉｇｈｂｏｒｉｎｇ ｓａｍｐｌｅｓ）を導出するステップと、前記イントラ予測モード情報に基づいて前記現在ブロックに対するイントラ予測モードを決定するステップと、前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出するステップと、前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定するステップと、前記フィルタリング参照サンプルに基づいて前記予測サンプルに対するフィルタリングを適用してフィルタされた予測サンプル（ｆｉｌｔｅｒｅｄ ｐｒｅｄｉｃｔｉｏｎ ｓａｍｐｌｅ）を導出するステップを含むことを特徴とする。

本発明の他の一実施例によると、エンコーディング装置により実行されるイントラ予測方法を提供する。前記イントラ予測方法は、現在ブロックの隣接サンプル（ｎｅｉｇｈｂｏｒｉｎｇ ｓａｍｐｌｅ）を導出するステップと、現在ブロックに対するイントラ予測モードを決定するステップと、前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出するステップと、前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定するステップと、前記フィルタリング参照サンプルに基づいて前記予測サンプルに対するフィルタリングを適用してフィルタされた予測サンプル（ｆｉｌｔｅｒｅｄ ｐｒｅｄｉｃｔｉｏｎ ｓａｍｐｌｅ）を導出するステップと、前記イントラ予測モードを示すイントラ予測モード情報をエンコーディングして出力するステップを含むことを特徴とする。

本発明の他の一実施例によると、イントラ予測を実行するデコーディング装置を提供する。前記デコーディング装置は、ビットストリームからイントラ予測モード情報を取得するエントロピーデコーディング部と、現在ブロックの隣接サンプル（ｎｅｉｇｈｂｏｒｉｎｇ ｓａｍｐｌｅｓ）を導出し、前記イントラ予測モード情報に基づいて前記現在ブロックに対するイントラ予測モードを決定し、前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出し、前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定し、及び前記フィルタリング参照サンプルに基づいて前記予測サンプルに対するフィルタリングを適用してフィルタされた予測サンプル（ｆｉｌｔｅｒｅｄ ｐｒｅｄｉｃｔｉｏｎ ｓａｍｐｌｅ）を導出する予測部を含むことを特徴とする。

本発明の他の一実施例によると、イントラ予測を実行するエンコーディング装置を提供する。前記エンコーディング装置は、現在ブロックの隣接サンプル（ｎｅｉｇｈｂｏｒｉｎｇ ｓａｍｐｌｅ）を導出し、現在ブロックに対するイントラ予測モードを決定し、前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出し、前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定し、前記フィルタリング参照サンプルに基づいて前記予測サンプルに対するフィルタリングを適用してフィルタされた予測サンプル（ｆｉｌｔｅｒｅｄ ｐｒｅｄｉｃｔｉｏｎ ｓａｍｐｌｅ）を導出する予測部と、前記イントラ予測モードを示すイントラ予測モード情報をエンコーディングして出力するエントロピーエンコーディング部を含むことを特徴とする。

本発明によると、イントラ予測モードによって適応的に予測サンプルをフィルタリングすることができ、イントラ予測性能を向上させることができる。

本発明によると、イントラ予測モードが属するカテゴリによって多様なフィルタの形状のフィルタリング予測サンプルに適用でき、予測サンプルのサンプルポジションによってフィルタ強度を適応的に決定できる。

したがって、本発明によると、追加的な補助情報の送信を最小化しながらイントラ予測性能を高めることができ、それによって、レジデュアル信号に必要なデータ量を減らすことができ、全般的なコーディング効率が高まることができる。

本発明が適用されることができるビデオエンコーディング装置の構成を概略的に説明する図面である。 本発明が適用されることができるビデオデコーディング装置の構成を概略的に説明する図面である。 本発明によるイントラ予測モードを例示的に示す。 水平方向の予測方向を有するイントラ方向性モードが現在ブロックに適用された場合に対する例を示す。 イントラ方向性モードを４個のカテゴリに均等分割した例を示す。 前記Ｈ−３２乃至Ｈ＋３２、Ｖ−３２乃至Ｖ＋３２の変位とイントラ方向性モードの対応関係を例示的に示す。 カテゴリによるフィルタの形状を例示的に示す。 現在ブロックの境界付近サンプルと内部サンプルの区分例示を示す。 本発明によるエンコーディング装置によるイントラ予測方法の例を概略的に示す。 本発明によるデコーディング装置によるイントラ予測方法の例を概略的に示す。

本発明は多様な変更を加えることができ、さまざまな実施形態を有することができるところ、特定の実施形態を図面に例示し、詳細に説明しようとする。しかしながら、これは本発明を特定の実施形態に対して限定しようとするものではない。本明細書で使用する用語は単に特定の実施形態を説明するために使われたものであって、本発明の技術的思想を限定しようとする意図として使われるものではない。単数の表現は文脈上、明白に異なる意味として使用されない限り、複数の表現を含む。本明細書で、“含む”または“有する”などの用語は明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものが存在することを指定しようとするものであり、１つまたはその以上の他の特徴や数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものの存在または付加可能性を予め排除しないことと理解されるべきである。

一方、本発明で説明される図面上の各構成はビデオエンコーディング装置／デコーディング装置で互いに異なる特徴的な機能に関する説明の便宜のために独立的に図示されたものであって、各構成が互いに別のハードウェアや別のソフトウェアで具現されることを意味しない。例えば、各構成のうち、２つ以上の構成が合わさって１つの構成をなすこともでき、１つの構成が複数の構成に分けられることもできる。各構成が統合及び／又は分離された実施形態も本発明の本質から逸脱しない限り、本発明の権利範囲に含まれる。

以下、添付した図面を参照して、本発明の好ましい実施形態をより詳細に説明する。以下、図面上の同一な構成要素に対しては同一な参照符号を使用し、同一な構成要素に対して重複した説明は省略する。

本明細書において、ピクチャ（ｐｉｃｔｕｒｅ）は、一般的に特定時間帯の一つの映像を示す単位を意味し、スライス（ｓｌｉｃｅ）は、コーディングにおいてピクチャの一部を構成する単位である。一つのピクチャは、複数のスライスで構成されることができ、必要によって、ピクチャ及びスライスは、互いに混用されて使われることができる。

ピクセル（ｐｉｘｅｌ）またはペル（ｐｅｌ）は、一つのピクチャ（または、映像）を構成する最小の単位を意味する。また、ピクセルに対応する用語として‘サンプル（ｓａｍｐｌｅ）’が使われることができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、輝度（ｌｕｍａ）成分のピクセル／ピクセル値のみを示すこともでき、彩度（ｃｈｒｏｍａ）成分のピクセル／ピクセル値のみを示すこともできる。

ユニット（ｕｎｉｔ）は、映像処理の基本単位を示す。ユニットは、ピクチャの特定領域及び該当領域に関連した情報のうち少なくとも一つを含むことができる。ユニットは、場合によって、ブロック（ｂｌｏｃｋ）または領域（ａｒｅａ）などの用語と混用して使われることができる。一般的な場合、Ｍ×Ｎブロックは、Ｍ個の列とＮ個の行からなるサンプルまたは変換係数（ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔ）のセットを示すことができる。

図１は、本発明が適用されることができるビデオエンコーディング装置の構成を概略的に説明する図面である。

図１を参照すると、ビデオエンコーディング装置１００は、ピクチャ分割部１０５、予測部１１０、減算部１１５、変換部１２０、量子化部１２５、再整列部１３０、エントロピーエンコーディング部１３５、逆量子化部１４０、逆変換部１４５、加算部１５０、フィルタ部１５５及びメモリ１６０を含む。

ピクチャ分割部１０５は、入力されたピクチャを少なくとも一つの処理ユニット（ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）に分割できる。このとき、処理ユニットコーディングユニットブロック（ｃｏｄｉｎｇ ｕｎｉｔ、ＣＵ）、予測ユニット（ｐｒｅｄｉｃｔｉｏｎ ｕｎｉｔ、ＰＵ）または変換ユニット（ｔｒａｎｓｆｏｒｍ ｕｎｉｔ、ＴＵ）である。コーディングユニットは、コーディングのユニットブロックであって、最大コーディングユニット（ｌａｒｇｅｓｔ ｃｏｄｉｎｇ ｕｎｉｔ、ＬＣＵ）からクアッドツリー構造（ｑｕａｄ−ｔｒｅｅ ｓｔｒｕｃｔｕｒｅ）によって下位（ｄｅｅｐｅｒ）デプスのコーディングユニットに分割（ｓｐｌｉｔ）されることができる。この場合、映像特性によるコーディング効率などに基づいて、最大コーディングユニットが最終コーディングユニットとして使われることができ、または、必要によって、コーディングユニットは、再帰的に（ｒｅｃｕｒｓｉｖｅｌｙ）下位デプスのコーディングユニットに分割されて最適のサイズのコーディングユニットが最終コーディングユニットとして使われることができる。最小コーディングユニット（ｓｍａｌｌｅｓｔ ｃｏｄｉｎｇ ｕｎｉｔ、ＳＣＵ）が設定された場合、コーディングユニットは、最小コーディングユニットより小さいコーディングユニットに分割されることができない。ここで、最終コーディングユニットとは、予測ユニットまたは変換ユニットにパーティショニングまたは分割される基盤とされるコーディングユニットを意味する。予測ユニットは、コーディングユニットブロックからパーティショニング（ｐａｒｔｉｔｉｏｎｉｎｇ）されるブロックであって、サンプル予測のユニットブロックである。このとき、予測ユニットは、サブブロック（ｓｕｂｂｌｏｃｋ）に分割されることもできる。変換ユニットは、コーディングユニットブロックからクアッドツリー構造によって分割されることができ、変換係数を誘導するユニットブロック及び／または変換係数からレジデュアル信号（ｒｅｓｉｄｕａｌ ｓｉｇｎａｌ）を誘導するユニットブロックである。

以下、コーディングユニットは、コーディングブロック（ｃｏｄｉｎｇ ｂｌｏｃｋ、ＣＢ）、予測ユニットは、予測ブロック（ｐｒｅｄｉｃｔｉｏｎ ｂｌｏｃｋ、ＰＢ）、変換ユニットは変換ブロック（ｔｒａｎｓｆｏｒｍ ｂｌｏｃｋ、ＴＢ）とも呼ばれる。

予測ブロックまたは予測ユニットは、ピクチャ内でブロック形態の特定領域を意味し、予測サンプルのアレイ（ａｒｒａｙ）を含むことができる。また、変換ブロックまたは変換ユニットは、ピクチャ内でブロック形態の特定領域を意味し、変換係数またはレジデュアルサンプルのアレイを含むことができる。

予測部１１０は、処理対象ブロック（以下、現在ブロックという）に対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測ブロックを生成することができる。予測部１１０で実行される予測の単位は、コーディングブロック、または変換ブロック、または予測ブロックである。

予測部１１０は、現在ブロックにイントラ予測が適用されるか、またはインター予測が適用されるかを決定することができる。一例として、予測部１１０は、ＣＵ単位にイントラ予測またはインター予測が適用されるかを決定することができる。

イントラ予測の場合、予測部１１０は、現在ブロックが属するピクチャ（以下、現在ピクチャ）内の現在ブロック外部の参照サンプルに基づいて現在ブロックに対する予測サンプルを誘導することができる。このとき、予測部１１０は、（ｉ）現在ブロックの隣接（ｎｅｉｇｈｂｏｒｉｎｇ）参照サンプルの平均（ａｖｅｒａｇｅ）またはインターポレーション（ｉｎｔｅｒｐｏｌａｔｉｏｎ）に基づいて予測サンプルを誘導することができ、（ii）現在ブロックの隣接参照サンプルのうち予測サンプルに対して特定（予測）方向に存在する参照サンプルに基づいて前記予測サンプルを誘導することもできる。（ｉ）の場合は非方向性モードまたは非角度モード、（ii）の場合は方向性（ｄｉｒｅｃｔｉｏｎａｌ）モードまたは角度（ａｎｇｕｌａｒ）モードとも呼ばれる。イントラ予測において、予測モードは、例えば、３３個の方向性予測モードと少なくとも２個以上の非方向性モードを有することができる。非方向性モードは、ＤＣ予測モード及びプラナーモード（Ｐｌａｎａｒ ｍｏｄｅ）を含むことができる。予測部１１０は、隣接ブロックに適用された予測モードを利用し、現在ブロックに適用される予測モードを決定することもできる。

インター予測の場合、予測部１１０は、参照ピクチャ上で動きベクトルにより特定されるサンプルに基づいて、現在ブロックに対する予測サンプルを誘導することができる。予測部１１０は、スキップ（ｓｋｉｐ）モード、マージ（ｍｅｒｇｅ）モード、及びＭＶＰ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）モードのうちいずれか一つを適用して現在ブロックに対する予測サンプルを誘導することができる。スキップモードとマージモードの場合、予測部１１０は、隣接ブロックの動き情報を現在ブロックの動き情報として利用できる。スキップモードの場合、マージモードと違って、予測サンプルと原本サンプルとの間の差（レジデュアル）が送信されない。ＭＶＰモードの場合、隣接ブロックの動きベクトルを動きベクトル予測子（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）として利用して現在ブロックの動きベクトル予測子として利用して現在ブロックの動きベクトルを誘導することができる。

インター予測の場合、隣接ブロックは、現在ピクチャ内に存在する空間的な隣接ブロック（ｓｐａｔｉａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、参照ピクチャ（ｒｅｆｅｒｅｎｃｅ ｐｉｃｔｕｒｅ）に存在する時間的な隣接ブロック（ｔｅｍｐｏｒａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、を含むことができる。前記時間的な隣接ブロックを含む参照ピクチャは、同じ位置ピクチャ（ｃｏｌｌｏｃａｔｅｄ ｐｉｃｔｕｒｅ、ｃｏｌＰｉｃ）とも呼ばれる。動き情報（ｍｏｔｉｏｎ ｉｎｆｏｒｍａｔｉｏｎ）は、動きベクトルと参照ピクチャインデックスを含むことができる。予測モード情報と動き情報などの情報は、（エントロピー）エンコーディングされてビットストリーム形態に出力されることができる。

スキップモードとマージモードで時間的な隣接ブロックの動き情報が利用される場合、参照ピクチャリスト（ｒｅｆｅｒｅｎｃｅ ｐｉｃｔｕｒｅ ｌｉｓｔ）上の最上位ピクチャが参照ピクチャとして利用されることもできる。参照ピクチャリスト（Ｐｉｃｔｕｒｅ Ｏｒｄｅｒ Ｃｏｕｎｔ）に含まれる参照ピクチャは、現在ピクチャと該当参照ピクチャとの間のＰＯＣ（Ｐｉｃｔｕｒｅ ｏｒｄｅｒ ｃｏｕｎｔ）差に基づいて整列されることができる。ＰＯＣは、ピクチャのディスプレイ順序に対応し、コーディング順序と区分されることができる。

減算部１１５は、原本サンプルと予測サンプルとの間の差であるレジデュアルサンプルを生成する。スキップモードが適用される場合には、前述したようにレジデュアルサンプルを生成しない。

変換部１２０は、変換ブロック単位にレジデュアルサンプルを変換して変換係数（ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔ）を生成する。変換部１２０は、該当変換ブロックのサイズと、該当変換ブロックと空間的に重なるコーディングブロックまたは予測ブロックに適用された予測モードによって変換を実行することができる。例えば、前記変換ブロックと重なる前記コーディングブロックまたは前記予測ブロックにイントラ予測が適用され、前記変換ブロックが４×４のレジデュアルアレイ（ａｒｒａｙ）の場合、レジデュアルサンプルは、ＤＳＴ（Ｄｉｓｃｒｅｔｅ Ｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）を利用して変換され、その他の場合、レジデュアルサンプルは、ＤＣＴ（Ｄｉｓｃｒｅｔｅ Ｃｏｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）を利用して変換できる。

量子化部１２５は、変換係数を量子化し、量子化された変換係数を生成することができる。

再整列部１３０は、量子化された変換係数を再整列する。再整列部１３０は、係数スキャニング（ｓｃａｎｎｉｎｇ）方法を介してブロック形態の量子化された変換係数を１次元ベクトル形態に再整列できる。ここで、再整列部１３０を別途の構成に説明したが、再整列部１３０は、量子化部１２５の一部であってもよい。

エントロピーエンコーディング部１３５は、量子化された変換係数に対するエントロピーエンコーディングを実行することができる。エントロピーエンコーディングは、例えば、指数ゴロム（ｅｘｐｏｎｅｎｔｉａｌ Ｇｏｌｏｍｂ）、ＣＡＶＬＣ（ｃｏｎｔｅｘｔ−ａｄａｐｔｉｖｅ ｖａｒｉａｂｌｅ ｌｅｎｇｔｈ ｃｏｄｉｎｇ）、ＣＡＢＡＣ（ｃｏｎｔｅｘｔ−ａｄａｐｔｉｖｅ ｂｉｎａｒｙ ａｒｉｔｈｍｅｔｉｃ ｃｏｄｉｎｇ）などのようなエンコーディング方法を含むことができる。エントロピーエンコーディング部１３５は、量子化された変換係数外にビデオ復元に必要な情報（例えば、シンタックス要素（ｓｙｎｔａｘ ｅｌｅｍｅｎｔ）の値等）を共にまたは別途にエンコーディングすることもできる。エントロピーエンコーディングされた情報は、ビットストリーム形態でＮＡＬ（ｎｅｔｗｏｒｋ ａｂｓｔｒａｃｔｉｏｎ ｌａｙｅｒ）ユニット単位に送信または格納されることができる。

逆量子化部１４０は、量子化部１２５で量子化された値（量子化された変換係数）を逆量子化し、逆変換部１４５は、逆量子化部１４０で逆量子化された値を逆変換してレジデュアルサンプルを生成する。

加算部１５０は、レジデュアルサンプルと予測サンプルを加えてピクチャを復元する。レジデュアルサンプルと予測サンプルは、ブロック単位に加えられて復元ブロックが生成されることができる。ここで、加算部１５０を別途の構成に説明したが、加算部１５０は、予測部１１０の一部であってもよい。

復元されたピクチャ（ｒｅｃｏｎｓｔｒｕｃｔｅｄ ｐｉｃｔｕｒｅ）に対してフィルタ部１５５は、デブロッキングフィルタ及び／またはサンプル適応的なオフセット（ｓａｍｐｌｅ ａｄａｐｔｉｖｅ ｏｆｆｓｅｔ）を適用することができる。デブロッキングフィルタリング及び／またはサンプル適応的なオフセットを介して、復元ピクチャ内のブロック境界のアーチファクトや量子化過程での歪曲が補正されることができる。サンプル適応的なオフセットは、サンプル単位に適用されることができ、デブロッキングフィルタリングの過程が完了した後に適用されることができる。フィルタ部１５５は、ＡＬＦ（Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒ）を復元されたピクチャに適用することもできる。ＡＬＦは、デブロッキングフィルタ及び／またはサンプル適応的なオフセットが適用された後の復元されたピクチャに対して適用されることができる。

メモリ１６０は、復元ピクチャまたはエンコーディング／デコーディングに必要な情報を格納することができる。ここで、復元ピクチャは、前記フィルタ部１５５によりフィルタリング手順が完了した復元ピクチャである。前記格納された復元ピクチャは、他のピクチャの（インター）予測のための参照ピクチャとして活用されることができる。例えば、メモリ１６０は、インター予測に使われる（参照）ピクチャを格納することができる。このとき、インター予測に使われるピクチャは、参照ピクチャセット（ｒｅｆｅｒｅｎｃｅ ｐｉｃｔｕｒｅ ｓｅｔ）または参照ピクチャリスト（ｒｅｆｅｒｅｎｃｅ ｐｉｃｔｕｒｅ ｌｉｓｔ）により指定されることができる。

図２は、本発明が適用されることができるビデオデコーディング装置の構成を概略的に説明する図面である。

図２を参照すると、ビデオデコーディング装置２００は、エントロピーデコーディング部２１０、再整列部２２０、逆量子化部２３０、逆変換部２４０、予測部２５０、加算部２６０、フィルタ部２７０、メモリ２８０を含む。

ビデオ情報を含むビットストリームが入力されると、ビデオデコーディング装置２００は、ビデオエンコーディング装置でビデオ情報が処理されたプロセスに対応してビデオを復元することができる。

例えば、ビデオデコーディング装置２００は、ビデオエンコーディング装置で適用された処理ユニットを利用してビデオデコーディングを実行することができる。したがって、ビデオデコーディングの処理ユニットブロックは、コーディングユニットブロック、予測ユニットブロックまたは変換ユニットブロックである。コーディングユニットブロックは、デコーディングのユニットブロックであって、最大コーディングユニットブロックからクアッドツリー構造によって分割されることができる。予測ユニットブロックは、コーディングユニットブロックからパーティショニングされるブロックであって、サンプル予測のユニットブロックである。このとき、予測ユニットブロックは、サブブロックに分けられる。変換ユニットブロックは、コーディングユニットブロックからクアッドツリー構造によって分割されることができ、変換係数を誘導するユニットブロックまたは変換係数からレジデュアル信号を誘導するユニットブロックである。

エントロピーデコーディング部２１０は、ビットストリームをパーシングしてビデオ復元またはピクチャ復元に必要な情報を出力することができる。例えば、エントロピーデコーディング部２１０は、指数ゴロム符号化、ＣＡＶＬＣまたはＣＡＢＡＣなどのコーディング方法に基づいてビットストリーム内の情報をデコーディングし、ビデオ復元に必要なシンタックスエレメントの値、レジデュアルに対する変換係数の量子化された値を出力することができる。

より詳しくは、ＣＡＢＡＣエントロピーデコーディング方法は、ビットストリームで各シンタックス要素に該当するビンを受信し、デコーディング対象シンタックス要素情報と隣接及びデコーディング対象ブロックのデコーディング情報または以前ステップでデコーディングされたシンボル／ビンの情報を利用して文脈（ｃｏｎｔｅｘｔ）モデルを決定し、決定された文脈モデルによってビン（ｂｉｎ）の発生確率を予測してビンの算術デコーディング（ａｒｉｔｈｍｅｔｉｃ ｄｅｃｏｄｉｎｇ）を実行することで各シンタックス要素の値に該当するシンボルを生成することができる。このとき、ＣＡＢＡＣエントロピーデコーディング方法は、文脈モデル決定後、次のシンボル／ビンの文脈モデルのためにデコーディングされたシンボル／ビンの情報を利用して文脈モデルをアップデートすることができる。

エントロピーデコーディング部２１０でデコーディングされた情報のうち予測に対する情報は、予測部２５０に提供され、エントロピーデコーディング部２１０でエントロピーデコーディングが実行されたレジデュアル値、即ち、量子化された変換係数は、再整列部２２０に入力されることができる。

再整列部２２０は、量子化されている変換係数を２次元のブロック形態に再整列することができる。再整列部２２０は、エンコーディング装置で実行された係数スキャニングに対応して再整列を実行することができる。ここで、再整列部２２０を別途の構成に説明したが、再整列部２２０は、逆量子化部２３０の一部であってもよい。

逆量子化部２３０は、量子化されている変換係数を（逆）量子化パラメータに基づいて逆量子化して変換係数を出力することができる。このとき、量子化パラメータを誘導するための情報は、エンコーディング装置からシグナリングされることができる。

逆変換部２４０は、変換係数を逆変換してレジデュアルサンプルを誘導することができる。

予測部２５０は、現在ブロックに対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測ブロックを生成することができる。予測部２５０で実行される予測の単位は、コーディングブロック、または変換ブロック、または予測ブロックである。

予測部２５０は、前記予測に対する情報に基づいてイントラ予測を適用するか、またはインター予測を適用するかを決定することができる。このとき、イントラ予測とインター予測のうちいずれかを適用するかを決定する単位と予測サンプルを生成する単位は異なる。併せて、インター予測とイントラ予測において、予測サンプルを生成する単位も異なる。例えば、インター予測とイントラ予測のうちいずれかを適用するかは、ＣＵ単位に決定できる。また、例えば、インター予測において、ＰＵ単位に予測モードを決定して予測サンプルを生成することができ、イントラ予測において、ＰＵ単位に予測モードを決定してＴＵ単位に予測サンプルを生成することもできる。

イントラ予測の場合、予測部２５０は、現在ピクチャ内の隣接参照サンプルに基づいて現在ブロックに対する予測サンプルを誘導することができる。予測部２５０は、現在ブロックの隣接参照サンプルに基づいて方向性モードまたは非方向性モードを適用して現在ブロックに対する予測サンプルを誘導することができる。このとき、隣接ブロックのイントラ予測モードを利用して現在ブロックに適用する予測モードが決定されることもできる。

インター予測の場合、予測部２５０は、参照ピクチャ上で動きベクトルにより、参照ピクチャ上で特定されるサンプルに基づいて現在ブロックに対する予測サンプルを誘導することができる。予測部２５０は、スキップ（ｓｋｉｐ）モード、マージ（ｍｅｒｇｅ）モード及びＭＶＰモードのうちいずれか一つを適用して現在ブロックに対する予測サンプルを誘導することができる。このとき、ビデオエンコーディング装置で提供された現在ブロックのインター予測に必要な動き情報、例えば、動きベクトル、参照ピクチャインデックスなどに対する情報は、前記予測に対する情報に基づいて取得または誘導されることができる。

スキップモードとマージモードの場合、隣接ブロックの動き情報が現在ブロックの動き情報として利用されることができる。このとき、隣接ブロックは、空間的な隣接ブロックと時間的な隣接ブロックを含むことができる。

予測部２５０は、可用な隣接ブロックの動き情報でマージ候補リストを構成し、マージインデックスがマージ候補リスト上で指示する情報を現在ブロックの動きベクトルとして使用することができる。マージインデックスは、エンコーディング装置からシグナリングされることができる。動き情報は、動きベクトルと参照ピクチャを含むことができる。スキップモードとマージモードで時間的な隣接ブロックの動き情報が利用される場合、参照ピクチャリスト上の最上位ピクチャが参照ピクチャとして利用されることができる。

スキップモードの場合、マージモードと違って、予測サンプルと原本サンプルとの間の差（レジデュアル）が送信されない。

ＭＶＰモードの場合、隣接ブロックの動きベクトルを動きベクトル予測子（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）として利用して現在ブロックの動きベクトルが誘導されることができる。このとき、隣接ブロックは、空間的な隣接ブロックと時間的な隣接ブロックを含むことができる。

一例として、マージモードが適用される場合、復元された空間的な隣接ブロックの動きベクトル及び／または時間的な隣接ブロックであるＣｏｌブロックに対応する動きベクトルを利用し、マージ候補リストが生成されることができる。マージモードではマージ候補リストから選択された候補ブロックの動きベクトルが現在ブロックの動きベクトルとして使われる。前記予測に対する情報は、前記マージ候補リストに含まれている候補ブロックの中から選択された最適の動きベクトルを有する候補ブロックを指示するマージインデックスを含むことができる。このとき、予測部２５０は、前記マージインデックスを利用して、現在ブロックの動きベクトルを導出することができる。

他の例として、ＭＶＰ（Ｍｏｔｉｏｎ Ｖｅｃｔｏｒ Ｐｒｅｄｉｃｔｉｏｎ）モードが適用される場合、復元された空間的な隣接ブロックの動きベクトル及び／または時間的な隣接ブロックであるＣｏｌブロックに対応する動きベクトルを利用して、動きベクトル予測子候補リストが生成されることができる。即ち、復元された空間的な隣接ブロックの動きベクトル及び／または時間的な隣接ブロックであるＣｏｌブロックに対応する動きベクトルは、動きベクトル候補として使われることができる。前記予測に対する情報は、前記リストに含まれている動きベクトル候補の中から選択された最適の動きベクトルを指示する予測動きベクトルインデックスを含むことができる。このとき、予測部２５０は、前記動きベクトルインデックスを利用して、動きベクトル候補リストに含まれている動きベクトル候補の中から、現在ブロックの予測動きベクトルを選択することができる。エンコーディング装置の予測部は、現在ブロックの動きベクトルと動きベクトル予測子との間の動きベクトル差分（ＭＶＤ）を求めることができ、これをエンコーディングしてビットストリーム形態に出力できる。即ち、ＭＶＤは、現在ブロックの動きベクトルから前記動きベクトル予測子を引いた値で求められる。このとき、予測部２５０は、前記予測に対する情報に含まれている動きベクトル差分を取得し、前記動きベクトル差分と前記動きベクトル予測子の加算を介して現在ブロックの前記動きベクトルを導出することができる。また、予測部は、参照ピクチャを指示する参照ピクチャインデックスなどを前記予測に対する情報から取得または誘導できる。

加算部２６０は、レジデュアルサンプルと予測サンプルを加えて現在ブロックまたは現在ピクチャを復元することができる。加算部２６０は、レジデュアルサンプルと予測サンプルをブロック単位に加えて現在ピクチャを復元することもできる。スキップモードが適用された場合にはレジデュアルが送信されないため、予測サンプルが復元サンプルになることができる。ここでは、加算部２６０を別途の構成に説明したが、加算部２６０は、予測部２５０の一部であってもよい。

フィルタ部２７０は、復元されたピクチャにデブロッキングフィルタリングサンプル適応的なオフセット、及び／またはＡＬＦなどを適用することができる。このとき、サンプル適応的なオフセットは、サンプル単位に適用されることができ、デブロッキングフィルタリング以後に適用されることもできる。ＡＬＦは、デブロッキングフィルタリング及び／またはサンプル適応的なオフセット以後に適用されることもできる。

メモリ２８０は、復元ピクチャまたはデコーディングに必要な情報を格納することができる。ここで、復元ピクチャは、前記フィルタ部２７０によりフィルタリング手順が完了した復元ピクチャである。例えば、メモリ２８０は、インター予測に使われるピクチャを格納することができる。このとき、インター予測に使われるピクチャは、参照ピクチャセットまたは参照ピクチャリストにより指定されることもできる。復元されたピクチャは、他のピクチャに対する参照ピクチャとして利用されることができる。また、メモリ２８０は、復元されたピクチャを出力順序によって出力することもできる。

映像コーディングシステムにおいて、コーディング効率のために前述したようにイントラ予測またはインター予測が適用されることができる。このうちイントラ予測が適用される場合、現在ブロックのために、現在ピクチャ内の前記現在ブロックの隣接サンプルが参照サンプルとして活用されることができる。この場合、前記現在ブロックのイントラ予測モードによって前記隣接参照サンプルに基づいて前記現在ブロックの予測サンプルが導出されることができる。エンコーディング装置は、ＲＤＯ（ｒａｔｅ−ｄｉｓｔｏｒｔｉｏｎ ｏｐｔｉｍｉｚａｔｉｏｎ）に基づいて前記イントラ予測モードを決定し、デコーディング装置に関連情報をシグナリングすることができる。

例えば、イントラ予測モードは、以下のように３５個の予測モードを含むことができる。

ここで、イントラ予測モード＃０は、イントラプラナーモードを示し、イントラ予測モード＃１は、イントラＤＣモードを示す。イントラ予測モード＃２...＃３４は、各々、イントラアンギュラー２モード...イントラアンギュラー３４モードを示す。

ここで、前記イントラプラナーモード及びイントラＤＣモードは、イントラ非方向性モードとも呼ばれ、前記イントラアンギュラー２乃至イントラアンギュラー３４モードは、イントラ方向性モードとも呼ばれる。

図３は、本発明によるイントラ予測モードを例示的に示す。

図３を参照すると、イントラ予測モード＃０及び＃１は、方向性を有せず、隣接サンプルの両方向補間、または隣接サンプルの平均値に基づいて予測サンプルが導出されることができる。一方、イントラ予測モード＃２乃至＃３４は、図示されたような方向性を有し、予測サンプルの位置を基準にして該当予測方向に位置する隣接参照サンプルに基づいて前記予測サンプルが導出されることができる。この場合、もし、前記該当予測方向位置に整数サンプル（ｉｎｔｅｇｅｒ ｓａｍｐｌｅ）単位の隣接サンプルが存在しない場合、前記該当方向位置に隣接する二つの整数サンプルの補間を介して分数サンプル（ｆｒａｃｔｉｏｎａｌ ｓａｍｐｌｅ）を生成し、前記分数サンプルに基づいて前記予測サンプルが導出されることもできる。

前記イントラ予測モード＃２乃至＃３４のようなイントラ方向性モードに基づいて現在ブロックに対するイントラ予測を実行する場合、予測方向に沿って隣接する予測サンプルは、互いに均一な予測値を有するが、予測方向と異なる方向に隣接するサンプルは、不連続的な予測値を有するようになって、それによって、実際原本（ｏｒｉｇｉｎａｌ）映像とは異なる不自然な予測結果が導出されることができる。

図４は、水平方向の予測方向を有するイントラ方向性モードが現在ブロックに適用された場合に対する例を示す。

図４を参照すると、現在ブロックに対するイントラ予測を実行するにあたって、隣接サンプルが利用される。具体的に、前記現在ブロックのイントラ方向性モードが水平方向モード（即ち、前記イントラ予測モード＃１０）である場合、前記現在ブロックの隣接サンプルのうち前記現在ブロックの左側に位置するサンプルの値を予測方向によって複写して前記現在ブロック内の予測サンプル（ｐｒｅｄｉｃｔｉｏｎ ｓａｍｐｌｅ）を含む予測ブロック（ｐｒｅｄｉｃｔｏｒ ｂｌｏｃｋ）が生成される。この場合、前述したように予測ブロック内の予測サンプルは、水平方向では互いに均一な予測値を有するが、予測方向と異なる方向では互いに不連続的な予測値を有するようになる。このような予測ブロックの予測サンプル間の不連続的な特性は、レジデュアル信号に影響を与え、変換（ｔｒａｎｓｆｏｒｍ）コーディングの効率を落とすようになる。したがって、本発明ではこのような予測ブロックの予測サンプル間の不連続的な特性を補正するためのフィルタ（例えば、スムージングフィルタ）を前記予測ブロックに適応的に適用して映像圧縮効率を向上させる方法を提案する。本発明によるフィルタリング方法は、予測サンプル後処理フィルタリング方法とも呼ばれる。

本発明によると、イントラ予測モードの予測方向によって異なる種類のフィルタを予測ブロックに適用できる。具体的に、本発明によると、方向性モードを多数のカテゴリに区分し、現在ブロックのイントラ方向性モードがどのカテゴリに属するかに基づいて異なる形状のフィルタリングを適用することができる。例えば、本発明によると、前記方向性モードは、その予測方向によって４個のカテゴリに区分されることができる。

図５は、イントラ方向性モードを４個のカテゴリに均等分割した例を示す。この場合、前記イントラ方向性モードは、該当予測方向の角度によって均等分割されることができる。即ち、イントラ予測に考慮される全体角度を均等に１／４に分割し、これに基づいてイントラ方向性モードを４個のカテゴリに分割できる。

図５を参照すると、左上対角予測方向をイントラ予測モード＃１８を基準にして水平方向性（ｈｏｒｉｚｏｎｔａｌ ｄｉｒｅｃｔｉｏｎａｌｉｔｙ）を有するイントラ方向性モードと垂直方向性（ｖｅｒｔｉｃａｌ ｄｉｒｅｃｔｉｏｎａｌｉｔｙ）を有するイントラ方向性モードが区分されることができる。図５のＨとＶは、各々、水平方向性と垂直方向性を意味し、−３２〜３２の数字は、サンプルグリッドポジション（ｓａｍｐｌｅ ｇｒｉｄ ｐｏｓｉｔｉｏｎ）上で１／３２単位の変位を示す。

図６は、前記Ｈ−３２乃至Ｈ＋３２、Ｖ−３２乃至Ｖ＋３２の変位とイントラ方向性モードの対応関係を例示的に示す。

例えば、中心を基準にして、Ｈ＋３２方向は、イントラ予測モード＃２の予測方向に対応され、Ｈ＋２６方向は、イントラ予測モード＃３の予測方向に対応され、Ｈ＋２１方向は、イントラ予測モード＃４の予測方向に対応されることができる。また、例えば、中心を基準にして、Ｖ−３２方向は、イントラ予測モード＃１８の予測方向に対応され、Ｖ−２６方向は、イントラ予測モード＃１９の予測方向に対応され、Ｖ−２１方向は、イントラ予測モード＃２０の予測方向に対応される。

この場合、イントラ予測モード＃２乃至＃１７は水平方向性を有し、イントラ予測モード＃１８乃至＃３４は垂直方向性を有すると見なされる。この場合、水平方向の予測方向を有するイントラ予測モード＃１０に対応する水平基準角度０゜を基準にして水平方向性を有する各イントラ予測モードに対応する相対的な角度を表現することができ、垂直方向の予測方向を有するイントラ予測モード＃２６に対応する垂直基準角度０゜を基準にして垂直方向性を有する各イントラ予測モードに対応する相対的な角度を表現することができる。

再び、図５を参照すると、イントラ方向性モードを４個のカテゴリに均等分割される場合、前記４個のカテゴリは、カテゴリＡ乃至Ｄで表示される。この場合、Ｈ＋３２乃至Ｈ＋１４範囲内に属する方向はカテゴリＤに、Ｈ＋１３乃至Ｈ−１３範囲内に属する方向はカテゴリＡに、Ｈ−１４乃至Ｖ−１４範囲内に属する方向はカテゴリＣに、Ｖ−１３乃至Ｖ＋１３に属する方向はカテゴリＢに、Ｖ＋１４乃至Ｖ＋３２に属する方向はカテゴリＤに区分されることができる。

この場合、各イントラ方向性モードに対応されるカテゴリは、以下の表のように導出されることができる。

一方、イントラ方向性モードを４個のカテゴリに非均等分割することもできる。これは任意分割とも呼ばれる。この場合、各イントラ方向性モードに対応されるカテゴリは、任意に決まることができる。例えば、繰り返し実験によって統計的な特性を反映して各イントラ方向性モードに対応される最適のカテゴリが導出されることができる。

イントラ方向性モードが４個のカテゴリに非均等分割される場合、例えば、以下の表のように示される。

前述したカテゴリに基づいて予測ブロックに適用されるフィルタの形状を決定することができ、この場合、前記決定された形状のフィルタを適用して前記予測ブロック内の各予測サンプル値を補正することができる。例えば、３タップフィルタ（３ｔａｐ ｆｉｌｔｅｒ）が適用される場合、前記カテゴリによるフィルタの形状は、下記のように決定されることができる。

図７は、カテゴリによるフィルタの形状を例示的に示す。具体的に、（ａ）はカテゴリＡに対するフィルタの形状、（ｂ）はカテゴリＢに対するフィルタの形状、（ｃ）はカテゴリＣに対するフィルタの形状、（ｄ）はカテゴリＤに対するフィルタの形状を例示的に示す。以下、前記カテゴリＡに対するフィルタの形状は垂直形状、前記カテゴリＢに対するフィルタの形状は水平形状、前記カテゴリＣに対するフィルタの形状は右上向対角形状、前記カテゴリＤに対するフィルタの形状は左上向対角形状とも呼ばれる。

図７を参照すると、Ｐ２は、予測ブロック内のフィルタリング対象（予測）サンプルを示し、Ｐ１及びＰ３は、前記対象サンプルをフィルタリングするために使われるフィルタリング参照サンプルを示す。具体的に、現在ブロックにカテゴリＡが適用される場合、対象サンプルの上側隣接サンプル及び下側隣接サンプルが前記対象サンプルをフィルタリングするために使われることができる。現在ブロックにカテゴリＢが適用される場合、対象サンプルの左側隣接サンプル及び右側隣接サンプルが前記対象サンプルをフィルタリングするために使われることができる。現在ブロックにカテゴリＣが適用される場合、対象サンプルの左下側隣接サンプル及び右上側隣接サンプルが前記対象サンプルをフィルタリングするために使われることができる。現在ブロックにカテゴリＤが適用される場合、対象サンプルの左上側隣接サンプル及び右下側隣接サンプルが前記対象サンプルをフィルタリングするために使われることができる。

この場合、もし、前記対象サンプルが前記現在ブロック（または、予測ブロック）の境界（例えば、左側境界または上側境界等）に位置しない場合、前記Ｐ１及びＰ２は、前記現在ブロック（または、予測ブロック）内の予測サンプルであり、もし、前記対象サンプルが前記現在ブロック（または、予測ブロック）の境界（例えば、左側境界または上側境界等）に隣接する場合、前記Ｐ１及びＰ２のうち少なくとも一つは、隣接ブロックの復元サンプル（ｒｅｃｏｎｓｔｒｕｃｔｅｄ ｓａｍｐｌｅ）である。一例として、前記現在ブロックにカテゴリＡが適用され、対象サンプル（Ｐ２）が前記現在ブロックの上側境界に隣接する場合、前記上側隣接サンプル（Ｐ１）は、前記現在ブロックの上側隣接ブロックの復元サンプルである。他の例として、前記現在ブロックにカテゴリＢが適用され、対象サンプル（Ｐ２）が前記現在ブロックの左側境界に隣接する場合、前記左側隣接サンプル（Ｐ１）は、前記現在ブロックの左側隣接ブロックの復元サンプルである。他の例として、前記現在ブロックにカテゴリＣが適用され、対象サンプル（Ｐ２）が前記現在ブロックの左側境界に隣接する場合、前記左下側隣接サンプル（Ｐ１）は、前記現在ブロックの左側または左下側隣接ブロックの復元サンプルであり、前記現在ブロックにカテゴリＣが適用され、対象サンプル（Ｐ２）が前記現在ブロックの上側境界に隣接する場合、前記右上側隣接サンプル（Ｐ２）は、前記現在ブロックの上側または右上側隣接ブロックの復元サンプルである。他の例として、前記現在ブロックにカテゴリＤが適用され、対象サンプル（Ｐ２）が前記現在ブロックの左側境界に隣接する場合、前記左上側隣接サンプル（Ｐ１）は、前記現在ブロックの左側または左下側隣接ブロックの復元サンプルであり、前記現在ブロックにカテゴリＣが適用され、対象サンプル（Ｐ２）が前記現在ブロックの上側境界に隣接する場合、前記右上側隣接サンプル（Ｐ２）は、前記現在ブロックの上側または右上側隣接ブロックの復元サンプルである。

本発明によるフィルタリングは、前記現在ブロックに対する予測サンプルが導出された後の前記現在ブロック内の各（予測）サンプル単位に適用されることができ、前記対象サンプル（Ｐ２）の座標を（ｘ、ｙ）とすると、前記フィルタリングは、以下のようなフィルタ演算式に基づいて実行されることができる。

ここで、Ｐｒｅｄ′はフィルタリングされた予測サンプルを示し、Ｐ２は対象サンプル値、Ｐ１及びＰ３はフィルタの形状によるフィルタリング参照サンプル値、α、β及びγはフィルタ係数（ｆｉｌｔｅｒ ｃｏｅｆｆｉｃｉｅｎｔｓ）を示す。ここで、前記フィルタ係数は、あらかじめ定義されることができ、または前記フィルタ係数に対する情報がエンコーディング装置からシグナリングされることができる。また、後述するように、多数のフィルタ係数セットが構成され、特定条件によって前記多数のフィルタ係数セットの中から前記フィルタ係数が選択されることもできる。

一方、本発明によると、対象サンプルの値と隣接参照サンプル値との差分に基づいてフィルタリングを選択的に適用できる。この場合、対象サンプルの値と隣接参照サンプルの値との差分が特定条件を満たす場合（例えば、特定範囲に属する場合）にのみ前記隣接参照サンプルを利用して前記対象サンプルにフィルタリングを適用することができる。

例えば、最小閾値（ｍｉｎｉｍｕｍ ｔｈｒｅｓｈｏｌｄ、Ｔｈｒｅｓ_ｍｉｎ）と最大閾値（ｍａｘｉｍｕｍ ｔｈｒｅｓｈｏｌｄ、Ｔｈｒｅｓ_ｍａｘ）を定義し、｜Ｐ１−Ｐ２｜または｜Ｐ３−Ｐ２｜がＴｈｒｅｓ_ｍｉｎより大きく、及び／またはＴｈｒｅｓ_ｍａｘより小さい場合に該当隣接参照サンプルを利用し、その他の場合に該当隣接参照サンプルをフィルタリング演算から除外できる。

具体的に、例えば、前述した数式１による３タップフィルタが適用される場合、対象サンプルと隣接参照サンプルとの間の差分が前記特定条件を満たすかどうかによって、以下のようにフィルタリングが適用されることができる。

ここで、Ｃａｓｅ１は、｜Ｐ１−Ｐ２｜及び｜Ｐ３−Ｐ２｜の二つともが前記特定条件を満たす場合を示し、Ｃａｓｅ２は、｜Ｐ１−Ｐ２｜は前記特定条件を満たすが、｜Ｐ３−Ｐ２｜が前記特定条件を満たさない場合を示し、Ｃａｓｅ３は、｜Ｐ１−Ｐ２｜は前記特定条件を満たさないが、｜Ｐ３−Ｐ２｜が前記特定条件を満たす場合を示す。その他の場合、即ち、｜Ｐ１−Ｐ２｜及び｜Ｐ３−Ｐ２｜の二つともが前記特定条件を満たさない場合は、対象サンプルＰ２にフィルタリングが適用されない。これは、即ち、｜Ｐ１−Ｐ２｜が前記特定条件を満たさない場合、前記γは０に設定され、｜Ｐ３−Ｐ２｜が前記特定条件を満たさない場合、前記αは０に設定されることを示すことができる。

具体的に、例えば、前記Ｃａｓｅは、以下の表のように定義されることができる。

即ち、前記表によると、｜Ｐ１−Ｐ２｜及び｜Ｐ３−Ｐ２｜の二つともＴｈｒｅｓ_ｍｉｎより大きく、かつＴｈｒｅｓ_ｍａｘより小さい場合は前記Ｃａｓｅ１に該当し、｜Ｐ１−Ｐ２｜のみがＴｈｒｅｓ_ｍｉｎより大きく、かつＴｈｒｅｓ_ｍａｘより小さい場合は前記Ｃａｓｅ２に該当し、｜Ｐ３−Ｐ２｜のみがＴｈｒｅｓ_ｍｉｎより大きく、かつＴｈｒｅｓ_ｍａｘより小さい場合は前記Ｃａｓｅ３に該当し、｜Ｐ１−Ｐ２｜及び｜Ｐ３−Ｐ２｜の二つともＴｈｒｅｓ_ｍｉｎより大きくなく、またはＴｈｒｅｓ_ｍａｘより小さくない場合は前記ｏｔｈｅｒｗｉｓｅに該当できる。この場合、対象サンプルに対する前記Ｃａｓｅを判断し、これに基づいて前述した数式２によって前記対象サンプルに対するフィルタリングを適用することができる。

一方、本発明によるフィルタリングを適用するにあたって、対象（予測）サンプルの位置に基づいて他のフィルタ係数が適用されることができる。

イントラ予測の特性上、現在ブロックの隣接サンプルと近い位置のサンプルに対する予測正確度が、現在ブロックの隣接サンプルと遠い位置のサンプルに対する予測正確度より相対的に高い。したがって、前記現在ブロックの前記隣接サンプルから一定の距離内の予測サンプルに対しては弱い（ｗｅａｋ）フィルタ（例えば、弱いスムージングフィルタ）を適用させ、その他の予測サンプルに対しては強い（ｓｔｒｏｎｇ）フィルタ（例えば、強いスムージングフィルタ）を適用させることができる。この場合、前記隣接サンプルは、前記現在ブロックの左側及び上側に位置でき、したがって、前記現在ブロックの左側境界及び／または上側境界からの距離に基づいて予測サンプルに弱いフィルタまたは強いフィルタが適用されるかどうかを適応的に決定できる。即ち、前記現在ブロックの左側境界及び／または上側境界から一定の距離以内に位置する境界付近サンプル（ｎｅａｒ ｂｏｕｎｄａｒｙ ｓａｍｐｌｅｓ）には弱いフィルタが適用され、その他の内部サンプル（ｉｎｎｅｒ ｓａｍｐｌｅｓ）には強いフィルタが適用されることができる。

図８は、現在ブロックの境界付近サンプルと内部サンプルの区分例示を示す。図８は、現在ブロックがＮ×Ｎサイズを有する場合を示す。

図８を参照すると、ｂ_ｈ（０≦ｂ_ｈ≦Ｎ）は、現在ブロックの左側境界からの水平距離を示し、ｂ_ｖ（０≦ｂ_ｖ≦Ｎ）は、前記現在ブロックの上側境界から垂直距離を示す。前記ｂ_ｈ及びｂ_ｖは、あらかじめ決まることもでき、またはエンコーディング装置により決定されて関連情報がシグナリングされることもできる。

前記ｂ_ｈ及び／またはｂ_ｖに基づいて現在ブロック内のサンプルは、少なくとも二つのグループに区分されることができる。例えば、前記現在ブロックの左上端サンプルポジションの座標を（０、０）とする場合、ｘ＜ｂ_ｈまたはｙ＜ｂ_ｖであるサンプルポジションのサンプルは、第１のグループサンプル（例えば、境界付近サンプル）に区分され、ｂ_ｈ≦ｘ及びｂ_ｖ≦ｙを満たすサンプルポジションのサンプルは、第２のグループサンプル（例えば、内部サンプル）に区分されることができる。この場合、前記第１のグループサンプルには弱いフィルタリング適用され、前記第２のグループサンプルには強いフィルタリングが適用されることができる。この場合、前述したように、前記弱いフィルタリング及び前記強いフィルタリングは、適用されるフィルタ係数が異なる。具体的に、例えば、前記フィルタ係数のうち前記弱いフィルタリングが適用される場合に対するβ値より、前記強いフィルタリングが適用される場合に対するβ値が相対的により大きい。他の例として、前記フィルタ係数のうち前記弱いフィルタリングが適用される場合に対するα及びγ値が、前記強いフィルタリングが適用される場合に対するα及びγ値より相対的に大きい。

一方、本発明による予測サンプル後処理フィルタリング方法の適用可否は、フラグ情報により指示されることができる。例えば、現在ブロックに前述した本発明による予測サンプル後処理フィルタリングが適用されるかどうかは、エンコーディング装置により決定され、イントラポストフィルタフラグ（ｉｎｔｒａ ｐｏｓｔ ｆｉｌｔｅｒ ｆｌａｇ）情報に基づいて指示されることができる。前記イントラポストフィルタフラグ情報は、例えば、ＣＵまたはＰＵ単位にシグナリングされることができる。

一例として、前記イントラポストフィルタフラグ情報は、ＣＵ単位に以下のようにシグナリングされることができる。

ここで、ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素（ｓｙｎｔａｘ ｅｌｅｍｅｎｔ）は、前記イントラポストフィルタフラグ情報に対応する。前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素は、ｃｏｎｔｅｘｔ−ａｄａｐｔｉｖｅ ｂｉｎａｒｙ ａｒｉｔｈｍｅｔｉｃ ｃｏｄｉｎｇ（ＣＡＢＡＣ）に基づいてエンコーディング／デコーディングされることができる。デコーディング装置は、現在ＣＵにイントラ予測が適用される場合、前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素をビットストリームからパーシングし、前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素の値に基づいて前記本発明による予測サンプル後処理フィルタリングの適用可否を決定することができる。前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素の値が１である場合、デコーディング装置は、前記本発明による予測サンプル後処理フィルタリングが現在ブロックに適用されると判断できる。

他の例として、前記イントラポストフィルタフラグ情報は、ＰＵ単位に以下のようにシグナリングされることができる。

ここで、ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素は、前記イントラポストフィルタフラグ情報に対応する。また、ｉｎｔｒａ＿ｃｈｒｏｍａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素も前記イントラポストフィルタフラグ情報に対応できる。この場合、前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素は、ルマ成分（ｌｕｍａ ｃｏｍｐｏｎｅｎｔ）に対する予測サンプル後処理フィルタリング適用可否を示し、ｉｎｔｒａ＿ｃｈｒｏｍａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素は、クロマ成分（ｃｈｒｏｍａ ｃｏｍｐｏｎｅｎｔ）に対する予測サンプル後処理フィルタリング適用可否を示すことができる。前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素及び前記ｉｎｔｒａ＿ｃｈｒｏｍａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素は、ｃｏｎｔｅｘｔ−ａｄａｐｔｉｖｅ ｂｉｎａｒｙ ａｒｉｔｈｍｅｔｉｃ ｃｏｄｉｎｇ（ＣＡＢＡＣ）に基づいてエンコーディング／デコーディングされることができる。デコーディング装置は、前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素及びｉｎｔｒａ＿ｃｈｒｏｍａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素をビットストリームからパーシングし、前記本発明による予測サンプル後処理フィルタリングの適用可否を決定することができる。

前記ｉｎｔｒａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素の値が１である場合、デコーディング装置は、前記予測サンプル後処理フィルタリングが現在ブロックのルマ成分（即ち、ルマサンプル）に適用されると判断できる。前記ｉｎｔｒａ＿ｃｈｒｏｍａ＿ｐｏｓｔ＿ｆｉｌｔｅｒ＿ｆｌａｇシンタックス要素の値が１である場合、デコーディング装置は、前記予測サンプル後処理フィルタリングが現在ブロックのクロマ成分（即ち、クロマサンプル）に適用されると判断できる。

前記のように前記イントラポストフィルタフラグ情報をＰＵ単位にシグナリングする場合、ＣＵ単位にシグナリングする場合より送信されるべきビット数が多くなり、それに対し、ＣＵに基づいてパーティショニングされたそれぞれのＰＵに対して独立的にフィルタリング実行可否を決定することができ、ルマ成分と独立的にクロマ成分に対するフィルタリング実行可否を決定することができるという長所がある。

本発明によるイントラ予測方法は、例えば、下記のような流れ図に基づいて実行されることもできる。

図９は、本発明によるエンコーディング装置によるイントラ予測方法の例を概略的に示す。図９に開示された方法は、図１に開示されたエンコーディング装置により実行されることができる。具体的に、例えば、図９において、Ｓ９００乃至Ｓ９４０は、前記エンコーディング装置の予測部により実行されることができ、Ｓ９５０は、前記エンコーディング装置のエントロピーエンコーディング部により実行されることができる。

図９を参照すると、エンコーディング装置は、イントラ予測のための現在ブロックの隣接サンプルを導出する（Ｓ９００）。例えば、現在ブロックの左上端（ｔｏｐ−ｌｅｆｔ）サンプルポジションを（０、０）と見なした時、前記現在ブロックのイントラ予測のための隣接サンプルとして、左側隣接サンプル（ｐ［−１］［２Ｎ−１］、...、ｐ［−１］［０］）、左上側隣接サンプル（ｐ［−１］［−１］）、及び上側隣接サンプル（ｐ［０］［−１］、...、ｐ［２Ｎ−１］［−１］）が導出されることができる。ここで、ｐ［ｍ］［ｎ］は、サンプルポジション（ｍ、ｎ）のサンプル（または、ピクセル）を示すことができる。ここで、Ｎは、前記現在ブロックの幅及び高さに対応されることができる。前記現在ブロックが変換ブロックである場合、前記Ｎは、ｎＴｂＳで表示される。もし、前記現在ブロックの幅がＷであり、高さがＨである場合、前記隣接参照サンプルとして、左側隣接サンプル（ｐ［−１］［２Ｈ−１］、...、ｐ［−１］［０］）、左上側隣接サンプル（ｐ［−１］［−１］）、及び上側隣接サンプル（ｐ［０］［−１］、...、ｐ［２Ｗ−１］［−１］）が導出されることもできる。

エンコーディング装置は、前記現在ブロックに対するイントラ予測モードを決定する（Ｓ９１０）。ここで、前記イントラ予測モードは、前述した表１のモードのうち一つである。または、本発明によるイントラ予測方法は、現在ブロックのイントラ予測モードがイントラ方向性モードである場合にのみ適用されることもでき、この場合、前記イントラ方向性モードは、前述した表１のイントラアンギュラー２乃至イントラアンギュラー３４モードのうち一つである。ここで、前記現在ブロックは、現在ＴＵに対応されることができる。例えば、現在ＣＵから少なくとも一つのＰＵ及び少なくとも一つのＴＵが導出されることができる。この場合、前記ＰＵの領域内に一つまたは複数のＴＵが存在できる。例えば、現在ＣＵでインター／イントラ予測タイプが決定され、具体的なイントラ予測モードは、ＰＵで決定されることができる。この場合、前記ＰＵ領域内のＴＵは、前記決定されたイントラ予測モードを共有することができる。エンコーディング装置は、ＲＤ（ｒａｔｅ−ｄｉｓｔｏｒｔｉｏｎ）コストに基づいて最適のイントラ予測モードを決定することができる。

エンコーディング装置は、前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックに対する予測サンプルを導出する（Ｓ９２０）。エンコーディング装置は、予測サンプルのサンプルポジションを基準にして前記イントラ予測モードの予測方向に位置する隣接サンプルを利用して前記予測サンプルを導出することができる。

エンコーディング装置は、前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定する（Ｓ９３０）。エンコーディング装置は、前記イントラ予測モードに対応するカテゴリを決定し、前記決定されたカテゴリによって前記予測サンプルに対する相対的な位置関係に基づいて前記フィルタリング参照サンプルを決定することができる。

例えば、エンコーディング装置は、多数のイントラ予測モードを角度による均等分割または非均等分割に基づいて多数のカテゴリに区分できる。例えば、エンコーディング装置は、前記多数のイントラ予測モードを４個のカテゴリに区分でき、この場合、エンコーディング装置は、前述した表２または表３に基づいて前記イントラ予測モードに対応する前記カテゴリを決定することができる。

エンコーディング装置は、前記決定されたカテゴリによってフィルタの形状を決定することができる。一例として、前記イントラ予測モードが１番目のカテゴリに対応する場合、前記フィルタの形状は水平形状である。この場合、前記フィルタリング参照サンプルは、前記予測サンプルの左側隣接サンプル（Ｐ１）及び右側隣接サンプル（Ｐ３）を含むことができる。他の例として、前記イントラ予測モードが２番目のカテゴリに対応する場合、前記フィルタの形状は垂直形状である。この場合、前記フィルタリング参照サンプルは、前記予測サンプルの上側隣接サンプル（Ｐ１）及び下側隣接サンプル（Ｐ３）を含むことができる。他の例として、前記イントラ予測モードが３番目のカテゴリに対応する場合、前記フィルタの形状は右上向対角形状である。この場合、前記フィルタリング参照サンプルは、前記予測サンプルの左下側隣接サンプル（Ｐ１）及び右上側隣接サンプル（Ｐ３）を含むことができる。他の例として、前記イントラ予測モードが４番目のカテゴリに対応する場合、前記フィルタの形状は左上向対角形状である。この場合、前記予測サンプルの左上側隣接サンプル（Ｐ１）及び右下側隣接サンプル（Ｐ３）を含むことができる。

エンコーディング装置は、前記フィルタリング参照サンプルに基づいて前記予測サンプルにフィルタリングを適用してフィルタされた予測サンプルを導出する（Ｓ９４０）。エンコーディング装置は、前記フィルタの形状によって決定された前記フィルタリング参照サンプルに基づいてフィルタ係数を利用して前記フィルタされた予測サンプルを導出することができる。

例えば、前記フィルタされた予測サンプルは、前述した数式１または２に基づいて導出されることができる。

この場合、前記フィルタリング参照サンプルの値をＰ１及びＰ３に対応させ、Ｐ２は、前記予測サンプルの値に対応させることができる。この場合、｜Ｐ１−Ｐ２｜が特定条件を満たさない場合、前記γは０に設定され、または｜Ｐ３−Ｐ２｜が前記特定条件を満たさない場合、前記αは０に設定されることができる。例えば、前記特定条件は、前記｜Ｐ１−Ｐ２｜または前記｜Ｐ３−Ｐ２｜が所定の最小閾値より大きく、かつ所定の最大閾値より小さい場合に満たされる。

一方、エンコーディング装置は、前記予測サンプルに強いフィルタリングが適用されるか、または弱いフィルタリングが適用されるかを決定することができる。エンコーディング装置は、前記予測サンプルのサンプルポジションと前記現在ブロックの左側境界または上側境界との距離に基づいて前記予測サンプルに前記強いフィルタリングが適用されるか、または前記弱いフィルタリングが適用されるかを決定することができる。具体的に、エンコーディング装置は、フィルタ強度区分のための水平距離及び垂直距離を導出し、前記予測サンプルの前記サンプルポジションが前記左側境界から前記水平距離内に位置し、または前記上側境界から前記垂直距離内に位置する場合、前記予測サンプルには前記弱いフィルタリングが適用されると決定し、前記予測サンプルの前記サンプルポジションが前記左側境界から前記水平距離以上及び前記上側境界から前記垂直距離以上に位置する場合、前記予測サンプルには前記強いフィルタリングが適用されると決定できる。

エンコーディング装置は、前記予測サンプルに対する前記強いフィルタリングまたは前記弱いフィルタリングの適用可否によって異なる値を有する前記フィルタ係数を導出することができる。具体的に、例えば、前記フィルタ係数のうち前記弱いフィルタリングが適用される場合に対するβ値より、前記強いフィルタリングが適用される場合に対するβ値が相対的により大きい。他の例として、前記フィルタ係数のうち前記弱いフィルタリングが適用される場合に対するα及びγ値が、前記強いフィルタリングが適用される場合に対するα及びγ値より相対的に大きい。

エンコーディング装置は、前記現在ブロックに対する前記イントラ予測モードを示すイントラ予測モード情報をエンコーディングして出力する（Ｓ９５０）。エンコーディング装置は、前記イントラ予測モード情報をエンコーディングしてビットストリーム形態に出力できる。前記ビットストリームは、ネットワークまたは格納媒体を介してデコーディング装置に送信されることができる。

一方、エンコーディング装置は、前記現在ブロックに対する前記フィルタされた予測サンプルと原本サンプルに基づいて、レジデュアルサンプルを生成することができる。エンコーディング装置は、前記レジデュアルサンプルに対するレジデュアル情報をエンコーディングして前記ビットストリーム形態に出力することもできる。前記レジデュアル情報は、前記現在ブロックに対するレジデュアルサンプルに対する量子化された変換係数を含むことができる。

一方、エンコーディング装置は、前記本発明による予測サンプル後処理フィルタリングが前記現在ブロックに適用されるかどうかを示すイントラポストフィルタフラグをエンコーディングして前記ビットストリーム形態に出力することもできる。この場合、前記イントラポストフィルタフラグは、ＣＵ単位にシグナリングされることができ、またはＰＵ単位にシグナリングされることができる。前記イントラポストフィルタフラグがＰＵ単位にシグナリングされる場合、前記現在ブロックに対するルマ成分とクロマ成分に対して独立的に前記予測サンプル後処理フィルタリングが適用されるかどうかを指示することができる。

図１０は、本発明によるデコーディング装置によるイントラ予測方法の例を概略的に示す。図１０に開示された方法は、図２に開示されたデコーディング装置により実行されることができる。具体的に、例えば、図１０において、Ｓ１０００は、前記デコーディング装置のエントロピーデコーディング部により実行されることができ、前記Ｓ１０１０乃至Ｓ１０５０は、前記デコーディング装置の予測部により実行されることができる。

図１０を参照すると、デコーディング装置は、ビットストリームからイントラ予測モード情報を取得する（Ｓ１０００）。デコーディング装置は、エンコーディング装置から受信した前記ビットストリームをデコーディングし、前記イントラ予測モード情報を取得することができる。前記ビットストリームは、ネットワークまたは格納媒体を介して受信されることができる。

デコーディング装置は、イントラ予測のための現在ブロックの隣接サンプルを導出する（Ｓ１０１０）。例えば、現在ブロックの左上端（ｔｏｐ−ｌｅｆｔ）サンプルポジションを（０、０）と見なした時、前記現在ブロックのイントラ予測のための隣接参照サンプルとして、左側隣接サンプル（ｐ［−１］［２Ｎ−１］、...、ｐ［−１］［０］）、左上側隣接サンプル（ｐ［−１］［−１］）、及び上側隣接サンプル（ｐ［０］［−１］、...、ｐ［２Ｎ−１］［−１］）が導出されることができる。ここで、ｐ［ｍ］［ｎ］は、サンプルポジション（ｍ、ｎ）のサンプル（または、ピクセル）を示すことは、前述した通りである。ここで、Ｎは、前記現在ブロックの幅または高さに対応されることができる。前記現在ブロックが変換ブロックである場合、前記Ｎは、ｎＴｂＳで表示される。もし、前記現在ブロックの幅がＷであり、高さがＨである場合、前記隣接参照サンプルとして、左側隣接サンプル（ｐ［−１］［２Ｈ−１］、...、ｐ［−１］［０］）、左上側隣接サンプル（ｐ［−１］［−１］）、及び上側隣接サンプル（ｐ［０］［−１］、...、ｐ［２Ｗ−１］［−１］）が導出されることもできる。

デコーディング装置は、前記イントラ予測モード情報に基づいて前記現在ブロックに対するイントラ予測モードを決定する（Ｓ１０２０）。ここで、前記イントラ予測モードは、前述した表１のモードのうち一つである。または、本発明によるイントラ予測方法は、現在ブロックのイントラ予測モードがイントラ方向性モードである場合にのみ適用されることもでき、この場合、前記イントラ方向性モードは、前述した表１のイントラアンギュラー２乃至イントラアンギュラー３４モードのうち一つである。ここで、前記現在ブロックは、現在ＴＵに対応されることができる。例えば、現在ＣＵから少なくとも一つのＰＵ及び少なくとも一つのＴＵが導出されることができる。この場合、前記ＰＵの領域内に一つまたは複数のＴＵが存在できる。例えば、現在ＣＵでインター／イントラ予測タイプが決定され、具体的なイントラ予測モードは、ＰＵで決定されることができる。この場合、前記ＰＵ領域内のＴＵは、前記決定されたイントラ予測モードを共有することができる。

デコーディング装置は、ＭＰＭ（ｍｏｓｔ ｐｒｏｂａｂｌｅ ｍｏｄｅ）またはリメイニング（ｒｅｍａｉｎｉｎｇ）モードが適用されるかどうかによって、前記イントラ予測モードを決定することができる。ＭＰＭモードが適用される場合、前記ＰＵの左側または上側隣接ブロックに対するイントラ予測モードに基づいてＭＰＭリストを決定し、前記ＭＰＭリストに基づいて前記イントラ予測モードを決定することができる。この場合、デコーディング装置は、前記ビットストリームからＭＰＭインデックスを取得し、前記ＭＰＭリスト内の候補のうち前記ＭＰＭインデックスが示す候補のイントラ予測モードを前記現在ブロックのイントラ予測モードとして導出することができる。または、リメイニングモードが適用される場合、前記ＭＰＭリストに含まれない残りのモードのうち特定イントラ予測モードを指示する情報を前記ビットストリームから取得し、前記特定イントラ予測モードを指示する情報に基づいて前記現在ブロックのイントラ予測モードを導出することができる。

デコーディング装置は、前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出する（Ｓ１０３０）。デコーディング装置は、前記予測サンプルのサンプルポジションを基準にして前記イントラ予測モードの予測方向に位置する隣接サンプルを利用して前記予測サンプルを導出することができる。

デコーディング装置は、前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定する（Ｓ１０４０）。デコーディング装置は、前記イントラ予測モードに対応するカテゴリを決定し、前記決定されたカテゴリによって前記予測サンプルに対する相対的な位置関係に基づいて前記フィルタリング参照サンプルを決定することができる。

例えば、デコーディング装置は、多数のイントラ予測モードを角度による均等分割または非均等分割に基づいて多数のカテゴリに区分できる。例えば、デコーディング装置は、前記多数のイントラ予測モードを４個のカテゴリに区分でき、この場合、デコーディング装置は、前述した表２または表３に基づいて前記イントラ予測モードに対応する前記カテゴリを決定することができる。

デコーディング装置は、前記決定されたカテゴリによってフィルタの形状を決定することができる。一例として、前記イントラ予測モードが１番目のカテゴリに対応する場合、前記フィルタの形状は水平形状である。この場合、前記フィルタリング参照サンプルは、前記予測サンプルの左側隣接サンプル（Ｐ１）及び右側隣接サンプル（Ｐ３）を含むことができる。他の例として、前記イントラ予測モードが２番目のカテゴリに対応する場合、前記フィルタの形状は垂直形状である。この場合、前記フィルタリング参照サンプルは、前記予測サンプルの上側隣接サンプル（Ｐ１）及び下側隣接サンプル（Ｐ３）を含むことができる。他の例として、前記イントラ予測モードが３番目のカテゴリに対応する場合、前記フィルタの形状は右上向対角形状である。この場合、前記フィルタリング参照サンプルは、前記予測サンプルの左下側隣接サンプル（Ｐ１）及び右上側隣接サンプル（Ｐ３）を含むことができる。他の例として、前記イントラ予測モードが４番目のカテゴリに対応する場合、前記フィルタの形状は左上向対角形状である。この場合、前記予測サンプルの左上側隣接サンプル（Ｐ１）及び右下側隣接サンプル（Ｐ３）を含むことができる。

デコーディング装置は、前記フィルタリング参照サンプルに基づいて前記予測サンプルにフィルタリングを適用してフィルタされた予測サンプルを導出する（Ｓ１０５０）。デコーディング装置は、前記フィルタの形状によって決定された前記フィルタリング参照サンプルに基づいてフィルタ係数を利用して前記フィルタされた予測サンプルを導出することができる。

例えば、前記フィルタされた予測サンプルは、前述した数式１または２に基づいて導出されることができる。

この場合、前記フィルタリング参照サンプルの値をＰ１及びＰ３に対応させ、Ｐ２は、前記予測サンプルの値に対応させることができる。この場合、｜Ｐ１−Ｐ２｜が特定条件を満たさない場合、前記γは０に設定され、または｜Ｐ３−Ｐ２｜が前記特定条件を満たさない場合、前記αは０に設定されることができる。例えば、前記特定条件は、前記｜Ｐ１−Ｐ２｜または前記｜Ｐ３−Ｐ２｜が所定の最小閾値より大きく、かつ所定の最大閾値より小さい場合に満たされる。

一方、デコーディング装置は、前記予測サンプルに強いフィルタリングが適用されるか、または弱いフィルタリングが適用されるかを決定することができる。デコーディング装置は、前記予測サンプルのサンプルポジションと前記現在ブロックの左側境界または上側境界との距離に基づいて前記予測サンプルに前記強いフィルタリングが適用されるか、または前記弱いフィルタリングが適用されるかを決定することができる。具体的に、デコーディング装置は、フィルタ強度区分のための水平距離及び垂直距離を導出し、前記予測サンプルの前記サンプルポジションが前記左側境界から前記水平距離内に位置し、または前記上側境界から前記垂直距離内に位置する場合、前記予測サンプルには前記弱いフィルタリングが適用されると決定し、前記予測サンプルの前記サンプルポジションが前記左側境界から前記水平距離以上及び前記上側境界から前記垂直距離以上に位置する場合、前記予測サンプルには前記強いフィルタリングが適用されると決定できる。

デコーディング装置は、前記予測サンプルに対する前記強いフィルタリングまたは前記弱いフィルタリングの適用可否によって異なる値を有する前記フィルタ係数を導出することができる。具体的に、例えば、前記フィルタ係数のうち前記弱いフィルタリングが適用される場合に対するβ値より、前記強いフィルタリングが適用される場合に対するβ値が相対的により大きい。他の例として、前記フィルタ係数のうち前記弱いフィルタリングが適用される場合に対するα及びγ値が、前記強いフィルタリングが適用される場合に対するα及びγ値より相対的に大きい。

一方、デコーディング装置は、前記ビットストリームからレジデュアル情報を取得し、前記レジデュアル情報に基づいて前記現在ブロックに対するレジデュアルサンプルを導出することができる。デコーディング装置は、前記フィルタされた予測サンプルと前記レジデュアルサンプルに基づいて復元サンプル及び復元ピクチャを生成することができる。

一方、デコーディング装置は、前記本発明による予測サンプル後処理フィルタリングが前記現在ブロックに適用されるかどうかを示すイントラポストフィルタフラグを前記ビットストリームから取得でき、前記イントラポストフィルタフラグの値が１を示す場合、前記予測サンプルに対するフィルタリングを適用して前記フィルタされた予測サンプルを導出することができる。前記イントラポストフィルタフラグは、ＣＵ単位またはＰＵ単位にシグナリングされることができる。前記イントラポストフィルタフラグがＰＵ単位にシグナリングされる場合、前記現在ブロックに対するルマ成分とクロマ成分に対して独立的に前記予測サンプル後処理フィルタリングが適用されるかどうかを指示することができる。

本発明によると、イントラ予測モードによって適応的に予測サンプルをフィルタリングすることができ、イントラ予測性能を向上させることができる。

本発明によると、イントラ予測モードが属するカテゴリによって多様なフィルタの形状のフィルタリング予測サンプルに適用でき、予測サンプルのサンプルポジションによってフィルタ強度を適応的に決定できる。

したがって、本発明によると、追加的な補助情報の送信を最小化しながらイントラ予測性能を高めることができ、それによって、レジデュアル信号に必要なデータ量を減らすことができ、全般的なコーディング効率が高まることができる。

以上の説明は、本発明の技術思想を例示的に説明したものに過ぎず、本発明が属する技術分野において、通常の知識を有する者であれば、本発明の本質的な特性から外れない範囲で多様な修正及び変形が可能である。したがって、本発明に開示された実施例は、本発明の技術思想を限定するためのものではなく、説明するためのものであり、このような実施例により本発明の技術思想の範囲が限定されるものではない。本発明の保護範囲は、特許請求の範囲により解釈されなければならない。

前述した本発明による方法は、ソフトウェア形態で具現されることができ、本発明によるエンコーディング装置及び／またはデコーディング装置は、例えば、ＴＶ、コンピュータ、スマートフォン、セットトップボックス、ディスプレイ装置などの映像処理を実行する装置に含まれることができる。

本発明において、実施例がソフトウェアで具現される時、前述した方法は、前述した機能を遂行するモジュール（過程、機能など）で具現されることができる。モジュールは、メモリに格納され、プロセッサにより実行されることができる。メモリは、プロセッサの内部または外部にあり、よく知られた多様な手段でプロセッサと連結されることができる。プロセッサは、ＡＳＩＣ（ａｐｐｌｉｃａｔｉｏｎ−ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ）、他のチップセット、論理回路及び／またはデータ処理装置を含むことができる。メモリは、ＲＯＭ（ｒｅａｄ−ｏｎｌｙ ｍｅｍｏｒｙ）、ＲＡＭ（ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、フラッシュメモリ、メモリカード、格納媒体及び／または他の格納装置を含むことができる。

Claims (14)

1. デコーディング装置により実行されるイントラ予測方法において、
   ビットストリームからイントラ予測モード情報及びイントラポストフィルタフラグを取得するステップと、
   現在ブロックの隣接サンプルを導出するステップと、
   前記イントラ予測モード情報に基づいて前記現在ブロックに対するイントラ予測モードを決定するステップと、
   前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出するステップと、
   前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定するステップと、
   前記フィルタリング参照サンプルに基づいて前記予測サンプルに対するフィルタリングを適用してフィルタされた予測サンプルを導出するステップと、を含み、
   前記イントラポストフィルタフラグが１を示すとき、フィルタリングは、前記予測サンプルに適用されて、前記フィルタされた予測サンプルを導出する、イントラ予測方法。
2. 前記参照サンプルを決定するステップは、
   前記イントラ予測モードに対応するカテゴリを決定するステップと、
   前記決定されたカテゴリに従って前記予測サンプルに関する相対的な位置関係に基づいて前記フィルタリング参照サンプルを決定するステップと、を含む、請求項１に記載のイントラ予測方法。
3. 前記イントラ予測モードに対応する前記カテゴリは、以下の表に基づいて決定され、
   前記フィルタリングに使われるフィルタの形状は、前記カテゴリに依存する、請求項２に記載のイントラ予測方法。
4. 前記イントラ予測モードの値２〜７及び３０〜３４に対応する前記カテゴリは、以下の表に基づいて決定され、
   前記フィルタリングに使われるフィルタの形状は、前記カテゴリに依存する、請求項２に記載のイントラ予測方法。
5. 前記決定されたカテゴリが１番目のカテゴリである場合、前記フィルタリング参照サンプルは、前記予測サンプルの左側隣接サンプル及び右側隣接サンプルを含み、
   前記決定されたカテゴリが２番目のカテゴリである場合、前記フィルタリング参照サンプルは、前記予測サンプルの上側隣接サンプル及び下側隣接サンプルを含み、
   前記決定されたカテゴリが３番目のカテゴリである場合、前記フィルタリング参照サンプルは、前記予測サンプルの左下側隣接サンプル及び右上側隣接サンプルを含み、
   前記決定されたカテゴリが４番目のカテゴリである場合、前記フィルタリング参照サンプルは、前記予測サンプルの左上側隣接サンプル及び右下側隣接サンプルを含む、請求項２に記載のイントラ予測方法。
6. 前記フィルタされた予測サンプルは、以下の数式に基づいて導出され、
   ここで、Ｐｒｅｄ′は、前記フィルタされた予測サンプルを示し、Ｐ２は、前記予測サンプルの値を示し、Ｐ１及びＰ３は、前記フィルタリング参照サンプルの値を示し、α、β及びγは、フィルタ係数を示す、請求項２に記載のイントラ予測方法。
7. ｜Ｐ１−Ｐ２｜が特定条件を満たさない場合、γは０に設定される、または、｜Ｐ３−Ｐ２｜が前記特定条件を満たさない場合、αは０に設定される、請求項６に記載のイントラ予測方法。
8. 前記特定条件は、｜Ｐ１−Ｐ２｜または｜Ｐ３−Ｐ２｜が所定の最小閾値より大きく、かつ所定の最大閾値より小さい場合に満たされる、請求項７に記載のイントラ予測方法。
9. 前記予測サンプルに強いフィルタリングが適用されるかまたは弱いフィルタリングが適用されるかを決定するステップをさらに含み、
   前記予測サンプルに強いフィルタリングが適用されるかまたは弱いフィルタリングが適用されるかに依存して異なる値を有する前記フィルタ係数が導出される、請求項６に記載のイントラ予測方法。
10. 前記予測サンプルのサンプルポジションと前記現在ブロックの左側境界または上側境界との間の距離に基づいて、前記予測サンプルに強いフィルタリングが適用されるかまたは弱いフィルタリングが適用されるかが決定される、請求項９に記載のイントラ予測方法。
11. フィルタ強度区分のための水平距離及び垂直距離を導出するステップをさらに含み、
    前記予測サンプルの前記サンプルポジションが前記左側境界から前記水平距離内にある、または、前記上側境界から前記垂直距離内にある場合、前記予測サンプルに弱いフィルタリングが適用され、
    前記予測サンプルの前記サンプルポジションが前記左側境界から前記水平距離以上離れ、かつ、前記上側境界から前記垂直距離以上離れている場合、前記予測サンプルに強いフィルタリングが適用される、請求項１０に記載のイントラ予測方法。
12. 前記イントラポストフィルタフラグは、ＣＵ（ｃｏｄｉｎｇ ｕｎｉｔ）単位またはＰＵ（ｐｒｅｄｉｃｔｉｏｎ ｕｎｉｔ）単位にシグナリングされる、請求項１に記載のイントラ予測方法。
13. エンコーディング装置により実行されるイントラ予測方法において、
    現在ブロックの隣接サンプルを導出するステップと、
    前記現在ブロックに対するイントラ予測モードを決定するステップと、
    前記イントラ予測モード及び前記隣接サンプルに基づいて前記現在ブロックの予測サンプルを導出するステップと、
    前記イントラ予測モードに基づいて前記予測サンプルに対するフィルタリング参照サンプルを決定するステップと、
    前記フィルタリング参照サンプルに基づいて前記予測サンプルに対するフィルタリングを適用してフィルタされた予測サンプルを導出するステップと、
    イントラポストフィルタフラグを生成するステップと、
    前記イントラポストフィルタフラグ、及び、前記イントラ予測モードを示すイントラ予測モード情報をエンコーディングして出力するステップと、を含み、
    前記イントラポストフィルタフラグは、１を示す、イントラ予測方法。
14. 前記参照サンプルを決定するステップは、
    前記イントラ予測モードに対応するカテゴリを決定するステップと、
    前記決定されたカテゴリに従って前記予測サンプルに関する相対的な位置関係に基づいて前記フィルタリング参照サンプルを決定するステップと、を含む、請求項１３に記載のイントラ予測方法。