JP7308946B2 - 非線形クリッピングのアダプティブループフィルタ - Google Patents

Description

本発明は、ビデオコンポーネントのブロックの符号化又は復号に関する。本発明の実施形態は、そのような構成要素のサンプルをフィルタリングするためのフィルタを制御するときに特に使用されるが、これに限定されるものではなく、特に、排他的ではないが、アダプティブループフィルタ（adaptive loop filter）の制御に関する。

ビデオ符号化は、画像符号化を含む（画像がビデオの単一フレームに相当する）。ビデオ符号化では、変換係数の量子化や動き補償（補間フィルタを使用して行われることが多い）などの一部の符号化ツールでは、しばしば歪みバイアス／効果（一定の文脈において系統的であるか、少なくともランダムではないように見える歪み）をもたらす。これらのバイアス／アーチファクトを補償し、符号化効率を改善する（または少なくとも良好なレベルを維持する）ために、ポストフィルタまたはインループフィルタと呼ばれるいくつかの特定の符号化ツールが使用される。デブロッキングフィルタ（ＤＢＦ）、サンプルアダプティブオフセット（ＳＡＯ）フィルタまたはアダプティブループフィルタ（ＡＬＦ）が、このような符号化ツールのいくつかの例である。インループフィルタは符号化ループ内で適用され、その結果、現在のフレームに提供される画質の向上は現在のフレームに基づいて符号化される次のフレームの符号化効率の向上を可能にする。例えば、ＤＣＴ係数の量子化は、ビデオ圧縮には効率的であるが、サンプルの圧縮ブロックの境界にブロッキングアーチファクト（バイアス）をもたらすことが多い。デブロッキングフィルタは、そのようなアーチファクトから生じる望ましくない影響を低減する。デブロッキング（ＤＢＦを使用する）は（別のフレームの動き補償のための参照フレームとして機能する前に）符号化ループ内の復号フレームを、（例えば、それを表示する直前に）符号化ループからフレームをデブロッキングすることと比較して、動き補償の符号化効率を大幅に向上させる。

本発明は特に、復号されたフレーム／画像における望ましくない圧縮アーチファクトを低減するためにループ内フィルタとしても適用されるアダプティブループフィルタ（ＡＬＦ）に関する。ＡＬＦはビデオ符号化エキスパートグループ／動画エキスパートグループ（ＶＣＥＧ／ＭＰＥＧ）標準化グループによって研究されており、ＶＶＣ(Versatile Video Coding)標準、例えば、ＶＶＣテストモデルソフトウェアの第３バージョン（ＶＴＭ－３．０またはＶＶＣ Ｄｒａｆｔ バージョン３）での使用が検討されている。

本発明の実施形態の目的は、ビデオコンポーネントのブロックの前述の符号化または復号の１つまたは複数の問題または欠点に対処することである。

ＡＬＦは効率的な符号化ツールであるが、その線形フィルタリングは画質改善については準最適解である。本発明は、ＡＬＦによる非線形フィルタリングを可能にして、その効率および／または性能を改善する。

本発明の態様によれば、添付の特許請求の範囲に記載されるような装置／デバイス、方法、プログラム、コンピュータ可読記憶媒体、および信号が提供される。本発明の他の特徴は、従属請求項および説明から明らかになるのであろう。

本発明の第１の態様によれば、画像の１以上の画像部分に対するアダプティブループフィルタを制御する方法が提供され、この方法は、画像部分の第１のサンプル値の１以上の隣接サンプル値に基づいて画像部分の第１のサンプルに対してフィルタリングを制御することを含み、制御することは、１以上の隣接サンプル値を変数として有する非線形関数を使用する。適切には、非線形関数の変数は、２以上の隣接サンプル値を含む。適切には、非線形関数の変数は、第１のサンプル値と、１つ以上の隣接するサンプル値の位置に依存する第１の変数とをさらに含む。適切には、第１の変数は、２以上の隣接サンプル値の位置に依存する。適切には、非線形関数の出力はアダプティブループフィルタの入力（または入力パラメータ）として使用される。

本発明の第２の態様によれば、画像の１以上の画像部分ためのフィルタを制御する方法が提供され、この方法は、画像部分の第１のサンプル値の１以上の隣接するサンプル値に基づく、前記第１のサンプルに対するフィルタリングを制御することを含み、この制御することは、第１のサンプル値、１以上の隣接サンプル値、及び、第１の変数含む複数の減数を持つ非線形関数を使用し、前記第１の変数は前記１以上の隣接するサンプル値の位置に依存する。適切には、複数の変数は、２以上の隣接サンプル値を含む。適切には、第１の変数は、２以上の隣接サンプル値の位置に依存する。適切には、フィルタはアダプティブループフィルタである。

本発明の第３の態様によれば、画像の１以上の画像部分のためのフィルタを制御する方法が提供され、この方法は、画像部分の第１のサンプル値の１以上の隣接サンプル値に基づいて、第１のサンプルへのフィルタリングを制御することを含み、この制御することは、第１のサンプル値、１以上の隣接サンプル値、およびクリッピングパラメータに基づいて、１以上の制御パラメータを持つ１以上のクリッピング関数を使用する。適切には、１以上の制御パラメータは、第１のサンプル値、２以上の隣接サンプル値、および、クリッピングパラメータに基づく。適切には、フィルタはアダプティブループフィルタである。適切には、１以上のクリッピング関数の各々は、ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ））、ｍｉｎ（ｂ、ｍａｘ（－ｂ，ｄ））、ｍａｘ（ｃ－ｂ、ｍｉｎ（ｃ＋ｂ，ｎ））、またはｍｉｎ（ｃ＋ｂ、ｍａｘ（ｃ－ｂ，ｎ））のうちの１つであり、ここでｃは第１のサンプル値、ｎは隣接するサンプル値、ｄ＝ｎ－ｃであり、ｂはクリッピングパラメータである。

本発明の第４の態様によれば、画像の１以上の画像部分についてのアダプティブループフィルタを制御する方法が提供され、この方法は、画像部分の第１のサンプル値の１以上の隣接サンプル値に基づいて、第１のサンプルに対してのフィルタリングを制御することを含み、この制御することは、第１のサンプル値と１以上の隣接サンプル値とを、非線形結合を、アダプティブループフィルタの入力パラメータとして使用する。適切には、アダプティブループフィルタは、ＶＴＭ３．０に規定されている通りである。

本発明の第５の態様によれば、画像の１以上の画像部分についてのアダプティブループフィルタを制御する方法が提供され、この方法は、画像部分の第１のサンプル値の２以上の隣接サンプル値に基づいて、第１のサンプルに対してフィルタリングを制御することを含み、この制御することは、２以上の隣接サンプル値の非線形結合をアダプティブループフィルタの入力パラメータとして使用する。適切には、アダプティブループフィルタがＶＴＭ３．０に規定されている通りである。

本発明の第４および第５の態様について、以下の特徴が、その実施形態に従って提供されてもよい。好ましくは、非線形結合は非線形関数の一部である。適切には、アダプティブループフィルタのための入力パラメータが、１以上の隣接サンプル値の位置に依存する第１の変数をさらに有する。適切には、第１の変数は、２以上の隣接サンプル値の位置に依存する。適切には、非線形結合は、第１のサンプル値、１つ（または２つ以上）の隣接サンプル値、および第１の変数である。

本発明の第６の態様によれば、画像の１以上の部分を処理する方法が提供される。ここで、画像部分は、クロマサンプルおよびルマサンプルに関連付けられている。この方法は、ビットストリーム、または画像部分の第１のサンプル値と１以上の隣接サンプル値から得る情報に基づいて、第１の態様、第２の態様、第３の態様、第４の態様、または第５の態様による方法を使用して制御されるフィルタを使用するか使用しないか、前記フィルタの使用を可にするか不可にするか、または第１のサンプル値上にフィルタリングするときに前記フィルタとともに使用するためのフィルタリングパラメータ、のうちの少なくとも１つを決定することを含む。適切には、ビットストリームから取得可能な情報は、フラグまたはインデックスを含む。適切には、ビットストリームから取得可能な情報は、前記フィルタを識別するための情報、使用または使用しないことを示すためのフラグ、有効化または無効化を示すためのフラグ、前記フィルタと共に使用するための第１の変数に関する情報、または値範囲を指定するためのクリッピングパラメータに関する情報のうちの１つ以上を含む。適切には、第１の変数に関する情報は値を指定するため、または第１の関数を識別するための値を第１の変数として識別するためのものである。適切には、第１の変数は、１以上の隣接サンプル値の位置に依存する（またはそれに基づいて変化することができる）。適切には、第１の変数が２以上の隣接サンプル値の位置に依存する。

本発明の第７の態様によれば、１以上の画像を符号化する方法が提供され、この方法は、画像の１以上の部分について、第１の態様、第２の態様、第３の態様、第４の態様、または第５の態様によるフィルタを制御すること、または第６の態様による処理を含む。適切には方法は、画像を受信することと、受信した画像を符号化し、ビットストリームを生成すること、符号化された画像を処理することをさらに含み、処理することは、第１の態様、第２の態様、第３の態様、第４の態様、または第５の態様に従った制御すること、または第６の態様に従って処理することを含む。適切には第６の態様に依存する場合、本方法は、ビットストリーム内に前記情報を提供することをさらに含む。適切には、本方法は、複数の利用可能な関数から非線形関数または１以上のクリッピング関数を選択すること、符号化画像を処理するときに選択された関数を使用すること、選択された関数を識別するための情報をビットストリーム内に提供することをさらに含む。

本発明の第８の態様によれば、１以上の画像を復号する方法が提供され、この方法は、画像の１以上の部分について、第１の態様、第２の態様、第３の態様、第４の態様、または第５の態様によるフィルタを制御すること、または第６の態様に従って処理することを含む。適切には方法は、ビットストリームを受信すること、画像を得るため受信されたビットストリームから情報を復号すること、得た画像を処理することをさらに含み、処理すること、第１の態様、第２の態様、第３の態様、第４の態様、または第５の態様に従って制御すること、または第６の態様に従って処理することを含む。適切には第６の態様に依存する場合、本方法はビットストリームから前記情報を取得することをさらに含む。適切には、本方法は、ビットストリームから、複数の利用可能な関数から非線形関数または１以上のクリッピング関数を識別するための情報を取得すること、得られた画像を処理するときに識別された関数を使用することをさらに含む。

本発明の第９の態様によれば、画像の１以上の部分についてのフィルタを制御するのデバイスが提供され、このデバイスは、第１の態様、第２の態様、第３の態様、第４の態様、第５の態様、または第６の態様による方法を実行するように構成されたコントローラを備える。

本発明の第１０の態様によれば、画像を符号化するデバイスが提供され、このデバイスは、第９の態様に係る制御デバイスを備える。適切には、デバイスは第７の態様による方法を実行するように構成される。

本発明の第１１の態様によれば、画像を復号するデバイスが提供され、このデバイスは、第９の態様に従う制御デバイスを備える。適切には、このデバイスは、第８の態様による方法を実行するように構成される。

本発明の第１２の態様によれば、画像の１以上の画像部分についてのアダプティブループフィルタを制御する方法が提供され、この方法は、画像部分の第１のサンプル値の複数の隣接するサンプル値に基づいて、第１のサンプルのフィルタリングを制御することを有し、前記制御ことは、非線形関数を使用することを含み、この非線形関数は、前記１以上の隣接サンプル値に基づいく１以上の変数を有する。隣接(neighbouring)サンプル（値）は、隣接(adjacent)するサンプル（値）に限定されず、第１のサンプル（値）の周辺または近傍のサンプル（値）も含むことが理解される。適切には、制御することは、アダプティブループフィルタの入力パラメータとして、非線形関数の変数を決定するために使用されない、または非線形関数の変数として使用されない、１以上の他の隣接サンプルの１以上の隣接サンプル値を使用することを含む。適切には、１以上の（または前記）非線形関数における変数を決定するために使用される、またはそれらとして使用される隣接サンプルは、第１のサンプルが交点における十字、または平行四辺形の形状に配置される。
適切には、１以上の非線形関の変数を決定するため、または、１以上の非線形関の変数としての値となる隣接サンプルが、以下に示す形状に配置される：８個の隣接サンプルが非線形関数における変数を決定するため使用される、または、非線形関数における変数として使用されるとき、第１のサンプル値を交点に有する高さ５サンプル、幅５サンプルのクロス形、又は、各辺の長さが３サンプルの中空の平行四辺形、又は、１２個の隣接サンプルが１以上の非線形関数における変数を決定するために使用される、または、１以上の非線形関数における変数として使用されるとき、各辺が３サンプルの長さの平行四辺形である。適切には、交点位置（及び／又は、中心位置）に第１のサンプルを持つクロス形は、次の形状の１つである：垂直および水平線の交差する“＋”、または、斜め線の交差“Ｘ”(対角交差)である。適切には、前記（中空の）平行四辺形は、正方形、長方形、または菱形（diamond shape）のうちの１つである。適切には、前記（中空の）平行四辺形は、中心に位置する第１のサンプルの周りもしくは囲む。或いは、１以上の（又は前記）非線形関数における変数を判定するための使用される、もしくは、１以上の（又は前記）非線形関数における変数として使用される隣接サンプルが、中心位置にその第１のサンプルを持つ以下の形状に配置される：垂直線“｜”、水平線“－”、左上から右下への斜め線“＼”、または右上から左下への斜線“／”である。あるいは、１以上の（または前記）非線形関数の変数を判定するために使用される、又は、１以上の（または前記）非線形関数の変数として使用される隣接サンプルは、（中空の）多角形の形状に配置される。適切には、前記（中空の）多角形は、中心に位置する第１のサンプル位置の周りにあるか、またはそれを取り囲む。あるいは、１以上の（または前記）非線形関数における変数を決定するために使用される、または、１以上の（または前記）非線形関数における変数として使用される隣接サンプルは、前述の形状の任意の組合せの形状に配置される。適切には、フィルタ変数は、２以上の隣接するサンプル間で共有される。適切には、隣接サンプルの配置形状は、中心に関して対称性を有する。適切には、十字形、平行四辺形、または多角形の形状が、中心に関して対称性を有する。あるいは、隣接サンプルの配列の形状は、中心の周りに対称性を有さない。適切には、十字形、又は平行四辺形が中心に関して対称性を有さない。適切には、第１のサンプルおよび複数の隣接サンプル値の隣接サンプルが、以下の形状に配置される：交点に第１のサンプルを有するクロス形、或いは、平行四辺形、或いは、中空の平行四辺形である。適切には、第１のサンプル及び複数の隣接サンプル値の隣接サンプルが、平行四辺形の形状に配置される：ここで、複数の隣接サンプル値が２４個の隣接サンプルの値からなる場合は各辺が４サンプルの長さを持つ、または、複数の隣接サンプル値が１２個の隣接サンプルの値からなる場合は各辺が３サンプルの長さを持つ。適切には、第１のサンプルが交点（及び／又は、中心）にあるクロス形は、垂直および水平線の交差する“＋”、または斜線が交差する“Ｘ”（対角線交差）のうちの１つである。適切には、前記（中空）平行四辺形は、正方形、長方形、または菱形のうちの１つである。適切には、前記（中空）平行四辺形は、中心に位置する第１のサンプルの周りにあるか、またはそれを取り囲む。あるいは、第１のサンプルおよび複数の隣接サンプル値の隣接サンプルは、第１のサンプルを中心にて次の形状に配置される：垂直線“｜”、 水平線“－”、左上から右下への斜め線“＼”、または右上から左下への斜め線“／”である。あるいは、第１のサンプル及び複数の隣接サンプル値の複数の隣接サンプルは、（中空の）多角形の形状に配置される。適切には、前記（中空の）多角形は、中心に位置する第１のサンプル位置の周りにあるか、またはそれを取り囲む。あるいは、第１のサンプル及び複数の隣接サンプル値の隣接サンプルは、前述の形状の任意の組み合わせの形状に配置される。適切には、フィルタ変数は、２つ以上の隣接するサンプル間で共有される。適切には、隣接サンプルの配置形状は、中心に関して対称性を有する。好適には十字形、平行四辺形、または多角形が中心に関して対称性を有する。あるいは、隣接サンプルの配置形状は、中心に関して対称性を有さない。適切には、クロス形状、平行四辺形、または多角形の形状は、中心に関して対称性を持たない。適切には、第１のサンプルおよび隣接サンプルは、ルマ成分サンプルである。あるいは、第１のサンプルおよび隣接サンプルは、がロマ成分サンプルである。適切には、（または１以上）非線形関数の変数は、第１のサンプル値をさらに含み、（または１以上）非線形関数は、第１のサンプル値と１以上の隣接サンプル値のそれぞれとの間の差に適用される。適切には（または１つ以上の）非線形関数の変数は、更に、第１のサンプル値と、１以上の隣接サンプルの位置に依存する１以上のフィルタ変数を含み、各フィルタ変数は２以上の隣接サンプルについて同じであり、（または１つ以上の）非線形関数は第１のサンプル値と、同じフィルタ変数を有する２以上の隣接サンプルの２以上の隣接サンプル値のそれぞれ１つとの間の２つ以上の差の和に適用される。適切には、（または１つ以上の）非線形関数の出力は、アダプティブループフィルタの入力（または入力パラメータ）として使用される。適切には、非線形関数は、１以上のクリッピング関数を含み、１以上のクリッピング関数の各々は、次のいずれかである：ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ））、ｍｉｎ（ｂ、ｍａｘ（－ｂ，ｄ））、ｍａｘ（ｃ－ｂ、ｍｉｎ（ｃ＋ｂ，ｎ））、ｍｉｎ（ｃ＋ｂ、ｍａｘ（ｃ－ｂ，ｎ））、ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ１＋ｄ２））、ｍｉｎ（ｂ、ｍａｘ（－ｂ，ｄ１＋ｄ２））、ｍａｘ（２＊ｃ－ｂ，ｍｉｎ（２＊ｃ＋ｂ，ｎ１＋ｎ２））、または、ｍｉｎ（２＊ｃ＋ｂ、ｍａｘ（２＊ｃ－ｂ，ｎ１＋ｎ２））、ここで、ｃは第１のサンプル値、ｎまたはｎ１またはｎ２は隣接サンプル値、ｄ＝ｎ－ｃ、ｄ１＝ｎ１－ｃ、ｄ２＝ｎ２－ｃであり、ｂはクリップパラメータである。

本発明の第１３の態様によれば、画像の１以上の部分を処理する方法が提供され、こここで画像部分はクロマサンプルおよびルマサンプルに関連付けれれいる。そして、この方法は、ビットストリーム、または、画像部分の第１のサンプル値とその１以上の隣接サンプル値から得た情報に基づき、第１２の態様の方法を使用して制御されるフィルタを使用するかどうか、前記フィルタの使用を可とするか不可とするか、または第１のサンプル値をフィルタリングするときに前記フィルタとともに使用するためのフィルタパラメータまたはフィルタ変数のうちの少なくとも１つを決定することを含む。適切には、ビットストリームから得られる情報は、ルマ成分またはクロマ成分のうちの１つのために提供されるフラグを含み、そのフラグはその成分のために、第１２の態様の方法を使用して制御されるフィルタを使用すべきか否か、または前記フィルタの使用を可とするか不可とするかの少なくとも１つを示す。適切には、フラグは、適応パラメータセット（adaptation parameter set）に提供される。好適には、ビットストリームから取得される情報は、１以上の画像部分のために提供されるフラグを含み、そのフラグは、第１２の態様の手法を使用して制御されるフィルタを使用すべきか否か、または前記フィルタの使用を可とするか不可とするかのうち、少なくとも１以上の画像部分のために示す。適切には、フラグは、適応パラメータセットにて提供される。

本発明の第１４の態様によれば、１以上の画像を符号化する方法が提供され、この方法は、画像の１以上の部分について、第１２の態様の方法に従ってフィルタを制御すること、または第１３の態様の方法に従って処理することを含む。適切には、この方法は、画像を受信すること、受信した画像を符号化し、ビットストリームを生成すること、符号化された画像を処理することをさらに含み、前記処理することは、第１２の態様の方法に従って制御すること、または第１３の態様の方法に従って処理することを含む。適切には、（第１３の態様に依存する場合）方法は、ビットストリーム内に前記情報を提供することをさらに含む。適切には、非線形関数は、１以上のクリッピング関数を含み、（または１つまたは複数の）非線形関数の変数は、その値が（または１つまたは複数の）非線形関数内の変数として使用される１以上の複数の隣接サンプルの位置に依存する１以上のフィルタ変数をさらに含み、前記情報を提供することはビットストリーム内に１以上のクリッピングパラメータを提供することを含み、位置に関するフィルタ変数がゼロである場合、その位置における隣接サンプルの隣接サンプル値に適用されるクリッピング関数とともに使用されるクリッピングパラメータはビットストリーム内に提供されない。適切には、この方法は、複数の利用可能な関数から、非線形関数または１以上のクリッピング関数を選択すること、符号化画像を処理するときに選択された関数を使用すること、選択された関数を識別するための情報をビットストリーム内に提供することをさらに含む。

本発明の第１５の態様によれば、１以上の画像を復号する方法が提供され、この方法は、画像の１以上の部分について、第１２の態様の方法に従ってフィルタを制御すること、または第１３の態様の方法に従って処理することを含む。
好適には、方法は、ビットストリームを受信すること、画像を得るために受信したビットストリームから情報を復号すること、得た画像を処理することをさらに含み、この処理することは、第１２の態様の方法による制御、または第１３の態様の方法による処理を含む。適切には、（第１３の態様に依存する場合）方法は、ビットストリームから前記情報を得ることをさらに含む。適切には、非線形関数は１以上のクリッピング関数を含み、（または１以上の）非線形関数の変数はその値が（または１以上の）非線形関数の変数として使用される１以上の隣接サンプルの位置に依存する１以上のフィルタ変数をさらに含み、位置に関するフィルタ変数がゼロである場合、クリッピング関数はその位置における隣接サンプルの隣接サンプル値に適用されない。適切には、本方法は、ビットストリームから、複数の利用可能な関数から、非線形関数または１以上のクリッピング関数を識別するための情報を得ること、得たた画像を処理するときに識別された関数を使用することをさらに含む。

本発明の第１６の態様によれば、デバイスが提供される。このデバイスは、第１２の態様または第１３の態様の方法を実行するように構成されたコントローラと、第１４の態様の方法を実行するように構成されたエンコーダ、又は、第１５の態様の方法を実行するように構成されたデコーダとを備える。

本発明の第１７の態様によれば、画像の１つまたは複数の部分のためのフィルタを制御するためのデバイスが提供され、デバイスは、第１２の態様または第１３の態様の方法を実行するように構成されたコントローラを備える。

本発明の第１８の態様によれば、画像を符号化するデバイスが提供される。このデバイスは、第１７の態様の制御装置を備える。適切には、デバイスは第１４の態様の方法を実行するように構成される。

本発明の第１９の態様によれば、画像を復号するデバイスが提供される。このでデバイスは、第１７の態様の制御装置を備える。適切には、このデバイスは、第１５の態様の方法を実行するように構成される。

本発明の第２０の態様によれば、プログラムが提供される。このプログラムは、コンピュータまたはプロセッサ上で実行されるときに、コンピュータまたはプロセッサに、第１の態様、第２の態様、第３の態様、第４の態様、第５の態様、第６の態様、第７の態様、第８の態様、第１２の態様、第１３の態様、第１４の態様、または第１５の態様による方法を実行させるプログラムが提供される。

本発明の第２１の態様によれば、第２０の態様に係るコンピュータプログラムを記憶したコンピュータ読み取り可能な記憶媒体が提供される。

本発明の第２２の態様によれば、第７の態様または第１４の態様による方法を使用して符号化され、ビットストリームによって表される、画像のための情報データセットを搬送する信号が提供され、この画像は再構成可能なサンプルのセットを含み、各再構成可能なサンプルはサンプル値を有する。情報データセットは、第１の再構成可能なサンプルの隣接サンプルのサンプル値に基づいて第１の再構成可能なサンプルに対するフィルタリングを制御するための制御データを含む。

本発明の前述の態様について、以下の特徴が、本発明の実施形態に従って提供されてもよい。好適には、非線形関数は、クリッピング関数、鋸歯カーネル関数、三角形カーネル関数、またはガウスカーネル関数のうちの１つまたは複数を含む。適切には、非線形関数が１以上のクリッピング関数を含み、１つ以上のクリッピング関数の各々は、ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ））、ｍｉｎ（ｂ、ｍａｘ（－ｂ，ｄ））、ｍａｘ（ｃ－ｂ，ｍｉｎ（ｃ＋ｂ，ｄ））、ｍｉｎ（ｃ＋ｂ，ｍａｘ（ｃ－ｂ，ｄ））、ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ１＋ｄ２））、ｍｉｎ（ｂ，ｍａｘ（－ｂ，ｄ１＋ｄ２））、ｍａｘ（２＊ｃ－ｂ，ｍｉｎ（２＊ｃ＋ｂ，ｎ１＋ｎ２））、または、ｍｉｎ（２＊ｃ＋ｂ、ｍａｘ（２＊ｃ－ｂ，ｎ１＋ｎ２））のうちの１つであり、ここで、ｃは第１のサンプル値であり、ｎまたはｎ１又はｎ２は隣接サンプル値であり、ｄ＝ｎ－ｃ、ｄ１＝ｎ１－ｃ、ｄ２＝ｎ２－ｃ、ｄ２＝ｎ２－ｃであり、ｂはクリッピングパラメータである。適切には、（複数の）変数は（数学的）非線形関数の独立変数であり、非線形関数の出力はその従属変数である。適切には、隣接サンプルの位置は、第１のサンプルの位置からの相対距離または相対変位として定義される。適切には、隣接するサンプルの位置は（ラスタ）走査順序におけるその位置として定義される（適切には（ラスタ）走査順序における第１のサンプルの位置に対して）。適当には、アダプティブループフィルタは、非線形関数を使用するフィルタリングを行う。適切には、非線形関数の出力は、アダプティブループフィルタの入力（または入力パラメータ）として使用される。適切には、１以上の入力（パラメータ）にアダプティブループフィルタを適用することは、その変数として１以上の入力（パラメータ）を有する線形関数を使用することを含む。適切には、アダプティブループフィルタはＶＴＭ３．０に規定されている通りである。

本発明のさらに別の態様はコンピュータまたはプロセッサによって実行されるときに、コンピュータまたはプロセッサに前述の態様の方法のいずれかを実行させるプログラムに関する。プログラムは、それ自体で提供されてもよく、またはキャリア媒体上で、キャリア媒体によって、またはキャリア媒体内で搬送されてもよい。キャリア媒体は非一時的であってもよく、例えば、記憶媒体、特にコンピュータ可読記憶媒体であってもよい。搬送媒体はまた、一時的なもの、例えば、信号または他の伝送媒体であってもよい。信号は、インターネットを含む任意の適切なネットワークを介して送信されてもよい。

本発明のさらに別の態様は、前述のデバイス態様のいずれかによるデバイスを備えるカメラに関する。本発明のさらに別の態様によれば、前述のデバイス態様のいずれかによるデバイスおよび／または前述のカメラ態様を具現化するカメラを備えるモバイルデバイスが提供される。

本発明の一態様における任意の特徴は、任意の適切な組み合わせで、本発明の他の態様に適用されてもよい。特に、方法の態様は、装置の態様に適用されてもよく、逆もまた同様である。さらに、ハードウェアで実施される特徴は、ソフトウェアで実施されてもよく、その逆も可能である。ここに記載されたソフトウェアおよびハードウェアの機能についての言及は、すべて適宜解釈される必要がある。本明細書に記載されるような任意の装置特徴は、方法特徴として提供されてもよく、逆もまた同様である。本明細書で使用されるように、手段＋機能特徴は、適切にプログラムされたプロセッサおよび関連するメモリなど、それらの対応する構造に関して代替的に表現されてもよい。また、本発明の任意の態様において説明され、定義された様々な特徴の特定の組合せは、独立して実装および／または供給および／または使用されることができることを理解されたい。

ここで、本発明の実施形態を、単なる例として、以下の図面を参照して説明する：
ＶＴＭ－３．０の典型的な復号ループにおいてＡＬＦが行われる場合を示す図。 ＡＬＦのＶＴＭ－３．０に存在するシンタックス要素の概略を示すフローチャート。 本発明の一実施形態による、クロマ成分をフィルタリングするためのステップを示すフローチャート。 本発明の一実施形態によるクロマフィルタのためのフィルタ形状および係数配置を提供する図。 本発明の一実施形態による、ルマ成分をフィルタリングするためのステップを示すフローチャート。 本発明の一実施形態によるルマフィルタのフィルタ形状および４つの可能な係数アレンジメントを提供する図。 本発明の一実施形態による修正シンタックス要素の概略を示すフローチャート。 ＶＴＭ－３．０におけるＡＬＦにおける線形フィルタのブロック図。 本発明の一実施形態による非線形フィルタのブロック図。 本発明の一実施形態による、図７のフィルタの非線形部分がディスエーブルされたときに得られる線形フィルタのブロック図。 本発明の一実施形態によるＡＬＦ符号化プロセスを示すフローチャート。 本発明の実施形態による符号化方法のステップを示すフローチャート。 本発明の実施形態による復号方法のステップを示すフローチャート。 本発明の１つまたは複数の実施形態を実施することができるデータ通信システムを概略的に示すブロック図。 本発明の１つまたは複数の実施形態を実施することができる処理装置の構成要素を示すブロック図。 本発明の１つまたは複数の実施形態を実施することができるネットワークカメラシステムを示す図。 本発明の１つまたは複数の実施形態を実施することができるスマートフォンを示す図。 本発明の実施形態によるクリップ位置の数を減らした７ｘ７のダイヤモンドフィルタ形状を提供する図。 本発明の実施形態によるクリップ位置の数を減らした５ｘ５のダイヤモンドフィルタ形状を提供する図。

以下に説明する本発明の実施形態は、画像の符号化及び復号の改善に関する。

この明細書において、「シグナリング」がフィルタを制御するための１つ以上のパラメータに関するビットストリーム情報、例えば、モード／方式または他のフィルタ制御関連情報の使用、不使用、有効化、または無効化のためのビットストリーム情報への挿入（符号化における提供／包含／符号化）または抽出／取得（復号）を参照することができる。

この明細書において、「スライス」という用語は、画像部分の例として使用される（このような画像部分の他の例がタイル又はタイルグループであり、これはタイルのグループ／設定である）。本発明の実施形態はスライスの代わりに、画像部分（例えば、タイル又はタイルグループ）と、画像部分／タイル／タイルグループのヘッダ（スライスヘッダの代わりに）、画像部分／タイル／タイルグループのタイプ（スライスタイプの代わりに）、及び画像部分／タイル／タイルグループの統計値（スライス統計値の代わりに）のような適切に修正されたパラメータ／値／シンタックスとに基づいて実施されてもよいことが理解される。本発明の実施形態では、スライスヘッダまたはシーケンスパラメータセット（sequence parameter set:ＳＰＳ）の代わりに、適応パラメータセット（ＡＰＳ）またはタイル（グループ）ヘッダを使用して、ＡＬＦパラメータ（またはＡＬＦフィルタリングを使用するための情報）をシグナリングすることもできることも理解されたい。ＡＰＳがＡＬＦパラメータ（またはＡＬＦフィルタリングを使用するための情報）を信号送信するために使用される場合、スライスヘッダまたはタイルグループヘッダを使用して、たとえば、適応セット識別子（ＡＰＳ＿ｉｄ）を示すことによって、ＡＬＦパラメータ（またはＡＬＦフィルタリングを使用するための情報）を取得するためにどのＡＰＳを使用する必要があるかを示すことができる。また、スライス、タイルグループ、タイル、コーディングツリーユニット（ＣＴＵ）／最大コーディングユニット（ＬＣＵ）、コーディングツリーブロック（ＣＴＢ）、コーディングユニット（ＣＵ）、予測ユニット（ＰＵ）、変換ユニット（ＴＵ）、またはピクセル／サンプルのブロックのいずれかを画像部分と呼ぶことができることも理解される。

フィルタまたはツールが「アクティブ」と記述される場合、フィルタ／ツールは「利用可」または「使用可能」または使用されることを示し、「非アクティブ」と記述される場合、フィルタ／ツールは「利用不可」または「使用不可」または使用されないことを示し、「クラス」は１つまたは複数の要素のグループ、グループ化、カテゴリ、または分類を指す。さらに、フラグが「アクティブ」と記述される場合、そのフラグが、関連するフィルタ／ツールが「アクティブ」であることを意味することも理解される。

アダプティブループフィルタ(Adaptive Loop Filter)（ＡＬＦ）
図１は、ＶＴＭ－３．０の典型的な復号ループにおいてＡＬＦが行われる場合を示している。１０１において、画像部分（例えば、スライス）は、符号化ツリー単位（ＣＴＵ：ＶＶＣにおける最大の符号化単位、典型的には１２８×１２８サンプル／ピクセルサイズ）で復号される。ＣＴＵは、特定の予測スキーム／モードを使用して符号化され、多くの場合、残差ブロックの非可逆符号化を使用して符号化される矩形ブロックまたは符号化ユニット（ＣＵ）に分割される。ブロックベースの符号化の使用により、符号化されたブロック間の境界でブロッキングアーチファクトが見えることがある。１０２において、復号された画像部分は次に、ＤＢＦによって処理されて、これらのアーチファクトが低減／除去される。典型的にはブロック予測のための残差（ブロック）を符号化するために、残差値はＤＣＴのような変換を用いて（残留エネルギーを少数の係数で圧縮するために）変換され、変換された係数は符号化コストを低減するために量子化される。この量子化はしばしば、再構成されたブロック（すなわち、フレームバッファ１０６に記憶された参照フレーム内のブロック）に幾つかのリンギングアーチファクトを導入する。１０３において、ＤＢＦの出力画像部分は、次いで、ＳＡＯフィルタによって処理される。これは低計算コストでこれらのアーチファクトのいくつかを低減するのに有用である。１０４では、ＳＡＯフィルタの出力画像部分がＡＬＦによって処理される。ＡＬＦは、例えば、「リンギング」のようなアーチファクトをさらに低減することができる。ＡＬＦはより高次の誤差モデリング能力を有するが、より高い計算コストとなる。ＡＬＦの出力画像部分は、その後、出力（例えば、表示部または表示部と通信するための通信インターフェース）１０５に送られる。それは時間予測（時間予測ツールが使用される場合）のために使用することができるように、（そこに格納された参照フレームの一部として）フレームバッファ１０６に入れることもできる。これが、ＤＢＦ、ＳＡＯフィルタ、およびＡＬＦが「ループ内」フィルタと呼ばれる理由である。エンコーダはインループフィルタのいくつかをディスエーブルにして、デコーディング時にそれらがバイパスされるようにすることができる（すなわち、フィルタリングが実行されず、ディスエーブルにされたツールに対応するステップの出力がその入力と同じである）。また、いくつかの場合、処理される画像部分は、スライスに限定されず、１つまたは複数のスライスを含むフルフレームであってもよく、スライス境界（２つ以上存在する場合）を横切ってフィルタを適用して、それらの境界上のアーチファクトを低減する可能性がある。多成分画像（例えば、ＹＣｒＣｂフォーマットの画像）の場合、ＤＢＦ、ＳＡＯフィルタ、またはＡＬＦ処理は各成分に個別に、場合によっては異なるように（例えば、他の成分に対して異なるフィルタリングパラメータを使用して）適用される。

図２は、ＡＬＦのためのＶＴＭ－３．０に存在するシンタックス要素の概要を示す。シーケンスパラメータセット（ＳＰＳ） は、ＡＬＦ ツールがビデオシーケンス（２０１） に対してアクティブであるかどうかを示し、もしそうなら、スライスヘッダはＡＬＦ がスライス（２０２） に対してアクティブかどうかを示し、ＡＬＦ を制御するためのフィルタパラメータ（２０３ ～２０７） を提供する。２０２においてＡＬＦがアクティブであるとき、それは少なくともルマ（Ｌｕｍａ）成分に対してアクティブであり、スライスヘッダはさらに、ＡＬＦが各クロマ（Ｃｈｒｏｍａ）成分に対してアクティブであるかどうかを示す（２０３）。

ＡＬＦは、１つのルマ成分上で２つ以上のフィルタを使用することができる。すなわち、異なるフィルタ構成が同じフィルタ係数（後述）を共有することができるので、フィルタ係数の複数のテーブルを使用することができる。ＶＴＭ‐３．０ソフトウェアの構文要素スキームでは、これらの異なるフィルタ構成は個別に区別できず、異なる構成を持つフィルタが同じフィルタと見なされる。以下の説明では、係数の異なるテーブルを明示的に参照する場合を除いて、単一のフィルタに対する同じ参照が使用される。シンタックス要素スキームにおける単一のフィルタのこの共有は、フィルタリングされた画像上の統計が回転された直交および／またはミラー構成について同じであること、すなわち、基準サンプル構成のために設計された１つの基準フィルタが直交および／またはミラーサンプル構成をフィルタリングするために回転および／またはミラーリングされるように指定されることを考慮することによって、フィルタに割り当てられるビット数を低減する効果的な方法である。スライスヘッダは、符号化されたルマフィルタの数（２０４）を含む（これは一つ以上である）。

ルマ（Ｌｕｍａ）サンプルをフィルタリングするとき、ＡＬＦは（隣接するサンプルの構成に従って）サンプルを２５の可能なクラス（カテゴリ／分類／グループ）のうちの１つに局所的に分類（カテゴリ化）し、（その特定のクラス／カテゴリ／分類／グループに関連付けられる／割り当てられる）フィルタを選択し、それらのサンプルに局所的に適用する。ここでは、サンプルがブロック単位（典型的には４×４サンプル、例えばＶＴＭ－３．０）又はＣＵ単位で処理されるので、「局所的に」分類、及び「局所的に」適用、という用語が使用される。選択／選択されたルマフィルタは、選択されたルマフィルタを識別するためのインデックス／情報などを使用して、ビットストリームでシグナリングされる。符号化プロセス中に使用されるルマフィルタの数が１より多い場合、スライスヘッダはこれらのルマフィルタを識別／選択するための１つまたは複数のインデックス（例えば、２５個のクラスに使用される２５個までのフィルタのインデックス、各インデックスは、これらのクラスのうちの１つに使用されるルマフィルタに対応する）も含む（２０５）。符号化処理で使用されるルマフィルタの数が１である場合、この単一のルマフィルタが全てのクラスに適用される。

次に、スライス・ヘッダは、ルマフィルタ（２０６）の各々についての全てのフィルタ係数（またはフィルタ・パラメータ）（すなわち、符号化プロセス中に使用されるルマフィルタの各々についての係数テーブル）と、それに続くクロマ（Ｃｈｒｏｍａ）フィルタ（２０７）についてのフィルタ係数とを含む。ＶＴＭ－３．０では、２つのクロマ成分が両方のクロマ成分に対してＡＬＦがアクティブ（すなわち、イネーブル）であるとき、同じクロマフィルタを共有することに留意されたい。

ＡＬＦがアクティブであるとき、ＡＬＦがアクティブである成分の各々について、フィルタリングはＣＴＵごとにイネーブルされ得る。符号化されたビットストリームの内部では、各ＣＴＵについて、符号化されたスライスデータはＡＬＦがアクティブである各成分ごとに、そのＣＴＵの成分（２０８、２０９、および２１０）上でＡＬＦがイネーブルされているかどうか、およびそのＣＴＵのその成分のサンプルがＡＬＦを使用してフィルタリングされなければならないかどうかを示すために、１つのエントロピー符号化されたフラグを含む。このフラグは、コンテキスト適応のバイナリ算術符号化（ＣＡＢＡＣ）を使用して符号化される。

ＶＴＭ－３．０では、ルマフィルタ２０６の係数のシグナリングは以下のように実行される：
［１］ “ａｌｆ係数デルタフラグ(alf coefficients delta flag）”が最初にシグナリングされる。このフラグは、いくつかのフィルタをディスエーブルすることができるかどうかを示す。「ａｌｆ係数デルタフラグ」がゼロであり、ルマフィルタの数が１より大きい場合、「ｃｏｅｆｆデルタ予測モードフラグ(coeff delta pred mode flag)」がシグナリングされ、フィルタ係数エンコードが予測（prediction)を使用することを示す（より詳細は後述）。
［２］ ＶＴＭ－３．０では、（ｅｘｐ－）Ｇｏｌｏｍｂ符号化を使用してルマ係数を符号化するために、３（２ for Chroma)(exp－）Ｇｏｌｏｍｂ構成を使用する。（ｅｘｐ－）Ｇｏｌｏｍｂ符号化の唯一のパラメータは、（ｅｘｐ－）Ｇｏｌｏｍｂ 次数((order)しばしば「ｋ」と記される）である。各構成には（ｅｘｐ－）Ｇｏｌｏｍｂ インデックス(index)がある。フィルタ係数の（ｅｘｐ-）Ｇｏｌｏｍｂ符号化のパラメータは、（ｅｘｐ－）Ｇｏｌｏｍｂ符号の「最小次数」のための可変長符号（ＶＬＣ）を使用してシグナリングされ、次いで、各（ｅｘｐ－）Ｇｏｌｏｍｂインデックスのために、（ｅｘｐ－）Ｇｏｌｏｍｂ次数がそのインデックスおよび次のインデックスのために増加されなければならない場合（第１のインデックスのための「最小次数」で開始する）をシグナリングするためのフラグがシグナリングされる。
［３］ その後、“ａｌｆ係数デルタフラグ”がいくつかのフィルタが有効であることを示す場合、フィルタが無効であるかどうか（つまりコーディングされていないかどうか）を示すフラグがフィルタごとにシグナリングされる。
［４］ 次に、フィルタ係数が、（ｅｘｐ－）Ｇｏｌｏｍｂパラメータを記憶するテーブルから（固定テーブル内の）フィルタ係数インデックスに関連する（ｅｘｐ－）Ｇｏｌｏｍｂインデックスで取られた（ｅｘｐ－）Ｇｏｌｏｍｂ次数を有する（符号付き整数のための）ｅｘｐ－）Ｇｏｌｏｍｂコードを使用して、各（ディスエーブルされていない）フィルタについてシグナリングされる。

“ｃｏｅｆｆデルタ予測モードフラグ(coeff delta pred mode flag)”がシグナリングされる場合、フィルタ係数エンコードが予測（prediction）を使用することを示す。これは、１以上のフィルタインデックス（すなわち、各フィルタを識別するインデックス）を有する「現在の」フィルタのフィルタ係数が「現在の」フィルタのフィルタ係数と以前に処理されたフィルタのフィルタ係数との間の差として符号化される（例えば、フィルタ係数予測子として以前に処理されたフィルタのフィルタ係数を使用して、すなわち、予測を使用して、フィルタ係数残差値としてエンコードされる）ことを意味する。第１のフィルタ（フィルタ・インデックス０を有する）は、予測なしに符号化される。

クロマフィルタ２０７の係数のシグナリングは、「ａｌｆ係数デルタ・フラグ（alf coefficients delta flag)」がなく、「ｃｏｅｆｆデルタ予測モードフラグ」がなく、３つの代わりに２つの（ｅｘｐ-）ゴロム・インデックスがあることを除いて、ルマフィルタと同様に実行される。

図３－ａは、本発明の一実施形態によるクロマ成分をフィルタリングするためのステップを示すフローチャートであり、図３－ｂは、本発明の一実施形態によるクロマフィルタのためのフィルタ形状および係数配置を提供する。

図３－ａにおいて、ＡＬＦフィルタリングがＬｕｍａ成分とＣｈｒｏｍａ成分との間で異なって適用される。簡単な場合から始める場合、図３－ａは、クロマ成分をフィルタリングするための主要なステップを提供する。入力画像部分３０１（例えば、タイル又はタイルグループ）は、フィルタリングされるべきクロマサンプルを含む。入力フィルタリングパラメータ３０２は、図２のＡＬＦシンタックス要素を参照して説明したＡＬＦパラメータ（例えば、“ＡＬＦ係数デルタフラグ”、“ｃｏｅｆｆデルタ予測モードフラグ”、フィルタ係数、またはＡＬＦの任意の他のフラグまたはフィルタパラメータ）を含む。クロマフィルタの符号化フィルタ係数を使用し、３０３にて、クロマフィルタが導出／取得される。

変形例では、クロマフィルタがサイズ５×５、すなわち高さ５サンプル、幅５サンプルのダイヤモンド形状／パターン／マスク／支持体を有する（図３－ｂの３０６参照）。Ｃｈｒｏｍａフィルタのフィルタ係数は、「Ｃｈｒｏｍａ」フィルタの中心に対して対称になるように整理されている。このＣｈｒｏｍａ フィルタには６つの符号化フィルタ係数があり、０ ～ ５ の番号のインデックスが付いている。この係数は図に示す対応する係数位置に配置されている。インデックス番号の上付き記号（“＋”または“－”）は同じフィルタ係数を共有する異なる係数位置間で区別できるように提供され、すなわち、２つの対称な（同じフィルタ係数を共有するという意味で）隣接するものを参照するとき、ｉ⁺は、（ラスタ）走査順序でフィルタリングされるサンプルの後に（すなわち、フィルタ形状／パターン／マスク／サポートの中心で）符号化／復号化／処理／記憶／アクセスされるインデックスｉに対応し、ｉ^-は（ラスタ）走査順序でフィルタリングされるサンプルの前に符号化／復号化／処理／記憶／アクセスされるインデックスｉを有する隣接するサンプルに対応する。クロマフィルタ形状の中心に対する７番目の係数（指数番号６を有する係数位置）は、他のフィルタ係数から推定／導出される。７番目の係数の値は、固定小数点演算（ｗ_i＝インデックスｉのフィルタ係数）で評価される値、１－２．Σ_i＜6ｗ_iに等しい。すなわち、係数位置０～５に対する全てのフィルタ係数の和を、１から２倍（対称性のため）引いたものに等しい。したがって、７番目の係数を含む菱形のすべての係数の合計は、左側７ビットシフトが適用される１である（１＜＜７）。ここで、７は符号化されたフィルター係数のビット精度から固定小数点演算のための１を引いたものである。これが、"フィルタ係数の総数から１を引いたもの"の半分だけが、ビットストリーム内で符号化されるフィルタ係数の数である理由である。

ＡＬＦがアクティブである（すなわち、適用される）各クロマ成分サンプルについて、ステップ３０４におけるフィルタリングは、出力画像部分３０５を得るために以下のように実行される。入力画像部分の現在のサンプルごとに、
- 現在のサンプルがＣＴＵに属し、ＡＬＦがイネーブルされている場合、および（現在のサンプルがダイヤモンド形状の中心に配置されている）クロマフィルタのダイヤモンド形状における係数位置のためのフィルタ係数を得るために必要な現在のサンプルの隣接するサンプルが利用可能である場合（例えば、画像の境界上の境界拡張を使用して、またはスライスの境界上で利用可能である場合には隣接するスライスサンプルを使用して）、位置（ｘ，ｙ）における現在のサンプルI（ｘ、ｙ）と同じ位置における出力フィルタリングされたサンプルは、

に等しい。
ここで、ｉとｊはフィルタ形状（すなわち、現在のサンプルの位置（ｘ，ｙ））の中心に対する２つの整数オフセット（水平および垂直）である。ｗ（ｉ，ｊ）はオフセット（ｉ，ｊ）におけるフィルタ係数である。Ｎ＝７は、オフセット（ｉ，ｊ）におけるフィルタ係数ｗ（ｉ，ｊ）の表現において使用される実数（固定小数点表現）の小数部の整数近似のためのビット数である。Ｉ（ｘ＋ｉ、ｙ＋ｊ）は現在のサンプル位置（ｘ、ｙ）に対するオフセット（ｉ，ｊ）における入力サンプル値である。Ｏ（ｘ，ｙ）は、位置（ｘ、ｙ）に対する出力フィルタリングされたサンプル値である。ａ＜＜Ｎは、Ｎビット左へのビットシフトを、整数値ａに適用されることを示す。これは、整数を２のＮ乗倍することと等価である。ａ＞＞Ｎは、Ｎビット右へのビットシフトを、整数値ａに適用されることを示す。ここで、式（１）の括弧内の和の結果はほとんどの場合正であるため、Ｎのべき乗を２で整数除算することと等価である。負の数については、負の数が負（少なくとも－１）のままとなるように右シフトすると符号が伝播する。ＡＬＦの出力は一般に、０から２のビットの付加さの累乗から１を引いた値の間でクリップされるので、非整数部分はない。Ｎ＝７は、ＡＬＦ演算のためにＶＶＣに固定された小数精度を提供するが、他の実施形態では他の値を使用することができる。右シフト＞＞Ｎを実行する前の加算（１＜＜（Ｎ－１））の効果は、スカラー積の固定小数点結果の丸めである。
- そうでなければ、現在のサンプル値をそれと同じ位置で（すなわち、このＡＬＦを適用せずに）出力する。

本実施形態の変形例によれば、フィルタを実装しながら行われる乗算演算の回数を減らし、表記を簡略化するために、中心に関して対称なフィルタ形状を有するＡＬＦフィルタについて、式（１）を次のように再定式化することができる。

ここで、Ｏ_nは、ラスタ走査順序インデックス／位置ｎにおける出力サンプルである。ラスタ走査順序インデックスｎによって、我々は、サンプルインデックスはサンプルの行において左から右に増加し、次いで、上から下に増加することを意味する。Ｉ_n ^cは、出力サンプルと同じ位置における入力サンプルである（かつ、フィルタの中心における入力サンプルの位置に対応する）。Ｉ_n ^i-は、ｎ未満のラスタスキャン順における、フィルタのフィルタ形状／パターン／マスク／サポートにおけるＩ_n ^cの第ｉ番目（ラスタ走査順序において）の隣接入力サンプルである。Ｉ_n ⁱ⁺は、Ｉ_n ^cのフィルタの中心位置の周りのＩ_n ^i-鏡像空間位置における隣接入力サンプルである。従って、中心に関して対称である形状は、Ｉ_n ^i-がフィルタの形状／パターン／マスク／サポート内にあるとき、Ｉ_n ⁱ⁺はフィルタの同じフィルタ形状／パターン／マスク／サポート内にあることを意味する。ｗ_iは、隣接する入力サンプルＩ_n ^i-及びＩ_n ⁱ⁺に関連するフィルタ係数である。ｗ_cは、中心入力サンプルＩ_n ^cに対するフィルタ係数であり、ｃは符号化されたフィルタ係数の数である（これは、その隣接するフィルタ係数から評価できるので符号化されない中心フィルタ係数に対するインデックス値と同じである）。値ｉ及び関連する位置Ｉ_n ^i-、Ｉ_n ⁱ⁺は、図３－ｂのフィルタ形状３０６における、インデックス値及び上付き符号（“＋”又は“－”）付きインデックス値に対応し、例えば、フィルタ形状の中心のフィルタ係数のインデックスｃは、ｉ＝ｃ＝“６”である。

図４－ａは本発明の一実施形態によるルマ成分をフィルタリングするためのステップを示すフローチャートであり、図４－ｂは、本発明の一実施形態によるルマフィルタのフィルタ形状、および、４つの可能な係数配列を提供する。

図４－ａは、ルマ成分のフィルタリングプロセスの主要なステップを示す。入力画像部分４０１は、フィルタリングされるルマサンプルを含む。入力フィルタリングパラメータ４０２は、図２のＡＬＦシンタックス要素を参照して説明されたＡＬＦパラメータ（例えば、“ＡＬＦ係数デルタフラグ”、“ｃｏｅｆｆデルタ予測モードフラグ”、フィルタ係数、またはＡＬＦのための任意の他のフラグまたはフィルタパラメータ）を含む。フィルタリングの前に、画像部分の内容が４０３で分析される。この解析の主な目的は、局所的なコンテンツの向きおよびアクティビティのレベルの決定を許可／可能にすることである（ステップ４０５参照）。これは、コンテンツが均質であるか、又は何らかの鋭い変化（おおよそコンテンツの強度又はコントラスト）を有するか、及びコンテンツが（例えば、エッジ又は配向されたテクスチャに基づいて）支配的な配向を有するか、及びその支配的な配向がどの配向であるかのローカル推定／評価を許可／可能にする。例えば、ＶＴＭ－３．０において、この分析は、水平および垂直（すなわち、サンプルの４分の１）の２つのサンプル毎に４つの方向（水平、垂直、および２つの対角線）について計算されたラプラシアン値を使用する局所勾配分析を含む。入力画像部分のサンプルをブロック４０４（例えば、ＶＴＭ－３．０における４×４サンプル）に分割し、分析の結果を使用することによって、ステップ４０５において、各ブロックは２５の可能なクラスのうちの１つに分類され、各クラスはブロック内のサンプルについて計算されたラプラシアン値に従って、インデックスを使用して識別可能である（すなわち、ブロックは２５のカテゴリ／分類／グループのうちの１つに分類される）。例えば、ＶＴＭ－３．０では、それは１６のラプラシアン値（４つのサンプル上の４つの向き）を使用することに対応する。この分類は指向性の強さのアクティビティの分割を達成し、斜め方向から水平方向と垂直方向を解離する。また、ステップ４０５において、各ブロックは転置インデックスに関連付けられる。この転置インデックス（例えば、“ｔｒａｎｓｐｏｓｅＩｄｘ”）は、コンテンツの向きを完全に表す／示すために、分類に対する相補的／追加的な情報として見ることができる。４つの可能な転置インデックスがある。ブロックのクラスが、そのブロックが水平または垂直のいずれかであることを示す場合、転置インデックスは、更に、向きが北から南、東から西、西から東、または南から北であるかどうかを示す。ブロックのクラスが、そのブロックが対角線であることを示す場合、転置インデックスは、更に、向きが北西から南東、北東から南西、南西から北東、または南東から北西のいずれであるかをさらに示す。

クラスインデックスおよび転置インデックスは、所与のサンプルのブロックに対するアダプティブループフィルタパラメータとして見ることができる。ステップ４０６では、これらのパラメータを用いて、ブロックのサンプルの各々をフィルタリングするために使用されるルマフィルタを導出する。図２を参照して前述したように、４０２において、各クラスは、ルマフィルタの係数テーブルのインデックスに関連付けられる。４×４ブロックのルマフィルタを導出するために、転置インデックスは、図４－ｂに示される４つの形状／パターン４０９、４１０、４１１、または４１２のうちの１つを選択することを許容／可能にする。パターンは（例えば、スキャン（ｎｉｎｇ）順序に基づいて）符号化されたフィルタ係数をどのように編成してルマフィルタを構築するかを示し、これは、２０４～２０６についての説明で説明したように、ブロックのクラスに関連付けられる。ルマフィルタには、サイズ７×７ のダイヤモンド形状がある。各ルマフィルタに対して１２個の符号化されたフィルタ係数（インデックス番号０～１１）がある。フィルタ形の中心に対する１３番目の係数（指数１２）は、上述のクロマフィルタの中心係数に対するのと同じ方法で、他のフィルタ係数から推定／導出される。

出力画像部分４０８を得るためのステップ４０７におけるフィルタリングは、フィルタリングがクロマフィルタによって実行されたのと同じ方法で、すなわちサンプルの各現在のブロックに対して実行されたのと同じ方法で実行され、現在のブロックに対して４０６において導出され／取得されたルマフィルタは現在のブロックの各現在のサンプルに適用される。

ルマサンプルをフィルタリングするとき、向きベース分類（クラス）および関連する転置（ｔｒａｎｓｐｏｓｅＩｄｘ）のために、各クラスについて最適なＡＬＦフィルタ（すなわち、局所的な向き、例えば、局所的な勾配に基づいて選択される“向きベースフィルタフィルタ（orientation based filters）”、特に高い活動（例えば、高い局所的な勾配）を有するものは、向きフィルタになる傾向がある。最も低いアクティビティを有する領域、すなわち、局所勾配が比較的小さいクラスに属するブロックを有する領域では、そのような向きはあまり顕著ではなく、そのようなブロックに対する向きベースフィルタは向きフィルタではない傾向がある。

向きベースフィルタは、エッジのシャープさにあまり影響を与えずに、エッジ周辺をフィルタリングするのに適している。以下に説明するように、クラスは、フィルタのシグナリングコストを低減するために一緒にグループ化することができる。クラスのこのグループ化を用いても、フィルタ最適化は一般に、方向付けられたフィルタを得ることにつながる。このような向きベース（ＡＬＦ）フィルタでは、局所勾配が水平方向に沿っている場合、フィルタの向きは一般に垂直である（すなわち、最も高い係数（絶対値で）は一般に、中央の上下の位置にあり、一方、左側及び中央の右側の係数は一般に、ゼロに近くなる）。同様に、局所勾配が垂直方向に沿っている場合、フィルタの向きは一般に水平であり、局所勾配が、斜め方向に沿っている場合、フィルタの向きは一般に、局所勾配のその斜め方向に垂直である方向に沿っている。

ＶＴＭ－３．０においてクロマサンプルをフィルタリングするとき、ルマサンプルフィルタリングとは対照的に、分類が使用されない（およびクロマはしばしば滑らかである）ので、使用されるフィルタは一般に、すべての方向に対してより応答性があり、向きフィルタではない（または無期ベースフィルタではない）。

図３－ｂ及び図４－ｂの両方のフィルタ形状は、中心画素に関して対称である。この対称性は、ＶＴＭソフトウェアにおけるＡＬＦの設計において選択されているが、実施形態の変形形態では非対称形状も使用することができる。次に、１３個の入力サンプルについて７個の係数を共有する代わりに、図３－ｂと同じフィルタサポート／マスクに対して最大１３個の係数を使用することができた。そして、２５の入力サンプルについて１３の係数を共有する代わりに、図４－ｂと同じフィルタサポート／マスクに対して最大２５の係数を使用することができた。他の変形例では、フィルサポート／マスクでさえ非対称である。変形例では、フィルタの形状／パターン／サポート／マスクがＡＬＦパラメータと共に伝送される。

他の変形では、フィルタ形状／パターン／サポート／マスクが、ダイヤモンド形状とは異なる。例えば、変形例では正方形であり、別の変形例では長方形であり、さらに別の変形例では六角形であり、別の変形例では八角形である。

いくつかの変形例では、フィルタ形状／パターン／サポート／マスクが全てのクラス向きについて同じではない。一変形形態では、形状が水平クラス／ｔｒａｎｓｐｏｓｅＩｄｘ向き構成のための水平矩形（例えば“－”）、垂直クラス／ｔｒａｎｓｐｏｓｅＩｄｘ向き構成のための垂直矩形（例えば“｜”）、ＮＷ－ＳＥおよびＳＥ－ＮＷクラス／ｔｒａｎｓｐｏｓｅＩｄｘ向き構成のための北-西 南-東（ＮＷ-ＳＥ、例えば“＼”）矩形、ＮＥ－ＳＷおよびＳＷ－ＮＥクラス／ｔｒａｎｓｐｏｓｅＩｄｘ向き構成のための北－東 南－西（ＮＥ－ＳＷ、例えば「／」）矩形である。他の変形形態ではフィルタ形状／パターン／サポート／マスクが水平－垂直に十字（“＋”）、対角十字（“Ｘ”）、垂直セグメント（“｜”), 水平セグメント（“－”）、左上から右下への対角セグメント（“＼”）、右上から左下への対角セグメント（“／”）、または前述のフィルタ形状／パターン／サポート／マスクの任意の組合せである。

図６は、ＡＬＦにおける線形フィルタのブロック図を提供する。これは、フィルタリングが式（１）に機能的に対応し、“Ｃ”６０１が現在のサンプルのサンプル値に対応するＩ（ｘ，ｙ）であり、“Ｓ０”６０２から“Ｓｎ”６０３は、それぞれ隣接するサンプル値Ｉ（ｘ＋ｉ，ｙ＋ｊ）に対応し、ここで（ｉ，ｊ）≠（０，０）である。“ｗＣ”６０４は現在のサンプルのフィルタ係数のｗ（０，０）に対応し、“ｗ０”６０５から“ｗｎ”６０６は、それぞれ位置（ｘ＋ｉ，ｙ＋ｊ）における隣接するサンプルのフィルタ係数のｗ（ｉ，ｊ）に対応し、ここで（ｉ，ｊ）≠（０，０である。“Ｏ”６０７はＡＬＦフィルタの出力であるＯ（ｘ，ｙ）、すなわち、現在のサンプルのフィルタリングされたサンプル値である。このプロセスは入力として、整数入力サンプル値（すなわち“Ｃ”および“Ｓ０”～“Ｓｎ”）のテーブルと、入力重みのテーブル、すなわち、固定小数点精度を有する実数の整数表現の“ｗＣ”および“ｗ０”～“ｗｎ”（またはフィルタ係数）とを取る。このテーブルは、固定小数点精度を有する実数の整数表現で、整数入力サンプル値のテーブルと同じ数の要素を有することに留意されたい。２つのテーブルは、同じ数の要素を有し、要素ごとに乗算され、これらの乗算の結果はともに合計される（すなわち、これらの２つのテーブルの要素の線形結合が得られる）。この演算の結果は、実数の固定小数点精度近似である。この固定小数点値は整数値に丸められ、結果は１つの出力サンプル値“Ｏ”になる。

エンコーダの観点から、ＡＬＦは、ウィナーフィルタ(Wiener Filter)によってインスパイアされる。ウィナーフィルタは線形フィルタ（しばしば信号／画像処理における線形畳み込みフィルタとして適用される）であり、それは、１）有限数の観測されたプロセス／変数（その入力）の線形結合である推定されたランダムプロセス／変数（その出力），２）所望のプロセス／変数（その目標、すなわちアーチファクトが発生する前の元の画像）、との間の平均二乗誤差を最小化する。信号／画像処理において、有限インパルス応答(ＦＩＲ)ウィナーフィルタは、例えば、ソース分離または雑音除去における応用を有する。画像符号化の場合、対象は元の画像（圧縮／量子化によって変更される前）であり、入力は圧縮画像からのサンプルであり、フィルタを適用することによって改善したい。

Ｘ（これは観察されたランダムプロセスの実現の入力行列であり、各列はランダムプロセスの各１つに対して１つの実現(realization)を含む）と、ｙ（これは観察されたランダムプロセスに対する所望のプロセスの実現を同じ列インデックスで含む出力行ベクトルである）の最小二乗解は、

である。
ここで、ウィナーフィルタ係数は＾Ｗに対応する。

なお、“実現”は、ランダム変数の観測または観測値、すなわち、実際に観測される値であることが理解される。

ＶＴＭ－３．０ ＡＬＦエンコーダでは、ＦＩＲウィナーフィルタ（または機能的に均等の最小二乗解決策）が使用され、ＡＬＦパラメータの符号化コスト（ＦＩＲフィルタ係数を符号化するためのコストによって主に支配される）と、符号化されたＡＬＦパラメータ（ＦＩＲフィルタ）を使用して画像をフィルタリングすることによって得られる歪みゲインとの間の、レート／歪み（Ｒ／Ｄ）の妥協点を最適化する。ＡＬＦパラメータを符号化するためのレート（すなわち、符号化コスト）を懸念しない場合、そして与えられたフレームのピーク信号対ノイズ比（ＰＳＮＲ）を最大化することが唯一の目標とする場合（時間的影響を考慮しない場合）、ウィナーフィルタは、ＶＴＭ－３．０におけるＡＬＦフィルタリング設計のための最適解を達成することを可能にするのであろう。したがって、本発明の一実施形態によるＡＬＦエンコーダは、それと共に提供される線形ＡＬＦフィルタと同じまたは類似のフィルタを使用することができる。

図９は本発明の一実施形態によるＡＬＦ符号化プロセスを示すフローチャートを示し、実施形態は図６を参照して記載されたＶＴＭ－３．０のＡＬＦを修正することによって実施される。本発明の他の実施形態によれば、他のＡＬＦは、前記他の実施形態を実施するために同じ方法で修正され得ることが理解される。

ＡＬＦ符号化プロセスは、９０１のルマサンプルの各４×４ブロックに対するクラスインデックスおよび転置インデックスを決定することによって開始する。

次に、９０２において、ウィーナーフィルタを導出するために使用される統計が抽出／取得される。これらの統計量は、式（３）におけるＸＸ^Tに対応する（自己（auto-）共分散統計量(covariance statistics)と、式（３）のＸｙ^T式に対応する相互共分散統計量(cross-covariance statistics)である。これらは、ＸＸ^T及びＸｙ^TそれぞれをＮ（Ｘの列数、すなわち、フィルタへのサンプル数）で割ることで、（自己）共分散行列および相互共分散行列を構築／取得／推定するために使用される。これら（自己)共分散行列および相互共分散行列は、各クラス、ルマ成分サンプルの各ＣＴＵ、および、各クロマ成分サンプル９０２の各ＣＴＵについて、構築／取得／推定される９０２。以下の説明では、用語“（相互）共分散行列統計”および“（相互）共分散行列”は、同じことを指すために互換的に使用される。これら２つの間の差は、“（相互）共分散行列統計”が値を累算（または合計）することによって得られるのに対し、“（相互）共分散行列”も値を累算（または合計）することによって得られるものの、その後、累算の数によって正規化される（期待値を推定するため）点であると理解される。

所与のＣＴＵ／クラス／成分に対して、Ｘは以下のように得られる。フィルタの形状は対称であると考えられるので、Ｘにおける行の数は、フィルタのフィルタ係数の数に対応する。Ｘの１つの行（最後の行）は、フィルタ形状における中心サンプルの実現（フィルタ形状の中心は所与のＣＴＵ／クラス／成分に属する）を含み、一方、インデックスｉを有する他の行は、フィルタ形状におけるインデックｉスを有する２つの対称サンプルの合計（対称サンプルは所与のＣＴＵ／クラス／成分に属するフィルタ形状の中心の近傍である）を含む。ルマ成分のサンプルの場合、転置インデックスは図４－ｂの異なる形状に従ってフィルタ形状のサンプル位置を転置するためにも使用され、その結果、Ｘの各行ｉはインデックスｉを有するフィルタの形状に属するサンプルのサンプル統計を含む。例えば、図４－ｂの形状については、Ｘ_i,jは、ｉ＜１２においては、形状におけるインデックスｉでの（ｊ番目のフィルタされたサンプル）の２つの対称隣接の合計含み、ｉ＝１２では、ｊ番目のフィルタサンプルを含む。ここで、Ｘ_i,jは、マトリックスＸの行ｉ、列ｊの値である。

ベクトルｙは、すべてのターゲットサンプル値を含む（すなわち、ｙ_iは、その圧縮前のソース／オリジナル画像におけるｊ番目のサンプルの値である）。

Ｘ行列は、実際には構築／計算されない。代わりにＸＸ^Tは、Ｘ_iＸ_i ^Tの結果を反復的に合計することで計算される。ここで、Ｘ_iは、所与のサンプル位置についてのＸの第ｉ番目の列がである。

ｙベクトルは、実際には構築／計算されない。代わりにＸｙ^Tは、Ｘ_iｙ_i ^Tの結果を反復的に合計することで計算される。ここで、ｙ_iはｙの第ｉ番目の要素であり、入力Ｘ_iを用いて、第ｉ番目のサンプルをフィルタリングするときのターゲットサンプル値に対応する。

ＶＴＭ‐３．０では、ＡＬＦエンコーダはＲ／Ｄコストの低減を試みる。このＲ／Ｄコストは、レート歪妥協のラグランジュ最適化のＤ＋λＲに等しい。ここで、Ｄはディストーション（二次誤差）で、Ｒはレートであり、λは主にＶＴＭ－３．０ のエンコーダ量子化パラメータ（ＱＰ）、スライスタイプ（イントラまたはインター）、圧縮された成分のタイプ（ルマまたはクロマ） に基づいてエンコーダによって決定される。ＡＬＦエンコーダは、まず、このラグランジュＲ／Ｄコストを最小化することによってＡＬＦパラメータの最適化を試みる。

ＡＬＦがルマ成分のコストを削減する場合、つまり、ＡＬＦがアクティブでないときの出力スライスの歪みが、ＡＬＦがアクティブなときの歪みとＡＬＦ パラメーターをシグナルするのに必要なレートのλ倍を加えた値よりも大きい場合、エンコーダはルマ成分のアクティブなＡＬＦと判断する。次に、ルマ成分に対してアクティブである場合、クロマ成分に対するＡＬＦパラメータを最適化し、それらのクロマ成分をシグナリングするＲ／Ｄコストを改善することができるかどうかを調べようとする。これに基づいて、エンコーダは、これらの成分それぞれのＡＬＦ を有効化／有効化する方が良いかどうかを判断できる。

本発明の一実施形態によれば、ＡＬＦエンコーダは、そのＡＬＦパラメータに対して同じまたは機能的に均等な最適化プロセスを実行する。このような実施形態の変形例によれば、ＡＬＦパラメータ最適化プロセスの開始時に、ＡＬＦは、すべてのＣＴＵに対してアクティブに設定される９０３。共分散行列と相互共分散行列を構築するためのスライスレベルでの統計は、ＡＬＦがアクティブ／有効な各ＣＴＵ の統計を集計することによって得られる。１つの行列はそのクラスに属するものとして分類された４×４サンプルブロックのすべてのサンプルについて得られた統計を使用して、ルマ成分についての各クラスについて計算され９０４，１つの行列はクロマについての２つのクロマ成分の統計を集約（合計）することによって計算される９１２。

ルマのフィルタ最適化処理は、クラスを結合／マージするための２５グループのフィルタを検索する、すなわち、２５個のフィルタの第１のグループ、２４個のフィルタの第２のグループ、そして、１つのフィルタの最後のグループ（フィルタの可能な数ごとに１つのグループ）まで探すことで開始する９０５。エンコーダは各クラスに対して１ つのフィルタから始まる（そのため、合計で２５ 個のフィルタ）。これはそのクラスのブロックのサンプルの共分散と相互共分散から計算されるウィナーフィルタである。これは、２５個のフィルタの第１のグループである。それは、フィルタを一緒にマージすることによって、すなわち、フィルタの関連するクラスを一緒にマージしてより正確にすることによって、フィルタの数を（１つずつ、そして１つだけが残るまで、全ての所望のグループを得るために）反復的に減少させようと試みる。エンコーダは、最初に２つの異なるフィルタに関連付けられたクラスに共通のフィルタを共用させる（すなわち、エンコーダは、２つのクラスをマージして１つの関連付けられたフィルタを共用する）。どのフィルタをマージすべきか（すなわち、どのクラスをマージすべきか）を決定するために、各フィルタについて共分散および相互共分散統計が決定される。エンコーダは、１つまたは複数のクラス（インデックス）に関連付けられた各フィルタについて、そのクラス（複数可）に関連付けられたサンプルのすべてのブロックに対してフィルタリングを実行するためにフィルタを使用した後に得られた総残差誤差を推定／評価する。次いで、フィルタ（およびそれらの関連するクラス）の各対について、エンコーダは、マージされた共分散および相互共分散統計を計算して、マージされたクラスのウィーナフィルタと、決定されたウィーナフィルタを用いてクラスインデックスに関連するサンプルのすべてのブロックをフィルタリングした後に得られた総残差とを決定する。次に、エンコーダは（２つのフィルタに関連付けられたクラスに関連付けられた統計から導出された）マージされたフィルタの総残差誤差と、（１つのフィルタの総残差誤差を別のフィルタと加算することによる）これら２つのフィルタの総残差誤差の合計との間の差が最小である２つのフィルタを決定し、（このマージされたフィルタが次のフィルタマージ反復の準備ができるように）これら２つのフィルタをマージする。要するに、エンコーダはarg min(Err(a+b)-Err(a)-Err(b))を最小にする一対の２つの異なるフィルタの統計をマージ(a,b)する。ここで、Err（ｘ）は、フィルタ統計ｘの誤差を返し、ａ＋ｂは２つのフィルタ統計ａ，ｂのマージされた統計である。

ここまでは、倍精度浮動小数点値を用いて、統計量、フィルタ、誤差を推定している。ここで、エンコーダは、ルマフィルタを符号化するための最良のＲ／Ｄコスト妥協点を見つけようとする９０６。フィルタ／クラスの２５個のグループが決定されると（２５個のフィルタから開始して１個のフィルタまで）、各グループについて、ＡＬＦエンコーダは、各フィルタについて（整数値符号化および固定小数点精度計算のための）整数フィルタ係数を導出する。次に、異なる代替符号化方式が使用されるときの、Ｒ／Ｄコスト妥協に関して最良のフィルタを探索する。第１の代替は、（ｅｘｐ－）Ｇｏｌｏｍｂ符号化を使用して、すべてのフィルタのすべての係数を符号化することである。第２の代替はフィルタのデルタ符号化を使用することであり、各フィルタのフィルタ係数は、（（ｅｘｐ－）Ｇｏｌｏｍｂ符号化を使用して）、前のフィルタのフィルタ係数との差として符号化される。第３の代替（Ｒ／Ｄ最適化）は、１つのフラグを有するいくつかのフィルタをディスエーブルすることを可能にし、ディスエーブルされていないフィルタのすべてのフィルタ係数を（（ｅｘｐ－）Ｇｏｌｏｍｂ符号化を使用して）符号化する。最初の２つの代替はビットレートの低減につながることができ、一方、第３の選択は、より少ないビットレートに対してより多くの歪みにつながることができる。

エンコーダは、Ｒ／Ｄコストを最小限に抑えるフィルタグループおよび符号化の妥協をとる／選択する／選択する。

使用するルマフィルタがエンコーダによって決定／選択されると、各ＣＴＵについて、エンコーダはＣＴＵ統計量を使用して、ＣＴＵのルマサンプルをフィルタリングするＲ／Ｄコストが、同じＣＴＵのルマサンプルをフィルタリングしないＲ／Ｄコストよりも良好であるかどうかを調べる。良好でない場合には、そのＣＴＵのルマサンプルに対してＡＬＦがディスエーブルされる９０７。エンコーダはＣＴＵ(ＡＬＦが有効になっている）の共分散および相互共分散統計に関するスライス統計を更新しながら、ルマのためのルマフィルタ最適化ステップにループバックする９０４。例えば、ＶＴＭ－３．０では、エンコーダは更に４回ループバックする。

ルマ成分サンプルにＡＬＦを適用するか否かの間のＲ／Ｄコスト差に応じて、エンコーダは、９０８にて、ＡＬＦがルマ成分に対してアクティブ／イネーブルされるべきか否かを決定する。

ＡＬＦがＬｕｍａ成分に対してアクティブ／イネーブルされることになった場合、エンコーダは、９１０において、クロマ成分の処理に進む。また、ＡＬＦがルマ成分に対して非アクティブ／ディスエーブルされることになった場合、９１１において、ＡＬＦはアクティブ／ディスエーブルされていないとしてシグナリングされ、ＡＬＦ符号化プロセスは終了する。

クロマ成分のＡＬＦ符号化プロセスは、ＡＬＦがスライスのすべてのＣＴＵに対してアクティブ／イネーブルであるという条件で、２つのクロマ成分の統計を組み合わせることから開始する９１２。

次に、エンコーダはクロマフィルタを決定する９１３。エンコーダは、まず両方のクロマ成分のＣＴＵ 統計を使用して（浮動小数点)ウィナーフィルタを決定する。それは整数フィルタ係数を導出する。次に、各クロマ成分について、エンコーダはＣＴＵ統計を使用して、ＣＴＵのクロマ成分をフィルタリングするＲ／Ｄコストが、ＣＴＵのクロマ成分をフィルタリングしないＲ／Ｄコストよりも優れているかどうかを確認する。良好でない場合、ＡＬＦは、そのＣＴＵのクロマ成分サンプルに対してディスエーブルされる９１４。またエンコーダが所与のクロマ成分のすべてのＣＴＵについてＡＬＦをアクティブにすべきでない（すなわち、ディスエーブルにすべきである）と判定した場合、エンコーダはそのクロマ成分上のＡＬＦをディスエーブルにし、したがって、各ＣＴＵについて、０である「イネーブルフラグ」を符号化する必要はない９１５。

エンコーダはその後、９１６にて、ＣＴＵ（ＡＬＦが有効である）に対するクロマ成分の共分散および相互共分散統計に関するスライス統計を更新しながら、クロマフィルタ最適化ステップにループバックすることができる。例えば、ＶＴＭ－３．０では、エンコーダはさらに２回ループバックする。

次いで、エンコーダは、９１７にて、決定されたＡＬＦパラメータを用いて（すなわち、ステップ９１３からの決定されたクロマフィルタを用いて）、本発明の実施形態によるＡＬＦを適用する。エンコーダ構成に応じて、結果として得られる画像は出力され、かつ／または参照フレームバッファに置かれる。エンコーダは最後に、最良のＲ／Ｄコストパラメータ、すなわちＡＬＦイネーブルフラグを符号化し、ＡＬＦイネーブルフラグがアクティブ／イネーブルを示す場合、決定されたＡＬＦパラメータを符号化する９１８。

変形例によれば、他のＡＬＦパラメータの最適化プロセスを実行して、ＡＬＦのこれらのパラメータを最適化することができることを理解されたい。

非線形フィルタリング機能を持つＡＬＦ
ステップ３０４および４０７で使用される線形フィルタリングは、非線形性を導入し、フィルタリング結果を改善する（フィルタリング品質と符号化効率との間のより良い妥協を得る）本発明の実施形態に従って修正することができる。ＡＬＦフィルタリングの目標は、符号化ツール（例えば、量子化ノイズ／エラー）によって導入されたいくつかの“ノイズ”を除去することである。このようなノイズを除去するために、信号を平滑化し、小さな局所変動を低減するために、ローパス線形フィルタがしばしば使用される。このような種類のフィルタは、フィルタリングされた出力、特にコントラストが強い領域、例えばエッジ付近にぼけを導入する可能性がある。例えば、バイラテラルフィルタのような非線形フィルタは、より効率的なノイズ除去を可能にするために開発されており、一方、エッジの周囲であっても、より少ないぼけまたはリンギング効果を導入する。そうするために、これらの非線形フィルタは、しばしば、線形フィルタのような、その局所近傍（すなわち、隣接サンプル）に基づくサンプルのフィルタリングに依存するが、非常に異なる値を有するサンプルよりも、フィルタリングされるサンプルに類似した値を有するサンプルにより多くの注意（または重み）を払う。近傍値の重み付けは、非線形関数（すなわち、非線形マッピング）を使用して実行されることが多い。これらの種類の非線形フィルタは線形フィルタよりも複雑であることが多く、それらのパラメータを最適化することは困難であることがあり、および／または、新しいＡＬＦデザインにおいてこのような種類のフィルタを使用したい場合には線形フィルタよりも柔軟性が低いことがある。

本発明の一実施形態によれば、ＶＴＭ－３．０（または前述の実施形態またはその変形のいずれか）のＡＬＦは、ＡＬＦの並列化可能な設計を保持する動作を含む比較的低い複雑度で非線形性を導入することによって修正される。

ＶＴＭ－３．０のＡＬＦを見ると、実数を用いて式（１）を再定式化して式を単純化することによって、我々は、

（固定小数点表現と整数丸めに関連する演算を除去する）を得る。
このＡＬＦにおいて、条件：

が満たされる。これは、ＡＬＦ のすべてのフィルタ係数の合計が１ であることを意味する。次に、式（４）を次のように再定式化することができることが分かる。

次に、出力サンプルＯ（ｘ，ｙ）は、入力サンプルＩ(x, y)(同じ位置）を、フィルタ係数ベクトルとローカル勾配ベクトル（入力サンプルの隣接サンプルと入力サンプル自体との間の差として計算されたローカル勾配のベクトル）との間のスカラー積に加算した結果である。言い換えれば、出力サンプル（すなわち、フィルタリングされたサンプル値）は、入力サンプルをフィルタ係数と局所勾配との線形結合に加算した結果である。

本発明の一実施形態によれば、フィルタのためにこの通常の線形公式を使用する代わりに、ＡＬＦフィルタリング処理は、ＡＬＦフィルタに非線形性を導入するように修正される。この非線形性は、オフセット（ｉ，ｊ）における局所勾配ｄを第１のパラメータとしてとり、その値が第２のパラメータｂ＝ｋ（ｉ，ｊ）に応じて変化する多変量関数Ｋ（ｄ、ｂ）を使用して達成される。式（６）におけるスカラー積におけるオフセット（ｉ．ｊ）に対する局所勾配を使用する代わりに、Ｋ（ｄ，ｂ）がスカラープ積において使用され、その結果、局所勾配と共に非線形に変化する出力サンプルＯ（ｘ，ｙ）が得られる。

ここで、Ｋ（ｄ，ｂ）は、その第１のパラメータ／変数ｄ＝Ｉ（ｘ＋ｉ．ｙ＋ｊ）－Ｉ（ｘ，ｙ）（位置（ｘ＋ｉ，ｙ＋ｊ）における隣接サンプル値と位置（ｘ、ｙ）における現在サンプル値との間の差として計算されたオフセット（ｉ，ｊ）における局所勾配）として、および、その第２のパラメータ／変数ｂ＝ｋ（ｉ，ｊ）（追加のフィルタリングパラメータ）としてとる関数である。追加のフィルタパラメータｋ（ｉ，ｊ）は、ｗ（ｉ，ｊ）と同時に決定される。一実施形態では、ｋ（ｉ，ｊ）及びｗ（ｉ，ｊ）の値は、（例えば、歪みを最小限に抑えるために）フィルタリングおよび信号処理を最適化するように決定される。この最適化プロセスは、ＡＬＦ を使用しているエンコーダによって実行される。このような最適化プロセスの例については後述する。

したがって、本発明の実施形態によれば、入力サンプル値は、入力サンプル自体と、入力サンプルの近傍である入力サンプルの適応非線形変換との線形結合を使用することによってフィルタリングされる。適応非線形変換は、フィルタリングされる入力サンプルの位置と関連して、近傍の入力サンプルの相対位置に依存する。

このような修正ＡＬＦでは、実在するｂ、ゼロに等しくない現存するαという条件を満たす特定のＫについて、例えばＫ（ｄ，ｂ）が、全てのｄについて、ｄで乗算したαに等しいくなるように、線形フィルタリングを実現することができる。

したがって、ｂのいくつかの値（すなわち、関数Ｋ（ｄ，ｂ）が条件（８）を満たす）について線形関数（すなわち、線形マッピング）のように振る舞う関数Ｋ（ｄ，ｂ）を選択することによって、実施形態の修正ＡＬＦフィルタリング処理が、標準線形ＡＬＦを使用するのと少なくとも同程度に効率的であることが保証される（すなわち、最悪の場合、修正ＡＬＦは、ＶＴＭ－３．０のＡＬＦと同じレベルの効率を達成することができる）。例えば、クリッピング関数が使用される場合、パラメータｂは線形関数として動作するように、最大可能整数値に設定することができる（理想的には無限大に設定されるべきであるが、制限整数精度スキームにおける最大可能整数値を使用して同じ効果を達成することができる）。

本発明のいくつかの実施形態では、ＡＬＦフィルタリングは代替の公式／フィルタリング公式を使用することに留意されたい。局所勾配および追加のパラメータ／変数をとる多変量関数Ｋ（ｄ、ｂ）は、隣接するサンプル値、フィルタリングされるサンプル値、および追加のパラメータ／変数の３つのパラメータ／変数をとる別の多変量関数によって置き換えられる。式（４）と同様の表記を用い、条件（５）を満たしながら、式（７）を用いて再定式化する

ここで、Ｋ'(n,c,b)は、そのパラメータ／変数として、隣接するサンプル値（ｎ）、フィルタリングされる現在のサンプル値（ｃ）、および、追加のフィルタリングパラメータ／変数（ｂ）をとる関数である。

本発明の一実施形態によれば、クロマ成分（３０４）およびルマ成分（４０７）の両方に対するフィルタリングステップは（式（１）を参照して説明したように）整数算術を使用して実施される非線形公式（好ましくは式（７）を使用するが、代わりに式（９）を使用する）でこのフィルタリングを使用するように修正される。

代替実施形態によれば、任意の選択が複雑さに基づく、例えば、２つのフィルタリングステップ（３０４）または（４０７）のうちの１つのみが、非線形定式化と共にフィルタを使用するように修正される。

いくつかの実施形態によれば、パラメータ／変数ｂ＝ｋ（ｉ，ｊ）は２つ以上の次元を有し、例えば、Ｋ（ｄ、ｂ＝（Ｓb,Ｄb））＝ｆ（ｄ、Ｓb，Ｄb）は以下を用いることができる。

ここで、Ｓ_b及びＤ_b値は、(i,j)によって変化する。
２つ以上の次元を有するパラメータ／変数／機能を使用することは、フィルタリングを改善することをしばしば可能にするが、フィルタパラメータをシグナリングするためにより高いコストとなる。さらに、それは、エンコーダにおいてより高い次元空間でフィルタパラメータを最適化するときに、より複雑さを招き、しばしば、デコーダにおいて機能を計算することはより複雑である（より多くのフィルタパラメータはしばしば、それらを使用するより多くの演算を意味する）。一実施形態では、ｂは単一の次元を有し、多くのＡＬＦアプリケーションに対して良好な妥協を達成することができる。

いくつかの実施形態によれば、関数Ｋは、異なるオフセット（ｉ．ｊ）のための２つ以上の異なる関数を含む関数であってもよい。いくつかの実施形態では、フィルタ形状／パターン内の関数の構成／配置は、エンコーダおよびデコーダの両方で事前定義される。あるいは、関数の構成が事前定義された構成セットの中から選ぶ／選択され、選択された構成を示すインデックスが送信／シグナリングされる。他の実施形態では、関数がフィルタ形状／パターン内の各係数インデックス（中心位置を除く）についての所定の関数セットの中から選択され、そのインデックスが送信／シグナリングされる。そのような実施形態の変形では、各関数は単一の変数関数であり（すなわち、Ｋ関数もはや追加のパラメータ／変数ｂを有さない）、したがって、ｂパラメータをシグナリングする代わりに、関数インデックスがシグナリングされる。このような変形では、多変量公式、例えばＫ（ｄ、ｂ）＝Ｋ_b（ｄ）公式を使用するものと考えることができる。たとえば、ｂは関数セットの中から単一の変数関数Ｋ_bを選択するための整数インデックスである。

いくつかの実施形態によれば、関数Ｋは、ルマフィルタとクロマフィルタとでは同じではない。いくつかの実施形態によれば、関数Ｋは、各ルマフィルタについて同じではない。これらの実施形態のいくつかでは、各フィルタについて、選択された関数のインデックスがスライスヘッダに提供される。

本発明の一実施形態によれば、Ｋは計算が簡単になるように（過度の復号化の複雑さを導入しないように）選択される。例えば、そのような実施形態では、Ｋは単にクリッピング関数：
Ｋ（ｄ，ｂ）＝ｍａｘ（－ｂ，ｍｉｎ（ｂ，ｄ））. (11)
である。または同等に
Ｋ（ｄ，ｂ）＝ｍｉｎ（ｂ，ｍａｘ（－ｂ，ｄ））. (12)
である。
以下に説明する代替関数のいくつかとは対照的に、クリッピング関数は局所勾配の高い値に対して消失しない（換言すれば、クリッピング関数ｆ（ｘ）は、ｘが不等性に近づくにつれてゼロに向かって収束しない）。しかし、このような単純な関数を使用した圧縮結果は、より複雑な関数を使用した場合と同じくらい効率的であり、より良好でさえあり得ることが実験的に観察されている。実際、クリッピング関数は局所勾配の高い値に対して消失するのではなく、単にそれらをクリッピングするだけで、鋭いエッジ遷移を考慮し続けることを可能にし、一方、その鋭いエッジ遷移領域の周りに存在する高い分散の影響を制限することができる。アーチファクトは鋭い遷移の周りにより強く発生するので、これは興味深い。
式（９）のフィルタリング公式を用いたこのクリッピング関数Ｋの等価関数Ｋ’は、
Ｋ’（ｎ，ｃ，ｂ）＝ｍａｘ（ｃ－ｂ，ｍｉｎ（ｃ＋ｂ，ｎ））. (13)
である。または、同等に、
Ｋ’（ｎ，ｃ，ｂ）＝ｍｉｎ（ｃ＋ｂ，ｍａｘ（ｃ－ｂ，ｎ））.
である。
クリッピング関数は、ｂが最大可能サンプル値（例えば、画像ビット深度の２乗）以上になるとすぐに、式（８）を満たす。

以下の説明では、“クリッピングレンジ”または“クリッピングパラメータ”は、Ｋ又はＫ’のパラメータ／変数を参照するために使用されている。このような表現は、非線形関数パラメータを参照するための一般的な表現であると考えることができることが理解される。同様に、“クリッピング”または“クリッピング関数”は、上記またはその機能的に同等の関数Ｋ又はＫ’を参照または説明するために使用されてもよい。

別の実施形態では、Ｋは別の非線形関数であってもよい。変形例では、Ｋは反対称関数であり、例えば、

に対応する１つのこぎり歯期間、又は、

であるときの式（１０）の特定のケースに対応するいくつかの三角形期間であり、又は例えば、双方向フィルタ：

と同様の方法でガウスカーネルを使用することもできる。例えば、Ｋは上記のバリアントの反対称関数のように、ある閾値より上（または下）にゼロに設定される任意の関数であってもよい。

一実施形態によれば、ＡＬＦフィルタリングを実行するために必要とされるサンプルラインバッファの数を低減する（すなわち、例えばデコーダにおいてフィルタリングを実行するときに、メモリ内で処理／アクセス／保持される必要がある入力画像成分のサンプル数を低減する）ため、非線形ＡＬＦが線形ＡＬＦの代わりに使用される。

一変形によれば、トレードオフ／妥協として、ルマフィルタのためのフィルタ形状／パターンのサイズは、７×７ダイヤモンド形状からより小さなフィルタ形状／パターンに低減される。たとえば、ルマフィルタについて（図３－ｂ の「クロマ」フィルタと同じ形状であるが、以前としてトランスポーズインデックスバリアントを使用する）の５×５のダイヤモンド形状が使用される。これは依然として、７×７ダイヤモンド形状のルマフィルタ（例えば、図４－ｂに示されるもの）を有する線形のみのＡＬＦと同様の符号化利得を達成することができるが、処理／アクセス／格納するためのサンプルの数が低減され（例えば、サンプルラインバッファの数が低減される）、また、演算の複雑さが低減され、すなわち、良好な符号化利得を達成しながら、ＡＬＦフィルタを処理するために必要とされる乗算の数が各フィルタリングされた入力サンプル当たり６だけ低減される。

変形例によれば、サンプルに対してＡＬＦフィルタリングを実行するとき、非線形ＡＬＦが、線形ＡＬＦのために使用されたものであろうすべての隣接サンプルに基づいて使用される。別の変形例によれば、サンプルに対してＡＬＦフィルタリングを実行するとき、線形ＡＬＦと共に使用されたものであろう隣接サンプルのいくつかのみが非線形ＡＬＦと共に使用され、残りの隣接サンプルは線形ＡＬＦと共に使用される。さらに別の変形例によれば、サンプルに対してＡＬＦフィルタリングを実行するとき、線形ＡＬＦと共に使用されたものであろう隣接サンプルのいくつかのみが非線形ＡＬＦと共に使用され、隣接サンプルの残りも線形ＡＬＦと共に使用されない。

変形例によれば、これらのフィルタ形状／パターンの対称性を利用することによって、線形および／または非線形ＡＬＦフィルタの実施を単純化するために式（２）と同じ表記を使用して、式（４）の線形関数を次のように再定式化することができる。

上記は、ＡＬＦの場合には以下の条件を満たす。

式（６）の線形関数は、次のように再定式化することもできる。

また、式（７）の非線形関数は次のようになる。

ここで、Ｋ_iは、フィルタ係数ｗ_iに関連するフィルタクリッピングパラメータである。

最後に、式（９）の非線形関数は次のように再定式化できる。

この実施形態の変形例によれば、Ｋ’関数またはＫ関数はクリッピング関数である。

一実施形態によれば、式（１７）の関数Ｋを処理するための演算回数と比較して、非線形関数の処理に含まれる演算回数を減らすため、代わりに少なくとも２つの隣接差分の和に非線形性が導入される（すなわち、その変数として２つ以上の局所勾配の和を持つ非線形関数が使用されてもよい）：

式（１９）は、必ずしも式（１７）と等価ではなく、式（１９）を用いたフィルタは効率が悪くなり得るが、計算量は減少する。変形例によれば、シグナリング／符号化されたクリッピングパラメータ／値の数は、例えばＫがクリッピング関数である場合、式（１７）の数と変わらない。

複雑さが低減された方程式（１８）に基づく同様に導出される方程式は、２つ以上の隣接差分値（局所勾配）の和を変数として有する関数Ｋ’を用いて、別の変形例に従って使用することができることが理解される。

図７は、本発明の一実施形態による非線形フィルタのブロック図を提供する。このブロック図は、ＶＴＭ－３．０内のＡＬＦ内の線形フィルタの置換であり得る（またはＡＬＦ内の線形フィルタに加えた、付加的な非線形フィルタであり得る）。これは、式（１１）のクリッピング関数を使用して、整数固定小数点算術を用いて式（７）を実施することに対応する。“Ｃ”７０１はＩ（ｘ，Ｙ）に対応し、“Ｓ０”７０２から“Ｓｎ”７０３は、（ｉ，ｊ）≠（０，０）における、Ｉ（ｘ＋ｉ，ｙ＋ｊ）に対応する。“ｋ０”７０４から“ｋｎ”７０５は、（ｉ，ｊ）≠（０，０）における、ｋ（ｉ，ｊ）に対応し、“ｗ０”７０６から“ｗｎ”７０７は、（ｉ，ｊ）≠（０，０）における、ｗ（ｉ，ｊ）に対応し、そして、“Ｏ”７０８はＯ（ｘ，ｙ）に対応する。

図５は本発明の一実施形態による変更されたシンタックス要素の概略を伴うフローチャートであり、前述の及びそれらの関連する実施形態／変形の非線形関数（及びそのパラメータ）を実施するために使用され得るシンタックス要素の例を提供する。この実施形態では、各フィルタに対する式（７）（または（９））’の符号化フィルタ係数が、それ自体のクリッピング範囲に関連付けられ、したがって、ｋ（ｉ，ｊ）はオフセット（ｉ，ｊ）と共に変化する異なる値を有することができる。シンタックス要素の大部分は、ＶＴＭ－３．０で既に使用され、図２を参照して説明されたものと同じであり、図５の５０１、５０２、５０３、５０４、５０５、５０６、５０７、５０８、５０９、５１０は図２の２０１、２０２、２０３、２０４、２０５、２０６、２０７、２０８、２０９、２１０と同じシグナリングおよびセマンティクスを有する。新しいシンタクス要素は、各ルマフィルタ５１１のクリッピングパラメータ、ルマフィルタ（５０６）のすべてのフィルタ係数、および、例えばスライスヘッダでシグナリングされ得る各ルマフィルタ（５１１）のすべてのクリッピングパラメータである。このシグナリングの後に、クロマフィルタのすべてのフィルタ係数（５０７）およびクロマ・フィルタのすべてのクリッピング・パラメータ（５１２）のシグナリングが続く。

一実施形態によれば、任意のフィルタについて、シグナリングされるクリッピングパラメータの数は、シグナリングされるフィルタ係数の数と同じである。オフセット（ｉ，ｊ）に対するクリッピングパラメータは、同じ位置（ｘ＋ｉ，ｙ＋ｊ）におけるフィルタ係数に対するのと同じ方法で得られる。クロマについては図３－ａのステップ３０３のフィルタ係数導出プロセスについて説明したのと同じ方法で（ただし、クロマクリッピングパラメータを用いて）処理され、ルマについては図４－ａのステップ４０６のフィルタ係数導出プロセスについて説明したのと同じ方法で（ただし、ルマフィルタクリッピングパラメータを用いて）処理される。

代替実施形態では、フィルタごとに１つのクリッピングパラメータのみが存在し、このクリッピングパラメータはすべてのフィルタ位置（ｉ．ｊ）≠（０，０）について使用される。

代替実施形態では、クリッピングパラメータの数はフィルタ係数の数よりも少ない。この実施形態の変形では、これらのクリッピングパラメータがオフセット（ｉ，ｊ）を有するフィルタ位置のサブセット（事前定義または決定されてもよい）に使用される。他のフィルタ位置については、通常の線形フィルタリングが実行される（すなわち、換言すれば、これらの他のフィルタ位置において、Ｋは同一性関数であるとみなされる）か、または代替的に、事前定義されたクリッピングパラメータ値が使用される。

このような実施形態の変形例を、図１６－ａおよび図１６－ｂを参照して説明する。これらの変形例ではクリッピング関数がフィルタ位置のサブセットに適用され、すなわち、クリッピングパターン／形状／サポート／マスクは、フィルタ形状／パターン内のフィルタ位置のサブセットのみを含み、その結果、フィルタリング処理中に、隣接するサンプル値／位置のサブセットのみがクリッピングされる（例えば、非線形関数はそのサブセットのみからのサンプル値に適用される）。クリッピング操作は、計算的に高価であり得るので、このようにフィルタリングに含まれるクリッピング操作の数を減少させることは、フィルタリングプロセスの複雑さおよび計算コストを減少させ得る。

図１６－ａは、低減された数のクリップ／クリッピング位置を有する７×７ダイヤモンドフィルタ形状を提供し、７×７フィルタ形状、例えば、輝度のためのＡＬＦを用いてフィルタリングを実行するときに必要とされるクリッピング動作の数を低減するためのクリップ／クリッピング位置の３つの可能な配置／例を示す。図１６－ａに示されるクリッピングパターンを使用することによって、クリッピング動作がすべてのフィルタ（入力）位置に適用されないため、フィルタリングを実行するためのクリッピング動作の数が減少する、すなわち、フィルタ位置のサブセット（事前に定義されてもよいし、シグナリングされてもよいし、推論されてもよい）のみがクリッピング動作に使用される（すなわち、非線形関数と共に使用される）。図１６－ａにおいて、クリップされたサンプル位置は、クリッピングパターン１６０１、１６０２、および１６０３において“Ｘ”によってマークされる。クリッピングパターン１６０１、１６０２はクリッピング回数を３分の２に減らし、クリッピングパターン１６０３はこの回数を１／２に減らす。これらのクリッピングパターン１６０１、１６０２および１６０３は、７×７ダイヤモンドフィルタ形状を使用する場合、出力の正確さとフィルタ処理に含まれる複雑さとの間の良好な妥協点を打つ。クリッピングパターン１６０１、１６０２、および１６０３は、ＡＬＦ(すなわち、ローカルコンテンツの向きおよびアクティビティのレベルに基づく分類のために構築されたフィルタ、例えば、ＶＴＭ３．０におけるルマフィルタ）の向きに基づく非線形ＡＬＦに対して良好に機能する。しかし、分類が使用されない場合、パターン１６０２または１６０３を使用することが好ましい。

他の変形例によれば、より多くの又はより少ないクリップ位置が使用されてもよいことが理解される。例えば、クリッピングパターン１６０１の代わりに、列全体および行全体（中心位置を除く）をクリッピングしてもよいし（すなわち、中心位置を除いて、上から下および左から右への交差）、クリッピングパターン１６０２の代わりに、外縁上の位置（すなわち、より大きい菱形／平行四辺形クリッピングパターン）をクリッピングしてもよい。クリップ位置の他の変形例では、クリッピングパターン／形状／支援／マスクが対角線の十字“Ｘ”（中心位置を除く）、垂直セグメント“｜” （中心位置を除く）、水平セグメント“－”（中心位置を除く）、左上から右下への対角線セグメント“＼”（中心位置を除く）、右上から左下への対角線セグメント「／」、または前述のクリッピングパターン／形状／サポート／マスクの任意の組合せを形成する。

図１６－ｂは、クリップ／クリッピング位置の数を減らした５×５ダイヤモンドフィルタ形状を提供し、５×５フィルタ形状でフィルタリングを実行するときに必要とされるクリッピング操作の数を減らすための２つのクリップ／クリッピング位置の可能な配置／構成を示す。図１６－ａと同様に、図１６－ｂに示すクリッピングパターン、すなわちクリッピングパターン１６０４および１６０５を使用することによって、５×５ダイヤモンドフィルタ形状でフィルタリングする場合に、このフィルタリング処理中に含まれるクリッピング操作の数を減らすことが可能である。クリッピングパターン１６０４および１６０５は、ＡＬＦ(すなわち、ローカルコンテンツの向きおよびアクティビティのレベルに基づく分類のために構築されたフィルタ、例えば、ＶＴＭ３．０におけるルマフィルタ）の向き基づく、非線形ＡＬＦに対して良好に機能する。しかし、分類が使用されない場合、パターン１６０５を使用することが好ましい。

クリッピングパターン１６０２および１６０５は、向き（例えば、ＶＴＭ－３．０における水平方向、垂直方向、または対角線方向の分類に依存するルマフィルタとは対照的に、クロマフィルタにとってより良好である）に基づく分類を使用しないフィルタに対して良好に働く。というのは、水平方向および垂直方向の近傍が、対角線方向の近傍よりも統計的に信頼性が高いため（ユークリッド距離が大きいため）である。したがって、信頼性の低い対角近傍サンプルのフィルタ位置だけにクリッピング操作を使用する方が、より信頼性の高い水平および垂直方向近傍サンプルのフィルタ位置よりも有利である。

向きに基づくフィルタ（すなわち、分類に基づく向きに対して得たフィルタ）を使用すると、クリッピング操作は一般に、フィルタの向きに垂直なフィルタ位置でサンプリングに適用される。例えば、１６０１のクリッピングパターンは、対角方向を有するクラスのフィルタよりも、水平方向または垂直方向を有するクラスのフィルタの方が良好に機能する。クリッピングパターン１６０２は４つのクラスの向きについてもほぼ同様に機能するが、水平及び垂直の向きについてはパターン１６０１よりも効率的ではない。したがって、１６０１および１６０２におけるクリッピングパターンは、７×７フィルタパターンを使用するルマフィルタに対してほぼ同等に平均して実行され、１６０４および１６０５におけるクリッピングパターンは５×５フィルタパターンを使用するルマフィルタに対してほぼ同等に平均して実行される。

変形例によれば、向きベースフィルタを改善するために、クリッピングパターンが、フィルタ方位に基づいて予め定義されたパターンから選択される。例えば、クリッピングパターン１６０１は、水平フィルターまたは垂直フィルター上で使用され、クリッピングパターン１６０２は対角フィルター上で使用される。さらに別の変形形態では、垂直フィルタのために選択されたクリッピングパターンが水平フィルタのために選択されたクリッピングパターンとは異なり（例えば、それぞれが他方の９０°回転されたバージョンである）、２つの対角フィルタ配向のためのクリッピングパターンも異なる（例えば、それぞれが他方の９０°回転されたバージョンである）。さらに別の変形例では、クリッピングパターンがサンプル値の各４×４ブロックに対する転置インデックス（ｔｒａｎｐｏｓｅＩｄｘ）に従って選択される。

変形例によれば、各フィルタに対して１つの所定のクリッピングパターンがある。別の変形例によれば、使用可能な複数（例えば、所定数）のクリッピングパターンがあり、各フィルタインデックスに対して、選択されたクリッピングパターンに対する（クリッピングパターン）インデックスが例えば、ＡＰＳ又はタイルグループヘッダにおいて、ＡＬＦパラメータで符号化／シグナリングされる。さらに別の変形例によれば、クリッピングパターンは、ＡＬＦパラメータを用いてシグナリングされる。例えば、クリッピングパターンのシグナリングは、フラグのシーケンスを符号化／復号することによって実行されてもよく、フィルタ（パターン）位置インデックス当たり１つのフラグ（例えば、符号化／復号されたフィルタ係数インデックスに等しい）であり、各フラグは、対応するインデックスに対してクリッピングが適用されるべきか、実際に適用されないべきかを示す。あるいはクリッピングパターンのシグナリングが、クリッピング位置インデックス自体を符号化／復号することによって、またはクリッピング位置ではないフィルタ（パターン）位置インデックスを符号化することによって実行されてもよい（好ましくはより少ない数のビットがシグナリングされることを必要とするどちらか）。

変形例によれば、クリッピングパターンが使用される（所定であるか否かにかかわらず）場合、クリッピングパラメータは、クリッピング動作が適用されるフィルタ（パターン）位置についてのみシグナリングされる。

いくつかの変形例では、単一命令、複数データ（ＳＩＭＤ）並列化実装を中断しないために、クリッピングはすべてのフィルタ位置に適用されるが、クリッピングパラメータが提供されない位置のクリッピングパラメータは線形出力（例えば、変形例では恒等関数の出力）を有するとみなされる。

代替実施形態では、１つまたは複数のクリッピングパラメータが共有されるので、クリッピングパラメータの数はフィルタ係数の数よりも少ない。例えば、図３－ｂおよび図４－ｂのフィルタ形状では、いくつかの係数インデックスが同じクリッピングパラメータを共有することができる。変形例によれば、クリッピングパラメータのインデックスは、（対称性のために）形状サイズの半分から（中心係数位置のクリッピングパラメータがないために）１を引いたものに等しい数の要素を含むテーブルに示される。このテーブルは、クリッピングパラメータインデックスを各フィルタ係数に関連付けることを可能にする。変形例によれば、このテーブルは、コーデックによって固定／プリセットされる。変形例に従って、複数の固定／プリセットテーブルが定義され、テーブルからクリッピングパラメータを識別するためのインデックスが、例えばスライスヘッダ内にシグナリングされる。代替変形例では、このようなテーブルのコンテンツが、たとえばスライスヘッダーでシグナリングされ、すべてのルマフィルタで共有される。

一実施形態では、クリッピングパラメータがとることができる値の数が小さくなるように制限される（エンコーダの複雑さ、及びエンコーディングコスト対小さい品質の利点を低減するために）。クリッピングパラメータに許可された値は、整数値インデックスでインデックスされる。好ましくは、増加順または減少順でインデックスが作成される。次に、これらのインデックスは、クリッピングパラメータのテーブルの各要素にマッピングすることができる。次に、クリッピングパラメータ値をシグナリングする代わりに、テーブル内の関連するクリッピングパラメータ値のインデックス（ｐ）がシグナリングされる。テーブル内のフィルタインデックスがｐである実施形態では、ｐの可能な値の数を減らすために中間テーブルを使用する必要はない。関数のテーブル内で利用可能な関数の数を直接減らすことが可能であり、したがって、そのサイズを減らすことが可能である。

一実施形態では、クリッピングパラメータ値が２の累乗：２^pに制限される。次に、符号化されるものがpとなる。ｐの最大値は、入力画像のビット深度Ｂ_dである（同じ結果を提供するので、より高い値は必要ではない）。代替実施形態では、ｐの代わりに、符号化されるものはＢ_d－ｐである。別の実施形態では、ｐの範囲が、ｐ_minとｐ_max間にあるように制限される。例えば、ｐ_min＝３、Ｐmax＝Ｂ_d－１である。その後、ｐ－ｐ_min又はｐ_max－ｐがシグナリングすることができる。

一実施形態では、クロマフィルタの許可／許容／利用可能なクリッピングパラメータ値は、ルマフィルタの値と同じではない。

一実施形態によれば、スライス内のクリッピングパラメータに使用される、テーブルｐ_min内の最小インデックスおよびテーブルＰ_max内の最大インデックスはスライスヘッダ内に提供され、その結果、可能なクリッピングパラメータ値の数はそれらをシグナリングするときに制限／制限され得る。一実施形態によれば、ｐ_min及びｐ_maxは、ルマフィルタおよびクロマフィルタによって共有される。代替の実施形態では、ｐ_min及びｐ_maxは、ルマについてのみ提供され、クロマインデックスは限定されない。別の代替実施形態では、ｐ_min及びｐ_maxは、ルマ用およびクロマ用のスライスヘッダに提供される。

代替の実施形態によれば、許可されたクリッピングパラメータ値の１つのテーブルが、ルマおよびクロマの両成分についてスライスヘッダ内でシグナリングされるか、あるいは、２つのテーブル、すなわち、１つはルマ、１つはクロマのテーブルについてシグナリングされる。

本発明の一実施形態では、クリッピングパラメータ５１１および５１２は、スライス・ヘッダ内でシグナリングされない。その代わりに、そのクリッピングパラメータは、フィルタリングされたサンプルに信号を送るために使用された量子化パラメータ（ＱＰ）を使用し、フィルタのクラスインデックスに基づいて、エンコーダ／デコーダにて決定される。

代替実施形態では、クリッピングパラメータ５１１および５１２は、スライスヘッダ内でシグナリングされる。しかし、フィルタリング処理では、それらは直接使用されない。その代わり、フィルタリングされたサンプルに使用された量子化パラメータ（ＱＰ） に応じて、クリッピングパラメータがスケーリングされる。

一実施形態では、ルマフィルタのクリッピングパラメータは、各フィルタに提供されない。クリッピングパラメータの２ つのテーブルのみが、全てのルマスフィルタで共有され、スライスヘッダ内にシグナリングされる。１つのテーブルは水平／垂直クラス用であり、他のテーブルは対角クラス用である。各クラスのクリッピングパラメータは、図４－ｂの係数配列を使用し、クラスのアクティビティのレベルから決定された固定値に応じてクリッピングパラメータをスケーリング（すなわち、乗算）することによって、クラスの向きに従ってこれら２つのテーブルから導出される。スケーリングは、４×４ブロックを分類するときにアクティビティのレベルを考慮に入れる。例えば、高レベルのアクティビティの領域（例えば、エッジの近く）については、低レベルのアクティビティの領域（例えば、均一な領域）と比較した場合に、より高いクリッピング値を使用することができる。

一実施形態では、スライス・ヘッダ内の１ビットが、各フィルタの各フィルタクリッピングインデックスに対してクリッピングがイネーブル／ディスエーブルされることをシグナルする。クリッピングパラメータ毎に１つの許容クリッピング値しかない実施形態では、ビットがクリッピングがアクティブであることを示す場合、クリッピング値が使用される（すなわち、クリッピングパラメータ値に対して他の何もシグナリングされない）。あるいは複数のクリッピング値が許可される場合、１つのクリッピングインデックスのビットがそのフィルタクリッピングインデックスについてクリッピングが無効であることを示す場合は、クリッピング値はシグナリングされないが、他の場合、クリッピング値はシグナリングされる。

ここで、フィルタクリッピングインデックスは、フィルタ形状におけるフィルタ係数インデックスに関連するクリッピングパラメータのインデックスに対応する。

一実施形態では、許容されるクリッピング値は、スライスタイプ（例えば、ＩＮＴＲＡ、Ｂ、又はＰとすることができる）に依存する。

実施形態の変形例では、許容されるクリッピング値がＢまたはＰスライスにおけるルマについては｛ ６、３２、１８１、１０２４ ｝、ＢまたはＰ＿ｓｌｉｃｅにおけるクロマについては｛ ４、２５、１６１、１０２４ ｝、ＩＮＴＲＡスライスにおけるルマについては｛ １０、１０２、１０２４ ｝、および／またはＩＮＴＲＡスライスにおけるクロマについては｛ ４、２４、１０２４ ｝である。したがって、任意のクリッピングパラメータは、これらのセットのうちの１つに属する値をとることができる（したがって、スライスタイプおよびフィルタリングされた成分に属する）。また、セット内のその値のインデックスは、クリッピングパラメータごとに、フィルタごとにスライスヘッダにエンコードされる。

変形例では、許容されるクリッピング値のテーブルは次のように定義される：

ここで、Ｎはテーブル内のクリッピング値の数（つまりテーブルのサイズ）、Ｍ は最大クリッピング値（テーブル内の最後のエントリで、例えばＭ＝２^DまたはＭ＝２^D－１、ここでＤはテーブルが定義されている成分のサンプルビット深度である）、そして、“ｒｏｕｎｄ”は丸め演算子（たとえば、最も近い整数） である。

変形例では、許容されるクリッピング値のテーブルは次のように定義される：

ここで、Ｎはテーブル内のクリッピング値の数（つまりテーブルのサイズ）、Ｍは最大クリッピング値（テーブル内の最後のエントリ、たとえば、またはＤをサンプルビット深度とした場合はＭ＝２^D、又はＭ＝２^D－１）、Ａは最小のクリッピング値（テーブル内の最初のエントリ）、“ｒｏｕｎｄ”は丸め演算子（たとえば、最も近い整数） である。

一実施形態では、許容されるクリッピング値は、各フィルタクリッピングインデックスについて同じではない。

差分値にクリッピング機能を使用する変形例では、すなわち、式（１１）または式（１２）の関数Ｋを隣接サンプル値と中心値との間の差に適用する場合は、最大許容クリッピング値は、クリッピングの出力におけるビット数が低減されるように定義される。これにより、これらの変形例に従ってフィルタリングを実行するハードウェア実装で処理する必要があるビット数を制限できる。このように、これにより、例えば、チップ内の論理ゲート／トランジスタの数を減らすことができる。乗算演算子の入力端におけるビット数を減らすことは、乗算が多くの論理ゲートを必要とするので、特に興味深い。例えば、最大許容クリッピング値を、２のサンプルビット深度から１を引いた累乗から１を引いた値（すなわち、２＾（ビット深度－１）－１?１に等しい最大クリッピング）に設定することにより、クリッピングの出力端で、したがって乗算演算子の入力端で、最大ビット数を１だけ減らすことができる。そして、サンプルビット深度マイナス２（すなわち、２＾（ビット深度－２）－１に等しい最大クリッピング）を使用することにより、最大ビット数を２だけ減少させることができる。

ＡＰＳを使用する実施形態では、イントラスライスとインタースライス（又はイントラ及びインターピクチャ／画像部分／タイルグループ）との間の区別が、ＡＰＳがイントラ及びインタースライス／ピクチャ／タイルグループ／画像部分によって共有されるので、クリッピング値導出中に可能でないことがある。その場合、許容されるクリッピング値の所定のテーブルは、もはやスライス／画像部分／タイルグループタイプに依存することができない。したがって、１つのデフォルトクリッピング値テーブルは、すべてのスライス／ピクチャ／タイルグループ／画像部分タイプによって共有される。変形例では、例えば、複雑さを減らすことを考慮して、クリッピング値がデフォルトクリッピング値テーブルからのクリッピング値のサブセットに制限されるかどうかをエンコーダに決定させる（次いで、デコーダにシグナリングする）。

変形例では、使用可能なクリッピング値のクリッピング値テーブルが、ＡＬＦパラメータと共にＡＰＳにおいてシグナリングされる。したがって、エンコーダ（およびデコーダ）は、任意のクリッピング値を使用し、使用されたクリッピング値をそれ自体のクリッピング値テーブルとともにシグナリングすることができる。

変形例では、複数のデフォルトクリッピング値テーブルがある。たとえば、１つはインタースライスに使用され、もう１つはイントラスライスに使用される。使用されたテーブルを識別するための情報、例えば、使用されたテーブルのインデックスは、ＡＬＦパラメータと共にＡＰＳに提供される。変形例では、デフォルトのクリッピング値テーブルはルマとクロマで異なる。

一実施形態では、フィルタの出力値も、入力サンプル値および追加のクリッピングパラメータ（クリッピングパラメータのテーブルに追加することができる）に応じてクリッピングされる。

一実施形態によれば、ＡＬＦアクティブフラグに加えて、ＮＬＡＬＦ(非線形(NonLinear)ＡＬＦ)アクティブフラグが非線形ＡＬＦが、アクティブ／使用／イネーブルであることを示すために、例えば、ＳＰＳ内のシーケンスレベルに、または代替として、例えば、ピクチャヘッダ内のフレームレベルに置かれる。このフラグがアクティブである（すなわち、非線形ＡＬＦがアクティブであることを示す）場合、ＡＬＦのシンタックス要素は、非線形フィルタ、例えば図５のフィルタパラメータを含む。フラグが非アクティブである（すなわち、非線形ＡＬＦがアクティブではあることを示さない）場合、ＡＬＦのシンタックス要素は、線形フィルタ、例えば図２のフィルタパラメータのみを含む。

一実施形態によれば、ＡＬＦフラグがスライスヘッダにおいてアクティブである場合、ＮＬＡＬＦアクティブフラグがスライスヘッダに置かれる。このＮＬＡＬＦフラグがアクティブである場合、各ルマフィルタ構文要素５１１のクリッピングパラメータおよびクロマフィルタ５１２のクリッピングパラメータは、スライスヘッダ内に存在する。このＮＬＡＬＦフラグが非アクティブである場合、シンタックス要素５１１および５１２は、スライスヘッダに存在せず、ＡＬＦは通常の線形フィルタリングを使用する。

代替実施形態によれば、別個のＮＬＡＬＦアクティブフラグが各成分タイプであるルマおよびクロマに対して提供され、これらのフラグの一方または両方が非線形ＡＬＦが特定の成分のサンプル上で使用されるべきかどうかを示すために使用される（例えば、それらは、シーケンスレベルで、またはスライスヘッダ内など、ＮＬＡＬＦアクティブフラグと同じ場所に提供される）。変形例では、非線形ＡＬＦがルマ上で使用され、線形ＡＬＦがクロマ上で使用される。代替的な変形例では、非線形ＡＬＦがクロマ上で使用され、線形ＡＬＦがルマ上で使用される。

変形例では、ＮＬＡＬＦルマアクティブフラグとＮＬＡＬＦクロマアクティブフラグがスライスヘッダに提供される。ＮＬＡＬＦルマアクティブフラグは、非線形アダプティブループフィルタがルマ成分で使用されるかどうか、したがって非線形ＡＬＦのクリッピングパラメータが各ルマフィルタについてシグナリングされるかどうかを示す。ＮＬＡＬＦクロマアクティブフラグは、非線形アダプティブループフィルタがクロマ成分に使用されるかどうか、したがって非線形ＡＬＦのクリッピングパラメータがクロマフィルタのためにシグナリングされるかどうかを示す。

変形例では、ＮＬＡＬＦクロマアクティブフラグはシグナリングされないが、ＮＬＡＬＦルマアクティブフラグがゼロに等しい場合、ゼロに等しいと推測され、その結果、非線形ＡＬＦはクロマのみでは使用できない。

変形例では、非線形ＡＬＦは常にルマに使用され（デフォルトではＮＬＡＬＦルマアクティブフラグは使用されない、または、対応するデフォルト値であると仮定されてもよい）、ＮＬＡＬＦクロマアクティブフラグは非線形ＡＬＦまたは線形ＡＬＦがクロマに使用されるかどうかを示すために使用される。別の変形例では、線形ＡＬＦが（デフォルトではＮＬＡＬＦルマアクティブフラグは使用されない、または対応するデフォルト値であると仮定される）ルマに常に使用され、ＮＬＡＬＦクロマアクティブフラグが非線形ＡＬＦまたは線形ＡＬＦがクロマに使用されるかどうかを示すために使用される。変形例では、ＮＬＡＬＦルマアクティブフラグが、非線形ＡＬＦ又は線形ＡＬＦがルマに使用されるかどうか示すために使用され、非線形ＡＬＦは常にクロマに使用される（デフォルトではしたがって、ＮＬＡＬＦクロマアクティブフラグは使用されないか、または対応するデフォルト値であると仮定されてもよい）。変形例ではＮＬＡＬＦルマアクティブフラグが、非線形ＡＬＦまたは線形ＡＬＦがルマに使用されるかどうかを示すために使用され、線形ＡＬＦはクロマに常に使用される（デフォルトではＮＬＡＬＦクロマアクティブフラグは使用されないか、または対応するデフォルト値であると仮定されてもよい）。

一実施形態では、ＮＬＡＬＦフラグ（又はＮＬＡＬＦルマアクティブフラグ又はＮＬＡＬＦクロマアクティブフラグ）が、ＮＬＡＬＦフラフがＳＰＳ内でアクティブである場合にのみ、スライスヘッダに入れられる。ＮＬＡＬＦアクティブフラグ（またはＮＬＡＬＦルマアクティブフラグまたはＮＬＡＬＦクロマアクティブフラグ）が存在しない場合、デフォルトでは非アクティブと見なされる。

一実施形態では、ＮＬＡＬＦフラグは、ＳＰＳおよびスライスヘッダ内のＡＬＦフラグを置き換える。古典的な（線形のみの)ＡＬＦは、クリッピング関数が許容されるクリッピングパラメータ値に対して線形出力を可能にする実施形態を除いて、もはや使用することができない。

一実施形態によれば、クリッピングパラメータのシグナリグは、フィルタ係数の場合と同様の方法で行われる。クリッピングパラメータの（ｅｘｐ－）Ｇｏｌｏｍｂ符号化のためのパラメータが最初にシグナリングされる：ＶＬＣコードが（ｅｘｐ－）Ｇｏｌｏｍｂコードの最小次数をシグナリングするために使用され、次いで、各（ｅｘｐ－）Ｇｏｌｏｍｂインデックス（例えば、ルマフィルタのための３つのインデックスおよびクロマのための２つのインデックス）のために、フラグは、（ｅｘｐ－）Ｇｏｌｏｍｂ次数が現在のインデックスおよび次のインデックス（最小次数から開始する）のために増加されなければならないかどうかをシグナリングするために使用される。

次に、クリッピングパラメータは、（ｅｘｐ－）Ｇｏｌｏｍｂパラメータを記憶するテーブルからの（例えばフィルタ係数と同じ固定テーブル内の）係数インデックスに関連する（ｅｘｐ－）Ｇｏｌｏｍｂインデックスを用いて取られた（ｅｘｐ－）Ｇｏｌｏｍｂ順次数を有する（符号なし整数の）（ｅｘｐ－）Ｇｏｌｏｍｂコードを使用して、各（ディスエーブルされていない）フィルタについてシグナリングされる。

代替の実施形態によれば、各符号化フィルタについて、（ｅｘｐ－）Ｇｏｌｏｍｂ符号化パラメータ値が、例えばスライスヘッダにおいてシグナリングされ、各クリッピングパラメータ値が、符号無し整数（ｅｘｐ－）Ｇｏｌｏｍｂ符号化のために、提供された（ｅｘｐ－）Ｇｏｌｏｍｂ符号化パラメータ値を使用して符号化される。

一実施形態によれば、（ｅｘｐ－）Ｇｏｌｏｍｂ符号化パラメータ値は、利用可能な（ｅｘｐ－）Ｇｏｌｏｍｂ符号化パラメータ値のテーブル内のインデックスとしてシグナリングされる。

一実施形態によれば、フラグは、例えば、ルマフィルタのクリッピング・パラメータがデルタモードを使用してシグナリングされるかどうかを示すフラグ、がスライスヘッダ内にシグナリングされる。デルタモードがアクティブであるとき、第１のフィルタクリッピングパラメータは前述のように符号化されるが、後続のフィルタクリッピングパラメータの各々は後続のフィルタクリッピングパラメータと前に符号化されたフィルタクリッピングパラメータとの間の差として符号化される。その場合、差分は符号付き整数（ｅｘｐ－）Ｇｏｌｏｍｂ エンコードを使用してエンコードされる。

一実施形態によれば、フラグは、例えば、フィルタのクリッピングパラメータがデルタモードを使用できるかどうかを示すフラグは、スライスヘッダ内にシグナリングされる。一実施形態によれば、デルタモードがアクティブであるとき、各フィルタについてフラグがシグナリングされる。このフラグは、フィルタのクリッピングパラメータがデルタモードを使用するか否かを示す。一実施形態によれば、デルタモードが所与のフィルタのクリッピングパラメータを符号化するためにアクティブであるとき、クリッピングパラメータは１つずつ符号化され、最初のものは符号無し（ｅｘｐ－）Ｇｏｌｏｍｂ符号化を使用し、後続するものはクリッピングパラメータと以前に符号化されたクリッピングパラメータの値との間の差の符号付き（ｅｘｐ－）Ｇｏｌｏｍｂ符号化を使用する。

代替実施形態によれば、クリッピングパラメータがとり得る値の数は、２つの異なる値に制限される。次に、単一ビットが、どっちのリッピングパラメータ値を使用しなければならないかをシグナリングするための使用される（（ｅｘｐ－）Ｇｏｌｏｍｂパラメータを提供する必要はない）。

一実施形態によれば、クリッピングパラメータの条件付きシグナリングが実行され、不要なデータのシグナリング（例えば、フィルタ係数がゼロであるか、またはデコーダ側のフィルタに対する既知の値に等しい場合）を最小限に抑える。変形例では、例えば、クリッピングパラメータがシグナリングされる前に、スライスヘッダにおいてフィルタ係数がシグナリングされ、ゼロに等しいフィルタの各ｉ番目のフィルタ係数について、その対応するｉ番目のクリッピングパラメータはシグナリングされない。これは、ｉ番目のクリッピングがフィルタにとって有用ではないからである。というのは、フィルタの結果がゼロ係数によって乗算され、その結果、フィルタリングされた出力に対するｉ番目のクリッピングからの影響がないためである。１つの変形例では、クリッピングがデフォルト値（例えば、サンプルビット深度に従った最大可能値）に設定される。別の変形例では、フィルタリング処理は、ゼロ係数が乗算されると予想される入力サンプルにクリッピングを適用しない。

一実施形態によれば、非線形フィルタがそのルマフィルタに使用されるか否かを示すために、各ルマフィルタに対してフラグがシグナリングされる。変形例では、ルマフィルタのクリッピングパラメータ／値は、非線形フィルタがそのルマフィルタに使用される場合（すなわち、フラグがアクティブである場合）にのみシグナリングされる。

一実施形態によれば、非線形フィルタがそのクロマフィルタと共に使用されるか否かを示すために、クロマフィルタに対してフラグがシグナリングされる。変形例では、クロマフィルタのクリッピングパラメータ／値が、非線形フィルタがそのクロマフィルタに使用される場合（すなわち、フラグがアクティブである場合）にのみシグナリングされる。

実施形態によれば、ＡＬＦパラメータおよびフラグなどのＡＬＦ関連情報のシグナリングは、ＡＰＳシンタックス（テーブル１）、タイルグループヘッダシンタックス（テーブル２）、コーディングツリーユニットシンタックス（テーブル３）、および／またはＶＶＣドラフトバージョン３と同じ構文命名規則を使用する以下に示す非線形ＡＬＦデータ構文（テーブル４）のうちの１つ以上を使用して実行される。変形例によれば、４つのシンタックス全て（例えば、テーブル１～４）は、ＡＬＦ関連情報をシグナリングするために使用される。別の変形例によれば、４つのシンタックスのサブセットは、ＡＬＦ関連情報をシグナリングするために使用される。

テーブル１と２は、ＡＬＦパラメータ(ａｌｆ_ｄａｔａ等） を提供／シグナリングするための高レベルシンタックスを示す。

テーブル１ － アダプテーションパラメータセット（ＡＰＳ）シンタックス

テーブル２ － タイルグループヘッダシンタックス

他の実施形態（またはその変形）に関連して説明されるスライス（ヘッダ）はテーブル２のタイルグループヘッダシンタックス（tile group header syntax）によって示されるように、タイルグループ（ヘッダ）によって置き換えられる。したがって、“ｔｉｌｅ＿ｇｒｏｕｐ＿ＡＬＦ＿ｅｎａｂｌｅｄ＿ｆｌａｇ”は、図２の２０２および図５の５０２のシンタックス要素に対応し、ＡＬＦがタイルグループに対してアクティブであるかどうかを表す。さらに、ＡＬＦデータシンタックス要素は、タイルグループヘッダには提供されない（他の実施形態ではスライスと共に、スライスヘッダに提供されてもよい）。代わりに、ＡＬＦデータシンタックス要素はテーブル１に示すように、アダプテーションパラメータセット（Adaptation Parameter Set：ＡＰＳ）と呼ばれる特定のパラメータ設定で提供される。ＡＬＦデータは、ＡＬＦシンタックス要素を含み、ＡＰＳにおけるＡＬＦデータシンタックス要素の提供は、同一および／または異なる復号化画像における複数のタイルグループ間など、複数のタイルグループ間でＡＬＦパラメータを共有することを可能にする。

テーブル１のアダプテーションパラメータセット（ＡＰＳ）シンタックスは、任意のアダプテーションパラメータセットのシグナリングを定義するために使用される。変形例では、ＡＰＳは、非“ビデオ符号化レイヤ”（ＶＣＬ）“ネットワーク抽象化レイヤ”（ＮＡＬ）ユニット（例えば、“ＡＰＳ＿ＮＵＴ”またはＡＰＳ ＮＡＬユニットタイプと呼ばれる）に含まれる。

ＡＰＳの各シンタックス要素のセマンティクスは次のとおりである。
アダプテーションパラメータセットセマンティクス
Ａｄａｐｔａｔｉｏｎ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄは、他のシンタックス要素によって参照されるＡＰＳを識別する。ａｄａｐｔａｔｉｏｎ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄ の値は、０から６３までの範囲内である必要がある。

テーブル２ のタイルグループヘッダーシンタックスは、各タイルグループヘッダーを定義するために使用される。タイルグループヘッダは、各タイルグループに対して提供される。タイルグループは、タイルのセットを含み、各タイルはＣＴＵのセットを含む。

タイルグループヘッダのシンタックス要素のセマンティクスは次のとおりである：
グループヘッダセマンティクス
ｔｉｌｅ＿ｇｒｏｕｐ＿ＡＰＳ＿ｉｄ は、タイルグループが参照するＡＰＳ のａｄａｐｔａｔｉｏｎ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄ を特定する。ｔｉｌｅ＿ｇｒｏｕｐ＿ａｐｓ＿ｉｄの値は、０から６３の範囲内である。ａｄａｐｔａｔｉｏｎ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄがｔｉｌｅ＿ｇｒｏｕｐ＿ＡＰＳ＿ｉｄに等しいＡＰＳ ＮＡＬLユニットのＴｅｍｐｏｒａｌＩｄは、符号化タイルグループＮＡＬユニットのＴｅｍｐｏｒａｌＩｄ以下でなければならない。

テーブル３は、ＣＴＵレベルで、ＡＬＦがアクティブである各成分に使用されるＡＬＦ(ｅｎａｂｌｅ)フラグをシグナリングするためのシンタックス要素を提供する。これは、図２の２０８、２０９、および２１０、ならびに図５の５０８、５０９、および５１０で使用されるシンタックス要素に対応する。

テーブル３ － コーディングツリーユニットシンタックス

テーブル３のコーディングツリーユニットシンタックスは、（符号化された）符号化ツリーユニットを定義するために使用される。コーディングツリーユニットの各シンタックス要素のセマンティクスは次のとおりである：
コーディングツリーユニットセマンティクス
ＣＴＵは、コーディング四分木構造のルートノードである。
ａｌｆ＿ｃｔｂ＿ｆｌａｇ［ｃＩｄｘ］［ｘＣｔｂ＞＞Ｌｏｇ２ＣｔｂＳｉｚｅ］［ｙＣｔｂ＞＞Ｌｏｇ２ＣｔｂＳｉｚｅ］＝１の場合、アダプティブループフィルタが、ルマロケーション（ｘＣｔｂ、ｙＣｔｂ）のコーディングツリーユニットのｃＩｄｘ によって示される色成分のコーディングツリーブロックに適用されることを特定する。ａｌｆ＿ｃｔｂ＿ｆｌａｇ［ｃＩｄｘ］［ｘＣｔｂ＞＞Ｌｏｇ２ＣｔｂＳｉｚｅ］［ｙＣｔｂ＞＞Ｌｏｇ２ＣｔｂＳｉｚｅ］＝０の場合、アダプティブループフィルタが、ルマロケーション（ｘＣｔｂ、ｙＣｔｂ）のコーディングツリーユニットのｃＩｄｘ によって示される色成分のコーディングツリーブロックに適用されないことを特定する。

ａｌｆ＿ｃｔｂ＿ｆｌａｇ［ｃＩｄｘ］［ｘＣｔｂ＞＞Ｌｏｇ２ＣｔｂＳｉｚｅ］［ｙＣｔｂ＞＞Ｌｏｇ２ＣｔｂＳｉｚｅ］が存在しない場合、０ と推測される。

テーブル４は、非線形ＡＬＦパラメータ（すなわち、非線形ＡＬＦデータシンタックス）をシグナリングするためのシンタックス要素を提供し、これは、ＶＶＣドラフトバージョン３のＡＬＦデータシンタックス要素に基づいて構築される。これらのシンタックス要素は、図２のシンタックス要素上に構築される図５の非線形ＡＬＦシンタックス要素を参照して、本明細書に記載される変形例において使用されるシンタックス要素上に構築される。

テーブル４ － 非線形ＡＬＦデータシンタックス

テーブル４の非線形アダプティブループフィルタ（ＡＬＦ）データシンタックスは、適応パラメータセット（テーブル１に示される）を定義するために使用される。非線形ＡＬＦデータシンタックス要素のセマンティックスは以下の通りである：
アダプティブループフィルタデータセマンティクス
ａｌｆ＿ｃｈｒｏｍａ＿ｉｄｃが０に等しい場合、アダプティブループフィルタがＣｂおよびＣｒ色成分に適用されないことを特定する。ａｌｆ＿ｃｈｒｏｍａ＿ｉｄｃが１に等しい場合、アダプティブループフィルタがＣｂ色成分に適用されることを特定する。
ａｌｆ＿ｃｈｒｏｍａ＿ｉｄｃが２に等しい場合、アダプティブループフィルタがＣｒ色成分に適用されることを示す。ａｌｆ＿ｃｈｒｏｍａ＿ｉｄｃが３に等しい場合、アダプティブループフィルタがＣｂおよびＣｒ色成分に適用されることを示す。

切り捨て後の単項２値ｔｕ（ｖ）の最大値ｍａｘＶａｌは、３に等しく設定される。

異なるアダプティブループフィルタ数を特定する変数ＮｕｍＡｌｆＦｉｌｔｅｒは、２５に等しく設定される。

ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｆｉｌｔｅｒｓ＿ｓｉｇｎａｌｌｅｄ＿ｍｉｎｕｓ１ ＋１は、ルマ係数をシグナリングできるアダプティブループフィルタクラスの数を特定する。ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｆｉｌｔｅｒｓ＿ｓｉｇｎａｌｌｅｄ＿ｍｉｎｕｓ１ の値は、０ からＮｕｍＡｌｆＦｉｌｔｅｒｓ－１ までの範囲内である必要がある。

切り捨て後のバイナリ二値化ｔｂ（ｖ） の最大値ｍａｘＶａｌは、ＮｕｍＡｌｆＦｉｌｔｅｒｓ－１ に等しく設定される。

ａｌｆ_ｌｕｍａ_ｃｏｅｆｆ_ｄｅｌｔａ_ｉｄｘ[ｆｉｌｔＩｄｘ]は、０からＮｕｍＡｌｆＦｉｌｔｅｒｓ－１までの範囲のｆｉｌｔＩｄｘで示されるフィルタクラスのシグナリングされたアダプティブループフィルタルマ係数デルタのインデックスを指定する。ａｌｆ_ｌｕｍａ_ｃｏｅｆｆ_ｄｅｌｔａ_ｉｄｘ[ｆｉｌｔＩｄｘ]が存在しない場合、０ に等しいと推測される。

切り捨て後のバイナリニ値化ｔｂ（ｖ） の最大値ｍａｘＶａｌ は、ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｆｉｌｔｅｒｓ＿ｓｉｇｎａｌｌｅｄ＿ｍｉｎｕｓ１ に設定される。

ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｆｌａｇ が１ に等しい場合、ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｐｒｅｄｉｃｔｉｏｎ＿ｆｌａｇ がシグナリングされないことを示す。ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｆｌａｇ が０ の場合、ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｐｒｅｄｉｃｔｉｏｎ＿ｆｌａｇ がシグナリングされる可能性があることを示す。

ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｐｒｅｄｉｃｔｉｏｎ＿ｆｌａｇ が１ に等しい場合、シグナリングされたルマフィルタ係数デルタが、以前のルミナンス係数のデルタから予測されることを特定する。ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｐｒｅｄｉｃｔｉｏｎ＿ｆｌａｇ が０ に等しい場合、シグナリングされたルマフィルタ係数デルタが、以前のルマ係数のデルタから予測されないことを指定する。存在しない場合、ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｐｒｅｄｉｃｔｉｏｎ＿ｆｌａｇ は０ に等しいと推測される。

ａｌｆ＿ｌｕｍａ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１ ＋ １ は、ルマフィルタ係数のシグナリングのためのｅｘｐ－Ｇｏｌｏｍｂ コードの最小の次数を特定する。ａｌｆ＿ｌｕｍａ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１ の値は、０ 以上６ 以下の範囲とする。

ａｌｆ＿ｌｕｍａ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］が１に等しい場合、ルマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数が１だけインクリメントされることを特定する。ａｌｆ＿ｌｕｍａ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］が０に等しい場合、ルマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数が１だけインクリメントされないことを特定する。

ａｌｆ_ｌｕｍａ_ｃｏｅｆｆ_ｄｅｌｔａ_ａｂｓ[ｓｉｇＦｉｌｔＩｄｘ][ｊ]の値をデコードするために使用されるｅｘｐ－Ｇｏｌｏｍｂ符号の次数ｅｘｐＧｏＯｒｄｅｒＹ[ｉ]は、次のように導出される：
ｅｘｐＧｏＯｒｄｅｒ［ｉ］＝ａｌｆ＿ｌｕｍａ＿ｍｉｎ＿ｅｇ＿ｏｒｅｄｅｒ＿ｍｉｎｕｓ１＋１＋ａｌｄ＿ｌｕｍａ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］

ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｆｌａｇ［ｓｉｇＦｉｌｔＩｄｘ］が１に等しい場合、ｓｉｇＦｉｌｔＩｄｘで表されるルマフィルタの係数がシグナリングされることを特定する。ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｆｌａｇ［ｓｉｇＦｉｌｔＩｄｘ］が０に等しい場合、ｓｉｇＦｉｌｔＩｄｘで表されるルマフィルタの全ての係数が０にセットされることを特定する。

ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ａｂｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］は、ｓｉｇＦｉｌｔＩｄｘで表されるシグナリングされたルマフィルタのｊ番目の係数デルタの絶対値を特定する。ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ａｂｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］が存在しない場合、０ に等しいと推測される。

ｅｘｐ－Ｇｏｌｏｍｂのバイナリｕｅｋ（ｖ）の次数ｋは、次のように導出される：
ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＹ［］＝｛０、０、１、０、０、１、２、１、０、０、１、２ ｝
ｋ＝ｅｘｐＧｏＯｒｄｅｒＹ［ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＹ［ｊ］］

ａｌｆ_ｌｕｍａ_ｃｏｅｆｆ_ｄｅｌｔａ_ｓｉｇｎ[ｓｉｇＦｉｌｔＩｄｘ][ｊ]は、ｓｉｇＦｉｌｔＩｄｘ が示すフィルタのｊ 番目のルマ係数の符号を次のように指定する：－ もしａｌｆ＿Ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｓｉｇｎ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］が０に等しい場合、対応するルマフィルタ係数は正の値を持つ。
－ それ以外（ａｌｆ＿Ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｓｉｇｎ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］が１に等しい場合）、対応するルマフィルタ係数は負の値を持つ。

ａｌｆ_ｌｕｍａ_ｃｏｅｆｆ_ｄｅｌｔａ_ｓｉｇｎ[ｓｉｇＦｉｌｔＩｄｘ][ｊ]が存在しない場合、０に等しいと推測される。

ｓｉｇＦｉｌｔＩｄｘが０～ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｆｉｌｔｅｒ＿ｓｉｇｎａｌｅｄ＿ｍｉｎｕｓ１、ｊが０～１１であるときの、変数ｆｉｌｔｅｒＣｏｅｆｆｉｃｉｅｎｔｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］は次のように初期化される。
ｆｉｌｔｅｒＣｏｅｆｆｉｃｉｅｎｔｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］＝ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ａｂｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］＊（１－２＊ａｌｆ＿Ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｓｉｇｎ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］）

ａｌｆ_ｌｕｍａ_ｃｏｅｆｆ_ｄｅｌｔａ_ｐｒｅｄｉｃｔｉｏｎ＿ｆｌａｇが１に等しい場合、ｓｉｇＦｉｌｔＩｄｘｇが１～ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｆｉｌｔｅｒｓ＿ｓｉｇｎａｌｌｅｄ＿ｍｉｎｕｓ１で、ｊが０～１１である場合のｆｉｌｔｅｒＣｏｅｆｆｉｃｉｅｎｔｓ［ｓｉｇＦｉｌｔＩｄｘ］「ｊ」は、次のように変形される。
ｆｉｌｔｅｒＣｏｅｆｆｉｃｅｎｔｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］＋＝ｆｉｌｔｅｒＣｏｅｆｆｉｃｉｅｎｔｓ［ｓｉｇＦｉｌｔＩｄｘ－１］［ｊ］

ｆｉｌｔＩｄｘが０～ＮｕｍＡｌｆＦｉｌｔｅｒ－１で、ｊが０～１１であるときの要素ＡｌｆＣｏｅｆＬ「ｆｉｌｔＩｄｘ」［ｊ］でのルマフィルタ係数ａｌｆＣｏｅｆｆＬは、次のように導出される。
ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［ｊ］＝ｆｉｌｔｅｒＣｏｅｆｆｉｃｉｅｎｔｓ［ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｉｄｘ［ｆｉｌｔＩｄｘ］［ｊ］

ｆｉｌｔＩｄｘが０～ＮｕｍＡｌｆＦｉｌｔｅｒｓ－１での、最後のフィルタ係数ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［１２］は、次のように導出される。
ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［１２］＝１２８

ｆｉｌｔＩｄｘが０～ＮｕｍＡｌｆＦｉｌｔｅｒ－１、ｊが０～１１におけるＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［ｊ］の値は－２＾７ ～ ２＾７ －１ の範囲であり、ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［１２］の値は０～ ２＾８ －１ の範囲内であることが、ビットストリームの適合の要件である。

ａｌｆ＿ｃｈｒｏｍａ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１ ＋ １ は、クロマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数を特定する。ａｌｆ＿ｃｈｒｏｍａ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１の値は、０～６以の範囲内とする。

ａｌｆ＿Ｃｈｒｏｍａ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］が１に等しい場合、クロマフィルタ係数シグナリングのためのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数を１だけインクリメントすることを特定する。ａｌｆ＿Ｃｈｒｏｍａ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］が０に等しい場合、クロマフィルタ係数シグナリングのためのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数を１だけインクリメントしないことを特定する。

ａｌｆ_ｃｈｒｏｍａ_ｃｏｅｆｆ_ａｂｓ[ｊ]の値をデコードするために使用されるｅｘｐ－Ｇｏｌｏｍｂ符号の次数ｅｘｐＧｏＯｒｄｅｒＣ[ｉ]は、次のように導出される：
ｅｘｐＧｏＯｒｄｅｒＣ［ｉ］＝ａｌｆ＿ｃｈｒｏｍａ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１＋１＋ａｌｆ＿ｃｈｒｏｍａ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］

ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ａｂｓ［ｊ］は、ｊ番目のクロマフィルタ係数の絶対値を特定する。ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ａｂｓ［ｊ］が存在しない場合、０に等しいと推測される。

ｅｘｐ－Ｇｏｌｏｍｂバイナリｕｅｋ（）の次数は、次のように導出される。
ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＣ［］＝｛０、０、１、０、０、１｝
ｋ＝ｅｘｐＧｏＯｒｄｅｒＣ［ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＣ［ｊ］］

ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ｓｉｇｎ［ｊ］は、ｊ番目のクロマフィルタ係数の符号を特定するもので、次の通りである。
－ もし、ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ｓｉｇｎ［ｊ］が０に等しい場合は、対応するクロマフィルタ係数は正の値を持つ
－ これ以外（ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ｓｉｇｎ［ｊ］が１に等しい）の場合は、対応するクロマフィルタ係数は負の正を持つ。

ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ｓｉｇｎ［ｊ］が存在しない場合は、０に等しいと推測される。

要素ｃＣ［ｊ］を持ち、ｊが０～５の場合のクロマフィルタ係数ａｌｆＣｏｅｆｆＣは、次のように導出される。
ＡｌｆＣｏｅｆｆＣ［ｊ］＝ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ａｂｓ［ｊ］＊（１－２＊ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ｓｉｇｎ［ｊ］）

ｊ＝６の場合の最後のフィルタ係数は、次のように導出される。
ＡｌｆＣｏｅｆｆＣ［６］＝１２８

ｊが０～５の場合のＡｌｆＣｏｅｆｆＣ［ｊ］の値は、－２＾７～２＾７－１の範囲内にあり、ＡｌｆＣｏｅｆｆＣ［６］は０～２＾８－１の範囲内にあることが、ビットストリーム適合の要件である。

ａｌｆ＿ｌｕｍａ＿ｃｌｉｐが０に等しい場合は線形アダプティブループフィルタがルマ成分に適用されることを特定し、ａｌｆ＿ｌｕｍａ＿ｃｌｉｐが１に等しい場合は、非線形アダプティブループフィルタがルマ成分に適用されること特定する。

ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐが０に等しい場合は線形アダプティブループフィルタがクロマ成分に適用されることを特定し、ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐが１に等しい場合は、非線形アダプティブループフィルタがクロマ成分に適用されること特定する。ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐが存在しない場合は０であると推測される。

ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｄｅｆａｕｌｔ＿ｔａｂｌｅが１に等しい場合、デフォルトのａｌｆ＿ｌｕｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕ［］テーブルが、クリッピングインデックスをクリッピング値に変換するために使用される。ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｄｅｆａｕｌｔ＿ｔａｂｌｅが０に等しい場合は。ａｌｆ＿ｌｕｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅ［］テーブルがａｌｆ＿ｄａｔａ（）内に存在することを示す。

ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１ ＋ １ は、ａｌｆ_ｌｕｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]テーブルのサイズを示す。存在しない場合、ｂｉｔＤｅｐｔｈＹ に等しいと推測される。

ａｌｆ_ｌｕｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[ｃｌｉｐＩｄｘ]は、ａｌｆ_ｌｕｍａ_ｃｌｉｐ_ｉｄｘ[][]テーブルにてクリッピングインデックスｃｌｉｐＩｄｘがシグナリングされたときに使用するクリッピング値を特定する。存在しない場合、ａｌｆ_ｌｕｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]={１ ＜＜ bitDepthY、１ ＜＜（ｂｉｔＤｅｐｔｈＹ－１）、．．．、８、４、２ ｝であるとと推測される。

便宜上、ａｌｆ＿ｌｕｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅ［ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１＋１］は、１ ＜＜ ｂｉｔＤｅｐｔｈＹに等しいと推論される。

ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｄｅｆａｕｌｔ＿ｔａｂｌｅ が１に等しい場合は、クリッピングインデックスをクリッピング値に変換するためにデフォルトのａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]テーブルが使用されること特定し、ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｄｅｆａｕｌｔ＿ｔａｂｌｅ が０に等しい場合は、ａｌｆ＿ｄａｔａ（）内にａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]テーブルが存在することを示す。

ａｌｆ＿ｃｈｒｏｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１ ＋ １ は、ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]テーブルのサイズを示す。存在しない場合、それはｂｉｔＤｅｐｔｈＣに等しいと推測される。

ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[ｃｌｉｐＩｄｘ]は、ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐ_ｉｄｘ[][]テーブル内に、インデックスクリップｃｌｉｐＩｄｘ がシグナリングされるときに使用されるクリッピング値を特定する。存在しない場合、ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]={１ ＜＜ bitDepthC、１ ＜＜(ｂｉｔＤｅｐｔｈＣ－１）、．．．、８、４、２ ｝ と推測される。

便宜上、ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[ａｌｆ_ｃｈｒｏｍａ_ｎｕｍ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅｓ_ｍｉｎｕｓ１ ＋ １ ］ は、１＜＜ｂｉｔＤｅｐｔｈＣと等しいと推測される。

ａｌｆ_ｌｕｍａ_ｆｉｌｔｅｒ_ｃｌｉｐ[ｓｉｇＦｉｌｔＩｄｘ]が０ に等しい場合、ｓｉｇＦｉｌｔＩｄｘ で示されるルナフィルタで線形アダプティブループフィルタが適用されることを特定する。ａｌｆ_ｌｕｍａ_ｆｉｌｔｅｒ_ｃｌｉｐ[ｓｉｇＦｉｌｔＩｄｘ]が１に等しい場合、ｓｉｇＦｉｌｔＩｄｘ が示すルナフィルタで非線形アダプティブループフィルタが適用されることを特定する。

ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１ ＋ １ は、ルマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数を特定する。ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１ の値は、０～６の範囲内とする。

ａｌｆ_ｌｕｍａ_ｃｌｉｐ_ｅｇ_ｏｒｄｅｒ_ｉｎｃｒｅａｓｅ_ｆｌａｇ[ｉ]が１に等しい場合、ルマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数が１だけインクリメントされることを特定する。ａｌｆ_ｌｕｍａ_ｃｌｉｐ_ｅｇ_ｏｒｄｅｒ_ｉｎｃｒｅａｓｅ_ｆｌａｇ[ｉ]が０ に等しい場合、ルマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数が１だけインクリメントされないことを特定する。

ａｌｆ_ｌｕｍａ_ｃｌｉｐ_ｉｄｘ[ｓｉｇＦｉｌｔＩｄｘ][ｊ]の値をデコードするために使用されるｅｘｐ－Ｇｏｌｏｍｂ符号の次数ｅｘｐＧｏＯｒｄｅｒＹＣｌｉｐ[ｉ]は、次のように導出される：
ｅｘｐＧｏＯｒｄｅｒＹＣｌｉｐ［ｉ］＝ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１＋１＋ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］

ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｉｄｘ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］は、ｓｉｇＦｉｌｔＩｄｘで表されるシグナリングされたルマフィルタのｊ番目の係数で乗算する前に使用されるクリッピングのクリッピングインデックスを特定する。ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｉｄｘ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］が存在しない場合、ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１＋１（クリッピング無し）に等しいと推測される。

ｅｘｐ－Ｇｏｌｏｍｂバイナリｕｅｋ（ｖ）の次数ｋは、次のように導出される：
ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＹＣｌｉｐ[]＝{０、０、１、０、０、１、２、１、０、０、１、２ ｝
ｋ = ｅｘｐＧｏＯｒｄｅｒＹＣｌｉｐ［ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＹＣｌｉｐ[ｊ]］

ｓｉｇＦｉｌｔＩｄｘが０～ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｆｉｌｔｅｒｓ＿ｓｉｇｎａｌｌｅｄ＿ｍｉｎｕｓ１で、ｊが０～１１である場合の変数ｆｉｌｔｅｒＣｌｉｐｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］は、次のように初期化される。
ｆｉｌｔｅｒＣｌｉｐｓ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］＝ａｌｄ＿ｌｕｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅ［ａｌｆ＿ｌｕｍａ＿ｃｌｉｐ＿ｉｄｘ［ｓｉｇＦｉｌｔＩｄｘ］［ｊ］］

要素ＡｌｆＣｌｉｐＣ［ｆｉｌｔＩｄｘ］［ｊ］を持ち、ｆｉｌｔＩｄｘが０～ＮｕｍＡｌｆＦｉｌｔｅｒｓ－１、Ｊが０～１１である場合の、ルマフィルタクリッピング値ＡｌｆＣｌｉｐＬは、次のように初期化される。
ＡｌｆＣｌｉｐＬ［ｆｉｌｔＩｄｘ］［ｊ］＝ｆｉｌｔｅｒＣｌｉｐｓ［ａｌｆ＿ｌｕｍａ＿ｃｏｅｆｆ＿ｄｅｌｔａ＿ｉｄｘ［ｆｉｌｔＩｄｘ］］［ｊ］

ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐ_ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１＋１は、クロマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数を特定する。ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐ_ｍｉｎ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１の値は、０～７の範囲内とする。

ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐ_ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］が１に等しい場合、クロマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数は１だけ増加することを特定する。ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐ_ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］が０に等しい場合、クロマフィルタ係数シグナリングのｅｘｐ－Ｇｏｌｏｍｂ符号の最小次数は１だけ増加しないことを特定する。

ａｌｆ＿ｃｈｒｏｍａ＿ｃｏｅｆｆ＿ａｂｓ［ｊ］の値をデコードする際に使用するｅｘｐ－Ｇｏｌｏｍｂ符号の次数ｅｘｐＧｏＯｒｄｅｒＣ［ｉ］は、次のように導出される。
ｅｘｐＧｏＯｒｄｅｒＣ［ｉ］＝ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｅｇ＿ｏｒｄｅｒ＿ｍｉｎｕｓ１＋１＋ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｅｇ＿ｏｒｄｅｒ＿ｉｎｃｒｅａｓｅ＿ｆｌａｇ［ｉ］

ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｉｎｘ［ｊ］は、クロマフィルタのｊ番目の係数で乗算する前に使用されるクリッピングのクリッピングインデックスを特定する。ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｉｎｘ［ｊ］が存在しない場合は、ａｌｆ＿ｃｈｒｏｍａ＿ｎｕｍ＿ｃｌｉｐ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１＋１（クリッピング無し）に等しいと推測される。

ｅｘｐ－Ｇｏｌｏｍｂバイナリｕｅｋ（ｖ）の次数ｋは次のように導出される。
ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＣ［］＝｛０，０，１，０．０，１｝
ｋ＝ｅｘｐＧｏＯｒｄｅｒＣ［ｇｏｌｏｍｂＯｒｄｅｒＩｄｘＣ［ｊ］］

ｊが０～５における要素ＡｌｔＣｌｉｐＣ［ｊ］を持つ、クロマフィルタクリッピング値ＡｌｆＣｌｉｐＣは、次のように導出される。
ＡｌｆＣｌｉｐＣ［ｊ］＝ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅ［ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐ＿ｉｄｘ［ｊ］］

変形例によれば、ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１ は、ａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ２ に置き換えられ、クリッピング値はｉｎｄｅｘ＝１ からａｌｆ＿ｌｕｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ２＋１ に提供され、ａｌｆ_ｌｕｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]の最初の値ａｌｆ＿ｌｕｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅ［ ０]＝１＜＜ｂｉｔＤｅｐｔｈＹ として推測される。ａｌｆ＿ｃｈｒｏｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ１ は、ａｌｆ＿ｃｈｒｏｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ２ に置き換えられ、クリッピング値はｉｎｄｅｘ＝１ からａｌｆ＿ｃｈｒｏｍａ＿ｎｕｍ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅｓ＿ｍｉｎｕｓ２＋１ に提供され、ａｌｆ_ｃｈｒｏｍａ_ｃｌｉｐｐｉｎｇ_ｖａｌｕｅ[]の最初の値は、ａｌｆ＿ｃｈｒｏｍａ＿ｃｌｉｐｐｉｎｇ＿ｖａｌｕｅ［ ０]= １＜＜ｂｉｔＤｅｐｔｈＣ として推測される。

変形例によれば、アダプティブループフィルタリング処理は、上記のシンタックス要素を使用する。このような変形例は、以下のＶＶＣドラフト仕様書の表記規則を用いて、以下のよう説明される。
アダプティブループフィルタ処理
一般
このプロセスの入力は、アダプティブループフィルタｒｅｃＰｉｃｔｕｒｅＬ、ｒｅｃＰｉｃｔｕｒｅＣｂ、およびｒｅｃＰｉｃｔｕｒｅＣｒの前の、再構成画像サンプルアレイである。
このプロセスの出力は、アダプティブループフィルタａｌｆＰｉｃｔｕｒｅＬ、ａｌｆＰｉｃｔｕｒｅＣｂ、およびａｌｆＰｉｃｔｕｒｅＣｒの後の、修正された再構成されたピクチャサンプルアレイである。

アダプティブループフィルタａｌｆＰｉｃｔｕｒｅＬ，ａｌｆＰｉｃｔｕｒｅＣｂ，ａｌｆＰｉｃｔｕｒｅＣｒの後の修正後の再構成されたピクチャアンプルアレイにおけるサンプル値は、最初は、アダプティブループフィルタｒｅｃＰｉｃｔｕｒｅＬ、ｒｅｃＰｉｃｔｕｒｅＣｂ、ｒｅｃＰｉｃｔｕｒｅＣｒそれぞれを適用する以前の再構成されたピクチャサンプル値に等しくなるようにセットされる。

ｔｉｌｅ＿ｇｒｏｕｐ＿ａｌｆ＿ｅｎａｂｌｅｄ＿ｆｌａｇ が１に等しいとき、ｒｘ＝０～ＰｉｃＷｉｄｔｈＣｔｂｓ－１、ｒｙ」＝０～ＰｉｃＨｅｉｇｈｙＩｎＣｔＢｓ－１とする、ルマコーディングツリーブロックロケーション(ｒｘ、ｒｙ)を持つすべてのコーディングツリーユニットについて、次のように適用がなされる。

ａｌｆ＿ｃｔｂ＿ｆｌａｇ［０][ｒｘ][ｒｙ]が１に等しい場合、“ルマサンプルのコーディングツリーブロックフィルタリング処理”の句で特定されているルマサンプルのコーディングツリーブロックフィルタリング処理が、ｒｅｃＰｉｃｔｕｒｅＬ、ａｌｆＰｉｃｔｕｒｅＬ、及び、ルマコーディングツリーブロックロケーション（ｘＣｔｂ、ｙＣｔｂ） が入力として（ｒｘ ＜＜ ＣｔｂＬｏｇ２ＳｉｚｅＹ、ｒｙ ＜＜ ＣｔＬｏｇ２ＳｉｚｅＹ） として読み出され、その出力は修正されたフィルタリング後のピクチャａｌｆＰｉｃｔｕｒｅＬとなる。

ａｌｆ＿ｃｔｂ＿ｆｌａｇ［１][ｒｘ][ｒｙ]が１に等しい場合、“クロマサンプルのコーディングツリーブロックフィルタリング処理”の句で特定されているクロマサンプルのコーディングツリーブロックフィルタリング処理が、ｒｅｃＰｉｃｔｕｒｅＣｂに等しいＲｅｃＰｉｃｔｕｒｅセット、ａｌｆＰｉｃｔｕｒｅＣｂに等しいａｌｆＰｉｃｔｕｒｅセット、及び、クロマコーディングツリーブロックロケーション（ｘＣｔｂｃ、ｙＣｔｂＣ） が入力として（ｒｘ ＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）、ｒｙ ＜＜ （ＣｔＬｏｇ２ＳｉｚｅＹ－１））として読み出され、その出力は修正されたフィルタリング後のピクチャａｌｆＰｉｃｔｕｒｅＣｂとなる。

ａｌｆ＿ｃｔｂ＿ｆｌａｇ［２][ｒｘ][ｒｙ]が１に等しい場合、“クロマサンプルのコーディングツリーブロックフィルタリング処理”の句で特定されているクロマサンプルのコーディングツリーブロックフィルタリング処理が、
ｒｅｃＰｉｃｔｕｒｅＣｒに等しいＲｅｃＰｉｃｔｕｒｅセット、ａｌｆＰｉｃｔｕｒｅＣｒに等しいａｌｆＰｉｃｔｕｒｅセット、及び、クロマコーディングツリーブロックロケーション（ｘＣｔｂｃ、ｙＣｔｂＣ） が入力として（ｒｘ ＜＜ （ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）、ｒｙ ＜＜（ＣｔＬｏｇ２ＳｉｚｅＹー１））として読み出され、その出力は修正されたフィルタリング後のピクチャａｌｆＰｉｃｔｕｒｅＣｒとなる。

ルマサンプルのためのコーディングツリーブロックフィルタリング処理
このプロセスの入力は、アダプティブループフィルタリングプロセスの前の再構成されたルマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅＬ、フィルタリングされた再構成されたルマピクチャサンプルアレイａｌｆＰｉｃｔｕｒｅＬ、現在の画像の左上サンプルに対する現在のルマ符号化ツリーブロックの左上サンプルを特定するルマロケーション(ｘＣｔｂ、ｙＣｔｂ)である。
このプロセスの出力は、修正されフィルタリング後の再構成ルマピクチャサンプルアレイａｌｆＰｉｃｔｕｒｅＬである。

“ＡＬＦ転置のための導出プロセスおよび輝度サンプルのためのフィルタインデックス”のフィルタインデックス節の導出プロセスは、ロケーション(ｘＣｔｂ、ｙＣｔｂ)および再構成されたルマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅＬを入力とし呼び出され、ｘ、y＝０～ＣｔｂＳｉｚｅＹ－１における、ｆｉｌｔＩｄｘ[ｘ][ｙ]およびｔｒａｎｓｐｏｓｅＩｄｘ[ｘ][ｙ]は出力として呼びだされる。

フィルタリングされた再構成ルマサンプルａｌｆＰｉｃｔｕｒｅＬ[ｘ][ｙ]の導出のために、現在のルマコーディングツリーブロックｒｅｃＰｉｃｔｕｒｅＬ[ｘ][ｙ]内の各再構成ルマサンプルは、ｘ、y ＝ ０～ＣｔｂＳｉｚｅ－１にて、次のようにフィルタリングされる。
ｆｉｌｔＩｄｘ[ｘ][ｙ]によって指定されるフィルタに対応するルマフィルタ係数ｆ[ｊ]のアレイおよびルマフィルタクリッピングｃ[ｊ]のアレイは、j = ０～１２で以下のように導出される。
ｆ［ｊ］＝ＡｌｆＣｏｅｆｆＬ［ＦｉｌｔＩｄｘ［ｘ］［ｙ］］［ｊ］
ｃ［ｊ］＝ＡｌｆＣｌｉｐＬ［ＦｉｌｔＩｄｘ［ｘ］［ｙ］］［ｊ］

ルマフィルタ係数ｆｉｌｔｅｒＣｏｅｆｆおよびフィルタクリッピング値ｆｉｌｔｅｒＣｌｉｐは、以下のようにｔｒａｎｓｐｏｓｅＩｄｘ[ｘ][ｙ]に応じて導出される：
ｔｒａｎｓｐｏｓｅＩｎｄｅｘ[ｘ][ｙ]＝＝１の場合
ＦｉｌｔｅｒＣｏｅｆｆ［］＝｛ｆ[９］、ｆ［４］、ｆ［１０］、ｆ［８］、ｆ［１］、ｆ［５］、ｆ［１１］、ｆ［７］、ｆ［３］、ｆ［０］、ｆ［２］、ｆ［６］、ｆ［１２]｝
ｆｉｌｔｅｒＣｌｉｐ[]＝｛ｃ[９］、ｃ［４］、ｃ［１０］、ｃ［８］、ｃ［１］、ｃ［５］、ｃ［１１］、ｃ［７］、ｃ［３］、ｃ［０］、ｃ［２］、ｃ［６］、ｃ［１２]｝
そうではなく、ｔｒａｎｓｐｏｓｅＩｎｄｅｘ[ｘ][ｙ]＝＝２の場合
ｆｉｌｔｅｒＣｏｅｆｆ［］＝｛ｆ[０］、ｆ［３］、ｆ［２］、ｆ［１］、ｆ［８］、ｆ［７］、ｆ［６］、ｆ［５］、ｆ［４］、ｆ［９］、ｆ［１０］、ｆ［１１］、ｆ［１２]｝
ｆｉｌｔｅｒＣｌｉｐ［］＝｛ｃ[０］、ｃ［３］、ｃ［２］、ｃ［１］、ｃ［８］、ｃ［７］、ｃ［６］、ｃ［５］、ｃ［４］、ｃ［９］、ｃ［１０］、ｃ［１１］、ｃ［１２]｝
そうではなく、ｔｒａｎｓｐｏｓｅＩｎｄｅｘ[ｘ][ｙ]＝＝３の場合、
ｆｉｌｔｅｒＣｏｅｆｆ［］＝｛ｆ[９］、ｆ［８］、ｆ［１０］、ｆ［４］、ｆ［３］、ｆ［７］、ｆ［１１］、ｆ［５］、ｆ［１］、ｆ［０］、ｆ［２］、ｆ［６］、ｆ［１２]｝
ｆｉｌｔｅｒＣｌｉｐ［］＝｛ｃ[９］、ｃ［８］、ｃ［１０］、ｃ［４］、ｃ［３］、ｃ［７］、ｃ［１１］、ｃ［５］、ｃ［１］、ｃ［０］、ｃ［２］、ｃ［６］、ｃ［１２]｝
それ以外の場合は
ｆｉｌｔｅｒＣｏｅｆｆ［］＝｛ｆ[０］、ｆ［１］、ｆ［２］、ｆ［３］、ｆ［４］、ｆ［５］、ｆ［６］、ｆ［７］、ｆ［８］、ｆ［９］、ｆ［１０］、ｆ［１１］、ｆ［１２]｝
ｆｉｌｔｅｒＣｌｉｐ［］＝｛ｃ[０］、ｃ［１］、ｃ［２］、ｃ［３］、ｃ［４］、ｃ［５］、ｃ［６］、ｃ［７］、ｃ［８］、ｃ［９］、ｃ［１０］、ｃ［１１］、ｃ［１２]｝

ルマサンプルの所与のアレイｒｅｃＰｉｃｔｕｒｅ内の対応するルマサンプル(ｘ、ｙ)の各々のロケーション(ｈｘ、ｖｙ)は、以下のように導出される：
ｈｘ＝ Ｃｌｉｐ３（０、ｐｉｃ＿ｗｉｄｔｈ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ－１、ｘＣｔｂ＋ｘ）
ｖｙ＝ Ｃｌｉｐ３（０、ｐｉｃ＿ｈｅｉｇｈｔ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ － １、ｙＣｔｂ＋ｙy)

変数ｃｕｒｒは、以下のように導出される: ｃｕｒｒ＝ｒｅｃＰｉｃｔｕｒｅ［ｈｘ、ｖｙ］

変数ｓｕｍは次のように導出される：
ｓｕｍ＝ｆｉｌｔｅｒＣｏｅｆｆ［０］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［０］，ｆｉｌｔｅｒＣｌｉｐ［０］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ、ｖｙ＋３］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［０］，ｆｉｌｔｅｒＣｌｉｐ［０］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－３］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［１］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［１］，ｆｉｌｔｅｒＣｌｉｐ［１］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１、ｖｙ＋２］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［１］，ｆｉｌｔｅｒＣｌｉｐ［１］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１，ｖｙ－２］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［２］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［２］，ｆｉｌｔｅｒＣｌｉｐ［２］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ、ｖｙ＋２］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［２］，ｆｉｌｔｅｒＣｌｉｐ［２］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－２］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［３］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［３］，ｆｉｌｔｅｒＣｌｉｐ［３］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１、ｖｙ＋２］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［３］，ｆｉｌｔｅｒＣｌｉｐ［３］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１，ｖｙ－２］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［４］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［４］，ｆｉｌｔｅｒＣｌｉｐ［４］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２、ｖｙ＋１］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［４］，ｆｉｌｔｅｒＣｌｉｐ［４］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２，ｖｙ－１］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［５］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［５］，ｆｉｌｔｅｒＣｌｉｐ［５］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１、ｖｙ＋１］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［５］，ｆｉｌｔｅｒＣｌｉｐ［５］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１，ｖｙ－１］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［６］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［６］，ｆｉｌｔｅｒＣｌｉｐ［６］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ、ｖｙ＋１］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［６］，ｆｉｌｔｅｒＣｌｉｐ［６］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－１］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［７］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［７］，ｆｉｌｔｅｒＣｌｉｐ［７］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１、ｖｙ＋１］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［７］，ｆｉｌｔｅｒＣｌｉｐ［７］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１，ｖｙ－１］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［８］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［８］，ｆｉｌｔｅｒＣｌｉｐ［８］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２、ｖｙ＋１］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［８］，ｆｉｌｔｅｒＣｌｉｐ［８］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２，ｖｙ－１］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［９］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［９］，ｆｉｌｔｅｒＣｌｉｐ［９］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋３、ｖｙ］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［９］，ｆｉｌｔｅｒＣｌｉｐ［９］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－３，ｖｙ］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［１０］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［１０］，ｆｉｌｔｅｒＣｌｉｐ［１０］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２、ｖｙ］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［１０］，ｆｉｌｔｅｒＣｌｉｐ［１０］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２，ｖｙ］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［１１］*（Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［１１］，ｆｉｌｔｅｒＣｌｉｐ［１１］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１、ｖｙ］－ｃｕｒｒ）＋Ｃｌｉｐ３（－ｆｉｌｔｅｒＣｌｉｐ［１１］，ｆｉｌｔｅｒＣｌｉｐ［１１］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１，ｖｙ］－ｃｕｒｒ））
＋ｆｉｌｔｅｒＣｏｅｆｆ［１２］*ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ、ｖｙ］

ｓｕｍ＝（ｓｕｍ ＋ ６４）＞＞ ７

修正されフィルタリング後の再構成ルマピクチャサンプルａｌｆＰｉｃｔｕｒｅＬ［ｘＣｔｂ］［ｙＣｔｂ＋ｙ］は、以下のように導出される：
ａｌｆＰｉｃｔｕｒｅＬ［ｘＣｔｂ＋ｘ］［ｙＣｔｂ＋ｙ］＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈＹ）－１，ｓｕｍ）

ＡＬＦ転置およびルマサンプルのためのフィルタインデックスの導出プロセス
このプロセスの入力は、現在のピクチャの左上のサンプルに対する現在のルマコーディングツリーブロックの左上のサンプルを指定するルマロケーション(ｘＣｔｂ、ｙＣｔｂ)、アダプティブループフィルタリングプロセスの前の再構成されたルマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅＬである。
このプロセスの出力は、
分類フィルタインデックスアレイｆｉｌｔＩｄｘ[ｘ][ｙ]、ここでｘ、y ＝ ０～ＣｔｂＳｉｚｅＹ－１
転置インデックスアレイｔｒａｎｓｐｏｓｅＩｄｘ[ｘ][ｙ]、ここでｘ、ｙ＝０～ＣｔｂＳｉｚｅ－１
である。

ルマサンプルの所与のアレイｒｅｃＰｉｃｔｕｒｅ内の対応するルマサンプル(ｘ、ｙ)の各々のロケーション(ｈｘ、ｖｙ)は、以下のように導出される：
ｈｘ ＝ Ｃｌｉｐ３（０、ｐｉｃ＿ｗｉｄｔｈ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ－１，ｘ）
ｖｙ ＝ Ｃｌｉｐ３（０、ｐｉｃ＿ｈｅｉｇｈｔ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ－１、ｙ）

分類フィルタインデックスアレイｆｉｌｔＩｄｘ、および転置インデックスアレイｔｒａｎｓｐｏｓｅＩｄｘは、以下の順序付けられたステップによって導出される：

１） ｘ、ｙ＝－２～ＣｔｂＳｉｚｅＹ＋１である場合の変数ｆｉｌｔＨ[ｘ][ｙ]、ｆｉｌｔＶ[ｘ][ｙ]、ｆｉｌｔＤ０[ｘ][ｙ]およびｆｉｌｔＤ１[ｘ][ｙ]を以下のように導出する。
ｘ及びｙの両方が偶数である、もしくは、ｘとｙの両方が非偶数である場合は次のように適用する。
ｆｉｌｔＨ［ｘ］［ｙ］＝Ａｂｓ（（ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ，ｖｙＣｔｂ＋ｙ］＜＜１）－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ－１，ｖｙＣｔｂ＋ｙ］－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ＋１，ｖｙＣｔｂ＋ｙ］）
ｆｉｌｔＶ［ｘ］［ｙ］＝Ａｂｓ（（ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ，ｖｙＣｔｂ＋ｙ］＜＜１）－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ，ｖｙＣｔｂ＋ｙ－１］－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ，ｖｙＣｔｂ＋ｙ＋１］）
ｆｉｌｔＤ０［ｘ］［ｙ］＝Ａｂｓ（（ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ，ｖｙＣｔｂ＋ｙ］＜＜１）－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ－１，ｖｙＣｔｂ＋ｙ－１］－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ＋１，ｖｙＣｔｂ＋ｙ＋１］）
ｆｉｌｔＤ１［ｘ］［ｙ］＝Ａｂｓ（（ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ，ｖｙＣｔｂ＋ｙ］＜＜１）－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ＋１，ｖｙＣｔｂ＋ｙ－１］－ｒｅｃＰｉｃｔｕｒｅ［ｈｘＣｔｂ＋ｘ－１，ｖｙＣｔｂ＋ｙ＋１］）
さもなければ。ｆｉｌｔＨ［ｘ］［ｙ］，ｆｉｌｔＶ［ｘ］［ｙ］，ｆｉｌｔＤ０［ｘ］［ｙ］，ｆｉｌｔＤ１［ｘ］［ｙ］は０に等しくなるようにセットする。

２） ｘ、ｙが０～（ＣｔｂＳｉｚｅＹ－１）＞＞２である場合の変数ｖａｒＴｅｍｐＨ１［ｘ］［ｙ］、ｖａｒＴｅｍｐＶ１［ｘ］［ｙ］、ｖａｒＴｅｍｐＤ０１［ｘ］［ｙ］、ｖａｒＴｅｍｐＤ１１［ｘ］［ｙ］、及び、ｖａｒＴｅｍｐ［ｘ］［ｙ］を以下のように導出する。
ｓｕｍＨ［ｘ］［ｙ］＝ΣiΣj ｆｉｌｔＨ［（ｘ＜＜２）＋１］［（ｙ＜＜２）＋ｊ］、ここでｘ、ｙは－２～５である。
ｓｕｍＶ［ｘ］［ｙ］＝ΣiΣj ｆｉｌｔＶ［（ｘ＜＜２）＋１］［（ｙ＜＜２）＋ｊ］、ここでｘ、ｙは－２～５である。
ｓｕｍＤ０［ｘ］［ｙ］＝ΣiΣj ｆｉｌｔＤ０［（ｘ＜＜２）＋１］［（ｙ＜＜２）＋ｊ］、ここでｘ、ｙは－２～５である。
ｓｕｍＤ１［ｘ］［ｙ］＝ΣiΣj ｆｉｌｔＤ１［（ｘ＜＜２）＋１］［（ｙ＜＜２）＋ｊ］、ここでｘ、ｙは－２～５である。
ｓｕｍＯｆＨＶ［ｘ］［ｙ］＝ｓｕｍＨ［ｘ］［ｙ］＋ｓｕｍＶ［ｘ］［ｙ］

３） ｘ，ｙが０～ＣｔｂＳｉｚｅＹ－１である場合の変数ｄｉｒ１［ｘ］［ｙ］、ｄｉｒ２［ｘ］［ｙ］、ｄｉｒＳ［ｘ］［ｙ］を以下のように導出する。
変数ｈｖ１，ｈｖ０、及びｄｉｒＨＶについて以下のように導出する。
ｓｕｍＶ［ｘ＞＞２］［ｙ＞＞２］がｓｕｍＨ［ｘ＞＞２］［ｙ＞＞２］より大きい場合は次を適応する。
ｈｖ１＝ｓｕｍＶ［ｘ＞＞２］［ｙ＞＞２］
ｈｖ０＝ｓｕｍＨ［ｘ＞＞２］［ｙ＞＞２］
ｄｉｒＨＶ＝１
さもなければ、次を適用する。
ｈｖ１＝ｓｕｍＨ［ｘ＞＞２］［ｙ＞＞２］
ｈｖ０＝ｓｕｍＶ［ｘ＞＞２］［ｙ＞＞２］
ｄｉｒＨＶ＝３
変数ｄ１，ｄ０及びｄｉｒＤは次のように導出する。
ｓｕｍＤ０［ｘ＞＞２］［ｙ＞＞２］がｓｕｍＤ１［ｘ＞＞２］［ｙ＞＞２］よりも大きい場合は次を適用する。
ｄ１＝ｓｕｍＤ０［ｘ＞＞２］［ｙ＞＞２］
ｄ０＝ｓｕｍＤ１［ｘ＞＞２］［ｙ＞＞２］
ｄｉｒＤ＝０
さもなければ、次を適用する
ｄ１＝ｓｕｍＤ１［ｘ＞＞２］［ｙ＞＞２］
ｄ０＝ｓｕｍＤ０［ｘ＞＞２］［ｙ＞＞２］
ｄｉｒＤ＝２
変数ｈｖｄ１，ｈｖｄ０は次のように導出する。
ｈｖｄ１＝（ｄ１＊ｈｖ０＞ｈｖ１＊ｄ０）？ ｄ１：ｈｖ１
ｈｖｄ０＝（ｄ１＊ｈｖ０＞ｈｖ１＊ｄ０）？ ｄ０：ｈｖ０
変数ｄｉｒＳ［ｘ］［ｙ］，ｄｉｒ１［ｘ］［ｙ］及びｄｉｒ２［ｘ］［ｙ］は次のように導出する。
ｄｉｒ１［ｘ］［ｙ］＝（ｄ１＊ｈｖ０＞ｈｖ１＊ｄ０）？ ｄｉｒＤ：ｄｉｒＨＶ
ｄｉｒ２［ｘ］［ｙ］＝（ｄ１＊ｈｖ０＞ｈｖ１＊ｄ０）？ ｄｉｒＨＶ：ｄｉｒＤ
ｄｉｒＳ［ｘ］［ｙ］＝（ｈｄｖ１＞２＊ｈｄｖ０） ？ １：（（ｈｄｖ１＊２＞９＊ｈｖｄ０） ？ ２：０）

４） ｘ、ｙが０～ＣｔｂＳｉｚｅＹ－１の場合の変数ａｖｇＶａｒ［ｘ］［ｙ］は以下のように導出する。
ｖａｒＴａｂ［］＝｛０，１，２，２，２，２，２，３，３，３，３，３，３，３，３，４｝
ａｖｇＶａｒ［ｘ］［ｙ］＝ｖａｒＴａｂ［Ｃｌｉｐ３（０，１５，（ｓｕｍＯｆＨＶ［ｘ＞＞２］［ｙ＞＞２］＊６４）＞＞（３＋ＢｉｔＤｅｐｔｈＹ））］）

５） ｘ＝ｙ＝０からＣｔｂＳｉｚｅＹ－１である場合の、分離フィルタインデックスアレイｆｉｌｔＩｄｘ［ｘ］［ｙ］、及び、転置インデックスアレイｔｒａｎｓｐｏｓｅＩｄｘ［ｘ］［ｙ］は以下のように導出する。
ｔｒａｎｓｐｏｓｅＴａｂｌｅ[]＝｛０、１、０、２、２、３、１、３ ｝
ｔｒａｎｓｐｏｓｅＩｄｘ［ｘ］［ｙ］＝ｔｒａｎｓｐｏｓｅＴａｂｌｅ［ｄｉｒ［ｘ］［ｙ］＊２＋（ｄｉｒ２［ｘ］［ｙ］＞＞１）］
ｆｉｌｔＩｄｘ［ｘ］［ｙ］＝ａｖｇＶａｒ［ｘ］［ｙ］
ｄｉｒＳ［ｘ］［ｙ］が０に等しくないとき、ｆｉｋｔＩｄｘ［ｘ］［ｙ］は次のように修正される。
ｆｉｌｔＩｄｘ［ｘ］［ｙ］＋＝（（（ｄｉｒ１［ｘ］［ｙ］＆０ｘ１）＜＜１）＋ｄｉｒＳ［ｘ］［ｙ］＊５

クロマサンプルに対するコードツリーブロックフィルタ処理
このプロセスの入力は、アダプティブループフィルタリングプロセスの前の再構成されたクロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ、フィルタリングされた再構成されたクロマピクチャサンプルアレイａｌｆＰｉｃｔｕｒｅ、現在のピクチャの左上サンプルに対する現在のクロマコードツリーブロックの左上サンプルを指定するクロマロケーション（ｘＣｔｂＣ，ｙＣｔｂＣ）である。
このプロセスの出力は、修正されフィルタリングされた再構成されたクロマピクチャサンプルアレイａｌｆＰｉｃｔｕｒｅである。

現在のクロマコードツリーブロックのサイズｃｔｂＳｉｚｅＣは、以下のように導出される：
ｃｔｂＳｉｚｅＣ＝ＣｔｂＳｉｚｅＹ／ＳｕｂＷｉｄｔｈＣ

フィルタリングされた再構成クロマサンプルａｌｆＰｉｃｔｕｒｅ[ｘ][ｙ]の導出のために、現在のクロマコードツリーブロックｒｅｃＰｉｃｔｕｒｅ[ｘ][ｙ]内の各再構成クロマサンプルは、ｘ、ｙが０～ｃｔＳｉｚｅＣ－１において、以下のようにフィルタリングされる。
クロマサンプルの所与のアレイｒｅｃＰｉｃｔｕｒｅr内の対応するクロマサンプル(ｘ、ｙ)の各々の位置(ｈｘ、ｖｙ)は、以下のように導出される：
ｈｘ＝Ｃｌｉｐ３（０、ｐｉｃ＿ｗｉｄｔｈ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ／ＳｕｂＷｉｄｔｈＣ－１，ｘＣｔｂＣ＋ｘ）
ｖｙ＝Ｃｌｉｐ３（０、ｐｉｃ＿ｈｅｉｇｈｔ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ／ＳｕｂＨｅｉｇｈｔＣ－１，ｙＣｔｂＣ＋ｙ）

変数ｃｕｒｒは次のように導出される。
ｃｕｒｒ＝ｒｅｃＰｉｃｔｕｒｅ［ｈｘ、ｖｙ］

変数ｓｕｍは、次のように導出される。
ｓｕｍ＝ ＡｌｆＣｏｅｆｆＣC[０]*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[０］、ＡｌｆＣｌｉｐＣ［０］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ + ２] － ｃｕｒｒ) ＋ Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[０］、ＡｌｆＣｌｉｐＣ［０］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ－ ２] － ｃｕｒｒ))
＋ ＡｌｆＣｏｅｆｆＣ［１]*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[１］、ＡｌｆＣｌｉｐＣ［１］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ ＋ １、ｖｙ + １]－ｃｕｒｒ) ＋ Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[１］、ＡｌｆＣｌｉｐＣ［１］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ － １、ｖｙ － １]－ｃｕｒｒ))
＋ ＡｌｆＣｏｅｆｆＣ［２]*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[２］、ＡｌｆＣｌｉｐＣ［２］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ ＋ １]－ｃｕｒｒ)+ Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[２］、ＡｌｆＣｌｉｐＣ［２］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ －１]－ｃｕｒｒ))
＋ ＡｌｆＣｏｅｆｆＣ［ ３]*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[３］、ＡｌｆＣｌｉｐＣ［３］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ + １]－ｃｕｒｒ) ＋ Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[３］、ＡｌｆＣｌｉｐＣ［３］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ + １、ｖｙ － １]－ ｃｕｒｒ))
＋ ＡｌｆＣｏｅｆｆＣ［ ４]*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[４］、ＡｌｆＣｌｉｐＣ［４］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ + ２、ｖｙ]－ｃｕｒｒ) ＋ Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[４］、ＡｌｆＣｌｉｐＣ［４］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－２、ｖｙ]－ｃｕｒｒ))
＋ ＡｌｆＣｏｅｆｆＣ［５]*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[５］、ＡｌｆＣｌｉｐＣ［５］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ + １、ｖｙ]－ｃｕｒｒ) ＋ Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[５］、ＡｌｆＣｌｉｐＣ［５］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ]－ｃｕｒｒ))
＋ ＡｌｄＣｏｅｆｆＣ［６]* ｒｅｃＰｉｃｔｕｒｅ[ｈｘ，ｖｙ]

ｓｕｍ＝（ｓｕｍ＋６４）＞＞７

修正されフィルタリング後の再構成クロマピクチャサンプルａｌｆＰｉｃｔｕｒｅ[ｘＣｔｂＣ＋ｘ]［ｙＣｔｂＣ＋ｙ]は、以下のように導出される。
ａｌｆＰｉｃｔｕｒｅ［ｘＣｔｂＣ＋ｘ］［ｙＣｔｂＣ＋ｙ］＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈＣ）－１，ｓｕｍ）

上記の変形例では、クリッピング動作が、隣接サンプルとフィルタリングされたサンプルとの間の差に適用される（すなわち、式（７）が使用される）。式（９）を使用する別の変形では、そのセマンティクスおよびフィルタリング処理が以下のように修正される（上記の変形のセマンティクスおよびフィルタリング処理に基づいて修正される）。
－ ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][１２］は、以下のように導出される：
ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][１２] ＝ １２８－ Σ_k(ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][ｋ]＜＜１）、ここで、ｋ ＝ ０～１１である。
－ ＡｌｆＣｏｅｆｆＣ［６］は、以下のように導出される：
ＡｌｆＣｏｅｆｆＣ［６] ＝ １２８ － Σ_k(ＡｌｆＣｏｅｆｆＣ[ｋ]＜＜１）、ここでｋ＝０～５である。
－ ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［１２］及びＡｌｆＣｏｅｆｆＣ［６］のビット深度の制限（これらは０～２＾８－１の範囲内にあるものとする）は、より良いフィルタリング性能を得るために、０～２＾９－１まで、又は、０～２＾１０－１の範囲内にまで緩和される。

これは、クリッピング演算ではより良い効率のため、隣接サンプル位置に関連する係数がより高く（絶対値で）なければならないことがしばしば起こるからである（なぜなら、フィルタ入力サンプルは非線形関数が適用されると、より信頼性が高く、すなわち、より良いフィルタリングを提供する可能性が高いからである）。その結果、これらの係数の合計（中心係数を含まない）が－１２８（固定小数点表現では）低くなることが頻繁に起こり、その結果、中心係数は２５６（固定小数点表現では）より高くなければならない。従って、中心係数を０～２＾８－１の規範範囲に制限することは、エンコーダがそれらの動的／振幅を減少させることによって、サブ最適係数を見つける必要があることを意味し、その結果、効率的なフィルタリングがより少なくなる。中心係数に１０ビット精度の規範的範囲（すなわち、０～２＾１０－１の範囲）を使用することによって、エンコーダが準最適フィルタ係数を使用しなければならない頻度はるかに低くなり、したがって、全体的なフィルタリング品質は、８ビット精度と比較して向上する。ＡＬＦ線形フィルタリングでは、中心係数上の８ビットへの制限が、近傍フィルタ入力サンプルがしばしばより小さい重み（すなわち、より小さい係数）を有するので、フィルタ効率にあまり影響を及ぼさない。クリッピング、すなわちＡＬＦ非線形フィルタリングではあるが、最適なフィルタは近傍サンプルにより多くの重みを与える可能性があり、これはいったんクリッピングされるとより信頼性が高くなる。

“ルマサンプルのためのコーディングツリーブロックフィルタリング処理"における変数ｓｕｍは、以下のように導出される。
ｓｕｍ＝ ｆｉｌｔｅｒfＣｏｅｆｆ[０]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[０］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋３])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[０］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－３]))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［１]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[１］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、vy＋２])＋Ｃｌｉｐ(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[１］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ－２]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[２]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[２］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［２］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋２])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[２］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［２］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－２]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[３]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[３］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［３］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ＋２])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[３］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［３］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ－２]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[４]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[４］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［４］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[４］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［４］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ－１]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[５]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[５］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［５］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[５］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［５］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ－１]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[６]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[６］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［６］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[６］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［６］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－１]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[７]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[７］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［７］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[７］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［７］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ－１]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[８]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[８］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［８］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[８］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［８］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ－１]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[９]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[９］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［９］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋３、ｖｙ])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[９］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［９］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－３、ｖｙ]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[１０]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[１０］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［１０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[１０］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［１０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[１１]*(Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[１１］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［１１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ])＋Ｃｌｉｐ３(ｃｕｒｒ－ｆｉｌｔｅｒＣｌｉｐ[１１］、ｃｕｒｒ＋ｆｉｌｔｅｒＣｌｉｐ［１１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ]))
＋ｆｉｌｔｅｒＣｏｅｆｆ[１２]*ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ]

ｓｕｍ＝（ｓｕｍ＋６４）＞＞７

“クロマサンプルのためのコーディングツリーブロックフィルタリング処理”における変数ｓｕｍは、以下のように導出される：
ｓｕｍ＝ ＡｌｆＣｉｅｆｆＣ[０]*(Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[０］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［０］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ ＋ ２])＋Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[０］、ＡｌｆＣｌｉｐＣ［０］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ－２]))
＋ＡｌｆＣｉｅｆｆＣ[１]*(Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[１］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［１］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋１、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[１］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［１］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ－１]))
＋ＡｌｆＣｉｅｆｆＣ[２]*(Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[２］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［２］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[２］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［２］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ－１]))
＋ＡｌｆＣｉｅｆｆＣ[３]*(Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[３］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［３］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ＋１])＋Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[３］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［３］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋１、ｖｙ－１]))
＋ＡｌｆＣｉｅｆｆＣ[４]*(Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[４］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［４］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋２、ｖｙ])＋Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[４］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［４］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－２、ｖｙ]))
＋ＡｌｆＣｉｅｆｆＣ[５]*(Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[５］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［５］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋１、ｖｙ])＋Ｃｌｉｐ３(ｃｕｒｒ－ＡｌｆＣｌｉｐＣ[５］、ｃｕｒｒ＋ＡｌｆＣｌｉｐＣ［５］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ]))
＋ＡｌｆＣｉｅｆｆＣ[６]*ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ]

ｓｕｍ＝（ｓｕｍ＋６４）＞＞７

隣接サンプル値と中心サンプル値との間の差に適用されるクリッピングも使用する、Ｌｕｍａフィルタのため（ＡＬＦを適用するために必要なバッファライン数を減らすため））の５×５ダイヤモンドフィルタ形状を使用する別の変形例では、テーブル４の非線形ＡＬＦデータシンタックスが以下のように修正される（以前に提示されたＡＬＦデータシンタックスに行われた変更が両方とも下線および太字であり、可能な限り繰り返される部分は省略される）：

テーブル５ － 非線形ＡＬＦの修正部分

ルナフィルタのＡＬＦ係数の数は１３ になるため、最後の係数フィルタの初期化処理は次のようになる。
ｆｉｌｔＩｄｘ＝０～ＮｕｍＡｌｆＦｉｌｔｅｒｓ－１における、最後のフィルタ係数ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［６］は以下のように導出される・
ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][６]＝１２８

ビットストリーム適合性要件では、ｆｉｌｔＩｄｘ＝０～ＮｕｍＡｌｆＦｉｌｔｅｒｓ－１、ｊ＝０～１１における、ＡｌｆＣｏｅｆｆＬ［ｆｉｌｔＩｄｘ］［ｊ］は、－２＾７～２＾７－１内にあり、ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][６]は０～２＾８－１の範囲内になければならない。

“ルマサンプルのためのコーディングツリーブロックフィルタリング処理”のための、“ルマサンプルのためのＡＬＦ転置及びフィルタインデックスの導出”のフィルタインデックスの導出は以下のように修正される（以前に提示されたＡＬＦデータシンタックスに対して行われた変更が下線および太字の両方で示され、可能な限り繰り返される部分は省略される）。

フィルタインデックス節“ＡＬＦ転置及びルマサンプルのフィルタインデックスの導出プロセス”は、ロケーション(ｘＣｔｂ、ｙＣｔｂ)、および再構成されたルマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅＬを入力とし、ｘ、y＝０～ＣｔＳｉｚｅＹ－１におけるｆｉｌｔＩｄｘ[ｘ][ｙ]およびｔｒａｎｓｐｏｓｅＩｄｘ[ｘ][ｙ]を呼び出される。

フィルタリングされた再構成輝度サンプルａｌｆＰｉｃｔｕｒｅＬ[ｘ][ｙ]の導出のために、現在のルマコーディングツリーブロックｒｅｃＰｉｃｔｕｒｅＬ[ｘ][ｙ]内の各再構成ルマサンプルは、ｘ、y ＝０～ＣｔｂＳｉｚｅＹ－１にて、以下のようにフィルタリングされる。

ｆｉｌｔＩｄｘ[ｘ][ｙ]によって指定されるフィルタに対応するルマフィルタ係数ｆ[ｊ]のアレイ、及び、ルマフィルタクリッピングｃ[ｊ]のアレイは、j ＝０～６では以下のように導出される。
ｆ［ｊ］＝ＡｌｆＣｏｅｆｆＬ［ｘ］［ｙ］［ｊ］
ｃ［ｊ］＝ＡｌｆＣｌｉｐＬ［ｘ］［ｙ］［ｊ］

ルマフィルタ係数ｆｉｌｔｅｒＣｏｅｆｆおよびフィルタクリッピング値ｆｉｌｔｅｒＣｌｉｐは、以下のようにｔｒａｎｓｐｏｓｅＩｄｘ[ｘ][ｙ]に応じて導出される。
ｔｒａｎｓｐｏｓｅＩｎｄｅｘ［ｘ］［ｙ］＝＝１の場合
ｆｉｌｔｅｒＣｏｅｆｆ[]＝｛ｆ[４］、ｆ［１］、ｆ［５］、ｆ［３］、ｆ［０］、ｆ［２］、ｆ［６]}
ｆｉｌｔｅｒＣｌｉｐ[]＝{ｃ[４］、ｃ［１］、ｃ［５］、ｃ［３］、ｃ［０］、ｃ［２］、ｃ［６]}
そうではなく、ｔｒａｎｓｐｏｓｅＩｎｄｅｘ[ｘ][ｙ]＝＝２の場合、
ｆｉｌｔｅｒＣｏｅｆｆ[]＝{ｆ[０］、ｆ［３］、ｆ［２］、ｆ［１］、ｆ［４］、ｆ［５］、ｆ［６]}
ｆｉｌｔｅｒＣｌｉｐ[]＝{ｃ[０］、ｃ［３］、ｃ［２］、ｃ［１］、ｃ［４］、ｃ［５］、ｃ［６]}
そうではなく、ｔｒａｎｓｐｏｓｅＩｎｄｅｘ[ｘ][ｙ]＝＝３の場合、
ｆｉｌｔｅｒＣｏｅｆｆ[]＝{ｆ[４］、ｆ［３］、ｆ［５］、ｆ［１］、ｆ［０］、ｆ［２］、ｆ［６]}
ｆｉｌｔｅｒＣｌｉｐ[]＝{Ｃ[４］、ｃ［３］、ｃ［５］、ｃ［１］、ｃ［０］、ｃ［２］、ｃ［６]}
それ以外の場合
ｆｉｌｔｅｒＣｏｅｆｆ[]＝{ｆ[０］、ｆ［１］、ｆ［２］、ｆ［３］、ｆ［４］、ｆ［５］、ｆ［６]}
ｆｉｌｔｅｒＣｌｉｐ[]＝{ｃ[０］、ｃ［１］、ｃ［２］、ｃ［３］、ｃ［４］、ｃ［５］、ｃ［６]}

ルマサンプルの所与のアレイrecPicture内の対応するルマサンプル(ｘ、ｙ)の各々の位置(ｈｘ、ｖｙ)は、以下のように導出される。
ｈｘ＝Ｃｌｉｐ３（０、ｐｉｃ＿ｗｉｄｔｈ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ－１、ｘＣｔｂ ＋ ｘ)
ｖｙ＝Ｃｌｉｐ３（０、ｐｉｃ＿ｈｅｉｇｈｔ＿ｉｎ＿ｌｕｍａ＿ｓａｍｐｌｅｓ － １、ｙＣｔｂ ＋ ｙ)

変数ｃｕｒｒは、以下のように導出される: ｃｕｒｒ＝ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ、ｖｙ］

変数ｓｕｍは次のように導出される。
ｓｕｍ＝ ｆｉｌｔｅｒＣｏｅｆｆ［０］*(Ｃｌｉｐ３(－ｆｉｌｔｅｒ［０］，ｆｉｌｔｅｒＣｌｉｐ［０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ ＋ ２]－ ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[０］、ｆｉｌｔｅｒＣｌｉｐ［０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－２]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［１]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[１］、ｆｉｌｔｅｒＣｌｉｐ［１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ＋１]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[１］、ｆｉｌｔｅｒＣｌｉｐ［１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ－１]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［２]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[２］、ｆｉｌｔｅｒＣｌｉｐ［２］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋１]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[２］、ｆｉｌｔｅｒＣｌｉｐ［２］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－１]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［３]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[３］、ｆｉｌｔｅｒＣｌｉｐ［３］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ＋１]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[３］、ｆｉｌｔｅｒＣｌｉｐ［３］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ－１]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［４]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[４］、ｆｉｌｔｅｒＣｌｉｐ［４］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[４］、ｆｉｌｔｅｒＣｌｉｐ［４］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［５]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[５］、ｆｉｌｔｅｒＣｌｉｐ［５］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[５］、ｆｉｌｔｅｒＣｌｉｐ［５］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［６]*ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ]

ｓｕｍ＝（ｓｕｍ＋６４）＞＞７

修正されフィルタリングされた再構成ルマ画像サンプルａｌｆＰｉｃｔｕｒｅＬ［ｘＣｔｂ＋ｘ］［ｙＣｔｂ＋ｙ］は、以下のように導出される。
ａｌｆＰｉｃｔｕｒｅＬ［ｘＣｔｂ＋ｘ］［ｙＣｔｂ＋ｙ］＝Ｃｌｉｐ３（０、（１＜＜ＢｉｔＤｅｐｔｈＹ）－１、ｓｕｍ）

近傍と中心との間の差異を使用しない変形例では、ｋ＝０～５において、ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][６］＝１２８－Σ_k(ＡｌｆＣｏｅｆｆＬ[ｆｉｌｔＩｄｘ][ｋ])が使用される。フィルタリングでは、フィルタリングのクリッピングパラメータと同様の変更も行われる。

別の変形例では、フィルタのために７×７ダイヤモンド形状を使用するが、ルマフィルタのために図１６－ａのクリッピングパターン１６０１、クロマフィルタのために図１６－ｂのクリッピングパターン１６０５を使用して、テーブル４の非線形ＡＬＦデータシンタックスは以下のように修正される（以前に例示されたテーブル４のＡＬＦデータシンタックスに行われた変更、両方とも下線および太字であり、可能な限り繰り返される部分は省略される）。

テーブル６ － 非線形ＡＬＦデータシンタックスの修正部分

ＡｌｆＣｌｉｐＰａｔＬ［］は、Ｌｕｍａフィルタの定数クリッピングパターンテーブルであり、以下のように設定される：
ＡｌｆＣｌｉｐＰａｔＬ[]＝{０、０、１、０、０、０、１、０、０、０、１、１｝

ＡｌｆＣｌｉｐＰａｔＣ［］はＣｈｒｏｍａフィルタの定数クリッピングパターンテーブルであり、以下のように設定される：
ＡｌｆＣｌｉｐＰａｔＣ[]＝{１、１、０、１、１、０｝

セマンティクスの一部は、以下のように修正される。
－ “ルマサンプルのためのコーディングツリーブロックフィルタリングプロセス”における変数ｓｕｍは、以下のように導出される．
ｓｕｍ＝ｆｉｌｔｅｒＣｏｅｆｆ[０]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋３]－ｃｕｒｒ ＋ ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ－３]－ｃｕｒｒ)
＋ｆｉｌｔｅｒＣｏｅｆｆ［１]*(ｒｅｃＰｉｃｕｒｅ[ｈｘ＋１、ｖｙ+２]－ｃｕｒｒ)＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ－２]－ｃｕｒｒ)
＋ｆｉｌｔｅｒＣｏｅｆｆ［２]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[２］、ｆｉｌｔｅｒＣｌｉｐ［２］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋２]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[２］、ｆｉｌｔｅｒＣｌｉｐ［２］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－２]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［３]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ＋２]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ－２]－ｃｕｒｒ)
＋ ｆｉｌｔｅｒＣｏｅｆｆ［４]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ＋１]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ－１]－ｃｕｒｒ)
＋ ｆｉｌｔｅｒＣｏｅｆｆ［５]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ＋１]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ－１]－ｃｕｒｒ)
＋ ｆｉｌｔｅｒＣｏｅｆｆ［６]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[６］、ｆｉｌｔｅｒＣｌｉｐ［６］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ＋１]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[６］、ｆｉｌｔｅｒＣｌｉｐ［６］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ－１]－ｃｕｒｒ))
＋ ｆｉｌｔｅｒＣｏｅｆｆ［７]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ＋１]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ－１]－ｃｕｒｒ)
＋ ｆｉｌｔｅｒＣｏｅｆｆ［８]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ＋１]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ－１]－ｃｕｒｒ)
＋ ｆｉｌｔｅｒＣｏｅｆｆ［９]*(ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋３、ｖｙ]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－３、ｖｙ]－ｃｕｒｒ)
＋ｆｉｌｔｅｒＣｏｅｆｆ［ １０]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[１０］、ｆｉｌｔｅｒＣｌｉｐ［１０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋２、ｖｙ]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[１０］、ｆｉｌｔｅｒＣｌｉｐ［１０］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－２、ｖｙ]－ｃｕｒｒ))
＋ｆｉｌｔｅｒＣｏｅｆｆ［ １１]*(Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[１１］、ｆｉｌｔｅｒＣｌｉｐ［１１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ＋１、ｖｙ]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ｆｉｌｔｅｒＣｌｉｐ[１１］、ｆｉｌｔｅｒＣｌｉｐ［１１］、ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ－１、ｖｙ]－ｃｕｒｒ))
＋ｆｉｌｔｅｒＣｏｅｆｆ［ １２]*ｒｅｃＰｉｃｔｕｒｅＬ[ｈｘ、ｖｙ]

ｓｕｍ＝（ｓｕｍ＋６４）＞＞７

“クロマサンプルのためのコーディングツリーブロックフィルタリング処理」における変数ｓｕｍは、以下のように導出される。
ｓｕｍ＝ＡｌｆＣｏｅｆｆＣ［０］*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[０］、ＡｌｆＣｌｉｐＣ［０］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ＋２]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[０］、ＡｌｆＣｌｉｐＣ［０］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ－２]－ｃｕｒｒ))
＋ＡｌｆＣｏｅｆｆＣ［１］*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[１］、ＡｌｆＣｌｉｐＣ［１］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋１、ｖｙ＋１]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[１］、ＡｌｆＣｌｉｐＣ［１］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ－１]－ｃｕｒｒ))
＋ＡｌｆＣｏｅｆｆＣ［２］*(ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ＋１]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ－１]－ｃｕｒｒ)
＋ＡｌｆＣｏｅｆｆＣ［３］*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[３］、ＡｌｆＣｌｉｐＣ［３］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ＋１]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[３］、ＡｌｆＣｌｉｐＣ［３］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋１、ｖｙ－１]－ｃｕｒｒ))
＋ＡｌｆＣｏｅｆｆＣ［４］*(Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[４］、ＡｌｆＣｌｉｐＣ［４］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋２、ｖｙ]－ｃｕｒｒ)＋Ｃｌｉｐ３(－ＡｌｆＣｌｉｐＣ[４］、ＡｌｆＣｌｉｐＣ［４］、ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－２、ｖｙ]－ｃｕｒｒ))
＋ＡｌｆＣｏｅｆｆＣ［５］*(ｒｅｃＰｉｃｔｕｒｅ[ｈｘ＋１、ｖｙ]－ｃｕｒｒ＋ｒｅｃＰｉｃｔｕｒｅ[ｈｘ－１、ｖｙ]－ｃｕｒｒ)
＋ＡｌｆＣｏｅｆｆＣ［６］*ｒｅｃＰｉｃｔｕｒｅ[ｈｘ、ｖｙ]

他のクリッピングパターンを使用する他の変形形態は、前述の変形形態から容易に導出することができることが理解される。同様に、クリッピングの数を減らす（すなわち、クリッピング位置を減らす、すなわち、式（１７）および図７のように、ルマ成分についてはクリッピング無しが、“ｆ［１２］”無し、“ｃ［１２］”無し、“ｆｉｌｔｅｒＣｏｅｆｆ［１２］”無し、及び、“（ｓｕｍ＝ｃｕｒｒ＋（ｓｕｍ＋６４）＞＞７）”無しとなるように、現在（中心）サンプル値“ｃｕｒｒ”に適用される）、及び／又は、隣接サンプルと中心サンプルとの間の差を使用しない変形例も導出することができる。

図８は、本発明の一実施形態に従った、図７のフィルタの非線形部分が無効にされたときに得られる線形フィルタのブロック図である。一実施形態によれば、ＡＬＦがアクティブであり、非線形ＡＬＦが非アクティブである場合、フィルタリングのために線形ＡＬＦが使用される。このような実施形態の変形例では、非線形ＡＬＦが（７）式で定義され、図７に図示されるように使用され、（４）式で定義され、図６に図示されるような線形ＡＬＦを使用する代わりに、式（６）で定義され、図８に図示されるように線形フィルタリングが実行される。ハードウェア設計では、非線形フィルタと線形フィルタとの間の共通回路部品を共有することが可能になる。図７と図８を比較すると、最小／最大演算は単にバイパスされ、サンプル値に直接進む。このアプローチを使用するもう１つの利点は、エンコーダがフィルタを設計する際に、各フィルタのすべてのフィルタ係数の合計が１であることを確実にする必要がないことである。このデザインの結果、現在のサンプルを除き、係数ごとに１つの減算を加え、現在のサンプルに対して１つの乗算を除去できるいうことである。

図７の設計はまた、クリッピングパラメータがとり得る最大値が十分に低い場合に、乗算を実施するためのハードウェアビットを節約するという利点を有する。

一実施形態によれば、図５のスライスヘッダ内にシグナリングされるＡＬＦのシンタックス要素は、もはやスライスヘッダでシグナリングされず、代わりに、例えばピクチャヘッダでフレームレベルでシグナリングされる。次に、スライスヘッダ内に、フレームレベルで提供されるパラメータがスライス内で直接使用されること、もしくは、フレームレベルで提供されるパラメータが“フレッシュ”（すなわち、更新されること）されなければならないことをシグナルするための１つまたは複数のフラグ／シンタックス要素がある。スライスレベルでの、このリフレッシュは、スライスヘッダ内にて行われる。フィルタ係数および／またはクリッピングパラメータのリフレッシュは、フレームレベルで示される値とスライスで使用する値との間の差を符号化することによって行われる。一実施形態によれば、スライスヘッダ内の追加のシンタックス要素は、フィルタ係数および／またはクリッピングパラメータの値がスライスヘッダ内で差分として符号化されているかどうか、またはそれらの値が符号化されているかどうかを示す。

一実施形態によれば、（スライスヘッダ内の）スライスレベルで定義されたフィルタ係数および／またはクリッピングパラメータは、（例えば、各ＣＴＵについて）より細かい粒度レベル（granularity level）で更新することができる。更新が実行されるべきかどうかを示すシンタックス要素は、更新が実行されなければならないことを示すときに、更新データだけでなく、スライスデータ内でエントロピー符号化される。一実施形態では、符号化ビットストリームにおいて、各ＣＴＵについて、符号化されたスライスデータは、ルマフィルタ／クリッピングパラメータを更新する必要があるかどうかを示すエントロピー符号化されたフラグを１つ含む。フラグが更新が行われるべきであることを示す場合、フィルタ係数の各テーブルについて、エントロピー符号化フラグはフィルタが更新されなければならないかどうかを示す。フィルタを更新しなければならない場合、係数のオフセット（スライス内の基準値との差、または同じスライスに属する以前に符号化されたＣＴＵ内の基準値との差）および／またはクリッピングパラメータのオフセットはエントロピー符号化される。

一実施形態によれば、エンコーダの観点から、図９を参照して説明したＶＴＭ－３．０のＡＬＦ符号化プロセスの主な論理ステップが維持される。主な変更は、フィルタを構築するために抽出される統計の性質、およびフィルタが決定される方法である。
単純なウィーナーフィルタ（Wiener Filter）演算の代わりに、クリッピングパラメータを繰り返し最適化して、最良のクリッピングパラメータ及び関連する非線形Wウィーナーフィルタ係数を見つる。

一実施形態によれば、我々はＮ_K、１つのクリッピングパラメータが取ることができる値の数の限界を定義する。Ｎ_Kは小さくでき、例えば、Ｎ_K=１２もしくは、それ以下である。次に、ステップ９０２において、共分散および相互共分散行列統計を計算する代わりに、エンコーダは、Ｎ_K×Ｎ_Kクリッピング共分散行列統計の２エントリテーブルＥ、および、Ｎ_Kクリッピング相互共分散行列統計の１エントリテーブルｙを構築する（１つの共分散行列統計および１つの相互共分散行列統計の代わりに）。

クリッピング共分散行列Ｅ_c[ａ][ｂ]は、

から推定される共分散行列である。ここで、Ｘ^mは、Ｃ_m番目のクリッピング値を使用するときの入力のＮ個の実数（観測値）を含む。たとえば、図４－ｂの形状を使用すると、Ｘ_i ^mは、所与のサンプル位置に対して得たＸ^mの第ｉカラムであり、Ｘ_i,j ^mは、ｉ＜Ｎ_C（図４－ｂのルマフィルタではＮ_C＝１２がフィルタ係数の数－１）において、ｍ番目のクリッピングパラメータを用いて、（第ｊ番目のフフィルタリングされたサンプル）の隣接サンプルとｍ番目のクリッピング値との間の差のクリッピング結果の合計（ｓｕｍ）を含む。ここで、形状における２つの対称な隣接に対して、及び、ｉ＝１２とした場合の第ｊ番目のフィルタされたサンプル、ここで、Ｘ_i,j ^mは行i、列jにおける値である。

クリッピング相互共分散行列ｙ_C［Ｃ］は、所望のフィルター出力（すなわち、オリジナルサンプル）の実現値とＸ^Cの実現値との間の相互共分散行列である。

我々は、

に等しいクリッピングパラメータを使用して、フィルタを構築／テストするとき、

を定義する（ここで、例えばルマフィルタではＮ_C＝１２が、フィルタ係数の数－１にであり、ゼロに等しい最後の値は便利であり、他の値は中心係数１２がクリッピングされないので、別の値を使用することができ、同じ結果を有することになる）。
我々は、ｉ＜Ｎ_c,ｊ＜Ｎ_Cであり、ｋ＜Ｎ_cであるときのｙ［ｋ］＝ｙ_c[Ｃ[k]][k]について、Ｅ[ｉ，ｊ]＝Ｅ_C[C[i]][C[j]][i,j]となるクリッピングパラメータの共分散行列Ｅおよび相互共分散行列ｙを算出する。次に、我々は、線形ＡＬＦについて前述したように、この２つの行列を用いてウィナーフィルタを構築する。

ステップ９０４にて、共分散行列と相互共分散行列の統計を組合せる代わりに、エンコーダは、各クリッピング－共分散行列とクリッピング－相互共分散行列の統計を組合せる（ここでも、この組合せは、統計を合計することによって行われる）。

ステップ９０５にて、フィルタの最適化されたグループ（すなわち、最適化されたマージされたフィルタ）を見つけるために使用される方法は、以前と同様である。主な違いは、試験／比較された各フィルタについて、ただ１つのウィーナーフィルタを計算する代わりに、クリッピングパラメータが反復的に最適化され、各ステップは特定のクリッピングパラメータについてウィーナーフィルタを計算し、フィルタの出力誤差（統計行列上で計算される）を最小化することである。単純な最適化アルゴリズムは、すべてのクリッピングパラメータ値（Ｃ_i）がゼロに設定される（または中央クリッピング値または任意のデフォルト値に設定される）から開始し、次いで、ループ内の以下のステップに従い、フィルタを改善（すなわち、出力誤差を低減する）していくことである：各クリッピングパラメータ値について、利用可能／許可される場合、次のクリッピングパラメータ値をとり（すなわち、インデックス＜最大インデックス値)、このクリッピングパラメータ値を用いて計算されたウィーナーフィルタがより良好である場合、このクリッピングパラメータ値を用いて計算されたウィーナーフィルタは利用可能/許可される場合(すなわち、インデックス＞０）、このクリッピングパラメータ値を用いて計算されたウィーナーフィルタがより良好である。２つのフィルタをグループ化する場合、１つの戦略は、各クリッピングパラメータ値が２つのフィルタの各クリッピングパラメータ値の平均に設定された状態で最適化を開始することであり得る。

ステップ９０６、９０７、９０８、９０９、９１０および９１１には、実際の変更はない。

ステップ９１２にて、結合された統計変更はステップ９０４について説明したものと同じである。ステップ９１３におけるクロマフィルタの決定は、ステップ９０５について説明したフィルタ最適化に対応する。ＡＬＦパラメータが各フィルタについて決定されたクリッピングパラメータを含むステップ９１８を除いて、他のステップは変更されない。

「通常の」ＡＬＦを用いるＶＴＭ－３．０では、エンコーダが浮動小数点値から整数フィルタ係数を導出するとき、エンコーダは最初に浮動小数点値の固定小数点値への量子化を実行する：各フィルタ係数について、フィルタ係数乗算を固定小数点精度で最も近い整数値に丸めることに留意されたい。次に、フィルタ係数を反復的に調整して（丸め誤差を補正するために）、フィルタ効率を改善しようとする。また、エンコーダは、すべてのフィルタ係数の合計が（固定小数点精度で乗算された）１に等しく、中心サンプルのフィルタ係数が最大値を超えないことを保証しなければならない（乗算におけるその使用があまり多くのビットを使用することにならないことを保証するため）。

隣接サンプルとの差がフィルタの入力として使用される本発明の実施形態では、中心係数が常に１であるので、それが最大値を超えないことを確実にする必要はない。また、全てのフィルタ係数の和の値を追跡する必要もない。

これらの実施形態の利点は、符号化効率の改善である。
これらの実施形態の説明はルマ成分およびクロマ成分に言及しているが、それらは単一のルマ成分またはＲＧＢ成分などの他の成分に容易に適合させることができる。

前述の実施形態または変形例では、本発明が、図３－ａおよび図４－ａの３０４および４０７のフィルタリングを修正して、フィルタ入力に非線形関数を使用して非線形フィルタリング効果を得る。図２はまた、非線形関数のための追加のパラメータをシグナリングするための新しいシンタックス要素を追加するように修正される（実施形態の一例を図５を参照して説明した）。暗黙のうちに、３０２および４０２における入力フィルタリングパラメータは、非線形関数のための追加パラメータをさらに含むように修正される。最後に、３０３および４０６におけるフィルタ導出は修正され、フィルタに対する非線形関数を導出する（すなわち、「非線形フィルタ」を導出する）。従って、ほとんどの状況において、出力画像部分３０５及び４０８は、ＶＴＭ－３．０において生成されるものと同じではなく、等価／比較可能な入力サンプルに対してより高い品質を有し、及び／又は出力画質と符号化効率との間のより良い妥協を達成する。別の実施形態／変形形態では、ＡＬＦ自体が前述の非線形関数のいずれかを使用してフィルタリングするように動作するように修正されることを理解されたい。

本発明の実施形態の実施
前述の実施形態のうちの１つまたは複数は、１つまたは複数の前述の実施形態の方法ステップを実行するエンコーダまたはデコーダの形態で実装され得る。以下の実施形態は、そのような実装を例示する。

例えば、前述の実施形態のいずれかによるアダプティブループフィルタは、図１０のエンコーダによって実行されるポストフィルタリング９４１５、または図１１のデコーダによって実行されるポストフィルタリング９５６７において使用され得る。

図１０は、本発明の一実施形態によるエンコーダのブロック図を示す。エンコーダは、接続されたモジュールによって表され、各モジュールは例えば、デバイスの中央処理装置（ＣＰＵ）によって実行されるべきプログラム命令の形態で、本発明の１つまたは複数の実施形態による画像シーケンスの画像を符号化する少なくとも１つの実施形態を実施する方法の少なくとも１つの対応するステップを実施するように適合される。

９４０１のデジタル画像ｉ０～ｉｎのオリジナルシーケンスは、エンコーダ９４００によって入力として受信される。各デジタル画像は、時には画素（以下、画素と呼ぶ）とも呼ばれるサンプルのセット（集合）によって表される。ビットストリーム９４１０は、符号化プロセスの実施後にエンコーダ９４００によって出力される。ビットストリーム９４１０は、複数の符号化単位またはスライスのような画像部分のためのデータを含み、各スライスは、スライスを符号化するために使用される符号化パラメータの符号化値を送信するためのスライスヘッダと、符号化されたビデオデータを含むスライス本体とを含む。

９４０１の入力デジタル画像ｉ０～ｉｎは、モジュール９４０２によってピクセルのブロックに分割される。ブロックは画像部分に対応し、可変サイズであってもよい（例えば、４×４、８×８、１６×１６、３２×３２、６４×６４、１２８×１２８ピクセル、および、いくつかの矩形ブロックサイズも考慮することができる）。符号化モードは、各入力ブロックに対して選択される。空間予測符号化（イントラ予測）に基づく符号化モードと、時間予測に基づく符号化モード（インター符号化、ＭＥＲＧＥ、ＳＫＩＰ）との２つの符号化モードのファミリが提供される。可能な符号化モードがテストされる。

モジュール９４０３は、符号化されるべき所与のブロックが当該符号化されるべき前記ブロックの近傍の画素から計算された予測子によって予測されるイントラ予測処理を実施する。選択されたイントラ予測子の指示、および所与のブロックとその予測子との間の差は、イントラ符号化が選択された場合に残差を提供するために符号化される。

時間的予測は、動き推定モジュール９４０４および動き補償モジュール９４０５によって実施される。最初に、参照画像９４１６のセットの中から参照画像が選択され、符号化されるべき所与のブロックに最も近いエリア（画素値類似性に関して最も近い）で参照エリアまたは画像部分とも呼ばれる参照画像の部分が、動き推定モジュール９４０４によって選択される。次に、動き補償モジュール９４０５は、選択された領域を使用して、符号化されるブロックを予測する。選択された参照領域と所与のブロックとの間の差は、残差ブロック／データとも呼ばれ、動き補償モジュール９４０５によって計算される。選択された参照領域は動き情報（例えば、動きベクトル）を用いて示される。

したがって、両方の場合（空間的予測および時間的予測）において、ＳＫＩＰモードになり場合は、残差はオリジナルのブロックから予測を減算することによって計算される。

モジュール９４０３によって実施されるＩＮＴＲＡ予測では、予測方向が符号化される。モジュール９４０４、９４０５、９４１６、９４１８、９４１７によって実施されるインター予測では、少なくとも１つの動きベクトルまたは、そのような動きベクトルを識別するための情報（データ）が時間予測のために符号化される。インター予測が選択された場合、動きベクトルおよび残差ブロックに関連する情報が符号化される。ビットレートをさらに低減するために、動きが均一であると仮定すると、動きベクトルは、動きベクトル予測子に対する差によって符号化される。１組の動き情報予測子候補からの動きベクトル予測子は、動きベクトル予測符号化モジュール９４１７によって動きベクトルフィールド９４１８から得られる。

エンコーダ９４００は、さらに、レート歪み基準などの符号化コスト基準を適用することによって、符号化モードを選択するための選択モジュール９４０６を含む。冗長性をさらに低減するために、変換モジュール９４０７によって変換（ＤＣＴなど）が残差ブロックに適用され、得られた変換データは、次いで、量子化モジュール９４０８によって量子化され、エントロピー符号化モジュール９４０９によってエントロピー符号化される。最後に、ＳＫＩＰモードになく、選択された符号化モードは残差ブロックの符号化を必要とする場合には、符号化されている現在のブロックの符号化された残差ブロックはビットストリーム９４１０に挿入される。

エンコーダ９４００は、後続の画像の動き推定のための参照画像（例えば、参照画像／ピクチャ９４１６内のもの）を生成するために、符号化された画像の復号も行う。これにより、ビットストリームを受信するエンコーダ及びデコーダが同じ参照フレームを有することを可能にする（例えば、再構成された画像又は再構成された画像部分が使用される）。逆量子化（「逆量子化」）モジュール９４１１は、量子化されたデータの逆量子化（「逆量子化」）を実行し、その後、逆変換モジュール９４１２によって実行される逆変換が続く。イントラ予測モジュール９４１３は、予測情報を使用して、所与のブロックにどの予測を使用すべきかを決定し、動き補償モジュール９４１４は、モジュール９４１２によって得られた残差を、参照画像９４１６の設定から得られた参照領域に実際に加算する。その後、モジュール９４１５によってポストフィルタリングが適用され、画素の再構成フレーム（画像または画像部分）をフィルタリングして、参照画像９４１６のセットの別の参照画像を得る。

図１１は、本発明の一実施形態による、エンコーダからデータを受信するために使用され得るデコーダ９５６０のブロック図を示す。デコーダは、接続されたモジュールによって表され、各モジュールは例えば、デバイスのＣＰＵによって実行されるプログラム命令の形成で、デコーダ９５６０によって実装される方法の対応するステップを実装するように構成される。

受信するデコーダ９５６０は、符号化単位（例えば、画像部分、ブロックまたは符号化単位に対応するデータ）を含むビットストリーム９５６１を受信する。各符号化単位は、符号化パラメータに関する情報を含むヘッダと、符号化されたビデオデータを含むボディとから構成される。図１０に関して説明したように、符号化されたビデオデータはエントロピー符号化され、動き情報（例えば、動きベクトル予測子のインデックス）は所与の画像部分（例えば、ブロックまたはＣＵ）について、所定のビット数で符号化される。受信された符号化ビデオデータは、モジュール９５６２によってエントロピーデコードされる。次いで、残留データは、モジュール９５６３によって逆量子化され、次いで、逆変換がモジュール９５６４によって適用され、ピクセル値が得られる。

符号化モードを示すモードデータもエントロピーデコードされ、このモードに基づいて、画像データの符号化ブロック（単位／セット／グループ）に対してＩＮＴＲＡタイプデコードまたはＩＮＴＥＲタイプデコードが行われる。ＩＮＴＲＡモードの場合、ビットストリームにおいて指定されたイントラ予測モードに基づき、イントラ予測子がイントラ予測モジュール９５６５によって決定される（例えば、イントラ予測モードは、ビットストリームにおいて提供されるデータを使用して決定可能である）。モードがＩＮＴＥＲモードである場合、エンコーダによって使用される参照領域を見つける（識別する）ために、動き予測情報がビットストリームから抽出／取得される。動き予測情報は、例えば、参照フレームインデックスと、動きベクトル残差とを含む。動きベクトル予測子は、動きベクトル復号モジュール９５７０によって動きベクトル残差に加算され、動きベクトルが得られる。

動きベクトル復号モジュール９５７０は、動き予測によって符号化された各画像部分（例えば、現在のブロックまたはＣＵ）に対して動きベクトル復号を適用する。現在のブロックの動きベクトル予測子のインデックスが得られると、画像部分（例えば、現在のブロックまたはＣＵ）に関連する動きベクトルの実際の値が復号され、モジュール９５６６によって動き補償を適用するために使用することができる。復号された動きベクトルによって示される参照画像部分が、モジュール９５６６が動き補償を実行することができるように、参照画像９５６８の設定から抽出／取得される。動きベクトルフィールドデータ９５７１は、後に復号される動きベクトルの予測に使用されるために、復号された動きベクトルで更新される。

最後に、復号されたブロックが得られる。適切には、ポストフィルタリングがポストフィルタリングモジュール９５６７によって適用される。デコードされたビデオ信号９５６９が、デコーダ９５６０によって、最終的に得られ、提供される。

図１２は、本発明の１つまたは複数の実施形態を実施することができるデータ通信システムを示す。データ通信システムは、データ通信ネットワーク９２００を介して、データストリーム９２０４のデータパケットを受信装置、この場合はクライアント端末９２０２に送信するように動作可能な送信装置、この場合はサーバ９２０１を含む。データ通信ネットワーク９２００は、ワイドエリアネットワーク（ＷＡＮ）またはローカルエリアネットワーク（ＬＡＮ）であってもよい。このようなネットワークは例えば、無線ネットワーク(ＷｉＦｉ／８０２．１１ａまたはｂまたはｇ）、イーサネットネットワーク、インターネットネットワーク、または複数の異なるネットワークから構成される混合ネットワークであってもよい。本発明の特定の実施形態では、データ通信システムがサーバ９２０１が同じデータコンテンツを複数のクライアントに送信するデジタルテレビ放送システムであってもよい。

サーバ９２０１によって提供されるデータストリーム９２０４は、ビデオおよびオーディオデータを表すマルチメディアデータから構成されてもよい。オーディオおよびビデオデータストリームは、本発明のいくつかの実施形態ではそれぞれマイクロフォンおよびカメラを使用してサーバ９２０１によってキャプチャされ得る。いくつかの実施形態において、データストリームはサーバ９２０１上に記憶されてもよく、あるいは別のデータプロバイダからサーバ９２０１によって受信されてもよく、あるいはサーバ９２０１で生成されてもよい。サーバ９２０１は特に、エンコーダへの入力として提示されるデータのよりコンパクトな表現である送信のための圧縮ビットストリームを提供するために、ビデオストリームおよびオーディオストリームを符号化するためのエンコーダを備える。伝送されるデータの品質対伝送されるデータの量のより良好な比を得るために、ビデオデータの圧縮は例えば、高効率ビデオ符号化（ＨＥＶＣ）フォーマット、またはＨ．２６４／Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（Advanced video Coding)フォーマット、またはＶｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＶＶＣ）フォーマットに従ってもよい。クライアント９２０２は、送信されたビットストリームを受信し、再構成されたビットストリームをデコードして、表示装置上でビデオ画像を再生し、スピーカによってオーディオデータを再生する。

この実施形態ではストリーミングシナリオが考慮されるが、本発明のいくつかの実施形態では、エンコーダとデコーダとの間のデータ通信が例えば、光ディスクなどの媒体記憶デバイスを使用して実行され得ることが理解されるのであろう。本発明の１つまたは複数の実施形態では、ビデオ画像が画像の再構成されたピクセルに適用して最終画像内にフィルタリングされたピクセルを提供するために、補償オフセットを表すデータと共に送信され得る。

図１３は、本発明の少なくとも１つの実施形態を実施するように構成された処理装置９３００を概略的に示す。処理装置９３００は、マイクロコンピュータ、ワークステーション、ユーザ端末、またはライトポータブル装置などの装置とすることができる。デバイス／装置９３００は、通信バス９３１３を備え、これは以下の構成が接続される：
－ マイクロプロセッサのよう、ＣＰＵとして示される中央演算装置９３１１；
－ デバイス９３００を動作させるための、および／または本発明を実施するためのコンピュータプログラム／命令を格納するための、ＲＯＭとして示される、読み出し専用メモリ９３０７；
－ 本発明の実施形態の実行可能コード、ならびに本発明の実施形態に係るデジタル画像のシーケンスを符号化する方法および／またはビットストリームを復号する方法を実現するために必要な変数およびパラメータを記録するように構成されたレジスタを記憶するための、ＲＡＭと示される、ランダムアクセスメモリ９３１２と、
－ 処理されるデジタルデータが送信または受信される通信ネットワーク９３０３に接続された通信インターフェース９３０２。

オプションで、装置９３００は、以下の構成要素を含むこともできる：
－ 本発明の１つまたは複数の実施形態の方法を実施するためのコンピュータプログラム、および本発明の１つまたは複数の実施形態の実施中に使用または生成されるデータを記憶するための、ハードディスクなどのデータ記憶手段９３０４；
－ ディスク９３０６（例えば記憶媒体）のためのディスクドライブ９３０５、ここでディスク駆動９３０５は、ディスク９３０６からデータを読み取るか、またはディスク９３０６にデータを書き込むように構成されている。または、
－ キーボード９３１０、タッチスクリーン、または他の任意のポインティング／入力手段によって、データを表示し、および／またはユーザとのグラフィカルインターフェースとして機能するためのスクリーン９３０９。

装置９３００は例えば、デジタルカメラ９３２０またはマイクロフォン９３０８などの様々な周辺機器に接続することができる。ここで各周辺機器は、マルチメディアデータを装置９３００に供給するように入出力カード（図示せず）に接続される。

通信バス９３１３は、装置９３００に含まれる、またはそれに接続された種々の要素間の通信および相互運用性を提供する。バスの表現は限定的ではなく、特に、中央演算処理装置９３１１は、装置９３００の任意の要素に直接または装置９３００の別の要素によって命令を通信するように動作可能である。

ディスク９３０６は例えばコンパクトディスク、書き換え可能、またはそわないなどの任意の情報媒体、ＺＩＰディスクまたはメモリカードによって置き換えることができ、一般的に言えば、マイクロコンピュータまたはプロセッサによって読み取ることができる情報記憶手段によって置き換えることができ、装置に統合されているか、または組み込まれていない、可能であれば取り外し可能であり、実行がデジタル画像のシーケンスを符号化する方法および／または本発明によるビットストリームを復号する方法を可能にする１つ以上のプログラムを記憶するように構成されている。

実行可能コードは、読み出し専用メモリ９３０７、ハードディスク９３０４、または先に説明したような例えばディスク９３０６のようなリムーバブルデジタル媒体のいずれかに格納することができる。変形例によれば、プログラムの実行可能コードは例えばハードディスク９３０４内で実行される前に装置９３００の記憶手段の１つに記憶されるために、インターフェース９３０２を介して、通信ネットワーク９３０３によって受信することができる。

中央演算処理装置９３１１は、前述の記憶手段の１つに記憶された命令で本発明によるプログラムまたはプログラムのソフトウェアコードの命令または部分の実行を制御し、指示するように構成されている。電源を入れると、例えばハードディスク９３０４、ディスク９３０６、または読み出し専用メモリ９３０７上の不揮発性メモリに記憶されているプログラムまたはプログラムが、ランダムアクセスメモリ９３１２に転送され、その後、プログラムまたはプログラムの実行可能コード、ならびに本発明を実施するために必要な変数およびパラメータを記憶するためのレジスタを含む。

この実施形態では、装置は本発明を実施するためにソフトウェアを使用するプログラマブル装置である。しかしながら、代替的に、本発明はハードウェア（例えば、特定用途向け集積回路（ＡＳＩＣ）の形態）で実施されてもよい。

本発明の実施形態の実施
また、本発明の他の実施形態によれば、前述の実施形態によるデコーダがコンピュータ、携帯電話（携帯電話）、タブレット、またはコンテンツをユーザに提供／表示することができる任意の他のタイプのデバイス（例えば、ディスプレイ装置）などのユーザ端末に提供されることも理解される。さらに別の実施形態によれば、前述の実施形態によるエンコーダはエンコーダがエンコードするためのコンテンツをキャプチャし、提供するカメラ、ビデオカメラ、またはネットワークカメラ（例えば、閉回路テレビまたはビデオ監視カメラ）も備える画像キャプチャ装置に提供される。２つのこのような実施形態が、図１４および１５を参照して以下に提供される。

図１４は、ネットワークカメラ９４５２およびクライアント装置９４５４を備えるネットワークカメラシステム９４５０のブロック図である。

ネットワークカメラ９４５２は、撮像部９４５６、符号化部９４５８、通信部９４６０、および制御部９４６２を含む。ネットワークカメラ９４５２とクライアント装置９４５４は、ネットワーク９２００を介して相互に通信可能に接続されている。撮像部９４５６は、レンズおよびイメージセンサ（例えば、電荷結合素子（ＣＣＤ）または相補型金属酸化膜半導体（ＣＭＯＳ））を含み、物体の画像を捕捉し、その画像に基づいて画像データを生成する。この画像は、静止画像であってもよいし、ビデオ画像であってもよい。撮像ユニットはまた、ズーム手段および／またはパン手段を備えてもよく、これらは、（光学的またはデジタル的に）それぞれズームまたはパンするように適合されている。符号化部９４５８は、上記の一以上の実施形態で説明した符号化方法を用いて画像データを符号化する。符号化部９４５８は、上記実施の形態で説明した符号化方法の少なくとも１つを用いる。別の例として、符号化部９４５８は、前述の実施形態で説明した符号化方法の組合せを使用することができる。

ネットワークカメラ９４５２の通信部９４６０は、符号化部９４５８により符号化された符号化画像データをクライアント装置９４５４に送信する。また、通信部９４６０は、クライアント装置９４５４からのコマンドを受信してもよい。コマンドは、符号化部９４５８による符号化のためのパラメータを設定するコマンドを含む。制御部９４６２は、通信部９４６０が受信したコマンドやユーザ入力に応じて、ネットワークカメラ９４５２内の他の部を制御する。

クライアント装置９４５４は、通信部９４６４と、復号部９４６６と、制御部９４６８とを備える。クライアント装置９４５４の通信部９４６４は、ネットワークカメラ９４５２にコマンドを送信してもよい。また、クライアント装置９４５４の通信部９４６４は、ネットワークカメラ９４５２から符号化画像データを受信する。復号部９４６６は、上記実施の形態で説明した復号方法を用いて、符号化画像データを復号する。また、例えば、復号部９４６６は、上記実施の形態で説明した復号方法の組合せを用いることができる。クライアントユニット９４５４の制御部９４６８は、通信部９４６４が受信したユーザ操作やコマンドに従って、クライアントユニット９４５４内の他の部を制御する。また、クライアント装置９４５４の制御部９４６８は、復号部９４６６により復号された画像を表示するように、表示装置９４７０を制御してもよい。

また、クライアント装置９４５４の制御部９４６８は表示装置９４７０を制御し、ネットワークカメラ９４５２のパラメータの値、例えば、符号化部９４５８による符号化のためのパラメータの値を指定するＧＵＩ(Graphical User Interface)を表示させても良い。また、クライアントユニット９４５４の制御部９４６８は、表示ユニット９４７０が表示するＧＵＩに対するユーザの操作入力に応じて、クライアントユニット９４５４内の他のユニットを制御してもよい。また、クライアント装置９４５４の制御部９４６８は、表示装置９４７０が表示するＧＵＩに対するユーザ操作入力に応じて、ネットワークカメラ９４５２のパラメータの値を指定するコマンドをネットワークカメラ９４５２に送信するように、クライアント装置９４５４の通信ユニット９４６４を制御してもよい。

図１５は、スマートフォン９５００を示す図である。スマートフォン９５００は、通信部９５０２と、復号／符号化部９５０４と、制御部９５０６と、表示部９５０８とを備える。

通信部９５０２は、ネットワーク９２００を介して符号化画像データを受信する。復号／符号化部９５０４は、通信ユニット９５０２が受信した符号化画像データをデコードする。復号／符号化部９５０４は、上記の一以上の実施の形態で説明した復号方法を用いて、符号化画像データを復号する。また、復号／符号化部９５０４は、上記実施形態で説明した符号化方法または復号方法のうちの少なくとも１つを用いることができる。別の例として、復号／符号化部９５０４は、前述の実施形態で説明した復号方法または符号化方法の組合せを使用することができる。制御部９５０６は、通信部９５０２が受信したユーザ操作やコマンドに応じて、スマートフォン９５００内の他のユニットを制御する。例えば、制御部９５０６は、復号／符号化部９５０４によって復号された画像を表示するように、表示部９５０８を制御する。

スマートフォンは、画像またはビデオを記録するための画像記録デバイス９５１０（例えば、デジタルカメラおよび関連する回路）をさらに備えることができる。このような記録された画像や映像は、制御部９５０６の指示の下、復号／符号化部９５０４によって符号化されてもよい。スマートフォンは、モバイルデバイスの向きを感知するように構成されたセンサ９５１２をさらに備えてもよい。このようなセンサは、加速度計、ジャイロスコープ、コンパス、全地球測位（ＧＰＳ）ユニット又は同様の位置センサを含むことができる。そのようなセンサ９５１２はスマートフォンが向きを変更するかどうかを判定することができ、そのような情報は、ビデオストリームを符号化するときに使用され得る。

本発明を実施形態を参照して説明してきたが、本発明は開示された実施形態に限定されないことを理解されたい。添付の特許請求の範囲に定義されるように、本発明の範囲から逸脱することなく、様々な変更および修正を行うことができることは、当業者には理解されよう。本明細書（任意の添付の特許請求の範囲、要約書、および図面を含む）に開示された特徴のすべて、および／またはそのように開示された任意の方法またはプロセスのステップのすべては、そのような特徴および／またはステップの少なくともいくつかが相互に排他的である組合せを除いて、任意の組合せで組み合わせることができる。本明細書（任意の添付の特許請求の範囲、要約書、および図面を含む）に開示される各特徴は特に断らない限り、同じ、同等の、または同様の目的を果たす代替の特徴によって置き換えることができる。したがって、特に断らない限り、開示される各特徴は、同等または同様の機能の一般的なシリーズの一例にすぎない。

また、上述の比較、決定、評価、選択、実行、実行、または考慮の任意の結果、例えば、符号化またはフィルタリングプロセス中に行われる選択はビットストリーム中のデータ、例えば、フラグまたは結果を示す情報に示されるか、またはそれらから決定可能／推論可能であり得、その結果、示されるか、または決定された／推論された結果は例えば、デコード処理中に、比較、決定、評価、選択、実行、実行、または考慮を実際に実行する代わりに、処理において使用され得ることが理解される。

特許請求の範囲において、単語「有する」は他の要素又はステップを排除するものではなく、不定冠詞「ａ」又は「ａｎ」は複数を排除するものではない。異なる特徴が相互に異なる従属請求項に記載されているという単なる事実は、これらの特徴の組合せが有利に使用されることができないことを示すものではない。クレームに記載されている参照符号は例示のみを目的としたものであり、クレームの範囲に限定的な影響を及ぼさない。

前述の実施形態では、説明された機能がハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。ソフトウェアで実施される場合、機能は、１つ以上の命令またはコードとして、コンピュータ可読媒体上に記憶され、またはそれを介して送信され、ハードウェアベースの処理ユニットによって実行されてもよい。

コンピュータ可読媒体はデータ記憶媒体のような有形の媒体に対応するコンピュータ可読記憶媒体、または例えば通信プロトコルに従って、ある場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体を含んでいてもよい。このようにして、コンピュータ可読媒体は一般に、（１）非一時的である有形のコンピュータ可読記憶媒体、または（２）信号または搬送波などの通信媒体に対応することができる。データ記憶媒体は本開示に記載される技術の実施のための命令、コードおよび／またはデータ構造を検索するために、１つ以上のコンピュータまたは１つ以上のプロセッサによってアクセス可能な任意の利用可能な媒体であってもよい。コンピュータプログラム製品は、コンピュータ可読媒体を含み得る。限定ではなく、一例として、このようなコンピュータ可読記憶媒体はＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、ＣＤ－ＲＯＭ又は他の光ディスク記憶装置、磁気ディスク記憶装置、又は他の磁気記憶装置、フラッシュメモリ、又は所望のプログラムコードを命令又はデータ構造の形成で記憶するために使用することができ、コンピュータによってアクセスすることができる他の任意の媒体を含むことができる。また、任意のコネクションは、コンピュータ可読媒体と適切に呼ばれる。例えば、命令が同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線（ＤＳＬ）、または赤外線、無線、およびマイクロ波などのワイヤレス技術を使用して、ウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバケーブル、ツイストペア、ＤＳＬ、または赤外線、無線、およびマイクロ波などのワイヤレス技術は、媒体の定義に含まれる。しかし、コンピュータ可読記憶媒体およびデータ記憶媒体は、接続、搬送波、信号、または他の一時的な媒体を含まず、代わりに非一時的な有形の記憶媒体を対象とすることを理解されたい。本明細書で使用されるディスクおよびディスクはコンパクトディスク（ＣＤ）、レーザディスク、光ディスク、デジタル多用途ディスク（ＤＶＤ）、フロッピー（登録商標）ディスク、およびブルーレイディスクを含み、ここで、ディスクは通常、磁気的にデータを再生し、ディスクは、レーザで光学的にデータを再生する。上記の組合せは、コンピュータ読み取り可能な媒体の範囲内にも含まれるべきである。

命令は、１つまたは複数のデジタル信号プロセッサ（ＤＳＰ）、汎用マイクロプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲート／論理アレイ（ＦＰＧＡ）、または他の同等の集積またはディスクリート論理回路などの１つまたは複数のプロセッサによって実行され得る。したがって、本明細書で使用される「プロセッサ」という用語は、前述の構造のいずれか、または本明細書で説明される技術の実装に適した他の任意の構造を指すことがある。さらに、いくつかの態様では本明細書に記載する機能性が符号化および復号化のために構成された専用のハードウェアおよび／またはソフトウェアモジュール内で提供されてもよく、あるいは結合されたコーデックに組み込まれてもよい。また、本技術は、１つまたは複数の回路または論理素子で完全に実装することができる。

本発明を実施形態を参照して説明してきたが、本発明は開示された実施形態に限定されないことを理解されたい。疑義を避けるために、以下の記述は説明の一部を形成する。特許請求の範囲は明細書に従い、そのようにラベル付けされる。

ステートメント１． 画像の１以上の画像部分に対するアダプティブループフィルタを制御する方法であって、画像部分の第１のサンプル値に対するフィルタリングを、該第１のサンプル値の複数の隣接サンプル値に基づいて、フィルタリングを制御することを有し、前記制御することは、非線形関数を用いることを含み、当該非線形関数は、１以上の隣接サンプル値と、適用パラメータセット（Adaptation Parameter Set）内にシグナリングされる１以上のフィルタ変数に基づく１以上の変数を持つ。

ステートメント２． 前記非線形関数は、１以上のクリッピング関数と１以上のフィルタ変数を有し、このフィルタ変数は適用パラメータセット内に提供される情報を用いて決定される１以上のクリッピングパラメータを有する、ステートメント１の方法。

ステートメント３． ２以上のクリッピング関数は、前記適応パラメータセット内にシグナリングされる情報を用いて決定される同じクリッピングパラメータを共有する、ステートメント２の方法。

ステートメント４． クリッピング関数に使用するクリッピングパラメータは、複数のクリッピングパラメータ値からクリッピングパラメータを識別するインデックスを用いて決定され、前記複数のクリッピングパラメータの１つはｂｉｔｄｅｐｔｈに基づく最大サンプル地に対応する、ステートメント２又は３の方法。より適切には、前記インデックスは適応パラメータセット内に提供されている。

ステートメント５． クリッピング関数に使用するクリッピングパラメータは、複数のクリッピングパラメータ値からクリッピングパラメータを識別するインデックスを用いて決定され、第１のサンプル値がルマサンプル値のとき、及び、第１のサンプル値がクロマサンプル値のときの両方で同じ数の値を含む、ステートメント２～４のいずれか１つの方法。適切には、複数のクリッピングパラメータ値は、４つの値（許可、利用可、可能）を含む。適切には、複数のクリッピングパラメータ値は、画像の１以上の画像部分の１以上について同じ数の値（許可、利用可、可能）を含む。適切には、複数のクリッピングパラメータ値は、画像の１以上の画像部分の２以上についての４つの値（許可、利用可、可能）を含む。適切には、複数のクリッピングパラメータ値は、画像の全画像部分、又は、画像のシーケンスにおける全画像部分について同じ数の値（許可、利用可、可能）を含む。適切には、複数のクリッピングパラメータ値は、画像の全画像部分、又は、画像のシーケンスにおける全画像部分について４つの値（許可、利用可、可能）を含む。

ステートメント６． シグナリングされる１以上のフィルタ変数の数は、１以上の隣接サンプル値に基づく１以上の変数の数より少ない、先行するステートメントのいずれか１つの方法。適切には、シグナリングされる１以上のフィルタ変数の数は、１以上の隣接サンプル値に基づく１以上の変数の数の半分である。

ステートメント７． １以上の隣接サンプル値に基づく１以上の変数は、前記第１のサンプル値と、前記１以上の隣接サンプル値の各々との差を有する、先行するステートメントのいずれか１つの方法。

ステートメント８． 前記非線形関数の出力は、前記アダプティブループフィルタに入力パラメータとして使用される、先行するステートメントのいずれか１つの方法。適切には、１以上の非線形関数（又はクリッピング関数）からのの出力は、アダプティブループフィルタの入力パラメータとして使用される。

ステートメント９． 前記アダプティブループフィルタは１以上のフィルタ係数を使用し、フィルタ係数と関連するフィルタ変数は隣接サンプル値のインデックスを用いて決定される、ステートメント８の方法。

ステートメント１０． 隣接サンプル値のインデックスは、スキャン順における位置と関連付けられ、前記関連付けは転置インデックスを用いて導出される、ステートメント９の方法。適切には、導出される関連付けは、図４－ｂの４つの可能な配列４０９で示す{0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11}; ４０１で示す {9, 4, 10, 8, 1, 5, 11, 7, 3, 0, 2, 6}; ４０２で示す{0, 3, 2, 1, 8, 7, 6, 5, 4, 9, 10, 11}; or、４１２で示す {9, 8, 10, 4, 3, 7, 11, 5, 1, 0, 2, 6}の１つに対応する。

ステートメント１１． 前記非線形関数は１以上のクリッピング関数を有し、当該１以上のクリッピング関数の各々は、ｍａｘ（－ｂ，ｍｉｎ（ｂ，ｄ））、ｍｉｎ（ｂ，ｍａｘ（－ｂ，ｄ））、ｍａｘ（ｃ－ｂ，ｍｉｎ（ｃ＋ｂ，ｎ））、ｍｉｎ（ｃ＋ｂ，ｍａｘ（ｃ－ｂ，ｎ））、ｍａｘ（－ｂ，ｍｉｎ（ｂ，ｄ１＋ｄ２））、ｍｉｎ（ｂ，ｍａｘ（－ｂ，ｄ１＋ｄ２））、ｍａｘ（２＊ｃ－ｂ，ｍｉｎ（２＊ｃ＋ｂ，ｎ１＋ｎ２））、ｍｉｎ（２＊ｃ＋ｂ，ｍａｘ（２＊ｃ－ｂ，ｎ１＋ｎ２））のいずれか返す、ここで、ｃは第１のサンプル値、ｎ又はｎ１又はｎ２は隣接サンプル値、ｄ＝ｎ－ｃ、ｄ１＝ｎ１－ｃ、ｄ２＝ｎ２－ｃ、及び、ｂはクリッピングパラメータである、先行するステートメントのいずれか１つの方法。

ステートメント１２． 画像の１以上の部分を処理する方法であって、前記画像部分はクロマサンプル及びルマサンプルと関連付けられている、前記方法は、ビットストリーム、或いは、画像部分の第１のサンプル値とその隣接サンプル値から得られる情報に基づいて、先行するステートメントのいずれかの方法を用いて制御されるフィルタを使用するか使用しないか、前記フィルタの使用を可とするか不可とするか、或いは、前記第１のサンプル値をフィルタリングするときの前記フィルタで使用するフィルタリングパラメータ、フィルタ係数もしくはフィルタ変数の１つを決定する。

ステートメント１３． 前記ビットストリームから得られる情報は、ルマ成分もしくはクロマ成分の１つに提供されるフラグを含み、このフラグは、その成分について、ステートメント１～１０のいずれか１つの方法を使用して制御されるフィルタを使用するか使用しないか、或いは、前記フィルタの使用を可とするか不可とするかの少なくとも１つを示す。

ステートメント１４． 前記ビットストリームから得られる情報は、１以上の画像部分に対して提供されるフラグを有し、このフラグは１以上の画像部分について、ステートメント１～１０のいずれか１つの方法を用いて制御されるフィルタを使用するか使用しないか、又は、前記フィルタの使用を可とするか不可とするかを示す。

ステートメント１５． １以上の画像を符号化する方法であって、画像の１以上の画像部分について、ステートメント１～１０のいずれか１つの方法に従ってフィルタを制御すること、又は、ステートメント１２～１４のいずれか１つの方法に従った処理することを有す。

ステートメント１６． 更に、画像を受信すること、受信した画像を符号化してビットストリームを生成すること、符号化された画像を処理することを含み、ここで前記処理することは、ステートメント１～１０のいずれか１つの方法に従った制御すること、又は、ステートメント１２～１４のいずれか１つの方法に従って処理することをを含む。

ステートメント１７． 更に、前記情報を前記ビットストリーム内に提供することを有する、ステートメント１２～１４のいずれか１つに引用する場合のステートメント１５の方法。

ステートメント１８． 前記非線形関数の変数は、１以上の隣接サンプル値のインデックスに依存する１以上のフィルタ係数を更に有し、前記情報を提供することは、１以上のクリッピングパラメータを決定するためのインデックス、隣接サンプル値のインデックスと、スキャン順における位置との間の関連を導出するためのインデックスを、ビットストリームに提供することを有する、ステートメント１１を引用する場合のステートメント１７の方法。適切には、導出された関連付けは図４－ｂの４つの可能な配列：配列４０９で示す{0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11}; ４０１で示す {9, 4, 10, 8, 1, 5, 11, 7, 3, 0, 2, 6}; ４０２で示す{0, 3, 2, 1, 8, 7, 6, 5, 4, 9, 10, 11}; or、４１２で示す {9, 8, 10, 4, 3, 7, 11, 5, 1, 0, 2, 6}の１つに対応する。

ステートメント１９． 更に、複数の利用可能な関数から、非線形関数、もしくは１以上のクリッピング関数を選択すること、符号化された画像を処理するときに選択された関数を使用すること、選択された関数を識別する情報を、ビットストリーム内に提供することを更に有する、ステートメント１６～１８のいずれか１つの方法。

ステートメント２０． １以上の画像を復号する方法であって、前記方法は、画像の１以上の画像部分について、ステートメント１～１１のいずれか１つに従ってフィルタを制御すること、或いは、ステートメント１２～１４のいずれか１つの方法に従って処理することを含む。

ステートメント２１． 更に、ビットストリームを受信すること、画像を得るため受信したビットストリームからの情報を復号すること、得られた画像を処理することを有し、前記処理することは、ステートメント１～１１のいずれか１つの方法に従って制御すること、又は、ステートメント１２～１４のいずれか１つの方法に従って処理することを含む。

ステートメント２２． 更に、前記ビットストリームから前記情報を得ることを含む、ステートメント１２～１４のいずれか１つを引用する場合のステートメント２１の方法。

ステートメント２３． 前記非線形関数の変数は、前記１以上の隣接サンプル値のインデックスに依存する１以上のフィルタ係数を有し、前記方法は更に、前記ビットストリームから、１以上のクリッピングパラメータを決定するためのインデックス、及び、隣接サンプル値のインデックスとスキャン順における位置との間に関連付けを導出するためのインデックスを得ること有する、ステートメント１１を引用する場合のステートメント２１の方法。適切には、導出される関連付けは、図４－ｂの４つの可能な配列：４０９で示す{0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11}; ４０１で示す {9, 4, 10, 8, 1, 5, 11, 7, 3, 0, 2, 6}; ４０２で示す{0, 3, 2, 1, 8, 7, 6, 5, 4, 9, 10, 11}; or、４１２で示す {9, 8, 10, 4, 3, 7, 11, 5, 1, 0, 2, 6}の１つに対応する。

ステートメント２４ 更に、複数の利用可能な関数から非線形関数を識別するための情報、または、１以上のクリッピング関数を識別する情報を、ビットストリームから得ること、及び、得た画像を処理するとき、識別された関数を使用することをを含む、ステートメント２１～２３のいずれか１つの方法。

ステートメント２５． ステートメント１～１０，または２～１４のいずれか１つの方法を実行するように構成されるコントローラ、ステートメント１５～１９のいずれか１つの方法を実行するように構成されるエンコーダ、もしくは、ステートメント２０～２４のいずれか１つの方法を実行するように構成されるデコーダとを有するデバイス。

ステートメント２６． コンピュータもしくはプロセッサ上で実行されるプログラムであって、前記コンピュータもしくはプロセッサに、ステートメント１～１１，１２～１４，１５～１９、又は、２０～２４のいずれか１つの方法を実行させるためのプログラム。

ステートメント２７． ステートメント２６のコンピュータプログラムを格納するコンピュータ可読記憶媒体。

ステートメント２８． ステートメント１５～１９のいずれか１項に記載の方法を用いて符号化された画像に対する情報データセットを搬送し、ビットストリームで表される信号であって、前記画像は、再構成可能なサンプルのセットを含み、各再構成可能なサンプルは、サンプル値を有し、情報データセットは、第１の再構成可能なサンプルに隣接するサンプルのサンプル値に基づいて、前記第１の再構成可能なサンプルに対するフィルタリングを制御するための制御データを含む、信号。

Claims (11)

1. 画像における１以上の画像部分を、アダプティブループフィルタを用いてフィルタリングする符号化方法であって、
   前記画像における画像部分の第１のサンプルの値に対して、該第１のサンプルの複数の近傍サンプルの値に基づいて、前記フィルタリングを実行し、
   前記フィルタリングは、前記複数の近傍サンプルに対応する複数のクリッピング関数を少なくとも含む非線形の数式を用いて実行され、
   前記複数のクリッピング関数におけるクリッピング関数は、
   前記第１のサンプルの値と、該第１のサンプルの近傍サンプルの値との差分値が、該クリッピング関数で規定される値の範囲内である場合に、前記差分値を出力し、
   前記差分値が前記値の範囲外である場合は、該クリッピング関数で規定される値を出力し、
   前記第１のサンプルの値に対する前記フィルタリングに用いられる前記複数のクリッピング関数それぞれは、対応する前記第１のサンプルの近傍サンプルの位置に応じた、前記値の範囲を規定するためのパラメータを用いる関数である
   ことを特徴とする方法。
2. 前記複数のクリッピング関数におけるクリッピング関数は、
   ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ））、ｍｉｎ（ｂ、ｍａｘ（－ｂ，ｄ））、ｍａｘ（ｃ－ｂ、ｍｉｎ（ｃ＋ｂ，ｎ））、及び、ｍｉｎ（ｃ＋ｂ、ｍａｘ（ｃ－ｂ，ｎ））のいずれかと同じ結果を出力する関数であり、
   ここで、ｃは前記第１のサンプルの値、ｎは前記第１のサンプルの近傍サンプルの値、ｄ＝ｎ－ｃ、ｂは前記値の範囲を規定するためのパラメータである
   ことを特徴とする請求項１に記載の方法。
3. 前記複数のクリッピング関数に含まれる前記パラメータは、複数のパラメータから、使用されるパラメータを識別するためのインデックスを使用して決定される
   ことを特徴とする請求項１または２に記載の方法。
4. 前記画像を符号化してビットストリームを生成すること、
   を更に有することを特徴とする請求項１～３のいずれか１項に記載の方法。
5. 画像における１以上の画像部分を、アダプティブループフィルタを用いてフィルタリングする復号方法であって、
   前記画像における画像部分の第１のサンプルの値に対して、該第１のサンプルの複数の近傍サンプルの値に基づいて、前記フィルタリングを実行し、
   前記フィルタリングは、前記複数の近傍サンプルに対応する複数のクリッピング関数を少なくとも含む非線形の数式を用いて実行され、
   前記複数のクリッピング関数におけるクリッピング関数は、
   前記第１のサンプルの値と、該第１のサンプルの近傍サンプルの値との差分値が、該クリッピング関数で規定される値の範囲内である場合に、前記差分値を出力し、
   前記差分値が前記値の範囲外である場合は、該クリッピング関数で規定される値を出力し、
   前記第１のサンプルの値に対する前記フィルタリングに用いられる前記複数のクリッピング関数それぞれは、対応する前記第１のサンプルの近傍サンプルの位置に応じた、前記値の範囲を規定するためのパラメータを用いる関数である
   ことを特徴とする方法。
6. 前記複数のクリッピング関数におけるクリッピング関数は、
   ｍａｘ（－ｂ、ｍｉｎ（ｂ，ｄ））、ｍｉｎ（ｂ、ｍａｘ（－ｂ，ｄ））、ｍａｘ（ｃ－ｂ、ｍｉｎ（ｃ＋ｂ，ｎ））、及び、ｍｉｎ（ｃ＋ｂ、ｍａｘ（ｃ－ｂ，ｎ））のいずれかと同じ結果を出力する関数であり、
   ここで、ｃは前記第１のサンプルの値、ｎは前記第１のサンプルの近傍サンプルの値、ｄ＝ｎ－ｃ、ｂは前記値の範囲を規定するためのパラメータである
   ことを特徴とする請求項５に記載の方法。
7. 前記複数のクリッピング関数に含まれる前記パラメータは、複数のパラメータから、使用されるパラメータを識別するためのインデックスを使用して決定される
   ことを特徴とする請求項５又は６に記載の方法。
8. 前記画像を得るため、ビットストリームからデータを復号すること、
   を更に有することを特徴とする請求項５～７のいずれか１項に記載の方法。
9. 画像における１以上の画像部分を、アダプティブループフィルタを用いてフィルタリングする符号化装置であって、
   前記画像における画像部分の第１のサンプルの値に対して、該第１のサンプルの複数の近傍サンプルの値に基づいて、前記フィルタリングを実行するフィルタリング手段を有し、
   前記フィルタリングは、前記複数の近傍サンプルに対応する複数のクリッピング関数を少なくとも含む非線形の数式を用いて実行され、
   前記複数のクリッピング関数におけるクリッピング関数は、
   前記第１のサンプルの値と、該第１のサンプルの近傍サンプルの値との差分値が、該クリッピング関数で規定される値の範囲内である場合に、前記差分値を出力し、
   前記差分値が前記値の範囲外である場合は、該クリッピング関数で規定される値を出力し、
   前記第１のサンプルの値に対する前記フィルタリングに用いられる前記複数のクリッピング関数それぞれは、対応する前記第１のサンプルの近傍サンプルの位置に応じた、前記値の範囲を規定するためのパラメータを用いる関数である
   ことを特徴とする装置。
10. 画像における１以上の画像部分を、アダプティブループフィルタを用いてフィルタリングする復号装置であって、
    前記画像における画像部分の第１のサンプルの値に対して、該第１のサンプルの複数の近傍サンプルの値に基づいて、前記フィルタリングを実行するフィルタリング手段を有し、
    前記フィルタリングは、前記複数の近傍サンプルに対応する複数のクリッピング関数を少なくとも含む非線形の数式を用いて実行され、
    前記複数のクリッピング関数におけるクリッピング関数は、
    前記第１のサンプルの値と、該第１のサンプルの近傍サンプルの値との差分値が、該クリッピング関数で規定される値の範囲内である場合に、前記差分値を出力し、
    前記差分値が前記値の範囲外である場合は、該クリッピング関数で規定される値を出力し、
    前記第１のサンプルの値に対する前記フィルタリングに用いられる前記複数のクリッピング関数それぞれは、対応する前記第１のサンプルの近傍サンプルの位置に応じた、前記値の範囲を規定するためのパラメータを用いる関数である
    ことを特徴とする装置。
11. コンピュータに、請求項１～８のいずれか１項に記載の方法を実行させるためのプログラム。

Images