WO2012137890A1

WO2012137890A1 - 画像フィルタ装置、復号装置、符号化装置、および、データ構造

Info

Publication number: WO2012137890A1
Application number: PCT/JP2012/059418
Authority: WO
Inventors: 知宏猪飼; 将伸八杉; 山本　智幸; 隆紀山崎
Original assignee: シャープ株式会社
Priority date: 2011-04-05
Filing date: 2012-04-05
Publication date: 2012-10-11

Abstract

　適応フィルタ（１１０）は、入力画像を構成する各単位領域に関する第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々に対して、新規フィルタ係数を用いるか否かを示す新規フィルタ係数フラグを復号する領域構造復号部（１１１２）と、処理順で該対象部分領域の前に割りつけられたフィルタ係数を指定する候補選択インデックスを復号する領域構造復号部（１１１２）を備えている。

Description

画像フィルタ装置、復号装置、符号化装置、および、データ構造

　本発明は、画像のフィルタリングを行う画像フィルタ装置に関する。また、そのような画像フィルタを備えている符号化装置、および、復号装置に関する。また、そのような復号装置によって復号される符号化データのデータ構造に関する。

　動画像を効率的に伝送または記録するために、動画像を符号化することによって符号化データを生成する動画像符号化装置（符号化装置）、および、当該符号化データを復号することによって復号画像を生成する動画像復号装置（復号装置）が用いられている。具体的な動画像符号化方式としては、例えば、Ｈ．２６４／ＭＰＥＧ－４．ＡＶＣに採用されている方式、ＶＣＥＧ（Video Coding Expert Group）における共同開発用コーデックであるＫＴＡソフトウェアに採用されている方式、その後継コーデックであるＴＭｕＣ（Test Model under Consideration）ソフトウェアに採用されている方式、及び、ＨＭ（HEVCTestModel）ソフトウェアに採用されている方式などが挙げられる。

　このような符号化方式において、動画像を構成する画像（ピクチャ）は、画像を分割することにより得られるスライス、スライスを分割することにより得られる最大符号化単位（LCU:Largest Coding Unit、ツリーブロックとも呼ばれる）、最大符号化単位を分割することにより得られる符号化単位（CU:Coding Unit、符号化ノードとも呼ばれる）、及び、符号化単位を分割することより得られるブロックおよびパーティションからなる階層構造により管理され、多くの場合、ブロックを最小単位として符号化される。

　また、このような符号化方式においては、通常、入力画像を符号化／復号化することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像と入力画像との差分データが符号化される。また、予測画像の生成方法としては、画面間予測（インター予測）、および、画面内予測（イントラ予測）と呼ばれる方法が知られている。

　イントラ予測においては、同一フレーム内の局所復号画像に基づいて、当該フレームにおける予測画像が順次生成される。具体的には、イントラ予測においては、通常、予測単位（例えば、ブロック）毎に、予め定められた予測方向（予測モード）群に含まれる予測方向から何れかの予測方向が選択されると共に、局所復号画像における参照画素の画素値を、選択された予測方向に外挿することによって、予測対象領域上の予測画素値が生成される。また、インター予測においては、フレーム全体が復号された参照フレーム（復号画像）内の参照画像に対し、動きベクトルを用いた動き補償を適用することによって、予測対象フレーム内の予測画像が予測単位（例えば、ブロック）毎に生成される。

　非特許文献１及び非特許文献２には、復号画像を構成する各画素を、該画素の２次元的な特性に応じて複数のグループの何れかに分類し、それら複数のグループを適宜統合（マージ）すると共に、マージ後のグループ毎に設定されたフィルタ係数を用いて復号画像をフィルタする適応的ループフィルタ（Adaptive Loop Filter）（以下、単に「適応フィルタ」とも呼ぶ）が開示されている。また、同文献には、水平方向及び垂直方向の座標に応じて、復号画像を複数の領域に分割し、領域毎に設定されたフィルタ係数を用いる手法が開示されＲＡモードと呼ばれる。非特許文献２では、領域および領域周辺の画素から算出される活性度及び方向性に応じて、復号画像を複数の領域に分割し、領域毎に設定されたフィルタ係数を用いる方法が開示されＢＡモードと呼ばれる。非特許文献３では、ＲＡモードとＢＡモードを符号化データ中のフラグ（特徴量モード）により切り替える方法が開示されている。

　このような適応フィルタを備えた符号化装置および復号装置は、復号画像に対して当該適応フィルタによりフィルタ処理を施して得られるフィルタ済みの復号画像を参照して予測画像を生成することにより、予測精度の向上および符号化効率の向上を図ることができる。

　また、非特許文献４には、活性度及び方向性を、復号画像を単位領域内の間引いた画素から算出することにより、特性の算出に必要な演算量を低減する方法が開示されている。

「JCTVC-E046」,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11, 5th Meeting: Geneva, CH, 03/2011（２０１１年３月公開）「JCTVC-E323」,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11, 5th Meeting: Geneva, CH, 03/2011（２０１１年３月公開）「JCTVC-E603」,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 5th Meeting: Geneva, CH, 16-23 March, 2011（２０１１年３月公開）「JCTVC-F301-v2」,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, Italy,07/2011,[online][２０１１年７月８日検索] (URL: http://phenix.int-evry.fr/jct/index.php ２０１１年７月３日01:44:01 更新版)

　しかしながら、非特許文献１及び非特許文献２に開示された方法では、マージの仕方が１次元的であるため、２次元的なグループ分けの自由度を十分に生かすことができず、符号化効率が向上しない、若しくは、符号化効率が期待されるほど向上しないという問題を有していた。この点について、図３９を参照して、より具体的に説明する。

　図３９は、非特許文献１及び非特許文献２に開示された方法を模式的に示す図である。同文献に開示された方法では、２つの特徴量Ｘ及びＹによって張られる領域が複数のサブ領域に分割されると共に、各サブ領域に対して、所定の順序（ラスタスキャン順）でインデックスが付される。ここで、隣り合うインデックスが付されたサブ領域同士のみがマージ可能である。すなわち、所定の順序に沿って隣り合うサブ領域同士のみがマージ可能である。

　このように、上記文献に開示された方法では、マージ可能なサブ領域が所定の順序に沿って隣り合うものに限られるため、２次元的なグループ分けの自由度を十分に活かすことができない。

　また、非特許文献３では、非特許文献１のＲＡモードと非特許文献２のＢＡモードを切り替え、ピクチャ毎に適当な特性値を用いてグループ分けを行うことで符号化効率の向上を図っているが、この場合も、マージ対象は隣り合うものに限られるため、２次元的なグループ分けの自由度を十分に活かすことができない。

　さらに、水平方向及び垂直方向の座標に応じて領域を分割するＲＡモードにおいては、水平方向、垂直方向の隣接する領域だけではなく、隣接しない領域ともマージ可能とすることが重要であるが、このようなマージも可能ではない。

　本発明は、上記の問題に鑑みてなされたものであり、符号量及び処理量の増大を抑えつつ、特徴量についての多次元的な自由度を生かすことによって、符号化効率を向上させることのできる適応フィルタを実現することにある。

　上記の問題を解決するために、本発明に係る画像フィルタ装置は、複数の単位領域から構成される入力画像に作用するフィルタ手段と、各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域に対して、フィルタ係数群を割り付けるフィルタ係数割り付け手段と、を備え、上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数群を用いて算出する、ことを特徴としている。

　上記のように構成された本発明に係る画像フィルタ装置によれば、新規フィルタ係数フラグによって、領域分類の数を制御することができ、候補選択インデックスに従って、第１の特性値が等しい、もしくは、第２の特性値が等しい部分領域と、同じフィルタ係数群を用いることができる。

　したがって、上記の構成によれば、処理順で隣り合う部分領域がマージ可能であることに加え、第１の特性値と第２の特性値の軸でマージ可能であるので、特性値領域の２次元的な自由度を、従来の技術に比べて効果的に生かすことができる。これにより、各部分領域に対して、フィルタ係数群をより適切に割り付けることができるので、符号量及び処理量の増大を抑制しつつ符号化効率を向上させることができる。

　なお、上記単位領域とは、上記入力画像を構成する複数の重複しない領域の各々ことを表すものとする。上記画像フィルタ装置が、画像を符号化する符号化装置、および、符号化データから画像を復号する復号装置において用いられる場合には、上記単位領域を、例えば、予測画像を生成する単位である予測単位（パーティション）としてもよいし、周波数変換の単位である変換単位としてもよいし、それら以外のものとしてもよい。例えば、上記単位領域は、１画素から構成されるものであってもよい。

　本発明に係る復号装置は、符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、上記画像フィルタ装置と、各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、を備え、上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、ことを特徴としている。

　本発明に係る符号化装置は、符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、上記画像フィルタ装置と、各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、を備え、上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、ことを特徴としている。

　本発明に係る符号化データのデータ構造は、複数の単位領域から構成される入力画像に作用するフィルタ手段と、各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域に対して、フィルタ係数群を割り付けるフィルタ係数割り付け手段と、を備え、上記フィルタ手段によって、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数群を用いて算出する画像フィルタ装置によって参照される符号化データのデータ構造であって、上記フィルタ係数群とその予測値との残差、及び上記新規フィルタ係数フラグと上記候補選択インデックス、を含んでいる。

　上記符号化データを復号する画像フィルタ装置は、上記領域分類情報と、上記割り付け指定情報を参照することによって、特性値領域の２次元的な自由度を生かした適切なフィルタ処理を行うことができる。

　以上のように、本発明に係る画像フィルタ装置は、複数の単位領域から構成される入力画像に作用するフィルタ手段と、各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域に対して、フィルタ係数群を割り付けるフィルタ係数割り付け手段と、を備え、上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数群を用いて算出する、ことを特徴としている。

　上記のように構成された本発明に係る画像フィルタ装置によれば、符号量及び処理量の増大を抑制しつつ符号化効率を向上させることができる。

第１の実施形態に係る適応フィルタについて説明するための図であって、特性値領域ＣＲと、特性値領域ＣＲ上に設定される分割単位ＤＵ［ｉ］［ｊ］とを示す図である。第１の実施形態に係る符号化データの構成を説明するための図であって、（ａ）は、ピクチャＰＩＣＴを規定するピクチャレイヤを示しており、（ｂ）は、スライスＳを規定するスライスレイヤを示しており、（ｃ）は、ツリーブロック（Tree block）ＴＢＬＫを規定するツリーブロックレイヤを示しており、（ｄ）は、ツリーブロックＴＢＬＫに含まれる符号化単位（Coding Unit；ＣＵ）を規定するＣＵレイヤを示している。第１の実施形態に係る符号化データのフィルタパラメータに含まれる各シンタックスを示す図である。第１の実施形態に係る適応フィルタについて説明するための図であって、（ａ）は、分割されていない特性値領域を示す図であり、（ｂ）は、第１段階の分割が行われた特性値領域を示す図であり、（ｃ）は、第１段階の分割において用いられる特性値分割点と、第２段階の分割において用いられる特性値分割点とを示す図であり、（ｄ）は、第１の特性値として活性度を用いる場合に、シンタックスalf_first_split_val_shiftおよびalf_second_split_typeの値に応じて設定される特性値分割点を例示する表である。第１の実施形態に係る適応フィルタについて説明するための図であって、（ａ）は、第１段階の分割によって得られた特性値部分領域が、シンタックスalf_second_split_type＝０によって指定される第２段階の分割によって、第２の特性値に関して２つの特性値部分領域に分割される場合を示す図であり、（ｂ）は、第１段階の分割によって得られた特性値部分領域が、シンタックスalf_second_split_type＝１によって指定される第２段階の分割によって、第２の特性値に関して４つの特性値部分領域に分割される場合を示す図であり、（ｃ）は、第２の特性値として画像の方向性を用いた場合の特性値分割点と、第２の特性値として平均画素値を用いた場合の特性値分割点とを例示する表である。第１の実施形態に係る適応フィルタについて説明するための図であって、第１段階の分割によって得られた特性値部分領域が、シンタックスalf_second_split_flag[i0]、および、alf_second_split_typeの各値に応じて、第２段階の分割によってどのように分割されるのかを具体的に示す図である。第１の実施形態に係る適応フィルタについて説明するための図であって、シンタックスalf_length_luma_minus5_div2[i0]の値に応じて設定される参照領域を例示する図である。第１の実施形態に係る適応フィルタについて説明するための図であって、特性値部分領域に対して第２段階の分割を行うことによって得られた各特性値部分領域について適応的に割り付けられる予測方向を示す図である。第１の実施形態に係る適応フィルタについて説明するための図であって、特性値部分領域に対して第２段階の分割を行うことによって得られた各特性値部分領域について固定的に割り付けられる予測方向を示す図である。第１の実施形態に係る適応フィルタについて説明するための図であって、第１段階の分割によって得られた特性値部分領域が、第１の特性値について最大で２分割され、第２の特性値について最大で３分割される例を示す図である。第１の実施形態に係る動画像復号装置の構成を示すブロック図である。第１の実施形態に係る動画像復号装置の備える適応フィルタの構成を示すブロック図である。第１の実施形態に係る適応フィルタによるフィルタ処理を説明するための図であって、（ａ）は、対象単位領域ＵＲに含まれる画素と対象単位領域ＵＲに隣接する画素とから構成される特性値算出参照領域ＣＲＲを示しており、（ｂ）は、対象単位領域ＵＲに含まれる画素から構成される特性値算出参照領域ＣＲＲを示している。第１の実施形態に係る適応フィルタが備えるエッジ検出部によるエッジ検出処理を説明するための図であって、（ａ）は、対象画素を含む参照領域に属する画素を示す図であり、（ｂ）は、実施形態における角度の規定の仕方を示す図である。第１の実施形態に係る動画像符号化装置の構成を示すブロック図である。第１の実施形態に係る動画像符号化装置の備える適応フィルタの構成を示すブロック図である。第１の実施形態の変形例に係るフィルタパラメータに含まれる各シンタックスを示す図である。第１の実施形態の変形例に係るフィルタパラメータに含まれるシンタックスalf_num_first_split_minus1によって指定される特性値分割点を例示する表である。第２の実施形態に係る符号化データのフィルタパラメータに含まれる各シンタックスを示す図である。第２の実施形態に係る適応フィルタについて説明するための図であって、（ａ）は、シンタックスalf_select_split_charによって指定される第１の特性値Ｘおよび第２の特性値Ｙを示す表であり、（ｂ）は、シンタックスalf_select_split_charの各値について設定される再分割点ＰＹ１～ＰＹ３の具体例を示す表であり、（ｃ）は、シンタックスalf_second_split_val[k]の値に応じて設定される再分割点ＰＹ１～ＰＹ３の具体例を示す表である。第２の実施形態に係る動画像復号装置の備える適応フィルタの構成を示すブロック図である。第２の実施形態に係る動画像符号化装置の備える適応フィルタの構成を示すブロック図である。第３の実施形態に係る符号化データを説明するための図であって、（ａ）は、フィルタパラメータに含まれる各シンタックスを示しており、（ｂ）は、alf_coeff_set_lumaに含まれるシンタックスを示しており、（ｃ）は、alf_coeff_copy_lumaを示している。第３の実施形態に係る符号化データを説明するための図であって、（ａ）は、NX及びNYのとり得る値と、alf_feature_modeの各値との対応関係を示しており、（ｂ）は、マージ指定テーブルを示している。 alf_feature_modeが０もしくは１である場合の特性値領域の分割を示す模式図である。 alf_feature_modeが２もしくは３である場合の特性値領域の分割を示す模式図である。第３の実施形態の構成例１の変形例における特性値領域の分割を示す模式図である。第３の実施形態の構成例１の変形例における特性値領域の分割を示す模式図である。第３の実施形態の構成例１の変形例に係るフィルタパラメータＦＰのシンタックステーブルを示す。第３の実施形態の構成例２に係るフィルタパラメータのシンタックステーブルである。第３の実施形態の構成例２において、alf_feature_mode2が０である場合の特性値領域の分割を示す模式図である。第３の実施形態の構成例２において、alf_feature_mode2が１である場合の特性値領域の分割を示す模式図である。第３の実施形態の構成例３に係るフィルタパラメータのシンタックステーブルである。第３の実施形態の構成例３における特性値領域の分割を示す模式図である。第３の実施形態の構成例５に係るフィルタパラメータのシンタックステーブルである。第３の実施形態に係る適応フィルタの構成を示すブロック図である。第３の実施形態に係る適応フィルタの構成を示すブロック図である。第３の実施形態の構成例６に係るフィルタパラメータを復号する際の特性値領域の分割の態様を示す図である。従来技術を説明するための図であって、各サブ領域をインデックスと共に示す図である。第３の実施形態に係る符号化データを説明するための図であって、（ａ）は、alf_coeff_set_lumaの他の例を示しており、（ｂ）は、alf_coeff_copy_lumaの他の例を示している。第３の実施形態に係る符号化データを説明するための図であって、alf_coeff_set_lumaの他の例を示している。第３の実施形態における構成例３の別の構成例における分割を示す模式図である。第３の実施形態における構成例４に係るフィルタパラメータＦＰのシンタックステーブルである。第３の実施形態における構成例４における分割を示す模式図である。第４の実施形態に係る適応フィルタの構成を示すブロック図である。第４の実施形態に係る適応フィルタの構成を示すブロック図である。第４の実施形態に係る座標空間分割における分割を示す模式図である。第４の実施形態に係る特徴空間分割における分割を示す模式図である。第４の実施形態に係るスライス状マージにおける分割を示す模式図である。第４の実施形態に係る３選択肢マージにおける分割を示す模式図である。第４の実施形態に係るマップマージにおける分割を示す模式図である。第４の実施形態に係るフィルタパラメータＦＰのシンタックステーブルである。第４の実施形態に係るマージ構成の場合のシンタックステーブルである。第４の実施形態に係る予測／マージ構成のシンタックステーブルである。第４の実施形態に係るマップ構成のシンタックステーブルである。第４の実施形態に係る１次元マージ構成のシンタックステーブルである。第４の実施形態に係る２選択肢の候補導出シンタックステーブルである。第４の実施形態に係るスライス状選択肢の候補導出シンタックステーブルである。第４の実施形態に係る３選択肢の候補導出シンタックステーブルである。第４の実施形態に係る３選択肢かつスライス状選択肢の候補導出シンタックステーブルである。第４の実施形態に係るマップ構成の候補導出シンタックステーブルである。第４の実施形態に係る特徴量モードに依存の候補導出シンタックステーブルである。第４の実施形態に係るマージ構成のフローチャートである。第４の実施形態に係る予測／マージ構成のフローチャートである。第４の実施形態に係る符号化データを説明するための図であって、alf_coeff_set_lumaの例を示している。第４の実施形態に係る符号化データを説明するための図であって、（ａ）は、alf_coeff_set_lumaの他の例を示しており、（ｂ）は、alf_coeff_copy_lumaの他の例を示している。第４の実施形態に係るフィルタパラメータＦＰのシンタックステーブルである。第４の実施形態に係る符号化データを説明するための図であって、alf_coeff_dec_lumaを示している。第５の実施形態に係る適応フィルタの構成を示すブロック図である。第５の実施形態に係る適応フィルタの構成を示すブロック図である。第５の実施形態に係る領域構造復号部１３１２の構成を示すブロック図である。第５の実施形態に係る領域インデックス算出部１３２５の構成を示すブロック図である。第５の実施形態に係る領域構造復号処理を示すフローチャートである。第５の実施形態に係るフィルタパラメータＦＰのシンタックステーブルである。第５の実施形態に係るフィルタパラメータＦＰのシンタックステーブルである。第５の実施形態に係るフィルタパラメータＦＰのシンタックステーブルである。非特許文献４に記載された技術を説明するための図である。第５の実施形態の変形例に係る領域インデックス算出部が備えるＢＡモード領域インデックス算出部の構成を示すブロック図である。第５の実施形態の変形例に係るＢＡモード領域インデックス算出部の動作をプログラミング言語Ｃに似た形式で表現した図である。第５の実施形態の変形例を説明するための図であって、ウィンドウと拡張単位領域を説明するための図である。第５の実施形態の変形例を説明するための図であって、（ａ）～（ｄ）は、単位領域のサイズが４×４であり、水平垂直ともに間引きが行われる例を示しており、（ｅ）は、特性値算出の参照パラメータを示している。第５の実施形態の変形例を説明するための図であって、（ａ）～（ｂ）は、単位領域のサイズが４×４であり、水平垂直ともに間引きが行われる他の例を示しており、（ｃ）は、特性値算出の参照パラメータを示している。第５の実施形態の変形例を説明するための図であって、（ａ）～（ｂ）は、水平間引きが行われる例を示しており、（ｃ）～（ｄ）は、垂直間引きが行われる例を示して降り、（ｅ）～（ｆ）は、水平、垂直を合わせて互い違いに間引きが行われる場合を示しており、（ｇ）は、特性値算出の参照パラメータを示している。第５の実施形態の変形例を説明するための図であって、（ａ）～（ｂ）は、特性値算出のための中間値を算出する画素の他の例を示しており、（ｃ）は、特性値算出の参照パラメータを示している。第５の実施形態の変形例を説明するための図であって、（ａ）～（ｆ）は、特性値算出のための中間値を算出する画素の他の例を示している。実施形態に係る動画像符号化装置を搭載した送信装置、および、実施形態に係る動画像復号装置を搭載した受信装置の構成について示した図である。（ａ）は、動画像符号化装置を搭載した送信装置を示しており、（ｂ）は、動画像復号装置を搭載した受信装置を示している。実施形態に係る動画像符号化装置を搭載した記録装置、および、実施形態に係る動画像復号装置を搭載した再生装置の構成について示した図である。（ａ）は、動画像符号化装置を搭載した記録装置を示しており、（ｂ）は、動画像復号装置を搭載した再生装置を示している。

　〔実施形態１〕
　以下では、本発明の第１の実施形態について図１～図１８を参照して説明する。

　本実施形態に係る適応フィルタは、フィルタ前画像（例えば、後述するデブロック済復号画像Ｐ＿ＤＢ）を構成する各単位領域について、互いに導出方法の異なる２つの特性値を導出し、導出された２つの特性値に応じて、各単位領域を１または複数のグループの何れかに分類する。また、本実施形態に係る適応フィルタは、単位領域毎に定められたフィルタ係数を用いて、フィルタ前画像に対して単位領域毎に作用する。

　ここで単位領域とは、後述するＤＣＴ変換（より一般には周波数変換）の単位であるブロックであってもよいし、後述する予測画像を生成する単位であるパーティションであってもよいし、ブロックまたはパーティションの何れでもなく、本実施形態に係る適応フィルタによってサイズおよび位置が設定された領域であってもよい。また、単位領域は、１画素から構成されるものであってもよい。

　また、各グループは、２つの特性値によって張られる２次元領域上に設定される各部分領域と１対１の対応を有する。したがって、上記２次元領域をどのように各部分領域へ分割するのかを指定することにより、１または複数のグループをどのように設定するかが定まることになる。また、導出された２つの特性値のうち、優先度のより高い特性値、すなわち、より効果的な分類が期待できる特性値を第１の特性値Ｘと呼び、もう一方の特性値を第２の特性値Ｙと呼ぶ。なお、以下の説明において、上記２つの特性値によって張られる２次元領域を特性値領域とも呼称し、特性値領域上に設定される各部分領域を特性値部分領域とも呼称する。

　第１の特性値Ｘおよび第２の特性値Ｙとして、例えば以下のような組み合わせが可能である。本実施形態においては第１の特性値Ｘが画像の活性度である場合を取り扱うが、これらの組み合わせは本願に係る発明を限定するものではなく、他の特性値および組み合わせに対しても、本実施形態を容易に適用することができる。

　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：画像の方向性
　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：平均画素値
　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：単位領域の座標
　・第１の特性値Ｘ：単位領域の座標、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：スライス番号、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：平均画素値、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：単位領域のｙ座標、第２の特性値Ｙ：単位領域のｘ座標
　・第１の特性値Ｘ：単位領域のｘ座標、第２の特性値Ｙ：単位領域のｙ座標
　なお、適応フィルタによる、フィルタ済みの画像と符号化対象画像との誤差を減らす効果（ノイズ低減の効果）の観点からは、活性度を優先する。すなわち、第１の特性値Ｘとして画像の活性度を用いることが適当である。一方、複雑性の観点からは、特性値の算出が容易な特性値を優先することも考えられる。具体的には、単位領域の座標や、スライス番号、平均画素値などを第１の特性値として用いることも可能である。この場合、低複雑性が要求されるようなアプリケーションの場合において、第１の分割のみで分割を終了させるような適用方法が可能であり、小さな複雑性で領域別フィルタの効果を得ることができる。なお、本実施形態において、単位領域の座標としては、画素単位の座標の他、ツリーブロック(CTB、Coding Tree Block、LCU)単位の座標、CU単位の座標などを用いても良い。本実施形態以外の各実施形態についても同様である。

　ここで、画像の活性度に代えて、画素値の分散を用いてもよい。また、各単位領域について導出される各特性値は、導出方法如何によって、単位領域のサイズに依存する場合がある。このような場合には、各特性値として、単位領域のサイズへの依存性を取り除くことによって得られる正規化された特性値を用いることができる。

　本実施形態に係る適応フィルタは、特性値領域を第１段階の分割および第２段階の分割によって階層的に各部分領域へと分割する。ここで、第１段階の分割は、第１の特性値Ｘに関する分割であり、第２段階の分割は、第１の特性値Ｘおよび第２の特性値Ｙの少なくとも何れかに関する分割である。また、特性値領域の各部分領域への分割は、分割単位を単位として行われる。したがって、各部分領域は、１または複数の分割単位ＤＵから構成される。また、各分割単位の境界は、各特性値について設定される分割点（特性値分割点とも呼称する）を用いて定められる。なお、第１段階の分割を初期分割とも呼称し、第２段階の分割を再分割とも呼称する。

　図１は、特性値領域ＣＲと、特性値領域ＣＲ上に設定される分割単位ＤＵ［ｉ］［ｊ］（ｉは０≦ｉ≦ＮＸ－１を満たす整数、ｊは０≦ｉ≦ＮＹ－１を満たす整数、ＮＸは第１の特性値Ｘに沿った分割単位の総数、ＮＹは第２の特性値Ｙに沿った分割単位の総数）とを示す図である。

　図１に示す例において、実線は、特性値部分領域および分割単位の境界を示しており、破線は、分割単位の境界を示している。また、図１に示す例において、分割単位ＤＵ［０］［０］およびＤＵ［０］［１］は、１つの特性値部分領域を構成しており、ＤＵ［１］［０］およびＤＵ［２］［０］は、他の１つの特性値部分領域を構成している。また、ＤＵ［１］［１］は、単独で特性値部分領域を構成している。

　図１に示すように、各分割単位ＤＵの境界は、第１の特性値Ｘについての特性値分割点ＰＸ１～ＰＸ＿ＮＸ－１、および、第２の特性値Ｙについての特性値分割点ＰＹ１～ＰＹ＿ＮＹ－１によって指定される。

　なお、以下では、第１の特性値Ｘのことを、単に特性値Ｘとも呼び、第２の特性値Ｙのことを単に特性値Ｙとも呼ぶ。

　また、各分割単位を指定するインデックス［ｉ］［ｊ］のことを特性インデックスとも呼ぶ。特に、特性値Ｘに関するインデックス（上記の例では［ｉ］）を特性Ｘインデックスとも呼び、特性値Ｙに関するインデックス（上記の例では［ｊ］）を特性Ｙインデックスとも呼ぶ。特性インデックスは、各分割単位を一意に指定する２次元のインデックスである。

　（符号化データ＃１）
　本実施形態に係る動画像符号化装置２及び動画像復号装置１の詳細な説明に先立って、動画像符号化装置２によって生成され、動画像復号装置１によって復号される符号化データ＃１のデータ構造について説明を行う。

　図２は、符号化データ＃１のデータ構造を示す図である。符号化データ＃１は、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。

　符号化データ＃１におけるピクチャレイヤ以下の階層の構造を図２に示す。図２の（ａ）～（ｄ）は、それぞれ、ピクチャＰＩＣＴを規定するピクチャレイヤ、スライスＳを規定するスライスレイヤ、ツリーブロック（Tree block）ＴＢＬＫを規定するツリーブロックレイヤ、ツリーブロックＴＢＬＫに含まれる符号化単位（Coding Unit；ＣＵ）を規定するＣＵレイヤを示す図である。

　　（ピクチャレイヤ）
　ピクチャレイヤでは、処理対象のピクチャＰＩＣＴ（以下、対象ピクチャとも称する）を復号するために動画像復号装置１が参照するデータの集合が規定されている。ピクチャＰＩＣＴは、図２の（ａ）に示すように、ピクチャヘッダＰＨ、及び、スライスＳ1～ＳNSを含んでいる（ＮＳはピクチャＰＩＣＴに含まれるスライスの総数）。

　なお、以下、スライスＳ1～ＳNSのそれぞれを区別する必要が無い場合、符号の添え字を省略して記述することがある。また、以下に説明する符号化データ＃１に含まれるデータであって、添え字を付している他のデータについても同様である。

　ピクチャヘッダＰＨには、対象ピクチャの復号方法を決定するために動画像復号装置１が参照する符号化パラメータ群が含まれている。例えば、動画像符号化装置２が符号化の際に用いた可変長符号化のモードを示す符号化モード情報（entropy_coding_mode_flag）は、ピクチャヘッダＰＨに含まれる符号化パラメータの一例である。

　entropy_coding_mode_flagが０の場合、当該ピクチャＰＩＣＴは、ＣＡＶＬＣ（Context-based Adaptive Variable Length Coding）によって符号化されている。また、entropy_coding_mode_flagが１である場合、当該ピクチャＰＩＣＴは、ＣＡＢＡＣ（Context-based Adaptive Binary Arithmetic Coding）によって符号化されている。

　なお、ピクチャヘッダＰＨは、ピクチャー・パラメーター・セット（ＰＰＳ：Picture Parameter Set）とも称される。

　　（スライスレイヤ）
　スライスレイヤでは、処理対象のスライスＳ（対象スライスとも称する）を復号するために動画像復号装置１が参照するデータの集合が規定されている。スライスＳは、図２の（ｂ）に示すように、スライスヘッダＳＨ、及び、ツリーブロックＴＢＬＫ1～ＴＢＬＫNC（ＮＣはスライスＳに含まれるツリーブロックの総数）のシーケンスを含んでいる。

　スライスヘッダＳＨには、対象スライスの復号方法を決定するために動画像復号装置１が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報（slice_type）は、スライスヘッダＳＨに含まれる符号化パラメータの一例である。

　スライスタイプ指定情報により指定可能なスライスタイプとしては、（１）符号化の際にイントラ予測のみを用いるＩスライス、（２）符号化の際に単方向予測、又は、イントラ予測を用いるＰスライス、（３）符号化の際に単方向予測、双方向予測、又は、イントラ予測を用いるＢスライスなどが挙げられる。

　また、スライスヘッダＳＨには、動画像復号装置１の備える適応フィルタによって参照されるフィルタパラメータＦＰが含まれている。フィルタパラメータＦＰの詳細については後述する。

　　（ツリーブロックレイヤ）
　ツリーブロックレイヤでは、処理対象のツリーブロックＴＢＬＫ（以下、対象ツリーブロックとも称する）を復号するために動画像復号装置１が参照するデータの集合が規定されている。なお、ツリーブロックのことを最大符号化単位（LCU:Largest Cording Unit）と呼ぶこともある。

　ツリーブロックＴＢＬＫは、ツリーブロックヘッダＴＢＬＫＨと、符号化単位情報ＣＵ１～ＣＵＮＬ（ＮＬはツリーブロックＴＢＬＫに含まれる符号化単位情報の総数）とを含む。ここで、まず、ツリーブロックＴＢＬＫと、符号化単位情報ＣＵとの関係について説明すると次のとおりである。

　ツリーブロックＴＢＬＫは、イントラ予測またはインター予測、および、変換の各処理ためのブロックサイズを特定するためのパーティションに分割される。

　ツリーブロックＴＢＬＫの上記パーティションは、再帰的な４分木分割により分割されている。この再帰的な４分木分割により得られる木構造のことを以下、符号化ツリー（coding tree）と称する。

　以下、符号化ツリーの末端のノードであるリーフ（leaf）に対応するパーティションを、符号化ノード（coding node）として参照する。また、符号化ノードは、符号化処理の基本的な単位となるため、以下、符号化ノードのことを、符号化単位（ＣＵ）とも称する。

　つまり、符号化単位情報（以下、ＣＵ情報と称する）ＣＵ１～ＣＵＮＬは、ツリーブロックＴＢＬＫを再帰的に４分木分割して得られる各符号化ノード（符号化単位）に対応する情報である。

　また、符号化ツリーのルート（root）は、ツリーブロックＴＢＬＫに対応付けられる。換言すれば、ツリーブロックＴＢＬＫは、複数の符号化ノードを再帰的に含む４分木分割の木構造の最上位ノードに対応付けられる。

　なお、各符号化ノードのサイズは、当該符号化ノードが直接に属する符号化ノード（すなわち、当該符号化ノードの１階層上位のノードのパーティション）のサイズの縦横とも半分である。

　また、各符号化ノードのとり得るサイズは、符号化データ＃１のシーケンスパラメータセットＳＰＳに含まれる、符号化ノードのサイズ指定情報および最大階層深度（maximum hierarchical depth）に依存する。例えば、ツリーブロックＴＢＬＫのサイズが６４×６４画素であって、最大階層深度が３である場合には、当該ツリーブロックＴＢＬＫ以下の階層における符号化ノードは、３種類のサイズ、すなわち、６４×６４画素、３２×３２画素、および１６×１６画素の何れかをとり得る。

　　（ツリーブロックヘッダ）
　ツリーブロックヘッダＴＢＬＫＨには、対象ツリーブロックの復号方法を決定するために動画像復号装置１が参照する符号化パラメータが含まれる。具体的には、図２の（ｃ）に示すように、対象ツリーブロックの各ＣＵへの分割パターンを指定するツリーブロック分割情報ＳＰ＿ＴＢＬＫ、および、量子化ステップの大きさを指定する量子化パラメータ差分Δｑｐ（qp_delta）が含まれる。

　ツリーブロック分割情報ＳＰ＿ＴＢＬＫは、ツリーブロックを分割するための符号化ツリーを表す情報であり、具体的には、対象ツリーブロックに含まれる各ＣＵの形状、サイズ、および、対象ツリーブロック内での位置を指定する情報である。

　なお、ツリーブロック分割情報ＳＰ＿ＴＢＬＫは、ＣＵの形状やサイズを明示的に含んでいなくてもよい。例えばツリーブロック分割情報ＳＰ＿ＴＢＬＫは、対象ツリーブロック全体またはツリーブロックの部分領域を四分割するか否かを示すフラグ(split_coding_unit_flag)の集合であってもよい。その場合、ツリーブロックの形状やサイズを併用することで各ＣＵの形状やサイズを特定できる。

　また、量子化パラメータ差分Δｑｐは、対象ツリーブロックにおける量子化パラメータｑｐと、当該対象ツリーブロックの直前に符号化されたツリーブロックにおける量子化パラメータｑｐ’との差分ｑｐ－ｑｐ’である。

　　（ＣＵレイヤ）
　ＣＵレイヤでは、処理対象のＣＵ（以下、対象ＣＵとも称する）を復号するために動画像復号装置１が参照するデータの集合が規定されている。

　ここで、ＣＵ情報ＣＵに含まれるデータの具体的な内容の説明をする前に、ＣＵに含まれるデータの木構造について説明する。符号化ノードは、予測ツリー（prediction tree；ＰＴ）および変換ツリー（transform tree；ＴＴ）のルートのノードとなる。予測ツリーおよび変換ツリーについて説明すると次のとおりである。

　予測ツリーにおいては、符号化ノードが１または複数の予測ブロックに分割され、各予測ブロックの位置とサイズとが規定される。別の表現でいえば、予測ブロックは、符号化ノードを構成する１または複数の重複しない領域である。また、予測ツリーは、上述の分割により得られた１または複数の予測ブロックを含む。

　予測処理は、この予測ブロックごとに行われる。以下、予測の単位である予測ブロックのことを、予測単位（prediction unit；ＰＵ）とも称する。

　予測ツリーにおける分割の種類は、大まかにいえば、イントラ予測の場合と、インター予測の場合との２つがある。

　イントラ予測の場合、分割方法は、２Ｎ×２Ｎ（符号化ノードと同一サイズ）と、Ｎ×Ｎとがある。

　また、インター予測の場合、分割方法は、２Ｎ×２Ｎ（符号化ノードと同一サイズ）、２Ｎ×Ｎ、Ｎ×２Ｎ、および、Ｎ×Ｎなどがある。

　また、変換ツリーにおいては、符号化ノードが１または複数の変換ブロックに分割され、各変換ブロックの位置とサイズとが規定される。別の表現でいえば、変換ブロックは、符号化ノードを構成する１または複数の重複しない領域のことである。また、変換ツリーは、上述の分割より得られた１または複数の変換ブロックを含む。

　変換ツリーにおける分割には、符号化ノードと同一のサイズの領域を変換ブロックとして割り付けるものと、上述したツリーブロックの分割と同様、再帰的な４分木分割によるものがある。

　変換処理は、この変換ブロックごとに行われる。以下、変換の単位である変換ブロックのことを、変換単位（transform unit；ＴＵ）とも称する。

　　（ＣＵ情報のデータ構造）
　続いて、図２の（ｄ）を参照しながらＣＵ情報ＣＵに含まれるデータの具体的な内容について説明する。図２の（ｄ）に示すように、ＣＵ情報ＣＵは、具体的には、スキップフラグＳＫＩＰ、ＰＴ情報ＰＴＩ、および、ＴＴ情報ＴＴＩを含む。

　スキップフラグＳＫＩＰは、対象のＰＵについて、スキップモードが適用されているか否かを示すフラグであり、スキップフラグＳＫＩＰの値が１の場合、すなわち、対象ＣＵにスキップモードが適用されている場合、そのＣＵ情報ＣＵにおけるＰＴ情報ＰＴＩ、および、ＴＴ情報ＴＴＩは省略される。なお、スキップフラグＳＫＩＰは、Ｉスライスでは省略される。

　ＰＴ情報ＰＴＩは、ＣＵに含まれるＰＴに関する情報である。言い換えれば、ＰＴ情報ＰＴＩは、ＰＴに含まれる１または複数のＰＵそれぞれに関する情報の集合であり、動画像復号装置１により予測画像を生成する際に参照される。ＰＴ情報ＰＴＩは、図２の（ｄ）に示すように、予測タイプ情報ＰＴｙｐｅ、および、予測情報ＰＩｎｆｏを含んでいる。

　予測タイプ情報ＰＴｙｐｅは、対象ＰＵについての予測画像生成方法として、イントラ予測を用いるのか、または、インター予測を用いるのかを指定する情報である。

　予測情報ＰＩｎｆｏは、予測タイプ情報ＰＴｙｐｅが何れの予測方法を指定するのかに応じて、イントラ予測情報、または、インター予測情報より構成される。以下では、イントラ予測が適用されるＰＵをイントラＰＵとも呼称し、インター予測が適用されるＰＵをインターＰＵとも呼称する。

　また、予測情報ＰＩｎｆｏは、対象ＰＵの形状、サイズ、および、位置を指定する情報が含まれる。上述のとおり予測画像の生成は、ＰＵを単位として行われる。予測情報ＰＩｎｆｏの詳細については後述する。

　ＴＴ情報ＴＴＩは、ＣＵに含まれるＴＴに関する情報である。言い換えれば、ＴＴ情報ＴＴＩは、ＴＴに含まれる１または複数のＴＵそれぞれに関する情報の集合であり、動画像復号装置１により残差データを復号する際に参照される。なお、以下、ＴＵのことをブロックと称することもある。

　ＴＴ情報ＴＴＩは、図２の（ｄ）に示すように、対象ＣＵの各変換ブロックへの分割パターンを指定するＴＴ分割情報ＳＰ＿ＴＴ、および、量子化予測残差ＱＤ1～ＱＤNT（Ｎ
Ｔは、対象ＣＵに含まれるブロックの総数）を含んでいる。

　ＴＴ分割情報ＳＰ＿ＴＴは、具体的には、対象ＣＵに含まれる各ＴＵの形状、サイズ、および、対象ＣＵ内での位置を決定するための情報である。例えば、ＴＴ分割情報ＳＰ＿ＴＴは、対象となるノードの分割を行うのか否かを示す情報（split_transform_unit_flag）と、その分割の深度を示す情報（trafoDepth）とから実現することができる。

　また、例えば、ＣＵのサイズが、６４×６４の場合、分割により得られる各ＴＵは、３２×３２画素から２×２画素までのサイズをとり得る。

　各量子化予測残差ＱＤは、動画像符号化装置２が以下の処理１～３を、処理対象のブロックである対象ブロックに施すことによって生成した符号化データである。

　処理１：符号化対象画像から予測画像を減算した予測残差をＤＣＴ変換（Discrete Cosine Transform）する；
　処理２：処理１にて得られた変換係数を量子化する；
　処理３：処理２にて量子化された変換係数を可変長符号化する；
　なお、上述した量子化パラメータｑｐは、動画像符号化装置２が変換係数を量子化する際に用いた量子化ステップＱＰの大きさを表す（ＱＰ＝２qp/6）。

　　（予測情報ＰＩｎｆｏ）
　上述のとおり、予測情報ＰＩｎｆｏには、インター予測情報およびイントラ予測情報の２種類がある。

　インター予測情報には、動画像復号装置１が、インター予測によってインター予測画像を生成する際に参照される符号化パラメータが含まれる。より具体的には、インター予測情報には、対象ＣＵの各インターＰＵへの分割パターンを指定するインターＰＵ分割情報、および、各インターＰＵについてのインター予測パラメータが含まれる。

　インター予測パラメータには、参照画像インデックスと、推定動きベクトルインデックスと、動きベクトル残差とが含まれる。

　一方、イントラ予測情報には、動画像復号装置１が、イントラ予測によってイントラ予測画像を生成する際に参照される符号化パラメータが含まれる。より具体的には、イントラ予測情報には、対象ＣＵの各イントラＰＵへの分割パターンを指定するイントラＰＵ分割情報、および、各イントラＰＵについてのイントラ予測パラメータが含まれる。イントラ予測パラメータは、各イントラＰＵについてのイントラ予測方法（予測モード）を指定するためのパラメータである。

　（フィルタパラメータＦＰ）
　図３は、本実施形態に係る符号化データ＃１のフィルタパラメータＦＰ（図３においてalf_param()と表記）に含まれる各シンタックスを示す図である。

　（adaptive_loop_filter_flag）
　adaptive_loop_filter_flagは、後述する適応フィルタ５０による適応的フィルタ処理のオンオフを指定するフラグであり、adaptive_loop_filter_flagが０の場合、適応的フィルタ処理がオフに指定され、adaptive_loop_filter_flagが１の場合、適応的フィルタ処理がオンに指定される。

　（alf_enable_region_filter）
　alf_enable_region_filterは、適応フィルタ５０による特性値部分領域毎のフィルタ処理のオンオフを指定するフラグであり、alf_enable_region_filterが０の場合、特性値部分領域毎のフィルタ処理がオフに指定され、alf_enable_region_filterが１の場合、特性値部分領域毎のフィルタ処理がオンに指定される。後述する各種のシンタックスalf_num_first_split_minus1、alf_first_split_val_shift、alf_second_split_type、alf_second_split_flag[i0]、alf_length_luma_minus5_div2[i0]、alf_region_pred_luma[i][j]、およびalf_coeff_luma[i][j]は、alf_enable_region_filterが１の場合にのみ符号化される。

　alf_num_first_split_minus1、alf_first_split_val_shift、alf_second_split_type、および、alf_second_split_flag[i0]は、特性値領域ＣＲを各特性値部分領域ＣＰＲに分割する分割の仕方を指定する特性値分割情報を構成する。特性値分割情報は、特性値領域ＣＲの分割の仕方を指定する情報であり、第１段階の分割数及び形状（ここではalf_num_first_split_minus1）を指定する情報と、第１の分割で得られた特性値部分領域に対して第２段階の分割数及び形状を指定する情報（ここではalf_second_split_flag[i0]）と、分割に用いる特性値の境界を指定するための情報（alf_second_split_type）から構成される。また、分割数及び形状とは別に、分割の仕方を指定する情報（ここではalf_second_split_type）も指定可能であり、これも特性値分割情報の一種である。

　本実施形態では、特性値分割情報は、特性値領域ＣＲの分割の仕方を階層的に指定する情報である。階層的に指定することによって、高い分割の自由度を有しながら、分割の自由度を増やした場合に生じる分割を指定するための符号量の増加を防ぐことができる。また、階層的な表現では、同種の特性を有する複数の領域を、１つのまとまりとして表現することが可能であり、まとめられた該複数の領域に対して同じフィルタ係数を割り当てることが可能であるため、単純に特性値毎、もしくは、特性値の組み合わせ毎にフィルタ係数を割り当てる場合に比べて、フィルタ係数の符号量を低減することができる。実施形態には図示していないが、階層的な表現は、第１段階の分割と第２段階の分割で同じ特性値（例えば活性度）を用いる場合にも用いることが可能である。この場合も、近い特性値を有する複数の領域を１つのまとまりとして表現し、まとめられた該複数の領域に対して同じフィルタ係数を割り当てることにより、小さな符号量でフィルタ係数を符号化することができる。また、複数の特性値を用いる場合においては、ノイズ低減効果が大きい特性値を用いて優先的に分割を行い、分割したとしても効果の小さい領域については分割せずに１つのまとまりとして取り扱うことによって、フィルタ係数の符号量を相対的に小さくすることができる。

　（alf_num_first_split_minus1）
　alf_num_first_split_minus1は、特性値領域の第１段階の分割の分割数AlfNumFirstSplitを指定するシンタックスであり、このシンタックスより、分割数AlfNumFirstSplitが、
　　AlfNumFirstSplit＝alf_num_first_split_minus1＋１
によって決定される。

　図４の（ａ）は、alf_enable_region_filter＝０の場合の特性値領域ＣＲ、すなわち分割されていない特性値領域ＣＲを示す図であり、図４の（ｂ）は、alf_enable_region_filter＝１、かつAlfNumFirstSplit＝３の場合について、第１段階の分割が行われた特性値領域ＣＲを示す図である。図４の（ｂ）に示すように、AlfNumFirstSplit＝３の場合、特性値領域ＣＲは、第１段階の分割によって、特性値Ｘに関して３つの特性値部分領域に分割される。図４の（ｂ）では、これら３つの特性値部分領域の境界が、特性値分割点ＰＸ２およびＰＸ４によって指定される場合を例示している。このように第１段階の分割において用いられる特性値分割点のことを初期分割点とも呼ぶ。また、第２段階の分割において用いられる特性値分割点のことを再分割点とも呼ぶ。図４の（ｃ）は、初期分割点ＰＸ２およびＰＸ４に加えて、第２段階の分割において用いられる再分割点ＰＸ１、ＰＸ３およびＰＸ５を示す図である。

　なお、第１の分割によって得られた各特性値部分領域は、初期分割インデックス［ｉ０］（０≦ｉ０≦AlfNumFirstSplit－１）によって識別される。初期分割インデックス［ｉ０］と特性Ｘインデックス［ｉ］との対応は、後述するalf_second_split_typeの値に応じて以下のように与えられる。

　・alf_second_split_type＝０の場合
　　ｉ＝２×ｉ０、または２×ｉ０＋１
　・alf_second_split_type＝１の場合
　　ｉ＝ｉ０
　第１の分割によって得られた特性値部分領域であって、初期分割インデックス［ｉ０］によって指定される特性値部分領域のことを特性値部分領域ＣＰＲ［ｉ０］とも表記する。

　（alf_first_split_val_shift）
　alf_first_split_val_shiftは、特性値分割点ＰＸｎ（１≦ｎ≦ＮＸ－１）を変更するために参照されるフラグである。特性値分割点ＰＸｎは、alf_first_split_val_shiftの値に応じて変更される。

　（alf_second_split_type）
　alf_second_split_typeは、第２段階の分割の種別を指定するためのフラグである。alf_second_split_typeが０であれば、各特性値部分領域は、特性値Ｘおよび特性値Ｙに基づいて１または複数の特性値部分領域に更に分割され、alf_second_split_typeが１であれば、各特性値部分領域は、特性値Ｙに基づいて１または複数の特性値部分領域に更に分割される。

　図４の（ｄ）は、特性値Ｘとして活性度を用いる場合に、alf_first_split_val_shiftおよびalf_second_split_typeの値に応じて設定される特性値分割点ＰＸ１～ＰＸ５を例示する表である。図４の（ｄ）に示す例においては、alf_second_split_type＝１の場合に、初期分割点ＰＸ２およびＰＸ４の各値が指定され、alf_second_split_type＝０の場合に、初期分割点を含む全ての特性値分割点ＰＸ１～ＰＸ５の各値が指定される。図４の（ｄ）に示す例においては、alf_first_split_val_shift＝１の場合のＰＸ１～ＰＸ５の各値が、alf_first_split_val_shift＝０の場合の各値の１／２に設定されている。このように、特性値分割点ＰＸｎの各値は、alf_first_split_val_shiftの値に応じて変更される。

　また、図４の（ｄ）に示すように、特性値Ｘとして活性度を用いる場合、特性値Ｘの値が大きい程、初期分割点の間隔が大きく設定される。これは、処理対象フレーム（またはスライス）に含まれる単位領域の多くは、小さな活性度を有しているためである。図４の（ｄ）に示すように、特性値Ｘの小さい範囲をより細かく分割することによって、各特性値部分領域に分類される単位領域の数を一定に近づけることができる。初期分割点に限らず、再分割においても、特性値の度数を考慮して、分割点の間隔を等間隔以外とすることが適当である。すなわち、特性値のヒストグラムを作成した場合において、多くの場合に度数が集中しやすい部分があれば、その度数が集中する部分ほど間隔を細かくし、度数が小さい部分では間隔を大きくすると良い。例えば、活性度に関しては、値が小さい部分に度数が集中しやすい傾向があり、方向性に関しては、水平方向と垂直方向に度数が集中しやすい傾向にある。

　alf_first_split_val_shiftは、初期分割（第１段階の分割）における分割点を指定するための情報（第１分割点指定情報）を構成する。

　（alf_second_split_flag）
　alf_second_split_flag[i0]は、第１段階の分割によって得られた各特性値部分領域について、第２段階の分割の具体的な態様を指定するシンタックスである。上述のalf_second_split_type、およびalf_second_split_flag[i0]によって、第１段階の分割によって得られた各特性値部分領域についての、第２段階の分割が具体的に指定される。

　図５の（ａ）は、第１段階の分割によって得られた特性値部分領域が、alf_second_split_type＝０によって指定される第２段階の分割によって、特性値Ｙに関して２つの特性値部分領域に分割される場合を示しており、図５の（ｂ）は、第１段階の分割によって得られた特性値部分領域が、alf_second_split_type＝１によって指定される第２段階の分割によって、特性値Ｙに関して４つの特性値部分領域に分割される場合を示している。このように、alf_second_split_flag[i0]は、第２段階の分割において分割数と分割形状を指定する。

　図５の（ｃ）は、特性値Ｙとして画像の方向性を用いた場合の特性値分割点ＰＹ１～ＰＹ３と、特性値Ｙとして平均画素値を用いた場合の特性値分割点ＰＹ１～ＰＹ３を示している。

　alf_second_split_typeは、再分割（第２段階の分割）における分割点を指定するための情報（第２分割点指定情報）を構成する。

　図６は、第１段階の分割によって得られた特性値部分領域ＣＰＲ［ｉ０＝０］が、alf_second_split_flag[i0]、および、alf_second_split_typeの各値に応じて、第２段階の分割によってどのように分割されるのかを具体的に示す図である。［ｉ０＝０］以外の初期分割インデックスによって指定される特性値部分領域ＣＰＲ［ｉ０］の第２段階の分割も同様である。

　図６に示すように、alf_second_split_type＝０の場合、第１段階の分割によって得られた特性値部分領域ＣＰＲ［ｉ０＝０］は以下のように分割される。

　・alf_second_split_flag[i0]＝０：分割なし
　・alf_second_split_flag[i0]＝１：特性値Ｘに関して２分割（特性値分割点：ＰＸ１）
　・alf_second_split_flag[i0]＝２：特性値Ｙに関して２分割（特性値分割点：ＰＹ２）
　・alf_second_split_flag[i0]＝３：特性値Ｘおよび特性値Ｙのそれぞれに関して２分割の合計４分割（特性値分割点：ＰＸ１，ＰＹ２）
　また、alf_second_split_type＝１の場合、第１段階の分割によって得られた特性値部分領域ＣＰＲ［ｉ０＝０］は以下のように分割される。

　・alf_second_split_flag[i0]＝０：分割なし
　・alf_second_split_flag[i0]＝１：特性値Ｙに関して２分割（特性値分割点：ＰＹ２）
　・alf_second_split_flag[i0]＝２：特性値Ｙに関して２分割（特性値分割点：ＰＹ１）
　・alf_second_split_flag[i0]＝３：特性値Ｙに関して４分割（特性値分割点：ＰＹ１，ＰＹ２，ＰＹ３）
　また、第１段階の分割によって得られた特性値部分領域ＣＰＲ［ｉ０＝０］に対して第２段階の分割を行うことによって得られた各特性値部分領域は、初期分割インデックス［ｉ０］と再分割インデックス［ｊ０］とを組み合わせて得られる特性値領域内インデックス（ｉ０、ｊ０）によって指定される。ここで、再分割インデックス［ｊ０］は、特性値部分領域ＣＰＲ［ｉ０］に含まれる各特性値部分領域を指定するインデックスである。特性値領域内インデックス（ｉ０、ｊ０）によって指定される特性値部分領域を特性値部分領域ＣＰＲ（ｉ０、ｊ０）とも表記する。

　図６に示すように、alf_second_split_type＝０、および、alf_second_split_type＝１の何れの場合にも、第１段階の分割によって得られた特性値部分領域ＣＰＲ［ｉ０］には、以下の特性値部分領域ＣＰＲ（ｉ０、ｊ０）が含まれる。

　　・alf_second_split_flag[i0]＝０：ＣＰＲ（ｉ０、０）
　　・alf_second_split_flag[i0]＝１：ＣＰＲ（ｉ０、０）、およびＣＰＲ（ｉ０、１）
　　・alf_second_split_flag[i0]＝２：ＣＰＲ（ｉ０、０）、およびＣＰＲ（ｉ０、１）
　　・alf_second_split_flag[i0]＝３：ＣＰＲ（ｉ０、０）、ＣＰＲ（ｉ０、１）、ＣＰＲ（ｉ０、２）、およびＣＰＲ（ｉ０、３）
　また、alf_second_split_type＝０の場合、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）に含まれている分割単位ＤＵ［ｉ］［ｊ］は以下の通りである。

　　・alf_second_split_flag＝０の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［２×ｉ０］［０］，ＤＵ［２×ｉ０］［１］，ＤＵ［２×ｉ０＋１］［０］，ＤＵ［２×ｉ０＋１］［１］
　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［２×ｉ０］［０］，ＤＵ［２×ｉ０］［１］
　　　ＣＰＲ（ｉ０、１）：ＤＵ［２×ｉ０＋１］［０］，ＤＵ［２×ｉ０＋１］［１］
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［２×ｉ０］［０］，ＤＵ［２×ｉ０＋１］［０］
　　　ＣＰＲ（ｉ０、１）：ＤＵ［２×ｉ０］［１］，ＤＵ［２×ｉ０＋１］［１］
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［２×ｉ０］［０］
　　　ＣＰＲ（ｉ０、１）：ＤＵ［２×ｉ０］［１］
　　　ＣＰＲ（ｉ０、２）：ＤＵ［２×ｉ０＋１］［０］
　　　ＣＰＲ（ｉ０、３）：ＤＵ［２×ｉ０＋１］［１］
　また、alf_second_split_type＝１の場合、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）に含まれている分割単位ＤＵ［ｉ］［ｊ］は以下の通りである。

　　・alf_second_split_flag＝０の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［ｉ０］［０］，ＤＵ［ｉ０］［１］，ＤＵ［ｉ０］［２］，ＤＵ［ｉ０］［３］
　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［ｉ０］［０］，ＤＵ［ｉ０］［１］
　　　ＣＰＲ（ｉ０、１）：ＤＵ［ｉ０］［２］，ＤＵ［ｉ０］［３］
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［ｉ０］［０］
　　　ＣＰＲ（ｉ０、１）：ＤＵ［ｉ０］［１］，ＤＵ［ｉ０］［２］，ＤＵ［ｉ０］［３］
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、０）：ＤＵ［ｉ０］［０］
　　　ＣＰＲ（ｉ０、１）：ＤＵ［ｉ０］［１］
　　　ＣＰＲ（ｉ０、２）：ＤＵ［ｉ０］［２］
　　　ＣＰＲ（ｉ０、３）：ＤＵ［ｉ０］［３］
　（alf_length_luma_minus5_div2）
　alf_length_luma_minus5_div2[i0]は、第１段階の分割によって得られた各特性値部分領域についてのフィルタのタップ数を指定するためのシンタックス（タップ数指定情報）である。このシンタックスより、タップ数AlfLengthLumaが、
　　AlfLengthLuma＝alf_length_luma_minus5_div2×２＋５
によって決定される。

　図７は、alf_length_luma_minus5_div2[i0]の値が、１、２、および３である場合に、本実施形態に係る適応フィルタによってそれぞれ設定される参照領域Ｒ０、Ｒ１、Ｒ２を例示する図である。図７においては、菱形の参照領域を例示しているが、本実施形態における参照領域は、これらの例に限定されるものではなく、alf_length_luma_minus5_div2[i0]によってタップ数が指定される矩形状の参照領域を用いてもよい。

　また、図３に示すように、フィルタパラメータＦＰにおいて、alf_length_luma_minus5_div2[i0]は、後述するフィルタ係数を指定するためのシンタックスalf_coeff_luma[i][j]よりも上位の階層にて伝送される。また、図示しないが、第２段階の分割で得られた各特性値部分領域についてのフィルタのタップ数を指定するためのシンタックスを符号化しても良い。この場合、第２段階の分割で得られた各特性値部分領域についてのフィルタのタップ数を指定するためのシンタックスalf_length_luma_minus5_div2[i][j]が、alf_coeff_luma[i][j]と同じ階層において符号化される。上記の構成により、領域毎に異なるタップ数のフィルタ係数を用いて適応フィルタ処理を行うことが可能になる。領域の活性度及び領域毎の効果の違いに応じて適したタップ数が異なるため、適応的にタップ数を選択できる上記の構成は符号化効率を向上させることができる。例えば、領域の活性度が小さい場合には活性度が大きい場合よりもタップ数を大きくとることが適当であり、適応フィルタの効果が大きい特性値部分領域には、効果が小さい特性値部分領域よりも大きいタップ数を用いることが適当である。

　また、図示した構成では、１つの特性値部分領域に作用するフィルタのフィルタ係数ではなく、複数の特性値部分領域にそれぞれ作用するフィルタのフィルタ係数を１つのまとまりとしてタップ数を符号化する。これにより、多くのフィルタ係数を符号化する場合においてもタップ数の符号量を低減させることができる。

　（alf_coeff_luma）
　alf_coeff_luma[i][j]（ｉ＝ｉ０，２×ｉ０，２×ｉ０＋１、ｊ＝０，１，２，３）は、各特性値部分領域についてのフィルタ係数（オフセットを含む、以下同様）を指定するためのシンタックスである。

　alf_second_split_type＝０の場合について、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）と、それらに割り付けられるalf_coeff_luma[i][j]との対応関係、すなわち、特性値領域内インデックス（ｉ０、ｊ０）とalf_coeff_luma[i][j]との対応関係は以下の通りである。なお、以下の表記において、「*」は積を表す演算記号である。

　　・alf_second_split_flag＝０の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0*2][0]
　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0*2][0]
　　　ＣＰＲ（ｉ０、１）：alf_coeff_luma[i0*2][1]
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0*2][0]
　　　ＣＰＲ（ｉ０、１）：alf_coeff_luma[i0*2][1]
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0*2][0]
　　　ＣＰＲ（ｉ０、１）：alf_coeff_luma[i0*2][1]
　　　ＣＰＲ（ｉ０、２）：alf_coeff_luma[i0*2+1][0]
　　　ＣＰＲ（ｉ０、３）：alf_coeff_luma[i0*2+1][1]
　また、alf_second_split_type＝１の場合について、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）と、それらに割り付けられるalf_coeff_luma[i][j]との対応関係、すなわち、特性値領域内インデックス（ｉ０、ｊ０）とalf_coeff_luma[i][j]との対応関係は以下の通りである。

　　・alf_second_split_flag＝０の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0][0]
　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0][0]
　　　ＣＰＲ（ｉ０、１）：alf_coeff_luma[i0][2]
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0][0]
　　　ＣＰＲ（ｉ０、１）：alf_coeff_luma[i0][1]
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、０）：alf_coeff_luma[i0][0]
　　　ＣＰＲ（ｉ０、１）：alf_coeff_luma[i0][1]
　　　ＣＰＲ（ｉ０、２）：alf_coeff_luma[i0][2]
　　　ＣＰＲ（ｉ０、３）：alf_coeff_luma[i0][3]
　なお、alf_coeff_luma[i][j]のうち、最初に符号化／復号されるフィルタ係数alf_coeff_luma[0][0]は、特性値部分領域ＣＰＲ（０、０）についてのフィルタ係数そのものであり、alf_coeff_luma[i][j]（ｉ≠０、ｊ≠０）は、対象となる特性値部分領域についてのフィルタ係数の予測値（予測フィルタ係数とも呼ぶ）と、実際に用いられるフィルタ係数との残差（フィルタ係数残差とも呼ぶ）である。alf_coeff_luma[i][j]は、より正確には、フィルタ係数又はフィルタ係数残差の各成分を指定するためのインデックス［ｋ］（０≦ｋ≦Ｎcomp－１、Ｎcompは、フィルタ係数の成分の総数）を有しているが、ここではそのようなインデックスの表記を省略している。

　また、例えば、alf_coeff_luma[i][j]に含まれるオフセット成分を、オフセット以外の成分よりも上位の階層にて伝送する構成としてもよい。具体的には、alf_coeff_luma[i][j]に含まれるオフセット成分を、alf_length_luma_minus5_div2[i0]と同じ階層にて伝送しておき、オフセット以外の成分を、alf_length_luma_minus5_div2[i0]よりも下位の階層にて伝送する構成としてもよい。

　また、以下では、特性値部分領域ＣＰＲ（ｉ０、ｊ０）に割り付けられたalf_coeff_luma[i][j]を、alf_coeff_luma(i0,j0)とも表記する。

　（alf_region_pred_luma）
　alf_region_pred_luma[i][j]（ｉ＝ｉ０，２×ｉ０，２×ｉ０＋１、ｊ＝１，２，３）は、各特性値部分領域についてのフィルタ係数の予測値を導出する際の予測方向を指定するためのフラグである。alf_region_pred_luma[i][j]は、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）のうち、フィルタ係数の予測値を導出する際に参照可能な特性値部分領域が複数隣接している特性値部分領域ＣＰＲについて符号化される。例えば、特性値領域ＣＲに含まれる各特性値部分領域についてのフィルタ係数の復号がラスタスキャン順に行われる場合には、左辺および上辺の双方に特性値部分領域が隣接している特性値部分領域についてalf_region_pred_lumaが符号化される。例えば、alf_region_pred_luma＝０であれば、上辺に隣接する特性値部分領域が参照され、alf_region_pred_luma＝１であれば、左辺に隣接する特性値部分領域が参照される。

　一方で、特性値領域ＣＲに含まれる各特性値部分領域についてのフィルタ係数の復号がラスタスキャンの逆順に行われる場合には、右辺および下辺の双方に特性値部分領域が隣接している特性値部分領域についてalf_region_pred_lumaが符号化される。

　図８は、特性値部分領域ＣＰＲ［ｉ０］に対して第２段階の分割を行うことによって得られた各特性値部分領域ＣＰＲ（ｉ０、ｊ０）について割り付けられる予測方向を示す図である。

　各特性値部分領域についてのフィルタ係数の復号がラスタスキャン順に行われる場合であって、alf_second_split_type＝０の場合における、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）と、それらに割り付けられるalf_region_pred_luma[i][j]との対応関係は以下の通りである。

　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、１）：alf_region_pred_luma[i0*2][1]
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、１）：alf_region_pred_luma[i0*2][1]
　　　ＣＰＲ（ｉ０、３）：alf_region_pred_luma[i0*2+1][1]
　図８に示すように、これらの特性値部分領域については、alf_region_pred_lumaの値に応じて、予測方向として、上方向および左方向のうち何れかが割り付けられる。

　alf_region_pred_lumaを用いることにより、予測方向として、（１）特性値Ｙの値が処理対象の特性値部分領域と同じ特性値部分領域、または、特性値Ｙの値が処理対象の特性値部分領域により近い特性値部分領域について既に復号されたフィルタ係数を予測値とする予測方向（上方向）と、（２）特性値Ｘの値が処理対象の特性値部分領域と同じ特性値部分領域、または、特性値Ｘの値が処理対象の特性値部分領域により近い特性値部分領域について既に復号されたフィルタ係数を予測値とする予測方向（横方向）との選択が可能になる。

　ここで、特性値が近いか否かは、特性値の種類に応じて定まるものである。例えば、活性度などの単純なスカラー量によって表現される特性値については、値の差がより小さいものがより近いものとなる。一方で、方向性などのベクトル量（ここでは方向）に対してインデックスを割り当てることによって表現される特性値については、元のベクトルのなす角がより小さいものがより近いものとなる。

　また、各特性値部分領域についてのフィルタ係数の復号がラスタスキャン順に行われる場合であって、alf_second_split_type＝１の場合における、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）と、それらに割り付けられるalf_region_pred_luma[i][j]との対応関係は以下の通りである。

　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、１）：alf_region_pred_luma[i0][2]
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、１）：alf_region_pred_luma[i0][1]
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、１）：alf_region_pred_luma[i0][1]
　　　ＣＰＲ（ｉ０、２）：alf_region_pred_luma[i0][2]
　　　ＣＰＲ（ｉ０、３）：alf_region_pred_luma[i0][3]
　図８に示すように、これらの特性値部分領域については、alf_region_pred_lumaの値に応じて、予測方向として、上方向および左方向のうち何れかが割り付けられる。

　一方で、図８に示すように、以下に列挙する特性値部分領域については、上辺に隣接した特性値部分領域のみ参照可能であるため、予測方向として上方向のみが割り付けられる。

　・alf_second_split_type＝０の場合：
　　・alf_second_split_flag＝０の場合：
　　　ＣＰＲ（ｉ０、０）
　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、０）
　　　ＣＰＲ（ｉ０、１）
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、０）
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、０）
　　　ＣＰＲ（ｉ０、２）
　・alf_second_split_type＝１の場合：
　　・alf_second_split_flag＝０の場合：
　　　ＣＰＲ（ｉ０、０）
　　・alf_second_split_flag＝１の場合：
　　　ＣＰＲ（ｉ０、０）
　　・alf_second_split_flag＝２の場合：
　　　ＣＰＲ（ｉ０、０）
　　・alf_second_split_flag＝３の場合：
　　　ＣＰＲ（ｉ０、０）
　なお、以下では、特性値部分領域ＣＰＲ（ｉ０、ｊ０）に割り付けられたalf_region_pred_luma[i][j]を、alf_region_pred_luma(i0,j0)とも表記する。

　また、フィルタパラメータＦＰは、alf_region_pred_luma[i][j]を含まない構成としてもよい。この場合には、各特性値部分領域についての予測方向は、図９に示すように、固定的に上方向を用いればよい。

　図３の末尾に示すシンタックスalf_length_luma_minus5_div2、およびalf_coeff_luma[0][0]は、シンタックスalf_enable_region_filterが０である場合、すなわち、特性値部分領域毎のフィルタ処理がオフに指定される場合にフィルタパラメータＦＰに含められる。alf_length_luma_minus5_div2によってタップ数が指定され、alf_coeff_luma[0][0]によってフィルタ係数が指定される。

　なお、図３に示したDescriptor（記述子）u(1)は、これらの記述子に関連付けられたシンタックスが１ビットで固定長符号化されることを示しており、u(2)は、この記述子に関連付けられたシンタックスが２ビットで固定長符号化されることを示しており、ue(v)は、この記述子に関連付けられたシンタックスが可変長符号化されることを示している。

　また、上記の例では、シンタックスalf_second_split_flag[i0]の値は、０～３のうち何れかの値をとるものとしたが、これは本実施形態を限定するものではない。例えば、シンタックスalf_second_split_flag[i0]が、０～７のうち何れかの値をとる構成としてもよい。このようなシンタックスalf_second_split_flag[i0]によって指定される再分割の例を図１０に示す。図１０に示す例では、alf_second_split_flag[i0]の各値に応じて、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］が、特性値Ｘについて最大で２分割され、特性値Ｙについて最大で３分割される。

　（動画像復号装置１）
　以下では、本実施形態に係る動画像復号装置１について図１１～図１４を参照して説明する。動画像復号装置１は、その一部に、Ｈ．２６４／ＭＰＥＧ－４．ＡＶＣに採用されている方式、ＶＣＥＧ（Video Coding Expert Group）における共同開発用コーデックであるＫＴＡソフトウェアに採用されている方式、その後継コーデックであるＴＭｕＣ（Test Model under Consideration）ソフトウェアに採用されている方式、及び、ＨＭ（HEVCTestModel）ソフトウェアに採用されている技術を含んでいる。

　図１１は、動画像復号装置１の構成を示すブロック図である。図１１に示すように、動画像復号装置１は、可変長符号復号部１３、動きベクトル復元部１４、バッファメモリ１５、インター予測画像生成部１６、イントラ予測画像生成部１７、予測方式決定部１８、逆量子化・逆変換部１９、加算器２０、デブロッキングフィルタ４１、および、適応フィルタ５０を備えている。動画像復号装置１は、符号化データ＃１を復号することによって動画像＃２を生成するための装置である。

　可変長符号復号部１３は、各パーティションに関する予測パラメータＰＰを、符号化データ＃１から復号する。すなわち、インター予測パーティションに関しては、参照画像インデックスＲＩ、推定動きベクトルインデックスＰＭＶＩ、及び、動きベクトル残差ＭＶＤを符号化データ＃１から復号し、これらを動きベクトル復元部１４に供給する。一方、イントラ予測パーティションに関しては、（１）パーティションのサイズを指定するサイズ指定情報、および、（２）予測インデックスを指定する予測インデックス指定情報を符号化データ＃１から復号し、これをイントラ予測画像生成部１７に供給する。また、可変長符号復号部１３は、ＣＵ情報を符号化データから復号し、これを予測方式決定部１８に供給する（図示省略）。更に、可変長符号復号部１３は、各ブロックに関する量子化予測残差ＱＤ、及び、そのブロックを含むツリーブロックに関する量子化パラメータ差分Δｑｐを符号化データ＃１から復号し、これらを逆量子化・逆変換部１９に供給する。また、可変長符号復号部１３は、符号化データ＃１からフィルタオンオフ情報、フィルタセット番号、および、フィルタ係数群を復号し、それらを適応フィルタ５０に供給する。

　動きベクトル復元部１４は、各インター予測パーティションに関する動きベクトルｍｖを、そのパーティションに関する動きベクトル残差ＭＶＤと、他のパーティションに関する復元済みの動きベクトルｍｖ’とから復元する。具体的には、（１）推定動きベクトルインデックスＰＭＶＩにより指定される推定方法に従って、復元済みの動きベクトルｍｖ’から推定動きベクトルｐｍｖを導出し、（２）導出した推定動きベクトルｐｍｖと動きベクトル残差ＭＶＤとを加算することによって動きベクトルｍｖを得る。なお、他のパーティションに関する復元済みの動きベクトルｍｖ’は、バッファメモリ１５から読み出すことができる。動きベクトル復元部１４は、復元した動きベクトルｍｖを、対応する参照画像インデックスＲＩと共に、インター予測画像生成部１７に供給する。なお、双方向予測（重み付き予測）を行うインター予測パーティションについては、復元した２つの動きベクトルｍｖ１及びｍｖ２を、対応する参照画像インデックスＲＩ１及びＲＩ２と共に、インター予測画像生成部１７に供給する。

　インター予測画像生成部１６は、各インター予測パーティションに関する動き補償画像ｍｃを生成する。具体的には、動きベクトル復元部１４から供給された動きベクトルｍｖを用いて、同じく動きベクトル復元部１４から供給された参照画像インデックスＲＩによって指定されるフィルタ済復号画像Ｐ＿ＦＬ’から動き補償画像ｍｃを生成する。ここで、フィルタ済復号画像Ｐ＿ＦＬ’は、既に復号が完了した復号済みの復号画像に対して、デブロッキングフィルタ４１によるデブロック処理、および、適応フィルタ５０による適応的フィルタ処理を施すことによって得られる画像であり、インター予測画像生成部１６は、フィルタ済復号画像Ｐ＿ＦＬ’を構成する各画素の画素値をバッファメモリ１５から読み出すことができる。インター予測画像生成部１６によって生成された動き補償画像ｍｃは、インター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒとして予測方式決定部１８に供給される。なお、双方向予測（重み付き予測）を行うインター予測パーティションについては、（１）動きベクトルｍｖ１を用いて、参照画像インデックスＲＩ１によって指定されたフィルタ済復号画像Ｐ＿ＦＬ１’から動き補償画像ｍｃ１を生成し、（２）動きベクトルｍｖ２を用いて、参照画像インデックスＲＩ２によって指定されたフィルタ済復号画像Ｐ＿ＦＬ２’とから動き補償画像ｍｃ２を生成し、（３）動き補償画像ｍｃ１と動き補償画像ｍｃ２との加重平均にオフセット値を加えることによってインター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒを生成する。

　イントラ予測画像生成部１７は、各イントラ予測パーティションに関する予測画像Ｐｒｅｄ＿Ｉｎｔｒａを生成する。具体的には、まず、符号化データ＃１から復号された予測モードを参照し、該予測モードを対象パーティションに対して、例えば、ラスタスキャン順に割り付ける。続いて、当該予測モードの示す予測方法に従って、復号画像Ｐから予測画像Ｐｒｅｄ＿Ｉｎｔｒａを生成する。イントラ予測画像生成部１７によって生成されたイントラ予測画像Ｐｒｅｄ＿Ｉｎｔｒａは、予測方式決定部１８に供給される。

　また、イントラ予測画像生成部１７は、対象パーティションのサイズ、および、対象パーティションに割り付けられた予測モードを示す情報であるイントラ符号化モード情報ＩＥＭを適応フィルタ５０に供給する。なお、イントラ予測画像生成部１７によるイントラ予測画像Ｐｒｅｄ＿Ｉｎｔｒａの具体的な生成処理については、後述するためここでは説明を省略する。

　予測方式決定部１８は、ＣＵ情報に基づいて、各パーティションがインター予測を行うべきインター予測パーティションであるのか、イントラ予測を行うべきイントラ予測パーティションであるのかを決定する。そして、前者の場合には、インター予測画像生成部１６にて生成されたインター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒを予測画像Ｐｒｅｄとして加算器２０に供給し、後者の場合には、イントラ予測画像生成部１７にて生成されたイントラ予測画像Ｐｒｅｄ＿Ｉｎｔｒａを予測画像Ｐｒｅｄとして加算器２０に供給する。

　逆量子化・逆変換部１９は、（１）量子化予測残差ＱＤを逆量子化し、（２）逆量子化によって得られたＤＣＴ係数を逆ＤＣＴ（Discrete Cosine Transform）変換し、（３）逆ＤＣＴ変換によって得られた予測残差Ｄを加算器２０に供給する。なお、量子化予測残差ＱＤを逆量子化する際に、逆量子化・逆変換部１９は、可変長符号復号部１３から供給された量子化パラメータ差分Δｑｐから量子化ステップＱＰを導出する。量子化パラメータｑｐは、直前に逆量子化／逆ＤＣＴ変換したツリーブロックに関する量子化パラメータｑｐ’に量子化パラメータ差分Δｑｐを加算することによって導出でき、量子化ステップＱＰは、量子化ステップｑｐからＱＰ＝２^ｐｑ／６によって導出できる。また、逆量子化・逆変換部１９による予測残差Ｄの生成は、ブロック（変換単位）を単位として行われる。

　加算器２０は、予測方式決定部１８から供給された予測画像Ｐｒｅｄと、逆量子化・逆変換部１９から供給された予測残差Ｄとを加算することによって復号画像Ｐを生成する。

　デブロッキングフィルタ４１は、復号画像Ｐにおけるブロック境界、またはＣＵ境界を介して互いに隣接する画素の画素値の差が予め定められた閾値よりも小さい場合に、復号画像Ｐにおける当該ブロック境界、または当該ＣＵ境界に対してデブロッキング処理を施すことによって、当該ブロック境界、または当該ＣＵ境界付近の画像の平滑化を行う。デブロッキングフィルタ４１によりデブロッキング処理が施された画像は、デブロック済復号画像Ｐ＿ＤＢとして、適応フィルタ５０に出力される。

　適応フィルタ５０は、デブロッキングフィルタ４１から供給されるデブロック済復号画像Ｐ＿ＤＢに対して、符号化データ＃１から復号されたフィルタパラメータＦＰを用いたフィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。適応フィルタ５０によりフィルタ処理が施された画像は、フィルタ済復号画像Ｐ＿ＦＬとして外部に出力されると共に、可変長符号復号部１３によって符号化データから復号されたＰＯＣ指定情報と関連付けてバッファメモリ１５に格納される。適応フィルタ５０の具体的な構成については、後述するため、ここでは説明を省略する。

　（適応フィルタ５０）
　適応フィルタ５０は、シンタックスadaptive_loop_filter_flagが１である場合に、デブロック済復号画像Ｐ＿ＤＢに対して適応的フィルタ処理を施すことによってフィルタ済復号画像Ｐ＿ＦＬを生成する。

　適応フィルタ５０は、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの特性値に応じて、該対象単位領域を、上述した各特性値部分領域の何れかと関連付け、該単位領域が関連付けられた特性値部分領域について復号されたフィルタ係数を用いて、該単位領域に対するフィルタ処理を施す。

　図１２は、適応フィルタ５０の構成を示すブロック図である。図１２に示すように、適応フィルタ５０は、適応フィルタ情報復号部５１および適応フィルタ部５２を備えている。なお、図１２には図示していないが、適応フィルタ５０は、シンタックスalf_enable_region_filterおよびシンタックスalf_num_first_split_minus1を復号する上位シンタックス復号部を備えている。

　適応フィルタ５０は、シンタックスalf_enable_region_filterが１である場合に、特性値部分領域毎のフィルタ処理を行う。また、適応フィルタ５０は、alf_num_first_split_minus1の値を用いて、分割数AlfNumFirstSplitを、
　　AlfNumFirstSplit＝alf_num_first_split_minus1＋１
に設定する。

　（適応フィルタ情報復号部５１）
　適応フィルタ情報復号部５１は、符号化データ＃１に含まれているフィルタパラメータＦＰを復号することによって、特性値分割点ＰＸｎおよびＰＹｍ、並びに、フィルタ係数RegionFilterLuma[i0][j0]を導出するための構成である。導出された各特性値分割点およびフィルタ係数RegionFilterLuma[i0][j0]は、適応フィルタ部５２に供給される。なお、以下の説明では、適応フィルタ情報復号部５１によるフィルタ係数RegionFilterLuma[i0][j0]の導出は、特性値領域ＣＲを構成する各特性値部分領域についてラスタスキャン順に行われるものとするが、これは本実施形態を限定するものではなく、フィルタ係数RegionFilterLuma[i0][j0]の導出がラスタスキャンの逆順に行われる場合であっても適用することができる。その場合には、以下の説明における「左辺」を「右辺」と読み替え、「上辺」を「下辺」と読み替えればよい。

　図１２に示すように、適応フィルタ情報復号部５１は、領域別タップ数復号部５１１、領域構造復号部５１２、フィルタ係数残差復号部５１３、２次元予測フラグ復号部５１４、フィルタ係数予測部５１５、フィルタ係数復号部５１６、領域別フィルタ係数格納部５１７、特性値分割点変更フラグ復号部５１８、および、特性値分割点設定部５１９を備えている。

　領域別タップ数復号部５１１は、フィルタパラメータＦＰに含まれるシンタックスalf_length_luma_minus5_div2[i0]（０≦ｉ０＜AlfNumFirstSplit）を復号する。復号されたシンタックスalf_length_luma_minus5_div2[i0]は、特性値部分領域ＣＰＲ［ｉ０］に割り付けられると共に、フィルタ係数残差復号部５１３に供給される。また、シンタックスalf_length_luma_minus5_div2[i0]は、フィルタ係数予測部５１５、フィルタ係数復号部５１６、領域別フィルタ係数格納部５１７、フィルタ係数割り付け部５２４、および、フィルタ部５２５にも供給される（図１２において矢印不図示）。

　領域構造復号部５１２は、フィルタパラメータＦＰに含まれるシンタックスalf_second_split_typeおよびalf_second_split_flag[i0]を復号する。復号されたシンタックスalf_second_split_typeは、特性値領域ＣＲ全体に割り付けられると共に、フィルタ係数残差復号部５１３、２次元予測フラグ復号部５１４、および、特性値分割点設定部５１９に供給される。また、復号されたシンタックスalf_second_split_flag[i0]は、特性値部分領域ＣＰＲ［ｉ０］に割り付けられると共に、フィルタ係数残差復号部５１３、２次元予測フラグ復号部５１４、および、特性値分割点設定部５１９に供給される。

　フィルタ係数残差復号部５１３は、alf_length_luma_minus5_div2[i0]、alf_second_split_type、およびalf_second_split_flag[i0]を参照して、フィルタパラメータＦＰに含まれるシンタックスalf_coeff_luma[i][j]を復号すると共に、各シンタックスalf_coeff_luma[i][j]を、それぞれに対応する特性値部分領域ＣＰＲ（ｉ０、ｊ０）に割り付ける。alf_coeff_luma[i][j]と特性値部分領域ＣＰＲ（ｉ０、ｊ０）との対応関係については、符号化データ＃１の説明において既に述べたため、ここでは説明を省略する。また、復号されたシンタックスalf_coeff_luma[i][j]は、フィルタ係数復号部５１６に供給される。

　２次元予測フラグ復号部５１４は、alf_second_split_type、およびalf_second_split_flag[i0]を参照して、フィルタパラメータＦＰに含まれるシンタックスalf_region_pred_luma[i][j]を復号すると共に、各シンタックスalf_region_pred_luma[i][j]を、それぞれに対応する特性値部分領域ＣＰＲ（ｉ０、ｊ０）に割り付ける。alf_region_pred_luma[i][j]と特性値部分領域ＣＰＲ（ｉ０、ｊ０）との対応関係については、符号化データ＃１の説明において既に述べたため、ここでは説明を省略する。また、復号されたシンタックスalf_region_pred_lumaは、フィルタ係数予測部５１５に供給される。

　フィルタ係数予測部５１５は、シンタックスalf_region_pred_lumaを参照し、領域別フィルタ係数格納部５１７に格納された復号済みのフィルタ係数RegionFilterLuma[i0'][j0']から、予測フィルタ係数PredRegionFilterLuma[i0][j0]を特性値部分領域毎に導出する。導出された予測フィルタ係数PredRegionFilterLuma[i0][j0]は、フィルタ係数復号部５１６に供給される。

　ここで、処理対象の特性値部分領域である対象特性値部分領域にシンタックスalf_region_pred_lumaが割り付けられている場合には、フィルタ係数予測部５１５は、対象特性値部分領域に対して当該シンタックスalf_region_pred_lumaが示す方向に隣接する特性値部分領域について復号済みのフィルタ係数RegionFilterLuma[i0'][j0']を、対象特性値部分領域についての予測フィルタ係数PredRegionFilterLuma[i0][j0]に設定する。一方で、対象特性値部分領域にシンタックスalf_region_pred_lumaが割り付けられていない場合には、フィルタ係数予測部５１５は、対象特性値部分領域の上辺に隣接する特性値部分領域について復号済みのフィルタ係数RegionFilterLuma[i0'][j0']を、対象特性値部分領域についての予測フィルタ係数PredRegionFilterLuma[i0][j0]に設定する。

　フィルタ係数復号部５１６は、各特性値部分領域について、フィルタ係数残差alf_coeff_luma(i0,j0)と予測フィルタ係数PredRegionFilterLuma[i0][j0]とを加算することによって、フィルタ係数RegionFilterLuma[i0][j0]を生成し、各特性値部分領域に割り付ける。生成されたフィルタ係数RegionFilterLuma[i0][j0]は、領域別フィルタ係数格納部５１７に格納される。

　特性値分割点変更フラグ復号部５１８は、フィルタパラメータＦＰに含まれるシンタックスalf_first_split_val_shiftを復号する。復号されたシンタックスalf_first_split_val_shiftは、特性値分割点設定部５１９に供給される。

　特性値分割点設定部５１９は、alf_first_split_val_shiftおよびalf_second_split_typeに基づいて、特性値分割点ＰＸｎ（１≦ｎ≦ＮＸ－１）およびＰＹｍ（１≦ｍ≦ＮＸ－１）を導出する。導出された特性値分割点ＰＸｎおよびＰＹｍは、適応フィルタ部５２の備える特性インデックス算出部５２３に供給される。

　シンタックスalf_first_split_val_shiftおよびalf_second_split_typeの各値に対する特性値分割点ＰＸｎおよびＰＹｍの具体例については、符号化データ＃１の説明において既に述べたため、ここでは説明を省略する。

　なお、特性値分割点設定部５１９は、alf_first_split_val_shiftおよびalf_second_split_typeの何れをも参照することなく、自身の備えるメモリに予め格納された特性値分割情報に従って、特性値分割点ＰＸｎ（１≦ｎ≦ＮＸ－１）およびＰＹｍ（１≦ｍ≦ＮＸ－１）を導出する構成としてもよい。このような構成の場合、上記特性値分割情報は、動画像復号装置１および動画像符号化装置２において共通のものを用いることが好ましい。

　（適応フィルタ部５２）
　適応フィルタ部５２は、デブロック済復号画像Ｐ＿ＤＢを構成する各単位領域に対して、適応的フィルタ処理を行うことによってフィルタ済復号画像Ｐ＿ＦＬを生成するための構成である。ここで、各単位領域のフィルタ処理に用いられるフィルタ係数は、フィルタパラメータＦＰから復号されたフィルタ係数RegionFilterLuma[i0][j0]から、該単位領域におけるデブロック済復号画像Ｐ＿ＤＢの特性値Ｘに応じて、または、該単位領域におけるデブロック済復号画像Ｐ＿ＤＢの特性値Ｘおよび特性値Ｙに応じて選択される。また、生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ１５に格納される。

　図１２に示すように、適応フィルタ部５２は、第１特性値算出部５２１、第２特性値算出部５２２、特性インデックス算出部５２３、フィルタ係数割り当て部５２４、および、フィルタ部５２５を備えている。

　なお、適応フィルタ部５２に入力される画像は、デブロック済復号画像Ｐ＿ＤＢに限定されるものではなく、複数の入力画像を入力することもできる。例えば、適応フィルタ部５２には、デブロック済復号画像Ｐ＿ＤＢに加えて、復号画像Ｐおよび予測残差Ｄの少なくとも何れかを入力する構成としてもよい。このような構成の場合、後述する第１特性値算出部５２１および第２特性値算出部５２２は、デブロック済復号画像Ｐ＿ＤＢのみならず、復号画像Ｐおよび予測残差Ｄの少なくとも何れかについても各特性値を算出する構成とし、フィルタ部５２５は、それぞれの入力画像に対して、適応的フィルタ処理を行い、フィルタ後の画像を加算した後に出力する構成としてもよい。このような場合、フィルタパラメータＦＰには、各入力画像に対するフィルタ係数であって、各特性値部分領域に対応するフィルタ係数を含めておく構成とすればよい。

　（第１特性値算出部５２１）
　第１特性値算出部５２１は、処理対象の単位領域である対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢについての特性値Ｘを算出する。以下では、特性値Ｘとして活性度を算出する算出処理（特性値Ｘの算出処理例１）および特性値Ｘとして画素値の分散を算出する算出処理（特性値Ｘの算出処理例２）について説明を行う。ただし、特性値Ｘの具体例はこれらに限定されるものではない。

　（特性値Ｘの算出処理例１）
　本処理例では、第１特性値算出部５２１は、特性値Ｘとして、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの活性度ＡＣＴを算出する。ここで、活性度とは、概略的に言えば、画像の乱雑さを示す指標であり、対象単位領域を含む領域にＤＣＴ変換を施した場合に得られる変換係数において大きな高周波成分が存在するかなどに基づいても算出可能であるが、ここでは隣接する画素の画素値に基づいて算出するものとする。隣接する画素の画素値の差が大きいほど、活性度が大きくなる。算出された活性度ＡＣＴは、特性値Ｘとして特性インデックス算出部５２３に供給される。

　対象単位領域がＢｘ画素×Ｂｙ画素の矩形状である場合、対象単位領域における各画素の座標を（ｕ、ｖ）（ｕ、ｖはそれぞれ０≦ｕ≦Ｂｘ－１、０≦ｖ≦Ｂｙ－１を満たす整数）と表し、その座標におけるデブロック済復号画像Ｐ＿ＤＢの画素値をＳ（ｕ、ｖ）と表すことにすると、第１特性値算出部５２１は、例えば、以下の数式（１－１ａ）を用いることによって、活性度ＡＣＴを算出することができる。

数式（１－１ａ）は、隣接する画素の画素値の絶対値の総和（Sum of Absolute Difference, SAD）を指標として、活性度を評価することに対応している。

　また、第１特性値算出部５２１は、以下の数式（１－１ｂ）を用いることによって、活性度ＡＣＴを算出する構成としてもよい。

数式（１－１ｂ）は、隣接する画素の画素値の変形ラプラシアンの総和（Sum-Modified Laplacian, SML）を指標として、活性度を評価することに対応している。

　対象単位領域についての活性度を数式（１－１ａ）または（１－１ｂ）を用いて算出する場合、第１特性値算出部５２１は、対象単位領域内の画素Ｓ（ｉ、ｊ）のみならず、対象単位領域に隣接する画素Ｓ（－１、ｖ）、Ｓ（Ｂｘ、ｖ）、Ｓ（ｕ、－１）、および、Ｓ（ｕ、Ｂｙ）をも参照する。すなわち、数式（１－１ａ）または（１－１ｂ）を用いる場合の特性値算出参照領域は、対象単位領域内の画素Ｓ（ｕ、ｖ）、および、対象単位領域に隣接する画素Ｓ（－１、ｖ）、Ｓ（Ｂｘ、ｖ）、Ｓ（ｕ、－１）、および、Ｓ（ｕ、Ｂｙ）から構成される。第１特性値算出部５２１が、４×４画素の対象単位領域ＵＲについての活性度ＡＣＴを、数式（１－１ａ）または（１－１ｂ）を用いて算出する場合の特性値算出参照領域ＣＲＲを図１３（ａ）に示す。

　なお、対象単位領域がスライス境界またはＣＵ境界に接している場合、特性値算出参照領域内の一部の画素について、デブロック済復号画像Ｐ＿ＤＢの画素値が参照不能である場合が生じ得る。例えば、対象単位領域が、未復号のＣＵに隣接している場合、この未復号のＣＵの画素値を参照することはできない。このような場合、例外処理として、第１特性値算出部５２１は、それらの参照不能な画素値を参照することなく活性度ＡＣＴの算出を行う。例えば、対象単位領域の右辺および下辺が未復号のＣＵに隣接している場合、第１特性値算出部５２１は、数式（１－１ａ）においてｕ、ｖの和の範囲を一部制限して得られる以下の数式（１－１ａ’）を用いて活性度ＡＣＴを算出すればよい。

数式（１－１ｂ）についても同様である。

　一方で、第１特性値算出部５２１は、対象単位領域がスライス境界またはＣＵ境界に接しているか否かに関わらず、対象単位領域についての活性度を対象単位領域内の画素値のみを参照することによって算出する構成とすることもできる。例えば、第１特性値算出部５２１は、以下の数式（１－１ｃ）を用いることによって、活性度ＡＣＴを算出することもできる。

数式（１－１ｃ）は、数式（１－１ａ）と同様に、隣接する画素の画素値のＳＡＤを指標として隣接する画素の画素値の活性度を評価することに対応しているが、数式（２－１ａ）と異なり、対象単位領域に含まれる画素のみを参照して活性度を算出することを表している。

　また、第１特性値算出部５２１は、以下の数式（１－１ｄ）を用いることによって、活性度ＡＣＴを算出する構成としてもよい。

　数式（１－１ｄ）は、数式（１－１ｂ）と同様に、隣接する画素の画素値のＳＭＬを指標として、活性度を評価することに対応しているが、数式（１－１ｄ）と異なり、対象単位領域に含まれる画素のみを参照して活性度を算出することを表している。

　このように、第１特性値算出部５２１が、対象単位領域についての活性度を対象単位領域内の画素値のみを参照することによって算出する場合、図１３（ｂ）に示すように、特性値算出参照領域ＣＲＲは、対象単位領域ＵＲと同一の領域となる。後述する分散ＶＰも、対象単位領域内の画素値のみを参照して算出可能な活性度の一例である。

　したがって、第１特性値算出部５２１が、対象単位領域についての活性度を対象単位領域内の画素値のみを参照することによって算出する場合には、対象単位領域以外の画素値をも参照する場合に比べて、バッファメモリ１５から読み出す画素数が削減され、バッファメモリ１５から適応フィルタ５０へのデータ伝送量が削減される。また、活性度を算出するために参照される画素の数が少なく、例外処理も不要であるため、活性度を算出するための処理量が削減される。

　なお、数式（１－１ｃ）を用いることによって活性度ＡＣＴを算出する第１特性値算出部５２１を以下のように表現することもできる。すなわち、第１特性値算出部５２１は、画素（ｕ、ｖ）についての活性度ＡＣＴ（ｕ、ｖ）を、座標（ｕ、ｖ）の近傍｛（ｕ、ｖ），（ｕ＋１、ｖ），（ｕ、ｖ＋１）｝における各画素の画素値を参照して算出し、対象単位領域の内部領域｛（ｕ、ｖ）｜０≦ｕ≦Ｂｘ－２，０≦ｖ≦Ｂｙ－２｝におけるＡＣＴ（ｕ、ｖ）の総和を用いて、対象単位領域についてのＡＣＴを算出する。

　また、数式（１－１ｄ）を用いることによって活性度ＡＣＴを算出する第１特性値算出部５２１を以下のように表現することもできる。すなわち、第１特性値算出部５２１は、画素（ｕ、ｖ）についての活性度ＡＣＴ（ｕ、ｖ）を、座標（ｕ、ｖ）の近傍｛（ｕ、ｖ），（ｕ＋１、ｖ），（ｕ、ｖ＋１），（ｕ－１、ｖ），（ｕ、ｖ－１）｝における各画素の画素値を参照して算出し、対象単位領域の内部領域｛（ｕ、ｖ）｜１≦ｕ≦Ｂｘ－２，１≦ｖ≦Ｂｙ－２｝におけるＡＣＴ（ｕ、ｖ）の総和を用いて、対象単位領域についてのＡＣＴを算出する。

　このように、対象単位領域に含まれる画素のみを参照して活性度を算出する第１特性値算出部５２１は、対象単位領域において、その近傍全体が該対象単位領域に含まれる画素からなる内部領域に属する各画素の活性度を、該画素の上記近傍に含まれる画素の画素値を参照して導出したうえで、内部領域に属する各画素の活性度から該対象単位領域についての活性度を算出するものであると表現することもできる。

　なお、対象単位領域に含まれる画素のみを参照して活性度を算出する構成は、上記の例に限定されるものではなく、対象単位領域を、その近傍全体が該対象単位領域に含まれる画素からなる内部領域と、その近傍全体が該対象単位領域に含まれない画素からなる周辺領域とに分け、内部領域に属する各画素の活性度を該画素の近傍内の画素の画素値を参照して導出し、かつ、周辺領域に属する各画素の活性度を該画素の上記近傍内の画素であって該単位領域内の画素の画素値を参照して導出したうえで、該単位領域に属する各画素の活性度から該単位領域についての活性度を算出する構成としてもよい。

　（特性値Ｘの算出処理例２）
　本処理例では、第１特性値算出部５２１は、特性値Ｘとして、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの画素値の分散ＶＰを算出する。算出された分散ＶＰは、特性値Ｘとして特性インデックス算出部５２３に供給される。

　ここで、対象単位領域がＢｘ画素×Ｂｙ画素の矩形状である場合、対象単位領域における各画素の座標を（ｕ、ｖ）（ｕ、ｖはそれぞれ０≦ｕ≦Ｂｘ－１、０≦ｖ≦Ｂｙ－１を満たす整数）と表し、その座標におけるデブロック済復号画像Ｐ＿ＤＢの画素値をＳ（ｕ、ｖ）と表すことにすると、第１特性値算出部５２１は、例えば、以下の数式（１－２）を用いて分散ＶＰを算出する。

　なお、第１特性値算出部５２１によって算出される分散ＶＰは、上述した活性度ＡＣＴと同様に、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの乱雑さを示す指標として機能する。

　（第２特性値算出部５２２）
　第２特性値算出部５２２は、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢについての特性値Ｙを算出する。以下では、特性値Ｙとして画像の方向性を算出する算出処理（特性値Ｙの算出処理例１）および（特性値Ｙの算出処理例２）、特性値Ｘとして平均画素値を算出する算出処理（特性値Ｙの算出処理例２）、並びに、特性値Ｘとして対象単位領域の座標値を算出する算出処理（特性値Ｙの算出処理例３）について説明を行う。ただし、特性値Ｙの具体例はこれらに限定されるものではない。

　（特性値Ｙの算出処理例１）
　本処理例では、第２特性値算出部５２２は、特性値Ｙとして、対象単位領域におけるデブロック済復号画像の方向性を算出する。算出された方向性を示すインデックス（方向インデックス）は、特性値Ｙとして特性インデックス算出部５２３に供給される。

　第２特性値算出部５２２は、まず、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの垂直方向活性度ＡＣＴ＿Ｖ、および、水平方向活性度ＡＣＴ＿Ｈを算出する。ここで、水平方向活性度ＡＣＴ＿Ｈ、および、垂直方向活性度ＡＣＴ＿Ｖは、例えば、上述した数式（１－１ａ）の第１項、および、第２項によってそれぞれ算出することができる。また、水平方向活性度ＡＣＴ＿Ｈ、および、垂直方向活性度ＡＣＴ＿Ｖは、上述した数式（１－１ｂ）～（１－１ｄ）のうち、何れかの数式の第１項、および、第２項によってそれぞれ算出することもできる。

　続いて、第２特性値算出部５２２は、垂直方向活性度ＡＣＴ＿Ｖおよび水平方向活性度ＡＣＴ＿Ｈの各々の大きさに応じて、以下に列挙する方向インデックスを特性値Ｙとして特性インデックス算出部５２３に供給する。

　・方向インデックス＝０：ＡＣＴ＿Ｈ＞２×ＡＣＴ＿Ｖの場合
　・方向インデックス＝１：ＡＣＴ＿Ｈ≦２×ＡＣＴ＿ＶかつＡＣＴ＿Ｖ≦ＡＣＴ＿Ｈの場合
　・方向インデックス＝２：ＡＣＴ＿Ｈ＜ＡＣＴ＿ＶかつＡＣＴ＿Ｖ≦２×ＡＣＴ＿Ｈの場合
　・方向インデックス＝３：２×ＡＣＴ＿Ｈ＜ＡＣＴ＿Ｖの場合
　なお、本処理例における方向インデックスの導出方向は上記の例に限られるものではない。例えば、第２特性値算出部５２２は、垂直方向活性度ＡＣＴ＿Ｖおよび水平方向活性度ＡＣＴ＿Ｈの各々の大きさに応じて、対象単位領域におけるデブロック済復号画像の方向性を３つに分類し、それらの方向性を示す方向インデックスを出力する構成としてもよいし、対象単位領域におけるデブロック済復号画像の方向性を２つに分類し、それらの方向性を示す方向インデックスを出力する構成としてもよい。また、垂直方向活性度ＡＣＴ＿Ｖおよび水平方向活性度ＡＣＴ＿Ｈの各々の大きさに応じて、対象単位領域におけるデブロック済復号画像の方向性を５つ以上に分類してもよい。

　第２特性値算出部５２２は、例えば、以下のように、垂直方向活性度ＡＣＴ＿Ｖおよび水平方向活性度ＡＣＴ＿Ｈの各々の大きさに応じて、対象単位領域におけるデブロック済復号画像の方向性を３つに分類することができる。

　・方向インデックス＝０：ＡＣＴ＿Ｈ＞２×ＡＣＴ＿Ｖの場合
　・方向インデックス＝１：ＡＣＴ＿Ｈ≦２×ＡＣＴ＿Ｖかつ２×ＡＣＴ＿Ｈ≧ＡＣＴ＿Ｖの場合
　・方向インデックス＝２：２×ＡＣＴ＿Ｈ＜ＡＣＴ＿Ｖの場合
　このような構成とする場合、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］は、特性値Ｙに関して、最大で３つの特性値部分領域ＣＰＲ（ｉ０、ｊ０）（ｊ０＝０、１、２）に再分割される。ここで、ｊ０＝０、１、２は、それぞれ、方向インデックス＝０、１、２に対応する。

　また、第２特性値算出部５２２は、例えば、以下のように、垂直方向活性度ＡＣＴ＿Ｖおよび水平方向活性度ＡＣＴ＿Ｈの各々の大きさに応じて、対象単位領域におけるデブロック済復号画像の方向性を２つに分類することができる。

　・方向インデックス＝０：ＡＣＴ＿Ｈ＞ＡＣＴ＿Ｖの場合
　・方向インデックス＝１：ＡＣＴ＿Ｈ＜ＡＣＴ＿Ｖの場合
　このような構成とする場合、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］は、特性値Ｙに関して、最大で２つの特性値部分領域ＣＰＲ（ｉ０、ｊ０）（ｊ０＝０、１）に再分割される。ここで、ｊ０＝０、１は、それぞれ、方向インデックス＝０、１、に対応する。

　（特性値Ｙの算出処理例２）
　本処理例では、第２特性値算出部５２２は、特性値Ｙとして、対象単位領域におけるデブロック済復号画像の方向性を算出する。ただし、本処理例では、上述の（特性値Ｙの算出処理例１）とは異なり、対象単位領域におけるデブロック済復号画像のエッジ方向を検出し、検出されたエッジ方向に応じて、方向インデックスを特性値Ｙとして特性インデックス算出部５２３に供給する。

　以下では、エッジ方向検出処理について、図１４（ａ）～（ｂ）を参照して説明する。

　（対象分割領域が１つの画素のみを含む場合のＴｈｅｔａの算出処理）
　対象分割領域が１つの画素（対象画素）のみを含む場合、第２特性値算出部５２２は、対象画素を中心とする３×３画素の参照領域を設定し、当該参照領域の各画素に対して、以下の数式（１ａ）および（１ｂ）によって定義されるソーベルフィルタ行列ＳＦＭ＿ｘ、およびＳＦＭ＿ｙを作用させることによって、ソーベルフィルタ後の画素値Ｓｏｂｅｌ＿ｘおよびＳｏｂｅｌ＿ｙを算出する。

　より具体的には、例えば、３×３画素の参照領域に含まれる各画素の画素値を、図１４（ａ）に示すように、ａ～ｈと表すことにすると、第２特性値算出部５２２は、ソーベルフィルタ後の画素値Ｓｏｂｅｌ＿ｘおよびＳｏｂｅｌ＿ｙを、それぞれ、以下の数式（２ａ）および（２ｂ）によって算出する。

　Ｓｏｂｅｌ＿ｘ＝－ａ＋ｃ－２×ｄ＋２×ｅ－ｆ＋ｈ　　　（２ａ）
　Ｓｏｂｅｌ＿ｙ＝－ａ－２×ｂ－ｃ＋ｆ＋２×ｇ＋ｈ　　　（２ｂ）
　続いて、第２特性値算出部５２２は、以下の数式（３）によって、エッジ方向を示す角度（以下、「エッジ角度」とも呼称する）Ｔｈｅｔａを算出する。

　Ｔｈｅｔａ＝ａｒｃｔａｎ（Ｓｏｂｅｌ＿ｘ／Ｓｏｂｅｌ＿ｙ）　（３）
ここで、ａｒｃｔａｎは、三角関数ｔａｎの逆関数を表す。また、角度Ｔｈｅｔａは、図１４（ｂ）に示すように、時計周りに増加するものとし、０度から１８０度までの範囲（０°≦Ｔｈｅｔａ＜１８０°）で表現されるものとする。

　（対象分割領域が複数の画素を含む場合のＴｈｅｔａの算出処理）
　対象分割領域が複数の画素を含む場合、第２特性値算出部５２２は、まず、対象分割領域に含まれる各画素について、３×３画素の参照領域を設定し、上述した方法によって各画素についてのソーベルフィルタ後の画素値Ｓｏｂｅｌ＿ｘおよびＳｏｂｅｌ＿ｙを算出する。

　続いて、第２特性値算出部５２２は、以下の数式（４）によって、各画素についてのエッジ強度ＥＳを算出し、最もエッジ強度ＥＳの大きい画素についてのソーベルフィルタ後の画素値Ｓｏｂｅｌ＿ｘおよびＳｏｂｅｌ＿ｙを用いて、上記数式（３）によってエッジ角度Ｔｈｅｔａを算出する。

　ＥＳ＝（Ｓｏｂｅｌ＿ｘ）²＋（Ｓｏｂｅｌ＿ｙ）²　　　（４）
　なお、第２特性値算出部５２２は、対象分割領域に含まれる全ての画素についてのエッジ強度ＥＳが予め定められた閾値以下である場合には、当該対象分割領域については、エッジなしと判定する。

　なお、第２特性値算出部５２２は、エッジの角度を算出することなく、エッジ方向に対応する番号（方向インデックス）を出力する構成としても良い。

　例えば、三角関数ｔａｎの逆関数を用いるのではなく、Ｓｏｂｅｌ＿ｙとＳｏｂｅｌ＿ｘの大小関係に応じて場合分けをすることによって、以下のように方向インデックスを生成可能である。

　方向インデックス＝０　　｜Ｓｏｂｅｌ＿ｙ｜＜ａ×｜Ｓｏｂｅｌ＿ｘ｜の場合
　方向インデックス＝１　　｜Ｓｏｂｅｌ＿ｙ｜≧ａ×｜Ｓｏｂｅｌ＿ｘ｜かつ
　　　　　　　　　　　　　｜Ｓｏｂｅｌ＿ｙ｜≦ｂ×｜Ｓｏｂｅｌ＿ｘ｜かつ
　　　　　　　　　　　　　Ｓｏｂｅｌ＿ｙとＳｏｂｅｌ＿ｘの符号が等しい場合
　方向インデックス＝２　　｜Ｓｏｂｅｌ＿ｙ｜＞ｂ×｜Ｓｏｂｅｌ＿ｘ｜の場合
　方向インデックス＝３　　｜Ｓｏｂｅｌ＿ｙ｜≧ａ×｜Ｓｏｂｅｌ＿ｘ｜かつ
　　　　　　　　　　　　　｜Ｓｏｂｅｌ＿ｙ｜≦ｂ×｜Ｓｏｂｅｌ＿ｘ｜かつ
　　　　　　　　　　　　　Ｓｏｂｅｌ＿ｙとＳｏｂｅｌ＿ｘの符号が反対の場合
但し、ａ＝ｔａｎ（２２．５°）＝０．４１４・・・、ｂ＝ｔａｎ（６７．５°）＝２．４１４・・・である。なお、この例では４つの方向インデックスを算出したが、２個の方向インデックスの算出や８個の方向インデックスを算出する構成としてもよい。このような構成の場合、特性値Ｙの算出処理例１において説明したように、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］は、特性値Ｙに関して、最大で、方向インデックスの総数と同数の特性値部分領域に再分割される。

　（特性値Ｙの算出処理例３）
　本処理例では、第２特性値算出部５２２は、特性値Ｙとして、対象単位領域におけるデブロック済復号画像の画素値の平均（平均画素値とも呼ぶ）を算出し、算出した平均画素値を、特性値Ｙとして特性インデックス算出部５２３に供給する。

　第２特性値算出部５２２は、処理対象となる対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの各画素値をバッファメモリ１５から読み出し、それらの画素値の平均をとることによって平均画素値ＭＰを算出する。

　対象単位領域がＢｘ画素×Ｂｙ画素の矩形状である場合、対象単位領域における各画素の座標を（ｕ、ｖ）（ｕ、ｖはそれぞれ０≦ｕ≦Ｂｘ－１、０≦ｖ≦Ｂｙ－１を満たす整数）と表し、その座標におけるデブロック済復号画像Ｐ＿ＤＢの画素値をＳ（ｕ、ｖ）と表すことにすると、第２特性値算出部５２２は、例えば、以下の数式（１－３）を用いて、各画素値の単純平均をとることによって、平均画素値ＭＰを算出することができる。

　なお、第２特性値算出部５２２は、各画素値の単純平均をとることに代えて、各画素値について所定の重み係数を用いた加重平均をとることによって平均画素値ＭＰを算出する構成としてもよい。

　また、符号化データ＃１の説明において、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］が、特性値Ｙに関して、最大で４つの特性値部分領域に再分割される場合を例に挙げたが、本実施形態は、これに限定されるものではない。例えば、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］が、特性値Ｙに関して、以下のように、最大で３つの特性値部分領域ＣＰＲ（ｉ０、ｊ０）（ｊ０＝０、１、２）に分割される構成としてもよい。

　ＣＰＲ（ｉ０、０）：ＭＰ≦６４
　ＣＰＲ（ｉ０、１）：６４＜ＭＰかつＭＰ≦１６０
　ＣＰＲ（ｉ０、２）：１６０＜ＭＰ
　また、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］が、特性値Ｙに関して、以下のように、最大で２つの特性値部分領域ＣＰＲ（ｉ０、ｊ０）（ｊ０＝０、１）に分割される構成としてもよい。

　ＣＰＲ（ｉ０、０）：ＭＰ≦１２８
　ＣＰＲ（ｉ０、１）：１２８＜ＭＰ
　（特性値Ｙの算出処理例４）
　本処理例では、第２特性値算出部５２２は、処理対象フレーム（または処理対象スライス）における対象単位領域の座標を算出する。算出された座標は、特性値Ｙとして特性インデックス算出部５２３に供給される。ここで、対象単位領域の座標とは、より正確には、対象単位領域の代表画素の座標である。代表画素としては、例えば、対象単位領域内の画素であって、該対象単位領域の左上端の画素を用いることができる。ただし、対象単位領域における代表画素の具体的な位置は本実施形態を限定するものではない。

　対象単位領域が、ブロックまたはパーティションである場合には、処理対象フレームにおける当該対象単位領域の座標は、符号化データ＃１から復号された以下の情報を参照することによって算出することができる。

　・符号化ブロックパターンを指定するＣＢＰ（coded_block_pattern）
　・予測単位指定情報ＰＴ
　・変換単位指定情報ＴＴ
　また対象単位領域が、ブロックまたはパーティションの何れでもなく、適応フィルタ部５０によって設定される領域である場合には、適応フィルタ５０は、設定された単位領域の位置を示す情報を参照することによって、対象単位領域の座標を特定することができる。

　（特性インデックス算出部５２３）
　特性インデックス算出部５２３は、対象単位領域について、第１特性値算出部５２１から供給される特性値Ｘおよび第２特性値算出部５２２から供給される特性値Ｙを、それぞれ、特性値分割点ＰＸｎおよびＰＹｍと比較することによって、当該対象単位領域に対して、特性値領域内インデックス（ｉ０、ｊ０）を割り付ける。また、対象単位領域に対して割り付けた特性値領域内インデックス（ｉ０、ｊ０）をフィルタ係数割り付け部５２４に供給する。

　特性インデックス算出部５２３は、まず、対象単位領域についての特性値Ｘを、特性値分割点ＰＸ１～ＰＸ＿ＮＸ－１のうち第１段階の分割に用いられる初期分割点と比較することによって、初期分割インデックス［ｉ０］を算出し、算出された初期分割インデックス［ｉ０］を対象単位領域に割り付ける。図４（ｂ）に示すように初期分割点としてＰＸ２およびＰＸ４が用いられる場合、初期分割インデックス［ｉ０］は以下のように算出される。

　・ｉ０＝０：Ｘ＜ＰＸ２の場合
　・ｉ０＝１：ＰＸ２≦Ｘ＜ＰＸ４の場合
　・ｉ０＝２：ＰＸ４≦Ｘの場合
　続いて、特性インデックス算出部５２３は、alf_second_split_typeおよびalf_second_split_flag[i0]を参照し、特性値Ｘおよび特性値Ｙを、第２段階の分割に用いられる再分割点と比較することによって、再分割インデックス［ｊ０］を算出する。算出された再分割インデックス［ｊ０］は、対象単位領域に割り付けられる。

　図４（ｃ）に示すように、特性値Ｘについての再分割点としてＰＸ１、ＰＸ３、ＰＸ５が用いられる場合、再分割点ＰＸ１は、初期分割インデックス［ｉ０＝０］が割り付けられた対象単位領域に対して用いられ、再分割点ＰＸ３は、初期分割インデックス［ｉ０＝１］が割り付けられた対象単位領域に対して用いられ、再分割点ＰＸ５は、初期分割インデックス［ｉ０＝２］が割り付けられた対象単位領域に対して用いられる。

　以下では、初期分割インデックス［ｉ０＝０］が割り付けられた対象単位領域についての再分割インデックス［ｊ０］の算出処理について、より具体的に説明を行う。初期分割インデックス［ｉ０＝１］が割り付けられた対象単位領域についての再分割インデックス［ｊ０］の算出処理は、以下の説明におけるＰＸ１をＰＸ３と読み替えればよく、初期分割インデックス［ｉ０＝２］が割り付けられた対象単位領域についての再分割インデックス［ｊ０］の算出処理は、以下の説明におけるＰＸ１をＰＸ５と読み替えればよい。

　特性インデックス算出部５２３は、alf_second_split_type＝０の場合、初期分割インデックス［ｉ０＝０］が割り付けられた対象単位領域について、再分割インデックス［ｊ０］を以下のように算出する。

　・alf_second_split_flag＝０の場合：
　　　ｊ０＝０
　・alf_second_split_flag＝１の場合：
　　　ｊ０＝０：Ｘ＜ＰＸ１のとき
　　　ｊ０＝１：ＰＸ１≦Ｘのとき
　・alf_second_split_flag＝２の場合：
　　　ｊ０＝０：Ｙ＜ＰＹ２のとき
　　　ｊ０＝１：ＰＹ２≦Ｙのとき
　・alf_second_split_flag＝３の場合：
　　　ｊ０＝０：Ｘ＜ＰＸ１かつＹ＜ＰＹ２のとき
　　　ｊ０＝１：Ｘ＜ＰＸ１かつＰＹ２≦Ｙのとき
　　　ｊ０＝２：ＰＸ１≦ＸかつＹ＜ＰＹ２のとき
　　　ｊ０＝３：ＰＸ１≦ＸかつＰＹ２≦Ｙのとき
　また、特性インデックス算出部５２３は、alf_second_split_type＝１の場合、初期分割インデックス［ｉ０＝０］が割り付けられた対象単位領域について、再分割インデックス［ｊ０］を以下のように算出する。

　・alf_second_split_flag＝０の場合：
　　　ｊ０＝０
　・alf_second_split_flag＝１の場合：
　　　ｊ０＝０：Ｙ＜ＰＹ２のとき
　　　ｊ０＝１：ＰＹ２≦Ｙのとき
　・alf_second_split_flag＝２の場合：
　　　ｊ０＝０：Ｙ＜ＰＹ１のとき
　　　ｊ０＝１：ＰＹ１≦Ｙのとき
　・alf_second_split_flag＝３の場合：
　　　ｊ０＝０：Ｙ＜ＰＹ１のとき
　　　ｊ０＝１：ＰＹ１≦Ｙ＜ＰＹ２のとき
　　　ｊ０＝２：ＰＹ２≦Ｙ＜ＰＹ３のとき
　　　ｊ０＝３：ＰＹ３≦Ｙのとき
　（フィルタ係数割り付け部５２４）
　フィルタ係数割り付け部５２４は、対象単位領域に割り付けられた特性値領域内インデックス（ｉ０、ｊ０）に対応するフィルタ係数RegionFilterLuma[i0][j0]を、特性別フィルタ係数格納部５１７から読み出し、読み出したフィルタ係数RegionFilterLuma[i0][j0]を、当該対象単位領域に割り付ける。対象単位領域に割り付けられたフィルタ係数RegionFilterLuma[i0][j0]は、フィルタ部５２５に供給される。

　（フィルタ部５２５）
　フィルタ部５２５は、対象単位領域に対して、フィルタ係数RegionFilterLuma[i0][j0]を用いたフィルタ処理を施すことによって、該対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ１５に格納される。

　より具体的には、フィルタ済復号画像Ｐ＿ＦＬ（「フィルタ後画像」とも呼称する）におけるフィルタ対象画素の画素値をＳF（ｘ’、ｙ’）と表し、デブロック済復号画像Ｐ＿ＤＢ（「フィルタ前画像」とも呼称する）における画素値をＳ（ｘ、ｙ）と表すことにすると、フィルタ部５２５は、画素値ＳF（ｘ’、ｙ’）を、以下の数式（１－４）によって算出する。

ここで、座標（ｘ、ｙ）は座標（ｘ’、ｙ’）と同一の座標としてもよいし、１対１の対応を有していれば、異なった座標としてもよい。また、a（ｕ、ｖ）は、フィルタ前画像の画素値Ｓ（ｘ＋ｕ、ｙ＋ｖ）に乗ぜられるフィルタ係数を表しており、フィルタ係数割り付け部５２４から供給されたフィルタ係数RegionFilterLuma[i0][j0]の各成分に対応する。また、oは、フィルタ係数RegionFilterLuma[i0][j0]に含まれるオフセット成分を表している。

　また、数式（１－４）におけるＲは、フィルタ処理において参照される領域（「フィルタ参照領域Ｒ」とも呼称する）を表している。参照領域Ｒのタップ数は、alf_length_luma_minus5_div2[i0]によって指定される。参照領域Ｒとしては、例えば、図７に示したように、alf_length_luma_minus5_div2[i0]の各値に応じて設定される参照領域Ｒ０、Ｒ１、およびＲ２の何れかを用いればよい。なお。図７においては、菱形の参照領域を例示しているが、本実施形態における参照領域Ｒは、これらの例に限定されるものではなく、alf_length_luma_minus5_div2[i0]によってタップ数が指定される矩形状の参照領域を用いてもよい。

　また、各フィルタ係数は、１８０度の回転対称性を有するように、フィルタ参照領域Ｒに含まれる各画素に対して割り付けられる構成とすることができる。すなわち、a（ｕ、ｖ）＝a（－ｕ、－ｖ）を満たすように設定される構成とすることができる。このような構成とすることによって、alf_coeff_luma[i][j]に含まれる各成分の数を削減することができる。

　（動画像符号化装置２）
　以下では、符号化対象画像を符号化することによって符号化データ＃１を生成する動画像符号化装置２について、図１５～図１６を参照して説明する。動画像符号化装置２は、その一部に、Ｈ．２６４／ＭＰＥＧ－４．ＡＶＣに採用されている方式、ＶＣＥＧ（Video Coding Expert Group）における共同開発用コーデックであるＫＴＡソフトウェアに採
用されている方式、その後継コーデックであるＴＭｕＣ（Test Model under Consideration）ソフトウェアに採用されている方式、及び、ＨＭ（HEVC TestModel）ソフトウェアに採用されている技術を含んでいる。

　図１５は、本実施形態に係る動画像符号化装置２の構成を示すブロック図である。図１５に示すように、動画像符号化装置２は、変換・量子化部２１、可変長符号符号化部２２、逆量子化・逆変換部２３、バッファメモリ２４、イントラ予測画像生成部２５、インター予測画像生成部２６、動きベクトル検出部２７、予測方式制御部２８、動きベクトル冗長性削除部２９、加算器３１、減算器３２、デブロッキングフィルタ３３、および、適応フィルタ６０を備えている。動画像符号化装置２は、動画像＃１０（符号化対象画像）を符号化することによって、符号化データ＃１を生成する装置である。

　変換・量子化部２１は、（１）符号化対象画像から予測画像Ｐｒｅｄを減算した予測残差Ｄをブロック毎にＤＣＴ変換（Discrete Cosine Transform）し、（２）ＤＣＴ変換により得られたＤＣＴ係数を量子化し、（３）量子化により得られた量子化予測残差ＱＤを可変長符号符号化部２２及び逆量子化・逆変換部２３に供給する。なお、変換・量子化部２１は、（１）量子化の際に用いる量子化ステップＱＰを、ツリーブロック毎に選択し、（２）選択した量子化ステップＱＰの大きさを示す量子化パラメータ差分Δｑｐを可変長符号符号化部２２に供給し、（３）選択した量子化ステップＱＰを逆量子化・逆変換部２３に供給する。ここで、量子化パラメータ差分Δｑｐとは、ＤＣＴ変換／量子化するツリーブロックに関する量子化パラメータｑｐ（ＱＰ＝２^ｐｑ／６）の値から、直前にＤＣＴ変換／量子化したツリーブロックに関する量子化パラメータｑｐ’の値を減算して得られる差分値のことを指す。

　可変長符号符号化部２２は、（１）変換・量子化部２１から供給された量子化予測残差ＱＤ並びにΔｑｐ、（２）後述する予測方式制御部２８から供給された量子化パラメータＰＰ、および、（３）後述する適応フィルタ６０から供給されたフィルタセット番号、フィルタ係数群、領域指定情報、並びにオンオフ情報を可変長符号化することによって、符号化データ＃１を生成する。

　逆量子化・逆変換部２３は、（１）量子化予測残差ＱＤを逆量子化し、（２）逆量子化によって得られたＤＣＴ係数を逆ＤＣＴ（Discrete Cosine Transform）変換し、（３）逆ＤＣＴ変換によって得られた予測残差Ｄを加算器３１に供給する。量子化予測残差ＱＤを逆量子化する際には、変換・量子化部２１から供給された量子化ステップＱＰを利用する。なお、逆量子化・逆変換部２３から出力される予測残差Ｄは、変換・量子化部２１に入力される予測残差Ｄに量子化誤差が加わったものであるが、ここでは簡単のために共通の呼称を用いる。

　イントラ予測画像生成部２５は、各パーティションに関する予測画像Ｐｒｅｄ＿Ｉｎｔｒａを生成する。具体的には、（１）各パーティションついてイントラ予測に用いる予測モードを選択し、（２）選択した予測モードを用いて、復号画像Ｐから予測画像Ｐｒｅｄ＿Ｉｎｔｒａを生成する。イントラ予測画像生成部２５は、生成したイントラ予測画像Ｐｒｅｄ＿Ｉｎｔｒａを、予測方式制御部２８に供給する。

　また、イントラ予測画像生成部２５は、各パーティションについて選択された予測モードから、各パーティションのサイズとから各パーティションについての予測インデックスＰＩを特定し、当該予測インデックスＰＩを予測方式制御部２８に供給する。

　また、イントラ予測画像生成部２５は、対象パーティションのサイズ、および、対象パーティションに割り付けられた予測モードを示す情報であるイントラ符号化モード情報ＩＥＭを適応フィルタ６０に供給する。

　動きベクトル検出部２７は、各パーティションに関する動きベクトルｍｖを検出する。具体的には、（１）参照画像として利用するフィルタ済復号画像Ｐ＿ＦＬ’を選択し、（２）選択したフィルタ済復号画像Ｐ＿ＦＬ’において対象パーティションを最良近似する領域を探索することによって、対象パーティションに関する動きベクトルｍｖを検出する。ここで、フィルタ済復号画像Ｐ＿ＦＬ’は、既に復号が完了した復号済みの復号画像に対して、デブロッキングフィルタ３３によるデブロック処理、および、適応フィルタ６０による適応的フィルタ処理を施すことによって得られる画像であり、動きベクトル検出部２７は、フィルタ済復号画像Ｐ＿ＦＬ’を構成する各画素の画素値をバッファメモリ２４から読み出すことができる。動きベクトル検出部２７は、検出した動きベクトルｍｖを、参照画像として利用したフィルタ済復号画像Ｐ＿ＦＬ’を指定する参照画像インデックスＲＩと共に、インター予測画像生成部２６及び動きベクトル冗長性削除部２９に供給する。なお、双方向予測（重み付き予測）を行うパーティションについては、参照画像として２枚のフィルタ済復号画像Ｐ＿ＦＬ１’及びＰ＿ＦＬ２’を選択し、２枚のフィルタ済復号画像Ｐ＿ＦＬ１’及びＰ＿ＦＬ２’の各々に対応する動きベクトルｍｖ１及びｍｖ２、並びに、参照画像インデックスＲＩ１及びＲＩ２をインター予測画像生成部２６及び動きベクトル冗長性削除部２９に供給する。

　インター予測画像生成部２６は、各インター予測パーティションに関する動き補償画像ｍｃを生成する。具体的には、動きベクトル検出部２７から供給された動きベクトルｍｖを用いて、動きベクトル検出部２７から供給された参照画像インデックスＲＩによって指定されるフィルタ済復号画像Ｐ＿ＦＬ’から動き補償画像ｍｃを生成する。動きベクトル検出部２７と同様、インター予測画像生成部２６は、フィルタ済復号画像Ｐ＿ＦＬ’を構成する各画素の画素値をバッファメモリ２４から読み出すことができる。インター予測画像生成部２６は、生成した動き補償画像ｍｃ（インター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒ）を、動きベクトル検出部２７から供給された参照画像インデックスＲＩと共に、予測方式制御部２８に供給する。なお、双方向予測（重み付き予測）をパーティションについては、（１）動きベクトルｍｖ１を用いて、参照画像インデックスＲＩ１によって指定されたフィルタ済復号画像Ｐ＿ＦＬ１’から動き補償画像ｍｃ１を生成し、（２）動きベクトルｍｖ２を用いて、参照画像インデックスＲＩ２によって指定されたフィルタ済参照画像Ｐ＿ＦＬ２’から動き補償画像ｍｃ２を生成し、（３）動き補償画像ｍｃ１と動き補償画像ｍｃ２との加重平均にオフセット値を加えることによってインター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒを生成する。

　予測方式制御部２８は、イントラ予測画像Ｐｒｅｄ＿Ｉｎｔｒａ及びインター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒを符号化対象画像と比較し、イントラ予測を行うかインター予測を行うかを選択する。イントラ予測を選択した場合、予測方式制御部２８は、イントラ予測画像Ｐｒｅｄ＿Ｉｎｔｒａを予測画像Ｐｒｅｄとして加算器３１及び減算器３２に供給すると共に、イントラ予測画像生成部２５から供給された予測インデックスＰＩを予測パラメータＰＰとして可変長符号符号化部２２に供給する。一方、インター予測を選択した場合、予測方式制御部２８は、インター予測画像Ｐｒｅｄ＿Ｉｎｔｅｒを予測画像Ｐｒｅｄとして加算器３１及び減算器３２に供給すると共に、インター予測画像生成部２６から供給された参照画像インデックスＲＩ、並びに、動きベクトル冗長性削除部２９（後述）から供給された推定動きベクトルインデックスＰＭＶＩ及び動きベクトル残差ＭＶＤを予測パラメータＰＰとして可変長符号符号化部に供給する。

　予測方式制御部２８にて選択された予測画像Ｐｒｅｄを、符号化対象画像から減算することによって、減算器３２にて予測残差Ｄが生成される。減算器３２にて生成された予測残差Ｄは、上述したとおり、変換・量子化部２１によってＤＣＴ変換／量子化される。一方、予測方式制御部２８にて選択された予測画像Ｐｒｅｄを、逆量子化・逆変換部２３にて生成された予測残差Ｄに加算することによって、加算器３１にて局所復号画像Ｐが生成される。加算器３１にて生成された局所復号画像Ｐは、デブロッキングフィルタ３３および適応フィルタ６０を経由したのち、フィルタ済復号画像Ｐ＿ＦＬとしてバッファメモリ２４に格納され、インター予測における参照画像として利用される。

　なお、動きベクトル冗長性削除部２９は、動きベクトル検出部２７によって検出された動きベクトルｍｖにおける冗長性を削除する。具体的には、（１）動きベクトルｍｖの推定に用いる推定方法を選択し、（２）選択した推定方法に従って推定動きベクトルｐｍｖを導出し、（３）動きベクトルｍｖから推定動きベクトルｐｍｖを減算することにより動きベクトル残差ＭＶＤを生成する。動きベクトル冗長性削除部２９は、生成した動きベクトル残差ＭＶＤを、選択した推定方法を示す推定動きベクトルインデックスＰＭＶＩと共に、予測方式制御部２８に供給する。

　デブロッキングフィルタ３３は、復号画像Ｐにおけるブロック境界、またはＣＵ境界を介して互いに隣接する画素の画素値の差が予め定められた閾値よりも小さい場合に、復号画像Ｐにおける当該ブロック境界、または当該ＣＵ境界に対してデブロッキング処理を施すことによって、当該ブロック境界、または当該ＣＵ境界付近の画像の平滑化を行う。デブロッキングフィルタ３３によりデブロッキング処理が施された画像は、デブロック済復号画像Ｐ＿ＤＢとして、適応フィルタ６０に出力される。

　適応フィルタ６０は、デブロッキングフィルタ３３から供給されるデブロック済復号画像Ｐ＿ＤＢに対して、適応的なフィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。適応フィルタ６０によりフィルタ処理が施されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ２４に格納される。適応フィルタ６０の具体的な構成については、後述するため、ここでは説明を省略する。

　（適応フィルタ６０）
　適応フィルタ６０は、デブロック済復号画像Ｐ＿ＤＢに対して、適応的フィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ２４に格納される。また、適応フィルタ６０は、フィルタ処理に用いた各種の適応フィルタ情報をフィルタパラメータＦＰとして可変長符号符号化部２２に供給する。可変長符号符号化部２２は、フィルタパラメータＦＰを符号化データ＃１の一部として符号化する。

　図１６は、適応フィルタ６０の構成を示すブロック図である。図１６に示すように、適応フィルタ６０は、適応フィルタ情報設定部６１、および、適応フィルタ部６２を備えている。

　（適応フィルタ情報設定部６１）
　適応フィルタ情報設定部６１は、図１６に示すように、領域別タップ数設定部６１１、領域構造設定部６１２、フィルタパラメータ生成部６１３、２次元予測フラグ設定部６１４、フィルタ係数予測部５１５、フィルタ係数残差生成部６１６、特性別フィルタ係数格納部６１７、特性値分割点変更フラグ設定部６１８、特性値分割点設定部５１９を備えている。

　フィルタ係数予測部５１５、および特性値分割点設定部５１９については既に述べたためここでは説明を省略する。

　（領域別タップ数設定部６１１）
　領域別タップ数設定部６１１は、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ０］についてのタップ数を指定するためのシンタックスalf_length_luma_minus5_div2[i0]を設定する。設定されたシンタックスalf_length_luma_minus5_div2[i0]は、フィルタパラメータ生成部６１３に供給される。また、シンタックスalf_length_luma_minus5_div2[i0]は、フィルタ係数予測部５１５、フィルタ係数残差生成部６１６、領域別フィルタ係数格納部６１７、フィルタ係数導出部６２４、および、フィルタ部５２５にも供給される（図１６において矢印不図示）。

　alf_length_luma_minus5_div2[i0]の取り得る具体的な値、および、alf_length_luma_minus5_div2[i0]の具体的な値と参照領域Ｒのタップ数AlfLengthLumaとの対応関係については、既に述べたためここでは説明を省略する。

　なお、alf_length_luma_minus5_div2[i0]の具体的な値は、符号化効率がより向上するように定められる。

　（領域構造設定部６１２）
　領域構造設定部６１２は、再分割の種別を指定するためのフラグalf_second_split_type、および、初期分割によって得られた各特性値部分領域について再分割の具体的な態様を指定するためのシンタックスalf_second_split_flag[i0]を設定する。設定されたフラグalf_second_split_typeおよびシンタックスalf_second_split_flag[i0]は、特性値分割点設定部５１９、２次元予測フラグ設定部６１４、および、フィルタパラメータ生成部６１３に供給される。

　alf_second_split_typeおよびalf_second_split_flag[i0]の取り得る値、並びに、alf_second_split_typeおよびalf_second_split_flag[i0]の具体的な値と再分割の態様との対応関係については、既に述べたためここでは説明を省略する。

　なお、alf_second_split_typeおよびalf_second_split_flag[i0]の具体的な値は、符号化効率がより向上するように定められる。

　（２次元予測フラグ設定部６１４）
　２次元予測フラグ設定部６１４は、alf_second_split_typeおよびalf_second_split_flag[i0]を参照して、各特性値部分領域についてのフィルタ係数の予測値を導出する際の予測方向を指定するためのフラグalf_region_pred_luma[i][j]を設定する。設定されたフラグalf_region_pred_luma[i][j]は、フィルタ係数予測部５１５に供給される。

　alf_region_pred_luma[i][j]の取り得る値、およびalf_region_pred_luma[i][j]の具体的な値と予測方向との対応関係については既に述べたため、ここでは説明を省略する。なお、alf_region_pred_luma[i][j]の具体的な値は、符号化効率がより向上するように定められる。

　（フィルタ係数残差生成部６１６）
　フィルタ係数残差６１６は、各特性値部分領域ＣＰＲ（ｉ０、ｊ０）について、フィルタ係数予測部５１５より供給される予測フィルタ係数PredRegionFilterLumaと特性別フィルタ係数格納部６１７から読み出したフィルタ係数RegionFilterLumaとの差分をとることによって、フィルタ係数残差alf_coeff_luma[i][j]を生成する。生成されたフィルタ係数残差alf_coeff_luma[i][j]はフィルタパラメータ生成部６１３に供給される。

　（特性値分割点変更フラグ設定部６１８）
　特性値分割点変更フラグ設定部６１８は、特性値分割点ＰＸｎ（１≦ｎ≦ＮＸ－１）を変更するために参照されるフラグalf_first_split_val_shiftを設定する。設定されたフラグalf_first_split_val_shiftは、特性値分割点設定部５１９に供給される。

　alf_first_split_val_shiftの取り得る値、および、alf_first_split_val_shiftの具体的な値と特性値分割点ＰＸｎとの対応関係については既に述べたため、ここでは説明を省略する。

　なお、alf_first_split_val_shiftの具体的な値は、符号化効率がより向上するように定められる。

　（フィルタパラメータ生成部６１３）
　フィルタパラメータ生成部６１３は、シンタックスalf_length_luma_minus5_div2[i0]、alf_second_split_type、alf_second_split_flag[i0]、alf_first_split_val_shift、および、alf_coeff_luma[i][j]からフィルタパラメータＦＰを生成する。生成されたフィルタパラメータＦＰは、可変長符号符号化部２２に供給される。

　なお、フィルタパラメータＦＰには、特性値部分領域毎のフィルタ処理を行うのか否かを指定するためのシンタックスalf_enable_region_filter、および、初期分割の分割数AlfNumFirstSplitを指定するためのシンタックスalf_num_first_split_minus1が含まれる。これらのシンタックスの具体的な値は、符号化効率がより向上するように定められる。

　（特性別フィルタ係数格納部６１７）
　特性別フィルタ係数格納部６１７は、後述するフィルタ係数導出部６２４によって導出されたフィルタ係数RegionFilterLuma[i0][j0]が格納される。

　（適応フィルタ部６２）
　適応フィルタ部６２は、図１６に示すように、第１特性値算出部５２１、第２特性値算出部５２２、特性インデックス算出部５２３、フィルタ係数導出部６２４、およびフィルタ部５２５を備えている。

　第１特性値算出部５２１、第２特性値算出部５２２、特性インデックス算出部５２３、およびフィルタ部５２５については、既に述べたため、ここでは説明を省略する。

　（フィルタ係数導出部６２４）
　フィルタ係数導出部６２４は、対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬと符号化対象画像との誤差がより小さくなるようなフィルタ係数RegionFilterLuma[i0][j0]を導出する。導出されたフィルタ係数RegionFilterLuma[i0][j0]は、フィルタ部５２５に供給されると共に、特性別フィルタ係数格納部６１７に格納される。

　対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢの画素値をＳ（ｘ、ｙ）と表し、対象単位領域における符号化対象画像の画素値をＳT（ｘ、ｙ）と表すことにすると、フィルタ係数導出部６２４は、例えば、以下の数式（１－５）によって与えられる二乗誤差Ｅを最小にするようなフィルタ係数ａ（ｕ、ｖ）およびオフセットｏを導出する。ここで、フィルタ係数ａ（ｕ、ｖ）およびオフセットｏは、RegionFilterLuma[i0][j0]の各成分である。

　＜実施形態１の変形例＞
　以下では、実施形態１の変形例について、図１７～図１８を参照して説明する。図１７は、本変形例に係るフィルタパラメータＦＰ（図１７においてalf_param()と表記）に含まれる各シンタックスを示す図である。図１７に示すように、本変形例に係るフィルタパラメータＦＰには、図３に示したフィルタパラメータＦＰとは異なり、シンタックスalf_first_split_val_shift、および、alf_second_split_typeは含まれておらず、alf_second_split_typeの値としては、alf_second_split_type＝０の固定値が用いられる。

　本変形例においては、第１の特性値Ｘについての特性値分割点ＰＸ１～ＰＸ＿ＮＸ－１、すなわち、初期分割における分割点が、初期分割の分割数を指定するシンタックスalf_num_first_split_minus1の値に応じて設定される。図１８は、本変形例におけるalf_num_first_split_minus1の各値に応じて設定される特性値分割点ＰＸ１～ＰＸ５を例示する表である。

　図１８に示すように、本変形例においては、初期分割の分割数に応じて分割点が設定されるので、各特性値部分領域に分類される単位領域の数を一定に近づけることができる。このため、高い符号化効率を実現することができる。

　また、図１８に示すように、alf_num_first_split_minus1＝０または１の場合に設定される特性値分割点の値は、alf_num_first_split_minus1＝２の場合に設定される特性値分割点の何れかが用いられる。例えば、alf_num_first_split_minus1＝０の場合に設定される特性値分割点ＰＸ１の値には、alf_num_first_split_minus1＝２の場合に設定される特性値分割点ＰＸ３の値６４が用いられる。このように、本変形例では、最大分割以外の分割（図１８に示す例では、alf_num_first_split_minus1＝０または１）に用いられる分割点の値が、最大分割（図１８に示す例では、alf_num_first_split_minus1＝２）に用いられる分割点の値の集合の要素となっている。

　このような構成とすることによって、動画像符号化装置において初期分割点の最適化を行う際に、各特性値部分領域についての特性値の算出をやり直す必要がなくなるため、処理量が削減される。

　〔実施形態２〕
　以下では、本発明の第２の実施形態について、図１９～図２２を参照して説明する。なお、以下では、実施形態１において既に説明した部分については、同じ文言および同じ符号を用い、その説明を省略する。

　（符号化データ＃３）
　本実施形態に係る動画像符号化装置４及び動画像復号装置３の詳細な説明に先立って、動画像符号化装置４によって生成され、動画像復号装置３によって復号される符号化データ＃３のデータ構造について説明を行う。

　符号化データ＃３のデータ構造は、実施形態１に係る符号化データ＃１のデータ構造と略同じであるが、フィルタパラメータＦＰの構成が異なる。図１９は、本実施形態に係る符号化データ＃３のフィルタパラメータＦＰ（図１９においてalf_param()と表記）に含
まれる各シンタックスを示す図である。

　（alf_filter_pattern）
　alf_filter_pattern[i]（１≦ｉ＜AlfMaxNumFilters、AlfMaxNumFiltersは、初期分割点の最大値）は、初期分割（第１段階の分割）における初期分割点を定めるためのフラグである。再分割（第２段階の分割）を行うか否かに関わらず、alf_filter_pattern[i]によって初期分割点が定まる。alf_filter_patternは特性値に関して隣接する部分領域間で同じフィルタ係数群を用いるか否かを指定するフラグである。最大初期分割数AlfMaxNumFiltersで分割した場合の分割単位をＤＵ［ｉ］［ｊ］で表現するとする。初期分割に関わる特性値を示すインデックスをｉとする。この場合、alf_filter_pattern[i]は、インデックス［ｉ］によって指定される分割単位ＤＵ［ｉ］［ｊ］に対して、インデックス［ｉ－１］によって指定される分割単位ＤＵ［ｉ－１］［ｊ］と同じフィルタ係数群を適用するか否かを指定するフラグである。alf_filter_pattern[i]が０である場合には、分割単位ＤＵ［ｉ］［ｊ］と分割単位ＤＵ［ｉ－１］［ｊ］との境界は分割点となり、alf_filter_pattern[i]が１である場合には、分割単位ＤＵ［ｉ］［ｊ］と分割単位ＤＵ［ｉ－１］［ｊ］との境界は分割点とはならない。このようにして、異なるフィルタ係数群を用いる特性値を分割する点（分割点）を定めることができる。

　（alf_enable_second_split）
　alf_enable_second_splitは、再分割を行うのか否かを指定するフラグである。alf_enable_second_split＝０の場合には、再分割が行われず、alf_enable_second_split＝１の場合には、再分割が行われる。

　符号化対象画像の画像特性如何によっては、再分割を行わないことによって符号量を削減したほうが、符号化効率が向上する場合がある。符号化データ＃５に、alf_enable_second_splitを含めておくことによって、符号化効率の向上を図ることができる。

　（alf_select_split_char）
　alf_select_split_charは、特性値Ｙとして、複数の候補のうち何れの特性値を用いるのかを指定するシンタックスである。図２０（ａ）に示すように、alf_select_split_charは、特性値Ｘおよび特性値Ｙを以下のように指定する。

　　alf_select_split_char＝０のとき：
　　　　特性値Ｘ＝活性度、特性値Ｙ＝方向性
　　alf_select_split_char＝１のとき：
　　　　特性値Ｘ＝活性度、特性値Ｙ＝平均画素値
　　alf_select_split_char＝２のとき：
　　　　特性値Ｘ＝活性度、特性値Ｙ＝ｙ座標
　　alf_select_split_char＝３のとき：
　　　　特性値Ｘ＝活性度、特性値Ｙ＝ｘ座標
　ここで、ｙ座標とは、処理対象フレームにおける対象単位領域のフレーム内ｙ座標のことを指し、ｘ座標とは、処理対象フレームにおける対象単位領域のフレーム内ｘ座標のことを指す。

　また、特性値Ｙとして方向性が指定される場合、当該特性値Ｙは、例えば、垂直方向活性度ＡＣＴ＿Ｖおよび水平方向活性度ＡＣＴ＿Ｈを用いて、
　　Ｙ＝（ＡＣＴ＿Ｈ＋ｋ）／（ＡＣＴ＿Ｖ＋ｋ）×４
　　ｋ＝（ＡＣＴ＿Ｈ＋ＡＣＴ＿Ｖ）／１６＋１
によって算出される。

　図２０（ｂ）は、alf_select_split_charの各値について設定される再分割点ＰＹ１～ＰＹ３の具体例を示している。図２０（ｂ）において、「ｈｅｉｇｈｔ」とは、フレームのｙ方向の画素数のことを指し、「ｗｉｄｔｈ」とは、フレームのｘ方向の画素数のことを指す。

　（alf_enable_second_split_val）
　alf_enable_second_split_valは、後述するalf_second_split_val[k]（ｋ＝０、１、２）がフィルタパラメータＦＰに含まれるか否かを示すフラグである。alf_enable_second_split_val＝１であれば、alf_second_split_val[k]がフィルタパラメータＦＰに含まれる。alf_enable_second_split_valは、再分割が行われる場合に符号化される。

　（alf_second_split_val）
　alf_second_split_val[k]（ｋ＝０、１、２）は、特性値Ｙについての再分割における再分割点を決定するために参照されるシンタックスである。

　alf_second_split_val[k]と、再分割点ＰＹ１～ＰＹ３との関係を図２０（ｃ）に示す。図２０（ｃ）に示すように、再分割点ＰＹ１～ＰＹ３の各値は、alf_second_split_val[k]の各値に応じて決定される。

　alf_secocond_split_flag、並びに、上記のalf_filter_pattern、alf_enable_second_split、alf_select_split_char、alf_enable_second_split_val、及びalf_second_split_valは、特性値領域ＣＲを各特性値部分領域ＣＰＲに分割する分割の仕方を指定する特性値分割情報を構成する。

　（alf_region_disable_idc）
　alf_region_disable_idc[i0]は、再分割によって得られた特性値部分領域のうち、フィルタ処理をオフとする領域を指定するためのフラグ（オンオフ指定情報）である。alf_second_split_flag[i0]の値が０のとき、すなわち、再分割が行われないとき、alf_region_disable_idc[i0]は、－１、０の何れかの値をとり、alf_second_split_flag[i0]の値が１または２のとき、すなわち、再分割が２分割であるとき、alf_region_disable_idc[i0]は、－１、０、１の何れかの値をとり、alf_second_split_flag[i0]の値が３のとき、すなわち、再分割が４分割であるとき、alf_region_disable_idc[i0]は、－１、０、１、２、３の何れかの値をとる。

　alf_region_disable_idc[i0]が－１のとき、再分割によって得られた特性値部分領域についてのフィルタ処理がオンに指定される。

　alf_region_disable_idc[i0]が－１以外の値であるとき、再分割によって得られた特性値部分領域のうち、再分割インデックス［ｊ０］（ｊ０＝alf_region_disable_idc[i0]）によって指定される特性値部分領域についてのフィルタ処理がオフに指定される。フィルタ処理がオフに指定された特性値部分領域についてのフィルタ係数（またはフィルタ係数残差）alf_coeff_lumaの符号化は行われない。

　なお、図１９には、予測フィルタ係数を導出する際の予測方向を指定するシンタックスalf_region_pred_lumaを含まない構成を例示したが、これは本実施形態を限定するものではなく、実施形態２において説明したように、本実施形態においても、フィルタパラメータＦＰにシンタックスalf_region_pred_lumaを含める構成としてもよい。

　また、図１９には、実施形態１において説明したシンタックスalf_second_split_typeを含まずに、実施形態１において説明したalf_second_split_type＝１の場合の再分割に関するフィルタ係数（またはフィルタ係数残差）alf_coeff_lumaを含む構成を例示したが、これは本実施形態を限定するものではない。本実施形態においても、フィルタパラメータＦＰに、alf_second_split_type、および、alf_second_split_typeの各値に対するフィルタ係数（またはフィルタ係数残差）alf_coeff_lumaを含める構成としてもよい。

　（適応フィルタ７０）
　本実施形態に係る動画像復号装置は、実施形態１に係る動画像復号装置１の備える適応フィルタ５０に代えて、適応フィルタ７０を備えている。本実施形態に係る動画像復号装置のその他の構成は、実施形態１に係る動画像復号装置１の構成と同様であるので、説明を省略する。

　図２１は、適応フィルタ７０の構成を示すブロック図である。図２１に示すように、適応フィルタ７０は、適応フィルタ５０の備える領域構造復号部５１２、フィルタ係数残差復号部５１３、特性値分割点変更フラグ復号部５１８、特性値分割点設定部５１９、および、第２特性値算出部５２２に代えて、それぞれ、領域構造復号部７１２、フィルタ係数残差復号部７１３、特性値分割点変更フラグ復号部７１８、特性値分割点設定部７１９、および、第２特性値算出部７２２を備えている。また、適応フィルタ７０は、適応的フィルタオフ復号部７３１、特性選択フラグ復号部７３２を備えている。適応フィルタ７０のその他の構成は、適応フィルタ５０と同様である。

　なお、図２１には、適応フィルタ５０の備える２次元予測フラグ復号部５１４を備えない構成を例示しているが、これは本実施形態を限定するものではなく、適応フィルタ７０が２次元予測フラグ復号部５１４を備える構成とし、符号化データ＃５に、alf_region_pred_lumaを含めておく構成としてもよい。

　適応的フィルタオフ復号部７３１は、フィルタパラメータＦＰに含まれるシンタックスalf_disable_region_idc[i0]を復号する。復号されたシンタックスalf_disable_region_idc[i0]は、フィルタ係数残差復号部７１３、および、フィルタ部５２５に供給される。alf_disable_region_idc[i0]がフィルタ処理のオフを指定している場合、フィルタ部５２５は、フィルタ処理を行わない。

　領域構造復号部７１２は、フィルタパラメータＦＰに含まれるシンタックスalf_second_split_flag[i0]を復号する。復号されたシンタックスalf_second_split_flag[i0]は、特性値部分領域ＣＰＲ［ｉ０］に割り付けられると共に、フィルタ係数残差復号部７１３、および、特性値分割点設定部７１９に供給される。

　フィルタ係数残差復号部７１３はalf_length_luma_minus5_div2[i0]、alf_disable_region_idc[i0]、およびalf_second_split_flag[i0]を参照して、フィルタパラメータＦＰに含まれるシンタックスalf_coeff_luma[i][j]を復号すると共に、各シンタックスalf_coeff_luma[i][j]を、それぞれに対応する特性値部分領域ＣＰＲ（ｉ０、ｊ０）に割り付ける。alf_coeff_luma[i][j]と特性値部分領域ＣＰＲ（ｉ０、ｊ０）との対応関係は、実施形態１に係る符号化データ＃１の説明において既に述べた対応関係と同様であるため、ここでは説明を省略する。また、復号されたシンタックスalf_coeff_luma[i][j]は、フィルタ係数復号部５１６に供給される。

　なお、フィルタ係数残差復号部７１３は、alf_disable_region_idc[i0]によってフィルタ処理がオフに指定された特性値部分領域については、フィルタ係数残差alf_coeff_luma[i][j]の復号を行わない。

　特性値分割点変更フラグ復号部７１８は、フィルタパラメータＦＰに含まれるシンタックスalf_second_split_val[k]（ｋ＝０、１、２）を復号する。復号されたシンタックスalf_second_split_val[k]は、特性値分割点設定部７１９に供給される。

　特性値選択フラグ復号部７３２は、フィルタパラメータＦＰに含まれるシンタックスalf_second_split_charを復号する。復号されたシンタックスalf_second_split_charは、特性値分割点設定部７１９、および、第２特性値算出部７２２に供給される。

　特性値分割点設定部７１９は、alf_second_split_flag[i0]、alf_second_split_val[k]、および、alf_second_split_charに基づいて、特性値分割点ＰＸｎ（１≦ｎ≦ＮＸ－１）およびＰＹｍ（１≦ｍ≦ＮＸ－１）を導出する。導出された特性値分割点ＰＸｎおよびＰＹｍは、特性インデックス算出部５２３に供給される。

　シンタックスalf_second_split_val[k]およびalf_second_split_charの各値に対する特性値分割点ＰＸｎおよびＰＹｍの具体例については、符号化データ＃５の説明において既に述べたため、ここでは説明を省略する。

　第２特性値算出部７２２は、対象単位領域におけるデブロック済復号画像Ｐ＿ＤＢについて、alf_second_split_charによって指定される特性値を算出する。算出された特性値は、特性値Ｙとして、特性インデックス算出部５２３に供給される。

　（動画像符号化装置４）
　以下では、符号化対象画像を符号化することによって符号化データ＃３を生成する動画像符号化装置４について、図２２を参照して説明する。なお、以下では、既に説明した部分については、同じ文言および同じ符号を用い、その説明を省略する。

　本実施形態に係る動画像符号化装置は、実施形態１に係る動画像符号化装置２の備える適応フィルタ６０に代えて、適応フィルタ８０を備えている。本実施形態に係る動画像復号装置のその他の構成は、実施形態１に係る動画像符号化装置２の構成と同様であるので、説明を省略する。

　適応フィルタ８０は、デブロック済復号画像Ｐ＿ＤＢに対して、適応的フィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ２４に格納される。また、適応フィルタ８０は、フィルタ処理に用いた各種の適応フィルタ情報をフィルタパラメータＦＰとして可変長符号符号化部２２に供給する。可変長符号符号化部２２は、フィルタパラメータＦＰを符号化データ＃５の一部として符号化する。

　図２２は、適応フィルタ８０の構成を示すブロック図である。図２２に示すように、適応フィルタ８０は、適応フィルタ情報設定部８１、および、適応フィルタ部８２を備えている。

　（適応フィルタ情報設定部８１）
　適応フィルタ情報設定部８１は、図２２に示すように、領域別タップ数設定部６１１、適応的オンオフ設定部８３１、領域構造設定部８１２、特性値分割点変更フラグ設定部８１８、特性選択フラグ設定部８３２、特性値分割点設定部７１９、フィルタ係数残差生成部６１６、フィルタ係数予測部５１５、フィルタパラメータ生成部８１３、および、特性別フィルタ係数格納部６１７を備えている。

　領域別タップ数設定部６１１、特性値分割点設定部７１９、フィルタ係数残差生成部６１６、フィルタ係数予測部５１５、および、特性別フィルタ係数格納部６１７については既に述べたため、ここでは説明を省略する。

　（適応的フィルタオフ設定部８３１）
　適応的フィルタオフ設定部８３１は、再分割によって得られた特性値部分領域のうちフィルタ処理をオフとする領域を指定するためのフラグalf_region_disable_idc[i0]を設定する。設定されたフラグalf_region_disable_idc[i0]は、フィルタパラメータ生成部８１３、およびフィルタ部５２５に供給される。alf_region_disable_idc[i0]がフィルタ処理のオフを指定している場合、フィルタ部５２５は、フィルタ処理を行わない。

　alf_region_disable_idc[i0]の取り得る値とフィルタ処理のオンオフとの対応関係については既に述べたためここでは説明を省略する。

　なお、alf_region_disable_idc[i0]の具体的な値は、符号化効率がより向上するように定められる。

　（領域構造設定部８１２）
　領域構造設定部８１２は、初期分割によって得られた各特性値部分領域について再分割の具体的な態様を指定するためのシンタックスalf_second_split_flag[i0]を設定する。設定されたシンタックスalf_second_split_flag[i0]は、特性値分割点設定部７１９、および、フィルタパラメータ生成部８１３に供給される。

　alf_second_split_flag[i0]の取り得る値、並びに、alf_second_split_flag[i0]の具体的な値と再分割の態様との対応関係については、既に述べたためここでは説明を省略する。

　なお、alf_second_split_flag[i0]の具体的な値は、符号化効率がより向上するように定められる。

　（特性値分割点変更フラグ設定部８１８）
　特性値分割点変更フラグ設定部８１８は、特性値Ｙについての再分割における再分割点を決定するために参照されるシンタックスalf_second_split_val[k]（ｋ＝０、１、２）を設定する。設定されたシンタックスalf_second_split_val[k]は、特性値分割点設定部７１９、および、フィルタパラメータ生成部８１３に供給される。

　alf_second_split_val[k]の取り得る値、および、alf_second_split_val[k]の各値と、特性値Ｙについての再分割における再分割点との対応関係については既に述べたためここでは説明を省略する。

　なお、alf_second_split_val[k]の具体的な値は、符号化効率がより向上するように定められる。

　（特性選択フラグ設定部８３２）
　特性選択フラグ設定部８３２は、特性値Ｙとして複数の候補のうち何れの特性値を用いるのかを指定するシンタックスalf_select_split_charを設定する。設定されたシンタックスalf_select_split_charは、特性値分割点設定部７１９、フィルタパラメータ生成部８１３、および、第２特性値算出部７２２に供給される。

　alf_select_split_charの取り得る値、および、alf_select_split_charの各値と、特性値Ｙとの対応関係については既に述べたため、ここでは説明を省略する。

　なお、alf_select_split_charの具体的な値は、符号化効率がより向上するように定められる。

　（フィルタパラメータ生成部８１３）
　フィルタパラメータ生成部８１３は、シンタックスalf_length_luma_minus5_div2[i0]、alf_disable_region_idc[i0]、alf_second_split_flag[i0]、alf_second_split_val、alf_second_split_char、および、alf_coeff_luma[i][j]からフィルタパラメータＦＰを生成する。生成されたフィルタパラメータＦＰは、可変長符号符号化部２２に供給される。

　なお、フィルタパラメータＦＰには、特性値部分領域毎のフィルタ処理を行うのか否かを指定するためのシンタックスalf_enable_region_filter、初期分割における初期分割点を定めるためのフラグalf_filter_pattern、alf_second_split_val[k]がフィルタパラメータＦＰに含まれるか否かを示すフラグalf_enable_second_split_val、および、初期分割の分割数AlfNumFirstSplitを指定するためのシンタックスalf_num_first_split_minus1が含まれる。これらのシンタックスの具体的な値は、符号化効率がより向上するように定められる。

　（適応フィルタ部８２）
　適応フィルタ部８２は、図２２に示すように、第１特性値算出部５２１、第２特性値算出部７２２、特性インデックス算出部５２３、フィルタ係数導出部６２４、および、フィルタ５２５を備えている。これらの各部については、既に述べたため説明を省略する。

　＜実施形態１および実施形態２についての付記事項＞
　実施形態１における符号化データ＃１のフィルタパラメータＦＰに含まれるシンタックスのうち、少なくとも何れかのシンタックスと、実施形態２における符号化データ＃３のフィルタパラメータＦＰに含まれるシンタックスのうち、少なくとも何れかのシンタックスとを含むフィルタパラメータＦＰ’も本発明の範疇に含まれる。そのようなフィルタパラメータＦＰ’を復号する動画像復号装置は、実施形態１および実施形態２において既に説明した部分のうち、フィルタパラメータＦＰ’に含まれるシンタックスを復号するために必要な各部を備える構成とすればよい。

　例えば、実施形態１における符号化データ＃１のフィルタパラメータＦＰは、符号化データ＃３のフィルタパラメータＦＰに含まれるシンタックスalf_second_split_char、alf_enable_second_split_val、および、alf_second_split_valを含む構成としてもよい。このような構成の場合、動画像復号装置１の備える適応フィルタ５０は、特性選択フラグ復号部７３２、特性値分割点変更フラグ復号部７１８を備える構成とすればよい。

　また、実施形態２における符号化データ＃３のフィルタパラメータＦＰは、シンタックスalf_region_disable_idc[i0]を含まない構成としてもよい。このような構成の場合、符号化データ＃３を復号する動画像復号装置３は、全ての単位領域に対して適応的フィルタ処理を行う構成となる。

　〔実施形態３〕
　以下では、本発明の第３の実施形態について図２３～図３８を参照して説明する。

　本実施形態に係る適応フィルタは、実施形態１及び２と同様に、フィルタ前画像（例えば、デブロック済復号画像Ｐ＿ＤＢ）を構成する各単位領域について、互いに導出方法の異なる２つの特性値を導出し、導出された２つの特性値に応じて、各単位領域を１または複数のグループの何れかに分類する。また、本実施形態に係る適応フィルタは、単位領域毎に定められたフィルタ係数を用いて、フィルタ前画像に対して単位領域毎に作用する。

　また、実施形態１及び２と同様に、各グループは、２つの特性値によって張られる２次元領域上に設定される各部分領域と１対１の対応を有する。したがって、上記２次元領域をどのように各部分領域へ分割するのかを指定することにより、１または複数のグループをどのように設定するかが定まることになる。また、導出された２つの特性値のうち、一方を第１の特性値Ｘと呼び、もう一方の特性値を第２の特性値Ｙと呼ぶ。なお、実施形態１及び２と同様に、上記２つの特性値によって張られる２次元領域を特性値領域とも呼称し、特性値領域上に設定される各部分領域を特性値部分領域とも呼称する。

　本実施形態においては、第１の特性値Ｘおよび第２の特性値Ｙとして、例えば以下のような組み合わせが可能である。

　・第１の特性値Ｘ：画像の方向性、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：予測モード及び画像の方向性、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：予測モード、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：画像の特定方向活性度、第２の特性値Ｙ：画像の特定方向活性度
　・第１の特性値Ｘ：単位領域のｙ座標、第２の特性値Ｙ：単位領域のｘ座標
　・第１の特性値Ｘ：単位領域のｘ座標、第２の特性値Ｙ：単位領域のｙ座標
　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：画像の方向性
　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：平均画素値
　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：単位領域の座標
　・第１の特性値Ｘ：単位領域の座標、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：スライス番号、第２の特性値Ｙ：画像の活性度
　・第１の特性値Ｘ：平均画素値、第２の特性値Ｙ：画像の活性度
　なお、画像の活性度に代えて、画素値の分散を用いてもよい。また、各単位領域について導出される各特性値は、導出方法如何によって、単位領域のサイズに依存する場合がある。このような場合には、各特性値として、単位領域のサイズへの依存性を取り除くことによって得られる正規化された特性値を用いることができる。

　本実施形態に係る適応フィルタは、特性値領域を第１段階の分割および第２段階の分割によって階層的に各部分領域へと分割する。ここで、第１段階の分割は、例えば、第１の特性値Ｘに関する分割であり、第２段階の分割は、第２の特性値Ｙに関する分割である。また、第１段階及び第２段階の分割の双方を、特性値Ｘ及びＹに関する分割とする構成も可能である。

　また、特性値領域の各部分領域への分割は、分割単位を単位として行われる。したがって、各部分領域は、１または複数の分割単位ＤＵから構成される。また、各分割単位の境界は、各特性値について設定される分割点（特性値分割点とも呼称する）を用いて定められる。各分割単位ＤＵは、実施形態１において図１を用いて説明したように、インデックス［ｉ］［ｊ］を用いて指定される。なお、実施形態１及び２と同様に、第１段階の分割を初期分割とも呼称し、第２段階の分割を再分割とも呼称する。

　（符号化データ＃５）
　本実施形態に係る動画像符号化装置６によって生成され、動画像復号装置５によって復号される符号化データ＃５のデータ構造は、実施形態１に係る符号化データ＃１のデータ構造と略同じであるが、フィルタパラメータＦＰの構成が異なる。フィルタパラメータＦＰの構成については、以下の構成例にて詳述する。なお、フィルタパラメータＦＰに含まれるシンタックスのうち、実施形態１及び２において既に説明したシンタックスについては説明を省略する。

　＜構成例１＞
　まず、フィルタパラメータＦＰの第１の構成例について説明する。

　図２３（ａ）は、本構成例に係るフィルタパラメータＦＰ（図２３（ａ）においてalf_param()と表記）に含まれる各シンタックスを示すシンタックステーブルである。図２３（ａ）に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_feature_mode、alf_first_split_type、及び、alf_filter_pattern[j]が含まれている。

　alf_feature_modeは、特性値Ｘ及びＹを指定するシンタックスである。

　alf_first_split_typeは、第１段階の分割の態様を指定するシンタックスである。alf_first_split_typeは、例えば、第１段階の分割の分割数を指定する。

　alf_filter_pattern[j]は、特性値に関して隣接する部分領域間で同じフィルタ係数群を用いるか否かを指定するフラグであり、インデックス［ｉ］［ｊ］によって指定される分割単位ＤＵ［ｉ］［ｊ］に対して、インデックス［ｉ］［ｊ－１］によって指定される分割単位ＤＵ［ｉ］［ｊ－１］と同じフィルタ係数群を適用するか否かを指定する。

　なお、ｉ及びｊは、それぞれ、特性値Ｘ及び特性値Ｙの各値を表している。従って、以下では、インデックス［ｉ］［ｊ］をインデックス［Ｘ］［Ｙ］と表すこともある。

　alf_filter_patternが１である場合には、後述するalf_coeff_set_luma(i,j)で示されるように、動画像復号装置５は、符号化データ＃５から分割単位ＤＵ［ｉ］［ｊ］のフィルタ係数群を復号する。alf_filter_patternが０である場合には、動画像復号装置５は、符号化データ＃５からフィルタ係数群を復号することはなく、後述するalf_coeff_copy_luma(i,j,i,j-1)で示される処理を行う。

　（alf_feature_modeの各値についての詳細）
　以下では、alf_feature_modeの各値と、特性値Ｘ及び特性値Ｙとの対応について説明する。

　（１）alf_feature_mode＝０のとき
　alf_feature_modeが0である場合には、垂直方向活性度（または垂直方向勾配）と水平方向活性度（または水平方向勾配）を用いて特性値Xと特性値Yを算出する。特性値Xは角度（方向性）であり３段階の値をもつ。特性値Yは、活性度であり５段階の値を持つ。

　X = 1 (ACT_H > 2*ACT_Vの場合)
　　= 2 (ACT_V > 2*ACT_Hの場合)
　　= 0 (それ以外の場合)
　Y = ActIdx　（５段階）
　ここで、ACT_H、及びACT_Vは、それぞれ、水平方向の活性度及び垂直方向の活性度であり、動画像復号装置５によって、以下の式に基づいて算出される。

　ここで、ｘｘ及びｙｙは、それぞれ、対象単位領域における各画素のｘ座標及びｙ座標を表しており、s'[xx,yy]は、座標[xx,yy]における画素の画素値を表している。より具体的には、s'[xx,yy]は、例えば、座標[xx,yy]におけるデブロック済復号画像Ｐ＿ＤＢの画素値を表している（以下同様）。また、Ｍ及びＮは、それぞれ、対象単位領域のｘ方向の画素数及びｙ方向の画素数を表しており、BitDepthYは、特性値Ｙについてのビット深度を表している。

　また、ActIdxは、活性度の大きさを示すインデックスであり、以下のように定まる。

　ここで、活性度ACTは、
　ACT = ACT_H + ACT_V
によって定めることができる。

　なお、活性度を求める際には、M×Nの領域において、上記の計算では、(M+2)×(N+2)の全画素を用いているが、1画素おきに計算することも可能である（実施形態１～３について同様）。例えば水平方向もしくは垂直方向に1画素おきとすれば演算量は約半分になり、水平方向かつ垂直方向に1画素おきとすれば演算量は約４分の１となる。但し、間引きを行った際には、活性度の量子化に用いる閾値も1／２もしくは１／４とすることが必要になる。なお、ソフトウェアにおいてもハードウェアにおいても水平方向に連続した画素値を利用した演算は高速であるのに対して、垂直方向の画素値を使用する場合には低速になる。そのため、水平方向には間引かず、垂直方向に1画素おきに間引いて計算することが好適である。また、垂直方向活性度ACT_Vの場合には、水平方向で間引きを行い、垂直方向活性度ACT_Hの場合には、垂直方向で間引きを行うことも好適である。

　（２）alf_feature_mode＝１のとき
　alf_feature_modeが1である場合には、２つの斜め方向活性度を用いて特性値を算出する。特性値Xは角度であり３段階の値をもつ。特性値Yは、活性度であり５段階の値を持つ。

　X = 1 (ACT_D0 > 2*ACT_D1の場合)
　　= 2 (ACT_D1 > 2*ACT_D0の場合)
　　= 0 (それ以外の場合)
　Y = ActIdx　（５段階）
　ここで、ACT_D0、及びACT_D1は、互いに略直交する斜め方向の活性度であり、動画像復号装置５によって、以下の式に基づいて算出される。

　また、ActIdxは、活性度の大きさを示すインデックスであり、上述のように求めることができるが、その計算の際に用いられる活性度ACTは、
　ACT = ACT_D0 + ACT_D1
によって求めることができる。

　（３）alf_feature_mode＝２のとき
　alf_feature_modeが2である場合には、垂直方向活性度、水平方向活性度、２つの斜め活性度の両者を用いて特性値を算出する。特性値Xは角度であり４段階の値をもつ。特性値Yは、活性度であり４段階の値を持つ。

　X = 0 (ACT_Hが最小の場合)
　　= 1 (ACT_D0が最小の場合)
　　= 2 (ACT_Vが最小の場合)
　　= 3 (ACT_D1が最小の場合)
　Y = ActIdx　（４段階）
　ここで、ACT_Hが最小の場合とは、ACT_Hが、ACT_H、ACT_V、ACT_D0、及びACT_D1の中で最小である場合を意味する（他も同様）。より具体的には、特性値Xを以下のように表現することもできる。

　X = DirIdx
　ここで、DirIdxは、

によって定義される。ここで、min(A,B,C,D)は、引数A,B,C,Dの中で、最小の値を返す関数である。

　（４）alf_feature_mode＝３のとき
　alf_feature_modeが3である場合には、垂直方向活性度と水平方向活性度を用いる。

　X = Idx_ACT_V　（４段階）
　Y = Idx_ACT_H　（４段階）
ここで、Idx_ACT_V及びIdx_ACT_Hは、それぞれ、以下の式によって与えられる垂直方向活性度及び水平方向活性度のインデックスである。

　（５）alf_feature_mode＝４のとき
　alf_feature_modeが４である場合には、特性値Ｘを、対象単位領域についての予測モードがイントラ予測モードであるか否か、及び、角度を用いて定める。

　X = 0 イントラの場合
　　= 1 (イントラ以外の場合であって、ACT_H > 2*ACT_Vの場合)
　　= 2 (イントラ以外の場合であって、ACT_V > 2*ACT_Hの場合)
　　= 3 (イントラ以外の場合であって、それ以外の場合)　　　　（４段階）
　Y = ActIdx　（４段階）
　なお、alf_feature_mode＝４のときには、特性値Ｘを以下のように定めてもよい。

　X = 0　(イントラの場合であって、ACT_H < ACT_Vの場合)
　　= 0　(イントラの場合であって、ACT_H > ACT_Vの場合)
　　= 0　(インターの場合であって、ACT_H < ACT_Vの場合)
　　= 0　(インターの場合であって、ACT_H < ACT_Vの場合)
　（６）alf_feature_mode＝５のとき
　alf_feature_modeが５である場合には、特性値Ｘを、対象単位領域についての予測モードがイントラ予測モード（Iブロック）であるか否か、インター予測モードである場合には単方向予測（Pブロック）であるか双方向予測Bブロックであるか、によって定める。

　X = 0　(Iブロックの場合)
　　＝1　(Pブロックの場合)
　　= 2　(Bブロックの場合)　　　　（３段階）
　Y = ActIdx　（５段階）
　またalf_feature_modeとして次の（７）と（８）の場合をさらに用いても良い。

　この場合には、領域ごとの特性値として、座標が用いられる。画像（フレーム）の幅と高さがwidth, heightである場合には、分割領域の幅RWと高さRHは、LCUサイズ（ツリーブロックのサイズ）の倍数になるように以下の式により求められる。
RW = INT(width / NH / LCU_WIDTH) * LCU_WIDTH
RH = INT(height / NV / LCU_HEIGHT) * LCU_ HEIGHT
ここでLCU_WIDTH及びLCU_HEIGHTは、それぞれ、LCUの幅及び高さ、NH及びNVは、それぞれ、画像の水平方向分割数及び垂直方向分割数を示す。なおINT(x)は、xを整数化する関数を表す。なお、以降の演算ではＩＮＴとして明示的に示さないが、整数間の除算の結果は整数化して扱うこととする。

　（７）alf_feature_mode＝６のとき
　alf_feature_modeが６である場合には、対象単位領域の画像（フレーム）内x座標とy座標を用いる。

　X = y座標 / RH　（NV段階）
　Y = x座標 / RW　（NH段階）
　なお、特性値Ｘ、Ｙとして、対象単位領域の画像（フレーム）内座標を用いる分割を、座標空間分割と呼ぶこともある。

　（８）alf_feature_mode＝７のとき
　alf_feature_modeが７である場合には、対象単位領域の画像（フレーム）内ｙ座標とｘ座標を用いる。

　X = x座標 / RW　（NH段階）
　Y = y座標 / RH　（NV段階）
　以上のように、alf_feature_modeとして０～７の値をとる構成とし、alf_feature_modeの各値によって特性値Ｘ及びＹを具体的に指定する構成とすることができる。また、例えば、alf_feature_modeとして０～３の値をとる構成としてもよいし、alf_feature_modeとして０～５の値をとる構成としてもよい。

　また、alf_feature_modeとして、０～１の値をとる構成とし、alf_feature_modeを１ビットで表現する構成としてもよい。

　また、alf_feature_modeの各値と、それに対応する特性値Ｘ及びＹとの組み合わせは、上記の例に限定されるものではない。例えば、alf_feature_mode＝２、３によって、上述したalf_feature_mode＝６、７に対応する特性値Ｘ及びＹが指定される構成としてもよい。

　なお、特性値Ｘ，特性値Ｙの算出方法は、上記方法以外にも、例えば、実施形態１および実施形態２で説明した方法を用いることができる。すなわち、平均画素値やスライス番号などを用いることもできる。

　（初期分割と再分割）
　以下では、初期分割と再分割について、図２３（ａ）を参照しつつ説明する。

　まず、上述のように、alf_first_split_typeは初期分割の態様を指定するシンタックスである。

　図２３（ａ）に示したAlfMaxFirstSplitは、初期分割の最大分割数を指定するシンタックスであり、AlfMaxSecondSplitは、再分割の最大分割数を指定するシンタックスである。本構成例では、AlfMaxFirstSplit＝NX、AlfMaxSecondSplit=NYである。NX及びNYのとり得る値と、alf_feature_modeの各値との対応関係は、図２４（ａ）に示す通りである。

　（alf_feature_mode＝０又は１のときの初期分割と再分割）
　図２５は、alf_feature_modeが0もしくは1である場合の特性値領域の分割を示す模式図である。alf_feature_modeが0もしくは1である場合には、特性値Xに関して３段階、特性値Yに関して５段階の分割が可能であり、特性値領域は、最大で１５個の部分領域に分割される。すなわち、AlfMaxFirstSplit＝NX=3、AlfMaxSecondSplit=NY=5である。特性値領域が１５個の部分領域に分割される場合、各部分領域は、１つの分割単位より構成される。なお、図２５における点線は、各分割単位の境界を示している。

　図２５は、特性値領域が特性値Xに応じて初期分割され、さらに特性値Yに応じて再分割されることを示している。動画像復号装置５は、分割によって得られた特性値部分領域の各々に対して、フィルタ係数群を復号し、適応フィルタによるフィルタ処理に用いる。

　図２５に示すように、alf_first_split_typeが0である場合には、特性値Xの方向の分割単位がマージされており、特性値領域に対して、特性値Xに関する分割は行われない。

　また、alf_first_split_typeが1である場合には、特性値領域は、特性値Xに関して、２つの部分領域に分割される。

　また、alf_first_split_typeが2である場合には、特性値領域は、特性値Xに関して、３つの部分領域に分割される。

　続いて、初期分割によって得られた各部分領域は、図２５に示すように、特性値Yに関して最大で５つの部分領域に更に分割される。

　（alf_feature_mode＝２又は３のときの初期分割と再分割）
　図２６は、alf_feature_modeが２もしくは３である場合の特性値領域の分割を示す模式図である。alf_feature_modeが２もしくは３である場合には、特性値Xに関して４段階、特性値Yに関して４段階の分割が可能であり、特性値領域は、最大で１６個の部分領域に分割される。すなわち、AlfMaxFirstSplit＝NX=4、AlfMaxSecondSplit=NY=4である。特性値領域が１６個の部分領域に分割される場合、各部分領域は、１つの分割単位より構成される。なお、図２６における点線は、各分割単位の境界を示している。

　図２６に示すように、alf_first_split_typeが0である場合には、特性値Xの方向の部分領域がマージされており、特性値領域に対して、特性値Xに関する分割は行われない。

　また、alf_first_split_typeが2である場合には、特性値領域は、特性値Xに関して、４つの部分領域に分割される。

　続いて、初期分割によって得られた各部分領域は、図２６に示すように、特性値Yに関して最大で４つの部分領域に更に分割される。

　alf_feature_modeが何れの値をとる場合であっても、再分割の方法は、図２３に示すAlfMaxSecondSplit -1個のalf_filter_pattern[j]を復号することにより定められる。alf_filter_pattern[j]は、上述のように、０もしくは１をとり、各々対応する部分領域が、一つ前の部分領域と同じフィルタ係数を用いるか否かを示す。

　alf_filter_pattern[j]が０である場合には、動画像復号装置５は、[j-1]によって指定される１つ前の部分領域と同じフィルタ係数を用いる。１である場合には、動画像復号装置５は、[j-1]によって指定される１つ前の部分領域と異なるフィルタ係数を、フィルタパラメータから復号して用いる。

　（フィルタ係数群の復号処理）
　以下では、動画像復号装置５によるフィルタ係数群の復号処理について、図２３（ａ）～（ｃ）を参照しつつ説明する。

　図２３（ｂ）に示すalf_coeff_set_luma(i,j)は、対象分割単位ＤＵを指定する[i][j]を引数として、当該対象分割単位についてのフィルタ係数alf_coeff_luma[i][j][k]を返す処理である。ここで、ｋは、各フィルタ係数成分を指定するインデックスであり、ｋ＝０～Ｎ－１の各値をとる（ここでＮは、対象分割単位ＤＵ[i][j]について復号されるフィルタ係数成分の総数を表す）。

　まず、動画像復号装置５は、図２３（ａ）に示すように、alf_coeff_set_luma(0,0)で示される特性値X＝０、特性値Y＝０のフィルタ係数群を復号する。次に、動画像復号装置５は、ループインデックスiについて０からNX－１のループを処理する。各ループインデックスiについて、NX、alf_first_split_type、ループインデックスiを用いて参照されるマージ指定テーブルmergedを参照する。ここで、マージ指定テーブル上の値merged[AlfMaxFirstSplit][alf_first_split_type][i]は、初期分割においてインデックスiに対応する部分領域が、インデックスi－１に対応する部分領域にマージされているか否かを示すフラグ（マージ指定フラグ）である。マージ指定フラグは、マージを指定する場合に１、マージを指定しない場合には０をとる。

　マージ指定フラグmerged[AlfMaxFirstSplit][alf_first_split_type][i]の各値と、AlfMaxFirstSplit、alf_first_split_type、及びｉの各値との対応関係を示す表を図２４（ｂ）に示す。

　図２４（ｂ）に示すように、例えば、AlfMaxFirstSplit＝３、alf_first_split_type＝０である場合には、merged[AlfMaxFirstSplit][alf_first_split_type][i]は、ｉ＝０のとき０をとり、ｉ＝１のとき１をとり、ｉ＝１のとき１をとる。

　なお、特性値X＝i、特性値Y＝ｊのフィルタ係数群を分割単位ＤＵ[i][j]についてのフィルタ係数群とも呼ぶ。また、インデックス[i][j]を（i,j）とも表記する。

　図２３（ａ）に示すように、初期分割において特徴値X=iの部分領域がマージされていない場合には、動画像復号装置５は、alf_filter_patternを復号する。具体的には、ループインデックスｊについて１からNY－１のループを処理する。ループ内では個々のｊについてalf_filter_patternを復号する。

　alf_filter_patternが1である場合には、分割単位（i、ｊ-1）と分割単位（i、ｊ）とに対して異なるフィルタ係数が割り当てられることを意味する。このとき、動画像復号装置５は、alf_coeff_set_luma(i,j)で示されるように、符号化データから部分領域（i、ｊ）のフィルタ係数群を復号する。

　一方で、alf_filter_patternが0である場合には、部分領域（i、ｊ-1）と部分領域（i
、ｊ）は同じフィルタ係数が割り当てられることを意味する。そのため、動画像復号装置５は、分割単位（i、ｊ）について、符号化データ＃５からフィルタ係数群を復号することはなく、alf_coeff_copy_luma(i, j, i, j-1)で示される処理を行う。

　ここで、alf_coeff_copy_luma(di, dj, si, sj)は、図２３（ｃ）に示すように、分割単位（si、sj）について復号されたフィルタ係数群を、分割単位（di、dj）のフィルタ係数群にコピーする処理を意味する。ここでは、当該分割単位（i,j）よりも特性値Yが１つ小さい分割単位（i ,j－１）のフィルタ係数群を当該分割単位（i,ｊ）のフィルタ係数群にコピーする。なお、図２３（ｃ）に示すalf_coeff_copy_lumaにおいて、Nは、フィルタ係数群に含まれるフィルタ係数の総数を表している。

　特徴値X=iの部分領域が、初期分割において特徴値X=i-1の部分領域とマージされている場合には、ループインデックスｊについて０からNY－１のループを処理する。ループ内ではalf_coeff_copy_luma(i, j, i-1,j)のように、当該分割単位（i,j）よりも特性値Xが１つ小さい分割単位（i－１,j）のフィルタ係数群を当該分割単位（i,ｊ）のフィルタ係数群にコピーする。これにより、初期分割においてマージされている部分領域全てに対して同じフィルタ係数群をコピーする。

　フィルタ係数群AlfRegionFilterCoeffは以下の式によって算出する。
AlfRegionFilterCoeff[X][Y][k] = alf_coeff_luma[X][Y][k]
但し、ｋは０からＮ－１の値である。

　（予測符号化）
　符号化データ中のフィルタ係数群alf_coeff_lumaは、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを予測符号化して得られるものであることが可能である。例えば、alf_coeff_lumaは、隣接するフィルタ係数群間の予測差分（差分値）として符号化することができる。この場合、図２３（ｂ）、（ｃ）に示すalf_coeff_set_luma 及びalf_coeff_copy_lumaを、それぞれ、図４０（ａ）、（ｂ）に示すものに置き換える。

　図４０（ａ）に示す処理alf_coeff_set_lumaでは、符号化データより、差分値であるフィルタ係数群alf_coeff_luma[X][Y][k]を復号した後、以下の式から、予測値との差分をとることによってフィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを算出する。

　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma[i][j][k]; (i=0かつj=0の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[i][j][k] -　alf_coeff_luma[i-1][j][k] (j=0以外の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[i][j][k] - alf_coeff_luma[i][j-1][k] (j=0以外の場合)
　なお、差分値の求め方としては、差分値＝予測値－復号対象値とする方法の他、差分値＝復号対象値－予測値とする方法もある。後者の場合には、以下の式から、予測値との和をとることによってフィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを算出する。

　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma[i][j][k]; (i=0かつj=0の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[i][j][k] + alf_coeff_luma[i-1][j][k] (j=0以外の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[i][j][k] + alf_coeff_luma[i][j-1][k] (j=0以外の場合)
　alf_coeff_lumaが予測符号化における予測差分である場合、alf_coeff_copy_luma(di, dj, si, sj)は、図４０（ｂ）に示すように、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffのコピーを行う処理を意味する。すなわち、分割単位（si、sj）について復号されたフィルタ係数群AlfRegionFilterCoeff[si][sj][k]を、分割単位（di、dj）のフィルタ係数群AlfRegionFilterCoeff[di][dj][k]にコピーする。なお差分値はalf_coeff_luma[di][dj][k] = 0となる。

　また、２次元の特性値空間では、ある部分領域に隣接する部分領域には特性値Ｘ方向に近い方向と特性値Ｙ方向に近い方向の２つがある。実施形態３においても、実施形態１と同様に、フィルタ係数群alf_coeff_lumaを予測する方向を切り替えることもできる。この場合、図２３（ｂ）に示すalf_coeff_set_lumaを、図４１に示すものに置き換える。図４１に示すように、予測符号化を行わない起点となるフィルタ係数群であるi=0、j=0以外のフィルタ係数群の復号において、予測方向選択フラグalf_region_pred_lumaを復号する。それ以外、i = 0の場合には、予測方向選択フラグalf_region_pred_lumaを0に設定し、それ以外(j = 0の場合)には、予測方向選択フラグalf_region_pred_lumaを1に設定する。そして、alf_region_pred _lumaが0である場合には、AlfRegionFilterCoeff[i][j][k]のフィルタ係数の予測値として、AlfRegionFilterCoeff[i1][j-1][k]を用い、alf_region_pred _lumaが1である場合には、AlfRegionFilterCoeff[i][j][k]のフィルタ係数の予測値として、AlfRegionFilterCoeff[i-1][j][k]を用いて、予測値と差分値との差分（もしくは和）により、フィルタ係数群AlfRegionFilterCoeff[i][j][k]を復号する。

　また、予測方向選択フラグalf_region_pred_lumaを、alf_region_pred_lumaが0である場合には、予測を行わず、1である場合には予測を行うことを示すフラグとして用いてもよい。この場合、alf_region_pred_lumaが0である場合には、AlfRegionFilterCoeff[i][j][k]=alf_coeff_luna[i][j][k]により求め、それ以外の場合には、AlfRegionFilterCoeff[i][j][k]のフィルタ係数の予測値として、AlfRegionFilterCoeff[i-1][j][k]を用いる。

　＜構成例１の変形例＞
　続いて、本構成例の変形例について説明する。

　図２７、図２８は、本変形例における特性値領域の分割を示す模式図である。図２７及び図２８に示すように、本変形例では、特性値Yが０である場合に、特性値Xに関する分割を行わない。このような構成は、特性値Ｙを活性度、特性値Ｘを角度（方向性）ととった場合に好適な構成である。これは、活性度（特性値Y）が低い場合には、角度（特性値X）で分割する意味は小さいことから、活性度が０における角度による分割は必ずしも必要ではないからである。そこで、本変形例のように、特性値Y＝活性度、特性値X＝角度の場合では、特性値Yの値に応じて特性値Xの分割を制限することが適当である。

　図２７は、本変形例において、alf_feature_modeが0もしくは1である場合の特性値領域の分割を示す模式図である。特性値Xに関して６段階、特性値Yに関して３段階の分割が可能であり、最大１６個の部分領域に分割される。AlfMaxFirstSplit＝3、AlfMaxSecondSplit=5とする。

　・alf_first_split_typeが0である場合には、空間の分割は行われない。

　・alf_first_split_typeが1である場合には、特性値Yが０である場合と０以外である場合に分割を行う。

　・alf_first_split_typeが２である場合には、特性値Yが０である場合と０以外である場合に分割を行った上で、０以外の領域はさらに特性値Xの方向の部分領域が２つに分割される。

　・alf_first_split_typeが３である場合には、特性値Yが０である場合と０以外である場合に分割を行った上で、０以外の領域はさらに特性値Xの方向の部分領域が３つに分割される。

　図２８は、alf_feature_modeが２もしくは３である場合の特性値領域の分割を示す模式図である。特性値Xに関して５段階、特性値Yに関して４段階の分割が可能であり、最大１７個の部分領域に分割される。AlfMaxFirstSplit＝4、AlfMaxSecondSplit=4とする。

　・alf_first_split_typeが３である場合には、特性値Yが０である場合と０以外である場合に分割を行った上で、０以外の領域はさらに特性値Xの方向の部分領域が４つに分割される。

　図２９は、本変形例に係るフィルタパラメータＦＰのシンタックステーブルを示す。図２９に示すように、本変形例では、動画像復号装置５は、常にalf_coeff_set_luma(0, 0)の復号を行う。次に、ループインデックスiについて０からAlfMaxFirstSplit－１のループを処理する。各ループインデックスiについて、AlfMaxFirstSplit、alf_first_split_type、ループインデックスiで定められるマージ指定フラグを参照する。

　マージ指定フラグの値がマージでないことを指定する０である場合、alf_filter_patternを復号する。ループインデックスｊについて２からAlfMaxSecondSplit－１のループを処理する。ループ内では個々のｊについてalf_filter_patternを復号する。

　alf_filter_patternが1である場合には、動画像復号装置５は、上述のalf_coeff_set_luma(i, j)で示されるように、符号化データ＃５から分割単位（i、ｊ）についてのフィルタ係数群を復号する。

　一方で、alf_filter_patternが0である場合には、動画像復号装置５は、符号化データ＃５からフィルタ係数群を復号することはなく、alf_coeff_copy_luma(i, j, i, j-1)で示される処理を行う。

　マージ指定フラグの値が１、すなわち、特徴値X=iの部分領域が初期分割においてマージされていることを示す場合には、ループインデックスｊについて１からAlfMaxSecondSplit－１のループを処理する。ループ内ではalf_coeff_copy_luma(i, j, i-1,j)のように、一つ小さい特性値Xの部分領域（i-1、j）をフィルタ係数群を部分領域（i、j）のフィルタ係数群にコピーすることにより、初期分割においてマージされている部分領域全てに対して同じフィルタ係数群をコピーする。

　なお、alf_coeff_lumaは予測値との差分値であっても良い。差分値である場合には、図４０に示す方法により、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを算出する。

　動画像復号装置５は、以上の処理によって、特性値X、特性値Yに対応するフィルタ係数群AlfRegionFilterCoeff[X][Y][k]を符号化データ＃５から復号する。

　＜構成例２＞
　続いて、フィルタパラメータＦＰの第２の構成例について説明する。本構成例では、特性値として、対象単位領域の画像（フレーム）内座標が用いられる。

　図３０は、本構成例に係るフィルタパラメータＦＰ（図３０においてalf_param()と表記）に含まれる各シンタックスを示すシンタックステーブルである。図３０に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_feature_mode2、alf_horiz_split_num_minus1、alf_vert_split_num_minus1、alf_first_split_type、及び、alf_filter_pattern[j]が含まれている。

　alf_feature_mode2は、特性値Ｘ及びＹを指定するシンタックスである。

　alf_horiz_split_num_minus1は、水平方向の分割数ＮＨを指定するシンタックスであり、alf_vert_split_num_minus1は、垂直方向の分割数ＮＶを指定するシンタックスである。水平方向の分割数ＮＨ及び垂直方向の分割数ＮＶは、
　NH = alf_horiz_split_num_minus1+1
　NV = alf_vert_split_num_minus1+1
によって定まる。

　（分割数の符号化）
　本構成例では、画像（フレーム）を水平方向にNH個に分割し、垂直方向にNV個に分割する。動画像復号装置５は、alf_horiz_split_num_minus1より水平方向の分割数NHを復号し、alf_vert_split_num_minus1より垂直方向の分割数HVを復号する。また、動画像復号装置５は、NH及びNVを、NH= alf_horiz_split_num_minus1+1、NV=alf_vert_split_num_minus1+1によって求める。

　画像（フレーム）の幅と高さがwidth, heightである場合には、分割領域の幅RWと高さRHは、NW、NHと、LCU サイズより、以下の式により求められる。

　RW = INT(width / NH / LCU_WIDTH) * LCU_WIDTH
　RH = INT(height / NV / LCU_HEIGHT) * LCU_ HEIGHT
なお、LCU_WIDTHと、LCU_HIGHTは、LCUの幅と高さであり、上記式により、RWとRHはLCUサイズの定数倍となる。

　（初期分割）
　構成例１と同様に、特性値Xに応じて初期分割が行われ、特性値Yに応じて再分割が行われる。

　図３１は、alf_feature_mode2が0である場合の分割の模式図である。特性値X、特性値Yは以下を用いる。

　X = y座標 / RH　（NV段階）
　Y = x座標 / RW　（NH段階）
　初期分割数の最大数は、AlfMaxFirstSplit=NVであり、再分割数の最大数は、AlfMaxSecondSplit=NHである。

　alf_first_split_typeが0である場合には、垂直方向の部分領域がマージされており、空間の分割は行われない。

　alf_first_split_typeが1である場合には、垂直方向の部分領域が２つに分割される。

　alf_first_split_typeが2である場合には、垂直方向の部分領域がNV個の領域に分割される。

　続いて、初期分割によって得られた各部分領域は、水平方向に、最大でNH個の領域の領域に再分割される。

　図３２は、alf_feature_mode2が１である場合の分割の模式図である。特性値X、特性値Yは以下を用いる。

　X = x座標 / RW　（NH段階）
　Y = y座標 / RH　（NV段階）
　alf_feature_mode2=１では、x座標に応じて初期分割が行われ、y座標に応じて再分割が行われる。初期分割数の最大数は、AlfMaxFirstSplit=NHであり、再分割数の最大数は、AlfMaxSecondSplit=NVである。

　alf_first_split_typeが0である場合には、水平方向の部分領域がマージされており、空間の分割は行われない。

　alf_first_split_typeが1である場合には、水平方向の部分領域が２つに分割される。

　alf_first_split_typeが2である場合には、水平方向の部分領域がNH個の領域に分割される。

　続いて、個々の初期分割領域は、垂直方向に、最大でNH個の領域の領域に再分割される。

　分割数の符号化および分割方法以外は、構成例１と同じであるので、説明を省略する。

　＜構成例３＞
　続いて、フィルタパラメータＦＰの第３の構成例について説明する。本構成例では、特性値として、対象単位領域の画像（フレーム）内座標の関数が用いられる。

　図３３は、本構成例に係るフィルタパラメータＦＰのシンタックスである。図３３に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_feature_mode3、alf_first_split_type、及び、alf_filter_pattern[j]が含まれている。

　alf_feature_mode3は、特性値算出モードを示しており、0, 1の値をとる。

　構成例１、構成例２では、x座標とy座標から構成される２次元空間、もしくは、活性度ActIdxと角度DirIdxなどから構成される２次元空間である特性値領域を分割する例を説明した。これら、x座標とy座標、もしくは、活性度Actと角度Dirなどを原特性値と呼び（ｘ、ｙ）で表現する。

　構成例１、構成例２では、特性値（Ｘ、Ｙ）上での特性値Ｘ軸、もしくは特性値Ｙ軸での分割／マージは、原特性値でのｘ軸、ｙ軸でのマージに対応していた。すなわち、原特性値から構成される２次元空間を原特性値空間、特性値（Ｘ、Ｙ）から構成される２次元空間を特性値空間と呼ぶと、両空間の分割は同じ構成をしている。

　本構成例は、構成例１、構成例２と以下の点で異なる。

　（相違点１）
　原特性値（ｘ、ｙ）から特性値（Ｘ、Ｙ）を求める方法が、alf_first_split_typeにより変化する。

　（相違点２）
　構成例１、２では、特性値Ｘ、特性値Ｙの各々は、原特性値ｘもしくは原特性値ｙの１つから算出されていた。それに対して本構成例では、特性値Ｘ、特性値Ｙは、２次元の原特性値（ｘ、ｙ）の関数として算出する。すなわちＸ＝ｆ（ｘ、ｙ）、Ｙ＝ｇ（ｘ、ｙ）、ｆ、ｇは所定の関数、により算出を行う。相違点１を考慮すれば、これらの関数は、
　Ｘ＝ｆ（ｘ、ｙ、alf_first_split_type）
　Ｙ＝ｇ（ｘ、ｙ、alf_first_split_type）と表現することもできる。

　（相違点３）
　構成例１、構成例２では、特性値Ｘ、Ｙの各々は、原特性値の各々ｘ、ｙと１：１対応をしていたが、本構成例では、原特性値の（ｘ、ｙ）と特性値の（Ｘ、Ｙ）はＭ：Ｎ（但しＭ＜Ｎ）対応とすることができる。

　（相違点４）
　構成例１、構成例２では、最大分割数AlfMaxFirstSplit、AlfMaxSecondSplit分のフィルタ係数群の復号を行った上で、マージが行われる場合には、符号化データからのフィルタ係数群の復号は行わず、既に復号したフィルタ係数群の復号時にコピーを行っていた。

　それに対して本構成例では、特性値（Ｘ、Ｙ）算出関数におけるマージが可能であるため、AlfNumFirstSplit、AlfNumSecondSplitで定まる数のフィルタ係数を復号及び格納すればよい。なお、特性値算出のマージは、特性値Ｘ、特性値Ｙについても可能であるが、再分割を行う特性Ｙについては、既に復号したフィルタ係数群の復号時コピーによるマージも行われる。

　上述のように、alf_feature_mode3は、特性値算出モードを示しており、0, 1の値をとる。

　alf_feature_mode3が0である場合には、原特性値(x, y)は以下を用いる。

　x = DirIdx（4段階）
　y = ActIdx（4段階）
　ここで、DirIdxは、
　DirIdx = 1 (ACT_H > 2*ACT_Vの場合)
　　　　 = 2 (ACT_V > 2*ACT_Hの場合)
　　　　 = 0 (それ以外の場合)
または、
　DirIdx = 1 (ACT_D0 > 2*ACT_D1の場合)
　　　　 = 2 (ACT_D1 > 2*ACT_D0の場合)
　　　　 = 0 (それ以外の場合)
によって定めればよい。

　一方で、alf_feature_mode3が1である場合には、原特性値(x, y)は以下を用いる。

　x = x座標 / RH　（4段階）
　y = y座標 / RW　（4段階）
　（初期分割）
　図３４は、本構成例における分割を示す模式図である。

　alf_first_split_type=0の場合には、AlfNumFirstSplit=1かつAlfNumSecondSplit=1であり、特性値Ｘ、特性値Ｙの双方が0であるフィルタ係数群alf_coeff_luma[0][0]、AlfRegionFilterCoeff[0][0]を復号する。

　alf_first_split_type=1の場合には、AlfNumFirstSplit=2かつAlfNumSecondSplit=8であり、以下の式
　X = y/(RY*2)
　Y = tbl_type1[(x%RW)+ (y%RH)*4]
により、特性値を求める。

　ここで、テーブルtbl_type1[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｙを求める関数であり、以下の値をもつ。

　tbl_type1[]={0, 3, 4, 7, 1, 2, 5, 6}
　動画像復号装置の備えるフィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0～3、Y=0～3が復号される。

　alf_first_split_type=1の場合には、初期分割において、原特性空間において垂直方向に２つの領域に分割し、初期分割で得られる部分領域を、１次元分割によって分割する。

　ここで１次元分割とは「対象部分領域[j]に対して、該対象部分領域に関連付けられた割り付け指定情報（alf_filter_pattern[j]）に従って、処理順で該対象部分領域の直前の部分領域[j-1]に割り付けられたフィルタ係数、または、該直前の部分領域に割り付けられたフィルタ係数とは異なるフィルタ係数を割り付ける」ような分割を示す。

　テーブルtbl_type1[k]で定められる再分割のインデックスは、原特性空間で隣接領域（分割単位）のインデックスの値の差が１であるように定められている。原特性空間での近傍領域同士が近い値をもつようにするために、原特性空間で一筆書きの順でインデックスを割り振ると良い。このように、特性値Ｙの算出方法を、原特性値（ｘ、ｙ）の関数とすることにより、１次元的な特性値Ｙにおいて、原特性空間（ｘ、ｙ）での２次元的な隣接関係をある程度表現することができる。

　alf_first_split_type=2の場合には、AlfNumFirstSplit=4かつAlfNumSecondSplit=4であり、
　X = tbl_type2 [(x/(RX*2))+ (y/(RY*2))*2]
　Y = tbl_type2 [(x%RW)+ (y%RH)*2]
により、特性値を求める。
ここで、テーブルtbl_type2[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｘもしくは特性値Yを求めるための関数であり、以下の値を持つ。

　tbl_type2[]={0, 1, 3, 2}
　続いて、フィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0～3、Y=0～3が復号される。

　alf_first_split_type=2の場合には、初期分割では原特性空間を田の字型に分割し、初期分割で得られる部分領域を、さらに再分割において分割する。このように、特性値Ｘの算出方法を、原特性値（ｘ、ｙ）の関数とすることにより、１次元的な特性値Ｘにおいて、原特性空間（ｘ、ｙ）での２次元的な隣接関係を表現した初期分割を行うことができる。

　alf_first_split_type=3の場合には、AlfNumFirstSplit=3かつAlfNumSecondSplit=3であり、
　X = tbl_type3[y/RH]
　Y = tbl_type3[x/RW]
により、特性値を求める。

　ここで、テーブルtbl_type3[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｘもしくは特性値Yを求めるための関数であり、以下の値を持つ。

　tbl_type3[]={0, 1, 1, 2}
　続いて、フィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0～2、Y=0～2が復号される。

　alf_first_split_type=3の場合には、原特性値(x, y)の分割数よりも少ない数の分割数である特性値(X, Y)にまとめるテーブルtbl_type3[]を用いることにより、画面の中央部分をマージすることができる。

　なお、
　AlfNumFirstSplit=4
　AlfNumSecondSplit=4
　特性値X= y/RH
　特性値Y= x/RW
とすれば、構成例２のalf_first_split_type=2と同じ分割方法を実現することが可能である。すなわち、構成例３においても、構成例２で実現可能な手法と同じ手法を実現することができる。
（構成例３の別の構成例）
　図４２は、構成例３の別の構成例における分割を示す模式図である。構成例３の別の構成例では、構成例３と同じく図３３に示すフィルタパラメータＦＰのシンタックスを用いる。

　tbl_type1[]={0, 3, 4, 7, 1, 2, 5, 6}
　動画像復号装置の備えるフィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0～1、Y=0～7が復号される。

　alf_first_split_type=2の場合には、AlfNumFirstSplit=2かつAlfNumSecondSplit=8であり、以下の式
　X = x/(RW*2)
　Y = tbl_type1b[(x%RW)+ (y%RH)*2]
により、特性値を求める。

　ここで、テーブルtbl_type1b[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｙを求める関数であり、以下の値をもつ。

　tbl_type1b[]={0, 1, 3, 2, 4, 5, 7, 6}
　動画像復号装置の備えるフィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0～1、Y=0～7が復号される。

　alf_first_split_type=3の場合には、AlfNumFirstSplit=2かつAlfNumSecondSplit=8であり、以下の式
　X = {(y + RY) /(RY*2)} % 2
　Y = tbl_type1[(x%RW)+ (y%RH)*4]
により、特性値を求める。

　動画像復号装置の備えるフィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0～1、Y=0～7が復号される。

　また、さらにalf_first_split_type=4の場合を備えていても良い。alf_first_split_type=4の場合には、alf_first_split_type=4の場合には、AlfNumFirstSplit=1かつAlfNumSecondSplit=16であり、以下のように原特性値(x, y)を求めた後、特性値(X, Y)を求める。

　x = 0
　y = ActIdx（16段階）
なお、16段階のActIdxは、ActIdx = max3(0, 15, ACT / (M*N*16))により求める。ここで、max3(x, y, z)はzをx以上、y以下にクリップする関数である。

　alf_feature_mode3が1である場合には、原特性値(x, y)は以下を用いる。

　x = 0
　y = y座標 / RH　（16段階）
　このように求めた原特性値を用いて、以下の式
　X = 0
　Y = y
により特性値を求める。

　動画像復号装置の備えるフィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0、Y=0～15が復号される。

　alf_first_split_type=4の場合のように、２次元である原特性値のうち、１次元のみを用いるモードを備えても良い。特徴空間分割では１次元の分割で用いる特性値として活性度が好ましく、座標空間分割ではy座標が好ましい。

　以上の構成例３では、特性値算出方法をalf_first_split_type依存とすることにより、構成例１、構成例２と同様に、特性値Ｘの軸において初期分割を行い、特性値Ｙの軸において１次元分割を行うという単純な分割方法を保ったまま、原特性値空間において自由度の高い分割ができる。具体的には、原特性値空間での初期分割の自由度をあげることができ、さらに、１次元分割におけるスキャン順の自由度をあげることができる。

　すなわち、２次元的な原特性値（ｘ、ｙ）から、２次元的な特性値（Ｘ、Ｙ）を求め、その関係を初期分割alf_first_split_type依存とすることにより、特性値Ｙ、特性値Ｘの順に１次元的に復号するような簡便なフィルタ係数復号処理によって、田の字分割に代表されるような原特徴空間上での自由度の高い初期分割を行うことができる。また、１次元分割において、原特徴空間上の近傍関係をある程度保存した一筆書き状のスキャン順を実現することができる。また、原特性値（ｘ、ｙ）から特性値（Ｘ、Ｙ）を算出する関数をＮ対Ｍ（但しＮ＜Ｍ）対応の関数とすれば、容易に原特性値中の領域のマージが可能である。また、これらは原特性値が、活性度や角度など復号画像から算出した値だけでなく、座標から算出した場合にも、フィルタ係数復号処理を変更することなく、同様に適用することができる。

　＜構成例４＞
　続いて、フィルタパラメータＦＰの第４の構成例について説明する。本構成例は、初期分割は行わず、分割方法のみを符号化する方法である。図４３は、本構成例に係るフィルタパラメータＦＰのシンタックスである。図４３に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_feature_mode、alf_merge_type、及び、alf_filter_pattern[j]が含まれている。図４４は、本構成例における分割を示す模式図である。またAlfNumSplit=16とする。フィルタ係数復号部ではalf_merge_typeを復号する。alf_merge_typeは、構成例３におけるalf_first_split_typeに相当する。構成例３ではalf_first_split_typeは初期分割と再分割の両者に影響を与えるシンタックスであったが、構成例４では初期分割を行わないため、後者の分割（構成例３の再分割に相当）のみに影響を与えるシンタックスである。

　alf_merge_type=0の場合には、以下の式
　X = 0
　Y = tbl_type40[(x%RW)+ (y%RH)*4]
により、特性値を求める。

　ここで、テーブルtbl_type40[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｙを求める関数であり、以下の値をもつ。

　tbl_type40[]={0, 1, 2, 3, 7, 6, 5, 4, 8, 9, 10, 11, 15, 14, 13, 12}
　続いて、フィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0、Y=0～15が復号される。

　alf_merge_type=1の場合には、以下の式
　X = 0
　Y = tbl_type41[(x%RW)+ (y%RH)*4]
により、特性値を求める。

　ここで、テーブルtbl_type41[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｙを求める関数であり、以下の値をもつ。

　tbl_type41[]={0, 1, 2, 3, 15, 10, 9, 4, 14, 11, 8, 5, 13, 12, 7, 6}
　続いて、フィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0、Y=0～15が復号される。

　alf_merge_type=2の場合には、以下の式
　X = 0
　Y = tbl_type42[(x%RW)+ (y%RH)*4]
により、特性値を求める。

　ここで、テーブルtbl_type42[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｙを求める関数であり、以下の値をもつ。

　tbl_type42[]={0, 15, 14, 13, 1, 2, 11, 12, 4, 3, 10, 9, 5, 6, 7, 8}
　続いて、フィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0、Y=0～15が復号される。

　alf_merge_type=3の場合には、以下の式
　X = 0
　Y = tbl_type43[(x%RW)+ (y%RH)*4]
により、特性値を求める。

　ここで、テーブルtbl_type43[k]は、原特性空間でのラスタ順に定められたアドレスkから特性値Ｙを求める関数であり、以下の値をもつ。

　tbl_type43[]={0, 1, 4, 5, 15, 2, 3, 6, 14, 11, 10, 7, 13, 12, 9, 8}
により、特性値を求める。

　続いて、フィルタ係数復号部では、AlfRegionFilterCoeff[X][Y]、X=0、Y=0～15が復号される。

　以上の構成においては、分割方法を定めるalf_merge_typeによって、原特性値から特性値を算出する関数を変更する。初期分割を行わない場合においても、原特性値空間において様々な方向へのマージを可能とする分割を行うことができる。また、構成例４は、特性値Ｘ軸への分割を行わず（特性値Ｘは常に０）、特性値Ｙ軸による分割を行う構成において、原特性値（x,y）から特性値Ｙへの関数を複数備えることによって、原特性値における２次元空間の特徴を活かしたマージを行う。また、この例では、alf_merge_typeによらず特性値Ｙは１６段階としているが、alf_merge_typeに応じて特性値Ｙの段階数（＝AlfNumSplitの数）を変更する構成としても良い。

　＜構成例５＞
　続いて、フィルタパラメータＦＰの第５の構成例について説明する。本構成例では、座標空間分割及び特徴空間分割が行なわれる。

　図３５は、本構成例に係るフィルタパラメータＦＰのシンタックスである。図３５に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_block_mode_flag、alf_feature_mode、alf_feature_mode2、alf_first_split_num_minus1、及び、alf_filter_pattern[j]が含まれている。

　alf_block_mode_flagは、特徴空間分割を行なうのか、座標空間分割を行なうのかを指定するシンタックスである。

　alf_block_mode_flag＝０である場合には、特徴空間分割であるので、alf_feature_modeを復号する。その後、上述した構成例１に従って処理を行う。

　alf_block_mode_flag＝１である場合には、座標空間分割であるので、alf_feature_mode2を復号する。その後、構成例２に従って処理を行う。

　なお、ここではalf_horiz_split_num_minus1、alf_vert_split_num_minus1を復号せず、NH=NV=４であるものとしたが、上述の構成例のように、最大分割数を明示的に符号化してもかまわない。

　本実施形態に示すように、符号化データ中のシンタックスalf_block_mode_flagを用いて、原特性空間のタイプ、この例では、特徴空間分割を行うのか、座標空間分割を行うのかを識別し、さらに、原特徴空間のタイプが区別された上で、さらに原特性空間のタイプ別に定まる、符号化データ中のシンタックス（alf_feature_modeもしくはalf_feature_mode2）を用いて最終的な特性値の算出方法を定めても良い。

　＜構成例６＞
　図３８は、本構成例に係るフィルタパラメータＦＰを復号する際の特性値領域の分割の態様を示す図である。本構成例においては、特性値領域は、初期分割及び再分割の双方において四分木分割される。

　（動画像復号装置５）
　本実施形態に係る動画像復号装置５は、実施形態１に係る動画像復号装置１の備える適応フィルタ５０に代えて、適応フィルタ９０を備えている。本実施形態に係る動画像復号装置５のその他の構成は、実施形態１に係る動画像復号装置１の構成と同様であるので、説明を省略する。

　（適応フィルタ９０）
　図３６は、適応フィルタ９０の構成を示すブロック図である。図３６に示すように、適応フィルタ９０は、適応フィルタ情報復号部９１及び適応フィルタ部９２を備えている。

　適応フィルタ情報復号部９１は、図３６に示すように、領域別タップ数復号部９１１、領域構造復号部９１２、特徴量モード復号部９１３、フィルタ係数復号部９１４、特性別フィルタ係数格納部９１５を備えている。

　領域別タップ数復号部９１１は、フィルタパラメータＦＰに含まれるシンタックスalf_length_luma_minus5_div2[i]（０≦ｉ＜AlfNumFirstSplit）を復号する。復号されたシンタックスalf_length_luma_minus5_div2[i]は、特性値部分領域ＣＰＲ［ｉ］に割り付けられると共に、フィルタ係数復号部９１４に供給される。

　領域構造復号部９１２は、フィルタパラメータＦＰに含まれるシンタックスalf_first_split_type及びalf_filter_pattern[j]を復号する。復号されたシンタックスalf_first_split_type及びalf_filter_pattern[j]は、フィルタ係数復号部９１４に供給される。また、適応フィルタ９０が、本実施形態の＜構成例２＞で示したフィルタパラメータＦＰを復号する場合には、復号されたシンタックスalf_first_split_typeは、それぞれ、第１特性値算出部９２１及び第２特性値算出部９２２に供給される（矢印不図示）。

　特徴量モード復号部９１３は、シンタックスalf_feature_modeを復号する。復号されたシンタックスalf_feature_modeは、フィルタ係数復号部９１４に供給される。

　フィルタ係数復号部９１４は、alf_length_luma_minus5_div2[i]、alf_filter_pattern[j]、及びalf_first_split_typeを参照して、シンタックスalf_coeff_luma[i][j][k]を復号する。また、フィルタ係数復号部９１４は、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを、以下の式を用いて算出する。

　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[i][j-1][k] + alf_coeff_luma[i][j][k] (j=0以外の場合)
　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma[i][0][k] (j=0の場合)
上記の式から明らかなように、フィルタ係数復号部９１４は、分割単位ＤＵ[i][j-1]について復号済みのフィルタ係数群AlfRegionFilterCoeff[i][j-1][k]を予測値に設定し、当該予測値に対して、alf_coeff_luma[i][j][k]を加算（又は減算（上式の符号を反転させたものに対応））することによって、分割単位ＤＵ[i][j]についてのフィルタ係数群AlfRegionFilterCoeff[i][j][k]を復号する。

　特性別フィルタ係数格納部９１５には、フィルタ係数復号部９１４によって復号されたフィルタ係数群RegionFilterLuma[i][j][k]が格納される。

　一方で、適応フィルタ部９２は、図３６に示すように、第１特性値算出部９２１、第２特性値算出部９２２、フィルタ係数割り付け部９２３、及びフィルタ部９２４を備えている。

　第１特性値算出部９２１及び第２特性値算出部９２２は、それぞれ、対象単位領域についての特性値Ｘ及び特性値Ｙを算出する。算出された特性値Ｘ及びＹは、フィルタ係数割り付け部９２３に供給される。特性値Ｘ及び特性値Ｙの算出方法については、フィルタパラメータＦＰの構成例において説明を行なったので、ここでは説明を省略する。

　フィルタ係数割り付け部９２３は、対象単位領域に割り付けられた特性値領域内インデックス（ｉ、ｊ）に対応するフィルタ係数RegionFilterLuma[i][j]を、特性別フィルタ係数格納部９１５から読み出し、読み出したフィルタ係数RegionFilterLuma[i][j]を、当該対象単位領域に割り付ける。対象単位領域に割り付けられたフィルタ係数RegionFilterLuma[i][j]は、フィルタ部９２４に供給される。

　フィルタ部９２４は、対象単位領域に対して、フィルタ係数RegionFilterLuma[i][j]を用いたフィルタ処理を施すことによって、該対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ１５に格納される。フィルタ部９２４による具体的な処理は、実施形態１におけるフィルタ部５２５と同様であるためここでは説明を省略する。

　（動画像符号化装置６）
　以下では、符号化対象画像を符号化することによって符号化データ＃５を生成する動画像符号化装置６について、図３７を参照して説明する。なお、以下では、既に説明した部分については、同じ文言および同じ符号を用い、その説明を省略する。

　本実施形態に係る動画像符号化装置６は、実施形態１に係る動画像符号化装置２の備える適応フィルタ６０に代えて、適応フィルタ１００を備えている。本実施形態に係る動画像符号化装置６のその他の構成は、実施形態１に係る動画像符号化装置２の構成と同様であるので、説明を省略する。

　適応フィルタ１００は、デブロック済復号画像Ｐ＿ＤＢに対して、適応的フィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ２４に格納される。また、適応フィルタ１００は、フィルタ処理に用いた各種の適応フィルタ情報をフィルタパラメータＦＰとして可変長符号符号化部２２に供給する。可変長符号符号化部２２は、フィルタパラメータＦＰを符号化データ＃５の一部として符号化する。

　図３７は、適応フィルタ１００の構成を示すブロック図である。図３７に示すように、適応フィルタ１００は、適応フィルタ情報設定部１０１、および、適応フィルタ部１０２を備えている。

　適応フィルタ情報設定部１０１は、図３７に示すように、領域別タップ数設定部１０１１、領域構造設定部１０１２、特徴量モード設定部１０１３、フィルタ係数残差生成部１０１４、特性別フィルタ係数格納部１０１５、及び、フィルタパラメータ生成部１０１６を備えている。

　領域別タップ数設定部１０１１は、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ］についてのタップ数を指定するためのシンタックスalf_length_luma_minus5_div2[i]を設定する。設定されたシンタックスalf_length_luma_minus5_div2[i]は、フィルタパラメータ生成部１０１６に供給される。

　領域構造設定部１０１２は、alf_first_split_type及びalf_filter_pattern[j]を設定する。設定されたシンタックスalf_first_split_type及びalf_filter_pattern[j]は、フィルタ係数残差生成部１０１４に供給される。また、適応フィルタ１００が、本実施形態の＜構成例２＞で示したフィルタパラメータＦＰを生成する場合には、設定されたシンタックスalf_first_split_typeは、それぞれ、第１特性値算出部９２１及び第２特性値算出部９２２に供給される（矢印不図示）。

　特徴量モード設定部１０１３は、シンタックスalf_feature_modeを設定する。設定されたシンタックスalf_feature_modeは、フィルタパラメータ生成部１０１６に供給される。

　なお、alf_length_luma_minus5_div2[i]、alf_first_split_type、及び、alf_filter_pattern[j]、は、符号化効率がより向上するように設定される。

　フィルタ係数残差生成部１０１４は、以下の式によってシンタックスalf_coeff_luma[i][j][k]を生成する。

　alf_coeff_luma[i][j][k] = AlfRegionFilterCoeff[i][j-1][k] - AlfRegionFilterCoeff[i][j][k] (j=0以外の場合)
　alf_coeff_luma[i][0][k] = AlfRegionFilterCoeff[i][j][k] (j=0の場合)
　生成されたフィルタ係数残差alf_coeff_luma[i][j][k]はフィルタパラメータ生成部１０１６に供給される。

　特性別フィルタ係数格納部１０１５には、後述するフィルタ係数導出部１０２３から供給されるフィルタ係数群AlfRegionFilterCoeff[i][j][k]が格納される。

　フィルタパラメータ生成部１０１６は、シンタックスalf_length_luma_minus5_div2[i0]、alf_filter_pattern[j]、alf_first_split_type、および、alf_coeff_luma[i][j][k]からフィルタパラメータＦＰを生成する。生成されたフィルタパラメータＦＰは、可変長符号符号化部２２に供給される。

　一方で、適応フィルタ部１０２は、第１特性値算出部９２１、第２特性値算出部９２２、フィルタ係数導出部９２３、及び、フィルタ部９２４を備えている。

　フィルタ係数導出部１０２３は、対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬと符号化対象画像との誤差がより小さくなるようなフィルタ係数RegionFilterLuma[i][j]を導出する。導出されたフィルタ係数RegionFilterLuma[i][j]は、フィルタ部９２４に供給されると共に、特性別フィルタ係数格納部１０１５に格納される。

　フィルタ係数導出部１０２３によるフィルタ係数群RegionFilterLuma[i][j]の導出処理は、実施形態１におけるフィルタ係数導出部６２４と同様であるので、ここでは説明を省略する。

　〔実施形態４〕
　以下では、本発明の第４の実施形態について図４５～図６８を参照して説明する。

　本実施形態に係る適応フィルタは、実施形態１～３と同様に、フィルタ前画像（例えば、デブロック済復号画像Ｐ＿ＤＢ）を構成する各単位領域について、互いに導出方法の異なる２つの特性値を導出し、導出された２つの特性値に応じて、各単位領域を１または複数のグループの何れかに分類する。また、本実施形態に係る適応フィルタは、単位領域毎に定められたフィルタ係数を用いて、フィルタ前画像に対して単位領域毎に作用する。

　また、実施形態１～３と同様に、各グループは、２つの特性値によって張られる２次元領域上に設定される各部分領域と１対１の対応を有する。したがって、上記２次元領域をどのように各部分領域へ分割するのかを指定することにより、１または複数のグループをどのように設定するかが定まることになる。また、導出された２つの特性値のうち、一方を第１の特性値Ｘと呼び、もう一方の特性値を第２の特性値Ｙと呼ぶ。なお、実施形態１～３と同様に、上記２つの特性値によって張られる２次元領域を特性値領域とも呼称し、特性値領域上に設定される各部分領域を特性値部分領域とも呼称する。

　（部分空間の分類）
　以下の説明では、特性値の組み合わせとして、座標空間分割と特徴空間分割を用いる。特性空間分割の場合には、以下の特性値を用いる。

　・第１の特性値Ｘ：画像の活性度、第２の特性値Ｙ：画像の方向性
座標空間分割の場合には、以下の特性値を用いる。

　・第１の特性値Ｘ：単位領域のｘ座標、第２の特性値Ｙ：単位領域のｙ座標
なお、特性空間分割の場合には、特性値Ｘに対して５段階、特性値Ｙに対して３段階に分割する。座標空間分割の場合には、特性値Ｘに対して４段階、特性値Ｙに対して４段階に分割する。

　本実施形態では、部分領域をマージすることによって、フィルタ係数群の符号量と、領域分割の自由度を調整するような、動画像復号装置を実現する。図４７～図５１は、部分領域のマージ例を示す図である。

　図４７は、座標空間分割の一例である。図の太線で囲まれた領域がマージによって生成される部分領域であるとする。図では、各部分領域を順にラスタスキャンで処理（スキャン）する場合において、左に隣接する部分領域（特性値Ｘが等しい部分領域）とマージする場合には左向きの矢印、上に隣接する部分領域（特性値Ｙが等しい部分領域）とマージする場合には上向きの矢印を示している。また図中の番号は、各部分領域に割り当てられたフィルタ係数インデックスであり、各部分領域を順にラスタスキャンでスキャンする場合において、新しいフィルタ係数群が割り当てられる部分領域において図示されている。図４７（ｂ）は、トップレベルから順にクアッドツリー（４分木）により分割する場合を想定している。図４７（ｂ）に示すように、各部分領域に対してラスタ順にマージするか否かを符号化／復号し、さらにマージする場合には、左に隣接する部分領域とのマージと右に隣接する部分領域とのマージを区別するフラグを符号化／復号する装置は、クアッドツリーで表現できる部分領域を取り扱うことが可能である。この例は、候補導出処理における例１において装置および方法を説明する。

　図４８は、特徴空間分割の一例である。この例も、各部分領域に対してラスタ順にマージするか否かを符号化／復号し、さらにマージする場合には、左とのマージと右とのマージを区別するフラグを符号化／復号する装置で表現可能である。

　図４９は、座標空間分割の別の例である。図４９の例では、一般のスライス分割と同様である。ラスタスキャン順に各部分領域を処理する場合において、直前に処理した部分領域とマージすることが可能であるという条件で、分割を表現する場合を想定している。この分割方法は、候補導出処理における例１の装置および方法では、表現することができず、ラスタスキャン順で一番左の列に位置する場合、すなわち左端において、ラスタスキャン順で一つ上の行の右端の領域とマージすることが必要になる。このような装置および方法は、候補導出処理における例２で説明する。

　図５０は、座標空間分割のさらに別の例である。図５０（ｇ）の図中に示した番号は、部分領域のスキャン順の一例である。１次元的に、直前にスキャンした部分領域とマージが可能であるか否かを符号化することによって、部分領域を定める場合においては、ラスタスキャンではなく図５０（ｇ）に示すように、一筆書き状のスキャン方法を用いることが適当である。このような場合の表現を行うためには、図５０（ａ）から（ｆ）に示す、隣接関係の組み合わせが表現できれば良い。ラスタスキャン順に左と上とのマージ選択を行う方法は、図５０（ａ）～図５０（ｅ）は表現できるけれども、図５０（ｆ）は表現できない。図５０（ｆ）の太線の矢印で示すマージを選択肢として用いる方法を、候補導出処理における例３で説明する。候補導出処理における例３の例では一筆書き状のマージが可能である。

　図５１は、座標空間分割のさらに別の例である。図５１の図中に示した番号は、部分領域のフィルタ係数インデックスである。特に太字で示す番号の部分領域は、ラスタスキャン順に復号する際に新しい係数を復号するブロックに対応し、太字でない番号で示す部分領域は、新しい係数を復号することなく、既に復号された領域とマージを行うブロックである。図４７～図５０の例では、マージを行う部分領域においては、特性値Ｘが等しい隣接する部分領域（ラスタスキャン順で左側の部分領域）、特性値Ｙが等しい隣接する部分領域（ラスタスキャン順で上側の部分領域）、もしくは、スキャン順（処理順）で直前の部分領域、もしくは、特性値Ｘと特性値Ｙが１つだけ異なる部分領域（ラスタスキャン順で右上領域）を、マージ対象としていたが、候補選択インデックスがマップ構成の場合には他の部分領域のフィルタ係数群も選択することができる。例えば、図５１において、フィルタ係数インデックスが１の領域のように、飛び地の領域を選択することが可能である。このマージ方法は、マップ構成のフィルタパラメータの構成と復号処理、および、候補導出処理の例４で説明する。マップ構成では、クアッドツリー状のマージ、スライス状のマージ、一筆書き状のマージの全てが表現可能である。

　なお、図４９～図５１の例は座標空間分割に適用しているが、特徴空間分割にも適用可能である。

　（符号化データ＃５）
　本実施形態に係る動画像符号化装置６によって生成され、動画像復号装置５によって復号される符号化データ＃５のデータ構造は、実施形態１に係る符号化データ＃１のデータ構造と略同じであるが、フィルタパラメータＦＰの構成が異なる。フィルタパラメータＦＰの構成については、以下の例にて詳述する。なお、フィルタパラメータＦＰに含まれるシンタックスのうち、実施形態１～３において既に説明したシンタックスについては説明を省略する。

　＜フィルタパラメータの基本構成＞
　図５２は、本実施形態に係るフィルタパラメータＦＰ（図５２においてalf_param()と表記）に含まれる各シンタックスを示すシンタックステーブルである。図５２に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_feature_mode、alf_num_filters_minus1が含まれている。第４の実施形態では、alf_feature_mode=0が座標空間分割、alf_feature_mode=1が特徴空間分割である。特性値Ｘの段階数がＮＸ、特性値Ｙの段階数がＮＹである。図５２に示すように、特性値Ｘと特性値Ｙに対してラスタスキャン順にシンタックステーブルalf_coeff_param(i, j)で示す処理を繰り返すことによって、符号化データから、特性値Ｘ、特性値Ｙに対するフィルタ係数AlfRegionFilterCoeff[X][Y][k]を順に復号する。なお、alf_coeff_param(i, j)で示す処理に関しては、マージ構成、予測／マージ構成、マップ構成、１次元マージ構成の４つを説明する。

　＜マージ構成のフィルタパラメータの構成と復号処理＞
　まず、シンタックステーブルalf_coeff_paramの第１の構成とその復号処理を説明する。

　図５３は、フィルタパラメータＦＰ（図５２においてalf_coeff_param()と表記）における第１の構成のシンタックスを示すシンタックステーブルである。第１の構成をマージ構成と呼ぶ。図５３に示すように、シンタックステーブルには、alf_new_filter、alf_merge_idxが含まれている。

　alf_new_filterは、新規フィルタを復号するか否かを示すシンタックスである。

　alf_merge_idxは、マージ候補が複数個ある場合において、マージ候補から使用するマージ対象を選択する候補選択シンタックスである。

　以下、図５３のシンタックステーブルを参照して、復号処理を説明する。

　図５３に示すように、新規フィルタ係数フラグを復号する場合、すなわち、残りフィルタ数remainが０以上である場合には、alf_new_filterの復号を行うと共に、残りフィルタ数remainを１だけ減算（デクリメント）する。

　なお、新規フィルタ係数フラグを復号するか否かの判定は、残りフィルタ数remainを用いる方法の他、新規フィルタ係数群を復号する度に１だけ加算するカウンタと、フィルタ係数群の数を比較することによっても行うことができる。後述のフィルタ係数インデックスidxの現在値はカウンタに相当するため、このidxを用いて判定することができる。具体的にはidxがalf_num_filters_minus1よりも小さい場合には、新規フィルタ係数フラグを復号し、小さくない場合には、新規フィルタ係数フラグを復号しない。この判定は、後述の図５３、図５４、図５５、図５６に示すシンタックステーブルalf_coeff_paramの第２～第４の構成、図６７にも適用することができる。

　新規フィルタ係数を復号する場合、すなわち、alf_new_filterが1である場合もしくは、インデックスｉ、インデックスｊが共に０である場合には、シンタックステーブルalf_coeff_set_luma(i, j, si , sj) で示す処理を行い、フィルタ係数群を符号化データから復号する。alf_coeff_set_lumaの処理は、実施形態３で説明済みであるので説明を省略する。フィルタ係数を復号した時点で、各部分領域に対するフィルタ係数インデックスalf_coeff_luma_id[i][j]を設定する。フィルタ係数インデックスは、各部分領域のフィルタ係数群を識別するためのインデックスであり、同じフィルタ係数群には同じ値のインデックスが割り振られる。復号する度に、idx = idx + 1の式で示すように、インデックスは１だけ加算（インクリメント）する。

　逆に、新規フィルタ係数を復号しない場合、すなわち、alf_new_filterが０であり、かつ、インデックスｉ、インデックスｊが共に０ではない場合には、フィルタ係数群を符号化データから復号せず、既に復号されたフィルタ係数群からコピーすることによって、フィルタ係数群を算出する。この場合、ある部分領域が別の部分領域と同じフィルタ係数を用いることになるため、部分領域同士がマージされている。ここで、マージ候補数NumAlfMergeCand(i, j)が１より大きい場合には、マージ候補識別インデックスalf_merge_idx[i][j]を符号化データから復号する。NumAlfMergeCand(i, j)の処理の詳細は後述する。さらに、マージ候補識別インデックスが復号された後に、DeriveAlfMergeIdx(i, j, si, sj)で、マージ元の部分領域のインデックスsi, sjを算出する。続いて、alf_coeff_copy_luma(i, j, si, sj)の処理を行うことで、マージ元の部分領域si, sjから、復号対象である部分領域i,jのフィルタ係数のコピーを行う。

　なお、新規フィルタを復号するか否かを示すシンタックスalf_new_filterを、マージを行うか否かを示すシンタックスalf_merge_flagに置き換えることができる。新規フィルタを復号する場合は、対象部分領域がマージされないことを意味し、新規フィルタを復号しない場合とは、対象部分領域がマージされることを意味する。よって、alf_new_filterが1である場合もしくは、インデックスｉ、インデックスｊが共に０である場合とは、alf_merge_flagが0である場合、もしくは、インデックスｉ、インデックスｊが共に０である場合に置き換えられる。この場合、シンタックステーブルの
　　if (alf_new_filter || (i == 0 && j == 0)) {
の行は
　　if (alf_merge_flag == 0 || (i == 0 && j == 0)) {
とする。

　この置き替えは、後述の図５３、図５４、図５５、図５６に示すシンタックステーブルalf_coeff_paramの第２～第４の構成、図６７にも適用することができる。

　なお、符号化データ中のフィルタ係数群alf_coeff_lumaは、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを予測符号化して得られるものであることが可能である。例えば、alf_coeff_lumaは、隣接するフィルタ係数群間の予測差分（差分値）として符号化することができる。実施形態４では、図６５に示すものを用いる。

　図６５に示す処理alf_coeff_set_lumaでは、符号化データより、差分値であるフィルタ係数群alf_coeff_luma[X][Y][k]を復号した後、以下の式から、予測値との差分をとることによってフィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを算出する。

　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma[i][j][k]; (i=0かつj=0の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[si][sj][k] -　alf_coeff_luma[i-1][j][k] (それ以外)
　上記処理を、図６３のフローチャートを用いて説明する。ステップＳ１００ではフィルタ係数の数を復号する。さらにフィルタ係数の数－１を、残りフィルタ数remainに設定する。
ループＳ１０１は、部分領域の２次元インデックスｉ、ｊに関するループで有り、インデックスｉに関して０からＮＹ－１、インデックスｊに関して０からＮＸ－１に対してＳ１０２からＳ１０９のステップのループ処理を行う。このループ処理により、部分領域ｉ、ｊのフィルタ係数群AlfRegionFilterCoeffが復号される。

　ステップＳ１０２では、残りフィルタ数remainが０より大きいか否かを判定する。残りフィルタ数remainが０より大きい場合にはステップＳ１０３に遷移する。ステップＳ１０３では、新規フィルタフラグalf_new_filterを復号する。続く、Ｓ１０４では新規フィルタが存在するか否かの判定を行う。新規フィルタが存在する場合とは、alf_new_filterが１である場合と、最初の部分領域を復号する場合（インデックスｉ、インデックスｊが共に０である場合）であり、この時、Ｓ１０５に遷移する。Ｓ１０５では、フィルタ係数群を符号化データから復号する。続く、Ｓ１０６では、残りフィルタ数remainから１だけ減算（デクリメント）する。新規フィルタが存在しない場合には、ステップＳ１０７に遷移する。Ｓ１０７では、マージ候補が１個より大きいか否かを判定する。マージ候補が１個よりも大きい場合にはＳ１０８に遷移する。Ｓ１０８では、マージ候補インデックスalf_merge_idxを復号する。続いてステップＳ１０９において、部分領域のｉ、ｊによって定まる、もしくは、マージ候補インデックスで指定されたマージ元のフィルタ係数群を、部分領域ｉ、ｊのフィルタ係数群にコピーする。

　なお、新規フィルタを復号するか否かを示すシンタックスalf_new_filterを、マージを行うか否かを示すシンタックスalf_merge_flagに置き換える場合には、以下の置き換えを行う。
・Ｓ１０２において、「新規フィルタを復号する？」を、「マージフラグを復号するか否か？」に置き換える。
・Ｓ１０３において、新規フィルタフラグ復号を、マージフラグ復号に置き換える。
・Ｓ１０４において、「新規フィルタ？」を、「マージフラグが０であるか否か？」に置き換える。

　以上の構成によって、フィルタ係数の数を復号し、新規フィルタフラグの復号を制御することにより、新規フィルタフラグの符号量を抑えることができる。また、フィルタ係数の数をシンタックスによって指定することによって、明示的にフィルタ係数群の数を制限することができる。フィルタ係数群の数を制限すると、復号装置で用いるフィルタ係数バッファの数を抑えることができるため、復号装置の複雑度を低減することができる。これは、後述の図５３、図５４、図５５、図５６に示すシンタックステーブルalf_coeff_paramの第２～第４の構成、図６７に共通する特徴である。

　特性値の種類が座標空間分割であるか特徴空間分割によらず、特性値Ｘに対するマージ（左に隣接する部分領域とマージ）、特性値Ｙに対するマージ（上に隣接する部分領域とマージ）を切り替えることによって、部分領域を高い自由度でマージすることができる。

　＜予測／マージ構成のフィルタパラメータの構成と復号処理＞
　図５４は、フィルタパラメータＦＰ（図５２においてalf_coeff_param()と表記）の第２の構成を示す。第２の構成では、第１の構成と異なり、シンタックステーブルにはalf_merge_idxの代わりにalf_pred_merge_idxが含まれている。第２の構成を予測／マージ構成と呼ぶ。

　alf_pred_merge_idxは、予測／マージ候補が複数個ある場合において、予測／マージ候補から使用する予測／マージ対象を選択する候補選択シンタックスである。

　以下、図５４のシンタックステーブルを参照して、復号処理を説明する。図５４に示すように、残りフィルタ数remainが０以上である場合には、alf_new_filterの復号を行うと共に、残りフィルタ数remainを１だけ減算（デクリメント）する。

　続いて、予測／マージ候補数NumAlfPredMergeCand(i, j)が１より大きい場合には、予測／マージ候補識別インデックスalf_pred_merge_idx[i][j]を符号化データから復号する。NumAlfPredMergeCand(i, j)の処理の詳細は後述する。さらに、予測／マージ候補識別インデックスが復号された後に、DerivePredMergeIdx(i, j, si, sj)で、予測元／マージ元の部分領域のインデックスsi, sjを算出する。

　新規フィルタ係数を復号する場合、すなわち、alf_new_filterが1である場合もしくは、インデックスｉ、インデックスｊが共に０である場合には、シンタックステーブルalf_coeff_set_luma(i, j, si , sj) で示す処理を行い、フィルタ係数群を符号化データから復号する。復号では、DerivePredMergeIdx(i, j, si, sj)で算出された予測元を用いる。フィルタ係数を復号した時点で、各部分領域に対するフィルタ係数インデックスalf_coeff_luma_id[i][j]を設定する。

　逆に、新規フィルタ係数を復号しない場合、すなわち、alf_new_filterが０であり、かつ、インデックスｉ、インデックスｊが共に０ではない場合には、フィルタ係数群を符号化データから復号せず、既に復号されたフィルタ係数群からコピーすることによって、フィルタ係数群を算出する。alf_coeff_copy_luma(i, j, si, sj)の処理を行うことで、マージ元の部分領域si, sjから、復号対象である部分領域i,jのフィルタ係数群のコピーを行う。

　なお、新規フィルタを復号するか否かを示すシンタックスalf_new_filterを、マージを行うか否かを示すシンタックスalf_merge_flagに置き換えることができる。この場合、シンタックステーブルの
　　if (alf_new_filter || (i == 0 && j == 0)) {
の行は
　　if (alf_merge_flag == 0 || (i == 0 && j == 0)) {
とする。

　上記処理を、図６４のフローチャートを用いて説明する。ステップＳ２００ではフィルタ係数の数を復号する。さらにフィルタ係数の数－１を、残りフィルタ数remainに設定する。ループＳ２０１は、部分領域の２次元インデックスｉ、ｊに関するループで有り、インデックスｉに関して０からＮＹ－１、インデックスｊに関して０からＮＸ－１に対してＳ２０２からＳ２０９のステップのループ処理を行う。このループ処理により、部分領域ｉ、ｊのフィルタ係数群AlfRegionFilterCoeffが復号される。

　ステップＳ２０７では、予測／マージ候補が１個より大きいか否かの判定を行い、予測／マージ１個より大きい場合には、Ｓ２０８において、予測／マージ候補インデックスalf_pred_merge_idxを復号する。

　ステップＳ２０２では、残りフィルタ数remainが０より大きいか否かを判定する。残りフィルタ数remainが０より大きい場合にはステップＳ２０３に遷移する。ステップＳ２０３では、新規フィルタフラグalf_new_filterを復号する。続く、Ｓ２０４では新規フィルタが存在するか否かの判定を行う。新規フィルタが存在する場合とは、alf_new_filterが１である場合と、最初の部分領域を復号する場合（インデックスｉ、インデックスｊが共に０である場合）には、Ｓ２０５に遷移する。Ｓ２０５では、フィルタ係数を符号化データから復号する。続くＳ２０６では、残りフィルタ数remainから１だけ減算（デクリメント）する。Ｓ２０４の判定において、新規フィルタが存在しない場合には、ステップＳ２０９に遷移する。Ｓ２０９では、予測／マージ候補インデックスalf_pred_merge_idxで定まるマージ元のフィルタ係数群を、部分領域ｉ、ｊのフィルタ係数群にコピーする。

　なお、新規フィルタを復号するか否かを示すシンタックスalf_new_filterを、マージを行うか否かを示すシンタックスalf_merge_flagに置き換える場合には、以下の置き換えを行う。
・Ｓ２０２において、「新規フィルタを復号する？」を、「マージフラグを復号するか否か？」に置き換える。
・Ｓ２０３において、新規フィルタフラグ復号を、マージフラグ復号に置き換える。
・Ｓ２０４において、「新規フィルタ？」を、「マージフラグが０であるか否か？」に置き換える。

　以上の構成によって、特性値Ｘ方向および特性値Ｙ方向を選択肢に含む、候補選択インデックスを復号することによって、マージにおいては、部分領域を高い自由度でマージすることができる。予測においても、フィルタ予測残差の符号量が小さくなる予測値となる部分領域を選択することが可能であるため、フィルタ係数の符号量を低減することができる。第１の構成では、フィルタ係数を復号する際に用いる予測元を符号化データから復号することによって、フィルタ係数の符号量を低減する。予測元とマージ元を同一のシンタックスを用いることによって、復号処理を簡略化することができる。

　＜マップ構成のフィルタパラメータの構成と復号処理＞
　図５５は、フィルタパラメータＦＰ（図５２においてalf_coeff_param()と表記）の第３の構成を示す。第３の構成をマップ構成と呼ぶ。第３の構成では、シンタックステーブルにはalf_pred_idxとalf_merge_idxが含まれている。

　alf_pred_idxは、予測候補が複数個ある場合において、予測候補から使用する予測対象を選択する候補選択シンタックスである。このシンタックスは、候補導出処理の例１～例３の何れかを使用する。

　alf_merge_idxは、予測候補が複数個ある場合において、マージ候補から、使用するマージ対象を選択する候補選択シンタックスである。このシンタックスは、候補導出処理の例４を使用する。

　以下、図５５のシンタックステーブルを参照して、復号処理を説明する。図５５に示すように、残りフィルタ数remainが０以上である場合には、alf_new_filterの復号を行うと共に、残りフィルタ数remainを１だけ減算（デクリメント）する。

　フィルタ係数をマージする場合のマージ元として用いるフィルタ係数群、及び、フィルタ係数を復号する場合の予測値として用いるフィルタ係数群は、フィルタ係数インデックスsidxを用いて設定する。ここでは直前に復号したフィルタ係数群インデックスidxを用いる。

　新規フィルタ係数を復号する場合、すなわち、alf_new_filterが1である場合もしくは、インデックスｉ、インデックスｊが共に０である場合には、まず、予測候補インデックスの数NumAlfPredCand(i, j)を求める。予測候補数が１より大きい場合には、候補選択シンタックスalf_pred_idx[i][j]を復号する。

　次にシンタックステーブルalf_coeff_set_luma(i, j, si, sj) で示す処理を行い、フィルタ係数群を符号化データから復号する。復号では、DeriveAlfPredIdx(i, j, si, sj)で算出された予測元を用いる。フィルタ係数を復号した時点で、各部分領域に対するフィルタ係数インデックスalf_coeff_luma_id[i][j]を設定する。

　逆に、新規フィルタ係数を復号しない場合、すなわち、alf_new_filterが０であり、かつ、インデックスｉ、インデックスｊが共に０ではない場合には、フィルタ係数群を符号化データから復号せず、既に復号されたフィルタ係数群からコピーすることによって、フィルタ係数群を算出する。ここでは、まず、マージ候補の数NumAlfMergeCand(i, j)を求める。マージ候補数が１より大きい場合には、候補選択シンタックスalf_merge_idx[i][j]を復号する。続いて、候補選択インデックスの値をsidxとして、alf_coeff_copy_luma(i, j, sidx)の処理を行うことで、フィルタ係数インデックスがsidxであるフィルタ係数群から、復号対象である部分領域i,jのフィルタ係数のコピーを行う。

　なお、候補選択インデックスalf_pred_idxおよびalf_merge_idxの復号においては、予測候補の数NumAlfPredCand(i, j)、マージ候補の数NumAlfMergeCand(i, j)に合わせた復号方法を用いても良い。すなわち、候補数が２個であれば１ビット、３個であれば、値０を１ビット、値１、値２を２ビットで復号する。また、一般に候補数が2^（m-1）より大
きく、2^m以下であれば、ｍビットを復号するようにしても良い。このような符号化には、例えば、候補数を最大値cMaxとする各種Truncated符号化（例えばTruncated unary符号化）を用いることができる。候補数に応じて符号化方法を切り替える（ビット数を可変とする）ことによって、候補数が少ないほど符号量を小さくすることができる。

　これまで説明した通り、マップ構成においても新規フィルタを復号するか否かを示すシンタックスalf_new_filterを、マージを行うか否かを示すシンタックスalf_merge_flagに置き換えることができる。

　なお、実施形態４のマップ構成では、alf_coeff_set_lumaとalf_coeff_copy_lumaとして図６６（ａ）、（ｂ）に示すものを用いる。

　図６６（ａ）に示す処理alf_coeff_set_lumaでは、符号化データより、差分値であるフィルタ係数群alf_coeff_luma[X][Y][k]を復号した後、以下の式から、予測値との差分をとることによってフィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを算出する。

　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma[i][j][k]; (i=0かつj=0の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff2[sidx][k] -　alf_coeff_luma[i-1][j][k] (それ以外)
　ここで、AlfRegionFilterCoeff2は、フィルタ係数インデックスsidxにおけるフィルタ係数群である。

　次の式により、フィルタインデックスdidxにおけるフィルタ係数群を格納する。

　AlfRegionCoeffLuma2[didx][k]　= AlfRegionCoeffLuma[i][j][k]
　また、図６６（ｂ）に示す処理alf_coeff__lumaでは、以下の式により、フィルタ係数インデックスsidxにおけるフィルタ係数群をコピーする。

　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff2[sidx][k]
　また、次の式により、フィルタインデックスdidxにおけるフィルタ係数群を格納する。

　AlfRegionCoeffLuma2[didx][k]　= AlfRegionCoeffLuma[i][j][k]
　以上の構成によって、候補選択インデックスを復号することによって、マージにおいては、部分領域を高い自由度でマージすることができる。予測においても、フィルタ予測残差の符号量が小さくなる予測値となる部分領域を選択することが可能であるため、フィルタ係数の符号量を低減することができる。この構成では、予測の候補選択インデックスと、マージの候補選択インデックスを別の方法で復号し、さらに、予測の候補選択インデックスの選択肢の方が、マージの候補選択インデックスの選択肢よりも小さい構成とすることで、符号化効率上で効率的な構成を可能としている。マージの候補選択インデックスの選択肢では、隣接する部分領域に限らず、既に復号されたフィルタ係数群を選択することができるため、飛び地などの自由度の高い構成が可能である。また、候補選択インデックスの復号において、先に復号されたフィルタ係数群の数に応じて、候補選択インデックスの符号化方法を変更することによって、高い自由度においても、符号量を低減することができる。

　＜１次元マージ構成のフィルタパラメータの構成と復号処理＞
　図５６は、フィルタパラメータＦＰ（図５２においてalf_coeff_param()と表記）の第４の構成のシンタックスを示すシンタックステーブルである。第４の構成を１次元マージ構成と呼ぶ。図５６に示すように、シンタックステーブルには、alf_new_filterが含まれている。

　以下、図５６のシンタックステーブルを参照して、復号処理を説明する。図５６に示すように、残りフィルタ数remainが０以上である場合には、alf_new_filterの復号を行うと共に、残りフィルタ数remainを１だけ減算（デクリメント）する。

　新規フィルタ係数を復号する場合、すなわち、alf_new_filterが1である場合もしくは、インデックスｉ、インデックスｊが共に０である場合には、シンタックステーブルalf_coeff_set_luma(i, j, sidx) で示す処理を行うことで、フィルタ係数インデックスsidxのフィルタ係数を予測値として、部分領域ｉ、jのフィルタ係数群を符号化データから復号する。フィルタ係数を復号した時点で、各部分領域に対するフィルタ係数インデックスalf_coeff_luma_id[i][j]を設定する。

　逆に、新規フィルタ係数を復号しない場合、すなわちalf_new_filterが０であり、かつ、インデックスｉ、インデックスｊが共に０ではない場合には、フィルタ係数群を符号化データから復号せず、既に復号されたフィルタ係数群からコピーすることによって、フィルタ係数群を算出する。この場合、ある部分領域が別の部分領域と同じフィルタ係数を用いることになるため、部分領域同士がマージされている。alf_coeff_copy_luma(i, j, sidx)の処理を行うことで、フィルタ係数インデックスsidxのフィルタ係数から、復号対象である部分領域i,jのフィルタ係数のコピーを行う。

　これまで説明した通り、１次元マージ構成においても新規フィルタを復号するか否かを示すシンタックスalf_new_filterを、マージを行うか否かを示すシンタックスalf_merge_flagに置き換えることができる。

　＜フィルタ係数群を先に符号化する場合のフィルタパラメータの構成と復号処理＞
　以上の説明では、新規のフィルタ係数群を特性値Ｘ、特性値Ｙに関する２次元のループ内で、alf_coef_set_lumaに従って符号化データから復号していたが、２次元のループの前に復号することが可能である。図６７は、マップ構成におけるシンタックステーブルを示す図である。図６７に示すように、alf_num_filters_minus1 + 1で示されるフィルタ係数群の数の、フィルタ係数群alf_coeff_luma2を先に復号する。ここでは１次元インデックスであるためalf_coeff_luma2としているが、実質的にはalf_coeff_lumaと同じフィルタ係数群である。２次元のループ内での処理は、他の、新規のフィルタ係数群を２次元ループ内で符号化データから復号する場合と同様であるが、符号化データから復号する関数alf_coeff_set_lumaではなく、符号化データの割り当てを行うalf_coeff_dec_luma処理に置き換える。

　図６８（ａ）に示す処理alf_coeff_dec_lumaでは、既に復号した差分値であるフィルタ係数群alf_coeff_luma2[idx][k]を用いて、以下の式から、予測値との差分をとることによってフィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを算出する。

　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma2[sidx][k]; (i=0かつj=0の場合)
　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff2[sidx][k] -　alf_coeff_luma[didx][k] (それ以外)
　なお、sidxは参照するフィルタ係数群のフィルタ係数インデックス、didxは、対象の部分領域のフィルタ係数インデックスである。

　なお、フィルタ係数群を先に符号化する場合の例として、マップ構成の例を説明したが、他の構成にも適応可能である。この場合には、上記説明のように、フィルタ係数群の数の、数のフィルタ係数群を先に復号した後に、部分領域インデックスの２次元ループ内のalf_coeff_param()に相当で、部分空間に割り当てるフィルタ係数群を復号する処理を行う。

　＜候補導出処理＞
　マップ構成で用いるマージ候補導出処理、予測／マージ構成で用いる予測／マージ候補導出処理、マップ構成で用いる予測候補導出処理を説明する。これら候補導出処理とは、ある部分領域で参照する部分領域を指定するためのインデックスを決定するための処理である。導出処理は、候補数を算出する処理と、候補選択インデックスから、参照する部分領域インデックスを算出する処理に分けられる。以下、前者の処理を、NumAlfXXXXCandで表し、後者の処理をDeriveAlfXXXXIdxで表す。XXXXの部分は、マージ候補導出処理ではMerge、予測／マージ候補導出処理ではPredMerge、予測候補導出処理ではPredに置き換える。対応する候補選択インデックスのシンタックスはalf_xxxx_idxで表現される。xxxxの部分は、マージ候補選択インデックスではmerge、予測／マージ候補選択ではpred_merge、予測候補導出処理ではpredに置き換える。マージ候補導出処理がマージのためのインデックス、予測／マージ候補導出処理は、予測／マージのためのインデックス、予測候補導出処理は、予測のためのインデックス、を求めるという違いはあるが、全て同じ処理である。すなわち、NumAlfXXXXCand、DeriveXXXXIdxは、XXXXの種類によらず、同じ動作を行う。そのため、以下の図５７～図６２では、XXXXにMergeの場合、すなわちマージ候補導出処理を説明するが、全て、予測／マージ候補導出処理、予測候補導出処理でも用いることができる。予測／マージ候補導出処理の場合には、alf_merge_idxをalf_pred_merge_idxに、NumAlfMergeCandをNumAlfPredMergeCandに、DeriveAlfMergeIdxをDeriveAlfPredMergeIdxに置き換える。また、予測候補導出処理の場合には、alf_merge_idxをalf_pred_idxに、NumAlfMergeCandをNumAlfPredCandに、DeriveAlfMergeIdxをDeriveAlfPredIdxに置き換える。

　＜候補導出処理の例１＞
　図５７は、最もシンプルな２選択肢の候補導出処理の例である。図５７では、特性値Ｘが等しい部分領域（左に隣接する部分領域）、及び、特性値Ｙが等しい部分領域（上に隣接する部分領域）が候補となる。左を選択する場合にalf_merge_idx[i][j]が０であり、上に隣接する部分領域が候補となる。上を選択する場合にalf_merge_idx[i][j]が１である。

　対象の部分領域が、特性値Ｙが０の部分領域（ラスタスキャン順で一番上の行に位置する部分領域の場合）、すなわちｉが０の場合には、選択肢の数は１であるため、NumAlfMergeCand1は１を返す、この時、候補選択インデックスは左を示すalf_merge_idx[i][j]=０とする。

　それ以外、対象の部分領域が、特性値Ｘが０の部分領域（ラスタスキャン順で一番左の列に位置する部分領域）の場合、すなわちjが０の場合には、選択肢の数は１であるため、NumAlfMergeCand1は１を返す、この時、候補選択インデックスは上を示すalf_merge_idx[i][j]=１である。

　それ以外、左に隣接する部分領域のフィルタ係数群と、上に隣接する部分領域のフィルタ係数群が一致している場合は、選択肢の数は１であるため、NumAlfMergeCand1は１を返す。この時、候補選択インデックスは左としても、上としても同じ結果となるが、ここでは、左を示すalf_merge_idx[i][j]=０とする。なお、フィルタ係数群が一致するか否かは、各部分領域に割り当てられたフィルタ係数インデックスが一致するか否かによって判定する。

　それ以外では、左と上の２つの選択肢があるため、NumAlfMergeCand1は２を返す。この場合の候補選択インデックスは、符号化データからalf_merge_idx[i][j]を復号することによって得る。

　DeriveAlfMergeIdx1は、alf_merge_idx[i][j]から部分領域を特定する２次元インデックスsi、sjを求める関数である。図５７に示すように、alf_merge_idxが0の場合には、左を示すsi = i, sj = j - 1が得られ、alf_merge_idxが１の場合には、上を示すsi = i-1,sj = jが得られる。

　なお、前述のNumAlfMergeCand1は、NumAlfMergeCandを置き替えて用いられる。DeriveAlfMergeIdx1は、DeriveAlfMergeIdxを置き替えて用いられる。後述の、NumAlfMergeCand2、DeriveAlfMergeIdx2も適宜、置き替えて用いられる。

　以上の候補導出処理の例１によって、特性値Ｘ方向および特性値Ｙ方向を選択肢に含む、候補選択インデックスを復号することによって、自由度の高い、マージ選択肢および予測選択肢を提供することができる。

　＜候補導出処理の例２＞
　図５８は、左端において例外処理を行う候補導出処理の例である。図５８においても、基本的には、特性値Ｘが等しい部分領域（左に隣接する部分領域）、及び、特性値Ｙが等しい部分領域（上に隣接する部分領域）が候補となる。図５８では、ラスタスキャン順で一番左の列に位置する部分領域を処理する場合には、左に隣接する部分領域に換えて、処理順で直前の部分領域（ラスタスキャン順で一つ上の行の右端の部分領域）を候補とする。これにより左端においても選択肢の数は２個となる。以下、詳細を説明する。

　対象の部分領域が、ラスタスキャン順で一番上の行に位置する場合、すなわちｉが０の場合には、選択肢の数は１であるため、NumAlfMergeCand2は１を返す、この時候補選択インデックスは左を示すalf_merge_idx[i][j]=０である。

　それ以外、対象の部分領域が、ラスタスキャン順で一番左の列に位置する場合、すなわちjが０の場合には、上に隣接する部分領域のフィルタ係数群と、ラスタスキャン順で一つ上の行の右端の部分領域のフィルタ係数群が一致するか否かを判定する。一致する場合には、選択肢の数は１であるため、NumAlfMergeCand2は１を返す、この時候補選択インデックスは上を示すalf_merge_idx[i][j]=１である。一致しない場合には、選択肢の数は２となる。

　それ以外、左のマージ候補のフィルタ係数群と、上のマージ候補のフィルタ係数群が一致している場合は、選択肢の数は１であるため、NumAlfMergeCand2は１を返す。それ以外では、左と上の２つの選択肢があるため、NumAlfMergeCand2は２を返す。

　DeriveAlfMergeIdx2は、候補選択インデックスalf_merge_idx[i][j]から部分領域を特定する２次元インデックスsi、sjを求める関数である。図５８に示すように、alf_merge_idxが0の場合では、左端であるか否かによって結果が変化する。左端の場合には、ラスタスキャン順で一つ上の行の右端の領域を示すsi = i - 1; sj = NX-1が得られ、それ以外では左を示すsi = i, sj = j - 1が得られる。alf_merge_idxが１の場合には、上を示すsi = i-1, sj = jが得られる。

　以上の候補導出処理の例２によって、特性値Ｘ方向および特性値Ｙ方向に加え、ラスタスキャン順で左端の処理に別処理を加えることによって、スライス状分割を行うことができる。

　＜候補導出処理の例３＞
　図５９は、３つの選択肢を用いる場合の候補導出処理の例である。図３ｃでは、特性値Ｘが等しい部分領域（左に隣接する部分領域）、特性値Ｙが等しい部分領域（上に隣接する部分領域）、特性値Ｘ、特性値Ｙが１つづつ異なる部分領域（ラスタスキャン上で右上に位置する部分領域）のフィルタ係数群が、候補となる。以下、詳細を説明する。

　対象の部分領域が、ラスタスキャン順で一番上の行に位置する場合、すなわちｉが０の場合には、選択肢の数は１であるため、NumAlfMergeCand3は１を返す、この時候補選択インデックスは左を示すalf_merge_idx[i][j]=０である。

　それ以外、対象の部分領域が、ラスタスキャン順で一番左の列に位置する場合、すなわちjが０の場合には、選択肢の数は１であるため、NumAlfMergeCand3は１を返す、この時候補選択インデックスは上を示すalf_merge_idx[i][j]=１である。

　それ以外では、左に隣接する部分領域のフィルタ係数群Ａ、上に隣接する部分領域のフィルタ係数群Ｂ、右上の領域のフィルタ係数群Ｃが互いに一致するか否かに応じて、マージ候補数を得る。Ａ＝Ｂ＝Ｃの場合には、選択肢の数は１であるため、NumAlfMergeCand3は１を返す、
　それ以外、Ａ＝Ｂの場合には、選択肢の数は２であるため、NumAlfMergeCand3は２を返す、
　それ以外、Ａ＝Ｃの場合には、選択肢の数は２であるため、NumAlfMergeCand3は２を返す、
　それ以外、Ｂ＝Ｃの場合には、選択肢の数は２であるため、NumAlfMergeCand3は２を返す、
　それ以外の場合には、選択肢の数は３であるため、NumAlfMergeCand3は３を返す、
　DeriveAlfMergeIdx3は、候補選択インデックスalf_merge_idx[i][j]から部分領域を特定するインデックスsi、sjを求める関数である。図５９に示すように、alf_merge_idxが0の場合には、左を示すsi = i, sj = j - 1が得られ、alf_merge_idxが１の場合で、Ａ＝Ｂの場合には、右上を示すsi = i-1, sj =j-1が得られる。それ以外のalf_merge_idxが１の場合では、上を示すsi = i-1, sj = jが得られる。それ以外alf_merge_idxが２の場合では、右上を示すsi = i-1, sj = j-1が得られる。

　以上の候補導出処理の例３は、候補選択インデックスで選択される選択肢として、特性値Ｘが等しい部分領域（左方向）、特性値Ｙが等しい部分領域（上方向）、および、特性値Ｘと特性値Ｙが１つづつ異なる既に処理した部分領域（ラスタスキャン順で右上方向）の３つの選択肢を用いることにより、一筆書き状分割など自由度の高い分割を行うことができる。

　＜候補導出処理の例２＋３＞
　図６０は、例２と例３の組み合わせである。この組み合わせでは、特性値Ｘが０である部分領域（左端以外）の処理では、特性値Ｘが等しい部分領域（左方向）、特性値Ｙが等しい部分領域（上方向）、および、特性値Ｘと特性値Ｙが１つづつ異なる既に処理した部分領域（ラスタスキャン順で右上方向）の３つの選択肢を用いる。逆に、特性値Ｘが０である部分領域の処理では、直前に処理した部分領域および特性値Ｙが等しい部分領域（上方向）、特性値Ｘと特性値Ｙが１つづつ異なる既に処理した部分領域（ラスタスキャン順で右上方向）の３つの選択肢を用いる。図６０では、マージ候補の例であるが、既に説明したように、予測／マージ候補や、予測候補にも用いることができる。例２と例３の組み合わせでは、NumAlfMergeCandとしてNumAlfMergeCand23、DeriveAlfMergeIdxとしてDeriveAlfMergeIdx23を用いる。

　詳細については、例２と例３においてすでに説明済みの方法の組み合わせであるので説明を省略する。
＜候補導出処理の例４＞
　図６１は、マップ選択を用いる場合の候補導出処理例である。マップ選択では、処理順で前の部分空間（部分領域）で用いられた（既に復号された）フィルタ係数群が候補となる。関数NumAlfMergeCand4は、フィルタ係数候補の数を算出する。これまでに復号されたフィルタ係数群、すなわち、０～フィルタ係数インデックスidxまでのidx＋１個のフィルタ係数群が候補となる。従って、NumAlfMergeCand4の値はidx＋１個である。以下、詳細を説明する。

　予測の候補選択インデックスと、マージの候補選択インデックスを別の方法で復号し、さらに、予測の候補選択インデックスの選択肢と、マージの候補選択インデックスの選択肢の数を異なるものにする構成では、マージの候補導出処理をNumAlfMergeCand２やNumAlfMergeCand3とし、予測の候補導出処理をNumAlfMergeCandとする方法も好適である。
＜特徴量モードに応じた候補導出処理＞
　候補導出処理は、特徴量モードalf_feature_modeに応じて切り替えることも可能である。図６２は、特徴量モードalf_feature_modeに応じて、候補導出処理を切り替える図である。

　図６２（ａ）に示すように、alf_feature_modeが座標空間分割を示す場合には、候補導出処理として３候補選択導出処理NumAlfMergeCand3を用い、alf_feature_modeが特徴空間分割を示す場合には、候補導出処理として２候補選択導出処理NumAlfMergeCandを用いる方法が好適である。図６２（ｂ）に示すようにDeriveAlfMergeIdxも、特徴量モードalf_feature_modeに応じて変更する。

　また、図示しないが、alf_feature_modeが座標空間分割を示す場合には、候補導出処理としてスライス候補導出処理NumAlfMergeCand2を用い、alf_feature_modeが特徴空間分割を示す場合には、候補導出処理として２候補選択導出処理NumAlfMergeCandを用いる方法も好適である。また、図示しないが、alf_feature_modeが座標空間分割を示す場合には、候補導出処理としてスライス候補導出処理NumAlfMergeCand23を用い、alf_feature_modeが特徴空間分割を示す場合には、候補導出処理として２候補選択導出処理NumAlfMergeCandを用いる方法も好適である。

　選択肢の数が３個の場合（３候補選択導出処理）よりも２個の場合（３候補選択導出処理）の方が選択肢選択に用いる符号量を低減することができる。また、スライス候補導出処理よりも２候補選択導出処理の方が選択肢選択に用いる符号量を低減することができる。座標空間分割では、一筆書き状の分割や、スライス状分割をサポートすることで符号化効率の向上が見込まれるが、特徴空間分割では、座標空間分割ほどの符号化効率の向上は見込まれない。そのため、特徴空間分割では、座標空間分割よりも予測やマージの選択肢を少なくし、候補選択インデックスに用いる符号量を低減した方が良い。なお、特徴空間分割では、スライス状分割が適当ではないのは、特性値Ｘの左端の部分領域と、特性値Ｘの右端の部分領域では、特性値の値が大きく異なるため、適当なフィルタ係数群の値も異なることが多く、この２つをマージした場合に得られるフィルタ係数群の値は必ずしも符号化効率上、良い値とはならないからである。

　以上、説明した復号装置では、以下の特徴を有する。最初に復号したフィルタ係数の数を用いて、フィルタ係数群を復号するかマージを行うかを制御することにより、自由度が増加した場合においても、符号量の増加を抑えることができる。また、予測候補の候補選択インデックスを復号することによって、予測精度を高めることができるので、フィルタ係数群の符号量を抑えることができる。また、左と上を参照する構成ではクアッドツリー状の分割、左端では直前に処理した部分領域を参照する構成ではスライス状の分割、右上の部分領域を参照する構成では一筆書き状の分割に対応することができるため、エンコーダの自由度を高めることができる。また、マップ構成と呼ばれる。これまで復号されたフィルタ係数インデックスの何れかを参照する構成では、それら全てを含む自由度を備えることもできる。また、隣接する部分領域に限らず、既に復号されたフィルタ係数群を選択することができるため、飛び地などの自由度の高い構成が可能である。エンコーダは、ソフトウェアやハードウェアの制約、設計者の指向などに応じて自由度の高い分割方法をサポートすることが望ましい。特に、クアッドツリー状の分割、スライス状の分割、一筆書き状の分割は、座標空間分割に適応すると好適である。また、alf_feature_modeが座標空間分割であるか、特徴空間分割であるかに応じて、予測／マージ方法を切り替えることによって、特徴空間分割においては、座標空間分割用に高い自由度を保ちながら、特徴空間分割における符号量を低減することができる。また、マージの候補選択と、予測の候補選択を同一の算出方法とする構成によれば、復号装置の複雑度を低減することができる。また、マージの候補選択に比べ、予測の候補選択を少なくする構成においては、予測の選択に必要な符号量を低減することができる。

　（動画像復号装置７）
　本実施形態に係る動画像復号装置７は、実施形態１に係る動画像復号装置１の備える適応フィルタ５０に代えて、適応フィルタ９０を備えている。本実施形態に係る動画像復号装置７のその他の構成は、実施形態１に係る動画像復号装置１の構成と同様であるので、説明を省略する。

　（適応フィルタ９０）
　図４５は、適応フィルタ１１０の構成を示すブロック図である。図４５に示すように、適応フィルタ１１０は、適応フィルタ情報復号部１１１及び適応フィルタ部１１２を備えている。

　適応フィルタ情報復号部１１１は、図４５に示すように、領域別タップ数復号部１１１１、領域構造復号部１１１２、特徴量モード復号部１１１３、フィルタ係数復号部１１１４、特性別フィルタ係数格納部１１１５を備えている。

　領域別タップ数復号部１１１１は、フィルタパラメータＦＰに含まれるシンタックスalf_length_luma_minus5_div2を復号する。復号されたシンタックスalf_length_luma_minus5_div2は、フィルタ係数復号部１１１４に供給される。

　領域構造復号部１１１２は、フィルタパラメータＦＰに含まれるシンタックスalf_new_filter[i][j]及びalf_merge_idx[i] [j]を復号する。復号されたシンタックスalf_new_filter及びalf_merge_idx[i][j]は、フィルタ係数復号部１１１４に供給される。。

　特徴量モード復号部１１１３は、シンタックスalf_feature_modeを復号する。復号されたシンタックスalf_feature_modeは、フィルタ係数復号部１１１４に供給される。

　フィルタ係数復号部１１１４は、alf_length_luma_minus5_div2、alf_merge_idx[i][j]、及びalf_new_filterを参照して、シンタックスalf_coeff_luma[i][j][k]を復号する。また、フィルタ係数復号部１１１４は、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを、以下の式を用いて算出する。

　AlfRegionFilterCoeff[i][j][k] = AlfRegionFilterCoeff[i][j-1][k] + alf_coeff_luma[i][j][k] (j=0以外の場合)
　AlfRegionFilterCoeff[i][j][k] = alf_coeff_luma[i][0][k] (j=0の場合)
上記の式から明らかなように、フィルタ係数復号部１１１４は、分割単位ＤＵ[i][j-1]について復号済みのフィルタ係数群AlfRegionFilterCoeff[i][j-1][k]を予測値に設定し、当該予測値に対して、alf_coeff_luma[i][j][k]を加算（又は減算（上式の符号を反転させたものに対応））することによって、分割単位ＤＵ[i][j]についてのフィルタ係数群AlfRegionFilterCoeff[i][j][k]を復号する。

　特性別フィルタ係数格納部１１１５には、フィルタ係数復号部１１１４によって復号されたフィルタ係数群RegionFilterLuma[i][j][k]が格納される。

　一方で、適応フィルタ部１１２は、図４５に示すように、第１特性値算出部１１２１、第２特性値算出部１１２２、フィルタ係数割り付け部１１２３、及びフィルタ部１１２４を備えている。

　第１特性値算出部１１２１及び第２特性値算出部１１２２は、それぞれ、対象単位領域についての特性値Ｘ及び特性値Ｙを算出する。算出された特性値Ｘ及びＹは、フィルタ係数割り付け部１１２３に供給される。特性値Ｘ及び特性値Ｙの算出方法については、フィルタパラメータＦＰの構成例において説明を行なったので、ここでは説明を省略する。

　フィルタ係数割り付け部１１２３は、対象単位領域に割り付けられた特性値領域内インデックス（ｉ、ｊ）に対応するフィルタ係数RegionFilterLuma[i][j]を、特性別フィルタ係数格納部１１１５から読み出し、読み出したフィルタ係数RegionFilterLuma[i][j]を、当該対象単位領域に割り付ける。対象単位領域に割り付けられたフィルタ係数RegionFilterLuma[i][j]は、フィルタ部１１２４に供給される。

　フィルタ部１１２４は、対象単位領域に対して、フィルタ係数RegionFilterLuma[i][j]を用いたフィルタ処理を施すことによって、該対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ１５に格納される。フィルタ部１１２４による具体的な処理は、実施形態１におけるフィルタ部５２５と同様であるためここでは説明を省略する。

　（動画像符号化装置８）
　以下では、符号化対象画像を符号化することによって符号化データ＃５を生成する動画像符号化装置８について、図４６を参照して説明する。なお、以下では、既に説明した部分については、同じ文言および同じ符号を用い、その説明を省略する。

　本実施形態に係る動画像符号化装置８は、実施形態１に係る動画像符号化装置２の備える適応フィルタ６０に代えて、適応フィルタ１２０を備えている。本実施形態に係る動画像符号化装置６のその他の構成は、実施形態１に係る動画像符号化装置２の構成と同様であるので、説明を省略する。

　適応フィルタ１２０は、デブロック済復号画像Ｐ＿ＤＢに対して、適応的フィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ２４に格納される。また、適応フィルタ１２０は、フィルタ処理に用いた各種の適応フィルタ情報をフィルタパラメータＦＰとして可変長符号符号化部２２に供給する。可変長符号符号化部２２は、フィルタパラメータＦＰを符号化データ＃５の一部として符号化する。

　図４６は、適応フィルタ１２０の構成を示すブロック図である。図４６に示すように、適応フィルタ１２０は、適応フィルタ情報設定部１２１、および、適応フィルタ部１２２を備えている。

　適応フィルタ情報設定部１２１は、図４６に示すように、領域別タップ数設定部１２１１、領域構造設定部１２１２、特徴量モード設定部１２１３、フィルタ係数残差生成部１２１４、特性別フィルタ係数格納部１２１５、及び、フィルタパラメータ生成部１２１６を備えている。

　領域別タップ数設定部１２１１は、初期分割によって得られた特性値部分領域ＣＰＲ［ｉ］についてのタップ数を指定するためのシンタックスalf_length_luma_minus5_div2を設定する。設定されたシンタックスalf_length_luma_minus5_div2は、フィルタパラメータ生成部１２１６に供給される。

　領域構造設定部１２１２は、alf_new_filter及びalf_merge_idx[i][j]を設定する。設定されたシンタックスalf_new_filter及びalf_merge_idx[i][j]は、フィルタ係数残差生成部１２１４に供給される。

　特徴量モード設定部１２１３は、シンタックスalf_feature_modeを設定する。設定されたシンタックスalf_feature_modeは、フィルタパラメータ生成部１２１６に供給される。

　なお、alf_length_luma_minus5_div2、alf_new_filter、及び、alf_merge_idx[i][j]、は、符号化効率がより向上するように設定される。

　フィルタ係数残差生成部１２１４は、以下の式によってシンタックスalf_coeff_luma[i][j][k]を生成する。

　alf_coeff_luma[i][j][k] = AlfRegionFilterCoeff[i][j-1][k] - AlfRegionFilterCoeff[i][j][k] (j=0以外の場合)
　alf_coeff_luma[i][0][k] = AlfRegionFilterCoeff[i][j][k] (j=0の場合)
　生成されたフィルタ係数残差alf_coeff_luma[i][j][k]はフィルタパラメータ生成部１２１６に供給される。

　特性別フィルタ係数格納部１２１５には、後述するフィルタ係数導出部１２２３から供給されるフィルタ係数群AlfRegionFilterCoeff[i][j][k]が格納される。

　フィルタパラメータ生成部１２１６は、シンタックスalf_length_luma_minus5_div2、alf_merge_idx[i][j]、alf_new_filter、および、alf_coeff_luma[i][j][k]からフィルタパラメータＦＰを生成する。生成されたフィルタパラメータＦＰは、可変長符号符号化部２２に供給される。

　一方で、適応フィルタ部１２２は、第１特性値算出部１１２１、第２特性値算出部１１２２、フィルタ係数導出部１１２３、及び、フィルタ部１１２４を備えている。

　フィルタ係数導出部１２２３は、対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬと符号化対象画像との誤差がより小さくなるようなフィルタ係数RegionFilterLuma[i][j]を導出する。導出されたフィルタ係数RegionFilterLuma[i][j]は、フィルタ部１１２４に供給されると共に、特性別フィルタ係数格納部１２１５に格納される。

　フィルタ係数導出部１２２３によるフィルタ係数群RegionFilterLuma[i][j]の導出処理は、実施形態１におけるフィルタ係数導出部６２４と同様であるので、ここでは説明を省略する。

　〔実施形態５〕
　以下では、本発明の第５の実施形態について図６９～図７６を参照して説明する。

　本実施形態に係る適応フィルタは、実施形態１～４と同様に、フィルタ前画像（例えば、デブロック済復号画像Ｐ＿ＤＢ）を構成する各単位領域について、互いに導出方法の異なる複数の特性値を導出し、導出された複数の特性値に応じて、各単位領域を１または複数のグループの何れかに分類する。また、本実施形態に係る適応フィルタは、単位領域毎に定められたフィルタ係数を用いて、フィルタ前画像に対して単位領域毎に作用する。

　ここで単位領域とは、後述するＤＣＴ変換（より一般には周波数変換）の単位であるブロックであってもよいし、後述する予測画像を生成する単位であるパーティションであってもよいし、ブロックまたはパーティションの何れでもなく、本実施形態に係る適応フィルタによってサイズおよび位置が設定された領域であってもよい。また、単位領域は、１画素から構成されるものであってもよい。本実施形態では４×４のブロックを単位領域として説明する。

　また、実施形態１～４と同様に、各グループは、複数の特性値によって張られる多次元領域上に設定される各部分領域と１対１の対応を有する。したがって、上記多次元領域をどのように各部分領域へ分割するのかを指定することにより、１または複数のグループをどのように設定するかが定まることになる。また、導出された複数の特性値は各々、第１の特性値Ｘ、第２の特性値Ｙ、第３の特性値Ｚと呼ぶ。なお、実施形態１～４と同様に、上記複数の特性値によって張られる多次元領域を特性値領域とも呼称し、特性値領域上に設定される各部分領域を特性値部分領域とも呼称する。

　なお、実施形態１～４と異なり、各部分領域を指定するインデックスとして１次元のインデックスを用いる。なお、実施形態１～４においても２次元インデックスの代わりに１次元インデックスを用いることは可能である。なお、各特性値部分領域を指定するインデックスを、領域インデックスridxと呼ぶ。各単位領域は、領域インデックスridxを割り付けることでグループ化（分類）が行われる。すなわち、同じ値の領域インデックスridxが割り当てられる単位領域は同じ特性の領域であるとしてグループ化される。ある領域インデックスridxの特性値部分領域を、単に領域インデックスridxの領域と呼ぶ。

　本実施形態においては、第１の特性値Ｘ、第２の特性値Ｙ、第３の特性値Ｚとして、例えば以下のような値が使用可能である。

　画像の方向性、画像の活性度、画像の特定方向活性度、予測モード、予測モード及び画像の方向性、平均画素値、単位領域の座標、スライス番号。

　なお、活性度の算出には、絶対値差分和を用いても良いし、ラプラシアンや分散を用いても良い。また、活性度を含む特性値の算出には、画素の間引きを用いても良い。単位領域の特性値の算出には、単位領域外の画素値を用いても良い。但し、特性値の参照画像の一部がスライス外に位置する場合には、スライス内の画素値のみを用いて特性値を算出可能なように、スライス内の画素値を用いてスライス外の画素値を導出し特性値を算出すると良い。

　また、各単位領域について導出される各特性値は、導出方法如何によって、単位領域のサイズに依存する場合がある。このような場合には、各特性値として、単位領域のサイズへの依存性を取り除くことによって得られる正規化された特性値を用いることができる。

　（符号化データ＃７）
　本実施形態に係る動画像符号化装置８によって生成され、動画像復号装置７によって復号される符号化データ＃７のデータ構造の内、フィルタパラメータＦＰの構成を詳述する。

　＜フィルタパラメータの基本構成＞
　図７４は、本実施形態に係るフィルタパラメータＦＰのシンタックステーブルの一例である。図７４に示すように、フィルタパラメータＦＰには、adaptive_loop_filter_flag、alf_region_adaptation_flag、alf_length_luma_minus5_div2、alf_num_filters_minus1、alf_region_idx[]、alf_pred_method、alf_min_kstart_minus1、alf_golomb_index_bit[i]、alf_coeff_luma[i][j]が含まれている。

　alf_num_filters_minus1は本実施形態に係る適応フィルタで用いるフィルタ数AlfNumFiltersを示すシンタックスであり、AlfNumFilters = alf_num_filters_minus1 + 1により求めることができる。alf_region_adaptation_flagは、特徴量モードを示すシンタックスであり、第４の実施形態のalf_feature_modeに相当する。alf_region_adaptation_flag=0、1、2、3は各々、後述するＲＡモード、ＢＡ１モード、ＢＡ２モード、３Ｄモードに対応する。なおＲＡモードは、対象単位領域の画像（フレーム）内座標を用いる分割であり座標空間分割の一つである。ＢＡ１、ＢＡ２モードは、対象単位領域における画素値もしくは符号化パラメータを用いる分割であり、特徴空間分割の一つである。alf_region_idx[i] （１≦ｉ＜AlfNumFilters）は、各部分領域に対するフィルタインデックスを指定するシンタックスである。図７４は、フィルタインデックスの推定を用いない場合のシンタックステーブルであり、図７５は、フィルタインデックスの推定を用いる場合のシンタックステーブルである。

　図７５は、本実施形態に係るフィルタパラメータＦＰのシンタックステーブルの一例である。prev_alf_region_flag[i]とrem_alf_region_flag[i] （１≦ｉ＜AlfNumFilters）は、各部分領域に対するフィルタインデックスを指定するシンタックスである。alf_region_idx[i]、prev_alf_region_flag[i]とrem_alf_region_flag[i]など領域構造を指定するシンタックスを領域構造シンタックスと呼ぶ。ここで領域構造とは、各部分空間と参照するフィルタ係数群を表す構造であり、各部分領域で参照するフィルタ係数群を定めることで復号される。なお、alf_region_idx[i] 、prev_alf_region_flag[i]、rem_alf_region_flag[i]は、後述するフィルタインデックス制約により値の範囲がある。従って、取り得る値の範囲に応じて符号化データとすることにより、領域構造インデックスの符号量を削減できる。なお、値の範囲に応じた符号化では、一般に候補数が2^（m-1）より大きく、2^m以下であれば、ｍビットを符号化するようにしても良い。このような符号化には、例えば、候補数を最大値cMaxとする各種Truncated符号化（例えばTruncated unary符号化）を用いることができる。

　また、図５５に示す第３の実施形態のマップ構成では、領域構造シンタックスを新規フィルタフラグalf_new_filterと、マージ候補インデックスalf_merge_idxを用いて符号化する。

　また、図示しないが、特徴量モードの示す特性値算出方法が１次元の場合には、１次元マージのシンタックスalf_filter_patternを用いて領域構造を符号化し、多次元の場合には、本実施形態に示す各部分領域のフィルタインデックスを復号するシンタックスを用いて領域構造を符号化しても構わない。

　図７６も、本実施形態に係るフィルタパラメータＦＰのシンタックステーブルの一例である。図７５との違いは、各部分領域毎に、フィルタ処理をオフにするシンタックスalf_disable_region_idx[i]を含むことである。このシンタックスは、実施形態２のalf_disable_region_idc[i0]に相当するものであり、このシンタックスが当該部分領域に対し、フィルタ処理のオフを指定している場合、フィルタ処理は行わない。

　（適応フィルタ１３０）
　図６９は、適応フィルタ１３０のブロック図である。適応フィルタ１３０は、適応フィルタ情報復号部１３１、適応フィルタ１３２を備えている。適応フィルタ情報復号部１３１は、タップ数復号部１３１１、領域構造復号部１３１２、特徴量モード復号部１３１３、フィルタ係数復号部１３１４、フィルタ係数格納部１３１５を備えており、適応フィルタ部１３２は、領域インデックス算出部１３２２、フィルタ係数割り付け部１３２３、フィルタ部１３２４を備えている。

　タップ数復号部１３１１は、フィルタパラメータＦＰに含まれるシンタックスalf_length_luma_minus5_div2を復号する。

　領域構造復号部１３１２は、概略的に言えば、図７４に示すフィルタパラメータＦＰに含まれるシンタックスalf_region_idx[i]から領域構造を復号する。また、領域構造復号部１３１２は、図７５及び図７６に示すフィルタパラメータＦＰに含まれるシンタックスprev_alf_region_flag[i]、rem_alf_region_flag[i] （０≦ｉ＜AlfNumFilters）を復号する。

　特徴量モード復号部１３１３は、シンタックスalf_region_adaptation_flagを復号する。復号されたシンタックスalf_region_adaptation_flagは、領域インデックス算出部１３２２に供給される。

　フィルタ係数復号部１３１４は、シンタックスalf_coeff_luma[i][k]よりフィルタ係数群AlfRegionFilterCoeff[i][k] （０≦ｉ＜AlfNumFilters、０≦ｋ＜Ｎtotal：Ｎtotalは、１つのフィルタ係数群に含まれるフィルタ係数の数）を復号する。フィルタ係数群AlfRegionFilterCoeff[i][k]の総数は、AlfNumFiltersである。

　また、フィルタ係数復号部１３１４は、フィルタ処理に用いられるフィルタ係数群AlfRegionFilterCoeffを、以下の式を用いて算出する。

　AlfRegionFilterCoeff[i][k] = AlfRegionFilterCoeff[i-1][k] + alf_coeff_luma[i][k] (i=0以外の場合)
　AlfRegionFilterCoeff[i][k] = alf_coeff_luma[i][k] (i=0の場合)
なお、kは、０～フィルタ係数の数－１までの値であり、AlfRegionFilterCoeff[i][k]は、各フィルタ係数毎に（すなわち、ｋの各値について）上記式により算出される。

　フィルタ係数格納部１３１５には、フィルタ係数復号部１３１４によって復号されたフィルタ係数群RegionFilterLuma[i][k]が格納される。なおｉは、フィルタ係数群を参照するためのインデックスであり、以下フィルタインデックスfidxとも呼ぶ。フィルタ係数群の数はAlfNumFiltersであるから、フィルタインデックスは０からAlfNumFilters－１までの値で指定される。なお、本実施形態では、フィルタ処理で用いられるフィルタ係数群として、符号化データ＃７から復号されるフィルタ係数群を用いるが、復号装置に予め備わっているフィルタ係数群を参照可能なフィルタ係数として用いても良い。また、処理対象のピクチャおよびスライスに対応するヘッダ及びピクチャパラメータセットだけではなく、それ以前の特定のピクチャやスライスで符号化されるフィルタ係数群を参照しても良い。

　（領域構造復号部１３１２）
　領域構造復号部１３１２は、フィルタパラメータＦＰから領域構造シンタックスを復号し、領域インデックスでグループ化される部分領域の各々に対して、フィルタ係数群を参照するためのフィルタインデックスを割り当てる。具体的には、部分領域を指定する各領域インデックスridx（０≦ridx＜AlfNumRegions）に対して、１つのフィルタインデックスfidxを割り当てる。

　領域構造復号部１３１２は、各領域インデックスridxに対するフィルタインデックスfidxを復号し、領域インデックスridxとフィルタインデックスfidxの関係を示すフィルタインデックステーブルFilterIdxTbl[ridx]（０≦ridx＜AlfNumRegions）を導出する。導出されたフィルタインデックステーブルFilterIdxTbl[]はフィルタ係数割り付け部１３２３に出力する。フィルタインデックステーブルFilterIdxTbl[]は、領域インデックスがridxの場合のフィルタインデックスfidxを下記の式により定めるテーブルである。

　fidx = FilterIdxTbl[ridx]
　例えば、フィルタインデックステーブルが下記のFilterIdxTblAの場合には、領域インデックスridx=0に割り当てられるフィルタインデックスfidxは、FilterIdxTbl[ridx]＝FilterIdxTblA[0]=0になる。

　FilterIdxTblA[] = {0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15}
　また、FilterIdxTblAでは、各部分領域に対して異なるフィルタインデックスが割り当てられる。すなわち、全ての各部分領域はマージされず異なる値が割り当てられる。この時、フィルタインデックスの総数AlfNumFiltersは16である。

　さらに例えば、フィルタインデックステーブルが下記のFilterIdxTblBの場合には、全ての部分領域に対して同じフィルタインデックス（値0）が割り当てられる。すなわち、全ての部分領域がマージされる。この時、フィルタインデックスの総数AlfNumFiltersは1である。

　FilterIdxTblB[] = {0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0}
　さらに例えば、フィルタインデックステーブルが下記のFilterIdxTblCの場合には、部分領域は、５つの領域にマージされ、各々の部分領域にフィルタインデックス０～４が割り当てられる。

　FilterIdxTblC[] = {0, 0, 0, 1, 1, 1, 2, 2, 2, 3, 3, 3, 2, 2, 1, 1}
　このように、フィルタインデックステーブルFilterIdxTblによって、領域インデックスridxの各領域にフィルタインデックスが指定される。逆に、フィルタインデックステーブルFilterIdxTblによって、各部分領域はグループされる。すなわち、同じフィルタインデックスfidxが割り当てられる部分領域ridxは、同じグループ（フィルタインデックスfidxのグループ）に分類される。特性値部分領域の特性値は、単位領域毎に算出されるから、結局、各単位領域は、単位領域に対して算出される領域インデックスとフィルタインデックステーブルFilterIdxTblによってグループ化される。
（フィルタインデックスの制約）
　フィルタインデックステーブルFilterIdxTbl中のフィルタインデックスは、０を最小値、AlfNumFilters－１を最大値とする範囲の値として符号化される。この制約（インデックス制約１とも呼ぶ）は、以下の考察により規定されるものである。

　仮に、フィルタインデックスの最大値を制限しない場合を想定してみると、フィルタインデックステーブルFilterIdxTblCと同じ構成（すなわち、フィルタインデックステーブルFilterIdxTblCを用いた場合と同じグループ分け）を、例えば、以下のFilterIdxTblC´でも表現可能である。

　FilterIdxTblC´[] = {0, 0, 0, 7, 7, 7, 2, 2, 2, 3, 3, 3, 9, 9, 7, 7}
この場合、出現するインデックスの総数は5個であるのに、出現するインデックスの値は、0, 2, 3, 7, 9となり、フィルタインデックスの値に抜けが生じる。フィルタインデックスの値の最大値が不明であり、また値に抜けがある場合には、AlfNumFilters個のフィルタ係数のどの係数群にどのフィルタインデックスが対応するのかを定めることが困難である。逆に、フィルタインデックスの値を０からAlfNumFilters－１に制限することで、少ない数のインデックス（インデックスの値を小さくできるため符号量を小さくできる）でも十分フィルタインデックスをフィルタ係数群に対応づけることができる。また、フィルタインデックスとフィルタ係数群を容易に１対１に対応させることができる。例えばフィルタ係数群は、復号される順番に割りつけられる０からAlfNumFilters－1の値をフィルタインデックスとして参照することができる。上記、フィルタインデックスの値の範囲の制約は、フィルタインデックスとフィルタ係数群との１対１対応が容易であるという条件から設定される。但し、この条件が存在する場合にも、同じグループ分けに対して異なるフィルタインデックスが割り付け得るという自由度が存在する。例えば、以下のFilterIdxTblC´´は、FilterIdxTblCと同じグループ分けを意味する。

　FilterIdxTblC´´[] = {0, 0, 0, 2, 2, 2, 1, 1, 1, 3, 3, 3, 1, 1, 2, 2}
　このような自由度をなくす制約として、以下のインデックス制約２が考えられる。

　（インデックス制約２）：領域インデックスridxであるフィルタインデックスfidxの値の範囲を、０から領域インデックスの値がi=0からi=ridx-1の部分領域のフィルタインデックス（FilterIdxTbl[i]）の最大値＋１までに制限する。

　例えば、この制約のもとでは、以下のFilterIdxTblDは可能であるが、FilterIdxTblEは可能ではない。

　FilterIdxTblD[] = {0, 1, 2, …}
　FilterIdxTblE[] = {0, 1, 3, …}
いずれの例でもridx=2の復号時点で出現しているフィルタインデックスは0と1であるから、この時点でのフィルタインデックスの最大値は1である。ある時点のフィルタインデックスの範囲は０から最大値＋１であるから可能なフィルタインデックスは０～２である。従って、復号したフィルタインデックスの最大値＋１を超える値である3となるFilterIdxTblEは可能ではない。

　なお、適応的フィルタオフ復号部を備え、領域でのフィルタ処理をオフとする場合には、オフとなる領域に-1として区別する。

　FilterIdxTblE[] = {0, 1, -1, …}
　値がマイナスとなる領域は、フィルタ係数群を割り当てない領域として区別することができる。

　また、alf_disable_region_idx[]の値を復号せずに、領域毎に復号される所定のフィルタインデックスの値を判定することによって、フィルタ処理のオフを決定することもできる。この場合には、上記制約と異なり、ある領域のフィルタインデックスの範囲を０から最大値＋２とし、最大値＋２の値をフィルタ処理のオフと定めることができる。

　なお、この制約のもとでは、領域インデックスridx＝0のフィルタインデックスは０であるので、領域インデックスridx＝０のフィルタインデックス復号を省略することができる。

　（領域構造復号部１３１２の詳細）
　図７１は、領域構造復号部１３１２のブロック図である。領域構造復号部１３１２は、インデックス総数復号部１３３１、インデックス復号制御部１３３２、推定フィルタインデックス算出部１３３３、インデックス復号部１３３４、残数管理部１３３６、新番号識別処理部１３３５を備える。また、領域単位でフィルタオフとする場合には図示しない適応的フィルタオフ復号部を備える構成としても良い。

　インデックス総数復号部１３３１は、フィルタパラメータＦＰからシンタックスalf_num_filters_minus1を復号し、インデックス（フィルタインデックス）の総数AlfNumFiltersを、AlfNumFilters＝alf_num_filters_minus1＋１によって決定する。

　領域構造復号部１３１２が、適応的フィルタオフ復号部を備える構成の場合には、該適応的フィルタオフ復号部は、各領域に対してフィルタオフとするか否かのフラグalf_disable_region_idx[ｉ] （０≦ｉ＜AlfNumRegions）を復号する。復号したフラグalf_disable_region_idx[ｉ]の情報は、フィルタ係数割り付け部１３２３に出力される。

　インデックス復号制御部１３３２は、推定フィルタインデックス算出部１３３３、インデックス復号部１３３４、残数管理部１３３６、新番号識別処理部１３３５を制御し、ridx＝０～AlfNumRegions-1の各領域インデックスridxに対するフィルタインデックスfidxの復号を行う。

　インデックス復号制御部１３３２は、まず、領域インデックスridxを０からAlfNumRegions－１までの値に順に設定し、推定フィルタインデックス１３３３とインデックス復号部１３３４に出力する。次いで、推定フィルタインデックス１３３３は、領域インデックスridxに対するフィルタインデックスの推定値（推定フィルタインデックス）を算出し、インデックス復号部１３３４に出力する。インデックス復号部１３３４は、領域インデックスridxに対応するフィルタインデックスfidxをフィルタパラメータＦＰから復号し、フィルタインデックステーブルFilterIdxTblに格納する。フィルタインデックスfidxの符号化データには、推定フィルタインデックスを用いて符号化される場合と、推定フィルタインデックスを用いずに符号化される場合とがある。

　本実施形態の例では、フィルタ数AlfNumFiltersが２個である場合には、推定フィルタインデックスを用いる方法を適用し、フィルタ数AlfNumFiltersが２個よりも大きい場合には、推定フィルタインデックスを用いない方法を適用する。但し、適用方法の区分けは、この限りではなく、常に、推定インデックスを用いない方法を適用しても良い。また、より一般に、フィルタ数AlfNumFiltersがＮfilter（Ｎfilterは任意の自然数）個以下である場合には、推定フィルタインデックスを用いる方法を適用し、フィルタ数AlfNumFiltersがＮfilter個よりも大きい場合には、推定フィルタインデックスを用いない方法を適用する構成としてもよい。

　なお、復号装置が、適応的フィルタオフ復号部を有し、特性値部分領域単位でフィルタ処理をオフとするフラグを復号する場合には、フィルタ処理がオンとなる領域に対してのみ、フィルタインデックスを復号する。これは、下記の推定フィルタインデックスを用いる方法においても同様である。

　＜推定フィルタインデックスを用いない方法＞
　図７４は、推定フィルタインデックスを用いない場合におけるフィルタパラメータＦＰを示す。この符号化データでは、領域インデックスiが１からAlfNumRegions-1までのフィルタインデックスalf_region_idx[i]が順に符号化されているので、領域構造復号部１３１２は、alf_region_idx[i]を順に復号し、FilterIdxTbl[0]＝0、FilterIdxTbl[i] = alf_region_idx[i]から、フィルタパラメータテーブルFilterIdxTblを復号する。

　また、フィルタパラメータテーブルの制約から、ある領域インデックスiを復号する時点のフィルタインデックスの取り得る範囲は０～nidx-1の間の値である。そのため、フィルタインデックスがnidx～０である場合に対し、０～nidxの値を対応させ、領域フィルタインデックスalf_region_idx[i]を符号化する方法も可能である。取り得る最大値から符号化対象の値を差し引いた値を符号化する方法を、逆順のインデックス符号化方法と呼ぶ。

　一般に隣接する領域は似た特性を有し、マージされる可能性が高い。マージされる場合には、ある領域インデックスiのフィルタインデックスの値は、直前に復号された領域i-1のフィルタインデックスの値と同じとなる。また、直前に復号された領域のフィルタインデックスは、新規フィルタインデックスnidx-1である可能性が高いことから、nidx-1に対して短い符号語で符号化すると適当である。この場合、フィルタパラメータfidxは、領域フィルタインデックスalf_region_idx[i]と新規フィルタインデックスnidxの差分-1として、以下の式のようにフィルタパラメータfidxを復号することも好適である。

　fidx = nidx - alf_region_idx[i]
　領域フィルタインデックスalf_region_idx[i]の値は、０～nidxであるから、nidxを最大値cMaxとする各種Truncated符号化（例えばTruncated unary符号化）を適応することが可能であり、この場合に符号量を低減させることができる。また、領域フィルタインデックスの最大限の範囲は０～AlfNumFilters-1が最大限の範囲であるから、AlfNumFilters-1を最大値cMaxとする上記符号化も有効である。また、最大値付き符号化を適用しない場合においても、０に近いほど短い符号語を割り当てる場合がある。この場合には、上記逆順の設定が有効である。

　このように推定インデックスを用いない方法では、領域ridxに対するフィルタインデックスfidxを直接、フィルタパラメータＦＰから復号する。

　＜推定フィルタインデックスを用いる方法＞
　推定インデックスを用いる方法においても、推定インデックスを用いない方法と同様、各部分領域に対するフィルタインデックスを復号する。推定フィルタインデックスを用いない方法では、各フィルタインデックスを、１種類のシンタックスalf_region_idxから復号するのに対し、推定フィルタインデックスを用いる方法では、２種類のシンタックス、領域フィルタインデックス推定フラグprev_alf_region_flag[]と、領域フィルタインデックス残差フラグrem_alf_region_flag[]から復号を行う。

　図７５は、推定フィルタインデックスを用いる方法におけるフィルタパラメータＦＰを示す。図７５のフィルタパラメータＦＰでは、インデックス総数AlfNumFiltersが２個の場合（alf_num_filters_minus1==1の場合）には、領域フィルタインデックスalf_region_idx[i]が符号化され、インデックス総数AlfNumFiltersが２個より大きい場合（alf_num_filters_minus1>1の場合）には、領域フィルタインデックス推定フラグprev_alf_region_flag[]と、領域フィルタインデックス残差インデックスrem_alf_region_flag[]が符号化される。領域フィルタインデックスalf_region_idx[i]が符号化される場合は推定フィルタインデックスを用いない場合であり、既に説明済みであるので説明を省略する。以下、推定フィルタインデックスを用いる場合の説明を行う。

　インデックス復号制御部１３３２は、領域インデックスが１からインデックス総数AlfNumRegions-1までについて、以下の繰り返し処理によりフィルタインデックスidxを復号する。

　各繰り返し処理（ループ変数はi）では、まず、残確定領域数remain_fixed_regions（後述）が０より大きいか否かを判定する。残確定領域数remain_fixed_regionsが０より大きい場合にはフィルタパラメータＦＰの復号によって、フィルタインデックスfidxを復号し、残確定領域数remain_fixed_regionsが０である場合には、フィルタパラメータＦＰの復号を行わず、フィルタインデックスfidxを決定する。

　残確定領域数remain_fixed_regionsが０より大きい場合には、まず、フィルタパラメータＦＰから領域フィルタインデックス推定フラグprev_alf_region_flag[i]を復号する。prev_alf_region_flag[i]が０の場合には、推定フィルタインデックスＭＰＭ（後述）をフィルタインデックスfidxとして設定する。すなわちfidx=MPMと設定する。prev_alf_region_flag[i]が０以外の場合には、領域フィルタインデックス残差インデックスrem_alf_region_idx[i]を復号する。rem_alf_region_idx[i]の値remが推定フィルタインデックスＭＰＭ未満である場合には、フィルタインデックスfidx=remが設定される。それ以外の場合には、フィルタインデックスfix=rem-1が設定される。

　なお、上記説明では、推定フィルタインデックスＭＰＭの数は１個であるからprev_alf_region_flag[i]は１ビットで符号化が可能である。また、推定フィルタインデックスＭＰＭの数は１個に限定せず、複数個を用いることとすることができる。この場合、ＭＰＭの数を識別できるだけのビット数で符号化が可能である。なお、複数のＭＰＭを用いる場合には、基本推定値算出部１３４１で算出されるＭＰＭと領域位置推定値算出部１３４２で算出されるＭＰＭが適当である。残フィルタ数が相対的に大きい場合には、新番号推定値算出部１３４３とし、それ以外の場合に、基本推定値算出部１３４１で算出されるＭＰＭと領域位置推定値算出部１３４２で算出されるＭＰＭとすることも適当である。

　領域フィルタインデックスalf_region_idx[i]の値は、０～nidxであるから、nidxを最大値cMaxとする各種Truncated符号化（例えばTruncated unary符号化）を適応することが可能であり、この場合に符号量を低減させることができる。また、領域フィルタインデックスの最大限の範囲は０～AlfNumFilters-1が最大限の範囲であるから、AlfNumFilters-1を最大値cMaxとする上記符号化も有効である。

　次に残確定領域数remain_fixed_regionsが０の場合について説明する。残確定領域数remain_fixed_regionsが０の場合には、フィルタパラメータＦＰを復号することなく領域インデックスiのフィルタインデックスfidxを後述の新規フィルタインデックスnidxに定める。すなわち、fidx=nidxが設定される。なお、残確定領域数remain_fixed_regionsとは、ある領域フィルタインデックスのフィルタインデックスを復号する時点における未確定の領域が存在するか否かを示す値である。領域数AlfNumRegionsとフィルタ数AlfNumFiltersが一致する場合には、例えば、領域数AlfNumRegionsとフィルタ係数の総数AlfNumFiltersがともに１６個である場合では、各々の部分領域には、異なるフィルタインデックスが割り当てられることは自明である。
この場合、インデックス制約２から、フィルタインデックステーブルFilterIdxTblAのようなフィルタインデックステーブルが一意に定まる。残確定領域数remain_fixed_regionsが０である場合とは、このような場合の一般化に当たる。この場合、インデックス制約２からフィルタパラメータＦＰからデータを読み出すことなく前述のfidx=nidxによりフィルタインデックスを定める。

　以上の説明した各部分領域のフィルタインデックスを復号する方法では、復号されるフィルタインデックスにより部分領域のマージを表現することができる。この場合、部分領域のマージの制限は、フィルタインデックスの値の制限に対応する。本実施例では、インデックス制約１とインデックス制約２を制限とする。この場合、実質的に制限はなく、ある部分領域は、その部分領域以外の全ての部分領域と同じフィルタインデックスを有することができる。全ての部分領域は同じフィルタ係数を共有することができる、すなわち、全ての部分領域は互いにマージ可能である。

　但し、インデックス制約１とインデックス制約２の他、既に処理されたフィルタインデックスの値に応じて、取り得るフィルタインデックスの値を制限することができる。例えば、領域インデックスの算出において用いられる多次元特性値において、特性値Ｘの値、もしくは、同じ特性値Ｙの値を有する既に処理された部分領域のフィルタインデックスを選択候補とすることもできる。この制約をインデックス制約３と呼ぶ。２次元インデックスの場合には、２つの選択候補と、新規フィルタか否かを識別することができるため、３値のフラグを復号することで、フィルタインデックスの値を決定することができる。なお、自由度の高い分類は、特にＲＡモードで適当であるので、ＢＡモードにはインデックス制約１～３を用い、ＲＡモードには、インデックス制約１～２を用いることも好適である。

　なお、インデックス制約１～３を用いるとは、インデックス制約１～３の値の範囲の積集合（ＡＮＤ）を用いて、復号するインデックスの値の範囲（選択候補リスト）を定めることを意味する。例えば、ＢＡモードが下記のように５×３の特性値領域を備え、下記のように部分空間Ｘのインデックスを復号する場合を説明する。

　０　０　１　１　２
　０　３　３　Ｘ　？
　？　？　？　？　？
この時、フィルタ係数の数は５である場合には、インデックス制約１とインデックス制約２で定まる値の範囲は、下記の通りである。
インデックス制約１の値の範囲＝｛０、１、２、３、４｝
インデックス制約２の値の範囲＝｛０、１、２、３、４｝
部分空間Ｘの左及び上に隣接する部分空間のインデックスは各々３と１であるから、インデックス制約３で定まる値の範囲は、下記の通りである。
インデックス制約３の値の範囲＝｛１、３｝
この時、インデックス制約１～インデックス制約３から定まるインデックスの範囲は｛１、３｝となる。なお、選択候補リストに対して新たに番号を０～選択候補数－１の選択インデックスとして振り直し、その選択インデックスを復号しても構わない。このような符号化方法は、実施形態３と４で説明済みである。例えば、インデックス制約３に対しては、マージ構成のため、詳細の説明は省略する。なお、インデックス制約２に対しては、マップ構成が対応する。実施形態３におけるマップ構成では、新フィルタであるか否かを示すフラグを明示的に符号化する。マップ構成では、新規フィルタであるか否かを示すフラグ（新規フィルタ係数フラグ、図５６ではalf_new_filter）と、領域インデックスの値（図５６ではalf_merge_idx[i][j]に相当）を分けて符号化し、新規フィルタ係数フラグが新規であることを示す場合には領域インデックスの値として、新規フィルタインデックスnidxを設定し、新規フィルタ係数フラグが新規でないことを示す場合（既に復号した部分領域とマージする場合）には、領域インデックスの値を復号する。このとき、取り得るインデックスの値の範囲は、新規フィルタインデックスを除く場合であるから、０から復号対象の部分領域の前に出現したフィルタインデックスの最大値となる。この場合も、残確定領域数remain_fixed_regionsが０の場合には、alf_new_filterを復号しない構成が可能である。

　（新番号識別処理部１３３５）
　新番号識別処理部１３３５は、領域インデックスiの各繰り返し処理において、新規のフィルタインデックスが復号されたか否かを判定し、さらに新規フィルタインデックスnidxを定める。新規のフィルタインデックスとは、直前の処理（領域インデックス０からi－１までの部分領域に対応するフィルタインデックスの復号処理）において出現していない値のフィルタインデックスのことである。ある部分領域のフィルタインデックスとして復号された値が、直前の処理までに既に用いられた値の何れかであるということは、対象の部分領域は、既に処理された部分領域の何れかと同じフィルタインデックスを有することを意味する。すなわちこの部分領域はマージされる部分領域であることを意味する。逆に、処理されたフィルタインデックスが、既に処理されたどの値とも異なること場合には、マージされない部分領域であることを意味する。なお、インデックス制約２から、マージされない部分領域のフィルタインデックスの値は、既に処理したフィルタインデックスの最大値＋１である。この値を新規フィルタインデックスnidxに定める。新規フィルタインデックスnidxの設定アルゴリズムは以下にまとめられる。

　最初に（領域インデックスi＝０の時点で）、新規フィルタインデックスnidxを１に初期化する。領域インデックスｉの繰り返し処理において、フィルタインデックスの復号がなされた後で、処理したフィルタインデックス（復号インデックス）とその時点の新規フィルタインデックスの値を比較する。フィルタインデックスと新規フィルタインデックスnidxが一致していた場合には、新規フィルタインデックスnidxを１だけインクリメントする。一致していない場合には、何もしない。

　（残数管理部１３３６）
　残数管理部１３３６は、領域インデックスiの各繰り返し処理において、残領域数remain_regionsと残フィルタ数remain_filtersとを算出し、推定値選択部１３４４に出力する。また、残領域数remain_regionsと残フィルタ数remain_filtersから、残確定領域数remain_fixed_regionsを算出し、インデックス復号部１３３４に出力する。

　残領域数remain_regionsは、ある領域インデックスiを処理する時点で、現在の部分領域を含めて、フィルタインデックスが確定していない部分領域の数である。確定していないフィルタインデックスの数は、ｉ＝０の段階で、部分領域の総数AlfNumRegionsであり、この値は、部分領域に対するフィルタインデックスが確定する度に減少する。よって、残領域数remain_regionsは、領域の総数AlfNumRegionsと領域インデックスの現在値iの差分から以下の式で算出できる。

　remain_regions(ｉ)　＝　AlfNumRegions－ｉ
　残フィルタ数remain_filters(ｉ)は、ある領域インデックスiを復号する時点で、出現していない（復号されていない）フィルタインデックスの数である。出現していないフィルタインデックスの数は、ｉ＝０の段階で、フィルタの総数AlfNumFiltersであり、新規のフィルタインデックスが復号される度に減少する。既に出現したフィルタ係数群の数は、新規フィルタインデックスnidxと一致するため、残フィルタ数remain_filtersは、フィルタ数の総数AlfNumFiltersと、既に出現した（既に復号した）フィルタ係数の最大値＋１である新規フィルタインデックスnidxから以下の式で算出できる。

　remain_filters(ｉ)　＝　AlfNumFilters－nidx
　続いて、残確定領域数remain_fixed_regions(ｉ)は、以下の計算で計算される。

　remain_fixed_regions(ｉ)＝remain_regions(ｉ) - remain_filters(ｉ)
　残確定領域数remain_fixed_regionsの０以上の値が取り得る。ある領域インデックスiのフィルタインデックスを処理する時点（部分領域i-1のフィルタインデックスの処理が終了した時点）で、残確定領域数remain_fixed_regionsが０であれば、領域インデックスiからAlfNumRegions-1までの残りの部分領域のフィルタインデックスが一意に確定する。

　また、復号装置が、適応的フィルタオフ復号部を有し、特性値部分領域単位でフィルタ処理のオフとするフラグを復号する場合には、部分領域０から部分領域ｉまでの領域において、オフとなる部分領域の数AlfOffRegionNum(ｉ)を用いて、残領域数を下記の式で求める。

　remain_regions(ｉ)　＝　AlfNumRegions－ｉ－AlfOffRegionNum(ｉ)
　（推定フィルタインデックス算出部１３３３）
　推定フィルタインデックス算出部１３３３は、基本推定値算出部１３４１、領域位置推定値算出部１３４２、新番号推定値算出部１３４３、推定値選択部１３４４を備える。なお、基本推定値算出部１３４１、領域位置推定値算出部１３４２、新番号推定値算出部１３４３の任意の１つ、もしくは、任意の２つの組み合わせを用いる構成も可能である。例えば、基本推定値算出部１３４１のみを有する構成は、非常に簡便な構成になり装置が簡単になる。また、領域位置推定値算出部１３４２のみを有する構成も簡単な構成で好適な符号化効率を有する。

　基本推定値算出部１３４１は、直前に復号された領域のフィルタインデックスを、推定値とするものであり、推定値mpm＝FilterIdxTbl[i-1]により推定値mpmを算出する。なお、復号装置が、適応的フィルタオフ復号部を有し、特性値部分領域単位でフィルタ処理をオフとするフラグを復号する場合において、直前に復号された部分領域がフィルタオフとされる場合には、処理順で最後にフィルタ処理がオンとなる部分領域のフィルタインデックスを推定値mpmとする。

　領域位置推定値算出部１３４２は、領域の多次元位置に応じて部分領域のフィルタインデックスを求める。領域インデックスiは、多次元空間の特性値領域におけるいずれかの特性値部分領域に対応する。多次元空間が２次元の場合、特性値領域は２つの軸（Ｘ軸とＹ軸）を有し、各部分空間は、Ｘ軸上の特性値Ｘ、Ｙ軸上の特性値Ｙによって、２次元座標上の点として表すことができる。２次元空間上のある部分領域には、隣接する部分領域として、同じ特性値Ｘを有する部分領域と、同じ特性値Ｙを有する部分領域がある。隣接する部分領域は似た画像特性を有するため、同じフィルタインデックスが割り当てられる確率が高い。領域位置推定値算出部１３４２は、このことを利用して推定値を求める。領域インデックスridxが特性値Ｘと特性値Ｙからラスタスキャンによるインデックス計算によって求められる場合、すなわち、ridx = x × w + yの場合、以下の方法でmpmを算出することができる。

　同じ特性値Ｘを有する部分領域のフィルタインデックスを用いて推定値は、mpm = FilterIdxTbl[i - w]により算出する。また、同じ特性値Ｘを有する部分領域には、FilterIdxTbl[i - w×2]、FilterIdxTbl[i - w×3]、・・・、FilterIdxTbl[0]も候補となる。そのため、mpm = FilterIdxTbl[0]を用いることも好適である。特に、特徴量モードがＢＡ１モードもしくはＢＡ２モードなど、単位領域のエッジ方向と活性度から算出される場合で、特性値Ｙがエッジ方向である場合には、特性値Ｙ＝２と特性性Ｙ＝０の部分領域が類似している場合もあり、統制値Ｙ＝０の値を用いるFilterIdxTbl[0]が好適となる。

　同じ特性値Ｙを有する部分領域のフィルタインデックスを用いて推定値は、mpm = FilterIdxTbl[i - 1]により算出する。この値は、基本推定値算出部１３４１の推定値と同一であるため、説明の構成では、同じ特性値Ｘを有する部分領域のフィルタインデックスを優先し、領域位置推定値算出部１３４２では、推定値としてmpm = FilterIdxTbl[i - w]を算出し出力する。

　新番号推定値算出部１３４３は、新規フィルタインデックスnidxをmpmとして算出し出力する。特に残フィルタ数が、残領域数と比べて、比較的大きい場合など、新規フィルタインデックスnidxの出現確率が高いと予測される場合には、nidxは良い推定値となる。

　推定値選択部１３４４は、基本推定値算出部１３４１、領域位置推定値算出部１３４２、新番号推定値算出部１３４３から得られる各推定値mpmから最適な推定値mpmを選択する。具体的には、残領域数remain_regionsと比較して残フィルタ数remain_filtersが大きいと判定される場合には、新番号推定値算出部１３４３の推定値mpmを用いる。例えば、
　remain_regions - remain_filters / 2 > 0
の場合に、新番号推定値算出部１３４３の推定値mpmを用いる。

　それ以外で、領域特性モードalf_region_adaptation_flagが２次元特性を有する特性値であり、その２次元特性において、領域インデックスに対応する部分領域のＸ座標が０であると算出される場合には、領域位置推定値算出部１３４１の推定値mpmを用いる。具体的には、ラスタスキャンによる領域インデックス計算がなされる場合には、X座標はridx % w、但し%は剰余演算を示す、で求められるため、ridx % w == 0である場合に、領域位置推定値算出部１３４１の推定値mpmを用いる。なお、wは特性値領域のＸ軸方向の長さ（幅）である。ラスタスキャンによる領域インデックス計算以外の領域インデックスが用いられる場合には、領域インデックスからＸ座標を求めるテーブルridx_to_x_tbl[]などを用いて求めることができる。また、ラスタスキャンによる領域インデックス計算以外の領域インデックスが用いられる場合には、領域位置推定値算出部１３４１の推定値mpmを用いない方法も好適である。

　それ以外の場合には、基本推定値算出部１３４１の推定値mpmを用いる。

　（フィルタインデックス復号手順）
　図７３は、領域構造復号部１３１２によるフィルタインデックス復号手順を示すフローチャートである。フィルタインデックスはＳＥ０１～ＳＥ１４によって復号される。

　まず、ＳＥ０１では、インデックス総数復号部１３３１により、フィルタパラメータＦＰ中に符号化されたalf_num_filters_minus1からフィルタ係数の数AlfNumFiltersを復号する。領域インデックス０に対するフィルタインデックスfidxは０に定める。ここで新インデックス番号nidxの初期値を１に設定する。

　続いて、ＳＥ０２は、ＳＥ０３～ＳＥ１４までのループを表す。インデックス復号制御部１３３２は、領域インデックスridxをループ変数とし１～AlfNumRegions-1までの値で繰り返し処理を行う。

　続いて、ＳＥ０３の残数計算では、残数管理部１３３６により、残フィルタ数と残領域数を計算する。

　続いて、ＳＥ０４では、残数管理部１３３６により、残領域においてフィルタが確定しているか否かを判定する。残フィルタ数＝残領域数の場合にはフィルタが確定していると判定される。フィルタが確定している場合には、フィルタインデックス推定値mpm＝新インデックス番号とした上で、ＳＥ１０に遷移する。フィルタが確定でない場合にはＳＥ０５に遷移する。

　ＳＥ０５では、推定値選択部１３４４により、残フィルタ数が、残領域数に対して多いか否かの判定が行われる。ここでは残フィルタ数が残領域数の1/2よりも大きい場合に多いと判定するが、判定方法はこの限りではなく1/2以外の値を用いる方法でも良いし、1/2に所定の定数Nを加えた値としても良い。残フィルタ数が多いと判定された場合にはＳＥ０６に遷移する。そうではない場合にはＳＥ０７に遷移する。

　ＳＥ０６では、新番号推定値算出部１３４３により、フィルタインデックス推定値mpmに新インデックス番号を設定する。

　ＳＥ０７では、領域位置推定値算出部１３４２により、フィルタインデックス推定値mpmに部分領域の位置に応じた推定値を設定する。具体的には、部分領域の位置が２次元の特性値領域上の左端の場合（特性値Ｘが０の場合）には、フィルタインデックス推定値mpmに、同じ特性値Ｘの値を有する既に処理済みの領域のフィルタインデックスを同一特性X推定番号として設定し、そうではない場合には、直前に処理した部分領域のフィルタインデックス番号を基本推定値としてフィルタインデックス推定値mpmに設定する。なおxxx ?yyy : zzzの記号は、xxxが真である場合にはyyy、偽である場合にはzzzを割り当てる３
項演算子である。

　ＳＥ０８では、インデックス復号部１３３４により、ＭＰＭフラグを復号する。

　ＳＥ０９では、インデックス復号部１３３４により、ＭＰＭフラグが０であるか否かの判定を行う。ＭＰＭフラグが０の場合にはＳＥ１０に、それ以外の場合にはＳＥ１１に遷移する。

　ＳＥ１０では、インデックス復号部１３３４により、ループインデックスridxで示される領域のフィルタインデックスにフィルタインデックス推定値mpmを割り当てる。

　ＳＥ１１では、インデックス復号部１３３４により、rem_idxを復号する。

　ＳＥ１２では、インデックス復号部１３３４により、rem_idxの値がＭＰＭ以上である場合には、rem_idxから１を減じた値をループインデックスridxで示される領域のフィルタインデックスに割り当て、それ以外の場合には、rem_idxを割り当てる。

　ＳＥ１３では、インデックス復号部１３３４により、復号したインデックスが、新インデックス番号以上であるか否かを判定する。新インデックス番号以上であればＳＥ１４に遷移し、そうではない場合には、ループに戻る。

　ＳＥ１４では、新番号識別処理部１３３５により、新インデックス番号を１だけ増加（インクリメント）させる。

　以上のフィルタインデックス復号手順を用いて、領域構造復号部１３１３は、フィルタインデックスを復号する。

　（領域インデックス算出部１３２２）
　領域インデックス算出部１３２２は、ある座標(x, y)を有するフィルタ対象画素の領域インデックスridxを求める。領域インデックスの算出方法は、特徴量モードalf_region_adaptation_flagにより異なる。

　図７２は、領域インデックス算出部１３２２の構成を示すブロック図である。領域インデックス算出部１３２２は、ＲＡモード領域インデックス算出部１３５０、ＲＡ第１特性値算出部１３５１、ＲＡ第２特性値算出部１３５２、ＲＡフィルタインデックス算出部１３５５、ＢＡ１モード領域インデックス算出部１３６０、ＢＡ１第１特性値算出部１３６１、ＢＡ１第２特性値算出部１３６２、ＢＡ１フィルタインデックス算出部１３６５、ＢＡ２モード領域インデックス算出部１３７０、ＢＡ２第１特性値算出部１３７１、ＢＡ２第２特性値算出部１３７２、ＢＡ２フィルタインデックス算出部１３７５、３Ｄモード領域インデックス算出部１３８０、３Ｄ第１特性値算出部１３８１、３Ｄ第２特性値算出部１３８２、３Ｄフィルタインデックス算出部１３８５、領域インデックス選択部１３２５を備える。

　領域インデックス算出部１３２２は、座標値（ｘＣ、ｙＣ）で指定される単位領域に対して、座標値、単位領域及びその周辺の画素値、単位領域及びその周辺の符号化パラメータから２つ以上の軸の特性値を算出して領域インデックスを算出する。

　領域インデックス選択部１３２５は、特徴量モードalf_region_adaptation_flagの値に応じて、領域インデックスの算出方法を切り替える。具体的には、特徴量モードがＲＡモード、ＢＡ１モード、ＢＡ２モード、３Ｄモードの何れであるかに応じて、ＲＡモード領域インデックス算出部１３５０、ＢＡ１モード領域インデックス算出部１３６０、ＢＡ２モード領域インデックス算出部１３７０、３Ｄモード領域インデックス算出部１３８０から出力される領域インデックスをそれぞれ選択する。

　本実施形態では、領域インデックス選択部１３２５は、多次元特性を有する複数の領域インデックス算出方法を備えている。領域インデックス選択部１３２５は、上記構成の他、ＲＡモード、ＢＡ１モード、ＢＡ２モード、３Ｄモードの内の任意の１つ、もしくは任意の２つ、もしくは任意の３つの組み合わせを備えることができる。この場合、少なくとも１つの座標空間分割モード（ここではＲＡモード）と、少なくとも１つの特徴空間分割モード（ここではＢＡ１モード、ＢＡ２モード、３Ｄモードのうち少なくとも１つ）とを備えれば、一方の特徴量による領域分類が適当ではない場合に、他方の領域分類で補うことができるため、符号化効率上適当である。また、さらに、互いに異なる複数の特徴空間分割モードを備えることも同様の理由で適当である。

　ＲＡモード領域インデックス算出部１３５０では、座標値（ｘＣ、ｙＣ）で指定される単位領域に対して、座標値を参照して領域インデックスを算出する。ＲＡ第１特性値算出部１３５１がX座標xCを量子化した値xIdxを出力し、ＲＡ第２特性値算出部１３５２がY座標yCを量子化した値yIdxを出力し、ＲＡフィルタインデックス算出部１３５５においてxIdxとyIdxから領域インデックスridxを算出する。より具体的には、下記の式により、xIdx、yIdxを算出する。
offset = 1 << (Log2MaxCUSize - 1)
xInterval = ( ( ( PicWidthInSamplesL + offset ) >> Log2MaxCUSize ) + 1 ) >> 2
yInterval = ( ( ( PicHeightInSamplesL + offset ) >> Log2MaxCUSize ) + 1 ) >> 2
xIdx = Min( 3, Floor( ( xC + x ) / ( xInterval << Log2MaxCUSize ) ) )
yIdx = Min( 3, Floor( ( yC + y ) / ( yInterval << Log2MaxCUSize ) ) )
ここで、Log2MaxCUSizeは最大CUサイズ（ＬＣＵサイズ）の2を底とした対数である。offset、xInterval、yIntervalは中間値である。Floor(x)はx以下の最大の整数を求める関数である。

　続いて、２次元の特性値Ｘ（＝xIdx）と特性値Ｙ（＝yIdx）から領域インデックスridxが以下の式によって割り当てられる。一つの方法では、テーブルregionTabを用いて以下の式で算出する。

　regionTab[16] = { 0, 1, 4, 5, 15, 2, 3, 6, 14, 11, 10, 7, 13, 12, 9, 8 }
　ridx = regionTab[ ( yIdx << 2 ) + xIdx ]
　なお、yIdx << 2は、yIdx × wとも表現することができる。ここでwは特性値Ｘの値の範囲である。

　この場合は、各単位領域は、一筆書き（ヒルベルトスキャン）によってスキャンされるため、隣接領域とのマージを優先するようなエンコーダを用いる場合において、領域のフィルタインデックスが短い符号語で符号化されるため符号化効率が向上する。

　なお、特性値Ｘ、特性値Ｙから領域インデックスridxを算出する方法にはラスタスキャンを用いることも可能である。この場合、
　ridx = ( yIdx × 2 ) + xIdx
とする。なお、ここでは、特性値Ｘの値域をwを4(=1<<2)としているが、この限りではない。

　ＢＡ１モード領域インデックス算出部１３６０では、座標値（ｘＣ、ｙＣ）で指定される単位領域に対して、単位領域もしくは単位領域周辺の画素値を参照して領域インデックスを算出する。ＢＡ１第１特性値算出部１３６１は単位ブロックの特性値Ｘとして活性度actを出力し、ＢＡ１第２特性値算出部１３６２は単位ブロックの特性値Ｙとして活性度directionを出力し、ＢＡ１フィルタインデックス算出部１３６５においてactとdirectionから領域インデックスridxを算出する。より具体的には、下記の手順により、actとdirectionを算出する。中間値として、各画素の水平活性度varTempHと垂直活性度varTempVを算出する。以下の式ではラプラシアンを用いているが、単なる差分でも構わない。
varTempH[ x ][ y ] = | ( s’[ xC+x, yC+y ] << 1 ) - s’[ xC+x-1, yC+y ] - s’[ xC+x+1, yC+y ] |
varTempV[ x ][ y ] = | ( s’[ xC+x, yC+y ] << 1 ) - s’[ xC+x, yC+y-1 ] - s’[ xC+x, yC+y+1 ] |
ここで、ｓ´は、適応フィルタの入力画素値、||は、絶対値を算出する関数である。

　続いて、以下の式によって、中間値varTemp1とvarTemp2を算出する。
varTemp1[ x ][ y ] = varTempH[ x ][ y ] + varTempV[ x ][ y ]
varTemp2[ x ][ y ] = ΣiΣj varTemp1[ x + i ][ y + j ]
但し、i, j = -1..1である。

　続いて、以下の式によって、単位ブロック内（もしくは単位ブロック周辺を含めて）で中間値を足し合わせることにより、単位ブロックの活性度を算出する。すなわち、活性度varTemp3、水平活性度varTempH1、水平活性度varTempV1を算出する。
varTemp3[ x ][ y ] = (ΣiΣj varTemp2[ (x << 2 ) + i ][ (y << 2) + j ]) >> 4 varTempH1[ x ][ y ] = ΣiΣj varTempH[ (x << 2 ) + i ][ (y << 2) + j ] varTempV1[ x][ y ] = ΣiΣj varTempV[ (x << 2 ) + i ][ (y << 2) + j ]
但し、i, j = 0..3である。

　第２特性値directionは、以下のように、単位ブロックの水平活性度varTempH1と水平活性度varTempV1の大きさの比較から算出する。
varTempV1[ x >> 2 ][ y >> 2 ] > varTempH1[ x >> 2 ][ y >> 2 ] << 1の場合に、direction = 1
それ以外で、varTempH1[ x >> 2 ][ y >> 2 ] > varTempV1[ x >> 2 ][ y >> 2 ] << 1の場合に、direction = 2
それ以外の場合に、direction = 0。
但し、上記では、エッジがあると想定される部分領域（水平活性度と垂直活性度の差が大きい部分領域）にdirectionを1もしくは2として、エッジがないと想定される部分領域（差が大きくない場合）のdirectionを0としたが、この値の配置に限らない。エッジがないとされる部分領域のdirectionを1として、エッジがあると想定される部分領域のdirectionを0もしくは2としても良い。すなわち、特性値Ｙにdirectionが配置される場合、その大小順序は、水平エッジ、エッジ無し、垂直エッジ、もしくは、垂直エッジ、エッジ無し、水平エッジという順となると良い。一般に垂直エッジが存在すると想定される部分領域と、水平エッジが存在すると想定される部分領域は、互いに異なる特性であるため、異なるフィルタ係数群を用いてフィルタ処理を行うことが多い。特性値Ｘもしくは特性値Ｙが同一の値の既に処理済みの部分領域（隣接領域）から、フィルタインデックスを推定する場合には、特性値領域において隣接する部分領域の特性が類似するように、上記順序の方が好適である。なお、フィルタインデックスに限らず、隣接領域からフィルタ係数群を推定する場合にも、上記順序が好適である。

　第１特性値actは、以下のように、中間値varTemp3をビット深度に応じて正規化し０～１５の値にクリップする。さらにクリップされた値をテーブルvarTabにより量子化することでactとする。
varTab[16] = { 0, 1, 2, 2, 2, 3, 3, 3, 3, 3, 4, 4, 4, 4, 4, 4 }
avgVar[x][y] = Clip3( 0, 15, (varTemp3[ x >> 2 ][ y >> 2 ] * 114 ) >> (3 + BitDepthY) )
act = Clip3( 0, 4, varTab[avgVar[x][y]])
　なお、Clip3（x, y, z）は値zをx以上、y以下にクリップする関数であり、BitDepthYは、画素のビット深度を示す。

　テーブルvarTabは、小さい活性度の領域ほど細かく分類するように設定する。すなわち、小さい値に量子化される、量子化前活性度varTemp3の範囲の方が、大きな値に量子化される量子化前活性度varTemp3の範囲よりも狭くなるように設定する。一般に画像は、小さい活性度の領域に集中することが多いからである。小さい値に量子化される値の範囲の方が小さい、という上記制約は必ずしも全ての段階で成り立つ必要はなく、多くの場合に成り立てばよい。量子化後活性度から3つの値0, m, nを選び出した場合（但し0<m<n）、0の範囲＜mの範囲<nの範囲となるm, nの組が存在するという制約で良い。また、量子化化後活性度から4つの値、0, l, m, mを選び出した場合（但し0<l<m<n）、0の範囲＜＝ｌの範囲＜ｍの範囲＜＝ｎの範囲となるl, m, nの組が存在するという制約でも良い。

　ＢＡ１フィルタインデックス算出部１３６５は、以下の式により、
ridx = act + w * direction
を求める。但しここではw=5である。

　以上のＢＡ１モードでは、互いに直交する方向の活性度を用いて、２次元特性値を求めることにより、比較的少ない演算量で互いに直交する２つの方向のエッジを識別し、異なる領域として分類することができる。ここでは水平方向活性度と垂直方向活性度を用いることによって水平方向エッジと垂直方向エッジを識別することができる。２次元特性値を活性度と方向性という２軸にする場合に、活性度の算出に方向性の算出に用いる水平方向活性度と垂直方向活性度を使用することができるため、活性度の算出と方向性の算出に別の中間値を用いる場合に比べて演算量を削減することができる。また、方向性の算出は、水平方向活性度と垂直方向活性度の比較によって行うため比較的小さな演算量で実現可能である。

　ＢＡ２モード領域インデックス算出部１３７０では、座標値（ｘＣ、ｙＣ）で指定される単位領域に対して、座標値を参照して領域インデックスを算出する。ＢＡ２第１特性値算出部１３７１は単位ブロックの特性値Ｘとして活性度actを出力し、ＢＡ２第２特性値算出部１３７２は単位ブロックの活性度directionを出力し、ＢＡ２フィルタインデックス算出部１３７５においてactとdirectionから領域インデックスridxを算出する。より具体的には、下記の流れにより、actとdirectionを算出する。まず、中間値として、各画素の第１の斜め活性度varTempDAと、第１の斜め活性度とは異なる方向の第２の斜め活性度varTempDBを算出する。以下の式ではラプラシアンを用いているが、単なる差分でも構わない。
varTempDA[ x ][ y ] = | ( s’[ xC+x, yC+y ] << 1 ) - s’[ xC+x-1, yC+y+1 ] - s’[ xC+x+1, yC+y-1 ] |
varTempDB[ x ][ y ] = | ( s’[ xC+x, yC+y ] << 1 ) - s’[ xC+x+1, yC+y-1 ] - s’[ xC+x-1, yC+y+1 ] |
ここで、ｓ´は、適応フィルタの入力画素値、||は、絶対値を算出する関数である。

　続いて、以下の式によって、中間値varTemp1とvarTemp2を算出する。
varTemp1[ x ][ y ] = varTempDA[ x ][ y ] + varTempDB[ x ][ y ]
varTemp2[ x ][ y ] = ΣiΣj varTemp1[ x + i ][ y + j ]
但し、i, j = -1..1である。

　続いて、以下の式によって、単位ブロック内（もしくは単位ブロック周辺を含めて）で中間値を足し合わせることにより、単位ブロックの活性度を算出する。すなわち、活性度varTemp3、水平活性度varTempDA1、水平活性度varTempDB1を算出する。
varTemp3[ x ][ y ] = (ΣiΣj varTemp2[ (x << 2 ) + i ][ (y << 2) + j ]) >> 4 varTempDA1[ x ][ y ] = ΣiΣj varTempDA[ (x << 2 ) + i ][ (y << 2) + j ] varTempDB1[ x ][ y ] = ΣiΣj varTempDB[ (x << 2 ) + i ][ (y << 2) + j ]
但し、i, j = 0..3である。

　第２特性値directionは、以下のように、単位ブロックの水平活性度varTempDA1と水平活性度varTempDB1の大きさの比較から算出する。
varTempDA1[ x >> 2 ][ y >> 2 ] > varTempDB1[ x >> 2 ][ y >> 2 ] << 1の場合に、direction = 1
それ以外で、varTempDB1[ x >> 2 ][ y >> 2 ] > varTempDA1[ x >> 2 ][ y >> 2 ] << 1の場合に、direction = 2
それ以外の場合に、direction = 0。

　第１特性値actは、ＢＡ１モードと同様の方法により中間値varTemp3から算出される。

　ＢＡ２フィルタインデックス算出部１３７５も、ＢＡ１と同様actとdirectionからridxを求める。

　以上のＢＡ２モードは、ＢＡ１モードと同様、互いに直交する方向の活性度を用いて、２次元特性値を求めることにより、比較的少ない演算量で互いに直交する２つの方向のエッジを識別し、異なる領域として分類することができる。ここでは２つの互いに直交する斜め方向活性度を用いることによって斜め４５度エッジとそれと直交する斜め１３５度方向エッジを識別することができる。なお上記角度は、水平方向を０度とした場合のエッジのなす角で説明している。

　ＢＡ１モードとＢＡ２モードは両者を備えることは互いに相補的な識別能力を有する２つの直交した特性値算出方法を用いるという点で適当である。
ＢＡ２モードは、ＢＡ１モードが識別できない斜め４５度エッジとそれと直交する斜め１３５度方向エッジを識別することができ、ＢＡ１モードはＢＡ２モードでは識別できない水平方向エッジと垂直方向エッジを識別できることから、２つのモードは互いに相補的な関係を有する。ＢＡ１モードが用いる２つの活性度と、ＢＡ２モードが用いる２つの活性度は、４５度の角度を有する。エッジの角度は１８０度点対称性を有することから、４５度の角度をずらした２つのモードは、効果の上では互いに直交する特性値算出方法と言える。なお、３つのＢＡモードを有する場合は、互いに３０度角度を変更した特性値算出方法、すなわち、０度（０度＋９０度）、３０度（３０度＋１２０度）、６０度（６０度＋１５０度）を活性度として用いるＢＡ１モード、ＢＡ２モード、ＢＡ３モードを用いる例も、互いに相補的な識別方法を有する３つの直交した特性値算出方法という意味で適当である。なお、括弧内、例えば０度と９０度は、各モードで用いる活性度の方向を意味し、モード内では互いに直交する方向を用いることが適当である。さらに、ＢＡ２モードは、活性度を求める方向以外の部分、すなわち、２つの活性度を求める計算、２つの活性度を加算し、単位領域の活性度を求める計算、活性度を量子化し特性値Ｘを求める計算、活性度の比較により特性値Ｙを求める計算、特性値Ｘと特性値Ｙから領域インデックスを求める計算に関して、ＢＡ１モードと同じ構成を用いることが可能であり、複数の特徴量モードを備える構成でありながら、装置の複雑度増加を最小限度に抑えることができる。

　また、２つ以上の方向の原特性値（例えば、２つ以上の方向の活性度、もしくは、２つ以上の方向への差分値）を用いてＢＡ１モード及びＢＡ２モード以上の方向識別性を有するモードを備えることも可能である。しかし、原特性値の方向を増やす場合には、特に復号装置の演算量を増加させることになるため、演算量が小さいことを重視する環境では好適ではない。一般に１枚の画像のドミナントなエッジ方向の数は限られており、適応フィルタは限られたドミナントなエッジ方向を識別することができれば、効果の増大が行えるため、２つの方向の活性度から方向性を識別するＢＡ１モード、ＢＡ２モードのいずれか一方を選択的に用いることができれば、殆どの画像に十分な効果を発揮することができる。

　３Ｄモード領域インデックス算出部１３８０は、座標値（ｘＣ、ｙＣ）で指定される単位領域に対して、座標値を参照して領域インデックスを算出する。３Ｄ第１特性値算出部１３８１は単位領域の特性値Ｘを算出し、３Ｄ第２特性値算出部１３８２は単位領域の特性値Ｙを算出し、３Ｄ第２特性値算出部１３８３は単位領域の特性値Ｚを算出する。特性値Ｘと特性値Ｙの算出方法は、ＢＡ１モードの特性値Ｘactと特性値Ｚdirectionの算出方法と算出方法が等しいの説明を省略する。第３の特性値Ｚは、以下の式により、単位領域の画素値の平均値avgValを量子化した値valを用いる。
valTemp[x][y] =ΣiΣj s’[ xC + i ][ yC + j ] >> (BitDepthY)
但し、i, j = 0..3である。
valTab[16] = { 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1, 1 }
act = Clip3( 0, 1, valTab[valTemp[x][y]])
　続いて、３Ｄフィルタインデックス算出部１３８５は、以下の式で領域インデックスridxを求める。

　ridx = (act + direction * w) * h + val
但し、ここではw = 5、h = 2である。また、平均画素値avgValの代わりに、座標値を用いて特性値Ｚを算出しても良い。

　（フィルタ係数割り付け部１３２３）
　フィルタ係数割り付け部１３２３は、領域にフィルタ係数を割り当てる。まず、領域インデックス算出部１３２２で算出された領域インデックスridxと、領域構造復号部１３１２で復号されたフィルタインデックステーブルFilterIdxTbl[]から、フィルタインデックスfidxを、fix = FilterIdxTbl[ridx]により算出する。続いて、得られたフィルタインデックスfixに対応するフィルタ係数RegionFilterLuma[ridx]をフィルタ係数格納部１３１５から読み出し、フィルタ部１３２４に出力する。

　領域インデックス算出部１３２２とフィルタ係数割り付け部１３２３は全体として、各単位領域に対してフィルタ係数群の割り付けが行われる。すなわち、領域インデックス算出部１３２２において各単位領域に対して領域インデックスridxが算出され、フィルタ係数割り付け部１３２３において領域インデックスridxからフィルタ係数群の割り付けが行われる。

　なお、対象の部分領域がフィルタオフとなる場合には、フィルタ係数割り付け部１３２３は、その領域に対するフィルタ係数を割り付けず、フィルタ部１３２４に対してフィルタオフとする信号を出力する。例えば、適応的フィルタオフ復号部において、各領域に対するフィルタオフが指定されている場合や、ＣＵ単位などの単位領域毎にフィルタオフが指定されている場合がこれに該当する。

　（フィルタ部１３２４）
　フィルタ部１３２４は、対象単位領域に対して、フィルタ係数RegionFilterLuma[fidx]を用いたフィルタ処理を施すことによって、該対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ１５に格納される。

　より具体的には、フィルタ済復号画像Ｐ＿ＦＬ（「フィルタ後画像」とも呼称する）におけるフィルタ対象画素の画素値をＳF（ｘ’、ｙ’）と表し、デブロック済復号画像Ｐ＿ＤＢ（「フィルタ前画像」とも呼称する）における画素値をＳ（ｘ、ｙ）と表すことにすると、フィルタ部１３２４は、画素値ＳF（ｘ’、ｙ’）を、上述の数式（１－４）によって算出する。

　なお、数式（１－４）においては、すでに説明したように、座標（ｘ、ｙ）は座標（ｘ’、ｙ’）と同一の座標としてもよいし、１対１の対応を有していれば、異なった座標としてもよい。また、a（ｕ、ｖ）は、フィルタ前画像の画素値Ｓ（ｘ＋ｕ、ｙ＋ｖ）に乗ぜられるフィルタ係数を表しており、フィルタ係数割り付け部１３２３から供給されたフィルタ係数RegionFilterLuma[fidx]の各成分に対応する。また、oは、フィルタ係数RegionFilterLuma[fidx]に含まれるオフセット成分を表している。

　また、数式（１－４）におけるＲは、フィルタ処理において参照される領域（「フィルタ参照領域Ｒ」とも呼称する）を表している。参照領域Ｒのタップ数は、alf_length_luma_minus5_div2によって指定される。参照領域Ｒとしては、例えば、図７に示したように、alf_length_luma_minus5_div2の各値に応じて設定される参照領域Ｒ０、Ｒ１、およびＲ２の何れかを用いればよい。なお。図７においては、菱形の参照領域を例示しているが、本実施形態における参照領域Ｒは、これらの例に限定されるものではなく、alf_length_luma_minus5_div2によってタップ数が指定される矩形状の参照領域を用いてもよい。

　なお、復号装置が、適応的フィルタオフ復号部を有する場合で、フィルタ係数の割り付けがない場合には、フィルタ処理は行わない。

　以上、説明した構成によれば、動画像復号装置は、座標で領域を定めるＲＡモードと領域単位のインデックス復号を組み合わせることができる。ＲＡモードでは、領域インデックス算出部１３２２において、フィルタ対象画素及び画素を含むブロックの座標を用いて画像を分割する。また、領域構造復号部１３１２では、分割した領域各々に対して、各領域に対するフィルタインデックスを復号する。これによって、ある対象領域は、対象領域以外の全ての領域と同じフィルタインデックスを有することができ、全ての領域は互いにマージ可能である。画像の各領域は、上側に空があり、下側に都市がある例、などのように上下の分類が良いこともある。また、中心に人物があり、左右に背景があるなどの例では、左右に分類した上で、隣接していない左右の背景が同じ特徴を有する場合もある。このように、座標をベースに領域（各単位領域）を分類するＲＡモードにおいては、Ｙ軸方向隣接関係、Ｘ軸方向隣接関係に応じて２次元的に部分領域がマージできることが重要である。さらに後者の例のように隣接関係に関わらず部分領域のマージが可能であれば同じ特徴を有する部分領域間で同じフィルタ係数を共有することが、より多くの場合で可能になる。よって、座標で部分領域を定めるＲＡモードと、各部分領域に対するフィルタインデックス復号を組み合わせる方法が好適である。

　さらに、説明した構成によれば、動画像復号装置は、単位領域の座標から部分領域を定めるＲＡモードと単位領域の画素値から部分領域を定めるＢＡ１モードとを切り替えることができる。各々の特徴量は共に、領域インデックス算出部１３２２において、２つ以上の異なる特性値（単位領域の２次元特性値）から単位領域の領域インデックスを定める。２次元特性値を用いる領域分割の場合は、同じ特性値を有する部分空間同士は似た特徴を有するため、同一のフィルタ係数群を用いて好適なフィルタ処理が可能である。部分空間毎に異なるフィルタ係数群を符号化する場合に比べてフィルタ係数の符号量を低減することができる。このように、２次元特性値を用いる場合には、Ｙ軸方向の隣接関係、Ｘ軸方向の隣接関係に応じて２次元的に部分領域がマージできることが重要である。さらに、特徴量モードによってはＲＡモードと同様、隣接関係に関わらず部分領域間のマージが可能であることが好適である場合もある。例えば、ＢＡ１モードにおいても、特性値Ｙが０の部分領域と、それとは隣接関係にない特性値Ｙが２の部分領域が類似しており、マージすることが好適である場合がある。具体的には、エッジ以外の領域（特性値Ｙのdirection=0）とエッジの領域（特性値Ｙのdirection=2）は類似している。２次元特性を有する場合には、各部分に対するフィルタインデックスを復号する方法は、多次元の特性値の軸（２次元であれば上下、左右）を問わない隣接関係によるマージが可能であり、及び、隣接関係によらないマージも可能であるため適当である。すなわち、複数の特徴量モードを切り替えることが可能で、その特徴量モードの各々が、２次元特性を有する場合には、各部分領域に対するフィルタインデックスを復号する構成が有効である。

　さらに、説明した構成によれば、動画像復号装置は、３次元の特性値を用いて領域インデックスを算出する３Ｄモードを有する。３Ｄモードは部分空間同士がＸ軸、Ｙ軸の他、Ｚ軸の隣接関係を有するため、その全ての部分領域とのマージが可能な各部分領域に対するフィルタインデックスを復号する構成との組み合わせが有効である。

　また、説明した構成によれば、推定フィルタインデックス算出部１３３３は、領域位置推定値算出部１３４２を有し、Ｘ軸方向に隣接する場合、Ｙ軸方向に隣接する場合の既に符号化された隣接領域のインデックスを推定値とすることにより、比較的出現確率の高い隣接領域がマージされる場合に短い符号語を割り振る。これにより、自由度の高いマージを可能としながら、領域構造符号化に必要な符号量を低減することができる。また、残フィルタ数と残領域数を残数管理部１３３６で管理し、残領域数に比べて残フィルタ数が比較的多い場合に、インデックスのを推定値を新フィルタのインデックスとする新番号推定値算出部１３４３により、領域構造符号化に必要な符号量を低減することができる。

　また、説明した構成によれば、領域インデックスに対してつけられるフィルタパラメータの範囲を０以上、フィルタ係数AlfNumFiltersの数－１に制限する。参照可能なフィルタ係数に対して０からフィルタ係数AlfNumFiltersの数－１のフィルタインデックスが割り当てられ、フィルタインデックスに応じてフィルタ係数が格納されていることから、この制限によって、復号したフィルタインデックスを用いて容易な処理で領域インデックスからフィルタインデックスを求めフィルタ係数を割り付けることができる。

　また、説明した構成によれば、フィルタパラメータの範囲をさらに、領域インデックス順にフィルタインデックスを復号する場合において、復号されるフィルタインデックスの範囲は、０以上、既に処理した領域のフィルタインデックスの最大値＋１以下に制限されるものとする。マージされる場合が、０以上最大値以下。マージされない新フィルタの場合が最大値というように値を振ることにより、新フィルタである場合（マージしない場合）も、既に処理した領域とマージする場合も、同一の方法で扱うことができるため処理が容易になる。また、最大値を管理するだけで、容易に新規フィルタの出現を判定することができる。さらに残フィルタ数と残領域数が一致する場合など、フィルタインデックスが確定する場合に、フィルタインデックスの符号化をスキップすることができ、フィルタインデックスの符号量を低減することができる。フィルタインデックスが確定する場合の、フィルタインデックスの設定も容易である。

　（動画像符号化装置８）
　以下では、符号化対象画像を符号化することによって符号化データ＃７を生成する動画像符号化装置８について、図７０を参照して説明する。なお、以下では、既に説明した部分については、同じ文言および同じ符号を用い、その説明を省略する。

　本実施形態に係る動画像符号化装置８は、実施形態１に係る動画像符号化装置２の備える適応フィルタ６０に代えて、適応フィルタ１４０を備えている。本実施形態に係る動画像符号化装置８のその他の構成は、実施形態１に係る動画像符号化装置２の構成と同様であるので、説明を省略する。

　適応フィルタ１４０は、デブロック済復号画像Ｐ＿ＤＢに対して、適応的フィルタ処理を施すことによって、フィルタ済復号画像Ｐ＿ＦＬを生成する。生成されたフィルタ済復号画像Ｐ＿ＦＬは、バッファメモリ２４に格納される。また、適応フィルタ１４０は、フィルタ処理に用いた各種の適応フィルタ情報をフィルタパラメータＦＰとして可変長符号符号化部２２に供給する。可変長符号符号化部２２は、フィルタパラメータＦＰを符号化データ＃７の一部として符号化する。

　図７０は、適応フィルタ１４０の構成を示すブロック図である。図７０に示すように、適応フィルタ１４０は、適応フィルタ情報設定部１４１、および、適応フィルタ部１４２を備えている。

　適応フィルタ情報設定部１４１は、図７０に示すように、タップ数設定部１４１１、領域構造設定部１４１２、特徴量モード設定部１４１３、フィルタ係数残差生成部１４１４、フィルタ係数格納部１４１５、及び、フィルタパラメータ生成部１４１６を備えている。

　タップ数設定部１４１１は、フィルタ係数のタップ数を指定するためのシンタックスalf_length_luma_minus5_div2を設定する。設定されたシンタックスalf_length_luma_minus5_div2は、フィルタパラメータ生成部１４１６に供給される。

　領域構造設定部１４１２は、フィルタインデックステーブルFilterIndexTblを設定する。

　特徴量モード設定部１４１３は、シンタックスalf_region_adaptation_flag を設定する。設定されたシンタックスalf_region_adaptation_flagは、適応フィルタ部１４２に供給される。

　なお、alf_length_luma_minus5_div2、FilterIndexTbl、及び、alf_region_adaptation_flag、は、符号化効率がより向上するように設定される。

　フィルタ係数残差生成部１４１４は、以下の式によってシンタックスalf_coeff_luma[i][k]を生成する。

　alf_coeff_luma[i][k] = AlfRegionFilterCoeff[i-1][k] - AlfRegionFilterCoeff[i][k] (j=0以外の場合)
　alf_coeff_luma[0][k] = AlfRegionFilterCoeff[i][k] (i=0の場合)
　生成されたフィルタ係数残差alf_coeff_luma[i][k]はフィルタパラメータ生成部１４１６に供給される。

　フィルタ係数格納部１４１５には、後述するフィルタ係数導出部１４２３から供給されるフィルタ係数群AlfRegionFilterCoeff[i][k]が格納される。

　フィルタパラメータ生成部１４１６は、シンタックスalf_length_luma_minus5_div2とalf_region_adaptation_flag、フィルタインデックスFilterIndexTbl、、および、alf_coeff_luma[i][k]からフィルタパラメータＦＰを生成する。ここで、フィルタインデックスFilterIndexTblの符号化においては、ｉ＝１からAlfNumRegion-1までの各領域において、０から参照可能なフィルタインデックスの数―１までのフィルタインデックスを符号化することによって行われる。フィルタインデックスは、場合により、フィルタインデックス推定値を用いて符号化がなされる。生成されたフィルタパラメータＦＰは、可変長符号符号化部２２に供給される。

　一方で、適応フィルタ部１４２は、領域インデックス算出部１３２２、フィルタ係数導出部１４２３、及びフィルタ部１３２４を備えている。

　フィルタ係数導出部１４２３は、対象単位領域におけるフィルタ済復号画像Ｐ＿ＦＬと符号化対象画像との誤差がより小さくなるようなフィルタ係数RegionFilterLuma[i][j]を導出する。導出されたフィルタ係数RegionFilterLuma[i][j]は、フィルタ部１３２４に供給されると共に、フィルタ係数格納部１４１５に格納される。

　フィルタ係数導出部１４２３によるフィルタ係数群RegionFilterLuma[i][k]の導出処理は、実施形態１におけるフィルタ係数導出部６２４と同様であるので、ここでは説明を省略する。

　＜実施形態５の変形例＞
　以下では、実施形態５の変形例について、図７７から図８５（ａ）～（ｆ）までを参照して説明する。

　本変形例の具体的な説明に先立ち、非特許文献４に開示された技術の課題について図７７を参照して説明する。

　非特許文献４に開示された技術では、単純に縦方向及び横方向に関する間引きを行うことから、単位領域が小さい場合において、特性値を算出するための情報が不足して、単位領域を適切に分類できないという課題があった。単位領域の分類精度が低下すると、領域単位にフィルタ係数群を変更するような適応フィルタの効果が低下するために、符号化効率が低下する。

　具体的には、非特許文献４では、図７７に示すように、４×４画素の単位領域の場合において、黒丸で示す単位領域内の４点のラプラシアンの値を用いて、特性値を計算するが、間引きを行わない場合に比べ符号化効率が低下していた。

　本変形例では、非特許文献４の上記課題を解決するための構成について説明する。

　本変形例では、上述の構成に比べて、領域インデックス算出部１３２２の構成が異なる。その他の構成は、上述したものと同じである。

　本変形例に係る領域インデックス算出部１３２２は、ＢＡモードにおける特性値算出の演算量を削減しつつ、フィルタ対象画素の領域インデックスridxを求めるための構成である。

　図７８は、本変形例に係る領域インデックス算出部１３２２が備えるＢＡモード領域インデックス算出部１３６０´の構成を示すブロック図である。本変形例において、ＢＡモード領域インデックス算出部１３６０´は、上述したＢＡ１モード領域インデックス算出部１３６０及びＢＡ２モード領域インデックス算出部１３７０の少なくとも何れかの代わりに用いられる。

　ＢＡモード領域インデックス算出部１３６０´は、原特性値算出部１３６３及び第１特性値算出部１３６１´、第２特性値算出部１３６２´、フィルタインデックス算出部１３６５を備える。

　原特性値算出部１３６３は、第１特性値算出部１３６１´及び第２特性値算出部１３６２´において、特性値Ｘ及び特性値Ｙをそれぞれ算出するために用いられる中間値を算出する。

　図７８に示すように、原特性値算出部１３６３は、画素特性値算出部１３６３１、ブロック特性値加算部１３６３２、特性値算出属性設定部１３６３３を備えている。また、特性値属性設定部１３６３３は、ステップサイズ設定部１３６３４、ウィンドウサイズ設定部１３６３５、及び、ステップ方法設定部１３６３６を備えている。

　図８０は、ウィンドウと拡張単位領域を説明するための図である。ここで、ウィンドウとは、単位領域の周辺に設定される領域のことを指す。

　図８０において、太線で示す領域が単位領域であり、該単位領域は、左上座標(sx, sy)、横BlkSizeX画素、及び縦BlkSize画素の矩形で示されている。拡張単位領域とは、単位領域にウィンドウを付加して拡張した領域である。図８０に示すように、ウィンドウのサイズをdx0、dx1、dy0、dy1を用いて表現したとすると、拡張単位領域は、横BlkSizeX＋dx0＋dx1、縦BlkSizeY＋dy0＋dy1の矩形になる。ＢＡモード領域インデックス算出部１３６０´は、単位領域の特性値を、単位領域より大きい拡張単位領域における１または複数の画素に対して中間値を算出することにより特性値を算出する。

　図７９は、ＢＡモード領域インデックス算出部１３６０´の動作をプログラミング言語Ｃに似た形式で記述及び表現したものであり、領域特性算出関数を示している。図７９を参照しながら、ＢＡモード領域インデックス算出部１３６０´の各部の動作を説明する。

　ＢＡモード領域インデックス算出部１３６０´は、座標（sx, sy）で指定される単位領域の領域インデックスを算出する。領域特性算出関数は、演算量削減のため、複数の単位領域の領域インデックスを同時に算出する。この時、単位領域のサイズが（BlkSizeX、BlkSizeY）であり、算出対象となる単位領域の数は（numBlkX、numBlkY）で示される。ＢＡモード領域インデックス算出部１３６０´では、１画素おきに中間的な特性値を算出するのではなく、後述するステップサイズ（stepX、stepY）を用いて、Ｘ方向にstepXおき、Ｙ方向にstepYおきに中間的な特性値を算出する間引き演算により演算量を削減する。間引き演算は、サブサンプリングとも呼ばれる。

　また、間引き演算とは、所定の領域において、画素の間引きを行い、間引かない画素に対してのみ中間的な特性値を算出するものであると表現することもできる。

　特性値算出属性設定部１３６３３は、ステップサイズ設定部１３６３４、ウィンドウサイズ設定部１３６３５、ステップ方法設定部１３６３６を用いて、間引き演算のための各種のパラメータを設定する。

　ステップサイズ設定部１３６３４は、Ｘ方向のステップサイズとＹ方向のステップサイズを各々、stepX、stepYとして算出する。ウィンドウサイズ設定部１３６３５は、単位領域よりも大きな領域の画素値を用いて特性値を算出するために用いるパラメータ（ウィンドウサイズ）を設定する手段であり、Ｘ方向開始座標拡張量dx0、Ｘ方向終了座標拡張量dx1、Ｙ方向開始座標拡張量dy0、Ｙ方向終了座標拡張量dy1を設定する。ここで、dx0、dx1、dy0、dy1は、０以上の整数である。ステップ方法設定部１３６３６は、ステップ方法を定める間引きモードmodeを設定する。

　画素特性値算出部１３６３１は、設定されたステップサイズ（stepX、stepY）、ウィンドウサイズ、ステップ方法modeを用いて、中間値として用いられる画素単位の特性値を求める。画素特性値算出部１３６３１は、図７９のＳ７９００、Ｓ７９０１で示すように、単位領域の座標（ｓｘ、ｓｙ）よりもウィンドウサイズ（dx0、dx1、dy0、dy1）だけ大きい領域を、ステップサイズ（stepX、stepY）を用いた間引きを行いながら繰り返し処理を行う。より具体的には、算出する領域の開始座標を、Ｘ方向開始座標拡張量dx0、Ｙ方向開始座標拡張量dy0だけ小さく設定し、算出する領域の終了座標を、Ｘ方向終了座標拡張量dx1、Ｙ方向終了座標拡張量dy1だけ大きく設定する。ステップサイズstepX、stepYが１のときは毎画素に計算し、2のときは1画素置きに計算する。これによって、中間値算出の演算量がstep1×step2の大きさに比例して小さくなる。Ｓ７９０２にて、画素特性値算出部１３６３１は、中間値算出に用いる座標、ここでは(x、y)を修正し(xx, y)を求めることにより、間引きモードmodeの処理を実行する。ここではY座標が奇数で、あり、modeが1である場合に、中間値算出に用いる座標をX方向に＋１だけずらす（変位させる）処理を行う。また、Ｓ７９０２の処理では、X方向に＋１だけずらす代わりに、－１だけずらす方法や＋３だけずらす方法などをとることができる。また、Y座標が奇数の場合ではなく、Ｙ座標が偶数の場合にずらすことも可能である。また、一般にＹ座標と所定の整数Ｍの剰余を計算し、剰余の値に応じてＸ座標をずらすことも適当である。このような例は図８５で説明する。Ｍ＝３の場合、剰余が０で＋０、剰余が１で＋１、剰余が２で＋２とする方法などがある。また、上記の説明に置いてＸ座標とＹ座標を逆転させた場合、Ｘ座標と所定の整数の剰余を計算し、剰余の値に応じてY座標をずらすことも適当である。なお、この変位を加える処理は、繰り返し処理内において、変位を加えるのではなく、繰り返しの始点に変位を加える処理においても実現可能である。

　画素特性値算出部１３６３１による中間値算出はＳ７９０３、Ｓ７９０４にて行われる。ここではラプラシアン演算を行っているが、ラプラシアンに限らず、差分、差分絶対値や、内積、任意のフィルタ、および、それらの積、２乗値、２乗値の差などを求めることによって中間値を算出することも可能である。また、ここでは第１ＢＡモードに対応する中間値を算出しているが、以下の式を用いれば、第２ＢＡモードに対応する中間値を算出することも可能である。

　　　　varTemp1[x/stepX][y/stepY] = abs (s´[xx][y] * 2 - s´[xx-1][y-1] - s´[xx+1][y+1] );
　　　　　varTemp2[x/stepX][y/stepY] = abs (s´[xx][y] * 2 - s´[xx+1][y-1] - s´[xx-1][y+1] ) ;
　上記中間値算出の処理はnumBlkX、numBlkYで示される複数の単位領域に対して一斉に行われる。拡張単位領域を用いて中間値を算出する場合には、隣接する単位領域間で、ウィンドウサイズにかかる中間値が重複する。従って、複数の単位領域を一斉に処理する場合には冗長な中間値の算出が不要になるため演算量が低減する。なお、十分な数の単位領域の領域インデックスを一斉に計算する場合には、ウィンドウサイズによる演算量の増加は無視できる程度となる。

　続いて、算出された中間値varTemp1とvarTemp2とを用いて、ブロック特性値加算部１３６３２は、Ｓ７９０７、Ｓ７９０８の繰り返し処理によって、各単位領域（bx, by）についてのブロック中間値varTempBlk1[bx][by]、varTempBlk2[bx][by]を計算する。なお、bx、byは単位領域のブロック座標であり、単位領域の座標(x, y)をそれぞれ単位領域のサイズ（stepX、stepY）で除算して定まる座標である。すなわちbx = x / stepX, by = y / stepYである。

　ブロック特性値加算部１３６３２では、計算された中間値varTemp1とvarTemp2とを、各単位領域に対応するサイズの範囲において加算して、単位領域についてのブロック中間値を算出する。ここでは加算する範囲は、拡張単位領域である。Ｓ７９０７、Ｓ７９０８の繰り返し処理では、開始座標をＸ方向開始座標拡張量dx0、Ｙ方向開始座標拡張量dy0だけ拡張し、終了座標をＸ方向終了座標拡張量dx1、Ｙ方向終了座標拡張量dy1だけ拡張して定めることによって、拡張単位領域内の間引かない画素における中間値の加算を行う。また、ステップサイズstepX、stepYが１のときは毎画素の中間値を加算し、2のときは1画素置きの中間値を加算する。このように中間値の加算処理においても、間引きによる演算量の低減が行われる。加算処理はブロック特性値加算部１３６３２によって、Ｓ７９０９、Ｓ７９１０で行われる。なお、上記加算処理では重み付け加算（線形和）を用いても構わない。例えば、単位領域の中心に近いほど重みが大きくなるように設定した重みを用いることが適当である。なお、ブロック中間値を求める処理は、中間値からブロックの代表値を定める他の処理を用いることもできる。例えば、順位統計量のメディアンを用いる方法や、外れ値を用いない和や平均値を用いる方法でも良い。外れ値は、拡張単位領域で算出された中間値の最大値や最小値を除く方法が一例である。また、２乗和や２乗平均、幾何平均などを用いることもできる。また、ブロック中間値を求める処理は、代表値によらず別の処理を用いても構わない。例えば、中間値間の比の平均や、中間値から所定のテーブルを参照して得られる値の平均でも構わない。上記のように複数の画素における中間値を用いて、中間値の変動を抑える処理であることが好ましい。また、ブロック中間値を求めず、直接、中間値から単位領域の特性値を算出しても構わない。

　第1特性値算出部１３６１´及び第２特性値算出部１３６２´では、上記加算処理により得られた単位領域に対するブロック中間値varTempBlk1、varTempBlk2を用いて、以下の処理を行うことにより、特性値Ｘであるactivity、特性値Ｙであるdirectionを算出する。

　Ｓ７９１１では、拡張単位領域のサイズextblkSizeを求める。拡張単位領域で中間値算出に用いられる画素数を求める。これは拡張単位領域の面積をステップサイズで除算して算出することができる。

　Ｓ７９１２とＳ７９１３では、拡張単位領域のサイズextblkSizeでブロック中間値varTempBlk1、varTempBlk2を除算することにより、値の大きさを正規化し、ブロック特性値avgTemp1、avgTemp2を求める。なお、特性値としてブロック中間値の大きさを用いる場合には、この正規化処理が必要であるが、ブロック中間値の比や、ブロック中間値の符号から特性値を算出する場合には、正規化処理はなくとも構わない。また、正規化処理は、必ずしも、正規化に用いる値は、拡張単位領域の面積でなくても良く、拡張単位領域の面積にほぼ比例する値で構わない。

　さらに、Ｓ７９１４～Ｓ７９１５では、２つの特性値avgTemp1、avgTemp2の大きさを比較することにより、特性値Ｙであるdirectionを算出する。

　Ｓ７９１７では、２つの特性値の和を用いて、単位領域の活性度を算出した後、さらに、内部画素ビット精度（InternalBitDepth）を考慮して、右シフトすることにより、画素ビット深度が８ビットの場合に換算される中間値avgTemp3を算出する。ここではクリップ関数Clip3により、０から１５の間にクリップされる。Ｓ７９１８では、テーブルを用いて中間値avgTemp3を量子化することにより、特性値Ｘであるactivityを求める。

　フィルタインデックス算出部１３６５は、Ｓ７９１９で、特性値Ｘであるactivityと特性値Ｙであるdirectionとから、ブロック座標（bx、by）の領域インデックスrindex(bx, by)を算出する。

　なお、上記処理では、中間値は画素のラプラシアンを用いて算出する。ラプラシアンは対象画素の周囲の画素を用いることから、実際に特性値算出に用いられる画素の範囲は、拡張単位領域よりも大きい範囲となる。

　なお、上記処理では、ブロック中間値の比較、もしくは、ブロック中間値の量子化を用いて、２つの特性値の算出を行っているが、他の方法を用いても構わない。例えば、中間値として、勾配値の積、及び、勾配値の２乗の差を求める場合において、ブロック中間値の比と、ブロック中間値の符号を用いることも可能である。

　上記処理では、ウィンドウサイズdx0、dx1、dy1、dy2、ステップサイズstepX、stepY、間引きモードmodeによって、特性値の算出に用いる中間値を算出する画素を制御することができる。このようなパラメータを以降、特性値参照パラメータと呼ぶ。なお、特性値パラメータは、符号化データ中の値に応じて変更可能であっても良いし、復号装置、符号化装置で固定の値を用いても良い。

　以上の処理による、ＢＡモード領域インデックス算出部１３６０´では、ステップサイズstepX、stepYだけ間引きして中間値を算出し、間引きされた中間値を用いて単位領域の各特性値を求めることにより、演算量の削減を行う。

　一方で、単位領域の間引きを行う場合、単位領域において用いられる情報量が低下することから、算出される特性値が単位領域の特性を十分に反映しない（特性値の精度が低い）という問題が生じ易い。

　しかしながら、本構成では、ウィンドウサイズ分だけ単位領域を拡大した拡張単位領域を用いることによって、間引きによる精度の低下を補い、特性値の精度を高めることができる。

　すなわち、本構成では、座標とサイズで指定された対象単位領域において、
　（手順１）指定されたウィンドウサイズだけ対象単位領域を拡張した拡張単位領域を設定し、
　（手順２）設定された拡張単位領域において画素の間引きを行って画素単位の中間値を求め、
　（手順３）拡張単位領域内で上記画素単位の中間値の和などによって、対象単位領域のブロック中間値を求め、
　（手順４）対象単位領域のブロック中間値から、該対象単位領域の特性値を算出する。

　以上の処理を行うことによって、領域インデックスの割り当てによる単位領域の分類精度が高まり、適当なフィルタ処理がなされることにより、符号化効率が向上する。なお、ウィンドウサイズだけ単位領域を拡大する場合においても、複数の単位領域の特性値を同時に計算することによって、演算量の増加を最小限度に抑えることが可能である。これにより、特性値算出における低い演算量と、高精度の特性値算出による高い符号化効率を両立させることが可能である。なお、比較的低い演算量と、比較的高い符号化効率を両立させるためには、特性値参照パラメータは、dx0、dx1、dy0, dy1のいずれかのウィンドウサイズが１以上であり、stepX、stepYのいずれかのステップサイズが２以上であることが必要である。

　上記の構成によれば、上記特性値算出手段は、間引かない画素の選択を、画像のＹ座標に応じて変更する、あるいは、ずらす処理を用いる。水平方向、垂直方向に規則的な間引きを行う構成においては、特定方向のエッジや一定のパターンの繰り返しがある場合などのように、単位領域の中で特定の位置に集中してエッジが存在する場合において、分類精度が低下するという副次的な問題を生じることがあるが、ずらしを用いることでこのような問題をある程度回避することができる。

　すなわち、上記の構成によれば、確率的に分類精度を高めることができる。本実施形態では、上記特性値算出手段は、間引きを行う画素の座標を、Ｘ軸またはＹ軸に沿って変位させる間引き画素座標変位手段を備えているので、単位領域の分類精度を向上させることができる。したがって、上記の構成によれば、小さな演算量にて、より高い符号化効率を実現することができる。

　図８１～図８４は、間引きと単位領域の拡大により、比較的低い演算量で、比較的高い精度の特性値を算出する場合に中間値算出に用いる画素を示す図である。図７７と同様、黒丸が中間値を算出する画素を示す。太い実線で示す領域が単位領域となる。図８１～図８４では、中間値を算出する画素の間引きが行われ、また黒丸の画素が単位領域の外にあるように、単位領域外の領域の画素を用いて算出が行われる。

　図８１は、単位領域のサイズが４×４、水平垂直ともに間引きが行われる例である。図８１（ｅ）は、特性値算出の参照パラメータを示すものである。stepX ＝２が水平方向の間引きを示し、stepY＝２が垂直方向の間引きを示す。BlkSizeX+dx0+dx1、および、BlkSizeY+dy0+dy1は図８１（ａ）～（ｄ）の例では５であり、拡張単位領域は５×５となる。また、ラプラシアンを求める際に必要な領域まで含めると、単位領域の特性値を算出するために必要な画素は、７×７の領域である。図８１（ａ）から（ｄ）は、ウィンドウサイズの開始点、終了点の位置が各々異なる。

　図８２は、特性値算出のための中間値を算出する画素を示す別の図である。図８２（ａ）では、dx1=1としてＸ軸方向、図８２（ｂ）ではdy1=1としてＹ軸方向にウィンドウを設定している。図８２の例のように、Ｘ軸方向もしくはＹ軸方向のみにウィンドウを用いる方法も適用可能である。図８２（ａ）では、ウィンドウサイズから計算される拡張単位領域のサイズは、BlkSizeX+dx0+dx1×BlkSizeY+dy0+dy1、すなわち、５×４であり、単位領域のサイズ４×４よりも大きい。但し、間引き後の画素の範囲としての拡張単位領域のサイズは、黒丸で示す間引き後の画素の範囲は５×３である。この場合、Ｙ軸方向のサイズが単位領域のサイズよりも小さい。図８２（ｂ）も同様に間引き値の画素の範囲は３×５と、Ｘ軸方向のサイズは単位領域のサイズよりも小さい。この不一致は間引きを行った部分を拡張単位領域に含めるか否かによる。本実施形態のＢＡモード領域インデックス算出部１３６０´による処理には、図８２（ａ）、（ｂ）の例のように、間引きされた部分を含めない場合に単位領域よりも一部小さくなる場合の処理が含まれる。

　図８３は、特性値算出のための中間値を算出する画素を示す別の図である。図８３（ａ）、（ｂ）は、水平間引きが行われる例であり、stepＸ＝２、stepＹ＝１である。図８３（ｃ）、（ｄ）は、垂直間引きが行われる例であり、stepＸ＝１、stepＹ＝２である。図８３（ｅ）（ｆ）は、水平、垂直を合わせて互い違いに間引きが行われる場合であるが、本実施形態では、stepＸ＝２、stepＹ＝１をパラメータとして、水平方向に１／２間引きが行われ、垂直方向は毎ライン処理がなされる方法として処理される。互い違いであることは、Ｙ座標が奇数の場合に、図８３（ｅ）ではＸ座標を＋１する。もしくは、図８３（ｆ）では－１する方法で処理される。これは、具体的には、既に説明したＳ７９０２の処理に対応する。図８３（ｇ）は、特性値算出の参照パラメータを示す。また、水平に間引く場合はハードの構成によっては演算量の低下が生じない場合や、間引き処理の前処理、後処理に処理が必要である場合があるため、水平間引きと垂直間引きであれば、垂直間引きを優先して用いることが良い。従って、図８３（ｃ）、（ｄ）は好適な例である。

　図８４は、特性値算出のための中間値を算出する画素を示す別の図である。図８４（ａ）の例は、BlkSizeX=2、BlkSizeY=2、すなわち、単位領域のサイズが２×２の例、図８４（ｂ）、（ｃ）の例は、各々、単位領域のサイズが４×２の例、２×４の例である。このように、単位領域の大きさによらず、間引き及びウィンドウを用いる方法が適用可能である。

　図８５は、特性値算出のための中間値を算出する画素を示す別の図である。（ａ）から（ｆ）は、いずれも間引き率は１／４になる例である。（ａ）、（ｂ）、（ｅ）、（ｆ）は、水平間引きstepＸ＝４、垂直間引きstepＹ＝１として、Ｓ７９０２で間引きモードが１の場合で示すように、Ｙ座標の剰余の値に応じて、Ｘ座標をずらすことによって行われる。図８５（ａ）は、ウィンドウサイズをdx0=0、dx1=1、dx0=1、dy1=1に設定して、Ｙ座標の２の剰余が０の場合（Ｙ座標が偶数の場合）に＋２ずらし、それ以外は０ずらしを行う例を示している。（ｂ）は（ａ）と同じウィンドウサイズで、Ｙ座標の２の剰余が１の場合（Ｙ座標が奇数の場合）に＋２ずらし、それ以外は０ずらしを行う例を示している。（ｅ）は、ウィンドウサイズをdx0=0、dx1=1、dy0=1、dy1=1に設定して、Ｙ座標の４の剰余が０、１、２、３の場合の各々、ずらしなし、＋２ずらし、＋３ずらし、＋１ずらしを行う例を示している。（ｆ）は、（ｅ）と同じウィンドウサイズで、Ｙ座標の４の剰余が０、１、２、３の場合の各々、＋１ずらし、＋３ずらし、＋２ずらし、ずらしなしを行う例を示している。

　図８５の（ａ）から（ｆ）では、Ｙ座標に応じて中間値を算出する画素の数が異なる。（ａ）の例では、上から２個、１個、２個、１個、２個、１個のようになる。この処理は、図７９の処理に以下の処理を追加することで可能である。すなわち、ブロック特性加算部の処理においても、ずらした後のＸ座標（図７９に示す「ｘｘ」）を計算し、その値ｘｘが拡張単位領域の範囲（Ｘ座標でBlkSizeX*(bx+1)+dx1-1）を超える場合には、Ｓ７９０９、Ｓ７９１０の加算をスキップする処理をで行うこともできる。また、Ｙ座標の剰余の数に応じて、Ｓ７９０８のＸ座標の繰り返し処理における、繰り返しの回数を変更することで行うこともできる。これらの例のように変位量（変位量）が大きい場合には、中間値を算出する画素の範囲である拡張単位領域は、本明細書定義のウィンドウサイズだけでなく、変位量によっても定まることになる。変位量に応じて拡張単位領域が定まる場合には、Ｓ７９１１の拡張単位領域のサイズを求める処理も、変位量に応じた対応を行う。予め取り得るウィンドウサイズと変位量が定まっている場合には、（ａ）の例では、２＋１＋２＋１＋２＋１＝９となるように、特定の特性値算出の参照パラメータ毎に、拡張単位領域のサイズも定まるものであるので、予め取りうる特性値算出の参照パラメータ毎に、拡張単位領域のサイズを計算しておき、拡張単位領域サイズ格納領域などに格納しておき、特性値を算出する時点で、拡張単位領域サイズ格納領域を参照することで定めればよい。そうではない場合には、Ｓ７９０９、Ｓ７９１０で行われるカウントの回数をカウントし、そのカウントの回数を拡張単位領域サイズとして用いる。なお、このサイズが２の指数乗でない場合には、シフト演算では除算を実行することができないが、所定の定数Ｎに対して、ｋ＝２のＮ条／拡張単位領域サイズを計算し、ｋを乗算した後で、Ｎビットだけ右シフトすることによって、整数演算による除算を適用することができる。

　図８５（ｃ）、（ｄ）は、水平間引きstepＸ＝２、垂直間引きstepＹ＝２として、Ｓ７９０２で間引きモードが１の場合で示すように、Ｙ座標の剰余の値に応じて、Ｘ座標をずらすことによって行われる。（ｃ）は、ウィンドウサイズをｄｘ１＝１、ｄｘ１＝１、ｄｙ０＝０、ｄｙ１＝１に設定して、Ｙ座標の４の剰余が０である場合に＋１ずらしを行う例であり、（ｄ）は同じウィンドウサイズで、Ｙ座標の４の剰余が２である場合に＋１ずらしを行う例である。

　図８５の例のように間引き率が１／４の場合のように、大きな間引きを行う場合には、ウィンドウサイズを１以上にするとともに、中間値を算出する位置をずらすことが適当である。

　＜付記事項１＞
　上述した動画像符号化装置２、４、６、８及び動画像復号装置１、３、５、７は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像（ＣＧおよびＧＵＩを含む）であってもよい。

　まず、上述した動画像符号化装置２及び動画像復号装置１を、動画像の送信及び受信に利用できることを、図８６を参照して説明する。動画像符号化装置４、６、８及び動画像復号装置３、５、７についても同様である。

　図８６の（ａ）は、動画像符号化装置２を搭載した送信装置ＰＲＯＤ＿Ａの構成を示したブロック図である。図８６の（ａ）に示すように、送信装置ＰＲＯＤ＿Ａは、動画像を符号化することによって符号化データを得る符号化部ＰＲＯＤ＿Ａ１と、符号化部ＰＲＯＤ＿Ａ１が得た符号化データで搬送波を変調することによって変調信号を得る変調部ＰＲＯＤ＿Ａ２と、変調部ＰＲＯＤ＿Ａ２が得た変調信号を送信する送信部ＰＲＯＤ＿Ａ３と、を備えている。上述した動画像符号化装置２は、この符号化部ＰＲＯＤ＿Ａ１として利用される。

　送信装置ＰＲＯＤ＿Ａは、符号化部ＰＲＯＤ＿Ａ１に入力する動画像の供給源として、動画像を撮像するカメラＰＲＯＤ＿Ａ４、動画像を記録した記録媒体ＰＲＯＤ＿Ａ５、動画像を外部から入力するための入力端子ＰＲＯＤ＿Ａ６、及び、画像を生成または加工する画像処理部Ａ７を更に備えていてもよい。図８６の（ａ）においては、これら全てを送信装置ＰＲＯＤ＿Ａが備えた構成を例示しているが、一部を省略しても構わない。

　なお、記録媒体ＰＲＯＤ＿Ａ５は、符号化されていない動画像を記録したものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体ＰＲＯＤ＿Ａ５と符号化部ＰＲＯＤ＿Ａ１との間に、記録媒体ＰＲＯＤ＿Ａ５から読み出した符号化データを記録用の符号化方式に従って復号する復号部（不図示）を介在させるとよい。

　図８６の（ｂ）は、動画像復号装置１を搭載した受信装置ＰＲＯＤ＿Ｂの構成を示したブロック図である。図８６の（ｂ）に示すように、受信装置ＰＲＯＤ＿Ｂは、変調信号を受信する受信部ＰＲＯＤ＿Ｂ１と、受信部ＰＲＯＤ＿Ｂ１が受信した変調信号を復調することによって符号化データを得る復調部ＰＲＯＤ＿Ｂ２と、復調部ＰＲＯＤ＿Ｂ２が得た符号化データを復号することによって動画像を得る復号部ＰＲＯＤ＿Ｂ３と、を備えている。上述した動画像復号装置１は、この復号部ＰＲＯＤ＿Ｂ３として利用される。

　受信装置ＰＲＯＤ＿Ｂは、復号部ＰＲＯＤ＿Ｂ３が出力する動画像の供給先として、動画像を表示するディスプレイＰＲＯＤ＿Ｂ４、動画像を記録するための記録媒体ＰＲＯＤ＿Ｂ５、及び、動画像を外部に出力するための出力端子ＰＲＯＤ＿Ｂ６を更に備えていてもよい。図８６の（ｂ）においては、これら全てを受信装置ＰＲＯＤ＿Ｂが備えた構成を例示しているが、一部を省略しても構わない。

　なお、記録媒体ＰＲＯＤ＿Ｂ５は、符号化されていない動画像を記録するためのものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部ＰＲＯＤ＿Ｂ３と記録媒体ＰＲＯＤ＿Ｂ５との間に、復号部ＰＲＯＤ＿Ｂ３から取得した動画像を記録用の符号化方式に従って符号化する符号化部（不図示）を介在させるとよい。

　なお、変調信号を伝送する伝送媒体は、無線であってもよいし、有線であってもよい。また、変調信号を伝送する伝送態様は、放送（ここでは、送信先が予め特定されていない送信態様を指す）であってもよいし、通信（ここでは、送信先が予め特定されている送信態様を指す）であってもよい。すなわち、変調信号の伝送は、無線放送、有線放送、無線通信、及び有線通信の何れによって実現してもよい。

　例えば、地上デジタル放送の放送局（放送設備など）／受信局（テレビジョン受像機など）は、変調信号を無線放送で送受信する送信装置ＰＲＯＤ＿Ａ／受信装置ＰＲＯＤ＿Ｂの一例である。また、ケーブルテレビ放送の放送局（放送設備など）／受信局（テレビジョン受像機など）は、変調信号を有線放送で送受信する送信装置ＰＲＯＤ＿Ａ／受信装置ＰＲＯＤ＿Ｂの一例である。

　また、インターネットを用いたＶＯＤ（Video On Demand）サービスや動画共有サービスなどのサーバ（ワークステーションなど）／クライアント（テレビジョン受像機、パーソナルコンピュータ、スマートフォンなど）は、変調信号を通信で送受信する送信装置ＰＲＯＤ＿Ａ／受信装置ＰＲＯＤ＿Ｂの一例である（通常、ＬＡＮにおいては伝送媒体として無線又は有線の何れかが用いられ、ＷＡＮにおいては伝送媒体として有線が用いられる）。ここで、パーソナルコンピュータには、デスクトップ型ＰＣ、ラップトップ型ＰＣ、及びタブレット型ＰＣが含まれる。また、スマートフォンには、多機能携帯電話端末も含まれる。

　なお、動画共有サービスのクライアントは、サーバからダウンロードした符号化データを復号してディスプレイに表示する機能に加え、カメラで撮像した動画像を符号化してサーバにアップロードする機能を有している。すなわち、動画共有サービスのクライアントは、送信装置ＰＲＯＤ＿Ａ及び受信装置ＰＲＯＤ＿Ｂの双方として機能する。

　次に、上述した動画像符号化装置２及び動画像復号装置１を、動画像の記録及び再生に利用できることを、図８７を参照して説明する。動画像符号化装置４、６、８及び動画像復号装置３、５、７についても同様である。

　図８７の（ａ）は、上述した動画像符号化装置２を搭載した記録装置ＰＲＯＤ＿Ｃの構成を示したブロック図である。図８７の（ａ）に示すように、記録装置ＰＲＯＤ＿Ｃは、動画像を符号化することによって符号化データを得る符号化部ＰＲＯＤ＿Ｃ１と、符号化部ＰＲＯＤ＿Ｃ１が得た符号化データを記録媒体ＰＲＯＤ＿Ｍに書き込む書込部ＰＲＯＤ＿Ｃ２と、を備えている。上述した動画像符号化装置２は、この符号化部ＰＲＯＤ＿Ｃ１として利用される。

　なお、記録媒体ＰＲＯＤ＿Ｍは、（１）ＨＤＤ（Hard Disk Drive）やＳＳＤ(Solid State Drive)などのように、記録装置ＰＲＯＤ＿Ｃに内蔵されるタイプのものであってもよいし、（２）ＳＤメモリカードやＵＳＢ（Universal Serial Bus）フラッシュメモリなどのように、記録装置ＰＲＯＤ＿Ｃに接続されるタイプのものであってもよいし、（３）ＤＶＤ（Digital Versatile Disc）やＢＤ（Blu-ray Disc:登録商標）などのように、記録装置ＰＲＯＤ＿Ｃに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。

　また、記録装置ＰＲＯＤ＿Ｃは、符号化部ＰＲＯＤ＿Ｃ１に入力する動画像の供給源として、動画像を撮像するカメラＰＲＯＤ＿Ｃ３、動画像を外部から入力するための入力端子ＰＲＯＤ＿Ｃ４、動画像を受信するための受信部ＰＲＯＤ＿Ｃ５、及び、画像を生成または加工する画像処理部Ｃ６を更に備えていてもよい。図８７の（ａ）においては、これら全てを記録装置ＰＲＯＤ＿Ｃが備えた構成を例示しているが、一部を省略しても構わない。

　なお、受信部ＰＲＯＤ＿Ｃ５は、符号化されていない動画像を受信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部ＰＲＯＤ＿Ｃ５と符号化部ＰＲＯＤ＿Ｃ１との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部（不図示）を介在させるとよい。

　このような記録装置ＰＲＯＤ＿Ｃとしては、例えば、ＤＶＤレコーダ、ＢＤレコーダ、ＨＤＤ（Hard Disk Drive）レコーダなどが挙げられる（この場合、入力端子ＰＲＯＤ＿Ｃ４又は受信部ＰＲＯＤ＿Ｃ５が動画像の主な供給源となる）。また、カムコーダ（この場合、カメラＰＲＯＤ＿Ｃ３が動画像の主な供給源となる）、パーソナルコンピュータ（この場合、受信部ＰＲＯＤ＿Ｃ５又は画像処理部Ｃ６が動画像の主な供給源となる）、スマートフォン（この場合、カメラＰＲＯＤ＿Ｃ３又は受信部ＰＲＯＤ＿Ｃ５が動画像の主な供給源となる）なども、このような記録装置ＰＲＯＤ＿Ｃの一例である。

　図８７の（ｂ）は、上述した動画像復号装置１を搭載した再生装置ＰＲＯＤ＿Ｄの構成を示したブロックである。図８７の（ｂ）に示すように、再生装置ＰＲＯＤ＿Ｄは、記録媒体ＰＲＯＤ＿Ｍに書き込まれた符号化データを読み出す読出部ＰＲＯＤ＿Ｄ１と、読出部ＰＲＯＤ＿Ｄ１が読み出した符号化データを復号することによって動画像を得る復号部ＰＲＯＤ＿Ｄ２と、を備えている。上述した動画像復号装置１は、この復号部ＰＲＯＤ＿Ｄ２として利用される。

　なお、記録媒体ＰＲＯＤ＿Ｍは、（１）ＨＤＤやＳＳＤなどのように、再生装置ＰＲＯＤ＿Ｄに内蔵されるタイプのものであってもよいし、（２）ＳＤメモリカードやＵＳＢフラッシュメモリなどのように、再生装置ＰＲＯＤ＿Ｄに接続されるタイプのものであってもよいし、（３）ＤＶＤやＢＤなどのように、再生装置ＰＲＯＤ＿Ｄに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。

　また、再生装置ＰＲＯＤ＿Ｄは、復号部ＰＲＯＤ＿Ｄ２が出力する動画像の供給先として、動画像を表示するディスプレイＰＲＯＤ＿Ｄ３、動画像を外部に出力するための出力端子ＰＲＯＤ＿Ｄ４、及び、動画像を送信する送信部ＰＲＯＤ＿Ｄ５を更に備えていてもよい。図８７の（ｂ）においては、これら全てを再生装置ＰＲＯＤ＿Ｄが備えた構成を例示しているが、一部を省略しても構わない。

　　なお、送信部ＰＲＯＤ＿Ｄ５は、符号化されていない動画像を送信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部ＰＲＯＤ＿Ｄ２と送信部ＰＲＯＤ＿Ｄ５との間に、動画像を伝送用の符号化方式で符号化する符号化部（不図示）を介在させるとよい。

　このような再生装置ＰＲＯＤ＿Ｄとしては、例えば、ＤＶＤプレイヤ、ＢＤプレイヤ、ＨＤＤプレイヤなどが挙げられる（この場合、テレビジョン受像機等が接続される出力端子ＰＲＯＤ＿Ｄ４が動画像の主な供給先となる）。また、テレビジョン受像機（この場合、ディスプレイＰＲＯＤ＿Ｄ３が動画像の主な供給先となる）、デジタルサイネージ（電子看板や電子掲示板等とも称され、ディスプレイＰＲＯＤ＿Ｄ３又は送信部ＰＲＯＤ＿Ｄ５が動画像の主な供給先となる）、デスクトップ型ＰＣ（この場合、出力端子ＰＲＯＤ＿Ｄ４又は送信部ＰＲＯＤ＿Ｄ５が動画像の主な供給先となる）、ラップトップ型又はタブレット型ＰＣ（この場合、ディスプレイＰＲＯＤ＿Ｄ３又は送信部ＰＲＯＤ＿Ｄ５が動画像の主な供給先となる）、スマートフォン（この場合、ディスプレイＰＲＯＤ＿Ｄ３又は送信部ＰＲＯＤ＿Ｄ５が動画像の主な供給先となる）なども、このような再生装置ＰＲＯＤ＿Ｄの一例である。

　＜付記事項２＞
　上述した動画像復号装置１、３、５、７および動画像符号化装置２、４、６、８の各ブロックは、集積回路（ＩＣチップ）上に形成された論理回路によってハードウェア的に実現してもよいし、ＣＰＵ（Central Processing Unit）を用いてソフトウェア的に実現してもよい。

　後者の場合、上記各装置は、各機能を実現するプログラムの命令を実行するＣＰＵ、上記プログラムを格納したＲＯＭ（Read Only Memory）、上記プログラムを展開するＲＡＭ（Random Access Memory）、上記プログラムおよび各種データを格納するメモリ等の記憶装置（記録媒体）などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである上記各装置の制御プログラムのプログラムコード（実行形式プログラム、中間コードプログラム、ソースプログラム）をコンピュータで読み取り可能に記録した記録媒体を、上記各装置に供給し、そのコンピュータ（またはＣＰＵやＭＰＵ）が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。

　上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやＣＤ－ＲＯＭ／ＭＯ／ＭＤ／ＤＶＤ／ＣＤ－Ｒ等の光ディスクを含むディスク類、ＩＣカード（メモリカードを含む）／光カード等のカード類、マスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ類、あるいはＰＬＤ（Programmable logic device）やＦＰＧＡ（Field Programmable Gate Array）等の論理回路類などを用いることができる。

　また、上記各装置を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、エキストラネット、ＬＡＮ、ＩＳＤＮ、ＶＡＮ、ＣＡＴＶ通信網、仮想専用網（Virtual Private Network）、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、ＩＥＥＥ１３９４、ＵＳＢ、電力線搬送、ケーブルＴＶ回線、電話線、ＡＤＳＬ（Asymmetric Digital Subscriber Line）回線等の有線でも、ＩｒＤＡやリモコンのような赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＩＥＥＥ８０２．１１無線、ＨＤＲ（High Data Rate）、ＮＦＣ（Near Field Communication）、ＤＬＮＡ（Digital Living Network Alliance）、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。

　＜付記事項３＞
　上記の問題を解決するために、本発明に係る画像フィルタ装置は、複数の単位領域から構成される入力画像に作用するフィルタ手段と、各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域に対して、フィルタ係数群を割り付けるフィルタ係数割り付け手段と、を備え、上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数群を用いて算出する、ことを特徴としている。

　また、候補選択インデックスは、対象部分領域に対し第１特性値に関して隣接する部分領域と、対象部分領域に対し第２特性値に関して隣接する部分領域とを候補選択として含むことが好ましい。

　また、候補選択インデックスは、対象部分領域の直前に処理した部分領域を候補選択として含むことが好ましい。

　また、候補選択インデックスは、第１特性値と第２特性値とが１つづつ異なる既に処理した部分領域を候補選択として含むことが好ましい。

　また、候補選択インデックスは、既に処理した部分領域のフィルタ係数群を示すインデックスであることが好ましい。

　また、候補選択インデックスは、マージ用のインデックスであり、新規フィルタ係数群を用いない部分領域に対して用いられるフィルタ係数群を選択することが好ましい。

　また、候補選択インデックスは、予測用のインデックスであり、新規フィルタ係数群を用いる部分領域に対して、予測値として用いられるフィルタ係数群を選択することが好ましい。

　また、候補選択インデックスは、新規フィルタ係数群を用いる部分領域では予測値として用いられるフィルタ係数群の選択に用いられれ、新規フィルタ係数群を用いない部分領域では用いるフィルタ係数群の選択に用いられることを特徴とすることが好ましい。

　また、上記画像フィルタ装置で用いる前記第１及び第２の特性値は、各単位領域の座標であることが好ましい。

　また、上記フィルタ手段によって用いられるフィルタ係数群は、単位領域毎に、上記符号化対象画像と上記出力画像との相違がより小さくなるように定められたものである、ことが好ましい。

　上記の構成によれば、上記フィルタ手段によって用いられるフィルタ係数は、単位領域毎に、上記符号化対象画像と上記出力画像との相違がより小さくなるように定められたものであるので、符号化効率が向上する。

　また、フィルタ係数群の数を更に含んでいることが好ましい。

　上記符号化データを復号する画像フィルタ装置は、フィルタ係数群の数を用いて、新規フィルタ係数群を用いるか否かのフラグの符号化／復号を制御することができるので、符号化データの符号量を低減することができる。

　＜付記事項４＞
　本明細書中（特に実施形態１及び２）に記載された発明は、以下のように表現することができる。

　１．
　複数の単位領域から構成される入力画像に作用するフィルタ手段と、
　各単位領域における上記入力画像の画像特性を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、
　上記第１及び第２の特性値によって張られる特性値領域を、特性値分割情報に従って複数の特性値部分領域に分割する特性値分割手段と、
を備え、
　上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する特性値部分領域について設定されたフィルタ係数を用いて算出する、
ことを特徴とする画像フィルタ装置。

　２．
　上記特性値分割手段は、上記特性値領域を、第１の分割によって１または複数の特性値部分領域に分割したうえで、当該第１の分割によって得られた各特性値部分領域を、第２の分割によって１または複数の特性値部分領域に更に分割するものである、
ことを特徴とする１．に記載の画像フィルタ装置。

　３．
　上記第１の分割は、上記第１の特性値に関するものであり、上記第２の分割は、上記第２の特性値に関するものである、
ことを特徴とする２．に記載の画像フィルタ装置。

　４．
　上記第１の分割は、上記第１の特性値に関するものであり、上記第２の分割は、上記第１の特性値及び上記第２の特性値に関するものである、
ことを特徴とする２．に記載の画像フィルタ装置。

　５．
　外部から取得したタップ数指定情報に従って、上記フィルタ手段のタップ数を、上記第１の分割によって得られた特性値部分領域毎に設定するタップ数設定手段を更に備えている、
ことを特徴とする２．から４．の何れか１項に記載の画像フィルタ装置。

　６．
　外部から取得したオンオフ指定情報に従って、上記フィルタ手段のオンオフを、上記第２の分割によって得られた特性値部分領域毎に制御するオンオフ制御手段を更に備えている、
ことを特徴とする２．から５．の何れか１項に記載の画像フィルタ装置。

　７．
　上記第１の特性値は、各単位領域における上記入力画像の乱雑さを示すものである、
ことを特徴とする１．から６．の何れか１項に記載の画像フィルタ装置。

　８．
　符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、
　１．から７．の何れか１項に記載の画像フィルタ装置と、
　各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、
ことを特徴とする復号装置。

　９．
　復号対象の特性値部分領域である対象特性値部分領域について設定されるフィルタ係数を、上記符号化データに含まれるフィルタ係数残差のうち、当該対象特性値部分領域についてのフィルタ係数残差と、当該対象特性値部分領域の周辺の特性値部分領域について復号済みのフィルタ係数とを加算することによって復号するフィルタ係数復号手段を更に備えている、
ことを特徴とする８．に記載の復号装置。

　１０．
　符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、
　１．から７．の何れか１項に記載の画像フィルタ装置と、
　各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、
ことを特徴とする符号化装置。

　１１．
　上記フィルタ手段によって用いられるフィルタ係数は、単位領域毎に、上記符号化対象画像と上記出力画像との相違がより小さくなるように定められたものである、
ことを特徴とする１０．に記載の符号化装置。

　１２．
　複数の単位領域から構成される入力画像の各単位領域における画像特性を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、当該第１及び第２の特性値によって張られる特性値領域を複数の特性値部分領域に分割する特性値分割手段と、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する特性値部分領域について設定されたフィルタ係数群を用いて算出するフィルタ手段と、を備えている画像フィルタ装置によって参照される符号化データのデータ構造において、
　上記特性値分割手段によって参照される特性値分割情報であって、上記特性値領域の分割の仕方を指定する特性値分割情報と、
　上記フィルタ手段によって用いられるフィルタ係数であって、上記特性値部分領域の各々についてのフィルタ係数と、
を含んでいることを特徴とする符号化データのデータ構造。

　１３．
　上記特性値分割手段は、上記特性値領域を、第１の分割によって複数の特性値部分領域に分割したうえで、当該第１の分割によって得られた各特性値部分領域を、第２の分割によって複数の特性値部分領域に更に分割するものであり、
　上記特性値分割情報は、
　上記第１の分割における分割点を指定する第１分割点指定情報と、
　上記第２の分割における分割点を指定する第２分割点指定情報と、
を含んでいることを特徴とする１２．に記載の符号化データのデータ構造。

　１４．
　上記フィルタ手段のタップ数を、上記第１の分割によって得られた特性値部分領域毎に指定するするタップ数指定情報を更に含んでいる、
ことを特徴とする１３．に記載の符号化データのデータ構造。

　１５．
　上記フィルタ手段のオンオフを、上記第２の分割によって得られた特性値部分領域毎に指定するオンオフ指定情報を更に含んでいる、
ことを特徴とする１３．または１４．に記載の符号化データのデータ構造。

　＜付記事項５＞
　本明細書中（特に実施形態３）に記載された発明は、以下のように表現することができる。

　Ａ１．
　複数の単位領域から構成される入力画像に作用するフィルタ手段と、
　各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、
　上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々を、領域分類情報に従って１又は複数のグループの何れかに分類する領域分類手段と、
　処理対象の部分領域である対象部分領域に対して、該対象部分領域に関連付けられた割り付け指定情報に従って、処理順で該対象部分領域の直前の部分領域に割り付けられたフィルタ係数、または、該直前の部分領域に割り付けられたフィルタ係数とは異なるフィルタ係数を割り付けるフィルタ係数割り付け手段と、
を備え、
　上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数を用いて算出する、
ことを特徴とする画像フィルタ装置。

　Ａ２．
　上記領域分類手段は、各部分領域を、上記第１の特性値に基づいて１又は複数のグループの何れかに分類するものであり、
　上記処理順は、上記第２の特性値に基づいて定められるものである、
ことを特徴とするＡ１に記載の画像フィルタ装置。

　Ａ３．
　上記領域分類手段は、各部分領域を、上記第１の特性値に基づいて１又は複数のグループの何れかに分類するものであり、
　上記処理順は、上記第１及び第２の特性値に基づいて定められるものである、
ことを特徴とするＡ１に記載の画像フィルタ装置。

　Ａ４．
　上記領域分類手段は、各部分領域を、上記第１及び第２の特性値に基づいて１又は複数のグループの何れかに分類するものであり、
　上記処理順は、上記第１及び第２の特性値に基づいて定められるものである、
ことを特徴とするＡ１に記載の画像フィルタ装置。

　Ａ５．
　上記第１の特性値は、各単位領域における上記入力画像の方向性によって定まるものであり、上記第２の特性値は、各単位領域における上記入力画像の乱雑さによって定まるものである、
ことを特徴とするＡ１からＡ４の何れか１項に記載の画像フィルタ装置。

　Ａ６．
　上記入力画像の方向性は、上記入力画像の水平方向及び垂直方向の乱雑さによって定められるものである、
ことを特徴とするＡ５に記載の画像フィルタ装置。

　Ａ７．
　上記入力画像の方向性は、上記入力画像の互いに異なる２つの斜め方向の乱雑さによって定められるものである、
ことを特徴とするＡ５に記載の画像フィルタ装置。

　Ａ８．
　上記第１の特性値は、上記入力画像における各単位領域の垂直方向の座標によって定まるものであり、上記第２の特性値は、上記入力画像における各単位領域の水平方向の座標によって定まるものである、
ことを特徴とするＡ１からＡ４の何れか１項に記載の画像フィルタ装置。

　Ａ９．
　上記第１の特性値は、上記入力画像における各単位領域の水平方向の座標によって定まるものであり、上記第２の特性値は、上記入力画像における各単位領域の垂直方向の座標によって定まるものである、
ことを特徴とするＡ１からＡ４の何れか１項に記載の画像フィルタ装置。

　Ａ１０．
　符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、
　Ａ１からＡ９の何れか１項に記載の画像フィルタ装置と、
　各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、
ことを特徴とする復号装置。

　Ａ１１．
　符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、
　Ａ１からＡ９の何れか１項に記載の画像フィルタ装置と、
　各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、
ことを特徴とする符号化装置。

　Ａ１２．
　上記フィルタ手段によって用いられるフィルタ係数は、単位領域毎に、上記符号化対象画像と上記出力画像との相違がより小さくなるように定められたものである、
ことを特徴とするＡ１１に記載の符号化装置。

　Ａ１３．
　入力画像を構成する各単位領域における当該入力画像の画像特性又は当該入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々を、領域分類情報に従って１又は複数のグループの何れかに分類する領域分類手段と、処理対象の部分領域である対象部分領域に対して、該対象部分領域に関連付けられた割り付け指定情報に従って、処理順で該対象部分領域の直前の部分領域に割り付けられたフィルタ係数、または、該直前の部分領域に割り付けられたフィルタ係数とは異なるフィルタ係数を割り付けるフィルタ係数割り付け手段と、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数を用いて算出するフィルタ手段と、を備えている画像フィルタ装置によって参照される符号化データのデータ構造であって、
　上記フィルタ係数とその予測値との残差、
　上記領域分類情報、及び、
　上記割り付け指定情報、
を含んでいることを特徴とする符号化データのデータ構造。

　Ａ１４．
　上記特性値算出手段によって参照される特性値指定情報であって、上記第１及び第２の特性値の導出方法を指定する特性値指定情報を更に含んでいる、
ことを特徴とするＡ１３に記載の符号化データのデータ構造。

　＜付記事項６＞
　本明細書中（特に実施形態４）に記載された発明は、以下のように表現することができる。

　Ｂ１．
　複数の単位領域から構成される入力画像に作用するフィルタ手段と、
　各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、
　上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域を１又は複数のグループの何れかに分類する領域分類手段と、
　処理対象の部分領域である対象部分領域に対して、フィルタ係数を割り付けるフィルタ係数割り付け手段と、
を備え、
　上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数を用いて算出する、
ことを特徴とする画像フィルタ装置。

　Ｂ２．
　候補選択インデックスは、対象部分領域に対し第１特性値に関して隣接する部分領域と、対象部分領域に対し第２特性値に関して隣接する部分領域とを候補選択として含むことを特徴とするＢ１．に記載の画像フィルタ装置。

　Ｂ３．
　候補選択インデックスは、対象部分領域の直前に処理した部分領域を候補選択として含むことを特徴とするＢ１．に記載の画像フィルタ装置。

　Ｂ４．
　候補選択インデックスは、第１特性値と第２特性値とが１つづつ異なる既に処理した部分領域を候補選択として含むことを特徴とするＢ１．に記載の画像フィルタ装置。

　Ｂ５．
　候補選択インデックスは、既に処理したフィルタ係数群の全てを候補選択として含むことを特徴とするＢ１．に記載の画像フィルタ装置。

　Ｂ６．
　候補選択インデックスは、マージ用のインデックスであり、新規フィルタ係数群を用いない部分領域に対して用いられるフィルタ係数群を選択することを特徴とするＢ１．からＢ５．の何れか１項に記載の画像フィルタ装置。

　Ｂ７．
　候補選択インデックスは、予測用のインデックスであり、新規フィルタ係数群を用いる部分領域に対して、予測値として用いられるフィルタ係数群を選択することを特徴とするＢ１．からＢ５．の何れか１項に記載の画像フィルタ装置。

　Ｂ８．
　候補選択インデックスは、新規フィルタ係数群を用いる部分領域では予測値として用いられるフィルタ係数群の選択に用いられ、新規フィルタ係数群を用いない部分領域では用いるフィルタ係数群の選択に用いられることを特徴とするＢ１．からＢ５．の何れか１項に記載の画像フィルタ装置。

　Ｂ９．
　上記画像フィルタ装置は、さらに特性値を選択する特徴量モードを入力とし、特徴量モードに応じて、候補選択インデックスの決定方法を切り替えることを特徴とするＢ１．からＢ８．の何れか１項に記載の画像フィルタ装置。

　Ｂ１０．
　上記画像フィルタ装置は、特徴量モードが座標空間分割である場合と、特徴量が座標空間分割以外である場合とに応じて、候補選択インデックスの選択肢の数を変更することを特徴とするＢ９．に記載の画像フィルタ装置。

　Ｂ１１．
　上記画像フィルタ装置は、さらにフィルタ係数群の数を入力とし、既に復号されたフィルタ係数群の数が、入力されたフィルタ係数群の数よりも小さい場合に、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグを入力することを特徴とするＢ１．からＢ１０．の何れか１項に記載の画像フィルタ装置。

　Ｂ１２．
　符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、
　Ｂ１．からＢ１１．の何れか１項に記載の画像フィルタ装置と、
　各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、
ことを特徴とする復号装置。

　Ｂ１３．
　符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、
　Ｂ１．からＢ１１．の何れか１項に記載の画像フィルタ装置と、
　各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、
ことを特徴とする符号化装置。

　Ｂ１４．
　上記フィルタ手段によって用いられるフィルタ係数は、単位領域毎に、上記符号化対象画像と上記出力画像との相違がより小さくなるように定められたものである、
ことを特徴とするＢ１３．に記載の符号化装置。

　Ｂ１５．
　複数の単位領域から構成される入力画像に作用するフィルタ手段と、
　各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、
　上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域を１又は複数のグループの何れかに分類する領域分類手段と、
　処理対象の部分領域である対象部分領域に対して、フィルタ係数を割り付けるフィルタ係数割り付け手段と、
を備え、
　上記フィルタ手段によって、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数を用いて算出する画像フィルタ装置によって参照される符号化データのデータ構造であって、
　上記フィルタ係数とその予測値との残差、及び
　上記新規フィルタ係数フラグと上記候補選択インデックス、
を含んでいることを特徴とする符号化データのデータ構造。

　Ｂ１６．
　フィルタ係数群の数を更に含んでいる、
ことを特徴とするＢ１５．に記載の符号化データのデータ構造。

　＜付記事項７＞
　本明細書中（特に実施形態５）に記載された発明は、以下のように表現することができる。

　Ｃ．１
　複数の単位領域から構成される入力画像に作用し、各単位領域における出力画像の各画素値を、該単位領域について割り付けられたフィルタ係数を用いて算出するフィルタ手段と、
　各単位領域を分類するための領域インデックスを、該単位領域の属性から算出される多次元の特性値から算出する領域インデックス算出手段と、
　各領域インデックスと各フィルタインデックスとの対応関係を表すフィルタインデックステーブルを復号する領域構造復号手段と、
　処理対象の単位領域である対象単位領域の領域インデックスと前記フィルタインデックステーブルとから該対象単位領域についてのフィルタインデックスを求めると共に、該対象単位領域に対して、該フィルタインデックスにより指定されるフィルタ係数を割り付けるフィルタ係数割り付け手段と
を備えていることを特徴とする画像フィルタ装置。

　Ｃ．２
　前記領域インデックス算出手段による処理モードには、各単位領域を分類するための領域インデックスを、少なくとも該単位領域のＸ座標値とＹ座標値とから算出するＲＡモードが含まれている
ことを特徴とするＣ．１に記載の画像フィルタ装置。

　Ｃ．３
　各領域インデックスの算出方法を指定する特徴量モードを復号する特徴量モード復号手段を更に備え、
　前記領域インデックス算出手段は、前記特徴量モード復号手段によって復号された特徴量モードに応じて、各領域インデックスを算出するための、多次元の特性値を切り替えることを特徴とするＣ．１に記載の画像フィルタ装置。

　Ｃ．４
　前記領域インデックス算出手段による処理モードには、
　　各単位領域を分類するための領域インデックスを、少なくとも該単位領域のＸ座標値とＹ座標値とから算出するＲＡモードと、
　　各単位領域を分類するための領域インデックスを、該単位領域の画素値から算出される２次元の特性値Ｘ及び特性値Ｙから算出するＢＡモードと
が含まれていることを特徴とするＣ．１またはＣ．３に記載の画像フィルタ装置。

　Ｃ．５
　前記領域インデックス算出手段による処理モードには、
　　各単位領域を分類するための領域インデックスを、該単位領域における水平方向活性度と垂直方向活性度を用いて算出する第１のＢＡモードと、
　　各単位領域を分類するための領域インデックスを、該単位領域における２つの斜め方向活性度を用いて算出する第２のＢＡモードと
が含まれていることを特徴とするＣ．１に記載の画像フィルタ装置。

　Ｃ．６
　前記領域構造復号手段において復号されるフィルタインデックスの値は、復号済みのフィルタインデックスの値を全て含むインデックス群の要素であることを特徴とするＣ．１からＣ．５の何れか１項に記載の画像フィルタ装置。

　Ｃ．７
　前記領域構造復号手段において復号されるフィルタインデックスの値は、０を最小値とし復号済みのフィルタインデックスの最大値に１を加えたものを最大値とする範囲に含まれている、
ことを特徴とするＣ．１からＣ．６の何れか１項に記載の画像フィルタ装置。

　Ｃ．８
　前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、
　前記領域構造復号手段は、前記領域インデックスが算出されていない部分領域の数である残領域数と、未復号のフィルタインデックスの数である残フィルタ数とが一致する場合には、フィルタインデックスを復号することなくフィルタインデックステーブルを生成することを特徴とするＣ．１からＣ．７の何れか１項に記載の画像フィルタ装置。

　Ｃ．９
　前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、
　前記領域構造復号手段は、処理対象の部分領域である対象部分領域のフィルタインデックスの推定値を算出する推定フィルタインデックス算出手段を備え、
　前記推定フィルタインデックス算出手段は、未復号のフィルタインデックスの数である残フィルタ数を用いて、対象部分領域のフィルタインデックスの推定値を算出することを特徴とするＣ．１からＣ．８の何れか１項に記載の画像フィルタ装置。

　Ｃ．１０
　前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、
　前記領域構造復号手段は、処理対象の部分領域である対象部分領域のフィルタインデックスの推定値を算出する推定フィルタインデックス算出手段を備え、
　前記推定フィルタインデックス算出手段は、直前に処理された部分領域のフィルタインデックスの値を用いて、対象部分領域のフィルタインデックスの推定値を算出することを特徴とするＣ．１からＣ．８の何れか１項に記載の画像フィルタ装置。

　Ｃ．１１
　前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、
　前記領域構造復号手段は、処理対象の部分領域である対象部分領域のフィルタインデックスの推定値を算出する推定フィルタインデックス算出手段を備え、
　前記推定フィルタインデックス算出手段は、前記領域インデックス算出手段によって対象部分領域の領域インデックスを算出する際に参照された複数の特性値の軸のうち、特定の軸に沿った部分領域についての復号済フィルタインデックスの値を用いて、対象部分領域のフィルタインデックスの推定値を算出することを特徴とするＣ．１からＣ．８の何れか１項に記載の画像フィルタ装置。

　Ｃ．１２
　各単位領域における上記特性値を算出する特性値算出手段を更に備え、
　上記特性値算出手段は、
　　対象単位領域を所定のウィンドウサイズだけ拡張して得られる拡張単位領域において、画素の間引きを行うと共に、間引かない画素に対してのみ画素単位の特性値である中間値を算出し、
　　上記拡張単位領域内での上記中間値の線形和をとることによって、上記対象単位領域におけるブロック中間値を算出し、
　　上記ブロック中間値を用いて、上記対象単位領域の特性値を算出する、
ことを特徴とするＣ．１からＣ．１１の何れか１項に記載の画像フィルタ装置。

　Ｃ．１３
　上記特性値算出手段は、間引きを行う画素の座標を、Ｘ軸またはＹ軸に沿って変位させる間引き画素座標変位手段を備えている、
ことを特徴とするＣ．１２に記載の画像フィルタ装置。

　Ｃ．１４
　符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、
　Ｃ．１からＣ．１３の何れか１項に記載の画像フィルタ装置と、
　各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、
ことを特徴とする復号装置。

　Ｃ．１５
　符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、
　Ｃ．１からＣ．１３の何れか１項に記載の画像フィルタ装置と、
　各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、
ことを特徴とする符号化装置。

　Ｃ．１６
　複数の単位領域から構成される入力画像に作用し、各単位領域における出力画像の各画素値を、該単位領域について割り付けられたフィルタ係数を用いて算出するフィルタ手段と、各単位領域を分類するための領域インデックスを、該単位領域の属性から算出される多次元の特性値から算出する領域インデックス算出手段と、各領域インデックスと各フィルタインデックスとの対応関係を表すフィルタインデックステーブルを復号する領域構造復号手段と、処理対象の単位領域である対象単位領域の領域インデックスと前記フィルタインデックステーブルとから該対象単位領域についてのフィルタインデックスを求めると共に、該対象単位領域に対して、該フィルタインデックスにより指定されるフィルタ係数を割り付けるフィルタ係数割り付け手段とを備えている画像フィルタ装置によって参照される符号化データのデータ構造であって、
　上記フィルタインデックステーブルと、
　上記フィルタ係数と
を含んでいることを特徴とする符号化データのデータ構造。

　＜付記事項８＞
　上述のＣ．１～Ｃ．１６の各構成、及び各構成による作用効果は以下の通りである。

　すなわち、上記画像フィルタ装置は、複数の単位領域から構成される入力画像に作用し、各単位領域における出力画像の各画素値を、該単位領域について割り付けられたフィルタ係数を用いて算出するフィルタ手段と、各単位領域を分類するための領域インデックスを、該単位領域の属性から算出される多次元の特性値から算出する領域インデックス算出手段と、各領域インデックスと各フィルタインデックスとの対応関係を表すフィルタインデックステーブルを復号する領域構造復号手段と、処理対象の単位領域である対象単位領域の領域インデックスと前記フィルタインデックステーブルとから該対象単位領域についてのフィルタインデックスを求めると共に、該対象単位領域に対して、該フィルタインデックスにより指定されるフィルタ係数を割り付けるフィルタ係数割り付け手段とを備えていることを特徴としている。

　上記のように構成された本発明に係る画像フィルタ装置によれば、各領域インデックスに対して復号されたフィルタパラメータを用いて直接、各領域に対して割りつけられるフィルタ係数群を参照するため、容易な処理で各単位領域にフィルタ係数を割り付けることができる。また、領域インデックスの各々に対するフィルタインデックスが同一であることを用いて領域のグループ分けを行うため、自由度の高いグループ分けが可能になり、画像の領域特性に合わせたフィルタ処理ができる。そのため、符号化効率が向上する。

　また、前記領域インデックス算出手段による処理モードには、各単位領域を分類するための領域インデックスを、少なくとも該単位領域のＸ座標値とＹ座標値とから算出するＲＡモードが含まれていることが好ましい。

　上記構成によれば、ＲＡモードにおいて、自由度の高いグループ分けが可能になり、画像の領域特性に合わせたフィルタ処理ができる。そのため、符号化効率が向上する。

　なお、上記ＲＡモードでは、Ｘ座標軸もしくはＹ座標軸において隣接する単位領域以外にも、同種の特性を有する領域が存在する。

　また、上記画像フィルタ装置は、各領域インデックスの算出方法を指定する特徴量モードを復号する特徴量モード復号手段を更に備え、前記領域インデックス算出手段は、前記特徴量モード復号手段によって復号された特徴量モードに応じて、各領域インデックスを算出するための、多次元の特性値を切り替えることが好ましい。

　上記構成によれば、多次元の特性値から領域インデックスを算出する領域分類方法を複数備える場合において、領域分類方法（特徴量モード）によらず、適した領域分類を行うことができるため、少ないフィルタ係数群を用いて画像の領域特性に合わせたフィルタ処理ができる。そのため、符号化効率が向上する。

　また、前記領域インデックス算出手段による処理モードには、各単位領域を分類するための領域インデックスを、少なくとも該単位領域のＸ座標値とＹ座標値とから算出するＲＡモードと、各単位領域を分類するための領域インデックスを、該単位領域の画素値から算出される２次元の特性値Ｘ及び特性値Ｙから算出するＢＡモードとが含まれていることが好ましい。

　上記構成によれば、多次元の特性値としてＢＡモードとＲＡモードとを備える場合において、領域分類方法（特徴量モード）によらず、適した領域分類を行うことができるため、少ないフィルタ係数群を用いて画像の領域特性に合わせたフィルタ処理ができる。そのため、符号化効率が向上する。

　また、前記領域インデックス算出手段による処理モードには、各単位領域を分類するための領域インデックスを、該単位領域における水平方向活性度と垂直方向活性度を用いて算出する第１のＢＡモードと、各単位領域を分類するための領域インデックスを、該単位領域における２つの斜め方向活性度を用いて算出する第２のＢＡモードとが含まれていることが好ましい。

　上記構成によれば、ＢＡ１モード、ＢＡ２モードともに２つの異なる方向の活性度を用いて、異なる領域のエッジ方向を識別することができる。またＢＡ１モード、ＢＡ２モードは２つの活性度を用いるという点は同一であるため小さな複雑度となる。２つのモードは識別可能なエッジ方向が異なることから、互いに相補的なエッジ分類効果を有する。これにより小さな複雑度において多くの種類の画像を効果的に分類することが可能になり、画像の領域特性に応じて適したフィルタ係数を割り当てることができる。そのため、符号化効率が向上する。

　また、　前記領域構造復号手段において復号されるフィルタインデックスの値は、復号済みのフィルタインデックスの値を全て含むインデックス群の要素であることが好ましい。

　上記構成によれば、ある対象領域は、該対象領域以外の全ての領域と同じフィルタインデックスを有することが可能となる。また、全ての領域は互いにマージ可能であるため、画像を領域特性に応じて無駄なく分類することができ、少ないフィルタ係数群を用いて画像の領域特性に合わせたフィルタ処理ができる。そのため、符号化効率が向上する。

　また、前記領域構造復号手段において復号されるフィルタインデックスの値が、０以上、先頭領域から処理対象領域の直前までの領域に対して出現したフィルタインデックスの最大値＋１以下の値をであることが好ましい。

　上記の構成によれば、対象領域が、既に処理された領域とマージされる場合と、マージされない場合を同一の方法で扱うことができるため処理が容易になる。

　また、前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、前記領域構造復号手段は、前記領域インデックスが算出されていない部分領域の数である残領域数と、未復号のフィルタインデックスの数である残フィルタ数とが一致する場合には、フィルタインデックスを復号することなくフィルタインデックステーブルを生成することが好ましい。

　上記の構成によれば、フィルタインデックスを復号せずに一部もしくは全てのフィルタインデックステーブルを生成することができるため、領域構造を符号化する符号量が低減し符号化効率が向上する。

　また、前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、前記領域構造復号手段は、処理対象の部分領域である対象部分領域のフィルタインデックスの推定値を算出する推定フィルタインデックス算出手段を備え、前記推定フィルタインデックス算出手段は、未復号のフィルタインデックスの数である残フィルタ数を用いて、対象部分領域のフィルタインデックスの推定値を算出することが好ましい。

　上記の構成によれば、残フィルタ数が比較的多い場合の符号量を減らすことができるため、領域構造を符号化する符号量が低減し符号化効率が向上する。

　また、前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、前記領域構造復号手段は、処理対象の部分領域である対象部分領域のフィルタインデックスの推定値を算出する推定フィルタインデックス算出手段を備え、前記推定フィルタインデックス算出手段は、直前に処理された部分領域のフィルタインデックスの値を用いて、対象部分領域のフィルタインデックスの推定値を算出することが好ましい。

　上記の構成によれば、直前に隣接する領域とマージした場合の符号量を減らすことができるため、領域構造を符号化する符号量が低減し符号化効率が向上する。

　また、前記領域インデックス算出手段は、前記多次元の特性値によって張られる特性値領域を構成する部分領域の各々に対して順次前記領域インデックスを算出するものであり、前記領域構造復号手段は、処理対象の部分領域である対象部分領域のフィルタインデックスの推定値を算出する推定フィルタインデックス算出手段を備え、前記推定フィルタインデックス算出手段は、前記領域インデックス算出手段によって対象部分領域の領域インデックスを算出する際に参照された複数の特性値の軸のうち、特定の軸に沿った部分領域についての復号済フィルタインデックスの値を用いて、対象部分領域のフィルタインデックスの推定値を算出することが好ましい。

　上記の構成によれば、上記多次元空間において隣接する領域とマージした場合の符号量を減らすことができるため、領域構造を符号化する符号量が低減し符号化効率が向上する。

　上記の構成によれば、本発明に係る画像フィルタ装置によれば、新規フィルタ係数フラグによって、領域分類の数を制御することができ、候補選択インデックスに従って、第１の特性値が等しい、もしくは、第２の特性値が等しい部分領域と、同じフィルタ係数群を用いることができる。これにより、各部分領域に対して、フィルタ係数をより適切に割り付けることができるので、符号化効率が向上する。

　また、本発明に係る上記画像フィルタ装置は、各単位領域における上記特性値を算出する特性値算出手段を更に備え、上記特性値算出手段は、対象単位領域を所定のウィンドウサイズだけ拡張して得られる拡張単位領域において、画素の間引きを行うと共に、間引かない画素に対してのみ画素単位の特性値である中間値を算出し、上記拡張単位領域内での上記中間値の和をとることによって、上記対象単位領域におけるブロック中間値を算出し、上記ブロック中間値を用いて、上記対象単位領域の特性値を算出する、ことが好ましい。

　本発明に係る上記の構成によれば、対象単位領域を所定のウィンドウサイズだけ拡張して得られる拡張単位領域において、画素の間引きを行うと共に、間引かない画素に対してのみ画素単位の特性値である中間値を算出するので、特性値を算出するための演算量を低減させることができる。また、上記の構成によれば、上記拡張単位領域内での上記中間値の和をとることによって、上記対象単位領域におけるブロック中間値を算出し、上記ブロック中間値を用いて、上記対象単位領域の特性値を算出するので、拡張単位領域を用いない非特許文献４に記載の構成に比べて、単位領域の分類精度を向上させることができる。

　したがって、上記の構成によれば、演算量を低減させつつ、単位領域の分類精度を向上させることができるので、小さな演算量にて、高い符号化効率を実現することができる。

　また、上記特性値算出手段は、間引きを行う画素の座標を、Ｘ軸またはＹ軸に沿って変位させる間引き画素座標変位手段を備えている、ことが好ましい。

　上記の構成によれば、上記特性値算出手段は、間引きを行う画素の座標を、Ｘ軸またはＹ軸に沿って変位させる間引き画素座標変位手段を備えているので、単位領域の分類精度を向上させることができる。したがって、上記の構成によれば、小さな演算量にて、より高い符号化効率を実現することができる。

　また、本発明に係る復号装置は、符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、上記画像フィルタ装置と、各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、を備え、上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、ことを特徴としている。

　また、本発明に係る符号化装置は、符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、上記画像フィルタ装置と、各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、を備え、上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、ことを特徴としている。

　また、本発明に係る符号化データのデータ構造は、複数の単位領域から構成される入力画像に作用し、各単位領域における出力画像の各画素値を、該単位領域について割り付けられたフィルタ係数を用いて算出するフィルタ手段と、各単位領域を分類するための領域インデックスを、該単位領域の属性から算出される多次元の特性値から算出する領域インデックス算出手段と、各領域インデックスと各フィルタインデックスとの対応関係を表すフィルタインデックステーブルを復号する領域構造復号手段と、処理対象の単位領域である対象単位領域の領域インデックスと前記フィルタインデックステーブルとから該対象単位領域についてのフィルタインデックスを求めると共に、該対象単位領域に対して、該フィルタインデックスにより指定されるフィルタ係数を割り付けるフィルタ係数割り付け手段とを備えている画像フィルタ装置によって参照される符号化データのデータ構造であって、上記フィルタインデックステーブルと、上記フィルタ係数とを含んでいることを特徴としている。

　上記のように構成された符号化データを復号する画像フィルタ装置は、各領域インデックスに対して復号されたフィルタパラメータを用いて直接、各領域に対して割りつけられるフィルタ係数群を参照するため、容易な処理で各単位領域にフィルタ係数を割り付けることができる。また、領域インデックスの各々に対するフィルタインデックスが同一であることを用いて領域のグループ分けを行うため、自由度の高いグループ分けが可能になり、画像の領域特性に合わせたフィルタ処理ができる。そのため、符号化効率が向上する。

　本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。

　本発明は、画像データにフィルタリングを行う画像フィルタに好適に用いることができる。また、符号化データを復号する復号装置、および、符号化データを符号化する符号化装置に好適に適用することができる。

１，３，５，７，９　　　　　動画像復号装置（復号装置）
１６　　　　　　　インター予測画像生成部（予測画像生成手段）
１７　　　　　　　イントラ予測画像生成部（予測画像生成手段）
２，４，６，８，１０　　　　動画像符号化装置（符号化装置）
２５　　　　　　　イントラ予測画像生成部（予測画像生成手段）
２６　　　　　　　インター予測画像生成部（予測画像生成手段）
５０，６０，７０，８０，９０，１００，１１０，１２０，１３０，１４０　　適応フィルタ（画像フィルタ装置）
９１、１１１　　　　　　　　　適応フィルタ情報復号部
９１１　　　　　　　　　　　　領域別タップ数復号部
１１１１，１３１１　　　　　　タップ数復号部
９１２、１１１２，１３１２　　領域構造復号部（領域構造復号手段）
９１３、１１１３，１３１３　　特徴量モード復号部（特徴量モード復号手段）
９１４、１１１４，１３１４　　フィルタ係数復号部（領域分類手段）
９１５、１１１５　　　　　　　特性別フィルタ係数格納部
１３１５　　　　　　　　　　　フィルタ係数格納部
９２、１１２，１４２　　　　　適応フィルタ部
９２１、１１２１，１３６１´　第１特性値算出部（特性値算出手段）
９２２、１１２２，１３６２´　第２特性値算出部（特性値算出手段）
９２３、１１２３、１３２３　　フィルタ係数割り付け部（フィルタ係数割り付け手段）１３２２　　　　　　　　　　　領域インデックス算出部（領域インデックス算出手段）９２４、１１２４，１３２４　　フィルタ部（フィルタ手段）
１０１、１２１，１４１　　　　適応フィルタ情報設定部
１０１１　　　　　　　　　　　領域別タップ数設定部
１２１１，１４１１　　　　　　タップ数設定部
１０１２、１２１２，１４１２　領域構造設定部
１０１３、１２１３，１４１３　特徴量モード設定部
１０１４、１２１４，１４１４　フィルタ係数残差生成部
１０１５、１２１５　　　　　　特性別フィルタ係数格納部
１４１５　　　　　　　　　　　フィルタ係数格納部
１０１６、１２１６，１４１６　フィルタパラメータ設定部
１０２、１２２、１４２　　　　適応フィルタ部
１０２３、１２２３、１４２３　フィルタ係数導出部
１３３１　　　　　　　　　　　インデックス総数復号部
１３３２　　　　　　　　　　　インデックス復号制御部
１３３３　　　　　　　　　　　推定フィルタインデックス算出部
１３３４　　　　　　　　　　　インデックス復号部
１３３５　　　　　　　　　　　新番号識別処理部
１３３６　　　　　　　　　　　残数管理部
１３４１　　　　　　　　　　　基本推定値算出部
１３４２　　　　　　　　　　　領域位置推定値算出部
１３４３　　　　　　　　　　　新番号推定値算出部
１３４４　　　　　　　　　　　推定値選択部
１３６０´　　　　　　　　　　ＢＡモード領域インデックス算出部
１３６３　　　　　　　　　　　原特性値算出部
１３６３１　　　　　　　　　　画素特性値算出部
１３６３２　　　　　　　　　　ブロック特性値加算部
１３６３３　　　　　　　　　　特性値算出属性設定部
１３６３４　　　　　　　　　　ステップサイズ設定部
１３６３５　　　　　　　　　　ウィンドウサイズ設定部
１３６３６　　　　　　　　　　ステップ方法設定部
１３６５　　　　　　　　　　　フィルタインデックス算出部

Claims

　複数の単位領域から構成される入力画像に作用するフィルタ手段と、
　各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、
　上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域に対して、フィルタ係数群を割り付けるフィルタ係数割り付け手段と、
を備え、
　上記フィルタ手段は、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数群を用いて算出する、
ことを特徴とする画像フィルタ装置。
　候補選択インデックスは、対象部分領域に対し第１特性値に関して隣接する部分領域と、対象部分領域に対し第２特性値に関して隣接する部分領域とを候補選択として含むことを特徴とする請求項１に記載の画像フィルタ装置。
　候補選択インデックスは、対象部分領域の直前に処理した部分領域を候補選択として含むことを特徴とする請求項１に記載の画像フィルタ装置。
　候補選択インデックスは、第１特性値と第２特性値とが１つづつ異なる既に処理した部分領域を候補選択として含むことを特徴とする請求項１に記載の画像フィルタ装置。
　候補選択インデックスは、既に処理した部分領域のフィルタ係数群を示すインデックスであることを特徴とする請求項１に記載の画像フィルタ装置。
　候補選択インデックスは、マージ用のインデックスであり、新規フィルタ係数群を用いない部分領域に対して用いられるフィルタ係数群を選択することを特徴とする請求項１から５の何れか１項に記載の画像フィルタ装置。
　候補選択インデックスは、予測用のインデックスであり、新規フィルタ係数群を用いる部分領域に対して、予測値として用いられるフィルタ係数群を選択することを特徴とする請求項１から５の何れか１項に記載の画像フィルタ装置。
　候補選択インデックスは、新規フィルタ係数群を用いる部分領域では予測値として用いられるフィルタ係数群の選択に用いられ、新規フィルタ係数群を用いない部分領域では用いるフィルタ係数群の選択に用いられることを特徴とする請求項１から５の何れか１項に記載の画像フィルタ装置。
　上記画像フィルタ装置で用いる前記第１及び第２の特性値は、各単位領域の座標であることを特徴とする請求項１から８の何れか１項に記載の画像フィルタ装置。
　上記画像フィルタ装置は、さらに特性値を選択する特徴量モードを入力とし、特徴量モードに応じて、候補選択インデックスの決定方法を切り替えることを特徴とする請求項１から９の何れか１項に記載の画像フィルタ装置。
　上記画像フィルタ装置は、特徴量モードが座標空間分割である場合と、特徴量が座標空間分割以外である場合とに応じて、候補選択インデックスの選択肢の数を変更することを特徴とする請求項１０に記載の画像フィルタ装置。
　上記画像フィルタ装置は、さらにフィルタ係数群の数を入力とし、既に復号されたフィルタ係数群の数が、入力されたフィルタ係数群の数よりも小さい場合に、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグを入力することを特徴とする請求項１から１１の何れか１項に記載の画像フィルタ装置。
　符号化データを復号し、フィルタ後の復号画像を生成する復号装置であって、
　請求項１から１２の何れか１項に記載の画像フィルタ装置と、
　各単位領域における予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と、上記符号化データから復号された残差画像とを加算することによって得られた復号画像を入力画像とし、出力画像として上記フィルタ後の復号画像を生成するものである、
ことを特徴とする復号装置。
　符号化対象画像と予測画像との残差画像を符号化することによって符号化データを生成する符号化装置であって、
　請求項１から１２の何れか１項に記載の画像フィルタ装置と、
　各単位領域における上記予測画像を、上記画像フィルタ装置が生成した出力画像を参照して生成する予測画像生成手段と、
を備え、
　上記画像フィルタ装置は、上記予測画像生成手段によって生成された予測画像と上記残差画像とを加算することによって得られる復号画像を入力画像とし、出力画像を生成するものである、
ことを特徴とする符号化装置。
　上記フィルタ手段によって用いられるフィルタ係数群は、単位領域毎に、上記符号化対象画像と上記出力画像との相違がより小さくなるように定められたものである、
ことを特徴とする請求項１４に記載の符号化装置。
　複数の単位領域から構成される入力画像に作用するフィルタ手段と、
　各単位領域における上記入力画像の画像特性又は上記入力画像における各単位領域の位置を示す特性値であって、互いに導出方法の異なる第１及び第２の特性値を算出する特性値算出手段と、
　上記第１及び第２の特性値によって張られる特性値領域を構成する複数の部分領域の各々について、新規フィルタ係数群を用いるか否かを示す新規フィルタ係数フラグ、及びフィルタ係数群を選択する候補選択インデックスを参照し、当該新規フィルタ係数フラグ及び当該候補選択インデックスに従って、各部分領域に対して、フィルタ係数群を割り付けるフィルタ係数割り付け手段と、
を備え、
　上記フィルタ手段によって、各単位領域における出力画像の各画素値を、該単位領域について算出された第１及び第２の特性値の属する部分領域について設定されたフィルタ係数群を用いて算出する画像フィルタ装置によって参照される符号化データのデータ構造であって、
　上記フィルタ係数群とその予測値との残差、及び
　上記新規フィルタ係数フラグと上記候補選択インデックス、
を含んでいることを特徴とする符号化データのデータ構造。
　上記フィルタ係数群の数を更に含んでいる、
ことを特徴とする請求項１６に記載の符号化データのデータ構造。