JP2013543315A - ビデオコード化のためのイントラ平滑化フィルタ - Google Patents

Abstract

本開示は、イントラ予測コード化を使って符号化されたブロックとともに符号化される追加データの量を削減するための技法に関する。特に、これらの技法は、平滑化フィルタを、イントラ予測コード化に使用される予測サンプルに適用する装置と方法とを提供する。たとえば、固定モード依存イントラ予測コード化において、ビデオ符号器は、現在のブロックに関連付けられたブロックサイズとイントラ予測モードとの組合せに基づいて、予測サンプルに適用される平滑化フィルタのタイプを判断し、この組合せは、第１のフィルタテーブル中でフィルタを探すために使用される。適応モード依存イントラ予測コード化において、符号器は、２つのフィルタ、すなわち第１のフィルタテーブルからの１つのフィルタと、第２のフィルタテーブルからの別のフィルタとを使い、両方のフィルタを適用し、どちらがより良好な結果を生じるか判断する。第２のフィルタテーブルフィルタがより良好な結果を生じるとき、符号器は、フィルタリング指示を符号化する。第１のフィルタテーブルからのフィルタが使われるときは、フィルタリング指示は符号化されない。

Description

本開示は、ビデオコード化に関し、より詳細には、イントラ予測ビデオコード化に関する。

[0002]デジタルビデオ機能は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末（ＰＤＡ）、ラップトップまたはデスクトップコンピュータ、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲームデバイス、ビデオゲームコンソール、セルラー電話または衛星無線電話、ビデオ遠隔会議デバイスなどを含む、広範囲にわたるデバイスに組み込まれ得る。デジタルビデオデバイスは、デジタルビデオ情報をより効率的に送信および受信するために、ＭＰＥＧ−２、ＭＰＥＧ−４、ＩＴＵ−Ｔ Ｈ．２６３またはＩＴＵ−Ｔ Ｈ．２６４／ＭＰＥＧ−４、Ｐａｒｔ１０、Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＡＶＣ）によって定義された規格、およびそのような規格の拡張に記載されているビデオ圧縮技法など、ビデオ圧縮技法を実装する。ＭＰＥＧとＩＴＵ−ＴとのコラボレーションであるＪＣＴＶＣ（Joint Collaborative Team-Video Coding）によって開発されている高効率映像符号化（ＨＥＶＣ：High Efficiency Video Coding）規格など、新しいビデオ規格が出現し、発展し続けている。この新しいＨＥＶＣ規格はＨ．２６５と呼ばれることもある。

[0003]ビデオ圧縮技法では、ビデオシーケンスに固有の冗長性を低減または除去するために空間的予測および／または時間的予測を実行する。ブロックベースのビデオコード化の場合、ビデオフレームまたはスライスがコード化ユニット（ＣＵ）と呼ばれるブロックに区分され得る。概して、ＣＵは、ＣＵがサイズ差異を有さないことを除いて、Ｈ．２６４規格のマクロブロックと同様の目的を有する。イントラコード化（Ｉ）フレームまたはスライス中のＣＵは、同じフレームまたはスライス中の隣接ＣＵに関する空間的予測を使用して符号化される。インターコード化（ＰまたはＢ）フレームまたはスライス中のＣＵは、同じフレームまたはスライス中の隣接ＣＵに関する空間的予測、あるいは他の参照フレームに関する時間的予測を使用し得る。

[0004]概して、本開示は、ビデオデータのイントラ予測コード化における、予測サンプルの周囲のピクセルに平滑化フィルタを適用するための技法について記載する。詳細には、これらの技法は、イントラ予測コード化において使われる予測サンプルに、平滑化フィルタを決定し適用する方法を提供する。いくつかの例では、これらの技法は、現在のブロックに関連付けられたブロックサイズとイントラ予測モードとの組合せに基づいて、予測サンプルの周囲のピクセルに適用すべき平滑化フィルタを選択することを含む。

[0005]固定モード依存イントラ平滑化において、ビデオ符号器は、現在のブロックに関連付けられたブロックサイズとイントラ予測モードとの組合せに基づいて、予測サンプルに適用される平滑化フィルタのタイプを決定する。ブロックサイズとイントラ予測モードとの組合せは、フィルタテーブル中でフィルタを探すために使用される。この場合、復号器側でフィルタテーブルが利用可能であり、ブロックサイズとイントラ予測モードとの組合せが復号器側で同様に使用されるので、平滑化に使われるフィルタタイプをシグナリングするために復号器に送られるオーバーヘッドがなくなる。

[0006]適応モード依存イントラ平滑化において、ビデオ符号器は、２つのフィルタオプションから平滑化フィルタを選択し、すなわち、１つは第１のフィルタテーブルから、他の１つは第２のフィルタテーブルから選択し、両方のフィルタを適用して、どちらがより良好な結果を生じるかを決定する。この場合、選択されたフィルタを示すシンタックスがビデオとともに符号化され、選択されたフィルタタイプをシグナリングするために復号器に送られ得る。一例において、第２のフィルタテーブルからのフィルタがより良好な結果を生じる場合、ビデオ符号器はフィルタリング指示を符号化する。第１のフィルタテーブルからのフィルタが使われるときは、フィルタリング指示は符号化されない。

[0007]これらの技法により、イントラ予測コード化を使って符号化されるブロックとともに符号化される追加データの量を削減でき、それゆえ、復号器に送信されるデータの量を削減することができる。イントラ予測符号化ブロックを受信したビデオ復号器は、フィルタリング指示がブロックとともに符号化されていなければ、第１のフィルタテーブルを使って、復号中に平滑化フィルタを適用する。フィルタリング指示がブロックとともに符号化されている場合、ビデオ復号器は、フィルタリング指示によって指示されるフィルタを使って、復号中に平滑化フィルタを適用する。

[0008]一例において、本開示は、ビデオデータの現在のブロックに関連付けられたブロックサイズを判断することと、現在のブロックに関連付けられたイントラ予測コード化モードを判断することと、ブロックサイズおよびコード化モードに基づいて、現在のブロックに適用するためにフィルタテーブルからフィルタを選択することと、選択されたフィルタを使って、現在のブロックをイントラ予測コード化することとを備える方法を対象とする。

[0009]別の例では、本開示は、ビデオデータをコード化するための装置を対象とし、この装置は、ビデオデータの現在のブロックに関連付けられたブロックサイズを判断し、現在のブロックに関連付けられたイントラ予測コード化モードを判断し、ブロックサイズおよびコード化モードに基づいて、現在のブロックに適用するためにフィルタテーブルからフィルタを選択し、選択されたフィルタを使って、現在のブロックをイントラ予測コード化するように構成されたプロセッサを備える。

[0010]別の例では、本開示は、ビデオデータを符号化するための装置を対象とし、この装置は、ビデオデータの現在のブロックに関連付けられたブロックサイズを判断する手段と、現在のブロックに関連付けられたイントラ予測コード化モードを判断する手段と、ブロックサイズおよびコード化モードに基づいて、現在のブロックに適用するためにフィルタテーブルからフィルタを選択する手段と、選択されたフィルタを使って、現在のブロックをイントラ予測コード化する手段とを備える。

[0011]さらなる一例では、本開示は、プロセッサで実行されると、プロセッサに、ビデオデータの現在のブロックに関連付けられたブロックサイズを判断させ、現在のブロックに関連付けられたイントラ予測コード化モードを判断させ、ブロックサイズおよびコード化モードに基づいて、現在のブロックに適用するためにフィルタテーブルからフィルタを選択させ、選択されたフィルタを使って、現在のブロックをイントラ予測コード化させる、ビデオデータをコード化するための命令を備えるコンピュータ可読記憶媒体を対象とする。

イントラ平滑化をサポートするための本開示の技法を使用し得る例示的なビデオ符号化および復号システムを示すブロック図。 様々なイントラ予測モードに関連付けられた予測方向の例示的なセットを描いたグラフを示す概念図。 様々なイントラ予測モードに関連付けられた予測方向の例示的なセットを描いた別のグラフを示す概念図。 様々なイントラ予測モードに関連付けられた予測方向の例示的なセットを示す概念図。 イントラ平滑化をサポートするための技法を実装し得るビデオ符号器の一例を示すブロック図。 符号化されたビデオシーケンスを復号するビデオ復号器の一例を示すブロック図。 本開示の技法による、ビデオデータを符号化するための例示的な方法を示すフローチャート。 本開示の技法による、ビデオデータを復号するための例示的な方法を示すフローチャート。 本開示の技法による、ビデオデータを符号化するための別の例示的な方法を示すフローチャート。 本開示の技法による、ビデオデータを復号するための別の例示的な方法を示すフローチャート。

[0022]概して、本開示は、ビデオデータのイントラ予測コード化において使われる予測サンプルを取り囲むピクセルに平滑化フィルタを判断し、適用するための技法について記載する。これらの技法は、符号化中であるビデオデータの現在のブロックに平滑化フィルタを適用するかどうか判断することを含み得る。たとえば、平滑化フィルタを適用するかどうかの判断は、符号化される現在のブロックのサイズと、現在のブロックに関連付けられた符号化モードとに基づき得る。現在のブロックの符号化モードは、現在のブロックのイントラ予測コード化または現在のブロックがそこから予測されるブロックと比較した現在のブロックの方向に関連付けられる方向に基づき得る。現在のブロックにイントラ平滑化フィルタリングを適用するかどうか、および／または現在のブロックに適用すべきイントラ平滑化フィルタのタイプに関する決定を行うために、フィルタリング決定テーブルが生成され、使用され得る。それゆえ、フィルタリング決定は、現在のブロックに関連付けられたブロックサイズおよびイントラ予測モードの関数であり得る。

[0023]ビデオコード化において、予測は、効率を高め、符号化ビデオデータの量を削減し、それゆえ、送信またはその後の取出しおよび表示のために記憶されるビデオデータの量を削減するのに使用することができる。２つのタイプの予測、すなわちインター予測およびイントラ予測が、現代のビデオコード化システムでは頻繁に使われる。インター予測では、現在のビデオブロックが、ビデオシーケンス中の別のフレーム中のビデオブロックから予測される。イントラ予測では、現在のビデオブロックは、同じフレーム内のビデオブロックから予測される。

[0024]上述したように、イントラ予測コード化は、現在のブロックの周囲のピクセルの方向性外挿を実施することによって、フレームの現在のブロックのピクセルを、同じフレームの前に符号化されたブロックのピクセルに関して符号化することを伴う。このように、周囲のピクセルは、現在のブロックについてピクセルを形成するための予測サンプルとして使われる。概して、ピクセルは、指定された方向に沿って現在のブロックを形成するために使われる。現在のブロックサイズが増大すると、予測サンプルからさらに遠ざかる、現在のブロックのピクセルの予測の正確さが低下し得る。イントラ予測コード化における低下を克服するために、周囲の予測サンプルに平滑化が適用される。

[0025]ビデオコード化プロセスは、予測ピクセルに平滑化フィルタを適用し、フィルタリング済みピクセルと非フィルタリングピクセルの両方を使って予測を実施及び比較し、比較の出力結果に基づいて、フィルタリング済みピクセルまたは非フィルタリングピクセルを使うかを判断し、シグナリングする。適応イントラ平滑化（ＡＩＳ: adaptive intra smoothing）と呼ばれるこの方法を用いると、平滑化フィルタを各ブロックに適用し、結果を非フィルタリングブロックと比較することが要求されるので、符号器の複雑さが増す結果となる。また、この方法を用いると、特定の平滑化フィルタが適用されるべきかどうかを明示的にシグナリングするので、各コード化ユニットに関連付けられたオーバーヘッド情報が増える。さらに、ＡＩＳデータ（たとえば、信号、平滑化フィルタなど）のエントロピーコード化および復号により、符号化および復号プロセスの複雑さが増す。

[0026]ＡＩＳの別の実施法は、符号器および復号器においてフィルタインジケータテーブルを利用するものであり、インジケータ値は、ブロックサイズと、予測の方向を示すイントラ予測モードとに依存する。このテーブルは、設計段階中に生成することができ、したがって、ピクセルがフィルタリングされるかどうかに関する決定が符号化プロセス中には実施されないので、符号器の計算の複雑度の増大が回避される。ただし、ビデオ符号器／復号器に対するいくつかの変更は、現在のテーブルと置き換わる新たなテーブルの生成を要求し得る。

[0027]本開示の技法は、規則に基づく簡易ＡＩＳ方式またはモード依存イントラ平滑化（ＭＤＩＳ：mode-dependent intra smoothing）を提案し、平滑化フィルタを適用するかどうかに関する規則は、現在のブロックのサイズと、予測モードまたは方向とに基づく。ＭＤＩＳは予測モードを階層状に順序付け、階層は異なるブロックサイズにマッッピングされ、ブロックサイズが増大すると、より多くのモードが階層に従ってフィルタリングされる。いくつかの例では、平滑化フィルタを適用するかどうかの判断は、より大きいブロックとより小さいブロックとの間でさらに区別することができ、平滑化フィルタを適用するかどうか判断する手順は、ブロックサイズに基づいて変わり得る。さらに、いくつかのビデオシーケンス、たとえば、方向性テクスチャをもつシーケンスの場合、平滑化フィルタの適用は、ほとんど、または全く有利にならない場合がある。本開示の技法は、これらの問題に対処するための平滑化フィルタ判断を行い得る。イントラ予測および平滑化フィルタ情報は、対応するブロックのヘッダ中に符号化され、復号中に適切な平滑化フィルタを適用するために、ビデオ復号器によって復号され得る。

[0028]図１は、イントラ予測コード化中に平滑化フィルタを適用するための本開示の技法を使用することができる例示的なビデオ符号化および復号システム１０を示すブロック図である。図１に示すように、システム１０は、通信チャネル１６を介して符号化ビデオを宛先デバイス１４に送信するソースデバイス１２を含む。ソースデバイス１２および宛先デバイス１４は、広範囲のデバイスのいずれかを備えることができる。いくつかの例では、ソースデバイス１２および宛先デバイス１４は、いわゆるセルラー電話または衛星無線電話といったワイヤレスハンドセットのようなワイヤレス通信デバイス、または通信チャネル１６を介してビデオ情報を通信することができる任意のワイヤレスデバイスを備え得、その場合、通信チャネル１６はワイヤレスである。

[0029]本開示の技法は、概して、イントラ予測コード化のための技法に関するが、必ずしもワイヤレスアプリケーションまたはワイヤレス設定に限定されるものではない。たとえば、これらの技法は、物理ワイヤー、光ファイバーまたは他の物理もしくはワイヤレス媒体を介して通信するデバイスを含む、広範な他の設定およびデバイスにおいても有用であり、オーバージエア（over-the-air）のテレビ放送、ケーブルテレビ送信、衛星テレビ送信、インターネットビデオ送信、記憶媒体上に符号化される符号化デジタルビデオ、または他のシナリオに適用され得る。たとえば、符号化ビデオは、宛先デバイス１４による、その後の取出し、復号、および表示のために、記憶デバイスに記憶することができる。さらに、本符号化技法または復号技法は、必ずしも他のデバイスと通信するとは限らないスタンドアロンデバイスにおいても適用され得る。したがって、通信チャネル１６は、符号化ビデオデータまたは他の記憶媒体の送信に好適なワイヤレスまたはワイヤード媒体の任意の組合せを備え、デバイス１２、１４は、携帯電話、スマートフォン、デジタルメディアプレーヤ、セットトップボックス、テレビジョン、ディスプレイ、デスクトップコンピュータ、ポータブルコンピュータ、タブレットコンピュータ、ゲームコンソール、ポータブルゲームデバイスなどの様々なワイヤードまたはワイヤレス媒体デバイスのいずれかを備え得る。

[0030]図１の例では、ソースデバイス１２は、ビデオソース１８と、ビデオ符号器２０と、変調器／復調器（モデム）２２と、送信機２４とを含む。宛先デバイス１４は、受信機２６と、モデム２８と、ビデオ復号器３０と、ディスプレイデバイス３２とを含む。他の例では、ソースデバイスおよび宛先デバイスは他の構成要素または構成を含み得る。たとえば、ソースデバイス１２は、外部カメラ、ビデオストレージアーカイブ、コンピュータグラフィックスソースなどの外部ビデオソース１８からビデオデータを受信し得る。同様に、宛先デバイス１４は、一体型ディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。

[0031]図１の図示のシステム１０は一例にすぎない。イントラ予測コード化において平滑化フィルタを適用するための技法は、どのデジタルビデオ符号化および／または復号デバイスによっても実施することができる。概して、本開示の技法はビデオ符号化デバイスによって実行されるが、本技法は、一般に「コーデック」と呼ばれるビデオ符号器／復号器によっても実行され得る。さらに、本開示の技法はまた、ビデオプリプロセッサによって実行され得る。ソースデバイス１２および宛先デバイス１４は、ソースデバイス１２が宛先デバイス１４に送信するためのコード化ビデオデータを生成するコード化デバイスの例にすぎない。いくつかの例では、デバイス１２、１４の各々がビデオ符号化構成要素と復号構成要素とを含むので、デバイス１２、１４は、実質的に対称的に動作する。したがって、システム１０は、たとえば、ビデオストリーミング、ビデオ再生、ビデオブロードキャストまたはビデオ電話通信のためのビデオデバイス１２とビデオデバイス１４との間の一方向または双方向のビデオ送信をサポートする。

[0032]ソースデバイス１２のビデオソース１８は、ビデオカメラのようなビデオキャプチャデバイス、以前にキャプチャされたビデオを含むビデオアーカイブ、および／またはビデオコンテンツプロバイダからのビデオフィードを含み得る。さらなる代替として、ビデオソース１８は、ソースビデオとしてのコンピュータグラフィックスベースのデータ、またはライブビデオとアーカイブビデオとコンピュータ生成ビデオとの組合せを生成し得る。場合によっては、ビデオソース１８がビデオカメラである場合、ソースデバイス１２および宛先デバイス１４は、いわゆるカメラ付き携帯電話またはビデオ電話を形成する。ただし、上述のように、本開示で説明する技法は、一般にビデオコード化に適用可能であり、ワイヤレスおよび／またはワイヤードアプリケーションに適用可能であり得る。各場合において、キャプチャされたビデオ、あらかじめキャプチャされたビデオ、またはコンピュータ生成ビデオをビデオ符号器２０によって符号化することができる。次いで、符号化ビデオ情報は、通信規格に従ってモデム２２によって変調され、送信機２４を介して宛先デバイス１４に送信され得る。モデム２２は、信号変調のために設計された様々なミキサ、フィルタ、増幅器または他の構成要素を含み得る。送信機２４は、増幅器、フィルタ、および１つまたは複数のアンテナを含む、データを送信するために設計された回路を含み得る。

[0033]宛先デバイス１４の受信機２６はチャネル１６を介して情報を受信し、モデム２８はその情報を復調する。繰返しになるが、ビデオ符号化プロセスは、現在のブロックのイントラ予測コード化中に平滑化フィルタを適用するための、本明細書で説明する技法の１つまたは複数を実装することができる。チャネル１６を介して通信される情報は、ビデオ符号器２０によって定義されるシンタックス情報を含み、シンタックス情報は、ビデオ復号器３０によっても使用され、予測ユニット（ＰＵ）、コード化ユニット（ＣＵ）またはコード化ビデオの他のユニット、たとえば、ビデオスライス、ビデオフレーム、およびビデオシーケンスまたはピクチャグループ（ＧＯＰ：group of pictures）の特性および／または処理を記述するシンタックス要素を含み得る。ディスプレイデバイス３２は、復号されたビデオデータをユーザに対して表示し、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）、プラズマディスプレイ、有機発光ダイオード（ＯＬＥＤ）ディスプレイ、または別のタイプのディスプレイデバイスなど、様々なディスプレイデバイスのいずれかを備え得る。

[0034]図１の例では、通信チャネル１６は、無線周波数（ＲＦ）スペクトルあるいは１つまたは複数の物理伝送線路などの任意のワイヤレスまたはワイヤード通信媒体、あるいはワイヤレスおよびワイヤード媒体の任意の組合せを備え得る。通信チャネル１６は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネットのようなグローバルネットワークなどのパケットベースのネットワークの一部を形成し得る。通信チャネル１６は、一般に、ワイヤードまたはワイヤレス媒体の任意の好適な組合せを含む、ビデオデータをソースデバイス１２から宛先デバイス１４に送信するのに好適な任意の通信媒体、または様々な通信媒体の集合体を表す。通信チャネル１６は、ソースデバイス１２から宛先デバイス１４への通信を可能にするのに有用であり得るルータ、スイッチ、基地局、または任意の他の機器を含み得る。

[0035]ビデオ符号器２０およびビデオ復号器３０は、新たな高効率ビデオコード化（ＨＥＶＣ:High Efficiency Video Coding）規格、または代替的にＭＰＥＧ−４、Ｐａｒｔ１０、アドバンストビデオコード化（ＡＶＣ）とも呼ばれるＩＴＵ−Ｔ Ｈ．２６４規格などのビデオ圧縮規格に従って動作し得る。ただし、本開示の技法は、いかなる特定のコード化規格にも限定されない。他の例にはＭＰＥＧ−２およびＩＴＵ−Ｔ Ｈ．２６３がある。図１には示されていないが、いくつかの態様では、ビデオ符号器２０およびビデオ復号器３０は、それぞれオーディオ符号器および復号器と統合され、適切なＭＵＸ−ＤＥＭＵＸユニットまたは他のハードウェアおよびソフトウェアを含み、共通のデータストリームまたは別個のデータストリーム中のオーディオとビデオの両方の符号化を処理する。適用可能な場合、ＭＵＸ−ＤＥＭＵＸユニットはＩＴＵ Ｈ．２２３マルチプレクサプロトコル、またはユーザデータグラムプロトコル（ＵＤＰ）などの他のプロトコルに準拠することができる。

[0036]ＩＴＵ−Ｔ Ｈ．２６４／ＭＰＥＧ−４（ＡＶＣ）規格は、Ｊｏｉｎｔ Ｖｉｄｅｏ Ｔｅａｍ（ＪＶＴ）として知られる共同パートナーシップの成果として、ＩＳＯ／ＩＥＣ Moving Picture Experts Group（ＭＰＥＧ）とともにＩＴＵ−Ｔ Video Coding Experts Group（ＶＣＥＧ）によって策定された。いくつかの態様では、本開示で説明する技法は、一般にＨ．２６４規格に準拠するデバイスに適用することができる。Ｈ．２６４規格は、ＩＴＵ−Ｔ研究グループによる２００５年３月付けのＩＴＵ−Ｔ勧告Ｈ．２６４「Advanced Video Coding for generic audiovisual services」に記載されており、本明細書ではＨ．２６４規格またはＨ．２６４仕様、あるいはＨ．２６４／ＡＶＣ規格または仕様と呼ぶ。

[0037]Joint Video Team（ＪＶＴ）は、Ｈ．２６４／ＡＶＣの拡張に従事し、たとえばＨＥＶＣのための新しい規格を開発し続ける。ＨＥＶＣの規格化の取り組みは、ＨＥＶＣテストモデル（ＨＭ）と呼ばれるビデオコード化デバイスのモデルに基づく。ＨＭは、たとえば、ＩＴＵ−Ｔ Ｈ．２６４／ＡＶＣに従う既存のデバイスと比較して、ビデオコード化デバイスのいくつかの追加の能力を前提とする。たとえば、Ｈ．２６４は９つのイントラ予測符号化モードを提供するが、ＨＭは３５個ものイントラ予測符号化モードを提供する。

[0038]ＨＭは、ビデオデータのブロックをコード化ユニット（ＣＵ）と呼ぶ。ビットストリーム内のシンタックスデータは、ピクセルの数に関して最大のコード化ユニットである最大コード化ユニット（ＬＣＵ：largest coding unit）を定義し得る。概して、ＣＵは、ＣＵがサイズ差異を有さないことを除いて、Ｈ．２６４規格のマクロブロックと同様の目的を有する。したがって、ＣＵは複数のサブＣＵに分割され得る。概して、本開示におけるＣＵへの言及は、ピクチャの最大コード化ユニットまたはＬＣＵのサブＣＵを指すことがある。ＬＣＵは複数のサブＣＵに分割され、各サブＣＵはさらに複数のサブＣＵに分割され得る。ビットストリームのシンタックスデータは、ＣＵ深度と呼ばれ、ＬＣＵが分割される最大回数を定義し得る。それに応じて、ビットストリームは最小コード化ユニット（ＳＣＵ：smallest coding unit）をも定義し得る。本開示ではまた、ＣＵ、ＰＵ、またはＴＵのいずれかを指すために「ブロック」という用語を使用する。さらに、本開示が、コード化ユニットすなわちＣＵを伴う例に言及する場合、コード化ユニットに代替されるマクロブロックに関して他の例を挙げる場合があることを理解されたい。

[0039]ＬＣＵは４分木データ構造に関連付けられ得る。概して、４分木データ構造はＣＵごとに１つのノードを含み、ルートノードはＬＣＵに対応する。ＣＵが４つのサブＣＵに分割された場合、ＣＵに対応するノードは４つのリーフノードを含み、リーフノードの各々はサブＣＵのうちの１つに対応する。４分木データ構造の各ノードは、対応するＣＵのシンタックスデータを与え得る。たとえば、４分木の１つのノードは、そのノードに対応するＣＵがサブＣＵに分割されるかどうかを示す分割フラグを含む。ＣＵのシンタックス要素は、再帰的に定義され、ＣＵがサブＣＵに分割されるかどうかに依存し得る。

[0040]分割されない（たとえば、４分木データ構造におけるリーフノードに対応する）ＣＵは、１つまたは複数の予測ユニット（ＰＵ）を含み得る。概して、１つのＰＵは、対応するＣＵの全部または一部分を表し、そのＰＵの参照サンプルを取り出すためのデータを含む。たとえば、ＰＵがイントラモード符号化されるとき、ＰＵは、そのＰＵのためのイントラ予測モードを記述するデータを含む。イントラ予測モードを記述するデータは、たとえば、ＰＵについてのイントラ予測モードに関連付けられた方向（ルーマおよびクロマ成分）と、ＰＵに関連付けられたブロックサイズとを定義する。別の例として、ＰＵがインターモード符号化されるとき、ＰＵは、ＰＵの動きベクトルを定義するデータを含む。動きベクトルを定義するデータは、たとえば、動きベクトルの水平成分、動きベクトルの垂直成分、動きベクトルの分解能（たとえば、１／４ピクセル精度もしくは１／８ピクセル精度）、動きベクトルが指す参照フレーム、および／または動きベクトルについての参照フレームリスト（たとえば、リスト０もしくはリスト１）、および動きベクトル予測子インデックスを記述する。また、（１つまたは複数の）ＰＵを定義するＣＵについてのデータは、たとえば、１つまたは複数のＰＵへのＣＵの区分について記述する。区分モードは、ＣＵがコード化されないか、イントラ予測モード符号化されるか、またはインター予測モード符号化されるかによって異なる。

[0041]１つまたは複数のＰＵを有するＣＵは、１つまたは複数の変換ユニット（ＴＵ：transform unit）をも含み得る。ＰＵを使用した予測の後に、ビデオ符号器は、ＰＵに対応するＣＵの部分について残差値を計算し得る。残差値は、エントロピーコード化のためのシリアル化変換係数（serialized transform coefficient）を生成するために、変換係数に変換され、量子化され、走査され得るピクセル差分値に対応する。ＴＵのサイズは、必ずしもＰＵのサイズに制限されるとは限らない。具体的には、ＴＵは、ＣＵについての対応するＰＵと同じサイズでも、それよりも小さくてもよい。いくつかの例では、ＴＵの最大サイズは、対応するＣＵのサイズである。概して、ＴＵは、所与のＣＵに関連する残差変換係数を含むデータ構造を備え得る。

[0042]ビデオ符号器２０およびビデオ復号器３０はそれぞれ、１つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェアなど、様々な好適な符号器回路のいずれか、またはそれらの任意の組合せとして実装され得る。ビデオ符号器２０およびビデオ復号器３０の各々は１つまたは複数の符号器または復号器中に含まれ得、そのいずれも複合符号器／復号器（コーデック）の一部としてそれぞれのカメラ、コンピュータ、モバイルデバイス、加入者デバイス、ブロードキャストデバイス、セットトップボックス、サーバなどに統合され得る。

[0043]ビデオシーケンスは、一般に一連のビデオフレームを含む。ピクチャグループ（ＧＯＰ）は、概して、一連の１つまたは複数のビデオフレームを備える。ＧＯＰは、ＧＯＰ中に含まれるいくつかのフレームを記述するシンタックスデータを、ＧＯＰのヘッダ、ＧＯＰの１つもしくは複数のフレームのヘッダ、または他の場所中に含み得る。各フレームは、それぞれのフレームについての符号化モードを記述するフレームシンタックスデータを含み得る。ビデオ符号器２０は、一般に、ビデオデータを符号化するために、個々のビデオフレーム内のビデオブロックに対して動作する。ビデオブロックは、コード化ユニット（ＣＵ）またはＣＵのパーティションユニット（ＰＵ：partition unit）に対応し得る。ビデオブロックは、サイズを固定することも変更することもでき、指定のコード化規格に応じてサイズが異なることがある。各ビデオフレームは複数のスライスを含み得る。各スライスは、１つまたは複数のＰＵを含み得る、複数のＣＵを含み得る。

[0044]一例として、ＨＥＶＣテストモデル（ＨＭ）は、様々なＣＵサイズでの予測をサポートする。ＬＣＵのサイズは、シンタックス情報によって定義され得る。特定のＣＵのサイズが２Ｎ×２Ｎであると仮定すると、ＨＭは、２Ｎ×２ＮまたはＮ×Ｎのサイズでのイントラ予測をサポートし、２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ、またはＮ×Ｎの対称サイズでのインター予測をサポートする。ＨＭはまた、２Ｎ×ｎＵ、２Ｎ×ｎＤ、ｎＬ×２Ｎ、およびｎＲ×２Ｎのインター予測のための非対称分割をサポートする。非対称分割では、ＣＵの一方向は分割されないが、他の方向が２５％と７５％とに分割される。２５％の分割に対応するＣＵの一部分は、「ｎ」の後ろに付く「Ｕｐ」、「Ｄｏｗｎ」、「Ｌｅｆｔ」、または「Ｒｉｇｈｔ」という指示によって示される。したがって、たとえば「２Ｎ×ｎＵ」は、上部に２Ｎ×０．５Ｎ ＰＵと下部に２Ｎ×１．５Ｎ ＰＵとに水平方向に分割される２Ｎ×２Ｎ ＣＵを指す。

[0045]本開示では、「Ｎ×Ｎ」と「Ｎ ｂｙ Ｎ」とは、垂直次元および水平次元に関するビデオブロック（たとえば、ＣＵ、ＰＵ、またはＴＵ）のピクセル次元、たとえば、１６×１６ピクセルまたは１６ ｂｙ １６ピクセルを指すために互換的に使用され得る。一般に、１６×１６ブロックは、垂直方向に１６ピクセルを有し（ｙ＝１６）、水平方向に１６ピクセルを有する（ｘ＝１６）。同様に、Ｎ×Ｎブロックは、一般に、垂直方向にＮピクセルを有し、水平方向にＮピクセルを有し、Ｎは、非負整数値を表す。ブロック中のピクセルは行と列に配置され得る。さらに、ブロックは、必ずしも、水平方向に垂直方向と同じ数のピクセルを有する必要はない。たとえば、ブロックは、Ｎ×Ｍピクセルを備え得、Ｍは必ずしもＮに等しいとは限らない。

[0046]上述したように、ＣＵは、インター予測コード化またはイントラ予測コード化を使って符号化され得る。イントラ予測では、現在のブロックは、すでに符号化されている同じフレーム中のブロックと比較して予測され得る。通常、フレームのブロックは、左から右および上から下に、またはいくつかの例ではｚ−スキャン順序でコード化される。それゆえ、現在のブロックは、現在のブロックの上または左のどこにあるブロックと比較しても予測し得る。イントラ予測コード化におけるブロックサイズは、比較的小さいサイズ、たとえば、２×２から、比較的大きいサイズ、たとえば、１２８×１２８まで変わり得る。予測の方向またはすでに符号化されているブロックから現在のブロックへの方向は、イントラ予測モードを判断し得る。ＨＭは、外挿方向に対応する３３個の異なるイントラ予測方向性モードと、１つのＤＣモードとを含む最大３４モードを可能にする。３３個のイントラ予測方向性モードのそれぞれは、現在のブロックのピクセルを予測するのに使われるブロックからのピクセルの外挿の方向を示す５．６２５°に近い角度分解能で、０と１８０との間（または、図２Ａの例では、水平から時計回りに、４５度と−１３５度との間）の角度に対応する。非方向性モード（モード２で指定される）は、ＤＣに対応し、隣接ピクセルのサンプリングは、現在のブロックのピクセルを予測するのに使われる。いくつかの例では、ＨＭは、平面（planar）モードに対応する第３５のモード（モード３４）を認め、ここでピクセルの値は、後でより詳しく論じる勾配関数（gradient function）を使って調整し得る。

[0047]イントラ予測コード化中、予測の正確さの質は影響を受け低下し得る。たとえば、ＰＵのサイズが増大すると、予測子ピクセルからより遠くにあるピクセルの予測の正確さは低下する。予測の正確さが低下した結果、より多くの残差データが生じ、その結果、符号化、送信、または記憶する必要があるデータが増える。平滑化フィルタを、ブロックを予測するのに使われる予測子ピクセルに適用して、予測の正確さを向上することができる。ただし、場合によっては、平滑化フィルタを使わなくても、より良好な結果が達成される。上述したように、現在の規格は、適応イントラ平滑化（ＡＩＳ）技法を使用する。

[0048]本開示の技法は、規則ベース簡易ＡＩＳ方式を提案し、平滑化フィルタを適用するかどうかに関する規則は、主に、現在のブロックのサイズと、予測モードまたは方向とに基づく。ＨＭでは、ブロックサイズは、小さいサイズ、たとえば２×２から、たとえば１２８×１２８もの大きさまで変わる。各ブロックに利用可能なイントラ予測モードは、後でより詳しく説明するように、サイズに基づいて変わり得る。方向が異なるイントラ予測モードに対応する場合、各ブロックサイズに対して、いくつかの方向では、予測が適用されるときに平滑化フィルタが必要とされるが、別の方向では必要とされない。一例では、平滑化フィルタが適用されるサイズとイントラ予測モードの組合せは、ルックアップテーブル（ＬＵＴ）においてあらかじめ定義することができる。それゆえ、平滑化フィルタを適用するかどうかの判断は汎用でよく、符号器および／または復号器に対する変更にかかわらず同じままであり、フィルタリング判断のシグナリングは必要とされない。さらに、平滑化フィルタを適用するかどうかの判断を行っても、符号器を大幅に複雑化することはない。

[0049]いくつかの例では、平滑化フィルタを適用するかどうかの判断は、より大きいブロックとより小さいブロックとの間でさらに区別することができ、平滑化フィルタを適用するかどうか判断する手順は、ブロックサイズに基づいて変わり得る。たとえば、いくつかのブロックサイズの場合、符号器は、フィルタリング済みピクセルと非フィルタリングピクセルの両方を使って予測を実施し、結果を比較して、平滑化フィルタを使うかどうか判断する。符号器は次いで、フィルタリングモード、すなわち、ブロックを符号化する際に平滑化フィルタが使われるかどうかをシグナリングすることができる。一例では、フィルタリングモードは、ＬＵＴに基づいて取得される決定、すなわち、デフォルトのフィルタリング決定とは異なる場合にシグナリングされる。

[0050]一例では、１つまたは複数の平滑化フィルタ（たとえば、フィルタ候補）を定義することができる。ブロックサイズとイントラ予測モードとの各組合せに対して、使うべき適切なフィルタをテーブルが定義され得る。平滑化フィルタが使われない組合せに対して、定義されるフィルタは全域通過フィルタでよい。一次テーブルは、ブロックサイズとイントラ予測モードとの各対応する組合せに対する最も確実な平滑化フィルタを含み得る。いくつかの例では、二次テーブル（またはいくつかの追加テーブル）が、ブロックサイズとイントラ予測モードとの各対応する組合せに対し、２番目に確実な平滑化フィルタ（または、いくつかの追加テーブルの場合ではいくつかの可能平滑化フィルタ）を含むように定義され得る。一例では、別段に示されていない限り、最も確実な平滑化フィルタ情報を使用してよい。イントラ予測コード化に関連付けられた情報（たとえば、ブロックサイズおよびイントラ予測モード）と平滑化フィルタ情報（たとえば、フィルタリングモードおよび確実な１つまたは複数の平滑化フィルタテーブル）が、対応するブロックのヘッダ（または、フッターなどの他のデータ構造）中に符号化され、復号中に適切な平滑化フィルタを適用するために、ビデオ復号器によって復号され得る。

[0051]予測データ（たとえば、ＣＵのためのＰＵ）を生成するためのイントラ予測コード化またはインター予測コード化の後、ビデオ符号器２０は、ＣＵのための１つまたは複数の変換ユニット（ＴＵ）を生成するために、残差データを計算し得る。ＣＵのＰＵは、（ピクセル領域とも呼ばれる）空間領域におけるピクセルデータを備えるが、ＣＵのＴＵは、たとえば、残差ビデオデータへの離散コサイン変換（ＤＣＴ）、整数変換、ウェーブレット変換、または概念的に同様の変換などの変換が適用された後の変換領域における係数を備え得る。残差データは、非符号化ピクチャ（unencoded picture）のピクセルとＣＵのＰＵの予測値との間のピクセル差分に対応し得る。ビデオ符号器２０は、ＣＵについての残差データを含む１つまたは複数のＴＵを形成し得る。ビデオ符号器２０は、次いで、ＴＵを変換し得る。

[0052]変換係数を生成するための変換の後、変換係数の量子化が実行され得る。量子化は、概して、係数を表すために使用されるデータ量をできるだけ低減するために変換係数を量子化するプロセスを指す。量子化プロセスは、係数の一部または全部に関連するビット深度を低減することができる。たとえば、量子化中にｎビット値がｍビット値に丸められる、ここでｎはｍよりも大きい。

[0053]いくつかの例では、ビデオ符号器２０は、エントロピー符号化され得るシリアル化ベクトルを生成するために、量子化変換係数を走査するためにあらかじめ定義された走査順序を利用し得る。他の例では、ビデオ符号器２０は、適応型走査を実行し得る。１次元ベクトルを形成するために、量子化変換係数を走査して後、ビデオ符号器２０は、たとえば、コンテキスト適応型可変長コード化（ＣＡＶＬＣ：context adaptive variable length coding）、コンテキスト適応型２値算術コード化（ＣＡＢＡＣ：context adaptive binary arithmetic coding）、シンタックスベースコンテキスト適応型２値算術コード化（ＳＢＡＣ：syntax-based context-adaptive binary arithmetic coding）、または別のエントロピーコード化方法に従って、該１次元ベクトルをエントロピー符号化し得る。

[0054]エントロピーコード化用に構成された処理ユニットまたは別の処理ユニットは、量子化係数のゼロランレングスコード化、および／またはコード化ブロックパターン（ＣＢＰ）値、マクロブロックタイプ、コード化モード、ＬＣＵサイズなどのシンタックス情報の生成などの、他の処理機能を実行し得る。

[0055]宛先デバイス１４のビデオ復号器３０は、本開示のビデオ符号器２０の技法のいずれかまたはすべてと同様であり、概ね対称である技法を実施するように構成され得る。たとえば、ビデオ復号器３０は、ビデオフレームのエントロピー符号化されたＣＵを受信する。この受信データは、ビデオ符号器２０においてＣＵを符号化するのにイントラ予測コード化が使用されたかどうかを示すシンタックス要素を含み得る。本開示の技法によると、イントラ予測コード化に関連付けられたシンタックス要素は、たとえば、イントラ予測モードまたは予測の方向、ブロックサイズ、および適用可能なときは平滑化フィルタに関連付けられた他の情報のような情報を含み得る。たとえば、ビデオ復号器３０は、イントラ予測コード化を使ってＣＵが符号化されたと判断し、符号化ＣＵとともに含まれるシンタックス要素を復号して、ＣＵのイントラ予測モードを判断する。ビデオ符号器３０は、イントラ予測コード化において使われるブロックのサイズをも判断し、ブロックサイズおよびイントラ予測モード情報を使って、ビデオ復号器３０は、ブロックを予測するときに予測子ピクセルに平滑化フィルタを適用するかどうか判断し得る。

[0056]一例では、ビデオ復号器３０は、ブロックを符号化するのに使われるブロックサイズとイントラ予測モードとの組合せに基づいて平滑化フィルタを適用するかどうか判断する。そうではないとの指示がない限り、ビデオ復号器３０は、ブロックサイズとイントラ予測モードとの組合せに関連付けられた最も確実な平滑化フィルタを使用し得る。ブロックサイズとイントラ予測モードとの組合せに対し使われる平滑化フィルタが、その組合せに対し最も確実な平滑化フィルタとは異なる場合、ブロックに関連付けられたシンタックス要素から、ビデオ復号器３０によって指示を復号し、その組合せに対する２番目（またはそれ以降）に確実な平滑化フィルタからの平滑化フィルタが、ビデオ復号器３０によって選択され、使用される。

[0057]このようにして、イントラ予測コード化において平滑化フィルタが適用されるかどうかを示すように符号化された情報の量が最小限にされ、場合によっては削除される。たとえば、平滑化フィルタ適用決定が、ブロックサイズとイントラ予測モードとの組合せにとって最も確実である場合、平滑化フィルタに関するシグナリングは符号化されず、ビデオ復号器３０は、ブロックサイズおよびイントラ予測モード以外の追加情報を必要とすることなく、判断を行うことができる。

[0058]ビデオ符号器２０およびビデオ復号器３０はそれぞれ、適用可能なとき、１つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、ディスクリート論理回路、ソフトウェア、ハードウェア、ファームウェアなどの様々な好適な符号器または復号器回路のいずれか、あるいはそれらの任意の組合せとして実装され得る。ビデオ符号器２０およびビデオ復号器３０の各々は１つまたは複数の符号器または復号器中に含まれ、そのいずれも複合ビデオ符号器／復号器（コーデック）の一部として統合され得る。ビデオ符号器２０および／またはビデオ復号器３０を含む装置は、集積回路、マイクロプロセッサ、および／またはセルラー電話などのワイヤレス通信デバイスを備え得る。

[0059]図２Ａは、様々なイントラ予測モードに関連付けられた予測方向の例示的なセットを示すグラフを示す概念図である。上述したように、ＨＭは、３３個ものイントラ予測方向性符号化モードを提供する。ＨＭ符号器（たとえば、ビデオ符号器２０）は、ブロックについてのイントラ予測モードの利用可能なセットがブロックまたはＰＵのサイズに依存し得るように構成され得る。すなわち、ブロックのサイズによってそのブロックのために利用可能なイントラ予測モードの番号が決定され、そこから、符号器は、ブロックを予測するためにイントラ予測モードを選択し得る。以下の表１に、ブロックのサイズと、そのサイズのブロックのために利用可能なイントラ予測モードとの間の対応の一例を示す。イントラ予測モードに関連付けられた方向を図３に示す。モード２は、図３には示されていないが、ＤＣモードに対応し、ＤＣモードでは、隣接ピクセルのサンプリングが、現在のブロックのピクセルを予測するのに使われる。

[0060]図２Ａの例では、（破線で示す）ブロック１０６は、選択されたイントラ予測モードに応じて隣接ピクセル１００Ａ〜１００ＡＧ（隣接ピクセル１００）から予測され得る。矢印１０２Ａ〜１０２ＡＧ（矢印１０２）は、様々なイントラ予測モードに関連付けられた方向または角度を表す。図２Ａの例は、ＨＭによって与えられるイントラ予測モードを表す。ただし、他の例では、より多いまたはより少ないイントラ予測モードが与えられ得る。ブロック１０６の例は８×８ピクセルブロックであるが、概して、ブロックは、任意の数のピクセル、たとえば、４×４、８×８、１６×１６、３２×３２、６４×６４、１２８×１２８などを有し得る。ブロック１０６の例は正方形であるが、本開示の技法は、他のブロックサイズ、たとえば、Ｎ×Ｍブロックにも適用され得、ここでＮは必ずしもＭに等しいとは限らない。

[0061]イントラ予測モードは、たとえば、ブロック１０６の垂直側に直角な水平軸に対する、予測方向の角度に従って定義される。したがって、矢印１０２の各々は、対応するイントラ予測モードの予測方向の特定の角度を表し得る。いくつかの例では、イントラ予測方向モードは、対応するイントラ予測モードがコンテキストピクセル外挿のために使用する方向を表す整数ペア（ｄｘ，ｄｙ）によって定義され得る。すなわち、イントラ予測モードの角度はｄｙ／ｄｘとして計算され得る。言い換えれば、その角度は水平オフセットｄｘと垂直オフセットｄｙとによって表され得る。ブロック１０６中のロケーション（ｘ，ｙ）におけるピクセルの値は、ｄｙ／ｄｘの角度でロケーション（ｘ，ｙ）も通るラインが通る、隣接ピクセル１００のうちの１つまたは複数から決定され得る。

[0062]図２Ｂは、様々なイントラ予測モードに関連付けられた予測方向の別の例示的なセットを示すグラフを示す概念図である。図２Ｂの例では、図２Ａに示すものと同様の、３３個のイントラ予測方向性符号化モードを示す。この例では、３３個の方向性モードに加え、２つの追加モード、すなわちＤＣモードに対応するモード２、および平面（planar）モードに対応するモード３４がある。

[0063]図２Ｂの例において、符号器および／または復号器は、ブロックについてのイントラ予測モードの利用可能なセットが、ブロック、たとえばＰＵ、ＣＵ、またはＴＵのサイズに依存するように構成され得る。すなわち、ブロックのサイズによってそのブロックのために利用可能なイントラ予測モードの番号が決定され、そこから、符号器は、ブロックを予測するためにイントラ予測モードを選択し得る。以下の表２に、ブロックのサイズと、そのサイズのブロックのために利用可能なイントラ予測モードとの間の対応の別の例を示す。

[0064]図３は、様々なイントラ予測モードに関連付けられた予測方向の例示的なセットを示す概念図である。ＨＭによって提供される３３個のイントラ予測方向性モードの各々は、指定された角度をもつ方向に対応する。たとえば、モード１は、水平外挿方向または水平線から０°の角度に対応し、モード１を使って符号化されたブロックは、その左に向けられたピクセルから予測される。別の例として、モード０は、垂直外挿方向または水平線から９０°の角度に対応し、モード０を使って符号化されたブロックは、その真上のピクセルから予測される。別の例として、モード３、６、および９は、４５°の角度分解能での対角外挿方向に対応する。モード０、１、および３〜３３は、５．６２５°に近い角度分解能をもつ、（モード６と９との間の）１８０°にわたる予測方向に対応する。モード２は、ＨＭの例では、ＤＣモードに対応し、８個の隣接ピクセルのサンプリングは、現在のブロックのピクセルを予測するのに使われる。モード３４は、平面モードに対応し、ここでは、予測目的のブロックに適合された線形平面関数が含まれ得る。平面モードは、滑らかに変化する輝度のエリアにおいて、うまく働き得る。平面モードは、より大きいブロックの予測には効果的であるが、より小さいブロックの予測に使われるときは、比較的効率的でない場合がある。図３のサークル（円）は、各サークルに関連付けられたイントラ予測方向性モードの角度分解能を表す。たとえば、サークル０の場合、サークルの内側のモード（モード０と１）の間の分解能は９０度であり、サークル１の内側のモード（モード３、６、および９）の間の分解能は４５度であり、サークル２の内側のモード（モード４、５、７、および８）の間の分解能は２２．５度であり、以下同様である。

[0065]図４は、ビデオデータのイントラ予測コード化において使われる予測サンプルの周囲のピクセルに平滑化フィルタを適用するための技法を実装することができるビデオ符号器２０の例を示すブロック図である。ビデオ符号器２０は、ＬＣＵ、ＣＵ、及びＰＵを含むビデオフレーム内のビデオブロックのイントラおよびインター予測を実施し、ＴＵとして符号化され得る残差値を計算することができる。イントラコード化は、所与のビデオフレーム内のビデオの空間的冗長性を低減または除去するために空間的予測に依拠する。インターコード化は、ビデオシーケンスの隣接フレーム内のビデオの時間的冗長性を低減または除去するために時間的予測に依拠する。イントラ（Ｉ）モードは、いくつかの空間ベースの圧縮モードのいずれかを指すことがある。単方向予測（Ｐモード）、双方向予測（Ｂモード）、または一般化Ｐ／Ｂ予測（ＧＰＢモード）などのインターモードは、いくつかの時間ベースの圧縮モードのいずれかを指すことがある。動き推定ユニット４２および動き補償ユニット４４はインター予測コード化を実施することができ、イントラ予測ユニット４６はイントラ予測コード化を実施することができる。

[0066]図４に示すように、ビデオ符号器２０は、符号化すべきビデオフレームまたはスライス内の現在のビデオブロックを受信する。図４の例では、ビデオ符号器２０は、モード選択ユニット４０と、予測ユニット４１と、参照フレームストア６４と、加算器５０と、変換ユニット５２と、量子化ユニット５４と、エントロピーコード化ユニット５６とを含む。予測ユニット４１は、動き推定ユニット４２と、動き補償ユニット４４と、イントラ予測ユニット４６とを含む。ビデオブロック再構成のために、ビデオ符号器２０はまた、逆量子化ユニット５８と、逆変換ユニット６０と、加算器６２とを含む。再構成されたビデオからブロッキネスアーティファクトを除去するためにブロック境界をフィルタリングするデブロッキングフィルタ（図４に図示せず）も含まれ得る。所望される場合、デブロッキングフィルタは、一般に、加算器６２の出力をフィルタ処理する。

[0067]符号化プロセス中に、ビデオ符号器２０はコード化されるべきビデオフレームまたはスライスを受信する。フレームまたはスライスは、複数のビデオブロックまたはＣＵに分割され得る。動き推定ユニット４２および動き補償ユニット４４は、時間圧縮を行うために、１つまたは複数の参照フレーム中の１つまたは複数のブロックに対して、受信されたビデオブロックのインター予測コード化を実行する。イントラ予測ユニット４６は、空間圧縮を行うために、コード化されるべきブロックと同じフレームまたはスライス中の１つまたは複数の隣接ブロックに対して、受信されたビデオブロックのイントラ予測コード化を実行し得る。

[0068]モード選択ユニット４０は、コード化モード、すなわちイントラまたはインターの１つを、たとえば、誤差結果に基づいて選択し、コード化モードの選択を予測ユニット４１に与える。予測ユニット４１は次いで、イントラまたはインターコード化ブロックを生成じ、コード化ブロックを、残差ブロックデータを生成するために加算器５０に、および符号化ブロックを参照フレームとして使用するように再構成するために加算器６２に与える。モード選択ユニット４０が、あるブロックに対しイントラ予測符号化を選択すると、イントラ予測ユニット４６は、そのブロックに対しイントラ予測モードを選択し得る。たとえば、選択されたイントラ予測モードは、ＨＭによって提供される３５個のモードの１つである。所与のブロックに対しイントラ予測モードがそこから選択されるイントラ予測モードの番号は、上の表１の例に示すように、ブロックのサイズに依存し得る。

[0069]一例では、モード選択ユニット４０がインター予測コード化を選択すると、動き推定ユニット４２および動き補償ユニット４４は、インター予測コード化に関連付けられた処理を実施して、インターコード化ブロックを生成する。動き推定ユニット４２と動き補償ユニット４４とは、高度に統合され得るが、概念的な目的のために別々に示してある。動き推定ユニット４２によって実行される動き推定は、ビデオブロックの動きを推定する動きベクトルを生成するプロセスである。動きベクトルは、たとえば、現在のフレーム（または、他のコード化ユニット）内のコード化されている現在のブロックに対する予測参照フレーム（または、他のコード化ユニット）内の予測ブロックまたはＰＵの変位を示し得る。予測ブロックは、絶対値差分和（ＳＡＤ：sum of absolute difference）、２乗差分和（ＳＳＤ：sum of square difference）、または他の差分メトリックによって判断され得るピクセル差分に関して、コード化されるべきビデオブロックまたはＰＵにぴったり一致することがわかるブロックである。

[0070]動きベクトルはまた、マクロブロックの区分の変位を示し得る。動き補償は、動き推定によって決定された動きベクトルに基づいて予測ブロックをフェッチまたは生成することを伴う。いくつかの例では、ビデオ符号器２０は、参照フレームストア６４に記憶された参照フレームのサブ整数ピクセル位置の値を計算し得る。たとえば、ビデオ符号器２０は、参照フレームの１／４ピクセル位置、１／８ピクセル位置、または他の分数ピクセル位置の値を計算する。したがって、動き推定ユニット４２は、フルピクセル位置と分数ピクセル位置とに対する動き探索を実行し、分数ピクセル精度で動きベクトルを出力し得る。

[0071]動き推定ユニット４２は、ＰＵを参照フレームストア６４中の参照フレームのブロックと比較することによって、インターコード化フレームのビデオブロックまたはＰＵの動きベクトルを計算する。動き補償ユニット４４はまた、参照フレーム、たとえば、ＩフレームまたはＰフレームのサブ整数ピクセルを補間し得る。ＨＭは、一例として、２つのリスト、すなわち、符号化されている現在のフレームよりも早い表示順序をもつ参照フレームを含むリスト０と、符号化されている現在のフレームよりも遅い表示順序をもつ参照フレームを含むリスト１とを記述する。したがって、参照フレームストア６４に記憶されたデータは、これらのリストに従って編成され得る。いくつかの場合には、動き推定ユニット４２は、動きベクトルについての動きベクトル差分（ＭＶＤ）値をさらに計算し、動きベクトル自体ではなくＭＶＤ値を、エントロピーコード化ユニット５６に渡すことができる。

[0072]一例では、モード選択ユニット４０がイントラ予測コード化を選択すると、イントラ予測ユニット４６は、イントラ予測コード化に関連付けられた処理を実施して、イントラコード化されたブロックを生成する。上述したように、ブロックのサイズに基づいて、ブロックに利用可能なイントラ予測モードの番号が判断され得る。ブロックサイズと、そのサイズのブロックに利用可能なイントラ予測モードの番号との間の対応の例を、上の表１および表２に示す。イントラ予測ユニット４６は、隣接する、前にコード化されたブロック、たとえば、左から右、上から下への符号化順序またはブロックを仮定すると、現在のブロックの上ブロック、右上ブロック、左上ブロック、または左ブロックに対して、現在のビデオブロックをイントラ予測符号化する。イントラ予測ユニット４６は、現在のブロック用について選択されたイントラ予測モードに基づいて、隣接ブロックを使用し得る。

[0073]イントラ予測ユニット４６は、利用可能イントラ予測モードの１つを選択することによって、ブロックに対し適切なイントラ予測モードを決定し得る。イントラ予測ユニット４６は、たとえば、ブロックサイズに関連付けられた様々なイントラ予測モードについて誤差値を計算し、最も低い誤差値を生じるモードを選択することによって、イントラ予測モードを選択し得る。方向性予測モードは、空間的に隣接するピクセルの値を合成し、その合成された値を予測ユニット（ＰＵ）中の１つまたは複数のピクセル位置に適用するための機能を含み得る。ＰＵ中のすべてのピクセル位置の値が計算されると、イントラ予測ユニット４６は、ＰＵと符号化されるべき現在のブロックとの間のピクセル差分に基づいて予測モードの誤差値を計算し得る。イントラ予測ユニット４６は、許容できる誤差値を生じるイントラ予測モードが発見されるまで、現在のブロックのブロックサイズに関連付けられたイントラ予測モードをテストし続け得る。次いで、最も低い誤差値を生じるイントラ予測モードが、現在のブロックについてのＰＵを生成するために使われ得る。イントラ予測ユニット４６は、選択されたイントラ予測モードをシグナリングし、それにより、そのモードは、コード化ブロックに関連付けられたシンタックス要素とともに符号化される。

[0074]本開示によると、ビデオ符号器２０は、イントラ予測コード化を使って符号化される現在のブロックの予測サンプルの周りのピクセルに平滑化フィルタを適用するかどうか判断することができる。判断は、ブロックサイズと、現在のブロックをコード化する際に使われるイントラ予測モードとに基づき得る。本開示の技法による一例では、垂直、水平、およびＤＣモードにそれぞれ対応するモード０、１、または２が使われるとき、これらのモードのそれぞれは、平滑化を適用することなく比較的正確な予測結果を与えるので、平滑化フィルタは適用されない。それゆえ、予測方向が完全に水平、垂直であり、またはイントラ予測モードがＤＣモードであるとき、平滑化フィルタは適用されない。他のモード（すなわち、対角モード）について平滑化フィルタを適用するかどうかの判断は、予測ユニットサイズおよびイントラ予測モードに依存する。下の表３は、平滑化フィルタが適用される、ブロックサイズとイントラ予測モードとの組合せの例示的関係を示す。フィルタリングが適用され得るブロックサイズとイントラ予測モードとの組合せは、オフライントレーニングおよび統計的結果に基づき得る。表３は、定義され得る関係のうち唯一のタイプを表すのではなく、本開示に一致する一例を挙げるにすぎない。

[0075]表３が示すように、平滑化フィルタを適用するかどうかの判断は汎用であり、ブロックを符号化するのに使われるブロックサイズおよびイントラ予測モードに基づくのと同じである。一例では、上の表３に示したサイズとイントラ予測モードの組合せは、平滑化フィルタが適用されるために、ルックアップテーブル（ＬＵＴ）においてあらかじめ定義され得る。ＬＵＴは、符号器もしくは復号器の両方において利用可能であるか、または符号器がＬＵＴを復号器に送ってもよい。それゆえ、平滑化フィルタを適用するかどうかの判断は、汎用でよく、符号器および／または復号器に対する変更にかかわらず同じままであり、フィルタリング判断のシグナリングは必要とされない。さらに、平滑化フィルタを適用するかどうかの判断を行っても、符号器を大幅に複雑化することはない。

[0076]一例では、ブロックのイントラ予測符号化中に、符号器は、ブロックのサイズと、使われるイントラ予測モードとの組合せに基づいて、およびＬＵＴにおいて定義された組合せに従って、予測サンプルに平滑化フィルタを適用するかどうか判断する。これらの組合せは、最も確実なフィルタテーブル中で指示される最も確実なフィルタリングオプションに関連付けられ得る。たとえば、最も確実なフィルタテーブルは、ブロックサイズとイントラ予測モードの各組合せに対して、どのフィルタリングオプションを使用するかを示すように作成される。一例では、ブロックサイズとイントラ予測モードの各組合せ向けのフィルタの候補リストから、平滑化フィルタが選択される。どのフィルタリングオプションも、全域通過フィルタである平滑化フィルタに一般化されない。いくつかの例では、１つまたは複数の平滑化フィルタを使うことができ、ここではたとえば、１つの平滑化フィルタが、ブロックサイズとイントラ予測モードのいくつかの組合せに対してよりうまく働くことができ、第２の平滑化フィルタが、ブロックサイズとイントラ予測モードの他の組合せに対してよりうまく働くことができる。平滑化フィルタの候補セット中のフィルタの数は、システムによって変わり得る。一例では、ブロックサイズとイントラ予測モードの１つの組合せに対するフィルタオプションは、異なるトレーニングビデオデータをもつオフライントレーニングに基づき得る。簡単のために、フィルタの数は、フィルタ０、フィルタ１、およびフィルタ２の３つであり、フィルタ０は全域通過フィルタリングを示す（すなわち、フィルタリングなし）。候補フィルタを使うと、最も確実なフィルタテーブルは、擬似コードで表される以下のテーブルに従って生成され得る。

[0077]上の例では、各ブロックサイズおよびイントラ予測モードに対して、最も確実な平滑化フィルタが定義され得る。ある特定の組合せに対する平滑化フィルタのテーブルインデックスは、サイズおよびモードに対応する［Ｓ，Ｍ］と定義され得る。ブロックサイズは、たとえば、ブロックサイズ２×２、４×４、８×８、１６×１６、３２×３２、６４×６４、および１２８×１２８に対応する、１〜７の範囲である。イントラ予測モードは、たとえば、１〜４０の範囲である。ただし、本開示の例では、３５個のモードのみが定義され、それゆえ、モードの残りには、フィルタ０または全域通過フィルタを示す０が加えられる。上のテーブルの例は、テーブル中の各エントリについて、例示的フィルタセット（０，１，２）からの平滑化フィルタを示す。平滑化フィルタ１または２が適用されるイントラ予測モードは、上の表３で定義された組合せに対応する。

[0078]一例では、符号化中に、ビデオ符号器２０は、固定モード依存イントラ予測コード化を実装することができ、ここで、ビデオ符号器２０は、上のテーブルで定義されるように、ブロックサイズとイントラ予測モードとの各組合せに対し最も確実な平滑化フィルタを選択する。この例では、ビデオ符号器２０は、ブロックに対しどの平滑化フィルタが使われるかを符号化する必要なく、固定モード依存イントラ予測コード化を指示することができる。復号中に、固定モード依存イントラ予測コード化が指示された場合、復号器（たとえば、ビデオ復号器３０）は、テーブルに対するインデックスとして使われるブロックサイズおよびイントラ予測モード情報に基づいて、上のテーブルにある情報を使って、どの平滑化フィルタを適用するか判断することができる。たとえば、イントラ予測モード６を使って符号化された８×８ブロックは、平滑化フィルタ２であるフィルタ１（［３，６］）に対応し得る。フィルタ１は、最も確実なフィルタテーブルに対応するテーブルから情報が取得されることを示し得る。

[0079]いくつかの場合には、固定モード依存イントラ予測コード化を用いると、より大きいブロックサイズ、たとえば、６４×６４および１２８×１２８の一部に対して最良の結果が生じない場合がある。一例では、ブロックのイントラ予測符号化中に、ビデオ符号器２０は、適応モード依存イントラ予測コード化を使って、予測サンプルに平滑化フィルタを適用するかどうか判断する。閾値サイズ、たとえば６４×６４よりも小さいブロックに対して、ビデオ符号器２０は、上に示した最も確実なフィルタテーブルを使用する。閾値以上のブロック、たとえば、６４×６４およびそれよりも大きいブロックに対しては、ビデオ符号器２０は、フィルタなしを含む異なる複数の平滑化フィルタを予測サンプルに適用する結果を評価し、どれがより良好な結果を生じるか判断する。結果は、品質メトリックまたはレート歪みメトリックに基づいて判断され得る。レート部分のメトリックは、現在のブロックのコード化レートを示し、歪み部分のメトリックは、現在のブロックにおける歪みの量を示す。レート歪みメトリックは、レート、歪み、または両方の組合せに基づき得る。

[0080]一例では、異なる複数の平滑化フィルタの適用の評価は、現在のブロックへのフィルタの各々の適用に関連付けられたコード化レートに基づく。平滑化フィルタが使われるとき、コード化レートは、現在のブロックに対応する残差データの量に比例する。残差データの量が多いほど、現在のブロックに対するコード化レートは高くなる。より少量の残差データを生じ、従って、より良好なコード化レートを生じる平滑化フィルタは、より良好な結果を生じるフィルタと見なされ得る。

[0081]別の例では、異なる複数の平滑化フィルタの適用の評価は、現在のブロックへのフィルタの各々の適用に関連付けられた歪みの量に基づく。一例では、歪みの量は、予測ブロックとオリジナルブロックとの間の平均２乗誤差値に基づいて判断される。予測ブロックは、選択された平滑化フィルタを適用することによって得られた予測サンプルを使った結果であり得る。より小さい平均２乗誤差値を生じ、従って、より少ない歪みを生じる平滑化フィルタは、より良好な結果を生じるフィルタと見なされ得る。

[0082]一例では、ビデオ符号器２０は、上に示した最も確実なフィルタテーブルによって指定されたフィルタを適用した結果を、下に示す擬似コードで表された２番目に確実なフィルタテーブルによって指定されたフィルタと比較する。

[0083]いくつかの例では、より多くのテーブルを使って、他のフィルタを指定することができる。最も確実なフィルタテーブルと２番目に確実なフィルタテーブルとを使う簡単な例では、第１のテーブルにおける非ゼロフィルタ、たとえばフィルタ１および２に対応するエントリは、第２のテーブル中のフィルタ０で置き換えることができ、逆もまた同様である。このように、最も確実なフィルタと２番目に確実なフィルタとの間の比較は、フィルタリングと非フィルタリングとの間の比較である。より良好な結果を生じるフィルタリングオプションが、最も確実なフィルタテーブル中で指定されたものである場合、そうではないとの指定がなければ最も確実なフィルタが使われると復号器は仮定するので、ビデオ符号器２０は何も指示する必要がない。より良好な結果を生じるフィルタリングオプションが、２番目に確実なフィルタテーブル中で指定されたものである場合、ビデオ符号器２０は、復号中に最も確実なフィルタ以外のフィルタが適用されるべきであることを示すために、フィルタリングモードをシグナリングする。フィルタテーブルは、ビデオ符号器２０に関連付けられたメモリユニット（図示せず）に記憶され、コード化中にイントラ予測ユニット４６によってアクセスされ得る。

[0084]フィルタリングモードのシグナリングは、いくつかのやり方で行うことができる。一例では、ビデオ符号器２０は、フィルタリングモードフラグを使って、最も確実なフィルタテーブル中で指定されたもの以外のフィルタリングが、ある特定のブロックに対して使われるかどうかをシグナリングする。２つよりも多いフィルタテーブルが使用される場合、たとえば、３番目（またはそれ以降）に確実なフィルタテーブルがある場合、ビデオ符号器２０は、特定のブロックに対して、２番目もしくは３番目（またはそれ以降）に確実なフィルタテーブルのどちらが使われるかを指示する。さらに別の例では、シグナリングは、現在のブロックのブロックサイズ、予測モード、および隣接ブロックのフィルタリングモードなどのコンテキスト情報の組合せに基づく。コンテキスト情報は、現在のブロックに対してフィルタリングが使われたかどうかについての信号をエントロピーコード化するＶＬＣ表またはＣＡＢＡＣ表を作成するために使用され得る。このようにして、復号器は、コンテキスト情報に基づいて、ブロックに対しフィルタリングが使われるべきか、それとも使われるべきでないか判断し、ＶＬＣ表またはＣＡＢＡＣ情報を使って、フィルタリングモードを判断できる。

[0085]他の例では、他の技法を使用して、平滑化フィルタを適用するかどうか判断することができる。本開示の平滑化フィルタ技法は、イントラ予測モードとブロックサイズとの組合せの関数としてビットレート歪みメトリックの統計に基づくイントラ平滑化フィルタリングモード決定（フィルタリングするかどうか）を提供する。

［0086］再度図２Ｂを参照すると、この図は、イントラ予測モードとＰＵサイズとの組合せを示し、これらの組合せは、フィルタリングおよび非フィルタリングイントラ平滑化モードの統計の間の比較に基づく、イントラ平滑化フィルタリングの候補である。たとえば、これらの統計は、垂直（モード０）および水平（モード１）予測方向が、ＰＵサイズ３２×３２のためのイントラ平滑化フィルタリングの候補であり、主たる対角イントラ予測方向（モード３、６、９）が、ＰＵサイズ３２×３２、１６×１６、８×８、および４×４のためのイントラ平滑化フィルタリングの候補であることを示す。これらの統計は、水平または垂直イントラ予測方向と、主たる対角方向との間のイントラ予測方向は、漸進的に小さくなっていくＰＵサイズでのイントラ平滑化フィルタリングの候補であることも示し得る。ＤＣモードの場合、統計は、モード２、すなわちＤＣモードは、イントラ平滑化フィルタリングの候補ではないが、平面モード（モード３４）は、いくつかのＰＵサイズ、たとえば８×８、１６×１６、および３２×３２でのイントラ平滑化フィルタリングの候補であることを示し得る。

[0087]統計は、どのイントラ予測モードおよびどのＰＵサイズがイントラ平滑化フィルタリングの候補であるかを示し得るが、コード化効率実験は、図２Ｂに示すイントラ平滑化フィルタリング候補割当てが、レート歪み検知において最適でないことを実証し得る。従って、図２Ｂのイントラ平滑化候補は、より高いコード化効率をもつ「サブセットパターン」を導出するための「テンプレートパターン」であり得る。一例では、「サブセットパターン」は、イントラ予測モードごとおよびＰＵサイズごとに「テンプレートパターン」から、イントラ平滑化フィルタリングのための候補を選択することによって定義され、または代替として、任意のＰＵサイズに対するどのイントラ平滑化フィルタリングも、特定のイントラ予測モードには対応しない。下の表４〜表７は、サブセットパターンのいくつかの例を挙げる。表４〜表７は概して、フィルタリング決定テーブルと呼ばれ得る。

[0088]表４〜表７の各々において、「１」は、イントラ平滑化フィルタリングが、対応するイントラ予測モードおよびブロックサイズに適用されることを示す。それゆえ、特定の列および行位置の「１」は、それらの列および行の位置にマッッピングされるイントラ予測モードおよびブロックサイズの場合にイントラ平滑化が適用されることをそれぞれ示す。一例では、表４は「テンプレートパターン」に対応し、表５〜表７の各々は、異なる「サブセットパターン」に対応する。別の例では、表７は「テンプレートパターン」に対応し、表４〜表６の各々は、異なる「サブセットパターン」に対応する。「テンプレートパターン」は図２Ｂに対応し、表４によって示され、これは、たとえば、一般化のための６４×６４ＰＵサイズも示す。表５〜表７は、「サブセットパターン」を表し得る。本開示の一例では、表７は、コード化効率実験に基づいて、一般的ビデオシーケンスに適した「サブセットパターン」を表し得る。

[0089]予測ユニット４１が、現在のビデオブロック（インターまたはイントラコード化された）に対する予測ブロックすなわちＰＵを生成した後、ビデオ符号器２０は、現在のビデオブロックから予測ブロックを減算することによって、残差ビデオブロックを形成する。加算器５０は、この減算演算を実行する１つまたは複数の構成要素を表す。変換ユニット５２は、残差ブロックから１つまたは複数の変換ユニット（ＴＵ）を形成し得る。変換ユニット５２は、離散コサイン変換（ＤＣＴ：discrete cosine transform）または概念的に同様の変換などの変換をＴＵに適用し、残差変換係数を備えるビデオブロックを生成する。変換は、残差ブロックをピクセル領域から周波数領域などの変換領域に変換し得る。

[0090]変換ユニット５２は、概念的にＤＣＴと同様の、ＨＭによって定義される変換などの他の変換を実行し得る。ウェーブレット変換、整数変換、サブバンド変換または他のタイプの変換をも使用することができる。いずれの場合も、変換ユニット５２は、変換を残差ブロックに適用し、残差変換係数のブロックを生成する。変換は、残差情報をピクセル値領域から周波数領域などの変換領域に変換し得る。

[0091]変換ユニット５２は、得られた変換係数を量子化ユニット５４に送り得る。量子化ユニット５４は、ビットレートをさらに低減するために変換係数を量子化する。量子化プロセスは、係数の一部または全部に関連するビット深度を低減することができる。量子化の程度は、量子化パラメータを調整することによって変更され得る。いくつかの例では、量子化ユニット５４は、次いで、量子化変換係数を含む行列の走査を実行し得る。代替的に、エントロピー符号化ユニット５６が走査を実行し得る。

[0092]量子化の後、エントロピーコード化ユニット５６が量子化変換係数をエントロピーコード化する。たとえば、エントロピーコード化ユニット５６は、コンテキスト適応型可変長コード化（ＣＡＶＬＣ）、コンテキスト適応型２値算術コード化（ＣＡＢＡＣ）、または別のエントロピーコード化技法を実行し得る。エントロピーコード化ユニット５６によるエントロピーコード化の後、符号化ビデオは、別のデバイス（たとえば、ビデオ復号器３０）に送信されるか、あるいは後で送信または検索するためにアーカイブされ得る。

[0093]場合によっては、エントロピーコード化ユニット５６またはビデオ符号器２０の別のユニットは、エントロピーコード化に加えて他のコード化機能を実行するように構成され得る。たとえば、エントロピーコード化ユニット５６はマクロブロックおよびパーティションのＣＢＰ値を判断するように構成され得る。また、場合によっては、エントロピーコード化ユニット５６は、マクロブロックまたはそれのパーティション中の係数のランレングスコード化を実行し得る。特に、エントロピーコード化ユニット５６は、マクロブロックまたはパーティション中の変換係数を走査するためにジグザグ走査または他の走査パターンを適用し、さらなる圧縮のためにゼロのランを符号化し得る。エントロピーコード化ユニット５６はまた、符号化ビデオビットストリーム中での送信のために適切なシンタックス要素を有するヘッダ情報を構築し得る。シンタックス要素をエントロピー符号化するために、エントロピー符号化ユニット５６は、ＣＡＢＡＣを実施し、コンテキストモデルに基づいてシンタックス要素を１つまたは複数のバイナリビットに２値化し得る。エントロピー符号化ユニットは、ＣＡＶＬＣも実施し、コンテキストに基づく確率に従って、シンタックス要素をコードワードとして符号化し得る。

[0094]本開示の技法によると、エントロピーコード化ユニット５６は、イントラ予測コード化中に最も確実なフィルタ以外の平滑化フィルタが予測サンプルに適用されるという指示を符号化するように構成され得る。ブロックに対するフィルタリング決定が、最も確実なフィルタテーブル中で指定されたものと同じであるとき、ビデオ符号器２０は、復号器に指示を送らない。従って、どの追加情報も符号化される必要はない。指示が必要とされるとき、たとえば、ブロックに対するフィルタリング決定が、２番目（またはそれ以降）に確実なフィルタテーブル中で指定されるとき、ビデオ符号器２０は、フィルタリングに関する指示を符号化する。さらに、ビデオ符号器２０は、ブロックを符号化する際に使われるイントラ予測モードを符号化し得る。エントロピーコード化ユニット５６は、ＣＡＢＡＣを使って、指示（たとえば、適用可能なときは、イントラ予測モードおよびフィルタリング決定）を符号化し得る。さらに、エントロピーコード化ユニット５６は、２番目（またはそれ以降）に確実なフィルタが予測サンプルに適用されるとき、ＣＡＢＡＣを実施するためのコンテキスト情報を使い、ブロックに対するイントラ予測モードと、フィルタリング情報とを示す指示を符号化し得る。

[0095]逆量子化ユニット５８および逆変換ユニット６０は、それぞれ逆量子化および逆変換を適用して、参照フレームの参照ブロックとして後で使用するために、ピクセル領域において残差ブロックを再構成する。動き補償ユニット４４は、参照フレームストア６４のフレームのうちの１つの予測ブロックに残差ブロックを加算することによって、参照ブロックを計算し得る。動き補償ユニット４４はまた、再構成された残差ブロックに１つまたは複数の補間フィルタを適用して、動き推定において使用するサブ整数ピクセル値を計算し得る。加算器６２は、再構成された残差ブロックを、動き補償ユニット４４によって生成された動き補償予測ブロックに加算して、参照フレームストア６４に記憶するための再構成されたビデオブロックを生成する。再構成されたビデオブロックは、後続のビデオフレーム中のブロックをインター予測するために動き推定ユニット４２および動き補償ユニット４４によって参照ブロックとして使用され得る。

[0096]図５は、符号化されたビデオシーケンスを復号するビデオ復号器３０の一例を示すブロック図である。図５の例では、ビデオ復号器３０は、エントロピー復号ユニット７０と、予測ユニット７１と、逆量子化ユニット７６と、逆変換ユニット７８と、参照フレームストア８２と、加算器８０とを含む。予測ユニット７１は、動き補償ユニット７２と、イントラ予測ユニット７４とを含む。ビデオ復号器３０は、いくつかの例では、ビデオ符号器２０（図４）に関して説明した符号化パスとは概して逆の復号パスを実行し得る。予測ユニット７１は、エントロピー復号ユニット７０から受信された情報に基づいて予測データを生成し得る。インター予測コード化が指示されると、動き補償ユニット７２は、エントロピー復号ユニット７０から受信した動きベクトルに基づいて予測データを生成し得る。イントラ予測コード化が指示されると、イントラ予測ユニット７４は、指示されたイントラ予測モードと、現在のフレームの前に復号されたブロックからのデータとに基づいて現在のフレームの現在のブロックについての予測データを生成し得る。

[0097]ビデオ復号器３０は、符号化されたビデオビットストリームを、たとえば、ネットワーク、ブロードキャストを介して、または物理媒体から受信し得る。符号化されたビットストリームは、エントロピーコード化されたビデオデータを含み得る。ビデオ復号器３０のエントロピー復号ユニット７０は、量子化係数、動きベクトル、および予測データを生成するためにビットストリームをエントロピー復号する。エントロピー復号ユニット７０は、予測ユニット７１に動きベクトルと予測データとを転送する。

[0098]本開示の技法によると、エントロピーコード化されたビデオデータは、現在のブロックをコード化する際に使われるイントラ予測モードのエントロピーコード化された指示を含み得る。エントロピーコード化されたビデオデータは、平滑化フィルタ決定を示すフィルタリングのエントロピーコード化された指示も含み得る。一例では、フィルタリング指示は、現在のブロックのイントラ予測コード化中に、平滑化フィルタを選択するのに最も確実なフィルタテーブルが使われなかったことを示すために使うことができる。エントロピーコード化されたビデオデータがフィルタリング指示を含まないとき、現在のブロックのイントラ予測コード化中に、平滑化フィルタを選択するのに最も確実なフィルタテーブルが使われたことを含意する指示はない。エントロピーコード化されたビデオデータは、エントロピー復号ユニット７０が、イントラ予測コード化されたブロックについてのフィルタリング指示をエントロピー復号するときにコンテキスト情報としてイントラ予測モードとともに使い得るブロックサイズ情報も含み得る。このようにして、エントロピー復号ユニット７０は、フィルタリングの指示（たとえば、平滑化フィルタが適用されるかどうか）を復号し、指示をイントラ予測ユニット７４に送ることができる。

[0099]動き補償ユニット７２は、ビットストリーム中で受信した動きベクトルを使用して、参照フレームストア８２中の参照フレーム中の予測ブロックを識別し得る。イントラ予測ユニット７４は、ビットストリーム中で受信されたイントラ予測モードを使用して、空間的に隣接するブロックから予測ブロックを形成し得る。逆量子化ユニット７６は、ビットストリームで供給され、エントロピー復号ユニット７０によって復号された量子化ブロック係数を逆量子化（inverse quantize）、すなわち、逆量子化（de-quantize）する。逆量子化プロセスは、たとえば、Ｈ．２６４復号規格によって定義された従来のプロセスを含み得る。逆量子化プロセスは、量子化の程度を判断し、同様に、適用すべき逆量子化の程度を判断するために、各ビデオブロックまたはＣＵについてビデオ符号器２０によって計算された量子化パラメータＱＰ_Yの使用も含み得る。逆変換ユニット７８は、逆変換、たとえば、逆ＤＣＴ、逆整数変換、または概念的に同様の逆変換プロセスを変換係数に適用して、ピクセル領域における残差ブロックを生成する。

[0100]動き補償ユニット７２はまた、補間フィルタに基づいて補間を実行し得る。動き補償ユニット７２は、ビデオブロックの符号化中にビデオ符号器２０によって使用された補間フィルタを使用して、参照ブロックのサブ整数ピクセルの補間値を計算し得る。動き補償ユニット７２は、受信したシンタックス要素からビデオ符号器２０によって使用された補間フィルタを判断し、その補間フィルタを使用して予測ブロックを生成し得る。

[0101]動き補償ユニット７２は、シンタックス情報のいくつかを使用して、符号化ビデオシーケンスの（１つもしくは複数の）フレームおよび／または（１つもしくは複数の）スライスを符号化するために使用されるＬＣＵおよびＣＵのサイズと、符号化ビデオシーケンスのフレームの各マクロブロックがどのように区分されるかを記述するパーティション情報と、各パーティションがどのように符号化されるかを示すモードと、各インター符号化ＣＵのための１つまたは複数の参照フレーム（および参照フレームリスト）と、符号化ビデオシーケンスを復号するための他の情報と、を判断する。

[0102]イントラ予測ユニット７４は、予測ブロックを実施するとき、予測サンプルに平滑化フィルタを適用するかどうかも判断し得る。イントラ予測ユニット７４は、平滑化フィルタを適用するかどうかについての判断を、ブロックサイズおよび対応するイントラ予測モードに基づいて行う。フィルタリング指示がシグナリングされない場合、イントラ予測ユニット７４は、ブロックサイズとイントラ予測モードとの組合せに対して、最も確実なフィルタテーブル（上に示した）中で何が指定されるかに基づいてフィルタリングを判断し得る。フィルタリング指示がシグナリングされる場合、イントラ予測ユニット７４は、フィルタリング決定が最も確実なフィルタテーブルに基づかないと判断し、ブロックサイズとイントラ予測モードとの組合せに対して、２番目に確実なフィルタテーブル（上に示した）中で何が指定されるかに基づいてフィルタリングを判断し得る。一例では、２つ以上の追加フィルタテーブル、たとえば、２番目、３番目、またはそれ以降の確実なフィルタテーブルが提供され得る。この例では、フィルタリング指示は、どの平滑化フィルタを適用するか判断するためにどのテーブルを使用すべきかをも示し得る。フィルタテーブルは、ビデオ復号器３０内のメモリユニット（図示せず）に記憶され得る。イントラ予測ユニット７４は、復号中に、メモリにあるフィルタテーブルにアクセスし得る。

[0103]加算器８０は、残差ブロックと、動き補償ユニット７２またはイントラ予測ユニット７４によって生成される対応する予測ブロックとを加算して、復号ブロックを形成する。必要があれば、ブロッキネスアーティファクトを除去するために、デブロッキングフィルタを適用して、復号ブロックをフィルタリングし得る。復号されたビデオブロックは、次いで、参照フレームストア８２に記憶され、参照フレームストア８２は、参照ブロックをその後の動き補償に供給し、また、ディスプレイデバイス（図１のディスプレイデバイス３２など）上での提示のために復号されたビデオを生成する。

[0104]図６は、本開示の技法による、ビデオデータを符号化するための例示的な方法を示すフローチャートである。例としてビデオ符号器２０（図１および図４）に関して説明するが、図６の技法は任意のビデオコード化ユニットによって実行され得ることを理解されたい。さらに、図６に示すステップは、本開示の技法から逸脱することなく、異なる順序で実施することができ、いくつかのステップは省いてもよく、追加ステップを追加してもよい。

[0105]ビデオ符号器２０は、符号化されるべきビデオデータのブロック（たとえば、ＣＵ）を受信する。現在のブロックが、イントラ予測コード化を使って符号化されるべきブロックと指定されるとき、ビデオ符号器２０は、予測サンプルに平滑化フィルタを適用するかどうか判断し、適用されるべきである場合、平滑化フィルタを判断する。平滑化フィルタは、いくつかの事例では、イントラ予測コード化における同じフレーム中のブロックを予測するのに使われる予測サンプルまたは予測子に適用され得る。平滑化フィルタの適用により、いくつかの場合には、より正確な予測が行われ、再構成された予測フレームにおけるブロッキネスを最小限にする。

[0106]ビデオ符号器２０は、固定モード依存イントラ予測コード化、または適応モード依存イントラ予測コード化で動作するか判断し得（６０２）。一例では、判断は、コンテントに基づいて、またはブロックサイズに基づいて、シーケンスまたはピクチャレベルで行われる。たとえば、大きいブロックの場合、適応モード依存イントラ予測コード化が使用され、小さいブロックの場合は、固定モード依存イントラ予測コード化が使用される。その結果、大きいブロックが使われるとき、小さいブロックが使われるときよりも、ピクチャ内で符号化すべきブロックは少なく、したがってオーバーヘッド情報の量は少ない。ただし、固定モード依存イントラ予測コード化は、追加オーバーヘッド情報をほとんどまたは全く加えないが、適応モード依存イントラ予測コード化は、追加オーバーヘッド情報を必要とする。このようにして、選択されたモードは、オーバーヘッド情報と性能との間のトレードオフを与え得る。

[0107]ビデオ符号器２０が、固定モード依存イントラ予測コード化において動作する場合、ビデオ符号器２０は、ブロックサイズとイントラ予測モードとの組合せに基づいて選択されたフィルタテーブル、たとえば、最も確実なフィルタテーブル中で指定されたフィルタに基づいて平滑化フィルタを適用するかどうか判断し、当該指定されたフィルタを適用する（６０４）。

[0108]一例では、利用可能イントラ予測モード、たとえば、ＨＭによって定義された３５個のモードの各々に対して、平滑化フィルタが適用されるかどうかは、ブロックサイズに依存する。上の表３は、平滑化フィルタが適用される、ブロックサイズとイントラ予測モードとの組合せを示す。最も確実なフィルタテーブル（上に示した）は、ブロックサイズとイントラ予測モードとの組合せに基づいて生成される。テーブルのエントリの各々は、対応するインデックスに適用されるべきフィルタを指示し、インデックスは、ブロックサイズおよびイントラ予測モードに関連付けられる。テーブル中で指定されたフィルタの各々はフィルタセットにあり、フィルタセットは、ストリームごと、フレームのグループごと、フレームまたはスライスごとなどで変わり得る。簡単のために、平滑化フィルタを適用する必要がないエントリに対しては、全域通過フィルタが識別され得る。

[0109]ビデオ符号器２０が、適応モード依存イントラ予測コード化において動作する場合、ビデオ符号器２０は、ブロックサイズが、ブロックサイズ閾値、たとえば、６４×６４以上であるかどうか判断する（６０６）。ブロックサイズがブロックサイズ閾値未満である場合、ビデオ符号器２０は、最も確実なフィルタテーブルによって指定されたフィルタを適用し、ブロックサイズおよびイントラ予測モードに基づいて平滑化フィルタを適用するかどうか判断する（６０４）。ブロックサイズがブロックサイズ閾値以上である場合、ビデオ符号器２０は、最も確実なフィルタテーブルによるフィルタの適用が、２番目に確実なフィルタテーブルによるフィルタの適用よりも良好な結果生じるかどうか判断する（６０８）。従って、ビデオ符号器２０は、第１のテーブルにある対応するフィルタをブロックに適用し、第２のテーブルにある対応するフィルタをブロックに適用し、これら２つのフィルタを適用した結果を、互いと比較することによって評価し、どちらがより良好な結果を生じるか判断する。

[0110]一例では、ブロックサイズとイントラ予測モードとの各組合せに対して、テーブルの１つによるフィルタの適用は、フィルタを全く適用しないこと、またはこの例では、全域通過フィルタを適用することと同じである。従って、実際には、最も確実なフィルタテーブルによるフィルタの適用と、２番目に確実なフィルタテーブルによるフィルタの適用との比較は、フィルタを適用した結果またはフィルタを適用しない結果を比較することと同じである。

[0111]最も確実なフィルタテーブルによるフィルタの適用が、より良好な結果を生じる場合、ビデオ符号器２０は、現在のブロックに関連付けられたブロックサイズとイントラ予測モードとの組合せに基づいて、最も確実なフィルタテーブルによって指定されるフィルタを判断及び適用する（６０４）。２番目に確実なフィルタテーブルによるフィルタの適用が、より良好な結果を生じる場合、ビデオ符号器２０は、現在のブロックに関連付けられたブロックサイズとイントラ予測モードとの組合せに基づいて、２番目に確実なフィルタテーブルによって指定されるフィルタを判断し及び適用する（６１０）。いくつかの例では、２つよりも多い最も確実なフィルタテーブル、たとえば、３番目またはそれ以降に確実なテーブルがある場合、可能フィルタすべてを適用した結果を比較することは、予測サンプルに適用する平滑化フィルタを選択するためにどのフィルタテーブルを使うかを判断するために比較される。いくつかの例では、複数のフィルタリング決定テーブル、たとえば、上の表４〜表７が使用され、上述したように、１つのテーブルは「テンプレートパターン」と見なされ、残りのテーブルは、代替テーブルまたは代替フィルタリングオプションを提供する「サブセットパターン」と見なされる。

[0112]ビデオ符号器２０は次いで、選択された平滑化フィルタを予測サンプルに適用し、現在のブロックに関連付けられたイントラ予測モードによるイントラ予測コード化を実施することによって、現在のブロックを符号化する（６１２）。ビデオ符号器２０は、イントラ予測コード化に関連付けられたシンタックス要素、たとえば、イントラ予測モードを識別する１つまたは複数のシンタックス要素を、現在のブロックとともに符号化する（６１４）。ブロックとともに符号化される、イントラ予測コード化に関連付けられたシンタックス要素の他の例は、ブロック、ＰＵサイズ、ＴＵサイズ、ＣＢＰ、および量子化係数に関連付けられたパーティションタイプである。適用される平滑化フィルタの決定が、最も確実なフィルタテーブルまたは「テンプレートパターン」に基づかない場合、たとえば、フィルタリング決定が、２番目に確実なフィルタテーブルまたは他の「サブセットパターン」を使って行われた場合、ビデオ符号器２０は、ブロックが固定モード依存イントラ予測コード化を使って符号化されなかったことをシグナリングするために最も確実なフィルタテーブルが使われなかったことを示すシンタックス要素を符号化する。たとえば、上の表７が「テンプレートパターン」であり、表４〜表６が「サブセットパターン」である場合、ビデオ符号器は、「テンプレートパターン」テーブルの代わりにあるテーブルが使われるとき、使われる「サブセットパターン」テーブルを示すシンタックス要素を符号化する。ビデオ符号器２０は次いで、符号化されたビデオブロックを、符号化されたビデオフレームに入れて、シンタックス要素とともにビデオ復号器に送信する（６１６）。

[0113]図７は、本開示の技法による、ビデオデータを復号するための例示的な方法を示すフローチャートである。例としてビデオ復号器３０（図１および図５）に関して説明するが、図７の技法は任意のビデオコード化ユニットによって実行され得ることを理解されたい。さらに、図７に示すステップは、本開示の技法から逸脱することなく、異なる順序で実施することができ、いくつかのステップは省いてもよく、追加ステップを追加してもよい。

[0114]ビデオ復号器３０は、復号されるべきビデオデータの符号化ブロック（たとえば、ＣＵ）を受信する（７０２）。ビデオ復号器３０は、符号化ビデオブロックおよびシンタックス要素を復号して、ブロックが、イントラ予測コード化を使って符号化されていると判断する（７０４）。シンタックス要素に基づいて、ビデオ復号器３０は、ブロックのイントラ予測モードを判断する（７０６）。ビデオ復号器３０は、シンタックス要素がフィルタリング指示を含むかどうか判断する（７０８）。

[0115]フィルタリング指示がない場合、ビデオ復号器３０は、イントラ予測コード化を使ってブロックを復号し、最も確実なフィルタテーブルによって指定された平滑化フィルタオプションを適用する（７１０）。フィルタリング指示がある場合、ビデオ復号器３０は、イントラ予測コード化を使用し、２番目に確実なフィルタテーブルによって指定された平滑化フィルタオプションを適用して、ブロックを復号する（７１２）。いずれの場合でも、最も確実なフィルタテーブルを使用しようとまたは２番目に確実なフィルタテーブルを使用しようと、ビデオ復号器３０は、現在のブロックに関連付けられたブロックサイズとイントラ予測モードとの組合せに基づいてフィルタを判断する。いくつかの例では、複数のテーブルが、２番目（もしくはそれ以降）に確実なフィルタを定義し、または複数の「サブセットパターン」フィルタが存在し、フィルタリング指示が、最も確実なフィルタテーブルまたは「テンプレートパターン」テーブルの代わりに使われる「サブセットパターン」テーブルを示す。

[0116]このようにして、ビデオ復号器３０は、どのフィルタリングオプションがより良好な結果を与えるかに関するいかなる判断も行う必要がない場合がある。符号器によって指示がシグナリングされない場合、ビデオ復号器３０は、最も確実なフィルタテーブルまたは「テンプレートパターン」テーブルが使われたと仮定し、そうでない場合、どのタイプのシグナリングも、２番目に確実なフィルタテーブルが使われたことを示す。いくつかの例では、２つよりも多いフィルタテーブル、たとえば、３番目（またはそれ以降）に確実なフィルタテーブルまたは「サブセットパターン」が使われる場合、フィルタリング指示は、平滑化フィルタを選択する際に追加テーブルのうちどれが使われたかを識別し得る。

[0117]上述したように、イントラ平滑化フィルタリングは、たとえば、図２Ｂおよび表４で示すように、大きいＰＵサイズに対して使用される。イントラ平滑化フィルタリングは、真の対角方向（すなわち、＋／−４５および＋／−１３５度）に対応するイントラ予測モードまたはモード３、６、９については、ほとんどのＰＵサイズに対しても使用することができるが、イントラ平滑化フィルタリングは、垂直（モード０）および水平（モード１）方向の場合において、より小さいＰＵサイズに対しては使用することができない。対角方向と、水平または垂直方向のそれぞれとの間のイントラ予測方向に対して、イントラ予測フィルタリングは、図２Ｂおよび表４に示したように、方向が水平または垂直方向に近いとき、小さいＰＵサイズに対して使用される可能性は比較的低いが、方向が対角方向に近いとき、小さいＰＵサイズに対して使用される可能性が比較的高い。一例では、本開示の技法による符号器および復号器は、上に示した表７によって指定される「サブセットパターン」によるイントラ平滑化フィルタリングを適用する。一例では、ＤＣモード（モード２）の場合、イントラ平滑化フィルタリングは、どのＰＵサイズに対しても使用されない。また、平面モード（モード３４）の場合、イントラ平滑化フィルタリングは、より大きいＰＵサイズとともに使用される。

[0118]符号器および復号器は、ＰＵサイズとイントラ予測モードとの各組合せについて、イントラ平滑化フィルタリングが実施されるかどうかを指定する「テンプレートパターン」（表４）から導出される「サブセットパターン」によるイントラ平滑化フィルタリングを適用し得る。「サブセットパターン」は、イントラ予測モードごとおよびＰＵサイズごとに「テンプレートパターン」から、イントラ平滑化フィルタリングのための候補を選択することによって導出され、または代替として、任意のＰＵサイズに対するどのイントラ平滑化フィルタリングも、そのイントラ予測モードには対応しない。「テンプレートパターン」から導出される「サブセットパターン」は、たとえば、各イントラ予測モードについて、イントラ平滑化フィルタリングは複数のＰＵサイズのうち少なくとも１つに対しては適用されない、というような特定の特性を有し、したがって符号器は、イントラ平滑化なしでイントラ予測を実施するというオプションをもつ。「サブセットパターン」も特定の特性を有し、それは、たとえば、各イントラ予測モードについて、特定のＰＵサイズにおいてイントラ平滑化フィルタリングが適用されない場合、イントラ平滑化フィルタリングは、そのイントラ予測モードに対して、より小さいどのＰＵサイズでも適用されない、というようなものである。

[0119]イントラ予測モードとＰＵサイズとの各組合せについての予測サンプルの計算は、最も近い整数への切捨て、切上げ、または丸めなどのような丸め規則の対象となり得る。丸め規則は、決定論的方法で予測サンプルロケーションに基づいて、たとえば、コード化効率を高めるために、予測サンプルを異なる丸め規則でインターリーブするなどのように、イントラ予測モードおよびＰＵサイズに基づいて、符号器および復号器において修正し得る。イントラ予測のための参照サンプルのイントラ平滑化フィルタリングの例では、イントラ平滑化フィルタリングは、コード化効率を高めるために、いくつかの参照サンプルロケーション、たとえば、（たとえば、イントラ予測モードおよびＰＵサイズに基づく）決定論的方法における左上隅の参照サンプルまたは他の参照サンプルロケーションに対してはスキップされる場合がある。

[0120]一例では、符号器および／または復号器は、「サブセットパターン」をルックアップテーブル（ＬＵＴ）として記憶し、このＬＵＴにアクセスして、現在のブロックに関連付けられたＰＵサイズとイントラ予測モードとの組合せに対してイントラ平滑化フィルタリングを適用するかどうか判断する。別の例では、符号器および／または復号器は、入力、すなわち、ＰＵサイズおよびイントラ予測モードに対する、イントラ平滑化フィルタリング適用するかどうか判断するのに使われる条件のセットによって「サブセットパターン」を表す。別の例では、符号器および／または復号器は、入力、すなわち、ＰＵサイズおよびイントラ予測モードに対する、イントラ平滑化フィルタリングを適用するかどうかを計算する１つまたは複数の数式によって「サブセットパターン」を表す。別の例では、符号器および／または復号器は、ＬＵＴ、条件のセット、および／または数式セットの組合せによって「サブセットパターン」を表す。

[0121]一例では、「テンプレートパターン」（たとえば、表４）または「サブセットパターン」（たとえば、表５〜表７）は、ＰＵサイズとイントラ予測モードとの各組合せに使われ得る複数のイントラ平滑化フィルタタイプを含むように拡張され得る。たとえば、イントラ平滑化フィルタリングが適用される各組合せについて、テーブル中の番号は、使うべきフィルタのタイプを示す。一例では、２つのイントラ平滑化フィルタが定義され、それらは「１」および「２」で表される。特定の行／列の位置に対応するテーブル中のエントリは、エントリを持たない、すなわち、どのフィルタも適用されない、または「１」もしくは「２」をもち、これは、イントラ平滑化フィルタリングが適用され、および使われるイントラ平滑化フィルタ、すなわち、フィルタ「１」またはフィルタ「２」のどちらかを示す。

[0122]いくつかの例では、ＨＥＶＣは、コード化ユニット（ＣＵ）ごとに様々な矩形サイズを有し得る短距離イントラ予測（ＳＤＩＰ：Short-Distance intra prediction）ＰＵをサポートし得る。一例では、本開示の技法は、短距離イントラ予測（ＳＤＩＰ）において使われるような方形および矩形ＰＵに適用可能である。下の表８は、ＳＤＩＰのＣＵサイズごとの矩形ＰＵサイズの例を（ピクセルで）示す。

[0123]上で論じた技法に加えて、本開示の技法は、矩形ＳＤＩＰパーティションへのＭＤＩＳの適用を向上するための技法を含み得る。たとえば、イントラ平滑化フィルタリングの適用は、矩形ＳＤＩＰパーティションの幅および／または高さに依存する。ＳＤＩＰパーティションの次元を判断するための技法、または次元判断規則は、パーティションの１つの次元または複数の次元を判断するのに利用することができる。たとえば、ＳＤＩＰパーティションの次元を判断するためのそのような技法は、パーティションの最小または最大次元の判断、パーティションに関連付けられた他の既知の変数に基づいてパーティションの次元を計算する数式、またはパーティションの次元を判断するための、ＳＤＩＰパーティションの幅および高さに適用され得る条件チェックを含み得る。一例では、結果として判断されたパーティションの次元は、たとえば、上述したフィルタリング決定テーブルの１つを使って、イントラ平滑化フィルタリングを適用するかどうか判断するのに使用される。たとえば、これらの技法は、フィルタリングするかどうか判断するために、次元を使用する。例示的な一例において、最小次元が８ピクセルである場合、フィルタリング決定は、３２×３２個のブロックに関連付けられたテーブルエントリと、現在処理されているパーティションに関連付けられた適切なイントラ予測モードとに基づいて判断される。

[0124]一例では、イントラ平滑化フィルタリングの適用は、ＳＤＩＰパーティションに関連付けられたイントラ予測方向および／またはＳＤＩＰパーティションの幅および／または高さに基づく。たとえば、垂直予測方向が選ばれると、上述したフィルタリング決定テーブルの１つにおいて、パーティションの高さが使用され、水平方向の場合には、上述したフィルタリング決定テーブルの１つにおいて、幅が使用される。別の例では、水平、垂直、および対角方向を別個に検討して、使われるべき次元を判断する。

[0125]一例では、ＳＤＩＰパーティションに対して平面モードが使用されるとき、上述したように、次元判断技法は、ＳＤＩＰパーティションの次元を判断するために使用される。判断された次元は、たとえば、上述したフィルタリング決定テーブルの１つにアクセスすることによって、イントラ平滑化フィルタリングを適用するかどうか判断するのに使用される。

[0126]図８は、本開示の技法による、ビデオデータを符号化するための別の例示的な方法を示すフローチャートである。例としてビデオ符号器２０に関して説明するが、図８の技法は任意のビデオコード化ユニットによって実行され得ることを理解されたい。さらに、図８に示すステップは、本開示の技法から逸脱することなく、異なる順序で実施することができ、いくつかのステップは省いてもよく、追加ステップを追加してもよい。

[0127]ビデオ符号器２０は、符号化されるべきビデオデータのブロック（たとえば、ＣＵ）を受信する。現在のブロックが、イントラ予測コード化を使って符号化されるべき現在のブロックと指定されると、ビデオ符号器２０は、現在のブロックサイズと、現在のブロックを符号化するのに使われるイントラ予測モードとを判断する（８０２）。ビデオ符号器は次いで、上述したように、フィルタテーブル、たとえば、上の表７を使って、ブロックサイズおよびイントラ予測モードに基づいて平滑化フィルタを判断および適用する（８０４）。

[0128]ビデオ符号器２０は次いで、選択された平滑化フィルタを予測サンプルに適用し、現在のブロックに関連付けられたイントラ予測モードによるイントラ予測コード化を実施することによって、現在のブロックを符号化する（６１２）。ビデオ符号器２０は、イントラ予測コード化に関連付けられたシンタックス要素、たとえば、イントラ予測モードを識別する１つまたは複数のシンタックス要素を、現在のブロックとともに符号化する（６１４）。ブロックとともに符号化され得る、イントラ予測コード化に関連付けられたシンタックス要素の他の例は、ブロック、ＰＵサイズ、ＴＵサイズ、ＣＢＰ、および量子化係数に関連付けられたパーティションタイプである。ビデオ符号器２０は次いで、符号化されたビデオブロックを、符号化されたビデオフレーム内で、シンタックス要素とともにビデオ復号器に送信する（６１６）。

[0129]図９は、本開示の技法による、ビデオデータを復号するための別の例示的な方法を示すフローチャートである。例としてビデオ復号器３０に関して説明するが、図９の技法は任意のビデオコード化ユニットによって実行され得ることを理解されたい。さらに、図９に示すステップは、本開示の技法から逸脱することなく、異なる順序で実施することができ、いくつかのステップは省いてもよく、追加ステップを追加してもよい。

[0130]ビデオ復号器３０は、復号されるべきビデオデータの符号化ブロック（たとえば、ＣＵ）を受信する（９０２）。ビデオ復号器３０は、符号化ビデオブロックおよびシンタックス要素を復号して、ブロックが、イントラ予測コード化を使って符号化されていると判断する（９０４）。シンタックス要素に基づいて、ビデオ復号器３０は、ブロックのイントラ予測モードを判断する（９０６）。ビデオ復号器３０は次いで、イントラ予測コード化を使ってブロックを復号し、符号化中に使用されたのと同じフィルタリングテーブル、たとえば、表７から、ブロックサイズおよびイントラ予測モードに基づいて、選択された平滑化フィルタを適用する（９０８）。このように、ビデオ復号器３０は、フィルタテーブルからフィルタを選択する以外には、フィルタリングオプションに関するいかなる判断も行う必要がない。

[0131]１つまたは複数の例では、説明した機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。ソフトウェアで実装される場合、機能は、１つまたは複数の命令またはコードとしてコンピュータ可読媒体上に記憶されるか、あるいはコンピュータ可読媒体を介して送信され、ハードウェアベースの処理ユニットによって実行され得る。コンピュータ可読媒体は、たとえば、通信プロトコルに従って、ある場所から別の場所へのコンピュータプログラムの転送を可能にする任意の媒体を含むデータ記憶媒体または通信媒体などの有形媒体に対応するコンピュータ可読記憶媒体を含み得る。このようにして、コンピュータ可読媒体は、概して、（１）非一時的である有形コンピュータ可読記憶媒体、あるいは（２）信号または搬送波などの通信媒体に対応し得る。データ記憶媒体は、本開示で説明した技法の実装のための命令、コードおよび／またはデータ構造を取り出すために１つまたは複数のコンピュータあるいは１つまたは複数のプロセッサによってアクセスされ得る任意の利用可能な媒体であり得る。コンピュータプログラム製品はコンピュータ可読媒体を含み得る。

[0132]限定ではなく例として、そのようなコンピュータ可読記憶媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、ＣＤ−ＲＯＭまたは他の光ディスクストレージ、磁気ディスクストレージ、または他の磁気ストレージデバイス、フラッシュメモリ、あるいは命令またはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る、任意の他の媒体を備えることができる。さらに、いかなる接続もコンピュータ可読媒体と適切に呼ばれる。たとえば、命令が、同軸ケーブル、光ファイバーケーブル、ツイストペア、デジタル加入者回線（ＤＳＬ）、または赤外線、無線、およびマイクロ波などのワイヤレス技術を使用して、ウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバーケーブル、ツイストペア、ＤＳＬ、または赤外線、無線、およびマイクロ波などのワイヤレス技術は、媒体の定義に含まれる。ただし、コンピュータ可読記憶媒体およびデータ記憶媒体は、接続、搬送波、信号、または他の一時媒体を含まないが、代わりに非一時的有形記憶媒体を対象とすることを理解されたい。本明細書で使用するディスク（disk）およびディスク（disc）は、コンパクトディスク（disc）（ＣＤ）、レーザディスク（disc）、光ディスク（disc）、デジタル多用途ディスク（disc）（ＤＶＤ）、フロッピー（登録商標）ディスク（disk）およびブルーレイ（登録商標）ディスク（disc）を含み、ディスク（disk）は、通常、データを磁気的に再生し、ディスク（disc）は、データをレーザで光学的に再生する。上記の組合せもコンピュータ可読媒体の範囲内に含めるべきである。

[0133]命令は、１つまたは複数のデジタル信号プロセッサ（ＤＳＰ）などの１つまたは複数のプロセッサ、汎用マイクロプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブル論理アレイ（ＦＰＧＡ）、あるいは他の等価な集積回路またはディスクリート論理回路によって実行され得る。したがって、本明細書で使用する「プロセッサ」という用語は、前述の構造、または本明細書で説明する技法の実装に好適な他の構造のいずれかを指す。さらに、いくつかの態様では、本明細書で説明した機能は、符号化および復号のために構成された専用のハードウェアおよび／またはソフトウェアモジュール内に提供され得、あるいは複合コーデックに組み込まれ得る。また、本技法は、１つまたは複数の回路または論理要素中に十分に実装され得る。

[0134]本開示の技法は、ワイヤレスハンドセット、集積回路（ＩＣ）またはＩＣのセット（たとえば、チップセット）を含む、多種多様なデバイスまたは装置において実施され得る。本開示では、開示する技法を実行するように構成されたデバイスの機能的態様を強調するために様々な構成要素、モジュール、またはユニットについて説明したが、それらの構成要素、モジュール、またはユニットを、必ずしも異なるハードウェアユニットによって実現する必要はない。むしろ、上記で説明したように、様々なユニットが、好適なソフトウェアおよび／またはファームウェアとともに、上記で説明したように１つまたは複数のプロセッサを含んで、コーデックハードウェアユニットにおいて組合せられるか、または相互動作ハードウェアユニットの集合によって与えられ得る。

[0134]本開示の技法は、ワイヤレスハンドセット、集積回路（ＩＣ）またはＩＣのセット（たとえば、チップセット）を含む、多種多様なデバイスまたは装置において実施され得る。本開示では、開示する技法を実行するように構成されたデバイスの機能的態様を強調するために様々な構成要素、モジュール、またはユニットについて説明したが、それらの構成要素、モジュール、またはユニットを、必ずしも異なるハードウェアユニットによって実現する必要はない。むしろ、上記で説明したように、様々なユニットが、好適なソフトウェアおよび／またはファームウェアとともに、上記で説明したように１つまたは複数のプロセッサを含んで、コーデックハードウェアユニットにおいて組合せられるか、または相互動作ハードウェアユニットの集合によって与えられ得る。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
［１］ビデオデータをコード化する方法であって、
ビデオデータの現在のブロックに関連付けられたブロックサイズを判断することと、
前記現在のブロックに関連付けられたイントラ予測コード化モードを判断することと、
前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択することと、
前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化することと、を備える方法。
［２］前記フィルタを選択することは、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択することを備える、［１］に記載の方法。
［３］前記フィルタを選択することは、
前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択することと、
前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断することと、
を備える、［１］に記載の方法。
［４］フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらかから選択するか判断することは、
前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用することと、
前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用することと、
前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価して、どちらがより良好な結果を得るか判断することと、
前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択することと、を備える［３］に記載の方法。
［５］前記選択されたフィルタが前記第２のフィルタテーブルから選択されるとき、フィルタリング指示を符号化することをさらに備える、［４］に記載の方法。
［６］前記現在のブロックをコード化することは、前記現在のブロックを復号することを備え、前記現在のブロックは、イントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記方法は、
前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断することをさらに備え、
前記フィルタを選択することは、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択することを備え、
前記フィルタを選択することは、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択することを備える、［１］に記載の方法。
［７］前記フィルタテーブルは、ブロックサイズとコード化モードとの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれは、フィルタセットから選択される１つのフィルタを備える、［１］に記載の方法。
［８］前記フィルタセットは少なくとも２つのフィルタを備え、前記フィルタの１つは全域通過フィルタを備える、［７］に記載の方法。
［９］フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断することと、
前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択することと、をさらに備える、［１］に記載の方法。
［１０］前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、［１］に記載の方法。
［１１］前記現在のブロックに関連付けられた次元を判断することと、
次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断することと、
をさらに備える、［１０］に記載の方法。
［１２］ビデオデータをコード化するための装置であって、
ビデオデータの現在のブロックに関連付けられたブロックサイズを判断し、前記現在のブロックに関連付けられたイントラ予測コード化モードを判断し、前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択し、前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化するように構成されたプロセッサを備える装置。
［１３］前記フィルタを選択するために、前記プロセッサは、前記ブロックサイズおよび前記符号化モードに対応するフィルタを第１のフィルタテーブルから選択するように構成される、［１２］に記載の装置。
［１４］前記フィルタを選択するために、前記プロセッサは、
前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択し、
前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断するようにさらに構成される、［１２］に記載の装置。
［１５］フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらから選択するか判断するために、前記プロセッサは、
前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用し、
前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用し、
前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価して、どちらがより良好な結果を得るか判断し、
前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択するようにさらに構成される、［１４］に記載の装置。
［１６］前記プロセッサは、前記選択されたフィルタが前記第２のフィルタテーブルから選択されたとき、フィルタリング指示を符号化するようにさらに構成される、［１５］に記載の装置。
［１７］前記第１のフィルタテーブルと前記第２のフィルタテーブルとを記憶するように構成されたメモリをさらに備える、［１４］に記載の装置。
［１８］前記装置はビデオ復号器を備え、前記現在のブロックは、イントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記プロセッサは、
前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断するようにさらに構成され、
前記フィルタを選択するために、前記プロセッサは、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択するようにさらに構成され、
前記フィルタを選択するために、前記プロセッサは、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択するようにさらに構成される、
［１２］に記載の装置。
［１９］前記フィルタテーブルは、ブロックサイズとコード化モードの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれが、フィルタセットから選択される１つのフィルタを備える、［１２］に記載の装置。
［２０］前記フィルタセットが少なくとも２つのフィルタを備え、前記フィルタの１つが全域通過フィルタを備える、［１９］に記載の装置。
［２１］前記プロセッサは、
フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断し、
前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択するようにさらに構成される、［１２］に記載の装置。
［２２］前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、［１２］に記載の装置。
［２３］前記プロセッサは、
前記現在のブロックに関連付けられた次元を判断し、
次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断するようにさらに構成される、［２２］に記載の装置。
［２４］ビデオデータを符号化するための装置であって、
ビデオデータの現在のブロックに関連付けられたブロックサイズを判断する手段と、
前記現在のブロックに関連付けられたイントラ予測コード化モードを判断する手段と、
前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択する手段と、
前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化する手段と、を備える装置。
［２５］前記フィルタを選択する手段は、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択する手段を備える、［２４］に記載の装置。
［２６］前記フィルタを選択する手段は、
前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択する手段と、
前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断する手段と、を備える［２４］に記載の装置。
［２７］前記フィルタを選択する手段は、
前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択する手段と、
前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断する手段と、
を備える、［２４］に記載の装置。
［２８］フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらから選択するか判断する手段は、
前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用する手段と、
前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用する手段と、
前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価して、どちらがより良好な結果を得るか判断する手段と、
前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択する手段と、
を備える［２７］に記載の装置。
［２９］前記選択されたフィルタが前記第２のフィルタテーブルから選択されるとき、フィルタリング指示を符号化する手段をさらに備える、［２８］に記載の装置。
［３０］前記第１のフィルタテーブルと前記第２のフィルタテーブルとを記憶する手段をさらに備える、［２７］に記載の装置。
［３１］前記装置はビデオ復号器を備え、前記現在のブロックはイントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記装置は、
前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断する手段をさらに備え、
前記フィルタを選択する手段は、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択する手段を備え、
前記フィルタを選択する手段は、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択する手段を備える、［２４］に記載の装置。
［３２］前記フィルタテーブルは、ブロックサイズとコード化モードとの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれはフィルタセットから選択される１つのフィルタを備える、［２４］に記載の装置。
［３３］前記フィルタセットは少なくとも２つのフィルタを備え、前記フィルタの１つは全域通過フィルタを備える、［３２］に記載の装置。
［３４］フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断する手段と、
前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択する手段と、
をさらに備える、［２４］に記載の装置。
［３５］前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、［２４］に記載の装置。
［３６］前記現在のブロックに関連付けられた次元を判断する手段と、
次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断する手段と、
をさらに備える、［３５］に記載の装置。
［３７］プロセッサで実行されると、前記プロセッサに、
ビデオデータの現在のブロックに関連付けられたブロックサイズを判断させ、
前記現在のブロックに関連付けられたイントラ予測コード化モードを判断させ、
前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択させ、
前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化させる、
ビデオデータをコード化するための命令を備えるコンピュータ可読記憶媒体。
［３８］前記プロセッサに前記フィルタを選択させる命令は、前記プロセッサに、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択させる命令を備える、［３７］に記載のコンピュータ可読記憶媒体。
［３９］前記プロセッサに前記フィルタを選択させる命令は、前記プロセッサに、
前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択させ、
前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断させる命令を備える、［３７］に記載のコンピュータ可読記憶媒体。
［４０］前記プロセッサに、フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらから選択するか判断させる命令は、前記プロセッサに、
前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用させ、
前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用させ、
前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価させて、どちらがより良好な結果を得るか判断させ、
前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択させる命令を備える、［３９］に記載のコンピュータ可読記憶媒体。
［４１］前記プロセッサに、前記選択されたフィルタが前記第２のフィルタテーブルから選択されたとき、フィルタリング指示を符号化させる命令をさらに備える、［４０］に記載のコンピュータ可読記憶媒体。
［４２］前記命令は、前記プロセッサに前記現在のブロックを復号させ、前記現在のブロックは、イントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記プロセッサに、
前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断させる命令をさらに備え、
前記フィルタを選択するための前記命令は、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択するための命令を備え、前記フィルタを選択するための命令が、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択するための命令を備える、［３７］に記載のコンピュータ可読記憶。
［４３］前記フィルタテーブルは、ブロックサイズとコード化モードとの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれは、フィルタセットから選択される１つのフィルタを備える、［３７］に記載のコンピュータ可読記憶媒体。
［４４］前記フィルタセットは少なくとも２つのフィルタを備え、前記フィルタの１つが全域通過フィルタを備える、［４３］に記載のコンピュータ可読記憶媒体。
［４５］前記プロセッサに、
フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断させ、
前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択させる命令をさらに備える、［３７］に記載のコンピュータ可読記憶媒体。
［４６］前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、［３７］に記載のコンピュータ可読記憶媒体。
［４７］前記プロセッサに、
前記現在のブロックに関連付けられた次元を判断させ、
次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断させる命令をさらに備える、［４６］に記載のコンピュータ可読記憶媒体。

Claims (47)

1. ビデオデータをコード化する方法であって、
   ビデオデータの現在のブロックに関連付けられたブロックサイズを判断することと、
   前記現在のブロックに関連付けられたイントラ予測コード化モードを判断することと、
   前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択することと、
   前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化することと、
   を備える方法。
2. 前記フィルタを選択することは、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択することを備える、請求項１に記載の方法。
3. 前記フィルタを選択することは、
   前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択することと、
   前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断することと、
   を備える、請求項１に記載の方法。
4. フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらかから選択するか判断することは、
   前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用することと、
   前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用することと、
   前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価して、どちらがより良好な結果を得るか判断することと、
   前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択することと、を備える請求項３に記載の方法。
5. 前記選択されたフィルタが前記第２のフィルタテーブルから選択されるとき、フィルタリング指示を符号化することをさらに備える、請求項４に記載の方法。
6. 前記現在のブロックをコード化することは、前記現在のブロックを復号することを備え、前記現在のブロックは、イントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記方法は、
   前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断することをさらに備え、
   前記フィルタを選択することは、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択することを備え、
   前記フィルタを選択することは、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択することを備える、
   請求項１に記載の方法。
7. 前記フィルタテーブルは、ブロックサイズとコード化モードとの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれは、フィルタセットから選択される１つのフィルタを備える、請求項１に記載の方法。
8. 前記フィルタセットは少なくとも２つのフィルタを備え、前記フィルタの１つは全域通過フィルタを備える、請求項７に記載の方法。
9. フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断することと、
   前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択することと、
   をさらに備える、請求項１に記載の方法。
10. 前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、請求項１に記載の方法。
11. 前記現在のブロックに関連付けられた次元を判断することと、
    次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断することと、
    をさらに備える、請求項１０に記載の方法。
12. ビデオデータをコード化するための装置であって、
    ビデオデータの現在のブロックに関連付けられたブロックサイズを判断し、前記現在のブロックに関連付けられたイントラ予測コード化モードを判断し、前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択し、前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化するように構成されたプロセッサを備える装置。
13. 前記フィルタを選択するために、前記プロセッサは、前記ブロックサイズおよび前記符号化モードに対応するフィルタを第１のフィルタテーブルから選択するように構成される、請求項１２に記載の装置。
14. 前記フィルタを選択するために、前記プロセッサは、
    前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択し、
    前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断するようにさらに構成される、請求項１２に記載の装置。
15. フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらから選択するか判断するために、前記プロセッサは、
    前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用し、
    前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用し、
    前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価して、どちらがより良好な結果を得るか判断し、
    前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択するようにさらに構成される、請求項１４に記載の装置。
16. 前記プロセッサは、前記選択されたフィルタが前記第２のフィルタテーブルから選択されたとき、フィルタリング指示を符号化するようにさらに構成される、請求項１５に記載の装置。
17. 前記第１のフィルタテーブルと前記第２のフィルタテーブルとを記憶するように構成されたメモリをさらに備える、請求項１４に記載の装置。
18. 前記装置はビデオ復号器を備え、前記現在のブロックは、イントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記プロセッサは、
    前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断するようにさらに構成され、
    前記フィルタを選択するために、前記プロセッサは、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択するようにさらに構成され、
    前記フィルタを選択するために、前記プロセッサは、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択するようにさらに構成される、
    請求項１２に記載の装置。
19. 前記フィルタテーブルは、ブロックサイズとコード化モードの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれが、フィルタセットから選択される１つのフィルタを備える、請求項１２に記載の装置。
20. 前記フィルタセットが少なくとも２つのフィルタを備え、前記フィルタの１つが全域通過フィルタを備える、請求項１９に記載の装置。
21. 前記プロセッサは、
    フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断し、
    前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択するようにさらに構成される、請求項１２に記載の装置。
22. 前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、請求項１２に記載の装置。
23. 前記プロセッサは、
    前記現在のブロックに関連付けられた次元を判断し、
    次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断するようにさらに構成される、請求項２２に記載の装置。
24. ビデオデータを符号化するための装置であって、
    ビデオデータの現在のブロックに関連付けられたブロックサイズを判断する手段と、
    前記現在のブロックに関連付けられたイントラ予測コード化モードを判断する手段と、
    前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択する手段と、
    前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化する手段と、
    を備える装置。
25. 前記フィルタを選択する手段は、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択する手段を備える、請求項２４に記載の装置。
26. 前記フィルタを選択する手段は、
    前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択する手段と、
    前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断する手段とを備える、請求項２４に記載の装置。
27. 前記フィルタを選択する手段は、
    前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択する手段と、
    前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断する手段と、
    を備える、請求項２４に記載の装置。
28. フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらから選択するか判断する手段は、
    前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用する手段と、
    前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用する手段と、
    前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価して、どちらがより良好な結果を得るか判断する手段と、
    前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択する手段と、
    を備える請求項２７に記載の装置。
29. 前記選択されたフィルタが前記第２のフィルタテーブルから選択されるとき、フィルタリング指示を符号化する手段をさらに備える、請求項２８に記載の装置。
30. 前記第１のフィルタテーブルと前記第２のフィルタテーブルとを記憶する手段をさらに備える、請求項２７に記載の装置。
31. 前記装置はビデオ復号器を備え、前記現在のブロックはイントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記装置は、
    前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断する手段をさらに備え、
    前記フィルタを選択する手段は、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択する手段を備え、
    前記フィルタを選択する手段は、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択する手段を備える、
    請求項２４に記載の装置。
32. 前記フィルタテーブルは、ブロックサイズとコード化モードとの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれはフィルタセットから選択される１つのフィルタを備える、請求項２４に記載の装置。
33. 前記フィルタセットは少なくとも２つのフィルタを備え、前記フィルタの１つは全域通過フィルタを備える、請求項３２に記載の装置。
34. フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断する手段と、
    前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択する手段と、
    をさらに備える、請求項２４に記載の装置。
35. 前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、請求項２４に記載の装置。
36. 前記現在のブロックに関連付けられた次元を判断する手段と、
    次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断する手段と、
    をさらに備える、請求項３５に記載の装置。
37. プロセッサで実行されると、前記プロセッサに、
    ビデオデータの現在のブロックに関連付けられたブロックサイズを判断させ、
    前記現在のブロックに関連付けられたイントラ予測コード化モードを判断させ、
    前記ブロックサイズおよび前記コード化モードに基づいて、前記現在のブロックに適用するためにフィルタテーブルからフィルタを選択させ、
    前記選択されたフィルタを使って、前記現在のブロックをイントラ予測コード化させる、
    ビデオデータをコード化するための命令を備えるコンピュータ可読記憶媒体。
38. 前記プロセッサに前記フィルタを選択させる命令は、前記プロセッサに、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択させる命令を備える、請求項３７に記載のコンピュータ可読記憶媒体。
39. 前記プロセッサに前記フィルタを選択させる命令は、前記プロセッサに、
    前記ブロックサイズがブロックサイズ閾値よりも小さいとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、第１のフィルタテーブルから選択させ、
    前記ブロックサイズがブロックサイズ閾値以上のとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを、前記第１のフィルタテーブルまたは第２のフィルタテーブルのどちらから選択するか判断させる命令を備える、
    請求項３７に記載のコンピュータ可読記憶媒体。
40. 前記プロセッサに、フィルタを前記第１のフィルタテーブルまたは前記第２のフィルタテーブルのどちらから選択するか判断させる命令は、前記プロセッサに、
    前記第１のフィルタテーブルからの前記フィルタを前記現在のブロックに適用させ、
    前記第２のフィルタテーブルからの前記フィルタを前記現在のブロックに適用させ、
    前記第１のフィルタテーブルからの前記フィルタの前記適用の第１の結果と、前記第２のフィルタテーブルからの前記フィルタの前記適用の第２の結果とを評価させて、どちらがより良好な結果を得るか判断させ、
    前記判断に基づいて、前記第１のフィルタテーブルまたは前記第２のフィルタテーブルから前記フィルタを選択させる命令を備える、
    請求項３９に記載のコンピュータ可読記憶媒体。
41. 前記プロセッサに、前記選択されたフィルタが前記第２のフィルタテーブルから選択されたとき、フィルタリング指示を符号化させる命令をさらに備える、請求項４０に記載のコンピュータ可読記憶媒体。
42. 前記命令は、前記プロセッサに前記現在のブロックを復号させ、前記現在のブロックは、イントラ予測コード化を使って符号化されたビデオデータのブロックを備え、前記プロセッサに、
    前記符号化された現在のブロックがフィルタリング指示を含むかどうか判断させる命令をさらに備え、
    前記フィルタを選択するための前記命令は、前記符号化された現在のブロックがフィルタリング指示を含まないとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第１のフィルタテーブルから選択するための命令を備え、前記フィルタを選択するための命令が、前記符号化された現在のブロックがフィルタリング指示を含むとき、前記ブロックサイズおよび前記コード化モードに対応するフィルタを第２のフィルタテーブルから選択するための命令を備える、請求項３７に記載のコンピュータ可読記憶。
43. 前記フィルタテーブルは、ブロックサイズとコード化モードとの異なる複数の組合せに対応する複数のエントリを備え、前記複数のエントリのそれぞれは、フィルタセットから選択される１つのフィルタを備える、請求項３７に記載のコンピュータ可読記憶媒体。
44. 前記フィルタセットは少なくとも２つのフィルタを備え、前記フィルタの１つが全域通過フィルタを備える、請求項４３に記載のコンピュータ可読記憶媒体。
45. 前記プロセッサに、
    フィルタリング決定テーブルを用いて、前記ブロックサイズおよび前記コード化モードに基づき前記現在のブロックにフィルタリングを適用するかどうか判断させ、
    前記現在のブロックにフィルタリングが適用される場合、前記フィルタテーブルから前記フィルタを選択させる命令をさらに備える、請求項３７に記載のコンピュータ可読記憶媒体。
46. 前記現在のブロックは、短距離イントラ予測（ＳＤＩＰ）に従ってコード化された予測ユニットを備える、請求項３７に記載のコンピュータ可読記憶媒体。
47. 前記プロセッサに、
    前記現在のブロックに関連付けられた次元を判断させ、
    次元判断規則セットを用いて、前記次元に基づき前記ブロックサイズを判断させる命令をさらに備える、請求項４６に記載のコンピュータ可読記憶媒体。

Images