JP2016518759A - ハイレベルシンタックスのみのスケーラブルビデオコーディングのための、レイヤ間参照ピクチャ制限 - Google Patents

Abstract

一実装形態では、ビデオ情報を符号化または復号するための装置が提供される。本装置は、参照レイヤ、エンハンスメントレイヤ、またはその両方に関連する参照レイヤピクチャを記憶するように構成されたメモリユニットを備える。本装置は、前記メモリユニットに動作可能に結合されたプロセッサをさらに備える。一実施形態では、本プロセッサは、レイヤ間参照ピクチャとして現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャの使用を制限し、レイヤ間予測と前記レイヤ間参照ピクチャとを用いて現在のピクチャを予測するように構成されている。

Description

[0001] 本開示は、ビデオコーディングおよび圧縮の分野に関する。詳細には、本開示は、高効率ビデオコーディングのためのＳＶＣ（ＨＥＶＣ）、スケーラブルＨＥＶＣ（ＳＨＶＣ）、およびＨＥＶＣベースのＳＨＶＣ（ＨＥＶＣ−ＳＨＶＣ）を含む、スケーラブルビデオコーディング（ＳＶＣ：scalable video coding）に関する。

[0002] デジタルビデオ機能は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末（ＰＤＡ）、ラップトップまたはデスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダ（e-book reader）、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲームデバイス、ビデオゲームコンソール、セルラーまたは衛星無線電話、いわゆる「スマートフォン」、ビデオ遠隔会議デバイス、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスに組み込まれ得る。デジタルビデオデバイスは、ＭＰＥＧ−２、ＭＰＥＧ−４、ＩＴＵ−Ｔ Ｈ．２６３、ＩＴＵ−Ｔ Ｈ．２６４／ＭＰＥＧ−４，Ｐａｒｔ １０，Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＡＶＣ）、現在開発中の高効率ビデオコーディング（ＨＥＶＣ：High Efficiency Video Coding）規格によって定義された規格、およびそのような規格の拡張に記載されているビデオコーディング技法など、ビデオコーディング技法を実装する。ビデオデバイスは、そのようなビデオコーディング技法を実装することによって、デジタルビデオ情報をより効率的に送信、受信、符号化、復号、および／または記憶し得る。

[0003] ビデオコーディング技法は、ビデオシーケンスに固有の冗長性を低減または除去するための空間的（イントラピクチャ）予測および／または時間的（インターピクチャ）予測を含む。ブロックベースのビデオコーディングの場合、ビデオスライス（たとえば、ビデオフレームまたはビデオフレームの一部分）が、ツリーブロック、コーディングユニット（ＣＵ）および／またはコーディングノードと呼ばれることもあるビデオブロックに区分され得る。ピクチャのイントラコーディングされた（Ｉ）スライス中のビデオブロックは、同じピクチャ中の近隣ブロック中の参照サンプルに対する空間的予測を使用して符号化される。ピクチャのインターコーディングされた（ＰまたはＢ）スライス中のビデオブロックは、同じピクチャ中の近隣ブロック中の参照サンプルに対する空間的予測、または他の参照ピクチャ中の参照サンプルに対する時間的予測を使用し得る。ピクチャはフレームと呼ばれることがあり、参照ピクチャは参照フレームと呼ばれることがある。

[0004] 空間的予測または時間的予測は、コーディングされるべきブロックの予測ブロックを生じる。残差データは、コーディングされるべき元のブロックと予測ブロックとの間のピクセル差分を表す。インターコード化ブロックは、予測ブロックを形成する参照サンプルのブロックを指す動きベクトルと、コード化ブロックと予測ブロックとの間の差分を示す残差データとに従って符号化される。イントラコード化ブロックは、イントラコーディングモードと残差データとに従って符号化される。さらなる圧縮のために、残差データは、ピクセル領域から変換領域に変換されて、残差変換係数が得られ得、その残差変換係数は、次いで量子化され得る。量子化変換係数は、最初は２次元アレイで構成され、変換係数の１次元ベクトルを生成するために走査され得、なお一層の圧縮を達成するために、エントロピーコーディングが適用され得る。

[0005] ハイレベルシンタックスのみのスケーラブルビデオコーディングは、ＨＥＶＣコーディング仕様に低レベルの変更を導入せずに、参照レイヤ（reference layer）からのビデオブロックを用いて現在のレイヤ中のビデオブロックが予測されることを可能にする。たとえば、ＨＬＳのみのＳＶＣは、現在のレイヤと同じアクセスユニットからの参照レイヤを有する既存のインターコーディング技法を用いることによって、そのようなコーディングを可能にする。現在の技法は、レイヤ間コーディングにおける活用可能性のために、複数の参照レイヤが識別されることを可能にする。しかしながら、多くとも（at most）ただ１つの参照レイヤがレイヤ間参照レイヤとして識別され得るように、レイヤ間コーディングを制限できることが有利であろう。ただ１つの参照レイヤがレイヤ間参照レイヤとして使用され得るように、レイヤ間コーディング（たとえば、レイヤ間予測（inter-layer prediction））を選択的に制限することによって、コーディング性能を改善して、実装の複雑性ならびに実装コストを軽減することができる。

[0006] 一般に、本開示は、スケーラブルビデオコーディング（ＳＨＶＣ、ＳＶＣ）に関係する技法を記載する。以下で説明する技法は、（動き情報を含む）レイヤ間シンタックス予測が特定のベースレイヤコーデック（たとえば、ＨＥＶＣなど）に対して許可されるかどうかを示す機構を与える。

[0007] 一実装形態では、ビデオ情報を符号化または復号するための装置が提供される。本装置は、ベースレイヤ（base layer）、エンハンスメントレイヤ（enhancement layer）、またはその両方に関連するビデオ情報および／または参照レイヤピクチャを記憶するように構成されたメモリユニットを備える。本装置は、メモリユニットに動作可能に結合されたプロセッサをさらに備える。本プロセッサは、エンハンスメントレイヤにおけるビデオユニットの値を決定するために、レイヤ間参照ピクチャ（inter-layer reference picture）として多くとも１つの参照レイヤピクチャ（reference layer picture）の使用を制限するように構成されている。

[0008] 一実施形態では、ビデオ情報をコーディングするように構成された装置は、メモリユニットとプロセッサとを備える。ベースレイヤ、エンハンスメントレイヤ、またはその両方に関連する参照レイヤピクチャを記憶するように構成された、本メモリユニット。本プロセッサは、メモリユニットに動作可能に結合されており、レイヤ間参照ピクチャとしてリサンプリングされた（resampled）多くとも１つの参照レイヤピクチャの使用を制限し、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを予測するように構成されている。

[0009] 別の実施形態では、ビデオ情報を復号する方法は、多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、レイヤ間参照ピクチャとして使用するべき多くとも１つのリサンプリングされた参照レイヤピクチャを決定することと、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを復号することとを含む。

[0010] 別の実施形態では、ビデオ情報を符号化する方法は、多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、レイヤ間参照ピクチャとして使用するべき多くとも１つのリサンプリングされた参照レイヤピクチャを決定することと、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを符号化することとを含む。

[0011] 別の実施形態では、ビデオ情報をコーディングするための装置は、多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えるための手段と、レイヤ間参照ピクチャとして使用するべき多くとも１つのリサンプリングされた参照レイヤピクチャを決定するための手段と、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを予測するための手段とを含む。

[0012] 別の実施形態では、非一時的コンピュータ可読媒体は、コンピューティングハードウェアを備えるプロセッサ上で実行されたとき、プロセッサに、多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、レイヤ間参照ピクチャとして使用するべき多くとも１つのリサンプリングされた参照レイヤピクチャを決定することと、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを予測することとを行わせる特定の命令を含む。

[0013] 別の実装形態では、ビデオ情報をコーディングするように構成された装置は、メモリとプロセッサとを備える。本メモリユニットは、ベースレイヤ、エンハンスメントレイヤ、またはその両方に関連する参照レイヤピクチャを記憶するように構成されている。本プロセッサは、メモリユニットに動作可能に結合されており、現在のピクチャとは異なる空間解像度（spatial resolution）を有する多くとも１つの参照レイヤピクチャの、レイヤ間参照ピクチャとしての使用を制限し、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを予測するように構成されている。

[0014] 別の実施形態では、ビデオ情報を復号する方法は、現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、レイヤ間参照ピクチャとして使用するべき多くとも１つの参照レイヤピクチャを決定することと、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを復号することとを含む。

[0015] 別の実施形態では、ビデオ情報を符号化する方法は、現在のピクチャとは異なる空間解像度を有する多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、レイヤ間参照ピクチャとして使用するべき多くとも１つの参照レイヤピクチャを決定することと、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを符号化することとを含む。

[0016] 別の実施形態では、ビデオ情報をコーディングするための装置は、現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えるための手段と、レイヤ間参照ピクチャとして使用するべき多くとも１つの参照レイヤピクチャを決定するための手段と、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを予測するための手段とを含む。

[0017] 別の実施形態では、非一時的コンピュータ可読媒体は、コンピューティングハードウェアを備えるプロセッサ上で実行されたとき、プロセッサに、現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、レイヤ間参照ピクチャとして使用するべき多くとも１つの参照レイヤピクチャを決定することと、レイヤ間予測とレイヤ間参照ピクチャとを用いて現在のピクチャを予測することとを行わせる特定の命令を含む。

[0018] １つまたは複数の例の詳細を、添付の図面および以下の説明に記載し、これは、本明細書で説明する本発明の概念の完全な範囲を限定するものではない。他の特徴、目的、および利点は、その説明および図面から、ならびに特許請求の範囲から明らかになろう。

[0019] 図面全体にわたって、参照される要素間の対応を示すために参照番号が再使用される場合がある。図面は、本明細書に記載される例示的な実施形態を図示するために提供され、本開示の範囲を限定するものではない。

[0020] 本開示で説明する態様に従って技法を利用し得る例示的なビデオ符号化および復号システムを示すブロック図。 [0021] 本開示で説明する態様に従って技法を実装し得るビデオエンコーダの一例を示すブロック図。 [0022] 本開示で説明する態様に従って技法を実装し得るビデオエンコーダの一例を示すブロック図。 [0023] 本開示で説明する態様に従って技法を実装し得るビデオデコーダの一例を示すブロック図。 [0024] 本開示で説明する態様に従って技法を実装し得るビデオデコーダの一例を示すブロック図。 [0025] 本開示の態様による、レイヤ間参照ピクチャ制限の方法の一実施形態を示すフローチャート。 本開示の態様による、レイヤ間参照ピクチャ制限の方法の一実施形態を示すフローチャート。 本開示の態様による、レイヤ間参照ピクチャ制限の方法の一実施形態を示すフローチャート。

[0026] 本開示で説明する技法は、概して、スケーラブルビデオコーディング（ＳＨＶＣ、ＳＶＣ）およびマルチビュー／３Ｄビデオコーディングに関係する。たとえば、本技法は、高効率ビデオコーディング（ＨＥＶＣ）のスケーラブルビデオコーディング（ＳＨＶＣと呼ばれることがある、ＳＶＣ）拡張に関係し、それとともにまたはそれの中で使用され得る。ＳＨＶＣ、ＳＶＣ拡張では、ビデオ情報の複数のレイヤがあり得る。最下位レベルにあるレイヤはベースレイヤ（ＢＬ：base layer）として働き、最上位にあるレイヤ（または最上位レイヤ）はエンハンストレイヤ（ＥＬ：enhanced layer）として働き得る。「エンハンストレイヤ」は「エンハンスメントレイヤ」と呼ばれることがあり、これらの用語は互換的に使用され得る。ベースレイヤは「参照レイヤ」（ＲＬ：reference layer）と呼ばれることがあり、これらの用語は互換的に使用され得る。ベースレイヤとトップレイヤとの間にあるすべてのレイヤは、ＥＬまたは参照レイヤ（ＲＬ）のいずれかまたは両方として働き得る。たとえば、中間にあるレイヤは、ベースレイヤまたは介在エンハンスメントレイヤ（intervening enhancement layer）など、それの下のレイヤのためのＥＬであり、同時にそれの上のエンハンスメントレイヤのためのＲＬとして働き得る。ベースレイヤとトップレイヤ（または最上位レイヤ）との間にある各レイヤは、上位レイヤによるレイヤ間予測用の参照として使用され得、レイヤ間予測のための参照として下位レイヤを使用し得る。

[0027] 簡単のために、ＢＬおよびＥＬのただ２つのレイヤに関して例を提示するが、以下で説明するアイデアおよび実施形態が複数のレイヤを用いる場合にも適用可能であることを十分理解されたい。さらに、説明を簡単にするために、「フレーム」または「ブロック」という用語をしばしば使用する。ただし、これらの用語は限定的なものではない。たとえば、以下で説明する技法は、限定はしないが、ピクセル、ブロック（たとえば、ＣＵ、ＰＵ、ＴＵ、マクロブロックなど）、スライス、フレームなどを含む様々なビデオユニットのいずれかとともに使用され得る。

ビデオコーディング
[0028] ビデオコーディング規格は、ＩＴＵ−Ｔ Ｈ．２６１、ＩＳＯ／ＩＥＣ ＭＰＥＧ−１ Ｖｉｓｕａｌ、ＩＴＵ−Ｔ Ｈ．２６２またはＩＳＯ／ＩＥＣ ＭＰＥＧ−２ Ｖｉｓｕａｌ、ＩＴＵ−Ｔ Ｈ．２６３、ＩＳＯ／ＩＥＣ ＭＰＥＧ−４ Ｖｉｓｕａｌ、およびそれのスケーラブルビデオコーディング（ＳＶＣ）拡張とマルチビュービデオコーディング（ＭＶＣ）拡張とを含む、（ＩＳＯ／ＩＥＣ ＭＰＥＧ−４ ＡＶＣとしても知られる）ＩＴＵ−Ｔ Ｈ．２６４を含む。ＳＶＣとＭＶＣとの最新共同草案は、参照によりその全体が組み込まれる、２０１０年３月の「Ａｄｖａｎｃｅｄ ｖｉｄｅｏ ｃｏｄｉｎｇ ｆｏｒ ｇｅｎｅｒｉｃ ａｕｄｉｏｖｉｓｕａｌ ｓｅｒｖｉｃｅｓ」、ＩＴＵ−Ｔ勧告Ｈ．２６４に記載されている。

[0029] さらに、ＩＴＵ−Ｔビデオコーディングエキスパートグループ（ＶＣＥＧ）およびＩＳＯ／ＩＥＣモーションピクチャエキスパートグループ（ＭＰＥＧ：Motion Picture Experts Group）のジョイントコラボレーションチームオンビデオコーディング（ＪＣＴ−ＶＣ：Joint Collaboration Team on Video Coding）によって開発されている新しいビデオコーディング規格の高効率ビデオコーディング（ＨＥＶＣ）がある。ＨＥＶＣの最近のワーキングドラフト（ＷＤ）が、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１２＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＣＴＶＣ−Ｌ１００３−ｖ２０．ｚｉｐにて入手可能である。ドラフトの別のバージョンが、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１１＿Ｓｈａｎｇｈａｉ／ｗｇ１１／ＪＣＴＶＣ−Ｋ１００３−ｖ１３．ｚｉｐにおいて入手可能である。ＨＥＶＣ ＷＤ８（またはＷＤ８）と呼ばれる、ＨＥＶＣの別のワーキングドラフトが、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１０＿Ｓｔｏｃｋｈｏｌｍ／ｗｇ１１／ＪＣＴＶＣ−Ｊ１００３−ｖ８．ｚｉｐにおいて入手可能である。ＨＥＶＣ ＷＤ７と呼ばれる、ＨＥＶＣの別のワーキングドラフトが、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／９＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＣＴＶＣ−Ｉ１００３−ｖ５．ｚｉｐから入手可能である。これらの文献のすべては、その全体が参照により組み込まれる。

[0030] ＳＶＣでは、ビデオ情報は、複数のレイヤとして与えられ得る。最下位レベルにあるレイヤはちょうどベースレイヤ（ＢＬ）として働き、最上位レベルにあるレイヤはエンハンスメントレイヤ（ＥＬ）として働き得る。トップレイヤとボトムレイヤとの間にあるすべてのレイヤは、エンハンスメントレイヤとベースレイヤとの両方として働き得る。たとえば、中間にあるレイヤは、それの下のレイヤのためのＥＬでよく、同時にそれの上のレイヤのためのＢＬであり得る。説明を簡単にするために、以下で説明する技法を示す際に、ＢＬとＥＬとの２つのレイヤがあると仮定することができる。しかしながら、本明細書において説明するすべての技法が、複数の（２つ以上の）レイヤを用いる場合にも適用可能である。

[0031] スケーラブルビデオコーディング（ＳＶＣ）は、（信号対雑音比（ＳＮＲ）とも呼ばれる）品質スケーラビリティ、空間スケーラビリティ、および／または時間スケーラビリティを実現するために使用され得る。たとえば、一実施形態では、参照レイヤ（たとえば、ベースレイヤ）は、第１の品質レベルでビデオを表示するのに十分なビデオ情報を含み、エンハンスメントレイヤは、参照レイヤと比べてさらなるビデオ情報を含み、その結果、参照レイヤおよびエンハンスメントレイヤは一緒に、第１の品質レベルよりも高い第２の品質レベル（たとえば、少ない雑音、大きい解像度、より良いフレームレートなど）でビデオを表示するのに十分なビデオ情報を含む。強調レイヤは、ベースレイヤとは異なる空間解像度を有し得る。たとえば、ＥＬとＢＬとの間の空間アスペクト比は、１．０、１．５、２．０、または他の異なる比であり得る。言い換えれば、ＥＬの空間アスペクトは、ＢＬの空間アスペクトの１．０倍、１．５倍、または２．０倍に等しい場合がある。いくつかの例では、ＥＬの倍率は、ＢＬの倍率よりも大きい場合がある。たとえば、ＥＬ内のピクチャのサイズは、ＢＬ内のピクチャのサイズよりも大きい場合がある。このようにして、限定ではないが、ＥＬの空間解像度がＢＬの空間解像度よりも大きいことは可能であり得る。

[0032] Ｈ．２６４のためのＳＶＣ拡張では、現在のブロックの予測は、ＳＶＣのために提供された様々なレイヤを使用して実行され得る。そのような予測は、レイヤ間予測と呼ばれる場合がある。レイヤ間予測方法は、レイヤ間冗長性を低減するためにＳＶＣにおいて利用され得る。レイヤ間予測のいくつかの例としては、レイヤ間イントラ予測、レイヤ間動き予測、およびレイヤ間残差予測があり得る。レイヤ間イントラ予測は、ベースレイヤ中のコロケートブロックの再構成を使用してエンハンスメントレイヤ中の現在ブロックを予測する。レイヤ間動き予測は、エンハンスメントレイヤにおける動きを予測するために、ベースレイヤの動き情報（動きベクトルを含む）を使用する。レイヤ間残差予測は、ベースレイヤの残差を使用してエンハンスメントレイヤの残差を予測する。

[0033] レイヤ間動き予測のいくつかの実施形態では、（たとえば、同じ位置にあるブロックについての）ベースレイヤの（動きベクトルを含む）動きデータは、エンハンスメントレイヤ内の現在のブロックを予測するために使用され得る。たとえば、エンハンスメントレイヤでビデオユニットをコーディングしながら、ビデオコーダは、参照レイヤからの情報を使用して、さらなる仮説を識別するために使用され得るさらなる動き補償データを取得することができる。これらのさらなる仮説は、ビデオのビットストリーム内にすでに存在するデータから暗黙的に導出されるので、ビットストリームのサイズにおける追加コストがほとんどまたはまったくない状態で、ビデオコーディングにおけるさらなる性能が得られ得る。別の例では、さらなる仮説を見つけるために、空間的に隣接するビデオユニットからの動き情報が使用され得る。次いで、導出された仮説は、明示的に符号化された仮説と平均化されるか、または場合によっては組み合わされて、ビデオユニットの値のより良い予測を生成することができる。ベース（または、参照）レイヤの空間解像度が、現在のブロックのレイヤの空間解像度とは異なるなど、特定の状況では、現在のブロックを符号化または復号するために使用される前に、ベースレイヤ動き情報が空間的にスケーリングされる。同様に、ベース（または、参照）レイヤ内のブロックの位置は、そのレイヤが現在のブロックのレイヤとは異なる空間解像度を有する場合、以下で説明するように、レイヤ間位置マッピングによって決定され得る。

ハイレベルシンタックス（ＨＬＳ）のみのＨＥＶＣベースのスケーラブルコーディング
[0034] ハイレベルシンタックス（ＨＬＳ）のみのＨＥＶＣ−ＳＨＶＣは、現在のエンハンスメントレイヤ（ＥＬ）ピクチャコーディングの参照ピクチャリストに参照レイヤ再構成ピクチャを挿入することによって実現され得る。現在のレイヤとその参照レイヤとが同じ空間解像度を有する場合、ＳＨＶＣは、ＭＶ−ＨＥＶＣ（マルチビューＨＥＶＣ）と同様にサポートされ得、挿入されたピクチャは別のビューからのものである（参照によりその全体が本明細書に組み込まれる、「ＭＶ−ＨＥＶＣ Ｗｏｒｋｉｎｇ Ｄｒａｆｔ １」、ＪＣＴ３Ｖ−Ｃ１００４を参照されたい）。さらに、挿入されたピクチャは、追加の処理なしに、ＴＭＶＰ（時間的動きベクトル予測子）導出のためのコロケートピクチャとして使用され得る。

[0035] 空間スケーラビリティの場合、現在のピクチャは、参照レイヤピクチャとは異なる空間解像度を有する、または有することができる。たとえば、現在のピクチャと参照ピクチャとの間の空間アスペクト比は、１．５、２．０、または他の異なる比であり得る。この場合、参照レイヤピクチャは、現在のピクチャコーディングのための参照ピクチャリストに挿入する前に、現在の復号されたピクチャのピクチャサイズと一致させるために、アップサンプリングされることになる。現在のピクチャと参照ピクチャとの間の空間アスペクト比が異なる場合、参照ピクチャのピクセル情報と非ピクセル情報（シンタックス、モード、およびモードパラメータ）との両方は、テクスチャ予測と動き予測との両方を可能にするためにアップサンプリングされる。この技法は、ＨＥＶＣ（ＳＨＶＣ）規格（参照によりその全体が組み込まれる、「ＳＨＶＣ ｔｅｓｔ ｍｏｄｅｌ １」、ＪＣＴＶＣ−Ｌ１００７、「ＳＨＶＣ ｗｏｒｋｉｎｇ ｄｒａｆｔ １、「ＪＣＴＶＣ−Ｌ１００８」）の新たなスケーラブルビデオ拡張に適用されている。

[0036] 現在のＳＨＶＣテストモデルでは、レイヤ間予測のために使用され得る直接参照レイヤを示すために、以下のシンタックスが使用されている。

[0037] ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]が０と等しい場合、これは、インデックスｊを有するレイヤが、インデックスｉを有するレイヤの直接参照レイヤではないことを指定する。ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]が１と等しい場合、これは、インデックスｊを有するレイヤが、インデックスｉを有するレイヤの直接参照レイヤであり得ることを指定する。ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]が、０からｖｐｓ＿ｍａｘ＿ｌａｙｅｒｓ＿ｍｉｎｕｓ１までの範囲でｉおよびｊに対して存在していない場合、０と等しいと推論される。

[0038] さらに、変数ＮｕｍＤｉｒｅｃｔＲｅｆＬａｙｅｒｓ［ｉ]が、ｉと等しいｎｕｈ＿ｌａｙｅｒＩＤを有する直接参照レイヤの数を指定して、変数ＲｅｆＬａｙｅｒＩｄ［ｉ]［ｊ]が、ｉと等しいｎｕｈ＿ｌａｙｅｒＩＤを有するレイヤの各参照レイヤのｌａｙｅｒ＿ｉｄを指定する。これらの変数は、以下のように導出される。

[0039] マルチビューＨＥＶＣ（ＭＶ−ＨＥＶＣ）では、リストレイヤ間参照ピクチャセットＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒは、以下のように、参照レイヤピクチャの復号されたピクチャを直接用いることによって構成される。

[0040] ＳＨＶＣでは、リストレイヤ間参照ピクチャセットＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒは、以下のように、リサンプリングされた参照レイヤピクチャで構成される。

上式で、Ｇ．８．１．４は、レイヤ間参照ピクチャのリサンプリングプロセスである。

[0041] しかしながら、上述のように、現在のＳＨＶＣおよびＭＶ−ＨＥＶＣワーキングドラフトでは、レイヤ間予測プロセスに関連して複数の参照レイヤピクチャを使用することが許可されている。レイヤ間予測のために１つの参照レイヤピクチャを使用することと比較して、この技法は、非常に低い複雑性の影響とともに、ＭＶ−ＨＥＶＣのコーディング性能の改善を提供すると考えられ得る。しかしながら、複数の参照レイヤピクチャを使用するこの技法は、最も近い参照レイヤピクチャが、典型的には、比較的良好な量および／または品質、ならびに最良の予測効率を提供する能力を有するので、コーディング性能を改善する可能性は低い。さらに、複数の参照レイヤピクチャがあると、現在のピクチャを復号するためにピクチャリサンプリングプロセスが複数回実行される必要があるので、レイヤ間予測のために複数の参照レイヤピクチャが使用される場合にＳＨＶＣ復号プロセスの複雑性は増加する。

[0042] Ｈ．２６４ ＳＶＣ拡張では、現在のピクチャのレイヤ間予測のために、ただ１つの特定の参照レイヤピクチャが使用され得るという制限がある。以下のシンタックス要素（syntax element）は、スライスヘッダ中でシグナリングされる。ｒｅｆ＿ｌａｙｅｒ＿ｄｑ＿ｉｄは、現在のレイヤ表現（たとえば、現在のピクチャを表す）のレイヤ間予測のために使用される、現在のコード化されたピクチャ（たとえば、アクセスユニットを表す）の内部のレイヤ表現（たとえば、ピクチャを表す）を指定する。存在する場合、ｒｅｆ＿ｌａｙｅｒ＿ｄｑ＿ｉｄの値は、０からＤＱＩｄ−１まで（両方を含めて）の範囲である。

[0043] 変数ＤＱＩｄは、以下によって導出される。

上式で、ｄｅｐｅｎｄｅｎｃｙ＿ｉｄがＮＡＬユニットの依存性識別子を指定する場合、ｑｕａｌｉｔｙ＿ｉｄはＮＡＬユニットの品質識別子を指定する。

[0044] 添付の図面を参照しながら新規のシステム、装置、および方法の様々な態様について以下でより十分に説明する。ただし、本開示は、多くの異なる形態で実施され得、本開示全体にわたって提示する任意の特定の構造または機能に限定されるものと解釈すべきではない。むしろ、これらの態様は、本開示が周到で完全になり、本開示の範囲を当業者に十分に伝えるように与えられる。本明細書の教示に基づいて、本開示の範囲は、本発明の他の態様とは無関係に実装されるにせよ、または本発明の他の態様と組み合わされるにせよ、本明細書で開示する新規のシステム、装置、および方法のいかなる態様をもカバーするものであることを、当業者なら諒解されたい。たとえば、本明細書に記載した態様をいくつ使用しても、装置は実装され得、または方法は実施され得る。さらに、本発明の範囲は、本明細書に記載の本発明の様々な態様に加えてまたはそれらの態様以外に、他の構造、機能、または構造および機能を使用して実施されるそのような装置または方法をカバーするものとする。本明細書で開示するどの態様も請求項の１つまたは複数の要素によって実施され得ることを理解されたい。

[0045] 本明細書では特定の態様が記載されるが、これらの態様の多くの変形形態および置換は本開示の範囲内に入る。好ましい態様のいくつかの利益および利点が言及されるが、本開示の範囲は、特定の利益、使用、または目的に限定されるものではない。むしろ、本開示の態様は、様々なワイヤレス技術、システム構成、ネットワーク、および伝送プロトコルに広く適用可能であるものとし、それらのいくつかを例として、図および好適な態様についての以下の説明において示す。発明を実施するための形態および図面は、本開示を限定するものではなく説明するものにすぎず、本開示の範囲は添付の特許請求の範囲およびそれの均等物によって定義される。

ビデオコーディングシステム
[0046] 図１は、本開示で説明する態様による技法を利用し得る例示的なビデオコーディングシステム１０を示すブロック図である。本明細書で使用し説明する「ビデオコーダ」という用語は、総称的にビデオエンコーダとビデオデコーダの両方を指す。本開示では、「ビデオコーディング」または「コーディング」という用語は、ビデオ符号化とビデオ復号とを総称的に指すことがある。

[0047] 図１に示すように、ビデオコーディングシステム１０は、ソースデバイス１２と宛先デバイス１４とを含む。ソースデバイス１２は符号化ビデオデータを生成する。宛先デバイス１４は、ソースデバイス１２によって生成された符号化ビデオデータを復号し得る。ソースデバイス１２は、コンピュータ可読媒体１６を介して宛先デバイス１４にビデオデータを与えることができる。ソースデバイス１２および宛先デバイス１４は、デスクトップコンピュータ、ノートブック（すなわち、ラップトップ）コンピュータ、タブレットコンピュータ、セットトップボックス、いわゆる「スマート」フォンなどの電話ハンドセット、いわゆる「スマート」パッド、テレビジョン、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲームコンソール、車内コンピュータ、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスを含み得る。ソースデバイス１２および宛先デバイス１４は、ワイヤレス通信のために装備され得る。

[0048] 宛先デバイス１４は、コンピュータ可読媒体１６を介して復号されるべき符号化ビデオデータを受信し得る。コンピュータ可読媒体１６は、ソースデバイス１２から宛先デバイス１４に符号化されたビデオデータを移動させることができるタイプの媒体またはデバイスを備え得る。たとえば、コンピュータ可読媒体１６は、ソースデバイス１２が、符号化ビデオデータを宛先デバイス１４にリアルタイムで直接送信することを可能にするための通信媒体を備え得る。符号化ビデオデータは、ワイヤレス通信プロトコルなどの通信規格に従って変調され、宛先デバイス１４に送信され得る。通信媒体は、無線周波数（ＲＦ）スペクトルまたは１つもしくは複数の物理伝送線路など、ワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネットなどのグローバルネットワークなど、パケットベースネットワークの一部を形成し得る。通信媒体は、ソースデバイス１２から宛先デバイス１４への通信を可能にするために有用であり得るルータ、スイッチ、基地局、または他の機器を含み得る。

[0049] いくつかの実施形態では、符号化データは、出力インターフェース２２からストレージデバイスに出力され得る。同様に、符号化データは、入力インターフェースによってストレージデバイスからアクセスされ得る。ストレージデバイスは、ハードドライブ、ブルーレイ（登録商標）ディスク、ＤＶＤ、ＣＤ−ＲＯＭ、フラッシュメモリ、揮発性もしくは不揮発性メモリ、またはビデオデータを記憶するための他のデジタル記憶媒体など、様々な分散されたまたはローカルにアクセスされるデータ記憶媒体のいずれかを含み得る。ストレージデバイスは、ソースデバイス１２によって生成された符号化ビデオを記憶し得るファイルサーバまたは別の中間ストレージデバイスに対応し得る。宛先デバイス１４は、ストリーミングまたはダウンロードを介してストレージデバイスから、記憶されたビデオデータにアクセスし得る。ファイルサーバは、符号化ビデオデータを記憶し、その符号化ビデオデータを宛先デバイス１４に送信することが可能なタイプのサーバであり得る。例示的なファイルサーバは、（たとえば、ウェブサイトのための）ウェブサーバ、ＦＴＰサーバ、ネットワーク接続ストレージ（ＮＡＳ）デバイス、またはローカルディスクドライブを含む。宛先デバイス１４は、インターネット接続を含む、標準のデータ接続を介して符号化ビデオデータにアクセスし得る。これは、ファイルサーバに記憶された符号化ビデオデータにアクセスするのに好適であるワイヤレスチャネル（たとえば、Ｗｉ−Ｆｉ（登録商標）接続）、ワイヤード接続（たとえば、ＤＳＬ、ケーブルモデムなど）、または両方の組合せを含み得る。ストレージデバイスからの符号化ビデオデータの送信は、ストリーミング送信、ダウンロード送信、またはそれらの組合せであり得る。

[0050] 本開示の技法は、ワイヤレス適用例または設定に加えて適用例または設定を適用することができる。本技法は、オーバージエアテレビジョン放送、ケーブルテレビジョン送信、衛星テレビジョン送信、動的適応ストリーミングオーバーＨＴＴＰ（ＤＡＳＨ：dynamic adaptive streaming over HTTP）などのインターネットストリーミングビデオ送信、データ記憶媒体上に符号化されたデジタルビデオ、データ記憶媒体に記憶されたデジタルビデオの復号、または他の適用例など、様々なマルチメディア適用例をサポートするビデオコーディングに適用され得る。いくつかの実施形態では、システム１０は、ビデオストリーミング、ビデオ再生、ビデオブロードキャスティング、および／またはビデオテレフォニーなどの適用例をサポートするために、一方向または双方向のビデオ送信をサポートするように構成され得る。

[0051] 図１では、ソースデバイス１２は、ビデオソース１８と、ビデオエンコーダ２０と、出力インターフェース２２とを含む。宛先デバイス１４は、入力インターフェース２８と、ビデオデコーダ３０と、ディスプレイデバイス３２とを含む。ソースデバイス１２のビデオエンコーダ２０は、複数の規格または規格拡張に準拠するビデオデータを含むビットストリームをコーディングするための技法を適用するように構成され得る。他の実施形態では、ソースデバイスおよび宛先デバイスは他の構成要素または構成を含み得る。たとえば、ソースデバイス１２は、外部カメラなど、外部ビデオソース１８からビデオデータを受信し得る。同様に、宛先デバイス１４は、内蔵ディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。

[0052] ソースデバイス１２のビデオソース１８は、ビデオカメラなどのビデオキャプチャデバイス、あらかじめキャプチャされたビデオを含んでいるビデオアーカイブ、および／またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースを含み得る。ビデオソース１８は、ソースビデオとしてのコンピュータグラフィックスベースのデータ、またはライブビデオとアーカイブビデオとコンピュータ生成ビデオとの組合せを生成し得る。いくつかの実施形態では、ビデオソース１８がビデオカメラである場合、ソースデバイス１２および宛先デバイス１４は、いわゆるカメラフォンまたはビデオフォンを形成し得る。キャプチャされたビデオ、以前にキャプチャされたビデオ、またはコンピュータ生成ビデオは、ビデオエンコーダ２０によって符号化され得る。符号化されたビデオ情報は、出力インターフェース２２によってコンピュータ可読媒体１６に出力され得る。

[0053] コンピュータ可読媒体１６は、ワイヤレスブロードキャストまたはワイヤードネットワーク送信などの一時媒体、またはハードディスク、フラッシュドライブ、コンパクトディスク、デジタルビデオディスク、ブルーレイディスク、または他のコンピュータ可読媒体などの記憶媒体（たとえば、非一時的記憶媒体）を含み得る。ネットワークサーバ（図示せず）は、（たとえば、ネットワーク送信を介して）ソースデバイス１２から符号化されたビデオデータを受信し、宛先デバイス１４に符号化されたビデオデータを与え得る。ディスクスタンピング設備など、媒体製造設備のコンピューティングデバイスは、ソースデバイス１２から符号化ビデオデータを受信し、その符号化ビデオデータを含んでいるディスクを生成し得る。したがって、コンピュータ可読媒体１６は、様々な形態の１つまたは複数のコンピュータ可読媒体を含むと理解され得る。

[0054] 宛先デバイス１４の入力インターフェース２８は、コンピュータ可読媒体１６から情報を受信し得る。コンピュータ可読媒体１６の情報は、ビデオエンコーダ２０によって定義され、ビデオデコーダ３０によって使用され得る、ブロックおよび他のコード化ユニット、たとえば、ＧＯＰの特性および／または処理を記述するシンタックス要素を含む、シンタックス情報を含み得る。ディスプレイデバイス３２は、復号されたビデオデータをユーザに対して表示し、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）、プラズマディスプレイ、有機発光ダイオード（ＯＬＥＤ）ディスプレイ、または別のタイプのディスプレイデバイスなど、様々なディスプレイデバイスのいずれかを含み得る。

[0055] ビデオエンコーダ２０およびビデオデコーダ３０は、現在開発中の高効率ビデオコーディング（ＨＥＶＣ）規格などのビデオコーディング規格に従って動作し得、ＨＥＶＣテストモデル（ＨＭ）に準拠し得る。代替的に、ビデオエンコーダ２０およびビデオデコーダ３０は、代替的にＭＰＥＧ−４，Ｐａｒｔ １０，Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＡＶＣ）と呼ばれるＩＴＵ−Ｔ Ｈ．２６４規格など、他のプロプライエタリ規格もしくは業界規格、またはそのような規格の拡張に従って動作し得る。ただし、本開示の技法は、いかなる特定のコーディング規格にも限定されない。ビデオコーディング規格の他の例としては、ＭＰＥＧ−２およびＩＴＵ−Ｔ Ｈ．２６３がある。図１には示されていないが、いくつかの態様では、ビデオエンコーダ２０およびビデオデコーダ３０は、それぞれオーディオエンコーダおよびオーディオデコーダと統合され得、適切なＭＵＸ−ＤＥＭＵＸユニット、または他のハードウェアおよびソフトウェアを含んで、共通のデータストリームまたは別個のデータストリーム中のオーディオとビデオの両方の符号化を処理し得る。適用可能な場合、ＭＵＸ−ＤＥＭＵＸユニットは、ＩＴＵ Ｈ．２２３マルチプレクサプロトコル、またはユーザデータグラムプロトコル（ＵＤＰ）などの他のプロトコルに準拠し得る。

[0056] 図１は例にすぎず、本開示の技法は、符号化デバイスと復号デバイスとの間の任意のデータ通信を必ずしも含むとは限らないビデオコーディング設定（たとえば、ビデオ符号化、またはビデオ復号）に適用することができる。他の例では、データは、ローカルメモリから取り出されてもよく、ネットワークを介してストリーミングされてもよく、または同様の方法で取得されてもよい。符号化デバイスがデータを符号化してメモリに記憶してもよく、および／または復号デバイスがメモリからデータを取り出して復号してもよい。多くの例では、符号化および復号は、相互に通信しないデバイスによって実行されるが、単にデータをメモリに符号化して、および／またはメモリからデータを取り出して復号する。

[0057] ビデオエンコーダ２０およびビデオデコーダ３０はそれぞれ、１つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェアまたはそれらの任意の組合せなど、様々な好適なエンコーダ回路のいずれかとして実装され得る。本技法が部分的にソフトウェアで実装されるとき、デバイスは、非一時的コンピュータ可読媒体にソフトウェアの命令を記憶し、１つまたは複数のプロセッサを使用してその命令をハードウェアで実行して、本開示の技法を実行し得る。ビデオエンコーダ２０およびビデオデコーダ３０の各々は１つまたは複数のエンコーダまたはデコーダ中に含まれ得、そのいずれも、それぞれのデバイスにおいて複合エンコーダ／デコーダ（コーデック）の一部として統合され得る。ビデオエンコーダ２０および／またはビデオデコーダ３０を含むデバイスは、集積回路、マイクロプロセッサ、および／またはセルラー電話などのワイヤレス通信デバイスを備え得る。

[0058] ＪＣＴ−ＶＣは、ＨＥＶＣ規格の開発に取り組んでいる。ＨＥＶＣ規格化の取り組みは、ＨＥＶＣテストモデル（ＨＭ）と呼ばれるビデオコーディングデバイスの発展的モデルに基づく。ＨＭは、たとえば、ＩＴＵ−Ｔ Ｈ．２６４／ＡＶＣに従う既存のデバイスに対してビデオコーディングデバイスのいくつかの追加の能力を仮定する。たとえば、Ｈ．２６４は９つのイントラ予測符号化モードを提供するが、ＨＭは３３個ものイントラ予測符号化モードを提供し得る。

[0059] 概して、ＨＭの作業モデルは、ビデオフレームまたはピクチャが、ルーマサンプルとクロマサンプルの両方を含む一連のツリーブロックまたは最大コーディングユニット（ＬＣＵ：largest coding unit）に分割され得ることを記載している。ビットストリーム内のシンタックスデータが、ピクセルの数に関して最大コーディングユニットであるＬＣＵのサイズを定義し得る。スライスは、コーディング順序でいくつかの連続するツリーブロックを含む。ビデオフレームまたはピクチャは、１つまたは複数のスライスに区分され得る。各ツリーブロックは、４分木に従ってコーディングユニット（ＣＵ）に分割され得る。概して、４分木データ構造はＣＵごとに１つのノードを含み、ルートノードはツリーブロックに対応する。ＣＵが４つのサブＣＵに分割された場合、ＣＵに対応するノードは４つのリーフノードを含み、リーフノードの各々はサブＣＵのうちの１つに対応する。

[0060] ４分木データ構造の各ノードは、対応するＣＵのシンタックスデータを与え得る。たとえば、４分木のノードは、そのノードに対応するＣＵがサブＣＵに分割されるかどうかを示す分割フラグを含み得る。ＣＵのシンタックス要素は、再帰的に定義され得、ＣＵがサブＣＵに分割されるかどうかに依存し得る。ＣＵがさらに分割されない場合、そのＣＵはリーフＣＵと呼ばれる。本開示では、元のリーフＣＵの明示的分割が存在しない場合でも、リーフＣＵの４つのサブＣＵをリーフＣＵとも呼ぶ。たとえば、１６×１６サイズのＣＵがさらに分割されない場合、この１６×１６ＣＵが決して分割されなくても、４つの８×８サブＣＵをリーフＣＵとも呼ぶ。

[0061] ＣＵは、ＣＵがサイズの差異を有さないことを除いて、Ｈ．２６４規格のマクロブロックと同様の目的を有する。たとえば、ツリーブロックは、４つの子ノード（サブＣＵとも呼ばれる）に分割され得、各子ノードは、今度は親ノードとなり、別の４つの子ノードに分割され得る。４分木のリーフノードと呼ばれる、最後の分割されていない子ノードは、リーフＣＵとも呼ばれるコーディングノードを備える。コード化ビットストリームに関連するシンタックスデータは、最大ＣＵ深さと呼ばれる、ツリーブロックが分割され得る最大回数を定義し得、また、コーディングノードの最小サイズを定義し得る。それに応じて、ビットストリームは最小コーディングユニット（ＳＣＵ：smallest coding unit）をも定義し得る。本開示では、ＨＥＶＣのコンテキストにおけるＣＵ、ＰＵ、もしくはＴＵ、または他の規格のコンテキストにおける同様のデータ構造（たとえば、Ｈ．２６４／ＡＶＣにおけるマクロブロックおよびそれのサブブロック）のいずれかを指すために「ブロック」という用語を使用する。

[0062] ＣＵは、コーディングノードと、コーディングノードに関連する予測ユニット（ＰＵ：prediction unit）および変換ユニット（ＴＵ：transform unit）とを含む。ＣＵのサイズは、コーディングノードのサイズに対応し、ならびに形状が方形でなければならない。ＣＵのサイズは、８×８ピクセルから最大６４×６４以上のピクセルを有するツリーブロックのサイズまでに及び得る。各ＣＵは、１つまたは複数のＰＵと、１つまたは複数のＴＵとを含み得る。ＣＵに関連するシンタックスデータは、たとえば、ＣＵを１つまたは複数のＰＵに区分することを記述し得る。区分モードは、ＣＵが、スキップモード符号化もしくはダイレクトモード符号化されるか、イントラ予測モード符号化されるか、またはインター予測モード符号化されるかによって異なり得る。ＰＵは、形状が非方形になるように区分され得る。ＣＵに関連するシンタックスデータは、たとえば、４分木に従って、ＣＵを１つまたは複数のＴＵに区分することも記述し得る。ＴＵは、形状が方形または非方形（たとえば、矩形）であり得る。

[0063] ＨＥＶＣ規格は、ＣＵごとに異なり得るＴＵに従う変換を可能にする。ＴＵは、一般に、区分されたＬＣＵについて定義された所与のＣＵ内のＰＵのサイズに基づいてサイズ決定されるが、常にそうであるとは限らない。ＴＵは、一般にＰＵと同じサイズであるかまたはＰＵよりも小さい。いくつかの例では、ＣＵに対応する残差サンプルは、「残差クワッドツリー」（ＲＱＴ：residual quad tree）として知られるクワッドツリー構造を使用して、より小さいユニットに再分割され得る。ＲＱＴのリーフノードは変換ユニット（ＴＵ）と呼ばれることがある。ＴＵに関連するピクセル差分値は、量子化され得る変換係数を生成するために変換され得る。

[0064] リーフＣＵは、１つまたは複数の予測ユニット（ＰＵ）を含み得る。概して、ＰＵは、対応するＣＵの全部または一部分に対応する空間的エリアを表し、そのＰＵの参照サンプルを取り出すためのデータを含み得る。その上、ＰＵは、予測に関係するデータを含む。たとえば、ＰＵがイントラモード符号化されるとき、ＰＵについてのデータは、ＰＵに対応するＴＵについてのイントラ予測モードを記述するデータを含み得る残差４分木（ＲＱＴ）中に含まれ得る。別の例として、ＰＵがインターモード符号化されるとき、ＰＵは、ＰＵのための１つまたは複数の動きベクトルを定義するデータを含み得る。ＰＵの動きベクトルを定義するデータは、たとえば、動きベクトルの水平成分、動きベクトルの垂直成分、動きベクトルの解像度（たとえば、１／４ピクセル精度または１／８ピクセル精度）、動きベクトルが指す参照ピクチャ、および／または動きベクトルの参照ピクチャリスト（たとえば、リスト０、リスト１、またはリストＣ）を記述し得る。

[0065] １つまたは複数のＰＵを有するリーフＣＵはまた、１つまたは複数の変換ユニット（ＴＵ）を含み得る。変換ユニットは、上記で説明したように、（ＴＵ４分木構造とも呼ばれる）ＲＱＴを使用して指定され得る。たとえば、分割フラグは、リーフＣＵが４つの変換ユニットに分割されるかどうかを示し得る。次いで、各変換ユニットは、さらに、さらなるサブＴＵに分割され得る。ＴＵがさらに分割されないとき、そのＴＵはリーフＴＵと呼ばれることがある。概して、イントラコーディングの場合、リーフＣＵに属するすべてのリーフＴＵは同じイントラ予測モードを共有する。すなわち、概して、リーフＣＵのすべてのＴＵの予測値を計算するために同じイントラ予測モードが適用される。イントラコーディングの場合、ビデオエンコーダ２０は、イントラ予測モードを使用して各リーフＴＵの残差値をＴＵに対応するＣＵの一部と元のブロックとの間の差分として計算し得る。ＴＵは、必ずしもＰＵのサイズに制限されるとは限らない。したがって、ＴＵはＰＵよりも大きくまたは小さくなり得る。イントラコーディングの場合、ＰＵは、同じＣＵの対応するリーフＴＵとコロケートされ得る。いくつかの例では、リーフＴＵの最大サイズは、対応するリーフＣＵのサイズに対応し得る。

[0066] さらに、リーフＣＵのＴＵはまた、残差４分木（ＲＱＴ）と呼ばれる、それぞれの４分木データ構造に関連付けられ得る。すなわち、リーフＣＵは、リーフＣＵがどのようにＴＵに区分されるかを示す４分木を含み得る。ＴＵ４分木のルートノードは概してリーフＣＵに対応し、ＣＵ４分木のルートノードは概してツリーブロック（またはＬＣＵ）に対応する。分割されないＲＱＴのＴＵはリーフＴＵと呼ばれる。概して、本開示では、特に明記しない限り、リーフＣＵおよびリーフＴＵに言及するためにそれぞれＣＵおよびＴＵという用語を使用する。

[0067] ビデオシーケンスは、一般に、一連のビデオフレームまたはピクチャを含む。ピクチャグループ（ＧＯＰ）は、概して、ビデオピクチャのうちの一連の１つまたは複数を備える。ＧＯＰは、ＧＯＰ中に含まれるいくつかのピクチャを記述するシンタックスデータを、ＧＯＰのヘッダ中、ピクチャのうちの１つまたは複数のヘッダ中、または他の場所に含み得る。ピクチャの各スライスは、それぞれのスライスの符号化モードを記述するスライスシンタックスデータを含み得る。ビデオエンコーダ２０は、一般に、ビデオデータを符号化するために個々のビデオスライス内のビデオブロックに対して動作する。ビデオブロックは、ＣＵ内のコーディングノードに対応し得る。ビデオブロックは、固定サイズまたは可変サイズを有し得、指定のコーディング規格に応じてサイズが異なり得る。

[0068] 一例として、ＨＭは、様々なＰＵサイズでの予測をサポートする。特定のＣＵのサイズが２Ｎ×２Ｎであると仮定すると、ＨＭは、２Ｎ×２ＮまたはＮ×ＮのＰＵサイズでのイントラ予測をサポートし、２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ、またはＮ×Ｎの対称的なＰＵサイズでのインター予測をサポートする。ＨＭはまた、２Ｎ×ｎＵ、２Ｎ×ｎＤ、ｎＬ×２Ｎ、およびｎＲ×２ＮのＰＵサイズでのインター予測のための非対称区分をサポートする。非対称区分では、ＣＵの一方向は区分されないが、他の方向は２５％と７５％とに区分される。２５％の区分に対応するＣＵの部分は、「ｎ」とその後ろに付く「Ｕｐ」、「Ｄｏｗｎ」、「Ｌｅｆｔ」、または「Ｒｉｇｈｔ」という表示によって示される。したがって、たとえば、「２Ｎ×ｎＵ」は、上部の２Ｎ×０．５Ｎ ＰＵと下部の２Ｎ×１．５Ｎ ＰＵとで水平方向に区分された２Ｎ×２Ｎ ＣＵを指す。

[0069] 本開示では、「Ｎ×Ｎ（NxN）」および「Ｎ×Ｎ（N by N）」は、垂直寸法および水平寸法に関するビデオブロックのピクセル寸法、たとえば、１６×１６（16x16）ピクセルまたは１６×１６（16 by 16）ピクセルを指すために互換的に使用され得る。概して、１６×１６ブロックは、垂直方向に１６ピクセルを有し（ｙ＝１６）、水平方向に１６ピクセルを有する（ｘ＝１６）。同様に、Ｎ×Ｎブロックは、概して、垂直方向にＮピクセルを有し、水平方向にＮピクセルを有し、ただし、Ｎは非負整数値を表す。ブロック中のピクセルは行と列で構成され得る。さらに、ブロックは、必ずしも、水平方向に垂直方向と同じ数のピクセルを有する必要はない。たとえば、ブロックはＮ×Ｍピクセルを備え得、ただし、Ｍは必ずしもＮに等しいとは限らない。

[0070] ＣＵのＰＵを使用したイントラ予測コーディングまたはインター予測コーディングの後、ビデオエンコーダ２０は、ＣＵのＴＵのための残差データを計算し得る。ＰＵは、（ピクセル領域とも呼ばれる）空間領域において予測ピクセルデータを生成する方法またはモードを記述するシンタックスデータを備え得、ＴＵは、変換、たとえば、残差ビデオデータへの離散サイン変換（ＤＳＴ）、離散コサイン変換（ＤＣＴ）、整数変換、ウェーブレット変換、または概念的に同様の変換の適用後に、変換領域において係数を備え得る。残差データは、符号化されていないピクチャのピクセルと、ＰＵに対応する予測値との間のピクセル差分に対応し得る。ビデオエンコーダ２０は、ＣＵのための残差データを含むＴＵを形成し、次いで、ＴＵを変換して、ＣＵの変換係数を生成し得る。

[0071] 変換係数を生成するための任意の変換の後に、ビデオエンコーダ２０は、変換係数の量子化を実行し得る。量子化は、その最も広い通常の意味を有することが意図された広義の用語である。一実施形態では、量子化は、係数を表すために使用されるデータの量をできるだけ低減するために変換係数が量子化され、さらなる圧縮を行うプロセスを指す。量子化プロセスは、係数の一部または全部に関連するビット深度を低減し得る。たとえば、量子化中にｎビット値がｍビット値に切り捨てられ得、ただし、ｎはｍよりも大きい。

[0072] 量子化の後に、ビデオエンコーダは、変換係数を走査して、量子化変換係数を含む２次元行列から１次元ベクトルを生成し得る。走査は、より高いエネルギー（したがってより低い周波数）の係数をアレイの前方に配置し、より低いエネルギー（したがってより高い周波数）の係数をアレイの後方に配置するように設計され得る。いくつかの例では、ビデオエンコーダ２０は、エントロピー符号化され得るシリアル化ベクトルを生成するために、量子化変換係数を走査するためにあらかじめ定義された走査順序を利用し得る。他の例では、ビデオエンコーダ２０は適応型走査を実行し得る。量子化変換係数を走査して１次元ベクトルを形成した後に、ビデオエンコーダ２０は、たとえば、コンテキスト適応型可変長コーディング（ＣＡＶＬＣ：context-adaptive variable length coding）、コンテキスト適応型バイナリ算術コーディング（ＣＡＢＡＣ：context-adaptive binary arithmetic coding）、シンタックスベースコンテキスト適応型バイナリ算術コーディング（ＳＢＡＣ：syntax-based context-adaptive binary arithmetic coding）、確率間隔区分エントロピー（ＰＩＰＥ：Probability Interval Partitioning Entropy）コーディング、または別のエントロピー符号化方法に従って１次元ベクトルをエントロピー符号化し得る。ビデオエンコーダ２０はまた、ビデオデータを復号する際にビデオデコーダ３０が使用するための符号化ビデオデータに関連するシンタックス要素をエントロピー符号化し得る。

[0073] ＣＡＢＡＣを実行するために、ビデオエンコーダ２０は、送信されるべきシンボルに、コンテキストモデル内のコンテキストを割り当て得る。コンテキストは、たとえば、シンボルの隣接値が非０であるか否かに関係し得る。ＣＡＶＬＣを実行するために、ビデオエンコーダ２０は、送信されるべきシンボルのための可変長コードを選択し得る。ＶＬＣにおけるコードワードは、比較的短いコードが優勢シンボルに対応し、より長いコードが劣勢シンボルに対応するように構成され得る。このようにして、ＶＬＣの使用は、たとえば、送信されるべき各シンボルのために等長コードワードを使用するよりも、ビット節約を達成し得る。確率判断は、シンボルに割り当てられたコンテキストに基づき得る。

[0074] ビデオエンコーダ２０は、さらに、ブロックベースのシンタックスデータ、フレームベースのシンタックスデータ、およびＧＯＰベースのシンタックスデータなどのシンタックスデータを、たとえば、フレームヘッダ、ブロックヘッダ、スライスヘッダ、またはＧＯＰヘッダ中でビデオデコーダ３０に送り得る。ＧＯＰシンタックスデータは、それぞれのＧＯＰ中のいくつかのフレームを記述し得、フレームシンタックスデータは、対応するフレームを符号化するために使用される符号化／予測モードを示し得る。

ビデオエンコーダ
[0075] 図２Ａは、本開示で説明する態様による技法を実装し得るビデオエンコーダの例を示すブロック図である。ビデオエンコーダ２０は、ＨＥＶＣのような、ビデオフレームの単一のレイヤを処理するように構成され得る。さらに、ビデオエンコーダ２０は、限定ではないが、図４を参照して以下でより詳細に説明するレイヤ間参照ピクチャ制限を実行する方法を含む、本開示の技法のうちのいずれかまたはすべてを実行するように構成され得る。一例として、レイヤ間予測ユニット６６（与えられる場合）は、本開示で説明する技法のいずれかまたはすべてを実行するように構成され得る。ただし、本開示の態様はそのように限定されない。いくつかの例では、本開示で説明する技法は、ビデオエンコーダ２０の様々な構成要素間で共有され得る。いくつかの例では、さらに、または代替で、プロセッサ（図示せず）は、本開示において説明する技法のいずれかまたはすべてを実行するように構成され得る。

[0076] 説明のために、本開示は、ＨＥＶＣコーディングの文脈でビデオエンコーダ２０を説明する。しかしながら、本開示の技法は、他のコーディング規格または方法に適用可能であり得る。図２Ａのエンコーダ２０は、コーデックの単一のレイヤを示している。しかしながら、図２Ｂを参照してさらに説明するように、ビデオエンコーダ２０のうちのいくつかまたはすべては、マルチレイヤコーデックによる処理のために複製され得る。

[0077] ビデオエンコーダ２０は、ビデオスライス内のビデオブロックの（イントラコーディング、レイヤコーディング、またはレイヤ間コーディングといつか呼ばれる）イントラ予測、インター予測、およびレイヤ間予測を実行し得る。イントラコーディングは、所与のビデオフレームまたはピクチャ内のビデオの空間的冗長性を低減または除去するために空間的予測に依拠する。インターコーディングは、ビデオシーケンスの隣接フレームまたはピクチャ内のビデオの時間的冗長性を低減または除去するために時間的予測に依拠する。レイヤ間コーディングは、同じビデオコーディングシーケンス内の異なるレイヤ内のビデオに基づく予測に依拠する。イントラモード（Ｉモード）は、いくつかの空間ベースのコーディングモードのいずれかを指し得る。単方向予測（Ｐモード）または双方向予測（Ｂモード）などのインターモードは、いくつかの時間ベースのコーディングモードのいずれかを指し得る。

[0078] 図２Ａに示すように、ビデオエンコーダ２０は、符号化されるべきビデオフレーム内の現在のビデオブロックを受信する。図２Ａの例では、ビデオエンコーダ２０は、モード選択ユニット４０と、参照フレームメモリ（復号されたピクチャバッファと呼ばれることがある）６４と、加算器５０と、変換処理ユニット５２と、量子化ユニット５４と、エントロピー符号化ユニット５６とを含む。モード選択ユニット４０は、今度は、動き補償ユニット４４と、動き推定ユニット４２と、イントラ予測ユニット４６と、レイヤ間予測ユニット６６と、パーティションユニット４８とを含む。

[0079] ビデオブロック再構成のために、ビデオエンコーダ２０はまた、逆量子化ユニット５８と、逆変換ユニット６０と、加算器６２とを含む。再構成されたビデオからブロッキネスアーティファクトを除去するためにブロック境界をフィルタ処理するデブロッキングフィルタ（図２Ａに図示せず）も含まれ得る。所望される場合、デブロッキングフィルタは、一般に、加算器６２の出力をフィルタ処理することになる。また、デブロッキングフィルタに加えて追加のフィルタ（ループ内またはループ後）が使用され得る。そのようなフィルタは、簡潔のために示されていないが、所望される場合、（ループ内フィルタとして）加算器５０の出力をフィルタ処理し得る。

[0080] 符号化プロセス中に、ビデオエンコーダ２０は、コーディングされるべきビデオフレームまたはスライスを受信する。フレームまたはスライスは複数のビデオブロックに分割され得る。動き推定ユニット４２および動き補償ユニット４４は、時間的予測を行うために、１つまたは複数の参照フレーム中の１つまたは複数のブロックに対して、受信されたビデオブロックのインター予測コーディングを実行する。イントラ予測ユニット４６は、代替的に、空間的予測を行うために、コーディングされるべきブロックと同じフレームまたはスライス中の１つまたは複数の隣接ブロックに対して受信されたビデオブロックのイントラ予測コーディングを実行し得る。ビデオエンコーダ２０は、たとえば、ビデオデータのブロックごとに適切なコーディングモードを選択するために、複数のコーディングパスを実行し得る。

[0081] その上、パーティションユニット４８は、前のコーディングパスにおける前の区分方式の評価に基づいて、ビデオデータのブロックをサブブロックに区分し得る。たとえば、パーティションユニット４８は、初めにフレームまたはスライスをＬＣＵに区分し、レートひずみ分析（たとえば、レートひずみ最適化など）に基づいてＬＣＵの各々をサブＣＵに区分し得る。モード選択ユニット４０は、ＬＣＵをサブＣＵに区分することを示す４分木データ構造をさらに生成し得る。４分木のリーフノードＣＵは、１つまたは複数のＰＵおよび１つまたは複数のＴＵを含み得る。

[0082] モード選択ユニット４０は、たとえば、誤差結果に基づいてコーディングモード、すなわち、イントラ予測モード、インター予測モード、またはレイヤ間予測モードのうちの１つを選択し、残差ブロックデータを生成するために、得られたイントラコード化ブロック、インターコード化ブロック、またはレイヤ間コード化ブロックを加算器５０に与え、参照フレームとして使用するための符号化ブロックを再構成するために、得られたイントラコード化ブロック、インターコード化ブロック、またはレイヤ間コード化ブロックを加算器６２に与え得る。モード選択ユニット４０はまた、動きベクトル、イントラモードインジケータ、パーティション情報、および他のそのようなシンタックス情報などのシンタックス要素をエントロピー符号化ユニット５６に与える。

[0083] 動き推定ユニット４２および動き補償ユニット４４は、高度に統合され得るが、概念的な目的のために別々に示してある。動き推定ユニット４２によって実行される動き推定は、ビデオブロックの動きを推定する動きベクトルを生成するプロセスである。動きベクトルは、たとえば、現在のフレーム（または他のコード化ユニット）内でコーディングされている現在のブロックに対する参照フレーム（または他のコード化ユニット）内の予測ブロックに対する現在のビデオフレームまたはピクチャ内のビデオブロックのＰＵの変位を示し得る。予測ブロックは、絶対値差分和（ＳＡＤ：sum of absolute difference）、２乗差分和（ＳＳＤ：sum of square difference）、または他の差分メトリックによって決定され得るピクセル差分に関して、コーディングされるべきブロックにぴったり一致することがわかるブロックである。いくつかの例では、ビデオエンコーダ２０は、参照フレームメモリ６４に記憶された参照ピクチャのサブ整数ピクセル位置の値を計算し得る。たとえば、ビデオエンコーダ２０は、参照ピクチャの１／４ピクセル位置、１／８ピクセル位置、または他の分数ピクセル位置の値を補間し得る。したがって、動き推定ユニット４２は、フルピクセル位置と分数ピクセル位置とに対する動き探索を実行し、分数ピクセル精度で動きベクトルを出力し得る。

[0084] 動き推定ユニット４２は、ＰＵの位置を参照ピクチャの予測ブロックの位置と比較することによって、インターコード化スライスにおけるビデオブロックのＰＵのための動きベクトルを計算する。参照ピクチャは、第１の参照ピクチャリスト（リスト０）または第２の参照ピクチャリスト（リスト１）から選択され得、それらの参照ピクチャリストの各々は、参照フレームメモリ６４に記憶された１つまたは複数の参照ピクチャを識別する。動き推定ユニット４２は、計算された動きベクトルをエントロピー符号化ユニット５６と動き補償ユニット４４とに送る。

[0085] 動き補償ユニット４４によって実行される動き補償は、動き推定ユニット４２によって決定された動きベクトルに基づいて予測ブロックをフェッチまたは生成することに関与し得る。いくつかの例では、動き推定ユニット４２および動き補償ユニット４４は機能的に統合され得る。現在のビデオブロックのＰＵについての動きベクトルを受信すると、動き補償ユニット４４は、動きベクトルが参照ピクチャリストのうちの１つにおいて指す予測ブロックの位置を特定し得る。加算器５０は、以下で説明するように、コーディングされている現在のビデオブロックのピクセル値から予測ブロックのピクセル値を減算し、ピクセル差分値を形成することによって、残差ビデオブロックを形成する。いくつかの実施形態では、動き推定ユニット４２はルーマ成分に対して動き推定を実行し得、動き補償ユニット４４は、クロマ成分とルーマ成分の両方のためにルーマ成分に基づいて計算された動きベクトルを使用し得る。モード選択ユニット４０は、ビデオスライスのビデオブロックを復号する際にビデオデコーダ３０が使用するためのビデオブロックとビデオスライスとに関連するシンタックス要素を生成し得る。

[0086] イントラ予測ユニット４６は、上記で説明したように、動き推定ユニット４２および動き補償ユニット４４によって実行されるインター予測の代替として、現在ブロックをイントラ予測または計算し得る。特に、イントラ予測ユニット４６は、現在のブロックを符号化するために使用すべきイントラ予測モードを決定し得る。いくつかの例では、イントラ予測ユニット４６は、たとえば、別個の符号化パス中に、様々なイントラ予測モードを使用して現在のブロックを符号化し得、イントラ予測ユニット４６（または、いくつかの例では、モード選択ユニット４０）は、テストされたモードから使用するのに適切なイントラ予測モードを選択し得る。

[0087] たとえば、イントラ予測ユニット４６は、様々なテストされたイントラ予測モードのためのレートひずみ分析を使用してレートひずみ値を計算し、テストされたモードの中で最良のレートひずみ特性を有するイントラ予測モードを選択し得る。レートひずみ分析は、概して、符号化ブロックと、符号化ブロックを生成するために符号化された元の符号化されていないブロックとの間のひずみ（または誤差）の量、ならびに符号化ブロックを生成するために使用されるビットレート（すなわち、ビット数）を決定する。イントラ予測ユニット４６は、どのイントラ予測モードがブロックについて最良のレートひずみ値を呈するかを決定するために、様々な符号化ブロックのひずみおよびレートから比率を計算し得る。

[0088] ブロックのためのイントラ予測モードを選択した後に、イントラ予測ユニット４６は、ブロックのための選択されたイントラ予測モードを示す情報をエントロピー符号化ユニット５６に提供し得る。エントロピー符号化ユニット５６は、選択されたイントラ予測モードを示す情報を符号化し得る。ビデオエンコーダ２０は、送信ビットストリーム中に、複数のイントラ予測モードインデックステーブルおよび複数の変更されたイントラ予測モードインデックステーブル（コードワードマッピングテーブルとも呼ばれる）と、様々なブロックの符号化コンテキストの定義と、コンテキストの各々について使用すべき、最確イントラ予測モード、イントラ予測モードインデックステーブル、および変更されたイントラ予測モードインデックステーブルの指示とを含み得る構成データを含み得る。

[0089] ビデオエンコーダ２０はレイヤ間予測ユニット６６を含み得る。レイヤ間予測ユニット６６は、ＳＶＣにおいて利用可能である１つまたは複数の異なるレイヤ（たとえば、ベースレイヤまたは参照レイヤ）を使用して現在ブロック（たとえば、ＥＬ中の現在ブロック）を予測するように構成される。そのような予測はレイヤ間予測と呼ばれることがある。レイヤ間予測ユニット６６は、レイヤ間冗長性を低減するために予測方法を利用し、それによって、コーディング効率を改善し、計算リソース要件を低減する。レイヤ間予測のいくつかの例としては、レイヤ間イントラ予測、レイヤ間動き予測、およびレイヤ間残差予測がある。レイヤ間イントラ予測は、ベースレイヤ中のコロケートブロックの再構成を使用してエンハンスメントレイヤ中の現在ブロックを予測する。レイヤ間動き予測は、ベースレイヤの動き情報を使用してエンハンスメントレイヤ中の動作を予測する。レイヤ間残差予測は、ベースレイヤの残差を使用してエンハンスメントレイヤの残差を予測する。ベースレイヤとエンハンスメントレイヤとが異なる空間解像度を有する場合、空間動きベクトルスケーリングおよび／または時間的スケーリング機能を使用するレイヤ間位置マッピングは、以下でより詳細に説明するように、レイヤ間予測ユニット６６によって実行され得る。

[0090] ビデオエンコーダ２０は、コーディングされている元のビデオブロックから、モード選択ユニット４０からの予測データを減算することによって残差ビデオブロックを形成する。加算器５０は、この減算演算を実行する１つまたは複数の構成要素を表す。変換処理ユニット５２は、離散コサイン変換（ＤＣＴ）または概念的に同様の変換などの変換を残差ブロックに適用し、残差変換係数値を備えるビデオブロックを生成する。変換処理ユニット５２は、ＤＣＴと概念的に同様である他の変換を実行し得る。たとえば、離散サイン変換（ＤＳＴ）、ウェーブレット変換、整数変換、サブバンド変換または他のタイプの変換も使用され得る。

[0091] 変換処理ユニット５２は、変換を残差ブロックに適用し、残差変換係数のブロックを生成し得る。変換は、残差情報をピクセル値領域から周波数領域などの変換領域に変換し得る。変換処理ユニット５２は、得られた変換係数を量子化ユニット５４に送り得る。量子化ユニット５４は、ビットレートをさらに低減するために変換係数を量子化する。量子化プロセスは、係数の一部または全部に関連するビット深度を低減し得る。量子化の程度は、量子化パラメータを調整することによって変更され得る。いくつかの例では、量子化ユニット５４は、次いで、量子化変換係数を含む行列の走査を実行し得る。代替的に、エントロピー符号化ユニット５６が走査を実行し得る。

[0092] 量子化の後、エントロピー符号化ユニット５６は、量子化変換係数をエントロピー符号化する。たとえば、エントロピー符号化ユニット５６は、コンテキスト適応型可変長コーディング（ＣＡＶＬＣ）、コンテキスト適応型バイナリ算術コーディング（ＣＡＢＡＣ）、シンタックスベースコンテキスト適応型バイナリ算術コーディング（ＳＢＡＣ）、確率間隔区分エントロピー（ＰＩＰＥ）コーディングまたは別のエントロピーコーディング技法を実行し得る。コンテキストベースのエントロピーコーディングの場合、コンテキストは、隣接するブロックに基づき得る。エントロピーコーディングユニット５６によるエントロピーコーディングの後、符号化されたビットストリームは、別のデバイス（たとえば、ビデオデコーダ３０）に送信されるか、または後で送信するかまたは取り出すためにアーカイブされ得る。

[0093] 逆量子化ユニット５８および逆変換ユニット６０は、それぞれ逆量子化および逆変換を適用して、たとえば参照ブロックとして後で使用するために、ピクセル領域中で残差ブロックを再構成する。動き補償ユニット４４は、残差ブロックを参照フレームメモリ６４のフレームのうちの１つの予測ブロックに加算することによって参照ブロックを計算し得る。動き補償ユニット４４はまた、再構成された残差ブロックに１つまたは複数の補間フィルタを適用して、動き推定において使用するサブ整数ピクセル値を計算し得る。加算器６２は、再構成された残差ブロックを、動き補償ユニット４４によって生成された動き補償予測ブロックに加算して、参照フレームメモリ６４に記憶するための再構成されたビデオブロックを生成する。再構成されたビデオブロックは、後続のビデオフレーム中のブロックをインターコーディングするために動き推定ユニット４２および動き補償ユニット４４によって参照ブロックとして使用され得る。

マルチレイヤビデオエンコーダ
[0094] 図２Ｂは、本開示で説明する態様に従って技法を実装し得るマルチレイヤビデオエンコーダ２１の例を示すブロック図である。ビデオエンコーダ２１は、ＳＨＶＣおよびマルチビューコーディングのような、マルチレイヤビデオフレームを処理するように構成され得る。さらに、ビデオエンコーダ２１は、本開示の技法のいずれかまたはすべてを実行するように構成され得る。

[0095] ビデオエンコーダ２１は、ビデオエンコーダ２０Ａとビデオエンコーダ２０Ｂとを含み、それらの各々は、図２Ａのビデオエンコーダ２０として構成され得、ビデオエンコーダ２０に関して上記で説明した機能を実行し得る。さらに、参照番号の再利用によって示されるように、ビデオエンコーダ２０Ａと２０Ｂとは、ビデオエンコーダ２０としてシステムとサブシステムとのうちの少なくともいくつかを含み得る。ビデオエンコーダ２１は、２つのビデオエンコーダ２０Ａと２０Ｂとを含むものとして示されているが、ビデオエンコーダ２１はそのように限定されず、任意の数のビデオエンコーダ２０レイヤを含み得る。いくつかの実施形態では、ビデオエンコーダ２１は、アクセスユニット内のピクチャまたはフレームごとにビデオエンコーダ２０を含み得る。たとえば、５個のピクチャを含むアクセスユニットは、５個のエンコーダレイヤを含むビデオエンコーダによって処理されてもよく、符号化されてもよい。いくつかの実施形態では、ビデオエンコーダ２１は、アクセスユニット内のフレームよりも多くのエンコーダレイヤを含み得る。いくつかのそのようなケースでは、ビデオエンコーダレイヤのうちのいくつかは、いくつかのアクセスユニットを処理する際に非アクティブであり得る。

[0096] ビデオエンコーダ２０Ａと２０Ｂとに加えて、ビデオエンコーダ２１はリサンプリングユニット９０を含み得る。リサンプリングユニット９０は、たとえばエンハンスメントレイヤを作成するために、場合によっては受信されたビデオフレームのベースレイヤをアップサンプリングし得る。リサンプリングユニット９０は、受信されたフレームのベースレイヤに関連付けられる特定の情報をアップサンプリングし得るが、他の情報はアップサンプリングできない。たとえば、リサンプリングユニット９０は、ベースレイヤの空間サイズまたはピクセル数をアップサンプリングし得るが、スライスの数またはピクチャオーダーカウントは一定のままでよい。場合によっては、リサンプリングユニット９０は、受信されたビデオを処理しない場合があり、および／または任意であり得る。たとえば、場合によっては、モード選択ユニット４０がアップサンプリングを実行し得る。いくつかの実施形態では、リサンプリングユニット９０は、スライス境界ルールのセットおよび／またはラスタ走査ルールを順守するために、レイヤをアップサンプリングして、１つまたは複数のスライスを再編成、再定義、修正、または調整するように構成される。主に、ベースレイヤ、またはアクセスユニット内の下位層のアップサンプリングとして説明したが、場合によっては、リサンプリングユニット９０はレイヤをダウンサンプリングし得る。たとえば、ビデオのストリーミング中に帯域幅が低減されている場合、フレームはアップサンプリングではなくダウンサンプリングされ得る。リサンプリングユニット９０は、トリミングおよび／またはパディング操作も実行するようにさらに構成され得る。

[0097] リサンプリングユニット９０は、下位層エンコーダ（たとえば、ビデオエンコーダ２０Ａ）の復号されたピクチャバッファ１１４からピクチャまたはフレーム（あるいは、ピクチャに関連付けられるピクチャ情報）を受信して、ピクチャ（または、受信されたピクチャ情報）をアップサンプリングするように構成され得る。次いで、このアップサンプリングされたピクチャは、下位層エンコーダと同じアクセスユニット内のピクチャを符号化するように構成された上位層エンコーダ（たとえば、ビデオエンコーダ２０Ｂ）のモード選択ユニット４０に提供され得る。場合によっては、上位層エンコーダは、下位層エンコーダから除去された１つのレイヤである。他の場合では、図２Ｂのレイヤ０ビデオエンコーダとレイヤ１エンコーダとの間に、１つまたは複数の上位層エンコーダがあり得る。

[0098] 場合によっては、リサンプリングユニット９０は、省略または迂回され得る。そのような場合、ビデオエンコーダ２０Ａの復号されたピクチャバッファ６４からのピクチャは、直接、または少なくともリサンプリングユニット９０、ビデオエンコーダ２０Ｂのモード選択ユニット４０に提供されることなしに提供され得る。たとえば、ビデオエンコーダ２０Ｂに提供されたビデオデータ、およびビデオエンコーダ２０Ａの復号されたピクチャバッファ６４からの参照ピクチャが、同じサイズまたは解像度である場合、参照ピクチャは、任意のリサンプリングなしにビデオエンコーダ２０Ｂに提供され得る。

[0099] いくつかの実施形態では、ビデオエンコーダ２１は、ビデオデータがビデオエンコーダ２０Ａに提供される前に、ダウンサンプリングユニット９４を用いて下位層エンコーダに提供されるべきビデオデータをダウンサンプリングする。あるいは、ダウンサンプリングユニット９４は、ビデオデータのアップサンプリングまたはダウンサンプリングが可能なリサンプリングユニット９０であり得る。他の実施形態では、ダウンサンプリングユニット９４は省略され得る。

[00100] 図２Ｂに示されるように、ビデオエンコーダ２１は、マルチプレクサ９８、すなわちｍｕｘをさらに含み得る。ｍｕｘ９８は、組み合わされたビットストリームをビデオエンコーダ２１から出力することができる。組み合わされたビットストリームは、ビデオエンコーダ２０Ａと２０Ｂとの各々からビットストリームを取って、所与の時間にどのビットストリームが出力されるかをオルタネート（alternate）することによって作成され得る。場合によっては、２つ（または、２つ以上のビデオエンコーダレイヤの場合は、より多数）のビットストリームからのビットは、一度に１ビットが交互にオルタネートされるが、多くの場合、ビットストリームは異なるように組み合わせられる。たとえば、出力ビットストリームは、選択されたビットストリームを一度に１ブロックをオルタネートすることによって作成され得る。別の例では、出力ビットストリームは、ビデオエンコーダ２０Ａと２０Ｂとの各々から非１：１比のブロックを出力することによって作成され得る。たとえば、２つのブロックは、ビデオエンコーダ２０Ａから出力されたブロックごとにビデオエンコーダ２０Ｂから出力され得る。いくつかの実施形態では、ｍｕｘ９８からの出力ストリームは事前にプログラムされ得る。他の実施形態では、ｍｕｘ９８は、ソースデバイス１２上のプロセッサからなどの、ビデオエンコーダ２１の外部のシステムから受信された制御信号に基づいて、ビデオエンコーダ２０Ａ、２０Ｂからのビットストリームを組み合わせることができる。制御信号は、ビデオソース１８からのビデオの解像度またはビットレートに基づいて、チャネル１６の帯域幅に基づいて、ユーザに関連付けられるサブスクリプション（たとえば、有料購読対、無料購読）に基づいて、あるいは、ビデオエンコーダ２１から所望される解像度出力を決定するための他の任意の要因に基づいて生成され得る。

ビデオデコーダ
[00101] 図３Ａは、本開示で説明する態様による技法を実装し得るビデオデコーダの例を示すブロック図である。ビデオデコーダ３０は、ＨＥＶＣのような、ビデオフレームの単一のレイヤを処理するように構成され得る。さらに、ビデオデコーダ３０は、限定ではないが、図４を参照して以下でより詳細に説明するレイヤ間参照ピクチャ制限を実行する方法を含む、本開示の技法のうちのいずれかまたはすべてを実行するように構成され得る。一例として、レイヤ間予測ユニット７５は、本開示で説明する技法のいずれかまたはすべてを実行するように構成され得る。ただし、本開示の態様はそのように限定されない。いくつかの例では、本開示で説明する技法は、ビデオデコーダ３０の様々な構成要素間で共有され得る。いくつかの例では、さらに、または代替で、プロセッサ（図示せず）は、本開示において説明する技法のいずれかまたはすべてを実行するように構成され得る。

[00102] 説明のために、本開示は、ＨＥＶＣコーディングの文脈でビデオデコーダ３０を説明する。しかしながら、本開示の技法は、他のコーディング規格または方法に適用可能であり得る。図３Ａのデコーダ３０は、コーデックの単一のレイヤを示している。しかしながら、図３Ｂを参照してさらに説明するように、ビデオデコーダ３０のうちのいくつかまたはすべては、マルチレイヤコーデックによる処理のために複製され得る。図３Ａの例では、ビデオデコーダ３０は、エントロピー復号ユニット７０と、動き補償ユニット７２と、イントラ予測ユニット７４と、レイヤ間予測ユニット７５と、逆量子化ユニット７６と、逆変換ユニット７８と、参照フレームメモリ８２と、加算器８０とを含む。いくつかの実施形態では、動き補償ユニット７２および／またはイントラ予測ユニット７４はレイヤ間予測を実行するように構成され得、その場合、レイヤ間予測ユニット７５は省略され得る。ビデオデコーダ３０は、いくつかの例では、ビデオエンコーダ２０（図２）に関して説明した符号化パスとは概して逆の復号パスを実行し得る。動き補償ユニット７２は、エントロピー復号ユニット７０から受信された動きベクトルに基づいて予測データを生成し得、イントラ予測ユニット７４は、エントロピー復号ユニット７０から受信されたイントラ予測モードインジケータに基づいて予測データを生成し得る。

[00103] 復号プロセス中に、ビデオデコーダ３０は、ビデオエンコーダ２０から、符号化ビデオスライスのビデオブロックと、関連するシンタックス要素とを表す符号化ビデオビットストリームを受信する。ビデオデコーダ３０のエントロピー復号ユニット７０は、量子化係数、動きベクトルまたはイントラ予測モードインジケータ、および他のシンタックス要素を生成するためにビットストリームをエントロピー復号する。エントロピー復号ユニット７０は、動きベクトルツーと他の予測シンタックス要素とを動き補償ユニット７２に転送する。ビデオデコーダ３０は、ビデオスライスレベルおよび／またはビデオブロックレベルでシンタックス要素を受信し得る。

[00104] ビデオスライスがイントラコード化（Ｉ）スライスとしてコーディングされるとき、イントラ予測ユニット７４は、シグナリングされたイントラ予測モードと、現在フレームまたはピクチャの、前に復号されたブロックからのデータとに基づいて、現在のビデオスライスのビデオブロックのための予測データを生成し得る。ビデオフレームがインターコード化（たとえば、Ｂ、ＰまたはＧＰＢ）スライスとしてコーディングされるとき、動き補償ユニット７２は、エントロピー復号ユニット７０から受信された動きベクトルと他のシンタックス要素とに基づいて、現在のビデオスライスのビデオブロックのための予測ブロックを生成する。予測ブロックは、参照ピクチャリストのうちの１つ内の参照ピクチャのうちの１つから生成され得る。ビデオデコーダ３０は、参照フレームメモリ（復号されたピクチャバッファと呼ばれることがある）９２に記憶された参照ピクチャに基づいてデフォルト構成技法を用いて、参照フレームリスト、リスト０とリスト１とを構成し得る。動き補償ユニット７２は、動きベクトルと他のシンタックス要素とをパースすることによって現在のビデオスライスのビデオブロックのための予測情報を決定し、その予測情報を使用して、復号されている現在のビデオブロックのための予測ブロックを生成する。たとえば、動き補償ユニット７２は、ビデオスライスのビデオブロックをコーディングするために使用される予測モード（たとえば、イントラまたはインター予測）と、インター予測スライスタイプ（たとえば、Ｂスライス、Ｐスライス、またはＧＰＢスライス）と、スライスの参照ピクチャリストのうちの１つまたは複数のための構成情報と、スライスの各インター符号化ビデオブロックのための動きベクトルと、スライスの各インターコード化ビデオブロックのためのインター予測ステータスと、現在のビデオスライス中のビデオブロックを復号するための他の情報とを決定するために、受信されたシンタックス要素のいくつかを使用する。

[00105] 動き補償ユニット７２はまた、補間フィルタに基づいて補間を実行し得る。動き補償ユニット７２は、ビデオブロックの符号化中にビデオエンコーダ２０によって使用された補間フィルタを使用して、参照ブロックのサブ整数ピクセルの補間値を計算し得る。この場合、動き補償ユニット７２は、受信されたシンタックス要素からビデオエンコーダ２０によって使用された補間フィルタを決定し、その補間フィルタを使用して予測ブロックを生成し得る。

[00106] ビデオデコーダ３０もレイヤ間予測ユニット７５を含み得る。レイヤ間予測ユニット７５は、ＳＶＣにおいて利用可能である１つまたは複数の異なるレイヤ（たとえば、ベースレイヤまたは参照レイヤ）を使用して現在ブロック（たとえば、ＥＬ中の現在ブロック）を予測するように構成される。そのような予測はレイヤ間予測と呼ばれることがある。レイヤ間予測ユニット７５は、レイヤ間冗長性を低減するために予測方法を利用し、それによって、コーディング効率を改善し、計算リソース要件を低減する。レイヤ間予測のいくつかの例としては、レイヤ間イントラ予測、レイヤ間動き予測、およびレイヤ間残差予測がある。レイヤ間イントラ予測は、ベースレイヤ中のコロケートブロックの再構成を使用してエンハンスメントレイヤ中の現在ブロックを予測する。レイヤ間動き予測は、ベースレイヤの動き情報を使用してエンハンスメントレイヤ中の動作を予測する。レイヤ間残差予測は、ベースレイヤの残差を使用してエンハンスメントレイヤの残差を予測する。ベースレイヤとエンハンスメントレイヤとが異なる空間解像度を有する場合、空間動きベクトルスケーリングおよび／またはレイヤ間位置マッピングは、以下でより詳細に説明するように、時間的スケーリング機能を用いてレイヤ間予測ユニット７５によって実行され得る。

[00107] 逆量子化ユニット７６は、ビットストリーム中で与えられ、エントロピー復号ユニット７０によって復号された量子化変換係数を逆量子化（inverse quantize）、たとえば、逆量子化（de-quantize）する。逆量子化プロセスは、量子化の程度を決定し、同様に、適用されるべき逆量子化の程度を決定するための、ビデオスライス中のビデオブロックごとにビデオデコーダ３０によって計算される量子化パラメータＱＰＹの使用を含み得る。

[00108] 逆変換ユニット７８は、ピクセル領域において残差ブロックを生成するために、逆変換、たとえば逆ＤＣＴ、逆ＤＳＴ、逆整数変換、または概念的に同様の逆変換プロセスを変換係数に適用する。

[00109] 動き補償ユニット７２が、動きベクトルと他のシンタックス要素とに基づいて現在のビデオブロックのための予測ブロックを生成した後に、ビデオデコーダ３０は、逆変換ユニット７８からの残差ブロックを動き補償ユニット７２によって生成された対応する予測ブロックに加算することによって、復号されたビデオブロックを形成する。加算器９０は、この加算演算を実行する１つまたは複数の構成要素を表す。所望される場合、ブロッキネスアーティファクトを除去するために、復号ブロックをフィルタ処理するためにデブロッキングフィルタも適用され得る。ピクセル遷移を平滑化するために、または場合によってはビデオ品質を改善するために、他のループフィルタも（コーディングループ中またはコーディングループ後のいずれかで）使用され得る。所与のフレームまたはピクチャ中の復号されたビデオブロックは、次いで、その後の動き補償のために使用される参照ピクチャを記憶する参照ピクチャメモリ９２に記憶される。参照フレームメモリ８２はまた、図１のディスプレイデバイス３２などのディスプレイデバイス上での後の表示のための、復号されたビデオを記憶する。

マルチレイヤデコーダ
[00110] 図３Ｂは、本開示で説明する態様に従って技法を実装し得るマルチレイヤビデオデコーダ３１の例を示すブロック図である。ビデオデコーダ３１は、ＳＨＶＣおよびマルチビューコーディングのような、マルチレイヤビデオフレームを処理するように構成され得る。さらに、ビデオデコーダ３１は、本開示の技法のいずれかまたはすべてを実行するように構成され得る。

[00111] ビデオデコーダ３１は、ビデオデコーダ３０Ａとビデオデコーダ３０Ｂとを含み、それらの各々は、図３Ａのビデオデコーダ３０として構成され得、ビデオデコーダ３０に関して上記で説明した機能を実行し得る。さらに、参照番号の再利用によって示されるように、ビデオデコーダ３０Ａと３０Ｂとは、ビデオデコーダ３０としてシステムとサブシステムとのうちの少なくともいくつかを含み得る。ビデオデコーダ３１は、２つのビデオデコーダ３０Ａと３０Ｂとを含むものとして示されているが、ビデオデコーダ３１はそのように限定されず、任意の数のビデオデコーダ３０レイヤを含み得る。いくつかの実施形態では、ビデオデコーダ３１は、アクセスユニット内のピクチャまたはフレームごとにビデオデコーダ３０を含み得る。たとえば、５個のピクチャを含むアクセスユニットは、５個のデコーダレイヤを含むビデオデコーダによって処理されてもよく、復号されてもよい。いくつかの実施形態では、ビデオデコーダ３１は、アクセスユニット内のフレームよりも多くのデコーダレイヤを含み得る。いくつかのそのようなケースでは、ビデオデコーダレイヤのうちのいくつかは、いくつかのアクセスユニットを処理する際に非アクティブであり得る。

[00112] ビデオデコーダ３０Ａと３０Ｂとに加えて、ビデオデコーダ３１はアップサンプリングユニット９２を含み得る。いくつかの実施形態では、アップサンプリングユニット９２は、フレームまたはアクセスユニットのための参照ピクチャリストに追加されるべきエンハンストレイヤを作成するために、受信されたビデオフレームのベースレイヤをアップサンプリングし得る。このエンハンストレイヤは、参照フレームメモリ（復号されたピクチャバッファ）８２に記憶され得る。いくつかの実施形態では、アップサンプリングユニット９２は、図２Ａのリサンプリングユニット９０に関して説明する実施形態のうちのいくつかまたはすべてを含み得る。いくつかの実施形態では、アップサンプリングユニット９２は、スライス境界ルールのセットおよび／またはラスタ走査ルールを順守するために、レイヤをアップサンプリングして、１つまたは複数のスライスを再編成、再定義、修正、または調整するように構成される。場合によっては、アップサンプリングユニット９２は、受信されたビデオフレームのレイヤをアップサンプリングおよび／またはダウンサンプリングするように構成されたリサンプリングユニットであり得る。

[00113] アップサンプリングユニット９２は、下位層デコーダ（たとえば、ビデオデコーダ３０Ａ）の復号されたピクチャバッファ８２からピクチャまたはフレーム（あるいは、ピクチャに関連付けられるピクチャ情報）を受信して、ピクチャ（または、受信されたピクチャ情報）をアップサンプリングするように構成され得る。次いで、アップサンプリングされたピクチャは、下位層デコーダと同じアクセスユニット内のピクチャを復号するように構成された上位層デコーダ（たとえば、ビデオデコーダ３０Ｂ）のモード選択ユニット７１に提供され得る。場合によっては、上位層デコーダは、下位層デコーダから除去された１つのレイヤである。他の場合では、図３Ｂのレイヤ０デコーダとレイヤ１デコーダとの間に、１つまたは複数の上位層デコーダがあり得る。

[00114] 場合によっては、アップサンプリングユニット９２は、省略または迂回され得る。そのような場合、ビデオデコーダ３０Ａの復号されたピクチャバッファ８２からのピクチャは、直接、または少なくともアップサンプリングユニット９２、ビデオデコーダ３０Ｂのモード選択ユニット７１に提供されることなしに提供され得る。たとえば、ビデオデコーダ３０Ｂに提供されたビデオデータ、およびビデオデコーダ３０Ａの復号されたピクチャバッファ８２からの参照ピクチャが、同じサイズまたは解像度である場合、参照ピクチャは、アップサンプリングなしにビデオデコーダ３０Ｂに提供され得る。さらに、いくつかの実施形態では、アップサンプリングユニット９２は、ビデオデコーダ３０Ａの復号されたピクチャバッファ８２から受信された参照ピクチャをアップサンプリングまたはダウンサンプリングするように構成されたリサンプリングユニット９０であり得る。

[00115] 図３Ｂに示されるように、ビデオデコーダ３１は、デマルチプレクサ９９、すなわちｄｅｍｕｘをさらに含み得る。ｄｅｍｕｘ９９は、符号化されたビデオビットストリームを複数のビットストリームに分割することができ、ｄｅｍｕｘ９９によって出力された各ビットストリームが、異なるビデオデコーダ３０Ａと３０Ｂとに提供されている。複数のビットストリームは、ビットストリームを受信することによって作成され得、ビデオデコーダ３０Ａと３０Ｂとの各々は、所与の時間にビットストリームの一部分を受信する。場合によっては、ｄｅｍｕｘ９９で受信されたビットストリームからのビットは、ビデオデコーダの各々（たとえば、図３Ｂの例におけるビデオデコーダ３０Ａと３０Ｂ）の間で一度に１ビットがオルタネートされ得るが、多くの場合、ビットストリームは異なるように分割される。たとえば、ビットストリームは、どのビデオデコーダがビットストリームを一度に１ブロック受信するかをオルタネートすることによって分割され得る。別の例では、ビットストリームは、ビデオデコーダ３０Ａと３０Ｂとの各々へのブロックの非１：１比によって分割され得る。たとえば、２つのブロックは、ビデオデコーダ３０Ａに提供されたブロックごとにビデオデコーダ３０Ｂに提供され得る。いくつかの実施形態では、ｄｅｍｕｘ９９によるビットストリームの分割は事前にプログラムされ得る。他の実施形態では、ｄｅｍｕｘ９９は、宛先デバイス１４上のプロセッサからなどの、ビデオデコーダ３１の外部のシステムから受信された制御信号に基づいて、ビットストリームを分割することができる。制御信号は、入力インターフェース２８からのビデオの解像度またはビットレートに基づいて、チャネル１６の帯域幅に基づいて、ユーザに関連付けられるサブスクリプション（たとえば、有料購読対、無料購読）に基づいて、あるいは、ビデオデコーダ３１によって取得可能な解像度を決定するための他の任意の要因に基づいて生成され得る。

単一の参照レイヤピクチャ制限
[00116] 以下で説明する様々な実施形態では、ＳＨＶＣ内の現在のピクチャを符号化または復号するために、多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るように、符号化または復号プロセスへの制限が与えられる。そのような制限がある場合、有利なことに、現在のピクチャを復号するために、多くとも１つのピクチャリサンプリングプロセスだけが必要である。以下の実施形態は、参照インデックスベースのＳＨＶＣ（ハイレベルシンタックス変更のみを利用する）を含む、高効率ビデオコーディング（ＳＨＶＣ）のスケーラブルビデオコーディング拡張に、そのような制限を与える。

１．１ スライスヘッダ中の参照レイヤのシグナリング
[00117] 一実施形態では、現在のスライス（たとえば、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ）の参照レイヤを識別するシンタックス要素が、スライスヘッダ中でシグナリングされる。実際、参照レイヤＩＤは、現在のＥＬピクチャを予測するためのレイヤ間予測のために使用されるべき、多くとも１つのレイヤ間参照ピクチャを示す。そのような情報は、既存のＶＰＳシンタックスに加えて提供される。たとえば、ビデオパラメータセット（ＶＰＳ）は、参照ピクチャとして使用され得るすべてのピクチャを示すシンタックスを含む。しかしながら、現在の実施形態によれば、追加の情報は、レイヤ間参照ピクチャセットの導出をさらに改良するために、スライスレベルでシグナリングされ得る。実際、スライスレベルで、レイヤ間予測のための参照ピクチャとして使用され得る、ＶＰＳ識別されたピクチャのうちの多くとも１つのピクチャ（たとえば、ゼロまたは１つのピクチャ）。コード化されたピクチャのすべてのスライスのｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄが同一でなければならないことを必要とするビットストリーム適合制限（bit stream conforming restriction）が与えられる。一実施形態では、このシンタックスは、ピクチャパラメータセット（ＰＰＳ：picture parameter set）中でシグナリングされ得る。シンタックス要素ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｌｕｓ１は、コード化（符号化または復号）されている現在のピクチャの参照レイヤ識別（reference layer identification）を示すためにシグナリングされ得る。そのような場合、参照レイヤ識別（たとえば、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄの値）は、以下のように導出され得る。

−１と等しい変数ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄは、レイヤ間予測が現在のスライスには使用不可であることを示している。

[00118] 別の実施形態では、シンタックス要素ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｄｅｌｔａがスライスヘッダ中でシグナリングされる。そのような場合、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄの値は、以下のように導出され得る。

そのような実施形態では、変数ｃｕｒｒＬａｙｅｒＩｄは、現在の復号されたピクチャのｎｕｈ＿ｌａｙｅｒ＿ｉｄと等しく設定される。

[00119] さらに、スライスヘッダ（または、ピクチャパラメータセット（ＰＰＳ））中のｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄのシンタックスの存在を制御するために、フラグｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ（または、ＰＰＳ＿ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ）が、シーケンスパラメータセット（ＳＰＳ）またはビデオパラメータセット（ＶＰＳ）中でシグナリングされ得る。

[00120] 変数ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄは、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｌｕｓ１を有する参照レイヤピクチャは、現在のレイヤピクチャのためのただ１つの参照レイヤピクチャであると指定する。現在のピクチャｎｕｈ＿ｌａｙｅｒ＿ｉｄがゼロと等しい場合、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄの値は−１に設定される。

[00121] ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄのためのシンタックスがスライスヘッダ中に存在しない場合は、以下のように導出され得る。

[00122] シンタックスｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]が、コード化されたビットストリームシーケンスのためのビデオパラメータセット（ＶＰＳ）レベルで現在シグナリングされている。しかしながら、時間的なサブレイヤごとの、またはアクセスユニットごとの直接レイヤ依存フラグ（direct layer dependency flag）の値は、廃棄されたレイヤ構成要素を示すシンタックスなどの、さらなるシンタックスおよび／またはプロセス情報を含めることによってさらに修正または改良され得る。そのような場合、改良された依存フラグ（refined dependency flag）は、レイヤ間参照ピクチャを指定する以下の変数を導出するために使用され得る。変数ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]は、１つの時間的サブレイヤまたは１つのアクセスユニット内のレイヤ間の直接依存を表すことができる。一実施形態では、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]の値は、最初はｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]と等しく設定される。ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]の値は、現在の時間的なサブレイヤまたはアクセスユニット内の参照レイヤピクチャの可用性を調べることによってさらに修正され得る。たとえば、現在の時間的なサブレイヤまたはアクセスユニットが、ｊと等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するピクチャを含まない場合、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]の値は、ｊ＝０からｖｐｓ＿ｍａｘ＿ｌａｙｅｒｓ＿ｍｉｎｕｓ１まで（両方を含めて）について、０に設定される。

[00123] ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄのためのシンタックスがスライスヘッダ中に存在しない場合、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇを用いて、以下のようにも導出され得る。

[00124] 一実施形態では、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄの値は、現在のアクセスユニット内の参照レイヤピクチャの可用性をさらに調べることによってさらに修正される。現在のアクセスユニットが、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄと等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するピクチャを含まない場合、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄは、−１と等しく設定される。

[00125] 現在のピクチャのためのレイヤ間参照ピクチャセットＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒを導出するために、現在のピクチャのための直接依存レイヤフラグは、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｃｕｒｒＬａｙｅｒＩｄ]［ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ]を１と等しく、および他のすべてを０と等しく設定することによって導出され得、上記で言及した構成プロセスは、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇによって置換される変数ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇで使用される。

[00126] あるいは、ＳＨＶＣのレイヤ間参照ピクチャセットＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒは、ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄを用いて以下のように導出され得る。

上式で、Ｇ．８．１．４は、現在のＳＨＶＣドラフト仕様による、レイヤ間参照ピクチャのリサンプリングプロセスである。

[00127] あるいは、フラグｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ（または、ＰＰＳ＿ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ）は、ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇの値が改良されることになるかどうかを示すために、ＳＰＳまたはＶＰＳ中でシグナリングされる。ｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ（または、ＰＰＳ＿ｒｅｆｅｒｅｎｃｅ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ）が０と等しい場合、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｃｕｒｒＬａｙｅｒＩｄ]［ｊ]の値は、ｊ＝０からｊ−１まで（両方を含めて）について、ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｃｕｒｒＬａｙｅｒＩｄ]［ｊ]と等しく設定され、上記で説明したシンタックスによってさらに改良されない。

１．２ ピクチャパラメータセットまたはスライスヘッダ中のフラグシグナリング
[00128] この実施形態では、現在のピクチャまたはスライスの参照レイヤピクチャを示すために、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｎｕｈ＿ｌａｙｅｒ]［ｊ]が、ピクチャパラメータセット（ＰＰＳ）またはスライスヘッダ中でシグナリングされる。

[00129] ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇの存在を示すために、フラグｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ（または、ＰＰＳ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ）が、シーケンスパラメータセット（ＳＰＳ）またはビデオパラメータセット（ＶＰＳ）中でシグナリングされる。たとえば、ｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ（または、ＰＰＳ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ＿ｐｒｅｓｅｎｔ＿ｆｌａｇ）が０と等しい場合、ｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｃｕｒｒＬａｙｅｒＩｄ]［ｊ]の値は、ｊ＝０からｊ−１まで（両方を含めて）について、ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｃｕｒｒＬａｙｅｒＩｄ]［ｊ]と等しく設定される。

１．３ シンタックス要素ビットストリーム適合制限
[00130] 一実施形態では、シンタックス要素ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]にビットストリーム適合制限が与えられる。ｉと等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するレイヤ構成要素ごとに、ｊ＝０からｉ−１まで（両方を含めて）であるすべてのｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]フラグの多くとも１つのフラグは１でよい。

[00131] 上記で言及したように、直接レイヤ依存フラグの値は、特定の追加のシンタックスによってさらに改良され得る。たとえば、制限は、１つの時間的なサブレイヤまたは１つのアクセスユニット内のｉと等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するレイヤ構成要素ごとに、ｊ＝０からｉ−１まで（両方を含めて）であるすべてのｒｅｆｉｎｅｄ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]フラグのうちの多くとも１つのフラグは１でよいということでよい。

１．４ レイヤ間参照ピクチャセット構成
[00132] この実施形態では、ＳＨＶＣのレイヤ間参照ピクチャセットＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒの構成プロセスが、ＲｅｆＬａｙｅｒＩｄ［ｉ]［ｊ]によって示されるすべての参照レイヤピクチャのうちのただ１つのレイヤ間参照ピクチャが、ＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒに追加されるように変更される。

[00133] 一実施形態では、リサンプリングされたレイヤ間参照ピクチャを生成するために、ＲｅｆＬａｙｅｒＩｄ［ｉ]［ｊ]によって示されるすべての参照レイヤピクチャのうちの第１のピクチャのみが使用されて、レイヤ間参照レイヤピクチャセットに追加される。
以下の方法は、ＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒを導出するために使用され得る。

上式で、Ｇ．８．１．４は、レイヤ間参照ピクチャのリサンプリングプロセスである。

[00134] 別の実施形態では、リサンプリングされたレイヤ間参照ピクチャを生成するために、レイヤＩＤが現在のレイヤに最も近い参照レイヤピクチャが使用されて、レイヤ間参照レイヤピクチャセットに追加される。現在のワーキングドラフトでは、アレイＲｅｆＬａｙｅｒＩｄ内のそのようなレイヤ間参照ピクチャは、ＲｅｆＬａｙｅｒＩｄ［ＬａｙｅｒＩｄＩｎＶｐｓ［ｃｕｒｒＬａｙｅｒＩｄ]]［ＮｕｍＤｉｒｅｃｔＲｅｆＬａｙｅｒｓ［ＬａｙｅｒＩｄＩｎＶｐｓ［ｃｕｒｒＬａｙｅｒＩｄ]−１]]と示される。したがって、ＲｅｆＰｉｃＳｅｔＩｎｔｅｒＬａｙｅｒを導出するために、以下の方法が使用され得る。

上式で、Ｇ．８．１．４は、レイヤ間参照ピクチャのリサンプリングプロセスである。

[00135] 上記の実施形態において説明したように、リサンプリングが使用されるべきか否かに関わらず、フラグは、多くとも１つのレイヤ間参照ピクチャが使用されることを示すために使用され得る。しかしながら、多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間予測の間に現在のピクチャを予測するための参照ピクチャとして使用されることを許可する制限を与えることも有利であろう。

１．５ リサンプリングされた参照レイヤピクチャ制限
[00136] この実施形態では、多くとも１つの参照レイヤピクチャが、現在のピクチャのための参照ピクチャとして使用されるように、ビットストリーム適合制限が与えられる。たとえば、多くとも１つのリサンプリングされた参照レイヤピクチャが、現在のピクチャに属するすべてのスライスの参照ピクチャリスト内に最終的に提示される。

１．６ ビデオパラメータセット直接依存レイヤ（ＤＤＬ）フラグをオーバーライドするための、スライスレベルＤＤＬフラグシグナリング
[00137] この実施形態では、ＶＰＳ内に現在示されている元の直接依存レイヤフラグをオーバーライドするために、スライスレベル直接依存レイヤフラグがシグナリングされる。現在のスライスの参照レイヤピクチャを示すために、以下のシンタックスがスライスヘッダ中でシグナリングされる。

[00138] スライスヘッダでｓｌｉｃｅ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]シンタックス要素の存在を制御するために、シンタックス要素ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｏｖｅｒｒｉｄｅ＿ｅｎａｂｌｅｄ＿ｆｌａｇがＳＰＳ中でシグナリングされる。一実施形態では、ｊが０からＬａｙｅｒＩｄＩｎＶｐｓ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ]−１までである、すべてのｓｌｉｃｅ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ＬａｙｅｒＩｄＩｎＶｐｓ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ]]［ｊ]のうちのただ１つのフラグが１と等しい、ビットストリーム適合制限を有することが必要とされる。

[00139] スライスヘッダ中に参照レイヤ情報が明確に示されないとき、複数の参照レイヤピクチャが存在する場合は最も近い参照レイヤピクチャがレイヤ間参照として使用される。この目的で、ｓｌｉｃｅ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｉ]［ｊ]の値は以下のように導出される。

[00140] フラグｓｌｉｃｅ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ｃｕｒｒＬａｙｅｒＩｄｘ]［ｊ]は、ｊが０からｃｕｒｒＬａｙｅｒＩｄｘまで（両方を含めて）について、０と等しく設定される。たとえば、

[00141] たとえば、変数ＮｕｍＤｉｒｅｃｔＲｅｆＬａｙｅｒｓ［ｃｕｒｒＬａｙｅｒＩｄｘ]およびＲｅｆＬａｙｅｒＩｄ［ｃｕｒｒＬａｙｅｒＩｄｘ]［ｊ]は、以下のように導出される（したがって、ＶＰＳセマンティクスにおけるこれらの２つの変数の導出プロセスは除去される）。

[00142] 他の実施形態では、追加のビットストリーム適合制限が与えられる。たとえば、一実施形態では、ｓｌｉｃｅ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ［ＬａｙｅｒＩｄＩｎＶｐｓ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ]]［ｊ]が１と等しい場合、ｊであるレイヤインデックスを有するコード化されたピクチャは、現在のアクセスユニット（ＡＵ）内に存在するものとする。これは、レイヤ間予測のために使用されている非存在レイヤ間参照ピクチャを回避する。別の実施形態では、１つのコード化されたピクチャに属するすべてのスライスは、同じｓｌｉｃｅ＿ｄｉｒｅｃｔ＿ｄｅｐｅｎｄｅｎｃｙ＿ｆｌａｇ値を有するものとする。

異なる空間解像度を有する、単一の参照レイヤピクチャ
[00143] 一実施形態では、ＳＨＶＣ内の現在のピクチャを復号するために、現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るように、制限が与えられる。このように、現在のピクチャを復号するために、多くとも１つのピクチャリサンプリングプロセスのみが必要である。上記で言及した実施形態のうちのいずれかは、この制限のために適用または拡張（たとえば、さらに含むように適合）され得る。

[00144] 一代替では、コーディングシステムは、現在のピクチャを復号するために、多くとも１つのフィルタリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るように制限するように構成される。たとえば、フィルタリングプロセスが適用されないレイヤ間参照ピクチャには制限がない。

レイヤ間参照ピクチャ制限−ＩＬＲＰとして使用される、多くとも１つの参照レイヤピクチャ
[00145] 図４は、図２Ａのビデオエンコーダ２０、図２Ｂのビデオエンコーダ２０Ａ、２０Ｂ、および／または２１、図３Ａのビデオデコーダ３０、ならびに／あるいは図３Ｂのビデオデコーダ３０Ａ、３０Ｂ、および／または３１によって実行され得るレイヤ間参照予測を制限する方法の一実施形態を示している。方法４００は、図２Ａまたは図２Ｂのビデオエンコーダ２０の、動き推定ユニット４２、動き補償ユニット４４、イントラ予測ユニット４６、およびレイヤ間予測ユニット６６のうちの任意の１つまたは複数によって実行され得る。別の実施形態では、方法４００は、図３Ａまたは図３Ｂのデコーダの、動き補償ユニット７２、イントラ予測ユニット７４、およびレイヤ間予測ユニット７５のうちの任意の１つまたは複数によって実行され得る。

[00146] 方法４００はブロック４１０において開始する。ブロック４２０で、多くとも１つの参照レイヤピクチャ（たとえば、ゼロまたは１つの参照ピクチャ）が、現在のピクチャのレイヤ間予測を実行するためのレイヤ間参照ピクチャとして使用され得るという制限が与えられる。たとえば、そのような制限を与えるために、上記で説明した技法のうちのいずれかが使用され得る。

[00147] ブロック４３０で、レイヤ間予測のために使用されるべき多くとも１つの参照レイヤが識別される。たとえば、レイヤ間予測のために使用されるべき多くとも１つの参照レイヤが、上記で説明した技法のうちのいずれかを用いて識別される。ブロック４４０で、多くとも１つの参照レイヤを用いて現在のピクチャが予測される。たとえば、現在のピクチャが、ハイレベルシンタックスのみのレイヤ間予測を用いて予測される。

レイヤ間参照ピクチャ制限−ＩＬＲＰとして使用される、多くとも１つのリサンプリングされた参照レイヤピクチャ
[00148] 図５は、図２Ａのビデオエンコーダ２０、図２Ｂのビデオエンコーダ２０Ａ、２０Ｂ、および／または２１、図３Ａのビデオデコーダ３０、ならびに／あるいは図３Ｂのビデオデコーダ３０Ａ、３０Ｂ、および／または３１によって実行され得るレイヤ間参照予測を制限する方法の別の実施形態を示している。方法５００は、図２Ａまたは図２Ｂのビデオエンコーダ２０の、動き推定ユニット４２、動き補償ユニット４４、イントラ予測ユニット４６、およびレイヤ間予測ユニット６６のうちの任意の１つまたは複数によって実行され得る。別の実施形態では、方法５００は、図３Ａまたは図３Ｂのデコーダの、動き補償ユニット７２、イントラ予測ユニット７４、およびレイヤ間予測ユニット７５のうちの任意の１つまたは複数によって実行され得る。

[00149] 方法５００は、ブロック５１０において開始する。ブロック５２０で、多くとも１つのリサンプリングされた参照レイヤピクチャ（たとえば、ゼロまたは１つのリサンプリングされた参照レイヤピクチャ）が、現在のピクチャのレイヤ間予測を実行するためのレイヤ間参照ピクチャとして使用され得るという制限が与えられる。このように、多くとも１つのリサンプリングされた参照レイヤピクチャのみが、現在のピクチャに属している、およびそれに関連付けられる、すべてのスライスの参照ピクチャリスト内に最終的に存在し得る。そのような制限を与えるために、上記で説明した技法のうちのいずれかが使用され得る。

[00150] ブロック５３０で、現在のピクチャとは異なる空間解像度を有する、およびレイヤ間予測のために使用されるべき多くとも１つの参照レイヤピクチャが識別される。たとえば、現在のピクチャとは異なる空間解像度を有する、およびレイヤ間予測のために使用されるべき多くとも１つの参照レイヤピクチャが、上記で説明した技法のうちのいずれかを用いて識別される。ブロック５４０で、多くとも１つの参照レイヤを用いて現在のピクチャが予測される。たとえば、現在のピクチャが、ハイレベルシンタックスのみのレイヤ間予測を用いて予測される。

レイヤ間参照ピクチャ制限−ＩＬＲＰとして使用される、異なる空間解像度を有する多くとも１つの参照レイヤピクチャ
[00151] 図６は、図２Ａのビデオエンコーダ２０、図２Ｂのビデオエンコーダ２０Ａ、２０Ｂ、および／または２１、図３Ａのビデオデコーダ３０、ならびに／あるいは図３Ｂのビデオデコーダ３０Ａ、３０Ｂ、および／または３１によって実行され得る、レイヤ間参照予測を制限する方法の別の実施形態を示している。方法６００は、図２Ａまたは図２Ｂのビデオエンコーダ２０の、動き推定ユニット４２、動き補償ユニット４４、イントラ予測ユニット４６、およびレイヤ間予測ユニット６６のうちの任意の１つまたは複数によって実行され得る。別の実施形態では、方法６００は、図３Ａまたは図３Ｂのデコーダの、動き補償ユニット７２、イントラ予測ユニット７４、およびレイヤ間予測ユニット７５のうちの任意の１つまたは複数によって実行され得る。

[00152] 方法６００は、ブロック６１０において開始する。ブロック６２０で、現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャ（たとえば、ゼロまたは１つの参照レイヤピクチャ）が、現在のピクチャのレイヤ間予測を実行するためのレイヤ間参照ピクチャとして使用され得るという制限が与えられる。このように、現在のピクチャをコーディング（符号化または復号）するために、多くとも１つのピクチャリサンプリングプロセスが必要とされ得る。任意で、多くとも１つの参照レイヤピクチャが、レイヤ間予測のためのレイヤ間参照ピクチャとして使用され得るように、さらなる制限が適用され得る（たとえば、図４に関して上記で説明したように）。そのような制限を与えるために、上記で説明した技法のうちのいずれかが使用され得る。

[00153] ブロック６３０で、現在のピクチャとは異なる空間解像度を有する、およびレイヤ間予測のために使用されるべき多くとも１つの参照レイヤピクチャが識別される。たとえば、現在のピクチャとは異なる空間解像度を有する、およびレイヤ間予測のために使用されるべき多くとも１つの参照レイヤピクチャが、上記で説明した技法のうちのいずれかを用いて識別される。ブロック６４０で、多くとも１つの参照レイヤピクチャを用いて現在のピクチャが予測される。たとえば、現在のピクチャが、ハイレベルシンタックスのみのレイヤ間予測を用いて予測される。

用語
[00154] 上記の開示は特定の実施形態を記載しているが、多くの変形形態が可能である。たとえば、上述されたように、上記の技法は３Ｄビデオコーディングに適用され得る。３Ｄビデオのいくつかの実施形態では、参照レイヤ（たとえば、ベースレイヤ）は、ビデオの第１のビューを表示するのに十分なビデオ情報を含み、エンハンスメントレイヤは、参照レイヤに比べてさらなるビデオ情報を含み、その結果、参照レイヤおよびエンハンスメントレイヤは一緒に、ビデオの第２のビューを表示するのに十分な情報を含む。これらの２つのビューは、立体的な画像を生成するために使用され得る。上記で説明されたように、本開示の態様に従って、エンハンスメントレイヤ内でビデオユニットを符号化または復号するとき、参照レイヤからの動き情報は、さらなる暗黙的な仮説を識別するために使用され得る。これにより、３Ｄビデオのビットストリームについてのより大きいコーディング効率が実現され得る。

[00155] 例によっては、本明細書で説明された技法のうちいずれかの、いくつかの行為またはイベントは、異なるシーケンスで実行され得、追加、マージ、または完全に除外され得る（たとえば、すべての説明した作用またはイベントが、本技法の実施のために必要であるとは限らない）ことを認識されたい。さらに、いくつかの例では、行為またはイベントは、連続的にではなく、たとえば、マルチスレッド処理、割込み処理、または複数のプロセッサを通して、同時に実行され得る。

[00156] 本明細書で開示される情報および信号は、多種多様な技術および技法のいずれかを使用して表され得る。たとえば、上記の説明全体にわたって言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、およびチップは、電圧、電流、電磁波、磁界もしくは磁性粒子、光場もしくは光学粒子、またはそれらの任意の組合せによって表され得る。

[00157] 本明細書で開示した実施形態に関して説明した様々な例示的な論理ブロック、モジュール、回路、およびアルゴリズムステップは、電子ハードウェア、コンピュータソフトウェア、またはその両方の組合せとして実装され得る。ハードウェアとソフトウェアのこの互換性を明確に示すために、様々な例示的な構成要素、ブロック、モジュール、回路、およびステップについて、概してそれらの機能に関して上記で説明した。そのような機能がハードウェアとして実装されるか、またはソフトウェアとして実装されるかは、特定の適用例および全体的なシステムに課された設計制約に依存する。当業者は、説明した機能を特定の適用例ごとに様々な方法で実装し得るが、そのような実装の決定は、本発明の範囲からの逸脱を生じるものと解釈されるべきではない。

[00158] 本明細書で説明した技術は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。そのような技法は、汎用コンピュータ、ワイヤレス通信デバイスハンドセット、またはワイヤレス通信デバイスハンドセットおよび他のデバイスにおける適用例を含む複数の用途を有する集積回路デバイスなど、様々なデバイスのいずれかにおいて実装され得る。モジュールまたは構成要素として説明した任意の特徴は、集積論理デバイスに一緒に、または個別であるが相互運用可能な論理デバイスとして別々に実装され得る。ソフトウェアで実装された場合、本技法は、実行されたとき、上記で説明した方法のうちの１つまたは複数を実行する命令を含むプログラムコードを備えるコンピュータ可読データ記憶媒体によって、少なくとも部分的に実現され得る。コンピュータ可読データ記憶媒体は、パッケージング材料を含むことがあるコンピュータプログラム製品の一部を形成し得る。コンピュータ可読媒体は、シンクロナスダイナミックランダムアクセスメモリ（ＳＤＲＡＭ）などのランダムアクセスメモリ（ＲＡＭ）、読取り専用メモリ（ＲＯＭ）、不揮発性ランダムアクセスメモリ（ＮＶＲＡＭ）、電気消去可能プログラマブル読取り専用メモリ（ＥＥＰＲＯＭ（登録商標））、フラッシュメモリ、磁気または光学データ記憶媒体など、メモリまたはデータ記憶媒体を備え得る。本技法は、追加または代替として、伝搬信号または電波など、命令またはデータ構造の形態でプログラムコードを搬送または伝達し、コンピュータによってアクセスされ、読み取られ、および／または実行され得るコンピュータ可読通信媒体によって、少なくとも部分的に実現され得る。

[00159] プログラムコードは、１つまたは複数のデジタル信号プロセッサ（ＤＳＰ）、汎用マイクロプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルロジックアレイ（ＦＰＧＡ）、または他の等価の集積回路もしくはディスクリート論理回路など、１つまたは複数のプロセッサを含み得るプロセッサによって実行され得る。そのようなプロセッサは、本開示で説明する技法のいずれかを実行するように構成され得る。汎用プロセッサはマイクロプロセッサであり得るが、代替として、プロセッサは、任意の従来のプロセッサ、コントローラ、マイクロコントローラ、または状態機械であり得る。プロセッサはまた、コンピューティングデバイスの組合せ、たとえば、ＤＳＰおよびマイクロプロセッサの組合せ、複数のマイクロプロセッサ、ＤＳＰコアと連携する１つもしくは複数のマイクロプロセッサ、または任意の他のそのような構成として実装され得る。したがって、本明細書で使用する「プロセッサ」という用語は、上記の構造、上記の構造の任意の組合せ、または本明細書で説明する技法の実装に好適な他の構造または装置のいずれかを指す。さらに、いくつかの態様では、本明細書で説明した機能は、符号化および復号のために構成された専用のソフトウェアモジュールもしくはハードウェアモジュール内に提供され得、または複合ビデオエンコーダ／デコーダ（コーデック）に組み込まれ得る。

[00160] 本発明の様々な実施形態について説明した。これらおよび他の実施形態は、以下の特許請求の範囲内に入る。

Claims (33)

1. ビデオ情報をコーディングするように構成された装置であって、
   参照レイヤ、エンハンスメントレイヤ、またはその両方に関連する参照レイヤピクチャを記憶するように構成されたメモリユニットと、
   前記メモリユニットに動作可能に結合されており、現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャの、レイヤ間参照ピクチャとしての使用を制限し、レイヤ間予測と前記レイヤ間参照ピクチャとを用いて前記現在のピクチャを予測するように構成されたプロセッサと、
   を備える、装置。
2. 前記プロセッサが、前記現在のピクチャを予測するために、多くとも１つのリサンプリングプロセスだけが実行されることを許可するようにさらに構成される、請求項１に記載の装置。
3. 前記プロセッサが、ビットストリーム適合制限として前記制限を与えるようにさらに構成される、請求項１に記載の装置。
4. 前記プロセッサが、スライスヘッダ中で参照レイヤ識別を示すシンタックス要素をシグナリングするようにさらに構成され、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項１に記載の装置。
5. 前記プロセッサが、ピクチャパラメータセット（ＰＰＳ）中で参照レイヤ識別を示すシンタックス要素をシグナリングするようにさらに構成され、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項１に記載の装置。
6. 前記プロセッサが、スライスの前記現在のピクチャの前記参照レイヤピクチャを示す改良されたフラグをシグナリングすることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限するように、さらに構成される、請求項１に記載の装置。
7. 前記プロセッサが、直接依存フラグに関連付けられるシンタックス要素にビットストリーム適合制限を与えることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限するようにさらに構成され、ここにおいて、前記直接依存フラグが、前記参照レイヤに関連付けられるピクチャが前記エンハンスメントレイヤの参照ピクチャであるかどうかを示す、請求項１に記載の装置。
8. 前記プロセッサが、前記現在のピクチャのレイヤＩＤに最も近いレイヤＩＤを有する前記参照レイヤピクチャのみを用いることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限するようにさらに構成される、請求項１に記載の装置。
9. 前記プロセッサが、レイヤ間予測と前記レイヤ間参照ピクチャとを用いて前記現在のピクチャを符号化することによって、前記現在のピクチャを予測するように構成される、請求項１に記載の装置。
10. 前記プロセッサが、レイヤ間予測と前記レイヤ間参照ピクチャとを用いて前記現在のピクチャを復号することによって、前記現在のピクチャを予測するように構成される、請求項１に記載の装置。
11. デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末（ＰＤＡ）、ラップトップコンピュータ、デスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダ、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲームデバイス、ビデオゲームコンソール、セルラー電話、衛星無線電話、スマートフォン、ビデオ遠隔会議デバイス、およびビデオストリーミングデバイスのうちの１つまたは複数からなる群から選択されるデバイスをさらに備える、請求項１に記載の装置。
12. ビデオ情報を復号する方法であって、
    現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、
    前記レイヤ間参照ピクチャとして使用するために前記多くとも１つの参照レイヤピクチャを決定することと、
    レイヤ間予測と前記レイヤ間参照ピクチャとを用いて現在のピクチャを復号することと、
    を備える、方法。
13. 前記現在のピクチャを予測するために、多くとも１つのリサンプリングプロセスだけが実行されることを許可することをさらに備える、請求項１２に記載の方法。
14. ビットストリーム適合制限として前記制限を与えることをさらに備える、請求項１２に記載の方法。
15. スライスヘッダ中で参照レイヤ識別を示すシンタックス要素をシグナリングすることをさらに備え、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項１２に記載の方法。
16. ピクチャパラメータセット（ＰＰＳ）中で参照レイヤ識別を示すシンタックス要素をシグナリングすることをさらに備え、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項１２に記載の方法。
17. スライスの前記現在のピクチャの前記参照レイヤピクチャを示す改良されたフラグをシグナリングすることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限することをさらに備える、請求項１２に記載の方法。
18. 直接依存フラグに関連付けられるシンタックス要素にビットストリーム適合制限を与えることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限することをさらに備え、ここにおいて、前記直接依存フラグが、前記参照レイヤに関連付けられるピクチャがエンハンスメントレイヤの参照ピクチャであるかどうかを示す、請求項１２に記載の方法。
19. 前記現在のピクチャのレイヤＩＤに最も近いレイヤＩＤを有する前記参照レイヤピクチャのみを用いることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限することをさらに備える、請求項１２に記載の方法。
20. ビデオ情報を符号化する方法であって、
    多くとも１つのリサンプリングされた参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、
    前記レイヤ間参照ピクチャとして使用するために前記多くとも１つの参照レイヤピクチャを決定することと、
    レイヤ間予測と前記レイヤ間参照ピクチャとを用いて現在のピクチャを符号化することと、
    を備える、方法。
21. 前記現在のピクチャを予測するために、多くとも１つのリサンプリングプロセスだけが実行されることを許可することをさらに備える、請求項２０に記載の方法。
22. ビットストリーム適合制限として前記制限を与えることをさらに備える、請求項２０に記載の方法。
23. スライスヘッダ中で参照レイヤ識別を示すシンタックス要素をシグナリングすることをさらに備え、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項２０に記載の方法。
24. ピクチャパラメータセット（ＰＰＳ）中で参照レイヤ識別を示すシンタックス要素をシグナリングすることをさらに備え、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項２０に記載の方法。
25. スライスの前記現在のピクチャの前記参照レイヤピクチャを示す改良されたフラグをシグナリングすることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限することをさらに備える、請求項２０に記載の方法。
26. 直接依存フラグに関連付けられるシンタックス要素にビットストリーム適合制限を与えることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限することをさらに備え、ここにおいて、前記直接依存フラグが、前記参照レイヤに関連付けられるピクチャがエンハンスメントレイヤの参照ピクチャであるかどうかを示す、請求項２０に記載の方法。
27. 前記現在のピクチャのレイヤＩＤに最も近いレイヤＩＤを有する前記参照レイヤピクチャのみを用いることによって、レイヤ間参照ピクチャとして多くとも１つの参照レイヤピクチャの使用を制限することをさらに備える、請求項２０に記載の方法。
28. ビデオ情報をコーディングするための装置であって、
    現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えるための手段と、
    前記レイヤ間参照ピクチャとして使用するために前記多くとも１つの参照レイヤピクチャを決定するための手段と、
    レイヤ間予測と前記レイヤ間参照ピクチャとを用いて前記現在のピクチャを予測するための手段と、
    を備える、装置。
29. 前記現在のピクチャを予測するために、多くとも１つのリサンプリングプロセスだけが実行されることを許可するための手段をさらに備える、請求項２８に記載の装置。
30. スライスヘッダ中で参照レイヤ識別を示すシンタックス要素をシグナリングするための手段をさらに備え、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項２８に記載の装置。
31. コンピューティングハードウェアを備えるプロセッサ上で実行されたとき、前記プロセッサに、
    現在のピクチャとは異なる空間解像度を有する多くとも１つの参照レイヤピクチャが、レイヤ間参照ピクチャとして使用され得るという制限を与えることと、
    前記レイヤ間参照ピクチャとして使用するために前記多くとも１つの参照レイヤピクチャを決定することと、
    レイヤ間予測と前記レイヤ間参照ピクチャとを用いて前記現在のピクチャを予測することと、
    を行わせる特定の命令を備える、非一時的コンピュータ可読媒体。
32. 前記命令が、前記プロセッサに、前記現在のピクチャを予測するために、多くとも１つのリサンプリングプロセスだけが実行されることを許可することをさらに行わせる、請求項３１に記載の非一時的コンピュータ可読媒体。
33. 前記命令が、前記プロセッサに、スライスヘッダ中で参照レイヤ識別を示すシンタックス要素をシグナリングすることをさらに行わせ、ここにおいて、前記参照レイヤ識別が、前記レイヤ間参照ピクチャとして使用されるべき前記参照レイヤピクチャを示す、請求項３１に記載の非一時的コンピュータ可読媒体。

Images