JP2024009189A - ビデオ符号化のための方法、装置およびコンピュータ・プログラム - Google Patents

Abstract

【課題】本開示の諸側面は、ビデオ・エンコード／デコードのための方法、装置、および非一時的なコンピュータ読み取り可能記憶媒体を提供する。【解決手段】装置は、現在のピクチャー内の現在ブロックについての予測情報をデコードする処理回路を含む。予測情報は、現在ブロックについて適応色変換（ACT）が有効にされるかどうかを示すことができる。処理回路は、ACTが現在ブロックについて有効であるかどうかに基づいて最大変換サイズを決定する。処理回路は、少なくとも最大変換サイズに基づいて、サブブロック変換（SBT）が現在ブロックに適用されるかどうかを判定し、SBTが現在ブロックに適用されると判定されることに基づいて、現在ブロックに対してSBTを実行することができる。最大変換サイズは、現在ブロックでACTが無効になっている場合には第1の最大変換サイズであり、現在ブロックでACTが有効になっている場合には第2の最大変換サイズであると決定される。【選択図】図７

Description

引用による組み込み
本願は、2021年3月24日に出願された米国特許出願第17/211,199号「ビデオ符号化のための方法および装置」に対する優先権の利益を主張する。同出願は、2020年4月13日に出願された米国仮出願第63/009,293号「変換サイズのCUレベル制約および適応色変換のためのサブブロック変換」に対する優先権の利益を主張する。先の出願の開示全体は、その全体が参照により本明細書に組み込まれる。

技術分野
本開示は、ビデオ符号化〔コーディング〕に一般的に関連する実施形態を記載する。

本明細書で提供される背景説明は、本開示の文脈を概括的に提示するためのものである。本願で名前が挙がっている発明者の仕事であってその仕事がこの背景セクションに記載されている範囲におけるもの、また、他の意味で出願時に先行技術として適格でないことがありうる本記述の諸側面は、明示的にも暗黙的にも本開示に対する先行技術として認められない。

ビデオ符号化および復号は、動き補償を伴うピクチャー間予測を用いて実行できる。非圧縮デジタル・ビデオは、一連のピクチャーを含むことができ、各ピクチャーは、たとえば1920×1080のルミナンス・サンプルおよび関連するクロマ・サンプルの空間的寸法を有する。一連のピクチャーは、固定または可変のピクチャー・レート（非公式にはフレーム・レートとしても知られる）、たとえば、60ピクチャー毎秒または60Hzを有することができる。非圧縮ビデオは、かなりのビットレート要件を有する。たとえば、サンプル当たり8ビットの1080p60 4:2:0ビデオ（60Hzのフレーム・レートでの1920×1080のルミナンス・サンプル解像度）は、1.5Gbit/sに近い帯域幅を必要とする。そのようなビデオの1時間は、600Gバイトを超える記憶スペースを必要とする。

ビデオ符号化および復号の1つの目的は、圧縮による入力ビデオ信号の冗長性の低減でありうる。圧縮は、前述の帯域幅または記憶スペースの要求を、場合によっては2桁以上も低減するのに役立つことがある。可逆圧縮および不可逆圧縮の両方、ならびにそれらの組み合わせを用いることができる。可逆圧縮とは、圧縮されたもとの信号から、もとの信号の正確なコピーが再構成できる技術をいう。不可逆圧縮を使用する場合、再構成された信号は、もとの信号と同一ではないことがありうるが、もとの信号と再構成された信号との間の歪みは、再構成された信号を意図された用途のために有用にするのに十分小さい。ビデオの場合、不可逆圧縮が広く用いられている。許容される歪みの量はアプリケーションに依存し、たとえば、ある種の消費者ストリーミングアプリケーションのユーザーは、テレビ配信アプリケーションのユーザーよりも高い歪みを許容することがある。達成可能な圧縮比は、より高い許容可能／認容可能な歪みはより高い圧縮比をもたらすことができる、ということを反映できる。

ビデオ・エンコーダおよびデコーダは、たとえば動き補償、変換、量子化、およびエントロピー符号化を含むいくつかの広範なカテゴリーからの技術を利用することができる。

ビデオ・コーデック技術は、イントラ符号化として知られる技術を含むことができる。イントラ符号化では、サンプル値は、以前に再構成された参照ピクチャーからのサンプルまたは他のデータを参照することなく表現される。いくつかのビデオ・コーデックでは、ピクチャーは空間的にサンプルのブロックに分割される。サンプルのすべてのブロックがイントラモードで符号化される場合、そのピクチャーはイントラ・ピクチャーでありうる。イントラ・ピクチャーと、独立デコーダ・リフレッシュ・ピクチャーのようなその派生物は、デコーダ状態をリセットするために使用でき、よって、符号化ビデオ・ビットストリームおよびビデオセッションにおける最初のピクチャーとして、または静止画像として使用できる。イントラ・ブロックのサンプルを変換にかけることができ、変換係数は、エントロピー符号化の前に量子化されることができる。イントラ予測は、変換前領域におけるサンプル値を最小化する技術でありうる。場合によっては、変換後のDC値が小さく、AC係数が小さいほど、エントロピー符号化後のブロックを表わすために所与の量子化ステップサイズで必要とされるビット数が少なくなる。

たとえばMPEG-2世代の符号化技術から知られているような伝統的なイントラ符号化は、イントラ予測を使用しない。しかしながら、いくつかのより新しいビデオ圧縮技術は、たとえば、空間的に近傍であり、デコード順で先行するデータのブロックのエンコード／デコード中に得られた周囲のサンプル・データおよび／またはメタデータから試みる技術を含む。そのような技法は、以下では「イントラ予測」技法と呼ばれる。少なくともいくつかの場合には、イントラ予測は再構成中の現在ピクチャーからの参照データのみを使用し、参照ピクチャーからの参照データは使用しないことに注意されたい。

さまざまな形のイントラ予測がありうる。所与のビデオ符号化技術において、そのような技法の二つ以上が使用できる場合、使用される技法は、イントラ予測モードで符号化されることができる。ある種の場合には、モードは、サブモードおよび／またはパラメータを有することができ、それらは、個別に符号化されることができ、またはモード符号語に含められることができる。所与のモード／サブモード／パラメータの組み合わせのためにどの符号語を使用するかは、イントラ予測を通して符号化効率利得に影響を与える可能性があり、符号語をビットストリームに変換するために使用されるエントロピー符号化技術も同様に影響を与える可能性がある。

イントラ予測のあるモードがH.264で導入され、H.265で洗練され、共同探査モデル（JEM）、多用途ビデオ符号化（VVC）、およびベンチマークセット（BMS）のようなより新しい符号化技術においてさらに洗練された。予測子ブロックは、すでに利用可能なサンプルに属する近傍サンプル値を使用して形成されることができる。近傍サンプルのサンプル値が、ある方向に従って予測子ブロックにコピーされる。使用される方向への参照は、ビットストリームにおいて符号化されることができ、またはそれ自身予測されてもよい。

図1Aを参照すると、右下に、H.265の33個の可能な予測子方向（35個のイントラモードのうち33個の角度モードに対応する）から知られている9個の予測子方向のサブセットが描かれている。矢印が収束する点（101）は、予測されるサンプルを表わす。矢印は、サンプルが予測される方向を表わす。たとえば、矢印（102）は、サンプル（101）が、水平から45度の角度の右上のサンプル（単数または複数）から予測されることを示す。同様に、矢印（103）は、サンプル（101）が、水平から22.5度の角度の、サンプル（101）の左下のサンプル（単数または複数）から予測されることを示す。

引き続き図1Aを参照すると、左上には、4×4サンプルの正方形ブロック（104）が描かれている（太い破線で示されている）。正方形ブロック（104）は、16個のサンプルを含み、各サンプルは「S」とY次元におけるその位置（たとえば、行インデックス）およびX次元におけるその位置（たとえば、列インデックス）でラベル付けされている。たとえば、サンプルS21は、Y次元の（上から）2番目のサンプルであり、X次元の（左から）最初のサンプルである。同様に、サンプルS44は、YおよびX次元の両方においてブロック（104）内の第4のサンプルである。ブロックが4×4サンプルのサイズなので、S44は右下にある。さらに、同様の番号付けスキームに従う参照サンプルが示されている。参照サンプルは、Rと、ブロック（104）に対するそのY位置（たとえば、行インデックス）およびX位置（列インデックス）でラベル付けされる。H.264とH.265の両方において、予測サンプルは再構成中のブロックの近傍であり、そのため負の値を使用する必要はない。

ピクチャー内予測は、信号伝達される予測方向によって充当される近傍サンプルから参照サンプル値をコピーすることによって機能できる。たとえば、符号化ビデオ・ビットストリームは、このブロックについて、矢印（102）と整合する予測方向を示す信号伝達を含むと想定する。すなわち、サンプルは、水平から45度の角度の右上の予測サンプル（単数または複数）から予測される。その場合、サンプルS41、S32、S23、およびS14は、同じ参照サンプルR05から予測される。次いで、サンプルS44は、参照サンプルR08から予測される。

ある種の場合には、特に方向が45度で割り切れない場合には、参照サンプルを計算するために、複数の参照サンプルの値が、たとえば補間によって組み合わされることができる。

ビデオ符号化技術の発達に伴い、可能な方向の数が増加してきた。H.264（2003年）では、9つの異なる方向が表現できた。これは、H.265（2013年）では33に増加し、本開示の時点でのJEM/VVC/BMSは、最大65の方向をサポートできる。最も可能性の高い方向を同定するために実験が行われ、より可能性の低い方向についてのあるペナルティを受け入れつつ、それらの可能性の高い方向を少数のビットで表現するために、エントロピー符号化におけるある種の技法が使用される。さらに、方向自身が、近傍のすでにデコードされたブロックで使用された近傍方向から予測できることがある。

図1Bは、時間とともに増加する予測方向の数を示すために、JEMによる65個のイントラ予測方向を描く概略図（105）を示している。

方向を表わす符号化ビデオ・ビットストリームにおけるイントラ予測方向ビットのマッピングは、ビデオ符号化技術ごとに異なることができ、たとえば、予測方向のイントラ予測モードへの単純な直接的マッピングから、符号語、最確モードに関わる複雑な適応方式、および同様の技法までありうる。しかしながら、どの場合でも、ビデオコンテンツにおいて、他のある種の方向よりも統計的に起こりにくいある種の方向が存在しうる。ビデオ圧縮の目標は冗長性の低減であるので、良好に機能するビデオ符号化技術においては、そうしたより可能性の低い方法は、より可能性の高い方向よりもより多くのビット数によって表わされる。

動き補償は、不可逆圧縮技法であることがあり、かつ、以前に再構成されたピクチャーまたはその一部（参照ピクチャー）からのサンプル・データのブロックが、動きベクトル（以下、MV）によって示される方向に空間的にシフトされた後に、新しく再構成されるピクチャーまたはその一部の予測のために使用される技法に関することができる。場合によっては、参照ピクチャーは、現在再構成中のピクチャーと同じであることもできる。MVは、XおよびYの2次元、または3次元を有することができ、第3の次元は、使用される参照ピクチャーの指示である（これは、間接的に、時間次元でありうる）。

いくつかのビデオ圧縮技術では、サンプル・データのある領域に適用可能なMVは、他のMVから、たとえば、再構成中の領域に空間的に隣接し、デコード順でそのMVに先行するサンプル・データの別の領域に関連するMVから予測されることができる。そうすることにより、MVの符号化に必要とされるデータ量を大幅に削減することができ、それにより冗長性を除去し、圧縮を増加させることができる。MV予測が有向に機能できるのは、たとえば、カメラから導出される入力ビデオ信号（ナチュラルビデオとして知られる）を符号化する際に、単一のMVが適用可能である領域よりも大きな領域が同様の方向に移動し、よって、ある種の場合には、近傍領域のMVから導出された同様のMVを用いて予測できるという、統計的確からしさがあるからである。その結果、所与の領域について見出されるMVが、周囲のMVから予測されるMVと同様または同一であることになり、そして、それは、エントロピー符号化の後、MVを直接符号化する場合に使用されるであろうものよりも少数のビットで表現できる。いくつかの場合には、MV予測は、もとの信号（すなわち、サンプルストリーム）から導出された信号（すなわち、MV）の可逆圧縮の例でありうる。他の場合には、MV予測自身が、たとえば、いくつかの周囲のMVから予測子を計算する際の丸め誤差のために、不可逆であることがある。

H.265/HEVC（ITU-T Rec. H.265、「高効率ビデオ符号化」（High Efficiency Video Coding）、December 2016）には、さまざまなMV予測機構が記述されている。H.265が提供する多くのMV予測機構のうち、本明細書では、以後、「空間マージ（spatial merge）」と呼ばれる技法が記載される。

図1Cを参照すると、現在ブロック（101）は、空間的にシフトされた同じサイズの前のブロックから予測可能であることが、動き探索プロセスの間にエンコーダによって見出されたサンプルを含むことができる。そのMVを直接符号化する代わりに、MVは、一つまたは複数の参照ピクチャーに関連付けられたメタデータから、たとえば（デコード順で）最新の参照ピクチャーから、A0、A1、およびB0、B1、B2（それぞれ112ないし116）と記される5つの周囲のサンプルのいずれかに関連付けられたMVを使用して、導出できる。H.265では、MV予測は、近傍ブロックが使用しているのと同じ参照ピクチャーからの予測子を使用することができる。

本開示の諸側面は、ビデオ・エンコード／デコードのための方法および装置を提供する。装置は、現在のピクチャー内の現在ブロックについての予測情報をデコードするように構成された処理回路を含むことができる。予測情報は、現在ブロックについて適応色変換（ACT）が有効にされるかどうかを示すことができる。処理回路は、ACTが現在ブロックについて有効にされるかどうかに基づいて、最大変換サイズを決定するように構成される。処理回路は、少なくとも最大変換サイズに基づいて、サブブロック変換（SBT）が現在ブロックに適用されるかどうかを判定し、SBTが現在ブロックに適用されると判定されることに基づいて、現在ブロックに対してSBTを実行するように構成される。

ある実施形態では、処理回路は、ACTが現在ブロックについて無効にされることに基づいて、最大変換サイズを第1の最大変換サイズであるよう決定し、ACTが現在ブロックについて有効にされることに基づいて、最大変換サイズを第2の最大変換サイズであるよう決定するように構成される。第1の最大変換サイズは、第2の最大変換サイズよりも大きくてもよい。一例では、第2の最大変換サイズは32サンプルである。

処理回路は、少なくとも現在ブロックの幅または高さが最大変換サイズより大きくないことに基づいて、SBTが現在ブロックに適用されることを決定するように構成されることができる。一例では、処理回路は、少なくとも現在ブロックの幅および高さが最大変換サイズよりも大きくないことに基づいて、SBTが現在ブロックに適用されることを決定するように構成される。

ある実施形態では、処理回路は、現在ブロックについてのACTフラグをデコードするように構成され、予測情報内のACTフラグは、現在ブロックについてACTが有効にされるかどうかを示す。ある実施形態では、処理回路は、現在ブロックについてのACTフラグが予測情報において信号伝達されないことに基づいて、現在ブロックについてACTが無効にされていると推測するように構成される。

一例では、予測情報は、現在ブロックについてACTが有効にされることを示す。処理回路は、前記最大変換サイズを、現在ブロックについてACTが有効にされることに対応する前記第2の最大変換サイズであるように決定するように構成される。処理回路は、現在ブロックの幅および高さが第2の最大変換サイズより大きくないことに基づいて、SBTが現在ブロックに適用されることを決定するように構成される。

一例では、予測情報は、現在ブロックについてACTが無効にされることを示す。処理回路は、前記最大変換サイズを、現在ブロックに対してACTが無効にされることに対応する前記第1の最大変換サイズであるように決定するように構成される。処理回路は、現在ブロックの幅および高さが第1の最大変換サイズより大きくないことに基づいて、SBTが現在ブロックに適用されることを決定するように構成される。

本開示の諸側面は、ビデオ・エンコード／デコードのためにコンピュータによって実行されたときに、コンピュータにビデオ・エンコード／デコードのための上記の諸方法のいずれかまたは組み合わせを実行させる命令を記憶している非一時的なコンピュータ読み取り可能記憶媒体をも提供する。

開示された主題のさらなる特徴、性質、およびさまざまな利点は、以下の詳細な説明および添付の図面からより明白になるであろう。

イントラ予測モードの例示的なサブセットの概略図である。

例示的なイントラ予測方向の説明図である。

一例における現在ブロックおよびその周囲の空間的マージ候補の概略図である。

ある実施形態による通信システムの簡略化されたブロック図の概略図である。

ある実施形態による通信システムの簡略化されたブロック図の概略図である。

ある実施形態によるデコーダの簡略化されたブロック図の概略図である。

ある実施形態によるエンコーダの簡略化されたブロック図の概略図である。

別の実施形態によるエンコーダのブロック図を示す。

別の実施形態によるデコーダのブロック図を示す。

ある実施形態による色変換を使用する例示的なエンコード・フローを示す;

ある実施形態による色変換を使用する例示的なデコード・フローを示す;

ある実施形態による、適応色変換を使用する例示的なデコード・フローを示す。

A～Dは、本開示の実施形態によるサブブロック変換の例を示す;

本開示の実施形態による、サブブロック変換および適応色変換に関連する符号化単位レベルの信号伝達のための例示的な構文表を示す。

ある実施形態による例示的なフローチャートを示す。

ある実施形態によるコンピュータ・システムの概略図である。

I.ビデオ・デコーダおよびエンコーダ・システム

図2は、本開示のある実施形態による通信システム（200）の簡略化されたブロック図を示す。通信システム（200）は、たとえばネットワーク（250）を介して互いに通信することができる複数の端末装置を含む。たとえば、通信システム（200）は、ネットワーク（250）を介して相互接続された第1の対の端末装置（210）および（220）を含む。図2の例では、第1の対の端末装置（210）および（220）は、データの一方向伝送を実行する。たとえば、端末装置（210）は、ネットワーク（250）を介した他方の端末装置（220）への伝送のために、ビデオ・データ（たとえば、端末装置（210）によって捕捉されたビデオ・ピクチャーのストリーム）を符号化してもよい。エンコードされたビデオ・データは、一つまたは複数の符号化ビデオ・ビットストリームの形で伝送されることができる。端末装置（220）は、ネットワーク（250）から、符号化ビデオ・データを受信し、符号化ビデオ・データをデコードしてビデオ・ピクチャーを復元し、復元されたビデオ・データに従ってビデオ・ピクチャーを表示してもよい。一方向データ伝送は、メディア・サービス・アプリケーション等において一般的でありうる。

別の例では、通信システム（200）は、たとえばビデオ会議中に発生しうる符号化されたビデオ・データの双方向伝送を実行する第2の対の端末装置（230）および（240）を含む。データの双方向伝送のために、一例では、端末装置（230）および（240）の各端末装置は、ネットワーク（250）を介した、端末装置（230）および（240）のうちの他方の端末装置への伝送のために、ビデオ・データ（たとえば、端末装置によって捕捉されたビデオ・ピクチャーのストリーム）を符号化してもよい。端末装置（230）および（240）の各端末装置は、端末装置（230）および（240）のうちの他方の端末装置によって送信された符号化されたビデオ・データを受信してもよく、符号化されたビデオ・データをデコードして、ビデオ・ピクチャーを復元し、復元されたビデオ・データに従って、アクセス可能な表示装置においてビデオ・ピクチャーを表示してもよい。

図2の例では、端末装置（210）、（220）、（230）および（240）は、サーバー、パーソナルコンピュータおよびスマートフォンとして示されてもよいが、本開示の原理は、それに限定されなくてもよい。本開示の実施形態は、ラップトップ・コンピュータ、タブレット・コンピュータ、メディア・プレーヤー、および／または専用のビデオ会議設備での応用を見出す。ネットワーク（250）は、たとえば有線（ワイヤード）および／または無線〔ワイヤレス〕通信ネットワークを含む、端末装置（210）、（220）、（230）および（240）の間で符号化されたビデオ・データを伝達する任意の数のネットワークを表わす。通信ネットワーク（250）は、回線交換および／またはパケット交換チャネルにおいてデータを交換してもよい。代表的なネットワークは、遠隔通信ネットワーク、ローカルエリアネットワーク、ワイドエリアネットワークおよび／またはインターネットを含む。今の議論の目的のために、ネットワーク（250）のアーキテクチャーおよびトポロジーは、以下に説明しない限り、本開示の動作には重要ではないことがある。

図3は、開示される主題のためのアプリケーションの例として、ストリーミング環境におけるビデオ・エンコーダおよびビデオ・デコーダの配置を示す。開示される主題は、たとえば、ビデオ会議、デジタルTV、CD、DVD、メモリースティックなどを含むデジタル媒体上の圧縮ビデオの記憶などを含む、他のビデオ対応アプリケーションにも等しく適用可能でありうる。

ストリーミング・システムは、ビデオ源（301）、たとえばデジタル・カメラを含むことができ、たとえば非圧縮のビデオ・ピクチャーのストリーム（302）を生成する捕捉サブシステム（313）を含んでいてもよい。一例では、ビデオ・ピクチャーのストリーム（302）は、デジタル・カメラによって取り込まれたサンプルを含む。エンコードされたビデオ・データ（304）（または符号化されたビデオ・ビットストリーム）と比較した場合の高いデータ・ボリュームを強調するために太線として描かれているビデオ・ピクチャーのストリーム（302）は、ビデオ源（301）に結合されたビデオ・エンコーダ（303）を含む電子装置（320）によって処理されることができる。ビデオ・エンコーダ（303）は、以下により詳細に説明されるように、開示される主題の諸側面を可能にし、または実現するためのハードウェア、ソフトウェア、またはそれらの組み合わせを含むことができる。ビデオ・ピクチャーのストリーム（302）と比較した場合の、より低いデータ・ボリュームを強調するために細い線として描かれている、エンコードされたビデオ・データ（304）（またはエンコードされたビデオ・ビットストリーム（304））は、将来の使用のためにストリーミング・サーバー（305）に記憶されることができる。図3のクライアント・サブシステム（306）および（308）のような一つまたは複数のストリーミング・クライアント・サブシステムは、ストリーミング・サーバー（305）にアクセスして、エンコードされたビデオ・データ（304）のコピー（307）および（309）を取り出すことができる。クライアント・サブシステム（306）は、たとえば電子装置（330）内にビデオ・デコーダ（310）を含むことができる。ビデオ・デコーダ（310）は、エンコードされたビデオ・データの入来コピー（307）をデコードし、ディスプレイ（312）（たとえば表示画面）または他のレンダリング装置（図示せず）上にレンダリングできるビデオ・ピクチャーの出ていくストリーム（311）を生成する。いくつかのストリーミング・システムでは、エンコードされたビデオ・データ（304）、（307）、および（309）（たとえば、ビデオ・ビットストリーム）は、ある種のビデオ符号化／圧縮標準に従ってエンコードされることができる。これらの標準の例は、ITU-T勧告H.265を含む。一例では、開発中のビデオ符号化規格は、非公式に多用途ビデオ符号化（VVC）として知られている。開示される主題は、VVCの文脈で使用されてもよい。

電子装置（320）および（330）は、他の構成要素（図示せず）を含むことができることを注意しておく。たとえば、電子装置（320）は、ビデオ・デコーダ（図示せず）を含むことができ、電子装置（330）は、ビデオ・エンコーダ（図示せず）も含むことができる。

図4は、本開示のある実施形態によるビデオ・デコーダ（410）のブロック図を示す。ビデオ・デコーダ（410）は、電子装置（430）に含まれることができる。電子装置（430）は、受領器（431）（たとえば、受領回路）を含むことができる。ビデオ・デコーダ（410）は、図3の例におけるビデオ・デコーダ（310）の代わりに使用できる。

受領器（431）は、ビデオ・デコーダ（410）によってデコードされるべき一つまたは複数の符号化ビデオ・シーケンスを受領してもよい；同じまたは別の実施形態において、一度に1つの符号化ビデオ・シーケンスであり、各符号化ビデオ・シーケンスのデコードは、他の符号化ビデオ・シーケンスから独立である。符号化ビデオ・シーケンスは、チャネル（401）から受信されてもよく、該チャネルは、エンコードされたビデオ・データを記憶する記憶装置へのハードウェア／ソフトウェア・リンクであってもよい。受領器（431）は、エンコードされたビデオ・データを、他のデータ、たとえば符号化されたオーディオ・データおよび／または補助データ・ストリームと一緒に受領してもよく、これらのデータは、それぞれの使用エンティティ（図示せず）を転送されてもよい。受領器（431）は、符号化ビデオ・シーケンスを他のデータから分離することができる。ネットワーク・ジッタ対策として、バッファメモリ（415）が、受領器（431）とエントロピー・デコーダ／パーサー（420）（以下「パーサー」）との間に結合されてもよい。ある種のアプリケーションでは、バッファメモリ（415）はビデオ・デコーダ（410）の一部である。他のアプリケーションでは、ビデオ・デコーダ（410）の外部にあることができる（図示せず）。さらに他のアプリケーションでは、たとえばネットワーク・ジッタに対抗するために、ビデオ・デコーダ（410）の外部にバッファメモリ（図示せず）があってもよく、さらに、たとえば再生タイミングを扱うために、ビデオ・デコーダ（410）の内部に別のバッファメモリ（415）があってもよい。受領器（431）が、十分な帯域幅および制御可能性の記憶／転送装置から、またはアイソクロナス・ネットワークからデータを受領している場合は、バッファメモリ（415）は、必要とされなくてもよく、または小さくてもよい。インターネットのようなベストエフォート型のパケット・ネットワークでの使用のためには、バッファメモリ（415）が要求されることがあり、比較的大きいことがあり、有利には適応サイズであることができ、少なくとも部分的に、ビデオ・デコーダ（410）の外部でオペレーティング・システムまたは同様の要素（図示せず）において実装されてもよい。

ビデオ・デコーダ（410）は、符号化ビデオ・シーケンスからシンボル（421）を再構成するためのパーサー（420）を含んでいてもよい。これらのシンボルのカテゴリーは、ビデオ・デコーダ（410）の動作を管理するために使用される情報と、潜在的には、レンダー装置（412）（たとえば表示画面）のようなレンダリング装置を制御するための情報とを含む。レンダー装置は、図4に示されたように、電子装置（430）の一体的な部分ではなく、電子装置（430）に結合されることができる。レンダリング装置（単数または複数）のための制御情報は、補足向上情報（Supplementary Enhancement Information）（SEIメッセージ）またはビデオユーザビリティ情報（Video Usability Information、VUI）パラメータ・セット・フラグメント（図示せず）の形であってもよい。パーサー（420）は、受領された符号化ビデオ・シーケンスをパースする／エントロピー復号することができる。符号化ビデオ・シーケンスの符号化は、ビデオ符号化技術または標準に従うことができ、可変長符号化、ハフマン符号化、コンテキスト感受性ありまたはなしの算術符号化などを含む、さまざまな原理に従うことができる。パーサー（420）は、符号化ビデオ・シーケンスから、ビデオ・デコーダ内のピクセルのサブグループのうちの少なくとも1つについてのサブグループ・パラメータのセットを、グループに対応する少なくとも1つのパラメータに基づいて、抽出することができる。サブグループは、ピクチャーグループ（Group of Pictures、GOP）、ピクチャー、タイル、スライス、マクロブロック、符号化単位（Coding Unit、CU）、ブロック、変換単位（Transform Unit、TU）、予測単位（Prediction Unit、PU）などを含むことができる。パーサー（420）はまた、符号化ビデオ・シーケンスから、変換係数、量子化器パラメータ値、MV等の情報を抽出することができる。

パーサー（420）は、バッファメモリ（415）から受領されたビデオ・シーケンスに対してエントロピー復号／パース動作を実行し、それによりシンボル（421）を生成することができる。

シンボル（421）の再構成は、符号化されたビデオ・ピクチャーまたはその諸部分のタイプ（たとえば、インターおよびイントラ・ピクチャー、インターおよびイントラ・ブロック）および他の要因に依存して、複数の異なるユニットに関わることができる。どのユニットがどのように関わるかは、符号化ビデオ・シーケンスからパーサー（420）によってパースされたサブグループ制御情報によって制御されることができる。パーサー（420）と下記の複数のユニットとの間のそのようなサブグループ制御情報の流れは、明確のため、描かれていない。

すでに述べた機能ブロックのほかに、ビデオ・デコーダ（410）は、以下に説明するように、概念的に、いくつかの機能ユニットに分割できる。商業的制約の下で機能する実際的な実装では、これらのユニットの多くは互いに密接に相互作用し、少なくとも部分的に互いに統合されることができる。しかしながら、開示される主題を記述する目的のためには、下記の機能単位への概念的な細分が適切である。

第1のユニットは、スケーラー／逆変換ユニット（451）である。スケーラー／逆変換ユニット（451）は、パーサー（420）から、量子化された変換係数および制御情報をシンボル（単数または複数）（421）として受領する。制御情報は、どの変換を使用するか、ブロック・サイズ、量子化因子、量子化スケーリング行列などを含む。スケーラー／逆変換ユニット（451）は、集計器（455）に入力できるサンプル値を含むブロックを出力することができる。

場合によっては、スケーラー／逆変換（451）の出力サンプルは、イントラ符号化されたブロック、すなわち、以前に再構成されたピクチャーからの予測情報を使用していないが、現在ピクチャーの、以前に再構成された部分からの予測情報を使用することができるブロックに関することができる。そのような予測情報は、イントラ・ピクチャー予測ユニット（452）によって提供されることができる。場合によっては、イントラ・ピクチャー予測ユニット（452）は、現在ピクチャー・バッファ（458）から取ってきた、周囲のすでに再構成された情報を使用して、再構成中のブロックと同じサイズおよび形状のブロックを生成する。現在ピクチャー・バッファ（458）は、たとえば、部分的に再構成された現在ピクチャーおよび／または完全に再構成された現在ピクチャーをバッファリングする。集計器（455）は、場合によっては、サンプル毎に、イントラ予測ユニット（452）が生成した予測情報を、スケーラー／逆変換ユニット（451）によって提供される出力サンプル情報に加算する。

他の場合には、スケーラー／逆変換ユニット（451）の出力サンプルは、インター符号化され、潜在的には動き補償されたブロックに関することができる。そのような場合、動き補償予測ユニット（453）は、予測のために使用されるサンプルを取ってくるために参照ピクチャー・メモリ（457）にアクセスすることができる。取ってきたサンプルを、ブロックに関するシンボル（421）に従って動き補償した後、これらのサンプルは、集計器（455）によってスケーラー／逆変換ユニットの出力（この場合、残差サンプルまたは残差信号と呼ばれる）に加算されて、それにより出力サンプル情報を生成することができる。動き補償ユニット（453）が予測サンプルを取ってくる参照ピクチャー・メモリ（457）内のアドレスは、シンボル（421）の形で動き補償ユニット（453）に利用可能なMVによって制御できる。該シンボルは、たとえばX、Y、および参照ピクチャー成分を有することができる。動き補償は、サンプル以下の正確なMVが使用されるときの参照ピクチャー・メモリ（457）から取ってこられるサンプル値の補間、MV予測機構などを含むことができる。

集計器（455）の出力サンプルは、ループ・フィルタ・ユニット（456）内でさまざまなループ・フィルタリング技法にかけられることができる。ビデオ圧縮技術は、ループ内フィルタ技術を含むことができる。ループ内フィルタ技術は、符号化ビデオ・シーケンス（符号化されたビデオ・ビットストリームとも呼ばれる）に含まれるパラメータによって制御され、パーサー（420）からのシンボル（421）としてループ・フィルタ・ユニット（456）に利用可能にされるが、符号化されたピクチャーまたは符号化されたビデオ・シーケンスの（デコード順で）前の部分のデコード中に得られたメタ情報に応答するとともに、以前に再構成されループ・フィルタリングされたサンプル値に応答することもできる。

ループ・フィルタ・ユニット（456）の出力はサンプル・ストリームであることができ、これは、レンダー装置（412）に出力されることができ、また将来のインターピクチャー予測において使用するために参照ピクチャー・メモリ（457）に記憶されることができる。

符号化された画像は、いったん完全に再構成されると、将来の予測のための参照ピクチャーとして使用できる。たとえば、現在ピクチャーに対応する符号化されたピクチャーが完全に再構成され、該符号化されたピクチャーが（たとえば、パーサー（420）によって）参照ピクチャーとして同定されると、現在ピクチャー・バッファ（458）は参照ピクチャーメモリ（457）の一部となることができ、後続の符号化されたピクチャーの再構成を開始する前に、新鮮な現在ピクチャー・バッファが再割当てされることができる。

ビデオ・デコーダ（410）は、ITU-T勧告H.265のような標準における所定のビデオ圧縮技術に従ってデコード動作を実行することができる。符号化ビデオ・シーケンスはビデオ圧縮技術または標準のシンタックスおよびビデオ圧縮技術または標準において文書化されているプロファイルに従うという意味で、符号化されたビデオ・シーケンスは、使用されているビデオ圧縮技術または標準によって規定されたシンタックスに準拠することができる。具体的には、プロファイルはビデオ圧縮技術または標準において利用可能なすべてのツールから、そのプロファイルのもとでの使用のためにそれだけが利用可能なツールとして、ある種のツールを選択することができる。準拠のためにはまた、符号化ビデオ・シーケンスの複雑さが、ビデオ圧縮技術または標準のレベルによって定義される範囲内にあることも必要であることがある。いくつかの場合には、レベルは、最大ピクチャー・サイズ、最大フレーム・レート、最大再構成サンプル・レート（たとえば、毎秒メガサンプルの単位で測られる）、最大参照ピクチャー・サイズなどを制約する。レベルによって設定された限界は、場合によっては、符号化ビデオ・シーケンスにおいて信号伝達される、HRDバッファ管理のための仮設参照デコーダ（Hypothetical Reference Decoder、HRD）仕様およびメタデータを通じてさらに制約されることができる。

ある実施形態において、受領器（431）は、エンコードされたビデオとともに追加の（冗長な）データを受領してもよい。追加データは、符号化されたビデオ・シーケンス（単数または複数）の一部として含まれていてもよい。追加データは、データを適正にデコードするため、および／またはもとのビデオ・データをより正確に再構成するために、ビデオ・デコーダ（410）によって使用されてもよい。追加データは、たとえば、時間的、空間的、または信号対雑音比（SNR）の向上層、冗長スライス、冗長ピクチャー、前方誤り訂正符号などの形でありうる。

図5は、本開示のある実施形態によるビデオ・エンコーダ（503）のブロック図を示している。ビデオ・エンコーダ（503）は、電子装置（520）に含まれる。電子装置（520）は、送信器（540）（たとえば、送信回路）を含む。ビデオ・エンコーダ（503）は、図3の例におけるビデオ・エンコーダ（303）の代わりに使用できる。

ビデオ・エンコーダ（503）は、ビデオ・エンコーダ（503）によって符号化されるべきビデオ画像を捕捉することができるビデオ源（501）（これは図5の例では電子装置（520）の一部ではない）からビデオ・サンプルを受領することができる。別の例では、ビデオ源（501）は、電子装置（520）の一部である。

ビデオ源（501）は、任意の好適なビット深さ（たとえば、8ビット、10ビット、12ビット、…）、任意の色空間（たとえば、BT.601 YCrCB、RGB、…）および任意の好適なサンプリング構造（たとえば、YCrCb 4:2:0、YCrCb 4:4:4）でありうるデジタル・ビデオ・サンプル・ストリームの形で、ビデオ・エンコーダ（503）によって符号化されるべき源ビデオ・シーケンスを提供することができる。メディア・サービス・システムにおいては、ビデオ源（501）は、事前に準備されたビデオを記憶している記憶装置であってもよい。ビデオ会議システムにおいては、ビデオ源（501）は、ローカルでの画像情報をビデオ・シーケンスとして捕捉するカメラであってもよい。ビデオ・データは、シーケンスで見たときに動きを付与する複数の個々のピクチャーとして提供されてもよい。ピクチャー自体は、ピクセルの空間的アレイとして編成されてもよく、各ピクセルは、使用中のサンプリング構造、色空間などに依存して、一つまたは複数のサンプルを含むことができる。当業者は、ピクセルとサンプルとの間の関係を容易に理解することができる。下記の説明は、サンプルに焦点を当てる。

ある実施形態によれば、ビデオ・エンコーダ（503）は、源ビデオ・シーケンスのピクチャーを、リアルタイムで、またはアプリケーションによって要求される任意の他の時間的制約の下で、符号化および圧縮して、符号化ビデオ・シーケンス（543）にすることができる。適切な符号化速度を施行することは、コントローラ（550）の一つの機能である。いくつかの実施形態では、コントローラ（550）は、以下に記載されるような他の機能ユニットを制御し、該他の機能ユニットに機能的に結合される。かかる結合は、明確のために描かれていない。コントローラ（550）によって設定されるパラメータは、レート制御に関連するパラメータ（ピクチャー・スキップ、量子化器、レート‐歪み最適化技法のラムダ値、…）、ピクチャー・サイズ、ピクチャーグループ（GOP）レイアウト、最大MV許容参照領域などを含むことができる。コントローラ（550）は、ある種のシステム設計のために最適化されたビデオ・エンコーダ（503）に関する他の好適な機能を有するように構成できる。

いくつかの実施形態では、ビデオ・エンコーダ（503）は、符号化ループにおいて動作するように構成される。思い切って単純化した説明として、一例では、符号化ループは、源符号化器（530）（たとえば、符号化されるべき入力ピクチャーと参照ピクチャー（算数または複数）に基づいてシンボル・ストリームのようなシンボルを生成することを受け持つ）と、ビデオ・エンコーダ（503）に埋め込まれた（ローカル）デコーダ（533）とを含むことができる。デコーダ（533）は、（リモートの）デコーダも生成するであろうのと同様の仕方でサンプル・データを生成するよう前記シンボルを再構成する（開示される主題において考慮されるビデオ圧縮技術では、シンボルと符号化ビデオ・ビットストリームとの間のどの圧縮も無損失である）。再構成されたサンプル・ストリーム（サンプル・データ）は、参照ピクチャー・メモリ（534）に入力される。シンボル・ストリームのデコードは、デコーダ位置（ローカルかリモートか）によらずビット正確な結果をもたらすので、参照ピクチャー・メモリ（534）の内容もローカル・エンコーダとリモート・エンコーダの間でビット正確である。言い換えると、エンコーダの予測部は、デコーダがデコード中に予測を使用するときに「見る」のとまったく同じサンプル値を参照ピクチャー・サンプルとして「見る」。参照ピクチャー同期性のこの基本原理（および、たとえば、チャネルエラーのために同期性が維持できない場合の結果として生じるドリフト）は、いくつかの関連技術においても使用される。

「ローカル」デコーダ（533）の動作は、図4との関連ですでに上記で詳細に述べた「リモート」デコーダ、たとえばビデオ・デコーダ（410）の動作と同じであってよい。しかしながら、暫時図4も参照すると、シンボルが利用可能であり、エントロピー符号化器（545）およびパーサー（420）による、シンボルの符号化ビデオ・シーケンスへのエンコード／デコードが可逆でありうるので、バッファメモリ（415）およびパーサー（420）を含むビデオ・デコーダ（410）のエントロピー復号部は、ローカル・デコーダ（533）においては完全には実装されなくてもよい。

この時点で行なうことができる観察は、デコーダ内に存在するパース／エントロピー復号を除くどのデコーダ技術も、対応するエンコーダ内で実質的に同一の機能的形態で存在する必要があることである。このため、開示される主題はデコーダ動作に焦点を当てる。エンコーダ技術の記述は、包括的に記述されるデコーダ技術の逆であるため、短縮することができる。ある種の領域においてのみ、より詳細な説明が必要であり、以下に提供される。

動作中、いくつかの例では、源符号化器（530）は、「参照ピクチャー」として指定された、ビデオ・シーケンスからの一つまたは複数の以前に符号化されたピクチャーを参照して、入力ピクチャーを予測的に符号化する、動き補償された予測符号化を実行することができる。このようにして、符号化エンジン（532）は、入力ピクチャーのピクセル・ブロックと、入力ピクチャーに対する予測参照として選択されうる参照ピクチャー（単数または複数）のピクセル・ブロックとの間の差分を符号化する。

ローカル・ビデオ・デコーダ（533）は、源符号化器（530）によって生成されたシンボルに基づいて、参照ピクチャーとして指定されうるピクチャーの符号化されたビデオ・データをデコードすることができる。符号化エンジン（532）の動作は、有利には、損失のあるプロセスでありうる。符号化されたビデオ・データがビデオ・デコーダ（図5には示さず）でデコードされうるとき、再構成されたビデオ・シーケンスは、典型的には、いくつかのエラーを伴う源ビデオ・シーケンスの複製でありうる。ローカル・ビデオ・デコーダ（533）は、ビデオ・デコーダによって参照ピクチャーに対して実行されうるデコード・プロセスを複製し、再構成された参照ピクチャーを参照ピクチャー・キャッシュ（534）に格納させることができる。このようにして、ビデオ・エンコーダ（503）は、遠端のビデオ・デコーダによって得られるであろう再構成された参照ピクチャーとしての共通の内容を（伝送エラーがなければ）有する再構成された参照ピクチャーのコピーを、ローカルに記憶することができる。

予測器（535）は、符号化エンジン（532）について予測探索を実行することができる。すなわち、符号化されるべき新しいピクチャーについて、予測器（535）は、新しいピクチャーのための適切な予測参照のはたらきをしうるサンプル・データ（候補参照ピクセル・ブロックとして）またはある種のメタデータ、たとえば参照ピクチャーMV、ブロック形状などを求めて、参照ピクチャー・メモリ（534）を探索することができる。予測器（535）は、適切な予測参照を見出すために、サンプル・ブロック／ピクセル・ブロック毎に（on a sample block-by-pixel block basis）動作しうる。場合によっては、予測器（535）によって得られた検索結果によって決定されるところにより、入力ピクチャーは、参照ピクチャー・メモリ（534）に記憶された複数の参照ピクチャーから引き出された予測参照を有することができる。

コントローラ（550）は、たとえば、ビデオ・データをエンコードするために使用されるパラメータおよびサブグループ・パラメータの設定を含め、源符号化器（530）の符号化動作を管理してもよい。

上記の機能ユニットすべての出力は、エントロピー符号化器（545）におけるエントロピー符号化を受けることができる。エントロピー符号化器（545）は、ハフマン符号化、可変長符号化、算術符号化などといった技術に従ってシンボルを無損失圧縮することによって、さまざまな機能ユニットによって生成されたシンボルを符号化ビデオ・シーケンスに変換する。

送信器（540）は、エントロピー符号化器（545）によって生成される符号化ビデオ・シーケンスをバッファに入れて、通信チャネル（560）を介した送信のために準備することができる。通信チャネル（560）は、エンコードされたビデオ・データを記憶する記憶装置へのハードウェア／ソフトウェア・リンクであってもよい。送信器（540）は、ビデオ符号化器（530）からの符号化されたビデオ・データを、送信されるべき他のデータ、たとえば符号化されたオーディオ・データおよび／または補助データ・ストリーム（源は図示せず）とマージすることができる。

コントローラ（550）は、ビデオ・エンコーダ（503）の動作を管理してもよい。符号化の間、コントローラ（550）は、それぞれの符号化されたピクチャーに、ある符号化ピクチャー・タイプを割り当てることができる。符号化ピクチャー・タイプは、それぞれのピクチャーに適用されうる符号化技術に影響しうる。たとえば、ピクチャーはしばしば、以下のピクチャー・タイプのうちの1つとして割り当てられることがある。

イントラピクチャー（Iピクチャー）は、予測の源としてシーケンス内の他のピクチャーを使用せずに、符号化され、デコードされうるものでありうる。いくつかのビデオ・コーデックは、たとえば、独立デコーダ・リフレッシュ（Independent Decoder Refresh、「IDR」）・ピクチャーを含む、異なるタイプのイントラ・ピクチャーを許容する。当業者は、Iピクチャーのこれらの変形、ならびにそれらのそれぞれの用途および特徴を認識する。

予測ピクチャー（Pピクチャー）は、各ブロックのサンプル値を予測するために、最大で1つのMVおよび参照インデックスを用いるイントラ予測またはインター予測を用いて符号化およびデコードされうるものでありうる。

双方向予測ピクチャー（Bピクチャー）は、各ブロックのサンプル値を予測するために、最大で2つのMVおよび参照インデックスを用いるイントラ予測またはインター予測を用いて符号化およびデコードされうるものでありうる。同様に、マルチ予測ピクチャーは、単一のブロックの再構成のために、3つ以上の参照ピクチャーおよび関連するメタデータを使用することができる。

源ピクチャーは、普通、空間的に複数のサンプル・ブロック（たとえば、それぞれ4×4、8×8、4×8、または16×16サンプルのブロック）に分割され、ブロック毎に符号化されうる。ブロックは、ブロックのそれぞれのピクチャーに適用される符号化割り当てによって決定されるところにより、他の（すでに符号化された）ブロックを参照して予測的に符号化されうる。たとえば、Iピクチャーのブロックは、非予測的に符号化されてもよく、または、同じピクチャーのすでに符号化されたブロックを参照して予測的に符号化されてもよい（空間的予測またはイントラ予測）。Pピクチャーのピクセル・ブロックは、以前に符号化された一つの参照ピクチャーを参照して、空間的予測を介してまたは時間的予測を介して予測的に符号化されてもよい。Bピクチャーのブロックは、1つまたは2つの以前に符号化された参照ピクチャーを参照して、空間的予測を介して、または時間的予測を介して予測的に符号化されてもよい。

ビデオ・エンコーダ（503）は、ITU-T勧告H.265などの所定のビデオ符号化技術または標準に従って符号化動作を実行することができる。その動作において、ビデオ・エンコーダ（503）は、入力ビデオ・シーケンスにおける時間的および空間的冗長性を活用する予測符号化動作を含む、さまざまな圧縮動作を実行することができる。よって、符号化されたビデオ・データは、使用されるビデオ符号化技術または標準によって指定されるシンタックスに準拠しうる。

ある実施形態において、送信器（540）は、エンコードされたビデオと一緒に追加データを送信してもよい。源符号化器（530）は、符号化ビデオ・シーケンスの一部としてそのようなデータを含めてもよい。追加データは、時間的／空間的／SNR向上層、冗長ピクチャーおよびスライスのような他の形の冗長データ、SEIメッセージ、VUIパラメータ・セット・フラグメントなどを含んでいてもよい。

ビデオは、時間的シーケンスにおいて複数の源ピクチャー（ビデオ・ピクチャー）として捕捉されてもよい。ピクチャー内予測（しばしば、イントラ予測と略される）は、所与のピクチャーにおける空間的相関を利用し、ピクチャー間予測は、ピクチャー間の（時間的または他の）相関を利用する。一例では、現在ピクチャーと呼ばれるエンコード／デコード対象の特定のピクチャーは、ブロックに分割される。現在ピクチャー内のブロックが、ビデオにおける、前に符号化され、かつ、まだバッファに入れられている参照ピクチャー内の参照ブロックに類似する場合、現在ピクチャー内のそのブロックは、MVと呼ばれるベクトルによって符号化できる。MVは、参照ピクチャー内の参照ブロックをポイントし、複数の参照ピクチャーが使用される場合には、参照ピクチャーを同定する第3の次元を有することができる。

いくつかの実施形態において、ピクチャー間予測において双予測技術が使用できる。双予測技術によれば、いずれもビデオにおいて現在ピクチャーよりデコード順で先行する（ただし、表示順では、それぞれ過去および将来であってもよい）第1の参照ピクチャーおよび第2の参照ピクチャーのような2つの参照ピクチャーが使用される。現在ピクチャー内のブロックは、第1の参照ピクチャー内の第1の参照ブロックをポイントする第1のMVと、第2の参照ピクチャー内の第2の参照ブロックをポイントする第2のMVとによって符号化できる。ブロックは、第1の参照ブロックと第2の参照ブロックの組み合わせによって予測できる。

さらに、符号化効率を改善するために、ピクチャー間予測においてマージモード技法が使用できる。

本開示のいくつかの実施形態によれば、ピクチャー間予測およびピクチャー内予測などの予測は、ブロックの単位で実行される。たとえば、HEVC規格によれば、ビデオ・ピクチャーのシーケンスにおけるピクチャーは、圧縮のために符号化ツリー単位（CTU）に分割され、ピクチャーにおけるそれらのCTUは、64×64ピクセル、32×32ピクセル、または16×16ピクセルなどの同じサイズを有する。一般に、CTUは、1つのルーマCTBおよび2つのクロマCTBである3つの符号化ツリーブロック（CTB）を含む。各CTUは、再帰的に、一つまたは複数の符号化単位（CU）に四分木分割されていくことができる。たとえば、64×64ピクセルのCTUは、64×64ピクセルの1つのCU、または32×32ピクセルの4つのCU、または16×16ピクセルの16個のCUに分割されることができる。一例では、各CUは、インター予測タイプまたはイントラ予測タイプのような、そのCUについての予測タイプを決定するために解析される。CUは時間的および／または空間的予測可能性に依存して、一つまたは複数の予測単位（PU）に分割される。一般に、各PUはルーマ予測ブロック（PB）および2つのクロマPBを含む。ある実施形態では、符号化（エンコード／デコード）における予測動作は、予測ブロックの単位で実行される。予測ブロックの例としてルーマ予測ブロックを用いると、予測ブロックは、8×8ピクセル、16×16ピクセル、8×16ピクセル、16×8ピクセルなど、ピクセルについての値（たとえば、ルーマ値）の行列を含む。

図6は、本開示の別の実施形態によるビデオ・エンコーダ（603）の図を示す。ビデオ・エンコーダ（603）は、ビデオ・ピクチャーのシーケンス内の現在ビデオ・ピクチャー内のサンプル値の処理ブロック（たとえば、予測ブロック）を受領し、処理ブロックを、符号化ビデオ・シーケンスの一部である符号化されたピクチャーにエンコードするように構成される。一例では、ビデオ・エンコーダ（603）は、図3の例におけるビデオ・エンコーダ（303）の代わりに使用される。

HEVCの例では、ビデオ・エンコーダ（603）は、8×8サンプルなどの予測ブロックのような処理ブロックについてサンプル値の行列を受領する。ビデオ・エンコーダ（603）は、処理ブロックが、イントラモード、インターモード、または双予測モードのどれを使用して、最もよく符号化されるかを、たとえばレート‐歪み最適化を使用して、判別する。処理ブロックがイントラモードで符号化される場合、ビデオ・エンコーダ（603）は、処理ブロックを符号化されたピクチャーにエンコードするためにイントラ予測技法を使用してもよく；処理ブロックがインターモードまたは双予測モードで符号化される場合、ビデオ・エンコーダ（603）は、処理ブロックを符号化されたピクチャーにエンコードするために、それぞれ、インター予測技法または双予測技法を使用してもよい。ある種のビデオ符号化技術では、マージモード（merge mode）は、MVが一つまたは複数のMV予測子から導出されるが前記予測子の外の符号化されたMV成分の利益のない、ピクチャー間予測サブモードでありうる。ある種の他のビデオ符号化技術では、対象ブロックに適用可能なMV成分が存在してもよい。一例では、ビデオ・エンコーダ（603）は、処理ブロックのモードを決定するためのモード決定モジュール（図示せず）などの他のコンポーネントを含む。

図6の例では、ビデオ・エンコーダ（603）は、インター・エンコーダ（630）、イントラ・エンコーダ（622）、残差計算器（623）、スイッチ（626）、残差エンコーダ（624）、全般コントローラ（621）、およびエントロピー符号化器（625）を、図6に示されるように一緒に結合されて含む。

インター・エンコーダ（630）は、現在ブロック（たとえば、処理ブロック）のサンプルを受領し、該ブロックを参照ピクチャー内の一つまたは複数の参照ブロック（たとえば、以前のピクチャーおよび後のピクチャー内のブロック）と比較し、インター予測情報（たとえば、インター・エンコード技術による冗長情報の記述、MV、マージモード情報）を生成し、該インター予測情報に基づいて、任意の好適な技法を使用してインター予測結果（たとえば、予測ブロック）を計算するように構成される。いくつかの例では、前記参照ピクチャーは、エンコードされたビデオ情報に基づいてデコードされた、デコードされた参照ピクチャーである。

イントラ・エンコーダ（622）は、現在ブロック（たとえば、処理ブロック）のサンプルを受領し、場合によっては、該ブロックを、同じピクチャー内ですでに符号化されているブロックと比較し、変換後に量子化された係数を生成し、場合によっては、イントラ予測情報（たとえば、一つまたは複数のイントラ・エンコード技法によるイントラ予測方向情報）も生成するように構成される。一例では、イントラ・エンコーダ（622）はまた、該イントラ予測情報および同じピクチャー内の参照ブロックに基づいて、イントラ予測結果（たとえば、予測ブロック）を計算する。

全般コントローラ（621）は、全般制御データを決定し、全般制御データに基づいてビデオ・エンコーダ（603）の他のコンポーネントを制御するように構成される。一例では、全般コントローラ（621）は、ブロックのモードを決定し、そのモードに基づいて制御信号をスイッチ（626）に提供する。たとえば、モードがイントラモードである場合、全般コントローラ（621）は、残差計算器（623）による使用のためにイントラモードの結果を選択するようスイッチ（626）を制御し、イントラ予測情報を選択し、イントラ予測情報をビットストリームに含めるようエントロピー・エンコーダ（625）を制御する；モードがインターモードである場合、全般コントローラ（621）は、残差計算器（623）による使用のためにインター予測の結果を選択するようスイッチ（626）を制御し、インター予測情報を選択し、インター予測情報をビットストリームに含めるようエントロピー・エンコーダ（625）を制御する。

残差計算器（623）は、受領されたブロックと、イントラ・エンコーダ（622）またはインター・エンコーダ（630）から選択された予測結果との差（残差データ）を計算するように構成される。残差エンコーダ（624）は、残差データに基づいて、残差データをエンコードして変換係数を生成するように構成される。一例では、残差エンコーダ（624）は、残差データを空間領域から周波数領域に変換し、変換係数を生成するように構成される。次いで、変換係数は、量子化処理にかけられ、量子化された変換係数を得る。さまざまな実施形態において、ビデオ・エンコーダ（603）は、残差デコーダ（628）をも含む。残差デコーダ（628）は、逆変換を実行して、デコードされた残差データを生成するように構成される。デコードされた残差データは、イントラ・エンコーダ（622）およびインター・エンコーダ（630）によって好適に使用されることができる。たとえば、インター・エンコーダ（630）は、デコードされた残差データおよびインター予測情報に基づいて、デコードされたブロックを生成することができ、イントラ・エンコーダ（622）は、デコードされた残差データおよびイントラ予測情報に基づいて、デコードされたブロックを生成することができる。デコードされたブロックは、デコードされたピクチャーを生成するために好適に処理され、デコードされたピクチャーは、メモリ回路（図示せず）内でバッファリングされ、いくつかの例では参照ピクチャーとして使用されることができる。

エントロピー・エンコーダ（625）は、エンコードされたブロックを含むようにビットストリームをフォーマットするように構成される。エントロピー・エンコーダ（625）は、HEVCのような好適な標準に従ってさまざまな情報を含めるように構成される。一例では、エントロピー・エンコーダ（625）は、全般制御データ、選択された予測情報（たとえば、イントラ予測情報またはインター予測情報）、残差情報、および他の好適な情報をビットストリーム内に含めるように構成される。開示される主題によれば、インターモードまたは双予測モードのいずれかのマージ・サブモードにおいてブロックを符号化する場合は、残差情報は存在しないことを注意しておく。

図7は、本開示の別の実施形態によるビデオ・デコーダ（710）の図を示す。ビデオ・デコーダ（710）は、符号化されたビデオ・シーケンスの一部である符号化されたピクチャーを受領し、符号化されたピクチャーをデコードして、再構成されたピクチャーを生成するように構成される。一例では、ビデオ・デコーダ（710）は、図3の例におけるビデオ・デコーダ（310）の代わりに使用される。

図7の例では、ビデオ・デコーダ（710）は、エントロピー・デコーダ（771）、インター・デコーダ（780）、残差デコーダ（773）、再構成モジュール（774）、およびイントラ・デコーダ（772）が図7に示されるように一緒に結合されたものを含む。

エントロピー・デコーダ（771）は、符号化されたピクチャーから、その符号化されたピクチャーが構成されるシンタックス要素を表わすある種のシンボルを再構成するように構成されることができる。そのようなシンボルは、たとえば、ブロックが符号化されるモード（たとえば、イントラモード、インターモード、双予測モード、マージ・サブモードまたは別のサブモードにおける後者の2つ）、イントラ・デコーダ（772）またはインター・デコーダ（780）によってそれぞれ予測のために使用されるある種のサンプルまたはメタデータを同定することができる予測情報（たとえば、イントラ予測情報またはインター予測情報など）、たとえば量子化された変換係数の形の残差情報などを含むことができる。一例では、予測モードがインターまたは双予測モードである場合、インター予測情報がインター・デコーダ（780）に提供され；予測タイプがイントラ予測タイプである場合には、イントラ予測情報がイントラ・デコーダ（772）に提供される。残差情報は、逆量子化を受けることができ、残差デコーダ（773）に提供される。

インター・デコーダ（780）は、インター予測情報を受領し、該インター予測情報に基づいてインター予測結果を生成するように構成される。

イントラ・デコーダ（772）は、イントラ予測情報を受領し、該イントラ予測情報に基づいて予測結果を生成するように構成される。

残差デコーダ（773）は、逆量子化を実行して量子化解除された変換係数を抽出し、量子化解除された変換係数を処理して、残差を周波数領域から空間領域に変換するように構成される。残差デコーダ（773）はまた、ある種の制御情報（量子化器パラメータ（QP）を含む）をも必要とすることがあり、その情報は、エントロピー・デコーダ（771）によって提供されてもよい（これは、低ボリュームの制御情報のみであるため、データ経路は描かれていない）。

再構成モジュール（774）は、空間領域において、残差デコーダ（773）によって出力される残差と、予測結果（場合に応じてイントラまたはインター予測モジュールによって出力される）とを組み合わせて、再構成されたブロックを形成するように構成され、該再構成されたブロックは再構成されたピクチャーの一部であってもよく、該再構成されたピクチャーは再構成されたビデオの一部であってもよい。視覚的品質を改善するためにブロッキング解除動作などの他の好適な動作が実行されることができることを注意しておく。

なお、ビデオ・エンコーダ（303）、（503）、（603）、およびビデオ・デコーダ（310）、（410）、（710）は、任意の好適な技法を用いて実装できる。ある実施形態では、ビデオ・エンコーダ（303）、（503）、（603）およびビデオ・デコーダ（310）、（410）、（710）は、一つまたは複数の集積回路を使用して実装できる。別の実施形態では、ビデオ・エンコーダ（303）、（503）、（603）、およびビデオ・デコーダ（310）、（410）、（710）は、ソフトウェア命令を実行する一つまたは複数のプロセッサを使用して実装できる。

II. RGBビデオのための符号化ツール

自然なコンテンツはRGB色空間で捕捉できる。RGB色空間のブロックについては、異なる色成分間に強い相関がある可能性がある。よって、色空間変換を使用して、色成分間の冗長性を除去することができる。しかしながら、スクリーンコンテンツについては、高い飽和色を有する異なる特徴を含む多くの画像ブロックが存在する可能性があり、これは、色成分間の、より低い相関につながる。これらのブロックについては、RGB色空間で直接符号化する方がより効果的である。

HEVCスクリーンコンテンツ符号化拡張（HEVC screen content coding extension、HEVC-SCC）のようないくつかの関連した例では、スクリーンコンテンツにおける画像ブロックの異なる特性を処理するために、ループ内適応色変換（adaptive color transform、ACT）をRGBビデオコンテンツの効率的な符号化のために採用することができる。ACTは残差領域で作用させることができ、色空間変換の使用を示すために、CUレベルのフラグが信号伝達されることができる。

一例では、ACTの変換行列は以下のように表すことができる。

図8Aは、本開示のある実施形態による、色変換を使用する例示的なエンコード・フローを示す。図8Aにおいて、現在ブロックの残差は、順方向色空間変換モジュール（801）にスイッチされることができる。順方向色空間変換モジュール（801）が適用された後、成分間の冗長性が依然として存在することがあり、それは、成分横断予測（cross component prediction、CCP）の適用から利益を得ることができる。よって、CCPモジュール（802）が現在ブロックに適用され、符号化効率をさらに向上させることができる。次いで、変換モジュール（803）、量子化モジュール（804）、およびエントロピー・エンコーダ（805）が、エンコード・フロー内の現在ブロックに適用されることができる。エントロピー・エンコーダ（805）からの出力またはエンコードされたビットストリームは、逆量子化モジュール（806）によってさらに処理されることができ、逆変換モジュール（807）、逆CCPモジュール（808）、および逆色空間変換モジュール（809）によって処理されて現在ブロックについて対応する残差を生成するようにスイッチされることができる。

図8Bは、本開示のある実施形態による、色変換を使用した例示的なデコード・フローを示す。図8Bでは、エントロピー・デコード・モジュール（811）および逆量子化モジュール（812）によって処理された後、エンコードされたビットストリームは、逆変換モジュール（813）、逆CCPモジュール（814）、および逆色空間変換モジュール（815）によって処理されるようにスイッチされることができる。

VVCのようないくつかの関連した例では、ACTは、4:4:4のフォーマットでビデオコンテンツの符号化効率を高めるために使用できる。図9は、本開示のある実施形態による、ACTを使用した例示的なデコード・フローを示す。図9では、色空間変換は、残差領域で行うことができる。具体的には、逆変換モジュールの後に逆ACTが追加されて、残差をYCgCo領域からRGB領域のようなもとの領域に戻す変換をすることができる。

VVCのようないくつかの関連した例では、最大変換サイズがCUの幅または高さより小さい場合を除き、CUのリーフ・ノードが変換処理の単位として使用されることができる。したがって、CUの残差を符号化するための色空間を選択するために、CUについてACTフラグが信号伝達されることができる。加えて、一例では、インター符号化またはイントラブロックコピー（IBC）符号化されるCUについて、ACTは、CUが少なくとも1つの非ゼロ係数を有する場合にのみ有効にされることができる。イントラ符号化されるCUについては、一例では、ACTは、CUが直接モード（direct mode、DM）で符号化されている場合、すなわち、CUのクロマ成分がCUのルーマ成分の同じイントラ予測モードを選択する場合にのみ有効されることができる。

一例では、ACTの変換行列は以下のように記述できる。

さらに、色変換前後の残差信号のダイナミックレンジ変化を補償するために、量子化パラメータ（QP）調整、たとえば（－5,－5,－3）が変換残差に適用されることができる。

式（3）および式（4）に示されるように、順方向および逆の色変換は、3つの成分すべての残差にアクセスする必要があることがある。よって、ACTは、3つの成分のすべての残差は利用可能でない2つのシナリオで無効にされることができる。第1のシナリオは、個別ツリー・パーティション（separate-tree partition）である。個別ツリー・パーティションが適用されるときは、1つのCTU内のルーマ・サンプルとクロマ・サンプルが、異なる構造によってパーティション分割されることができる。よって、ルーマ・ツリーにおけるCUはルーマ成分のみを含むことができ、クロマ・ツリーにおけるCUは2つのクロマ成分のみを含むことができる。第2のシナリオは、サブパーティション内予測（intra sub-partition prediction、ISP）であり、これはルーマ成分にのみ適用され、一方、クロマ信号は分割なしで符号化される。いくつかのISP関連の例では、最後のサブパーティション（単数または複数）を除き、他のサブパーティションはルーマ成分のみを含むことができる。

表1は、CUレベルのACTに関連した信号伝達を含む例示的な符号化単位構文表を示す。

表1において、変数sps_act_enabled_flagが1に等しい場合、ACTを使用することができ、変数cu_act_enabled_flagは符号化単位構文中に存在することができる。変数sps_act_enabled_flagが0に等しい場合、ACTは使用できず、変数cu_act_enabled_flagは符号化単位構文に存在しない。存在しない場合、変数sps_act_enabled_flagは0に等しいと推測できる。

変数cu_act_enabled_flagが1に等しい場合、現在のCUの残差はYCgCo色空間で符号化される。変数cu_act_enabled_flagが0に等しい場合、現在のCUの残差はRGBのようなもとの色空間で符号化される。存在しない場合、変数cu_act_enabled_flagは0に等しいと推測できる。

III. ACTについての変換サイズ制約

4:4:4画像符号化では、逆ACTを使用して色フォーマットをYCgCoフォーマットからRGB/YUVフォーマットに変換することができる。一例では、逆ACTが実行される前に、すべてのYCgCoの3つの色平面が空間領域でデコードされることができる。すなわち、逆ACTを実行する前は、3つのカラーバッファが必要とされる。たとえば、逆ACTにおけるCUのサイズがM×Nである場合、3つの平面のデコードされた残差データをバッファするために、一時バッファサイズは3×M×Nとすることができる。

いくつかの関連した例では、バッファサイズ（たとえば、一時バッファサイズ）を減らすために、64ポイント変換サイズ制約が使用される。ここで、変数sps_max_luma_transform_size_64_flagは、変数sps_act_enabled_flagが真であるとき、暗黙的に偽に設定される。よって、SPSレベルACTイネーブル・フラグが、エンコードされたシーケンス全体について真である場合、最大変換サイズは32×32に制限されることができ、64×64の変換サイズは、ACTが適用されない符号化ブロックについても許容されない。そのような例では、現在のCUのサイズが32×32より大きい場合にTU分割が必要とされ、符号化効率が低下する。

IV. ACTについてのCUレベルのTUサイズ制約

CUレベルのTUサイズ制約は、以下のように説明できる。ある実施形態では、変換単位（TU）分割は、非ACTについて（たとえば、ACTが現在ブロックについて無効にされている場合）、最大変換サイズに基づいて実装される。たとえば、現在ブロック・サイズが最大変換サイズより大きい場合、TU分割条件が記述される。ある実施形態では、TU分割は、ACTが有効にされているかどうか、およびACTが有効にされているときのあらかじめ定義された最大ACT変換サイズに基づいて実装される。たとえば、現在ブロック・サイズがACTのためのあらかじめ定義された最大変換サイズより大きい場合、TU分割条件が記述される。

V. サブブロック変換（SBT）

サブブロック変換（subblock transform、SBT）（空間的に変化する変換（spatially varying transform、SVT）と呼ばれる）を使用することができる。SBTはインター予測残差に適用できる。いくつかの例において、残差ブロックは、符号化ブロックに含まれ、符号化ブロックよりも小さい。よって、SBTにおける変換サイズは、符号化ブロック・サイズよりも小さい。残差ブロックでカバーされていない領域については、残差ゼロを仮定することができ、変換処理は実行されない。

図10A～10Dは、本開示の実施形態による、SBTにおいてサポートされる、サブブロックの型（SVT-H、SVT-V）（たとえば、水平または垂直に分割される）、サイズ、および位置（たとえば、左半分、左4分の1、右半分、右4分の1、上半分、上4分の1、下半分、下4分の1）などのSBTの例を示す。SVT-Hは水平に分割されるサブブロック型を指し、SVT-Vは垂直に分割されるサブブロック型を指す。文字"A"でラベル付けされた影付きの領域は、変換のある残差ブロックであり、その他の領域は、変換のないゼロ残差であると想定される。

VI. ACTについてのCUレベルにおけるSBTについての最大CUブロック・サイズ

SBTについての符号化単位サイズ（たとえば、CB幅および／またはCB高さ）制約条件のような、SBTについての制約は、以下のように記述される。

本開示における用語ACTは、図8A、8Bおよび図9を参照して上述した例示的な適応色変換および任意の好適な変形を指すことができる。本開示における用語SBTは、図10のA～Dまたは任意の好適な変形を参照して上述した例示的なサブブロック変換を指すことができる。

本開示の諸側面によれば、現在のピクチャー内の現在ブロック（たとえば、現在のCB）についての予測情報がデコードされることができる。予測情報は、現在ブロックについてACTが有効であるかどうかを示すことができる。現在ブロックについてACTが有効にされるかどうかに基づいて、最大変換サイズが決定されることができる。SBTが現在ブロックに適用されるかどうかは、少なくとも、ACTが現在ブロックについて有効にされるかどうかに応じて決定される最大変換サイズに基づいて、決定されることができる。SBTは、SBTが現在ブロックに適用されると判断されることに基づいて、現在ブロックに対して実行されることができる。

SBTは、少なくとも、現在ブロックのサイズ（たとえば、変数cbWidthによって示される幅）および／または変数cbHeightによって示される高さ）が最大変換サイズ（たとえば、変数CuMaxTbSizeY）より大きくないことに基づいて、現在ブロックに適用されると決定されることができる。

一例では、SBTは、少なくとも、現在ブロックの幅（変数cbWidthによって示されるような）および高さ（変数cbHeightによって示されるような）が、最大変換サイズ（たとえば、変数CuMaxTbSizeY）より大きくないことに基づいて、現在ブロックに適用されると決定されることができる。

一例では、SBTは、少なくとも、現在ブロックのサイズ（たとえば、幅および／または高さ）が最大変換サイズ（たとえば、変数CuMaxTbSizeY）未満であることに基づいて、現在ブロックに適用されると決定される。

一例では、SBTは、少なくとも、現在ブロックの幅および現在ブロックの高さが最大変換サイズ（たとえば、変数CuMaxTbSizeY）未満であることに基づいて、現在ブロックに適用されると決定される。

ある実施形態では、SBTを、たとえば、現在ブロックに適用するかどうかは、最大変換サイズ（たとえば、変数CuMaxTbSizeY）に基づいて決定されることができる。一例では、ACTが無効にされている場合、最大変換サイズは第1の最大変換サイズ（たとえば変数MaxTbSizeY）であることができる。一例では、SBTをたとえば現在ブロックに適用するかどうかは、ACTが有効にされているかどうかと、第2の最大変換サイズ（たとえば、ACTモード・オンのためのあらかじめ定義された最大変換サイズまたは変数MaxActTbSizeY）とに基づいて決定されることができる。ここで、前記最大変換サイズは前記第2の最大変換サイズである。

ある実施形態では、ACTモードがオンの符号化ブロックについて、符号化ブロック・サイズ（たとえば、符号化ブロックの高さおよび符号化ブロックの幅）が、ACTモード・オンについてのあらかじめ定義された最大変換サイズ（たとえば、第2の最大変換サイズ）より小さいか、または大きくない場合に、SBTが符号化ブロックに適用される。

ある実施形態では、ACTモードがオフの符号化ブロックについて、符号化ブロック・サイズがACTモード・オフについての最大変換サイズ（たとえば、第1の最大変換サイズ）より小さいか、または大きくない場合に、SBTが符号化ブロックに適用される。

SBTを適用するかどうかは、第1の最大変換サイズ（たとえば、変数MaxTbSizeY）だけでなく、ACTが有効にされているかどうか、およびACTモードについてのあらかじめ定義された最大変換サイズ（たとえば、変数MaxActTbSizeY）にも基づいて決定できる。ある実施形態では、ACTがオンの符号化ブロックについて、符号化ブロック・サイズが第1の最大変換サイズ（たとえば、変数MaxTbSizeY）より小さい場合、または符号化ブロック・サイズがACTモードについてのあらかじめ定義された最大変換サイズ（たとえば、変数MaxActTbSizeY）より小さい場合、SBTが適用される。

本開示の諸側面によれば、現在符号化ブロック（CB）についてのSBTについての最大ブロック・サイズは、図11を参照して記述されるように制約されることができる。SBTは、最大変換サイズ（たとえば、変数CuMaxTbSizeY）に基づいて現在のCBに適用できる。最大変換サイズは、ACTモードが有効にされるどうかに依存することができる。たとえば符号化ビデオ・ビットストリーム内のACTフラグ（たとえば、cu_act_enabled_flag）を介して、現在のCBについてACTモードが有効にされる（またはACTモードがオンである）場合、現在のCBサイズが第2の最大変換サイズ（たとえば、変数MaxActTbSizeY）より小さいか、または大きくなければ、SBTを現在のCBに適用することができる。それ以外の場合で、ACTモードが無効にされる（またはACTモードがオフである）場合、現在のCBサイズが第1の最大変換サイズ（たとえば、変数MaxTbSizeY）より小さいか、または大きくない場合、SBTを現在のCBに適用することができる。

図11を参照すると、SBTを現在のCBに適用するかどうかは、SBTフラグ（たとえば、cu_sbt_flag）（1140）によって示されることができる。

関連技術では、現在のCBについてのACTフラグ（たとえば、cu_act_enabled_flag）を信号伝達するかどうかは、ボックス（1150）において決定される。よって、現在のCBについてのACTフラグ（たとえば、cu_act_enabled_flag）を信号伝達するかどうかは、SBTフラグ（1140）によって示されるように、現在のCBにSBTを適用するかどうかを決定した後に決定される。

本開示の諸側面によれば、現在のCBについてのACTフラグ（たとえば、cu_act_enabled_flag）を信号伝達するかどうかは、ボックス（1150）の代わりにボックス（1110）で決定されるので、ボックス（1150）のテキストは削除される。よって、現在のCBについてのACTフラグ（たとえば、cu_act_enabled_flag）を信号伝達するかどうかは、現在のCBにSBTを適用するかどうかを決定する前に、決定されることができる。

本開示の諸側面によれば、現在ブロックについてのACTフラグ（たとえば、cu_act_enabled_flag）は、たとえば、現在ブロックについてACTが有効にされるかどうかを示す予測情報において、信号伝達されることができる。さらに、現在ブロックについてのACTフラグ（たとえば、cu_act_enabled_flag）がデコードされることができる。一例では、ACTフラグ（たとえば、cu_act_enabled_flag）は真であり（たとえば、ACTフラグの値は'1'）、よって、ACTが現在ブロックについて有効にされている（またはオンである）ことを示す。一例では、ACTフラグ（たとえば、cu_act_enabled_flag）が偽であり（たとえば、ACTフラグの値が'0'）、よって、ACTが現在ブロックについて無効にされている（またはオフである）ことを示す。ある実施形態では、現在ブロックについてのACTフラグ（たとえば、cu_act_enabled_flag）は、予測情報において信号伝達されない。たとえば、ACTフラグは、符号化されたビデオ・ビットストリームにおいて信号伝達されない。ACTフラグ（たとえば、cu_act_enabled_flag）が信号伝達されない場合、ACTフラグ（たとえば、cu_act_enabled_flag）は、ACTが現在ブロックについて無効にされていることを示すと推定されることができる。たとえば、ACTフラグは偽であると推定される。

ボックス（1120）および（1130）を参照すると、SBTフラグ（たとえば、cu_sbt_flag）（1140）は、たとえば、現在のCB幅（たとえば、cbWidth）および現在のCB高さ（たとえば、cbHeight）によって表される現在のCBサイズが、最大変換サイズ（たとえば、変数CuMaxTbSizeY）より大きくない場合に、信号伝達されることができる。たとえば、cbWidth<=CuMaxTbSizeYおよびcbHeight<=CuMaxTbSizeYである。

変数CuMaxTbSizeYは次のように導出できる：

式（5）を参照すると、ACTが現在ブロックについて有効になっている場合（または、現在ブロックについてACTモードがオンである、たとえばcu_act_enabled_flagが真である場合）、最大変換サイズ（たとえば、変数CuxMaxTbSizeY）は、第2の最大変換サイズ（たとえば、変数MaxActTbSizeY）であると決定されることができる。ある実施形態では、最大変換サイズ（たとえば、変数CuMaxTbSizeY）は、ACTが現在ブロックについて無効にされている場合（または、現在ブロックについてACTモードがオフである、たとえば、cu_act_enabled_flagが偽である場合）、第1の最大変換サイズ（たとえば、変数MaxTbSizeY）であると決定されることができる。一例では、第1の最大変換サイズは第2の最大変換サイズより大きい。

第2の最大変換サイズ（たとえば、変数MaxActTbSizeYの値）は32（たとえば、32ピクセルまたは32サンプル）であることができる。第1の最大変換サイズ（たとえば、変数MaxTbSizeYの値）は、64（たとえば、64ピクセルまたは64サンプル）である可能性がある。

VII. フローチャート

図12は、本開示のある実施形態によるプロセス（1200）を概説する示すフローチャートを示す。プロセス（1200）は、符号化ビデオ・シーケンスの現在のピクチャー内の現在ブロックを再構成するために使用できる。プロセス（1200）は、現在ブロックの再構成において、再構成中の現在ブロックのための予測ブロックを生成するために使用できる。本開示のブロックという用語は、予測ブロック、CB、CUなどとして解釈されうる。さまざまな実施形態では、プロセス（1200）は、端末装置（310）、（320）、（330）および（340）における処理回路、ビデオエンコーダ（403）の機能を実行する処理回路、ビデオデコーダ（410）の機能を実行する処理回路、ビデオデコーダ（510）の機能を実行する処理回路、ビデオエンコーダ（603）の機能を実行する処理回路などの処理回路によって実行される。いくつかの実施形態では、プロセス（1200）は、ソフトウェア命令で実装され、よって、処理回路がソフトウェア命令を実行すると、処理回路は、プロセス（1200）を実行する。プロセスは（S1201）で始まり、（S1210）に進む。

（S1210）では、現在のピクチャー内の現在ブロックについての予測情報がデコードされることができる。予測情報は、現在ブロックについてACTが有効にされている（またはオンにされる）かどうかを示すことができる。

ある実施形態では、現在ブロックについてのACTフラグ（たとえば、cu_act_enabled_flag）がデコードされる。予測情報におけるACTフラグは、現在ブロックについてACTが有効になっているかどうかを示す。たとえば、ACTフラグが真である場合、ACTフラグは、現在ブロックについてACTが有効にされていることを示す。ACTフラグが偽である場合、ACTフラグは、現在ブロックについてACTが無効にされることを示す。

一例では、現在ブロックについてのACTフラグは、予測情報において信号伝達されない。ACTフラグが信号伝達されない場合、ACTは現在ブロックについて無効にされると推定できる。

（S1220）において、最大変換サイズ（たとえば、変数CuMaxTbSizeY）は、たとえば式（5）を使用して、現在ブロックについてACTが有効にされるかどうかに基づいて決定されることができる。

一例では、ACTは現在ブロックについて有効にされており、よって、最大変換サイズ（たとえば、変数CuxMaxTbSizeY）は、第2の最大変換サイズ（たとえば、変数MaxActTbSizeY）であると決定されることができる。一例では、ACTは現在ブロックについて無効にされており、よって、最大変換サイズは第1の最大変換サイズ（たとえば、変数MaxTbSizeY）であると決定できる。一例では、第2の最大変換サイズ（たとえば、32ピクセルまたはサンプル）は、第1の最大変換サイズ（たとえば、64ピクセルまたはサンプル）よりも小さい。

（S1230）において、現在ブロックにSBTが適用されるか否かは、少なくとも、現在ブロックについてACTが有効にされるか否かに応じて決定される最大変換サイズに基づいて、決定できる。SBTが現在ブロックに適用されると決定された場合、プロセス（1200）は（S1240）に進む。そうでない場合、プロセス（1200）は（S1299）に進み、終了する。

たとえば、現在ブロックの幅（たとえば、変数cbWidth）および高さ（たとえば、変数cbHeight）が最大変換サイズ（たとえば、変数CuMaxTbSizeY）より大きくなければ、SBTは現在ブロックに適用されると決定される。

（S1240）において、SBTは、図10のA～Dを参照して記述されたように、現在ブロックに対して実行されることができる。プロセス（1200）は（S1240）に進み、終了する。

プロセス（1200）は、適切に適応されることができる。プロセス（1200）におけるステップは、修正および／または省略することができる。追加のステップが追加できる。任意の好適な実装順序を使用することができる。

一例では、予測情報は、現在ブロックについてACTが有効にされることを示す。最大変換サイズ（たとえば、変数CuMaxTbSizeY）は、現在ブロックについてACTが有効にされていることに対応する第2の最大変換サイズ（たとえば、変数MaxActTbSizeY）であると決定されることができる。SBTは、現在ブロックの幅（たとえば、変数cbWidth）および高さ（たとえば、変数cbHeight）が第2の最大変換サイズ（たとえば、変数MaxActTbSizeY）より大きくないことに基づいて、現在ブロックに適用されるように決定されることができる。

一例では、予測情報は、現在ブロックについてACTが無効にされることを示す。最大変換サイズ（たとえば、変数CuMaxTbSizeY）は、現在ブロックについてACTが無効にされることに対応する第1の最大変換サイズ（たとえば、変数MaxTbSizeY）であると決定されることができる。SBTは、現在ブロックの幅（たとえば、変数cbWidth）および高さ（たとえば、変数cbWidth）が第1の最大変換サイズ（たとえば、変数MaxTbSizeY）より大きくないことに基づいて、現在ブロックに適用されると決定されることができる。

本開示の実施形態は、別々に使用されても、または任意の順序で組み合わされてもよい。さらに、各方法（または実施形態）、エンコーダ、およびデコーダは、処理回路（たとえば、一つまたは複数のプロセッサ、または一つまたは複数の集積回路）によって実装されてもよい。一例では、前記一つまたは複数のプロセッサは、非一時的なコンピュータ読み取り可能媒体に格納されたプログラムを実行する。

VIII. コンピュータ・システム

上述の技法は、コンピュータ読み取り可能な命令を用いてコンピュータ・ソフトウェアとして実装することができ、一つまたは複数のコンピュータ読み取り可能な媒体に物理的に記憶されることができる。たとえば、図13は、開示された主題のある種の実施形態を実施するのに好適なコンピュータ・システム（1300）を示す。

コンピュータ・ソフトウェアは、任意の好適な機械コードまたはコンピュータ言語を用いてコーディングされることができ、アセンブリ、コンパイル、リンク、または同様の機構の対象とされて、一つまたは複数のコンピュータ中央処理ユニット（CPU）、グラフィックス処理ユニット（GPU）などによって、直接的に、またはインタープリット、マイクロコード実行などを通じて実行可能な命令を含むコードを作成することができる。

命令は、たとえば、パーソナルコンピュータ、タブレット・コンピュータ、サーバー、スマートフォン、ゲーム装置、モノのインターネット装置等を含むさまざまなタイプのコンピュータまたはそのコンポーネント上で実行されることができる。

コンピュータ・システム（1300）について図13に示されるコンポーネントは、例としての性質であり、本開示の実施形態を実装するコンピュータ・ソフトウェアの使用または機能の範囲に関する制限を示唆することを意図したものではない。コンポーネントの構成も、コンピュータ・システム（1300）の例示的実施形態において示されているコンポーネントの任意の1つまたは組み合わせに関する何らかの依存性または要件を有するものとして解釈されるべきではない。

コンピュータ・システム（1300）は、ある種のヒューマン・インターフェース入力装置を含むことができる。そのようなヒューマン・インターフェース入力装置は、たとえば、触覚入力（たとえば、キーストローク、スワイプ、データグローブの動き）、音声入力（たとえば、声、拍手）、視覚入力（たとえば、ジェスチャー）、嗅覚入力（図示せず）を通じた一または複数の人間ユーザーによる入力に応答することができる。また、ヒューマン・インターフェース装置は、音声（たとえば、発話、音楽、周囲の音）、画像（たとえば、スキャンされた画像、スチール画像カメラから得られる写真画像）、ビデオ（たとえば、2次元ビデオ、立体視ビデオを含む3次元ビデオ）のような、人間による意識的入力に必ずしも直接関係しないある種のメディアを捕捉するために使用できる。

入力ヒューマン・インターフェース装置は、キーボード（1301）、マウス（1302）、トラックパッド（1303）、タッチスクリーン（1310）、データグローブ（図示せず）、ジョイスティック（1305）、マイクロフォン（1306）、スキャナ（1307）、カメラ（1308）の一つまたは複数（それぞれの一つしか図示していない）を含んでいてもよい。

コンピュータ・システム（1300）はまた、ある種のヒューマン・インターフェース出力装置を含んでいてもよい。そのようなヒューマン・インターフェース出力装置は、たとえば、触覚出力、音、光、および臭い／味を通じて、一または複数の人間ユーザーの感覚を刺激するものであってもよい。そのようなヒューマン・インターフェース出力装置は、触覚出力装置（たとえば、タッチスクリーン（1310）、データグローブ（図示せず）、またはジョイスティック（1305）による触覚フィードバック；ただし、入力装置のはたらきをしない触覚フィードバック装置もありうる）、音声出力装置（たとえば、スピーカー（1309）、ヘッドフォン（図示せず））、視覚出力装置（たとえば、CRT画面、LCD画面、プラズマスクリーン、OLED画面を含む画面（1310）；それぞれはタッチスクリーン入力機能があってもなくてもよく、それぞれは触覚フィードバック機能があってもなくてもよく、そのうちのいくつかは、2次元の視覚出力または立体視出力のような手段を通じた3次元より高い出力を出力することができる；仮想現実感眼鏡（図示せず）、ホログラフィーディスプレイおよび煙タンク（図示せず））、およびプリンタ（図示せず）を含んでいてもよい。これらの出力装置（画面（1310）など）は、グラフィック・アダプター（1350）を通じてシステム・バス（1348）に接続されることができる。

コンピュータ・システム（1300）はまた、人間がアクセス可能な記憶装置および関連する媒体、たとえば、CD/DVDまたは類似の媒体（1321）とともにCD/DVD ROM/RW（1320）を含む光学式媒体、サムドライブ（1322）、取り外し可能なハードドライブまたはソリッドステートドライブ（1323）、テープおよびフロッピーディスクといったレガシー磁気媒体（図示せず）、セキュリティ・ドングルのような特化したROM/ASIC/PLDベースの装置（図示せず）などを含むことができる。

当業者はまた、現在開示されている主題に関連して使用される用語「コンピュータ読み取り可能な媒体」は、伝送媒体、搬送波、または他の一時的な信号を包含しないことを理解すべきである。

コンピュータ・システム（1300）はまた、一つまたは複数の通信ネットワーク（1355）へのネットワーク・インターフェース（1354）を含むことができる。該一つまたは複数の通信ネットワーク（1355）は、たとえば、無線、有線、光学式でありうる。該一つまたは複数の通信ネットワーク（1355）は、さらに、ローカル、広域、都市圏、車載および工業用、リアルタイム、遅延耐性などでありうる。該一つまたは複数の通信ネットワーク（1355）の例は、イーサネット〔登録商標〕、無線LAN、GSM、3G、4G、5G、LTEなどを含むセルラー・ネットワーク、ケーブルテレビ、衛星テレビ、地上放送テレビを含むTV有線または無線の広域デジタルネットワーク、CANBusを含む車載および工業用などを含む。ある種のネットワークは、普通、ある種の汎用データ・ポートまたは周辺バス（1349）（たとえば、コンピュータ・システム（1300）のUSBポートなど）に取り付けられる外部ネットワーク・インターフェース・アダプターを必要とする。他は、普通、後述するようなシステム・バスへの取り付けによって、コンピュータ・システム（1300）のコアに統合される（たとえば、PCコンピュータ・システムへのイーサネット・インターフェースまたはスマートフォン・コンピュータ・システムへのセルラー・ネットワーク・インターフェース）。これらのネットワークのいずれかを使用して、コンピュータ・システム（1300）は、他のエンティティと通信することができる。そのような通信は、一方向性、受信のみ（たとえば、放送テレビ）、一方向性送信専用（たとえば、ある種のCANbus装置へのCANbus）、または、たとえば、ローカルまたは広域デジタルネットワークを使用する他のコンピュータ・システムへの双方向性であってもよい。上述のようなそれらのネットワークおよびネットワークインターフェースのそれぞれで、ある種のプロトコルおよびプロトコルスタックが使用できる。

前述のヒューマン・インターフェース装置、人間がアクセス可能な記憶装置、およびネットワークインターフェースは、コンピュータ・システム（1300）のコア（1340）に取り付けることができる。

コア（1340）は、一つまたは複数の中央処理装置（CPU）（1341）、グラフィックス処理装置（GPU）（1342）、フィールドプログラマブルゲートアレイ（FPGA）（1343）の形の特化したプログラマブル処理装置、ある種のタスクのためのハードウェアアクセラレータ（1344）などを含むことができる。これらの装置は、読み出し専用メモリ（ROM）（1345）、ランダムアクセスメモリ（1346）、内部のユーザー・アクセス可能でないハードドライブ、ソリッドステートドライブ（SSD）などの内部大容量記憶装置（1347）とともに、システム・バス（1348）を通じて接続されうる。いくつかのコンピュータ・システムでは、追加のCPU、GPUなどによる拡張を可能にするために、システム・バス（1348）は、一つまたは複数の物理プラグの形でアクセス可能であってもよい。周辺装置は、コアのシステム・バス（1348）に直接取り付けられることも、周辺バス（1349）を通じて取り付けられることもできる。周辺バスのためのアーキテクチャーは、PCI、USBなどを含む。

CPU（1341）、GPU（1342）、FPGA（1343）、およびアクセラレータ（1344）は、組み合わせて上述のコンピュータコードを構成することができるある種の命令を、実行することができる。そのコンピュータコードは、ROM（1345）またはRAM（1346）に記憶できる。一時的データも、RAM（1346）に記憶されることができ、一方、持続的データは、たとえば、内部大容量記憶装置（1347）に記憶されることができる。一つまたは複数のCPU（1341）、GPU（1342）、大容量記憶装置（1347）、ROM（1345）、RAM（1346）などと密接に関連付けることができるキャッシュメモリを使用することを通じて、メモリデバイスのいずれかへの高速な記憶および取り出しを可能にすることができる。

コンピュータ読み取り可能な媒体は、さまざまなコンピュータ実装された動作を実行するためのコンピュータコードをその上に有することができる。媒体およびコンピュータコードは、本開示の目的のために特別に設計および構築されたものであってもよく、または、コンピュータ・ソフトウェア分野の技術を有する者に周知であり利用可能な種類のものであってもよい。

限定ではなく一例として、アーキテクチャー（1300）、具体的にはコア（1340）を有するコンピュータ・システムは、プロセッサ（CPU、GPU、FPGA、アクセラレータ等を含む）が一つまたは複数の有形のコンピュータ可読媒体に具現化されたソフトウェアを実行することの結果として、機能性を提供することができる。そのようなコンピュータ読み取り可能媒体は、上記で紹介したようなユーザー・アクセス可能な大容量記憶ならびにコア内部の大容量記憶装置（1347）またはROM（1345）のような非一時的な性質のコア（1340）のある種の記憶に関連する媒体であることができる。本開示のさまざまな実施形態を実装するソフトウェアは、そのような装置に記憶され、コア（1340）によって実行されることができる。コンピュータ読み取り可能媒体は、特定のニーズに応じて、一つまたは複数のメモリデバイスまたはチップを含むことができる。ソフトウェアは、RAM（1346）に記憶されたデータ構造を定義し、ソフトウェアによって定義されたプロセスに従ってそのようなデータ構造を修正することを含む、本明細書に記載された特定のプロセスまたは特定の特定部分を、コア（1340）および具体的にはその中のプロセッサ（CPU、GPU、FPGAなどを含む）に実行させることができる。追加的または代替的に、コンピュータ・システムは、回路（たとえば、アクセラレータ（1344））内に配線された、または他の仕方で具現された論理の結果として機能性を提供することができ、これは、本明細書に記載される特定のプロセスまたは特定のプロセスの特定部分を実行するためのソフトウェアの代わりに、またはそれと一緒に動作することができる。ソフトウェアへの言及は、論理を含み、適宜その逆も可能である。コンピュータ読み取り可能媒体への言及は、適宜、実行のためのソフトウェアを記憶する回路（たとえば集積回路（IC））、実行のための論理を具現する回路、またはその両方を包含することができる。本開示は、ハードウェアおよびソフトウェアの任意の好適な組み合わせを包含する。

本開示は、いくつかの例示的実施形態を記載してきたが、変更、置換、およびさまざまな代替等価物があり、それらは本開示の範囲内にはいる。よって、当業者は、本明細書に明示的に示されていないかまたは記載されていないが、本開示の原理を具現し、よって、本開示の精神および範囲内にある多くのシステムおよび方法を考案することができることが理解されるであろう。

付録A：頭字語
AMVP：Advanced Motion Vector Prediction（先進動きベクトル予測）
ASIC：Application-Specific Integrated Circuit（特定用途向け集積回路）
ATMVP：Alternative/Advanced Temporal Motion Vector Prediction（代替／先進時間的動きベクトル予測）
BMS：Benchmark Set（ベンチマークセット）
BV：Block Vector（ブロックベクトル）
CANBus：Controller Area Network Bus（コントローラエリアネットワークバス）
CB：Coding Block（符号化ブロック）
CD：Compact Disc（コンパクトディスク）
CPR：Current Picture Referencing（現在ピクチャー参照）
CPU：Central Processing Unit（中央処理装置）
CRT：Cathode Ray Tube（陰極線管）
CTB：Coding Tree Block（符号化ツリーブロック）
CTU：Coding Tree Units（符号化ツリー単位）
CU：Coding Unit（符号化単位）
DPB：Decoder Picture Buffer（デコーダ・ピクチャー・バッファ）
DVD：Digital Video Disc（デジタルビデオディスク）
FPGA：Field Programmable Gate Area（フィールド・プログラマブル・ゲートエリア）
GOP：Group of Pictures（ピクチャーグループ）
GPU：Graphics Processing Unit（グラフィックス処理ユニット）
GSM：Global System for Mobile communications（グローバル移動通信システム）
HEVC：High Efficiency Video Coding（高効率ビデオ符号化）
HRD：Hypothetical Reference Decoder（仮説参照デコーダ）
IBC：Intra Block Copy（イントラブロックコピー）
IC：Integrated Circuit（集積回路）
JEM：Joint Exploration Model（共同探査モデル）
LAN：Local Area Network（ローカルエリアネットワーク）
LCD：Liquid-Crystal Display（液晶ディスプレイ）
LTE：Long-Term Evolution（ロングタームエボリューション）
MV：Motion Vector（動きベクトル）
OLED：Organic Light-Emitting Diode（有機発光ダイオード）
PB：Prediction Blocks（予測ブロック）
PCI：Peripheral Component Interconnect（周辺コンポーネント相互接続）
PLD：Programmable Logic Device（プログラマブルロジックデバイス）
PU：Prediction Unit（予測単位）
RAM：Random Access Memory（ランダムアクセスメモリ）
ROM：Read-Only Memory（読み出し専用メモリ）
SCC：Screen Content Coding（スクリーンコンテンツ符号化）
SEI：Supplementary Enhancement Information（補足向上情報）
SNR：Signal Noise Ratio（信号対雑音比）
SSD：Solid-state Drive（ソリッドステートドライブ）
TU：Transform Unit（変換単位）
USB：Universal Serial Bus（ユニバーサルシリアルバス）
VUI：Video Usability Information（ビデオユーザビリティ情報）
VVC：Versatile Video Coding（多用途ビデオ符号化）

Claims (1)

1. デコーダによって実行される、ビデオ・デコードのための方法であって：
   現在のピクチャー内の現在ブロックについての予測情報をデコードする段階であって、前記予測情報は、現在ブロックについて適応色変換（ACT）が有効にされるかどうかを示す、段階と；
   前記ACTが現在ブロックについて有効にされるかどうかに基づいて、最大変換サイズを決定する段階と；
   少なくとも前記最大変換サイズに基づいて、サブブロック変換（SBT）が現在ブロックに適用されるかどうかを決定する段階と；
   SBTが現在ブロックに適用されると決定されることに基づいて、現在ブロックに対してSBTを実行する段階とを含む、
   方法。
   

Images