本文書は、様々な変更を加えることができ、種々の実施形態を有することができ、特定実施形態を図面に例示し、詳細に説明しようとする。しかしながら、これは、本文書を特定実施形態に限定しようとするものではない。本明細書において常用する用語は、単に特定の実施形態を説明するために使用されたものであって、本文書の技術的思想を限定しようとする意図で使用されるものではない。単数の表現は、文脈上明白に異なるように意味しない限り、複数の表現を含む。本明細書において「含む」または「有する」などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものが存在することを指定しようとするものであり、1つまたはそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものなどの存在または付加可能性を予め排除しないことと理解されるべきである。
一方、本文書において説明される図面上の各構成は、互いに異なる特徴的な機能に関する説明の都合上、独立的に図示されたものであって、各構成が互いに別個のハードウェアや別個のソフトウェアで実現されるということを意味するものではない。例えば、各構成のうち、2つ以上の構成が結合されて1つの構成をなすことができ、1つの構成を複数の構成に分けることもできる。各構成が統合及び/又は分離された実施形態も本文書の本質から逸脱しない限り、本文書の権利範囲に含まれる。
以下、添付した図面を参照して、本文書の好ましい実施形態をより詳細に説明する。以下、図面上の同じ構成要素に対しては、同じ参照符号を使用し、同じ構成要素に対して重なった説明は省略されることができる。
図1は、本文書の実施形態が適用され得るビデオ/画像コーディングシステムの例を概略的に示す。
図1に示すように、ビデオ/画像コーディングシステムは、第1の装置(ソースデバイス)及び第2の装置(受信デバイス)を含むことができる。ソースデバイスは、エンコードされたビデオ(video)/画像(image)情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスに伝達することができる。
前記ソースデバイスは、ビデオソース、エンコード装置、送信部を備えることができる。前記受信デバイスは、受信部、デコード装置、及びレンダラーを備えることができる。前記エンコード装置は、ビデオ/画像エンコード装置と呼ばれることができ、前記デコード装置は、ビデオ/画像デコード装置と呼ばれることができる。送信機は、エンコード装置に含まれることができる。受信機は、デコード装置に含まれることができる。レンダラーは、ディスプレイ部を備えることができ、ディスプレイ部は、別個のデバイスまたは外部コンポーネントで構成されることもできる。
ビデオソースは、ビデオ/画像のキャプチャ、合成、または生成過程などを介してビデオ/画像を取得することができる。ビデオソースは、ビデオ/画像キャプチャデバイス及び/又はビデオ/画像生成デバイスを含むことができる。ビデオ/画像キャプチャデバイスは、例えば、1つ以上のカメラ、以前にキャプチャされたビデオ/画像を含むビデオ/画像アーカイブなどを備えることができる。ビデオ/画像生成デバイスは、例えば、コンピュータ、タブレット、及びスマートフォンなどを備えることができ、(電子的に)ビデオ/画像を生成することができる。例えば、コンピュータなどを介して仮想のビデオ/画像が生成されることができ、この場合、関連データが生成される過程にてビデオ/画像キャプチャ過程が代替されることができる。
エンコード装置は、入力ビデオ/画像をエンコードすることができる。エンコード装置は、圧縮及びコーディング効率のために、予測、変換、量子化など、一連の手順を実行することができる。エンコードされたデータ(エンコードされたビデオ/画像情報)は、ビットストリーム(bitstream)形態で出力されることができる。
送信部は、ビットストリーム形態で出力されたエンコードされたビデオ/画像情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスの受信部に伝達することができる。デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。送信部は、予め決められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送/通信ネットワークを介しての送信のためのエレメントを含むことができる。受信部は、前記ビットストリームを受信/抽出してデコード装置に伝達することができる。
デコード装置は、エンコード装置の動作に対応する逆量子化、逆変換、予測など、一連の手順を実行してビデオ/画像をデコードすることができる。
レンダラーは、デコードされたビデオ/画像をレンダリングすることができる。レンダリングされたビデオ/画像は、ディスプレイ部を介してディスプレイされることができる。
この文書は、ビデオ/画像コーディングに関する。例えば、この文書において開示された方法/実施形態は、VVC(versatile video coding)標準、EVC(essential video coding)標準、AV1(AOMedia Video 1)標準、AVS2(2nd generation of audio video coding standard)、または次世代ビデオ/画像コーディング標準(例えば、H.267またはH.268等)に開示される方法に適用されることができる。
この文書では、ビデオ/画像コーディングに関する様々な実施形態を提示し、他の言及がない限り、前記実施形態は、互いに組み合わせられて実行されることもできる。
この文書においてビデオ(video)は、時間の流れによる一連の画像(image)の集合を意味し得る。ピクチャ(picture)は、一般に特定の時間帯の1つの画像を表す単位を意味し、サブピクチャ(subpicture)/スライス(slice)/タイル(tile)はコーディングにおいてピクチャの一部を構成する単位である。サブピクチャ/スライス/タイルは、1つ以上のCTU(coding tree unit)を含んでもよい。1つのピクチャは1つ以上のサブピクチャ/スライス/タイルで構成されてもよい。1つのピクチャは1つ以上のタイルのグループで構成されてもよい。1つのタイルグループは1つ以上のタイルを含んでもよい。ブリックはピクチャ内のタイル内のCTU行の長方形領域を表す(a brick may represent a rectangular region of CTU rows within a tile in a picture)。タイルは複数のブリックでパーティショニングされ、各ブリックは前記タイル内の1つ以上のCTU行で構成される(A tile may be partitioned into multiple bricks, each of which consisting of one or more CTU rows within the tile)。複数のブリックによりパーティショニングされていないタイルもブリックと呼ばれてもよい(A tile that is not partitioned into multiple bricks may be also referred to as a brick)。ブリックスキャンはピクチャをパーティショニングするCTUの特定の順次オーダリングを示し、前記CTUはブリック内においてCTUラスタスキャンで整列され、タイル内のブリックは前記タイルの前記ブリックのラスタスキャンで連続的に整列され、そして、ピクチャ内のタイルは前記ピクチャの前記タイルのラスタスキャンで連続整列される(A brick scan is a specific sequential ordering of CTUs partitioning a picture in which the CTUs are ordered consecutively in CTU raster scan in a brick, bricks within a tile are ordered consecutively in a raster scan of the bricks of the tile, and tiles in a picture are ordered consecutively in a raster scan of the tiles of the picture)。また、サブピクチャはサブピクチャ内の1つ以上のスライスの長方形領域を表す(a subpicture may represent a rectangular region of one or more slices within a picture)。すなわち、サブピクチャはピクチャの長方形領域を総括的にカバーする1つ以上のスライスを含む(a subpicture contains one or more slices that collectively cover a rectangular region of a picture)。タイルは特定タイル列及び特定タイル列以内のCTUの長方形領域である(A tile is a rectangular region of CTUs within a particular tile column and a particular tile row in a picture)。前記タイル列はCTUの長方形領域であり、前記長方形領域は前記ピクチャの高さと同じ高さを有し、幅はピクチャパラメータセット内のシンタックス要素により明示される(The tile column is a rectangular region of CTUs having a height equal to the height of the picture and a width specified by syntax elements in the picture parameter set)。前記タイル行はCTUの長方形領域であり、前記長方形領域はピクチャパラメータセット内のシンタックスエレメントにより明示される幅を有し、高さは前記ピクチャの高さと同一であり得る(The tile row is a rectangular region of CTUs having a height specified by syntax elements in the picture parameter set and a width equal to the width of the picture )。タイルスキャンはピクチャをパーティショニングするCTUの特定の順次オーダリングを示し、前記CTUはタイル内のCTUラスタスキャンで連続整列され、ピクチャ内のタイルは前記ピクチャの前記タイルのラスタスキャンで連続整列される(A tile scan is a specific sequential ordering of CTUs partitioning a picture in which the CTUs are ordered consecutively in CTU raster scan in a tile whereas tiles in a picture are ordered consecutively in a raster scan of the tiles of the picture)。スライスはピクチャの整数個のブリックを含み、前記整数個のブリックは1つのNALユニットに含まれる(A slice includes an integer number of bricks of a picture that maybe exclusively contained in a single NAL unit)。スライスは複数の完全なタイルで構成され、または、1つのタイルの完全なブリックの連続的なシーケンスであり得る(A slice may consists of either a number of complete tiles or only a consecutive sequence of complete bricks of one tile)。この文書では、タイルグループとスライスは混用されてもよい。例えば、本文書ではtile group/tile group headerはslice/slice headerと呼ばれてもよい。
ピクセル(pixel)またはペル(pel)は、1つのピクチャ(または、画像)を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(sample)」が使用され得る。サンプルは、一般的にピクセルまたはピクセルの値を表すことができ、ルマ(luma)成分のピクセル/ピクセル値のみを表すこともでき、クロマ(chroma)成分のピクセル/ピクセル値のみを表すこともできる。
ユニット(unit)は、画像処理の基本単位を表すことができる。ユニットは、ピクチャの特定領域及び当該領域に関連した情報のうち、少なくとも1つを含むことができる。1つのユニットは、1つのルマブロック及び2つのクロマ(例えば、cb、cr)ブロックを含むことができる。ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプル(または、サンプルアレイ)、または変換係数(transform coefficient)の集合(または、アレイ)を含むことができる。
本明細書において「A又はB(A or B)」は「Aのみ」、「Bのみ」又は「AとBの両方」を意味し得る。言い換えると、本明細書において、「A又はB(A or B)」は「A及び/又はB(A and/or B)」と解され得る。例えば、本明細書において「A、B又はC(A,B or C)」は、「Aのみ」、「Bのみ」、「Cのみ」又は「A、B及びCの任意の全ての組み合わせ(any combination of A,B and C)」を意味し得る。
本明細書において使用されるスラッシュ(/)やコンマ(comma)は、「及び/又は(and/or)」を意味し得る。例えば、「A/B」は「A及び/又はB」を意味し得る。これにより、「A/B」は「Aのみ」、「Bのみ」、又は「AとBの両方」を意味し得る。例えば、「A、B、C」は「A、B又はC」を意味し得る。
本明細書において「少なくとも1つのA及びB(at least one of A and B)」は、「Aのみ」、「Bのみ」又は「AとBの両方」を意味し得る。また、本明細書において「少なくとも1つのA又はB(at least one of A or B)」や「少なくとも1つのA及び/又はB(at least one of A and/or B)」という表現は、「少なくとも1つのA及びB(at least one of A and B)」と同様に解釈され得る。
また、本明細書において「少なくとも1つのA、B及びC(at least one of A, B and C)」は、「Aのみ」、「Bのみ」、「Cのみ」又は「A、B及びCの任意の全ての組み合わせ(any combination of A, B and C)」を意味し得る。また、「少なくとも1つのA、B又はC(at least one of A, B or C)」や「少なくとも1つのA、B及び/又はC(at least one of A, B and/or C)」は「少なくとも1つのA、B及びC(at least one of A, B and C)」を意味し得る。
また、本明細書において用いられる括弧は「例えば(for example)」を意味し得る。具体的には、「予測(イントラ予測)」と表示されている場合、「予測」の一例として「イントラ予測」が提案されているものであり得る。言い換えると、本明細書の「予測」は「イントラ予測」に制限(limit)されず、「イントラ予測」が「予測」の一例として提案されるものであり得る。また、「予測(すなわち、イントラ予測)」と表示されている場合にも、「予測」の一例として、「イントラ予測」が提案されているものであり得る。
本明細書において1つの図面内で個別に説明される技術的特徴は、個別に実現されてもよく、同時に実現されてもよい。
以下の図面は、本明細書の具体的な一例を説明するために作成された。図面に記載された具体的な装置の名称や具体的な信号/メッセージ/フィールドの名称は例示的に提示するものであるので、本明細書の技術的特徴が以下の図面に用いられた具体的な名称に制限されない。
図2は、本文書の実施形態が適用され得るビデオ/画像エンコード装置の構成を概略的に説明する図である。以下、ビデオエンコード装置とは、画像エンコード装置を含むことができる。
図2に示すように、エンコード装置200は、画像分割部(image partitioner)210、予測部(predictor)220、レジデュアル処理部(residual processor)230、エントロピーエンコード部(entropy encoder)240、加算部(adder)250、フィルタリング部(filter)260、及びメモリ(memory)270を備えて構成されることができる。予測部220は、インター予測部221及びイントラ予測部222を備えることができる。レジデュアル処理部230は、変換部(transformer)232、量子化部(quantizer)233、逆量子化部(dequantizer)234、逆変換部(inverse transformer)235を備えることができる。レジデュアル処理部230は、減算部(subtractor)231をさらに備えることができる。加算部250は、復元部(reconstructor)または復元ブロック生成部(recontructged block generator)と呼ばれることができる。前述した画像分割部210、予測部220、レジデュアル処理部230、エントロピーエンコード部240、加算部250、及びフィルタリング部260は、実施形態によって1つ以上のハードウェアコンポーネント(例えば、エンコーダチップセットまたはプロセッサ)により構成されることができる。また、メモリ270は、DPB(decoded picture buffer)を含むことができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ270を内/外部コンポーネントとしてさらに備えることもできる。
画像分割部210は、エンコード装置200に入力された入力画像(または、ピクチャ、フレーム)を1つ以上の処理ユニット(processing unit)に分割することができる。一例として、前記処理ユニットは、コーディングユニット(coding unit、CU)と呼ばれることができる。この場合、コーディングユニットは、コーディングツリーユニット(coding tree unit、CTU)または最大コーディングユニット(largest coding unit、LCU)からQTBTTT(Quad-tree binary-tree ternary-tree)構造によって再帰的に(recursively)分割されることができる。例えば、1つのコーディングユニットは、クアッドツリー構造、バイナリツリー構造、及び/又はターナリ構造に基づいて下位(deeper)デプスの複数のコーディングユニットに分割されることができる。この場合、例えば、クアッドツリー構造が先に適用され、バイナリツリー構造及び/又はターナリ構造が後ほど適用されることができる。または、バイナリツリー構造が先に適用されることもできる。それ以上分割されない最終コーディングユニットに基づいて本文書に係るコーディング手順が実行されることができる。この場合、画像特性に応じるコーディング効率などに基づいて、最大コーディングユニットが直ちに最終コーディングユニットとして使用されることができ、または、必要に応じてコーディングユニットは、再帰的に(recursively)、より下位デプスのコーディングユニットに分割されて、最適のサイズのコーディングユニットが最終コーディングユニットとして使用されることができる。ここで、コーディング手順とは、後述する予測、変換、及び復元などの手順を含むことができる。他の例として、前記処理ユニットは、予測ユニット(PU:Prediction Unit)または変換ユニット(TU:Transform Unit)をさらに備えることができる。この場合、前記予測ユニット及び前記変換ユニットは、各々前述した最終コーディングユニットから分割またはパーティショニングされることができる。前記予測ユニットは、サンプル予測の単位であり、前記変換ユニットは、変換係数を誘導する単位及び/又は変換係数からレジデュアル信号(residual signal)を誘導する単位である。
ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプルまたは変換係数(transform coefficient)の集合を表すことができる。サンプルは、一般的にピクセルまたはピクセルの値を表すことができ、輝度(luma)成分のピクセル/ピクセル値のみを表すことができ、彩度(chroma)成分のピクセル/ピクセル値のみを表すこともできる。サンプルは、1つのピクチャ(または、画像)をピクセル(pixel)またはペル(pel)に対応する用語として使用することができる。
エンコード装置200は、入力画像信号(原本ブロック、原本サンプルアレイ)から、インター予測部221またはイントラ予測部222から出力された予測信号(予測されたブロック、予測サンプルアレイ)を減算してレジデュアル信号(residual signal、残余ブロック、残余サンプルアレイ)を生成することができ、生成されたレジデュアル信号は、変換部232に送信される。この場合、図示されたように、エンコーダ200内において入力画像信号(原本ブロック、原本サンプルアレイ)から予測信号(予測ブロック、予測サンプルアレイ)を減算するユニットは、減算部231と呼ばれることができる。予測部は、処理対象ブロック(以下、現在ブロックという)に対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、現在ブロックまたはCU単位でイントラ予測が適用されるか、またはインター予測が適用されるかを決定することができる。予測部は、各予測モードについての説明で後述するように、予測モード情報など、予測に関する様々な情報を生成してエントロピーエンコード部240に伝達することができる。予測に関する情報は、エントロピーエンコード部240でエンコードされてビットストリーム形態で出力されることができる。
イントラ予測部222は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの周辺(neighbor)に位置することができ、または、離れて位置することもできる。イントラ予測において予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。非方向性モードは、例えば、DCモード及びプラナーモード(Planar Mode)を含むことができる。方向性モードは、予測方向の細かい程度によって、例えば、33個の方向性予測モードまたは65個の方向性予測モードを含むことができる。ただし、これは、例示に過ぎず、設定によってそれ以上またはそれ以下の個数の方向性予測モードが使用され得る。イントラ予測部222は、隣接ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
インター予測部221は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック(spatial neighboring block)と参照ピクチャに存在する時間的隣接ブロック(temporal neighboring block)とを含むことができる。前記参照ブロックを含む参照ピクチャと前記時間的隣接ブロックを含む参照ピクチャとは同じであってもよく、異なってもよい。前記時間的隣接ブロックは、同一位置参照ブロック(collocated reference block)、同一位置CU(colCU)などの名称で呼ばれることができ、前記時間的隣接ブロックを含む参照ピクチャは、同一位置ピクチャ(collocated picture、colPic)と呼ばれることもできる。例えば、インター予測部221は、隣接ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するためにどのような候補が使用されるかを指示する情報を生成することができる。様々な予測モードに基づいてインター予測が実行されることができ、例えば、スキップモードとマージモードの場合に、インター予測部221は、隣接ブロックの動き情報を現在ブロックの動き情報として利用することができる。スキップモードの場合、マージモードとは異なってレジデュアル信号が送信されないことがある。動き情報予測(motion vector prediction、MVP)モードの場合、隣接ブロックの動きベクトルを動きベクトル予測子(Motion Vector Predictor)として利用し、動きベクトル差分(motion vector difference)をシグナリングすることによって現在ブロックの動きベクトルを指示することができる。
予測部220は、後述する様々な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、1つのブロックに対する予測のために、イントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測とを同時に適用することができる。これは、combined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のために、イントラブロックコピー(intra block copy、IBC)予測モードに基づくこともでき、または、パレットモード(palette mode)に基づくこともできる。前記IBC予測モードまたはパレットモードは、例えば、SCC(screen content coding)などのように、ゲームなどのコンテンツ画像/動画像コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点においてインター予測と類似して実行されることができる。即ち、IBCは、本文書において説明されるインター予測技法のうち、少なくとも1つを利用することができる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見ることができる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに関する情報に基づいてピクチャ内のサンプル値をシグナリングすることができる。
前記予測部(インター予測部221及び/又は前記イントラ予測部222を含む)を介して生成された予測信号は、復元信号を生成するために用いられ、またはレジデュアル信号を生成するために用いられることができる。変換部232は、レジデュアル信号に変換技法を適用して変換係数(transform coefficients)を生成することができる。例えば、変換技法は、DCT(Discrete Cosine Transform)、DST(Discrete Sine Transform)、KLT(Karhunen-Loeve Transform)、GBT(Graph-Based Transform)、またはCNT(Conditionally Non-linear Transform)のうち、少なくとも1つを含むことができる。ここで、GBTは、ピクセル間の関係情報をグラフで表現するとするとき、このグラフから得られた変換を意味する。CNTは、以前に復元された全てのピクセル(all previously reconstructed pixel)を用いて予測信号を生成し、それに基づいて取得される変換を意味する。また、変換過程は、正方形の同じサイズを有するピクセルブロックに適用されることもでき、正方形でない、可変サイズのブロックにも適用されることもできる。
量子化部233は、変換係数を量子化してエントロピーエンコード部240に送信され、エントロピーエンコード部240は、量子化された信号(量子化された変換係数に関する情報)をエンコードしてビットストリームとして出力することができる。前記量子化された変換係数に関する情報は、レジデュアル情報と呼ばれることができる。量子化部233は、係数スキャン順序(scan order)に基づいてブロック形態の量子化された変換係数を1次元ベクトル形態で再整列することができ、前記1次元ベクトル形態の量子化された変換係数に基づいて前記量子化された変換係数に関する情報を生成することもできる。エントロピーエンコード部240は、例えば、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)、CABAC(context-adaptive binary arithmetic coding)などのような様々なエンコード方法を実行することができる。エントロピーエンコード部240は、量子化された変換係数の他に、ビデオ/イメージ復元に必要な情報(例えば、シンタックス要素(syntax elements)の値等)を共に、または別にエンコードすることもできる。エンコードされた情報(例えば、エンコードされたビデオ/画像情報)は、ビットストリーム形態でNAL(network abstraction layer)ユニット単位で送信または格納されることができる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)、またはビデオパラメータセット(VPS)など、様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。本文書においてエンコード装置からデコード装置に伝達/シグナリングされる情報及び/又はシンタックス要素は、ビデオ/画像情報に含まれることができる。前記ビデオ/画像情報は、前述したエンコード手順を介してエンコードされて前記ビットストリームに含まれることができる。前記ビットストリームは、ネットワークを介して送信されることができ、またはデジタル格納媒体に格納されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。エントロピーエンコード部240から出力された信号は、送信する送信部(図示せず)及び/又は格納する格納部(図示せず)がエンコード装置200の内/外部エレメントとして構成されることができ、または送信部は、エントロピーエンコード部240に含まれることもできる。
量子化部233から出力された量子化された変換係数は、予測信号を生成するために用いられることができる。例えば、量子化された変換係数に逆量子化部234及び逆変換部235を介して逆量子化及び逆変換を適用することによってレジデュアル信号(レジデュアルブロックまたはレジデュアルサンプル)を復元することができる。加算部250は、復元されたレジデュアル信号をインター予測部221またはイントラ予測部222から出力された予測信号に加えることによって復元(reconstructed)信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)が生成され得る。スキップモードが適用された場合のように、処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。加算部250は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て次のピクチャのインター予測のために使用されることもできる。
一方、ピクチャエンコード及び/又は復元過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
フィルタリング部260は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部260は、復元ピクチャに様々なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ270、具体的に、メモリ270のDPBに格納することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。フィルタリング部260は、各フィルタリング方法についての説明で後述するように、フィルタリングに関する様々な情報を生成してエントロピーエンコード部240に伝達することができる。フィルタリングに関する情報は、エントロピーエンコード部240でエンコードされてビットストリーム形態で出力されることができる。
メモリ270に送信された修正された復元ピクチャは、インター予測部221で参照ピクチャとして使用されることができる。エンコード装置は、これを介してインター予測が適用される場合、エンコード装置200とデコード装置300での予測ミスマッチを避けることができ、符号化効率も向上させることができる。
メモリ270DPBは、修正された復元ピクチャをインター予測部221での参照ピクチャとして使用するために格納することができる。メモリ270は、現在ピクチャ内の動き情報が導出された(または、エンコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するために、インター予測部221に伝達することができる。メモリ270は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部222に伝達することができる。
図3は、本文書の実施形態が適用され得るビデオ/画像デコード装置の構成を概略的に説明する図である。
図3に示すように、デコード装置300は、エントロピーデコード部(entropy decoder)310、レジデュアル処理部(residual processor)320、予測部(predictor)330、加算部(adder)340、フィルタリング部(filter)350、及びメモリ(memory)360を備えて構成されることができる。予測部330は、インター予測部331及びイントラ予測部332を備えることができる。レジデュアル処理部320は、逆量子化部(dequantizer)321及び逆変換部(inverse transformer)322を備えることができる。前述したエントロピーデコード部310、レジデュアル処理部320、予測部330、加算部340、及びフィルタリング部350は、実施形態によって1つのハードウェアコンポーネント(例えば、デコーダチップセットまたはプロセッサ)により構成されることができる。また、メモリ360は、DPB(decoded picture buffer)を備えることができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ360を内/外部コンポーネントとしてさらに備えることもできる。
ビデオ/画像情報を含むビットストリームが入力されると、デコード装置300は、図2のエンコード装置でビデオ/画像情報が処理されたプロセスに対応して画像を復元することができる。例えば、デコード装置300は、前記ビットストリームから取得したブロック分割関連情報に基づいてユニット/ブロックを導出できる。デコード装置300は、エンコード装置で適用された処理ユニットを用いてデコードを実行することができる。したがって、デコードの処理ユニットは、例えば、コーディングユニットであり、コーディングユニットは、コーディングツリーユニットまたは最大コーディングユニットからクアッドツリー構造、バイナリツリー構造、及び/又はターナリツリー構造にしたがって分割されることができる。コーディングユニットから1つ以上の変換ユニットが導出されることができる。そして、デコード装置300を介してデコード及び出力された復元画像信号は、再生装置を介して再生されることができる。
デコード装置300は、図2のエンコード装置から出力された信号をビットストリーム形態で受信することができ、受信された信号は、エントロピーデコード部310を介してデコードされることができる。例えば、エントロピーデコード部310は、前記ビットストリームをパーシングして画像復元(または、ピクチャ復元)に必要な情報(例えば、ビデオ/画像情報)を導出できる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)、またはビデオパラメータセット(VPS)など、様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。デコード装置は、前記パラメータセットに関する情報及び/又は前記一般制限情報に基づいてさらにピクチャをデコードすることができる。本文書において後述されるシグナリング/受信される情報及び/又はシンタックス要素は、前記デコード手順を介してデコードされて前記ビットストリームから取得されることができる。例えば、エントロピーデコード部310は、指数ゴロム符号化、CAVLCまたはCABAC等のコーディング方法を基にビットストリーム内の情報をデコードし、画像復元に必要なシンタックスエレメントの値、レジデュアルに関する変換係数の量子化された値などを出力することができる。より詳細に、CABACエントロピーデコード方法は、ビットストリームで各構文要素に該当するビンを受信し、デコード対象構文要素情報と周辺及びデコード対象ブロックのデコード情報、または以前ステップでデコードされたシンボル/ビンの情報を利用して文脈(context)モデルを決定し、決定された文脈モデルによってビン(bin)の発生確率を予測し、ビンの算術デコード(arithmetic decoding)を実行して各構文要素の値に該当するシンボルを生成することができる。このとき、CABACエントロピーデコード方法は、文脈モデル決定後、次のシンボル/ビンの文脈モデルのためにデコードされたシンボル/ビンの情報を利用して文脈モデルをアップデートすることができる。エントロピーデコード部310でデコードされた情報のうち、予測に関する情報は、予測部(インター予測部332及びイントラ予測部331)に提供され、エントロピーデコード部310でエントロピーデコードが実行されたレジデュアル値、即ち、量子化された変換係数及び関連パラメータ情報は、レジデュアル処理部320に入力されることができる。レジデュアル処理部320は、レジデュアル信号(レジデュアルブロック、レジデュアルサンプル、レジデュアルサンプルアレイ)を導出できる。また、エントロピーデコード部310でデコードされた情報のうち、フィルタリングに関する情報は、フィルタリング部350に提供されることができる。一方、エンコード装置から出力された信号を受信する受信部(図示せず)がデコード装置300の内/外部エレメントとしてさらに構成されることができ、または、受信部は、エントロピーデコード部310の構成要素である。一方、本文書に係るデコード装置は、ビデオ/画像/ピクチャデコード装置と呼ばれることができ、前記デコード装置は、情報デコーダ(ビデオ/画像/ピクチャ情報デコーダ)及びサンプルデコーダ(ビデオ/画像/ピクチャサンプルデコーダ)に区分することもできる。前記情報デコーダは、前記エントロピーデコード部310を備えることができ、前記サンプルデコーダは、前記逆量子化部321、逆変換部322、加算部340、フィルタリング部350、メモリ360、インター予測部332、及びイントラ予測部331のうち、少なくとも1つを備えることができる。
逆量子化部321では、量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部321は、量子化された変換係数を2次元のブロック形態で再整列することができる。この場合、前記再整列は、エンコード装置で実行された係数スキャン順序に基づいて再整列を実行することができる。逆量子化部321は、量子化パラメータ(例えば、量子化ステップサイズ情報)を利用して量子化された変換係数に対する逆量子化を実行し、変換係数(transform coefficient)を取得することができる。
逆変換部322では、変換係数を逆変換してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルアレイ)を取得するようになる。
予測部は、現在ブロックに対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、エントロピーデコード部310から出力された前記予測に関する情報に基づいて、前記現在ブロックにイントラ予測が適用されるか、またはインター予測が適用されるかを決定することができ、具体的なイントラ/インター予測モードを決定することができる。
予測部320は、後述する様々な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、1つのブロックに対する予測のために、イントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測とを同時に適用することができる。これは、combined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のために、イントラブロックコピー(intra block copy、IBC)予測モードに基づくこともでき、またはパレットモード(palette mode)に基づくこともできる。前記IBC予測モードまたはパレットモードは、例えば、SCC(screen content coding)などのように、ゲームなどのコンテンツ画像/動画コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点においてインター予測と類似して実行されることができる。即ち、IBCは、本文書において説明されるインター予測技法のうち、少なくとも1つを利用することができる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見ることができる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに関する情報が前記ビデオ/画像情報に含まれてシグナリングされることができる。
イントラ予測部331は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの周辺(neighbor)に位置することができ、または離れて位置することもできる。イントラ予測において予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。イントラ予測部331は、隣接ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
インター予測部332は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードから送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック(spatial neighboring block)と参照ピクチャに存在する時間的隣接ブロック(temporal neighboring block)とを含むことができる。例えば、インター予測部332は、隣接ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出できる。様々な予測モードに基づいてインター予測が実行されることができ、前記予測に関する情報は、前記現在ブロックに対するインター予測のモードを指示する情報を含むことができる。
加算部340は、取得されたレジデュアル信号を予測部(インター予測部332及び/又はイントラ予測部331を含む)から出力された予測信号(予測されたブロック、予測サンプルアレイ)に加えることにより復元信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように、処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。
加算部340は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て出力されることができ、または次のピクチャのインター予測のために使用されることもできる。
一方、ピクチャデコード過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
フィルタリング部350は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部350は、復元ピクチャに様々なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ360、具体的に、メモリ360のDPBに送信することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。
メモリ360のDPBに格納された(修正された)復元ピクチャは、インター予測部332で参照ピクチャとして使用されることができる。メモリ360は、現在ピクチャ内の動き情報が導出された(または、デコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するために、インター予測部260に伝達することができる。メモリ360は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部331に伝達することができる。
本明細書において、エンコード装置200のフィルタリング部260、インター予測部221、及びイントラ予測部222で説明された実施形態は、各々デコード装置300のフィルタリング部350、インター予測部332、及びイントラ予測部331にも同一または対応するように適用されることができる。
本文書において量子化/逆量子化及び/又は変換/逆変換のうち、少なくとも1つは省略されることができる。前記量子化/逆量子化が省略される場合、前記量子化された変換係数は、変換係数と呼ばれることができる。前記変換/逆変換が省略される場合、前記変換係数は、係数またはレジデュアル係数と呼ばれることができ、または、表現の統一性のために、変換係数と依然と呼ばれることもできる。
本文書において量子化された変換係数及び変換係数は、各々変換係数及びスケーリングされた(scaled)変換係数と称されることができる。この場合、レジデュアル情報は、変換係数(等)に関する情報を含むことができ、前記変換係数(等)に関する情報は、レジデュアルコーディングシンタックスを介してシグナリングされることができる。前記レジデュアル情報(または、前記変換係数(等)に関する情報)に基づいて変換係数が導出され得るし、前記変換係数に対する逆変換(スケーリング)を介してスケーリングされた変換係数が導出され得る。前記スケーリングされた変換係数に対する逆変換(変換)に基づいてレジデュアルサンプルが導出され得る。これは、本文書の他の部分でも同様に適用/表現されることができる。
上述したように、ビデオコーディングを行うのにおいて、圧縮効率を上げるために予測を行う。これを介してコーディング対象ブロックである現在ブロックに対する予測サンプルを含む予測されたブロックを生成できる。ここで、前記予測されたブロックは、空間ドメイン(または、ピクセルドメイン)での予測サンプルを含む。前記予測されたブロックは、エンコード装置及びデコード装置で同一に導出され、前記エンコード装置は、原本ブロックの原本サンプル値自体でない前記原本ブロックと前記予測されたブロックとの間のレジデュアルに関する情報(レジデュアル情報)をデコード装置にシグナリングすることにより画像コーディング効率を上げることができる。デコード装置は、前記レジデュアル情報に基づいてレジデュアルサンプルを含むレジデュアルブロックを導出し、前記レジデュアルブロックと前記予測されたブロックとを合わせて復元サンプルを含む復元ブロックを生成でき、復元ブロックを含む復元ピクチャを生成できる。
前記レジデュアル情報は、変換及び量子化手順を介して生成されることができる。例えば、エンコード装置は、前記原本ブロックと前記予測されたブロックとの間のレジデュアルブロックを導出し、前記レジデュアルブロックに含まれたレジデュアルサンプル(レジデュアルサンプルアレイ)に変換手順を行って変換係数を導出し、前記変換係数に量子化手順を行って量子化された変換係数を導出し、関連したレジデュアル情報を(ビットストリームを介して)デコード装置にシグナリングすることができる。ここで、前記レジデュアル情報は、前記量子化された変換係数の値情報、位置情報、変換技法、変換カーネル、量子化パラメータなどの情報を含むことができる。デコード装置は、前記レジデュアル情報に基づいて逆量子化/逆変換手順を行い、レジデュアルサンプル(または、レジデュアルブロック)を導出できる。デコード装置は、予測されたブロックと前記レジデュアルブロックとに基づいて復元ピクチャを生成できる。エンコード装置は、さらに以後ピクチャのインター予測のための参照のために、量子化された変換係数を逆量子化/逆変換してレジデュアルブロックを導出し、これに基づいて復元ピクチャを生成できる。
イントラ予測は、現在ブロックが属するピクチャ(以下、現在ピクチャ)内の参照サンプルに基づいて現在ブロックに対する予測サンプルを生成する予測を表すことができる。現在ブロックにイントラ予測が適用される場合、現在ブロックのイントラ予測に使用する周辺参照サンプルが導出され得る。前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの左側(left)境界に隣接したサンプル及び左下側(bottom-left)に隣り合う合計2×nH個のサンプル、現在ブロックの上側(top)境界に隣接したサンプル及び右上側(top-right)に隣り合う合計2xnW個のサンプル及び現在ブロックの左上側(top-left)に隣り合う1個のサンプルを含むことができる。または、前記現在ブロックの周辺参照サンプルは、複数列の上側周辺サンプル及び複数行の左側周辺サンプルを含むこともできる。また、前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの右側(right)境界に隣接した合計nH個のサンプル、現在ブロックの下側(bottom)境界に隣接した合計nW個のサンプル、及び現在ブロックの右下側(bottom-right)に隣り合う1個のサンプルを含むこともできる。
ただし、現在ブロックの周辺参照サンプルのうち一部は、まだデコードされていないか、利用可能でないことができる。この場合、デコーダは、利用可能なサンプルに利用可能でないサンプルを代替(substitution)して、予測に使用する周辺参照サンプルを構成できる。または、利用可能なサンプルの補間(interpolation)を介して予測に使用する周辺参照サンプルを構成できる。
周辺参照サンプルが導出された場合、(i)現在ブロックの周辺(neighboring)参照サンプルの平均(average)あるいはインターポレーション(interpolation)に基づいて予測サンプルを誘導することができ、(ii)現在ブロックの周辺参照サンプルのうち予測サンプルに対して特定(予測)方向に存在する参照サンプルに基づいて前記予測サンプルを誘導することもできる。(i)の場合は、非方向性(non-directional)モードまたは非角度(non-angular)モード、(ii)の場合は、方向性(directional)モードまたは角度(angular)モードと呼ばれることができる。
また、前記周辺参照サンプルのうち、前記現在ブロックの予測サンプルを基準に前記現在ブロックのイントラ予測モードの予測方向に位置する第1の周辺サンプルと前記予測方向の反対方向に位置する第2の周辺サンプルとの補間によって前記予測サンプルが生成されることもできる。上述した場合は、線形補間イントラ予測(Linear interpolation intra prediction、LIP)と呼ばれることができる。また、線形モデル(linear model、LM)を利用し、ルマサンプルに基づいてクロマ予測サンプルが生成されることもできる。この場合は、LMモードまたはCCLM(chroma component LM)モードと呼ばれることができる。
また、フィルタリングされた周辺参照サンプルに基づいて前記現在ブロックの臨時予測サンプルを導出し、前記既存の周辺参照サンプル、すなわち、フィルタリングされなかった周辺参照サンプルのうち、前記イントラ予測モードによって導出された少なくとも1つの参照サンプルと前記臨時予測サンプルとを加重合(weighted sum)して前記現在ブロックの予測サンプルを導出することもできる。上述した場合は、PDPC(Position dependent intra prediction)と呼ばれることができる。
また、現在ブロックの周辺多重参照サンプルラインのうち、最も予測正確度が高い参照サンプルラインを選択し、当該ラインで予測方向に位置する参照サンプルを用いて予測サンプルを導出し、このとき、使用された参照サンプルラインをデコード装置に指示(シグナリング)する方法にてイントラ予測符号化を行うことができる。上述した場合は、多重参照ライン(multi-reference line)イントラ予測またはMRL基盤イントラ予測と呼ばれることができる。
また、現在ブロックを垂直または水平のサブパーティションに分けて同じイントラ予測モードに基づいてイントラ予測を行うものの、前記サブパーティション単位で周辺参照サンプルを導出して用いることができる。すなわち、この場合、現在ブロックに対するイントラ予測モードが前記サブパーティションに同様に適用されるものの、前記サブパーティション単位で周辺参照サンプルを導出して用いることにより、場合によってイントラ予測性能を高めることができる。このような予測方法は、ISP(intra sub-partitions)基盤イントラ予測と呼ばれることができる。
上述したイントラ予測方法等は、イントラ予測モードと区分してイントラ予測タイプと呼ばれることができる。前記イントラ予測タイプは、イントラ予測技法または付加イントラ予測モードなど、様々な用語と呼ばれることができる。例えば、前記イントラ予測タイプ(または、付加イントラ予測モードなど)は、上述したLIP、PDPC、MRL、ISPのうち、少なくとも1つを含むことができる。前記LIP、PDPC、MRL、ISPなどの特定イントラ予測タイプを除いた一般イントラ予測方法は、ノーマルイントラ予測タイプと呼ばれることができる。ノーマルイントラ予測タイプは、前記のような特定イントラ予測タイプが適用されない場合、一般的に適用されることができ、上述したイントラ予測モードに基づいて予測が行われ得る。一方、必要に応じて導出された予測サンプルに対する後処理フィルタリングが行われることもできる。
具体的に、イントラ予測手順は、イントラ予測モード/タイプ決定ステップ、周辺参照サンプル導出ステップ、イントラ予測モード/タイプ基盤の予測サンプル導出ステップを含むことができる。また、必要に応じて、導出された予測サンプルに対する後処理フィルタリング(post-filtering)ステップが行われることもできる。
図4は、イントラ予測基盤のビデオ/画像エンコード方法の例を示す。
図4に示すように、エンコード装置は、現在ブロックに対するイントラ予測を行う(S400)。エンコード装置は、現在ブロックに対するイントラ予測モード/タイプを導出し、現在ブロックの周辺参照サンプルを導出でき、前記イントラ予測モード/タイプ及び前記周辺参照サンプルに基づいて前記現在ブロック内の予測サンプルを生成する。ここで、イントラ予測モード/タイプ決定、周辺参照サンプル導出及び予測サンプル生成手順は、同時に行われることができ、いずれか1つの手順が他の手順より先に行われることもできる。エンコード装置は、複数のイントラ予測モード/タイプのうち、前記現在ブロックに対して適用されるモード/タイプを決定できる。エンコード装置は、前記イントラ予測モード/タイプに対するRD costを比較し、前記現在ブロックに対する最適のイントラ予測モード/タイプを決定できる。
一方、エンコード装置は、予測サンプルフィルタリング手順を行うこともできる。予測サンプルフィルタリングは、ポストフィルタリングと呼ばれることができる。前記予測サンプルフィルタリング手順によって前記予測サンプルのうち一部または全部がフィルタリングされ得る。場合によって、前記予測サンプルフィルタリング手順は省略されることができる。
エンコード装置は、(フィルタリングされた)予測サンプルに基づいて前記現在ブロックに対するレジデュアルサンプルを生成する(S410)。エンコード装置は、現在ブロックの原本サンプルで前記予測サンプルを位相を基に比較し、前記レジデュアルサンプルを導出できる。
エンコード装置は、前記イントラ予測に関する情報(予測情報)及び前記レジデュアルサンプルに関するレジデュアル情報を含む画像情報をエンコードすることができる(S420)。前記予測情報は、前記イントラ予測モード情報、前記イントラ予測タイプ情報を含むことができる。エンコード装置は、エンコードされた画像情報をビットストリーム形態で出力することができる。出力されたビットストリームは、格納媒体またはネットワークを介してデコード装置に伝達されることができる。
前記レジデュアル情報は、後述するレジデュアルコーディングシンタックスを含むことができる。エンコード装置は、前記レジデュアルサンプルを変換/量子化して、量子化された変換係数を導出できる。前記レジデュアル情報は、前記量子化された変換係数に関する情報を含むことができる。
一方、上述したように、エンコード装置は、復元ピクチャ(復元サンプル及び復元ブロックを含む)を生成できる。このために、エンコード装置は、前記量子化された変換係数を再度逆量子化/逆変換処理して(修正された)レジデュアルサンプルを導出できる。このように、レジデュアルサンプルを変換/量子化後、再度逆量子化/逆変換を行う理由は、上述したように、デコード装置から導出されるレジデュアルサンプルと同じレジデュアルサンプルを導出するためである。エンコード装置は、前記予測サンプルと前記(修正された)レジデュアルサンプルとに基づいて前記現在ブロックに対する復元サンプルを含む復元ブロックを生成できる。前記復元ブロックに基づいて前記現在ピクチャに対する復元ピクチャが生成され得る。前記復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
図5は、イントラ予測基盤のビデオ/画像エンコード方法の例を示す。
デコード装置は、前記エンコード装置で行われた動作と対応する動作を行うことができる。
予測情報及びレジデュアル情報をビットストリームから取得することができる。前記レジデュアル情報に基づいて現在ブロックに対するレジデュアルサンプルが導出され得る。具体的に、前記レジデュアル情報に基づいて導出された量子化された変換係数に基づいて、逆量子化を行って変換係数を導出し、前記変換係数に対する逆変換を行い、前記現在ブロックに対するレジデュアルサンプルを導出できる。
具体的に、デコード装置は、受信された予測情報(イントラ予測モード/タイプ情報)に基づいて現在ブロックに対するイントラ予測モード/タイプを導出できる(S500)。デコード装置は、前記現在ブロックの周辺参照サンプルを導出できる(S510)。デコード装置は、前記イントラ予測モード/タイプ及び前記周辺参照サンプルに基づいて前記現在ブロック内の予測サンプルを生成する(S520)。この場合、デコード装置は、予測サンプルフィルタリング手順を行うことができる。予測サンプルフィルタリングは、ポストフィルタリングと呼ばれることができる。前記予測サンプルフィルタリング手順によって前記予測サンプルのうち一部または全部がフィルタリングされ得る。場合によって、予測サンプルフィルタリング手順は省略されることができる。
デコード装置は、受信されたレジデュアル情報に基づいて前記現在ブロックに対するレジデュアルサンプルを生成する(S530)。デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて前記現在ブロックに対する復元サンプルを生成し、前記復元サンプルを含む復元ブロックを導出できる(S540)。前記復元ブロックに基づいて前記現在ピクチャに対する復元ピクチャが生成され得る。前記復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
前記イントラ予測モード情報は、例えば、MPM(most probable mode)が前記現在ブロックに適用されるか、それとも、リメイニングモード(remaining mode)が適用されるかの可否を表すフラグ情報(ex.intra_luma_mpm_flag)を含むことができ、前記MPMが前記現在ブロックに適用される場合、前記予測モード情報は、前記イントラ予測モード候補(MPM候補)のうち1つを指すインデックス情報(ex.intra_luma_mpm_idx)をさらに含むことができる。前記イントラ予測モード候補(MPM候補)は、MPM候補リストまたはMPMリストで構成されることができる。また、前記MPMが前記現在ブロックに適用されない場合、前記イントラ予測モード情報は、前記イントラ予測モード候補(MPM候補)を除いた残りのイントラ予測モードのうち1つを指すリメイニングモード情報(ex.intra_luma_mpm_remainder)をさらに含むことができる。デコード装置は、前記イントラ予測モード情報に基づいて前記現在ブロックのイントラ予測モードを決定できる。
また、前記イントラ予測タイプ情報は、様々な形態で実現されることができる。一例として、前記イントラ予測タイプ情報は、前記イントラ予測タイプのうち1つを指示するイントラ予測タイプインデックス情報を含むことができる。他の例として、前記イントラ予測タイプ情報は、前記MRLが前記現在ブロックに適用されるか、及び適用される場合には、何番目の参照サンプルラインが用いられるかの可否を表す参照サンプルライン情報(ex.intra_luma_ref_idx)、前記ISPが前記現在ブロックに適用されるかを表すISPフラグ情報(ex.intra_subpartitions_mode_flag)、または前記ISPが適用される場合に、サブパーティションが分割タイプを指示するISPタイプ情報(ex.intra_subpartitions_split_flag)のうち、少なくとも1つを含むことができる。また、前記イントラ予測タイプ情報は、前記現在ブロックにMIP(matrix-based intra prediction)が適用されるか否かを表すMIPフラグを含むことができる。
前記イントラ予測モード情報及び/又は前記イントラ予測タイプ情報は、本文書において説明したコーディング方法によってエンコード/デコードされることができる。例えば、前記イントラ予測モード情報及び/又は前記イントラ予測タイプ情報は、エントロピーコーディング(ex.CABAC、CAVLC)を介してエンコード/デコードされることができる。
図6は、イントラ予測手順を例示的に示す。
図6を参照すれば、上述したようにイントラ予測手順は、イントラ予測モード/タイプ決定ステップ、周辺参照サンプル導出ステップ、イントラ予測実行(予測サンプル生成)ステップを含むことができる。前記イントラ予測手順は、上述したようにエンコード装置及びデコード装置で行われることができる。本文書においてコーディング装置とは、エンコード装置及び/又はデコード装置を含むことができる。
図6に示すように、コーディング装置は、イントラ予測モード/タイプを決定する(S600)。
エンコード装置は、上述した様々なイントラ予測モード/タイプのうち、前記現在ブロックに適用されるイントラ予測モード/タイプを決定でき、予測関連情報を生成できる。前記予測関連情報は、前記現在ブロックに適用されるイントラ予測モードを表すイントラ予測モード情報及び/又は前記現在ブロックに適用されるイントラ予測タイプを表すイントラ予測タイプ情報を含むことができる。デコード装置は、前記予測関連情報に基づいて前記現在ブロックに適用されるイントラ予測モード/タイプを決定できる。
前記イントラ予測モード情報は、例えば、MPM(most probable mode)が前記現在ブロックに適用されるか、それとも、リメイニングモード(remaining mode)が適用されるかの可否を表すフラグ情報(ex.intra_luma_mpm_flag)を含むことができ、前記MPMが前記現在ブロックに適用される場合、前記予測モード情報は、前記イントラ予測モード候補(MPM候補)のうち1つを指すインデックス情報(ex.intra_luma_mpm_idx)をさらに含むことができる。前記イントラ予測モード候補(MPM候補)は、MPM候補リストまたはMPMリストで構成されることができる。また、前記MPMが前記現在ブロックに適用されない場合、前記イントラ予測モード情報は、前記イントラ予測モード候補(MPM候補)を除いた残りのイントラ予測モードのうち1つを指すリメイニングモード情報(ex.intra_luma_mpm_remainder)をさらに含むことができる。デコード装置は、前記イントラ予測モード情報に基づいて前記現在ブロックのイントラ予測モードを決定できる。
また、前記イントラ予測タイプ情報は、様々な形態で実現されることができる。一例として、前記イントラ予測タイプ情報は、前記イントラ予測タイプのうち1つを指示するイントラ予測タイプインデックス情報を含むことができる。他の例として、前記イントラ予測タイプ情報は、前記MRLが前記現在ブロックに適用されるか、及び適用される場合には、何番目の参照サンプルラインが用いられるかの可否を表す参照サンプルライン情報(ex.intra_luma_ref_idx)、前記ISPが前記現在ブロックに適用されるかを表すISPフラグ情報(ex.intra_subpartitions_mode_flag)、または前記ISPが適用される場合に、サブパーティションが分割タイプを指示するISPタイプ情報(ex.intra_subpartitions_split_flag)のうち、少なくとも1つを含むことができる。また、前記イントラ予測タイプ情報は、前記現在ブロックにMIP(matrix-based intra prediction)が適用されるか否かを表すMIPフラグを含むことができる。
例えば、イントラ予測が適用される場合、周辺ブロックのイントラ予測モードを用いて現在ブロックに適用されるイントラ予測モードが決定され得る。例えば、コーディング装置は、現在ブロックの周辺ブロック(ex.左側及び/又は上側周辺ブロック)のイントラ予測モード及び/又は追加的な候補モードに基づいて導出されたMPM(most probable mode)リスト内のMPM候補のうち1つを、受信されたMPMインデックスに基づいて選択することができ、または、前記MPM候補(及びプラナーモード)に含まれなかった残りのイントラ予測モードのうち1つをMPMリメインダー情報(リメイニングイントラ予測モード情報)に基づいて選択することができる。前記MPMリストは、プラナーモードを候補として含むか、含まないように構成されることができる。例えば、前記MPMリストがプラナーモードを候補として含む場合、前記MPMリストは、6個の候補を有することができ、前記MPMリストがプラナーモードを候補として含まない場合、前記MPMリストは、5個の候補を有することができる。前記MPMリストがプラナーモードを候補として含まない場合、現在ブロックのイントラ予測モードがプラナーモードでないかを表すnotプラナーフラグ(ex.intra_luma_not_planar_flag)がシグナリングされ得る。例えば、MPMフラグが先にシグナリングされ、MPMインデックス及びnotプラナーフラグは、MPMフラグの値が1である場合にシグナリングされることができる。また、前記MPMインデックスは、前記notプラナーフラグの値が1である場合にシグナリングされることができる。ここで、前記MPMリストがプラナーモードを候補として含まないように構成されることは、前記プラナーモードがMPMでないというよりは、MPMとして常にプラナーモードが考慮されるので、先にフラグ(not planar flag)をシグナリングして、プラナーモードであるか否かを先に確認するためである。
例えば、現在ブロックに適用されるイントラ予測モードがMPM候補(及びプラナーモード)の中にあるか、それとも、リメイニングモードの中にあるかは、MPMフラグ(ex.intra_luma_mpm_flag)に基づいて指示されることができる。MPMフラグの値1は、前記現在ブロックに対するイントラ予測モードがMPM候補(及びプラナーモード)内にあることを表すことができ、MPMフラグの値0は、前記現在ブロックに対するイントラ予測モードがMPM候補(及びプラナーモード)内にないことを表すことができる。前記not planar flag(ex.intra_luma_not_planar_flag)値0は、前記現在ブロックに対するイントラ予測モードがプラナーモードであることを表すことができ、前記not planar flag値1は、前記現在ブロックに対するイントラ予測モードがプラナーモードでないことを表すことができる。前記MPMインデックスは、mpm_idxまたはintra_luma_mpm_idxシンタックス要素の形態でシグナリングされることができ、前記リメイニングイントラ予測モード情報は、rem_intra_luma_pred_modeまたはintra_luma_mpm_remainderシンタックス要素の形態でシグナリングされることができる。例えば、前記リメイニングイントラ予測モード情報は、全体イントラ予測モードのうち、前記MPM候補(及びプラナーモード)に含まれない残りのイントラ予測モードを予測モード番号順にインデクシングして、そのうち1つを指すことができる。前記イントラ予測モードは、ルマ成分(サンプル)に対するイントラ予測モードであることができる。以下、イントラ予測モード情報は、前記MPMフラグ(ex.intra_luma_mpm_flag)、前記not planar flag(ex.intra_luma_not_planar_flag)、前記MPMインデックス(ex.mpm_idxまたはintra_luma_mpm_idx)、前記リメイニングイントラ予測モード情報(rem_intra_luma_pred_modeまたはintra_luma_mpm_remainder)のうち、少なくとも1つを含むことができる。本文書においてMPMリストは、MPM候補リスト、candModeListなど、様々な用語と呼ばれることができる。
MIPが現在ブロックに適用される場合、MIPのための別途のMPM flag(ex.intra_mip_mpm_flag)、MPMインデックス(ex.intra_mip_mpm_idx)、リメイニングイントラ予測モード情報(ex.intra_mip_mpm_remainder)がシグナリングされ得るし、前記not planar flagはシグナリングされないことができる。
言い換えれば、一般的に画像に対するブロック分割がなされると、コーディングしようとする現在ブロックと周辺(neighboring)ブロックとは、類似した画像特性を有するようになる。したがって、現在ブロックと周辺ブロックとは、互いに同一であるか、類似したイントラ予測モードを有する確率が高い。したがって、エンコーダは、現在ブロックのイントラ予測モードをエンコードするために、周辺ブロックのイントラ予測モードを用いることができる。
コーディング装置は、現在ブロックに対するMPM(most probable modes)リストを構成できる。前記MPMリストは、MPM候補リストと表すこともできる。ここで、MPMとは、イントラ予測モードコーディングの際、現在ブロックと周辺ブロックとの類似性を考慮して、コーディング効率を向上させるために用いられるモードを意味できる。上述したように、MPMリストは、プラナーモードを含んで構成されることができ、またはプラナーモードを除いて構成されることができる。例えば、MPMリストがプラナーモードを含む場合、MPMリストの候補の個数は、6個であることができる。そして、MPMリストがプラナーモードを含まない場合、MPMリストの候補の個数は、5個であることができる。
エンコード装置は、様々なイントラ予測モードに基づいて予測を行うことができ、これに基づいたRDO(rate-distortion optimization)に基づいて最適のイントラ予測モードを決定できる。エンコード装置は、この場合、前記MPMリストに構成されたMPM候補及びプラナーモードのみを用いて前記最適のイントラ予測モードを決定することができ、または、前記MPMリストに構成されたMPM候補及びプラナーモードだけでなく、残りのイントラ予測モードをさらに用いて前記最適のイントラ予測モードを決定することもできる。具体的に、例えば、仮に前記現在ブロックのイントラ予測タイプがノーマルイントラ予測タイプでない特定タイプ(例えば、LIP、MRL、またはISP)である場合には、エンコード装置は、前記MPM候補及びプラナーモードのみを前記現在ブロックに対するイントラ予測モード候補として考慮して前記最適のイントラ予測モードを決定できる。すなわち、この場合には、前記現在ブロックに対するイントラ予測モードは、前記MPM候補及びプラナーモードの中で決定されることができ、この場合には、前記MPM flagをエンコード/シグナリングしないことができる。デコード装置は、この場合には、MPM flagを別途にシグナリングされなくとも、MPM flagが1であることと推定することができる。
一方、一般的に、前記現在ブロックのイントラ予測モードがプラナーモードでなく、前記MPMリスト内にあるMPM候補のうち1つである場合、エンコード装置は、前記MPM候補のうち1つを指すMPMインデックス(mpm idx)を生成する。仮に、前記現在ブロックのイントラ予測モードが前記MPMリスト内にもない場合には、前記MPMリスト(及びプラナーモード)に含まれなかった残りのイントラ予測モードの中で前記現在ブロックのイントラ予測モードと同じモードを指すMPMリメインダー情報(リメイニングイントラ予測モード情報)を生成する。前記MPMリメインダー情報は、例えば、intra_luma_mpm_remainderシンタックス要素を含むことができる。
デコード装置は、ビットストリームからイントラ予測モード情報を取得する。前記イントラ予測モード情報は、上述したように、MPMフラグ、notプラナーフラグ、MPMインデックス、MPMリメインダー情報(リメイニングイントラ予測モード情報)のうち、少なくとも1つを含むことができる。デコード装置は、MPMリストを構成できる。前記MPMリストは、前記エンコード装置で構成されたMPMリストと同様に構成される。すなわち、前記MPMリストは、周辺ブロックのイントラ予測モードを含むことができ、予め決められた方法によって特定イントラ予測モードをさらに含むこともできる。
デコード装置は、前記MPMリスト及び前記イントラ予測モード情報に基づいて現在ブロックのイントラ予測モードを決定できる。一例として、前記MPMフラグの値が1である場合、デコード装置は、プラナーモードを前記現在ブロックのイントラ予測モードとして導出するか(not planar flag基盤)、前記MPMリスト内のMPM候補のうち、で前記MPMインデックスが指す候補を前記現在ブロックのイントラ予測モードとして導出することができる。ここで、MPM候補とは、前記MPMリストに含まれる候補のみを表すことができ、または、前記MPMリストに含まれる候補だけでなく、前記MPMフラグの値が1である場合に適用されることができるプラナーモードも含まれることができる。
他の例として、前記MPMフラグの値が0である場合、デコード装置は、前記MPMリスト及びプラナーモードに含まれなかった残りのイントラ予測モードの中で前記リメイニングイントラ予測モード情報(mpm remainder情報と呼ばれることができる)が指すイントラ予測モードを前記現在ブロックのイントラ予測モードとして導出することができる。一方、さらに他の例として、前記現在ブロックのイントラ予測タイプが特定タイプ(ex.LIP、MRLまたはISP等)である場合、デコード装置は、前記MPMフラグのパーシング/デコード/確認なしにも、前記プラナーモードまたは前記MPMリスト内で前記MPMフラグが指す候補を前記現在ブロックのイントラ予測モードとして導出することができる。
コーディング装置は、現在ブロックの周辺参照サンプルを導出する(S610)。現在ブロックにイントラ予測が適用される場合、現在ブロックのイントラ予測に使用する周辺参照サンプルが導出され得る。前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの左側(left)境界に隣接したサンプル及び左下側(bottom-left)に隣り合う合計2×nH個のサンプル、現在ブロックの上側(top)境界に隣接したサンプル及び右上側(top-right)に隣り合う合計2xnW個のサンプル及び現在ブロックの左上側(top-left)に隣り合う1個のサンプルを含むことができる。または、前記現在ブロックの周辺参照サンプルは、複数列の上側周辺サンプル及び複数行の左側周辺サンプルを含むこともできる。また、前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの右側(right)境界に隣接した合計nH個のサンプル、現在ブロックの下側(bottom)境界に隣接した合計nW個のサンプル、及び現在ブロックの右下側(bottom-right)に隣り合う1個のサンプルを含むこともできる。
一方、MRLが適用される場合(すなわち、MRLインデックスの値が0より大きい場合)、前記周辺参照サンプルは、左側/上側で現在ブロックに隣接した0番ラインでない、1番ないし2番ラインに位置することができ、この場合、周辺参照サンプルの個数はさらに増えることができる。一方、ISPが適用される場合、前記周辺参照サンプルは、サブパーティション単位で導出されることができる。
コーディング装置は、現在ブロックにイントラ予測を行って予測サンプルを導出する(S620)。コーディング装置は、前記イントラ予測モード/タイプ及び前記周辺サンプルに基づいて前記予測サンプルを導出できる。コーディング装置は、現在ブロックの周辺参照サンプルのうち、前記現在ブロックのイントラ予測モードによる参照サンプルを導出でき、前記参照サンプルに基づいて前記現在ブロックの予測サンプルを導出できる。
一方、インター予測が適用される場合、エンコード装置/デコード装置の予測部は、ブロック単位でインター予測を行って予測サンプルを導出できる。インター予測は、現在ピクチャ以外のピクチャ(等)のデータ要素(ex.サンプル値、または動き情報)に依存的な方法で導出される予測を表すことができる(Inter prediction can be a prediction derived in a manner that is dependent on data elements(ex.sample values or motion information) of picture(s) other than the current picture)。現在ブロックにインター予測が適用される場合、参照ピクチャインデックスが指す参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロック(予測サンプルアレイ)を導くことができる。このとき、インター予測モードで送信される動き情報の量を減らすために、周辺ブロックと現在ブロックとの間の動き情報の相関性に基づいて現在ブロックの動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測タイプ(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測が適用される場合、周辺ブロックは、現在ピクチャ内に存在する空間的周辺ブロック(spatial neighboring block)と参照ピクチャに存在する時間的周辺ブロック(temporal neighboring block)とを備えることができる。前記参照ブロックを備える参照ピクチャと前記時間的周辺ブロックを備える参照ピクチャとは、同一であることができ、異なることもできる。前記時間的周辺ブロックは、同一位置参照ブロック(collocated reference block)、同一位置CU(colCU)などの名前と呼ばれることができ、前記時間的周辺ブロックを含む参照ピクチャは、同一位置ピクチャ(collocated picture、colPic)とも呼ばれることができる。例えば、現在ブロックの周辺ブロックに基づいて動き情報候補リストが構成され得るし、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するために、いずれの候補が選択(使用)されるかを指示するフラグまたはインデックス情報がシグナリングされ得る。様々な予測モードに基づいてインター予測が行われ得るし、例えば、スキップモードとマージモードの場合に、現在ブロックの動き情報は、選択された周辺ブロックの動き情報と同様であることができる。スキップモードの場合、マージモードとは異なり、レジデュアル信号が送信されないことができる。動き情報予測(motion vector prediction、MVP)モードの場合、選択された周辺ブロックの動きベクトルを動きベクトル予測子(motion vector predictor)として用い、動きベクトル差分(motion vector difference)は、シグナリングされることができる。この場合、前記動きベクトル予測子及び動きベクトル差分の合計を利用して前記現在ブロックの動きベクトルを導出できる。
前記動き情報は、インター予測タイプ(L0予測、L1予測、Bi予測等)によってL0動き情報及び/又はL1動き情報を含むことができる。L0方向の動きベクトルは、L0動きベクトルまたはMVL0と呼ばれることができ、L1方向の動きベクトルは、L1動きベクトルまたはMVL1と呼ばれることができる。L0動きベクトルに基づいた予測は、L0予測と呼ばれることができ、L1動きベクトルに基づいた予測は、L1予測と呼ばれることができ、前記L0動きベクトル及び前記L1動きベクトルの両方に基づいた予測は、対(Bi)予測と呼ばれることができる。ここで、L0動きベクトルは、参照ピクチャリストL0(L0)に連関した動きベクトルを表すことができ、L1動きベクトルは、参照ピクチャリストL1(L1)に連関した動きベクトルを表すことができる。参照ピクチャリスストL0は、前記現在ピクチャより出力順序上、以前ピクチャを参照ピクチャとして備えることができ、参照ピクチャリストL1は、前記現在ピクチャより出力順序上、以後ピクチャを備えることができる。前記以前ピクチャは、順方向(参照)ピクチャと呼ばれることができ、前記以後ピクチャは、逆方向(参照)ピクチャと呼ばれることができる。前記参照ピクチャリストL0は、前記現在ピクチャより出力順序上、以後ピクチャを参照ピクチャとしてさらに備えることができる。この場合、前記参照ピクチャリストL0内で前記以前ピクチャが先にインデクシングされ、前記以後ピクチャは、その次にインデクシングされることができる。前記参照ピクチャリストL1は、前記現在ピクチャより出力順序上、以前ピクチャを参照ピクチャとしてさらに備えることができる。この場合、前記参照ピクチャリスト1内で前記以後ピクチャが先にインデクシングされ、前記以前ピクチャは、その次にインデクシングされることができる。ここで、出力順序は、POC(picture order count)順序(order)に対応することができる。
インター予測に基づいたビデオ/画像エンコード手順は、概略的に例えば、次を含むことができる。
図7は、インター予測基盤のビデオ/画像エンコード方法の例を示す。
エンコード装置は、現在ブロックに対するインター予測を行う(S700)。エンコード装置は、現在ブロックのインター予測モード及び動き情報を導出し、前記現在ブロックの予測サンプルを生成できる。ここで、インター予測モード決定、動き情報導出、及び予測サンプル生成手順は同時に行われることができ、いずれか1つの手順が他の手順より先に行われることもできる。例えば、エンコード装置のインター予測部は、予測モード決定部、動き情報導出部、予測サンプル導出部を備えることができ、予測モード決定部で前記現在ブロックに対する予測モードを決定し、動き情報導出部で前記現在ブロックの動き情報を導出し、予測サンプル導出部で前記現在ブロックの予測サンプルを導出できる。例えば、エンコード装置のインター予測部は、動き推定(motion estimation)を介して参照ピクチャの一定領域(サーチ領域)内で前記現在ブロックと類似したブロックをサーチし、前記現在ブロックとの差が最小または一定基準以下である参照ブロックを導出できる。これに基づいて前記参照ブロックが位置する参照ピクチャを指す参照ピクチャインデックスを導出し、前記参照ブロックと前記現在ブロックとの位置差に基づいて動きベクトルを導出できる。エンコード装置は、様々な予測モードのうち、前記現在ブロックに対して適用されるモードを決定できる。エンコード装置は、前記様々な予測モードに対するRD costを比較し、前記現在ブロックに対する最適の予測モードを決定できる。
例えば、エンコード装置は、前記現在ブロックにスキップモードまたはマージモードが適用される場合、後述するマージ候補リストを構成し、前記マージ候補リストに含まれたマージ候補が指す参照ブロックのうち、前記現在ブロックと、前記現在ブロックとの差が最小または一定基準以下である参照ブロックとを導出できる。この場合、前記導出された参照ブロックと連関したマージ候補が選択され、前記選択されたマージ候補を指すマージインデックス情報が生成されてデコード装置にシグナリングされることができる。前記選択されたマージ候補の動き情報を利用して前記現在ブロックの動き情報を導出できる。
他の例として、エンコード装置は、前記現在ブロックに(A)MVPモードが適用される場合、後述する(A)MVP候補リストを構成し、前記(A)MVP候補リストに含まれたmvp(motion vector predictor)候補のうち、選択されたmvp候補の動きベクトルを前記現在ブロックのmvpとして用いることができる。この場合、例えば、上述した動き推定によって導出された参照ブロックを指す動きベクトルが前記現在ブロックの動きベクトルとして用いられることができ、前記mvp候補のうち、前記現在ブロックの動きベクトルとの差が最も小さい動きベクトルを有するmvp候補が前記選択されたmvp候補になり得る。前記現在ブロックの動きベクトルから前記mvpを差し引いた差分であるMVD(motion vector difference)が導出され得る。この場合、前記MVDに関する情報がデコード装置にシグナリングされることができる。また、(A)MVPモードが適用される場合、前記参照ピクチャインデックスの値は、参照ピクチャインデックス情報で構成されて、別に前記デコード装置にシグナリングされることができる。
エンコード装置は、前記予測サンプルに基づいてレジデュアルサンプルを導出できる(S710)。エンコード装置は、前記現在ブロックの原本サンプルと前記予測サンプルとの比較を介して前記レジデュアルサンプルを導出できる。
エンコード装置は、予測情報及びレジデュアル情報を含む画像情報をエンコードする(S720)。エンコード装置は、エンコードされた画像情報をビットストリーム形態で出力することができる。前記予測情報は、前記予測手順に関連した情報として予測モード情報(ex.skip flag、merge flag or mode index等)及び動き情報に関する情報を含むことができる。前記動き情報に関する情報は、動きベクトルを導出するための情報である候補選択情報(ex.merge index、mvp flag or mvp index)を含むことができる。また、前記動き情報に関する情報は、上述したMVDに関する情報及び/又は参照ピクチャインデックス情報を含むことができる。また、前記動き情報に関する情報は、L0予測、L1予測、または、対(bi)予測が適用されるか否かを表す情報を含むことができる。前記レジデュアル情報は、前記レジデュアルサンプルに関する情報である。前記レジデュアル情報は、前記レジデュアルサンプルに対する量子化された変換係数に関する情報を含むことができる。
出力されたビットストリームは、(デジタル)格納媒体に格納されてデコード装置に伝達されることができ、または、ネットワークを介してデコード装置に伝達されることもできる。
一方、上述したように、エンコード装置は、前記参照サンプル及び前記レジデュアルサンプルに基づいて復元ピクチャ(復元サンプル及び復元ブロックを含む)を生成できる。これは、デコード装置で行われることと同じ予測結果をエンコード装置で導出するためであり、これを介してコーディング効率を上げることができるためである。したがって、エンコード装置は、復元ピクチャ(または、復元サンプル、復元ブロック)をメモリに格納し、インター予測のための参照ピクチャとして活用することができる。前記復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
インター予測に基づいたビデオ/画像デコード手順は、概略的に例えば、次を含むことができる。
図8は、インター予測基盤のビデオ/画像デコード方法の例を示す。
図8に示すように、デコード装置は、前記エンコード装置で行われた動作と対応する動作を行うことができる。デコード装置は、受信された予測情報に基づいて現在ブロックに対する予測を行い、予測サンプルを導出できる。
具体的に、デコード装置は、受信された予測情報に基づいて前記現在ブロックに対する予測モードを決定できる(S800)。デコード装置は、前記予測情報内の予測モード情報に基づいて前記現在ブロックにいずれのインター予測モードが適用されるか決定することができる。
例えば、前記merge flagに基づいて前記現在ブロックに前記マージモードが適用されるか、または(A)MVPモードが決定されるかの可否を決定できる。または、前記mode indexに基づいて様々なインター予測モード候補のうち1つを選択できる。前記インター予測モード候補は、スキップモード、マージモード、及び/又は(A)MVPモードを含むことができ、または、後述する様々なインター予測モードを含むことができる。
デコード装置は、前記決定されたインター予測モードに基づいて前記現在ブロックの動き情報を導出する(S810)。例えば、デコード装置は、前記現在ブロックにスキップモードまたはマージモードが適用される場合、後述するマージ候補リストを構成し、前記マージ候補リストに含まれたマージ候補のうち1つのマージ候補を選択できる。前記選択は、上述した選択情報(merge index)に基づいて行われることができる。前記選択されたマージ候補の動き情報を利用して前記現在ブロックの動き情報を導出できる。前記選択されたマージ候補の動き情報が前記現在ブロックの動き情報として利用されることができる。
他の例として、デコード装置は、前記現在ブロックに(A)MVPモードが適用される場合、後述する(A)MVP候補リストを構成し、前記(A)MVP候補リストに含まれたmvp(motion vector predictor)候補のうち、選択されたmvp候補の動きベクトルを前記現在ブロックのmvpとして用いることができる。前記選択は、上述した選択情報(mvp flag or mvp index)に基づいて行われることができる。この場合、前記MVDに関する情報に基づいて前記現在ブロックのMVDを導出でき、前記現在ブロックのmvpと前記MVDに基づいて前記現在ブロックの動きベクトルを導出できる。また、前記参照ピクチャインデックス情報に基づいて前記現在ブロックの参照ピクチャインデックスを導出できる。前記現在ブロックに関する参照ピクチャリスト内で前記参照ピクチャインデックスが指すピクチャが前記現在ブロックのインター予測のために参照される参照ピクチャとして導出されることができる。
一方、後述するように、候補リスト構成なしに前記現在ブロックの動き情報が導出され得るし、この場合、後述する予測モードで開示された手順によって前記現在ブロックの動き情報が導出され得る。この場合、上述したような候補リスト構成は省略されることができる。
デコード装置は、前記現在ブロックの動き情報に基づいて前記現在ブロックに対する予測サンプルを生成できる(S820)。この場合、前記現在ブロックの参照ピクチャインデックスに基づいて前記参照ピクチャを導出し、前記現在ブロックの動きベクトルが前記参照ピクチャ上で指す参照ブロックのサンプルを用いて前記現在ブロックの予測サンプルを導出できる。この場合、後述するように、場合によって、前記現在ブロックの予測サンプルのうち、全部または一部に対する予測サンプルフィルタリング手順がさらに行われることができる。
例えば、デコード装置のインター予測部は、予測モード決定部、動き情報導出部、予測サンプル導出部を備えることができ、予測モード決定部で受信された予測モード情報に基づいて前記現在ブロックに対する予測モードを決定し、動き情報導出部で受信された動き情報に関する情報に基づいて前記現在ブロックの動き情報(動きベクトル及び/又は参照ピクチャインデックス等)を導出し、予測サンプル導出部で前記現在ブロックの予測サンプルを導出できる。
デコード装置は、受信されたレジデュアル情報に基づいて前記現在ブロックに対するレジデュアルサンプルを生成する(S830)。デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて前記現在ブロックに対する復元サンプルを生成し、これに基づいて復元ピクチャを生成できる。(S840)。その後、前記復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
図9は、インター予測手順を例示的に示す。
図9を参照すれば、上述したように、インター予測手順は、インター予測モード決定ステップ、決定された予測モードによる動き情報導出ステップ、導出された動き情報に基づいた予測実行(予測サンプル生成)ステップを含むことができる。前記インター予測手順は、上述したように、エンコード装置及びデコード装置で行われることができる。本文書においてコーディング装置とは、エンコード装置及び/又はデコード装置を含むことができる。
図9に示すように、コーディング装置は、現在ブロックに対するインター予測モードを決定する(S900)。ピクチャ内の現在ブロックの予測のために、様々なインター予測モードが使用され得る。例えば、マージモード、スキップモード、MVP(motion vector prediction)モード、アファイン(Affine)モード、サブブロックマージモード、MMVD(merge with MVD)モードなど、様々なモードが使用され得る。DMVR(Decoder side motion vector refinement)モード、AMVR(adaptive motion vector resolution)モード、Bi-prediction with CU-level weight (BCW)、Bi-directional optical flow (BDOF)などが付随的なモードとしてさらにあるいは代わりに使用されることができる。アファインモードは、アファイン動き予測(affine motion prediction)モードと呼ばれることもできる。MVPモードは、AMVP(advanced motion vector prediction)モードと呼ばれることもできる。本文書において一部モード及び/又は一部モードによって導出された動き情報候補は、他のモードの動き情報関連候補のうち、1つとして含まれることもできる。例えば、HMVP候補は、前記マージ/スキップモードのマージ候補として追加されることができ、または、前記MVPモードのmvp候補として追加されることもできる。前記HMVP候補が前記マージモードまたはスキップモードの動き情報候補として使用される場合、前記HMVP候補は、HMVPマージ候補と呼ばれることができる。
現在ブロックのインター予測モードを指す予測モード情報がエンコード装置からデコード装置にシグナリングされることができる。前記予測モード情報は、ビットストリームに含まれてデコード装置に受信されることができる。前記予測モード情報は、複数の候補モードのうち1つを指示するインデックス情報を含むことができる。または、フラグ情報の階層的シグナリングを介してインター予測モードを指示することもできる。この場合、前記予測モード情報は、1つ以上のフラグを含むことができる。例えば、スキップフラグをシグナリングしてスキップモード適用可否を指示し、スキップモードが適用されない場合に、マージフラグをシグナリングしてマージモード適用可否を指示し、マージモードが適用されない場合に、MVPモードが適用されることと指示するか、追加的な区分のためのフラグをさらにシグナリングすることもできる。アファインモードは、独立的なモードでシグナリングされることができ、または、マージモードまたはMVPモードなどに従属的なモードでシグナリングされることもできる。例えば、アファインモードは、アファインマージモード及びアファインMVPモードを含むことができる。
コーディング装置は、前記現在ブロックに対する動き情報を導出する(S910)。前記動き情報導出を前記インター予測モードに基づいて導出することができる。
コーディング装置は、現在ブロックの動き情報を利用してインター予測を行うことができる。エンコード装置は、動き推定(motion estimation)手順を介して現在ブロックに対する最適の動き情報を導出できる。例えば、エンコード装置は、現在ブロックに対する原本ピクチャ内の原本ブロックを用いて相関性の高い類似した参照ブロックを参照ピクチャ内の決められた探索範囲内で分数ピクセル単位で探索することができ、これを介して動き情報を導出できる。ブロックの類似性は、位相(phase)基盤のサンプル値の差に基づいて導出することができる。例えば、ブロックの類似性は、現在ブロック(または、現在ブロックのテンプレート)と参照ブロック(または、参照ブロックのテンプレート)との間のSADに基づいて計算されることができる。この場合、探索領域内のSADが最も小さい参照ブロックに基づいて動き情報を導出できる。導出された動き情報は、インター予測モードに基づいて種々の方法によってデコード装置にシグナリングされることができる。
コーディング装置は、前記現在ブロックに対する動き情報に基づいてインター予測を行う(S920)。コーディング装置は、前記動き情報に基づいて前記現在ブロックに対する予測サンプル(等)を導出できる。前記予測サンプルを含む現在ブロックは、予測されたブロックと呼ばれることができる。
一方、上述したように、エンコード装置の量子化部は、変換係数に量子化を適用して量子化された変換係数を導出でき、エンコード装置の逆量子化部またはデコード装置の逆量子化部は、量子化された変換係数に逆量子化を適用して変換係数を導出できる。
一般的に、ビデオ/画像コーディングでは、量子化率を変化させることができ、変化された量子化率を利用して圧縮率を調節できる。実現観点では、複雑度を考慮して量子化率を直接使用する代わりに、量子化パラメータ(Quantization Parameter、QP)が使用され得る。例えば、0から63までの整数値の量子化パラメータが使用され得るし、各量子化パラメータ値は、実際量子化率に対応することができる。また、例えば、ルマ成分(ルマサンプル)に対する量子化パラメータQPYとクロマ成分(クロマサンプル)に対する量子化パラメータQPcとは異なるように設定されることができる。
量子化過程は、変換係数Cを入力とし、量子化率Qstepに分けて、これに基づいて量子化された変換係数C`を得ることができる。この場合、計算複雑度を考慮して量子化率にスケールをかけて整数形態に作り、スケール値に該当する値の分だけシフト演算を行うことができる。量子化率とスケール値との積を基に量子化スケール(quantization scale)が導出され得る。すなわち、QPによって前記量子化スケールが導出され得る。例えば、前記変換係数Cに前記量子化スケールを適用して、これに基づいて量子化された変換係数C`が導出されることもできる。
逆量子化過程は、量子化過程の逆過程であって、量子化された変換係数C`に量子化率Qstepをかけて、これに基づいて復元された変換係数C``を得ることができる。この場合、前記量子化パラメータによってレベルスケール(level scale)が導出され得るし、前記量子化された変換係数C`に前記レベルスケールを適用して、これに基づいて復元された変換係数C``が導出され得る。復元された変換係数C``は、変換及び/又は量子化過程での損失(loss)のため、最初変換係数Cと多少差がありうる。したがって、エンコード装置でも、デコード装置と同様に逆量子化を行う。
一方、周波数によって量子化強度を調節する適応的周波数別重み量子化(adaptive frequency weighting quantization)技術が適用され得る。前記適応的周波数別重み量子化技術は、周波数別に量子化強度を異なるように適用する方法である。前記適応的周波数別重み量子化は、予め定義された量子化スケーリングメトリックスを利用して各周波数別量子化強度を異なるように適用することができる。すなわち、上述した量子化/逆量子化過程は、前記量子化スケーリングメトリックスに基づいて行われることができる。例えば、現在ブロックのサイズ及び/又は前記現在ブロックのレジデュアル信号を生成するために、前記現在ブロックに適用された予測モードがインター予測であるか、イントラ予測であるかによって他の量子化スケーリングメトリックスが使用され得る。前記量子化スケーリングメトリックスは、量子化メトリックスまたはスケーリングメトリックスと呼ばれることができる。前記量子化スケーリングメトリックスは、予め定義されることができる。また、周波数適応的スケーリングのために、前記量子化スケーリングメトリックスに対する周波数別量子化スケール情報がエンコード装置で構成/エンコードされてデコード装置にシグナリングされることができる。前記周波数別量子化スケール情報は、量子化スケーリング情報と呼ばれることができる。前記周波数別量子化スケール情報は、スケーリングリストデータ(scaling_list_data)を含むことができる。前記スケーリングリストデータに基づいて(修正された)前記量子化スケーリングメトリックスが導出され得る。また、前記周波数別量子化スケール情報は、前記スケーリングリストデータの存否可否を指示する存否フラグ(present flag)情報を含むことができる。または、前記スケーリングリストデータが上位レベル(例えば、SPS)でシグナリングされた場合、前記上位レベルの下位レベル(例えば、PPSまたはtile group header等)で前記スケーリングリストデータが修正されるか否かを指示する情報などがさらに含まれ得る。
上述した内容のように、量子化パラメータに基づいてルマ成分及びクロマ成分に量子化/逆量子化が適用され得る。
一方、現在ビデオ/画像コーディング標準では、量子化グループ(Qunatization group)に対して、ルマQPに関する情報は、以前QPとのデルタQpでシグナリングされ、前記情報は、コーディングされた係数を有する1番目の変換ユニットまで送信が遅延され得る。具体的に、デルタQPを表すシンタックスエレメントcu_qp_deltaは、コーディングされた係数を有する量子化グループの1番目の変換ユニット(すなわち、tu_cbf=1)で送信されることができる。
図10は、128×128サイズのCU内のTUに対するcu_qp_deltaが送信される一例を示す。図10に示されたように、大きいサイズのCUの場合、コーディング順序上、最後のTUまでデルタQPが送信されないことができる。しかし、最後のTUに対して送信されたデルタQP値は、全体CUに適用されることができる。
また、現在ビデオ/画像コーディング標準では、64×64VDPU(Virtual Decoder Pipeline Unit)の概念が使用され得る。特に、現在ビデオ/画像コーディング標準は、最大変換サイズ(maximum transform sizes)、ルマ/クロマシンタックスインターリービング(interleaving)などのための構造(structural)及びシンタックスエレメント(syntax elements)は、デコード装置が最大128×128サイズの大きいCUでも一度に64×64サイズのブロック(すなわち、VDPU)を処理できるように設計されることができる。64×64パイプラインを使用すれば、128×128パイプラインのバッファリング要求事項に備えてデコード装置の相当な費用低減が可能でありうる。
しかし、VVC標準ドラフト5及びそれ以前の標準でのデルタQPデザインは、64×64パイプライン概念に合わない。インループフィルタリング(in-loop filtering)に対してQP値が必要であるので、QP値の不在は、CUの以前TUに対するプロセスを完了処理できないことを意味できる。
具体的に、デブロッキングフィルタは、フィルタリング閾値(thresoholds)を決定するためにQPが必要でありうる。したがって、VVC標準ドラフト6では、デルタQPシグナリングに条件(condition)が追加された。具体的に、cbWidth[chType]>64またはcbHeight[chType]>64であるCUの場合、1番目のTUがノンゼロ(non-zero)係数(すなわち、コーディングされた係数)を有するか否かと関係なく、デルタQPをシグナリングするように条件が追加され得る。
例えば、VVC標準ドラフト6でのルマデルタQPは、次の表のようにシグナリングされることができる。
また、例えば、VVC標準ドラフト5では、クロマQPコントロールがピクチャ及びスライスレベルでのみ可用である。例えば、クロマQPは、次の数式のように導出されることができる。
ここで、QpYは、ルマQP、QpBdOffsetCは、クロマQP範囲オフセット(chroma QP range offset)、pps_cb_qp_offset、pps_cr_qp_offset、pps_joint_cbcr_qp_offsetは、各クロマ成分に対するPPSレベルQPオフセット、slice_cb_qp_offset、slice_cr_qp_offset、slice_joint_cbcr_qp_offsetは、各クロマ成分に対するスライスレベルQPオフセットを表すことができる。また、Qp´Cbは、クロマCb成分に対するクロマ量子化パラメータ、Qp´Crは、クロマCr成分に対するクロマ量子化パラメータ、Qp´CbCrは、ジョイントCb-Crコーディングに対するクロマ量子化パラメータを表すことができる。
また、例えば、VVC標準ドラフト6では、CUレベルクロマQPコントロールも適用される。例えば、クロマQPは、次の数式のように導出されることができる。
ここで、CuQpOffsetCb、CuQpOffsetCr、CuQpOffsetCbCrは、各クロマ成分に対するCUレベルQPオフセットを表すことができる。また、Qp´Cbは、クロマCb成分に対するクロマ量子化パラメータ、Qp´Crは、クロマCr成分に対するクロマ量子化パラメータ、Qp´CbCrは、ジョイントCb-Crコーディングに対するクロマ量子化パラメータを表すことができる。
図11は、シングルツリーが使用される場合のルマブロック及びクロマブロックに対するQPマップの一例を示す。CUクロマQPは、ルマQPとシグナリングされたクロマQPオフセットとの合計で導出されることができる。図11に示すように、実線で表示された四角形は、量子化グループを表すことができ、点線で表示された四角形は、CUを表すことができる。また、例えば、図11に示すように、CuQpOffsetchromaは、2であることができる。一方、現在ブロックのツリータイプは、現在ルマブロックと対応する現在クロマブロックが個別的な分割構造を有するか否かによってシングルツリーSINGLE_TREEまたはデュアルツリーDUAL_TREEに区分されることができる。例えば、現在クロマブロックが現在ルマブロックと同じ分割構造を有すると、シングルツリー、現在クロマブロックが現在ルマブロックと異なる分割構造を有すると、デュアルツリーと表すことができる。前記現在ブロックは、CUまたはTUであることができる。
図12は、デュアルツリー(dual tree)が使用される場合のクロマブロックに対するQPマップの一例を示す。また、例えば、図12の(a)に示すように、CuQpOffsetchromaは、-9であることができ、図12の(b)に示すように、CuQpOffsetchromaは、2であることができる。デュアルツリーが使用される場合、ルマCUとクロマCUとの境界が整列されないことができる。すなわち、クロマブロックが対応するルマブロックと異なる分割構造を有することができる。したがって、それぞれのクロマCUに対して、クロマQPは、(クロマCUの中心に)対応する位置の(co-located)ルマQP及びシグナリングされたクロマQPオフセットの合計で導出されることができる。ルマQPとクロマQPとの間の相関関係(correlation)は多少維持されるが、クロマQPに対する制御は予測し難いことができる。
また、VVC標準ドラフト6では、オフセットテーブルをエントリー当り、2個のQPoffsetからエントリー当り、3個のQPoffsetに拡張することにより、ジョイントCbCrレジデュアルコーディングモードを統合する。
また、例えば、VVC標準ドラフト6のTUシンタックスは、下記の表のとおりでありうる。
変換係数レベルは、アレイTransCoeffLevel[x0][y0][cIdx][xC][yC]で表示されることができる。ここで、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルに対する当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。すなわち、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルの位置が(0、0)である場合に、当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。また、アレイインデックスcIdxは、色相成分に対するインデックスを表すことができる。例えば、ルマ成分(Y成分)に対するアレイインデックスの値は0、クロマCb成分に対するアレイインデックスの値は1、クロマCr成分に対するアレイインデックスの値は2のとおりでありうる。また、アレイインデックスxC及びyCは、現在変換ブロック内の変換係数の位置xC、yCを表すことができる。一方、TransCoeffLevel[x0][y0][cIdx][xC][yC]の値が指定されなければ、前記値は、0と同じことと見なされる(inferred)ことができる。
また、例えば、シンタックスエレメントtu_cbf_cb[x0][y0]が1であれば、Cb変換ブロックに0でない1つ以上の変換係数レベルが含まれることを表すことができる。ここで、アレイインデックスx0、y0は、考慮される変換ブロックの左上端位置x0、y0を表すことができる。現在TUにシンタックスエレメントtu_cbf_cb[x0][y0]が存在しない場合には、前記シンタックスエレメントtu_cbf_cb[x0][y0]の値は、0と見なされることができる。また、前記tu_cbf_cb[x0][y0]は、tu_cb_coded_flag[x0][y0]で表すこともできる。
また、例えば、シンタックスエレメントtu_cbf_cr[x0][y0]が1であれば、Cr変換ブロックに0でない1つ以上の変換係数レベルが含まれることを表すことができる。ここで、アレイインデックスx0、y0は、考慮される変換ブロックの左上端位置x0、y0を表すことができる。現在TUにシンタックスエレメントtu_cbf_cr[x0][y0]が存在しない場合には、前記シンタックスエレメントtu_cbf_cr[x0][y0]の値は、0と見なされることができる。また、前記tu_cbf_cr[x0][y0]は、tu_cr_coded_flag[x0][y0]で表すこともできる。
また、例えば、シンタックスエレメントtu_cbf_luma[x0][y0]が1であれば、ルマ変換ブロックに0でない1つ以上の変換係数レベルが含まれることを表すことができる。ここで、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルに対する当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。すなわち、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルの位置が(0、0)である場合に、当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。現在TUにシンタックスエレメントtu_cbf_luma[x0][y0]が存在しない場合には、前記シンタックスエレメントtu_cbf_luma[x0][y0]の値は、次のように見なされることができる。
例えば、cu_sbt_flagの値が1であり、後述する条件のうち1つが真である場合には、前記シンタックスエレメントtu_cbf_luma[x0][y0]の値は、0と見なされることができる。
・subTuIndexの値が0であり、cu_sbt_pos_flagの値が1である場合
・subTuIndexの値が1であり、cu_sbt_pos_flagの値が0である場合
一方、その他の場合には、前記シンタックスエレメントtu_cbf_luma[x0][y0]の値は、1と見なされることができる。また、前記tu_cbf_luma[x0][y0]は、tu_y_coded_flag[x0][y0]で表すこともできる。
また、例えば、シンタックスエレメントtu_joint_cbcr_residual_flag[x0][y0]は、クロマ成分Cb及びクロマ成分Crに対する残差サンプルが単一変換ブロック(single transform block)でコーディングされるか否かを表すことができる。ここで、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルに対する当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。すなわち、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルの位置が(0、0)である場合に、当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。
例えば、シンタックスエレメントtu_joint_cbcr_residual_flag[x0][y0]が1であれば、変換ユニットシンタックス(transform unit syntax)がクロマ成分Cb及びクロマ成分Crに対するレジデュアルサンプルが導出される単一変換ブロックに対する変換係数レベルが含まれることを表すことができる。また、例えば、シンタックスエレメントtu_joint_cbcr_residual_flag[x0][y0]が0であれば、クロマ成分の変換係数レベルがシンタックスエレメントtu_cbf_cb[x0][y0]及びtu_cbf_cr[x0][y0]で表示されるようにコーディングされることを表すことができる。シンタックスエレメントtu_joint_cbcr_residual_flag[x0][y0]が存在しない場合には、前記シンタックスエレメントtu_joint_cbcr_residual_flag[x0][y0]の値は、0と見なされることができる。
例えば、tu_joint_cbcr_residual_flag[x0][y0]、tu_cbf_cb[x0][y0]、及びtu_cbf_cr[x0][y0]によって変数(variable)TuCResMode[x0][y0」は、次のように導出されることができる。
・例えば、tu_joint_cbcr_residual_flag[x0][y0]の値が0である場合、変数TuCResMode[x0][y0」は、0に設定されることができる。
・上述した場合に該当せず、tu_cbf_cb[x0][y0]が1であり、tu_cbf_cr[x0][y0]が0である場合、変数TuCResMode[x0][y0」は、1に設定されることができる。
・上述した場合に該当せず、tu_cbf_cb[x0][y0]が1である場合、変数TuCResMode[x0][y0」は、2に設定されることができる。
・上述した場合に該当しない場合、変数TuCResMode[x0][y0」は、3に設定されることができる。
また、例えば、シンタックスエレメントcu_qp_delta_absは、現在コーディングユニットの量子化パラメータとその予測との間の差CuQpDeltaValの絶対値を表すことができる。
また、例えば、シンタックスエレメントcu_qp_delta_sign_flagは、次のように、CuQpDeltaValの符号を表すことができる。
・例えば、cu_qp_delta_sign_flagが0である場合、当該CuQpDeltaValは、正数(positive value)を有することができる。
・上述した場合に該当しない場合(すなわち、例えば、cu_qp_delta_sign_flagが1である場合)、当該CuQpDeltaValは、負数(negative value)を有することができる。
一方、シンタックスエレメントcu_qp_delta_sign_flagが存在しない場合には、前記シンタックスエレメントcu_qp_delta_sign_flagの値は、0と見なされることができる。
また、例えば、cu_qp_delta_absが存在する場合、変数IsCuQpDeltaCoded及び変数CuQpDeltaValは、次の数式のように導出されることができる。
CuQpDeltaValの値は、-(32+QpBdOffsetY/2)ないし+(31+QpBdOffsetY/2)の範囲にあることができる。
また、例えば、シンタックスエレメントcu_chroma_qp_offset_flagが存在し、1である場合、前記シンタックスエレメントcu_chroma_qp_offset_flagは、cb_qp_offset_list[]のエントリー(entry)がCuQpOffsetCbの値を決定するのに使用され、cr_qp_offset_list[]の当該エントリーがCuQpOffsetCrの値を決定するのに使用され、joint_cbcr_qp_offset_list[]の当該エントリーがCuQpOffsetCbCrの値を決定するのに使用されることを表すことができる。また、例えば、シンタックスエレメントcu_chroma_qp_offset_flagが0である場合、前記シンタックスエレメントcu_chroma_qp_offset_flagは、cb_qp_offset_list[]、cr_qp_offset_list[]、joint_cbcr_qp_offset_list[]がCuQpOffsetCb、CuQpOffsetCr、CuQpOffsetCbCrの値を決定するのに使用されないことを表すことができる。
また、例えば、シンタックスエレメントcu_chroma_qp_offset_idxが存在する場合、シンタックスエレメントcu_chroma_qp_offset_idxは、CuQpOffsetCb、CuQpOffsetCr、及びCuQpOffsetCbCrの値を決定するのに使用されるcb_qp_offset_list[]、cr_qp_offset_list[]、及びjoint_cbcr_qp_offset_list[]でのインデックスを表すことができる。シンタックスエレメントcu_chroma_qp_offset_idxが存在する場合、シンタックスエレメントcu_chroma_qp_offset_idxの値は、0ないしchroma_qp_offset_list_len_minus1の範囲にあることができる。シンタックスエレメントcu_chroma_qp_offset_idxが存在しない場合、シンタックスエレメントcu_chroma_qp_offset_idxは、0と見なされることができる。
また、例えば、シンタックスエレメントcu_chroma_qp_offset_flagが存在する場合、後述する内容が適用され得る。
・cu_chroma_qp_offset_flagが1である場合、次の数式のようにCuQpOffsetCb、CuQpOffsetCr、及びCuQpOffsetCbCrの値が導出され得る。
・上述した場合に該当しない場合(すなわち、例えば、cu_chroma_qp_offset_flagが0である場合)、CuQpOffsetCb、CuQpOffsetCr、及びCuQpOffsetCbCrは、0に設定されることができる。
また、例えば、シンタックスエレメントtransform_skip_flag[x0][y0]は、ルマ変換ブロックに変換(transform)が適用されるか否かを表すことができる。ここで、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルに対する当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。すなわち、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルの位置が(0、0)である場合に、当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。例えば、transform_skip_flag[x0][y0]が1であれば、ルマ変換ブロックに変換が適用されないことを表すことができる。また、例えば、transform_skip_flag[x0][y0]が0であれば、ルマ変換ブロックに変換が適用されるか否かが他のシンタックスエレメントに基づいて決定され得ることを表すことができる。
また、例えば、前記transform_skip_flag[x0][y0]が存在しない場合、前記transform_skip_flag[x0][y0]の値は、次のように見なされることができる。
・例えば、BdpcmFlag[x0][y0]が1である場合、前記transform_skip_flag[x0][y0]は、1と見なされることができる。
・上述した場合に該当しない場合(すなわち、例えば、BdpcmFlag[x0][y0]が0である場合)、前記transform_skip_flag[x0][y0]は、0と見なされることができる。
また、例えば、シンタックスエレメントtu_mts_idx[x0][y0]は、連関したルマ変換ブロックの水平方向及び垂直方向としてレジデュアルサンプルに適用される変換カーネル(transform kernels)を表すことができる。ここで、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルに対する当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。すなわち、アレイインデックスx0、y0は、ピクチャの左上端ルマサンプルの位置が(0、0)である場合に、当該変換ブロックの左上端ルマサンプルの位置x0、y0を表すことができる。また、例えば、前記シンタックスエレメントtu_mts_idx[x0][y0]が存在しない場合、前記シンタックスエレメントtu_mts_idx[x0][y0]は、0と見なされることができる。
図13は、デブロッキングフィルタリングのためのサンプルポジションを例示的に示す。
一方、クロマQPは、クロマ成分のデブロッキングフィルタリングに使用されることができる。しかし、例えば、デブロッキングフィルタリングに使用されるクロマQPは、スライスレベル及びCUレベルQP調整が考慮されないことができる。例えば、デブロッキングフィルタリングに使用されるクロマQPは、対応するルマQP及びピクチャレベルクロマQPオフセットcQpPicOffsetに基づいて導出されることができる。ここで、例えば、ピクチャレベルクロマQPオフセットを表すcQpPicOffsetは、cIdxが1であれば、pps_cb_qp_offsetに導出されることができ、cIdxが1でなければ、pps_cr_qp_offsetに導出されることができる。
また、例えば、変数QpQは、図6に示されたサンプルq0、0を含むコーディングブロックを含むコーディングユニットのQpY値と同一に設定されることができ、変数QpPは、図6に示されたサンプルp0、0を含むコーディングブロックを含むコーディングユニットのQpY値と同一に設定されることができる。
その後、デブロッキングフィルタリングに使用されるクロマQP QpCは、次の数式のように導出されることができる。
一方、既存のVVC標準のデブロッキングフィルタリングに対するクロマQP関連デザインには、いくつかの短所がありうる。VVCは、デュアルツリーを支援するので、CUのルマQP及びクロマQPは、ルマブロックとクロマブロックとのパーティションが異なるため、大きい差がありうる。また、VVC標準では、YUV4:2:0フォーマットだけでなく、YUV4:2:2フォーマット及びYUV4:4:4フォーマットも支援する。ここで、YUV4:4:4フォーマットの場合、デブロッキングフィルタリングに正確でないクロマQPが使用されれば、より大きい影響を及ぼすことができ、視覚的なアーティファクト(visual artefact)が発生しうる。
これにより、本文書は、後述する実施形態等のような効率的なクロマQPシグナリング方案を提案する。
一実施形態として、VDPUレベルプロセスを支援するクロマQPオフセットシグナリングを提案する。本実施形態において、cbWidthまたはcbHeightが64より大きいクロマCUの場合、1番目のTUにノンゼロ(non-zero)クロマCBFが含まれるか否かと関係なく、CUクロマQPオフセット(前記クロマCUに対するクロマQPオフセットが存在する場合)がシグナリングされ得る。すなわち、本実施形態によれば、現在クロマCUのcbWidthまたはcbHeightが64より大きい場合、1番目のTUにノンゼロ(non-zero)係数を有するか否かと関係なく、CUクロマQPオフセット(前記クロマCUに対するクロマQPオフセットが存在する場合)がシグナリングされ得る。ここで、前記cbWidth及び前記cbHeightは、チャネルタイプまたはツリータイプによるルマ要素またはクロマ要素のCU幅(width)とCU高さ(height)とを表すことができる。例えば、YUV4:4:4フォーマットの画像の場合、幅または高さが64より大きいクロマCUが発生しうるところ、本実施形態において提案された方案を介してVDPUレベルプロセスが可能であり、VDPUがパーシングされるとき、QPが可用でありうる。
例えば、本実施形態に係る変換ユニットシンタックスは、次の表のとおりでありうる。
表3を参照すれば、CUクロマQPオフセット関連情報のシグナリング条件に「CbWidth[chType][x0][y0]>64||CbHeight[chType][x0][y0]>64||」が追加され得る。すなわち、表3を参照すれば、CbWidth[chType][x0][y0]が64より大きい場合、またはCbHeight[chType][x0][y0]が64より大きい場合には、CUクロマQPオフセット関連情報がシグナリングされ得る。前記CUクロマQPオフセット関連情報は、シンタックスエレメントcu_chroma_qp_offset_flag及び/又はシンタックスエレメントcu_chroma_qp_offset_idxを含むことができる。
例えば、シンタックスエレメントcu_chroma_qp_offset_flagが存在し、1である場合、前記シンタックスエレメントcu_chroma_qp_offset_flagは、cb_qp_offset_list[]のエントリー(entry)がCuQpOffsetCbの値を決定するのに使用され、cr_qp_offset_list[]の当該エントリーがCuQpOffsetCrの値を決定するのに使用され、joint_cbcr_qp_offset_list[]の当該エントリーがCuQpOffsetCbCrの値を決定するのに使用されることを表すことができる。また、例えば、シンタックスエレメントcu_chroma_qp_offset_flagが0である場合、前記シンタックスエレメントcu_chroma_qp_offset_flagは、cb_qp_offset_list[]、cr_qp_offset_list[]、joint_cbcr_qp_offset_list[]がCuQpOffsetCb、CuQpOffsetCr、CuQpOffsetCbCrの値を決定するのに使用されないことを表すことができる。
また、例えば、シンタックスエレメントcu_chroma_qp_offset_idxが存在する場合、シンタックスエレメントcu_chroma_qp_offset_idxは、CuQpOffsetCb、CuQpOffsetCr、及びCuQpOffsetCbCrの値を決定するのに使用されるcb_qp_offset_list[]、cr_qp_offset_list[]、及びjoint_cbcr_qp_offset_list[]でのインデックスを表すことができる。シンタックスエレメントcu_chroma_qp_offset_idxが存在する場合、シンタックスエレメントcu_chroma_qp_offset_idxの値は、0ないしchroma_qp_offset_list_len_minus1の範囲にあることができる。シンタックスエレメントcu_chroma_qp_offset_idxが存在しない場合、シンタックスエレメントcu_chroma_qp_offset_idxは、0と見なされることができる。
また、本文書は、一実施形態として、デュアルツリーに対するCUレベルクロマQPオフセットシグナリングに条件を追加する方案を提案する。本実施形態は、不要なシグナリングを避けるために、CUクロマQPオフセットフラグに対する既存のシンタックスの可用条件を修正する方案を提案する。例えば、本実施形態によれば、コーディングツリー(coding tree)がデュアルツリールマDUAL_TREE_LUMAである場合、すなわち、コーディングツリーがシングルツリーSINGLE_TREE及びデュアルツリークロマDUAL_TREE_CHROMAでない場合、CUクロマQPオフセット関連情報がシグナリングされないことができる。
例えば、本実施形態に係る変換ユニットシンタックスは、次の表のとおりでありうる。
表4を参照すれば、CUクロマQPオフセット関連情報のシグナリング条件に「&&treetype !=DUAL_TREE_LUMA」が追加され得る。すなわち、表4を参照すれば、コーディングツリーがDUAL_TREE_LUMAでない場合にのみCUクロマQPオフセット関連情報がシグナリングされ得る。前記CUクロマQPオフセット関連情報は、シンタックスエレメントcu_chroma_qp_offset_flag及び/又はシンタックスエレメントcu_chroma_qp_offset_idxを含むことができる。
また、本文書は、一実施形態として、CUレベルクロマQPオフセットシグナリングに条件を追加する他の方案を提案する。本実施形態は、不要なシグナリングを避けるために、CUクロマQPオフセットフラグに対する既存のシンタックスの可用条件を修正する方案を提案する。例えば、本実施形態は、上述した実施形態等のシグナリング条件を結合して既存のシンタックスの可用条件を修正する方案を提案する。
例えば、本実施形態に係る変換ユニットシンタックスは、次の表のとおりでありうる。
表5を参照すれば、CUクロマQPオフセット関連情報のシグナリング条件に「CbWidth[chType][x0][y0]>64||CbHeight[chType][x0][y0]>64||」及び「&&treetype !=DUAL_TREE_LUMA」が追加され得る。すなわち、表5を参照すれば、コーディングツリーがDUAL_TREE_LUMAでなく、CbWidth[chType][x0][y0]が64より大きいか、またはCbHeight[chType][x0][y0]が64より大きい場合、CUクロマQPオフセット関連情報がシグナリングされ得る。したがって、コーディングツリーがDUAL_TREE_LUMAである場合には、CUクロマQPオフセット関連情報がシグナリングされないことができる。前記CUクロマQPオフセット関連情報は、シンタックスエレメントcu_chroma_qp_offset_flag及び/又はシンタックスエレメントcu_chroma_qp_offset_idxを含むことができる。
また、本文書は、デブロッキングフィルタリングに対してCUレベルクロマQPを使用する方案を提案する。本実施形態は、クロマデブロッキングプロセスで使用される、QpCで表示されるクロマQPにスライスレベルクロマQP及び/又はCUレベルクロマQPを統合する方案を提案する。導出されたQpCに基づいてデブロッキングパラメータが決定され得る。
例えば、変数QpCは、次の数式のように、周辺CUのQpに基づいて導出されることができる。
ここで、QpQ’cIdxは、デブロッキングフィルタリングされるブロック境界に隣接したCU PのクロマQPを表すことができ、QpP’cIdxは、デブロッキングフィルタリングされるブロック境界に隣接したCU QのクロマQPを表すことができる。また、cIdxは、クロマ成分を表すインデックスであることができる。例えば、cIdxは、クロマCb成分、クロマCr成分、またはクロマCbCr成分を表すことができる。QpQ’cIdx及びQpP’cIdxは、既にスライスレベルQP調整及びCUレベルQP調整が考慮された値であることができる。
または、例えば、変数QpCは、まず、周辺CU P及び周辺CU QのルマQPに基づいて導出されることができ、次に、スライスレベルQP調整及びCUレベルQP調整が追加され得る。例えば、変数QpCは、次の数式のように導出されることができる。
ここで、CuQpOffsetPcIdxは、周辺CU Pの要素cIdxのCuQPOffsetを表すことができ、CuQpOffsetQcIdxは、周辺CU Qの要素cIdxのCuQPOffsetを表すことができる。
図14は、本文書に係るエンコード装置による画像エンコード方法を概略的に示す。図14において開示された方法は、図2において開示されたエンコード装置によって行われることができる。具体的に、例えば、図14のS1400は、前記エンコード装置の予測部及びレジデュアル処理部によって行われることができ、S1410は、前記エンコード装置の加算部によって行われることができ、S1420は、前記エンコード装置のエントロピーエンコード部によって行われることができる。
エンコード装置は、現在クロマブロックに対する予測サンプル及びレジデュアルサンプルを導出する(S1400)。エンコード装置は、現在クロマブロックに対する予測サンプル及びレジデュアルサンプルを導出できる。
例えば、エンコード装置は、予測モードに基づいて前記現在クロマブロックに対する予測サンプルを導出できる。この場合、インター予測またはイントラ予測など、本文書において開示された様々な予測方法が適用され得る。
例えば、エンコード装置は、現在クロマブロックにインター予測を行うか、またはイントラ予測を行うかの可否を決定でき、具体的なインター予測モードまたは具体的なイントラ予測モードをRDコストを基に決定することができる。決定されたモードによってエンコード装置は、前記現在クロマブロックに対する予測サンプルを導出できる。
その後、例えば、エンコード装置は、前記現在クロマブロックに対する原本サンプルと前記予測サンプルとの減算を介して前記レジデュアルサンプルを導出できる。
エンコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元ピクチャを生成する(S1410)。例えば、エンコード装置は、前記予測サンプルと前記レジデュアルサンプルとの加算を介して復元サンプル及び/又は復元ピクチャを生成できる。
その後、必要に応じて主観的/客観的画質を向上させるために、デブロッキングフィルタリング、SAO、及び/又はALF手順のようなインループフィルタリング手順が前記復元サンプルに適用され得ることは、上述したとおりである。
一方、例えば、前記現在クロマブロックのエッジ(edge)にデブロッキングフィルタリングが行われ得る。例えば、現在クロマブロックのクロマQPと前記エッジに隣接した前記現在クロマブロックの周辺ブロックのクロマQPとに基づいて特定値が導出され得るし、前記特定値に基づいて前記デブロッキングフィルタリングのためのデブロッキングパラメータ(deblocking parameter)が導出され得る。例えば、前記特定値は、上述した数式6のように導出されることができる。前記現在クロマブロックのクロマQPは、上述したように、前記現在クロマブロックに対する前記CUクロマQPオフセットに基づいて導出されることができ、前記周辺ブロックのクロマQPは、前記周辺ブロックに対するCUクロマQPオフセットに基づいて導出されることができる。ここで、例えば、前記エッジは、前記デブロッキングフィルタリングが適用される前記現在クロマブロックの領域を表すことができる。
または、例えば、現在クロマブロックのクロマQPと前記エッジに隣接した前記現在クロマブロックの周辺ブロックのクロマQP、及び前記CUクロマQPオフセットに基づいて特定値が導出され得るし、前記特定値に基づいて前記デブロッキングフィルタリングのためのデブロッキングパラメータ(deblocking parameter)が導出され得る。例えば、前記特定値は、上述した数式7のように導出されることができる。ここで、例えば、前記エッジは、前記デブロッキングフィルタリングが適用される前記現在クロマブロックの領域を表すことができる。
エンコード装置は、画像情報をエンコードする(S1420)。エンコード装置は、画像情報をエンコードできる。前記画像情報は、前記現在クロマブロックに対する予測情報、レジデュアル情報、及び/又はコーディングユニット(Coding Unit、CU)クロマ量子化パラメータ(Quantization Parameter、QP)オフセット関連情報を含むことができる。
例えば、エンコード装置は、前記現在クロマブロックに対する予測情報を生成及びエンコードすることができる。この場合、インター予測またはイントラ予測など、本文書において開示された様々な予測方法が適用され得る。例えば、エンコード装置は、現在クロマブロックにインター予測を行うか、またはイントラ予測を行うかの可否を決定でき、具体的なインター予測モードまたは具体的なイントラ予測モードをRDコストを基に決定することができる。決定されたモードによってエンコード装置は、前記現在クロマブロックに対する予測サンプルを導出できる。前記予測情報は、前記現在クロマブロックに対する予測モード情報を含むことができる。前記画像情報は、前記予測情報を含むことができる。
また、例えば、エンコード装置は、現在クロマブロックのサイズ及びツリータイプ(tree type)に基づいて前記現在クロマブロックに対するコーディングユニット(Coding Unit、CU)クロマ量子化パラメータ(Quantization Parameter、QP)オフセット関連情報を生成及びエンコードすることができる。前記CUクロマQPオフセット関連情報は、CUレベルクロマQPオフセット関連情報と表すこともできる。ここで、前記ツリータイプは、シングルツリー、デュアルツリールマ、デュアルツリークロマのうち1つであることができる。また、例えば、前記CUクロマQPオフセット関連情報は、前記現在クロマブロックの変換ブロックのうち、1番目の変換ブロックに対する変換ユニットシンタックス(transform unit syntax)でシグナリングされることができる。すなわち、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記CUクロマQPオフセット関連情報を含むことができる。前記1番目の変換ブロックは、前記現在クロマブロックの変換ブロックのうち、デコード順序上、1番目にコーディングされる変換ブロックであることができる。例えば、1番目の変換ブロックは、前記現在クロマブロックの変換ブロックのうち、左上端変換ブロックであることができる。
具体的に、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされることができる。すなわち、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は生成されることができる。ここで、例えば、前記特定値は、64であることができる。また、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、1番目の変換ブロックに対する変換ユニットシンタックスで前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報がシグナリングされ得る。すなわち、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。
または、例えば、前記ツリータイプが前記デュアルツリールマである場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされないことができる。すなわち、例えば、前記ツリータイプが前記デュアルツリールマである場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は生成されないことができる。したがって、例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされることができる。すなわち、例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は生成されることができる。ここで、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスを介して前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報がシグナリングされ得る。すなわち、例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。
または、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされることができる。すなわち、例えば、前記現在クロマブロックの幅及び高さのうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は生成されることができる。ここで、例えば、前記特定値は、64であることができる。したがって、例えば、前記ツリータイプが前記デュアルツリールマである場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされないことができる。また、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。例えば、前記現在クロマブロックの幅及び高さのうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスを介して前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報がシグナリングされ得る。すなわち、例えば、前記現在クロマブロックの幅及び高さのうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。
一方、例えば、前記CUクロマQPオフセット関連情報は、前記現在クロマブロックに対するCUクロマQPオフセットフラグ及び/又はCUクロマQPオフセットインデックスを含むことができる。前記CUクロマQPオフセットフラグは、CUレベルクロマQPオフセットフラグと表すことができ、前記CUクロマQPオフセットインデックスは、CUレベルクロマQPオフセットインデックスと表すこともできる。
例えば、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリスト内のエントリー(entry)がCUクロマQPオフセットの値を決定するのに使用されるか否かに対するフラグであることができる。すなわち、例えば、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリスト内のエントリー(entry)がCUクロマQPオフセットの値を決定するのに使用されるか否かを表すことができる。例えば、前記CUクロマQPオフセットフラグが存在し、前記CUクロマQPオフセットフラグの値が1である場合、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリスト内のエントリー(entry)がCUクロマQPオフセットの値を決定するのに使用されることを表すことができる。また、例えば、前記CUクロマQPオフセットフラグの値が0である場合、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリストがCUクロマQPオフセットの値を決定するのに使用されないことを表すことができる。ここで、例えば、前記クロマ成分は、Cb成分、Cr成分、及び/又はジョイントCbCr成分を含むことができる。また、例えば、前記CUクロマQPオフセットフラグのシンタックスエレメントは、上述したcu_chroma_qp_offset_flagであることができる。
また、例えば、前記CUクロマQPオフセットインデックスは、CUクロマQPオフセットの値を決定するのに使用されるCU QPオフセットリスト内のエントリー(entry)のインデックスを表すことができる。すなわち、例えば、前記CUクロマQPオフセットインデックスは、CU QPオフセットリスト内のエントリー(entry)のインデックスに関する情報であることができる。また、例えば、前記CUクロマQPオフセットインデックスのシンタックスエレメントは、上述したcu_chroma_qp_offset_idxであることができる。
また、例えば、エンコード装置は、前記CUクロマQPオフセット関連情報に基づいて前記現在クロマブロックに対するクロマQPを導出できる。例えば、エンコード装置は、前記CUクロマQPオフセット関連情報に基づいて前記現在クロマブロックに対するCUクロマQPオフセットを導出でき、前記CUクロマQPオフセットに基づいて前記現在クロマブロックに対するクロマQPを導出できる。具体的に、例えば、エンコード装置は、クロマ成分に対する第1のクロマQP及び前記CUクロマQPオフセットの加算を介して前記現在クロマブロックに対するクロマQPを導出できる。
具体的に、例えば、エンコード装置は、ルマQP及び/又はクロマQPマッピング(mapping)テーブルに基づいて前記現在クロマブロックのクロマ成分に対する第1のクロマQPを導出でき、前記CUクロマQPオフセット関連情報に基づいて前記現在クロマブロックに対するCUクロマQPオフセットを導出でき、前記第1のクロマQP及び前記CUクロマQPオフセットに基づいて前記現在クロマブロックに対するクロマQPを導出できる。ここで、例えば、前記第1のクロマQPは、SPS(Sequence Parameter Set)クロマQPまたはSPSレベルクロマQPと表すこともできる。
その後、例えば、エンコード装置は、前記クロマQPに基づいて前記レジデュアルサンプルを量子化し、前記現在クロマブロックに対する変換係数を導出できる。エンコード装置は、前記クロマQPに基づいて前記現在クロマブロックに対する変換係数を導出できる。例えば、エンコード装置は、前記クロマQPに基づいて前記現在クロマブロックに対する前記レジデュアルサンプルを量子化して前記変換係数を導出できる。または、例えば、エンコード装置は、前記現在クロマブロックに対する前記レジデュアルサンプルを変換して、変換された変換係数を導出でき、前記クロマQPに基づいて前記変換された変換係数を量子化して前記変換係数を導出できる。
また、例えば、エンコード装置は、前記現在クロマブロックに対するレジデュアル情報を生成及びエンコードすることができる。例えば、エンコード装置は、前記変換係数に対するレジデュアル情報を生成及びエンコードすることができる。例えば、前記レジデュアル情報は、前記変換係数に対する変換係数レベル情報及びサインフラグ情報を含むことができる。例えば、変換係数の変換係数レベルは、前記レジデュアル情報に含まれた変換係数レベル情報が表す値で導出されることができ、変換係数の符号(sign)は、前記サインフラグ情報が表す符号で導出されることができる。例えば、前記レジデュアル情報は、現在クロマブロックの変換係数に対するシンタックスエレメントを含むことができる。例えば、前記シンタックスエレメントは、coded_sub_block_flag、sig_coeff_flag、coeff_sign_flag、abs_level_gt1_flag、par_level_flag、abs_level_gtX_flag、abs_remainder、及び/又はcoeff_sign_flagなどのシンタックスエレメント(syntax elements)を含むことができる。
例えば、エンコード装置は、画像情報をエンコードしてビットストリーム形態で出力することができる。
一方、前記画像情報を含むビットストリームは、ネットワークまたは(デジタル)格納媒体を介してデコード装置に送信されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。
図15は、本文書に係る画像エンコード方法を行うエンコード装置を概略的に示す。図14において開示された方法は、図15において開示されたエンコード装置によって行われることができる。具体的に、例えば、図15の前記エンコード装置の予測部及びレジデュアル処理部は、S1400を行うことができ、図15の前記エンコード装置の加算部は、S1410を行うことができ、図15の前記エンコード装置のエントロピーエンコード部は、S1420を行うことができる。
図16は、本文書に係るデコード装置による画像デコード方法を概略的に示す。図16において開示された方法は、図3において開示されたデコード装置によって行われることができる。具体的に、例えば、図16のS1600は、前記デコード装置のエントロピーデコード部によって行われることができ、図16のS1610は、前記デコード装置のレジデュアル処理部によって行われることができる。
デコード装置は、画像情報を取得する(S1600)。デコード装置は、ビットストリームを介して画像情報を取得できる。
例えば、前記画像情報は、現在クロマブロックに対する予測情報及び/又はレジデュアル情報を含むことができる。例えば、デコード装置は、現在クロマブロックに対する予測情報及びレジデュアル情報を取得できる。
例えば、前記予測情報は、前記現在クロマブロックに対する予測モード情報を含むことができる。前記予測モード情報は、前記クロマ成分に対する現在ブロックにインター予測が適用されるか、イントラ予測が適用されるかの可否を表すことができる。
また、例えば、前記レジデュアル情報は、現在クロマブロックの変換係数に対するシンタックスエレメントを含むことができる。例えば、前記シンタックスエレメントは、coded_sub_block_flag、sig_coeff_flag、coeff_sign_flag、abs_level_gt1_flag、par_level_flag、abs_level_gtX_flag、abs_remainder、及び/又はcoeff_sign_flagなどのシンタックスエレメント(syntax elements)を含むことができる。
また、例えば、前記画像情報は、前記現在クロマブロックに対するコーディングユニット(Coding Unit、CU)クロマ量子化パラメータ(Quantization Parameter、QP)オフセット関連情報を含むことができる。例えば、デコード装置は、前記現在クロマブロックのサイズ及びツリータイプ(tree type)に基づいて前記現在クロマブロックに対するコーディングユニット(Coding Unit、CU)クロマ量子化パラメータ(Quantization Parameter、QP)オフセット関連情報を取得できる。前記CUクロマQPオフセット関連情報は、CUレベルクロマQPオフセット関連情報と表すこともできる。ここで、前記ツリータイプは、シングルツリー、デュアルツリールマ、デュアルツリークロマのうち1つであることができる。また、例えば、前記CUクロマQPオフセット関連情報は、前記現在クロマブロックの変換ブロックのうち、1番目の変換ブロックに対する変換ユニットシンタックス(transform unit syntax)でシグナリングされることができる。すなわち、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記CUクロマQPオフセット関連情報を含むことができる。前記1番目の変換ブロックは、前記現在クロマブロックの変換ブロックのうち、デコード順序上、1番目にデコードされる変換ブロックであることができる。例えば、1番目の変換ブロックは、前記現在クロマブロックの変換ブロックのうち、左上端変換ブロックであることができる。
具体的に、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされることができる。すなわち、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は取得されることができる。ここで、例えば、前記特定値は、64であることができる。また、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、1番目の変換ブロックに対する変換ユニットシンタックスで前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報が取得され得る。すなわち、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きい場合、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。
または、例えば、前記ツリータイプが前記デュアルツリールマである場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされないことができる。すなわち、例えば、前記ツリータイプが前記デュアルツリールマである場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は取得されないことができる。したがって、例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされることができる。すなわち、例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は取得されることができる。ここで、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスを介して前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報が取得され得る。すなわち、例えば、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。
または、例えば、前記現在クロマブロックの幅(width)及び高さ(height)のうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされることができる。すなわち、例えば、前記現在クロマブロックの幅及び高さのうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報は取得されることができる。ここで、例えば、前記特定値は、64であることができる。したがって、例えば、前記ツリータイプが前記デュアルツリールマである場合、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報はシグナリングされないことができる。また、例えば、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。例えば、前記現在クロマブロックの幅及び高さのうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスを介して前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報が取得され得る。すなわち、例えば、前記現在クロマブロックの幅及び高さのうち、少なくとも1つが特定値より大きく、前記ツリータイプが前記デュアルツリールマでない場合(すなわち、前記ツリータイプがシングルツリー及びデュアルツリークロマのうち1つである場合)、前記1番目の変換ブロックが少なくとも1つの0でない変換係数レベルを含むかの可否と関係なく、前記1番目の変換ブロックに対する変換ユニットシンタックスは、前記現在クロマブロックに対する前記CUクロマQPオフセット関連情報を含むことができる。
一方、例えば、前記CUクロマQPオフセット関連情報は、前記現在クロマブロックに対するCUクロマQPオフセットフラグ及び/又はCUクロマQPオフセットインデックスを含むことができる。前記CUクロマQPオフセットフラグは、CUレベルクロマQPオフセットフラグと表すことができ、前記CUクロマQPオフセットインデックスは、CUレベルクロマQPオフセットインデックスと表すこともできる。
例えば、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリスト内のエントリー(entry)がCUクロマQPオフセットの値を決定するのに使用されるか否かに対するフラグでありうる。すなわち、例えば、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリスト内のエントリー(entry)がCUクロマQPオフセットの値を決定するのに使用されるか否かを表すことができる。例えば、前記CUクロマQPオフセットフラグが存在し、前記CUクロマQPオフセットフラグの値が1である場合、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリスト内のエントリー(entry)がCUクロマQPオフセットの値を決定するのに使用されることを表すことができる。また、例えば、前記CUクロマQPオフセットフラグの値が0である場合、前記CUクロマQPオフセットフラグは、クロマ成分に対するCU QPオフセットリストがCUクロマQPオフセットの値を決定するのに使用されないことを表すことができる。ここで、例えば、前記クロマ成分は、Cb成分、Cr成分、及び/又はジョイントCbCr成分を含むことができる。また、例えば、前記CUクロマQPオフセットフラグのシンタックスエレメントは、上述したcu_chroma_qp_offset_flagであることができる。
また、例えば、前記CUクロマQPオフセットインデックスは、CUクロマQPオフセットの値を決定するのに使用されるCU QPオフセットリスト内のエントリー(entry)のインデックスを表すことができる。すなわち、例えば、前記CUクロマQPオフセットインデックスは、CU QPオフセットリスト内のエントリー(entry)のインデックスに関する情報であることができる。また、例えば、前記CUクロマQPオフセットインデックスのシンタックスエレメントは、上述したcu_chroma_qp_offset_idxであることができる。
デコード装置は、前記画像情報に基づいて復元ピクチャを生成する(S1610)。例えば、デコード装置は、前記画像情報に基づいて前記現在クロマブロックに対する予測サンプル及びレジデュアルサンプルを導出でき、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプル及び/又は復元ピクチャを生成できる。
例えば、デコード装置は、前記予測情報に基づいて前記現在クロマブロックに対するインター予測モードまたはイントラ予測モードを行って予測サンプルを導出できる。
また、例えば、デコード装置は、前記レジデュアル情報に基づいて前記現在クロマブロックの変換係数を導出できる。前記レジデュアル情報は、前記変換係数に対する変換係数レベル情報及びサインフラグ情報を含むことができる。
例えば、変換係数の変換係数レベルは、前記レジデュアル情報に含まれた変換係数レベル情報が表す値で導出されることができ、変換係数の符号(sign)は、前記サインフラグ情報が表す符号で導出されることができる。
その後、例えば、デコード装置は、前記CUクロマQPオフセット関連情報に基づいて前記現在クロマブロックに対するクロマQPを導出できる。例えば、デコード装置は、前記CUクロマQPオフセット関連情報に基づいて前記現在クロマブロックに対するCUクロマQPオフセットを導出でき、前記CUクロマQPオフセットに基づいて前記現在クロマブロックに対するクロマQPを導出できる。具体的に、例えば、デコード装置は、クロマ成分に対する第1のクロマQP及び前記CUクロマQPオフセットの加算を介して前記現在クロマブロックに対するクロマQPを導出できる。
具体的に、例えば、デコード装置は、ルマQP及び/又はクロマQPマッピング(mapping)テーブルに基づいて前記現在クロマブロックのクロマ成分に対する第1のクロマQPを導出でき、前記CUクロマQPオフセット関連情報に基づいて前記現在クロマブロックに対するCUクロマQPオフセットを導出でき、前記第1のクロマQP及び前記CUクロマQPオフセットに基づいて前記現在クロマブロックに対するクロマQPを導出できる。ここで、例えば、前記第1のクロマQPは、SPS(Sequence Parameter Set)クロマQPまたはSPSレベルクロマQPと表すこともできる。
その後、例えば、デコード装置は、前記クロマQPに基づいて前記変換係数を逆量子化し、前記現在クロマブロックに対するレジデュアルサンプルを導出できる。デコード装置は、前記クロマQPに基づいて前記現在クロマブロックに対するレジデュアルサンプルを導出できる。例えば、デコード装置は、前記クロマQPに基づいて前記現在クロマブロックに対する前記変換係数を逆量子化し、前記レジデュアルサンプルを導出できる。または、例えば、デコード装置は、前記現在クロマブロックに対する前記変換係数を逆変換し、逆変換された変換係数を導出でき、前記クロマQPに基づいて前記逆変換された変換係数を逆量子化して前記レジデュアルサンプルを導出できる。
その後、例えば、デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて前記復元ピクチャを生成できる。例えば、デコード装置は、前記予測サンプルと前記レジデュアルサンプルとの加算を介して復元サンプル及び/又は復元ピクチャを生成できる。
その後、必要に応じて主観的/客観的画質を向上させるために、デブロッキングフィルタリング、SAO、及び/又はALF手順のようなインループフィルタリング手順が前記復元サンプルに適用され得ることは、上述したとおりである。
一方、例えば、前記現在クロマブロックのエッジ(edge)にデブロッキングフィルタリングが行われ得る。例えば、現在クロマブロックのクロマQPと前記エッジに隣接した前記現在クロマブロックの周辺ブロックのクロマQPとに基づいて特定値が導出され得るし、前記特定値に基づいて前記デブロッキングフィルタリングのためのデブロッキングパラメータ(deblocking parameter)が導出され得る。例えば、前記特定値は、上述した数式6のように導出されることができる。前記現在クロマブロックのクロマQPは、上述したように、前記現在クロマブロックに対する前記CUクロマQPオフセットに基づいて導出されることができ、前記周辺ブロックのクロマQPは、前記周辺ブロックに対するCUクロマQPオフセットに基づいて導出されることができる。ここで、例えば、前記エッジは、前記デブロッキングフィルタリングが適用される前記現在クロマブロックの領域を表すことができる。
または、例えば、現在クロマブロックのクロマQPと前記エッジに隣接した前記現在クロマブロックの周辺ブロックのクロマQP、及び前記CUクロマQPオフセットに基づいて特定値が導出され得るし、前記特定値に基づいて前記デブロッキングフィルタリングのためのデブロッキングパラメータ(deblocking parameter)が導出され得る。例えば、前記特定値は、上述した数式7のように導出されることができる。ここで、例えば、前記エッジは、前記デブロッキングフィルタリングが適用される前記現在クロマブロックの領域を表すことができる。
図17は、本文書に係る画像デコード方法を行うデコード装置を概略的に示す。図16において開示された方法は、図17において開示されたデコード装置によって行われることができる。具体的に、例えば、図17の前記デコード装置のエントロピーデコード部は、図16のS1600を行うことができ、図17の前記デコード装置のレジデュアル処理部は、図16のS1610を行うことができる。
上述した本文書によれば、現在クロマブロック内の1番目の変換ブロックが0でない変換係数レベルを含まなくても、現在クロマブロックの幅及び高さのうち、少なくとも1つが特定サイズより大きければ、CUクロマQPオフセットに関する情報がシグナリングされ得るし、これを通じて、デコード装置の構成のための費用を低減させることができる。
また、本文書によれば、現在クロマブロック内の1番目の変換ブロックが0でない変換係数レベルを含まなくても、現在クロマブロックのサイズ及びツリータイプに基づいて前記1番目の変換ブロックの変換ユニットシンタックスでCUクロマQPオフセットに関する情報がシグナリングされ得るし、これを通じて、デコード装置のバッファ要求事項を減らすことができ、デコード装置の構成のための費用を低減させることができる。
前述した実施形態において、方法は、一連のステップまたはブロックで流れ図を基に説明されているが、本文書は、ステップの順序に限定されるものではなく、あるステップは、前述と異なるステップと異なる順序でまたは同時に発生することができる。また、当業者であれば、流れ図に示されたステップが排他的でなく、他のステップが含まれ、または流れ図の1つまたはそれ以上のステップが本文書の範囲に影響を及ぼさずに削除可能であることを理解することができる。
本文書において説明した実施形態は、プロセッサ、マイクロプロセッサ、コントローラ、またはチップ上で実現されて実行されることができる。例えば、各図面において図示した機能ユニットは、コンピュータ、プロセッサ、マイクロプロセッサ、コントローラ、またはチップ上で実現されて実行されることができる。この場合、実現のための情報(例えば、information on instructions)またはアルゴリズムがデジタル格納媒体に格納されることができる。
また、本文書の実施形態が適用されるデコード装置及びエンコード装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ対話装置、ビデオ通信のようなリアルタイム通信装置、モバイルストリーミング装置、格納媒体、カムコーダ、注文型ビデオ(VoD)サービス提供装置、OTTビデオ(Over the top video)装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、画像電話ビデオ装置、運送手段端末(例えば、車両端末、飛行機端末、船舶端末等)、及び医療用ビデオ装置などに含まれることができ、ビデオ信号またはデータ信号を処理するために使用されることができる。例えば、OTTビデオ(Over the top video)装置として、ゲームコンソール、ブルーレイプレーヤ、インターネット接続TV、ホームシアターシステム、スマートフォン、タブレットPC、DVR(Digital Video Recoder)などを備えることができる。
また、本文書の実施形態が適用される処理方法は、コンピュータで実行されるプログラムの形態で生産されることができ、コンピュータが読み取り可能な記録媒体に格納されることができる。本文書に係るデータ構造を有するマルチメディアデータもコンピュータが読み取り可能な記録媒体に格納されることができる。前記コンピュータが読み取り可能な記録媒体は、コンピュータで読み出すことができるデータが格納される全ての種類の格納装置及び分散格納装置を含む。前記コンピュータが読み取り可能な記録媒体は、例えば、ブルーレイディスク(BD)、汎用直列バス(USB)、ROM、PROM、EPROM、EEPROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、及び光学的データ格納装置を含むことができる。また、前記コンピュータが読み取り可能な記録媒体は、搬送波(例えば、インターネットを介しての送信)の形態で実現されたメディアを含む。また、エンコード方法で生成されたビットストリームがコンピュータが読み取り可能な記録媒体に格納され、または有無線通信ネットワークを介して送信されることができる。
また、本文書の実施形態は、プログラムコードによるコンピュータプログラム製品で実現されることができ、前記プログラムコードは、本文書の実施形態によってコンピュータで実行されることができる。前記プログラムコードは、コンピュータにより読み取り可能なキャリア上に格納されることができる。
図18は、本文書の実施形態が適用されるコンテンツストリーミングシステム構造図を例示的に示す。
本文書の実施形態が適用されるコンテンツストリーミングシステムは、大別して、エンコードサーバ、ストリーミングサーバ、ウェブサーバ、メディア格納所、ユーザ装置、及びマルチメディア入力装置を含むことができる。
前記エンコードサーバは、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置から入力されたコンテンツをデジタルデータで圧縮してビットストリームを生成し、これを前記ストリーミングサーバに送信する役割をする。他の例として、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置がビットストリームを直接生成する場合、前記エンコードサーバは省略されることができる。
前記ビットストリームは、本文書の実施形態が適用されるエンコード方法またはビットストリーム生成方法により生成されることができ、前記ストリーミングサーバは、前記ビットストリームを送信または受信する過程で一時的に前記ビットストリームを格納することができる。
前記ストリーミングサーバは、ウェブサーバを介したユーザ要請に基づいてマルチメディアデータをユーザ装置に送信し、前記ウェブサーバは、ユーザにどのようなサービスがあるかを知らせる媒介体役割をする。ユーザが前記ウェブサーバに所望のサービスを要請すると、前記ウェブサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを送信する。このとき、前記コンテンツストリーミングシステムは、別の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間命令/応答を制御する役割をする。
前記ストリーミングサーバは、メディア格納所及び/又はエンコードサーバからコンテンツを受信することができる。例えば、前記エンコードサーバからコンテンツを受信するようになる場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間格納することができる。
前記ユーザ装置の例として、携帯電話、スマートフォン(smartphone)、ノートブックコンピュータ(laptop computer)、デジタル放送用端末、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、スレートPC(slate PC)、タブレットPC(tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(wearable device、例えば、ウォッチ型端末(smartwatch)、グラス型端末(smart glass)、HMD(head mounted display))、デジタルTV、デスクトップコンピュータ、デジタルサイニジなどがある。前記コンテンツストリーミングシステム内の各サーバは、分散サーバで運営されることができ、この場合、各サーバで受信するデータは分散処理されることができる。
本明細書に記載された請求項は様々な方式で組み合わせることができる。例えば、本明細書の方法請求項の技術的特徴が組み合わせられて装置として実現されることもでき、本明細書の装置請求項の技術的特徴が組み合わせられて方法として実現されることもできる。また、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせられて装置として実現されることもでき、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせられて方法として実現されることもできる。