JP2023076587A - Bdpcmに基づく画像デコード方法及びその装置 - Google Patents

Bdpcmに基づく画像デコード方法及びその装置 Download PDF

Info

Publication number
JP2023076587A
JP2023076587A JP2023060657A JP2023060657A JP2023076587A JP 2023076587 A JP2023076587 A JP 2023076587A JP 2023060657 A JP2023060657 A JP 2023060657A JP 2023060657 A JP2023060657 A JP 2023060657A JP 2023076587 A JP2023076587 A JP 2023076587A
Authority
JP
Japan
Prior art keywords
bdpcm
flag
current block
residual
prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023060657A
Other languages
English (en)
Inventor
ソンミ ユ
Sunmi Yoo
チョンハク ナム
Junghak Nam
チョンア チェ
Jungah Choi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of JP2023076587A publication Critical patent/JP2023076587A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

【課題】本発明は、デコード装置によって行われる画像デコード方法に関するものである。【解決手段】本文書に係るデコード装置によって行われる画像デコード方法は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断するステップ、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブ ロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを取得するステップ、前記BDPCMフラグに基づいて前記現在ブロックに対する予測方向を表すBDPCM方向フラグを取得するステップ、前記BDPCM方向フラグに基づいて導出されたイントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出するステップ、及び前記予測サンプルに基づいて前記現在ブロックの復元サンプルを導出するステップを含むことを特徴とする。【選択図】図9

Description

本文書は、画像コーディング技術に関し、より詳細には、画像コーディングシステムにおいてBDPCMを行う現在ブロックをコーディングする画像デコード方法及びその装置に関する。
最近、HD(High Definition)画像及びUHD(Ultra High Definition)画像のような高解像度、高品質の画像に対する需要が様々な分野で増加している。画像データが高解像度、高品質になるほど、既存の画像データに比べて相対的に送信される情報量またはビット量が増加するため、既存の有無線広帯域回線のような媒体を利用して画像データを送信し、または既存の格納媒体を利用して画像データを格納する場合、送信費用と格納費用が増加される。
それによって、高解像度、高品質画像の情報を効果的に送信または格納し、再生するために、高効率の画像圧縮技術が要求される。
本文書の技術的課題は、画像コーディング効率を上げる方法及び装置を提供することにある。
本文書の他の技術的課題は、BDPCMの効率を上げる方法及び装置を提供することにある。
本文書の一実施形態によれば、デコード装置によって行われる画像デコード方法が提供される。前記方法は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断するステップ、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを取得するステップ、前記BDPCMフラグに基づいて前記現在ブロックに対する予測方向を表すBDPCM方向フラグを取得するステップ、前記BDPCM方向フラグに基づいて導出されたイントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出するステップ、及び前記予測サンプルに基づいて前記現在ブロックの復元サンプルを導出するステップを含むことを特徴とする。
本文書の他の一実施形態によれば、画像デコードを行うデコード装置が提供される。前記デコード装置は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断し、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを取得し、前記BDPCMフラグに基づいて前記現在ブロックに対する予測方向を表すBDPCM方向フラグを取得するエントロピーデコード部、前記BDPCM方向フラグに基づいて導出されたイントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出する予測部、及び前記予測サンプルに基づいて前記現在ブロックの復元サンプルを導出する加算部を備えることを特徴とする。
本文書のさらに他の一実施形態によれば、エンコード装置によって行われるビデオエンコード方法を提供する。前記方法は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断するステップ、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを生成するステップ、前記現在ブロックに対する予測方向を表すBDPCM方向フラグを生成するステップ、及び前記BDPCMフラグ及び前記BDPCM方向フラグを含む画像情報をエンコードするステップを含むことを特徴とする。
本文書のさらに他の一実施形態によれば、ビデオエンコード装置を提供する。前記エンコード装置は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断し、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを生成し、前記現在ブロックに対する予測方向を表すBDPCM方向フラグを生成する予測部、及び前記BDPCMフラグ及び前記BDPCM方向フラグを含む画像情報をエンコードするエントロピーエンコード部を備えることを特徴とする。
本文書によれば、現在ブロックのサイズ及び最大変換ブロックサイズに基づいてBDPCMフラグをシグナリングし、BDPCMフラグシグナリング及びBDPCM適用可否判断に現在ブロックのサイズ及び最大変換ブロックサイズを考慮でき、これを介してBDPCMのためのビット量を減らし、全般的なコーディング効率を向上させることができる。
本文書によれば、画像に対してBDPCMが制約されるか否かを表すシンタクスエレメントをシグナリングすることができ、これを介して画像に対するBDPCM実行可否を1つのシンタクスエレメントで判断することができるところ、全般的な画像コーディング効率を向上させることができる。
本文書の実施形態が適用され得るビデオ/画像コーディングシステムの例を概略的に示す。 本文書の実施形態が適用され得るビデオ/画像エンコード装置の構成を概略的に説明する図である。 本文書の実施形態が適用され得るビデオ/画像デコード装置の構成を概略的に説明する図である。 イントラ予測基盤ビデオ/画像エンコード方法の例を示す。 イントラ予測基盤ビデオ/画像エンコード方法の例を示す。 イントラ予測手順を例示的に示す。 本文書に係るエンコード装置による画像エンコード方法を概略的に示す。 本文書に係る画像エンコード方法を行うエンコード装置を概略的に示す。 本文書に係るデコード装置による画像デコード方法を概略的に示す。 本文書に係る画像デコード方法を行うデコード装置を概略的に示す。 本文書の実施形態が適用されるコンテンツストリーミングシステム構造図を例示的に示す。
本文書は、様々な変更を加えることができ、種々の実施形態を有することができ、特定実施形態を図面に例示し、詳細に説明しようとする。しかしながら、これは、本文書を特定実施形態に限定しようとするものではない。本明細書において常用する用語は、単に特定の実施形態を説明するために使用されたものであって、本文書の技術的思想を限定しようとする意図で使用されるものではない。単数の表現は、文脈上明白に異なるように意味しない限り、複数の表現を含む。本明細書において「含む」または「有する」などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものが存在することを指定しようとするものであり、1つまたはそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものなどの存在または付加可能性を予め排除しないことと理解されるべきである。
一方、本文書において説明される図面上の各構成は、互いに異なる特徴的な機能に関する説明の都合上、独立的に図示されたものであって、各構成が互いに別個のハードウェアや別個のソフトウェアで実現されるということを意味するものではない。例えば、各構成のうち、二つ以上の構成が結合されて1つの構成をなすことができ、1つの構成を複数の構成に分けることもできる。各構成が統合及び/又は分離された実施形態も本文書の本質から逸脱しない限り、本文書の権利範囲に含まれる。
以下、添付した図面を参照して、本文書の好ましい実施形態をより詳細に説明する。以下、図面上の同じ構成要素に対しては、同じ参照符号を使用し、同じ構成要素に対して重なった説明は省略されることができる。
図1は、本文書の実施形態が適用され得るビデオ/画像コーディングシステムの例を概略的に示す。
図1に示すように、ビデオ/画像コーディングシステムは、第1の装置(ソースデバイス)及び第2の装置(受信デバイス)を含むことができる。ソースデバイスは、エンコードされたビデオ(video)/画像(image)情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスに伝達することができる。
前記ソースデバイスは、ビデオソース、エンコード装置、送信部を備えることができる。前記受信デバイスは、受信部、デコード装置、及びレンダラーを備えることができる。前記エンコード装置は、ビデオ/画像エンコード装置と呼ばれることができ、前記デコード装置は、ビデオ/画像デコード装置と呼ばれることができる。送信機は、エンコード装置に含まれることができる。受信機は、デコード装置に含まれることができる。レンダラーは、ディスプレイ部を備えることができ、ディスプレイ部は、別個のデバイスまたは外部コンポーネントで構成されることもできる。
ビデオソースは、ビデオ/画像のキャプチャ、合成、または生成過程などを介してビデオ/画像を取得することができる。ビデオソースは、ビデオ/画像キャプチャデバイス及び/又はビデオ/画像生成デバイスを含むことができる。ビデオ/画像キャプチャデバイスは、例えば、1つ以上のカメラ、以前にキャプチャされたビデオ/画像を含むビデオ/画像アーカイブなどを備えることができる。ビデオ/画像生成デバイスは、例えば、コンピュータ、タブレット、及びスマートフォンなどを備えることができ、(電子的に)ビデオ/画像を生成することができる。例えば、コンピュータなどを介して仮想のビデオ/画像が生成されることができ、この場合、関連データが生成される過程にてビデオ/画像キャプチャ過程が代替されることができる。
エンコード装置は、入力ビデオ/画像をエンコードすることができる。エンコード装置は、圧縮及びコーディング効率のために、予測、変換、量子化など、一連の手順を実行することができる。エンコードされたデータ(エンコードされたビデオ/画像情報)は、ビットストリーム(bitstream)形態で出力されることができる。
送信部は、ビットストリーム形態で出力されたエンコードされたビデオ/画像情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスの受信部に伝達することができる。デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。送信部は、予め決められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送/通信ネットワークを介しての送信のためのエレメントを含むことができる。受信部は、前記ビットストリームを受信/抽出してデコード装置に伝達することができる。
デコード装置は、エンコード装置の動作に対応する逆量子化、逆変換、予測など、一連の手順を実行してビデオ/画像をデコードすることができる。
レンダラーは、デコードされたビデオ/画像をレンダリングすることができる。レンダリングされたビデオ/画像は、ディスプレイ部を介してディスプレイされることができる。
この文書は、ビデオ/画像コーディングに関する。例えば、この文書において開示された方法/実施形態は、VVC(versatile video coding)標準、EVC(essential video coding)標準、AV1(AOMedia Video 1)標準、AVS2(2nd generation of audio video coding standard)、または次世代ビデオ/画像コーディング標準(例えば、H.267またはH.268等)に開示される方法に適用されることができる。
この文書では、ビデオ/画像コーディングに関する様々な実施形態を提示し、他の言及がない限り、前記実施形態は、互いに組み合わせられて実行されることもできる。
この文書においてビデオ(video)は、時間の流れによる一連の画像(image)の集合を意味し得る。ピクチャ(picture)は、一般に特定の時間帯の1つの画像を示す単位を意味し、サブピクチャ(subpicture)/スライス(slice)/タイル(tile)はコーディングにおいてピクチャの一部を構成する単位である。サブピクチャ/スライス/タイルは、1つ以上のCTU(coding tree unit)を含んでもよい。1つのピクチャは1つ以上のサブピクチャ/スライス/タイルで構成されてもよい。1つのピクチャは1つ以上のタイルのグループで構成されてもよい。1つのタイルグループは1つ以上のタイルを含んでもよい。ブリックはピクチャ内のタイル内のCTU行の長方形領域を示す(a brick may represent a rectangular region of CTU rows within a tile in a picture)。タイルは多数のブリックでパーティショニングされ、各ブリックは前記タイル内の1つ以上のCTU行で構成される(A tile may be partitioned into multiple bricks, each of which consisting of one or more CTU rows within the tile)。複数のブリックによりパーティショニングされていないタイルもブリックと呼ばれてもよい(A tile that is not partitioned into multiple bricks may be also referred to as a brick)。ブリックスキャンはピクチャをパーティショニングするCTUの特定の順次オーダリングを示し、前記CTUはブリック内においてCTUラスタスキャンで整列され、タイル内のブリックは前記タイルの前記ブリックのラスタスキャンで連続的に整列され、そして、ピクチャ内のタイルは前記ピクチャの前記タイルのラスタスキャンで連続整列される(A brick scan is a specific sequential ordering of CTUs partitioning a picture in which the CTUs are ordered consecutively in CTU raster scan in a brick, bricks within a tile are ordered consecutively in a raster scan of the bricks of the tile, and tiles in a picture are ordered consecutively in a raster scan of the tiles of the picture)。また、サブピクチャはサブピクチャ内の1つ以上のスライスの長方形領域を示す(a subpicture may represent a rectangular region of one or more slices within a picture)。すなわち、サブピクチャはピクチャの長方形領域を総括的にカバーする1つ以上のスライスを含む(a subpicture contains one or more slices that collectively cover a rectangular region of a picture)。タイルは特定タイル列及び特定タイル列以内のCTUの長方形領域である(A tile is a rectangular region of CTUs within a particular tile column and a particular tile row in a picture)。前記タイル列はCTUの長方形領域であり、前記長方形領域は前記ピクチャの高さと同じ高さを有し、幅はピクチャパラメータセット内のシンタックス要素により明示される(The tile column is a rectangular region of CTUs having a height equal to the height of the picture and a width specified by syntax elements in the picture parameter set)。前記タイル行はCTUの長方形領域であり、前記長方形領域はピクチャパラメータセット内のシンタックスエレメントにより明示される幅を有し、高さは前記ピクチャの高さと同一であり得る(The tile row is a rectangular region of CTUs having a height specified by syntax elements in the picture parameter set and a width equal to the width of the picture )。タイルスキャンはピクチャをパーティショニングするCTUの特定の順次オーダリングを示し、前記CTUはタイル内のCTUラスタスキャンで連続整列され、ピクチャ内のタイルは前記ピクチャの前記タイルのラスタスキャンで連続整列される(A tile scan is a specific sequential ordering of CTUs partitioning a picture in which the CTUs are ordered consecutively in CTU raster scan in a tile whereas tiles in a picture are ordered consecutively in a raster scan of the tiles of the picture)。スライスはピクチャの整数個のブリックを含み、前記整数個のブリックは1つのNALユニットに含まれる(A slice includes an integer number of bricks of a picture that maybe exclusively contained in a single NAL unit)。スライスは複数の完全なタイルで構成され、または、1つのタイルの完全なブリックの連続的なシーケンスであり得る(A slice may consists of either a number of complete tiles or only a consecutive sequence of complete bricks of one tile)。この文書では、タイルグループとスライスは混用されてもよい。例えば、本文書ではtile group/tile group headerはslice/slice headerと呼ばれてもよい。
ピクセル(pixel)またはペル(pel)は、1つのピクチャ(または、画像)を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(sample)」が使用されることができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、ルマ(luma)成分のピクセル/ピクセル値のみを示すこともでき、クロマ(chroma)成分のピクセル/ピクセル値のみを示すこともできる。
ユニット(unit)は、画像処理の基本単位を示すことができる。ユニットは、ピクチャの特定領域及び当該領域に関連した情報のうち、少なくとも1つを含むことができる。1つのユニットは、1つのルマブロック及び二つのクロマ(例えば、cb、cr)ブロックを含むことができる。ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプル(または、サンプルアレイ)、または変換係数(transform coefficient)の集合(または、アレイ)を含むことができる。
本明細書において「A又はB(A or B)」は「Aのみ」、「Bのみ」又は「AとBの両方」を意味し得る。言い換えると、本明細書において、「A又はB(A or B)」は「A及び/又はB(A and/or B)」と解され得る。例えば,本明細書において「A、B又はC(A,B or C)」は,「Aのみ」、「Bのみ」、「Cのみ」又は「A、B及びCの任意の全ての組み合わせ(any combination of A,B and C)」を意味し得る。
本明細書において使用されるスラッシュ(/)やコンマ(comma)は、「及び/又は(and/or)」を意味し得る。例えば、「A/B」は「A及び/又はB」を意味し得る。これにより、「A/B」は「Aのみ」、「Bのみ」、又は「AとBの両方」を意味し得る。例えば、「A、B、C」は「A、B又はC」を意味し得る。
本明細書において「少なくとも1つのA及びB(at least one of A and B)」は、「Aのみ」、「Bのみ」又は「AとBの両方」を意味し得る。また、本明細書において「少なくとも1つのA又はB(at least one of A or B)」や「少なくとも1つのA及び/又はB(at least one of A and/or B)」という表現は、「少なくとも1つのA及びB(at least one of A and B)」と同様に解釈され得る。
また、本明細書において「少なくとも1つのA、B及びC(at least one of A, B and C)」は、「Aのみ」、「Bのみ」、「Cのみ」又は「A、B及びCの任意の全ての組み合わせ(any combination of A, B and C)」を意味し得る。また、「少なくとも1つのA、B又はC(at least one of A, B or C)」や「少なくとも1つのA、B及び/又はC(at least one of A, B and/or C)」は「少なくとも1つのA、B及びC(at least one of A, B and C)」を意味し得る。
また、本明細書において用いられる括弧は「例えば(for example)」を意味し得る。具体的には、「予測(イントラ予測)」と表示されている場合、「予測」の一例として「イントラ予測」が提案されているものであり得る。言い換えると、本明細書の「予測」は「イントラ予測」に制限(limit)されず、「イントラ予測」が「予測」の一例として提案されるものであり得る。また、「予測(すなわち、イントラ予測)」と表示されている場合にも、「予測」の一例として、「イントラ予測」が提案されているものであり得る。
本明細書において1つの図面内で個別に説明される技術的特徴は、個別に実現されてもよく、同時に実現されてもよい。
以下の図面は,本明細書の具体的な一例を説明するために作成された。図面に記載された具体的な装置の名称や具体的な信号/メッセージ/フィールドの名称は例示的に提示するものであるので、本明細書の技術的特徴が以下の図面に用いられた具体的な名称に制限されない。
図2は、本文書の実施形態が適用され得るビデオ/画像エンコード装置の構成を概略的に説明する図である。以下、ビデオエンコード装置とは、画像エンコード装置を含むことができる。
図2に示すように、エンコード装置200は、画像分割部(image partitioner)210、予測部(predictor)220、レジデュアル処理部(residual processor)230、エントロピーエンコード部(entropy encoder)240、加算部(adder)250、フィルタリング部(filter)260、及びメモリ(memory)270を備えて構成されることができる。予測部220は、インター予測部221及びイントラ予測部222を備えることができる。レジデュアル処理部230は、変換部(transformer)232、量子化部(quantizer)233、逆量子化部(dequantizer)234、逆変換部(inverse transformer)235を備えることができる。レジデュアル処理部230は、減算部(subtractor)231をさらに備えることができる。加算部250は、復元部(reconstructor)または復元ブロック生成部(recontructged block generator)と呼ばれることができる。前述した画像分割部210、予測部220、レジデュアル処理部230、エントロピーエンコード部240、加算部250、及びフィルタリング部260は、実施形態によって1つ以上のハードウェアコンポーネント(例えば、エンコーダチップセットまたはプロセッサ)により構成されることができる。また、メモリ270は、DPB(decoded picture buffer)を含むことができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ270を内/外部コンポーネントとしてさらに備えることもできる。
画像分割部210は、エンコード装置200に入力された入力画像(または、ピクチャ、フレーム)を1つ以上の処理ユニット(processing unit)に分割することができる。一例として、前記処理ユニットは、コーディングユニット(coding unit、CU)と呼ばれることができる。この場合、コーディングユニットは、コーディングツリーユニット(coding tree unit、CTU)または最大コーディングユニット(largest coding unit、LCU)からQTBTTT(Quad-tree binary-tree ternary-tree)構造によって再帰的に(recursively)分割されることができる。例えば、1つのコーディングユニットは、クアッドツリー構造、バイナリツリー構造、及び/又はターナリ構造に基づいて下位(deeper)デプスの複数のコーディングユニットに分割されることができる。この場合、例えば、クアッドツリー構造が先に適用され、バイナリツリー構造及び/又はターナリ構造が後ほど適用されることができる。または、バイナリツリー構造が先に適用されることもできる。それ以上分割されない最終コーディングユニットに基づいて本文書に係るコーディング手順が実行されることができる。この場合、画像特性に応じるコーディング効率などに基づいて、最大コーディングユニットが直ちに最終コーディングユニットとして使用されることができ、または、必要に応じてコーディングユニットは、再帰的に(recursively)、より下位デプスのコーディングユニットに分割されて、最適のサイズのコーディングユニットが最終コーディングユニットとして使用されることができる。ここで、コーディング手順とは、後述する予測、変換、及び復元などの手順を含むことができる。他の例として、前記処理ユニットは、予測ユニット(PU:Prediction Unit)または変換ユニット(TU:Transform Unit)をさらに備えることができる。この場合、前記予測ユニット及び前記変換ユニットは、各々前述した最終コーディングユニットから分割またはパーティショニングされることができる。前記予測ユニットは、サンプル予測の単位であり、前記変換ユニットは、変換係数を誘導する単位及び/又は変換係数からレジデュアル信号(residual signal)を誘導する単位である。
ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプルまたは変換係数(transform coefficient)の集合を示すことができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、輝度(luma)成分のピクセル/ピクセル値のみを示すことができ、彩度(chroma)成分のピクセル/ピクセル値のみを示すこともできる。サンプルは、1つのピクチャ(または、画像)をピクセル(pixel)またはペル(pel)に対応する用語として使用することができる。
エンコード装置200は、入力画像信号(原本ブロック、原本サンプルアレイ)から、インター予測部221またはイントラ予測部222から出力された予測信号(予測されたブロック、予測サンプルアレイ)を減算してレジデュアル信号(residual signal、残余ブロック、残余サンプルアレイ)を生成することができ、生成されたレジデュアル信号は、変換部232に送信される。この場合、図示されたように、エンコーダ200内において入力画像信号(原本ブロック、原本サンプルアレイ)から予測信号(予測ブロック、予測サンプルアレイ)を減算するユニットは、減算部231と呼ばれることができる。予測部は、処理対象ブロック(以下、現在ブロックという)に対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、現在ブロックまたはCU単位でイントラ予測が適用されるか、またはインター予測が適用されるかを決定することができる。予測部は、各予測モードについての説明で後述するように、予測モード情報など、予測に関する様々な情報を生成してエントロピーエンコード部240に伝達することができる。予測に関する情報は、エントロピーエンコード部240でエンコードされてビットストリーム形態で出力されることができる。
イントラ予測部222は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの周辺(neighbor)に位置することができ、または、離れて位置することもできる。イントラ予測において予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。非方向性モードは、例えば、DCモード及びプラナーモード(Planar Mode)を含むことができる。方向性モードは、予測方向の細かい程度によって、例えば、33個の方向性予測モードまたは65個の方向性予測モードを含むことができる。ただし、これは、例示に過ぎず、設定によってそれ以上またはそれ以下の個数の方向性予測モードが使用されることができる。イントラ予測部222は、隣接ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
インター予測部221は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック(spatial neighboring block)と参照ピクチャに存在する時間的隣接ブロック(temporal neighboring block)とを含むことができる。前記参照ブロックを含む参照ピクチャと前記時間的隣接ブロックを含む参照ピクチャとは同じであってもよく、異なってもよい。前記時間的隣接ブロックは、同一位置参照ブロック(collocated reference block)、同一位置CU(colCU)などの名称で呼ばれることができ、前記時間的隣接ブロックを含む参照ピクチャは、同一位置ピクチャ(collocated picture、colPic)と呼ばれることもできる。例えば、インター予測部221は、隣接ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するためにどのような候補が使用されるかを指示する情報を生成することができる。様々な予測モードに基づいてインター予測が実行されることができ、例えば、スキップモードとマージモードの場合に、インター予測部221は、隣接ブロックの動き情報を現在ブロックの動き情報として利用することができる。スキップモードの場合、マージモードとは異なってレジデュアル信号が送信されないことがある。動き情報予測(motion vector prediction、MVP)モードの場合、隣接ブロックの動きベクトルを動きベクトル予測子(Motion Vector Predictor)として利用し、動きベクトル差分(motion vector difference)をシグナリングすることによって現在ブロックの動きベクトルを指示することができる。
予測部220は、後述する様々な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、1つのブロックに対する予測のために、イントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測とを同時に適用することができる。これは、combined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のために、イントラブロックコピー(intra block copy、IBC)予測モードに基づくこともでき、または、パレットモード(palette mode)に基づくこともできる。前記IBC予測モードまたはパレットモードは、例えば、SCC(screen content coding)などのように、ゲームなどのコンテンツ画像/動画像コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点においてインター予測と類似して実行されることができる。即ち、IBCは、本文書において説明されるインター予測技法のうち、少なくとも1つを利用することができる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見ることができる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに関する情報に基づいてピクチャ内のサンプル値をシグナリングすることができる。
前記予測部(インター予測部221及び/又は前記イントラ予測部222を含む)を介して生成された予測信号は、復元信号を生成するために用いられ、またはレジデュアル信号を生成するために用いられることができる。変換部232は、レジデュアル信号に変換技法を適用して変換係数(transform coefficients)を生成することができる。例えば、変換技法は、DCT(Discrete Cosine Transform)、DST(Discrete Sine Transform)、KLT(Karhunen-Loeve Transform)、GBT(Graph-Based Transform)、またはCNT(Conditionally Non-linear Transform)のうち、少なくとも1つを含むことができる。ここで、GBTは、ピクセル間の関係情報をグラフで表現するとするとき、このグラフから得られた変換を意味する。CNTは、以前に復元された全てのピクセル(all previously reconstructed pixel)を用いて予測信号を生成し、それに基づいて取得される変換を意味する。また、変換過程は、正方形の同じサイズを有するピクセルブロックに適用されることもでき、正方形でない、可変サイズのブロックにも適用されることもできる。
量子化部233は、変換係数を量子化してエントロピーエンコード部240に送信され、エントロピーエンコード部240は、量子化された信号(量子化された変換係数に関する情報)をエンコードしてビットストリームとして出力することができる。前記量子化された変換係数に関する情報は、レジデュアル情報と呼ばれることができる。量子化部233は、係数スキャン順序(scan order)に基づいてブロック形態の量子化された変換係数を1次元ベクトル形態で再整列することができ、前記1次元ベクトル形態の量子化された変換係数に基づいて前記量子化された変換係数に関する情報を生成することもできる。エントロピーエンコード部240は、例えば、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)、CABAC(context-adaptive binary arithmetic coding)などのような様々なエンコード方法を実行することができる。エントロピーエンコード部240は、量子化された変換係数の他に、ビデオ/イメージ復元に必要な情報(例えば、シンタックス要素(syntax elements)の値等)を共に、または別にエンコードすることもできる。エンコードされた情報(例えば、エンコードされたビデオ/画像情報)は、ビットストリーム形態でNAL(network abstraction layer)ユニット単位で送信または格納されることができる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)、またはビデオパラメータセット(VPS)など、様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。本文書においてエンコード装置からデコード装置に伝達/シグナリングされる情報及び/又はシンタックス要素は、ビデオ/画像情報に含まれることができる。前記ビデオ/画像情報は、前述したエンコード手順を介してエンコードされて前記ビットストリームに含まれることができる。前記ビットストリームは、ネットワークを介して送信されることができ、またはデジタル格納媒体に格納されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。エントロピーエンコード部240から出力された信号は、送信する送信部(図示せず)及び/又は格納する格納部(図示せず)がエンコード装置200の内/外部エレメントとして構成されることができ、または送信部は、エントロピーエンコード部240に含まれることもできる。
量子化部233から出力された量子化された変換係数は、予測信号を生成するために用いられることができる。例えば、量子化された変換係数に逆量子化部234及び逆変換部235を介して逆量子化及び逆変換を適用することによってレジデュアル信号(レジデュアルブロックまたはレジデュアルサンプル)を復元することができる。加算部250は、復元されたレジデュアル信号をインター予測部221またはイントラ予測部222から出力された予測信号に加えることによって復元(reconstructed)信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)が生成され得る。スキップモードが適用された場合のように、処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。加算部250は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て次のピクチャのインター予測のために使用されることもできる。
一方、ピクチャエンコード及び/又は復元過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
フィルタリング部260は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部260は、復元ピクチャに様々なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ270、具体的に、メモリ270のDPBに格納することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。フィルタリング部260は、各フィルタリング方法についての説明で後述するように、フィルタリングに関する様々な情報を生成してエントロピーエンコード部240に伝達することができる。フィルタリングに関する情報は、エントロピーエンコード部240でエンコードされてビットストリーム形態で出力されることができる。
メモリ270に送信された修正された復元ピクチャは、インター予測部221で参照ピクチャとして使用されることができる。エンコード装置は、これを介してインター予測が適用される場合、エンコード装置200とデコード装置300での予測ミスマッチを避けることができ、符号化効率も向上させることができる。
メモリ270DPBは、修正された復元ピクチャをインター予測部221での参照ピクチャとして使用するために格納することができる。メモリ270は、現在ピクチャ内の動き情報が導出された(または、エンコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するために、インター予測部221に伝達することができる。メモリ270は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部222に伝達することができる。
図3は、本文書の実施形態が適用され得るビデオ/画像デコード装置の構成を概略的に説明する図である。
図3に示すように、デコード装置300は、エントロピーデコード部(entropy decoder)310、レジデュアル処理部(residual processor)320、予測部(predictor)330、加算部(adder)340、フィルタリング部(filter)350、及びメモリ(memory)360を備えて構成されることができる。予測部330は、インター予測部331及びイントラ予測部332を備えることができる。レジデュアル処理部320は、逆量子化部(dequantizer)321及び逆変換部(inverse transformer)322を備えることができる。前述したエントロピーデコード部310、レジデュアル処理部320、予測部330、加算部340、及びフィルタリング部350は、実施形態によって1つのハードウェアコンポーネント(例えば、デコーダチップセットまたはプロセッサ)により構成されることができる。また、メモリ360は、DPB(decoded picture buffer)を備えることができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ360を内/外部コンポーネントとしてさらに備えることもできる。
ビデオ/画像情報を含むビットストリームが入力されると、デコード装置300は、図2のエンコード装置でビデオ/画像情報が処理されたプロセスに対応して画像を復元することができる。例えば、デコード装置300は、前記ビットストリームから取得したブロック分割関連情報に基づいてユニット/ブロックを導出できる。デコード装置300は、エンコード装置で適用された処理ユニットを用いてデコードを実行することができる。したがって、デコードの処理ユニットは、例えば、コーディングユニットであり、コーディングユニットは、コーディングツリーユニットまたは最大コーディングユニットからクアッドツリー構造、バイナリツリー構造、及び/又はターナリツリー構造にしたがって分割されることができる。コーディングユニットから1つ以上の変換ユニットが導出されることができる。そして、デコード装置300を介してデコード及び出力された復元画像信号は、再生装置を介して再生されることができる。
デコード装置300は、図2のエンコード装置から出力された信号をビットストリーム形態で受信することができ、受信された信号は、エントロピーデコード部310を介してデコードされることができる。例えば、エントロピーデコード部310は、前記ビットストリームをパーシングして画像復元(または、ピクチャ復元)に必要な情報(例えば、ビデオ/画像情報)を導出できる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)、またはビデオパラメータセット(VPS)など、様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。デコード装置は、前記パラメータセットに関する情報及び/又は前記一般制限情報に基づいてさらにピクチャをデコードすることができる。本文書において後述されるシグナリング/受信される情報及び/又はシンタックス要素は、前記デコード手順を介してデコードされて前記ビットストリームから取得されることができる。例えば、エントロピーデコード部310は、指数ゴロム符号化、CAVLCまたはCABAC等のコーディング方法を基にビットストリーム内の情報をデコードし、画像復元に必要なシンタックスエレメントの値、レジデュアルに関する変換係数の量子化された値などを出力することができる。より詳細に、CABACエントロピーデコード方法は、ビットストリームで各構文要素に該当するビンを受信し、デコード対象構文要素情報と周辺及びデコード対象ブロックのデコード情報、または以前ステップでデコードされたシンボル/ビンの情報を利用して文脈(context)モデルを決定し、決定された文脈モデルによってビン(bin)の発生確率を予測し、ビンの算術デコード(arithmetic decoding)を実行して各構文要素の値に該当するシンボルを生成することができる。このとき、CABACエントロピーデコード方法は、文脈モデル決定後、次のシンボル/ビンの文脈モデルのためにデコードされたシンボル/ビンの情報を利用して文脈モデルをアップデートすることができる。エントロピーデコード部310でデコードされた情報のうち、予測に関する情報は、予測部(インター予測部332及びイントラ予測部331)に提供され、エントロピーデコード部310でエントロピーデコードが実行されたレジデュアル値、即ち、量子化された変換係数及び関連パラメータ情報は、レジデュアル処理部320に入力されることができる。レジデュアル処理部320は、レジデュアル信号(レジデュアルブロック、レジデュアルサンプル、レジデュアルサンプルアレイ)を導出できる。また、エントロピーデコード部310でデコードされた情報のうち、フィルタリングに関する情報は、フィルタリング部350に提供されることができる。一方、エンコード装置から出力された信号を受信する受信部(図示せず)がデコード装置300の内/外部エレメントとしてさらに構成されることができ、または、受信部は、エントロピーデコード部310の構成要素である。一方、本文書に係るデコード装置は、ビデオ/画像/ピクチャデコード装置と呼ばれることができ、前記デコード装置は、情報デコーダ(ビデオ/画像/ピクチャ情報デコーダ)及びサンプルデコーダ(ビデオ/画像/ピクチャサンプルデコーダ)に区分することもできる。前記情報デコーダは、前記エントロピーデコード部310を備えることができ、前記サンプルデコーダは、前記逆量子化部321、逆変換部322、加算部340、フィルタリング部350、メモリ360、インター予測部332、及びイントラ予測部331のうち、少なくとも1つを備えることができる。
逆量子化部321では、量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部321は、量子化された変換係数を2次元のブロック形態で再整列することができる。この場合、前記再整列は、エンコード装置で実行された係数スキャン順序に基づいて再整列を実行することができる。逆量子化部321は、量子化パラメータ(例えば、量子化ステップサイズ情報)を利用して量子化された変換係数に対する逆量子化を実行し、変換係数(transform coefficient)を取得することができる。
逆変換部322では、変換係数を逆変換してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルアレイ)を取得するようになる。
予測部は、現在ブロックに対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、エントロピーデコード部310から出力された前記予測に関する情報に基づいて、前記現在ブロックにイントラ予測が適用されるか、またはインター予測が適用されるかを決定することができ、具体的なイントラ/インター予測モードを決定することができる。
予測部320は、後述する様々な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、1つのブロックに対する予測のために、イントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測とを同時に適用することができる。これは、combined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のために、イントラブロックコピー(intra block copy、IBC)予測モードに基づくこともでき、またはパレットモード(palette mode)に基づくこともできる。前記IBC予測モードまたはパレットモードは、例えば、SCC(screen content coding)などのように、ゲームなどのコンテンツ画像/動画コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点においてインター予測と類似して実行されることができる。即ち、IBCは、本文書において説明されるインター予測技法のうち、少なくとも1つを利用することができる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見ることができる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに関する情報が前記ビデオ/画像情報に含まれてシグナリングされることができる。
イントラ予測部331は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの周辺(neighbor)に位置することができ、または離れて位置することもできる。イントラ予測において予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。イントラ予測部331は、隣接ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
インター予測部332は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードから送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック(spatial neighboring block)と参照ピクチャに存在する時間的隣接ブロック(temporal neighboring block)とを含むことができる。例えば、インター予測部332は、隣接ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出できる。様々な予測モードに基づいてインター予測が実行されることができ、前記予測に関する情報は、前記現在ブロックに対するインター予測のモードを指示する情報を含むことができる。
加算部340は、取得されたレジデュアル信号を予測部(インター予測部332及び/又はイントラ予測部331を含む)から出力された予測信号(予測されたブロック、予測サンプルアレイ)に加えることにより復元信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように、処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。
加算部340は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て出力されることができ、または次のピクチャのインター予測のために使用されることもできる。
一方、ピクチャデコード過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
フィルタリング部350は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部350は、復元ピクチャに様々なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ360、具体的に、メモリ360のDPBに送信することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。
メモリ360のDPBに格納された(修正された)復元ピクチャは、インター予測部332で参照ピクチャとして使用されることができる。メモリ360は、現在ピクチャ内の動き情報が導出された(または、デコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するために、インター予測部260に伝達することができる。メモリ360は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部331に伝達することができる。
本明細書において、エンコード装置200のフィルタリング部260、インター予測部221、及びイントラ予測部222で説明された実施形態は、各々デコード装置300のフィルタリング部350、インター予測部332、及びイントラ予測部331にも同一または対応するように適用されることができる。
本文書において量子化/逆量子化及び/又は変換/逆変換のうち、少なくとも1つは省略されることができる。前記量子化/逆量子化が省略される場合、前記量子化された変換係数は、変換係数と呼ばれることができる。前記変換/逆変換が省略される場合、前記変換係数は、係数またはレジデュアル係数と呼ばれることができ、または、表現の統一性のために、変換係数と依然として呼ばれることもできる。
本文書において量子化された変換係数及び変換係数は、各々変換係数及びスケーリングされた(scaled)変換係数と称されることができる。この場合、レジデュアル情報は、変換係数(等)に関する情報を含むことができ、前記変換係数(等)に関する情報は、レジデュアルコーディングシンタックスを介してシグナリングされることができる。前記レジデュアル情報(または、前記変換係数(等)に関する情報)に基づいて変換係数が導出され得るし、前記変換係数に対する逆変換(スケーリング)を介してスケーリングされた変換係数が導出され得る。前記スケーリングされた変換係数に対する逆変換(変換)に基づいてレジデュアルサンプルが導出され得る。これは、本文書の他の部分でも同様に適用/表現されることができる。
上述したように、ビデオコーディングを行うのにおいて、圧縮効率を上げるために予測を行う。これを介してコーディング対象ブロックである現在ブロックに対する予測サンプルを含む予測されたブロックを生成できる。ここで、前記予測されたブロックは、空間ドメイン(または、ピクセルドメイン)での予測サンプルを含む。前記予測されたブロックは、エンコード装置及びデコード装置で同一に導出され、前記エンコード装置は、原本ブロックの原本サンプル値自体でない前記原本ブロックと前記予測されたブロックとの間のレジデュアルに関する情報(レジデュアル情報)をデコード装置にシグナリングすることにより画像コーディング効率を上げることができる。デコード装置は、前記レジデュアル情報に基づいてレジデュアルサンプルを含むレジデュアルブロックを導出し、前記レジデュアルブロックと前記予測されたブロックとを合わせて復元サンプルを含む復元ブロックを生成でき、復元ブロックを含む復元ピクチャを生成できる。
前記レジデュアル情報は、変換及び量子化手順を介して生成されることができる。例えば、エンコード装置は、前記原本ブロックと前記予測されたブロックとの間のレジデュアルブロックを導出し、前記レジデュアルブロックに含まれたレジデュアルサンプル(レジデュアルサンプルアレイ)に変換手順を行って変換係数を導出し、前記変換係数に量子化手順を行って量子化された変換係数を導出し、関連したレジデュアル情報を(ビットストリームを介して)デコード装置にシグナリングすることができる。ここで、前記レジデュアル情報は、前記量子化された変換係数の値情報、位置情報、変換技法、変換カーネル、量子化パラメータなどの情報を含むことができる。デコード装置は、前記レジデュアル情報に基づいて逆量子化/逆変換手順を行い、レジデュアルサンプル(または、レジデュアルブロック)を導出できる。デコード装置は、予測されたブロックと前記レジデュアルブロックとに基づいて復元ピクチャを生成できる。エンコード装置は、さらに以後ピクチャのインター予測のための参照のために、量子化された変換係数を逆量子化/逆変換してレジデュアルブロックを導出し、これに基づいて復元ピクチャを生成できる。
イントラ予測は、現在ブロックが属するピクチャ(以下、現在ピクチャ)内の参照サンプルに基づいて現在ブロックに対する予測サンプルを生成する予測を表すことができる。現在ブロックにイントラ予測が適用される場合、現在ブロックのイントラ予測に使用する周辺参照サンプルが導出され得る。前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの左側(left)境界に隣接したサンプル及び左下側(bottom-left)に隣り合う合計2×nH個のサンプル、現在ブロックの上側(top)境界に隣接したサンプル及び右上側(top-right)に隣り合う合計2xnW個のサンプル及び現在ブロックの左上側(top-left)に隣り合う1個のサンプルを含むことができる。または、前記現在ブロックの周辺参照サンプルは、複数列の上側周辺サンプル及び複数行の左側周辺サンプルを含むこともできる。また、前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの右側(right)境界に隣接した合計nH個のサンプル、現在ブロックの下側(bottom)境界に隣接した合計nW個のサンプル、及び現在ブロックの右下側(bottom-right)に隣り合う1個のサンプルを含むこともできる。
ただし、現在ブロックの周辺参照サンプルのうち一部は、まだデコードされていないか、利用可能でないことができる。この場合、デコーダは、利用可能なサンプルに利用可能でないサンプルを代替(substitution)して、予測に使用する周辺参照サンプルを構成できる。または、利用可能なサンプルの補間(interpolation)を介して予測に使用する周辺参照サンプルを構成できる。
周辺参照サンプルが導出された場合、(i)現在ブロックの周辺(neighboring)参照サンプルの平均(average)あるいはインターポレーション(interpolation)に基づいて予測サンプルを誘導することができ、(ii)現在ブロックの周辺参照サンプルのうち予測サンプルに対して特定(予測)方向に存在する参照サンプルに基づいて前記予測サンプルを誘導することもできる。(i)の場合は、非方向性(non-directional)モードまたは非角度(non-angular)モード、(ii)の場合は、方向性(directional)モードまたは角度(angular)モードと呼ばれることができる。
また、前記周辺参照サンプルのうち、前記現在ブロックの予測サンプルを基準に前記現在ブロックのイントラ予測モードの予測方向に位置する第1の周辺サンプルと前記予測方向の反対方向に位置する第2の周辺サンプルとの補間によって前記予測サンプルが生成されることもできる。上述した場合は、線形補間イントラ予測(Linear interpolation intra prediction、LIP)と呼ばれることができる。また、線形モデル(linear model、LM)を利用し、ルマサンプルに基づいてクロマ予測サンプルが生成されることもできる。この場合は、LMモードまたはCCLM(chroma component LM)モードと呼ばれることができる。
また、フィルタリングされた周辺参照サンプルに基づいて前記現在ブロックの臨時予測サンプルを導出し、前記既存の周辺参照サンプル、すなわち、フィルタリングされなかった周辺参照サンプルのうち、前記イントラ予測モードによって導出された少なくとも1つの参照サンプルと前記臨時予測サンプルとを加重合(weighted sum)して前記現在ブロックの予測サンプルを導出することもできる。上述した場合は、PDPC(Position dependent intra prediction)と呼ばれることができる。
また、現在ブロックの周辺多重参照サンプルラインのうち、最も予測正確度が高い参照サンプルラインを選択し、当該ラインで予測方向に位置する参照サンプルを用いて予測サンプルを導出し、このとき、使用された参照サンプルラインをデコード装置に指示(シグナリング)する方法にてイントラ予測符号化を行うことができる。上述した場合は、多重参照ライン(multi-reference line)イントラ予測またはMRL基盤イントラ予測と呼ばれることができる。
また、現在ブロックを垂直または水平のサブパーティションに分けて同じイントラ予測モードに基づいてイントラ予測を行うものの、前記サブパーティション単位で周辺参照サンプルを導出して用いることができる。すなわち、この場合、現在ブロックに対するイントラ予測モードが前記サブパーティションに同様に適用されるものの、前記サブパーティション単位で周辺参照サンプルを導出して用いることにより、場合によってイントラ予測性能を高めることができる。このような予測方法は、ISP(intra sub-partitions)基盤イントラ予測と呼ばれることができる。
上述したイントラ予測方法等は、イントラ予測モードと区分してイントラ予測タイプと呼ばれることができる。前記イントラ予測タイプは、イントラ予測技法または付加イントラ予測モードなど、様々な用語と呼ばれることができる。例えば、前記イントラ予測タイプ(または、付加イントラ予測モードなど)は、上述したLIP、PDPC、MRL、ISPのうち、少なくとも1つを含むことができる。前記LIP、PDPC、MRL、ISPなどの特定イントラ予測タイプを除いた一般イントラ予測方法は、ノーマルイントラ予測タイプと呼ばれることができる。ノーマルイントラ予測タイプは、前記のような特定イントラ予測タイプが適用されない場合、一般的に適用されることができ、上述したイントラ予測モードに基づいて予測が行われ得る。一方、必要に応じて導出された予測サンプルに対する後処理フィルタリングが行われることもできる。
具体的に、イントラ予測手順は、イントラ予測モード/タイプ決定ステップ、周辺参照サンプル導出ステップ、イントラ予測モード/タイプ基盤の予測サンプル導出ステップを含むことができる。また、必要に応じて、導出された予測サンプルに対する後処理フィルタリング(post-filtering)ステップが行われることもできる。
図4は、イントラ予測基盤ビデオ/画像エンコード方法の例を示す。
図4に示すように、エンコード装置は、現在ブロックに対するイントラ予測を行う(S400)。エンコード装置は、現在ブロックに対するイントラ予測モード/タイプを導出し、現在ブロックの周辺参照サンプルを導出することができ、前記イントラ予測モード/タイプ及び前記周辺参照サンプルに基づいて前記現在ブロック内の予測サンプルを生成する。ここで、イントラ予測モード/タイプ決定、周辺参照サンプル導出及び予測サンプル生成手順は、同時に行われることができ、いずれか1つの手順が他の手順より先に行われることもできる。エンコード装置は、複数のイントラ予測モード/タイプのうち、前記現在ブロックに対して適用されるモード/タイプを決定できる。エンコード装置は、前記イントラ予測モード/タイプに対するRD costを比較し、前記現在ブロックに対する最適のイントラ予測モード/タイプを決定できる。
一方、エンコード装置は、予測サンプルフィルタリング手順を行うこともできる。予測サンプルフィルタリングは、ポストフィルタリングと呼ばれることができる。前記予測サンプルフィルタリング手順によって前記予測サンプルのうち一部または全部がフィルタリングされ得る。場合によって、前記予測サンプルフィルタリング手順は省略されることができる。
エンコード装置は、(フィルタリングされた)予測サンプルに基づいて前記現在ブロックに対するレジデュアルサンプルを生成する(S410)。エンコード装置は、現在ブロックの原本サンプルで前記予測サンプルを位相基盤にて比較し、前記レジデュアルサンプルを導出できる。
エンコード装置は、前記イントラ予測に関する情報(予測情報)及び前記レジデュアルサンプルに関するレジデュアル情報を含む画像情報をエンコードすることができる(S420)。前記予測情報は、前記イントラ予測モード情報、前記イントラ予測タイプ情報を含むことができる。エンコード装置は、エンコードされた画像情報をビットストリーム形態で出力することができる。出力されたビットストリームは、格納媒体またはネットワークを介してデコード装置に伝達されることができる。
前記レジデュアル情報は、後述するレジデュアルコーディングシンタクスを含むことができる。エンコード装置は、前記レジデュアルサンプルを変換/量子化して、量子化された変換係数を導出できる。前記レジデュアル情報は、前記量子化された変換係数に関する情報を含むことができる。
一方、上述したように、エンコード装置は、復元ピクチャ(復元サンプル及び復元ブロックを含む)を生成できる。このために、エンコード装置は、前記量子化された変換係数を再度逆量子化/逆変換処理して(修正された)レジデュアルサンプルを導出できる。このように、レジデュアルサンプルを変換/量子化後、再度逆量子化/逆変換を行う理由は、上述したように、デコード装置から導出されるレジデュアルサンプルと同じレジデュアルサンプルを導出するためである。エンコード装置は、前記予測サンプルと前記(修正された)レジデュアルサンプルとに基づいて前記現在ブロックに対する復元サンプルを含む復元ブロックを生成できる。前記復元ブロックに基づいて前記現在ピクチャに対する復元ピクチャが生成され得る。前記復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
図5は、イントラ予測基盤ビデオ/画像エンコード方法の例を示す。
デコード装置は、前記エンコード装置で行われた動作と対応する動作を行うことができる。
予測情報及びレジデュアル情報をビットストリームから取得することができる。前記レジデュアル情報に基づいて現在ブロックに対するレジデュアルサンプルが導出され得る。具体的に、前記レジデュアル情報に基づいて導出された量子化された変換係数に基づいて、逆量子化を行って変換係数を導出し、前記変換係数に対する逆変換を行って前記現在ブロックに対するレジデュアルサンプルを導出できる。
具体的に、デコード装置は、受信された予測情報(イントラ予測モード/タイプ情報)に基づいて現在ブロックに対するイントラ予測モード/タイプを導出できる(S500)。デコード装置は、前記現在ブロックの周辺参照サンプルを導出できる(S510)。デコード装置は、前記イントラ予測モード/タイプ及び前記周辺参照サンプルに基づいて前記現在ブロック内の予測サンプルを生成する(S520)。この場合、デコード装置は、予測サンプルフィルタリング手順を行うことができる。予測サンプルフィルタリングは、ポストフィルタリングと呼ばれることができる。前記予測サンプルフィルタリング手順によって前記予測サンプルのうち一部または全部がフィルタリングされ得る。場合によって、予測サンプルフィルタリング手順は省略されることができる。
デコード装置は、受信されたレジデュアル情報に基づいて前記現在ブロックに対するレジデュアルサンプルを生成する(S530)。デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて前記現在ブロックに対する復元サンプルを生成し、前記復元サンプルを含む復元ブロックを導出できる(S540)。前記復元ブロックに基づいて前記現在ピクチャに対する復元ピクチャが生成され得る。前記復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
前記イントラ予測モード情報は、例えば、MPM(most probable mode)が前記現在ブロックに適用されるか、それとも、リメイニングモード(remaining mode)が適用されるかの可否を表すフラグ情報(ex.intra_luma_mpm_flag)を含むことができ、前記MPMが前記現在ブロックに適用される場合、前記予測モード情報は、前記イントラ予測モード候補(MPM候補)のうち、1つを指すインデックス情報(ex.intra_luma_mpm_idx)をさらに含むことができる。前記イントラ予測モード候補(MPM候補)は、MPM候補リストまたはMPMリストで構成されることができる。また、前記MPMが前記現在ブロックに適用されない場合、前記イントラ予測モード情報は、前記イントラ予測モード候補(MPM候補)を除いた残りのイントラ予測モードのうち1つを指すリメイニングモード情報(ex.intra_luma_mpm_remainder)をさらに含むことができる。デコード装置は、前記イントラ予測モード情報に基づいて前記現在ブロックのイントラ予測モードを決定できる。
また、前記イントラ予測タイプ情報は、様々な形態で実現されることができる。一例として、前記イントラ予測タイプ情報は、前記イントラ予測タイプのうち1つを指示するイントラ予測タイプインデックス情報を含むことができる。他の例として、前記イントラ予測タイプ情報は、前記MRLが前記現在ブロックに適用されるか、及び適用される場合には、何番目の参照サンプルラインが用いられるかの可否を表す参照サンプルライン情報(ex.intra_luma_ref_idx)、前記ISPが前記現在ブロックに適用されるかを表すISPフラグ情報(ex.intra_subpartitions_mode_flag)、または前記ISPが適用される場合に、サブパーティションが分割タイプを指示するISPタイプ情報(ex.intra_subpartitions_split_flag)のうち、少なくとも1つを含むことができる。また、前記イントラ予測タイプ情報は、前記現在ブロックにMIP(matrix-based intra prediction)が適用されるか否かを表すMIPフラグを含むことができる。
前記イントラ予測モード情報及び/又は前記イントラ予測タイプ情報は、本文書において説明したコーディング方法によってエンコード/デコードされることができる。例えば、前記イントラ予測モード情報及び/又は前記イントラ予測タイプ情報は、エントロピーコーディング(ex.CABAC、CAVLC)を介してエンコード/デコードされることができる。
図6は、イントラ予測手順を例示的に示す。
図6を参照すれば、上述したようにイントラ予測手順は、イントラ予測モード/タイプ決定ステップ、周辺参照サンプル導出ステップ、イントラ予測実行(予測サンプル生成)ステップを含むことができる。前記イントラ予測手順は、上述したようにエンコード装置及びデコード装置で行われることができる。本文書においてコーディング装置とは、エンコード装置及び/又はデコード装置を含むことができる。
図6に示すように、コーディング装置は、イントラ予測モード/タイプを決定する(S600)。
エンコード装置は、上述した様々なイントラ予測モード/タイプのうち、前記現在ブロックに適用されるイントラ予測モード/タイプを決定でき、予測関連情報を生成できる。前記予測関連情報は、前記現在ブロックに適用されるイントラ予測モードを表すイントラ予測モード情報及び/又は前記現在ブロックに適用されるイントラ予測タイプを表すイントラ予測タイプ情報を含むことができる。デコード装置は、前記予測関連情報に基づいて前記現在ブロックに適用されるイントラ予測モード/タイプを決定できる。
前記イントラ予測モード情報は、例えば、MPM(most probable mode)が前記現在ブロックに適用されるか、それとも、リメイニングモード(remaining mode)が適用されるかの可否を表すフラグ情報(ex.intra_luma_mpm_flag)を含むことができ、前記MPMが前記現在ブロックに適用される場合、前記予測モード情報は、前記イントラ予測モード候補(MPM候補)のうち、1つを指すインデックス情報(ex.intra_luma_mpm_idx)をさらに含むことができる。前記イントラ予測モード候補(MPM候補)は、MPM候補リストまたはMPMリストで構成されることができる。また、前記MPMが前記現在ブロックに適用されない場合、前記イントラ予測モード情報は、前記イントラ予測モード候補(MPM候補)を除いた残りのイントラ予測モードのうち1つを指すリメイニングモード情報(ex.intra_luma_mpm_remainder)をさらに含むことができる。デコード装置は、前記イントラ予測モード情報に基づいて前記現在ブロックのイントラ予測モードを決定できる。
また、前記イントラ予測タイプ情報は、様々な形態で実現されることができる。一例として、前記イントラ予測タイプ情報は、前記イントラ予測タイプのうち、1つを指示するイントラ予測タイプインデックス情報を含むことができる。他の例として、前記イントラ予測タイプ情報は、前記MRLが前記現在ブロックに適用されるか、及び適用される場合には、何番目の参照サンプルラインが用いられるかの可否を表す参照サンプルライン情報(ex.intra_luma_ref_idx)、前記ISPが前記現在ブロックに適用されるかを表すISPフラグ情報(ex.intra_subpartitions_mode_flag)、または前記ISPが適用される場合に、サブパーティションが分割タイプを指示するISPタイプ情報(ex.intra_subpartitions_split_flag)のうち、少なくとも1つを含むことができる。また、前記イントラ予測タイプ情報は、前記現在ブロックにMIP(matrix-based intra prediction)が適用されるか否かを表すMIPフラグを含むことができる。
例えば、イントラ予測が適用される場合、周辺ブロックのイントラ予測モードを用いて現在ブロックに適用されるイントラ予測モードが決定され得る。例えば、コーディング装置は、現在ブロックの周辺ブロック(ex.左側及び/又は上側周辺ブロック)のイントラ予測モード及び/又は追加的な候補モードに基づいて導出されたMPM(most probable mode)リスト内のMPM候補のうち1つを、受信されたMPMインデックスに基づいて選択することができ、または、前記MPM候補(及びプラナーモード)に含まれなかった残りのイントラ予測モードのうち1つをMPMリメインダー情報(リメイニングイントラ予測モード情報)に基づいて選択することができる。前記MPMリストは、プラナーモードを候補として含むか、含まないように構成されることができる。例えば、前記MPMリストがプラナーモードを候補として含む場合、前記MPMリストは、6個の候補を有することができ、前記MPMリストがプラナーモードを候補として含まない場合、前記MPMリストは、5個の候補を有することができる。前記MPMリストがプラナーモードを候補として含まない場合、現在ブロックのイントラ予測モードがプラナーモードでないかを表すnotプラナーフラグ(ex.intra_luma_not_planar_flag)がシグナリングされ得る。例えば、MPMフラグが先にシグナリングされ、MPMインデックス及びnotプラナーフラグは、MPMフラグの値が1である場合にシグナリングされることができる。また、前記MPMインデックスは、前記notプラナーフラグの値が1である場合にシグナリングされることができる。ここで、前記MPMリストがプラナーモードを候補として含まないように構成されることは、前記プラナーモードがMPMでないというよりは、MPMとして常にプラナーモードが考慮されるので、先にフラグ(not planar flag)をシグナリングして、プラナーモードであるか否かを先に確認するためである。
例えば、現在ブロックに適用されるイントラ予測モードがMPM候補(及びプラナーモード)の中にあるか、それとも、リメイニングモードの中にあるかは、MPMフラグ(ex.intra_luma_mpm_flag)に基づいて指示されることができる。MPMフラグの値1は、前記現在ブロックに対するイントラ予測モードがMPM候補(及びプラナーモード)内にあることを表すことができ、MPMフラグの値0は、前記現在ブロックに対するイントラ予測モードがMPM候補(及びプラナーモード)内にないことを表すことができる。前記not planar flag(ex.intra_luma_not_planar_flag)値0は、前記現在ブロックに対するイントラ予測モードがプラナーモードであることを表すことができ、前記not planar flag値1は、前記現在ブロックに対するイントラ予測モードがプラナーモードでないことを表すことができる。前記MPMインデックスは、mpm_idxまたはintra_luma_mpm_idxシンタクス要素の形態でシグナリングされることができ、前記リメイニングイントラ予測モード情報は、rem_intra_luma_pred_modeまたはintra_luma_mpm_remainderシンタクス要素の形態でシグナリングされることができる。例えば、前記リメイニングイントラ予測モード情報は、全体イントラ予測モードのうち、前記MPM候補(及びプラナーモード)に含まれない残りのイントラ予測モードを予測モード番号順にインデクシングして、そのうち1つを指すことができる。前記イントラ予測モードは、ルマ成分(サンプル)に対するイントラ予測モードであることができる。以下、イントラ予測モード情報は、前記MPMフラグ(ex.intra_luma_mpm_flag)、前記not planar flag(ex.intra_luma_not_planar_flag)、前記MPMインデックス(ex.mpm_idxまたはintra_luma_mpm_idx)、前記リメイニングイントラ予測モード情報(rem_intra_luma_pred_modeまたはintra_luma_mpm_remainder)のうち、少なくとも1つを含むことができる。本文書においてMPMリストは、MPM候補リスト、candModeListなど、様々な用語と呼ばれることができる。
MIPが現在ブロックに適用される場合、MIPのための別途のMPM flag(ex.intra_mip_mpm_flag)、MPMインデックス(ex.intra_mip_mpm_idx)、リメイニングイントラ予測モード情報(ex.intra_mip_mpm_remainder)がシグナリングされ得るし、前記not planar flagはシグナリングされないことができる。
言い換えれば、一般的に画像に対するブロック分割がなされると、コーディングしようとする現在ブロックと周辺(neighboring)ブロックとは、類似した画像特性を有するようになる。したがって、現在ブロックと周辺ブロックとは、互いに同一であるか、類似したイントラ予測モードを有する確率が高い。したがって、エンコーダは、現在ブロックのイントラ予測モードをエンコードするために、周辺ブロックのイントラ予測モードを用いることができる。
コーディング装置は、現在ブロックに対するMPM(most probable modes)リストを構成できる。前記MPMリストは、MPM候補リストと表すこともできる。ここで、MPMとは、イントラ予測モードコーディングの際、現在ブロックと周辺ブロックとの類似性を考慮して、コーディング効率を向上させるために用いられるモードを意味できる。上述したように、MPMリストは、プラナーモードを含んで構成されることができ、またはプラナーモードを除いて構成されることができる。例えば、MPMリストがプラナーモードを含む場合、MPMリストの候補の個数は、6個であることができる。そして、MPMリストがプラナーモードを含まない場合、MPMリストの候補の個数は、5個であることができる。
エンコード装置は、様々なイントラ予測モードに基づいて予測を行うことができ、これに基づいたRDO(rate-distortion optimization)に基づいて最適のイントラ予測モードを決定できる。エンコード装置は、この場合、前記MPMリストに構成されたMPM候補及びプラナーモードのみを用いて前記最適のイントラ予測モードを決定することができ、または、前記MPMリストに構成されたMPM候補及びプラナーモードだけでなく、残りのイントラ予測モードをさらに用いて前記最適のイントラ予測モードを決定することもできる。具体的に、例えば、仮に前記現在ブロックのイントラ予測タイプがノーマルイントラ予測タイプでない特定タイプ(例えば、LIP、MRL、またはISP)である場合には、エンコード装置は、前記MPM候補及びプラナーモードのみを前記現在ブロックに対するイントラ予測モード候補として考慮して前記最適のイントラ予測モードを決定できる。すなわち、この場合には、前記現在ブロックに対するイントラ予測モードは、前記MPM候補及びプラナーモードの中で決定されることができ、この場合には、前記MPM flagをエンコード/シグナリングしないことができる。デコード装置は、この場合には、MPM flagを別途にシグナリングされなくとも、MPM flagが1であることと推定することができる。
一方、一般的に、前記現在ブロックのイントラ予測モードがプラナーモードでなく、前記MPMリスト内にあるMPM候補のうち、1つの場合、エンコード装置は、前記MPM候補のうち1つを指すMPMインデックス(mpm idx)を生成する。仮に、前記現在ブロックのイントラ予測モードが前記MPMリスト内にもない場合には、前記MPMリスト(及びプラナーモード)に含まれなかった残りのイントラ予測モードの中で前記現在ブロックのイントラ予測モードと同じモードを指すMPMリメインダー情報(リメイニングイントラ予測モード情報)を生成する。前記MPMリメインダー情報は、例えば、intra_luma_mpm_remainderシンタクス要素を含むことができる。
デコード装置は、ビットストリームからイントラ予測モード情報を取得する。前記イントラ予測モード情報は、上述したように、MPMフラグ、notプラナーフラグ、MPMインデックス、MPMリメインダー情報(リメイニングイントラ予測モード情報)のうち、少なくとも1つを含むことができる。デコード装置は、MPMリストを構成できる。前記MPMリストは、前記エンコード装置で構成されたMPMリストと同様に構成される。すなわち、前記MPMリストは、周辺ブロックのイントラ予測モードを含むことができ、予め決められた方法によって特定イントラ予測モードをさらに含むこともできる。
デコード装置は、前記MPMリスト及び前記イントラ予測モード情報に基づいて現在ブロックのイントラ予測モードを決定できる。一例として、前記MPMフラグの値が1である場合、デコード装置は、プラナーモードを前記現在ブロックのイントラ予測モードとして導出するか(not planar flag基盤)、前記MPMリスト内のMPM候補の中で前記MPMインデックスが指す候補を前記現在ブロックのイントラ予測モードとして導出することができる。ここで、MPM候補とは、前記MPMリストに含まれる候補のみを表すことができ、または、前記MPMリストに含まれる候補だけでなく、前記MPMフラグの値が1である場合に適用されることができるプラナーモードも含まれることができる。
他の例として、前記MPMフラグの値が0である場合、デコード装置は、前記MPMリスト及びプラナーモードに含まれなかった残りのイントラ予測モードの中で前記リメイニングイントラ予測モード情報(mpm remainder情報と呼ばれることができる)が指すイントラ予測モードを前記現在ブロックのイントラ予測モードとして導出することができる。一方、さらに他の例として、前記現在ブロックのイントラ予測タイプが特定タイプ(ex.LIP、MRLまたはISP等)である場合、デコード装置は、前記MPMフラグのパーシング/デコード/確認なしにも、前記プラナーモードまたは前記MPMリスト内で前記MPMフラグが指す候補を前記現在ブロックのイントラ予測モードとして導出することができる。
コーディング装置は、現在ブロックの周辺参照サンプルを導出する(S610)。現在ブロックにイントラ予測が適用される場合、現在ブロックのイントラ予測に使用する周辺参照サンプルが導出され得る。前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの左側(left)境界に隣接したサンプル及び左下側(bottom-left)に隣り合う合計2×nH個のサンプル、現在ブロックの上側(top)境界に隣接したサンプル及び右上側(top-right)に隣り合う合計2xnW個のサンプル及び現在ブロックの左上側(top-left)に隣り合う1個のサンプルを含むことができる。または、前記現在ブロックの周辺参照サンプルは、複数列の上側周辺サンプル及び複数行の左側周辺サンプルを含むこともできる。また、前記現在ブロックの周辺参照サンプルは、nW×nHサイズの現在ブロックの右側(right)境界に隣接した合計nH個のサンプル、現在ブロックの下側(bottom)境界に隣接した合計nW個のサンプル、及び現在ブロックの右下側(bottom-right)に隣り合う1個のサンプルを含むこともできる。
一方、MRLが適用される場合(すなわち、MRLインデックスの値が0より大きい場合)、前記周辺参照サンプルは、左側/上側で現在ブロックに隣接した0番ラインでない、1番ないし2番ラインに位置することができ、この場合、周辺参照サンプルの個数はさらに増えることができる。一方、ISPが適用される場合、前記周辺参照サンプルは、サブパーティション単位で導出されることができる。
コーディング装置は、現在ブロックにイントラ予測を行って予測サンプルを導出する(S620)。コーディング装置は、前記イントラ予測モード/タイプ及び前記周辺サンプルに基づいて前記予測サンプルを導出できる。コーディング装置は、現在ブロックの周辺参照サンプルのうち、前記現在ブロックのイントラ予測モードによる参照サンプルを導出でき、前記参照サンプルに基づいて前記現在ブロックの予測サンプルを導出できる。
一方、一実施形態によって、BDPCM(block differential pulse coded modulationまたはBlock-based Delta Pulse Code Modulation)技法が使用され得る。BDPCMは、RDPCM(quantized Residual block-based Delta Pulse Code Modulation)と命名されることもできる。
BDPCMを適用してブロックを予測する場合、ブロックの行または列をラインバイラインで予測するために復元されたサンプルが活用され得る。このとき、使用された参照サンプルは、フィルタリングされないサンプルであることができる。BDPCM方向は、垂直方向または水平方向予測が使用されたか否かを表すことができる。すなわち、BDPCMが適用される場合、垂直方向または水平方向がBDPCM方向として選択されることができ、前記BDPCM方向で予測が行われ得る。予測エラー(prediction error)は、空間的ドメインで量子化されることができ、サンプルは、予測(すなわち、予測サンプル)に逆量子化された予測エラーを加えることにより復元されることができる。前記予測エラーは、レジデュアル(residual)を意味できる。このようなBDPCMの代案として量子化されたレジデュアルドメインBDPCMが提案され得るし、予測方向やシグナリングは、空間的ドメインに適用されたBDPCMと同一であることができる。すなわち、量子化されたレジデュアルドメインBDPCMを介して量子化係数自体をDPCM(Delta Pulse Code Modulation)のように積んで行った後、 逆量子化を介してレジデュアルが復元され得る。したがって、量子化されたレジデュアルドメインBDPCMは、レジデュアルコーディング端でDPCMを適用するという意味で使用されることができる。以下において使用される量子化されたレジデュアルドメインは、予測に基づいて導出されたレジデュアルが変換なしに量子化されたものであって、量子化されたレジデュアルサンプルに対するドメインを意味する。例えば、量子化されたレジデュアルドメインは、変換スキップが適用される、すなわち、レジデュアルサンプルに対して変換はスキップされるが、量子化は適用される量子化されたレジデュアル(または、量子化されたレジデュアル係数)を含むことができる。または、例えば、量子化されたレジデュアルドメインは、量子化された変換係数を含むことができる。
M×Nサイズのブロックに対して、左側または上側境界サンプル(すなわち、左側周辺サンプルまたは上側周辺サンプル)のうち、フィルタリングされなかったサンプルを用いて水平方向にイントラ予測(左側周辺サンプルラインをラインバイラインで予測ブロックにコピーする)または垂直方向にイントラ予測(上側周辺サンプルラインをラインバイラインで予測ブロックにコピーする)を行った予測値を活用して、導出されたレジデュアルがr(i、j)(0≦i≦M-1、0≦j≦N-1)と仮定されることができる。ここで、Mは、列(row)または高さ(height)、Nは、行(column)または幅(width)を表すことができる。そして、レジデュアルr(i、j)の量子化された値がQ(r(i、j))(0≦i≦M-1、0≦j≦N-1)と仮定されることができる。ここで、レジデュアルは、原本ブロックと予測ブロック値の差値を意味する。
その後、BDPCMを量子化されたレジデュアルサンプルに適用すれば、
Figure 2023076587000002

を構成とするM×Nの変形されたアレイ
Figure 2023076587000003

が導出され得る。
例えば、垂直BDPCMがシグナリングされれば(すなわち、垂直方向のBDPCMが適用される場合)、
Figure 2023076587000004

は、次の数式のように導出されることができる。
Figure 2023076587000005
すなわち、例えば、垂直方向のBDPCMが適用される場合、エンコード装置は、上側周辺サンプルに基づいて垂直方向のイントラ予測を行うことができ、前記現在ブロックに対する量子化されたレジデュアルサンプル(quantized residual samples)は、上述した数式1のように導出されることができる。上述した数式1を参照すれば、現在ブロックの1番目の行を除いた行の量子化されたレジデュアルサンプルは、当該位置に対する量子化された値と当該位置の以前行の位置(すなわち、当該位置の上側周辺位置)に対する量子化された値の差分として導出されることができる。
また、水平予測に対して同様に適用すれば(すなわち、水平方向のBDPCMが適用される場合)、量子化されたレジデュアルサンプル(the residual quantized samples)は、次の数式のように導出されることができる。
Figure 2023076587000006
すなわち、例えば、水平方向のBDPCMが適用される場合、エンコード装置は、左側周辺サンプルに基づいて水平方向のイントラ予測を行うことができ、前記現在ブロックに対する量子化されたレジデュアルサンプル(quantized residual samples)は、上述した数式2のように導出されることができる。上述した数式2を参照すれば、現在ブロックの1番目の列を除いた列の量子化されたレジデュアルサンプルは、当該位置に対する量子化された値と当該位置の以前列の位置(すなわち、当該位置の左側周辺位置)に対する量子化された値の差分として導出されることができる。
前記量子化されたレジデュアルサンプル(
Figure 2023076587000007

)は、デコード装置に送信されることができる。
デコード装置では、Q(r(i、j))(0≦i≦M-1、0≦j≦N-1)を導出するために、前記演算が逆に行われ得る。
垂直予測に対しては、次の数式が適用され得る。
Figure 2023076587000008
また、水平予測に対しては、次の数式が適用され得る。
Figure 2023076587000009
逆量子化された量子化されたレジデュアル(
Figure 2023076587000010

)は、復元されたサンプル値を導出するために、イントラブロック予測値と合わせられる。
このような技法の主な長所は、係数のパーシング時またはパーシング後にも簡単に予測子を加えることにより、逆BDPCMが行われ得ることである。
上記のように、BDPCMは、量子化されたレジデュアルドメインに適用されることができ、量子化されたレジデュアルドメインは、量子化されたレジデュアル(または、量子化されたレジデュアル係数)を含むことができ、このとき、レジデュアルに対しては、変換スキップが適用され得る。すなわち、BDPCMが適用される場合には、レジデュアルサンプルに対して変換はスキップされ、量子化は適用されることができる。または、量子化されたレジデュアルドメインは、量子化された変換係数を含むこともできる。BDPCM適用可能可否に対するフラグは、シーケンスレベル(SPS)でシグナリングされることができ、このようなフラグは、SPSで変換スキップモードが可能であるとシグナリングされる場合にのみシグナリングされることもできる。前記フラグは、BDPCM可用フラグまたはSPS BDPCM可用フラグと呼ばれることができる。
BDPCM適用の際、イントラ予測は、イントラ予測方向と類似した予測方向(例えば、垂直予測または水平予測)によるサンプル複製(sample copy)によって全体ブロックに行われることができる。原本と予測ブロックとの差分値であるレジデュアルは、変換がスキップされて量子化され、量子化されたレジデュアルと水平または垂直方向に対する予測子(すなわち、水平または垂直方向の量子化されたレジデュアル)との間のデルタ値、すなわち、差分値(
Figure 2023076587000011

)がコーディングされ得る。
BDPCMが適用可能であれば、CUサイズがルマサンプルに対するMaxTsSize(最大変換スキップブロックサイズ)より小さいか、同じであり、CUがイントラ予測でコーディングされる場合、フラグ情報がCUレベルで送信され得る。前記フラグ情報は、BDPCMフラグと呼ばれることができる。ここで、MaxTsSizeは、変換スキップモードが許容されるための最大ブロックサイズを意味できる。前記フラグ情報は、通常的なイントラコーディングが適用されるか、またはBDPCMが適用されるかの可否を指示できる。BDPCMが適用されれば、予測方向が水平方向であるか、垂直方向であるかの可否を指示するBDPCM予測方向フラグが送信され得る。前記BDPCM予測方向フラグは、BDPCM方向フラグと呼ばれることもできる。その後、ブロックは、フィルタリングされなかった参照サンプルを用いた通常的な水平または垂直イントラ予測過程を介して予測されることができる。また、レジデュアルは量子化され、各量子化されたレジデュアルとその予測子、例えば、BDPCM予測方向によって水平または垂直方向にある周辺位置の既に量子化されたレジデュアル間の差値がコーディングされ得る。
一方、上述したBDPCMは、後述するように、標準文書形式で記述されることができる。
例えば、上述したBDPCM可用フラグに対するシンタクスエレメント(syntax element)及び前記シンタクスエレメントに対するセマンティックス(semantics)は、次の表のように表すことができる。
Figure 2023076587000012
Figure 2023076587000013
表1は、SPS(Sequence Parameter Set)でシグナリングされるsps_bdpcm_enabled_flagを表しており、シンタックスエレメントsps_bdpcm_enabled_flagが1であれば、イントラ予測が行われるコーディングユニットにBDPCMが適用されるか否かを表すフラグ情報、すなわち、「intra_bdpcm_luma_flag」及び「intra_bdpcm_chroma_flag」がコーディングユニットに存在することを表す。前記シンタックスエレメントsps_bdpcm_enabled_flagは、上述したBDPCM可用フラグに対するシンタクスエレメントであることができる。また、前記シンタックスエレメント「sps_bdpcm_enabled_flag」が存在しなければ、その値は、0に見なされることができる。
また、例えば、上述したBDPCMフラグ及びBDPCM方向フラグに対するシンタクスエレメント及び前記シンタクスエレメントに対するセマンティックス(semantics)は、次の表のように表すことができる。
Figure 2023076587000014
Figure 2023076587000015
表3のシンタックスエレメントbdpcm_flagは、現在ブロックにBDPCMが適用されるか否かを表すことができる。前記シンタックスエレメントbdpcm_flagは、上述したBDPCMフラグに対するシンタクスエレメントであることができる。例えば、bdpcm_flagの値が1であれば、前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対する変換はスキップされ、前記現在ブロックに対する予測方向を表すbdpcm_dir_flagが存在しうる。また、例えば、bdpcm_flagの値が0であれば、前記現在ブロックに適用されないことができる。また、例えば、bdpcm_flagが存在しなければ、この値は、0に見なされることができる。前記現在ブロックは、コーディングブロック(coding block)であることができる。前記bdpcm_dir_flagは、前記現在ブロックに対する予測方向を指すことができる。例えば、表4を参照すれば、前記bdpcm_dir_flagの値が1であれば、前記現在ブロックに対する予測方向は垂直方向であることができ、前記bdpcm_dir_flagの値が0であれば、前記現在ブロックに対する予測方向は水平方向であることができる。前記シンタックスエレメントbdpcm_flagは、上述したBDPCMフラグに対するシンタクスエレメントであることができ、前記シンタックスエレメントbdpcm_dir_flagは、上述したBDPCM方向フラグに対するシンタクスエレメントであることができる。
また、例えば、上述したBDPCMフラグ及びBDPCM方向フラグに対するシンタクスエレメントは、ルマ成分及びクロマ成分に対して別途にシグナリングされることができる。例えば、前記シンタクスエレメントに対するセマンティックス(semantics)は、次の表のように表すことができる。
Figure 2023076587000016
Figure 2023076587000017
上述した内容のように、表5のシンタックスエレメントintra_bdpcm_luma_flagは、現在ルマブロックにBDPCMが適用されるか否かを表すことができ、intra_bdpcm_chroma_flagは、現在ルマブロックまたは現在クロマブロックにBDPCMが適用されるか否かを表すことができる。例えば、intra_bdpcm_luma_flagまたはintra_bdpcm_chroma_flagの値が1であれば、当該コーディングブロックに対する変換はスキップされ、コーディングブロックに対する予測モードは、予測方向を表すintra_bdpcm_luma_dir_flagまたはintra_bdpcm_chroma_dir_flagによって水平または垂直方向に設定されることができる。intra_bdpcm_luma_flagまたはintra_bdpcm_chroma_flagが存在しなければ、この値は、0に見なされることができる。
また、例えば、予測方向を表すintra_bdpcm_luma_dir_flagまたはintra_bdpcm_chroma_dir_flagの値が0であれば、BDPCM予測方向が水平方向であることを表すことができ、intra_bdpcm_luma_dir_flagまたはintra_bdpcm_chroma_dir_flagの値が1であれば、BDPCM予測方向が垂直方向であることを表すことができる。
また、BDPCMが適用される場合に、逆量子化過程の一例は、次の表のように表すことができる。
Figure 2023076587000018
Figure 2023076587000019
Figure 2023076587000020
または、BDPCMが適用される場合に、逆量子化過程の一例は、次の表のように表すこともできる。
Figure 2023076587000021
Figure 2023076587000022
Figure 2023076587000023
Figure 2023076587000024
表7または表8を参照すれば、bdpcm_flagの値が1であれば、逆量子化されたレジデュアル値d[x][y]は、中間変数dz[x][y]に基づいて導出されることができる。ここで、xは、横方向座標であって、左側から右側へと増加し、yは、縦方向座標であって、上側から下側へと増加し、2次元ブロック内の位置は、(x、y)で表記されることができる。また、2次元ブロック内の位置は、当該ブロックの左上端位置を(0、0)に置いたときの(x、y)位置を表す。
例えば、bdpcm_dir_flagの値が0であれば、すなわち、水平BDPCMが適用されれば、変数dz[x][y]は、xが0である場合には、TransCoeffLevel[xTbY][yTbY][cIdx][x][y]、xが0でない場合には、dz[x-1][y]+dz[x][y]に基づいて導出されることができる。すなわち、水平BDPCMが適用される場合(bdpcm_dir_flagの値が0)には、xが0である1番目の列に位置するサンプルの変数dz[x][y]は、前記サンプルのレジデュアル情報に基づいて導出されたTransCoeffLevel[xTbY][yTbY][cIdx][x][y]に導出されることができ、xが0でない1番目の列以外の列に位置するサンプルの変数dz[x][y]は、前記サンプルの左側周辺サンプルのdz[x-1][y]と前記サンプルに対するdz[x][y]との合計で導出されることができる。ここで、前記dz[x-1][y]と加えられる前記サンプルに対するdz[x][y]は、シグナリングされる前記サンプルに対するレジデュアル情報に基づいて導出されることができる。
また、例えば、bdpcm_dir_flagの値が1であれば、すなわち、垂直BDPCMが適用されれば、変数dz[x][y]は、dz[x][y-1]+dz[x][y]に基づいて導出されることができる。すなわち、垂直BDPCMが適用される場合(bdpcm_dir_flagの値が1)には、yが0である1番目の行に位置するサンプルの変数dz[x][y]は、前記サンプルのレジデュアル情報に基づいて導出されたTransCoeffLevel[xTbY][yTbY][cIdx][x][y]に導出されることができ、yが0でない1番目の行以外の行に位置するサンプルの変数dz[x][y]は、前記サンプルの上側周辺サンプルのdz[x][y-1]と前記サンプルに対するdz[x][y]との合計で導出されることができる。ここで、前記dz[x][y-1]と加えられる前記サンプルに対するdz[x][y]とは、シグナリングされる前記サンプルに対するレジデュアル情報に基づいて導出されることができる。
上述した内容のように、特定位置のレジデュアルは、水平方向または垂直方向に以前位置(すなわち、左側または上側)にあるレジデュアルと特定位置のレジデュアル情報で受信された値の合計に基づいて導出されることができる。BDPCM適用の際、特定位置(x、y)のレジデュアルサンプル値と水平方向または垂直方向に以前位置(すなわち、(x-1、y)または(x、y-1))にあるレジデュアルサンプル値との差分値がレジデュアル情報としてシグナリングされるためである。
一方、本文書は、変換スキップされたレジデュアル信号をコーディングする過程において、レジデュアル信号間BDPCMを適用する方法について次のような方案を提案する。変換がスキップされたレジデュアル信号は、変換が適用された係数とは異なり、TU(transform unit)内で均等に分布することができ、また、変換がスキップされたレジデュアル係数は、前記成分周辺のレジデュアル係数と類似する確率が極めて高い。また、イントラ予測された変換スキップブロックの場合、予測参照サンプルとの距離のため、ブロックのサイズが大きくなるほど、ブロックの右下端に発生するレジデュアルのレベルがブロックの左上端に発生するレジデュアルのレベルより大きい確率が高い。したがって、BDPCMによれば、上述したレジデュアル分布の特性を利用してコーディング効率を向上させるために、前述されたように、行または列方向にライン単位のレジデュアル間予測が行われ得る。そして、前記BDPCMが適用されたブロックのレジデュアルは、変換スキップのためのレジデュアルコーディング文法でエンコード/デコードされることができる。
したがって、BDPCMは、さらに他の変換スキップ方法と見なすことが妥当でありうる。これにより、本文書は、変換スキップの条件によってBDPCM適用可否を判断する方法を提案する。例えば、一実施形態としてBDPCM適用可否を指示するBDPCMフラグが、transform_skip_enabled_flagがtrueである場合(すなわち、transform_skip_enabled_flagの値が1である場合)にシグナリング/パーシング/コーディングする方案が提案され得る。また、本実施形態は、現在ブロックのサイズに基づいてBDPCMフラグをシグナリング/パーシング/コーディングする方案が提案され得る。例えば、現在ブロックのサイズが最大変換ブロックサイズ以下である場合(すなわち、現在ブロックの幅(width)及び高さ(height)が最大変換ブロックサイズ以下である場合)、BDPCMフラグがシグナリング/パーシング/コーディングされ得る。また、本実施形態は、transform_skip_enabled_flag及び/又は現在ブロックのサイズに基づいてBDPCMフラグをシグナリング/パーシング/コーディングする方案が提案され得る。例えば、transform_skip_enabled_flagがtrueであり(すなわち、transform_skip_enabled_flagの値が1であり)、現在ブロックのサイズが最大変換ブロックサイズ以下である場合(すなわち、現在ブロックの幅(width)及び高さ(height)が最大変換ブロックサイズ以下である場合)、BDPCMフラグがシグナリング/パーシング/コーディングされ得る。
例えば、本実施形態において提案されるシンタクス(syntax)は、次の表のとおりでありうる。
Figure 2023076587000025
表9を参照すれば、BDPCMフラグのシンタクスエレメントは、intra_bdpcm_flagであることができる。または、例えば、BDPCMフラグのシンタクスエレメントは、intra_bdpcm_luma_flagまたはintra_bdpcm_chroma_flagであることができる。表9を参照すれば、transform_skip_enabled_flag及び/又は現在ブロックのサイズに基づいて現在ブロックに対するBDPCMフラグがシグナリングされ得る。例えば、現在ブロックの幅(width)及び高さ(height)が最大変換ブロックサイズ以下である場合、BDPCMフラグがシグナリングされ得るし、現在ブロックの幅(width)または高さ(height)が最大変換ブロックサイズより大きい場合、BDPCMフラグがシグナリングされないことができる。ここで、例えば、前記最大変換ブロックサイズは、前記最大変換ブロックサイズを表す情報に基づいて導出されることができる。また、例えば、前記BDPCMフラグが存在しない場合(すなわち、前記BDPCMフラグがシグナリングされない場合)、前記BDPCMフラグは、0に見なされる(inferred)ことができる。
また、本文書は、変換スキップされたレジデュアル信号をコーディングする過程において、レジデュアル信号間BDPCMを適用する方法について次のような方案を提案する。上述した内容のように変換がスキップされたレジデュアル信号は、変換が適用された係数とは異なり、TU(transform unit)内で均等に分布することができ、また、変換がスキップされたレジデュアル係数は、前記成分周辺のレジデュアル係数と類似する確率が極めて高い。また、イントラ予測された変換スキップブロックの場合、予測参照サンプルとの距離のため、ブロックのサイズが大きくなるほど、ブロックの右下端に発生するレジデュアルのレベルがブロックの左上端に発生するレジデュアルのレベルより大きい確率が高い。
これにより、本実施形態は、BDPCMをさらに他の変換スキップ方法とみなすものの、変換スキップモードと別途のコーディングツール(coding tool)と見なされる、BDPCM適用可否を判断する方法を提案する。本実施形態において提案する方法は、既存のようにBDPCMモードである場合に、変換スキップモードと見なされる(inferred)ことを基にする。
例えば、本実施形態において提案されるシンタクス(syntax)及びセマンティックス(semantics)は、次の表のとおりでありうる。
Figure 2023076587000026
Figure 2023076587000027
例えば、本実施形態によれば、シンタクスエレメントno_bdpcm_constraint_flagがシグナリングされ得る。前記シンタクスエレメントno_bdpcm_constraint_flagは、BDPCMが制約されるか否かを表すことができる。例えば、no_bdpcm_constraint_flagは、BDPCM制約フラグと呼ばれることができる。
例えば、表11を参照すれば、1であるno_bdpcm_constraint_flagは、BDPCM可用フラグの値が0であることを表すことができる。すなわち、例えば、1であるno_bdpcm_constraint_flagは、(全体画像に対して)BDPCMが可用でないことを表すことができる。0であるno_bdpcm_constraint_flagは、BDPCMに対する制約条件を賦課しないことができる。また、例えば、前記BDPCM可用フラグのシンタクスエレメントは、bdpcm_enabled_flagであることができる。一方、例えば、前記BDPCM可用フラグは、SPS(sequence parameter set)、PPS(picture parameter set)、VPS(Video Parameter Set)、スライスヘッダ(Slice header)のうち一ヶ所以上に定義されることができる。すなわち、例えば、前記BDPCM可用フラグは、SPS(sequence parameter set)、PPS(picture parameter set)、VPS(video parameter set)、及び/又はスライスヘッダ(Slice header)を介してシグナリングされることができる。
また、例えば、表11を参照すれば、BDPCM可用フラグの値が0であるか、またはBDPCMフラグが存在しない場合、BDPCMフラグは、0に見なされることができる。したがって、例えば、上述したno_bdpcm_constraint_flagの値が1である場合、BDPCM可用フラグは、0であることができ、BDPCMフラグも0に見なされることができる。また、例えば、前記BDPCMフラグは、現在ブロックにBDPCMが適用されるか否かを表すことができる。例えば、0であるBDPCMフラグは、現在ブロックにBDPCMが適用されないことを表すことができ、1であるBDPCMフラグは、現在ブロックにBDPCMが適用されることを表すことができる。すなわち、1であるBDPCMフラグは、現在ブロックに変換がスキップされ、BDPCM方向フラグが表すイントラ予測モードで現在ブロックに対する予測が行われることを表すことができる。BDPCM方向フラグのシンタクスエレメントは、intra_bdpcm_dir_flag、intra_bdpcm_luma_dir_flagまたはintra_bdpcm_chroma_dir_flagであることができる。
また、例えば、表11を参照すれば、変換スキップフラグが存在しない場合、BDPCM可用フラグの値が1であり、BdcpmFlagの値が1であれば、変換スキップフラグは、1に見なされることができる。また、例えば、変換スキップフラグが存在しない場合、BDPCM可用フラグの値が0であるか、またはBdcpmFlagの値が0であれば、変換スキップフラグは、0に見なされることができる。ここで、BdcpmFlagの値は、前記BDPCMフラグの値と同様に設定されることができる。
また、本文書は、変換スキップされたレジデュアル信号をコーディングする過程において、レジデュアル信号間BDPCMを適用する方法について次のような方案を提案する。上述した内容のように、変換がスキップされたレジデュアル信号は、変換が適用された係数とは異なり、TU(transform unit)内で均等に分布することができ、また、変換がスキップされたレジデュアル係数は、前記成分周辺のレジデュアル係数と類似する確率が極めて高い。また、イントラ予測された変換スキップブロックの場合、予測参照サンプルとの距離のため、ブロックのサイズが大きくなるほど、ブロックの右下端に発生するレジデュアルのレベルがブロックの左上端に発生するレジデュアルのレベルより大きい確率が高い。
これにより、本実施形態は、BDPCMをさらに他の変換スキップ方法と見なすものの、変換スキップモードと別途のコーディングツール(coding tool)と見なされる、BDPCM適用可否を判断する他の方法を提案する。本実施形態において提案する方法は、BDPCMが変換スキップモードと完全に独立的に行われることを基にする。
例えば、本実施形態において提案されるシンタクス(syntax)及びセマンティックス(semantics)は、次の表のとおりでありうる。
Figure 2023076587000028
Figure 2023076587000029
Figure 2023076587000030
例えば、本実施形態によれば、シンタクスエレメントno_bdpcm_constraint_flagがシグナリングされ得る。前記シンタクスエレメントno_bdpcm_constraint_flagは、BDPCMが制約されるか否かを表すことができる。
例えば、表13を参照すれば、1であるno_bdpcm_constraint_flagは、BDPCM可用フラグの値が0であることを表すことができる。0であるno_bdpcm_constraint_flagは、BDPCMに対する制約条件を賦課しないことができる。また、例えば、前記BDPCM可用フラグのシンタクスエレメントは、bdpcm_enabled_flagであることができる。一方、例えば、前記BDPCM可用フラグは、SPS(sequence parameter set)、PPS(picture parameter set)、VPS(video parameter set)、スライスヘッダ(Slice header)のうち一ヶ所以上に定義されることができる。すなわち、例えば、前記BDPCM可用フラグは、SPS(sequence parameter set)、PPS(picture parameter set)、VPS(video parameter set)、及び/又はスライスヘッダ(Slice header)を介してシグナリングされることができる。
また、例えば、表13を参照すれば、BDPCM可用フラグの値が0であるか、またはBDPCMフラグが存在しない場合、BDPCMフラグは、0に見なされることができる。したがって、例えば、上述したno_bdpcm_constraint_flagの値が0である場合、BDPCM可用フラグは、0であることができ、BDPCMフラグも0に見なされることができる。また、例えば、前記BDPCMフラグは、現在ブロックにBDPCMが適用されるか否かを表すことができる。例えば、0であるBDPCMフラグは、現在ブロックにBDPCMが適用されないことを表すことができ、1であるBDPCMフラグは、現在ブロックにBDPCMが適用されることを表すことができる。すなわち、1であるBDPCMフラグは、現在ブロックに変換がスキップされ、BDPCM方向フラグが表すイントラ予測モードで現在ブロックに対する予測が行われることを表すことができる。BDPCM方向フラグのシンタクスエレメントは、intra_bdpcm_dir_flag、intra_bdpcm_luma_dir_flag、またはintra_bdpcm_chroma_dir_flagであることができる。
また、例えば、表13を参照すれば、変換スキップフラグが存在しない場合、変換スキップフラグは、0に見なされることができる。すなわち、変換スキップモードは、BDPCMは、独立的に行われることができる。
また、本文書は、変換スキップされたレジデュアル信号をコーディングする過程において、レジデュアル信号間BDPCMを適用する方法について次のような方案を提案する。上述した内容のように、変換がスキップされたレジデュアル信号は、変換が適用された係数とは異なり、TU(transform unit)内で均等に分布することができ、また、変換がスキップされたレジデュアル係数は、前記成分周辺のレジデュアル係数と類似する確率が極めて高い。また、イントラ予測された変換スキップブロックの場合、予測参照サンプルとの距離のため、ブロックのサイズが大きくなるほど、ブロックの右下端に発生するレジデュアルのレベルがブロックの左上端に発生するレジデュアルのレベルより大きい確率が高い。
これにより、本実施形態は、BDPCMをさらに他の変換スキップ方法と見なすものの、変換スキップモードと別途のコーディングツール(coding tool)と見なされる、BDPCM適用可否を判断する他の方法を提案する。本実施形態において提案する方法は、BDPCMが変換スキップモードと完全に独立的に行われることを基にし、先に開示された実施形態とは異なり、ハイレバルシンタクス(High level syntax)でシグナリングされるフラグ、すなわち、no_bdpcm_constraint_flagが別途に定義されないことができる。
例えば、本実施形態において提案されるシンタクス(syntax)及びセマンティックス(semantics)は、次の表のとおりでありうる。
Figure 2023076587000031
Figure 2023076587000032
表14を参照すれば、BDPCMフラグに基づいてレジデュアルコーディングが分岐され得る。すなわち、BDPCMフラグの値に基づいて(BDPCM適用可否に基づいて)レジデュアルコーディングのために相違したシンタックスエレメントが使用され得る。
例えば、表14を参照すれば、変換スキップフラグの値が0であり、BDPCMフラグの値が0である場合(すなわち、変換が適用され、BDPCMが適用されない場合)、現在ブロックに対してレギュラーレジデュアルコーディング(Regular Residual Coding、RRC)が適用され得るし、変換スキップフラグの値が1であるか、またはBDPCMフラグの値が1である場合(すなわち、変換がスキップされるか、またはBDPCMが適用される場合)、現在ブロックに対して変換スキップレジデュアルコーディング(Transform Skip Residual Coding、TSRC)が適用され得る。すなわち、例えば、変換スキップフラグの値が0であり、BDPCMフラグの値が0である場合(すなわち、変換が適用され、BDPCMが適用されない場合)、現在ブロックに対してレギュラーレジデュアルコーディング(Regular Residual Coding、RRC)のシンタクスエレメントがシグナリングされ得るし、変換スキップフラグの値が1であるか、またはBDPCMフラグの値が1である場合(すなわち、変換がスキップされるか、またはBDPCMが適用される場合)、現在ブロックに対して変換スキップレジデュアルコーディング(Transform Skip Residual Coding、TSRC)のシンタクスエレメントがシグナリングされ得る。前記レギュラーレジデュアルコーディングは、一般的なレジデュアルコーディング(general residual coding)と呼ばれることもできる。また、前記レギュラーレジデュアルコーディングは、レギュラーレジデュアルコーディングシンタクス構造と呼ばれることができ、前記変換スキップレジデュアルコーディングは、変換スキップレジデュアルコーディングシンタクス構造と呼ばれることができる。
また、例えば、表15を参照すれば、変換スキップフラグが存在しない場合、変換スキップフラグは、0に見なされることができる。すなわち、変換スキップモードは、BDPCMは、独立的に行われることができる。
図7は、本文書に係るエンコード装置による画像エンコード方法を概略的に示す。図7において開示された方法は、図2において開示されたエンコード装置によって行われることができる。具体的に、例えば、図7のS700ないしS720は、前記エンコード装置の予測部によって行われることができ、S730は、前記エンコード装置のエントロピーエンコード部によって行われることができる。また、例え、図示されてはいないが、前記現在ブロックに対するレジデュアルサンプルを導出する過程は、前記エンコード装置のレジデュアル処理部によって行われることができ、前記現在ブロックに対するレジデュアルサンプルと予測サンプルとに基づいて前記現在ブロックに対する復元サンプル及び復元ピクチャを生成する過程は、前記エンコード装置の加算部によって行われることができる。
エンコード装置は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断する(S700)。エンコード装置は、前記現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断することができる。エンコード装置は、最大変換ブロックサイズを決定でき、前記最大変換ブロックサイズを表す情報を生成及びエンコードすることができる。例えば、前記最大変換ブロックサイズを表す情報は、ハイレバルシンタクスを介してシグナリングされることができる。例えば、前記最大変換ブロックサイズを表す情報は、SPS(Sequence Parameter Set、SPS)を介してシグナリングされることができる。例えば、前記最大変換ブロックサイズを表す情報のシンタクスエレメントは、sps_log2_transform_skip_max_size_minus2であることができる。
エンコード装置は、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを生成する(S710)。
例えば、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、エンコード装置は、現在ブロックに対してBDPCMが適用されるか否かを決定でき、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを生成できる。例えば、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、画像情報は、前記BDPCMフラグを含むことができる。
また、例えば、前記幅または前記高さが前記最大変換ブロックサイズより大きい場合、すなわち、前記幅及び前記高さのうち、少なくとも1つが前記最大変換ブロックサイズより大きい場合、エンコード装置は、現在ブロックに対してBDPCMが適用されないと決定することができ、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを生成しないことができる。前記BDPCMフラグは、0に見なされることができる。すなわち、例えば、前記幅または前記高さが前記最大変換ブロックサイズより大きい場合、すなわち、前記幅及び前記高さのうち、少なくとも1つが前記最大変換ブロックサイズより大きい場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグがシグナリングされないことができ、現在ブロックにBDPCMが適用されないことができる。例えば、前記幅または前記高さが前記最大変換ブロックサイズより大きい場合、すなわち、前記幅及び前記高さのうち、少なくとも1つが前記最大変換ブロックサイズより大きい場合、前記画像情報は、前記現在ブロックに対する前記BDPCMフラグを含まないことができる。
また、例えば、前記BDPCMフラグの値が0である場合、前記BDPCMフラグは、前記現在ブロックに前記BDPCMが適用されないことを表すことができ、前記BDPCMフラグの値が1である場合、前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対するBDPCM方向フラグが存在することを表すことができる。すなわち、例えば、前記BDPCMフラグの値が0である場合、前記BDPCMフラグは、前記現在ブロックに前記BDPCMが適用されず、一般的なイントラ予測、IBC予測、インター予測、またはパレット予測が行われることを表すことができ、前記BDPCMフラグの値が1である場合、前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対するBDPCM方向フラグが存在することを表すことができる。例えば、前記BDPCMフラグのシンタクスエレメントは、上述したbdpcm_flag、intra_bdpcm_luma_flag、またはintra_bdpcm_chroma_flagであることができる。また、例えば、前記BDPCMフラグは、CU(coding unit)単位でシグナリングされることができる。例えば、前記現在ブロックは、コーディングブロック(coding block)であることができる。
エンコード装置は、前記現在ブロックに対する予測方向を表すBDPCM方向フラグを生成する(S720)。
例えば、エンコード装置は、現在ブロックに対してBDPCMが適用されるか否かを決定でき、前記BDPCMが行われる方向を決定できる。また、例えば、エンコード装置は、前記現在ブロックに対する予測方向を表すBDPCM方向フラグを生成及びエンコードすることができる。画像情報は、前記BDPCM方向フラグを含むことができる。
例えば、前記BDPCM方向フラグは、前記現在ブロックに対する予測方向を表すことができる。例えば、前記BDPCMフラグの値が1である場合、エンコード装置は、前記BDPCM方向フラグを生成及びエンコードすることができる。例えば、前記BDPCM方向フラグは、前記現在ブロックに対する予測方向として垂直方向または水平方向を表すことができる。例えば、前記BDPCM方向フラグの値が0である場合、前記BDPCM方向フラグは、前記現在ブロックに対する前記予測方向が水平方向(horizontal)であることを表すことができ、前記BDPCM方向フラグの値が1である場合、前記BDPCM方向フラグは、前記現在ブロックに対する前記予測方向が垂直方向(vertical)であることを表すことができる。例えば、前記BDPCM方向フラグのシンタクスエレメントは、上述したbdpcm_dir_flag、intra_bdpcm_luma_dir_flag、またはintra_bdpcm_chroma_dir_flagであることができる。
また、例えば、エンコード装置は、BDPCMが行われる予測方向に基づいて現在ブロックに対するイントラ予測を行って予測サンプルを導出できる。例えば、前記予測方向は、垂直方向または水平方向であることができ、これによるイントラ予測モードによって現在ブロックに対する予測サンプルが生成され得る。
例えば、前記BDPCM方向フラグの値が0である場合、すなわち、例えば、前記現在ブロックに対する前記予測方向が水平方向(horizontal)として導出された場合、エンコード装置は、水平イントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出できる。言い換えれば、例えば、前記BDPCM方向フラグの値が0である場合、すなわち、例えば、前記現在ブロックに対する前記予測方向が水平方向(horizontal)として導出された場合、エンコード装置は、前記現在ブロックの左側周辺サンプルに基づいてイントラ予測を行い、前記現在ブロックの予測サンプルを導出できる。例えば、前記現在ブロックに対する予測方向が水平方向として導出された場合、エンコード装置は、予測サンプルと同じ行の左側周辺サンプルのサンプル値を前記予測サンプルのサンプル値として導出することができる。
また、例えば、前記BDPCM方向フラグの値が1である場合、すなわち、例えば、前記現在ブロックに対する前記予測方向が垂直方向(vertical)として導出された場合、エンコード装置は、垂直イントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出できる。言い換えれば、例えば、前記BDPCM方向フラグの値が1である場合、すなわち、例えば、前記現在ブロックに対する前記予測方向が垂直方向(vertical)として導出された場合、エンコード装置は、前記現在ブロックの上側周辺サンプルに基づいて前記現在ブロックの予測サンプルを導出できる。例えば、前記現在ブロックに対する予測方向が垂直方向として導出された場合、エンコード装置は、予測サンプルと同じ列の上側周辺サンプルのサンプル値を前記予測サンプルのサンプル値として導出することができる。
一方、現在ブロックのツリータイプは、ルマブロックと対応するクロマブロックが個別的な分割構造を有するか否かによってシングルツリーSINGLE_TREEまたはデュアルツリーDUAL_TREEに区分されることができる。クロマブロックがルマブロックと同じ分割構造を有すれば、シングルツリー、クロマ成分ブロックがルマ成分ブロックと異なる分割構造を有すれば、デュアルツリーと表すことができる。一例によって、現在ブロックのルマブロックまたはクロマブロックにBDPCMが個別的に適用され得る。
現在ブロックのツリー構造がデュアルツリーである場合、いずれか1つの成分ブロックにのみBDPCMが適用され得るし、現在ブロックがシングルツリー構造である場合にも、いずれか1つの成分ブロックにのみBDPCMが適用され得る。
一方、例えば、エンコード装置は、前記予測サンプルに基づいて前記現在ブロックのレジデュアルサンプルを導出できる。例えば、エンコード装置は、前記現在ブロックに対する原本サンプルと前記予測サンプルとの減算を介して前記レジデュアルサンプルを導出できる。
エンコード装置は、前記BDPCMフラグ及び前記BDPCM方向フラグを含む画像情報をエンコードする(S730)。エンコード装置は、前記BDPCMフラグ及び前記BDPCM方向フラグを含む画像情報をエンコードすることができる。すなわち、例えば、エンコード装置は、前記現在ブロックに対する前記BDPCM適用可否を表すBDPCMフラグ及び前記現在ブロックに対する予測方向を表すBDPCM方向フラグをエンコードすることができる。
一方、例えば、前記画像情報は、前記レジデュアル情報を含むことができる。例えば、エンコード装置は、前記レジデュアルサンプルに基づいて前記現在ブロックのレジデュアル係数を導出できる。例えば、前記現在ブロックに対して前記BDPCMが適用される場合、エンコード装置は、前記現在ブロックに対して変換が適用されないことと決定することができる。この場合、例えば、エンコード装置は、レジデュアルサンプルに量子化を行ってレジデュアル係数を導出できる。ここで、例えば、前記変換が適用されないブロックは、変換スキップブロックと表すことができる。すなわち、例えば、前記現在ブロックは、変換スキップブロックであることができる。
その後、例えば、エンコード装置は、前記レジデュアル係数に対するレジデュアル情報をエンコードすることができる。例えば、前記レジデュアル情報は、前記レジデュアルサンプルの前記レジデュアル係数に対するレジデュアル情報を含むことができる。
例えば、前記レジデュアル情報は、現在ブロックのレジデュアルサンプルに対するシンタックスエレメントを含むことができ、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルまたは上側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。例えば、前記現在ブロックの予測方向が水平方向である場合、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。すなわち、例えば、前記現在ブロックの予測方向が水平方向である場合、対象レジデュアルサンプルに対するシンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値との差分を表すことができる。また、例えば、前記現在ブロックの予測方向が垂直方向である場合、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。すなわち、例えば、前記現在ブロックの予測方向が垂直方向である場合、対象レジデュアルサンプルに対するシンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値との差分を表すことができる。また、前記対象レジデュアルサンプルが前記現在ブロックの1番目の行または列に位置する場合、前記対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値が導出され得る。すなわち、前記対象レジデュアルサンプルが前記現在ブロックの1番目の行または列に位置する場合、前記対象レジデュアルサンプルに対するシンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値を表すことができる。
例えば、前記レジデュアル情報は、transform_skip_flag、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、coded_sub_block_flag、sig_coeff_flag、par_level_flag、abs_level_gt1_flag、abs_level_gtX_flag、abs_remainder、coeff_sign_flag、dec_abs_level、及び/又はmts_idxなどのシンタクスエレメント(syntax elements)を含むことができる。
具体的に、例えば、前記レジデュアル情報は、前記現在ブロックに対する変換スキップフラグを含むことができる。前記変換スキップフラグは、前記現在ブロックの変換適用可否を表すことができる。すなわち、前記変換スキップフラグは、前記現在ブロックの前記レジデュアル係数に変換が適用されたか否かを表すことができる。また、例えば、前記現在ブロックに前記BDPCMが適用される場合、前記現在ブロックに対する前記変換スキップフラグはシグナリングされないことができ、前記変換スキップフラグの値は、1に見なされる(inferred)ことができる。すなわち、前記現在ブロックに前記BDPCMが適用される場合、前記レジデュアル情報は、前記現在ブロックに対する前記変換スキップフラグを含まないことができ、前記変換スキップフラグの値は、1に見なされる(inferred)ことができ、前記現在ブロックは、変換スキップブロックであることができる。前記変換スキップフラグを表すシンタクスエレメントは、上述したtransform_skip_flagであることができる。
また、例えば、前記レジデュアル情報は、前記現在ブロックのレジデュアル係数配列(array)で最後のノン-ゼロ(non-zero)レジデュアル係数の位置を表す位置情報を含むことができる。すなわち、前記レジデュアル情報は、前記現在ブロックのスキャニング順序(scanning order)での最後のノン-ゼロ(non-zero)レジデュアル係数の位置を表す位置情報を含むことができる。前記位置情報は、前記最後のノン-ゼロレジデュアル係数の列位置(column position)のプレフィックス(prefix)を表す情報、前記最後のノン-ゼロレジデュアル係数の行位置(row position)のプレフィックス(prefix)を表す情報、前記最後のノン-ゼロレジデュアル係数の列位置(column position)のサフィックス(suffix)を表す情報、前記最後のノン-ゼロレジデュアル係数の行位置(row position)のサフィックス(suffix)を表す情報を含むことができる。前記位置情報に対するシンタクスエレメントは、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffixであることができる。一方、ノン-ゼロレジデュアル係数は、有効係数(significant coefficient)と呼ばれることもできる。また、例えば、前記現在ブロックが変換スキップブロックである場合、前記レジデュアル情報は、前記現在ブロックのレジデュアル係数配列(array)で最後のノン-ゼロ(non-zero)レジデュアル係数の位置を表す位置情報を含まないことができる。
また、例えば、前記レジデュアル情報は、前記現在ブロックのレジデュアルサンプルのレジデュアル係数がノン-ゼロ(non-zero)レジデュアル係数であるか否かを表す有効係数フラグ、前記レジデュアル係数に対する係数レベルのパリティ(parity)に対するパリティレベルフラグ、前記係数レベルが第1の閾値より大きいか否かに対する第1の係数レベルフラグ、及び前記レジデュアル係数の前記係数レベルが第2の閾値より大きいか否かに対する第2の係数レベルフラグを含むことができる。ここで、前記有効係数フラグは、sig_coeff_flagであることができ、前記パリティレベルフラグは、par_level_flagであることができ、前記第1の係数レベルフラグは、abs_level_gt1_flagであることができ、前記第2の係数レベルフラグは、abs_level_gt3_flagまたはabs_level_gtx_flagであることができる。
また、例えば、前記レジデュアル情報は、現在ブロックのレジデュアルサンプルのレジデュアル係数の符号を表すサインフラグを含むことができる。前記サインフラグは、coeff_sign_flagであることができる。
また、例えば、前記レジデュアル情報は、前記現在ブロックのレジデュアルサンプルのレジデュアル係数の値に対する係数値関連情報を含むことができる。前記係数値関連情報は、abs_remainder及び/又はdec_abs_levelであることができる。
また、例えば、前記画像情報は、BDPCM制約フラグを含むことができる。エンコード装置は、前記BDPCMが制約されるか否かを表すBDPCM制約フラグを生成及びエンコードすることができる。すなわち、例えば、BDPCM制約フラグがシグナリングされ得る。前記BDPCM制約フラグは、BDPCMが制約されるか否かを表すことができる。例えば、1であるBDPCM制約フラグは、BDPCM可用フラグの値が0であることを表すことができる。すなわち、例えば、1であるBDPCM制約フラグは、(全体画像に対して)BDPCMが可用でないことを表すことができる。言い換えれば、例えば、BDPCM制約フラグの値が1である場合、BDPCM制約フラグは、(全体画像に対して)BDPCMが可用でないことを表すことができる。したがって、BDPCM制約フラグの値が1である場合、前記BDPCMフラグはシグナリングされないことができ、前記BDPCMフラグは、0に見なされる(inferred)ことができる。また、例えば、0であるBDPCM制約フラグは、BDPCMに対する制約条件を賦課しないことができる。言い換えれば、例えば、BDPCM制約フラグの値が0である場合、BDPCM制約フラグは、BDPCMに対する制約条件を賦課しないことができる。前記BDPCM制約フラグのシンタックスエレメントは、no_bdpcm_constraint_flagであることができる。
一方、前記画像情報を含むビットストリームは、ネットワークまたは(デジタル)格納媒体を介してデコード装置に送信されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。
図8は、本文書に係る画像エンコード方法を行うエンコード装置を概略的に示す。図7において開示された方法は、図8において開示されたエンコード装置によって行われることができる。具体的に、例えば、図8の前記エンコード装置の予測部は、図7のS700ないしS720を行うことができ、前記エンコード装置のエントロピーエンコード部は、S730を行うことができる。また、例え、図示されてはいないが、前記現在ブロックに対するレジデュアルサンプルを導出する過程は、前記エンコード装置のレジデュアル処理部によって行われることができ、前記現在ブロックに対するレジデュアルサンプルと予測サンプルとに基づいて前記現在ブロックに対する復元サンプル及び復元ピクチャを生成する過程は、前記エンコード装置の加算部によって行われることができる。
図9は、本文書に係るデコード装置による画像デコード方法を概略的に示す。図9において開示された方法は、図3において開示されたデコード装置によって行われることができる。具体的に、例えば、図9のS900ないしS920は、前記デコード装置のエントロピーデコード部によって行われることができ、図9のS930は、前記デコード装置の予測部によって行われることができ、図9のS940は、前記デコード装置の加算部によって行われることができる。
デコード装置は、現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断する(S900)。デコード装置は、前記現在ブロックの幅及び高さが最大変換ブロックサイズより小さいか、同じであるか判断することができる。前記最大変換ブロックサイズは、前記最大変換ブロックサイズを表す情報に基づいて導出されることができる。例えば、前記最大変換ブロックサイズを表す情報は、ハイレバルシンタクスを介してシグナリングされることができる。例えば、前記最大変換ブロックサイズを表す情報は、SPS(Sequence Parameter Set、SPS)を介してシグナリングされることができる。例えば、前記最大変換ブロックサイズを表す情報のシンタクスエレメントは、sps_log2_transform_skip_max_size_minus2であることができる。
デコード装置は、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを取得する(S910)。デコード装置は、ビットストリームを介して画像情報を取得できる。前記画像情報は、現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを含むことができる。
また、例えば、前記現在ブロックのサイズに基づいて前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグが取得され得る。前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、デコード装置は、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグを取得できる。すなわち、例えば、前記幅及び前記高さが前記最大変換ブロックサイズより小さいか、同じである場合、前記画像情報は、前記BDPCMフラグを含むことができる。または、前記幅または前記高さが前記最大変換ブロックサイズより大きい場合、すなわち、前記幅及び前記高さのうち、少なくとも1つが前記最大変換ブロックサイズより大きい場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグが取得されないことができる。例えば、前記幅または前記高さが前記最大変換ブロックサイズより大きい場合、すなわち、前記幅及び前記高さのうち、少なくとも1つが前記最大変換ブロックサイズより大きい場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)適用可否を表すBDPCMフラグがシグナリングされないことができ、現在ブロックにBDPCMが適用されないことができる。すなわち、例えば、前記幅または前記高さが前記最大変換ブロックサイズより大きい場合、すなわち、前記幅及び前記高さのうち、少なくとも1つが前記最大変換ブロックサイズより大きい場合、前記画像情報は、前記現在ブロックに対する前記BDPCMフラグを含まないことができる。
また、例えば、前記BDPCMフラグの値が0である場合、前記BDPCMフラグは、前記現在ブロックに前記BDPCMが適用されないことを表すことができ、前記BDPCMフラグの値が1である場合、前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対するBDPCM方向フラグが存在することを表すことができる。すなわち、例えば、前記BDPCMフラグの値が0である場合、前記BDPCMフラグは、前記現在ブロックに前記BDPCMが適用されず、一般的なイントラ予測、IBC予測、インター予測、またはパレット予測が行われることを表すことができ、前記BDPCMフラグの値が1である場合、前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対するBDPCM方向フラグが存在することを表すことができる。例えば、前記BDPCMフラグのシンタクスエレメントは、上述したbdpcm_flag、intra_bdpcm_luma_flag、またはintra_bdpcm_chroma_flagであることができる。また、例えば、前記BDPCMフラグは、CU(coding unit)単位でシグナリングされることができる。例えば、前記現在ブロックは、コーディングブロック(coding block)であることができる。
一方、例えば、前記画像情報は、BDPCM制約フラグを含むことができる。すなわち、例えば、BDPCM制約フラグがシグナリングされ得る。前記BDPCM制約フラグは、BDPCMが制約されるか否かを表すことができる。例えば、1であるBDPCM制約フラグは、BDPCM可用フラグの値が0であることを表すことができる。すなわち、例えば、1であるBDPCM制約フラグは、(全体画像に対して)BDPCMが可用でないことを表すことができる。言い換えれば、例えば、BDPCM制約フラグの値が1である場合、BDPCM制約フラグは、(全体画像に対して)BDPCMが可用でないことを表すことができる。したがって、BDPCM制約フラグの値が1である場合、前記BDPCMフラグはシグナリングされないことができ、前記BDPCMフラグは、0に見なされる(inferred)ことができる。また、例えば、0であるBDPCM制約フラグは、BDPCMに対する制約条件を賦課しないことができる。言い換えれば、例えば、BDPCM制約フラグの値が0である場合、BDPCM制約フラグは、BDPCMに対する制約条件を賦課しないことができる。前記BDPCM制約フラグのシンタクスエレメントは、no_bdpcm_constraint_flagであることができる。
デコード装置は、前記BDPCMフラグに基づいて前記現在ブロックに対する予測方向を表すBDPCM方向フラグを取得する(S920)。
デコード装置は、前記BDPCMフラグに基づいて前記現在ブロックに対する予測方向を表すBDPCM方向フラグを取得できる。例えば、前記BDPCMフラグが前記現在ブロックに前記BDPCMが適用されることを表す場合、デコード装置は、前記BDPCM方向フラグを取得できる。すなわち、例えば、前記BDPCMフラグの値が1である場合、デコード装置は、前記BDPCM方向フラグを取得できる。例えば、前記BDPCM方向フラグは、前記現在ブロックに対する予測方向として垂直方向または水平方向を表すことができる。例えば、前記BDPCM方向フラグの値が0である場合、前記BDPCM方向フラグは、前記現在ブロックに対する前記予測方向が水平方向(horizontal)であることを表すことができ、前記BDPCM方向フラグの値が1である場合、前記BDPCM方向フラグは、前記現在ブロックに対する前記予測方向が垂直方向(vertical)であることを表すことができる。例えば、前記BDPCM方向フラグのシンタクスエレメントは、上述したbdpcm_dir_flag、intra_bdpcm_luma_dir_flag、またはintra_bdpcm_chroma_dir_flagであることができる。
デコード装置は、前記BDPCM方向フラグに基づいて導出されたイントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出する(S930)。
デコード装置は、前記BDPCM方向フラグに基づいて導出されたイントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出できる。
例えば、前記BDPCM方向フラグの値が0である場合、すなわち、例えば、前記BDPCM方向フラグが、前記現在ブロックに対する前記予測方向が水平方向(horizontal)であることを表す場合、デコード装置は、水平イントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出できる。言い換えれば、例えば、前記BDPCM方向フラグの値が0である場合、すなわち、例えば、前記BDPCM方向フラグが、前記現在ブロックに対する前記予測方向が水平方向(horizontal)であることを表す場合、デコード装置は、前記現在ブロックの左側周辺サンプルに基づいてイントラ予測を行って前記現在ブロックの予測サンプルを導出できる。例えば、前記現在ブロックに対する予測方向が水平方向として導出された場合、デコード装置は、予測サンプルと同じ行の左側周辺サンプルのサンプル値を前記予測サンプルのサンプル値として導出することができる。
また、例えば、前記BDPCM方向フラグの値が1である場合、すなわち、例えば、前記BDPCM方向フラグが、前記現在ブロックに対する前記予測方向が垂直方向(vertical)であることを表す場合、デコード装置は、垂直イントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出できる。言い換えれば、例えば、前記BDPCM方向フラグの値が1である場合、すなわち、例えば、前記BDPCM方向フラグが、前記現在ブロックに対する前記予測方向が垂直方向(vertical)であることを表す場合、デコード装置は、前記現在ブロックの上側周辺サンプルに基づいて前記現在ブロックの予測サンプルを導出できる。例えば、前記現在ブロックに対する予測方向が垂直方向として導出された場合、デコード装置は、予測サンプルと同じ列の上側周辺サンプルのサンプル値を前記予測サンプルのサンプル値として導出することができる。
デコード装置は、前記予測サンプルに基づいて前記現在ブロックの復元サンプルを導出する(S940)。デコード装置は、前記予測サンプルに基づいて前記現在ブロックの復元サンプルまたは復元ピクチャを導出できる。例えば、デコード装置は、前記予測サンプルと前記現在ブロックのレジデュアルサンプルとの加算を介して前記復元サンプルを導出できる。
一方、例えば、デコード装置は、前記レジデュアル情報に基づいて前記現在ブロックのレジデュアルサンプルを導出できる。
例えば、前記現在ブロックにBDPCMが適用される場合、前記レジデュアル情報は、現在ブロックのレジデュアルサンプルに対するシンタックスエレメントを含むことができ(すなわち、前記現在ブロックにBDPCMが適用される場合、前記レジデュアル情報は、現在ブロックの対象レジデュアルサンプルに対するシンタックスエレメントを含むことができ)、対象レジデュアルサンプルに対するシンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルまたは上側周辺レジデュアルサンプルのレジデュアル係数値との差分を表すことができる。すなわち、例えば、前記現在ブロックにBDPCMが適用される場合、前記レジデュアル情報は、現在ブロックの対象レジデュアルサンプルに対するシンタックスエレメントを含むことができ、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルまたは上側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。
例えば、前記現在ブロックにBDPCMが適用され、前記現在ブロックに対する前記予測方向が水平方向である場合、対象レジデュアルサンプルに対するシンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値との差分を表すことができる。すなわち、例えば、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。その後、前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値と前記差分の合計で前記対象レジデュアルサンプルのレジデュアル係数が導出され得る。ここで、前記対象レジデュアルサンプルは、前記現在ブロックの1番目の列以外の列内のレジデュアルサンプルであることができる。例えば、前記対象レジデュアルサンプルのレジデュアル係数は、上述した数式4に基づいて導出されることができる。一方、例えば、前記対象レジデュアルサンプルが前記現在ブロックの1番目の列内のレジデュアルサンプルである場合、前記対象レジデュアルサンプルのシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数が導出され得る。
また、例えば、前記現在ブロックにBDPCMが適用され、前記現在ブロックに対する前記予測方向が垂直方向である場合、対象レジデュアルサンプルに対するシンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値との差分を表すことができる。すなわち、例えば、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。その後、前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値と前記差分の合計で前記対象レジデュアルサンプルのレジデュアル係数が導出され得る。ここで、前記対象レジデュアルサンプルは、前記現在ブロックの1番目の行以外の行内のレジデュアルサンプルであることができる。例えば、前記対象レジデュアルサンプルのレジデュアル係数は、上述した数式3に基づいて導出されることができる。一方、例えば、前記対象レジデュアルサンプルが前記現在ブロックの1番目の行内のレジデュアルサンプルである場合、前記対象レジデュアルサンプルのシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数が導出され得る。
その後、例えば、デコード装置は、前記レジデュアル係数を逆量子化して前記対象レジデュアルサンプルを導出できる。すなわち、例えば、前記対象レジデュアルサンプルは、前記レジデュアル係数を逆量子化して導出されることができる。
一方、例え、図面には図示されていないが、例えば、デコード装置は、前記BDPCMフラグに基づいて前記現在ブロックに対するレジデュアル情報を取得できる。例えば、前記BDPCMフラグが前記現在ブロックに前記BDPCMが適用されることを表す場合、すなわち、前記現在ブロックに前記BDPCMが適用される場合、前記レジデュアル情報は、現在ブロックのレジデュアルサンプルに対するシンタックスエレメントを含むことができ、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルまたは上側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。例えば、前記現在ブロックの予測方向が水平方向である場合、すなわち、前記BDPCM方向フラグに基づいて前記現在ブロックの予測方向が水平方向として導出された場合、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。また、例えば、前記現在ブロックの予測方向が垂直方向である場合、すなわち、前記BDPCM方向フラグに基づいて前記現在ブロックの予測方向が垂直方向として導出された場合、対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値との差分が導出され得る。また、前記対象レジデュアルサンプルが前記現在ブロックの1番目の行または列に位置する場合、前記対象レジデュアルサンプルに対するシンタックスエレメントに基づいて前記対象レジデュアルサンプルのレジデュアル係数値が導出され得る。
例えば、前記レジデュアル情報は、transform_skip_flag、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、coded_sub_block_flag、sig_coeff_flag、par_level_flag、abs_level_gt1_flag、abs_level_gtX_flag、abs_remainder、coeff_sign_flag、dec_abs_level、及び/又はmts_idxなどのシンタックスエレメント(syntax elements)を含むことができる。
具体的に、例えば、前記レジデュアル情報は、前記現在ブロックに対する変換スキップフラグを含むことができる。前記変換スキップフラグは、前記現在ブロックの変換適用可否を表すことができる。すなわち、前記変換スキップフラグは、前記現在ブロックの前記レジデュアル係数に変換が適用されたか否かを表すことができる。また、例えば、前記BDPCMフラグの値が1である場合、すなわち、前記現在ブロックに前記BDPCMが適用される場合、前記現在ブロックに対する前記変換スキップフラグはシグナリングされないことができ、前記変換スキップフラグの値は、1に見なされる(inferred)ことができる。すなわち、前記BDPCMフラグの値が1である場合、すなわち、前記現在ブロックに前記BDPCMが適用される場合、前記画像情報は、前記現在ブロックに対する前記変換スキップフラグを含まないことができ、前記変換スキップフラグの値は、1に見なされる(inferred)ことができ、前記現在ブロックは、変換スキップブロックであることができる。前記変換スキップフラグを表すシンタックスエレメントは、上述したtransform_skip_flagであることができる。
また、例えば、前記レジデュアル情報は、前記現在ブロックのレジデュアル係数配列(array)で最後のノン-ゼロ(non-zero)レジデュアル係数の位置を表す位置情報を含むことができる。すなわち、前記レジデュアル情報は、前記現在ブロックのスキャニング順序(scanning order)での最後のノン-ゼロ(non-zero)レジデュアル係数の位置を表す位置情報を含むことができる。前記位置情報は、前記最後のノン-ゼロレジデュアル係数の列位置(column position)のプレフィックス(prefix)を表す情報、前記最後のノン-ゼロレジデュアル係数の行位置(row position)のプレフィックス(prefix)を表す情報、前記最後のノン-ゼロレジデュアル係数の列位置(column position)のサフィックス(suffix)を表す情報、前記最後のノン-ゼロレジデュアル係数の行位置(row position)のサフィックス(suffix)を表す情報を含むことができる。前記位置情報に対するシンタックスエレメントは、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffixであることができる。一方、ノン-ゼロレジデュアル係数は、有効係数(significant coefficient)と呼ばれることもできる。また、例えば、前記現在ブロックが変換スキップブロックである場合、前記レジデュアル情報は、前記現在ブロックのレジデュアル係数配列(array)で最後のノン-ゼロ(non-zero)レジデュアル係数の位置を表す位置情報を含まないことができる。
また、例えば、前記レジデュアル情報は、前記現在ブロックのレジデュアルサンプルのレジデュアル係数がノン-ゼロ(non-zero)レジデュアル係数であるか否かを表す有効係数フラグ、前記レジデュアル係数に対する係数レベルのパリティ(parity)に対するパリティレベルフラグ、前記係数レベルが第1の閾値より大きいか否かに対する第1の係数レベルフラグ、及び前記レジデュアル係数の前記係数レベルが第2の閾値より大きいか否かに対する第2の係数レベルフラグを含むことができる。ここで、前記有効係数フラグは、sig_coeff_flagであることができ、前記パリティレベルフラグは、par_level_flagであることができ、前記第1の係数レベルフラグは、abs_level_gt1_flagであることができ、前記第2の係数レベルフラグは、abs_level_gt3_flagまたはabs_level_gtx_flagであることができる。
また、例えば、前記レジデュアル情報は、現在ブロックのレジデュアルサンプルのレジデュアル係数の符号を表すサインフラグを含むことができる。前記サインフラグは、coeff_sign_flagであることができる。
また、例えば、前記レジデュアル情報は、前記現在ブロックのレジデュアルサンプルのレジデュアル係数の値に対する係数値関連情報を含むことができる。前記係数値関連情報は、abs_remainder及び/又はdec_abs_levelであることができる。
デコード装置は、前記予測サンプルと前記レジデュアルサンプルとの加算を介して前記復元サンプルを導出できる。その後、必要に応じて主観的/客観的画質を向上させるために、デブロッキングフィルタリング、SAO、及び/又はALF手順のようなインループフィルタリング手順が前記復元サンプルに適用され得ることは、上述したとおりである。
図10は、本文書に係る画像デコード方法を行うデコード装置を概略的に示す。図9において開示された方法は、図10において開示されたデコード装置によって行われることができる。具体的に、例えば、図10の前記デコード装置のエントロピーデコード部は、図9のS900ないしS920を行うことができ、図10の前記デコード装置の予測部は、図9のS930を行うことができ、図10の前記デコード装置の加算部は、図9のS940を行うことができる。
上述した本文書によれば、現在ブロックのサイズ及び最大変換ブロックサイズに基づいてBDPCMフラグをシグナリングして、BDPCMフラグシグナリング及びBDPCM適用可否判断に現在ブロックのサイズ及び最大変換ブロックサイズを考慮することができ、これを介してBDPCMのためのビット量を減らし、全般的なコーディング効率を向上させることができる。
また、本文書によれば、画像に対してBDPCMが制約されるか否かを表すシンタクスエレメントをシグナリングでき、これを介して画像に対するBDPCM実行可否を1つのシンタクスエレメントで判断することができるところ、全般的な画像コーディング効率を向上させることができる。
前述した実施形態において、方法は、一連のステップまたはブロックで流れ図を基に説明されているが、本文書は、ステップの順序に限定されるものではなく、あるステップは、前述と異なるステップと異なる順序でまたは同時に発生することができる。また、当業者であれば、流れ図に示されたステップが排他的でなく、他のステップが含まれ、または流れ図の1つまたはそれ以上のステップが本文書の範囲に影響を及ぼさずに削除可能であることを理解することができる。
本文書において説明した実施形態は、プロセッサ、マイクロプロセッサ、コントローラ、またはチップ上で実現されて実行されることができる。例えば、各図面において図示した機能ユニットは、コンピュータ、プロセッサ、マイクロプロセッサ、コントローラ、またはチップ上で実現されて実行されることができる。この場合、実現のための情報(例えば、information on instructions)またはアルゴリズムがデジタル格納媒体に格納されることができる。
また、本文書の実施形態が適用されるデコード装置及びエンコード装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ対話装置、ビデオ通信のようなリアルタイム通信装置、モバイルストリーミング装置、格納媒体、カムコーダ、注文型ビデオ(VoD)サービス提供装置、OTTビデオ(Over the top video)装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、画像電話ビデオ装置、運送手段端末(例えば、車両端末、飛行機端末、船舶端末等)、及び医療用ビデオ装置などに含まれることができ、ビデオ信号またはデータ信号を処理するために使用されることができる。例えば、OTTビデオ(Over the top video)装置として、ゲームコンソール、ブルーレイプレーヤ、インターネット接続TV、ホームシアターシステム、スマートフォン、タブレットPC、DVR(Digital Video Recoder)などを備えることができる。
また、本文書の実施形態が適用される処理方法は、コンピュータで実行されるプログラムの形態で生産されることができ、コンピュータが読み取り可能な記録媒体に格納されることができる。本文書に係るデータ構造を有するマルチメディアデータもコンピュータが読み取り可能な記録媒体に格納されることができる。前記コンピュータが読み取り可能な記録媒体は、コンピュータで読み出すことができるデータが格納される全ての種類の格納装置及び分散格納装置を含む。前記コンピュータが読み取り可能な記録媒体は、例えば、ブルーレイディスク(BD)、汎用直列バス(USB)、ROM、PROM、EPROM、EEPROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、及び光学的データ格納装置を含むことができる。また、前記コンピュータが読み取り可能な記録媒体は、搬送波(例えば、インターネットを介しての送信)の形態で実現されたメディアを含む。また、エンコード方法で生成されたビットストリームがコンピュータが読み取り可能な記録媒体に格納され、または有無線通信ネットワークを介して送信されることができる。
また、本文書の実施形態は、プログラムコードによるコンピュータプログラム製品で実現されることができ、前記プログラムコードは、本文書の実施形態によってコンピュータで実行されることができる。前記プログラムコードは、コンピュータにより読み取り可能なキャリア上に格納されることができる。
図11は、本文書の実施形態が適用されるコンテンツストリーミングシステム構造図を例示的に示す。
本文書の実施形態が適用されるコンテンツストリーミングシステムは、大別して、エンコードサーバ、ストリーミングサーバ、ウェブサーバ、メディア格納所、ユーザ装置、及びマルチメディア入力装置を含むことができる。
前記エンコードサーバは、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置から入力されたコンテンツをデジタルデータで圧縮してビットストリームを生成し、これを前記ストリーミングサーバに送信する役割をする。他の例として、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置がビットストリームを直接生成する場合、前記エンコードサーバは省略されることができる。
前記ビットストリームは、本文書の実施形態が適用されるエンコード方法またはビットストリーム生成方法により生成されることができ、前記ストリーミングサーバは、前記ビットストリームを送信または受信する過程で一時的に前記ビットストリームを格納することができる。
前記ストリーミングサーバは、ウェブサーバを介したユーザ要請に基づいてマルチメディアデータをユーザ装置に送信し、前記ウェブサーバは、ユーザにどのようなサービスがあるかを知らせる媒介体役割をする。ユーザが前記ウェブサーバに所望のサービスを要請すると、前記ウェブサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを送信する。このとき、前記コンテンツストリーミングシステムは、別の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間命令/応答を制御する役割をする。
前記ストリーミングサーバは、メディア格納所及び/またはエンコードサーバからコンテンツを受信することができる。例えば、前記エンコードサーバからコンテンツを受信するようになる場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間格納することができる。
前記ユーザ装置の例として、携帯電話、スマートフォン(smartphone)、ノートブックコンピュータ(laptop computer)、デジタル放送用端末、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、スレートPC(slate PC)、タブレットPC(tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(wearable device、例えば、ウォッチ型端末(smartwatch)、グラス型端末(smart glass)、HMD(head mounted display))、デジタルTV、デスクトップコンピュータ、デジタルサイニジなどがある。前記コンテンツストリーミングシステム内の各サーバは、分散サーバで運営されることができ、この場合、各サーバで受信するデータは分散処理されることができる。
本明細書に記載された請求項は様々な方式で組み合わせることができる。例えば、本明細書の方法請求項の技術的特徴が組み合わせられて装置として実現されることもでき、本明細書の装置請求項の技術的特徴が組み合わせられて方法として実現されることもできる。また、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせられて装置として実現されることもでき、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせられて方法として実現されることもできる。

Claims (15)

  1. デコード装置によって行われる画像デコード方法において、
    現在ブロックの幅及び高さが、変換スキップに利用される最大ブロックサイズより小さいか、等しいか判断するステップと、
    前記幅及び前記高さが前記最大ブロックサイズより小さいか、等しい場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)の適用可否を表すBDPCMフラグを取得するステップと、
    前記BDPCMフラグに基づいて前記現在ブロックに対する予測方向を表すBDPCM方向フラグを取得するステップと、
    前記BDPCM方向フラグに基づいて導出されたイントラ予測モードに基づいて前記現在ブロックの予測サンプルを導出するステップと、
    前記予測サンプルに基づいて前記現在ブロックの復元サンプルを導出するステップと、を含み、
    前記BDPCMが前記現在ブロックに適用され、前記現在ブロックに対する変換スキップフラグがシグナルされない場合、前記変換スキップフラグの値は1に等しいと推測され、前記現在ブロックは変換スキップブロックとして導出される、画像デコード方法。
  2. 前記幅及び前記高さのうち、少なくとも1つが前記最大ブロックサイズより大きい場合、前記BDPCMフラグがシグナリングされず、
    前記現在ブロックに前記BDPCMが適用されない、請求項1に記載の画像デコード方法。
  3. 前記BDPCMフラグの値が1である場合、前記BDPCMフラグは、前記現在ブロックに前記BDPCMが適用され、前記BDPCM方向フラグが存在することを表す、請求項1に記載の画像デコード方法。
  4. 前記BDPCM方向フラグの値が0である場合、前記BDPCM方向フラグは、前記現在ブロックに対する前記予測方向が水平方向(horizontal)であることを表し、
    前記BDPCM方向フラグの値が1である場合、前記BDPCM方向フラグは、前記現在ブロックに対する前記予測方向が垂直方向(vertical)であることを表す、請求項3に記載の画像デコード方法。
  5. 前記BDPCM方向フラグの値が0である場合、前記現在ブロックの前記予測サンプルは、水平イントラ予測モードに基づいて導出され、
    前記BDPCM方向フラグの値が1である場合、前記現在ブロックの前記予測サンプルは、垂直イントラ予測モードに基づいて導出される、請求項4に記載の画像デコード方法。
  6. 前記BDPCMが制約されるか否かを表すBDPCM制約フラグがシグナリングされる、請求項1に記載の画像デコード方法。
  7. 前記BDPCM制約フラグの値が1である場合、前記BDPCM制約フラグは、画像に対して前記BDPCMが可用でないことを表す、請求項6に記載の画像デコード方法。
  8. 前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対する前記予測方向が前記垂直方向である場合、レジデュアル情報は、前記現在ブロックの対象レジデュアルサンプルに対するシンタックスエレメントを含み、
    前記対象レジデュアルサンプルに対する前記シンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの上側周辺レジデュアルサンプルのレジデュアル係数値との差分を表す、請求項4に記載の画像デコード方法。
  9. 前記対象レジデュアルサンプルに対する前記シンタックスエレメントに基づいて前記差分が導出され、
    前記上側周辺レジデュアルサンプルの前記レジデュアル係数値と前記差分の合計により前記対象レジデュアルサンプルのレジデュアル係数が導出される、請求項8に記載の画像デコード方法。
  10. 前記現在ブロックに前記BDPCMが適用され、前記現在ブロックに対する前記予測方向が前記水平方向である場合、レジデュアル情報は、前記現在ブロックの対象レジデュアルサンプルに対するシンタックスエレメントを含み、
    前記対象レジデュアルサンプルに対する前記シンタックスエレメントは、前記対象レジデュアルサンプルのレジデュアル係数値と前記対象レジデュアルサンプルの左側周辺レジデュアルサンプルのレジデュアル係数値との差分を表す、請求項4に記載の画像デコード方法。
  11. 前記対象レジデュアルサンプルに対する前記シンタックスエレメントに基づいて前記差分が導出され、
    前記左側周辺レジデュアルサンプルの前記レジデュアル係数値と前記差分の合計により前記対象レジデュアルサンプルのレジデュアル係数が導出される、請求項10に記載の画像デコード方法。
  12. エンコード装置によって行われるビデオエンコード方法において、
    現在ブロックの幅及び高さが,
    変換スキップに利用される最大ブロックサイズより小さいか、等しいか判断するステップと、
    前記幅及び前記高さが前記最大ブロックサイズより小さいか、等しい場合、前記現在ブロックに対するBDPCM(Block-based Delta Pulse Code Modulation)の適用可否を表すBDPCMフラグを生成するステップと、
    前記現在ブロックに対する予測方向を表すBDPCM方向フラグを生成するステップと、
    前記BDPCMフラグ及び前記BDPCM方向フラグを含む画像情報をエンコードするステップと、を含み、
    前記BDPCMが前記現在ブロックに適用され、前記現在ブロックに対する変換スキップフラグがシグナルされない場合、前記変換スキップフラグの値は1に等しいと推測され、前記現在ブロックは変換スキップブロックとして導出される、画像エンコード方法。
  13. 前記幅及び前記高さのうち、少なくとも1つが前記最大ブロックサイズより大きい場合、前記BDPCMフラグがシグナリングされず、
    前記現在ブロックに前記BDPCMが適用されない、請求項12に記載の画像エンコード方法。
  14. 前記BDPCMが制約されるか否かを表すBDPCM制約フラグがシグナリングされる、請求項12に記載の画像エンコード方法。
  15. 画像に対するデータの送信方法であって、
    BDPCM(Block-based Delta Pulse Code Modulation)が現在ブロックに適用されるか否かを表すBDPCMフラグと、現在ブロックに対する予測方法を表すBDPCM方向フラグを含む画像情報のビットストリームを取得するステップと、
    前記BDPCMフラグと前記BDPCM方向フラグを含む前記画像情報の前記ビットストリームを含む前記データを送信するステップとを含み、
    前記現在ブロックの幅と高さが、変換スキップに利用される最大ブロックサイズより小さいか等しいと決定し、
    前記幅と前記高さが前記最大ブロックサイズより小さいか等しい場合に、前記BDPCMフラグが生成され、
    前記BDPCMが前記現在ブロックに適用され、前記現在ブロックに対する変換スキップフラグがシグナルされない場合、前記変換スキップフラグの値は1に等しいと推測され、前記現在ブロックは変換スキップブロックとして導出される、画像に対するデータの送信方法。
JP2023060657A 2019-06-18 2023-04-04 Bdpcmに基づく画像デコード方法及びその装置 Pending JP2023076587A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962863258P 2019-06-18 2019-06-18
US62/863,258 2019-06-18
PCT/KR2020/007811 WO2020256389A1 (ko) 2019-06-18 2020-06-17 Bdpcm 기반 영상 디코딩 방법 및 그 장치
JP2021569438A JP7259087B2 (ja) 2019-06-18 2020-06-17 Bdpcmに基づく画像デコード方法及びその装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021569438A Division JP7259087B2 (ja) 2019-06-18 2020-06-17 Bdpcmに基づく画像デコード方法及びその装置

Publications (1)

Publication Number Publication Date
JP2023076587A true JP2023076587A (ja) 2023-06-01

Family

ID=74037358

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021569438A Active JP7259087B2 (ja) 2019-06-18 2020-06-17 Bdpcmに基づく画像デコード方法及びその装置
JP2023060657A Pending JP2023076587A (ja) 2019-06-18 2023-04-04 Bdpcmに基づく画像デコード方法及びその装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021569438A Active JP7259087B2 (ja) 2019-06-18 2020-06-17 Bdpcmに基づく画像デコード方法及びその装置

Country Status (6)

Country Link
US (1) US20220078433A1 (ja)
EP (1) EP3989567A4 (ja)
JP (2) JP7259087B2 (ja)
KR (1) KR20210142007A (ja)
CN (1) CN113994669A (ja)
WO (1) WO2020256389A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2020226567A1 (en) 2019-02-24 2021-09-23 Beijing Bytedance Network Technology Co., Ltd. Joint coding of palette mode usage indication
CN114097231A (zh) * 2019-05-22 2022-02-25 Lg电子株式会社 图像编码系统中使用bdpcm来解码图像的方法及装置
WO2020256524A1 (ko) * 2019-06-20 2020-12-24 한국전자통신연구원 블록 형태에 기반한 예측을 사용하는 영상 부호화 및 영상 복호화를 위한 방법 및 장치
WO2020254335A1 (en) * 2019-06-20 2020-12-24 Interdigital Vc Holdings France, Sas Lossless mode for versatile video coding
JP7359936B2 (ja) 2019-07-20 2023-10-11 北京字節跳動網絡技術有限公司 パレットモードの使用の指示の条件依存符号化
CN114145013B (zh) 2019-07-23 2023-11-14 北京字节跳动网络技术有限公司 调色板模式编解码的模式确定
WO2021018167A1 (en) 2019-07-29 2021-02-04 Beijing Bytedance Network Technology Co., Ltd. Palette mode coding in prediction process
US11973983B2 (en) * 2019-10-11 2024-04-30 Qualcomm Incorporated Signaling coding scheme for residual values in transform skip for video coding
WO2023090932A1 (ko) * 2021-11-18 2023-05-25 엘지전자 주식회사 영상 인코딩/디코딩 방법 및 장치, 그리고 비트스트림을 저장한 기록 매체
WO2023194193A1 (en) * 2022-04-08 2023-10-12 Interdigital Ce Patent Holdings, Sas Sign and direction prediction in transform skip and bdpcm

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2016231584A1 (en) * 2016-09-22 2018-04-05 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding video data
CN113966610A (zh) * 2019-06-11 2022-01-21 韦勒斯标准与技术协会公司 使用块dpcm预测方法的视频信号处理方法和设备

Also Published As

Publication number Publication date
JP2022533771A (ja) 2022-07-25
JP7259087B2 (ja) 2023-04-17
US20220078433A1 (en) 2022-03-10
EP3989567A1 (en) 2022-04-27
KR20210142007A (ko) 2021-11-23
WO2020256389A1 (ko) 2020-12-24
CN113994669A (zh) 2022-01-28
EP3989567A4 (en) 2023-04-05

Similar Documents

Publication Publication Date Title
JP7259087B2 (ja) Bdpcmに基づく画像デコード方法及びその装置
US11575891B2 (en) Intra prediction method and device based on intra sub-partitions in image coding system
JP7197727B2 (ja) 映像コーディングにおけるマトリクスベースのイントラ予測のための変換
JP7440544B2 (ja) 画像デコード方法及びその装置
US11871009B2 (en) Image decoding method using BDPCM and device therefor
JP7469480B2 (ja) ルマ成分及びクロマ成分に対するbdpcmに基づく画像デコード方法及びその装置
JP2022534238A (ja) ブロックサイズに基づいてbdpcmを行う画像デコード方法及びその装置
JP7324878B2 (ja) 画像デコード方法、及びその装置
JP2023503070A (ja) フィルタリングに基づく画像コーディング装置及び方法
JP2023105163A (ja) クロマ成分の映像デコード方法及びその装置
JP2023126571A (ja) クロマ量子化パラメータを使用する画像デコード方法及びその装置
JP2023516617A (ja) サインデータハイディング関連映像デコーディング方法及びその装置
JP2023501322A (ja) 映像/ビデオコーディング方法及び装置
JP2023118843A (ja) 映像/ビデオコーディング方法及び装置
JP7326585B2 (ja) 画像デコード方法及びその装置
JP7339370B2 (ja) クロマ量子化パラメータデータに対する画像デコード方法及びその装置
US20220150527A1 (en) Method and device for decoding image by using bdpcm in image coding system
KR20220110835A (ko) Bdpcm 을 사용하는 영상 디코딩 방법 및 그 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230404

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240501