JP2023040020A - ビデオコーディングにおける係数領域ブロック差分パルスコード変調 - Google Patents

ビデオコーディングにおける係数領域ブロック差分パルスコード変調 Download PDF

Info

Publication number
JP2023040020A
JP2023040020A JP2022201350A JP2022201350A JP2023040020A JP 2023040020 A JP2023040020 A JP 2023040020A JP 2022201350 A JP2022201350 A JP 2022201350A JP 2022201350 A JP2022201350 A JP 2022201350A JP 2023040020 A JP2023040020 A JP 2023040020A
Authority
JP
Japan
Prior art keywords
residual
quantized
block
samples
values
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022201350A
Other languages
English (en)
Inventor
ムハンメド・ゼイド・コバン
Zeyd Coban Muhammed
マルタ・カルチェビチ
Karczewicz Marta
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2023040020A publication Critical patent/JP2023040020A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N11/00Colour television systems
    • H04N11/04Colour television systems using pulse code modulation
    • H04N11/042Codec means
    • H04N11/046DPCM

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

【課題】ビデオデータの係数領域ブロック差分パルスコード変調方法を改善する復号方法を提供する。【解決手段】ビデオデコーダは、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定し、残差量子化サンプルに基づいて量子化残差値を決定し、量子化残差値を決定した後に、量子化残差値を逆量子化し、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成し、逆量子化された量子化残差値と予測値とに基づいてブロックの元のサンプル値を再構築する。【選択図】図8

Description

優先権の主張
[0001]本出願は、その内容全体が参照により組み込まれる、2019年3月12日に出願された米国仮特許出願第62/817,451号の利益を主張する、2020年3月11日に出願された米国特許出願第16/816,116号の優先権を主張する。
[0002]本開示は、ビデオ符号化およびビデオ復号に関する。
[0003]デジタルビデオ能力は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末(PDA)、ラップトップまたはデスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダー、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲームデバイス、ビデオゲームコンソール、セルラー電話または衛星無線電話、いわゆる「スマートフォン」、ビデオ遠隔会議デバイス、ビデオストリーミングデバイスなどを含む、広範囲のデバイスに組み込まれ得る。デジタルビデオデバイスは、MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4、Part10、アドバンストビデオコーディング(AVC)、ITU-T H.265/高効率ビデオコーディング(HEVC)によって定義された規格、およびそのような規格の拡張に記載されているビデオコーディング技法など、ビデオコーディング技法を実装する。ビデオデバイスは、そのようなビデオコーディング技法を実装することによって、デジタルビデオ情報をより効率的に送信、受信、符号化、復号、および/または記憶し得る。
[0004]ビデオコーディング技法は、ビデオシーケンスに固有の冗長性を低減または除去するための空間(ピクチャ内)予測および/または時間(ピクチャ間)予測を含む。ブロックベースのビデオコーディングでは、ビデオスライス(たとえば、ビデオピクチャまたはビデオピクチャの一部分)が、コーディングツリーユニット(CTU)、コーディングユニット(CU)および/またはコーディングノードと呼ばれることもある、ビデオブロックに区分され得る。ピクチャのイントラコード化(I)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測を使用して符号化される。ピクチャのインターコード化(PまたはB)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測、または他の参照ピクチャ中の参照サンプルに対する時間予測を使用し得る。ピクチャは、フレームと呼ばれることがあり、参照ピクチャは、参照フレームと呼ばれることがある。
[0005]概して、本開示は、係数領域(coefficient domain)ブロック差分パルスコード変調(block differential pulse code modulation (BDPCM))方法について説明し、ビデオコーディングプロセスにおける残差ブロックの変換スキップコーディングのための係数レベル予測方法に関係する技法に関する。エントロピー復号の逆プロセスである、対応するエントロピー符号化プロセスが暗黙的に指定され、したがって、同様に本開示の技法の一部である。本開示の技法は、高効率ビデオコーディング(HEVC)など、既存のビデオコーデックのいずれかに適用され得るか、あるいは汎用ビデオコーディング(VVC)など、現在開発されているビデオコーディング規格に、および/または他の将来のビデオコーディング規格にコーディングツールとして適用され得る。
[0006]一例では、本開示は、ビデオデータを復号する方法について説明し、本方法は、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定することと、残差量子化サンプルに基づいて量子化残差値を決定することと、量子化残差値を決定した後に、量子化残差値を逆量子化することと、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成することと、逆量子化された量子化残差値と予測値とに基づいてブロックの元のサンプル値を再構築することとを備える。
[0007]別の例では、本開示は、ビデオデータを符号化する方法について説明し、本方法は、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、ブロックの元のサンプル値と予測値とに基づいて残差値を生成することと、残差値を量子化することと、残差値を量子化した後に、量子化された残差値に基づいて残差量子化サンプルを決定することと、残差量子化サンプルをシグナリングすることとを備える。
[0008]別の例では、本開示は、ビデオデータを復号するためのデバイスについて説明し、本デバイスは、ビデオデータを記憶するように構成されたメモリと、回路中に実装された1つまたは複数のプロセッサとを備え、1つまたは複数のプロセッサは、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定することと、残差量子化サンプルに基づいて量子化残差値を決定することと、量子化残差値を決定した後に、量子化残差値を逆量子化することと、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成することと、逆量子化された量子化残差値および予測値に基づいてブロックの元のサンプル値を再構築することとを行うように構成される。
[0009]別の例では、本開示は、ビデオデータを符号化するためのデバイスについて説明し、本デバイスは、ビデオデータを記憶するように構成されたメモリと、回路中に実装された1つまたは複数のプロセッサとを備え、1つまたは複数のプロセッサは、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
ブロックの元のサンプル値と予測値とに基づいて残差値を生成することと、残差値を量子化することと、残差値を量子化した後に、量子化された残差値に基づいて残差量子化サンプルを決定することと、残差量子化サンプルをシグナリングすることとを行うように構成される。
[0010]別の例では、本開示は、ビデオデータを復号するためのデバイスについて説明し、本デバイスは、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定するための手段と、残差量子化サンプルに基づいて量子化残差値を決定するための手段と、量子化残差値を決定した後に、量子化残差値を逆量子化するための手段と、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成するための手段と、逆量子化された量子化残差値と予測値とに基づいてブロックの元のサンプル値を再構築するための手段とを備える。
[0011]別の例では、本開示は、ビデオデータを符号化するためのデバイスについて説明し、本デバイスは、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成するための手段と、ブロックの元のサンプル値と予測値とに基づいて残差値を生成するための手段と、残差値を量子化するための手段と、残差値を量子化した後に、量子化された残差値に基づいて残差量子化サンプルを決定するための手段と、残差量子化サンプルをシグナリングするための手段とを備える。
[0012]別の例では、本開示は、命令を記憶したコンピュータ可読記憶媒体について説明し、命令は、実行されたとき、1つまたは複数のプロセッサに、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定することと、残差量子化サンプルに基づいて量子化残差値を決定することと、量子化残差値を決定した後に、量子化残差値を逆量子化することと、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成することと、逆量子化された量子化残差値と予測値とに基づいてブロックの元のサンプル値を再構築することとを行わせる。
[0013]別の例では、本開示は、命令を記憶したコンピュータ可読記憶媒体について説明し、命令は、実行されたとき、1つまたは複数のプロセッサに、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、ブロックの元のサンプル値と予測値とに基づいて残差値を生成することと、残差値を量子化することと、残差値を量子化した後に、量子化された残差値に基づいて残差量子化サンプルを決定することと、残差量子化サンプルをシグナリングすることとを行わせる。
[0014]1つまたは複数の例の詳細が添付の図面および以下の説明に記載される。他の特徴、目的、および利点は、説明、図面、および特許請求の範囲から明らかになろう。
[0015]本開示の技法を実施し得る例示的なビデオ符号化および復号システムを示すブロック図。 [0016]例示的なクワッドツリーバイナリツリー(QTBT)構造を示す概念図。 対応するコーディングツリーユニット(CTU)を示す概念図。 [0017]本開示の技法を実施し得る例示的なビデオエンコーダを示すブロック図。 [0018]本開示の技法を実施し得る例示的なビデオデコーダを示すブロック図。 [0019]ビデオ符号化プロセスを示すフローチャート。 [0020]ビデオ復号プロセスを示すフローチャート。 [0021]本開示の1つまたは複数の技法による、係数領域ブロック差分パルスコード変調(BDPCM)を含む例示的なビデオ符号化プロセスを示すフローチャート。 [0022]本開示の1つまたは複数の技法による、係数領域BDPCMを含む例示的なビデオ復号プロセスを示すフローチャート。
[0023]イントラ予測を使用してビデオデータの現在ブロックが符号化される事例では、サンプル領域から周波数領域に現在ブロックの残差データをコンバートする変換の適用をスキップすることが有利であり得る。したがって、ビデオエンコーダは、ブロックのために残差データを直接量子化し得る。ビデオエンコーダは、次いで、ビットストリーム中に、量子化残差データを表す符号化されたシンタックス要素を含め得る。
[0024]ブロックベースのデルタパルスコード変調(BDPCM:block-based delta pulse code modulation)は、現在ブロックの残差データの符号化効率を改善し得る。ビデオエンコーダは、垂直モードまたは水平モードでBDPCMを適用し得る。ビデオエンコーダが垂直モードでBDPCMを適用するとき、ビデオエンコーダは、現在ブロックの第1の行中の元のサンプル値を、現在ブロックの上方の隣接ブロックの最下行(bottom row)中の対応する再構築されたサンプルから減算することによって、現在ブロックの第1の行のための予測される残差サンプルを生成する。ビデオエンコーダは、次いで、現在ブロックの第1の行のための予測される残差サンプルを量子化および逆量子化し得る。ビデオエンコーダは、次いで、現在ブロックの第1の行のための逆量子化された残差値と、現在ブロックの上方の隣接ブロックの最下行中の再構築されたサンプルとに基づいて、現在ブロックの第1の行を再構築する。ビデオエンコーダは、現在ブロックの予測される残差サンプルの各後続の行を、行の元のサンプル値を現在ブロック中の上方の行の再構築されたサンプルから減算することによって、生成し得る。ビデオエンコーダは、次いで、前述のように量子化、逆量子化、および再構築プロセスを実施し得る。ビデオエンコーダは、現在ブロックの各行についてこのプロセスを繰り返す。現在ブロックの各行について、ビデオエンコーダは、ビットストリーム中に、行の量子化残差値を表す符号化されたシンタックス要素を含める。垂直モードでは、ビデオエンコーダは、現在ブロックの列に沿って左から右に働く同様のプロセスを実施する。
[0025]ビデオデコーダは、現在ブロックの量子化残差値を表す符号化されたシンタックス要素を受信する。BDPCMを使用して現在ブロックが符号化され、垂直モードが使用されるとき、ビデオデコーダは、現在ブロックの最上行の量子化残差値を逆量子化する。ビデオデコーダは、次いで、現在ブロックの最上行の逆量子化された残差値を、現在ブロックの上方ネイバーである1つまたは複数のブロックの最下行の対応する再構築されたサンプルに加算することによって、現在ブロックの最上行の値を再構築する。現在ブロックの各それぞれの後続の行について、ビデオデコーダは、現在ブロックのそれぞれの行のための量子化残差値を逆量子化し、次いで、行の逆量子化された残差値を、現在ブロックのそれぞれの行の上方の行の再構築されたサンプルに加算し、それによって、現在ブロックのそれぞれの行のサンプルを再構築する。BDPCMを使用して現在ブロックが符号化され、水平モードが使用されるとき、ビデオデコーダは、現在ブロックの列に沿って左から右に働く同様のプロセスを実施する。
[0026]上記で説明されたBDPCMプロセスに伴って1つまたは複数の問題があり得る。たとえば、上記で説明されたBDPCMプロセス(すなわち、ピクセル領域BDPCMプロセス)では、ビデオエンコーダは、現在の行または列中のサンプルを、隣接する行または列中の再構築されたサンプルから減算し、ビデオデコーダは、現在の行または列中のサンプルを、隣接する行または列中の再構築されたサンプルから加算する。本開示では、再構築されたサンプルの使用は、ビデオエンコーダおよびビデオデコーダが、現在ブロックの現在の行または列のための予測子を決定することが可能になる前に、逆量子化および再構築が行われるのを待つ必要があり得るので、符号化および復号プロセスを減速させ、複雑にし得ることを諒解されたい。したがって、本開示の技法によれば、ビデオエンコーダおよびビデオデコーダは、再構築されたサンプルの代わりに量子化残差値を使用して、予測される残差値を決定し得る。
[0027]たとえば、本開示の技法による一例では、ビデオエンコーダが、上または左のブロック境界サンプルから、サンプル(たとえば、フィルタ処理されていないサンプル)を使用して、ビデオデータのブロックのためにイントラ予測を実施することによって、予測値のブロックを生成し得る。この例では、ビデオエンコーダは、ブロックの元のサンプル値と予測値とに基づいて残差値を生成し得る。さらに、ビデオエンコーダは、残差値を量子化し得る。残差値を量子化した後に、ビデオエンコーダは、量子化された残差値に基づいて残差量子化サンプルを決定し得る。ビデオエンコーダは、残差量子化サンプルをシグナリングし得る。
[0028]本開示の技法による別の例では、ビデオデコーダが、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定し得る。さらに、ビデオデコーダは、残差量子化サンプルに基づいて量子化残差値を決定し得る。量子化残差値を決定した後に、ビデオデコーダは、量子化残差値を逆量子化し得る。ビデオデコーダはまた、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成し得る。ビデオデコーダは、逆量子化された量子化残差値と予測値とに基づいてブロックの元のサンプル値を再構築し得る。
[0029]図1は、本開示の技法を実施し得る例示的なビデオ符号化および復号システム100を示すブロック図である。本開示の技法は、概して、ビデオデータをコーディング(符号化および/または復号)することを対象とする。概して、ビデオデータは、ビデオを処理するための任意のデータを含む。したがって、ビデオデータは、生の符号化されていないビデオ、符号化されたビデオ、復号された(たとえば、再構築された)ビデオ、およびシグナリングデータなどのビデオメタデータを含み得る。
[0030]図1に示されているように、システム100は、この例では、宛先デバイス116によって復号および表示されるべき符号化ビデオデータを提供するソースデバイス102を含む。特に、ソースデバイス102は、コンピュータ可読媒体110を介して宛先デバイス116にビデオデータを提供する。ソースデバイス102と宛先デバイス116とは、デスクトップコンピュータ、ノートブック(すなわち、ラップトップ)コンピュータ、タブレットコンピュータ、セットトップボックス、電話ハンドセットそのようなスマートフォン、テレビジョン、カメラ、ディスプレイデバイス、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、デジタルメディアプレーヤ、ビデオゲーミングコンソール、ビデオストリーミングデバイスなどを含む、広範囲のデバイスのいずれかを備え得る。いくつかの場合には、ソースデバイス102と宛先デバイス116とは、ワイヤレス通信のために装備され得、したがって、ワイヤレス通信デバイスと呼ばれることがある。
[0031]図1の例では、ソースデバイス102は、ビデオソース104と、メモリ106と、ビデオエンコーダ200と、出力インターフェース108とを含む。宛先デバイス116は、入力インターフェース122と、ビデオデコーダ300と、メモリ120と、ディスプレイデバイス118とを含む。本開示によれば、ソースデバイス102のビデオエンコーダ200と、宛先デバイス116のビデオデコーダ300とは、係数レベル予測のための技法を適用するように構成され得る。したがって、ソースデバイス102はビデオ符号化デバイスの例を表し、宛先デバイス116はビデオ復号デバイスの例を表す。他の例では、ソースデバイスと宛先デバイスとは、他の構成要素または配置を含み得る。たとえば、ソースデバイス102は、外部カメラなどの外部ビデオソースからビデオデータを受信し得る。同様に、宛先デバイス116は、内蔵ディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。
[0032]図1に示されているシステム100は一例にすぎない。概して、どんなデジタルビデオ符号化および/または復号デバイスも、係数レベル予測のための技法を実施し得る。ソースデバイス102と宛先デバイス116とは、ソースデバイス102が宛先デバイス116への送信のためにコード化ビデオデータを生成するようなコーディングデバイスの例にすぎない。本開示では、「コーディング」デバイスを、データのコーディング(符号化および/または復号)を実施するデバイスとして参照する。したがって、ビデオエンコーダ200とビデオデコーダ300とは、コーディングデバイス、特に、それぞれビデオエンコーダとビデオデコーダとの例を表す。いくつかの例では、ソースデバイス102と宛先デバイス116とは、ソースデバイス102と宛先デバイス116との各々がビデオ符号化および復号構成要素を含むように、実質的に対称的に動作し得る。したがって、システム100は、たとえば、ビデオストリーミング、ビデオ再生、ビデオブロードキャスト、またはビデオ電話のために、ソースデバイス102と宛先デバイス116との間で一方向または双方向のビデオ送信をサポートし得る。
[0033]概して、ビデオソース104は、ビデオデータ(すなわち、生のコーディングされていないビデオデータ)のソースを表し、ビデオデータの連続した一連のピクチャ(「フレーム」とも呼ばれる)をビデオエンコーダ200に提供し、ビデオエンコーダ200はピクチャに対するデータを符号化する。ソースデバイス102のビデオソース104は、ビデオカメラ、以前にキャプチャされた生のビデオを含んでいるビデオアーカイブ、および/またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースなど、ビデオキャプチャデバイスを含み得る。さらなる代替として、ビデオソース104は、ソースビデオとしてコンピュータグラフィックスベースのデータ、またはライブビデオ、アーカイブされたビデオ、およびコンピュータ生成されたビデオの組合せを生成し得る。各場合において、ビデオエンコーダ200は、キャプチャされたビデオ、プリキャプチャされたビデオ、またはコンピュータ生成されたビデオデータを符号化する。ビデオエンコーダ200は、受信された順序(時々、「表示順序」と呼ばれる)からコーディング用のコーディング順序に、ピクチャを再配置し得る。ビデオエンコーダ200は、符号化ビデオデータを含むビットストリームを生成し得る。ソースデバイス102は、次いで、たとえば、宛先デバイス116の入力インターフェース122による受信および/または取出しのために、出力インターフェース108を介して符号化ビデオデータをコンピュータ可読媒体110上に出力し得る。
[0034]ソースデバイス102のメモリ106と、宛先デバイス116のメモリ120とは、汎用メモリを表す。いくつかの例では、メモリ106、120は、生のビデオデータ、たとえば、ビデオソース104からの生のビデオ、およびビデオデコーダ300からの生の復号ビデオデータを記憶し得る。追加または代替として、メモリ106、120は、たとえば、それぞれ、ビデオエンコーダ200およびビデオデコーダ300によって実行可能なソフトウェア命令を記憶し得る。メモリ106とメモリ120は、この例ではビデオエンコーダ200とビデオデコーダ300とは別個に示されているが、ビデオエンコーダ200とビデオデコーダ300とは、機能的に同様または等価な目的で内部メモリをも含み得ることを理解されたい。さらに、メモリ106、120は、符号化ビデオデータ、たとえば、ビデオエンコーダ200からの出力、およびビデオデコーダ300への入力を記憶し得る。いくつかの例では、メモリ106、120の部分は、たとえば、生の復号および/または符号化ビデオデータを記憶するために、1つまたは複数のビデオバッファとして割り振られ得る。
[0035]コンピュータ可読媒体110は、ソースデバイス102から宛先デバイス116に符号化ビデオデータを移送することが可能な任意のタイプの媒体またはデバイスを表し得る。一例では、コンピュータ可読媒体110は、ソースデバイス102が、たとえば、無線周波数ネットワークまたはコンピュータベースのネットワークを介して、符号化ビデオデータを宛先デバイス116にリアルタイムで直接送信することを可能にするための通信媒体を表す。出力インターフェース108は、符号化ビデオデータを含む送信信号を変調し得、入力インターフェース122は、ワイヤレス通信プロトコルなどの通信規格に従って、受信された送信信号を復調し得る。通信媒体は、無線周波数(RF)スペクトルあるいは1つまたは複数の物理伝送線路など、任意のワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワークなどのパケットベースのネットワーク、またはインターネットなどのグローバルネットワークの一部を形成し得る。通信媒体は、ルータ、スイッチ、基地局、またはソースデバイス102から宛先デバイス116への通信を容易にするために有用であり得る任意の他の機器を含み得る。
[0036]いくつかの例では、コンピュータ可読媒体110はストレージデバイス112を含み得る。ソースデバイス102は、出力インターフェース108からストレージデバイス112に符号化データを出力し得る。同様に、宛先デバイス116は、入力インターフェース122を介してストレージデバイス112から符号化データにアクセスし得る。ストレージデバイス112は、ハードドライブ、Blu-ray(登録商標)ディスク、DVD、CD-ROM、フラッシュメモリ、揮発性または不揮発性メモリ、あるいは符号化ビデオデータを記憶するための任意の他の好適なデジタル記憶媒体など、様々な分散されたまたはローカルにアクセスされるデータ記憶媒体のいずれかを含み得る。
[0037]いくつかの例では、コンピュータ可読媒体110は、ソースデバイス102によって生成された符号化ビデオデータを記憶し得るファイルサーバ114または別の中間ストレージデバイスを含み得る。ソースデバイス102は、ソースデバイス102によって生成された符号化ビデオを記憶し得るファイルサーバ114または別の中間ストレージデバイスに符号化ビデオデータを出力し得る。宛先デバイス116は、ストリーミングまたはダウンロードを介してファイルサーバ114から記憶されたビデオデータにアクセスし得る。ファイルサーバ114は、符号化ビデオデータを記憶し、符号化ビデオデータを宛先デバイス116に送信することができる任意のタイプのサーバデバイスであり得る。ファイルサーバ114は、(たとえば、ウェブサイトのための)ウェブサーバ、ファイル転送プロトコル(FTP)サーバ、コンテンツ配信ネットワークデバイス、またはネットワーク接続ストレージ(NAS)デバイスを表し得る。宛先デバイス116は、インターネット接続を含む任意の標準的なデータ接続を通してファイルサーバ114から符号化ビデオデータにアクセスし得る。これは、ファイルサーバ114に記憶された符号化ビデオデータにアクセスするのに好適であるワイヤレスチャネル(たとえば、Wi-Fi(登録商標)接続)、ワイヤード接続(たとえば、デジタル加入者線(DSL)、ケーブルモデムなど)、またはその両方の組合せを含み得る。ファイルサーバ114と入力インターフェース122とは、ストリーミング送信プロトコル、ダウンロード送信プロトコル、またはそれらの組合せに従って動作するように構成され得る。
[0038]出力インターフェース108と入力インターフェース122とは、ワイヤレス送信機/受信機、モデム、ワイヤードネットワーキング構成要素(たとえば、イーサネット(登録商標)カード)、様々なIEEE802.11規格のいずれかに従って動作するワイヤレス通信構成要素、または他の物理的構成要素を表し得る。出力インターフェース108と入力インターフェース122とがワイヤレス構成要素を備える例では、出力インターフェース108と入力インターフェース122とは、4G、4G-LTE(登録商標)(ロングタームエボリューション)、LTEアドバンスト、5Gなど、セルラー通信規格に従って、符号化ビデオデータなどのデータを転送するように構成され得る。出力インターフェース108がワイヤレス送信機を備えるいくつかの例では、出力インターフェース108と入力インターフェース122とは、IEEE802.11仕様、IEEE802.15仕様(たとえば、ZigBee(登録商標))、Bluetooth(登録商標)規格など、他のワイヤレス規格に従って、符号化ビデオデータなどのデータを転送するように構成され得る。いくつかの例では、ソースデバイス102および/または宛先デバイス116は、それぞれのシステムオンチップ(SoC)デバイスを含み得る。たとえば、ソースデバイス102は、ビデオエンコーダ200および/または出力インターフェース108に帰属する機能を実施するためのSoCデバイスを含み得、宛先デバイス116は、ビデオデコーダ300および/または入力インターフェース122に帰属する機能を実施するためのSoCデバイスを含み得る。
[0039]本開示の技法は、オーバージエアテレビジョン放送、ケーブルテレビジョン送信、衛星テレビジョン送信、動的適応ストリーミングオーバーHTTP(DASH)などのインターネットストリーミングビデオ送信、データ記憶媒体上に符号化されたデジタルビデオ、データ記憶媒体に記憶されたデジタルビデオの復号、または他の適用例など、様々なマルチメディア適用例のいずれかをサポートするビデオコーディングに適用され得る。
[0040]宛先デバイス116の入力インターフェース122は、コンピュータ可読媒体110(たとえば、通信媒体、記憶デバイス112、ファイルサーバ114など)から符号化ビデオビットストリームを受信する。符号化ビデオビットストリームは、ビデオブロックまたは他のコード化ユニット(たとえば、スライス、ピクチャ、ピクチャのグループ、シーケンスなど)の特性および/または処理を記述する値を有するシンタックス要素など、ビデオデコーダ300によっても使用される、ビデオエンコーダ200によって定義されるシグナリング情報を含み得る。ディスプレイデバイス118は、復号ビデオデータの復号ピクチャをユーザに表示する。ディスプレイデバイス118は、陰極線管(CRT)、液晶ディスプレイ(LCD)、プラズマディスプレイ、有機発光ダイオード(OLED)ディスプレイ、または別のタイプのディスプレイデバイスなど、様々なディスプレイデバイスのいずれかを表し得る。
[0041]図1には示されていないが、いくつかの例では、ビデオエンコーダ200とビデオデコーダ300とは各々、オーディオエンコーダおよび/またはオーディオデコーダと統合され得、共通のデータストリーム中にオーディオとビデオの両方を含む多重化ストリームを処理するために、適切なMUX-DEMUXユニット、あるいは他のハードウェアおよび/またはソフトウェアを含み得る。適用可能な場合、MUX-DEMUXユニットは、ITU H.223マルチプレクサプロトコル、またはユーザデータグラムプロトコル(UDP)などの他のプロトコルに準拠し得る。
[0042]ビデオエンコーダ200とビデオデコーダ300とは各々、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェアなど、様々な好適なエンコーダおよび/またはデコーダ回路のいずれか、あるいはそれらの任意の組合せとして実装され得る。本技法が部分的にソフトウェアで実装されるとき、デバイスは、好適な非一時的コンピュータ可読媒体にソフトウェアの命令を記憶し、本開示の技法を実施するために1つまたは複数のプロセッサを使用してその命令をハードウェアで実行し得る。ビデオエンコーダ200とビデオデコーダ300との各々は、1つまたは複数のエンコーダまたはデコーダに含まれ得、それらのいずれかが、それぞれのデバイス中の複合エンコーダ/デコーダ(CODEC)の一部として統合され得る。ビデオエンコーダ200および/またはビデオデコーダ300を含むデバイスは、集積回路、マイクロプロセッサ、および/またはセルラー電話機などのワイヤレス通信デバイスを備え得る。
[0043]ビデオエンコーダ200およびビデオデコーダ300は、高効率ビデオコーディング(HEVC)とも呼ばれるITU-T H.265、またはマルチビューおよび/もしくはスケーラブルビデオコーディング拡張などのそれらの拡張などの、ビデオコーディング規格に従って動作し得る。代替的に、ビデオエンコーダ200とビデオデコーダ300とは、共同探査テストモデル(JEM:Joint Exploration Test Model)、または汎用ビデオコーディング(VVC)とも呼ばれるITU-T H.266など、他のプロプライエタリまたは業界規格に従って動作し得る。VVC規格の最近のドラフトは、Brossら、「Versatile Video Coding (Draft 4)」、ITU-T SG 16 WP 3とISO/IEC JTC 1/SC 29/WG 11とのジョイントビデオエキスパートチーム(JVET)、第13回会合:マラケシュ、MA、2019年1月9~18日、JVET-M1001-v5(以下では「VVCドラフト4」)に記載されている。ただし、本開示の技法は、いかなる特定のコーディング規格にも限定されない。
[0044]概して、ビデオエンコーダ200とビデオデコーダ300とは、ピクチャのブロックベースのコーディングを実施し得る。「ブロック」という用語は、処理されるべき(たとえば、符号化されるべき、復号されるべき、あるいは符号化および/または復号プロセスにおいて他の方法で使用されるべき)データを含む構造を一般に意味する。たとえば、ブロックは、ルミナンスおよび/またはクロミナンスデータのサンプルの2次元行列を含み得る。概して、ビデオエンコーダ200とビデオデコーダ300とは、YUV(たとえば、Y、Cb、Cr)フォーマットで表されるビデオデータをコーディングし得る。すなわち、ピクチャのサンプルのために赤色、緑色、および青色(RGB)データをコーディングするのではなく、ビデオエンコーダ200とビデオデコーダ300とは、ルミナンス成分とクロミナンス成分とをコーディングし得、ここで、クロミナンス成分は、赤色相と青色相の両方のクロミナンス成分を含み得る。いくつかの例では、ビデオエンコーダ200は、符号化より前に、受信されたRGBフォーマトオ付きデータをYUV表現にコンバートし、ビデオデコーダ300は、YUV表現をRGBフォーマットにコンバートする。代替として、前処理および後処理ユニット(図示されず)が、これらのコンバージョンを実施し得る。
[0045]本開示では、概して、ピクチャのコーディング(たとえば、符号化および復号)を、ピクチャのデータを符号化または復号するプロセスを含むように参照し得る。同様に、本開示では、ピクチャのブロックのコーディングを、ブロックのデータを符号化または復号するプロセス、たとえば、予測および/または残差コーディングを含むように参照し得る。符号化ビデオビットストリームは、概して、コーディング決定(たとえば、コーディングモード)とブロックへのピクチャの区分とを表すシンタックス要素の一連の値を含む。したがって、ピクチャまたはブロックをコーディングすることへの言及は、概して、ピクチャまたはブロックを形成しているシンタックス要素の値をコーディングすることとして理解されたい。
[0046]HEVCは、コーディングユニット(CU)、予測ユニット(PU)、および変換ユニット(TU)を含む、様々なブロックを定義する。HEVCに従って、(ビデオエンコーダ200などの)ビデオコーダは、クワッドツリー構造に従ってコーディングツリーユニット(CTU)をCUに区分する。すなわち、ビデオコーダは、CTUとCUとを4つの等しい重複しない四角形に区分し、クワッドツリーの各ノードは、0個または4個のいずれかの子ノードを有する。子ノードなしのノードは「リーフノード」と呼ばれることがあり、そのようなリーフノードのCUは、1つまたは複数のPUならびに/あるいは1つまたは複数のTUを含み得る。ビデオコーダは、PUとTUとをさらに区分し得る。たとえば、HEVCでは、残差クワッドツリー(RQT)は、TUの区分を表す。HEVCでは、PUはインター予測データを表すが、TUは残差データを表す。イントラ予測されるCUは、イントラモードインジケーションなどのイントラ予測情報を含む。
[0047]別の例として、ビデオエンコーダ200とビデオデコーダ300とは、JEMまたはVVCに従って動作するように構成され得る。JEMまたはVVCに従って、(ビデオエンコーダ200などの)ビデオコーダは、ピクチャを複数のコーディングツリーユニット(CTU)に区分する。ビデオエンコーダ200は、クワッドツリーバイナリツリー(QTBT)構造またはマルチタイプツリー(MTT)構造など、ツリー構造に従ってCTUを区分し得る。QTBT構造は、HEVCのCUとPUとTUとの間の分離など、複数の区分タイプの概念を除去する。QTBT構造は、クワッドツリー区分に従って区分される第1のレベル、およびバイナリツリー区分に従って区分される第2のレベルという、2つのレベルを含む。QTBT構造のルートノードはCTUに対応する。バイナリツリーのリーフノードはコーディングユニット(CU)に対応する。
[0048]MTT区分構造では、ブロックは、クワッドツリー(QT)区分と、バイナリツリー(BT)区分と、1つまたは複数のタイプのトリプルツリー(TT)区分とを使用して区分され得る。トリプルツリー区分は、ブロックが3つのサブブロックに分割される区分である。いくつかの例では、トリプルツリー区分は、中心を通して元のブロックを分けることなしにブロックを3つのサブブロックに分ける。MTTにおける区分タイプ(たとえば、QT、BT、およびTT)は、対称的または非対称的であり得る。
[0049]いくつかの例では、ビデオエンコーダ200とビデオデコーダ300とは、ルミナンス成分とクロミナンス成分との各々を表すために単一のQTBTまたはMTT構造を使用し得、他の例では、ビデオエンコーダ200とビデオデコーダ300とは、ルミナンス成分のための1つのQTBT/MTT構造、および両方のクロミナンス成分のための別のQTBT/MTT構造(またはそれぞれのクロミナンス成分のための2つのQTBT/MTT構造)など、2つ以上のQTBTまたはMTT構造を使用し得る。
[0050]ビデオエンコーダ200とビデオデコーダ300とは、HEVCに従うクワッドツリー区分、QTBT区分、MTT区分、または他の区分構造を使用するように構成され得る。説明の目的で、本開示の技法の説明はQTBT区分に関して提示される。しかしながら、本開示の技法は、クワッドツリー区分、または同様に他のタイプの区分を使用するように構成されたビデオコーダにも適用され得ることを理解されたい。
[0051]本開示では、たとえば、16×16サンプルまたは16個ずつの16個のサンプルなど、垂直寸法と水平寸法とに関して、(CUまたは他のビデオブロックなどの)ブロックのサンプル寸法を参照するために「N×N」と「N個ずつのN個」とを互換的に使用し得る。一般に、16×16のCUは、垂直方向に16個のサンプル(y=16)を有し、水平方向に16個のサンプル(x=16)を有する。同様に、N×NのCUは、概して、垂直方向にN個のサンプルを有し、水平方向にN個のサンプルを有し、ここで、Nは非負整数値を表す。CU中のサンプルは行と列とに配列され得る。さらに、CUは、必ずしも、水平方向において垂直方向と同じ数のサンプルを有する必要があるとは限らない。たとえば、CUはN×Mサンプルを備え得、ここで、Mは必ずしもNに等しいとは限らない。
[0052]ビデオエンコーダ200は、予測および/または残差情報、ならびに他の情報を表すCUのためにビデオデータを符号化する。予測情報は、CUについて予測ブロックを形成するためにCUがどのように予測されるべきかを示す。残差情報は、概して、符号化前のCUのサンプルと予測ブロックとの間のサンプルごとの差分を表す。
[0053]CUを予測するために、ビデオエンコーダ200は、概して、インター予測またはイントラ予測を通してCUについて予測ブロックを形成し得る。インター予測は、概して、以前にコーディングされたピクチャのデータからCUを予測することを指し、一方、イントラ予測は、概して、同じピクチャの以前にコーディングされたデータからCUを予測することを指す。インター予測を実施するために、ビデオエンコーダ200は、1つまたは複数の動きベクトルを使用して予測ブロックを生成し得る。ビデオエンコーダ200は、概して、たとえば、CUと参照ブロックとの間の差分に関して、CUにぴったり一致する参照ブロックを識別するために動き探索を実施し得る。ビデオエンコーダ200は、参照ブロックが現在CUにぴったり一致するかどうかを決定するために、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)、または他のそのような差分計算を使用して差分メトリックを計算し得る。いくつかの例では、ビデオエンコーダ200は、単方向予測または双方向予測を使用して現在CUを予測し得る。
[0054]JEMとVVCとのいくつかの例はまた、インター予測モードと考えられ得る、アフィン動き補償モードを提供する。アフィン動き補償モードでは、ビデオエンコーダ200は、ズームインまたはアウト、回転、パースペクティブの動き、あるいは他の変則の動きタイプなど、非並進の動きを表す2つ以上の動きベクトルを決定し得る。
[0055]イントラ予測を実施するために、ビデオエンコーダ200は、予測ブロックを生成するためのイントラ予測モードを選択し得る。JEMとVVCとのいくつかの例は、様々な方向性モード、ならびに平面モードおよびDCモードを含む、67個のイントラ予測モードを提供する。概して、ビデオエンコーダ200は、現在ブロック(たとえば、CUのブロック)のサンプルをそれから予測すべき、現在ブロックに隣接するサンプルを記述するイントラ予測モードを選択する。したがって、そのような隣接サンプルは予測子と呼ばれることがある。そのようなサンプルは、ビデオエンコーダ200がラスタ走査順序で(左から右に、上から下に)CTUとCUとをコーディングすると仮定すると、概して、現在ブロックと同じピクチャ中の現在ブロックの上方、上方および左側、または左側にあり得る。
[0056]方向性イントラ予測モード(Directional intra prediction modes)は、垂直方向および水平方向を含む、異なる方向に対応する。垂直イントラ予測モードを使用してブロックのための予測ブロックを生成するために、ビデオコーダ(たとえば、ビデオエンコーダ200またはビデオデコーダ300)は、ブロックの各サンプルについて、サンプルのすぐ上方にある予測子中のサンプルとして、サンプルの予測値を決定し得る。水平イントラ予測を使用してブロックのための予測ブロックを生成するために、ビデオコーダ(たとえば、ビデオエンコーダ200またはビデオデコーダ300)は、ブロックの各サンプルについて、サンプルのすぐ左にある予測子中のサンプルとして、サンプルの予測値を決定し得る。
[0057]いくつかの例では、ビデオコーダは、ブロックのイントラ予測のために予測子を使用する前に、予測子に1つまたは複数のフィルタを適用し得る。たとえば、ビデオコーダは、予測子に平滑化フィルタを適用し得る。そのようなフィルタの適用は、いくつかの状況ではコーディング効率を改善し得る。しかしながら、他の状況では、そのようなフィルタを適用しないことが有利であり得る。したがって、ブロックのイントラ予測において使用される予測子にフィルタが適用されない状況では、予測子のサンプルは、本開示では、フィルタ処理されていないサンプルと呼ばれることがある。
[0058]ビデオエンコーダ200は、現在ブロックについて予測モードを表すデータを符号化する。たとえば、インター予測モードでは、ビデオエンコーダ200は、様々な利用可能なインター予測モードのうちのどれが使用されるか、ならびに対応するモードの動き情報を表すデータを符号化し得る。たとえば、単方向または双方向インター予測では、ビデオエンコーダ200は、高度動きベクトル予測(AMVP)またはマージモードを使用して動きベクトルを符号化し得る。ビデオエンコーダ200は、アフィン動き補償モードの動きベクトルを符号化するために同様のモードを使用し得る。
[0059]ブロックのイントラ予測またはインター予測などの予測に続いて、ビデオエンコーダ200は、ブロックについて残差データを計算し得る。残差ブロックなどの残差データは、ブロックと、対応する予測モードを使用して形成された、ブロックについての予測ブロックとの間の、サンプルごとの差分を表す。ビデオエンコーダ200は、サンプル領域ではなく変換領域中に変換データを生成するために、残差ブロックに1つまたは複数の変換を適用し得る。たとえば、ビデオエンコーダ200は、離散コサイン変換(DCT)、整数変換、ウェーブレット変換、または概念的に同様の変換を残差ビデオデータに適用し得る。さらに、ビデオエンコーダ200は、モード依存非分離可能2次変換(MDNSST:mode-dependent no-separable secondary transform)、信号依存変換、カルーネンレーベ変換(KLT)など、第1の変換に続いて2次変換を適用し得る。
[0060]ビデオエンコーダ200は、1つまたは複数の変換の適用に続いて変換係数を生成する。いくつかの例では、ビデオエンコーダ200は、変換の適用をスキップし得る。そのような場合、残差データは、変換の適用によって生成された変換係数と同様の方式で処理され得る。説明を簡単にするために、変換が適用されるポイントの後にビデオエンコーダ200において行われるステップは、ビデオエンコーダ200が変換を実際に適用したかどうかにかかわらず、変換領域と呼ばれ得る。たとえば、ビデオエンコーダ200がBDPCMを適用したとき、ビデオエンコーダ200は変換を適用しない。同様に、変換の逆が適用されるポイントの前にビデオデコーダ300において行われるステップは、変換が実際に適用されたかどうかにかかわらず、変換領域と呼ばれることがある。たとえば、ビデオデコーダ300がBDPCMを適用したとき、ビデオデコーダ300は逆変換を適用しない。
[0061]上述のように、変換係数を生成するための任意の変換に続いて、ビデオエンコーダ200は、変換係数の量子化を実施し得る。量子化は、概して、変換係数を表すために使用されるデータの量をできるだけ低減するために変換係数が量子化され、さらなる圧縮を行うプロセスを指す。量子化プロセスを実施することによって、ビデオエンコーダ200は、変換係数の一部または全部に関連するビット深度を低減し得る。たとえば、ビデオエンコーダ200は、量子化中にnビット値をmビット値に切り捨て得、ここで、nはmよりも大きい。いくつかの例では、量子化を実施するために、ビデオエンコーダ200は、量子化されるべき値のビット単位右シフト(bitwise right-shift)を実施し得る。
[0062]量子化に続いて、ビデオエンコーダ200は、変換係数を走査して、量子化された変換係数を含む2次元行列から1次元ベクトルを生成し得る。走査は、より高いエネルギー(したがって、より低い頻度)の変換係数をベクトルの前方に配置し、より低いエネルギー(したがって、より高い頻度)の変換係数をベクトルの後方に配置するように設計され得る。いくつかの例では、ビデオエンコーダ200は、あらかじめ定義された走査順序を利用して、量子化された変換係数を走査してシリアル化ベクトルを生成し、次いで、ベクトルの量子化された変換係数をエントロピー符号化し得る。他の例では、ビデオエンコーダ200は適応型走査を実施し得る。量子化された変換係数を走査して1次元ベクトルを形成した後に、ビデオエンコーダ200は、たとえば、コンテキスト適応型バイナリ算術コーディング(CABAC)に従って、1次元ベクトルをエントロピー符号化し得る。ビデオエンコーダ200はまた、ビデオデータを復号する際のビデオデコーダ300による使用のために、符号化ビデオデータに関連付けられたメタデータを記述するシンタックス要素の値をエントロピー符号化し得る。
[0063]CABACを実施するために、ビデオエンコーダ200は、コンテキストモデル内のコンテキストを、送信されるべきシンボルに割り当て得る。コンテキストは、たとえば、シンボルの隣接値が0値であるか否かに関係し得る。確率決定は、シンボルに割り当てられるコンテキストに基づき得る。
[0064]ビデオエンコーダ200は、さらに、ブロックベースのシンタックスデータ、ピクチャベースのシンタックスデータ、およびシーケンスベースのシンタックスデータなどのシンタックスデータを、たとえば、ピクチャヘッダ、ブロックヘッダ、スライスヘッダ、あるいはシーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、またはビデオパラメータセット(VPS)などの他のシンタックスデータ中で、ビデオデコーダ300に対して生成し得る。ビデオデコーダ300は、対応するビデオデータをどのように復号すべきかを決定するために、そのようなシンタックスデータを同様に復号し得る。
[0065]このようにして、ビデオエンコーダ200は、符号化ビデオデータ、たとえば、ブロック(たとえば、CU)へのピクチャの区分ならびにブロックの予測および/または残差情報を記述するシンタックス要素を含むビットストリームを生成し得る。最終的に、ビデオデコーダ300は、ビットストリームを受信し、符号化ビデオデータを復号し得る。
[0066]概して、ビデオデコーダ300は、ビットストリームの符号化ビデオデータを復号するために、ビデオエンコーダ200によって実施されたものの逆プロセスを実施する。たとえば、ビデオデコーダ300は、ビデオエンコーダ200のCABAC符号化プロセスと逆ではあるが、それと実質的に同様の様式でCABACを使用してビットストリームのシンタックス要素の値を復号し得る。シンタックス要素は、CTUのCUを定義するために、ピクチャをCTUに区分するための区分情報と、QTBT構造などの対応する区分構造に従う、各CTUの区分とを定義し得る。シンタックス要素は、ビデオデータのブロック(たとえば、CU)についての予測および残差情報をさらに定義し得る。
[0067]残差情報は、たとえば、量子化された変換係数によって表され得る。ビデオデコーダ300は、ブロックの残差ブロックを再生するために、ブロックの量子化された変換係数を逆量子化し、逆変換し得る。ビデオデコーダ300は、ブロックの予測ブロックを形成するために、シグナリングされた予測モード(イントラまたはインター予測)と、関係する予測情報(たとえば、インター予測のための動き情報)とを使用する。ビデオデコーダ300は、次いで、(サンプルごとに)予測ブロックと残差ブロックとを組み合わせて(combine)、元のブロックを再生し得る。ビデオデコーダ300は、ブロックの境界に沿って視覚的アーティファクトを低減するためにデブロッキングプロセスを実施することなど、追加の処理を実施し得る。
[0068]Abdoliら、「CE8: BDPCM with horizontal/vertical predictor and independently decodable areas (test 8.3.1b) 」、ITU-T SG 16 WP 3とISO/IEC JTC 1/SC 29/WG 11とのジョイントビデオエキスパートチーム(JVET)、第13回会合、マラケシュ、MA、2019年1月、ドキュメント第JVET-M0057号(以下では、「JVET-M0057」)が、差分パルスコード変調(DPCM)コーディングと変換スキップコーディングとを組み合わされたイントラサンプルの水平または垂直予測を利用するブロックDPCMモードについて説明した。エンコーダ側上では、垂直予測では、トップ(top)隣接ブロックの最下行ピクセルを使用して、フィルタ処理されていない予測子サンプルを用いてブロックの第1の水平ラインの垂直イントラ予測を実施する。予測された残差は、次のラインの予測のための予測子を形成するために、量子化され、逆量子化され、予測子に加算される。ビデオエンコーダ200は、ブロックの終了までこれを続ける。水平予測では、初期(initial)予測子が左隣接ブロックの最後の列からであり、コーディングされるべきブロックの第1の列が予測され、残差が、次の列の予測子を形成するために、量子化され、逆量子化され、予測子に加算されることを除いて、同様の方式が適用される。追加の詳細はJVET-M0057に記載されている。BDPCM予測の方向(水平/垂直)は、CUレベルでシグナリングされ得る。
[0069]ピクセル領域において予測を行う代わりに、JVET-M0057に記載されているように、上または左からの再構築されたサンプルを使用して、本開示では、同じ方向における量子化レベル領域予測について説明する。これについて次のように説明され得る。
[0070]サイズM(行)×N(列)のブロックを考える。ri,j(0≦i≦M-1、0≦j≦N-1)を、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、(ラインごとに予測ブロックにわたって左ネイバーピクセル値をコピーして)水平方向にまたは(予測ブロック中で各ラインに対してトップ(top)ネイバーラインをコピーして)垂直方向にイントラ予測を実施した後の予測残差であるとする。変換がスキップされ、Q(ri,j)(0≦i≦M-1、0≦j≦N-1)が、残差ri,jの量子化バージョンを示すと仮定し、ここで、残差は、元のブロックと、予測されたブロック値との間の差分である。
ビデオエンコーダ200は、次のように量子化残差サンプルにBDPCMを適用し得る。ビデオエンコーダ200は、垂直BDPCMがシグナリングされるとき、次のように式(1)に従って要素
Figure 2023040020000002
をもつ修正されたM×Nアレイ
Figure 2023040020000003
を取得し得る。
Figure 2023040020000004
[0071]水平予測では、同様のルールが適用され、ビデオエンコーダ200は、次のように式(2)に従って残差量子化サンプルを取得し得る。
Figure 2023040020000005
[0072]ビデオエンコーダ200は、ビデオデコーダ300に残差量子化サンプル
Figure 2023040020000006
を送り得る。
[0073]ビデオデコーダ300において、上記の計算は、Q(ri,j)、(0≦i≦M-1、0≦j≦N-1)を生成するために反転される(are reversed)。垂直予測の場合、以下の式(3)になるであろう。)
Figure 2023040020000007
[0074]水平の場合、以下の式(4)になるであろう。
Figure 2023040020000008
[0075]ビデオデコーダ300は、再構築されたサンプル値を生成するために、元の予測値に、逆量子化された量子化残差Q-1(Q(ri,j))を加算し得る。
[0076]前のセクションで説明された技法は、逆量子化されるべき係数レベルを導出するために、コード化変換係数についてのそれらの予測子を用いた補償を必要とし得る。これは、ブロック全体がパースされた後に行われ得る。言い換えれば、ビデオデコーダ300がブロック全体をパースした後に、ビデオデコーダ300は、コード化変換係数をそれらの予測子で補償し得る。パース中に(すなわち、オンザフライで)補償動作を実施することが必要とされる場合、およびパースされた
Figure 2023040020000009
値に加えてQ(ri,j)値の記憶のために別個のバッファが使用されない場合、隣接係数グループ(CG:coefficient group)に対する(すなわち、CGにわたる)コンテキスト導出の依存性は、係数値を表す様々なシンタックス要素のための変換スキップモードにおける係数コーディングについて無効にされ得る(may disabled)。CGは、係数ブロック内の変換係数の非重複セットのM×Nグループである。コンテキストテンプレートの一部が、それ自体のCGにわたる値に依存する場合、それらの値は利用不可能とマークされ得、コンテキストはそのように導出されるであろう。コンテキストテンプレートは、ビデオコーダがコーディングコンテキストを決定するために情報をそれから収集する空間近傍である。たとえば、ビデオデータが、コーディングコンテキストを決定するために変換係数の絶対値の和を使用する例では、コンテキストテンプレートは、そのような変換係数の位置を定義し、たとえば、コンテキストテンプレートは、コーディングコンテキストを決定するために使用すべきサンプルとして、上ネイバーサンプルと左ネイバーサンプルとを定義し得る。
この方法は、パースされた係数値を、デコーダにおいて逆量子化されるべきそれらの補償(パースされた係数を予測および加算)値で上書きすることを可能にする。したがって、ビデオデコーダ300が補償係数値を記憶するために別個のバッファを使用することは不要であり得る。いくつかの例では、パースされた変換係数は、それらの補償値によって上書きされ得、将来の変換係数のためのコンテキストは、上書きされた値を使用する。
[0077]本開示では、概して、シンタックス要素など、ある情報を「シグナリング」することに言及することがある。「シグナリング」という用語は、概して、符号化ビデオデータを復号するために使用されるシンタックス要素および/または他のデータの値の通信を指し得る。すなわち、ビデオエンコーダ200は、ビットストリーム中でシンタックス要素の値をシグナリングし得る。概して、シグナリングは、ビットストリーム中に値を生成することを指す。上述されたように、ソースデバイス102は、実質的にリアルタイムでビットストリームを宛先デバイス116に移送するか、または、宛先デバイス116による後の取出しのためにシンタックス要素を記憶デバイス112に記憶するときに行われ得るように、非リアルタイムでビットストリームを宛先デバイス116に移送し得る。
[0078]図2Aと図2Bとは、例示的なクワッドツリー(quad tree)バイナリツリー(QTBT)構造130と、対応するコーディングツリーユニット(CTU)132とを示す概念図である。実線はクワッドツリースプリッティングを表し、点線はバイナリツリースプリッティングを示す。バイナリツリーの各スプリット(すなわち、非リーフ)ノードでは、どのスプリッティングタイプ(すなわち、水平または垂直)が使用されるかを示すために1つのフラグがシグナリングされ、ここで、この例では、0は水平スプリッティングを示し、1は垂直スプリッティングを示す。クワッドツリースプリッティングでは、クワッドツリーノードが、ブロックを、等しいサイズをもつ4つのサブブロックに水平および垂直にスプリットするので、スプリッティングタイプを示す必要がない。したがって、QTBT構造130の領域ツリーレベル(すなわち、第1のレベル)についての(分割情報などの)シンタックス要素(すなわち、実線)と、QTBT構造130の予測ツリーレベル(すなわち、第2のレベル)についての(分割情報などの)シンタックス要素(すなわち、破線)とを、ビデオエンコーダ200は符号化し得、ビデオデコーダ300は復号し得る。QTBT構造130の端末リーフノードによって表されるCUについての、予測および変換データなどのビデオデータを、ビデオエンコーダ200は符号化し得、ビデオデコーダ300は復号し得る。
[0079]概して、図2BのCTU132は、第1および第2のレベルにおいてQTBT構造130のノードに対応するブロックのサイズを定義するパラメータに関連付けられ得る。これらのパラメータは、(サンプル中のCTU132のサイズを表す)CTUサイズと、最小クワッドツリーサイズ(最小許容クワッドツリーリーフノードサイズを表すMinQTSize)と、最大バイナリツリーサイズ(最大許容バイナリツリールートノードサイズを表すMaxBTSize)と、最大バイナリツリー深度(最大許容バイナリツリー深度を表すMaxBTDepth)と、最小バイナリツリーサイズ(最小許容バイナリツリーリーフノードサイズを表すMinBTSize)とを含み得る。
[0080]CTUに対応するQTBT構造のルートノードは、QTBT構造の第1のレベルにおいて4つの子ノードを有し得、それらの各々は、クワッドツリー区分に従って区分され得る。すなわち、第1のレベルのノードは、(子ノードを有しない)リーフノードであるか、あるいは4つの子ノードを有する。
QTBT構造130の例は、ブランチのために実線を有する親ノードと子ノードとを含むようなノードを表す。第1のレベルのノードが最大許容バイナリツリールートノードサイズ(MaxBTSize)よりも大きくない場合、それらは、それぞれのバイナリツリーによってさらに区分され得る。1つのノードのバイナリツリー分割は、分割から生じるノードが最小許容バイナリツリーリーフノードサイズ(MinBTSize)または最大許容バイナリツリー深度(MaxBTDepth)に達するまで反復され得る。QTBT構造130の例は、ブランチのために破線を有するようなノードを表す。バイナリツリーリーフノードはコーディングユニット(CU)と呼ばれ、CUは、どんなさらなる区分もない予測(たとえば、ピクチャ内またはピクチャ間予測)ならびに変換のために使用される。上記で論じられたように、CUは「ビデオブロック」または「ブロック」と呼ばれることもある。
[0081]QTBT区分構造の一例では、CTUサイズは、128×128(ルーマサンプルおよび2つの対応する64×64クロマサンプル)として設定され、MinQTSizeは16×16として設定され、MaxBTSizeは64×64として設定され、(幅と高さの両方について)MinBTSizeは4として設定され、MaxBTDepthは4として設定される。クワッドツリー区分は、クワッドツリーリーフノードを生成するために、最初にCTUに適用される。クワッドツリーリーフノードは、16×16(すなわち、MinQTSize)から128×128(すなわち、CTUサイズ)のサイズを有し得る。クワッドツリーリーフノードが128×128である場合、サイズがMaxBTSize(すなわち、この例では64×64)を超えるので、それはバイナリツリーによってさらにスプリットされない。そうでない場合、クワッドツリーリーフノードは、バイナリツリーによってさらに区分される。したがって、クワッドツリーリーフノードはまた、バイナリツリーのルートノードであり、0としてのバイナリツリー深度を有する。バイナリツリー深度がMaxBTDepth(この例では4)に達したとき、さらなる分割は許可されない。バイナリツリーノードがMinBTSize(この例では4)に等しい幅を有するとき、それは、さらなる垂直スプリッティングが許可されないことを暗示する。同様に、MinBTSizeに等しい高さを有するバイナリツリーノードは、さらなる水平分割がそのバイナリツリーノードのために許可されないことを暗示する。上述されたように、バイナリツリーのリーフノードは、CUと呼ばれ、さらなる区分なしに予測および変換に従ってさらに処理される。
[0082]図3は、本開示の技法を実施し得る例示的なビデオエンコーダ200を示すブロック図である。図3は説明のために提供され、本開示で広く例示され記載される技法を限定するものと見なされるべきではない。説明の目的で、本開示では、HEVCビデオコーディング規格および開発中のH.266(VVC)ビデオコーディング規格などのビデオコーディング規格のコンテキストにおいて、ビデオエンコーダ200について説明する。しかしながら、本開示の技法は、これらのビデオコーディング規格に限定されず、一般的にビデオ符号化および復号に適用可能である。
[0083]図3の例では、ビデオエンコーダ200は、ビデオデータメモリ230と、モード選択ユニット202と、残差生成ユニット204と、変換処理ユニット206と、量子化ユニット208と、逆量子化ユニット210と、逆変換処理ユニット212と、再構築ユニット214と、フィルタユニット216と、復号ピクチャバッファ(DPB)218と、エントロピー符号化ユニット220とを含む。ビデオデータメモリ230と、モード選択ユニット202と、残差生成ユニット204と、変換処理ユニット206と、量子化ユニット208と、逆量子化ユニット210と、逆変換処理ユニット212と、再構築ユニット214と、フィルタユニット216と、DPB218と、エントロピー符号化ユニット220とのいずれかまたはすべては、1つまたは複数のプロセッサ中にあるいは処理回路中に実装され得る。その上、ビデオエンコーダ200は、これらおよび他の機能を実施するための追加または代替のプロセッサまたは処理回路を含み得る。
[0084]ビデオデータメモリ230は、ビデオエンコーダ200の構成要素によって符号化されるべきビデオデータを記憶し得る。ビデオエンコーダ200は、たとえば、ビデオソース104(図1)から、ビデオデータメモリ230に記憶されたビデオデータを受信し得る。DPB218は、ビデオエンコーダ200による後続のビデオデータの予測において使用する参照ビデオデータを記憶する参照ピクチャメモリとして働き得る。ビデオデータメモリ230とDPB218とは、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗性RAM(RRAM(登録商標))、または他のタイプのメモリデバイスなど、様々なメモリデバイスのいずれかによって形成され得る。ビデオデータメモリ230とDPB218とは、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、ビデオデータメモリ230は、図示のように、ビデオエンコーダ200の他の構成要素とともにオンチップであるか、またはそれらの構成要素に対してオフチップであり得る。
[0085]本開示では、ビデオデータメモリ230への言及は、特にそのように説明されない限り、ビデオエンコーダ200の内部のメモリに限定されるものとして解釈されるべきではなく、または特にそのように説明されない限り、ビデオエンコーダ200の外部のメモリに限定されるものとして解釈されるべきではない。そうではなく、ビデオデータメモリ230への言及は、ビデオエンコーダ200が符号化のために受信するビデオデータ(たとえば、符号化されるべきである現在ブロックのビデオデータ)を記憶する参照メモリとして理解されたい。図1のメモリ106はまた、ビデオエンコーダ200の様々なユニットからの出力の一時的記憶を提供し得る。
[0086]図3の様々なユニットは、ビデオエンコーダ200によって実施される動作を理解するのを支援するために示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。固定機能回路は、特定の機能を与える回路を指し、実施され得る動作に関してあらかじめ設定される。プログラマブル回路は、様々なタスクを実施するように、および実施され得る動作においてフレキシブルな機能を提供するようにプログラムされる回路を指す。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方式でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は、(たとえば、パラメータを受信するかまたはパラメータを出力するために)ソフトウェア命令を実行し得るが、固定機能回路が実施する動作のタイプは概してイミュータブルである。いくつかの例では、ユニットのうちの1つまたは複数は、別個の回路ブロック(固定機能またはプログラマブル)であり得、いくつかの例では、1つまたは複数のユニットは集積回路であり得る。
[0087]ビデオエンコーダ200は、算術論理ユニット(ALU)、基本機能ユニット(EFU)、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されるプログラマブルコアを含み得る。ビデオエンコーダ200の動作が、プログラマブル回路によって実行されるソフトウェアを使用して実施される例では、メモリ106(図1)は、ビデオエンコーダ200が受信し実行するソフトウェアのオブジェクトコードを記憶し得るか、またはビデオエンコーダ200内の別のメモリ(図示されず)が、そのような命令を記憶し得る。
[0088]ビデオデータメモリ230は、受信されたビデオデータを記憶するように構成される。ビデオエンコーダ200は、ビデオデータメモリ230からビデオデータのピクチャを取り出し、残差生成ユニット204とモード選択ユニット202とにビデオデータを提供し得る。ビデオデータメモリ230中のビデオデータは、符号化されるべきである生のビデオデータであり得る。
[0089]モード選択ユニット202は、動き推定ユニット222と、動き補償ユニット224と、イントラ予測ユニット226とを含む。モード選択ユニット202は、他の予測モードに従ってビデオ予測を実施するための追加の機能ユニットを含み得る。例として、モード選択ユニット202は、パレットユニット、(動き推定ユニット222および/または動き補償ユニット224の一部であり得る)イントラブロックコピーユニット、アフィンユニット、線形モデル(LM)ユニットなどを含み得る。
[0090]モード選択ユニット202は、概して、符号化パラメータの組合せと、そのような組合せについての得られたレートひずみ値とをテストするために、複数の符号化パスを調整させる(coordinate)。符号化パラメータは、CUへのCTUの区分、CUのための予測モード、CUの残差データのための変換タイプ、CUの残差データのための量子化パラメータなどを含み得る。モード選択ユニット202は、他のテストされた組合せよりも良好であるレートひずみ値を有する符号化パラメータの組合せを最終的に選択し得る。
[0091]ビデオエンコーダ200は、ビデオデータメモリ230から取り出されたピクチャを一連のCTUに区分し、1つまたは複数のCTUをスライス内にカプセル化し得る。モード選択ユニット202は、上記で説明されたHEVCのQTBT構造またはクワッドツリー構造など、ツリー構造に従ってピクチャのCTUを区分し得る。上記で説明されたように、ビデオエンコーダ200は、ツリー構造に従ってCTUを区分することから1つまたは複数のCUを形成し得る。そのようなCUは、一般に「ビデオブロック」または「ブロック」と呼ばれることもある。
[0092]概して、モード選択ユニット202はまた、現在ブロック(たとえば、現在CU、またはHEVCでは、PUとTUとの重複する部分)についての予測ブロックを生成するように、それの構成要素(たとえば、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226)を制御する。現在ブロックのインター予測のために、動き推定ユニット222は、1つまたは複数の参照ピクチャ(たとえば、DPB218に記憶されている1つまたは複数の以前のコード化ピクチャ)中で1つまたは複数のぴったり一致する参照ブロックを識別するために動き探索を実施し得る。特に、動き推定ユニット222は、たとえば、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)などに従って、現在ブロックに対して潜在的参照ブロックがどのくらい類似しているかを表す値を計算し得る。動き推定ユニット222は、概して、現在ブロックと考慮されている参照ブロックとの間のサンプルごとの差分を使用してこれらの計算を実施し得る。動き推定ユニット222は、現在ブロックに最もぴったり一致する参照ブロックを示す、これらの計算から得られた最も低い値を有する参照ブロックを識別し得る。
[0093]動き推定ユニット222は、現在ピクチャ中の現在ブロックの位置に対して参照ピクチャ中の参照ブロックの位置を定義する1つまたは複数の動きベクトル(MV)を形成し得る。動き推定ユニット222は、次いで、動きベクトルを動き補償ユニット224に提供し得る。たとえば、単方向インター予測では、動き推定ユニット222は、単一の動きベクトルを提供し得るが、双方向インター予測では、動き推定ユニット222は、2つの動きベクトルを提供し得る。動き補償ユニット224は、次いで、動きベクトルを使用して予測ブロックを生成し得る。たとえば、動き補償ユニット224は、動きベクトルを使用して参照ブロックのデータを取り出し得る。別の例として、動きベクトルが部分サンプル精度を有する場合、動き補償ユニット224は、1つまたは複数の補間フィルタに従って予測ブロックのための値を補間し得る。さらに、双方向インター予測の場合、動き補償ユニット224は、それぞれの動きベクトルによって識別される2つの参照ブロックのためのデータを取り出し、たとえば、サンプルごとの平均化または重み付け平均化を通して取り出されたデータを組み合わせ得る。
[0094]別の例として、イントラ予測、またはイントラ予測コーディングのために、イントラ予測ユニット226は、現在ブロックに隣接しているサンプルから予測ブロックを生成し得る。たとえば、方向性モードでは、イントラ予測ユニット226は、隣接サンプルの値を概して数学的に組み合わせ、現在ブロックにわたって規定の方向にこれらの計算された値をポピュレートして、予測ブロックを生成し得る。別の例として、DCモードでは、イントラ予測ユニット226は、現在ブロックに対する隣接サンプルの平均を計算し、予測ブロックのサンプルごとにこの得られた平均を含むように予測ブロックを生成し得る。
[0095]モード選択ユニット202は、予測ブロックを残差生成ユニット204に提供する。残差生成ユニット204は、ビデオデータメモリ230から現在ブロックの生の非コード化バージョンを受信し、モード選択ユニット202から予測ブロックを受信する。残差生成ユニット204は、現在ブロックと予測ブロックとの間のサンプルごとの差分を計算する。得られたサンプルごとの差分は、現在ブロックについての残差ブロックを定義する。いくつかの例では、残差生成ユニット204はまた、残差差分パルスコード変調(RDPCM)を使用して残差ブロックを生成するために残差ブロック中のサンプル値の間の差を決定し得る。いくつかの例では、残差生成ユニット204は、バイナリ減算を実施する1つまたは複数の減算器回路を使用して形成され得る。
[0096]モード選択ユニット202がCUをPUに区分する例では、各PUは、ルーマ予測ユニットと、対応するクロマ予測ユニットとに関連付けられ得る。ビデオエンコーダ200とビデオデコーダ300とは、様々なサイズを有するPUをサポートし得る。上記のように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがあり、PUのサイズは、PUのルーマ予測ユニットのサイズを指すことがある。特定のCUのサイズが2N×2Nであると仮定すると、ビデオエンコーダ200は、イントラ予測のための2N×2NまたはN×NのPUサイズと、インター予測のための2N×2N、2N×N、N×2N、N×N、または同様のものの対称的PUサイズとをサポートし得る。ビデオエンコーダ200とビデオデコーダ300とはまた、インター予測のための2N×nU、2N×nD、nL×2N、およびnR×2NのPUサイズの非対称的区分をサポートし得る。
[0097]モード選択ユニットがCUをPUにさらに区分しない例では、各CUは、ルーマコーディングブロックと、対応するクロマコーディングブロックとに関連付けられ得る。上記のように、CUのサイズは、CUのルーマコーディングブロックのサイズを指し得る。ビデオエンコーダ200とビデオデコーダ300とは、2N×2N、2N×N、またはN×2NのCUサイズをサポートし得る。
[0098]少数ほどの例として、イントラブロックコピーモードコーディング、アフィンモードコーディング、および線形モデル(LM)モードコーディングなど、他のビデオコーディング技法では、モード選択ユニット202は、コーディング技法に関連付けられたそれぞれのユニットを介して、符号化されている現在ブロックについて予測ブロックを生成する。パレットモードコーディングなど、いくつかの例では、モード選択ユニット202は、予測ブロックを生成せず、代わりに、選択されたパレットに基づいてブロックを再構築すべき様式を示すシンタックス要素を生成し得る。そのようなモードでは、モード選択ユニット202は、符号化されるためにこれらのシンタックス要素をエントロピー符号化ユニット220に提供し得る。
[0099]上記で説明されたように、残差生成ユニット204は、現在ブロックと、対応する予測ブロックとについて、ビデオデータを受信する。残差生成ユニット204は、次いで、現在ブロックについて残差ブロックを生成する。残差ブロックを生成するために、残差生成ユニット204は、予測ブロックと現在ブロックとの間のサンプルごとの差分を計算する。
[0100]変換処理ユニット206は、変換係数のブロック(本明細書では「変換係数ブロック」と呼ばれる)を生成するために、残差ブロックに1つまたは複数の変換を適用する。変換処理ユニット206は、変換係数ブロックを形成するために、残差ブロックに様々な変換を適用し得る。たとえば、変換処理ユニット206は、離散コサイン変換(DCT)、方向変換、カルーネンレーベ変換(KLT)、または概念的に同様の変換を残差ブロックに適用し得る。いくつかの例では、変換処理ユニット206は、残差ブロックに複数の変換、たとえば、回転変換など1次変換および2次変換を実施し得る。いくつかの例では、変換処理ユニット206は、残差ブロックに変換を適用しない。たとえば、係数領域BDPCMを使用してブロックがコーディングされる例では、変換処理ユニット206は、残差生成ユニット204によって生成された残差値への変換の適用をスキップし得る。
[0101]量子化ユニット208は、量子化変換係数ブロックを生成するために、変換係数ブロック中の変換係数を量子化し得る。量子化ユニット208は、現在ブロックに関連付けられた量子化パラメータ(QP)値に従って変換係数ブロックの変換係数を量子化し得る。ビデオエンコーダ200は(たとえば、モード選択ユニット202を介して)、CUに関連付けられたQP値を調整することによって、現在ブロックに関連付けられた係数ブロックに適用される量子化の程度を調整し得る。量子化は、情報の損失を導入することがあり、したがって、量子化された変換係数は、変換処理ユニット206によって生成された元の変換係数よりも低い精度を有し得る。
[0102]本開示の1つまたは複数の技法によれば、量子化ユニット208は、量子化残差値に基づいて残差量子化サンプルを決定するために係数領域BDPCMを使用し得る。たとえば、量子化ユニット208は、残差量子化サンプルを決定するために、上記の式(1)または(2)を使用し得る。量子化ユニット208は、残差生成ユニット204が残差値を生成するために使用した予測ブロックを生成するために、イントラ予測ユニット226が垂直イントラ予測モードを使用したのか水平イントラ予測モードを使用したのかを決定し得る。イントラ予測ユニット226が垂直イントラ予測モードを使用した場合(すなわち、垂直予測であるイントラ予測)、量子化ユニット208は式(1)を使用し得る。イントラ予測ユニット226が水平イントラ予測モードを使用した場合(すなわち、水平予測であるイントラ予測)、量子化ユニット208は式(2)を使用し得る。たとえば、量子化ユニット208は、垂直予測がより大きいコーディング効率を生じるのか水平予測がより大きいコーディング効率を生じるのか決定し得る。
[0103]逆量子化ユニット210と逆変換処理ユニット212とは、変換係数ブロックから残差ブロックを再構築するために、それぞれ、量子化された変換係数ブロックに逆量子化と逆変換とを適用し得る。本開示の1つまたは複数の例によれば、係数領域BDPCMを使用してブロックがコーディングされる場合、逆量子化ユニット210は、たとえば、式(3)または式(4)を適用することによって、残差量子化サンプルに基づいて量子化残差値を決定し得る。より詳細には、垂直イントラ予測モードを使用してブロックがコーディングされた場合、逆量子化ユニット210は式(3)を適用し得る。水平イントラ予測モードを使用してブロックがコーディングされた場合、逆量子化ユニット210は式(4)を適用し得る。量子化残差値を決定した後に、逆量子化ユニット210は、量子化残差値を逆量子化し得る。
[0104]逆量子化ユニット210が変換係数ブロックを形成した後に、逆変換処理ユニット212は、現在ブロックに関連する残差ブロックを生成するために、変換係数ブロックに1つまたは複数の逆変換を適用し得る。たとえば、逆変換処理ユニット212は、逆DCT、逆整数変換、逆カルーネンレーベ変換(KLT)、逆回転変換、逆方向変換、または別の逆変換を係数ブロックに適用し得る。係数領域BDPCMを使用してブロックがコーディングされ、使用される例では、逆変換処理ユニット212は、逆変換の適用をスキップし得る。
[0105]再構築ユニット214は、再構築された残差ブロックと、モード選択ユニット202によって生成された予測ブロックとに基づいて、(ある程度のひずみを潜在的にもっているものの)現在ブロックに対応する再構築ブロックを生成し得る。たとえば、再構築ユニット214は、再構築されたブロックを生成するために、モード選択ユニット202によって生成された予測ブロックからの対応するサンプルに、再構築された残差ブロックのサンプルを加算し得る。
[0106]フィルタユニット216は、再構築されたブロックに対して1つまたは複数のフィルタ演算を実施し得る。たとえば、フィルタユニット216は、CUのエッジに沿ってブロッキネスアーティファクトを低減するためのデブロッキング動作を実施し得る。フィルタユニット216の動作は、いくつかの例では、スキップされ得る。
[0107]ビデオエンコーダ200は、再構築されたブロックをDPB218に記憶する。たとえば、フィルタユニット216の動作が必要とされない例において、再構築ユニット214は、再構築されたブロックをDPB218に記憶し得る。フィルタユニット216の動作が必要とされる例では、フィルタユニット216は、フィルタ処理された再構築されたブロックをDPB218に記憶し得る。動き推定ユニット222と動き補償ユニット224とは、後で符号化されるピクチャのブロックをインター予測するために、再構築(および潜在的にフィルタ処理)されたブロックから形成された参照ピクチャをDPB218から取り出し得る。加えて、イントラ予測ユニット226は、現在ピクチャ中の他のブロックをイントラ予測するために、現在ピクチャのDPB218中の再構築ブロックを使用し得る。
[0108]概して、エントロピー符号化ユニット220は、ビデオエンコーダ200の他の機能構成要素から受信されたシンタックス要素をエントロピー符号化し得る。たとえば、エントロピー符号化ユニット220は、量子化ユニット208からの量子化された変換係数ブロックをエントロピー符号化し得る。別の例として、エントロピー符号化ユニット220は、モード選択ユニット202からの予測シンタックス要素(たとえば、インター予測のための動き情報またはイントラ予測のためのイントラモード情報)をエントロピー符号化し得る。エントロピー符号化ユニット220は、エントロピー符号化データを生成するために、ビデオデータの別の例であるシンタックス要素に対して1つまたは複数のエントロピー符号化演算を実施し得る。たとえば、エントロピー符号化ユニット220は、コンテキスト適応型可変長コーディング(CAVLC:context-adaptive variable length coding)動作、CABAC動作、可変対可変(V2V:variable-to-variable)長コーディング動作、シンタックスベースコンテキスト適応型バイナリ算術コーディング(SBAC:syntax-based context-adaptive binary arithmetic coding)動作、確率間隔区分エントロピー(PIPE: Probability Internal partitioning Entropy)コーディング動作、指数ゴロム符号化動作、または別のタイプのエントロピー符号化動作をデータに対して実施し得る。いくつかの例では、エントロピー符号化ユニット220は、シンタックス要素がエントロピー符号化されないバイパスモードで動作し得る。
[0109]ビデオエンコーダ200は、スライスまたはピクチャのブロックを再構築するために必要とされるエントロピー符号化されたシンタックス要素を含むビットストリームを出力し得る。たとえば、図3の例では、エントロピー符号化ユニット220は、ビットストリームを出力し得る。本開示の1つまたは複数の例によれば、ビデオエンコーダ200は、ビットストリーム中で残差量子化サンプルをシグナリングし得る。たとえば、エントロピー符号化ユニット220は、残差量子化サンプルを表すシンタックス要素をエントロピー符号化し、エントロピー符号化されたシンタックス要素をビットストリーム中に含め得る。
[0110]上記で説明された動作は、ブロックに関して説明されている。そのような説明は、ルーマコーディングブロックおよび/またはクロマコーディングブロックのための動作であるものとして理解されたい。上記で説明されたように、いくつかの例では、ルーマコーディングブロックとクロマコーディングブロックとは、CUのルーマ成分とクロマ成分とである。いくつかの例では、ルーマコーディングブロックとクロマコーディングブロックとは、PUのルーマ成分とクロマ成分とである。
[0111]いくつかの例では、ルーマコーディングブロックに関して実施される動作は、クロマコーディングブロックのために繰り返される必要はない。一例として、ルーマコーディングブロックのための動きベクトル(MV)と参照ピクチャとを識別する動作は、クロマブロックのためのMVと参照ピクチャとを識別するために繰り返される必要はない。むしろ、ルーマコーディングブロックのためのMVは、クロマブロックのためのMVを決定するためにスケーリングされ得、参照ピクチャは同じであり得る。別の例として、イントラ予測プロセスは、ルーマコーディングブロックとクロマコーディングブロックとに対して同じであり得る。
[0112]ビデオエンコーダ200は、ビデオデータを記憶するように構成されたメモリと、回路中に実装された1つまたは複数の処理ユニットとを含む、ビデオデータを符号化するように構成されたデバイスの例を表し、1つまたは複数の処理ユニットは、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって、予測値を生成することと、ブロックの元のサンプル値と予測値とに基づいて残差値を生成することと、残差値を量子化することと、量子化残差値に基づいて残差量子化サンプルを決定することと、を行うように構成される。
[0113]図4は、本開示の技法を実施し得る例示的なビデオデコーダ300を示すブロック図である。図4は説明のために提供され、本開示で広く例示され記載される技法を限定するものではない。説明の目的で、本開示では、JEMと、VVCと、HEVCとの技法に従ってビデオデコーダ300について説明する。しかしながら、本開示の技法は、他のビデオコーディング規格に構成されたビデオコーディングデバイスによって実施され得る。
[0114]図4の例では、ビデオデコーダ300は、コード化ピクチャバッファ(CPB)メモリ320と、エントロピー復号ユニット302と、予測処理ユニット304と、逆量子化ユニット306と、逆変換処理ユニット308と、再構築ユニット310と、フィルタユニット312と、復号ピクチャバッファ(DPB)314とを含む。CPBメモリ320と、エントロピー復号ユニット302と、予測処理ユニット304と、逆量子化ユニット306と、逆変換処理ユニット308と、再構築ユニット310と、フィルタユニット312と、DPB314とのいずれかまたはすべては、1つまたは複数のプロセッサ中にあるいは処理回路中に実装され得る。その上、ビデオデコーダ300は、これらおよび他の機能を実施するための追加または代替のプロセッサまたは処理回路を含み得る。
[0115]予測処理ユニット304は、動き補償ユニット316とイントラ予測ユニット318とを含む。予測処理ユニット304は、他の予測モードに従って予測を実施するための追加のユニットを含み得る。例として、予測処理ユニット304は、パレットユニット、(動き補償ユニット316の一部を形成し得る)イントラブロックコピーユニット、アフィンユニット、線形モデル(LM)ユニットなどを含み得る。他の例では、ビデオデコーダ300は、より多数の、より少数の、または異なる機能構成要素を含み得る。
[0116]CPBメモリ320は、ビデオデコーダ300の構成要素によって復号されるべき、符号化ビデオビットストリームなどのビデオデータを記憶し得る。CPBメモリ320に記憶されるビデオデータは、たとえば、コンピュータ可読媒体110(図1)から取得され得る。CPBメモリ320は、符号化ビデオビットストリームからの符号化ビデオデータ(たとえば、シンタックス要素)を記憶するCPBを含み得る。また、CPBメモリ320は、ビデオデコーダ300の様々なユニットからの出力を表す一時データなど、コード化ピクチャのシンタックス要素以外のビデオデータを記憶し得る。DPB314は、概して、ビデオデコーダ300が符号化ビデオビットストリームの後続のデータまたはピクチャを復号するときに出力しおよび/または参照ビデオデータとして使用し得る復号ピクチャを記憶する。CPBメモリ320とDPB314とは、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗性RAM(RRAM)、または他のタイプのメモリデバイスなど、様々なメモリデバイスのいずれかによって形成され得る。CPBメモリ320とDPB314とは、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、CPBメモリ320は、ビデオデコーダ300の他の構成要素とともにオンチップであるか、またはそれらの構成要素に対してオフチップであり得る。
[0117]追加または代替として、いくつかの例では、ビデオデコーダ300は、メモリ120(図1)からコード化ビデオデータを取り出し得る。すなわち、メモリ120は、CPBメモリ320を用いて上記で論じられたデータを記憶し得る。同様に、メモリ120は、ビデオデコーダ300の機能の一部または全部が、ビデオデコーダ300の処理回路によって実行されるべきソフトウェアにおいて実装されたとき、ビデオデコーダ300によって実行されるべき命令を記憶し得る。
[0118]図4に示されている様々なユニットは、ビデオデコーダ300によって実施される動作を理解するのを支援するために示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。図3と同様に、固定機能回路は、特定の機能を提供する回路を指し、実施され得る動作にプリセットされる。プログラマブル回路は、様々なタスクを実施するように、および実施され得る動作においてフレキシブルな機能を提供するようにプログラムされる回路を指す。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方式でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は、(たとえば、パラメータを受信するかまたはパラメータを出力するために)ソフトウェア命令を実行し得るが、固定機能回路が実施する動作のタイプは概してイミュータブルである。いくつかの例では、ユニットのうちの1つまたは複数は、別個の回路ブロック(固定機能またはプログラマブル)であり得、いくつかの例では、1つまたは複数のユニットは集積回路であり得る。
[0119]ビデオデコーダ300は、ALU、EFU、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されるプログラマブルコアを含み得る。ビデオデコーダ300の動作が、プログラマブル回路上で実行されるソフトウェアによって実施される例では、オンチップまたはオフチップメモリは、ビデオデコーダ300が受信し実行するソフトウェアの命令(たとえば、オブジェクトコード)を記憶し得る。
[0120]エントロピー復号ユニット302は、CPBから符号化ビデオデータを受信し、ビデオデータをエントロピー復号してシンタックス要素を再生し得る。予測処理ユニット304と、逆量子化ユニット306と、逆変換処理ユニット308と、再構築ユニット310と、フィルタユニット312とは、ビットストリームから抽出されたシンタックス要素に基づいて復号ビデオデータを生成し得る。
[0121]概して、ビデオデコーダ300は、ブロックごとにピクチャを再構築する。ビデオデコーダ300は、各ブロックに対して個々に再構築演算を実施し得る(ここで、現在再構築されているブロック、すなわち、現在復号されているブロックは、「現在ブロック」と呼ばれることがある)。
[0122]エントロピー復号ユニット302は、量子化された変換係数ブロックの量子化された変換係数を定義するシンタックス要素、ならびに量子化パラメータ(QP)および/または変換モードインジケーションなどの変換情報をエントロピー復号し得る。逆量子化ユニット306は、量子化の程度を決定するために、また同様に、逆量子化ユニット306が適用すべき逆量子化の程度を決定するために量子化変換係数ブロックに関連するQPを使用し得る。逆量子化ユニット306は、量子化された変換係数を逆量子化するために、たとえば、ビット単位の左シフト演算を実施し得る。逆量子化ユニット306は、それによって、変換係数を含む変換係数ブロックを形成し得る。
[0123]本開示の1つまたは複数の技法によれば、逆量子化ユニット306は、ビットストリームからエントロピー復号ユニット302によって取得されたシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定し得る。さらに、逆量子化ユニット306は、残差量子化サンプルに基づいて量子化残差値を決定し得る。たとえば、逆量子化ユニット306は、量子化残差値を決定するために、式(3)または(4)を適用し得る。より詳細には、垂直イントラ予測モードを使用してブロックがコーディングされた場合、逆量子化ユニット306は式(3)を適用し得る。水平イントラ予測モードを使用してブロックがコーディングされた場合、逆量子化ユニット306は式(4)を適用し得る。量子化残差値を決定した後に、逆量子化ユニット306は、量子化残差値を逆量子化し得る。
[0124]逆量子化ユニット306が変換係数ブロックを形成した後に、逆変換処理ユニット308は、現在ブロックに関連する残差ブロックを生成するために、変換係数ブロックに1つまたは複数の逆変換を適用し得る。たとえば、逆変換処理ユニット308は、変換係数ブロックに、逆DCT、逆整数変換、逆カルーネンレーベ変換(KLT)、逆回転変換、逆方向変換、または別の逆変換を適用し得る。係数領域BDPCMを使用してブロックがコーディングされ、使用される例では、逆変換処理ユニット308は、逆変換の適用をスキップし得る。
[0125]さらに、予測処理ユニット304は、エントロピー復号ユニット302によってエントロピー復号された予測情報シンタックス要素に従って予測ブロックを生成する。たとえば、予測情報シンタックス要素が、現在ブロックがインター予測されることを示す場合、動き補償ユニット316は、予測ブロックを生成し得る。この場合、予測情報シンタックス要素は、参照ブロックをそれから取り出すべきDPB314中の参照ピクチャ、ならびに現在ピクチャ中の現在ブロックのロケーションに対して参照ピクチャ中の参照ブロックのロケーションを識別する動きベクトルを示し得る。動き補償ユニット316は、概して、動き補償ユニット224(図3)に関して説明された方式と実質的に同様である方式でインター予測プロセスを実施し得る。
[0126]別の例として、予測情報シンタックス要素が、現在ブロックがイントラ予測されることを示す場合、イントラ予測ユニット318は、予測情報シンタックス要素によって示されるイントラ予測モードに従って予測ブロックを生成し得る。この場合も、イントラ予測ユニット318は、概して、イントラ予測ユニット226(図3)に関して説明されたのと実質的に同様である様式でイントラ予測プロセスを実施し得る。イントラ予測ユニット318は、DPB314から、現在ブロックに対する隣接サンプルのデータを取り出し得る。
[0127]再構築ユニット310は、予測ブロックと残差ブロックとを使用して現在ブロックを再構築し得る。たとえば、再構築ユニット310は、現在ブロックを再構築するために、予測ブロックの対応するサンプルに残差ブロックのサンプルを加算し得る。
[0128]フィルタユニット312は、再構築されたブロックに対して1つまたは複数のフィルタ演算を実施し得る。たとえば、フィルタユニット312は、再構築されたブロックのエッジに沿ってブロッキネスアーティファクトを低減するためのデブロッキング動作を実施し得る。フィルタユニット312の動作は、すべての例において必ずしも実施されるとは限らない。
[0129]ビデオデコーダ300は、再構築されたブロックをDPB314に記憶し得る。たとえば、フィルタユニット312の動作が実施されない例において、再構築ユニット310は、再構築されたブロックをDPB314に記憶し得る。フィルタユニット312の動作が実施される例では、フィルタユニット312は、フィルタ処理された再構築されたブロックをDPB314に記憶し得る。上記で論じられたように、DPB314は、イントラ予測のための現在ピクチャのサンプルおよび後続の動き補償のための以前に復号されたピクチャなど、参照情報を予測処理ユニット304に提供し得る。その上、ビデオデコーダ300は、DPBからの復号ピクチャを、後続のプレゼンテーションのために、図1のディスプレイデバイス118などのディスプレイデバイス上に出力し得る。
[0130]このようにして、ビデオデコーダ300は、ビデオデータを記憶するように構成されたメモリと、回路中に実装された1つまたは複数の処理ユニットとを含むビデオ復号デバイスの例を表し、1つまたは複数の処理ユニットは、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定することと、残差量子化サンプルに基づいて量子化残差値を決定することと、量子化残差値を逆量子化することと、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成することと、逆量子化された量子化残差および予測値に基づいてブロックの元のサンプル値を再構築することとを行うように構成される。
[0131]図4の例では、ビデオデコーダ300のエントロピー復号ユニット302は、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定し得る。さらに、図4の例では、ビデオデコーダ300は、残差量子化サンプルに基づいて量子化残差値を決定し、量子化残差値を逆量子化し、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって、予測値を生成し、逆量子化された量子化残差と予測値とに基づいてブロックの元のサンプル値を再構築し得る。
[0132]図5は、現在ブロックを符号化するための例示的な方法を示すフローチャートである。現在ブロックは現在CUを備え得る。ビデオエンコーダ200(図1および図2)に関して説明されるが、他のデバイスが図5の方法と同様の方法を実施するように構成され得ることを理解されたい。
[0133]この例では、ビデオエンコーダ200は、初めに、現在ブロックを予測する(350)。たとえば、ビデオエンコーダ200は、現在ブロックのための予測ブロックを形成し得る。ビデオエンコーダ200は、次いで、現在ブロックのための残差ブロックを計算し得る(352)。残差ブロックを計算するために、ビデオエンコーダ200は、元のコーディングされていないブロックと、現在ブロックについての予測ブロックとの間の差分を計算し得る。ビデオエンコーダ200は、次いで、変換係数を生成するために差分値を変換し、残差ブロックの変換係数を量子化する(354)。本開示の技法によれば、ビデオエンコーダ200は、変換の適用をスキップし得、量子化残差値を使用して係数領域BDPCMを実施し得る。次に、ビデオエンコーダ200は、残差ブロックの量子化変換係数(または、ビデオエンコーダ200が係数領域BDPCMを適用したときは、量子化残差値)を走査し得る(356)。走査中に、または走査に続いて、ビデオエンコーダ200は、変換係数(または、ビデオエンコーダ200が係数領域BDPCMを適用したときは、量子化残差値)をエントロピー符号化し得る(358)。たとえば、ビデオエンコーダ200は、CAVLCまたはCABACを使用して変換係数(または、ビデオエンコーダ200が係数領域BDPCMを適用したときは、量子化残差値)を符号化し得る。ビデオエンコーダ200は、次いで、ブロックのエントロピー符号化されたデータを出力し得る(360)。このようにして、ビデオエンコーダ200が係数領域BDPCMを適用する例では、ビデオエンコーダ200は、残差量子化値をシグナリングし得る。
[0134]図6は、ビデオデータの現在ブロックを復号するための例示的な方法を示すフローチャートである。現在ブロックは現在CUを備え得る。ビデオデコーダ300(図1および図3)に関して説明されるが、他のデバイスが図6の方法と同様の方法を実施するように構成され得ることを理解されたい。
[0135]ビデオデコーダ300は、エントロピーコーディングされた予測情報、および現在ブロックに対応する残差ブロックの変換係数についてのエントロピーコーディングされたデータなど、現在ブロックのためのエントロピーコーディングされたデータを受信し得る(370)。ビデオデコーダ300は、エントロピーコーディングされたデータをエントロピー復号して、現在ブロックについての予測情報を決定し、残差ブロックの変換係数を再生し得る(372)。ビデオデコーダ300は、たとえば、現在ブロックについての予測情報によって示されるイントラ予測またはインター予測モードを使用して、現在ブロックを予測して、現在ブロックのための予測ブロックを計算し得る(374)。ビデオデコーダ300は、次いで、再生された変換係数を逆走査して、量子化変換係数のブロックを作成し得る(376)。ビデオデコーダ300は、次いで、変換係数を逆量子化し、適用および逆変換して、残差ブロックを生成し得る(378)。ビデオデコーダ300は、残差ブロックを生成するステップの一部として、係数領域BDPCMのための本開示の技法を実施し得る。ビデオデコーダ300は、予測ブロックと残差ブロックとを組み合わせることによって、最終的に現在ブロックを復号し得る(380)。
[0136]図7は、本開示の1つまたは複数の技法による、係数領域(coefficient domain)ブロック差分パルスコード変調(BDPCM)を含む例示的なビデオ符号化プロセスを示すフローチャートである。図7は、ビデオエンコーダ200が係数領域BDPCMを使用する、図5の動作のより特定の事例であり得る。図7の例では、ビデオエンコーダ200は、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成し得る(700)。たとえば、ビデオエンコーダ200は、本開示の他の場所で提供される例のいずれかに従ってイントラ予測を実施し得る。
[0137]さらに、ビデオエンコーダ200は、ブロックの元のサンプル値と予測値とに基づいて残差値を生成し得る(702)。残差値の各々は、ブロックの元のサンプル値のうちの1つと、対応する予測値との間の差分を示し得る。
[0138]さらに、図7の例では、ビデオエンコーダ200は、残差値を量子化し得る(704)。たとえば、ビデオエンコーダ200は、本開示の他の場所で説明される量子化のための例のいずれかに従って残差値を量子化し得る。
[0139]残差値を量子化した後に、ビデオエンコーダ200は、量子化された残差値に基づいて残差量子化サンプルを決定し得る(706)。イントラ予測が垂直予測である例では、ビデオエンコーダ200は、残差量子化サンプルを
Figure 2023040020000010
として決定し得、ここで、
Figure 2023040020000011
は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、ブロックの行の数であり、Nは、ブロックの列の数である。イントラ予測が水平予測である例では、ビデオエンコーダ200は、残差量子化サンプルを
Figure 2023040020000012
として決定し得、ここで、
Figure 2023040020000013
は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、ブロックの行の数であり、Nは、ブロックの列の数である。
[0140]ビデオエンコーダ200は、残差量子化サンプルをシグナリングし得る(708)。たとえば、ビデオエンコーダ200は、ビットストリーム中に、残差量子化サンプルを表し得るエントロピー符号化されたシンタックス要素を含ませ得る。
[0141]図8は、本開示の1つまたは複数の技法による、係数領域BDPCMを含む例示的なビデオ復号プロセスを示すフローチャートである。図8は、ビデオエンコーダ200が係数領域BDPCMを使用する、図5の動作のより特定の事例であり得る。図8の例では、ビデオデコーダ300は、ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、ビデオデータのブロックの残差量子化サンプルを決定し得る(800)。たとえば、ビデオデコーダ300は、ブロックの残差量子化サンプルを示す、ビットストリーム中のシンタックス要素を復号するためにエントロピー復号を使用し得る。
[0142]さらに、図8の例では、ビデオデコーダ300は、残差量子化サンプルに基づいて量子化残差値を決定し得る(802)。イントラ予測が垂直予測である例では、ビデオデコーダ300は、量子化残差値を
Figure 2023040020000014
として決定し得、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
Figure 2023040020000015
は、残差量子化サンプルのうちの1つであり、Mは、ブロックの行の数であり、Nは、ブロックの列の数である。イントラ予測が水平予測である例では、ビデオデコーダ300は、量子化残差値を
Figure 2023040020000016
として決定し得、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
Figure 2023040020000017
は、残差量子化サンプルのうちの1つであり、Mは、ブロックの行の数であり、Nは、ブロックの列の数である。
[0143]量子化残差値を決定した後に、ビデオデコーダ300は、量子化残差値を逆量子化し得る(804)。たとえば、ビデオデコーダ300は、本開示の他の場所で提供される量子化の例のいずれかを逆にすることによって、量子化残差値を逆量子化し得る。
[0144]ビデオデコーダ300は、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ブロックのためにイントラ予測を実施することによって予測値を生成し得る(806)。たとえば、ビデオデコーダ300は、本開示の他の場所で提供される例のいずれかに従ってイントラ予測を実施し得る。
[0145]ビデオデコーダ300は、逆量子化された量子化残差値と予測値とに基づいてブロックの元のサンプル値を再構築し得る(808)。たとえば、ビデオデコーダ300は、元のサンプル値を再構築するために、逆量子化された量子化残差値を対応する予測値に加算し得る。
[0146]以下の段落で、本開示の技法による列挙された例の非限定的なリストを提供する。
[0147]例1。 ビデオデータを復号する方法であって、前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、前記残差量子化サンプルに基づいて量子化残差値を決定することと、前記量子化残差値を逆量子化することと、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、前記逆量子化された量子化残差と前記予測値とに基づいて前記ブロックの元のサンプル値を再構築することとを備える、方法。
[0148]例2。 前記量子化残差値を決定することは、垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000018
として決定すること、を備え、ここで、Q(ri,j)が、位置i、jにおける量子化残差値であり、
Figure 2023040020000019
が、前記残差量子化サンプルのうちの1つであり、Mが、前記ブロックの行の数であり、Nが、前記ブロックの列の数である、例1の方法。
[0149]例3。 前記量子化残差値を決定することは、水平予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000020
として決定すること、を備え、ここで、Q(ri,j)が、位置i、jにおける量子化残差値であり、
Figure 2023040020000021
が、前記残差量子化サンプルのうちの1つであり、Mが、前記ブロックの行の数であり、Nが、前記ブロックの列の数である、例1の方法。
[0150]例4。 ビデオデータを符号化する方法であって、上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値を生成することと、前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、前記残差値を量子化することと、前記量子化された残差値に基づいて残差量子化サンプルを決定することとを備える、方法。
[0151]例5。 前記残差量子化サンプルを決定することは、垂直予測である前記イントラ予測に基づいて、前記量子化残差を
Figure 2023040020000022
として決定すること、を備え、ここで、
Figure 2023040020000023
が、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)が、量子化残差値であり、Mが、前記ブロックの行の数であり、Nが、前記ブロックの列の数である、例4の方法。
[0152]例6。 前記量子化残差を決定することは、水平予測である前記イントラ予測に基づいて、前記量子化残差を
Figure 2023040020000024
として決定すること、を備え、ここで、
Figure 2023040020000025
が、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)が、量子化残差値であり、Mが、前記ブロックの行の数であり、Nが、前記ブロックの列の数である、例4の方法。
[0153]例7。 ビデオデータをコーディングするためのデバイスであって、例1~6のいずれかの方法を実施するための1つまたは複数の手段を備える、デバイス。
[0154]例8。 前記1つまたは複数の手段は、回路中に実装された1つまたは複数のプロセッサを備える、例7のデバイス。
[0155]例9。 前記ビデオデータを記憶するためのメモリをさらに備える、例7および8のいずれかのデバイス。
[0156]例10。 復号ビデオデータを表示するように構成されたディスプレイをさらに備える、例7~9のいずれかのデバイス。
[0157]例11。 前記デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、例7~10のいずれかのデバイス。
[0158]例12。 前記デバイスがビデオデコーダを備える、例7~11のいずれかのデバイス。
[0159]例13。 前記デバイスがビデオエンコーダを備える、例7~12のいずれかのデバイス。
[0160]例14。 実行されたとき、例1~6のいずれかの方法を1つまたは複数のプロセッサに実施させる命令を記憶したコンピュータ可読記憶媒体。
[0161]例15。 ビデオデータを符号化するためのデバイスであって、例1~6のいずれかの方法を実施するための手段を備える、デバイス。
[0162]例に応じて、本明細書で説明された技法のいずれかのいくつかの行為またはイベントは、異なるシーケンスで実施され得、追加、マージ、または完全に除外され得る(たとえば、すべての説明された行為またはイベントが本技法の実践のために必要であるとは限らない)ことを認識されたい。その上、いくつかの例では、行為またはイベントは、連続的にではなく、たとえば、マルチスレッド処理、割込み処理、または複数のプロセッサを通して同時に実施され得る。
[0163]1つまたは複数の例では、説明された機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せにおいて実装され得る。ソフトウェアで実装される場合、機能は、1つまたは複数の命令またはコードとして、コンピュータ可読媒体上に記憶されるか、あるいはコンピュータ可読媒体を介して送信され、ハードウェアベースの処理ユニットによって実行され得る。コンピュータ可読媒体は、データ記憶媒体などの有形媒体に対応する、コンピュータ可読記憶媒体を含み得るか、または、たとえば、通信プロトコルに従って、ある場所から別の場所へのコンピュータプログラムの転送を促進する任意の媒体を含む通信媒体を含み得る。このようにして、コンピュータ可読媒体は、概して、(1)非一時的な有形コンピュータ可読記憶媒体、あるいは(2)信号または搬送波などの通信媒体に対応し得る。データ記憶媒体は、本開示において説明された技法の実装のための命令、コードおよび/またはデータ構造を取り出すために、1つまたは複数のコンピュータあるいは1つまたは複数のプロセッサによってアクセスされ得る、任意の利用可能な媒体であり得る。コンピュータプログラム製品はコンピュータ可読媒体を含み得る。
[0164]限定ではなく例として、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM(登録商標)、CD-ROMまたは他の光ディスクストレージ、磁気ディスクストレージ、または他の磁気ストレージデバイス、フラッシュメモリ、あるいは命令またはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る、任意の他の媒体を備えることができる。また、いかなる接続もコンピュータ可読媒体と適切に呼ばれる。たとえば、命令が、同軸ケーブル、光ファイバーケーブル、ツイストペア、デジタル加入者回線(DSL)、または赤外線、無線、およびマイクロ波などのワイヤレス技術を使用して、ウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバーケーブル、ツイストペア、DSL、または赤外線、無線、およびマイクロ波などのワイヤレス技術は媒体の定義に含まれる。しかしながら、コンピュータ可読記憶媒体およびデータ記憶媒体が、接続、搬送波、信号、または他の一時的媒体を含むのではなく、非一時的な有形の記憶媒体を対象とすることを理解されたい。本明細書において使用されるディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピー(登録商標)ディスク(disk)およびBlu-rayディスク(disc)を含み、ここで、ディスク(disk)は通常、データを磁気的に再生し、ディスク(disc)は、データをレーザーで光学的に再生する。上述の組合せもコンピュータ可読媒体の範囲内に含まれるべきである。
[0165]命令は、1つまたは複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、または他の均等な集積論理回路構成もしくは個別論理回路構成など、1つまたは複数のプロセッサによって実行され得る。したがって、本明細書において使用される「プロセッサ」および「処理回路」という用語は、前述の構造、または本明細書において説明された技法の実装に好適な任意の他の構造のいずれかを指し得る。加えて、いくつかの態様では、本明細書で説明された機能は、符号化および復号のために構成された専用ハードウェアおよび/またはソフトウェアモジュール内に提供されるか、あるいは複合コーデックに組み込まれ得る。また、本技法は、1つまたは複数の回路または論理要素において十分に実装され得る。
[0166]本開示の技法は、ワイヤレスハンドセット、集積回路(IC)またはICのセット(たとえば、チップセット)を含む、多種多様なデバイスまたは装置に実装され得る。本開示では、開示される技法を実施するように構成されたデバイスの機能的態様を強調するために様々な構成要素、モジュール、またはユニットについて説明されたが、それらの構成要素、モジュール、またはユニットを、必ずしも異なるハードウェアユニットによって実現する必要があるとは限らない。むしろ、上記で説明されたように、様々なユニットは、好適なソフトウェアおよび/またはファームウェアとともに、上記で説明された1つまたは複数のプロセッサを含めて、コーデックハードウェアユニットにおいて組み合わされるか、または相互動作ハードウェアユニットの集合によって提供され得る。
[0167]様々な例について説明された。これらおよび他の例は添付の特許請求の範囲内に入る。
[0167]様々な例について説明された。これらおよび他の例は添付の特許請求の範囲内に入る。
以下に本願の出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
ビデオデータを復号する方法であって、
前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、
前記残差量子化サンプルに基づいて量子化残差値を決定することと、
前記量子化残差値を決定した後に、前記量子化残差値を逆量子化することと、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、
前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築することと、
を備える、方法。
[C2]
前記量子化残差値を決定することは、
垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000066
として決定すること、ここで、Q(r i,j )は、位置i、jにおける量子化残差値であり、
Figure 2023040020000067
は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C1に記載の方法。
[C3]
前記量子化残差値を決定することは、
水平予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000068
として決定すること、ここで、Q(r i,j )は、位置i、jにおける量子化残差値であり、
Figure 2023040020000069
は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C1に記載の方法。
[C4]
ビデオデータを符号化する方法であって、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、
前記残差値を量子化することと、
前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定することと、
前記残差量子化サンプルをシグナリングすることと、
を備える、方法。
[C5]
前記残差量子化サンプルを決定することは、
垂直予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
Figure 2023040020000070
として決定すること、ここで、
Figure 2023040020000071
は、位置i、jにおける残差量子化サンプルであり、Q(r i,j )およびQ(r (i-1),j )は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C4に記載の方法。
[C6]
前記量子化残差値を決定することは、
水平予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
Figure 2023040020000072
として決定すること、ここで、
Figure 2023040020000073
は、位置i、jにおける残差量子化サンプルであり、Q(r i,j )およびQ(r (i-1),j )は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C4に記載の方法。
[C7]
ビデオデータを復号するためのデバイスであって、
前記ビデオデータを記憶するように構成されたメモリと、
回路中に実装された1つまたは複数のプロセッサと、を備え、前記1つまたは複数のプロセッサは、
前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、
前記残差量子化サンプルに基づいて量子化残差値を決定することと、
前記量子化残差値を決定した後に、前記量子化残差値を逆量子化することと、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、
前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築することと、
を行うように構成された、デバイス。
[C8]
前記1つまたは複数のプロセッサは、前記量子化残差値を決定することの一部として、前記1つまたは複数のプロセッサが、
垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000074
として決定すること、ここで、Q(r i,j )は、位置i、jにおける量子化残差値であり、
Figure 2023040020000075
は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を行うように構成された、C7に記載のデバイス。
[C9]
前記1つまたは複数のプロセッサは、前記量子化残差値を決定することの一部として、前記1つまたは複数のプロセッサが、
水平予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000076
として決定すること、ここで、Q(r i,j )は、位置i、jにおける量子化残差値であり、
Figure 2023040020000077
は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を行うように構成された、C7に記載のデバイス。
[C10]
復号ビデオデータを表示するように構成されたディスプレイをさらに備える、C7に記載のデバイス。
[C11]
前記デバイスは、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、C7に記載のデバイス。
[C12]
ビデオデータを符号化するためのデバイスであって、
前記ビデオデータを記憶するように構成されたメモリと、
回路中に実装された1つまたは複数のプロセッサと、を備え、前記1つまたは複数のプロセッサは、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、
前記残差値を量子化することと、
前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定することと、
前記残差量子化サンプルをシグナリングすることと、
を行うように構成された、デバイス。
[C13]
前記1つまたは複数のプロセッサは、前記残差量子化サンプルを決定することの一部として、前記1つまたは複数のプロセッサが、
垂直予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
Figure 2023040020000078
として決定すること、ここで、
Figure 2023040020000079
は、位置i、jにおける残差量子化サンプルであり、Q(r i,j )およびQ(r (i-1),j )は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を行うように構成された、C12に記載のデバイス。
[C14]
前記1つまたは複数のプロセッサは、前記量子化残差値を決定することの一部として、前記1つまたは複数のプロセッサが、
水平予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
Figure 2023040020000080
として決定すること、ここで、
Figure 2023040020000081
は、位置i、jにおける残差量子化サンプルであり、Q(r i,j )およびQ(r (i-1),j )は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を行うように構成された、C12に記載のデバイス。
[C15]
前記デバイスは、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、C12に記載のデバイス。
[C16]
ビデオデータを復号するためのデバイスであって、
前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定するための手段と、
前記残差量子化サンプルに基づいて量子化残差値を決定するための手段と、
前記量子化残差値を決定した後に、前記量子化残差値を逆量子化するための手段と、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成するための手段と、
前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築するための手段と、
を備える、デバイス。
[C17]
前記量子化残差値を決定するための前記手段は、
垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000082
として決定するための手段、ここで、Q(r i,j )は、位置i、jにおける量子化残差値であり、
Figure 2023040020000083
は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C16に記載のデバイス。
[C18]
前記量子化残差値を決定するための前記手段は、
水平予測である前記イントラ予測に基づいて、前記量子化残差値を
Figure 2023040020000084
として決定するための手段、ここで、Q(r i,j )は、位置i、jにおける量子化残差値であり、
Figure 2023040020000085
は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C16に記載のデバイス。
[C19]
ビデオデータを符号化するためのデバイスであって、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成するための手段と、
前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成するための手段と、
前記残差値を量子化するための手段と、
前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定するための手段と、
前記残差量子化サンプルをシグナリングするための手段と、
を備える、デバイス。
[C20]
前記残差量子化サンプルを決定するための前記手段は、
垂直予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
Figure 2023040020000086
として決定するための手段、ここで、
Figure 2023040020000087
は、位置i、jにおける残差量子化サンプルであり、Q(r i,j )およびQ(r (i-1),j )は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C19に記載のデバイス。
[C21]
前記量子化残差値を決定するための前記手段は、
水平予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
Figure 2023040020000088
として決定するための手段、ここで、
Figure 2023040020000089
は、位置i、jにおける残差量子化サンプルであり、Q(r i,j )およびQ(r (i-1),j )は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
を備える、C19に記載のデバイス。
[C22]
命令を記憶したコンピュータ可読記憶媒体であって、前記命令は、実行されたとき、1つまたは複数のプロセッサに、
ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、
前記残差量子化サンプルに基づいて量子化残差値を決定することと、
前記量子化残差値を決定した後に、前記量子化残差値を逆量子化することと、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、
前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築することと、
を行わせる、コンピュータ可読記憶媒体。
[C23]
命令を記憶したコンピュータ可読記憶媒体であって、前記命令は、実行されたとき、1つまたは複数のプロセッサに、
上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、
前記残差値を量子化することと、
前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定することと、
前記残差量子化サンプルをシグナリングすることと、
を行わせる、コンピュータ可読記憶媒体。

Claims (23)

  1. ビデオデータを復号する方法であって、
    前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、
    前記残差量子化サンプルに基づいて量子化残差値を決定することと、
    前記量子化残差値を決定した後に、前記量子化残差値を逆量子化することと、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、
    前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築することと、
    を備える、方法。
  2. 前記量子化残差値を決定することは、
    垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
    Figure 2023040020000026
    として決定すること、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
    Figure 2023040020000027
    は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項1に記載の方法。
  3. 前記量子化残差値を決定することは、
    水平予測である前記イントラ予測に基づいて、前記量子化残差値を
    Figure 2023040020000028
    として決定すること、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
    Figure 2023040020000029
    は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項1に記載の方法。
  4. ビデオデータを符号化する方法であって、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
    前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、 前記残差値を量子化することと、
    前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定することと、
    前記残差量子化サンプルをシグナリングすることと、
    を備える、方法。
  5. 前記残差量子化サンプルを決定することは、
    垂直予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
    Figure 2023040020000030
    として決定すること、ここで、
    Figure 2023040020000031
    は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項4に記載の方法。
  6. 前記量子化残差値を決定することは、
    水平予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
    Figure 2023040020000032
    として決定すること、ここで、
    Figure 2023040020000033
    は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項4に記載の方法。
  7. ビデオデータを復号するためのデバイスであって、
    前記ビデオデータを記憶するように構成されたメモリと、
    回路中に実装された1つまたは複数のプロセッサと、を備え、前記1つまたは複数のプロセッサは、
    前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、
    前記残差量子化サンプルに基づいて量子化残差値を決定することと、
    前記量子化残差値を決定した後に、前記量子化残差値を逆量子化することと、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、
    前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築することと、
    を行うように構成された、デバイス。
  8. 前記1つまたは複数のプロセッサは、前記量子化残差値を決定することの一部として、前記1つまたは複数のプロセッサが、
    垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
    Figure 2023040020000034
    として決定すること、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
    Figure 2023040020000035
    は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を行うように構成された、請求項7に記載のデバイス。
  9. 前記1つまたは複数のプロセッサは、前記量子化残差値を決定することの一部として、前記1つまたは複数のプロセッサが、
    水平予測である前記イントラ予測に基づいて、前記量子化残差値を
    Figure 2023040020000036
    として決定すること、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
    Figure 2023040020000037
    は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を行うように構成された、請求項7に記載のデバイス。
  10. 復号ビデオデータを表示するように構成されたディスプレイをさらに備える、請求項7に記載のデバイス。
  11. 前記デバイスは、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、請求項7に記載のデバイス。
  12. ビデオデータを符号化するためのデバイスであって、
    前記ビデオデータを記憶するように構成されたメモリと、
    回路中に実装された1つまたは複数のプロセッサと、を備え、前記1つまたは複数のプロセッサは、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
    前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、 前記残差値を量子化することと、
    前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定することと、
    前記残差量子化サンプルをシグナリングすることと、
    を行うように構成された、デバイス。
  13. 前記1つまたは複数のプロセッサは、前記残差量子化サンプルを決定することの一部として、前記1つまたは複数のプロセッサが、
    垂直予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
    Figure 2023040020000038
    として決定すること、ここで、
    Figure 2023040020000039
    は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を行うように構成された、請求項12に記載のデバイス。
  14. 前記1つまたは複数のプロセッサは、前記量子化残差値を決定することの一部として、前記1つまたは複数のプロセッサが、
    水平予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
    Figure 2023040020000040
    として決定すること、ここで、
    Figure 2023040020000041
    は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を行うように構成された、請求項12に記載のデバイス。
  15. 前記デバイスは、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、請求項12に記載のデバイス。
  16. ビデオデータを復号するためのデバイスであって、
    前記ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定するための手段と、
    前記残差量子化サンプルに基づいて量子化残差値を決定するための手段と、
    前記量子化残差値を決定した後に、前記量子化残差値を逆量子化するための手段と、 上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成するための手段と、
    前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築するための手段と、
    を備える、デバイス。
  17. 前記量子化残差値を決定するための前記手段は、
    垂直予測である前記イントラ予測に基づいて、前記量子化残差値を
    Figure 2023040020000042
    として決定するための手段、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
    Figure 2023040020000043
    は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項16に記載のデバイス。
  18. 前記量子化残差値を決定するための前記手段は、
    水平予測である前記イントラ予測に基づいて、前記量子化残差値を
    Figure 2023040020000044
    として決定するための手段、ここで、Q(ri,j)は、位置i、jにおける量子化残差値であり、
    Figure 2023040020000045
    は、前記残差量子化サンプルのうちの1つであり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項16に記載のデバイス。
  19. ビデオデータを符号化するためのデバイスであって、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成するための手段と、
    前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成するための手段と、
    前記残差値を量子化するための手段と、
    前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定するための手段と、
    前記残差量子化サンプルをシグナリングするための手段と、
    を備える、デバイス。
  20. 前記残差量子化サンプルを決定するための前記手段は、
    垂直予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
    Figure 2023040020000046
    として決定するための手段、ここで、
    Figure 2023040020000047
    は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項19に記載のデバイス。
  21. 前記量子化残差値を決定するための前記手段は、
    水平予測である前記イントラ予測に基づいて、前記残差量子化サンプルを
    Figure 2023040020000048
    として決定するための手段、ここで、
    Figure 2023040020000049
    は、位置i、jにおける残差量子化サンプルであり、Q(ri,j)およびQ(r(i-1),j)は、量子化残差値であり、Mは、前記ブロックの行の数であり、Nは、前記ブロックの列の数である、
    を備える、請求項19に記載のデバイス。
  22. 命令を記憶したコンピュータ可読記憶媒体であって、前記命令は、実行されたとき、1つまたは複数のプロセッサに、
    ビデオデータの符号化表現を備えるビットストリーム中のシンタックス要素に基づいて、前記ビデオデータのブロックの残差量子化サンプルを決定することと、
    前記残差量子化サンプルに基づいて量子化残差値を決定することと、
    前記量子化残差値を決定した後に、前記量子化残差値を逆量子化することと、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、前記ブロックのためにイントラ予測を実施することによって予測値を生成することと、
    前記逆量子化された量子化残差値と前記予測値とに基づいて、前記ブロックの元のサンプル値を再構築することと、
    を行わせる、コンピュータ可読記憶媒体。
  23. 命令を記憶したコンピュータ可読記憶媒体であって、前記命令は、実行されたとき、1つまたは複数のプロセッサに、
    上または左のブロック境界サンプルから、フィルタ処理されていないサンプルを使用して、ビデオデータのブロックのためにイントラ予測を実施することによって予測値のブロックを生成することと、
    前記ブロックの元のサンプル値と前記予測値とに基づいて残差値を生成することと、 前記残差値を量子化することと、
    前記残差値を量子化した後に、前記量子化された残差値に基づいて残差量子化サンプルを決定することと、
    前記残差量子化サンプルをシグナリングすることと、
    を行わせる、コンピュータ可読記憶媒体。
JP2022201350A 2019-03-12 2022-12-16 ビデオコーディングにおける係数領域ブロック差分パルスコード変調 Pending JP2023040020A (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201962817451P 2019-03-12 2019-03-12
US62/817,451 2019-03-12
US16/816,116 2020-03-11
US16/816,116 US11070812B2 (en) 2019-03-12 2020-03-11 Coefficient domain block differential pulse-code modulation in video coding
JP2021552917A JP2022521809A (ja) 2019-03-12 2020-03-12 ビデオコーディングにおける係数領域ブロック差分パルスコード変調
PCT/US2020/022376 WO2020186050A1 (en) 2019-03-12 2020-03-12 Coefficient domain block differential pulse-code modulation in video coding

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021552917A Division JP2022521809A (ja) 2019-03-12 2020-03-12 ビデオコーディングにおける係数領域ブロック差分パルスコード変調

Publications (1)

Publication Number Publication Date
JP2023040020A true JP2023040020A (ja) 2023-03-22

Family

ID=72423598

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021552917A Withdrawn JP2022521809A (ja) 2019-03-12 2020-03-12 ビデオコーディングにおける係数領域ブロック差分パルスコード変調
JP2022201350A Pending JP2023040020A (ja) 2019-03-12 2022-12-16 ビデオコーディングにおける係数領域ブロック差分パルスコード変調

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021552917A Withdrawn JP2022521809A (ja) 2019-03-12 2020-03-12 ビデオコーディングにおける係数領域ブロック差分パルスコード変調

Country Status (16)

Country Link
US (1) US11070812B2 (ja)
EP (1) EP3939306A1 (ja)
JP (2) JP2022521809A (ja)
KR (2) KR102455655B1 (ja)
CN (1) CN113557734A (ja)
AR (1) AR118338A1 (ja)
AU (1) AU2020235622B2 (ja)
BR (1) BR112021017452A2 (ja)
CA (1) CA3131191A1 (ja)
CL (1) CL2021002335A1 (ja)
CO (1) CO2021011809A2 (ja)
IL (1) IL285754B1 (ja)
MX (1) MX2021010860A (ja)
SG (1) SG11202109009PA (ja)
WO (1) WO2020186050A1 (ja)
ZA (1) ZA202107662B (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220210430A1 (en) * 2019-04-16 2022-06-30 Lg Electronics Inc. Method and device for coding/decoding image using differential coding of residual coefficient, and method for transmitting bitstream
CN113906753B (zh) * 2019-04-24 2023-12-01 字节跳动有限公司 编解码视频的量化残差差分脉冲编解码调制表示的约束
US11368721B2 (en) * 2019-04-30 2022-06-21 Tencent America LLC Method and apparatus for interaction between intra prediction mode and block differential pulse-code modulation mode
CN117857783A (zh) * 2019-05-01 2024-04-09 字节跳动有限公司 使用量化残差差分脉冲码调制编解码的帧内编解码视频
WO2020223615A1 (en) 2019-05-02 2020-11-05 Bytedance Inc. Coding mode based on a coding tree structure type
CN114175660A (zh) * 2019-05-22 2022-03-11 Lg电子株式会社 使用bdpcm的图像解码方法及其装置
CN113455006B (zh) * 2019-06-18 2024-01-16 Lg 电子株式会社 图像解码方法和装置
BR112021025916A2 (pt) * 2019-06-28 2022-02-15 Bytedance Inc Método de processamento de dados de vídeo, aparelho para processar dados de vídeo, meio de armazenamento e meio de gravação não transitórios legíveis por computador

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140286412A1 (en) 2013-03-25 2014-09-25 Qualcomm Incorporated Intra dc prediction for lossless coding in video coding
US11323747B2 (en) * 2013-06-05 2022-05-03 Qualcomm Incorporated Residual differential pulse code modulation (DPCM) extensions and harmonization with transform skip, rotation, and scans
US9877035B2 (en) * 2014-03-17 2018-01-23 Qualcomm Incorporated Quantization processes for residue differential pulse code modulation
US10455249B2 (en) * 2015-03-20 2019-10-22 Qualcomm Incorporated Downsampling process for linear model prediction mode
US11477484B2 (en) * 2015-06-22 2022-10-18 Qualcomm Incorporated Video intra prediction using hybrid recursive filters
US11012701B2 (en) * 2019-02-22 2021-05-18 Tencent America LLC Residual coding for transform skip mode and block differential pulse-code modulation
JP7257535B2 (ja) * 2019-02-24 2023-04-13 テンセント・アメリカ・エルエルシー 変換スキップモードとブロック差分パルスコード変調の改善された残差コーディング
US11128876B2 (en) * 2019-03-12 2021-09-21 Qualcomm Incorporated Joint coefficient coding of transform skip and BDPCM mode for 4:4:4 color formats

Also Published As

Publication number Publication date
US11070812B2 (en) 2021-07-20
KR102455655B1 (ko) 2022-10-17
CN113557734A (zh) 2021-10-26
BR112021017452A2 (pt) 2021-11-16
SG11202109009PA (en) 2021-09-29
IL285754A (en) 2021-10-31
AR118338A1 (es) 2021-09-29
US20200296381A1 (en) 2020-09-17
KR20210113422A (ko) 2021-09-15
JP2022521809A (ja) 2022-04-12
ZA202107662B (en) 2022-08-31
IL285754B1 (en) 2024-02-01
MX2021010860A (es) 2021-10-22
WO2020186050A1 (en) 2020-09-17
EP3939306A1 (en) 2022-01-19
CA3131191A1 (en) 2020-09-17
AU2020235622B2 (en) 2023-08-24
CO2021011809A2 (es) 2021-09-30
AU2020235622A1 (en) 2021-09-23
KR20220020427A (ko) 2022-02-18
CL2021002335A1 (es) 2022-06-10

Similar Documents

Publication Publication Date Title
US11425405B2 (en) Cross-component adaptive loop filter in video coding
US20200366937A1 (en) Low-frequency non-separable transform signaling based on zero-out patterns for video coding
KR20220020266A (ko) 비디오 코딩에서 저주파수 분리불가능한 변환을 위한 변환 및 마지막 유의 계수 위치 시그널링
KR102455655B1 (ko) 비디오 코딩에서의 계수 도메인 블록 차동 펄스-코드 변조
US11539982B2 (en) Merge estimation region for multi-type-tree block structure
CN111602395B (zh) 用于视频译码的量化组
CN114424570B (zh) 用于视频编解码的变换单元设计
KR20220036940A (ko) 팔레트 모드에서의 델타 양자화 파라미터 (qp) 시그널링
US11343493B2 (en) Bit shifting for cross-component adaptive loop filtering for video coding
US11418787B2 (en) Chroma delta QP in video coding
US11722692B2 (en) History-based motion vector predictor constraint for merge estimation region
US20210160481A1 (en) Flexible signaling of qp offset for adaptive color transform in video coding
CN114175643A (zh) 调色板和预测模式信令
JP2022552173A (ja) ビデオコーディングのための変換スキップにおける残差値のためのコーディング方式をシグナリングすること
US20220103842A1 (en) Fixed bit depth processing for cross-component linear model (cclm) mode in video coding
KR20230075443A (ko) 상이한 비트 심도에서 비디오 데이터의 코딩을 위한 적응적 루프 필터링의 동작 비트 심도의 제한
CN116250233A (zh) 具有最坏情况复杂度处理的扩展低频不可分离变换(lfnst)设计
CN111684797A (zh) 用于视频译码的调色板译码

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230110

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240502