JP2022513433A - 画像をデブロッキングするための方法及び装置 - Google Patents

画像をデブロッキングするための方法及び装置 Download PDF

Info

Publication number
JP2022513433A
JP2022513433A JP2021525875A JP2021525875A JP2022513433A JP 2022513433 A JP2022513433 A JP 2022513433A JP 2021525875 A JP2021525875 A JP 2021525875A JP 2021525875 A JP2021525875 A JP 2021525875A JP 2022513433 A JP2022513433 A JP 2022513433A
Authority
JP
Japan
Prior art keywords
block
prediction mode
sample
inter
prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021525875A
Other languages
English (en)
Other versions
JPWO2020123442A5 (ja
Inventor
ボルデ,フィリップ
ギャルピン,フランク
ラグランジュ,フィリップ ド
Original Assignee
インターデジタル ヴイシー ホールディングス, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インターデジタル ヴイシー ホールディングス, インコーポレイテッド filed Critical インターデジタル ヴイシー ホールディングス, インコーポレイテッド
Publication of JP2022513433A publication Critical patent/JP2022513433A/ja
Publication of JPWO2020123442A5 publication Critical patent/JPWO2020123442A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/004Predictors, e.g. intraframe, interframe coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/635Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by filter definition or implementation details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

異なる実装が説明され、特に、画像をデブロッキングするための方法を含む、映像符号化及び復号化のための実装が提示される。一実装によれば、画像をデブロッキングするための方法では、サンプルの第1のブロックとサンプルの第2のブロックとの間の少なくとも1つの境界が決定され、第1のブロックの予測モード及び第2のブロックの予測モードのうちの少なくとも1つに従って境界強度が決定され、境界強度に従って、少なくとも1つの境界に隣接した第1及び第2のブロックのサンプルがフィルタリングされる。有利に、第1のブロックの予測モードが重み付き予測モードである場合には、境界強度は、第1のブロックの重み付き予測モードに従ってサンプルの第1のブロックを予測する際に用いられるサンプルの相対的重みにさらに依存し、第2のブロックについても同様である。

Description

技術分野
本実施形態のうちの少なくとも1つは、概して、例えば、映像符号化又は復号化のための方法又は装置に関し、より詳細には、画像をデブロッキングするための方法又は装置に関する。
背景
1つ以上の実装の技術分野は、概して、映像圧縮に関する。少なくともいくつかの実施形態は、HEVC(HEVCは、「ITUのITU-T H.265電気通信標準化部門(10/2014)、シリーズH:視聴覚及びマルチメディアシステム、視聴覚サービスのインフラストラクチャ - 動画像のコーディング、高効率ビデオコーディング、勧告ITU-T H.265」に記載されたH.265及びMPEG-H Part2としても知られる、高効率ビデオコーディング(High Efficiency Video Coding)を指す)などの既存の映像圧縮システムと比べて、又はVVC(多用途ビデオコーディング(Versatile Video Coding)、JVET、ジョイントビデオエクスパーツチーム(Joint Video Experts Team)によって開発されている新たな規格)などの開発中の映像圧縮システムと比べて、圧縮効率を改善することに関する。
高い圧縮効率を達成するために、画像及び映像符号化方式は、通例、画像の分割、動きベクトル予測を含む、予測、並びに映像内容における空間及び時間冗長性を活用するための変換を採用する。概して、イントラ又はインター予測が、フレーム内若しくはフレーム間相関を利用するために用いられ、次に、しばしば、予測誤差又は予測残差と示される、元の画像と予測された画像との間の差が周波数領域の係数に変換され、係数が量子化され、エントロピー符号化される。映像を再構成するために、圧縮されたデータは、エントロピー復号化、逆量子化、逆変換、及び予測に対応する逆のプロセスによって復号化される。
HEVC又はVVCなどのコーデックでは、デブロッキングフィルタ(deblocking filter)DBFが、ピクチャが再構成された後に適用され、ブロックエッジ付近のサンプル値を平滑化することによってブロッキングアーチファクトを低減することを目的とする。デブロッキングフィルタは、ルマサンプルのうちの少なくとも4つのサンプルに等しいサイズの伝統的な正方形又は矩形ブロック分割形状を用いて定義される。次に、デブロッキングフィルタ強度の決定のために用いられるべき動きベクトル、参照インデックス、及び参照デブロッキングサンプルの選択が遂行される。例えば、Norkinらは、「HEVC Deblocking Filter」(IEEE Transactions on Circuits and Systems for Video Technology, vol.22 No12, Dec. 2012)においてデブロッキングの原理を説明している。
最新のビデオコーデックのアプローチでは、予測サンプルが、非正方形又は非矩形ブロック(例えば、三角形)の組み合わせ、及び/又は不等の(例えば、CUレベル重みを用いた双方向予測(Bi-prediction with CU level Weights)BCWとも称される、一般化双方向予測(Generalized bi-prediction)GBi)、及び/又は空間的に可変の重み付け(例えば、多重仮説又は組み合わせインターマージ・イントラ予測(Combined Inter merge Intra Prediction)CIIP)の組み合わせを用いて構築される、新たな符号化(予測)モードが考慮される。それゆえ、ブロッキングアーチファクトを依然として効率的に低減するためにデブロッキングフィルタプロセスをこのような符号化モードに適応させることが望まれる。
概要
本発明の目的は、従来技術の不利点のうちの少なくとも1つを克服することである。
この目的のために、少なくとも1つの実施形態の一般的態様によれば、画像の部分をデブロッキングするための方法が提示される。本方法は、サンプルの第1のブロックとサンプルの第2のブロックとの間の少なくとも1つの境界を決定することであって、第1のブロック及び第2のブロックが、フィルタリングするべき画像の部分に属する、決定することと、第1のブロックの予測モード及び第2のブロックの予測モードのうちの少なくとも1つに従って境界強度を決定することと、境界強度に従って少なくとも1つの境界をフィルタリングすること、すなわち、少なくとも1つの境界に隣接した第1及び第2のブロックのサンプルをフィルタリングすることと、を含む。第1のブロックの予測モードが重み付き予測モードである場合には、境界強度は、第1のブロックの重み付き予測モードに従ってサンプルの第1のブロックを予測する際に用いられるサンプルの相対的重みにさらに依存する。当然、同じことが第2のブロックにも区別なく当てはまる:第2のブロックの予測モードが重み付き予測モードである場合には、境界強度は、第2のブロックの重み付き予測モードに従ってサンプルの第2のブロックを予測する際に用いられるサンプルの相対的重みにさらに依存する。重み付き予測モードは、第1の予測モードを用いて決定された第1の予測因子及び第2の予測モードを用いて決定された第2の予測因子の重み付き組み合わせから予測が得られる符号化モードである。
少なくとも1つの実施形態の別の一般的態様によれば、画像符号化においてブロックを符号化するための方法が提示される。本方法は、画像部分を再構成することと、デブロッキング方法の実施形態のうちの任意のものに従って、再構成された画像部分をフィルタリングすることと、を含む。
少なくとも1つの実施形態の別の一般的態様によれば、画像のブロックを復号化するための方法であって、画像の部分を復号化することと、デブロッキング方法の実施形態のうちの任意のものに従って、復号化された画像部分をフィルタリングすることと、を含む、方法が提示される。
少なくとも1つの実施形態の別の一般的態様によれば、映像符号化のための装置であって、符号化方法の実施形態のうちの任意のものを実施するための手段を備える、装置が提示される。
少なくとも1つの実施形態の別の一般的態様によれば、映像復号化のための装置であって、復号化方法の実施形態のうちの任意のものを実施するための手段を備える、装置が提示される。
少なくとも1つの実施形態の別の一般的態様によれば、映像符号化のための装置であって、1つ以上のプロセッサと、少なくとも1つのメモリとを備える、装置が提供される。1つ以上のプロセッサは、符号化方法の実施形態のうちの任意のものを実施するように構成されている。
少なくとも1つの実施形態の別の一般的態様によれば、映像復号化のための装置であって、1つ以上のプロセッサと、少なくとも1つのメモリとを備える、装置が提供される。1つ以上のプロセッサは、復号化方法の実施形態のうちの任意のものを実施するように構成されている。
少なくとも1つの実施形態の別の一般的態様によれば、重み付き予測モードは、一般化双方向予測、符号化ユニットレベル重みを用いた双方向予測、イントラ及びインター予測されたサンプルを組み合わせた、又はインター及びインター予測されたサンプルを組み合わせた多重仮説予測、インターマージ及びイントラ予測されたサンプルを組み合わせた組み合わせインターマージ・イントラ予測、ブロックの幾何学的分割に応じたインター予測されたサンプルを組み合わせた幾何学的予測、ブロックの対角エッジに沿ったインター予測されたサンプルを組み合わせた三角形予測のうちの1つである。
少なくとも1つの実施形態の別の一般的態様によれば、第1のブロックの重み付き予測モードに従ってサンプルの第1のブロックを予測することは、第1のブロックのサンプルを、第1の予測モードを用いて決定された第1の予測因子及び第2の予測モードを用いて決定された第2の予測因子の重み付き組み合わせとして予測することを含み、第1のブロックのサンプルは、第1の予測因子の重みがレベルを上回る場合には、境界強度を決定するために第1の予測モードを用いるものとして考慮される。
少なくとも1つの実施形態の別の一般的態様によれば、第1の予測モードは1イントラ予測(one intra prediction)モードであり、第1のブロックのサンプルは、境界強度を決定するためにイントラ予測モードを用いるものとして考慮される。一変形例では、第1の予測モードはイントラ平面予測モード(intra planar prediction mode)であり、第1のブロックのサンプルは、境界強度を決定するためにイントラ予測モードを用いるものとして考慮される。一変形例では、イントラ予測モードの場合には、境界強度は強に設定される。
少なくとも1つの実施形態の別の一般的態様によれば、第1の予測モードは1インター予測モードであり、第1のブロックのサンプルは、境界強度を決定するためにインター予測モードを用いるものとして考慮される。一変形例では、第1の予測モードはインター双方向予測モードであり、第1のブロックのサンプルは、境界強度を決定するためにインター双方向予測モードを用いるものとして考慮される。別の変形例では、第1の予測モードはインター単方向予測モードであり、第1のブロックのサンプルは、境界強度を決定するためにインター単方向予測モードを用いるものとして考慮される。
少なくとも1つの実施形態の別の一般的態様によれば、BSの決定におけるレベルは0に設定される。
少なくとも1つの実施形態の別の一般的態様によれば、境界強度は、同じ相対的重みを共有するブロックのサンプルのグループのために決定され、サンプルのグループは、ブロックの少なくとも1つのサンプル、4x4のサンプル、最大全てのサンプルを含む。
少なくとも1つの実施形態の別の一般的態様によれば、上述の説明のうちの任意のものの方法又は装置に従って生成されたデータ内容を包含する非一時的コンピュータ可読媒体が提示される。
少なくとも1つの実施形態の別の一般的態様によれば、上述の説明のうちの任意のものの方法又は装置に従って生成された映像データを含む信号又はビットストリームが提供される。
本実施形態のうちの1つ以上はまた、コンピュータ可読記憶媒体であって、上述された方法のうちの任意のものに従って映像データをデブロッキング、符号化、又は復号化するための命令がその上に記憶された、コンピュータ可読記憶媒体を提供する。本実施形態はまた、コンピュータ可読記憶媒体であって、上述された方法に従って生成されたビットストリームがその上に記憶された、コンピュータ可読記憶媒体を提供する。本実施形態はまた、上述された方法に従って生成されたビットストリームを伝送するための方法及び装置を提供する。本実施形態はまた、上述された方法のうちの任意のものを遂行するための命令を含むコンピュータプログラム製品を提供する。
図面の簡単な説明
図1aは、復号器アーキテクチャ内のループ内ポストフィルタリング段階の例示的なフローチャートを示す。 図1bは、デブロッキングフィルタの前(左)及び後(右)の復号化された画像の一例を示す。 図2は、サンプルの2つのブロック(右)の間のブロッキングアーチファクトを有するブロック境界サンプル(左)の一例を示す。 図3は、特定の実施形態に係るデブロッキングフィルタの方法における境界強度(BS(Boundary Strength))パラメータの決定の例示的なフローチャートを示す。 図4は、特定の実施形態に係るデブロッキングフィルタの方法におけるフィルタ強度(FS(Filter Strength))の決定の例示的なフローチャートを示す。 図5は、インター及びイントラモードの組み合わせの場合の多重仮説予測の一例を示す。 図6は、非矩形分割(上)の一例、及び三角形分割に関連付けられたオーバーラップブロック動き補償の対角重み付け(下)の一例を示す。 図7は、特定の実施形態に係る三角形論理分割(左)及び混合マップ(右)の一例を示す。 図8は、少なくとも1つの実施形態の一般的態様に係る画像の部分をデブロッキングするための方法の一例を示す。 図9は、特定の実施形態に係るデブロッキングフィルタの方法における境界強度の決定のフローチャートを示す。 図10は、特定の実施形態に係るデブロッキングフィルタの方法における境界強度(BS)パラメータの決定において用いられるCUパラメータの記憶の2つのフローチャートを示す。 図11は、実施形態の様々な態様が実施され得る映像符号器の一実施形態のブロック図を示す。 図12は、実施形態の様々な態様が実施され得る映像復号器の一実施形態のブロック図を示す。 図13は、実施形態の様々な態様が実施され得る例示的な装置のブロック図を示す。
詳細な説明
図及び説明は、本原理の明確な理解のために関連する要素を例示するために単純化されており、その一方で、分かりやすくする目的のために、典型邸な符号化及び/又は復号化デバイスにおいて見出される多くの他の要素を排除していることを理解されたい。用語、第1及び第2は本明細書において様々な要素を記述するために用いられ得るが、これらの要素はこれらの用語によって限定されるべきではないことが理解されるであろう。これらの用語は、単に、1つの要素を別のものと区別するために用いられるにすぎない。
様々な実施形態が画像の符号化/復号化に関して説明される。それらは、スライス又はタイル、タイルグループ、或いは画像の全シーケンスなどの、画像の部分を符号化/復号化するために適用され得る。
様々な方法が上述されており、方法の各々は、上述の方法を達成するための1つ以上のステップ又はアクションを含む。方法の適切な動作のためにステップ又はアクションの特定の順序が必要とされない限り、特定のステップ及び/又はアクションの順序及び/又は使用は変更されるか、又は組み合わせられてもよい。
少なくともいくつかの実施形態は、ブロックが以下の3つの予測モードのうちの1つを用いて符号化された場合に、デブロッキングフィルタDBFを適応させることに関する:
・ 一般化双方向予測(GBi)、又はCUレベル重みを用いた双方向予測(BCW)、
・ 多重仮説(MH(Multi-Hypothesis))、又は組み合わせインターマージ・イントラ予測CIIPと呼ばれる単純化されたバージョン、
・ 幾何学又は三角形モード。
有利に、本原理は、非正方形又は非矩形ブロックがサポートされており、及び/又は可変重み付けを有するブロックの組み合わせがサポートされているブロックベースのビデオコーデックにおいてDBFの意図及び効率を維持することによって、従来技術の方法の効率を増大させる。
以下において、デブロッキング方法のための一般的実施形態が開示され、デブロッキングフィルタが適応させられる少なくとも3つの予測モードが開示される。次に、変更されたデブロッキングフィルタのいくつかの実施形態が開示される
デブロッキング方法のための一般的実施形態、及びデブロッキングフィルタが適応させられる例示的な予測モード
伝統的な映像符号化方式は、再構成された画像の質を改善するためのループ内フィルタリングプロセスを含む。ループ内フィルタリングは、デブロッキングフィルタリング(DBF(Deblocking Filtering))、HEVCにおけるサンプルアダプティブオフセット(SAO(Sample Adaptive Offset))フィルタリング、及び/又はウィーナフィルタなどの適応ループフィルタリング(Adaptive Loop Filtering)ALFなどの、いくつかのフィルタリングプロセスを含むことができる。これらのフィルタは、この順序で、又は異なる順序で連続的に適用され得る。図1aは、復号器アーキテクチャ内のループ内ポストフィルタリング段階の例示的なフローチャートを示す。通例、デブロッキングフィルタ(DBF)は符号化アーチファクト低減ポストフィルタ(20)のうちの1つであり、ブロックサンプルが再構成された(10)後に適用される。ポストフィルタリングされたピクチャは表示することができ、場合によっては、動き補償された予測を構築するべく用いられるために復号化ピクチャバッファ(30)内に記憶される。有利に、同じループ内ポストフィルタリングが、符号器内でも、時間予測において用いられる再構成された画像のために用いられる。
図1bは、デブロッキングフィルタの前(左)及びデブロッキングフィルタの後(右)の復号化された画像の一例を示す。デブロッキングフィルタは、ピクチャが再構成された(10)後に適用される。それは、図1b上に示されるように、ブロックエッジ付近のサンプル値を平滑化することによって、ブロッキングアーチファクトを低減することを目的とする。
図2は、サンプルの2つのブロックP及びQ(右)の間のブロッキングアーチファクトを有するブロック境界サンプル(左)の一例を示す。サンプルP={p0,p1,p2,p3}及びQ={q0,q1,q2,q3}は2つの隣接したブロックP及びQに属する。サンプルは、図2の右側に示されるとおりの正方形4x4ブロックP及びQに属し、ここで、サンプルP={p0,p1,p2,p3}における第2の添字iは4X4ブロックにおける行添字である。概して、アーチファクトの視認性は、図2の左側に示されるとおりのサンプル値P及びQの間の相対差に比例する。それが、DBFフィルタリングがブロックエッジにわたってサンプル平滑化Sを遂行する理由である。平滑化/フィルタリング関数Sのパラメータは以下のとおりである:
- 境界強度(BS)={0-弱、1-普通、又は2-強}
- ブロックP、Qのサンプル値
正方形ブロックのためのDBFパラメータの決定は、鉛直(別に、水平)境界の各側の行(又は列)サンプルのセット{p3,p2,p1,p0,q0,q1,q2,q3}ごとに実施される。
図3は、特定の実施形態に係るデブロッキングフィルタの方法における境界強度(BS)パラメータの決定の例示的なフローチャート300を示す。{MVi,ref-i}を、ブロックX(X=P又はQ)のためのリスト「i」のための動きベクトル(motion vector)MV値及び参照インデックスを表すものとする。慣例により、ブロックXがリスト0を用いて単方向に予測される場合には、このとき、{MV0は0に設定され、ref-0は「-1」に設定される}。別に、ブロックXがリスト1を用いて単方向に予測される場合には、このとき、{MV1は0に設定され、ref-1は「-1」に設定される}。
境界強度BSの決定300はいくつかのブロックパラメータに依存し、連続したチェックによるものになる。例えば、チェックは以下のとおりである:
- (305):P又はQがイントラである(さもなければ、インターとして考慮される)。チェックの結果がいいえになった場合には、次に、P及びQブロックの両方が、関連動きベクトル及び参照インデックスピクチャを用いて、インター予測され、さらなるチェックが、BSを決定するために処理される。P又はQがイントラである場合には、チェックの結果ははいになり、BSは2-強に設定される。
- (310):P又はQが、0でない係数を有し、境界がトランスフォーム境界である。
- (320):P及びQが異なる参照インデックスを有する。それゆえ、非限定例によれば、Pが双方向予測され({MV0,ref-0},{MV1,ref-1})、Qが単方向予測される{MV0,ref-0}場合には、このとき、以下のとおりであるかどうかをチェックする:
ref-0≠ref-0且つref-1≠ref-0 (チェック1)
- (330):P及びQが異なる参照数を有する(単方向又は双方向予測)。一変形例では、(330)は存在せず、単方向において、欠けた参照のMV値は、0であると推論される。
- (340):同じ参照を有するP及びQの動きベクトルが異なる値を有する。それゆえ、非限定例によれば、Pが双方向予測され({MV0,ref-0},{MV1,ref-1})、Qが単方向予測される{MV0,ref-0}場合には、このとき、以下のとおりであるかどうかをチェックする:
ref-0=ref-0且つ|MV0-MV0|>閾値であるかどうか
又はref-1=ref-0且つ|MV1-MV0|>閾値であるかどうか (チェック2)
当業者は、(チェック2)の上記の式から、2つの双方向予測されるブロック又は2つの単方向予測されるブロックの場合のチェックを曖昧さなく導出するであろう。
ルマサンプルのブロックの場合には、1又は2に等しいBSを有するブロック境界のみがフィルタリングされる。クロマサンプルのブロックの場合には、2に等しいBSを有するブロック境界のみがフィルタリングされる。
図4は、特定の実施形態に係るデブロッキングフィルタの方法におけるフィルタ強度の決定の例示的なフローチャートを示す。それゆえ、BSが決定される仕方(300)とは独立して、追加の試験(415)が、所定の閾値βと比べた重み付きサンプル値の絶対差の結合を含む条件のセットに基づいて、フィルタリングが適用されるか否かを決定する:
|p2-2p1+p0|+|p2-2p1+p0|+|q2-2q1+q0|+|q2-2q1+q0|>β (式1)
フィルタが適用される場合には、フィルタリングプロセス(430)が、サンプル値(410、サンプル値にアクセスする)に依存して図2の境界の各側におけるP、Qサンプルのうちの1つ以上を変更する。フィルタリングプロセスの強度(普通又は強)は、所定の閾値と比べた重み付きサンプル値の絶対差の組み合わせを含む条件のセットに基づいて、境界の各側のサンプルの行(別に、列)ごとに決定される(420)。いくつかの閾値は量子化パラメータ(QP(quantization parameter))の関数である(440)。
ブロック境界の各側において(430)によって変更されるサンプルの数はフィルタ強度に依存する。フィルタ強度が強いほど、ブロック境界の各側の多くの画素に影響を及ぼす。
これより、ブロック内の不等又は空間的に可変の重みを有する重み付き予測を含み、デブロッキングフィルタが適応させられる少なくとも3つの新たな予測モードが開示される。
デブロッキングフィルタが適応させられる第1の予測モード:一般化双方向予測(GBI)
双方向予測の場合には、2つの予測ブロックが計算され、重み付き合計と組み合わせられ、次式のように最終ブロック予測を得る:
GBI=(((1<<gs)-gw).P+gw.P)>>gs (式2)
VVC参照ソフトウェア(VTM)において、用いるべき重みは、値が表1に示されている「gbiインデックス」を用いてCUごとに符号化される。
Figure 2022513433000002
以下において、重みの対{1/2;1/2}はデフォルト重みと呼ばれることになる。
デブロッキングフィルタが適応させられる第2の予測モード:多重仮説
多重仮説(Multi Hypothesis)MHの一般概念は、マージモード(マージ候補のリスト{参照インデックス、動き値}が構築され、動き補償されたインター予測のための動き情報を取得するために、1つの候補を識別するマージインデックスが信号で通信される)において遂行されるインター予測P0(単方向又は双方向予測され得る)を、イントラ予測(MH-インター-イントラ)又は別のインター予測(MH-インター-インター:例えば、単方向予測AMVP、スキップ及びマージ)のうちの一方である別の予測P1と組み合わせることである。最終予測は、マージインデックス付き予測、及び他の予測モード(イントラ又はインター)によって生成された予測の重み付き平均であり、この場合、組み合わせに依存して異なる重みが適用される。
図5は、インター及びイントラモードの組み合わせMH-インター-イントラの場合の多重仮説予測の一例を示す。イントラ予測モードは信号で通信される(それは古典的予測モードの部分セット(例えば4)であることができる)。重みw_intra(y)は、領域がイントラ参照サンプルから遠くなるにつれて徐々に減少する。非限定例によれば、現在のブロックは、同じ重み付けを共有する4つの等面積領域に分けられる。(w0=w_intra,w1=w_inter)と表される各重みセット(ここで、iは1~4であり、(w_intra,w_inter)=(6,2)、(w_intra,w_inter)=(5,3)、(w_intra,w_inter)=(3,5)、及び(w_intra,w_inter)=(2,6))が、イントラ鉛直方向予測のための図5の例に示されるように、対応する領域に適用される。DC又は平面モードが選択されるか、或いはCUの幅又は高さが4よりも小さいときには、等しい重みが適用される。換言すれば、予測P1のイントラ予測モードがDC又は平面モードであるときには、現在のブロックの任意のサンプルの予測において用いられる相対的重みは、w0=w_intra=1/2及びw1=w_inter=1/2である。したがって、等しい重みの1つの領域のみが存在する(i=1)。VVCにおいて定義された符号化モード、組み合わせインターマージ・イントラ予測CIIPは、マージモードにおいて遂行されるインター予測P0(単方向又は双方向予測され得る)を、等しい重み1/2を有する平面イントラ予測である別の予測P1と組み合わせるMH-インター-イントラの特定例である。
インター及びインターモードの組み合わせMH-インター-インターの場合の多重仮説予測の別の例によれば、重みはデフォルトのもの(1/2;1/2)である。MH-インター-インターモードの他の変形例によれば、インターモードのうちの1つ又は2つは双方向予測であり{2つのMV、2つの参照}、これにより、サンプル予測の構築は最大4つの動き補償の計算を必要とする。
デブロッキングフィルタが適応させられる第3の予測モード:幾何学的分割
幾何学的(例えば、三角形)モードは、符号化前にピクチャをブロックに分割するためのさらなる柔軟性を可能にする。図6は、非矩形分割(上)の一例、及び三角形分割に関連付けられたオーバーラップブロック動き補償の対角重み付け(下)の一例を示す。図6の上の2つの左側の例は三角形分割を表し、図6の上の4つの右側の例は幾何学的分割のより一般的な方式を表す。例えば、図6の下側に示される対角エッジに沿って、オーバーラップ境界を混合したときには、さらなる符号化性能が得られる。したがって、ブロックの対角線上に位置する4の重み係数を有するルマサンプルは1/2(W=W=4/8=1/2)の等しい重みを用い、その一方で、2の重み係数を有するブロックの対角線に隣接したルマサンプルは(W=2/8=1/4及びW=6/8=3/4)の重みを用いる。変形例によっては、この重み付けプロセスは、GBI又は局部照明補償(Local Illumination Compensation)LICなどの他の重み付けと縦続接続し、実施の複雑さを増大させる。
三角形分割の場合には、サンプルを2つのグループに分けることができる:
- 単方向動き補償(P0又はP1)を用いて予測されるサンプル
- 双方向予測動き補償、単方向予測P0及び単方向予測P1の混合を用いて予測されるサンプル。
以前に説明されたように、重み付き予測を用いる少なくともシーセス(theses)3つの符号化モードは、デブロッキングフィルタにおいて境界強度又はフィルタ強度を査定する際に問題を生じさせる。
新たな予測モードに適応させられた、変更されたデブロッキングフィルタのいくつかの実施形態
本原理の少なくとも1つの実施形態は、ブロックが、非正方形又は非矩形ブロック(例えば、三角形)の組み合わせ、及び/又は不等(例えば、GBi)及び/又は空間的に可変の重み付け(例えば、MH)の組み合わせを用いて符号化される場合には、デブロッキングフィルタDBFを変更することに関する。有利に、三角形分割のために、又はより一般的には、幾何学的分割のために示されるとおりの、非正方形又は非矩形ブロックは、図7上に示されるとおりの空間的に可変の重み付けを有する2つの予測の組み合わせとして考慮される。
有利に、少なくとも1つの実施形態では、DBFプロセス(フィルタ強度の導出及びフィルタリング)は、元のDBFの意図及び効率を保つように変更され、それゆえ、従来技術の方法と比べてその効率を増大させる。
図8は、少なくとも1つの実施形態の一般的態様に係る画像の部分をデブロッキングするための方法の一例を示す。予備的ステップS110によれば、2つの隣接ブロックに関する情報にアクセスする。2つの隣接ブロックは、後に、第1のブロックP及び第2のブロックQと呼ばれ、それらは制限なく交換可能である。用語、第1及び第2は、本明細書において、2つのブロックを記述するために用いられ得るが、これらの2つのブロックはこれらの用語によって限定されるべきではない。これらの用語は、単に、1つの要素を別のものと区別するために用いられるにすぎない。第1のブロックP及び第2のブロックQは、フィルタリングするべき画像の部分に属する。サンプルのブロックは、非限定例によれば、符号化ユニット又は変換ユニットのうちの一方である。第1のステップS120において、サンプルの第1のブロックPとサンプルの第2のブロックQとの間の少なくとも1つの境界を決定する。特定の実施形態では、フラグEdgeFlagは、DBFを用いてフィルタリングするべき境界におけるサンプルのために1に設定され、フラグEdgeFlagは、DBFを用いてフィルタリングされるべきでないサンプルのために0に設定される。DBFを用いてフィルタリングされるべきでないサンプルは、画像の境界における、又はスライスの境界におけるサンプル、或いはブロック、例えば、符号化ユニット又は変換ユニットの内部の(境界サンプルでない)サンプルを含む。境界は、水平境界(水平エッジ)又は鉛直境界(鉛直エッジ)のいずれかである。ステップS130において、DBFの少なくとも1つのパラメータを決定する。以前に示されたように、DBFの少なくとも1つのパラメータは、フィルタの境界強度BS、及びフィルタ強度FSを含む。境界強度BSは、弱(BS=0)、普通(BS=1)、又は強(BS=2)の値の間で選択される。フィルタ強度FSは、フィルタを適用するか否かに関し、ブロック境界の各側の大なり小なりの画素に影響を及ぼす決定プロセスの結果を参照する。決定プロセスは、第1のブロックP及び第2のブロックQのサンプルの値に関する少なくとも1つの条件を含む。ステップS140において、第1のブロックの予測モード及び第2のブロックの予測モードのうちの少なくとも1つに従って境界強度BSを決定する。有利に、境界強度BSは、第1の予測を第2の予測と組み合わせた重み付き予測モードである予測モードのために適応させられる。特定の特徴によれば、第1のブロックの予測モードが重み付き予測モードである場合には、境界強度BSは、第1のブロックの重み付き予測モードに従ってサンプルの第1のブロックを予測する際に用いられるサンプルの相対的重みにさらに依存する。特定の特徴によれば、重み付き予測モードは、符号化ユニットレベル重みを用いた双方向予測BCWとも称される一般化双方向予測GBi、イントラ及びインター予測されたサンプルを組み合わせた(MH-インター-イントラ)、又はインター及びインター予測されたサンプルを組み合わせた(MH-インター-インター)多重仮説予測、インターマージ及びイントラ予測されたサンプルを組み合わせた組み合わせインターマージ・イントラ予測、ブロックの幾何学的分割に応じたインター予測されたサンプルを組み合わせた幾何学的予測、ブロックの対角エッジに沿ったインター予測されたサンプルを組み合わせた三角形予測を含む、以前に説明された符号化モードのうちの1つである。以下において、BSを決定するための様々な実施形態が説明される。特定の実施形態によれば、第1のブロックの重み付き予測モードに従ってサンプルの第1のブロックを予測することは、第1のブロックのサンプルを、第1の予測モードを用いて決定された第1の予測因子P0及び第2の予測モードを用いて決定された第2の予測因子P1の重み付き組み合わせ(w0、w1=1-w0)として予測することを含み、第1のブロックのサンプルは、第1の予測因子の重みw0がレベルを上回る場合には、境界強度を決定するために第1の予測モードを用いるものとして考慮される。他の特定の実施形態によれば、第1の予測因子の重みw0を有するブロック内のサンプルの数がレベルを上回り、BSにおいて第1のブロックのために用いるべきモードを決定する。特定の変形例によれば、レベルは0に設定される。別の特定の変形例によれば、境界強度は、同じ相対的重みを共有するブロックのサンプルのグループのために決定される。非限定例によれば、サンプルのグループは、ブロックの1つのサンプル、又は4x4のサンプル、及び最大全てのサンプルを含む。次に、ステップS160において、決定された境界強度BSに従ってDBFフィルタリングプロセスを境界に沿って第1及び第2のブロックに適用する。
以前のアプローチでは、1つの矩形又は正方形ブロックのためのDBFパラメータの選定は、図2上に示されるとおりの鉛直(別に、水平)境界の各側の行(又は列)サンプルのセット{p3i,p2i,p1i,p0i,q0i,q1i,q2i,q3i}ごとに実施される。しかし、実施を容易にするには、一般的には、例えば、4x4サブブロックなどのサンプルのグループごとにDBFパラメータを管理/設定することが好ましい。
したがって、以下において、現在のブロックのためのDBFパラメータが、サイズ4x4のサブブロックのサンプルのグループごとに設定される場合の実施形態が説明される。しかし、本原理は、4x4サブブロックのためのDBFパラメータを決定することに限定されない。当業者は、以下の例から、他のサイズのための、又はさらに、単一の行(若しくは、単一の列)ごとのパラメータを直接に推論するであろう。次に、ブロックはサブブロックのセットに分割され、1つの行(別に、列)内のサンプル値に関連するDBFパラメータ(例えば、フィルタリング強度)を除いて、同じDBFパラメータ(例えば、BS)がサブブロックの全てのサンプルのために導出される。
図7は、特定の実施形態に係る三角形論理分割(左)及び混合マップ(右)の一例を示す。例えば、三角形などの非矩形分割の場合には、1つのサブブロックのいくつかのサンプルは単方向予測を用いて予測され、他のものは双方向予測(2つの単方向予測の混合)を用いて予測されることが起こり得る。図7の左側において、サブブロックsb2は、単方向予測を用いて予測されるサブブロックを示し、その一方で、サブブロックsb3は、双方向予測を用いて予測されるサブブロックを示す。この場合、BSの選定がサンプルごとに個々に行われる場合には、ステップ320、330、340が異なる結果を与え得るため、BSはサンプルごとに異なり得る。
以下において、我々は、サンプル(x)ごとに、第1の予測因子ブロックP0及び第2の予測因子ブロックP1にそれぞれ関連付けられた混合重みw0(x)及びw1(x)を包含する2つの混合マップを各サブブロックに関連付けることになる。このマップの目的は、実施形態の説明を容易にすることであり、このとき、それは、仮想的なものであってもよく、つまり、それは計算されるか、又はメモリシステム内に記憶されなくてもよい。伝統的な双方向予測の場合には、2つのマップは均一であり、1/2に等しい。GBiの場合には、2つのマップは均一であり、例えば、それぞれ3/8及び5/8に等しい。MHの場合には、例えば、w0(x)=w_intra(x)及びw1(x)=w_inter(x)である。
画像の部分をデブロッキングするための一般的方法において用いられる境界強度BSを決定するためのいくつかの実施形態が説明される。実施形態は、いくつかの実施形態の任意の組み合わせに従って共に配列され得る。
デブロッキングフィルタの第1の実施形態
第1の実施形態は、デブロッキングフィルタであって、境界強度が、サンプルの数、及び双方向予測若しくは重み付き双方向予測において用いられるサンプルの相対的重みに適応させられる、デブロッキングフィルタを備える。本実施形態は、境界の一方の側の1つのサブブロックが幾何学的分割又はGBiを用いる場合に、有利にうまく適応させられる。
所与のサブブロックのために、図3のプロセス320は以下のように変更される:
a) サブブロック内の少なくとも1つのサンプルが双方向予測される場合には、このとき、サブブロックは、(例えば、図7の右側の混合マップに係るsb2及びsb3のように)BSの決定のために双方向予測されるものとして考慮される。
b) 一変形例では、サブブロック内の双方向予測を用いるサンプルの相対数が閾値を上回る場合には、このとき、サブブロックは、BSの決定のために双方向予測されるものとして考慮される(例えば、図7の右側の混合マップに係る、14個の双方向予測されるサンプルを有するsb3は、双方向予測されるものとして考慮され、その一方で、図7の右側の混合マップに係る3つの双方向予測されるサンプルを有するsb2は、単方向予測されるものとして考慮される)。
c) 一変形例では、サブブロック内の双方向予測されるサンプルの数の計算は、1つの混合重み(w0(x)又はw1(x))が閾値又はレベル(例えば、th=1/4)を下回るサンプルを除外する。これらのサンプルは、単方向予測されるものとして考慮される。
d) 一変形例では、n0を、予測のために参照0を用いるサンプルの相対数を表すものとし、n1を、予測のために参照1を用いるサンプルの相対数とし、n0/(n0+n1)及びn1/(n0+n1)が閾値を上回る場合には、このとき、サブブロックは、BSの決定のために双方向予測されるものとして考慮される。
非限定的な値によれば、b)、c)及びd)において、閾値又はレベルは0である。
有利に、閾値は、例えば、ブロックのサイズ及び分割の種類によってインデックス付けされたルックアップ表の内部にハードコードされる。
デブロッキングフィルタの第2の実施形態
第2の実施形態は、デブロッキングフィルタであって、境界強度が、インター及びイントラ予測されるサンプルを組み合わせる際に、或いはインター及びインター予測されるサンプルを組み合わせる際に用いられるサンプルの相対的重みに局所的に適応させられる、デブロッキングフィルタを備える。本実施形態は、境界の一方の側の1つのサブブロックがMHを用いる場合に、有利にうまく適応させられる。
MH-インター-イントラを用いるサブブロックを考慮すると:
a) w_intra(x)が閾値/レベルを上回るブロックの区域はイントラとして考慮される。例えば、図5のMH-インター-イントラの例の場合には、最初の3つの上の区域はイントラとして考慮される。
b) w_inter(x)が閾値/レベルを上回るブロックの区域はインターとして考慮される。インター予測が双方向予測(又は単方向)である場合には、区域は双方向予測(別に、単方向)と考慮される。例えば、図5のMH-インター-イントラの例の場合には、最後の下の区域(w_inter(x)=6/8)はインターとして考慮される。
以前と同様に、一変形例では、閾値又はレベルは0であることに留意されたい。
加えて、一変形例では、閾値は、ブロックのサイズ、及び用いられるイントラ方向によってインデックス付けされたルックアップ表の内部にハードコードされる。
それゆえ、a)によれば、第1の予測モードが1イントラ予測モードである場合、及び第1の予測因子の重み(w_intra(x))がレベルを上回る場合には、第1のブロックのサンプルは、境界強度を決定するためにイントラ予測モードを用いるものとして考慮される。特に、これは、方向性イントラ予測(例えば、図5上に示されるとおりの鉛直イントラ予測)、及びDC若しくは平面などの非方向性モードを含む、イントラ予測モードのうちの任意のものに適用される。加えて、平面又はDCモードの場合には、等しい重みがブロックの区域全体のために適用され、ブロックの区域全体のための同じイントラ予測モードをもたらす。元のDBFの意図によれば、第1のブロックP又は第2のブロックQがイントラである場合には、BSは強に設定され(BS=2)、それゆえ、第1の予測モードが1イントラ予測モードである場合、及び第1の予測因子の重み(w_intra(x))がレベルを上回る場合には、境界強度は強に設定される。CIIP(MH-インター-イントラ、ここで、イントラは平面である)に対応する特定の変形例では、BSはブロックのために強に設定される(BS=2)。
加えて、b)によれば、第1の予測モードが1インター予測モードである場合、及び第1の予測因子の重み(w_inter(x))がレベルを上回る場合には、第1のブロックのサンプルは、境界強度を決定するためにインター予測モードを用いるものとして考慮される。特に、これは、単方向及び双方向インター予測を含むインター予測モードのうちの任意のものに適用される。したがって、第1の予測モードがインター双方向予測モードである場合には、このとき、第1のブロックのサンプルは、境界強度を決定するためにインター双方向予測モードを用いるものとして考慮され、別に、第1の予測モードがインター単方向予測モードである場合には、第1のブロックのサンプルは、境界強度を決定するためにインター単方向予測モードを用いるものとして考慮される。次に、参照インデックス及び動きベクトルの差に関する、異なる種々のチェックが、双方向又は単方向インター予測モードに従って処理される。
P0が双方向予測され、P1が単方向予測される、MH-インター-インターを用いるサブブロックを考慮すると:
c) w0(x)が閾値/レベルを上回るブロックの区域は、双方向予測されるものとして考慮され、その一方で、w1(x)が閾値を上回るブロックの区域は、単方向予測されるものとして考慮される。
d) 一変形例では、少なくともP0又はP1が双方向予測され、{w0(x);w1(x)}が閾値を上回る場合には、このとき、チェック1及びチェック2は以下のように変更される:
(i;j)の全ての対の値について: ref-i≠ref-jであるかどうか (チェック1)
ref-i=ref-jである1つの対の値(i;j)について: |MVi-MVj|>閾値であるかどうか (チェック2)
(i;j)は、ref-i>=0及びref-j>=0などである
以前と同様に、一変形例では、閾値又はレベルは0であることに留意されたい。
有利に、閾値は、ブロックのサイズ及び分割の種類によってインデックス付けされたルックアップ表の内部にハードコードされ得る。
デブロッキングフィルタの第3の実施形態
第3の実施形態は、デブロッキングフィルタであって、境界強度が、予測において用いられるサンプルの重みに適応させられる、デブロッキングフィルタを備える。本実施形態は、境界の一方の側の1つのサブブロックが一般化双方向予測GBi又はBCWを用いる場合に、有利にうまく適応させられる。
参照0及び参照1に関連付けられたGBi重み(w0(x);w1(w))がデフォルトでないサブブロックを考慮すると:
a) w0(x)又はw1(x)が閾値を下回る場合には、このとき、ブロックは、ステップ(320、330)において単方向予測{MV1、ref-1}(又は別に、MV0、ref-0)として考慮され、{MV1、ref-1}(又は別に、MV0、ref-0)のみが(340)において用いられる。
デブロッキングフィルタの第4の実施形態
第4の実施形態は、デブロッキングフィルタであって、動きベクトルが、境界強度を決定するためにPOC差を用いて正規化される、デブロッキングフィルタを備える。第1のブロックP及び第2のブロックQが異なる参照インデックスを有する場合には、試験(320)は「偽」に推論され、(340)のために、Q(又はP)のMV値はP(又は別に、Q)と同じPOCに再スケーリングされる。
デブロッキングフィルタの第5の実施形態
第5の実施形態は、デブロッキングフィルタであって、境界強度を決定することが、境界におけるブロックのうちの1つの符号化モードがMH、GBi、双方向予測のうちの少なくとも1つであるかどうかに関する試験(追加条件)を含む、デブロッキングフィルタを備える。
図9は、第5の実施形態に係るデブロッキングフィルタの方法における境界強度の決定のフローチャートを示す。BSの決定(300)は、第1のブロックP又は第2のブロックQの符号化モード(XX)に関する追加条件(315)を含むように変更される。BSの決定が、図3において説明される方式に従う場合には、この追加条件は、図9における1つの非限定例に示されるとおりの条件(310、320、330、340)の前/後/間に配置され得る。非限定例によれば、XXは、MH、及び/又はGBi、及び/又は双方向予測である。他の非限定例によれば、第1のブロックP又は第2のブロックQの符号化モード(XX)を決定することは、第1、第2、又は第3の実施形態のために説明された変形例のうちの任意のものに適合する。例えば、ブロックの符号化モードは、サンプルの数、及び双方向予測において用いられるサンプルの相対的重みに基づいて決定され、ブロックの符号化モードは、MHにおいて用いられるサンプルの相対的重みに基づいて決定される。符号化モードがイントラと決定された場合には、BSは2に設定される。
デブロッキングフィルタの第6の実施形態
第6の実施形態は、符号器/復号器であって、符号化パラメータが、(境界強度パラメータの決定における)デブロッキングフィルタにおける後の使用のために復号化/再構成時に変更され、記憶される、符号器/復号器を備える。図10は、特定の実施形態に係るデブロッキングフィルタの方法における境界強度(BS)パラメータの決定において用いられるCUパラメータの記憶の2つのフローチャートを示す。図10の左側及び右側の画像の部分をデブロッキングするための方法500は符号器又は復号器のループ内フィルタリングにおいて実施される。本方法は、BSの決定のステップ330及びフィルタDBFの適用のステップ400を含む。
図10の左側に表された一実施形態では、BSパラメータの決定は、CU(又は部分CU)パラメータ(例えば、P、Qモード、参照インデックス、MV値)の部分セットに依存し、以前に示された実施形態に従って変更される。図10の右側に表される別の実施形態では、BSパラメータ300の決定は変更されないが、CU(又は部分CU)パラメータのこの部分セットのうちのいくつかは、現在のCU(別に、部分CU)を復号化し(510)、再構成する(520)ためのそれらの使用後に変更され(530)、他のプロセス(例えば、DBFプロセス)によって利用可能になるために記憶される。CUパラメータのこの部分セットの変更は、他の復号化されたCUパラメータ515の関数である。したがって、この関数は、BS(300の出力)の値を、CU(又は部分CU)パラメータの復号化された部分セット以外のパラメータに依存させることを可能にする。
例えば、符号化モードがMH-インター-イントラである場合、及びw_intra(x)が閾値を上回る場合には、このとき、符号化モードは記憶前にイントラとして変更され、これにより、300において、BSは、イントラ予測モードに対応する強(BS=2)に設定される。このように、MH-インター-イントラ又はCIIPに関して説明された第2の実施形態の変形例a)と同じ挙動が得られる。
別の例では、サブブロック内の双方向予測を用いるサンプルの相対数が閾値を上回る場合には、このとき、サブブロック符号化モードは記憶前に双方向予測されるものとして変更され、これにより、ステップ300において、現在のCUは、双方向予測されるものとして設定され、第1の実施形態の変形例b)において説明されるものと同じ挙動が得られる。
一変形例では、後の使用のために記憶されたこれらの変更されたCU(又は部分CU)パラメータは、他のCU(又は部分CU)によってDBFとは別のプロセスのために用いられる。例えば、変更されたMV値は、後に、時間動き予測(例えば、ATMVP)のために用いられ得る。
追加的な実施形態及び情報
本出願は、ツール、特徴、実施形態、モデル、アプローチ等を含む、種々の態様を説明する。これらの態様のうちの多くは特異的に説明され、少なくとも、個々の特徴を示すために、しばしば、限定と思われるかもしれない仕方で説明される。しかし、これは、説明を明快にする目的のためのものであり、それらの態様の適用又は範囲を限定しない。実際に、異なる態様の全ては、さらなる態様をもたらすよう組み合わせられ、交換され得る。さらに、態様は、以前の出願において説明された態様とも組み合わせられ、交換され得る。
本出願において説明され、企図される態様は多くの異なる形態で実施され得る。以下の図11、図12、及び図13はいくつかの実施形態を提供するが、他の実施形態も企図され、図11、図12、及び図13における説明は実装の広さを限定しない。態様のうちの少なくとも1つは、概して、映像符号化及び復号化に関し、少なくとも1つの他の態様は、概して、生成又は符号化されたビットストリームを伝送することに関する。これら及び他の態様は、方法、装置、上述された方法のうちのいずれかに従って映像データを符号化若しくは復号化するための命令が記憶されたコンピュータ可読記憶媒体、及び/又は上述された方法のうちのいずれかに従って生成されたビットストリームが記憶されたコンピュータ可読記憶媒体として実施され得る。
本出願において、用語「再構成される(reconstructed)」及び「復号化される(decoded)」は互換的に使用され得、用語「画素」及び「サンプル」は互換的に使用され得、用語「画像」、「ピクチャ」、及び「フレーム」は互換的に使用され得る。通常、必ずしもそうとは限らないが、用語「再構成される」は符号器側において使用され、その一方で、「復号化される」は復号器側において使用される。
様々な方法が本明細書において説明されており、方法の各々は、上述の方法を達成するための1つ以上のステップ又はアクションを含む。方法の適切な動作のためにステップ又はアクションの特定の順序が必要とされない限り、特定のステップ及び/又はアクションの順序及び/又は使用は変更されるか、又は組み合わせられてもよい。
本出願において説明される様々な方法及び他の態様は、図11及び図12に示されるとおりの映像符号器100及び復号器200のモジュール、例えば、ループ内フィルタ(165、265)を変更するために用いることができる。さらに、本態様はVVC又はHEVCに限定されず、例えば、既存のものであるのか、又は将来開発されるものであるのかにかかわらず、他の規格及び勧告、並びに任意のこのような規格及び勧告(VVC及びHEVCを含む)の拡張に適用することができる。別段の指示がないか、又は技術的に除外されない限り、本出願において説明される態様は、個々に、又は組み合わせて用いることができる。
本出願においては、様々な数値、例えば、DBFパラメータが推定されるサブブロックのサイズ4x4が用いられる。特定の値は例示目的のためのものであり、説明される態様はこれらの特定の値に限定されない。
図11は符号器100を示す。この符号器100の変形例が企図されるが、以下においては、明快にする目的のために、符号器100は、全ての予想される変形例を説明することなく説明される。
符号化される前に、映像シーケンスは、符号化前処理(101)、例えば、色変換を入力カラーピクチャに適用すること(例えば、RGB4:4:4からYCbCr4:2:0への変換)、又は圧縮に対してより弾力的な信号分布を得るために、入力ピクチャ成分のリマッピングを遂行すること(例えば、色成分のうちの1つのヒストグラム等化を用いる)を経てもよい。メタデータを前処理に関連付け、ビットストリームに添付することができる。
符号器100では、ピクチャが、以下において説明されるように、符号器要素によって符号化される。符号化されるべきピクチャは分割され(102)、例えば、CUのユニットで処理される。各ユニットは、例えば、イントラモード又はインターモードのいずれかを用いて符号化される。ユニットがイントラモードで符号化されるときには、それはイントラ予測(160)を遂行する。インターモードでは、動き推定(175)及び補償(170)が遂行される。符号器は、ユニットを符号化するためにイントラモード又はインターモードのうちのどちらのものを用いるべきかを決定し(105)、例えば、予測モードフラグによって、イントラ/インターの決定を指示する。例えば、予測ブロックを元の画像ブロックから減算すること(110)によって、予測残差が算出される。
次に、予測残差は変換され(125)、量子化される(130)。量子化変換係数、並びに動きベクトル及び他の構文要素は、ビットストリームを出力するためにエントロピー符号化される(145)。符号器は変換を飛ばし、量子化を、変換されていない残差信号に直接適用することができる。符号器は変換及び量子化の両方を迂回することができ、すなわち、残差は、変換又は量子化プロセスの適用を行わずに直接符号化される。
符号器は、さらなる予測のための参照を提供するために、符号化されたブロックを復号化する。量子化変換係数は逆量子化され(140)、予測残差を復号化するために逆変換される(150)。復号化された予測残差及び予測ブロックを組み合わせ(155)、画像ブロックが再構成される。符号化アーチファクトを低減するべく、例えば、デブロッキング/SAO(サンプルアダプティブオフセット)フィルタリングを遂行するためのループ内フィルタ(165)が、再構成されたピクチャに適用される。フィルタリングされた画像は参照ピクチャバッファ(180)において記憶される。
図12は映像復号器200のブロック図を示す。復号器200では、ビットストリームが、以下において説明されるように、復号器要素によって復号化される。映像復号器200は、概して、図11において説明されたとおりの符号化パスと逆の復号化パスを遂行する。符号器100も、概して、映像データを符号化する部分として映像復号化を遂行する。
具体的には、復号器の入力は、映像符号器100によって生成され得る、映像ビットストリームを含む。ビットストリームは、まず、変換係数、動きベクトル、及び他の符号化された情報を取得するために、エントロピー復号化される(230)。ピクチャ分割情報は、ピクチャがどのように分割されているのかを指示する。したがって、復号器は、復号化されたピクチャ分割情報に従ってピクチャを分割し得る(235)。変換係数は逆量子化され(240)、予測残差を復号化するために逆変換される(250)。復号化された予測残差及び予測ブロックを組み合わせ(255)、画像ブロックが再構成される。予測ブロックはイントラ予測(260)又は動き補償予測(すなわち、インター予測)(275)から取得され得る(270)。ループ内フィルタ(265)が、再構成された画像に適用される。フィルタリングされた画像は参照ピクチャバッファ(280)において記憶される。
復号化されたピクチャは、復号化後処理(285)、例えば、逆色変換(例えば、YCbCr4:2:0からRGB4:4:4への変換)、又は符号化前処理(101)において遂行されたリマッピングプロセスの逆を遂行する逆リマッピングをさらに経ることができる。復号化後処理は、符号化前処理において導出され、ビットストリームに含めて信号で通信されたメタデータを用いることができる。
図13は、様々な態様及び実施形態が実施されるシステムの一例のブロック図を示す。システム1000は、以下において説明される様々な構成要素を含むデバイスとして具体化され得、本文書において説明される態様のうちの1つ以上を遂行するように構成されている。このようなデバイスの例としては、限定するものではないが、パーソナルコンピュータ、ラップトップコンピュータ、スマートフォン、タブレットコンピュータ、デジタルマルチメディアセットトップボックス、デジタルテレビ受信器、パーソナルビデオ録画システム、接続された家庭電化製品、及びサーバなどの、様々な電子デバイスが挙げられる。システム1000の要素は、単独で、又は組み合わせて、単一の集積回路(IC(integrated circuit))、複数のIC、及び/又は個別構成要素において具体化され得る。例えば、少なくとも1つの実施形態では、システム1000の処理及び符号器/復号器要素は複数のIC及び/又は個別構成要素にわたって分散している。様々な実施形態では、システム1000は、例えば、通信バスを介して、又は専用入力及び/又は出力ポートを通じて、1つ以上の他のシステム、又は他の電子デバイスに通信可能に結合されている。様々な実施形態では、システム1000は、本文書において説明される態様のうちの1つ以上を実施するように構成されている。
システム1000は、少なくとも1つのプロセッサ1010であって、例えば、本文書において説明される様々な態様を実施するためのそれにロードされた命令を実行するように構成された、少なくとも1つのプロセッサ1010を含む。プロセッサ1010は、組み込みメモリ、入出力インターフェース、及び当技術分野において知られているとおりの様々な他の回路機構を含むことができる。システム1000は少なくとも1つのメモリ1020(例えば、揮発性メモリデバイス、及び/又は不揮発性メモリデバイス)を含む。システム1000は、限定するものではないが、電気的消去可能プログラマブルリードオンリーメモリ(EEPROM(Electrically Erasable Programmable Read-Only Memory))、リードオンリーメモリ(ROM(Read-Only Memory))、プログラマブルリードオンリーメモリ(PROM(Programmable Read-Only Memory))、ランダムアクセスメモリ(RAM(Random Access Memory))、ダイナミックランダムアクセスメモリ(DRAM(Dynamic Random Access Memory))、スタティックランダムアクセスメモリ(SRAM(Static Random Access Memory))、フラッシュ、磁気ディスクドライブ、及び/又は光ディスクドライブを含む、不揮発性メモリ及び/又は揮発性メモリを含むことができる、記憶デバイス1040を含む。記憶デバイス1040は、非限定例として、内部記憶デバイス、付属の記憶デバイス(着脱式及び非着脱式記憶デバイスを含む)、及び/又はネットワークアクセス可能記憶デバイスを含むことができる。
システム1000は、例えば、符号化された映像又は復号化された映像を提供するためにデータを処理するように構成された符号器/復号器モジュール1030を含み、符号器/復号器モジュール1030はそれ自体のプロセッサ及びメモリを含むことができる。符号器/復号器モジュール1030は、符号化及び/又は復号化機能を遂行するためにデバイス内に含まれ得るモジュールを表す。周知のとおり、デバイスは符号化及び復号化モジュールのうちの一方又は両方を含むことができる。加えて、符号器/復号器モジュール1030はシステム1000の別個の要素として実施され得るか、又は当業者に周知のように、ハードウェア及びソフトウェアの組み合わせとしてプロセッサ1010内に組み込まれ得る。
本文書において説明される様々な態様を遂行するためにプロセッサ1010又は符号器/復号器1030上にロードされるべきプログラムコードは、記憶デバイス1040内に記憶され、その後、プロセッサ1010による実行のためにメモリ1020上にロードされ得る。様々な実施形態によれば、プロセッサ1010、メモリ1020、記憶デバイス1040、及び符号器/復号器モジュール1030のうちの1つ以上は、本文書において説明されるプロセスの遂行の最中に様々な項目のうちの1つ以上を記憶することができる。このような記憶される項目は、限定するものではないが、入力映像、復号化された映像、若しくは復号化された映像の部分、ビットストリーム、行列、変数、並びに式、公式、演算、及び動作論理の処理からの中間若しくは最終結果を含むことができる。
実施形態によっては、プロセッサ1010及び/又は符号器/復号器モジュール1030の内部のメモリは、命令を記憶するため、及び符号化若しくは復号化の最中に必要とされる処理のための作業メモリを提供するために用いられる。しかし、他の実施形態では、処理デバイス(例えば、処理デバイスはプロセッサ1010又は符号器/復号器モジュール1030のどちらかであることができる)の外部のメモリがこれらの機能のうちの1つ以上のために用いられる。外部メモリは、メモリ1020及び/又は記憶デバイス1040、例えば、動的揮発性メモリ及び/又は不揮発性フラッシュメモリであることができる。いくつかの実施形態では、外部の不揮発性フラッシュメモリが、例えば、テレビのオペレーティングシステムを記憶するために用いられる。少なくとも1つの実施形態では、RAMなどの高速な外部の動的揮発性メモリが、MPEG-2(MPEGはムービングピクチャーエクスパーツグループ(Moving Picture Experts Group)を指し、MPEG-2はISO/IEC13818とも称され、13818-1はH.222としても知られ、13818-2はH.262としても知られる)、HEVC(HEVCは、H.265及びMPEG-H Part2としても知られる、高効率ビデオコーディング(High Efficiency Video Coding)を指す)、又はVVC(多用途ビデオコーディング(Versatile Video Coding)、JVET、ジョイントビデオエクスパーツチーム(Joint Video Experts Team)によって開発されている新たな規格)などのための、映像符号化及び復号化動作のための作業メモリとして用いられる。
システム1000の要素への入力は、ブロック1130において指示されるように、様々な入力デバイスを通じて提供され得る。このような入力デバイスは、限定するものではないが、(i)放送業者によって、例えば、空中で伝送されたRF信号を受信する無線周波数(RF(radio frequency))部分、(ii)コンポーネント(COMP(Component))入力端子(若しくはCOMP入力端子のセット)、(iii)ユニバーサルシリアルバス(USB(Universal Serial Bus))入力端子、及び/又は(iv)高精細マルチメディアインターフェース(HDMI(High Definition Multimedia Interface))入力端子を含む。図13に示されていない、他の例は複合映像を含む。
様々な実施形態では、ブロック1130の入力デバイスは、当技術分野において知られているように、関連付けられたそれぞれの入力処理要素を有する。例えば、RF部分は、(i)所望の周波数を選択し(信号を選択する、又は信号を周波数の帯域に帯域制限するとも言及される)、(ii)選択された信号をダウンコンバートし、(iii)(例えば)特定の実施形態においてチャネルと称され得る信号周波数帯域を選択するために、周波数のより狭い帯域に再び帯域制限し、(iv)ダウンコンバートされ、帯域制限された信号を復調し、(v)誤り訂正を遂行し、(vi)データパケットの所望のストリームを選択するべく多重分離するために適した要素に関連付けられ得る。様々な実施形態のRF部分は、これらの機能を遂行するための1つ以上の要素、例えば、周波数セレクタ、信号セレクタ、帯域制限器、チャネルセレクタ、フィルタ、ダウンコンバータ、復調器、誤り訂正器、及びデマルチプレクサを含む。RF部分は、例えば、受信信号をより低い周波数(例えば、中間周波数若しくはベースバンド付近の周波数)へ、又はベースバンドへダウンコンバートすることを含む、これらの機能のうちの様々なものを遂行するチューナを含むことができる。1つのセットトップボックスの実施形態では、RF部分及びその関連入力処理要素は、有線(例えば、ケーブル)媒体を通じて伝送されたRF信号を受信し、フィルタリングし、ダウンコンバートし、所望の周波数帯域へ再びフィルタリングすることによって周波数選択を遂行する。様々な実施形態は、上述の(及び他の)要素の順序を並べ替え、これらの要素のうちのいくつかを除去し、及び/又は同様の、若しくは異なる機能を遂行する他の要素を追加する。要素を追加することは、例えば、増幅器及びアナログ-デジタル変換器を挿入するなど、要素を既存の要素の間に挿入することを含むことができる。様々な実施形態では、RF部分はアンテナを含む。
加えて、USB及び/又はHDMI端子は、USB及び/又はHDMI接続を通じてシステム1000を他の電子デバイスに接続するためのそれぞれのインターフェースプロセッサを含むことができる。入力処理の様々な態様、例えば、リード・ソロモン誤り訂正は、例えば、必要に応じて、別個の入力処理IC内、又はプロセッサ1010内で実施され得ることを理解されたい。同様に、USB又はHDMIインターフェース処理の態様は、必要に応じて、別個のインターフェースIC内、又はプロセッサ1010内で実施され得る。復調され、誤り訂正され、多重分離されたストリームは、例えば、出力デバイス上における提示のために必要に応じてデータストリームを処理するためにメモリ及び記憶要素と組み合わせて動作する、プロセッサ1010、及び符号器/復号器1030を含む、様々な処理要素に提供される。
システム1000の様々な要素は一体ハウジング内に提供され得る。一体ハウジング内において、様々な要素は、好適な接続機構、例えば、IC間(I2C)バス、配線、及びプリント回路板を含む、当技術分野において知られているとおりの内部バスを用いて相互接続され、それらの間でデータを伝送することができる。
システム1000は、通信チャネル1060を介した他のデバイスとの通信を可能にする通信インターフェース1050を含む。通信インターフェース1050は、限定するものではないが、通信チャネル1060を通じてデータを伝送及び受信するように構成されたトランシーバを含むことができる。通信インターフェース1050は、限定するものではないが、モデム又はネットワークカードを含むことができ、通信チャネル1060は、例えば、有線及び/又は無線媒体の形で実施され得る。
データは、様々な実施形態では、Wi-Fiネットワーク、例えばIEEE802.11(IEEEは、Institute of Electrical and Electronics Engineers(米国電気電子技術者協会)を指す)などの無線ネットワークを用いて、システム1000へストリーミングされるか、又は他の仕方で提供される。これらの実施形態のWi-Fi信号は、Wi-Fi通信のために適応させられた通信チャネル1060及び通信インターフェース1050を通じて受信される。これらの実施形態の通信チャネル1060は、通例、ストリーミングアプリケーション及び他のオーバーザトップ通信を可能にするためのインターネットを含む外部ネットワークへのアクセスを提供するアクセスポイント又はルータに接続される。他の実施形態は、入力ブロック1130のHDMI接続を通じてデータを配信するセットトップボックスを用いて、ストリーミングされたデータをシステム1000に提供する。さらに他の実施形態は、入力ブロック1130のRF接続を用いて、ストリーミングされたデータをシステム1000に提供する。以上において指示されたように、様々な実施形態は非ストリーミング方式でデータを提供する。加えて、様々な実施形態はWi-Fi以外の無線ネットワーク、例えば、セルラーネットワーク又はBluetoothネットワークを用いる。
システム1000は、ディスプレイ1100、スピーカ1110、及び他の周辺デバイス1120を含む、様々な出力デバイスへ出力信号を提供することができる。様々な実施形態のディスプレイ1100は、例えば、タッチスクリーンディスプレイ、有機発光ダイオード(OLED(organic light-emitting diode))ディスプレイ、曲面ディスプレイ、及び/又は折り畳み式ディスプレイのうちの1つ以上を含む。ディスプレイ1100は、テレビ、タブレット、ラップトップ、セルフォン(携帯電話)、又は他のデバイスのためのものであることができる。ディスプレイ1100はまた、(例えば、スマートフォンの場合のように)他の構成要素と統合されるか、又は別個のもの(例えば、ラップトップのための外部モニタ)であることができる。他の周辺デバイス1120は、実施形態の様々な例では、独立型デジタルビデオディスク(若しくはデジタル多目的ディスク)(両方の用語に対して、DVR)、ディスクプレーヤ、ステレオシステム、及び/又は照明システムのうちの1つ以上を含む。様々な実施形態は、システム1000の出力に基づく機能を提供する1つ以上の周辺デバイス1120を用いる。例えば、ディスクプレーヤは、システム1000の出力を再生する機能を遂行する。
様々な実施形態では、制御信号は、AV.Link、家電制御(CEC(Consumer Electronics Control))、又はユーザの介入を用いる、又は用いないデバイス対デバイス制御を可能にする他の通信プロトコルなどの信号方式を用いて、システム1000と、ディスプレイ1100、スピーカ1110、又は他の周辺デバイス1120との間で通信される。出力デバイスは、それぞれのインターフェース1070、1080、及び1090を通じた専用接続を介してシステム1000に通信可能に結合され得る。代替的に、出力デバイスは、通信インターフェース1050を介した通信チャネル1060を用いてシステム1000に接続され得る。ディスプレイ1100及びスピーカ1110は、例えば、テレビなどの電子デバイス内でシステム1000の他の構成要素と共に単一のユニットに統合され得る。様々な実施形態では、ディスプレイインターフェース1070は、例えば、タイミングコントローラ(T Con)チップなどの、ディスプレイドライバを含む。
例えば、入力1130のRF部分が別個のセットトップボックスの部分である場合には、ディスプレイ1100及びスピーカ1110は、代替的に、他の構成要素のうちの1つ以上とは別個であることができる。ディスプレイ1100及びスピーカ1110が外部構成要素である様々な実施形態では、出力信号は、例えば、HDMIポート、USBポート、又はCOMP出力を含む、専用出力接続を介して提供され得る。
実施形態は、プロセッサ1010によって実施されるコンピュータソフトウェアによって、又はハードウェアによって、或いはハードウェア及びソフトウェアの組み合わせによって実施され得る。非限定例として、実施形態は1つ以上の集積回路によって実施され得る。メモリ1020は、技術環境に適した任意の種類のものであり得、非限定例として、光メモリデバイス、磁気メモリデバイス、半導体ベースのメモリデバイス、固定式メモリ、及び着脱式メモリなどの、任意の好適なデータ記憶技術を用いて実施され得る。プロセッサ1010は、技術環境に適した任意の種類のものであることができ、マイクロプロセッサ、汎用コンピュータ、専用コンピュータ、及びマルチコアアーキテクチャに基づくプロセッサのうちの1つ以上を非限定例として包含することができる。
様々な実装は復号化を含む。「復号化」は、本出願において使用されるとき、表示のために適した最終出力を生成するために、例えば、受信された符号化シーケンスに対して遂行されるプロセスの全て又は部分を包含することができる。様々な実施形態では、このようなプロセスは、復号器によって通例遂行されるプロセス、例えば、エントロピー復号化、逆量子化、逆変換、及び差動復号化のうちの1つ以上を含む。様々な実施形態では、このようなプロセスはまた、又は代替的に、本出願において説明される様々な実装の復号器によって遂行されるプロセス、例えば、ピクチャを再構成し、デブロッキングフィルタのパラメータを決定し、次に、決定されたデブロッキングフィルタパラメータを用いて、再構成されたピクチャをフィルタリングすることを含む。
さらなる例として、一実施形態では「復号化」はエントロピー復号化のみを指し、別の実施形態では「復号化」は差動復号化のみを指し、別の実施形態では「復号化」はエントロピー復号化及び差動復号化の組み合わせを指す。表現「復号化プロセス」が、動作の部分セットを特定的に指すことを意図されているのか、それともより広い復号化プロセスを全体的に指すことを意図されているのかは、具体的記述の文脈に基づいて明らかになり、当業者によって十分理解されると考えられる。
様々な実装は符号化を含む。「復号化」に関する上述の説明と類似した形で、「符号化」は、本出願において使用されるとき、符号化ビットストリームを生成するために、例えば、入力映像シーケンスに対して遂行されるプロセスの全て又は部分を包含することができる。様々な実施形態では、このようなプロセスは、符号器によって通例遂行されるプロセス、例えば、分割、差動符号化、変換、量子化、及びエントロピー符号化のうちの1つ以上を含む。様々な実施形態では、このようなプロセスはまた、又は代替的に、本出願において説明される様々な実装の符号器によって遂行されるプロセス、例えば、符号化されたピクチャを再構成し、デブロッキングフィルタのパラメータを決定し、次に、決定されたデブロッキングフィルタパラメータを用いて、再構成されたピクチャをフィルタリングすることを含む。
さらなる例として、一実施形態では、「符号化」はエントロピー符号化のみを指し、別の実施形態では、「符号化」は差動符号化のみを指し、別の実施形態では、「符号化」は差動符号化及びエントロピー符号化の組み合わせを指す。表現「符号化プロセス」が、動作の部分セットを特定的に指すことを意図されているのか、それともより広い符号化プロセスを全体的に指すことを意図されているのかは、具体的記述の文脈に基づいて明らかになり、当業者によって十分理解されると考えられる。
本明細書において用いられるとおりの構文要素は、例えば、記述用語であることに留意されたい。それゆえ、それらは他の構文要素名の使用を妨げない。
図がフロー図として提示されるときには、それは、対応する装置のブロック図も提供することを理解されたい。同様に、図がブロック図として提示されるときには、それは、対応する方法/プロセスのフロー図も提供することを理解されたい。
本明細書において説明されている実装及び態様は、例えば、方法又はプロセス、装置、ソフトウェアプログラム、データストリーム、或いは信号の形で実施され得る。たとえ、単一の形の実装との関連で説明されているのみである場合でも(例えば、方法として説明されているのみである場合でも)、説明されている特徴の実装は他の形(例えば、装置又はプログラム)でも実施され得る。装置は、例えば、適切なハードウェア、ソフトウェア、及びファームウェアの形で実施され得る。方法は、例えば、例として、コンピュータ、マイクロプロセッサ、集積回路、又はプログラム可能論理デバイスを含む、概して処理デバイスを指す、プロセッサの形で実施され得る。プロセッサはまた、例えば、コンピュータ、携帯電話、ポータブル/パーソナルデジタルアシスタント(portable/personal digital assistant)(「PDA」)、及びエンドユーザ間の情報の通信を促進する他のデバイスなどの、通信デバイスを含む。
「一実施形態(one embodiment)」、又は「一実施形態(an embodiment)」、又は「一実装(one implementation)」、又は「一実装(an implementation)」、並びに他のそれらの変形への言及は、実施形態に関連して説明される特定の特徴、構造、特性等が少なくとも1つの実施形態に含まれることを意味する。それゆえ、本出願全体を通して様々な場所において出現する、表現「一実施形態では(in one embodiment)」、又は「一実施形態では(in an embodiment)」、又は「一実装では(in one embodiment)」、又は「一実装では(in an implementation)」、また、任意の他の変形の出現は、必ずしも全て同じ実施形態に言及しているわけではない。
加えて、本出願は、様々な情報を「決定すること」に言及する場合がある。情報を決定することは、例えば、情報を推定すること、情報を算出すること、情報を予測すること、又は情報をメモリから取り込むことのうちの1つ以上を含むことができる。
さらに、本出願は、様々な情報に「アクセスすること」に言及する場合がある。情報にアクセスすることは、例えば、情報を受信すること、情報を(例えば、メモリから)取り込むこと、情報を記憶すること、情報を移すこと、情報をコピーすること、情報を算出すること、情報を決定すること、情報を予測すること、又は情報を推定することのうちの1つ以上を含むことができる。
加えて、本出願は、様々な情報を「受信すること」に言及する場合がある。受信することは、「アクセスすること」と同様に、幅広い用語であることが意図される。情報を受信することは、例えば、情報にアクセスすること、又は情報を(例えば、メモリから)取り込むことのうちの1つ以上を含むことができる。さらに、「受信すること」は、通例、例えば、情報を記憶すること、情報を処理すること、情報を伝送すること、情報を移すこと、情報をコピーすること、情報を消去すること、情報を算出すること、情報を決定すること、情報を予測すること、又は情報を推定することなどの動作の最中に何らかの形で含まれる。
例えば、「A/B」、「A及び/又はB」及び「A及びBのうちの少なくとも一方」の場合における、以下の「/」、「及び/又は」、及び「~のうちの少なくとも一方」のうちのいずれかの使用は、第1の列挙された選択肢(A)のみの選択、或いは第2の列挙された選択肢(B)のみの選択、或いは両方の選択肢(A及びB)の選択を包含することが意図されることを理解されたい。さらなる例として、「A、B、及び/又はC」及び「A、B、及びCのうちの少なくとも1つ」の場合には、このような表現法は、第1の列挙された選択肢(A)のみの選択、或いは第2の列挙された選択肢(B)のみの選択、或いは第3の列挙された選択肢(C)のみの選択、或いは第1及び第2の列挙された選択肢(A及びB)のみの選択、或いは第1及び第3の列挙された選択肢(A及びC)のみの選択、或いは第2及び第3の列挙された選択肢(B及びC)のみの選択、或いは全ての3つの選択肢(A及びB及びC)の選択を包含することが意図される。これは、本技術分野及び関連技術分野における当業者に明らかであるように、列挙されたとおりの数の項目のために拡張され得る。
また、本明細書で使用するとき、単語「信号で通信する(signal)」は、とりわけ、何らかのものを、対応する復号器に指示することを指す。例えば、特定の実施形態では、符号器は、アーチファクト除去フィルタリングにおけるデブロッキングフィルタのための複数のパラメータのうちの特定のものを信号で通信する。このように、一実施形態では、同じパラメータが符号器側及び復号器側の両方において用いられる。それゆえ、例えば、符号器は特定のパラメータを復号器へ伝送することができ(明示的な信号通信)、これにより、復号器は同じ特定のパラメータを用いることができる。逆に、復号器が特定のパラメータ及び他のものをすでに有する場合には、このとき、信号通信は、単に、復号器が特定のパラメータを知り、選択することを可能にするために、伝送を行わずに用いることができる(暗黙的な信号通信)。任意の実際の関数の伝送を回避することによって、様々な実施形態においてビット節約が実現される。信号通信は種々の仕方で達成され得ることを理解されたい。例えば、様々な実施形態では、1つ以上の構文要素、フラグなどが、情報を対応する復号器へ信号で通信するために用いられる。上述のことは単語「signal」の動詞の形態に関連するが、単語「signal」は本明細書において名詞として使用することもできる。
当業者には明らかであろうように、実装は、例えば、記憶又は伝送され得る情報を搬送するためにフォーマットされた種々の信号を生成することができる。情報は、例えば、方法を遂行するための命令、又は上述の実装のうちの1つによって生成されたデータを含むことができる。例えば、信号は、上述の実施形態のビットストリームを搬送するためにフォーマットされ得る。このような信号は、例えば、(例えば、スペクトルの無線周波数部分を使用する)電磁波として、又はベースバンド信号としてフォーマットされ得る。フォーマッティングは、例えば、データストリームを符号化し、符号化されたデータストリームを用いて搬送波を変調することを含むことができる。信号が搬送する情報は、例えば、アナログ又はデジタル情報であることができる。信号は、周知のように、種々の異なる有線又は無線リンクを通じて伝送され得る。信号はプロセッサ可読媒体上に記憶され得る。
我々は多数の実施形態を記載している。これらの実施形態の特徴は、様々なクレームカテゴリ及びタイプにわたって、単独で、又は任意の組み合わせで提供され得る。さらに、実施形態は、以下の特徴、デバイス、又は態様のうちの1つ以上を、様々なクレームカテゴリ及びタイプにわたって、単独で、又は任意の組み合わせで含むことができる:
・ 復号器及び/又は符号器において適用されるデブロッキングフィルタプロセスを変更する、
・ 復号器及び/又は符号器においていくつかの高度なデブロッキングフィルタを可能にする、
・ 信号通信内に、復号器が、用いるべきデブロッキングフィルタプロセスを識別することを可能にする構文要素を挿入する、
・ これらの構文要素に基づいて、復号器において適用するべきデブロッキングフィルタを選択する、
・ 復号器及び/又は符号器におけるデブロッキングフィルタパラメータを適応させる、
・ 境界におけるブロックが、非正方形又は非矩形ブロックの組み合わせ、及び/又は不等及び/又は空間的に可変の重み付けの組み合わせである場合には、デブロッキングフィルタの境界強度を適応させる、
・ 境界におけるブロックが、非正方形又は非矩形ブロックの組み合わせ、及び/又は不等及び/又は空間的に可変の重み付けの組み合わせである場合には、デブロッキングフィルタのフィルタ強度を適応させる、
・ 各サンプルの予測において用いられる重み付き組み合わせを表現するブロックのサンプルごとの混合マップを決定する、
・ 境界強度を、サンプルの数に、及び/又は双方向予測において用いられるサンプルの重みに適応させる、
・ 境界強度を、インター及びイントラ予測されたサンプルを組み合わせる際に、又はインター及びインター予測されたサンプルを組み合わせる際に用いられるサンプルの相対的重みに適応させる、
・ 境界強度を、予測において用いられるサンプルの重みに適応させる、
・ 境界強度を決定するためにレファンス(refence)フレームのPOC差を用いて動きベクトルを正規化する、
・ 境界強度を決定することが、境界におけるブロックのうちの1つの予測モードがMH、GBi、又は双方向予測のうちの少なくとも1つであるかどうかに関する試験を含む、
・ 符号化パラメータを変更し、変更されたパラメータを、デブロッキングフィルタにおける後の(例えば、境界強度パラメータの決定の際の)使用のために記憶する、
・ 上述された構文要素、又はそれらの変形のうちの1つ以上を含むビットストリーム又は信号、
・ 上述された実施形態のうちの任意のものに従って生成された情報を伝達する構文を含むビットストリーム又は信号、
・ 信号通信内に、復号器がデブロッキングフィルタを、符号器によって用いられるものに対応する仕方で適応させることを可能にする構文要素を挿入する、
・ 上述された構文要素、又はそれらの変形のうちの1つ以上を含むビットストリーム又は信号を作成し、及び/又は伝送し、及び/又は受信し、及び/又は復号化する、
・ 上述された実施形態のうちの任意のものに従って作成し、及び/又は伝送し、及び/又は受信し、及び/又は復号化する、
・ 上述された実施形態のうちの任意のものに係る方法、プロセス、装置、命令を記憶する媒体、データを記憶する媒体、又は信号、
・ 上述された実施形態のうちの任意のものに従ってデブロッキングフィルタパラメータの適応を遂行するTV、セットトップボックス、セルフォン、タブレット、又は他の電子デバイス、
・ 上述された実施形態のうちの任意のものに従ってデブロッキングフィルタパラメータの適応を遂行し、得られた画像を(例えば、モニタ、スクリーン、又は他の種類のディスプレイを用いて)表示するTV、セットトップボックス、セルフォン、タブレット、又は他の電子デバイス、
・ 符号化された画像を含む信号を受信するためのチャネルを(例えば、チューナを用いて)選択し、上述された実施形態のうちの任意のものに従ってデブロッキングフィルタパラメータの適応を遂行するTV、セットトップボックス、セルフォン、タブレット、又は他の電子デバイス、
・ 符号化された画像を含む無線信号を(例えば、アンテナを用いて)受信し、上述された実施形態のうちの任意のものに従ってデブロッキングフィルタパラメータの適応を遂行するTV、セットトップボックス、セルフォン、タブレット、又は他の電子デバイス。

Claims (16)

  1. 画像の部分をデブロッキングするための方法であって、前記方法が、
    サンプルの第1のブロックとサンプルの第2のブロックとの間の少なくとも1つの境界を決定すること(S120)であって、前記第1のブロック及び第2のブロックが画像の前記部分に属する、決定すること(S120)と、
    前記第1のブロックの予測モード及び前記第2のブロックの予測モードのうちの少なくとも1つに従って境界強度を決定すること(S140)と、
    前記境界強度に従って前記少なくとも1つの境界に隣接した前記第1のブロック及び前記第2のブロックのサンプルをフィルタリングすること(S160)と、
    を含み、
    前記第1のブロックの前記予測モードが重み付き予測モードである場合には、前記境界強度が、前記第1のブロックの前記重み付き予測モードに従ってサンプルの前記第1のブロックを予測する際に用いられるサンプルの相対的重みにさらに依存する、方法。
  2. 画像の部分をデブロッキングするための装置であって、前記装置が少なくとも1つのプロセッサを備え、前記少なくとも1つのプロセッサが、
    サンプルの第1のブロックとサンプルの第2のブロックとの間の少なくとも1つの境界を決定することであって、前記第1のブロック及び第2のブロックが画像の前記部分に属する、決定することと、
    前記第1のブロックの予測モード及び前記第2のブロックの予測モードのうちの少なくとも1つに従って境界強度を決定することと、
    前記境界強度に従って前記少なくとも1つの境界に隣接した前記第1のブロック及び前記第2のブロックのサンプルをフィルタリングすることと、
    を行うように構成されており、
    前記第1のブロックの前記予測モードが重み付き予測モードである場合には、前記境界強度が、前記第1のブロックの前記重み付き予測モードに従ってサンプルの前記第1のブロックを予測する際に用いられるサンプルの相対的重みにさらに依存する、装置。
  3. 重み付き予測モードが、一般化双方向予測、符号化ユニットレベル重みを用いた双方向予測、イントラ及びインター予測されたサンプルを組み合わせた、又はインター及びインター予測されたサンプルを組み合わせた多重仮説予測、インターマージ及びイントラ予測されたサンプルを組み合わせた組み合わせインターマージ・イントラ予測、ブロックの幾何学的分割に応じたインター予測されたサンプルを組み合わせた幾何学的予測、ブロックの対角エッジに沿ったインター予測されたサンプルを組み合わせた三角形予測のうちの1つである、請求項1に記載の方法、又は請求項2に記載の装置。
  4. 前記第1のブロックの前記重み付き予測モードに従ってサンプルの前記第1のブロックを予測することが、前記第1のブロックのサンプルを、第1の予測モードを用いて決定された第1の予測因子及び第2の予測モードを用いて決定された第2の予測因子の重み付き組み合わせとして予測することを含み、前記第1のブロックの前記サンプルが、第1の予測因子の前記重みがレベルを上回る場合には、前記境界強度を決定するために前記第1の予測モードを用いるものとして考慮される、請求項1又は3に記載の方法、又は請求項2又は3に記載の装置。
  5. 前記第1の予測モードが1イントラ予測モードであり、前記第1のブロックの前記サンプルが、前記境界強度を決定するためにイントラ予測モードを用いるものとして考慮される、請求項4に記載の方法、又は請求項4に記載の装置。
  6. 前記第1の予測モードがイントラ平面予測モードであり、前記第1のブロックの前記サンプルが、前記境界強度を決定するためにイントラ予測モードを用いるものとして考慮される、請求項5に記載の方法、又は請求項5に記載の装置。
  7. 前記境界強度が強に設定される、請求項5又は6に記載の方法、又は請求項5又は6に記載の装置。
  8. 前記第1の予測モードが1インター予測モードであり、前記第1のブロックの前記サンプルが、前記境界強度を決定するためにインター予測モードを用いるものとして考慮される、請求項4に記載の方法、又は請求項4に記載の装置。
  9. 前記第1の予測モードがインター双方向予測モードであり、前記第1のブロックの前記サンプルが、前記境界強度を決定するためにインター双方向予測モードを用いるものとして考慮されるか、又は前記第1の予測モードがインター単方向予測モードであり、前記第1のブロックの前記サンプルが、前記境界強度を決定するためにインター単方向予測モードを用いるものとして考慮される、請求項8に記載の方法、又は請求項8に記載の装置。
  10. 前記レベルが0に設定される、請求項4~9のいずれか一項に記載の方法、又は請求項4~9のいずれか一項に記載の装置。
  11. 前記境界強度が、同じ相対的重みを共有する前記ブロックのサンプルのグループのために決定され、サンプルの前記グループが、前記ブロックの少なくとも1つのサンプル、最大で全てのサンプルを含む、請求項1、3~10のいずれか一項に記載の方法、又は請求項2~10のいずれか一項に記載の装置。
  12. 画像を復号化するための方法であって、
    - 画像部分の部分を復号化することと、
    - 請求項1又は3~11のいずれか一項に記載のデブロッキング方法に従って、前記復号化された画像部分をフィルタリングすることと、
    を含む、方法。
  13. 画像を符号化するための方法であって、
    - 画像部分を再構成することと、
    - 請求項1又は3~11のいずれか一項に記載のデブロッキング方法に従って、前記再構成された画像部分をフィルタリングすることと、
    を含む、方法。
  14. 画像を復号化するための装置であって、前記装置が1つ以上のプロセッサを備え、前記1つ以上のプロセッサが、
    - 画像部分の部分を復号化することと、
    - 請求項1又は3~11のいずれか一項に記載のデブロッキング方法に従って、前記復号化された画像部分をフィルタリングすることと、
    を遂行するように構成されている、装置。
  15. 画像を符号化するための装置であって、前記装置が1つ以上のプロセッサを備え、前記1つ以上のプロセッサが、
    - 画像部分を再構成することと、
    - 請求項1又は3~11のいずれか一項に記載のデブロッキング方法に従って、前記再構成された画像部分をフィルタリングすることと、
    を遂行するように構成されている、装置。
  16. コンピュータプログラムであって、前記コンピュータプログラムが1つ又はいくつかのプロセッサによって実行されたときに、請求項1、2又は5~11のいずれか一項に記載の方法を遂行するためのソフトウェアコード命令を含む、コンピュータプログラム。
JP2021525875A 2018-12-11 2019-12-10 画像をデブロッキングするための方法及び装置 Pending JP2022513433A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP18306668.7 2018-12-11
EP18306668 2018-12-11
PCT/US2019/065373 WO2020123442A1 (en) 2018-12-11 2019-12-10 Method and apparatus for deblocking an image

Publications (2)

Publication Number Publication Date
JP2022513433A true JP2022513433A (ja) 2022-02-08
JPWO2020123442A5 JPWO2020123442A5 (ja) 2022-12-14

Family

ID=67437062

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021525875A Pending JP2022513433A (ja) 2018-12-11 2019-12-10 画像をデブロッキングするための方法及び装置

Country Status (8)

Country Link
US (2) US11558611B2 (ja)
EP (1) EP3895422A1 (ja)
JP (1) JP2022513433A (ja)
KR (1) KR20210099008A (ja)
CN (1) CN113170125A (ja)
AU (1) AU2019398124A1 (ja)
MX (1) MX2021006936A (ja)
WO (1) WO2020123442A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022517488A (ja) * 2019-01-17 2022-03-09 ホアウェイ・テクノロジーズ・カンパニー・リミテッド エンコーダ、デコーダ、および対応するブロック解除フィルタ適応の方法
WO2023181607A1 (ja) * 2022-03-22 2023-09-28 キヤノン株式会社 画像符号化装置、画像復号装置、画像符号化方法、および画像復号方法
US12015773B2 (en) 2018-12-17 2024-06-18 Canon Kabushiki Kaisha Image encoding apparatus, image encoding method, image decoding apparatus, image decoding method, and non-transitory computer-readable storage medium

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BR112021009149A2 (pt) * 2018-11-15 2021-08-10 Telefonaktiebolaget Lm Ericsson (Publ) método e aparelho para desbloquear uma fronteira, programa de computador, e, portadora
WO2021040037A1 (ja) * 2019-08-29 2021-03-04 日本放送協会 符号化装置、復号装置、及びプログラム
CN116250239A (zh) * 2020-07-27 2023-06-09 字节跳动有限公司 去方块滤波改进
US20220201322A1 (en) * 2020-12-23 2022-06-23 Qualcomm Incorporated Multiple hypothesis prediction for video coding
WO2023106761A1 (ko) * 2021-12-06 2023-06-15 엘지전자 주식회사 영상 인코딩/디코딩 방법 및 장치, 그리고 비트스트림을 저장한 기록 매체
WO2023132514A1 (ko) * 2022-01-05 2023-07-13 현대자동차주식회사 개선된 amvp-merge 모드를 이용하는 비디오 코딩을 위한 방법 및 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8085846B2 (en) * 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12015773B2 (en) 2018-12-17 2024-06-18 Canon Kabushiki Kaisha Image encoding apparatus, image encoding method, image decoding apparatus, image decoding method, and non-transitory computer-readable storage medium
JP2022517488A (ja) * 2019-01-17 2022-03-09 ホアウェイ・テクノロジーズ・カンパニー・リミテッド エンコーダ、デコーダ、および対応するブロック解除フィルタ適応の方法
JP7351908B2 (ja) 2019-01-17 2023-09-27 ホアウェイ・テクノロジーズ・カンパニー・リミテッド エンコーダ、デコーダ、および対応するブロック解除フィルタ適応の方法
WO2023181607A1 (ja) * 2022-03-22 2023-09-28 キヤノン株式会社 画像符号化装置、画像復号装置、画像符号化方法、および画像復号方法

Also Published As

Publication number Publication date
AU2019398124A1 (en) 2021-08-05
US20220060701A1 (en) 2022-02-24
KR20210099008A (ko) 2021-08-11
CN113170125A (zh) 2021-07-23
US11558611B2 (en) 2023-01-17
MX2021006936A (es) 2021-07-15
US20230164314A1 (en) 2023-05-25
WO2020123442A1 (en) 2020-06-18
EP3895422A1 (en) 2021-10-20

Similar Documents

Publication Publication Date Title
US11558611B2 (en) Method and apparatus for deblocking an image
US11729417B2 (en) Generalized bi-prediction and weighted prediction
CN113170146A (zh) 用于图片编码和解码的方法和设备
KR20210089747A (ko) 비디오 인코딩 및 디코딩을 위한 가상 파이프라인
JP7502278B2 (ja) 双予測を使用するビデオエンコーディングおよびデコーディングのための方法および装置
US11962753B2 (en) Method and device of video coding using local illumination compensation (LIC) groups
US20220038681A1 (en) Video encoding or decoding using block extension for overlapped block motion compensation
EP4035357A1 (en) Method and apparatus using homogeneous syntax with coding tools
CN117597933A (zh) 空间局部光照补偿
US11563975B2 (en) Motion compensation boundary filtering
JP2022529104A (ja) 境界平滑化された動き補償に基づくオプティカルフローによるビデオ符号化および復号化の方法および装置
EP3641311A1 (en) Encoding and decoding methods and apparatus
WO2024077970A1 (en) Encoding/decoding video picture data
JP2022537222A (ja) 局所照明補正フラグインヘリタンス
EP3751850A1 (en) Motion compensation boundary filtering
JP2024513657A (ja) ビデオエンコード及びデコードのためのテンプレートマッチング予測
CN114073093A (zh) 三角形分割的合并索引的信令通知
KR20220052991A (ko) 스위칭가능한 보간 필터들
KR20210074388A (ko) 코딩 유형 또는 코딩 트리 유형의 시그널링을 이용한 비디오 인코딩 및 디코딩을 위한 방법 및 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240201

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20240426