JP7343668B2 - Vvcにおける色変換のための方法及び機器 - Google Patents

Vvcにおける色変換のための方法及び機器 Download PDF

Info

Publication number
JP7343668B2
JP7343668B2 JP2022127516A JP2022127516A JP7343668B2 JP 7343668 B2 JP7343668 B2 JP 7343668B2 JP 2022127516 A JP2022127516 A JP 2022127516A JP 2022127516 A JP2022127516 A JP 2022127516A JP 7343668 B2 JP7343668 B2 JP 7343668B2
Authority
JP
Japan
Prior art keywords
video
prediction
inverse
transform
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022127516A
Other languages
English (en)
Other versions
JP2022176939A5 (ja
JP2022176939A (ja
Inventor
ジャオ,シン
シュイ,シアオジョォン
リ,シアン
リィウ,シャン
Original Assignee
テンセント・アメリカ・エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テンセント・アメリカ・エルエルシー filed Critical テンセント・アメリカ・エルエルシー
Publication of JP2022176939A publication Critical patent/JP2022176939A/ja
Publication of JP2022176939A5 publication Critical patent/JP2022176939A5/ja
Application granted granted Critical
Publication of JP7343668B2 publication Critical patent/JP7343668B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

[関連出願]
本開示は、米国仮特許出願番号第62/817,500号、「COLOR TRANSFORM IN VVC」、2019年3月12日出願、の優先権の利益を主張する米国特許出願番号第16/817,028号、「METHOD AND APPARATUS FOR COLOR TRANSFORM IN VVC」、2020年3月12日出願の優先権の利益を主張する。前述の出願の全開示は、それらの全体が参照によりここに組み込まれる。
[技術分野]
本開示は、概して、ビデオ符号化に関連する実施形態を記載する。
ここに提供される背景の説明は、本開示のコンテキストの概要を提示するためである。現在名前の挙げられた発明者の研究は、この背景の章に記載された研究の範囲で、出願時に従来技術として見なされない可能性のある記載の態様と同様に、本開示に対する従来技術として明示的に又は暗示的にも認められるものではない。
ビデオ符号化及び復号は、動き補償を伴うインターピクチャ予測を用いて実行できる。非圧縮デジタルビデオは、一連のピクチャを含むことができ、各ピクチャは、例えば1920×1080個のルミナンスサンプル及び関連するクロミナンスサンプルの空間次元を有する。一連のピクチャは、例えば毎秒60ピクチャ又は60Hzの固定又は可変ピクチャレート(略式にフレームレートとしても知られている)を有し得る。非圧縮ビデオは、かなりのビットレート要件を有する。例えば、8ビット/サンプルの1080p60 4:2:0ビデオ(60Hzフレームレートで1920×1080ルミナンスサンプル解像度)は、1.5Gbit/sの帯域幅を必要とする。1時間のこのようなビデオは600Gbyteより多くの記憶空間を必要とする。
ビデオ符号化及び復号の1つの目的は、圧縮を通じて、入力ビデオ信号の中の冗長性の削減であり得る。圧縮は、幾つかの場合には大きさで2桁以上も、前述の帯域幅又は記憶空間要件を軽減するのを助けることができる。損失又は無損失圧縮の両方、及びそれらの組み合わせが利用できる。無損失圧縮は、元の信号の正確なコピーが圧縮された元の信号から再構成可能である技術を表す。損失圧縮を用いると、再構成された信号は、元の信号と同一ではないが、元の信号と再構成された信号との間の歪みは、意図される用途のために有用な再構成された信号を生成するのに十分に小さい。ビデオの場合には、損失圧縮が広く利用される。耐えうる歪みの量は、アプリケーションに依存し、特定の消費者ストリーミングアプリケーションのユーザは、テレビジョン配信アプリケーションのユーザよりも高い歪みに耐え得る。達成可能な圧縮比は、許容可能/耐性歪みが高いほど、高い圧縮比を生じ得ることを反映できる。
ビデオエンコーダ及びデコーダは、例えば動き補償、変換、量子化、及びエントロピー符号化を含む幾つかの広い分類からの技術を利用できる。
ビデオコーデック技術は、イントラ符号化として知られる技術を含むことができる。イントラ符号化では、サンプル値は、前の再構成参照ピクチャからのサンプル又は他のデータを参照することなく、表現される。幾つかのビデオコーデックでは、ピクチャは、サンプルのブロックに空間的に細分化される。サンプルの全部のブロックがイントラモードで符号化されるとき、そのピクチャはイントラピクチャであり得る。イントラピクチャ、及び独立したデコーダリフレッシュピクチャのようなそれらの派生物は、デコーダ状態をリセットするために使用でき、従って、符号化ビデオビットストリーム及びビデオセッションの中の最初のピクチャとして、又は静止画像として使用できる。イントラブロックのサンプルは変換されることができ、変換係数は、エントロピー符号化の前に量子化できる。イントラ予測は、変換前のドメインにおけるサンプル値を最小化する技術であり得る。幾つかの場合には、変換後のDC値が小さいほど,及びAC係数が小さいほど、エントロピー符号化の後にブロックを表現するために所与の量子化ステップサイズで必要なビット数が少ない。
例えばMPEG-2生成符号化技術から知られているような伝統的なイントラ符号化は、イントラ予測を使用しない。しかしながら、幾つかの新しいビデオ圧縮技術は、例えば、復号順において先行する空間的近隣のデータブロックの符号化/復号の間に取得される周囲のサンプルデータ及び/又はメタデータから試行する。このような技術は、以後、「イントラ予測」技術と呼ばれる。少なくとも幾つかの場合には、イントラ予測は、参照ピクチャからではなく、再構成中の現在ピクチャからの参照データのみを使用する。
多くの異なる形式のイントラ予測が存在し得る。1つより多くのこのような技術が所与のビデオ符号化技術において使用できるとき、使用される技術は、イントラ予測モードで符号化され得る。特定の場合には、モードは、サブモード及び/又はパラメータを有することができ、それらは、個々に符号化され又はモードコードワードに含まれることができる。所与のモード/サブモード/パラメータの組合せのためにどのコードワードを使用すべきかは、イントラ予測を通じて符号化効率の向上に影響を与えることができ、従って、コードワードをビットストリームに変換するためにエントロピー符号化技術を使用できる。
特定のイントラ予測モードが、H.264によりどう有され、H.265で改良され、共同探索モデル(joint exploration model (JEM))、バーサタイルビデオ符号化(versatile video coding (VVC))、及びベンチマークセット(benchmark set (BMS))のような更に新しい符号化技術において改良された。予測ブロックは、既に利用可能なサンプルに属する近隣サンプル値を用いて形成されることができる。近隣サンプルのサンプル値は、方向に従い予測ブロックにコピーされる。使用中の方向の参照は、ビットストリーム内に符号化でき、又はそれ自体が予測されてよい。
図1Aを参照すると、右下に、H.265の33個の可能な予測方向(35個のイントラモードのうちの33個の角度モードに対応する)から分かる9個の予測方向の部分集合が示される。矢印が集中する点(101)は、予測中のサンプルを表す。矢印は、サンプルが予測されている方向を表す。例えば、矢印(102)は、サンプル(101)が1つ以上のサンプルから、水平から45度の角度で右上へと予測されることを示す。同様に、矢印(103)は、サンプル(101)が1つ以上のサンプルから、水平から22.5度の角度でサンプル(101)の左下へと予測されることを示す。
更に図1Aを参照すると、左上に、(太い破線で示される)4×4個のサンプルの正方形ブロック(104)が示される。正方形ブロック(104)は、16個のサンプルを含み、各サンプルは「S」、そのY次元の位置(例えば、行インデックス)、及びそのX次元の位置(例えば、列インデックス)でラベル付けされる。例えば、サンプルS21は、Y次元の(上から)2番目のサンプル、且つX次元の(左から)1番目のサンプルである。同様に、サンプルS44は、Y及びXの両方の次元で、ブロック(104)内の4番目のサンプルである。ブロックが4×4サンプルのサイズであるとき、S44は右下にある。更に、同様の番号付け方式に従う参照サンプルが示される。参照サンプルは、R、ブロック(104)に対するそのY位置(例えば、行インデックス)及びX位置(列インデックス)によりラベル付けされる。H.264及びH.265の両方で、予測サンプルは、再構成中のブロックの近隣にあり、従って、負の値は使用される必要がない。
イントラピクチャ予測は、シグナリングされた予測方向により適切であるとき、近隣サンプルから参照サンプル値をコピーすることにより、動作できる。例えば、符号化ビデオビットストリームは、このブロックについて、矢印(102)と一致する予測方向を示すシグナリングを含む。つまり、サンプルは、1つ以上の予測サンプルから、水平から45度の角度で右上へと予測される。この場合、サンプルS41、S32、S23、及びS14は、同じ参照サンプルR05から予測される。サンプルS44は、次に、参照サンプルR08から予測される。
特定の場合には、参照サンプルを計算するために、特に方向が45度により均等に分割できないとき、複数の参照サンプルの値が、例えば補間を通じて結合されてよい。
可能な方向の数は,ビデオ符号化技術が発展するにつれ、増加してきた。H.264(2003年)では、9個の異なる方向が提示されることができた。それは、H.265(2013年)では33に増加し、JEM/VVC/BMSは、本開示の時点で、最大65個の方向をサポートできる。最も可能性の高い方向を識別するために実験が行われ、あまり可能性の高くない方向の特定のペナルティを受け入れながら、これらの可能性の高い方向を少数のビットで表現するために、エントロピー符号化において特定の技術が使用されている。更に、方向自体は、近隣の既に復号されたブロックにおける近隣の方向から予測できることがある。
図1Bに、HEVCで使用されるイントラ予測モードが示される。HEVCには、全部で35個のイントラ予測モードがある。この中で、モード10は水平モードであり、モード26は垂直モードであり、モード2、モード18、モード34は対角モードである。イントラ予測モードは、3つの最確モード(most probable mode (MPM))および32個の残りのモードによりシグナリングされる。
図1Cは、VVCで使用されるイントラ予測モードを示す。図1Cに示すように、VVCには、全部で95個のイントラ予測モードがある。この中で、モード18は水平モードであり、モード50は垂直モードであり、モード2、モード34、モード66は対角モードである。モード-1~-14およびモード67~80は、広角イントラ予測(Wide-Angle Intra Prediction (WAIP))モードと呼ばれる。
方向を表す符号化ビデオビットストリーム内のイントラ予測方向ビットのマッピングは、ビデオ符号化技術により異なり、例えば、予測方向のイントラ予測モードへの、コードワードへの、単純な直接マッピングから、MPMを含む複雑な適応型方式、及び同様の技術にまで及ぶ。しかしながら、全ての場合に、ビデオコンテンツにおいて統計的に生じる可能性が、特定の他の方向よりあまり高くない特定の方向が存在し得る。ビデオ圧縮の目標は、冗長性の削減であるので、これらのあまり可能性の高くない方向は、良好に動作するビデオ符号化技術では、より可能性の高い方向より多数のビットにより表されるだろう。
ビデオ符号化及び復号は、動き補償を伴うインターピクチャ予測を用いて実行できる。非圧縮デジタルビデオは、一連のピクチャを含むことができ、各ピクチャは、例えば1920×1080個のルミナンスサンプル及び関連するクロミナンスサンプルの空間次元を有する。一連のピクチャは、例えば毎秒60ピクチャ又は60Hzの固定又は可変ピクチャレート(略式にフレームレートとしても知られている)を有し得る。非圧縮ビデオは、かなりのビットレート要件を有する。例えば、8ビット/サンプルの1080p60 4:2:0ビデオ(60Hzフレームレートで1920×1080ルミナンスサンプル解像度)は、1.5Gbit/sの帯域幅を必要とする。1時間のこのようなビデオは600Gbyteより多くの記憶空間を必要とする。
動き補償は、損失圧縮技術であり、前に再構成されたピクチャ又はその部分(参照ピクチャ)からのサンプルデータのブロックが、動きベクトル(以後、MV)により示される方向に空間的にシフトされた後に、新しく再構成されたピクチャ又はピクチャ部分の予測のために使用される技術に関連し得る。幾つかの場合には、参照ピクチャは、現在再構成中のピクチャと同じであり得る。MVは、2つの次元X及びY、又は第3の次元が使用中の参照ピクチャの指示である3つの次元を有することができる(後者は、間接的に時間次元であり得る)。
幾つかのビデオ圧縮技術では、サンプルデータの特定領域に適用可能なMVは他のMVから、例えば再構成中の領域に空間的に隣接するサンプルデータの別の領域に関連し且つ復号順序の中で当該MVに先行するMVから、予測できる。そうすることは、結果として、MVを符号化するために必要なデータ量を削減でき、それにより、冗長性を除去し圧縮を向上する。MV予測は、例えばカメラから得られた入力ビデオ信号(自然なビデオ(natural video)として知られる)を符号化するとき、単一のMVが適用可能な領域より大きな領域が同様の方向に動き、したがって、幾つかの場合には近隣領域のMVから導出した同様の動きベクトルを用いて予測可能である、統計的可能性がある。これは、周囲のMVから予測したMVと同様の又は同じ、所与の領域について見付かったMVをもたらす。また、これは、エントロピー符号化の後に、MVを直接符号化する場合に使用され得るより少ない数のビットで提示され得る。幾つかの場合には、MV予測は、元の信号(つまり、サンプルストリーム)から得た信号(つまり、MV)の無損失圧縮の一例であり得る。他の場合には、MV予測自体は、例えば幾つかの周囲のMVから予測子を計算するとき、誤りを丸め込むので、損失になり得る。
種々のMV予測メカニズムは、H.265/HEVC(ITU-T Rec. H.265, "High Efficiency Video Coding", December 2016)に記載されている。ここに記載される、H.265の提供する多くのMV予測メカニズムのうちの1つは、以下で、「空間マージ(spatial merge)」と呼ばれる技術である。
図1Dを参照すると、現在ブロック(101)は、動き探索処理の間に、空間的にシフトされたものと同じサイズの前のブロックから予測可能であるとしてエンコーダにより見付けられたサンプルを含む。MVを直接符号化する代わりに、MVは、1つ以上の参照ピクチャに関連付けられたメタデータから、例えば(復号順で)最近の参照ピクチャから、A0、A1、及びB0、B1、B2(それぞれ102~106)5個の周囲のサンプルのうちのいずれか1つに関連付けられたMVを用いて導出できる。H.265では、MV予測は、近隣ブロックの使用するのと同じ参照ピクチャからの予測子を使用できる。候補リストを形成する順序は、A0→B0→B1→A1→B2であってよい。
例示的な実施形態によると、ビデオデコーダにおいて実行されるビデオ復号の方法が提供される。当該方法は、現在ピクチャを含む符号化ビデオビットストリームを受信するステップを含む。当該方法は、前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行するステップを更に含む。当該方法は、前記逆量子化を実行するステップの後に、前記現在ブロックに対して逆変換を実行するステップを更に含む。当該方法は、前記逆変換を実行するステップの後に、前記現在ブロックに対して予測処理を実行するステップを更に含む。当該方法は、前記現在ブロックに対して前記予測処理を実行するステップの後に、所定の条件が満たされるかどうかを決定するステップを更に含む。当該方法は、前記所定の条件が満たされると決定することに応答して、前記現在ブロックに対して逆色変換を実行するステップを更に含む。
例示的な実施形態によると、ビデオ復号のためのビデオデコーダは、処理回路を含み、前記処理回路は、現在ピクチャを含む符号化ビデオビットストリームを受信するよう構成される。前記処理回路は、前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行するよう更に構成される。前記処理回路は、前記逆量子化を実行した後に、前記現在ブロックに対して逆変換を実行するよう更に構成される。前記処理回路は、前記逆変換を実行した後に、前記現在ブロックに対して予測処理を実行するよう更に構成される。前記処理回路は、前記現在ブロックに対して前記予測処理を実行した後に、所定の条件が満たされるかどうかを決定するよう更に構成される。前記処理回路は、前記所定の条件が満たされるという決定に応答して、前記現在ブロックに対して逆色変換を実行するよう更に構成される。
例示的な実施形態によると、記憶された命令を有する非一時的コンピュータ可読媒体であって、前記命令は、ビデオデコーダ内のプロセッサにより実行されると、前記ビデオデコーダに方法を実行させ、前記方法は、現在ピクチャを含む符号化ビデオビットストリームを受信するステップを含む。当該方法は、前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行するステップを更に含む。当該方法は、前記逆量子化を実行するステップの後に、前記現在ブロックに対して逆変換を実行するステップを更に含む。当該方法は、前記逆変換を実行するステップの後に、前記現在ブロックに対して予測処理を実行するステップを更に含む。当該方法は、前記現在ブロックに対して前記予測処理を実行するステップの後に、所定の条件が満たされるかどうかを決定するステップを更に含む。当該方法は、前記所定の条件が満たされると決定することに応答して、前記現在ブロックに対して逆色変換を実行するステップを更に含む。
開示の主題の更なる特徴、特性、及び種々の利点は、以下の詳細な説明及び添付の図面から一層明らかになるだろう。
イントラ予測モードの例示的な部分集合の概略図である。
例示的なイントラ予測方向の図である。
例示的なイントラ予測方向の図である。
一例における現在ブロック及びその周囲の空間的マージ候補の概略図である。
一実施形態による、通信システム(200)の簡易ブロック図の概略図である。
一実施形態による、通信システム(300)の簡易ブロック図の概略図である。
一実施形態による、デコーダの簡易ブロック図の概略図である。
一実施形態による、エンコーダの簡易ブロック図の概略図である。
別の実施形態による、エンコーダのブロック図を示す。
別の実施形態による、デコーダのブロック図を示す。
実施形態によるブロックパーティションを示す。
実施形態によるブロックパーティション木を示す。
実施形態による垂直中央-端3分木パーティションを示す。
実施形態による水平中央-端3分木パーティションを示す。
種々の実施形態による異なるクロマフォーマットを示す。 種々の実施形態による異なるクロマフォーマットを示す。 種々の実施形態による異なるクロマフォーマットを示す。 種々の実施形態による異なるクロマフォーマットを示す。
実施形態による例示的なエンコーダを示す。
実施形態による例示的なデコーダを示す。
実施形態による最小及び最大ルマ値の間の直線を示す。
実施形態によるLT_CCLMにおけるα及びβの導出のために使用されるサンプルの位置を示す。 実施形態によるLT_CCLMにおけるα及びβの導出のために使用されるサンプルの位置を示す。
実施形態によるT_CCLMにおけるα及びβの導出のために使用されるサンプルの位置を示す。 実施形態によるT_CCLMにおけるα及びβの導出のために使用されるサンプルの位置を示す。
実施形態によるL_CCLMにおけるα及びβの導出のために使用されるサンプルの位置を示す。 実施形態によるL_CCLMにおけるα及びβの導出のために使用されるサンプルの位置を示す。
実施形態による近隣サンプルを2つのグループに分類する例を示す。
一実施形態によるエンコーダ及びデコーダの概略図である。
エンコーダにより実行される処理の実施形態の図である。
デコーダにより実行される処理の実施形態の図である。
本開示の実施形態によるコンピュータシステムの概略図である。
図2は、本発明の一実施形態による通信システム(200)の簡易ブロック図を示す。通信システム(200)は、例えばネットワーク(250)を介して互いに通信できる複数の端末装置を含む。例えば、通信システム(200)は、ネットワーク(250)を介して相互接続された端末装置(210)及び(220)の第1ペアを含む。図2の例では、端末装置(210)及び(220)の第1ペアは、データの単方向伝送を実行する。例えば、端末装置(210)は、ネットワーク(250)を介して他の端末装置(220)への送信のために、ビデオデータ(端末装置(210)によりキャプチャされたビデオピクチャのストリーム)を符号化する。符号化ビデオデータは、1つ以上の符号化ビデオビットストリームの形式で、送信できる。端末装置(220)は、ネットワーク(250)から符号化ビデオデータを受信し、符号化ビデオデータを復号してビデオピクチャを復元し、復元したビデオデータに従いビデオピクチャを表示してよい。単方向データ伝送は、メディアサービングアプリケーション等で共通であってよい。
別の例では、通信システム(200)は、例えばビデオ会議の間に生じ得る符号化ビデオデータの双方向伝送を実行する端末装置(230)及び(240)の第2ペアを含む。データの双方向伝送では、端末装置(230)及び(240)は、ネットワーク(250)を介して端末装置(230)及び(240)への送信のために、ビデオデータ(例えば、端末装置によりキャプチャされたビデオピクチャのストリーム)を符号化してよい。端末装置(230)及び(240)のうちの各端末装置は、端末装置(230)及び(240)のうちの他方の端末装置により送信された符号化ビデオデータを受信してよく、符号化ビデオデータを復号してビデオピクチャを復元してよく、復元したビデオデータに従い、アクセス可能なディスプレイ装置においてビデオピクチャを表示してよい。
図2の例では、端末装置(210)、(220)、(230)及び(240)は、サーバ、パーソナルコンピュータ、及びスマートフォンとして示されてよいが、本開示の原理はこれらに限定されない。本開示の実施形態は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレイヤ、及び/又は専用ビデオ会議設備による適用がある。ネットワーク(250)は、端末装置(210)、(220)、(230)、及び(240)の間で符号化ビデオデータを運ぶ任意の数のネットワークを表し、例えば有線(ワイヤード)及び/又は無線通信ネットワークを含む。通信ネットワーク250は、回線切り替え及び/又はパケット切り替えチャネルでデータを交換してよい。代表的なネットワークは、電子通信ネットワーク、ローカルエリアネットワーク、広域ネットワーク、及び/又はインターネットを含む。本発明の議論の目的で、ネットワーク(250)のアーキテクチャ及びトポロジは、以下で特に断りの無い限り、本開示の動作にとって重要でないことがある。
図3は、開示の主題の適用の一例として、ストリーミング環境におけるビデオエンコーダ及びビデオデコーダの配置を示す。開示の主題は、例えばビデオ会議、デジタルTV、CD、DVD、メモリスティック、等を含むデジタル媒体への圧縮ビデオの格納、他のビデオ可能アプリケーション、等に等しく適用可能である。
ストリーミングシステムは、例えば非圧縮のビデオピクチャストリーム(302)を生成するビデオソース(301)を含み得るキャプチャサブシステム(313)を含んでよい。一例では、ビデオピクチャストリーム(302)は、デジタルカメラにより取り込まれたサンプルを含む。ビデオピクチャストリーム(302)は、符号化ビデオデータ(304)(又は符号化ビデオビットストリーム)と比べたとき、高データ容量を強調するために太線で示され、ビデオソース(301)と結合されたビデオエンコーダ(303)を含む電子装置(320)により処理され得る。ビデオエンコーダ(303)は、ハードウェア、ソフトウェア、又はそれらの組み合わせを含み、以下に詳述するように開示の主題の態様を可能にし又は実装することができる。符号化ビデオデータ(304)(又はビデオビットストリーム(304))は、ビデオピクチャストリーム(302)と比べたとき、低データ容量を強調するために細線で示され、将来の使用のためにストリーミングサーバに格納され得る。図3のクライアントサブシステム(306)及び(308)のような1つ以上のストリーミングクライアントサブシステムは、ストリーミングサーバ(305)にアクセスして、符号化ビデオデータ(304)のコピー(307)及び(309)を読み出すことができる。クライアントサブシステム(306)は、例えば電子装置(330)内にビデオデコーダ(310)を含み得る。ビデオデコーダ(310)は、符号化ビデオデータの入力コピー(307)を復号し、ディスプレイ(312)(例えばディスプレイスクリーン)又は他のレンダリング装置(図示しない)上でレンダリングできる出力ビデオピクチャストリーム(311)を生成する。幾つかのストリーミングシステムでは、符号化ビデオデータ(304)、(307)、及び(309)(例えば、ビデオビットストリーム)は、特定のビデオ符号化/圧縮標準に従い符号化され得る。これらの標準の例は、ITU-T Recommendation H.265を含む。一例では、策定中のビデオ符号化標準は、略式にVVC(Versatile Video Coding)として知られている。開示の主題は、VVCの文脈で使用されてよい。
電子装置(320)及び(330)は他のコンポーネント(図示しない)を含み得ることに留意する。例えば、電子装置(320)は、ビデオデコーダ(図示しない)を含むことができ、電子装置(330)もビデオエンコーダ(図示しない)を含むことができる。
図4は、本開示の一実施形態によるビデオデコーダ(410)のブロック図を示す。ビデオデコーダ(410)は、電子装置(430)に含まれ得る。電子装置(430)は、受信機(431)(例えば、受信回路)を含み得る。ビデオデコーダ(410)は、図3の例では、ビデオデコーダ(310)の代わりに使用できる。
受信機(431)は、ビデオデコーダ(410)により符号化されるべき1つ以上の符号化ビデオシーケンス、同じ又は別の実施形態では、一度に1つの符号化ビデオシーケンスを受信してよい。ここで、各符号化ビデオシーケンスの復号は、他の符号化ビデオシーケンスと独立している。符号化ビデオシーケンスは、符号化ビデオデータを格納する記憶装置へのハードウェア/ソフトウェアリンクであってよいチャネル401から受信されてよい。受信機431は、他のデータ、例えば、それぞれの使用エンティティ(図示しない)へと転送され得る符号化音声データ及び/又は補助データストリームと共に、符号化ビデオデータを受信してよい。受信機431は、他のデータから符号化ビデオシーケンスを分離してよい。ネットワークジッタを除去するために、バッファメモリ(415)は、受信機(431)とエントロピーデコーダ/パーサ(420)(以後、「パーサ(420)」)との間に結合されてよい。特定の適用では、バッファメモリ(415)は、ビデオデコーダ(410)の一部である。他に、ビデオデコーダ(410)(図示しない)の外部にあり得る。更に他では、例えばネットワークジッタを除去するために、ビデオデコーダ(410)の外部に、例えば再生(playout)タイミングを処理するために、ビデオデコーダ(410)の内部にある別のバッファメモリ(415)に加えて、バッファメモリ(図示しない)が存在し得る。受信機(431)が、十分な帯域幅の記憶/転送装置から制御可能に、又はアイソクロナス(isosynchronous)ネットワークから、データを受信しているとき、バッファメモリ(415)は、必要なくてよく又は小さくできる。インターネットのようなベストエフォート型パケットネットワークで使用するために、バッファメモリ(415)が必要とされてよく、比較的大きくなり、有利なことに適応型サイズであり、少なくとも部分的にオペレーティングシステム又はビデオデコーダ(410)の外部の同様の要素(図示しない)に実装されてよい。
ビデオデコーダ(410)は、符号化ビデオシーケンスからシンボル(421)を再構成するために、パーサ(420)を含んでよい。これらのシンボルのカテゴリは、ビデオデコーダ(410)の動作を管理するために使用される情報、及び場合によっては図4に示したように電子装置(430)の統合部分ではないが電子装置(430)に結合され得るレンダー装置(412)(例えば、ディスプレイスクリーン)のようなレンダリング装置を制御するための情報を含む。レンダリング装置のための制御情報は、SEI(Supplemental Enhancement Information)メッセージ又はVUI(Video Usability Information)パラメータセットフラグメント(図示しない)の形式であってよい。パーサ(420)は、受信された符号かビデオシーケンスをパース/エントロピー復号してよい。符号化ビデオシーケンスの符号化は、ビデオ符号化技術又は標準に従うことができ、可変長符号化、ハフマン符号化、コンテキスト依存性を有する又は有しない算術的符号化、等を含む、種々の原理に従うことができる。パーサ(420)は、符号化ビデオシーケンスから、ビデオデコーダの中のピクセルのサブグループのうちの少なくとも1つについて、該グループに対応する少なくとも1つのパラメータに基づき、サブグループパラメータのセットを抽出してよい。サブグループは、GOP(Groups of Picture)、ピクチャ、タイル、スライス、マクロブロック、符号化ユニット(Coding Units:CU)、ブロック、変換ユニット(Transform Units:TU)、予測ユニット(Prediction Units:PU)、等を含み得る。パーサ(420)は、符号化ビデオシーケンスから、変換係数、量子化パラメータ値、動きベクトル、等のような情報も抽出してよい。
パーサ(420)は、バッファメモリ(415)から受信したビデオシーケンスに対してエントロピー復号/パース動作を実行して、シンボル(421)を生成してよい。
シンボル421の再構成は、符号化ビデオピクチャ又はその部分の種類(例えば、インター及びイントラピクチャ、インター及びイントラブロック)及び他の要因に依存して、複数の異なるユニットを含み得る。どのユニットがどのように含まれるかは、パーサ420により符号化ビデオシーケンスからパースされたサブグループ制御情報により制御できる。パーサ420と以下の複数のユニットとの間のこのようなサブグループ制御情報のフローは、明確さのために示されない。
既に言及した機能ブロックを超えて、ビデオデコーダ(410)は、後述のように、多数の機能ユニットに概念的に細分化できる。商用的制約の下で動作する実際の実装では、これらのユニットの多くは、互いに密に相互作用し、少なくとも部分的に互いに統合され得る。しかしながら、開示の主題を説明する目的で、機能ユニットへの以下の概念的細分化は適切である。
第1ユニットは、スケーラ/逆変換ユニット451である。スケーラ/逆変換ユニット(451)は、量子化済み変換係数、及び、どの変換を使用すべきか、ブロックサイズ、量子化係数、量子化スケーリングマトリクス、等を含む制御情報を、パーサ(420)からのシンボル(421)として受信する。スケーラ/逆変換ユニット(451)は、アグリゲータ(455)に入力され得るサンプル値を含むブロックを出力できる。
幾つかの例では、スケーラ/逆変換ユニット(451)の出力サンプルは、イントラ符号化ブロック、つまり、前に再構成されたピクチャからの予測情報を使用しないが現在ピクチャの前に再構成された部分からの予測情報を使用可能なブロック、に属することができる。このような予測情報は、イントラピクチャ予測ユニット452により提供できる。幾つかの場合には、イントラピクチャ予測ユニット(452)は、再構成中のブロックと同じサイズ及び形状のブロックを、現在ピクチャバッファ(458)からフェッチした周囲の既に再構成された情報を用いて、生成する。現在ピクチャバッファ(458)は、例えば、再構成された現在ピクチャを部分的に及び/又は再構成された現在ピクチャを完全にバッファリングする。アグリゲータ(455)は、幾つかの場合には、サンプル毎に、イントラ予測ユニット(452)の生成した予測情報を、スケーラ/逆変換ユニット(451)により提供された出力サンプル情報に追加する。
他の場合には、スケーラ/逆変換ユニット(451)の出力サンプルは、インター符号化された、場合によっては動き補償されたブロックに関連し得る。このような場合には、動き補償予測ユニット(453)は、参照ピクチャメモリ(457)にアクセスして、予測ために使用されるサンプルをフェッチできる。ブロックに関連するシンボル(421)に従いフェッチしたサンプルを動き補償した後に、これらのサンプルは、アグリゲータ(455)により、出力サンプル情報を生成するために、スケーラ/逆変換ユニット(451)の出力に追加され得る(この場合、残差サンプル又は残差信号と呼ばれる)。動き補償予測ユニット(453)が予測サンプルをフェッチする参照ピクチャメモリ(457)内のアドレスは、例えばX、Y及び参照ピクチャコンポーネントを有し得るシンボル(421)の形式で、動き補償予測ユニット(453)の利用可能な動きベクトルにより制御できる。動き補償は、サブサンプルの正確な動きベクトルが使用中であるとき参照ピクチャメモリ(457)からフェッチされたサンプル値の補間、動きベクトル予測メカニズム、等を含み得る。
アグリゲータ(455)の出力サンプルは、ループフィルタユニット(456)において種々のループフィルタリング技術を受け得る。ビデオ圧縮技術は、符号化ビデオシーケンス(符号化ビデオビットストリームとも呼ばれる)に含まれ且つパーサ(420)からのシンボル(421)としてループフィルタユニット(456)に利用可能にされたパラメータにより制御されるが、符号化ピクチャ又は符号化ビデオシーケンスの(複合順序で)前の部分の複合中に取得されたメタ情報にも応答し、前に再構成されループフィルタリングされたサンプル値にも応答し得るインループフィルタ技術を含み得る。
ループフィルタユニット(456)の出力は、レンダー装置(412)へと出力でき及び将来のインターピクチャ予測で使用するために参照ピクチャメモリ(457)に格納され得るサンプルストリームであり得る。
特定の符号化ピクチャは、一旦完全に再構成されると、将来の予測のための参照ピクチャとして使用できる。例えば、現在ピクチャに対応する符号化ピクチャが完全に再構成され、符号化ピクチャが(例えばパーサ(420)により)参照ピクチャとして識別されると、現在ピクチャバッファ(458)は、参照ピクチャメモリ(457)の一部になることができ、後続の符号化ピクチャの再構成を開始する前に、新鮮な現在ピクチャバッファを再割り当てできる。
ビデオデコーダ(410)は、ITU-T Rec. H.265のような標準の所定のビデオ圧縮技術に従い復号動作を実行してよい。符号化ビデオシーケンスがビデオ圧縮技術又は標準、及びビデオ圧縮技術又は標準において文書化されたプロファイルの両方に従うという意味で、符号化ビデオシーケンスは、使用中のビデオ圧縮技術又は標準により指定されたシンタックスに従ってよい。具体的に、プロファイルは、ビデオ圧縮技術又は標準において利用可能な全部のツールから、プロファイルの下でのみ使用可能なツールとして、特定のツールを選択できる。また、遵守のために必要なことは、符号化ビデオシーケンスの複雑さが、ビデオ圧縮技術又は標準のレベルにより定められる限界の範囲内であることであり得る。幾つかの場合には、レベルは、最大ピクチャサイズ、最大フレームレート、最大再構成サンプルレート(例えばメガサンプル/秒で測定される)、最大参照ピクチャサイズ、等を制限する。レベルにより設定される限界は、幾つかの場合には、HRD(Hypothetical Reference Decoder)仕様及び符号化ビデオシーケンスの中でシグナリングされるHDRバッファ管理のためのメタデータを通じて更に制限され得る。
一実施形態では、受信機431は、符号化ビデオと共に追加(冗長)データを受信してよい。追加データは、符号化ビデオシーケンスの部分として含まれてよい。追加データは、データを正しく復号するため及び/又は元のビデオデータをより正確に再構成するために、ビデオデコーダ410により使用されてよい。追加データは、例えば、時間的、空間的、又は信号雑音比(SNR)の拡張レイヤ、冗長スライス、冗長ピクチャ、前方誤り訂正符号、等の形式であり得る。
図5は、本開示の一実施形態によるビデオエンコーダ(503)のブロック図を示す。ビデオエンコーダ(503)は、電子装置(520)に含まれる。電子装置(520)は、送信機(540)(例えば、送信回路)を含む。ビデオエンコーダ(503)は、図3の例では、ビデオエンコーダ(303)の代わりに使用できる。
ビデオエンコーダ(503)は、ビデオサンプルを、ビデオエンコーダ(503)により符号化されるべきビデオ画像をキャプチャし得るビデオソース(501)(図5の例では、電子装置(520)の部分ではない)から受信してよい。別の例では、ビデオソース(501)は、電子装置(520)の一部である。
ビデオソース(501)は、ビデオエンコーダ(503)により符号化されるべきソースビデオシーケンスを、任意の適切なビット深さ(例えば、8ビット、10ビット、12ビット、...)、任意の色空間(例えば、BT.601 YCrCb、RGB、...)、及び任意の適切なサンプリング構造(例えば、YCrCb 4:2:0、YCrCb 4:4:4)のデジタルビデオサンプルストリームの形式で、提供してよい。メディア提供システムでは、ビデオソース501は、前に準備されたビデオを格納する記憶装置であってよい。ビデオ会議システムでは、ビデオソース501は、ビデオシーケンスとしてローカル画像情報をキャプチャするカメラであってよい。ビデオデータは、続けて閲覧されると動きを与える複数の個別ピクチャとして提供されてよい。ピクチャ自体は、ピクセルの空間的配列として組織化されてよい。各ピクセルは、使用中のサンプリング構造、色空間、等に依存して、1つ以上のサンプルを含み得る。当業者は、ピクセルとサンプルとの間の関係を直ちに理解できる。以下の説明はサンプルに焦点を当てる。
一実施形態によると、ビデオエンコーダ(503)は、ソースビデオシーケンスのピクチャを、符号化ビデオシーケンス(543)へと、リアルタイムに又はアプリケーションにより要求される任意の他の時間制約の下で符号化し圧縮してよい。適切な符号化速度の実施は、制御部(550)の1つの機能である。幾つかの実施形態では、制御部(550)は、後述する他の機能ユニットを制御し、他の機能ユニットに機能的に結合される。結合は、明確さのために図示されない。制御部(550)により設定されるパラメータは、レート制御関連パラメータ(ピクチャスキップ、量子化器、レート歪み最適化技術のラムダ値、...)、ピクチャサイズ、GOP(group of pictures)レイアウト、最大動きベクトル探索範囲、等を含み得る。制御部(550)は、特定のシステム設計に最適化されたビデオエンコーダ(503)に関連する他の適切な機能を有するよう構成され得る。
幾つかの実施形態では、ビデオエンコーダ(503)は、符号化ループの中で動作するよう構成される。非常に簡略化された説明として、一例では、符号化ループは、ソースコーダ(530)(例えば、シンボルストリームのようなシンボルを、符号化されるべき入力ピクチャ及び参照ピクチャに基づき生成することを担う)、及びビデオエンコーダ(503)に内蔵された(ローカル)デコーダ(533)を含み得る。デコーダ(533)は、(シンボルと符号化ビットストリームとの間の任意の圧縮が、開示の主題において検討されるビデオ圧縮技術において無損失であるとき)(遠隔にある)デコーダが生成するのと同様の方法で、シンボルを再構成して、サンプルデータを生成する。再構成されたサンプルストリーム(サンプルデータ)は、参照ピクチャメモリ(534)に入力される。シンボルストリームの復号が、デコーダ位置(ローカル又はリモート)と独立にビット正確な結果をもたらすとき、参照ピクチャメモリ(534)の内容も、ローカルエンコーダとリモートエンコーダとの間でビット正確である。言い換えると、エンコーダの予測部分が、復号中に予測を用いるときデコーダが「見る」のと正確に同じサンプル値を、参照ピクチャサンプルとして「見る」。参照ピクチャ同期性のこの基本原理(及び、例えばチャネルエラーのために同期生が維持できない場合には、結果として生じるドリフト)は、幾つかの関連技術で同様に使用される。
「ローカル」デコーダ(533)の動作は、図4と関連して以上に詳述したビデオデコーダ(410)のような「リモート」デコーダのものと同じであり得る。簡単に一時的に図4も参照すると、しかしながら、シンボルが利用可能であり、エントロピーコーダ(545)及びパーサ(420)による符号化ビデオシーケンスへのシンボルの符号化/復号が無損失であり得るので、バッファメモリ(415)を含むビデオデコーダ(410)のエントロピー復号部分、及びパーサ(420)は、ローカルデコーダ(533)に完全に実装されなくてよい。
この点で行われる考察は、デコーダ内に存在するパース/エントロピー復号を除く任意のデコーダ技術も、対応するエンコーダ内と実質的に同一の機能形式で存在する必要があるということである。この理由から、開示の主題は、デコーダ動作に焦点を当てる。エンコーダ技術の説明は、それらが包括的に説明されるデコーダ技術の逆であるので、省略できる。特定の領域においてのみ、より詳細な説明が必要であり、以下に提供される。
動作中、幾つかの例では、ソースコーダ(530)は、動き補償された予測符号化を実行してよい。これは、「参照ピクチャ」として指定されたビデオシーケンスからの1つ以上の前に符号化されたピクチャを参照して予測的に入力ピクチャを符号化する。この方法では、符号化エンジン(532)は、入力ピクチャのピクセルブロックと、入力ピクチャに対する予測基準として選択されてよい参照ピクチャのピクセルブロックとの間の差分を符号化する。
ローカルビデオデコーダ(533)は、ソースコーダ(530)により生成されたシンボルに基づき、参照ピクチャとして指定されてよいピクチャの符号化ビデオデータを復号してよい。符号化エンジン532の動作は、有利なことに、損失処理であってよい。符号化ビデオデータがビデオデコーダ(図5に図示されない)において復号され得るとき、再構成ビデオシーケンスは、標準的に、幾つかのエラーを有するソースビデオシーケンスの複製であってよい。ローカルビデオデコーダ(533)は、参照ピクチャに対してビデオデコーダにより実行され得る復号処理を複製し、参照ピクチャキャッシュ(534)に格納されるべき再構成参照ピクチャを生じ得る。このように、ビデオエンコーダ(503)は、(伝送誤りが無ければ)遠端ビデオデコーダにより取得される再構成参照ピクチャと共通の内容を有する再構成参照ピクチャのコピーを格納してよい。
予測器(535)は、符号化エンジン(532)のために予測探索を実行してよい。つまり、符号化されるべき新しいピクチャについて、予測器(535)は、新しいピクチャのための適切な予測基準として機能し得る(候補参照ピクセルブロックのような)サンプルデータ又は参照ピクチャ動きベクトル、ブロック形状、等のような特定のメタデータについて、参照ピクチャメモリ(534)を検索してよい。予測器(535)は、適切な予測基準を見付けるために、サンプルブロック-ピクセルブロック毎に動作してよい。幾つかの例では、予測器535により取得された検索結果により決定されるように、入力ピクチャは、参照ピクチャメモリ534に格納された複数の参照ピクチャから引き出された予測基準を有してよい。
制御部(550)は、例えば、ビデオデータの符号化のために使用されるパラメータ及びサブグループパラメータの設定を含む、ソースコーダ(530)の符号化動作を管理してよい。
全ての前述の機能ユニットの出力は、エントロピーコーダ(545)におけるエントロピー符号化を受けてよい。エントロピーコーダ(545)は、ハフマン符号化、可変長符号化、算術符号化、等のような技術に従いシンボルを無損失圧縮することにより、種々の機能ユニットにより生成されたシンボルを、符号化ビデオシーケンスへと変換する。
送信機(540)は、符号化ビデオデータを格納し得る記憶装置へのハードウェア/ソフトウェアリンクであってよい通信チャネル(560)を介する伝送のために準備するために、エントロピーコーダ(545)により生成された符号化ビデオシーケンスをバッファリングしてよい。送信機540は、ビデオコーダ503からの符号化ビデオデータを、送信されるべき他のデータ、例えば符号化音声データ及び/又は補助データストリーム(図示されないソース)とマージ(merge)してよい。
制御部(550)は、ビデオエンコーダ(503)の動作を管理してよい。符号化中、制御部550は、それぞれのピクチャに適用され得る符号化技術に影響し得る特定の符号化ピクチャタイプを、各符号化ピクチャに割り当ててよい。例えば、ピクチャは、多くの場合、以下のピクチャタイプのうちの1つとして割り当てられてよい。
イントラピクチャ(Iピクチャ)は、予測のソースとしてシーケンス内の任意の他のピクチャを使用せずに符号化及び復号され得るピクチャであってよい。幾つかのビデオコーデックは、例えばIDR(Independent Decoder Refresh)ピクチャを含む異なる種類のイントラピクチャを許容する。当業者は、Iピクチャの変形、及びそれらの個々の適用及び特徴を認識する。
予測ピクチャ(Pピクチャ)は、殆どの場合、各ブロックのサンプル値を予測するために1つの動きベクトル及び参照インデックスを用いてイントラ予測又はインター予測を用いて符号化及び復号され得るピクチャであってよい。
双方向予測ピクチャ(Bピクチャ)は、各ブロックのサンプル値を予測するために最大2つの動きベクトル及び参照インデックスを用いてイントラ予測又はインター予測を用いて符号化及び復号され得るピクチャであってよい。同様に、マルチ予測ピクチャは、単一のブロックの再構成のために、2つより多くの参照ピクチャ及び関連付けられたメタデータを使用できる。
ソースピクチャは、共通に、複数のサンプルブロック(例えば、それぞれ4×4、8×8、4×8、又は16×16個のサンプルのブロック)に空間的に細分化され、ブロック毎に符号化されてよい。ブロックは、ブロックのそれぞれのピクチャに適用される符号化割り当てにより決定される他の(既に符号化された)ブロックへの参照により予測的に符号化されてよい。例えば、Iピクチャのブロックは、非予測的に符号化されてよく、又はそれらは同じピクチャの既に符号化されたブロックを参照して予測的に符号化されてよい(空間予測又はイントラ予測)。Pピクチャのピクセルブロックは、1つの前に符号化された参照ピクチャを参照して、空間予測を介して又は時間予測を介して、予測的に符号化されてよい。Bピクチャのブロックは、1つ又は2つの前に符号化された参照ピクチャを参照して、空間予測を介して又は時間予測を介して、予測的に符号化されてよい。
ビデオエンコーダ(503)は、ITU-T Rec. H.265のような所定のビデオ符号化技術又は標準に従い符号化動作を実行してよい。その動作において、ビデオエンコーダ(503)は、入力ビデオシーケンスの中の時間的及び空間的冗長性を利用する予測符号化動作を含む種々の圧縮動作を実行してよい。符号化ビデオデータは、したがって、使用されているビデオ符号化技術又は標準により指定されたシンタックスに従ってよい。
一実施形態では、送信機540は、符号化ビデオと共に追加データを送信してよい。ソースコーダ(530)は、このようなデータを符号化ビデオシーケンスの部分として含んでよい。追加データは、時間/空間/SNR拡張レイヤ、冗長ピクチャ及びスライスのような他の形式の冗長データ、SEIメッセージ、VUIパラメータセットフラグメント、等を含んでよい。
ビデオは、時系列の中の複数のソースピクチャ(ビデオピクチャ)としてキャプチャされてよい。イントラピクチャ予測(イントラ予測と省略されることがある)は、所与のピクチャの中の空間的相関を利用し、インターピクチャ予測は、ピクチャ間の(時間的又は他の)相関を利用する。一例では、符号化/復号中の特定のピクチャは、現在ピクチャと呼ばれ、ブロックにパーティションされる。現在ピクチャの中のブロックが、ビデオの中の前に符号化され且つ未だバッファリングされている参照ピクチャの中の参照ブロックと同様であるとき、現在ピクチャの中のブロックは、動きベクトルと呼ばれるベクトルにより符号化できる。動きベクトルは、参照ピクチャ内の参照ブロックを指し、複数の参照ピクチャが使用中である場合には、参照ピクチャを識別する第3次元を有することができる。
幾つかの実施形態では、双予測(bi-prediction)技術が、インターピクチャ予測で使用できる。双予測技術によると、両方とも復号順序でビデオの中の現在ピクチャより前にある(が、それぞれ表示順序で過去及び未来にあってよい)第1参照ピクチャ及び第2参照ピクチャのような2つの参照ピクチャが使用される。現在ピクチャ内のブロックは、第1参照ピクチャ内の第1参照ブロックを指す第1動きベクトル、及び第2参照ピクチャ内の第2参照ブロックを指す第2動きベクトルにより符号化できる。ブロックは、第1参照ブロック及び第2参照ブロックの結合により予測できる。
さらに、符号化効率を向上するために、インターピクチャ予測においてマージモード技術が使用できる。
本開示の幾つかの実施形態によると、インターピクチャ予測及びイントラピクチャ予測のような予測は、ブロックのユニットの中で実行される。例えば、HEVC標準によると、ビデオピクチャシーケンスの中のピクチャは、圧縮のために符号化木単位(coding tree unit:CTU)にパーティションされる。ピクチャ内のCTUは、64×64ピクセル、32×32ピクセル、又は16×16ピクセルのような、同じサイズを有する。通常、CTUは、3個の符号化木ブロック(coding tree blocks:CTB)、つまり1個のルマCTB及び2個のクロマCTB、を含む。各CTUは、1又は複数の符号化ユニット(coding unit:CU)に再帰的に4分木分割できる。例えば、64×64ピクセルのCTUは、64×64ピクセルの1個のCU、又は32×32ピクセルの4個のCU、又は16×16ピクセルの16個のCUに分割できる。一例では、各CUは、インター予測タイプ又はイントラ予測タイプのようなCUの予測タイプを決定するために分析される。CUは、時間的及び/又は空間的予測性に依存して、1つ以上の予測ユニット(prediction unit:PU)に分割される。通常、各PUは、ルマ予測ブロック(prediction block:PB)、及び2個のクロマPBを含む。一実施形態では、符号化(符号化/復号)における予測演算が、予測ブロックのユニットの中で実行される。ルマ予測ブロックを予測ブロックの一例として用いると、予測ブロックは、8×8ピクセル、16×16ピクセル、8×16ピクセル、16×8ピクセル、等のようなピクセルについて値(例えば、ルマ値)のマトリクスを含む。
図6は、本開示の別の実施形態によるビデオエンコーダ(603)の図を示す。ビデオエンコーダ(603)は、ビデオピクチャシーケンスの中の現在ビデオピクチャ内のサンプル値の処理ブロック(例えば、予測ブロック)を受信し、処理ブロックを符号化ビデオシーケンスの部分である符号化ピクチャに符号化するよう構成される。一例では、ビデオエンコーダ(603)は、図3の例では、ビデオエンコーダ(303)の代わりに使用される。
HEVCの例では、ビデオエンコーダ(603)は、8×8サンプル等の予測ブロックのような、処理ブロックのサンプル値のマトリクスを受信する。ビデオエンコーダ(603)は、例えばレート歪み最適化を用いて、処理ブロックがイントラモード、インターモード、又は双予測モードを用いて最適に符号化されるかを決定する。処理ブロックはイントラモードで符号化されるとき、ビデオエンコーダ(603)は、処理ブロックを符号化ピクチャへと符号化するために、イントラ予測技術を使用してよい。処理ブロックがインターモード又は双予測モードで符号化されるとき、ビデオエンコーダ(603)は、処理ブロックを符号化ピクチャへと符号化するために、それぞれインター予測又は双予測技術を使用してよい。特定のビデオ符号化技術では、マージモードは、予測器のギア部の符号化動きベクトル成分無しに、動きベクトルが1つ以上の動きベクトル予測器から得られるインターピクチャ予測サブモードであり得る。特定の他のビデオ符号化技術では、対象ブロックに適用可能な動きベクトル成分が存在し得る。一例では、ビデオエンコーダ(603)は、処理ブロックのモードを決定するために、モード決定モジュール(図示しない)のような他のコンポーネントを含む。
図6の例では、ビデオエンコーダ(603)は、図6に示したように一緒にインターエンコーダ(630)、イントラエンコーダ(622)、残差計算器(623)、スイッチ(626)、残差エンコーダ(624)、汎用制御部(621)、及びエントロピーエンコーダ(625)を含む。
インターエンコーダ(630)は、現在ブロック(例えば、処理中のブロック)のサンプルを受信し、ブロックを参照ピクチャ内の1つ以上の参照ブロック(例えば、前のピクチャ及び後のピクチャの中のブロック)と比較し、インター予測情報(例えば、インター符号化技術による冗長情報の説明、動きベクトル、マージモード情報)を生成し、任意の適切な技術を用いてインター予測情報に基づきインター予測結果(例えば、予測ブロック)を計算するよう構成される。幾つかの例では、参照ピクチャは、符号化ビデオ情報に基づき復号された、復号参照ピクチャである。
イントラエンコーダ(622)は、現在ブロック(例えば、処理中のブロック)のサンプルを受信し、幾つかの場合には、ブロックをサンプルピクチャ内の既に符号化されたブロックと比較し、変換後に量子化済み係数を、幾つかの場合にはイントラ予測情報(例えば、1つ以上のイントラ符号化技術によるイントラ予測方向情報)も生成するよう構成される。一例では、イントラエンコーダ(622)は、イントラ予測情報及び同じピクチャ内の参照ブロックに基づき、イントラ予測結果(例えば、予測したブロック)も計算する。
汎用制御部(621)は、一般制御データを決定し、一般制御データに基づきビデオエンコーダ(603)の他のコンポーネントを制御するよう構成される。一例では、汎用制御部(621)は、ブロックのモードを決定し、モードに基づき、制御信号をスイッチ(626)に提供する。例えば、モードがイントラモードであるとき、一般制御部(621)は、残差計算器(623)による使用のためにイントラモード結果を選択するようスイッチ(626)を制御し、イントラ予測情報を選択してビットストリーム内にイントラ予測情報を含めるよう、エントロピーエンコーダ(625)を制御し、モードがインターモードであるとき、一般制御部(621)は、残差計算器(623)による使用のためにインター予測結果を選択するようスイッチ(626)を制御し、インター予測情報を選択してビットストリーム内にインター予測情報を含めるよう、エントロピーエンコーダ(625)を制御する。
残差計算器(623)は、受信したブロックとイントラエンコーダ(622)又はインターエンコーダ(630)からの選択された予測結果との間の差(残差データ)を計算するよう構成される。残差エンコーダ(624)は、残差データに基づき動作して、残差データを符号化し、変換係数を生成するよう構成される。一例では、残差エンコーダ(624)は、残差データを空間ドメインから周波数ドメインへと変換し、変換係数を生成するよう構成される。変換係数は、次に、量子化変換係数を得るために、量子化処理を受ける。種々の実施形態では、ビデオエンコーダ(603)も残差デコーダ(628)を含む。残差デコーダ(628)は、逆変換を実行し、復号残差データを生成するよう構成される。復号残差データは、イントラエンコーダ(622)及びインターエンコーダ(630)により適切に使用できる。例えば、インターエンコーダ(630)は、復号残差データ及びインター予測情報に基づき復号ブロックを生成でき、イントラエンコーダ(622)は、復号残差データ及びイントラ予測情報に基づき復号ブロックを生成できる。復号ブロックは、復号ピクチャを生成するために適切に処理され、復号ピクチャは、幾つかの例ではメモリ回路(図示しない)にバッファリングされ、参照ピクチャとして使用できる。
エントロピーエンコーダ(625)は、符号化ブロックを含めるために、ビットストリームをフォーマットするよう構成される。エントロピーエンコーダ(625)は、HEVC標準のような適切な標準に従い種々の情報を含むよう構成される。一例では、エントロピーエンコーダ(625)は、ビットストリームに、一般制御データ、選択された予測情報(例えば、イントラ予測情報又はインター予測情報)、残差情報、及び他の適切な情報を含めるよう構成される。開示の主題によると、インターモード又は双予測モードのいずれかのマージサブモードでブロックを符号化するとき、残差情報は存在しないことに留意する。
図7は、本開示の別の実施形態によるビデオエンコーダ(710)の図を示す。ビデオデコーダ(710)は、符号化ビデオシーケンスの部分である符号化ピクチャを受信し、符号化ピクチャを復号して再構成ピクチャを生成するよう構成される。一例では、ビデオデコーダ(710)は、図3の例では、ビデオデコーダ(310)の代わりに使用される。
図7の例では、ビデオデコーダ(710)は、図7に示したように一緒にエントロピーデコーダ(771)、インターデコーダ(780)、残差デコーダ(773)、再構成モジュール(774)、イントラデコーダ(772)を含む。
エントロピーデコーダ(771)は、符号化ピクチャから、符号化ピクチャの生成されたシンタックス要素を表す特定のシンボルを再構成するよう構成され得る。このようなシンボルは、例えば、ブロックの符号化されたモード(例えば、イントラモード、インターモード、双方向モード、マージサブモード又は別のサブモードの後者の2つ)、それぞれイントラデコーダ(772)又はインターデコーダ(780)による予測のために使用される特定のサンプル又はメタデータを特定できる予測情報(例えば、イントラ予測情報又はインター予測情報)、例えば量子化された変換係数の形式の残差情報、等を含み得る。一例では、予測モードがインター又は双方向予測モードであるとき、インター予測情報がインターデコーダ(780)に提供され、予測タイプがイントラ予測タイプであるとき、イントラ予測情報がイントラデコーダ(772)に提供される。残差情報は、逆量子化され、残差デコーダ(773)に提供される。
インターデコーダ(780)は、インター予測情報を受信し、インター予測情報に基づきインター予測結果を生成するよう構成される。
イントラデコーダ(772)は、イントラ予測情報を受信し、イントラ予測情報に基づき予測結果を生成するよう構成される。
残差デコーダ(773)は、逆量子化を実行して、逆量子化された変換係数を抽出し、逆量子化された変換係数を処理して、残差を周波数ドメインから空間ドメインへと変換するよう構成される。残差デコーダ(773)は、(量子化器パラメータ(Quantizer Parameter:QP)を含むための)特定の制御情報も要求してよい。この情報は、エントロピーデコーダ(771)により提供されてよい(これは低容量制御情報のみなので、データ経路は示されない)。
再構成モジュール(774)は、空間ドメインで、残差デコーダ(773)による出力としての残差と(場合によりインター又はイントラ予測モジュールによる出力としての)予測結果とを結合して、再構成ピクチャの部分であり得る、一方で再構成ビデオの部分であり得る、再構成ブロックを形成するよう構成される。デブロッキング動作などのような他の適切な動作が、視覚的品質を向上するために実行できる。
ビデオエンコーダ(303)、(503)、及び(603)、並びにビデオデコーダ(310)、(410)、及び(710)は、任意の適切な技術を用いて実装できることに留意する。一実施形態では、ビデオエンコーダ(303)、(503)、及び(603)、並びにビデオデコーダ(310)、(410)、及び(710)は、1つ以上の集積回路を用いて実装できる。別の実施形態では、ビデオエンコーダ(303)、(503)、及び(503)、並びにビデオデコーダ(310)、(410)、及び(710)は、ソフトウェア命令を実行する1つ以上のプロセッサを用いて実装できる。
幾つかの実施形態によると、CTUは、CUに含まれる個々のブロックの種々の局所特性に適応するために符号化木として示される4分木2分木(quad tree binary tree (QTBT))構造を用いてCUに分割される。ピクチャ領域をインターピクチャ(時間)又はイントラピクチャ(空間)予測を用いて符号化するかの決定は、CUレベルで実行されてよい。各CUは、PU分割タイプに従い、1、2、又は4個のPUに更に分割されてよい。幾つかの実施形態では、1個のPU内で、同じ予測処理が適用され、関連情報がPU毎にデコーダへ送信される。PU分割タイプに基づき予測処理を適用することにより、残差ブロックを取得した後に、CUは、CTUの符号化木に使用された4分木構造と同様の別の4分木構造に従いTUにパーティションされてよい。幾つかの他の実施形態では、PUは、該PUと同じ形状を有する1個のTUのみを含む。
CTUのための符号化木は、CU、PU、及びTUを含む複数のパーティションタイプを含んでよい。幾つかの実施形態では、CU又はUTTERLYは、正方形のみであり、一方、PUは、インター予測ブロックについて正方形又は長方形であってよい。他の実施形態では、正方形の形状のCU、PU、及びTUが許可される。ピクチャ境界では、暗黙的4分木分割が適用されてよい。その結果、ブロックは、分割されたブロックのサイズがピクチャ境界に適合するまで、4分木分割を続ける。幾つかの実施形態によると、暗黙的分割は、分割フラグがシグナリングされないが、代わりに暗黙的に示されることを意味する。例えば、暗黙的QTは、ピクチャ境界ブロックについてQT分割のみが許可されることを意味する。このように、分割フラグは、ピクチャ境界ではシグナリングされない。別の例として、BT分割のみがピクチャ境界で許可されるとき、暗黙的分割は2分割である。幾つかの実施形態では、QT及びBTの両方がピクチャ境界で許可されるとき、暗黙的分割は存在せず、分割方法は明示的にシグナリングされる。
幾つかの実施形態によると、QTBT構造は、複数のパーティションタイプを含まず(例えば、QTBTはCU、PU、及びTUの区別を含まない)、CUパーティション形状について更なる柔軟性をサポートする。例えば、QTBTブロック構造では、CUは正方形又は長方形形状のいずれかを有してよい。図8Aは、QTBT構造によりパーティションされる例示的なCTU(800)を示す。例えば、CTU(800)は、4個の等しいサイズのサブCU(A)、(B)、(C)、及び(D)にパーティションされる。図8Bは、サブCU(A)、(B)、(C)、及び(D)に対応するブランチを示す対応する符号化木を示す。実線は4分木分割を示し、破線は2分木分割を示す。2分木構造は、2つの分割タイプ:(i)対称水平分割、及び(ii)対称垂直分割を含んでよい。2分木の各分割(つまり非リーフ)ノードでは、どの分割タイプ(例えば、水平又は垂直)が使用されるかを示すために1つのフラグがシグナリングされてよい。ここで、0は水平分割を示し、1は垂直分割を示し、或いはその逆である。4分木分割はブロックを水平方向及び垂直方向の両方に分割して等しいサイズを有する4個のサブブロックを生成するので、4分木分割では、分割タイプは示されない。
図8A及び8Bに示すように、サブCU(A)は、先ず、垂直分割により2個のサブブロックにパーティションされる。ここで、左サブブロックは、別の垂直分割により再びパーティションされる。サブCU(B)は、水平分割により更にパーティションされる。サブCU(C)は、別の4分割パーティションにより更にパーティションされる。サブCU(C)の左上サブブロックは、垂直分割によりパーティションされ、続いて水平分割によりパーティションされる。更に、サブCU(C)の右下サブブロックは、水平分割によりパーティションされる。サブCU(C)の右上及び左下サブブロックは、更にパーティションされない。サブCU(D)は、更にパーティションされず、従って、「D」ブランチの下に符号化木の中に追加リーフノードを含まない。
2分木リーフノードは、CUと呼ばれてよい。ここで、2分割は、任意の更なるパーティションを伴わず、予測及び変換処理のために使用されてよい。これは、CU、PU、及びTUが、QTBT符号化ブロック構造の中で同じブロックサイズを有することを意味する。CUは、異なる色成分の符号化ブロック(coding block (CB))を含んでよい。例えば、4:2:0クロマ形式のP及びBスライスの場合には、1個のCUが1個のルマCBと2個のクロマCBとを含み、時には単一の成分のCBを含んでよい(例えばイントラピクチャ又はIスライスの場合には、1個のCUが1個のルマCBのみ又はたった2個のクロマCBを含む)。幾つかの実施形態では、イントラピクチャ又はIスライスでは、TU幅又は高さは、所与の限界(例えば、ルマでは64、及びクロマでは32)を超えないよう制約される。CB幅又は高さが該限界より大きい場合、TUは、TUのサイズが該限界を超えなくなるまで、更に分割される。
幾つかの実施形態によると、QTBTパーティション方式は、以下のパラメータを含む。
CTU size:4分木のルートノードサイズ。
MinQTSize:最小許容4分木リーフノードサイズ。
MaxBTSize:最大許容2分木ルートノードサイズ。
MaxBTDepth:最大許容2分木深さ。
MinBTSize:最小許容2分木リーフノードサイズ。
QTBTパーティション構造の一例では、CTUサイズは、クロマサンプルの2個の対応するブロック64×64ブロックを有する128×128ルマサンプルに設定され、MinQTSizeは16×16に設定され、MaxBTSizeは64×64に設定されえ、MinBTSize(幅及び高さの両方について)は、4×4に設定され、MaxBTDepthは4に設定される。QTBTパーティション構造は、先ず、4分木リーフノードを生成するためにCTUに適用される。4分木リーフノードは、16×16(つまり、MinBTSize)から128×128(つまり、CTUsize)までのサイズを有してよい。リーフ4分木ノードが128×128である場合、リーフ4分木ノードは、サイズがMaxBTSize(つまり64×64)を超えるので、2分木により更に分割されない。その他の場合、リーフ4分木ノードは、2分木により更にパーティションされてよい。従って、4分木リーフノードは2分木のルートノードでもあり、4分木リーフは0のような2分木深さを有する。2分木深さがMaxBTDepth(例えば4)に達すると、更なる分割は実行されない。2分木ノードがMinBTSize(例えば4)に等しい幅を有するとき、更なる水平分割は実行されない。同様に、2分木ノードがMinBTSizeに等しい高さを有するとき、更なる垂直分割は実行されない。2分木のリーフノードは、任意の更なるパーティションを伴わず、予測及び変換処理により更に処理される。幾つかの実施形態では、最大CTUサイズは256×256ルマサンプルである。
QTBパーティション構造は、ルマ及びクロマ成分がそれぞれ別個のQTBT構造を有する能力を更にサポートしてよい。例えば、P及びBスライスでは、1個のCTUの中のルマ及びクロマCTBは、同じQTBT構造を共有してよい。しかしながら、Iスライスでは、ルマCTBは、QTBT構造によりCUへとパーティションされ、クロマCTBは、別のQTBT構造によりクロマCUへとパーティションされる。従って、本例では、Iスライス内のCU()は、ルマ成分の符号化ブロック又は2個のクロマ成分の符号化ブロックを含み、P又はBスライス内のCUは、3個の色成分全部の符号化ブロックを含む。
幾つかの実施形態では、小さいブロックのインター予測は、動き補償のメモリアクセス要件を低減するよう制約されるので、4×8及び8×4ブロックについて双予測がサポートされず、4×4ブロックについてインター予測がサポートされない。他の実施形態では、QTBTパーティション方式は、これらの制約を含まない。
幾つかの実施形態によると、マルチタイプ木(Multi-type-tree (MTT))構造は、(i)4分木分割、(ii)2分木分割、及び(iii)水平及び垂直中央-端3分木を含む。図9Aは、垂直中央-端3分木の実施形態を示す。図9Bは、水平中央-端3分木の例を示す。QTBT構造と比べて、MTTは、追加構造が許可されるので、より柔軟な木構造であり得る。
3分木パーティションは、具体的に、3分木パーティションがブロック中央に位置するオブジェクトをキャプチャでき、4分木及び2分木分割がブロック中央に沿っている場合に、4分木及び2分木パーティションの補足を提供するような有利な特徴を含む。3分木パーティションの別の利点として、提案された3分木のパーティションの幅及び高さは、2のべき乗である。その結果、追加の変換が必要ない。2レベルの木は、複雑性の低減の利益を提供する。例として、木をトラバースする複雑性はTDであり、ここでTは分割タイプの数を表し、DNNは木の深さである。
異なるYUV形式又はクロマ形式があり、これらは図10A~10Dに示される。各クロマ形式は、異なる色成分の異なるダウンサンプリンググリッドを定めてよい。
ビデオサンプルの色は、異なる色形式(例えば、YCbCr又はRGB)で表現されてよい。RGB形式では、3成分(つまり、R、G、及びB)は強力な相関を有し、結果として、3つの色成分の間に統計冗長性を生じる。ビデオサンプルの色表現は、線形変換を用いて異なる色空間に変換されてよい。RGB色空間をYUV色空間に変換することは、以下のように実行されてよい。
RGB色空間をYUV色空間に変換することは、以下のように実行されてよい。
RGBビデオコンテンツの効率的符号化のために、インループ適応型色変換(Adaptive Colour Transform (ACT))が開発された。ここで、ACTは残差ドメインにおいて動作する。CUレベル(CU-level)フラグは、ACTの使用を示すためにシグナリングされてよい。順方向ACT色変換(例えば、エンコーダにおいて実行される変換)は、以下のように実行されてよい。
逆方向ACT色変換(例えば、デコーダにおいて実行される逆変換)は、以下のように実行されてよい。
図11は、色空間変換を実行する例示的なエンコーダ1100を示す。図11では、色空間変換が実行される前に、予測が実行される。例えば、インター予測又はイントラ予測が、現在ブロックに対して実行されて、残差信号を生成する。残差信号は、式(7)における変換のような順方向変換を実行する順方向色空間変換ユニット(1102)に適用される。順方向色空間変換の出力は、クロスコンポーネント生成(cross component production (CCP))ユニット(1102)に提供される。CCPユニット(1102)の出力は、離散コサイン変換(discrete cosine transform (DCT))のようなタイプの変換を実行する変換(T)ユニット(1106)に提供される。変換ユニット(1106)の出力は、係数を生成する量子化器(Q)(1108)に提供される。係数は、ビットストリームを提供するエントロピーコーダユニット(1110)に提供される。エントロピーコーダユニット(1110)は、モード/mv信号を受信して、エントロピーコーダの特定の動作モードを選択してよい。
エンコーダ(1100)は、ビットストリームを残差信号へと変換するコンポーネントも含んでよい。例えば、エントロピーコーダ(1110)により生成されたビットストリームは、逆量子化器(inverse quantizer (IQ))ユニット(1112)に提供されてよい。逆量子化器ユニット(IQ)の出力は、逆変換(inverse transform (IT))ユニット(1114)に提供されてよい。逆変換ユニット(1114)の出力は、逆CCPユニット(1116)に提供されてよい。逆CCPユニット(1116)の出力は、式(8)に示される変換のような逆色変換が実行されてよい逆色空間変換(1118)に提供されてよい。
図12は、ビットストリームを残差信号へと変換する例示的なデコーダ(1200)を示す。図12に示すビットストリームは、エントロピーコーダ(1110)(図11)により生成されたビットストリームであってよい。ビットストリームは、エントロピーデコーダユニット(1202)に提供されてよい。エントロピーデコーダユニット(1202)の出力は、逆量子化器(IQ)ユニット(1204)に提供されてよい。逆量子化器ユニット(IQ)の出力は、逆変換(IT)ユニット(1206)に提供されてよい。逆変換ユニット(1204)の出力は、逆CCPユニット(1208)に提供されてよい。逆CCPユニット(1208)の出力は、残差信号を生成するために式(8)に示される変換のような逆色変換が実行されてよい逆色空間変換(1210)に提供されてよい。イントラ予測又はインター予測は、現在ブロックを復号するために、残差信号に対して実行されてよい。図11及び12に開示されるユニットは、ソフトウェアで、プロセッサにより、又は各ユニットの機能を実行するよう設計された専用集積回路のような回路により実装されてよい。
イントラPUのクロマ成分について、エンコーダは、平面、DC、水平、垂直、ルマ成分からのイントラ予測モードの直接コピー(DM)、LT_CCLM(Left and Top Cross-component Linear Mode)、L_CCLM(Left Cross-component Linear Mode)、及びT_CCLM(Top Cross-component Linear Mode)を含む8個のモードの中から最良のクロマ予測モードを選択してよい。LT_CCLM、L_CCLM、及びT_CCLMは、クロスコンポーネント線形モード(Cross-component Linear Mode (CCLM))に分類できる。これらの3つのモードの間の相違点は、近隣サンプルの異なる領域がパラメータα及びβを導出するために使用され得ることである。LT_CCLMでは、左及び上の近隣サンプルの両方が、パラメータα及びβを導出するために使用されてよい。L_CCLMでは、幾つかの例では、左近隣サンプルのみが、パラメータα及びβを導出するために使用される。T_CCLMでは、幾つかの例では、上近隣サンプルのみが、パラメータα及びβを導出するために使用される。
CCLM(Cross-Component Linear Model)予測モードは、クロスコンポーネント冗長性を削減するために使用されてよい。ここで、クロマサンプルは、以下のように、例示的な線形モデルを用いて、同じCUの再構成ルマサンプルに基づき予測される。
ここで、predC(i,j)は、CU内の予測されたクロマサンプルを表し、recL(i,j)は、同じCUのダウンサンプリングされた再構成ルマサンプルを表す。パラメータα及びβは、最大-最小法とも呼ばれてよい直線式により導出されてよい。この計算処理は、エンコーダの探索動作としてではなく、復号処理の一部として実行されてよいので、α及びβの値を伝達するためにシンタックスは使用されなくてよい。
クロマ4:2:0形式では、CCLM予測は、6タップ補間フィルタを適用して、図13に示されるようなクロマサンプルに対応するダウンサンプリングされたルマサンプルを取得してよい。式に基づき、ダウンサンプリングされたルマサンプルRec’L[x,y]は、再構成ルマサンプルから計算される。
ダウンサンプリングされたルマサンプルは、最大及び最小サンプル点を見付けるために使用されてよい。2個の点(ルマ及びクロマのペア)(A,B)は、図13に示されるように、近隣ルマサンプルのセットの中の最小値及び最大値であってよい。
線形モデルパラメータα及びβは、次式に従い取得されてよい。
有利なことに、乗算及びシフト演算を用いることにより、除算演算が回避される。予め計算された値を格納するために、1つのルックアップテーブル(Look-up Table (LUT))が使用されてよく、最大及び最小ルマサンプルの間の絶対差値は、LUTのエントリインデックスを指定するために使用されてよい。LUTのサイズは512であってよい。
図14A及び14Bは、LT_CCLMにおけるα及びβの導出のために使用されるサンプルの例示的な位置を示す。T_CCLMモードでは、幾つかの例において、上近隣サンプル(2*W個のサンプルを含む)のみが、線形モデル係数を計算するために使用される。図15A及び15Bは、T_CCLMにおけるα及びβの導出のために使用されるサンプルの例示的な位置を示す。
L_CCLMモードでは、幾つかの例において、左近隣サンプル(2*H個のサンプルを含む)のみが、線形モデル係数を計算するために使用される。図16A及び16Bは、L_CCLMにおけるα及びβの導出のために使用されるサンプルの例示的な位置を示す。
CCLM予測モードは、2つのクロマ成分の間の予測も含んでよい(つまり、Cr成分がCb成分から予測される)。再構成サンプル信号を使用する代わりに、CCLM Cb-to-Cr予測が残差ドメインにおいて適用されてよい。CCLM Cb-to-Cr予測は、加重再構成Cb残差を元のCrイントラ予測に加算して、最終的なCr予測を形成することにより、実施されてよい。
CCLMルマ-クロマ予測モードは、1つの追加クロマイントラ予測モードとして追加されてよい。エンコーダ側で、クロマイントラ予測モードを選択するために、クロマ成分について更なるレート歪み(rate distortion (RD)c)コストチェックが追加される。CCLMルマ-クロマ予測モード以外のイントラ予測モードがCUのクロマ成分のために使用されるとき、CCLM Cb-to-Cr予測が、Cr成分予測のために使用される。
複数のモデルCCLM(Multiple Model CCLM (MMLM))は別の拡張であり、1つより多くのモデル(例えば、2以上のモデル)が存在し得る。MMLMでは、現在ブロックの近隣ルマサンプル及び近隣クロマサンプルは、2つのグループに分類されてよい。ここで、各グループは、線形モデルを導出するためのトレーニングセットとして使用されてよい(つまり、特定のα及びβが、特定のグループについて導出される)。更に、現在ルマブロックのサンプルは、近隣ルマサンプルの分類のための同じルールに基づき分類されてもよい。
図17は、近隣サンプルを2つのグループに分類する例を示す。図17に示す閾値は、近隣再構成ルマサンプルの平均値として計算されてよい。Rec’L[x,y]≦閾値を有する近隣サンプルは、グループ1に分類され、一方で、Rec’L[x,y]>閾値を有する近隣サンプルは、グループ2に分類される。
RGB形式の入力ビデオの効率的符号化のために、VVCにおけるインループ色変換を可能にするために、色変換後と、クロスコンポーネント線形モデル及びデュアルツリーパーティションのようなVVCにおける幾つかの符号化ツールとの間の相互作用が取り扱われる必要がある。本開示の実施形態は、VVCにおける符号化ツールにより色変換を扱うという非常に有利な特徴を提供する。
本開示の実施形態は、別個に使用され又は任意の順序で結合されてよい。更に、本開示の実施形態による方法、エンコーダ、及びデコーダの各々は、処理回路(例えば、1つ以上のプロセッサ又は1つ以上の集積回路)により実施されてよい。一例では、1つ以上のプロセッサは、非一時的コンピュータ可読媒体に格納されたプログラムを実行する。本開示の実施形態によると、用語「ブロック」は、予測ブロック、符号化ブロック、又は符号化単位(つまり、CU)として解釈されてよい。本開示の実施形態によると、用語「ルマ成分」は、符号化順で最初の成分として符号化される任意の色成分(例えば、赤(R)又は緑(G)色成分)を表してよい。更に、本開示の実施形態によると、用語「クロマ成分」は、符号化順で最初の成分として符号化されない任意の色成分を表してよい。
幾つかの実施形態によると、ACTのような色変換は、エンコーダにおいて予測処理が実行される前に、及びデコーダにおいて再構成処理が実行された後に、適用される。エンコーダでは、ACTは、予測(例えば、インター予測、イントラ予測)の前に実行されてよく、ACTが現在CUに適用された場合、参照サンプル及び入力された元のサンプルの両方が、異なる色空間にマッピングされてよい。デコーダにおけるピクセル再構成では、ACTが再構成中のブロックに適用された場合、参照サンプルは、予測のために使用される前に代替の色空間にマッピングされてよく、再構成サンプルは次に元の色空間へと逆マッピングされてよい。
図18は、ACTを用いるエンコーダ及びデコーダの実施形態を示す。図18に開示されるユニットは、ソフトウェアで、プロセッサにより、又は図18に開示された各ユニットの機能を実行するよう設計された専用集積回路のような回路により実装されてよい。エンコーダでは、ACTユニット(1800)及び(1804)は、参照信号及び入力信号の両方にそれぞれACT変換を実行する。ACTユニット(1800)及び(1804)によりエンコーダにおいて実行されるACT変換は、式(7)に開示したACT変換であってよい。ACT(1800)の出力は予測(P)ユニット(1802)に提供される。更に、参照信号が予測(P)ユニット(1806)に提供される。予測(P)ユニット(1802)及び(1806)は、インター予測又はイントラ予測を実行してよい。変換(T)ユニット1808は、(i)予測(P)ユニット(1802)の出力と予測(P)ユニット(1806)の出力との間の差分、及び(ii)予測(P)ユニット(1806)の出力と入力信号との間の差分、のうちの1つを受信する。変換ユニット(1808)は、離散コサイン変換(DCT)のような変換動作を実行してよい。変換(T)ユニット(1808)の出力は、係数セットを生成するための量子化動作を実行する量子化器ユニット(Q)(1810)に提供される。
デコーダでは、逆量子化器(IQ)ユニット(1812)が、逆量子化処理を実行するために係数を受信する。逆量子化器(IQ)ユニット(1812)の出力は、逆変換を実行する逆変換(IT)ユニット(1814)に提供されてよい。ACTユニット(1820)は、予測(P)ユニット(1818)の出力と、逆変換(IT)(1814)ユニットの出力との和を受信する。ACTユニット(1816)は、予測(P)ユニット(1818)の出力を受信する。ACTユニット(1816)及び(1820)は、式(8)に開示した逆色変換のような逆色変換を実行してよい。予測(P)ユニット(1818)及び(1822)は、インター予測又はイントラ予測を実行してよい。再構成参照信号は、ACTユニット(1816)の出力により提供され、再構成された元の信号は、ACTユニット(1820)の出力により提供される。
幾つかの実施形態によると、ACT処理において、第2及び第3の色成分は、順方向及び逆方向変換のために色変換の後及び前に、それぞれ定数cだけ更にオフセットされる。式(14)は、変更された順方向変換を示し、式(15)は、変更された逆方向(つまり、逆)変換を示す。

幾つかの実施形態では、定数cは、1<<(bitDepth-1)として導出される。ここで、bitDepthは入力サンプルのビット深さを表す。
幾つかの実施形態によると、色変換は、異なる色成分が同じ変換単位パーティション木を用いて符号化されるときにのみ適用される。一実施形態では、DualTreeがイントラスライスに適用されるとき、色変換は、インタースライスのみに適用される。
幾つかの実施形態によると、色変換が適用されるとき、1つの成分からの残差サンプルの生成は別の成分の再構成に依存するので、CCLMモードは適用されず又はシグナリングされない。別の実施形態では、CCLMモードが使用されるとき、色変換は適用されず又はシグナリングされない。一実施形態では、色変換がイントラ残差サンプルに適用されるとき、1つの成分からの残差サンプルの生成は別の成分の再構成に依存するので、CCLMモードは適用されず又はシグナリングされない。一実施形態では、色変換が残差サンプルに適用され、CCLMモードが使用されるとき、色変換は適用されず又はシグナリングされない。
幾つかの実施形態では、色変換は、最大符号化単位(CU)であるCTU毎にシグナリングされる。
幾つかの実施形態では、色変換は、イントラ符号化ブロックについてのみ、又はインター符号化ブロックについてのみ、シグナリングされ適用される。幾つかの実施形態では、色変換が適用されるとき、DualTreeは適用されない(つまり、異なる色成分が同じ変換単位パーティションを共有する)。
図19は、エンコーダ(603)のようなエンコーダにより実行される処理の実施形態を示す。処理は、ステップ(S1900)で開始し、色変換条件が満たされるかどうかが決定される。例えば、色変換条件は、色現在ブロックについて色変換が有効にされているかどうかを示すフラグであってよい。別の例として、色変換条件は、CTU内の各ブロックについて色変換が有効にされていることを示すフラグであってよい。色変換条件が満たされた場合、処理はステップ(S1902)に進み、現在ブロックに色変換が実行される。例えば、色変換は、式(7)に示されたACT動作であってよい。
処理は、ステップ(S1902)からステップ(S1904)へ進み、色変換された現在ブロックに対して予測を実行する。予測は、インター予測又はイントラ予測であってよい。ステップ(S1900)で、色変換条件が満たされない場合、処理はステップ(S1900)からステップ(S1904)へ進む。処理は、ステップ(S1904)からステップ(S1906)へ進み、予測された現在ブロックに対して、DCTのような変換処理を実行する。処理は、ステップ(S1908)へ進み、色変換された現在ブロックに対して量子化処理を実行する。量子化処理の出力は、デコーダへと送信されるビットストリームに含まれる係数セットであってよい。図19に示した処理は、ステップ(S1908)が実行された後に終了してよい。
図20は、デコーダ(710)のようなデコーダにより実行される処理の実施形態を示す。処理は、ステップ(S2000)で開始してよく、符号化ビデオビットストリームが受信される。このビットストリームは、ステップ(S1908)(図19)により生成された係数を含んでよい。処理は、ステップ(S2002)へ進み、現在ブロックに対応する係数セットに対して逆量子化が実行される。処理は、ステップ(S2004)へ進み、現在ブロックの逆量子化の出力に対して逆変換が実行される。処理は、ステップ(S2006)へ進み、現在ブロックに対応する逆変換の出力に対して、インター予測又はイントラ予測のような予測が実行される。ステップ(S2008)で、現在ブロックについて色変換条件が満たされるかどうかが決定される。例えば、色変換条件は、色現在ブロックについて色変換が有効にされているかどうかを示すフラグであってよい。別の例として、色変換条件は、CTU内の各ブロックについて色変換が有効にされていることを示すフラグであってよい。色変換条件が満たされた場合、処理はステップ(S2010)に進み、現在ブロックに逆色変換が実行される。例えば、逆色変換は、式(8)に示されたACT動作であってよい。色変換条件が満たされない場合、図20に示された処理は終了する。図20に示した処理は、ステップ(S2010)が実行された後に終了してもよい。
上述の技術は、コンピュータ可読命令を用いてコンピュータソフトウェアとして実装でき、1つ以上のコンピュータ可読媒体に物理的に格納でる。例えば、図21は、本開示の主題の特定の実施形態を実装するのに適するコンピュータシステム(2100)を示す。
コンピュータソフトウェアは、アセンブリ、コンパイル、リンク等のメカニズムにより処理されて、1つ以上のコンピュータ中央処理ユニット(CPU)、グラフィック処理ユニット(GPU)、等により直接又はインタープリット、マイクロコード実行、等を通じて実行可能な命令を含むコードを生成し得る、任意の適切な機械コードまたはコンピュータ言語を用いて符号化できる。
命令は、例えばパーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲーム装置、モノのインターネット装置、等を含む種々のコンピュータ又はそのコンポーネントで実行できる。
コンピュータシステム(2100)の図21に示すコンポーネントは、本来例示であり、本開示の実施形態を実装するコンピュータソフトウェアの使用又は機能の範囲に対するようないかなる限定も示唆しない。さらに、コンポーネントの構成も、コンピュータシステム(2100)の例示的な実施形態に示されたコンポーネントのうちのいずれか又は組み合わせに関連する任意の依存性又は要件を有すると解釈されるべきではない。
コンピュータシステム(2100)は、特定のヒューマンインタフェース入力装置を含んでよい。このようなヒューマンインタフェース入力装置は、例えば感覚入力(例えば、キーストローク、スワイプ、データグラブ動作)、音声入力(例えば、音声、クラッピング)、視覚的入力(例えば、ジェスチャ)、嗅覚入力(示されない)を通じた1人以上の人間のユーザによる入力に応答してよい。ヒューマンインタフェース装置は、必ずしも人間による意識的入力に直接関連する必要のない特定の媒体、例えば音声(例えば、会話、音楽、環境音)、画像(例えば、スキャンされた画像、デジタルカメラから取得された写真画像)、ビデオ(例えば、2次元ビデオ、3次元ビデオ、立体ビデオを含む)をキャプチャするためにも使用できる。
入力ヒューマンインタフェース装置は、キーボード(2101)、マウス(2102)、トラックパッド(2103)、タッチスクリーン(2110)、データグラブ(図示しない)、ジョイスティック(2105)、マイクロフォン(2106)、スキャナ(2107)、カメラ(2108)、のうちの1つ以上を含んでよい(そのうちの1つのみが示される)。
コンピュータシステム(2100)は、特定のヒューマンインタフェース出力装置も含んでよい。このようなヒューマンインタフェース出力装置は、例えば感覚出力、音声、光、及び匂い/味を通じて1人以上の人間のユーザの感覚を刺激してよい。このようなヒューマンインタフェース出力装置は、感覚出力装置を含んでよい(例えば、タッチスクリーン(2110)、データグラブ(図示しない)、又はジョイスティック(2105(による感覚フィードバック、しかし入力装置として機能しない感覚フィードバック装置も存在し得る)、音声出力装置(例えば、スピーカ(2109)、ヘッドフォン(図示しない)、視覚的出力装置(例えば、スクリーン(2110)、CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンを含み、それぞれタッチスクリーン入力能力を有し又は有さず、それぞれ感覚フィードバック能力を有し又は有さず、これらのうちの幾つかは例えば立体出力、仮想現実眼鏡(図示しない)、ホログラフィックディスプレイ、及び発煙剤タンク(図示しない)、及びプリンタ(図示しない)のような手段を通じて2次元視覚出力又は3次元以上の出力を出力可能であってよい))。
コンピュータシステム(2100)は、人間のアクセス可能な記憶装置、及び、例えばCD/DVD等の媒体(2121)を備えるCD/DVD ROM/RW(2120)のような光学媒体、サムドライブ(2122)、取り外し可能ハードドライブ又は個体状態ドライブ(2123)、テープ及びフロッピディスク(図示しない)のようなレガシー磁気媒体、セキュリティドングル(図示しない)等のような専用ROM/ASIC/PLDに基づく装置のような関連する媒体も含み得る。
当業者は、本開示の主題と関連して使用される用語「コンピュータ可読媒体」が伝送媒体、搬送波、又は他の一時的信号を包含しないことも理解すべきである。
コンピュータシステム(2100)は、1つ以上の通信ネットワークへのインタフェースも含み得る。ネットワークは、例えば無線、有線、光であり得る。ネットワークへは、更に、ローカル、広域、都市域、車両及び産業、リアルタイム、耐遅延性、等であり得る。ネットワークの例は、イーサネットのようなローカルエリアネットワーク、無線LAN、GSM、3G、4G、5G、LET等を含むセルラネットワーク、ケーブルTV、衛星TV、地上波放送TVを含むTV有線又は無線広域デジタルネットワーク、CANBusを含む車両及び産業、等を含む。特定のネットワークは、一般に、特定の汎用データポート又は周辺機器バス(2149)(例えば、コンピュータシステム(2100)のUSBポート)に取り付けられる外部ネットワークインタフェースを必要とする。他のものは、一般に、後述するようなシステムバスへの取り付けによりコンピュータシステム(2100)のコアに統合される(例えば、イーサネットインタフェースをPCコンピュータシステムへ、又はセルラネットワークインタフェースをスマートフォンコンピュータシステムへ)。これらのネットワークを用いて、コンピュータシステム(2100)は、他のエンティティと通信できる。このような通信は、単方向受信のみ(例えば、放送TV)、単方向送信のみ(例えば、特定のCANbus装置へのCANbus)、又は例えばローカル又は広域デジタルネットワークを用いて他のコンピュータシステムへの双方向であり得る。特定のプロトコル及びプロトコルスタックが、上述のネットワーク及びネットワークインタフェースの各々で使用され得る。
前述のヒューマンインタフェース装置、人間のアクセス可能な記憶装置、及びネットワークインタフェースは、コンピュータシステム(2100)のコア(2140)に取り付け可能である。
コア(2140)は、1つ以上の中央処理ユニット(CPU)(2141)、グラフィック処理ユニット(GPU)(2142)、GPGAの形式の専用プログラマブル処理ユニット(2143)、特定タスクのためのハードウェアアクセラレータ(2144)、等を含み得る。これらの装置は、読み出し専用メモリ(ROM)(2145)、ランダムアクセスメモリ(2146)、内部のユーザアクセス不可能なハードドライブ、SSD、等のような内蔵大容量記憶装置(2147)と共に、システムバス(2148)を通じて接続されてよい。幾つかのコンピュータシステムでは、追加CPU、GPU、等による拡張を可能にするために、システムバス2148は、1つ以上の物理プラグの形式でアクセス可能である。周辺機器は、コアのシステムバス2148に直接に、又は周辺機器バス2149を通じて、取り付け可能である。周辺機器バスのアーキテクチャは、PCI、USB、等を含む。
CPU(2141)、GPU(2142)、FPGA(2143)、及びアクセラレータ(2144)は、結合されて前述のコンピュータコードを生成可能な特定の命令を実行できる。該コンピュータコードは、ROM(2145)又はRAM(2146)に格納できる。一時的データもRAM(2146)に格納でき、一方で、永久的データは例えば内蔵大容量記憶装置(2147)に格納できる。メモリ装置のうちのいずれかへの高速記憶及び読み出しは、CPU(2141)、GPU(2142)、大容量記憶装置(2147)、ROM(2145)、RAM(2146)等のうちの1つ以上に密接に関連付けられ得るキャッシュメモリの使用を通じて可能にできる。
コンピュータ可読媒体は、種々のコンピュータにより実施される動作を実行するためのコンピュータコードを有し得る。媒体及びコンピュータコードは、本開示の目的のために特別に設計され構成されたものであり得、又は、コンピュータソフトウェア分野の当業者によく知られ利用可能な種類のものであり得る。
例として及び限定ではなく、アーキテクチャを有するコンピュータシステム(2100)、及び具体的にはコア(2140)は、プロセッサ(CPU、GPU、FPGA、アクセラレータ、等を含む)が1つ以上の有形コンピュータ可読媒体内に具現化されたソフトウェアを実行した結果として、機能を提供できる。このようなコンピュータ可読媒体は、コア内蔵大容量記憶装置(2147)又はROM(2145)のような非一時的特性のコア(2140)の特定の記憶装置、及び上述のようなユーザアクセス可能な大容量記憶装置と関連付けられた媒体であり得る。本開示の種々の実施形態を実装するソフトウェアは、このような装置に格納されコア(2140)により実行できる。コンピュータ可読媒体は、特定の必要に従い、1つ以上のメモリ装置又はチップを含み得る。ソフトウェアは、コア(2140)及び具体的にはその中のプロセッサ(CPU、GPU、FPGA、等を含む)に、ソフトウェアにより定義された処理に従うRAM(2146)に格納されたデータ構造の定義及び該データ構造の変更を含む、ここに記載した特定の処理又は特定の処理の特定の部分を実行させることができる。追加又は代替として、コンピュータシステムは、ここに記載の特定の処理又は特定の処理の特定の部分を実行するためにソフトウェアと一緒に又はそれに代わって動作可能な論理ハードワイヤド又は他の回路内の実装(例えば、アクセラレータ(2144))の結果として機能を提供できる。ソフトウェアへの言及は、ロジックを含み、適切な場合にはその逆も同様である。コンピュータ可読媒体への言及は、適切な場合には、実行のためにソフトウェアを格納する(集積回路(IC)のような)回路、実行のためにロジックを実装する回路、又はそれらの両方を含み得る。本開示は、ハードウェア及びソフトウェアの任意の適切な組み合わせを含む。
付録A:用語集
JEM: joint exploration model
VVC: versatile video coding
BMS: benchmark set
MV: Motion Vector
HEVC: High Efficiency Video Coding
SEI: Supplementary Enhancement Information
VUI: Video Usability Information
GOPs: Groups of Pictures
TUs: Transform Units,
PUs: Prediction Units
CTUs: Coding Tree Units
CTBs: Coding Tree Blocks
PBs: Prediction Blocks
HRD: Hypothetical Reference Decoder
SNR: Signal Noise Ratio
CPUs: Central Processing Units
GPUs: Graphics Processing Units
CRT: Cathode Ray Tube
LCD: Liquid-Crystal Display
OLED: Organic Light-Emitting Diode
CD: Compact Disc
DVD: Digital Video Disc
ROM: Read-Only Memory
RAM: Random Access Memory
ASIC: Application-Specific Integrated Circuit
PLD: Programmable Logic Device
LAN: Local Area Network
GSM: Global System for Mobile communications
LTE: Long-Term Evolution
CANBus: Controller Area Network Bus
USB: Universal Serial Bus
PCI: Peripheral Component Interconnect
FPGA: Field Programmable Gate Areas
SSD: solid-state drive
IC: Integrated Circuit
CU: Coding Unit
本開示は、幾つかの例示的な実施形態を記載したが、代替、置換、及び種々の代用の均等物が存在し、それらは本開示の範囲に包含される。当業者に明らかなことに、ここに明示的に示され又は説明されないが、本開示の原理を実施し、したがって、本開示の精神及び範囲に含まれる多数のシステム及び方法を考案可能である。
(1)ビデオデコーダにおいて実行されるビデオ復号の方法であって、前記方法は、
現在ピクチャを含む符号化ビデオビットストリームを受信するステップと、
前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行するステップと、
前記逆量子化を実行した後に、前記現在ブロックに対して逆変換を実行するステップと、
前記逆変換を実行した後に、前記現在ブロックに対して予測処理を実行するステップと、
前記現在ブロックに対して前記予測処理を実行した後に、所定の条件が満たされるかどうかを決定するステップと、
前記所定の条件が満たされると決定することに応答して、前記現在ブロックに対して逆色変換を実行するステップと、
を含む方法。
(2)前記逆色変換は、逆適応型色変換(ACT)であり、前記逆色変換の実行は、再色空間変換からの構成された現在ブロックをRGB形式へと変換する、特徴(1)に記載の方法。
(3)前記逆色変換を実行するステップは、前記逆色変換の1つ以上の色成分から定数を減算するステップを含む、特徴(1)又は(2)に記載の方法。
(4)前記定数は、入力サンプルのビット深さから1を減算する左シフト演算を実行することから導出される、特徴(3)に記載の方法。
(5)前記所定の条件は、色変換が前記現在ブロックについてシグナリングされるという決定に応答して、満たされる、特徴(1)~(4)のいずれか1つに記載の方法。
(6)前記色変換は、最大符号化単位(CU)を有する符号化木単位(CTU)毎にシグナリングされる、特徴(5)に記載の方法。
(7)前記所定の条件は、前記逆色変換の異なる色成分が、同じ変換単位パーティション木を用いて符号化されるという決定に応答して、満たされる、特徴(1)~(6)のいずれか1つに記載の方法。
(8)イントラスライスにDualTreeが適用されるという決定に応答して、前記逆色変換がインタースライスにのみ適用される、特徴(7)に記載の方法。
(9)前記所定の条件が満たされるという決定に応答して、クロスコンポーネント線形モード(CCLM)が前記現在ブロックのクロマユニットに適用されないこと、を更に含む特徴(1)~(8)のいずれか1つに記載の方法。
(10)前記予測処理は、インター予測又はイントラ予測のうちの1つである、特徴(1)~(9)のいずれか1つに記載のビデオ復号の方法。
(11)ビデオ復号のためのビデオデコーダであって、
処理回路を含み、前記処理回路は、
現在ピクチャを含む符号化ビデオビットストリームを受信し、
前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行し、
前記逆量子化を実行した後に、前記現在ブロックに対して逆変換を実行し、
前記逆変換を実行した後に、前記現在ブロックに対して予測処理を実行し、
前記現在ブロックに対して前記予測処理を実行した後に、所定の条件が満たされるかどうかを決定し、
前記所定の条件が満たされると決定することに応答して、前記現在ブロックに対して逆色変換を実行する、
用構成される、ビデオデコーダ。
(12)前記逆色変換は、逆適応型色変換(ACT)であり、前記逆色変換の実行は、色空間変換からの再構成された現在ブロックをRGB形式へと変換する、特徴(11)に記載のビデオデコーダ。
(13)前記逆色変換の実行は、前記処理回路が、前記逆色変換の1つ以上の色成分から定数を減算するよう構成されることを含む、特徴(11)又は(12)に記載のビデオデコーダ。
(14)前記定数は、入力サンプルのビット深さから1を減算する左シフト演算を実行することから導出される、特徴(13)に記載のビデオデコーダ。
(15)前記所定の条件は、色変換が前記現在ブロックについてシグナリングされるという決定に応答して、満たされる、特徴(11)~(14)のいずれか1つに記載のビデオデコーダ。
(16)前記色変換は、最大符号化単位(CU)を有する符号化木単位(CTU)毎にシグナリングされる、特徴(15)に記載のビデオデコーダ。
(17)前記所定の条件は、前記逆色変換の異なる色成分が、同じ変換単位パーティション木を用いて符号化されるという決定に応答して、満たされる、特徴(11)~(16)のいずれか1つに記載のビデオデコーダ。
(18)イントラスライスにDualTreeが適用されるという決定に応答して、前記逆色変換がインタースライスにのみ適用される、特徴(17)に記載のビデオデコーダ。
(19)前記所定の条件が満たされるという決定に応答して、クロスコンポーネント線形モード(CCLM)が前記現在ブロックのクロマユニットに適用されない、特徴(11)に記載のビデオデコーダ。
(20)格納された命令を有する非一時的コンピュータ可読媒体であって、前記命令は、ビデオデコーダ内のプロセッサにより実行されると、前記ビデオデコーダに方法を実行させ、前記方法は、
現在ピクチャを含む符号化ビデオビットストリームを受信するステップと、
前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行するステップと、
前記逆量子化を実行した後に、前記現在ブロックに対して逆変換を実行するステップと、
前記逆変換を実行した後に、前記現在ブロックに対して予測処理を実行するステップと、
前記現在ブロックに対して前記予測処理を実行した後に、所定の条件が満たされるかどうかを決定するステップと、
前記所定の条件が満たされると決定することに応答して、前記現在ブロックに対して逆色変換を実行するステップと、
を含む、非一時的コンピュータ可読媒体。

Claims (13)

  1. ビデオデコーダにおいて実行されるビデオ復号の方法であって、前記方法は、
    現在ピクチャを含む符号化ビデオビットストリームを受信するステップと、
    前記現在ピクチャに含まれる現在ブロックに対して逆量子化を実行するステップと、
    前記逆量子化を実行した後に、前記現在ブロックに対して逆変換を実行するステップと、
    所定の条件が満たされるかどうかを決定するステップと、
    前記所定の条件が満たされると決定することに応答して、前記現在ブロックに対して逆色変換を実行するステップであって、前記逆色変換は、DualTreeが適用されないときのみ、イントラ符号化ブロックに対して適用される、ステップと、
    を含む方法。
  2. 前記逆色変換は、逆適応型色変換(ACT)であり、前記逆色変換を実行するステップは、色空間変換からの現在ブロックをRGB形式へと変換する、請求項1に記載の方法。
  3. 前記逆色変換を実行するステップは、前記逆色変換の1つ以上の色成分から定数を減算するステップを含む、請求項1又は2に記載の方法。
  4. 前記定数は、入力サンプルのビット深さから1を減算する左シフト演算を実行することから導出される、請求項3に記載の方法。
  5. 前記所定の条件は、色変換が前記現在ブロックについてシグナリングされるという決定に応答して、満たされる、請求項1~4のいずれか一項に記載の方法。
  6. 前記色変換は、最大符号化単位(CU)を有する符号化木単位(CTU)毎にシグナリングされる、請求項5に記載の方法。
  7. 前記所定の条件は、前記逆色変換の異なる色成分が同じ変換単位パーティション木を用いて符号化されるという決定に応答して、満たされる、請求項1~6のいずれか一項に記載の方法。
  8. イントラスライスにDualTreeパーティションが適用されるという決定に応答して、前記逆色変換がインタースライスにのみ適用され、前記DualTreeパーティションは、色成分毎に異なる変換単位パーティションを含む、請求項7に記載の方法。
  9. 前記所定の条件が満たされるという決定に応答して、クロスコンポーネント線形モード(CCLM)が前記現在ブロックのクロマユニットに適用されないこと、を更に含む請求項1~8のいずれか一項に記載の方法。
  10. 前記逆色変換は、異なる色成分が同じ符号化単位パーティション木を共有するとき、イントラ符号化ブロックにのみ適用される、請求項1~9のいずれか一項に記載の方法。
  11. 機器であって、プロセッサとメモリとを含み、前記プロセッサが前記メモリに記憶されたプログラムをロードし実行することにより、請求項1~10のいずれか一項に記載の方法を実現する機器。
  12. コンピュータプログラムであって、ビデオデコーダ内のプロセッサにより実行されると、前記ビデオデコーダに請求項1~10のいずれか一項に記載の方法を実行させる、コンピュータプログラム。
  13. ビデオエンコーダにおいて実行されるビデオ符号化の方法であって、前記方法は、
    所定の条件が満たされるかどうかを決定するステップと、
    前記所定の条件が満たされると決定することに応答して、現在ピクチャに含まれる現在ブロックに対して色変換を実行するステップであって、前記色変換は、DualTreeが適用されないときのみ、イントラ符号化ブロックに対して適用される、ステップと、
    前記現在ブロックに対して変換を実行するステップと、
    前記現在ブロックに対して量子化を実行するステップと、
    を含む方法。
JP2022127516A 2019-03-12 2022-08-10 Vvcにおける色変換のための方法及び機器 Active JP7343668B2 (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201962817500P 2019-03-12 2019-03-12
US62/817,500 2019-03-12
US16/817,028 US11153591B2 (en) 2019-03-12 2020-03-12 Method and apparatus for color transform in VVC
JP2021533457A JP7124222B2 (ja) 2019-03-12 2020-03-12 Vvcにおける色変換のための方法及び機器
PCT/US2020/022435 WO2020186084A1 (en) 2019-03-12 2020-03-12 Method and apparatus for color transform in vvc
US16/817,028 2020-03-12

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021533457A Division JP7124222B2 (ja) 2019-03-12 2020-03-12 Vvcにおける色変換のための方法及び機器

Publications (3)

Publication Number Publication Date
JP2022176939A JP2022176939A (ja) 2022-11-30
JP2022176939A5 JP2022176939A5 (ja) 2022-12-22
JP7343668B2 true JP7343668B2 (ja) 2023-09-12

Family

ID=72422821

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2021533457A Active JP7124222B2 (ja) 2019-03-12 2020-03-12 Vvcにおける色変換のための方法及び機器
JP2022127516A Active JP7343668B2 (ja) 2019-03-12 2022-08-10 Vvcにおける色変換のための方法及び機器
JP2022127517A Active JP7343669B2 (ja) 2019-03-12 2022-08-10 Vvcにおける色変換のための方法及び機器
JP2023141867A Pending JP2023162380A (ja) 2019-03-12 2023-08-31 Vvcにおける色変換のための方法及び機器

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021533457A Active JP7124222B2 (ja) 2019-03-12 2020-03-12 Vvcにおける色変換のための方法及び機器

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2022127517A Active JP7343669B2 (ja) 2019-03-12 2022-08-10 Vvcにおける色変換のための方法及び機器
JP2023141867A Pending JP2023162380A (ja) 2019-03-12 2023-08-31 Vvcにおける色変換のための方法及び機器

Country Status (9)

Country Link
US (3) US11153591B2 (ja)
EP (1) EP3938952A4 (ja)
JP (4) JP7124222B2 (ja)
KR (1) KR20210104891A (ja)
CN (1) CN113557527B (ja)
AU (3) AU2020237237B2 (ja)
CA (1) CA3132394A1 (ja)
SG (1) SG11202109517RA (ja)
WO (1) WO2020186084A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117579830A (zh) * 2019-06-21 2024-02-20 北京字节跳动网络技术有限公司 自适应环内颜色空间转换和其他编解码工具的选择性使用
CN117241033A (zh) * 2019-08-06 2023-12-15 北京字节跳动网络技术有限公司 使用屏幕内容编码工具进行视频编码和解码
CN114342400B (zh) 2019-09-02 2024-06-28 北京字节跳动网络技术有限公司 基于色彩格式的编解码模式确定
JP7332795B2 (ja) 2019-09-21 2023-08-23 北京字節跳動網絡技術有限公司 クロマ・イントラモードのベースとなるサイズ制約
US11170690B2 (en) * 2019-09-26 2021-11-09 Apple Inc. Pixel leakage and internal resistance compensation systems and methods
WO2021088951A1 (en) 2019-11-07 2021-05-14 Beijing Bytedance Network Technology Co., Ltd. Quantization properties of adaptive in-loop color-space transform for video coding
WO2024081013A1 (en) * 2022-10-13 2024-04-18 Google Llc Color decorrelation in video and image compression
WO2024120478A1 (en) * 2022-12-07 2024-06-13 Mediatek Inc. Method and apparatus of inheriting cross-component models in video coding system

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014157172A1 (ja) 2013-03-28 2014-10-02 Kddi株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8724699B2 (en) * 2005-04-13 2014-05-13 Thomson Licensing Luma and chroma encoding using a common predictor
KR101138393B1 (ko) * 2005-07-15 2012-04-26 삼성전자주식회사 부호화 모드에 따른 컬러 성분간 예측을 이용한 컬러 영상및 비디오 부호화/복호화 방법 및 장치
US8306112B2 (en) * 2005-09-20 2012-11-06 Mitsubishi Electric Corporation Image encoding method and image decoding method, image encoder and image decoder, and image encoded bit stream and recording medium
KR101348365B1 (ko) * 2006-08-02 2014-01-10 삼성전자주식회사 영상의 부호화 방법 및 장치, 복호화 방법 및 장치
US8107743B2 (en) 2007-03-30 2012-01-31 Sharp Kabushiki Kaisha Image processing device, image processing method, and storage medium
TW201028018A (en) * 2009-01-07 2010-07-16 Ind Tech Res Inst Encoder, decoder, encoding method and decoding method
PL2725797T3 (pl) * 2011-06-23 2019-01-31 Huawei Technologies Co., Ltd. Urządzenie do dekodowania przesunięcia, urządzenie do kodowania przesunięcia, urządzenie do filtrowania obrazu i struktura danych
KR101943049B1 (ko) * 2011-06-30 2019-01-29 에스케이텔레콤 주식회사 영상 부호화/복호화 방법 및 장치
EP2869557B1 (en) * 2012-06-29 2023-08-09 Electronics And Telecommunications Research Institute Method and device for encoding/decoding images
US11070810B2 (en) * 2014-03-14 2021-07-20 Qualcomm Incorporated Modifying bit depths in color-space transform coding
US10057578B2 (en) * 2014-10-07 2018-08-21 Qualcomm Incorporated QP derivation and offset for adaptive color transform in video coding
CN105960802B (zh) * 2014-10-08 2018-02-06 微软技术许可有限责任公司 切换色彩空间时对编码和解码的调整
US9838662B2 (en) * 2014-10-10 2017-12-05 Qualcomm Incorporated Harmonization of cross-component prediction and adaptive color transform in video coding
WO2016074147A1 (en) * 2014-11-11 2016-05-19 Mediatek Singapore Pte. Ltd. Separated coding tree for luma and chroma
WO2016154963A1 (en) * 2015-04-01 2016-10-06 Mediatek Inc. Methods for chroma coding in video codec
US10419757B2 (en) 2016-08-31 2019-09-17 Qualcomm Incorporated Cross-component filter
US11070825B2 (en) * 2019-06-13 2021-07-20 Mediatek Inc. Method and apparatus of encoding or decoding video data with adaptive colour transform
US20210160481A1 (en) * 2019-11-26 2021-05-27 Qualcomm Incorporated Flexible signaling of qp offset for adaptive color transform in video coding

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014157172A1 (ja) 2013-03-28 2014-10-02 Kddi株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
河村 圭(外1名),「イントラ参照画素の成分間予測手法の検討」,第14回情報科学技術フォーラム(FIT 2015)講演論文集,第3分冊,日本,一般社団法人 情報処理学会,2015年08月24日,第295~296頁.
河村 圭(外2名),「4:4:4色形式における予測残差信号の適応的色空間変換方式の検討」,映像情報メディア学会2013年年次大会講演予稿集,[CD-ROM],Session-ID: 13-3,日本,一般社団法人 映像情報メディア学会,2013年08月07日,全2頁,ISSN: 1880-6961.

Also Published As

Publication number Publication date
AU2024203083A1 (en) 2024-05-30
EP3938952A4 (en) 2022-12-28
KR20210104891A (ko) 2021-08-25
US20210400290A1 (en) 2021-12-23
JP7124222B2 (ja) 2022-08-23
EP3938952A1 (en) 2022-01-19
CN113557527A (zh) 2021-10-26
JP2022176940A (ja) 2022-11-30
AU2023201776B2 (en) 2024-02-29
US20200296398A1 (en) 2020-09-17
US11153591B2 (en) 2021-10-19
SG11202109517RA (en) 2021-09-29
CA3132394A1 (en) 2020-09-17
WO2020186084A1 (en) 2020-09-17
AU2023201776A1 (en) 2023-05-25
JP7343669B2 (ja) 2023-09-12
AU2020237237B2 (en) 2022-12-22
JP2022176939A (ja) 2022-11-30
US11563965B2 (en) 2023-01-24
AU2020237237A1 (en) 2021-09-30
JP2023162380A (ja) 2023-11-08
US20230179785A1 (en) 2023-06-08
JP2022513457A (ja) 2022-02-08
CN113557527B (zh) 2024-07-23

Similar Documents

Publication Publication Date Title
JP7343668B2 (ja) Vvcにおける色変換のための方法及び機器
JP7297918B2 (ja) ビデオ符号化のための色変換
JP7271675B2 (ja) ビデオ復号の方法および装置、並びにプログラム
JP2024024054A (ja) ビデオコーディングのための方法および装置
JP2023518432A (ja) 機械のためのビデオ符号化のための方法、装置およびコンピュータ・プログラム
KR20220091602A (ko) 비디오 디코딩 방법 및 장치, 및 컴퓨터 판독가능 저장 매체
JP7512430B2 (ja) ゼロ残差フラグコーディング
JP7512422B2 (ja) 複数基準線イントラ予測と変換分割との間の調和した設計
JP2023553996A (ja) 成分間変換係数レベル復元におけるオフセットの導出
JP2023546962A (ja) 成分間のブロック終了フラグの符号化
JP2023522354A (ja) デカップリング変換パーティション分割
JP7490299B2 (ja) スキップ変換フラグ符号化
JP7439344B2 (ja) ビデオデコーディングのための方法、デバイス、およびコンピュータプログラム
JP7443527B2 (ja) ビデオコーディングのための方法、装置及びプログラム
RU2782437C1 (ru) Преобразование цвета для видеокодирования
JP2024538898A (ja) 動きベクトル差を制限するための方法およびデバイス
JP2024539783A (ja) 動きベクトル差のジョイントコーディング
JP2024514116A (ja) パレット予測子生成およびシグナリング
JP2024539786A (ja) 動きベクトル候補をリファインするための方法およびデバイス
KR20240122500A (ko) 병합된 크로마 블록들에 기초한 루마로부터 크로마 예측
JP2024539780A (ja) 動きベクトル差分コーディングのための改善されたコンテキスト導出
KR20220036976A (ko) 디블록킹 동작들에 대한 하이 레벨 제어
CN118828013A (zh) 视频编码方法、视频编码器、介质以及处理视频比特流的方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230831

R150 Certificate of patent or registration of utility model

Ref document number: 7343668

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150