JP7383038B2 - ビデオコーディングのための方法、装置及びプログラム - Google Patents

ビデオコーディングのための方法、装置及びプログラム Download PDF

Info

Publication number
JP7383038B2
JP7383038B2 JP2021552152A JP2021552152A JP7383038B2 JP 7383038 B2 JP7383038 B2 JP 7383038B2 JP 2021552152 A JP2021552152 A JP 2021552152A JP 2021552152 A JP2021552152 A JP 2021552152A JP 7383038 B2 JP7383038 B2 JP 7383038B2
Authority
JP
Japan
Prior art keywords
ctu
coded
video
value
size
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021552152A
Other languages
English (en)
Other versions
JP2022522842A (ja
Inventor
ドゥ,イシン
ジャオ,シン
リ,シアン
リィウ,シャン
Original Assignee
テンセント・アメリカ・エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テンセント・アメリカ・エルエルシー filed Critical テンセント・アメリカ・エルエルシー
Publication of JP2022522842A publication Critical patent/JP2022522842A/ja
Application granted granted Critical
Publication of JP7383038B2 publication Critical patent/JP7383038B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Color Television Systems (AREA)

Description

参照による援用
本出願は、2019年8月13日に出願された米国仮出願第62/886,056号「mproved SPS Header Syntax and Descriptor for CTU Size(改良されたCTUサイズのためのSPSヘッダ構文及び記述子)」に対する優先権の利益を主張する、2020年7月28日に出願された米国特許出願第16/941,193号「Method and Apparatus for Video Coding(ビデオ符号化のための方法及び装置)」に対する優先権の利益を主張する。先願の全ての開示は、完全に本願明細書に援用したものとする。
技術分野
本開示は、概して、ビデオコーディングに関連する実施形態を記載する。
本明細書で提供される背景説明は、本開示のコンテキストを全般的に提示するためのものである。現在挙げられている発明者の研究は、その研究がこの背景部分に記載されている範囲において、また、出願時に他の点では先行技術として適格でないかもしれない説明の側面において、本開示に対する先行技術として明示的にも黙示的にも認められていない。
ビデオコーディングとデコーディングは、動き補正を伴うインター画像予測(inter-picture prediction)を用いて行うことができる。非圧縮ディジタルビデオは、一連の画像を含むことができ、各画像は、例えば、1920×1080の輝度サンプル及び関連する色サンプルの空間寸法を有する。一連の画像は、固定又は可変の画像レート(例えば、60画像/秒又は60Hz)を有することができる。非圧縮ビデオは、特定のビットレート要件を有する。例えば、サンプル当たり8ビットの1080p60 4:2:0ビデオ(60Hzのフレームレートでの1920x1080の輝度サンプル解像度)は、1.5Gビット/秒に近い帯域幅を必要とする。このようなビデオの1時間は、600Gバイトを超えるストレージ領域を必要とする。
ビデオコーディング及びデコーディングの1つの目的は、圧縮による入力ビデオ信号の冗長性の低減である。圧縮は、前述の帯域幅やストレージスペースの要件を、場合によっては2桁以上削減するのに役立つ。可逆圧縮と非可逆圧縮の両方、及びそれらの組み合わせを用いることができる。可逆圧縮とは、元の信号の正確なコピーを圧縮された元の信号から再構成することができる技術をいう。非可逆圧縮を使用する場合、再構成された信号は、元の信号と同一ではないかもしれないが、元の信号と再構成された信号との間の歪みは十分小さく、再構成された信号を意図された用途に役立てられる。ビデオの場合、非可逆圧縮が広く用いられている。許容される歪みの量は、用途に依存し、例えば、特定の消費者ストリーミング用途のユーザは、テレビ配信用途のユーザよりも高い歪みを容認し得る。達成可能な圧縮比は、より高い許容可能/容認可能歪みは、より高い圧縮比をもたらすことができることを反映することができる。
ビデオエンコーダ及びデコーダは、例えば、動き補償、変換、量子化、及びエントロピーコーディングを含むいくつかの広範なカテゴリからの技術を利用することができる。
ビデオコーデック技術は、イントラコーディングとして知られる技術を含むことができる。イントラコーディングでは、サンプル値は、以前に再構成された参照画像からのサンプル又は他のデータを参照することなく表現される。いくつかのビデオコーデックでは、画像は空間的にサンプルのブロックに分割される。サンプルのすべてのブロックがイントラモードでコーディングされている場合、その画像はイントラ画像とすることができる。イントラ画像と、独立デコーダリフレッシュ画像等のそれらの派生物は、デコーダ状態をリセットするために用いられることができ、したがって、コーディングされたビデオビットストリーム及びビデオセッションにおける第1画像として、又は静止画像として用いられることができる。イントラブロックのサンプルは変換にさらされることができ、変換係数はエントロピーコーディングの前に量子化されることができる。イントラ予測は、変換前ドメインにおけるサンプル値を最小化する技術であり得る。場合によっては、変換後のDC値がより小さく、AC係数がより小さいほど、エントロピーコーディング後にブロックを表すための所与の量子化ステップサイズで必要なビットが少なくなる。
例えばMPEG-2世代のコーディング技術から知られるような従来のイントラコーディングは、イントラ予測を使用しない。しかしながら、いくつかのより新しいビデオ圧縮技術は、例えば、空間的に近接するデータのエンコード/デコード中に得られる周囲の、デコード順において先行するサンプルデータ及び/又はメタデータから、データのブロックを試行する技術を含む。このような技術は、以後「イントラ予測」技術と称される。少なくともいくつかのケースでは、イントラ予測は再構成中の現在の画像からの参照データのみを使用し、参照画像からは使用しないことに留意されたい。
さまざまな形式のイントラ予測があり得る。かかり技術のうちの1つ以上が、所与のビデオコーディング技術において用いられることができる場合、使用中の技術は、イントラ予測モードでコーディングされることができる。特定の場合には、モードは、サブモード及び/又はパラメータを有することができ、それらは、個別にコーディングされることができ、又はモードコード名(mode codeword)に含まれることができる。所与のモード/サブモード/パラメータの組み合わせに用いられるコード名は、イントラ予測を通してコーディング効率ゲイン(coding efficiency gain)に影響を与える可能性があり、同様に、コード名をビットストリームに変換するために使用されるエントロピーコーディング技術も同様に影響を与える可能性がある。
特定のイントラ予測モードがH.264で導入され、H.265で改良され、共同探索モデル(JEM:joint exploration model)、汎用ビデオコーディング(VVC:versatile video coding)、及びベンチマークセット(BMS:benchmark set)等のより新しいコーディング技術でさらに改良された。予測子ブロックは、既に利用可能なサンプルに属する近接するサンプル値を使用して形成されることができる。隣接するサンプルのサンプル値は、方向にしたがって予測子ブロックにコピーされる。使用中の方向への参照は、ビットストリームでコーディングされることができ、又はそれ自体が予測されることがある。
図1Aを参照すると、右下に示されているのは、(35個のイントラモードの33個の角度モードに対応する、)H.265の33個の可能な予測子方向から知られる9個の予測子方向のサブセットである。矢印が集中する点(101)は、予測されているサンプルを表す。矢印は、サンプルが予測されている方向を示す。例えば、矢印(102)は、サンプル(101)が、1つ以上のサンプルから、水平から45度の角度で右上に向かって予測されることを示す。同様に、矢印(103)は、サンプル(101)が、1つ以上のサンプル(101)から、水平方向から22.5度の角度でサンプル(101)の左下へ予測されることを示す。
さらに図1Aを参照すると、左上には、4×4サンプルの正方形ブロック(104)が示されている(破線の太線で示されている)。正方形ブロック(104)は、16個のサンプルを含み、各サンプルは「S」でラベル付けされ、Y次元におけるその位置(例えば、行インデックス)及びX次元におけるその位置(例えば、列インデックス)を含む。例えば、サンプルS21は、Y次元の(頂部から)2番目のサンプル及びX次元の(左側から)1番目のサンプルである。同様に、サンプルS44は、ブロック(104)内でY及びX次元の両方において4番目のサンプルである。ブロックのサイズが4×4サンプルであるので、S44は右下にある。さらに、同様の番号付けスキームにしたがった参照サンプルを示す。参照サンプルは、R、ブロック(104)に対するそのY位置(例えば、行インデックス)及びX位置(列インデックス)でラベル付けされる。H.264とH.265の両方で、予測サンプルは再構成中のブロックに隣接しているため、負の値を使用する必要はない。
イントラ画像予測は、信号予測方向に応じて、隣接するサンプルから参照サンプル値をコピーすることによって機能する。例えば、コーディングされたビデオビットストリームは、このブロックについて、矢印(102)と一致する予測方向を示す信号を含むと仮定する。すなわち、サンプルは、1つ以上の予測サンプルから右上へ、水平方向から45度の角度で予測される。その場合、サンプルS41、S32、S23、及びS14は、同じ参照サンプルR05から予測される。その後、サンプルS44は、参照サンプルR08から予測される。
特定の場合には、特に方向が45度で均等に割り切れない場合には、参照サンプルを計算するために、複数の参照サンプルの値を、例えば内挿によって組み合わせることができる。
ビデオコーディング技術の発達に伴って可能性のある方向の数が増加している。H.264(2003年)では、9つの異なる方向を表すことができた。これは、H.265(2013年)で33に増加し、開示時のJEM/VVC/BMSでは、最大65の方向性をサポートできる。最も可能性の高い方向を特定するために実験が行われており、エントロピーコーディングの特定の技術は、少数のビットにおいて、それらの可能性のある方向を表現するために用いられ、より可能性の低い方向に対する特定のペナルティを受け入れる。さらに、方向それ自体は、時々、近接する、すでにデコードされたブロックで使用される近接する方向から予測されることができる。
図1Bは、経時的に増加する予測方向の数を示すために、JEMによる65のイントラ予測方向を示す概略図(180)を示す。
方向を表すコーディングされたビデオビットストリームにおけるイントラ予測方向ビットのマッピングは、ビデオコーディング技術からビデオコーディング技術へ異なることができ、例えば、予測方向の単純な直接マッピングから、イントラ予測モード、コード名、最も可能性の高いモードを含む複合適応方式、及び類似の技術にまで及ぶことができる。しかし、どのような場合でも、ビデオコンテンツにおいて、他の特定の方向よりも統計的に起こりにくい特定の方向が存在し得る。ビデオ圧縮の目標は冗長性の低減であるので、良好に動作するビデオコーディング技術においては、より可能性の低い方向は、より可能性の高い方向よりもより多くのビット数によって表されるであろう。
動き補償は、非可逆圧縮技術であることができ、かつ、先行して再構成された画像又はその一部(参照画像)からのサンプルデータのブロックが、動きベクトル(以下、MVとも称する。)によって示される方向に空間的にシフトされた後に、新たな再構成画像又はその一部の予測のために使用される技術に関連付けることができる。場合によっては、参照画像は現在再構成中の画像と同一であることもできる。MVは、X及びYの2次元、又は3次元を有することができ、第3次元は、使用中の参照画像の表示である(後者は、間接的に、時間次元であることができる)。
いくつかのビデオ圧縮技術では、サンプルデータの、あるエリアに適用可能なMVは、他のMVから、例えば、再構成中のエリアに空間的に隣接し、デコードの順序(decoding order)でそのMVに先行するサンプルデータの別のエリアに関連するMVから予測することができる。このようにして、MVのコーディングに必要なデータ量を大幅に削減することができ、それによって冗長性を除去し、圧縮を増大させることができる。MV予測は効率的に作用することができ、なぜならば、例えば、(ナチュラルビデオとして既知の)カメラから導出された入力ビデオ信号をコーディングする場合、単一のMVが適用可能であるエリアよりも大きなエリアは、類似の方向に移動するという統計的可能性があり、したがって、場合によっては、隣接するエリアのMVから導出された類似の動きベクトルを用いて予測することができるからである。その結果、所与のエリアについて見出されたMVは、周囲のMVから予測されるMVと類似又は同一になり、それは、エントロピーコーディングの後、MVを直接コーディングする場合に使用されるであろうものよりも、より少ない数のビットで表され得る。場合によっては、MV予測は、元の信号(すなわち、サンプルストリーム)から導出された信号(すなわち、MV)の可逆圧縮の例であり得る。他の場合には、MV予測それ自体は、例えば、いくつかの周囲MVから予測子を計算する際の丸め誤差のために、非可逆的であり得る。
様々なMV予測メカニズムがH.265/HEVC (ITU-T Rec. H.265, High Efficiency Video Coding, December 2016)に、記述されている。H.265が提供する多くのMV予測メカニズムのうち、ここでは、以後「空間マージ」と称されるテクニックについて説明する。
図2を参照すると、現在ブロック(201)は、空間的にシフトされた同じサイズの以前のブロックから予測可能であることが、モーションサーチプロセス中にエンコーダによって見出されたサンプルを含む。そのMVを直接コーディングする代わりに、1つ以上の参照画像に関連付けられたメタデータから、例えば、A0、A1、及びB0、B1、B2(それぞれ202から206)と示される5つの周囲のサンプルのいずれかに関連付けられたMVを使用して、(デコード順において)最新の参照画像から、MVを導出することができる。H.265では、MV予測は、隣接ブロックが使用しているのと同じ参照画像からの予測子を使用することができる。
本開示の態様は、ビデオエンコード/デコードのための方法及び装置を提供する。いくつかの実施例では、ビデオデコードのための装置は、処理回路を含む。コード化されたビデオシーケンス内の画像のコード化された情報を受信することができる。コード化された情報は、画像に対して選択されたCTUサイズを示すコーディングトリーユニット(CTU)サイズ情報を含む。CTUサイズは短縮単項コード(truncated unary code)を用いてエンコードされている。処理回路は、前記短縮単項コードを用いてエンコードされたCTUサイズ情報に基づいて、選択されたCTUサイズを決定することができ、選択されたCTUサイズに基づいて画像内のサンプルを再構成することができる。一実施形態において、前記選択されたCTUサイズは、32×32、64×64又は128×128ルマサンプルである、
一実施形態において、処理回路は、短縮単項コードを用いてエンコードされたCTUサイズ情報に基づいて、コード化された情報内のビットストリングからコード化された値を決定し、ビットストリング内の最大ビット数は2である。ビットストリングが0、10及び11である場合に、前記コード化された値はそれぞれ0,1及び2である。そして、処理回路は、コード化された値に基づいて選択されるCTUサイズを決定することができる。
実施例において、処理回路は、コード化された値が0、1及び2である場合に、選択されたCTUサイズが、それぞれ128、64及び32であることを決定することができる。処理回路は、選択されたCTUサイズが、 CtbLog2SizeY になることを決定することができ、CtbLog2SizeYの値は、7とコード化された値との間の差であることができる。
実施例において、処理回路は、コード化された値が0、1及び2である場合に、選択されたCTUサイズが、それぞれ32、64及び128であることを決定することができる。処理回路は、選択されたCTUサイズが、 CtbLog2SizeY になになることを決定することができ、CtbLog2SizeYの値は、5とコード化された値の和であることができる。
一実施形態において、コード化された情報は、コード化されたビデオシークエンスに対するシークエンスパラメータセットヘッダである。
また、本開示の態様は、ビデオデコーディングのためにコンピュータによって実行されたときに、コンピュータにビデオコーディングのための方法を実行させる命令を格納する非一時的なンピュータ読取可能媒体記憶を提供する。
開示された主題のさらなる特徴、性質、及び様々な利点は、以下の詳細な説明及び添付の図面からより明らかになるであろう。
図1Aは、イントラ予測モードの例示的サブセットの概略図である。 図1Bは、例示的なイントラ予測方向の説明図である。 図2は、一実施例における現在ブロック及びその周囲の空間マージ候補を模式的に示す図である。 図3は、一実施形態による通信システム(300)の簡略ブロック図を模式的に示す図である。 図4は、一実施形態による通信システム(400)の簡略ブロック図を模式的に示す図である。 図5は、一実施形態によるデコーダの簡略ブロック図を模式的に示す図である。 図6は、一実施形態によるエンコーダの簡略ブロック図を模式的に示す図である。 図7は、別の実施形態によるエンコーダのブロック図である。 図8は、別の実施形態によるデコーダのブロック図である。 図9A‐9Bは、本開示の実施形態による、コーディングトリーユニット(CTU)及び四分木プラス二分木(quadtree plus binary tree:QTBT)構造を示す図である。 図9A‐9Bは、本開示の実施形態による、コーディングトリーユニット(CTU)及び四分木プラス二分木(quadtree plus binary tree:QTBT)構造を示す図である。 図10Aは、本開示の一実施形態による、シーケンスパラメータ設定(SPS)ヘッダにおける構文及び対応する記述子の例を示す図である。 図10Bは、本開示の一実施形態による、符号なし整数指数ゴロムコーディングの例を示す図である。 図11Aは、本開示の一実施形態による、SPSヘッダ内の構文及び対応する記述子の例を示す。 図11Bは、本開示の一実施形態による、2ビットを使用する固定長コーディングの一例を示す。 図12Aは、本開示の一実施形態による、SPSヘッダ内の構文及び対応する記述子の例を示す。 図12Bは、本開示の一実施形態による、短縮単項コーディングの一例を示す。 図13は、本開示の一実施形態によるプロセス(1300)の概略を示すフローチャートを示す。 図14は、一実施形態によるコンピュータシステムを模式的に示す図である。
図3は、本開示の一実施形態による通信システム(300)の簡略化されたブロック図を示す。通信システム(300)は、例えばネットワーク(350)を介して互いに通信することができる複数の端末デバイスを含む。例えば、通信システム(300)は、ネットワーク(350)を介して相互接続された第1対の端末デバイス(310)及び(320)を含む。図3の例では、第1対の端末デバイス(310)及び(320)は、データの一方向送信を行う。例えば、端末デバイス(310)は、ビデオデータ(例えば、端末デバイス(310)によって捕捉されるビデオ画像のストリーム)をコーディングすることができ、ネットワーク(350)を介して他の端末デバイス(320)に伝送することができる。エンコードされた画像データは、1つ以上のコーディングされたビデオビットストリームの形態で送信されることができる。端末デバイス(320)は、ネットワーク(350)からコーディングされたビデオデータを受信し、コーディングされたビデオデータをデコードして、ビデオ画像を復元し、復元されたビデオデータにしたがってビデオ画像を表示することができる。一方向性データ伝送は、メディア提供アプリケーション等において一般的であり得る。
別の例では、通信システム(300)は、第2対の端末デバイス(330)及び(340)を含み、例えばビデオ会議中に、発生し得るコーディングされたビデオデータの双方向伝送を行う。データの双方向伝送のために、例えば、端末デバイス(330)及び(340)の各端末デバイスは、ネットワーク(350)を介して端末デバイス(330)及び(340)の他方の端末デバイスに伝送するために、ビデオデータ(例えば、端末デバイスによって捕捉されるビデオ画像のストリーム)をコーディングし得る。端末デバイス(330)及び(340)の各端末デバイスは、端末デバイス(330)及び(340)の他方の端末デバイスによって送信されたコーディングされたビデオデータを受信し、コーディングされたビデオデータをデコードして、ビデオ画像を復元し、復元されたビデオデータにしたがって、アクセス可能な表示デバイスにビデオ画像を表示し得る。
図3の例では、端末デバイス(310)、(320)、(330)及び(340)は、サーバ、パーソナルコンピュータ及びスマートフォンとして示され得るが、本発明の原理はこれらに限定されない。本発明の実施形態は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレーヤ、及び/又は専用のビデオ会議機器への適用を見出す。ネットワーク(350)は、例えばワイヤライン(有線)及び/又は無線通信ネットワークを含む、端末デバイス(310)、(320)、(330)及び(340)の間でコーディングされたビデオデータを伝達する任意の数のネットワークを表す。通信ネットワーク(350)は、回線交換及び/又はパケット交換チャネル内のデータを交換することができる。代表的なネットワークには、テレコミュニケーションネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク及び/又はインターネットが含まれる。本説明の目的のためには、以下に説明しない限り、ネットワーク(250)のアーキテクチャ及びトポロジーは本発明の動作には重要ではない可能性がある。
図4は、開示された主題の適用例として、ストリーミング環境におけるビデオエンコーダ及びビデオデコーダの配置を示す。開示された主題は、例えば、ビデオ会議、デジタルTVや、CD、DVD、メモリースティック等を含むデジタルメディアへの圧縮ビデオの保存等を含む、他のビデオ対応アプリケーションに等しく適用することができる。
ストリーミングシステムは、例えば、非圧縮のビデオ画像(402)のストリームを生成するビデオソース(401)、例えばデジタルカメラを含むことができるキャプチャサブシステム(413)を含み得る。一実施形態では、ビデオ画像のストリーム(402)は、デジタルカメラによって撮影されるサンプルを含む。エンコードされたビデオデータ(404)(又はコーディングされたビデオビットストリーム)と比較した場合に、高データ量を強調するために太線として描かれたビデオ画像のストリーム(402)は、ビデオソース(401)に結合されたビデオエンコーダ(403)を含む電子デバイス(420)によって処理されることができる。ビデオエンコーダ(403)は、ハードウェア、ソフトウェア、又はそれらの組み合わせを含むことができ、以下により詳細に説明されるように、開示された主題の態様を可能にし、又は実施する。エンコードされたビデオデータ(404)(又はエンコードされたビデオビットストリーム(404))は、ビデオ画像(402)のストリームと比較した場合に、より低いデータ量を強調するために細線として示され、将来の使用のためにストリーミングサーバ(405)に格納され得る。図4のクライアントサブシステム(406)及び(408)等の1つ以上のストリーミングクライアントサブシステムは、ストリーミングサーバ(405)にアクセスすることができ、エンコードされたビデオデータ(404)のコピー(407)及び(409)を読み出すことができる。クライアントサブシステム(406)は、例えば電子デバイス(430)内のビデオデコーダ(410)を含むことができる。ビデオデコーダ(410)は、エンコードされたビデオデータの入力コピー(407)をデコードし、ディスプレイ(412)(例えばディスプレイスクリーン)又は他のレンダリングデバイス(図示せず)上にレンダリングすることができるビデオ画像の出力ストリーム(411)を生成する。いくつかのストリーミングシステムでは、エンコードされたビデオデータ(404)、(407)及び(409)(例えば、ビデオビットストリーム)は、特定のビデオコーディング/圧縮標準にしたがってコーディングされることができる。これらの標準の例は、ITU-T勧告H.265を含む。例えば、開発中のビデオコーディング規格は、汎用ビデオコーディング(VVC)として非公式に知られている。開示された主題は、VVCのコンテキストで使用され得る。
電子デバイス(420)及び(430)は、他の構成要素(図示せず)を含むことができることに留意されたい。例えば、電子デバイス(420)は、ビデオデコーダ(図示せず)を含むことができ、電子デバイス(430)は、ビデオエンコーダ(図示せず)も含むことができる。
図5は、本開示の一実施例によるビデオデコーダ(510)のブロック図を示す。ビデオデコーダ(510)は、電子デバイス(530)に含まれることができる。電子デバイス(530)は、受信器(531)(例えば、受信回路)を含むことができる。ビデオデコーダ(510)は、図4の例のビデオデコーダ(410)の代わりに使用されることができる。
受信器(531)は、ビデオデコーダ(510)によってデコードされるべき1つ以上のコーディングされたビデオシーケンスを受信することができ、同一又は別の実施形態では、一度に1つのコーディングされたビデオシーケンスを受信することができ、その際、各コーディングされたビデオシーケンスのデコーディングは、他のコーディングされたビデオシーケンスから独立している。コーディングされたビデオシーケンスは、チャネル(501)から受信することができ、このチャネルは、エンコードされたビデオデータを格納するストレージデバイスへのハードウェア/ソフトウェアリンクであり得る。受信器(531)は、エンコードされたビデオデータを、他のデータ、例えばコーディングされたオーディオデータ及び/又は付随的なデータストリームと共に受信することができ、これらのデータは、それぞれのエンティティ(図示せず)を使用して転送され得る。受信器(531)は、コーディングされたビデオシーケンスを他のデータから分離することができる。ネットワークジッタに対抗するために、バッファメモリ(515)が、受信器(531)とエントロピーデコーダ/パーサ(520)(以後「パーサ(520)」)との間に結合され得る。特定の用途では、バッファメモリ(515)はビデオデコーダ(510)の一部である。他の場合には、ビデオデコーダ(510)の外側にあることができる(図示せず)。さらに別の場合には、例えばネットワークジッタに対抗するために、ビデオデコーダ(510)の外側にバッファメモリ(図示せず)が存在することができ、さらに、例えば再生タイミング(playout timing)を処理するために、ビデオデコーダ(510)の内側に別のバッファメモリ(515)が存在することもできる。受信器(531)が、十分な帯域幅及び制御可能性の記憶/転送デバイスから、又は、アイソクロナスネットワーク(isosynchronous network)から、データを受信している場合、バッファメモリ(515)は不要であるか、又は小さくてもよい。インターネット等のベストエフォート型パケットネットワークでの使用のために、バッファメモリ(515)は、必要とされ、比較的大きく、有利には適応サイズであり得、ビデオデコーダ(510)の外側のオペレーティングシステム又は類似の要素(図示せず)に少なくとも部分的に実装され得る。
ビデオデコーダ(510)は、コーディングされたビデオシーケンスからシンボル(521)を再構成するためのパーサ(520)を含み得る。これらのシンボルのカテゴリは、図5に示されているように、ビデオデコーダ(510)の動作を管理するために使用される情報、及び、電子デバイス(530)の不可欠な部分ではないが、電子デバイス(530)に結合され得るレンダリングデバイス(512)(例えば、表示スクリーン)等のレンダリングデバイスを制御する潜在的な情報を含む。(複数の)レンダリングデバイスの制御情報は、付加拡張情報(SEIメッセージ)又はビデオユーザビリティ情報(VUI)パラメータセットフラグメント(図示せず)の形態であり得る。パーサ(520)は、受信されるコーディングされたビデオシーケンスをパースし/エントロピーデコードすることができる。コーディングされたビデオシーケンスのコーディングは、ビデオコーディング技術又は標準に従うことができ、可変長コーディング、ハフマンコーディング、コンテキスト感度を伴う又は伴わない算術コーディングなどを含む種々の原理に従うことができる。パーサ(520)は、グループに対応する少なくとも1つのパラメータに基づいて、ビデオデコーダ内のピクセルのサブグループのうちの少なくとも1つに対するサブグループパラメータのセットを、コーディングされたビデオシーケンスから抽出し得る。サブグループは、画像グループ(GOP)、画像、タイル、スライス、マクロブロック、コーディングユニット(CU)、ブロック、変換ユニット(TU)、予測ユニット(PU)等を含み得る。パーサ(520)はまた、変換係数、量子化パラメータ値、動きベクトル等の情報を、コーディングされたビデオシーケンスから抽出し得る。
パーサ(520)は、シンボル(521)を生成するように、バッファメモリ(515)から受信したビデオシーケンスに、エントロピーデコード/パース動作を実行し得る。
シンボル(521)の再構成は、コーディングされたビデオ画像又はその部分のタイプ(例えば、画像間及び画像内、ブロック間及びブロック内)及び他の要因に応じて、複数の異なるユニットを含むことができる。どのユニットが、どのように含まれているかは、パーサ(520)によってコーディングされたビデオシーケンスからパースされたサブグループ制御情報によって制御されることができる。パーサ(520)と以下の複数ユニットとの間のかかるサブグループ制御情報のフローは、明確さのために図示されていない。
すでに述べた機能ブロックの他に、ビデオデコーダ(510)は、概念的に、以下に説明するように、いくつかの機能ユニットに分割されることができる。商業的制約の下で動作する実用的な実装では、これらのユニットの多くは互いに密接に相互作用し、少なくとも部分的に互いに統合されることができる。しかしながら、開示された主題を説明するの目的で、以下の機能単位に概念的に細分化することが適切である。
第1ユニットは、スケーラ/逆変換ユニット(551)である。スケーラ/逆変換ユニット(551)は、量子化された変換係数、並びに、パーサ(520)から(複数の)シンボル(521)として、使用されるべき変換、ブロックサイズ、量子化係数、量子化スケーリング行列などを含む制御情報を受信する。スケーラ/逆変換ユニット(551)は、アグリゲータ(555)に入力可能なサンプル値を含むブロックを出力することができる。
いくつかの場合には、スケーラ/逆変換ユニット(451)の出力サンプルは、イントラコード化されたブロックに関係することができる;すなわち、先行して再構成された画像からの予測情報を使用していないが、現在画像のうち先行して再構成された部分からの予測情報を使用できるブロック。かかる予測情報は、イントラ画像予測ユニット(552)によって提供されることができる。場合によっては、イントラ画像予測ユニット(552)は、現在の画像バッファ(558)からフェッチされた周囲の既に再構成された情報を使用して、再構成中のブロックと同じサイズ及び形状のブロックを生成する。現在の画像バッファ(558)は、例えば、部分的に再構成された現在の画像及び/又は完全に再構成された現在の画像をバッファする。アグリゲータ(555)は、場合によっては、サンプル毎に、イントラ予測ユニット(552)が生成した予測情報を、スケーラ/逆変換ユニット(551)によって提供される出力サンプル情報に加算する。
他の場合には、スケーラ/逆変換ユニット(551)の出力サンプルは、インターコーディングに関係し、潜在的に動き補償ブロックに関係することができる。かかる場合、動き補償予測ユニット(553)は、予測に使用されるサンプルをフェッチするために参照画像メモリ(557)にアクセスすることができる。ブロックに関連するシンボル(521)にしたがって、フェッチされたサンプルを動き補償した後、これらのサンプルは、出力サンプル情報を生成するために、アグリゲータ(555)によって、スケーラ/逆変換ユニット(551)の出力(この場合、残差サンプル又は残差信号と称される)に加算されることができる。動き補償予測ユニット(553)が予測サンプルをフェッチする参照画像メモリ(557)内のアドレスは、動きベクトルによって制御することができ、例えばX、Y、及び参照画像コンポーネントを有することができるシンボル(521)の形態で動き補償予測ユニット(553)に利用可能である。動き補償はまた、サブサンプルの正確な動きベクトルが使用されている場合には、参照画像メモリ(557)からフェッチされるようにサンプル値を補間すること、動きベクトル予測機構、等を含むことができる。
アグリゲータ(555)の出力サンプルは、ループフィルタユニット(556)内の種々のループフィルタリング技術を受けることができる。ビデオ圧縮技術は、インループフィルタ技術(in-loop filter technologies)を含むことができ、コーディングされたビデオシーケンス(コーディングされたビデオビットストリームとも称される)に含まれるパラメータによって制御され、パーサー(520)からシンボル(521)としてループフィルタユニット(556)に利用可能にされるが、コーディングされた画像又はコーディングされたビデオシーケンスと(デコード順において)先行する部分のデコードの間で得られるメタ情報に応答することができると共に、先行して再構成されループフィルタリングされたサンプル値に応答することができる、インループフィルタ技術を含むことができる。
ループフィルタユニット(556)の出力は、レンダリングデバイス(512)に出力されることができ、また将来のイントラ画像予測に使用するために参照画像メモリ(557)に記憶されることができるサンプルストリームであることができる。
コーディングされた画像は、一旦完全に再構成されると、将来の予測のための参照画像として使用されることができる。例えば、一旦現在の画像に対応するコーディング画像が完全に再構成され、(例えば、パーサ(520)によって)コーディングされた画像が参照画像として識別されると、現在の画像バッファ(4558)は参照画像メモリ(557)の一部となることができ、新たな現在画像バッファは、後続のコーディング画像の再構成を開始する前に再割当てされ得る。
ビデオデコーダ(510)は、ITU-T Rec.H.265.等の標準の所定のビデオ圧縮技術にしたがってデコーディング動作を実行し得る。コーディングされたビデオシーケンスは、コーディングされたビデオシーケンスが、ビデオ圧縮技術若しくは標準の構文、及び、ビデオ圧縮技術若しくは標準に文書化されているプロファイルの両方に準拠するという意味で、使用されているビデオ圧縮技術又は標準によって特定された構文に適合し得る。具体的には、プロファイルは、特定のツールを、そのプロファイルの下で使用できる唯一のツールとして、ビデオ圧縮技術又は標準で使用可能なすべてのツールから選択することができる。また、コンプライアンスのために必要なことは、コーディングされたビデオシーケンスの複雑さが、ビデオ圧縮技術又は標準のレベルによって定義される範囲内にあることであり得る。場合によっては、レベルは、最大画像サイズ、最大フレームレート、最大再構成サンプルレート(例えば、毎秒メガサンプルで測定される)、最大参照画像サイズなどを制限する。レベルによって設定された制限は、場合によっては、仮想参照デコーダ(HRD:Hypothetical Reference Decoder)の仕様と、コーディングされたビデオシーケンスでシグナリングされるHRDバッファ管理のメタデータによってさらに制限され得る。
一実施形態では、受信器(531)は、エンコードされたビデオと共に追加の(冗長な)データを受信することができる。追加データは、コーディングされた(複数の)ビデオシーケンスの部分として含まれ得る。追加のデータは、データを適切にデコードするため、及び/又は元のビデオデータをより正確に再構成するために、ビデオデコーダ(510)によって使用され得る。追加のデータは、例えば、時間的、空間的、又は信号雑音比(SNR)拡張層、冗長スライス、冗長画像、前方エラー補正コードなどの形態であり得る。
図6は、本開示の一実施例によればビデオエンコーダ(603)のブロック図を示す。ビデオエンコーダ(603)は、電子デバイス(620)に含まれる。電子デバイス(620)は、送信器(640)(例えば送信回路)を含む。図4の例のビデオエンコーダ(403)の代わりに、ビデオエンコーダ(603)を用いることができる。
ビデオエンコーダ(603)は、ビデオエンコーダ(603)によってコーディングされる(複数の)ビデオ映像を捕捉することができるビデオソース(601)(図6の例では電子デバイス(620)の一部ではない)からビデオサンプルを受信し得る。別の例では、ビデオソース(601)は、電子デバイス(620)の一部である。
ビデオソース(601)は、任意の適切なビット深さ(例えば、8ビット、10ビット、12ビット、...)、任意の色空間(例えば、BT.601 Y CrCB、RGB、...)、及び任意の適切なサンプリング構造(例えば、Y CrCb 4:2:0、Y CrCb 4:4:4)であることができるデジタルビデオサンプルストリームの形態で、ビデオエンコーダ(603)によってコーディングされるべきソースビデオシーケンスを提供し得る。メディア配信システムにおいて、ビデオソース(601)は、予め準備されたビデオを記憶する記憶デバイスであり得る。ビデオ会議システムでは、ビデオソース(601)は、局所映像情報をビデオシーケンスとして捕捉するカメラであり得る。ビデオデータは、シーケンスで見たときに動きをもたらす複数の個々の画像として提供され得る。画像自体は、ピクセルの空間アレイとして組織化されることができ、各ピクセルは、使用中のサンプリング構造、色空間等に応じて、1つ以上のサンプルを含むことができる。当業者は、ピクセルとサンプルの関係を容易に理解することができる。以下の説明は、サンプルに焦点を当てている。
一実施形態によれば、ビデオエンコーダ(603)は、ソースビデオシーケンスの画像を、リアルタイムで、又はアプリケーションによって要求される任意の他の時間制約下で、コーディングされたビデオシーケンス(643)にコーディングし、圧縮し得る。適切なコーディングスピードを実現することは、コントローラ(650)の一つの機能である。いくつかの実施形態において、コントローラ(650)は、以下に記載されるように、他の機能ユニットを制御し、他の機能ユニットに機能的に結合される。カップリングは、明確にするため表されない。コントローラ(650)によって設定されるパラメータは、レート制御関連パラメータ(画像スキップ、量子化器、レート歪み最適化技術のラムダ値、...)、画像サイズ、画像グループレイアウト、最大動きベクトル探索範囲等を含むことができる。コントローラ(650)は、特定のシステム設計のために最適化されたビデオエンコーダ(603)に関連する他の適切な機能を有するように構成されることができる。
いくつかの実施形態では、ビデオエンコーダ(603)は、コーディングループで動作するように構成される。過剰に単純化された説明として、一例において、コーディングループは、(例えば、コーディングされるべき入力画像及び参照画像に基づいて、シンボルストリーム等のシンボルを生成する責任を担う)ソースコーダ(630)と、ビデオエンコーダ(603)に埋め込まれた(ローカル)デコーダ(633)とを含むことができる。デコーダ(633)は、(シンボルとコーディングされたビデオビットストリームとの間の任意の圧縮が、開示された主題において考慮されたビデオ圧縮技術において可逆的であるように)、(リモート)デコーダも作成するのと同様の方法で、シンボルを再構成してサンプルデータを作成する。再構成されたサンプルストリーム(サンプルデータ)は、参照画像メモリ(634)に入力される。シンボルストリームのデコーディングは、デコーダロケーション(ローカル又はリモート)に依存しないビットイクザクトな結果(bit-exact results)をもたらすので、参照画像メモリ(634)中の内容もまた、ローカルエンコーダとリモートエンコーダとの間でビットイクザクトである。換言すれば、エンコーダの予測部分は、デコーダがデコード中に予測を使用するときに「見る」のとまったく同じサンプル値を参照画像サンプルとして「見る」。参照画像同期性のこの基本原理(及び、例えばチャンネルエラーのために、同期性が維持できない場合の結果として生じるドリフト)は、いくつかの関連技術においても同様に使用される。
「ローカル」デコーダ(533)の動作は、ビデオデコーダ(410)等の「リモート」デコーダと同じであることができ、これは、図5と関連して詳細に既に上述したとおりである。しかしながら、図5も簡単に参照すると、シンボルが利用可能であり、エントロピーコーダ(645)及びパーサ(520)によるコーディングビデオシーケンスへのシンボルのコーディング/デコーディングが可逆的であることができるので、バッファメモリ(515)を含むビデオデコーダ(510)のエントロピーデコーディング部分及びパーサ(520)は、ローカルデコーダ(633)に完全には実装されない場合がある。
この点で行うことができる観察は、デコーダ内に存在するパース/エントロピーデコードを除く任意のデコーダ技術もまた、対応するエンコーダ内に実質的に同一の機能的形態で存在する必要があることである。このために、開示された主題は、デコーダ動作に集中する。それらが包括的に記載されているデコーダ技術の逆であるにつれて、エンコーダ技術の説明は略記されることができる。特定の領域だけで、より多くの詳細説明が、必要とされて、下でなされる。
動作中に、いくつかの例において、ソースコーダ(630)は、「参照画像」として指定されたビデオシーケンスからの1つ以上の、先行してコーディングされた画像を参照して入力画像を予測的にコーディングする、動き補償予測コーディングを実行し得る。このようにして、コーディングエンジン(632)は、入力画像のピクセルブロックと、入力画像に対する(複数の)予測参照として選択され得る(複数の)参照画像のピクセルブロックとの間の差をコーディングする。
ローカルビデオデコーダ(633)は、ソースコーダ(630)によって生成されたシンボルに基づいて、参照画像として指定され得る画像のコーディングされたビデオデータをデコードし得る。コーディングエンジン(632)の動作は、有利には、非可逆プロセスであり得る。コーディングされたビデオデータがビデオデコーダ(図6には示されていない)でデコードされ得る場合、再構成されたビデオシーケンスは、典型的には、いくつかのエラーを伴うソースビデオシーケンスの複であり得る。ローカルビデオデコーダ(633)は、参照画像上でビデオデコーダによって実行され、参照画像キャッシュ(634)に記憶されるべき再構成された参照画像を生じさせ得るデコーディング処理を繰り返す。このようにして、ビデオエンコーダ(603)は、遠位端ビデオデコーダによって得られるであろう再構成された参照画像として、共通のコンテンツを有する再構成された参照画像のコピーをローカルに記憶することができる。
予測器(635)は、コーディングエンジン(632)について予測サーチを実行し得る。すなわち、コーディングされるべき新しい画像について、予測器(635)は、新しい画像についての適切な予測参照として役立ち得る、参照画像動きベクトル、ブロック形状等の特定のメタデータ、又は、サンプルデータ(参照ピクセルブロックの候補として)、について参照画像メモリ(634)を検索し得る。予測器(635)は、適切な予測参照を見出すために、サンプルブロック毎に動作し得る。場合によっては、予測器(635)によって得られた検索結果によって決定されるように、入力画像は、参照画像メモリ(634)に記憶された複数の参照画像から引き出された予測参照を有し得る。
コントローラ(650)は、例えば、ビデオデータをエンコードするために使用されるパラメータ及びサブグループパラメータの設定を含む、ソースコーダ(630)のコーディング動作を管理し得る。
上述した機能ユニットの全ての出力は、エントロピーコーダ(645)におけるエントロピーコーディングを受け得る。エントロピーコーダ(645)は、ハフマンコーディング、可変長コーディング、算術コーディング等の技術にしたがって、シンボルを可逆的に圧縮することによって、種々の機能ユニットによって生成されたシンボルをコーディングされたビデオシーケンスに変換する。
送信器(640)は、エントロピーコーダ(645)によって作成されたコーディングされたビデオシーケンスをバッファすることができ、エンコードされたビデオデータを格納するであろうストレージデバイスへのハードウェア/ソフトウェアアリンクであり得る通信チャネル(660)を経由した送信のために用意する。送信器(640)は、ビデオ・コーダ(603)からのコーディングされたビデオデータを、例えばコーディングされたオーディオデータ及び/又は補助的なデータ・ストリーム(図示せず)等の、送信されるべき他のデータとともにマージし得る。
コントローラ(650)は、ビデオエンコーダ(603)の動作を管理し得る。コーディングの間、コントローラ(650)は、各コーディングされた画像に、特定のコーディングされた画像タイプを割り当てることができ、これは、各画像に適用され得るコーディング技術に影響を及ぼし得る。例えば、画像は、しばしば、次の画像タイプの1つとして割り当てられる:
イントラ画像(I画像)は、予測ソースとしてシーケンス内の他の画像を使用することなく、コーディングされ、デコードされ得る。いくつかのビデオコーデックは、例えば、独立デコーダリフレッシュ(「IDR」:Independent Decoder Refresh)画像を含む、異なるタイプのイントラ画像を許容する。当業者は、I画像のこれらの変形例、並びにそれらのそれぞれの用途及び特徴を認識している。
予測画像(P画像)は、各ブロックのサンプル値を予測するために、最大で1つの運動ベクトルと参照インデックスを用いるインター予測又はイントラ予測を使用して、コーディングされ、デコードされ得るものであり得る。
双方向(bi-directionally)予測画像(B画像)は、各ブロックのサンプル値を予測するために、最大で2つの動きベクトルと参照インデックスを用いるインター予測又はイントラ予測を使用して、コーディングされ、デコードされ得るものであり得る。同様に、複数の予測画像は、1つのブロックの再構成のために、2つ以上の参照画像及び関連するメタデータを使用することができる。
ソース画像は、通常、空間的に複数のサンプルブロック(例えば、4×4、8×8、4×8、又は16×16の各サンプルのブロック)に分割され、ブロック毎にコーディングされる。ブロックは、ブロックのそれぞれの画像に適用されるコーディング割り当てによって決定された、他の(既にコーディングされた)ブロックを参照して予測的にコーディングされ得る。例えば、I画像のブロックは、非予測的にコーディングされるか、又は、それらは、同じ画像の既にコーディングされたブロック(空間予測又はインター予測)を参照して予測的にコーディングされ得る。P画像の画素ブロックは、先行してコーディングされた一つの参照画像を参照して、空間的予測又は時間的予測を介して予測的にコーディングされ得る。B画像のブロックは、1つ又は2つの、先行してコーディングされた参照画像を参照して、空間的予測を介して、又は時間的予測を介して予測的にコーディングされ得る。
ビデオエンコーダ(603)は、所定のビデオコーディング技術又はITU-T Rec.H.265.等の標準にしたがってコーディング動作を実行し得る。その動作において、ビデオエンコーダ(603)は、入力ビデオシーケンスにおける時間的及び空間的冗長性を活用する予測コーディング動作を含む種々の圧縮動作を実行し得る。したがって、コード化されたビデオデータは、使用されているビデオコード化技術又は標準によって指定された構文に準拠し得る。
一実施形態では、送信器(640)は、エンコードされたビデオと共に追加データを送信し得る。ソースコーダ(630)は、コーディングされたビデオシーケンスの一部としてかかるデータを含めることができる。追加のデータは、時間的/空間的/SNR強調レイヤーや、他の形式の冗長データ、例えば冗長画像及びスライス、SEIメッセージ、VUIパラメータセットフラグメント等を含み得る。
ビデオは、時間シーケンスにおいて複数のソース画像(ビデオ画像)として捕捉され得る。画像内予測(Intra-picture prediction)(しばしば、イントラ予測と略される)は、所与の画像における空間的相関を使用し、画像間予測又はインター予測(inter-picture prediction)は、画像間の(時間的又は他の)相関を使用する。一例では、現在画像と称されるコーディング/デコーディング中の特定の画像は、ブロックに分割される。現在画像内のブロックが、ビデオ内の、先行してコーディングされ、まだバッファされている参照画像内の参照ブロックに類似する場合、現在の画像内ブロックは、動きベクトルと称されるベクトルによってコーディングされ得る。動きベクトルは、参照画像内の参照ブロックを指し、複数の参照画像が使用されている場合には、参照画像を識別する第3次元を有することができる。
いくつかの実施形態において、双方向予測技術(bi-prediction technique)は、画像間予測において使用され得る。双方向予測技術によれば、ビデオ内の現在画像に対してデコード順では両方とも先行する(ただし、表示順では、それぞれ過去及び未来であり得る)第1参照画像及び第2参照画像等の2つの参照画像が使用される。現在画像内のブロックは、第1参照画像内の第1参照ブロックを指す第1動きベクトルと、第2参照画像内の第2参照ブロックを指す第2の動きベクトルとによってコーディングされることができる。ブロックは、第1参照ブロックと第2参照ブロックとの組み合わせによって予測されることができる。
さらに、コーディング効率を改善するために、インター画像予測にマージモード技術を使用することができる。
本開示のいくつかの実施形態によれば、インター画像予測及びイントラ画像予測等の予測は、ブロックの単位で実行される。例えば、HEVC標準によれば、ビデオ画像シーケンス中の画像は、圧縮のためにコーディングツリーユニット(CTU)に仕切られ、画像中のCTUは、64×64ピクセル、32×32ピクセル、又は16×16ピクセル等の、同じサイズを有する。一般に、CTUは、1つのルマCTB(one luma CTB)と2つのクロマCTB(two chroma CTBs)である3つのコーディングツリーブロック(CTB)を含む。各CTUは、1つ又は複数のコーディング単位(CU)に再帰的に4分木分割することができる。例えば、64×64ピクセルのCTUは、64×64ピクセルの1CU、32×32ピクセルの4CU、又は16×16ピクセルの16CUに分割することができる。例では、各CUは、インター予測タイプ又はイントラ予測タイプ等の、CUの予測タイプを決定するために分析される。CUは時間的及び/又は空間的予測可能性に依存して1つ以上の予測単位(PU)に分割される。一般に、各PUはルマ予測ブロック(PB)と2つのクロマPBを含む。一実施形態では、コーディング(エンコード/デコード)における予測動作は、予測ブロックのユニットにおいて実行される。予測ブロックの一例としてルマ予測ブロックを用いると、予測ブロックは、8×8ピクセル、16×16ピクセル、8×16ピクセル、16×8ピクセル等、ピクセルに対する値(例えば、ルマ値)の行列を含む。
図7は、本開示の別の実施形態によるビデオエンコーダ(703)の図を示す。ビデオエンコーダ(703)は、ビデオ画像シーケンス内の現在ビデオ画像内のサンプル値の処理ブロック(例えば、予測ブロック)を受信し、処理ブロックをコーディングされたビデオシーケンスの一部であるコーディングされた画像にエンコードするように構成されている。一実施形態では、ビデオエンコーダ(703)は、図4の例のビデオエンコーダ(403)の代わりに使用される。
HEVCの例では、ビデオエンコーダ(703)は、8×8サンプルの予測ブロック等の処理ブロックに対するサンプル値のマトリックスを受信する。ビデオエンコーダ(703)は、処理ブロックが、例えばレート歪み最適化を使用して、イントラモード、インターモード、又は双方向予測モードを使用して、最良にコーディングされるかどうかを決定する。処理ブロックがイントラモードでコーディングされる場合、ビデオエンコーダ(703)は、処理ブロックをコーディングされた画像にエンコードするためにイントラ予測技術を使用することができ、処理ブロックがインターモード又は双方向予測モードでコーディングされる場合、ビデオエンコーダ(703)は、処理ブロックをコーディングされた画像にコーディングするために、それぞれ、インター予測技術又は双方向予測技術を使用し得る。特定のビデオコーディング技術では、マージモードは、予測器外部のコード化された動きベクトル成分の利益なしに、動きベクトルが1つ以上の動きベクトル予測器から導出されるインター画像予測サブモードであり得る。特定の他のビデオコーディング技術では、対象ブロックに適用可能な動きベクトル成分が存在し得る。一実施形態では、ビデオエンコーダ(703)は、処理ブロックのモードを決定するためのモード決定モジュール(図示せず)等の他の構成要素を含む。
図7の例では、ビデオエンコーダ(703)は、図7に示すように一緒に結合されたエントロピーエンコーダ(725)と、インターエンコーダ(730)と、イントラエンコーダ(722)と、残差計算器(723)と、スイッチ(726)と、残差エンコーダ(724)と、汎用コントローラ(721)と、を含む。
インターエンコーダ(730)は、現在ブロック(例えば、処理ブロック)のサンプルを受信し、ブロックを参照画像内の1つ以上の参照ブロックと比較し(例えば、先行する画像内及び後の画像内のブロック)、インター予測情報(例えば、インターエンコーディング技術による冗長情報の記述、動きベクトル、マージモード情報)を生成し、任意の適切な技術を使用して、インター予測情報に基づいてインター予測結果(例えば、予測ブロック)を計算するように構成される。若干の実施例において、基準ピクチャは、コード化されたビデオ情報に基づいて復号化される復号化基準ピクチャである。
イントラエンコーダ(722)は、現在ブロック(例えば、処理ブロック)のサンプルを受信し、場合によっては、ブロックを、同じ画像内で既にコーディングされたブロックと比較し、変換後に量子化された係数を生成し、場合によっては、イントラ予測情報(例えば、1つ以上のイントラコーディング技術に従ったイントラ予測方向情報)も生成するように構成されている。一例では、イントラエンコーダ(722)はまた、同じ画像内のイントラ予測情報及び参照ブロックに基づいて、イントラ予測結果(例えば、予測ブロック)を計算する。
汎用制御デバイス(721)は、汎用制御データを決定し、汎用制御データに基づいてビデオエンコーダ(703)の他の構成要素を制御するように構成される。一実施形態では、汎用コントローラ(721)は、ブロックのモードを決定し、そのモードに基づいてスイッチ(726)に制御信号を供給する。例えば、モードがイントラモードの場合、汎用コントローラ(721)は、スイッチ(726)を制御して、残差計算器(723)が使用するイントラモードの結果を選択し、エントロピーエンコーダ(725)を制御して、イントラ予測情報を選択し、ビットストリームにイントラ予測情報を含め、モードがインターモードの場合、汎用コントローラ(721)は、スイッチ(726)を制御して、残差計算器(723)が使用するインター予測結果を選択し、エントロピーエンコーダ(725)を制御して、インター予測情報を選択し、ビットストリームにインター予測情報を含める。
残差計算器(723)は、受信されたブロックと、イントラエンコーダ(722)又はインターエンコーダ(730)から選択された予測結果との差(残差データ)を計算するように構成される。残差エンコーダ(724)は、残差データに基づいて動作し、残差データをエンコードして変換係数を生成するように構成される。一実施例では、残差エンコーダ(724)は、残差データを空間ドメインから周波数ドメインにコンバートし、変換係数を生成するように構成される。それから、変換係数は量子化処理に従属して、量子化変換係数を得る。様々な実施形態では、ビデオエンコーダ(703)は、残差デコーダ(728)も含む。残差デコーダ(728)は、逆変換を実行し、デコードされた残差データを生成するように構成される。デコードされた残差データは、イントラエンコーダ(722)及びインターエンコーダ(730)によって適切に使用されることができる。例えば、インターエンコーダ(730)は、デコードされた残差データ及びインター予測情報に基づいてデコードされたブロックを生成することができ、イントラエンコーダ(722)は、デコードされた残差データ及びイントラ予測情報に基づいてデコードされたブロックを生成することができる。デコードされたブロックは、いくつかの実施例では、デコードされた画像を生成するために適切に処理され、デコードされた画像は、メモリ回路(図示せず)内でバッファされ、参照画像として使用され得る。
エントロピーエンコーダ(725)は、エンコードされたブロックを含むようにビットストリームをフォーマットするように構成されている。エントロピーエンコーダ(725)は、HEVC標準等の適切な標準にしたがった種々の情報を含むように構成される。一実施例では、エントロピーエンコーダ(725)は、汎用制御データ、選択された予測情報(例えば、イントラ予測情報又はインター予測情報)、残差情報、及びビットストリーム内の他の適切な情報を含むように構成される。開示された主題にしたがってインターモード又は双方向予測モードのいずれかのマージサブモードにおけるブロックをコーディングする場合、残差情報は存在しないことに留意されたい。
図8は、本開示の別の実施形態によるビデオデコーダ(810)の図を示す。ビデオデコーダ(810)は、コーディングされたビデオシーケンスの一部であるコーディングされた画像を受信し、コーディングされた画像をデコードして再構成画像を生成するように構成されている。一実施形態では、ビデオデコーダ(810)は、図3の実施形態のビデオデコーダ(410)の代わりに使用される。
図8の実施例では、ビデオデコーダ(810)は、図8に示すように一緒に結合されたイントラデコーダ(872)と、エントロピーデコーダ(871)と、インターデコーダ(880)と、残差デコーダ(873)と、再構成モジュール(874)と、及びを含む。
エントロピーデコーダ(871)は、コーディングされた画像から、そのコーディング画像を作成する(of which the coded picture is made up)構文要素を表す特定のシンボルを再構成するように構成することができる。かかるシンボルは、例えば、ブロックがコーディングされるモード(例えば、イントラモード、インターモード、双方向予測モード、マージサブモード又は別のサブモードにおけるインターモード、双方向予測モード等)、予測情報(例えば、イントラ予測情報又はインター予測情報)を含むことができ、それらは、イントラデコーダ(822)又はインターデコーダ(880)によって、それぞれ使用される特定のサンプル又はメタデータ、例えば量子化された変換係数の形態の残差情報等、を識別することができる。施例において、予測モードがインターであるか双予測されたモードであるときに、インター予測情報はインター・デコーダ(880)に提供される;そして、予測タイプが先行復号化タイプであるときに、先行復号化情報はイントラ・デコーダ(872)に提供される。残差情報は、逆量子化を受けることができ、残差デコーダ(873)に提供される。
インターデコーダ(880)は、インター予測情報を受信し、インター予測情報に基づいてインター予測結果を生成するように構成される。
イントラデコーダ(872)は、イントラ予測情報を受信し、イントラ予測情報に基づいて予測結果を生成するように構成される。
残差デコーダ(873)は、逆量子化変換係数(de-quantized transform coefficients)を抽出するために逆量子化を実行し、逆量子化変換係数を処理して残差を周波数領域から空間領域にコンバートするように構成される。残差デコーダ(873)はまた、特定の制御情報(量子化器パラメータ(QP)を含む)を必要とすることがあり、その情報は、エントロピーデコーダ(871)によって提供され得る(データパスは、低ボリューム制御情報のみであるため、図示されていない)。
再構成モジュール(874)は、空間領域において、残差デコーダ(873)による出力としての残差と、(場合によってはインター又はイントラ予測モジュールによる出力としての)予測結果とを組み合わせて、再構成ブロックを形成するように構成され、これは、再構成画像の一部であり得、したがって、再構成ビデオの一部であり得る。デブロッキング等の他の適切な動作を行って、視覚品質を改善することができることに留意されたい。
なお、ビデオエンコーダ(403)、(603)及び(703)と、ビデオデコーダ(410)、(510)、及び(810)とは、任意の適切な技術を用いて実現することができる。一実施形態では、ビデオエンコーダ(403)、(603)及び(703)と、ビデオデコーダ(410)、(510)及び(810)とは、1つ以上の集積回路を使用して実装され得る。別の実施形態では、ビデオエンコーダ(403)、(603)及び(603)と、ビデオデコーダ(410)、(510)、及び(810)とは、ソフトウェア命令を実行する1つ以上のプロセッサを使用して実現することができる。
ブロック分割構造(block partitioning structure)は、コーディングツリーと称することができる。いくつかの実施態様において、ブロック分割構造は、四分木(QT)+二分木(BT)を使用する。例えば、QT構造を使用することにより、CTUは、様々な局所特性に適応するためにCUに分化する(split)。インター画像(時間的)予測又はイントラ画像(空間的)予測を使用して画像領域をコード化するかどうかの決定を、CUレベルで行うことができる。各CUはさらに、PU分割タイプに応じて、1つ、2つ、又は4つのPUに分化することができる。1つのPUの内部では、同じ予測プロセスが適用され、関連情報がPUベースでデコーダに送信される。
PU分割型に基づく予測プロセスを適用して残差ブロックを得た後、CUを別のQT構造に従ってTUに分化することができる。図示のように、CU、PU、及びTUを含む複数のパーティションの概念が存在する。
画像境界において、いくつかの実施形態では、サイズが画像境界に適合するまで、ブロックがQT分化を維持するように、黙示的四分木分化(implicit quadtree split)を採用することができる。
いくつかの実施態様において、四分木+二分木(QTBT)構造を使用する。QTBT構造体は、複数のパーティションタイプの概念(例えば、CU、PU、及びTUの概念)を除去し、CUパーティションの形状に対してより柔軟性をサポートする。QTBTブロック構造では、CUは正方形又は長方形のいずれかの形状を有することができる。
図9Aは、図9Bに示すQTBT構造(920)を使用して分割されたCTU(910)を示す。CTU(910)は、まずQT構造によって分割される。QTリーフノードは、BT構造又はQT構造によってさらに分割される。BT分化には、対称水平分化と対称垂直分化の2つの分割型がある。BTリーフノードは、CUと称され、さらなるパーティション分割なしで予測と変換処理に使用できる。したがって、CU、PU、TUは、QTBTコーディングブロック構造内で同じブロックサイズを有する。
いくつかの実施形態では、CUは、異なる色要素のコーディングブロック(CB)を含むことができる。例えば、1つのCUは、4:2:0のクロマフォーマットのPおよびBスライスの場合、1つのルマCB及び2つのクロマCBを含む。CUは、単色要素のCBを含むことができる。例えば、1つのCUは、Iスライスの場合1つのルマCBだけ又はちょうど2つのクロマCBだけを含む。
以下のパラメータは、いくつかの実施態様においてQTBT分割スキームに対して定義される
- CTU size:HEVCのような四分木のルートノードサイズ
- MinQTSize:最小許容QTリーフノードサイズ
- MaxBTSize:BTルートノードの最大許容サイズ
- MaxBTDepth:最大許容BT深さ
- MinBTSize:最小許容BTリーフノードサイズ
QTBT分割構造の一例では、CTUサイズは、対応する2つの64×64ブロックのクロマサンプルを含む128×128ルマサンプルとして設定されます。MinQTSizeを16×16に設定し、MaxBTSizeを64×64に設定し、MinBTSize(幅と高さの両方)を4×4に設定し、MaxBTDepthを4に設定する。QT分割は、QTリーフノードを生成するために最初にCTUに適用される。QTリーフノードのサイズは、16×16(すなわち、MinQTSize)から128×128(すなわち、CTUサイズ)までである。リーフQTノードが128×128の場合、サイズがMaxBTSize(すなわち64×64)を超えるため、バイナリツリーによってそれ以上分割されることはない。さもなければ、リーフQTノードは、バイナリツリーによってさらに分割され得る。したがって、QTリーフノードはバイナリツリーのルートノードでもあり、BT深さは0である。
BT深さがMaxBTDepth(すなわち4)に達した場合、それ以上の分化は考慮されない。BTノードの幅がMinBTSizeに等しい場合(すなわち4)、それ以上の水平分化は考慮されない。同様に、BTノードの高さがMinBTSizeに等しい場合、それ以上の垂直分化は考慮されない。バイナリツリーのリーフノードは、それ以上分割することなく、予測及び変換処理によってさらに処理される。一実施形態では、最大CTUサイズは、256×256ルマサンプルである。
図9A及び9Bにおいて、実線はQT分化を示し、点線はBT分化を示す。バイナリツリーの各分化(すなわち、非リーフ)ノードでは、どの分割タイプ(すなわち、水平又は垂直)が使用されるかを示すために、1つのフラグに信号を送ることができる。例えば、0は水平分化を示し、1は垂直分化を示します。QT分化では、四分木分化は常にブロックを水平方向と垂直方向の両方に分化し、等しいサイズの4つのサブブロックを生成するので、分化タイプを示す必要はない。
いくつかの実施態様において、QTBTスキームは、ルマ及びクロマが別個のQTBT構造を有するための柔軟性をサポートする。例えば、PスライスとBスライスでは、1つのCTUのルマブロックとクロマブロックが同じQTBT構造を共有している。しかし、Iスライスの場合、ルマCTBはQTBT構造によってCUに分割され、クロマブロックは別のQTBT構造によってクロマCUに分割される。したがって、Iスライス中のCUは、ルマ構成要素のコーディングブロック又は2つのクロマ構成要素のコーディングブロックを含むことができ、Pスライス又はBスライス中のCUは、3つのカラー構成要素すべてのコーディングブロックを含むことができ、又はそれらからなることができる。
いくつかの実施形態では、小さなブロックのためのインター予測は、動き補償のメモリアクセスを低減するために制限される。例えば、4×8ブロック及び8×4ブロックでは双方向予測はサポートされず、4×4ブロックではインター予測はサポートされない。QTBTが実装されている場合のように、いくつかの例では、上記の制約を取り除くことができる。
CTUサイズは、CTUの幅(又は高さ)Mによって表すことができる。一実施形態では、CTUが正方形の形状を有する場合、CTUサイズはまた、CTU内のMxMルマサンプルによって表すことができる。したがって、CTUサイズは、M又はMxMと称することができる。一実施形態では、同じCTUサイズを使用して、ビデオシーケンス内の画像をコード化(例えば、エンコード/デコード)することができ、CTUサイズを示すコーディング情報をシーケンスパラメータ設定(SPS)(例えば、SPSヘッダ内)でシグナリングし、ビデオシーケンス内の画像間で共有することができる。
いくつかの実施形態において、16、32、64、及び128等の複数のCTUサイズ(例えば、4つのCTUサイズ)を使用することができる。したがって、4つのCTUサイズは、それぞれ16×16、32×32、64×64、128×128ルマサンプルであることができる。変数「CtbSizeY」は、4つのCTUサイズ(例えば、16、32、64、128)を表すために使用することができる。数4‐7は、4つのCTUサイズ16、32、64、128のそれぞれの基数2の対数であり、変数「CtbLog2SizeY」で表すことができる。4つの数2、3、4、5をそれぞれ、16(又は16×16ルマサンプル)、32(又は32×32ルマサンプル)、64(又は64×64ルマサンプル)、128(又は128×128ルマサンプル)のコード化に使用することができ、変数「log2_ctu_size_minus2」で表すことができる。例えば、4つの数2-5(又はlog2_ctu_size_minus2)は、4つのCTUサイズ16、32、64、128のそれぞれの基本2対数(又はCtbLog2SizeY)と値2との間の差である。CTUサイズに対するSPSヘッダ構文の例は、図10Aに示すように「log2_ctu_size_minus2」に設定することができる。
4つの数2-5(又はlog2_ctu_size_minus2)は、エントロピーコーディングツール、例えば符号なし整数0次指数ゴロムコーディング(又はue(v))等の指数ゴロムコーディングを使用してコード化することができる。したがって、変数log2_ctu_size_minus2に対する対応する記述子は、図10Aにおいてはue(v)である。
図10Bは、本開示の一実施形態による、ue(v)コーディングの例を示す。可変ビットストリング(1010)は、log2_ctu_size_minus2(コード化値又はコード番号(codeNums)とも呼ばれる)(1020)をコード化するために使用することができる。例えば、ビットストリング011、00100、00101、及び00110は、それぞれ、codeNums2-5をコード化するために使用される。
上記の記述に基づいて、CTUサイズの意味を以下に記述することができる。log2_ctu_size_minus2+2は、各CTUのルマCTBサイズを特定する(式(1))。log2_min_luma_block_size_minus2+2は、最小ルマコーディングブロックサイズを特定する。変数CtbLog2SizeY及びCtbSizeYは、式(1)‐(2)を使用して導出することができる。
CtbLog2SizeY=log2_ctu_size_minus2+2 式(1)
CtbSizeY=1<<CtbLog2SizeY 式(2)
例えば、ビット列011は、図10Bに示すように、ue(v)符号化に基づくcodeNum 2を表す。したがって、変数log2_ctu_size_minus2の値は2です。変数CtbLog2SizeYの値は、式(1)に基づいて4であると決定される。式(2)に基づいて、変数CtbSizeYの値は CtbLog2SizeY であると決定されるので、変数CtbSizeYの値は =16である。従って、CTUサイズは16又は16×16ルマサンプルである。上記の説明は、32、64、又は128のような種々のCTUサイズを示す他のビットストリングに適用することができる。
いくつかの例では、より大きなCTUサイズ(例えば、128)を使用する代わりに、CTUサイズ16を使用すると、より大きなオーバーヘッドが発生する可能性がある。したがって、CTUサイズ16を使用すると、デコーディング時間が長くなる可能性がある。例えば、16×16ルマのCTUサイズは、8×8クロマCTBサイズに相当する。一部のコーディングモジュールでは、ループフィルタが一般に入力として16×16ブロックを使用するので、8×8クロマCTBサイズの処理は困難である。さらに、CTUサイズ16×16は、著しいエンコーディング損失を引き起こす可能性がある。したがってって、CTUサイズ16は除去することができる。
いくつかの実施態様において、32、64及び128(又は32×32、64×64、128×128ルマサンプル)等の複数のCTUサイズ(例えば、3つのCTUサイズ)を使用する。同様に、変数「CtbSizeY」は3つのCTUサイズを表すのに使用できます。数5-7は、3つのCTUサイズ32、64、128のそれぞれの基数2の対数であり、変数「CtbLog2SizeY」で表すことができる。SPEヘッダ内の構文及び対応する記述は、以下のように修正することができ、図11Aに示す。
3つの数0‐2を用いて、3つのCTUサイズをコード化することができ、例えば、それぞれ32(又は32×32ルマサンプル)、64(又は64×64ルマサンプル)、128(又は128×128ルマサンプル)であり、変数「log2_ctu_size_minus5」で表すことができる。例えば、3つの数0-2(又はlog2_ctu_size_minus5)は、3つのCTUのサイズ32、64、128のそれぞれの基数2の対数(すなわち5-7)(又はCtbLog2SizeY)と数5の差である。上述したように、CTUサイズに対するSPSヘッダ構文は、図11Aに示すように「log2_ctu_size_minus5」に設定することができる。
3つの数0-2(又はlog2_ctu_size_minus5)は、nビット(又はu(n))を使用する符号なし整数等の固定長コーディングを有するエントロピーコーディングツールを使用して符号化することができる。一例では、2ビット(例えば、n=2)を使用することができる。したがって、対応する記述子は、図11Aのu(2)である。図10A及び11Aを比較すると、差分は、ラベル1110および1120によって示されている。
図11Bは、本開示の一実施形態によるu(2)コーディングの例を示す。固定長ビット列(1130)は、変数log2_ctu_size_minus5(コード化値又はcodeNumsとも称される)(1140)をコード化するために使用することができる。例えば、ビットストリング00、01、及び10は、それぞれ、codeNums0‐2をコード化するために使用することができる。
CTUサイズのセマンティクスは次のように記述され、log2_ctu_size_minus2及びlog2_ctu_size_minus5に関連するいくつかの差が斜体で強調されている。
log2_ctu_size_minus5 plus 5は、各CTUのルマCTBサイズを特定する。一実施例では、log2_ctu_size_minus5の値が2以下であることがビットストリーム適合の要件である。
log2_min_luma_coding_block_size_minus2 plus 2は、最小ルマコーディングブロックサイズを特定することができる。
変数CtbLog2SizeY及びCtbSizeYは、式(2)ー(3)を使用して導出することができ、ここで式(3)は、式(1)と異なる。
CtbLog2SizeY=log2_ctu_size_minus5+5 式(3)
例えば、ビットストリング00は、図11Bに示すように、u(2)コーディングに基づくcodeNum0を表す。したがって、log2_ctu_size_minus5は0であある。変数CtbLog2SizeYの値は、式(3)に基づいて5であると決定される。式(2)に基づいて、変数CtbSizeYの値は CtbLog2SizeY であると決定されるので、変数CtbSizeYの値は =32である。したがって、CTUサイズは32ルマサンプル又は32×32ルマサンプルである。上記の説明は、他のCTUサイズを示す他のビットストリング(例えば、64又は128)に適用することができる。
いくつかの実施形態において、3つのCTUサイズを表す3つの数(例えば、codeNums0‐2)のみがエンコードされる。固定長コーディングu(2)を用いて構文log2_ctu_size_minus5を記述することは、例えばエンコードされた数が0又は1の場合に、1ビットを無駄にする可能性がある。
上記のいくつかの実施形態では、数0(例えば、codeNum 0)はCTUサイズ32(又は32×32ルマサンプル)を表すために使用することができ、数2(例えば、codeNum 2)はCTUサイズ128(又は128×128ルマサンプル)を表すために使用することができる。いくつかの実施例において、CTUサイズ128は、ビデオシーケンスにおいて最も頻繁に使用されるCTUサイズであり、従って、CTUサイズ128を数2でエンコードすることは、コーディング効率を低下させ、コーディングの複雑さを増加させることができる。
いくつかの実施形態では、ビデオシーケンス内の画像について、画像をコーディングするために使用されるCTUサイズは、ビデオシーケンスについてのコード化された情報において示され得る。CTUサイズを示す情報はSPSヘッダに入れることができる。CTUサイズは、3つのCTUサイズ32、64、及び128のような複数のCTUサイズのうちの1つとすることができる。本開示の態様によれば、CTUサイズを示すコード化(例えば、符号化/復号)数(例えば、符号化された値又はcodeNums)を示すために、短縮単項コードを使用することができる。上述の固定長コード化と比較して(例えば、図11A‐11Bを参照して)、短縮単項コードは、例えば、ビットの不必要な無駄を排除することによって、コーディング効率を改善することができる。このように、固定長コーディングu(2)の代わりに短縮単項コーディングを用いると、SPSヘッダのサイズが小さくなり、コーディング効率が向上する。さらに、いくつかの例では、不適合なエンコーダによって生成された不正なビットストリーム(例えば、いくつかの標準やコーダでは許されないCTUサイズ16x16を可能にする)を避けることができる。
一実施形態では、3つのCTUサイズ32、64、及び128(又は32×32、64×64、128×128ルマサンプル)を使用することができる。上述のように、変数「CtbSizeY」は、3つのCTUサイズを表すのに使用できる。数5‐7は、3つのCTUサイズ32、64、128のそれぞれの基数2の対数であり、変数「CtbLog2SizeY」で表すことができる。SPSヘッダ内の構文及び対応する記述子は、以下のように変更することができ、図12Aに示される。
3つの数0‐2は、3つのCTUサイズをコード化又は表現するために使用することができる。本開示の態様によれば、0は、128(又は128×128ルマサンプル)を表す(又はコード化する)ために使用され、1は、64(又は64×64ルマサンプル)を表す(又はコード化する)ために使用され、2は、32(又は32×32ルマサンプル)を表す(又はコード化する)ために使用される。したがって、3つの数は、変数「7_マイナス_log2_ctu_size」によって表される。例えば、3つの数0-2(又は7_マイナス_log2_ctu_size)は、3つのCTUサイズ128、64、及び32 のそれぞれについて、7と、基数2の対数7、6、及び5(又はCtbLog2SizeY)との間の差分である。上述したように、CTUサイズに対するSPSヘッダ構文は、図12Aに示すように「7_minus_log2_ctu_size」に設定することができる。
3つの数0-2(又はseven_minus_log2_ctu_size)は、図12Aにおいて記述子tu(v)によって示されるように、短縮単項コーディング(又はtu(v))を使用してコード化することができる。一実施形態では、短縮単項コーディングは単項符号化であり、コード化されるべき数が最大値cMaxより小さい場合に、「1」の後に「0」が続くビンストリング(又はビットストリング)を生成する。コード化されるべき数が最大値cMaxに等しい場合、最後の0は切り捨てられる。実施形態において、cMaxの最大値は、3つの数0‐2(又は7_マイナス_log2_ctu_size)をコーディングする場合、2である。図12Bは、本開示の一実施形態による、短縮単項コーディングの一例を示す。可変長ビットストリング(1230)は、変数seven_minus_log2_ctu_size(コード化値又はcodeNums (1240)とも称される)をコード化するために使用される。ビットストリング0は、codeNum 0をコード化するために使用することができる。ビットストリング10は、codeNum 1をコード化するために使用することができる。ビットストリング11は、codeNum 2をコード化するために使用することができる。図11A及び12Aを比較すると、差は、ラベル(1210)及び(1220)によって示される。図10A及び12Aを比較すると、差は、ラベル(1210)及び(1220)によって示される。
概して、3つの数0-2(又はseven_minus_log2_ctu_size)は、可変長符号化(例えば、短縮単項コーディング、指数ゴロムコーディング)、固定長コーディング(例えば、u(n)))、又は数0がCTUサイズ128を表すような、任意の適切なコーディング方法を使用してコード化することができる。コード番号はCTUサイズの使用頻度に基づいて割り当てることができる。例えば、128のCTUサイズは、最小又はより小さいコード番号に割り当てることができる。
図12A-12Bで上述したように、変数「seven_minus_log2_ctu_size」を使用してCTUサイズを記述することができ、CTUサイズ128はコード化された値又はcodeNum 0でコード化することができる。さらに、1ビットを有するビット列0を用いて、codeNum 0をコード化することができる。種々の実施例において、CTUサイズ128が他のCTUサイズ(例えば、32及び64)よりも頻繁に使用される場合、CTUサイズ128を1ビットでコーディングすることにより、コーディング効率を改善することができる。例えば、ビットストリング00110は、CTUサイズ128が5ビットを有することを示すために使用することができ(図10B)、又はビットストリング10は、CTUサイズ128が2ビットを有することを示すために使用することができる(図11B)。
CTUサイズのセマンティクス は次のように記述され、seven_minus_log2_ctu_sizeと(複数の)他の変数(log2_ctu_size_minus5 and log2_ctu_size_minus2)の間の差異は斜体で強調されている。
seven_minus_log2_ctu_sizeは、各CTUのルマCTBサイズを特定する。一実施例では、seven_minus_log2_ctu_sizeの値が2以下であることがビットストリーム適合の要件である。
log2_min_luma_coding_block_size_minus2 plus 2は、最小ルマコーディングブロックサイズを特定できる。
変数CtbLog2SizeY及びCtbSizeYは、式(2)及び(4)を使用して導出することができる。
CtbLog2SizeY=7-seven_minus_log2_ctu_size 式(4)
図12Bを参照すると、例えば、ビットストリング0は、最大値cMax2を有するtu(v)コーディングに基づくcodeNum 0を表すために使用され得る。したがって、変数seven_minus_log2_ctu_sizeの値は0になります。変数CtbLog2SizeYの値は、式(4)に基づいて7であると決定される。式(2)に基づいて、変数CtbSizeYの値は CtbLog2SizeY であると決定されるので、変数CtbSizeYの値は =128である。したがって、CTUサイズは128又は128×128ルマのサンプルである。上記の説明は、他のCTUサイズを示す他のビットストリング(例えば、32又は64)に適用することができる。
本開示の態様によれば、コード化されたビデオシーケンス内の画像のコード化された情報をデコーダによって受信することができる。コード化された情報は、例えばエンコーダによって画像をエンコードするために選択又は使用されるCTUサイズを示すことができる。選択されたCTUサイズは、3つのCTUサイズ32、64、及び128等の複数のCTUサイズのうちの1つとすることができる。コード化情報は、選択されたCTUサイズを得るために、短縮単項コーディングを用いてエンコード/デコードされ得る。一実施例において、コーディング情報は、CTUサイズをコーディングするために使用されるコーディングツール(例えば、短縮単項コーディング)を示すことができる。他の例では、コーディングツールは、予め決定されているか、予めシグナリングされている。
一実施形態では、コード化された情報は、図12A-12Bを参照して上述したように、SPSヘッダ(例えば、SPSヘッダの構文及び記述子)内にある。コード化情報は、ビットストリング(例えば、図12Bのビットストリング10)を含んでもよい。一例では、コード化値/codeNum(例えば、seven_minus_log2_ctu_size)は、短縮単項符号化を使用してビット列から決定され得、符号化値は、図12Bに示される数1である。一実施例では、短縮単項コーディングで使用されるcMaxの最大値は2である。さらに、選択されたCTUサイズ(例えば、64)は、構文及び関連するセマンティクス(例えば、式(4)及び式(2))に基づいてコード化された値(例えば、数1)から決定され得る。例えば、変数CtbLog2SizeYの値は、式(4)を用いて、7とコード化された値との間の差分であると決定され、したがって、変数CtbLog2SizeYの値は、seven_minus_log2_ctu_sizeが0のとき、7である。その後、式(2)を用いて変数CtbSizeYの値が CtbLog2SizeY であると決定され、したがって、変数CtbSizeYの値は、CtbLog2SizeYが7の場合、 =128である。
図12A-12Bを参照して上述したように、最も頻繁に使用されるCTUサイズをより少ないビット数でコーディングすることにより、コーディング効率を改善できる。いくつかの実施例において、最も頻繁に使用されるCTUサイズは128であり、従って、CTUサイズ128は、1ビット(例えば、図12Bに示されるようなビットストリング「0」)で符号化され得る。
いくつかの実施形態において、32、64、及び128等の複数のCTUサイズ(例えば、3つのCTUサイズ)は、例えば、式(2)及び(3)を使用して、変数log2_ctu_size_minus5を使用して表すことができ、図12Bに示すように、最大値cMaxが2である短縮単項コーディングtu(v)を用いて符号化される。一実施形態では、CTUサイズ128は、コード化された値(又はcodeNum)2によってエンコードされ、従って、ビットストリング11は、数2及びCTUサイズ128をエンコードするために使用される。一実施形態では、CTUサイズ64は、符号化された値(又はcodeNum)1で符号化され、従って、ビット列10は、番号1及びCTUサイズ64を符号化するために使用される。一実施形態では、CTUサイズ32は、符号化された値(又はcodeNum)0で符号化され、したがって、ビット列0は、数0及びCTUサイズ32を符号化するために使用される。したがって、符号化値(又はlog2_ctu_size_minus5)は、最大値cMaxが2の切り捨てられた単項符号化を使用してビット列から決定することができる。さらに、選択されたCTUサイズは、構文及び関連するセマンティクス(例えば、式(3)及び式(2))に基づいて符号化された値から決定され得る。例えば、変数CtbLog2SizeYの値は、5及び式(3)を使用してコード化された値の和であると決定され得る。その後、式(2)を用いて、変数CtbSizeYの値を CtbLog2SizeY とすることができる。
図13は、本開示の一実施形態によるプロセス(1300)の概略を示すフローチャートを示す。プロセス(1300)は、コード化されたビデオシーケンス内の画像に使用されるCTUサイズを決定するために使用され得る。様々な実施形態では、プロセス(1300)は、端末装置(310)、(320)、(330)及び(340)の処理回路、ビデオエンコーダ(403)の機能を実行する処理回路、ビデオデコーダ(410)の機能を実行する処理回路、ビデオデコーダ(510)の機能を実行する処理回路、ビデオエンコーダ(603)の機能を実行する処理回路などの処理回路によって実行される。いくつかの実施形態では、プロセス(1300)は、ソフトウェア命令で実装され、したがって、処理回路がソフトウェア命令を実行すると、処理回路は、プロセス(1300)を実行する。プロセスは(S1301)から始まり、(S1310)に進む。
(S1310)において、コード化ビデオシーケンス内の画像のコード化情報を、例えば、デコーダによって受信することができる。コード化された情報は、例えば、画像をエンコードするためにエンコーダによって選択される、CTUサイズを示すCTUサイズ情報を含むことができる。選択されたCTUサイズは、32×32、64×64、及び128×128ルマサンプルの3つのCTUサイズ等の、複数のCTUサイズのうちの1つであってもよい。複数のCTUサイズは、任意の適切な数のCTUサイズを含むことができ、任意の(複数の)適切なCTUサイズを含むことができる。CTUサイズ情報は、短縮単項コード又は他のコーディング体系を用いて符号化することができる。
一実施例では、コード化された情報は、選択されたCTUサイズをコード化するために使用されるコーディングツールを示す。例えば、コーディング情報は、コーディングツール(例えば、tu(v)、u(2)、又はue(v))を示すSPSヘッダ内にある。いくつかの例では、構文はSPSヘッダに含まれ、したがって対応するセマンティクスを示す。
(S1320)において、選択されたCTUサイズは、CTUサイズ情報に基づくコーディングツール(例えば、切り詰められた単項コード化)を用いて決定され得る。例えば、図12A-12Bを参照して上述したように、コード化された情報は、短縮単項デコーディングを使用してデコードされる。一実施形態では、CTUサイズ情報はビットストリングを含む。コード化値(例えば、codeNum)は、短縮単項デコーディングを使用して、ビットストリングから決定することができる。例えば、ビットストリングがそれぞれ0、10、及び11であり、短縮単項コーディングで使用される最大値Cmaxが2である場合、コード化値は0、1、及び2であると決定され得る。さらに、選択されたCTUサイズは、例えば、コード化情報に示される構文(又は対応する意味)を使用して、コード化値に基づいて決定され得る。
一実施例では、構文は、コード化された値が変数seven_minus_log2_ctu_sizeを参照することを示し、したがって、式(2)及び(4)は、CTUサイズを取得するのに使用することができる。したがって、コード化された値が0の場合、選択されたCTUサイズは128である。コード化された値が1の場合、選択されたCTUサイズは64である。コード化された値が2の場合、選択されたCTUサイズは32である。さらに、選択されたCTUサイズは、変数CtbLog2SizeYの値が、7とコード化値との間の差である場合、 CtbLog2SizeY であると決定することができる。
一実施例では、構文は、コード化された値が変数log2_ctu_size_minus5の値を参照していることを示し、したがって、式(2)及び(3)は、選択したCTUサイズを取得するために使用されることができる。したがって、コード化された値が2の場合、選択されたCTUサイズは128である。コード化された値が1の場合、選択されたCTUサイズは64である。コード化された値が0の場合、選択されたCTUサイズは32である。さらに、選択されたCTUサイズは、変数CtbLog2SizeYの値がコード化された値と5の和である場合、 CtbLog2SizeY であると決定することができる。
(S1330)では、選択したCTUサイズに基づいて画像のサンプルを再構成できる。例えば、画像の1つを、選択したCTUサイズのCTUに分割することができる。CTUの各々は、複数のCUにさらに分割することができ、CU内のサンプルを再構成するためにインター予測及び/又はイントラ予測を使用することができる。その後、プロセス(1300)は(S1399)に進み、終了する。
上記の技術は、コンピュータ可読命令を用いたコンピュータソフトウェアとして行うことができて、物理的に一つ以上のコンピュータ可読媒体に格納されることができる。例えば、図14は、開示された主題の特定の実施例を実施するのに適しているコンピュータシステム(1400)を示す。
コンピュータソフトウェアは、アセンブリ、コンパイル、リンク、又は類似のメカニズムの対象となり得る任意の適切な機械コード若しくはコンピュータ言語を使用してコーディングされることができ、直接実行されることができるか、又は、1つ以上のコンピュータ中央処理装置(CPU)、グラフィックス処理装置(GPU)等による、実施、マイクロコード実行等を介して実行されることができる命令を含むコードを作成する。
命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲームデバイス、物品のインターネット等を含む種々のタイプのコンピュータ又はその構成要素上で実行されることができる。
コンピュータ・システム(1400)のための図18に示されるコンポーネントは、例示的な性質のものであり、本開示の実施形態を実装するコンピュータソフトウェアの使用範囲又は機能性に関する制限を示唆することを意図するものではない。また、コンポーネントの構成は、コンピュータシステム(1400)の例示的な実施形態に示されるコンポーネントのいずれか1つ又は組み合わせに関連する依存性又は要件を有すると解釈されるべきではない
コンピュータシステム(1400)は、特定のヒューマンインタフェース入力デバイスを含み得る。このようなヒューマンインタフェース入力デバイスは、例えば、触覚入力(例えば、キーストローク、スイッピング、データグローブの動き)、音声入力(例えば、音声、拍手)、視覚入力(例えば、ジェスチャ)、嗅覚入力(図示せず)を介して、一人又は複数の人間ユーザによる入力に応答し得る。また、ヒューマンインタフェースデバイスは、オーディオ(例えば、音声、音楽、周囲の音声)、画像(例えば、走査画像、静止画像カメラから得られる写真画像)、ビデオ(例えば、2次元ビデオ、立体画像を含む3次元ビデオ)等の、人間による意識的入力に必ずしも直接関係しない特定の媒体を捕捉するために用いられ得る。
入力ヒューマンインタフェースデバイスには、次のものが1つ以上含まれ得る(それぞれ1つのみ表されている):キーボード(1401)、マウス(1402)、トラックパッド(1403)、タッチスクリーン(1410)、データグローブ(図示せず)、ジョイスティック(1405)、マイクロホン(1406)、スキャナ(1407)、カメラ(1408)。
コンピュータシステム(1400)はまた、特定のヒューマンインタフェース出力デバイスを含み得る。かかるヒューマンインタフェース出力デバイスは、例えば、触覚出力、音、光、及び嗅覚/味覚を通して、1人又は複数の人間ユーザの感覚を刺激し得る。かかるヒューマンインタフェース出力デバイスは、触覚出力デバイス(例えば、タッチスクリーン(1410)、データグローブ(図示せず)、又はジョイスティック(1405)による触覚フィードバック)、入力デバイスとして働かない触覚フィードバックデバイスであることもでき)と、オーディオ出力デバイス(例えば、スピーカー(1409)、ヘッドフォン(図示せず))と、視覚出力デバイス(例えば、CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンを含むスクリーン(1410)であり、各々が触覚フィードバック能力を有するか又は有さず、各々が触覚フィードバック能力を有するか又は有さず、そのうちのいくつかは、仮想現実眼鏡(図示せず)、ホログラフィックディスプレイ及びスモークタンク(図示せず)等の立体出力のような手段を介して2次元視出力又は3次元以上の出力を可能にし得るもの)と、プリンタ(図示せず)と、を含み得る。
コンピュータシステム(1400)はまた、人間がアクセス可能な記憶デバイスと、それらのアクセス可能な媒体とを含むことができ、媒体は、例えば、CD/DVD等の媒体(1421)によるCD/DVD ROM/RWを含む光学媒体ドライブ(1420)、USBメモリ(1422)、着脱可能ヘッドドライブ又はソリッドステートドライブ(1423)、テープ、フロッピーディスク(図示せず)等の従来の磁気媒体、セキュリティドングル等の特殊化されたROM/ASIC/PLDベースデバイス等である。
当業者はまた、現在開示されている主題に関連して使用される「コンピュータ可読媒体」という用語は、伝送媒体、搬送波、又は他の一時的な信号を包含しないことを理解されたい。
コンピュータシステム(1400)はまた、1つ以上の通信ネットワークへのインタフェースを含むことができる。ネットワークは、例えば、無線、有線、光であり得る。ネットワークは、さらに、ローカル、広域、大都市、車両及び工業、リアルタイム、遅延耐性等であり得る。ネットワークの例としては、イーサネット、無線LAN、GSM、3G、4G、5G、LTE等を含むセルラーネットワーク、ケーブルTV、衛星TV、及び地上放送TV、CANBusを含む産業用及び車両用を含む。特定のネットワークは、特定の汎用データポート又はペリフェラルバス(1749)(たとえば、コンピュータシステムのUSBポート(1700))に接続された外部ネットワークインターフェイスアダプタを必要とする;他には、一般に、以下に説明するようにシステムバス(たとえば、PCコンピュータシステムへのイーサネットインターフェイス又はスマートフォンコンピュータシステムへのセルラーネットワークインタフェース)に接続することによってコンピュータシステム(1700)のコアに統合される。これらのネットワークのいずれかを使用して、コンピュータシステム(1400)は、他のエンティティと通信することができる。かかる通信は、単指向性通信、受信のみ(例えば、放送テレビ)通信、単指向性送信専用(例えば、特定のCANバスデバイスへのCANバス)通信、又は、例えばローカル又は広域デジタルネットワークを使用する他のコンピュータシステムへの、双方向通信であることができる。特定のプロトコル及びプロトコルスタックは、上述のように、それらのネットワーク及びネットワークインタフェースの各々で使用されることができる。
前述のヒューマンインタフェースデバイス、人間がアクセス可能な記憶デバイス、及びネットワークインタフェースは、コンピュータシステム(1400)のコア(1440)に接続されることができる。。
コア(1440)は、1つ以上の中央処理デバイス(CPU)(1441)、グラフィックス処理デバイス(GPU)(1442)、フィールドプログラマブルゲートエリア(FPGA)(1443)の形態の特殊なプログラマブル処理デバイス、特定のタスクのためのハードウェアアクセラレータ(1444)等を含むことができる。これらのデバイスは、読出し専用メモリ(ROM)(1445)、ランダムアクセスメモリ(1446)、内部大容量記憶デバイス、例えば内部非ユーザアクセス可能ハードドライブ、SSD等(1447)と共に、システムバス(1448)を介して接続され得る。いくつかのコンピュータシステムでは、システムバス(1448)は、追加のCPU、GPU等による拡張を可能にするために、1つ又は複数の物理プラグの形態でアクセス可能である。周辺デバイスは、コアのシステムバス(1448)に直接接続するか、又は周辺バス(1449)を介して接続することができる。周辺バスのアーキテクチャは、PCI、USB等を含む。
CPU(1441)、GPU(1442)、FPGA(1443)、及びアクセラレータ(1444)は、組み合わされて、上述のコンピュータコードを構成することができる特定の命令を実行することができる。そのコンピュータコードは、ROM(1445)又はRAM(1446)に格納されることができる。移行データは、RAM(1446)に格納されることもできるが、永久データは例えば内部大容量記憶デバイス(1447)に格納されことができる。1つ以上のCPU(1441)、GPU(1442)、大容量記憶デバイス(1447)、ROM(1445)、RAM(1446)等と密接に関連付けることができるキャッシュメモリを使用することによって、メモリデバイスのいずれかへの高速記憶及び検索を可能にすることができる。
コンピュータ可読媒体は、各種のコンピュータ実施動作(computer-implemented operations)を実行するためにその上のコンピュータコードを有することができる。メディアおよびコンピュータコードは特別に設計されたそれらであることができて、本開示のために作成されることができる、または、それらはよく公知で、コンピュータソフトウェア技術の技術を有するそれらが利用できる種類でありえる。
一例として、限定するものではなく、アーキテクチャ(1400)、具体的にはコア(1440)を有するコンピュータシステムは、1つ以上の有形のコンピュータ可読媒体に具現化されたソフトウェアを実行するプロセッサ(CPU、GPU、FPGA、アクセラレータ等を含む)の結果として機能性を提供することができる。かかるコンピュータ可読媒体は、コア-内部大容量記憶デバイス(1447)又はROM(1445)等の一時的でない性質のコア(1440)の特定の記憶デバイスと同様に、上述のようにユーザがアクセス可能な大容量記憶デバイスに関連する媒体であってもよい。本開示の様々な実施形態を実装するソフトウェアは、かかるデバイスに記憶され、コア(1440)によって実行され得る。コンピュータ読取可能媒体は、特定のニーズに応じて、1つ以上のメモリデバイス又はチップを含むことができる。ソフトウェアは、コア(1440)及びその中の具体的にプロセッサ(CPU、GPU、FPGA等を含む)に、RAM(1446)に記憶されたデータ構造を定義し、ソフトウェアによって定義されたプロセスにしたがって、かかるデータ構造を変更することを含む、本明細書に記載された特定のプロセス又は特定の部分を実行させることができる。付加的に又は代替的に、コンピュータシステムは、回路(例えば、アクセラレータ(1444))内に配線された、又は他の方法で具現化されたロジックの結果として、機能性を提供することができ、これは、本明細書に記載される特定のプロセス又は特定のプロセスの特定の部分を実行するために、ソフトウェアの代わりに、又はソフトウェアと共に動作することができる。ソフトウェアへの言及は、論理を含み、また、必要に応じて、その逆も可能である。コンピュータ読取り可能媒体への参照は、実行のためのソフトウェアを記憶する(集積回路(IC)等の)回路、実行のためのロジックを具体化する回路、又は適切な場合にはその両方を含むことができる。本開示は、ハードウェア及びソフトウェアの任意の適切な組み合わせを包含する。
付録A:
頭文字
JEM:ジョイント探索モデル
VVC:広用途ビデオコーディング
BMS:ベンチマークセット
MV:動きベクトル
HEVC:高効率ビデオコーディング
MPM:最も可能性のあるモード
WAIP:ワイドアングルイントラ予測
SEI:付加強化情報
VUI:ビデオユーザビリティ情報
GOP:画像グループ
TU:変換ユニット
PU:予測ユニット
CTU:コーディングトリーユニット
CTB:コーディングトリーブロック
PB:予測ブロック
HRD:仮想参照デコーダ
SDR:標準ダイナミクスクレンジ
SNR:信号雑音比
CPU:中央処理装置
GPU:グラフィックスプロセッシングユニット
CRT:陰極線管
LCD:液晶ディスプレイ
OLED:有機発光ダイオード
CD:コンパクト・ディスク
DVD:デジタルビデオディスク
ROM:リードオンリーメモリ
RAM:ランダムアクセスメモリ
ASIC:特定用途向け集積回路
PLD:プログラマブルロジックデバイス
LAN:ローカルエリアネットワーク
GSM:グローバスシステムフォーモバイルコミュニケーション
LTE:ロングタームエヴォリューション
CANバス:コントローラエリアネットワークバス
USB:ユニバーサルシリアル・バス
PCI:ペリフェラルコンポーネントインターコネクト
FPGA:フィールドプログラマブルゲートエリア
SSD:ソリッドステートドライブ
IC:集積回路
CU:コーディングユニット
PDPC:位置依存予測組合せ
ISP:イントラサブ予測
SPS:シークエンスパラメータセッティング
本開示はいくつかの例示的な実施形態を説明しているが、本発明の範囲内に入る、変更、置換、及び様々な均等物が存在する。
したがって、当業者は、本明細書に明示的に示されていないか又は記載されていないが、本発明の原理を実施し、したがってその概念及び範囲内にある多数のシステム及び方法を創造することができることが理解されよう。

Claims (5)

  1. デコーダが実行するビデオをデコードするための方法であって、
    コード化されたビデオシーケンス内の画像のコード化された情報を受信するステップであって、前記コード化された情報は、前記画像に対して選択されたCTUサイズを示すコーディングトリーユニットサイズ情報(CTUサイズ情報)を含み、ステップと、
    前記CTUサイズ情報に対応する少なくとも1ビットに基づいて、前記選択されたCTUサイズを決定するステップと、
    前記選択されたCTUサイズに基づいて前記画像内のサンプルを再構成するステップと、
    を含み、
    前記選択されたCTUサイズは、第1値である、前記CTUサイズ情報に対応する少なくとも1ビットの第1ビットに基づいて、3つのCTUサイズのうちの第1CTUサイズとして決定され、
    前記選択されたCTUサイズは、第2値である前記第1ビット及び前記CTUサイズ情報に対応する少なくとも1ビットの第2ビットに基づいて、3つのCTUサイズのうちの第2CTUサイズ及び第3CTUサイズのうちの1つとして決定され、
    前記少なくとも1ビットは、前記第2値である前記第1ビットに基づいて前記第2ビットを含み、
    前記選択されたCTUサイズを決定するステップは、
    短縮単項コードを用いてエンコードされた前記CTUサイズ情報に基づいて、前記コード化された情報内の前記少なくとも1ビットからコード化された値を決定するステップであって、前記少なくとも1ビット内の最大ビット数は2であり、前記少なくとも1ビットが0である場合に、前記コード化された値は0であり、前記少なくとも1ビットが10である場合に、前記コード化された値は1であり、前記少なくとも1ビットが11である場合に、前記コード化された値は2である、ステップ、
    を含み、
    前記選択されたCTUサイズを決定するステップは、
    前記コード化された値が0、1及び2である場合に、前記選択されたCTUサイズが、それぞれ128、64及び32であることを決定するステップを含み、
    前記選択されたCTUサイズが、それぞれ128、64及び32であることを決定するステップは、
    前記CTUサイズ情報に対応する前記コード化された値に基づいて、前記コード化された値と所定の定数値との差に等しい変数値を決定するステップであって、前記所定の定数値は奇素数である、ステップと、
    前記選択されたCTUサイズが、2CtbLog2SizeYになることを決定するステップであって、前記変数値はCtbLog2SizeYの値である、ステップを含む、
    法。
  2. デコーダが実行するビデオをデコードするための方法であって、
    コード化されたビデオシーケンス内の画像のコード化された情報を受信するステップであって、前記コード化された情報は、前記画像に対して選択されたCTUサイズを示すコーディングトリーユニットサイズ情報(CTUサイズ情報)を含み、ステップと、
    前記CTUサイズ情報に対応する少なくとも1ビットに基づいて、前記選択されたCTUサイズを決定するステップと、
    前記選択されたCTUサイズに基づいて前記画像内のサンプルを再構成するステップと、
    を含み、
    前記選択されたCTUサイズは、第1値である、前記CTUサイズ情報に対応する少なくとも1ビットの第1ビットに基づいて、3つのCTUサイズのうちの第1CTUサイズとして決定され、
    前記選択されたCTUサイズは、第2値である前記第1ビット及び前記CTUサイズ情報に対応する少なくとも1ビットの第2ビットに基づいて、3つのCTUサイズのうちの第2CTUサイズ及び第3CTUサイズのうちの1つとして決定され、
    前記少なくとも1ビットは、前記第2値である前記第1ビットに基づいて前記第2ビットを含み、
    前記選択されたCTUサイズを決定するステップは、
    短縮単項コードを用いてエンコードされた前記CTUサイズ情報に基づいて、前記コード化された情報内の前記少なくとも1ビットからコード化された値を決定するステップであって、前記少なくとも1ビット内の最大ビット数は2であり、前記少なくとも1ビットが0である場合に、前記コード化された値は0であり、前記少なくとも1ビットが10である場合に、前記コード化された値は1であり、前記少なくとも1ビットが11である場合に、前記コード化された値は2である、ステップ、
    を含み、
    前記選択されたCTUサイズを決定するステップは、
    前記CTUサイズ情報に対応する前記コード化された値に基づいて、変数値が(7-前記コード化された値)になることを決定するステップと、
    前記選択されたCTUサイズが、2CtbLog2SizeYになることを決定するステップであって、前記変数値がCtbLog2SizeYの値である、ステップを含む、
    法。
  3. 前記コード化された情報は、前記コード化されたビデオシークエンスに対するシークエンスパラメータセットヘッダである、
    請求項1又は2記載の方法。
  4. ビデオを処理するための装置であって、
    処理回路を備え、前記処理回路は、
    請求項1乃至いずれか1項記載の方法を実行する、ように構成されている、
    装置。
  5. 少なくとも1つのプロセッサによって実行可能なプログラムであって、前記プログラムは、
    前記プロセッサに請求項1乃至いずれか1項記載の方法を実行させるように構成されている、プログラム。
JP2021552152A 2019-08-13 2020-07-31 ビデオコーディングのための方法、装置及びプログラム Active JP7383038B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962886056P 2019-08-13 2019-08-13
US62/886,056 2019-08-13
US16/941,193 US11553213B2 (en) 2019-08-13 2020-07-28 Method and apparatus for video coding
US16/941,193 2020-07-28
PCT/US2020/044563 WO2021030079A1 (en) 2019-08-13 2020-07-31 Method and apparatus for video coding

Publications (2)

Publication Number Publication Date
JP2022522842A JP2022522842A (ja) 2022-04-20
JP7383038B2 true JP7383038B2 (ja) 2023-11-17

Family

ID=74568498

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021552152A Active JP7383038B2 (ja) 2019-08-13 2020-07-31 ビデオコーディングのための方法、装置及びプログラム

Country Status (9)

Country Link
US (2) US11553213B2 (ja)
EP (1) EP4014504A4 (ja)
JP (1) JP7383038B2 (ja)
KR (1) KR20210134030A (ja)
CN (1) CN113692745B (ja)
AU (2) AU2020329833B2 (ja)
CA (1) CA3135217A1 (ja)
SG (1) SG11202110581UA (ja)
WO (1) WO2021030079A1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2014202682A1 (en) * 2014-05-16 2015-12-03 Canon Kabushiki Kaisha Method, apparatus and system for copying a block of video samples
US11039175B2 (en) * 2016-05-27 2021-06-15 Sharp Kabushiki Kaisha Systems and methods for varying quantization parameters
AU2016231584A1 (en) 2016-09-22 2018-04-05 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding video data
CN114513665B (zh) 2017-01-31 2023-10-27 夏普株式会社 基于平面预测模式导出帧内预测数据的系统和方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Tim Hellman, et al.,"AHG16: Setting the minimum CTU size to 32x32",JVET-O0526,version 2,[online], Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2019年07月05日,Pages 1-5,[令和4年9月9日検索], インターネット, <URL: https://jvet-experts.org/doc_end_user/current_document.php?id=7133> and <URL: https://jvet-experts.org/doc_end_user/documents/15_Gothenburg/wg11/JVET-O0526-v2.zip>.
亀山 渉(外1名)監修,「インプレス標準教科書シリーズ IPTV時代のデジタル放送教科書」,初版,日本,株式会社インプレスR&D,2010年04月01日,第145~147,155~161頁,ISBN: 978-4-8443-2853-7.
大久保 榮 監修,「インプレス標準教科書シリーズ 改訂三版H.264/AVC教科書」,第1版,日本,株式会社インプレスR&D,2009年01月01日,第153~162頁,ISBN: 978-4-8443-2664-9.

Also Published As

Publication number Publication date
CN113692745B (zh) 2024-03-22
KR20210134030A (ko) 2021-11-08
EP4014504A1 (en) 2022-06-22
AU2020329833A1 (en) 2021-10-28
CA3135217A1 (en) 2021-02-18
SG11202110581UA (en) 2021-10-28
AU2023204333A1 (en) 2023-07-27
US11553213B2 (en) 2023-01-10
WO2021030079A1 (en) 2021-02-18
EP4014504A4 (en) 2022-10-12
JP2022522842A (ja) 2022-04-20
US20230048558A1 (en) 2023-02-16
US20210051347A1 (en) 2021-02-18
AU2020329833B2 (en) 2023-04-06
CN113692745A (zh) 2021-11-23

Similar Documents

Publication Publication Date Title
JP7257535B2 (ja) 変換スキップモードとブロック差分パルスコード変調の改善された残差コーディング
KR102442931B1 (ko) 비디오 코딩을 위한 방법 및 장치
JP7358487B2 (ja) イントラ画像ブロック補償のためのデコードされたブロックベクトルの変換
KR20200121904A (ko) 비디오 디코딩을 위한 방법 및 장치
US20200037002A1 (en) Constraints on coding unit partition
JP7223138B2 (ja) ビデオコーディングの方法および装置、ならびにコンピュータプログラム
JP7257516B2 (ja) ビデオ・コーディングのための方法、装置及びコンピュータ・プログラム
JP7177179B2 (ja) 簡略化された最確モードリスト生成スキーム
JP2022515126A6 (ja) ビデオ・コーディングのための方法、装置及びコンピュータ・プログラム
JP7288078B2 (ja) スキップモードフラグを伝達するための方法、装置及びコンピュータプログラム
JP7244670B2 (ja) デコーダが実行するビデオデコーディングのための方法、装置及び非一時的なコンピュータ可読媒体、並びにエンコーダが実行するビデオエンコーディングのための方法
US11272198B2 (en) Method and apparatus for improved sub-block partitioning intra sub-partitions coding mode
US11949862B2 (en) Method and apparatus for video coding
JP7236558B2 (ja) ビデオコーディングのための方法および装置
JP7357678B2 (ja) ビデオ復号のための方法、装置、およびプログラム
JP2023158110A (ja) ビデオ復号方法、ビデオ復号装置、コンピュータプログラム、およびビデオ符号化方法
JP7395771B2 (ja) テンプレートマッチングベースのイントラ予測
JP7210732B2 (ja) ビデオをデコードするための方法、装置及びプログラム
JP2023159375A (ja) ビデオコーディングのための方法、装置及びプログラム
JP2023522354A (ja) デカップリング変換パーティション分割
US10542260B1 (en) Method and apparatus for video coding
JP7383038B2 (ja) ビデオコーディングのための方法、装置及びプログラム
JP7439344B2 (ja) ビデオデコーディングのための方法、デバイス、およびコンピュータプログラム
JP7250153B2 (ja) 動画符号化のための方法、装置及びコンピュータプログラム
JP2023552415A (ja) ビデオ復号の方法、機器、及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221220

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230727

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231017

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231107

R150 Certificate of patent or registration of utility model

Ref document number: 7383038

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150