JP7337929B2 - ビデオコーディングのための方法、装置、およびプログラム - Google Patents

ビデオコーディングのための方法、装置、およびプログラム Download PDF

Info

Publication number
JP7337929B2
JP7337929B2 JP2021531589A JP2021531589A JP7337929B2 JP 7337929 B2 JP7337929 B2 JP 7337929B2 JP 2021531589 A JP2021531589 A JP 2021531589A JP 2021531589 A JP2021531589 A JP 2021531589A JP 7337929 B2 JP7337929 B2 JP 7337929B2
Authority
JP
Japan
Prior art keywords
prediction
inter
intra
samples
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021531589A
Other languages
English (en)
Other versions
JP2022512088A (ja
Inventor
リャン・ジャオ
シン・ジャオ
シアン・リ
シャン・リュウ
Original Assignee
テンセント・アメリカ・エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テンセント・アメリカ・エルエルシー filed Critical テンセント・アメリカ・エルエルシー
Publication of JP2022512088A publication Critical patent/JP2022512088A/ja
Priority to JP2023134843A priority Critical patent/JP2023164443A/ja
Application granted granted Critical
Publication of JP7337929B2 publication Critical patent/JP7337929B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本出願は、2019年2月1日に出願された米国仮出願第62/800,400号「ENHANCEMENT FOR POSITION DEPENDENT PREDICTION COMBINATION」に基づく優先権の利益を主張する、2020年1月30日に出願された米国特許出願第16/777,339号「METHOD AND APPARATUS FOR VIDEO CODING」に基づく優先権の利益を主張する。先行出願の開示全体は、参照によりその全体が本明細書に組み込まれる。
本開示は、ビデオコーディングに一般的に関連する実施形態を説明する。
本明細書で提供される背景技術の説明は、本開示の文脈を一般的に提示することを目的としている。本発明者らの研究は、この背景技術の項に記載されている限りにおいて、ならびに出願時に先行技術として認められない可能性がある説明の態様は、本開示に対する先行技術として明示的にも暗示的にも認められない。
ビデオ符号化および復号は、動き補償を伴うピクチャ間予測を使用して行うことができる。非圧縮デジタルビデオは一連のピクチャを含み得、各ピクチャは、例えば1920×1080の輝度サンプルと関連するクロミナンスサンプルとの空間次元を有している。一連のピクチャは、例えば毎秒60ピクチャすなわち60 Hzの固定または可変のピクチャレート(非公式にはフレームレートとも呼ばれる)を有し得る。非圧縮ビデオには、かなりのビットレート要件がある。例えば、サンプルあたり8ビットの1080p60 4:2:0ビデオ(60 Hzのフレームレートにおける1920×1080輝度サンプル解像度)には、1.5 Gbit/sに近い帯域幅が必要である。このようなビデオを1時間使用するには、600 GBを超える記憶領域が必要である。
ビデオ符号化と復号の1つの目的は、圧縮によって入力ビデオ信号の冗長性を減らすことであり得る。圧縮は、前述の帯域幅または記憶領域の要件を、場合によっては2桁以上削減するのに役立ち得る。可逆圧縮と非可逆圧縮の両方、およびそれらの組み合わせを使用できる。可逆圧縮とは、圧縮された元の信号から元の信号の正確な複製を再構築できる手法を指す。非可逆圧縮を使用する場合、再構築された信号は元の信号と同一ではない可能性があるが、元の信号と再構築された信号との間の歪みは十分に小さいため、再構築された信号は目的の用途に役立つ。ビデオの場合、非可逆圧縮が広く採用されている。許容される歪みの量は用途によって異なる。例えば、特定の消費者ストリーミング用途のユーザは、テレビ配信用途のユーザよりも高い歪みを許容し得る。達成可能な圧縮率は、より高い許容/許容歪みにより、より高い圧縮率が得られることを反映し得る。
ビデオ符号化器および復号器は、例えば、動き補償、変換、量子化、エントロピー符号化など、いくつかの広範なカテゴリの手法を利用できる。
ビデオコーディング技術は、イントラ符号化として知られる技術を含むことができる。イントラ符号化では、サンプルまたは以前に再構築された参照ピクチャからの他のデータを参照せずにサンプル値が表される。いくつかのビデオコーディングでは、ピクチャは空間的にサンプルのブロックに細分化される。サンプルのすべてのブロックがイントラモードで符号化される場合、そのピクチャは、イントラピクチャであり得る。イントラピクチャおよび独立した復号器リフレッシュピクチャなどのそれらの派生は、復号器状態をリセットするために使用することができ、したがって、符号化されたビデオビットストリームおよびビデオセッション内の第1のピクチャとして、または静止画像として使用することができる。イントラブロックのサンプルは、変換にさらされる場合があり、変換係数は、エントロピー符号化の前に量子化され得る。イントラ予測は、変換前領域におけるサンプル値を最小化する技術であり得る。場合によっては、変換後のDC値が小さいほど、およびAC係数が小さいほど、エントロピー符号化後のブロックを表すために所与の量子化ステップサイズで必要とされるビットが少なくなる。
例えばMPEG-2生成符号化技術から知られているような従来のイントラ符号化は、イントラ予測を使用しない。しかしながら、いくつかのより新しいビデオ圧縮技術は、例えば、周囲のサンプルデータおよび/または空間的に隣接し、復号順序で先行するデータのブロックの符号化/復号中に取得されたメタデータから試行する技術を含む。そのような技法は、以後「イントラ予測」技法と呼ばれる。少なくともいくつかの場合において、イントラ予測は、再構築中の現在ピクチャからの参照データのみを使用し、参照ピクチャからの参照データは使用しないことに留意されたい。
イントラ予測には多くの異なる形態があり得る。そのような技法のうちの2つ以上が所与のビデオコーディング技術において使用され得る場合、使用中の技法はイントラ予測モードで符号化され得る。ある場合には、モードはサブモードおよび/またはパラメータを有することができ、それらは個別に符号化されるかまたはモード符号語に含まれ得る。所与のモード/サブモード/パラメータの組み合わせにどの符号語を使用するかは、イントラ予測を介して符号化効率の利得に影響を与える可能性があり、そのため、符号語をビットストリームに変換するために使用されるエントロピー符号化技術も影響を与え得る。
イントラ予測の特定のモードは、H.264で導入され、H.265で改良され、共同探索モデル(JEM)、一般ビデオコーディング(VVC)、およびベンチマークセット(BMS)などの新しい符号化技術でさらに改良された。予測ブロック(predictor block)は、すでに利用可能なサンプルに属する近傍サンプル値を使用しpて形成することができる。近傍サンプルのサンプル値は、方向に従って予測ブロックにコピーされる。使用中の方向への参照は、ビットストリーム内で符号化され得るか、またはそれ自体が予測され得る。
本開示の態様は、ビデオ符号化/復号のための方法および装置を提供する。いくつかの例では、ビデオ復号のための装置は処理回路を含む。例えば、処理回路は、符号化されたビデオビットストリームから現在ブロックの予測情報を復号する。予測情報は、現在ブロックの予測が少なくとも部分的にインター予測に基づくことを示す。次に、処理回路は、少なくとも現在ブロックのサンプルを、インター予測からの結果と、サンプルの位置に基づいて選択されたブロックの近傍サンプルとの組み合わせとして再構築する。
一実施形態では、予測情報は、現在ブロックのイントラ予測とインター予測との組み合わせを使用するイントラ-インター予測モードを示し、処理回路は、双方向オプティカルフローに基づく動きリファインメントを現在ブロックのインター予測から除外する。
いくつかの実施形態では、処理回路は、予測情報に基づいてインター予測に対する位置依存予測組み合わせ(PDPC)の使用を決定し、インター予測に対するPDPCの使用の決定に応じてサンプルを再構築する。一例では、処理回路は、PDPCの使用を示すフラグを受信する。
いくつかの例では、処理回路は、現在ブロックのイントラ予測とインター予測との組み合わせを使用するイントラ-インター予測モードについての第1のフラグを復号し、第1のフラグがイントラ-インター予測モードに対して真を示す場合、PDPCの使用を示す第2のフラグを復号する。一例では、処理回路は、エントロピー符号化のコンテキストモデルに基づいて、PDPCの使用を示す第2のフラグを復号する。
一実施形態では、処理回路は、現在ブロックの近傍サンプルにフィルタを適用し、現在ブロックのサンプルを、インター予測からの結果と現在ブロックのフィルタリングされた近傍サンプルとの組み合わせとして再構築する。
他の実施形態では、処理回路は、近傍サンプルにフィルタを適用することなく、現在ブロックの近傍サンプルを使用して現在ブロックのサンプルを再構築する。
いくつかの例では、処理回路は、現在ブロックが、現在ブロックの再構築におけるPDPCの適用を制限するブロックサイズ条件を満たすかどうかを判定し、ブロックサイズ条件が満たされた場合、現在ブロックの少なくとも1つのサンプルの再構築におけるPDPCの適用を除外する。一例では、ブロックサイズ条件は仮想処理データユニットのサイズに依存する。
いくつかの例では、処理回路は、サンプルに対する近傍サンプルの距離が閾値よりも大きい場合、組み合わせの計算において近傍サンプルを無視する。
いくつかの実施形態では、処理回路は、インター予測からの結果を、サンプルの位置に基づいて選択され、インター予測に基づいて再構築された近傍サンプルと組み合わせる。
一例では、処理回路は、予測情報がマージモードを示すとき、PDPCの使用を示すフラグを復号する。
他の例では、処理回路は、第1のフラグが現在ブロックの非ゼロ残差を示す場合、PDPCの使用を示す第2のフラグを復号する。
本開示の態様はまた、ビデオ復号のためにコンピュータによって実行されると、コンピュータにビデオ復号のための方法を実行させる命令を記憶する非一時的コンピュータ可読媒体を提供する。
開示される主題のさらなる特徴、性質、および様々な利点は、以下の詳細な説明および添付の図面からより明らかになるであろう。
一実施形態による通信システム(100)の簡略化されたブロック図の概略図である。 一実施形態による通信システム(200)の簡略化されたブロック図の概略図である。 一実施形態による復号器の簡略化されたブロック図の概略図である。 一実施形態による符号化器の簡略化されたブロック図の概略図である。 他の実施形態による符号化器のブロック図である。 他の実施形態による復号器のブロック図である。 例示的なイントラ予測方向およびイントラ予測モードの図を示す。 いくつかの例における例示的なイントラ予測方向およびイントラ予測モードの図を示す。 いくつかの実施形態によるサンプルを予測するための重みを示す。 いくつかの実施形態によるサンプルを予測するための重みを示す。 BDOF内の拡張CU領域の一例を示す図である。 CUの対角分割およびCUの反対角分割を示す。 いくつかの実施形態による処理例の概要を示すフローチャートである。 一実施形態によるコンピュータシステムの概略図である。
図1は、本開示の実施形態による通信システム(100)の簡略化されたブロック図を示す。通信システム(100)は、例えばネットワーク(150)を介して互いに通信可能な複数の端末装置を含む。例えば、通信システム(100)は、ネットワーク(150)を介して相互接続された端末装置の第1の対(110)および(120)を含む。図1の例では、端末装置の第1の対(110)および(120)は、データの一方向の送信を行う。例えば、端末装置(110)は、ネットワーク(150)を介した他の端末装置(120)への送信のためにビデオデータ(例えば、端末装置(110)によってキャプチャされたビデオピクチャのストリーム)を符号化してもよい。符号化されたビデオデータは、1つまたはそれ以上の符号化されたビデオビットストリームの形態で送信されうる。端末装置(120)は、符号化されたビデオデータをネットワーク(150)から受信し、符号化されたビデオデータを復号してビデオピクチャを復元し、復元されたビデオデータに従ってビデオピクチャを表示してもよい。一方向のデータ送信は、メディアサービング用途などでは一般的であり得る。
他の例では、通信システム(100)は、例えばビデオ会議中に発生する可能性がある符号化されたビデオデータの双方向送信を行う端末装置の第2の対(130)および(140)を含む。データの双方向送信のために、一例では、端末装置(130)および(140)の各端末装置は、ネットワーク(150)を介した端末装置(130)および(140)の他方の端末装置への送信のビデオデータ(例えば、端末装置によってキャプチャされたビデオピクチャのストリーム)を符号化してもよい。端末装置(130)および(140)の各端末装置はまた、端末装置(130)および(140)の他方の端末装置によって送信された符号化されたビデオデータを受信してもよく、符号化されたビデオデータを復号してビデオピクチャを復元してもよく、復元されたビデオデータに従ってアクセス可能な表示装置にビデオピクチャを表示してもよい。
図1の例では、端末装置(110)、(120)、(130)、および(140)は、サーバ、パーソナルコンピュータおよびスマートフォンとして示され得るが、本開示の原理はそのように限定されない。本開示の実施形態は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレーヤ、および/または専用のビデオ会議機器での用途を見出す。ネットワーク(150)は、例えば有線(配線された)および/または無線通信ネットワークを含む、端末装置(110)、(120)、(130)、および(140)間で符号化されたビデオデータを伝達する任意の数のネットワークを表す。通信ネットワーク(150)は、回路交換チャネルおよび/またはパケット交換チャネルでデータを交換することができる。代表的なネットワークには、通信ネットワーク、ローカル・エリア・ネットワーク、ワイド・エリア・ネットワークおよび/またはインターネットなどがある。本議論の目的のために、ネットワーク(150)のアーキテクチャおよびトポロジーは、以下に本明細書で説明されない限り、本開示の動作にとって重要ではない場合がある。
図2は、開示された主題のための用途の例として、ストリーミング環境におけるビデオ符号化器およびビデオ復号器の配置を示す。開示された主題は、例えば、ビデオ会議、デジタルTV、CD、DVD、メモリスティックなどを含むデジタルメディアへの圧縮ビデオの格納などを含む他のビデオ対応用途に等しく適用可能であり得る。
ストリーミングシステムは、例えば非圧縮のビデオピクチャのストリーム(202)を作成する、例えばデジタルカメラなどのビデオソース(201)を含み得るキャプチャサブシステム(213)を含み得る。一例では、ビデオピクチャのストリーム(202)は、デジタルカメラによって撮影されたサンプルを含む。符号化されたビデオデータ(204)(または符号化されたビデオビットストリーム)と比較して高いデータ量を強調するために太線として示されているビデオピクチャのストリーム(202)は、ビデオソース(201)に結合されたビデオ符号化器(203)を含む電子装置(220)によって処理することができる。ビデオ符号化器(203)は、以下でより詳細に説明されるように、開示された主題の態様を可能にするまたは実装するためのハードウェア、ソフトウェア、またはそれらの組み合わせを含み得る。ビデオピクチャのストリーム(202)と比較してデータ量が少ないことを強調するために細い線で示された符号化されたビデオデータ(204)(または符号化されたビデオビットストリーム(204))は、将来の使用のためにストリーミングサーバ(205)に格納され得る。図2のクライアントサブシステム(206)および(208)などの1つまたはそれ以上のストリーミング・クライアント・サブシステムは、符号化されたビデオデータ(204)のコピー(207)および(209)を取得するために、ストリーミングサーバ(205)にアクセスすることができる。クライアントサブシステム(206)は、例えば電子装置(230)内のビデオ復号器(210)を含むことができる。ビデオ復号器(210)は、符号化されたビデオデータの入力コピー(207)を復号し、ディスプレイ(212)(例えば、表示画面)または他のレンダリング装置(図示せず)上にレンダリングすることができるビデオピクチャの出力ストリーム(211)を作成する。いくつかのストリーミングシステムでは、符号化されたビデオデータ(204)、(207)、および(209)(例えば、ビデオビットストリーム)は、特定のビデオコーディング/圧縮規格に従って符号化することができる。これらの規格の例には、ITU-T勧告H.265が含まれる。一例では、開発中のビデオコーディング規格は、一般ビデオコーディング(VVC)として非公式に知られて
いる。開示された主題は、VVCの文脈で使用され得る。
電子装置(220)および(230)は、他の構成要素(図示せず)を含むことができることに留意されたい。例えば、電子装置(220)はビデオ復号器(図示せず)を含むことができ、電子装置(230)はビデオ符号化器(図示せず)も含むことができる。
図3は、本開示の実施形態によるビデオ復号器(310)のブロック図を示す。ビデオ復号器(310)は、電子装置(330)に含まれ得る。電子装置(330)は、受信器(331)(例えば、受信回路)を含むことができる。ビデオ復号器(310)は、図2の例のビデオ復号器(210)の代わりに使用されうる。
受信器(331)は、ビデオ復号器(310)によって復号される1つまたはそれ以上の符号化されたビデオシーケンスを受信することができ、同じまたは他の実施形態では、一度に1つの符号化されたビデオシーケンスを受信でき、各符号化されたビデオシーケンスの復号は、他の符号化されたビデオシーケンスから独立している。符号化されたビデオシーケンスは、符号化されたビデオデータを記憶する記憶装置へのハードウェア/ソフトウェアリンクであり得るチャネル(301)から受信され得る。受信器(331)は、それぞれの使用エンティティ(図示せず)に転送され得る他のデータ、例えば、符号化されたオーディオデータおよび/または補助データストリームとともに、符号化されたビデオデータを受信し得る。受信器(331)は、符号化されたビデオシーケンスを他のデータから分離することができる。ネットワークジッタに対抗するために、受信器(331)とエントロピー復号器/パーサ(320)(以下、「パーサ(320)」)との間にバッファメモリ(315)が結合され得る。特定の用途では、バッファメモリ(315)は、ビデオ復号器(310)の一部である。他の場合には、ビデオ復号器(310)の外部にあってもよい(図示せず)。さらに他のものでは、例えばネットワークジッタに対抗するためにビデオ復号器(310)の外部にバッファメモリ(図示せず)があり、さらに例えば再生タイミングを処理するためにビデオ復号器(310)の内部に別のバッファメモリ(315)があり得る。受信器(331)が十分な帯域幅および制御性を有するストア/フォワード装置から、または等同期ネットワークからデータを受信している場合、バッファメモリ(315)は必要ないか、小さくてもよい。インターネットなどのベストエフォートパケットネットワークで使用するために、バッファメモリ(315)が必要とされてもよく、比較的大きくてもよく、有利には適応サイズであってもよく、ビデオ復号器(310)の外部のオペレーティングシステムまたは同様の要素(図示せず)に少なくとも部分的に実装されてもよい。
ビデオ復号器(310)は、符号化されたビデオシーケンスからシンボル(321)を再構築するためのパーサ(320)を含み得る。これらのシンボルのカテゴリは、ビデオ復号器(310)の動作を管理するために使用される情報、および潜在的に、図3に示すように、電子装置(330)の不可欠な部分ではないが電子装置(330)に結合することができるレンダリング装置(312)(例えば、表示画面)などのレンダリング装置を制御するための情報を含む。レンダリング装置の制御情報は、補足拡張情報(SEIメッセージ)またはビデオユーザビリティ情報(VUI)パラメータセットフラグメント(図示せず)の形であり得る。パーサ(320)は、受信された符号化されたビデオシーケンスを解析/エントロピー復号することができる。符号化されたビデオシーケンスの符号化は、ビデオコーディング技術またはビデオコーディング規格に従うことができ、可変長符号化、ハフマン符号化、文脈依存性有りまたは無しの算術符号化などを含む、様々な原理に従い得る。パーサ(320)は、グループに対応する少なくとも1つのパラメータに基づいて、ビデオ復号器内のピクセルのサブグループのうちの少なくとも1つのサブグループパラメータの組を、符号化されたビデオシーケンスから抽出することができる。サブグループは、Group of Pictures(GOP)、ピクチャ、タイル、スライス、マクロブロック、符号化ユニット(CU)、ブロック、変換ユニット(TU)、予測ユニット(PU)などを含み得る。パーサ(320)はまた、変換係数、量子化パラメータ値、動きベクトルなどのような符号化されたビデオシーケンス情報から抽出することができる。
パーサ(320)は、シンボル(321)を作成するために、バッファメモリ(315)から受信されたビデオシーケンスに対してエントロピー復号/パース操作を実行することができる。
シンボル(321)の再構築には、符号化されたビデオピクチャまたはその一部(インターピクチャおよびイントラピクチャ、インターブロックおよびイントラブロックなど)のタイプ、およびその他の要因に応じて、複数の異なるユニットが含まれ得る。含まれるユニットおよびその方法は、パーサ(320)によって符号化されたビデオシーケンスから解析されたサブグループ制御情報によって制御され得る。パーサ(320)と以下の複数のユニットとの間のそのようなサブグループ制御情報の流れは、分かりやすくするために示されていない。
すでに述べた機能ブロックの他に、ビデオ復号器(310)は、概念的には、以下で説明するように、いくつかの機能ユニットに細分化され得る。商業的な制約の下で動作する実際の実装では、これらのユニットの多くは互いに密接に相互作用し、少なくとも部分的には互いに統合され得る。しかしながら、開示された主題を説明する目的で、以下の機能ユニットへの概念的な細分化が適切である。
第1のユニットは、スケーラ/逆変換ユニット(351)である。スケーラ/逆変換ユニット(351)は、量子化された変換係数と、使用する変換、ブロックサイズ、量子化係数、量子化スケーリング行列などを含む制御情報とを、シンボル(321)としてパーサ(320)から受信する。スケーラ/逆変換ユニット(351)は、アグリゲータ(355)に入力され得るサンプル値を含むブロックを出力し得る。
場合によっては、スケーラ/逆変換(351)の出力サンプルは、イントラ符号化されたブロック、すなわち、以前に再構築されたピクチャからの予測情報を使用していないが、現在ピクチャの以前に再構築された部分からの予測情報を使用できるブロックに関係し得る。そのような予測情報は、イントラピクチャ予測ユニット(352)によって提供され得る。場合によっては、イントラピクチャ予測ユニット(352)は、現在ピクチャバッファ(358)からフェッチされた周囲のすでに再構築された情報を使用して、再構築中のブロックと同じサイズおよび形状のブロックを生成する。現在ピクチャバッファ(358)は、例えば、部分的に再構築された現在ピクチャおよび/または完全に再構築された現在ピクチャをバッファリングする。アグリゲータ(355)は、場合によっては、サンプルごとに、イントラ予測ユニット(352)が生成した予測情報をスケーラ/逆変換ユニット(351)によって提供された出力サンプル情報に追加する。
他の場合では、スケーラ/逆変換ユニット(351)の出力サンプルは、インター符号化された、潜在的に動き補償されたブロックに関係しうる。そのような場合、動き補償予測ユニット(353)は、参照ピクチャメモリ(357)にアクセスして、予測に使用されるサンプルをフェッチすることができる。フェッチされたサンプルをブロックに関連するシンボル(321)に従って動き補償した後、これらのサンプルは、出力サンプル情報を生成するために、アグリゲータ(355)によってスケーラ/逆変換ユニット(351)の出力に追加され得る(この場合、残差サンプルまたは残差信号と呼ばれる)。動き補償予測ユニット(353)が予測サンプルをフェッチする参照ピクチャメモリ(357)内のアドレスは、例えば、X、Y、および参照ピクチャ構成要素を有し得るシンボル(321)の形で動き補償予測ユニット(353)に利用可能な動きベクトルによって制御され得る。動き補償はまた、サブサンプルの正確な動きベクトルが使用されているときに参照ピクチャメモリ(357)からフェッチされたサンプル値の補間や、動きベクトル予測メカニズムなどをも含み得る。
アグリゲータ(355)の出力サンプルは、ループフィルタユニット(356)における様々なループフィルタリング技術を受けうる。ビデオ圧縮技術には、符号化されたビデオシーケンス(符号化されたビデオビットストリームとも称される)に含まれるパラメータによって制御され、パーサ(320)からのシンボル(321)としてループフィルタユニット(356)で利用できるループ内フィルタ技術を含めることができるが、符号化されたピクチャまたは符号化されたビデオシーケンスの以前の(復号順で)部分の復号中に取得されたメタ情報に応じるものであったり、以前に再構築およびループフィルタされたサンプル値に応じるものであったりすることもできる。
ループフィルタユニット(356)の出力は、レンダリング装置(312)に出力され得るだけでなく、将来のピクチャ間予測で使用するために参照ピクチャメモリ(357)に保存できるサンプルストリームであり得る。
ある符号化されたピクチャは、完全に再構築されると、将来の予測のための参照ピクチャとして使用され得る。例えば、現在ピクチャに対応する符号化されたピクチャが完全に再構築され、コーディングされたピクチャ(例えば、パーサ(320)によって)参照ピクチャとして識別されると、現在ピクチャバッファ(358)は参照ピクチャメモリ(357)の一部になり得、次のコーディングされたピクチャの再構築を開始する前に、新鮮な現在ピクチャバッファを再割り当てすることができる。
ビデオ復号器(310)は、ITU-T Rec.H.265などの規格における所定のビデオ圧縮技術に従って復号動作を行うことができる。符号化されたビデオシーケンスは、符号化されたビデオシーケンスがビデオ圧縮技術または規格の構文と、ビデオ圧縮技術または規格に文書化されたプロファイルとの両方に準拠しているという意味において、使用されているビデオ圧縮技術または規格によって指定された構文に準拠している場合がある。具体的には、プロファイルは、ビデオ圧縮技術または規格で利用可能なすべてのツールから、そのプロファイルの下で使用可能な唯一のツールとして特定のツールを選択することができる。準拠のためにやはり必要なことは、符号化されたビデオシーケンスの複雑さが、ビデオ圧縮技術または規格のレベルで定義されている範囲内にあることである。場合によっては、レベルによって、最大ピクチャサイズ、最大フレームレート、最大再構築されたサンプルレート(例えば、メガサンプル/秒で測定)、最大参照ピクチャサイズなどが制限される。レベルによって設定された制限は、場合によっては、仮想参照復号器(HRD)の仕様と、符号化されたビデオシーケンスで通知されるHRDバッファ管理のメタデータとによってさらに制限され得る。
一実施形態では、受信器(331)は、符号化されたビデオとともに追加の(冗長な)データを受信することができる。追加のデータは、符号化されたビデオシーケンスの一部として含まれ得る。追加のデータは、データを適切に復号し、および/または元のビデオデータをより正確に再構築するために、ビデオ復号器(310)によって使用され得る。追加のデータは、例えば、時間的、空間的、または信号雑音比(SNR)拡張レイヤ、冗長スライス、冗長ピクチャ、前方誤り訂正コードなどの形式であり得る。
図4は、本開示の実施形態によるビデオ符号化器(403)のブロック図を示す。ビデオ符号化器(403)は、電子装置(420)に含まれる。電子装置(420)は、送信器(440)(例えば、送信回路)を含む。ビデオ符号化器(403)は、図2の例のビデオ符号化器(203)の代わりに使用することができる。
ビデオ符号化器(403)は、ビデオ符号化器(403)によって符号化されるビデオ画像をキャプチャすることができるビデオソース(401)(図4の例では電子装置(420)の一部ではない)からビデオサンプルを受信することができる。他の例では、ビデオソース(401)は電子装置(420)の一部である。
ビデオソース(401)は、ビデオ符号化器(403)によって符号化されるソース・ビデオ・シーケンスを、任意の適切なビット深度(例えば、8ビット、10ビット、12ビット、…)であり得、任意の色空間(例えば、BT.601 Y CrCB、RGB、…)および適切なサンプリング構造(例えば、Y CrCb 4:2:0、Y CrCb 4:4:4)であり得るデジタル・ビデオ・サンプル・ストリームの形態で提供し得る。メディア・サービング・システムでは、ビデオソース(401)は、以前に準備されたビデオを格納する記憶装置であり得る。ビデオ会議システムでは、ビデオソース(401)は、ローカルピクチャ情報をビデオシーケンスとしてキャプチャするカメラであり得る。ビデオデータは、順番に見たときに動きを与える複数の個別のピクチャとして提供され得る。ピクチャ自体は、ピクセルの空間アレイとして編成することができ、各ピクセルは、使用中のサンプリング構造、色空間などに応じて、1つまたはそれ以上のサンプルを含み得る。当業者は、ピクセルとサンプルとの間の関係を容易に理解することができる。以下の説明では、サンプルを中心に説明する。
一実施形態によれば、ビデオ符号化器(403)は、用途によって要求されるように、リアルタイムで、または任意の他の時間制約の下で、ソース・ビデオ・シーケンスのピクチャを符号化し、符号化されたビデオシーケンス(443)に圧縮し得る。適切な符号化速度を強制することは、コントローラ(450)の1つの機能である。いくつかの実施形態では、コントローラ(450)は、以下に説明するように他の機能ユニットを制御し、他の機能ユニットに機能的に結合される。分かりやすくするために、結合は描かれていない。コントローラ(450)によって設定されたパラメータには、レート制御関連パラメータ(ピクチャスキップ、量子化、レート歪み最適化手法のラムダ値など)、ピクチャサイズ、Group of Pictures(GOP)レイアウト、最大動きベクトル探索範囲などが含まれ得る。コントローラ(450)は、あるシステム設計に最適化されたビデオ符号化器(403)に関する他の適切な機能を有するように構成することができる。
いくつかの実施形態では、ビデオ符号化器(403)は、符号化ループで動作するように構成される。過度に簡略化された説明として、一例では、符号化ループは、ソースコーダ(430)(例えば、符号化される入力ピクチャと、参照ピクチャとに基づいて、シンボルストリームのようなシンボルを生成することを担当する。)と、ビデオ符号化器(403)に組み込まれた(ローカル)復号器(433)とを含むことができる。復号器(433)は、(リモート)復号器も作成するのと同様の方法でサンプルデータを作成するためにシンボルを再構築する(開示された主題で考慮されるビデオ圧縮技術では、シンボルと符号化されたビデオビットストリームとの間の任意の圧縮が可逆的であるため)。再構築されたサンプルストリーム(サンプルデータ)は、参照ピクチャメモリ(434)に入力される。シンボルストリームの復号は、復号器の場所(ローカルまたはリモート)に関係なくビット正確な結果をもたらすため、参照ピクチャメモリ(434)内のコンテンツもローカル符号化器とリモート符号化器間でビットが正確である。言い換えると、符号化器の予測部分は、復号器が復号中に予測を使用するときに「参照」するのとまったく同じサンプル値を参照ピクチャのサンプルとして「見る」。参照ピクチャの同期性のこの基本原理(および、例えばチャネルエラーのために同期性を維持できない場合に生じるドリフト)は、いくつかの関連技術においても用いられる。
「ローカル」復号器(433)の動作は、ビデオ復号器のような「リモート」復号器(310)の動作と同じであり得、これは、図3に関連して上で詳細にすでに説明されている。しかしながら、図3も簡単に参照すると、シンボルが利用可能であり、エントロピーコーダ(445)およびパーサ(320)による符号化されたビデオシーケンスへのシンボルの符号化/復号は無損失であり得るため、バッファメモリ(315)、およびパーサ(320)を含むビデオ復号器(310)のエントロピー復号部分は、ローカル復号器(433)に完全に実装されない場合がある。
この時点で行うことができる観察は、復号器に存在する構文解析/エントロピー復号以外の復号器技術も、対応する符号化器に実質的に同一の機能形式で必ず存在する必要があることである。このため、開示された主題は、復号器の動作に重点を置いている。符号化器技術の説明は、包括的に説明された復号器技術の逆であるため、省略されうる。特定の領域でのみ、より詳細な説明が必要であり、以下に提供される。
いくつかの例では、動作中、ソースコーダ(430)は、「参照ピクチャ」として指定されたビデオシーケンスからの1つまたはそれ以上の以前にコーディングされたピクチャを参照して入力ピクチャを予測的に符号化する動き補償予測符号化を実行し得る。このようにして、符号化エンジン(432)は、入力ピクチャのピクセルブロックと、入力ピクチャへの予測参照として選択され得る参照ピクチャのピクセルブロックとの間の差異を符号化する。
ローカルビデオ復号器(433)は、ソースコーダ(430)によって作成されたシンボルに基づいて、参照ピクチャとして指定され得る画像の符号化されたビデオデータを復号し得る。符号化エンジン(432)の動作は、不可逆処理であることが有利であり得る。符号化されたビデオデータがビデオ復号器(図4には示されていない)で復号され得るとき、再構築されたビデオシーケンスは、通常、いくつかのエラーを伴うソース・ビデオ・シーケンスのレプリカであり得る。ローカルビデオ復号器(433)は、参照ピクチャに対してビデオ復号器によって実行され得る復号処理を複製し、再構築された参照ピクチャを参照ピクチャキャッシュ(434)に記憶させることができる。このようにして、ビデオ符号化器(403)は、遠端ビデオ復号器によって得られる(送信エラーがない)再構築参照ピクチャとして共通のコンテンツを有する再構築参照ピクチャの複製をローカルに格納し得る。
予測器(435)は、符号化エンジン(432)の予測探索を実行し得る。すなわち、符号化される新しいピクチャについて、予測器(435)は、(候補参照ピクセルブロックとしての)サンプルデータまたは参照ピクチャの動きベクトル、ブロック形状などの、新しいピクチャの適切な予測参照として機能する特定のメタデータについて参照ピクチャメモリ(434)を探索することができる。予測器(435)は、適切な予測参照を見つけるために、サンプルブロック-ピクセルブロックごとに動作し得る。いくつかの場合において、予測器(435)によって得られた探索結果によって決定されるように、入力ピクチャは、参照ピクチャメモリ(434)に記憶された複数の参照ピクチャから引き出された予測参照を有し得る。
コントローラ(450)は、例えば、ビデオデータを符号化するために使用されるパラメータおよびサブグループパラメータの設定を含む、ソースコーダ(430)の符号化動作を管理し得る。
前述のすべての機能ユニットの出力は、エントロピーコーダ(445)においてエントロピー符号化を受けうる。エントロピーコーダ(445)は、ハフマン符号化、可変長符号化、算術符号化などの技術に従ってシンボルを可逆圧縮することにより、様々な機能ユニットにより生成されたシンボルを符号化されたビデオシーケンスに変換する。
送信器(440)は、エントロピーコーダ(445)によって作成された符号化されたビデオシーケンスをバッファリングして、符号化されたビデオデータを格納する記憶装置へのハードウェア/ソフトウェアリンクであり得る通信チャネル(460)を介した送信に備えることができる。送信器(440)は、ビデオ符号化器(403)からの符号化されたビデオデータを、送信される他のデータ、例えば符号化されたオーディオデータおよび/または補助データストリーム(ソースは図示せず)とマージすることができる。
コントローラ(450)は、ビデオ符号化器(403)の動作を管理し得る。符号化中に、コントローラ(450)は、各々の符号化されたピクチャに特定の符号化されたピクチャタイプを割り当て得、これは、それぞれのピクチャに適用され得る符号化技法に影響を及ぼし得る。例えば、多くの場合、ピクチャは次のピクチャタイプのうちの1つとして割り当てられ得る。
イントラピクチャ(Iピクチャ)は、シーケンス内の他のピクチャを予測のソースとして使用せずに符号化および復号できるものである。一部のビデオ符号化では、例えばIndependent Decoder Refresh(「IDR」)ピクチャなど、様々なタイプのイントラピクチャを使用できる。当業者は、Iピクチャのそれらの変形およびそれらのそれぞれの用途および特徴を知っている。
予測ピクチャ(Pピクチャ)は、各ブロックのサンプル値を予測するために最大で1つの動きベクトルおよび参照インデックスを使用するイントラ予測またはインター予測を使用して符号化および復号され得るものであり得る。
双方向予測ピクチャ(Bピクチャ)は、各ブロックのサンプル値を予測するために最大で2つの動きベクトルおよび参照インデックスを使用するイントラ予測またはインター予測を使用して符号化および復号され得るものであり得る。同様に、複数の予測ピクチャは、単一のブロックの再構築に2つを超える参照ピクチャと関連付けられたメタデータとを使用しうる。
ソースピクチャは、通常、空間的に複数のサンプルブロック(例えば、それぞれ4×4、8×8、4×8、または16×16サンプルのブロック)に細分化され、ブロックごとに符号化され得る。ブロックは、ブロックのそれぞれのピクチャに適用される符号化割り当てによって決定されるように、他の(すでに符号化された)ブロックを参照して予測的に符号化され得る。例えば、Iピクチャのブロックは非予測的に符号化されてもよく、またはそれらは同じピクチャのすでに符号化されたブロックを参照して予測的に符号化されてもよい(空間予測またはイントラ予測)。Pピクチャのピクセルブロックは、以前に符号化された1つの参照ピクチャを参照して、空間的予測を介して、または時間的予測を介して、予測的に符号化され得る。Bピクチャのブロックは、1つまたは2つの以前に符号化された参照ピクチャを参照して、空間的予測を介して、または時間的予測を介して、予測的に符号化され得る。
ビデオ符号化器(403)は、ITU-T Rec.H.265などの所定のビデオ符号化技術または規格に従って符号化動作を行い得る。その動作において、ビデオ符号化器(403)は、入力ビデオシーケンスの時間的および空間的冗長性を活用する予測符号化操作を含む、様々な圧縮操作を行い得る。したがって、符号化されたビデオデータは、使用されているビデオ符号化技術または規格で指定された構文に準拠する場合がある。
一実施形態では、送信器(440)は、符号化されたビデオとともに追加のデータを送信し得る。ソースコーダ(430)は、そのようなデータを、符号化されたビデオシーケンスの一部として含み得る。追加のデータは、時間/空間/SNR強化レイヤ、冗長ピクチャおよびスライスなどの他の形態の冗長データ、SEIメッセージ、VUIパラメータセット断片などを含むことができる。
ビデオは、複数のソースピクチャ(ビデオピクチャ)として時系列にキャプチャされてもよい。ピクチャ内予測(しばしばイントラ予測と略される)は、所与のピクチャにおける空間相関を利用し、ピクチャ間予測は、ピクチャ間の(時間的または他の)相関を利用する。一例では、現在ピクチャと呼ばれる、符号化/復号中の特定のピクチャがブロックに分割される。現在ピクチャ内のブロックがビデオ内の以前に符号化されてまだバッファされている参照ピクチャ内の参照ブロックに類似しているとき、現在ピクチャ内のブロックは、動きベクトルと呼ばれるベクトルによって符号化されうる。動きベクトルは、参照ピクチャ内の参照ブロックを指し、複数の参照ピクチャが使用されている場合、参照ピクチャを識別する第3の次元を有しうる。
いくつかの実施形態では、双予測技術はピクチャ間予測に使用されうる。双予測技術によれば、第1の参照ピクチャおよび第2の参照ピクチャなどの2つの参照ピクチャが使用され、これらは両方ともビデオ内の現在ピクチャの復号順より前にある(ただし、表示順序は、それぞれ過去および未来のものであってもよい)。現在ピクチャ内のブロックは、第1の参照ピクチャ内の第1の参照ブロックを指す第1の動きベクトル、および第2の参照ピクチャ内の第2の参照ブロックを指す第2の動きベクトルによって符号化することができる。ブロックは、第1の参照ブロックと第2の参照ブロックとの組み合わせによって予測することができる。
さらに、符号化効率を改善するために、ピクチャ間予測にマージモード技術を使用することができる。
本開示のいくつかの実施形態によれば、ピクチャ間予測およびピクチャ内予測などの予測は、ブロック単位で行われる。例えば、HEVC規格によれば、ビデオピクチャのシーケンス内のピクチャは、圧縮のためにコーディング・ツリー・ユニット(CTU)に分割され、ピクチャ内のCTUは、64×64ピクセル、32×32ピクセル、または16×16ピクセルなどの同じサイズを有する。一般に、CTUは、1つのルマCTBおよび2つのクロマCTBである3つのコーディング・ツリー・ブロック(CTB)を含む。各CTUは、1つまたはそれ以上の符号化ユニット(CU)に再帰的に四分木分割することができる。例えば、64×64ピクセルのCTUは、64×64ピクセルの1つのCU、または32×32ピクセルの4つのCU、または16×16ピクセルの16個のCUに分割することができる。一例では、各CUは、インター予測タイプまたはイントラ予測タイプなどのCUの予測タイプを決定するために分析される。CUは、時間的および/または空間的な予測可能性に応じて、1つまたはそれ以上の予測ユニット(PU)に分割される。一般に、各PUは、ルマ予測ブロック(PB)と、2つのクロマPBとを含む。一実施形態では、符号化(符号化/復号)における予測演算は、予測ブロックの単位で実行される。予測ブロックの例としてルマ予測ブロックを使用すると、予測ブロックは、8×8画素、16×16画素、8×16画素、16×8画素などの画素の値の行列(例えば、輝度値)を含む。
図5は、本開示の他の実施形態によるビデオ符号化器(503)の図を示す。ビデオ符号化器(503)は、ビデオピクチャのシーケンス内の現在ビデオピクチャ内のサンプル値の処理ブロック(例えば、予測ブロック)を受信し、処理ブロックを、符号化されたビデオシーケンスの一部である符号化されたピクチャへと符号化するように構成される。一例では、ビデオ符号化器(503)は、図2の例のビデオ符号化器(203)の代わりに使用される。
HEVCの例では、ビデオ符号化器(503)は、例えば8×8サンプルの予測ブロックのような処理ブロックのためのサンプル値のマトリクスを受信する。ビデオ符号化器(503)は、処理ブロックが、例えばレート歪み最適化を使用して、イントラモード、インターモード、または双予測モードを使用して最良に符号化されるかどうかを判定する。処理ブロックがイントラモードで符号化される場合、ビデオ符号化器(503)は、処理ブロックを符号化されたピクチャへ符号化するために、イントラ予測技術を使用し得る。処理ブロックがインターモードまたは双予測モードで符号化されるべきであるとき、ビデオ符号化器(503)は、処理ブロックを符号化されたピクチャへと符号化するために、それぞれインター予測技術または双予測技術を使用することができる。あるビデオ符号化技術では、マージモードは、予測器の外側の符号化された動きベクトル成分の恩恵を受けることなく、動きベクトルが1つまたはそれ以上の動きベクトル予測(motion vector predictor)から導出されるインターピクチャ予測サブモードであり得る。ある他のビデオ符号化技術では、対象ブロックに適用可能な動きベクトル成分が存在し得る。一例では、ビデオ符号化器(503)は、処理ブロックのモードを決定するためのモード決定モジュール(図示せず)などの他の構成要素を含む。
図5の例では、ビデオ符号化器(503)は、図5に示すように互いに結合されたインター符号化器(530)、イントラ符号化器(522)、残差計算器(523)、スイッチ(526)、残差符号化器(524)、一般コントローラ(521)、およびエントロピー符号化器(525)を含む。
インター符号化器(530)は、現在ブロック(例えば、処理ブロック)のサンプルを受信し、そのブロックを参照ピクチャ(例えば、前のピクチャおよび後のピクチャ内のブロック)内の1つまたはそれ以上の参照ブロックと比較し、インター予測情報(例えば、インター符号化技術、動きベクトル、マージモード情報による冗長情報の記述)を生成し、任意の適切な技術を使用してインター予測情報に基づいてインター予測結果(例えば、予測ブロック)を計算するように構成される。いくつかの例では、参照ピクチャは、符号化されたビデオ情報に基づいて復号される復号参照ピクチャである。
イントラ符号化器(522)は、現在ブロック(例えば、処理ブロック)のサンプルを受信し、場合によっては、ブロックを同じピクチャ内ですでに符号化されているブロックと比較し、変換後に量子化係数を生成し、場合によってはイントラ予測情報(例えば、1つまたはそれ以上のイントラ符号化技術によるイントラ予測方向情報)も生成するように構成される。一例では、イントラ符号化器(522)は、イントラ予測情報と、同一ピクチャ内の参照ブロックとに基づいて、イントラ予測結果(例えば、予測ブロック)を算出する。
一般コントローラ(521)は、一般制御データを決定し、一般制御データに基づいてビデオ符号化器(503)の他の構成要素を制御するように構成される。一例では、一般コントローラ(521)は、ブロックのモードを決定し、モードに基づいてスイッチ(526)に制御信号を提供する。例えば、一般コントローラ(521)は、モードがイントラモードである場合、残差計算器(523)が用いるイントラモード結果を選択するようにスイッチ(526)を制御し、イントラ予測情報を選択してビットストリームに含めるようにエントロピー符号化器(525)を制御する。一般コントローラ(521)は、モードがインターモードである場合、残差計算器(523)が用いるインター予測結果を選択するようにスイッチ(526)を制御し、インター予測情報を選択してビットストリームに含めるようにエントロピー符号化器(525)を制御する。
残差計算器(523)は、受信されたブロックと、イントラ符号化器(522)またはインター符号化器(530)から選択された予測結果との差分(残差データ)を算出する。残差符号化器(524)は、変換係数を生成するために残差データを符号化するために残差データに基づいて動作するように構成される。一例では、残差符号化器(524)は、残差データを空間領域から周波数領域に変換し、変換係数を生成するように構成される。変換係数はその後、量子化された変換係数を得るために量子化処理を受ける。様々な実施形態において、ビデオ符号化器(503)はまた、残差復号器(528)を含む。残差復号器(528)は、逆変換を行い、復号された残差データを生成するように構成される。復号された残差データは、イントラ符号化器(522)およびインター符号化器(530)において好適に用いることができる。例えば、インター符号化器(530)は、復号残差データとインター予測情報とに基づいて復号ブロックを生成し、イントラ符号化器(522)は、復号残差データとイントラ予測情報とに基づいて復号ブロックを生成することができる。いくつかの例では、復号されたブロックは、復号されたピクチャを生成するために適切に処理され、復号されたピクチャは、メモリ回路(図示せず)にバッファされ、参照ピクチャとして使用され得る。
エントロピー符号化器(525)は、符号化されたブロックを含むようにビットストリームをフォーマットするように構成される。エントロピー符号化器(525)は、HEVC規格などの適切な規格に従って様々な情報を含むように構成される。一例では、エントロピー符号化器(525)は、一般制御データ、選択された予測情報(例えば、イントラ予測情報またはインター予測情報)、残差情報、および他の適切な情報をビットストリームに含めるように構成される。開示された主題によれば、インターモードまたは双予測モードのいずれかのマージサブモードでブロックを符号化するとき、残差情報は存在しないことに留意されたい。
図6は、本開示の他の実施形態によるビデオ復号器(610)の図を示す。ビデオ復号器(610)は、符号化されたビデオシーケンスの一部である符号化されたピクチャを受信し、符号化されたピクチャをデコードして再構築されたピクチャを生成するように構成される。一例では、ビデオ復号器(610)は、図2の例のビデオ復号器(210)の代わりに使用される。
図6の例では、ビデオ復号器(610)は、図6に示すように互いに結合されたエントロピー復号器(671)、インター復号器(680)、残差復号器(673)、再構築モジュール(674)、およびイントラ復号器(672)を含む。
エントロピー復号器(671)は、符号化されたピクチャから、符号化されたピクチャ構成されるシンタックス要素を表す特定のシンボルを再構築するように構成され得る。そのようなシンボルは、例えば、ブロックが符号化されるモード(例えば、イントラモード、インターモード、双予測モード、後者の2つはマージサブモードまたは別のサブモードである)、イントラ復号器(672)またはインター復号器(680)によってそれぞれ予測に使用される特定のサンプルまたはメタデータを識別することができる予測情報(例えば、イントラ予測情報やインター予測情報等)、例えば量子化変換係数の形態の残差情報などを含むことができる。一例では、予測モードがインター予測モードまたは双予測モードである場合、インター予測情報はインター復号器(680)に提供される。予測タイプがイントラ予測タイプである場合、イントラ予測情報がイントラ復号器(672)に提供される。残差情報は逆量子化を受けることができ、残差復号器(673)に提供される。
インター復号器(680)は、インター予測情報を受信し、インター予測情報に基づいてインター予測結果を生成するように構成される。
イントラ復号器(672)は、イントラ予測情報を受信し、イントラ予測情報に基づいて予測結果を生成するように構成される。
残差復号器(673)は、逆量子化を実行して逆量子化された変換係数を抽出し、逆量子化された変換係数を処理して残差を周波数領域から空間領域に変換するように構成される。残差復号器(673)はまた、(量子化器パラメータ(QP)を含むために)特定の制御情報を必要とする場合があり、その情報はエントロピー復号器(671)によって提供される場合がある(これとして示されていないデータ経路は、低ボリューム制御情報のみであり得る)。
再構築モジュール(674)は、空間領域において、残差復号器(673)による出力としての残差と(場合によってはインターまたはイントラ予測モジュールによる出力としての)予測結果とを組み合わせて、再構築ピクチャの一部であり得る再構築ブロックを形成するように構成され、再構築ブロックは再構築ビデオの一部であり得る。視覚的品質を改善するために、デブロッキング操作などの他の適切な操作を実行することができることに留意されたい。
ビデオ符号化器(203)、(403)、および(503)、ならびにビデオ復号器(210)、(310)、および(610)は、任意の適切な技術を使用して実装されうることに留意されたい。一実施形態では、ビデオ符号化器(203)、(403)、および(503)、ならびにビデオ復号器(210)、(310)、および(610)は、1つまたはそれ以上の集積回路を使用して実装することができる。他の実施形態では、ビデオ符号化器(203)、(403)、および(403)、ならびにビデオ復号器(210)、(310)、および(610)は、ソフトウェア命令を実行する1つまたはそれ以上のプロセッサを使用して実装することができる。
本開示の態様は、位置依存予測組み合わせのための強化を提供する。様々な実施形態において、本開示では、高度なビデオコーディング技術のセット、特にイントラ予測モード用に拡張された方式が提供される。
図7は、HEVCで使用される例示的なイントラ予測方向およびイントラ予測モードの図を示す。HEVCには、合計35個のイントラ予測モード(モード0からモード34)がある。モード0およびモード1は無指向性モードであり、モード0はPLANARモードであり、モード1はDCモードである。モード2~34は指向性モードであり、モード10は水平モードであり、モード26は垂直モードであり、モード2、モード18およびモード34は対角モードである。いくつかの例では、イントラ予測モードは、3つの最も可能性の高いモード(MPM)および32個の残りのモードによってシグナリングされる。
図8は、いくつかの例(例えば、VVC)における例示的なイントラ予測方向およびイントラ予測モードの図を示す。イントラ予測モードは全部で87個あり(モード-10からモード76)、そのうちモード18は水平モード、モード50は垂直モード、モード2、モード34およびモード66は対角モードである。モード-1~-10およびモード67~76は、広角イントラ予測(WAIP)モードと呼ばれる。
いくつかの例では、HEVCスタイルのイントラ予測は、フィルタリングされた参照サンプルに基づく。例えば、イントラ予測モードがDCモードおよびPLANARモードのいずれでもない場合、境界参照サンプルにフィルタが適用され、フィルタリングされた参照サンプルは、イントラ予測モードに基づいて現在ブロック内の値を予測するために使用される。
いくつかの例では、PDPCは、境界参照サンプルとHEVCスタイルのイントラ予測とを組み合わせる。いくつかの実施形態では、PDPCは、シグナリングなしで以下のイントラモードに適用される:PLANAR、DC、WAIPモード、水平、垂直、左下角度モード(モード2)およびその8つの隣接する角度モード(モード3~10)、ならびに右上角度モード(モード66)およびその8つの隣接する角度モード(モード58~65)。
一例では、位置(x、y)に位置する予測サンプルpred’[x][y]は、イントラ予測モード(DC、PLANAR、角度)と参照サンプルの線形組み合わせを用いて式1に従って予測される。
pred’[x][y]=(wL×R(-1,y)+wT×R(x,-1)-wTL×R(-1,-1)+(64 wL-wT+wTL)×pred[x][y]+32)>>6(式1)
式中、R(x,-1)、R(-1,y)は、それぞれ、現在のサンプル(x、y)の上および左に位置する(フィルタリングされていない)参照サンプルを表し、R(-1,-1)は、現在ブロックの左上隅に位置する参照サンプルを表し、wT、wL、およびwTLは、重みを表す。DCモードの場合、重みは以下の式によって計算される。式2~式5において、widthは現在ブロックの幅を表し、heightは現在ブロックの高さを表す。
wT=32>>((y<<1)>>nScale)(式2)
wL=32>>((x<<1)>>nScale)(式3)
wTL=(wL>>4)+(wT>>4)(式4)
nScale=(log 2(幅)+log 2(高さ)-2)>>2(式5)
式中、wTは、同じ水平座標を有する上の基準線に位置する参照サンプルの重み係数を表し、wLは、同じ垂直座標を有する左基準線に位置する参照サンプルの重み係数を表し、wTLは、現在ブロックの左上参照サンプルの重み係数を表し、nScaleは、軸に沿って重み係数がどれだけ速く減少するか(左から右に減少するwL、または上から下に減少するwT)、すなわち重み係数のデクリメントレートを指定し、現在の設計では、x軸(左から右)およびy軸(上から下)に沿って同じである。また、32は近傍サンプルの初期重み係数を示し、初期重み係数はまた、現在のCBにおいて左上サンプルに割り当てられた上(左または左上)の重みであり、PDPC処理における近傍サンプルの重み係数は、この初期重み係数以下でなければならない。
PLANARモードの場合、wTL=0であり、一方、水平モードの場合、wTL=wTであり、垂直モードの場合、wTL=wLである。PDPC重みは、加算演算およびシフト演算を用いて計算することができる。pred’[x][y]の値は、式1を使用して1つのステップで計算できる。
図9Aは、DCモードにおける(0,0)での予測サンプルの重みを示す。図9Aの例では、現在ブロックは4×4ブロックであり、幅は4であり、高さも4であるため、nScaleは0である。すると、wTは32、wLは32、-wTLは-4である。
図9Bは、DCモードにおける(1,0)での予測サンプルの重みを示す。図9Bの例では、現在ブロックは4×4ブロックであり、幅は4であり、高さも4であるため、nScaleは0である。すると、wTは32、wLは8、-wTLは-2である。
PDPCがDC、PLANAR、水平、および垂直のイントラモードに適用される場合、HEVC DCモード境界フィルタまたは水平/垂直モードエッジフィルタなどの追加の境界フィルタは必要とされない。例えば、PDPCは、フィルタリングされていない境界参照サンプルと、フィルタリングされた境界参照サンプルを有するHEVCスタイルのイントラ予測とを組み合わせる。
より一般的には、いくつかの例では、PDPC処理への入力は、
predModeIntraで表されるイントラ予測モード;
nTbWで表される現在ブロックの幅;
nTbHで表される現在ブロックの高さ;
refWによって表される参照サンプルの幅;
refHによって表される参照サンプルの高さ;
predSamples[x][y]で表され、x=0..nTbW-1、y=0..nTbH-1であるHEVCスタイルのイントラ予測による予測サンプル;
x=-1、y=-1..refH-1、およびx=0..refW-1、y=-1である、フィルタ処理されていない参照(近傍とも呼ばれる)サンプルp[x][y];および
cIdxによって表される現在ブロックの色成分、を含む。
さらに、PDPC処理の出力は、x=0..nTbW-1、y=0..nTbH-1である修正された予測サンプルpredSamples’[x][y]である。
そして、スケーリングファクタnScaleを式5と同様である式6により算出する。
((Log 2(nTbW)+Log 2(nTbH)-2)>>2)(式6)
さらに、x=0..refWを有する参照サンプルアレイmainRef[x]は、現在ブロックの上のフィルタリングされていない参照サンプルのアレイとして定義され、y=0..refHを有する別の参照サンプルアレイsideRef[y]は、式7および式8に従って現在ブロックの左側のフィルタリングされていない参照サンプルのアレイとして定義される。
mainRef[x]=p[x][-1](式7)
sideRef[y]=p[-1][y](式8)
現在ブロック内の各位置(x、y)について、PDPC計算は、refT[x][y]として示される上部の参照サンプル、refL[x][y]として示される左側の参照サンプル、および角p[-1、-1]の参照サンプルを使用する。いくつかの例では、修正された予測サンプルは、いくつかの例では、式9に従って計算され、結果は、色成分を示すcIdx変数に従って適切にクリップされる。
predSamples’[x][y]=(wL×refL(x,y)+wT×refT(x,y)-wTL×p(-1,-1)+(64 wL-wT+wTL)×predSamples[x][y]+32)>>6(式9)
参照サンプルrefT[x][y]、refL[x][y]、および重みwL,wT,wTLは、イントラ予測モードpredModelIntraに基づいて決定されうる。
一例では、イントラ予測モードpredModeIntraが、INTRA_PLANAR(例えば、0、PLANARモード、モード0)、INTRA_DC(例えば、1、DCモード、モード1)、INTRA_ANGULAR 18(例えば、18、水平モード、67イントラ予測モードの場合はモード18)、またはINTRA_ANGULAR 50(例えば、50、垂直モード、67イントラ予測モードの場合はモード50)と等しい場合、参照サンプルrefT[x][y]、refL[x][y]、および重みwL、wT、およびwTLは、式10~式14に従って決定することができる。
refL[x][y]=p[-1][y](式10)
refT[x][y]=p[x][-1](式11)
wT[y]=32>>((y<<1)>>nScale)(式12)
wL[x]=32>>((x<<1)>>nScale)(式13)
wTL[x][y]=(predModelntra==INTRA_DC)?((wL[x]>>4)+(wT[y]>>4)):0(式14)
他の例では、イントラ予測モードpredModeIntraがINTRA_ANGULAR 2(例えば、2、67イントラ予測モードの場合のモード2)またはINTRA_ANGULAR 66(例えば、66、66イントラ予測モードの場合はモード66)と等しい場合、参照サンプルrefT[x][y]、refL[x][y]、および重みwL、wT、およびwTLは、式15~式19に従って決定することができる。
refL[x][y]=p[-1][x+y+1](式15)
refT[x][y]=p[x+y+1][-1](式16)
wT[y]=32>>((y<<1)>>nScale)(式17)
wL[x]=32>>((x<<1)>>nScale)(式18)
wTL[x][y]=0(式19)
他の例では、イントラ予測モードpredModeIntraがINTRA_ANGULAR 10(例えば、10、67イントラ予測モードの場合はモード10)以下である場合、location(x、y)については、イントラ予測モードpredModeIntraの関数である変数invAngleに基づいて、変数dXPos[y]、dXFrac[y]、dXInt[y]、dX[y]が導出される。一例では、invAngleは、各イントラ予測モードに対応するinvAngle値を格納するルックアップテーブルに基づいて決定されえ、次いで、参照サンプルrefT[x][y]、refL[x][y]、ならびに重みwL、wTおよび
wTLは、変数dXPos[y]、dXFrac[y]、dXInt[y]およびdX[y]に基づいて決定される。
例えば、変数dXPos[y]、dXFrac[y]、dXInt[y]およびdX[y]は、式20~式23に従って決定される。
dXPos[y]=((y+1)×invAngle+2)>>2(式20)
dXFrac[y]=dXPos[y]&63(式21)
dXInt[y]=dXPos[y]>>6(式22)
dX[y]=x+dXInt[y](式23)
そして、参照サンプルrefT[x][y]、refL[x][y]、および重みwL,wT,wTLは、式24~式28に従って決定される。
refL[x][y]=0(式24)
refT[x][y]=(dX[y]<refW-1)?((64-dXFrac[y])×mainRef[dX[y]]+dXFrac[y]×mainRef[dX[y]+1]+32>>6:0(式25)
wT[y]=(dX[y]<refW-1)?32>>((y<<1)>>nScale):0(式26)
wL[x]=0(式27)
wTL[x][y]=0(式28)
他の例では、イントラ予測モードpredModeIntraがINTRA_ANGULAR 58以上である場合(例えば、58、67個のイントラ予測モードの場合はモード58)、イントラ予測モードpredModeIntraの関数である変数invAngleに基づいて、変数dYPos[x]、dYFrac[x]、dYInt[x]、dY[x]が導出される。一例では、invAngleは、各イントラ予測モードに対応するinvAngle値を格納するルックアップテーブルに基づいて決定することができ、次いで、参照サンプルrefT[x][y]、refL[x][y]、ならびに重みwL、wTおよびwTLは、変数dYPos[x]、dYFrac[x]、dYInt[x]およびdY[x]に基づいて決定される。
例えば、変数dYPos[x]、dYFrac[x]、dYInt[x]およびdY[x]は、式29~式32に従って決定される。
dYPos[x]=((x+1)×invAngle+2)>>2(式29)
dYFrac[x]=dYPos[x]&63(式30)
dYInt[x]=dYPos[x]>>6(式31)
dY[x]=x+dYInt[x](式32)
そして、参照サンプルrefT[x][y]、refL[x][y]、および重みwL,wT,wTLは、式33~式37に従って決定される。
refL[x][y]=(dY[x]<refH-1)?((64-dYFrac[x])×sideRef[dY[x]]+dYFrac[x]×sideRef[dY[x]+1]+32)>>6:0(式33)
refT[x][y]=0(式34)
wT[y]=0(式35)
wL[x]=(dY[x]<refH-1)?32>>((x<<1)>>nScale):0(式36)
wTL[x][y]=0(式37)
いくつかの例では、変数predModeIntraが11~57であり、18および50のいずれでもない場合、refL[x][y]、refT[x][y]、wT[y]、wL[y]およびwTL[x][y]はすべて0に等しく設定される。次に、x=0..nTbW-1、y=0..nTbH-1であるフィルタリングされたサンプルfiltSamples[x][y]の値は、以下のように導出される。
filtSamples[x][y]=clip 1Cmp((refL[x][y]×wL+refT[x][y]×wT-p[-1][-1]×wTL[x][y]+(64 wL[x]-wT[y]+wTL[x][y])×predsample[x][y]+32)>>6)(式38)
いくつかのPDPC処理は、計算の複雑さを増大させる非整数(例えば、浮動小数点)演算を含むことに留意されたい。いくつかの実施形態では、PDPC処理は、PLANARモード(モード0)、DCモード(モード1)、垂直モード(例えば、67個のイントラ予測モードの場合のモード50)、水平モード(例えば、67個のイントラ予測モードの場合のモード18)、および対角モード(例えば、67個のイントラ予測モードの場合、モード2、モード66、モード34)の比較的単純な計算を含み、PDPC処理は、他のモードの比較的複雑な計算を含む。
いくつかの実施形態では、イントラ符号化ブロックのクロマ成分について、符号化器は、PLANARモード(モードインデックス0)、DCモード(モードインデックス1)、水平モード(モードインデックス18)、垂直モード(モードインデックス50)、対角モード(モードインデックス66)、および関連するルマ成分のイントラ予測モードの直接コピー、すなわちDMモードを含む5つのモードの中から最良の彩度予測モードを選択する。クロマに対するイントラ予測方向とイントラ予測モード番号とのマッピングを表1に示す。
Figure 0007337929000001
重複モードを回避するために、いくつかの実施形態では、DM以外の4つのモードは、関連するルマ成分のイントラ予測モードに従って割り当てられる。クロマ成分のイントラ予測モード番号が4である場合、クロマ成分のイントラ予測サンプル生成には、ルマ成分のイントラ予測方向が用いられる。クロマ成分のイントラ予測モード番号が4ではなく、ルマ成分のイントラ予測モード番号と同一である場合、クロマ成分のイントラ予測サンプル生成にはイントラ予測方向66が用いられる。
本開示のいくつかの態様によれば、ピクチャ間予測(インター予測とも称される)は、マージモードおよびスキップモードを含む。
インターピクチャ予測のためのマージモードでは、ブロックの動きデータ(例えば、動きベクトル)が明示的にシグナリングされる代わりに推論される。一例では、候補動きパラメータのマージ候補リストが最初に構築され、次いで、使用される候補を識別するインデックスがシグナリングされる。
いくつかの実施形態では、マージ候補リストは、非サブCUマージ候補リストおよびサブCUマージ候補リストを含む。非サブCUマージ候補は、空間的に近傍の動きベクトル、コロケートされた時間的な動きベクトル、および履歴ベースの動きベクトルに基づいて構築される。サブCUマージ候補リストは、アフィンマージ候補およびATMVPマージ候補を含む。サブCUマージ候補は、現在のCUの複数のMVを導出するために使用され、現在のCU内のサンプルの異なる部分は、異なる動きベクトルを有することができる。
スキップモードでは、ブロックの動きデータは、明示的にシグナリングされる代わりに推測され、予測残差は0である、すなわち変換係数は送信されない。ピクチャ間予測スライス内の各CUの先頭では、skip_flagがシグナリングされる。skip_flagは、マージモードが動きデータの導出に使用され、符号化されたビデオビットストリームに残差データが存在しないことを示す。
本開示のいくつかの態様によれば、マルチ仮説イントラ-インター予測のように、イントラ予測とインター予測とを適切に組み合わせることができる。マルチ仮説イントラ-インター予測は、1つのイントラ予測と1つのマージインデックス付き予測とを組み合わせたものであり、本開示ではイントラ-インター予測モードと呼ばれる。一例では、CUがマージモードにあるとき、イントラモードのための特定のフラグがシグナリングされる。特定フラグが真である場合、イントラ候補リストからイントラモードを選択することができる。ルマ成分については、DCモード、PLANARモード、水平モード、垂直モードの4つのイントラ予測モードからイントラ候補リストを導出し、ブロック形状に応じてイントラ候補リストのサイズを3または4とすることができる。一例では、CU幅がCU高さの2倍より大きい場合、イントラモード候補リストから水平モードが除去され、CU高さがCU幅の2倍より大きい場合、イントラモード候補リストから垂直モードが除去される。いくつかの実施形態では、イントラ予測は、イントラ・モード・インデックスによって選択されたイントラ予測モードに基づいて実行され、インター予測は、マージインデックスに基づいて実行される。イントラ予測とインター予測は、加重平均を用いて合成される。クロマ成分の場合、いくつかの例では、DMは余分なシグナリングなしで常に適用される。
いくつかの実施形態では、イントラ予測とインター予測とを組み合わせるための重みを適切に決定することができる。一例では、DCまたはPLANARモードが選択されるか、または符号化ブロック(CB)の幅または高さが4より小さい場合、インター予測およびイントラ予測に等しい重みが適用される。他の例では、CB幅およびCB高さが4以上のCBの場合、水平/垂直モードが選択されると、CBは最初に垂直/水平に4つの等しい面積領域に分割される。各領域は、(w_intrai,w_interi)として示される重みセットを有し、iは1から4である。一例では、第1の重みセット(w_intra1、w_inter1)=(6,2)、第2の重みセット(w_intra2、w_inter2)=(5,3)、第3の重みセット(w_intra3、w_inter3)=(3,5)、および第4の重みセット(w_intra4、w_inter4)=(2,6)は、対応する領域に適用することができる。例えば、第1の重みセット(w_intra1、w_inter1)は、参照サンプルに最も近い領域に対するものであり、第4の重みセット(w_intra4、w_inter4)は、参照サンプルから最も遠い領域に対するものである。そして、2つの重み付き予測を合計し、3ビット右シフトすることで、合成予測を算出することができる。
また、近傍CBをイントラ符号化する際に、以下の近傍CBのイントラモード符号化のために、予測器のイントラ仮説に対するイントラ予測モードを節約することができる。
本開示のいくつかの態様によれば、双方向オプティカルフロー(BDOF)モードと称される動きリファインメント技術が、インター予測において使用される。BDOFは、いくつかの例ではBIOとも呼ばれる。BDOFは、4×4サブブロックレベルでCUの双予測信号を改良するために使用される。CUが以下の条件を満たす場合、BDOFがCUに適用される:1)CUの高さが4ではなく、CUのサイズが4×8ではない、2)CUがアフィンモードまたはATMVPマージモードを使用して符号化されない。3)CUが「真の」双予測モードを使用して符号化される、すなわち、2つの参照ピクチャの一方が表示順序において現在ピクチャの前にあり、他方が表示順序において現在ピクチャの後にある。いくつかの例では、BDOFはルマ成分にのみ適用される。
BDOFモードにおける動きリファインメントは、物体の動きが滑らかであると仮定するオプティカルフローの概念に基づいている。各4×4サブブロックについて、L 0予測サンプルとL 1予測サンプルとの間の差を最小化することによって、動きリファインメント(vx,vy)が計算される。次いで、動きリファインメントを用いて、4×4サブブロック内の双予測サンプル値を調整する。BDOF処理では、以下のステップが適用される。
まず、2つの予測信号の水平および垂直勾配、
Figure 0007337929000002
および
Figure 0007337929000003
k=0、1は、2つの近傍サンプル間の差を直接計算することによって計算される。すなわち、
Figure 0007337929000004
ここで、I(k)(i,j)は、リストkにおける予測信号の座標(i,j)におけるサンプル値であり、k=0,1である。
次に、勾配S1、S2、S3、S5およびS6の自己相関および相互相関は、以下のように計算される。
S1=Σ(i,j)∈Ωψx(i,j)、S3=Σ(i,j)∈Ωθ(i,j)・ψx(i,j)
S2=Σ(i,j)∈Ωψx(i,j)・ψy(i,j)
S5=Σ(i,j)∈Ωψy(i,j)・ψy(i,j)S6=Σ(i,j)∈Ωθ(i,j)・ψy(i,j)(式40)
ここで、
Figure 0007337929000005
Ωは、4×4サブブロックの周りの6×6窓である。
次に、以下を使用して相互相関項および自己相関項を使用して動きリファインメント(vx,vy)が導出される。
Figure 0007337929000006
ここで、
Figure 0007337929000007
であり、
Figure 0007337929000008
はフロア関数である。
動きリファインメントおよび勾配に基づいて、4×4サブブロック内の各サンプルについて以下の調整が計算される。
Figure 0007337929000009
最後に、CUのBDOFサンプルは、以下のように双予測サンプルを調整することによって計算される。
predBDOF(x,y)=(I(0)(x,y)+I(1)(x,y)+b(x,y)+ooffset)>>シフト(式44)
上記において、na、nbおよび
Figure 0007337929000010
の値は、それぞれ3、6および12に等しい。これらの値は、BDOF処理における乗算器が15ビットを超えず、BDOF処理における中間パラメータの最大ビット幅が32ビット以内に保たれるように選択される。
勾配値を導出するために、現在のCU境界の外側のリストk(k=0、1)内のいくつかの予測サンプルI(k)(i,j)を生成することができる。
図10は、BDOF内の拡張CU領域の一例を示す。図10の例では、4×4のCU 1010が影付き領域として示されている。BDOFは、CUの境界の周りに1つの拡張された行/列を使用し、拡張領域は、破線の6×6ブロック1020として示されている。境界外予測サンプルを生成する計算複雑度を制御するために、拡張領域(白位置)内の予測サンプルを生成するために双線形フィルタが使用され、CU(グレー位置)内の予測サンプルを生成するために通常の8タップ動き補償補間フィルタが使用される。これらの拡張サンプル値は、勾配計算でのみ使用される。BDOF処理の残りのステップでは、CU境界外のサンプルおよび勾配値が必要とされる場合、それらは、それらの最近傍からパディングされる(すなわち、繰り返される)。
いくつかの例では、三角パーティションをインター予測に使用することができる。例えば(例えば、VTM 3)、インター予測のために新しい三角パーティションモードが導入される。三角パーティションモードは、8×8以上であり、スキップモードまたはマージモードで符号化されるCUにのみ適用される。これらの条件を満たすCUの場合、三角パーティションモードが適用されるか否かを示すためにCUレベルフラグがシグナリングされる。
三角パーティションモードが使用される場合、CUは、対角分割または反対角分割のいずれかを使用して、2つの三角形のパーティションに均等に分割される。
図11は、CUの対角分割およびCUの反対角分割を示す。CU内の各三角パーティションは、それ自体の動き情報を有し、それ自体の動きを使用してインター予測することができる。一例では、各三角パーティションに対して単予測のみが許容される。そして、各パーティションは、1つの動きベクトルおよび1つの参照インデックスを有する。単予測動き制約は、従来の双予測と同じように、CUごとに2つの動き補償予測のみが必要とされることを保証するために適用される。各パーティションの単予測動きは、処理を使用して構築された単予測候補リストから導出される。
いくつかの例では、CUレベルフラグが、現在のCUが三角パーティションモードを使用して符号化されていることを示す場合、[0,39]の範囲内のインデックスがさらにシグナリングされる。この三角パーティションインデックスを使用して、三角パーティションの方向(対角または反対角)、ならびにパーティションの各々の動きを、ルックアップテーブルを介して取得することができる。三角パーティションの各々を予測した後、対角または反対角エッジに沿ったサンプル値は、適応重みによるブレンド処理を使用して調整される。CU全体が予測された後、変換および量子化処理は、他の予測モードと同様にCU全体に適用される。最後に、三角パーティションモードを使用して予測されたCUの動きフィールドが4×4単位で記憶される。
イントラ予測モードのいくつかの関連する例では、PDPCは、アーチファクトを低減することによってビデオ品質を改善するためにイントラ予測サンプルにのみ適用される。関連する例では、イントラ予測サンプルのためのいくつかのアーチファクトが依然として存在する場合があり、これは最適なビデオ結果ではない場合がある。
提案された方法は、別々に使用されてもよいし、任意の順序で組み合わされてもよい。
本開示のいくつかの態様によれば、PDPCは、インター予測サンプル(または、インター符号化されたCUの再構築されたサンプル)に適用され、インター予測におけるPDPCフィルタ処理技術の使用は、インターPDPCモードと称され得る。一例では、式1は、PDPC間モード用に適宜修正可能である。例えば、pred[x][y]は、インターPDPCモードにおけるインター予測のサンプル値を示すように修正される。
いくつかの例では、本開示においてinterPDPCFlagと呼ばれるフラグ(他の適切な名前をフラグに使用することができる)は、PDPCをインター予測サンプルに適用するか否かを示すためにシグナリングされる。一例では、フラグinterPDPCFlagが真である場合、インター予測サンプル(またはインター符号化されたCUの再構築されたサンプル)は、イントラ予測のためのPDPC処理と同様の方法でPDPC処理においてさらに修正される。
いくつかの実施形態では、マルチ仮説イントラ-インター予測フラグが真である場合、本開示におけるinterPDPCFlagのような1つの追加のフラグが、マルチ仮説イントラ-インター予測を適用するか、またはPDPCをインター予測サンプルに適用するかを示すためにシグナリングされる。一例では、interPDPCFlagが真である場合、PDPCは、最終的なインター予測値(またはインター符号化されたCUの再構築されたサンプル)を生成するために、インター予測サンプル(またはインター符号化されたCUの再構築されたサンプル)に直接適用される。そうでない場合、例では、マルチ仮説イントラ-インター予測が、インター予測サンプル(または、インター符号化されたCUの再構築されたサンプル)に適用される。
一実施形態では、固定コンテキストモデルが、interPDPCFlagのエントロピー符号化に使用される。
他の実施形態では、interPDPCFlagのエントロピー符号化に使用されるコンテキストモデルの選択は、近傍CUがイントラCUであるかインターCUであるか、またはイントラモードであるか、符号化ブロックサイズなどを含むがこれらに限定されない、符号化情報に依存する。ブロックサイズは、ブロック領域サイズ、ブロック幅、ブロック高さ、ブロック幅+高さ、ブロック幅および高さなどによって測定され得る。
例えば、近傍のモードのいずれもイントラ符号化されたCUではない場合、第1のコンテキストモデルが使用される。そうではなく、近傍のモードのうちの少なくとも1つがイントラ符号化CUである場合、第2のコンテキストモデルが使用される。
他の例では、近傍のモードのいずれもイントラ符号化CUではない場合、第1のコンテキストモデルが使用される。近傍のモードのうちの1つがイントラ符号化CUである場合、第2のコンテキストモデルが使用される。近傍のモードのうちの2つ以上がイントラ符号化CUである場合、第3のコンテキストモデルが使用される。
他の実施形態では、PDPCがインター予測サンプルに適用される場合、平滑化フィルタが近傍の再構築(または予測)サンプルに適用される。
他の実施形態では、PDPCをインター予測サンプルに適用するために、近傍の再構築(または予測)サンプルは、平滑化または補間フィルタを使用せずにPDPC処理に直接使用される。
他の実施形態では、現在ブロックのブロックサイズが閾値以下である場合、フラグinterPDPCFlagは偽として導出され得る。ブロックサイズは、ブロック領域サイズ、ブロック幅、ブロック高さ、ブロック幅+高さ、ブロック幅および高さなどによって測定することができる。一例では、ブロックエリアサイズが64サンプル未満である場合、フラグinterPDPCFlagは偽であると導出される。
他の実施形態では、現在ブロックのブロックサイズがVPDUのサイズ(例では64×64ブロックとして定義される仮想処理データユニット)などの閾値よりも大きい場合、フラグinterPDPCFlagはシグナリングされないが、偽であると推測することができる。
他の実施形態では、PDPCスケーリングファクタ(例えば、本開示におけるnScale)または重み係数(例えば、式1中の重み)は、現在ピクセルから再構築ピクセルまでの距離(例えば、式1)がVPDU幅/高さなどの特定の閾値よりも大きい場合、(フィルタリング技術としての)PDPCが現在ピクセルの値を変更しないように制約される。
いくつかの実施形態では、PDPCをインター予測サンプル(またはインター符号化されたCUの再構築されたサンプル)に適用するために、デフォルトのイントラ予測モードが現在ブロックに割り当てられ、その結果、重み係数およびスケーリングファクタなどのデフォルトモードの関連するパラメータをPDPC処理に使用することができる。一例では、デフォルトのイントラ予測モードは、PLANARモードまたはDCモードであり得る。他の例では、クロマ成分のデフォルトのイントラ予測モードはDM予測モードである。他の例では、後続のブロックは、イントラモード符号化およびMost Probable Mode(MPM)導出のためにこのデフォルトのイントラ予測モードを使用することができる。
他の実施形態では、PDPCをインター予測サンプルに適用するために、BDOF(またはBIOと呼ばれる)は、インター予測サンプルを生成する処理において適用されない。
他の実施形態では、PDPCがインター予測サンプルに適用される場合、一例では、インター符号化されたCUからの近傍の再構築された(または予測)サンプルのみがPDPC処理に使用され得る。
他の実施形態では、interPDPCFlagは、マージモードで符号化された符号化ブロックに対してシグナリングされる。他の実施形態では、PDPCは、スキップモードCUまたはサブブロックマージモードCUに適用されない。他の実施形態では、PDPCは、三角パーティションモード符号化CUに適用されない。
他の実施形態では、interPDPCFlagは、TUレベルでシグナリングされ、現在のTUのCBF(符号化されたブロックフラグ)が0でない場合にのみシグナリングされる。一例では、thフラグinterPDPCFlagはシグナリングされず、現在のTUのCBFが0であるときに0(偽)として推測され得る。他の例では、現在のTU(または現在のPU/CU)の近傍の再構築されたサンプルをPDPCに使用することができる。
他の実施形態では、PDPCをインター予測サンプルに適用するために、イントラ予測サンプルを生成するために単予測動きベクトルのみを使用することができる。現在ブロックの動きベクトルが双予測動きベクトルである場合、動きベクトルは単予測動きベクトルに変換される必要がある。一例では、現在ブロックの動きベクトルが双予測動きベクトルである場合、List 1内の動きベクトルは破棄され、List 0内の動きベクトルを使用してイントラ予測サンプルを生成することができる。
他の実施形態では、PDPCをインター予測サンプルに適用するために、変換スキップモード(TSM)は適用もシグナリングもされない。
いくつかの実施形態では、イントラ-インターモードが真である場合、BDOFはインター予測サンプルに適用されない。
いくつかの実施形態では、双予測が適用される場合、境界フィルタリングは、対応する参照ピクチャ内の空間的に近傍サンプルを使用して、順方向および逆方向の両方の予測ブロックに適用することができる。次に、順方向および逆方向予測ブロックの平均(または重み付き和)によって双予測ブロックが生成される。一例では、境界フィルタリングは、PDPCフィルタを使用して適用される。他の例では、順方向(または逆方向)予測ブロックの近傍サンプルは、関連付けられた参照ピクチャ内の空間的に近傍サンプルの上、左、下、および右を含み得る。
いくつかの実施形態では、単予測が適用される場合、参照ピクチャ内のその空間的に近傍サンプルを使用して予測ブロックにフィルタリングが適用される。一例では、境界フィルタリングは、PDPCフィルタを使用して適用される。他の例では、順方向(または逆方向)予測ブロックの近傍サンプルは、関連付けられた参照ピクチャ内の空間的に近傍サンプルの上、左、下、および右を含み得る。
いくつかの実施形態では、PLANAR予測は、インター予測ブロックに対し、対応する参照ピクチャ内の空間的に近傍のサンプルを使用して適用される。この処理は、インター予測サンプルリファインメント処理と呼ばれる。一例では、双予測が適用される場合、インター予測リファインメント処理の後に、順方向および逆方向に精度が向上された予測ブロックの平均化(または加重和)によって双予測ブロックが生成される。他の例では、インター予測リファインメント処理に使用される近傍サンプルは、関連付けられた参照ピクチャ内の上、左、下、および右の空間的に近傍のサンプルを含み得る。
図12は、本開示の一実施形態による処理(1200)の概要を示すフローチャートを示す。処理(1200)は、再構築中のブロックの予測ブロックを生成するために、ブロックの再構築に使用することができる。様々な実施形態では、処理(1200)は、端末装置(110)、(120)、(130)および(140)の処理回路、ビデオ符号化器(203)の機能を行う処理回路、ビデオ復号器(210)の機能を行う処理回路、ビデオ復号器(310)の機能を行う処理回路、ビデオ符号化器(403)の機能を行う処理回路などの処理回路によって実行される。いくつかの実施形態では、処理(1200)はソフトウェア命令で実装され、したがって、処理回路がソフトウェア命令を実行すると、処理回路は処理(1200)を行う。処理は、(S1201)から開始し、(S1210)に進む。
(S1210)において、現在ブロックの予測情報は、符号化されたビデオビットストリームから復号される。予測情報は、少なくとも部分的にインター予測に基づく現在ブロックの予測を示す。一例では、予測情報は、マージモード、スキップモードなどのインター予測モードを示す。他の例では、予測情報は、イントラ-インター予測モードを示す。
(S1220)において、現在ブロックの予測情報に基づいて、インター予測に対するPDPCの使用が決定される。一例では、符号化されたビットストリームからinterPDPCflagなどのフラグが受信され、復号される。他の例では、フラグが導出される。
(S1230)において、現在ブロックのサンプルが再構築される。少なくとも現在ブロックのサンプルは、インター予測からの結果と、サンプルの位置に基づいて選択される近傍サンプルとの組み合わせとして再構築される。一例では、インター予測の結果に対して、イントラ予測用のPDPCと同様にPDPCが適用される。そして、処理は(S1299)に進み、終了する。
一例では、予測情報は、現在ブロックのイントラ予測とインター予測との組み合わせを使用するイントラ-インター予測モードを示し、次に、現在ブロックのインター予測からの双方向オプティカルフローに基づく動きリファインメントを除外できることに留意されたい。この例では、(S1220)をスキップすることができ、復号はPDPC処理から独立している。
上記の技法は、コンピュータ可読命令を使用してコンピュータソフトウェアとして実装でき、1つまたはそれ以上のコンピュータ可読媒体に物理的に格納できる。例えば、図13は、開示された主題の特定の実施形態を実装するのに適したコンピュータシステム(1300)を示している。
コンピュータソフトウェアは、任意の適切な機械コードまたはコンピュータ言語を使用して符号化でき、アセンブリ、コンパイル、リンク、または同様のメカニズムの対象となり、1つまたはそれ以上のコンピュータ中央処理装置(CPU)、グラフィック処理装置(GPU)などによる直接、または解釈、マイクロコードの実行などを通じて実行できる命令を含むコードを作成する。
命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲーム装置、モノのインターネット装置などを含む、様々なタイプのコンピュータまたはその構成要素上で実行されうる。
コンピュータシステム(1300)について図13に示される構成要素は、本質的に例示であり、本開示の実施形態を実装するコンピュータソフトウェアの使用または機能の範囲に関していかなる制限を示唆することを意図しない。また、構成要素の構成は、コンピュータシステム(1300)の例示的な実施形態に示されている構成要素のいずれか1つまたは組み合わせに関する依存性または要件を有するものとして解釈されるべきではない。
コンピュータシステム(1300)は、特定のヒューマンインターフェース入力装置を含み得る。そのようなヒューマンインターフェース入力装置は、例えば、触覚入力(キーストローク、スワイプ、データグローブの動きなど)、オーディオ入力(音声、拍手など)、視覚入力(ジェスチャなど)、嗅覚入力(図示せず)など、1人以上のユーザによる入力に応答し得る。ヒューマンインターフェース装置を使用して、音声(スピーチ、音楽、環境音など)、ピクチャ(スキャンした画像、静止画像カメラから得られる写真画像など)、画像(2次元映像、立体映像を含む3次元映像など)など、人間による意識的な入力に必ずしも直接関係しない特定のメディアをキャプチャすることもできる。
入力ヒューマンインターフェース装置には、キーボード(1301)、マウス(1302)、トラックパッド(1303)、タッチスクリーン(1310)、データグローブ(図示せず)、ジョイスティック(1305)、マイク(1306)、スキャナ(1307)、カメラ(1308)のうち1つまたはそれ以上(それぞれ図示のものの1つのみ)が含まれ得る。
コンピュータシステム(1300)はまた、特定のヒューマンインターフェース出力装置を含み得る。そのようなヒューマンインターフェース出力装置は、例えば、触覚出力、音、光、および嗅覚/味覚を通じて、1人または複数の人間のユーザの感覚を刺激している可能性がある。そのようなヒューマンインターフェース出力装置は、触覚出力装置(例えば、タッチスクリーン(1310)、データグローブ(図示せず)、またはジョイスティック(1305)による触覚フィードバックを含み得るが、入力装置として機能しない触覚フィードバック装置もあり得る)、音声出力装置(スピーカ(1309)、ヘッドホン(図示せず)など)、視覚的出力装置(それぞれにタッチスクリーン入力機能の有無にかかわらず、それぞれ触覚フィードバック機能の有無にかかわらず、ステレオグラフィック出力、仮想現実の眼鏡(図示せず)、ホログラフィックディスプレイおよびスモークタンク(図示せず)などの手段により、2次元の視覚的出力または3次元以上の出力を出力できるものもある、CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンを含むスクリーン(1310)など)、およびプリンタ(図示せず)を含み得る。
コンピュータシステム(1300)には、人間がアクセスできる記憶装置と、CD/DVDを含むCD/DVD ROM/RW(1320)などの光学メディア(1321)、サムドライブ(1322)、リムーバブルハードドライブまたはソリッド・ステート・ドライブ(1323)、テープおよびフロッピーディスク(図示せず)などのレガシー磁気媒体、セキュリティドングル(図示せず)などの専用のROM/ASIC/PLDベースの装置などの関連媒体も含めることができる。
当業者はまた、ここで開示される主題に関連して使用される「コンピュータ可読媒体」という用語は、送信媒体、搬送波、または他の一時的な信号を包含しないことを理解するべきである。
コンピュータシステム(1300)は、1つまたはそれ以上の通信ネットワークへのインターフェースも含み得る。ネットワークは、例えば、無線、有線、光であり得る。さらに、ネットワークは、ローカル、広域、大都市圏、車両および産業、リアルタイム、遅延耐性などがある。ネットワークの例としては、イーサネット、無線LAN、GSM、3G、4G、5G、LTEなどを含むセルラーネットワークなどのローカル・エリア・ネットワーク、ケーブルテレビ、衛星テレビ、地上波放送テレビを含むTV有線または無線広域デジタルネットワーク、CANBusなどが含まれる車両用、産業用など、などがある。特定のネットワークでは、一般に、特定の一般データポートまたは周辺バス(1349)(例えば、コンピュータシステムのUSBポート(1300)など)に接続された外部ネットワークインターフェースアダプタが必要であり、他のものは一般に、以下に説明するようにシステムバスに接続することにより、コンピュータシステムのコア(1300)に統合される(例えば、PCコンピュータシステムへのイーサネットインターフェースまたはスマートフォンコンピュータシステムへのセルラーネットワークインターフェース)。これらのネットワークのいずれかを使用して、コンピュータシステム(1300)は他のエンティティと通信できる。このような通信は、単方向、受信のみ(例えば、放送TV)、単方向送信のみ(例えば、CANbusから特定のCANbus装置)、または双方向、例えば、ローカルエリアデジタルネットワークまたはワイドエリアデジタルネットワークを使用する他のコンピュータシステムへの通信であり得る。上記のように、特定のプロトコルとプロトコルスタックは、これらのネットワークとネットワークインターフェースのそれぞれで使用できる。
前述のヒューマンインターフェース装置、ヒューマンアクセス可能な記憶装置、およびネットワークインターフェースは、コンピュータシステム(1300)のコア(1340)に接続することができる。
コア(1340)には、1つまたはそれ以上の中央処理装置(CPU)(1341)、グラフィックス処理装置(GPU)(1342)、フィールドプログラマブルゲート領域(FPGA)(1343)、特定のタスクのハードウェアアクセラレータ(1344)などの形式の特殊なプログラマブル処理装置を含めることができる。これらの装置は、読み取り専用メモリ(ROM)(1345)、ランダム・アクセス・メモリ(1346)、ユーザがアクセスできない内部ハードドライブ、SSDなどの内部大容量記憶装置(1347)とともに、システムバス(1348)を介して接続され得る。いくつかのコンピュータシステムでは、システムバス(1348)に1つまたはそれ以上の物理プラグの形でアクセスして、追加のCPU、GPUなどによる拡張を可能にすることができる。周辺機器は、コアのシステムバス(1348)に直接、または周辺バス(1349)を介して接続できる。周辺バスのアーキテクチャには、PCI、USBなどが含まれる。
CPU(1341)、GPU(1342)、FPGA(1343)、およびアクセラレータ(1344)は、組み合わせて前述のコンピュータコードを構成できる特定の命令を実行できる。そのコンピュータコードは、ROM(1345)またはRAM(1346)に格納できる。移行データはRAM(1346)にも保存できるが、永続データは、例えば内部大容量記憶装置(1347)に保存できる。1つまたはそれ以上のCPU(1341)、GPU(1342)、大容量記憶装置(1347)、ROM(1345)、RAM(1346)などと密接に関連付けることができるキャッシュメモリを使用することにより、任意のメモリ装置に対する高速記憶および読み出しが可能になる。
コンピュータ可読媒体は、様々なコンピュータ実施操作を実行するためのコンピュータコードをその上に有することができる。メディアおよびコンピュータコードは、本開示の目的のために特別に設計および構築されたものであり得るか、またはそれらは、コンピュータソフトウェア技術の当業者に周知であり利用可能な種類のものであり得る。
限定ではなく例として、アーキテクチャ(1300)、特にコア(1340)を有するコンピュータシステムは、1つまたはそれ以上の有形のコンピュータ可読媒体に組み込まれたソフトウェアを実行するプロセッサ(CPU、GPU、FPGA、アクセラレータなどを含む)の結果として機能を提供できる。このようなコンピュータ可読媒体は、上で紹介したユーザがアクセス可能な大容量記憶装置、およびコア内部大容量記憶装置(1347)やROM(1345)などの非一時的な性質を持つコア(1340)の特定の記憶装置に関連付けられた媒体であり得る。本開示の様々な実施形態を実装するソフトウェアは、そのような装置に格納され、コア(1340)によって実行され得る。コンピュータ可読媒体は、特定のニーズに従って、1つまたはそれ以上のメモリ装置またはチップを含み得る。ソフトウェアは、コア(1340)、特にその中のプロセッサ(CPU、GPU、FPGAなどを含む)に、RAM(1346)に格納されているデータ構造の定義すること、およびソフトウェアで定義された処理に従ってそのようなデータ構造を変更することを含む、ここで説明する特定の処理または特定の処理の特定の部分を実行させることができる。加えて、または代替として、コンピュータシステムは、ここで説明する特定の処理または特定の処理の特定の部分を実行するためにソフトウェアの代わりに、またはソフトウェアと一緒に動作できる、回路(例:アクセラレータ(1344))に組み込まれたまたは他の方法で実装されたロジックの結果として機能を提供できる。ソフトウェアへの参照はロジックを含むことができ、その逆も適宜可能である。コンピュータ可読媒体への言及は、適宜、実行のためのソフトウェア、実行のためのロジックを具体化する回路、またはその両方を格納する回路(集積回路(IC)など)を包含することができる。本開示は、ハードウェアとソフトウェアとの任意の適切な組み合わせを包含する。
付録A:頭字語
JEM:joint exploration model 共同探索モデル
VVC:versatile video coding 一般ビデオコーディング
BMS:benchmark set ベンチマークセット
MV:Motion Vector 動きベクトル
HEVC:High Efficiency Video Coding 高効率ビデオコーディング
SEI:Supplementary Enhancement Information 補足エンハンスメント情報
VUI:Video Usability Information ビデオユーザビリティ情報
GOP:Group of Pictures Group of Pictures
TU:Transform Units, 変換ユニット
PU:Prediction Units 予測ユニット
CTU:Coding Tree Units コーディング・ツリー・ユニット
CTB:Coding Tree Blocks コーディング・ツリー・ブロック
PB:Prediction Blocks 予測ブロック
HRD:Hypothetical Reference Decoder 仮想参照復号器
SNR:Signal Noise Ratio 信号雑音比
CPU:Central Processing Units 中央演算処理装置
GPU:Graphics Processing Units グラフィックス処理ユニット
CRT:Cathode Ray Tube 陰極線管
LCD:Liquid-Crystal Display 液晶ディスプレイ
OLED:Organic Light-Emitting Diode 有機発光ダイオード
CD:Compact Disc コンパクトディスク
DVD:Digital Video Disc デジタル・ビデオ・ディスク
ROM:Read-Only Memory 読み出し専用メモリ
RAM:Random Access Memory ランダム・アクセス・メモリ
ASIC:Application-Specific Integrated Circuit 特定用途向け集積回路
PLD:Programmable Logic Device プログラマブル・ロジック・デバイス
LAN:Local Area Network ローカル・エリア・ネットワーク
GSM:Global System for Mobile communications グローバル移動体通信システム
LTE:Long-Term Evolution ロング・ターム・エボリューション
CANBus:Controller Area Network Bus コントローラ・エリア・ネットワーク・バス
USB:Universal Serial Bus ユニバーサル・シリアル・バス
PCI:Peripheral Component Interconnect 周辺構成要素相互接続
FPGA:Field Programmable Gate Areas フィールドプログラマブルゲート領域
SSD:solid-state drive ソリッド・ステート・ドライブ
IC:Integrated Circuit 集積回路
CU:Coding Unit 符号化ユニット
本開示はいくつかの例示的な実施形態を説明してきたが、本開示の範囲内にある変更、置換、および様々な代替均等物が存在する。したがって、当業者は、本明細書では明示的に示されていないか、または記載されていないが、本開示の原理を具現化し、したがってその精神および範囲内にある多数のシステムおよび方法を考案できることが理解されよう。
100 通信システム
110 端末装置
120 端末装置
130 端末装置
150 ネットワーク
200 通信システム
201 ビデオソース
202 ビデオピクチャのストリーム
203 ビデオ符号化器
204 符号化されたビデオデータ
205 ストリーミングサーバ
206 クライアントサブシステム
207 コピー
210 ビデオ復号器
211 ビデオピクチャの出力ストリーム
212 ディスプレイ
213 キャプチャサブシステム
220 電子装置
230 電子装置
301 チャネル
310 ビデオ復号器
312 レンダリング装置
315 バッファメモリ
320 エントロピー復号器/パーサ
321 シンボル
330 電子装置
331 受信器
351 スケーラ/逆変換ユニット
352 イントラピクチャ予測ユニット
353 動き補償予測ユニット
355 アグリゲータ
356 ループフィルタユニット
357 参照ピクチャメモリ
358 ピクチャバッファ
401 ビデオソース
403 ビデオ符号化器
420 電子装置
430 ソースコーダ
432 符号化エンジン
433 復号器
434 参照ピクチャメモリ
435 予測器
440 送信器
443 符号化されたビデオシーケンス
445 エントロピーコーダ
450 コントローラ
460 通信チャネル
503 ビデオ符号化器
521 一般コントローラ
522 イントラ符号化器
523 残差計算器
524 残差符号化器
525 エントロピー符号化器
526 スイッチ
528 残差復号器
530 インター符号化器
610 ビデオ復号器
671 エントロピー復号器
672 イントラ復号器
673 残差復号器
674 再構築モジュール
680 インター復号器
1200 処理
1300 コンピュータシステム
1301 キーボード
1302 マウス
1303 トラックパッド
1305 ジョイスティック
1306 マイク
1307 スキャナ
1308 カメラ
1309 スピーカ
1310 タッチスクリーン
1321 光学メディア
1322 サムドライブ
1323 ソリッド・ステート・ドライブ
1340 コア
1343 フィールドプログラマブルゲート領域(FPGA)
1344 特定のタスクのハードウェアアクセラレータ
1345 読み取り専用メモリ(ROM)
1346 ランダム・アクセス・メモリ
1347 内部大容量記憶装置
1348 システムバス
1349 周辺バス
1350 グラフィックアダプタ
1354 ネットワークインターフェース

Claims (23)

  1. 符号化されたビデオビットストリームから現在ブロックの予測情報を復号するステップであって、前記予測情報は、前記現在ブロックの予測が少なくとも部分的にインター予測に基づくことを示す、ステップと、
    少なくとも前記現在ブロックのサンプルを、前記インター予測からの結果と前記サンプルの位置に基づいて選択される前記現在ブロックの近傍サンプルとの組み合わせとして再構築するステップと、
    前記現在ブロックのイントラ予測と前記インター予測との組み合わせを使用するイントラ-インター予測モードについての第1のフラグを復号するステップと、
    前記現在ブロックの前記インター予測から双方向オプティカルフローに基づく動きリファインメントを除外するステップと、
    前記復号された第1のフラグが前記イントラ-インター予測モードについて真を示す場合、前記インター予測に対する位置依存予測組み合わせ(PDPC)の使用を示す第2のフラグを復号するステップと
    を含む、復号器におけるビデオ復号のための方法。
  2. 前記予測情報に基づいて、前記インター予測に対する位置依存予測組み合わせ(PDPC)の使用を決定するステップと、
    前記インター予測に対する前記PDPCの前記使用の前記決定に応じて、前記サンプルを再構築するステップと、
    をさらに含む、請求項1に記載の方法。
  3. エントロピー符号化のためのコンテキストモデルに基づいて、前記PDPCの前記使用を示す前記第2のフラグを復号するステップ
    をさらに含む、請求項1に記載の方法。
  4. 前記現在ブロックの前記近傍サンプルにフィルタを適用するステップと、
    前記現在ブロックの前記サンプルを、前記インター予測からの前記結果と前記現在ブロックのフィルタリングされた前記近傍サンプルとの組み合わせとして再構築するステップと、
    をさらに含む、請求項1に記載の方法。
  5. 前記近傍サンプルにフィルタを適用することなく、前記現在ブロックの前記近傍サンプルを使用して前記現在ブロックの前記サンプルを再構築するステップ
    をさらに含む、請求項1に記載の方法。
  6. 前記現在ブロックが、前記現在ブロックの再構築における前記PDPCの適用を制限するブロックサイズ条件を満たすかどうか判定するステップと、
    前記ブロックサイズ条件が満たされた場合、前記現在ブロックの少なくとも1つのサンプルの再構築における前記PDPCの前記適用を除外するステップと、
    をさらに含む、請求項2に記載の方法。
  7. 前記ブロックサイズ条件は、仮想パイプラインデータユニット(VPDU)のサイズに依存する、請求項6に記載の方法。
  8. 前記サンプルに対する前記近傍サンプルの距離が閾値よりも大きい場合、前記組み合わせの計算において前記近傍サンプルを無視するステップ
    をさらに含む、請求項1に記載の方法。
  9. 前記サンプルの前記位置に基づいて選択され、インター予測に基づいて再構築された前記近傍サンプルと、前記インター予測からの前記結果とを組み合わせるステップ
    をさらに含む、請求項1に記載の方法。
  10. 前記予測情報がマージモードを示すとき、前記PDPCの前記使用を示すフラグを復号するステップ
    をさらに含む、請求項2に記載の方法。
  11. 3のフラグが前記現在ブロックについての非ゼロ残差を示すときに、前記PDPCの前記使用を示す第2のフラグを復号するステップ
    をさらに含む、請求項2に記載の方法。
  12. 前記インター予測に対する前記PDPCの前記使用の前記決定に応じて、デフォルトのイントラ予測モードが前記現在ブロックに割り当てられる、請求項2に記載の方法。
  13. 前記コンテキストモデルは、固定コンテキストモデルである、請求項3に記載の方法。
  14. 前記コンテキストモデルの選択は、符号化情報に依存する、請求項3に記載の方法。
  15. 前記第2のフラグは、TUレベルでシグナリングされ、現在のTUのCBF(符号化されたブロックフラグ)が0でない場合にのみシグナリングされる、請求項1に記載の方法。
  16. 前記PDPCをインター予測サンプルに適用するために、イントラ予測サンプルを生成するために単予測動きベクトルのみを使用する、請求項2に記載の方法。
  17. 前記PDPCをインター予測サンプルに適用するために、変換スキップモード(TSM)は適用もシグナリングもされない、請求項2に記載の方法。
  18. 双予測が適用される場合、境界フィルタリングは、対応する参照ピクチャ内の空間的に近傍のサンプルを使用して、順方向および逆方向の両方の予測ブロックに適用される、請求項1に記載の方法。
  19. 単予測が適用される場合、参照ピクチャ内のその空間的に近傍のサンプルを使用して予測ブロックにフィルタリングが適用される、請求項1に記載の方法。
  20. PLANAR予測は、インター予測ブロックに対し、対応する参照ピクチャ内の空間的に近傍のサンプルを使用して適用される、請求項1に記載の方法。
  21. 請求項1~20のうちいずれか一項に記載の方法を行うように構成された、ビデオ復号のための装置。
  22. ビデオ復号のための装置のコンピュータに、請求項1~20のうちいずれか一項に記載の方法を実行させるためのコンピュータプログラム。
  23. 請求項1から20のうちいずれか一項に記載の方法で復号されるデータを生成するための、エンコーダにおけるビデオ符号化方法。
JP2021531589A 2019-02-01 2020-01-31 ビデオコーディングのための方法、装置、およびプログラム Active JP7337929B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023134843A JP2023164443A (ja) 2019-02-01 2023-08-22 ビデオコーディングのための方法、装置、およびプログラム

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962800400P 2019-02-01 2019-02-01
US62/800,400 2019-02-01
US16/777,339 US11330283B2 (en) 2019-02-01 2020-01-30 Method and apparatus for video coding
US16/777,339 2020-01-30
PCT/US2020/016144 WO2020160428A1 (en) 2019-02-01 2020-01-31 Method and apparatus for video coding

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023134843A Division JP2023164443A (ja) 2019-02-01 2023-08-22 ビデオコーディングのための方法、装置、およびプログラム

Publications (2)

Publication Number Publication Date
JP2022512088A JP2022512088A (ja) 2022-02-02
JP7337929B2 true JP7337929B2 (ja) 2023-09-04

Family

ID=71836846

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021531589A Active JP7337929B2 (ja) 2019-02-01 2020-01-31 ビデオコーディングのための方法、装置、およびプログラム
JP2023134843A Pending JP2023164443A (ja) 2019-02-01 2023-08-22 ビデオコーディングのための方法、装置、およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023134843A Pending JP2023164443A (ja) 2019-02-01 2023-08-22 ビデオコーディングのための方法、装置、およびプログラム

Country Status (6)

Country Link
US (2) US11330283B2 (ja)
EP (1) EP3769520A4 (ja)
JP (2) JP7337929B2 (ja)
KR (1) KR20210094058A (ja)
CN (2) CN115002477A (ja)
WO (1) WO2020160428A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3625963A4 (en) * 2017-06-07 2020-11-18 MediaTek Inc. INTRA-INTER PREDICTION MODE METHOD AND APPARATUS FOR VIDEO CODING
CN113170130A (zh) * 2019-05-02 2021-07-23 株式会社 Xris 图像信号编码/解码方法及其装置
WO2021027925A1 (en) 2019-08-14 2021-02-18 Beijing Bytedance Network Technology Co., Ltd. Position-dependent intra prediction sample filtering
CN114287133A (zh) * 2019-08-14 2022-04-05 北京字节跳动网络技术有限公司 帧内模式中的预测样点滤波的加权因子
US11563957B2 (en) * 2021-01-13 2023-01-24 Lemon Inc. Signaling for decoder-side intra mode derivation

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015059973A1 (ja) 2013-10-22 2015-04-30 ソニー株式会社 画像処理装置及び画像処理方法
WO2017030198A1 (ja) 2015-08-20 2017-02-23 日本放送協会 画像符号化装置、画像復号化装置、及びこれらのプログラム
WO2020146562A1 (en) 2019-01-09 2020-07-16 Beijing Dajia Internet Information Technology Co., Ltd. System and method for improving combined inter and intra prediction

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4650173B2 (ja) * 2005-09-05 2011-03-16 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
WO2011127964A2 (en) 2010-04-13 2011-10-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus for intra predicting a block, apparatus for reconstructing a block of a picture, apparatus for reconstructing a block of a picture by intra prediction
KR101772459B1 (ko) 2010-05-17 2017-08-30 엘지전자 주식회사 신규한 인트라 예측 모드
KR102086145B1 (ko) 2010-12-13 2020-03-09 한국전자통신연구원 인트라 예측 방법 및 그 장치
US9288500B2 (en) 2011-05-12 2016-03-15 Texas Instruments Incorporated Luma-based chroma intra-prediction for video coding
US9648330B2 (en) 2013-07-15 2017-05-09 Qualcomm Incorporated Inter-color component residual prediction
WO2015101329A1 (en) 2014-01-02 2015-07-09 Mediatek Singapore Pte. Ltd. Method and apparatus for intra prediction coding with boundary filtering control
KR20180041211A (ko) * 2015-09-10 2018-04-23 엘지전자 주식회사 인터-인트라 병합 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
US10455228B2 (en) * 2016-03-21 2019-10-22 Qualcomm Incorporated Determining prediction parameters for non-square blocks in video coding
US10623774B2 (en) * 2016-03-22 2020-04-14 Qualcomm Incorporated Constrained block-level optimization and signaling for video coding tools
WO2018174657A1 (ko) * 2017-03-23 2018-09-27 엘지전자 주식회사 영상 코딩 시스템에서 인트라 예측에 따른 영상 디코딩 방법 및 장치
WO2018219925A1 (en) * 2017-05-31 2018-12-06 Interdigital Vc Holdings, Inc. Method and apparatus for signalling bi-directional intra prediction in video encoding and decoding
EP3625963A4 (en) * 2017-06-07 2020-11-18 MediaTek Inc. INTRA-INTER PREDICTION MODE METHOD AND APPARATUS FOR VIDEO CODING
CN111436228A (zh) * 2018-11-12 2020-07-21 北京字节跳动网络技术有限公司 组合帧间-帧内预测的简化
US11652984B2 (en) * 2018-11-16 2023-05-16 Qualcomm Incorporated Position-dependent intra-inter prediction combination in video coding
WO2020103872A1 (en) * 2018-11-20 2020-05-28 Beijing Bytedance Network Technology Co., Ltd. Prediction refinement for combined inter intra prediction mode
CN113170181B (zh) * 2018-11-29 2023-12-08 北京字节跳动网络技术有限公司 块内拷贝模式中的仿射继承方法
US11445203B2 (en) * 2019-01-04 2022-09-13 Qualcomm Incorporated Sub-partition intra prediction in video coding

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015059973A1 (ja) 2013-10-22 2015-04-30 ソニー株式会社 画像処理装置及び画像処理方法
WO2017030198A1 (ja) 2015-08-20 2017-02-23 日本放送協会 画像符号化装置、画像復号化装置、及びこれらのプログラム
WO2020146562A1 (en) 2019-01-09 2020-07-16 Beijing Dajia Internet Information Technology Co., Ltd. System and method for improving combined inter and intra prediction

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
F. Galpin, et al.,"CE-10 related: M0390-M0096 combination",JVET-M0838 (version 1),[online], Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2019年01月13日,Pages 1-4,[令和4年6月16日検索], インターネット, <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/current_document.php?id=5669> and <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/13_Marrakech/wg11/JVET-M0838-v1.zip>.
Hyeongmun Jang, et al.,"EE1-Related : Harmonization UW Prediction method with improved PDPC",JVET-G0062 (version 3),[online], Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2017年07月14日,Pages 1-4,[令和4年6月16日検索], インターネット, <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/current_document.php?id=3163> and <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/7_Torino/wg11/JVET-G0062-v3.zip>.
Jianle Chen, et al.,"Algorithm description for Versatile Video Coding and Test Model 3 (VTM 3)",JVET-L1002 (version 2),[online], Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2018年12月24日,Pages 1,11-17,35,36,[令和4年6月16日検索], インターネット, <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/current_document.php?id=4835> and <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/12_Macao/wg11/JVET-L1002-v2.zip>.
Jianle Chen, et al.,"Algorithm Description of Joint Exploration Test Model 7 (JEM 7)",JVET-G1001 (version 1),[online], Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2017年08月19日,Pages 12,13,23-27,[令和4年6月16日検索], インターネット, <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/current_document.php?id=3286> and <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/7_Torino/wg11/JVET-G1001-v1.zip>.
Martin Winken, et al.,"CE10: Multi-hypothesis inter prediction (Test 10.1.2)",JVET-M0425 (version 2),[online], Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2019年01月07日,Pages 1-13,[令和4年6月16日検索], インターネット, <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/current_document.php?id=5234> and <URL: http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/13_Marrakech/wg11/JVET-M0425-v2.zip>.
大久保 榮 監修,「インプレス標準教科書シリーズ 改訂三版H.264/AVC教科書」,第1版,日本,株式会社インプレスR&D,2009年01月01日,第110~116頁,ISBN: 978-4-8443-2664-9.

Also Published As

Publication number Publication date
US20200252640A1 (en) 2020-08-06
CN113366847B (zh) 2022-05-24
KR20210094058A (ko) 2021-07-28
US11330283B2 (en) 2022-05-10
WO2020160428A1 (en) 2020-08-06
JP2023164443A (ja) 2023-11-10
CN115002477A (zh) 2022-09-02
EP3769520A1 (en) 2021-01-27
US20220239940A1 (en) 2022-07-28
EP3769520A4 (en) 2022-07-13
JP2022512088A (ja) 2022-02-02
CN113366847A (zh) 2021-09-07

Similar Documents

Publication Publication Date Title
JP7159423B2 (ja) 映像復号化のための方法、装置及びコンピュータ・プログラム
JP7241177B2 (ja) アフィン線形加重イントラ予測モードのための簡易シグナリング方法
KR102442931B1 (ko) 비디오 코딩을 위한 방법 및 장치
JP2024012476A (ja) ビデオデコーディングのための方法、装置、媒体、およびプログラム
JP7332751B2 (ja) イントラモード符号化のための方法、装置及びコンピュータプログラム
JP7027617B2 (ja) ビデオエンコーディング及びデコーディングのための方法、装置、コンピュータプログラム、及び非一時的なコンピュータ可読媒体
JP7262881B2 (ja) ビデオコーディングのための方法およびコンピュータプログラム
EP3769519A1 (en) Method and apparatus for intra prediction for non-square blocks in video compression
EP3831072A1 (en) Constraints on coding unit partition
JP7337929B2 (ja) ビデオコーディングのための方法、装置、およびプログラム
JP2023062099A (ja) ビデオ復号化のための方法、機器、非一時的なコンピュータ可読媒体、及びコンピュータプログラム
JP7132352B2 (ja) 予測モードおよび符号化ブロックフラグ(cbf)のコンテキスト設計を更に向上する方法および機器
JP7238150B2 (ja) イントラピクチャブロック補償のための予測候補リストサイズシグナリングのための方法および装置
JP7331218B2 (ja) 統合位置依存予測組み合わせプロセスを使用するデコードのための方法、装置およびコンピュータ・プログラム
JP2022517114A (ja) ビデオ復号用の方法、装置およびプログラム
JP7212060B2 (ja) サブブロックに基づく時間的動きベクトル予測のための方法並びにその機器及びコンピュータプログラム
JP7302044B2 (ja) イントラインター予測を制御する方法、エンコーダ、デコーダ、及びプログラム
JP2022525748A (ja) ビデオ符号化のための色変換
JP2023040204A (ja) ビデオをデコードするための方法、装置及びプログラム
JP2023527666A (ja) テンプレートマッチングベースのイントラ予測
JP2023524406A (ja) 複数基準線イントラ予測と変換分割との間の調和した設計
JP2023522704A (ja) ビデオコーディングのための方法および装置、およびコンピュータプログラム
JP2023508303A (ja) ビデオコーディングのための方法、装置およびコンピュータプログラム
JP2023533904A (ja) ゼロ残差フラグコーディング
KR20230065344A (ko) 서브블록 교차 성분 선형 모델 예측

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210602

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210602

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230823

R150 Certificate of patent or registration of utility model

Ref document number: 7337929

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150