JP7471328B2 - エンコーダ、デコーダ、および対応する方法 - Google Patents

エンコーダ、デコーダ、および対応する方法 Download PDF

Info

Publication number
JP7471328B2
JP7471328B2 JP2021576391A JP2021576391A JP7471328B2 JP 7471328 B2 JP7471328 B2 JP 7471328B2 JP 2021576391 A JP2021576391 A JP 2021576391A JP 2021576391 A JP2021576391 A JP 2021576391A JP 7471328 B2 JP7471328 B2 JP 7471328B2
Authority
JP
Japan
Prior art keywords
dmvr
prediction
picture
region
current picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021576391A
Other languages
English (en)
Other versions
JP2022537064A (ja
Inventor
スリラム・セトゥラマン
サーガル・コテチャ
ジーヴァ・ラジ・エー
セミフ・エセンリク
Original Assignee
ホアウェイ・テクノロジーズ・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ホアウェイ・テクノロジーズ・カンパニー・リミテッド filed Critical ホアウェイ・テクノロジーズ・カンパニー・リミテッド
Publication of JP2022537064A publication Critical patent/JP2022537064A/ja
Application granted granted Critical
Publication of JP7471328B2 publication Critical patent/JP7471328B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/523—Motion estimation or motion compensation with sub-pixel accuracy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

関連する出願の相互参照
この特許出願は、2019年6月21日に出願されたインド特許出願第IN201931024825号の優先権を主張する。上述の特許出願の開示は、その全体が参照によりここに組み込まれる。
本出願(開示)の実施形態は、一般にピクチャ処理の分野、より詳細にはオプティカルフロー精緻化に関する。
ビデオコーディング(ビデオエンコードおよびビデオデコード)は、広い範囲のデジタルビデオアプリケーション、例えば、放送デジタルTV、インターネットおよびモバイルネットワーク上でのビデオ伝送、ビデオチャットのようなリアルタイム会話型アプリケーション、ビデオ会議、DVDおよびBlu-ray(登録商標)ディスク、ビデオコンテンツ収集および編集システム、およびセキュリティアプリケーションのカムコーダにおいて使用される。
比較的短いビデオでさえ描写するために必要とされるビデオデータの量は、かなりである可能性があり、これは、限定された帯域幅容量を有する通信ネットワークを渡ってデータがストリーミングされ、またはそうでなく伝達されることになるときに、困難をもたらし得る。従って、ビデオデータは、一般に、現代の電気通信ネットワークを渡って伝達される前に圧縮される。メモリリソースが限定され得るので、ビデオが記憶デバイスにおいて記憶されるとき、ビデオのサイズも問題である可能性がある。ビデオ圧縮デバイスは、しばしば、伝送または記憶の前に、ソースにおいてソフトウェアおよび／またはハードウェアを使用してビデオデータをコーディングし、それにより、デジタルビデオ画像を表現するために必要とされるデータの量を減らす。圧縮されたデータは、次いで、ビデオデータをデコードするビデオ復元デバイスによって宛先において受信される。限定されたネットワークリソース、およびより高いビデオ品質の増加さえしている需要を有して、ピクチャ品質においてほとんどないし全く犠牲なしで圧縮率を改善する、改善された圧縮および復元技法が望ましい。
特に、(デコーダ側)動きベクトル精緻化(D)MVR、および双方向オプティカルフロー(Bi-Directional Optical Flow, BDOF)は、インター予測されたピクチャの品質を改善するための重要な技法を表現する。しかし、両方の手順は、比較的高い計算負荷を要求する。従って、結果として生じるコーディング効率を考慮して、(D)MVRおよびBDOFの適用または不適用について決定する必要がある。
本出願の実施形態は、独立請求項に従ってエンコードおよびデコードするための装置および方法を提供する。
上記および他の目的は、独立請求項の主題によって達成される。さらなる実装形式は、従属請求項、説明、および図から明らかである。
エンコードデバイス内で実現される、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードする方法が提供され、方法は、
複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対してデコーダ動きベクトル精緻化(DMVR)を基にしたインター双予測が有効化されるかどうかを決定するステップと、DMVRを基にしたインター双予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルにおいてDMVRに対する無効化フラグ(例えば、1ビットのフラグ)の値を設定するステップとを備え、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるか否かを指定する。
この技術分野に反して、DMVRを基にしたインター双予測が有効化されるか否かは、SPSレベルより低い階層のシンタックス構造レベルにおいてフラグ付けされる。それにより、この技術分野と比較してより小さい粒度において、それぞれ、DMVRの有効化または無効化がシグナリングされることが可能であり、それにより、コーディング効率を著しく増加させる。例えば、DMVRの適用に対してシーケンスのいくつかのピクチャまたは特定のピクチャのいくつかのスライスのみが有効化されてよく、一方、それぞれ、他のピクチャまたはスライスは有効化されない。
エンコードする方法は、より低い階層のシンタックス構造レベルにおけるDMVRに対する無効化フラグの値をビデオビットストリームにエンコードするステップをさらに備えてよい。代替として、DMVRに対する無効化フラグの値をエンコードするステップは、DMVRに対する無効化フラグ(例えば、1ビットのフラグ)の値を設定することなく直接実行されてよい。
例えば、現在のピクチャの少なくとも1つの領域は、現在のピクチャであり、無効化フラグは、ピクチャパラメータセット(PPS)レベルにおいて設定される。別の例によれば、現在のピクチャの少なくとも1つの領域は、現在のピクチャのスライスであり、無効化フラグは、スライスヘッダレベルにおいて設定される。
特に、少なくとも1つの予め定義された条件が充足されるとき、DMVRを基にしたインター双予測が無効化されることが決定されてよい。選択された予め定義された条件に基づいて、DMVRを有効化または無効化することに関する決定プロセスの微調整が容易に達成されることが可能である。
一態様によれば、方法は、現在のピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の一方の側における参照ピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の他方の側における別の参照ピクチャの少なくとも1つの領域に関して、動きベクトル差分を決定するステップをさらに備え、少なくとも1つの予め定義された条件は、決定された動きベクトル差分が同じ絶対値と反対の符号の両方を有しないことを備える。この条件の適用は、結果として、コーディング効率に関して信頼できる決定プロセスとなり得る。
別の態様によれば、少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるかどうかを決定するステップは、現在のピクチャの少なくとも領域内にスクリーンコンテンツが存在するかどうかを決定するステップであって、少なくとも1つの予め定義された条件は、現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在することが決定されることを備える、ステップを備える。この条件の適用も、結果として、コーディング効率に関して信頼できる決定プロセスとなり得る。
スクリーンコンテンツが利用可能であるか否かを決定するための特定の形態は以下の通りである。現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在するかどうかを決定するステップは、それぞれ、現在のピクチャの少なくとも1つの領域のM個のサンプルの各々から始めて、現在のピクチャの少なくとも1つの領域のブロックに対するNビットのハッシュ値を計算するステップであって、N、M、およびKが整数値である、ステップと、K個のエントリを有するハッシュテーブルを構築するステップであって、K個のエントリの各々がブロックのカウント値を含み、ブロックのカウント値に対して予め定義された値に等しいNビットのハッシュ値が計算される、ステップと、1よりも大きいカウント値を備えるエントリの総和を決定するステップとを備え、エントリの決定された総和が予め定義されたしきい値を超えるとき、現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在することが決定される。言及されたブロックは、4×4個のサンプルからなり得る。適した予め定義されたしきい値は、現在のピクチャの少なくとも1つの領域のサンプルの総数の予め定義されたパーセンテージを表現するしきい値によって与えられる。この手順によって、重要なスクリーンコンテンツが存在するか否かが確実に決定されることが可能である。
一態様によれば、少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるかどうかを決定するステップは、デコーダ動きベクトル精緻化を基にしたインター双予測を実行することなく、少なくとも1つの領域のコーディングユニットの予測残差におけるコストの第1の総和を計算するステップと、動きベクトル精緻化を実行するとともに、少なくとも1つの領域のコーディングユニットの予測残差におけるコストの第2の総和を計算するステップとを備え、計算された第2の総和が、計算された第1の総和よりも大きいとき、DMVRを基にしたインター双予測が無効化されることが決定される。コストは、絶対変換差分(SATD)を基にしたコストであってよい。この基準も、結果として、効率的なコーディングとなり得る。特に、現在のピクチャの少なくとも1つの領域が現在のピクチャであるとき、計算された第2の総和が、計算された第1の総和よりも大きいとき、現在のピクチャの後続のピクチャに対してDMVRインター双予測が有効化されるべきでないことが決定されてよい。この条件の適用も、結果として、コーディング効率に関して信頼できる決定プロセスとなり得る。
上記で説明された実施形態は、SPSレベルにおいてDMVRに対する有効化フラグの値を設定することをさらに備えてよく、有効化フラグの値は、複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する。この有効化フラグが、DMVRが無効化されることを示すとき、より低い階層のレベルにおいてDMVRが必要とされないか否かを決定すること、およびより低い階層のレベルにおいてDMVRが有効化されるか否かを決定するための処理負荷が節約されることが可能である。
上記で説明された実施形態は、有効化フラグの値をビデオビットストリームにエンコードすることをさらに備えてよい。
双方向オプティカルフロー(BDOF)処理が有効化されるか否かの決定に関して、上記で説明されたものと類似の手順が、同じかまたは類似の利点が提供されて実行されることが可能である。従って、エンコードデバイス内で実現される、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードする方法が提供され、方法は、
複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対して双方向オプティカルフロー(BDOF)インター予測が有効化されるかどうかを決定するステップと、
BDOFインター予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセットレベル(SPS)より低い階層のシンタックス構造レベルにおいてBDOFに対する無効化フラグ(例えば、1ビットのフラグ)の値を設定するステップであって、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が有効化されるか否かを指定する、ステップとを備える。
エンコードする方法は、より低い階層のシンタックス構造レベルにおけるBDOFに対する無効化フラグの値をビデオビットストリームにエンコードするステップをさらに備えてよい。
再び、現在のピクチャの少なくとも1つの領域は、現在のピクチャであってよく、無効化フラグは、ピクチャパラメータセット(PPS)レベルにおいて設定されてよく、または現在のピクチャの少なくとも1つの領域は、現在のピクチャのスライスであってよく、無効化フラグは、スライスヘッダレベルにおいて設定されてよい。
少なくとも1つの予め定義された条件が充足されるとき、BDOFインター予測が無効化されることが決定されてよい。適した条件は以下を含む。方法は、現在のピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の一方の側における参照ピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の他方の側における別の参照ピクチャの少なくとも1つの領域に関して、動きベクトル差分を決定するステップであって、少なくとも1つの予め定義された条件は、決定された動きベクトル差分が同じ絶対値と反対の符号の両方を有しないことを備える、ステップを備えてよい。
再び、方法は、SPSレベルにおいてBDOFに対する有効化フラグの値を設定するステップであって、有効化フラグの値は、複数のピクチャに対してBDOFインター予測が有効化されるか否かを指定する、ステップをさらに備えてよい。
この有効化フラグが、BDOFが無効化されることを示すとき、より低い階層のレベルにおいてBDOFが必要とされないか否かを決定すること、およびより低い階層のレベルにおいてBDOFが有効化されるか否かを決定するための処理負荷が節約されることが可能である。
再び、方法は、有効化フラグの値をビデオビットストリームにエンコードするステップをさらに備えてよい。
上記で述べた目的はまた、デコードデバイスによって実現される、ビデオビットストリームをデコードする方法を提供することによって対処され、ビデオビットストリームは、複数のピクチャのためのコーディングされたデータを含み、デコードする方法は、ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化(DMVR)に対する有効化フラグを構文解析するステップであって、DMVRに対する有効化フラグが、シーケンスパラメータセットに関連付けられた複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、ステップと、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からDMVRに対する無効化フラグ(例えば、1ビットのフラグ)を構文解析するステップであって、DMVRに対する無効化フラグが、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が無効化されるか否かを指定し、現在のピクチャが、複数のピクチャに属する、ステップと、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してDMVRを基にしたインター双予測を実行して、現在のブロックの予測されたサンプル値を取得するステップであって、少なくとも1つの予め定義された条件が、DMVRを基にしたインター双予測が有効化されることを無効化フラグの構文解析された値が指定することを備える、ステップとを備える。
双方向オプティカルフロー処理を有効化または無効化することに関する類似の手順、すなわち、デコードデバイスによって実現される、ビデオビットストリームをデコードする方法が提供され、ビデオビットストリームは、複数のピクチャのためのコーディングされたデータを含み、デコードする方法は、ビデオビットストリームのシーケンスパラメータセットから双方向オプティカルフロー(BDOF)に対する有効化フラグを構文解析するステップであって、BDOFに対する有効化フラグが、シーケンスパラメータセットに関連付けられた複数のピクチャに対してBDOFインター予測が有効化されるか否かを指定する、ステップと、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からBDOFに対する無効化フラグ(例えば、1ビットのフラグ)を構文解析するステップであって、BDOFに対する無効化フラグが、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が無効化されるか否かを指定し、現在のピクチャが、複数のピクチャに属する、ステップと、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してBDOFインター予測を実行して、現在のブロックの予測されたサンプル値を取得するステップであって、少なくとも1つの予め定義された条件が、BDOFインター予測が有効化されることを無効化フラグの構文解析された値が指定することを備える、ステップとを備える。
現在のピクチャの少なくとも1つの領域は、現在のピクチャであってよく、シンタックス構造は、ピクチャパラメータセット(PPS)であってよい。現在のピクチャの少なくとも1つの領域は、現在のピクチャのスライスであってよく、シンタックス構造は、スライスヘッダであってよい。
一態様によれば、DMVRに対する有効化フラグの構文解析された値が、DMVRが有効化されることを指定するとき、現在のブロックに対してDMVRを基にしたインター双予測が実行される。
別の態様によれば、少なくとも1つの予め定義された条件は、DMVRに対する有効化フラグの構文解析された値が、DMVRが有効化されることを指定することを(さらに)備える。
別の態様によれば、BDOFに対する有効化フラグの構文解析された値が、BDOFが有効化されることを指定するとき、現在のブロックに対してBDOFインター予測が実行される。
別の態様によれば、少なくとも1つの予め定義された条件は、BDOFに対する有効化フラグの構文解析された値が、BDOFが有効化されることを指定することを(さらに)備える。
DMVRに対する有効化フラグの構文解析された値が、DMVRが有効化されることを指定するとき、DMVRに対する無効化フラグが構文解析されてよい。DMVRに対する無効化フラグが構文解析されるかどうかは、DMVRに対する有効化フラグの構文解析された値に基づいてよい。
同様に、BDOFに対する有効化フラグの構文解析された値が、BDOFが有効化されることを指定するとき、BDOFに対する無効化フラグが構文解析されてよい。BDOFに対する無効化フラグが構文解析されるかどうかは、BDOFに対する有効化フラグの構文解析された値に基づいてよい。
上記で説明された実施形態の全ては、エンコーダまたはデコーダまたはコンピュータプログラム製品において実現され得る。デコーダおよび／またはエンコーダは、1つまたは複数のプロセッサと、プロセッサに結合され、プロセッサによる実行のためのプログラミングを記憶する非一時的コンピュータ可読記憶媒体とを備えてよく、プログラミングは、プロセッサによって実行されたとき、上記で説明された実施形態のいずれか1つによる方法を実行するようにデコーダを構成する。デコーダおよび／またはエンコーダはまた、上記で説明された実施形態のいずれか1つによる方法を実行するための処理回路を備えてよい。
さらに、上記で説明された方法のステップを実行するように構成されたデバイスが、以下のように提供される。デバイスの別個に列挙されたユニットは、適切な場合、同じユニット内に組み込まれ、または同じユニットによって表現されてよい。
複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードするように構成された、(画像エンコーダにおける使用のためであってよい)デバイスが提供され、デバイスは、複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対してデコーダ動きベクトル精緻化(DMVR)を基にしたインター双予測が有効化されるかどうかを決定するように構成されたDMVR決定ユニットと、DMVRを基にしたインター双予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルにおいてDMVRに対する無効化フラグ(例えば、1ビットのフラグ)の値を設定するように構成された第1のDMVRフラグ設定ユニットであって、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、第1のDMVRフラグ設定ユニットとを備える。
一態様によれば、デバイスは、エンコードユニットが、より低い階層のシンタックス構造レベルにおけるDMVRに対する無効化フラグの値をビデオビットストリームにエンコードするように構成されることを備える。
現在のピクチャの少なくとも1つの領域は、現在のピクチャであってよく、無効化フラグは、ピクチャパラメータセット(PPS)レベルにおいて設定されてよい。現在のピクチャの少なくとも1つの領域は、現在のピクチャのスライスであってよく、無効化フラグは、スライスヘッダレベルにおいて設定されてよい。
一態様によれば、DMVR決定ユニットは、少なくとも1つの予め定義された条件が充足されるとき、DMVRを基にしたインター双予測が無効化されることを決定するように構成される。デバイスは、現在のピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の一方の側における参照ピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の他方の側における別の参照ピクチャの少なくとも1つの領域に関して、動きベクトル差分を決定するように構成された(DMVR決定ユニットの部分であってよい)動きベクトル差分決定ユニットであって、少なくとも1つの予め定義された条件は、決定された動きベクトル差分が同じ絶対値と反対の符号の両方を有しないことを備える、動きベクトル差分決定ユニットを備えてよい。
少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるかどうかを決定することは、現在のピクチャの少なくとも領域内にスクリーンコンテンツが存在するかどうかを決定することであって、少なくとも1つの予め定義された条件は、現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在することが決定されることを備える、前記決定することを備えてよい。
現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在するかどうかを決定することは、それぞれ、現在のピクチャの少なくとも1つの領域のM個のサンプルの各々から始めて、現在のピクチャの少なくとも1つの領域のブロックに対するNビットのハッシュ値を計算することであって、N、M、およびKが整数値である、前記計算することと、K個のエントリを有するハッシュテーブルを構築することであって、K個のエントリの各々がブロックのカウント値を含み、ブロックのカウント値に対して予め定義された値に等しいNビットのハッシュ値が計算される、前記構築することと、1よりも大きいカウント値を備えるエントリの総和を決定することであって、エントリの決定された総和が予め定義されたしきい値を超えるとき、現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在することが決定される、前記決定することとを備えてよい。ここで、ブロックは、4×4個のサンプルからなってよい。さらに、予め定義されたしきい値は、現在のピクチャの少なくとも1つの領域のサンプルの総数の予め定義されたパーセンテージを表現してよい。
さらなる態様によれば、少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるかどうかを決定することは、デコーダ動きベクトル精緻化を基にしたインター双予測を実行することなく、少なくとも1つの領域のコーディングユニットの予測残差におけるコストの第1の総和を計算することと、動きベクトル精緻化を実行するとともに、少なくとも1つの領域のコーディングユニットの予測残差におけるコストの第2の総和を計算することであって、計算された第2の総和が、計算された第1の総和よりも大きいとき、DMVRを基にしたインター双予測が無効化されることが決定される、前記計算することとを備える。コストは、絶対変換差分(SATD)を基にしたコストであってよい。
現在のピクチャの少なくとも1つの領域が現在のピクチャであるとき、
DMVR決定ユニットは、計算された第2の総和が、計算された第1の総和よりも大きいとき、現在のピクチャの後続のピクチャに対してDMVRインター双予測が有効化されるべきでないことを決定するように構成されてよい。
一態様によれば、デバイスは、SPSレベルにおいてDMVRに対して有効化フラグの値を設定するように構成された(第1のDMVRフラグ設定ユニットの部分またはそれと同一であってよい)第2のDMVRフラグ設定ユニットであって、有効化フラグの値は、複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、第2のDMVRフラグ設定ユニットを備える。
別の態様によれば、デバイスは、DMVRに対する有効化フラグの値をビデオビットストリームにエンコードするように構成されたエンコードユニットを備える。
双方向オプティカルフローが有効化されるか否かについての適した決定を可能にする類似のデバイスが提供される。このデバイスは、上記で説明されたものと容易に組み合わせられることが可能である。
特に、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードするように構成された(画像エンコーダにおける使用のためであってよい)デバイスが提供され、デバイスは、複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対して双方向オプティカルフロー(BDOF)インター予測が有効化されるかどうかを決定するように構成されたBDOFインター予測決定ユニットと、
BDOFインター予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセットレベル(SPS)より低い階層のシンタックス構造レベルにおいてBDOFに対する無効化フラグ(例えば、1ビットのフラグ)の値を設定するように構成された第1のBDOFフラグ設定ユニットであって、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が有効化されるか否かを指定する、第1のBDOFフラグ設定ユニットとを備える。
一態様によれば、デバイスは、BDOFに対する無効化フラグの値をビデオビットストリームにエンコードするように構成されたエンコードユニットを備える。
再び、現在のピクチャの少なくとも1つの領域は、現在のピクチャであってよく、無効化フラグは、ピクチャパラメータセット(PPS)レベルにおいて設定されてよい。代替として、現在のピクチャの少なくとも1つの領域は、現在のピクチャのスライスであってよく、無効化フラグは、スライスヘッダレベルにおいて設定されてよい。
一態様によれば、BDOFインター予測決定ユニットは、少なくとも1つの予め定義された条件が充足されるとき、BDOFインター予測が無効化されることを決定するように構成される。
これのために、デバイスは、現在のピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の一方の側における参照ピクチャの少なくとも1つの領域、および現在のピクチャの少なくとも1つの領域の他方の側における別の参照ピクチャの少なくとも1つの領域に関して、動きベクトル差分を決定するように構成された(BDOF決定ユニットの部分であってよい)動きベクトル差分決定ユニットであって、少なくとも1つの予め定義された条件は、決定された動きベクトル差分が同じ絶対値と反対の符号の両方を有しないことを備える、動きベクトル差分決定ユニットをさらに備えてよい。
デバイスは、SPSレベルにおいてBDOFに対する有効化フラグの値を設定するように構成された(第1のBDOFフラグ設定ユニットの部分またはそれと同一であってよい)第2のBDOFフラグ設定ユニットであって、有効化フラグの値は、複数のピクチャに対してBDOFインター予測が有効化されるか否かを指定する、第2のBDOFフラグ設定ユニットをさらに備えてよい。
別の態様によれば、デバイスは、BDOFに対する有効化フラグの値をビデオビットストリームにエンコードするように構成されたエンコードユニットを備える。
無効化フラグは、一般に、1ビットのフラグであってよい。
さらに、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをデコードするように構成された(画像デコーダにおける使用のためであってよい)デバイスが提供され、デバイスは、ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化(DMVR)に対する有効化フラグを構文解析するように構成された第1の構文解析ユニットであって、DMVRに対する有効化フラグが、シーケンスパラメータセットに関連付けられた複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、第1の構文解析ユニットと、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からDMVRに対する無効化フラグ(例えば、1ビットのフラグ)を構文解析するように構成された第2の構文解析ユニットであって、DMVRに対する無効化フラグが、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が無効化されるか否かを指定し、現在のピクチャが、複数のピクチャに属する、第2の構文解析ユニットと、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してDMVRを基にしたインター双予測を実行して、現在のブロックの予測されたサンプル値を取得するように構成されたDMVR実行ユニットであって、少なくとも1つの予め定義された条件が、DMVRを基にしたインター双予測が有効化されることを無効化フラグの構文解析された値が指定することを備える、DMVR実行ユニットとを備える。
同様に、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをデコードするように構成された(画像デコーダにおける使用のためであってよい)デバイスが提供され、デバイスは、ビデオビットストリームのシーケンスパラメータセットから双方向オプティカルフロー(BDOF)に対する有効化フラグを構文解析するように構成された第1の構文解析ユニットであって、BDOFに対する有効化フラグが、シーケンスパラメータセットに関連付けられた複数のピクチャに対してBDOFインター予測が有効化されるか否かを指定する、第1の構文解析ユニットと、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からBDOFに対する無効化フラグを構文解析するように構成された第2の構文解析ユニットであって、BDOFに対する無効化フラグが、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が無効化されるか否かを指定し、現在のピクチャが、複数のピクチャに属する、第2の構文解析ユニットと、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してBDOFインター予測を実行して、現在のブロックの予測されたサンプル値を取得するように構成されたBDOF実行ユニットであって、少なくとも1つの予め定義された条件が、BDOFインター予測が有効化されることを無効化フラグの構文解析された値が指定することを備える、BDOF実行ユニットとを備える。
再び、現在のピクチャの少なくとも1つの領域は、現在のピクチャであってよく、シンタックス構造は、ピクチャパラメータセット(PPS)であってよく、または代替として、現在のピクチャの少なくとも1つの領域は、現在のピクチャのスライスであってよく、シンタックス構造は、スライスヘッダであってよい。
別の態様によれば、DMVR実行ユニットは、DMVRに対する有効化フラグの構文解析された値が、DMVRが有効化されることを指定するとき、現在のブロックに対してDMVRを基にしたインター双予測を実行するように構成される。
別の態様によれば、少なくとも1つの予め定義された条件は、DMVRに対する有効化フラグの構文解析された値が、DMVRが有効化されることを指定することを(さらに)備える。
別の態様によれば、BDOF実行ユニットは、BDOFに対する有効化フラグの構文解析された値が、BDOFが有効化されることを指定するとき、現在のブロックに対してBDOFインター予測を実行するように構成されてよい。
別の態様によれば、少なくとも1つの予め定義された条件は、BDOFに対する有効化フラグの構文解析された値が、BDOFが有効化されることを指定することを(さらに)備える。
第2の構文解析ユニットは、DMVRに対する有効化フラグの構文解析された値に基づいて、DMVRに対する無効化フラグを構文解析するかまたは構文解析しないように構成されてよい。第2の構文解析ユニットは、BDOFに対する有効化フラグの構文解析された値に基づいて、BDOFに対する無効化フラグを構文解析するかまたは構文解析しないように構成されてよい。第2の構文解析ユニットは、DMVRに対する有効化フラグの構文解析された値が、DMVRが有効化されることを指定するとき、DMVRに対する無効化フラグを構文解析するように構成されてよい。第2の構文解析ユニットは、BDOFに対する有効化フラグの構文解析された値が、BDOFが有効化されることを指定するとき、BDOFに対する無効化フラグを構文解析するように構成されてよい。
再び、無効化フラグは、一般に、1ビットのフラグであってよい。
実行されたとき、1つまたは複数のプロセッサにビデオデータをコーディングするように構成させる命令を記憶したコンピュータ可読記憶媒体が提供されることが提案される。命令は、上記で説明された実施形態のいずれか1つによる方法を1つまたは複数のプロセッサに実行させる。
コンピュータにおいて実行されたとき、上記で説明された実施形態のいずれか1つによる方法を実行するためのプログラムコードを備えるコンピュータプログラムが提供される。
複数のシンタックス要素を含めることによる、ビデオ信号のためのエンコードされたビットストリームが提供され、複数のシンタックス要素は、上記で説明された実施形態のいずれか1つの、DMVRに対する無効化フラグを備える。
上記で説明された実施形態のいずれか1つの、DMVRに対する有効化フラグの構文解析された値の値に少なくとも基づいて、DMVRに対する無効化フラグが条件的にシグナリングされる。
画像デコードデバイスによってデコードされるエンコードされたビットストリームを含む非一時的記憶媒体が提供され、ビットストリームは、ビデオ信号または画像信号のフレームを複数のブロックに分割することによって生成され、かつ複数のシンタックス要素を含み、複数のシンタックス要素は、上記で説明された実施形態のいずれか1つの、DMVRに対する無効化フラグを備える。
上記で説明された実施形態のいずれか1つの、DMVRに対する有効化フラグの構文解析された値の値に少なくとも基づいて、DMVRに対する無効化フラグが条件的にシグナリングされる。
複数のシンタックス要素を含めることによる、ビデオ信号のためのエンコードされたビットストリームが提供され、複数のシンタックス要素は、上記で説明された実施形態のいずれか1つの、BDOFに対する無効化フラグを備える。
上記で説明された実施形態のいずれか1つの、BDOFに対する有効化フラグの構文解析された値の値に少なくとも基づいて、BDOFに対する無効化フラグが条件的にシグナリングされる。
画像デコードデバイスによってデコードされるエンコードされたビットストリームを含む非一時的記憶媒体が提供され、ビットストリームは、ビデオ信号または画像信号のフレームを複数のブロックに分割することによって生成され、かつ複数のシンタックス要素を含み、複数のシンタックス要素は、上記で説明された実施形態のいずれか1つの、BDOFに対する無効化フラグを備える。
上記で説明された実施形態のいずれか1つの、BDOFに対する有効化フラグの構文解析された値の値に少なくとも基づいて、DMVRに対する無効化フラグが条件的にシグナリングされる。
1つまたは複数の実施形態の詳細が、添付の図面および以下の説明において記載される。他の特徴、目的、および利点は、説明、図面、および請求項から明らかになるであろう。
以下では、発明の実施形態が、添付の図および図面を参照して、より詳細に説明される。
発明の実施形態を実現するように構成されたビデオコーディングシステムの一例を表すブロック図である。 発明の実施形態を実現するように構成されたビデオコーディングシステムの別の例を表すブロック図である。 発明の実施形態を実現するように構成されたビデオエンコーダの一例を表すブロック図である。 発明の実施形態を実現するように構成されたビデオデコーダの例示の構造を表すブロック図である。 エンコード装置またはデコード装置の一例を例示するブロック図である。 エンコード装置またはデコード装置の別の例を例示するブロック図である。 BDOFにおいて使用される拡張されたCU領域を例示する。 デコーダ側動きベクトル精緻化を例示する。 一実施形態による、ビデオビットストリームをエンコードする方法を例示する。 別の実施形態による、ビデオビットストリームをエンコードする方法を例示する。 一実施形態による、ビデオビットストリームをデコードする方法を例示する。 別の実施形態による、ビデオビットストリームをデコードする方法を例示する。 一実施形態による、画像エンコーダにおける使用のためのデバイスを例示する。 別の実施形態による、画像エンコーダにおける使用のためのデバイスを例示する。 一実施形態による、画像デコーダにおける使用のためのデバイスを例示する。 別の実施形態による、画像デコーダにおける使用のためのデバイスを例示する。 コンテンツ配信サービスを実現するコンテンツ供給システム3100の例示の構造を表すブロック図である。 端末デバイスの一例の構造を表すブロック図である。
以下では、同一の参照符号は、明示的に他に指定されないならば、同一のまたは少なくとも機能的に等価な特徴を指す。
以下の説明では、開示の部分を形成し、発明の実施形態の特定の態様または本発明の実施形態が使用され得る特定の態様を例示として表す、添付の図への参照が行われる。発明の実施形態が、他の態様において使用され、図の中に描写されていない構造的または論理的な変更を備え得ることが理解される。従って、以下の詳細な説明は限定する意味で受け取られるべきでなく、本発明の範囲は添付の請求項によって定義される。
例えば、説明される方法に関する開示が、その方法を実行するように構成された対応するデバイスまたはシステムについても当てはまり得るとともに逆も同様であることが理解される。例えば、1つまたは複数の特定の方法のステップが説明されるならば、そのような1つまたは複数のユニットが明示的に説明されない、または図の中に例示されないとしても、対応するデバイスは、説明される1つまたは複数の方法のステップを実行するための1つまたは複数のユニット、例えば、機能ユニット(例えば、1つまたは複数のステップを実行する1つのユニット、または複数のステップのうちの1つまたは複数を各々が実行する複数のユニット)を含んでよい。一方、例えば、1つまたは複数のユニット、例えば、機能ユニットに基づいて、特定の装置が説明されるならば、そのような1つまたは複数のステップが明示的に説明されない、または図の中に例示されないとしても、対応する方法は、1つまたは複数のユニットの機能を実行するための1つのステップ(例えば、1つまたは複数のユニットの機能を実行する1つのステップ、または複数のユニットのうちの1つまたは複数の機能を各々が実行する複数のステップ)を含んでよい。さらに、特に他に注記されないならば、ここで説明される様々な例示的な実施形態および／または態様の特徴が互いに組み合わせられてよいことが理解される。
ビデオコーディングは、典型的に、ビデオまたはビデオシーケンスを形成する、ピクチャのシーケンスの処理を指す。用語「ピクチャ」の代わりに、ビデオコーディングの分野では用語「フレーム」または「画像」が同義語として使用され得る。ビデオコーディング(または、一般にコーディング)は、2つの部分、ビデオエンコードおよびビデオデコードを備える。ビデオエンコードは、ソース側において実行され、典型的に、ビデオピクチャを表現するために要求されるデータの量を(より効率的な記憶および／または伝送のために)減少させるために、(例えば、圧縮によって)元のビデオピクチャを処理することを備える。ビデオデコードは、宛先側において実行され、典型的に、ビデオピクチャを再構成するための、エンコーダと比較して逆の処理を備える。ビデオピクチャ(または、一般にピクチャ)の「コーディング」に言及する実施形態は、ビデオピクチャまたはそれぞれのビデオシーケンスの「エンコード」または「デコード」に関すると理解されるものとする。エンコード部分とデコード部分の組み合わせは、CODEC(Coding and Decoding(コーディングおよびデコード))とも呼ばれる。
損失のないビデオコーディングの場合には、元のビデオピクチャは再構成されることが可能であり、すなわち、(記憶または伝送の間に伝送損失または他のデータ損失がないと仮定すると)再構成されたビデオピクチャは元のビデオピクチャと同じ品質を有する。損失のあるビデオコーディングの場合には、ビデオピクチャを表現するデータの量を減少させるために、例えば、量子化によって、さらなる圧縮が実行され、ビデオピクチャは、デコーダにおいて完全に再構成されることが可能でなく、すなわち、再構成されたビデオピクチャの品質は元のビデオピクチャの品質と比較して、より低い、またはより悪い。
いくつかのビデオコーディング規格は、「損失のあるハイブリッドビデオコーデック」のグループに属する(すなわち、サンプル領域における空間および時間予測と、変換領域において量子化を適用するための2D変換コーディングとを組み合わせる)。ビデオシーケンスの各ピクチャは、典型的に、重複しないブロックのセットに区分され、コーディングは、典型的に、ブロックレベルにおいて実行される。言い換えれば、エンコーダにおいて、ビデオは、典型的に、例えば、空間(イントラピクチャ)予測および／または時間(インターピクチャ)予測を使用して予測ブロックを生成し、現在のブロック(現在処理されている／処理されるべきブロック)から予測ブロックを減算して残差ブロックを取得し、残差ブロックを変換し、変換領域において残差ブロックを量子化して伝送されるべきデータの量を減少させること(圧縮)によって、ブロック(ビデオブロック)レベルにおいて処理され、すなわちエンコードされ、一方、デコーダにおいて、エンコーダと比較して逆の処理が、エンコードされ、または圧縮されたブロックに適用されて表現のために現在のブロックを再構成する。さらに、エンコーダは、続くブロックを処理する、すなわちコーディングするために、両方が同一の予測(例えば、イントラおよびインター予測)および／または再構成を生成するように、デコーダ処理ループを二重化する。
以下では、ビデオコーディングシステム10、ビデオエンコーダ20、およびビデオデコーダ30の実施形態が、図1～図3に基づいて説明される。
図1Aは、この本出願の技法を利用し得る例示のコーディングシステム10、例えば、ビデオコーディングシステム10(または短縮してコーディングシステム10)を例示する概略ブロック図である。ビデオコーディングシステム10のビデオエンコーダ20(または短縮してエンコーダ20)およびビデオデコーダ30(または短縮してデコーダ30)は、本出願において説明される様々な例による技法を実行するように構成され得るデバイスの例を表現する。
図1Aに表されたように、コーディングシステム10は、例えば、エンコードされたピクチャデータ13をデコードするための宛先デバイス14に、エンコードされたピクチャデータ21を提供するように構成されたソースデバイス12を備える。
ソースデバイス12は、エンコーダ20を備え、加えて、すなわち任意選択で、ピクチャソース16、プリプロセッサ(または、前処理ユニット)18、例えば、ピクチャプリプロセッサ18、および通信インターフェースまたは通信ユニット22を備えてよい。
ピクチャソース16は、任意の種類のピクチャキャプチャデバイス、例えば、実世界ピクチャをキャプチャするためのカメラ、および／または任意の種類のピクチャ生成デバイス、例えば、コンピュータアニメーション化されたピクチャを生成するためのコンピュータグラフィックスプロセッサ、または実世界ピクチャ、コンピュータ生成されたピクチャ(例えば、スクリーンコンテンツ、仮想現実(virtual reality(VR))ピクチャ)、および／またはそれらの任意の組み合わせ(例えば、拡張現実(augmented reality(AR))ピクチャ)を取得および／または提供するための任意の種類の他のデバイスを備え、またはそれらであってよい。ピクチャソースは、上述のピクチャのうちのいずれかを記憶する任意の種類のメモリまたは記憶装置であってよい。
プリプロセッサ18、および前処理ユニット18によって実行される処理と区別して、ピクチャまたはピクチャデータ17は、未処理ピクチャまたは未処理ピクチャデータ17とも呼ばれ得る。
プリプロセッサ18は、(未処理)ピクチャデータ17を受信し、ピクチャデータ17において前処理を実行して、前処理されたピクチャ19または前処理されたピクチャデータ19を取得するように構成される。プリプロセッサ18によって実行される前処理は、例えば、トリミング、(例えば、RGBからYCbCrへの)カラーフォーマット変換、色補正、またはノイズ除去を備えてよい。前処理ユニット18が任意選択の構成要素であり得ることが理解されることが可能である。
ビデオエンコーダ20は、前処理されたピクチャデータ19を受信し、エンコードされたピクチャデータ21を提供するように構成される(さらなる詳細が、例えば、図2に基づいて、以下で説明されるであろう)。
ソースデバイス12の通信インターフェース22は、エンコードされたピクチャデータ21を受信し、記憶または直接の再構成のために、通信チャネル13上で別のデバイス、例えば、宛先デバイス14または任意の他のデバイスへ、エンコードされたピクチャデータ21(または、それらのさらに処理された任意のバージョン)を伝送するように構成され得る。
宛先デバイス14は、デコーダ30(例えば、ビデオデコーダ30)を備え、加えて、すなわち任意選択で、通信インターフェースまたは通信ユニット28、ポストプロセッサ32(または、後処理ユニット32)、およびディスプレイデバイス34を備えてよい。
宛先デバイス14の通信インターフェース28は、例えば、ソースデバイス12から直接に、または任意の他のソース、例えば、記憶デバイス、例えば、エンコードされたピクチャデータ記憶デバイスから、エンコードされたピクチャデータ21(または、それらのさらに処理された任意のバージョン)を受信し、エンコードされたピクチャデータ21をデコーダ30に提供するように構成される。
通信インターフェース22および通信インターフェース28は、ソースデバイス12と宛先デバイス14の間の直接の通信リンク、例えば、直接の有線または無線接続を介して、または任意の種類のネットワーク、例えば、有線または無線ネットワークまたはそれらの任意の組み合わせ、または任意の種類のプライベートおよびパブリックネットワーク、またはそれらの任意の種類の組み合わせを介して、エンコードされたピクチャデータ21またはエンコードされたデータ13を伝送または受信するように構成され得る。
通信インターフェース22は、例えば、適切なフォーマット、例えば、パケットの中に、エンコードされたピクチャデータ21をパッケージ化し、かつ／または通信リンクまたは通信ネットワーク上での伝送のために任意の種類の伝送エンコードまたは処理を使用してエンコードされたピクチャデータを処理するように構成され得る。
通信インターフェース22の相手側を形成する通信インターフェース28は、例えば、伝送されたデータを受信し、任意の種類の対応する伝送デコードまたは処理および／またはパッケージ除去を使用して伝送データを処理してエンコードされたピクチャデータ21を取得するように構成され得る。
通信インターフェース22と通信インターフェース28の両方が、ソースデバイス12から宛先デバイス14を指し示す、図1Aの中の通信チャネル13についての矢印によって示されるような単方向の通信インターフェース、または双方向の通信インターフェースとして構成されてよく、例えば、通信リンクおよび／またはデータ伝送、例えば、エンコードされたピクチャデータ伝送に関する、任意の他の情報を肯定応答および交換するために、例えば、接続をセットアップするために、メッセージを送信し、受信するように構成されてよい。
デコーダ30は、エンコードされたピクチャデータ21を受信し、デコードされたピクチャデータ31またはデコードされたピクチャ31を提供するように構成される(さらなる詳細は、例えば、図3または図5に基づいて、以下で説明されるであろう)。
宛先デバイス14のポストプロセッサ32は、デコードされたピクチャデータ31(再構成されたピクチャデータとも呼ばれる)、例えば、デコードされたピクチャ31を後処理して、後処理されたピクチャデータ33、例えば、後処理されたピクチャ33を取得するように構成される。後処理ユニット32によって実行される後処理は、例えば、ディスプレイデバイス34による、例えば、表示のためにデコードされたピクチャデータ31を準備するための、例えば、(例えば、YCbCrからRGBへの)カラーフォーマット変換、色補正、トリミング、または再サンプリング、または任意の他の処理を備えてよい。
宛先デバイス14のディスプレイデバイス34は、例えば、ユーザまたは閲覧者に、ピクチャを表示するための後処理されたピクチャデータ33を受信するように構成される。ディスプレイデバイス34は、再構成されたピクチャを表現するための任意の種類のディスプレイ、例えば、統合型または外部のディスプレイまたはモニタであってよく、またはそれを備えてよい。ディスプレイは、例えば、液晶ディスプレイ(liquid crystal display(LCD))、有機発光ダイオード(organic light emitting diode(OLED))ディスプレイ、プラズマディスプレイ、プロジェクタ、マイクロLEDディスプレイ、液晶オンシリコン(liquid crystal on silicon(LCoS))、デジタル光プロセッサ(digital light processor(DLP))、または任意の種類の他のディスプレイを備えてよい。
図1Aはソースデバイス12および宛先デバイス14を別個のデバイスとして描写するが、デバイスの実施形態はまた、ソースデバイス12または対応する機能と、宛先デバイス14または対応する機能の、両方または両方の機能を備えてよい。そのような実施形態では、ソースデバイス12または対応する機能、および宛先デバイス14または対応する機能は、同じハードウェアおよび／またはソフトウェアを使用して、または別個のハードウェアおよび／またはソフトウェアまたはそれらの任意の組み合わせによって、実現され得る。
説明に基づいて当業者に対して明らかになることになるように、異なるユニットの機能または図1Aに表されたようなソースデバイス12および／または宛先デバイス14内の機能の存在および(正確な)分割は、実際のデバイスおよび適用に依存して変わり得る。
エンコーダ20(例えば、ビデオエンコーダ20)またはデコーダ30(例えば、ビデオデコーダ30)、またはエンコーダ20とデコーダ30の両方は、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(digital signal processor(DSP))、特定用途向け集積回路(application-specific integrated circuit(ASIC))、フィールドプログラマブルゲートアレイ(field-programmable gate array(FPGA))、個別論理、ハードウェア、専用のビデオコーディング、またはそれらの任意の組み合わせのような、図1Bに表されたような処理回路を介して実現され得る。エンコーダ20は、図2のエンコーダ20に関して論じられるような様々なモジュールおよび／またはここで説明される任意の他のエンコーダシステムまたはサブシステムを具現するために、処理回路46を介して実現され得る。デコーダ30は、図3のデコーダ30に関して論じられるような様々なモジュールおよび／またはここで説明される任意の他のデコーダシステムまたはサブシステムを具現するために、処理回路46を介して実現され得る。処理回路は、後で論じられるような様々な演算を実行するように構成され得る。図5に表されたように、技法が部分的にソフトウェアで実現されるならば、デバイスは、ソフトウェアのための命令を、適した非一時的コンピュータ可読記憶媒体に記憶してよく、この開示の技法を実行するために1つまたは複数のプロセッサを使用してハードウェアで命令を実行してよい。ビデオエンコーダ20およびビデオデコーダ30のいずれかは、例えば、図1Bに表されたように、組み合わせられたエンコーダ／デコーダ(CODEC)の部分として単一のデバイス内に統合され得る。
ソースデバイス12および宛先デバイス14は、任意の種類のハンドヘルドまたは固定のデバイス、例えば、ノートブックまたはラップトップコンピュータ、モバイルフォン、スマートフォン、タブレットまたはタブレットコンピュータ、カメラ、デスクトップコンピュータ、セットトップボックス、テレビ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲームコンソール、(コンテンツサービスサーバまたはコンテンツ配信サーバのような)ビデオストリーミングデバイス、放送受信機デバイス、放送送信機デバイス、または同様のものを含む、広い範囲のデバイスのうちのいずれかを備えてよく、オペレーティングシステムを使用しなくてよく、または任意の種類のオペレーティングシステムを使用してよい。いくつかの場合、ソースデバイス12および宛先デバイス14は無線通信のために装備されてよい。従って、ソースデバイス12および宛先デバイス14は無線通信デバイスであってよい。
いくつかの場合、図1Aに例示されたビデオコーディングシステム10は単に一例であり、本出願の技法は、エンコードおよびデコードデバイスの間の任意のデータ通信を必ずしも含まず、ビデオコーディング設定(例えば、ビデオエンコードまたはビデオデコード)に適用されてよい。他の例では、データは、ローカルメモリから取り出され、ネットワーク上でストリーミングされ、または同様である。ビデオエンコードデバイスは、データをエンコードしてメモリに記憶してよく、かつ／またはビデオデコードデバイスは、データをメモリから取り出してデコードしてよい。いくつかの例では、互いに通信しないが、単にデータをメモリにエンコードし、かつ／またはデータをメモリから取り出してデコードするデバイスによって、エンコードおよびデコードが実行される。
説明の便宜のため、例えば、高効率ビデオコーディング(High-Efficiency Video Coding(HEVC))への、またはITU-Tビデオコーディングエキスパートグループ(Video Coding Experts Group(VCEG))とISO/IECモーション・ピクチャ・エキスパート・グループ(Motion Picture Experts Group(MPEG))のビデオコーディング共同研究部会(Joint Collaboration Team on Video Coding(JCT-VC))によって策定された次世代ビデオコーディング規格である、多用途ビデオコーディング(Versatile Video Coding(VVC))の参照ソフトウェアへの参照によって、発明の実施形態がここで説明される。発明の実施形態がHEVCまたはVVCに限定されないことを、この技術分野の当業者は理解するであろう。
エンコーダおよびエンコード方法
図2は、本出願の技法を実現するように構成される例示のビデオエンコーダ20の概略ブロック図を表す。図2の例では、ビデオエンコーダ20は、入力201(または入力インターフェース201)、残差計算ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、および逆変換処理ユニット212、再構成ユニット214、ループフィルタユニット220、デコードされたピクチャバッファ(decoded picture buffer(DPB))230、モード選択ユニット260、エントロピーエンコードユニット270、および出力272(または出力インターフェース272)を備える。モード選択ユニット260は、インター予測ユニット244、イントラ予測ユニット254、および区分ユニット262を含んでよい。インター予測ユニット244は、動き推定ユニットおよび動き補償ユニット(表されていない)を含んでよい。図2に表されたようなビデオエンコーダ20は、ハイブリッドビデオエンコーダ、またはハイブリッドビデオコーデックによるビデオエンコーダとも呼ばれ得る。
残差計算ユニット204、変換処理ユニット206、量子化ユニット208、モード選択ユニット260は、エンコーダ20の順方向信号経路を形成するとして言及されてよく、一方、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、バッファ216、ループフィルタ220、デコードされたピクチャバッファ(decoded picture buffer(DPB))230、インター予測ユニット244、およびイントラ予測ユニット254は、ビデオエンコーダ20の逆方向信号経路を形成するとして言及されてよく、ビデオエンコーダ20の逆方向信号経路はデコーダの信号経路に対応する(図3の中のビデオデコーダ30を見られたい)。逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、ループフィルタ220、デコードされたピクチャバッファ(decoded picture buffer(DPB))230、インター予測ユニット244、およびイントラ予測ユニット254はまた、ビデオエンコーダ20の「ビルトインデコーダ」を形成することが言及される。
ピクチャおよびピクチャ区分(ピクチャおよびブロック)
エンコーダ20は、ピクチャ17(またはピクチャデータ17)、例えば、ビデオまたはビデオシーケンスを形成するピクチャのシーケンスのピクチャを、例えば、入力201を介して受信するように構成され得る。受信されるピクチャまたはピクチャデータはまた、前処理されたピクチャ19(または前処理されたピクチャデータ19)であってよい。簡潔さの目的のために、以下の説明はピクチャ17に言及する。ピクチャ17は、現在のピクチャ、または(同じビデオシーケンス、すなわち、やはり現在のピクチャを備えるビデオシーケンスの他のピクチャ、例えば、前にエンコードされ、かつ／またはデコードされたピクチャから現在のピクチャを区別するために、特にビデオコーディングにおいて)コーディングされるべきピクチャとも呼ばれ得る。
(デジタル)ピクチャは、強度値を有するサンプルの2次元のアレイまたは行列であるか、またはそのように見なされることが可能である。アレイ内のサンプルは、ピクセル(ピクチャ要素の短い形式)またはペルとも呼ばれ得る。アレイまたはピクチャの水平および垂直方向(または軸)におけるサンプルの数は、ピクチャのサイズおよび／または解像度を定義する。色の表現のために、典型的に、3つの色成分が採用され、すなわち、ピクチャは、3つのサンプルアレイが表現され、またはそれらを含んでよい。RBGフォーマットまたは色空間で、ピクチャは、対応する赤、緑、および青のサンプルアレイを備える。しかし、ビデオコーディングでは、各ピクセルは、典型的に、ルミナンスおよびクロミナンスのフォーマットまたは色空間、例えば、YCbCrで表現され、YCbCrは、Y(時々、代わりにLも使用される)によって示されるルミナンス成分、およびCbおよびCrによって示される2つのクロミナンス成分を備える。ルミナンス(または短縮してルーマ)成分Yは、輝度または(例えば、グレースケールピクチャにおけるような)グレーレベル強度を表現し、一方、2つのクロミナンス(または短縮してクロマ)成分CbおよびCrは、色度または色情報成分を表現する。従って、YCbCrフォーマットでのピクチャは、ルミナンスサンプル値(Y)のルミナンスサンプルアレイ、およびクロミナンス値(CbおよびCr)の2つのクロミナンスサンプルアレイを備える。RGBフォーマットでのピクチャは、YCbCrフォーマットにコンバートされ、または変換されてよく、逆も同様であり、プロセスは色変換またはコンバートとしても知られる。ピクチャがモノクロであるならば、ピクチャはルミナンスサンプルアレイのみを備えてよい。従って、ピクチャは、例えば、モノクロフォーマットでのルーマサンプルのアレイ、または4:2:0、4:2:2、および4:4:4カラーフォーマットでの、ルーマサンプルのアレイおよびクロマサンプルの2つの対応するアレイであってよい。
ビデオエンコーダ20の実施形態は、ピクチャ17を複数の(典型的に重複しない)ピクチャブロック203に区分するように構成されたピクチャ区分ユニット(図2に描写されない)を備えてよい。これらのブロックは、ルートブロック、マクロブロック(H.264/AVC)、またはコーディングツリーブロック(coding tree block(CTB))またはコーディングツリーユニット(coding tree unit(CTU))(H.265/HEVCおよびVVC)とも呼ばれ得る。ピクチャ区分ユニットは、ビデオシーケンスの全てのピクチャについて同じブロックサイズ、およびブロックサイズを定義する対応するグリッドを使用し、またはピクチャまたはピクチャのサブセットまたはグループの間でブロックサイズを変更し、各ピクチャを対応するブロックに区分するように構成され得る。
さらなる実施形態では、ビデオエンコーダは、ピクチャ17のブロック203、例えば、ピクチャ17を形成する1つの、いくつかの、または全てのブロックを、直接に受信するように構成され得る。ピクチャブロック203は、現在のピクチャブロック、またはコーディングされるべきピクチャブロックとも呼ばれ得る。
ピクチャ17のように、ピクチャブロック203は再び、強度値(サンプル値)を有するサンプルの、しかしピクチャ17よりも小さい寸法の、2次元のアレイまたは行列であるか、またはそのように見なされることが可能である。言い換えれば、ブロック203は、例えば、1つのサンプルアレイ(例えば、モノクロピクチャ17の場合にはルーマアレイ、またはカラーピクチャの場合にはルーマまたはクロマアレイ)、または3つのサンプルアレイ(例えば、カラーピクチャ17の場合にはルーマおよび2つのクロマアレイ)、または適用されるカラーフォーマットに依存して任意の他の数および／または種類のアレイを備えてよい。ブロック203の水平および垂直方向(または軸)におけるサンプルの数は、ブロック203のサイズを定義する。従って、ブロックは、例えば、サンプルのM×N(M列×N行)アレイ、または変換係数のM×Nアレイであってよい。
図2に表されたようなビデオエンコーダ20の実施形態は、ピクチャ17をブロックごとにエンコードするように構成されてよく、例えば、エンコードおよび予測がブロック203ごとに実行される。
図2に表されたようなビデオエンコーダ20の実施形態は、スライス(ビデオスライスとも呼ばれる)を使用することによってピクチャを区分および／またはエンコードするようにさらに構成されてよく、ピクチャは、(典型的に重複しない)1つまたは複数のスライスに区分され、またはそのスライスを使用してエンコードされてよく、各スライスは、1つまたは複数のブロック(例えば、CTU)を備えてよい。スライスは、長方形タイルの集合を含んでよく、またはタイル内のラスタ順序のCTU行の集合であることが可能である。タイルは、1つまたは複数のブリックに分割され、ブリックの各々は、タイル内のいくつかのCTU行からなる。
複数のブリックに区分されないタイルも、ブリックと呼ばれる。しかし、タイルの真のサブセットであるブリックはタイルと呼ばれない。
スライスは、ピクチャのいくつかのタイルまたはタイルのいくつかのブリックのいずれかを含む。
スライスの2つのモード、すなわち、ラスタ走査スライスモードおよび長方形スライスモードがサポートされる。ラスタ走査スライスモードでは、スライスは、ピクチャのタイルラスタ走査におけるタイルのシーケンスを含む。長方形スライスモードでは、スライスは、ピクチャの長方形領域を集合的に形成する、ピクチャのいくつかのブリックを含む。長方形スライス内のブリックは、スライスのブリックラスタ走査の順序である。
図2に表されたようなビデオエンコーダ20の実施形態は、タイルグループ(ビデオタイルグループとも呼ばれる)および／またはタイル(ビデオタイルとも呼ばれる)を使用することによってピクチャを区分し、かつ／またはエンコードするようにさらに構成されてよく、ピクチャは、(典型的に重複しない)1つまたは複数のタイルグループに区分され、またはそのタイルグループを使用してエンコードされてよく、各タイルグループは、例えば、1つまたは複数のブロック(例えば、CTU)または1つまたは複数のタイルを備えてよく、各タイルは、例えば、長方形形状であってよく、1つまたは複数のブロック(例えば、CTU)、例えば、完全なまたは断片のブロックを備えてよい。
残差計算
残差計算ユニット204は、例えば、サンプルごとに(ピクセルごとに)ピクチャブロック203のサンプル値から予測ブロック265のサンプル値を減算することによって、ピクチャブロック203および予測ブロック265(予測ブロック265についてのさらなる詳細は後で提供される)に基づいて残差ブロック205(残差205とも呼ばれる)を計算して、サンプル領域における残差ブロック205を取得するように構成され得る。
変換
変換処理ユニット206は、残差ブロック205のサンプル値において変換、例えば、離散コサイン変換(discrete cosine transform(DCT))または離散サイン変換(discrete sine transform(DST))を適用して、変換領域における変換係数207を取得するように構成され得る。変換係数207は、変換残差係数とも呼ばれ、変換領域における残差ブロック205を表現してよい。
変換処理ユニット206は、H.265/HEVCについて指定された変換のようなDCT/DSTの整数近似を適用するように構成され得る。直交DCT変換と比較して、そのような整数近似は、典型的に、ある係数によってスケーリングされる。順および逆変換によって処理される残差ブロックのノルムを維持するために、変換プロセスの部分として追加のスケーリング係数が適用される。スケーリング係数は、典型的に、スケーリング係数がシフト演算のために2の累乗であること、変換係数のビット深度、確度と実装コストの間のトレードオフなどのような、ある制約に基づいて選ばれる。例えば、逆変換処理ユニット212による、例えば、逆変換(および、例えば、ビデオデコーダ30における逆変換処理ユニット312による、対応する逆変換)について特定のスケーリング係数が指定され、エンコーダ20における、例えば、変換処理ユニット206による、順変換について対応するスケーリング係数が、それに応じて指定され得る。
ビデオエンコーダ20の実施形態(それぞれ、変換処理ユニット206)は、例えば、直接に、またはエントロピーエンコードユニット270を介してエンコードされ、または圧縮された、変換パラメータ、例えば、1つまたは複数の変換のタイプを出力するように構成されてよく、それによって、例えば、ビデオデコーダ30は、デコードのために変換パラメータを受信して使用し得る。
量子化
量子化ユニット208は、例えば、スカラー量子化またはベクトル量子化を適用することによって、変換係数207を量子化して量子化された係数209を取得するように構成され得る。量子化された係数209は、量子化された変換係数209または量子化された残差係数209とも呼ばれ得る。
量子化プロセスは、変換係数207のいくつかまたは全てに関連付けられたビット深度を減少させ得る。例えば、nビットの変換係数は、量子化の間にmビットの変換係数に切り捨てられてよく、ここでnはmよりも大きい。量子化の程度は、量子化パラメータ(Quantization Parameter(QP))を調整することによって修正され得る。例えば、スカラー量子化について、より細かいかまたはより粗い量子化を達成するために、異なるスケーリングが適用され得る。より小さい量子化ステップサイズは、より細かい量子化に対応し、一方、より大きい量子化ステップサイズは、より粗い量子化に対応する。適用可能な量子化ステップサイズは、量子化パラメータ(QP)によって示され得る。量子化パラメータは、例えば、適用可能な量子化ステップサイズの予め定義されたセットへのインデックスであってよい。例えば、小さい量子化パラメータは、細かい量子化(小さい量子化ステップサイズ)に対応してよく、大きい量子化パラメータは、粗い量子化(大きい量子化ステップサイズ)に対応してよく、またはその逆も同様である。量子化は、量子化ステップサイズによる除算を含んでよく、例えば、逆量子化ユニット210による、対応するおよび／または逆の量子化解除は、量子化ステップサイズによる乗算を含んでよい。いくつかの規格、例えば、HEVCによる実施形態は、量子化パラメータを使用して量子化ステップサイズを決定するように構成され得る。一般に、量子化ステップサイズは、除算を含む式の固定点近似を使用して、量子化パラメータに基づいて計算され得る。量子化ステップサイズおよび量子化パラメータについての式の固定点近似において使用されるスケーリングの故に修正され得る、残差ブロックのノルムを復元するために、量子化および量子化解除について追加のスケーリング係数が導入されてよい。1つの例示の実装では、逆変換および量子化解除のスケーリングが組み合わせられ得る。代替として、カスタマイズされた量子化テーブルが使用され、例えば、ビットストリーム内で、エンコーダからデコーダにシグナリングされてよい。量子化は損失のある演算であり、増加する量子化ステップサイズとともに損失が増加する。
ビデオエンコーダ20の実施形態(それぞれ、量子化ユニット208)は、例えば、直接に、またはエントロピーエンコードユニット270を介してエンコードされた、量子化パラメータ(QP)を出力するように構成されてよく、それによって、例えば、ビデオデコーダ30は、デコードのために量子化パラメータを受信し、適用し得る。
逆量子化
逆量子化ユニット210は、例えば、量子化ユニット208と同じ量子化ステップサイズに基づいて、またはそれを使用して、量子化ユニット208によって適用される量子化方式の逆を適用することによって、量子化された係数において量子化ユニット208の逆量子化を適用して量子化解除された係数211を取得するように構成される。量子化解除された係数211は、量子化解除された残差係数211とも呼ばれ、量子化による損失に起因して典型的には変換係数と同一でないが、変換係数207に対応し得る。
逆変換
逆変換処理ユニット212は、変換処理ユニット206によって適用される変換の逆変換、例えば、逆離散コサイン変換(DCT)または逆離散サイン変換(DST)、または他の逆変換を適用して、サンプル領域における再構成された残差ブロック213(または、対応する量子化解除された係数213)を取得するように構成される。再構成された残差ブロック213は、変換ブロック213とも呼ばれ得る。
再構成
再構成ユニット214(例えば、加算器または合算器214)は、例えば、再構成された残差ブロック213のサンプル値と予測ブロック265のサンプル値を、サンプルごとに、加算することによって、変換ブロック213(すなわち、再構成された残差ブロック213)を予測ブロック265に加算してサンプル領域における再構成されたブロック215を取得するように構成される。
フィルタ処理
ループフィルタユニット220(または、短縮して「ループフィルタ」220)は、再構成されたブロック215をフィルタ処理してフィルタ処理されたブロック221を取得するように、または一般に、再構成されたサンプルをフィルタ処理してフィルタ処理されたサンプルを取得するように構成される。ループフィルタユニットは、例えば、ピクセル遷移を平滑化し、またはそうでなくビデオ品質を改善するように構成される。ループフィルタユニット220は、デブロッキングフィルタ、サンプル適応オフセット(Sample-Adaptive Offset(SAO))フィルタ、または1つまたは複数の他のフィルタ、例えば、バイラテラルフィルタ、適応ループフィルタ(Adaptive Loop Filter(ALF))、鮮鋭化、平滑化フィルタ、または協調フィルタ、またはそれらの任意の組み合わせのような1つまたは複数のループフィルタを備えてよい。ループフィルタユニット220はループ内フィルタであるとして図2に表されているが、他の構成では、ループフィルタユニット220は、ポストループフィルタとして実現されてよい。フィルタ処理されたブロック221は、フィルタ処理された再構成されたブロック221とも呼ばれ得る。
ビデオエンコーダ20の実施形態(それぞれ、ループフィルタユニット220)は、例えば、直接に、またはエントロピーエンコードユニット270を介してエンコードされた、(サンプル適応オフセット情報のような)ループフィルタパラメータを出力するように構成されてよく、それによって、例えば、デコーダ30は、デコードのために同じループフィルタパラメータまたはそれぞれのループフィルタを受信し、適用し得る。
デコードされたピクチャバッファ
デコードされたピクチャバッファ(DPB)230は、ビデオエンコーダ20によってビデオデータをエンコードするための、参照ピクチャまたは一般に参照ピクチャデータを記憶するメモリであってよい。DPB 230は、同期DRAM(synchronous DRAM(SDRAM))を含むダイナミックランダムアクセスメモリ(dynamic random access memory(DRAM))、磁気抵抗RAM(magnetoresistive RAM(MRAM))、抵抗性RAM(resistive RAM(RRAM(登録商標)))、または他のタイプのメモリデバイスのような、様々なメモリデバイスのうちのいずれかによって形成され得る。デコードされたピクチャバッファ(DPB)230は、1つまたは複数のフィルタ処理されたブロック221を記憶するように構成され得る。デコードされたピクチャバッファ230は、以前にフィルタ処理された他のブロック、例えば、同じ現在のピクチャの、または異なるピクチャの、以前に再構成され、フィルタ処理されたブロック221、例えば、以前に再構成されたピクチャを記憶するようにさらに構成されてよく、例えば、インター予測のために、以前に再構成され、すなわちデコードされた完全なピクチャ(および、対応する参照ブロックおよびサンプル)、および／または部分的に再構成された現在のピクチャ(および、対応する参照ブロックおよびサンプル)を提供し得る。例えば、再構成されたブロック215が、ループフィルタユニット220によってフィルタ処理されていない、または再構成されたブロックまたはサンプルのさらに処理された任意の他のバージョンであるならば、デコードされたピクチャバッファ(DPB)230はまた、1つまたは複数のフィルタ処理されていない再構成されたブロック215、または一般に、フィルタ処理されていない再構成されたサンプルを記憶するように構成されてよい。
モード選択(区分および予測)
モード選択ユニット260は、区分ユニット262、インター予測ユニット244、およびイントラ予測ユニット254を備え、元のピクチャデータ、例えば、元のブロック203(現在のピクチャ17の現在のブロック203)、および同じ(現在の)ピクチャの、かつ／または1つまたは複数の以前にデコードされたピクチャからの、例えば、デコードされたピクチャバッファ230または他のバッファ(例えば、表されていないラインバッファ)からの、再構成されたピクチャデータ、例えば、フィルタ処理された、および／またはフィルタ処理されていない再構成されたサンプルまたはブロックを受信または取得するように構成される。再構成されたピクチャデータは、予測ブロック265または予測子265を取得するために、予測、例えば、インター予測またはイントラ予測のための参照ピクチャデータとして使用される。
モード選択ユニット260は、(区分を含まない)現在のブロック予測モードについて区分、および予測モード(例えば、イントラまたはインター予測モード)を決定または選択し、残差ブロック205の計算のために、かつ再構成されたブロック215の再構成のために使用される、対応する予測ブロック265を生成するように構成され得る。
モード選択ユニット260の実施形態は、最も良い整合、または言い換えれば最小残差(最小残差は、伝送または記憶のためのより良い圧縮を意味する)、または最小シグナリングオーバーヘッド(最小シグナリングオーバーヘッドとは、伝送または記憶のためのより良い圧縮を意味する)を提供し、または両方を考慮し、または釣り合わせる、区分および予測モードを(例えば、モード選択ユニット260によってサポートされ、またはモード選択ユニット260に対して利用可能なものから)選択するように構成され得る。モード選択ユニット260は、レート歪み最適化(Rate Distortion Optimization(RDO))に基づいて区分および予測モードを決定する、すなわち、最小のレート歪みを提供する予測モードを選択するように構成され得る。この文脈における「最も良い」、「最小の」、「最適な」などのような用語は、全体的な「最も良い」、「最小の」、「最適な」などを必ずしも指さず、しきい値または他の制約を上回るまたは下回る値のような、終了または選択の基準の充足を指してよく、潜在的に「準最適な選択」に導くが、複雑さおよび処理時間を減少させる。
言い換えれば、区分ユニット262は、例えば、4分木区分(quad-tree-partitioning(QT))、バイナリ区分(binary partitioning(BT))、またはトリプルツリー区分(triple-tree-partitioning(TT))、またはそれらの任意の組み合わせを反復的に使用して、ブロック203をより小さいブロック区分または(再びブロックを形成する)サブブロックに区分し、例えば、ブロック区分またはサブブロックの各々について予測を実行するように構成されてよく、モード選択は、区分されるブロック203のツリー構造の選択を備え、予測モードは、ブロック区分またはサブブロックの各々に適用される。
以下では、例示のビデオエンコーダ20によって実行される(例えば、区分ユニット260による)区分および(インター予測ユニット244およびイントラ予測ユニット254による)予測処理が、より詳細に説明されるであろう。
区分
区分ユニット262は、現在のブロック203をより小さい区分、例えば、正方形または長方形のサイズのより小さいブロックに、区分(または分割)し得る。これらのより小さいブロック(サブブロックとも呼ばれ得る)は、いっそう小さい区分にさらに区分され得る。これは、ツリー区分または階層的ツリー区分とも呼ばれ、例えば、ルートツリーレベル0(階層レベル0、深度0)におけるルートブロックは、再帰的に区分され、例えば、次に低いツリーレベルの2つ以上のブロック、例えば、ツリーレベル1(階層レベル1、深度1)におけるノードに区分されてよく、これらのブロックは再び、例えば、終了基準が充足され、例えば、最大ツリー深度または最小ブロックサイズが到達されたので区分が終了されるまで、次に低いレベル、例えば、ツリーレベル2(階層レベル2、深度2)などの2つ以上のブロックに区分されてよい。さらに区分されないブロックは、ツリーのリーフブロックまたはリーフノードとも呼ばれる。2つの区分への区分を使用するツリーは2分木(Binary-Tree(BT))と呼ばれ、3つの区分への区分を使用するツリーは3分木(Ternary-Tree(TT))と呼ばれ、4つの区分への区分を使用するツリーは4分木(Quad-Tree(QT))と呼ばれる。
前に述べたように、ここで使用される用語「ブロック」は、ピクチャの一部分、特に正方形または長方形の部分であってよい。例えば、HEVCおよびVVCを参照すると、ブロックは、コーディングツリーユニット(coding tree unit(CTU))、コーディングユニット(coding unit(CU))、予測ユニット(prediction unit(PU))、および変換ユニット(transform unit(TU))、および／または対応するブロック、例えば、コーディングツリーブロック(coding tree block(CTB))、コーディングブロック(coding block(CB))、変換ブロック(transform block(TB))、または予測ブロック(prediction block(PB))であってよく、またはそれらに対応し得る。
例えば、コーディングツリーユニット(CTU)は、3つのサンプルアレイを有するピクチャのルーマサンプルのCTB、クロマサンプルの2つの対応するCTB、またはモノクロピクチャまたは3つの別個の色平面を使用してコーディングされるピクチャのサンプルのCTB、およびサンプルをコーディングするために使用されるシンタックス構造であってよく、またはそれらを備えてよい。それに対応して、コーディングツリーブロック(CTB)は、CTBへの成分の分割が区分であるようなNのいくつかの値についてサンプルのN×Nブロックであってよい。コーディングユニット(CU)は、3つのサンプルアレイを有するピクチャのルーマサンプルのコーディングブロック、クロマサンプルの2つの対応するコーディングブロック、またはモノクロピクチャまたは3つの別個の色平面を使用してコーディングされるピクチャのサンプルのコーディングブロック、およびサンプルをコーディングするために使用されるシンタックス構造であってよく、またはそれらを備えてよい。それに対応して、コーディングブロック(CB)は、コーディングブロックへのCTBの分割が区分であるようなMおよびNのいくつかの値についてサンプルのM×Nブロックであってよい。
例えば、HEVCによる実施形態では、コーディングツリーユニット(CTU)は、コーディングツリーとして表記される4分木構造を使用することによってCUに分割され得る。ピクチャエリアを、(時間的な)インターピクチャ予測を使用してコーディングすべきか、または(空間的な)イントラピクチャ予測を使用してコーディングすべきかの決定は、CUレベルにおいて行われる。各CUは、PU分割タイプに従って1つ、2つ、または4つのPUにさらに分割されることが可能である。1つのPUの内部では、同じ予測プロセスが適用され、関連する情報がPUごとにデコーダへ伝送される。PU分割タイプに基づいて予測プロセスを適用することによって残差ブロックを取得した後、CUは、CUについてのコーディングツリーと類似の別の4分木構造に従って変換ユニット(TU)に区分されることが可能である。
例えば、多用途ビデオコーディング(VVC)と呼ばれる、現在策定中の最新のビデオコーディング規格による実施形態では、組み合わせられた4分木および2分木(Quad-Tree and Binary Tree(QTBT))区分が、例えば、コーディングブロックを区分するために使用される。QTBTブロック構造において、CUは、正方形または長方形のいずれかの形状を有することができる。例えば、コーディングツリーユニット(CTU)は、4分木構造によって最初に区分される。4分木リーフノードは、2分木または3分木(またはトリプルツリー)構造によってさらに区分される。区分するツリーリーフノードは、コーディングユニット(CU)と呼ばれ、そのセグメント化は、さらなる区分なしで予測および変換処理のために使用される。これは、CU、PU、およびTUがQTBTコーディングブロック構造において同じブロックサイズを有することを意味する。並行して、複数の区分、例えば、トリプルツリー区分が、QTBTブロック構造と一緒に使用され得る。
一例では、ビデオエンコーダ20のモード選択ユニット260は、ここで説明される区分技法の任意の組み合わせを実行するように構成され得る。
上記で説明されたように、ビデオエンコーダ20は、(例えば、予め決定された)予測モードのセットから、最も良いまたは最適な予測モードを決定または選択するように構成される。予測モードのセットは、例えば、イントラ予測モードおよび／またはインター予測モードを備えてよい。
イントラ予測
イントラ予測モードのセットは、例えば、HEVCにおいて定義されるように、35個の異なるイントラ予測モード、例えば、DC(または平均)モードおよび平面モードのような無方向性モード、または方向性モードを備えてよく、または、例えば、VVCについて定義されるように、67個の異なるイントラ予測モード、例えば、DC(または平均)モードおよび平面モードのような無方向性モード、または方向性モードを備えてよい。
イントラ予測ユニット254は、イントラ予測モードのセットのイントラ予測モードに従ってイントラ予測ブロック265を生成するために、同じ現在のピクチャの隣接ブロックの再構成されたサンプルを使用するように構成される。
イントラ予測ユニット254(または一般にモード選択ユニット260)は、エンコードされたピクチャデータ21への包含のためにシンタックス要素266の形式でイントラ予測パラメータ(または一般にブロックのための選択されたイントラ予測モードを示す情報)をエントロピーエンコードユニット270に出力するようにさらに構成され、それによって、例えば、ビデオデコーダ30は、デコードのために予測パラメータを受信および使用し得る。
インター予測
インター予測モードのセット(または可能なインター予測モード)は、利用可能な参照ピクチャ(すなわち、例えば、DBP 230に記憶されている、少なくとも部分的にデコードされた以前のピクチャ)、および他のインター予測パラメータ、例えば、最も良く整合する参照ブロックを探索するために参照ピクチャ全体が使用されるか、または参照ピクチャの一部のみ、例えば、現在のブロックのエリアの周囲の探索ウィンドウエリアが使用されるか、および／または、例えば、ピクセル補間、例えば、ハーフ／セミペルおよび／またはクォーターペル補間が適用されるか否かに依存する。
上記の予測モードに加えて、スキップモードおよび／または直接モードが適用されてよい。
インター予測ユニット244は、動き推定(motion estimation(ME))ユニットおよび動き補償(motion compensation(MC))ユニット(両方とも図2に表されていない)を含んでよい。動き推定ユニットは、動き推定のために、ピクチャブロック203(現在のピクチャ17の現在のピクチャブロック203)およびデコードされたピクチャ231、または少なくとも1つまたは複数の以前に再構成されたブロック、例えば、1つまたは複数の他の／異なる以前にデコードされたピクチャ231の再構成されたブロックを、受信または取得するように構成され得る。例えば、ビデオシーケンスは、現在のピクチャおよび以前にデコードされたピクチャ231を備えてよく、または言い換えれば、現在のピクチャおよび以前にデコードされたピクチャ231は、ビデオシーケンスを形成するピクチャのシーケンスの一部であってよく、またはそれらを形成してよい。
エンコーダ20は、例えば、複数の他のピクチャのうちの同じまたは異なるピクチャの複数の参照ブロックから参照ブロックを選択し、参照ピクチャ(または参照ピクチャインデックス)、および／または参照ブロックの位置(x、y座標)と現在のブロックの位置との間のオフセット(空間オフセット)を、インター予測パラメータとして動き推定ユニットに提供するように構成され得る。このオフセットは動きベクトル(motion vector(MV))とも呼ばれる。
動き補償ユニットは、インター予測パラメータを取得し、例えば受信し、インター予測パラメータに基づいて、またはそれを使用して、インター予測を実行してインター予測ブロック265を取得するように構成される。動き補償ユニットによって実行される動き補償は、動き推定によって決定された動き／ブロックベクトルに基づいて予測ブロックをフェッチまたは生成すること、おそらくサブピクセル精度への補間を実行することを伴ってよい。補間フィルタ処理は、知られているピクセルサンプルから追加のピクセルサンプルを生成してよく、従って、ピクチャブロックをコーディングするために使用され得る候補予測ブロックの数を潜在的に増加させる。現在のピクチャブロックのPUについての動きベクトルを受信すると、動き補償ユニットは、参照ピクチャリストのうちの1つの中で動きベクトルが指し示す予測ブロックを位置付け得る。
動き補償ユニットはまた、ビデオスライスのピクチャブロックをデコードする際のビデオデコーダ30による使用のために、ブロックおよびビデオスライスに関連付けられたシンタックス要素を生成し得る。スライスおよびそれぞれのシンタックス要素に加えて、またはそれらの代替として、タイルグループおよび／またはタイルおよびそれぞれのシンタックス要素が生成または使用されてよい。
エントロピーコーディング
エントロピーエンコードユニット270は、量子化された係数209、インター予測パラメータ、イントラ予測パラメータ、ループフィルタパラメータ、および／または他のシンタックス要素において、例えば、エントロピーエンコードアルゴリズムまたは方式(例えば、可変長コーディング(variable length coding(VLC))方式、コンテキスト適応VLC方式(context adaptive VLC scheme(CAVLC))、算術コーディング方式、2値化、コンテキスト適応バイナリ算術コーディング(context adaptive binary arithmetic coding(CABAC))、シンタックスを基にしたコンテキスト適応バイナリ算術コーディング(syntax-based context-adaptive binary arithmetic coding(SBAC))、確率区間区分エントロピー(probability interval partitioning entropy(PIPE))コーディング、または別のエントロピーエンコード方法論または技法)、またはバイパス(圧縮なし)を適用して、例えば、エンコードされたビットストリーム21の形式で、出力272を介して出力されることが可能であるエンコードされたピクチャデータ21を取得するように構成され、それによって、例えば、ビデオデコーダ30は、デコードのためにパラメータを受信および使用し得る。エンコードされたビットストリーム21は、ビデオデコーダ30へ伝送され、またはビデオデコーダ30による後の伝送または取り出しのためにメモリに記憶され得る。
ビデオエンコーダ20の他の構造的変形が、ビデオストリームをエンコードするために使用されることが可能である。例えば、非変換を基にしたエンコーダ20が、あるブロックまたはフレームについて変換処理ユニット206なしで直接に残差信号を量子化することができる。別の実装では、エンコーダ20は、単一のユニットの中に組み合わせられた量子化ユニット208および逆量子化ユニット210を有することができる。
デコーダおよびデコード方法
図3は、この本出願の技法を実現するように構成されるビデオデコーダ30の一例を表す。ビデオデコーダ30は、例えば、エンコーダ20によってエンコードされた、エンコードされたピクチャデータ21(例えば、エンコードされたビットストリーム21)を受信して、デコードされたピクチャ331を取得するように構成される。エンコードされたピクチャデータまたはビットストリームは、エンコードされたピクチャデータをデコードするための情報、例えば、エンコードされたビデオスライス(および／または、タイルグループまたはタイル)のピクチャブロックを表現するデータ、および関連付けられたシンタックス要素を備える。
図3の例では、デコーダ30は、エントロピーデコードユニット304、逆量子化ユニット310、逆変換処理ユニット312、再構成ユニット314(例えば、合算器314)、ループフィルタ320、デコードされたピクチャバッファ(DBP)330、モード適用ユニット360、インター予測ユニット344、およびイントラ予測ユニット354を備える。インター予測ユニット344は、動き補償ユニットであってよく、またはそれを含んでもよい。ビデオデコーダ30は、いくつかの例では、図2からのビデオエンコーダ100に関して説明されたエンコードパスとは一般に相補的なデコードパスを実行し得る。
エンコーダ20に関して説明されたように、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、ループフィルタ220、デコードされたピクチャバッファ(DPB)230、インター予測ユニット344、およびイントラ予測ユニット354は、ビデオエンコーダ20の「ビルトインデコーダ」を形成するとしても言及される。従って、逆量子化ユニット310は逆量子化ユニット110と機能において同一であってよく、逆変換処理ユニット312は逆変換処理ユニット212と機能において同一であってよく、再構成ユニット314は再構成ユニット214と機能において同一であってよく、ループフィルタ320はループフィルタ220と機能において同一であってよく、デコードされたピクチャバッファ330はデコードされたピクチャバッファ230と機能において同一であってよい。従って、ビデオ20エンコーダのそれぞれのユニットおよび機能について提供された説明は、それに対応してビデオデコーダ30のそれぞれのユニットおよび機能に適用される。
エントロピーデコード
エントロピーデコードユニット304は、ビットストリーム21(または一般にエンコードされたピクチャデータ21)を構文解析し、例えば、エンコードされたピクチャデータ21へのエントロピーデコードを実行して、例えば、量子化された係数309および／またはデコードされたコーディングパラメータ(図3に表されていない)、例えば、インター予測パラメータ(例えば、参照ピクチャインデックスおよび動きベクトル)、イントラ予測パラメータ(例えば、イントラ予測モードまたはインデックス)、変換パラメータ、量子化パラメータ、ループフィルタパラメータ、および／または他のシンタックス要素のうちのいずれかまたは全てを取得するように構成される。エントロピーデコードユニット304は、エンコーダ20のエントロピーエンコードユニット270に関して説明されたようなエンコード方式に対応するデコードアルゴリズムまたは方式を適用するように構成され得る。エントロピーデコードユニット304は、モード適用ユニット360にインター予測パラメータ、イントラ予測パラメータ、および／または他のシンタックス要素を、デコーダ30の他のユニットに他のパラメータを提供するようにさらに構成され得る。ビデオデコーダ30は、ビデオスライスレベルおよび／またはビデオブロックレベルにおいてシンタックス要素を受信し得る。スライスおよびそれぞれのシンタックス要素に加えて、またはそれらの代替として、タイルグループおよび／またはタイルおよびそれぞれのシンタックス要素が受信および／または使用され得る。
逆量子化
逆量子化ユニット310は、(例えば、エントロピーデコードユニット304によって、例えば、構文解析および／またはデコードすることによって)エンコードされたピクチャデータ21から量子化パラメータ(quantization parameter(QP))(または一般に逆量子化に関する情報)および量子化された係数を受信し、量子化パラメータに基づいて、デコードされた量子化された係数309において逆量子化を適用して、変換係数311とも呼ばれ得る量子化解除された係数311を取得するように構成され得る。逆量子化プロセスは、量子化の程度、および同様に、適用されるべき逆量子化の程度を決定するために、ビデオスライス(またはタイルまたはタイルグループ)の中のビデオブロックごとにビデオエンコーダ20によって決定された量子化パラメータの使用を含んでよい。
逆変換
逆変換処理ユニット312は、変換係数311とも呼ばれる量子化解除された係数311を受信し、サンプル領域において再構成された残差ブロック213を取得するために量子化解除された係数311に変換を適用するように構成され得る。再構成された残差ブロック213は、変換ブロック313とも呼ばれ得る。変換は、逆変換、例えば、逆DCT、逆DST、逆整数変換、または概念的に類似の逆変換プロセスであってよい。逆変換処理ユニット312は、量子化解除された係数311に適用されるべき変換を決定するために、(例えば、エントロピーデコードユニット304によって、例えば、構文解析および／またはデコードすることによって)エンコードされたピクチャデータ21から変換パラメータまたは対応する情報を受信するようにさらに構成され得る。
再構成
再構成ユニット314(例えば、加算器または合算器314)は、例えば、再構成された残差ブロック313のサンプル値と予測ブロック365のサンプル値とを加算することによって、予測ブロック365に再構成された残差ブロック313を加算して、サンプル領域において再構成されたブロック315を取得するように構成され得る。
フィルタ処理
(コーディングループ内またはコーディングループの後のいずれかの)ループフィルタユニット320は、例えば、ピクセル遷移を平滑化し、またはビデオ品質をそうでなく改善するために、再構成されたブロック315をフィルタ処理してフィルタ処理されたブロック321を取得するように構成される。ループフィルタユニット320は、デブロッキングフィルタ、サンプル適応オフセット(sample-adaptive offset(SAO))フィルタ、または1つまたは複数の他のフィルタ、例えば、バイラテラルフィルタ、適応ループフィルタ(adaptive loop filter(ALF))、鮮鋭化、平滑化フィルタ、または協調フィルタ、またはそれらの任意の組み合わせのような1つまたは複数のループフィルタを備えてよい。ループフィルタユニット320はループ内フィルタであるとして図3に表されているが、他の構成では、ループフィルタユニット320はポストループフィルタとして実現されてよい。
デコードされたピクチャバッファ
ピクチャのデコードされたビデオブロック321は、次いで、他のピクチャについての続く動き補償のために、かつ／または出力されるそれぞれ表示のために、参照ピクチャとしてデコードされたピクチャ331を記憶するデコードされたピクチャバッファ330に記憶される。
デコーダ30は、ユーザへの提示または閲覧のために、例えば、出力312を介してデコードされたピクチャ311を出力するように構成される。
予測
インター予測ユニット344は、インター予測ユニット244と(特に動き補償ユニットと)同一であってよく、イントラ予測ユニット354は、機能においてインター予測ユニット254と同一であってよく、区分および／または予測パラメータ、またはエンコードされたピクチャデータ21から(例えば、エントロピーデコードユニット304によって、例えば、構文解析および／またはデコードすることによって)受信されたそれぞれの情報に基づいて、分割または区分決定および予測を実行する。モード適用ユニット360は、(フィルタ処理された、またはフィルタ処理されていない)再構成されたピクチャ、ブロック、またはそれぞれのサンプルに基づいて、ブロックごとに予測(イントラまたはインター予測)を実行して、予測ブロック365を取得するように構成され得る。
イントラコーディングされた(I)スライスとしてビデオスライスがコーディングされるとき、モード適用ユニット360のイントラ予測ユニット354は、シグナリングされたイントラ予測モード、および現在のピクチャの以前にデコードされたブロックからのデータに基づいて、現在のビデオスライスのピクチャブロックについて予測ブロック365を生成するように構成される。インターコーディングされた(すなわち、BまたはP)スライスとしてビデオピクチャがコーディングされるとき、モード適用ユニット360のインター予測ユニット344(例えば、動き補償ユニット)は、動きベクトル、およびエントロピーデコードユニット304から受信された他のシンタックス要素に基づいて、現在のビデオスライスのビデオブロックについて予測ブロック365を作り出すように構成される。インター予測について、予測ブロックは、参照ピクチャリストのうちの1つの中の参照ピクチャのうちの1つから作り出されてよい。ビデオデコーダ30は、DPB 330に記憶された参照ピクチャに基づいてデフォルトの構成技法を使用して、参照フレームリスト、リスト0およびリスト1を構成し得る。スライス(例えば、ビデオスライス)に加えて、またはその代替として、タイルグループ(例えば、ビデオタイルグループ)および／またはタイル(例えば、ビデオタイル)を使用する実施形態について、またはその実施形態によって、同じまたは類似のことが適用されてよく、例えば、ビデオは、I、P、またはBタイルグループおよび／またはタイルを使用してコーディングされてよい。
モード適用ユニット360は、動きベクトルまたは関連する情報および他のシンタックス要素を構文解析することによって、現在のビデオスライスのビデオブロックについて予測情報を決定し、予測情報を使用して、デコードされている現在のビデオブロックについて予測ブロックを作り出すように構成される。例えば、モード適用ユニット360は、受信されたシンタックス要素のうちのいくつかを使用して、現在のビデオスライス内のビデオブロックをデコードするために、ビデオスライスのビデオブロックをコーディングするために使用された予測モード(例えば、イントラまたはインター予測)、インター予測スライスタイプ(例えば、Bスライス、Pスライス、またはGPBスライス)、スライスについての参照ピクチャリストのうちの1つまたは複数についての構成情報、スライスのインターエンコードされたビデオブロックごとの動きベクトル、スライスのインターコーディングされたビデオブロックごとのインター予測ステータス、および他の情報を決定する。スライス(例えば、ビデオスライス)に加えて、またはその代替として、タイルグループ(例えば、ビデオタイルグループ)および／またはタイル(例えば、ビデオタイル)を使用する実施形態について、またはその実施形態によって、同じまたは類似のことが適用されてよく、例えば、ビデオは、I、P、またはBタイルグループおよび／またはタイルを使用してコーディングされてよい。
図3に表されたようなビデオデコーダ30の実施形態は、スライス(ビデオスライスとも呼ばれる)を使用することによってピクチャを区分および／またはデコードするように構成されてよく、ピクチャは、(典型的に、重複しない)1つまたは複数のスライスに区分され、またはそれを使用してデコードされてよく、各スライスは、1つまたは複数のブロック(例えば、CTU)を備えてよい。
図3に表されたようなビデオデコーダ30の実施形態は、タイルグループ(ビデオタイルグループとも呼ばれる)および／またはタイル(ビデオタイルとも呼ばれる)を使用することによってピクチャを区分および／またはデコードするように構成されてよく、ピクチャは、(典型的に、重複しない)1つまたは複数のタイルグループに区分され、またはそれを使用してデコードされてよく、各タイルグループは、例えば、1つまたは複数のブロック(例えば、CTU)または1つまたは複数のタイルを備えてよく、各タイルは、例えば、長方形形状であってよく、1つまたは複数のブロック(例えば、CTU)、例えば、完全なまたは断片のブロックを備えてよい。
ビデオデコーダ30の他の変形が、エンコードされたピクチャデータ21をデコードするために使用されることが可能である。例えば、デコーダ30は、ループフィルタ処理ユニット320なしで出力ビデオストリームを作り出すことができる。例えば、非変換を基にしたデコーダ30が、あるブロックまたはフレームについて逆変換処理ユニット312なしで直接に残差信号を逆量子化することができる。別の実装では、ビデオデコーダ30は、単一のユニットの中に組み合わせられた逆量子化ユニット310および逆変換処理ユニット312を有することができる。
エンコーダ20およびデコーダ30において、現在のステップの処理結果がさらに処理され、次いで、次のステップに出力されてよいことが理解されるべきである。例えば、補間フィルタ処理、動きベクトル導出、またはループフィルタ処理の後、補間フィルタ処理、動きベクトル導出、またはループフィルタ処理の処理結果において、クリップまたはシフトのようなさらなる演算が実行されてよい。
現在のブロックの導出された動きベクトル(アフィンモードの制御点動きベクトル、アフィン、平面、ATMVPモードにおけるサブブロック動きベクトル、時間動きベクトルなどを含むが、それらに限定されない)に、さらなる演算が適用され得ることが注記されるべきである。例えば、動きベクトルの値は、その表現ビットに従って予め定義された範囲に制約される。動きベクトルの表現ビットがbitDepthであるならば、範囲は-2^(bitDepth-1)～2^(bitDepth-1)-1であり、ここで「^」はべき乗を意味する。例えば、bitDepthが16に等しく設定されるならば、範囲は-32768～32767であり、bitDepthが18に等しく設定されるならば、範囲は-131072～131071である。例えば、導出される動きベクトル(例えば、1つの8×8ブロック内の4つの4×4サブブロックのMV)の値は、4つの4×4サブブロックMVの整数部分の間の最大差が、1ピクセルより大きくない、のような、Nピクセルより大きくないように制約される。ここで、bitDepthに従って動きベクトルを制約するための2つの方法が提供される。
方法1:フロー演算によってオーバーフローMSB(最上位ビット)を除去する。
ux = ( mvx + 2bitDepth ) % 2bitDepth (1)
mvx = ( ux >= 2bitDepth-1 ) ? ( ux - 2bitDepth ) : ux (2)
uy = ( mvy + 2bitDepth ) % 2bitDepth (3)
mvy = ( uy >= 2bitDepth-1 ) ? ( uy - 2bitDepth ) : uy (4)
ここで、mvxは画像ブロックまたはサブブロックの動きベクトルの水平成分であり、mvyは画像ブロックまたはサブブロックの動きベクトルの垂直成分であり、uxおよびuyは中間値を示す。
例えば、mvxの値が-32769であるならば、式(1)および(2)を適用した後、結果として生じる値は32767である。コンピュータシステムでは、10進数は2の補数として記憶される。-32769の2の補数は1,0111,1111,1111,1111(17ビット)であり、次いで、MSBが廃棄され、そのため、結果として生じる2の補数は、式(1)および(2)を適用することによる出力と同じである0111,1111,1111,1111である(10進数は32767である)。
ux = ( mvpx + mvdx +2bitDepth ) % 2bitDepth (5)
mvx = ( ux >= 2bitDepth-1 ) ? ( ux - 2bitDepth ) : ux (6)
uy = ( mvpy + mvdy +2bitDepth ) % 2bitDepth (7)
mvy = ( uy >= 2bitDepth-1 ) ? ( uy - 2bitDepth ) : uy (8)
式(5)～(8)に表されたように、その演算は、mvpとmvdの総和の間に適用され得る。
方法2:値をクリッピングすることによってオーバーフローMSBを除去する。
vx = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vx)
vy = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vy)
ここで、vxは画像ブロックまたはサブブロックの動きベクトルの水平成分であり、vyは画像ブロックまたはサブブロックの動きベクトルの垂直成分であり、x、y、およびzはそれぞれ、MVクリッピングプロセスの3つの入力値に対応し、関数Clip3の定義は以下の通りである。
Figure 0007471328000001
図4は、開示の一実施形態によるビデオコーディングデバイス400の概略図である。ビデオコーディングデバイス400は、ここで説明されるような開示される実施形態を実現するために適している。一実施形態では、ビデオコーディングデバイス400は、図1Aのビデオデコーダ30のようなデコーダ、または図1Aのビデオエンコーダ20のようなエンコーダであってよい。
ビデオコーディングデバイス400は、データを受信するための入口ポート410(または入力ポート410)および受信機ユニット(Rx)420、データを処理するためのプロセッサ、論理ユニット、または中央処理ユニット(CPU)430、データを伝送するための送信機ユニット(Tx)440および出口ポート450(または出力ポート450)、およびデータを記憶するためのメモリ460を備える。ビデオコーディングデバイス400はまた、光信号または電気信号の出口または入口のために入口ポート410、受信機ユニット420、送信機ユニット440、および出口ポート450に結合された、光電気(optical-to-electrical(OE))構成要素および電気光(electrical-to-optical(EO))構成要素を備えてよい。
プロセッサ430は、ハードウェアおよびソフトウェアによって実現される。プロセッサ430は、1つまたは複数のCPUチップ、(例えば、マルチコアプロセッサとしての)コア、FPGA、ASIC、およびDSPとして実現され得る。プロセッサ430は、入口ポート410、受信機ユニット420、送信機ユニット440、出口ポート450、およびメモリ460と通信している。プロセッサ430は、コーディングモジュール470を備える。コーディングモジュール470は、上記で説明された開示された実施形態を実現する。例えば、コーディングモジュール470は、様々なコーディング演算を実現、処理、準備、または提供する。従って、コーディングモジュール470の包含は、ビデオコーディングデバイス400の機能にかなりの改善を提供し、ビデオコーディングデバイス400の異なる状態への変換をもたらす。代替として、コーディングモジュール470は、メモリ460に記憶され、プロセッサ430によって実行される命令として実現される。
メモリ460は、1つまたは複数のディスク、テープドライブ、およびソリッドステートドライブを備えてよく、実行のためにそのようなプログラムが選択されるときにプログラムを記憶するために、かつプログラム実行の間に読み取られる命令およびデータを記憶するために、オーバーフローデータ記憶デバイスとして使用されてよい。メモリ460は、例えば、揮発性および／または不揮発性であってよく、リードオンリメモリ(read-only memory(ROM))、ランダムアクセスメモリ(random access memory(RAM))、3値連想メモリ(ternary content-addressable memory(TCAM))、および／またはスタティックランダムアクセスメモリ(static random-access memory(SRAM))であってよい。
図5は、例示的な実施形態による、図1からのソースデバイス12および宛先デバイス14のいずれかまたは両方として使用され得る装置500の簡略化されたブロック図である。
装置500内のプロセッサ502は中央処理ユニットであることが可能である。代替として、プロセッサ502は、現存する、または今後開発される、情報を操作または処理することが可能な任意の他のタイプのデバイスまたは複数のデバイスであることが可能である。開示される実装は、表されているように単一のプロセッサ、例えば、プロセッサ502を用いて実施されることが可能であるが、速度および効率における利点は、1つより多くのプロセッサを使用して達成されることが可能である。
装置500内のメモリ504は、一実装ではリードオンリメモリ(ROM)デバイスまたはランダムアクセスメモリ(RAM)デバイスであることが可能である。任意の他の適したタイプの記憶デバイスが、メモリ504として使用されることが可能である。メモリ504は、バス512を使用してプロセッサ502によってアクセスされるコードおよびデータ506を含むことができる。メモリ504は、オペレーティングシステム508およびアプリケーションプログラム510をさらに含むことができ、アプリケーションプログラム510は、プロセッサ502がここで説明される方法を実行することを可能にする少なくとも1つのプログラムを含む。例えば、アプリケーションプログラム510は、アプリケーション1からNを含むことができ、アプリケーション1からNは、ここで説明される方法を実行するビデオコーディングアプリケーションをさらに含む。
装置500はまた、ディスプレイ518のような1つまたは複数の出力デバイスを含むことができる。ディスプレイ518は、一例では、ディスプレイを、タッチ入力を感知するように動作可能なタッチ感応性要素と組み合わせる、タッチ感応性ディスプレイであってよい。ディスプレイ518は、バス512を介してプロセッサ502に結合されることが可能である。
ここでは単一のバスとして描写されているが、装置500のバス512は複数のバスからなることが可能である。さらに、2次記憶装置514が、装置500の他の構成要素に直接に結合されることが可能であり、またはネットワークを介してアクセスされることが可能であり、メモリカードのような単一の統合されたユニット、または複数のメモリカードのような複数のユニットを備えることができる。従って、装置500は広く様々な構成で実現されることが可能である。
インター予測は、デコーダ動きベクトル精緻化を基にしたインター双予測、または双方向オプティカルフローインター予測を備えてよい。以下は、デコーダ動きベクトル精緻化を基にしたインター双予測、または双方向オプティカルフローインター予測の序論である。
デコーダ側動きベクトル精緻化(Decoder side motion vector refinement, DMVR)とも呼ばれる動きベクトル精緻化(Motion vector refinement, MVR)
動きベクトルは、通常、少なくとも部分的にエンコーダ側において決定され、コーディングされたビットストリーム内でデコーダにシグナリングされる。しかし、動きベクトルはまた、ビットストリーム内で示される初期動きベクトルから始めてデコーダにおいて(かつエンコーダにおいても)精緻化されてよい。そのような場合、例えば、初期動きベクトルによって指し示される、既にデコードされたピクセルのパッチ間の類似度が、初期動きベクトルの確度を改善するために使用され得る。そのような動き精緻化は、シグナリングオーバーヘッドを減少させる利点を提供し、初期動きの確度は、エンコーダとデコーダの両方において同じやり方で改善され、従って、精緻化のための追加のシグナリングが必要とされない。
精緻化前の初期動きベクトルが、結果として最良の予測となる最良の動きベクトルでないことがあることが注記される。初期動きベクトルがビットストリーム内でシグナリングされるので、(ビットレートを増加させるであろう)たいへん高い確度で初期動きベクトルを表現することが可能でないことがあり、従って、初期動きベクトルを改善するために動きベクトル精緻化プロセスが利用される。初期動きベクトルは、例えば、現在のブロックの隣接ブロックの予測において使用される動きベクトルであり得る。この場合、どの隣接ブロックの動きベクトルが現在のブロックによって使用されるかを示す、ビットストリーム内の表示をシグナリングすることが十分である。そのような予測メカニズムは、初期動きベクトルを表現するためのビット数を減少させる際にたいへん効率的である。しかし、一般に、2つの隣接ブロックの動きベクトルは同一であることが期待されないので、初期動きベクトルの確度は低いことがある。
シグナリングオーバーヘッドにおけるさらなる増加なしで動きベクトルの確度をさらに改善するために、エンコーダ側において導出され、ビットストリーム内で提供される(シグナリングされる)動きベクトルをさらに精緻化することが有益であり得る。動きベクトル精緻化は、エンコーダからの支援なしでデコーダにおいて実行され得る。そのデコーダループ内のエンコーダは、対応する精緻化された動きベクトルを取得するために、デコーダにおいて利用可能であろうものと同じ精緻化を採用してよい。現在のピクチャ内で再構成されている現在のブロックに対する精緻化は、再構成されたサンプルのテンプレートを決定すること、現在のブロックのための初期動き情報の周囲の探索空間を決定すること、およびテンプレートに最良に整合する参照ピクチャ部分を探索空間内で見つけることによって実行される。最良の整合部分は、現在のブロックに対する精緻化された動きベクトルを決定し、それは、次いで、現在のブロック、すなわち、再構成されている現在のブロックに対するインター予測されたサンプルを取得するために使用される。
動きベクトル精緻化は、図2の中のインター予測ユニット(244)および図3の中の344の一部である。
動きベクトル精緻化は、以下のステップに従って実行され得る。
典型的に、初期動きベクトルは、ビットストリーム内の表示に基づいて決定されることが可能である。例えば、候補動きベクトルのリスト内の位置を示すインデックスが、ビットストリーム内でシグナリングされ得る。別の例では、動きベクトル予測子インデックスおよび動きベクトル差分値が、ビットストリーム内でシグナリングされることが可能である。ビットストリーム内の表示に基づいて決定される動きベクトルは、初期動きベクトルであると定義される。現在のブロックに対するインター予測が、2つの動きベクトルに従って決定されるサンプルの予測されたブロックの重み付けされた結合として取得される双予測の場合には、リストL0内の第1の参照ピクチャにおける初期動きベクトルはMV0として表記され、リストL1内の第2の参照ピクチャにおける初期動きベクトルはMV1として表記されることにする。
初期動きベクトルを使用して、精緻化候補動きベクトル(motion vector, MV)ペアが決定される。少なくとも、2つの精緻化候補ペアが決定されることを必要とする。典型的に、精緻化候補動きベクトルペアは、初期動きベクトルペア(MV0, MV1)に基づいて決定される。さらに、小さい動きベクトル差分をMV0およびMV1に加算することによって候補MVペアが決定される。例えば、候補MVペアは以下を含み得る。
・(MV0, MV1)
・(MV0 + (0,1), MV1 + (0,-1))
・(MV0 + (1,0), MV1 + (-1,0))
・(MV0 + (0,-1), MV1 + (0,1))
・(MV0 + (-1,0), MV1 + (1,0))
・...
ここで、(1,-1)は、水平(またはx)方向における1の変位および垂直(またはy)方向における-1の変位を有するベクトルを表記する。
候補ペアの上記のリストは説明のための単なる例であり、発明が候補の特定のリストに限定されないことが注記される。
精緻化候補動きベクトル(MV)ペアは、動きベクトル精緻化プロセスの探索空間を形成する。
現在のブロックの双予測では、それぞれの、リストL0の第1の動きベクトルおよびリストL1の第2の動きベクトルを使用して取得された2つの予測ブロックが単一の予測信号に結合され、それは、単予測よりも良好な、元の信号への適合を提供することができ、結果として、より小さい残差情報、おそらく、より効率的な圧縮となる。
動きベクトル精緻化では、候補MVペアのそれぞれの第1の動きベクトルおよび第2の動きベクトルを使用して取得された2つの予測ブロックが、精緻化候補MVペアの各々に対して類似度メトリックに基づいて比較される。結果として最高の類似度となる候補MVペアが、通常、精緻化された動きベクトルとして選択される。それぞれ、リストL0内の第1の参照ピクチャにおける精緻化された動きベクトル、およびリストL1内の第2の参照ピクチャにおける精緻化された動きベクトルは、MV0'およびMV1'として表記される。言い換えれば、候補動きベクトルペアのリストL0動きベクトルおよびリストL1動きベクトルに対応する予測が取得され、それらは、次いで、類似度メトリックに基づいて比較される。最高の関連付けられた類似度を有する候補動きベクトルペアが、精緻化されたMVペアとして選択される。
典型的に、精緻化プロセスの出力は、精緻化されたMVである。どの候補MVペアが最高の類似度を達成するかに依存して、精緻化されたMVは、初期MVと同じであることがあり、または初期MVとは異なることがあり、初期MVによって形成された候補MVペアもMVペア候補の中にある。言い換えれば、最高の類似度を達成する最高の候補MVペアが初期MVによって形成されるならば、精緻化されたMVおよび初期MVは互いに等しい。
類似度メトリックを最大化する位置を選択する代わりに、別の方法は、非類似度メトリックを最小化する位置を選択することである。非類似度比較尺度は、SAD(絶対差分の和)、MRSAD(平均除去された絶対差分の和)、SSE(2乗された誤差の和)などであってよい。2つの予測ブロック間のSADは、候補MVペア(CMV0, CMV1)を使用して取得されてよく、SADは以下のように算出されることが可能である。
Figure 0007471328000002
ここで、nCbHおよびnCbWは予測ブロックの高さおよび幅であり、関数abs(a)は引数aの絶対値を指定し、predSAmplesL0およびpredSAmplesL1は、(CMV0, CMV1)によって表記される候補MVペアに従って取得される予測ブロックサンプルである。
代替として、計算の数を減少させるために、非類似度比較尺度は予測ブロック内のサンプルのサブセットのみを評価することによって取得されることが可能である。一例は以下であり、ここで、SAD計算においてサンプルの行が代替的に含まれる(1行おきに評価される)。
Figure 0007471328000003
動きベクトル精緻化の一例が、(ITU-T SG 16 WP 3およびISO/IEC JTC 1/SC29/WG11の)JVETの文書JVET-M1001-v3、「Versatile Video Coding (Draft 4)」の中で説明されており、それは「http://phenix.it-sudparis.eu/jvet/」の下で公に入手可能である。その文書の中のセクション「8.4.3 Decoder side motion vector refinement process」が動きベクトル精緻化を例示している。
精緻化に対して内部メモリ要件を減少させるために、いくつかの実施形態では、ルーマサンプルにおけるある予め決定された幅または予め決定された高さを超えるサンプルのコーディングされたブロックを、ルーマにおける予め決定された幅および予め決定された高さよりも小さいかまたはそれに等しいサンプルのサブブロックに区分することによって取得される、ルーマサンプルのブロックに対して、動きベクトル精緻化プロセスが独立して実行されてよい。区分されたコーディングされたブロック内のサブブロックごとの精緻化されたMVペアは異なることが可能である。ルーマとクロマの両方に対するインター予測が、次いで、サブブロックごとに、そのサブブロックの精緻化されたMVペアを使用して実行される。
初期MVペアの各MVは、分数ピクセル精度を有することができる。言い換えれば、MVは、サンプルの現在のブロックと再サンプリングされた参照領域との間の変位を示し、この変位は、再構成された参照サンプルの整数グリッドから水平および垂直方向において分数位置を指し示すことができる。典型的に、分数サンプルオフセット位置においてサンプル値を取得するために、再構成された参照整数サンプルグリッド値の2次元補間が実行される。候補MVペアを使用して、再構成された参照ピクチャから予測サンプルを取得するプロセスは、以下の方法のうちの1つによることができる。
・初期MVペアの分数部分を最も近い整数位置に丸め、再構成された参照ピクチャの整数グリッド値を取得する。
・2タップ(例えば、双線形)の分離可能な双線形補間を実行して、初期MVペアによって示された分数ピクセル確度における予測されたサンプル値を取得する。
・より高いタップの(例えば、8タップまたは6タップの)分離可能な補間を実行して、初期MVペアによって示された分数ピクセル確度における予測されたサンプル値を取得する。
候補MVペアは初期MVペアに関して任意のサブピクセルオフセットを有することができるが、いくつかの実施形態では、探索の簡潔さの目的のために、候補MVペアは初期MVペアに関して整数ピクセル距離を用いて選ばれる。そのような場合、全ての候補MVペアに渡る予測されたサンプルは、初期MVペアの周囲の全ての精緻化位置をカバーするために、初期MVペアの周囲のサンプルのブロックに対する予測を実行することによって取得されることが可能である。
いくつかの実施形態では、いったん、初期MVペアからの整数距離において全ての候補MVペアにおける非類似度コスト値が評価されると、最良のコスト値の位置からのサブピクセル距離オフセットにおける追加の候補MVペアが追加される。前に説明された方法のうちの1つを使用して、これらの位置の各々に対して予測されたサンプルが取得され、非類似度コストが評価および比較されて、最小の非類似度の位置を取得する。ある他の実施形態では、最良のコストの整数距離位置の周囲のサブピクセル距離位置ごとの、この計算的に高価な予測プロセスを回避するために、評価された整数距離コスト値が記憶され、最良の整数距離位置の近傍でパラメトリック誤差面が適合させられる。この誤差面の最小値が、次いで、分析的に算出され、最小の非類似度を有する位置として使用される。そのような場合、非類似度コスト値は、算出された整数距離コスト値から導出されると言われる。
サンプルの所与のコーディングされたブロックに対する動きベクトル精緻化の適用は、サンプルのコーディングされたブロックのあるコーディング特性において条件付けられることが可能である。そのようなコーディング特性のいくつかの例は、以下であることが可能である。
・現在のピクチャから、サンプルのコーディングされたブロックの双予測のために使用される2つの参照ピクチャまでの(均一なフレームレートでサンプリングされるときの)ピクチャの数での距離は等しく、現在のピクチャの両側にある。
・初期MVペアを使用して取得される2つの予測ブロック間の初期非類似度は、予め決定されたサンプルごとのしきい値よりも小さい。
双方向オプティカルフロー(BDOF)とも呼ばれる双予測オプティカルフロー精緻化(Bi-predictive Optical flow refinement, BPOF)
双方向オプティカルフローは、双予測のためにシグナリングされる以外のビットストリーム内での明示的な追加のシグナリングなしで、ブロックの双予測の確度を改善するプロセスである。それは図2の中のインター予測ユニット(244)および図3の中の344の一部である。
双予測では、2つの動きベクトルに従って2つのインター予測が取得され、次いで、その予測が重み付けされた平均の適用によって結合される。結合された予測は、2つの参照パッチの中の量子化雑音が相殺されるので、結果として減少された残差エネルギーとなることができ、それにより、単予測よりも大きいコーディング効率を提供する。双予測における重み付けされた結合は、式、
双予測 = 予測1 * W1 + 予測2 * W2 + K
によって実行されることが可能であり、ここで、W1およびW2は、ビットストリーム内でシグナリングされ得るか、またはエンコーダ側においてまたはデコーダ側において予め定義され得る重み付け係数である。Kは、また、ビットストリーム内でシグナリングされ、またはエンコーダ側においてまたはデコーダ側において予め定義され得る加算的な係数である。一例として、双予測は、
双予測 = (予測1 + 予測2)/2
を使用して取得されてよく、ここで、W1およびW2が1/2に設定されKが0に設定される。
オプティカルフロー精緻化の目標は、双予測の確度を改善することである。オプティカルフローは、2つの連続したフレーム間での画像オブジェクトの視運動のパターンであり、オプティカルフローは、オブジェクトまたはカメラの移動によって引き起こされる。オプティカルフロー精緻化プロセスは、オプティカルフロー方程式の適用(オプティカルフロー方程式を解くこと)によって双予測の確度を改善する。
一例では、ピクセルI(x,y,t)が第1のフレーム内に位置する(空間座標に対応するxおよびy、時間次元に対応するt)。そのピクセルによって表現されるオブジェクトは、dt時間の後に受け取られる次のフレーム内で距離(dx,dy)だけ移動する。それらのピクセルが同じであり、かつ強度が変化しないので、オプティカルフロー方程式は、
I(x,y,t) = I(x+ dx ,y+ dy ,t+dt)
によって与えられる。I(x,y,t)は、(x,y,t)の座標におけるピクセルの強度(サンプル値)を指定する。
別の例では、小さい変位、およびテイラー級数展開の中のより高い次数の項が無視され、オプティカルフロー方程式は、
Figure 0007471328000004
として書かれることも可能であり、ここで、
Figure 0007471328000005
および
Figure 0007471328000006
は、位置(x,y)における水平および垂直の空間サンプル勾配であり、
Figure 0007471328000007
は、(x,y)における時間偏導関数である。
オプティカルフロー精緻化は、双予測の品質を改善するために上記の原理を利用する。
オプティカルフロー精緻化の実装は、典型的に、以下のステップを含む。
1. サンプル勾配を計算する。
2. 第1の予測と第2の予測との間の差分を計算する。
3. オプティカルフロー方程式を使用して取得される2つの参照パッチ間の誤差Δを最小化する、ピクセルまたはピクセルのグループの変位を計算する。
Figure 0007471328000008
ここで、I(0)は、第1の予測におけるサンプル値に対応し、I(1)は、第2の予測におけるサンプル値であり、∂I(0)/∂xおよび∂I(0)/∂yは、-xおよび-y方向における勾配である。τ1およびτ0は、第1の予測および第2の予測が取得される参照ピクチャまでの距離を表記する。最小化プロセスによって動きベクトルフィールド(vx, vy)が取得される。いくつかの手法は2乗された誤差の和を最小化し、一方、いくつかの手法は絶対誤差の和を最小化する。
4. 以下のようなオプティカルフロー方程式の実装を採用する。
predBIO=1/2・(I(0)+I(1)+vx/2・(τ1∂I(1)/∂x-τ0∂I(0)/∂x)+vy/2・(τ1∂I(1)/∂y-τ0∂I(0)/∂y))
ここで、predBIOは、オプティカルフロー精緻化プロセスの出力である修正された予測を指定する。
サンプル勾配は、以下の式によって取得されることが可能である。
・∂I(x, y, t) / ∂x = I(x + 1, y, t) - I(x - 1, y, t)
・∂I(x, y, t) / ∂y = I(x, y + 1, t) - I(x, y - 1, t)
いくつかの実施形態では、ピクセルごとに変位を推定する複雑さを簡略化するために、変位はピクセルのグループに対して推定される。いくつかの例では、4×4個のルーマサンプルのブロックに対する改善された双予測を算出するために、その中心にサンプルの4×4ブロックを有する8×8個のルーマサンプルのブロックのサンプル値を使用して変位が推定される。
オプティカルフロー精緻化プロセスの入力は、2つの参照ピクチャからの予測サンプルであり、オプティカルフロー精緻化の出力は、オプティカルフロー方程式に従って計算される結合された予測(predBIO)である。
オプティカルフロー精緻化の一例が、文書JVET-M1001、Versatile Video Coding (Draft 4)の8.4.7.4「Bidirectional optical flow prediction process」セクションの中で説明されている。
用語、オプティカルフロー精緻化、双予測オプティカルフロー精緻化、および双方向オプティカルフロー精緻化は、その用語が本質的に等価であるのでこの開示では互換的に使用される。
双方向オプティカルフロー(BDOF)
双方向オプティカルフロー(BDOF)ツールがVVCの中に含まれる。前にBIOと呼ばれたBDOFが、JEMの中に含められた。JEMバージョンと比較して、VVCにおけるBDOFは、特に乗算の数および乗数のサイズの観点から、ずっと少ない計算を要求する、より簡単なバージョンである。
BDOFは、4×4サブブロックレベルにおけるCUの双予測信号を精緻化するために使用される。以下の条件、すなわち、1)CUの高さが4でなく、CUが4×8のサイズでない、2)CUがアフィンモードまたはATMVPマージモードを使用してコーディングされていない、3)CUが「真の」双予測モードを使用してコーディングされている、すなわち、2つの参照ピクチャのうちの一方が表示順序で現在のピクチャの前にあり、他方が表示順序で現在のピクチャの後にある、を満たすならば、BDOFがCUに適用される。BDOFは、ルーマ成分にのみ適用される。
BDOFは、4×4サブブロックレベルにおけるCUの双予測信号を精緻化するために使用される。BDOFは、以下の全ての条件を満たすならば、CUに適用される。
- CUが「真の」双予測モードを使用してコーディングされている、すなわち、2つの参照ピクチャのうちの一方が表示順序で現在のピクチャの前にあり、他方が表示順序で現在のピクチャの後にある。
- 2つの参照ピクチャから現在のピクチャまでの距離(すなわち、POC差分)が同じである。
- 両方の参照ピクチャが短期参照ピクチャである。
- CUがアフィンモードまたはATMVPマージモードを使用してコーディングされていない。
- CUが、64個よりも多くのルーマサンプルを有する。
- CUの高さとCUの幅の両方が、8ルーマサンプルよりも大きいかまたはそれに等しい。
- BCW重みインデックスが、等しい重みを示す。
- 現在のCUに対してWPが有効化されていない。
- 現在のCUに対してCIIPモードが使用されていない。
BDOFは、ルーマ成分にのみ適用される。その名称が示すように、BDOFモードは、オブジェクトの動きが滑らかであることを仮定するオプティカルフロー概念に基づく。4×4サブブロックごとに、L0およびL1予測サンプルの間の差分を最小化することによって動き精緻化(vx,vy)が計算される。動き精緻化は、次いで、4×4サブブロックにおける双予測されたサンプル値を調整するために使用される。BDOFプロセスにおいて以下のステップが適用される。
最初に、2つの予測信号の水平および垂直勾配
Figure 0007471328000009
および
Figure 0007471328000010
が、2つの隣接サンプル間の差分、すなわち、
Figure 0007471328000011
を直接計算することによって算出され、ここで、I(k)(i,j)は、リストk、k=0,1の中の予測信号の座標(i,j)におけるサンプル値であり、shift1は、shift1 = max( 6, bitDepth-6)としてルーマビット深度bitDepthに基づいて計算される。
次いで、勾配S1、S2、S3、S5、およびS6の自己相関および相互相関が、
Figure 0007471328000012
として計算され、ここで、
Figure 0007471328000013
であり、ここで、Ωは、4×4サブブロックの周囲の6×6ウィンドウであり、naおよびnbの値は、それぞれ、min( 1, bitDepth-11 )およびmin( 4, bitDepth-8)に等しく設定される。
動き精緻化(vx,vy)が、次いで、以下を使用して、相互相関項および自己相関項を使用して導出される。
Figure 0007471328000014
ここで、
Figure 0007471328000015
であり、
Figure 0007471328000016
は床関数であり、
Figure 0007471328000017
である。
動き精緻化および勾配に基づいて、4×4サブブロック内のサンプルごとに以下の調整値が計算される。
Figure 0007471328000018
最後に、CUのBDOFサンプルが、以下のように双予測サンプルを調整することによって計算される。
predBDOF(x,y)=(I(0)(x,y)+I(1)(x,y)+b(x,y)+ooffset) >> shift (3-5)
これらの値は、BDOFプロセスにおける乗数が15ビットを超えず、かつBDOFプロセスにおける中間パラメータの最大ビット幅が32ビット内に保たれるように選択される。
勾配値を導出するために、現在のCU境界の外部の、リストk(k=0,1)内のいくつかの予測サンプルI(k)(i,j)が生成される必要がある。図6に描写されたように、VTM5におけるBDOFは、CUの境界の周囲の1つ拡張された行／列を使用する。境界の外側の予測サンプルを生成する計算の複雑さを制御するために、拡張されたエリア(白の位置)の中の予測サンプルが、補間なしで直接(座標に対してfloor()演算を使用して)近くの整数位置における参照サンプルを取ることによって生成され、通常の8タップ動き補償補間フィルタが使用されてCU内(グレーの位置)の予測サンプルを生成する。これらの拡張されたサンプル値は、勾配計算においてのみ使用される。BDOFプロセスにおける残りのステップに対して、CU境界の外部の任意のサンプルおよび勾配値が必要とされるならば、それらの最も近い近隣からそれらはパディング(すなわち、反復)される。
CUの幅および／または高さが16個のルーマサンプルよりも大きいとき、それは、幅および／または高さが16個のルーマサンプルに等しいサブブロックに分割され、サブブロック境界は、BDOFプロセスにおけるCU境界として扱われる。BDOFプロセスのための最大ユニットサイズは、16×16に限定される。
サブブロックごとに、BDOFプロセスがスキップされることが可能である。初期L0およびL1予測サンプルの間のSADがしきい値よりも小さいとき、BDOFプロセスはサブブロックに適用されない。しきい値は、(8 * W * ( H >> 1 )に等しく設定され、ここで、Wはサブブロックの幅を示し、Hはサブブロックの高さを示す。SAD計算の追加の複雑さを回避するために、DVMRプロセスにおいて計算された初期L0およびL1予測サンプルの間のSADが、ここで再使用される。
現在のブロックに対してBCWが有効化される、すなわち、BCW重みインデックスが、等しくない重みを示すならば、双方向オプティカルフローは無効化される。同様に、現在のブロックに対してWPが有効化される、すなわち、2つの参照ピクチャのいずれかに対してluma_weight_lx_flagが1であるならば、BDOFは、また、無効化される。CUが対称MVDモードを用いてコーディングされているとき、BDOFは、また、無効化される。
デコーダ側動きベクトル精緻化(DMVR)
マージモードのMVの確度を増加させるために、バイラテラル整合を基にしたデコーダ側動きベクトル精緻化がVVCにおいて適用される。双予測動作では、精緻化されたMVは、参照ピクチャリストL0および参照ピクチャリストL1内の初期MVの周囲で探索される。BM方法は、参照ピクチャリストL0およびリストL1内の2つの候補ブロックの間のひずみを計算する。図7に例示されたように、初期MVの周囲の各MV候補に基づく赤のブロックの間のSADが計算される。最小のSADを有するMV候補が、精緻化されたMVになり、双予測された信号を生成するために使用される。VVCでは、以下のモードおよび特徴を用いてコーディングされているCUに対してDMVRが適用されることが可能である。
- 双予測MVを用いた、CUレベルのマージモード。
- 現在のピクチャに関して、過去に1つの参照ピクチャがあり、将来に別の参照ピクチャがある。
- 2つの参照ピクチャから現在のピクチャまでの距離(すなわち、POC差分)が同じである。
- 両方の参照ピクチャが短期参照ピクチャである。
- CUが、64個よりも多くのルーマサンプルを有する。
- CUの高さとCUの幅の両方が、8個のルーマサンプルよりも大きいかまたはそれに等しい。
- BCW重みインデックスが、等しい重みを示す。
- 現在のブロックに対してWPが有効化されていない。
- 現在のブロックに対してCIIPモードが使用されていない。
DMVRプロセスによって導出される精緻化されたMVは、インター予測サンプルを生成するために使用され、将来のピクチャコーディングのための時間動きベクトル予測においても使用される。元のMVは、デブロッキングプロセスにおいて使用されるが、将来のCUコーディングのための空間動きベクトル予測においても使用される。
DMVRの追加の特徴が、以下の節において述べられる。
VTM5では、以下のモードおよび特徴を用いてコーディングされているCUに対してDMVRが適用されることが可能である。
双予測MVを用いた、CUレベルのマージモード。
現在のピクチャに関して、過去に1つの参照ピクチャがあり、将来に別の参照ピクチャがある。
両方の参照ピクチャから現在のピクチャまでの距離(すなわち、POC差分)が同じである。
CUが、64個よりも多くのルーマサンプルを有する。
CUの高さとCUの幅の両方が、8個のルーマサンプルよりも大きいかまたはそれに等しい。
BCW重みインデックスが、等しい重みを示す。
現在のブロックに対してWPが有効化されていない。
探索方式
DVMRでは、探索ポイントが初期MVを囲んでおり、MVオフセットはMV差分ミラーリング規則に従う。言い換えれば、候補MVペア(MV0,MV1)によって表記される、DMVRによってチェックされるいかなるポイントも、以下の2つの式に従う。
MV0' = MV0 + MV_offset (3-6)
MV1' = MV1 - MV_offset (3-7)
ここで、MV_offsetは、参照ピクチャのうちの1つの中の、初期MVと精緻化されたMVの間の精緻化オフセットを表現する。精緻化探索範囲は、初期MVからの2つの整数ルーマサンプルである。探索は、整数サンプルオフセット探索段階、および分数サンプル精緻化段階を含む。
整数サンプルオフセット探索のために、25ポイントの完全な探索が適用される。初期MVペアのSADが、最初に計算される。初期MVペアのSADがしきい値よりも小さいならば、DMVRの整数サンプル段階が終了される。そうでなければ、残りの24ポイントのSADがラスタ走査順序で計算およびチェックされる。最小のSADを有するポイントが、整数サンプルオフセット探索段階の出力として選択される。DMVR精緻化の不確定性の不利益を減少させるために、DMVRプロセスの間に元のMVを選ぶことが提案される。初期MV候補によって参照される参照ブロック間のSADは、SAD値の1/4だけ減らされる。
整数サンプル探索は、分数サンプル精緻化が続く。計算の複雑度を節約するために、SAD比較を伴う追加の探索の代わりに、パラメトリック誤差面方程式を使用することによって分数サンプル精緻化が導出される。分数サンプル精緻化は、整数サンプル探索段階の出力に基づいて条件的に呼び出される。整数サンプル探索段階が、第1の反復または第2の反復探索のいずれかにおいて、最小のSADを有する中心を用いて終了されるとき、分数サンプル精緻化がさらに適用される。
パラメトリック誤差面を基にしたサブピクセルオフセット推定では、中心位置コスト、および中心からの4つの隣接する位置におけるコストが、以下の形式の2D放物誤差面方程式を適合させるために使用される。
E(x,y) = A(x - xmin)2 + B(y - ymin)2 + C (3-8)
ここで、(xmin,ymin)は、最小コストを有する分数位置に対応し、Cは、最小コスト値に対応する。5つの探索ポイントのコスト値を使用することによって上記の式を解くことによって、(xmin,ymin)は、
xmin = (E(-1,0) - E(1,0))/(2(E(-1,0) + E(1,0) - 2E(0,0))) (3-9)
ymin = (E(0,-1) - E(0,1))/(2((E(0,-1) + E(0,1) - 2E(0,0))) (3-10)
として算出される。
全てのコスト値が正であり最小値がE(0,0)であるので、xminおよびyminの値は、-8と8の間であるように自動的に制約される。これは、VVCにおける1/16ペルのMV確度を有するハーフペルオフセットに対応する。算出された分数の(xmin,ymin)は、整数距離精緻化MVに加算されてサブピクセル確度の精緻化デルタMVを得る。
双線形補間およびサンプルパディング
VVCでは、MVの解像度は1/16ルーマサンプルである。分数位置におけるサンプルは、8タップ補間フィルタを使用して補間される。DMVRでは、探索ポイントが、整数サンプルオフセットを有する初期分数ペルMVを囲んでおり、従って、それらの分数位置のサンプルは、DMVR探索プロセスのために補間される必要がある。計算複雑度を減少させるために、双線形補間フィルタが、DMVRにおける探索プロセスのために分数サンプルを生成するために使用される。別の重要な効果は、2サンプルの探索範囲を有する双線形フィルタを使用することによって、DVMRが、通常の動き補償プロセスと比較してより多くの参照サンプルにアクセスしないことである。DMVR探索プロセスを用いて、精緻化されたMVが達成された後、通常の8タップ補間フィルタが適用されて最終予測を生成する。通常のMCプロセスへの、より多くの参照サンプルにアクセスしないために、元のMVに基づく補間プロセスのために必要とされないが、精緻化されたMVに基づく補間プロセスのために必要とされるサンプルが、それらの利用可能なサンプルからパディングされる。
最大DMVR処理ユニット
CUの幅および／または高さが16個のルーマサンプルよりも大きいとき、それは、16個のルーマサンプルに等しい幅および／または高さを有するサブブロックにさらに分割される。DMVR探索プロセスのための最大ユニットサイズは、16×16に限定される。
DMVRとBDOFの両方は、それらを明示的に有効化または無効化するためのコーディングユニットレベルフラグを有しないコーディングツールである。(コーディングユニットがマージモードCUであるかどうか、コーディングユニットの寸法、コーディングユニットが双予測されるかどうか、現在のフレームと2つの参照との間のピクチャ順序カウント差分が等しくかつ反対であるかどうかなどのような)有効化条件のセットが、DMVRおよびBDOFの適用を有効化するために使用される。マージリストの構成、およびこれらの条件を検証することが、構文解析時間において可能でないので、これらの条件の評価の後の有効化フラグ／無効化フラグのシグナリングは可能でない。
DMVRの場合における動きベクトルデルタおよびBDOFの場合におけるオプティカルフローが、現在のフレームと現在のフレームの両側における2つの参照との間で等しくかつ反対であるという暗黙的な仮定をDMVRとBDOFの両方が有する。この仮定は、いくつかの場合に真でないことがある。例えば、動き軌跡が線形的でないときはいつでも、または2つのシーンが各々、それ自体の動きモデルとブレンドされるとき、または線形的でない遷移を有する合成シーンでは、その仮定は失敗することがある。そのような場合、DMVRまたはBDOFを強制的に実行することは、それらを実行しないことと比較されるとき、コーディング損失に導き得る。
シーケンスパラメータセット(SPS)レベルにおいてDMVRまたはBDOFを有効化するためのフラグがあるが、たいへん異なるコンテンツタイプ、および編集効果およびオーバーレイを有するシーケンスは、多くの部分においてDMVRおよびBDOFから利益を受けることができ、従って、シーケンス内のいくつかのシーンのためだけでシーケンスレベルにおいて無効化することは、DMVRおよびBDOFを用いて可能なコーディング利得を提供しない。
提案される発明
この発明では、より大きい粒度においてMVRが有効化されるときにMVRを条件的に無効化するために、シーケンスパラメータセットよりも細かい粒度において(例えば、PPSについてはSPSレベルにおいて、スライスについてはSPS/PPSレベルにおいてなど)フラグが提案される。同様に、この発明は、より大きい粒度においてBDOFが有効化されるときにBDOFを条件的に無効化するために、シーケンスパラメータセットよりも細かい粒度においてフラグを提案する。
DMVRまたはBDOFの背後の仮定の失敗を検出し、それに応じて、提案されるフラグをより細かい粒度のレベルにおいて設定するために、複数の標準的でない技法がエンコード側において使用されることが可能である。この発明では、DMVRまたはBDOFを無効化するようにフラグを設定するために使用されることが可能である、ある特定の標準的でない技法が提案される。
シーケンスパラメータセット(sequence parameter set, SPS): 各ピクチャヘッダ内に見いだされるシンタックス要素によって参照されるPPS内に見いだされるシンタックス要素の内容によって決定されるような、0個以上のCLVS全体に適用されるシンタックス要素を含むシンタックス構造。
スライスヘッダ: 全てのタイルまたはスライス内で表現されるタイル内のCTU行に関係するデータ要素を含むコーディングされたスライスの一部。
シンタックス要素: ビットストリーム内で表現されるデータの要素。
シンタックス構造: 指定された順序でビットストリーム内に一緒に存在する0個以上のシンタックス要素。
ピクチャヘッダ(picture header, PH): コーディングされたピクチャの全てのスライスに適用されるシンタックス要素を含むシンタックス構造。
ピクチャパラメータセット(picture parameter set, PPS): 各ピクチャヘッダ内に見いだされるシンタックス要素によって決定されるような、0個以上のコーディングされたピクチャ全体に適用されるシンタックス要素を含むシンタックス構造。
コーディングされたレイヤビデオシーケンス(coded layer video sequence, CLVS): デコード順序において、CLVSS PUと、それに続く、CLVSS PUである任意の続くPUまでの、しかしそれを含まない全ての続くPUを含む、CLVSS PUではない0個以上のPUとからなる、同じ値のnuh_layer_idを有するPUのシーケンス。
コーディングされたレイヤビデオシーケンス開始(coded layer video sequence start, CLVSS)PU: コーディングされたピクチャがCLVSSピクチャであるPU。
ピクチャユニット(picture unit, PU): 指定された分類規則に従って互いに関連付けられ、デコード順序で連続しており、かつ正確に1つのコーディングされたピクチャを含む、NALユニットのセット。
実施形態1
この実施形態では、いつSPSレベルにおいてMVRが有効化されていても(すなわち、SPSレベルにおいてsps_dmvr_enabled_flagが1に設定されている)MVRを無効化するために、ピクチャパラメータセット(PPS)レベルフラグpps_disable_dmvr_flagが提案される。
シンタックス要素はPPS内で以下のようにコーディングされる。
if (sps_dmvr_enabled_flag)
pps_disable_dmvr_flag
それはビットストリーム内で1ビットのフラグとしてエンコードされる。
pps_disable_dmvr_flagのセマンティックは以下の通りである。
- id、pps_picture_parameter_set_idを有するピクチャパラメータセット内でpps_disable_dmvr_flagが1としてデコードされるとき、pps_picture_parameter_set_idを使用するスライスがMVRを無効化する(すなわち、通常のマージモードコーディングユニットに対してデコーダ側動きベクトル精緻化が実行されないものとする)。sps_dmvr_enabled_flagが1であり、かつpps_disable_dmvr_flagが0としてデコードされるとき、pps_picture_parameter_set_idを使用するスライスがMVRを有効化する(すなわち、通常のマージモードコーディングユニットのサブブロックに対してデコーダ側動きベクトル精緻化が実行されるものとする)。
同様に、いつSPSレベルにおいてBDOFが有効化されていても(すなわち、SPSレベルにおいてsps_bdof_enabled_flagが1に設定されている)BDOFを無効化するために、ピクチャパラメータセット(PPS)レベルフラグpps_disable_bdof_flagが提案される。
シンタックス要素はPPS内で以下のようにコーディングされる。
if (sps_bdof_enabled_flag)
pps_disable_bdof_flag
それはビットストリーム内で1ビットのフラグとしてエンコードされる。
pps_disable_bdof_flagのセマンティックは以下の通りである。
id、pps_picture_parameter_set_idを有するピクチャパラメータセット内でpps_disable_bdof_flagが1としてデコードされるとき、pps_picture_parameter_set_idを使用するスライスがBDOFを無効化する(すなわち、通常のマージモードコーディングユニットに対して双方向オプティカルフローインター予測が実行されないものとする)。sps_bdof_enabled_flagが1であり、かつpps_disable_bdof_flagが0としてデコードされるとき、pps_picture_parameter_set_idを使用するスライスがBDOFを有効化する(すなわち、通常のマージモードコーディングユニットのサブブロックに対して双方向オプティカルフローインター予測が実行されるものとする)。
実施形態2
この実施形態では、いつSPSにおいてMVRが有効化されていても(すなわち、SPSレベルにおいてsps_dmvr_enabled_flagが1に設定されている)MVRを無効化するために、スライスヘッダレベルフラグslice_disable_dmvr_flagが提案される。
シンタックス要素はスライスヘッダ内で以下のようにコーディングされる。
if (sps_dmvr_enabled_flag)
slice_disable_dmvr_flag
それはビットストリーム内で1ビットのフラグとしてエンコードされる。
slice_disable_dmvr_flagのセマンティックは以下の通りである。
- スライスが、タイルのグループ、またはタイル内のCTU行のグループを含む場合に、スライスヘッダ内でslice_disable_dmvr_flagが1としてデコードされるとき、スライス内のコーディングユニットがMVRを無効化する(すなわち、通常のマージモードコーディングユニットに対してデコーダ側動きベクトル精緻化が実行されないものとする)。sps_dmvr_enabled_flagが1であり、かつslice_disable_dmvr_flagが0としてデコードされるとき、スライス内のコーディングユニットがMVRを有効化する(すなわち、通常のマージモードコーディングユニットのサブブロックに対してデコーダ側動きベクトル精緻化が実行されるものとする)。
同様に、いつSPSレベルにおいてBDOFが有効化されていても(すなわち、SPSレベルにおいてsps_bdof_enabled_flagが1に設定されている)BDOFを無効化するために、スライスレベルフラグslice_disable_bdof_flagが提案される。
シンタックス要素はPPS内で以下のようにコーディングされる。
if (sps_bdof_enabled_flag)
slice_disable_bdof_flag
それはビットストリーム内で1ビットのフラグとしてエンコードされる。
slice_disable_bdof_flagのセマンティックは以下の通りである。
スライスが、タイルのグループ、またはタイル内のCTU行のグループのいずれかを含む場合に、スライスヘッダ内でslice_disable_bdof_flagが1としてデコードされるとき、スライス内のコーディングユニットがBDOFを無効化する(すなわち、通常のマージモードコーディングユニットに対して双方向オプティカルフローインター予測が実行されないものとする)。sps_bdof_enabled_flagが1であり、かつslice_disable_bdof_flagが0としてデコードされるとき、スライス内のコーディングユニットがBDOFを有効化する(すなわち、通常のマージモードコーディングユニットのサブブロックに対して双方向オプティカルフローインター予測が実行されるものとする)。
実施形態3
この実施形態では、エンコーダは、ビデオの現在のフレーム内でのスクリーンコンテンツの存在を検出するための方法を使用し、それを使用して、それぞれ、所与のアクセスユニットまたはスライスに対して、実施形態1において説明されたpps_disable_dmvr_flagを1に、または実施形態2において説明されたslice_disable_dmvr_flagを1に設定する。
1つの特定の実施形態では、現在のフレームまたはスライスの全ての位置において始まる4×4個のルーマサンプルのブロックに対して、Nビットのハッシュ値が算出される。Nビットのハッシュテーブルが構築され、ここで、テーブルの各エントリは、特定のNビットのハッシュ値を取った4×4個のブロックのカウントを含む。全てのハッシュテーブルエントリに渡って、1よりも大きいカウント値を有する全てのエントリの総和が算出される。この総和が、予め決定されたしきい値を超えるならば(ここで、しきい値は、通常、サンプル位置の総数の、あるパーセンテージとして算出される)、現在のフレームまたはスライスは、スクリーンコンテンツを含むものと宣言される。現在のフレームまたはスライスのこの事前分析、およびそれがフレームの少なくともあるパーセンテージのエリア内にスクリーンコンテンツを有するという結論を使用して、現在のフレームに対してpps_disable_dmvr_flagが1に設定されるか、または現在のスライスに対してslice_disable_dmvr_flagが1に設定される。そして、現在のフレームまたは現在のスライスの少なくともあるパーセンテージのエリア内にいくつかのスクリーンコンテンツがあるという結論に基づいて、またはpps_disable_dmvr_flagまたはslice_disable_dmvr_flagの値に基づいて、現在のフレームまたは現在のスライスがエンコードされて現在のフレームまたは現在のスライスに対するコーディングされたデータを取得する。
実施形態4
この実施形態では、エンコーダは、DMVRを用いて、およびDMVRなしで取得された予測残差に対して、絶対変換差分の和(sum of absolute transform differences, SATD)を基にしたコスト計算の総和を実行する。再帰の後のコーディングユニットに対する、DMVRを用いた、およびDMVRなしのSATDを基にしたコストが、現在のフレームの全てのコーディングユニットに渡って別個に累積される。DMVRを用いた累積されたコストがDMVRなしの累積されたコストよりも大きいとき、エンコーダがシーン変化を検出するかまたはイントラピクチャをエンコードするかのいずれかまで、提案されるpps_disable_dmvr_flagを現在のフレームに対して1に設定することによって、または現在のフレームを再エンコードすることにより、提案されるpps_disable_dmvr_flagを現在のフレームに対して1に設定することによって、またはエンコーダの順序での後続のピクチャに対してpps_disable_dmvr_flagを1に設定することによって、DMVRを無効化するための決定が行われる。そして、DMVRを用いた累積されたコストがDMVRなしの累積されたコストよりも大きいという結論に基づいて、または現在のフレームまたは後続のピクチャに対するpps_disable_dmvr_flagの値に基づいて、現在のフレームまたは後続のピクチャがエンコードされて現在のフレームまたは後続のピクチャに対するコーディングされたデータを取得する。用語、再エンコードは、実際には現在のフレームをエンコードする第2のパスを指す。DMVRは、DMVRを用いた、およびDMVRなしのコストを累積した後、現在のフレームの第1のパスの間に最初に有効化された(ここで、DMVRを適用すべき条件を現在のCUが満たすとき、DMVRを用いることが標準的に要求される)。ここで、フレームレベルにおいて、DMVRなしのコストがより良いならば、フレーム全体が、ここでPPSレベルにおいてDMVRが無効化されて再びエンコードされる。
特に、図8に例示されたような、エンコードデバイス内で実現される、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードする方法が提供される。複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対してデコーダ動きベクトル精緻化(DMVR)を基にしたインター双予測が有効化されるかどうかが決定される(1010)。決定プロセスの結果に基づいて、シーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルにおいてDMVRに対する無効化フラグ(例えば、1ビットのフラグ)の値が設定される(1020)。無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるか否かを指定する。
さらに、図9に例示されたような、エンコードデバイス内で実現される、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードする方法が提供される。方法は、複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対して双方向オプティカルフロー(BDOF)インター予測が有効化されるかどうかを決定すること(1110)を備える。さらに、方法は、BDOFインター予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセットレベル(SPS)より低い階層のシンタックス構造レベルにおいてBDOFに対する無効化フラグ(例えば、1ビットのフラグ)の値を設定すること(1120)を備え、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が有効化されるか否かを指定する。
同様に、ビデオビットストリームをデコードする方法が提供される。特に、図10に例示されたような、デコードデバイスによって実現される、複数のピクチャのためのコーディングされたデータを含むビデオビットストリームをデコードする方法が提供される。この例によるデコード方法は、ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化(DMVR)に対する有効化フラグを構文解析すること(1210)を備え、DMVRに対する有効化フラグは、シーケンスパラメータセットに関連付けられた複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する。さらに、この例によるデコード方法は、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からDMVRに対する無効化フラグを構文解析すること(1220)を備え、DMVRに対する無効化フラグは、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が無効化されるか否かを指定し、現在のピクチャは、複数のピクチャに属する。さらに、この例によるデコード方法は、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してDMVRを基にしたインター双予測を実行して、現在のブロックの予測されたサンプル値を取得すること(1230)を備え、少なくとも1つの予め定義された条件は、DMVRを基にしたインター双予測が有効化されることを無効化フラグの構文解析された値が指定することを備える。
双方向オプティカルフロー処理を有効化または無効化することに関する類似する手順、すなわち、図11に例示されたような、デコードデバイスによって実現される、ビデオビットストリームが複数のピクチャのためのコーディングされたデータを含む、ビデオビットストリームをデコードする方法が提供される。この例によるデコード方法は、ビデオビットストリームのシーケンスパラメータセットから双方向オプティカルフロー(BDOF)に対する有効化フラグを構文解析すること(1310)であって、BDOFに対する有効化フラグが、シーケンスパラメータセットに関連付けられた複数のピクチャに対してBDOFインター予測が有効化されるか否かを指定する、前記構文解析することと、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からBDOFに対する無効化フラグを構文解析すること(1320)とを備える。BDOFに対する無効化フラグは、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が無効化されるか否かを指定し、現在のピクチャは、複数のピクチャに属する。この例によれば、方法は、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してBDOFインター予測を実行して、現在のブロックの予測されたサンプル値を取得すること(1330)をさらに備え、少なくとも1つの予め定義された条件は、BDOFインター予測が有効化されることを無効化フラグの構文解析された値が指定することを備える。
これらの方法では、無効化フラグは、PPSレベルまたはスライスヘッダレベルにおいて設定されてよい。これらの方法は、図1aから5を参照して上記で説明された装置において、および適切な場合、以下で説明されるデバイスのうちの1つにおいて、容易に実現されることが可能である。図12から15を参照して以下で説明されるデバイスの各々は、適切な場合、他のデバイスのうちの1つまたは複数と組み合わせられてよく、または他のデバイスのうちの1つまたは複数を備え、またはその中に備えられてよい。
図12は、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードするように構成された画像エンコーダにおける使用のためのデバイス1400を例示する。表された例によるデバイス1400は、複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対してデコーダ動きベクトル精緻化(DMVR)を基にしたインター双予測が有効化されるかどうかを決定するように構成されたDMVR決定ユニット1410を備える。さらに、デバイス1400は、DMVRを基にしたインター双予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベル(例えば、PPSレベルまたはスライスヘッダレベル)においてDMVRに対する無効化フラグの値を設定するように構成されたDMVRフラグ設定ユニット1420を備え、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるか否かを指定する。SPSレベルにおけるDMVRに対する有効化フラグ、複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する有効化フラグはまた、フラグ設定ユニット1420、またはデバイス1400の別のフラグ設定ユニットによって設定されてよい。
同様に、図13に例示されたような、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードするように構成された画像エンコーダにおける使用のためのデバイス1500が提供される。デバイス1500は、複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対して双方向オプティカルフロー(BDOF)インター予測が有効化されるかどうかを決定するように構成されたBDOFインター予測決定ユニット1510を備える。さらに、デバイス1500は、BDOFインター予測が有効化されるかどうかを決定した結果に基づいて、シーケンスパラメータセットレベル(SPS)より低い階層のシンタックス構造レベル(例えば、PPSレベルまたはスライスヘッダレベル)においてBDOFに対する無効化フラグの値を設定するように構成されたBDOFフラグ設定ユニット1520を備え、無効化フラグの値は、現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が有効化されるか否かを指定する。SPSレベルにおけるBDOFに対する有効化フラグ、複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する有効化フラグはまた、フラグ設定ユニット1520、またはデバイス1500の別のフラグ設定ユニットによって設定されてよい。
別の実施形態によれば、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをデコードするように構成された画像デコーダにおける使用のためのデバイス1600が、図14に例示されたように提供される。デバイス1600は、ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化(DMVR)に対する有効化フラグを構文解析するように構成された第1の構文解析ユニット1610を備え、DMVRに対する有効化フラグは、シーケンスパラメータセットに関連付けられた複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する。さらに、デバイス1600は、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベル(例えば、PPSレベルまたはスライスヘッダレベル)のシンタックス構造からDMVRに対する無効化フラグを構文解析するように構成された第2の構文解析ユニット1620を備え、DMVRに対する無効化フラグは、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が無効化されるか否かを指定し、現在のピクチャは、複数のピクチャに属する。加えて、デバイス1600は、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してDMVRを基にしたインター双予測を実行して、現在のブロックの予測されたサンプル値を取得するように構成されたDMVR実行ユニット1630を備え、少なくとも1つの予め定義された条件は、DMVRを基にしたインター双予測が有効化されることを無効化フラグの構文解析された値が指定することを備える。
同様に、図15に例示されたような、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをデコードするように構成された画像デコーダにおける使用のためのデバイス1700が提供される。デバイス1700は、ビデオビットストリームのシーケンスパラメータセットから双方向オプティカルフロー(BDOF)に対する有効化フラグを構文解析するように構成された第1の構文解析ユニット1710を備え、BDOFに対する有効化フラグは、シーケンスパラメータセットに関連付けられた複数のピクチャに対してBDOFインター予測が有効化されるか否かを指定する。さらに、デバイス1700は、ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベル(例えば、PPSレベルまたはスライスヘッダレベル)のシンタックス構造からBDOFに対する無効化フラグを構文解析するように構成された第2の構文解析ユニット1720を備え、BDOFに対する無効化フラグは、シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してBDOFインター予測が無効化されるか否かを指定し、現在のピクチャは、複数のピクチャに属する。加えて、デバイス1700は、少なくとも1つの予め定義された条件が充足されるとき、現在のピクチャの少なくとも1つの領域内の現在のブロックに対してBDOFインター予測を実行して、現在のブロックの予測されたサンプル値を取得するように構成されたBDOF実行ユニット1730を備え、少なくとも1つの予め定義された条件は、BDOFインター予測が有効化されることを無効化フラグの構文解析された値が指定することを備える。
以下は、エンコード方法、並びに上記で述べた実施形態に表されたようなデコード方法、およびそれらを使用するシステムの適用の説明である。
図16は、コンテンツ配信サービスを実現するためのコンテンツ供給システム3100を表すブロック図である。このコンテンツ供給システム3100は、キャプチャデバイス3102、端末デバイス3106を含み、任意選択でディスプレイ3126を含む。キャプチャデバイス3102は、通信リンク3104上で端末デバイス3106と通信する。通信リンクは、上記で説明された通信チャネル13を含んでよい。通信リンク3104は、WIFI、Ethernet、ケーブル、無線(3G/4G/5G)、USB、またはそれらの任意の種類の組み合わせ、または同様のものを含むが、それらに限定されない。
キャプチャデバイス3102は、データを生成し、上記の実施形態に表されたようなエンコード方法によってデータをエンコードし得る。代替として、キャプチャデバイス3102は、ストリーミングサーバ(図に表されていない)にデータを配信してよく、サーバは、データをエンコードし、エンコードされたデータを端末デバイス3106へ伝送する。キャプチャデバイス3102は、カメラ、スマートフォンまたはパッド、コンピュータまたはラップトップ、ビデオ会議システム、PDA、車両搭載型デバイス、またはそれらのいずれかの組み合わせ、または同様のものを含むが、それらに限定されない。例えば、キャプチャデバイス3102は、上記で説明されたようなソースデバイス12を含んでよい。データがビデオを含むとき、キャプチャデバイス3102内に含まれるビデオエンコーダ20が、実際にビデオエンコード処理を実行し得る。データがオーディオ(すなわち、音声)を含むとき、キャプチャデバイス3102内に含まれるオーディオエンコーダが、実際にオーディオエンコード処理を実行し得る。いくつかの実際的なシナリオについて、キャプチャデバイス3102は、エンコードされたビデオおよびオーディオデータを、それらを一緒に多重化することによって配信する。他の実際的なシナリオについて、例えば、ビデオ会議システムでは、エンコードされたオーディオデータおよびエンコードされたビデオデータは多重化されない。キャプチャデバイス3102は、エンコードされたオーディオデータおよびエンコードされたビデオデータを端末デバイス3106に別々に配信する。
コンテンツ供給システム3100において、端末デバイス310は、エンコードされたデータを受信および再生する。端末デバイス3106は、上記で述べたエンコードされたデータをデコードすることが可能な、スマートフォンまたはパッド3108、コンピュータまたはラップトップ3110、ネットワークビデオレコーダ(network video recorder(NVR))／デジタルビデオレコーダ(digital video recorder(DVR))3112、TV 3114、セットトップボックス(set top box(STB))3116、ビデオ会議システム3118、ビデオ監視システム3120、パーソナルデジタルアシスタント(personal digital assistant(PDA))3122、車両搭載型デバイス3124、またはそれらのいずれかの組み合わせ、または同様のもののような、データ受信および復元能力を有するデバイスであることが可能である。例えば、端末デバイス3106は、上記で説明されたような宛先デバイス14を含んでよい。エンコードされたデータがビデオを含むとき、端末デバイス内に含まれるビデオデコーダ30は、ビデオデコードを実行するように優先順位付けされる。エンコードされたデータがオーディオを含むとき、端末デバイス内に含まれるオーディオデコーダは、オーディオデコード処理を実行するように優先順位付けされる。
そのディスプレイを有する端末デバイス、例えば、スマートフォンまたはパッド3108、コンピュータまたはラップトップ3110、ネットワークビデオレコーダ(NVR)／デジタルビデオレコーダ(DVR)3112、TV 3114、パーソナルデジタルアシスタント(PDA)3122、または車両搭載型デバイス3124に対して、端末デバイスは、そのディスプレイにデコードされたデータを供給することができる。ディスプレイが装備されていない端末デバイス、例えば、STB 3116、ビデオ会議システム3118、またはビデオ監視システム3120に対して、デコードされたデータを受信および表示するために外部ディスプレイ3126がそこに接触される。
このシステム内の各デバイスがエンコードまたはデコードを実行するとき、上記で述べた実施形態に表されたように、ピクチャエンコードデバイスまたはピクチャデコードデバイスが使用されることが可能である。
図17は、端末デバイス3106の一例の構造を表す図である。端末デバイス3106がキャプチャデバイス3102からストリームを受信した後、プロトコル進行ユニット3202がストリームの伝送プロトコルを分析する。プロトコルは、リアルタイム・ストリーミング・プロトコル(Real Time Streaming Protocol(RTSP))、ハイパーテキスト転送プロトコル(Hyper Text Transfer Protocol(HTTP))、HTTPライブ・ストリーミング・プロトコル(HTTP Live streaming protocol(HLS))、MPEG-DASH、リアルタイム・トランスポート・プロトコル(Real-time Transport protocol(RTP))、リアルタイム・メッセージング・プロトコル(Real Time Messaging Protocol(RTMP))、またはそれらの任意の種類の組み合わせ、または同様のものを含むが、それらに限定されない。
プロトコル進行ユニット3202がストリームを処理した後、ストリームファイルが生成される。ファイルは逆多重化ユニット3204に出力される。逆多重化ユニット3204は、多重化されたデータをエンコードされたオーディオデータおよびエンコードされたビデオデータに分離することができる。上記で説明されたように、いくつかの実際的なシナリオについて、例えば、ビデオ会議システムでは、エンコードされたオーディオデータおよびエンコードされたビデオデータは多重化されない。この状況では、エンコードされたデータは、逆多重化ユニット3204を通すことなくビデオデコーダ3206およびオーディオデコーダ3208へ伝送される。
逆多重化処理を介して、ビデオエレメンタリストリーム(elementary stream(ES))、オーディオES、および任意選択でサブタイトルが生成される。上記で述べた実施形態で説明されたようなビデオデコーダ30を含むビデオデコーダ3206は、上記で述べた実施形態に表されたようなデコード方法によってビデオESをデコードしてビデオフレームを生成し、このデータを同期ユニット3212に供給する。オーディオデコーダ3208は、オーディオESをデコードしてオーディオフレームを生成し、このデータを同期ユニット3212に供給する。代替として、ビデオフレームは、それを同期ユニット3212に供給する前にバッファ(図17に表されていない)に記憶し得る。同様に、オーディオフレームは、それを同期ユニット3212に供給する前にバッファ(図17に表されていない)に記憶し得る。
同期ユニット3212は、ビデオフレームとオーディオフレームを同期させ、ビデオ／オーディオをビデオ／オーディオディスプレイ3214に供給する。例えば、同期ユニット3212は、ビデオおよびオーディオ情報の提示を同期させる。情報は、コーディングされたオーディオおよびビジュアルデータの提示に関係するタイムスタンプ、およびデータストリーム自体の配信に関係するタイムスタンプを使用してシンタックス内にコーディングし得る。
ストリーム内にサブタイトルが含まれるならば、サブタイトルデコーダ3210が、サブタイトルをデコードし、それをビデオフレームおよびオーディオフレームと同期させ、ビデオ／オーディオ／サブタイトルをビデオ／オーディオ／サブタイトルディスプレイ3216に供給する。
本発明は上記で述べたシステムに限定されず、上記で述べた実施形態におけるピクチャエンコードデバイスまたはピクチャデコードデバイスのいずれかは、他のシステム、例えば、自動車システムの中に組み込まれることが可能である。
さらに、以下の実施形態が提供される。
1. デコードデバイスによって実現される、ビデオビットストリームのデコードの方法であって、ビデオビットストリームが、複数のピクチャのためのコーディングされたデータを含み、デコード方法は、
ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化を基にしたインター双予測(DMVR)に対する有効化フラグを構文解析するステップであって、DMVRが、シーケンスパラメータセットに関連付けられた複数のピクチャに対して実行されることを有効化されるかどうかを、DMVRに対する有効化フラグが指定する、ステップと、
ビデオビットストリームのピクチャパラメータセットからDMVRに対する無効化フラグを構文解析するステップであって、DMVRが、ピクチャパラメータセットに関連付けられた現在のピクチャに対して実行されることを無効化されるかどうかを、DMVRに対する無効化フラグが指定し、現在のピクチャが、複数のピクチャに属する、ステップと、
少なくとも2つの条件が満たされる場合には、現在のピクチャ内の現在のブロックに対してDMVRを実行して、現在のブロックの予測されたサンプル値を取得するステップであって、少なくとも2つの条件が、DMVRが複数のピクチャに対して実行されることを有効化されることをDMVRに対する有効化フラグの値が指定すること、およびDMVRが現在のピクチャに対して実行されることを有効化されることをDMVRに対する無効化フラグの値が指定することを備える、ステップとを備える。
2. 実施形態1のデコード方法であって、デコード方法は、
DMVRが現在のピクチャに対して実行されることを無効化されることを、DMVRに対する無効化フラグの値が指定する場合には、現在のピクチャに対してDMVR以外の予測動作を実行して、現在のピクチャの予測されたサンプル値を取得することをさらに備える。
3. デコードデバイスによって実現される、ビデオビットストリームのデコードの方法であって、ビデオビットストリームが、複数のピクチャのためのコーディングされたデータを含み、デコード方法は、
ビデオビットストリームのシーケンスパラメータセットから双方向オプティカルフロー(BDOF)に対する有効化フラグを構文解析するステップであって、BDOFが、シーケンスパラメータセットに関連付けられた複数のピクチャに対して実行されることを有効化されるかどうかを、BDOFに対する有効化フラグが指定する、ステップと、
ビデオビットストリームのピクチャパラメータセットからBDOFに対する無効化フラグを構文解析するステップであって、BDOFが、ピクチャパラメータセットに関連付けられた現在のピクチャに対して実行されることを無効化されるかどうかを、BDOFに対する無効化フラグが指定し、現在のピクチャが、複数のピクチャに属する、ステップと、
少なくとも2つの条件が満たされる場合には、現在のピクチャ内の現在のブロックに対してBDOFを実行して、現在のブロックの予測されたサンプル値を取得するステップであって、少なくとも2つの条件が、BDOFが複数のピクチャに対して実行されることを有効化されることをBDOFに対する有効化フラグの値が指定すること、およびBDOFが現在のピクチャに対して実行されることを有効化されることをBDOFに対する無効化フラグの値が指定することを備える、ステップとを備える。
4. 実施形態3のデコード方法であって、デコード方法は、
BDOFが現在のピクチャに対して実行されることを無効化されることを、BDOFに対する無効化フラグの値が指定する場合には、現在のピクチャに対してBDOF以外の予測動作を実行して、現在のピクチャの予測されたサンプル値を取得することをさらに備える。
5. デコードデバイスによって実現される、ビデオビットストリームのデコードの方法であって、ビデオビットストリームが、複数のピクチャのためのコーディングされたデータを含み、デコード方法は、
ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化を基にしたインター双予測(DMVR)に対する有効化フラグを構文解析するステップであって、DMVRが、シーケンスパラメータセットに関連付けられた複数のピクチャに対して実行されることを有効化されるかどうかを、DMVRに対する有効化フラグが指定する、ステップと、
ビデオビットストリームのスライスヘッダからDMVRに対する無効化フラグを構文解析するステップであって、DMVRが、スライスヘッダに関連付けられた現在のスライスに対して実行されることを無効化されるかどうかを、DMVRに対する無効化フラグが指定し、現在のスライスが、複数のピクチャ内の現在のピクチャに属する、ステップと、
少なくとも2つの条件が満たされる場合には、現在のスライス内の現在のブロックに対してDMVRを実行して、現在のブロックの予測されたサンプル値を取得するステップであって、少なくとも2つの条件が、DMVRが複数のピクチャに対して実行されることを有効化されることをDMVRに対する有効化フラグの値が指定すること、およびDMVRが現在のスライスに対して実行されることを有効化されることをDMVRに対する無効化フラグの値が指定することを備える、ステップとを備える。
6. 実施形態5のデコード方法であって、デコード方法は、
DMVRが現在のスライスに対して実行されることを無効化されることを、DMVRに対する無効化フラグの値が指定する場合には、現在のピクチャに対してDMVR以外の予測動作を実行して、現在のスライスの予測されたサンプル値を取得することをさらに備える。
7. デコードデバイスによって実現される、ビデオビットストリームのデコードの方法であって、ビデオビットストリームが、複数のピクチャのためのコーディングされたデータを含み、デコード方法は、
ビデオビットストリームのシーケンスパラメータセットから双方向オプティカルフロー(BDOF)に対する有効化フラグを構文解析するステップであって、BDOFが、シーケンスパラメータセットに関連付けられた複数のピクチャに対して実行されることを有効化されるかどうかを、BDOFに対する有効化フラグが指定する、ステップと、
ビデオビットストリームのスライスヘッダからBDOFに対する無効化フラグを構文解析するステップであって、BDOFが、スライスヘッダに関連付けられた現在のスライスに対して実行されることを無効化されるかどうかを、BDOFに対する無効化フラグが指定し、現在のスライスが、複数のピクチャ内の現在のピクチャに属する、ステップと、
少なくとも2つの条件が満たされる場合には、現在のスライス内の現在のブロックに対してBDOFを実行して、現在のブロックの予測されたサンプル値を取得するステップであって、少なくとも2つの条件が、BDOFが複数のピクチャに対して実行されることを有効化されることをBDOFに対する有効化フラグの値が指定すること、およびBDOFが現在のスライスに対して実行されることを有効化されることをBDOFに対する無効化フラグの値が指定することを備える、ステップとを備える。
8. 実施形態7のデコード方法であって、デコード方法は、
BDOFが現在のスライスに対して実行されることを無効化されることを、BDOFに対する無効化フラグの値が指定する場合には、現在のピクチャに対してBDOF以外の予測動作を実行して、現在のスライスの予測されたサンプル値を取得することをさらに備える。
提案される発明の利益
DMVRまたはBDOFに対する、提案されるピクチャパラメータセットレベルまたはスライスレベルの無効化フラグは、標準的でないアルゴリズムが、DMVRまたはBDOFの背後の仮定が満たされるかどうかを見るためにコンテンツを分析することを可能にし、従って、DMVRまたはBDOFを無効化するために提案されたフラグを使用する。従って、仮定が満たされないときにDMVRまたはBDOFを有効化することによって招かれるいかなるコーディング損失も回避される。
数学演算子
この出願において使用される数学演算子は、Cプログラミング言語において使用されるものと類似である。しかし、整数除算および算術シフト演算の結果がより精密に定義され、べき乗および実数値除算のような追加の演算が定義される。番号付けおよび計数の規約は、一般に、0から始まり、例えば、「第1」が0番目と等価であり、「第2」が1番目と等価である、などである。
算術演算子
以下の算術演算子は以下のように定義される。
+ 加算。
- 減算(2つの引数の演算子として)または符号反転(単項前置演算子として)。
* 乗算、行列乗算を含む。
xy べき乗。xのy乗を指定する。他の文脈では、そのような表記法は、べき乗としての解釈のために意図されない上付き文字にするために使用される。
/ 結果の0への切り捨てを伴う整数除算。例えば、7/4および-7/-4は1に切り捨てられ、-7/4および7/-4は-1に切り捨てられる。
÷ 切り捨てまたは丸めが意図されない、数式における除算を表記するために使用される。
Figure 0007471328000019
切り捨てまたは丸めが意図されない、数式における除算を表記するために使用される。
Figure 0007471328000020
iがxからyまで、かつyを含む全ての整数値をとる、f(i)の総和。
x % y 法。x>=0かつy>0となる整数xおよびyのみについて定義される、xをyで除算した剰余。
論理演算子
以下の論理演算子は以下のように定義される。
x && y xとyのブール論理の「論理積」。
x || y xとyのブール論理の「論理和」。
! ブール論理の「否定」。
x ? y : z xがTRUE、すなわち0に等しくないならば、yの値に評価し、そうでなければ、zの値に評価する。
関係演算子
以下の関係演算子は以下のように定義される。
> よりも大きい。
>= 以上。
< よりも小さい。
<= 以下。
== 等しい。
!= 等しくない。
値「na」(適用可能でない)が割り当てられているシンタックス要素または変数に関係演算子が適用されるとき、値「na」は、そのシンタックス要素または変数について特別な値として扱われる。値「na」は、いかなる他の値にも等しくないと見なされる。
ビット単位演算子
以下のビット単位演算子は以下のように定義される。
& ビット単位の「論理積」。整数の引数に対して演算するとき、整数値の2の補数表現に対して演算する。別の引数よりも少ないビットを含む2進数の引数に対して演算するとき、より短い引数は、0に等しいより上位のビットを追加することによって拡張される。
| ビット単位の「論理和」。整数の引数に対して演算するとき、整数値の2の補数表現に対して演算する。別の引数よりも少ないビットを含む2進数の引数に対して演算するとき、より短い引数は、0に等しいより上位のビットを追加することによって拡張される。
^ ビット単位の「排他的論理和」。整数の引数に対して演算するとき、整数値の2の補数表現に対して演算する。別の引数よりも少ないビットを含む2進数の引数に対して演算するとき、より短い引数は、0に等しいより上位のビットを追加することによって拡張される。
x >> y xの2の補数整数表現の、2進数のy桁だけの算術右シフト。この関数は、yの非負の整数値に対してのみ定義される。右シフトの結果として最上位ビット(most significant bit(MSB))にシフトされるビットは、そのシフト演算の前のxのMSBに等しい値を有する。
x << y xの2の補数整数表現の、2進数のy桁だけの算術左シフト。この関数は、yの非負の整数値に対してのみ定義される。左シフトの結果として最下位ビット(least significant bit(LSB))にシフトされるビットは、0に等しい値を有する。
割当て演算子
以下の算術演算子は以下のように定義される。
= 割当て演算子。
++ インクリメント、すなわち、x++はx = x + 1と等価であり、アレイインデックスにおいて使用されるとき、インクリメント演算の前の変数の値に評価する。
-- デクリメント、すなわち、x--はx = x - 1と等価であり、アレイインデックスにおいて使用されるとき、デクリメント演算の前の変数の値に評価する。
+= 指定された量だけのインクリメント、すなわち、x += 3はx = x + 3と等価でありx += (-3)はx = x + (-3)と等価である。
-= 指定された量だけのデクリメント、すなわち、x -= 3はx = x - 3と等価であり、x -= (-3)はx = x - (-3)と等価である。
範囲表記法
値の範囲を指定するために以下の表記法が使用される。
x=y..z xは、yから始まりzまでの全てを含む整数値をとり、x、y、およびzは整数であり、zはyよりも大きい。
数学関数
以下の数学関数が定義される。
Figure 0007471328000021
Asin(x) -1.0～1.0の全てを含む範囲内にある引数xに対して演算し、ラジアンの単位での-π÷2からπ÷2の全てを含む範囲内の出力値を有する、三角法の逆正弦関数。
Atan(x) 引数xに対して演算し、ラジアンの単位での-π÷2からπ÷2の全てを含む範囲内の出力値を有する、三角法の逆正接関数。
Figure 0007471328000022
Ceil(x) x以上の最小の整数。
Clip1Y( x ) = Clip3( 0, ( 1 << BitDepthY ) - 1, x )
Clip1C( x ) = Clip3( 0, ( 1 << BitDepthC ) - 1, x )
Figure 0007471328000023
Cos(x) ラジアンの単位での引数xに対して演算する、三角法の余弦関数。
Floor(x) x以下の最大の整数。
Figure 0007471328000024
Ln(x) xの自然対数(eを底とする対数、ここで、eは自然対数の底定数2.718 281 828...である)。
Log2(x) 2を底とするxの対数。
Log10(x) 10を底とするxの対数。
Figure 0007471328000025
Round( x ) = Sign( x ) * Floor( Abs( x ) + 0.5 )
Figure 0007471328000026
Sin(x) ラジアンの単位での引数xに対して演算する、三角法の正弦関数。
Figure 0007471328000027
Swap( x, y ) = ( y, x )
Tan(x) ラジアンの単位での引数xに対して演算する、三角法の正接関数。
演算優先順位の順序
式における優先順位の順序が括弧の使用によって明示的には示されないとき、以下の規則が適用される。
- より高い優先順位の演算は、より低い優先順位の任意の演算の前に評価される。
- 同じ優先順位の演算は、左から右へ順次に評価される。
以下の表は、最高から最低までの演算の優先順位を指定し、表内のより高い位置がより高い優先順位を示す。
Cプログラミング言語においても使用されるそれらの演算子について、この明細書において使用される優先順位の順序は、Cプログラミング言語において使用されるのと同じである。
Figure 0007471328000028
論理演算の本文記述
本文の中で、以下の形式で数学的に記述されることになるような論理演算のステートメント、すなわち、
if(条件0)
ステートメント0
else if(条件1)
ステートメント1
...
else /* 残りの条件における説明的な注釈 */
ステートメントn
は、以下の形態で説明され得る。
...以下のように／...以下が適用される
- 条件0ならば、ステートメント0
- そうでなく、条件1ならば、ステートメント1
- ...
- そうでなければ(残りの条件における説明的な注釈)、ステートメントn
本文の中の各々の「...ならば、そうでなく...ならば、そうでなければ...」のステートメントは、その直後に「...ならば」が来る、「...以下のように」または「...以下が適用される」を用いて導入される。「...ならば、そうでなく...ならば、そうでなければ...」の最後の条件は、常に「そうでなければ...」である。交互に配置された「...ならば、そうでなく...ならば、そうでなければ...」のステートメントは、「...以下のように」または「...以下が適用される」を、終わりの「そうでなければ...」に整合させることによって識別されることが可能である。
本文の中で、以下の形式で数学的に記述されることになるような論理演算のステートメント、すなわち、
if(条件0a && 条件0b)
ステートメント0
else if(条件1a || 条件1b)
ステートメント1
...
else
ステートメントn
は、以下の形態で説明され得る。
...以下のように／...以下が適用される
- 以下の条件の全てが真であるならば、ステートメント0:
- 条件0a
- 条件0b
- そうでなく、以下の条件のうちの1つまたは複数が真であるならば、ステートメント1:
- 条件1a
- 条件1b
- ...
- そうでなければ、ステートメントn
本文の中で、以下の形式で数学的に記述されることになるような論理演算のステートメント、すなわち、
if(条件0)
ステートメント0
if(条件1)
ステートメント1
は、以下の形態で説明され得る。
条件0のとき、ステートメント0
条件1のとき、ステートメント1
発明の実施形態はビデオコーディングに基づいて主に説明されているが、コーディングシステム10、エンコーダ20、およびデコーダ30(およびそれに対応してシステム10)の実施形態、およびここで説明される他の実施形態がまた、静止ピクチャ処理またはコーディング、すなわち、ビデオコーディングにおけるような任意の先行するまたは連続したピクチャから独立した、個々のピクチャの処理またはコーディングのために構成され得ることが注記されるべきである。一般に、ピクチャ処理コーディングが単一のピクチャ17に限定される場合には、インター予測ユニット244(エンコーダ)および344(デコーダ)のみが利用可能でなくてよい。ビデオエンコーダ20およびビデオデコーダ30の全ての他の機能(ツールまたは技術とも呼ばれる)は、静止ピクチャ処理、例えば、残差計算204/304、変換206、量子化208、逆量子化210/310、(逆)変換212/312、区分262/362、イントラ予測254/354、および／またはループフィルタ処理220、320、およびエントロピーコーディング270およびエントロピーデコード304のために等しく使用され得る。
例えば、エンコーダ20およびデコーダ30の実施形態、および、例えば、エンコーダ20およびデコーダ30を参照してここで説明される機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組み合わせで実現され得る。ソフトウェアで実現されるならば、機能は、1つまたは複数の命令またはコードとして、コンピュータ可読媒体において記憶され、または通信媒体上で伝送され、ハードウェアを基にした処理ユニットによって実行されてよい。コンピュータ可読媒体は、データ記憶媒体のような有形媒体に対応するコンピュータ可読記憶媒体、または、例えば、通信プロトコルに従って、1つの場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体を含んでよい。この形態において、コンピュータ可読媒体は、一般に、(1)非一時的である有形コンピュータ可読記憶媒体、または(2)信号または搬送波のような通信媒体に対応し得る。データ記憶媒体は、この開示において説明される技法の実装のための命令、コード、および／またはデータ構造を取り出すために、1つまたは複数のコンピュータまたは1つまたは複数のプロセッサによってアクセスされることが可能である任意の利用可能な媒体であってよい。コンピュータプログラム製品がコンピュータ可読媒体を含んでよい。
例として、かつ限定せず、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD-ROM、または他の光ディスク記憶、磁気ディスク記憶、または他の磁気記憶デバイス、フラッシュメモリ、または命令またはデータ構造の形式で所望のプログラムコードを記憶するために使用されることが可能であり、コンピュータによってアクセスされることが可能である任意の他の媒体を備えることができる。また、任意の接続が、コンピュータ可読媒体と適切に呼ばれる。例えば、命令が、同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線(digital subscriber line(DSL))、または赤外線、無線、およびマイクロ波のような無線技術を使用して、ウェブサイト、サーバ、または他のリモートソースから伝送されるならば、同軸ケーブル、光ファイバケーブル、ツイストペア、DSL、または赤外線、無線、およびマイクロ波のような無線技術は、媒体の定義の中に含まれる。しかし、コンピュータ可読記憶媒体およびデータ記憶媒体が、接続、搬送波、信号、または他の一時的媒体を含まないが、代わりに非一時的有形記憶媒体を対象とすることが理解されるべきである。ここで使用されるようなディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピーディスク(disk)、およびBlu-ray(登録商標)ディスク(disc)を含み、ここで、ディスク(disk)は、通常、データを磁気的に再生し、一方、ディスク(disc)は、レーザーを用いてデータを光学的に再生する。上記のものの組み合わせも、コンピュータ可読媒体の範囲内に含まれるべきである。
命令は、1つまたは複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブル論理アレイ(FPGA)、または他の等価な集積論理回路または個別論理回路のような1つまたは複数のプロセッサによって実行され得る。従って、ここで使用されるような用語「プロセッサ」は、上記の構造またはここで説明される技法の実装のために適した任意の他の構造のいずれかを指し得る。加えて、いくつかの態様では、ここで説明される機能は、エンコードおよびデコードするために構成された専用のハードウェアおよび／またはソフトウェアモジュール内で提供され、または組み合わせられたコーデック内に組み込まれ得る。また、技法は、1つまたは複数の回路または論理要素内で十分に実現されることが可能である。
この開示の技法は、無線ハンドセット、集積回路(IC)、またはICのセット(例えば、チップセット)を含む、広く様々なデバイスまたは装置内で実現され得る。様々な構成要素、モジュール、またはユニットは、開示される技法を実行するように構成されたデバイスの機能的態様を強調するためにこの開示において説明されているが、異なるハードウェアユニットによる実現を必ずしも要求しない。むしろ、上記で説明されたように、様々なユニットが、コーデックハードウェアユニット内で組み合わせられ、または上記で説明されたような1つまたは複数のプロセッサを含む、相互動作可能なハードウェアユニットの集合によって、適したソフトウェアおよび／またはファームウェアとともに提供されてよい。
10 ビデオコーディングシステム
12 ソースデバイス
13 通信チャネル
14 宛先デバイス
16 ピクチャソース
17 ピクチャ、ピクチャデータ、未加工ピクチャ、未加工ピクチャデータ
18 プリプロセッサ、前処理ユニット
19 前処理されたピクチャ、前処理されたピクチャデータ
20 ビデオエンコーダ
21 エンコードされたピクチャデータ
22 通信インターフェース、通信ユニット
28 通信インターフェース、通信ユニット
30 ビデオデコーダ、ショートデコーダ
31 デコードされたピクチャ、デコードされたピクチャデータ
32 ポストプロセッサ、後処理ユニット
33 後処理されたピクチャ、後処理されたピクチャデータ
34 ディスプレイデバイス
46 処理回路
201 入力、入力インターフェース
203 ピクチャブロック
204 残差計算ユニット
205 残差ブロック、残差
206 変換処理ユニット
207 変換係数
208 量子化ユニット
209 量子化された係数、量子化された変換係数、量子化された残差係数
210 逆量子化ユニット
211 量子化解除された係数、量子化解除された残差係数
212 逆変換処理ユニット
213 再構成された残差ブロック、対応する量子化解除された係数、変換ブロック
214 再構成ユニット
215 再構成されたブロック
220 ループフィルタユニット
221 フィルタ処理されたブロック、フィルタ処理された再構成されたブロック
230 デコードされたピクチャバッファ
231 デコードされたピクチャ
244 インター予測ユニット
254 イントラ予測ユニット
260 モード選択ユニット
262 区分ユニット
265 予測ブロック、予測子
266 シンタックス要素
270 エントロピーエンコードユニット
272 出力、出力インターフェース
304 エントロピーデコードユニット
309 量子化された係数
310 逆量子化ユニット
311 変換係数、量子化解除された係数
312 逆変換処理ユニット
313 再構成された残差ブロック、変換ブロック
314 再構成ユニット、加算器
315 再構成されたブロック
320 ループフィルタユニット
321 フィルタ処理されたブロック、ピクチャのデコードされたビデオブロック
330 デコードされたピクチャバッファ(DPB)
331 デコードされたピクチャ
332 出力
344 インター予測ユニット
354 イントラ予測ユニット
360 モード適用ユニット
365 予測ブロック
400 ビデオコーディングデバイス
410 入口ポート、入力ポート
420 受信機ユニット
430 プロセッサ、論理ユニット、中央処理ユニット
440 送信機ユニット
450 出口ポート、出力ポート
460 メモリ
470 コーディングモジュール
500 装置
502 プロセッサ
504 メモリ
506 コードおよびデータ
508 オペレーティングシステム
510 アプリケーションプログラム
512 バス
514 2次ストレージ
518 ディスプレイ
1400 デバイス
1410 DMVR決定ユニット
1420 DMVRフラグ設定ユニット
1500 デバイス
1510 BDOFインター予測決定ユニット
1520 BDOFフラグ設定ユニット
1600 デバイス
1610 第1の構文解析ユニット
1620 第2の構文解析ユニット
1630 DMVR実行ユニット
1700 デバイス
1710 第1の構文解析ユニット
1720 第2の構文解析ユニット
1730 BDOF実行ユニット
3100 コンテンツ供給システム
3102 キャプチャデバイス
3104 通信リンク
3106 端末デバイス
3108 スマートフォン／パッド
3110 コンピュータ／ラップトップ
3112 ネットワークビデオレコーダ／デジタルビデオレコーダ
3114 TV
3116 セットトップボックス
3118 ビデオ会議システム
3120 ビデオ監視システム
3122 携帯情報端末
3124 車両搭載型デバイス
3126 ディスプレイ
3202 プロトコル進行ユニット
3204 多重化解除ユニット
3206 ビデオデコーダ
3208 オーディオデコーダ
3210 サブタイトルデコーダ
3212 同期ユニット
3214 ビデオ／オーディオディスプレイ
3216 ビデオ／オーディオ／サブタイトルディスプレイ

Claims (19)

  1. エンコードデバイス内で実現される、複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードする方法であって、
    前記複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対してデコーダ動きベクトル精緻化(DMVR)を基にしたインター双予測が有効化されるかどうかを決定するステップと、
    DMVRを基にしたインター双予測が有効化されるかどうかを前記決定した結果に基づいて、シーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルにおいてDMVRに対する無効化フラグの値を設定するステップであって、前記無効化フラグの前記値が、前記現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるか否かを指定し、前記領域に対するDMVRは、初期MVペアを使用して取得される2つの予測ブロック間の初期非類似度が予め決定されたサンプルごとのしきい値よりも小さいかどうかに条件付けられる、ステップと
    を備える方法。
  2. 前記現在のピクチャの前記少なくとも1つの領域が、前記現在のピクチャであり、前記無効化フラグが、ピクチャパラメータセット(PPS)レベルにおいて設定される、請求項1に記載の方法。
  3. 前記現在のピクチャの前記少なくとも1つの領域が、前記現在のピクチャのスライスであり、前記無効化フラグが、スライスヘッダレベルにおいて設定される、請求項1に記載の方法。
  4. 少なくとも1つの予め定義された条件が充足されるとき、DMVRを基にしたインター双予測が無効化されることが決定される、請求項1から3のいずれか一項に記載の方法。
  5. 2つの参照ピクチャのそれぞれの少なくとも1つの領域から前記現在のピクチャの少なくとも1つの領域までの動きベクトル差分を決定するステップであって、前記2つの参照ピクチャのうちの一方が表示順序で前記現在のピクチャの前にあり、他方が表示順序で前記現在のピクチャの後にある、ステップをさらに備え、前記少なくとも1つの予め定義された条件が、前記決定された動きベクトル差分が同じ絶対値かつ反対の符号を有しないことを含む、請求項4に記載の方法。
  6. 前記少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるかどうかを前記決定するステップが、前記現在のピクチャの少なくとも前記1つの領域内にスクリーンコンテンツが存在するかどうかを決定するステップを備え、前記少なくとも1つの予め定義された条件が、前記現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在することが決定されることを備える、請求項4または5に記載の方法。
  7. 前記現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在するかどうかを決定するステップが、
    それぞれ、前記現在のピクチャの少なくとも1つの領域のM個のサンプルの各々から始めて、前記現在のピクチャの少なくとも1つの領域のブロックに対するNビットのハッシュ値を計算するステップであって、N、M、およびKが整数値である、ステップと、
    K個のエントリを有するハッシュテーブルを構築するステップであって、前記K個のエントリの各々がブロックのカウント値を含み、前記ブロックのカウント値に対して予め定義された値に等しいNビットのハッシュ値が計算される、ステップと、
    1よりも大きいカウント値を備える前記エントリの総和を決定するステップとを備え、
    前記エントリの前記決定された総和が予め定義されたしきい値を超えるとき、前記現在のピクチャの少なくとも1つの領域内にスクリーンコンテンツが存在することが決定される、請求項6に記載の方法。
  8. 前記ブロックが4×4個のサンプルからなる、請求項7に記載の方法。
  9. 前記予め定義されたしきい値が、前記現在のピクチャの少なくとも1つの領域の前記サンプルの総数の予め定義されたパーセンテージを表現する、請求項7または8に記載の方法。
  10. 前記少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるかどうかを前記決定するステップが、
    デコーダ動きベクトル精緻化を基にしたインター双予測を実行することなく、少なくとも1つの領域のコーディングユニットの予測残差におけるコストの第1の総和を計算するステップと、
    動きベクトル精緻化を実行するとともに、少なくとも1つの領域の前記コーディングユニットの前記予測残差におけるコストの第2の総和を計算するステップとを備え、
    前記計算された第2の総和が、前記計算された第1の総和よりも大きいとき、DMVRを基にしたインター双予測が無効化されることが決定される、請求項2または3に記載の方法。
  11. 前記コストが、絶対変換差分(SATD)を基にしたコストである、請求項10に記載の方法。
  12. 前記現在のピクチャの前記少なくとも1つの領域が、前記現在のピクチャであり、
    前記計算された第2の総和が、前記計算された第1の総和よりも大きいとき、前記現在のピクチャの後続のピクチャに対してDMVRインター双予測が有効化されるべきでないことが決定される、請求項10または11に記載の方法。
  13. 前記SPSレベルにおいてDMVRに対して有効化フラグを設定するステップをさらに備え、前記有効化フラグが、前記複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、請求項1から12のいずれか一項に記載の方法。
  14. デコードデバイスによって実現される、ビデオビットストリームをデコードする方法であって、前記ビデオビットストリームが、複数のピクチャのためのコーディングされたデータを含み、前記デコードする方法が、
    前記ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化(DMVR)に対する有効化フラグを構文解析するステップであって、DMVRに対する前記有効化フラグが、前記シーケンスパラメータセットに関連付けられた前記複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、ステップと、
    前記ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からDMVRに対する無効化フラグを構文解析するステップであって、DMVRに対する前記無効化フラグが、前記シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が無効化されるか否かを指定し、前記現在のピクチャが、前記複数のピクチャに属する、ステップと、
    少なくとも1つの予め定義された条件が充足されるとき、前記現在のピクチャの少なくとも1つの領域内の現在のブロックに対してDMVRを基にしたインター双予測を実行して、前記現在のブロックの予測されたサンプル値を取得するステップであって、前記少なくとも1つの予め定義された条件は、DMVRを基にしたインター双予測が有効化されることを前記無効化フラグの前記構文解析された値が指定することを備え、前記領域に対するDMVRは、初期MVペアを使用して取得される2つの予測ブロック間の初期非類似度が予め決定されたサンプルごとのしきい値よりも小さいかどうかに条件付けられる、ステップと
    を備える方法。
  15. 前記現在のピクチャの前記少なくとも1つの領域が、前記現在のピクチャであり、前記シンタックス構造が、ピクチャパラメータセット(PPS)である、請求項14に記載の方法。
  16. 前記現在のピクチャの前記少なくとも1つの領域が、前記現在のピクチャのスライスであり、前記シンタックス構造が、スライスヘッダである、請求項14に記載の方法。
  17. DMVRに対する前記有効化フラグの前記構文解析された値が、DMVRが有効化されることを指定するとき、前記現在のブロックに対してDMVRを基にしたインター双予測が実行される、請求項14に記載の方法。
  18. 複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをエンコードするように構成されたデバイスであって、
    前記複数のピクチャのうちの現在のピクチャの少なくとも1つの領域に対してデコーダ動きベクトル精緻化(DMVR)を基にしたインター双予測が有効化されるかどうかを決定するように構成されたDMVR決定ユニットと、
    DMVRを基にしたインター双予測が有効化されるかどうかを前記決定した結果に基づいて、シーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルにおいてDMVRに対する無効化フラグの値を設定するように構成された第1のDMVRフラグ設定ユニットとを備え、前記無効化フラグの前記値が、前記現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が有効化されるか否かを指定し、前記領域に対するDMVRは、初期MVペアを使用して取得される2つの予測ブロック間の初期非類似度が予め決定されたサンプルごとのしきい値よりも小さいかどうかに条件付けられる、デバイス。
  19. 複数のピクチャのためのコーディングされたデータを備えるビデオビットストリームをデコードするように構成されたデバイスであって、
    前記ビデオビットストリームのシーケンスパラメータセットからデコーダ動きベクトル精緻化(DMVR)に対する有効化フラグを構文解析するように構成された第1の構文解析ユニットであって、DMVRに対する前記有効化フラグが、前記シーケンスパラメータセットに関連付けられた前記複数のピクチャに対してDMVRを基にしたインター双予測が有効化されるか否かを指定する、第1の構文解析ユニットと、
    前記ビデオビットストリームのシーケンスパラメータセット(SPS)レベルより低い階層のシンタックス構造レベルのシンタックス構造からDMVRに対する無効化フラグを構文解析するように構成された第2の構文解析ユニットであって、DMVRに対する前記無効化フラグが、前記シンタックス構造に関連付けられた現在のピクチャの少なくとも1つの領域に対してDMVRを基にしたインター双予測が無効化されるか否かを指定し、前記現在のピクチャが、前記複数のピクチャに属する、第2の構文解析ユニットと、
    少なくとも1つの予め定義された条件が充足されるとき、前記現在のピクチャの少なくとも1つの領域内の現在のブロックに対してDMVRを基にしたインター双予測を実行して、前記現在のブロックの予測されたサンプル値を取得するように構成されたDMVR実行ユニットであって、前記少なくとも1つの予め定義された条件は、DMVRを基にしたインター双予測が有効化されることを前記無効化フラグの前記構文解析された値が指定することを備え、前記領域に対するDMVRは、初期MVペアを使用して取得される2つの予測ブロック間の初期非類似度が予め決定されたサンプルごとのしきい値よりも小さいかどうかに条件付けられる、DMVR実行ユニットと
    を備えるデバイス。
JP2021576391A 2019-06-21 2020-06-20 エンコーダ、デコーダ、および対応する方法 Active JP7471328B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
IN201931024825 2019-06-21
IN201931024825 2019-06-21
PCT/CN2020/097297 WO2020253858A1 (en) 2019-06-21 2020-06-20 An encoder, a decoder and corresponding methods

Publications (2)

Publication Number Publication Date
JP2022537064A JP2022537064A (ja) 2022-08-23
JP7471328B2 true JP7471328B2 (ja) 2024-04-19

Family

ID=74040654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021576391A Active JP7471328B2 (ja) 2019-06-21 2020-06-20 エンコーダ、デコーダ、および対応する方法

Country Status (13)

Country Link
US (1) US20220116648A1 (ja)
EP (1) EP3987794A4 (ja)
JP (1) JP7471328B2 (ja)
KR (2) KR20240145090A (ja)
CN (5) CN116996693A (ja)
AU (1) AU2020294736A1 (ja)
BR (1) BR112021025924A2 (ja)
CA (1) CA3144099A1 (ja)
CL (1) CL2021003427A1 (ja)
IL (1) IL289227A (ja)
MX (1) MX2021016105A (ja)
WO (1) WO2020253858A1 (ja)
ZA (1) ZA202110875B (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114513666B (zh) * 2019-06-17 2023-01-17 北京达佳互联信息技术有限公司 用于视频编解码中的解码器侧运动矢量细化的方法和装置
EP3991432A1 (en) * 2019-07-01 2022-05-04 InterDigital VC Holdings France, SAS Bi-directional optical flow refinement of affine motion compensation
WO2021006617A1 (ko) * 2019-07-08 2021-01-14 현대자동차주식회사 인터 예측을 이용하여 비디오를 부호화 및 복호화하는 방법 및 장치
US11641475B2 (en) * 2019-09-12 2023-05-02 Alibaba Group Holding Limited Method and apparatus for encoding or decoding video
JP2022547599A (ja) * 2019-09-12 2022-11-14 アリババ グループ ホウルディング リミテッド 映像符号化情報をシグナリングするための方法及び装置
MX2022002916A (es) 2019-09-19 2022-04-06 Beijing Bytedance Network Tech Co Ltd Derivacion de posiciones de muestra de referencia en codificacion de video.
KR20220070437A (ko) 2019-10-05 2022-05-31 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩 툴의 레벨 기반 시그널링
CN114556918A (zh) 2019-10-12 2022-05-27 北京字节跳动网络技术有限公司 细化视频编解码工具的使用和信令
MX2022004200A (es) 2019-10-13 2022-05-02 Beijing Bytedance Network Tech Co Ltd Interaccion entre remuestreo de imagen de referencia y herramientas de codificacion de video.
CN112135126B (zh) * 2019-11-05 2021-09-21 杭州海康威视数字技术股份有限公司 一种编解码方法、装置、设备及机器可读存储介质
WO2021129866A1 (en) 2019-12-27 2021-07-01 Beijing Bytedance Network Technology Co., Ltd. Signaling of slice types in video pictures headers
CN117546469A (zh) * 2021-06-28 2024-02-09 北京达佳互联信息技术有限公司 用于视频编解码的残差和系数编解码
US11968356B2 (en) * 2022-03-16 2024-04-23 Qualcomm Incorporated Decoder-side motion vector refinement (DMVR) inter prediction using shared interpolation filters and reference pixels

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016519499A (ja) 2013-04-05 2016-06-30 キヤノン株式会社 動き情報圧縮スキームに従ってインタレイヤ動き情報予測により画像をエンコーディングまたはデコーディングするための方法および装置
WO2019085892A1 (en) 2017-11-02 2019-05-09 Mediatek Inc. Method and apparatus for video coding
WO2020197083A1 (ko) 2019-03-22 2020-10-01 엘지전자 주식회사 Dmvr 및 bdof 기반의 인터 예측 방법 및 장치

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4877449B2 (ja) * 2004-11-04 2012-02-15 カシオ計算機株式会社 動画像符号化装置および動画像符号化処理プログラム
US20150103925A1 (en) * 2013-10-15 2015-04-16 Qualcomm Incorporated Parallel extensions of parameter sets
US10547847B2 (en) * 2015-09-24 2020-01-28 Lg Electronics Inc. AMVR-based image coding method and apparatus in image coding system
US10750203B2 (en) * 2016-12-22 2020-08-18 Mediatek Inc. Method and apparatus of adaptive bi-prediction for video coding
US10630978B2 (en) * 2017-05-12 2020-04-21 Blackberry Limited Methods and devices for intra-coding in video compression
BR112020000032A2 (pt) * 2017-07-03 2020-07-14 Vid Scale, Inc. dispositivo e método de codificação de dados de vídeo.
JP7382332B2 (ja) * 2017-11-01 2023-11-16 ヴィド スケール インコーポレイテッド マージモード用のサブブロック動き導出およびデコーダサイド動きベクトル精緻化
US11184630B2 (en) * 2018-09-28 2021-11-23 Tencent America LLC Method and apparatus for video coding
CN112868238B (zh) * 2018-10-23 2023-04-21 北京字节跳动网络技术有限公司 局部照明补偿和帧间预测编解码之间的并置
CN113170093B (zh) * 2018-11-20 2023-05-02 北京字节跳动网络技术有限公司 视频处理中的细化帧间预测
US10491240B1 (en) * 2019-01-17 2019-11-26 Cyborg Inc. Systems and methods for variable length codeword based, hybrid data encoding and decoding using dynamic memory allocation
KR102612802B1 (ko) * 2019-03-05 2023-12-13 엘지전자 주식회사 인터 예측을 위한 비디오 신호의 처리 방법 및 장치
CN115190317A (zh) * 2019-04-02 2022-10-14 抖音视界有限公司 解码器侧运动矢量推导
CN113711609B (zh) * 2019-04-19 2023-12-01 北京字节跳动网络技术有限公司 利用光流的预测细化过程中的增量运动矢量

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016519499A (ja) 2013-04-05 2016-06-30 キヤノン株式会社 動き情報圧縮スキームに従ってインタレイヤ動き情報予測により画像をエンコーディングまたはデコーディングするための方法および装置
WO2019085892A1 (en) 2017-11-02 2019-05-09 Mediatek Inc. Method and apparatus for video coding
WO2020197083A1 (ko) 2019-03-22 2020-10-01 엘지전자 주식회사 Dmvr 및 bdof 기반의 인터 예측 방법 및 장치

Also Published As

Publication number Publication date
CN117440170A (zh) 2024-01-23
NZ783895A (en) 2024-02-23
JP2022537064A (ja) 2022-08-23
WO2020253858A8 (en) 2021-02-25
CL2021003427A1 (es) 2022-08-05
KR20220024817A (ko) 2022-03-03
IL289227A (en) 2022-02-01
CN117812270A (zh) 2024-04-02
MX2021016105A (es) 2022-04-06
US20220116648A1 (en) 2022-04-14
KR102712842B1 (ko) 2024-09-30
CN114009040A (zh) 2022-02-01
KR20240145090A (ko) 2024-10-04
CA3144099A1 (en) 2020-12-24
CN117440169A (zh) 2024-01-23
EP3987794A4 (en) 2022-09-07
WO2020253858A1 (en) 2020-12-24
CN116996693A (zh) 2023-11-03
BR112021025924A2 (pt) 2022-02-22
CN114009040B (zh) 2023-08-04
AU2020294736A1 (en) 2022-01-27
ZA202110875B (en) 2022-09-28
EP3987794A1 (en) 2022-04-27

Similar Documents

Publication Publication Date Title
JP7471328B2 (ja) エンコーダ、デコーダ、および対応する方法
US11895292B2 (en) Encoder, decoder and corresponding methods of boundary strength derivation of deblocking filter
US11909959B2 (en) Encoder, a decoder and corresponding methods for merge mode
WO2020181997A1 (en) An encoder, a decoder and corresponding methods for inter prediction
KR102616714B1 (ko) 광학 흐름 정제를 위한 조기 종료
JP7564132B2 (ja) 幾何学的分割モードのためのクロマサンプル重みの導出
CN114125468A (zh) 帧内预测方法和装置
KR102611845B1 (ko) 옵티컬 플로 기반 비디오 인터 예측
CN113615173A (zh) 对仿射译码块进行光流预测修正的方法及装置
KR20210088688A (ko) Ibc 병합 리스트를 사용하는 인코더, 디코더 및 대응하는 방법들
CN113228632B (zh) 用于局部亮度补偿的编码器、解码器、以及对应方法
RU2824186C2 (ru) Кодер, декодер и соответствующие способы
US11997296B2 (en) Motion field storage optimization for a line buffer
JP2024109748A (ja) 平面モードのためのイントラ予測における複雑さ減少のエンコーダ、デコーダ、および対応する方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220218

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230320

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231010

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20240110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240409

R150 Certificate of patent or registration of utility model

Ref document number: 7471328

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150