JP7372465B2 - シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 - Google Patents
シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 Download PDFInfo
- Publication number
- JP7372465B2 JP7372465B2 JP2022523334A JP2022523334A JP7372465B2 JP 7372465 B2 JP7372465 B2 JP 7372465B2 JP 2022523334 A JP2022523334 A JP 2022523334A JP 2022523334 A JP2022523334 A JP 2022523334A JP 7372465 B2 JP7372465 B2 JP 7372465B2
- Authority
- JP
- Japan
- Prior art keywords
- value
- subpics
- syntax element
- picture
- flag
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 122
- 230000011664 signaling Effects 0.000 title description 19
- 238000012545 processing Methods 0.000 claims description 57
- 238000001914 filtration Methods 0.000 claims description 44
- 230000008569 process Effects 0.000 claims description 29
- 238000004458 analytical method Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 5
- 230000005055 memory storage Effects 0.000 claims 2
- 230000004044 response Effects 0.000 claims 1
- 238000013139 quantization Methods 0.000 description 79
- 230000006854 communication Effects 0.000 description 37
- 238000004891 communication Methods 0.000 description 37
- 238000000638 solvent extraction Methods 0.000 description 27
- 239000000872 buffer Substances 0.000 description 24
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 23
- 238000005192 partition Methods 0.000 description 21
- 239000013598 vector Substances 0.000 description 20
- 238000010586 diagram Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 17
- 241000023320 Luma <angiosperm> Species 0.000 description 16
- 238000003491 array Methods 0.000 description 13
- 230000005540 biological transmission Effects 0.000 description 13
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 12
- 230000009466 transformation Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 8
- 230000000295 complement effect Effects 0.000 description 8
- 230000003044 adaptive effect Effects 0.000 description 7
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 6
- 230000011218 segmentation Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000013500 data storage Methods 0.000 description 4
- 239000000835 fiber Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000012805 post-processing Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 101150039623 Clip1 gene Proteins 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000006837 decompression Effects 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000007620 mathematical function Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 108091000069 Cystinyl Aminopeptidase Proteins 0.000 description 1
- 102100020872 Leucyl-cystinyl aminopeptidase Human genes 0.000 description 1
- 238000012952 Resampling Methods 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 229920000069 polyphenylene sulfide Polymers 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/423—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
本出願(開示)の実施形態は、概して、ピクチャ処理の分野に関し、より詳細には、シーケンスパラメータセット内でのサブピクチャのシグナリングに関する。
ビデオコーディング(ビデオ符号化および復号)は、広範なデジタルビデオアプリケーション、たとえば、ブロードキャストデジタルTV、インターネットおよびモバイルネットワーク上のビデオ送信、ビデオチャットのようなリアルタイム会話アプリケーション、テレビ会議、DVDおよびブルーレイディスク、ビデオコンテンツ獲得および編集システム、ならびにセキュリティアプリケーションのカムコーダにおいて使用される。
比較的短いビデオでさえも描くために必要とされるビデオデータの量はかなり多くなり得、それが、データが限られた帯域幅の容量を有する通信ネットワークを介してストリーミングされるかまたはそれ以外の方法で伝達されるべきであるときに困難をもたらす可能性がある。したがって、ビデオデータは、概して、現代の通信ネットワークを介して伝達される前に圧縮される。メモリリソースが限られている可能性があるので、ビデオがストレージデバイスに記憶されるとき、ビデオのサイズも問題となり得る。多くの場合、ビデオ圧縮デバイスは、送信または記憶の前にビデオデータをコーディングするために送信元においてソフトウェアおよび/またはハードウェアを使用し、それによって、デジタルビデオ画像を表現するために必要とされるデータの量を削減する。そして、圧縮されたデータが、ビデオデータを復号するビデオ解凍デバイスによって送信先において受信される。限られたネットワークリソースおよびより高いビデオ品質のますます増加する需要によって、ピクチャ品質をほとんどまたはまったく犠牲にせずに圧縮比を高める改善された圧縮および解凍技術が、望ましい。
本出願の実施形態は、独立請求項による符号化および復号のための装置および方法を提供する。
上述のおよびその他の目的は、独立請求項の主題により達成される。さらなる実装の形態は、従属請求項、明細書、および図面から明らかである。
本発明の第1の態様は、復号デバイスによって実施されるコーディングの方法であって、ビデオビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得するステップと、シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいとき、ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法を提供する。
本発明の実施形態によれば、サブピクチャ情報のシグナリング方式が開示され、シンタックス要素は、CLVS内のすべてのサブピクチャの境界がピクチャの境界として扱われるかどうか、およびサブピクチャの境界をまたぐループフィルタリングが存在しないか否かが条件付きでシグナリングされることを示す。少なくとも2つのサブピクチャが存在するときにのみ、このシンタックス要素がシグナリングされる。したがって、ビットストリームの利用および復号の効率が、改善された。
1つの実装において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される。
1つの実装において、方法は、シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値をデフォルト値に設定するステップをさらに含む。
1つの実装において、予め設定された値は、0または1である。
1つの実装において、デフォルト値は、1である。
1つの実装において、ここにおいて、シンタックス要素sps_independent_subpics_flagの値は、ビットストリーム内のコードワード値を直接解析することによって取得される。
1つの実装において、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンス(coded layer video sequence)の各ピクチャ内のサブピクチャの数を示す。
1つの実装において、1に等しいシンタックス要素sps_independent_subpics_flagの値は、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しいシンタックス要素sps_independent_subpics_flagの値は、そのような制約を課さない。
本発明の第2の態様は、ビデオ復号装置であって、ビットストリームを取得するように構成される受信モジュールと、ビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得するように構成される解析モジュールとを含み、解析モジュールが、シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいとき、ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得するように構成される、ビデオ復号装置を提供する。
1つの実装において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される。
1つの実装において、解析モジュールは、シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値をデフォルト値に設定するように構成される。
1つの実装において、デフォルト値は、1である。
1つの実装において、予め設定された値は、0または1である。
1つの実装において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリーム内のコードワード値を直接解析することによって取得される。
1つの実装において、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
1つの実装において、1に等しいシンタックス要素sps_independent_subpics_flagの値は、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しいシンタックス要素sps_independent_subpics_flagの値は、そのような制約を課さない。
本発明の第3の態様は、符号化デバイスによって実施されるコーディングの方法であって、ピクチャを取得するステップと、ピクチャに応じてシンタックス要素sps_num_subpics_minus1の値を決定するステップと、シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいと判定されるとき、現在のピクチャに関するシンタックス要素sps_independent_subpics_flagの値をビットストリームに符号化するステップとを含む、方法を提供する。
本発明の実施形態によれば、サブピクチャ情報のシグナリング方式が開示され、シンタックス要素は、CLVS内のすべてのサブピクチャの境界がピクチャの境界として扱われるかどうか、およびサブピクチャの境界をまたぐループフィルタリングが存在しないか否かが条件付きでシグナリングされることを示す。少なくとも2つのサブピクチャが存在するときにのみ、このシンタックス要素がシグナリングされる。したがって、ビットストリームの利用および復号の効率が、改善された。
1つの実装において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームのシーケンスパラメータセットにコーディングされる。
1つの実装において、方法は以下をさらに含む。シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームに符号化されない。
1つの実装において、予め設定された値は、0または1である。
1つの実装において、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
1つの実装において、1に等しいシンタックス要素sps_independent_subpics_flagの値は、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しいシンタックス要素sps_independent_subpics_flagの値は、そのような制約を課さない。
本発明の第4の態様は、ビデオ符号化装置であって、ピクチャを取得するように構成される受信モジュールと、ピクチャに応じてシンタックス要素sps_num_subpics_minus1の値を決定するように構成される処理モジュールとを含み、処理モジュールが、シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいと判定されるとき、現在のピクチャに関するシンタックス要素sps_independent_subpics_flagの値をビットストリームに符号化するように構成される、ビデオ符号化装置を提供する。
本発明の実施形態によれば、サブピクチャ情報のシグナリング方式が開示され、シンタックス要素は、CLVS内のすべてのサブピクチャの境界がピクチャの境界として扱われるかどうか、およびサブピクチャの境界をまたぐループフィルタリングが存在しないか否かが条件付きでシグナリングされることを示す。少なくとも2つのサブピクチャが存在するときにのみ、このシンタックス要素がシグナリングされる。したがって、ビットストリームの利用および復号の効率が、改善された。
1つの実装において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームのシーケンスパラメータセットにコーディングされる。
1つの実装において、シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームに符号化されない。
1つの実装において、予め設定された値は、0または1である。
1つの実装において、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
1つの実装において、1に等しいシンタックス要素sps_independent_subpics_flagの値は、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しいシンタックス要素sps_independent_subpics_flagの値は、そのような制約を課さない。
本発明の第5の態様は、第1の態様、第3の態様、および第1の態様、第3の態様の実装のいずれか1つに係る方法を実施するための処理回路を備えるデコーダを提供する。
本発明の第6の態様は、コンピュータまたはプロセッサ上で実行されるときに、第1の態様、第3の態様、および第1の態様、第3の態様の実装のいずれか1つの実装に係る方法を実行するためのプログラムコードを含むコンピュータプログラム製品を提供する。
本発明の第7の態様は、1つまたは複数のプロセッサと、プロセッサに結合され、プロセッサによる実行のためにプログラミングを記憶する非一時的コンピュータ可読ストレージ媒体であって、プログラミングが、プロセッサによって実行されるときに、第1の態様、第3の態様のいずれか1つ、および第1の態様、第3の態様の実装のいずれか1つに係る方法を実行するようにデコーダを構成する、非一時的コンピュータ可読ストレージ媒体とを含むデコーダを提供する。
本発明の第8の態様は、コンピュータデバイスによって実行されるときに、コンピュータデバイスに第1の態様、第3の態様のいずれか1つ、および第1の態様、第3の態様の実装のいずれか1つに係る方法を実行させるプログラムコードを運ぶ非一時的コンピュータ可読媒体を提供する。
本発明の第9の態様は、上述の実施形態のいずれか1つの方法によって符号化された/復号されたビットストリームを含む非一時的ストレージ媒体を提供する。
本発明の第10の態様は、複数のシンタックス要素を含めることによってビデオ信号の符号化されたビットストリームを提供し、複数のシンタックス要素は、少なくとも、シンタックス要素sps_num_subpics_minus1の値に基づいて条件付きでシグナリングされるシンタックス要素sps_independent_subpics_flagを含み、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
本発明の第11の態様は、画像復号装置によって復号される符号化されたビットストリームを含む非一時的ストレージ媒体を提供し、ビットストリームは、ビデオ信号または画像信号のフレームを複数のブロックに分割することによって生成され、複数のシンタックス要素を含み、複数のシンタックス要素は、少なくともシンタックス要素sps_num_subpics_minus1の値に基づいて条件付きでシグナリングされるシンタックス要素sps_independent_subpics_flagを含み、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
1つまたは複数の実施形態の詳細が、添付の図面および以下の説明に記載されている。その他の特徴、目的、および利点は、明細書、図面、および特許請求の範囲から明らかになるであろう。
以下で、本発明の実施形態が、添付の図および図面を参照してより詳細に説明される。
以下で、同一の参照符号は、別途明記されない場合、同一のまたは少なくとも機能的に等価な特徴を指す。
以下の説明においては、本開示の一部を形成し、本発明の実施形態の特定の態様または本発明の実施形態が使用される可能性がある特定の態様を例として示す添付の図面が参照される。本発明の実施形態は、その他の態様において使用され、図面に示されない構造的または論理的変更を含む可能性があることが理解される。したがって、以下の詳細な説明は、限定的意味に理解されるべきでなく、本発明の範囲は、添付の特許請求の範囲によって定義される。
たとえば、説明される方法に関連する開示は、方法を実行するように構成された対応するデバイスまたはシステムにも当てはまる可能性があり、その逆の可能性もあることが理解される。たとえば、1つまたは複数の特定の方法のステップが説明される場合、対応するデバイスは、説明される1つまたは複数の方法のステップを実行するための1つまたは複数のユニット、たとえば、機能ユニット(たとえば、1つもしくは複数のステップを実行する1つのユニット、または複数のステップのうちの1つもしくは複数をそれぞれが実行する複数のユニット)を、たとえそのような1つまたは複数のユニットが明示的に説明されないかまたは図に示されないとしても含む可能性がある。一方、たとえば、特定の装置が1つまたは複数のユニット、たとえば、機能ユニットに基づいて説明される場合、対応する方法は、1つまたは複数のユニットの機能を実行するための1つのステップ(たとえば、1つもしくは複数のユニットの機能を実行する1つのステップ、または複数のユニットのうちの1つもしくは複数の機能をそれぞれが実行する複数のステップ)を、たとえそのような1つまたは複数のステップが明示的に説明されないかまたは図に示されないとしても含む可能性がある。さらに、本明細書において説明される様々な例示的な実施形態および/または態様の特徴は、そうでないことが明記されない限り互いに組み合わされる可能性があることが理解される。
ビデオコーディングは、概して、ビデオまたはビデオシーケンスを形成するピクチャのシーケンスの処理を指す。用語「ピクチャ」の代わりに、用語「フレーム」または「画像」が、ビデオコーディングの分野において同義語として使用される可能性がある。ビデオコーディング(または概してコーディング)は、2つの部分、ビデオ符号化およびビデオ復号を含む。ビデオ符号化は、送信元の側で実行され、概して、(より効率的な記憶および/または送信のために)ビデオピクチャを表現するために必要とされるデータの量を減らすために元のビデオピクチャを(たとえば、圧縮によって)処理することを含む。ビデオ復号は、送信先の側で実行され、概して、ビデオピクチャを再構築するためにエンコーダと比べて逆の処理を含む。ビデオピクチャ(または概してピクチャ)の「コーディング」に言及する実施形態は、ビデオピクチャまたはそれぞれのビデオシーケンスの「符号化」または「復号」に関すると理解される。符号化部分と復号部分との組み合わせは、コーデック(コーディングおよびデコーディング)とも呼ばれる。
可逆ビデオコーディングの場合、(記憶または送信中に送信損失またはその他のデータ損失がないと仮定して)元のビデオピクチャが再構築されることが可能であり、つまり、再構築されたビデオピクチャは元のビデオピクチャと同じ品質を有する。不可逆ビデオコーディングの場合、ビデオピクチャを表現するデータの量を減らすために、たとえば、量子化によるさらなる圧縮が実行され、これは、デコーダにおいて完全に再構築され得ず、つまり、再構築されたビデオピクチャの品質は、元のビデオピクチャの品質に比べてより低いまたはより悪い。
いくつかのビデオコーディング規格は、「不可逆ハイブリッドビデオコーデック」のグループに属する(つまり、サンプル領域(sample domain)における空間および時間予測と変換領域(transform domain)において量子化を適用するための2D変換コーディングとを組み合わせる)。ビデオシーケンスの各ピクチャは、概して、1組の重なり合わないブロックに区分けされ、コーディングは、概して、ブロックレベルで実行される。言い換えると、エンコーダにおいて、ビデオは、概して、たとえば、空間(イントラピクチャ)予測および/または時間(インターピクチャ)予測を使用して予測ブロック(prediction block)を生成し、現在のブロック(現在処理されている/処理されるブロック)から予測ブロックを差し引いて残差ブロックを取得し、残差ブロックを変換し、変換領域において残差ブロックを量子化して送信されるデータの量を削減する(圧縮)ことによってブロック(ビデオブロック)レベルで処理され、つまり、符号化され、一方、デコーダにおいては、表現するために現在のブロックを再構築するために、エンコーダと比べて逆の処理が、符号化されたまたは圧縮されたブロックに適用される。さらに、エンコーダは、後続のブロックを処理する、つまり、コーディングするために両方が同一の予測(たとえば、イントラおよびインター予測)ならびに/または再構築を生成するようにデコーダの処理ループを複製する。
以下で、ビデオコーディングシステム10、ビデオエンコーダ20およびビデオデコーダ30の実施形態が、図1から図3に基づいて説明される。
図1Aは、本出願の技術を利用する可能性がある例示的なコーディングシステム10、たとえば、ビデオコーディングシステム10(または短くコーディングシステム10)を示す概略的なブロック図である。ビデオコーディングシステム10のビデオエンコーダ20(または短くエンコーダ20)およびビデオデコーダ30(または短くデコーダ30)は、本出願において説明される様々な例による技術を実行するように構成される可能性があるデバイスの例を示す。
図1Aに示されるように、コーディングシステム10は、符号化されたピクチャデータ13を復号するために、たとえば、送信先デバイス14に符号化されたピクチャデータ21を提供するように構成された送信元デバイス12を含む。
送信元デバイス12は、エンコーダ20を含み、追加的に、つまり、任意選択で、ピクチャソース16、プリプロセッサ(または前処理ユニット)18、たとえば、ピクチャプリプロセッサ18、および通信インターフェースまたは通信ユニット22を含む可能性がある。
ピクチャソース16は、任意の種類のピクチャ撮影デバイス、たとえば、実世界のピクチャを撮影するためのカメラ、ならびに/または任意の種類のピクチャ生成デバイス、たとえば、コンピュータによってアニメーションされるピクチャを生成するためのコンピュータグラフィックスプロセッサ、または実世界のピクチャ、コンピュータによって生成されたピクチャ(たとえば、画面コンテンツ(screen content)、仮想現実(VR)ピクチャ)、および/もしくはそれらの任意の組み合わせ(たとえば、拡張現実(AR)ピクチャ)を取得および/もしくは提供するための任意の種類のその他のデバイスを含むかまたはそのようなデバイスである可能性がある。ピクチャソースは、上述のピクチャのいずれかを記憶するための任意の種類のメモリまたはストレージである可能性がある。
プリプロセッサ18および前処理ユニット18によって実行される処理と区別して、ピクチャまたはピクチャデータ17は、生ピクチャまたは生ピクチャデータ17とも呼ばれる可能性がある。
プリプロセッサ18は、(生)ピクチャデータ17を受け取り、ピクチャデータ17に対して前処理を実行して前処理されたピクチャ19または前処理されたピクチャデータ19を取得するように構成される。プリプロセッサ18によって実行される前処理は、たとえば、トリミング、(たとえば、RGBからYCbCrへの)カラーフォーマット変換、色補正、または雑音除去を含む可能性がある。前処理ユニット18は、任意の構成要素である可能性があることが理解され得る。
ビデオエンコーダ20は、前処理されたピクチャデータ19を受け取り、符号化されたピクチャデータ21を提供するように構成される(さらなる詳細が、下で、たとえば、図2に基づいて説明される)。
送信元デバイス12の通信インターフェース22は、符号化されたピクチャデータ21を受け取り、符号化されたピクチャデータ21(またはその任意のさらに処理されたバージョン)を、記憶するかまたは直接再構築するために別のデバイス、たとえば、送信先デバイス14または任意のその他のデバイスに通信チャネル13を介して送信するように構成される可能性がある。
送信先デバイス14は、デコーダ30(たとえば、ビデオデコーダ30)を含み、追加的に、つまり、任意選択で、通信インターフェースまたは通信ユニット28、ポストプロセッサ32(または後処理ユニット32)、およびディスプレイデバイス34を含む可能性がある。
送信先デバイス14の通信インターフェース28は、たとえば、送信元デバイス12から直接、または任意のその他のソース、たとえば、ストレージデバイス、たとえば、符号化されたピクチャデータのストレージデバイスから符号化されたピクチャデータ21(またはその任意のさらに処理されたバージョン)を受信し、符号化されたピクチャデータ21をデコーダ30に提供するように構成される。
通信インターフェース22および通信インターフェース28は、送信元デバイス12と送信先デバイス14との間の直接通信リンク、たとえば、直接有線もしくはワイヤレス接続を介して、あるいは任意の種類のネットワーク、たとえば、有線もしくはワイヤレスネットワークもしくはそれらの任意の組み合わせ、または任意の種類のプライベートおよびパブリックネットワーク、またはそれらの任意の種類の組み合わせを介して符号化されたピクチャデータ21または符号化されたデータ13を送信または受信するように構成される可能性がある。
通信インターフェース22は、たとえば、符号化されたピクチャデータ21を適切なフォーマット、たとえば、パケットにパッケージングする、および/または通信リンクもしくは通信ネットワークを介して送信するための任意の種類の送信の符号化もしくは処理を使用して符号化されたピクチャデータを処理するように構成される可能性がある。
通信インターフェース22の相手先を形成する通信インターフェース28は、たとえば、送信されたデータを受信し、任意の種類の対応する送信の復号もしくは処理および/またはパッケージングの解除を使用して送信データを処理して符号化されたピクチャデータ21を取得するように構成される可能性がある。
通信インターフェース22と通信インターフェース28との両方が、送信元デバイス12から送信先デバイス14の方を指す図1Aの通信チャネル13に関する矢印によって示される単方向通信インターフェース、または双方向通信インターフェースとして構成される可能性があり、たとえば、接続をセットアップし、通信リンクおよび/またはデータ送信、たとえば、符号化されたピクチャデータの送信に関連する任意のその他の情報を確認し、やりとりするために、たとえば、メッセージを送信および受信するように構成される可能性がある。
デコーダ30は、符号化されたピクチャデータ21を受信し、復号されたピクチャデータ31または復号されたピクチャ31を提供するように構成される(さらなる詳細が、下で、たとえば、図3または図5に基づいて説明される)。
送信先デバイス14のポストプロセッサ32は、復号されたピクチャデータ31(再構築されたピクチャデータとも呼ばれる)、たとえば、復号されたピクチャ31を後処理して後処理されたピクチャデータ33、たとえば、後処理されたピクチャ33を取得するように構成される。後処理ユニット32によって実行される後処理は、たとえば、(たとえば、YCbCrからRGBへの)カラーフォーマット変換、色補正、トリミング、またはリサンプリング、またはたとえばディスプレイデバイス34による表示のためにたとえば復号されたピクチャデータ31を準備するための任意のその他の処理を含む可能性がある。
送信先デバイス14のディスプレイデバイス34は、たとえば、ユーザまたは視聴者に対してピクチャを表示するために後処理されたピクチャデータ33を受け取るように構成される。ディスプレイデバイス34は、再構築されたピクチャを示すための任意の種類のディスプレイ、たとえば、一体型または外部ディスプレイもしくはモニタであるかまたはそのようなディスプレイもしくはモニタを含む可能性がある。ディスプレイは、たとえば、液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)ディスプレイ、プラズマディスプレイ、プロジェクタ、マイクロLEDディスプレイ、液晶オンシリコン(LCoS: liquid crystal on silicon)、デジタル光プロセッサ(DLP: digital light processor)、または任意の種類のその他のディスプレイを含む可能性がある。
図1Aは送信元デバイス12および送信先デバイス14を別々のデバイスとして示すが、デバイスの実施形態は、両方または両方の機能、送信元デバイス12または対応する機能および送信先デバイス14または対応する機能を含む可能性もある。そのような実施形態において、送信元デバイス12または対応する機能および送信先デバイス14または対応する機能は、同じハードウェアおよび/もしくはソフトウェアを使用してまたは別々のハードウェアおよび/もしくはソフトウェアまたはそれらの任意の組み合わせによって実装される可能性がある。
説明に基づいて当業者に明らかになるように、異なるユニットの機能または図1Aに示される送信元デバイス12および/もしくは送信先デバイス14内の機能の存在および(厳密な)分割は、実際のデバイスおよびアプリケーションに応じて変わる可能性がある。
エンコーダ20(たとえば、ビデオエンコーダ20)またはデコーダ30(たとえば、ビデオデコーダ30)またはエンコーダ20とデコーダ30との両方は、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリート論理、ハードウェア、それらのビデオ符号化に専用のまたは任意の組み合わせなどの、図1Bに示された処理回路によって実装される可能性がある。エンコーダ20は、図2のエンコーダ20および/または本明細書において説明される任意のその他のエンコーダシステムもしくはサブシステムに関連して検討される様々なモジュールを具現化するために処理回路46によって実装される可能性がある。デコーダ30は、図3のデコーダ30および/または本明細書において説明される任意のその他のデコーダシステムもしくはサブシステムに関連して検討される様々なモジュールを具現化するために処理回路46によって実装される可能性がある。処理回路は、後で検討される様々な動作を実行するように構成される可能性がある。図5に示されるように、技術が部分的にソフトウェアで実装される場合、デバイスは、好適な非一時的コンピュータ可読ストレージ媒体にソフトウェアのための命令を記憶する可能性があり、本開示の技術を実行するために1つまたは複数のプロセッサを使用するハードウェアにおいて命令を実行する可能性がある。ビデオエンコーダ20およびビデオデコーダ30のどちらかが、たとえば、図1Bに示されるように単一のデバイス内の組み合わされたエンコーダ/デコーダ(コーデック)の一部として組み込まれる可能性がある。
送信元デバイス12および送信先デバイス14は、任意の種類のハンドヘルドまたは固定デバイス、たとえば、ノートブックまたはラップトップコンピュータ、モバイル電話、スマートフォン、タブレットまたはタブレットコンピュータ、カメラ、デスクトップコンピュータ、セットトップボックス、テレビ、ディスプレイデバイス、デジタルメディアプレーヤー、ビデオゲームコンソール、(コンテンツサービスサーバまたはコンテンツ配信サーバなどの)ビデオストリーミングデバイス、放送受信機デバイス、放送送信機デバイスなどを含む広範なデバイスのいずれかを含む可能性があり、オペレーティングシステムを使用しないかまたは任意の種類のオペレーティングシステムを使用する可能性がある。場合によっては、送信元デバイス12および送信先デバイス14は、ワイヤレス通信に対応している可能性がある。したがって、送信元デバイス12および送信先デバイス14は、ワイヤレス通信デバイスである可能性がある。
場合によっては、図1Aに示されたビデオコーディングシステム10は、例であるに過ぎず、本開示の技術は、符号化デバイスと復号デバイスとの間のいかなるデータ通信も含むとは限らないビデオコーディングの状況(たとえば、ビデオの符号化またはビデオの復号)に適用される可能性がある。その他の例においては、データが、ローカルメモリから取り出される、またはネットワークを介してストリーミングされる、などである。ビデオ符号化デバイスが、データを符号化し、メモリに記憶する可能性があり、および/またはビデオ復号デバイスが、メモリからデータを取り出し、復号する可能性がある。いくつかの例において、符号化および復号が、互いに通信せず、単にメモリにデータを符号化し、および/またはメモリからデータを取り出し、復号するデバイスによって実行される。
説明の便宜上、本発明の実施形態は、たとえば、高効率ビデオ符号化(HEVC: High-Efficiency Video Coding)、または多目的ビデオ符号化(VVC: Versatile Video coding)、ITU-Tビデオ符号化専門家グループ(VCEG: Video Coding Experts Group)およびISO/IEC動画専門家グループ(MPEG: Motion Picture Experts Group)のビデオ符号化に関する共同作業チーム(JCT-VC: Joint Collaboration Team on Video Coding)によって開発された次世代ビデオコーディング規格の参照ソフトウェアを参照することによって本明細書において説明される。当業者は、本発明の実施形態がHEVCまたはVVCに限定されないことを理解するであろう。
エンコーダおよび符号化方法
図2は、本出願の技術を実装するように構成される例示的なビデオエンコーダ20の概略的なブロック図を示す。図2の例において、ビデオエンコーダ20は、入力201(または入力インターフェース201)、残差計算ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構築ユニット214、ループフィルタユニット220、復号ピクチャバッファ(DPB: decoded picture buffer)230、モード選択ユニット260、エントロピー符号化ユニット270、および出力272(または出力インターフェース272)を含む。モード選択ユニット260は、インター予測ユニット244、イントラ予測ユニット254、および区分けユニット262を含む可能性がある。インター予測ユニット244は、動き推定ユニットおよび動き補償ユニット(図示せず)を含む可能性がある。図2に示されたビデオエンコーダ20は、ハイブリッドビデオエンコーダまたはハイブリッドビデオコーデックによるビデオエンコーダとも呼ばれる可能性がある。
図2は、本出願の技術を実装するように構成される例示的なビデオエンコーダ20の概略的なブロック図を示す。図2の例において、ビデオエンコーダ20は、入力201(または入力インターフェース201)、残差計算ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構築ユニット214、ループフィルタユニット220、復号ピクチャバッファ(DPB: decoded picture buffer)230、モード選択ユニット260、エントロピー符号化ユニット270、および出力272(または出力インターフェース272)を含む。モード選択ユニット260は、インター予測ユニット244、イントラ予測ユニット254、および区分けユニット262を含む可能性がある。インター予測ユニット244は、動き推定ユニットおよび動き補償ユニット(図示せず)を含む可能性がある。図2に示されたビデオエンコーダ20は、ハイブリッドビデオエンコーダまたはハイブリッドビデオコーデックによるビデオエンコーダとも呼ばれる可能性がある。
残差計算ユニット204、変換処理ユニット206、量子化ユニット208、モード選択ユニット260は、エンコーダ20の順方向信号経路を形成するとみなされる可能性があり、一方、逆量子化ユニット210、逆変換処理ユニット212、再構築ユニット214、バッファ216、ループフィルタ220、復号ピクチャバッファ(DPB)230、インター予測ユニット244、およびイントラ予測ユニット254は、ビデオエンコーダ20の逆方向信号経路を形成するとみなされる可能性があり、ビデオエンコーダ20の逆方向信号経路は、デコーダの信号経路(図3のビデオデコーダ30を参照されたい)に対応する。逆量子化ユニット210、逆変換処理ユニット212、再構築ユニット214、ループフィルタ220、復号ピクチャバッファ(DPB)230、インター予測ユニット244、およびイントラ予測ユニット254は、ビデオエンコーダ20の「内蔵デコーダ」を形成するともみなされる。
ピクチャ&ピクチャの区分け(ピクチャ&ブロック)
エンコーダ20は、たとえば、入力201を介してピクチャ17(またはピクチャデータ17)、たとえば、ビデオまたはビデオシーケンスを形成するピクチャのシーケンスのピクチャを受け取るように構成される可能性がある。受け取られたピクチャまたはピクチャデータは、前処理されたピクチャ19(または前処理されたピクチャデータ19)である可能性もある。簡単にするために、以下の説明は、ピクチャ17に言及する。ピクチャ17は、(特に、ビデオコーディングにおいて、現在のピクチャをその他のピクチャ、たとえば、同じビデオシーケンス、つまり、現在のピクチャも含むビデオシーケンスの既に符号化されたおよび/または復号されたピクチャと区別するために)現在のピクチャまたはコーディングされるピクチャとも呼ばれる可能性がある。
エンコーダ20は、たとえば、入力201を介してピクチャ17(またはピクチャデータ17)、たとえば、ビデオまたはビデオシーケンスを形成するピクチャのシーケンスのピクチャを受け取るように構成される可能性がある。受け取られたピクチャまたはピクチャデータは、前処理されたピクチャ19(または前処理されたピクチャデータ19)である可能性もある。簡単にするために、以下の説明は、ピクチャ17に言及する。ピクチャ17は、(特に、ビデオコーディングにおいて、現在のピクチャをその他のピクチャ、たとえば、同じビデオシーケンス、つまり、現在のピクチャも含むビデオシーケンスの既に符号化されたおよび/または復号されたピクチャと区別するために)現在のピクチャまたはコーディングされるピクチャとも呼ばれる可能性がある。
(デジタル)ピクチャは、強度(intensity)値を有するサンプルの二次元配列または行列とみなされるかまたはみなされ得る。配列のサンプルは、ピクセル(ピクチャエレメントの短縮形)またはペルとも呼ばれる可能性がある。配列またはピクチャの水平および垂直方向(または軸)のサンプル数は、ピクチャのサイズおよび/または解像度を定義する。色の表現のために、概して、3つの色成分が使用され、つまり、ピクチャが表現されるかまたは3つのサンプル配列を含む可能性がある。RBGフォーマットまたは色空間で、ピクチャは、対応する赤、緑、および青のサンプル配列を含む。しかし、ビデオコーディングにおいて、各ピクセルは、概して、輝度(luminance)およびクロミナンス(chrominance)フォーマットまたは色空間、たとえば、Y(代わりにLが使用されることもある)によって示される輝度成分ならびにCbおよびCrによって示される2つのクロミナンス成分を含むYCbCrで表される。輝度(または短くルマ(luma))成分Yは、明るさまたは(たとえば、グレースケールピクチャと同様の)グレーレベルの強度を表し、一方、2つのクロミナンス(または短くクロマ(chroma))成分CbおよびCrは、色度または色情報成分を表す。したがって、YCbCrフォーマットのピクチャは、輝度サンプル値(Y)の輝度サンプル配列およびクロミナンス値(CbおよびCr)の2つのクロミナンスサンプル配列を含む。RGBフォーマットのピクチャは、YCbCrフォーマットに変換される(converted)または変換される(transformed)可能性があり、その逆の可能性があり、プロセスは、色変換(transformation)または変換(conversion)としても知られる。ピクチャがモノクロである場合、ピクチャは、輝度サンプル配列のみを含む可能性がある。したがって、ピクチャは、たとえば、モノクロフォーマットにおいてはルマサンプルの配列であり、または4:2:0、4:2:2、および4:4:4カラーフォーマットにおいてはルマサンプルの配列およびクロマサンプルの2つの対応する配列である可能性がある。
ビデオエンコーダ20の実施形態は、ピクチャ17を複数の(通常は重なり合わない)ピクチャブロック203に区分けするように構成されたピクチャ区分けユニット(図2に示さず)を含む可能性がある。これらのブロックは、ルートブロック、マクロブロック(H.264/AVC)、または符号化ツリーブロック(CTB: coding tree block)もしくは符号化ツリーユニット(CTU: coding tree unit)(H.265/HEVCおよびVVC)とも呼ばれる可能性がある。ピクチャ区分けユニットは、ビデオシーケンスのすべてのピクチャおよびブロックサイズを定義する対応するグリッドに関して同じブロックサイズを使用するか、あるいはピクチャまたはピクチャのサブセットもしくはグループの間でブロックサイズを変更し、各ピクチャを対応するブロックに区分けするように構成される可能性がある。
さらなる実施形態において、ビデオエンコーダは、ピクチャ17のブロック203、たとえば、ピクチャ17を形成する1つの、いくつかの、またはすべてのブロックを直接受け取るように構成される可能性がある。ピクチャブロック203は、現在のピクチャブロックまたはコーディングされるピクチャブロックとも呼ばれる可能性がある。
ピクチャ17と同様に、ピクチャブロック203は、ピクチャ17よりも寸法が小さいが、強度値(サンプル値)を有するサンプルの二次元配列または行列とやはりみなされるかまたはみなされ得る。言い換えると、ブロック203は、適用されるカラーフォーマットに応じて、たとえば、1つのサンプル配列(たとえば、モノクロピクチャ17の場合はルマ配列、またはカラーピクチャの場合はルマもしくはクロマ配列)、あるいは3つのサンプル配列(たとえば、カラーピクチャ17の場合はルマおよび2つのクロマ配列)、あるいは任意のその他の数および/または種類の配列を含む可能性がある。ブロック203の水平および垂直方向(または軸)のサンプル数は、ブロック203のサイズを定義する。したがって、ブロックは、たとえば、サンプルのMxN(M列×N行)配列または変換係数のMxN配列である可能性がある。
図2に示されたビデオエンコーダ20の実施形態は、ピクチャ17をブロック毎に符号化するように構成される可能性があり、たとえば、符号化および予測が、ブロック203毎に実行される。
図2に示されるビデオエンコーダ20の実施形態は、スライス(ビデオスライスとも呼ばれる)を使用することによってピクチャを区分けするおよび/または符号化するようにさらに構成される可能性があり、ピクチャは、1つもしくは複数の(概して重なり合わない)スライスに区分けされるかまたは1つもしくは複数の(概して重なり合わない)スライスを使用して符号化される可能性があり、各スライスは、1つまたは複数のブロック(たとえば、CTU)を含む可能性がある。
図2に示されるビデオエンコーダ20の実施形態は、タイルグループ(ビデオタイルグループとも呼ばれる)および/またはタイル(ビデオタイルとも呼ばれる)を使用することによってピクチャを区分けするおよび/または符号化するようにさらに構成される可能性があり、ピクチャは、1つもしくは複数の(概して重なり合わない)タイルグループに区分けされるかまたは1つもしくは複数の(概して重なり合わない)タイルグループを使用して符号化される可能性があり、各タイルグループは、たとえば、1つもしくは複数のブロック(たとえば、CTU)または1つもしくは複数のタイルを含む可能性があり、各タイルは、たとえば、長方形の形をしている可能性があり、1つまたは複数のブロック(たとえば、CTU)、たとえば、完全なまたは断片的なブロックを含む可能性がある。
残差の計算
残差計算ユニット204は、たとえば、サンプル毎に(ピクセル毎に)ピクチャブロック203のサンプル値から予測ブロック265のサンプル値を差し引いてサンプル領域において残差ブロック205を取得することによって、ピクチャブロック203および予測ブロック265(予測ブロック265についてのさらなる詳細は後で与えられる)に基づいて残差ブロック205(残差205とも呼ばれる)を計算するように構成される可能性がある。
残差計算ユニット204は、たとえば、サンプル毎に(ピクセル毎に)ピクチャブロック203のサンプル値から予測ブロック265のサンプル値を差し引いてサンプル領域において残差ブロック205を取得することによって、ピクチャブロック203および予測ブロック265(予測ブロック265についてのさらなる詳細は後で与えられる)に基づいて残差ブロック205(残差205とも呼ばれる)を計算するように構成される可能性がある。
変換
変換処理ユニット206は、残差ブロック205のサンプル値に対して変換、たとえば、離散コサイン変換(DCT)または離散サイン変換(DST)を適用して変換領域において変換係数207を取得するように構成される可能性がある。変換係数207は、変換残差係数とも呼ばれ、変換領域において残差ブロック205を表現する可能性がある。
変換処理ユニット206は、残差ブロック205のサンプル値に対して変換、たとえば、離散コサイン変換(DCT)または離散サイン変換(DST)を適用して変換領域において変換係数207を取得するように構成される可能性がある。変換係数207は、変換残差係数とも呼ばれ、変換領域において残差ブロック205を表現する可能性がある。
変換処理ユニット206は、H.265/HEVCのために規定された変換などのDCT/DSTの整数近似を適用するように構成される可能性がある。直交DCT変換と比較して、そのような整数近似は、概して、特定の率でスケーリングされる。順および逆変換によって処理される残差ブロックのノルム(norm)を維持するために、追加的な倍率(scaling factor)が、変換プロセスの一部として適用される。倍率は、概して、倍率がシフト演算のために2の累乗であること、変換係数のビット深度、正確さと実装コストとの間のトレードオフなどのような特定の制約に基づいて選択される。たとえば、特定の倍率が、たとえば、逆変換処理ユニット212による逆変換(およびたとえば、ビデオデコーダ30における逆変換処理ユニット312による対応する逆変換)のために指定され、たとえば、エンコーダ20の変換処理ユニット206による順変換のための対応する倍率が、それに応じて指定される可能性がある。
ビデオエンコーダ20(それぞれ、変換処理ユニット206)の実施形態は、たとえば、ビデオデコーダ30が変換パラメータを受信し、復号のために使用する可能性があるように、たとえば、そのままであるかまたはエントロピー符号化ユニット270によって符号化されるかもしくは圧縮される変換パラメータ、たとえば、ある種の1つの変換または複数の変換を出力するように構成される可能性がある。
量子化
量子化ユニット208は、たとえば、スカラー量子化またはベクトル量子化を適用することによって変換係数207を量子化して量子化された係数209を取得するように構成される可能性がある。量子化された係数209は、量子化された変換係数209または量子化された残差係数209とも呼ばれる可能性がある。
量子化ユニット208は、たとえば、スカラー量子化またはベクトル量子化を適用することによって変換係数207を量子化して量子化された係数209を取得するように構成される可能性がある。量子化された係数209は、量子化された変換係数209または量子化された残差係数209とも呼ばれる可能性がある。
量子化プロセスは、変換係数207の一部またはすべてに関連するビット深度を削減する可能性がある。たとえば、nビットの変換係数が、量子化中にmビットの変換係数に切り捨てられる可能性があり、nは、mよりも大きい。量子化の度合いは、量子化パラメータ(QP: quantization parameter)を調整することによって修正される可能性がある。たとえば、スカラー量子化に関して、より細かいまたはより粗い量子化を達成するために異なるスケーリングが適用される可能性がある。より小さな量子化ステップサイズは、より細かい量子化に対応し、一方、より大きな量子化ステップサイズは、より粗い量子化に対応する。適用可能な量子化ステップサイズが、量子化パラメータ(QP)によって示される可能性がある。量子化パラメータは、たとえば、適用可能な量子化ステップサイズの予め定義された組へのインデックスである可能性がある。たとえば、小さな量子化パラメータが、細かい量子化(小さな量子化ステップサイズ)に対応する可能性があり、大きな量子化パラメータが、粗い量子化(大きな量子化ステップサイズ)に対応する可能性があり、またはその逆である可能性がある。量子化は、量子化ステップサイズによる除算を含む可能性があり、たとえば、逆量子化ユニット210による対応するおよび/または逆量子化解除は、量子化ステップサイズによる乗算を含む可能性がある。一部の規格、たとえば、HEVCによる実施形態は、量子化パラメータを使用して量子化ステップサイズを決定するように構成される可能性がある。概して、量子化ステップサイズは、除算を含む等式の固定小数点近似(fixed point approximation)を使用して量子化パラメータに基づいて計算される可能性がある。量子化ステップサイズおよび量子化パラメータに関する等式の固定小数点近似において使用されるスケーリングが原因で修正される可能性がある残差ブロックのノルムを復元するために、量子化および量子化解除に関して追加的な倍率が導入される可能性がある。1つの例示的な実装においては、逆変換および量子化解除のスケーリングが、組み合わされる可能性がある。代替的に、カスタマイズされた量子化テーブルが使用され、たとえば、ビットストリーム内でエンコーダからデコーダにシグナリングされる可能性がある。量子化は、不可逆演算であり、損失は、量子化ステップサイズが大きくなるにつれて増加する。
ビデオエンコーダ20(それぞれ、量子化ユニット208)の実施形態は、たとえば、ビデオデコーダ30が量子化パラメータを受信し、復号のために適用する可能性があるように、たとえば、そのままであるかまたはエントロピー符号化ユニット270によって符号化される量子化パラメータ(QP)を出力するように構成される可能性がある。
逆量子化
逆量子化ユニット210は、たとえば、量子化ユニット208と同じ量子化ステップサイズに基づいてまたはそれを使用して、量子化ユニット208により適用された量子化方式の逆を適用することによって、量子化された係数に量子化ユニット208の逆量子化を適用して量子化解除された係数211を取得するように構成される。量子化解除された係数211は、量子化解除された残差係数211とも呼ばれ、--量子化による損失が原因で概して変換係数と同一ではないが--変換係数207に対応する可能性がある。
逆量子化ユニット210は、たとえば、量子化ユニット208と同じ量子化ステップサイズに基づいてまたはそれを使用して、量子化ユニット208により適用された量子化方式の逆を適用することによって、量子化された係数に量子化ユニット208の逆量子化を適用して量子化解除された係数211を取得するように構成される。量子化解除された係数211は、量子化解除された残差係数211とも呼ばれ、--量子化による損失が原因で概して変換係数と同一ではないが--変換係数207に対応する可能性がある。
逆変換
逆変換処理ユニット212は、変換処理ユニット206によって適用された変換の逆変換、たとえば、逆離散コサイン変換(DCT)または逆離散サイン変換(DST)またはその他の逆変換を適用してサンプル領域において再構築された残差ブロック213(または対応する量子化解除された係数213)を取得するように構成される。再構築された残差ブロック213は、変換ブロック(transform block)213とも呼ばれる可能性がある。
逆変換処理ユニット212は、変換処理ユニット206によって適用された変換の逆変換、たとえば、逆離散コサイン変換(DCT)または逆離散サイン変換(DST)またはその他の逆変換を適用してサンプル領域において再構築された残差ブロック213(または対応する量子化解除された係数213)を取得するように構成される。再構築された残差ブロック213は、変換ブロック(transform block)213とも呼ばれる可能性がある。
再構築
再構築ユニット214(たとえば、加算器または合算器214)は、たとえば、再構築された残差ブロック213のサンプル値と予測ブロック265のサンプル値とを--サンプル毎に--足すことによって予測ブロック265に変換ブロック213(すなわち、再構築された残差ブロック213)を足してサンプル領域において再構築されたブロック215を取得するように構成される。
再構築ユニット214(たとえば、加算器または合算器214)は、たとえば、再構築された残差ブロック213のサンプル値と予測ブロック265のサンプル値とを--サンプル毎に--足すことによって予測ブロック265に変換ブロック213(すなわち、再構築された残差ブロック213)を足してサンプル領域において再構築されたブロック215を取得するように構成される。
フィルタリング
ループフィルタユニット220(または短く「ループフィルタ」220)は、再構築されたブロック215をフィルタリングしてフィルタリングされたブロック221を取得する、または概して、再構築されたサンプルをフィルタリングしてフィルタリングされたサンプルを取得するように構成される。ループフィルタユニットは、たとえば、ピクセルの遷移を平滑化するかまたはそれ以外の方法でビデオの品質を改善するように構成される。ループフィルタユニット220は、デブロッキングフィルタ、サンプル適応オフセット(SAO: sample-adaptive offset)フィルタ、または1つもしくは複数のその他のフィルタ、たとえば、バイラテラルフィルタ、適応ループフィルタ(ALF: adaptive loop filter)、鮮鋭化、平滑化フィルタ、もしくは共同フィルタ(collaborative filter)、もしくはこれらの任意の組み合わせなどの1つまたは複数のループフィルタを含む可能性がある。ループフィルタユニット220は図2にループ内フィルタであるものとして示されるが、その他の構成において、ループフィルタユニット220は、ループ後フィルタとして実装される可能性がある。フィルタリングされたブロック221は、フィルタリングされた再構築されたブロック221とも呼ばれる可能性がある。
ループフィルタユニット220(または短く「ループフィルタ」220)は、再構築されたブロック215をフィルタリングしてフィルタリングされたブロック221を取得する、または概して、再構築されたサンプルをフィルタリングしてフィルタリングされたサンプルを取得するように構成される。ループフィルタユニットは、たとえば、ピクセルの遷移を平滑化するかまたはそれ以外の方法でビデオの品質を改善するように構成される。ループフィルタユニット220は、デブロッキングフィルタ、サンプル適応オフセット(SAO: sample-adaptive offset)フィルタ、または1つもしくは複数のその他のフィルタ、たとえば、バイラテラルフィルタ、適応ループフィルタ(ALF: adaptive loop filter)、鮮鋭化、平滑化フィルタ、もしくは共同フィルタ(collaborative filter)、もしくはこれらの任意の組み合わせなどの1つまたは複数のループフィルタを含む可能性がある。ループフィルタユニット220は図2にループ内フィルタであるものとして示されるが、その他の構成において、ループフィルタユニット220は、ループ後フィルタとして実装される可能性がある。フィルタリングされたブロック221は、フィルタリングされた再構築されたブロック221とも呼ばれる可能性がある。
ビデオエンコーダ20(それぞれ、ループフィルタユニット220)の実施形態は、たとえば、デコーダ30が同じループフィルタのパラメータまたはそれぞれのループフィルタを受信し、復号のために適用する可能性があるように、たとえば、そのままであるかまたはエントロピー符号化ユニット270によって符号化される(サンプル適応オフセット情報などの)ループフィルタのパラメータを出力するように構成される可能性がある。
復号ピクチャバッファ
復号ピクチャバッファ(DPB)230は、ビデオエンコーダ20によってビデオデータを符号化するための参照ピクチャまたは概して参照ピクチャデータを記憶するメモリである可能性がある。DPB230は、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗変化型RAM(RRAM: resistive RAM)、またはその他の種類のメモリデバイスなどの様々なメモリデバイスのいずれかによって形成される可能性がある。復号ピクチャバッファ(DPB)230は、1つまたは複数のフィルタリングされたブロック221を記憶するように構成される可能性がある。復号ピクチャバッファ230は、同じ現在のピクチャまたは異なるピクチャ、たとえば、既に再構築されたピクチャのその他の既にフィルタリングされたブロック、たとえば、既に再構築され、フィルタリングされたブロック221を記憶するようにさらに構成される可能性があり、たとえば、インター予測のために、完全な既に再構築された、つまり、復号されたピクチャ(および対応する参照ブロックおよびサンプル)ならびに/または部分的に再構築された現在のピクチャ(および対応する参照ブロックおよびサンプル)を提供する可能性がある。復号ピクチャバッファ(DPB)230は、たとえば、再構築されたブロック215がループフィルタユニット220によってフィルタリングされない場合、1つもしくは複数のフィルタリングされていない再構築されたブロック215もしくは概してフィルタリングされていない再構築されたサンプルを記憶し、または再構築されたブロックもしくはサンプルの任意のその他のさらに処理されたバージョンを記憶するようにも構成される可能性がある。
復号ピクチャバッファ(DPB)230は、ビデオエンコーダ20によってビデオデータを符号化するための参照ピクチャまたは概して参照ピクチャデータを記憶するメモリである可能性がある。DPB230は、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗変化型RAM(RRAM: resistive RAM)、またはその他の種類のメモリデバイスなどの様々なメモリデバイスのいずれかによって形成される可能性がある。復号ピクチャバッファ(DPB)230は、1つまたは複数のフィルタリングされたブロック221を記憶するように構成される可能性がある。復号ピクチャバッファ230は、同じ現在のピクチャまたは異なるピクチャ、たとえば、既に再構築されたピクチャのその他の既にフィルタリングされたブロック、たとえば、既に再構築され、フィルタリングされたブロック221を記憶するようにさらに構成される可能性があり、たとえば、インター予測のために、完全な既に再構築された、つまり、復号されたピクチャ(および対応する参照ブロックおよびサンプル)ならびに/または部分的に再構築された現在のピクチャ(および対応する参照ブロックおよびサンプル)を提供する可能性がある。復号ピクチャバッファ(DPB)230は、たとえば、再構築されたブロック215がループフィルタユニット220によってフィルタリングされない場合、1つもしくは複数のフィルタリングされていない再構築されたブロック215もしくは概してフィルタリングされていない再構築されたサンプルを記憶し、または再構築されたブロックもしくはサンプルの任意のその他のさらに処理されたバージョンを記憶するようにも構成される可能性がある。
モード選択(区分け&予測)
モード選択ユニット260は、区分けユニット262、インター予測ユニット244、およびイントラ予測ユニット254を含み、元のピクチャデータ、たとえば、元のブロック203(現在のピクチャ17の現在のブロック203)と、再構築されたピクチャデータ、たとえば、同じ(現在の)ピクチャの、および/またはたとえば復号ピクチャバッファ230もしくはその他のバッファ(たとえば、図示されていないラインバッファ)からの1つもしくは複数の既に復号されたピクチャからのフィルタリングされたおよび/またはフィルタリングされていない再構築されたサンプルまたはブロックとを受け取るかまたは取得するように構成される。再構築されたピクチャデータは、予測ブロック265または予測子(predictor)265を取得するための予測、たとえば、インター予測またはイントラ予測のための参照ピクチャデータとして使用される。
モード選択ユニット260は、区分けユニット262、インター予測ユニット244、およびイントラ予測ユニット254を含み、元のピクチャデータ、たとえば、元のブロック203(現在のピクチャ17の現在のブロック203)と、再構築されたピクチャデータ、たとえば、同じ(現在の)ピクチャの、および/またはたとえば復号ピクチャバッファ230もしくはその他のバッファ(たとえば、図示されていないラインバッファ)からの1つもしくは複数の既に復号されたピクチャからのフィルタリングされたおよび/またはフィルタリングされていない再構築されたサンプルまたはブロックとを受け取るかまたは取得するように構成される。再構築されたピクチャデータは、予測ブロック265または予測子(predictor)265を取得するための予測、たとえば、インター予測またはイントラ予測のための参照ピクチャデータとして使用される。
モード選択ユニット260は、(区分けを含まない)現在のブロックの予測モードのための区分けおよび予測モード(たとえば、イントラまたはインター予測モード)を決定するかまたは選択し、残差ブロック205の計算および再構築されたブロック215の再構築のために使用される対応する予測ブロック265を生成するように構成される可能性がある。
モード選択ユニット260の実施形態は、最良の一致もしくは言い換えると最小の残差(最小の残差は送信もしくは記憶のためのより優れた圧縮を意味する)または最小のシグナリングオーバーヘッド(最小のシグナリングオーバーヘッドは送信もしくは記憶のためのより優れた圧縮を意味する)を提供する、あるいはそれら両方を考慮するかまたは釣り合いを取る区分けおよび予測モードを(たとえば、モード選択ユニット260によってサポートされるかまたはモード選択ユニット260が利用可能な区分けおよび予測モードから)選択するように構成される可能性がある。モード選択ユニット260は、レート歪み最適化(RDO)に基づいて区分けおよび予測モードを決定する、つまり、最小のレート歪みを提供する予測モードを選択するように構成される可能性がある。この文脈の「最良の」、「最小の」、「最適な」などのような用語は、必ずしも全体の「最良の」、「最小の」、「最適な」などを指さず、値が閾値を超えることもしくは下回ることのような終了もしくは選択の基準、または潜在的に「準最適な選択」につながるが、複雑さおよび処理時間を削減するその他の制約を満たすことをも指す可能性もある。
言い換えると、区分けユニット262は、たとえば、四分木区分け(QT)、二分区分け(BT)、または三分木区分け(TT)、またはこれらの任意の組み合わせを反復的に使用してブロック203を(やはりブロックを形成する)より小さなブロックの区画または下位ブロックに区分けし、たとえば、ブロックの区画または下位ブロックの各々に関して予測を実行するように構成される可能性があり、モード選択は、区分けされたブロック203の木構造の選択を含み、予測モードは、ブロックの区画または下位ブロックの各々に適用される。
以下で、例示的なビデオエンコーダ20によって実行される(たとえば、区分けユニット260による)区分けならびに(インター予測ユニット244およびイントラ予測ユニット254による)予測処理が、より詳細に説明される。
区分け
区分けユニット262は、現在のブロック203をより小さな区画、たとえば、正方形または長方形のサイズのより小さなブロックに区分けする(または分割する)可能性がある。これらのより小さなブロック(下位ブロックとも呼ばれる可能性がある)は、より一層小さな区画にさらに区分けされる可能性がある。これは、木区分けまたは階層的木区分けとも呼ばれ、たとえば、ルートツリーレベル0(階層レベル0、深さ0)のルートブロックが、再帰的に区分けされ、たとえば、次に低いツリーレベルの2つ以上のブロック、たとえば、ツリーレベル1(階層レベル1、深さ1)のノードに区分けされる可能性があり、これらのブロックが、次に低いレベル、たとえば、ツリーレベル2(階層レベル2、深さ2)の2つ以上のブロックに再び区分けされる可能性があり、たとえば、終了基準が満たされる、たとえば、最大のツリーの深さまたは最小のブロックサイズが達せられるので区分けが終了されるまで以下同様である。さらに区分けされないブロックは、木の葉ブロックまたは葉ノードとも呼ばれる。2つの区画への区分けを使用する木は、二分木(BT)と呼ばれ、3つの区画への区分けを使用する木は、三分木(TT)と呼ばれ、4つの区画への区分けを使用する木は、四分木(QT)と呼ばれる。
区分けユニット262は、現在のブロック203をより小さな区画、たとえば、正方形または長方形のサイズのより小さなブロックに区分けする(または分割する)可能性がある。これらのより小さなブロック(下位ブロックとも呼ばれる可能性がある)は、より一層小さな区画にさらに区分けされる可能性がある。これは、木区分けまたは階層的木区分けとも呼ばれ、たとえば、ルートツリーレベル0(階層レベル0、深さ0)のルートブロックが、再帰的に区分けされ、たとえば、次に低いツリーレベルの2つ以上のブロック、たとえば、ツリーレベル1(階層レベル1、深さ1)のノードに区分けされる可能性があり、これらのブロックが、次に低いレベル、たとえば、ツリーレベル2(階層レベル2、深さ2)の2つ以上のブロックに再び区分けされる可能性があり、たとえば、終了基準が満たされる、たとえば、最大のツリーの深さまたは最小のブロックサイズが達せられるので区分けが終了されるまで以下同様である。さらに区分けされないブロックは、木の葉ブロックまたは葉ノードとも呼ばれる。2つの区画への区分けを使用する木は、二分木(BT)と呼ばれ、3つの区画への区分けを使用する木は、三分木(TT)と呼ばれ、4つの区画への区分けを使用する木は、四分木(QT)と呼ばれる。
上述のように、本明細書において使用される用語「ブロック」は、ピクチャの一部分、特に、正方形または長方形の一部分である可能性がある。たとえば、HEVCおよびVVCに関連して、ブロックは、符号化ツリーユニット(CTU)、符号化ユニット(CU: coding unit)、予測ユニット(PU: prediction unit)、および変換ユニット(TU: transform unit)、ならびに/または対応するブロック、たとえば、符号化ツリーブロック(CTB)、符号化ブロック(CB: coding block)、変換ブロック(TB)、または予測ブロック(PB)であるかまたはそれらに対応する可能性がある。
たとえば、符号化ツリーユニット(CTU)は、ルマサンプルのCTB、3つのサンプル配列を有するピクチャのクロマサンプルの2つの対応するCTB、またはモノクロピクチャもしくはサンプルをコーディングするために使用される3つの別々の色平面(colour plane)およびシンタックス(syntax)構造を使用してコーディングされるピクチャのサンプルのCTBであるかまたはそれらを含む可能性がある。それに対応して、符号化ツリーブロック(CTB)は、構成要素のCTBへの分割が区分けであるようなNの何らかの値に関するサンプルのNxNのブロックである可能性がある。符号化ユニット(CU)は、ルマサンプルの符号化ブロック、3つのサンプル配列を有するピクチャのクロマサンプルの2つの対応する符号化ブロック、またはモノクロピクチャもしくはサンプルをコーディングするために使用される3つの別々の色平面およびシンタックス構造を使用してコーディングされるピクチャのサンプルの符号化ブロックであるかまたはそれらを含む可能性がある。それに対応して、符号化ブロック(CB)は、CTBの符号化ブロックへの分割が区分けであるようなMおよびNの何らかの値に関するサンプルのMxNのブロックである可能性がある。
たとえば、HEVCによる実施形態において、符号化ツリーユニット(CTU)は、符号化ツリーとして表される四分木構造を使用することによってCUに分割される可能性がある。インターピクチャ(時間)予測を使用してピクチャエリアをコーディングすべきかまたはイントラピクチャ(空間)予測を使用してピクチャエリアをコーディングすべきかの判断は、CUレベルで行われる。各CUは、PU分割タイプに従って1つ、2つ、または4つのPUにさらに分割され得る。1つのPU内では、同じ予測プロセスが適用され、関連する情報がPUに基づいてデコーダに送信される。PU分割タイプに基づいて予測プロセスを適用することによって残差ブロックを取得した後、CUは、CUに関する符号化ツリーと同様の別の四分木構造によって変換ユニット(TU)に区分けされ得る。
たとえば、多目的ビデオ符号化(VVC)と呼ばれる現在開発されている最新のビデオコーディング規格による実施形態においては、組み合わされた四分木および二分木(QTBT)区分けが、たとえば、符号化ブロックを区分けするために使用される。QTBTブロック構造において、CUは、正方形かまたは長方形かのどちらかの形状を持ち得る。たとえば、符号化ツリーユニット(CTU)が、まず、四分木構造によって区分けされる。四分木の葉ノードが、二分木または三分(ternary)(または三分(triple))木構造によってさらに区分けされる。区分けツリーの葉ノードは、符号化ユニット(CU)と呼ばれ、そのセグメント分けが、いかなるさらなる区分けもなしに予測および変換処理のために使用される。これは、CU、PU、およびTUがQTBT符号化ブロック構造において同じブロックサイズを有することを意味する。平行して、多区画、たとえば、三分木区画は、QTBTブロック構造と一緒に使用される可能性がある。
一例において、ビデオエンコーダ20のモード選択ユニット260は、本明細書において説明される区分け技術の任意の組み合わせを実行するように構成される可能性がある。
上述のように、ビデオエンコーダ20は、1組の(たとえば、予め決定された)予測モードから最良のまたは最適な予測モードを決定するまたは選択するように構成される。1組の予測モードは、たとえば、イントラ予測モードおよび/またはインター予測モードを含む可能性がある。
イントラ予測
1組のイントラ予測モードは、たとえばHEVCにおいて定義された35個の異なるイントラ予測モード、たとえば、DC(もしくは平均)モードおよび平面モードのような非方向性モード、または方向性モードを含む可能性があり、あるいはたとえばVVCのために定義された67個の異なるイントラ予測モード、たとえば、DC(もしくは平均)モードおよび平面モードのような非方向性モード、または方向性モードを含む可能性がある。
1組のイントラ予測モードは、たとえばHEVCにおいて定義された35個の異なるイントラ予測モード、たとえば、DC(もしくは平均)モードおよび平面モードのような非方向性モード、または方向性モードを含む可能性があり、あるいはたとえばVVCのために定義された67個の異なるイントラ予測モード、たとえば、DC(もしくは平均)モードおよび平面モードのような非方向性モード、または方向性モードを含む可能性がある。
イントラ予測ユニット254は、1組のイントラ予測モードのうちのイントラ予測モードによって、同じ現在のピクチャの近隣のブロックの再構築されたサンプルを使用してイントラ予測ブロック265を生成するように構成される。
イントラ予測ユニット254(または概してモード選択ユニット260)は、たとえば、ビデオデコーダ30が予測パラメータを受信し、復号のために使用する可能性があるように、符号化されたピクチャデータ21に含めるためにシンタックス要素266の形態でエントロピー符号化ユニット270にイントラ予測パラメータ(または概してブロックに関する選択されたイントラ予測モードを示す情報)を出力するようにさらに構成される。
インター予測
1組の(または可能な)インター予測モードは、利用可能な参照ピクチャ(つまり、たとえば、DBP230に記憶された前の少なくとも部分的に復号されたピクチャ)ならびにその他のインター予測パラメータ、たとえば、最もよく一致する参照ブロックを探索するために参照ピクチャ全体が使用されるのかもしくは参照ピクチャの一部のみ、たとえば、現在のブロックのエリアの周りの探索窓(search window)エリアのみが使用されるか、ならびに/またはたとえば、ピクセル補間、たとえば、半/セミペル(half/semi-pel)および/もしくは4分の1ペル補間が適用されるか否かに依存する。
1組の(または可能な)インター予測モードは、利用可能な参照ピクチャ(つまり、たとえば、DBP230に記憶された前の少なくとも部分的に復号されたピクチャ)ならびにその他のインター予測パラメータ、たとえば、最もよく一致する参照ブロックを探索するために参照ピクチャ全体が使用されるのかもしくは参照ピクチャの一部のみ、たとえば、現在のブロックのエリアの周りの探索窓(search window)エリアのみが使用されるか、ならびに/またはたとえば、ピクセル補間、たとえば、半/セミペル(half/semi-pel)および/もしくは4分の1ペル補間が適用されるか否かに依存する。
上述の予測モードに加えて、スキップモードおよび/またはダイレクトモードが、適用される可能性がある。
インター予測ユニット244は、動き推定(ME)ユニットおよび動き補償(MC)ユニット(どちらも図2に示さず)を含む可能性がある。動き推定ユニットは、動き推定のために、ピクチャブロック203(現在のピクチャ17の現在のピクチャブロック203)および復号されたピクチャ231、または少なくとも1つのもしくは複数の既に再構築されたブロック、たとえば、1つもしくは複数のその他の/異なる既に復号されたピクチャ231の再構築されたブロックを受信するかまたは取得するように構成される可能性がある。たとえば、ビデオシーケンスは、現在のピクチャおよび既に復号されたピクチャ231を含む可能性があり、または言い換えると、現在のピクチャおよび既に復号されたピクチャ231は、ビデオシーケンスを形成するピクチャのシーケンスの一部であるかもしくはそのようなピクチャのシーケンスを形成する可能性がある。
エンコーダ20は、たとえば、複数のその他のピクチャのうちの同じまたは異なるピクチャの複数の参照ブロックから参照ブロックを選択し、参照ピクチャ(もしくは参照ピクチャインデックス)および/または参照ブロックの位置(x、y座標)と現在のブロックの位置との間のオフセット(空間オフセット)をインター予測パラメータとして動き推定ユニットに提供するように構成される可能性がある。このオフセットは、動きベクトル(MV)とも呼ばれる。
動き補償ユニットは、インター予測パラメータを取得、たとえば、受信し、インター予測パラメータに基づいてまたはインター予測パラメータを使用してインター予測を実行してインター予測ブロック265を取得するように構成される。動き補償ユニットによって実行される動き補償は、おそらくはサブピクセルの精度の補間を実行する動き推定によって決定された動き/ブロックベクトルに基づく予測ブロックのフェッチまたは生成を含む可能性がある。補間フィルタリングが、知られているピクセルサンプルから追加的なピクセルサンプルを生成する可能性があり、したがって潜在的に、ピクチャブロックをコーディングするために使用される可能性がある候補予測ブロックの数を増やす。現在のピクチャブロックのPUに関する動きベクトルを受信すると、動き補償ユニットは、参照ピクチャリストのうちの1つにおいて動きベクトルが指す予測ブロックを見つける可能性がある。
動き補償ユニットは、ビデオスライスのピクチャブロックを復号する際にビデオデコーダ30によって使用するためのブロックおよびビデオスライスに関連するシンタックス要素も生成する可能性がある。スライスおよびそれぞれのシンタックス要素に加えて、またはスライスおよびそれぞれのシンタックス要素の代替として、タイルグループおよび/またはタイルならびにそれぞれのシンタックス要素が、生成されるかまたは使用される可能性がある。
エントロピーコーディング
エントロピー符号化ユニット270は、たとえば、ビデオデコーダ30がパラメータを受信し、復号のために使用する可能性があるように、たとえば、符号化されたビットストリーム21の形態で出力272を介して出力され得る符号化されたピクチャデータ21を得るために、量子化された係数209、インター予測パラメータ、イントラ予測パラメータ、ループフィルタパラメータ、および/またはその他のシンタックス要素に対して、たとえば、エントロピー符号化アルゴリズムもしくは方式(たとえば、可変長符号化(VLC: variable length coding)方式、コンテキスト適応VLC方式(CAVLC: context adaptive VLC)、算術符号化方式、2値化、コンテキスト適応2値算術符号化(CABAC: context adaptive binary arithmetic coding)、シンタックスに基づくコンテキスト適応2値算術符号化(SBAC: syntax-based context-adaptive binary arithmetic coding)、確率間隔区分エントロピー(PIPE: probability interval partitioning entropy)符号化、もしくは別のエントロピー符号化方法もしくは技術)またはバイパス(bypass)(非圧縮)を適用するように構成される。符号化されたビットストリーム21は、ビデオデコーダ30に送信されるか、または後の送信またはビデオデコーダ30による取り出しのためにメモリに記憶される可能性がある。
エントロピー符号化ユニット270は、たとえば、ビデオデコーダ30がパラメータを受信し、復号のために使用する可能性があるように、たとえば、符号化されたビットストリーム21の形態で出力272を介して出力され得る符号化されたピクチャデータ21を得るために、量子化された係数209、インター予測パラメータ、イントラ予測パラメータ、ループフィルタパラメータ、および/またはその他のシンタックス要素に対して、たとえば、エントロピー符号化アルゴリズムもしくは方式(たとえば、可変長符号化(VLC: variable length coding)方式、コンテキスト適応VLC方式(CAVLC: context adaptive VLC)、算術符号化方式、2値化、コンテキスト適応2値算術符号化(CABAC: context adaptive binary arithmetic coding)、シンタックスに基づくコンテキスト適応2値算術符号化(SBAC: syntax-based context-adaptive binary arithmetic coding)、確率間隔区分エントロピー(PIPE: probability interval partitioning entropy)符号化、もしくは別のエントロピー符号化方法もしくは技術)またはバイパス(bypass)(非圧縮)を適用するように構成される。符号化されたビットストリーム21は、ビデオデコーダ30に送信されるか、または後の送信またはビデオデコーダ30による取り出しのためにメモリに記憶される可能性がある。
ビデオエンコーダ20その他の構造の変化形が、ビデオストリームを符号化するために使用され得る。たとえば、変換に基づかないエンコーダ20は、特定のブロックまたはフレームに関して変換処理ユニット206なしに残差信号を直接量子化し得る。別の実装において、エンコーダ20は、単一のユニットに組み合わされた量子化ユニット208および逆量子化ユニット210を持ち得る。
デコーダおよび復号方法
図3は、本出願の技術を実装するように構成されるビデオデコーダ30の例を示す。ビデオデコーダ30は、復号されたピクチャ331を取得するために、たとえば、エンコーダ20によって符号化された符号化されたピクチャデータ21(たとえば、符号化されたビットストリーム21)を受信するように構成される。符号化されたピクチャデータまたはビットストリームは、符号化されたピクチャデータ、たとえば、符号化されたビデオスライス(および/またはタイルグループもしくはタイル)のピクチャブロックならびに関連するシンタックス要素を表すデータを復号するための情報を含む。
図3は、本出願の技術を実装するように構成されるビデオデコーダ30の例を示す。ビデオデコーダ30は、復号されたピクチャ331を取得するために、たとえば、エンコーダ20によって符号化された符号化されたピクチャデータ21(たとえば、符号化されたビットストリーム21)を受信するように構成される。符号化されたピクチャデータまたはビットストリームは、符号化されたピクチャデータ、たとえば、符号化されたビデオスライス(および/またはタイルグループもしくはタイル)のピクチャブロックならびに関連するシンタックス要素を表すデータを復号するための情報を含む。
図3の例において、デコーダ30は、エントロピー復号ユニット304、逆量子化ユニット310、逆変換処理ユニット312、再構築ユニット314(たとえば、合算器314)、ループフィルタ320、復号ピクチャバッファ(DBP)330、モード適用ユニット360、インター予測ユニット344、およびイントラ予測ユニット354を含む。インター予測ユニット344は、動き補償ユニットであるかまたは動き補償ユニットを含む可能性がある。ビデオデコーダ30は、いくつかの例において、図2のビデオエンコーダ100に関連して説明された符号化パスと概して逆である復号パスを実行する可能性がある。
エンコーダ20に関連して説明されたように、逆量子化ユニット210、逆変換処理ユニット212、再構築ユニット214、ループフィルタ220、復号ピクチャバッファ(DPB)230、インター予測ユニット344、およびイントラ予測ユニット354は、ビデオエンコーダ20の「内蔵デコーダ」を形成するともみなされる。したがって、逆量子化ユニット310は、逆量子化ユニット110と機能的に同一である可能性があり、逆変換処理ユニット312は、逆変換処理ユニット212と機能的に同一である可能性があり、再構築ユニット314は、再構築ユニット214と機能的に同一である可能性があり、ループフィルタ320は、ループフィルタ220と機能的に同一である可能性があり、復号ピクチャバッファ330は、復号ピクチャバッファ230と機能的に同一である可能性がある。したがって、ビデオ20エンコーダのそれぞれのユニットおよび機能に関して与えられた説明が、ビデオデコーダ30のそれぞれのユニットおよび機能に準用される。
エントロピー復号
エントロピー復号ユニット304は、ビットストリーム21(または概して符号化されたピクチャデータ21)を解析し、たとえば、符号化されたピクチャデータ21にエントロピー復号を実行して、たとえば、量子化された係数309ならびに/あるいは復号されたコーディングパラメータ(図3に示さず)、たとえば、インター予測パラメータ(たとえば、参照ピクチャインデックスおよび動きベクトル)、イントラ予測パラメータ(たとえば、イントラ予測モードもしくはインデックス)、変換パラメータ、量子化パラメータ、ループフィルタパラメータ、および/またはその他のシンタックス要素のいずれかまたはすべてを取得するように構成される。エントロピー復号ユニット304は、エンコーダ20のエントロピー符号化ユニット270に関連して説明された符号化方式に対応する復号アルゴリズムまたは方式を適用するように構成される可能性がある。エントロピー復号ユニット304は、インター予測パラメータ、イントラ予測パラメータ、および/またはその他のシンタックス要素をモード適用ユニット360に提供し、その他のパラメータをデコーダ30のその他のユニットに提供するようにさらに構成される可能性がある。ビデオデコーダ30は、ビデオスライスのレベルおよび/またはビデオブロックのレベルでシンタックス要素を受信する可能性がある。スライスおよびそれぞれのシンタックス要素に加えて、またはスライスおよびそれぞれのシンタックス要素の代替として、タイルグループおよび/またはタイルならびにそれぞれのシンタックス要素が、受信されるおよび/または使用される可能性がある。
エントロピー復号ユニット304は、ビットストリーム21(または概して符号化されたピクチャデータ21)を解析し、たとえば、符号化されたピクチャデータ21にエントロピー復号を実行して、たとえば、量子化された係数309ならびに/あるいは復号されたコーディングパラメータ(図3に示さず)、たとえば、インター予測パラメータ(たとえば、参照ピクチャインデックスおよび動きベクトル)、イントラ予測パラメータ(たとえば、イントラ予測モードもしくはインデックス)、変換パラメータ、量子化パラメータ、ループフィルタパラメータ、および/またはその他のシンタックス要素のいずれかまたはすべてを取得するように構成される。エントロピー復号ユニット304は、エンコーダ20のエントロピー符号化ユニット270に関連して説明された符号化方式に対応する復号アルゴリズムまたは方式を適用するように構成される可能性がある。エントロピー復号ユニット304は、インター予測パラメータ、イントラ予測パラメータ、および/またはその他のシンタックス要素をモード適用ユニット360に提供し、その他のパラメータをデコーダ30のその他のユニットに提供するようにさらに構成される可能性がある。ビデオデコーダ30は、ビデオスライスのレベルおよび/またはビデオブロックのレベルでシンタックス要素を受信する可能性がある。スライスおよびそれぞれのシンタックス要素に加えて、またはスライスおよびそれぞれのシンタックス要素の代替として、タイルグループおよび/またはタイルならびにそれぞれのシンタックス要素が、受信されるおよび/または使用される可能性がある。
逆量子化
逆量子化ユニット310は、(たとえば、エントロピー復号ユニット304によって、たとえば、解析および/または復号することによって)符号化されたピクチャデータ21から量子化パラメータ(QP)(または概して逆量子化に関連する情報)および量子化された係数を受け取り、復号された量子化された係数309に対して量子化パラメータに基づいて逆量子化を適用して、変換係数311とも呼ばれる可能性がある量子化解除された係数311を取得するように構成される可能性がある。逆量子化プロセスは、量子化の度合いと、同様に、適用されるべき逆量子化の度合いとを決定するために、ビデオスライス(またはタイルまたはタイルグループ)内の各ビデオブロックに関してビデオエンコーダ20によって決定された量子化パラメータを使用することを含む可能性がある。
逆量子化ユニット310は、(たとえば、エントロピー復号ユニット304によって、たとえば、解析および/または復号することによって)符号化されたピクチャデータ21から量子化パラメータ(QP)(または概して逆量子化に関連する情報)および量子化された係数を受け取り、復号された量子化された係数309に対して量子化パラメータに基づいて逆量子化を適用して、変換係数311とも呼ばれる可能性がある量子化解除された係数311を取得するように構成される可能性がある。逆量子化プロセスは、量子化の度合いと、同様に、適用されるべき逆量子化の度合いとを決定するために、ビデオスライス(またはタイルまたはタイルグループ)内の各ビデオブロックに関してビデオエンコーダ20によって決定された量子化パラメータを使用することを含む可能性がある。
逆変換
逆変換処理ユニット312は、変換係数311とも呼ばれる量子化解除された係数311を受け取り、サンプル領域において再構築された残差ブロック213を取得するために、量子化解除された係数311に変換を適用するように構成される可能性がある。再構築された残差ブロック213は、変換ブロック313とも呼ばれる可能性がある。変換は、逆変換、たとえば、逆DCT、逆DST、逆整数変換、または概念的に同様の逆変換プロセスである可能性がある。逆変換処理ユニット312は、量子化解除された係数311に適用される変換を決定するために、(たとえば、エントロピー復号ユニット304によって、たとえば、解析および/または復号することによって)符号化されたピクチャデータ21から変換パラメータまたは対応する情報を受け取るようにさらに構成される可能性がある。
逆変換処理ユニット312は、変換係数311とも呼ばれる量子化解除された係数311を受け取り、サンプル領域において再構築された残差ブロック213を取得するために、量子化解除された係数311に変換を適用するように構成される可能性がある。再構築された残差ブロック213は、変換ブロック313とも呼ばれる可能性がある。変換は、逆変換、たとえば、逆DCT、逆DST、逆整数変換、または概念的に同様の逆変換プロセスである可能性がある。逆変換処理ユニット312は、量子化解除された係数311に適用される変換を決定するために、(たとえば、エントロピー復号ユニット304によって、たとえば、解析および/または復号することによって)符号化されたピクチャデータ21から変換パラメータまたは対応する情報を受け取るようにさらに構成される可能性がある。
再構築
再構築ユニット314(たとえば、加算器または合算器314)は、たとえば、再構築された残差ブロック313のサンプル値と予測ブロック365のサンプル値とを足すことによって予測ブロック365に再構築された残差ブロック313を足してサンプル領域において再構築されたブロック315を取得するように構成される可能性がある。
再構築ユニット314(たとえば、加算器または合算器314)は、たとえば、再構築された残差ブロック313のサンプル値と予測ブロック365のサンプル値とを足すことによって予測ブロック365に再構築された残差ブロック313を足してサンプル領域において再構築されたブロック315を取得するように構成される可能性がある。
フィルタリング
(コーディングループ内かまたはコーディングループの後かのどちらかの)ループフィルタユニット320は、たとえば、ピクセルの遷移を平滑化するかまたはそれ以外の方法でビデオの品質を改善するために再構築されたブロック315をフィルタリングしてフィルタリングされたブロック321を取得するように構成される。ループフィルタユニット320は、デブロッキングフィルタ、サンプル適応オフセット(SAO)フィルタ、または1つもしくは複数のその他のフィルタ、たとえば、バイラテラルフィルタ、適応ループフィルタ(ALF)、鮮鋭化、平滑化フィルタ、もしくは共同フィルタ、もしくはこれらの任意の組み合わせなどの1つまたは複数のループフィルタを含む可能性がある。ループフィルタユニット320は図3にループ内フィルタであるものとして示されるが、その他の構成において、ループフィルタユニット320は、ループ後フィルタとして実装される可能性がある。
(コーディングループ内かまたはコーディングループの後かのどちらかの)ループフィルタユニット320は、たとえば、ピクセルの遷移を平滑化するかまたはそれ以外の方法でビデオの品質を改善するために再構築されたブロック315をフィルタリングしてフィルタリングされたブロック321を取得するように構成される。ループフィルタユニット320は、デブロッキングフィルタ、サンプル適応オフセット(SAO)フィルタ、または1つもしくは複数のその他のフィルタ、たとえば、バイラテラルフィルタ、適応ループフィルタ(ALF)、鮮鋭化、平滑化フィルタ、もしくは共同フィルタ、もしくはこれらの任意の組み合わせなどの1つまたは複数のループフィルタを含む可能性がある。ループフィルタユニット320は図3にループ内フィルタであるものとして示されるが、その他の構成において、ループフィルタユニット320は、ループ後フィルタとして実装される可能性がある。
復号ピクチャバッファ
それから、ピクチャの復号されたビデオブロック321は、その他のピクチャに関するその後の動き補償のための参照ピクチャとしておよび/またはディスプレイ上にそれぞれ出力するために復号されたピクチャ331を記憶する復号ピクチャバッファ330に記憶される。
それから、ピクチャの復号されたビデオブロック321は、その他のピクチャに関するその後の動き補償のための参照ピクチャとしておよび/またはディスプレイ上にそれぞれ出力するために復号されたピクチャ331を記憶する復号ピクチャバッファ330に記憶される。
デコーダ30は、復号されたピクチャ311を、ユーザへの提示または視聴のために、たとえば、出力312を介して出力するように構成される。
予測
インター予測ユニット344は、インター予測ユニット244と(特に動き補償ユニットと)同一である可能性があり、イントラ予測ユニット354は、インター予測ユニット254と機能的に同一である可能性があり、(たとえば、エントロピー復号ユニット304によって、たとえば、解析および/または復号することによって)復号されたピクチャデータ21から受け取られた区分けおよび/または予測パラメータまたはそれぞれの情報に基づいて分割または区分けの判断および予測を実行する。モード適用ユニット360は、予測ブロック365を得るために、(フィルタリングされたまたはフィルタリングされていない)再構築されたピクチャ、ブロック、またはそれぞれのサンプルに基づいてブロック毎に予測(イントラまたはインター予測)を実行するように構成される可能性がある。
インター予測ユニット344は、インター予測ユニット244と(特に動き補償ユニットと)同一である可能性があり、イントラ予測ユニット354は、インター予測ユニット254と機能的に同一である可能性があり、(たとえば、エントロピー復号ユニット304によって、たとえば、解析および/または復号することによって)復号されたピクチャデータ21から受け取られた区分けおよび/または予測パラメータまたはそれぞれの情報に基づいて分割または区分けの判断および予測を実行する。モード適用ユニット360は、予測ブロック365を得るために、(フィルタリングされたまたはフィルタリングされていない)再構築されたピクチャ、ブロック、またはそれぞれのサンプルに基づいてブロック毎に予測(イントラまたはインター予測)を実行するように構成される可能性がある。
ビデオスライスがイントラ符号化された(I)スライスとしてコーディングされるとき、モード適用ユニット360のイントラ予測ユニット354は、シグナリングされたイントラ予測モードおよび現在のピクチャの既に復号されたブロックからのデータに基づいて現在のビデオスライスのピクチャブロックに関する予測ブロック365を生成するように構成される。ビデオピクチャがインター符号化された(つまり、BまたはP)スライスとしてコーディングされるとき、モード適用ユニット360のインター予測ユニット344(たとえば、動き補償ユニット)は、エントロピー復号ユニット304から受け取られたモーションベクトルおよびその他のシンタックス要素に基づいて現在のビデオスライスのビデオブロックに関する予測ブロック365を生成するように構成される。インター予測に関して、予測ブロックは、参照ピクチャリストのうちの1つの中の参照ピクチャのうちの1つから生成される可能性がある。ビデオデコーダ30は、DPB330に記憶された参照ピクチャに基づいてデフォルトの構築技術を使用して参照フレームリスト、List 0およびList 1を構築する可能性がある。同じまたは同様のことが、スライス(たとえば、ビデオスライス)に加えてまたはスライス(たとえば、ビデオスライス)の代替としてタイルグループ(たとえば、ビデオタイルグループ)および/またはタイル(たとえば、ビデオタイル)を使用する実施形態のためにまたはそのような実施形態によって適用される可能性があり、たとえば、ビデオは、I、P、またはBタイルグループおよび/またはタイルを使用してコーディングされる可能性がある。
モード適用ユニット360は、動きベクトルまたは関連する情報およびその他のシンタックス要素を解析することによって現在のビデオスライスのビデオブロックに関する予測情報を決定し、予測情報を使用して、復号されている現在のビデオブロックに関する予測ブロックを生成するように構成される。たとえば、モード適用ユニット360は、受信されたシンタックス要素の一部を使用して、ビデオスライスのビデオブロックをコーディングするために使用された予測モード(たとえば、イントラまたはインター予測)、インター予測のスライスタイプ(たとえば、Bスライス、Pスライス、またはGPBスライス)、スライスのための参照ピクチャリストのうちの1つまたは複数に関する構築情報、スライスのそれぞれのインター符号化されたビデオブロックに関する動きベクトル、スライスのそれぞれのインター符号化されたビデオブロックに関するインター予測のステータス、および現在のビデオスライス内のビデオブロックを復号するためのその他の情報を決定する。同じまたは同様のことが、スライス(たとえば、ビデオスライス)に加えてまたはスライス(たとえば、ビデオスライス)の代替としてタイルグループ(たとえば、ビデオタイルグループ)および/またはタイル(たとえば、ビデオタイル)を使用する実施形態のためにまたはそのような実施形態によって適用される可能性があり、たとえば、ビデオは、I、P、またはBタイルグループおよび/またはタイルを使用してコーディングされる可能性がある。
図3に示されるビデオデコーダ30の実施形態は、スライス(ビデオスライスとも呼ばれる)を使用することによってピクチャを区分けするおよび/または復号するように構成される可能性があり、ピクチャは、1つもしくは複数の(概して重なり合わない)スライスに区分けされるかまたは1つもしくは複数の(概して重なり合わない)スライスを使用して復号される可能性があり、各スライスは、1つまたは複数のブロック(たとえば、CTU)を含む可能性がある。
図3に示されるビデオデコーダ30の実施形態は、タイルグループ(ビデオタイルグループとも呼ばれる)および/またはタイル(ビデオタイルとも呼ばれる)を使用することによってピクチャを区分けするおよび/または復号するように構成される可能性があり、ピクチャは、1つもしくは複数の(概して重なり合わない)タイルグループに区分けされるかまたは1つもしくは複数の(概して重なり合わない)タイルグループを使用して復号される可能性があり、各タイルグループは、たとえば、1つもしくは複数のブロック(たとえば、CTU)または1つもしくは複数のタイルを含む可能性があり、各タイルは、たとえば、長方形の形をしている可能性があり、1つまたは複数のブロック(たとえば、CTU)、たとえば、完全なまたは断片的なブロックを含む可能性がある。
ビデオデコーダ30のその他の変化形が、符号化されたピクチャデータ21を復号するために使用され得る。たとえば、デコーダ30は、ループフィルタリングユニット320なしで出力ビデオストリームを生成し得る。たとえば、変換に基づかないデコーダ30は、特定のブロックまたはフレームに関して逆変換処理ユニット312なしに残差信号を直接逆量子化し得る。別の実装において、ビデオデコーダ30は、単一のユニットに組み合わされた逆量子化ユニット310および逆変換処理ユニット312を持ち得る。
エンコーダ20およびデコーダ30において、現在のステップの処理結果は、さらに処理され、それから次のステップに出力される可能性があることを理解されたい。たとえば、補間フィルタリング、動きベクトルの導出、またはループフィルタリングの後、Clipまたはシフトなどのさらなる演算が、補間フィルタリング、動きベクトルの導出、またはループフィルタリングの処理結果に対して実行される可能性がある。
さらなる演算が、(アフィンモードの制御点動きベクトル(control point motion vector)、アフィン、平面、ATMVPモードの下位ブロック動きベクトル、時間動きベクトル(temporal motion vector)などを含むがこれらに限定されない)現在のブロックの導出された動きベクトルに適用される可能性があることに留意されたい。たとえば、動きベクトルの値は、その表現ビットに従って所定の範囲に制約される。動きベクトルの表現ビットがbitDepthである場合、範囲は、-2^(bitDepth-1)～2^(bitDepth-1)-1であり、「^」は、累乗を意味する。たとえば、bitDepthが16に等しいように設定される場合、範囲は、-32768～32767であり、bitDepthが18に等しいように設定される場合、範囲は、-131072～131071である。たとえば、導出された動きベクトル(たとえば、1つの8×8ブロック内の4つの4×4下位ブロックのMV)の値は、4つの4×4下位ブロックのMVの整数部分の間の最大の差が1ピクセル以下などNピクセル以下であるように制約される。ここでは、bitDepthに応じて動きベクトルを制約するための2つの方法を提供する。
方法1: 流れる演算によってあふれ(overflow)MSB(最上位ビット)を削除する
ux = ( mvx+2bitDepth ) % 2bitDepth (1)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (2)
uy = ( mvy+2bitDepth ) % 2bitDepth (3)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (4)
式中、mvxは、画像ブロックまたは下位ブロックの動きベクトルの水平成分であり、mvyは、画像ブロックまたは下位ブロックの動きベクトルの垂直成分であり、uxおよびuyは、中間値を示す。
ux = ( mvx+2bitDepth ) % 2bitDepth (1)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (2)
uy = ( mvy+2bitDepth ) % 2bitDepth (3)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (4)
式中、mvxは、画像ブロックまたは下位ブロックの動きベクトルの水平成分であり、mvyは、画像ブロックまたは下位ブロックの動きベクトルの垂直成分であり、uxおよびuyは、中間値を示す。
たとえば、mvxの値が-32769である場合、式(1)および(2)を適用した後、結果として得られる値は、32767である。コンピュータシステムにおいて、10進数は、2の補数として記憶される。-32769の2の補数は、1,0111,1111,1111,1111(17ビット)であり、そのとき、MSBが破棄され、したがって、結果として得られる2の補数は、0111,1111,1111,1111(10進数は32767)であり、これは、式(1)および(2)を適用することによる出力と同じである。
ux= ( mvpx + mvdx +2bitDepth ) % 2bitDepth (5)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (6)
uy= ( mvpy + mvdy +2bitDepth ) % 2bitDepth (7)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (8)
ux= ( mvpx + mvdx +2bitDepth ) % 2bitDepth (5)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (6)
uy= ( mvpy + mvdy +2bitDepth ) % 2bitDepth (7)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (8)
演算は、式(5)から(8)に示されるように、mvpとmvdとの合計中に適用される可能性がある。
方法2: 値をクリッピングすることによってあふれMSBを削除する
vx = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vx)
vy = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vy)
式中、vxは、画像ブロックまたは下位ブロックの動きベクトルの水平成分であり、vyは、画像ブロックまたは下位ブロックの動きベクトルの垂直成分であり、x、y、およびzは、MVのクリッピングプロセスの3つの入力値にそれぞれ対応し、関数Clip3の定義は、以下の通りである。
vx = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vx)
vy = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vy)
式中、vxは、画像ブロックまたは下位ブロックの動きベクトルの水平成分であり、vyは、画像ブロックまたは下位ブロックの動きベクトルの垂直成分であり、x、y、およびzは、MVのクリッピングプロセスの3つの入力値にそれぞれ対応し、関数Clip3の定義は、以下の通りである。
図4は、本開示の実施形態に係るビデオコーディングデバイス400の概略図である。ビデオコーディングデバイス400は、本明細書において説明されるように開示される実施形態を実装するのに好適である。実施形態において、ビデオコーディングデバイス400は、図1Aのビデオデコーダ30などのデコーダまたは図1Aのビデオエンコーダ20などのエンコーダである可能性がある。
ビデオコーディングデバイス400は、データを受信するための着信ポート410(または入力ポート410)および受信機ユニット(Rx)420、データを処理するためのプロセッサ、論理ユニット、または中央演算処理装置(CPU)430、データを送信するための送信機ユニット(Tx)440および発信ポート450(または出力ポート450)、ならびにデータを記憶するためのメモリ460を含む。ビデオコーディングデバイス400は、光または電気信号の発信または着信のために着信ポート410、受信機ユニット420、送信機ユニット440、および発信ポート450に結合された光-電気(OE)構成要素および電気-光(EO)構成要素も含む可能性がある。
プロセッサ430は、ハードウェアおよびソフトウェアによって実装される。プロセッサ430は、1つまたは複数のCPUチップ、コア(たとえば、マルチコアプロセッサとして)、FPGA、ASIC、およびDSPとして実装される可能性がある。プロセッサ430は、着信ポート410、受信機ユニット420、送信機ユニット440、発信ポート450、およびメモリ460と通信する。プロセッサ430は、コーディングモジュール470を含む。コーディングモジュール470は、上述の開示された実施形態を実装する。たとえば、コーディングモジュール470は、様々なコーディング動作を実装するか、処理するか、準備するか、または提供する。したがって、コーディングモジュール470を含むことは、ビデオコーディングデバイス400の機能を大幅に改善し、ビデオコーディングデバイス400の異なる状態への転換をもたらす。代替的に、コーディングモジュール470は、メモリ460に記憶され、プロセッサ430によって実行される命令として実装される。
メモリ460は、1つまたは複数のディスク、テープドライブ、およびソリッドステートドライブを含む可能性があり、プログラムが実行するために選択されるときにそのようなプログラムを記憶するためならびにプログラムの実行中に読まれる命令およびデータを記憶するためのオーバーフローデータストレージデバイス(over-flow data storage device)として使用される可能性がある。メモリ460は、たとえば、揮発性および/または不揮発性である可能性があり、読み出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、3値連想メモリ(TCAM: ternary content-addressable memory)、および/またはスタティックランダムアクセスメモリ(SRAM)である可能性がある。
図5は、例示的な実施形態に係る、図1の送信元デバイス12および送信先デバイス14のどちらかまたは両方として使用される可能性がある装置500の簡略化されたブロック図である。
装置500のプロセッサ502は、中央演算処理装置であることが可能である。代替的に、プロセッサ502は、既存のまたは今後開発される、情報を操作または処理することができる任意のその他の種類の1つのデバイスまたは複数のデバイスであることが可能である。開示される実装は示されるように単一のプロセッサ、たとえば、プロセッサ502によって実施され得るが、2つ以上のプロセッサを使用することによって速度および効率面の利点が実現され得る。
装置500のメモリ504は、実装において、読み出し専用メモリ(ROM)デバイスまたはランダムアクセスメモリ(RAM)デバイスであることが可能である。任意のその他の好適な種類のストレージデバイスが、メモリ504として使用され得る。メモリ504は、バス512を使用してプロセッサ502によってアクセスされるコードおよびデータ506を含み得る。メモリ504は、オペレーティングシステム508およびアプリケーションプログラム510をさらに含むことが可能であり、アプリケーションプログラム510は、プロセッサ502が本明細書において説明される方法を実行すること可能にする少なくとも1つのプログラムを含む。たとえば、アプリケーションプログラム510は、本明細書において説明される方法を実行するビデオコーディングアプリケーションをさらに含むアプリケーション1からNを含み得る。
装置500は、ディスプレイ518などの1つまたは複数の出力デバイスも含み得る。ディスプレイ518は、一例において、ディスプレイをタッチ入力を感知するように動作可能であるタッチ感知要素と組み合わせるタッチ式ディスプレイである可能性がある。ディスプレイ518は、バス512を介してプロセッサ502に結合され得る。
ここでは単一のバスとして示されるが、装置500のバス512は、複数のバスから構成され得る。さらに、二次ストレージ514は、装置500のその他の構成要素に直接結合されることが可能であり、またはネットワークを介してアクセスされることが可能であり、メモリカードなどの単一の統合されたユニットもしくは複数のメモリカードなどの複数のユニットを含むことが可能である。したがって、装置500は、多種多様な構成で実装され得る。
パラメータセット
パラメータセットは、基本的に類似しており、同じ基本的な設計目標--つまり、ビットレートの効率、誤り耐性、およびシステムレイヤインターフェースの提供--を共有する。HEVC(H.265)には、AVCおよびVVCにおいてそれらに対応するものと類似しているビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、およびピクチャパラメータセット(PPS)を含むパラメータセットの階層が存在する。各スライスは、単一のアクティブなPPS、SPS、およびVPSを参照して、スライスを復号するために使用される情報にアクセスする。PPSは、ピクチャ内のすべてのスライスに適用される情報を含み、したがって、ピクチャ内のすべてのスライスは、同じPPSを参照しなければならない。異なるピクチャのスライスが、同じPPSを参照することも許される。同様に、SPSは、同じ符号化ビデオシーケンス(coded video sequence)内のすべてのピクチャに適用される情報を含む。
パラメータセットは、基本的に類似しており、同じ基本的な設計目標--つまり、ビットレートの効率、誤り耐性、およびシステムレイヤインターフェースの提供--を共有する。HEVC(H.265)には、AVCおよびVVCにおいてそれらに対応するものと類似しているビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、およびピクチャパラメータセット(PPS)を含むパラメータセットの階層が存在する。各スライスは、単一のアクティブなPPS、SPS、およびVPSを参照して、スライスを復号するために使用される情報にアクセスする。PPSは、ピクチャ内のすべてのスライスに適用される情報を含み、したがって、ピクチャ内のすべてのスライスは、同じPPSを参照しなければならない。異なるピクチャのスライスが、同じPPSを参照することも許される。同様に、SPSは、同じ符号化ビデオシーケンス(coded video sequence)内のすべてのピクチャに適用される情報を含む。
PPSは別々のピクチャに関して異なる場合があるが、符号化ビデオシーケンス内の多くのまたはすべてのピクチャが同じPPSを参照することがよくある。パラメータセットを再利用することは、共有された情報を複数回送信する必要を回避するので、ビットレートの効率が良い。また、パラメータセットを再利用することは、パラメータセットの内容が失われないことを保証するために、パラメータセットの内容が何らかのより信頼性の高い外部通信リンクによって運ばれるかまたはビットストリーム内で頻繁に繰り返されることを可能にするので、損失に強い。
シーケンスパラメータセット(SPS)
SPSは、1つまたは複数のレイヤに適用されるパラメータを含み、符号化ビデオシーケンス内でピクチャ毎に変化しない。特に、SPSは、サブピクチャのシグナリングに関する情報を含む。
SPSは、1つまたは複数のレイヤに適用されるパラメータを含み、符号化ビデオシーケンス内でピクチャ毎に変化しない。特に、SPSは、サブピクチャのシグナリングに関する情報を含む。
下の表のいくつかの部分は、ITU JVET-Q2001-v11のSPS内でのサブピクチャのシグナリングの一部の概略を示し、ダウンロードリンクは、以下の通りである。
http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/17_Brussels/wg11/JVET-Q2001-v11.zip
http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/17_Brussels/wg11/JVET-Q2001-v11.zip
サブピクチャの概念を説明するために、まず、CTU、タイル、およびスライスの概念を説明する必要がある。
HEVCおよびVVCにおいて、ピクチャは、符号化ツリーユニット(CTU)の格子に分割される。CTUは、ルマ符号化ツリーブロック(CTB)および2つの対応するクロマCTBを含む。
ピクチャは、1つまたは複数のタイルの行および1つまたは複数のタイルの列に分割され得る。タイルは、ピクチャの長方形の領域を包含するCTUのシーケンスである。タイル内のCTUは、そのタイル内でラスタスキャン順にスキャンされる。ラスタスキャン順は、左から右、そして、上から下にスキャンする。図6に示される例において、CTUは、画像内のラスタスキャン順にスキャンされる。
スライスは、整数個の完全なタイル、またはピクチャのタイル内の整数個の連続したCTUの行を含む。その結果、それぞれの垂直方向のスライスの境界は、常に、垂直方向のタイルの境界でもある。スライスの水平方向の境界は、タイルの境界ではなく、タイル内の水平方向のCTUの境界を含む可能性があり、このケースは、タイルが複数の長方形のスライスに分割され、各スライスが整数個のタイル内の連続した完全なCTUの行を含むときに生じる。
一部の例においては、2つのスライスモード、ラスタスキャンスライスモードおよび長方形スライスモードが存在する。ラスタスキャンスライスモードにおいて、スライスは、ピクチャのタイルのラスタスキャンのタイルのシーケンスを含む。長方形スライスモードにおいて、スライスは、ピクチャの長方形の領域を集合的に形成するいくつかのタイルを含むか、またはスライスは、ピクチャの長方形の領域を集合的に形成する1つのタイルのいくつかの連続したCTUの行を含む。長方形のスライス内のタイルは、そのスライスに対応する長方形の領域内でタイルのラスタスキャン順にスキャンされる。
サブピクチャは、ピクチャの長方形の領域を集合的に包含する1つまたは複数のスライスを含む。したがって、各サブピクチャの境界は、常に、スライスの境界であり、それぞれの垂直方向のサブピクチャの境界は、常に、垂直方向のタイルの境界である。
図7は、タイル、スライス、およびサブピクチャの例を提供する。図7においては、4つのタイル(2つのタイルの列および2つのタイルの行)、4つの長方形のスライス、ならびに3つのサブピクチャを含むピクチャの例。サブピクチャ1は、2つのスライスを含む。
SPSの一部のシンタックス要素は、各サブピクチャの位置情報および制御フラグをシグナリングする。第iのサブピクチャの位置情報は、
・subpic_ctu_top_left_x[ i ]、または
・subpic_ctu_top_left_y[ i ]、または
・subpic_width_minus1[ i ]、または
・subpic_height_minus1[ i ]
を含む。
・subpic_ctu_top_left_x[ i ]、または
・subpic_ctu_top_left_y[ i ]、または
・subpic_width_minus1[ i ]、または
・subpic_height_minus1[ i ]
を含む。
制御フラグは、
・subpic_treated_as_pic_flag[ i ]、または
・loop_filter_across_subpic_enabled_flag[ i ]
を含む。
・subpic_treated_as_pic_flag[ i ]、または
・loop_filter_across_subpic_enabled_flag[ i ]
を含む。
フラグsubpic_info_present_flagが1に等しいとき、これらの位置および制御フラグは、ビットストリーム内でシグナリングされるか否かをさらに決定される。
関連するシンタックス要素のセマンティクス(semantics)は、以下のように説明される。
1に等しいsubpic_info_present_flagは、サブピクチャ情報が存在し、符号化ビデオシーケンスの各ピクチャ内に1つまたは複数のサブピクチャが存在する場合があることを指定する。0に等しいsubpic_info_present_flagは、符号化ビデオシーケンスに関してサブピクチャ情報が存在せず、符号化ビデオシーケンスの各ピクチャ内に1つのサブピクチャのみが存在することを指定する。
sps_num_subpics_minus1に1を足した値は、符号化ビデオシーケンスの各ピクチャ内のサブピクチャの数を指定する。sps_num_subpics_minus1の値は、0およびCeil( pic_width_max_in_luma_samples÷CtbSizeY ) * Ceil( pic_height_max_in_luma_samples÷CtbSizeY ) - 1を含んで0からCeil( pic_width_max_in_luma_samples÷CtbSizeY ) * Ceil( pic_height_max_in_luma_samples÷CtbSizeY ) - 1までの範囲内にある。存在しないとき、sps_num_subpics_minus1の値は、0に等しいと推測される。いくつかの例において、sps_num_subpics_minus1の値は、0からX-1までの範囲内であり、Xは、16、20、30、40、75、200、または600に等しい場合がある。
1に等しいsps_independent_subpics_flagは、符号化ビデオシーケンス内でのいかなるサブピクチャの境界をまたぐイントラ予測、インター予測、およびループ内フィルタリング動作も実行されない可能性があることを指定する。0に等しいsps_independent_subpics_flagは、符号化ビデオシーケンス内でのサブピクチャの境界をまたぐインター予測またはループ内フィルタリング動作が可能にされてよいことを指定する。存在しないとき、sps_independent_subpics_flagの値は、0に等しいと推測される。例において、1に等しいsps_independent_subpics_flagは、符号化ビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定する。0に等しいsps_independent_subpics_flagは、そのような制約を課さない。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。
subpic_ctu_top_left_x[i]は、第iのサブピクチャの左上のCTUの水平位置をCtbSizeYを単位として指定する。シンタックス要素の長さは、Ceil( Log2( ( pic_width_max_in_luma_samples + CtbSizeY - 1 ) >> CtbLog2SizeY ) )ビットである。存在しないとき、subpic_ctu_top_left_x[ i ]の値は、0に等しいと推測される。
subpic_ctu_top_left_y[i]は、第iのサブピクチャの左上のCTUの垂直位置をCtbSizeYを単位として指定する。シンタックス要素の長さは、Ceil( Log2( ( pic_height_max_in_luma_samples + CtbSizeY - 1 ) >> CtbLog2SizeY ) )ビットである。存在しないとき、subpic_ctu_top_left_y[ i ]の値は、0に等しいと推測される。
subpic_width_minus1[ i ]に1を足した値は、第iのサブピクチャの幅をCtbSizeYを単位として指定する。シンタックス要素の長さは、Ceil( Log2( ( pic_width_max_in_luma_samples + CtbSizeY - 1 ) >> CtbLog2SizeY ) )ビットである。存在しないとき、subpic_width_minus1[i]の値は、( ( pic_width_max_in_luma_samples + CtbSizeY - 1 ) >> CtbLog2SizeY ) - subpic_ctu_top_left_x[i] - 1に等しいと推測される。
subpic_height_minus1[ i ]に1を足した値は、第iのサブピクチャの高さをCtbSizeYを単位として指定する。シンタックス要素の長さは、Ceil( Log2( ( pic_height_max_in_luma_samples + CtbSizeY - 1 ) >> CtbLog2SizeY ) )ビットである。存在しないとき、subpic_height_minus1[i]の値は、( ( pic_height_max_in_luma_samples + CtbSizeY - 1 ) >> CtbLog2SizeY ) - subpic_ctu_top_left_y[i] - 1に等しいと推測される。
1に等しいsubpic_treated_as_pic_flag[ i ]は、符号化ビデオシーケンスのそれぞれのコーディングされるピクチャ内の第iのサブピクチャがループ内フィルタリング動作を除く復号処理においてピクチャとして扱われることを指定する。0に等しいsubpic_treated_as_pic_flag[i]は、符号化ビデオシーケンスのそれぞれのコーディングされるピクチャ内の第iのサブピクチャがループ内フィルタリング動作を除く復号処理においてピクチャとして扱われないことを指定する。存在しないとき、subpic_treated_as_pic_flag[i]の値は、sps_independent_subpics_flagに等しいかまたは1に等しいと推測される。
1に等しいloop_filter_across_subpic_enabled_flag[i]は、サブピクチャの境界をまたぐループ内フィルタリング動作が有効化され、符号化ビデオシーケンスのそれぞれのコーディングされるピクチャ内の第iのサブピクチャの境界をまたいで実行される可能性があることを指定する。0に等しいloop_filter_across_subpic_enabled_flag[i]は、サブピクチャの境界をまたぐループ内フィルタリング動作が無効にされ、符号化ビデオシーケンスのそれぞれのコーディングされるピクチャの第iのサブピクチャの境界をまたいで実行されないことを指定する。存在しないとき、loop_filter_across_subpic_enabled_pic_flag[i]の値は、1 - sps_independent_subpics_flagに等しいかまたは0に等しいと推測される。
図7に示される一例において、sps_num_subpics_minus1の値は、2であり、位置に関連するシンタックス要素は、以下の値を有する。
サブピクチャ0に関して、
・subpic_ctu_top_left_x[ 0 ]は、シグナリングされず、0と推測される。
・subpic_ctu_top_left_y[ 0 ]は、シグナリングされず、0と推測される。
・subpic_width_minus1[ 0 ]、値は8である。
・subpic_height_minus1[ 0 ]、値は11である。
サブピクチャ1に関して、
・subpic_ctu_top_left_x[ 1 ]、値は9である。
・subpic_ctu_top_left_y[ 1 ]、値は0である。
・subpic_width_minus1[ 1 ]、値は8である。
・subpic_height_minus1[ 1 ]、値は5である。
サブピクチャ2に関して、
・subpic_ctu_top_left_x[ 2 ]、値は9である。
・subpic_ctu_top_left_y[ 2 ]、値は6である。
・subpic_width_minus1[ 2 ]は、シグナリングされず、8と推測される。
・subpic_height_minus1[ 2 ]は、シグナリングされず、5と推測される。
サブピクチャ0に関して、
・subpic_ctu_top_left_x[ 0 ]は、シグナリングされず、0と推測される。
・subpic_ctu_top_left_y[ 0 ]は、シグナリングされず、0と推測される。
・subpic_width_minus1[ 0 ]、値は8である。
・subpic_height_minus1[ 0 ]、値は11である。
サブピクチャ1に関して、
・subpic_ctu_top_left_x[ 1 ]、値は9である。
・subpic_ctu_top_left_y[ 1 ]、値は0である。
・subpic_width_minus1[ 1 ]、値は8である。
・subpic_height_minus1[ 1 ]、値は5である。
サブピクチャ2に関して、
・subpic_ctu_top_left_x[ 2 ]、値は9である。
・subpic_ctu_top_left_y[ 2 ]、値は6である。
・subpic_width_minus1[ 2 ]は、シグナリングされず、8と推測される。
・subpic_height_minus1[ 2 ]は、シグナリングされず、5と推測される。
ビットストリームにコーディングされたsps_independent_subpics_flagの値に応じて、sps_independent_subpics_flagの値が1に等しいとき、iが0および2を含んで0から2までの範囲であるsubpic_treated_as_pic[ i ]およびloop_filter_across_subpic_enabled_flag[ i ]は、推測される。そうでない場合、これらの値は、各サブピクチャの設定に基づいてビットストリーム内でシグナリングされる。
表1に示されたように、2つのシンタックス要素pic_width_max_in_luma_samplesおよびpic_height_max_in_luma_samplesは、サブピクチャに関連するシンタックス要素の前にシグナリングされる。pic_width_max_in_luma_samplesおよびpic_height_max_in_luma_samplesのセマンティクスによれば、それらは、CtbSizeYよりも小さい可能性がある。
シンタックス要素pic_width_max_in_luma_samplesは、「0に等しくなく、Max( 8, MinCbSizeY )の整数倍である」ように制約される。
シンタックス要素pic_height_max_in_luma_samplesは、「0に等しくなく、Max( 8, MinCbSizeY )の整数倍である」ように制約される。
つまり、pic_width_max_in_luma_samplesは、8程度に小さいことが可能である。
一方、CtbSizeYの値は、シンタックス要素sps_log2_ctu_size_minus5によって決定され、以下のように導出される。
CtbLog2SizeY = sps_log2_ctu_size_minus5 + 5
CtbSizeY = 1 << CtbLog2SizeY
CtbLog2SizeY = sps_log2_ctu_size_minus5 + 5
CtbSizeY = 1 << CtbLog2SizeY
sps_log2_ctu_size_minus5に5を足した値は、各CTUのルマ符号化ツリーブロックサイズを指定する。sps_log2_ctu_size_minus5の値は、0および2を含んで0から2までの範囲内にある。sps_log2_ctu_size_minus5の値3は、ITU-T | ISO/IECによって将来の使用のために予約されている。
つまり、CtbSizeYは、1 << 7 = 128程度に大きいことが可能である。
JVET-Q2001-v11のサブピクチャのシグナリングの現在の設計は、フラグsubpic_info_present_flagのシグナリングのまれに起こるやっかいなケースを考慮しない。pic_width_max_in_luma_samplesおよびpic_height_max_in_luma_samplesが両方ともCtbSizeYより小さいとき、1つのサブピクチャのみ存在する可能性があり、すべての関連するシンタックス要素が推測され得るので、subpic_info_present_flagは、シグナリングされる必要がない。つまり、
・sps_num_subpics_minus1は、シグナリングされず、0と推測される。
・sps_independent_subpics_flagは、1つのサブピクチャのみ存在し、サブピクチャの境界をまたぐ動作がないので、シグナリングされず、1と推測される。
・subpic_ctu_top_left_x[ 0 ]は、シグナリングされず、0と推測される。
・subpic_ctu_top_left_y[ 0 ]は、シグナリングされず、0と推測される。
・subpic_width_minus1[ 0 ]は、シグナリングされず、0と推測される。
・subpic_height_minus1[ 0 ]は、シグナリングされず、0と推測される。
・subpic_treated_as_pic_flag[ 0 ]は、ピクチャ内に1つのサブピクチャのみ存在し、サブピクチャの境界がピクチャの境界であるので、シグナリングされず、1と推測される。
・loop_filter_across_subpic_enabled_flag[ 0 ]は、1つのサブピクチャのみ存在し、サブピクチャの境界をまたぐフィルタ動作がないので、シグナリングされず、0と推測される。
・sps_num_subpics_minus1は、シグナリングされず、0と推測される。
・sps_independent_subpics_flagは、1つのサブピクチャのみ存在し、サブピクチャの境界をまたぐ動作がないので、シグナリングされず、1と推測される。
・subpic_ctu_top_left_x[ 0 ]は、シグナリングされず、0と推測される。
・subpic_ctu_top_left_y[ 0 ]は、シグナリングされず、0と推測される。
・subpic_width_minus1[ 0 ]は、シグナリングされず、0と推測される。
・subpic_height_minus1[ 0 ]は、シグナリングされず、0と推測される。
・subpic_treated_as_pic_flag[ 0 ]は、ピクチャ内に1つのサブピクチャのみ存在し、サブピクチャの境界がピクチャの境界であるので、シグナリングされず、1と推測される。
・loop_filter_across_subpic_enabled_flag[ 0 ]は、1つのサブピクチャのみ存在し、サブピクチャの境界をまたぐフィルタ動作がないので、シグナリングされず、0と推測される。
実施形態1
したがって、本発明の一実施形態において、サブピクチャ情報のシグナリングは、以下のように変更されることが可能であり、subpic_info_present_flagに関する追加された条件が、強調されている。
したがって、本発明の一実施形態において、サブピクチャ情報のシグナリングは、以下のように変更されることが可能であり、subpic_info_present_flagに関する追加された条件が、強調されている。
この実施形態においては、pic_width_max_in_luma_samplesとpic_height_max_in_luma_samplesとの両方がCTBサイズCtbSizeY以下でないときに、フラグsubpic_info_present_flagがシグナリングされる。pic_width_max_in_luma_samplesとpic_height_max_in_luma_samplesとの両方がCTBサイズCtbSizeY以下であるとき、subpic_info_present_flagはシグナリングされず、subpic_info_present_flagの値は0と推測される。
実施形態2
一例において、サブピクチャのシグナリングは、以下のように修正され得る。
一例において、サブピクチャのシグナリングは、以下のように修正され得る。
pic_width_max_in_luma_samplesおよびpic_height_max_in_luma_samplesのうちの少なくとも一方がCTBサイズCtbSizeYより大きいときに、シンタックスsubpic_info_present_flagの値がシグナリングされる。pic_width_max_in_luma_samplesとpic_height_max_in_luma_samplesとの両方がCTBサイズCtbSizeY以下であるとき、subpic_info_present_flagの値はシグナリングされず、subpic_info_present_flagの値は0と推測される。
実施形態1および2に関して、subpic_info_present_flagのセマンティクスは、以下のように変更される。
1に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在し、CLVSの各ピクチャ内に1つまたは複数のサブピクチャが存在する場合があることを指定する。0に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在せず、CLVSの各ピクチャ内に1つのサブピクチャのみが存在することを指定する。存在しないとき、subpic_info_present_flagの値は、0に等しいと推測される。
CLVSの定義に関しては、JVET-Q2001-v11を参照されたい。
コーディングレイヤビデオシーケンス(CLVS): 復号順に、CLVSS PUと、その後に続く、CLVSS PUである後続の任意のPUまでのすべての後続のPUを含み、しかし、そのCLVSS PUである後続の任意のPUを含まない、CLVSS PUではない0個以上のPUとからなる、nuh_layer_idが同じ値であるPUのシーケンス。
コーディングレイヤビデオシーケンス開始(CLVSS: coded layer video sequence start)PU: コーディングされるピクチャがCLVSSピクチャであるPU。
コーディングレイヤビデオシーケンス開始(CLVSS)ピクチャ: NoOutputBeforeRecoveryFlagが1に等しいIRAPピクチャ、またはNoOutputBeforeRecoveryFlagが1に等しいGDRピクチャであるコーディングされるピクチャ。
実施形態3
別の実施形態において、subpic_info_present_flagのセマンティクスは、以下のように制限される。
別の実施形態において、subpic_info_present_flagのセマンティクスは、以下のように制限される。
1に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在し、CLVSの各ピクチャ内に1つまたは複数のサブピクチャが存在する場合があることを指定する。0に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在せず、CLVSの各ピクチャ内に1つのサブピクチャのみが存在することを指定する。subpic_info_present_flagの値が1であるとき、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値が両方ともCTBサイズCtbSizeY以下とならないことが、ビットストリームの適合の要件である。
実施形態4
別の実施形態において、subpic_info_present_flagのセマンティクスは、以下のように制限される。
別の実施形態において、subpic_info_present_flagのセマンティクスは、以下のように制限される。
1に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在し、CLVSの各ピクチャ内に1つまたは複数のサブピクチャが存在する場合があることを指定する。0に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在せず、CLVSの各ピクチャ内に1つのサブピクチャのみが存在することを指定する。subpic_info_present_flagの値が1であるとき、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値に関して、それらのうちの少なくとも一方がCTBサイズCtbSizeYよりも大きいことが、ビットストリームの適合の要件である。
実施形態5
いくつかの例において、sps_independent_subpics_flagのシグナリングは、符号化ビデオシーケンスの各ピクチャ内に2つ以上のサブピクチャが存在するときにのみ意味を持つ。符号化ビデオシーケンスの各ピクチャ内に1のサブピクチャのみ存在するとき、sps_independent_subpics_flagの値は、ビットストリーム中でシグナリングされず、sps_independent_subpics_flagの値は、1と推測され得る。
いくつかの例において、sps_independent_subpics_flagのシグナリングは、符号化ビデオシーケンスの各ピクチャ内に2つ以上のサブピクチャが存在するときにのみ意味を持つ。符号化ビデオシーケンスの各ピクチャ内に1のサブピクチャのみ存在するとき、sps_independent_subpics_flagの値は、ビットストリーム中でシグナリングされず、sps_independent_subpics_flagの値は、1と推測され得る。
また、これは、シグナリングの設計を、sps_independent_subpics_flagの下の「forループ」にさらに整合させる。1つのサブピクチャのみ存在するとき、sps_num_subpics_minus1 > 0 && i <= sps_num_subpics_minus1が真でないので、forループ内のプロセスは実行されない。この場合、sps_independent_subpics_flagのどの値がシグナリングされようと、subpic_treated_as_pic_flag[ 0 ]およびloop_filter_across_subpic_enabled_flag[ 0 ]は、それぞれ1および0と推測される。
提案されるシグナリングが、以下のように示され、sps_independent_subpics_flagに関する追加された条件が、強調されている。
実施形態6
別の例において、sps_independent_subpics_flagのシグナリングは、以下のように変更される。
別の例において、sps_independent_subpics_flagのシグナリングは、以下のように変更される。
ここで、sps_independent_subpics_flagをシグナリングする条件は、少なくとも3つのサブピクチャが存在する(sps_num_subpics_minus1が2以上である)ことに変更される。その理由は、ピクチャ内に2つのサブピクチャがあるとき、1つのサブピクチャが独立したサブピクチャとみなされない一方で、もう1つのサブピクチャを(subpic_treated_as_pic_flagが1に等しく、loop_filter_across_subpic_enabled_flagが0に等しい)独立したサブピクチャとみなすのはおかしいからである。
実施形態5または実施形態6によれば、sps_independent_subpics_flagのシグナリングは、以下のように変更される。
実施形態5および6に関して、sps_independent_subpics_flagのセマンティクスは、以下のように変更される。
1に等しいsps_independent_subpics_flagは、CLVS内でのいかなるサブピクチャの境界をまたぐイントラ予測、インター予測、およびループ内フィルタリング動作も実行されない可能性があることを指定する。0に等しいsps_independent_subpics_flagは、CLVS内でのサブピクチャの境界をまたぐインター予測またはループ内フィルタリング動作が可能にされてよいことを指定する。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。例において、1に等しいsps_independent_subpics_flagは、CLVS内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定する。0に等しいsps_independent_subpics_flagは、そのような制約を課さない。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。
図10に示される実装においては、復号デバイスによって実施されるコーディングの方法が、開示され、方法は、以下を含む。
S1001: ビットストリームを取得する。
S1001: ビットストリームを取得する。
ビットストリームは、ワイヤレスネットワークまたは有線ネットワークによって取得されてよい。ビットストリームは、同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者線(DSL)、または赤外線、無線、マイクロ波、WIFI、Bluetooth、LTE、もしくは5Gなどのワイヤレステクノロジーを使用して、ウェブサイト、サーバ、またはその他の遠隔のソースから送信される場合がある。
実施形態において、ビットストリームは、1つまたは複数の符号化ビデオシーケンス(CVS)を形成するアクセスユニット(AU: access unit)のシーケンスの表現を形成するネットワーク抽象化レイヤ(NAL: network abstraction layer)ユニットストリームまたはバイトストリームの形態のビットのシーケンスである。
一部の実施形態においては、復号プロセスに関して、デコーダ側が、ビットストリームを読み、ビットストリームから復号されたピクチャを導出し、符号化プロセスに関して、エンコーダ側が、ビットストリームを生成する。
通常、ビットストリームは、シンタックス構造によって形成されるシンタックス要素を含む。シンタックス要素: ビットストリーム内に表現されるデータの要素。
シンタックス構造: 指定された順序でビットストリーム内に一緒に存在する0個以上のシンタックス要素。
特定の例において、ビットストリームのフォーマットは、ネットワーク抽象化レイヤ(NAL)ユニットストリームとバイトストリームとの間の関係を規定し、ネットワーク抽象化レイヤ(NAL)ユニットストリームおよびバイトストリームのどちらかが、ビットストリームと呼ばれる。
ビットストリームは、2つのフォーマット、すなわち、NALユニットストリームのフォーマットまたはバイトストリームのフォーマットのうちの1つであることが可能である。NALユニットストリームのフォーマットは、概念的に、より「基本的な」タイプである。NALユニットストリームのフォーマットは、NALユニットと呼ばれるシンタックス構造のシーケンスを含む。このシーケンスは、復号順で順序付けられる。NALユニットストリームのNALユニットの復号順(および内容)に対して課される制約が存在する。
バイトストリームのフォーマットは、NALユニットを復号順で順序付け、開始コードプレフィックス(start code prefix)および0個以上のゼロ値バイトによって各NALユニットにプレフィックスを付けてバイトのストリームを形成することによってNALユニットストリームのフォーマットから構築され得る。NALユニットストリームのフォーマットは、バイトのこのストリーム内の一意の開始コードプレフィックスのパターンの位置を探索することによってバイトストリームのフォーマットから抽出され得る。
この項は、ビットストリームによって与えられるソースと復号されたピクチャとの間の関係を明示する。
ビットストリームによって表されるビデオソースは、復号順のピクチャのシーケンスである。
ソースピクチャおよび復号されたピクチャは、それぞれ、以下の1つまたは複数のサンプルの配列によって構成される。
- ルマ(Y)のみ(モノクロ)、
- ルマおよび2つのクロマ(YCbCrまたはYCgCo)、
- 緑、青、および赤(GBR、RGBとも呼ばれる)、
- その他の不特定のモノクロまたは3刺激色サンプリング(たとえば、YZX、XYZとも呼ばれる)を表す配列。
- ルマ(Y)のみ(モノクロ)、
- ルマおよび2つのクロマ(YCbCrまたはYCgCo)、
- 緑、青、および赤(GBR、RGBとも呼ばれる)、
- その他の不特定のモノクロまたは3刺激色サンプリング(たとえば、YZX、XYZとも呼ばれる)を表す配列。
これらの配列に関連する変数および項は、使用されている実際の色表現方法に関わらず、ルマ(またはLまたはY)およびクロマと呼ばれ、2つのクロマ配列は、CbおよびCrと呼ばれる。使用されている実際の色表現方法は、ITU-T H.SEI | ISO/IEC 23002-7において規定されたVUIパラメータ内で指定されるシンタックスで示され得る。
S1002: ビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得する。
例において、シンタックス要素sps_num_subpics_minus1の値は、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される。
例において、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
S1003: シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいとき、ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得する。
例において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される。
例において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリーム内のコードワード値を直接解析することによって取得される。
予め設定された値は、整数値であり、例において、予め設定された値は、0または1である。
実装において、1に等しいシンタックス要素sps_independent_subpics_flagの値は、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しいシンタックス要素sps_independent_subpics_flagの値は、そのような制約を課さない。
実装において、方法は、
シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値をデフォルト値に設定するステップをさらに含む。デフォルト値は、整数値であり、例において、デフォルト値は、1である。
シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値をデフォルト値に設定するステップをさらに含む。デフォルト値は、整数値であり、例において、デフォルト値は、1である。
図11に示される実装においては、ビデオ復号装置1100が、開示され、装置1100は、
ビットストリームを取得するように構成される受信モジュール1101と、
ビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得するように構成される解析モジュール1102とを含み、
解析モジュール1102は、シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいとき、ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得するように構成される。
ビットストリームを取得するように構成される受信モジュール1101と、
ビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得するように構成される解析モジュール1102とを含み、
解析モジュール1102は、シンタックス要素sps_num_subpics_minus1の値が予め設定された値より大きいとき、ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得するように構成される。
ビットストリームは、ワイヤレスネットワークまたは有線ネットワークによって取得されてよい。ビットストリームは、同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者線(DSL)、または赤外線、無線、マイクロ波、WIFI、Bluetooth、LTE、もしくは5Gなどのワイヤレステクノロジーを使用して、ウェブサイト、サーバ、またはその他の遠隔のソースから送信される場合がある。
実施形態において、ビットストリームは、1つまたは複数の符号化ビデオシーケンス(CVS)を形成するアクセスユニット(AU)のシーケンスの表現を形成するネットワーク抽象化レイヤ(NAL)ユニットストリームまたはバイトストリームの形態のビットのシーケンスである。
一部の実施形態においては、復号プロセスに関して、デコーダ側が、ビットストリームを読み、ビットストリームから復号されたピクチャを導出し、符号化プロセスに関して、エンコーダ側が、ビットストリームを生成する。
通常、ビットストリームは、シンタックス構造によって形成されるシンタックス要素を含む。シンタックス要素: ビットストリーム内に表現されるデータの要素。
シンタックス構造: 指定された順序でビットストリーム内に一緒に存在する0個以上のシンタックス要素。
特定の例において、ビットストリームのフォーマットは、ネットワーク抽象化レイヤ(NAL)ユニットストリームとバイトストリームとの間の関係を規定し、ネットワーク抽象化レイヤ(NAL)ユニットストリームおよびバイトストリームのどちらかが、ビットストリームと呼ばれる。
ビットストリームは、2つのフォーマット、すなわち、NALユニットストリームのフォーマットまたはバイトストリームのフォーマットのうちの1つであることが可能である。NALユニットストリームのフォーマットは、概念的に、より「基本的な」タイプである。NALユニットストリームのフォーマットは、NALユニットと呼ばれるシンタックス構造のシーケンスを含む。このシーケンスは、復号順で順序付けられる。NALユニットストリームのNALユニットの復号順(および内容)に対して課される制約が存在する。
バイトストリームのフォーマットは、NALユニットを復号順で順序付け、開始コードプレフィックスおよび0個以上のゼロ値バイトによって各NALユニットにプレフィックスを付けてバイトのストリームを形成することによってNALユニットストリームのフォーマットから構築され得る。NALユニットストリームのフォーマットは、バイトのこのストリーム内の一意の開始コードプレフィックスのパターンの位置を探索することによってバイトストリームのフォーマットから抽出され得る。
この項は、ビットストリームによって与えられるソースと復号されたピクチャとの間の関係を明示する。
ビットストリームによって表されるビデオソースは、復号順のピクチャのシーケンスである。
ソースピクチャおよび復号されたピクチャは、それぞれ、以下の1つまたは複数のサンプルの配列によって構成される。
- ルマ(Y)のみ(モノクロ)、
- ルマおよび2つのクロマ(YCbCrまたはYCgCo)、
- 緑、青、および赤(GBR、RGBとも呼ばれる)、
- その他の不特定のモノクロまたは3刺激色サンプリング(たとえば、YZX、XYZとも呼ばれる)を表す配列。
- ルマ(Y)のみ(モノクロ)、
- ルマおよび2つのクロマ(YCbCrまたはYCgCo)、
- 緑、青、および赤(GBR、RGBとも呼ばれる)、
- その他の不特定のモノクロまたは3刺激色サンプリング(たとえば、YZX、XYZとも呼ばれる)を表す配列。
これらの配列に関連する変数および項は、使用されている実際の色表現方法に関わらず、ルマ(またはLまたはY)およびクロマと呼ばれ、2つのクロマ配列は、CbおよびCrと呼ばれる。使用されている実際の色表現方法は、ITU-T H.SEI | ISO/IEC 23002-7において規定されたVUIパラメータ内で指定されるシンタックスで示され得る。
例において、シンタックス要素sps_num_subpics_minus1の値は、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される。
例において、シンタックス要素sps_num_subpics_minus1に1を足した値は、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す。
例において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される。
例において、シンタックス要素sps_independent_subpics_flagの値は、ビットストリーム内のコードワード値を直接解析することによって取得される。
予め設定された値は、整数値であり、例において、予め設定された値は、0または1である。
実装において、1に等しいシンタックス要素sps_independent_subpics_flagの値は、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しいシンタックス要素sps_independent_subpics_flagの値は、そのような制約を課さない。
実装において、解析モジュール1102は、
シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値をデフォルト値に設定するようにさらに構成される。デフォルト値は、整数値であり、例において、デフォルト値は、1である。
シンタックス要素sps_num_subpics_minus1の値が予め設定された値以下であるとき、シンタックス要素sps_independent_subpics_flagの値をデフォルト値に設定するようにさらに構成される。デフォルト値は、整数値であり、例において、デフォルト値は、1である。
実施形態7
別の実施形態において、sps_independent_subpics_flagのセマンティクスは、以下のように制限される。
別の実施形態において、sps_independent_subpics_flagのセマンティクスは、以下のように制限される。
1に等しいsps_independent_subpics_flagは、CLVS内でのいかなるサブピクチャの境界をまたぐイントラ予測、インター予測、およびループ内フィルタリング動作も実行されない可能性があることを指定する。0に等しいsps_independent_subpics_flagは、CLVS内でのサブピクチャの境界をまたぐインター予測またはループ内フィルタリング動作が可能にされてよいことを指定する。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。sps_independent_subpics_flagの値が1であるとき、sps_num_subpics_minus1の値が0よりも大きいことが、ビットストリームの適合の要件である。
実施形態8
別の実施形態において、sps_independent_subpics_flagのセマンティクスは、以下のように制限される。
別の実施形態において、sps_independent_subpics_flagのセマンティクスは、以下のように制限される。
1に等しいsps_independent_subpics_flagは、CLVS内でのいかなるサブピクチャの境界をまたぐイントラ予測、インター予測、およびループ内フィルタリング動作も実行されない可能性があることを指定する。0に等しいsps_independent_subpics_flagは、CLVS内でのサブピクチャの境界をまたぐインター予測またはループ内フィルタリング動作が可能にされてよいことを指定する。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。sps_independent_subpics_flagフラグの値が1であるとき、sps_num_subpics_minus1の値が1よりも大きいことが、ビットストリームの適合の要件である。
組み合わされた実施形態
実施形態1から4からの実施形態と、実施形態5および8からの別の実施形態とが、組み合わされ得る。
実施形態1から4からの実施形態と、実施形態5および8からの別の実施形態とが、組み合わされ得る。
一例において、組み合わされた実施形態2および5が、以下のように示される。
同様に、subpic_info_present_flagおよびsps_independent_subpics_flagのセマンティクスは、それぞれ、実施形態2および5のように修正される。
別の例において、組み合わされた実施形態4および5が、以下のように示される。
subpic_info_present_flagのセマンティクスは、以下のように修正される。
1に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在し、CLVSの各ピクチャ内に1つまたは複数のサブピクチャが存在する場合があることを指定する。0に等しいsubpic_info_present_flagは、CLVSに関してサブピクチャ情報が存在せず、CLVSの各ピクチャ内に1つのサブピクチャのみが存在することを指定する。subpic_info_present_flagの値が1であるとき、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値に関して、それらのうちの少なくとも一方がCTBサイズCtbSizeYよりも大きいことが、ビットストリームの適合の要件である。
sps_independent_subpics_flagのセマンティクスは、以下のように修正される。
1に等しいsps_independent_subpics_flagは、CLVS内でのいかなるサブピクチャの境界をまたぐイントラ予測、インター予測、およびループ内フィルタリング動作も実行されない可能性があることを指定する。0に等しいsps_independent_subpics_flagは、CLVS内でのサブピクチャの境界をまたぐインター予測またはループ内フィルタリング動作が可能にされてよいことを指定する。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。例において、1に等しいsps_independent_subpics_flagは、CLVS内のすべてのサブピクチャの境界がピクチャの境界として扱われ、サブピクチャの境界をまたぐループフィルタリングがないことを指定する。0に等しいsps_independent_subpics_flagは、そのような制約を課さない。存在しないとき、sps_independent_subpics_flagの値は、1に等しいと推測される。
以下は、上述の実施形態において示された符号化方法および復号方法の応用ならびにそれらを使用するシステムの説明である。
図8は、コンテンツ配信サービスを実現するためのコンテンツ供給システム3100を示すブロック図である。このコンテンツ供給システム3100は、キャプチャデバイス3102、端末デバイス3106を含み、任意選択でディスプレイ3126を含む。キャプチャデバイス3102は、通信リンク3104を介して端末デバイス3106と通信する。通信リンクは、上述の通信チャネル13を含む可能性がある。通信リンク3104は、WIFI、イーサネット、ケーブル、ワイヤレス(3G/4G/5G)、USB、またはこれらの任意の種類の組み合わせなどを含むがこれらに限定されない。
キャプチャデバイス3102は、データを生成し、上の実施形態に示された符号化方法によってデータを符号化する可能性がある。代替的に、キャプチャデバイス3102は、データをストリーミングサーバ(図示せず)に配信する可能性があり、サーバが、データを符号化し、符号化されたデータを端末デバイス3106に送信する。キャプチャデバイス3102は、カメラ、スマートフォンもしくはスマートパッド、コンピュータもしくはラップトップ、テレビ会議システム、PDA、車載デバイス、またはこれらのいずれかの組み合わせなどを含むがこれらに限定されない。たとえば、キャプチャデバイス3102は、上述の送信元デバイス12を含む可能性がある。データがビデオを含むとき、キャプチャデバイス3102に含まれるビデオエンコーダ20が、ビデオ符号化処理を実際に実行する可能性がある。データがオーディオ(つまり、声)を含むとき、キャプチャデバイス3102に含まれるオーディオエンコーダが、オーディオ符号化処理を実際に実行する可能性がある。いくつかの実際のシナリオに関して、キャプチャデバイス3102は、符号化されたビデオおよびオーディオデータを一緒に多重化することによってそれらのデータを配信する。その他の実際のシナリオに関して、たとえば、テレビ会議システムにおいて、符号化されたオーディオデータおよび符号化されたビデオデータは、多重化されない。キャプチャデバイス3102は、符号化されたオーディオデータおよび符号化されたビデオデータを端末デバイス3106に別々に配信する。
コンテンツ供給システム3100において、端末デバイス310は、符号化されたデータを受信し、再生する。端末デバイス3106は、上述の符号化されたデータを復号することができるスマートフォンもしくはスマートパッド3108、コンピュータもしくはラップトップ3110、ネットワークビデオレコーダ(NVR)/デジタルビデオレコーダ(DVR)3112、TV 3114、セットトップボックス(STB)3116、テレビ会議システム3118、ビデオ監視システム3120、携帯情報端末(PDA)3122、車載デバイス3124、またはこれらのいずれかの組み合わせなどの、データ受信および復元能力を有するデバイスであることが可能である。たとえば、端末デバイス3106は、上述の送信先デバイス14を含む可能性がある。符号化されたデータがビデオを含むとき、端末デバイスに含まれるビデオデコーダ30が、ビデオの復号を実行するために優先される。符号化されたデータがオーディオを含むとき、端末デバイスに含まれるオーディオデコーダが、オーディオ復号処理を実行するために優先される。
ディスプレイを有する端末デバイス、たとえば、スマートフォンもしくはスマートパッド3108、コンピュータもしくはラップトップ3110、ネットワークビデオレコーダ(NVR)/デジタルビデオレコーダ(DVR)3112、TV 3114、携帯情報端末(PDA)、または車載デバイス3124に関して、端末デバイスは、復号されたデータをその端末デバイスのディスプレイに供給することができる。ディスプレイを備えていない端末デバイス、たとえば、STB 3116、テレビ会議システム3118、またはビデオ監視システム3120に関しては、外部ディスプレイ3126に連絡を取り、復号されたデータが受信され示される。
このシステムの各デバイスが符号化または復号を実行するとき、上述の実施形態において示されたピクチャ符号化デバイスまたはピクチャ復号デバイスが、使用され得る。
図9は、端末デバイス3106の例の構造を示す図である。端末デバイス3106がキャプチャデバイス3102からストリームを受信した後、プロトコル進行ユニット3202が、ストリームの送信プロトコルを分析する。プロトコルは、リアルタイムストリーミングプロトコル(RTSP)、ハイパーテキスト転送プロトコル(HTTP)、HTTPライブストリーミングプロトコル(HLS)、MPEG-DASH、リアルタイムトランスポートプロトコル(RTP)、リアルタイムメッセージングプロトコル(RTMP)、またはこれらの任意の種類の組み合わせなどを含むがこれらに限定されない。
プロトコル進行ユニット3202がストリームを処理した後、ストリームファイルが生成される。ファイルは、多重分離ユニット3204に出力される。多重分離ユニット3204は、多重化されたデータを符号化されたオーディオデータおよび符号化されたビデオデータに分離することができる。上述のように、いくつかの実際のシナリオに関して、たとえば、テレビ会議システムにおいて、符号化されたオーディオデータおよび符号化されたビデオデータは、多重化されない。この状況では、符号化されたデータは、多重分離ユニット3204を通さずにビデオデコーダ3206およびオーディオデコーダ3208に送信される。
多重分離処理によって、ビデオエレメンタリストリーム(ES)、オーディオES、および任意選択で字幕が生成される。上述の実施形態において説明されたビデオデコーダ30を含むビデオデコーダ3206は、上述の実施形態において示された復号方法によってビデオESを復号してビデオフレームを生成し、このデータを同期ユニット3212に供給する。オーディオデコーダ3208は、オーディオESを復号してオーディオフレームを生成し、このデータを同期ユニット3212に供給する。代替的に、ビデオフレームは、そのビデオフレームを同期ユニット3212に供給する前に、(図9に示されていない)バッファに記憶される可能性がある。同様に、オーディオフレームは、そのオーディオフレームを同期ユニット3212に供給する前に、(図9に示されていない)バッファに記憶される可能性がある。
同期ユニット3212は、ビデオフレームとオーディオフレームとを同期し、ビデオ/オーディオをビデオ/オーディオディスプレイ3214に供給する。たとえば、同期ユニット3212は、ビデオ情報およびオーディオ情報の提示を同期する。情報は、コーディングされたオーディオデータおよびビジュアルデータの提示に関するタイムスタンプならびにデータストリームの配信自体に関するタイムスタンプを使用するシンタックスにおいてコーディングし得る。
字幕がストリームに含まれる場合、字幕デコーダ3210が、字幕を復号し、その字幕をビデオフレームおよびオーディオフレームと同期し、ビデオ/オーディオ/字幕をビデオ/オーディオ/字幕ディスプレイ3216に供給する。
本発明は、上述のシステムに限定されず、上述の実施形態のピクチャ符号化デバイスかまたはピクチャ復号デバイスかのどちらかが、その他のシステム、たとえば、自動車のシステムに組み込まれ得る。
例1. 復号デバイスによって実施されるコーディングの方法であって、
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第1のシンタックス要素pic_width_max_in_luma_samplesの値および第2のシンタックス要素pic_height_max_in_luma_samplesの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、符号化ツリーブロックのサイズの値を取得するステップと、
第1のシンタックス要素pic_width_max_in_luma_samplesの値かまたは第2のシンタックス要素pic_height_max_in_luma_samplesの値かのどちらかが符号化ツリーブロックのサイズの値より大きいとき、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第3のシンタックス要素subpic_info_present_flagの値を取得するステップとを含む、方法。
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第1のシンタックス要素pic_width_max_in_luma_samplesの値および第2のシンタックス要素pic_height_max_in_luma_samplesの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、符号化ツリーブロックのサイズの値を取得するステップと、
第1のシンタックス要素pic_width_max_in_luma_samplesの値かまたは第2のシンタックス要素pic_height_max_in_luma_samplesの値かのどちらかが符号化ツリーブロックのサイズの値より大きいとき、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第3のシンタックス要素subpic_info_present_flagの値を取得するステップとを含む、方法。
例2. 第3のシンタックス要素subpic_info_present_flagの値が、ビットストリームにコーディングされたシーケンスパラメータセット内で取得される(例においては、第1のシンタックス要素pic_width_max_in_luma_samplesおよび第2のシンタックス要素pic_height_max_in_luma_samplesの値も、ビットストリームにコーディングされたシーケンスパラメータセット内で取得される)例1の方法。
例3. 第1のシンタックス要素pic_width_max_in_luma_samplesの値と第2のシンタックス要素pic_height_max_in_luma_samplesの値との両方が符号化ツリーブロックのサイズの値より大きくない(つまり、それ以下である)とき、
第3のシンタックス要素subpic_info_present_flagの値をデフォルト値に設定するステップ(例において、デフォルト値は0である)をさらに含む例1または2の方法。
第3のシンタックス要素subpic_info_present_flagの値をデフォルト値に設定するステップ(例において、デフォルト値は0である)をさらに含む例1または2の方法。
例4. 第3のシンタックス要素subpic_info_present_flagの値が、符号化ビデオシーケンスに関するサブピクチャ情報がビットストリーム内に存在するか否かを指定するために使用される例1から3のいずれか1つの方法。
例5. 第3のシンタックス要素subpic_info_present_flagの値が、(たとえば、subpic_info_present_flagが1であるとき)第1のシンタックス要素pic_width_max_in_luma_samplesの値かまたは第2のシンタックス要素pic_height_max_in_luma_samplesの値かのどちらかが符号化ツリーブロックのサイズの値より大きい(たとえば、subpic_info_present_flagの値が1のとき、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値は、両方ともCTBサイズCtbSizeY以下にはならない)ことも示し得る例1から4のいずれか1つの方法。
例6. 復号デバイスによって実施されるコーディングの方法であって、
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第4のシンタックス要素sps_num_subpics_minus1の値を取得するステップと、
第4のシンタックス要素sps_num_subpics_minus1の値がデフォルト値より大きいとき(たとえば、デフォルト値は0または1であってよい)、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第5のシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法。
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第4のシンタックス要素sps_num_subpics_minus1の値を取得するステップと、
第4のシンタックス要素sps_num_subpics_minus1の値がデフォルト値より大きいとき(たとえば、デフォルト値は0または1であってよい)、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第5のシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法。
例7. 第5のシンタックス要素sps_independent_subpics_flagの値が、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される(例においては、第4のシンタックス要素sps_num_subpics_minus1の値も、ビットストリームにコーディングされたシーケンスパラメータセット内で取得される)例6の方法。
例8. 第4のシンタックス要素sps_num_subpics_minus1の値がデフォルト値以下であるとき、
第5のシンタックス要素sps_independent_subpics_flagの値を予め設定された値に設定するステップ(例において、予め設定された値は1である)をさらに含む例6または7の方法。
第5のシンタックス要素sps_independent_subpics_flagの値を予め設定された値に設定するステップ(例において、予め設定された値は1である)をさらに含む例6または7の方法。
例9. 復号デバイスによって実施されるコーディングの方法であって、
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第1のシンタックス要素pic_width_max_in_luma_samplesの値および第2のシンタックス要素pic_height_max_in_luma_samplesの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、符号化ツリーブロックのサイズの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第3のシンタックス要素subpic_info_present_flagの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)第4のシンタックス要素sps_num_subpics_minus1の値を取得するステップ(例においては、第3のシンタックス要素subpic_info_present_flagの値が予め設定された値(たとえば、予め設定された値は1である)に等しいとき、第4のシンタックス要素sps_num_subpics_minus1の値がビットストリームから解析される)と、
第4のシンタックス要素sps_num_subpics_minus1の値がデフォルト値より大きいとき(たとえば、デフォルト値は0または1であってよい)、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第5のシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法。
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第1のシンタックス要素pic_width_max_in_luma_samplesの値および第2のシンタックス要素pic_height_max_in_luma_samplesの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、符号化ツリーブロックのサイズの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第3のシンタックス要素subpic_info_present_flagの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)第4のシンタックス要素sps_num_subpics_minus1の値を取得するステップ(例においては、第3のシンタックス要素subpic_info_present_flagの値が予め設定された値(たとえば、予め設定された値は1である)に等しいとき、第4のシンタックス要素sps_num_subpics_minus1の値がビットストリームから解析される)と、
第4のシンタックス要素sps_num_subpics_minus1の値がデフォルト値より大きいとき(たとえば、デフォルト値は0または1であってよい)、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第5のシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法。
例10. 第3のシンタックス要素subpic_info_present_flagの値が、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される(例においては、第1のシンタックス要素pic_width_max_in_luma_samplesおよび第2のシンタックス要素pic_height_max_in_luma_samplesの値も、ビットストリームにコーディングされたシーケンスパラメータセット内で取得される)例9の方法。
例11. 第3のシンタックス要素subpic_info_present_flagの値が、第1のシンタックス要素pic_width_max_in_luma_samplesの値かまたは第2のシンタックス要素pic_height_max_in_luma_samplesの値かのどちらかが符号化ツリーブロックのサイズの値より大きいかどうかを示す(たとえば、subpic_info_present_flagの値が1のとき、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値は、両方ともCTBサイズCtbSizeY以下にはならない)例9または10の方法。
例12. 第5のシンタックス要素sps_independent_subpics_flagの値が、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される例9から11のいずれか1つの方法。
例13. 第4の要素シンタックスsps_num_subpics_minus1の値が予め設定された値以下であるとき、
第5のシンタックス要素sps_independent_subpics_flagの値を予め設定された値に設定するステップ(例において、予め設定された値は1である)をさらに含む例9から12のいずれか1つの方法。
第5のシンタックス要素sps_independent_subpics_flagの値を予め設定された値に設定するステップ(例において、予め設定された値は1である)をさらに含む例9から12のいずれか1つの方法。
例14. 第3のシンタックス要素subpic_info_present_flagの値が予め設定された値に等しく、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値が両方とも符号化ツリーブロックのサイズの値以下であるとき、
第4のシンタックスsps_num_subpics_minus1の値を取得するための以降のプロセスを停止するステップをさらに含む例9から13のいずれか1つの方法。
第4のシンタックスsps_num_subpics_minus1の値を取得するための以降のプロセスを停止するステップをさらに含む例9から13のいずれか1つの方法。
例15. 復号デバイスによって実施されるコーディングの方法であって、
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第1のシンタックス要素pic_width_max_in_luma_samplesの値および第2のシンタックス要素pic_height_max_in_luma_samplesの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、符号化ツリーブロックのサイズの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第3のシンタックス要素subpic_info_present_flagの値を取得するステップと、
第3のシンタックス要素subpic_info_present_flagの値が予め設定された値に等しい(たとえば、予め設定された値は1である)とき、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第4のシンタックス要素sps_num_subpics_minus1の値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第5のシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法。
ビットストリームを取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第1のシンタックス要素pic_width_max_in_luma_samplesの値および第2のシンタックス要素pic_height_max_in_luma_samplesの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、符号化ツリーブロックのサイズの値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第3のシンタックス要素subpic_info_present_flagの値を取得するステップと、
第3のシンタックス要素subpic_info_present_flagの値が予め設定された値に等しい(たとえば、予め設定された値は1である)とき、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析するか、またはビットストリーム内のコードワード値を解析した後にコードワード値を考慮に入れて)、第4のシンタックス要素sps_num_subpics_minus1の値を取得するステップと、
ビットストリームに従って(たとえば、ビットストリーム内のコードワード値を直接解析して)、第5のシンタックス要素sps_independent_subpics_flagの値を取得するステップとを含む、方法。
例16. 第3のシンタックス要素subpic_info_present_flagの値が、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される例15の方法。
例17. 第3のシンタックス要素subpic_info_present_flagの値が、第1のシンタックス要素pic_width_max_in_luma_samplesの値かまたは第2のシンタックス要素pic_height_max_in_luma_samplesの値かのどちらかが符号化ツリーブロックのサイズの値より大きいかどうかを示す(たとえば、subpic_info_present_flagの値が1のとき、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値は、両方ともCTBサイズCtbSizeY以下にはならない)例15または16の方法。
例18. 第5のシンタックス要素sps_independent_subpics_flagの値が、ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される例15から17のいずれか1つの方法。
例19. 第5のシンタックス要素sps_independent_subpics_flagの値が予め定義された値に等しい(例において、予め定義された値は1である)とき、第4の要素シンタックスsps_num_subpics_minus1の値が、デフォルト値以下である(例において、デフォルト値は0または1である)例15から18のいずれか1つの方法。
例20. 第3のシンタックス要素subpic_info_present_flagの値が予め設定された値に等しく、pic_width_max_in_luma_samplesの値およびpic_height_max_in_luma_samplesの値が両方とも符号化ツリーブロックのサイズの値以下であるとき、第4のシンタックスsps_num_subpics_minus1の値を取得するための以降のプロセスを停止するステップをさらに含む例15から19のいずれか1つの方法。
例21. 例1から20のいずれか1つに係る方法を実行するための処理回路を含むデコーダ(30)。
例22. コンピュータまたはプロセッサ上で実行されるときに上記例のいずれか1つに係る方法を実行するためのプログラムコードを含むコンピュータプログラム製品。
例23. 1つまたは複数のプロセッサと、
プロセッサに結合され、プロセッサによる実行のためにプログラミングを記憶する非一時的コンピュータ可読ストレージ媒体であって、プログラミングが、プロセッサによって実行されるときに、上記例のいずれか1つに係る方法を実行するようにデコーダを構成する、非一時的コンピュータ可読ストレージ媒体とを含むデコーダ。
プロセッサに結合され、プロセッサによる実行のためにプログラミングを記憶する非一時的コンピュータ可読ストレージ媒体であって、プログラミングが、プロセッサによって実行されるときに、上記例のいずれか1つに係る方法を実行するようにデコーダを構成する、非一時的コンピュータ可読ストレージ媒体とを含むデコーダ。
例24. コンピュータデバイスによって実行されるとき、コンピュータデバイスに上記例のいずれか1つの方法を実行させるプログラムコードを運ぶ非一時的コンピュータ可読媒体。
数学演算子
本出願において使用される数学演算子は、Cプログラミング言語において使用される数学演算子に似ている。しかし、整数の除算および算術シフト演算の結果は、より厳密に定義され、累乗および実数値の除算などの追加の演算が、定義される。付番およびカウントの規則は、概して0から始まり、たとえば、「第1」は、0番と等価であり、「第2」は、1番と等価であり、以下同様である。
本出願において使用される数学演算子は、Cプログラミング言語において使用される数学演算子に似ている。しかし、整数の除算および算術シフト演算の結果は、より厳密に定義され、累乗および実数値の除算などの追加の演算が、定義される。付番およびカウントの規則は、概して0から始まり、たとえば、「第1」は、0番と等価であり、「第2」は、1番と等価であり、以下同様である。
算術演算子
以下の算術演算子が、以下の通り定義される。
+ 加算
- 減算(2引数の演算子として)または否定(単項前置演算子として)
* 行列の乗算を含む乗算
xy 累乗。xのy乗を規定する。その他の文脈で、そのような表記は、累乗として解釈されるように意図されない上付きの書き込みのために使用される。
/ 結果のゼロへの切り捨てを行う整数の除算。たとえば、7 / 4および-7 / -4は、1に切り捨てられ、-7 / 4および7 / -4は、-1に切り捨てられる。
÷ 切り捨てまたは丸めが意図されない数学的方程式の除算を表すために使用される。
切り捨てまたは丸めが意図されない数学的方程式の除算を表すために使用される。
iがxからyを含んでyまでのすべての整数値を取るf( i )の総和。
x % y 法。x >= 0およびy > 0である整数xおよびyに関してのみ定義されるx割るyの余り。
以下の算術演算子が、以下の通り定義される。
+ 加算
- 減算(2引数の演算子として)または否定(単項前置演算子として)
* 行列の乗算を含む乗算
xy 累乗。xのy乗を規定する。その他の文脈で、そのような表記は、累乗として解釈されるように意図されない上付きの書き込みのために使用される。
/ 結果のゼロへの切り捨てを行う整数の除算。たとえば、7 / 4および-7 / -4は、1に切り捨てられ、-7 / 4および7 / -4は、-1に切り捨てられる。
÷ 切り捨てまたは丸めが意図されない数学的方程式の除算を表すために使用される。
x % y 法。x >= 0およびy > 0である整数xおよびyに関してのみ定義されるx割るyの余り。
論理演算子
以下の論理演算子が、以下の通り定義される。
x && y xおよびyのブール論理「積」
x || y xおよびyのブール論理「和」
! ブール論理「否定」
x ? y : z xが真であるかまたは0に等しくない場合、値yと評価され、そうでない場合、値zと評価される。
以下の論理演算子が、以下の通り定義される。
x && y xおよびyのブール論理「積」
x || y xおよびyのブール論理「和」
! ブール論理「否定」
x ? y : z xが真であるかまたは0に等しくない場合、値yと評価され、そうでない場合、値zと評価される。
関係演算子
以下の関係演算子が、以下の通り定義される。
> より大きい
>= 以上
< 未満
<= 以下
== 等しい
!= 等しくない
以下の関係演算子が、以下の通り定義される。
> より大きい
>= 以上
< 未満
<= 以下
== 等しい
!= 等しくない
関係演算子が値「na」(該当なし)を割り振られたシンタックス要素または変数に適用されるとき、値「na」は、シンタックス要素または変数に関する異なる値として扱われる。値「na」は、いかなるその他の値とも等しくないとみなされる。
ビット演算子
以下のビット演算子が、以下の通り定義される。
& ビット毎の「論理積」。整数引数に対する演算のとき、整数値の2の補数表現に対して作用する。別の引数よりも少ないビットを含む2進数引数に対する演算のとき、より短い引数が、0に等しいさらに上位桁のビットを追加することによって拡張される。
| ビット毎の「論理和」。整数引数に対する演算のとき、整数値の2の補数表現に対して作用する。別の引数よりも少ないビットを含む2進数引数に対する演算のとき、より短い引数が、0に等しいさらに上位桁のビットを追加することによって拡張される。
^ ビット毎の「排他的論理和」。整数引数に対する演算のとき、整数値の2の補数表現に対して作用する。別の引数よりも少ないビットを含む2進数引数に対する演算のとき、より短い引数が、0に等しいさらに上位桁のビットを追加することによって拡張される。
x>>y xの2の補数による整数の表現の、2進数のy桁分の算術右シフト。この関数は、yの非負の整数値に対してのみ定義される。右シフトの結果として最上位ビット(MSB)にシフトされるビットは、シフト演算の前のxのMSBに等しい値を有する。
x<<y xの2の補数による整数の表現の、2進数のy桁分の算術左シフト。この関数は、yの非負の整数値に対してのみ定義される。左シフトの結果として最下位ビット(LSB)にシフトされるビットは、0に等しい値を有する。
以下のビット演算子が、以下の通り定義される。
& ビット毎の「論理積」。整数引数に対する演算のとき、整数値の2の補数表現に対して作用する。別の引数よりも少ないビットを含む2進数引数に対する演算のとき、より短い引数が、0に等しいさらに上位桁のビットを追加することによって拡張される。
| ビット毎の「論理和」。整数引数に対する演算のとき、整数値の2の補数表現に対して作用する。別の引数よりも少ないビットを含む2進数引数に対する演算のとき、より短い引数が、0に等しいさらに上位桁のビットを追加することによって拡張される。
^ ビット毎の「排他的論理和」。整数引数に対する演算のとき、整数値の2の補数表現に対して作用する。別の引数よりも少ないビットを含む2進数引数に対する演算のとき、より短い引数が、0に等しいさらに上位桁のビットを追加することによって拡張される。
x>>y xの2の補数による整数の表現の、2進数のy桁分の算術右シフト。この関数は、yの非負の整数値に対してのみ定義される。右シフトの結果として最上位ビット(MSB)にシフトされるビットは、シフト演算の前のxのMSBに等しい値を有する。
x<<y xの2の補数による整数の表現の、2進数のy桁分の算術左シフト。この関数は、yの非負の整数値に対してのみ定義される。左シフトの結果として最下位ビット(LSB)にシフトされるビットは、0に等しい値を有する。
代入演算子
以下の算術演算子が、以下の通り定義される。
= 代入演算子
++ インクリメント、つまり、x++は、x = x + 1と等価であり、配列のインデックスに使用されるとき、インクリメント演算の前に変数の値と評価される。
-- デクリメント、つまり、x--は、x = x - 1と等価であり、配列のインデックスに使用されるとき、デクリメント演算の前に変数の値と評価される。
+= 指定された量のインクリメント、つまり、x += 3は、x = x + 3と等価であり、x += (-3)は、x = x + (-3)と等価である。
-= 指定された量のデクリメント、つまり、x -= 3は、x = x - 3と等価であり、x -= (-3)は、x = x - (-3)と等価である。
以下の算術演算子が、以下の通り定義される。
= 代入演算子
++ インクリメント、つまり、x++は、x = x + 1と等価であり、配列のインデックスに使用されるとき、インクリメント演算の前に変数の値と評価される。
-- デクリメント、つまり、x--は、x = x - 1と等価であり、配列のインデックスに使用されるとき、デクリメント演算の前に変数の値と評価される。
+= 指定された量のインクリメント、つまり、x += 3は、x = x + 3と等価であり、x += (-3)は、x = x + (-3)と等価である。
-= 指定された量のデクリメント、つまり、x -= 3は、x = x - 3と等価であり、x -= (-3)は、x = x - (-3)と等価である。
範囲の表記
以下の表記が、値の範囲を指定するために使用される。
x = y..z xは、x、y、およびzが整数値であり、zがyよりも大きいものとして、yおよびzを含んでyからzまでの整数値を取る。
以下の表記が、値の範囲を指定するために使用される。
x = y..z xは、x、y、およびzが整数値であり、zがyよりも大きいものとして、yおよびzを含んでyからzまでの整数値を取る。
数学関数
以下の数学関数が、定義される。
Asin( x ) -1.0および1.0を含んで-1.0から1.0までの範囲内の引数xに作用し、ラジアンを単位として-π÷2およびπ÷2を含んで-π÷2からπ÷2までの範囲の出力値を有する三角法の逆正弦関数
Atan( x ) 引数xに作用し、ラジアンを単位として-π÷2およびπ÷2を含んで-π÷2からπ÷2までの範囲の出力値を有する三角法の逆正接関数
Ceil( x ) x以上の最小の整数。
Clip1Y( x ) = Clip3( 0, ( 1 << BitDepthY ) - 1, x )
Clip1C( x ) = Clip3( 0, ( 1 << BitDepthC ) - 1, x )
Cos( x ) ラジアンを単位とする引数xに作用する三角法の余弦関数。
Floor(x) x以下の最大の整数。
Ln( x ) xの自然対数(eを底とする対数であり、eは、自然対数の底の定数2.718281828...である)。
Log2( x ) xの2を底とする対数。
Log10( x ) xの10を底とする対数。
Round( x ) = Sign( x ) * Floor( Abs( x ) + 0.5 )
Sin( x ) ラジアンを単位とする引数xに作用する三角法の正弦関数
Swap( x, y ) = ( y, x )
Tan( x ) ラジアンを単位とする引数xに作用する三角法の正接関数
以下の数学関数が、定義される。
Atan( x ) 引数xに作用し、ラジアンを単位として-π÷2およびπ÷2を含んで-π÷2からπ÷2までの範囲の出力値を有する三角法の逆正接関数
Clip1Y( x ) = Clip3( 0, ( 1 << BitDepthY ) - 1, x )
Clip1C( x ) = Clip3( 0, ( 1 << BitDepthC ) - 1, x )
Floor(x) x以下の最大の整数。
Log2( x ) xの2を底とする対数。
Log10( x ) xの10を底とする対数。
Tan( x ) ラジアンを単位とする引数xに作用する三角法の正接関数
演算の優先順位
式中の優先順位が括弧を使用して明示されないとき、以下の規則が、適用される。
- より高い優先度の演算は、より低い優先度のいかなる演算よりも前に評価される。
- 同じ優先度の演算は、左から右に順に評価される。
式中の優先順位が括弧を使用して明示されないとき、以下の規則が、適用される。
- より高い優先度の演算は、より低い優先度のいかなる演算よりも前に評価される。
- 同じ優先度の演算は、左から右に順に評価される。
下の表は、最も高い方から最も低い方へ演算の優先度を明示し、表のより上の位置は、より高い優先度を示す。
Cプログラミング言語においても使用される演算子に関して、本明細書において使用される優先順位は、Cプログラミング言語において使用されるのと同じである。
論理演算のテキストの記述
本文中、以下の形態で、すなわち、
if( 条件0 )
ステートメント0
else if( 条件1 )
ステートメント1
...
else /* 残りの条件に関する情報を伝えるコメント */
ステートメントn
の形態で数学的に記述される論理演算のステートメントは、以下のように記述される可能性がある。
以下のように... / ...以下が適用される。
- 条件0の場合、ステートメント0
- そうではなく、条件1の場合、ステートメント1
- ...
- それ以外の場合(残りの条件に関する情報を伝えるコメント)、ステートメントn
本文中、以下の形態で、すなわち、
if( 条件0 )
ステートメント0
else if( 条件1 )
ステートメント1
...
else /* 残りの条件に関する情報を伝えるコメント */
ステートメントn
の形態で数学的に記述される論理演算のステートメントは、以下のように記述される可能性がある。
以下のように... / ...以下が適用される。
- 条件0の場合、ステートメント0
- そうではなく、条件1の場合、ステートメント1
- ...
- それ以外の場合(残りの条件に関する情報を伝えるコメント)、ステートメントn
本文中のそれぞれの「...の場合、...、そうではなく...の場合、...、それ以外の場合、...」のステートメントは、「...の場合、...」が直後に続く「以下のように...」または「...以下が適用される」によって導入される。「...の場合、...、そうではなく...の場合、...、それ以外の場合、...」の最後の条件は、常に「それ以外の場合、...」である。交互に挿入された「...の場合、...、そうではなく...の場合、...、それ以外の場合、...」のステートメントは、「以下のように...」または「...以下が適用される」を終わりの「それ以外の場合、...」とマッチングすることによって特定され得る。
本文中、以下の形態で、すなわち、
if( 条件0a && 条件0b )
ステートメント0
else if( 条件1a || 条件1b )
ステートメント1
...
else
ステートメントn
の形態で数学的に記述される論理演算のステートメントは、以下のように記述される可能性がある。
以下のように... / ...以下が適用される。
- 以下の条件のすべてが真である場合、ステートメント0
- 条件0a
- 条件0b
- そうでなく、以下の条件のうちの1つまたは複数が真である場合、ステートメント1
- 条件1a
- 条件1b
- ...
- それ以外の場合、ステートメントn
if( 条件0a && 条件0b )
ステートメント0
else if( 条件1a || 条件1b )
ステートメント1
...
else
ステートメントn
の形態で数学的に記述される論理演算のステートメントは、以下のように記述される可能性がある。
以下のように... / ...以下が適用される。
- 以下の条件のすべてが真である場合、ステートメント0
- 条件0a
- 条件0b
- そうでなく、以下の条件のうちの1つまたは複数が真である場合、ステートメント1
- 条件1a
- 条件1b
- ...
- それ以外の場合、ステートメントn
本文中、以下の形態で、すなわち、
if( 条件0 )
ステートメント0
if( 条件1 )
ステートメント1
の形態で数学的に記述される論理演算のステートメントは、以下のように記述される可能性がある。
条件0のとき、ステートメント0
条件1のとき、ステートメント1
if( 条件0 )
ステートメント0
if( 条件1 )
ステートメント1
の形態で数学的に記述される論理演算のステートメントは、以下のように記述される可能性がある。
条件0のとき、ステートメント0
条件1のとき、ステートメント1
本発明の実施形態が主にビデオコーディングに基づいて説明されたが、コーディングシステム10、エンコーダ20、およびデコーダ30(およびそれに対応してシステム10)の実施形態、ならびに本明細書において説明されたその他の実施形態は、静止ピクチャの処理またはコーディング、つまり、ビデオコーディングと同様のいかなる先行するまたは連続するピクチャからも独立した個々のピクチャの処理またはコーディングのために構成される可能性もあることに留意されたい。概して、ピクチャの処理コーディングが単一のピクチャ17に制限される場合、インター予測ユニット244(エンコーダ)および344(デコーダ)のみが、利用可能でない可能性がある。ビデオエンコーダ20およびビデオデコーダ30のすべてのその他の機能(ツールまたはテクノロジーとも呼ばれる)、たとえば、残差計算204/304、変換206、量子化208、逆量子化210/310、(逆)変換212/312、区分け262/362、イントラ予測254/354、および/またはループフィルタ220、320、およびエントロピーコーディング270、およびエントロピー復号304が、静止ピクチャの処理のために等しく使用される可能性がある。
たとえば、エンコーダ20およびデコーダ30、ならびにたとえばエンコーダ20およびデコーダ30に関連して本明細書において説明された機能の実施形態は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの任意の組み合わせで実装される可能性がある。ソフトウェアに実装される場合、機能は、1つまたは複数の命令またはコードとしてコンピュータ可読媒体上に記憶されるかまたは通信媒体上で送信され、ハードウェアに基づく処理ユニットによって実行される可能性がある。コンピュータ可読媒体は、データストレージ媒体などの有形の媒体に対応するコンピュータ可読ストレージ媒体、またはたとえば通信プロトコルによるある場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体を含む可能性がある。このようにして、概して、コンピュータ可読媒体は、(1)非一時的である有形のコンピュータ可読ストレージ媒体または(2)信号もしくは搬送波などの通信媒体に対応する可能性がある。データストレージ媒体は、本開示において説明された技術の実装のための命令、コード、および/またはデータ構造を取り出すために1つもしくは複数のコンピュータまたは1つもしくは複数のプロセッサによってアクセスされ得る任意の利用可能な媒体である可能性がある。コンピュータプログラム製品は、コンピュータ可読媒体を含む可能性がある。
限定ではなく例として、そのようなコンピュータ可読ストレージ媒体は、RAM、ROM、EEPROM、CD-ROMもしくはその他の光ディスクストレージ、磁気ディスクストレージもしくはその他の磁気ストレージデバイス、フラッシュメモリ、または命令もしくはデータ構造の形態で所望のプログラムコードを記憶するために使用されることが可能であり、コンピュータによってアクセスされることが可能である任意のその他の媒体を含み得る。また、任意の接続が、適切にコンピュータ可読媒体と呼ばれる。たとえば、命令が、同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者線(DSL)、または赤外線、ラジオ波、およびマイクロ波などのワイヤレステクノロジーを用いてウェブサイト、サーバ、またはその他のリモートソースから送信される場合、同軸ケーブル、光ファイバケーブル、ツイストペア、DSL、または赤外線、ラジオ波、およびマイクロ波などのワイヤレステクノロジーは、媒体の定義に含まれる。しかし、コンピュータ可読ストレージ媒体およびデータストレージ媒体は、接続、搬送波、信号、またはその他の一時的媒体を含まず、その代わりに、非一時的な有形のストレージ媒体を対象とすることを理解されたい。本明細書において使用されるとき、ディスク(disk)およびディスク(disc)は、コンパクトディスク(CD: compact disc)、レーザディスク(laser disc)、光ディスク(optical disc)、デジタルバーサタイルディスク(DVD: digital versatile disc)、フロッピーディスク(floppy disk)、およびブルーレイディスク(Blu-ray disc)を含み、ディスク(disk)が、通常、磁気的にデータを再生する一方、ディスク(disc)は、レーザを用いて光学的にデータを再生する。上記のものの組み合わせも、コンピュータ可読媒体の範囲に含まれるべきである。
命令は、1つまたは複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブルロジックアレイ(FPGA)、またはその他の等価な集積もしくはディスクリート論理回路などの1つまたは複数のプロセッサによって実行される可能性がある。したがって、用語「プロセッサ」は、本明細書において使用されるとき、上述の構造または本明細書において説明された技術の実装に好適な任意のその他の構造のいずれかを指す可能性がある。加えて、一部の態様において、本明細書において説明された機能は、符号化および復号のために構成された専用のハードウェアおよび/もしくはソフトウェアモジュール内に提供されるか、または組み合わされたコーデックに組み込まれる可能性がある。また、技術は、1つまたは複数の回路または論理要素にすべて実装される可能性がある。
本開示の技術は、ワイヤレスハンドセット、集積回路(IC)、または1組のIC(たとえば、チップセット)を含む多種多様なデバイスまたは装置に実装される可能性がある。様々な構成要素、モジュール、またはユニットが、開示された技術を実行するように構成されたデバイスの機能の態様を強調するために本開示において説明されているが、異なるハードウェアユニットによる実現を必ずしも必要としない。むしろ、上述のように、様々なユニットが、コーデックハードウェアユニットにおいて組み合わされるか、または好適なソフトウェアおよび/もしくはファームウェアと連携した、上述の1つもしくは複数のプロセッサを含む相互運用性のあるハードウェアユニットの集合によって提供される可能性がある。
1 サブピクチャ
10 ビデオコーディングシステム、コーディングシステム
12 送信元デバイス
13 符号化されたピクチャデータ、通信チャネル
14 送信先デバイス
16 ピクチャソース
17 ピクチャ、ピクチャデータ、生ピクチャ、生ピクチャデータ、モノクロピクチャ、カラーピクチャ、現在のピクチャ
18 プリプロセッサ、前処理ユニット、ピクチャプリプロセッサ
19 前処理されたピクチャ、前処理されたピクチャデータ
20 ビデオエンコーダ、エンコーダ
21 符号化されたピクチャデータ、符号化されたビットストリーム
22 通信インターフェース、通信ユニット
28 通信インターフェース、通信ユニット
30 デコーダ、ビデオデコーダ
31 復号されたピクチャデータ、復号されたピクチャ
32 ポストプロセッサ、後処理ユニット
33 後処理されたピクチャデータ、後処理されたピクチャ
34 ディスプレイデバイス
46 処理回路
100 ビデオエンコーダ
201 入力、入力インターフェース
203 ピクチャブロック、元のブロック、現在のブロック、区分けされたブロック、現在のピクチャブロック
204 残差計算ユニット、残差計算
205 残差ブロック、残差
206 変換処理ユニット、変換
207 変換係数
208 量子化ユニット、量子化
209 量子化された係数、量子化された変換係数、量子化された残差係数
210 逆量子化ユニット、逆量子化
211 逆量子化された係数、逆量子化された残差係数
212 逆変換処理ユニット、(逆)変換
213 再構築された残差ブロック、逆量子化された係数、変換ブロック
214 再構築ユニット、加算器、合算器
215 再構築されたブロック
216 バッファ
220 ループフィルタユニット、ループフィルタ
221 フィルタリングされたブロック、フィルタリングされた再構築されたブロック
230 復号ピクチャバッファ(DPB)
231 復号されたピクチャ
244 インター予測ユニット
254 イントラ予測ユニット、インター予測ユニット、イントラ予測
260 モード選択ユニット
262 区分けユニット、区分け
265 予測ブロック、予測子
266 シンタックス要素
270 エントロピー符号化ユニット、エントロピーコーディング
272 出力、出力インターフェース
304 エントロピー復号ユニット、残差計算、エントロピー復号
309 量子化された係数
310 逆量子化ユニット、逆量子化
311 逆量子化された係数、変換係数
312 逆変換処理ユニット、(逆)変換、出力
313 再構築された残差ブロック
314 再構築ユニット、合算器、加算器
315 再構築されたブロック
320 ループフィルタ、ループフィルタユニット、ループフィルタリングユニット
321 フィルタリングされたブロック、復号されたビデオブロック
330 復号ピクチャバッファ(DPB)、復号ピクチャバッファ(DBP)
331 復号されたピクチャ
344 インター予測ユニット
354 イントラ予測ユニット、イントラ予測
360 モード適用ユニット
362 区分け
365 予測ブロック
400 ビデオコーディングデバイス
410 着信ポート、入力ポート
420 受信機ユニット(Rx)
430 プロセッサ、論理ユニット、中央演算処理装置(CPU)
440 送信機ユニット(Tx)
450 発信ポート、出力ポート
460 メモリ
470 コーディングモジュール
500 装置
502 プロセッサ
504 メモリ
506 データ
508 オペレーティングシステム
510 アプリケーションプログラム
512 バス
514 二次ストレージ
518 ディスプレイ
1100 装置
1101 受信モジュール
1102 解析モジュール
3100 コンテンツ供給システム
3102 キャプチャデバイス
3104 通信リンク
3106 端末デバイス
3108 スマートフォン、スマートパッド
3110 コンピュータ、ラップトップ
3112 ネットワークビデオレコーダ(NVR)/デジタルビデオレコーダ(DVR)
3114 TV
3116 セットトップボックス(STB)
3118 テレビ会議システム
3120 ビデオ監視システム
3122 携帯情報端末(PDA)
3124 車載デバイス
3126 ディスプレイ
3202 プロトコル進行ユニット
3204 多重分離ユニット
3206 ビデオデコーダ
3208 オーディオデコーダ
3210 字幕デコーダ
3212 同期ユニット
3214 ビデオ/オーディオディスプレイ
3216 ビデオ/オーディオ/字幕ディスプレイ
10 ビデオコーディングシステム、コーディングシステム
12 送信元デバイス
13 符号化されたピクチャデータ、通信チャネル
14 送信先デバイス
16 ピクチャソース
17 ピクチャ、ピクチャデータ、生ピクチャ、生ピクチャデータ、モノクロピクチャ、カラーピクチャ、現在のピクチャ
18 プリプロセッサ、前処理ユニット、ピクチャプリプロセッサ
19 前処理されたピクチャ、前処理されたピクチャデータ
20 ビデオエンコーダ、エンコーダ
21 符号化されたピクチャデータ、符号化されたビットストリーム
22 通信インターフェース、通信ユニット
28 通信インターフェース、通信ユニット
30 デコーダ、ビデオデコーダ
31 復号されたピクチャデータ、復号されたピクチャ
32 ポストプロセッサ、後処理ユニット
33 後処理されたピクチャデータ、後処理されたピクチャ
34 ディスプレイデバイス
46 処理回路
100 ビデオエンコーダ
201 入力、入力インターフェース
203 ピクチャブロック、元のブロック、現在のブロック、区分けされたブロック、現在のピクチャブロック
204 残差計算ユニット、残差計算
205 残差ブロック、残差
206 変換処理ユニット、変換
207 変換係数
208 量子化ユニット、量子化
209 量子化された係数、量子化された変換係数、量子化された残差係数
210 逆量子化ユニット、逆量子化
211 逆量子化された係数、逆量子化された残差係数
212 逆変換処理ユニット、(逆)変換
213 再構築された残差ブロック、逆量子化された係数、変換ブロック
214 再構築ユニット、加算器、合算器
215 再構築されたブロック
216 バッファ
220 ループフィルタユニット、ループフィルタ
221 フィルタリングされたブロック、フィルタリングされた再構築されたブロック
230 復号ピクチャバッファ(DPB)
231 復号されたピクチャ
244 インター予測ユニット
254 イントラ予測ユニット、インター予測ユニット、イントラ予測
260 モード選択ユニット
262 区分けユニット、区分け
265 予測ブロック、予測子
266 シンタックス要素
270 エントロピー符号化ユニット、エントロピーコーディング
272 出力、出力インターフェース
304 エントロピー復号ユニット、残差計算、エントロピー復号
309 量子化された係数
310 逆量子化ユニット、逆量子化
311 逆量子化された係数、変換係数
312 逆変換処理ユニット、(逆)変換、出力
313 再構築された残差ブロック
314 再構築ユニット、合算器、加算器
315 再構築されたブロック
320 ループフィルタ、ループフィルタユニット、ループフィルタリングユニット
321 フィルタリングされたブロック、復号されたビデオブロック
330 復号ピクチャバッファ(DPB)、復号ピクチャバッファ(DBP)
331 復号されたピクチャ
344 インター予測ユニット
354 イントラ予測ユニット、イントラ予測
360 モード適用ユニット
362 区分け
365 予測ブロック
400 ビデオコーディングデバイス
410 着信ポート、入力ポート
420 受信機ユニット(Rx)
430 プロセッサ、論理ユニット、中央演算処理装置(CPU)
440 送信機ユニット(Tx)
450 発信ポート、出力ポート
460 メモリ
470 コーディングモジュール
500 装置
502 プロセッサ
504 メモリ
506 データ
508 オペレーティングシステム
510 アプリケーションプログラム
512 バス
514 二次ストレージ
518 ディスプレイ
1100 装置
1101 受信モジュール
1102 解析モジュール
3100 コンテンツ供給システム
3102 キャプチャデバイス
3104 通信リンク
3106 端末デバイス
3108 スマートフォン、スマートパッド
3110 コンピュータ、ラップトップ
3112 ネットワークビデオレコーダ(NVR)/デジタルビデオレコーダ(DVR)
3114 TV
3116 セットトップボックス(STB)
3118 テレビ会議システム
3120 ビデオ監視システム
3122 携帯情報端末(PDA)
3124 車載デバイス
3126 ディスプレイ
3202 プロトコル進行ユニット
3204 多重分離ユニット
3206 ビデオデコーダ
3208 オーディオデコーダ
3210 字幕デコーダ
3212 同期ユニット
3214 ビデオ/オーディオディスプレイ
3216 ビデオ/オーディオ/字幕ディスプレイ
Claims (20)
- 復号デバイスによって実施されるコーディングの方法であって、
ビデオビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得するステップであって、前記シンタックス要素sps_num_subpics_minus1に1を足した値が、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す、ステップと、
前記シンタックス要素sps_num_subpics_minus1の前記値が予め設定された値より大きいとき、前記ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得するステップであって、前記シンタックス要素sps_independent_subpics_flagの前記値が、前記コーディングレイヤビデオシーケンス内のサブピクチャの境界をまたぐループフィルタリングが実行されるかどうかを示すために使用される、ステップと、
前記シンタックス要素sps_num_subpics_minus1の前記値が前記予め設定された値以下であるとき、前記シンタックス要素sps_independent_subpics_flagの前記値をデフォルト値に設定するステップとを含み、
前記予め設定された値が、0である、方法。 - 前記シンタックス要素sps_independent_subpics_flagの前記値が、前記ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される、請求項1に記載の方法。
- 前記デフォルト値が、1である、請求項1または2に記載の方法。
- 前記シンタックス要素sps_independent_subpics_flagの前記値が、前記ビットストリーム内のコードワード値を解析することによって取得される、請求項1から3のいずれか一項に記載の方法。
- 1に等しい前記シンタックス要素sps_independent_subpics_flagの前記値が、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、前記サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しい前記シンタックス要素sps_independent_subpics_flagの前記値が、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われるとは限らないことを指定する、請求項1から4のいずれか一項に記載の方法。
- 前記シンタックス要素sps_independent_subpics_flagの前記値に基づいて前記サブピクチャの境界に対してループフィルタリングプロセスを実行するステップをさらに含む、請求項1から5のいずれか一項に記載の方法。
- ビデオビットストリームを取得するように構成される受信モジュールと、
前記ビットストリームを解析することによってシンタックス要素sps_num_subpics_minus1の値を取得するように構成される解析モジュールであって、前記シンタックス要素sps_num_subpics_minus1に1を足した値が、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す、解析モジュールとを含み、
前記解析モジュールが、前記シンタックス要素sps_num_subpics_minus1の前記値が予め設定された値より大きいとき、前記ビットストリームからシンタックス要素sps_independent_subpics_flagの値を取得し、前記シンタックス要素sps_num_subpics_minus1の前記値が前記予め設定された値以下であるとき、前記シンタックス要素sps_independent_subpics_flagの前記値をデフォルト値に設定するように構成され、前記シンタックス要素sps_independent_subpics_flagの前記値が、前記コーディングレイヤビデオシーケンス内のサブピクチャの境界をまたぐループフィルタリングが実行されるかどうかを示すために使用され、
前記予め設定された値が、0である、ビデオ復号装置。 - 前記シンタックス要素sps_independent_subpics_flagの前記値が、前記ビットストリームにコーディングされたシーケンスパラメータセットに従って取得される、請求項7に記載のビデオ復号装置。
- 前記デフォルト値が、1である、請求項7または8に記載のビデオ復号装置。
- 前記シンタックス要素sps_independent_subpics_flagの前記値が、前記ビットストリーム内のコードワード値を解析することによって取得される、請求項7から9のいずれか一項に記載のビデオ復号装置。
- 1に等しい前記シンタックス要素sps_independent_subpics_flagの前記値が、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われ、前記サブピクチャの境界をまたぐループフィルタリングがないことを指定し、0に等しい前記シンタックス要素sps_independent_subpics_flagの前記値が、コーディングレイヤビデオシーケンス内のすべてのサブピクチャの境界がピクチャの境界として扱われるとは限らないことを指定する、請求項7から10のいずれか一項に記載のビデオ復号装置。
- シンタックス要素sps_independent_subpics_flagの前記値に基づいて前記サブピクチャの境界に対してループフィルタリングプロセスを実行するように構成されるフィルタリングモジュールをさらに含む、請求項7から11のいずれか一項に記載のビデオ復号装置。
- 請求項1から6のいずれか一項に記載の方法を実行するための処理回路を含むデコーダ。
- コンピュータまたはプロセッサ上で実行されるときに請求項1から6のいずれか一項に記載の方法を実行するためのプログラムコードを含むコンピュータプログラム。
- 1つまたは複数のプロセッサと、
前記プロセッサに結合され、前記プロセッサによって実行するためのプログラミングを記憶する非一時的コンピュータ可読ストレージ媒体であって、前記プログラミングが、前記プロセッサによって実行されるときに、請求項1から6のいずれか一項に記載の方法を実行するようにデコーダを構成する、非一時的コンピュータ可読ストレージ媒体と
を含むデコーダ。 - 符号化デバイスによって実施されるコーディングの方法であって、
ピクチャを取得するステップと、前記ピクチャに応じてシンタックス要素sps_num_subpics_minus1の値を決定するステップであって、前記シンタックス要素sps_num_subpics_minus1に1を足した値が、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す、ステップと、
前記シンタックス要素sps_num_subpics_minus1の前記値が予め設定された値より大きいと判定されるとき、シンタックス要素sps_independent_subpics_flagの値をビデオビットストリームに符号化するステップであって、前記シンタックス要素sps_independent_subpics_flagの前記値が、サブピクチャの境界をまたぐループフィルタリングが実行されるかどうかを示すために使用される、ステップと、
前記シンタックス要素sps_num_subpics_minus1の前記値が前記予め設定された値以下であると判定されるとき、前記シンタックス要素sps_independent_subpics_flagの前記値を前記ビットストリームに符号化しないと決定するステップとを含み、
前記予め設定された値が、0である、方法。 - コンピュータデバイスによって実行されるとき、前記コンピュータデバイスに請求項1から6および16のいずれか一項に記載の方法を実行させるプログラムコードを運ぶ非一時的コンピュータ可読媒体。
- ピクチャを取得するように構成される受信モジュールと、前記ピクチャに応じてシンタックス要素sps_num_subpics_minus1の値を決定するように構成される処理モジュールであって、前記シンタックス要素sps_num_subpics_minus1に1を足した値が、コーディングレイヤビデオシーケンスの各ピクチャ内のサブピクチャの数を示す、処理モジュールとを含み、前記処理モジュールが、前記シンタックス要素sps_num_subpics_minus1の前記値が予め設定された値より大きいと判定されるとき、現在のピクチャに関するシンタックス要素sps_independent_subpics_flagの値をビットストリームに符号化し、前記シンタックス要素sps_num_subpics_minus1の前記値が前記予め設定された値以下であると判定されるとき、前記シンタックス要素sps_independent_subpics_flagの前記値を前記ビットストリームに符号化しないと決定するように構成され、前記シンタックス要素sps_independent_subpics_flagの前記値が、サブピクチャの境界をまたぐループフィルタリングが実行されるかどうかを示すために使用され、
前記予め設定された値が、0である、ビデオ符号化装置。 - ビットストリームの形態でビデオデータを記憶するように構成された非一時的メモリストレージと、
請求項1から6に記載の方法のいずれかを実行するように構成されたビデオデコーダと
を含むビデオデータ復号デバイス。 - ビットストリームの形態でビデオデータを記憶するように構成された非一時的メモリストレージと
請求項16に記載の方法のいずれかを実行するように構成されたビデオエンコーダと
を含むビデオデータ符号化デバイス。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023179826A JP2024012340A (ja) | 2020-02-11 | 2023-10-18 | シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EPPCT/EP2020/053465 | 2020-02-11 | ||
| EP2020053465 | 2020-02-11 | ||
| PCT/CN2021/074104 WO2021159962A1 (en) | 2020-02-11 | 2021-01-28 | An encoder, a decoder and corresponding methods for subpicture signalling in sequence parameter set |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023179826A Division JP2024012340A (ja) | 2020-02-11 | 2023-10-18 | シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022552727A JP2022552727A (ja) | 2022-12-19 |
| JP7372465B2 true JP7372465B2 (ja) | 2023-10-31 |
Family
ID=77292967
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022523334A Active JP7372465B2 (ja) | 2020-02-11 | 2021-01-28 | シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 |
| JP2023179826A Pending JP2024012340A (ja) | 2020-02-11 | 2023-10-18 | シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023179826A Pending JP2024012340A (ja) | 2020-02-11 | 2023-10-18 | シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 |
Country Status (10)
| Country | Link |
|---|---|
| US (1) | US20220224944A1 (ja) |
| EP (1) | EP4026319A4 (ja) |
| JP (2) | JP7372465B2 (ja) |
| KR (1) | KR20220051399A (ja) |
| CN (2) | CN115039406A (ja) |
| AU (1) | AU2021219750A1 (ja) |
| BR (1) | BR112022005091A2 (ja) |
| CA (1) | CA3153765A1 (ja) |
| MX (1) | MX2022004940A (ja) |
| WO (1) | WO2021159962A1 (ja) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20220074952A (ko) * | 2019-11-05 | 2022-06-03 | 엘지전자 주식회사 | 영상/비디오 코딩 방법 및 장치 |
| WO2021125912A1 (ko) | 2019-12-20 | 2021-06-24 | 주식회사 윌러스표준기술연구소 | 비디오 신호 처리 방법 및 이를 위한 장치 |
| CN115176478A (zh) * | 2020-02-14 | 2022-10-11 | 抖音视界有限公司 | 视频编解码中的参考图片重采样激活 |
| WO2021201617A1 (ko) * | 2020-03-31 | 2021-10-07 | 엘지전자 주식회사 | 레이어간 정렬된 서브픽처 정보에 기반하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장하는 기록 매체 |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021126044A1 (en) | 2019-12-19 | 2021-06-24 | Telefonaktiebolaget Lm Ericsson (Publ) | Picture segment ordering |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| MX2019008023A (es) * | 2017-01-03 | 2019-11-12 | Lg Electronics Inc | Metodo de procesamiento de imagen, y aparato para el mismo. |
| KR20240000610A (ko) * | 2019-01-15 | 2024-01-02 | 로즈데일 다이나믹스 엘엘씨 | 변환 스킵 플래그를 이용한 영상 코딩 방법 및 장치 |
| GB201913403D0 (en) * | 2019-09-17 | 2019-10-30 | Canon Kk | Method and apparatus for encoding and decoding a video stream with subpictures |
-
2021
- 2021-01-28 KR KR1020227010900A patent/KR20220051399A/ko unknown
- 2021-01-28 EP EP21753198.7A patent/EP4026319A4/en active Pending
- 2021-01-28 JP JP2022523334A patent/JP7372465B2/ja active Active
- 2021-01-28 CN CN202180011635.XA patent/CN115039406A/zh active Pending
- 2021-01-28 AU AU2021219750A patent/AU2021219750A1/en active Pending
- 2021-01-28 CN CN202211556932.5A patent/CN116016956B/zh active Active
- 2021-01-28 BR BR112022005091A patent/BR112022005091A2/pt unknown
- 2021-01-28 CA CA3153765A patent/CA3153765A1/en active Pending
- 2021-01-28 MX MX2022004940A patent/MX2022004940A/es unknown
- 2021-01-28 WO PCT/CN2021/074104 patent/WO2021159962A1/en unknown
-
2022
- 2022-03-18 US US17/698,824 patent/US20220224944A1/en active Pending
-
2023
- 2023-10-18 JP JP2023179826A patent/JP2024012340A/ja active Pending
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021126044A1 (en) | 2019-12-19 | 2021-06-24 | Telefonaktiebolaget Lm Ericsson (Publ) | Picture segment ordering |
Non-Patent Citations (4)
| Title |
|---|
| Benjamin Bross, Jianle Chen, Shan Liu, and Ye-Kui Wang，Versatile Video Coding (Draft 8)，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-Q2001-vB，17th Meeting: Brussels, BE，2020年01月27日，pp.38-43,97-110 |
| Biao Wang, et al.，Signaling cleanup on SPS，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-R0156-v1，18th Meeting: by teleconference，2020年04月，pp.1-5 |
| Byeongdoo Choi, Stephan Wenger, and Shan Liu，AHG12: On sub-picture partitioning，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-N0055-v2，14th Meeting: Geneva, CH，2019年03月，pp.1-7 |
| Mitra Damghanian, Rickard Sjoberg, and Martin Pettersson，AHG9: On Subpicture Ordering，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-Q0271，17th Meeting: Brussels, BE，2019年12月，pp.1-4 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115039406A (zh) | 2022-09-09 |
| CN116016956B (zh) | 2023-09-01 |
| CN116016956A (zh) | 2023-04-25 |
| JP2024012340A (ja) | 2024-01-30 |
| EP4026319A1 (en) | 2022-07-13 |
| MX2022004940A (es) | 2022-05-16 |
| CA3153765A1 (en) | 2021-08-19 |
| AU2021219750A1 (en) | 2022-03-31 |
| KR20220051399A (ko) | 2022-04-26 |
| BR112022005091A2 (pt) | 2022-10-11 |
| EP4026319A4 (en) | 2022-11-09 |
| JP2022552727A (ja) | 2022-12-19 |
| WO2021159962A1 (en) | 2021-08-19 |
| US20220224944A1 (en) | 2022-07-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7372465B2 (ja) | シーケンスパラメータセット内でのサブピクチャのシグナリングのためのエンコーダ、デコーダ、および対応する方法 | |
| JP7391991B2 (ja) | イントラ平滑化のための方法および装置 | |
| JP7483869B2 (ja) | エンコーダ、デコーダ、および対応する方法 | |
| JP2024026231A (ja) | イントラ予測モードに関連するエンコーダ、デコーダ、および対応する方法 | |
| US11729391B2 (en) | Encoder, a decoder and corresponding methods simplifying signaling slice header syntax elements | |
| JP7436646B2 (ja) | ピクチャヘッダのシグナリングを簡略化するためのエンコーダ、デコーダ及び対応する方法 | |
| JP2023515626A (ja) | エンコーダ、デコーダ、および対応するシグナリングの方法、ならびにパラメータセット内のセマンティクス | |
| WO2021190525A1 (en) | An encoder, a decoder and corresponding methods | |
| JP7384998B2 (ja) | クロマイントラモード導出のエンコーダ、デコーダ、および対応する方法 | |
| US20230007270A1 (en) | Decoder and corresponding methods to signal picture partitioning information for slices | |
| JP2023100701A (ja) | イントラ予測のためのイントラモードコーディングを使用するエンコーダ、デコーダ、および対応する方法 | |
| EP3991435A1 (en) | Method and apparatus of sample adaptive offset in-loop filter with application region size constraint | |
| JP7414976B2 (ja) | エンコーダ、デコーダ、および、対応する方法 | |
| WO2021185278A1 (en) | An encoder, a decoder and corresponding methods |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220419 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230525 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230529 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230804 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230919 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231019 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7372465 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |