JP2023101529A - ビデオエンコーダ、ビデオデコーダ、および対応する方法 - Google Patents
ビデオエンコーダ、ビデオデコーダ、および対応する方法 Download PDFInfo
- Publication number
- JP2023101529A JP2023101529A JP2023076273A JP2023076273A JP2023101529A JP 2023101529 A JP2023101529 A JP 2023101529A JP 2023076273 A JP2023076273 A JP 2023076273A JP 2023076273 A JP2023076273 A JP 2023076273A JP 2023101529 A JP2023101529 A JP 2023101529A
- Authority
- JP
- Japan
- Prior art keywords
- picture
- sub
- subpicture
- pictures
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 197
- 230000033001 locomotion Effects 0.000 claims description 272
- 241000023320 Luma <angiosperm> Species 0.000 claims description 162
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 claims description 162
- 230000002123 temporal effect Effects 0.000 claims description 80
- 238000004891 communication Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 8
- 238000012546 transfer Methods 0.000 claims description 5
- 230000007246 mechanism Effects 0.000 abstract description 38
- 230000008569 process Effects 0.000 description 64
- 239000013598 vector Substances 0.000 description 64
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 62
- 238000013139 quantization Methods 0.000 description 52
- 230000011664 signaling Effects 0.000 description 52
- 238000000638 solvent extraction Methods 0.000 description 52
- 238000000605 extraction Methods 0.000 description 48
- 238000012545 processing Methods 0.000 description 42
- 238000010586 diagram Methods 0.000 description 38
- 238000005192 partition Methods 0.000 description 36
- 238000007906 compression Methods 0.000 description 30
- 230000006835 compression Effects 0.000 description 28
- 238000001914 filtration Methods 0.000 description 26
- 230000005540 biological transmission Effects 0.000 description 24
- 238000004458 analytical method Methods 0.000 description 22
- 230000003044 adaptive effect Effects 0.000 description 18
- 238000009795 derivation Methods 0.000 description 16
- 230000008859 change Effects 0.000 description 14
- 208000034188 Stiff person spectrum disease Diseases 0.000 description 12
- 229920010524 Syndiotactic polystyrene Polymers 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 12
- 208000012112 ischiocoxopodopatellar syndrome Diseases 0.000 description 12
- 238000002490 spark plasma sintering Methods 0.000 description 12
- 230000008901 benefit Effects 0.000 description 11
- 229920000069 polyphenylene sulfide Polymers 0.000 description 10
- 230000011218 segmentation Effects 0.000 description 10
- 238000011144 upstream manufacturing Methods 0.000 description 10
- 230000001419 dependent effect Effects 0.000 description 8
- 238000005457 optimization Methods 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 239000000284 extract Substances 0.000 description 6
- 239000010410 layer Substances 0.000 description 6
- 230000001629 suppression Effects 0.000 description 6
- 230000004075 alteration Effects 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 230000006837 decompression Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 108010004034 stable plasma protein solution Proteins 0.000 description 4
- 230000000153 supplemental effect Effects 0.000 description 4
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 241000985610 Forpus Species 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000013467 fragmentation Methods 0.000 description 2
- 238000006062 fragmentation reaction Methods 0.000 description 2
- 235000019580 granularity Nutrition 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000000977 initiatory effect Effects 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000035807 sensation Effects 0.000 description 2
- 235000019615 sensations Nutrition 0.000 description 2
- 239000002356 single layer Substances 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 239000002023 wood Substances 0.000 description 2
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/188—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/1883—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit relating to sub-band structure, e.g. hierarchical level, directional tree, e.g. low-high [LH], high-low [HL], high-high [HH]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
- H04N19/29—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding involving scalability at the object level, e.g. video object layer [VOL]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/31—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Color Television Systems (AREA)
- Time-Division Multiplex Systems (AREA)
- Television Systems (AREA)
- Control Of El Displays (AREA)
- Studio Circuits (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】ビデオコーディング機構を提供する。【解決手段】この機構は、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャサイズおよびサブピクチャ位置を備えるシーケンス・パラメータ・セット(SPS)とを受信することを含む。SPSは、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を取得するために解析される。サブピクチャは、ビデオシーケンスを作り出すために、サブピクチャサイズおよびサブピクチャ位置に基づいてデコードされる。ビデオシーケンスは、表示のために転送される。【選択図】図６
Description
関連する出願への相互参照
この特許出願は、Ye-Kui Wang他によって2019年1月9日に出願され、発明の名称を「Sub-Pictures in Video Coding」とする米国仮特許出願第62/790,207号の利益を主張し、これは参照によってここに組み込まれる。
この特許出願は、Ye-Kui Wang他によって2019年1月9日に出願され、発明の名称を「Sub-Pictures in Video Coding」とする米国仮特許出願第62/790,207号の利益を主張し、これは参照によってここに組み込まれる。
本開示は一般にビデオコーディングに関し、具体的にはビデオコーディングにおけるサブピクチャ管理に関する。
比較的短いビデオでさえ描写するために必要とされるビデオデータの量はかなりであることがあり、これは、限られた帯域幅容量を有する通信ネットワークにわたって、データがストリーミングされ、またはそうでなければ伝達されるとき、困難をもたらし得る。従って、ビデオデータは一般に、現代の電気通信ネットワークにわたって伝達される前に圧縮される。メモリリソースは限られ得るので、ビデオが記憶デバイスに記憶されるとき、ビデオのサイズも問題であり得る。ビデオ圧縮デバイスはしばしば、ソースにおけるソフトウェアおよび／またはハードウェアを使用して、送信または記憶の前にビデオデータをコーディングし、それにより、デジタルビデオ画像を表現するために必要とされるデータの量を減らす。圧縮されたデータは次いで、ビデオデータをデコードするビデオ伸長デバイスによってデスティネーションにおいて受信される。限られたネットワークリソース、およびより高いビデオ品質のいっそう増加する要求により、画像品質においてほとんどまたはまったく犠牲なく圧縮比を改善する、改善された圧縮および伸長技法が望ましい。
実施形態では、開示は、デコーダ内に実装される方法であって、デコーダの受信機によって、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を備えるシーケンス・パラメータ・セット(SPS)とを受信するステップと、デコーダのプロセッサによって、SPSを解析してサブピクチャサイズおよびサブピクチャ位置を取得するステップと、プロセッサによって、サブピクチャサイズおよびサブピクチャ位置に基づいてサブピクチャをデコードしてビデオシーケンスを作り出すステップと、プロセッサによって、表示のためにビデオシーケンスを転送するステップと、を備える方法を含む。タイルおよびサブピクチャはピクチャより小さいので、いくつかのシステムは、タイリング情報およびサブピクチャ情報をピクチャ・パラメータ・セット(PPS)内に含む。しかしながら、サブピクチャは、関心領域(ROI)の適用およびサブピクチャを基にしたアクセス方式をサポートするために使用され得る。これらの適用はピクチャごとに変化しない。開示される例は、PPSの代わりにSPS内にサブピクチャのためのレイアウト情報を含む。サブピクチャ・レイアウト情報は、サブピクチャ位置およびサブピクチャサイズを含む。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセットである。サブピクチャサイズは、ルマサンプルにおいて測定されるようなサブピクチャの高さおよび幅である。ビデオシーケンスは、単一のSPS(またはビデオセグメントごとに1つ)を含んでもよく、ピクチャごとに1つのPPSと同数のものを含んでもよい。SPS内にサブピクチャのためのレイアウト情報を配置することは、レイアウトが、各PPSについて冗長にシグナリングされるのではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、コーディング効率を増加させ、従って、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。また、いくつかのシステムは、デコーダによって導出されるサブピクチャ情報を有する。サブピクチャ情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャを抽出することに関して追加の機能をサポートする。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャが時間動き制約サブピクチャであること、および、サブピクチャサイズおよびサブピクチャ位置が時間動き制約サブピクチャのレイアウトを示すことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、サブピクチャサイズに基づいてディスプレイのサイズに対するサブピクチャのサイズを決定することをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、サブピクチャ位置に基づいてディスプレイに対するサブピクチャの位置を決定することをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャ位置が、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャサイズが、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、SPSが、ピクチャから区分された各サブピクチャについてのサブピクチャ識別子(ID)をさらに備えることを提供する。
実施形態では、開示は、エンコーダ内に実装される方法であって、エンコーダのプロセッサによって、ピクチャから区分されたサブピクチャをビットストリームへとエンコードするステップと、プロセッサによって、サブピクチャのサブピクチャサイズおよびサブピクチャ位置をビットストリーム内のSPSへとエンコードするステップと、エンコーダのメモリに、デコーダに向けた通信のためにビットストリームを記憶するステップと、を備える方法を含む。タイルおよびサブピクチャはピクチャより小さいので、いくつかのシステムは、タイリング情報およびサブピクチャ情報をピクチャ・パラメータ・セット(PPS)内に含む。しかしながら、サブピクチャは、関心領域(ROI)の適用およびサブピクチャを基にしたアクセス方式をサポートするために使用され得る。これらの適用はピクチャごとに変化しない。開示される例は、PPSの代わりにSPS内にサブピクチャのためのレイアウト情報を含む。サブピクチャ・レイアウト情報は、サブピクチャ位置およびサブピクチャサイズを含む。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセットである。サブピクチャサイズは、ルマサンプルにおいて測定されるようなサブピクチャの高さおよび幅である。ビデオシーケンスは、単一のSPS(またはビデオセグメントごとに1つ)を含んでもよく、ピクチャごとに1つのPPSと同数のものを含んでもよい。SPS内にサブピクチャのためのレイアウト情報を配置することは、レイアウトが、各PPSについて冗長にシグナリングされるのではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、コーディング効率を増加させ、従って、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。また、いくつかのシステムは、デコーダによって導出されるサブピクチャ情報を有する。サブピクチャ情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャを抽出することに関して追加の機能をサポートする。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、サブピクチャが時間動き制約サブピクチャであることを示すために、フラグをSPS内にエンコードすることをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャサイズおよびサブピクチャ位置が時間動き制約サブピクチャのレイアウトを示すことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャ位置が、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャサイズが、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、ピクチャから区分されたサブピクチャの各々についてのサブピクチャIDをSPSへとエンコードすることをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、ピクチャから区分されたサブピクチャの数をSPS内にエンコードすることをさらに備えることを提供する。
実施形態では、開示は、プロセッサ、メモリ、プロセッサに結合された受信機、およびプロセッサに結合された送信機を備えるビデオコーディングデバイスを含み、プロセッサ、メモリ、受信機、および送信機は、先行する態様のいずれかの方法を実行するように構成される。
実施形態では、開示は、ビデオコーディングデバイスによる使用のためのコンピュータプログラム製品を備える非一時的コンピュータ可読媒体を含み、コンピュータプログラム製品は、プロセッサによって実行されるときビデオコーディングデバイスに先行する態様のいずれかの方法を実行させるような、非一時的コンピュータ可読媒体に記憶されたコンピュータ実行可能命令を備える。
実施形態では、開示は、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を備えるSPSとを受信するための受信手段と、SPSを解析してサブピクチャサイズおよびサブピクチャ位置を取得するための解析手段と、サブピクチャサイズおよびサブピクチャ位置に基づいてサブピクチャをデコードしてビデオシーケンスを作り出すためのデコード手段と、表示のためにビデオシーケンスを転送するための転送手段と、を備えるデコーダを含む。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、デコーダが先行する態様のいずれかの方法を実行するようにさらに構成されることを提供する。
実施形態では、開示は、ピクチャから区分されたサブピクチャをビットストリームへとエンコードし、サブピクチャのサブピクチャサイズおよびサブピクチャ位置をビットストリーム内のSPSへとエンコードするためのエンコード手段と、デコーダに向けた通信のためにビットストリームを記憶するための記憶手段と、を備えるエンコーダを含む。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、エンコーダが先行する態様のいずれかの方法を実行するようにさらに構成されることを提供する。
明確さの目的のために、前述の実施形態のいずれか1つが、本開示の範囲内で新しい実施形態を作り出すために、他の前述の実施形態のいずれか1つまたは複数と組み合わせられ得る。
これらおよび他の特徴は、添付の図面および請求項と併せて用いられる以下の詳細な説明からより明確に理解されるであろう。
この開示のより完全な理解のために、添付の図面および詳細な説明に関連して用いられる以下の簡単な説明への参照がここで行われ、同様の参照符号は同様の部分を表現する。
1つまたは複数の実施形態の例示的な実装が以下で提供されるが、開示されるシステムおよび／または方法は、現在知られているか、または存在しているかにかかわらず、任意の数の技法を使用して実装され得ることが始めに理解されるべきである。開示は、ここで例示され説明される典型的な設計および実装を含む、以下で例示される例示的な実装、図、および技法に、いかなる場合も限定されるべきでなく、しかし、それらの等価物の完全な範囲とともに添付の請求項の範囲内で修正され得る。
コーディング・ツリー・ブロック(CTB)、コーディング・ツリー・ユニット(CTU)、コーディング・ユニット(CU)、コーディングされたビデオシーケンス(CVS)、ジョイント・ビデオ・エキスパート・チーム(JVET)、動き制約タイルセット(MCTS)、最大伝送単位(MTU)、ネットワーク抽象化レイヤ(NAL)、ピクチャ順序カウント(POC)、ロー・バイト・シーケンス・ペイロード(RBSP)、シーケンス・パラメータ・セット(SPS)、バーサタイル・ビデオ・コーディング(VVC)、およびワーキング・ドラフト(WD)のような様々な頭字語がここで利用される。
データの最小損失とともにビデオファイルのサイズを低減するために、多くのビデオ圧縮技法が利用されることが可能である。たとえば、ビデオ圧縮技法は、空間(たとえば、イントラピクチャ)予測および／または時間(たとえば、インターピクチャ)予測を実行して、ビデオシーケンスにおけるデータ冗長性を低減するまたは取り除くことを含むことができる。ブロックを基にしたビデオコーディングのために、ビデオスライス(たとえば、ビデオピクチャまたはビデオピクチャの一部)がビデオブロックへと区分されてもよく、これは、ツリーブロック、コーディング・ツリー・ブロック(CTB)、コーディング・ツリー・ユニット(CTU)、コーディング・ユニット(CU)、および／またはコーデイング・ノードとも呼ばれ得る。ピクチャのイントラコーディングされた(I)スライス内のビデオブロックは、同じピクチャ内の近隣ブロック内の参照サンプルに関して空間予測を使用してコーディングされる。ピクチャのインターコーディングされた単方向予測(P)または双方向予測(B)スライス内のビデオブロックは、同じピクチャ内の近隣ブロック内の参照サンプルに関して空間予測、または他の参照ピクチャ内の参照サンプルに関して時間予測を利用することによってコーディングされ得る。ピクチャはフレームおよび／または画像と呼ばれることがあり、参照ピクチャは参照フレームおよび／または参照画像と呼ばれることがある。空間予測または時間予測は、画像ブロックを表現する予測ブロックをもたらす。残差データは、元の画像ブロックと予測ブロックとの間のピクセル差を表現する。従って、インターコーディングされたブロックは、予測ブロックを形成する参照サンプルのブロックを指し示す動きベクトル、およびコーディングされたブロックと予測ブロックとの間の差を示す残差データに従ってエンコードされる。イントラコーディングされたブロックは、イントラコーディングモードおよび残差データに従ってエンコードされる。さらなる圧縮のために、残差データはピクセル領域から変換領域に変換され得る。これらは、量子化され得る残差変換係数をもたらす。量子化された変換係数は最初に、2次元アレイに配置され得る。量子化された変換係数が、変換係数の1次元ベクトルを作成するために走査され得る。エントロピーコーディングは、よりいっそうの圧縮を達成するために適用され得る。そのようなビデオ圧縮技法は、以下でより詳細に論じられる。
エンコードされたビデオが正確にデコードされることが可能であることを保証するために、対応するビデオコーディング規格に従って、ビデオがエンコードされデコードされる。ビデオコーディング規格は、国際電気通信連合(ITU)標準化部門(ITU-T)H.261、国際標準化機構／国際電気標準会議(ISO/IEC)モーション・ピクチャ・エキスパート・グループ(MPEG)-1 Part 2、ITU-T H.262またはISO/IEC MPEG-2 Part 2、ITU-T H.263、ISO/IEC MPEG-4 Part 2、ITU-T H.264またはISO/IEC MPEG-4 Part 10としても知られているアドバンスト・ビデオ・コーディング(AVC)、およびITU-T H.265またはMPEG-H Part 2としても知られている高効率ビデオコーディング(HEVC)を含む。AVCは、スケーラブル・ビデオ・コーディング(SVC)、マルチビュー・ビデオ・コーディング(MVC)およびマルチビュー・ビデオ・コーディング・プラス・デプス(MVC+D)、ならびに3次元(3D)AVC(3D-AVC)のような拡張を含む。HEVCは、スケーラブルHEVC(SHVC)、マルチビューHEVC(MV-HEVC)、および3D HEVC(3D-HEVC)のような拡張を含む。ITU-TおよびISO/IECのジョイント・ビデオ・エキスパート・チーム(JVET)は、バーサタイル・ビデオ・コーディング(VVC)と呼ばれるビデオコーディング規格を開発することを開始した。VVCはワーキング・ドラフト(WD)に含まれ、これはJVET-L1001-v9を含む。
ビデオ画像をコーディングするために、画像はまず区分され、区分はビットストリームへとコーディングされる。様々なピクチャ区分方式が利用可能である。たとえば、画像は、通常のスライス、従属スライス、タイルへと、および／または、波面並列処理(WPP)に従って区分されることが可能である。簡潔さのために、ビデオコーディングのためにCTBのグループへとスライスを区分するとき、通常のスライス、従属スライス、タイル、WPP、およびそれらの組み合わせのみが使用されることが可能であるように、HEVCはエンコーダを制限する。そのような区分は、最大伝送単位(MTU)サイズのマッチング、並列処理、低減されたエンドツーエンド遅延をサポートするために適用されることが可能である。MTUは、単一のパケットにおいて送信されることが可能であるデータの最大量を表記する。パケットペイロードがMTUを超えるならば、そのペイロードは断片化と呼ばれる処理を通じて2つのパケットへと分割される。
単にスライスとも呼ばれる通常のスライスは、ループフィルタリング動作によるいくらかの相互依存性にもかかわらず、同じピクチャ内の他の通常のスライスとは独立に再構築されることが可能である画像の区分された部分である。各々の通常のスライスは、送信のためにそれ自身のネットワーク抽象化レイヤ(NAL)ユニットにカプセル化される。さらに、ピクチャ内予測(イントラサンプル予測、動き情報予測、コーディングモード予測)およびスライス境界にわたるエントロピーコーディング依存性は、独立した再構築をサポートするために無効にされ得る。そのような独立した再構築は並列化をサポートする。たとえば、通常のスライスを基にした並列化は、最小のプロセッサ間またはコア間通信を利用する。しかしながら、各々の通常のスライスは独立であるので、各スライスは別々のスライスヘッダと関連付けられる。通常のスライスの使用は、各スライスについてのスライスヘッダのビットコストにより、およびスライス境界にわたる予測の欠如により、かなりのコーディングオーバーヘッドを招くことがある。さらに、通常のスライスは、MTUサイズの要件についてのマッチングをサポートするために利用され得る。具体的には、通常のスライスは別々のNALユニットにカプセル化され、独立にコーディングされることが可能であるので、各々の通常のスライスは、複数のパケットへとスライスを分けることを避けるために、MTU方式におけるMTUより小さいべきである。それゆえ、並列化の目標およびMTUサイズのマッチングの目標は、ピクチャにおけるスライスレイアウトへの矛盾する要求を課し得る。
従属スライスは通常のスライスに類似するが、短縮されたスライスヘッダを有し、ピクチャ内予測を破壊することなく画像ツリーブロック境界の区分を可能にする。従って、従属スライスは、通常のスライスが複数のNALユニットへと断片化されることを可能にし、これは、通常のスライス全体のエンコードが完了する前に通常のスライスの一部が送り出されることを可能にすることによって、低減されたエンドツーエンド遅延を提供する。
タイルは、タイルの列と行を作り出す水平および垂直の境界によって作り出される画像の区分された部分である。タイルはラスター走査順(右から左および上から下)でコーディングされ得る。CTBの走査順はタイル内で局所的である。従って、第1のタイル内のCTBは、次のタイル内のCTBに進む前に、ラスター走査順でコーディングされる。通常のスライスと類似して、タイルは、エントロピーデコードの依存性とともにピクチャ内予測の依存性を破壊する。しかしながら、タイルは個々のNALユニットに含まれないことがあり、従って、タイルはMTUサイズのマッチングのために使用されないことがある。各タイルは、1つのプロセッサ／コアによって処理されることが可能であり、近隣のタイルをデコードする処理ユニット間のピクチャ内予測のために利用されるプロセッサ間／コア間通信は、共有されるスライスヘッダを搬送すること(隣接するタイルが同じスライス内にあるとき)、および再構築されたサンプルとメタデータのループフィルタリング関連の共有を実行することに限定され得る。1つより多くのタイルがスライスに含まれるとき、スライス内の最初のエントリ・ポイント・オフセット以外の各タイルについてのエントリ・ポイント・バイト・オフセットが、スライスヘッダ内でシグナリングされ得る。各スライスおよびタイルについて、以下の条件、1)スライス内のすべてのコーディングされたツリーブロックが同じタイルに属する、および2)タイル内のすべてのコーディングされたツリーブロックが同じスライスに属する、のうちの少なくとも1つが満たされるべきである。
WPPでは、画像はCTBの単一の行へと区分される。エントロピーデコードおよび予測機構は、他の行におけるCTBからのデータを使用し得る。並列処理は、CTBの行の並列デコードを通じて可能にされる。たとえば、現在の行は、先行する行と並列にデコードされ得る。しかしながら、現在の行のデコードは、2つのCTBによる先行する行のデコードプロセスより遅延する。この遅延は、現在の行における現在のCTBの上にあるCTBおよび右上にあるCTBに関連するデータが、現在のCTBがコーディングされる前に利用可能であることを保証する。この手法は、グラフィカルに表現されるとき波面として現れる。このずらされた開始は、画像が含むCTBの行の数と同じ数までのプロセッサ／コアを用いた並列化を可能にする。ピクチャ内の近隣のツリーブロックの行の間のピクチャ内予測が許容されるので、ピクチャ内予測を有効にするためのプロセッサ間／コア間通信はかなりであることがある。WPPの区分はNALユニットサイズを考慮する。従って、WPPはMTUサイズのマッチングをサポートしない。しかしながら、要求に応じてMTUサイズのマッチングを実装するために、あるコーディングオーバーヘッドを有してWPPと併せて通常のスライスが使用されることが可能である。
タイルは動き制約タイルセットも含み得る。動き制約タイルセット(MCTS)は、関連付けられた動きベクトルが、MCTS内部の完全サンプル位置と、補間のためにMCTS内部の完全サンプル位置のみを要求する分数サンプル位置とを指し示すように制限されるように設計されたタイルセットである。さらに、MCTS外部のブロックから導出される時間動きベクトル予測についての動きベクトル候補の使用は許容されない。このようにして、各MCTSは、MCTSに含まれないタイルが存在することなく、独立にデコードされ得る。時間MCTS補足強化情報(SEI)メッセージは、ビットストリームにおけるMCTSの存在を示し、MCTSをシグナリングするために使用され得る。MCTS SEIメッセージは、MCTSセットについて準拠するビットストリームを生成するために、MCTSサブビットストリーム抽出(SEIメッセージのセマンティクスの部分として指定される)において使用されることが可能である補足情報を提供する。情報はいくつかの抽出情報セットを含み、各々が、MCTSセットの数を定義し、MCTSサブビットストリーム抽出プロセスの間に使用されるべき置換ビデオパラメータセット(VPS)、シーケンス・パラメータ・セット(SPS)、およびピクチャ・パラメータ・セット(PPS)のロー・バイト・シーケンス・ペイロード(RBSP)バイトを含む。MCTSサブビットストリーム抽出プロセスに従ってサブビットストリームを抽出するとき、パラメータセット(VPS、SPS、およびPPS)は、書き直され、または置換されてもよく、スライスアドレス関連のシンタックス要素(first_slice_segment_in_pic_flagおよびslice_segment_addressを含む)のうちの1つまたはすべてが、抽出されたサブビットストリームにおいて異なる値を利用し得るので、スライスヘッダは更新されてもよい。
ピクチャは、また、1つまたは複数のサブピクチャへと区分され得る。サブピクチャは、0に等しいtile_group_addressを有するタイルグループで開始する、タイルグループ／スライスの長方形セットである。各サブピクチャは、別々のPPSを参照することが可能であり、従って、別々のタイル区分を有することが可能である。サブピクチャは、デコードプロセスにおいてピクチャのように扱われ得る。現在のサブピクチャをデコードするための参照サブピクチャは、デコードされたピクチャバッファにおいて参照ピクチャから現在のサブピクチャと同じに位置付けられるエリアを抽出することによって生成される。抽出されたエリアは、デコードされたサブピクチャとして扱われる。同じサイズのサブピクチャとピクチャ内の同じ位置との間で、インター予測が行われ得る。スライスとしても知られているタイルグループは、ピクチャまたはサブピクチャ内の関連するタイルのシーケンスである。ピクチャ内のサブピクチャの位置を決定するために、いくつかの項目が導出されることが可能である。たとえば、各々の現在のサブピクチャは、ピクチャ境界内に現在のサブピクチャを含むために十分大きいピクチャ内で、CTUラスター走査順で次の占有されていない位置に配置され得る。
さらに、ピクチャ区分は、ピクチャレベルタイルおよびシーケンスレベルタイルに基づき得る。シーケンスレベルタイルは、MCTSの機能を含んでもよく、サブピクチャとして実装され得る。たとえば、ピクチャレベルタイルは、ピクチャ内の特定のタイル列および特定のタイル行内のコーディング・ツリー・ブロックの長方形領域として定義され得る。シーケンスレベルタイルは、異なるフレームに含まれるコーディング・ツリー・ブロックの長方形領域のセットとして定義されてもよく、各長方形領域はさらに1つまたは複数のピクチャレベルタイルを備え、コーディング・ツリー・ブロックの長方形領域のセットは類似する長方形領域の任意の他のセットから独立にデコード可能である。シーケンスレベルタイルグループセット(STGPS)は、そのようなシーケンスレベルタイルのグループである。STGPSは、NALユニットヘッダ内に関連付けられた識別子(ID)を有する非ビデオコーディングレイヤ(VCL)NALユニット内でシグナリングされ得る。
先行するサブピクチャを基にした区分方式は、ある課題と関連付けられ得る。たとえば、サブピクチャが有効にされるとき、サブピクチャ内のタイリング(タイルへのサブピクチャの区分)が、並列処理をサポートするために使用されることが可能である。並列処理の目的のためのサブピクチャのタイル区分は、ピクチャごとに変化することが可能であり(たとえば、並列処理負荷のバランスをとる目的のために)、従って、ピクチャレベルで(たとえば、PPSにおいて)管理されてもよい。しかしながら、サブピクチャ区分(サブピクチャへのピクチャの区分)は、関心領域(ROI)およびサブピクチャを基にしたピクチャアクセスをサポートするために利用され得る。そのような場合、PPSにおけるサブピクチャまたはMCTSのシグナリングは効率的でない。
別の例では、ピクチャ内の任意のサブピクチャが時間動き制約サブピクチャとしてコーディングされるとき、ピクチャ内のすべてのサブピクチャが、時間動き制約サブピクチャとしてコーディングされ得る。そのようなピクチャ区分は限定的であり得る。たとえば、時間動き制約サブピクチャとしてサブピクチャをコーディングすることは、追加の機能と引き換えにコーディング効率を低減し得る。しかしながら、関心領域を基にした適用では、通常はサブピクチャのうちの1つまたは数個のみが、時間動き制約サブピクチャを基にした機能を使用する。従って、残りのサブピクチャは、何も実際上の利益を提供することなく、低減されたコーディング効率を被る。
別の例では、サブピクチャのサイズを指定するためのシンタックス要素は、ルマCTUサイズの単位で指定され得る。従って、サブピクチャの幅と高さの両方が、CtbSizeYの整数倍であるべきである。サブピクチャの幅と高さを指定するこの機構は、様々な問題をもたらし得る。たとえば、サブピクチャ区分は、CtbSizeYの整数倍であるピクチャ幅および／またはピクチャ高さを有するピクチャにのみ適用可能である。これは、サブピクチャの区分を、CTbSizeYの整数倍でない寸法を含むピクチャについて利用不可能として表現する。ピクチャ寸法がCtbSizeYの整数倍でないとき、サブピクチャ区分がピクチャの幅および／または高さに適用されるならば、最も右のサブピクチャおよび最も下のサブピクチャについてのルマサンプル単位でのサブピクチャ幅および／またはサブピクチャ高さの導出は正しくないであろう。そのような正しくない導出は、いくつかのコーディングツールにおいて誤った結果を引き起こす。
別の例では、ピクチャ内のサブピクチャの位置はシグナリングされなくてもよい。代わりに、位置は以下の規則を使用して導出される。現在のサブピクチャは、ピクチャ境界内にサブピクチャを含むために十分大きいピクチャ内で、CTUラスター走査順で次のそのような占有されていない位置に配置される。そのようなやり方でサブピクチャ位置を導出することは、いくつかの場合においてエラーを引き起こし得る。たとえば、サブピクチャが送信において損失されるならば、他のサブピクチャの位置が正しくなく導出され、デコードされたサンプルが誤った位置に配置される。サブピクチャが間違った順序で到着するとき、同じ課題が当てはまる。
別の例では、サブピクチャをデコードすることは、参照ピクチャ内で同じに位置付けられるサブピクチャの抽出を要求し得る。これは、プロセッサおよびメモリリソースの使用に関して、追加の複雑さおよび結果として生じる負担を強いることがある。
別の例では、サブピクチャが時間動き制約サブピクチャとして設計されるとき、サブピクチャ境界を横切るループフィルタが無効にされる。これは、タイル境界を横切るループフィルタが有効にされるかどうかにかかわらず起こる。そのような制約は、制限しすぎることがあり、複数のサブピクチャを利用するビデオピクチャについて視覚的なアーティファクトをもたらすことがある。
別の例では、SPS、STGPS、PPS、およびタイルグループヘッダの間の関係は、以下の通りである。STGPSはSPSを参照し、PPSはSTGPSを参照し、タイルグループヘッダ／スライスヘッダはPPSを参照する。しかしながら、STGPSおよびPPSは、PPSがSTGPSを参照するのではなく、直交すべきである。先行する構成は、また、同じピクチャのすべてのタイルグループが同じPPSを参照することを許容しないことがある。
別の例では、各STGPSは、サブピクチャの4つの側についてIDを含み得る。そのようなIDが使用されて同じ境界を共有するサブピクチャを識別し、それによって、それらの相対的な空間関係が定義されることが可能である。しかしながら、そのような情報は、いくつかの場合において、シーケンスレベルタイルグループセットについて位置およびサイズ情報を導出するために十分でないことがある。他の場合には、位置およびサイズ情報をシグナリングすることは冗長であり得る。
別の例では、STGPS IDは、8ビットを使用してVCL NALユニットのNALユニットヘッダ内でシグナリングされ得る。これはサブピクチャ抽出を助け得る。そのようなシグナリングは、NALユニットヘッダの長さを不必要に増加させ得る。別の問題は、シーケンスレベルタイルグループセットが重複を防ぐように制約されない限り、1つのタイルグループが複数のシーケンスレベルタイルグループセットと関連付けられ得ることである。
上述の課題のうちの1つまたは複数に対処するために、様々な機構がここで開示される。第1の例では、サブピクチャのためのレイアウト情報が、PPSの代わりにSPS内に含まれる。サブピクチャ・レイアウト情報は、サブピクチャ位置およびサブピクチャサイズを含む。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセットである。サブピクチャサイズは、ルマサンプルにおいて測定されるようなサブピクチャの高さと幅である。上で注記されたように、タイルはピクチャごとに変化し得るので、いくつかのシステムはPPS内にタイリング情報を含む。しかしながら、ROI適用およびサブピクチャを基にしたアクセスをサポートするために、サブピクチャが使用され得る。これらの機能は、ピクチャごとに変化しない。さらに、ビデオシーケンスは、単一のSPS(またはビデオセグメントごとに1つ)を含んでもよく、ピクチャごとに1つのPPSと同数のものを含んでもよい。SPS内にサブピクチャのためのレイアウト情報を配置することは、レイアウトが、各PPSについて冗長にシグナリングされるのではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、コーディング効率を増加させ、従って、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。また、いくつかのシステムは、デコーダによって導出されるサブピクチャ情報を有する。サブピクチャ情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャを抽出することに関して追加の機能をサポートする。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
第2の例では、サブピクチャの幅およびサブピクチャの高さは、CTUサイズの倍数に制約される。しかしながら、これらの制約は、サブピクチャがピクチャの右の境界またはピクチャの下の境界にそれぞれ配置されるとき、取り除かれる。上で注記されたように、いくつかのビデオシステムは、CTUサイズの倍数である高さおよび幅を含むようにサブピクチャを限定し得る。これは、サブピクチャが多くのピクチャレイアウトを用いて正しく動作することを妨げる。下と右のサブピクチャが、CTUサイズの倍数でない高さと幅をそれぞれ含むことを可能にすることによって、サブピクチャは、デコードエラーを引き起こすことなく任意のピクチャとともに使用され得る。これは、エンコーダおよびデコーダの機能を増加させることをもたらす。さらに、増加した機能は、エンコーダがより効率的にピクチャをコーディングすることを可能にし、これは、エンコーダおよびデコーダにおけるネットワークリソース、メモリリソース、および／または処理リソースの使用を低減する。
第3の例では、サブピクチャは、間隙または重複なしでピクチャを包含するように制約される。上で注記されたように、いくつかのビデオコーディングシステムは、サブピクチャが間隙および重複を含むことを許容する。これは、タイルグループ／スライスが複数のサブピクチャと関連付けられる可能性を作り出す。これがエンコーダにおいて許容されるならば、デコーダは、そのデコード方式がまれに使用されるときでも、そのようなコーディング方式をサポートするように構築されなければならない。サブピクチャの間隙および重複を許容しないことによって、サブピクチャのサイズおよび位置を決定するときにデコーダが潜在的な間隙および重複を考慮すること要求されないので、デコーダの複雑さが減らされることが可能である。さらに、サブピクチャの間隙および重複を許容しないことは、ビデオシーケンスについてエンコードを選択するときにエンコーダが間隙と重複の場合を考慮するのを省略できるので、エンコーダにおけるレート歪み最適化(RDO)プロセスの複雑さを低減する。従って、間隙および重複を回避することは、エンコーダおよびデコーダにおけるメモリリソースおよび／または処理リソースの使用を低減し得る。
第4の例では、サブピクチャが時間動き制約サブピクチャであるときを示すために、フラグが、SPS内でシグナリングされることが可能である。上で注記されたように、いくつかのシステムは、すべてのサブピクチャを時間動き制約サブピクチャであるようにまとめて設定しても、または、時間動き制約サブピクチャの使用を完全に許容しなくてもよい。そのような時間動き制約サブピクチャは、減らされたコーディング効率という犠牲を伴って、独立抽出機能を提供する。しかしながら、関心領域を基にした適用では、関心領域は独立抽出のためにコーディングされるべきであり、一方、関心領域の外側の領域はそのような機能を必要としない。従って、残りのサブピクチャは、何も実際上の利益を提供することなく、低減されたコーディング効率を被る。従って、フラグは、独立抽出が望まれないときに、増加したコーディング効率のために、独立抽出機能を提供する時間動き制約サブピクチャと非動き制約サブピクチャとの混合を可能にする。従って、フラグは、増加した機能および／または増加したコーディング効率を可能にし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
第5の例では、サブピクチャIDの完全なセットは、SPS内でシグナリングされ、スライスヘッダは、対応するスライスを含むサブピクチャを示すサブピクチャIDを含む。上で注記されたように、いくつかのシステムは、他のサブピクチャに対するサブピクチャ位置をシグナリングする。これは、サブピクチャが損失され、または別々に抽出されるならば、課題を引き起こす。各サブピクチャをIDによって指定することによって、サブピクチャは、他のサブピクチャを参照することなく配置され、サイズ決めされることが可能である。そして、これは、サブピクチャのいくつかを抽出するのみで、他のサブピクチャを送信することを回避する適用とともに誤り訂正をサポートする。すべてのサブピクチャIDの完全なリストが、関連するサイズ情報とともにSPS内で送信されることが可能である。各スライスヘッダは、対応するスライスを含むサブピクチャを示すサブピクチャIDを含み得る。このようにして、サブピクチャおよび対応するスライスは、他のサブピクチャを参照することなく抽出され配置されることが可能である。従って、サブピクチャIDは、増加した機能および／または増加したコーディング効率をサポートし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
第6の例では、レベルが各サブピクチャについてシグナリングされる。いくつかのビデオコーディングシステムでは、レベルがピクチャについてシグナリングされる。レベルは、ピクチャをデコードするために必要とされるハードウェアリソースを示す。上で注記されたように、異なるサブピクチャは、いくつかの場合において異なる機能を有することがあり、従って、コーディングプロセスの間に異なって扱われることがある。それゆえ、ピクチャを基にしたレベルは、いくつかのサブピクチャをデコードするために有用でないことがある。従って、本開示は、各サブピクチャについてレベルを含む。このようにして、各サブピクチャは、より複雑でない機構に従ってコーディングされるサブピクチャについてデコード要件を高すぎに設定することによってデコーダに不必要に負担をかけることなく、他のサブピクチャとは独立にコーディングされることが可能である。シグナリングされるサブピクチャレベル情報は、増加した機能および／または増加したコーディング効率をサポートし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
図1は、ビデオ信号をコーディングする一例の動作方法100のフローチャートである。具体的には、ビデオ信号はエンコーダにおいてエンコードされる。エンコードプロセスは、ビデオファイルサイズを低減するために様々な機構を利用することによってビデオ信号を圧縮する。より小さいファイルサイズは、圧縮されたビデオファイルがユーザに向かって送信されることを可能にし、一方、関連付けられた帯域幅オーバーヘッドを低減する。デコーダは次いで、圧縮されたビデオファイルをデコードして、エンドユーザへの表示のために元のビデオ信号を再構築する。デコードプロセスは一般に、デコーダがビデオ信号を首尾一貫して再構築することを可能にするために、エンコードプロセスを鏡写しにしたものである。
ステップ101において、ビデオ信号がエンコーダに入力される。たとえば、ビデオ信号は、メモリに記憶された圧縮されていないビデオファイルであり得る。別の例として、ビデオファイルは、ビデオカメラのようなビデオキャプチャデバイスによって捕捉され、ビデオのライブストリーミングをサポートするためにエンコードされ得る。ビデオファイルは、オーディオ成分とビデオ成分の両方を含み得る。ビデオ成分は、順番に見られるとき動きの視覚的な印象を与える一連の画像フレームを含む。フレームは、ここでルマ成分(またはルマサンプル)と呼ばれる光、およびクロマ成分(またはカラーサンプル)と呼ばれる色に関して表現されるピクセルを含む。いくつかの例では、フレームは、3次元で見ることをサポートするために深度値も含み得る。
ステップ103において、ビデオはブロックへと区分される。区分は、各フレーム内のピクセルを、圧縮のために正方形および／または長方形のブロックへと細分することを含む。たとえば、高効率ビデオコーディング(HEVC)(H.265およびMPEG-H Part 2としても知られている)では、フレームは、まずコーディング・ツリー・ユニット(CTU)へと分割されることが可能であり、これはあらかじめ定義されたサイズ(たとえば、64ピクセル×64ピクセル)のブロックである。CTUはルマおよびクロマサンプルの両方を含む。コーディング・ツリーは、CTUをブロックへと分割し、次いで、さらなるエンコードをサポートする構成が達成されるまでブロックを再帰的に細分するために利用され得る。たとえば、フレームのルマ成分は、個々のブロックが比較的均質な照明値を含むまで細分され得る。さらに、フレームのクロマ成分は、個々のブロックが比較的均質な色値を含むまで細分され得る。従って、区分機構はビデオフレームの内容に依存して変化する。
ステップ105において、ステップ103において区分された画像ブロックを圧縮するために様々な圧縮機構が利用される。たとえば、インター予測および／またはイントラ予測が利用され得る。インター予測は、共通のシーンにおける物体は連続するフレーム内に出現する傾向があるという事実を利用するように設計される。従って、参照フレーム内の物体を描写するブロックは、隣接フレーム内で繰り返し記述される必要はない。具体的には、テーブルのような物体は、複数のフレーム上で一定の位置にとどまり得る。従って、テーブルは一度記述され、隣接フレームは参照フレームへ戻って参照することができる。複数のフレーム上で物体を照合するために、パターンマッチング機構が利用され得る。さらに、動いている物体は、たとえば物体の動きまたはカメラの動きにより、複数のフレームにわたって表現され得る。特定の例として、ビデオは、複数のフレーム上で画面にわたって動く自動車を表し得る。そのような動きを記述するために動きベクトルが利用されることが可能である。動きベクトルは、フレーム内の物体の座標から参照フレーム内の物体の座標へのオフセットを提供する2次元ベクトルである。それゆえ、インター予測は、参照フレーム内の対応するブロックからのオフセットを示す動きベクトルのセットとして、現在のフレーム内の画像ブロックをエンコードすることができる。
イントラ予測は共通のフレーム内のブロックをエンコードする。イントラ予測は、ルマおよびクロマ成分がフレーム内で密集する傾向があるという事実を利用する。たとえば、木の一部における緑の斑点は、類似する緑の斑点に隣接して配置される傾向がある。イントラ予測は、複数の方向性予測モード(たとえば、HEVCでは33個)、平面モード、および直流(DC)モードを利用する。方向性モードは、現在のブロックが対応する方向における近隣ブロックのサンプルと類似する／同じであることを示す。平面モードは、行／列(たとえば、平面)に沿った一連のブロックが行の端にある近隣ブロックに基づいて補間されることが可能であることを示す。平面モードは、事実上、値を変化させる際に比較的一定の勾配を利用することによって、行／列にわたる光／色の滑らかな遷移を示す。DCモードは、境界平滑化のために利用され、方向性予測モードの角度方向と関連付けられるすべての近隣ブロックのサンプルと関連付けられる平均値とブロックが類似する／同じであることを示す。従って、イントラ予測ブロックは、実際の値の代わりに様々な関係する予測モードの値として画像ブロックを表現することができる。さらに、インター予測ブロックは、実際の値の代わりに動きベクトルの値として画像ブロックを表現することができる。いずれの場合でも、予測ブロックは、いくつかの場合において、画像ブロックを厳密に表現しないことがある。あらゆる差分が残差ブロックに格納される。ファイルをさらに圧縮するために、残差ブロックに変換が適用され得る。
ステップ107において、様々なフィルタリング技法が適用され得る。HEVCでは、フィルタはループ内フィルタリング方式に従って適用される。上で論じられたブロックを基にした予測は、デコーダにおけるブロック状の画像の生成をもたらし得る。さらに、ブロックを基にした予測方式は、ブロックをエンコードし、次いで、参照ブロックとしての後の使用のためにエンコードされたブロックを再構築し得る。ループ内フィルタリング方式は、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびサンプル適応オフセット(SAO)フィルタをブロック／フレームに反復的に適用する。これらのフィルタは、エンコードされたファイルが正確に再構築されることが可能であるように、そのようなブロッキングアーティファクトを軽減する。さらに、これらのフィルタは再構築された参照ブロックにおけるアーティファクトを軽減し、それによって、アーティファクトは、再構築された参照ブロックに基づいてエンコードされる後続のブロックにおいて追加のアーティファクトを作り出す見込みがより少ない。
いったんビデオ信号が区分され、圧縮され、フィルタリングされると、ステップ109において、結果として生じるデータがビットストリーム内にエンコードされる。ビットストリームは、デコーダにおける適切なビデオ信号の再構築をサポートするために望まれるあらゆるシグナリングデータとともに上で論じられたデータを含む。たとえば、そのようなデータは、区分データ、予測データ、残差ブロック、およびコーディング命令をデコーダに提供する様々なフラグを含み得る。ビットストリームは、要求に応じたデコーダに向けた送信のためにメモリに記憶され得る。ビットストリームは、また、複数のデコーダに向けたブロードキャストおよび／またはマルチキャストであり得る。ビットストリームの生成は反復的なプロセスである。従って、ステップ101、103、105、107、および109は、多数のフレームおよびブロック上で連続的および／または同時に起こり得る。図1に表される順序は、明確さおよび議論の容易さのために提示され、ビデオコーディングプロセスを特定の順序に限定することは意図されない。
ステップ111において、デコーダが、ビットストリームを受信し、デコードプロセスを開始する。具体的には、デコーダは、エントロピーデコード方式を利用して、ビットストリームを対応するシンタックスおよびビデオデータへと変換する。ステップ111において、デコーダが、ビットストリームからのシンタックスデータを利用して、フレームについての区分を決定する。区分は、ステップ103におけるブロック区分の結果と一致すべきである。ステップ111において利用されるようなエントロピーエンコード／デコードがここで説明される。エンコーダは、入力画像における値の空間的な配置に基づいて、いくつかの可能な選択からブロック区分方式を選択することのような、圧縮プロセスの間に多くの選択を行う。厳密な選択のシグナリングは、多数のビンを利用し得る。ここで使用されるように、ビンは、変数として扱われる二進値(たとえば、状況に依存して変化し得るビット値)である。エントロピーコーディングは、特定の場合について明らかに実行可能ではないあらゆる選択肢をエンコーダが廃棄することを可能にし、許容可能な選択肢のセットを残す。次いで、各々の許容可能な選択肢が符号語を割り当てられる。符号語の長さは、許容可能な選択肢の数に基づく(たとえば、2つの選択肢については1つのビン、3つから4つの選択肢については2つのビンなど)。エンコーダは次いで、選択された選択肢について符号語をエンコードする。符号語は、すべての可能な選択肢の潜在的に大きいセットからの選択を一意に示すのとは対照的に、許容可能な選択肢の小さいサブセットからの選択を一意に示すために望まれるぐらいの大きさであるので、この方式は符号語のサイズを低減する。デコーダは次いで、許容可能な選択肢のセットをエンコーダと類似する方式で決定することによって、選択をデコードする。許容可能な選択肢のセットを決定することによって、デコーダは、符号語を読み取り、エンコーダによって行われる選択を決定することができる。
ステップ113において、デコーダがブロックデコードを実行する。具体的には、デコーダは、逆変換を利用して残差ブロックを生成する。次いで、デコーダは、残差ブロックおよび対応する予測ブロックを利用して、区分に従って画像ブロックを再構築する。予測ブロックは、ステップ105においてエンコーダにおいて生成されたようなイントラ予測ブロックとインター予測ブロックの両方を含み得る。再構築された画像ブロックは次いで、ステップ111において決定された区分データに従って、再構築されたビデオ信号のフレームへと配置される。ステップ113についてのシンタックスは、また、上で論じられたようなエントロピーコーディングを介してビットストリーム内でシグナリングされ得る。
ステップ115において、エンコーダにおいて、ステップ107と類似する方式で、再構築されたビデオ信号のフレームにおいてフィルタリングが実行される。たとえば、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびSAOフィルタが、ブロッキングアーティファクトを取り除くためにフレームに適用され得る。いったんフレームがフィルタリングされると、ビデオ信号は、エンドユーザによって見るために、ステップ117においてディスプレイに出力されることが可能である。
図2は、ビデオコーディングのための一例のコーディングおよびデコード(コーデック)システム200の概略図である。具体的には、コーデックシステム200は、動作方法100の実装をサポートするために機能を提供する。コーデックシステム200は、エンコーダとデコーダの両方において利用されるコンポーネントを描写するために一般化されている。コーデックシステム200は、動作方法100においてステップ101および103に関して論じられたようなビデオ信号を受信および区分し、これは区分されたビデオ信号201をもたらす。コーデックシステム200は次いで、方法100においてステップ105、107、および109に関して論じられたようなエンコーダとして動作するとき、区分されたビデオ信号201をコーディングされたビットストリームへと圧縮する。デコーダとして動作するとき、コーデックシステム200は、動作方法100においてステップ111、113、115、および117に関して論じられたようなビットストリームから出力ビデオ信号を生成する。コーデックシステム200は、汎用コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、イントラピクチャ推定コンポーネント215、イントラピクチャ予測コンポーネント217、動き補償コンポーネント219、動き推定コンポーネント221、スケーリングおよび逆変換コンポーネント229、フィルタ制御分析コンポーネント227、ループ内フィルタコンポーネント225、デコードされたピクチャバッファコンポーネント223、ならびにヘッダフォーマッティングおよびコンテキスト適応バイナリ算術コーディング(CABAC)コンポーネント231を含む。そのようなコンポーネントは表されたように結合される。図2では、黒い線はエンコード／デコードされるべきデータの動きを示し、一方、破線は他のコンポーネントの動作を制御する制御データの動きを示す。コーデックシステム200のコンポーネントは、すべて、エンコーダ内に存在し得る。デコーダは、コーデックシステム200のコンポーネントのサブセットを含み得る。たとえば、デコーダは、イントラピクチャ予測コンポーネント217、動き補償コンポーネント219、スケーリングおよび逆変換コンポーネント229、ループ内フィルタコンポーネント225、ならびにデコードされたピクチャバッファコンポーネント223を含み得る。これらのコンポーネントがここで説明される。
区分されたビデオ信号201は、コーディング・ツリーによってピクセルのブロックへと区分された、キャプチャされたビデオシーケンスである。コーディング・ツリーは、様々な分割モードを利用して、ピクセルのブロックをピクセルのより小さいブロックへと細分する。これらのブロックは次いで、より小さいブロックへとさらに細分されることが可能である。ブロックは、コーディング・ツリーにおいてノードと呼ばれ得る。より大きい親ノードは、より小さい子ノードへと分割される。ノードが細分される回数は、ノード／コーディング・ツリーの深度と呼ばれる。いくつかの場合において、分割されたブロックはコーディング・ユニット(CU)に含まれることが可能である。たとえば、CUは、ルマブロック、赤差分クロマ(Cr)ブロック、および青差分クロマ(Cb)ブロックを、CUについての対応するシンタックス命令とともに含む、CTUの下位部分であることが可能である。分割モードは、利用される分割モードに依存して変化する形状のそれぞれ2つ、3つ、または4つの子ノードへとノードを区分するために利用される、二分木(BT)、三分木(TT)、および四分木(QT)を含み得る。区分されたビデオ信号201は、圧縮のために、汎用コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、イントラピクチャ推定コンポーネント215、フィルタ制御分析コンポーネント227、ならびに動き推定コンポーネント221に転送される。
汎用コーダ制御コンポーネント211は、適用の制約に従って、ビデオシーケンスの画像のビットストリームへのコーディングに関連する決定を行うように構成される。たとえば、汎用コーダ制御コンポーネント211は、再構築品質に対するビットレート／ビットストリームサイズの最適化を管理する。そのような決定は、記憶空間／帯域幅の利用可能性および画像解像度の要求に基づいて行われ得る。汎用コーダ制御コンポーネント211は、また、バッファのアンダーランおよびオーバーランの問題を軽減するために、送信速度を考慮してバッファ利用を管理する。これらの問題を管理するために、汎用コーダ制御コンポーネント211は、他のコンポーネントによる区分、予測、およびフィルタリングを管理する。たとえば、汎用コーダ制御コンポーネント211は、圧縮の複雑さを動的に増加させて、解像度を増加させ、帯域幅使用を増加させ、または、圧縮の複雑さを減らして、解像度および帯域幅使用を減らし得る。従って、汎用コーダ制御コンポーネント211は、コーデックシステム200の他のコンポーネントを制御して、ビデオ信号再構築の品質をビットレートの関心とバランスをとる。汎用コーダ制御コンポーネント211は、制御データを作り出し、これは他のコンポーネントの動作を制御する。制御データは、また、ヘッダフォーマッティングおよびCABACコンポーネント231に転送されて、デコーダにおけるデコードのためのパラメータをシグナリングするためにビットストリーム内にエンコードされる。
区分されたビデオ信号201は、また、インター予測のために動き推定コンポーネント221および動き補償コンポーネント219に送信される。区分されたビデオ信号201のフレームまたはスライスは、複数のビデオブロックへと分割され得る。動き推定コンポーネント221および動き補償コンポーネント219は、1つまたは複数の参照フレーム内の1つまたは複数のブロックに対して、受信されたビデオブロックのインター予測コーディングを実行して、時間予測を提供する。コーデックシステム200は、複数のコーディングパスを実行して、たとえば、ビデオデータの各ブロックについて適切なコーディングモードを選択し得る。
動き推定コンポーネント221および動き補償コンポーネント219は、高度に統合され得るが、概念上の目的のために別々に例示される。動き推定コンポーネント221によって実行される動き推定は、ビデオブロックについての動きを推定する、動きベクトルを生成するプロセスである。動きベクトルは、たとえば、予測ブロックに対するコーディングされたオブジェクトのずれを示し得る。予測ブロックは、ピクセル差分に関して、コーディングされるべきブロックに密接に一致することが見いだされるブロックである。予測ブロックは参照ブロックとも呼ばれ得る。そのようなピクセル差分は、絶対値差分和(SAD)、平方差分和(SSD)、または他の差分尺度によって決定され得る。HEVCは、CTU、コーディング・ツリー・ブロック(CTB)、およびCUを含む、いくつかのコーディングされたオブジェクトを利用する。たとえば、CTUはCTBへと分割されることが可能であり、これは、次いで、CU内の包含のためにCBへと分割されることが可能である。CUは、予測データを含む予測ユニット(PU)および／またはCUのための変換された残差データを含む変換ユニット(TU)としてエンコードされることが可能である。動き推定コンポーネント221は、レート歪み最適化プロセスの部分としてレート歪み分析を使用することによって、動きベクトル、PU、およびTUを生成する。たとえば、動き推定コンポーネント221は、現在のブロック／フレームのための複数の参照ブロック、複数の動きベクトルなどを決定してもよく、最良のレート歪み特性を有する参照ブロック、動きベクトルなどを選択してもよい。最良のレート歪み特性は、コーディング効率(たとえば、最終的なエンコードのサイズ)とビデオ再構築の品質(たとえば、圧縮によるデータ損失の量)の両方のバランスをとる。
いくつかの例では、コーデックシステム200は、デコードされたピクチャバッファコンポーネント223に記憶されている参照ピクチャの整数より下のピクセル位置についての値を計算し得る。たとえば、ビデオコーデックシステム200は、4分の1ピクセル位置、8分の1ピクセル位置、または参照ピクチャの他の分数ピクセル位置の値を補間し得る。従って、動き推定コンポーネント221は、完全ピクセル位置と分数ピクセル位置に対する動き探索を実行して、分数ピクセル精度を有する動きベクトルを出力し得る。動き推定コンポーネント221は、PUの位置を参照ピクチャの予測ブロックの位置と比較することによって、インターコーディングされたスライス内のビデオブロックのPUについて動きベクトルを計算する。動き推定コンポーネント221は、計算された動きベクトルを動きデータとしてエンコードのためにヘッダフォーマッティングおよびCABACコンポーネント231に出力し、動きを動き補償コンポーネント219に出力する。
動き補償コンポーネント219によって実行される動き補償は、動き推定コンポーネント221によって決定される動きベクトルに基づいて予測ブロックをフェッチまたは生成することを伴い得る。再び、動き推定コンポーネント221および動き補償コンポーネント219は、いくつかの例では機能的に統合され得る。現在のビデオブロックのPUについての動きベクトルを受信すると、動き補償コンポーネント219は、動きベクトルが指し示す予測ブロックを位置決めし得る。残差ビデオブロックは次いで、コーディングされている現在のビデオブロックのピクセル値から予測ブロックのピクセル値を減算し、ピクセル差分値を形成することによって形成される。一般に、動き推定コンポーネント221は、ルマ成分に対する動き推定を実行し、動き補償コンポーネント219は、クロマ成分とルマ成分の両方についてルマ成分に基づいて計算される動きベクトルを使用する。予測ブロックおよび残差ブロックは、変換スケーリングおよび量子化コンポーネント213に転送される。
区分されたビデオ信号201は、また、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217に送信される。動き推定コンポーネント221および動き補償コンポーネント219のように、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217は高度に統合され得るが、概念上の目的のために別々に例示されている。イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217は、上で説明されたように、フレーム間で動き推定コンポーネント221および動き補償コンポーネント219によって実行されるインター予測の代替として、現在のフレームの中のブロックに対して現在のブロックをイントラ予測する。特に、イントラピクチャ推定コンポーネント215は、現在のブロックをエンコードするために使用するイントラ予測モードを決定する。いくつかの例では、イントラピクチャ推定コンポーネント215は、複数のテストされたイントラ予測モードから現在のブロックをエンコードするために適切なイントラ予測モードを選択する。選択されたイントラ予測モードは次いで、エンコードのためにヘッダフォーマッティングおよびCABACコンポーネント231に転送される。
たとえば、イントラピクチャ推定コンポーネント215は、様々なテストされたイントラ予測モードについてレート歪み分析を使用してレート歪み値を計算し、テストされたモードの中で最良のレート歪み特性を有するイントラ予測モードを選択する。レート歪み分析は、一般に、エンコードされたブロックを作成するために使用されるビットレート(たとえば、ビットの数)とともに、エンコードされたブロックと、エンコードされたブロックを作成するためにエンコードされた元のエンコードされていないブロックとの間の歪み(またはエラー)の量を決定する。イントラピクチャ推定コンポーネント215は、どのイントラ予測モードがブロックについて最良のレート歪み値を示すかを決定するために、様々なエンコードされたブロックについての歪みおよびレートから比を計算する。加えて、イントラピクチャ推定コンポーネント215は、レート歪み最適化(RDO)に基づいて、深度モデリングモード(DMM)を使用して深度マップの深度ブロックをコーディングするように構成され得る。
イントラピクチャ予測コンポーネント217は、エンコーダにおいて実装されるとき、イントラピクチャ推定コンポーネント215によって決定される選択されたイントラ予測モードに基づいて予測ブロックから残差ブロックを生成し、または、デコーダにおいて実装されるとき、ビットストリームから残差ブロックを読み取り得る。残差ブロックは、行列として表現される、予測ブロックと元のブロックとの間の値における差分を含む。残差ブロックは次いで、変換スケーリングおよび量子化コンポーネント213に転送される。イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217は、ルマおよびクロマ成分の両方に対して動作し得る。
変換スケーリングおよび量子化コンポーネント213は、残差ブロックをさらに圧縮するように構成される。変換スケーリングおよび量子化コンポーネント213は、離散コサイン変換(DCT)、離散サイン変換(DST)、または概念的に類似の変換のような変換を残差ブロックに適用し、残差変換係数値を備えるビデオブロックを作成する。ウェーブレット変換、整数変換、サブバンド変換、または他のタイプの変換も使用されることが可能である。変換は、残差情報をピクセル値領域から周波数領域のような変換領域に変換し得る。変換スケーリングおよび量子化コンポーネント213は、また、たとえば周波数に基づいて、変換された残差情報をスケーリングするように構成される。そのようなスケーリングは、異なる周波数情報が異なる粒度で量子化されるように、スケール係数を残差情報に適用することを伴い、これは、再構築されたビデオの最終的な視覚的品質に影響し得る。変換スケーリングおよび量子化コンポーネント213は、また、ビットレートをさらに低減するために変換係数を量子化するように構成される。量子化プロセスは、係数のいくつかまたはすべてと関連付けられるビット深度を低減し得る。量子化の程度は、量子化パラメータを調整することによって修正され得る。いくつかの例では、変換スケーリングおよび量子化コンポーネント213は次いで、量子化された変換係数を含む行列の走査を実行し得る。量子化された変換係数は、ヘッダフォーマッティングおよびCABACコンポーネント231に転送されて、ビットストリーム内にエンコードされる。
スケーリングおよび逆変換コンポーネント229は、動き推定をサポートするために、変換スケーリングおよび量子化コンポーネント213の逆の動作を適用する。スケーリングおよび逆変換コンポーネント229は、逆スケーリング、変換、および／または量子化を適用して、たとえば、別の現在のブロックについて予測ブロックになり得る参照ブロックとしての後の使用のために、ピクセル領域において残差ブロックを再構築する。動き推定コンポーネント221および／または動き補償コンポーネント219は、後のブロック／フレームの動き推定における使用のために残差ブロックを対応する予測ブロックに加算し戻すことによって参照ブロックを計算し得る。スケーリング、量子化、および変換の間に作り出されるアーティファクトを軽減するために、再構築された参照ブロックにフィルタが適用される。そのようなアーティファクトは、そうでなければ、後続のブロックが予測されるときに不正確な予測を引き起こす(および追加のアーティファクトを作り出す)ことがある。
フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は、フィルタを残差ブロックおよび／または再構築された画像ブロックに適用する。たとえば、スケーリングおよび逆変換コンポーネント229からの変換された残差ブロックは、元の画像ブロックを再構築するために、イントラピクチャ予測コンポーネント217および／または動き補償コンポーネント219からの対応する予測ブロックと組み合わせられ得る。フィルタは、次いで、再構築された画像ブロックに適用され得る。いくつかの例では、フィルタは、代わりに、残差ブロックに適用され得る。図2の他のコンポーネントのように、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は高度に統合され、一緒に実装され得るが、概念上の目的のために別々に描写されている。再構築された参照ブロックに適用されるフィルタは、特定の空間領域に適用され、そのようなフィルタがどのように適用されるかを調整するための複数のパラメータを含む。フィルタ制御分析コンポーネント227は、そのようなフィルタがどこで適用されるべきかを決定するために再構築された参照ブロックを分析し、対応するパラメータを設定する。そのようなデータは、エンコードのためにフィルタ制御データとしてヘッダフォーマッティングおよびCABACコンポーネント231に転送される。ループ内フィルタコンポーネント225は、フィルタ制御データに基づいてそのようなフィルタを適用する。フィルタは、デブロッキングフィルタ、ノイズ抑制フィルタ、SAOフィルタ、および適応ループフィルタを含み得る。そのようなフィルタは、例に依存して、空間／ピクセル領域で(たとえば、再構築されたピクセルブロックにおいて)、または周波数領域で適用され得る。
エンコーダとして動作するとき、フィルタリングされた再構築された画像ブロック、残差ブロック、および／または予測ブロックは、上で論じられたような動き推定における後の使用のために、デコードされたピクチャバッファコンポーネント223に記憶される。デコーダとして動作するとき、デコードされたピクチャバッファコンポーネント223は、出力ビデオ信号の部分として、再構築されフィルタリングされたブロックを記憶し、ディスプレイに向けて転送する。デコードされたピクチャバッファコンポーネント223は、予測ブロック、残差ブロック、および／または再構築された画像ブロックを記憶することが可能な任意のメモリデバイスであり得る。
ヘッダフォーマッティングおよびCABACコンポーネント231は、コーデックシステム200の様々なコンポーネントからデータを受信し、デコーダに向けた送信のためにそのようなデータをコーディングされたビットストリームへとエンコードする。具体的には、ヘッダフォーマッティングおよびCABACコンポーネント231は、一般的な制御データおよびフィルタ制御データのような制御データをエンコードするために、様々なヘッダを生成する。さらに、量子化された変換係数データの形式の残差データとともにイントラ予測および動きデータを含む予測データが、すべて、ビットストリーム内にエンコードされる。最終的なビットストリームは、元の区分されたビデオ信号201を再構築するためにデコーダによって望まれるすべての情報を含む。そのような情報は、イントラ予測モードインデックステーブル(符号語マッピングテーブルとも呼ばれる)、様々なブロックについてのエンコードコンテキストの定義、最も可能性の高いイントラ予測モードの指示、区分情報の指示なども含み得る。そのようなデータは、エントロピーコーディングを利用することによってエンコードされ得る。たとえば、情報は、コンテキスト適応可変長コーディング(CAVLC)、CABAC、シンタックスベースコンテキスト適応バイナリ算術コーディング(SBAC)、確率間隔区分エントロピー(PIPE)コーディング、または別のエントロピーコーディング技法を利用することによってエンコードされ得る。エントロピーコーディングに続いて、コーディングされたビットストリームは、別のデバイス(たとえば、ビデオデコーダ)に送信され、または、後の送信もしくは取り出しのためにアーカイブされてもよい。
図3は、一例のビデオエンコーダ300を例示するブロック図である。ビデオエンコーダ300は、コーデックシステム200のエンコード機能を実装するために、ならびに／または動作方法100のステップ101、103、105、107、および／もしくは109を実装するために利用され得る。エンコーダ300は、入力ビデオ信号を区分し、区分されたビデオ信号201と実質的に類似する区分されたビデオ信号301をもたらす。区分されたビデオ信号301は次いで圧縮され、エンコーダ300のコンポーネントによってビットストリームへとエンコードされる。
具体的には、区分されたビデオ信号301は、イントラ予測のためにイントラピクチャ予測コンポーネント317に転送される。イントラピクチャ予測コンポーネント317は、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217と実質的に類似し得る。区分されたビデオ信号301は、また、デコードされたピクチャバッファコンポーネント323内の参照ブロックに基づくインター予測のために動き補償コンポーネント321に転送される。動き補償コンポーネント321は、動き推定コンポーネント221および動き補償コンポーネント219と実質的に類似し得る。イントラピクチャ予測コンポーネント317および動き補償コンポーネント321からの予測ブロックおよび残差ブロックは、残差ブロックの変換および量子化のために変換および量子化コンポーネント313に転送される。変換および量子化コンポーネント313は、変換スケーリングおよび量子化コンポーネント213と実質的に類似し得る。変換され量子化された残差ブロックおよび対応する予測ブロックは(関連付けられた制御データとともに)、ビットストリームへのコーディングのためにエントロピーコーディングコンポーネント331に転送される。エントロピーコーディングコンポーネント331は、ヘッダフォーマッティングおよびCABACコンポーネント231と実質的に類似し得る。
変換され量子化された残差ブロックおよび／または対応する予測ブロックは、また、動き補償コンポーネント321による使用のために参照ブロックへの再構築のために、変換および量子化コンポーネント313から逆変換および量子化コンポーネント329に転送される。逆変換および量子化コンポーネント329は、スケーリングおよび逆変換コンポーネント229と実質的に類似し得る。ループ内フィルタコンポーネント325内のループ内フィルタは、また、例に依存して、残差ブロックおよび／または再構築された参照ブロックに適用される。ループ内フィルタコンポーネント325は、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225と実質的に類似し得る。ループ内フィルタコンポーネント325は、ループ内フィルタコンポーネント225に関して論じられたような複数のフィルタを含み得る。フィルタリングされたブロックは次いで、動き補償コンポーネント321による参照ブロックとしての使用のために、デコードされたピクチャバッファコンポーネント323に記憶される。デコードされたピクチャバッファコンポーネント323は、デコードされたピクチャバッファコンポーネント223と実質的に類似し得る。
図4は、一例のビデオデコーダ400を例示するブロック図である。ビデオデコーダ400は、コーデックシステム200のデコード機能を実装するために、ならびに／または動作方法100のステップ111、113、115、および／もしくは117を実装するために利用され得る。デコーダ400は、たとえばエンコーダ300から、ビットストリームを受信し、エンドユーザへの表示のために、再構築された出力ビデオ信号をビットストリームに基づいて生成する。
ビットストリームは、エントロピーデコードコンポーネント433によって受信される。エントロピーデコードコンポーネント433は、CAVLC、CABAC、SBAC、PIPEコーディング、または他のエントロピーコーディング技法のようなエントロピーデコード方式を実装するように構成される。たとえば、エントロピーデコードコンポーネント433は、ヘッダ情報を利用して、ビットストリーム内に符号語としてエンコードされる追加のデータを解釈するためにコンテキストを提供し得る。デコードされた情報は、一般的な制御データ、フィルタ制御データ、区分情報、動き情報、予測データ、および残差ブロックからの量子化された変換係数のようなビデオ信号をデコードするための任意の望まれる情報を含む。量子化された変換係数は、残差ブロックへの再構築のために逆変換および量子化コンポーネント429に転送される。逆変換および量子化コンポーネント429は、逆変換および量子化コンポーネント329と類似し得る。
再構築された残差ブロックおよび／または予測ブロックは、イントラ予測動作に基づく画像ブロックへの再構築のためにイントラピクチャ予測コンポーネント417に転送される。イントラピクチャ予測コンポーネント417は、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217と類似し得る。具体的には、イントラピクチャ予測コンポーネント417は、フレーム内で参照ブロックを位置決めするために予測モードを利用し、残差ブロックを結果に適用してイントラ予測された画像ブロックを再構築する。再構築されたイントラ予測された画像ブロックおよび／または残差ブロックならびに対応するインター予測データは、ループ内フィルタコンポーネント425を介してデコードされたピクチャバッファコンポーネント423に転送され、これらは、デコードされたピクチャバッファコンポーネント223およびループ内フィルタコンポーネント225とそれぞれ実質的に類似し得る。ループ内フィルタコンポーネント425は、再構築された画像ブロック、残差ブロック、および／または予測ブロックをフィルタリングし、そのような情報はデコードされたピクチャバッファコンポーネント423に記憶される。デコードされたピクチャバッファコンポーネント423からの再構築された画像ブロックは、インター予測のために動き補償コンポーネント421に転送される。動き補償コンポーネント421は、動き推定コンポーネント221および／または動き補償コンポーネント219と実質的に類似し得る。具体的には、動き補償コンポーネント421は、参照ブロックからの動きベクトルを利用して予測ブロックを生成し、残差ブロックを結果に適用して画像ブロックを再構築する。結果として生じる再構築されたブロックは、また、ループ内フィルタコンポーネント425を介してデコードされたピクチャバッファコンポーネント423に転送され得る。デコードされたピクチャバッファコンポーネント423は、追加の再構築された画像ブロックを記憶し続け、これらは区分情報を介してフレームへと再構築されることが可能である。そのようなフレームは、シーケンスにも配置され得る。シーケンスは、再構築された出力ビデオ信号としてディスプレイに向けて出力される。
図5は、一例のビットストリーム500およびビットストリーム500から抽出されるサブビットストリーム501を例示する概略図である。たとえば、ビットストリーム500は、コーデックシステム200および／またはデコーダ400によるデコードのために、コーデックシステム200および／またはエンコーダ300によって生成されることが可能である。別の例として、ビットストリーム500は、ステップ111におけるデコーダによる使用のために、方法100のステップ109においてエンコーダによって生成され得る。
ビットストリーム500は、シーケンス・パラメータ・セット(SPS)510、複数のピクチャ・パラメータ・セット(PPS)512、複数のスライスヘッダ514、画像データ520、および1つまたは複数のSEIメッセージ515を含む。SPS510は、ビットストリーム500に含まれるビデオシーケンス内のすべてのピクチャに共通のシーケンスデータを含む。そのようなデータは、ピクチャサイズ、ビット深度、コーディングツールパラメータ、ビットレート制限などを含むことができる。PPS512は、1つまたは複数の対応するピクチャに固有のパラメータを含む。従って、ビデオシーケンス内の各ピクチャは、1つのPPS512を指し得る。PPS512は、対応するピクチャ内のタイルについて利用可能なコーディングツール、量子化パラメータ、オフセット、ピクチャ固有のコーディングツールパラメータ(たとえば、フィルタ制御)などを示すことができる。スライスヘッダ514は、ピクチャ内の1つまたは複数の対応するスライス524に固有のパラメータを含む。従って、ビデオシーケンス内の各スライス524は、スライスヘッダ514を参照し得る。スライスヘッダ514は、スライスタイプ情報、ピクチャ順序カウント(POC)、参照ピクチャリスト、予測重み、タイルエントリポイント、デブロッキングパラメータなどを含み得る。いくつかの例では、スライス524はタイルグループと呼ばれ得る。そのような場合において、スライスヘッダ514は、タイルグループヘッダと呼ばれ得る。SEIメッセージ515は、ブロックデコードのために要求されないメタデータを含む任意選択のメッセージであるが、ピクチャ出力のタイミング、表示設定、損失検出、損失隠蔽などを示すことのような関連する目的のために利用されることが可能である。
画像データ520は、対応する変換され量子化される残差データとともにインター予測および／またはイントラ予測に従ってエンコードされるビデオデータを含む。そのような画像データ520は、エンコードの前に画像を区分するために使用される区分に従って分類される。たとえば、ビデオシーケンスはピクチャ521へと分割される。ピクチャ521はサブピクチャ522へとさらに分割されてもよく、これはスライス524へと分割される。スライス524はタイルおよび／またはCTUへとさらに分割され得る。CTUはコーディング・ツリーに基づいてコーディングブロックへとさらに分割される。コーディングブロックは次いで、予測機構に従ってエンコード／デコードされることが可能である。たとえば、ピクチャ521は1つまたは複数のサブピクチャ522を含むことができる。サブピクチャ522は1つまたは複数のスライス524を含み得る。ピクチャ521はPPS512を参照し、スライス524はスライスヘッダ514を参照する。サブピクチャ522は、全体のビデオシーケンス(セグメントとしても知られている)上で首尾一貫して区分されることが可能であり、従って、SPS510を参照し得る。各スライス524は1つまたは複数のタイルを含み得る。各スライス524、従ってピクチャ521およびサブピクチャ522は、複数のCTUも含むことができる。
各ピクチャ521は、時間における対応する瞬間のためのビデオシーケンスと関連付けられる視覚データの全体のセットを含み得る。しかしながら、ある適用は、いくつかの場合においてピクチャ521の一部のみを表示することを望み得る。たとえば、仮想現実(VR)システムは、ピクチャ521のユーザ選択された領域を表示してもよく、これは、ピクチャ521において描写されるシーンに存在している感覚を作り出す。ユーザが見ることを望み得る領域は、ビットストリーム500がエンコードされるときに知られていない。従って、ピクチャ521は、ユーザが潜在的に見得る各々の可能性のある領域をサブピクチャ522として含んでもよく、これは、ユーザ入力に基づいて別々にデコードされて表示されることが可能である。他の適用は関心領域を別々に表示し得る。たとえば、ピクチャインピクチャを有するテレビは、あるビデオシーケンスから特定の領域、従ってサブピクチャ522を、関連のないビデオシーケンスのピクチャ521上に表示することを望み得る。さらに別の例では、遠隔会議システムは、現在話しているユーザの全体のピクチャ521と、現在話していないユーザのサブピクチャ522とを表示し得る。従って、サブピクチャ522は、ピクチャ521の定義された領域を含み得る。時間的に動きが制約されるサブピクチャ522は、ピクチャ521の残りから別々にデコード可能であることが可能である。具体的には、時間動き制約サブピクチャは、時間動き制約サブピクチャの外側のサンプルを参照せずにエンコードされ、従って、ピクチャ521の残りを参照せずに完全なデコードのために十分な情報を含む。
各スライス524は、左上の角にあるCTUおよび右下の角にあるCTUによって定義される長方形であり得る。いくつかの例では、スライス524は、左から右および上から下に進むラスター走査順で、一連のタイルおよび／またはCTUを含む。他の例では、スライス524は長方形スライスである。長方形スライスは、ラスター走査順に従ってピクチャの全体の幅を横切らないことがある。代わりに、長方形スライスは、CTUおよび／またはタイル行、ならびにCTUおよび／またはタイル列に関して定義される、ピクチャ521および／またはサブピクチャ522の長方形および／または正方形領域を含み得る。スライス524は、デコーダによって別々に表示されることが可能である最小単位である。従って、ピクチャ521からのスライス524は、ピクチャ521の望まれる領域を別々に描写するために異なるサブピクチャ522に割り当てられ得る。
デコーダは、ピクチャ521の1つまたは複数のサブピクチャ523を表示し得る。サブピクチャ523は、サブピクチャ522のユーザ選択されたまたはあらかじめ定義されたサブグループである。たとえば、ピクチャ521は9個のサブピクチャ522へと分割され得るが、デコーダは、サブピクチャ522のグループから単一のサブピクチャ523のみを表示し得る。サブピクチャ523はスライス525を含み、これはスライス524の選択されたまたはあらかじめ定義されたサブグループである。サブピクチャ523の別々の表示を可能にするために、サブビットストリーム501はビットストリーム500から抽出され得る(529)。抽出529は、デコーダがサブビットストリーム501のみを受信するように、エンコーダ側で起こり得る。他の場合には、ビットストリーム500全体がデコーダに送信され、デコーダが別々のデコードのためにサブビットストリーム501を抽出する(529)。サブビットストリーム501は、いくつかの場合において一般にビットストリームとも呼ばれ得ることが留意されるべきである。サブビットストリーム501は、スライスヘッダ514、およびサブピクチャ523および／またはスライス525に関連するSEIメッセージ515とともに、SPS510、PPS512、選択されたサブピクチャ523を含む。
本開示は、デコーダにおけるサブピクチャ523の選択および表示のためにサブピクチャ522の効率的なコーディングをサポートするために、様々なデータをシグナリングする。SPS510は、サブピクチャサイズ531、サブピクチャ位置532、およびサブピクチャ522の完全なセットに関するサブピクチャID533を含む。サブピクチャサイズ531は、対応するサブピクチャ522についてのルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含む。サブピクチャ位置532は、対応するサブピクチャ522の左上サンプルとピクチャ521の左上サンプルとの間のオフセット距離を含む。サブピクチャ位置532およびサブピクチャサイズ531は、対応するサブピクチャ522のレイアウトを定義する。サブピクチャID533は、対応するサブピクチャ522を一意に識別するデータを含む。サブピクチャID533は、サブピクチャ522のラスター走査インデックスまたは他の定義された値であり得る。従って、デコーダは、SPS510を読み取り、各サブピクチャ522のサイズ、位置、およびIDを決定することができる。いくつかのビデオコーディングシステムでは、サブピクチャ522はピクチャ521から区分されるので、サブピクチャ522に関連するデータはPPS512に含まれ得る。しかしながら、サブピクチャ522を作り出すために使用される区分は、ビデオシーケンス／セグメント上で首尾一貫したサブピクチャ522の区分に依存する、ROIを基にした適用、VR適用などのような適用により使用され得る。それゆえ、サブピクチャ522の区分は、一般にピクチャごとに変化しない。SPS510内にサブピクチャ522のためのレイアウト情報を配置することは、レイアウトが各PPS512について冗長にシグナリングされる(これは、いくつかの場合において各ピクチャ521についてシグナリングされ得る)のではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。また、そのような情報を導出するためにデコーダに依存する代わりに、サブピクチャ522情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャ523を抽出することに関して追加の機能をサポートする。従って、SPS510内でサブピクチャ522のレイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
SPS510は、また、サブピクチャ522の完全なセットに関連する動き制約サブピクチャフラグ534を含む。動き制約サブピクチャフラグ534は、各サブピクチャ522が時間動き制約サブピクチャであるかどうかを示す。従って、デコーダは、動き制約サブピクチャフラグ534を読み取り、サブピクチャ522のいずれが他のサブピクチャ522をデコードすることなく別々に抽出され表示されることが可能であるかを決定することができる。これは、選択されたサブピクチャ522が時間動き制約サブピクチャとしてコーディングされることを可能にし、一方、他のサブピクチャ522が増加したコーディング効率のためにそのような制約なしでコーディングされることを可能にする。
サブピクチャID533は、スライスヘッダ514にも含まれる。各スライスヘッダ514は、スライス524の対応するセットに関連するデータを含む。従って、スライスヘッダ514は、スライスヘッダ514と関連付けられるスライス524に対応するサブピクチャID533のみを含む。それゆえ、デコーダは、スライス524を受信し、スライスヘッダ514からサブピクチャID533を取得し、どのサブピクチャ522がスライス524を含むかを決定することができる。デコーダは、また、SPS510内の関連するデータと相関させるために、スライスヘッダ514からのサブピクチャID533を使用することができる。それゆえ、デコーダは、SPS510および関連するスライスヘッダ514を読み取ることによって、サブピクチャ522/523およびスライス524/525をどのように配置するかを決定することができる。これは、いくつかのサブピクチャ522が送信において損失し、またはコーディング効率を増加させるために意図的に省略されても、サブピクチャ523およびスライス525がデコードされることを可能にする。
SEIメッセージ515は、また、サブピクチャレベル535を含み得る。サブピクチャレベル535は、対応するサブピクチャ522をデコードするために必要なハードウェアリソースを示す。このようにして、各サブピクチャ522は、他のサブピクチャ522とは独立にコーディングされることが可能である。これは、各サブピクチャ522がデコーダにおいて正しい量のハードウェアリソースを割り振られることが可能であることを保証にする。そのようなサブピクチャレベル535がなしで、各サブピクチャ522は、最も複雑なサブピクチャ522をデコードするために十分なリソースを割り振られる。従って、サブピクチャレベル535は、サブピクチャ522が変化するハードウェアリソース要件と関連付けられるならば、デコーダがハードウェアリソースを過剰に割り振ることを防ぐ。
図6は、サブピクチャ622へと区分される一例のピクチャ600を例示する概略図である。たとえば、ピクチャ600は、たとえばコーデックシステム200、エンコーダ300、および／またはデコーダ400によって、ビットストリーム500においてエンコードされ、ビットストリーム500からデコードされることが可能である。さらに、ピクチャ600は、方法100に従ったエンコードおよびデコードをサポートするために、サブビットストリーム501において区分され、および／または含まれることが可能である。
ピクチャ600は、ピクチャ521と実質的に類似し得る。さらに、ピクチャ600はサブピクチャ622へと区分されてもよく、これはサブピクチャ522と実質的に類似する。サブピクチャ622は、各々、サブピクチャサイズ631を含み、これはサブピクチャサイズ531としてビットストリーム500に含まれ得る。サブピクチャサイズ631は、サブピクチャ幅631aおよびサブピクチャ高さ631bを含む。サブピクチャ幅631aは、ルマサンプルの単位での対応するサブピクチャ622の幅である。サブピクチャ高さ631bは、ルマサンプルの単位での対応するサブピクチャ622の高さである。サブピクチャ622は、各々、サブピクチャID633を含み、これはサブピクチャID633としてビットストリーム500に含まれ得る。サブピクチャID633は、各サブピクチャ622を一意に識別する任意の値であり得る。表される例では、サブピクチャID633はサブピクチャ622のインデックスである。サブピクチャ622は、各々、位置632を含み、これはサブピクチャ位置532としてビットストリーム500に含まれ得る。位置632は、対応するサブピクチャ622の左上サンプルとピクチャ600の左上サンプル642との間のオフセットとして表現される。
また表されるように、いくつかのサブピクチャ622は時間動き制約サブピクチャ634であってもよく、他のサブピクチャ622はそうでなくてもよい。表される例では、5のサブピクチャID633を有するサブピクチャ622は、時間動き制約サブピクチャ634である。これは、5として識別されるサブピクチャ622が、いずれの他のサブピクチャ622も参照せずにコーディングされ、従って、他のサブピクチャ622からのデータを考慮することなく抽出され別々にデコードされることが可能であることを示す。どのサブピクチャ622が時間動き制約サブピクチャ634であるかの指示は、ビットストリーム500において動き制約サブピクチャフラグ534においてシグナリングされることが可能である。
表されるように、サブピクチャ622は、間隙または重複なしでピクチャ600を包含するように制約されることが可能である。間隙は、いずれのサブピクチャ622にも含まれないピクチャ600の領域である。重複は、1つより多くのサブピクチャ622に含まれるピクチャ600の領域である。図6に表される例では、サブピクチャ622は、間隙と重複の両方を防ぐようにピクチャ600から区分される。間隙は、ピクチャ600のサンプルがサブピクチャ622の外側に残されることを引き起こす。重複は、関連付けられたスライスが複数のサブピクチャ622に含まれることを引き起こす。従って、間隙および重複は、サンプルが、サブピクチャ622が異なってコーディングされるとき、異なる扱いによって影響されることを引き起こし得る。これがエンコーダにおいて許容されるならば、デコーダは、そのデコード方式がまれに使用されるときでも、そのようなコーディング方式をサポートしなければならない。サブピクチャ622の間隙および重複を許容しないことによって、サブピクチャサイズ631および位置632を決定するときにデコーダが潜在的な間隙および重複を考慮することが要求されないので、デコーダの複雑さが減らされることが可能である。さらに、サブピクチャ622の間隙および重複を許容しないことは、エンコーダにおけるRDOプロセスの複雑さを低減する。これは、ビデオシーケンスについてエンコードを選択するときにエンコーダが間隙と重複の事例を考慮することを省略できるからである。従って、間隙および重複を回避することは、エンコーダおよびデコーダにおけるメモリリソースおよび／または処理リソースの使用を低減し得る。
図7は、スライス724をサブピクチャ722のレイアウトに関連させるための一例の機構700を例示する概略図である。たとえば、機構700はピクチャ600に適用され得る。さらに、機構700は、たとえばコーデックシステム200、エンコーダ300、および／またはデコーダ400によって、ビットストリーム500内のデータに基づいて適用されることが可能である。さらに、機構700は、方法100に従ったエンコードおよびデコードをサポートするために利用されることが可能である。
機構700は、それぞれ、スライス524/525およびサブピクチャ522/523のようなサブピクチャ722内のスライス724に適用されることが可能である。表される例では、サブピクチャ722は、第1のスライス724a、第2のスライス724b、および第3のスライス724cを含む。スライス724の各々についてのスライスヘッダは、サブピクチャ722についてのサブピクチャID733を含む。デコーダは、スライスヘッダからのサブピクチャID733をSPS内のサブピクチャID733と照合することができる。デコーダは次いで、サブピクチャID733に基づいてSPSからサブピクチャ722の位置732およびサイズを決定することができる。サブピクチャ722は、位置732を使用して、ピクチャの左上の角742にある左上サンプルに対して配置されることが可能である。位置732に対するサブピクチャ722の高さおよび幅を設定するために、サイズが使用されることが可能である。そうすると、スライス724がサブピクチャ722に含まれることが可能である。従って、スライス724は、他のサブピクチャを参照せずに、サブピクチャID733に基づいて正しいサブピクチャ722内に配置されることが可能である。これは、他の損失したサブピクチャがサブピクチャ722のデコードを変えないので、エラー訂正をサポートする。これは、また、サブピクチャ722のみを抽出する適用をサポートし、他のサブピクチャを送信することを回避する。従って、サブピクチャID733は、増加した機能および／または増加したコーディング効率をサポートし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
図8は、サブピクチャ822へと区分される別の例のピクチャ800を例示する概略図である。ピクチャ800は、ピクチャ600と実質的に類似し得る。加えて、ピクチャ800は、たとえばコーデックシステム200、エンコーダ300、および／またはデコーダ400によって、ビットストリーム500内にエンコードされ、ビットストリーム500からデコードされることが可能である。さらに、ピクチャ800は、方法100および／または機構700に従ったエンコードおよびデコードをサポートするために、サブビットストリーム501において区分され、および／または含まれることが可能である。
ピクチャ800はサブピクチャ822を含み、これはサブピクチャ522、523、622、および／または722と実質的に類似し得る。サブピクチャ822は複数のCTU825へと分割される。CTU825は、標準化されたビデオコーディングシステムにおける基本コーディング単位である。CTU825はコーディング・ツリーによってコーディングブロックへと細分され、これはインター予測またはイントラ予測に従ってコーディングされる。表されるように、いくつかのサブピクチャ822aは、CTU825のサイズの倍数であるサブピクチャ幅およびサブピクチャ高さを含むように制約される。表される例では、サブピクチャ822aは、6個のCTU825の高さおよび5個のCTU825の幅を有する。この制約は、ピクチャの右の境界801に配置されたサブピクチャ822bについて、およびピクチャの下の境界802に配置されたサブピクチャ822cについて、取り除かれる。表される例では、サブピクチャ822bは、5個と6個のCTU825の間の幅を有する。しかしながら、ピクチャの下の境界802に配置されないサブピクチャ822bは、依然として、CTU825のサイズの倍数であるサブピクチャ高さを維持するように制約される。表される例では、サブピクチャ822cは、6個と7個のCTU825の間の高さを有する。しかしながら、ピクチャの右の境界801に配置されないサブピクチャ822cは、依然として、CTU825のサイズの倍数であるサブピクチャ幅を維持するように制約される。
上で注記されたように、いくつかのビデオシステムは、CTU825のサイズの倍数である高さおよび幅を含むようにサブピクチャ822を限定し得る。これは、サブピクチャ822が、多くのピクチャレイアウトとともに、たとえばCTU825のサイズの倍数でない合計の幅または高さを含むピクチャ800とともに、正しく動作することを妨げ得る。下のサブピクチャ822cおよび右のサブピクチャ822bが、CTU825のサイズの倍数でない高さと幅をそれぞれ含むことを許容することによって、サブピクチャ822は、デコードエラーを引き起こすことなく任意のピクチャ800とともに使用され得る。これは、エンコーダおよびデコーダの機能を増加させることをもたらす。さらに、増加した機能は、エンコーダがピクチャをより効率的にコーディングすることを可能にし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
ここで説明されるように、本開示は、ビデオコーディングにおけるサブピクチャを基にしたピクチャ区分の設計を説明する。サブピクチャは、ピクチャのために使用されるのと類似したデコードプロセスを使用して独立にデコードされることが可能である、ピクチャ内の長方形エリアである。本開示は、サブピクチャ抽出のためのプロセスとともに、コーディングされたビデオシーケンスおよび／またはビットストリームにおけるサブピクチャのシグナリングに関する。技法の説明は、ITU-TおよびISO/IECのJVETによるVVCに基づく。しかしながら、技法は、他のビデオコーデック仕様にも適用される。以下はここで説明される例示の実施形態である。そのような実施形態は、個々に、または組み合わせて適用され得る。
コーディングされたビデオシーケンス(CVS)内に存在し得るサブピクチャに関連する情報は、SPSのようなシーケンスレベルパラメータセット内でシグナリングされ得る。そのようなシグナリングは、以下の情報を含み得る。CVSの各ピクチャに存在するサブピクチャの数は、SPS内でシグナリングされ得る。SPSまたはCVSの文脈では、すべてのアクセスユニット(AU)について同じに位置付けられるサブピクチャは、集合的にサブピクチャシーケンスと呼ばれ得る。各サブピクチャの属性を記述する情報をさらに指定するためのループも、SPSに含まれ得る。この情報は、サブピクチャ識別情報、サブピクチャの位置(たとえば、サブピクチャの左上角ルマサンプルとピクチャの左上角ルマサンプルとの間のオフセット距離)、およびサブピクチャのサイズを備え得る。加えて、SPSは、各サブピクチャが動き制約サブピクチャ(MCTSの機能を含む)であるかどうかをシグナリングし得る。各サブピクチャについてのプロファイル、階層、およびレベル情報も、デコーダにおいてシグナリングされ、または導出可能であり得る。そのような情報は、元のビットストリームからサブピクチャを抽出することによって作り出されるビットストリームについてのプロファイル、階層、およびレベル情報を決定するために利用され得る。各サブピクチャのプロファイルおよび階層は、ビットストリーム全体のプロファイルおよび階層と同じであるように導出され得る。各サブピクチャについてのレベルは明示的にシグナリングされ得る。そのようなシグナリングは、SPSに含まれるループに存在し得る。シーケンスレベルの仮想参照デコーダ(HRD)パラメータは、各サブピクチャ(または等価的に、各サブピクチャシーケンス)についてのSPSのビデオ使用可能性情報(VUI)セクションにおいてシグナリングされ得る。
ピクチャが2つ以上のサブピクチャへと区分されないとき、サブピクチャの属性(たとえば、位置、サイズなど)は、サブピクチャIDを除き、ビットストリームにおいて存在しない／シグナリングされないことがある。CVS内のピクチャのサブピクチャが抽出されるとき、新しいビットストリーム内の各アクセスユニットはサブピクチャを含まないことがある。この場合、新しいビットストリーム内の各AU内のピクチャは、複数のサブピクチャへと区分されない。従って、SPS内の位置およびサイズのようなサブピクチャ属性をシグナリングする必要はなく、なぜなら、そのような情報はピクチャ属性から導出されることが可能であるからである。しかしながら、IDは抽出されたサブピクチャに含まれるVCL NALユニット／タイルグループにより参照され得るので、サブピクチャ識別情報は依然としてシグナリングされてもよい。これは、サブピクチャIDが、サブピクチャを抽出するときに同じままであることを可能にし得る。
ピクチャ内のサブピクチャの位置(xオフセットおよびyオフセット)は、ルマサンプルの単位でシグナリングされることが可能である。位置は、サブピクチャの左上角ルマサンプルとピクチャの左上角ルマサンプルとの間の距離を表現する。代替的に、ピクチャ内のサブピクチャの位置は、最小コーディングルマブロックサイズ(MinCbSizeY)の単位でシグナリングされることが可能である。代替的に、サブピクチャ位置オフセットの単位は、パラメータセット内のシンタックス要素によって明示的に示され得る。単位は、CtbSizeY、MinCbSizeY、ルマサンプル、または他の値であり得る。
サブピクチャのサイズ(サブピクチャ幅およびサブピクチャ高さ)は、ルマサンプルの単位でシグナリングされることが可能である。代替的に、サブピクチャのサイズは、最小コーディングルマブロックサイズ(MinCbSizeY)の単位でシグナリングされることが可能である。代替的に、サブピクチャサイズ値の単位は、パラメータセット内のシンタックス要素によって明示的に示されることが可能である。単位は、CtbSizeY、MinCbSizeY、ルマサンプル、または他の値であり得る。サブピクチャの右の境界がピクチャの右の境界と一致しないとき、サブピクチャの幅は、ルマCTUサイズ(CtbSizeY)の整数倍であることが要求され得る。同様に、サブピクチャの下の境界がピクチャの下の境界と一致しないとき、サブピクチャの高さは、ルマCTUサイズ(CtbSizeY)の整数倍であることが要求され得る。サブピクチャの幅がルマCTUサイズの整数倍でないならば、サブピクチャは、ピクチャ内の最も右の位置に位置決めされることが要求され得る。同様に、サブピクチャの高さがルマCTUサイズの整数倍でないならば、サブピクチャは、ピクチャ内の最も下の位置に位置決めされることが要求され得る。いくつかの場合において、サブピクチャの幅はルマCTUサイズの単位でシグナリングされることが可能であるが、サブピクチャの幅はルマCTUサイズの整数倍でない。この場合、ルマサンプルにおける実際の幅が、サブピクチャのオフセット位置に基づいて導出されることが可能である。サブピクチャの幅はルマCTUサイズに基づいて導出されることが可能であり、ピクチャの高さはルマサンプルに基づいて導出されることが可能である。同様に、サブピクチャの高さはルマCTUサイズの単位でシグナリングされ得るが、サブピクチャの高さはルマCTUサイズの整数倍でない。そのような場合、ルマサンプルにおける実際の高さは、サブピクチャのオフセット位置に基づいて導出されることが可能である。サブピクチャの高さはルマCTUサイズに基づいて導出されることが可能であり、ピクチャの高さはルマサンプルに基づいて導出されることが可能である。
任意のサブピクチャについて、サブピクチャIDは、サブピクチャインデックスと異なり得る。サブピクチャインデックスは、SPS内のサブピクチャのループにおいてシグナリングされるようなサブピクチャのインデックスであり得る。サブピクチャIDは、ピクチャ内のサブピクチャラスター走査順でのサブピクチャのインデックスであり得る。各サブピクチャのサブピクチャIDの値がサブピクチャインデックスと同じであるとき、サブピクチャIDはシグナリングまたは導出され得る。各サブピクチャのサブピクチャIDがサブピクチャインデックスと異なるとき、サブピクチャIDは明示的にシグナリングされる。サブピクチャIDのシグナリングのためのビットの数は、サブピクチャ属性を含む同じパラメータセット内で(たとえば、SPS内で)シグナリングされ得る。サブピクチャIDについてのいくつかの値が、ある目的のために予約され得る。たとえば、タイルグループヘッダが、どのサブピクチャがタイルグループを含むかを指定するためにサブピクチャIDを含むとき、エミュレーション防止コードの偶然の包含を防ぐためにタイルグループヘッダの最初の数ビットがすべて0ではないことを保証するために、サブピクチャのために値0が予約され、使用されないことがある。ピクチャのサブピクチャが、間隙なし、かつ重複なしでピクチャのエリア全体を包含しない任意選択の場合において、値(たとえば、値1)が、任意のサブピクチャの部分でないタイルグループのために予約され得る。代替的に、残りのエリアのサブピクチャIDが明示的にシグナリングされる。サブピクチャIDをシグナリングするためのビットの数は、以下のように制約され得る。値の範囲は、サブピクチャIDの予約された値を含めて、ピクチャ内のすべてのサブピクチャを一意に識別するために十分であるべきである。たとえば、サブピクチャIDについてのビットの最小数は、Ceil(Log2(ピクチャ内のサブピクチャの数+予約されたサブピクチャIDの数)の値であることが可能である。
サブピクチャの和集合が、間隙なし、かつ重複なしでピクチャ全体を包含しなければならないことが制約され得る。この制約が適用されるとき、各サブピクチャについて、サブピクチャが動き制約サブピクチャであるかどうかを指定するためのフラグが存在してもよく、これは、サブピクチャが抽出されることが可能であることを示す。代替的に、サブピクチャの和集合は、ピクチャ全体を包含しないことがあるが、重複が許容されないことがある。
NALユニットビットの残りを解析することを抽出器に要求することなくサブピクチャ抽出プロセスを助けるために、サブピクチャIDがNALユニットヘッダの直後に存在し得る。VCL NALユニットについて、サブピクチャIDは、タイルグループヘッダの最初のビット内に存在し得る。非VCL NALユニットについて、以下が当てはまり得る。SPSについて、サブピクチャIDは、NALユニットヘッダの直後に存在する必要はない。PPSについて、同じピクチャのすべてのタイルグループが同じPPSを参照するように制約されるならば、サブピクチャIDは、そのNALユニットヘッダの直後に存在する必要はない。同じピクチャのタイルグループが異なるPPSを参照することが許容されるならば、サブピクチャIDは、PPSの最初のビット内(たとえば、NALユニットヘッダの直後)に存在し得る。この場合、1つのピクチャの任意のタイルグループが、同じPPSを共有することが許容され得る。代替的に、同じピクチャのタイルグループが異なるPPSを参照することが許容され、同じピクチャの異なるタイルグループが同じPPSを共有することも許容されるとき、サブピクチャIDはPPSシンタックス内に存在しないことがある。代替的に、同じピクチャのタイルグループが異なるPPSを参照することが許容され、同じピクチャの異なるタイルグループも同じPPSを共有することが許容されるとき、サブピクチャIDのリストがPPSシンタックス内に存在し得る。このリストは、PPSが適用されるサブピクチャを示す。他の非VCL NALユニットについて、非VCLユニット(たとえば、access unit delimiter、end of sequence、end of bitstreamなど)がピクチャレベルまたはそれより上に適用されるならば、サブピクチャIDは、NALユニットヘッダの直後に存在しなくてもよい。そうでなければ、サブピクチャIDはNALユニットヘッダの直後に存在してもよい。
上記のSPSシグナリングを用いて、個々のサブピクチャ内のタイル区分は、PPS内でシグナリングされ得る。同じピクチャ内のタイルグループは、異なるPPSを参照することが許容され得る。この場合、タイルグルーピングは、各サブピクチャ内のみであり得る。タイルグルーピングの概念は、サブピクチャのタイルへの区分である。
代替的に、個々のサブピクチャ内のタイル区分を記述するためのパラメータセットが定義される。そのようなパラメータセットは、サブピクチャ・パラメータ・セット(SPPS)と呼ばれ得る。SPPSはSPSを参照する。SPS IDを参照するシンタックス要素はSPPS内に存在する。SPPSはサブピクチャIDを含み得る。サブピクチャ抽出の目的のために、サブピクチャIDを参照するシンタックス要素は、SPPS内の最初のシンタックス要素である。SPPSはタイル構造(たとえば、列の数、行の数、均一なタイルの間隔など)を含む。SPPSは、ループフィルタが関連付けられたサブピクチャ境界にわたって有効にされているかどうかを示すためにフラグを含み得る。代替的に、各サブピクチャについてのサブピクチャ属性は、SPS内の代わりにSPPS内でシグナリングされ得る。個々のサブピクチャ内のタイル区分は、依然として、PPS内でシグナリングされ得る。同じピクチャ内のタイルグループは、異なるPPSを参照することが許容される。いったんSPPSがアクティブ化されると、SPPSはデコード順で連続するAUのシーケンスについて続く。しかしながら、SPPSは、CVSの開始でないAUにおいて非アクティブ化／アクティブ化され得る。いくつかのAUにおける複数のサブピクチャを有する単層のビットストリームのデコードプロセスの間の任意の瞬間において、複数のSPPSがアクティブであり得る。SPPSは、AUの異なるサブピクチャによって共有され得る。代替的に、SPPSおよびPPSは1つのパラメータセットへと合併され得る。そのような場合、同じピクチャのすべてのタイルグループが同じPPSを参照することは要求されなくてもよい。同じサブピクチャ内のすべてのタイルグループが、SPPSとPPSの間の合併から結果として生じる同じパラメータセットを参照し得るような制約が適用され得る。
サブピクチャIDをシグナリングするために使用されるビットの数は、NALユニットヘッダ内でシグナリングされ得る。NALユニットヘッダ内に存在するとき、そのような情報は、NALユニットのペイロードの最初(たとえば、NALユニットヘッダの直後の最初の数ビット)においてサブピクチャID値を解析する際に、サブピクチャ抽出プロセスを助け得る。そのようなシグナリングのために、NALユニットヘッダ内の予約されたビット(たとえば、7個の予約されたビット)のいくつかが、NALユニットヘッダの長さを増加させることを避けるために使用され得る。そのようなシグナリングのためのビットの数は、sub-picture-ID-bit-lenの値を包含し得る。たとえば、VVC NALユニットヘッダの7個の予約されたビットのうちの4ビットが、この目的のために使用され得る。
サブピクチャをデコードするとき、各コーディング・ツリー・ブロックの位置(たとえば、xCtbおよびyCtb)が、サブピクチャ内のルマサンプル位置の代わりにピクチャ内の実際のルマサンプル位置に調整され得る。このようにして、コーディング・ツリー・ブロックがサブピクチャの代わりにピクチャを参照してデコードされるので、各参照ピクチャから同じに位置付けられるサブピクチャの抽出が回避されることが可能である。コーディング・ツリー・ブロックの位置を調整するために、変数SubpictureXOffsetおよびSubpictureYOffsetが、サブピクチャの位置(subpic_x_offsetおよびsubpic_y_offset)に基づいて導出されることが可能である。変数の値は、サブピクチャ内の各コーディング・ツリー・ブロックの、ルマサンプル位置xおよびyの座標の値にそれぞれ加算され得る。
サブピクチャ抽出プロセスは以下のように定義されることが可能である。プロセスへの入力は、抽出されるべき標的サブピクチャである。これは、サブピクチャIDまたはサブピクチャ位置の形式であることが可能である。入力がサブピクチャの位置であるとき、関連付けられたサブピクチャIDが、SPS内のサブピクチャ情報を解析することによって解決されることが可能である。非VCL NALユニットについて、以下が当てはまる。ピクチャサイズおよびレベルに関するSPS内のシンタックス要素が、サブピクチャのサイズおよびレベル情報を用いて更新され得る。以下の非VCL NALユニット、すなわち、PPS、Access Unit Delimiter (AUD)、End of Sequence (EOS)、End of Bitstream (EOB)、およびピクチャレベルまたはそれより上に適用可能である任意の他の非VCL NALユニットは、変更なしで保持される。標的サブピクチャIDに等しくないサブピクチャIDを有する残りの非VCL NALユニットは、取り除かれ得る。標的サブピクチャIDに等しくないサブピクチャIDを有するVCL NALユニットも、取り除かれ得る。
SEIメッセージをネストするシーケンスレベルサブピクチャは、サブピクチャのセットについてAUレベルまたはサブピクチャレベルSEIメッセージのネストのために使用され得る。これは、バッファリング期間、ピクチャタイミング、および非HRD SEIメッセージを含み得る。SEIメッセージをネストするこのサブピクチャのシンタックスおよびセマンティクスは、以下の通りであることが可能である。無方向性メディアフォーマット(OMAF)環境内でのようなシステム動作のために、ビューポートを包含するサブピクチャシーケンスのセットは、OMAFプレーヤによって要求されデコードされ得る。従って、シーケンスレベルSEIメッセージは、長方形ピクチャ領域を集合的に包含するサブピクチャシーケンスのセットの情報を搬送するために使用される。この情報はシステムによって使用されることが可能であり、この情報は、サブピクチャシーケンスのセットのビットレートとともに要求されるデコード能力を示す。この情報は、サブピクチャシーケンスのセットのみを含むビットストリームのレベルを示す。この情報は、また、サブピクチャシーケンスのセットのみを含むビットストリームのビットレートを示す。任意選択で、サブビットストリーム抽出プロセスは、サブピクチャシーケンスのセットについて指定され得る。これを行うことの利益は、サブピクチャシーケンスのセットのみを含むビットストリームも準拠することになり得ることである。欠点は、異なるビューポートサイズの可能性を考慮する際に、すでに大きな可能性のある数の個々のサブピクチャシーケンスに加えて、多くのそのようなセットが存在し得ることである。
一例の実施形態では、開示される例の1つまたは複数は以下のように実装され得る。サブピクチャが、ピクチャ内の1つまたは複数のタイルグループの長方形領域として定義され得る。許容される二分割プロセスは以下のように定義され得る。このプロセスへの入力は、二分割モードbtSplit、コーディングブロック幅cbWidth、コーディングブロック高さcbHeight、ピクチャの左上ルマサンプルに対する考慮されるコーディングブロックの左上ルマサンプルの位置(x0,y0)、マルチタイプ木深度mttDepth、オフセットを有する最大マルチタイプ木深度maxMttDepth、最大二分木サイズmaxBtSize、および区分インデックスpartIdxである。このプロセスの出力は、変数allowBtSplitである。
変数parallelTtSplitおよびcbSizeは、上で指定されたように導出される。変数allowBtSpitは以下のように導出される。以下の条件、すなわち、cbSizeがMinBtSizeY以下である、cbWidthがmaxBtSizeより大きい、cbHeightがmaxBtSizeより大きい、およびmttDepthがmaxMttDepth以上である、のうちの1つまたは複数が真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_VERに等しい、およびy0+cbHeightがSupPicBottomBorderInPicより大きい、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_HORに等しい、x0+cbWidthがSupPicRightBorderInPicより大きい、およびy0+cbHeightがSubPicBottomBorderInPic以下である、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、mttDepthが0より大きい、partIdxが1に等しい、およびMttSplitMode[x0][y0][mttDepth-1]がparallelTtSplitに等しい、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_VERに等しい、cbWidthがMaxTbSizeY以下である、およびcbHeightがMaxTbSizeYより大きい、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_HORに等しい、cbWidthがMaxTbSizeYより大きい、およびcbHeightがMaxTbSizeY以下である、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、allowBtSplitはTRUEに等しく設定される。
許容される三分割プロセスは、以下のように定義され得る。このプロセスへの入力は、三分割モードttSplit、コーディングブロック幅cbWidth、コーディングブロック高さcbHeight、ピクチャの左上ルマサンプルに対する考慮されるコーディングブロックの左上ルマサンプルの位置(x0,y0)、マルチタイプ木深度mttDepth、オフセットを有する最大マルチタイプ木深度maxMttDepth、および最大二分木サイズmaxTtSizeである。このプロセスの出力は、変数allowTtSplitである。
変数cbSizeは上で指定されたように導出される。変数allowTtSplitは以下のように導出される。以下の条件、すなわち、cbSizeが2*MinTtSizeY以下である、cbWidthがMin(MaxTbSizeY,maxTtSize)より大きい、cbHeightがMin(MaxTbSizeY,maxTtSize)より大きい、mttDepthがmaxMttDepth以上である、x0+cbWidthがSupPicRightBoderInPicより大きい、およびy0+cbHeightがSubPicBottomBorderInPicより大きい、のうちの1つまたは複数が真であるならば、allowTtSplitはFALSEに等しく設定される。そうでなければ、allowTtSplitはTRUEに等しく設定される。
シーケンス・パラメータ・セットRBSPのシンタックスおよびセマンティクスは、以下の通りである。
pic_width_in_luma_samplesは、ルマサンプルの単位で各々のデコードされたピクチャの幅を指定する。pic_width_in_luma_samplesは、0に等しくないものとし、MinCbSizeYの整数倍であるものとする。pic_height_in_luma_samplesは、ルマサンプルの単位で各々のデコードされたピクチャの高さを指定する。pic_height_in_luma_samplesは、0に等しくないものとし、MinCbSizeYの整数倍であるものとする。num_subpicture_minus1に1を足したものは、コーディングされたビデオシーケンスに属するコーディングされたピクチャ内で区分されるサブピクチャの数を指定する。subpic_id_len_minus1に1を足したものは、SPS内のシンタックス要素subpic_id[i]、SPSを参照するSPPS内のspps_subpic_id、およびSPSを参照するタイルグループヘッダ内のtile_group_subpic_idを表現するために使用されるビットの数を指定する。subpic_id_len_minus1の値は、両端を含めてCeil(Log2(num_subpic_minus1+2)から8の範囲内であるものとする。subpic_id[i]は、SPSを参照するピクチャのi番目のサブピクチャのサブピクチャIDを指定する。subpic_id[i]の長さは、subpic_id_len_minus1+1ビットである。subpic_id[i]の値は0より大きいものとする。subpic_level_idc[i]は、i番目のサブピクチャの抽出から結果として生じたCVSが、指定されたリソース要件に準拠するレベルを示す。ビットストリームは、指定されるもの以外のsubpic_level_idc[i]の値を含まないものとする。subpic_level_idc[i]の他の値は予約される。存在しないとき、subpic_level_idc[i]の値は、general_level_idcの値に等しいと推測される。
subpic_x_offset[i]は、ピクチャの左上の角に対して、i番目のサブピクチャの左上の角の水平オフセットを指定する。存在しないとき、subpic_x_offset[i]の値は0に等しいと推測される。サブピクチャxのオフセットの値は、SubpictureXOffset[i]=subpic_x_offset[i]のように導出される。subpic_y_offset[i]は、ピクチャの左上の角に対して、i番目のサブピクチャの左上の角の垂直オフセットを指定する。存在しないとき、subpic_y_offset[i]の値は、0に等しいと推測される。サブピクチャyのオフセットの値は、SubpictureYOffset[i]=subpic_y_offset[i]のように導出される。subpic_width_in_luma_samples[i]は、このSPSがアクティブなSPSであるi番目のデコードされたサブピクチャの幅を指定する。SubpictureXOffset[i]とsubpic_width_in_luma_samples[i]の和がpic_width_in_luma_samplesより小さいとき、subpic_width_in_luma_samples[i]の値はCtbSizeYの整数倍であるものとする。存在しないとき、subpic_width_in_luma_samples[i]の値は、pic_width_in_luma_samplesの値に等しいと推測される。subpic_height_in_luma_samples[i]は、このSPSがアクティブなSPSであるi番目のデコードされたサブピクチャの高さを指定する。SubpictureYOffset[i]とsubpic_height_in_luma_samples[i]の和がpic_height_in_luma_samplesより小さいとき、subpic_height_in_luma_samples[i]の値はCtbSizeYの整数倍であるものとする。存在しないとき、subpic_height_in_luma_samples[i]の値は、pic_height_in_luma_samplesの値に等しいと推測される。
サブピクチャの和集合が重複および間隙なしでピクチャのエリア全体を包含するものであることが、ビットストリーム準拠の要件である。1に等しいsubpic_motion_constrained_flag[i]は、i番目のサブピクチャが時間動き制約サブピクチャであることを指定する。0に等しいsubpic_motion_constrained_flag[i]は、i番目のサブピクチャが時間動き制約サブピクチャであってもなくてもよいことを指定する。存在しないとき、subpic_motion_constrained_flagの値は0に等しいと推測される。
変数SubpicWidthInCtbsY、SubpicHeightInCtbsY、SubpicSizeInCtbsY、SubpicWidthInMinCbsY、SubpicHeightInMinCbsY、SubpicSizeInMinCbsY、SubpicSizeInSamplesY、SubpicWidthInSamplesC、およびSubpicHeightInSamplesCは、以下のように導出される。
SubpicWidthInLumaSamples[i]=subpic_width_in_luma_samples[i]
SubpicHeightInLumaSamples[i]=subpic_height_in_luma_samples[i]
SubPicRightBorderInPic[i]=SubpictureXOffset[i]+PicWidthInLumaSamples[i]
SubPicBottomBorderInPic[i]=SubpictureYOffset[i]+PicHeightInLumaSamples[i]
SubpicWidthInCtbsY[i]=Ceil(SubpicWidthInLumaSamples[i]÷CtbSizeY)
SubpicHeightInCtbsY[i]=Ceil(SubpicHeightInLumaSamples[i]÷CtbSizeY)
SubpicSizeInCtbsY[i]=SubpicWidthInCtbsY[i]*SubpicHeightInCtbsY[i]
SubpicWidthInMinCbsY[i]=SubpicWidthInLumaSamples[i]/MinCbSizeY
SubpicHeightInMinCbsY[i]=SubpicHeightInLumaSamples[i]/MinCbSizeY
SubpicSizeInMinCbsY[i]=SubpicWidthInMinCbsY[i]*SubpicHeightInMinCbsY[i]
SubpicSizeInSamplesY[i]=SubpicWidthInLumaSamples[i]*SubpicHeightInLumaSamples[i]
SubpicWidthInSamplesC[i]=SubpicWidthInLumaSamples[i]/SubWidthC
SubpicHeightInSamplesC[i]=SubpicHeightInLumaSamples[i]/SubHeightC
SubpicWidthInLumaSamples[i]=subpic_width_in_luma_samples[i]
SubpicHeightInLumaSamples[i]=subpic_height_in_luma_samples[i]
SubPicRightBorderInPic[i]=SubpictureXOffset[i]+PicWidthInLumaSamples[i]
SubPicBottomBorderInPic[i]=SubpictureYOffset[i]+PicHeightInLumaSamples[i]
SubpicWidthInCtbsY[i]=Ceil(SubpicWidthInLumaSamples[i]÷CtbSizeY)
SubpicHeightInCtbsY[i]=Ceil(SubpicHeightInLumaSamples[i]÷CtbSizeY)
SubpicSizeInCtbsY[i]=SubpicWidthInCtbsY[i]*SubpicHeightInCtbsY[i]
SubpicWidthInMinCbsY[i]=SubpicWidthInLumaSamples[i]/MinCbSizeY
SubpicHeightInMinCbsY[i]=SubpicHeightInLumaSamples[i]/MinCbSizeY
SubpicSizeInMinCbsY[i]=SubpicWidthInMinCbsY[i]*SubpicHeightInMinCbsY[i]
SubpicSizeInSamplesY[i]=SubpicWidthInLumaSamples[i]*SubpicHeightInLumaSamples[i]
SubpicWidthInSamplesC[i]=SubpicWidthInLumaSamples[i]/SubWidthC
SubpicHeightInSamplesC[i]=SubpicHeightInLumaSamples[i]/SubHeightC
サブピクチャ・パラメータ・セットRBSPのシンタックスおよびセマンティクスは、以下の通りである。
spps_subpic_idは、SPPSが属するサブピクチャを識別する。spps_subpic_idの長さは、subpic_id_len_minus1+1ビットである。spps_subpic_parameter_set_idは、他のシンタックス要素による参照のためにSPPSを識別する。spps_subpic_parameter_set_idの値は、両端を含めて0から63の範囲内であるものとする。spps_seq_parameter_set_idは、アクティブなSPSについてsps_seq_parameter_set_idの値を指定する。spps_seq_parameter_set_idの値は、両端を含めて0から15の範囲内であるものとする。1に等しいsingle_tile_in_subpic_flagは、SPPSを参照する各サブピクチャ内に1つのみのタイルがあることを指定する。0に等しいsingle_tile_in_subpic_flagは、SPPSを参照する各サブピクチャ内に1つより多くのタイルがあることを指定する。num_tile_columns_minus1に1を足したものは、サブピクチャを区分するタイル列の数を指定する。num_tile_columns_minus1は、両端を含めて0からPicWidthInCtbsY[spps_subpic_id]-1の範囲内であるものとする。存在しないとき、num_tile_columns_minus1の値は0に等しいと推測される。num_tile_rows_minus1に1を足したものは、サブピクチャを区分するタイル行の数を指定する。num_tile_rows_minus1は、両端を含めて0からPicHeightInCtbsY[spps_subpic_id]-1の範囲内であるものとする。存在しないとき、num_tile_rows_minus1の値は0に等しいと推測される。変数NumTilesInPicは、(num_tile_columns_minus1+1)*(num_tile_rows_minus1+1)に等しく設定される。
single_tile_in_subpic_flagが0に等しいとき、NumTilesInPicは0より大きいものとする。1に等しいuniform_tile_spacing_flagは、タイル列の境界と、同様にタイル行の境界とが、サブピクチャにわたって均一に分散されることを指定する。0に等しいuniform_tile_spacing_flagは、タイル列の境界と、同様にタイル行の境界とが、サブピクチャにわたって均一に分散されないが、シンタックス要素tile_column_width_minus1[i]およびtile_row_height_minus1[i]を使用して明示的にシグナリングされることを指定する。存在しないとき、uniform_tile_spacing_flagの値は1に等しいと推測される。tile_column_width_minus1[i]に1を足したものは、CTBの単位でi番目のタイル列の幅を指定する。tile_row_height_minus1[i]に1を足したものは、CTBの単位でi番目のタイル行の高さを指定する。
以下の変数、すなわち、CTBの単位でi番目のタイル列の幅を指定する、両端を含めて0からnum_tile_columns_minus1の範囲にわたるiについてのリストColWidth[i]、CTBの単位でj番目のタイル行の高さを指定する、両端を含めて0からnum_tile_rows_minus1の範囲にわたるjについてのリストRowHeight[j]、CTBの単位でi番目のタイル列境界の位置を指定する、両端を含めて0からnum_tile_columns_minus1+1の範囲にわたるiについてのリストColBd[i]、CTBの単位でj番目のタイル行境界の位置を指定する、両端を含めて0からnum_tile_rows_minus1+1の範囲にわたるjについてのリストRowBd[j]、ピクチャのCTBラスター走査におけるCTBアドレスからタイル走査におけるCTBアドレスへの変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるctbAddrRsについてのリストCtbAddrRsToTs[ctbAddrRs]、タイル走査におけるCTBアドレスからピクチャのCTBラスター走査におけるCTBアドレスへの変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるctbAddrTsについてのリストCtbAddrTsToRs[ctbAddrTs]、タイル走査におけるCTBアドレスからタイルIDへの変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるctbAddrTsについてのリストTileId[ctbAddrTs]、タイルインデックスからタイル内のCTUの数への変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるtileIdxについてのリストNumCtusInTile[tileIdx]、タイルIDからタイル内の最初のCTBのタイル走査におけるCTBアドレスへの変換を指定する、両端を含めて0からNumTilesInPic-1の範囲にわたるtileIdxについてのリストFirstCtbAddrTs[tileIdx]、ルマサンプルの単位でi番目のタイル列の幅を指定する、両端を含めて0からnum_tile_columns_minus1の範囲にわたるiについてのリストColumnWidthInLumaSamples[i]、および、ルマサンプルの単位でj番目のタイル行の高さを指定する、両端を含めて0からnum_tile_rows_minus1の範囲にわたるjについてのリストRowHeightInLumaSamples[j]は、CTBラスターおよびタイル走査変換プロセスを呼び出すことによって導出される。両端を含めて0からnum_tile_columns_minus1の範囲にわたるiについてのColumnWidthInLumaSamples[i]、および両端を含めて0からnum_tile_rows_minus1の範囲にわたるjについてのRowHeightInLumaSamples[j]の値は、すべて、0より大きいものとする。
1に等しいloop_filter_across_tiles_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のタイル境界にわたって実行され得ることを指定する。0に等しいloop_filter_across_tiles_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のタイル境界にわたって実行されないことを指定する。ループ内フィルタリング動作は、デブロッキングフィルタ、サンプル適応オフセットフィルタ、および適応ループフィルタ動作を含む。存在しないとき、loop_filter_across_tiles_enabled_flagの値は1に等しいと推測される。1に等しいloop_filter_across_subpic_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のサブピクチャ境界にわたって実行され得ることを指定する。0に等しいloop_filter_across_subpic_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のサブピクチャ境界にわたって実行されないことを指定する。ループ内フィルタリング動作は、デブロッキングフィルタ、サンプル適応オフセットフィルタ、および適応ループフィルタ動作を含む。存在しないとき、loop_filter_across_subpic_enabled_flagの値は、loop_filter_across_tiles_enabed_flagの値に等しいと推測される。
一般的なタイルグループヘッダのシンタックスおよびセマンティクスは、以下の通りである。
タイルグループヘッダシンタックス要素tile_group_pic_parameter_set_idおよびtile_group_pic_order_cnt_lsbの値は、コーディングされたピクチャのすべてのタイルグループヘッダ内で同じであるものとする。タイルグループヘッダシンタックス要素tile_group_subpic_idの値は、コーディングされたサブピクチャのすべてのタイルグループヘッダ内で同じであるものとする。tile_group_subpic_idは、タイルグループが属するサブピクチャを識別する。tile_group_subpic_idの長さは、subpic_id_len_minus1+1ビットである。tile_group_subpic_parameter_set_idは、使用中のSPPSについてのspps_subpic_parameter_set_idの値を指定する。tile_group_spps_parameter_set_idの値は、両端を含めて0から63の範囲内であるものとする。
以下の変数が導出され、アクティブなSPSから導出されたそれぞれの変数を上書きする。
PicWidthInLumaSamples=SubpicWidthInLumaSamples[tile_group_subpic_id]
PicHeightInLumaSamples=PicHeightInLumaSamples[tile_group_subpic_id]
SubPicRightBorderInPic=SubPicRightBorderInPic[tile_group_subpic_id]
SubPicBottomBorderInPic=SubPicBottomBorderInPic[tile_group_subpic_id]
PicWidthInCtbsY=SubPicWidthInCtbsY[tile_group_subpic_id]
PicHeightInCtbsY=SubPicHeightInCtbsY[tile_group_subpic_id]
PicSizeInCtbsY=SubPicSizeInCtbsY[tile_group_subpic_id]
PicWidthInMinCbsY=SubPicWidthInMinCbsY[tile_group_subpic_id]
PicHeightInMinCbsY=SubPicHeightInMinCbsY[tile_group_subpic_id]
PicSizeInMinCbsY=SubPicSizeInMinCbsY[tile_group_subpic_id]
PicSizeInSamplesY=SubPicSizeInSamplesY[tile_group_subpic_id]
PicWidthInSamplesC=SubPicWidthInSamplesC[tile_group_subpic_id]
PicHeightInSamplesC=SubPicHeightInSamplesC[tile_group_subpic_id]
PicWidthInLumaSamples=SubpicWidthInLumaSamples[tile_group_subpic_id]
PicHeightInLumaSamples=PicHeightInLumaSamples[tile_group_subpic_id]
SubPicRightBorderInPic=SubPicRightBorderInPic[tile_group_subpic_id]
SubPicBottomBorderInPic=SubPicBottomBorderInPic[tile_group_subpic_id]
PicWidthInCtbsY=SubPicWidthInCtbsY[tile_group_subpic_id]
PicHeightInCtbsY=SubPicHeightInCtbsY[tile_group_subpic_id]
PicSizeInCtbsY=SubPicSizeInCtbsY[tile_group_subpic_id]
PicWidthInMinCbsY=SubPicWidthInMinCbsY[tile_group_subpic_id]
PicHeightInMinCbsY=SubPicHeightInMinCbsY[tile_group_subpic_id]
PicSizeInMinCbsY=SubPicSizeInMinCbsY[tile_group_subpic_id]
PicSizeInSamplesY=SubPicSizeInSamplesY[tile_group_subpic_id]
PicWidthInSamplesC=SubPicWidthInSamplesC[tile_group_subpic_id]
PicHeightInSamplesC=SubPicHeightInSamplesC[tile_group_subpic_id]
コーディング・ツリー・ユニット・シンタックスは、以下の通りである。
コーディング四分木のシンタックスおよびセマンティクスは、以下の通りである。
qt_split_cu_flag[x0][y0]は、コーディング・ユニットが半分の水平および垂直サイズを有するコーディング・ユニットへと分割されるかどうかを指定する。アレイインデックスx0、y0は、ピクチャの左上ルマサンプルに対して、考慮されるコーディングブロックの左上ルマサンプルの位置(x0,y0)を指定する。qt_split_cu_flag[x0][y0]が存在しないとき、以下が当てはまる。以下の条件のうちの1つまたは複数が真であるならば、qt_split_cu_flag[x0][y0]の値は1に等しいと推測される。treeTypeがDUAL_TREE_CHROMAに等しいか、またはそうでなければMaxBtSizeYより大きいならば、x0+(1<<log2CbSize)がSubPicRightBorderInPicより大きく、(1<<log2CbSize)がMaxBtSizeCより大きい。treeTypeがDUAL_TREE_CHROMAに等しいか、またはそうでなければMaxBtSizeYより大きいならば、y0+(1<<log2CbSize)がSubPicBottomBorderInPicより大きく、(1<<log2CbSize)がMaxBtSizeCより大きい。
そうでなければ、以下の条件のすべてが真であるならば、qt_split_cu_flag[x0][y0]の値は1に等しいと推測される。treeTypeがDUAL_TREE_CHROMAに等しいか、またはそうでなければMinQtSizeYより大きいならば、x0+(1<<log2CbSize)がSubPicRightBorderInPicより大きく、y0+(1<<log2CbSize)がSubPicBottomBorderInPicより大きく、(1<<log2CbSize)がMinQtSizeCより大きい。そうでなければ、qt_split_cu_flag[x0][y0]の値は0に等しいと推測される。
マルチタイプ木のシンタックスおよびセマンティクスは、以下の通りである。
0に等しいmtt_split_cu_flagは、コーディング・ユニットが分割されないことを指定する。1に等しいmtt_split_cu_flagは、シンタックス要素mtt_split_cu_binary_flagによって示されるように、コーディング・ユニットが二分割を使用して2つのコーディング・ユニットへと、または三分割を使用して3つのコーディング・ユニットへと分割されることを指定する。二分割または三分割は、シンタックス要素mtt_split_cu_vertical_flagによって示されるように、垂直または水平のいずれかであることが可能である。mtt_split_cu_flagが存在しないとき、mtt_split_cu_flagの値は以下のように推測される。以下の条件、すなわち、x0+cbWidthがSubPicRightBorderInPicより大きい、およびy0+cbHeightがSubPicBottomBorderInPicより大きい、のうちの1つまたは複数が真であるならば、mtt_split_cu_flagの値は1に等しいと推測される。そうでなければ、mtt_split_cu_flagの値は0に等しいと推測される。
時間的なルマ動きベクトル予測のための導出プロセスは、以下の通りである。このプロセスの出力は、1/16分数サンプル精度での動きベクトル予測mvLXCol、および利用可能性フラグavailableFlagLXColである。変数currCbは、ルマ位置(xCb,yCb)における現在のルマコーディングブロックを指定する。変数mvLXColおよびavailableFlagLXColは以下のように導出される。tile_group_temporal_mvp_enabled_flagが0に等しいならば、または参照ピクチャが現在のピクチャであるならば、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。それ以外ならば(tile_group_temporal_mvp_enabled_flagが1に等しく、参照ピクチャが現在のピクチャではない)、以下の順序付けられたステップが適用される。右下の同じに位置付けられる動きベクトルは以下のように導出される。
xColBr=xCb+cbWidth (8-355)
yColBr=yCb+cbHeight (8-356)
xColBr=xCb+cbWidth (8-355)
yColBr=yCb+cbHeight (8-356)
yCb>>CtbLog2SizeYがyColBr>>CtbLog2SizeYに等しく、yColBrがSubPicBottomBorderInPicより小さく、xColBrがSubPicRightBorderInPicより小さいならば、以下が当てはまる。変数colCbは、ColPicによって指定される同じに位置付けられるピクチャ内部の((xColBr>>3)<<3,(yColBr>>3)<<3)によって与えられる修正された位置を包含するルマコーディングブロックを指定する。ルマ位置(xColCb,yColCb)は、ColPicによって指定される同じに位置付けられるピクチャの左上ルマサンプルに対して、colCbによって指定される同じに位置付けられるルマコーディングブロックの左上サンプルに等しく設定される。同じに位置付けられる動きベクトルのための導出プロセスは、0に等しく設定されたcurrCb、colCb、(xColCb,yColCb)、refIdxLX、およびsbFlagを入力として用いて呼び出され、出力はmvLXColおよびavailableFlagLXColに割り当てられる。そうでなければ、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。
時間的な三角形マージ候補のための導出プロセスは、以下の通りである。変数mvLXColC0、mvLXColC1、availableFlagLXColC0、およびavailableFlagLXColC1は、以下のように導出される。tile_group_temporal_mvp_enabled_flagが0に等しいならば、mvLXColC0とmvLXColC1の両方の成分が0に等しく設定され、availableFlagLXColC0およびavailableFlagLXColC1は0に等しく設定される。そうでなければ(tile_group_temporal_mvp_enabled_flagが1に等しい)、以下の順序付けられたステップが適用される。右下の同じに位置付けられる動きベクトルmvLXColC0は、以下のように導出される。
xColBr=xCb+cbWidth (8-392)
yColBr=yCb+cbHeight (8-393)
xColBr=xCb+cbWidth (8-392)
yColBr=yCb+cbHeight (8-393)
yCb>>CtbLog2SizeYがyColBr>>CtbLog2SizeYに等しく、yColBrがSubPicBottomBorderInPicより小さく、xColBrがSubPicRightBorderInPicより小さいならば、以下が当てはまる。変数colCbは、ColPicによって指定される同じに位置付けられるピクチャの内部の((xColBr>>3)<<3,(yColBr>>3)<<3)によって与えられる修正された位置を包含するルマコーディングブロックを指定する。ルマ位置(xColCb,yColCb)は、ColPicによって指定される同じに位置付けられるピクチャの左上ルマサンプルに対して、colCbによって指定される同じに位置付けられるルマコーディングブロックの左上サンプルに等しく設定される。同じに位置付けられる動きベクトルのための導出プロセスは、0に等しく設定されたcurrCb、colCb、(xColCb,yColCb)、refIdxLXC0、およびsbFlagを入力として用いて呼び出され、出力はmvLXColC0およびavailableFlagLXColC0に割り当てられる。そうでなければ、mvLXColC0の両方の成分が0に等しく設定され、availableFlagLXColC0が0に等しく設定される。
構築されたアフィン制御点動きベクトルマージ候補のための導出プロセスは、以下の通りである。Xを0および1として、第4の(同じに位置付けられる右下の)制御点動きベクトルcpMvLXCorner[3]、参照インデックスrefIdxLXCorner[3]、予測リスト利用フラグpredFlagLXCorner[3]、および利用可能性フラグavailableFlagCorner[3]が以下のように導出される。Xを0または1として、時間マージ候補についての参照インデックスrefIdxLXCorner[3]が0に等しく設定される。Xを0または1として、変数mvLXColおよびavailableFlagLXColが以下のように導出される。tile_group_temporal_mvp_enabled_flagが0に等しいならば、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。そうでなければ(tile_group_temporal_mvp_enabled_flagが1に等しい)、以下が当てはまる。
xColBr=xCb+cbWidth (8-566)
yColBr=yCb+cbHeight (8-567)
xColBr=xCb+cbWidth (8-566)
yColBr=yCb+cbHeight (8-567)
yCb>>CtbLog2SizeYがyColBr>>CtbLog2SizeYに等しく、yColBrがSubPicBottomBorderInPicより小さく、xColBrがSubPicRightBorderInPicより小さいならば、以下が当てはまる。変数colCbは、ColPicによって指定される同じに位置付けられるピクチャの内部の((xColBr>>3)<<3,(yColBr>>3)<<3)によって与えられる修正された位置を包含するルマコーディングブロックを指定する。ルマ位置(xColCb,yColCb)は、ColPicによって指定される同じに位置付けられるピクチャの左上ルマサンプルに対して、colCbによって指定される同じに位置付けられるルマコーディングブロックの左上サンプルに等しく設定される。同じに位置付けられる動きベクトルのための導出プロセスは、0に等しく設定されたcurrCb、colCb、(xColCb,yColCb)、refIdxLX、およびsbFlagを入力として用いて呼び出され、出力はmvLXColおよびavailableFlagLXColに割り当てられる。そうでなければ、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。pic_width_in_luma_samplesのすべての出現を、PicWidthInLumaSamplesで置換する。pic_height_in_luma_samplesのすべての出現を、PicHeightInLumaSamplesで置換する。
第2の例の実施形態では、シーケンス・パラメータ・セットRBSPのシンタックスおよびセマンティクスは、以下の通りである。
subpic_id_len_minus1に1を足したものは、SPS内のシンタックス要素subpic_id[i]を表現するために使用されるビットの数、SPSを参照するSPPS内のspps_subpic_id、およびSPSを参照するタイルグループヘッダ内のtile_group_subpic_idを指定する。subpic_id_len_minus1の値は、両端を含めてCeil(Log2(num_subpic_minus1+3)から8の範囲内であるものとする。両端を含めて0からnum_subpic_minus1のiについてのsubpicture[i]の間で重複がないものとすることが、ビットストリーム準拠の要件である。各サブピクチャは、時間動き制約サブピクチャであり得る。
一般的なタイルグループヘッダのセマンティクスは、以下の通りである。tile_group_subpic_idは、タイルグループが属するサブピクチャを識別する。tile_group_subpic_idの長さは、subpic_id_len_minus1+1ビットである。1に等しいtile_group_subpic_idは、タイルグループがいずれのサブピクチャにも属さないことを示す。
第3の例の実施形態では、NALユニットヘッダのシンタックスとセマンティクスは、以下の通りである。
nuh_subpicture_id_lenは、サブピクチャIDを指定するシンタックス要素を表現するために使用されるビットの数を指定する。nuh_subpicture_id_lenの値が0より大きいとき、nuh_reserved_zero_4bits内の後の最初のnuh_subpicture_id_len番目のビットは、NALユニットのペイロードが属するサブピクチャのIDを指定する。nuh_subpicture_id_lenが0より大きいとき、nuh_subpicture_id_lenの値は、アクティブなSPS内のsubpic_id_len_minus1の値に等しいものとする。非VCL NALユニットについてのnuh_subpicture_id_lenの値は、以下のように制約される。nal_unit_typeがSPS_NUTまたはPPS_NUTに等しいならば、nuh_subpicture_id_lenは0に等しいものとする。nuh_reserved_zero_3bitsは「000」に等しいものとする。デコーダは、nuh_reserved_zero_3bitsの値が「000」に等しくないNALユニットを無視する(たとえば、ビットストリームから取り除いて廃棄する)ものとする。
第4の例の実施形態では、サブピクチャ・ネスティング・シンタックスは、以下の通りである。
1に等しいall_sub_pictures_flagは、ネストされたSEIメッセージがすべてのサブピクチャに適用されることを指定する。1に等しいall_sub_pictures_flagは、ネストされたSEIメッセージが適用されるサブピクチャが後続のシンタックス要素によって明示的にシグナリングされることを指定する。nesting_num_sub_pictures_minus1に1を足したものは、ネストされたSEIメッセージが適用されるサブピクチャの数を指定する。nesting_sub_picture_id[i]は、ネストされたSEIメッセージが適用されるi番目のサブピクチャのサブピクチャIDを示す。nesting_sub_picture_id[i]シンタックス要素は、Ceil(Log2(nesting_num_sub_pictures_minus1+1))ビットによって表現される。sub_picture_nesting_zero_bitは0に等しいものとする。
図9は、一例のビデオコーディングデバイス900の概略図である。ビデオコーディングデバイス900は、ここで説明されるような開示される例／実施形態を実装するために適している。ビデオコーディングデバイス900は、ネットワーク上でデータアップストリームおよび／またはダウンストリームを通信するための送信機および／または受信機を含む、ダウンストリームポート920、アップストリームポート950、および／またはトランシーバユニット(Tx/Rx)910を備える。ビデオコーディングデバイス900は、また、データを処理するための論理ユニットおよび／または中央処理ユニット(CPU)を含むプロセッサ930、およびデータを記憶するためのメモリ932を含む。ビデオコーディングデバイス900は、また、電気、光-電気(OE)コンポーネント、電気-光(EO)コンポーネント、および／または、電気、光、またはワイヤレス通信ネットワークを介したデータの通信のためにアップストリームポート950および／またはダウンストリームポート920に結合されたワイヤレス通信コンポーネントを備え得る。ビデオコーディングデバイス900は、また、ユーザへのおよびユーザからのデータを通信するための入力および／または出力(I/O)デバイス960を含み得る。I/Oデバイス960は、ビデオデータを表示するためのディスプレイ、オーディオデータを出力するためのスピーカーなどのような出力デバイスを含み得る。I/Oデバイス960は、また、キーボード、マウス、トラックボールなどのような入力デバイス、および／または、そのような出力デバイスと相互作用するための対応するインターフェースを含み得る。
プロセッサ930はハードウェアおよびソフトウェアによって実装される。プロセッサ930は、1つまたは複数のCPUチップ、コア(たとえば、マルチコアプロセッサとして)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、特定用途向け集積回路(ASIC)、およびデジタル信号プロセッサ(DSP)として実装され得る。プロセッサ930は、ダウンストリームポート920、Tx/Rx910、アップストリームポート950、およびメモリ932と通信する。プロセッサ930はコーディングモジュール914を備える。コーディングモジュール914は、ビットストリーム500、ピクチャ600、および／またはピクチャ800を利用し得る方法100、1000、1100、および／または機構700のような上で説明された開示された実施形態を実装する。コーディングモジュール914は、ここで説明される任意の他の方法／機構も実装し得る。さらに、コーディングモジュール914は、コーデックシステム200、エンコーダ300、および／またはデコーダ400を実装し得る。たとえば、コーディングモジュール914は、SPS内のサブピクチャの位置とサイズをシグナリングおよび／または取得するために利用され得る。別の例では、コーディングモジュール914は、そのようなサブピクチャがピクチャの右の境界またはピクチャの下の境界にそれぞれ配置されない限り、CTUサイズの倍数であるようにサブピクチャ幅およびサブピクチャ高さを制約し得る。別の例では、コーディングモジュール914は、間隙または重複なしでピクチャを包含するようにサブピクチャを制約し得る。別の例では、コーディングモジュール914は、いくつかのサブピクチャが時間動き制約サブピクチャであり、他のサブピクチャがそうでないことを示すデータを、シグナリングおよび／または取得するために利用され得る。別の例では、コーディングモジュール914は、SPS内でサブピクチャIDの完全なセットをシグナリングし、対応するスライスを含むサブピクチャを示すためにサブピクチャIDを各スライスヘッダに含め得る。別の例では、コーディングモジュール914は、各サブピクチャについてのレベルをシグナリングし得る。それゆえ、コーディングモジュール914は、ビデオコーディングデバイス900に、追加の機能を提供させ、ビデオデータを区分してコーディングするときに、処理オーバーヘッドを低減し、および／またはコーディング効率を増加させるために、ある処理を回避させる。従って、コーディングモジュール914は、ビデオコーディングの技術に特有である課題に対処するとともにビデオコーディングデバイス900の機能を改善する。さらに、コーディングモジュール914は、異なる状態へのビデオコーディングデバイス900の変換をもたらす。代替的に、コーディングモジュール914は、メモリ932に記憶されプロセッサ930によって実行される命令として(たとえば、非一時的媒体に記憶されたコンピュータプログラム製品として)実装されることが可能である。
メモリ932は、ディスク、テープドライブ、ソリッドステートドライブ、リードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、フラッシュメモリ、三値連想メモリ(TCAM)、スタティックランダムアクセスメモリ(SRAM)などのような1つまたは複数のメモリタイプを備える。メモリ932は、プログラムを、実行のためにそのようなプログラムが選択されるときに記憶するために、およびプログラム実行の間に読み取られる命令およびデータを記憶するために、オーバーフローデータ記憶デバイスとして使用され得る。
図10は、サブピクチャ522、523、622、722、および／または822のようなサブピクチャの抽出をサポートするために、ピクチャの、ビットストリーム500のようなビットストリーム内にサブピクチャ・レイアウトをエンコードする一例の方法1000のフローチャートである。方法1000は、方法100を実行するとき、コーデックシステム200、エンコーダ300、および／またはビデオコーディングデバイス900のようなエンコーダによって利用され得る。
方法1000は、エンコーダが複数のピクチャを含むビデオシーケンスを受信し、たとえばユーザ入力に基づいてそのビデオシーケンスをビットストリームへとエンコードすることを決定するとき、開始し得る。ビデオシーケンスは、エンコードの前にさらなる区分のためにピクチャ／画像／フレームへと区分される。ステップ1001において、ピクチャは、サブピクチャとして以後表記される現在のサブピクチャを含む複数のサブピクチャへと区分される。ステップ1003において、サブピクチャはビットストリームへとエンコードされる。
ステップ1005において、サブピクチャのサブピクチャサイズおよびサブピクチャ位置が、ビットストリーム内のSPSへとエンコードされる。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含む。サブピクチャサイズは、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含む。サブピクチャが動き制約サブピクチャであることを示すために、フラグもSPS内にエンコードされ得る。そのような場合、サブピクチャサイズおよびサブピクチャ位置は、動き制約サブピクチャのレイアウトを示す。
ステップ1007において、サブピクチャIDが、ピクチャから区分されたサブピクチャの各々についてSPSへとエンコードされる。ピクチャから区分されたサブピクチャの数も、SPSへとエンコードされ得る。ステップ1009において、ビットストリームがデコーダに向けた通信のために記憶される。ビットストリームは次いで、望まれるようにデコーダに向けて送信され得る。いくつかの例では、サブビットストリームは、エンコードされたビットストリームから抽出され得る。そのような場合、送信されるビットストリームはサブビットストリームである。他の例では、エンコードされたビットストリームは、デコーダにおけるサブビットストリームの抽出のために送信され得る。さらに他の例では、エンコードされたビットストリームは、サブビットストリームの抽出なしでデコードされ表示され得る。これらの例のいずれにおいても、サブピクチャのサイズ、位置、ID、数、および／または動き制約サブピクチャフラグが、サブピクチャ・レイアウトをデコーダに効率的にシグナリングするために使用され得る。
図11は、シグナリングされたサブピクチャ・レイアウトに基づいて、サブピクチャ522、523、622、722、および／または822のようなサブピクチャの、ビットストリーム500および／またはサブビットストリーム501のようなビットストリームをデコードする一例の方法1100のフローチャートである。方法1100は、方法100を実行するとき、コーデックシステム200、デコーダ400、および／またはビデオコーディングデバイス900のようなデコーダによって利用され得る。たとえば、方法1100は、方法1000の結果として作り出されるビットストリームをデコードするために適用され得る。
方法1100は、デコーダがサブピクチャを含むビットストリームを受信することを開始するとき開始し得る。ビットストリームは完全なビデオシーケンスを含んでもよく、または、ビットストリームは別々の抽出のためにサブピクチャの低減されたセットを含むサブビットストリームであってもよい。ステップ1101において、ビットストリームが受信される。ビットストリームは、ピクチャから区分されたサブピクチャを備える。ビットストリームはSPSも備える。SPSは、サブピクチャサイズおよびサブピクチャ位置を備える。いくつかの例では、サブピクチャは時間動き制約サブピクチャである。そのような場合、サブピクチャサイズおよびサブピクチャ位置は、動き制約サブピクチャのレイアウトを示す。いくつかの例では、SPSは、ピクチャから区分された各サブピクチャについてのサブピクチャIDをさらに備え得る。
ステップ1103において、SPSが、サブピクチャサイズおよびサブピクチャ位置を取得するために解析される。サブピクチャサイズは、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含み得る。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含み得る。サブピクチャは、また、時間動き制約サブピクチャフラグおよび／またはサブピクチャIDのような他のサブピクチャ関連のデータを取得するために解析され得る。
ステップ1105において、サブピクチャのサイズが、サブピクチャサイズに基づいてディスプレイのサイズに対して決定されることが可能である。さらに、サブピクチャの位置が、サブピクチャ位置に基づいてディスプレイに対して決定されることが可能である。デコーダは、また、時間動き制約サブピクチャフラグに基づいて、サブピクチャが独立にデコードされることが可能であるかどうかを決定することができる。従って、デコーダは、SPSからの解析されたデータおよび／またはサブピクチャに含まれるスライスと関連付けられるスライスヘッダからの対応するデータに基づいて、サブピクチャのレイアウトを決定することができる。
ステップ1107において、サブピクチャが、サブピクチャサイズ、サブピクチャ位置、および／または、SPS、PPS、スライスヘッダ、SEIメッセージなどから取得される他の情報に基づいてデコードされる。サブピクチャは、ビデオシーケンスを作り出すためにデコードされる。ステップ1109において、ビデオシーケンスが次いで、表示のために転送されることが可能である。
図12は、サブピクチャ522、523、622、722、および／または822のためのレイアウトのようなサブピクチャ・レイアウトを、ビットストリーム500および／またはサブビットストリーム501のようなビットストリームを介してシグナリングするための一例のシステム1200の概略図である。システム1200は、コーデックシステム200、エンコーダ300、デコーダ400、および／またはビデオコーディングデバイス900のようなエンコーダおよびデコーダによって実装され得る。さらに、システム1200は、方法100、1000、および／または1100を実装するときに利用され得る。
システム1200はビデオエンコーダ1202を含む。ビデオエンコーダ1202は、現在のサブピクチャを含む複数のサブピクチャへとピクチャを区分するための区分モジュール1201を備える。ビデオエンコーダ1202は、ピクチャから区分されたサブピクチャをビットストリームへとエンコードし、サブピクチャのサブピクチャサイズおよびサブピクチャ位置をビットストリーム内のSPSへとエンコードするためのエンコードモジュール1203をさらに備える。ビデオエンコーダ1202は、デコーダに向けた通信のためにビットストリームを記憶するための記憶モジュール1205をさらに備える。ビデオエンコーダ1202は、サブピクチャ、サブピクチャサイズ、およびサブピクチャ位置を含むビットストリームをデコーダに向けて送信するための送信モジュール1207をさらに備える。ビデオエンコーダ1202は、方法1000のステップのいずれかを実行するようにさらに構成され得る。
システム1200はビデオデコーダ1210も含む。ビデオデコーダ1210は、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を備えるSPSとを受信するための受信モジュール1211を備える。ビデオデコーダ1210は、SPSを解析してサブピクチャサイズおよびサブピクチャ位置を取得するための解析モジュール1213をさらに備える。ビデオデコーダ1210は、サブピクチャサイズおよびサブピクチャ位置に基づいてサブピクチャをデコードしてビデオシーケンスを作り出すためのデコードモジュール1215をさらに備える。ビデオデコーダ1110は、表示のためにビデオシーケンスを転送するための転送モジュール1217をさらに備える。ビデオデコーダ1210は、方法1100のステップのいずれかを実行するようにさらに構成され得る。
第1のコンポーネントと第2のコンポーネントとの間の線、トレース、または別の媒体を除き、介在するコンポーネントがないとき、第1のコンポーネントは第2のコンポーネントに直接に結合される。第1のコンポーネントと第2のコンポーネントとの間に線、トレース、または別の媒体以外の介在するコンポーネントがあるとき、第1のコンポーネントは第2のコンポーネントに間接に結合される。用語「結合される」およびその変形は、直接に結合されるおよび間接に結合されるの両方を含む。用語「約」の使用は、そうでなく述べられるのでなければ、後続の数字の±10%を含む範囲を意味する。
ここに記載される典型的な方法のステップは、必ずしも説明された順序で実行されることは要求されないことも理解されるべきであり、そのような方法のステップの順序は単に典型的であると理解されるべきである。同様に、追加のステップがそのような方法に含まれてもよく、本開示の様々な実施形態と首尾一貫する方法において、あるステップが省略または組み合わされてもよい。
いくつかの実施形態が本開示において提供されたが、開示されたシステムおよび方法は、本開示の精神または範囲から逸脱することなく、多くの他の特定の形式で具現化され得ることが理解され得る。本例は、例示的であり、制限的でないとして考慮されるべきであり、意図はここで与えられる詳細に限定されることでない。たとえば、別のシステムでは様々な要素またはコンポーネントが組み合わされ、または統合されてもよく、またはある特徴が省略され、または実装されなくてもよい。
加えて、様々な実施形態において個別または別々として説明され例示される技法、システム、サブシステム、および方法は、本開示の範囲から逸脱することなく、他のシステム、コンポーネント、技法、または方法と組み合わされ、または統合されてもよい。改変、置換、および変更の他の例は、この技術分野の当業者によって確認可能であり、ここで開示される精神および範囲から逸脱することなく行われ得る。
200 コーデックシステム
201 区分されたビデオ信号
211 汎用コーダ制御コンポーネント
213 変換スケーリングおよび量子化コンポーネント
215 イントラピクチャ推定コンポーネント
217 イントラピクチャ予測コンポーネント
219 動き補償コンポーネント
221 動き推定コンポーネント
223 デコードされたピクチャバッファコンポーネント
225 ループ内フィルタコンポーネント
227 フィルタ制御分析コンポーネント
229 スケーリングおよび逆変換コンポーネント
231 ヘッダフォーマッティングおよびCABACコンポーネント
301 区分されたビデオ信号
313 変換および量子化コンポーネント
317 イントラピクチャ予測コンポーネント
321 動き補償コンポーネント
323 デコードされたピクチャバッファコンポーネント
325 ループ内フィルタコンポーネント
329 逆変換および量子化コンポーネント
331 エントロピーコーディングコンポーネント
417 イントラピクチャ予測コンポーネント
421 動き補償コンポーネント
423 デコードされたピクチャバッファコンポーネント
425 ループ内フィルタコンポーネント
429 逆変換および量子化コンポーネント
433 エントロピーデコードコンポーネント
500 ビットストリーム
501 サブビットストリーム
510 SPS
512 PPS
514 スライスヘッダ
515 SEIメッセージ
520 画像データ
521 ピクチャ
522 サブピクチャ
523 サブピクチャ
524 スライス
525 スライス
531 サブピクチャサイズ
532 サブピクチャ位置
533 サブピクチャID
534 動き制約サブピクチャフラグ
535 サブピクチャレベル
600 ピクチャ
622 サブピクチャ
631 サブピクチャサイズ
631a サブピクチャ幅
631b サブピクチャ高さ
632 位置
633 サブピクチャID
634 時間動き制約サブピクチャ
642 左上サンプル
700 機構
722 サブピクチャ
724 スライス
733 サブピクチャID
742 左上の角
801 ピクチャの右の境界
802 ピクチャの下の境界
822 サブピクチャ
825 CTU
900 ビデオコーディングデバイス
910 送信機／受信機
914 コーディングモジュール
920 ダウンストリームポート
930 プロセッサ
932 メモリ
950 アップストリームポート
960 I/Oデバイス
1200 システム
1201 区分モジュール
1202 ビデオエンコーダ
1203 エンコードモジュール
1205 記憶モジュール
1207 送信モジュール
1210 ビデオデコーダ
1211 受信モジュール
1213 解析モジュール
1215 デコードモジュール
1217 転送モジュール
201 区分されたビデオ信号
211 汎用コーダ制御コンポーネント
213 変換スケーリングおよび量子化コンポーネント
215 イントラピクチャ推定コンポーネント
217 イントラピクチャ予測コンポーネント
219 動き補償コンポーネント
221 動き推定コンポーネント
223 デコードされたピクチャバッファコンポーネント
225 ループ内フィルタコンポーネント
227 フィルタ制御分析コンポーネント
229 スケーリングおよび逆変換コンポーネント
231 ヘッダフォーマッティングおよびCABACコンポーネント
301 区分されたビデオ信号
313 変換および量子化コンポーネント
317 イントラピクチャ予測コンポーネント
321 動き補償コンポーネント
323 デコードされたピクチャバッファコンポーネント
325 ループ内フィルタコンポーネント
329 逆変換および量子化コンポーネント
331 エントロピーコーディングコンポーネント
417 イントラピクチャ予測コンポーネント
421 動き補償コンポーネント
423 デコードされたピクチャバッファコンポーネント
425 ループ内フィルタコンポーネント
429 逆変換および量子化コンポーネント
433 エントロピーデコードコンポーネント
500 ビットストリーム
501 サブビットストリーム
510 SPS
512 PPS
514 スライスヘッダ
515 SEIメッセージ
520 画像データ
521 ピクチャ
522 サブピクチャ
523 サブピクチャ
524 スライス
525 スライス
531 サブピクチャサイズ
532 サブピクチャ位置
533 サブピクチャID
534 動き制約サブピクチャフラグ
535 サブピクチャレベル
600 ピクチャ
622 サブピクチャ
631 サブピクチャサイズ
631a サブピクチャ幅
631b サブピクチャ高さ
632 位置
633 サブピクチャID
634 時間動き制約サブピクチャ
642 左上サンプル
700 機構
722 サブピクチャ
724 スライス
733 サブピクチャID
742 左上の角
801 ピクチャの右の境界
802 ピクチャの下の境界
822 サブピクチャ
825 CTU
900 ビデオコーディングデバイス
910 送信機／受信機
914 コーディングモジュール
920 ダウンストリームポート
930 プロセッサ
932 メモリ
950 アップストリームポート
960 I/Oデバイス
1200 システム
1201 区分モジュール
1202 ビデオエンコーダ
1203 エンコードモジュール
1205 記憶モジュール
1207 送信モジュール
1210 ビデオデコーダ
1211 受信モジュール
1213 解析モジュール
1215 デコードモジュール
1217 転送モジュール
本開示は一般にビデオコーディングに関し、具体的にはビデオコーディングにおけるサブピクチャ管理に関する。
比較的短いビデオでさえ描写するために必要とされるビデオデータの量はかなりであることがあり、これは、限られた帯域幅容量を有する通信ネットワークにわたって、データがストリーミングされ、またはそうでなければ伝達されるとき、困難をもたらし得る。従って、ビデオデータは一般に、現代の電気通信ネットワークにわたって伝達される前に圧縮される。メモリリソースは限られ得るので、ビデオが記憶デバイスに記憶されるとき、ビデオのサイズも問題であり得る。ビデオ圧縮デバイスはしばしば、ソースにおけるソフトウェアおよび／またはハードウェアを使用して、送信または記憶の前にビデオデータをコーディングし、それにより、デジタルビデオ画像を表現するために必要とされるデータの量を減らす。圧縮されたデータは次いで、ビデオデータをデコードするビデオ伸長デバイスによってデスティネーションにおいて受信される。限られたネットワークリソース、およびより高いビデオ品質のいっそう増加する要求により、画像品質においてほとんどまたはまったく犠牲なく圧縮比を改善する、改善された圧縮および伸長技法が望ましい。
実施形態では、開示は、デコーダ内に実装される方法であって、デコーダの受信機によって、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を備えるシーケンス・パラメータ・セット(SPS)とを受信するステップと、デコーダのプロセッサによって、SPSを解析してサブピクチャサイズおよびサブピクチャ位置を取得するステップと、プロセッサによって、サブピクチャサイズおよびサブピクチャ位置に基づいてサブピクチャをデコードしてビデオシーケンスを作り出すステップと、プロセッサによって、表示のためにビデオシーケンスを転送するステップと、を備える方法を含む。タイルおよびサブピクチャはピクチャより小さいので、いくつかのシステムは、タイリング情報およびサブピクチャ情報をピクチャ・パラメータ・セット(PPS)内に含む。しかしながら、サブピクチャは、関心領域(ROI)の適用およびサブピクチャを基にしたアクセス方式をサポートするために使用され得る。これらの適用はピクチャごとに変化しない。開示される例は、PPSの代わりにSPS内にサブピクチャのためのレイアウト情報を含む。サブピクチャ・レイアウト情報は、サブピクチャ位置およびサブピクチャサイズを含む。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセットである。サブピクチャサイズは、ルマサンプルにおいて測定されるようなサブピクチャの高さおよび幅である。ビデオシーケンスは、単一のSPS(またはビデオセグメントごとに1つ)を含んでもよく、ピクチャごとに1つのPPSと同数のものを含んでもよい。SPS内にサブピクチャのためのレイアウト情報を配置することは、レイアウトが、各PPSについて冗長にシグナリングされるのではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、コーディング効率を増加させ、従って、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。また、いくつかのシステムは、デコーダによって導出されるサブピクチャ情報を有する。サブピクチャ情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャを抽出することに関して追加の機能をサポートする。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャが時間動き制約サブピクチャであること、および、サブピクチャサイズおよびサブピクチャ位置が時間動き制約サブピクチャのレイアウトを示すことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、サブピクチャサイズに基づいてディスプレイのサイズに対するサブピクチャのサイズを決定することをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、サブピクチャ位置に基づいてディスプレイに対するサブピクチャの位置を決定することをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャ位置が、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャサイズが、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、SPSが、ピクチャから区分された各サブピクチャについてのサブピクチャ識別子(ID)をさらに備えることを提供する。
実施形態では、開示は、エンコーダ内に実装される方法であって、エンコーダのプロセッサによって、ピクチャから区分されたサブピクチャをビットストリームへとエンコードするステップと、プロセッサによって、サブピクチャのサブピクチャサイズおよびサブピクチャ位置をビットストリーム内のSPSへとエンコードするステップと、エンコーダのメモリに、デコーダに向けた通信のためにビットストリームを記憶するステップと、を備える方法を含む。タイルおよびサブピクチャはピクチャより小さいので、いくつかのシステムは、タイリング情報およびサブピクチャ情報をピクチャ・パラメータ・セット(PPS)内に含む。しかしながら、サブピクチャは、関心領域(ROI)の適用およびサブピクチャを基にしたアクセス方式をサポートするために使用され得る。これらの適用はピクチャごとに変化しない。開示される例は、PPSの代わりにSPS内にサブピクチャのためのレイアウト情報を含む。サブピクチャ・レイアウト情報は、サブピクチャ位置およびサブピクチャサイズを含む。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセットである。サブピクチャサイズは、ルマサンプルにおいて測定されるようなサブピクチャの高さおよび幅である。ビデオシーケンスは、単一のSPS(またはビデオセグメントごとに1つ)を含んでもよく、ピクチャごとに1つのPPSと同数のものを含んでもよい。SPS内にサブピクチャのためのレイアウト情報を配置することは、レイアウトが、各PPSについて冗長にシグナリングされるのではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、コーディング効率を増加させ、従って、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。また、いくつかのシステムは、デコーダによって導出されるサブピクチャ情報を有する。サブピクチャ情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャを抽出することに関して追加の機能をサポートする。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、サブピクチャが時間動き制約サブピクチャであることを示すために、フラグをSPS内にエンコードすることをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャサイズおよびサブピクチャ位置が時間動き制約サブピクチャのレイアウトを示すことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャ位置が、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、サブピクチャサイズが、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含むことを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、ピクチャから区分されたサブピクチャの各々についてのサブピクチャIDをSPSへとエンコードすることをさらに備えることを提供する。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、プロセッサによって、ピクチャから区分されたサブピクチャの数をSPS内にエンコードすることをさらに備えることを提供する。
実施形態では、開示は、プロセッサ、メモリ、プロセッサに結合された受信機、およびプロセッサに結合された送信機を備えるビデオコーディングデバイスを含み、プロセッサ、メモリ、受信機、および送信機は、先行する態様のいずれかの方法を実行するように構成される。
実施形態では、開示は、ビデオコーディングデバイスによる使用のためのコンピュータプログラム製品を備える非一時的コンピュータ可読媒体を含み、コンピュータプログラム製品は、プロセッサによって実行されるときビデオコーディングデバイスに先行する態様のいずれかの方法を実行させるような、非一時的コンピュータ可読媒体に記憶されたコンピュータ実行可能命令を備える。
実施形態では、開示は、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を備えるSPSとを受信するための受信手段と、SPSを解析してサブピクチャサイズおよびサブピクチャ位置を取得するための解析手段と、サブピクチャサイズおよびサブピクチャ位置に基づいてサブピクチャをデコードしてビデオシーケンスを作り出すためのデコード手段と、表示のためにビデオシーケンスを転送するための転送手段と、を備えるデコーダを含む。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、デコーダが先行する態様のいずれかの方法を実行するようにさらに構成されることを提供する。
実施形態では、開示は、ピクチャから区分されたサブピクチャをビットストリームへとエンコードし、サブピクチャのサブピクチャサイズおよびサブピクチャ位置をビットストリーム内のSPSへとエンコードするためのエンコード手段と、デコーダに向けた通信のためにビットストリームを記憶するための記憶手段と、を備えるエンコーダを含む。
任意選択で、先行する態様のいずれかにおいて、態様の別の実装は、エンコーダが先行する態様のいずれかの方法を実行するようにさらに構成されることを提供する。
明確さの目的のために、前述の実施形態のいずれか1つが、本開示の範囲内で新しい実施形態を作り出すために、他の前述の実施形態のいずれか1つまたは複数と組み合わせられ得る。
これらおよび他の特徴は、添付の図面および請求項と併せて用いられる以下の詳細な説明からより明確に理解されるであろう。
この開示のより完全な理解のために、添付の図面および詳細な説明に関連して用いられる以下の簡単な説明への参照がここで行われ、同様の参照符号は同様の部分を表現する。
1つまたは複数の実施形態の例示的な実装が以下で提供されるが、開示されるシステムおよび／または方法は、現在知られているか、または存在しているかにかかわらず、任意の数の技法を使用して実装され得ることが始めに理解されるべきである。開示は、ここで例示され説明される典型的な設計および実装を含む、以下で例示される例示的な実装、図、および技法に、いかなる場合も限定されるべきでなく、しかし、それらの等価物の完全な範囲とともに添付の請求項の範囲内で修正され得る。
コーディング・ツリー・ブロック(CTB)、コーディング・ツリー・ユニット(CTU)、コーディング・ユニット(CU)、コーディングされたビデオシーケンス(CVS)、ジョイント・ビデオ・エキスパート・チーム(JVET)、動き制約タイルセット(MCTS)、最大伝送単位(MTU)、ネットワーク抽象化レイヤ(NAL)、ピクチャ順序カウント(POC)、ロー・バイト・シーケンス・ペイロード(RBSP)、シーケンス・パラメータ・セット(SPS)、バーサタイル・ビデオ・コーディング(VVC)、およびワーキング・ドラフト(WD)のような様々な頭字語がここで利用される。
データの最小損失とともにビデオファイルのサイズを低減するために、多くのビデオ圧縮技法が利用されることが可能である。たとえば、ビデオ圧縮技法は、空間(たとえば、イントラピクチャ)予測および／または時間(たとえば、インターピクチャ)予測を実行して、ビデオシーケンスにおけるデータ冗長性を低減するまたは取り除くことを含むことができる。ブロックを基にしたビデオコーディングのために、ビデオスライス(たとえば、ビデオピクチャまたはビデオピクチャの一部)がビデオブロックへと区分されてもよく、これは、ツリーブロック、コーディング・ツリー・ブロック(CTB)、コーディング・ツリー・ユニット(CTU)、コーディング・ユニット(CU)、および／またはコーデイング・ノードとも呼ばれ得る。ピクチャのイントラコーディングされた(I)スライス内のビデオブロックは、同じピクチャ内の近隣ブロック内の参照サンプルに関して空間予測を使用してコーディングされる。ピクチャのインターコーディングされた単方向予測(P)または双方向予測(B)スライス内のビデオブロックは、同じピクチャ内の近隣ブロック内の参照サンプルに関して空間予測、または他の参照ピクチャ内の参照サンプルに関して時間予測を利用することによってコーディングされ得る。ピクチャはフレームおよび／または画像と呼ばれることがあり、参照ピクチャは参照フレームおよび／または参照画像と呼ばれることがある。空間予測または時間予測は、画像ブロックを表現する予測ブロックをもたらす。残差データは、元の画像ブロックと予測ブロックとの間のピクセル差を表現する。従って、インターコーディングされたブロックは、予測ブロックを形成する参照サンプルのブロックを指し示す動きベクトル、およびコーディングされたブロックと予測ブロックとの間の差を示す残差データに従ってエンコードされる。イントラコーディングされたブロックは、イントラコーディングモードおよび残差データに従ってエンコードされる。さらなる圧縮のために、残差データはピクセル領域から変換領域に変換され得る。これらは、量子化され得る残差変換係数をもたらす。量子化された変換係数は最初に、2次元アレイに配置され得る。量子化された変換係数が、変換係数の1次元ベクトルを作成するために走査され得る。エントロピーコーディングは、よりいっそうの圧縮を達成するために適用され得る。そのようなビデオ圧縮技法は、以下でより詳細に論じられる。
エンコードされたビデオが正確にデコードされることが可能であることを保証するために、対応するビデオコーディング規格に従って、ビデオがエンコードされデコードされる。ビデオコーディング規格は、国際電気通信連合(ITU)標準化部門(ITU-T)H.261、国際標準化機構／国際電気標準会議(ISO/IEC)モーション・ピクチャ・エキスパート・グループ(MPEG)-1 Part 2、ITU-T H.262またはISO/IEC MPEG-2 Part 2、ITU-T H.263、ISO/IEC MPEG-4 Part 2、ITU-T H.264またはISO/IEC MPEG-4 Part 10としても知られているアドバンスト・ビデオ・コーディング(AVC)、およびITU-T H.265またはMPEG-H Part 2としても知られている高効率ビデオコーディング(HEVC)を含む。AVCは、スケーラブル・ビデオ・コーディング(SVC)、マルチビュー・ビデオ・コーディング(MVC)およびマルチビュー・ビデオ・コーディング・プラス・デプス(MVC+D)、ならびに3次元(3D)AVC(3D-AVC)のような拡張を含む。HEVCは、スケーラブルHEVC(SHVC)、マルチビューHEVC(MV-HEVC)、および3D HEVC(3D-HEVC)のような拡張を含む。ITU-TおよびISO/IECのジョイント・ビデオ・エキスパート・チーム(JVET)は、バーサタイル・ビデオ・コーディング(VVC)と呼ばれるビデオコーディング規格を開発することを開始した。VVCはワーキング・ドラフト(WD)に含まれ、これはJVET-L1001-v9を含む。
ビデオ画像をコーディングするために、画像はまず区分され、区分はビットストリームへとコーディングされる。様々なピクチャ区分方式が利用可能である。たとえば、画像は、通常のスライス、従属スライス、タイルへと、および／または、波面並列処理(WPP)に従って区分されることが可能である。簡潔さのために、ビデオコーディングのためにCTBのグループへとスライスを区分するとき、通常のスライス、従属スライス、タイル、WPP、およびそれらの組み合わせのみが使用されることが可能であるように、HEVCはエンコーダを制限する。そのような区分は、最大伝送単位(MTU)サイズのマッチング、並列処理、低減されたエンドツーエンド遅延をサポートするために適用されることが可能である。MTUは、単一のパケットにおいて送信されることが可能であるデータの最大量を表記する。パケットペイロードがMTUを超えるならば、そのペイロードは断片化と呼ばれる処理を通じて2つのパケットへと分割される。
単にスライスとも呼ばれる通常のスライスは、ループフィルタリング動作によるいくらかの相互依存性にもかかわらず、同じピクチャ内の他の通常のスライスとは独立に再構築されることが可能である画像の区分された部分である。各々の通常のスライスは、送信のためにそれ自身のネットワーク抽象化レイヤ(NAL)ユニットにカプセル化される。さらに、ピクチャ内予測(イントラサンプル予測、動き情報予測、コーディングモード予測)およびスライス境界にわたるエントロピーコーディング依存性は、独立した再構築をサポートするために無効にされ得る。そのような独立した再構築は並列化をサポートする。たとえば、通常のスライスを基にした並列化は、最小のプロセッサ間またはコア間通信を利用する。しかしながら、各々の通常のスライスは独立であるので、各スライスは別々のスライスヘッダと関連付けられる。通常のスライスの使用は、各スライスについてのスライスヘッダのビットコストにより、およびスライス境界にわたる予測の欠如により、かなりのコーディングオーバーヘッドを招くことがある。さらに、通常のスライスは、MTUサイズの要件についてのマッチングをサポートするために利用され得る。具体的には、通常のスライスは別々のNALユニットにカプセル化され、独立にコーディングされることが可能であるので、各々の通常のスライスは、複数のパケットへとスライスを分けることを避けるために、MTU方式におけるMTUより小さいべきである。それゆえ、並列化の目標およびMTUサイズのマッチングの目標は、ピクチャにおけるスライスレイアウトへの矛盾する要求を課し得る。
従属スライスは通常のスライスに類似するが、短縮されたスライスヘッダを有し、ピクチャ内予測を破壊することなく画像ツリーブロック境界の区分を可能にする。従って、従属スライスは、通常のスライスが複数のNALユニットへと断片化されることを可能にし、これは、通常のスライス全体のエンコードが完了する前に通常のスライスの一部が送り出されることを可能にすることによって、低減されたエンドツーエンド遅延を提供する。
タイルは、タイルの列と行を作り出す水平および垂直の境界によって作り出される画像の区分された部分である。タイルはラスター走査順(右から左および上から下)でコーディングされ得る。CTBの走査順はタイル内で局所的である。従って、第1のタイル内のCTBは、次のタイル内のCTBに進む前に、ラスター走査順でコーディングされる。通常のスライスと類似して、タイルは、エントロピーデコードの依存性とともにピクチャ内予測の依存性を破壊する。しかしながら、タイルは個々のNALユニットに含まれないことがあり、従って、タイルはMTUサイズのマッチングのために使用されないことがある。各タイルは、1つのプロセッサ／コアによって処理されることが可能であり、近隣のタイルをデコードする処理ユニット間のピクチャ内予測のために利用されるプロセッサ間／コア間通信は、共有されるスライスヘッダを搬送すること(隣接するタイルが同じスライス内にあるとき)、および再構築されたサンプルとメタデータのループフィルタリング関連の共有を実行することに限定され得る。1つより多くのタイルがスライスに含まれるとき、スライス内の最初のエントリ・ポイント・オフセット以外の各タイルについてのエントリ・ポイント・バイト・オフセットが、スライスヘッダ内でシグナリングされ得る。各スライスおよびタイルについて、以下の条件、1)スライス内のすべてのコーディングされたツリーブロックが同じタイルに属する、および2)タイル内のすべてのコーディングされたツリーブロックが同じスライスに属する、のうちの少なくとも1つが満たされるべきである。
WPPでは、画像はCTBの単一の行へと区分される。エントロピーデコードおよび予測機構は、他の行におけるCTBからのデータを使用し得る。並列処理は、CTBの行の並列デコードを通じて可能にされる。たとえば、現在の行は、先行する行と並列にデコードされ得る。しかしながら、現在の行のデコードは、2つのCTBによる先行する行のデコードプロセスより遅延する。この遅延は、現在の行における現在のCTBの上にあるCTBおよび右上にあるCTBに関連するデータが、現在のCTBがコーディングされる前に利用可能であることを保証する。この手法は、グラフィカルに表現されるとき波面として現れる。このずらされた開始は、画像が含むCTBの行の数と同じ数までのプロセッサ／コアを用いた並列化を可能にする。ピクチャ内の近隣のツリーブロックの行の間のピクチャ内予測が許容されるので、ピクチャ内予測を有効にするためのプロセッサ間／コア間通信はかなりであることがある。WPPの区分はNALユニットサイズを考慮する。従って、WPPはMTUサイズのマッチングをサポートしない。しかしながら、要求に応じてMTUサイズのマッチングを実装するために、あるコーディングオーバーヘッドを有してWPPと併せて通常のスライスが使用されることが可能である。
タイルは動き制約タイルセットも含み得る。動き制約タイルセット(MCTS)は、関連付けられた動きベクトルが、MCTS内部の完全サンプル位置と、補間のためにMCTS内部の完全サンプル位置のみを要求する分数サンプル位置とを指し示すように制限されるように設計されたタイルセットである。さらに、MCTS外部のブロックから導出される時間動きベクトル予測についての動きベクトル候補の使用は許容されない。このようにして、各MCTSは、MCTSに含まれないタイルが存在することなく、独立にデコードされ得る。時間MCTS補足強化情報(SEI)メッセージは、ビットストリームにおけるMCTSの存在を示し、MCTSをシグナリングするために使用され得る。MCTS SEIメッセージは、MCTSセットについて準拠するビットストリームを生成するために、MCTSサブビットストリーム抽出(SEIメッセージのセマンティクスの部分として指定される)において使用されることが可能である補足情報を提供する。情報はいくつかの抽出情報セットを含み、各々が、MCTSセットの数を定義し、MCTSサブビットストリーム抽出プロセスの間に使用されるべき置換ビデオパラメータセット(VPS)、シーケンス・パラメータ・セット(SPS)、およびピクチャ・パラメータ・セット(PPS)のロー・バイト・シーケンス・ペイロード(RBSP)バイトを含む。MCTSサブビットストリーム抽出プロセスに従ってサブビットストリームを抽出するとき、パラメータセット(VPS、SPS、およびPPS)は、書き直され、または置換されてもよく、スライスアドレス関連のシンタックス要素(first_slice_segment_in_pic_flagおよびslice_segment_addressを含む)のうちの1つまたはすべてが、抽出されたサブビットストリームにおいて異なる値を利用し得るので、スライスヘッダは更新されてもよい。
ピクチャは、また、1つまたは複数のサブピクチャへと区分され得る。サブピクチャは、0に等しいtile_group_addressを有するタイルグループで開始する、タイルグループ／スライスの長方形セットである。各サブピクチャは、別々のPPSを参照することが可能であり、従って、別々のタイル区分を有することが可能である。サブピクチャは、デコードプロセスにおいてピクチャのように扱われ得る。現在のサブピクチャをデコードするための参照サブピクチャは、デコードされたピクチャバッファにおいて参照ピクチャから現在のサブピクチャと同じに位置付けられるエリアを抽出することによって生成される。抽出されたエリアは、デコードされたサブピクチャとして扱われる。同じサイズのサブピクチャとピクチャ内の同じ位置との間で、インター予測が行われ得る。スライスとしても知られているタイルグループは、ピクチャまたはサブピクチャ内の関連するタイルのシーケンスである。ピクチャ内のサブピクチャの位置を決定するために、いくつかの項目が導出されることが可能である。たとえば、各々の現在のサブピクチャは、ピクチャ境界内に現在のサブピクチャを含むために十分大きいピクチャ内で、CTUラスター走査順で次の占有されていない位置に配置され得る。
さらに、ピクチャ区分は、ピクチャレベルタイルおよびシーケンスレベルタイルに基づき得る。シーケンスレベルタイルは、MCTSの機能を含んでもよく、サブピクチャとして実装され得る。たとえば、ピクチャレベルタイルは、ピクチャ内の特定のタイル列および特定のタイル行内のコーディング・ツリー・ブロックの長方形領域として定義され得る。シーケンスレベルタイルは、異なるフレームに含まれるコーディング・ツリー・ブロックの長方形領域のセットとして定義されてもよく、各長方形領域はさらに1つまたは複数のピクチャレベルタイルを備え、コーディング・ツリー・ブロックの長方形領域のセットは類似する長方形領域の任意の他のセットから独立にデコード可能である。シーケンスレベルタイルグループセット(STGPS)は、そのようなシーケンスレベルタイルのグループである。STGPSは、NALユニットヘッダ内に関連付けられた識別子(ID)を有する非ビデオコーディングレイヤ(VCL)NALユニット内でシグナリングされ得る。
先行するサブピクチャを基にした区分方式は、ある課題と関連付けられ得る。たとえば、サブピクチャが有効にされるとき、サブピクチャ内のタイリング(タイルへのサブピクチャの区分)が、並列処理をサポートするために使用されることが可能である。並列処理の目的のためのサブピクチャのタイル区分は、ピクチャごとに変化することが可能であり(たとえば、並列処理負荷のバランスをとる目的のために)、従って、ピクチャレベルで(たとえば、PPSにおいて)管理されてもよい。しかしながら、サブピクチャ区分(サブピクチャへのピクチャの区分)は、関心領域(ROI)およびサブピクチャを基にしたピクチャアクセスをサポートするために利用され得る。そのような場合、PPSにおけるサブピクチャまたはMCTSのシグナリングは効率的でない。
別の例では、ピクチャ内の任意のサブピクチャが時間動き制約サブピクチャとしてコーディングされるとき、ピクチャ内のすべてのサブピクチャが、時間動き制約サブピクチャとしてコーディングされ得る。そのようなピクチャ区分は限定的であり得る。たとえば、時間動き制約サブピクチャとしてサブピクチャをコーディングすることは、追加の機能と引き換えにコーディング効率を低減し得る。しかしながら、関心領域を基にした適用では、通常はサブピクチャのうちの1つまたは数個のみが、時間動き制約サブピクチャを基にした機能を使用する。従って、残りのサブピクチャは、何も実際上の利益を提供することなく、低減されたコーディング効率を被る。
別の例では、サブピクチャのサイズを指定するためのシンタックス要素は、ルマCTUサイズの単位で指定され得る。従って、サブピクチャの幅と高さの両方が、CtbSizeYの整数倍であるべきである。サブピクチャの幅と高さを指定するこの機構は、様々な問題をもたらし得る。たとえば、サブピクチャ区分は、CtbSizeYの整数倍であるピクチャ幅および／またはピクチャ高さを有するピクチャにのみ適用可能である。これは、サブピクチャの区分を、CTbSizeYの整数倍でない寸法を含むピクチャについて利用不可能として表現する。ピクチャ寸法がCtbSizeYの整数倍でないとき、サブピクチャ区分がピクチャの幅および／または高さに適用されるならば、最も右のサブピクチャおよび最も下のサブピクチャについてのルマサンプル単位でのサブピクチャ幅および／またはサブピクチャ高さの導出は正しくないであろう。そのような正しくない導出は、いくつかのコーディングツールにおいて誤った結果を引き起こす。
別の例では、ピクチャ内のサブピクチャの位置はシグナリングされなくてもよい。代わりに、位置は以下の規則を使用して導出される。現在のサブピクチャは、ピクチャ境界内にサブピクチャを含むために十分大きいピクチャ内で、CTUラスター走査順で次のそのような占有されていない位置に配置される。そのようなやり方でサブピクチャ位置を導出することは、いくつかの場合においてエラーを引き起こし得る。たとえば、サブピクチャが送信において損失されるならば、他のサブピクチャの位置が正しくなく導出され、デコードされたサンプルが誤った位置に配置される。サブピクチャが間違った順序で到着するとき、同じ課題が当てはまる。
別の例では、サブピクチャをデコードすることは、参照ピクチャ内で同じに位置付けられるサブピクチャの抽出を要求し得る。これは、プロセッサおよびメモリリソースの使用に関して、追加の複雑さおよび結果として生じる負担を強いることがある。
別の例では、サブピクチャが時間動き制約サブピクチャとして設計されるとき、サブピクチャ境界を横切るループフィルタが無効にされる。これは、タイル境界を横切るループフィルタが有効にされるかどうかにかかわらず起こる。そのような制約は、制限しすぎることがあり、複数のサブピクチャを利用するビデオピクチャについて視覚的なアーティファクトをもたらすことがある。
別の例では、SPS、STGPS、PPS、およびタイルグループヘッダの間の関係は、以下の通りである。STGPSはSPSを参照し、PPSはSTGPSを参照し、タイルグループヘッダ／スライスヘッダはPPSを参照する。しかしながら、STGPSおよびPPSは、PPSがSTGPSを参照するのではなく、直交すべきである。先行する構成は、また、同じピクチャのすべてのタイルグループが同じPPSを参照することを許容しないことがある。
別の例では、各STGPSは、サブピクチャの4つの側についてIDを含み得る。そのようなIDが使用されて同じ境界を共有するサブピクチャを識別し、それによって、それらの相対的な空間関係が定義されることが可能である。しかしながら、そのような情報は、いくつかの場合において、シーケンスレベルタイルグループセットについて位置およびサイズ情報を導出するために十分でないことがある。他の場合には、位置およびサイズ情報をシグナリングすることは冗長であり得る。
別の例では、STGPS IDは、8ビットを使用してVCL NALユニットのNALユニットヘッダ内でシグナリングされ得る。これはサブピクチャ抽出を助け得る。そのようなシグナリングは、NALユニットヘッダの長さを不必要に増加させ得る。別の問題は、シーケンスレベルタイルグループセットが重複を防ぐように制約されない限り、1つのタイルグループが複数のシーケンスレベルタイルグループセットと関連付けられ得ることである。
上述の課題のうちの1つまたは複数に対処するために、様々な機構がここで開示される。第1の例では、サブピクチャのためのレイアウト情報が、PPSの代わりにSPS内に含まれる。サブピクチャ・レイアウト情報は、サブピクチャ位置およびサブピクチャサイズを含む。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセットである。サブピクチャサイズは、ルマサンプルにおいて測定されるようなサブピクチャの高さと幅である。上で注記されたように、タイルはピクチャごとに変化し得るので、いくつかのシステムはPPS内にタイリング情報を含む。しかしながら、ROI適用およびサブピクチャを基にしたアクセスをサポートするために、サブピクチャが使用され得る。これらの機能は、ピクチャごとに変化しない。さらに、ビデオシーケンスは、単一のSPS(またはビデオセグメントごとに1つ)を含んでもよく、ピクチャごとに1つのPPSと同数のものを含んでもよい。SPS内にサブピクチャのためのレイアウト情報を配置することは、レイアウトが、各PPSについて冗長にシグナリングされるのではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、コーディング効率を増加させ、従って、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。また、いくつかのシステムは、デコーダによって導出されるサブピクチャ情報を有する。サブピクチャ情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャを抽出することに関して追加の機能をサポートする。従って、SPS内でサブピクチャ・レイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
第2の例では、サブピクチャの幅およびサブピクチャの高さは、CTUサイズの倍数に制約される。しかしながら、これらの制約は、サブピクチャがピクチャの右の境界またはピクチャの下の境界にそれぞれ配置されるとき、取り除かれる。上で注記されたように、いくつかのビデオシステムは、CTUサイズの倍数である高さおよび幅を含むようにサブピクチャを限定し得る。これは、サブピクチャが多くのピクチャレイアウトを用いて正しく動作することを妨げる。下と右のサブピクチャが、CTUサイズの倍数でない高さと幅をそれぞれ含むことを可能にすることによって、サブピクチャは、デコードエラーを引き起こすことなく任意のピクチャとともに使用され得る。これは、エンコーダおよびデコーダの機能を増加させることをもたらす。さらに、増加した機能は、エンコーダがより効率的にピクチャをコーディングすることを可能にし、これは、エンコーダおよびデコーダにおけるネットワークリソース、メモリリソース、および／または処理リソースの使用を低減する。
第3の例では、サブピクチャは、間隙または重複なしでピクチャを包含するように制約される。上で注記されたように、いくつかのビデオコーディングシステムは、サブピクチャが間隙および重複を含むことを許容する。これは、タイルグループ／スライスが複数のサブピクチャと関連付けられる可能性を作り出す。これがエンコーダにおいて許容されるならば、デコーダは、そのデコード方式がまれに使用されるときでも、そのようなコーディング方式をサポートするように構築されなければならない。サブピクチャの間隙および重複を許容しないことによって、サブピクチャのサイズおよび位置を決定するときにデコーダが潜在的な間隙および重複を考慮すること要求されないので、デコーダの複雑さが減らされることが可能である。さらに、サブピクチャの間隙および重複を許容しないことは、ビデオシーケンスについてエンコードを選択するときにエンコーダが間隙と重複の場合を考慮するのを省略できるので、エンコーダにおけるレート歪み最適化(RDO)プロセスの複雑さを低減する。従って、間隙および重複を回避することは、エンコーダおよびデコーダにおけるメモリリソースおよび／または処理リソースの使用を低減し得る。
第4の例では、サブピクチャが時間動き制約サブピクチャであるときを示すために、フラグが、SPS内でシグナリングされることが可能である。上で注記されたように、いくつかのシステムは、すべてのサブピクチャを時間動き制約サブピクチャであるようにまとめて設定しても、または、時間動き制約サブピクチャの使用を完全に許容しなくてもよい。そのような時間動き制約サブピクチャは、減らされたコーディング効率という犠牲を伴って、独立抽出機能を提供する。しかしながら、関心領域を基にした適用では、関心領域は独立抽出のためにコーディングされるべきであり、一方、関心領域の外側の領域はそのような機能を必要としない。従って、残りのサブピクチャは、何も実際上の利益を提供することなく、低減されたコーディング効率を被る。従って、フラグは、独立抽出が望まれないときに、増加したコーディング効率のために、独立抽出機能を提供する時間動き制約サブピクチャと非動き制約サブピクチャとの混合を可能にする。従って、フラグは、増加した機能および／または増加したコーディング効率を可能にし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
第5の例では、サブピクチャIDの完全なセットは、SPS内でシグナリングされ、スライスヘッダは、対応するスライスを含むサブピクチャを示すサブピクチャIDを含む。上で注記されたように、いくつかのシステムは、他のサブピクチャに対するサブピクチャ位置をシグナリングする。これは、サブピクチャが損失され、または別々に抽出されるならば、課題を引き起こす。各サブピクチャをIDによって指定することによって、サブピクチャは、他のサブピクチャを参照することなく配置され、サイズ決めされることが可能である。そして、これは、サブピクチャのいくつかを抽出するのみで、他のサブピクチャを送信することを回避する適用とともに誤り訂正をサポートする。すべてのサブピクチャIDの完全なリストが、関連するサイズ情報とともにSPS内で送信されることが可能である。各スライスヘッダは、対応するスライスを含むサブピクチャを示すサブピクチャIDを含み得る。このようにして、サブピクチャおよび対応するスライスは、他のサブピクチャを参照することなく抽出され配置されることが可能である。従って、サブピクチャIDは、増加した機能および／または増加したコーディング効率をサポートし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
第6の例では、レベルが各サブピクチャについてシグナリングされる。いくつかのビデオコーディングシステムでは、レベルがピクチャについてシグナリングされる。レベルは、ピクチャをデコードするために必要とされるハードウェアリソースを示す。上で注記されたように、異なるサブピクチャは、いくつかの場合において異なる機能を有することがあり、従って、コーディングプロセスの間に異なって扱われることがある。それゆえ、ピクチャを基にしたレベルは、いくつかのサブピクチャをデコードするために有用でないことがある。従って、本開示は、各サブピクチャについてレベルを含む。このようにして、各サブピクチャは、より複雑でない機構に従ってコーディングされるサブピクチャについてデコード要件を高すぎに設定することによってデコーダに不必要に負担をかけることなく、他のサブピクチャとは独立にコーディングされることが可能である。シグナリングされるサブピクチャレベル情報は、増加した機能および／または増加したコーディング効率をサポートし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
図1は、ビデオ信号をコーディングする一例の動作方法100のフローチャートである。具体的には、ビデオ信号はエンコーダにおいてエンコードされる。エンコードプロセスは、ビデオファイルサイズを低減するために様々な機構を利用することによってビデオ信号を圧縮する。より小さいファイルサイズは、圧縮されたビデオファイルがユーザに向かって送信されることを可能にし、一方、関連付けられた帯域幅オーバーヘッドを低減する。デコーダは次いで、圧縮されたビデオファイルをデコードして、エンドユーザへの表示のために元のビデオ信号を再構築する。デコードプロセスは一般に、デコーダがビデオ信号を首尾一貫して再構築することを可能にするために、エンコードプロセスを鏡写しにしたものである。
ステップ101において、ビデオ信号がエンコーダに入力される。たとえば、ビデオ信号は、メモリに記憶された圧縮されていないビデオファイルであり得る。別の例として、ビデオファイルは、ビデオカメラのようなビデオキャプチャデバイスによって捕捉され、ビデオのライブストリーミングをサポートするためにエンコードされ得る。ビデオファイルは、オーディオ成分とビデオ成分の両方を含み得る。ビデオ成分は、順番に見られるとき動きの視覚的な印象を与える一連の画像フレームを含む。フレームは、ここでルマ成分(またはルマサンプル)と呼ばれる光、およびクロマ成分(またはカラーサンプル)と呼ばれる色に関して表現されるピクセルを含む。いくつかの例では、フレームは、3次元で見ることをサポートするために深度値も含み得る。
ステップ103において、ビデオはブロックへと区分される。区分は、各フレーム内のピクセルを、圧縮のために正方形および／または長方形のブロックへと細分することを含む。たとえば、高効率ビデオコーディング(HEVC)(H.265およびMPEG-H Part 2としても知られている)では、フレームは、まずコーディング・ツリー・ユニット(CTU)へと分割されることが可能であり、これはあらかじめ定義されたサイズ(たとえば、64ピクセル×64ピクセル)のブロックである。CTUはルマおよびクロマサンプルの両方を含む。コーディング・ツリーは、CTUをブロックへと分割し、次いで、さらなるエンコードをサポートする構成が達成されるまでブロックを再帰的に細分するために利用され得る。たとえば、フレームのルマ成分は、個々のブロックが比較的均質な照明値を含むまで細分され得る。さらに、フレームのクロマ成分は、個々のブロックが比較的均質な色値を含むまで細分され得る。従って、区分機構はビデオフレームの内容に依存して変化する。
ステップ105において、ステップ103において区分された画像ブロックを圧縮するために様々な圧縮機構が利用される。たとえば、インター予測および／またはイントラ予測が利用され得る。インター予測は、共通のシーンにおける物体は連続するフレーム内に出現する傾向があるという事実を利用するように設計される。従って、参照フレーム内の物体を描写するブロックは、隣接フレーム内で繰り返し記述される必要はない。具体的には、テーブルのような物体は、複数のフレーム上で一定の位置にとどまり得る。従って、テーブルは一度記述され、隣接フレームは参照フレームへ戻って参照することができる。複数のフレーム上で物体を照合するために、パターンマッチング機構が利用され得る。さらに、動いている物体は、たとえば物体の動きまたはカメラの動きにより、複数のフレームにわたって表現され得る。特定の例として、ビデオは、複数のフレーム上で画面にわたって動く自動車を表し得る。そのような動きを記述するために動きベクトルが利用されることが可能である。動きベクトルは、フレーム内の物体の座標から参照フレーム内の物体の座標へのオフセットを提供する2次元ベクトルである。それゆえ、インター予測は、参照フレーム内の対応するブロックからのオフセットを示す動きベクトルのセットとして、現在のフレーム内の画像ブロックをエンコードすることができる。
イントラ予測は共通のフレーム内のブロックをエンコードする。イントラ予測は、ルマおよびクロマ成分がフレーム内で密集する傾向があるという事実を利用する。たとえば、木の一部における緑の斑点は、類似する緑の斑点に隣接して配置される傾向がある。イントラ予測は、複数の方向性予測モード(たとえば、HEVCでは33個)、平面モード、および直流(DC)モードを利用する。方向性モードは、現在のブロックが対応する方向における近隣ブロックのサンプルと類似する／同じであることを示す。平面モードは、行／列(たとえば、平面)に沿った一連のブロックが行の端にある近隣ブロックに基づいて補間されることが可能であることを示す。平面モードは、事実上、値を変化させる際に比較的一定の勾配を利用することによって、行／列にわたる光／色の滑らかな遷移を示す。DCモードは、境界平滑化のために利用され、方向性予測モードの角度方向と関連付けられるすべての近隣ブロックのサンプルと関連付けられる平均値とブロックが類似する／同じであることを示す。従って、イントラ予測ブロックは、実際の値の代わりに様々な関係する予測モードの値として画像ブロックを表現することができる。さらに、インター予測ブロックは、実際の値の代わりに動きベクトルの値として画像ブロックを表現することができる。いずれの場合でも、予測ブロックは、いくつかの場合において、画像ブロックを厳密に表現しないことがある。あらゆる差分が残差ブロックに格納される。ファイルをさらに圧縮するために、残差ブロックに変換が適用され得る。
ステップ107において、様々なフィルタリング技法が適用され得る。HEVCでは、フィルタはループ内フィルタリング方式に従って適用される。上で論じられたブロックを基にした予測は、デコーダにおけるブロック状の画像の生成をもたらし得る。さらに、ブロックを基にした予測方式は、ブロックをエンコードし、次いで、参照ブロックとしての後の使用のためにエンコードされたブロックを再構築し得る。ループ内フィルタリング方式は、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびサンプル適応オフセット(SAO)フィルタをブロック／フレームに反復的に適用する。これらのフィルタは、エンコードされたファイルが正確に再構築されることが可能であるように、そのようなブロッキングアーティファクトを軽減する。さらに、これらのフィルタは再構築された参照ブロックにおけるアーティファクトを軽減し、それによって、アーティファクトは、再構築された参照ブロックに基づいてエンコードされる後続のブロックにおいて追加のアーティファクトを作り出す見込みがより少ない。
いったんビデオ信号が区分され、圧縮され、フィルタリングされると、ステップ109において、結果として生じるデータがビットストリーム内にエンコードされる。ビットストリームは、デコーダにおける適切なビデオ信号の再構築をサポートするために望まれるあらゆるシグナリングデータとともに上で論じられたデータを含む。たとえば、そのようなデータは、区分データ、予測データ、残差ブロック、およびコーディング命令をデコーダに提供する様々なフラグを含み得る。ビットストリームは、要求に応じたデコーダに向けた送信のためにメモリに記憶され得る。ビットストリームは、また、複数のデコーダに向けたブロードキャストおよび／またはマルチキャストであり得る。ビットストリームの生成は反復的なプロセスである。従って、ステップ101、103、105、107、および109は、多数のフレームおよびブロック上で連続的および／または同時に起こり得る。図1に表される順序は、明確さおよび議論の容易さのために提示され、ビデオコーディングプロセスを特定の順序に限定することは意図されない。
ステップ111において、デコーダが、ビットストリームを受信し、デコードプロセスを開始する。具体的には、デコーダは、エントロピーデコード方式を利用して、ビットストリームを対応するシンタックスおよびビデオデータへと変換する。ステップ111において、デコーダが、ビットストリームからのシンタックスデータを利用して、フレームについての区分を決定する。区分は、ステップ103におけるブロック区分の結果と一致すべきである。ステップ111において利用されるようなエントロピーエンコード／デコードがここで説明される。エンコーダは、入力画像における値の空間的な配置に基づいて、いくつかの可能な選択からブロック区分方式を選択することのような、圧縮プロセスの間に多くの選択を行う。厳密な選択のシグナリングは、多数のビンを利用し得る。ここで使用されるように、ビンは、変数として扱われる二進値(たとえば、状況に依存して変化し得るビット値)である。エントロピーコーディングは、特定の場合について明らかに実行可能ではないあらゆる選択肢をエンコーダが廃棄することを可能にし、許容可能な選択肢のセットを残す。次いで、各々の許容可能な選択肢が符号語を割り当てられる。符号語の長さは、許容可能な選択肢の数に基づく(たとえば、2つの選択肢については1つのビン、3つから4つの選択肢については2つのビンなど)。エンコーダは次いで、選択された選択肢について符号語をエンコードする。符号語は、すべての可能な選択肢の潜在的に大きいセットからの選択を一意に示すのとは対照的に、許容可能な選択肢の小さいサブセットからの選択を一意に示すために望まれるぐらいの大きさであるので、この方式は符号語のサイズを低減する。デコーダは次いで、許容可能な選択肢のセットをエンコーダと類似する方式で決定することによって、選択をデコードする。許容可能な選択肢のセットを決定することによって、デコーダは、符号語を読み取り、エンコーダによって行われる選択を決定することができる。
ステップ113において、デコーダがブロックデコードを実行する。具体的には、デコーダは、逆変換を利用して残差ブロックを生成する。次いで、デコーダは、残差ブロックおよび対応する予測ブロックを利用して、区分に従って画像ブロックを再構築する。予測ブロックは、ステップ105においてエンコーダにおいて生成されたようなイントラ予測ブロックとインター予測ブロックの両方を含み得る。再構築された画像ブロックは次いで、ステップ111において決定された区分データに従って、再構築されたビデオ信号のフレームへと配置される。ステップ113についてのシンタックスは、また、上で論じられたようなエントロピーコーディングを介してビットストリーム内でシグナリングされ得る。
ステップ115において、エンコーダにおいて、ステップ107と類似する方式で、再構築されたビデオ信号のフレームにおいてフィルタリングが実行される。たとえば、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびSAOフィルタが、ブロッキングアーティファクトを取り除くためにフレームに適用され得る。いったんフレームがフィルタリングされると、ビデオ信号は、エンドユーザによって見るために、ステップ117においてディスプレイに出力されることが可能である。
図2は、ビデオコーディングのための一例のコーディングおよびデコード(コーデック)システム200の概略図である。具体的には、コーデックシステム200は、動作方法100の実装をサポートするために機能を提供する。コーデックシステム200は、エンコーダとデコーダの両方において利用されるコンポーネントを描写するために一般化されている。コーデックシステム200は、動作方法100においてステップ101および103に関して論じられたようなビデオ信号を受信および区分し、これは区分されたビデオ信号201をもたらす。コーデックシステム200は次いで、方法100においてステップ105、107、および109に関して論じられたようなエンコーダとして動作するとき、区分されたビデオ信号201をコーディングされたビットストリームへと圧縮する。デコーダとして動作するとき、コーデックシステム200は、動作方法100においてステップ111、113、115、および117に関して論じられたようなビットストリームから出力ビデオ信号を生成する。コーデックシステム200は、汎用コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、イントラピクチャ推定コンポーネント215、イントラピクチャ予測コンポーネント217、動き補償コンポーネント219、動き推定コンポーネント221、スケーリングおよび逆変換コンポーネント229、フィルタ制御分析コンポーネント227、ループ内フィルタコンポーネント225、デコードされたピクチャバッファコンポーネント223、ならびにヘッダフォーマッティングおよびコンテキスト適応バイナリ算術コーディング(CABAC)コンポーネント231を含む。そのようなコンポーネントは表されたように結合される。図2では、黒い線はエンコード／デコードされるべきデータの動きを示し、一方、破線は他のコンポーネントの動作を制御する制御データの動きを示す。コーデックシステム200のコンポーネントは、すべて、エンコーダ内に存在し得る。デコーダは、コーデックシステム200のコンポーネントのサブセットを含み得る。たとえば、デコーダは、イントラピクチャ予測コンポーネント217、動き補償コンポーネント219、スケーリングおよび逆変換コンポーネント229、ループ内フィルタコンポーネント225、ならびにデコードされたピクチャバッファコンポーネント223を含み得る。これらのコンポーネントがここで説明される。
区分されたビデオ信号201は、コーディング・ツリーによってピクセルのブロックへと区分された、キャプチャされたビデオシーケンスである。コーディング・ツリーは、様々な分割モードを利用して、ピクセルのブロックをピクセルのより小さいブロックへと細分する。これらのブロックは次いで、より小さいブロックへとさらに細分されることが可能である。ブロックは、コーディング・ツリーにおいてノードと呼ばれ得る。より大きい親ノードは、より小さい子ノードへと分割される。ノードが細分される回数は、ノード／コーディング・ツリーの深度と呼ばれる。いくつかの場合において、分割されたブロックはコーディング・ユニット(CU)に含まれることが可能である。たとえば、CUは、ルマブロック、赤差分クロマ(Cr)ブロック、および青差分クロマ(Cb)ブロックを、CUについての対応するシンタックス命令とともに含む、CTUの下位部分であることが可能である。分割モードは、利用される分割モードに依存して変化する形状のそれぞれ2つ、3つ、または4つの子ノードへとノードを区分するために利用される、二分木(BT)、三分木(TT)、および四分木(QT)を含み得る。区分されたビデオ信号201は、圧縮のために、汎用コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、イントラピクチャ推定コンポーネント215、フィルタ制御分析コンポーネント227、ならびに動き推定コンポーネント221に転送される。
汎用コーダ制御コンポーネント211は、適用の制約に従って、ビデオシーケンスの画像のビットストリームへのコーディングに関連する決定を行うように構成される。たとえば、汎用コーダ制御コンポーネント211は、再構築品質に対するビットレート／ビットストリームサイズの最適化を管理する。そのような決定は、記憶空間／帯域幅の利用可能性および画像解像度の要求に基づいて行われ得る。汎用コーダ制御コンポーネント211は、また、バッファのアンダーランおよびオーバーランの問題を軽減するために、送信速度を考慮してバッファ利用を管理する。これらの問題を管理するために、汎用コーダ制御コンポーネント211は、他のコンポーネントによる区分、予測、およびフィルタリングを管理する。たとえば、汎用コーダ制御コンポーネント211は、圧縮の複雑さを動的に増加させて、解像度を増加させ、帯域幅使用を増加させ、または、圧縮の複雑さを減らして、解像度および帯域幅使用を減らし得る。従って、汎用コーダ制御コンポーネント211は、コーデックシステム200の他のコンポーネントを制御して、ビデオ信号再構築の品質をビットレートの関心とバランスをとる。汎用コーダ制御コンポーネント211は、制御データを作り出し、これは他のコンポーネントの動作を制御する。制御データは、また、ヘッダフォーマッティングおよびCABACコンポーネント231に転送されて、デコーダにおけるデコードのためのパラメータをシグナリングするためにビットストリーム内にエンコードされる。
区分されたビデオ信号201は、また、インター予測のために動き推定コンポーネント221および動き補償コンポーネント219に送信される。区分されたビデオ信号201のフレームまたはスライスは、複数のビデオブロックへと分割され得る。動き推定コンポーネント221および動き補償コンポーネント219は、1つまたは複数の参照フレーム内の1つまたは複数のブロックに対して、受信されたビデオブロックのインター予測コーディングを実行して、時間予測を提供する。コーデックシステム200は、複数のコーディングパスを実行して、たとえば、ビデオデータの各ブロックについて適切なコーディングモードを選択し得る。
動き推定コンポーネント221および動き補償コンポーネント219は、高度に統合され得るが、概念上の目的のために別々に例示される。動き推定コンポーネント221によって実行される動き推定は、ビデオブロックについての動きを推定する、動きベクトルを生成するプロセスである。動きベクトルは、たとえば、予測ブロックに対するコーディングされたオブジェクトのずれを示し得る。予測ブロックは、ピクセル差分に関して、コーディングされるべきブロックに密接に一致することが見いだされるブロックである。予測ブロックは参照ブロックとも呼ばれ得る。そのようなピクセル差分は、絶対値差分和(SAD)、平方差分和(SSD)、または他の差分尺度によって決定され得る。HEVCは、CTU、コーディング・ツリー・ブロック(CTB)、およびCUを含む、いくつかのコーディングされたオブジェクトを利用する。たとえば、CTUはCTBへと分割されることが可能であり、これは、次いで、CU内の包含のためにCBへと分割されることが可能である。CUは、予測データを含む予測ユニット(PU)および／またはCUのための変換された残差データを含む変換ユニット(TU)としてエンコードされることが可能である。動き推定コンポーネント221は、レート歪み最適化プロセスの部分としてレート歪み分析を使用することによって、動きベクトル、PU、およびTUを生成する。たとえば、動き推定コンポーネント221は、現在のブロック／フレームのための複数の参照ブロック、複数の動きベクトルなどを決定してもよく、最良のレート歪み特性を有する参照ブロック、動きベクトルなどを選択してもよい。最良のレート歪み特性は、コーディング効率(たとえば、最終的なエンコードのサイズ)とビデオ再構築の品質(たとえば、圧縮によるデータ損失の量)の両方のバランスをとる。
いくつかの例では、コーデックシステム200は、デコードされたピクチャバッファコンポーネント223に記憶されている参照ピクチャの整数より下のピクセル位置についての値を計算し得る。たとえば、ビデオコーデックシステム200は、4分の1ピクセル位置、8分の1ピクセル位置、または参照ピクチャの他の分数ピクセル位置の値を補間し得る。従って、動き推定コンポーネント221は、完全ピクセル位置と分数ピクセル位置に対する動き探索を実行して、分数ピクセル精度を有する動きベクトルを出力し得る。動き推定コンポーネント221は、PUの位置を参照ピクチャの予測ブロックの位置と比較することによって、インターコーディングされたスライス内のビデオブロックのPUについて動きベクトルを計算する。動き推定コンポーネント221は、計算された動きベクトルを動きデータとしてエンコードのためにヘッダフォーマッティングおよびCABACコンポーネント231に出力し、動きを動き補償コンポーネント219に出力する。
動き補償コンポーネント219によって実行される動き補償は、動き推定コンポーネント221によって決定される動きベクトルに基づいて予測ブロックをフェッチまたは生成することを伴い得る。再び、動き推定コンポーネント221および動き補償コンポーネント219は、いくつかの例では機能的に統合され得る。現在のビデオブロックのPUについての動きベクトルを受信すると、動き補償コンポーネント219は、動きベクトルが指し示す予測ブロックを位置決めし得る。残差ビデオブロックは次いで、コーディングされている現在のビデオブロックのピクセル値から予測ブロックのピクセル値を減算し、ピクセル差分値を形成することによって形成される。一般に、動き推定コンポーネント221は、ルマ成分に対する動き推定を実行し、動き補償コンポーネント219は、クロマ成分とルマ成分の両方についてルマ成分に基づいて計算される動きベクトルを使用する。予測ブロックおよび残差ブロックは、変換スケーリングおよび量子化コンポーネント213に転送される。
区分されたビデオ信号201は、また、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217に送信される。動き推定コンポーネント221および動き補償コンポーネント219のように、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217は高度に統合され得るが、概念上の目的のために別々に例示されている。イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217は、上で説明されたように、フレーム間で動き推定コンポーネント221および動き補償コンポーネント219によって実行されるインター予測の代替として、現在のフレームの中のブロックに対して現在のブロックをイントラ予測する。特に、イントラピクチャ推定コンポーネント215は、現在のブロックをエンコードするために使用するイントラ予測モードを決定する。いくつかの例では、イントラピクチャ推定コンポーネント215は、複数のテストされたイントラ予測モードから現在のブロックをエンコードするために適切なイントラ予測モードを選択する。選択されたイントラ予測モードは次いで、エンコードのためにヘッダフォーマッティングおよびCABACコンポーネント231に転送される。
たとえば、イントラピクチャ推定コンポーネント215は、様々なテストされたイントラ予測モードについてレート歪み分析を使用してレート歪み値を計算し、テストされたモードの中で最良のレート歪み特性を有するイントラ予測モードを選択する。レート歪み分析は、一般に、エンコードされたブロックを作成するために使用されるビットレート(たとえば、ビットの数)とともに、エンコードされたブロックと、エンコードされたブロックを作成するためにエンコードされた元のエンコードされていないブロックとの間の歪み(またはエラー)の量を決定する。イントラピクチャ推定コンポーネント215は、どのイントラ予測モードがブロックについて最良のレート歪み値を示すかを決定するために、様々なエンコードされたブロックについての歪みおよびレートから比を計算する。加えて、イントラピクチャ推定コンポーネント215は、レート歪み最適化(RDO)に基づいて、深度モデリングモード(DMM)を使用して深度マップの深度ブロックをコーディングするように構成され得る。
イントラピクチャ予測コンポーネント217は、エンコーダにおいて実装されるとき、イントラピクチャ推定コンポーネント215によって決定される選択されたイントラ予測モードに基づいて予測ブロックから残差ブロックを生成し、または、デコーダにおいて実装されるとき、ビットストリームから残差ブロックを読み取り得る。残差ブロックは、行列として表現される、予測ブロックと元のブロックとの間の値における差分を含む。残差ブロックは次いで、変換スケーリングおよび量子化コンポーネント213に転送される。イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217は、ルマおよびクロマ成分の両方に対して動作し得る。
変換スケーリングおよび量子化コンポーネント213は、残差ブロックをさらに圧縮するように構成される。変換スケーリングおよび量子化コンポーネント213は、離散コサイン変換(DCT)、離散サイン変換(DST)、または概念的に類似の変換のような変換を残差ブロックに適用し、残差変換係数値を備えるビデオブロックを作成する。ウェーブレット変換、整数変換、サブバンド変換、または他のタイプの変換も使用されることが可能である。変換は、残差情報をピクセル値領域から周波数領域のような変換領域に変換し得る。変換スケーリングおよび量子化コンポーネント213は、また、たとえば周波数に基づいて、変換された残差情報をスケーリングするように構成される。そのようなスケーリングは、異なる周波数情報が異なる粒度で量子化されるように、スケール係数を残差情報に適用することを伴い、これは、再構築されたビデオの最終的な視覚的品質に影響し得る。変換スケーリングおよび量子化コンポーネント213は、また、ビットレートをさらに低減するために変換係数を量子化するように構成される。量子化プロセスは、係数のいくつかまたはすべてと関連付けられるビット深度を低減し得る。量子化の程度は、量子化パラメータを調整することによって修正され得る。いくつかの例では、変換スケーリングおよび量子化コンポーネント213は次いで、量子化された変換係数を含む行列の走査を実行し得る。量子化された変換係数は、ヘッダフォーマッティングおよびCABACコンポーネント231に転送されて、ビットストリーム内にエンコードされる。
スケーリングおよび逆変換コンポーネント229は、動き推定をサポートするために、変換スケーリングおよび量子化コンポーネント213の逆の動作を適用する。スケーリングおよび逆変換コンポーネント229は、逆スケーリング、変換、および／または量子化を適用して、たとえば、別の現在のブロックについて予測ブロックになり得る参照ブロックとしての後の使用のために、ピクセル領域において残差ブロックを再構築する。動き推定コンポーネント221および／または動き補償コンポーネント219は、後のブロック／フレームの動き推定における使用のために残差ブロックを対応する予測ブロックに加算し戻すことによって参照ブロックを計算し得る。スケーリング、量子化、および変換の間に作り出されるアーティファクトを軽減するために、再構築された参照ブロックにフィルタが適用される。そのようなアーティファクトは、そうでなければ、後続のブロックが予測されるときに不正確な予測を引き起こす(および追加のアーティファクトを作り出す)ことがある。
フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は、フィルタを残差ブロックおよび／または再構築された画像ブロックに適用する。たとえば、スケーリングおよび逆変換コンポーネント229からの変換された残差ブロックは、元の画像ブロックを再構築するために、イントラピクチャ予測コンポーネント217および／または動き補償コンポーネント219からの対応する予測ブロックと組み合わせられ得る。フィルタは、次いで、再構築された画像ブロックに適用され得る。いくつかの例では、フィルタは、代わりに、残差ブロックに適用され得る。図2の他のコンポーネントのように、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は高度に統合され、一緒に実装され得るが、概念上の目的のために別々に描写されている。再構築された参照ブロックに適用されるフィルタは、特定の空間領域に適用され、そのようなフィルタがどのように適用されるかを調整するための複数のパラメータを含む。フィルタ制御分析コンポーネント227は、そのようなフィルタがどこで適用されるべきかを決定するために再構築された参照ブロックを分析し、対応するパラメータを設定する。そのようなデータは、エンコードのためにフィルタ制御データとしてヘッダフォーマッティングおよびCABACコンポーネント231に転送される。ループ内フィルタコンポーネント225は、フィルタ制御データに基づいてそのようなフィルタを適用する。フィルタは、デブロッキングフィルタ、ノイズ抑制フィルタ、SAOフィルタ、および適応ループフィルタを含み得る。そのようなフィルタは、例に依存して、空間／ピクセル領域で(たとえば、再構築されたピクセルブロックにおいて)、または周波数領域で適用され得る。
エンコーダとして動作するとき、フィルタリングされた再構築された画像ブロック、残差ブロック、および／または予測ブロックは、上で論じられたような動き推定における後の使用のために、デコードされたピクチャバッファコンポーネント223に記憶される。デコーダとして動作するとき、デコードされたピクチャバッファコンポーネント223は、出力ビデオ信号の部分として、再構築されフィルタリングされたブロックを記憶し、ディスプレイに向けて転送する。デコードされたピクチャバッファコンポーネント223は、予測ブロック、残差ブロック、および／または再構築された画像ブロックを記憶することが可能な任意のメモリデバイスであり得る。
ヘッダフォーマッティングおよびCABACコンポーネント231は、コーデックシステム200の様々なコンポーネントからデータを受信し、デコーダに向けた送信のためにそのようなデータをコーディングされたビットストリームへとエンコードする。具体的には、ヘッダフォーマッティングおよびCABACコンポーネント231は、一般的な制御データおよびフィルタ制御データのような制御データをエンコードするために、様々なヘッダを生成する。さらに、量子化された変換係数データの形式の残差データとともにイントラ予測および動きデータを含む予測データが、すべて、ビットストリーム内にエンコードされる。最終的なビットストリームは、元の区分されたビデオ信号201を再構築するためにデコーダによって望まれるすべての情報を含む。そのような情報は、イントラ予測モードインデックステーブル(符号語マッピングテーブルとも呼ばれる)、様々なブロックについてのエンコードコンテキストの定義、最も可能性の高いイントラ予測モードの指示、区分情報の指示なども含み得る。そのようなデータは、エントロピーコーディングを利用することによってエンコードされ得る。たとえば、情報は、コンテキスト適応可変長コーディング(CAVLC)、CABAC、シンタックスベースコンテキスト適応バイナリ算術コーディング(SBAC)、確率間隔区分エントロピー(PIPE)コーディング、または別のエントロピーコーディング技法を利用することによってエンコードされ得る。エントロピーコーディングに続いて、コーディングされたビットストリームは、別のデバイス(たとえば、ビデオデコーダ)に送信され、または、後の送信もしくは取り出しのためにアーカイブされてもよい。
図3は、一例のビデオエンコーダ300を例示するブロック図である。ビデオエンコーダ300は、コーデックシステム200のエンコード機能を実装するために、ならびに／または動作方法100のステップ101、103、105、107、および／もしくは109を実装するために利用され得る。エンコーダ300は、入力ビデオ信号を区分し、区分されたビデオ信号201と実質的に類似する区分されたビデオ信号301をもたらす。区分されたビデオ信号301は次いで圧縮され、エンコーダ300のコンポーネントによってビットストリームへとエンコードされる。
具体的には、区分されたビデオ信号301は、イントラ予測のためにイントラピクチャ予測コンポーネント317に転送される。イントラピクチャ予測コンポーネント317は、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217と実質的に類似し得る。区分されたビデオ信号301は、また、デコードされたピクチャバッファコンポーネント323内の参照ブロックに基づくインター予測のために動き補償コンポーネント321に転送される。動き補償コンポーネント321は、動き推定コンポーネント221および動き補償コンポーネント219と実質的に類似し得る。イントラピクチャ予測コンポーネント317および動き補償コンポーネント321からの予測ブロックおよび残差ブロックは、残差ブロックの変換および量子化のために変換および量子化コンポーネント313に転送される。変換および量子化コンポーネント313は、変換スケーリングおよび量子化コンポーネント213と実質的に類似し得る。変換され量子化された残差ブロックおよび対応する予測ブロックは(関連付けられた制御データとともに)、ビットストリームへのコーディングのためにエントロピーコーディングコンポーネント331に転送される。エントロピーコーディングコンポーネント331は、ヘッダフォーマッティングおよびCABACコンポーネント231と実質的に類似し得る。
変換され量子化された残差ブロックおよび／または対応する予測ブロックは、また、動き補償コンポーネント321による使用のために参照ブロックへの再構築のために、変換および量子化コンポーネント313から逆変換および量子化コンポーネント329に転送される。逆変換および量子化コンポーネント329は、スケーリングおよび逆変換コンポーネント229と実質的に類似し得る。ループ内フィルタコンポーネント325内のループ内フィルタは、また、例に依存して、残差ブロックおよび／または再構築された参照ブロックに適用される。ループ内フィルタコンポーネント325は、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225と実質的に類似し得る。ループ内フィルタコンポーネント325は、ループ内フィルタコンポーネント225に関して論じられたような複数のフィルタを含み得る。フィルタリングされたブロックは次いで、動き補償コンポーネント321による参照ブロックとしての使用のために、デコードされたピクチャバッファコンポーネント323に記憶される。デコードされたピクチャバッファコンポーネント323は、デコードされたピクチャバッファコンポーネント223と実質的に類似し得る。
図4は、一例のビデオデコーダ400を例示するブロック図である。ビデオデコーダ400は、コーデックシステム200のデコード機能を実装するために、ならびに／または動作方法100のステップ111、113、115、および／もしくは117を実装するために利用され得る。デコーダ400は、たとえばエンコーダ300から、ビットストリームを受信し、エンドユーザへの表示のために、再構築された出力ビデオ信号をビットストリームに基づいて生成する。
ビットストリームは、エントロピーデコードコンポーネント433によって受信される。エントロピーデコードコンポーネント433は、CAVLC、CABAC、SBAC、PIPEコーディング、または他のエントロピーコーディング技法のようなエントロピーデコード方式を実装するように構成される。たとえば、エントロピーデコードコンポーネント433は、ヘッダ情報を利用して、ビットストリーム内に符号語としてエンコードされる追加のデータを解釈するためにコンテキストを提供し得る。デコードされた情報は、一般的な制御データ、フィルタ制御データ、区分情報、動き情報、予測データ、および残差ブロックからの量子化された変換係数のようなビデオ信号をデコードするための任意の望まれる情報を含む。量子化された変換係数は、残差ブロックへの再構築のために逆変換および量子化コンポーネント429に転送される。逆変換および量子化コンポーネント429は、逆変換および量子化コンポーネント329と類似し得る。
再構築された残差ブロックおよび／または予測ブロックは、イントラ予測動作に基づく画像ブロックへの再構築のためにイントラピクチャ予測コンポーネント417に転送される。イントラピクチャ予測コンポーネント417は、イントラピクチャ推定コンポーネント215およびイントラピクチャ予測コンポーネント217と類似し得る。具体的には、イントラピクチャ予測コンポーネント417は、フレーム内で参照ブロックを位置決めするために予測モードを利用し、残差ブロックを結果に適用してイントラ予測された画像ブロックを再構築する。再構築されたイントラ予測された画像ブロックおよび／または残差ブロックならびに対応するインター予測データは、ループ内フィルタコンポーネント425を介してデコードされたピクチャバッファコンポーネント423に転送され、これらは、デコードされたピクチャバッファコンポーネント223およびループ内フィルタコンポーネント225とそれぞれ実質的に類似し得る。ループ内フィルタコンポーネント425は、再構築された画像ブロック、残差ブロック、および／または予測ブロックをフィルタリングし、そのような情報はデコードされたピクチャバッファコンポーネント423に記憶される。デコードされたピクチャバッファコンポーネント423からの再構築された画像ブロックは、インター予測のために動き補償コンポーネント421に転送される。動き補償コンポーネント421は、動き推定コンポーネント221および／または動き補償コンポーネント219と実質的に類似し得る。具体的には、動き補償コンポーネント421は、参照ブロックからの動きベクトルを利用して予測ブロックを生成し、残差ブロックを結果に適用して画像ブロックを再構築する。結果として生じる再構築されたブロックは、また、ループ内フィルタコンポーネント425を介してデコードされたピクチャバッファコンポーネント423に転送され得る。デコードされたピクチャバッファコンポーネント423は、追加の再構築された画像ブロックを記憶し続け、これらは区分情報を介してフレームへと再構築されることが可能である。そのようなフレームは、シーケンスにも配置され得る。シーケンスは、再構築された出力ビデオ信号としてディスプレイに向けて出力される。
図5は、一例のビットストリーム500およびビットストリーム500から抽出されるサブビットストリーム501を例示する概略図である。たとえば、ビットストリーム500は、コーデックシステム200および／またはデコーダ400によるデコードのために、コーデックシステム200および／またはエンコーダ300によって生成されることが可能である。別の例として、ビットストリーム500は、ステップ111におけるデコーダによる使用のために、方法100のステップ109においてエンコーダによって生成され得る。
ビットストリーム500は、シーケンス・パラメータ・セット(SPS)510、複数のピクチャ・パラメータ・セット(PPS)512、複数のスライスヘッダ514、画像データ520、および1つまたは複数のSEIメッセージ515を含む。SPS510は、ビットストリーム500に含まれるビデオシーケンス内のすべてのピクチャに共通のシーケンスデータを含む。そのようなデータは、ピクチャサイズ、ビット深度、コーディングツールパラメータ、ビットレート制限などを含むことができる。PPS512は、1つまたは複数の対応するピクチャに固有のパラメータを含む。従って、ビデオシーケンス内の各ピクチャは、1つのPPS512を指し得る。PPS512は、対応するピクチャ内のタイルについて利用可能なコーディングツール、量子化パラメータ、オフセット、ピクチャ固有のコーディングツールパラメータ(たとえば、フィルタ制御)などを示すことができる。スライスヘッダ514は、ピクチャ内の1つまたは複数の対応するスライス524に固有のパラメータを含む。従って、ビデオシーケンス内の各スライス524は、スライスヘッダ514を参照し得る。スライスヘッダ514は、スライスタイプ情報、ピクチャ順序カウント(POC)、参照ピクチャリスト、予測重み、タイルエントリポイント、デブロッキングパラメータなどを含み得る。いくつかの例では、スライス524はタイルグループと呼ばれ得る。そのような場合において、スライスヘッダ514は、タイルグループヘッダと呼ばれ得る。SEIメッセージ515は、ブロックデコードのために要求されないメタデータを含む任意選択のメッセージであるが、ピクチャ出力のタイミング、表示設定、損失検出、損失隠蔽などを示すことのような関連する目的のために利用されることが可能である。
画像データ520は、対応する変換され量子化される残差データとともにインター予測および／またはイントラ予測に従ってエンコードされるビデオデータを含む。そのような画像データ520は、エンコードの前に画像を区分するために使用される区分に従って分類される。たとえば、ビデオシーケンスはピクチャ521へと分割される。ピクチャ521はサブピクチャ522へとさらに分割されてもよく、これはスライス524へと分割される。スライス524はタイルおよび／またはCTUへとさらに分割され得る。CTUはコーディング・ツリーに基づいてコーディングブロックへとさらに分割される。コーディングブロックは次いで、予測機構に従ってエンコード／デコードされることが可能である。たとえば、ピクチャ521は1つまたは複数のサブピクチャ522を含むことができる。サブピクチャ522は1つまたは複数のスライス524を含み得る。ピクチャ521はPPS512を参照し、スライス524はスライスヘッダ514を参照する。サブピクチャ522は、全体のビデオシーケンス(セグメントとしても知られている)上で首尾一貫して区分されることが可能であり、従って、SPS510を参照し得る。各スライス524は1つまたは複数のタイルを含み得る。各スライス524、従ってピクチャ521およびサブピクチャ522は、複数のCTUも含むことができる。
各ピクチャ521は、時間における対応する瞬間のためのビデオシーケンスと関連付けられる視覚データの全体のセットを含み得る。しかしながら、ある適用は、いくつかの場合においてピクチャ521の一部のみを表示することを望み得る。たとえば、仮想現実(VR)システムは、ピクチャ521のユーザ選択された領域を表示してもよく、これは、ピクチャ521において描写されるシーンに存在している感覚を作り出す。ユーザが見ることを望み得る領域は、ビットストリーム500がエンコードされるときに知られていない。従って、ピクチャ521は、ユーザが潜在的に見得る各々の可能性のある領域をサブピクチャ522として含んでもよく、これは、ユーザ入力に基づいて別々にデコードされて表示されることが可能である。他の適用は関心領域を別々に表示し得る。たとえば、ピクチャインピクチャを有するテレビは、あるビデオシーケンスから特定の領域、従ってサブピクチャ522を、関連のないビデオシーケンスのピクチャ521上に表示することを望み得る。さらに別の例では、遠隔会議システムは、現在話しているユーザの全体のピクチャ521と、現在話していないユーザのサブピクチャ522とを表示し得る。従って、サブピクチャ522は、ピクチャ521の定義された領域を含み得る。時間的に動きが制約されるサブピクチャ522は、ピクチャ521の残りから別々にデコード可能であることが可能である。具体的には、時間動き制約サブピクチャは、時間動き制約サブピクチャの外側のサンプルを参照せずにエンコードされ、従って、ピクチャ521の残りを参照せずに完全なデコードのために十分な情報を含む。
各スライス524は、左上の角にあるCTUおよび右下の角にあるCTUによって定義される長方形であり得る。いくつかの例では、スライス524は、左から右および上から下に進むラスター走査順で、一連のタイルおよび／またはCTUを含む。他の例では、スライス524は長方形スライスである。長方形スライスは、ラスター走査順に従ってピクチャの全体の幅を横切らないことがある。代わりに、長方形スライスは、CTUおよび／またはタイル行、ならびにCTUおよび／またはタイル列に関して定義される、ピクチャ521および／またはサブピクチャ522の長方形および／または正方形領域を含み得る。スライス524は、デコーダによって別々に表示されることが可能である最小単位である。従って、ピクチャ521からのスライス524は、ピクチャ521の望まれる領域を別々に描写するために異なるサブピクチャ522に割り当てられ得る。
デコーダは、ピクチャ521の1つまたは複数のサブピクチャ523を表示し得る。サブピクチャ523は、サブピクチャ522のユーザ選択されたまたはあらかじめ定義されたサブグループである。たとえば、ピクチャ521は9個のサブピクチャ522へと分割され得るが、デコーダは、サブピクチャ522のグループから単一のサブピクチャ523のみを表示し得る。サブピクチャ523はスライス525を含み、これはスライス524の選択されたまたはあらかじめ定義されたサブグループである。サブピクチャ523の別々の表示を可能にするために、サブビットストリーム501はビットストリーム500から抽出され得る(529)。抽出529は、デコーダがサブビットストリーム501のみを受信するように、エンコーダ側で起こり得る。他の場合には、ビットストリーム500全体がデコーダに送信され、デコーダが別々のデコードのためにサブビットストリーム501を抽出する(529)。サブビットストリーム501は、いくつかの場合において一般にビットストリームとも呼ばれ得ることが留意されるべきである。サブビットストリーム501は、スライスヘッダ514、およびサブピクチャ523および／またはスライス525に関連するSEIメッセージ515とともに、SPS510、PPS512、選択されたサブピクチャ523を含む。
本開示は、デコーダにおけるサブピクチャ523の選択および表示のためにサブピクチャ522の効率的なコーディングをサポートするために、様々なデータをシグナリングする。SPS510は、サブピクチャサイズ531、サブピクチャ位置532、およびサブピクチャ522の完全なセットに関するサブピクチャID533を含む。サブピクチャサイズ531は、対応するサブピクチャ522についてのルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含む。サブピクチャ位置532は、対応するサブピクチャ522の左上サンプルとピクチャ521の左上サンプルとの間のオフセット距離を含む。サブピクチャ位置532およびサブピクチャサイズ531は、対応するサブピクチャ522のレイアウトを定義する。サブピクチャID533は、対応するサブピクチャ522を一意に識別するデータを含む。サブピクチャID533は、サブピクチャ522のラスター走査インデックスまたは他の定義された値であり得る。従って、デコーダは、SPS510を読み取り、各サブピクチャ522のサイズ、位置、およびIDを決定することができる。いくつかのビデオコーディングシステムでは、サブピクチャ522はピクチャ521から区分されるので、サブピクチャ522に関連するデータはPPS512に含まれ得る。しかしながら、サブピクチャ522を作り出すために使用される区分は、ビデオシーケンス／セグメント上で首尾一貫したサブピクチャ522の区分に依存する、ROIを基にした適用、VR適用などのような適用により使用され得る。それゆえ、サブピクチャ522の区分は、一般にピクチャごとに変化しない。SPS510内にサブピクチャ522のためのレイアウト情報を配置することは、レイアウトが各PPS512について冗長にシグナリングされる(これは、いくつかの場合において各ピクチャ521についてシグナリングされ得る)のではなく、シーケンス／セグメントについて1回のみシグナリングされることを保証する。また、そのような情報を導出するためにデコーダに依存する代わりに、サブピクチャ522情報をシグナリングすることは、損失したパケットの場合におけるエラーの確率を低減し、サブピクチャ523を抽出することに関して追加の機能をサポートする。従って、SPS510内でサブピクチャ522のレイアウトをシグナリングすることは、エンコーダおよび／またはデコーダの機能を改善する。
SPS510は、また、サブピクチャ522の完全なセットに関連する動き制約サブピクチャフラグ534を含む。動き制約サブピクチャフラグ534は、各サブピクチャ522が時間動き制約サブピクチャであるかどうかを示す。従って、デコーダは、動き制約サブピクチャフラグ534を読み取り、サブピクチャ522のいずれが他のサブピクチャ522をデコードすることなく別々に抽出され表示されることが可能であるかを決定することができる。これは、選択されたサブピクチャ522が時間動き制約サブピクチャとしてコーディングされることを可能にし、一方、他のサブピクチャ522が増加したコーディング効率のためにそのような制約なしでコーディングされることを可能にする。
サブピクチャID533は、スライスヘッダ514にも含まれる。各スライスヘッダ514は、スライス524の対応するセットに関連するデータを含む。従って、スライスヘッダ514は、スライスヘッダ514と関連付けられるスライス524に対応するサブピクチャID533のみを含む。それゆえ、デコーダは、スライス524を受信し、スライスヘッダ514からサブピクチャID533を取得し、どのサブピクチャ522がスライス524を含むかを決定することができる。デコーダは、また、SPS510内の関連するデータと相関させるために、スライスヘッダ514からのサブピクチャID533を使用することができる。それゆえ、デコーダは、SPS510および関連するスライスヘッダ514を読み取ることによって、サブピクチャ522/523およびスライス524/525をどのように配置するかを決定することができる。これは、いくつかのサブピクチャ522が送信において損失し、またはコーディング効率を増加させるために意図的に省略されても、サブピクチャ523およびスライス525がデコードされることを可能にする。
SEIメッセージ515は、また、サブピクチャレベル535を含み得る。サブピクチャレベル535は、対応するサブピクチャ522をデコードするために必要なハードウェアリソースを示す。このようにして、各サブピクチャ522は、他のサブピクチャ522とは独立にコーディングされることが可能である。これは、各サブピクチャ522がデコーダにおいて正しい量のハードウェアリソースを割り振られることが可能であることを保証にする。そのようなサブピクチャレベル535がなしで、各サブピクチャ522は、最も複雑なサブピクチャ522をデコードするために十分なリソースを割り振られる。従って、サブピクチャレベル535は、サブピクチャ522が変化するハードウェアリソース要件と関連付けられるならば、デコーダがハードウェアリソースを過剰に割り振ることを防ぐ。
図6は、サブピクチャ622へと区分される一例のピクチャ600を例示する概略図である。たとえば、ピクチャ600は、たとえばコーデックシステム200、エンコーダ300、および／またはデコーダ400によって、ビットストリーム500においてエンコードされ、ビットストリーム500からデコードされることが可能である。さらに、ピクチャ600は、方法100に従ったエンコードおよびデコードをサポートするために、サブビットストリーム501において区分され、および／または含まれることが可能である。
ピクチャ600は、ピクチャ521と実質的に類似し得る。さらに、ピクチャ600はサブピクチャ622へと区分されてもよく、これはサブピクチャ522と実質的に類似する。サブピクチャ622は、各々、サブピクチャサイズ631を含み、これはサブピクチャサイズ531としてビットストリーム500に含まれ得る。サブピクチャサイズ631は、サブピクチャ幅631aおよびサブピクチャ高さ631bを含む。サブピクチャ幅631aは、ルマサンプルの単位での対応するサブピクチャ622の幅である。サブピクチャ高さ631bは、ルマサンプルの単位での対応するサブピクチャ622の高さである。サブピクチャ622は、各々、サブピクチャID633を含み、これはサブピクチャID633としてビットストリーム500に含まれ得る。サブピクチャID633は、各サブピクチャ622を一意に識別する任意の値であり得る。表される例では、サブピクチャID633はサブピクチャ622のインデックスである。サブピクチャ622は、各々、位置632を含み、これはサブピクチャ位置532としてビットストリーム500に含まれ得る。位置632は、対応するサブピクチャ622の左上サンプルとピクチャ600の左上サンプル642との間のオフセットとして表現される。
また表されるように、いくつかのサブピクチャ622は時間動き制約サブピクチャ634であってもよく、他のサブピクチャ622はそうでなくてもよい。表される例では、5のサブピクチャID633を有するサブピクチャ622は、時間動き制約サブピクチャ634である。これは、5として識別されるサブピクチャ622が、いずれの他のサブピクチャ622も参照せずにコーディングされ、従って、他のサブピクチャ622からのデータを考慮することなく抽出され別々にデコードされることが可能であることを示す。どのサブピクチャ622が時間動き制約サブピクチャ634であるかの指示は、ビットストリーム500において動き制約サブピクチャフラグ534においてシグナリングされることが可能である。
表されるように、サブピクチャ622は、間隙または重複なしでピクチャ600を包含するように制約されることが可能である。間隙は、いずれのサブピクチャ622にも含まれないピクチャ600の領域である。重複は、1つより多くのサブピクチャ622に含まれるピクチャ600の領域である。図6に表される例では、サブピクチャ622は、間隙と重複の両方を防ぐようにピクチャ600から区分される。間隙は、ピクチャ600のサンプルがサブピクチャ622の外側に残されることを引き起こす。重複は、関連付けられたスライスが複数のサブピクチャ622に含まれることを引き起こす。従って、間隙および重複は、サンプルが、サブピクチャ622が異なってコーディングされるとき、異なる扱いによって影響されることを引き起こし得る。これがエンコーダにおいて許容されるならば、デコーダは、そのデコード方式がまれに使用されるときでも、そのようなコーディング方式をサポートしなければならない。サブピクチャ622の間隙および重複を許容しないことによって、サブピクチャサイズ631および位置632を決定するときにデコーダが潜在的な間隙および重複を考慮することが要求されないので、デコーダの複雑さが減らされることが可能である。さらに、サブピクチャ622の間隙および重複を許容しないことは、エンコーダにおけるRDOプロセスの複雑さを低減する。これは、ビデオシーケンスについてエンコードを選択するときにエンコーダが間隙と重複の事例を考慮することを省略できるからである。従って、間隙および重複を回避することは、エンコーダおよびデコーダにおけるメモリリソースおよび／または処理リソースの使用を低減し得る。
図7は、スライス724をサブピクチャ722のレイアウトに関連させるための一例の機構700を例示する概略図である。たとえば、機構700はピクチャ600に適用され得る。さらに、機構700は、たとえばコーデックシステム200、エンコーダ300、および／またはデコーダ400によって、ビットストリーム500内のデータに基づいて適用されることが可能である。さらに、機構700は、方法100に従ったエンコードおよびデコードをサポートするために利用されることが可能である。
機構700は、それぞれ、スライス524/525およびサブピクチャ522/523のようなサブピクチャ722内のスライス724に適用されることが可能である。表される例では、サブピクチャ722は、第1のスライス724a、第2のスライス724b、および第3のスライス724cを含む。スライス724の各々についてのスライスヘッダは、サブピクチャ722についてのサブピクチャID733を含む。デコーダは、スライスヘッダからのサブピクチャID733をSPS内のサブピクチャID733と照合することができる。デコーダは次いで、サブピクチャID733に基づいてSPSからサブピクチャ722の位置732およびサイズを決定することができる。サブピクチャ722は、位置732を使用して、ピクチャの左上の角742にある左上サンプルに対して配置されることが可能である。位置732に対するサブピクチャ722の高さおよび幅を設定するために、サイズが使用されることが可能である。そうすると、スライス724がサブピクチャ722に含まれることが可能である。従って、スライス724は、他のサブピクチャを参照せずに、サブピクチャID733に基づいて正しいサブピクチャ722内に配置されることが可能である。これは、他の損失したサブピクチャがサブピクチャ722のデコードを変えないので、エラー訂正をサポートする。これは、また、サブピクチャ722のみを抽出する適用をサポートし、他のサブピクチャを送信することを回避する。従って、サブピクチャID733は、増加した機能および／または増加したコーディング効率をサポートし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
図8は、サブピクチャ822へと区分される別の例のピクチャ800を例示する概略図である。ピクチャ800は、ピクチャ600と実質的に類似し得る。加えて、ピクチャ800は、たとえばコーデックシステム200、エンコーダ300、および／またはデコーダ400によって、ビットストリーム500内にエンコードされ、ビットストリーム500からデコードされることが可能である。さらに、ピクチャ800は、方法100および／または機構700に従ったエンコードおよびデコードをサポートするために、サブビットストリーム501において区分され、および／または含まれることが可能である。
ピクチャ800はサブピクチャ822を含み、これはサブピクチャ522、523、622、および／または722と実質的に類似し得る。サブピクチャ822は複数のCTU825へと分割される。CTU825は、標準化されたビデオコーディングシステムにおける基本コーディング単位である。CTU825はコーディング・ツリーによってコーディングブロックへと細分され、これはインター予測またはイントラ予測に従ってコーディングされる。表されるように、いくつかのサブピクチャ822aは、CTU825のサイズの倍数であるサブピクチャ幅およびサブピクチャ高さを含むように制約される。表される例では、サブピクチャ822aは、6個のCTU825の高さおよび5個のCTU825の幅を有する。この制約は、ピクチャの右の境界801に配置されたサブピクチャ822bについて、およびピクチャの下の境界802に配置されたサブピクチャ822cについて、取り除かれる。表される例では、サブピクチャ822bは、5個と6個のCTU825の間の幅を有する。しかしながら、ピクチャの下の境界802に配置されないサブピクチャ822bは、依然として、CTU825のサイズの倍数であるサブピクチャ高さを維持するように制約される。表される例では、サブピクチャ822cは、6個と7個のCTU825の間の高さを有する。しかしながら、ピクチャの右の境界801に配置されないサブピクチャ822cは、依然として、CTU825のサイズの倍数であるサブピクチャ幅を維持するように制約される。
上で注記されたように、いくつかのビデオシステムは、CTU825のサイズの倍数である高さおよび幅を含むようにサブピクチャ822を限定し得る。これは、サブピクチャ822が、多くのピクチャレイアウトとともに、たとえばCTU825のサイズの倍数でない合計の幅または高さを含むピクチャ800とともに、正しく動作することを妨げ得る。下のサブピクチャ822cおよび右のサブピクチャ822bが、CTU825のサイズの倍数でない高さと幅をそれぞれ含むことを許容することによって、サブピクチャ822は、デコードエラーを引き起こすことなく任意のピクチャ800とともに使用され得る。これは、エンコーダおよびデコーダの機能を増加させることをもたらす。さらに、増加した機能は、エンコーダがピクチャをより効率的にコーディングすることを可能にし、これは、ネットワークリソース、メモリリソース、および／またはエンコーダとデコーダにおける処理リソースの使用を低減する。
ここで説明されるように、本開示は、ビデオコーディングにおけるサブピクチャを基にしたピクチャ区分の設計を説明する。サブピクチャは、ピクチャのために使用されるのと類似したデコードプロセスを使用して独立にデコードされることが可能である、ピクチャ内の長方形エリアである。本開示は、サブピクチャ抽出のためのプロセスとともに、コーディングされたビデオシーケンスおよび／またはビットストリームにおけるサブピクチャのシグナリングに関する。技法の説明は、ITU-TおよびISO/IECのJVETによるVVCに基づく。しかしながら、技法は、他のビデオコーデック仕様にも適用される。以下はここで説明される例示の実施形態である。そのような実施形態は、個々に、または組み合わせて適用され得る。
コーディングされたビデオシーケンス(CVS)内に存在し得るサブピクチャに関連する情報は、SPSのようなシーケンスレベルパラメータセット内でシグナリングされ得る。そのようなシグナリングは、以下の情報を含み得る。CVSの各ピクチャに存在するサブピクチャの数は、SPS内でシグナリングされ得る。SPSまたはCVSの文脈では、すべてのアクセスユニット(AU)について同じに位置付けられるサブピクチャは、集合的にサブピクチャシーケンスと呼ばれ得る。各サブピクチャの属性を記述する情報をさらに指定するためのループも、SPSに含まれ得る。この情報は、サブピクチャ識別情報、サブピクチャの位置(たとえば、サブピクチャの左上角ルマサンプルとピクチャの左上角ルマサンプルとの間のオフセット距離)、およびサブピクチャのサイズを備え得る。加えて、SPSは、各サブピクチャが動き制約サブピクチャ(MCTSの機能を含む)であるかどうかをシグナリングし得る。各サブピクチャについてのプロファイル、階層、およびレベル情報も、デコーダにおいてシグナリングされ、または導出可能であり得る。そのような情報は、元のビットストリームからサブピクチャを抽出することによって作り出されるビットストリームについてのプロファイル、階層、およびレベル情報を決定するために利用され得る。各サブピクチャのプロファイルおよび階層は、ビットストリーム全体のプロファイルおよび階層と同じであるように導出され得る。各サブピクチャについてのレベルは明示的にシグナリングされ得る。そのようなシグナリングは、SPSに含まれるループに存在し得る。シーケンスレベルの仮想参照デコーダ(HRD)パラメータは、各サブピクチャ(または等価的に、各サブピクチャシーケンス)についてのSPSのビデオ使用可能性情報(VUI)セクションにおいてシグナリングされ得る。
ピクチャが2つ以上のサブピクチャへと区分されないとき、サブピクチャの属性(たとえば、位置、サイズなど)は、サブピクチャIDを除き、ビットストリームにおいて存在しない／シグナリングされないことがある。CVS内のピクチャのサブピクチャが抽出されるとき、新しいビットストリーム内の各アクセスユニットはサブピクチャを含まないことがある。この場合、新しいビットストリーム内の各AU内のピクチャは、複数のサブピクチャへと区分されない。従って、SPS内の位置およびサイズのようなサブピクチャ属性をシグナリングする必要はなく、なぜなら、そのような情報はピクチャ属性から導出されることが可能であるからである。しかしながら、IDは抽出されたサブピクチャに含まれるVCL NALユニット／タイルグループにより参照され得るので、サブピクチャ識別情報は依然としてシグナリングされてもよい。これは、サブピクチャIDが、サブピクチャを抽出するときに同じままであることを可能にし得る。
ピクチャ内のサブピクチャの位置(xオフセットおよびyオフセット)は、ルマサンプルの単位でシグナリングされることが可能である。位置は、サブピクチャの左上角ルマサンプルとピクチャの左上角ルマサンプルとの間の距離を表現する。代替的に、ピクチャ内のサブピクチャの位置は、最小コーディングルマブロックサイズ(MinCbSizeY)の単位でシグナリングされることが可能である。代替的に、サブピクチャ位置オフセットの単位は、パラメータセット内のシンタックス要素によって明示的に示され得る。単位は、CtbSizeY、MinCbSizeY、ルマサンプル、または他の値であり得る。
サブピクチャのサイズ(サブピクチャ幅およびサブピクチャ高さ)は、ルマサンプルの単位でシグナリングされることが可能である。代替的に、サブピクチャのサイズは、最小コーディングルマブロックサイズ(MinCbSizeY)の単位でシグナリングされることが可能である。代替的に、サブピクチャサイズ値の単位は、パラメータセット内のシンタックス要素によって明示的に示されることが可能である。単位は、CtbSizeY、MinCbSizeY、ルマサンプル、または他の値であり得る。サブピクチャの右の境界がピクチャの右の境界と一致しないとき、サブピクチャの幅は、ルマCTUサイズ(CtbSizeY)の整数倍であることが要求され得る。同様に、サブピクチャの下の境界がピクチャの下の境界と一致しないとき、サブピクチャの高さは、ルマCTUサイズ(CtbSizeY)の整数倍であることが要求され得る。サブピクチャの幅がルマCTUサイズの整数倍でないならば、サブピクチャは、ピクチャ内の最も右の位置に位置決めされることが要求され得る。同様に、サブピクチャの高さがルマCTUサイズの整数倍でないならば、サブピクチャは、ピクチャ内の最も下の位置に位置決めされることが要求され得る。いくつかの場合において、サブピクチャの幅はルマCTUサイズの単位でシグナリングされることが可能であるが、サブピクチャの幅はルマCTUサイズの整数倍でない。この場合、ルマサンプルにおける実際の幅が、サブピクチャのオフセット位置に基づいて導出されることが可能である。サブピクチャの幅はルマCTUサイズに基づいて導出されることが可能であり、ピクチャの高さはルマサンプルに基づいて導出されることが可能である。同様に、サブピクチャの高さはルマCTUサイズの単位でシグナリングされ得るが、サブピクチャの高さはルマCTUサイズの整数倍でない。そのような場合、ルマサンプルにおける実際の高さは、サブピクチャのオフセット位置に基づいて導出されることが可能である。サブピクチャの高さはルマCTUサイズに基づいて導出されることが可能であり、ピクチャの高さはルマサンプルに基づいて導出されることが可能である。
任意のサブピクチャについて、サブピクチャIDは、サブピクチャインデックスと異なり得る。サブピクチャインデックスは、SPS内のサブピクチャのループにおいてシグナリングされるようなサブピクチャのインデックスであり得る。サブピクチャIDは、ピクチャ内のサブピクチャラスター走査順でのサブピクチャのインデックスであり得る。各サブピクチャのサブピクチャIDの値がサブピクチャインデックスと同じであるとき、サブピクチャIDはシグナリングまたは導出され得る。各サブピクチャのサブピクチャIDがサブピクチャインデックスと異なるとき、サブピクチャIDは明示的にシグナリングされる。サブピクチャIDのシグナリングのためのビットの数は、サブピクチャ属性を含む同じパラメータセット内で(たとえば、SPS内で)シグナリングされ得る。サブピクチャIDについてのいくつかの値が、ある目的のために予約され得る。たとえば、タイルグループヘッダが、どのサブピクチャがタイルグループを含むかを指定するためにサブピクチャIDを含むとき、エミュレーション防止コードの偶然の包含を防ぐためにタイルグループヘッダの最初の数ビットがすべて0ではないことを保証するために、サブピクチャのために値0が予約され、使用されないことがある。ピクチャのサブピクチャが、間隙なし、かつ重複なしでピクチャのエリア全体を包含しない任意選択の場合において、値(たとえば、値1)が、任意のサブピクチャの部分でないタイルグループのために予約され得る。代替的に、残りのエリアのサブピクチャIDが明示的にシグナリングされる。サブピクチャIDをシグナリングするためのビットの数は、以下のように制約され得る。値の範囲は、サブピクチャIDの予約された値を含めて、ピクチャ内のすべてのサブピクチャを一意に識別するために十分であるべきである。たとえば、サブピクチャIDについてのビットの最小数は、Ceil(Log2(ピクチャ内のサブピクチャの数+予約されたサブピクチャIDの数)の値であることが可能である。
サブピクチャの和集合が、間隙なし、かつ重複なしでピクチャ全体を包含しなければならないことが制約され得る。この制約が適用されるとき、各サブピクチャについて、サブピクチャが動き制約サブピクチャであるかどうかを指定するためのフラグが存在してもよく、これは、サブピクチャが抽出されることが可能であることを示す。代替的に、サブピクチャの和集合は、ピクチャ全体を包含しないことがあるが、重複が許容されないことがある。
NALユニットビットの残りを解析することを抽出器に要求することなくサブピクチャ抽出プロセスを助けるために、サブピクチャIDがNALユニットヘッダの直後に存在し得る。VCL NALユニットについて、サブピクチャIDは、タイルグループヘッダの最初のビット内に存在し得る。非VCL NALユニットについて、以下が当てはまり得る。SPSについて、サブピクチャIDは、NALユニットヘッダの直後に存在する必要はない。PPSについて、同じピクチャのすべてのタイルグループが同じPPSを参照するように制約されるならば、サブピクチャIDは、そのNALユニットヘッダの直後に存在する必要はない。同じピクチャのタイルグループが異なるPPSを参照することが許容されるならば、サブピクチャIDは、PPSの最初のビット内(たとえば、NALユニットヘッダの直後)に存在し得る。この場合、1つのピクチャの任意のタイルグループが、同じPPSを共有することが許容され得る。代替的に、同じピクチャのタイルグループが異なるPPSを参照することが許容され、同じピクチャの異なるタイルグループが同じPPSを共有することも許容されるとき、サブピクチャIDはPPSシンタックス内に存在しないことがある。代替的に、同じピクチャのタイルグループが異なるPPSを参照することが許容され、同じピクチャの異なるタイルグループも同じPPSを共有することが許容されるとき、サブピクチャIDのリストがPPSシンタックス内に存在し得る。このリストは、PPSが適用されるサブピクチャを示す。他の非VCL NALユニットについて、非VCLユニット(たとえば、access unit delimiter、end of sequence、end of bitstreamなど)がピクチャレベルまたはそれより上に適用されるならば、サブピクチャIDは、NALユニットヘッダの直後に存在しなくてもよい。そうでなければ、サブピクチャIDはNALユニットヘッダの直後に存在してもよい。
上記のSPSシグナリングを用いて、個々のサブピクチャ内のタイル区分は、PPS内でシグナリングされ得る。同じピクチャ内のタイルグループは、異なるPPSを参照することが許容され得る。この場合、タイルグルーピングは、各サブピクチャ内のみであり得る。タイルグルーピングの概念は、サブピクチャのタイルへの区分である。
代替的に、個々のサブピクチャ内のタイル区分を記述するためのパラメータセットが定義される。そのようなパラメータセットは、サブピクチャ・パラメータ・セット(SPPS)と呼ばれ得る。SPPSはSPSを参照する。SPS IDを参照するシンタックス要素はSPPS内に存在する。SPPSはサブピクチャIDを含み得る。サブピクチャ抽出の目的のために、サブピクチャIDを参照するシンタックス要素は、SPPS内の最初のシンタックス要素である。SPPSはタイル構造(たとえば、列の数、行の数、均一なタイルの間隔など)を含む。SPPSは、ループフィルタが関連付けられたサブピクチャ境界にわたって有効にされているかどうかを示すためにフラグを含み得る。代替的に、各サブピクチャについてのサブピクチャ属性は、SPS内の代わりにSPPS内でシグナリングされ得る。個々のサブピクチャ内のタイル区分は、依然として、PPS内でシグナリングされ得る。同じピクチャ内のタイルグループは、異なるPPSを参照することが許容される。いったんSPPSがアクティブ化されると、SPPSはデコード順で連続するAUのシーケンスについて続く。しかしながら、SPPSは、CVSの開始でないAUにおいて非アクティブ化／アクティブ化され得る。いくつかのAUにおける複数のサブピクチャを有する単層のビットストリームのデコードプロセスの間の任意の瞬間において、複数のSPPSがアクティブであり得る。SPPSは、AUの異なるサブピクチャによって共有され得る。代替的に、SPPSおよびPPSは1つのパラメータセットへと合併され得る。そのような場合、同じピクチャのすべてのタイルグループが同じPPSを参照することは要求されなくてもよい。同じサブピクチャ内のすべてのタイルグループが、SPPSとPPSの間の合併から結果として生じる同じパラメータセットを参照し得るような制約が適用され得る。
サブピクチャIDをシグナリングするために使用されるビットの数は、NALユニットヘッダ内でシグナリングされ得る。NALユニットヘッダ内に存在するとき、そのような情報は、NALユニットのペイロードの最初(たとえば、NALユニットヘッダの直後の最初の数ビット)においてサブピクチャID値を解析する際に、サブピクチャ抽出プロセスを助け得る。そのようなシグナリングのために、NALユニットヘッダ内の予約されたビット(たとえば、7個の予約されたビット)のいくつかが、NALユニットヘッダの長さを増加させることを避けるために使用され得る。そのようなシグナリングのためのビットの数は、sub-picture-ID-bit-lenの値を包含し得る。たとえば、VVC NALユニットヘッダの7個の予約されたビットのうちの4ビットが、この目的のために使用され得る。
サブピクチャをデコードするとき、各コーディング・ツリー・ブロックの位置(たとえば、xCtbおよびyCtb)が、サブピクチャ内のルマサンプル位置の代わりにピクチャ内の実際のルマサンプル位置に調整され得る。このようにして、コーディング・ツリー・ブロックがサブピクチャの代わりにピクチャを参照してデコードされるので、各参照ピクチャから同じに位置付けられるサブピクチャの抽出が回避されることが可能である。コーディング・ツリー・ブロックの位置を調整するために、変数SubpictureXOffsetおよびSubpictureYOffsetが、サブピクチャの位置(subpic_x_offsetおよびsubpic_y_offset)に基づいて導出されることが可能である。変数の値は、サブピクチャ内の各コーディング・ツリー・ブロックの、ルマサンプル位置xおよびyの座標の値にそれぞれ加算され得る。
サブピクチャ抽出プロセスは以下のように定義されることが可能である。プロセスへの入力は、抽出されるべき標的サブピクチャである。これは、サブピクチャIDまたはサブピクチャ位置の形式であることが可能である。入力がサブピクチャの位置であるとき、関連付けられたサブピクチャIDが、SPS内のサブピクチャ情報を解析することによって解決されることが可能である。非VCL NALユニットについて、以下が当てはまる。ピクチャサイズおよびレベルに関するSPS内のシンタックス要素が、サブピクチャのサイズおよびレベル情報を用いて更新され得る。以下の非VCL NALユニット、すなわち、PPS、Access Unit Delimiter (AUD)、End of Sequence (EOS)、End of Bitstream (EOB)、およびピクチャレベルまたはそれより上に適用可能である任意の他の非VCL NALユニットは、変更なしで保持される。標的サブピクチャIDに等しくないサブピクチャIDを有する残りの非VCL NALユニットは、取り除かれ得る。標的サブピクチャIDに等しくないサブピクチャIDを有するVCL NALユニットも、取り除かれ得る。
SEIメッセージをネストするシーケンスレベルサブピクチャは、サブピクチャのセットについてAUレベルまたはサブピクチャレベルSEIメッセージのネストのために使用され得る。これは、バッファリング期間、ピクチャタイミング、および非HRD SEIメッセージを含み得る。SEIメッセージをネストするこのサブピクチャのシンタックスおよびセマンティクスは、以下の通りであることが可能である。無方向性メディアフォーマット(OMAF)環境内でのようなシステム動作のために、ビューポートを包含するサブピクチャシーケンスのセットは、OMAFプレーヤによって要求されデコードされ得る。従って、シーケンスレベルSEIメッセージは、長方形ピクチャ領域を集合的に包含するサブピクチャシーケンスのセットの情報を搬送するために使用される。この情報はシステムによって使用されることが可能であり、この情報は、サブピクチャシーケンスのセットのビットレートとともに要求されるデコード能力を示す。この情報は、サブピクチャシーケンスのセットのみを含むビットストリームのレベルを示す。この情報は、また、サブピクチャシーケンスのセットのみを含むビットストリームのビットレートを示す。任意選択で、サブビットストリーム抽出プロセスは、サブピクチャシーケンスのセットについて指定され得る。これを行うことの利益は、サブピクチャシーケンスのセットのみを含むビットストリームも準拠することになり得ることである。欠点は、異なるビューポートサイズの可能性を考慮する際に、すでに大きな可能性のある数の個々のサブピクチャシーケンスに加えて、多くのそのようなセットが存在し得ることである。
一例の実施形態では、開示される例の1つまたは複数は以下のように実装され得る。サブピクチャが、ピクチャ内の1つまたは複数のタイルグループの長方形領域として定義され得る。許容される二分割プロセスは以下のように定義され得る。このプロセスへの入力は、二分割モードbtSplit、コーディングブロック幅cbWidth、コーディングブロック高さcbHeight、ピクチャの左上ルマサンプルに対する考慮されるコーディングブロックの左上ルマサンプルの位置(x0,y0)、マルチタイプ木深度mttDepth、オフセットを有する最大マルチタイプ木深度maxMttDepth、最大二分木サイズmaxBtSize、および区分インデックスpartIdxである。このプロセスの出力は、変数allowBtSplitである。
変数parallelTtSplitおよびcbSizeは、上で指定されたように導出される。変数allowBtSpitは以下のように導出される。以下の条件、すなわち、cbSizeがMinBtSizeY以下である、cbWidthがmaxBtSizeより大きい、cbHeightがmaxBtSizeより大きい、およびmttDepthがmaxMttDepth以上である、のうちの1つまたは複数が真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_VERに等しい、およびy0+cbHeightがSupPicBottomBorderInPicより大きい、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_HORに等しい、x0+cbWidthがSupPicRightBorderInPicより大きい、およびy0+cbHeightがSubPicBottomBorderInPic以下である、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、mttDepthが0より大きい、partIdxが1に等しい、およびMttSplitMode[x0][y0][mttDepth-1]がparallelTtSplitに等しい、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_VERに等しい、cbWidthがMaxTbSizeY以下である、およびcbHeightがMaxTbSizeYより大きい、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、以下の条件、すなわち、btSplitがSPLIT_BT_HORに等しい、cbWidthがMaxTbSizeYより大きい、およびcbHeightがMaxTbSizeY以下である、のすべてが真であるならば、allowBtSplitはFALSEに等しく設定される。そうでなければ、allowBtSplitはTRUEに等しく設定される。
許容される三分割プロセスは、以下のように定義され得る。このプロセスへの入力は、三分割モードttSplit、コーディングブロック幅cbWidth、コーディングブロック高さcbHeight、ピクチャの左上ルマサンプルに対する考慮されるコーディングブロックの左上ルマサンプルの位置(x0,y0)、マルチタイプ木深度mttDepth、オフセットを有する最大マルチタイプ木深度maxMttDepth、および最大二分木サイズmaxTtSizeである。このプロセスの出力は、変数allowTtSplitである。
変数cbSizeは上で指定されたように導出される。変数allowTtSplitは以下のように導出される。以下の条件、すなわち、cbSizeが2*MinTtSizeY以下である、cbWidthがMin(MaxTbSizeY,maxTtSize)より大きい、cbHeightがMin(MaxTbSizeY,maxTtSize)より大きい、mttDepthがmaxMttDepth以上である、x0+cbWidthがSupPicRightBoderInPicより大きい、およびy0+cbHeightがSubPicBottomBorderInPicより大きい、のうちの1つまたは複数が真であるならば、allowTtSplitはFALSEに等しく設定される。そうでなければ、allowTtSplitはTRUEに等しく設定される。
シーケンス・パラメータ・セットRBSPのシンタックスおよびセマンティクスは、以下の通りである。
pic_width_in_luma_samplesは、ルマサンプルの単位で各々のデコードされたピクチャの幅を指定する。pic_width_in_luma_samplesは、0に等しくないものとし、MinCbSizeYの整数倍であるものとする。pic_height_in_luma_samplesは、ルマサンプルの単位で各々のデコードされたピクチャの高さを指定する。pic_height_in_luma_samplesは、0に等しくないものとし、MinCbSizeYの整数倍であるものとする。num_subpicture_minus1に1を足したものは、コーディングされたビデオシーケンスに属するコーディングされたピクチャ内で区分されるサブピクチャの数を指定する。subpic_id_len_minus1に1を足したものは、SPS内のシンタックス要素subpic_id[i]、SPSを参照するSPPS内のspps_subpic_id、およびSPSを参照するタイルグループヘッダ内のtile_group_subpic_idを表現するために使用されるビットの数を指定する。subpic_id_len_minus1の値は、両端を含めてCeil(Log2(num_subpic_minus1+2)から8の範囲内であるものとする。subpic_id[i]は、SPSを参照するピクチャのi番目のサブピクチャのサブピクチャIDを指定する。subpic_id[i]の長さは、subpic_id_len_minus1+1ビットである。subpic_id[i]の値は0より大きいものとする。subpic_level_idc[i]は、i番目のサブピクチャの抽出から結果として生じたCVSが、指定されたリソース要件に準拠するレベルを示す。ビットストリームは、指定されるもの以外のsubpic_level_idc[i]の値を含まないものとする。subpic_level_idc[i]の他の値は予約される。存在しないとき、subpic_level_idc[i]の値は、general_level_idcの値に等しいと推測される。
subpic_x_offset[i]は、ピクチャの左上の角に対して、i番目のサブピクチャの左上の角の水平オフセットを指定する。存在しないとき、subpic_x_offset[i]の値は0に等しいと推測される。サブピクチャxのオフセットの値は、SubpictureXOffset[i]=subpic_x_offset[i]のように導出される。subpic_y_offset[i]は、ピクチャの左上の角に対して、i番目のサブピクチャの左上の角の垂直オフセットを指定する。存在しないとき、subpic_y_offset[i]の値は、0に等しいと推測される。サブピクチャyのオフセットの値は、SubpictureYOffset[i]=subpic_y_offset[i]のように導出される。subpic_width_in_luma_samples[i]は、このSPSがアクティブなSPSであるi番目のデコードされたサブピクチャの幅を指定する。SubpictureXOffset[i]とsubpic_width_in_luma_samples[i]の和がpic_width_in_luma_samplesより小さいとき、subpic_width_in_luma_samples[i]の値はCtbSizeYの整数倍であるものとする。存在しないとき、subpic_width_in_luma_samples[i]の値は、pic_width_in_luma_samplesの値に等しいと推測される。subpic_height_in_luma_samples[i]は、このSPSがアクティブなSPSであるi番目のデコードされたサブピクチャの高さを指定する。SubpictureYOffset[i]とsubpic_height_in_luma_samples[i]の和がpic_height_in_luma_samplesより小さいとき、subpic_height_in_luma_samples[i]の値はCtbSizeYの整数倍であるものとする。存在しないとき、subpic_height_in_luma_samples[i]の値は、pic_height_in_luma_samplesの値に等しいと推測される。
サブピクチャの和集合が重複および間隙なしでピクチャのエリア全体を包含するものであることが、ビットストリーム準拠の要件である。1に等しいsubpic_motion_constrained_flag[i]は、i番目のサブピクチャが時間動き制約サブピクチャであることを指定する。0に等しいsubpic_motion_constrained_flag[i]は、i番目のサブピクチャが時間動き制約サブピクチャであってもなくてもよいことを指定する。存在しないとき、subpic_motion_constrained_flagの値は0に等しいと推測される。
変数SubpicWidthInCtbsY、SubpicHeightInCtbsY、SubpicSizeInCtbsY、SubpicWidthInMinCbsY、SubpicHeightInMinCbsY、SubpicSizeInMinCbsY、SubpicSizeInSamplesY、SubpicWidthInSamplesC、およびSubpicHeightInSamplesCは、以下のように導出される。
SubpicWidthInLumaSamples[i]=subpic_width_in_luma_samples[i]
SubpicHeightInLumaSamples[i]=subpic_height_in_luma_samples[i]
SubPicRightBorderInPic[i]=SubpictureXOffset[i]+PicWidthInLumaSamples[i]
SubPicBottomBorderInPic[i]=SubpictureYOffset[i]+PicHeightInLumaSamples[i]
SubpicWidthInCtbsY[i]=Ceil(SubpicWidthInLumaSamples[i]÷CtbSizeY)
SubpicHeightInCtbsY[i]=Ceil(SubpicHeightInLumaSamples[i]÷CtbSizeY)
SubpicSizeInCtbsY[i]=SubpicWidthInCtbsY[i]*SubpicHeightInCtbsY[i]
SubpicWidthInMinCbsY[i]=SubpicWidthInLumaSamples[i]/MinCbSizeY
SubpicHeightInMinCbsY[i]=SubpicHeightInLumaSamples[i]/MinCbSizeY
SubpicSizeInMinCbsY[i]=SubpicWidthInMinCbsY[i]*SubpicHeightInMinCbsY[i]
SubpicSizeInSamplesY[i]=SubpicWidthInLumaSamples[i]*SubpicHeightInLumaSamples[i]
SubpicWidthInSamplesC[i]=SubpicWidthInLumaSamples[i]/SubWidthC
SubpicHeightInSamplesC[i]=SubpicHeightInLumaSamples[i]/SubHeightC
SubpicWidthInLumaSamples[i]=subpic_width_in_luma_samples[i]
SubpicHeightInLumaSamples[i]=subpic_height_in_luma_samples[i]
SubPicRightBorderInPic[i]=SubpictureXOffset[i]+PicWidthInLumaSamples[i]
SubPicBottomBorderInPic[i]=SubpictureYOffset[i]+PicHeightInLumaSamples[i]
SubpicWidthInCtbsY[i]=Ceil(SubpicWidthInLumaSamples[i]÷CtbSizeY)
SubpicHeightInCtbsY[i]=Ceil(SubpicHeightInLumaSamples[i]÷CtbSizeY)
SubpicSizeInCtbsY[i]=SubpicWidthInCtbsY[i]*SubpicHeightInCtbsY[i]
SubpicWidthInMinCbsY[i]=SubpicWidthInLumaSamples[i]/MinCbSizeY
SubpicHeightInMinCbsY[i]=SubpicHeightInLumaSamples[i]/MinCbSizeY
SubpicSizeInMinCbsY[i]=SubpicWidthInMinCbsY[i]*SubpicHeightInMinCbsY[i]
SubpicSizeInSamplesY[i]=SubpicWidthInLumaSamples[i]*SubpicHeightInLumaSamples[i]
SubpicWidthInSamplesC[i]=SubpicWidthInLumaSamples[i]/SubWidthC
SubpicHeightInSamplesC[i]=SubpicHeightInLumaSamples[i]/SubHeightC
サブピクチャ・パラメータ・セットRBSPのシンタックスおよびセマンティクスは、以下の通りである。
spps_subpic_idは、SPPSが属するサブピクチャを識別する。spps_subpic_idの長さは、subpic_id_len_minus1+1ビットである。spps_subpic_parameter_set_idは、他のシンタックス要素による参照のためにSPPSを識別する。spps_subpic_parameter_set_idの値は、両端を含めて0から63の範囲内であるものとする。spps_seq_parameter_set_idは、アクティブなSPSについてsps_seq_parameter_set_idの値を指定する。spps_seq_parameter_set_idの値は、両端を含めて0から15の範囲内であるものとする。1に等しいsingle_tile_in_subpic_flagは、SPPSを参照する各サブピクチャ内に1つのみのタイルがあることを指定する。0に等しいsingle_tile_in_subpic_flagは、SPPSを参照する各サブピクチャ内に1つより多くのタイルがあることを指定する。num_tile_columns_minus1に1を足したものは、サブピクチャを区分するタイル列の数を指定する。num_tile_columns_minus1は、両端を含めて0からPicWidthInCtbsY[spps_subpic_id]-1の範囲内であるものとする。存在しないとき、num_tile_columns_minus1の値は0に等しいと推測される。num_tile_rows_minus1に1を足したものは、サブピクチャを区分するタイル行の数を指定する。num_tile_rows_minus1は、両端を含めて0からPicHeightInCtbsY[spps_subpic_id]-1の範囲内であるものとする。存在しないとき、num_tile_rows_minus1の値は0に等しいと推測される。変数NumTilesInPicは、(num_tile_columns_minus1+1)*(num_tile_rows_minus1+1)に等しく設定される。
single_tile_in_subpic_flagが0に等しいとき、NumTilesInPicは0より大きいものとする。1に等しいuniform_tile_spacing_flagは、タイル列の境界と、同様にタイル行の境界とが、サブピクチャにわたって均一に分散されることを指定する。0に等しいuniform_tile_spacing_flagは、タイル列の境界と、同様にタイル行の境界とが、サブピクチャにわたって均一に分散されないが、シンタックス要素tile_column_width_minus1[i]およびtile_row_height_minus1[i]を使用して明示的にシグナリングされることを指定する。存在しないとき、uniform_tile_spacing_flagの値は1に等しいと推測される。tile_column_width_minus1[i]に1を足したものは、CTBの単位でi番目のタイル列の幅を指定する。tile_row_height_minus1[i]に1を足したものは、CTBの単位でi番目のタイル行の高さを指定する。
以下の変数、すなわち、CTBの単位でi番目のタイル列の幅を指定する、両端を含めて0からnum_tile_columns_minus1の範囲にわたるiについてのリストColWidth[i]、CTBの単位でj番目のタイル行の高さを指定する、両端を含めて0からnum_tile_rows_minus1の範囲にわたるjについてのリストRowHeight[j]、CTBの単位でi番目のタイル列境界の位置を指定する、両端を含めて0からnum_tile_columns_minus1+1の範囲にわたるiについてのリストColBd[i]、CTBの単位でj番目のタイル行境界の位置を指定する、両端を含めて0からnum_tile_rows_minus1+1の範囲にわたるjについてのリストRowBd[j]、ピクチャのCTBラスター走査におけるCTBアドレスからタイル走査におけるCTBアドレスへの変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるctbAddrRsについてのリストCtbAddrRsToTs[ctbAddrRs]、タイル走査におけるCTBアドレスからピクチャのCTBラスター走査におけるCTBアドレスへの変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるctbAddrTsについてのリストCtbAddrTsToRs[ctbAddrTs]、タイル走査におけるCTBアドレスからタイルIDへの変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるctbAddrTsについてのリストTileId[ctbAddrTs]、タイルインデックスからタイル内のCTUの数への変換を指定する、両端を含めて0からPicSizeInCtbsY-1の範囲にわたるtileIdxについてのリストNumCtusInTile[tileIdx]、タイルIDからタイル内の最初のCTBのタイル走査におけるCTBアドレスへの変換を指定する、両端を含めて0からNumTilesInPic-1の範囲にわたるtileIdxについてのリストFirstCtbAddrTs[tileIdx]、ルマサンプルの単位でi番目のタイル列の幅を指定する、両端を含めて0からnum_tile_columns_minus1の範囲にわたるiについてのリストColumnWidthInLumaSamples[i]、および、ルマサンプルの単位でj番目のタイル行の高さを指定する、両端を含めて0からnum_tile_rows_minus1の範囲にわたるjについてのリストRowHeightInLumaSamples[j]は、CTBラスターおよびタイル走査変換プロセスを呼び出すことによって導出される。両端を含めて0からnum_tile_columns_minus1の範囲にわたるiについてのColumnWidthInLumaSamples[i]、および両端を含めて0からnum_tile_rows_minus1の範囲にわたるjについてのRowHeightInLumaSamples[j]の値は、すべて、0より大きいものとする。
1に等しいloop_filter_across_tiles_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のタイル境界にわたって実行され得ることを指定する。0に等しいloop_filter_across_tiles_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のタイル境界にわたって実行されないことを指定する。ループ内フィルタリング動作は、デブロッキングフィルタ、サンプル適応オフセットフィルタ、および適応ループフィルタ動作を含む。存在しないとき、loop_filter_across_tiles_enabled_flagの値は1に等しいと推測される。1に等しいloop_filter_across_subpic_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のサブピクチャ境界にわたって実行され得ることを指定する。0に等しいloop_filter_across_subpic_enabled_flagは、ループ内フィルタリング動作がSPPSを参照するサブピクチャ内のサブピクチャ境界にわたって実行されないことを指定する。ループ内フィルタリング動作は、デブロッキングフィルタ、サンプル適応オフセットフィルタ、および適応ループフィルタ動作を含む。存在しないとき、loop_filter_across_subpic_enabled_flagの値は、loop_filter_across_tiles_enabed_flagの値に等しいと推測される。
一般的なタイルグループヘッダのシンタックスおよびセマンティクスは、以下の通りである。
タイルグループヘッダシンタックス要素tile_group_pic_parameter_set_idおよびtile_group_pic_order_cnt_lsbの値は、コーディングされたピクチャのすべてのタイルグループヘッダ内で同じであるものとする。タイルグループヘッダシンタックス要素tile_group_subpic_idの値は、コーディングされたサブピクチャのすべてのタイルグループヘッダ内で同じであるものとする。tile_group_subpic_idは、タイルグループが属するサブピクチャを識別する。tile_group_subpic_idの長さは、subpic_id_len_minus1+1ビットである。tile_group_subpic_parameter_set_idは、使用中のSPPSについてのspps_subpic_parameter_set_idの値を指定する。tile_group_spps_parameter_set_idの値は、両端を含めて0から63の範囲内であるものとする。
以下の変数が導出され、アクティブなSPSから導出されたそれぞれの変数を上書きする。
PicWidthInLumaSamples=SubpicWidthInLumaSamples[tile_group_subpic_id]
PicHeightInLumaSamples=PicHeightInLumaSamples[tile_group_subpic_id]
SubPicRightBorderInPic=SubPicRightBorderInPic[tile_group_subpic_id]
SubPicBottomBorderInPic=SubPicBottomBorderInPic[tile_group_subpic_id]
PicWidthInCtbsY=SubPicWidthInCtbsY[tile_group_subpic_id]
PicHeightInCtbsY=SubPicHeightInCtbsY[tile_group_subpic_id]
PicSizeInCtbsY=SubPicSizeInCtbsY[tile_group_subpic_id]
PicWidthInMinCbsY=SubPicWidthInMinCbsY[tile_group_subpic_id]
PicHeightInMinCbsY=SubPicHeightInMinCbsY[tile_group_subpic_id]
PicSizeInMinCbsY=SubPicSizeInMinCbsY[tile_group_subpic_id]
PicSizeInSamplesY=SubPicSizeInSamplesY[tile_group_subpic_id]
PicWidthInSamplesC=SubPicWidthInSamplesC[tile_group_subpic_id]
PicHeightInSamplesC=SubPicHeightInSamplesC[tile_group_subpic_id]
PicWidthInLumaSamples=SubpicWidthInLumaSamples[tile_group_subpic_id]
PicHeightInLumaSamples=PicHeightInLumaSamples[tile_group_subpic_id]
SubPicRightBorderInPic=SubPicRightBorderInPic[tile_group_subpic_id]
SubPicBottomBorderInPic=SubPicBottomBorderInPic[tile_group_subpic_id]
PicWidthInCtbsY=SubPicWidthInCtbsY[tile_group_subpic_id]
PicHeightInCtbsY=SubPicHeightInCtbsY[tile_group_subpic_id]
PicSizeInCtbsY=SubPicSizeInCtbsY[tile_group_subpic_id]
PicWidthInMinCbsY=SubPicWidthInMinCbsY[tile_group_subpic_id]
PicHeightInMinCbsY=SubPicHeightInMinCbsY[tile_group_subpic_id]
PicSizeInMinCbsY=SubPicSizeInMinCbsY[tile_group_subpic_id]
PicSizeInSamplesY=SubPicSizeInSamplesY[tile_group_subpic_id]
PicWidthInSamplesC=SubPicWidthInSamplesC[tile_group_subpic_id]
PicHeightInSamplesC=SubPicHeightInSamplesC[tile_group_subpic_id]
コーディング・ツリー・ユニット・シンタックスは、以下の通りである。
コーディング四分木のシンタックスおよびセマンティクスは、以下の通りである。
qt_split_cu_flag[x0][y0]は、コーディング・ユニットが半分の水平および垂直サイズを有するコーディング・ユニットへと分割されるかどうかを指定する。アレイインデックスx0、y0は、ピクチャの左上ルマサンプルに対して、考慮されるコーディングブロックの左上ルマサンプルの位置(x0,y0)を指定する。qt_split_cu_flag[x0][y0]が存在しないとき、以下が当てはまる。以下の条件のうちの1つまたは複数が真であるならば、qt_split_cu_flag[x0][y0]の値は1に等しいと推測される。treeTypeがDUAL_TREE_CHROMAに等しいか、またはそうでなければMaxBtSizeYより大きいならば、x0+(1<<log2CbSize)がSubPicRightBorderInPicより大きく、(1<<log2CbSize)がMaxBtSizeCより大きい。treeTypeがDUAL_TREE_CHROMAに等しいか、またはそうでなければMaxBtSizeYより大きいならば、y0+(1<<log2CbSize)がSubPicBottomBorderInPicより大きく、(1<<log2CbSize)がMaxBtSizeCより大きい。
そうでなければ、以下の条件のすべてが真であるならば、qt_split_cu_flag[x0][y0]の値は1に等しいと推測される。treeTypeがDUAL_TREE_CHROMAに等しいか、またはそうでなければMinQtSizeYより大きいならば、x0+(1<<log2CbSize)がSubPicRightBorderInPicより大きく、y0+(1<<log2CbSize)がSubPicBottomBorderInPicより大きく、(1<<log2CbSize)がMinQtSizeCより大きい。そうでなければ、qt_split_cu_flag[x0][y0]の値は0に等しいと推測される。
マルチタイプ木のシンタックスおよびセマンティクスは、以下の通りである。
0に等しいmtt_split_cu_flagは、コーディング・ユニットが分割されないことを指定する。1に等しいmtt_split_cu_flagは、シンタックス要素mtt_split_cu_binary_flagによって示されるように、コーディング・ユニットが二分割を使用して2つのコーディング・ユニットへと、または三分割を使用して3つのコーディング・ユニットへと分割されることを指定する。二分割または三分割は、シンタックス要素mtt_split_cu_vertical_flagによって示されるように、垂直または水平のいずれかであることが可能である。mtt_split_cu_flagが存在しないとき、mtt_split_cu_flagの値は以下のように推測される。以下の条件、すなわち、x0+cbWidthがSubPicRightBorderInPicより大きい、およびy0+cbHeightがSubPicBottomBorderInPicより大きい、のうちの1つまたは複数が真であるならば、mtt_split_cu_flagの値は1に等しいと推測される。そうでなければ、mtt_split_cu_flagの値は0に等しいと推測される。
時間的なルマ動きベクトル予測のための導出プロセスは、以下の通りである。このプロセスの出力は、1/16分数サンプル精度での動きベクトル予測mvLXCol、および利用可能性フラグavailableFlagLXColである。変数currCbは、ルマ位置(xCb,yCb)における現在のルマコーディングブロックを指定する。変数mvLXColおよびavailableFlagLXColは以下のように導出される。tile_group_temporal_mvp_enabled_flagが0に等しいならば、または参照ピクチャが現在のピクチャであるならば、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。それ以外ならば(tile_group_temporal_mvp_enabled_flagが1に等しく、参照ピクチャが現在のピクチャではない)、以下の順序付けられたステップが適用される。右下の同じに位置付けられる動きベクトルは以下のように導出される。
xColBr=xCb+cbWidth (8-355)
yColBr=yCb+cbHeight (8-356)
xColBr=xCb+cbWidth (8-355)
yColBr=yCb+cbHeight (8-356)
yCb>>CtbLog2SizeYがyColBr>>CtbLog2SizeYに等しく、yColBrがSubPicBottomBorderInPicより小さく、xColBrがSubPicRightBorderInPicより小さいならば、以下が当てはまる。変数colCbは、ColPicによって指定される同じに位置付けられるピクチャ内部の((xColBr>>3)<<3,(yColBr>>3)<<3)によって与えられる修正された位置を包含するルマコーディングブロックを指定する。ルマ位置(xColCb,yColCb)は、ColPicによって指定される同じに位置付けられるピクチャの左上ルマサンプルに対して、colCbによって指定される同じに位置付けられるルマコーディングブロックの左上サンプルに等しく設定される。同じに位置付けられる動きベクトルのための導出プロセスは、0に等しく設定されたcurrCb、colCb、(xColCb,yColCb)、refIdxLX、およびsbFlagを入力として用いて呼び出され、出力はmvLXColおよびavailableFlagLXColに割り当てられる。そうでなければ、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。
時間的な三角形マージ候補のための導出プロセスは、以下の通りである。変数mvLXColC0、mvLXColC1、availableFlagLXColC0、およびavailableFlagLXColC1は、以下のように導出される。tile_group_temporal_mvp_enabled_flagが0に等しいならば、mvLXColC0とmvLXColC1の両方の成分が0に等しく設定され、availableFlagLXColC0およびavailableFlagLXColC1は0に等しく設定される。そうでなければ(tile_group_temporal_mvp_enabled_flagが1に等しい)、以下の順序付けられたステップが適用される。右下の同じに位置付けられる動きベクトルmvLXColC0は、以下のように導出される。
xColBr=xCb+cbWidth (8-392)
yColBr=yCb+cbHeight (8-393)
xColBr=xCb+cbWidth (8-392)
yColBr=yCb+cbHeight (8-393)
yCb>>CtbLog2SizeYがyColBr>>CtbLog2SizeYに等しく、yColBrがSubPicBottomBorderInPicより小さく、xColBrがSubPicRightBorderInPicより小さいならば、以下が当てはまる。変数colCbは、ColPicによって指定される同じに位置付けられるピクチャの内部の((xColBr>>3)<<3,(yColBr>>3)<<3)によって与えられる修正された位置を包含するルマコーディングブロックを指定する。ルマ位置(xColCb,yColCb)は、ColPicによって指定される同じに位置付けられるピクチャの左上ルマサンプルに対して、colCbによって指定される同じに位置付けられるルマコーディングブロックの左上サンプルに等しく設定される。同じに位置付けられる動きベクトルのための導出プロセスは、0に等しく設定されたcurrCb、colCb、(xColCb,yColCb)、refIdxLXC0、およびsbFlagを入力として用いて呼び出され、出力はmvLXColC0およびavailableFlagLXColC0に割り当てられる。そうでなければ、mvLXColC0の両方の成分が0に等しく設定され、availableFlagLXColC0が0に等しく設定される。
構築されたアフィン制御点動きベクトルマージ候補のための導出プロセスは、以下の通りである。Xを0および1として、第4の(同じに位置付けられる右下の)制御点動きベクトルcpMvLXCorner[3]、参照インデックスrefIdxLXCorner[3]、予測リスト利用フラグpredFlagLXCorner[3]、および利用可能性フラグavailableFlagCorner[3]が以下のように導出される。Xを0または1として、時間マージ候補についての参照インデックスrefIdxLXCorner[3]が0に等しく設定される。Xを0または1として、変数mvLXColおよびavailableFlagLXColが以下のように導出される。tile_group_temporal_mvp_enabled_flagが0に等しいならば、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。そうでなければ(tile_group_temporal_mvp_enabled_flagが1に等しい)、以下が当てはまる。
xColBr=xCb+cbWidth (8-566)
yColBr=yCb+cbHeight (8-567)
xColBr=xCb+cbWidth (8-566)
yColBr=yCb+cbHeight (8-567)
yCb>>CtbLog2SizeYがyColBr>>CtbLog2SizeYに等しく、yColBrがSubPicBottomBorderInPicより小さく、xColBrがSubPicRightBorderInPicより小さいならば、以下が当てはまる。変数colCbは、ColPicによって指定される同じに位置付けられるピクチャの内部の((xColBr>>3)<<3,(yColBr>>3)<<3)によって与えられる修正された位置を包含するルマコーディングブロックを指定する。ルマ位置(xColCb,yColCb)は、ColPicによって指定される同じに位置付けられるピクチャの左上ルマサンプルに対して、colCbによって指定される同じに位置付けられるルマコーディングブロックの左上サンプルに等しく設定される。同じに位置付けられる動きベクトルのための導出プロセスは、0に等しく設定されたcurrCb、colCb、(xColCb,yColCb)、refIdxLX、およびsbFlagを入力として用いて呼び出され、出力はmvLXColおよびavailableFlagLXColに割り当てられる。そうでなければ、mvLXColの両方の成分が0に等しく設定され、availableFlagLXColが0に等しく設定される。pic_width_in_luma_samplesのすべての出現を、PicWidthInLumaSamplesで置換する。pic_height_in_luma_samplesのすべての出現を、PicHeightInLumaSamplesで置換する。
第2の例の実施形態では、シーケンス・パラメータ・セットRBSPのシンタックスおよびセマンティクスは、以下の通りである。
subpic_id_len_minus1に1を足したものは、SPS内のシンタックス要素subpic_id[i]を表現するために使用されるビットの数、SPSを参照するSPPS内のspps_subpic_id、およびSPSを参照するタイルグループヘッダ内のtile_group_subpic_idを指定する。subpic_id_len_minus1の値は、両端を含めてCeil(Log2(num_subpic_minus1+3)から8の範囲内であるものとする。両端を含めて0からnum_subpic_minus1のiについてのsubpicture[i]の間で重複がないものとすることが、ビットストリーム準拠の要件である。各サブピクチャは、時間動き制約サブピクチャであり得る。
一般的なタイルグループヘッダのセマンティクスは、以下の通りである。tile_group_subpic_idは、タイルグループが属するサブピクチャを識別する。tile_group_subpic_idの長さは、subpic_id_len_minus1+1ビットである。1に等しいtile_group_subpic_idは、タイルグループがいずれのサブピクチャにも属さないことを示す。
第3の例の実施形態では、NALユニットヘッダのシンタックスとセマンティクスは、以下の通りである。
nuh_subpicture_id_lenは、サブピクチャIDを指定するシンタックス要素を表現するために使用されるビットの数を指定する。nuh_subpicture_id_lenの値が0より大きいとき、nuh_reserved_zero_4bits内の後の最初のnuh_subpicture_id_len番目のビットは、NALユニットのペイロードが属するサブピクチャのIDを指定する。nuh_subpicture_id_lenが0より大きいとき、nuh_subpicture_id_lenの値は、アクティブなSPS内のsubpic_id_len_minus1の値に等しいものとする。非VCL NALユニットについてのnuh_subpicture_id_lenの値は、以下のように制約される。nal_unit_typeがSPS_NUTまたはPPS_NUTに等しいならば、nuh_subpicture_id_lenは0に等しいものとする。nuh_reserved_zero_3bitsは「000」に等しいものとする。デコーダは、nuh_reserved_zero_3bitsの値が「000」に等しくないNALユニットを無視する(たとえば、ビットストリームから取り除いて廃棄する)ものとする。
第4の例の実施形態では、サブピクチャ・ネスティング・シンタックスは、以下の通りである。
1に等しいall_sub_pictures_flagは、ネストされたSEIメッセージがすべてのサブピクチャに適用されることを指定する。1に等しいall_sub_pictures_flagは、ネストされたSEIメッセージが適用されるサブピクチャが後続のシンタックス要素によって明示的にシグナリングされることを指定する。nesting_num_sub_pictures_minus1に1を足したものは、ネストされたSEIメッセージが適用されるサブピクチャの数を指定する。nesting_sub_picture_id[i]は、ネストされたSEIメッセージが適用されるi番目のサブピクチャのサブピクチャIDを示す。nesting_sub_picture_id[i]シンタックス要素は、Ceil(Log2(nesting_num_sub_pictures_minus1+1))ビットによって表現される。sub_picture_nesting_zero_bitは0に等しいものとする。
図9は、一例のビデオコーディングデバイス900の概略図である。ビデオコーディングデバイス900は、ここで説明されるような開示される例／実施形態を実装するために適している。ビデオコーディングデバイス900は、ネットワーク上でデータアップストリームおよび／またはダウンストリームを通信するための送信機および／または受信機を含む、ダウンストリームポート920、アップストリームポート950、および／またはトランシーバユニット(Tx/Rx)910を備える。ビデオコーディングデバイス900は、また、データを処理するための論理ユニットおよび／または中央処理ユニット(CPU)を含むプロセッサ930、およびデータを記憶するためのメモリ932を含む。ビデオコーディングデバイス900は、また、電気、光-電気(OE)コンポーネント、電気-光(EO)コンポーネント、および／または、電気、光、またはワイヤレス通信ネットワークを介したデータの通信のためにアップストリームポート950および／またはダウンストリームポート920に結合されたワイヤレス通信コンポーネントを備え得る。ビデオコーディングデバイス900は、また、ユーザへのおよびユーザからのデータを通信するための入力および／または出力(I/O)デバイス960を含み得る。I/Oデバイス960は、ビデオデータを表示するためのディスプレイ、オーディオデータを出力するためのスピーカーなどのような出力デバイスを含み得る。I/Oデバイス960は、また、キーボード、マウス、トラックボールなどのような入力デバイス、および／または、そのような出力デバイスと相互作用するための対応するインターフェースを含み得る。
プロセッサ930はハードウェアおよびソフトウェアによって実装される。プロセッサ930は、1つまたは複数のCPUチップ、コア(たとえば、マルチコアプロセッサとして)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、特定用途向け集積回路(ASIC)、およびデジタル信号プロセッサ(DSP)として実装され得る。プロセッサ930は、ダウンストリームポート920、Tx/Rx910、アップストリームポート950、およびメモリ932と通信する。プロセッサ930はコーディングモジュール914を備える。コーディングモジュール914は、ビットストリーム500、ピクチャ600、および／またはピクチャ800を利用し得る方法100、1000、1100、および／または機構700のような上で説明された開示された実施形態を実装する。コーディングモジュール914は、ここで説明される任意の他の方法／機構も実装し得る。さらに、コーディングモジュール914は、コーデックシステム200、エンコーダ300、および／またはデコーダ400を実装し得る。たとえば、コーディングモジュール914は、SPS内のサブピクチャの位置とサイズをシグナリングおよび／または取得するために利用され得る。別の例では、コーディングモジュール914は、そのようなサブピクチャがピクチャの右の境界またはピクチャの下の境界にそれぞれ配置されない限り、CTUサイズの倍数であるようにサブピクチャ幅およびサブピクチャ高さを制約し得る。別の例では、コーディングモジュール914は、間隙または重複なしでピクチャを包含するようにサブピクチャを制約し得る。別の例では、コーディングモジュール914は、いくつかのサブピクチャが時間動き制約サブピクチャであり、他のサブピクチャがそうでないことを示すデータを、シグナリングおよび／または取得するために利用され得る。別の例では、コーディングモジュール914は、SPS内でサブピクチャIDの完全なセットをシグナリングし、対応するスライスを含むサブピクチャを示すためにサブピクチャIDを各スライスヘッダに含め得る。別の例では、コーディングモジュール914は、各サブピクチャについてのレベルをシグナリングし得る。それゆえ、コーディングモジュール914は、ビデオコーディングデバイス900に、追加の機能を提供させ、ビデオデータを区分してコーディングするときに、処理オーバーヘッドを低減し、および／またはコーディング効率を増加させるために、ある処理を回避させる。従って、コーディングモジュール914は、ビデオコーディングの技術に特有である課題に対処するとともにビデオコーディングデバイス900の機能を改善する。さらに、コーディングモジュール914は、異なる状態へのビデオコーディングデバイス900の変換をもたらす。代替的に、コーディングモジュール914は、メモリ932に記憶されプロセッサ930によって実行される命令として(たとえば、非一時的媒体に記憶されたコンピュータプログラム製品として)実装されることが可能である。
メモリ932は、ディスク、テープドライブ、ソリッドステートドライブ、リードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、フラッシュメモリ、三値連想メモリ(TCAM)、スタティックランダムアクセスメモリ(SRAM)などのような1つまたは複数のメモリタイプを備える。メモリ932は、プログラムを、実行のためにそのようなプログラムが選択されるときに記憶するために、およびプログラム実行の間に読み取られる命令およびデータを記憶するために、オーバーフローデータ記憶デバイスとして使用され得る。
図10は、サブピクチャ522、523、622、722、および／または822のようなサブピクチャの抽出をサポートするために、ピクチャの、ビットストリーム500のようなビットストリーム内にサブピクチャ・レイアウトをエンコードする一例の方法1000のフローチャートである。方法1000は、方法100を実行するとき、コーデックシステム200、エンコーダ300、および／またはビデオコーディングデバイス900のようなエンコーダによって利用され得る。
方法1000は、エンコーダが複数のピクチャを含むビデオシーケンスを受信し、たとえばユーザ入力に基づいてそのビデオシーケンスをビットストリームへとエンコードすることを決定するとき、開始し得る。ビデオシーケンスは、エンコードの前にさらなる区分のためにピクチャ／画像／フレームへと区分される。ステップ1001において、ピクチャは、サブピクチャとして以後表記される現在のサブピクチャを含む複数のサブピクチャへと区分される。ステップ1003において、サブピクチャはビットストリームへとエンコードされる。
ステップ1005において、サブピクチャのサブピクチャサイズおよびサブピクチャ位置が、ビットストリーム内のSPSへとエンコードされる。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含む。サブピクチャサイズは、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含む。サブピクチャが動き制約サブピクチャであることを示すために、フラグもSPS内にエンコードされ得る。そのような場合、サブピクチャサイズおよびサブピクチャ位置は、動き制約サブピクチャのレイアウトを示す。
ステップ1007において、サブピクチャIDが、ピクチャから区分されたサブピクチャの各々についてSPSへとエンコードされる。ピクチャから区分されたサブピクチャの数も、SPSへとエンコードされ得る。ステップ1009において、ビットストリームがデコーダに向けた通信のために記憶される。ビットストリームは次いで、望まれるようにデコーダに向けて送信され得る。いくつかの例では、サブビットストリームは、エンコードされたビットストリームから抽出され得る。そのような場合、送信されるビットストリームはサブビットストリームである。他の例では、エンコードされたビットストリームは、デコーダにおけるサブビットストリームの抽出のために送信され得る。さらに他の例では、エンコードされたビットストリームは、サブビットストリームの抽出なしでデコードされ表示され得る。これらの例のいずれにおいても、サブピクチャのサイズ、位置、ID、数、および／または動き制約サブピクチャフラグが、サブピクチャ・レイアウトをデコーダに効率的にシグナリングするために使用され得る。
図11は、シグナリングされたサブピクチャ・レイアウトに基づいて、サブピクチャ522、523、622、722、および／または822のようなサブピクチャの、ビットストリーム500および／またはサブビットストリーム501のようなビットストリームをデコードする一例の方法1100のフローチャートである。方法1100は、方法100を実行するとき、コーデックシステム200、デコーダ400、および／またはビデオコーディングデバイス900のようなデコーダによって利用され得る。たとえば、方法1100は、方法1000の結果として作り出されるビットストリームをデコードするために適用され得る。
方法1100は、デコーダがサブピクチャを含むビットストリームを受信することを開始するとき開始し得る。ビットストリームは完全なビデオシーケンスを含んでもよく、または、ビットストリームは別々の抽出のためにサブピクチャの低減されたセットを含むサブビットストリームであってもよい。ステップ1101において、ビットストリームが受信される。ビットストリームは、ピクチャから区分されたサブピクチャを備える。ビットストリームはSPSも備える。SPSは、サブピクチャサイズおよびサブピクチャ位置を備える。いくつかの例では、サブピクチャは時間動き制約サブピクチャである。そのような場合、サブピクチャサイズおよびサブピクチャ位置は、動き制約サブピクチャのレイアウトを示す。いくつかの例では、SPSは、ピクチャから区分された各サブピクチャについてのサブピクチャIDをさらに備え得る。
ステップ1103において、SPSが、サブピクチャサイズおよびサブピクチャ位置を取得するために解析される。サブピクチャサイズは、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含み得る。サブピクチャ位置は、サブピクチャの左上サンプルとピクチャの左上サンプルとの間のオフセット距離を含み得る。サブピクチャは、また、時間動き制約サブピクチャフラグおよび／またはサブピクチャIDのような他のサブピクチャ関連のデータを取得するために解析され得る。
ステップ1105において、サブピクチャのサイズが、サブピクチャサイズに基づいてディスプレイのサイズに対して決定されることが可能である。さらに、サブピクチャの位置が、サブピクチャ位置に基づいてディスプレイに対して決定されることが可能である。デコーダは、また、時間動き制約サブピクチャフラグに基づいて、サブピクチャが独立にデコードされることが可能であるかどうかを決定することができる。従って、デコーダは、SPSからの解析されたデータおよび／またはサブピクチャに含まれるスライスと関連付けられるスライスヘッダからの対応するデータに基づいて、サブピクチャのレイアウトを決定することができる。
ステップ1107において、サブピクチャが、サブピクチャサイズ、サブピクチャ位置、および／または、SPS、PPS、スライスヘッダ、SEIメッセージなどから取得される他の情報に基づいてデコードされる。サブピクチャは、ビデオシーケンスを作り出すためにデコードされる。ステップ1109において、ビデオシーケンスが次いで、表示のために転送されることが可能である。
図12は、サブピクチャ522、523、622、722、および／または822のためのレイアウトのようなサブピクチャ・レイアウトを、ビットストリーム500および／またはサブビットストリーム501のようなビットストリームを介してシグナリングするための一例のシステム1200の概略図である。システム1200は、コーデックシステム200、エンコーダ300、デコーダ400、および／またはビデオコーディングデバイス900のようなエンコーダおよびデコーダによって実装され得る。さらに、システム1200は、方法100、1000、および／または1100を実装するときに利用され得る。
システム1200はビデオエンコーダ1202を含む。ビデオエンコーダ1202は、現在のサブピクチャを含む複数のサブピクチャへとピクチャを区分するための区分モジュール1201を備える。ビデオエンコーダ1202は、ピクチャから区分されたサブピクチャをビットストリームへとエンコードし、サブピクチャのサブピクチャサイズおよびサブピクチャ位置をビットストリーム内のSPSへとエンコードするためのエンコードモジュール1203をさらに備える。ビデオエンコーダ1202は、デコーダに向けた通信のためにビットストリームを記憶するための記憶モジュール1205をさらに備える。ビデオエンコーダ1202は、サブピクチャ、サブピクチャサイズ、およびサブピクチャ位置を含むビットストリームをデコーダに向けて送信するための送信モジュール1207をさらに備える。ビデオエンコーダ1202は、方法1000のステップのいずれかを実行するようにさらに構成され得る。
システム1200はビデオデコーダ1210も含む。ビデオデコーダ1210は、ピクチャから区分されたサブピクチャを備えるビットストリームと、サブピクチャのサブピクチャサイズおよびサブピクチャのサブピクチャ位置を備えるSPSとを受信するための受信モジュール1211を備える。ビデオデコーダ1210は、SPSを解析してサブピクチャサイズおよびサブピクチャ位置を取得するための解析モジュール1213をさらに備える。ビデオデコーダ1210は、サブピクチャサイズおよびサブピクチャ位置に基づいてサブピクチャをデコードしてビデオシーケンスを作り出すためのデコードモジュール1215をさらに備える。ビデオデコーダ1110は、表示のためにビデオシーケンスを転送するための転送モジュール1217をさらに備える。ビデオデコーダ1210は、方法1100のステップのいずれかを実行するようにさらに構成され得る。
第1のコンポーネントと第2のコンポーネントとの間の線、トレース、または別の媒体を除き、介在するコンポーネントがないとき、第1のコンポーネントは第2のコンポーネントに直接に結合される。第1のコンポーネントと第2のコンポーネントとの間に線、トレース、または別の媒体以外の介在するコンポーネントがあるとき、第1のコンポーネントは第2のコンポーネントに間接に結合される。用語「結合される」およびその変形は、直接に結合されるおよび間接に結合されるの両方を含む。用語「約」の使用は、そうでなく述べられるのでなければ、後続の数字の±10%を含む範囲を意味する。
ここに記載される典型的な方法のステップは、必ずしも説明された順序で実行されることは要求されないことも理解されるべきであり、そのような方法のステップの順序は単に典型的であると理解されるべきである。同様に、追加のステップがそのような方法に含まれてもよく、本開示の様々な実施形態と首尾一貫する方法において、あるステップが省略または組み合わされてもよい。
いくつかの実施形態が本開示において提供されたが、開示されたシステムおよび方法は、本開示の精神または範囲から逸脱することなく、多くの他の特定の形式で具現化され得ることが理解され得る。本例は、例示的であり、制限的でないとして考慮されるべきであり、意図はここで与えられる詳細に限定されることでない。たとえば、別のシステムでは様々な要素またはコンポーネントが組み合わされ、または統合されてもよく、またはある特徴が省略され、または実装されなくてもよい。
加えて、様々な実施形態において個別または別々として説明され例示される技法、システム、サブシステム、および方法は、本開示の範囲から逸脱することなく、他のシステム、コンポーネント、技法、または方法と組み合わされ、または統合されてもよい。改変、置換、および変更の他の例は、この技術分野の当業者によって確認可能であり、ここで開示される精神および範囲から逸脱することなく行われ得る。
200 コーデックシステム
201 区分されたビデオ信号
211 汎用コーダ制御コンポーネント
213 変換スケーリングおよび量子化コンポーネント
215 イントラピクチャ推定コンポーネント
217 イントラピクチャ予測コンポーネント
219 動き補償コンポーネント
221 動き推定コンポーネント
223 デコードされたピクチャバッファコンポーネント
225 ループ内フィルタコンポーネント
227 フィルタ制御分析コンポーネント
229 スケーリングおよび逆変換コンポーネント
231 ヘッダフォーマッティングおよびCABACコンポーネント
301 区分されたビデオ信号
313 変換および量子化コンポーネント
317 イントラピクチャ予測コンポーネント
321 動き補償コンポーネント
323 デコードされたピクチャバッファコンポーネント
325 ループ内フィルタコンポーネント
329 逆変換および量子化コンポーネント
331 エントロピーコーディングコンポーネント
417 イントラピクチャ予測コンポーネント
421 動き補償コンポーネント
423 デコードされたピクチャバッファコンポーネント
425 ループ内フィルタコンポーネント
429 逆変換および量子化コンポーネント
433 エントロピーデコードコンポーネント
500 ビットストリーム
501 サブビットストリーム
510 SPS
512 PPS
514 スライスヘッダ
515 SEIメッセージ
520 画像データ
521 ピクチャ
522 サブピクチャ
523 サブピクチャ
524 スライス
525 スライス
531 サブピクチャサイズ
532 サブピクチャ位置
533 サブピクチャID
534 動き制約サブピクチャフラグ
535 サブピクチャレベル
600 ピクチャ
622 サブピクチャ
631 サブピクチャサイズ
631a サブピクチャ幅
631b サブピクチャ高さ
632 位置
633 サブピクチャID
634 時間動き制約サブピクチャ
642 左上サンプル
700 機構
722 サブピクチャ
724 スライス
733 サブピクチャID
742 左上の角
801 ピクチャの右の境界
802 ピクチャの下の境界
822 サブピクチャ
825 CTU
900 ビデオコーディングデバイス
910 送信機／受信機
914 コーディングモジュール
920 ダウンストリームポート
930 プロセッサ
932 メモリ
950 アップストリームポート
960 I/Oデバイス
1200 システム
1201 区分モジュール
1202 ビデオエンコーダ
1203 エンコードモジュール
1205 記憶モジュール
1207 送信モジュール
1210 ビデオデコーダ
1211 受信モジュール
1213 解析モジュール
1215 デコードモジュール
1217 転送モジュール
201 区分されたビデオ信号
211 汎用コーダ制御コンポーネント
213 変換スケーリングおよび量子化コンポーネント
215 イントラピクチャ推定コンポーネント
217 イントラピクチャ予測コンポーネント
219 動き補償コンポーネント
221 動き推定コンポーネント
223 デコードされたピクチャバッファコンポーネント
225 ループ内フィルタコンポーネント
227 フィルタ制御分析コンポーネント
229 スケーリングおよび逆変換コンポーネント
231 ヘッダフォーマッティングおよびCABACコンポーネント
301 区分されたビデオ信号
313 変換および量子化コンポーネント
317 イントラピクチャ予測コンポーネント
321 動き補償コンポーネント
323 デコードされたピクチャバッファコンポーネント
325 ループ内フィルタコンポーネント
329 逆変換および量子化コンポーネント
331 エントロピーコーディングコンポーネント
417 イントラピクチャ予測コンポーネント
421 動き補償コンポーネント
423 デコードされたピクチャバッファコンポーネント
425 ループ内フィルタコンポーネント
429 逆変換および量子化コンポーネント
433 エントロピーデコードコンポーネント
500 ビットストリーム
501 サブビットストリーム
510 SPS
512 PPS
514 スライスヘッダ
515 SEIメッセージ
520 画像データ
521 ピクチャ
522 サブピクチャ
523 サブピクチャ
524 スライス
525 スライス
531 サブピクチャサイズ
532 サブピクチャ位置
533 サブピクチャID
534 動き制約サブピクチャフラグ
535 サブピクチャレベル
600 ピクチャ
622 サブピクチャ
631 サブピクチャサイズ
631a サブピクチャ幅
631b サブピクチャ高さ
632 位置
633 サブピクチャID
634 時間動き制約サブピクチャ
642 左上サンプル
700 機構
722 サブピクチャ
724 スライス
733 サブピクチャID
742 左上の角
801 ピクチャの右の境界
802 ピクチャの下の境界
822 サブピクチャ
825 CTU
900 ビデオコーディングデバイス
910 送信機／受信機
914 コーディングモジュール
920 ダウンストリームポート
930 プロセッサ
932 メモリ
950 アップストリームポート
960 I/Oデバイス
1200 システム
1201 区分モジュール
1202 ビデオエンコーダ
1203 エンコードモジュール
1205 記憶モジュール
1207 送信モジュール
1210 ビデオデコーダ
1211 受信モジュール
1213 解析モジュール
1215 デコードモジュール
1217 転送モジュール
Claims (20)
- デコーダ内に実装される方法であって、
前記デコーダの受信機によって、ピクチャから区分されたサブピクチャを備えるビットストリームと、前記サブピクチャのサブピクチャサイズおよび前記サブピクチャのサブピクチャ位置を備えるシーケンス・パラメータ・セット(SPS)とを受信するステップと、
前記デコーダのプロセッサによって、前記SPSを解析してサブピクチャサイズおよび前記サブピクチャ位置を取得するステップと、
前記プロセッサによって、前記サブピクチャサイズおよび前記サブピクチャ位置に基づいて前記サブピクチャをデコードしてビデオシーケンスを作り出すステップと、
前記プロセッサによって、表示のために前記ビデオシーケンスを転送するステップと、
を備える方法。 - 前記サブピクチャが時間動き制約サブピクチャであり、前記サブピクチャサイズおよび前記サブピクチャ位置が、前記時間動き制約サブピクチャのレイアウトを示す、請求項1に記載の方法。
- 前記プロセッサによって、前記サブピクチャサイズに基づいてディスプレイのサイズに対する前記サブピクチャのサイズを決定するステップをさらに備える、請求項1から2のいずれか一項に記載の方法。
- 前記プロセッサによって、前記サブピクチャ位置に基づいて前記ディスプレイに対する前記サブピクチャの位置を決定するステップをさらに備える、請求項1から3のいずれか一項に記載の方法。
- 前記サブピクチャ位置が前記サブピクチャの左上サンプルと前記ピクチャの左上サンプルとの間のオフセット距離を含む、請求項1から4のいずれか一項に記載の方法。
- 前記サブピクチャサイズが、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含む、請求項1から5のいずれか一項に記載の方法。
- 前記SPSが、前記ピクチャから区分された各サブピクチャについてのサブピクチャ識別子(ID)をさらに備える、請求項1から6のいずれか一項に記載の方法。
- エンコーダ内に実装される方法であって、
前記エンコーダのプロセッサによって、ピクチャから区分されたサブピクチャをビットストリームへとエンコードするステップと、
前記プロセッサによって、前記サブピクチャのサブピクチャサイズおよびサブピクチャ位置を前記ビットストリーム内のシーケンス・パラメータ・セット(SPS)へとエンコードするステップと、
前記エンコーダのメモリに、デコーダに向けた通信のために前記ビットストリームを記憶するステップと、
を備える方法。 - 前記プロセッサによって、前記サブピクチャが時間動き制約サブピクチャであることを示すためにフラグを前記SPS内にエンコードするステップをさらに備える、請求項8に記載の方法。
- 前記サブピクチャサイズおよび前記サブピクチャ位置が、時間動き制約サブピクチャのレイアウトを示す、請求項8から9のいずれか一項に記載の方法。
- 前記サブピクチャ位置が、前記サブピクチャの左上サンプルと前記ピクチャの左上サンプルとの間のオフセット距離を含む、請求項8から10のいずれか一項に記載の方法。
- 前記サブピクチャサイズが、ルマサンプルにおけるサブピクチャ高さおよびルマサンプルにおけるサブピクチャ幅を含む、請求項8から11のいずれか一項に記載の方法。
- 前記プロセッサによって、前記ピクチャから区分された各サブピクチャについてのサブピクチャ識別子(ID)を前記SPSへとエンコードするステップをさらに備える、請求項8から12のいずれか一項に記載の方法。
- 前記プロセッサによって、前記ピクチャから区分されたサブピクチャの数を前記SPS内にエンコードするステップをさらに備える、請求項8から12のいずれか一項に記載の方法。
- プロセッサ、メモリ、前記プロセッサに結合された受信機、および前記プロセッサに結合された送信機を備え、前記プロセッサ、メモリ、受信機、および送信機が、請求項1から14のいずれか一項に記載の方法を実行するように構成されたビデオコーディングデバイス。
- ビデオコーディングデバイスによる使用のためのコンピュータプログラム製品を備える非一時的コンピュータ可読媒体であって、前記コンピュータプログラム製品が、プロセッサによって実行されるとき前記ビデオコーディングデバイスに請求項1から14のいずれか一項に記載の方法を実行させるような、前記非一時的コンピュータ可読媒体に記憶されたコンピュータ実行可能命令を備える、非一時的コンピュータ可読媒体。
- ピクチャから区分されたサブピクチャを備えるビットストリームと、前記サブピクチャのサブピクチャサイズおよび前記サブピクチャのサブピクチャ位置を備えるシーケンス・パラメータ・セット(SPS)とを受信するための受信手段と、
前記SPSを解析して前記サブピクチャサイズおよび前記サブピクチャ位置を取得するための解析手段と、
前記サブピクチャサイズおよび前記サブピクチャ位置に基づいて前記サブピクチャをデコードしてビデオシーケンスを作り出すためのデコード手段と、
表示のために前記ビデオシーケンスを転送するための転送手段と、
を備えるデコーダ。 - 前記デコーダが、請求項1から7のいずれか一項に記載の方法を実行するようにさらに構成された、請求項17に記載のデコーダ。
- ピクチャから区分されたサブピクチャをビットストリームへとエンコードし、
前記サブピクチャのサブピクチャサイズおよびサブピクチャ位置を前記ビットストリーム内のシーケンス・パラメータ・セット(SPS)へとエンコードする
ためのエンコード手段と、
デコーダに向けた通信のために前記ビットストリームを記憶するための記憶手段と、
を備えるエンコーダ。 - 前記エンコーダが、請求項8から14のいずれか一項に記載の方法を実行するようにさらに構成された、請求項19に記載のエンコーダ。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201962790207P | 2019-01-09 | 2019-01-09 | |
| US62/790,207 | 2019-01-09 | ||
| JP2021540001A JP7556861B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021540001A Division JP7556861B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2023101529A true JP2023101529A (ja) | 2023-07-21 |
Family
ID=71520341
Family Applications (11)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021540003A Active JP7404373B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540004A Active JP7467480B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540005A Active JP7508462B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021539999A Active JP7516389B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540000A Active JP7223146B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540001A Active JP7556861B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2023015475A Active JP7467706B2 (ja) | 2019-01-09 | 2023-02-03 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2023076273A Pending JP2023101529A (ja) | 2019-01-09 | 2023-05-02 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2023209280A Pending JP2024019510A (ja) | 2019-01-09 | 2023-12-12 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2024028639A Pending JP2024071391A (ja) | 2019-01-09 | 2024-02-28 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2024045089A Pending JP2024086733A (ja) | 2019-01-09 | 2024-03-21 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
Family Applications Before (7)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021540003A Active JP7404373B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540004A Active JP7467480B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540005A Active JP7508462B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021539999A Active JP7516389B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540000A Active JP7223146B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2021540001A Active JP7556861B2 (ja) | 2019-01-09 | 2020-01-09 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2023015475A Active JP7467706B2 (ja) | 2019-01-09 | 2023-02-03 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
Family Applications After (3)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023209280A Pending JP2024019510A (ja) | 2019-01-09 | 2023-12-12 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2024028639A Pending JP2024071391A (ja) | 2019-01-09 | 2024-02-28 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| JP2024045089A Pending JP2024086733A (ja) | 2019-01-09 | 2024-03-21 | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
Country Status (21)
| Country | Link |
|---|---|
| US (8) | US20210337227A1 (ja) |
| EP (10) | EP4221214A1 (ja) |
| JP (11) | JP7404373B2 (ja) |
| KR (7) | KR20210107128A (ja) |
| CN (10) | CN115550648B (ja) |
| AU (2) | AU2020206246B2 (ja) |
| BR (5) | BR112021013499A2 (ja) |
| CY (3) | CY1126078T1 (ja) |
| DK (6) | DK3906665T3 (ja) |
| ES (4) | ES2951060T3 (ja) |
| FI (5) | FI3909246T3 (ja) |
| HR (3) | HRP20230702T1 (ja) |
| HU (4) | HUE062631T2 (ja) |
| LT (3) | LT3906665T (ja) |
| MX (6) | MX2021008347A (ja) |
| PL (4) | PL3906665T3 (ja) |
| PT (6) | PT3909244T (ja) |
| RS (3) | RS64353B1 (ja) |
| SG (5) | SG11202107543SA (ja) |
| SI (3) | SI3909244T1 (ja) |
| WO (6) | WO2020146614A1 (ja) |
Families Citing this family (37)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112236998A (zh) * | 2019-01-02 | 2021-01-15 | 株式会社 Xris | 用于对视频信号进行编码/解码的方法及其装置 |
| JP7404373B2 (ja) * | 2019-01-09 | 2023-12-25 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| WO2020164480A1 (en) * | 2019-02-11 | 2020-08-20 | Beijing Bytedance Network Technology Co., Ltd. | Condition dependent video block partition |
| CN113661714B (zh) * | 2019-03-11 | 2024-10-01 | 交互数字Vc控股公司 | 子画面比特流提取和重新定位 |
| US20220182681A1 (en) * | 2019-03-24 | 2022-06-09 | Lg Electronics Inc. | Image or video coding based on sub-picture handling structure |
| WO2020249124A1 (en) | 2019-06-14 | 2020-12-17 | Beijing Bytedance Network Technology Co., Ltd. | Handling video unit boundaries and virtual boundaries based on color format |
| CN118138754A (zh) | 2019-06-14 | 2024-06-04 | 北京字节跳动网络技术有限公司 | 处理视频单元边界和虚拟边界 |
| US20220272321A1 (en) * | 2019-06-19 | 2022-08-25 | Electronics And Telecommunications Research Institute | Method, device, and recording medium for encoding/decoding image using reference picture |
| KR20220042125A (ko) | 2019-08-10 | 2022-04-04 | 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 | 서브픽처 디코딩에서의 버퍼 관리 |
| CN112970251A (zh) | 2019-08-20 | 2021-06-15 | 株式会社 Xris | 用于对图像信号进行编码/解码的方法及其装置 |
| WO2021039578A1 (ja) * | 2019-08-29 | 2021-03-04 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 符号化装置、復号装置、符号化方法、および復号方法 |
| JP2021044708A (ja) * | 2019-09-11 | 2021-03-18 | キヤノン株式会社 | 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム |
| KR102707780B1 (ko) | 2019-09-18 | 2024-09-20 | 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 | 비디오 코딩에서 적응형 루프 필터의 2-파트 시그널링 |
| EP4018652A4 (en) | 2019-09-22 | 2022-11-02 | Beijing Bytedance Network Technology Co., Ltd. | FILLING METHOD IN AN ADAPTIVE LOOP FILTER |
| US20220385924A1 (en) * | 2019-09-23 | 2022-12-01 | Telefonaktiebolaget Lm Ericsson (Publ) | Segment position signalling with subpicture slice position deriving |
| JP7326600B2 (ja) | 2019-09-27 | 2023-08-15 | 北京字節跳動網絡技術有限公司 | 異なるビデオユニット間の適応ループフィルタリング |
| JP7322290B2 (ja) * | 2019-10-02 | 2023-08-07 | 北京字節跳動網絡技術有限公司 | ビデオビットストリームにおけるサブピクチャシグナリングのための構文 |
| EP4029263A4 (en) | 2019-10-10 | 2022-12-07 | Beijing Bytedance Network Technology Co., Ltd. | FILLING PROCEDURE AT UNAVAILABLE SAMPLING POINTS IN AN ADAPTIVE LOOP FILTERING |
| JP7482220B2 (ja) | 2019-10-18 | 2024-05-13 | 北京字節跳動網絡技術有限公司 | サブピクチャのパラメータセットシグナリングにおける構文制約 |
| KR102707834B1 (ko) | 2019-10-29 | 2024-09-19 | 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 | 루마 차이를 이용한 크로스 컴포넌트 적응적 루프 필터 |
| US11509938B2 (en) * | 2019-11-05 | 2022-11-22 | Hfi Innovation Inc. | Method and apparatus of signaling subpicture information in video coding |
| US20210176475A1 (en) * | 2019-12-05 | 2021-06-10 | Mediatek Inc. | Specifying Layout In Video Pictures |
| US12088848B2 (en) * | 2019-12-11 | 2024-09-10 | Sharp Kabushiki Kaisha | Systems and methods for signaling output layer set information in video coding |
| BR112022011466A2 (pt) | 2019-12-11 | 2022-08-23 | Beijing Bytedance Network Tech Co Ltd | Método de processamento de dados de vídeo, aparelho para processamento de dados de vídeo, meio de armazenamento e meio de gravação legíveis por computador não transitório |
| GB2590632B (en) * | 2019-12-20 | 2023-07-26 | Canon Kk | Video coding and decoding |
| EP4062634A4 (en) | 2019-12-26 | 2022-12-28 | ByteDance Inc. | LIMITATIONS ON SIGNALING HYPOTHETICAL REFERENCE DECODER PARAMETERS IN VIDEO BITSTREAMS |
| WO2021134015A1 (en) | 2019-12-26 | 2021-07-01 | Bytedance Inc. | Profile, tier and layer indication in video coding |
| CN114902567A (zh) | 2019-12-27 | 2022-08-12 | 字节跳动有限公司 | 视频编解码中的子图像信令 |
| US11778169B2 (en) * | 2019-12-27 | 2023-10-03 | Electronics And Telecommunications Research Institute | Method, apparatus and storage medium for image encoding/decoding using reference picture |
| US12058357B2 (en) * | 2020-03-31 | 2024-08-06 | Tencent America LLC | Method for signaling subpicture partitioning in coded video stream |
| CN116325728A (zh) | 2020-06-30 | 2023-06-23 | 抖音视界有限公司 | 自适应环路滤波的边界位置 |
| EP3972279A1 (en) | 2020-09-17 | 2022-03-23 | Lemon Inc. | Subpicture track referencing and processing |
| US20220086387A1 (en) | 2020-09-17 | 2022-03-17 | Lemon Inc. | Subpicture entity groups in video coding |
| US20220086497A1 (en) | 2020-09-17 | 2022-03-17 | Lemon Inc. | Subpicture entity group signaling in coded video |
| WO2022139459A1 (ko) * | 2020-12-23 | 2022-06-30 | 엘지전자 주식회사 | 서브 픽처 id 정보를 시그널링하는 미디어 파일 생성/수신 방법, 장치 및 미디어 파일을 저장한 컴퓨터 판독 가능한 기록 매체 |
| US20220345725A1 (en) | 2021-04-15 | 2022-10-27 | Lemon Inc. | Level Indicator For Sub-Picture Entity Group |
| WO2023244022A1 (ko) * | 2022-06-16 | 2023-12-21 | 엘지전자 주식회사 | 스캔 오더(scan order) 정보에 기반한 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장하는 기록 매체 |
Family Cites Families (100)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100496703B1 (ko) * | 1996-09-27 | 2005-11-24 | 마쯔시다덴기산교 가부시키가이샤 | 비디오데이터의택일적인재생이가능한멀티미디어스트림생성방법과멀티미디어광디스크오소링시스템 |
| GB2382940A (en) * | 2001-11-27 | 2003-06-11 | Nokia Corp | Encoding objects and background blocks |
| US20030112868A1 (en) * | 2001-12-17 | 2003-06-19 | Koninklijke Philips Electronics N.V. | Shape assisted padding for object-based coding |
| JP2004128761A (ja) * | 2002-10-01 | 2004-04-22 | Pioneer Electronic Corp | 情報記録媒体、情報記録装置及び方法、情報再生装置及び方法、情報記録再生装置及び方法、記録又は再生制御用のコンピュータプログラム、並びに制御信号を含むデータ構造 |
| KR100539886B1 (ko) | 2004-09-10 | 2005-12-28 | 삼성전자주식회사 | 디지털 방송 수신 장치 및 그 방법 |
| JP2008536420A (ja) * | 2005-04-13 | 2008-09-04 | ノキア コーポレイション | スケーラビリティ情報の符号化、格納およびシグナリング |
| JP2010505318A (ja) * | 2006-09-26 | 2010-02-18 | エーエムビーエックス ユーケー リミテッド | ビデオフレームと補助データを含むビットストリームの形成及び処理 |
| US20140072058A1 (en) * | 2010-03-05 | 2014-03-13 | Thomson Licensing | Coding systems |
| JP2010041494A (ja) * | 2008-08-06 | 2010-02-18 | Sumitomo Electric Ind Ltd | ネットワーク端末 |
| US9602821B2 (en) * | 2008-10-01 | 2017-03-21 | Nvidia Corporation | Slice ordering for video encoding |
| US9036714B2 (en) * | 2009-01-26 | 2015-05-19 | Thomson Licensing | Frame packing for video coding |
| KR20110061468A (ko) * | 2009-12-01 | 2011-06-09 | (주)휴맥스 | 고해상도 영상의 부호화/복호화 방법 및 이를 수행하는 장치 |
| US20120179833A1 (en) * | 2010-06-02 | 2012-07-12 | Onmobile Global Limited | Method and apparatus for adapting media |
| US8780973B2 (en) * | 2010-08-13 | 2014-07-15 | Texas Instruments Incorporated | Limiting the maximum size of an encoded video picture using sub-picture based rate control |
| US8891889B2 (en) * | 2011-04-13 | 2014-11-18 | Huawei Technologies Co., Ltd. | Image encoding and decoding methods and related devices |
| US20130016769A1 (en) | 2011-07-17 | 2013-01-17 | Qualcomm Incorporated | Signaling picture size in video coding |
| US9584819B2 (en) * | 2011-10-24 | 2017-02-28 | Qualcomm Incorporated | Grouping of tiles for video coding |
| US20130107973A1 (en) | 2011-10-28 | 2013-05-02 | Qualcomm Incorporated | Loop filtering control over tile boundaries |
| US20130136180A1 (en) * | 2011-11-29 | 2013-05-30 | Futurewei Technologies, Inc. | Unified Partitioning Structures and Signaling Methods for High Efficiency Video Coding |
| US9819949B2 (en) * | 2011-12-16 | 2017-11-14 | Microsoft Technology Licensing, Llc | Hardware-accelerated decoding of scalable video bitstreams |
| US9288506B2 (en) * | 2012-01-05 | 2016-03-15 | Qualcomm Incorporated | Signaling view synthesis prediction support in 3D video coding |
| US9332259B2 (en) | 2012-01-18 | 2016-05-03 | Qualcomm Incorporated | Indication of use of wavefront parallel processing in video coding |
| US10244246B2 (en) | 2012-02-02 | 2019-03-26 | Texas Instruments Incorporated | Sub-pictures for pixel rate balancing on multi-core platforms |
| US9756327B2 (en) * | 2012-04-03 | 2017-09-05 | Qualcomm Incorporated | Quantization matrix and deblocking filter adjustments for video coding |
| US9578326B2 (en) * | 2012-04-04 | 2017-02-21 | Qualcomm Incorporated | Low-delay video buffering in video coding |
| WO2013150944A1 (ja) | 2012-04-06 | 2013-10-10 | ソニー株式会社 | 復号装置および復号方法、並びに、符号化装置および符号化方法 |
| JP5888278B2 (ja) | 2012-04-06 | 2016-03-16 | 株式会社Ｊｖｃケンウッド | 動画像復号装置、動画像復号方法、動画像復号プログラム、受信装置、受信方法及び受信プログラム |
| IN2014DN07859A (ja) * | 2012-04-16 | 2015-04-24 | Ericsson Telefon Ab L M | |
| US20130287093A1 (en) * | 2012-04-25 | 2013-10-31 | Nokia Corporation | Method and apparatus for video coding |
| CN115442623B (zh) | 2012-06-29 | 2024-08-23 | Ge视频压缩有限责任公司 | 解码视频数据流的方法、存储介质、编码器、解码器 |
| JP6376719B2 (ja) * | 2012-06-29 | 2018-08-22 | キヤノン株式会社 | 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム |
| US20140003504A1 (en) * | 2012-07-02 | 2014-01-02 | Nokia Corporation | Apparatus, a Method and a Computer Program for Video Coding and Decoding |
| US9602827B2 (en) * | 2012-07-02 | 2017-03-21 | Qualcomm Incorporated | Video parameter set including an offset syntax element |
| EP2871567A4 (en) * | 2012-07-06 | 2016-01-06 | Samsung Electronics Co Ltd | METHOD AND APPARATUS FOR ENCODING MULTILAYER VIDEO, AND METHOD AND APPARATUS FOR DECODING MULTILAYER VIDEO |
| JP2014027371A (ja) * | 2012-07-24 | 2014-02-06 | Nippon Hoso Kyokai <Nhk> | イントラ予測処理装置及びプログラム |
| US8989508B2 (en) * | 2012-09-28 | 2015-03-24 | Sharp Kabushiki Kaisha | Electronic device for signaling a sub-picture buffer parameter |
| US9491457B2 (en) * | 2012-09-28 | 2016-11-08 | Qualcomm Incorporated | Signaling of regions of interest and gradual decoding refresh in video coding |
| EP2887663B1 (en) | 2012-09-29 | 2017-02-22 | Huawei Technologies Co., Ltd. | Method, apparatus and system for encoding and decoding video |
| RU2608465C1 (ru) * | 2013-01-04 | 2017-01-18 | Самсунг Электроникс Ко., Лтд. | Способ энтропийного кодирования сегмента слайса и устройство для него и способ энтропийного декодирования сегмента слайса и устройство для него |
| CN105144720B (zh) * | 2013-01-04 | 2018-12-28 | Ge视频压缩有限责任公司 | 高效可伸缩编码概念 |
| WO2014141142A1 (en) | 2013-03-14 | 2014-09-18 | Gamesys Ltd | Systems and methods for detection of gaming experience management implementations |
| GB2512829B (en) * | 2013-04-05 | 2015-05-27 | Canon Kk | Method and apparatus for encoding or decoding an image with inter layer motion information prediction according to motion information compression scheme |
| US9749627B2 (en) * | 2013-04-08 | 2017-08-29 | Microsoft Technology Licensing, Llc | Control data for motion-constrained tile set |
| US9635371B2 (en) * | 2013-05-31 | 2017-04-25 | Qualcomm Incorporated | Determining rounding offset using scaling factor in picture resampling |
| US8923640B1 (en) * | 2013-06-07 | 2014-12-30 | Apple Inc. | Coherence groups: region descriptors for low bit rate encoding |
| JP6505026B2 (ja) | 2013-07-10 | 2019-04-24 | シャープ株式会社 | 符号化方法 |
| WO2015009693A1 (en) * | 2013-07-15 | 2015-01-22 | Sony Corporation | Layer based hrd buffer management for scalable hevc |
| EP3008896B1 (en) * | 2013-07-15 | 2021-03-31 | Sony Corporation | Extensions of motion-constrained tile sets sei message for interactivity |
| GB2516824A (en) * | 2013-07-23 | 2015-02-11 | Nokia Corp | An apparatus, a method and a computer program for video coding and decoding |
| WO2015052979A1 (ja) * | 2013-10-11 | 2015-04-16 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
| WO2015052943A1 (en) * | 2013-10-13 | 2015-04-16 | Sharp Kabushiki Kaisha | Signaling parameters in vps extension and dpb operation |
| EP3089452A4 (en) * | 2013-12-26 | 2017-10-25 | Samsung Electronics Co., Ltd. | Inter-layer video decoding method for performing subblock-based prediction and apparatus therefor, and inter-layer video encoding method for performing subblock-based prediction and apparatus therefor |
| US9912966B2 (en) * | 2014-01-03 | 2018-03-06 | Nokia Technologies Oy | Parameter set coding |
| US10320867B2 (en) | 2014-01-07 | 2019-06-11 | Canon Kabushiki Kaisha | Method, device, and computer program for encoding inter-layer dependencies in encapsulating multi-layer partitioned timed media data |
| JP6224516B2 (ja) * | 2014-05-07 | 2017-11-01 | 日本電信電話株式会社 | エンコード方法およびエンコードプログラム |
| US9699480B2 (en) * | 2014-06-13 | 2017-07-04 | Sharp Laboratories Of America, Inc. | Level limits |
| MX2021015798A (es) | 2014-06-20 | 2023-03-07 | Sony Corp | Dispositivo y metodo de codificacion de imagen, y dispositivo y metodo de decodificacion de imagen. |
| WO2015194187A1 (en) * | 2014-06-20 | 2015-12-23 | Sharp Kabushiki Kaisha | Harmonized palette coding |
| EP3248377B1 (en) * | 2015-02-16 | 2022-05-04 | HFI Innovation Inc. | Method and apparatus for palette predictor initialization for palette coding in video and image compression |
| GB2535990A (en) * | 2015-02-26 | 2016-09-07 | Univ Antwerpen | Computer program and method of determining a personalized head-related transfer function and interaural time difference function |
| EP3128485A1 (en) * | 2015-08-05 | 2017-02-08 | Thomson Licensing | Method and apparatus for hierarchical motion estimation using dfd-based image segmentation |
| WO2017088093A1 (en) | 2015-11-23 | 2017-06-01 | Mediatek Singapore Pte. Ltd. | On the smallest allowed block size in video coding |
| US20170180758A1 (en) * | 2015-12-22 | 2017-06-22 | Vallabhajosyula S. Somayazulu | Tiled Wireless Display |
| CN118784881A (zh) * | 2016-02-09 | 2024-10-15 | 弗劳恩霍夫应用研究促进协会 | 解码器、编码器、方法、网络设备以及可读存储介质 |
| EP3249928A1 (en) | 2016-05-23 | 2017-11-29 | Thomson Licensing | Method, apparatus and stream of formatting an immersive video for legacy and immersive rendering devices |
| US10812791B2 (en) * | 2016-09-16 | 2020-10-20 | Qualcomm Incorporated | Offset vector identification of temporal motion vector predictor |
| US10250776B2 (en) * | 2016-10-04 | 2019-04-02 | International Business Machines Corporation | Enhancing graph visualization with supplemental data |
| CN115022626A (zh) * | 2016-10-04 | 2022-09-06 | 有限公司B1影像技术研究所 | 图像数据编码/解码方法和计算机可读记录介质 |
| WO2018071666A1 (en) * | 2016-10-12 | 2018-04-19 | Arris Enterprises Llc | Coding schemes for virtual reality (vr) sequences |
| WO2018083378A1 (en) * | 2016-11-01 | 2018-05-11 | Nokia Technologies Oy | An apparatus, a method and a computer program for video coding and decoding |
| GB2594615B (en) * | 2017-03-20 | 2022-11-30 | Canon Kk | Method and apparatus for encoding and transmitting at least a spatial part of a video sequence |
| CN115955560B (zh) * | 2017-03-20 | 2024-10-11 | Ge视频压缩有限责任公司 | 生成视频数据流的装置以及生成视频数据流的方法 |
| WO2018221368A1 (ja) * | 2017-05-31 | 2018-12-06 | シャープ株式会社 | 動画像復号装置、及び動画像符号化装置 |
| EP3422724B1 (en) * | 2017-06-26 | 2024-05-01 | Nokia Technologies Oy | An apparatus, a method and a computer program for omnidirectional video |
| CN116320400A (zh) * | 2017-07-03 | 2023-06-23 | 汉阳大学校产学协力团 | 利用包含追加区域的分割单位的影像解码方法以及装置 |
| CN118200610A (zh) * | 2017-07-04 | 2024-06-14 | 华为技术有限公司 | 边界强制分区的改进 |
| TWI812414B (zh) * | 2017-07-13 | 2023-08-11 | 美商松下電器（美國）知識產權公司 | 編碼裝置、解碼裝置及記錄媒體 |
| CN118018761A (zh) * | 2017-12-28 | 2024-05-10 | 韩国电子通信研究院 | 图像编码和解码的方法和装置以及存储比特流的记录介质 |
| KR102543953B1 (ko) | 2018-04-19 | 2023-06-20 | 엘지전자 주식회사 | 영상의 처리 방법 및 이를 위한 장치 |
| CN112544084B (zh) * | 2018-05-15 | 2024-03-01 | 夏普株式会社 | 图像编码装置、编码流提取装置以及图像解码装置 |
| EP3782369B1 (en) * | 2018-05-30 | 2023-08-23 | Huawei Technologies Co., Ltd. | Multi-type tree depth extension for picture boundary handling |
| US20210274217A1 (en) * | 2018-06-29 | 2021-09-02 | Electronics And Telecommunications Research Institute | Image encoding/decoding method and apparatus for throughput enhancement, and recording medium storing bitstream |
| JP2021153213A (ja) * | 2018-06-29 | 2021-09-30 | シャープ株式会社 | 動画像符号化装置および動画像復号装置 |
| US11290728B2 (en) * | 2018-07-02 | 2022-03-29 | Nokia Technologies Oy | Method and apparatus for tile-relative addressing in video coding |
| KR102545728B1 (ko) * | 2018-07-16 | 2023-06-20 | 엘지전자 주식회사 | 서브블록 단위의 시간적 움직임 정보 예측을 위한 인터 예측 방법 및 그 장치 |
| WO2020050705A1 (ko) * | 2018-09-07 | 2020-03-12 | 가온미디어 주식회사 | 그룹 단위 양자화 파라미터를 처리하는 영상 복호화 및 부호화 방법 |
| CN112703734A (zh) * | 2018-09-14 | 2021-04-23 | Vid拓展公司 | 用于灵活网格区域的方法和装置 |
| US11057636B2 (en) * | 2018-09-17 | 2021-07-06 | Qualcomm Incorporated | Affine motion prediction |
| WO2020060243A1 (ko) * | 2018-09-19 | 2020-03-26 | 한국전자통신연구원 | 경계 처리를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 |
| KR102660160B1 (ko) * | 2018-11-22 | 2024-04-24 | 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 | 서브 블록 기반 인터 예측을 위한 조정 방법 |
| EP3891983A1 (en) * | 2018-12-04 | 2021-10-13 | VID SCALE, Inc. | Tile group partitioning |
| US11102513B2 (en) * | 2018-12-06 | 2021-08-24 | Tencent America LLC | One-level transform split and adaptive sub-block transform |
| CN113196757B (zh) * | 2018-12-20 | 2024-04-26 | 瑞典爱立信有限公司 | 用于使用图片中的均匀片段分割进行视频编码的方法和装置 |
| CN118660160A (zh) * | 2018-12-28 | 2024-09-17 | 有限公司B1影像技术研究所 | 对图像进行编码/解码的方法和计算机可读存储介质 |
| WO2020135482A1 (en) * | 2018-12-29 | 2020-07-02 | Beijing Bytedance Network Technology Co., Ltd. | Construction method for default motion candidate in sub-block based inter prediction |
| EP3906677A4 (en) * | 2019-01-02 | 2022-10-19 | Nokia Technologies Oy | DEVICE, METHOD AND COMPUTER PROGRAM FOR VIDEO ENCODING AND DECODING |
| JP7404373B2 (ja) * | 2019-01-09 | 2023-12-25 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
| GB2584295A (en) | 2019-05-28 | 2020-12-02 | Canon Kk | Method and apparatus for encoding and decoding a video bitstream for merging regions of interest |
| JP7482220B2 (ja) * | 2019-10-18 | 2024-05-13 | 北京字節跳動網絡技術有限公司 | サブピクチャのパラメータセットシグナリングにおける構文制約 |
| JP7535584B2 (ja) * | 2019-12-12 | 2024-08-16 | エルジー エレクトロニクス インコーポレイティド | ループフィルタリングを制御するための映像コーディング装置及び方法 |
-
2020
- 2020-01-09 JP JP2021540003A patent/JP7404373B2/ja active Active
- 2020-01-09 HU HUE20738357A patent/HUE062631T2/hu unknown
- 2020-01-09 CN CN202211022376.3A patent/CN115550648B/zh active Active
- 2020-01-09 SG SG11202107543SA patent/SG11202107543SA/en unknown
- 2020-01-09 PL PL20738971.9T patent/PL3906665T3/pl unknown
- 2020-01-09 WO PCT/US2020/012907 patent/WO2020146614A1/en unknown
- 2020-01-09 LT LTEPPCT/US2020/012910T patent/LT3906665T/lt unknown
- 2020-01-09 CN CN202080008738.6A patent/CN113330745A/zh active Pending
- 2020-01-09 EP EP23166930.0A patent/EP4221214A1/en active Pending
- 2020-01-09 JP JP2021540004A patent/JP7467480B2/ja active Active
- 2020-01-09 KR KR1020217024938A patent/KR20210107128A/ko not_active Application Discontinuation
- 2020-01-09 SI SI202030210T patent/SI3909244T1/sl unknown
- 2020-01-09 CN CN202210114288.XA patent/CN114584770B/zh active Active
- 2020-01-09 EP EP20739138.4A patent/EP3906687B1/en active Active
- 2020-01-09 PT PT207383571T patent/PT3909244T/pt unknown
- 2020-01-09 JP JP2021540005A patent/JP7508462B2/ja active Active
- 2020-01-09 SG SG11202107546UA patent/SG11202107546UA/en unknown
- 2020-01-09 MX MX2021008347A patent/MX2021008347A/es unknown
- 2020-01-09 EP EP20738533.7A patent/EP3906684B9/en active Active
- 2020-01-09 JP JP2021539999A patent/JP7516389B2/ja active Active
- 2020-01-09 CN CN202080008683.9A patent/CN113508591A/zh active Pending
- 2020-01-09 WO PCT/US2020/012921 patent/WO2020146623A1/en unknown
- 2020-01-09 RS RS20230522A patent/RS64353B1/sr unknown
- 2020-01-09 RS RS20230572A patent/RS64374B1/sr unknown
- 2020-01-09 DK DK20738971.9T patent/DK3906665T3/da active
- 2020-01-09 JP JP2021540000A patent/JP7223146B2/ja active Active
- 2020-01-09 SG SG11202107549XA patent/SG11202107549XA/en unknown
- 2020-01-09 PL PL20739138.4T patent/PL3906687T3/pl unknown
- 2020-01-09 MX MX2021008348A patent/MX2021008348A/es unknown
- 2020-01-09 EP EP20738190.6A patent/EP3909246B1/en active Active
- 2020-01-09 CN CN202410210946.4A patent/CN118101934A/zh active Pending
- 2020-01-09 FI FIEP20738190.6T patent/FI3909246T3/fi active
- 2020-01-09 PT PT207382698T patent/PT3909245T/pt unknown
- 2020-01-09 EP EP24193014.8A patent/EP4451673A2/en active Pending
- 2020-01-09 CN CN202211021778.1A patent/CN115550647B/zh active Active
- 2020-01-09 SI SI202030220T patent/SI3906665T1/sl unknown
- 2020-01-09 DK DK20738190.6T patent/DK3909246T3/da active
- 2020-01-09 DK DK23169952.1T patent/DK4221215T3/da active
- 2020-01-09 WO PCT/US2020/012974 patent/WO2020146665A1/en unknown
- 2020-01-09 MX MX2021008345A patent/MX2021008345A/es unknown
- 2020-01-09 HR HRP20230702TT patent/HRP20230702T1/hr unknown
- 2020-01-09 BR BR112021013499-9A patent/BR112021013499A2/pt unknown
- 2020-01-09 SG SG11202107548WA patent/SG11202107548WA/en unknown
- 2020-01-09 LT LTEPPCT/US2020/012970T patent/LT3909244T/lt unknown
- 2020-01-09 AU AU2020206246A patent/AU2020206246B2/en active Active
- 2020-01-09 CN CN202080008699.XA patent/CN113302933A/zh active Pending
- 2020-01-09 HU HUE20738971A patent/HUE062301T2/hu unknown
- 2020-01-09 FI FIEP20738357.1T patent/FI3909244T3/fi active
- 2020-01-09 PT PT207381906T patent/PT3909246T/pt unknown
- 2020-01-09 EP EP20738357.1A patent/EP3909244B1/en active Active
- 2020-01-09 DK DK20738533.7T patent/DK3906684T3/da active
- 2020-01-09 KR KR1020217025036A patent/KR102648032B1/ko active IP Right Grant
- 2020-01-09 LT LTEPPCT/US2020/012921T patent/LT3909246T/lt unknown
- 2020-01-09 BR BR112021013512-0A patent/BR112021013512A2/pt unknown
- 2020-01-09 PL PL20738357.1T patent/PL3909244T3/pl unknown
- 2020-01-09 HR HRP20230682TT patent/HRP20230682T1/hr unknown
- 2020-01-09 WO PCT/US2020/012970 patent/WO2020146662A1/en unknown
- 2020-01-09 EP EP23169952.1A patent/EP4221215B1/en active Active
- 2020-01-09 ES ES20738357T patent/ES2951060T3/es active Active
- 2020-01-09 EP EP23165304.9A patent/EP4221213B1/en active Active
- 2020-01-09 PL PL20738190.6T patent/PL3909246T3/pl unknown
- 2020-01-09 WO PCT/US2020/012910 patent/WO2020146616A1/en unknown
- 2020-01-09 FI FIEP20738533.7T patent/FI3906684T3/fi active
- 2020-01-09 KR KR1020217024921A patent/KR20210109630A/ko not_active Application Discontinuation
- 2020-01-09 FI FIEP20738971.9T patent/FI3906665T3/fi active
- 2020-01-09 MX MX2021008339A patent/MX2021008339A/es unknown
- 2020-01-09 HU HUE20738190A patent/HUE062613T2/hu unknown
- 2020-01-09 CN CN202080008695.1A patent/CN113287313A/zh active Pending
- 2020-01-09 ES ES20738971T patent/ES2952079T3/es active Active
- 2020-01-09 BR BR112021013436-0A patent/BR112021013436A2/pt active Search and Examination
- 2020-01-09 SI SI202030212T patent/SI3909246T1/sl unknown
- 2020-01-09 EP EP20738971.9A patent/EP3906665B1/en active Active
- 2020-01-09 JP JP2021540001A patent/JP7556861B2/ja active Active
- 2020-01-09 KR KR1020247013391A patent/KR20240056798A/ko active Application Filing
- 2020-01-09 PT PT207385337T patent/PT3906684T/pt unknown
- 2020-01-09 DK DK20738269.8T patent/DK3909245T3/da active
- 2020-01-09 EP EP20738269.8A patent/EP3909245B1/en active Active
- 2020-01-09 BR BR112021013521-9A patent/BR112021013521A2/pt unknown
- 2020-01-09 MX MX2021008344A patent/MX2021008344A/es unknown
- 2020-01-09 PT PT207391384T patent/PT3906687T/pt unknown
- 2020-01-09 WO PCT/US2020/012862 patent/WO2020146582A1/en unknown
- 2020-01-09 FI FIEP20738269.8T patent/FI3909245T3/fi active
- 2020-01-09 PT PT207389719T patent/PT3906665T/pt unknown
- 2020-01-09 CN CN202080008756.4A patent/CN113330451A/zh active Pending
- 2020-01-09 RS RS20230521A patent/RS64330B1/sr unknown
- 2020-01-09 SG SG11202107545TA patent/SG11202107545TA/en unknown
- 2020-01-09 KR KR1020217025126A patent/KR20210110710A/ko active Search and Examination
- 2020-01-09 BR BR112021013531-6A patent/BR112021013531A2/pt unknown
- 2020-01-09 MX MX2021008346A patent/MX2021008346A/es unknown
- 2020-01-09 ES ES20739138T patent/ES2981568T3/es active Active
- 2020-01-09 HR HRP20230707TT patent/HRP20230707T1/hr unknown
- 2020-01-09 KR KR1020217024917A patent/KR102650474B1/ko active IP Right Grant
- 2020-01-09 DK DK20738357.1T patent/DK3909244T3/da active
- 2020-01-09 HU HUE20739138A patent/HUE066684T2/hu unknown
- 2020-01-09 KR KR1020217024925A patent/KR102661006B1/ko active IP Right Grant
- 2020-01-09 CN CN202080008660.8A patent/CN113302930A/zh active Pending
- 2020-01-09 ES ES20738190T patent/ES2951004T3/es active Active
-
2021
- 2021-07-08 US US17/370,887 patent/US20210337227A1/en active Pending
- 2021-07-08 US US17/370,911 patent/US20210337199A1/en active Pending
- 2021-07-08 US US17/370,913 patent/US11917173B2/en active Active
- 2021-07-08 US US17/370,904 patent/US20210337198A1/en active Pending
- 2021-07-08 US US17/370,918 patent/US12088835B2/en active Active
- 2021-07-08 US US17/370,879 patent/US11949893B2/en active Active
-
2023
- 2023-02-03 JP JP2023015475A patent/JP7467706B2/ja active Active
- 2023-05-02 JP JP2023076273A patent/JP2023101529A/ja active Pending
- 2023-06-02 US US18/328,040 patent/US20230319299A1/en active Pending
- 2023-07-06 CY CY20231100318T patent/CY1126078T1/el unknown
- 2023-07-11 CY CY20231100326T patent/CY1126131T1/el unknown
- 2023-07-18 CY CY20231100338T patent/CY1126094T1/el unknown
- 2023-12-12 JP JP2023209280A patent/JP2024019510A/ja active Pending
-
2024
- 2024-02-28 US US18/590,822 patent/US20240205437A1/en active Pending
- 2024-02-28 JP JP2024028639A patent/JP2024071391A/ja active Pending
- 2024-03-21 JP JP2024045089A patent/JP2024086733A/ja active Pending
- 2024-04-03 AU AU2024202115A patent/AU2024202115A1/en active Pending
Also Published As
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7223146B2 (ja) | ビデオエンコーダ、ビデオデコーダ、および対応する方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230601 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230601 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240311 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240610 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240716 |