CN111526368B - 视频解码方法、视频编码方法、装置、设备及存储介质 - Google Patents
视频解码方法、视频编码方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111526368B CN111526368B CN201910503066.5A CN201910503066A CN111526368B CN 111526368 B CN111526368 B CN 111526368B CN 201910503066 A CN201910503066 A CN 201910503066A CN 111526368 B CN111526368 B CN 111526368B
- Authority
- CN
- China
- Prior art keywords
- image
- bitstream
- bit stream
- information
- knowledge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 325
- 230000000153 supplemental effect Effects 0.000 claims abstract description 83
- 230000015654 memory Effects 0.000 claims description 49
- 238000012217 deletion Methods 0.000 claims description 5
- 230000037430 deletion Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 abstract description 72
- 238000012545 processing Methods 0.000 description 82
- 238000013139 quantization Methods 0.000 description 73
- 238000010586 diagram Methods 0.000 description 41
- 230000033001 locomotion Effects 0.000 description 39
- 239000000872 buffer Substances 0.000 description 34
- 238000004891 communication Methods 0.000 description 32
- 239000013598 vector Substances 0.000 description 24
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 16
- 230000005540 biological transmission Effects 0.000 description 16
- 238000005192 partition Methods 0.000 description 13
- 238000003491 array Methods 0.000 description 10
- 230000001419 dependent effect Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 230000006835 compression Effects 0.000 description 8
- 238000007906 compression Methods 0.000 description 8
- 238000013500 data storage Methods 0.000 description 8
- 230000014759 maintenance of location Effects 0.000 description 7
- 230000002123 temporal effect Effects 0.000 description 7
- 230000003044 adaptive effect Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000000638 solvent extraction Methods 0.000 description 6
- 241000023320 Luma <angiosperm> Species 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 5
- 230000008520 organization Effects 0.000 description 5
- 238000012546 transfer Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 230000018109 developmental process Effects 0.000 description 4
- 239000000835 fiber Substances 0.000 description 4
- 230000011664 signaling Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 238000009795 derivation Methods 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 101000700918 Homo sapiens SERTA domain-containing protein 1 Proteins 0.000 description 2
- 102100029341 SERTA domain-containing protein 1 Human genes 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000009966 trimming Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000012952 Resampling Methods 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/189—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
- H04N19/196—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/858—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
- H04N21/8586—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本申请公开了一种视频解码方法、视频编码方法、装置、设备及存储介质。视频解码方法包括：获取待解码的主位流，主位流包括用于解码得到主位流图像的数据；从用于解码得到主位流图像的数据中，解析得到目标信息中的参考关系信息，参考关系信息用于指示主位流图像与知识位流图像之间的参考关系，目标信息包括补充增强信息或者扩展数据；根据参考关系信息获取目标知识位流图像，目标知识位流图像用于解码得到主位流图像。本申请通过主位流的目标信息携带主位流图像与知识位流图像之间的参考关系信息，从而使得系统层可通过解析目标信息得到参考关系信息，进而使得解码时无需解码主位流便可获取参考关系信息，解码过程较为灵活，提高了解码效率。
Description
本申请要求于2019年2月3日提交的申请号为201910109471.9、发明名称为“视频编码器、视频解码器及相应图像预测方法”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
技术领域
本申请涉及视频编解码领域，尤其涉及一种视频解码方法、视频编码方法、装置、设备及存储介质。
背景技术
随着视频编解码技术的发展，对视频进行编解码的方法也越来越多，基于知识库的编解码方法便是其中一种。其中，编码器参考知识图像对视频进行编码得到主位流，主位流所包括的每帧主位流图像携带有参考关系信息，参考关系信息用于指示主位流图像与知识图像之间的参考关系。另外，编码器还对知识图像进行编码得到知识位流。相应地，解码器需要参考知识位流对主位流进行解码，以实现视频的还原。
相关技术提供一种视频解码方法，该方法在获取编码器所编码的主位流和知识位流之后，解码器先解码知识位流所包括的每帧知识位流图像得到知识图像。之后，对于主位流所包括的任一帧主位流图像，基于该主位流图像所携带的参考关系信息，参考知识图像对该主位流图像进行解码，从而完成视频的解码。
可以看出，相关技术需要分别解码主位流与知识位流，且在解码主位流的过程中才能获取参考关系信息。因此，相关技术的解码过程不够灵活，解码效率不高。
申请内容
本申请实施例提供一种视频解码方法、视频编码方法、装置、设备及存储介质，以解决相关技术中解码过程不够灵活，解码效率不高的问题。
第一方面，提供了一种视频解码的方法，所述方法包括：
获取待解码的主位流，所述主位流包括用于解码得到主位流图像的数据；
从所述用于解码得到主位流图像的数据中，解析得到目标信息中的参考关系信息，所述参考关系信息用于指示主位流图像与知识位流图像之间的参考关系，所述目标信息包括补充增强信息(Supplemental Enhancement Information)或者扩展数据(extension_data)；
根据所述参考关系信息获取目标知识位流图像，所述目标知识位流图像用于解码得到所述主位流图像。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
可选地，所述根据所述参考关系信息获取目标知识位流图像，包括：
根据所述参考关系信息，从知识位流中解码出所述目标知识位流图像，所述知识位流不同于所述主位流。
可选地，所述获取待解码的主位流之后，所述方法还包括：
解析所述目标信息中的类别标识，所述类别标识用于指示所述主位流的目标信息的类别；
若所述类别标识指示所述主位流的目标信息的类别为目标类别，获取所述主位流的目标信息中的参考关系信息。
可选地，所述获取所述主位流的目标信息中的参考关系信息，包括：
解析所述目标信息中的定位标识，得到一个主位流图像所参考的知识位流图像的定位信息；
将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息。
可选地，所述解析所述目标信息中的定位标识之前，所述方法还包括：
解析所述目标信息中的第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像；
若所述第一参考标识指示所述主位流图像仅参考知识位流图像，解析所述目标信息中的定位标识。
可选地，所述解析所述目标信息中的第一参考标识之后，所述方法还包括：
若所述第一参考标识指示所述主位流图像仅参考知识位流图像，将所述主位流图像作为随机访问点。
可选地，所述解析所述目标信息中的第一参考标识之前，还包括：
解析所述目标信息中的第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像；
若所述第二参考标识指示所述主位流图像参考知识位流图像，解析所述目标信息中的第一参考标识。
可选地，所述获取所述主位流的目标信息中的参考关系信息，包括：
解析所述目标信息中的条目标识得到条目数量，所述条目数量包括两个或多个，每个条目指向一个主位流图像；
对于任一条目，基于所述条目数量解析所述条目对应的图像序列标识，得到所述条目指向的主位流图像的图像序列号，所述图像序列号用于指示所述条目指向的主位流图像；
对于任一条目，解析所述条目对应的定位标识，得到所述条目指向的主位流图像所参考的知识位流图像的定位信息；
将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息。
可选地，所述解析所述条目对应的定位标识之前，所述方法还包括：
对于任一条目，解析所述条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像；
若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，解析所述条目对应的定位标识。
可选地，对于任一条目，所述解析所述条目对应的第一参考标识之后，所述方法还包括：
对于任一条目，若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，将所述条目指向的主位流图像作为随机访问点。
可选地，所述解析所述条目对应的第一参考标识之前，所述方法还包括：
对于任一条目，解析所述条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像；
若所述第二参考标识指示所述条目指向的主位流图像参考知识位流图像，解析所述条目对应的第一参考标识。
可选地，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
可选地，若所述主位流的目标信息包括补充增强信息，所述获取所述主位流的目标信息中的参考关系信息之前，所述方法还包括：
解析所述补充增强信息中的参数集标识，得到所述补充增强信息所使用的序列参数集；
根据所述序列参数集获取目标参数，所述目标参数用于获取所述主位流的补充增强信息中的参考关系信息。
可选地，所述根据所述参考关系信息获取目标知识位流图像之后，所述方法还包括：
拼接所述主位流图像以及所述目标知识位流图像得到目标位流；
通过所述解码器解码所述目标位流，完成视频解码。
可选地，所述拼接所述主位流图像以及所述目标知识位流图像得到目标位流，包括：
对于任一目标知识位流图像，删除目标知识位流图像对应的序列结束码，得到第一目标知识位流图像；
将所述第一目标知识位流图像拼接在参考所述第一目标知识位流图像的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
可选地，所述将所述第一目标知识位流图像拼接在所述参考所述第一目标知识位流图像的主位流图像的序列头之前，包括：
若参考所述第一目标知识位流图像的主位流图像的数量包括两个或多个，仅将所述第一目标知识位流图像拼接在顺序编号的数值最小的主位流图像的序列头之前，所述顺序编号的数值用于指示所述主位流图像在所述主位流中的顺序。
可选地，所述拼接所述主位流图像以及所述目标知识位流图像得到目标位流，包括：
获取所述主位流图像中满足条件的主位流图像；
删除所述满足条件的主位流图像所参考的目标知识位流图像的序列结束码，得到更新后的目标知识位流图像；
将所述第二目标知识位流图像拼接在所述满足条件的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
可选地，所述拼接所述主位流图像以及所述目标知识位流图像得到目标位流之后，所述方法还包括：
从所述目标位流中删除所述参考关系信息，得到更新后的目标位流；
所述通过所述解码器解码所述目标位流，完成视频解码，包括：
通过所述解码器解码所述更新后的目标位流，完成视频解码。
第二方面，提供了一种视频编码方法，所述方法包括：
获取编码后的视频数据，所述编码后的视频数据用于解码得到视频图像；
获取所述视频图像的参考关系信息，所述参考关系信息用于指示所述视频图像与知识位流图像之间的参考关系；
基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流，所述目标信息包括补充增强信息或者扩展数据。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
可选地，所述基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流之后，所述方法还包括：
在所述目标信息中添加类别标识，所述类别标识用于指示所述目标信息的类别。
可选地，所述获取所述编码后的视频图像的参考关系信息，包括：
获取一个主位流图像所参考的知识位流图像的定位信息，将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息；
所述基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流，包括：
在所述目标信息中添加定位标识，得到所述待解码的主位流，所述定位标识包括一个主位流图像所参考的知识位流图像的定位信息。
可选地，所述在所述目标信息中添加定位标识之后，所述方法还包括：
在所述目标信息中添加第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像。
可选地，所述在所述目标信息中添加第一参考标识之后，所述方法还包括：
在所述目标信息中添加第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像。
可选地，所述获取所述编码后的视频图像的参考关系信息，包括：
获取两个或多个主位流图像所参考的知识位流图像的定位信息，将每个主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息；
所述基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流，包括：
在所述目标信息中添加条目对应的定位标识，每个条目指向一个主位流图像，每个条目对应的定位标识包括所述条目指向的主位流图像所参考的知识位流图像的定位信息；
在所述目标信息中添加条目对应的图像序列标识，每个条目对应的图像序列标识包括所述条目指向的主位流图像的图像序列号；
在所述目标信息中添加条目标识，所述条目标识用于指示条目数量。
可选地，所述在所述目标信息中添加条目对应的图像序列标识之前，所述方法还包括：
在所述目标信息中添加每个条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像。
可选地，所述在所述目标信息中添加每个条目对应的第一参考标识之后，所述方法还包括：
在所述目标信息中添加每个条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像。
可选地，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
可选地，若所述目标信息包括补充增强信息，所述基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流之后，所述方法还包括：
在所述补充增强信息中添加参数集标识，所述参数集标识包括所述补充增强信息所使用的序列参数集。
第三方面，提供了一种视频解码装置，所述装置包括：
第一获取模块，用于获取待解码的主位流，所述主位流包括用于解码得到主位流图像的数据；
第二获取模块，用于从所述用于解码得到主位流图像的数据总，解析得到目标信息中的参考关系信息，所述参考关系信息用于指示主位流图像与知识位流图像之间的参考关系，所述目标信息包括补充增强信息(Supplemental Enhancement Information)或者扩展数据(extension_data)；
第三获取模块，用于根据所述参考关系信息获取目标知识位流图像，所述目标知识位流图像用于解码得到所述主位流图像。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
可选地，所述第三获取模块，用于根据所述参考关系信息，从知识位流中解码出所述目标知识位流图像，所述知识位流不同于所述主位流。
可选地，所述装置还包括：
第一解析模块，用于解析所述目标信息中的类别标识，所述类别标识用于指示所述主位流的目标信息的类别；若所述类别标识指示所述主位流的目标信息的类别为目标类别，获取所述主位流的目标信息中的参考关系信息。
可选地，所述第二获取模块，用于解析所述目标信息中的定位标识，得到一个主位流图像所参考的知识位流图像的定位信息；将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息。
可选地，所述装置还包括：第二解析模块，用于解析所述目标信息中的第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像；若所述第一参考标识指示所述主位流图像仅参考知识位流图像，解析所述目标信息中的定位标识。
可选地，所述第二解析模块，还用于若所述第一参考标识指示所述主位流图像仅参考知识位流图像，将所述主位流图像作为随机访问点。
可选地，所述装置还包括：第三解析模块，用于解析所述目标信息中的第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像；若所述第二参考标识指示所述主位流图像参考知识位流图像，解析所述目标信息中的第一参考标识。
可选地，所述第二获取模块，用于解析所述目标信息中的条目标识得到条目数量，所述条目数量包括两个或多个，每个条目指向一个主位流图像；对于任一条目，基于所述条目数量解析所述条目对应的图像序列标识，得到所述条目指向的主位流图像的图像序列号，所述图像序列号用于指示所述条目指向的主位流图像；对于任一条目，解析所述条目对应的定位标识，得到所述条目指向的主位流图像所参考的知识位流图像的定位信息；将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息。
可选地，所述装置还包括：第四解析模块，用于对于任一条目，解析所述条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像；若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，解析所述条目对应的定位标识。
可选地，所述第四解析模块，还用于对于任一条目，若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，将所述条目指向的主位流图像作为随机访问点。
可选地，所述装置还包括：第五解析模块，用于对于任一条目，解析所述条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像；若所述第二参考标识指示所述条目指向的主位流图像参考知识位流图像，解析所述条目对应的第一参考标识。
可选地，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
可选地，若所述主位流的目标信息包括补充增强信息，所述装置还包括：第五解析模块，用于解析所述补充增强信息中的参数集标识，得到所述补充增强信息所使用的序列参数集；根据所述序列参数集获取目标参数，所述目标参数用于获取所述主位流的补充增强信息中的参考关系信息。
可选地，所述装置还包括：拼接模块，用于拼接所述主位流图像以及所述目标知识位流图像得到目标位流；通过所述解码器解码所述目标位流，完成视频解码。
可选地，所述拼接模块，用于对于任一目标知识位流图像，删除目标知识位流图像对应的序列结束码，得到第一目标知识位流图像；将所述第一目标知识位流图像拼接在参考所述第一目标知识位流图像的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
可选地，所述拼接模块，用于若参考所述第一目标知识位流图像的主位流图像的数量包括两个或多个，仅将所述第一目标知识位流图像拼接在顺序编号的数值最小的主位流图像的序列头之前，所述顺序编号的数值用于指示所述主位流图像在所述主位流中的顺序。
可选地，所述拼接模块，用于获取所述主位流图像中满足条件的主位流图像；删除所述满足条件的主位流图像所参考的目标知识位流图像的序列结束码，得到更新后的目标知识位流图像；将所述第二目标知识位流图像拼接在所述满足条件的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
可选地，所述装置还包括：删除模块，用于从所述目标位流中删除所述参考关系信息，得到更新后的目标位流；
所述拼接模块，用于通过所述解码器解码所述更新后的目标位流，完成视频解码。
第四方面，提供了一种视频编码装置，所述装置包括：
第一获取模块，用于获取编码后的视频数据，所述编码后的视频数据用于解码得到视频图像；
第二获取模块，用于获取所述视频图像的参考关系信息，所述参考关系信息用于指示所述视频图像与知识位流图像之间的参考关系；
第三获取模块，用于基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流，所述目标信息包括补充增强信息或者扩展数据。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
可选地，所述装置还包括：第一添加模块，用于在所述目标信息中添加类别标识，所述类别标识用于指示所述目标信息的类别。
可选地，所述第二获取模块，用于获取一个主位流图像所参考的知识位流图像的定位信息，将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息；
所述第三获取模块，用于在所述目标信息中添加定位标识，得到所述待解码的主位流，所述定位标识包括一个主位流图像所参考的知识位流图像的定位信息。
可选地，所述装置还包括：第二添加模块，用于在所述目标信息中添加第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像。
可选地，所述装置还包括：第三添加模块，用于在所述目标信息中添加第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像。
可选地，所述第二获取模块，用于获取两个或多个主位流图像所参考的知识位流图像的定位信息，将每个主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息；
所述第三获取模块，用于在所述目标信息中添加条目对应的定位标识，每个条目指向一个主位流图像，每个条目对应的定位标识包括所述条目指向的主位流图像所参考的知识位流图像的定位信息；在所述目标信息中添加条目对应的图像序列标识，每个条目对应的图像序列标识包括所述条目指向的主位流图像的图像序列号；在所述目标信息中添加条目标识，所述条目标识用于指示条目数量。
可选地，所述装置还包括：第四添加模块，用于在所述目标信息中添加每个条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像。
可选地，所述装置还包括：第五添加模块，用于在所述目标信息中添加每个条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像。
可选地，所述所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
可选地，若所述目标信息包括补充增强信息，所述装置还包括：第六添加模块，用于在所述补充增强信息中添加参数集标识，所述参数集标识包括所述补充增强信息所使用的序列参数集。
第六方面，提供了一种视频编码方法，所述方法包括：
参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
根据所述主位流图像的编码数据生成主位流，其中，主位流中的目标信息包括参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
第七方面，提供了一种视频编码装置，所述装置包括：
编码模块，用于参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
生成模块，用于根据所述主位流图像的编码数据生成主位流，其中，主位流中的目标信息包括参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
第八方面，提供了一种视频编解码设备，所述设备包括存储器及处理器；所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行，以实现本申请实施例第一方面以及第一方面的任一种可能的实施方式、第二方面以及第二方面或第六方面的任一种可能的实施方式所提供的方法。
第九方面，提供了一种计算机可读存储介质，所述存储介质中存储有至少一条指令，所述指令由处理器加载并执行以实现本申请实施例各方面以及各方面的任一种可能的实施方式所提供的方法。
本申请实施例提供的技术方案带来的有益效果至少包括：
本申请实施例通过主位流的目标信息携带主位流图像与知识位流图像之间的参考关系信息，从而使得系统层可通过解析目标信息得到参考关系信息，进而使得无需解码主位流便可获取参考关系信息，并且，省略了解码时基于参考关系信息在知识位流中进行定位获取目标知识位流图像的过程，因此，使得解码过程较为灵活，提高了解码效率。
附图说明
为了更清楚地说明本申请实施例或背景技术中的技术方案，下面将对本申请实施例或背景技术中所需要使用的附图进行说明。
图1A是用于实现本申请实施例的视频编码及解码系统实例的框图；
图1B是用于实现本申请实施例的视频译码系统实例的框图；
图2是用于实现本申请实施例的编码器实例结构的框图；
图3是用于实现本申请实施例的解码器实例结构的框图；
图4是用于实现本申请实施例的视频译码设备实例的框图；
图5是用于实现本申请实施例的另一种编码装置或解码装置实例的框图；
图6是用于实现本申请实施例的一种主位流与知识位流的关系示意图；
图7是用于实现本申请实施例的视频解码方法的流程图；
图8是用于实现本申请实施例的一种位流拼接示意图；
图9是用于实现本申请实施例的一种位流拼接示意图；
图10是用于实现本申请实施例的一种RL图像的结构示意图；
图11是用于实现本申请实施例的一种位流拼接示意图；
图12是用于实现本申请实施例的一种位流拼接示意图；
图13是用于实现本申请实施例的一种位流拼接示意图；
图14是用于实现本申请实施例的一种位流拼接示意图；
图15是用于实现本申请实施例的一种位流拼接示意图；
图16是用于实现本申请实施例的一种位流拼接示意图；
图17是用于实现本申请实施例的一种位流存储及传输的流程示意图；
图18是用于实现本申请实施例的一种文件格式示意图；
图19是用于实现本申请实施例的一种文件格式示意图；
图20是用于实现本申请实施例的一种文件格式示意图；
图21是用于实现本申请实施例的一种视频编码方法的流程图；
图22是用于实现本申请实施例的一种视频解码装置的结构示意图；
图23是用于实现本申请实施例的一种视频编码装置的结构示意图；
图24是用于实现本发明实施例的一种视频层码流与知识层码流的关系示意图；
图25是用于实现本发明实施例的一种解码能力信息在比特流中的位置示意图；
图26是用于实现本发明实施例的一种解码能力信息在比特流中的位置示意图；
图27是用于实现本发明实施例的一种RAP示意图；
图28是用于实现本发明实施例的一种位流拼接示意图；
图29是用于实现本发明实施例的一种位流拼接示意图；
图30是用于实现本发明实施例的一种位流拼接示意图；
图31是用于实现本发明实施例的一种位流拼接示意图；
图32是用于实现本发明实施例的一种位流拼接示意图；
图33是用于实现本发明实施例的一种位流拼接示意图；
图34是用于实现本发明实施例的一种位流拼接示意图；
图35是用于实现本发明实施例的一种位流拼接示意图。
具体实施方式
下面结合本申请实施例中的附图对本申请实施例进行描述。以下描述中，参考形成本公开一部分并以说明之方式示出本申请实施例的具体方面或可使用本申请实施例的具体方面的附图。应理解，本申请实施例可在其它方面中使用，并可包括附图中未描绘的结构或逻辑变化。因此，以下详细描述不应以限制性的意义来理解，且本申请的范围由所附权利要求书界定。例如，应理解，结合所描述方法的揭示内容可以同样适用于用于执行所述方法的对应设备或系统，且反之亦然。例如，如果描述一个或多个具体方法步骤，则对应的设备可以包含如功能单元等一个或多个单元，来执行所描述的一个或多个方法步骤(例如，一个单元执行一个或多个步骤，或多个单元，其中每个都执行多个步骤中的一个或多个)，即使附图中未明确描述或说明这种一个或多个单元。另一方面，例如，如果基于如功能单元等一个或多个单元描述具体装置，则对应的方法可以包含一个步骤来执行一个或多个单元的功能性(例如，一个步骤执行一个或多个单元的功能性，或多个步骤，其中每个执行多个单元中一个或多个单元的功能性)，即使附图中未明确描述或说明这种一个或多个步骤。进一步，应理解的是，除非另外明确提出，本文中所描述的各示例性实施例和/或方面的特征可以相互组合。
本申请实施例所涉及的技术方案不仅可能应用于现有的视频编解码标准中，如H.264、高效率视频编码(highefficiencyvideo coding，HEVC)等标准，还可能应用于未来的视频编码解标准中，如H.266标准。本申请的实施方式部分使用的术语仅用于对本申请的具体实施例进行解释，而非旨在限定本申请。下面先对本申请实施例可能涉及的一些概念进行简单介绍。
视频编码通常是指处理形成视频或视频序列的图片序列。在视频编码领域，术语“图片(picture)”、“帧(frame)”或“图像(image)”可以用作同义词。其中，视频编码在源侧执行，通常包括处理(例如，通过压缩)视频所包括的原始图片序列以减少表示该原始图片序列所需的数据量，从而更高效地存储和/或传输。视频解码在目的地侧执行，通常包括相对于编码器作逆处理，以重构原始图片序列。
进一步地，图片可以被划分为切片(slice)，切片再被划分为块(block)。视频编码以块为单位进行编码处理，在一些新的视频编码标准中，块的概念被进一步扩展。比如，在H.264标准中有宏块(macroblock，MB)，宏块可进一步划分成多个可用于预测编码的预测块(partition)。在HEVC)标准中，采用编码单元(coding unit，CU)，预测单元(predictionunit，PU)和变换单元(transform unit，TU)等基本概念，从功能上划分了多种块单元，并采用全新的基于树结构进行描述。比如CU可以按照四叉树进行划分为更小的CU，而更小的CU还可以继续划分，从而形成一种四叉树结构，CU是对编码图像进行划分和编码的基本单元。对于PU和TU也有类似的树结构，PU可以对应预测块，是预测编码的基本单元。对CU按照划分模式进一步划分成多个PU。TU可以对应变换块，是对预测残差进行变换的基本单元。然而，无论CU，PU还是TU，本质上都属于块(或称图像块)的概念。
例如在HEVC中，通过使用表示为编码树的四叉树结构将CTU拆分为多个CU。在CU层级处作出是否使用图片间(时间)或图片内(空间)预测对图片区域进行编码的决策。每个CU可以根据PU拆分类型进一步拆分为一个、两个或四个PU。一个PU内应用相同的预测过程，并在PU基础上将相关信息传输到解码器。在通过基于PU拆分类型应用预测过程获取残差块之后，可以根据类似于用于CU的编码树的其它四叉树结构将CU分割成TU。在视频压缩技术的发展中，使用四叉树和二叉树(quad-tree and binary tree，QTBT)分割帧来分割编码块。在QTBT块结构中，CU可以为正方形或矩形形状。
本文中，为了便于描述和理解，可将当前编码图像中待编码的图像块称为当前块，例如在编码中，指当前正在编码的块；在解码中，指当前正在解码的块。将参考图像中用于对当前块进行预测的已解码的图像块称为参考块，即参考块是为当前块提供参考信号的块，其中，参考信号表示图像块内的像素值。可将参考图像中为当前块提供预测信号的块为预测块，其中，预测信号表示预测块内的像素值或者采样值或者采样信号。例如，在遍历多个参考块以后，找到了最佳参考块，此最佳参考块将为当前块提供预测，此块称为预测块。
无损视频编码情况下，可以重构原始图片序列，即经重构图片序列具有与原始图片序列相同的质量(假设存储或传输期间没有传输损耗或其它数据丢失)。在有损视频编码情况下，通过例如量化执行进一步压缩，来减少表示图片序列所需的数据量，而解码器侧无法完全重构图片序列，即经重构图片序列的质量相比原始图片序列的质量较低或较差。
H.261的几个视频编解码标准属于“有损混合型视频编解码”(即，将样本域中的空间和时间预测与变换域中用于应用量化的2D变换编码结合)。视频序列的每个图片通常分割成不重叠的块集合，通常在块层级上进行编码。换句话说，编码器侧通常在块(视频块)层级处理亦即编码视频，例如，通过空间(图片内)预测和时间(图片间)预测来产生预测块，从当前块(当前处理或待处理的块)减去预测块以获取残差块，在变换域变换残差块并量化残差块，以减少待传输(压缩)的数据量，而解码器侧将相对于编码器的逆处理部分应用于经编码或经压缩块，以重构用于表示的当前块。另外，编码器复制解码器处理循环，使得编码器和解码器生成相同的预测(例如帧内预测和帧间预测)和/或重构，用于处理亦即编码后续块。
下面描述本申请实施例所应用的系统架构。参见图1A，图1A示例性地给出了本申请实施例所应用的视频编码及解码系统10的示意性框图。如图1A所示，视频编码及解码系统10可包括源设备12和目的地设备14，源设备12产生经编码视频数据，因此，源设备12可被称为视频编码装置。目的地设备14可对由源设备12所产生的经编码的视频数据进行解码，因此，目的地设备14可被称为视频解码装置。源设备12、目的地设备14或两个的各种实施方案可包含一或多个处理器以及耦合到所述一或多个处理器的存储器。所述存储器可包含但不限于RAM、ROM、EEPROM、快闪存储器或可用于以可由计算机存取的指令或数据结构的形式存储所要的程序代码的任何其它媒体，如本文所描述。源设备12和目的地设备14可以包括各种装置，包含桌上型计算机、移动计算装置、笔记型(例如，膝上型)计算机、平板计算机、机顶盒、例如所谓的“智能”电话等电话手持机、电视机、相机、显示装置、数字媒体播放器、视频游戏控制台、车载计算机、无线通信设备或其类似者。
虽然图1A将源设备12和目的地设备14绘示为单独的设备，但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性，即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中，可以使用相同硬件和/或软件，或使用单独的硬件和/或软件，或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。
源设备12和目的地设备14之间可通过链路13进行通信连接，目的地设备14可经由链路13从源设备12接收经编码视频数据。链路13可包括能够将经编码视频数据从源设备12移动到目的地设备14的一或多个媒体或装置。在一个实例中，链路13可包括使得源设备12能够实时将经编码视频数据直接发射到目的地设备14的一或多个通信媒体。在此实例中，源设备12可根据通信标准(例如无线通信协议)来调制经编码视频数据，且可将经调制的视频数据发射到目的地设备14。所述一或多个通信媒体可包含无线和/或有线通信媒体，例如射频(RF)频谱或一或多个物理传输线。所述一或多个通信媒体可形成基于分组的网络的一部分，基于分组的网络例如为局域网、广域网或全球网络(例如，因特网)。所述一或多个通信媒体可包含路由器、交换器、基站或促进从源设备12到目的地设备14的通信的其它设备。
源设备12包括编码器20，另外可选地，源设备12还可以包括图片源16、图片预处理器18、以及通信接口22。具体实现形态中，所述编码器20、图片源16、图片预处理器18、以及通信接口22可能是源设备12中的硬件部件，也可能是源设备12中的软件程序。分别描述如下：
图片源16，可以包括或可以为任何类别的图片捕获设备，用于例如捕获现实世界图片，和/或任何类别的图片或评论(对于屏幕内容编码，屏幕上的一些文字也认为是待编码的图片或图像的一部分)生成设备，例如，用于生成计算机动画图片的计算机图形处理器，或用于获取和/或提供现实世界图片、计算机动画图片(例如，屏幕内容、虚拟现实(virtual reality，VR)图片)的任何类别设备，和/或其任何组合(例如，实景(augmentedreality，AR)图片)。图片源16可以为用于捕获图片的相机或者用于存储图片的存储器，图片源16还可以包括存储先前捕获或产生的图片和/或获取或接收图片的任何类别的(内部或外部)接口。当图片源16为相机时，图片源16可例如为本地的或集成在源设备中的集成相机；当图片源16为存储器时，图片源16可为本地的或例如集成在源设备中的集成存储器。当所述图片源16包括接口时，接口可例如为从外部视频源接收图片的外部接口，外部视频源例如为外部图片捕获设备，比如相机、外部存储器或外部图片生成设备，外部图片生成设备例如为外部计算机图形处理器、计算机或服务器。接口可以为根据任何专有或标准化接口协议的任何类别的接口，例如有线或无线接口、光接口。
其中，图片可以视为像素点(picture element)的二维阵列或矩阵。阵列中的像素点也可以称为采样点。阵列或图片在水平和垂直方向(或轴线)上的采样点数目定义图片的尺寸和/或分辨率。为了表示颜色，通常采用三个颜色分量，即图片可以表示为或包含三个采样阵列。例如在RBG格式或颜色空间中，图片包括对应的红色、绿色及蓝色采样阵列。但是，在视频编码中，每个像素通常以亮度/色度格式或颜色空间表示，例如对于YUV格式的图片，包括Y指示的亮度分量(有时也可以用L指示)以及U和V指示的两个色度分量。亮度(luma)分量Y表示亮度或灰度水平强度(例如，在灰度等级图片中两者相同)，而两个色度(chroma)分量U和V表示色度或颜色信息分量。相应地，YUV格式的图片包括亮度采样值(Y)的亮度采样阵列，和色度值(U和V)的两个色度采样阵列。RGB格式的图片可以转换或变换为YUV格式，反之亦然，该过程也称为色彩变换或转换。如果图片是黑白的，该图片可以只包括亮度采样阵列。本申请实施例中，由图片源16传输至图片处理器的图片也可称为原始图片数据17。
图片预处理器18，用于接收原始图片数据17并对原始图片数据17执行预处理，以获取经预处理的图片19或经预处理的图片数据19。例如，图片预处理器18执行的预处理可以包括整修、色彩格式转换(例如，从RGB格式转换为YUV格式)、调色或去噪。
编码器20(或称视频编码器20)，用于接收经预处理的图片数据19，采用相关预测模式(如本文各个实施例中的预测模式)对经预处理的图片数据19进行处理，从而提供经编码图片数据21(下文将进一步基于图2或图4或图5描述编码器20的结构细节)。在一些实施例中，编码器20可以用于执行后文所描述的各个实施例，以实现本申请所描述的视频编码方法。
通信接口22，可用于接收经编码图片数据21，并可通过链路13将经编码图片数据21传输至目的地设备14或任何其它设备(如存储器)，以用于存储或直接重构，所述其它设备可为任何用于解码或存储的设备。通信接口22可例如用于将经编码图片数据21封装成合适的格式，例如数据包，以在链路13上传输。
目的地设备14包括解码器30，另外可选地，目的地设备14还可以包括通信接口28、图片后处理器32和显示设备34。分别描述如下：
通信接口28，可用于从源设备12或任何其它源接收经编码图片数据21，所述任何其它源例如为存储设备，存储设备例如为经编码图片数据存储设备。通信接口28可以用于藉由源设备12和目的地设备14之间的链路13或藉由任何类别的网络传输或接收经编码图片数据21，链路13例如为直接有线或无线连接，任何类别的网络例如为有线或无线网络或其任何组合，或任何类别的私网和公网，或其任何组合。通信接口28可以例如用于解封装通信接口22所传输的数据包以获取经编码图片数据21。
通信接口28和通信接口22都可以配置为单向通信接口或者双向通信接口，以及可以用于例如发送和接收消息来建立连接、确认和交换任何其它与通信链路和/或例如经编码图片数据传输的数据传输有关的信息。
解码器30(或称为解码器30)，用于接收经编码图片数据21并提供经解码图片数据31或经解码图片31(下文将进一步基于图3或图4或图5描述解码器30的结构细节)。在一些实施例中，解码器30可以用于执行后文所描述的各个实施例，以实现本申请所描述的视频解码方法。
图片后处理器32，用于对经解码图片数据31(也称为经重构图片数据)执行后处理，以获得经后处理图片数据33。图片后处理器32执行的后处理可以包括：色彩格式转换(例如，从YUV格式转换为RGB格式)、调色、整修或重采样，或任何其它处理，还可用于将将经后处理图片数据33传输至显示设备34。
显示设备34，用于接收经后处理图片数据33以向例如用户或观看者显示图片。显示设备34可以为或可以包括任何类别的用于呈现经重构图片的显示器，例如，集成的或外部的显示器或监视器。例如，显示器可以包括液晶显示器(liquid crystal display，LCD)、有机发光二极管(organic light emitting diode，OLED)显示器、等离子显示器、投影仪、微LED显示器、硅基液晶(liquid crystal on silicon，LCoS)、数字光处理器(digitallight processor，DLP)或任何类别的其它显示器。
虽然，图1A将源设备12和目的地设备14绘示为单独的设备，但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性，即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中，可以使用相同硬件和/或软件，或使用单独的硬件和/或软件，或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。
本领域技术人员基于描述明显可知，不同单元的功能性或图1A所示的源设备12和/或目的地设备14的功能性的存在和(准确)划分可能根据实际设备和应用有所不同。源设备12和目的地设备14可以包括各种设备中的任一个，包含任何类别的手持或静止设备，例如，笔记本或膝上型计算机、移动电话、智能手机、平板或平板计算机、摄像机、台式计算机、机顶盒、电视机、相机、车载设备、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备(例如内容服务服务器或内容分发服务器)、广播接收器设备、广播发射器设备等，并可以不使用或使用任何类别的操作系统。
编码器20和解码器30都可以实施为各种合适电路中的任一个，例如，一个或多个微处理器、数字信号处理器(digital signal processor，DSP)、专用集成电路(application-specific integrated circuit，ASIC)、现场可编程门阵列(field-programmable gate array，FPGA)、离散逻辑、硬件或其任何组合。如果部分地以软件实施所述技术，则设备可将软件的指令存储于合适的非暂时性计算机可读存储介质中，且可使用一或多个处理器以硬件执行指令从而执行本公开的技术。前述内容(包含硬件、软件、硬件与软件的组合等)中的任一者可视为一或多个处理器。
在一些情况下，图1A中所示视频编码及解码系统10仅为示例，本申请的技术可以适用于不必包含编码和解码设备之间的任何数据通信的视频编码设置(例如，视频编码或视频解码)。在其它实例中，数据可从本地存储器检索、在网络上流式传输等。视频编码设备可以对数据进行编码并且将数据存储到存储器，和/或视频解码设备可以从存储器检索数据并且对数据进行解码。在一些实例中，由并不彼此通信而是仅编码数据到存储器和/或从存储器检索数据且解码数据的设备执行编码和解码。
参见图1B，图1B是根据一示例性实施例的包含图2的编码器20和/或图3的解码器30的视频译码系统40的实例的说明图。视频译码系统40可以实现本申请实施例的各种技术的组合。在所说明的实施方式中，视频译码系统40可以包含成像设备41、编码器20、解码器30(和/或藉由处理单元46的逻辑电路47实施的视频编/解码器)、天线42、一个或多个处理器43、一个或多个存储器44和/或显示设备45。
如图1B所示，成像设备41、天线42、处理单元46、逻辑电路47、编码器20、解码器30、处理器43、存储器44和/或显示设备45能够互相通信。如所论述，虽然用编码器20和解码器30绘示视频译码系统40，但在不同实例中，视频译码系统40可以只包含编码器20或只包含解码器30。
在一些实例中，天线42可以用于传输或接收视频数据的经编码比特流。另外，在一些实例中，显示设备45可以用于呈现视频数据。在一些实例中，逻辑电路47可以通过处理单元46实施。处理单元46可以包含ASIC逻辑、图形处理器、通用处理器等。视频译码系统40也可以包含可选的处理器43，该可选处理器43类似地可以包含ASIC逻辑、图形处理器、通用处理器等。在一些实例中，逻辑电路47可以通过硬件实施，如视频编码专用硬件等，处理器43可以通过通用软件、操作系统等实施。另外，存储器44可以是任何类型的存储器，例如易失性存储器(例如，静态随机存取存储器(static random access memory，SRAM)、动态随机存储器(dynamic random access memory，DRAM)等)或非易失性存储器(例如，闪存等)等。在非限制性实例中，存储器44可以由超速缓存内存实施。在一些实例中，逻辑电路47可以访问存储器44(例如用于实施图像缓冲器)。在其它实例中，逻辑电路47和/或处理单元46可以包含存储器(例如，缓存等)用于实施图像缓冲器等。
在一些实例中，通过逻辑电路实施的编码器20可以包含(例如，通过处理单元46或存储器44实施的)图像缓冲器和(例如，通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的编码器20，以实施参照图2和/或本文中所描述的任何其它编码器系统或子系统所论述的各种模块。逻辑电路可以用于执行本文所论述的各种操作。
在一些实例中，解码器30可以以类似方式通过逻辑电路47实施，以实施参照图3的解码器30和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。在一些实例中，逻辑电路实施的解码器30可以包含(通过处理单元2820或存储器44实施的)图像缓冲器和(例如，通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的解码器30，以实施参照图3和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。
在一些实例中，天线42可以用于接收视频数据的经编码比特流。如所论述，经编码比特流可以包含本文所论述的与编码视频帧相关的数据、指示符、索引值、模式选择数据等，例如与编码分割相关的数据(例如，变换系数或经量化变换系数，(如所论述的)可选指示符，和/或定义编码分割的数据)。视频译码系统40还可包含耦合至天线42并用于解码经编码比特流的解码器30。显示设备45用于呈现视频帧。
应理解，本申请实施例中对于参考编码器20所描述的实例，解码器30可以用于执行相反过程。关于信令语法元素，解码器30可以用于接收并解析这种语法元素，相应地解码相关视频数据。在一些例子中，编码器20可以将语法元素熵编码成经编码视频比特流。在此类实例中，解码器30可以解析这种语法元素，并相应地解码相关视频数据。
需要说明的是，本申请实施例中的编码器20和解码器30可以是例如H.263、H.264、HEVC、动态图像专家组(movingpictureexpertsgroup，MPEG)MPEG-2、MPEG-4、VP8、VP9等视频标准协议对应的编/解码器，或者可以是H.266或者音视频编码标准(audiovideocodingstandard，AVS)3等下一代视频标准协议对应的编/解码器。
参见图2，图2示出用于实现本申请实施例的编码器20的实例的示意性/概念性框图。在图2的实例中，编码器20包括残差计算单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器单元220、经解码图片缓冲器(decoded picture buffer，DPB)230、预测处理单元260和熵编码单元270。预测处理单元260可以包含帧间预测单元244、帧内预测单元254和模式选择单元262。帧间预测单元244可以包含运动估计单元和运动补偿单元(未图示)。图2所示的编码器20也可以称为混合型视频编码器或根据混合型视频编解码器的视频编码器。
例如，残差计算单元204、变换处理单元206、量化单元208、预测处理单元260和熵编码单元270形成编码器20的前向信号路径，而例如逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器220、经DPB230、预测处理单元260形成编码器的后向信号路径，其中编码器的后向信号路径对应于解码器的信号路径(参见图3中的解码器30)。
编码器20通过例如输入202，接收图片201或图片201的图像块203，例如，形成视频或视频序列的图片序列中的图片。图像块203也可以称为当前图片块或待编码图片块，图片201可以称为当前图片或待编码图片(尤其是在视频编码中将当前图片与其它图片区分开时，其它图片例如同一视频序列亦即也包括当前图片的视频序列中的先前经编码和/或经解码图片)。
编码器20的实施例可以包括分割单元(图2中未绘示)，用于将图片201分割成多个例如图像块203的块，通常分割成多个不重叠的块。分割单元可以用于对视频序列中所有图片使用相同的块大小以及定义块大小的对应栅格，或用于在图片或子集或图片群组之间更改块大小，并将每个图片分割成对应的块。
在一个实例中，编码器20的预测处理单元260可以用于执行上述分割技术的任何组合。
如图片201，图像块203也是或可以视为具有采样值的采样点的二维阵列或矩阵，虽然其尺寸比图片201小。换句话说，图像块203可以包括，例如，一个采样阵列(例如黑白图片201情况下的亮度阵列)或三个采样阵列(例如，彩色图片情况下的一个亮度阵列和两个色度阵列)或依据所应用的色彩格式的任何其它数目和/或类别的阵列。图像块203的水平和垂直方向(或轴线)上采样点的数目定义图像块203的尺寸。
如图2所示的编码器20用于逐块编码图片201，例如，对每个图像块203执行编码和预测。
残差计算单元204用于基于图片图像块203和预测块265(下文提供预测块265的其它细节)计算残差块205，例如，通过逐样本(逐像素)将图片图像块203的样本值减去预测块265的样本值，以在样本域中获取残差块205。
变换处理单元206用于在残差块205的样本值上应用例如离散余弦变换(discretecosine transform，DCT)或离散正弦变换(discrete sine transform，DST)的变换，以在变换域中获取变换系数207。变换系数207也可以称为变换残差系数，并在变换域中表示残差块205。
变换处理单元206可以用于应用DCT/DST的整数近似值，例如为HEVC/H.265指定的变换。与正交DCT变换相比，这种整数近似值通常由某一因子按比例缩放。为了维持经正变换和逆变换处理的残差块的范数，应用额外比例缩放因子作为变换过程的一部分。比例缩放因子通常是基于某些约束条件选择的，例如，比例缩放因子是用于移位运算的2的幂、变换系数的位深度、准确性和实施成本之间的权衡等。例如，在解码器30侧通过例如逆变换处理单元212为逆变换(以及在编码器20侧通过例如逆变换处理单元212为对应逆变换)指定具体比例缩放因子，以及相应地，可以在编码器20侧通过变换处理单元206为正变换指定对应比例缩放因子。
量化单元208用于例如通过应用标量量化或向量量化来量化变换系数207，以获取经量化变换系数209。经量化变换系数209也可以称为经量化残差系数209。量化过程可以减少与部分或全部变换系数207有关的位深度。例如，可在量化期间将n位变换系数向下舍入到m位变换系数，其中n大于m。可通过调整量化参数(quantization parameter，QP)修改量化程度。例如，对于标量量化，可以应用不同的标度来实现较细或较粗的量化。较小量化步长对应较细量化，而较大量化步长对应较粗量化。可以通过QP指示合适的量化步长。例如，量化参数可以为合适的量化步长的预定义集合的索引。例如，较小的量化参数可以对应精细量化(较小量化步长)，较大量化参数可以对应粗糙量化(较大量化步长)，反之亦然。量化可以包含除以量化步长以及例如通过逆量化210执行的对应的量化或逆量化，或者可以包含乘以量化步长。根据例如HEVC的一些标准的实施例可以使用量化参数来确定量化步长。一般而言，可以基于量化参数使用包含除法的等式的定点近似来计算量化步长。可以引入额外比例缩放因子来进行量化和反量化，以恢复可能由于在用于量化步长和量化参数的等式的定点近似中使用的标度而修改的残差块的范数。在一个实例实施方式中，可以合并逆变换和反量化的标度。或者，可以使用自定义量化表并在例如比特流中将其从编码器通过信号发送到解码器。量化是有损操作，其中量化步长越大，损耗越大。
逆量化单元210用于在经量化系数上应用量化单元208的逆量化，以获取经反量化系数211，例如，基于或使用与量化单元208相同的量化步长，应用量化单元208应用的量化方案的逆量化方案。经反量化系数211也可以称为经反量化残差系数211，对应于变换系数207，虽然由于量化造成的损耗通常与变换系数不相同。
逆变换处理单元212用于应用变换处理单元206应用的变换的逆变换，例如，DCT或DST，以在样本域中获取逆变换块213。逆变换块213也可以称为逆变换经反量化块213或逆变换残差块213。
重构单元214(例如，求和器214)用于将逆变换块213(即经重构残差块213)添加至预测块265，以在样本域中获取经重构块215，例如，将经重构残差块213的样本值与预测块265的样本值相加。
可选地，例如线缓冲器216的缓冲器单元216(或简称“缓冲器”216)用于缓冲或存储经重构块215和对应的样本值，用于例如帧内预测。在其它的实施例中，编码器可以用于使用存储在缓冲器单元216中的未经滤波的经重构块和/或对应的样本值来进行任何类别的估计和/或预测，例如帧内预测。
例如，编码器20的实施例可以经配置以使得缓冲器单元216不只用于存储用于帧内预测254的经重构块215，也用于环路滤波器单元220(在图2中未示出)，和/或，例如使得缓冲器单元216和经解码图片缓冲器单元230形成一个缓冲器。其它实施例可以用于将经滤波块221和/或来自经解码图片缓冲器230的块或样本(图2中均未示出)用作帧内预测254的输入或基础。
环路滤波器单元220(或简称“环路滤波器”220)用于对经重构块215进行滤波以获取经滤波块221，从而顺利进行像素转变或提高视频质量。环路滤波器单元220旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptive offset，SAO)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptive loop filter，ALF)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元220在图2中示出为环内滤波器，但在其它配置中，环路滤波器单元220可实施为环后滤波器。经滤波块221也可以称为经滤波的经重构块221。经解码图片缓冲器230可以在环路滤波器单元220对经重构编码块执行滤波操作之后存储经重构编码块。
编码器20(对应地，环路滤波器单元220)的实施例可以用于输出环路滤波器参数(例如，样本自适应偏移信息)，例如，直接输出或由熵编码单元270或任何其它熵编码单元熵编码后输出，例如使得解码器30可以接收并应用相同的环路滤波器参数用于解码。
经DPB230可以为存储参考图片数据供编码器20编码视频数据之用的参考图片存储器。DPB 230可由多种存储器设备中的任一个形成，例如DRAM(包含同步DRAM(synchronous DRAM，SDRAM)、磁阻式RAM(magnetoresistive RAM，MRAM)、电阻式RAM(resistive RAM，RRAM))或其它类型的存储器设备。可以由同一存储器设备或单独的存储器设备提供DPB 230和缓冲器216。在某一实例中，经DPB230用于存储经滤波块221。经解码图片缓冲器230可以进一步用于存储同一当前图片或例如先前经重构图片的不同图片的其它先前的经滤波块，例如先前经重构和经滤波块221，以及可以提供完整的先前经重构亦即经解码图片(和对应参考块和样本)和/或部分经重构当前图片(和对应参考块和样本)，例如用于帧间预测。在某一实例中，如果经重构块215无需环内滤波而得以重构，则经DPB230用于存储经重构块215。
预测处理单元260，也称为块预测处理单元260，用于接收或获取图像块203(当前图片201的当前图像块203)和经重构图片数据，例如来自缓冲器216的同一(当前)图片的参考样本和/或来自经解码图片缓冲器230的一个或多个先前经解码图片的参考图片数据231，以及用于处理这类数据进行预测，即提供可以为经帧间预测块245或经帧内预测块255的预测块265。
模式选择单元262可以用于选择预测模式(例如帧内或帧间预测模式)和/或对应的用作预测块265的预测块245或255，以计算残差块205和重构经重构块215。
模式选择单元262的实施例可以用于选择预测模式(例如，从预测处理单元260所支持的那些预测模式中选择)，所述预测模式提供最佳匹配或者说最小残差(最小残差意味着传输或存储中更好的压缩)，或提供最小信令开销(最小信令开销意味着传输或存储中更好的压缩)，或同时考虑或平衡以上两者。模式选择单元262可以用于基于码率失真优化(rate distortion optimization，RDO)确定预测模式，即选择提供最小码率失真优化的预测模式，或选择相关码率失真至少满足预测模式选择标准的预测模式。
下文将详细解释编码器20的实例(例如，通过预测处理单元260)执行的预测处理和(例如，通过模式选择单元262)执行的模式选择。
如上文所述，编码器20用于从(预先确定的)预测模式集合中确定或选择最好或最优的预测模式。预测模式集合可以包括例如帧内预测模式和/或帧间预测模式。
帧内预测模式集合可以包括35种不同的帧内预测模式，例如，如DC(或均值)模式和平面模式的非方向性模式，或如H.265中定义的方向性模式，或者可以包括67种不同的帧内预测模式，例如，如DC(或均值)模式和平面模式的非方向性模式，或如正在发展中的H.266中定义的方向性模式。
在可能的实现中，帧间预测模式集合取决于可用参考图片(即，例如前述存储在DPB 230中的至少部分经解码图片)和其它帧间预测参数，例如取决于是否使用整个参考图片或只使用参考图片的一部分，例如围绕当前块的区域的搜索窗区域，来搜索最佳匹配参考块，和/或例如取决于是否应用如半像素和/或四分之一像素内插的像素内插，帧间预测模式集合例如可包括先进运动矢量(Advanced Motion Vector Prediction，AMVP)模式和融合(merge)模式。具体实施中，帧间预测模式集合可包括本申请实施例改进的基于控制点的AMVP模式，以及，改进的基于控制点的merge模式。在一个实例中，帧内预测单元254可以用于执行下文描述的帧间预测技术的任意组合。
除了以上预测模式，本申请实施例也可以应用跳过模式和/或直接模式。
预测处理单元260可以进一步用于将图像块203分割成较小的块分区或子块，例如，通过迭代使用四叉树(quad-tree，QT)分割、二进制树(binary-tree，BT)分割或三叉树(triple-tree，TT)分割，或其任何组合，以及用于例如为块分区或子块中的每一个执行预测，其中模式选择包括选择分割的图像块203的树结构和选择应用于块分区或子块中的每一个的预测模式。
帧间预测单元244可以包含运动估计(motion estimation，ME)单元(图2中未示出)和运动补偿(motion compensation，MC)单元(图2中未示出)。运动估计单元用于接收或获取图片图像块203(当前图片201的当前图片图像块203)和经解码图片231，或至少一个或多个先前经重构块，例如，一个或多个其它/不同先前经解码图片231的经重构块，来进行运动估计。例如，视频序列可以包括当前图片和先前经解码图片31，或换句话说，当前图片和先前经解码图片31可以是形成视频序列的图片序列的一部分，或者形成该图片序列。
例如，编码器20可以用于从多个其它图片中的同一或不同图片的多个参考块中选择参考块，并向运动估计单元(图2中未示出)提供参考图片和/或提供参考块的位置(X、Y坐标)与当前块的位置之间的偏移(空间偏移)作为帧间预测参数。该偏移也称为运动向量(motion vector，MV)。
运动补偿单元用于获取帧间预测参数，并基于或使用帧间预测参数执行帧间预测来获取帧间预测块245。由运动补偿单元(图2中未示出)执行的运动补偿可以包含基于通过运动估计(可能执行对子像素精确度的内插)确定的运动/块向量取出或生成预测块。内插滤波可从已知像素样本产生额外像素样本，从而潜在地增加可用于编码图片块的候选预测块的数目。一旦接收到用于当前图片块的PU的运动向量，运动补偿单元246可以在一个参考图片列表中定位运动向量指向的预测块。运动补偿单元246还可以生成与块和视频条带相关联的语法元素，以供解码器30在解码视频条带的图片块时使用。
上述帧间预测单元244可向熵编码单元270传输语法元素，所述语法元素包括帧间预测参数(比如遍历多个帧间预测模式后选择用于当前块预测的帧间预测模式的指示信息)。可能应用场景中，如果帧间预测模式只有一种，那么也可以不在语法元素中携带帧间预测参数，此时解码端30可直接使用默认的预测模式进行解码。可以理解的，帧间预测单元244可以用于执行帧间预测技术的任意组合。
帧内预测单元254用于获取，例如接收同一图片的图片块203(当前图片块)和一个或多个先前经重构块，例如经重构相相邻块，以进行帧内估计。例如，编码器20可以用于从多个(预定)帧内预测模式中选择帧内预测模式。
编码器20的实施例可以用于基于优化标准选择帧内预测模式，例如基于最小残差(例如，提供最类似于当前图片块203的预测块255的帧内预测模式)或最小码率失真。
帧内预测单元254进一步用于基于如所选择的帧内预测模式的帧内预测参数确定帧内预测块255。在任何情况下，在选择用于块的帧内预测模式之后，帧内预测单元254还用于向熵编码单元270提供帧内预测参数，即提供指示所选择的用于块的帧内预测模式的信息。在一个实例中，帧内预测单元254可以用于执行帧内预测技术的任意组合。
具体的，上述帧内预测单元254可向熵编码单元270传输语法元素，所述语法元素包括帧内预测参数(比如遍历多个帧内预测模式后选择用于当前块预测的帧内预测模式的指示信息)。可能应用场景中，如果帧内预测模式只有一种，那么也可以不在语法元素中携带帧内预测参数，此时解码端30可直接使用默认的预测模式进行解码。
熵编码单元270用于将熵编码算法或方案(例如，可变长度编码(variable lengthcoding，VLC)方案、上下文自适应VLC(context adaptive VLC，CAVLC)方案、算术编码方案、上下文自适应二进制算术编码(context adaptive binary arithmetic coding，CABAC)、基于语法的上下文自适应二进制算术编码(syntax-based context-adaptive binaryarithmetic coding，SBAC)、概率区间分割熵(probability interval partitioningentropy，PIPE)编码或其它熵编码方法或技术)应用于经量化残差系数209、帧间预测参数、帧内预测参数和/或环路滤波器参数中的单个或所有上(或不应用)，以获取可以通过输出272以例如经编码比特流21的形式输出的经编码图片数据21。可以将经编码比特流传输到视频解码器30，或将其存档稍后由视频解码器30传输或检索。熵编码单元270还可用于熵编码正被编码的当前视频条带的其它语法元素。
视频编码器20的其它结构变型可用于编码视频流。例如，基于非变换的编码器20可以在没有针对某些块或帧的变换处理单元206的情况下直接量化残差信号。在另一实施方式中，编码器20可具有组合成单个单元的量化单元208和逆量化单元210。
应当理解的是，视频编码器20的其它的结构变化可用于编码视频流。例如，对于某些图像块或者图像帧，视频编码器20可以直接地量化残差信号而不需要经变换处理单元206处理，相应地也不需要经逆变换处理单元212处理；或者，对于某些图像块或者图像帧，视频编码器20没有产生残差数据，相应地不需要经变换处理单元206、量化单元208、逆量化单元210和逆变换处理单元212处理；或者，视频编码器20可以将经重构图像块作为参考块直接地进行存储而不需要经滤波器220处理；或者，视频编码器20中量化单元208和逆量化单元210可以合并在一起。环路滤波器220是可选的，以及针对无损压缩编码的情况下，变换处理单元206、量化单元208、逆量化单元210和逆变换处理单元212是可选的。应当理解的是，根据不同的应用场景，帧间预测单元244和帧内预测单元254可以是被选择性的启用。
参见图3，图3示出用于实现本申请实施例的解码器30的实例的示意性/概念性框图。视频解码器30用于接收例如由编码器20编码的经编码图片数据(例如，经编码比特流)21，以获取经解码图片231。在解码过程期间，视频解码器30从视频编码器20接收视频数据，例如表示经编码视频条带的图片块的经编码视频比特流及相关联的语法元素。
在图3的实例中，解码器30包括熵解码单元304、逆量化单元310、逆变换处理单元312、重构单元314(例如求和器314)、缓冲器316、环路滤波器320、经解码图片缓冲器330以及预测处理单元360。预测处理单元360可以包含帧间预测单元344、帧内预测单元354和模式选择单元362。在一些实例中，视频解码器30可执行大体上与参照图2的视频编码器20描述的编码遍次互逆的解码遍次。
熵解码单元304用于对经编码图片数据21执行熵解码，以获取例如经量化系数309和/或经解码的编码参数(图3中未示出)，例如，帧间预测、帧内预测参数、环路滤波器参数和/或其它语法元素中(经解码)的任意一个或全部。熵解码单元304进一步用于将帧间预测参数、帧内预测参数和/或其它语法元素转发至预测处理单元360。视频解码器30可接收视频条带层级和/或视频块层级的语法元素。
逆量化单元310功能上可与逆量化单元110相同，逆变换处理单元312功能上可与逆变换处理单元212相同，重构单元314功能上可与重构单元214相同，缓冲器316功能上可与缓冲器216相同，环路滤波器320功能上可与环路滤波器220相同，经解码图片缓冲器330功能上可与经解码图片缓冲器230相同。
预测处理单元360可以包括帧间预测单元344和帧内预测单元354，其中帧间预测单元344功能上可以类似于帧间预测单元244，帧内预测单元354功能上可以类似于帧内预测单元254。预测处理单元360通常用于执行块预测和/或从经编码数据21获取预测块365，以及从例如熵解码单元304(显式地或隐式地)接收或获取预测相关参数和/或关于所选择的预测模式的信息。
当视频条带经编码为经帧内编码(I)条带时，预测处理单元360的帧内预测单元354用于基于信号表示的帧内预测模式及来自当前帧或图片的先前经解码块的数据来产生用于当前视频条带的图片块的预测块365。当视频帧经编码为经帧间编码(即B或P)条带时，预测处理单元360的帧间预测单元344(例如，运动补偿单元)用于基于运动向量及从熵解码单元304接收的其它语法元素生成用于当前视频条带的视频块的预测块365。对于帧间预测，可从一个参考图片列表内的一个参考图片中产生预测块。视频解码器30可基于存储于DPB230中的参考图片，使用默认建构技术来建构参考帧列表：列表0和列表1。
预测处理单元360用于通过解析运动向量和其它语法元素，确定用于当前视频条带的视频块的预测信息，并使用预测信息产生用于正经解码的当前视频块的预测块。在本申请的一实例中，预测处理单元360使用接收到的一些语法元素确定用于编码视频条带的视频块的预测模式(例如，帧内或帧间预测)、帧间预测条带类型(例如，B条带、P条带或GPB条带)、用于条带的参考图片列表中的一个或多个的建构信息、用于条带的每个经帧间编码视频块的运动向量、条带的每个经帧间编码视频块的帧间预测状态以及其它信息，以解码当前视频条带的视频块。在本公开的另一实例中，视频解码器30从比特流接收的语法元素包含接收自适应参数集(adaptive parameter set，APS)、序列参数集(sequenceparameter set，SPS)、图片参数集(picture parameter set，PPS)或条带标头中的一个或多个中的语法元素。
逆量化单元310可用于逆量化(即，反量化)在比特流中提供且由熵解码单元304解码的经量化变换系数。逆量化过程可包含使用由视频编码器20针对视频条带中的每一视频块所计算的量化参数来确定应该应用的量化程度并同样确定应该应用的逆量化程度。
逆变换处理单元312用于将逆变换(例如，逆DCT、逆整数变换或概念上类似的逆变换过程)应用于变换系数，以便在像素域中产生残差块。
重构单元314(例如，求和器314)用于将逆变换块313(即经重构残差块313)添加到预测块365，以在样本域中获取经重构块315，例如通过将经重构残差块313的样本值与预测块365的样本值相加。
环路滤波器单元320(在编码循环期间或在编码循环之后)用于对经重构块315进行滤波以获取经滤波块321，从而顺利进行像素转变或提高视频质量。在一个实例中，环路滤波器单元320可以用于执行下文描述的滤波技术的任意组合。环路滤波器单元320旨在表示一个或多个环路滤波器，例如去块滤波器、SAO滤波器或其它滤波器，例如双边滤波器、ALF，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元320在图3中示出为环内滤波器，但在其它配置中，环路滤波器单元320可实施为环后滤波器。
随后将给定帧或图片中的经解码视频块321存储在存储用于后续运动补偿的参考图片的经解码图片缓冲器330中。
解码器30用于例如，藉由输出332输出经解码图片31，以向用户呈现或供用户查看。
视频解码器30的其它变型可用于对压缩的比特流进行解码。例如，解码器30可以在没有环路滤波器单元320的情况下生成输出视频流。例如，基于非变换的解码器30可以在没有针对某些块或帧的逆变换处理单元312的情况下直接逆量化残差信号。在另一实施方式中，视频解码器30可以具有组合成单个单元的逆量化单元310和逆变换处理单元312。
具体的，在本申请实施例中，解码器30用于实现后文实施例中描述的视频解码方法。
应当理解的是，视频解码器30的其它结构变化可用于解码经编码视频码流。例如，视频解码器30可以不经滤波器320处理而生成输出视频流；或者，对于某些图像块或者图像帧，视频解码器30的熵解码单元304没有解码出经量化的系数，相应地不需要经逆量化单元310和逆变换处理单元312处理。环路滤波器320是可选的；以及针对无损压缩的情况下，逆量化单元310和逆变换处理单元312是可选的。应当理解的是，根据不同的应用场景，帧间预测单元和帧内预测单元可以是被选择性的启用。
应当理解的是，本申请的编码器20和解码器30中，针对某个环节的处理结果可以经过进一步处理后，输出到下一个环节，例如，在插值滤波、运动矢量推导或环路滤波等环节之后，对相应环节的处理结果进一步进行修改(clip)或移位(shift)等操作。
例如，按照相邻仿射编码块的运动矢量推导得到的当前图像块的控制点的运动矢量，或者推导得到的当前图像块的子块的运动矢量，可以经过进一步处理，本申请对此不做限定。例如，对运动矢量的取值范围进行约束，使其在一定的位宽内。假设允许的运动矢量的位宽为bitDepth，则运动矢量的范围为-2^(bitDepth-1)～2^(bitDepth-1)-1，其中“^”符号表示幂次方。如bitDepth为16，则取值范围为-32768～32767。如bitDepth为18，则取值范围为-131072～131071。又例如，对运动矢量(例如一个8x8图像块内的四个4x4子块的运动矢量MV)的取值进行约束，使得所述四个4x4子块MV的整数部分之间的最大差值不超过N个像素，例如不超过一个像素。
可以通过以下两种方式进行约束，使其在一定的位宽内：
方式1，将运动矢量溢出的高位去除：
ux＝(vx+2bitDepth)％2bitDepth
vx＝(ux>＝2bitDepth-1)％(ux-2bitDepth):ux
uy＝(vy+2bitDepth)％2bitDepth
vy＝(uy>＝2bitDepth-1)％(uy-2bitDepth):uy
其中，vx为图像块或所述图像块的子块的运动矢量的水平分量，vy为图像块或所述图像块的子块的运动矢量的垂直分量，ux和uy为中间值；bitDepth表示位宽。
例如vx的值为-32769，通过以上公式得到的为32767。因为在计算机中，数值是以二进制的补码形式存储的，-32769的二进制补码为1,0111,1111,1111,1111(17位)，计算机对于溢出的处理为丢弃高位，则vx的值为0111,1111,1111,1111，则为32767，与通过公式处理得到的结果一致。
方法2，将运动矢量进行Clipping，如以下公式所示：
vx＝Clip3(-2bitDepth-1,2bitDepth-1-1,vx)
vy＝Clip3(-2bitDepth-1,2bitDepth-1-1,vy)
其中vx为图像块或所述图像块的子块的运动矢量的水平分量，vy为图像块或所述图像块的子块的运动矢量的垂直分量；其中，x、y和z分别对应MV钳位过程Clip3的三个输入值，所述Clip3的定义为，表示将z的值钳位到区间[x,y]之间：
参见图4，图4是本申请实施例提供的视频译码设备400(例如视频编码设备400或视频解码设备400)的结构示意图。视频译码设备400适于实施本文所描述的实施例。在一个实施例中，视频译码设备400可以是视频解码器(例如图1A的解码器30)或视频编码器(例如图1A的编码器20)。在另一个实施例中，视频译码设备400可以是上述图1A的解码器30或图1A的编码器20中的一个或多个组件。
视频译码设备400包括：用于接收数据的入口端口410和接收单元(Rx)420，用于处理数据的处理器、逻辑单元或中央处理器(central processing unit，CPU)430，用于传输数据的发射器单元(Tx)440和出口端口450，以及，用于存储数据的存储器460。视频译码设备400还可以包括与入口端口410、接收器单元420、发射器单元440和出口端口450耦合的光电转换组件和电光(EO)组件，用于光信号或电信号的出口或入口。
处理器430通过硬件和软件实现。处理器430可以实现为一个或多个CPU芯片、核(例如，多核处理器)、FPGA、ASIC和DSP。处理器430与入口端口410、接收器单元420、发射器单元440、出口端口450和存储器460通信。处理器430包括译码模块470(例如编码模块470或解码模块470)。编码/解码模块470实现本文中所公开的实施例，以实现本申请实施例所提供的色度块预测方法。例如，编码/解码模块470实现、处理或提供各种编码操作。因此，通过编码/解码模块470为视频译码设备400的功能提供了实质性的改进，并影响了视频译码设备400到不同状态的转换。或者，以存储在存储器460中并由处理器430执行的指令来实现编码/解码模块470。
存储器460包括一个或多个磁盘、磁带机和固态硬盘，可以用作溢出数据存储设备，用于在选择性地执行这些程序时存储程序，并存储在程序执行过程中读取的指令和数据。存储器460可以是易失性和/或非易失性的，可以是只读存储器(ROM)、随机存取存储器(RAM)、随机存取存储器(ternary content-addressable memory，TCAM)和/或静态随机存取存储器(SRAM)。
参见图5，图5是根据一示例性实施例的可用作图1A中的源设备12和目的地设备14中的任一个或两个的装置500的简化框图。装置500可以实现本申请的技术。换言之，图5为本申请实施例的编码设备或解码设备(简称为译码设备500)的一种实现方式的示意性框图。其中，译码设备500可以包括处理器510、存储器530和总线系统550。其中，处理器和存储器通过总线系统相连，该存储器用于存储指令，该处理器用于执行该存储器存储的指令。译码设备的存储器存储程序代码，且处理器可以调用存储器中存储的程序代码执行本申请描述的各种视频编码或解码方法，尤其是各种新的视频解码的方法。为避免重复，这里不再详细描述。
在本申请实施例中，该处理器510可以是CPU，该处理器510还可以是其他通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
该存储器530可以包括只读存储器(ROM)设备或者随机存取存储器(RAM)设备。任何其他适宜类型的存储设备也可以用作存储器530。存储器530可以包括由处理器510使用总线550访问的代码和数据531。存储器530可以进一步包括操作系统533和应用程序535，该应用程序535包括允许处理器510执行本申请描述的视频编码或解码方法(尤其是本申请描述的视频解码方法)的至少一个程序。例如，应用程序535可以包括应用1至N，其进一步包括执行在本申请描述的视频编码或解码方法的视频编码或解码应用(简称视频译码应用)。
该总线系统550除包括数据总线之外，还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见，在图中将各种总线都标为总线系统550。
可选的，译码设备500还可以包括一个或多个输出设备，诸如显示器570。在一个示例中，显示器570可以是触感显示器，其将显示器与可操作地感测触摸输入的触感单元合并。显示器570可以经由总线550连接到处理器510。
接下来，对本申请实施例提供的技术方案进行详细阐述：
随着视频编解码技术的发展，对视频进行编解码的方法也越来越多，基于知识库的编解码方法便是其中一种。视频由图像序列构成，图像序列包括一帧或多帧图像。对待编码的图像进行编码(或多待解码的图像进行解码)时，编码器(或解码器)可以参考与待编码的图像(或待解码的图像)的纹理或内容相近的图像来完成编码(或解码)，以提高编码(或解码)效率。其中，被参考的图像称为知识图像，存储知识图像的数据库称为知识库，因此，这种视频中至少一帧图像参考至少一帧知识图像进行编解码的方法称为基于知识库的视频编解码(library-based video coding，LBVC)方法。采用LBVC方法进行编码时，编码器参考知识图像对视频进行编码得到主位流，主位流所包括的每帧主位流图像携带有参考关系信息，参考关系信息用于指示主位流图像与知识图像之间的参考关系。另外，编码器还对知识图像进行编码得到知识位流。主位流图像与知识图像之间的参考关系如图6所示，可以看出，主位流按照非对齐时间段依赖于知识位流。
相关技术一提供一种视频解码方法，该方法在获取编码器所编码的主位流和知识位流之后，解码器先解码知识位流所包括的每帧知识位流图像得到知识图像。之后，对于主位流所包括的任一帧主位流图像，基于该主位流图像所携带的参考关系信息，参考知识图像对该主位流图像进行解码，从而完成视频的解码。可以看出，相关技术一需要完成知识位流的解码之后，再进行主位流的解码。
在相关技术二中，获取主位流和知识位流之后，对于任一帧主位流图像，解码器解析该主位流图像得到参考关系信息，根据参考关系信息从知识位流中获取知识位流图像。接着，解码知识位流图像得到知识图像，再参考知识图像对该主位流图像进行解码。也就是说，相关技术二需要交替解码主位流与知识位流，才能完成视频的解码。
无论是相关技术一还是相关技术二，解码器均需要分别解码主位流与知识位流，且在解码主位流的过程中才能获取参考关系信息，因而解码过程不够灵活，解码效率不高。
本申请实施例提供了一种视频解码方法，该方法可应用于图1A、图1B、图3、图4及图5所示的实施环境中。如图7所示，该方法包括：
步骤701、获取待解码的主位流，主位流包括用于解码得到主位流图像的数据。
其中，待解码的主位流是指编码器参考知识图像对原始视频进行编码得到的位流，主位流包括用于解码得到主位流图像的数据。主位流图像与原始视频所包括的图像一一对应，编码的作用在于减小原始视频所包括的数据量，以便于传输及存储。另外，编码器还对原始视频所参考的一帧或多帧知识图像进行编码得到知识位流，知识位流包括用于解码得到知识位流图像的数据，知识位流图像与知识图像一一对应。可以看出，主位流图像即为编码后的原始视频所包括的图像，知识位流图像即为编码后的知识图像。主位流图像的数据中携带有用于指示与主位流图像与知识位流图像之间的参考关系的参考关系信息。
相应地，解码器可基于主位流图像的数据中所携带的参考关系信息对主位流图像进行解码。在本实施例中，除了通过主位流图像的数据中携带该参考关系信息以外，可以通过主位流图像的数据中解析得到的目标信息中携带一帧或多帧主位流图像与知识位流图像之间的参考关系信息。因此，不仅使得解码器在解码主位流图像的过程中可获取参考关系信息，还可使得系统层通过解析主位流的目标信息获取参考关系信息，以便于解码器基于该参考关系信息来解码主位流图像。
可选地，目标信息包括补充增强信息(supplemental enhancement information，SEI)或者扩展数据(extension data)。其中，SEI是在高级视频编码(advanced videocoding，AVC)、HEVC、多功能视频编码(versatile video coding，VVC)以及效率视频编码(efficiencyvideo coding，EVC)等标准中定义的信息。而扩展数据是在AVS标准中定义的数据。
需要说明的是，无论是SEI还是扩展数据均具有多种不同的类别，在本实施例中，仅将一种类别的SEI或者扩展数据作为主位流的目标信息。因此，需要对主位流的目标信息的类别进行确认，以确定主位流的目标信息是否携带有参考关系信息。可选地，目标信息包括目标信息的类别标识，类别标识的值用于指示目标信息中包括参考关系信息。
也就是说，可选地，获取待解码的主位流之后，本实施例提供的方法还包括：解析目标信息中的类别标识，类别标识用于指示主位流的目标信息的类别；若主位流的目标信息的类别为目标类别，获取主位流的目标信息中的参考关系信息。
其中，若主位流的目标信息为SEI，上述获取SEI类别的过程可以通过如下的表1进行表示：
表1
nal_unit_type为第一类别标识，payloadType为第二类别标识。系统层获取SEI的类别包括：首先，解析nal_unit_type获取SEI所属的网络提取层单元(networkabstraction layer unit，NALU)的类别。之后，若nal_unit_type指示NALU的类别为参考类别(例如PREFIX_SEI_NUT类别)，则可进一步获取SEI的类别。在本实施例中，解析payloadType来获取SEI的类别，若解析得到有效载荷类型的值为182，则可确认SEI的类别为目标类别，并将SEI定义为跨随机访问点参考(cross random-access-pointreferencing，CRR)指示(indication)SEI消息(message)，即CRR indication SEImessage。
相应地，编码器进行编码的过程中，在CRR indication SEI messag中添加payloadType以及nal_unit_type。添加过程包括：首先对payloadType赋值182，再对nal_unit_type赋值PREFIX_SEI_NUT。
若主位流的目标信息为扩展数据，获取扩展数据的类别的过程可通过如下的表2进行表示：
表2
extension_id为类别标识，系统层可通过解析extension id来获取扩展数据的类别。在本实施例中，若解析得到extension id的值为1101，则可确认扩展数据的类别为目标类别，并将扩展数据定义为跨随机访问点参考(cross random-access-pointreferencing，CRR)扩展数据，即CRR extension_data。相应地，编码器在编码过程中，在CRRextension_data中添加extension_id，添加过程包括：将extension_id赋值为1101。
需要说明的是，除了extension_id的值为1101的情况以外，extension_id的值还可以包括类别列表中其他未被占用的数值，其他未被占用的数值包括0110、1000、1001或者1101-1111。以未被占用的数值包括0110为例，则系统层在解析得到extension id的值为0110的情况下便可确认扩展数据的类别为目标类别，相应地，编码器在编码过程中将extension_id赋值为0110。
当然，本实施例不对获取主位流的目标信息的类别的方式加以限定。无论采用什么方式获取主位流的目标信息的类别，在确认主位流的目标信息的类别为目标类别之后，即可确定该主位流的目标信息携带有参考关系信息。因此，便可进一步触发系统层获取主位流的目标信息中的参考关系信息，详见步骤702。
步骤702、从用于解码得到的主位流图像的数据中，解析得到目标信息中的参考关系信息，参考关系信息用于指示主位流图像与知识位流图像之间的参考关系。
其中，参考关系信息可用于指示在主位流中位于参考关系信息之后的一帧或多帧主位流图像与知识位流图像之间的参考关系。对于任一帧主位流图像，其与知识位流图像之间的参考关系可包括以下三种：主位流图像仅参考知识位流图像、主位流图像除了参考知识位流图像以外还参考其他图像或者主位流图像不参考知识位流图像。
另外，根据以上说明可知，若确认主位流的目标信息的类别为目标类别，则主位流的目标信息包括CRR indication SEI message或者CRR extension_data。在一种可选的实施方式中，若主位流的目标信息包括补充增强信息，则获取主位流的目标信息中的参考关系信息之前，方法还包括：解析补充增强信息中的参数集标识，得到补充增强信息所使用的序列参数集；根据序列参数集获取目标参数，目标参数用于获取主位流的补充增强信息中的参考关系信息。
在本实施例中，参数集标识可以为crr_seq_parameter_set_id，解析参数集标识得到的序列参数集，根据序列参数集获取目标参数包括：解析crr_seq_parameter_set_id得到CRR indication SEI message所使用的序列参数集(sequence parameter set，SPS)在序列参数集列表(SPSset)中的编号，基于该编号获取SPS中的参数值，将获取的参数值作为目标参数。其中，目标参数可用于获取主位流的补充增强信息中的参考关系信息，后续会进一步进行说明。
当然，无论主位流的目标信息包括CRR indication SEI message还是CRRextension_data，系统层均需要获取主位流的目标信息中的参考关系信息，获取参考关系信息包括但不限于以下几种方式。需要说明的是，以下每种获取方式均适用于主位流的目标信息包括CRR indication SEI message或者CRR extension_data的情况：
第一种获取方式：获取主位流的目标信息中的参考关系信息，包括：解析目标信息中的定位标识，得到一个主位流图像所参考的知识位流图像的定位信息；将主位流图像所参考的知识位流图像的定位信息作为参考关系信息。在第一种获取方式中，参考关系信息仅用于指示一帧主位流图像，且该主位流图像与知识位流图像之间的参考关系为：主位流图像仅参考知识位流图像。
其中，参考关系信息所指示的一帧仅参考知识位流图像的主位流图像是CRRindication SEI message所属的access unit对应的主位流图像，即在主位流中位于参考关系信息之后的第一帧主位流图像。需要说明的是，一个access unit对应一帧主位流图像，且一个access unit包括多个NALU，CRR indication SEI message所属的NALU便为access unit所包括的多个NALU中的一个。
仅参考知识位流图像的主位流图像(reference to library only，RL)图像可以作为主位流中的随机访问点。随机访问点的作用在于，若系统层需要访问主位流中的任一帧主位流图像，则可从距离该主位流图像最近的一个随机访问点处切入并进行访问，而无需遍历主位流起始处至该主位流图像之间的其他主位流图像，从而提高了访问效率。
RL图像所属的NALU的nal_unit_type的值包括IDR_W_RADL、IDR_N_LP、BLA_W_LP、BLA_W_RADL、BLA_N_LP、CRA_NUT所组成的群组中的至少一个。或者，也可以包括其他新定义的用于指示图像支持随机访问的值。或者，RL图像不使用nal_unit_type指示其支持随机访问，而是由其他位流数据如序列级数据、图像级数据、条带级数据或者分片级数据来指示其支持随机访问。
若主位流的目标信息为CRR indication SEI message，则可根据如下的表3获取参考关系信息：
表3
| cross_rap_referencing_indication(payloadSize){ | 描述符 |
| crr_seq_parameter_set_id | ue(v) |
| crr_lib_pid | u(6) |
| } |
其中，crr_seq_parameter_set_id即为上述参数集标识，此处不再加以赘述。crr_lib_pid即为定位标识，通过解析crr_lib_pid即可获取主位流图像所参考的知识位流图像的定位信息。因此，系统层依次解析crr_seq_parameter_set_id以及crr_lib_pid，便可获取主位流图像所参考的知识位流图像的定位信息，从而将定位信息作为参考关系信息。
相应地，编码器在编码过程中，首先获取一个主位流图像所参考的知识位流图像的定位信息，基于所获取的定位信息在CRR indication SEI message中添加定位标识crr_lib_pid，再基于CRR indication SEI message所使用的序列参数集在CRR indicationSEI message添加参数集标识crr_seq_parameter_set_id。
可选地，参考关系信息包括定位信息，定位信息用于定位主位流图像所参考的目标知识位流图像。可选地，定位信息包括目标知识位流图像的索引。可选地，主位流图像所参考的知识位流图像的定位信息包括：主位流图像所参考的知识位流图像的地址信息、主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。也就是说，定位信息包括以下三种情况：第一种情况，定位信息包括主位流图像所参考的知识位流图像的地址信息。第二种情况，定位信息包括主位流图像所参考的知识位流图像的索引信息。第三种情况，定位信息包括主位流图像所参考的知识位流图像的地址信息，以及主位流图像所参考的知识位流图像的索引信息。
上述crr_lib_pid对应第二种情况，则解析crr_lib_pid可获取被参考的知识位流图像的索引信息，该索引信息用于指示被参考的知识位流图像的地址信息，通过获取索引信息所指示的地址信息便可实现知识位流图像的定位。此外，对于第一种情况，定位标识可以为crr_lib_stream_url，则通过解析crr_lib_stream_url可获取被参考的知识位流图像的统一资源定位符(uniform resource locator，URL)地址，根据该URL地址对被参考的知识位流图像进行定位。而对于第三种情况，定位标识包括crr_lib_pid以及crr_lib_stream_url，则首先解析crr_lib_pid获取被参考的知识图像位流的索引信息，索引信息用于指示知识位流图像的序列号，再解析crr_lib_stream_url，得到具有该序列号的知识位流图像的URL地址，从而根据URL地址来定位被参考的知识位流图像。
需要说明的是，在第一种情况和第三种情况下，系统层可直接通过URL地址定位到被参考的知识位流图像，定位所需时间较短，提高了定位效率。另外，本申请各实施例所提到的定位标识以及定位信息均可参考上述说明，后文不再重复进行说明。
若主位流的目标信息为CRR extension_data，则可根据如下的表4获取参考关系信息：
表4
| cross_random-access-point_referencing_extension(){ | 描述符 |
| crr_lib_pid | u(1) |
| next_start_code() | u(6) |
| } |
其中，系统层可通过解析定位标识crr_lib_pid得到主位流图像所参考的知识位流图像的定位信息，并将定位信息作为参考关系信息。相应地，编码器在编码过程中，获取一个主位流图像所参考的知识位流图像的定位信息，基于所获取的定位信息在CRRextension_data中添加定位标识crr_lib_pid。
第二种获取方式：解析目标信息中的定位标识之前，方法还包括：解析目标信息中的第一参考标识，第一参考标识用于指示主位流图像是否仅参考知识位流图像；若第一参考标识指示主位流图像仅参考知识位流图像，解析目标信息中的定位标识。在第二种获取方式中，参考关系信息用于指示一帧主位流图像，且该主位流图像与知识位流图像之间的参考关系可为：主位流图像仅参考知识位流图像、主位流图像除了参考知识位流图像知识位流图像以外还参考其他图像或者主位流图像不参考知识位流图像。
参考关系信息所指示的一帧主位流图像仍为CRR indication SEI message所属的access unit对应的主位流图像，即在主位流中位于参考关系信息之后的第一帧主位流图像。若主位流的目标信息为CRR indication SEI message，则可根据如下的表5获取参考关系信息：
表5
| cross_rap_referencing_indication(payloadSize){ | 描述符 |
| crr_seq_parameter_set_id | ue(v) |
| crr_is_reference_to_lib_only | u(1) |
| crr_lib_pid | u(6) |
| } |
其中，crr_seq_parameter_set_id为参数集标识，crr_is_reference_to_lib_only为第一参考标识，crr_lib_pid即为定位标识。系统层可依次解析crr_seq_parameter_set_id以及crr_is_reference_to_lib_only，若crr_is_reference_to_lib_only指示该主位流图像仅参考知识位流图像，则继续解析crr_lib_pid得到该主位流图像所参考的知识位流图像的定位信息，将定位信息作为主位流图像与知识位流图像之间的参考关系信息。
相应地，编码器在编码过程中，首先获取一个主位流图像所参考的知识位流图像的定位信息，基于所获取的定位信息在CRR indication SEI message中添加定位标识crr_lib_pid。之后，基于主位流图像是否仅参考知识位流图像，在CRR indication SEImessage中添加第一参考标识crr_is_reference_to_lib_only。最后，基于CRR indicationSEI message所使用的序列参数集在CRR indication SEI message添加参数集标识crr_seq_parameter_set_id。
若主位流的目标信息为CRR extension_data，则可根据如下的表6获取参考关系信息：
表6
| cross_random-access-point_referencing_extension(){ | 描述符 |
| crr_is_reference_to_lib_only | u(1) |
| crr_lib_pid | u(6) |
| next_start_code() | |
| } |
其中，crr_is_reference_to_lib_only为第一参考标识，crr_lib_pid即为定位标识。系统层首先解析crr_is_reference_to_lib_only，若crr_is_reference_to_lib_only指示该主位流图像仅参考知识位流图像，则继续解析crr_lib_pid得到该主位流图像所参考的知识位流图像的定位信息，将定位信息作为主位流图像与知识位流图像之间的参考关系信息。
相应地，编码器在编码过程中，首先获取一个主位流图像所参考的知识位流图像的定位信息，基于所获取的定位信息在CRR extension_data中添加定位标识crr_lib_pid。之后，基于主位流图像是否仅参考知识位流图像，在CRR extension_data中添加第一参考标识crr_is_reference_to_lib_only。
可以看出，在第二种获取方式中，通过第一参考标识crr_is_reference_to_lib_only将主位流图像与知识位流图像之间的三种参考关系区分为两个种类。第一个种类包括主位流图像仅参考知识位流图像，第一个种类中的主位流图像即为支持随机访问的RL图像，第二个种类包括主位流图像除了参考知识位流图像以外还参考其他图像，以及主位流图像不参考知识位流图像，第二个种类中的主位流图像不具有支持随机访问的能力。
因此，可选地，解析目标信息中的第一参考标识之后，方法还包括：若第一参考标识指示主位流图像仅参考知识位流图像，将主位流图像作为随机访问点。可以看出，本实施例通过主位流的目标信息来携带主位流图像与知识位流图像之间的参考关系信息，使得系统层可以通过解析主位流的目标信息来确定仅参考知识位流图像的主位流图像，并将确定的主位流图作为随机访问点，从而在LBVC方法中实现随机访问。
第三种获取方式：解析目标信息中的第一参考标识之前，本实施例所提供的方法还包括：解析目标信息中的第二参考标识，第二参考标识用于指示主位流图像是否参考知识位流图像；若第二参考标识指示主位流图像参考知识位流图像，解析目标信息中的第一参考标识。在获取方式中，参考关系信息用于指示一帧主位流图像，且该主位流图像与知识位流图像之间的参考关系可为：主位流图像仅参考知识位流图像、主位流图像除了参考知识位流图像知识位流图像以外还参考其他图像或者主位流图像不参考知识位流图像。
参考关系信息所指示的一帧主位流图像仍为CRR indication SEI message所属的access unit对应的主位流图像，即在主位流中位于参考关系信息之后的第一帧主位流图像。若主位流的目标信息为CRR indication SEI message，则可根据如下的表7获取参考关系信息：
表7
其中，crr_is_reference_to_lib_flag为第二参考标识，crr_seq_parameter_set_id为参数集标识，crr_is_reference_to_lib_only为第一参考标识，crr_lib_pid为定位标识。系统层首先解析crr_is_reference_to_lib_flag，若crr_is_reference_to_lib_flag指示主位流图像参考知识位流图像，则继续依次解析crr_seq_parameter_set_id以及crr_is_reference_to_lib_only。若crr_is_reference_to_lib_only指示该主位流图像仅参考知识位流图像，再继续解析crr_lib_pid得到该主位流图像所参考的知识位流图像的定位信息，将定位信息作为主位流图像与知识位流图像之间的参考关系信息。
相应地，编码器在编码过程中，首先获取一个主位流图像所参考的知识位流图像的定位信息，基于所获取的定位信息在CRR indication SEI message中添加定位标识crr_lib_pid。之后，基于主位流图像是否仅参考知识位流图像，在CRR indication SEImessage中添加第一参考标识crr_is_reference_to_lib_only。接着，基于主位流图像是否参考知识位流图像，在CRR indication SEI message中添加第二参考标识crr_is_reference_to_lib_flag。最后，基于CRR indication SEI message所使用的序列参数集在CRR indication SEI message添加参数集标识crr_seq_parameter_set_id。
若主位流的目标信息为CRR extension_data，则可根据如下的表8获取参考关系信息：
表8
| cross_random-access-point_referencing_extension(){ | 描述符 |
| crr_is_reference_to_lib_flag | u(1) |
| if(crr_is_reference_to_lib_flag){ | |
| crr_is_reference_to_lib_only | u(1) |
| crr_lib_pid | u(6) |
| } | |
| next_start_code() | |
| } |
其中，crr_is_reference_to_lib_flag为第二参考标识，crr_is_reference_to_lib_only为第一参考标识，crr_lib_pid为定位标识。系统层首先解析crr_is_reference_to_lib_flag，若crr_is_reference_to_lib_flag指示主位流图像参考知识位流图像，则继续解析crr_is_reference_to_lib_only，若crr_is_reference_to_lib_only指示该主位流图像仅参考知识位流图像，再继续解析crr_lib_pid得到该主位流图像所参考的知识位流图像的定位信息，将定位信息作为主位流图像与知识位流图像之间的参考关系信息。
相应地，编码器在编码过程中，首先获取一个主位流图像所参考的知识位流图像的定位信息，基于所获取的定位信息在CRR extension_data中添加定位标识crr_lib_pid。之后，基于主位流图像是否仅参考知识位流图像，在CRR extension_data中添加第一参考标识crr_is_reference_to_lib_only。最后，基于主位流图像是否参考知识位流图像，在CRR extension_data中添加第二参考标识crr_is_reference_to_lib_flag。
可以看出，该实施方式首先通过第二参考标识crr_is_reference_to_lib_flag将主位流图像与知识位流图像之间的参考关系区分为两个种类。第一个种类包括主位流图像不参考知识位流图像，第二个种类包括主位流图像仅参考知识位流图像，以及主位流图像除了参考知识位流图像以外还参考其他图像，从而避免第一个种类所包括的主位流图像继续被系统层解析而造成效率的降低。之后，再通过第一参考标识crr_is_reference_to_lib_only继续区分第二个种类所包括的两种参考关系，从而实现对主位流图像与知识位流图像之间的三种参考关系的准确区分。
需要说明的是，步骤上述第一种获取方式、第二种获取方式以及第三种获取方式均针对于参考关系信息仅用于指示一帧主位流图像的情况。接下来，针对参考关系信息用于指示两帧或多帧主位流图像的情况进行说明：
第四种获取方式：获取主位流的目标信息中的参考关系信息，包括：解析目标信息中的条目标识得到条目数量，条目数量包括两个或多个，每个条目指向一个主位流图像；对于任一条目，基于条目数量解析条目对应的图像序列标识，得到条目指向的主位流图像的图像序列号，图像序列号用于指示条目指向的主位流图像；对于任一条目，解析条目对应的定位标识，得到条目指向的主位流图像所参考的知识位流图像的定位信息；将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为参考关系信息。其中，参考关系信息用于指示两帧或多帧主位流图像与知识位流图像之间的参考关系，每帧主位流图像与知识位流图像之间的参考关系均为：主位流图像仅参考知识位流图像。
其中，参考关系信息用于指示主位流中位于参考关系信息之后的两帧或多帧仅参考知识位流图像的主位流图像，即RL图像，且其中一帧RL图像是CRR indication SEImessage所属的access unit对应的主位流图像，即在主位流中位于参考关系信息之后的第一帧主位流图像。若主位流的目标信息为CRR indication SEI message，则可根据如下的表9获取参考关系信息：
表9
其中，crr_seq_parameter_set_id为参数集标识，通过解析crr_seq_parameter_set_id得到序列参数集，进而根据序列参数集获取目标参数。num_entries_in_crr_minus1为条目标识，通过解析num_entries_in_crr_minus1可得到条目数量，由于条目数量为两个或多个，因而不同的条目之间通过编号i来进行区分，本实施例中编号i的取值为0或正整数。另外，每个条目指向一个主位流图像，第i个条目所指向的主位流图像即为主位流中位于参考关系信息之后的第i帧主位流图像，条目数量与参考关系信息所指示的主位流图像的帧数相等。
crr_poc_delta[i]为第i个条目对应的图像序列标识，通过解析crr_poc_delta[i]可推导得到第i个条目指向的主位流图像的图像序列号，图像序列号表示为entryPicOrderCnt[i]，推导过程如下：
entryPicOrderCnt[0]＝PicOrderCnt(currPic)
for(i＝1；i<＝num_entries_in_crr_minus1；i++)
entryPicOrderCnt[i]＝entryPicOrderCnt[i-1]+crr_poc_delta[i]
在该推导过程中，currPic表示当前图像，即CRR indication SEI message所属的access unit对应的主位流图像。PicOrderCnt(currPic)表示当前图像在主位流中的图像序列号。第0个条目所指向的主位流图像的图像序列号即为当前图像在主位流中的图像序列号。可选地，图像序列号可以为图像顺序计数(picture order count，POC)，用于指示主位流图像在显示时间上的先后顺序，即主位流图像的被解码后的输出顺序。
对于第0个条目以外的其他条目的图像序列号，即i取值为正整数的第i个条目的图像序列号，若基于解析num_entries_in_crr_minus1得到的条目数量确认i不大于该条目数量，则可根据前一条目的图像序列号entryPicOrderCnt[i-1]以及crr_poc_delta[i]计算得到第i个条目的图像序列号。例如i取值为1，则第1个条目指向的主位流图像的图像序列号entryPicOrderCnt[1]＝entryPicOrderCnt[0]+crr_poc_delta[1]，以此类推，不再对i的其他取值进行赘述。
需要说明的是，解析crr_seq_parameter_set_id所得到的目标参数可包括图像序列号的最大值MaxPicOrderCntLsb，则目标参数用于获取主位流的补充增强信息中的参考关系信息是指，MaxPicOrderCntLsb用于限定crr_poc_delta[i]的取值范围，进而实现参考关系信息的获取。例如，crr_poc_delta[i]的取值范围可以为((-MaxPicOrderCntLsb/2)+1，(MaxPicOrderCntLsb/2)-1)。当然，本申请实施例也可不对crr_poc_delta[i]的取值范围加以限定，或者，可直接将参考取值范围作为crr_poc_delta[i]的取值范围。
crr_lib_pid[i]为第i个条目对应的定位标识，通过解析crr_lib_pid[i]可获取第i个条目指向的主位流图像所参考的知识位流图像的定位信息。或者，基于上述对定位标识的说明，也可逐个解析crr_lib_pid[i]以及crr_lib_stream_url[i]来获取第i个条目指向的主位流图像所参考的知识位流图像的定位信息。
因此，系统层可依次解析crr_seq_parameter_set_id以及num_entries_in_crr_minus1，再基于解析num_entries_in_crr_minus1所得到的条目数量，逐个解析crr_poc_delta[i]以及crr_lib_pid[i]，从而将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为参考关系信息。
相应地，编码器在编码过程中，首先获取两个或多个主位流图像所参考的知识位流图像的定位信息，基于每个主位流图像所参考的知识位流图像的定位信息在CRRindication SEI message中添加每个条目对应的定位标识crr_lib_pid[i]。之后，基于每个条目所指向的主位流图像的图像序列号在CRR indication SEI message中添加每个条目对应的图像序列标识crr_poc_delta[i]。接着，基于条目的数量在CRR indication SEImessage中添加条目标识num_entries_in_crr_minus1。最后，基于CRR indication SEImessage所使用的序列参数集在CRR indication SEI message中添加参数集标识crr_seq_parameter_set_id。
若主位流的目标信息为CRR extension_data，则可根据如下的表10获取参考关系信息：
表10
其中，num_entries_in_crr_minus1为条目标识，crr_poc_delta[i]为第i个条目所指向的主位流图像的图像序列标识，crr_lib_pid[i]为第i个条目所指向的主位流图像所参考的知识位流图像的定位信息，表10中各标识的含义与表9中各标识的含义相同，此处不再重复说明。基于表10，系统层首先解析num_entries_in_crr_minus1得到条目数量，再基于条目数量逐个解析crr_poc_delta[i]以及crr_lib_pid[i]，便可实现参考关系信息的获取。
相应地，编码器在编码过程中，首先获取两个或多个主位流图像所参考的知识位流图像的定位信息，基于每个主位流图像所参考的知识位流图像的定位信息在CRRextension_data中添加每个条目对应的定位标识crr_lib_pid[i]。之后，基于每个条目所指向的主位流图像的图像序列号在CRR extension_data中添加每个条目对应的图像序列标识crr_poc_delta[i]。最后，基于条目的数量在CRR extension_data中添加条目标识num_entries_in_crr_minus1。
另外，在主位流的目标信息为CRR extension_data的情况下，CRR extension_data所在的序列头到下一个序列头之间的所有主位流图像共同参考同一个知识位流图像。因此，虽然CRR extension_data所携带的参考关系信息用于指示两帧或多帧仅参考知识位流图像的主位流图像，但两帧或多帧主位流图像共同参考同一个知识位流图像，则可根据如下的表11来获取参考关系信息：
表11
| cross_random-access-point_referencing_extension(){ | 描述符 |
| crr_lib_pid | u(1) |
| next_start_code() | u(6) |
| } |
其中，crr_lib_pid为主位流图像所参考的知识位流图像的定位信息。其中，由于参考关系信息所指示两帧或多帧仅参考知识位流图像的主位流图像共同参考同一个知识位流图像，因此无需通过表10中的crr_poc_delta[i]来获取每个条目所指向的主位流图像的图像序列标识，再通过crr_lib_pid[i]获取每个条目所指向的主位流图像所参考的知识位流图像的定位信息，而是直接通过表11中的crr_lib_pid获取一个知识位流图像的定位信息，该定位信息对应的知识位流图像即为参考关系信息所指示的两帧或多帧主位流图像共同参考的知识位流图像。
第五种获取方式：解析条目对应的定位标识之前，方法还包括：对于任一条目，解析条目对应的第一参考标识，第一参考标识用于指示条目指向的主位流图像是否仅参考知识位流图像；若第一参考标识指示条目指向的主位流图像仅参考知识位流图像，解析条目对应的定位标识。其中，参考关系信息用于指示两帧或多帧主位流图像与知识位流图像之间的参考关系，每帧主位流图像与知识位流图像之间的参考关系均可包括：主位流图像仅参考知识位流图像、主位流图像除了参考知识位流图像知识位流图像以外还参考其他图像或者主位流图像不参考知识位流图像。
其中，若主位流的目标信息为CRR indication SEI message，则可根据如下的表12获取参考关系信息：
表12
其中，crr_seq_parameter_set_id为参数集标识，num_entries_in_crr_minus1为条目标识，crr_poc_delta[i]为条目所对应的图像序列标识，crr_is_reference_to_lib_only[i]为条目所对应的第一参考标识，crr_lib_pid[i]为条目所对应的定位标识。系统层首先依次解析crr_seq_parameter_set_id、num_entries_in_crr_minus1以及crr_poc_delta[i]。之后，对于任一条目，解析crr_is_reference_to_lib_only[i]，若crr_is_reference_to_lib_only[i]指示该条目指向的主位流图像仅参考知识位流图像，再继续解析crr_lib_pid[i]以获取该条目所指向的主位流图像参考的知识位流图像的定位信息，并将定位信息作为参考关系信息。
相应地，编码器在编码过程中，首先在CRR indication SEI message中添加每个条目对应的定位标识crr_lib_pid[i]。之后，基于每个条目所指向的主位流图像是否仅参考知识位流图像，在CRR indication SEI message中添加每个条目对应的第一参考标识crr_is_reference_to_lib_only[i]。最后，依次在CRR indication SEI message中添加每个条目对应的图像序列标识crr_poc_delta[i]、条目标识num_entries_in_crr_minus1以及参数集标识crr_seq_parameter_set_id。
若主位流的目标信息为CRR extension_data，则可根据如下的表13获取参考关系信息：
表13
其中，表13中各标识的含义与表12中各标识的含义相同，此处不再重复说明。针对于表13，系统层首先解析num_entries_in_crr_minus1以及crr_poc_delta[i]。之后，对于任一条目，解析crr_is_reference_to_lib_only[i]，若crr_is_reference_to_lib_only[i]指示该条目指向的主位流图像仅参考知识位流图像，再继续解析crr_lib_pid[i]以获取该条目所指向的主位流图像参考的知识位流图像的定位信息，并将定位信息作为参考关系信息。
相应地，编码器在编码过程中，首先在CRR extension_data中添加每个条目对应的定位标识crr_lib_pid[i]。之后，基于每个条目所指向的主位流图像是否仅参考知识位流图像，在CRR extension_data中添加每个条目对应的第一参考标识crr_is_reference_to_lib_only[i]。最后，依次在CRR extension_data中添加每个条目对应的图像序列标识crr_poc_delta[i]以及条目标识num_entries_in_crr_minus1。
在该获取方式中，通过第一参考标识crr_is_reference_to_lib_only[i]将每一帧主位流图像与知识位流图像之间的三种参考关系均区分为两个种类。第一个种类包括主位流图像仅参考知识位流图像，第一个种类中的主位流图像即为支持随机访问的RL图像，第二个种类包括主位流图像除了参考知识位流图像以外还参考其他图像，以及主位流图像不参考知识位流图像，第二个种类中的主位流图像不具有支持随机访问的能力。
因此，可选地，解析条目对应的第一参考标识之后，方法还包括：对于任一条目，若第一参考标识指示条目指向的主位流图像仅参考知识位流图像，将条目指向的主位流图像作为随机访问点。因此，在参考关系信息用于指示两帧或多帧主位流图像与知识位流图像之间的参考关系的情况下，系统层可通过解析参考关系信息来从两帧或多帧主位流图像中确定仅参考知识位流图像的主位流图像，并将确定的主位流图像作为随机访问点，以实现LBVC方法中的随机访问。
另外，在第五种获取方式中，若主位流的目标信息为CRR extension_data，仍可通过上述表11所提供的方式来获取参考关系信息，此处不再加以赘述。
第六种获取方式：解析条目对应的第一参考标识之前，本实施例所提供的方法还包括：对于任一条目，解析条目对应的第二参考标识，第二参考标识用于指示条目指向的主位流图像是否参考知识位流图像；若第二参考标识指示条目指向的主位流图像参考知识位流图像，解析条目对应的第一参考标识。其中，参考关系信息用于指示两帧或多帧主位流图像与知识位流图像之间的参考关系，每帧主位流图像与知识位流图像之间的参考关系均可包括：主位流图像仅参考知识位流图像、主位流图像除了参考知识位流图像知识位流图像以外还参考其他图像或者主位流图像不参考知识位流图像。
其中，若主位流的目标信息为CRR indication SEI message，则可根据如下的表14获取参考关系信息：
表14
其中，crr_seq_parameter_set_id为参数集标识，num_entries_in_crr_minus1为条目标识，crr_poc_delta[i]为条目所对应的图像序列标识，crr_is_reference_to_lib_flag[i]为条目对应的第二参考标识，crr_is_reference_to_lib_only[i]为条目所对应的第一参考标识，crr_lib_pid[i]为条目所对应的定位标识。系统层首先依次解析crr_seq_parameter_set_id、num_entries_in_crr_minus1以及crr_poc_delta[i]。之后，对于任一条目，解析crr_is_reference_to_lib_flag[i]，若crr_is_reference_to_lib_flag[i]指示该条目指向的主位流图像参考知识位流图像，则解析crr_is_reference_to_lib_only[i]，若crr_is_reference_to_lib_only[i]指示该条目指向的主位流图像仅参考知识位流图像，再继续解析crr_lib_pid[i]以获取该条目所指向的主位流图像参考的知识位流图像的定位信息，并将定位信息作为参考关系信息。
相应地，编码器在编码过程中，首先在CRR indication SEI message中添加每个条目对应的定位标识crr_lib_pid[i]。之后，基于每个条目所指向的主位流图像是否仅参考知识位流图像，在CRR indication SEI message中添加每个条目对应的第一参考标识crr_is_reference_to_lib_only[i]。接着，基于每个条目所指向的主位流图像是否参考知识位流图像，在CRR indication SEI message中添加每个条目对应的第二参考标识crr_is_reference_to_lib[i]。最后，依次在CRR indication SEI message中添加每个条目对应的图像序列标识crr_poc_delta[i]、条目标识num_entries_in_crr_minus1以及参数集标识crr_seq_parameter_set_id。
若主位流的目标信息为CRR extension_data，则可根据如下的表15获取参考关系信息：
表15
其中，num_entries_in_crr_minus1为条目标识，crr_poc_delta[i]为条目所对应的图像序列标识，crr_is_reference_to_lib_flag[i]为条目对应的第二参考标识，crr_is_reference_to_lib_only[i]为条目所对应的第一参考标识，crr_lib_pid[i]为条目所对应的定位标识。系统层首先解析num_entries_in_crr_minus1以及crr_poc_delta[i]。之后，对于任一条目，解析crr_is_reference_to_lib_flag[i]，若crr_is_reference_to_lib_flag[i]指示该条目指向的主位流图像参考知识位流图像，则解析crr_is_reference_to_lib_only[i]，若crr_is_reference_to_lib_only[i]指示该条目指向的主位流图像仅参考知识位流图像，再继续解析crr_lib_pid[i]以获取该条目所指向的主位流图像参考的知识位流图像的定位信息，并将定位信息作为参考关系信息。
相应地，编码器在编码过程中，首先在CRR extension_data中添加每个条目对应的定位标识crr_lib_pid[i]。之后，基于每个条目所指向的主位流图像是否仅参考知识位流图像，在CRR extension_data中添加每个条目对应的第一参考标识crr_is_reference_to_lib_only[i]。接着，基于每个条目所指向的主位流图像是否参考知识位流图像，在CRRextension_data中添加每个条目对应的第二参考标识crr_is_reference_to_lib[i]。最后，依次CRR extension_data中添加每个条目对应的图像序列标识crr_poc_delta[i]以及条目标识num_entries_in_crr_minus1。
该获取方式中，首先通过第二参考标识crr_is_reference_to_lib_flag[i]将任一帧主位流图像与知识位流图像之间的参考关系区分为两个种类。第一个种类包括主位流图像不参考知识位流图像，第二个种类包括主位流图像仅参考知识位流图像，以及主位流图像除了参考知识位流图像以外还参考其他图像，从而避免第一个种类所包括的主位流图像继续被系统层解析而造成效率的降低。之后，再通过第一参考标识crr_is_reference_to_lib_only[i]继续区分第二个种类所包括的两种参考关系，从而实现对主位流图像与知识位流图像之间的三种参考关系的准确区分。
另外，在第六种获取方式中，若主位流的目标信息为CRR extension_data，仍可通过上述表11所提供的方式来获取参考关系信息，此处不再加以赘述。
上述第一种、第二种、第三种、第四种、第五种以及第六种获取方式均可用于获取主位流的目标信息中的参考关系信息，无论通过哪种获取方式获取到参考关系信息，在获取参考关系信息之后，便可根据所获取的参考关系信息进一步获取目标知识位流图像，从而完成视频解码。
步骤703、根据参考关系信息获取目标知识位流图像，目标知识位流图像用于解码得到主位流图像。
根据步骤702中的说明可知，参考关系信息包括一帧或多帧主位流图像所参考的知识位流图像的定位信息，因此，根据参考关系信息获取目标知识位流图像包括：对于任一帧主位流图像，基于定位信息从知识位流中获取该主位流图像所参考的知识位流图像，并将该主位流图像所参考的知识位流图像作为目标知识位流图像。
对于解码器根据目标知识位流图像解码主位流图像的过程，由于系统层通过解析主位流的目标信息已获取参考关系信息以及目标知识位流图像，因而系统层可将参考关系信息以及目标知识位流图像均发送给解码器，从而使得解码器无需解码主位流便可获取参考关系信息，并且，省略了解码器基于参考关系信息在知识位流进行定位获取目标知识位流图像的过程，因此，使得解码过程较为灵活，提高了解码效率。
另外，考虑到上述方法中解码器仍需分别解码主位流与知识位流，因而本申请实施例还提供系统层基于获取的参考关系信息对主位流图像以及所获取的目标知识位流图像进行拼接的方法，以进一步提高解码器的解码效率。可选地，根据参考关系信息获取目标知识位流图像之后，本申请实施例所提供的方法还包括：拼接主位流图像以及目标知识位流图像得到目标位流；通过解码器解码目标位流，完成视频解码。
通过系统层对主位流图像以及目标知识位流图像进行拼接，将主位流图像与目标知识位流图像合并为同一个位流，系统层可将该位流发送给解码器，使得解码器无需分别解码知识位流与主位流，而仅需解码系统层所发送的一个位流，便可完成视频解码。在一种可选的实施方式中，系统层拼接主位流图像以及目标知识位流图像得到目标位流，包括：对于任一目标知识位流图像，删除目标知识位流图像对应的序列结束码，得到第一目标知识位流图像；将第一目标知识位流图像拼接在参考第一目标知识位流图像的主位流图像的序列头之前，得到拼接位流，将拼接位流作为目标位流。
其中，若主位流的目标信息包括CRR indication SEI message，则参见图8，对拼接过程进行说明：图8中，LSn表示知识位流中第n帧知识位流图像所对应的序列头，Ln表示第n帧知识位流图像的图像数据，LEn表示第n帧知识位流图像所对应的序列结束码，LSn、Ln以及LEn构成一帧知识位流图像。MSi表示主位流中第i个序列头，SEIi代指主位流中的第i个CRR indication SEI message，RLi表示主位流中第i个仅参考知识位流图像的主位流图像，i为主位流图像的顺序编号，顺序编号的数值用于指示主位流图像在主位流中的顺序。B表示不参考知识位流图像的主位流图像，ME表示主位流中的序列结束码。
如图8所示，以RL0参考L0，即LS0、L0以及LE0为目标知识位流图像为例，对拼接过程进行说明：首先，删除L0对应的序列结束码LE0，得到第一目标知识位流图像为LS0及L0。接着，将LS0及L0拼接在RL0对应的序列头MS0之前，则拼接后的位流依次包括：LS0、L0、MS0、SEI0、RL0。之后，按照上述方法遍历该序列头MS0中每帧主位流图像，由于MS0中除RL0以外均为B，因而MS0之前不再继续拼接其他目标知识位流图像，从而完成MS0的拼接，得到拼接后的位流依次包括：LS0、L0、MS0、SEI0、RL0、B、B。最后，按照上述方法遍历主位流中的每个序列头，直至读取到主位流中的序列结束码ME，从而最终得到图8所示的拼接位流，并将该拼接位流作为目标位流。
若主位流中的目标信息为CRR extension_data，则参见图9：其中，除了extension_datai代指主位流中的第i个CRR extension_data以外，其他符号含义以及拼接过程均可参考上述针对图8的说明，此处不再加以赘述。
需要说明的是，无论主位流的目标信息包括CRR indication SEI message或者CRR extension_data，RL的图像结构均可参见图10，RL包括图像头信息RL_header以及图像数据RL_data。因此，在进行拼接的过程中，既可以如图8、图9所示将目标信息拼接在序列头与RL之间，也可如图11、图12所示，将目标信息拼接在图像头信息与图像数据之间。其中，图11对应主位流的目标信息包括CRR indication SEI message的情况，图12对应于主位流的目标信息包括CRR extension_data的情况。
对于将第一目标知识位流图像拼接在参考第一目标知识位流图像的主位流图像的序列头之前的实施方式，可选地，实施方式包括：若参考第一目标知识位流图像的主位流图像的数量包括两个或多个，仅将第一目标知识位流图像拼接在顺序编号的数值最小的主位流图像的序列头之前，顺序编号的数值用于指示主位流图像在主位流中的顺序。
其中，若主位流的目标信息包括CRR indication SEI message，则参见图13，以RL0、RL1均参考L0为例，对拼接过程进行说明：根据针对图8的说明可知，完成MS0的拼接所得到的拼接后的位流依次包括：LS0、L0、MS0、SEI0、RL0、B、B。之后，继续读取MS1，以对MS1所包括的每帧主位流图像进行拼接。由于RL1与RL0均参考L0，且RL0的顺序编号的数值0小于RL1的顺序编号的数值1，因此，仅将LS0、L0拼接在RL0的序列头MS0之前即可，RL1的序列头MS1之前无需重复拼接LS0、L0，从而拼接后的位流依次包括：LS0、L0、MS0、SEI0、RL0、B、B、MS1、SEI1、RL1、B、B，其他序列头可依次类推。
若主位流的目标信息包括CRR extension_data，则参见图14。其中，图14中各符号含义可参考上述针对图9的说明，针对图14的拼接过程可参考上述针对图13的说明，此处不再加以赘述。
考虑到随机访问的情况，系统层可从作为随机访问点的主位流图像处开始进行拼接，而无需从主位流的第一个序列头处开始进行拼接。因此，在一种可选的实施方式中，拼接主位流图像以及目标知识位流图像得到目标位流，包括：获取主位流图像中满足条件的主位流图像；删除满足条件的主位流图像所参考的目标知识位流图像的序列结束码，得到更新后的目标知识位流图像；将第二目标知识位流图像拼接在满足条件的主位流图像的序列头之前，得到拼接位流，将拼接位流作为目标位流。
其中，满足条件的主位流图像即为被作为随机访问点的主位流图像，若系统层检测到主位流中的一帧主位流图像被随机访问，则从该主位流图像处进行主位流图像与目标知识位流图像的拼接，将得到的拼接位流作为目标位流。
若主位流的目标信息包括CRR indication SEI message，参见图15，以RL1作为随机访问点，且RL1参考L0为例，对拼接过程进行说明：由于系统层检测到主位流从RL1处被随机访问，因而无需对RL1之前的各帧主位流图像进行拼接，而是直接删除RL1所参考的L0对应的序列结束码LE0，得到第二目标知识位流图像为LS0及L0。之后，将LS0及L0拼接在RL1对应的序列头MS1之前，则拼接后的位流依次包括：LS0、L0、MS1、SEI1、RL1。而对于RL1之后的其他主位流图像、以及主位流中的其他序列头所包括的各帧主位流图像，直接按照针对图8的说明进行拼接即可。主位流的目标信息包括CRR extension_data的情况可参见图16，此处不再加以赘述。
进一步地，可选地，拼接主位流图像以及目标知识位流图像得到目标位流之后，方法还包括：从目标位流中删除参考关系信息，得到更新后的目标位流；通过解码器解码目标位流，完成视频解码，包括：通过解码器解码更新后的目标位流，完成视频解码。
例如，仍以图8所示的情况为例，根据以上说明可知，目标位流依次包括：LS0、L0、MS0、SEI0、RL0、B、B……，则可从目标位流中删除参考关系信息SEI0，得到更新后的目标位流依次包括：LS0、L0、MS0、RL0、B、B……。需要说明的是，由于主位流图像本身携带有参考关系信息，因而从目标位流中删除参考关系信息得到更新后的目标位流之后，并不会影响解码器对更新后的目标位流的解码。
另外，如图17所示，本实施例还可根据主位流的目标信息中的参考关系信息，对主位流以及知识位流进行存储及传输。可选地，根据参考关系信息获取目标知识位流图像之后，本实施例所提供的方法还包括：通过文件存储主位流与知识位流。
其中，文件格式(file format)是一种将编码数据存储在计算机文件中的特定方式。如图18所示，在该文件格式下的数据将分为媒体数据(media data)和元数据(metadata)，媒体数据可划分为不同的小包，每个小包均称为样本(sample)，元数据用于对媒体数据进行描述。在LBVC方法中，经过LBVC编码得到的主位流和知识位流均可作为媒体数据，主位流中的每帧主位流图像均为主样本，知识位流图像所包括的每帧知识位流图像均可作为知识样本。如图19所示，主样本按照时间顺序排列，而知识样本按照非时间顺序排列，非时间顺序包括但不限于使用顺序或者生成顺序，且主样本按照非对齐时间依赖于知识样本。
参见图20，图20为存储主位流以及知识位流的文件示意图。进行存储时，为知识位流分配视频轨道2，并根据知识位流所包括的每个知识位流图像的定位标识(如crr_lib_pid)，为每个知识位流图像分配一个知识样本编号(如library_sample_index)，则知识位流图像、定位标识与知识样本编号一一对应，并将知识图像存储于媒体数据盒中。
另外，为主位流分配视频轨道1，通过轨道描述盒(track reference box)描述视频轨道1与视频轨道2之间的依赖关系。为主位流所包括的每个主位流图像分配一个主样本编号，则主位流图像与主样本编号一一对应，并将主位流图像放入媒体数据盒中。之后，解析主位流的目标信息(CRR indication SEI message或者CRR extension_data)中的每个定位标识，即目标信息所指示的每个主位流图像所参考的知识位流图像的定位标识，将所参考的知识位流图像的定位标识相同的主位流图像的主样本编号放入样本群组数据盒(sample group box)中，也就是所参考的知识位流图像的定位标识相同的主位流图像构成一个样本群组。之后，根据知识位流图像、定位标识与知识样本编号之间的对应关系，由定位标识获取知识位流图像，进而获取知识位流图像的知识样本编号，并将该知识样本编号放入样本群组描述数据盒(sample group description box)中。从而完成存储。
可以看出，存储有主位流与知识位流的文件包括媒体数据盒以及元数据盒。媒体数据盒中存储有主位流图像以及知识位流图像，元数据盒中存储有视频轨道1、视频轨道2、轨道描述盒、样本群组数据盒以及样本群组描述数据盒，每个样本群组数据盒中存储有一个或多个主位流图像的主样本编号，每个样本群组描述数据盒中存储有一个知识位流图像的知识样本编号。并且，轨道描述盒描述了视频轨道1与视频轨道2之间的依赖关系，样本群组数据盒和样本群组描述数据盒描述了一个或多个主位流图像与一个知识位流图像之间的依赖关系。
为了给系统层提供易于提取且精确的主位流图像与知识位流图像的参考关系信息，使得系统层能够描述主位流图像和知识位流图像之间的依赖关系，并完成位流的存储和传输，需要在主位流的extension_data中添加主位流图像对知识位流图像的参考关系信息。
基于图17位流传输流程图可以看到，extension_data与DASH和MMT没有直接关系,只与fileformat有关系。图17中包括编码器(encoder，ENC)、基本流(Elementary Stream，ES)、文件(file)、扩展数据(extension data)、元数据(meta data)、媒体数据(mediadata)、基于HTTP的动态自适应流(Dynamic Adaptive Streaming over HTTP，DASH)、MPEG媒体传输(MPEG Media Transport，MMT)、媒体演示说明(Media PresentationDescription，MPD)、组成信息(Composition Information，CI)、媒体分割(MediaSegment)、媒体处理单元(Media Processing Unit，MPU)以及解码器(decoder，DEC)。下面简要介绍一下fileformat。
文件格式(file format)是一种将编码数据存储在计算机文件中的特定方式。如图18所示，在该文件格式下的数据将分为媒体数据(media data)和元数据(metadata)。
媒体数据包括视频数据、音频数据等，媒体数据都可以分为不同的小包，称为样本(sample)。媒体数据之间可以有依赖关系，例如使用知识库编码方法编码的媒体数据。
图19展示了使用知识库编码方法编码的媒体数据的结构关系。知识库编码媒体数据包含视频层数据和知识层数据两部分，视频层数据的样本(sample)按照时间顺序排列，而知识层数据的样本则按照非时间的顺序排列(例如按照使用顺序或生成顺序)。视频层数据依赖知识层数据，需要与知识层数据同步进行编解码，且视频层数据中多个样本依赖知识层数据中同一个样本。
图20展示了一种file format存储媒体数据的方法。媒体数据(Media data)和描述媒体数据结构的元数据(Meta data)被存储在文件中，在本实施例中媒体数据和元数据存储在一个文件中。为了描述视频层数据和知识层数据之间的依赖关系，在元数据中使用两个轨道(track)分别描述视频层数据和知识层数据的样本，如图20所示，由视频轨道1描述视频层数据样本的结构，由视频轨道2描述知识层数据样本的结构。在视频轨道1中使用tref数据盒(Track Reference Box)描述视频轨道1和视频轨道2之间的依赖关系，使用样本群组数据盒(Sample Group Box)和样本群组描述数据盒(Sample Group DescriptionBox)描述多个视频1数据样本依赖同一个视频2数据样本。
首先解析序列头，如果是知识码流，则为其分配一个视频轨道，例如图17中的视频轨道2，并解析得到每个知识图像编号crr_lib_pid，然后为每个知识图像分配一个知识层数据样本入口编号library_sample_index，所述crr_lib_pid和library_sample_index是一一对应的关系，并生成一张映射表，最后把相应的知识图像放入媒体数据盒中。
如果是主流，则为其分配另一个视频轨道，例如图20中的视频轨道1，然后为每个主流图像分配一个视频层数据样本入口，并把相应的主流图像放入媒体数据盒中。并且解析extension data，获取extension_id，如果extension_id为1101则表示该extensiondata为描述知识位流与主流依赖关系的补充增强信息，继续解析以获取主位流图像参考的知识图像编号crr_lib_pid，把具有参考相同知识图像的主流图像归类并把其样本入口编号放入样本群组数据盒(Sample Group Box)中，然后查前述映射表得到知识图像编号crr_lib_pid对应的知识层数据样本入口编号library_sample_index，再把所述知识层数据样本入口编号放入样本群组描述数据盒(Sample Group Description Box)中。
扩展数据定义如表16所示：
表16
大跨度参考图像扩展定义如表17所示：
表17
| 大跨度参考图像扩展定义 | 描述符 |
| cross_random-access-point_referencing_extension(){ | |
| extension_id | f(4) |
| crr_lib_pid | u(6) |
| next_start_code() | |
| } |
视频扩展标号如表18所示：
表18
| 视频扩展标号 | 含义 |
| 0000 | 保留 |
| 0001 | 保留 |
| 0010 | 序列显示扩展 |
| 0011 | 时域可伸缩扩展 |
| 0100 | 版权扩展 |
| 0101 | 保留 |
| 0110 | 保留 |
| 0111 | 图像显示扩展 |
| 1000 | 保留 |
| 1001 | 保留 |
| 1010 | 目标设备显示和内容元数据扩展 |
| 1011 | 摄像机参数扩展 |
| 1100 | 感兴趣区域参数扩展 |
| 1101～1111 | 保留 |
视频扩展标号extension_id
位串‘1101’。标识序列图像与知识图像参考关系扩展。(可选择任意在列表中没被占用的编号作为大跨度参考图像扩展的编号)
外部知识图像的索引编号crr_lib_pid[i]
6位无符号整数，取值范围是0～63。用于描述被当前extension_data所在的序列头以后的主位流图像所参考的外部知识图像的索引编号。这里的知识图像pid值应与图像头中的知识图像pid值相同。
综上所述，本申请实施例通过主位流的补充增强信息或者扩展数据携带一帧或多帧主位流图像与知识位流图像之间的参考关系信息，实现了系统层对参考关系信息的获取，并完成位流的存储和传输，且系统层可基于所获取的参考关系信息确定随机访问点，以及基于所获取的参考关系信息进行主位流与知识位流的拼接，从而使得解码器的解码过程更为灵活，提高了解码效率。
基于相同构思，本申请实施例还提供了一种视频编码方法，该方法可应用于图1A、图1B、图2、图4和图5所示的实施环境中。如图21所示，该方法包括：
步骤2101、获取编码后的视频数据，编码后的视频数据用于解码得到视频图像。
步骤2102、获取视频图像的参考关系信息，参考关系信息用于指示视频图像与知识位流图像之间的参考关系。
可选地，获取视频图像的参考关系信息，包括：
获取一个主位流图像所参考的知识位流图像的定位信息，将主位流图像所参考的知识位流图像的定位信息作为参考关系信息；
基于编码后的视频数据的目标信息以及参考关系信息获取待解码的主位流，包括：
在目标信息中添加定位标识，得到待解码的主位流，定位标识包括一个主位流图像所参考的知识位流图像的定位信息。
可选地，在目标信息中添加定位标识之后，方法还包括：
在目标信息中添加第一参考标识，第一参考标识用于指示主位流图像是否仅参考知识位流图像。
可选地，在目标信息中添加第一参考标识之后，方法还包括：
在目标信息中添加第二参考标识，第二参考标识用于指示主位流图像是否参考知识位流图像。
可选地，获取编码后的视频图像的参考关系信息，包括：
获取两个或多个主位流图像所参考的知识位流图像的定位信息，将每个主位流图像所参考的知识位流图像的定位信息均作为参考关系信息；
基于编码后的视频数据的目标信息以及参考关系信息获取待解码的主位流，包括：
在目标信息中添加条目对应的定位标识，每个条目指向一个主位流图像，每个条目对应的定位标识包括条目指向的主位流图像所参考的知识位流图像的定位信息；
在目标信息中添加条目对应的图像序列标识，每个条目对应的图像序列标识包括条目指向的主位流图像的图像序列号；
在目标信息中添加条目标识，条目标识用于指示条目数量。
可选地，在目标信息中添加条目对应的图像序列标识之前，方法还包括：
在目标信息中添加每个条目对应的第一参考标识，第一参考标识用于指示条目指向的主位流图像是否仅参考知识位流图像。
可选地，在目标信息中添加每个条目对应的第一参考标识之后，方法还包括：
在目标信息中添加每个条目对应的第二参考标识，第二参考标识用于指示条目指向的主位流图像是否参考知识位流图像。
可选地，主位流图像所参考的知识位流图像的定位信息包括：主位流图像所参考的知识位流图像的地址信息、主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
步骤2103、基于编码后的视频数据的目标信息以及参考关系信息获取待解码的主位流，目标信息包括补充增强信息或者扩展数据。
可选地，目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
可选地，基于编码后的视频数据的目标信息以及参考关系信息获取待解码的主位流之后，方法还包括：
在目标信息中添加类别标识，类别标识用于指示目标信息的类别。
可选地，若目标信息包括补充增强信息，基于编码后的视频数据的目标信息以及参考关系信息获取待解码的主位流之后，方法还包括：
在补充增强信息中添加参数集标识，参数集标识包括补充增强信息所使用的序列参数集。
该视频编码方法中，各个步骤及步骤中涉及的信息等均可参考上述视频解码方法中的相关内容，此处不再一一赘述。
综上，本申请实施例通过主位流的补充增强信息或者扩展数据携带一帧或多帧主位流图像与知识位流图像之间的参考关系信息，实现了系统层对参考关系信息的获取，且系统层可基于所获取的参考关系信息确定随机访问点，以及基于所获取的参考关系信息进行主位流与知识位流的拼接，从而使得解码器的解码过程更为灵活，提高了解码效率。
基于与上述方法相同的申请构思，本申请实施例还提供了一种视频解码装置，如图22所示，该装置包括：
第一获取模块2201，用于获取待解码的主位流，主位流包括用于解码得到主位流图像的数据；
第二获取模块2202，用于从所述用于解码得到主位流图像的数据总，解析得到目标信息中的参考关系信息，所述参考关系信息用于指示主位流图像与知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据；
第三获取模块2203，用于根据所述参考关系信息获取目标知识位流图像，所述目标知识位流图像用于解码得到所述主位流图像。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
可选地，所述第三获取模块，用于根据所述参考关系信息，从知识位流中解码出所述目标知识位流图像，所述知识位流不同于所述主位流。
可选地，装置还包括：
第一解析模块，用于解析目标信息中的类别标识，类别标识用于指示主位流的目标信息的类别；若类别标识指示主位流的目标信息的类别为目标类别，获取主位流的目标信息中的参考关系信息。
可选地，第二获取模块2202，用于解析目标信息中的定位标识，得到一个主位流图像所参考的知识位流图像的定位信息；将主位流图像所参考的知识位流图像的定位信息作为参考关系信息。
可选地，装置还包括：第二解析模块，用于解析目标信息中的第一参考标识，第一参考标识用于指示主位流图像是否仅参考知识位流图像；若第一参考标识指示主位流图像仅参考知识位流图像，解析目标信息中的定位标识。
可选地，第二解析模块，还用于若第一参考标识指示主位流图像仅参考知识位流图像，将主位流图像作为随机访问点。
可选地，，装置还包括：第三解析模块，用于解析目标信息中的第二参考标识，第二参考标识用于指示主位流图像是否参考知识位流图像；若第二参考标识指示主位流图像参考知识位流图像，解析目标信息中的第一参考标识。
可选地，第二获取模块2202，用于解析目标信息中的条目标识得到条目数量，条目数量包括两个或多个，每个条目指向一个主位流图像；对于任一条目，基于条目数量解析条目对应的图像序列标识，得到条目指向的主位流图像的图像序列号，图像序列号用于指示条目指向的主位流图像；对于任一条目，解析条目对应的定位标识，得到条目指向的主位流图像所参考的知识位流图像的定位信息；将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为参考关系信息。
可选地，装置还包括：第四解析模块，用于对于任一条目，解析条目对应的第一参考标识，第一参考标识用于指示条目指向的主位流图像是否仅参考知识位流图像；若第一参考标识指示条目指向的主位流图像仅参考知识位流图像，解析条目对应的定位标识。
可选地，第四解析模块，还用于对于任一条目，若第一参考标识指示条目指向的主位流图像仅参考知识位流图像，将条目指向的主位流图像作为随机访问点。
可选地，装置还包括：第五解析模块，用于对于任一条目，解析条目对应的第二参考标识，第二参考标识用于指示条目指向的主位流图像是否参考知识位流图像；若第二参考标识指示条目指向的主位流图像参考知识位流图像，解析条目对应的第一参考标识。
可选地，主位流图像所参考的知识位流图像的定位信息包括：主位流图像所参考的知识位流图像的地址信息、主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
可选地，若主位流的目标信息包括补充增强信息，装置还包括：第五解析模块，用于解析补充增强信息中的参数集标识，得到补充增强信息所使用的序列参数集；根据序列参数集获取目标参数，目标参数用于获取主位流的补充增强信息中的参考关系信息。
可选地，装置还包括：拼接模块，用于拼接主位流图像以及目标知识位流图像得到目标位流；通过解码器解码目标位流，完成视频解码。
可选地，拼接模块，用于对于任一目标知识位流图像，删除目标知识位流图像对应的序列结束码，得到第一目标知识位流图像；将第一目标知识位流图像拼接在参考第一目标知识位流图像的主位流图像的序列头之前，得到拼接位流，将拼接位流作为目标位流。
可选地，拼接模块，用于若参考第一目标知识位流图像的主位流图像的数量包括两个或多个，仅将第一目标知识位流图像拼接在顺序编号的数值最小的主位流图像的序列头之前，顺序编号的数值用于指示主位流图像在主位流中的顺序。
可选地，拼接模块，用于获取主位流图像中满足条件的主位流图像；删除满足条件的主位流图像所参考的目标知识位流图像的序列结束码，得到更新后的目标知识位流图像；将第二目标知识位流图像拼接在满足条件的主位流图像的序列头之前，得到拼接位流，将拼接位流作为目标位流。
可选地，装置还包括：删除模块，用于从目标位流中删除参考关系信息，得到更新后的目标位流；
拼接模块，用于通过解码器解码更新后的目标位流，完成视频解码。
综上，本申请实施例通过主位流的补充增强信息或者扩展数据携带一帧或多帧主位流图像与知识位流图像之间的参考关系信息，实现了系统层对参考关系信息的获取，且系统层可基于所获取的参考关系信息确定随机访问点，以及基于所获取的参考关系信息进行主位流与知识位流的拼接，从而使得解码器的解码过程更为灵活，提高了解码效率。
基于相同构思，本申请实施例还提供了一种视频编码装置，如图23所示，该装置包括：
第一获取模块2301，用于获取编码后的视频数据，编码后的视频数据包括编码后的视频图像；
第二获取模块2302，用于获取编码后的视频图像的参考关系信息，参考关系信息用于指示编码后的视频图像与知识位流所包括的知识位流图像之间的参考关系；
第三获取模块2303，用于基于编码后的视频数据的目标信息以及参考关系信息获取待解码的主位流。
可选地，装置还包括：第一添加模块，用于在目标信息中添加类别标识，类别标识用于指示目标信息的类别。
可选地，第二获取模块2302，用于获取一个主位流图像所参考的知识位流图像的定位信息，将主位流图像所参考的知识位流图像的定位信息作为参考关系信息；
第三获取模块2303，用于在目标信息中添加定位标识，得到待解码的主位流，定位标识包括一个主位流图像所参考的知识位流图像的定位信息。
可选地，装置还包括：第二添加模块，用于在目标信息中添加第一参考标识，第一参考标识用于指示主位流图像是否仅参考知识位流图像。
可选地，装置还包括：第三添加模块，用于在目标信息中添加第二参考标识，第二参考标识用于指示主位流图像是否参考知识位流图像。
可选地，第二获取模块2302，用于获取两个或多个主位流图像所参考的知识位流图像的定位信息，将每个主位流图像所参考的知识位流图像的定位信息均作为参考关系信息；
第三获取模块2303，用于在目标信息中添加条目对应的定位标识，每个条目指向一个主位流图像，每个条目对应的定位标识包括条目指向的主位流图像所参考的知识位流图像的定位信息；在目标信息中添加条目对应的图像序列标识，每个条目对应的图像序列标识包括条目指向的主位流图像的图像序列号；在目标信息中添加条目标识，条目标识用于指示条目数量。
可选地，装置还包括：第四添加模块，用于在目标信息中添加每个条目对应的第一参考标识，第一参考标识用于指示条目指向的主位流图像是否仅参考知识位流图像。
可选地，装置还包括：第五添加模块，用于在目标信息中添加每个条目对应的第二参考标识，第二参考标识用于指示条目指向的主位流图像是否参考知识位流图像。
可选地，主位流图像所参考的知识位流图像的定位信息包括：主位流图像所参考的知识位流图像的地址信息、主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
可选地，若目标信息包括补充增强信息，装置还包括：第六添加模块，用于在补充增强信息中添加参数集标识，参数集标识包括补充增强信息所使用的序列参数集。
综上，本申请实施例通过主位流的补充增强信息或者扩展数据携带一帧或多帧主位流图像与知识位流图像之间的参考关系信息，实现了系统层对参考关系信息的获取，且系统层可基于所获取的参考关系信息确定随机访问点，以及基于所获取的参考关系信息进行主位流与知识位流的拼接，从而使得解码器的解码过程更为灵活，提高了解码效率。
应理解的是，上述图22或图23提供的装置在实现其功能时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将设备的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的装置与方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。
基于相同构思，本申请实施例还提供了一种视频编解码设备，所述设备包括存储器及处理器；所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行，以实现本申请实施例的任一种可能的实施方式所提供的方法。
基于相同构思，本申请实施例还提供了一种计算机可读存储介质，所述存储介质中存储有至少一条指令，所述指令由处理器加载并执行以实现本申请实施例的任一种可能的实施方式所提供的方法。
还提供了一种视频编码方法，所述方法包括：
参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
根据所述主位流图像的编码数据生成主位流，其中，主位流中的目标信息包括参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
还提供了一种视频编码装置，所述装置包括：
编码模块，用于参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
生成模块，用于根据所述主位流图像的编码数据生成主位流，其中，主位流中的目标信息包括参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据。
可选地，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
可选地，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
可选地，所述定位信息包括所述目标知识位流图像的索引。
下面详细阐述本申请实施例的方案：
为了挖掘和利用多个随机访问片段之间的图像在编码时相互参考的信息，在编码(或解码)一幅图像时，编码器(或解码器)可以从数据库中选择与当前编码图像(或解码图像)纹理内容相近的图像作为参考图像，这种参考图像称为知识库图像，存储上述参考图像的集合的数据库称为知识库，这种视频中至少一幅图像参考至少一幅知识库图像进行编解码的方法称为基于知识库的视频编码(英文：library-based video coding)。采用基于知识库的视频编码对一个视频序列进行编码会产生一个包含知识库图像编码码流的知识层码流和一个包含视频序列各帧图像参考知识库图像编码得到的码流的视频层码流，两层码流之间的参考关系如图24所示。这两种码流分别类似于可伸缩视频编码(英文：scalablevideo coding，SVC)产生的基本层码流和增强层码流，即序列层码流依赖于知识层码流。然而，基于知识库的视频编码的双码流组织方式与SVC的分级码流组织方式的层级码流之间的依赖关系不同，不同之处在于，SVC的双码流层级之间是按照一定的对齐时间段依赖的，而基于知识库的视频编码的双码流中视频层依赖知识层是按照非对齐时间段依赖的。
编码产生的码流中记录了该码流被解码所需要的解码能力信息，其中包括了该码流的最大码率、解码该码流需要的最小的解码图像缓存大小等信息，根据解码能力信息，解码器提供足够的解码能力以确保码流的正确和实时解码。
其中，HEVC或者VVC的解码能力信息在比特流中的位置如图25所示，profilelevel可以位于VPS和SPS至少一项中。其中，profile level中包括视频层码流和知识层码流至少一项的解码能力信息。
其中，AVS3的解码能力信息在比特流中的位置如图26所示。
对于使用基于知识库的视频编码方法编码会得到两个码流，知识层码流和视频主码流(或者称为视频层码流)，视频主码流的解码必须依赖知识层码流，当知识层码流和视频主码流使用同样的解码器时，解码器的解码能力需要能够同时支持知识层码流和视频主码流的解码，因此，主码流中需要记录知识层码流和视频主码流的总解码能力。对此，本发明提供了几种实现方式。
需要说明的是，在本申请中，主位流，视频主码流，当前视频层码流以及当前码流均可以理解为视频码流。外部知识位流，知识位流，知识层码流，知识码流，外部的知识码流，外部的知识层码流，外部知识码流以及外部的知识层码流均可以理解为知识图像码流。
| 英文缩略语 | 完整的英文表述/英文标准用语 | 中文表述/中文术语 |
| LBVC | library-based video coding | 基于知识库的视频编码 |
| SVC | scalable video coding | 可伸缩视频编码 |
| SEI | SupplementalEnhancement Information | 补充增强信息 |
| Extensiondata | Extension data | 扩展数据 |
| IRAP | Intra Random Access Point | 帧内随机访问点 |
| DRAP | Dependent Random Access Point | 依赖随机访问点 |
| CRR | Cross Random-access-point Referencing | 跨随机访问点参考 |
基于知识库的视频编码介绍：
为了挖掘和利用多个随机访问片段之间的图像在编码时相互参考的信息，在编码(或解码)一幅图像时，编码器(或解码器)可以从数据库中选择与当前编码图像(或解码图像)纹理内容相近的图像作为参考图像，这种参考图像称为知识库图像，存储上述参考图像的集合的数据库称为知识库，这种视频中至少一幅图像参考至少一幅知识库图像进行编解码的方法称为基于知识库的视频编码(英文：library-based video coding)。采用基于知识库的视频编码对一个视频序列进行编码会产生一个包含知识库图像编码位流的知识层位流和一个包含视频序列各帧图像参考知识库图像编码得到的位流的视频层位流，两层位流之间的参考关系如下图所示。这两种位流分别类似于可伸缩视频编码(英文：scalablevideo coding，SVC)产生的基本层位流和增强层位流，即序列层位流依赖于知识层位流。然而，基于知识库的视频编码的双位流组织方式与SVC的分级位流组织方式的层级位流之间的依赖关系不同，不同之处在于，SVC的双位流层级之间是按照一定的对齐时间段依赖的，而基于知识库的视频编码的双位流中视频层依赖知识层是按照非对齐时间段依赖的。
补充增强信息介绍：
补充增强信息是在编码视频比特流中可能包括的额外的信息，以增强视频，使视频拥有更广泛的用途。在解码过程中，这些信息并不是用来在输出图片中生成正确的样本值，而是用于其他目的，比如错误的恢复和显示。补充增强信息是位流范畴里面的概念，它集成在视频位流中，但并不是解码过程的必须项。这意味着视频编码器在输出视频位流的时候，可以不提供补充增强信息。而在视频传输过程、解封装、解码环节，都可能因为某种原因丢弃补充增强信息，同时不改变视频的具体内容。在视频内容的生成端、传输过程中，也可以插入补充增强信息，和其他视频内容一起经过传输链路到达消费端。因此，补充增强信息可以包括例如编码器参数、视频版权信息、摄像头参数、内容生成过程中的剪辑事件(引发场景切换)等信息。在AVC/HEVC/VVC/EVC和AVS标准中，分别定义了SEI和extension_data。因此，编码器在创建补充增强信息时，需要遵循标准定义，而符合标准的解码器则不需要处理补充增强信息以实现输出顺序与编码端一致。
SEI介绍：
AVC/HEVC/VVC/EVC中定义了补充增强信息(Supplemental EnhancementInformation,SEI)。AVC/HEVC/VVC/EVC标准及其扩展包括通过SEI消息支持SEI信令。SEI按payloadType区别，比如payloadType为0表示Buffering period SEI message，Bufferingperiod SEI message提供初始CPB删除延迟和初始CPB删除延迟偏移信息，用于按照解码顺序在相关接入单元的位置初始化HRD；payloadType为1表示Picture timing SEI message，Picture timing SEI message为与SEI消息相关联的访问单元提供CPB删除延迟和DPB输出延迟信息。
extension_data介绍:
AVS中定义了视频扩展数据(extension_data)，数据内容即为补充增强信息。标准要求解码器应丢弃这些数据。视频扩展数据保留字节中不应出现从任意字节对齐位置开始的21个以上连续的‘0’。extension_data按视频扩展编号区别，其中0000、0001、0101、0110、1000、1001和1101～1111为保留。比如视频扩展编号为0010表示序列显示扩展，其包含了视频格式、亮度和色度信号样值范围、彩色信息描述、源图像三基色的色度坐标、光电转移特性、彩色信号转换矩阵、水平及垂直显示尺寸等信息；视频扩展编号为0011表示时域可伸缩扩展，其包含了时间层数量、时间层帧率代码、时间层比特率低位、时间层比特率高位等信息；视频扩展编号为0100表示版权扩展，其包含了版权标志、版权标号、原创或拷贝等信息。
DRAP介绍：
IRAP(Intra Random Access Point)图像可以实现随机访问操作，并在出现错误时刷新视频。但是IRAP图像的功能是有成本的，因为帧内图像通常比P或B图像编码的比特数要多，对于具有固定内容的视频，对IRAP图像进行编码的相对成本非常高。为了解决这些问题，引入了DRAP(Dependent Random Access Point)图像。与依赖随机接入点指示SEI消息相关联的图像称为DRAP图像。DRAP图像的存在和属性可以通过依赖的RAP指示SEI消息(dependent RAP indication SEI message)来指示。在对DRAP图像进行随机访问时，必须先对相关的IRAP图像进行解码。DRAP图像可用于提高随机访问编码视频的压缩效率，特别是对于通常具有很多静态内容(包括屏幕共享和监控视频)的视频服务。
SEI message中payloadType为145表示Dependent random access pointindication SEI message，其语义如下
| dependent_rap_indication(payloadSize){ | Descriptor |
| } |
依赖随机接入点指示SEI消息被图像顺序和图像参考约束。这些约束可以使解码器正确地解码DRAP图像以及跟随DRAP的按照解码顺序和输出顺序图像，而无需解码除相关IRAP图像之外的任何其他图像。依赖随机接入点指示SEI消息的存在所指示的约束如下：1、DRAP图像应是一个TemporalId等于0且nuh_layer_id等于0的TRAIL_R图像。2、DRAP图像不应包括其RPS列表RefPicSetStCurrBefore、RefPicSetStCurrAfter和RefPicSetLtCurr中的任何图像，但相关的IRAP图像除外。3、任何按照解码顺序和输出顺序的跟随DRAP图像的图像，在其RPS中，不应包括按照解码顺序或输出顺序位于DRAP图像之前的任何图像，与DRAP图像相关的IRAP图像除外。
DRAP只能使用在其前面的IRAP图像作为参考，不能把到其后的图像当作参考图像，限制了随机访问的能力。
本申请通过在主位流的SEI message/extension_data中包含主位流图像对知识位流图像的参考关系信息，以解决如下技术问题：
1.为系统层例如fileformat/DASH/其他系统提供易于提取且精确的主位流图像与知识位流图像的参考关系信息，使得系统层能够描述主位流图像和知识位流图像之间的依赖关系，并完成主位流和知识位流的同步和拼接；
2.描述主位流中当前图像是否仅参考知识图像并支持随机访问；
本发明实施例简介：
实施例一：CRRSEImessage描述一个CVS中至少一个RL图像参考的知识图像的索引；
实施例二：序列级CRRSEImessage指导拼接主位流和知识图像位流的一种方法；
实施例三：序列级CRRSEImessage指导拼接主位流和知识图像位流的另一种方法；
实施例四：序列级CRRSEImessage指导拼接主位流和知识图像位流的又一种方法；
实施例五：CRRSEImessage描述一个CVS中至少一个图像参考的知识图像的索引，并标记该图像是否仅参考知识图像，即是否支持随机访问；
实施例六：CRRSEImessage描述一个图像参考的知识图像的索引，并标记该图像是否仅参考知识图像，即是否支持随机访问；
实施例七：CRRSEImessage在实施例六基础上添加主位流图像是否参考知识图像位流图像的标志位；
实施例八：图像级CRRSEImessage指导拼接主位流和知识图像位流的一种方法；
实施例九：图像级CRRSEImessage指导拼接主位流和知识图像位流的另一种方法；
实施例十：CRRSEImessage描述一个CVS中至少一个RL图像参考的知识图像的索引，并提供参考的知识图像的地址；
实施例十一：在实施例十基础上序列级CRRSEImessage指导拼接主位流和知识图像位流的一种方法；
实施例十二：CRRSEImessage为系统层提供信息；
实施例十三：CRRextension_data描述一个序列头到下一个序列头之间的至少一个RL图像参考的知识图像的索引；
实施例十四：序列级CRRextension_data指导拼接主位流和知识图像位流的一种方法；
实施例十五：序列级CRRextension_data指导拼接主位流和知识图像位流的另一种方法；
实施例十六：序列级CRRextension_data指导拼接主位流和知识图像位流的又一种方法；
实施例十七：CRRextension_data描述一个序列头到下一个序列头之间的至少一个图像参考的知识图像的索引，并标记该图像是否仅参考知识图像，即是否支持随机访问；
实施例十八：CRRextension_data描述一个图像参考的知识图像的索引，并标记该图像是否仅参考知识图像，即是否支持随机访问；
实施例十九：CRRextension_data在实施例十八基础上添加主位流图像是否参考知识图像位流图像的标志位；
实施例二十：图像级CRRextension_data指导拼接主位流和知识图像位流的一种方法；
实施例二十一：图像级CRRextension_data指导拼接主位流和知识图像位流的另一种方法；
实施例二十二：CRRextension_data描述一个序列头到下一个序列头之间的至少一个RL图像参考的知识图像的索引，并提供参考的知识图像的地址；
实施例二十三：在实施例二十二基础上序列级CRRextension_data指导拼接主位流和知识图像位流的一种方法；
实施例二十四：CRRextension_data为系统层提供信息。
本发明实施例一：
在AVC/HEVC/VVC/EVC的sei_rbsp()中的sei_message()的sei_payload()中增加一种新的Supplemental Enhancement Information(SEI)类别，即CrossRandom-access-pointReferencing(CRR)indication SEI message，payloadType定义为182，当payloadType为182时，即为CRRindicationSEI message，所述CRRindicationSEI message用于描述主位流中至少一个RL图像(该图像为支持随机访问的图像，即其所属的NALunit的nal_unit_type的值为IDR_W_RADL、IDR_N_LP、BLA_W_LP、BLA_W_RADL、BLA_N_LP、CRA_NUT中的至少一个)参考的知识位流图像的索引。所述CRRindicationSEImessage为prefixSEImessage，即CRRindicationSEImessage所属的NALunit的nal_unit_type的值为PREFIX_SEI_NUT。且覆盖范围为CVS中与CRRindicationSEI message中条目所指图像组成的图像集合。
其中语法元素的语义为：
crr_seq_parameter_set_id：用于描述当前SEImessage使用的sps在spsset中的编号，使得当前SEImessage能够获得一些sps设定的参数值，例如图像的POC的最大值MaxPicOrderCntLsb；
num_entries_in_crr_minus1：用于描述参考关系索引需要的条目总数。
crr_poc_delta[i]：用于推导第i个条目的entryPicOrderCnt[i]，即第i个条目指向的主位流图像的POC。其中，crr_poc_delta[i]的取值范围为(-MaxPicOrderCntLsb)/2+1～MaxPicOrderCntLsb/2-1.其中，entryPicOrderCnt[i]推导如下:
entryPicOrderCnt[0]＝PicOrderCnt(currPic)
for(i＝1；i<＝num_entries_in_crr_minus1；i++)
entryPicOrderCnt[i]＝entryPicOrderCnt[i-1]+crr_poc_delta[i]
其中，currPic表示当前SEImessage所属的accessunit对应的当前图像。
crr_lib_pid[i]：用于描述第i个条目指向的主位流图像参考的外部知识图像的索引编号。
编码器操作：
步骤1：逐个对第i个条目指向的主位流图像参考的外部知识图像的索引编号crr_lib_pid[i]赋值。
步骤2：逐个对第i个条目指向的主位流图像的POC crr_poc_delta[i]赋值。
步骤3：对参考关系索引需要的条目总数num_entries_in_crr_minus1赋值
步骤4：对sps设定的参数值crr_seq_parameter_set_id赋值。
步骤5：对payloadType赋值182。
步骤6：对NALunit的nal_unit_type赋值为PREFIX_SEI_NUT。
解码器操作：
步骤1：解码器解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤2：当所述NALunit类别为PREFIX_SEI_NUT时，解码器解析SEI message中的payloadType值以获取该SEI message的类别。
步骤3：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，解码器从所述CRRindicationSEI message中解析具体参数。
步骤4：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤5：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤6：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤7：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
本发明实施例一的技术效果
提供一种机制，在编码层的视频位流的SEI message中携带主位流图像与知识位流图像的参考关系信息，使得系统层能够获取主位流图像和知识位流图像之间的依赖关系信息，从而可以进行主位流和知识位流的同步和拼接，保障一个知识位流图像在其被主位流中图像参考之前即被准备好并放入解码图像缓冲区。
提供一种机制，使得系统层可以识别参考知识位流图像的主位流图像来支持随机访问。
本发明实施例二：
图28序列级CRRindicationSEI message指导拼接主位流与知识图像位流的一种方法
该实施例是描述在实施例一的基础上CRRindicationSEI message指导拼接主位流与知识图像位流的一种方法。其中，LS表示知识图像位流中的序列头，L表示知识图像，LE表示知识图像位流中的序列结束码；MS表示主位流序列头，SEI表示补充增强信息，RL表示仅使用知识图像作为参考图像进行帧间预测解码的P图像或B图像，B表示不参考知识图像的其它图像,ME表示主位流中的序列结束码。拼接过程：
步骤1：读取MSn及SEIn。
步骤2：解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤3：当所述NALunit类别为PREFIX_SEI_NUT时，解析SEI message中的payloadType值以获取该SEI message的类别。
步骤4：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，从所述CRRindicationSEI message中解析具体参数。
步骤5：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤6：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤7：循环操作，解析第i个crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC，解析第i个crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
步骤8：构建缓存列表，将上述所有crr_poc_delta[i]及crr_lib_pid[i]存入缓存列表，循环结束。
步骤9：读取主位流图像信息判断该主位流图像是否参考外部知识图像，如果该图像的poc减去SEI message后的第一个图像的poc等于crr_poc_delta，表示该图像参考外部知识图像，则根据缓存列表中所述参考的外部知识图像的索引编号，遍历所有知识图像位流序列头，定位到包含所述参考的外部知识图像的知识图像位流。其中，多个知识图像序列头中的知识图像的索引编号不重复。
步骤10：删除所述知识图像位流中可能存在的序列结束码。
步骤11：将所述删除序列结束码的所述知识图像位流拼接到依赖所述知识图像位流图像的主位流图像所属的主位流的序列头之前。
步骤12：遍历所有主位流图像，并重复步骤9～11，直到遇到下个序列头，删除步骤8构建的缓存列表，并回到步骤1，直到遇到主位流序列结束码ME，拼接操作结束。其中，如果主位流中的RL图像参考多个知识图像，一个主位流的序列头之前可以拼接多个知识图像位流。其中，一个知识图像位流可以为一个知识图像的位流。
SEI message可以从最终拼接得到位流中删除，而并不影响该位流的解码操作。后面相同。
本发明实施例三：
图29序列级CRRindicationSEI message指导拼接主位流与知识图像位流的另一种方法
与实施例二不同的是，主位流中的RL0、RL1同时参考知识图像位流的L0。此时，由于RL1参考的L0已经在缓存中，拼接过程与实施例二不同的是，步骤11无需重复拼接L0位流。
本发明实施例四：
图30序列级CRRindicationSEI message指导拼接主位流与知识图像位流的又一种方法
与实施例三不同的是，考虑发生随机访问的情况，解码器从主位流MS1开始解码后续位流。此时，由于主位流起点在MS1，拼接过程与实施例二不同的是，步骤11无需拼接MS0位流。
本发明实施例五：
与实施例一不同的是，CRRindicationSEI message用于描述主位流中至少一个图像(任意图像)参考的知识位流图像的索引。
其中语法元素的语义为：
crr_is_reference_to_lib_only[i]：用于描述第i个条目指向的主位流图像是否仅参考外部知识图像，当值为1时，第i个条目指向的主位流图像仅参考外部知识图像，此时，该图像可以被作为随机访问点，即该图像所属的NAL unit的nal_unit_type的值可以是IDR_W_RADL、IDR_N_LP、BLA_W_LP、BLA_W_RADL、BLA_N_LP、CRA_NUT中的至少一个，也可以是其他的NUT；当值为0时，第i个条目指向的主位流图像不仅参考外部知识图像，还参考短期参考图像，此时，该图像不能被作为随机访问点，即该图像所属的NAL unit的nal_unit_type的值不可以是IDR_W_RADL、IDR_N_LP、BLA_W_LP、BLA_W_RADL、BLA_N_LP、CRA_NUT。
编码器操作：
步骤1：逐个对第i个条目指向的主位流图像参考的外部知识图像的索引编号crr_lib_pid[i]赋值。
步骤2：逐个对第i个条目指向的主位流图像是否仅参考外部知识图像crr_is_reference_to_lib_only[i]赋值。
步骤3：逐个对第i个条目指向的主位流图像的POC crr_poc_delta[i]赋值。
步骤4：对描述参考关系索引需要的条目总数num_entries_in_crr_minus1赋值
步骤5：对sps设定的参数值crr_seq_parameter_set_id赋值。
步骤6：对payloadType赋值182。
步骤7：对NALunit的nal_unit_type赋值为PREFIX_SEI_NUT。
解码器操作：
步骤1：解码器解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤2：当所述NALunit类别为PREFIX_SEI_NUT时，解码器解析SEI message中的payloadType值以获取该SEI message的类别。
步骤3：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，解码器从所述CRRindicationSEI message中解析具体参数。
步骤4：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤5：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤6：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤7：逐个解析crr_is_reference_to_lib_only[i]以获取第i个条目指向的主位流图像是否仅参考外部知识图像。
步骤8：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
本发明实施例六：
与实施例五不同的是，CRRindicationSEI message用于描述主位流中一个图像(任意图像)参考的知识位流图像的索引，所述SEImessage的覆盖范围仅为该SEImessage所属的accessunit对应的主位流图像。
其中语法元素的语义为：
crr_is_reference_to_lib_only：用于描述当前SEImessage所属的accessunit对应的主位流图像是否仅参考外部知识图像，当值为1时，该主位流图像仅参考外部知识图像，此时，该图像可以被作为随机访问点，即该图像所属的NAL unit的nal_unit_type的值可以是IDR_W_RADL、IDR_N_LP、BLA_W_LP、BLA_W_RADL、BLA_N_LP、CRA_NUT中的至少一个，也可以是其他的NUT；当值为0时，该主位流图像不仅参考外部知识图像，还参考短期参考图像，此时，该图像不能被作为随机访问点，即该图像所属的NAL unit的nal_unit_type的值不可以是IDR_W_RADL、IDR_N_LP、BLA_W_LP、BLA_W_RADL、BLA_N_LP、CRA_NUT。
crr_lib_pid：用于描述当前SEImessage所属的accessunit对应的主位流图像参考的外部知识图像的索引编号。
编码器操作：
步骤1：对该主位流图像参考的外部知识图像的索引编号crr_lib_pid赋值。
步骤2：对该主位流图像是否仅参考外部知识图像crr_is_reference_to_lib_only赋值。
步骤3：对sps设定的参数值crr_seq_parameter_set_id赋值。
步骤4：对payloadType赋值182。
步骤5：对NALunit的nal_unit_type赋值为PREFIX_SEI_NUT。
解码器操作：
步骤1：解码器解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤2：当所述NALunit类别为PREFIX_SEI_NUT时，解码器解析SEI message中的payloadType值以获取该SEI message的类别。
步骤3：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，解码器从所述CRRindicationSEI message中解析具体参数。
步骤4：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤5：解析crr_is_reference_to_lib_only以获取该主位流图像是否仅参考外部知识图像。
步骤6：解析crr_lib_pid以获取该主位流图像参考的外部知识图像的索引编号。
本发明实施例七：
与实施例六不同的是，CRRindicationSEI message包含了一个crr_is_reference_to_lib_flag来判断当前SEImessage所属的accessunit对应的主位流图像是否参考外部知识图像。
其中语法元素的语义为：
crr_is_reference_to_lib_flag：用于描述当前SEImessage所属的accessunit对应的主位流图像是否参考外部知识图像，当值为1时，该主位流图像参考外部知识图像；当值为0时，该主位流图像不参考外部知识图像。
编码器操作：
步骤1：对该主位流图像参考的外部知识图像的索引编号crr_lib_pid赋值。
步骤2：对该主位流图像是否仅参考外部知识图像crr_is_reference_to_lib_only赋值。
步骤3：对sps设定的参数值crr_seq_parameter_set_id赋值。
步骤4：对该主位流图像是否参考外部知识图像crr_is_reference_to_lib_flag赋值。
步骤5：对payloadType赋值182。
步骤6：对NALunit的nal_unit_type赋值为PREFIX_SEI_NUT。
解码器操作：
步骤1：解码器解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤2：当所述NALunit类别为PREFIX_SEI_NUT时，解码器解析SEI message中的payloadType值以获取该SEI message的类别。
步骤3：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，解码器从所述CRRindicationSEI message中解析具体参数。
步骤4：解析crr_is_reference_to_lib_flag以获取该主位流图像是否参考外部知识图像。
步骤5：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤6：解析crr_is_reference_to_lib_only以获取该主位流图像是否仅参考外部知识图像。
步骤7：解析crr_lib_pid以获取该主位流图像参考的外部知识图像的索引编号。
本发明实施例八：
图31图像级CRRindicationSEI message指导拼接主位流与知识图像位流的一种方法
该实施例是描述在实施例七的基础上CRRindicationSEI message指导拼接主位流与知识图像位流的一种方法。其中，LS表示知识图像位流中的序列头，L表示知识图像，LE表示知识图像位流中的序列结束码；MS表示主位流序列头，RL_header仅使用知识图像作为参考图像进行帧间预测解码的P图像或B图像的头信息，SEI表示补充增强信息，RL_data表示仅使用知识图像作为参考图像进行帧间预测解码的P图像或B图像数据，B表示不参考知识图像的其它图像,ME表示主位流中的序列结束码。其中，RL包括RL_header和RL_data，在图12中，RL_header可以不存在(此时，RL包括RL_data)，RL_header可以位于SEI之前，或者SEI之后。拼接过程：
步骤1：读取MSn、RLn_header及SEIn。
步骤2：解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤3：当所述NALunit类别为PREFIX_SEI_NUT时，解析SEI message中的payloadType值以获取该SEI message的类别。
步骤4：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，从所述CRRindicationSEI message中解析具体参数。
步骤5：解析crr_is_reference_to_lib_flag以获取该主位流图像是否参考外部知识图像。
步骤6：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤7：解析crr_is_reference_to_lib_only以获取该主位流图像是否仅参考外部知识图像。
步骤8：解析crr_lib_pid以获取该主位流图像参考的外部知识图像的索引编号。
步骤9：构建缓存列表，将上述crr_is_reference_to_lib_flag及crr_lib_pid存入缓存列表。
步骤10：读取主位流图像，根据缓存列表中crr_is_reference_to_lib_flag值判断该图像是否参考外部知识图像，如果是，则根据缓存列表中所述参考的外部知识图像的索引编号，遍历所有知识图像位流序列头，定位到包含所述参考的外部知识图像的知识图像位流。
步骤11：删除所述知识图像位流中可能存在的序列结束码。
步骤12：将所述删除序列结束码的所述知识图像位流拼接到依赖所述知识图像位流图像的主位流图像所属的主位流的序列头之前。
步骤13：遍历所有主位流图像，并重复步骤10～12，直到遇到下个序列头，删除缓存中步骤9构建的缓存列表，并回到步骤1，直到遇到主位流序列结束码ME，拼接操作结束。
本发明实施例九：
该实施例是描述在实施例七的基础上CRRindicationSEI message指导拼接主位流与知识图像位流的另一种方法。如果一个序列中有多个RL图像同时参考同一个外部知识图像，则拼接过程与实施例八不同的是：步骤12增加对每个主位流图像参考的外部知识图像是否重复的判断，如果参考的知识图像重复，则在拼接码流时无需重复拼接。
本发明实施例十：
与实施例一不同的是，CRRindicationSEI message增加了描述主位流图像参考的知识图像位流的地址信息，便于系统层快速定位到所述知识图像位流。
其中语法元素的语义为：
crr_lib_stream_url[i]：用于描述第i个条目指向的主位流图像参考的外部知识图像所属的知识图像位流地址。crr_lib_stream_url[i]也可以独立于crr_lib_pid[i]单独存在。
编码器操作：
步骤1：逐个对第i个条目指向的主位流图像参考的外部知识图像的外部知识图像所属的知识图像位流地址crr_lib_stream_url[i]赋值。
步骤2：逐个对第i个条目指向的主位流图像参考的外部知识图像的索引编号crr_lib_pid[i]赋值。
步骤3：逐个对第i个条目指向的主位流图像的POC crr_poc_delta[i]赋值。
步骤4：对参考关系索引需要的条目总数num_entries_in_crr_minus1赋值
步骤5：对sps设定的参数值crr_seq_parameter_set_id赋值。
步骤6：对payloadType赋值182。
步骤7：对NALunit的nal_unit_type赋值为PREFIX_SEI_NUT。
解码器操作：
步骤1：解码器解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤2：当所述NALunit类别为PREFIX_SEI_NUT时，解码器解析SEI message中的payloadType值以获取该SEI message的类别。
步骤3：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，解码器从所述CRRindicationSEI message中解析具体参数。
步骤4：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤5：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤6：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤7：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
步骤8：逐个解析crr_lib_stream_url[i]以获取第i个条目指向的主位流图像参考的外部知识图像所属的知识图像位流地址。
本发明实施例十一：
该实施例是描述在实施例十的基础上序列级CRRSEImessage指导拼接主位流和知识图像位流的一种方法，与实施例二不同的是：所述序列级CRRSEImessage包含了主位流图像参考的外部知识图像所属的知识图像位流地址信息。拼接过程与实施例二不同的是：步骤9在定位包含所述参考的外部知识图像的知识图像位流时无需遍历所有知识图像位流，只需根据所述参考的外部知识图像所属的知识图像位流地址信息定位即可。
本发明实施例十二：
以SEI message实施例十为例，系统层操作：
步骤1：解析SEImessage所属的NALunit的nal_unit_type的值以获取NALunit类别。
步骤2：当所述NALunit类别为PREFIX_SEI_NUT时，解析SEI message中的payloadType值以获取该SEI message的类别。
步骤3：当所述payloadType为182时表示该SEI message为CRRindicationSEImessage，从所述CRRindicationSEI message中解析具体参数。
步骤4：解析crr_seq_parameter_set_id以获取一些sps设定的参数值。
步骤5：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤6：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤7：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
步骤8：逐个解析crr_lib_stream_url[i]以获取第i个条目指向的主位流图像参考的外部知识图像所属的知识图像位流地址。
步骤9：系统层根据所述知识图像位流地址定位到所述知识图像位流，逐个将第i个条目指向的主位流图像参考的外部知识图像打包，并将所述知识图像位流定位信息放入包头，将以完成主位流和知识图像位流的同步。
本发明实施例十三：
在AVS的extension_and_user_data()中的extension_data()的next_bits(4)中增加一种新的extension data(扩展数据)类别，即Cross Random-access-pointReferencing(CRR)extension_data，extension_id定义为1101，当extension_id为1101时，即为CRR extension_data，所述CRR extension_data用于描述主位流中至少一个RL图像参考的知识位流图像的索引。所述CRR extension_data为序列级的扩展数据，即CRRextension_data所属的extension_data(i)的i的值为0，且覆盖范围为一个序列头到下一个序列头之间的与CRR extension_data中条目所指图像相对应的图像集合。
| 大跨度参考图像扩展定义 | 描述符 |
| cross_random-access-point_referencing_extension(){ | |
| extension_id | f(4) |
| num_entries_in_crr_minus1 | u(3) |
| for(i＝0；i<num_entries_in_crr_minus1；i++){ | |
| crr_poc_delta[i] | ue(v) |
| crr_lib_pid[i] | u(6) |
| } | |
| next_start_code() | |
| } |
其中语法元素的语义为：
extension_id：用于描述当前扩展数据使用的类别在类别列表中的编号，如上表中的‘1101’，代表当前扩展数据的类别是大跨度参考图像的扩展。可选择任意在列表中没被占用的编号作为大跨度参考图像扩展的编号。
num_entries_in_crr_minus1：用于描述参考关系索引需要的条目总数。
crr_poc_delta[i]：用于推导第i个条目的entryPicOrderCnt[i]，即第i个条目指向的主位流图像的POC。其中，crr_poc_delta[i]的取值范围为(-MaxPicOrderCntLsb)/2+1～MaxPicOrderCntLsb/2-1.其中，entryPicOrderCnt[i]推导如下:
entryPicOrderCnt[0]＝PicOrderCnt(currPic)
for(i＝1；i<＝num_entries_in_crr_minus1；i++)
entryPicOrderCnt[i]＝entryPicOrderCnt[i-1]+crr_poc_delta[i]
其中，currPic表示当前SEImessage所属的accessunit对应的当前图像。
crr_lib_pid[i]：用于描述第i个条目指向的主位流图像参考的外部知识图像的索引编号。
编码器操作：
步骤1：逐个对第i个条目指向的主位流图像参考的外部知识图像的索引编号crr_lib_pid[i]赋值。
步骤2：逐个对第i个条目指向的主位流图像的POC crr_poc_delta[i]赋值。
步骤3：对参考关系索引需要的条目总数num_entries_in_crr_minus1赋值
步骤4：对extension_id赋值‘1101’。
解码器操作：
步骤1：解码器解析extension_data中的extension_id值以获取该extension_data的类别。
步骤2：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，解码器从所述CRR extension_data中解析具体参数。
步骤3：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤4：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤5：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
本发明实施例十四：
图32序列级CRRextension_data指导拼接主位流与知识图像位流的一种方法
该实施例是描述在实施例十三的基础上CRRextension_data指导拼接主位流与知识图像位流的一种方法。其中，LS表示知识图像位流中的序列头，L表示知识图像，LE表示知识图像位流中的序列结束码；MS表示主位流序列头，extension_data表示扩展数据，RL表示仅使用知识图像作为参考图像进行帧间预测解码的P图像或B图像，B表示不参考知识图像的其它图像,ME表示主位流中的序列结束码。拼接过程：
步骤1：读取MSn及extension_datan。
步骤2：解析extension_data中的extension_id值以获取该extension_data的类别。
步骤3：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，从所述CRR extension_data中解析具体参数。
步骤4：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤5：循环操作，解析第i个crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC，解析第i个crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
步骤6：构建缓存列表，将上述所有crr_poc_delta[i]及crr_lib_pid[i]存入缓存列表，循环结束。
步骤7：读取主位流图像信息判断该主位流图像是否参考外部知识图像，如果该图像的poc减去extension_data后的第一个图像的poc等于crr_poc_delta，表示该图像参考外部知识图像，则根据缓存列表中所述参考的外部知识图像的索引编号，遍历所有知识图像位流序列头，定位到包含所述参考的外部知识图像的知识图像位流。
步骤8：删除所述知识图像位流中可能存在的序列结束码。
步骤9：将所述删除序列结束码的所述知识图像位流拼接到依赖所述知识图像位流图像的主位流图像所属的主位流的序列头之前。
步骤10：遍历所有主位流图像，并重复步骤7～9，直到遇到下个序列头，删除步骤6构建的缓存列表，并回到步骤1，直到遇到主位流序列结束码ME，拼接操作结束。
本发明实施例十五：
图33序列级CRRextension_data指导拼接主位流与知识图像位流的另一种方法
与实施例十四不同的是，主位流中的RL0、RL1同时参考知识图像位流的L0。此时，由于RL1参考的L0已经在缓存中，拼接过程与实施例十四不同的是，步骤9无需重复拼接L0位流。
本发明实施例十六：
图34序列级CRRextension_data指导拼接主位流与知识图像位流的又一种方法
与实施例十五不同的是，主位流的起点为MS1。此时，由于主位流起点在MS1，拼接过程与实施例十四不同的是，步骤9无需拼接MS0位流。
本发明实施例十七：
与实施例十三不同的是，CRR extension_data用于描述主位流中至少一个图像(任意图像)参考的知识位流图像的索引。
| 大跨度参考图像扩展定义 | 描述符 |
| cross_random-access-point_referencing_extension(){ | |
| extension_id | f(4) |
| num_entries_in_crr_minus1 | u(3) |
| for(i＝0；i<num_entries_in_crr_minus1；i++){ | |
| crr_poc_delta[i] | ue(v) |
| crr_is_reference_to_lib_only[i] | u(1) |
| crr_lib_pid[i] | u(6) |
| } | |
| next_start_code() | |
| } |
其中语法元素的语义为：
crr_is_reference_to_lib_only[i]：用于描述第i个条目指向的主位流图像是否仅参考外部知识图像，当值为1时，第i个条目指向的主位流图像仅参考外部知识图像，此时，该图像可以被作为随机访问点；当值为0时，第i个条目指向的主位流图像不仅参考外部知识图像，还参考短期参考图像，此时，该图像不能被作为随机访问点。
编码器操作：
步骤1：逐个对第i个条目指向的主位流图像参考的外部知识图像的索引编号crr_lib_pid[i]赋值。
步骤2：逐个对第i个条目指向的主位流图像是否仅参考外部知识图像crr_is_reference_to_lib_only[i]赋值。
步骤3：逐个对第i个条目指向的主位流图像的POC crr_poc_delta[i]赋值。
步骤4：对参考关系索引需要的条目总数num_entries_in_crr_minus1赋值
步骤5：对extension_id赋值‘1101’。
解码器操作：
步骤1：解码器解析extension_data中的extension_id值以获取该extension_data的类别。
步骤2：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，解码器从所述CRR extension_data中解析具体参数。
步骤3：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤4：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤5：逐个解析crr_is_reference_to_lib_only[i]以获取第i个条目指向的主位流图像是否仅参考外部知识图像。
步骤6：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
本发明实施例十八：
与实施例十七不同的是，CRR extension_data用于描述主位流中一个图像(任意图像)参考的知识位流图像的索引，所述extension_data的覆盖范围仅为该extension_data所对应的主位流图像。
| 扩展数据定义 | 描述符 |
| extension_data(i){ | |
| while(next_bits(32)＝＝extension_start_code){ | |
| extension_start_code | f(32) |
| if(i＝＝0){/*序列头之后*/ | |
| } | |
| else{/*图像头之后*/ | |
| if(next_bits(4)＝＝'0100')/*版权扩展*/ | |
| copyright_extension() | |
| ... | |
| else if(next_bits(4)＝＝'1101')/*大跨度参考图像扩展*/ | |
| cross_random-access-point_referencing_extension() | |
| else{ | |
| while(next_bits(24)！＝'0000 0000 0000 0000 0000 0001') | |
| reserved_extension_data_byte | u(8) |
| } | |
| } | |
| } | |
| } |
其中语法元素的语义为：
crr_is_reference_to_lib_only：用于描述当前extension_data所对应的主位流图像是否仅参考外部知识图像，当值为1时，该主位流图像仅参考外部知识图像，此时，该图像可以被作为随机访问点；当值为0时，该主位流图像不仅参考外部知识图像，还参考短期参考图像，此时，该图像不能被作为随机访问点。
crr_lib_pid：用于描述当前extension_data所对应的主位流图像参考的外部知识图像的索引编号。
编码器操作：
步骤1：对该主位流图像参考的外部知识图像的索引编号crr_lib_pid赋值。
步骤2：对该主位流图像是否仅参考外部知识图像crr_is_reference_to_lib_only赋值。
步骤3：对extension_id赋值‘1101’。
解码器操作：
步骤1：解码器解析extension_data中的extension_id值以获取该extension_data的类别。
步骤2：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，解码器从所述CRR extension_data中解析具体参数。
步骤3：解析crr_is_reference_to_lib_only以获取该主位流图像是否仅参考外部知识图像。
步骤4：解析crr_lib_pid以获取该主位流图像参考的外部知识图像的索引编号。
本发明实施例十九：
与实施例十八不同的是，CRR extension_data包含了一个crr_is_reference_to_lib_flag来判断当前CRR extension_data所对应的主位流图像是否参考外部知识图像。
| 大跨度参考图像扩展定义 | 描述符 |
| cross_random-access-point_referencing_extension(){ | |
| extension_id | f(4) |
| crr_is_reference_to_lib_flag | u(1) |
| if(crr_is_reference_to_lib_flag){ | |
| crr_is_reference_to_lib_only | u(1) |
| crr_lib_pid | u(6) |
| } | |
| next_start_code() | |
| } |
其中语法元素的语义为：
crr_is_reference_to_lib_flag：用于描述当前extension_data所对应的主位流图像是否参考外部知识图像，当值为1时，该主位流图像参考外部知识图像；当值为0时，该主位流图像不参考外部知识图像。
编码器操作：
步骤1：对该主位流图像参考的外部知识图像的索引编号crr_lib_pid赋值。
步骤2：对该主位流图像是否仅参考外部知识图像crr_is_reference_to_lib_only赋值。
步骤3：对该主位流图像是否参考外部知识图像crr_is_reference_to_lib_flag赋值。
步骤4：对extension_id赋值‘1101’。
解码器操作：
步骤1：解码器解析extension_data中的extension_id值以获取该extension_data的类别。
步骤2：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，解码器从所述CRR extension_data中解析具体参数。
步骤3：解析crr_is_reference_to_lib_flag以获取该主位流图像是否参考外部知识图像。
步骤4：解析crr_is_reference_to_lib_only以获取该主位流图像是否仅参考外部知识图像。
步骤5：解析crr_lib_pid以获取该主位流图像参考的外部知识图像的索引编号。
本发明实施例二十：
图35图像级CRRextension_data指导拼接主位流与知识图像位流的一种方法
该实施例是描述在实施例十九的基础上CRRextension_data指导拼接主位流与知识图像位流的一种方法。其中，LS表示知识图像位流中的序列头，L表示知识图像，LE表示知识图像位流中的序列结束码；MS表示主位流序列头，RL_header仅使用知识图像作为参考图像进行帧间预测解码的P图像或B图像的头信息，extension_data表示扩展数据，RL_data表示仅使用知识图像作为参考图像进行帧间预测解码的P图像或B图像数据，B表示不参考知识图像的其它图像,ME表示主位流中的序列结束码。拼接过程：
步骤1：读取MSn、RLn_header及extension_datan。
步骤2：解析extension_data中的extension_id值以获取该extension_data的类别。
步骤3：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，从所述CRR extension_data中解析具体参数。
步骤4：解析crr_is_reference_to_lib_flag以获取该主位流图像是否参考外部知识图像。
步骤5：解析crr_is_reference_to_lib_only以获取该主位流图像是否仅参考外部知识图像。
步骤6：解析crr_lib_pid以获取该主位流图像参考的外部知识图像的索引编号。
步骤7：构建缓存列表，将上述crr_is_reference_to_lib_flag及crr_lib_pid存入缓存列表。
步骤8：读取主位流图像，根据缓存列表中crr_is_reference_to_lib_flag值判断该图像是否参考外部知识图像，如果是，则根据缓存列表中所述参考的外部知识图像的索引编号，遍历所有知识图像位流序列头，定位到包含所述参考的外部知识图像的知识图像位流。
步骤9：删除所述知识图像位流中可能存在的序列结束码。
步骤10：将所述删除序列结束码的所述知识图像位流拼接到依赖所述知识图像位流图像的主位流图像所属的主位流的序列头之前。
步骤11：遍历所有主位流图像，并重复步骤8～10，直到遇到下个序列头，删除缓存中步骤7构建的缓存列表，并回到步骤1，直到遇到主位流序列结束码ME，拼接操作结束。
本发明实施例二十一：
该实施例是描述在实施例十九的基础上CRRextension_data指导拼接主位流与知识图像位流的另一种方法。如果一个序列中有多个RL图像同时参考同一个外部知识图像，则拼接码流的操作过程与实施例二十不同的是：步骤10增加对每个主位流图像参考的外部知识图像是否重复的判断，如果参考的知识图像重复，则在拼接码流时无需重复拼接。
本发明实施例二十二：
与实施例十三不同的是，CRR extension_data增加了描述主位流图像参考的知识图像位流的地址信息，便于系统层快速定位到所述知识图像位流。
| 大跨度参考图像扩展定义 | 描述符 |
| cross_random-access-point_referencing_extension(){ | |
| extension_id | f(4) |
| num_entries_in_crr_minus1 | u(3) |
| for(i＝0；i<num_entries_in_crr_minus1；i++){ | |
| crr_poc_delta[i] | ue(v) |
| crr_lib_pid[i] | u(6) |
| crr_lib_stream_url[i] | se(v) |
| } | |
| next_start_code() | |
| } |
其中语法元素的语义为：
crr_lib_stream_url[i]：用于描述第i个条目指向的主位流图像参考的外部知识图像所属的知识图像位流地址。
编码器操作：
步骤1：逐个对第i个条目指向的主位流图像参考的外部知识图像的外部知识图像所属的知识图像位流地址crr_lib_stream_url[i]赋值。
步骤2：逐个对第i个条目指向的主位流图像参考的外部知识图像的索引编号crr_lib_pid[i]赋值。
步骤3：逐个对第i个条目指向的主位流图像的POC crr_poc_delta[i]赋值。
步骤4：对参考关系索引需要的条目总数num_entries_in_crr_minus1赋值
步骤5：对extension_id赋值‘1101’。
解码器操作：
步骤1：解码器解析extension_data中的extension_id值以获取该extension_data的类别。
步骤2：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，解码器从所述CRR extension_data中解析具体参数。
步骤3：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤4：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤5：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
步骤6：逐个解析crr_lib_stream_url[i]以获取第i个条目指向的主位流图像参考的外部知识图像所属的知识图像位流地址。
本发明实施例二十三：
该实施例是描述在实施例二十二的基础上序列级CRR extension_data指导拼接主位流和知识图像位流的一种方法，与实施例十四不同的是：所述序列级CRR extension_data包含了主位流图像参考的外部知识图像所属的知识图像位流地址信息。拼接过程与实施例十四不同的是：步骤7在定位包含所述参考的外部知识图像的知识图像位流时无需遍历所有知识图像位流，只需根据所述参考的外部知识图像所属的知识图像位流地址信息定位即可。
本发明实施例二十四：
以extension_data实施例二十二为例，系统层操作：
步骤1：解析extension_data中的extension_id值以获取该extension_data的类别。
步骤2：当所述extension_id值为‘1101’时表示该extension_data为CRRextension_data，从所述CRR extension_data中解析具体参数。
步骤3：解析num_entries_in_crr_minus1以获取参考关系索引需要的条目总数。
步骤4：逐个解析crr_poc_delta[i]以获取第i个条目指向的主位流图像的POC。
步骤5：逐个解析crr_lib_pid[i]以获取第i个条目指向的主位流图像参考的外部知识图像的索引编号。
步骤6：逐个解析crr_lib_stream_url[i]以获取第i个条目指向的主位流图像参考的外部知识图像所属的知识图像位流地址。
步骤7：系统层根据所述知识图像位流地址定位到所述知识图像位流，逐个将第i个条目指向的主位流图像参考的外部知识图像打包，并将所述知识图像位流定位信息放入包头，将以完成主位流和知识图像位流的同步。
本申请通过在主位流的SEI message/extension_data中包含主位流图像对知识位流图像的参考关系信息，带来的有益效果有：
1.为系统层例如fileformat/DASH/其他系统提供易于提取且精确的主位流图像与知识位流图像的参考关系信息，使得系统层能够描述主位流图像和知识位流图像之间的依赖关系，并完成主位流和知识图像位流的同步和拼接；
2.描述主位流中当前图像是否仅参考知识图像并支持随机访问；
3.在支持随机访问的同时能提高视频的压缩效率。
本申请实施例的描述也可以如下：
1.一种解析主位流图像对知识位流图像的参考关系的方法，其特征在于，所述方法包括：
解码器提取补充增强信息中的主位流图像参考的外部知识位流图像的定位信息。
根据所述定位信息定位知识图像。
2.根据权利要求1所述方法，所述方法还包括：
如果主位流图像被标记为仅参考外部知识位流图像的图像，解码器提取所述标志位，此时，所述主位流图像可以被作为随机访问点；
如果所述主位流图像被标记为非仅参考外部知识位流图像的图像，即所述主位流图像不仅参考外部知识图像，还参考短期参考图像，解码器提取所述标志位，此时，所述主位流图像不能被作为随机访问点。
3.根据权利要求1所述方法，所述方法还包括：
定位知识图像的方法包括：
所述定位信息为主位流图像参考的外部知识位流图像的索引编号时，遍历所有所述被参考的知识图像位流；
所述定位信息为主位流图像参考的外部知识位流图像的地址信息时，根据所述地址信息定位所述被参考的知识图像位流；
4.根据权利要求1所述方法，所述方法还包括：
所述定位信息指导主位流与知识图像位流拼接。
5.根据权利要求1所述方法，所述方法还包括：
如果存在不止一个所述主位流图像，解码器提取每个所述主位流图像POC和所述主位流图像参考关系索引需要的条目总数。
6.根据权利要求1所述方法，所述方法还包括：
解码器提取补充增强信息的编号信息，确定所述补充增强信息的类别。
7.一种编码主位流图像对知识位流图像的参考关系的方法，其特征在于，所述方法包括：
编码器在补充增强信息中写入主位流图像参考的外部知识位流图像的定位信息。
8.根据权利要求7所述方法，所述方法还包括：
系统层把所述被参考的外部知识位流图像打包并把所述定位信息写入媒体描述信息。
基于与上述方法相同的发明构思，本发明实施例还提供了一种设备1000，该设备1000包括XX模块1001、XX模块1002、XX模块1003和XX模块1004，其中：
需要说明的是，上述XXX模块1001、XX模块1002、XX模块1003和XX模块1004可应用于编码端或解码端的帧间预测过程。具体的，在编码端，这些模块可应用于前述编码器20的预测处理单元260中的帧间预测单元244；在解码端，这些模块可应用于前述解码器30的预测处理单元360中的帧间预测单元344。
还需要说明的是，XX模块1001、XX模块1002、XX模块1003和XX模块1004的具体实现过程可参考图11、图12、图14实施例的详细描述，为了说明书的简洁，这里不再赘述。
本申请实施例的描述还可以如下：
1.一种图像预测的方法，其特征在于，所述方法包括：
获取补充增强信息中的当前主位流图像参考的目标知识位流图像的定位信息。
根据所述定位信息，从知识位流中获取所述目标知识位流图像；
根据所述目标知识位流图像，预测得到所述当前主位流图像的预测图像。
2、根据权利要求1所述的方法，其特征在于，所述补充增强信息还包括所述当前主位流图像的指示信息，所述指示信息用于指示所述当前主位流图像。
3、根据权利要求2所述的方法，其特征在于，所述补充增强层还包括外部知识信息，所述外部指示信息用于指示所述当前主位流图像的预测依赖于知识位流中的知识图像。
4、根据权利要求2所述的方法，其特征在于，所述指示信息还用于指示所述当前主位流图像的预测依赖于知识位流中的知识图像。
5.根据权利要求1至4任一项所述方法，所述补充增强信息还包括仅参考知识位流标识，所述仅参考知识位流标识的值用于指示所述当前主位流图像的预测是否仅依赖于知识位流中的知识图像，在所述当前主位流图像的预测仅依赖于知识位流中的知识图像时，所述当前主位流图像为随机访问点。
6、根据权利要求5所述的方法，所述仅参考知识位流标识的值仅用于指示所述当前主位流图像是否仅依赖于知识位流中的知识图像；或者，所述仅参考知识位流标识的数量为至少两个，所述仅参考知识位流标识的值用于指示所述当前主位流图像所在的一组主位流图像的预测是否仅依赖于知识位流中的知识图像，所述一组主位流图像包括至少两个主位流图像。
7、根据权利要求1至6任一项所述的方法，其特征在于，所述定位信息包括所述目标知识位流图像的索引编号和所述目标知识位流图像的地址信息中的至少一项。
8.根据权利要求1至7任一项所述方法，所述方法还包括：
根据所述定位信息，拼接所述知识图像位流和所述当前主位流图像对应的主位流。
9.根据权利要求1至7任一项所述方法，所述补充增强信息包括所述当前主位流图像所在的一组主位流图像的指示信息，所述一组主位流图像包括至少两个主位流图像，所述补充增强信息包括所述一组主位流图像所参考的包括目标知识位流图像在内的知识位流图像的定位信息。
10、根据权利要求9所述的方法，其特征在于，所述所述补充增强信息还包括所述一组主位流图像的图像个数。
11、根据权利要求1至10任一项所述的方法，其特征在于，所述获取补充增强信息中的当前主位流图像参考的目标知识位流图像的定位信息包括：
获取所述补充增强信息的类别信息；
在所述类别信息用于指示所述补充增强层包括所述当前主位流图像对应的主位流与所述知识图像位流的预测依赖关系信息时，获取补充增强信息中的当前主位流图像参考的目标知识位流图像的定位信息。
本领域技术人员能够领会，结合本文公开描述的各种说明性逻辑框、模块和算法步骤所描述的功能可以硬件、软件、固件或其任何组合来实施。如果以软件来实施，那么各种说明性逻辑框、模块、和步骤描述的功能可作为一或多个指令或代码在计算机可读媒体上存储或传输，且由基于硬件的处理单元执行。计算机可读媒体可包含计算机可读存储媒体，其对应于有形媒体，例如数据存储媒体，或包括任何促进将计算机程序从一处传送到另一处的媒体(例如，根据通信协议)的通信媒体。以此方式，计算机可读媒体大体上可对应于(1)非暂时性的有形计算机可读存储媒体，或(2)通信媒体，例如信号或载波。数据存储媒体可为可由一或多个计算机或一或多个处理器存取以检索用于实施本申请中描述的技术的指令、代码和/或数据结构的任何可用媒体。计算机程序产品可包含计算机可读媒体。
作为实例而非限制，此类计算机可读存储媒体可包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置、快闪存储器或可用来存储指令或数据结构的形式的所要程序代码并且可由计算机存取的任何其它媒体。并且，任何连接被恰当地称作计算机可读媒体。举例来说，如果使用同轴缆线、光纤缆线、双绞线、数字订户线(DSL)或例如红外线、无线电和微波等无线技术从网站、服务器或其它远程源传输指令，那么同轴缆线、光纤缆线、双绞线、DSL或例如红外线、无线电和微波等无线技术包含在媒体的定义中。但是，应理解，所述计算机可读存储媒体和数据存储媒体并不包括连接、载波、信号或其它暂时媒体，而是实际上针对于非暂时性有形存储媒体。如本文中所使用，磁盘和光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)和蓝光光盘，其中磁盘通常以磁性方式再现数据，而光盘利用激光以光学方式再现数据。以上各项的组合也应包含在计算机可读媒体的范围内。
可通过例如一或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)或其它等效集成或离散逻辑电路等一或多个处理器来执行指令。因此，如本文中所使用的术语“处理器”可指前述结构或适合于实施本文中所描述的技术的任一其它结构中的任一者。另外，在一些方面中，本文中所描述的各种说明性逻辑框、模块、和步骤所描述的功能可以提供于经配置以用于编码和解码的专用硬件和/或软件模块内，或者并入在组合编解码器中。而且，所述技术可完全实施于一或多个电路或逻辑元件中。
本申请的技术可在各种各样的装置或设备中实施，包含无线手持机、集成电路(IC)或一组IC(例如，芯片组)。本申请中描述各种组件、模块或单元是为了强调用于执行所揭示的技术的装置的功能方面，但未必需要由不同硬件单元实现。实际上，如上文所描述，各种单元可结合合适的软件和/或固件组合在编码解码器硬件单元中，或者通过互操作硬件单元(包含如上文所描述的一或多个处理器)来提供。
在上述实施例中，对各个实施例的描述各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
本领域技术人员能够领会，结合本文公开描述的各种说明性逻辑框、模块和算法步骤所描述的功能可以硬件、软件、固件或其任何组合来实施。如果以软件来实施，那么各种说明性逻辑框、模块、和步骤描述的功能可作为一或多个指令或代码在计算机可读媒体上存储或传输，且由基于硬件的处理单元执行。计算机可读媒体可包含计算机可读存储媒体，其对应于有形媒体，例如数据存储媒体，或包括任何促进将计算机程序从一处传送到另一处的媒体(例如，根据通信协议)的通信媒体。以此方式，计算机可读媒体大体上可对应于(1)非暂时性的有形计算机可读存储媒体，或(2)通信媒体，例如信号或载波。数据存储媒体可为可由一或多个计算机或一或多个处理器存取以检索用于实施本申请中描述的技术的指令、代码和/或数据结构的任何可用媒体。计算机程序产品可包含计算机可读媒体。
作为实例而非限制，此类计算机可读存储媒体可包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置、快闪存储器或可用来存储指令或数据结构的形式的所要程序代码并且可由计算机存取的任何其它媒体。并且，任何连接被恰当地称作计算机可读媒体。举例来说，如果使用同轴缆线、光纤缆线、双绞线、数字订户线(DSL)或例如红外线、无线电和微波等无线技术从网站、服务器或其它远程源传输指令，那么同轴缆线、光纤缆线、双绞线、DSL或例如红外线、无线电和微波等无线技术包含在媒体的定义中。但是，应理解，所述计算机可读存储媒体和数据存储媒体并不包括连接、载波、信号或其它暂时媒体，而是实际上针对于非暂时性有形存储媒体。如本文中所使用，磁盘和光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)和蓝光光盘，其中磁盘通常以磁性方式再现数据，而光盘利用激光以光学方式再现数据。以上各项的组合也应包含在计算机可读媒体的范围内。
可通过例如一或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)或其它等效集成或离散逻辑电路等一或多个处理器来执行指令。因此，如本文中所使用的术语“处理器”可指前述结构或适合于实施本文中所描述的技术的任一其它结构中的任一者。另外，在一些方面中，本文中所描述的各种说明性逻辑框、模块、和步骤所描述的功能可以提供于经配置以用于编码和解码的专用硬件和/或软件模块内，或者并入在组合编解码器中。而且，所述技术可完全实施于一或多个电路或逻辑元件中。
本申请的技术可在各种各样的装置或设备中实施，包含无线手持机、集成电路(IC)或一组IC(例如，芯片组)。本申请中描述各种组件、模块或单元是为了强调用于执行所揭示的技术的装置的功能方面，但未必需要由不同硬件单元实现。实际上，如上文所描述，各种单元可结合合适的软件和/或固件组合在编码解码器硬件单元中，或者通过互操作硬件单元(包含如上文所描述的一或多个处理器)来提供。
在上述实施例中，对各个实施例的描述各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
以上所述，仅为本申请示例性的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应该以权利要求的保护范围为准。
Claims (80)
1.一种视频解码的方法，其特征在于，所述方法包括：
获取待解码的主位流，所述主位流包括用于解码得到主位流图像的数据；
从所述用于解码得到主位流图像的数据中，解析得到目标信息中的参考关系信息，所述参考关系信息用于指示主位流图像与知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据；
根据所述参考关系信息获取目标知识位流图像，所述目标知识位流图像用于解码得到所述主位流图像。
2.根据权利要求1所述的方法，其特征在于，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
3.根据权利要求1所述的方法，其特征在于，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
4.根据权利要求3所述的方法，其特征在于，所述定位信息包括所述目标知识位流图像的索引。
5.根据权利要求1至4任一项所述的方法，其特征在于，所述根据所述参考关系信息获取目标知识位流图像，包括：
根据所述参考关系信息，从知识位流中解码出所述目标知识位流图像，所述知识位流不同于所述主位流。
6.根据权利要求1所述的方法，其特征在于，所述获取待解码的主位流之后，所述方法还包括：
解析所述目标信息中的类别标识，所述类别标识用于指示所述主位流的目标信息的类别；
若所述类别标识指示所述主位流的目标信息的类别为目标类别，获取所述主位流的目标信息中的参考关系信息。
7.根据权利要求6所述的方法，其特征在于，所述获取所述主位流的目标信息中的参考关系信息，包括：
解析所述目标信息中的定位标识，得到一个主位流图像所参考的知识位流图像的定位信息；
将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息。
8.根据权利要求7所述的方法，其特征在于，所述解析所述目标信息中的定位标识之前，所述方法还包括：
解析所述目标信息中的第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像；
若所述第一参考标识指示所述主位流图像仅参考知识位流图像，解析所述目标信息中的定位标识。
9.根据权利要求8所述的方法，其特征在于，所述解析所述目标信息中的第一参考标识之后，所述方法还包括：
若所述第一参考标识指示所述主位流图像仅参考知识位流图像，将所述主位流图像作为随机访问点。
10.根据权利要求8或9所述的方法，其特征在于，所述解析所述目标信息中的第一参考标识之前，还包括：
解析所述目标信息中的第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像；
若所述第二参考标识指示所述主位流图像参考知识位流图像，解析所述目标信息中的第一参考标识。
11.根据权利要求6所述的方法，其特征在于，所述获取所述主位流的目标信息中的参考关系信息，包括：
解析所述目标信息中的条目标识得到条目数量，所述条目数量包括两个或多个，每个条目指向一个主位流图像；
对于任一条目，基于所述条目数量解析所述条目对应的图像序列标识，得到所述条目指向的主位流图像的图像序列号，所述图像序列号用于指示所述条目指向的主位流图像；
对于任一条目，解析所述条目对应的定位标识，得到所述条目指向的主位流图像所参考的知识位流图像的定位信息；
将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息。
12.根据权利要求11所述的方法，其特征在于，所述解析所述条目对应的定位标识之前，所述方法还包括：
对于任一条目，解析所述条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像；
若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，解析所述条目对应的定位标识。
13.根据权利要求12所述的方法，其特征在于，所述对于任一条目，解析所述条目对应的第一参考标识之后，所述方法还包括：
对于任一条目，若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，将所述条目指向的主位流图像作为随机访问点。
14.根据权利要求12或13所述的方法，其特征在于，所述解析所述条目对应的第一参考标识之前，所述方法还包括：
对于任一条目，解析所述条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像；
若所述第二参考标识指示所述条目指向的主位流图像参考知识位流图像，解析所述条目对应的第一参考标识。
15.根据权利要求6所述的方法，其特征在于，若所述主位流的目标信息包括扩展数据，所述获取所述主位流的目标信息中的参考关系信息，包括：
解析所述扩展数据中的定位标识，得到一个或多个主位流图像所参考的知识位流图像的定位信息；
将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息。
16.根据权利要求8、9、11、12、13、15任一所述的方法，其特征在于，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
17.根据权利要求1-4、6、7、8、9、11、12、13、15任一所述的方法，其特征在于，若所述主位流的目标信息包括补充增强信息，所述获取所述主位流的目标信息中的参考关系信息之前，所述方法还包括：
解析所述补充增强信息中的参数集标识，得到所述补充增强信息所使用的序列参数集；
根据所述序列参数集获取目标参数，所述目标参数用于获取所述主位流的补充增强信息中的参考关系信息。
18.根据权利要求1-4、6、7、8、9、11、12、13、15任一所述的方法，其特征在于，所述根据所述参考关系信息获取目标知识位流图像之后，所述方法还包括：
拼接所述主位流图像以及所述目标知识位流图像得到目标位流；
通过解码器解码所述目标位流，完成视频解码。
19.根据权利要求18所述的方法，其特征在于，所述拼接所述主位流图像以及所述目标知识位流图像得到目标位流，包括：
对于任一目标知识位流图像，删除目标知识位流图像对应的序列结束码，得到第一目标知识位流图像；
将所述第一目标知识位流图像拼接在参考所述第一目标知识位流图像的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
20.根据权利要求19所述的方法，其特征在于，所述将所述第一目标知识位流图像拼接在参考所述第一目标知识位流图像的主位流图像的序列头之前，包括：
若参考所述第一目标知识位流图像的主位流图像的数量包括两个或多个，仅将所述第一目标知识位流图像拼接在顺序编号的数值最小的主位流图像的序列头之前，所述顺序编号的数值用于指示所述主位流图像在所述主位流中的顺序。
21.根据权利要求18所述的方法，其特征在于，所述拼接所述主位流图像以及所述目标知识位流图像得到目标位流，包括：
获取所述主位流图像中满足条件的主位流图像；
删除所述满足条件的主位流图像所参考的目标知识位流图像的序列结束码，得到第二目标知识位流图像；
将所述第二目标知识位流图像拼接在所述满足条件的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
22.根据权利要求18所述的方法，其特征在于，所述拼接所述主位流图像以及所述目标知识位流图像得到目标位流之后，所述方法还包括：
从所述目标位流中删除所述参考关系信息，得到更新后的目标位流；
所述通过解码器解码所述目标位流，完成视频解码，包括：
通过所述解码器解码所述更新后的目标位流，完成视频解码。
23.根据权利要求7、8、9、11、12、13、15任一所述的方法，其特征在于，所述根据所述参考关系信息获取目标知识位流图像之后，所述方法还包括：
通过文件存储所述主位流与所述知识位流图像。
24.一种视频编码方法，其特征在于，所述方法包括：
参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
生成参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系；
根据所述主位流图像的编码数据及所述参考关系信息生成主位流，其中，主位流中的目标信息包括所述参考关系信息，所述目标信息包括补充增强信息或者扩展数据。
25.根据权利要求24所述的方法，其特征在于，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
26.根据权利要求24或25所述的方法，其特征在于，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的目标知识位流图像。
27.根据权利要求26所述的方法，其特征在于，所述定位信息包括所述目标知识位流图像的索引。
28.根据权利要求24所述的方法，其特征在于，所述根据所述主位流图像的编码数据及所述参考关系信息生成主位流之后，所述方法还包括：
在所述目标信息中添加类别标识，所述类别标识用于指示所述目标信息的类别。
29.根据权利要求24或28所述的方法，其特征在于，所述生成参考关系信息，包括：
获取一个主位流图像所参考的知识位流图像的定位信息，将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息；
所述根据所述主位流图像的编码数据及所述参考关系信息生成主位流，包括：
在所述目标信息中添加定位标识，得到待解码的主位流，所述定位标识包括一个主位流图像所参考的知识位流图像的定位信息。
30.根据权利要求29所述的方法，其特征在于，所述在所述目标信息中添加定位标识之后，所述方法还包括：
在所述目标信息中添加第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像。
31.根据权利要求30所述的方法，其特征在于，所述在所述目标信息中添加第一参考标识之后，所述方法还包括：
在所述目标信息中添加第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像。
32.根据权利要求24或25所述的方法，其特征在于，所述生成参考关系信息，包括：
获取两个或多个主位流图像所参考的知识位流图像的定位信息，将每个主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息；
所述根据所述主位流图像的编码数据及所述参考关系信息生成主位流，包括：
在所述目标信息中添加条目对应的定位标识，每个条目指向一个主位流图像，每个条目对应的定位标识包括所述条目指向的主位流图像所参考的知识位流图像的定位信息；
在所述目标信息中添加条目对应的图像序列标识，每个条目对应的图像序列标识包括所述条目指向的主位流图像的图像序列号；
在所述目标信息中添加条目标识，所述条目标识用于指示条目数量。
33.根据权利要求32所述的方法，其特征在于，所述在所述目标信息中添加条目对应的图像序列标识之前，所述方法还包括：
在所述目标信息中添加每个条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像。
34.根据权利要求33所述的方法，其特征在于，所述在所述目标信息中添加每个条目对应的第一参考标识之后，所述方法还包括：
在所述目标信息中添加每个条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像。
35.根据权利要求29所述的方法，其特征在于，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
36.根据权利要求24、25、27、28、30、31、33、34、35任一所述的方法，其特征在于，若所述目标信息包括补充增强信息，所述根据所述主位流图像的编码数据及所述参考关系信息生成主位流之后，所述方法还包括：
在所述补充增强信息中添加参数集标识，所述参数集标识包括所述补充增强信息所使用的序列参数集。
37.一种视频解码装置，其特征在于，所述装置包括：
第一获取模块，用于获取待解码的主位流，所述主位流包括用于解码得到主位流图像的数据；
第二获取模块，用于从所述用于解码得到主位流图像的数据中，解析得到目标信息中的参考关系信息，所述参考关系信息用于指示主位流图像与知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据；
第三获取模块，用于根据所述参考关系信息获取目标知识位流图像，所述目标知识位流图像用于解码得到所述主位流图像。
38.根据权利要求37所述的装置，其特征在于，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
39.根据权利要求37所述的装置，其特征在于，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的所述目标知识位流图像。
40.根据权利要求39所述的装置，其特征在于，所述定位信息包括所述目标知识位流图像的索引。
41.根据权利要求37至40任一项所述的装置，其特征在于，所述第三获取模块，用于根据所述参考关系信息，从知识位流中解码出所述目标知识位流图像，所述知识位流不同于所述主位流。
42.根据权利要求37所述的装置，其特征在于，所述装置还包括：
第一解析模块，用于解析所述目标信息中的类别标识，所述类别标识用于指示所述主位流的目标信息的类别；若所述类别标识指示所述主位流的目标信息的类别为目标类别，获取所述主位流的目标信息中的参考关系信息。
43.根据权利要求42所述的装置，其特征在于，所述第二获取模块，用于解析所述目标信息中的定位标识，得到一个主位流图像所参考的知识位流图像的定位信息；将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息。
44.根据权利要求43所述的装置，其特征在于，所述装置还包括：第二解析模块，用于解析所述目标信息中的第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像；若所述第一参考标识指示所述主位流图像仅参考知识位流图像，解析所述目标信息中的定位标识。
45.根据权利要求44所述的装置，其特征在于，所述第二解析模块，还用于若所述第一参考标识指示所述主位流图像仅参考知识位流图像，将所述主位流图像作为随机访问点。
46.根据权利要求44或45所述的装置，其特征在于，所述装置还包括：第三解析模块，用于解析所述目标信息中的第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像；若所述第二参考标识指示所述主位流图像参考知识位流图像，解析所述目标信息中的第一参考标识。
47.根据权利要求42所述的装置，其特征在于，所述第二获取模块，用于解析所述目标信息中的条目标识得到条目数量，所述条目数量包括两个或多个，每个条目指向一个主位流图像；对于任一条目，基于所述条目数量解析所述条目对应的图像序列标识，得到所述条目指向的主位流图像的图像序列号，所述图像序列号用于指示所述主位流图像；对于任一条目，解析所述条目对应的定位标识，得到所述条目指向的主位流图像所参考的知识位流图像的定位信息；将每个条目指向的主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息。
48.根据权利要求47所述的装置，其特征在于，所述装置还包括：第四解析模块，用于对于任一条目，解析所述条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像；若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，解析所述条目对应的定位标识。
49.根据权利要求48所述的装置，其特征在于，所述第四解析模块，还用于对于任一条目，若所述第一参考标识指示所述条目指向的主位流图像仅参考知识位流图像，将所述条目指向的主位流图像作为随机访问点。
50.根据权利要求48或49所述的装置，其特征在于，所述装置还包括：第五解析模块，用于对于任一条目，解析所述条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像；若所述第二参考标识指示所述条目指向的主位流图像参考知识位流图像，解析所述条目对应的第一参考标识。
51.根据权利要求39、40、42、43、44、45、47、48、49任一所述的装置，其特征在于，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
52.根据权利要求37、38、39、40、42、43、44、45、47、48、49任一所述的装置，其特征在于，若所述主位流的目标信息包括补充增强信息，所述装置还包括：第五解析模块，用于解析所述补充增强信息中的参数集标识，得到所述补充增强信息所使用的序列参数集；根据所述序列参数集获取目标参数，所述目标参数用于获取所述主位流的补充增强信息中的参考关系信息。
53.根据权利要求37、38、39、40、42、43、44、45、47、48、49任一所述的装置，其特征在于，所述装置还包括：拼接模块，用于拼接所述主位流图像以及所述目标知识位流图像得到目标位流；通过解码器解码所述目标位流，完成视频解码。
54.根据权利要求53所述的装置，其特征在于，所述拼接模块，用于对于任一目标知识位流图像，删除目标知识位流图像对应的序列结束码，得到第一目标知识位流图像；将所述第一目标知识位流图像拼接在参考所述第一目标知识位流图像的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
55.根据权利要求54所述的装置，其特征在于，所述拼接模块，用于若参考所述第一目标知识位流图像的主位流图像的数量包括两个或多个，仅将所述第一目标知识位流图像拼接在顺序编号的数值最小的主位流图像的序列头之前，所述顺序编号的数值用于指示所述主位流图像在所述主位流中的顺序。
56.根据权利要求53所述的装置，其特征在于，所述拼接模块，用于获取所述主位流图像中满足条件的主位流图像；删除所述满足条件的主位流图像所参考的目标知识位流图像的序列结束码，得到第二目标知识位流图像；将所述第二目标知识位流图像拼接在所述满足条件的主位流图像的序列头之前，得到拼接位流，将所述拼接位流作为所述目标位流。
57.根据权利要求53所述的装置，其特征在于，所述装置还包括：删除模块，用于从所述目标位流中删除所述参考关系信息，得到更新后的目标位流；
所述拼接模块，用于通过所述解码器解码所述更新后的目标位流，完成视频解码。
58.一种视频编码装置，其特征在于，所述装置包括：
第一获取模块，用于获取编码后的视频数据，所述编码后的视频数据用于解码得到视频图像；
第二获取模块，用于获取所述视频图像的参考关系信息，所述参考关系信息用于指示所述视频图像与知识位流图像之间的参考关系；
第三获取模块，用于基于所述编码后的视频数据的目标信息以及所述参考关系信息获取待解码的主位流，所述目标信息包括补充增强信息或者扩展数据。
59.根据权利要求58所述的装置，其特征在于，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
60.根据权利要求58或59所述的装置，其特征在于，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的目标知识位流图像。
61.根据权利要求60所述的装置，其特征在于，所述定位信息包括所述目标知识位流图像的索引。
62.根据权利要求58所述的装置，其特征在于，所述装置还包括：第一添加模块，用于在所述目标信息中添加类别标识，所述类别标识用于指示所述目标信息的类别。
63.根据权利要求58或62所述的装置，其特征在于，所述第二获取模块，用于获取一个主位流图像所参考的知识位流图像的定位信息，将所述主位流图像所参考的知识位流图像的定位信息作为所述参考关系信息；
所述第三获取模块，用于在所述目标信息中添加定位标识，得到所述待解码的主位流，所述定位标识包括一个主位流图像所参考的知识位流图像的定位信息。
64.根据权利要求63所述的装置，其特征在于，所述装置还包括：第二添加模块，用于在所述目标信息中添加第一参考标识，所述第一参考标识用于指示所述主位流图像是否仅参考知识位流图像。
65.根据权利要求64所述的装置，其特征在于，所述装置还包括：第三添加模块，用于在所述目标信息中添加第二参考标识，所述第二参考标识用于指示所述主位流图像是否参考知识位流图像。
66.根据权利要求58或59所述的装置，其特征在于，所述第二获取模块，用于获取两个或多个主位流图像所参考的知识位流图像的定位信息，将每个主位流图像所参考的知识位流图像的定位信息均作为所述参考关系信息；
所述第三获取模块，用于在所述目标信息中添加条目对应的定位标识，每个条目指向一个主位流图像，每个条目对应的定位标识包括所述条目指向的主位流图像所参考的知识位流图像的定位信息；在所述目标信息中添加条目对应的图像序列标识，每个条目对应的图像序列标识包括所述条目指向的主位流图像的图像序列号；在所述目标信息中添加条目标识，所述条目标识用于指示条目数量。
67.根据权利要求66所述的装置，其特征在于，所述装置还包括：第四添加模块，用于在所述目标信息中添加每个条目对应的第一参考标识，所述第一参考标识用于指示所述条目指向的主位流图像是否仅参考知识位流图像。
68.根据权利要求67所述的装置，其特征在于，所述装置还包括：第五添加模块，用于在所述目标信息中添加每个条目对应的第二参考标识，所述第二参考标识用于指示所述条目指向的主位流图像是否参考知识位流图像。
69.根据权利要求63所述的装置，其特征在于，所述主位流图像所参考的知识位流图像的定位信息包括：所述主位流图像所参考的知识位流图像的地址信息、所述主位流图像所参考的知识位流图像的索引信息所组成的群组中的至少一种。
70.根据权利要求58、59、61、62、64、65、67、68、69任一所述的装置，其特征在于，若所述目标信息包括补充增强信息，所述装置还包括：第六添加模块，用于在所述补充增强信息中添加参数集标识，所述参数集标识包括所述补充增强信息所使用的序列参数集。
71.一种视频编码方法，其特征在于，所述方法包括：
参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
根据所述主位流图像的编码数据生成主位流，其中，主位流中的目标信息包括参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据。
72.根据权利要求71所述的方法，其特征在于，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
73.根据权利要求71或72所述的方法，其特征在于，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的目标知识位流图像。
74.根据权利要求73所述的方法，其特征在于，所述定位信息包括所述目标知识位流图像的索引。
75.一种视频编码装置，其特征在于，所述装置包括：
编码模块，用于参考知识位流图像对主位流图像进行编码，得到主位流图像的编码数据；
生成模块，用于根据所述主位流图像的编码数据生成主位流，其中，主位流中的目标信息包括参考关系信息，所述参考关系信息用于指示所述主位流图像与所述知识位流图像之间的参考关系，所述目标信息包括补充增强信息或者扩展数据。
76.根据权利要求75所述的装置，其特征在于，所述目标信息包括所述目标信息的类别标识，所述类别标识的值用于指示所述目标信息中包括所述参考关系信息。
77.根据权利要求75或76所述的装置，其特征在于，所述参考关系信息包括定位信息，所述定位信息用于定位所述主位流图像所参考的目标知识位流图像。
78.根据权利要求77所述的装置，其特征在于，所述定位信息包括所述目标知识位流图像的索引。
79.一种视频编解码设备，其特征在于，所述设备包括存储器及处理器；所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行，以实现权利要求1-36或71-74中任一所述的方法。
80.一种计算机可读存储介质，其特征在于，所述存储介质中存储有至少一条指令，所述指令由处理器加载并执行以实现权利要求1-36或71-74中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/CN2020/070685 WO2020156054A1 (zh) | 2019-02-03 | 2020-01-07 | 视频解码方法、视频编码方法、装置、设备及存储介质 |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2019101094719 | 2019-02-03 | ||
| CN201910109471 | 2019-02-03 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111526368A CN111526368A (zh) | 2020-08-11 |
| CN111526368B true CN111526368B (zh) | 2021-09-03 |
Family
ID=71900352
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910503066.5A Active CN111526368B (zh) | 2019-02-03 | 2019-06-11 | 视频解码方法、视频编码方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111526368B (zh) |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114173127A (zh) * | 2020-08-23 | 2022-03-11 | 腾讯科技（深圳）有限公司 | 视频处理方法、装置、设备及存储介质 |
| US12041386B2 (en) | 2020-09-29 | 2024-07-16 | Lemon Inc. | Dependent random access point indication in video bitstreams |
| JP2024500550A (ja) * | 2020-12-28 | 2024-01-09 | 北京字節跳動網絡技術有限公司 | ランダムアクセスポイントサンプルエントリの信号通知 |
| CN117337568A (zh) * | 2021-03-26 | 2024-01-02 | 抖音视界有限公司 | 用于视频处理的方法、设备和介质 |
| CN115396678A (zh) * | 2021-05-24 | 2022-11-25 | 腾讯科技（深圳）有限公司 | 多媒体资源中轨道数据的处理方法、装置、介质及设备 |
| CN113347424B (zh) * | 2021-05-27 | 2022-08-05 | 上海国茂数字技术有限公司 | 视频编码数据存储方法、装置及可读存储介质 |
| CN113973210B (zh) * | 2021-10-25 | 2022-09-20 | 腾讯科技（深圳）有限公司 | 媒体文件封装方法、装置、设备及存储介质 |
| CN115842922A (zh) * | 2021-11-06 | 2023-03-24 | 中兴通讯股份有限公司 | 视频比特流封装、解码、访问方法及装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104768011A (zh) * | 2015-03-31 | 2015-07-08 | 浙江大学 | 图像编解码方法和相关装置 |
| CN104904202A (zh) * | 2012-09-28 | 2015-09-09 | 三星电子株式会社 | 用于使用参考画面信息进行并行视频编码的方法和设备以及用于使用参考画面信息进行并行视频解码的方法和设备 |
| CN107113422A (zh) * | 2015-11-06 | 2017-08-29 | 微软技术许可有限责任公司 | 用于视频编码和解码的灵活的参考图片管理 |
| CN108243339A (zh) * | 2016-12-27 | 2018-07-03 | 浙江大学 | 图像编解码方法及装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140086328A1 (en) * | 2012-09-25 | 2014-03-27 | Qualcomm Incorporated | Scalable video coding in hevc |
-
2019
- 2019-06-11 CN CN201910503066.5A patent/CN111526368B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104904202A (zh) * | 2012-09-28 | 2015-09-09 | 三星电子株式会社 | 用于使用参考画面信息进行并行视频编码的方法和设备以及用于使用参考画面信息进行并行视频解码的方法和设备 |
| CN104768011A (zh) * | 2015-03-31 | 2015-07-08 | 浙江大学 | 图像编解码方法和相关装置 |
| CN107113422A (zh) * | 2015-11-06 | 2017-08-29 | 微软技术许可有限责任公司 | 用于视频编码和解码的灵活的参考图片管理 |
| CN108243339A (zh) * | 2016-12-27 | 2018-07-03 | 浙江大学 | 图像编解码方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111526368A (zh) | 2020-08-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| AU2019356644B2 (en) | Inter prediction method and apparatus | |
| CN111526368B (zh) | 视频解码方法、视频编码方法、装置、设备及存储介质 | |
| KR102704764B1 (ko) | 이미지 예측 방법 및 디바이스 | |
| CN111416976B (zh) | 视频解码方法、视频编码方法、装置、设备及存储介质 | |
| CN111277828B (zh) | 视频编解码方法、视频编码器和视频解码器 | |
| CN111416981B (zh) | 视频图像解码、编码方法及装置 | |
| CN112055200A (zh) | Mpm列表构建方法、色度块的帧内预测模式获取方法及装置 | |
| US20230336725A1 (en) | Video encoder, video decoder, and corresponding method | |
| CN113366850B (zh) | 视频编码器、视频解码器及相应方法 | |
| CN111432219B (zh) | 一种帧间预测方法及装置 | |
| WO2020156054A1 (zh) | 视频解码方法、视频编码方法、装置、设备及存储介质 | |
| CN111435989B (zh) | 视频编码、解码方法、装置及计算机存储介质 | |
| CN111294603B (zh) | 视频编解码方法及装置 | |
| CN111277840B (zh) | 变换方法、反变换方法以及视频编码器和视频解码器 | |
| CN113316939A (zh) | 一种标志位的上下文建模方法及装置 | |
| CN112135149A (zh) | 语法元素的熵编码/解码方法、装置以及编解码器 | |
| CN111372086A (zh) | 视频图像解码方法及装置 | |
| CN113615191B (zh) | 图像显示顺序的确定方法、装置和视频编解码设备 | |
| CN111726630A (zh) | 基于三角预测单元模式的处理方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20220126 Address after: 310058 Yuhang Tang Road, Xihu District, Hangzhou, Zhejiang 866 Patentee after: ZHEJIANG University Patentee after: HUAWEI Technologies Ltd Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen Patentee before: HUAWEI TECHNOLOGIES Co.,Ltd. |
|
| TR01 | Transfer of patent right |