CN111491168A

CN111491168A - 视频编解码方法、解码器、编码器和相关设备

Info

Publication number: CN111491168A
Application number: CN201910088252.7A
Authority: CN
Inventors: 周川; 金慕淳
Original assignee: Huawei Technologies Co Ltd; Korea Advanced Institute of Science and Technology KAIST
Current assignee: Huawei Technologies Co Ltd; Huawei Software Technologies Co Ltd; Korea Advanced Institute of Science and Technology KAIST
Priority date: 2019-01-29
Filing date: 2019-01-29
Publication date: 2020-08-04

Abstract

本申请公开了视频编解码技术领域中的视频编解码方法、解码器、编码器和相关设备。该视频解码方法包括：解码基础层码流，以获取视频的第一图像，视频的第一图像为普通动态范围SDR的图像；对视频的第一图像进行重构处理，以获取视频的第二图像，视频的第二图像为高动态范围HDR的图像；解码增强层码流，以获取残差；将残差与视频的第二图像进行叠加，以获取视频的目标图像。本申请实施例的技术方案能够实现视频的HDR图像的可伸缩视频编码。

Description

视频编解码方法、解码器、编码器和相关设备

技术领域

本申请涉及视频编解码技术领域，并且更具体地，涉及一种视频编解码方法、视频解码器、视频编码器以及相关设备。

背景技术

可伸缩视频编码(scalable video coding,SVC)是视频编码的一种，该技术把视频信号编码成分层的形式，当带宽不足时只对基本层的码流进行传输和解码，此时解码的视频质量不高。当带宽慢慢变大时，可以传输和解码增强层的码流从而提高视频的解码质量。

目前，SVC编码方式支持对普通动态范围(standard dynamic range，SDR)图像的视频进行编码，但是对于高动态范围(high dynamic range，HDR)图像，由于HDR图像相比SDR图像可以提供更多的动态范围和图像色彩，即HDR图像的像素精度高于SDR图像的像素精度。因此，对于HDR图像编码时码率的要求要高于SDR图像编码。现有的SVC编码方式不会区分视频的内容类型，采用统一的编码方式。因此，如何实现HDR图像的SVC编码，成为一项亟待解决的技术问题。

发明内容

本申请提供一种视频解码方法、视频编码方法及视频解码器和视频编码器，以实现视频的HDR图像的可伸缩视频编码。

第一方面，提供了一种视频解码方法，包括：解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；解码增强层码流，以获取残差；将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

应理解，基础层码流可以是使解码器完全正常解码出的基本视频内容，但是基础层的数据存在帧率较低，分辨率较低，或者质量较低等问题。增强层码流可以提高帧率，或分辨率，或视频质量。

本申请中，通过解码基本层码流获得视频的SDR图像，将视频的SDR图像进行重构处理获得视频重构的HDR图像，进一步将的视频重构的HDR图像与解码增强层码流获得的残差进行叠加，获得视频的目标图像，从而现实解码视频的HDR图像的可伸缩编码的码流。

可选地，视频的第一图像可以为通过视频的HDR图像经过降低分辨率和像素精度处理后获取的视频的SDR图像。

结合第一方面，在第一方面的某些实现方式中，所述对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，包括：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

在本申请中，可以对视频的第一图像即视频的SDR图像通过提升分辨率和像素精度的处理，获得视频的重构HDR图像，进一步将视频的重构HDR图像与残差进行叠加获得视频的目标图像，从而获得高视频质量的视频。

结合第一方面，在第一方面的某些实现方式中，所述对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像，包括：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

在本申请中，通过深度神经网络对视频的第一图像即视频的SDR图像进行提升分辨率和像素精度的处理，能够将视频的分辨率提升两倍，提高视频的重构HDR图像的质量。

结合第一方面，在第一方面的某些实现方式中，所述方法还包括：解复用码流，以获取所述基础层码流和所述增强层码流，其中，所述基础层码流为所述视频的第一图像对应的码流，所述增强层码流为所述残差对应的码流。

在本申请中，通过解复用码流能够将码流分解成基础层码流和一个或多个增强层码流，能够有效的解决输出码流的不灵活性问题，可以适应多种不同信道，从而提高解码效率。

结合第一方面，在第一方面的某些实现方式中，所述方法还包括：输出所述视频的目标图像。

在本申请中，可以根据显示设备支持的分辨率要求输出高分辨率和像素精度的视频的目标图像，即视频的HDR图像，从而能够提高显示设备上的视频质量。

可选地，所述方法还包括：输出所述视频的第一图像。

也就是说，在本申请中可以根据显示设备支持的不同分辨率输出不同像素精度的视频的图像。

第二方面，提供了一种视频编码方法，包括：对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；根据所述视频的第二图像与所述视频的HDR图像确定残差；对所述残差进行增强层编码，以获取增强层码流；将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

本申请中，通过对视频的SDR图像进行基础层编码，获得基础层码流；再通过视频的SDR图像进行重构处理，获得视频的重构HDR图像，确定视频的重构HDR图像与视频的HDR图像的残差，进一步对残差进行增强层编码，获得增强层码流，从而能够实现视频的HDR图像的可伸缩视频编码。

应理解，本申请中视频的第一图像(视频的SDR图像)为将原始视频的图像(视频的HDR图像)通过降低分辨率和像素精度从而获得的SDR图像。

结合第二方面，在第二方面的某些实现方式中，所述对视频的第一图像进行基础层编码之前，所述方法还包括：对所述视频的HDR图像进行下采样处理和色调映射处理，以获取所述视频的第一图像。

在本申请中，通过对原始视频，即视频的HDR图像进行降低分辨率和像素精度的处理，得到视频的SDR图像，从而对视频的SDR图像进行基础层编码，从而降低对编码码率的要求。

结合第二方面，在第二方面的某些实现方式中，所述对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，包括：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

在本申请中，可以对视频的第一图像即视频的SDR图像通过提升分辨率和像素精度的处理，获得视频的重构HDR图像，进一步将视频的重构HDR图像与原始视频的HDR间的残差进行增强层编码，从而实现视频的HDR图像的可伸缩编码。

结合第二方面，在第二方面的某些实现方式中，所述对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像，包括：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

结合第二方面，在第二方面的某些实现方式中，所述根据所述视频的第二图像与所述视频的HDR图像确定残差，包括：根据所述视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。

第三方面，提供一种视频解码器，包括：至少一个存储器；耦合到所述至少一个存储器的至少一个处理器，所述至少一个处理器配置为：解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；解码增强层码流，以获取残差；将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

结合第三方面，在第三方面的某些实现方式中，所述至少一个处理器配置为：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

结合第三方面，在第三方面的某些实现方式中，所述至少一个处理器配置为：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

结合第三方面，在第三方面的某些实现方式中，所述至少一个处理器配置为：解复用码流，以获取所述基础层码流和所述增强层码流，其中，所述基础层码流为所述视频的第一图像对应的码流，所述增强层码流为所述残差对应的码流。

结合第三方面，在第三方面的某些实现方式中，所述至少一个处理器配置为：输出所述视频的目标图像。

可选地，存储器为非易失性存储器。

第四方面，提供一种视频编码器，包括：至少一个存储器；耦合到所述至少一个存储器的至少一个处理器，所述至少一个处理器配置为：对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；根据所述视频的第二图像与所述视频的HDR图像确定残差；对所述残差进行增强层编码，以获取增强层码流；将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

结合第四方面，在第四方面的某些实现方式中，所述至少一个处理器配置为：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

结合第四方面，在第四方面的某些实现方式中，所述至少一个处理器配置为：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

结合第四方面，在第四方面的某些实现方式中，所述至少一个处理器配置为：根据所述视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。

结合第四方面，在第四方面的某些实现方式中，所述至少一个处理器配置为：对所述视频的HDR图像进行下采样处理和色调映射处理，以获取所述视频的第一图像。

可选地，存储器为非易失性存储器。

第五方面，提供一种视频解码器，包括：处理单元，用于解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；重构单元，用于对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；所述处理单元，还用于解码增强层码流，以获取残差；将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

结合第五方面，在第五方面的某些实现方式中，所述处理单元具体用于：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

结合第五方面，在第五方面的某些实现方式中，所述处理单元具体用于：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

结合第五方面，在第五方面的某些实现方式中，所述处理单元还用于：解复用码流，以获取所述基础层码流和所述增强层码流，其中，所述基础层码流为所述视频的第一图像对应的码流，所述增强层码流为所述残差对应的码流。

结合第五方面，在第五方面的某些实现方式中，所述处理单元还用于：输出所述视频的目标图像。

第六方面，提供一种视频编码器，包括：处理单元，用于对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；重构单元，用于对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；所述处理单元，还用于根据所述视频的第二图像与所述视频的HDR图像确定残差；对所述残差进行增强层编码，以获取增强层码流；将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

结合第六方面，在第六方面的某些实现方式中，所述重构单元具体用于：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

结合第六方面，在第六方面的某些实现方式中，所述重构单元具体用于：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

结合第六方面，在第六方面的某些实现方式中，所述处理单元具体用于：根据所述视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。

结合第六方面，在第六方面的某些实现方式中，所述处理单元还用于：对所述视频的HDR图像进行下采样处理和色调映射处理，以获取所述视频的第一图像。

第七方面，提供一种计算机可读存储介质，所述计算机可读存储介质存储了程序代码，其中，所述程序代码包括用于执行第一方面或者第一方面中任意一种实现方式中的方法的部分或全部步骤的指令。

第八方面，提供一种计算机可读存储介质，所述计算机可读存储介质存储了程序代码，其中，所述程序代码包括用于执行第二方面或者第二方面中任意一种实现方式中的方法的部分或全部步骤的指令。

第九方面，提供一种计算机程序产品，当所述计算机程序产品在计算机上运行时，使得所述计算机执行第一方面或者第一方面中的任意一种实现方式中的方法的部分或全部步骤的指令。

第十方面，提供一种计算机程序产品，当所述计算机程序产品在计算机上运行时，使得所述计算机执行第二方面或者第二方面中的任意一种实现方式中的方法的部分或全部步骤的指令。

第十一方面，提供了一种电子设备，包括上述一个或多个视频编码器，或者，包括上述一个或多个视频解码器。

附图说明

图1是用于实现本申请实施例的视频编码系统实例的框图；

图2是用于实现本申请实施例的视频编码器实例结构的框图；

图3是于实现本申请实施例的视频解码器实例结构的框图；

图4示出了包含图2的编码器20和图3的解码器30的实例结构的框图；

图5示出了另一种编码装置或解码装置实例的框图；

图6示出了本申请实施例的应用场景的示意图；

图7是本申请实施例的视频解码方法的示意性流程图；

图8是本申请实施例的视频解码方法的示意性流程图；

图9是本申请实施例的深度卷积神经网络的示意性结构图；

图10是本申请实施例中训练深度卷积神经网络的输入参数的示意性流程图；

图11是本申请实施例的视频编码方法的示意性流程图；

图12是本申请实施例的视频编码方法的示意性流程图；

图13是本申请实施例的视频解码器的示意性框图；

图14是本申请实施例的视频编码器的示意性框图；

图15是本申请实施例的视频解码器的示意性框图；

图16是本申请实施例的视频编码器的示意性框图。

具体实施方式

下面将结合附图，对本申请中的技术方案进行描述。

在以下描述中，参考形成本公开一部分并以说明之方式示出本申请实施例的具体方面或可使用本申请实施例的具体方面的附图。应理解，本申请实施例可在其它方面中使用，并可包括附图中未描绘的结构或逻辑变化。因此，以下详细描述不应以限制性的意义来理解，且本申请的范围由所附权利要求书界定。

例如，应理解，结合所描述方法的揭示内容可以同样适用于用于执行所述方法的对应设备或系统，且反之亦然。例如，如果描述一个或多个具体方法步骤，则对应的设备可以包含如功能单元等一个或多个单元，来执行所描述的一个或多个方法步骤(例如，一个单元执行一个或多个步骤，或多个单元，其中每个都执行多个步骤中的一个或多个)，即使附图中未明确描述或说明这种一个或多个单元。另一方面，例如，如果基于如功能单元等一个或多个单元描述具体装置，则对应的方法可以包含一个步骤来执行一个或多个单元的功能性(例如，一个步骤执行一个或多个单元的功能性，或多个步骤，其中每个执行多个单元中一个或多个单元的功能性)，即使附图中未明确描述或说明这种一个或多个步骤。进一步，应理解的是，除非另外明确提出，本文中所描述的各示例性实施例和/或方面的特征可以相互组合。

视频编码通常是指处理形成视频或视频序列的图片序列。在视频编码领域，术语“图片(picture)”、“帧(frame)”或“图像(image)”可以用作同义词。本申请(或本公开)中使用的视频编码表示视频编码或视频解码。视频编码在源侧执行，通常包括处理(例如，通过压缩)原始视频图片以减少表示该视频图片所需的数据量(从而更高效地存储和/或传输)。视频解码在目的地侧执行，通常包括相对于编码器作逆处理，以重构视频图片。实施例涉及的视频图片(或总称为图片，下文将进行解释)“编码”应理解为涉及视频序列的“编码”或“解码”。编码部分和解码部分的组合也称为编解码(编码和解码)。

为了方便理解本申请的实施例，下面将与本申请相关的术语进行简要说明。

1、可伸缩视频编码(scalable video coding，SVC)

可伸缩视频编码(Scalable Video Coding,SVC)是视频编码的一种，该技术把视频信号编码成分层的形式，当带宽不足时只对基本层的码流进行传输和解码，但这时解码的视频质量不高。当带宽慢慢变大时，可以传输和解码增强层的码流来提高视频的解码质量。

所谓分层编码，就是在时间，空间，质量上进行划分，输出多层码流(包括基本层和增强层)，其中基本层的数据可以使解码器完全正常的解码出基本视频内容，但是基本层的数据获得的视频图像可能帧率较低、分辨率较低或者质量较低。在信道受限或信道环境复杂时，可以保证解码端能够接收到可以观看的流畅视频图像。当信道环境良好或信道资源丰富时，可以传递增强层数据，以提高帧率，或分辨率，或视频质量。而增强层是可以多层编码的，这就意味着，在视频码流总码率的范围内，接收到的码率越大，视频质量越好。相对于原来的视频编码标准，一次编码后的视频码流就固定了，对于不同的终端应用，需要对同一内容多次编码，可伸缩视频编码有效的解决了之前编码标准输出码流的不灵活性，一次编码，可以适应多种不同信道。

SVC可扩展视频编码，分层可扩展的维度包括：

(1)时间上，即对帧率的提升；

(2)空间上，即对分辨率进行提升；

(3)视频质量上，对编码的量化参数等进行调整，达到不同编码质量。

2、色调映射

色调映射技术(Tone Mapping)可以指用来实现将高动态范围图像(high dynamicrange image，HDR)源信号转换到普通动态范围(standard dynamic range，SDR)源信号的技术。其中，SDR视频通常采用8bit像素精度的Main profile(配置文件)，HDR视频通常采用支持10bit像素精度的Main profile(配置文件)，色调映射可以是指从10bit的像素精度映射到8bit。

3、反向色调映射

反向色调映射技术可以是指用来实现将SDR源信号转换到HDR源信号的技术。例如，可以是从8bit的像素精度映射到10bit。

4、下采样

下采样技术可以用于使得图像符合现实区域的大小以及生成对应图像的缩略图。即下采样技术可以是指将图像的分辨率的降低，例如，从4K视频降低到1080p的视频，像素点的总数降低到四分之一。

5、上采样

上采样技术可以用于将原图像放大，从而可以显示在更高分辨率的显示设备上。

为了方便理解本申请的实施例，下面结合图1至4描述编码器20、解码器30和编码解码系统10、编码解码系统40的实施例，对视频编解码的过程进行简要说明。

图1示例性地示出编码系统10的概念性或示意性框图。

例如，可以利用本申请(本公开)技术的视频编码系统10。视频编码系统10的编码器20(例如，视频编码器20)和解码器30(例如，视频解码器30)表示可用于根据本申请中描述的各种实例执行用于视频编码或视频解码方法的技术的设备实例。

如图1中所示，编码系统10包括源设备12，用于向例如解码经编码数据13的目的地设备14提供经编码数据13，例如，经编码图片13。

源设备12包括编码器20，另外亦即可选地，可以包括图片源16，例如图片预处理器18的预处理，以及通信接口或通信单元22。

图片源16，可以包括或可以为任何类别的图片捕获设备，用于例如捕获现实世界图片，和/或任何类别的图片或评论(对于屏幕内容编码，屏幕上的一些文字也认为是待编码的图片或图像的一部分)生成设备，例如，用于生成计算机动画图片的计算机图形处理器，或用于获取和/或提供现实世界图片、计算机动画图片(例如，屏幕内容、虚拟现实(virtual reality，VR)图片)的任何类别设备，和/或其任何组合(例如，实景(augmentedreality，AR)图片)。图片源16可以为用于捕获图片的相机或者用于存储图片的存储器，图片源16还可以包括存储先前捕获或产生的图片和/或获取或接收图片的任何类别的(内部或外部)接口。当图片源16为相机时，图片源16可例如为本地的或集成在源设备中的集成相机；当图片源16为存储器时，图片源16可为本地的或例如集成在源设备中的集成存储器。当所述图片源16包括接口时，接口可例如为从外部视频源接收图片的外部接口，外部视频源例如为外部图片捕获设备，比如相机、外部存储器或外部图片生成设备，外部图片生成设备例如为外部计算机图形处理器、计算机或服务器。接口可以为根据任何专有或标准化接口协议的任何类别的接口，例如有线或无线接口、光接口。

其中，图片可以视为像素点(picture element)的二维阵列或矩阵。阵列中的像素点也可以称为采样点。阵列或图片在水平和垂直方向(或轴线)上的采样点数目定义图片的尺寸和/或分辨率。为了表示颜色，通常采用三个颜色分量，即图片可以表示为或包含三个采样阵列。例如在RBG格式或颜色空间中，图片包括对应的红色、绿色及蓝色采样阵列。但是，在视频编码中，每个像素通常以亮度/色度格式或颜色空间表示，例如对于YUV格式的图片，包括Y指示的亮度分量(有时也可以用L指示)以及U和V指示的两个色度分量。亮度(luma)分量Y表示亮度或灰度水平强度(例如，在灰度等级图片中两者相同)，而两个色度(chroma)分量U和V表示色度或颜色信息分量。相应地，YUV格式的图片包括亮度采样值(Y)的亮度采样阵列，和色度值(U和V)的两个色度采样阵列。RGB格式的图片可以转换或变换为YUV格式，反之亦然，该过程也称为色彩变换或转换。如果图片是黑白的，该图片可以只包括亮度采样阵列。

图片源16(例如，视频源16)可以为，例如用于捕获图片的相机，例如图片存储器的存储器，包括或存储先前捕获或产生的图片，和/或获取或接收图片的任何类别的(内部或外部)接口。相机可以为，例如，本地的或集成在源设备中的集成相机，存储器可以是本地的，或例如集成在源设备中的集成存储器。接口可以为，例如，从外部视频源接收图片的外部接口，外部视频源例如为外部图片捕获设备，比如相机、外部存储器或外部图片生成设备，外部图片生成设备例如为外部计算机图形处理器、计算机或服务器。接口可以为根据任何专有或标准化接口协议的任何类别的接口，例如有线或无线接口、光接口。获取图片数据17的接口可以是与通信接口22相同的接口或是通信接口22的一部分。

区别于预处理器18执行的处理，图片或图片数据17(例如，视频数据16)也可以称为原始图片或原始图片数据17。

预处理器18用于接收(原始)图片数据17并对图片数据17执行预处理，以获得经预处理的图片19或经预处理的图片数据19。例如，预处理器18执行的预处理可以包括整修、色彩格式转换(例如，从RGB转换为YCbCr)、调色或去噪。可以理解，预处理器18可以是可选组件。

编码器20(例如，视频编码器20)用于接收经预处理的图片数据19并提供经编码图片数据21(下文将进一步描述细节，例如，基于图2或图4)。

源设备12的通信接口22可以用于接收经编码图片数据21并传输至其它设备，例如，目的地设备14或任何其它设备，以用于存储或直接重构，或用于在对应地存储经编码数据13和/或传输经编码数据13至其它设备之前处理经编码图片数据21，其它设备例如为目的地设备14或任何其它用于解码或存储的设备。

目的地设备14包括解码器30(例如，视频解码器30)，另外亦即可选地，可以包括通信接口或通信单元28、后处理单元32和显示设备34。

目的地设备14的通信接口28用于例如，直接从源设备12或任何其它源接收经编码图片数据21或经编码数据13，任何其它源例如为存储设备，存储设备例如为经编码图片数据存储设备。

通信接口22和通信接口28可以用于藉由源设备12和目的地设备14之间的直接通信链路或藉由任何类别的网络传输或接收经编码图片数据21或经编码数据13，直接通信链路例如为直接有线或无线连接，任何类别的网络例如为有线或无线网络或其任何组合，或任何类别的私网和公网，或其任何组合。

通信接口22可以例如用于将经编码图片数据21封装成合适的格式，例如包，以在通信链路或通信网络上传输。

形成通信接口22的对应部分的通信接口28可以例如用于解封装经编码数据13，以获得经编码图片数据21。

通信接口22和通信接口28都可以配置为单向通信接口，如图1中用于经编码图片数据13的从源设备12指向目的地设备14的箭头所指示，或配置为双向通信接口，以及可以用于例如发送和接收消息来建立连接、确认和交换任何其它与通信链路和/或例如经编码图片数据传输的数据传输有关的信息。

解码器30用于接收经编码图片数据21并提供经解码图片数据31或经解码图片31(下文将进一步描述细节，例如，基于图3或图5)。

目的地设备14的后处理器32用于后处理经解码图片数据31(也称为经重构图片数据)，例如，经解码图片131，以获得经后处理图片数据33，例如，经后处理图片33。后处理单元32执行的后处理可以包括，例如，色彩格式转换(例如，从YCbCr转换为RGB)、调色、整修或重采样，或任何其它处理，用于例如准备经解码图片数据31以由显示设备34显示。

目的地设备14的显示设备34用于接收经后处理图片数据33以向例如用户或观看者显示图片。显示设备34可以为或可以包括任何类别的用于呈现经重构图片的显示器，例如，集成的或外部的显示器或监视器。例如，显示器可以包括液晶显示器(liquid crystaldisplay，LCD)、有机发光二极管(organic light emitting diode，OLED)显示器、等离子显示器、投影仪、微LED显示器、硅基液晶(liquid crystal on silicon，LCoS)、数字光处理器(digital light processor，DLP)或任何类别的其它显示器。

虽然图1将源设备12和目的地设备14绘示为单独的设备，但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性，即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中，可以使用相同硬件和/或软件，或使用单独的硬件和/或软件，或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。

本领域技术人员基于描述明显可知，不同单元的功能性或图1所示的源设备12和/或目的地设备14的功能性的存在和(准确)划分可能根据实际设备和应用有所不同。

编码器20(例如，视频编码器20)和解码器30(例如，视频解码器30)都可以实施为各种合适电路中的任一个，例如，一个或多个微处理器、数字信号处理器(digital signalprocessor，DSP)、专用集成电路(application-specific integrated circuit，ASIC)、现场可编程门阵列(field-programmable gate array，FPGA)、离散逻辑、硬件或其任何组合。如果部分地以软件实施所述技术，则设备可将软件的指令存储于合适的非暂时性计算机可读存储介质中，且可使用一或多个处理器以硬件执行指令从而执行本公开的技术。前述内容(包含硬件、软件、硬件与软件的组合等)中的任一者可视为一或多个处理器。视频编码器20和视频解码器30中的每一个可以包含在一或多个编码器或解码器中，所述编码器或解码器中的任一个可以集成为对应设备中的组合编码器/解码器(编解码器)的一部分。

源设备12可称为视频编码设备或视频编码装置。目的地设备14可称为视频解码设备或视频解码装置。源设备12以及目的地设备14可以是视频编码设备或视频编码装置的实例。

源设备12和目的地设备14可以包括各种设备中的任一个，包含任何类别的手持或静止设备，例如，笔记本或膝上型计算机、移动电话、智能电话、平板或平板计算机、摄像机、台式计算机、机顶盒、电视、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备(例如内容服务服务器或内容分发服务器)、广播接收器设备、广播发射器设备等，并可以不使用或使用任何类别的操作系统。

在一些情况下，源设备12和目的地设备14可以经装备以用于无线通信。因此，源设备12和目的地设备14可以为无线通信设备。

在一些情况下，图1中所示视频编码系统10仅为示例，本申请的技术可以适用于不必包含编码和解码设备之间的任何数据通信的视频编码设置(例如，视频编码或视频解码)。在其它实例中，数据可从本地存储器检索、在网络上流式传输等。视频编码设备可以对数据进行编码并且将数据存储到存储器，和/或视频解码设备可以从存储器检索数据并且对数据进行解码。在一些实例中，由并不彼此通信而是仅编码数据到存储器和/或从存储器检索数据且解码数据的设备执行编码和解码。

应理解，对于以上参考视频编码器20所描述的实例中的每一个，视频解码器30可以用于执行相反过程。关于信令语法元素，视频解码器30可以用于接收并解析这种语法元素，相应地解码相关视频数据。在一些例子中，视频编码器20可以将一个或多个定义……的语法元素熵编码成经编码视频比特流。在此类实例中，视频解码器30可以解析这种语法元素，并相应地解码相关视频数据。

编码器&编码方法

图2示出用于实现本申请(公开)技术的视频编码器20的实例的示意性/概念性框图。

在图2的实例中，视频编码器20包括残差计算单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器单元220、经解码图片缓冲器(decoded picture buffer，DPB)230、预测处理单元260和熵编码单元270。预测处理单元260可以包含帧间预测单元244、帧内预测单元254和模式选择单元262。帧间预测单元244可以包含运动估计单元和运动补偿单元(未图示)。图2所示的视频编码器20也可以称为混合型视频编码器或根据混合型视频编解码器的视频编码器。

例如，残差计算单元204、变换处理单元206、量化单元208、预测处理单元260和熵编码单元270形成编码器20的前向信号路径，而例如逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器220、经解码图片缓冲器(decoded picture buffer，DPB)230、预测处理单元260形成编码器的后向信号路径，其中编码器的后向信号路径对应于解码器的信号路径(参见图3中的解码器30)。

编码器20通过例如输入202，接收图片201或图片201的块203，例如，形成视频或视频序列的图片序列中的图片。图片块203也可以称为当前图片块或待编码图片块，图片201可以称为当前图片或待编码图片(尤其是在视频编码中将当前图片与其它图片区分开时，其它图片例如同一视频序列亦即也包括当前图片的视频序列中的先前经编码和/或经解码图片)。

分割

编码器20的实施例可以包括分割单元(图2中未绘示)，用于将图片201分割成多个例如块203的块，通常分割成多个不重叠的块。分割单元可以用于对视频序列中所有图片使用相同的块大小以及定义块大小的对应栅格，或用于在图片或子集或图片群组之间更改块大小，并将每个图片分割成对应的块。

在一个实例中，视频编码器20的预测处理单元260可以用于执行上述分割技术的任何组合。

如图片201，块203也是或可以视为具有亮度值(采样值)的采样点的二维阵列或矩阵，虽然其尺寸比图片201小。换句话说，块203可以包括，例如，一个采样阵列(例如黑白图片201情况下的亮度阵列)或三个采样阵列(例如，彩色图片情况下的一个亮度阵列和两个色度阵列)或依据所应用的色彩格式的任何其它数目和/或类别的阵列。块203的水平和垂直方向(或轴线)上采样点的数目定义块203的尺寸。

如图2所示的编码器20用于逐块编码图片201，例如，对每个块203执行编码和预测。

残差计算

残差计算单元204用于基于图片块203和预测块265(下文提供预测块265的其它细节)计算残差块205，例如，通过逐样本(逐像素)将图片块203的样本值减去预测块265的样本值，以在样本域中获取残差块205。

变换

变换处理单元206用于在残差块205的样本值上应用例如离散余弦变换(discretecosine transform，DCT)或离散正弦变换(discrete sine transform，DST)的变换，以在变换域中获取变换系数207。变换系数207也可以称为变换残差系数，并在变换域中表示残差块205。

变换处理单元206可以用于应用DCT/DST的整数近似值，例如为HEVC/H.265指定的变换。与正交DCT变换相比，这种整数近似值通常由某一因子按比例缩放。为了维持经正变换和逆变换处理的残差块的范数，应用额外比例缩放因子作为变换过程的一部分。比例缩放因子通常是基于某些约束条件选择的，例如，比例缩放因子是用于移位运算的2的幂、变换系数的位深度、准确性和实施成本之间的权衡等。例如，在解码器30侧通过例如逆变换处理单元212为逆变换(以及在编码器20侧通过例如逆变换处理单元212为对应逆变换)指定具体比例缩放因子，以及相应地，可以在编码器20侧通过变换处理单元206为正变换指定对应比例缩放因子。

量化

量化单元208用于例如通过应用标量量化或向量量化来量化变换系数207，以获得经量化变换系数209。经量化变换系数209也可以称为经量化残差系数209。量化过程可以减少与部分或全部变换系数207有关的位深度。例如，可在量化期间将n位变换系数向下舍入到m位变换系数，其中n大于m。可通过调整量化参数(quantization parameter，QP)修改量化程度。例如，对于标量量化，可以应用不同的标度来实现较细或较粗的量化。较小量化步长对应较细量化，而较大量化步长对应较粗量化。可以通过量化参数(quantizationparameter，QP)指示合适的量化步长。例如，量化参数可以为合适的量化步长的预定义集合的索引。例如，较小的量化参数可以对应精细量化(较小量化步长)，较大量化参数可以对应粗糙量化(较大量化步长)，反之亦然。量化可以包含除以量化步长以及例如通过逆量化210执行的对应的量化或逆量化，或者可以包含乘以量化步长。根据例如HEVC的一些标准的实施例可以使用量化参数来确定量化步长。一般而言，可以基于量化参数使用包含除法的等式的定点近似来计算量化步长。可以引入额外比例缩放因子来进行量化和反量化，以恢复可能由于在用于量化步长和量化参数的等式的定点近似中使用的标度而修改的残差块的范数。在一个实例实施方式中，可以合并逆变换和反量化的标度。或者，可以使用自定义量化表并在例如比特流中将其从编码器通过信号发送到解码器。量化是有损操作，其中量化步长越大，损耗越大。

逆量化单元210用于在经量化系数上应用量化单元208的逆量化，以获得经反量化系数211，例如，基于或使用与量化单元208相同的量化步长，应用量化单元208应用的量化方案的逆量化方案。经反量化系数211也可以称为经反量化残差系数211，对应于变换系数207，虽然由于量化造成的损耗通常与变换系数不相同。

逆变换处理单元212用于应用变换处理单元206应用的变换的逆变换，例如，逆离散余弦变换(discrete cosine transform，DCT)或逆离散正弦变换(discrete sinetransform，DST)，以在样本域中获取逆变换块213。逆变换块213也可以称为逆变换经反量化块213或逆变换残差块213。

重构单元214(例如，求和器214)用于将逆变换块213(即经重构残差块213)添加至预测块265，以在样本域中获取经重构块215，例如，将经重构残差块213的样本值与预测块265的样本值相加。

可选地，例如线缓冲器216的缓冲器单元216(或简称“缓冲器”216)用于缓冲或存储经重构块215和对应的样本值，用于例如帧内预测。在其它的实施例中，编码器可以用于使用存储在缓冲器单元216中的未经滤波的经重构块和/或对应的样本值来进行任何类别的估计和/或预测，例如帧内预测。

例如，编码器20的实施例可以经配置以使得缓冲器单元216不只用于存储用于帧内预测254的经重构块215，也用于环路滤波器单元220(在图2中未示出)，和/或，例如使得缓冲器单元216和经解码图片缓冲器单元230形成一个缓冲器。其它实施例可以用于将经滤波块221和/或来自经解码图片缓冲器230的块或样本(图2中均未示出)用作帧内预测254的输入或基础。

环路滤波器单元220(或简称“环路滤波器”220)用于对经重构块215进行滤波以获得经滤波块221，从而顺利进行像素转变或提高视频质量。环路滤波器单元220旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptive offset，SAO)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptive loop filter，ALF)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元220在图2中示出为环内滤波器，但在其它配置中，环路滤波器单元220可实施为环后滤波器。经滤波块221也可以称为经滤波的经重构块221。经解码图片缓冲器230可以在环路滤波器单元220对经重构编码块执行滤波操作之后存储经重构编码块。

编码器20(对应地，环路滤波器单元220)的实施例可以用于输出环路滤波器参数(例如，样本自适应偏移信息)，例如，直接输出或由熵编码单元270或任何其它熵编码单元熵编码后输出，例如使得解码器30可以接收并应用相同的环路滤波器参数用于解码。

经解码图片缓冲器(decoded picture buffer，DPB)230可以为存储参考图片数据供视频编码器20编码视频数据之用的参考图片存储器。DPB 230可由多种存储器设备中的任一个形成，例如动态随机存储器(dynamic random access memory，DRAM)(包含同步DRAM(synchronous DRAM，SDRAM)、磁阻式RAM(magnetoresistive RAM，MRAM)、电阻式RAM(resistive RAM，RRAM))或其它类型的存储器设备。可以由同一存储器设备或单独的存储器设备提供DPB 230和缓冲器216。在某一实例中，经解码图片缓冲器(decoded picturebuffer，DPB)230用于存储经滤波块221。经解码图片缓冲器230可以进一步用于存储同一当前图片或例如先前经重构图片的不同图片的其它先前的经滤波块，例如先前经重构和经滤波块221，以及可以提供完整的先前经重构亦即经解码图片(和对应参考块和样本)和/或部分经重构当前图片(和对应参考块和样本)，例如用于帧间预测。在某一实例中，如果经重构块215无需环内滤波而得以重构，则经解码图片缓冲器(decoded picture buffer，DPB)230用于存储经重构块215。

预测处理单元260，也称为块预测处理单元260，用于接收或获取块203(当前图片201的当前块203)和经重构图片数据，例如来自缓冲器216的同一(当前)图片的参考样本217和/或来自经解码图片缓冲器230的一个或多个先前经解码图片的参考图片数据231，以及用于处理这类数据进行预测，即提供可以为经帧间预测块245或经帧内预测块255的预测块265。

模式选择单元262可以用于选择预测模式(例如帧内或帧间预测模式)和/或对应的用作预测块265的预测块245或255，以计算残差块205和重构经重构块215。

模式选择单元262的实施例可以用于选择预测模式(例如，从预测处理单元260所支持的那些预测模式中选择)，所述预测模式提供最佳匹配或者说最小残差(最小残差意味着传输或存储中更好的压缩)，或提供最小信令开销(最小信令开销意味着传输或存储中更好的压缩)，或同时考虑或平衡以上两者。模式选择单元262可以用于基于码率失真优化(rate distortion optimization，RDO)确定预测模式，即选择提供最小码率失真优化的预测模式，或选择相关码率失真至少满足预测模式选择标准的预测模式。

下文将详细解释编码器20的实例(例如，通过预测处理单元260)执行的预测处理和(例如，通过模式选择单元262)执行的模式选择。

如上文所述，编码器20用于从(预先确定的)预测模式集合中确定或选择最好或最优的预测模式。预测模式集合可以包括例如帧内预测模式和/或帧间预测模式。

帧内预测模式集合可以包括35种不同的帧内预测模式，例如，如DC(或均值)模式和平面模式的非方向性模式，或如H.265中定义的方向性模式，或者可以包括67种不同的帧内预测模式，例如，如DC(或均值)模式和平面模式的非方向性模式，或如正在发展中的H.266中定义的方向性模式。

(可能的)帧间预测模式集合取决于可用参考图片(即，例如前述存储在DBP 230中的至少部分经解码图片)和其它帧间预测参数，例如取决于是否使用整个参考图片或只使用参考图片的一部分，例如围绕当前块的区域的搜索窗区域，来搜索最佳匹配参考块，和/或例如取决于是否应用如半像素和/或四分之一像素内插的像素内插。

除了以上预测模式，也可以应用跳过模式和/或直接模式。

预测处理单元260可以进一步用于将块203分割成较小的块分区或子块，例如，通过迭代使用四叉树(quad-tree，QT)分割、二叉树(binary-tree，BT)分割或三叉树(triple-tree or ternary-tree，TT)分割，或其任何组合，以及用于例如为块分区或子块中的每一个执行预测，其中模式选择包括选择分割的块203的树结构和选择应用于块分区或子块中的每一个的预测模式。

帧间预测单元244可以包含运动估计(motion estimation，ME)单元(图2中未示出)和运动补偿(motion compensation，MC)单元(图2中未示出)。运动估计单元用于接收或获取图片块203(当前图片201的当前图片块203)和经解码图片231，或至少一个或多个先前经重构块，例如，一个或多个其它/不同先前经解码图片231的经重构块，来进行运动估计。例如，视频序列可以包括当前图片和先前经解码图片31，或换句话说，当前图片和先前经解码图片31可以是形成视频序列的图片序列的一部分，或者形成该图片序列。

例如，编码器20可以用于从多个其它图片中的同一或不同图片的多个参考块中选择参考块，并向运动估计单元(图2中未示出)提供参考图片(或参考图片索引)和/或提供参考块的位置(X、Y坐标)与当前块的位置之间的偏移(空间偏移)作为帧间预测参数。该偏移也称为运动向量(motion vector，MV)。

运动补偿单元用于获取，例如接收帧间预测参数，并基于或使用帧间预测参数执行帧间预测来获取帧间预测块245。由运动补偿单元(图2中未示出)执行的运动补偿可以包含基于通过运动估计(可能执行对子像素精确度的内插)确定的运动/块向量取出或生成预测块。内插滤波可从已知像素样本产生额外像素样本，从而潜在地增加可用于编码图片块的候选预测块的数目。一旦接收到用于当前图片块的PU的运动向量，运动补偿单元246可以在一个参考图片列表中定位运动向量指向的预测块。运动补偿单元246还可以生成与块和视频条带相关联的语法元素，以供视频解码器30在解码视频条带的图片块时使用。

帧内预测单元254用于获取，例如接收同一图片的图片块203(当前图片块)和一个或多个先前经重构块，例如经重构相邻块，以进行帧内估计。例如，编码器20可以用于从多个(预定)帧内预测模式中选择帧内预测模式。

编码器20的实施例可以用于基于优化标准选择帧内预测模式，例如基于最小残差(例如，提供最类似于当前图片块203的预测块255的帧内预测模式)或最小码率失真。

帧内预测单元254进一步用于基于如所选择的帧内预测模式的帧内预测参数确定帧内预测块255。在任何情况下，在选择用于块的帧内预测模式之后，帧内预测单元254还用于向熵编码单元270提供帧内预测参数，即提供指示所选择的用于块的帧内预测模式的信息。在一个实例中，帧内预测单元254可以用于执行下文描述的帧内预测技术的任意组合。

熵编码单元270用于将熵编码算法或方案(例如，可变长度编码(variable lengthcoding，VLC)方案、上下文自适应VLC(context adaptive VLC，CAVLC)方案、算术编码方案、上下文自适应二进制算术编码(context adaptive binary arithmetic coding，CABAC)、基于语法的上下文自适应二进制算术编码(syntax-based context-adaptive binaryarithmetic coding，SBAC)、概率区间分割熵(probability interval partitioningentropy，PIPE)编码或其它熵编码方法或技术)应用于经量化残差系数209、帧间预测参数、帧内预测参数和/或环路滤波器参数中的单个或所有上(或不应用)，以获得可以通过输出272以例如经编码比特流21的形式输出的经编码图片数据21。可以将经编码比特流传输到视频解码器30，或将其存档稍后由视频解码器30传输或检索。熵编码单元270还可用于熵编码正被编码的当前视频条带的其它语法元素。

视频编码器20的其它结构变型可用于编码视频流。例如，基于非变换的编码器20可以在没有针对某些块或帧的变换处理单元206的情况下直接量化残差信号。在另一实施方式中，编码器20可具有组合成单个单元的量化单元208和逆量化单元210。

图3示出示例性视频解码器30，用于实现本申请的技术。

视频解码器30用于接收例如由编码器20编码的经编码图片数据(例如，经编码比特流)21，以获得经解码图片231。在解码过程期间，视频解码器30从视频编码器20接收视频数据，例如表示经编码视频条带的图片块的经编码视频比特流及相关联的语法元素。

在图3的实例中，解码器30包括熵解码单元304、逆量化单元310、逆变换处理单元312、重构单元314(例如求和器314)、缓冲器316、环路滤波器320、经解码图片缓冲器330以及预测处理单元360。预测处理单元360可以包含帧间预测单元344、帧内预测单元354和模式选择单元362。在一些实例中，视频解码器30可执行大体上与参照图2的视频编码器20描述的编码遍次互逆的解码遍次。

熵解码单元304用于对经编码图片数据21执行熵解码，以获得例如经量化系数309和/或经解码的编码参数(图3中未示出)，例如，帧间预测、帧内预测参数、环路滤波器参数和/或其它语法元素中(经解码)的任意一个或全部。熵解码单元304进一步用于将帧间预测参数、帧内预测参数和/或其它语法元素转发至预测处理单元360。视频解码器30可接收视频条带层级和/或视频块层级的语法元素。

逆量化单元310功能上可与逆量化单元210相同，逆变换处理单元312功能上可与逆变换处理单元212相同，重构单元314功能上可与重构单元214相同，缓冲器316功能上可与缓冲器216相同，环路滤波器320功能上可与环路滤波器220相同，经解码图片缓冲器330功能上可与经解码图片缓冲器230相同。

预测处理单元360可以包括帧间预测单元344和帧内预测单元354，其中帧间预测单元344功能上可以类似于帧间预测单元244，帧内预测单元354功能上可以类似于帧内预测单元254。预测处理单元360通常用于执行块预测和/或从经编码数据21获取预测块365，以及从例如熵解码单元304(显式地或隐式地)接收或获取预测相关参数和/或关于所选择的预测模式的信息。

当视频条带经编码为经帧内编码(I)条带时，预测处理单元360的帧内预测单元354用于基于信号表示的帧内预测模式及来自当前帧或图片的先前经解码块的数据来产生用于当前视频条带的图片块的预测块365。当视频帧经编码为经帧间编码(即B或P)条带时，预测处理单元360的帧间预测单元344(例如，运动补偿单元)用于基于运动向量及从熵解码单元304接收的其它语法元素生成用于当前视频条带的视频块的预测块365。对于帧间预测，可从一个参考图片列表内的一个参考图片中产生预测块。视频解码器30可基于存储于DPB 330中的参考图片，使用默认建构技术来建构参考帧列表：列表0和列表1。

预测处理单元360用于通过解析运动向量和其它语法元素，确定用于当前视频条带的视频块的预测信息，并使用预测信息产生用于正经解码的当前视频块的预测块。例如，预测处理单元360使用接收到的一些语法元素确定用于编码视频条带的视频块的预测模式(例如，帧内或帧间预测)、帧间预测条带类型(例如，B条带、P条带或GPB条带)、用于条带的参考图片列表中的一个或多个的建构信息、用于条带的每个经帧间编码视频块的运动向量、条带的每个经帧间编码视频块的帧间预测状态以及其它信息，以解码当前视频条带的视频块。

逆量化单元310可用于逆量化(即，反量化)在比特流中提供且由熵解码单元304解码的经量化变换系数。逆量化过程可包含使用由视频编码器20针对视频条带中的每一视频块所计算的量化参数来确定应该应用的量化程度并同样确定应该应用的逆量化程度。

逆变换处理单元312用于将逆变换(例如，逆DCT、逆整数变换或概念上类似的逆变换过程)应用于变换系数，以便在像素域中产生残差块。

重构单元314(例如，求和器314)用于将逆变换块313(即经重构残差块313)添加到预测块365，以在样本域中获取经重构块315，例如通过将经重构残差块313的样本值与预测块365的样本值相加。

环路滤波器单元320(在编码循环期间或在编码循环之后)用于对经重构块315进行滤波以获得经滤波块321，从而顺利进行像素转变或提高视频质量。在一个实例中，环路滤波器单元320可以用于执行下文描述的滤波技术的任意组合。环路滤波器单元320旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptive offset，SAO)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptive loop filter，ALF)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元320在图3中示出为环内滤波器，但在其它配置中，环路滤波器单元320可实施为环后滤波器。

随后将给定帧或图片中的经解码视频块321存储在存储用于后续运动补偿的参考图片的经解码图片缓冲器330中。

解码器30用于例如，藉由输出332输出经解码图片31，以向用户呈现或供用户查看。

视频解码器30的其它变型可用于对压缩的比特流进行解码。例如，解码器30可以在没有环路滤波器单元320的情况下生成输出视频流。例如，基于非变换的解码器30可以在没有针对某些块或帧的逆变换处理单元312的情况下直接逆量化残差信号。在另一实施方式中，视频解码器30可以具有组合成单个单元的逆量化单元310和逆变换处理单元312。

图4是根据一示例性实施例的包含图2的编码器20和/或图3的解码器30的视频编码系统40的实例的说明图。

系统40可以实现本申请的各种技术的组合。在所说明的实施方式中，视频编码系统40可以包含成像设备41、视频编码器20、视频解码器30(和/或藉由综合处理单元46的逻辑电路47实施的视频编码器)、天线42、一个或多个处理器43、一个或多个存储器44和/或显示设备45。

如图所示，成像设备41、天线42、综合处理单元46、逻辑电路47、视频编码器20、视频解码器30、处理器43、存储器44和/或显示设备45能够互相通信。如所论述，虽然用视频编码器20和视频解码器30绘示视频编码系统40，但在不同实例中，视频编码系统40可以只包含视频编码器20或只包含视频解码器30。

在一些实例中，如图所示，视频编码系统40可以包含天线42。例如，天线42可以用于传输或接收视频数据的经编码比特流。另外，在一些实例中，视频编码系统40可以包含显示设备45。显示设备45可以用于呈现视频数据。在一些实例中，如图所示，逻辑电路47可以通过综合处理单元46实施。综合处理单元46可以包含专用集成电路(application-specific integrated circuit，ASIC)逻辑、图形处理器、通用处理器等。视频编码系统40也可以包含可选处理器43，该可选处理器43类似地可以包含专用集成电路(application-specific integrated circuit，ASIC)逻辑、图形处理器、通用处理器等。在一些实例中，逻辑电路47可以通过硬件实施，如视频编码专用硬件等，处理器43可以通过通用软件、操作系统等实施。另外，存储器44可以是任何类型的存储器，例如易失性存储器(例如，静态随机存取存储器(Static Random Access Memory，SRAM)、动态随机存储器(Dynamic RandomAccess Memory，DRAM)等)或非易失性存储器(例如，闪存等)等。在非限制性实例中，存储器44可以由超速缓存内存实施。在一些实例中，逻辑电路47可以访问存储器44(例如用于实施图像缓冲器)。在其它实例中，逻辑电路47和/或综合处理单元46可以包含存储器(例如，缓存等)用于实施图像缓冲器等。

在一些实例中，通过逻辑电路实施的视频编码器20可以包含(例如，通过综合处理单元46或存储器44实施的)图像缓冲器和(例如，通过综合处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的视频编码器20，以实施参照图2和/或本文中所描述的任何其它编码器系统或子系统所论述的各种模块。逻辑电路可以用于执行本文所论述的各种操作。

视频解码器30可以以类似方式通过逻辑电路47实施，以实施参照图3的解码器30和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。在一些实例中，逻辑电路实施的视频解码器30可以包含(通过处理单元或存储器44实施的)图像缓冲器和(例如，通过综合处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的视频解码器30，以实施参照图3和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。

在一些实例中，视频编码系统40的天线42可以用于接收视频数据的经编码比特流。如所论述，经编码比特流可以包含本文所论述的与编码视频帧相关的数据、指示符、索引值、模式选择数据等，例如与编码分割相关的数据(例如，变换系数或经量化变换系数，(如所论述的)可选指示符，和/或定义编码分割的数据)。视频编码系统40还可包含耦合至天线42并用于解码经编码比特流的视频解码器30。显示设备45用于呈现视频帧。

图5是根据一示例性实施例的可用作图1中的源设备12和目的地设备14中的任一个或两个的装置500的简化框图。

装置500可以实现本申请的技术，装置500可以采用包含多个计算设备的计算系统的形式，或采用例如移动电话、平板计算机、膝上型计算机、笔记本电脑、台式计算机等单个计算设备的形式。

装置500中的处理器502可以为中央处理器。或者，处理器502可以为现有的或今后将研发出的能够操控或处理信息的任何其它类型的设备或多个设备。如图所示，虽然可以使用例如处理器502的单个处理器实践所揭示的实施方式，但是使用一个以上处理器可以实现速度和效率方面的优势。

在一实施方式中，装置500中的存储器504可以为只读存储器(Read Only Memory，ROM)设备或随机存取存储器(random access memory，RAM)设备。任何其他合适类型的存储设备都可以用作存储器504。存储器504可以包括代码和由处理器502使用总线512访问的数据506。存储器504可进一步包括操作系统508和应用程序510，应用程序510包含至少一个准许处理器502执行本文所描述的方法的程序。例如，应用程序510可以包括应用1到N，应用1到N进一步包括执行本文所描述的方法的视频编码应用。装置500还可包含采用从存储器514形式的附加存储器，该从存储器514例如可以为与移动计算设备一起使用的存储卡。因为视频通信会话可能含有大量信息，这些信息可以整体或部分存储在从存储器514中，并按需要加载到存储器504用于处理。

装置500还可包含一或多个输出设备，例如显示器518。在一个实例中，显示器518可以为将显示器和可操作以感测触摸输入的触敏元件组合的触敏显示器。显示器518可以通过总线512耦合于处理器502。除了显示器518还可以提供其它准许用户对装置500编程或以其它方式使用装置500的输出设备，或提供其它输出设备作为显示器518的替代方案。当输出设备是显示器或包含显示器时，显示器可以以不同方式实现，包含通过液晶显示器(liquid crystal display，LCD)、阴极射线管(cathode-ray tube，CRT)显示器、等离子显示器或发光二极管(light emitting diode，LED)显示器，如有机LED(organic LED，OLED)显示器。

装置500还可包含图像感测设备520或与其连通，图像感测设备520例如为相机或为现有的或今后将研发出的可以感测图像的任何其它图像感测设备520，所述图像例如为运行装置500的用户的图像。图像感测设备520可以放置为直接面向运行装置500的用户。在一实例中，可以配置图像感测设备520的位置和光轴以使其视野包含紧邻显示器518的区域且从该区域可见显示器518。

装置500还可包含声音感测设备522或与其连通，声音感测设备522例如为麦克风或为现有的或今后将研发出的可以感测装置500附近的声音的任何其它声音感测设备。声音感测设备522可以放置为直接面向运行装置500的用户，并可以用于接收用户在运行装置500时发出的声音，例如语音或其它发声。

虽然图5中将装置500的处理器502和存储器504绘示为集成在单个单元中，但是还可以使用其它配置。处理器502的运行可以分布在多个可直接耦合的机器中(每个机器具有一个或多个处理器)，或分布在本地区域或其它网络中。存储器504可以分布在多个机器中，例如基于网络的存储器或多个运行装置500的机器中的存储器。虽然此处只绘示单个总线，但装置500的总线512可以由多个总线形成。进一步地，从存储器514可以直接耦合至装置500的其它组件或可以通过网络访问，并且可包括单个集成单元，例如一个存储卡，或多个单元，例如多个存储卡。因此，可以以多种配置实施装置500。

图6是本申请实施例应用场景的一种实现方式的示意图。

本申请的实施例可以应用于如图6所示的系统中，可以向系统中输入未经编码的视频内容，经过编码器处理生成SVC编码后的视频流，SVC编码后的视频流可以传输到解码器，解码器对码流进行解码，得到解码后的视频，并传输至显示设备并进行显示。

下面先结合图7对本申请实施例的视频编码方法进行详细的介绍。

图7是本申请实施例的视频解码方法的示意性流程图。图7所示的方法包括步骤1001至步骤1004，下面分别对步骤1001至步骤1004进行详细的介绍。

1001、解码基础层码流，以获取视频的第一图像，视频的第一图像为普通动态范围SDR的图像。

应理解，码流是指音、视频文件在单位时间内使用的数据流量，它是音、视频编码中画面质量控制中最重要的部分。如在同样分辨率下，视频文件的码流越大，压缩比就越小，画面质量就越高。在本申请中，码流主要是指针对视频文件的码流。

还应理解，基础层码流可以是使解码器完全正常解码出基本视频内容的码流，但是基础层的数据可能存在帧率较低，分辨率较低，或者质量较低的问题。增强层码流可以是提高帧率，或分辨率，或视频质量的码流。

例如，在信道受限或信道环境复杂时，基础层码流可以保证解码端能够接收到可以观看的流畅视频图像。

例如，当信道环境良好或信道资源丰富时，可以传递增强层码流，以提高帧率，或分辨率，或视频质量。

可选地，增强层是可以是一层也可以是多层，即在视频码流总码率的范围内，接收到的码率越大，视频质量越好。

在本申请中，视频的第一图像可以为通过视频的HDR图像经过降低分辨率和像素精度处理后获取的视频的SDR图像。

示例性地，在步骤1001之前，获取编码器中的码流，进行解复用码流，得到基础层码流和增强层码流，其中，基础层码流为视频的SDR图像对应的码流，增强层码流为原始视频的HDR图像与重构视频的HDR图像之间残差对应的码流。

应理解，残差计算可以是基于图像和预测图像。例如，通过逐样本(逐像素)将图像的样本值减去预测图像的样本值，以在样本域中获取残差。

1002、对视频的第一图像进行重构处理，以获取视频的第二图像，视频的第二图像为高动态范围HDR的图像。

其中，对视频的第一图像进行重构处理，获得视频的第二图像。即可以是将视频的SDR图像经过分辨率和像素精度的提升，获得重构的高分辨率和高精度的视频的HDR图像。

可选地，通过对视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

例如，SDR图像的像素精度为8bit，HDR图像的像素精度为10bit，上采样处理可以看作是将图像的分辨率提高，如可以是对图片的采样点数量的增加，即可以是将普通态范围的视频序列经过反向色调映射后得到高动态范围的视频序列。

进一步地，可以采用深度神经网路对视频的第一图像进行上采样处理和反向色调映射处理，以获取视频的第二图像。其中，可以将视频的第一图像作为深度神经网络的输入量，视频的HDR图像作为深度神经网络的输出目标。

应理解的是，重构的视频的HDR图像与视频的HDR图像是存在差异的，视频的HDR图像即未经过编解码以及处理的原始视频的HDR图像。而重构的HDR图像则可以是通过分辨率以及像素精度处理后得到的HDR图像。

1003、解码增强层码流，以获取残差。

1004、将残差与视频的第二图像进行叠加，以获取视频的目标图像。

应理解，视频的第二图像为通过视频的第一图像重构后获得的HDR图像，即第二图像为重构的视频的HDR图像，重构的视频的HDR图像与原始的视频的HDR图像之间是具有差异的，通过将残差与第二图像进行叠加，即提高视频的第二图像的分辨率以及像素精度，使其还原原始视频的HDR图像。

可选地，在输出设备支持高分辨率HDR时，在增强层解码得到残差以及将残差与视频的第二图像进行叠加，得到视频的目标图像后，将视频的目标图像输出至显示设备。

本申请中，通过解码基本层码流获得视频的SDR图像，将视频的SDR图像经过分辨率和像素精度的提升获得重构的视频的HDR图像，进一步将重构的视频的HDR图像与解码增强层码流获得的残差进行叠加，获得视频的目标图像，从而是现实视频的HDR图像的可伸缩编码的解码。

下面结合图8，更加详细的描述本申请实施例中的解码侧的具体流程。应注意，图8的例子仅仅是为了帮助本领域技术人员理解本申请实施例，而非要将本申请实施例限于所例示的具体场景。本领域技术人员根据所给出的图8的例子，显然可以进行各种等价的修改或变化，这样的修改或变化也落入本申请实施例的范围内。

图8为本申请实施例提供的解码侧的流程示意图。图8所示的方法包括步骤801至步骤805，下面分别对步骤801至步骤805进行详细描述。

步骤801：获取可伸缩视频编码流。

本申请中，可伸缩视频编码流为对视频的HDR图像进行编码获得的码流。

步骤802：解复用。

其中，可伸缩视频编码流中为通过将增强层码流和基础层码流通过复用后得到的码流。解复用，即将可伸缩视频编码流拆分为增强层码流和基础层码流。

例如，解码器对码流进行解复用，以获取基础层码流和增强层码流。

步骤803：对基础层码流进行解码，得到视频的第一图像，即可以是低分辨率的SDR图像(LR-SDR图像)。

需要说明的是，在本申请中解码获得的第一图像为通过视频的HDR图像进行降低分辨率和像素精度处理后得到的SDR图像。

可选地，若解码器连接的输出设备不支持更高分辨率的HDR内容或者解码器不支持更高分辨率的视频的HDR图像，则解码器可以停止增强层解码，输出视频的SDR图像。

可选地，若解码器支持高分辨率的视频的HDR图像，则解码器进一步进行增强层的解码。

步骤804：对LR-SDR编码后的码流进行解码重构，再进行上采样超分辨率处理和反向色调映射处理，得到重构的视频的HDR图像。

在深度卷积神经网络中，对基础层解码获得的视频的第一图像，即视频的SDR图像进行提高分辨率和像素精度的处理，得到重构的视频的第二图像，该重构的视频的第二图像HDR图像。

应理解，步骤804可以在采用深度神经网络结构中执行，神经网络中的输入量等参数经过了预先训练。(下面图9将对深度神经网络结构进行详细说明，图10将对训练参数的过程进行详细描述)

步骤805、获取联合SR-ITM DNN中重构的视频的HDR图像，将解码增强层获得的残差与重构的视频的HDR图像进行得加，得到视频的目标图像。该视频的目标图像为HDR图像。

图9是本申请中采用深度卷积神经网络进行重构处理的示意图。下面结合图9对本申请中，通过深度卷积神经网络进行上采样处理和色调映射处理的具体流程进行说明。

如图9所示，卷积神经网络可以包括10个卷积层，采用3*3的过滤器(filter)，激活函数为Leaky ReLU，系数0.1。初始一个channel，中间层64个channel，最后一层4个channel，然后经过重组像素图像(Pixel Shuffle)层，由四个channel组合出一个高分辨率channel，像素点个数量成为4倍；网络中间层的部分结果会跳跃向后传输；生成的视频帧与原始高分辨视频帧进行对比，计算损失(Loss)函数，可以采用均方误差(mean squarederror，MSE)等损失函数。

示例性地，输入为2K视频帧的Y元素(亮度分量Y)，取值范围从0-255线性转化为0-1.0，然后减去0.5；此外，输入2K视频帧经过双三次插值(Bicubic)，并进行反向色调映射，然后单独传递到输出阶段，与神经网络的处理结果进行叠加，作为模块的输出。

双三次差值是二维空间中最常用的插值方法。在该方法中，函数f在点(x,y)的值可以通过矩形网格中最近的十六个采样点的加权平均得到，使用两个多项式插值三次函数，每个方向使用一个。双三次插值又叫双立方插值，用于在图像中“插值”(Interpolating)或增加“像素”(Pixel)数量/密度的一种方法。通常利用插值技术增加图形数据，以便在它打印或其他形式输出的时候，能够增大打印面积以及(或者)分辨率。

本申请中，通过图9所示的神经网络只需要处理输入与插值的残差部分，降低了网络处理的复杂度。

进一步地，本申请中采用深度卷积神经网络做上采样处理，能够将视频分辨率提升两倍。

图10是本申请中训练卷积神经网络的输入参数的示意图。图10所示的方法包括步骤901至步骤904，下面分别对步骤901至步骤904进行详细描述。

步骤901，对输入的原始视频的HDR图像即原始YUV序列进行色调映射处理和下采样处理，然后进行视频的编码得到视频的SDR图像的码流。

示例性地，对视频的高动态范围HDR图像进行下采样处理和色调映射处理，得到所述视频的SDR图像。

例如，SDR图像的像素精度为8bit，HDR图像的像素精度为10bit，下采样处理可以看作是将图像的分辨率降低，如从4K的视频降低到1080p的视频，其中，可以是对图片的采样点数量的减少。

例如，色调映射可以看作是将图像从10bit像素精度到8bit像素精度的映射。对视频为HDR图像进行色调映射处理，即可以是将高动态范围的视频序列经过色调映射后得到普通动态范围的视频序列。

步骤902：对步骤901中得到的视频的SDR图像的码流进行解码，得到视频的SDR图像。

步骤903：将原始视频的HDR图像作为输出目标，将得到的视频的SDR图像作为输入量，对卷积神经网络进行训练。

例如，将输入的4K原始YUV序列经过色调映射处理、下采样处理、编码以及解码得到2K编码YUV序列作为卷积神经网络的输入量。

本申请中，网络参数经过训练确定，训练要求的数据为低分辨率的视频和对应的高分辨率视频。在已有4K高分辨率HDR视频(原始视频，未编码)的情况下，可以经过色调映射，再通过Bicubic下采样，得到2K视频；2K视频经过HEVC编码，再解码得到低分辨率的视频。通过该方法生成卷积神经网路的输入量，引入了编码造成的失真效果，使得能够更好的适配真实编解码场景。

上文结合图7至图10对本申请实施例的视频解码方法进行了详细的描述，下面结合图11和图12对本申请实施例的视频编码方法进行描述，应理解，图11所示的视频编码方法与图7所示的视频编码方法是相对应的(图11所示的视频编码方法最终得到的码流可以采用图7所示的视频解码方法进行处理)，为了避免不必要的重复，下面在结合图11对本申请实施例的视频编码方法进行介绍时适当省略重复的描述。

图11是本申请实施例的视频编码方法的示意性流程图。图11所示的方法可以由编码端设备执行，图11所示的方法包括步骤2001至步骤2005，下面分别对步骤2001至步骤2005进行介绍。

应注意，图11的例子仅仅是为了帮助本领域技术人员理解本申请实施例，而非要将本申请实施例限于所例示的具体场景。本领域技术人员根据所给出的图11的例子，显然可以进行各种等价的修改或变化，这样的修改或变化也落入本申请实施例的范围内。

2001、对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像。

可选地，在步骤2001之前，可以根据视频的高动态范围HDR图像构造视频的低分辨率的SDR图像。

示例性地，对视频的高动态范围HDR图像进行下采样处理和色调映射处理，得到所述视频的SDR图像块，即视频的第一图像块。

2002、对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像。

其中，对视频的第一图像进行重构处理，获得视频的第二图像。即可以是将视频的低分辨率的SDR图像经过像素精度的提高以及像素精度的提升，使得通过视频的低分辨率的图像重构高分辨率的HDR图像。

也就是说，在本申请中，通过视频的原始图像即视频的HDR图像经过降低分辨率以及像素精度等处理后，获得视频的低分辨率以及精度的图像即可以是SDR图像，对SDR图像再通过提高像素精度以及分辨率处理，获得重构的HDR图像即重构的第二图像。

应理解的是，重构的HDR图像与视频的HDR图像是存在差异的，视频的HDR图像即未经过编解码以及处理的视频的原始HDR图像。而重构的HDR图像则可以是通过分辨率以及像素精度处理后得到的HDR图像。

2003、根据视频的第二图像与视频的HDR图像确定残差。

应理解，残差计算可以是基于图像和预测图像。计算残差，例如，通过逐样本(逐像素)将图像的样本值减去预测图像的样本值，以在样本域中获取残差。

示例性地，根据视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。即假设视频的HDR图像的像素值为A，第二图像的像素值为B，则视频的第二图像与视频的HDR图像之间的残差X＝A-B。

2004、对残差进行增强层编码，以获取增强层码流。

应理解，残差可以是两个高动态范围图像之间的残差，残差与视频的HDR图像相比携带的信息量较小，因此，对残差进行编码与对视频的HDR图像进行编码相比，进行编码时码率的要求相对较低。

2005、将基础层码流与增强层码流进行复用，以获取视频的HDR图像的码流。

其中，通过基础层码流与增强层码流的复用，可以得到视频的HDR图像的SVC码流。

本申请中，通过对视频的HDR图像进行分辨率以及像素精度处理构建视频的SDR图像，从而对SDR图像进行基础层编码，再将构建获得的SDR图像通过重构获得视频的重构HDR图像，确定视频的重构HDR图像与视频的HDR图像的残差，进一步对残差进行增强层编码，从而能够实现视频的HDR图像的可伸缩视频编码。

下面结合图12，更加详细的描述本申请实施例中的编码侧的具体流程。应注意，图12的例子仅仅是为了帮助本领域技术人员理解本申请实施例，而非要将本申请实施例限于所例示的具体场景。本领域技术人员根据所给出的图8的例子，显然可以进行各种等价的修改或变化，这样的修改或变化也落入本申请实施例的范围内。

图12为本申请实施例提供的编码侧的流程示意图。图12所示的方法包括步骤701至步骤705，下面分别对步骤701至步骤705进行详细描述。

步骤701：对原始输入的视频的HDR图像进行经过色调映射处理和下采样处理获得低分辨率的视频的SDR图像，即视频的LR-SDR图像。

步骤702：对LR-SDR图像进行基础层编码，输出基础层码流。

步骤703：对LR-SDR编码后的码流进行解码重构，再进行上采样超分辨率处理和反向色调映射处理，得到高分辨率的视频的HDR图像，即重构的视频的HR-HDR图像。

需要说明的是，步骤703是在联合上采样超分辨率(upscaling superresolution)和反向色调映射(inversely tone mapped，ITMed)的模块中进行，该模块采用深度神经网络结构设计，网络的参数经过了预先训练，即联合SR-ITM DNN模块。(具体流程可以参考上述图9和图10)

步骤704：将经过上采样和ITM得到的重构HR-HDR图像作为高层编码的预测参考，将原始视频的HDR图像与获取的重构的的视频的HR-HDR图像进行计算残差，然后只对残差进行高层编码，输出残差对应的码流。

应理解，在这种编码方式下不需要对原始视频的HDR图像进行独立的编码，体现了SVC编码的可扩展性。输出为高层编码码流，用于对底层编码的视频帧进行提升，包括分辨率的提高和色彩深度的增加。

步骤705：将基础层码流(低层码流)和增强层码流(高层码流)进行复用，构成完整的视频的HDR图像对应的SVC视频编码码流。

本申请中，可以通过对原始视频的HDR图像与重构获得的HDR图像之间的残差进行编码，输出残差对应的增强层码流。基础层通过对原始视频的HDR图像进行分辨率和像素精度处理后得到的视频的SDR图像进行编码，输出基础层码流，从而实现视频的HDR图像的可伸缩编码。

上文结合图1至图12对本申请实施例的视频编码方法和视频编码方法进行了详细介绍，下面结合图13对本申请实施例的视频解码器进行介绍，图13所示的视频解码器能够执行本申请实施例的视频解码方法中的各个步骤，上文中对本申请实施例的视频解码器方法的相关限定同样也适用于图13所示的视频解码器，为了避免不必要的重复，下面对本申请实施例的视频解码器装置进行介绍时适当省略重复的描述。

图13是本申请实施例的视频解码器的示意性框图。图13所示的视频解码器800包括：

处理单元810，用于解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；

重构单元820，用于对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；

所述处理单元810，还用于解码增强层码流，以获取残差；将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

本申请中，可以通过视频的第一图像重构视频的第二图像，即通过视频的SDR图像重构视频的HDR图像，将重构视频的HDR图像与残差叠加，从而获得视频的目标图像，实现对视频的HDR图像分层码流进行视频解码。

应理解，在本申请中重构单元820可以是采用如图9所示的深度神经网络的结构设计。

可选地，作为一个实施例，所述重构单元820，具体用于对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

可选地，作为一个实施例，所述重构单元820，具体用于采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

可选地，作为一个实施例，所述处理单元810，还用于解复用码流，以获取所述基础层码流和所述增强层码流，其中，所述基础层码流为所述视频的第一图像对应的码流，所述增强层码流为所述残差对应的码流。

可选地，作为一个实施例，所述处理单元810，还用于输出所述视频的目标图像。

应理解，这里的视频解码器800以功能单元的形式体现。这里的术语“单元”可以指应用特有集成电路(application specific integrated circuit，ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。在一个可选例子中，本领域技术人员可以理解，视频解码器800可以用于执行上述方法实施例中与视频解码方法对应的各个流程和/或步骤，为避免重复，在此不再赘述。

图14是本申请实施例的视频编码器的示意性框图。图14所示的视频编码器900包括：

处理单元910，用于对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；

重构单元920，用于对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；

所述处理单元910，还用于根据所述视频的第二图像与所述视频的HDR图像确定残差；对所述残差进行增强层编码，以获取增强层码流；将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

应理解，在本申请中重构单元920可以是采用如图9所示的深度神经网络的结构设计。

可选地，作为一个实施例，所述重构单元920，具体用于对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

可选地，作为一个实施例，所述重构单元920，具体用于采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

可选地，作为一个实施例，所述处理单元910，具体用于根据所述视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。

可选地，作为一个实施例，所述处理单元910，还用于对所述视频的HDR图像进行下采样处理和色调映射处理，以获取所述视频的第一图像。

应理解，这里的视频编码器900以功能单元的形式体现。这里的术语“单元”可以指应用特有集成电路(application specific integrated circuit，ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。在一个可选例子中，本领域技术人员可以理解，视频编码器900可以用于执行上述方法实施例中与视频编码方法对应的各个流程和/或步骤，为避免重复，在此不再赘述。

图15示出了本申请另一个实施例的视频解码器600的示意性框图。如图15所示，该视频解码器600可以执行上述方法实施例中的与视频解码方法对应的各个流程和/或步骤。

该视频解码器600可以包括处理器61(即，可以为图13中的处理单元810和重构单元820)和存储器62。该存储器62用于存储指令，该处理器61用于执行该存储器62存储的指令，以使该视频解码器600实现如图7和图8中对应的视频解码方法对应的各个流程和/或步骤，为避免重复，在此不再赘述。

进一步的，该视频解码器600还可以包括输入口63和输出口64。进一步的，该处理器61、存储器62、输入口63和输出口64可以通过内部连接通路互相通信，传递控制和/或数据信号。存储器62用于存储计算机程序，该处理器61可以用于从该存储器62中调用并运行该计算机程序。存储器62可以集成在处理器61中，也可以与处理器61分开设置。

可选地，若该视频解码器为芯片或电路，该输入口63为输入接口，该输出口64为输出接口。

作为一种实现方式，输入口63和输出口64的功能可以考虑通过收发电路或者收发的专用芯片实现。处理器61可以考虑通过专用处理芯片、处理电路、处理器或者通用芯片实现。

可选的，若该视频解码器600为芯片或电路，所述视频解码器600也可以不包括存储器62，所述处理器61可以读取该芯片外部的存储器中的指令。

作为另一种实现方式，可以考虑使用通用计算机的方式来实现本申请实施例提供的视频解码器600。即将实现处理器61、输入口63和输出口64功能的程序代码存储在存储器62中，通用处理器通过执行存储器62中的代码来实现处理器61、输入口63和输出口64的功能。

处理器61主要用于对通信数据进行处理，以及对整个视频解码器600进行控制，执行软件程序，处理软件程序的数据，例如，解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；解码增强层码流，以获取残差；将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

在本申请的实施例中，图15可以为一种视频解码器600的结构示意图。可以用于实现上述方法中的视频解码器的功能。其中，处理器61可以执行图13中视频解码器800中处理单元810和重构单元820的功能，本申请对此不作限定。

本领域技术人员可以理解，为了便于说明，图15仅示出了一个存储器62和处理器61。在实际的视频解码器600中，可以存在多个处理器61和存储器62。存储器62也可以称为存储介质或者存储设备等，本申请实施例对此不做限制。

图16示出了本申请另一个实施例的视频编码器700的示意性框图。如图16所示，该视频编码器700可以为视频编码器，也可以为芯片或电路，如可设置于视频编码器内的芯片或电路。其中，该视频编码器700可以执行上述方法实施例中的与视频编码方法对应的各个流程和/或步骤。

该视频编码器700可以包括处理器71(即，可以为图14中的处理单元910和重构单元920)和存储器72。该存储器72用于存储指令，该处理器71用于执行该存储器72存储的指令，以使视频编码器700实现前述如图11和图12中对应的视频编码方法对应的各个流程和/或步骤，为避免重复，在此不再赘述。

进一步的，该视频编码器700还可以包括输入口73和输出口74。再进一步的，该处理器71、存储器72、输入口73和输出口74可以通过内部连接通路互相通信，传递控制和/或数据信号。存储器72用于存储计算机程序，该处理器71可以用于从该存储器72中调用并运行该计算机程序，以控制输入口73接收数据，控制输出口74发送数据。该存储器72可以集成在处理器71中，也可以与处理器71分开设置。

可选地，若该视频编码器700为芯片或电路，该输入口73为输入接口，该输出口74为输出接口。

可选的，若该视频编码器700为芯片或电路，所述视频编码器700也可以不包括存储器72，所述处理器71可以读取该芯片外部的存储器中的指令。

作为一种实现方式，输入口73和输出口74的功能可以考虑通过收发电路或者收发的专用芯片实现。处理器71可以考虑通过专用处理芯片、处理电路、处理器或者通用芯片实现。

作为另一种实现方式，可以考虑使用通用计算机的方式来实现本申请实施例提供的视频编码器700。即将实现处理器71、输入口73和输出口74功能的程序代码存储在存储器中，通用处理器通过执行存储器中的代码来实现处理器71、输入口73和输出口74的功能。

处理器71主要用于对通信数据进行处理，以及对整个视频编码器700进行控制，执行软件程序，处理软件程序的数据，例如，对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；根据所述视频的第二图像与所述视频的HDR图像确定残差；对所述残差进行增强层编码，以获取增强层码流；将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

在本申请的实施例中，图16可以为一种视频编码器700的结构示意图。可以用于实现上述方法中的视频编码器的功能。其中，处理器71可以执行图14中视频编码器900中处理单元910和重构单元920的功能，本申请对此不作限定。

本领域技术人员可以理解，为了便于说明，图16仅示出了一个存储器72和处理器71。在实际的视频编码器700中，可以存在多个处理器71和存储器72。存储器72也可以称为存储介质或者存储设备等，本申请实施例对此不做限制。

上述本申请的实施例中视频编解码方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(digital signal processor，DSP)，专用集成电路(application specific integrated circuit，ASIC)，现成可编程门阵列(fieldprogrammable gate array，FPGA)或者其他可编程逻辑器件，分立门或者晶体管逻辑器件，分立硬件组件，还可以是系统芯片(system on chip，SoC)，还可以是中央处理器(centralprocessor unit，CPU)，还可以是网络处理器(network processor，NP)，还可以是数字信号处理电路(digital signal processor，DSP)，还可以是微控制器(micro controllerunit，MCU)，还可以是可编程控制器(programmable logic device，PLD)或其他集成芯片。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存取存储器(random access memory，RAM)、闪存、只读存储器(read-only memory，ROM)、可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的指令，结合其硬件完成上述方法的步骤。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims

1.一种视频解码方法，其特征在于，包括：

解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；

对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；

解码增强层码流，以获取残差；

将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

2.根据所述权利要求1所述的视频解码方法，其特征在于，所述对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，包括：

对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

3.根据权利要求2所述的视频解码方法，其特征在于，所述对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像，包括：

采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

4.根据权利要求1至3中任一项所述的视频解码方法，其特征在于，所述方法还包括：

解复用码流，以获取所述基础层码流和所述增强层码流，其中，所述基础层码流为所述视频的第一图像对应的码流，所述增强层码流为所述残差对应的码流。

5.根据权利要求1至4中任一项所述的视频解码方法，其特征在于，所述方法还包括：

输出所述视频的目标图像。

6.一种视频编码方法，其特征在于，包括：

对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；

根据所述视频的第二图像与所述视频的HDR图像确定残差；

对所述残差进行增强层编码，以获取增强层码流；

将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

7.根据所述权利要求6所述的视频编码方法，其特征在于，所述对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，包括：

8.根据权利要求7所述的视频编码方法，其特征在于，所述对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像，包括：

9.根据权利要求6至8中任一项所述的视频编码方法，其特征在于，所述根据所述视频的第二图像与所述视频的HDR图像确定残差，包括：

根据所述视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。

10.根据权利要求6至9中任一项所述的视频编码方法，其特征在于，所述对视频的第一图像进行基础层编码之前，所述方法还包括：

对所述视频的HDR图像进行下采样处理和色调映射处理，以获取所述视频的第一图像。

11.一种视频解码器，其特征在于，包括：

至少一个存储器；

耦合到所述至少一个存储器的至少一个处理器，所述至少一个处理器配置为：解码基础层码流，以获取视频的第一图像，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；解码增强层码流，以获取残差；将所述残差与所述视频的第二图像进行叠加，以获取所述视频的目标图像。

12.根据所述权利要求11所述的视频解码器，其特征在于，所述至少一个处理器配置为：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

13.根据权利要求12所述的视频解码器，其特征在于，所述至少一个处理器配置为：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

14.根据权利要求11至13中任一项所述的视频解码器，其特征在于，所述至少一个处理器配置为：解复用码流，以获取所述基础层码流和所述增强层码流，其中，所述基础层码流为所述视频的第一图像对应的码流，所述增强层码流为所述残差对应的码流。

15.根据权利要求11至14中任一项所述的视频解码器，其特征在于，所述至少一个处理器配置为：输出所述视频的目标图像。

16.一种视频编码器，其特征在于，包括：

至少一个存储器；

耦合到所述至少一个存储器的至少一个处理器，所述至少一个处理器配置为：对视频的第一图像进行基础层编码，以获取基础层码流，所述视频的第一图像为普通动态范围SDR的图像；对所述视频的第一图像进行重构处理，以获取所述视频的第二图像，所述视频的第二图像为高动态范围HDR的图像；根据所述视频的第二图像与所述视频的HDR图像确定残差；对所述残差进行增强层编码，以获取增强层码流；将所述基础层码流与所述增强层码流进行复用，以获取所述视频的HDR图像的码流。

17.根据所述权利要求16所述的视频编码器，其特征在于，所述至少一个处理器配置为：对所述视频的第一图像进行上采样处理和反向色调映射处理，以获取所述视频的第二图像。

18.根据权利要求17所述的视频编码器，其特征在于，所述至少一个处理器配置为：采用深度神经网络对所述视频的第一图像进行所述上采样处理和所述反向色调映射处理，以获取所述视频的第二图像，其中，将所述视频的第一图像作为所述深度神经网络的输入量，所述视频的HDR图像作为所述深度神经网络的输出目标。

19.根据权利要求16至18中任一项所述的视频编码器，其特征在于，所述至少一个处理器配置为：根据所述视频的HDR图像的像素值与所述第二图像的像素值的差值确定残差值。

20.根据权利要求16至19中任一项所述的视频编码器，其特征在于，所述至少一个处理器配置为：对所述视频的HDR图像进行下采样处理和色调映射处理，以获取所述视频的第一图像。