CN114007067B - 对视频信号进行解码的方法、设备和介质 - Google Patents

Abstract

一种电子装置执行对视频数据进行解码的方法。该方法包括：接收包括第一分量和第二分量的视频信号；接收与第二分量相关联的多个偏移；利用第一分量的样值来获得与第二分量相关联的分类器；基于分类器将第一分量的样值的范围划分为若干带；基于第一分量的样值的强度值选择带；根据所选择的带从多个偏移中为第二分量选择偏移；以及基于所选择的偏移来修改第二分量。

Description

对视频信号进行解码的方法、设备和介质

相关申请的交叉引用

本申请要求于2020年7月28日提交的名称为“Cross-component Sample AdaptiveOffset(跨分量样值偏移补偿，CCSAO)”的美国临时专利申请号63/057,303的优先权，所述美国临时专利申请通过引用以其全文并入。

技术领域

本申请总体上涉及视频编解码和压缩，并且更具体地，涉及提高色度编解码效率的方法和装置。

背景技术

如数字电视、膝上型计算机或台式计算机、平板计算机、数码相机、数字记录设备、数字媒体播放器、视频游戏机、智能手机、视频电话会议设备、视频流式传输设备等各种电子设备都支持数字视频。电子设备通过实施视频压缩/解压缩标准来传输、接收、编码、解码和/或存储数字视频数据。一些众所周知的视频编解码标准包括通用视频编码(VersatileVideo Coding，VVC)、高效视频编码(High Efficiency Video Coding，HEVC，也被称为H.265或MPEG-H第2部分)和高级视频编码(Advanced Video Coding，AVC，也被称为H.264或MPEG-4第10部分)，这些视频编解码标准由ISO/IEC MPEG和ITU-T VCEG联合开发。开放媒体联盟视频1(AOMedia Video 1，AV1)由开放媒体联盟(Alliance for Open Media，AOM)开发作为其先前标准VP9的后续标准。音视频编解码(Audio Video Coding，AVS)(其是指数字音频和数字视频压缩标准)是中国数字音视频编解码技术标准工作组(Audio and VideoCoding Standard Workgroup of China)开发的另一个视频压缩系列标准。

视频压缩典型地包括执行空间(帧内)预测和/或时间(帧间)预测以减少或消除视频数据中固有的冗余。对于基于块的视频编解码，将视频帧分区为一个或多个片，每个片具有多个视频块，所述视频块也可以被称为编码树单元(Coding Tree Units，CTU)。每个CTU可以包含一个编码单元(Coding Units，CU)或递归地分割成较小的CU，直到达到预设的最小CU大小。每个CU(也称为叶CU)包含一个或多个变换单元(Transform Units，TU)，并且每个CU还包含一个或多个预测单元(Prediction Units，PU)。可以以帧内、帧间或IBC模式对每个CU进行编解码。相对于同一视频帧内的相邻块中的参考样本，使用空间预测对视频帧的帧内编解码(I)片中的视频块进行编码。视频帧的帧间编解码(P或B)片中的视频块可以相对于同一视频帧内的相邻块中的参考样本使用空间预测或相对于其他先前和/或未来参考视频帧中的参考样本使用时间预测。

基于先前已被编码的参考块(例如，相邻块)的空间或时间预测产生针对待编解码的当前视频块的预测块。查找参考块的过程可以通过块匹配算法来完成。表示待编解码的当前块与预测块之间的像素差的残差数据被称为残差块或预测误差。根据指向形成预测块的参考帧中的参考块的运动向量、以及残差块来对帧间编码块进行编码。确定运动向量的过程典型地被称为运动估计。根据帧内预测模式和残差块对帧内编码块进行编码。为了进一步压缩，将残差块从像素域变换到变换域，例如频域，从而产生残差变换系数，然后可以对所述残差变换系数进行量化。可以扫描最初布置为二维阵列的量化的变换系数，以产生变换系数的一维向量，并且然后将其熵编码为视频比特流，以实现更多的压缩。

然后，将已编码视频比特流保存在计算机可读存储介质(例如，闪速存储器)中，以被具有数字视频能力的另一个电子设备访问，或者直接以有线或无线方式传输到电子设备。然后，电子设备通过例如解析已编码视频比特流以从比特流获得语法元素并且至少部分地基于从比特流获得的语法元素将数字视频数据从已编码视频比特流重构为其原始格式来执行视频解压缩(其是与上文描述的视频压缩相反的过程)，并且在电子设备的显示器上渲染重构的数字视频数据。

随着数字视频质量从高清到4K×2K或甚至8K×4K，待编码/解码的视频数据量呈指数增长。如何在保持解码视频数据的图像质量的同时更高效地对视频数据进行编码/解码方面一直存在挑战。

发明内容

本申请描述了涉及视频数据编码和解码、更具体地涉及改进色度编解码的编解码效率的方法和装置(包括通过探索亮度分量与色度分量之间的跨分量关系来改进编解码效率)的实施方式。

根据本申请的第一方面，一种对视频信号进行解码的方法包括：接收包括第一分量和第二分量的视频信号；接收与第二分量相关联的多个偏移；利用第一分量的样值来获得与第二分量相关联的分类器；基于分类器将第一分量的样值的范围划分为若干带；基于第一分量的样值的强度值选择带；根据所选择的带从多个偏移中为第二分量选择偏移；以及基于所选择的偏移来修改第二分量。在一些实施例中，所选择的带如下获得：Class＝(Y*band_num)＞＞bit_depth，其中，band_num是第一分量的动态范围的划分带数量，Y是第一分量的样值的强度值，bit_depth是序列位深度，并且Class是第二分量的所选择的带的类索引。

根据本申请的第二方面，一种电子装置包括一个或多个处理单元、存储器以及存储在所述存储器中的多个程序。程序当由一个或多个处理单元执行时使电子装置执行如上文描述的对视频数据进行编解码的方法。

根据本申请的第三方面，一种非暂态计算机可读存储介质存储用于由具有一个或多个处理单元的电子装置执行的多个程序。程序当由一个或多个处理单元执行时使电子装置执行如上文描述的对视频数据进行编解码的方法。

附图说明

被包括在内以提供对实施方式的进一步理解并且并入本文并构成说明书的一部分的附图图示了所描述的实施方式，并且与说明书一起用于解释基本原理。相似的附图标记指代对应的部分。

图1是图示了根据本公开的一些实施方式的示例性视频编码和解码系统的框图。

图2是图示了根据本公开的一些实施方式的示例性视频编码器的框图。

图3是图示了根据本公开的一些实施方式的示例性视频解码器的框图。

图4A至图4E是图示了根据本公开的一些实施方式的如何将帧递归地分区成具有不同大小和形状的多个视频块的框图。

图5是描绘了根据本公开的一些实施方式的在样本自适应偏移(SAO)中使用的四种梯度模式的框图。

图6A是图示了根据本公开的一些实施方式的跨分量样值偏移补偿(CCSAO)的系统和过程的框图。

图6B是图示了根据本公开的一些实施方式的与AVS标准中的ESAO并行应用的CCSAO的系统和过程的框图。

图7是图示了根据本公开的一些实施方式的使用CCSAO的样本过程的框图。

图8是图示了根据本公开的一些实施方式的CCSAO过程被交错到垂直和水平去块滤波器(DBF)的框图。

图9是图示了根据本公开的一些实施方式的使用跨分量相关性对视频信号进行解码的示例性过程的流程图。

图10是示出了根据本公开的一些实施方式的使用不同亮度样本位置进行分类的分类器的框图。

图11是图示了根据本公开的一些实施方式的除了亮度之外，其他跨分量并置和相邻色度样本也被馈送到CCSAO分类中的样本过程的框图。

图12图示了根据本公开的一些实施方式的通过用通过对并置亮度样本和相邻亮度样本进行加权而获得的值来替换并置亮度样值的示例性分类器。

图13A是图示了根据本公开的一些实施方式的如果用于分类的并置亮度样本和相邻亮度样本中的任何一个在当前图像之外时不将CCSAO应用于当前色度样本的框图。

图13B是图示了根据本公开的一些实施方式的如果用于分类的并置亮度样本和相邻亮度样本中的任何一个在当前图像之外时将CCSAO应用于当前色度样本的框图。

图14是图示了根据本公开的一些实施方式的使用跨分量相关性分类对视频信号进行解码的示例性过程的流程图。

具体实施方式

现在将详细参考具体实施方式，附图中图示了这些实施方式的示例。在以下详细描述中，阐述了许多非限制性的具体细节，以便帮助理解本文提出的主题。但是对于本领域的普通技术人员将显而易见的是，在不脱离权利要求的范围的情况下，可以使用各种替代性方案，并且可以在没有这些具体细节的情况下实践主题。例如，对于本领域的普通技术人员将显而易见的是，本文提出的主题可以在具有数字视频能力的许多类型的电子设备上实施。

第一代AVS标准包括中国国家标准“信息技术高级音视频编解码第2部分：视频”(被称为AVS1)和“信息技术高级音视频编解码第16部分：广播电视视频”(被称为AVS+)。与MPEG-2标准相比，第一代AVS标准可以在相同的感知质量下提供大约50％的比特率节省。第二代AVS标准包括中国国家标准“信息技术高效多媒体编解码”(被称为AVS2)系列，其主要针对额外HD TV节目的传输。AVS2的编解码效率是AVS+的编解码效率的两倍。同时，AVS2标准视频部分由电气和电子工程师协会(Institute of Electrical and ElectronicsEngineers,IEEE)作为一项国际应用标准提交。AVS3标准是针对UHD视频应用的新一代视频编解码标准，旨在超越最新国际标准HEVC的编解码效率，AVS3标准提供了超过HEVC标准大约30％的比特率节省。2019年3月，在第68届AVS会议上，AVS3-P2基线已经完成，其提供了超过HEVC标准大约30％的比特率节省。目前，AVS工作组维护着一种用于展示AVS3标准的参考实施方式的参考软件，被称为高性能模型(High Performance Model,HPM)。与HEVC一样，AVS3标准在基于块的混合视频编解码框架上构建。

图1是图示了根据本公开的一些实施方式的用于并行地对视频块进行编码和解码的示例性系统10的框图。如图1所示，系统10包括源设备12，所述源设备生成并且编码待由目的地设备14在稍后时间解码的视频数据。源设备12和目的地设备14可以包括多种电子设备中的任何一种，所述多种电子设备包括台式计算机或膝上型计算机、平板计算机、智能电话、机顶盒、数字电视、相机、显示设备、数字媒体播放器、视频游戏机、视频流式传输设备等。在一些实施方式中，源设备12和目的地设备14配备有无线通信能力。

在一些实施方式中，目的地设备14可以经由链路16接收待解码的已编码视频数据。链路16可以包括能够将已编码视频数据从源设备12移到目的地设备14的任何类型的通信介质或设备。在一个示例中，链路16可以包括用于使源设备12能够实时地将已编码视频数据直接传输到目的地设备14的通信介质。已编码视频数据可以根据如无线通信协议等通信标准来调制并传输到目的地设备14。通信介质可以包括任何无线或有线通信介质，如射频(Radio Frequency,RF)频谱或一条或多条物理传输线。通信介质可以形成基于分组的网络(如局域网、广域网或全球网(如互联网))的一部分。通信介质可以包括路由器、交换机、基站或可以用于促进从源设备12到目的地设备14的通信的任何其他设备。

在一些其他实施方式中，已编码视频数据可以从输出接口22传输到存储设备32。随后，存储设备32中的已编码视频数据可以由目的地设备14经由输入接口28访问。存储设备32可以包括各种分布式或本地访问的数据存储介质中的任一种，如硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪速存储器、易失性存储器或非易失性存储器或用于存储已编码视频数据的任何其他合适的数字存储介质。在进一步示例中，存储设备32可以对应于可以保持由源设备12生成的已编码视频数据的文件服务器或另一个中间存储设备。目的地设备14可以经由流式传输或下载从存储设备32访问所存储的视频数据。文件服务器可以是能够存储已编码视频数据并且将已编码视频数据传输到目的地设备14的任何类型的计算机。示例性文件服务器包括web服务器(例如，用于网站)、FTP服务器、网络附加存储(NAS)设备或本地磁盘驱动器。目的地设备14可以通过任何标准数据连接访问已编码视频数据，所述连接包括适于访问存储在文件服务器上的已编码视频数据的无线信道(例如，Wi-Fi连接)、有线连接(例如，DSL、电缆调制解调器等)或两者的组合。从存储设备32传输已编码视频数据可以是流式传输、下载传输或两者的组合。

如图1所示，源设备12包括视频源18、视频编码器20和输出接口22。视频源18可以包括如视频捕获设备等源，例如摄像机、包含先前捕获的视频的视频档案、用于从视频内容提供方接收视频的视频馈送接口和/或用于生成计算机图形数据作为源视频的计算机图形系统或这种源的组合。作为一个示例，如果视频源18是安全监控系统的摄像机，则源设备12和目的地设备14可以形成拍照电话或视频电话。然而，本申请中描述的实施方式通常可以适用于视频编解码并且可以应用于无线和/或有线应用。

捕获的、预先捕获的或计算机生成的视频可以由视频编码器20进行编码。已编码视频数据可以经由源设备12的输出接口22直接传输到目的地设备14。已编码视频数据也可以(或替代性地)存储到存储设备32上，以供目的地设备14或其他设备以后访问，以进行解码和/或回放。输出接口22可以进一步包括调制解调器和/或发射器。

目的地设备14包括输入接口28、视频解码器30和显示设备34。输入接口28可以包括接收器和/或调制解调器，并且通过链路16接收已编码视频数据。通过链路16传送的或提供在存储设备32上的已编码视频数据可以包括由视频编码器20生成的各种语法元素，以供视频解码器30用于解码视频数据。这种语法元素可以被包括于在通信介质上传输的、存储在存储介质上或存储在文件服务器中的已编码视频数据内。

在一些实施方式中，目的地设备14可以包括显示设备34，所述显示设备可以是集成显示设备和被配置为与目的地设备14通信的外部显示设备。显示设备34向用户显示已解码视频数据并且可以包括各种显示设备中的任何一种，如液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器或另一种类型的显示设备。

视频编码器20和视频解码器30可以根据专有或行业标准(如VVC、HEVC、MPEG-4第10部分、高级视频编码(Advanced Video Coding,AVC)、AVS或这种标准的扩展)进行操作。应当理解，本申请不限于特定的视频编解码/解码标准，并且可以适用于其他视频编解码/解码标准。通常设想到了，源设备12的视频编码器20可以被配置为根据这些当前或未来标准中的任何一种来对视频数据进行编码。类似地，通常还设想到了，目的地设备14的视频解码器30可以被配置为根据这些当前或未来标准中的任何一种来对视频数据进行解码。

视频编码器20和视频解码器30各自可以实施为各种适合的编码器电路中的任何一种，如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑、软件、硬件、固件或其任何组合。当部分地在软件中实施时，电子设备可以将用于软件的指令存储在合适的非暂态计算机可读介质中并且使用一个或多个处理器在硬件中执行指令以执行本公开中公开的视频编解码/解码操作。视频编码器20和视频解码器30中的每一个可以包括在一个或多个编码器或解码器中，所述一个或多个编码器或解码器中的任一个可以集成为相应设备中的组合编码器/解码器(CODEC)的一部分。

图2是图示了根据本申请中描述的一些实施方式的示例性视频编码器20的框图。视频编码器20可以执行对视频帧内的视频块的帧内预测编解码和帧间预测编解码。帧内预测编解码依赖于空间预测来减少或去除给定视频帧或图像内的视频数据的空间冗余。帧间预测编解码依赖于时间预测以减少或去除视频序列的相邻视频帧或图像内的视频数据的时间冗余。

如图2所示，视频编码器20包括视频数据存储器40、预测处理单元41、已解码图像缓冲器(Decoded Picture Buffer,DPB)64、加法器50、变换处理单元52、量化单元54和熵编码单元56。预测处理单元41进一步包括运动估计单元42、运动补偿单元44、分区单元45、帧内预测处理单元46和帧内块复制(Block Copy,BC)单元48。在一些实施方式中，视频编码器20还包括用于视频块重构的逆量化单元58、逆变换处理单元60和加法器62。环路滤波器(如去块滤波器(未示出))可以位于加法器62与DPB 64之间，以对块边界进行滤波，以从重构的视频中去除块效应伪像。除了去块滤波器之外，还可以使用另一个环路滤波器(未示出)来对加法器62的输出进行滤波。在将重构的CU置于参考图像存储中并用作对未来的视频块进行编解码的参考之前，如样本自适应偏移(Sample Adaptive Offset,SAO)和自适应环路滤波器(Adaptive in-loop Filter,ALF)等进一步的环路滤波可以应用于重构的CU。视频编码器20可以采用固定或可编程硬件单元的形式，或可以在所图示的固定或可编程硬件单元中的一个或多个中进行划分。

视频数据存储器40可以存储待由视频编码器20的部件编码的视频数据。视频数据存储器40中的视频数据可以例如从视频源18获得。DPB 64是存储参考视频数据以用于由视频编码器20对视频数据进行编码(例如，在帧内预测编解码模式或帧间预测编解码模式下)的缓冲器。视频数据存储器40和DPB 64可以由多种存储器设备中的任何一种形成。在各个示例中，视频数据存储器40可以与视频编码器20的其他部件一起在片上，或者相对于那些部件在片外。

如图2所示，在接收到视频数据之后，预测处理单元41内的分区单元45将视频数据分区为视频块。此分区还可以包括根据预设的分割结构(如与视频数据相关联的四叉树结构)将视频帧分区为片、图块或其他更大的编码单元(Coding Units,CU)。视频帧可以被划分成多个视频块(或称为图块的视频块集)。预测处理单元41可以基于误差结果(例如，编解码率和失真级别)为当前视频块选择多个可能的预测编解码模式之一，如多个帧内预测编解码模式之一或多个帧间预测编解码模式之一。预测处理单元41可以将所得的帧内预测编码块或帧间预测编码块提供给加法器50以生成残差块，并且提供给加法器62以重构编码块以随后用作参考帧的一部分。预测处理单元41还将如运动向量、帧内模式指示符、分区信息和其他这种语法信息等语法元素提供给熵编码单元56。

为了为当前视频块选择适当的帧内预测编解码模式，预测处理单元41内的帧内预测处理单元46可以相对于与待编解码的当前块相同的帧中的一个或多个相邻块执行对当前视频块的帧内预测编解码，以提供空间预测。预测处理单元41内的运动估计单元42和运动补偿单元44相对于一个或多个参考帧中的一个或多个预测块执行对当前视频块的帧间预测编解码，以提供时间预测。视频编码器20可以执行多个编码通道，例如，以便为视频数据的每个块选择适当的编解码模式。

在一些实施方式中，运动估计单元42根据视频帧序列内的预定模式通过生成运动向量来确定当前视频帧的帧间预测模式，所述运动向量指示当前视频帧内的视频块的预测单元(Prediction Units,PU)相对于参考视频帧内的预测块的位移。由运动估计单元42执行的运动估计是生成运动向量的过程，所述过程估计了视频块的运动。运动向量例如可以指示当前视频帧或图像内的视频块的PU相对于参考帧内的预测块(或其他编码单元)的位移，所述预测块相对于在当前帧内编解码的当前块(或其他编码单元)。预定模式可以将序列中的视频帧指定为P帧或B帧。帧内BC单元48可以以与由运动估计单元42确定运动向量以进行帧间预测的方式类似的方式确定用于进行帧内BC编解码的向量，例如，块向量，或者可以利用运动估计单元42来确定块向量。

预测块是在像素差方面被认为与待编解码的视频块的PU紧密匹配的参考帧的块，所述像素差可以由绝对差和(Sum of Absolute Difference,SAD)、平方差和(Sum ofSquare Difference,SSD)或其他差值度量来确定。在一些实施方式中，视频编码器20可以计算存储在DPB 64中的参考帧的子整数像素位置的值。例如，视频编码器20可以插入参考帧的四分之一像素位置、八分之一像素位置或其他分数像素位置的值。因此，运动估计单元42可以相对于全像素位置和分数像素位置执行运动搜索并且以分数像素精度输出运动向量。

运动估计单元42通过将PU的位置与从第一参考帧列表(列表0)或第二参考帧列表(列表1)中选择的参考帧的预测块的位置进行比较来计算帧间预测编解码帧中的视频块的PU的运动向量，所述列表中的每一个标识存储在DPB 64中的一个或多个参考帧。运动估计单元42将计算的运动向量发送到运动补偿单元44，并且然后发送到熵编码单元56。

由运动补偿单元44执行的运动补偿可以涉及基于由运动估计单元42确定的运动向量获取或生成预测块。在接收当前视频块的PU的运动向量后，运动补偿单元44可以在参考帧列表中的一个中定位运动向量所指向的预测块，从DPB 64取得预测块并且将预测块转发到加法器50。然后，加法器50通过从被编解码的当前视频块的像素值中减去由运动补偿单元44提供的预测块的像素值来形成具有像素差值的残差视频块。形成残差视频块的像素差值可以包括亮度差分量或色度差分量或两者。运动补偿单元44还可以生成与视频帧的视频块相关联的语法元素，以供视频解码器30在对视频帧的视频块进行解码时使用。语法元素可以包括例如定义用于标识预测块的运动向量的语法元素、指示预测模式的任何标志或本文描述的任何其他语法信息。注意，运动估计单元42和运动补偿单元44可以是高度集成的，但是出于概念性目的而分别图示。

在一些实施方式中，帧内BC单元48可以以与上文结合运动估计单元42和运动补偿单元44所描述的方式类似的方式来生成向量并且获取预测块，但是其中预测块与被编解码的当前块处于同一帧中，并且其中相对于运动向量，所述向量被称为块向量。具体地，帧内BC单元48可以确定帧内预测模式以用于对当前块进行编码。在一些示例中，帧内BC单元48可以例如在单独的编码通道期间使用各种帧内预测模式对当前块进行编码，并且通过率失真分析来测试其性能。接下来，帧内BC单元48可以在各种测试的帧内预测模式中选择适当的帧内预测模式来使用并相应地生成帧内模式指示符。例如，帧内BC单元48可以使用针对各种测试的帧内预测模式的率失真分析来计算率失真值并且在测试的模式中选择具有最佳率失真特性的帧内预测模式作为要使用的适当的帧内预测模式。率失真分析通常确定编码块与原始的未编码块(被编码以产生编码块)之间的失真(或误差)量以及用于产生编码块的比特率(即，比特数)。帧内BC单元48可以根据各个编码块的失真和速率来计算比值，以确定哪个帧内预测模式展现出块的最佳率失真值。

在其他示例中，帧内BC单元48可以全部或部分地使用运动估计单元42和运动补偿单元44，以根据本文描述的实施方式执行用于帧内BC预测的这种功能。在任一种情况下，对于帧内块复制，预测块可以是就像素差而言被视为与待编解码的块紧密匹配的块，所述像素差可以由绝对差和(SAD)、平方差和(SSD)或其他差度量确定，并且预测块的识别可以包括计算子整数像素位置的值。

无论预测块是根据帧内预测来自同一帧还是根据帧间预测来自不同帧，视频编码器20都可以通过从被编解码的当前视频块的像素值中减去预测块的像素值来形成残差视频块，从而形成像素差值。形成残差视频块的像素差值可以包括亮度分量差和色度分量差。

如上文描述的，帧内预测处理单元46可以对当前视频块进行帧内预测，作为由运动估计单元42和运动补偿单元44执行的帧间预测，或者由帧内BC单元48执行的帧内块复制预测的替代方案。具体地，帧内预测处理单元46可以确定帧内预测模式以用于对当前块进行编码。为此，帧内预测处理单元46可以例如在单独的编码通道期间使用各种帧内预测模式对当前块进行编码，并且帧内预测处理单元46(或在一些示例中为模式选择单元)可以从测试的帧内预测模式中选择适当的帧内预测模式来使用。帧内预测处理单元46可以将指示块的所选帧内预测模式的信息提供给熵编码单元56。熵编码单元56可以对指示比特流中的所选帧内预测模式的信息进行编码。

在预测处理单元41经由帧间预测或帧内预测确定当前视频块的预测块之后，加法器50通过从当前视频块中减去预测块来形成残差视频块。残差块中的残差视频数据可以被包括在一个或多个变换单元(Transform Units，TU)中，并且被提供给变换处理单元52。变换处理单元52使用如离散余弦变换(Discrete Cosine Transform，DCT)或概念上类似的变换等变换将残差视频数据变换为残差变换系数。

变换处理单元52可以将所得的变换系数发送到量化单元54。量化单元54对变换系数进行量化以进一步降低比特率。量化过程还可以减小与系数中的一些或所有系数相关联的位深度。量化程度可以通过调整量化参数来修改。在一些示例中，量化单元54然后可以执行对包括量化的变换系数的矩阵的扫描。替代性地，熵编码单元56可以执行扫描。

量化之后，熵编码单元56使用例如上下文自适应可变长度编码(contextadaptive variable length coding，CAVLC)、上下文自适应二进制算术编码(contextadaptive binary arithmetic coding，CABAC)、基于语法的上下文自适应二进制算术编码(syntax-based context-adaptive binary arithmetic coding，SBAC)、概率区间分区熵(probability interval partitioning entropy，PIPE)编码或其他熵编码方法或技术将量化的变换系数熵编码为视频比特流。然后可以将已编码比特流传输到视频解码器30，或将其存档在存储设备32中，以供以后传输到视频解码器30或由所述视频解码器取得。熵编码单元56还可以对被编解码的当前视频帧的运动向量和其他语法元素进行熵编码。

逆量化单元58和逆变换处理单元60分别应用逆量化和逆变换以在像素域中重构残差视频块，以生成用于预测其他视频块的参考块。如上所述，运动补偿单元44可以从DPB64中存储的帧的一个或多个参考块中生成运动补偿的预测块。运动补偿单元44还可以将一个或多个内插滤波器应用于预测块以计算用于运动估计中的子整数像素值。

加法器62将重构的残差块添加到由运动补偿单元44产生的运动补偿的预测块，以产生参考块用于存储在DPB 64中。参考块然后可以由帧内BC单元48、运动估计单元42和运动补偿单元44用作预测块，以对后续视频帧中的另一个视频块进行帧间预测。

图3是图示了根据本申请的一些实施方式的示例性视频解码器30的框图。视频解码器30包括视频数据存储器79、熵解码单元80、预测处理单元81、逆量化单元86、逆变换处理单元88、加法器90和DPB 92。预测处理单元81进一步包括运动补偿单元82、帧内预测处理单元84和帧内BC单元85。视频解码器30可以执行通常与上文结合图2关于视频编码器20所描述的编码过程相反的解码过程。例如，运动补偿单元82可以基于从熵解码单元80接收到的运动向量生成预测数据，而帧内预测单元84可以基于从熵解码单元80接收到的帧内预测模式指示符生成预测数据。

在一些示例中，可以给视频解码器30的单元分配任务以执行本申请的实施方式。同样，在一些示例中，本公开的实施方式可以在视频解码器30的一个或多个单元之间进行划分。例如，帧内BC单元85可以单独或与视频解码器30的其他单元(如运动补偿单元82、帧内预测处理单元84和熵解码单元80)组合执行本申请的实施方式。在一些示例中，视频解码器30可以不包括帧内BC单元85，并且帧内BC单元85的功能可以由预测处理单元81的其他部件(如运动补偿单元82)执行。

视频数据存储器79可以存储待由视频解码器30的其他部件解码的视频数据，如已编码视频比特流。例如，可以经由对视频数据进行有线或无线网络传送或者通过访问物理数据存储介质(例如，闪存驱动器或硬盘)从来自本地视频源(如相机)的存储设备32获得存储在视频数据存储器79中的视频数据。视频数据存储器79可以包括存储来自已编码视频比特流的已编码视频数据的已编码图像缓冲器(Coded Picture Buffer，CPB)。视频解码器30的已解码图像缓冲器(Decoded Picture Buffer,DPB)92存储参考视频数据，以用于由视频解码器30对视频数据进行解码(例如，在帧内预测编解码模式或帧间预测编解码模式下)。视频数据存储器79和DPB 92可以由多种存储器设备中的任一种形成，如动态随机存取存储器(Dynamic random access memory,DRAM)，包括同步DRAM(Synchronous DRAM,SDRAM)、磁阻式RAM(Magneto-resistive RAM,MRAM)、电阻式RAM(Resistive RAM,RRAM)或其他类型的存储器设备。出于说明性目的，视频数据存储器79和DPB 92在图3中被描绘为视频解码器30的两个不同的部件。但是对于本领域技术人员将显而易见的是，视频数据存储器79和DPB92可以由相同的存储器设备或单独的存储器设备提供。在一些示例中，视频数据存储器79可以与视频解码器30的其他部件一起在片上，或者相对于那些部件在片外。

在解码过程期间，视频解码器30接收表示已编码视频帧的视频块的已编码视频比特流和相关联的语法元素。视频解码器30可以在视频帧级别和/或视频块级别接收语法元素。视频解码器30的熵解码单元80对比特流进行熵解码以生成量化的系数、运动向量或帧内预测模式指示符和其他语法元素。熵解码单元80然后将运动向量和其他语法元素转发到预测处理单元81。

当视频帧被编解码为帧内预测编解码(I)帧或用于其他类型的帧中的帧内编解码预测块时，预测处理单元81的帧内预测处理单元84可以基于信号传输的帧内预测模式和来自当前帧的先前解码块的参考数据来生成当前视频帧的视频块的预测数据。

当视频帧被编解码为帧间预测编解码(即，B或P)帧时，预测处理单元81的运动补偿单元82基于从熵解码单元80接收到的运动向量和其他语法元素产生当前视频帧的视频块的一个或多个预测块。每个预测块可以从参考帧列表之一内的参考帧产生。视频解码器30可以基于存储在DPB 92中的参考帧使用默认构造技术构造参考帧列表：列表0和列表1。

在一些示例中，当根据本文描述的帧内BC模式对视频块进行编解码时，预测处理单元81的帧内BC单元85基于从熵解码单元80接收到的块向量和其他语法元素，为当前视频块产生预测块。预测块可以处于与由视频编码器20定义的当前视频块相同的图像的重构的区域内。

运动补偿单元82和/或帧内BC单元85通过解析运动向量和其他语法元素来确定当前视频帧的视频块的预测信息，并且然后使用预测信息来产生被解码的当前视频块的预测块。例如，运动补偿单元82使用接收到的语法元素中的一些来确定用于对视频帧的视频块进行编解码的预测模式(例如，帧内预测或帧间预测)、帧间预测帧类型(例如，B或P)、帧的参考帧列表中的一个或多个参考帧列表的构造信息、帧的每个帧间预测编码视频块的运动向量、帧的每个帧间预测编解码视频块的帧间预测状态以及用于对当前视频帧中的视频块进行解码的其他信息。

类似地，帧内BC单元85可以使用接收到的语法元素中的一些(例如，标志)来确定当前视频块是使用以下各项预测的：帧内BC模式、关于帧的视频块处于重构的区域内并且应存储在DPB 92中的构造信息、帧的每个帧内BC预测视频块的块向量、帧的每个帧内BC预测视频块的帧内BC预测状态以及用于对当前视频帧中的视频块进行解码的其他信息。

运动补偿单元82还可以如由视频编码器20在对视频块进行编码期间使用的那样使用内插滤波器来执行内插以计算参考块的子整数像素的内插值。在这种情况下，运动补偿单元82可以从接收到的语法元素确定由视频编码器20使用的内插滤波器并且使用内插滤波器来产生预测块。

逆量化单元86使用由视频编码器20针对视频帧中的每个视频块计算的用于确定量化程度的相同的量化参数，对在比特流中提供的并且由熵解码单元80进行熵解码的量化的变换系数进行逆量化。逆变换处理单元88将逆变换(例如，逆DCT、逆整数变换或概念上类似的逆变换过程)应用于变换系数，以便在像素域中重构残差块。

在运动补偿单元82或帧内BC单元85基于向量和其他语法元素生成当前视频块的预测块之后，加法器90通过对来自逆变换处理单元88的残差块以及由运动补偿单元82和帧内BC单元85生成的对应预测块求和来重构当前视频块的已解码视频块。环路滤波器(未示出)可以定位在加法器90与DPB 92之间，以进一步处理已解码视频块。在将重构的CU置于参考图像存储中之前，可以将如去块滤波器、样本自适应偏移(SAO)和自适应环路滤波器(ALF)等环路滤波应用于该重构的CU。然后将给定帧中的已解码视频块存储在DPB 92中，所述DPB存储用于对接下来的视频块进行后续运动补偿的参考帧。DPB 92或与DPB 92分开的存储器设备还可以存储已解码视频以供稍后呈现在如图1的显示设备34等显示设备上。

在典型的视频编解码过程中，视频序列典型地包括帧或图像的有序集合。每个帧可以包括三个样本阵列，表示为SL、SCb和SCr。SL是亮度样本的二维阵列。SCb是Cb色度样本的二维阵列。SCr是Cr色度样本的二维阵列。在其他实例中，帧可以是单色的，并且因此仅包括亮度样本的一个二维阵列。

与HEVC一样，AVS3标准在基于块的混合视频编解码框架上构建。输入视频信号被逐块(被称为编码单元(CU))处理。不同于仅仅基于四叉树来对块进行分区的HEVC，在AVS3中，一个编码树单元(CTU)被分割成多个CU，以适应基于四叉树/二叉树/扩展四叉树而不同的局部特性。另外，HEVC中的多种分区单元类型的概念被移除了，即，CU、预测单元(PU)和变换单元(TU)的拆分不存在于AVS3中。相反，每个CU一直用作预测和变换两者的基本单元，而不进行进一步分区。在AVS3的树分区结构中，首先基于四叉树结构对一个CTU进行分区。然后，每个四叉树叶节点可以基于二叉树和扩展四叉树结构进一步分区。

如图4A所示，视频编码器20(或更具体地，分区单元45)通过首先将帧分区为一组编码树单元(CTU)来生成帧的已编码表示。视频帧可以包括从左到右以及从上到下以光栅扫描顺序连续排序的整数个CTU。每个CTU是最大的逻辑编码单元，并且由视频编码器20在序列参数集中用信号传输CTU的宽度和高度，使得视频序列中的所有CTU具有相同的大小，即128×128、64×64、32×32和16×16中的一个。但是应当注意，本申请不必限于特定的大小。如图4B所示，每个CTU可以包括亮度样本的一个编码树块(Coding Tree Block,CTB)、色度样本的两个对应的编码树块以及用于对编码树块的样本进行编解码的语法元素。语法元素描述像素的编码块的不同类型的单元的属性以及如何可以在视频解码器30处重构视频序列，所述语法元素包括帧间预测或帧内预测、帧内预测模式、运动向量和其他参数。在单色图像或具有三个单独的色彩平面的图像中，CTU可以包括单个编码树块和用于对编码树块的样本进行编解码的语法元素。编码树块可以是N×N样本块。

为了实现更好的性能，视频编码器20可以对CTU的编码树块递归地执行如二叉树分区、三叉树分区、四叉树分区或两者的组合等树分区，并且将CTU划分为较小的编码单元(CU)。如图4C描绘的，首先将64×64CTU 400划分为四个较小的CU，每个CU的块大小为32×32。在四个较小的CU中，CU 410和CU 420按块大小各自划分为四个16×16的CU。两个16×16CU 430和440按块大小各自进一步划分为四个8×8的CU。图4D描绘了图示了如图4C中所描绘的CTU 400的分区过程的最终结果的四叉树数据结构，四叉树的每个叶节点对应于相应大小在32×32至8×8范围内的一个CU。类似于图4B描绘的CTU，每个CU可以包括亮度样本的编码块(CB)和相同大小的帧的色度样本的两个对应的编码块，以及用于对编码块的样本进行编解码的语法元素。在单色图像或具有三个单独的色彩平面的图像中，CU可以包括单个编码块和用于对编码块的样本进行编解码的语法结构。应当注意，图4C和图4D中描绘的四叉树分区仅用于说明目的，并且可以将一个CTU分割为多个CU以适应基于四叉树/三叉树/二叉树分区的不同的局部特性。在多类型树结构中，一个CTU被四叉树结构分区，并且每个四叉树叶CU可以进一步被二叉树结构或三叉树结构分区。如图4E所示，AVS3中有五种分割/分区类型，即四元分区、水平二元分区、垂直二元分区、水平扩展四叉树分区和垂直扩展四叉树分区。

在一些实施方式中，视频编码器20可以进一步将CU的编码块分区为一个或多个M×N预测块(Prediction Blocks,PB)。预测块是样本的应用相同预测(帧间或帧内)的矩形(正方形或非正方形)块。CU的预测单元(PU)可以包括亮度样本的预测块、色度样本的两个对应的预测块以及用于对预测块进行预测的语法元素。在单色图像或具有三个单独的色彩平面的图像中，PU可以包括单个预测块和用于对预测块进行预测的语义结构。视频编码器20可以生成CU的每个PU的亮度、Cb及Cr预测块的预测亮度、Cb及Cr块。

视频编码器20可以使用帧内预测或帧间预测来生成PU的预测块。如果视频编码器20使用帧内预测来生成PU的预测块，则视频编码器20可以基于与PU相关联的帧的已解码样本来生成PU的预测块。如果视频编码器20使用帧间预测来生成PU的预测块，则视频编码器20可以基于除与PU相关联的帧之外的一个或多个帧的已解码样本来生成PU的预测块。

在视频编码器20生成CU的一个或多个PU的预测亮度、Cb和Cr块之后，视频编码器20可以通过从其原始亮度编码块中减去CU的预测亮度块来生成CU的亮度残差块，使得CU的亮度残差块中的每个样本指示CU的预测亮度块之一中的亮度样本与CU的原始亮度编码块中的对应样本之间的差。类似地，视频编码器20可以分别生成CU的Cb残差块和Cr残差块，使得CU的Cb残差块中的每个样本指示在CU的预测Cb块之一中的Cb样本与CU的原始Cb编码块中的对应样本之间的差，并且CU的Cr残差块中的每个样本可以指示CU的预测Cr块之一中的Cr样本与CU的原始Cr编码块中的对应样本之间的差。

此外，如图4C所图示的，视频编码器20可以使用四叉树分区来将CU的亮度、Cb和Cr残差块分解为一个或多个亮度、Cb和Cr变换块。变换块是样本的应用相同变换的矩形(正方形或非正方形)块。CU的变换单元(TU)可以包括亮度样本的变换块、色度样本的两个对应的变换块以及用于对变换块样本进行变换的语法元素。因此，CU的每个TU可以与亮度变换块、Cb变换块和Cr变换块相关联。在一些示例中，与TU相关联的亮度变换块可以是CU的亮度残差块的子块。Cb变换块可以是CU的Cb残差块的子块。Cr变换块可以是CU的Cr残差块的子块。在单色图像或具有三个单独的色彩平面的图像中，TU可以包括单个变换块和用于对变换块的样本进行变换的语法结构。

视频编码器20可以将一个或多个变换应用于TU的亮度变换块以生成TU的亮度系数块。系数块可以是变换系数的二维阵列。变换系数可以是标量。视频编码器20可以将一个或多个变换应用于TU的Cb变换块以生成TU的Cb系数块。视频编码器20可以将一个或多个变换应用于TU的Cr变换块以生成TU的Cr系数块。

在生成系数块(例如，亮度系数块、Cb系数块或Cr系数块)之后，视频编码器20可以对系数块进行量化。量化通常是指将变换系数量化以可能地减少用于表示变换系数的数据量从而提供进一步压缩的过程。在视频编码器20对系数块进行量化之后，视频编码器20可以对指示量化的变换系数的语法元素进行熵编码。例如，视频编码器20可以对指示量化的变换系数的语法元素执行上下文自适应二进制算术编解码(Context-Adaptive BinaryArithmetic Coding，CABAC)。最终，视频编码器20可以输出包括形成编解码帧和相关联数据的表示的比特序列的比特流，所述比特流被保存在存储设备32中或被传输到目的地设备14。

在接收到由视频编码器20生成的比特流之后，视频解码器30可以解析所述比特流以从所述比特流中获得语法元素。视频解码器30可以至少部分地基于从比特流获得的语法元素来重构视频数据的帧。重构视频数据的过程通常与由视频编码器20执行的编码过程是相反的。例如，视频解码器30可以对与当前CU的TU相关联的系数块执行逆变换以重构与当前CU的TU相关联的残差块。视频解码器30还通过将当前CU的PU的预测块的样本添加到当前CU的TU的变换块的对应样本来重构当前CU的编码块。在重构帧的每个CU的编码块之后，视频解码器30可以重构帧。

SAO是基于由编码器传输的查找表中的值，通过在应用去块滤波器之后有条件地向每个样本添加偏移值来修改已解码样本的过程。基于由语法元素sao-type-idx为每个CTB选择的滤波类型，基于区域执行SAO滤波。sao-type-idx的值0指示SAO滤波器未应用于CTB，并且值1和2分别表示使用了带偏移和边缘偏移滤波类型。在由sao-type-idx等于1指定的带偏移模式下，所选择的偏移值直接取决于样本幅度。在该模式下，完整样本幅度范围被均匀地分割成32个被称为带的区段，并且通过添加表示为带偏移的传输值(其可以是正的或负的)来修改属于这些带中的四个带(在32个带内是连续的)的样值。使用四个连续带的主要原因在于在可能出现带伪像的平滑区域中，CTB中的样本幅度倾向于集中在仅少数几个带中。此外，使用四个偏移的设计选择与同样使用四个偏移值的边缘偏移操作模式统一。在由sao-type-idx等于2指定的边缘偏移模式下，值为从0到3的语法元素sao-eo-class表示是否将水平、垂直或两个对角梯度方向之一用于CTB中的边缘偏移分类。

图5是描绘了根据本公开的一些实施方式的在SAO中使用的四种梯度模式的框图。四种梯度模式502、504、506和508用于边缘偏移模式中的相应sao-eo-class。标记为“p”的样本指示待考虑的中心样本。标记为“n0”和“n1”的两个样本指定沿(a)水平(sao-eo-class＝0)、(b)垂直(sao-eo-class＝1)、(c)135°对角线(sao-eo-class＝2)和(d)45°(sao-eo-class＝3)梯度模式的两个相邻样本。通过将位于某个位置的样值p与位于相邻位置的两个样本的值n0和n1进行比较，将CTB中的每个样本分类为五个EdgeIdx类别之一，如图5所示。这种分类是基于已解码样值对每个样本进行的，因此EdgeIdx分类不需要附加的信号传输。根据样本位置处的EdgeIdx类别，对于从1到4的EdgeIdx类别，将来自传输的查找表的偏移值添加到样值。类别1和类别2的偏移值始终为正，并且类别3和类别4的偏移值始终为负。因此滤波器通常在边缘偏移模式下具有平滑效果。下面的表1图示了SAO边缘类中的样本EdgeIdx类别。

表1：SAO边缘类中的样本EdgeIdx类别。

对于SAO类型1和2，对于每个CTB，总共有四个幅度偏移值被传输到解码器。对于类型1，符号也被编码。偏移值和相关语法元素(如sao-type-idx和sao-eo-class)由编码器确定——通常使用优化率失真性能的标准。可以使用合并标志来将SAO参数指示为从CTB的左侧或上方继承的，以使信号传输有效。总之，SAO是非线性滤波操作，其允许对重构信号进行另外的细化，并且SAO可以增强平滑区域和边缘周围的信号表示。

在一些实施例中，本文公开了通过引入跨分量信息来改善编解码效率或降低样本自适应偏移(SAO)的复杂性的方法和系统。SAO在HEVC、VVC、AVS2和AVS3标准中使用。尽管在以下描述中使用HEVC、VVC、AVS2和AVS3标准中现有的SAO设计作为基本SAO方法，但对于视频编解码领域的技术人员来说，本公开中描述的跨分量方法也可以应用于其他环路滤波器设计或具有类似设计精神的其他编解码工具。例如，在AVS3标准中，SAO被所谓增强样本自适应偏移(Enhanced Sample Adaptive Offset，ESAO)的编解码工具替代。然而，本文中公开的CCSAO也可以与ESAO并行应用。在另一个示例中，CCSAO可以与AV1标准中的约束定向增强滤波器(Constrained Directional Enhancement Filter，CDEF)并行应用。

对于HEVC、VVC、AVS2和AVS3标准中现有的SAO设计，亮度Y、色度Cb和色度Cr样本偏移值是独立决定的。也就是说，例如，当前色度样本偏移仅由当前和相邻色度样值决定，而不考虑并置或相邻亮度样本。然而，亮度样本比色度样本保留了更多的原始图像细节信息，并且亮度样本可以有利于当前色度样本偏移的确定。此外，由于色度样本在从RGB到YCbCr的颜色转换后或量化和通过去块滤波器后通常会丢失高频细节，因此引入具有为色度偏移决策保留的高频细节的亮度样本可能有益于色度样本重构。因此，通过探索跨分量相关性，例如通过使用跨分量样值偏移补偿(Cross-Component Sample Adaptive Offset，CCSAO)的方法和系统，可以预期进一步的增益。

图6A是图示了根据本公开的一些实施方式的CCSAO的系统和过程的框图。通过亮度去块滤波器(Luma Deblocking Filter，DBF Y)后的亮度样本用于确定色度Cb和Cr在SAOCb和SAO Cr之后的附加偏移。例如，首先使用并置604和相邻(白色)亮度样本606对当前色度样本602进行分类，并且将对应类的对应CCSAO偏移值添加到当前色度样值。

在一些实施例中，CCSAO还可以与其他编解码工具(例如AVS标准中的ESAO或者AV1标准中的CDEF)并行应用。图6B是图示了根据本公开的一些实施方式的与AVS标准中的ESAO并行应用的CCSAO的系统和过程的框图。

在一些实施例中，当前色度样本分类是重新使用并置亮度样本的SAO类型(EO或BO)、类和类别。可以从解码器本身用信号传输或得到对应的CCSAO偏移。例如，令h_Y为并置亮度SAO偏移，h_Cb和h_Cr分别为CCSAO Cb和Cr偏移。h_Cb(或h_Cr)＝w*h_Y，其中w可以在有限的表中选择。例如，+-1/4、+-1/2、0、+-1、+-2、+-4......等，其中|w|仅包括2的幂值。

在一些实施例中，使用并置亮度样本(Y0)与相邻的8个亮度样本的比较分数[-8，8]，总共产生17个类。

Initial Class＝0

循环相邻的8个亮度样本(Yi，i＝1到8)

if Y0＞Yi Class+＝1

else if Y0＜Yi Class-＝1

在一些实施例中，可以组合上述分类方法。例如，比较分数结合SAO BO(32个带分类)用于增加多样性，总共产生17*32个类。在一些实施例中，Cb和Cr可以使用相同的类来降低复杂性或节省比特。

图7是图示了根据本公开的一些实施方式的使用CCSAO的样本过程的框图。具体地，图7示出了CCSAO的输入可以引入垂直和水平DBF的输入，以简化类确定或增加灵活性。例如，令Y0_DBF_V、Y0_DBF_H和Y0分别为DBF_V、DBF_H和SAO的输入处的并置亮度样本。Yi_DBF_V、Yi_DBF_H和Yi分别为DBF_V、DBF_H和SAO的输入处的相邻的8个亮度样本，其中i＝1到8。

Max Y0＝max(Y0_DBF_V，Y0_DBF_H，Y0_DBF)

Max Yi＝max(Yi_DBF_V，Yi_DBF_H，Yi_DBF)

并且将最大Y0和最大Yi馈送到CCSAO分类。

图8是图示了根据本公开的一些实施方式的CCSAO过程交错到垂直和水平DBF的框图。在一些实施例中，图6、图7和图8中的CCSAO块可以是选择性的。例如，对第一CCSAO_V使用Y0_DBF_V和Yi_DBF_V，第一CCSAO_V应用与图6中相同的样本处理，同时使用DBF_V亮度样本的输入作为CCSAO输入。

在一些实施例中，实施的CCSAO语法在以下表2中示出。

表2：CCSAO语法的示例

在一些实施例中，对于用信号传输CCSAO Cb和Cr偏移值，如果用信号传输了一个附加色度偏移，则可以通过加号、减号或加权得到另一个色度分量偏移以节省比特开销。例如，令h_Cb和h_Cr分别为CCSAO Cb和Cr的偏移。使用显式信号传输w，其中w＝+-|w|具有有限|w|候选项，h_Cr可以从h_Cb得到，而无需显式信号传输h_Cr本身。

h_Cr＝w*h_Cb

图9是图示了根据本公开的一些实施方式的使用跨分量相关性对视频信号进行解码的示例性过程900的流程图。

视频解码器30接收包括第一分量和第二分量的视频信号(910)。在一些实施例中，第一分量是视频信号的亮度分量并且第二分量是视频信号的色度分量。

视频解码器30还接收与第二分量相关联的多个偏移(920)。

视频解码器30然后利用第一分量的特性测量结果来获得与第二分量相关联的分类器(930)。例如，在图6中，首先使用并置604和相邻(白色)亮度样本606对当前色度样本602进行分类，并且将对应CCSAO偏移值添加到当前色度样本。

视频解码器30进一步根据分类器从多个偏移中为第二分量选择第一偏移(940)。

视频解码器30基于所选择的第一偏移另外地修改第二分量(950)。

在一些实施例中，利用第一分量的特性测量结果来获得与第二分量相关联的分类器(930)包括：利用第一分量的相应样本来获得第二分量的相应每个样本的相应分类器，其中，第一分量的相应样本是第一分量的针对第二分量的相应每个样本的相应并置样本。例如，当前色度样本分类是重新使用并置亮度样本的SAO类型(EO或BO)、类和类别。

在一些实施例中，利用第一分量的特性测量结果来获得与第二分量相关联的分类器(930)包括：利用第一分量的相应样本来获得第二分量的相应每个样本的相应分类器，其中，第一分量的相应样本在去块之前被重构或者在去块之后被重构。在一些实施例中，第一分量在去块滤波器(DeblockingFilter，DBF)处被去块。在一些实施例中，第一分量在亮度去块滤波器(DBF Y)处被去块。例如，替代图6或图7，CCSAO输入也可以在DBF Y之前。

在一些实施例中，通过将第一分量的样值范围划分为若干个带并且基于第一分量中样本的强度值选择带来得到特性测量结果。在一些实施例中，从带偏移(Band Offset，BO)得到特性测量结果。

在一些实施例中，基于第一分量中样本的边缘信息的方向和强度得到特性测量结果。在一些实施例中，从边缘偏移(Edge Offset，EO)得到特性测量结果。

在一些实施例中，修改第二分量(950)包括将所选择的第一偏移直接添加到第二分量。例如，将对应CCSAO偏移值添加到当前色度分量样本中。

在一些实施例中，修改第二分量(950)包括将所选择的第一偏移映射到第二偏移并且将映射的第二偏移添加到第二分量。例如，对于用信号传输CCSAO Cb和Cr偏移值，如果用信号传输了一个附加色度偏移，则可以通过加号、减号或加权得到另一个色度分量偏移以节省比特开销。

在一些实施例中，接收视频信号(910)包括接收语法元素，该语法元素指示是否针对序列参数集(SPS)中的视频信号启用使用CCSAO对视频信号进行解码的方法。在一些实施例中，cc_sao_enabled_flag指示是否在序列级别启用CCSAO。

在一些实施例中，接收视频信号(910)包括接收语法元素，所述语法元素指示是否在片级别上针对第二分量启用使用CCSAO对视频信号进行解码的方法。在一些实施例中，slice_cc_sao_cb_flag或slice_cc_sao_cr_flag指示是否针对Cb或Cr在相应片中启用CCSAO。

在一些实施例中，接收与第二分量相关联的多个偏移(920)包括接收针对不同编码树单元(CTU)的不同偏移。在一些实施例中，对于CTU，cc_sao_offset_sign_flag指示偏移的符号，并且cc_sao_offset_abs指示当前CTU的CCSAO Cb和Cr偏移值。

在一些实施例中，接收与第二分量相关联的多个偏移(920)包括接收语法元素，该语法元素指示CTU的接收的偏移是否与CTU的相邻CTU之一的接收的偏移量相同。相邻CTU是左相邻CTU或顶部相邻CTU。例如，cc_sao_merge_up_flag指示CCSAO偏移是从CTU左还是从CTU之上合并。

在一些实施例中，视频信号进一步包括第三分量，并且使用CCSAO对视频信号进行解码的方法进一步包括：接收与第三分量相关联的第二多个偏移；利用第一分量的特性测量结果来获得与第三分量相关联的第二分类器；根据第二分类器从第二多个偏移中为第三分量选择第三偏移；以及基于所选择的第三偏移来修改第三分量。

图11是图示了根据本公开的一些实施方式的除了亮度之外，其他跨分量并置(1102)和相邻(白色)色度样本也被馈送到CCSAO分类中的样本过程的框图。图6A、图6B和图11示出了CCSAO分类的输入。在图11中，当前色度样本为1104，跨分量并置色度样本为1102，并且并置亮度样本为1106。

在一些实施例中，分类器示例(C0)使用并置亮度样值(Y0)进行分类。令band_num为亮度动态范围的等分带数量，并且bit_depth为序列位深度，当前色度样本的类索引为：

Class(C0)＝(Y0*band_num)＞＞bit_depth

下面在表3中列出了一些band_num和bit_depth示例。表3示出了当每个分类示例的带数量不同时的三个分类示例。

/>

表3：每个类索引的示例性band_num和bit_depth。

在一些实施例中，分类器使用不同的亮度样本位置进行C0分类。图10是示出了根据本公开的一些实施方式的使用不同亮度样本位置进行C0分类的分类器的框图，例如，使用相邻的Y7而不是Y0进行C0分类。

在一些实施例中，用通过对并置亮度样本和相邻亮度样本进行加权而获得的值(Yp)来替换并置亮度样值(Y0)。图12图示了根据本公开的一些实施方式的通过用通过对并置亮度样本和相邻亮度样本进行加权而获得的值来替换并置亮度样值的示例性分类器。可以用通过对相邻亮度样本进行加权而获得的相位校正值(Yp)来替换并置亮度样值(Y0)。不同的Yp可以是不同的分类器。

在一些实施例中，不同的Yp应用于不同的色度格式。例如，在图12中，(a)的Yp用于420色度格式，(b)的Yp用于422色度格式，并且Y0用于444色度格式。

在一些实施例中，另一个分类器(C1)是并置亮度样本(Y0)与相邻的8个亮度样本的比较分数[-8，8]，如下所示，总共产生17个类。

Initial Class(C1)＝0，循环相邻的8个亮度样本(Yi，i＝1到8)

if Y0＞Yi Class+＝1

else if Y0＜Yi Class-＝1

在一些实施例中，变型(C1’)仅计算比较分数[0，8]，并且这会产生8个类。(C1，C1’)是分类器组，并且可以通过信号传输PH/SH级别标志以在C1与C1’之间切换。

Initial Class(C1’)＝0，循环相邻的8个亮度样本(Yi，i＝1到8)

if Y0＞Yi Class+＝1

在一些实施例中，组合不同的分类器以产生通用分类器。例如，对于不同的图像(不同的POC值)，应用不同的分类器，如下表4所示。

POC	分类器	C0 band_num	总类
				0	组合C0和C1	16	16*17
1	组合C0和C1’	16	16*9
				2	组合C0和C1	7	7*17

表4：不同通用分类器应用于不同图片

在一些实施例中，分类器示例(C2)使用并置和相邻亮度样本的差异(Yn)。图12(c)示出了Yn的示例，当比特深度为10时，Yn的动态范围为[-1024，1023]。令C2band_num为Yn动态范围的等分带数量，

Class(C2)＝(Yn+(1＜＜bit_depth)*band_num)＞＞(bit_depth+1)。

在一些实施例中，组合C0和C2以产生通用分类器。例如，对于不同的图像(不同的POC)，应用不同的分类器，如下表5所示。

POC	分类器	C0 band_num	C2 band_num	总类
					0	组合C0和C2	16	16	16*17
1	组合C0和C2	8	7	8*7

表5：不同通用分类器应用于不同图片

在一些实施例中，组合了所有上述分类器(C0，C1，C1’，C2)。例如，对于不同的图像(不同的POC)，应用不同的分类器，如下表6所示。

表6：不同通用分类器应用于不同图片

在一些实施例中，应用于Cb和Cr的分类器不同。可以单独地用信号传输所有类的Cb和Cr偏移。例如，不同的信号传输的偏移应用于不同的色度分量，如下表7所示。

POC	分量	分类器	C0 band_num	总类	用信号传输的偏移
						0	Cb	C0	16	16	16
0	Cr	C0	5	5	5

表7：可以单独地用信号传输所有类的Cb和Cr偏移在一些实施例中，最大偏移值是固定的或者以序列参数集(Sequence Parameter Set，SPS)/自适应参数集(Adaptationparameter set-APS)/图像参数集(Picture parameter set，PPS)/图像头部(Pictureheader，PH)/片头部(Slice header，SH)的形式用信号传输。例如，最大偏移介于[-15，15]之间。

在一些实施例中，偏移信号传输可以使用差分脉冲编解码调制(DifferentialPulse-Code Modulation，DPCM)。例如，偏移{3，3，2，1，-1}可以用信号传输为{3，0，-1，-1，-2}。

在一些实施例中，偏移可以存储在APS或存储器缓冲区中用于下一个图像/片重用。可以用信号传输索引以指示哪些存储的先前帧偏移用于当前图像。

在一些实施例中，Cb和Cr的分类器相同。可以联合地用信号传输所有类的Cb和Cr偏移，例如，如下表8所示。

POC	分量	分类器	C0 band_num	总类	用信号传输的偏移
						0	Cb和Cr	C0	8	8	8

表8：可以联合地用信号传输所有类的Cb和Cr偏移

在一些实施例中，Cb和Cr的分类器可以相同。可以联合地用信号传输所有类的Cb和Cr偏移和符号标记差，例如，如下表9所示。根据表9，当Cb偏移为(3，3，2，-1)时，得到的Cr偏移为(-3，-3，-2，1)。

表9：可以联合地用信号传输所有类的Cb和Cr偏移和符号标记差

在一些实施例中，可以为每个类用信号传输符号标志。例如，如下表10所示。根据表10，当Cb偏移为(3，3，2，-1)时，根据相应的符号标志得到的Cr偏移为(-3，3，2，1)。

表10：可以联合地用信号传输所有类的Cb和Cr偏移并且为每个类用信号传输符号标记

在一些实施例中，Cb和Cr的分类器可以相同。可以联合地用信号传输所有类的Cb和Cr偏移和权重差，例如，如下表11所示。权重(w)可以在有限的表中选择，例如，+-1/4、+-1/2、0、+-1、+-2、+-4......等，其中|w|仅包括2的幂值。根据表11，当Cb偏移为(3，3，2，-1)时，根据相应的符号标志得到的Cr偏移为(-6，-6，-4，2)。

表11：可以联合地用信号传输所有类的Cb和Cr偏移和权重差

在一些实施例中，可以为每个类用信号传输权重。例如，如下表12所示。根据表12，当Cb偏移为(3，3，2，-1)时，根据相应的符号标志得到的Cr偏移为(-6，12，0，-1)。

表12：可以联合地用信号传输所有类的Cb和Cr偏移并且为每个类用信号传输权重

在一些实施例中，样本处理在以下描述。令R(x，y)为CCSAO之前的输入色度样值，R’(x，y)为CCSAO之后的输出色度样值：

偏移＝ccsao_offset[R(x，y)的class_index]

R’(x，y)＝Clip3(0，(1＜＜bit_depth)-1，R(x，y)+偏移)

根据以上等式，使用当前图像的指示的分类器对每个色度样值R(x，y)进行分类。将得到的类索引的对应偏移添加到每个色度样值R(x，y)。对(R(x，y)+偏移)应用限幅函数Clip 3，使输出色度样值R’(x，y)在位深度动态范围内，例如，在0到(1＜＜bit_depth)-1的范围内。

在一些实施例中，边界处理在以下描述。如果用于分类的任何并置亮度样本和相邻亮度样本在当前图像之外，则不将CCSAO应用于当前色度样本。图13A是图示了根据本公开的一些实施方式的在用于分类的并置亮度样本和相邻亮度样本中的任何一个在当前图像之外时不将CCSAO应用于当前色度样本的框图。例如，在图13A(a)中，如果使用分类器，则不将CCSAO应用于当前图像的左1列色度分量。例如，如果使用C1’，则不将CCSAO应用于当前图像的左1列和顶部1行色度分量，如图13A(b)所示。

图13B是图示了根据本公开的一些实施方式的在用于分类的并置亮度样本和相邻亮度样本中的任何一个在当前图像之外时将CCSAO应用于当前色度样本的框图。在一些实施例中，一种变型是，如果用于分类的任何并置亮度样本和相邻亮度样本在当前图像之外，则重复使用丢失的样本，如图13B(a)所示，或者丢失的样本被镜像填充以创建用于分类的样本，如图13A(b)所示，并且CCSAO可以应用于当前色度样本。

在一些实施例中，实施的CCSAO语法在以下表13中示出。在AVS3中，术语补丁(patch)与片类似，补丁头部(patch header)与片头部类似。FLC代表固定长度编解码。TU代表截断的一元编解码。EGk代表k阶指数哥伦布编解码，其中k可以是固定的。

表13：示例性CCSAO语法

如果较高级别的标志关闭，则可以从标志的关闭状态推断出较低级别的标志并且不需要用信号传输。例如，如果该图像中的ph_cc_sao_cb_flag为假，则ph_cc_sao_cb_band_num_minus1、ph_cc_sao_cb_luma_type、cc_sao_cb_offset_sign_flag、cc_sao_cb_offset_abs、ctb_cc_sao_cb_flag、cc_sao_cb_merge_left_flag和cc_sao_cb_merge_up_flag不存在并且推断为假。

图14是图示了根据本公开的一些实施方式的使用跨分量相关性分类对视频信号进行解码的示例性过程1400的流程图。

视频解码器30接收包括第一分量和第二分量的视频信号(1410)。在一些实施例中，第一分量是视频信号的亮度分量并且第二分量是视频信号的色度分量。

视频解码器30还接收与第二分量相关联的多个偏移(1420)。

视频解码器30然后利用第一分量的样值来获得与第二分量相关联的分类器(1430)。在一些实施例中，所选择的带如下获得：Class＝(Y*band_num)＞＞bit_depth，其中，band_num是第一分量的动态范围的划分带数量，Y是第一分量的样值的强度值，bit_depth是序列位深度，并且Class是第二分量的所选择的带的类索引。

视频解码器30基于分类器将第一分量的样值的范围划分为若干带(1440)。

视频解码器30基于第一分量的样值的强度值选择带(1450)。

视频解码器30进一步根据所选择的带从多个偏移中为第二分量选择偏移(1460)。

视频解码器30基于所选择的偏移另外地修改第二分量(1470)。

在一些实施例中，样值是第一分量的相对于第二分量的样本的并置样本的值。

在一些实施例中，第一分量的动态范围的划分带数量是固定的或者以APS、PPS、PH和SH级别中的一种或多种用信号传输的。例如，可以自适应地改变用于分类的带数。

在一些实施例中，样值是第一分量的相对于第二分量的样本的相邻样本的值。

在一些实施例中，样值是通过对第一分量的相对于第二分量的样本的并置样本和相邻样本进行加权而获得的值。

在一些实施例中，对于不同的色度格式有区别地得到亮度分量的样值。

在一些实施例中，样值是第一分量的相对于第二分量的样本的并置样本与相邻样本的比较值。

在一些实施例中，利用亮度分量的样值来获得与色度分量相关联的分类器(1430)包括：利用亮度分量的第一样值来获得与色度分量相关联的第一分类器；利用亮度分量的第二样值来获得与色度分量相关联的第二分类器；以及组合第一分类器与第二分类器来获得分类器。例如，可以组合不同的分类器(C0，C1，......)。

在一些实施例中，利用亮度分量的样值来获得与色度分量相关联的分类器(1430)进一步包括：利用亮度分量的第二样值来获得与第二色度分量相关联的第二分类器，其中，所述分类器不同于第二分类器。

在一些实施例中，根据指示哪些偏移用于下一个图像的索引来存储对应于分类器的偏移以供下次使用。例如，偏移可以存储在APS或存储器缓冲区中用于下一个图像/片重用。可以用信号传输索引以指示哪些存储的先前帧偏移用于当前图像。

在一些实施例中，样值是从第一分量的相对于第二分量的样本的并置样本和相邻样本中的一个或多个样本中得到的值，其中，第一分量的相对于第二分量的样本的所有并置样本和相邻样本均位于当前图像帧内。例如，如果用于分类的任何并置亮度样本和相邻亮度样本在当前图像之外，则不将CCSAO应用于当前色度样本。

在一些实施例中，与色度分量相关联的多个偏移在预定范围内。在一些实施例中，预定范围是固定的或者以SPS、APS、PPS、PH和SH级别中的一种或多种用信号传输。

在一些实施例中，接收视频信号(1410)包括接收指示是否为视频信号启用跨分量样值偏移补偿(CCSAO)的语法元素。

其他实施例还包括在各种其他实施例中组合或以其他方式重新布置的上述实施例的各种子集。

在一个或多个示例中，所描述的功能可以在硬件、软件、固件或其任何组合中实施。如果在软件中实施，则功能可以作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质进行传输并且由基于硬件的处理单元执行。计算机可读介质可以包括对应于如数据存储介质等有形介质的计算机可读存储介质或包括有助于例如根据通信协议将计算机程序从一个地方转移到另一个地方的任何介质的通信介质。以此方式，计算机可读介质通常可以对应于(1)非暂态的有形计算机可读存储介质或者(2)如信号或载波等通信介质。数据存储介质可以是可以被一个或多个计算机或者一个或多个处理器访问以取得用于实施本申请中描述的实施方式的指令、代码和/或数据结构的任何可用介质。计算机程序产品可以包括计算机可读介质。

在对本文中实施方式的描述中使用的术语仅出于描述特定实施方式的目的，并且不旨在限制权利要求的范围。如对实施方式的描述和所附权利要求中使用的，单数形式“一个(a)”、“一种(an)”和“所述(the)”旨在也包括复数形式，除非上下文另有明确指示。还将理解的是，本文所使用的术语“和/或”是指并涵盖相关联列举项目中的一个或多个项目的任何和所有可能组合。将进一步理解的是，当在本说明书中使用术语“包括(comprises)”和/或“包括(comprising)”时，其指定陈述的特征、元件和/或部件的存在，但不排除一个或多个其他特征、元件、部件和/或其组的存在或添加。

还应理解，尽管术语第一、第二等在本文中可以用来描述各种要素，但是这些要素不应该受这些术语的限制。这些术语仅仅是用来将一个要素与另一个要素进行区分。例如，在不偏离实施方式的范围的情况下，第一电极可以被称为第二电极，并且类似地，第二电极可以被称为第一电极。第一电极和第二电极都是电极，但是第一电极和第二电极不是同一电极。

在整个说明书中，以单数或复数形式对“一个示例”、“示例”、“示例性示例”等的引用意味着结合示例描述的一个或多个特定特征、结构、或特性被包括在本公开的至少一个示例中。因此，在整个该说明书中的各个地方以单数或复数形式出现的短语“在一个示例中”或“在示例中”、“在示例性示例中”等不一定都是指同一个示例。此外，一个或多个示例中的特定的特征、结构、或特性可以包括以任何合适的方式进行组合。

已经出于说明和描述的目的呈现了对本申请的描述，并且描述不旨在是穷举的，或以所公开的形式限于本发明。受益于前述描述和相关联附图中呈现的教导，许多修改、变体和替代性实施方式对于本领域普通技术人员将是显而易见的。选择并描述实施例以便最好地解释本发明的原理、实际应用，并且使本领域其他技术人员能够理解本发明的各种实施方式并且最好地利用基本原理以及具有适合于预期的特定用途的各种修改的各种实施方式。因此，应当理解，权利要求的范围不应受限于所公开的实施方式的具体示例，并且修改和其他实施方式旨在包括在所附权利要求的范围内。

Claims (17)

1.一种对视频信号进行解码的方法，包括：

接收包括第一分量和第二分量的视频信号；

接收与所述第二分量相关联的多个偏移；

利用所述第一分量的样值来获得与所述第二分量相关联的类索引；

根据所述类索引从所述多个偏移中为所述第二分量选择偏移；以及

基于所选择的偏移来修改所述第二分量，

其中，所述第一分量是亮度分量，并且所述第二分量是色度分量，

其中，所述样值是从所述第一分量的对应于所述第二分量的样本的并置样本和相邻样本中的一个或多个得到的值，并且

其中，对于不同的色度格式，有区别地得到所述亮度分量的样值。

2.如权利要求1所述的方法，其中，所述样值是所述第一分量的对应于所述第二分量的样本的并置样本的值。

3.根据权利要求1所述的方法，其中，利用所述第一分量的样值来获得与所述第二分量相关联的类索引包括：

利用所述第一分量的样值根据所述第一分量的样值的范围的划分后的多个带的数量来确定带；以及

基于所确定的带来获得与所述第二分量相关联的类索引。

4.如权利要求3所述的方法，其中，所确定的带是通过如下方式获得的：Class＝(Y*band_num)＞＞bit_depth，其中，band_num是所述第一分量的动态范围的划分带数量，Y是所述第一分量的样值，bit_depth是序列位深度。

5.如权利要求1所述的方法，其中，所述第一分量的动态范围的划分带数量是固定的或者以APS、PPS、PH和SH级别中的一种或多种用信号传输的。

6.如权利要求1所述的方法，其中，所述样值是所述第一分量的对应于所述第二分量的样本的相邻样本的值。

7.如权利要求1所述的方法，其中，所述样值是通过对所述第一分量的对应于所述第二分量的样本的并置样本和相邻样本进行加权而获得的值。

8.如权利要求1所述的方法，其中，所述样值是所述第一分量的相对于所述第二分量的样本的并置样本与相邻样本的比较值。

9.如权利要求1所述的方法，其中，利用所述亮度分量的样值来获得与所述色度分量相关联的类索引包括：

利用所述亮度分量的第一样值来获得第一变量；

利用所述亮度分量的第二样值来获得第二变量；以及

根据所述第一变量与所述第二变量来获得所述类索引。

10.如权利要求1所述的方法，其中，利用所述亮度分量的样值来获得与所述色度分量相关联的类索引进一步包括：

利用所述亮度分量的第二样值来获得与第二色度分量相关联的第二类索引，

其中，所述类索引与所述第二类索引不同。

11.如权利要求1所述的方法，其中，存储对应于各所述带的偏移以供下次根据索引使用，所述索引指示哪些偏移用于下一个图像。

12.如权利要求1所述的方法，其中，所述第一分量的对应于所述第二分量的样本的所有并置样本和相邻样本均位于当前图像帧内。

13.如权利要求1所述的方法，其中，与所述色度分量相关联的所述多个偏移在预定范围内。

14.如权利要求13所述的方法，其中，所述预定范围是固定的或者以SPS、APS、PPS、PH和SH级别中的一种或多种用信号传输的。

15.如权利要求1所述的方法，其中，接收所述视频信号包括接收指示是否为所述视频信号启用跨分量样值偏移补偿(CCSAO)的语法元素。

16.一种电子装置，包括一个或多个处理单元、耦接到所述一个或多个处理单元的存储器以及存储在所述存储器中的多个程序，所述多个程序当由所述一个或多个处理单元执行时使所述电子装置执行如权利要求1-15中任一项所述的方法。

17.一种非易失性计算机可读存储介质，所述非易失性计算机可读存储介质存储用于由具有一个或多个处理单元的电子装置执行的多个程序，其中，所述多个程序当由所述一个或多个处理单元执行时使所述电子装置执行如权利要求1-15中任一项所述的方法。

Images