CN103959780B - 量化电平截取装置及方法 - Google Patents

Abstract

本发明提供一种量化电平截取装置及方法。根据本发明的多个实施例通过在量化之后自适应地截取量化电平来避免量化后的变换系数的溢出。在一个实施例中，所述方法包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生变换系数的量化电平。确定截取条件，并根据截取条件截取量化电平，以产生截取处理后的量化电平。截取条件包含空截取条件。量化电平在空截取条件下截取为以n位表示的固定范围，其中n对应于8、16或32。量化电平也可在空截取条件下在由‑m至m‑1的范围内进行截取，其中m可对应于128、32768或2147483648。

Description

量化电平截取装置及方法

交叉引用

本发明主张于2011年12月15日提交且发明名称为“Method of ClippingTransformed Coefficients before De-Quantization”的申请号为PCT/CN2011/084083的PCT专利申请的优先权，该PCT专利申请的全部内容在此引用并合并参考。

技术领域

本发明是有关于视频编码，更具体地，本发明是有关于高效视频编码(HighEfficiency Video Coding,HEVC)的量化电平(quantization level)的截取(clipping)。

背景技术

HEVC是由视频编码联合组(Joint Collaborative Team on Video Coding,JCT-VC)开发的一种新的国际视频编码标准。HEVC采用基于混合区块(hybrid block-based)的运动补偿的类似离散余弦变换(Discrete Cosine Transformation,DCT)的变换编码(DCT-like transform coding)架构。用于压缩的基本单元称为编码单元(Coding Unit,CU)，为2N×2N方块，且每个CU可递归地(recursively)切分为四个更小的CU，直至达到预定的最小尺寸。每个CU包含一个或多个区块尺寸可变的预测单元(Prediction Unit,PU)和变换单元(Transform Unit,TU)。对于每个PU，选择帧内图像预测或帧间图像预测。每个TU进行空间区块变换处理，然后对每个TU的变换系数进行量化。HEVC允许的最小的TU尺寸为4×4。

变换系数的量化在视频编码的位速率和质量控制中有重要作用。量化步长集合用于将变换系数量化为量化电平。较大的量化步长尺寸会导致较低的位速率和较低的质量。另一方面，较小的量化步长尺寸会产生更高的位速率和更高的质量。量化处理的直接实施方式包含分割操作，分割操作在基于硬件的实施方式中更加复杂，且在基于软件的实施方式中会消耗更多的计算资源。相应地，本领域开发了用于自由分割量化处理的各种技术。在HEVC测试模型版本5(HEEV Test Model Revision 5,HM-5.0)中，量化处理描述如下。参数集合定义为：

B＝输入视频源的位宽(bit width)或位深度(bit depth)

DB＝B-8

N＝TU的变换尺寸

M＝log2(N)

Q[x]＝f(x),其中f(x)＝{26214,23302,20560,18396,16384,14564},x＝0,…,5,及

IQ[x]＝g(x),其中g(x)＝{40,45,51,57,64,72},x＝0,…,5.

Q[x]及IQ[x]称为分别称为量化步长与反量化步长。量化操作根据下式执行：

qlevel＝(coeff*Q[QP％6]+offset)>>(21+QP/6–M–DB),其中

offset＝1<<(20+QP/6–M–DB), (1)

其中“％”为模运算符(modulo operator)。反量化操作根据下式执行：

coeffQ＝((qlevel*IQ[QP％6]<<(QP/6))+offset)>>(M-1+DB),其中

offset＝1<<(M-2+DB)。 (2)

式(1)和式(2)中的变量qlevel表示变换系数的量化电平。式(2)中的变量coeffQ表示反量化参数。IQ[x]指示反量化步长(也称为反量化步长尺寸)，以及QP表示量化参数。式(1)和式(2)中的“QP/6”表示QP除以6以后的整数部分。如式(1)和式(2)所示，量化和反量化操作通过整数乘法(integer multiplication)之后再进行算术移位(arithmeticshift)来实施。式(1)和式(2)中均加上了偏移值(offset value)，以使用取整(rounding)来实施整数转换(integer conversion)。

对于HEVC，量化电平的位深度为16位(包括1位标志位)。换言之，量化电平表示为2字节(byte)或16位字(word)。由于IQ(x)<＝72且QP<＝51，IQ[x]的动态范围为7位，且“<<(QP/6)”运算符执行左侧算术移位至8位。相应地，反量化变换系数coeffQ(即“(qlevel*IQ[QP％6])<<(QP/6)”)的动态范围为31位(16+7+8)。因此，式(2)所描述的反量化操作不会导致溢出(overflow)，因为反量化操作使用32位数据表达。

然而，当引入量化矩阵时，反量化操作可修改为式(3)至式(5)所示：

iShift＝M-1+DB+4. (3)

若(iShift>QP/6),

coeffQ[i][j]＝(qlevel[i][j]*W[i][j]*IQ[QP％6]+offset)>>(iShift-QP/6),其中

offset＝1<<(iShift-QP/6-1),其中i＝0…nW-1,j＝0..nH-1 (4)

否则

coeffQ[i][j]＝(qlevel[i][j]*W[i][j]*IQ[QP％6])<<(QP/6-iShift) (5)

其中，“[i][j]”指示变换单元内变换系数的位置(也称为指针)，W指示量化矩阵，nW和nH为变换的宽度和高度。若n代表变换系数的量化电平的动态范围，则动态范围n必须满足以下条件以避免溢出：

n+w+iq+QP/6-M+DB-3≤32, (6)

其中w为量化矩阵W的动态范围，iq为IQ[x]的动态范围，以及反量化的位深度或重建的变换系数为32位。

若量化矩阵W的动态范围为8位，则当QP＝51,M＝2且DB＝0时，式(3)至式(5)所描述的重建的变换系数的动态范围变为34位(16+8+7+3)。当反量化操作使用32位数据表达时，根据方程式式(3)至式(5)取得的重建的变换系数可能溢出并导致系统失败。因此，需要开发一种变换系数重建机制，以避免可能的溢出。

发明内容

有鉴于此，本发明提供一种量化电平截取装置及方法。

根据本发明的多个实施例通过在量化之后自适应地截取量化电平以避免量化变换系数的溢出。在本发明一实施例中，该方法包含根据量化矩阵及量化参数对变换单元的变换系数进行量化，以产生变换单元的变换系数的量化电平；基于量化矩阵、量化参数、视频源位深度、变换单元的变换尺寸或其任意组合，确定截取条件，其中截取条件包括空截取条件；以及根据截取条件截取量化电平，以产生截取处理后的量化电平。所述量化电平的截取可对应于无条件的固定范围的截取，以及截取后的量化电平使用n位来表示，其中n可对应于8、16或32。所述量化电平的截取也可对应于无条件的固定范围的截取，以及量化电平在由-m至m-1的范围内进行截取，其中m可对应于128、32768或2147483648。

利用本发明所提供的量化电平截取装置及方法，其优点之一在于可避免变换系数在反量化或重建操作时发生溢出。

附图说明

图1所示为结合本发明一实施例的截取变换系数以避免溢出的较佳流程图。

具体实施方式

如前所述，当引入量化矩阵时，上述参数反量化(或重建)操作可能会发生溢出。为了避免在变换系数重建期潜在的溢出，根据本发明的多个实施例在执行反量化操作之前限定变换系数的量化电平。变换系数的量化电平的动态范围由整数n表示。在式(3)至式(5)所描述的实施例中，若反量化(或重建)变换系数使用32位数据表达，则n的动态范围不超过32位。相应地，n需要满足以下限制：

n+8+7+(QP/6-(M-1+DB+4))≤32, (7)

由此导出

n≤20+M+DB-QP/6. (8)

在此情形下，变换系数的量化电平qlevel会根据式(9)进行截取：

qlevel＝max(-2^n-1,min(2^n-1-1,qlevel)) (9)

为了避免溢出，变换系数的量化电平的动态范围需要根据式(8)进行限制。根据式(8)，n必须小于或等于(20+M+DB-QP/6)以避免溢出。然而，由于在本实施例中量化电平由16位表示(即，量化电平的位深度＝16)，因此，n不超过16位。相应地，若(20+M+DB-QP/6)大于16，则变换系数的量化电平需要截取为一个不超过16位数据表达的范围。下列伪码(pseudocodes)(伪码A)显示根据本发明一实施例的在变换系数重建期间截取变换系数的量化电平qlevel以避免数据溢出的示例：

伪码A：

如伪码A所示，两个截取范围用于两个不同的截取条件。第一截取条件对应于“20+M+B-8-QP/6≥16”，以及第二截取条件对应于“20+M+B-8-QP/6<16”。第一截取范围对应于固定的截取范围，即(-2¹⁵,2¹⁵-1)，以及第二截取范围对应于(-2^{20+M+DB-QP/6-1},2^{20+M+DB-QP/6-1})。当测试条件“if(20+M+DB-QP/6≥16)”用于上述较佳伪码A时，其他测试条件也可使用。例如，测试条件可使用视频源的位深度B来代替参数DB。测试条件变为“if(20+M+B-8-QP/6>＝16)”，即“if(12+M+B-QP/6>＝16)”。对应的伪码(伪码B)变为：

伪码B：

若视频源的位深度为8位(DB＝0)，以及变换尺寸为4×4，式(8)可简化为：

n≤22-QP/6 (10)

因此，在此情形下的测试条件“if(12+M+B-QP/6≥16)”变为“if(22-QP/6≥16)”。测试条件可进一步简化为“if(QP<＝36)”。因此，对于具有固定动态范围的视频源而言，根据本发明另一实施例的变换系数的量化电平的截取操作仅取决于QP。如下所示为一较佳伪码(伪码C)：

伪码C：

当视频源的位深度为10位或更高时，即DB≥2，式(7)中的条件总是满足。在此情形下，16位截取，也就是qlevel＝max(-2¹⁵,min(2¹⁵-1,qlevel))或qlevel＝max(-32,768,min(32,767,qlevel))，总是无条件使用。当对于位深度等于10位或更高无条件执行截取时，变换系数的量化电平也可无条件进行截取至所需的位深度而非视频源的位深度。所需的位深度可为8、16或32位，以及对应的截取范围可为[-128,127]，[-32768,32767]及[-2147483648,2147483647]。

结合本发明实施例的三个较佳伪码描述如上。这些伪码目的在于说明在变换系数重建期间避免数据溢出的较佳操作。本领域技术人员可使用其他测试条件来实现本发明。例如，相较于测试“if(QP<＝36)”，也可使用测试条件“if(QP/6<＝6)”。在另一实施例中，截取操作可使用其他函数来实施，如截取函数clip(x,y,z)，其中变量z在x与y之间进行截取(x<y)。伪码C的截取操作可表达为：

qlevel＝clip(-2¹⁵,2¹⁵-1,qlevel),以及

qlevel＝clip(-2^21-QP/6,2^21-QP/6-1,qlevel)

在上述多个实施例中，具体参数用于说明结合本发明多个实施例以避免数据溢出的反量化操作。所使用的具体参数不构成对本发明的限制。本领域技术人员可基于提供的参数修改截取条件的测试。例如，若反量化步长具有6位动态范围而非7位动态范围，则式(8)的限制变为n≤19+M+DB-QP/6。伪码A中的对应的截取条件测试变为“if(19+M+DB-QP/6>＝16)”。

上述量化电平截取操作在解码器端执行，量化电平截取操作也可在量化之后在编码器端执行。为了避免潜在的溢出，根据本发明的多个实施例在执行量化操作之后限制变换系数的量化电平。截取条件可基于量化矩阵、量化参数、反量化步长、视频源位深度、变换单元的变换尺寸或其任意组合。截取条件也可包括不设置截取条件的空截(null)取条件。换言之，空条件对应于总是将量化电平截取至一个范围的无条件的截取。在一实施例中，量化电平可在第一截取条件下截取至第一范围，以及量化电平可在第二截取条件下截取至第二范围。第一范围可对应于与量化电平位深度有关的固定范围，以及第二范围可与量化电平的动态范围有关。截取条件可通过将第一权重值与阈值作比较来确定，其中第一权重值对应于量化矩阵、量化参数、视频源位深度、变换单元的变换尺寸或其任意组合的第一线性函数。此外，阈值可对应于固定值或第二权重值，其中第二权重值对应于量化矩阵、量化参数、视频源位深度、变换单元的变换尺寸或其任意组合的第二线性函数。

变换系数的量化电平也可无条件截取至所需的位深度而非视频源的位深度。所需的位深度可为8、16或32位，以及对应的截取范围可为[-128,127]，[-32768,32767]及[-2147483648,2147483647]。

图1所示为结合本发明一实施例的用于视频解码器的截取量化电平以避免溢出的较佳流程图。在步骤110中，根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生变换系数的量化电平。在步骤120中，基于量化矩阵、量化参数、反量化步长、视频源位深度、变换单元的变换尺寸或其任意组合，确定截取条件，其中截取条件包括空截取条件。然后，在步骤130中，根据截取条件截取量化电平，以产生截取处理后的量化电平。

图1中的流程图目的在于说明用于视频编码器的量化电平截取以避免量化电平溢出的示例。本领域技术人员可通过重新安排这些步骤、拆分一个或多个步骤或组合一个或多个步骤来实现本发明。

上述描述能够使本领域技术人员以上文所提供的特定应用及要求来实施本发明。本领域技术人员可明了上述实施例的多种变形，且此处所定义的基本原则可应用于其他实施例。因此，本发明并不仅限于上述所示及所述的特定实施例，而是记载了符合与此处所揭露的原则及显著特征相一致的最广的范围。在上述详细描述中，各种具体细节可提供对本发明的全面理解。然而，本领域技术人员当可理解本发明如何实施。

本发明上述实施例可实施为硬件、软件代码或其组合。例如，本发明的实施例可为视频压缩芯片中所集成的电路，或视频压缩软件中所集成的程序代码，以用于执行此处所述的处理。本发明一实施例也可为用于执行此处所述处理的数字信号处理器(DigitalSignal Process,DSP)上所执行的程序代码。本发明也可包含由电脑处理器、数字信号处理器、微处理器或场效可编程门阵列(Field Programmable Gate Array,FPGA)所执行的多个功能。这些处理器可根据本发明配置为通过执行定义了本发明所体现的特定方法的机器可读软件代码或固件代码来执行特定任务。软件代码或固件代码可使用不同的编程语言及不同的格式或类型来开发。软件代码也可符合不同的目标平台。然而，软件代码的不同的代码格式、类型及语言及配置代码以根据本发明执行任务的其他方式，均不脱离本发明的精神及范围。

本发明在不脱离发明精神或重要特征的情况下可体现为其他具体形式。上述实施例仅用于说明目的，并非用以限制。因此本发明的保护范围当视后附的权利要求所界定者为准。任何符合本发明的精神和范围内的所作的均等性改变，均落入本发明保护范围之内。

Claims (21)

1.一种量化电平截取方法，适用于视频编码器，所述量化电平截取方法包含：

根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平；

基于所述量化矩阵、所述量化参数、反量化步长、视频源位深度、所述变换单元的变换尺寸或上述任意组合，确定截取条件，其中所述截取条件包括空截取条件；以及

根据所述截取条件截取所述量化电平，以产生截取处理后的量化电平；

其中，所述量化电平在第一截取条件下的截取范围为-m至m-1，且m对应于128、32768或2147483648。

2.根据权利要求1所述的量化电平截取方法，其特征在于，所述量化电平在所述第一截取条件下截取为第一范围，以及所述量化电平在第二截取条件下截取为第二范围。

3.根据权利要求2所述的量化电平截取方法，其特征在于，所述第一范围对应于与量化电平位深度有关的固定范围。

4.根据权利要求2所述的量化电平截取方法，其特征在于，所述第二范围与所述量化电平的动态范围有关。

5.根据权利要求1所述的量化电平截取方法，其特征在于，所述第一截取条件与第二截取条件通过将第一权重值与阈值作比较来确定，其中所述第一权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第一线性函数。

6.根据权利要求5所述的量化电平截取方法，其特征在于，所述阈值对应于固定值或第二权重值，其中所述第二权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第二线性函数。

7.根据权利要求1所述的量化电平截取方法，其特征在于，在所述第一截取条件下，所述量化电平的截取对应于固定范围的截取。

8.根据权利要求7所述的量化电平截取方法，其特征在于，在所述第一截取条件下截取后的所述量化电平使用n位来表示。

9.根据权利要求8所述的量化电平截取方法，其特征在于，n对应于8、16或32。

10.根据权利要求7-9中任一项所述的量化电平截取方法，其特征在于，所述第一截取条件为空截取条件。

11.一种量化电平截取装置，适用于视频编码器，所述量化电平截取装置包含：

根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平的装置；

基于所述量化矩阵、所述量化参数、反量化步长、视频源位深度、所述变换单元的变换尺寸或上述任意组合，确定截取条件的装置，其中所述截取条件包括空截取条件；以及

根据所述截取条件截取所述量化电平，以产生截取处理后的量化电平的装置；

其中，所述量化电平在第一截取条件下的截取范围为-m至m-1，且m对应于128、32768或2147483648。

12.根据权利要求11所述的量化电平截取装置，其特征在于，所述量化电平在所述第一截取条件下截取为第一范围，以及所述量化电平在第二截取条件下截取为第二范围。

13.根据权利要求12所述的量化电平截取装置，其特征在于，所述第一范围对应于与量化电平位深度有关的固定范围。

14.根据权利要求12所述的量化电平截取装置，其特征在于，所述第二范围与所述量化电平的动态范围有关。

15.根据权利要求11所述的量化电平截取装置，其特征在于，所述第一截取条件与第二截取条件通过将第一权重值与阈值进行比较来确定，其中，所述第一权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第一线性函数。

16.根据权利要求15所述的量化电平截取装置，其特征在于，所述阈值对应于固定值或第二权重值，其中所述第二权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第二线性函数。

17.根据权利要求11所述的量化电平截取装置，其特征在于，在所述第一截取条件下，所述量化电平的截取对应于固定范围的截取。

18.根据权利要求17所述的量化电平截取装置，其特征在于，在所述第一截取条件下截取后的所述量化电平使用n位来表示。

19.根据权利要求18所述的量化电平截取装置，其特征在于，n对应于8、16或32。

20.根据权利要求17-19中任一项所述的量化电平截取装置，其特征在于，所述第一截取条件为空截取条件。

21.一种计算机可读存储介质，储存有计算机程序，所述程序在被处理器执行时实现权利要求1所述方法的步骤。