CN104185025B - 一种高效视频编码全零4×4系数块提前检测方法 - Google Patents

Abstract

本发明涉及一种高效视频编码全零4×4系数块提前检测方法，包括以下步骤：1)设定量化参数Q_p和二维DCT变换矩阵C；2)根据Q_p、C以及需检测的残差块计算全零块检测的阈值Th₁和Th₂；3)对于一个4×4残差块计算其对应的检测参数SAD；4)判断SAD是否满足SAD＜Th₁，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；5)判断SAD是否满足SAD＜Th₂，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)。与现有技术相比，本发明具有可提高视频编码速度、降低编码计算复杂度且检测效率高等优点。

Description

一种高效视频编码全零4×4系数块提前检测方法

技术领域

本发明涉及一种视频编码方法，尤其是涉及一种高效视频编码全零4×4系数块提前检测方法。

背景技术

随着人们对多媒体娱乐不断增长的需求，高清视频的流行以及超高清视频的出现导致了对编码效率的更高要求，而这种编码效率是当前视频编码标准H.264/AVC所不能满足的。为此，视频编码联合组(JCT-VC)设计了一种新的视频编码标准，被称为高效视频编码(High Efficiency Video Coding，HEVC)，它的目标是在相同的视频质量下提供比H.264/AVC高一倍的压缩效率。

HEVC和其他视频编码标准的基本区别在于：HEVC使用了四叉树结构。四叉树结构是一种把图片划分为不同大小块的机制，这种机制可以提高预测以及残差编码的性能。HEVC的基本处理单元是编码树单元(Coding Tree Unit，CTU)，它可以看成是H.264/AVC中宏块的扩展。一个CTU可以被设置为以下的块大小：64×64，32×32或者16×16，并且它可以使用基于四叉树递归的方法划分为更小的编码单元(Coding Unit，CU)。每个CU可以进一步划分成为预测单元(Prediction Unit，PU)，进行帧内或帧间预测。对于预测之后产生的残差信号，HEVC采用残差四叉树(Residual Quad Tree，RQT)来进行变换处理，即：将每一个CU划分为变换单元(Transform Unit，TU)。根据HEVC设计规则，亮度块的TU大小从4×4到32×32，色度块的范围从4×4到16×16。CU、PU和TU块大小的划分是由率-失真联合优化方法决定的。除了四叉树结构，HEVC还采用了其他多种高级编码技巧，例如：更加完备的帧内角度预测方法、样本自适应偏移编码算法等等，来进一步提高压缩效率。

尽管HEVC的压缩效率得到了大幅提升，其计算复杂度也变的异常庞大。2012年12月份发表在IEEE Transactions on Circuits and System for Video Technology的一篇文献对比了HEVC和H.264/AVC的编码计算复杂度，表明HEVC的编码计算量要远远高于H.264/AVC，因此非常有必要设计快速编码技术来降低HEVC的编码计算复杂度。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种可提高视频编码速度、降低编码计算复杂度且检测效率高的高效视频编码全零4×4系数块提前检测方法，用以在高效视频编码中提前判断全零4×4系数块，从而降低离散余弦变换(DiscreteCosine Transform，DCT)和量化过程的计算复杂度。

本发明的目的可以通过以下技术方案来实现：

一种高效视频编码全零4×4系数块提前检测方法，其特征在于，包括以下步骤：

1)设定量化参数Q_p和二维DCT变换矩阵C；

2)根据Q_p、C以及需检测的4×4残差块计算全零块检测的阈值Th₁和Th₂；

3)对于一个4×4残差块计算其对应的检测参数SAD：

其中，e(x，y)为4×4残差块中的元素，0≤x，y≤3，x、y为整数；

4)判断SAD是否满足SAD＜Th₁，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD是否满足SAD＜Th₂，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)。

所述的步骤1)中量化参数Q_p的取值范围为[0，51]，且Q_p为整数。

所述的步骤2)中阈值Th₁的计算公式为：

其中，r＝2^qbits-1，qbits＝19+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，C(i，x)为矩阵C中的元素，C_max是矩阵C中绝对值最大的元素。

所述的m与Q_p的关系为：

Qp％6	0	1	2	3	4	5
							m	26214	23302	20560	18396	16384	14564

所述的步骤2)中阈值Th₂的计算步骤为：

a)计算4×4矩阵其中，C(u，：)表示矩阵C的第u行向量，0≤u，v≤3，操作符|·|_abs表示将矩阵中的每个元素用其绝对值来代替；

b)将4×4残差块分划为四个区域R_i，1≤i≤4，形成残差矩阵R＝[R₁，R₂，R₃，R₄]：

R₁＝{(x，y)|x＝1，2，y＝1，2}

R₂＝{(x，y)|x＝0，3，y＝1，2}

R₃＝{(x，y)|x＝1，2，y＝0，3}

R₄＝{(x，y)|x＝0，3，y＝0，3}

每个区域元素绝对值的和S_i定义如下：

1≤i≤4；

c)根据4×4矩阵计算检测全零系数的阈值Th_a、Th_b、Th_c：

其中，

d)计算Th₂：Th₂＝min{Th_a，Th_b，Th_c}。

与现有技术相比，本发明具有以下优点：

1、本发明通过对4×4系数块进行提前全零检测，避免系数块的DCT和量化操作，节省编码时间，降低了编码计算复杂度；

2、本发明通过两步算法进行全零系数块检测，检测有效且检测效率高。

具体实施方式

下面结合具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

在HEVC中，对于一个4×4残差块e(x，y)，其二维DCT变换可以写成如下形式：

其中，F(u，v)(0≤u，v≤3)是变换系数块；C是二维DCT变换矩阵：

C^T是矩阵C的转置；＞＞代表右移操作符。

给定变换系数F(u，v)和一个量化参数Q_p(HEVC中的变化范围是0～51)，量化后的变换系数Z(u，v)，0≤u，v≤3，可计算如下：

Z(u，v)＝sign(F(u，v))·[(|F(u，v)|·m+r)＞＞qbits] (3)

其中，qbits＝19+floor(Q_p/6)，r＝2^qbits-1，m是与Q_p有关的乘数因子，m与Q_p的关系见表格1。

表格1

Qp％6	0	1	2	3	4	5
							m	26214	23302	20560	18396	16384	14564

通过公式(3)，变换系数F(u，v)被量化为零的充分条件可以表示为：

把公式(1)中的F(u，v)带入到公式(4)中，可以得到：

考虑到|a+b|≤|a|+|b|，下面的不等式可以通过公式(5)导出：

通过公式(6)，我们可以进一步得到：

为了保证公式(7)对于每一个(u，v)都是正确的，公式(7)左侧|C(u，x)|的和|C(u，y)|可以被替换为矩阵C中绝对值最大的元素，公式右侧的可以替换为R_max，其中

因此，公式(7)转化为：

其中，C_max是矩阵C中绝对值最大的元素。根据公式(2)，可以得到：C_max＝83，R_max＝256。考虑到SAD，检测HEVC中全零4×4DCT块的充分条件可以表达为：

对于每一个Q_p可以提前计算阈值Th₁，因此只需要进行一次比较操作来执行公式(10)。

为了提高预测效率，我们进行了进一步分析。首先，4×4矩阵定义如下：

其中，C(u，：)表示矩阵C的第u行向量，操作符|·|_abs表示将矩阵中的每个元素用其绝对值来代替。根据对公式(7)和公式(11)的分析，我们可以得到：

每一个DCT系数F(u，v)被量化为零的充分条件可以通过分析公式(12)中的得到。

下面，我们以(u，v)＝(1，3)为例进行说明。

为了简化分析，一个4×4残差块可以划分为四个区域R_i，1≤i≤4，形残差矩阵R＝[R₁，R₂，R₃，R₄]。

R₁＝{(x，y)|x＝1，2，y＝1，2}

R₂＝{(x，y)|x＝0，3，y＝1，2} (13)

R₃＝{(x，y)|x＝1，2，y＝0，3}

R₄＝{(x，y)|x＝0，3，y＝0，3}

每个区域元素绝对值的和S_i可以定义如下：

限据公式(12)、(14)和(15)，F(1，3)被量化为零系数的充分条件为：

根据相似的分析，其他DCT系数被量化为零的充分条件在表格2中给出。

表格2.HEVC中提前检测全零DCT系数的充分条件

根据表格2中的数据，可以归纳出三个提前检测全零DCT系数的阈值，如下：

根据公式(17)中的三个阈值，提前检测全零4×4量化DCT系数块的充分条件可以总结为：

SAD＜Th₂，Th₂＝min{Th_a，Th_b，Th_c} (18)

根据公式(10)和(17)，可以很容易证明Th_a≥Th₁，Th_b≥Th₁。另外，公式(17)中的Th_c可以重新计算为：

(19)

因此，可以看出Th_c≥Th₁。综合以上分析，我们可以得到：

Th₂≥Th₁ (20)

这说明在预判全零4×4系数块方面，公式(18)比公式(10)更为有效。但是，在计算公式(18)中的Th₂时会引入较多额外的计算开销，包括10次加法运算，9次比较运算和9次乘法运算。

为了均衡检测效率和额外的计算开销，本实施例可降低DCT和量化过程计算复杂度的高效视频编码全零4×4系数块提前检测方法，包括以下步骤：

1)设定量化参数Q_p和二维DCT变换矩阵C；

2)根据Q_p、C以及需检测的4×4残差块计算全零块检测的阈值Th₁和Th₂；

3)对于一个4×4残差块计算其对应的检测参数SAD：

其中，e(x，y)为4×4残差块中的元素，0≤x，y≤3，x、y为整数；

4)判断SAD是否满足SAD＜Th₁，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD是否满足SAD＜Th₂，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)。

采用HEVC参考软件模型HM8.0来评估本发明所提出的提前检测方法。实验配置如下：采用随机接入(Random Access，RA)；图片组大小(GOP)设置为8；CTU尺寸、最小CU尺寸、最大TU尺寸、最小TU尺寸、帧内编码CU的变换树层次以及帧间编码CU的变换树层次分别设置为64×64、8×8、32×32、4×4、3×3。使用了10个HEVC标杆测试视频进行评估。根据视频分辨率可以把这些视频分为五类，包括：Class A(2560×1600)、Class B(1920×1080)、Class C(832×480)、Class D(416×240)和Class E(1280×720)。对于每一个视频序列，使用32帧(即4个GOP)进行测试。为了检测不同码率时的预测表现，实验中共使用了五个Q_p值：24、28、32、36和40。

为了评估所提出的两步检测方法，我们使用了两种测试条件。在第一种情况下，只使用本发明方法的步骤4)来检测全零块，即：只使用公式(10)进行预测；这个算法记为AM-1。在第二种情况下，本发明的所有步骤均被使用，记为AM-2。由于算法AM-1和算法AM-2使用了预测全零块的充分条件，因此视频质量和压缩率与原始的编码器性能相比是相同的。为了评估性能，本专利使用了三个评价指标，分别是检测率(DR)、整体计算时间的下降(ΔT_e)以及DCT/量化/反量化/反DCT过程的时间下降(ΔT_d)，定义如下：

其中，N_dec是算法AM-1或者AM-2检测到的全零4×4DCT块数量；N_all是编码过程中产生的全零4×4DCT块数量；是原始编码器的整体编码时间；T_e是使用了AM-1或者AM-2后编码器的整体运行时间；是原始编码器DCT/量化/反量化/反DCT的时间；T_d是使用了AM-1或者AM-2后编码器中DCT/量化/反量化/反DCT的时间。表格3至表格7中分别给出了五类视频的实验结果。根据实验结果，我们可以发现AM-1和AM-2可以有效检测全零系数块，从而降低DCT和量化过程的计算复杂度；在全零块检测效率方面，AM-2比AM-1更加有效。

表格3.ClassA的实验数据

表格4.Class B的实验数据

表格5.Class C的实验数据

表格6.Class D的实验数据

表格7.Class E的实验数据

Claims (3)

1.一种高效视频编码全零4×4系数块提前检测方法，其特征在于，包括以下步骤：

1)设定量化参数Q_p和二维DCT变换矩阵C；

2)根据Q_p、C以及需检测的4×4残差块计算全零块检测的阈值Th₁和Th₂；

3)对于一个4×4残差块计算其对应的检测参数SAD：

$SAD=\underset{x=0}{\overset{3}{\Σ}}\underset{y=0}{\overset{3}{\Σ}}\left|e(x,y)\right|$

其中，e(x,y)为4×4残差块中的元素，0≤x,y≤3，x、y为整数；

4)判断SAD是否满足SAD＜Th₁，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD是否满足SAD＜Th₂，若是，则判断该4×4残差块为全零块，返回步骤3)进行下一个残差块的检测，若否，则对该4×4残差块进行DCT、量化、反量化和反DCT操作，返回步骤3)；

所述的步骤2)中阈值Th₁的计算公式为：

其中，r＝2^qbits-1，qbits＝19+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，C(i,x)为矩阵C中的元素，C_max是矩阵C中绝对值最大的元素；

所述的步骤2)中阈值Th₂的计算步骤为：

a)计算4×4矩阵 其中，C(u,:)表示矩阵C的第u行向量，0≤u,v≤3，操作符|·|_abs表示将矩阵中的每个元素用其绝对值来代替；

b)将4×4残差块分划为四个区域R_i，1≤i≤4，形成残差矩阵R＝[R₁,R₂,R₃,R₄]：

R₁＝{(x,y)|x＝1,2,y＝1,2}

R₂＝{(x,y)|x＝0,3,y＝1,2}

R₃＝{(x,y)|x＝1,2,y＝0,3}

R₄＝{(x,y)|x＝0,3,y＝0,3}

每个区域元素绝对值的和S_i定义如下：

$S_i=\underset{x}{\Σ}\underset{y}{\Σ}\left|e(x,y)\right|,\∀(x,y)\∈R_i,1\≤i\≤4;$

c)根据4×4矩阵计算检测全零系数的阈值Th_a、Th_b、Th_c：

$\∀(u,v)\∈\{(0,1),(2,1),(0,3),(2,3),(1,0),(1,2),(3,0),(3,2)\}$

$\∀(u,v)\∈\{(1,1),(1,3),(3,1),(3,3)\}$

其中，

d)计算Th₂：Th₂＝min{Th_a,Th_b,Th_c}。

2.根据权利要求1所述的一种高效视频编码全零4×4系数块提前检测方法，其特征在于，所述的步骤1)中量化参数Q_p的取值范围为[0,51]，且Q_p为整数。

3.根据权利要求1所述的一种高效视频编码全零4×4系数块提前检测方法，其特征在于，所述的m与Q_p的关系为：