CN103796033B - 一种高效视频编码零系数提前检测方法 - Google Patents

Abstract

本发明涉及一种高效视频编码零系数块提前检测方法，包括：1)设定量化参数Q_p、二维DCT变换矩阵C、残差矩阵R_e以及TU块的大小N；2)根据Q_p、C、R_e和N计算零块检测阈值；3)对于一个大小为N的TU块计算其对应的检测参数SAD；4)对于一个大小N的TU块，首先判断SAD是否满足SAD<Th₀，若是，则判断该TU块为全零块，返回步骤3)，若否，则执行步骤5)；5)判断SAD能否满足SAD<Th_j，j＝1，2，…，N‑1，若是，则对最终量化块Z(0，0)到Z(j‑1，j‑1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)，若否，则对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)。与现有技术相比，本发明具有可提高视频编码速度、降低编码计算复杂度且检测效率高等优点。

Description

一种高效视频编码零系数提前检测方法

技术领域

本发明涉及一种视频编码方法，尤其是涉及一种高效视频编码零系数提前检测方法。

背景技术

随着人们对多媒体娱乐不断增长的需求，高清视频的流行以及超高清视频的出现导致了对编码效率的更高要求，而这种编码效率是当前视频编码标准H.264/AVC所不能满足的。为此，视频编码联合组(JCT-VC)设计了一种新的视频编码标准，被称为高效视频编码(High Efficiency Video Coding，HEVC)，它的目标是在相同的视频质量下提供比H.264/AVC高一倍的压缩效率。

HEVC和其他视频编码标准的基本区别在于：HEVC使用了四叉树结构。四叉树结构是一种把图片划分为不同大小块的机制，这种机制可以提高预测以及残差编码的性能。HEVC的基本处理单元是编码树单元(Coding Tree Unit，CTU)，它可以看成是H.264/AVC中宏块的扩展。一个CTU可以被设置为以下的块大小：64×64，32×32或者16×16，并且它可以使用基于四叉树递归的方法划分为更小的编码单元(Coding Unit，CU)。每个CU可以进一步划分成为预测单元(Prediction Unit，PU)，进行帧内或帧间预测。对于预测之后产生的残差信号，HEVC采用残差四叉树(Residual Quad Tree，RQT)来进行变换处理，即：将每一个CU划分为变换单元(Transform Unit，TU)。根据HEVC设计规则，亮度块的TU大小范围从4×4到32×32，色度块的范围从4×4到16×16。CU、PU和TU块大小的划分是由率-失真联合优化方法决定的。除了四叉树结构，HEVC还采用了其他多种高级编码技巧，例如：更加完备的帧内角度预测方法、样本自适应偏移编码算法等等，来进一步提高压缩效率。

尽管HEVC的压缩效率得到了大幅提升，其计算复杂度也变的异常庞大。2012年12月份发表在IEEE Transactions on Circuits and System for Video Technology的一篇文献对比了HEVC和H.264/AVC的编码计算复杂度，表明HEVC的编码计算量要远远高于H.264/AVC，因此非常有必要设计快速编码技术来降低HEVC的编码计算复杂度。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种可提高视频编码速度、降低编码计算复杂度且检测效率高的高效视频编码零系数块提前检测方法，用以在高效视频编码中提前判断零系数块，从而降低离散余弦变换(Discrete CosineTransform，DCT)和量化过程的计算复杂度。

本发明的目的可以通过以下技术方案来实现：

一种高效视频编码零系数块提前检测方法，包括以下步骤：

1)设定量化参数Q_p、二维DCT变换矩阵C、残差矩阵R_e以及TU块的大小N；

2)根据Q_p、C、R_e和N计算零块检测阈值Th₀，Th₁，Th₂，……Th_N-1；

3)对于一个大小为N的TU块通过以下公式计算其对应的检测参数SAD：

其中，e(x，y)为TU块中的元素，0<＝x，y<＝N-1，x、y为整数；

4)对于一个大小N的TU块，首先判断SAD是否满足SAD<Th₀，若是，则判断该TU块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD能否满足SAD<Th_j，j＝1，2，…，N-1，若是，则对最终量化块Z(0，0)到Z(j-1，j-1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)，若否，则执行步骤6)；

6)对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)。

所述的步骤1)中量化参数Q_p的取值范围为[0，51]，且Q_p为整数。

所述的步骤2)中零块检测阈值Th_j的计算公式为：

其中γ＝3，[·]_u，u为矩阵中第(u，u)个位置的元素，i＝0，1，2，3，相对于N＝4，8，16，32，0≤j<N，qbits_i＝19-i+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，r_i＝F<<(qbits_i-9)，F是量化偏移量，<<表示左移操作符，ρ为相关系数，C₁，C₂，C₃通过HEVC标准得出。

所述的m与Q_p的关系为：

Qp％6	0	1	2	3	4	5
							m	26214	23302	20560	18396	16384	14564

。

所述的量化偏移量F的取值为：对于帧内预测，F为171；对于帧间预测，F为85；相关系数ρ为0.6。

与现有技术相比，本发明具有以下优点：

1、本发明通过对零系数进行提前检测，有效减少系数块的DCT和量化操作，节省编码时间，降低了编码计算复杂度；

2、本发明通过一系列阈值进行零系数块检测，检测有效且检测效率高；

3、本发明除了可应用于4×4系数块外，还扩展到了8×8、16×16和32×32；除了提前检测全零系数块外，还可以检测1×1、2×2等非零系数子块，因此，进一步节省了编码时间。

具体实施方式

下面结合具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

在HEVC中，对于一个4×4残差块e(x，y)，其二维DCT变换可以写成如下形式：

其中，F(u，v)(0≤u，v≤3)是变换系数块；C是二维DCT变换矩阵：

C^T是矩阵C的转置。

给定变换系数F(u，v)和一个量化参数Q_p(HEVC中的变化范围是0～51)，量化后的变换系数Z(u，v)，0≤u，v≤3，可计算如下：

Z(u，v)＝sign(F(u，v))·[(|F(u，v)|·m+r)>>qbits] (3)

其中，qbits＝19+floor(Q_p/6)，r＝F<<(qbits_i-9)，F是量化偏移量，对帧内预测和帧间预测分别是171和85，<<代表左移操作符。m是与Q_p有关的乘数因子，m与Q_p的关系见表1。相关系数ρ为0.6。

表1

Qp％6	0	1	2	3	4	5
							m	26214	23302	20560	18396	16384	14564

可以概括出所有四种TU的变换和量化的公式如下：

Z_i(u，v)＝sign(A_i(u，v))·[(|A_i(u，v)|·m+r_i)>>qbits_i] (5)

i＝0，1，2，3，相对于TU块大小为4×4、8×8、16×16、32×32，0<＝u，v<＝2ⁱ⁺²-1。

以下推导以4×4变换和量化为例进行说明。

通过公式(3)，变换系数F(u，v)被量化为零的充分条件可以表示为：

把公式(1)中的F(u，v)带入到公式(6)中，可以得到：

考虑到|a+b|≤|a|+|b|，下面的不等式可以通过公式(7)导出：

通过公式(8)，我们可以进一步得到：

A(u，v)<T(u，v) (9)

假设

然后，把残差块中的元素看成服从高斯分布，均值为0，标准差为σ。那么可以得到残差中元素的概率密度函数为：

|x|的数学期望可以表示为：

由于E‖x‖可以近似计算为：

N是系数的个数(对于4小4DCT来说，是16)，因此可以得出

而矩阵A中(u，v)位置的可以记为

[·]_u，u代表矩阵中第(u，u)位置的元素。

其中ρ是相关系数，设置为0.6。根据中心极限定理，如果满足如下条件，系数A(u，v)可以被近似看做高斯分布并量化为零。

γσ_A<T(u，v) (18)

如果γ＝3，那么系数A(u，v)被量化为零的概率将达到99.73％。根据以上公式可以得出：

SAD<TS(u，v) (19)

通过这个公式可以得出每个位置量化后为零的阈值。

对于所有四种变换与量化，基于相似性可以得出以下预测零系数的结论：

SAD_i<TS_i(u，v) (21)

其中γ＝3，[·]_u，u为矩阵中第(u，u)个位置的元素，i＝0，1，2，3，相对于N＝4，8，16，32，0≤j<N，qbits_i＝19-i+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，r_i＝F<<(qbits_i-9)，F是量化偏移量，<<表示左移操作符，ρ为相关系数，C₁，C₂，C₃通过HEVC标准得出。

TS_i是一个对称矩阵，并且满足以下条件：

对于第i种类型的变换和量化，可以使用阈值TS_i(0，k)，0<＝k<＝2²⁺ⁱ-1，来预测非零子块进而跳过其他系数的变换和量化。举例说明如下：如果SAD_i<TS_i(0，0)这个块是一个全零块，可以跳过所有的变换和量化过程；如果TS_i(0，0)<＝SAD_i<TS_i(0，1)该块被预测只含有一个非零变换量化系数Z_i(0，0)(1×1非零块)，其他所有的变换量化系数都是零，因此只需要计算Z_i(0，0)位置的变换和量化系数；其余情况类似。

为了均衡检测效率和额外的计算开销，本实施例可降低DCT和量化过程计算复杂度的高效视频编码零系数块提前检测方法，包括以下步骤：

一种高效视频编码零系数块提前检测方法，包括以下步骤：

1)设定量化参数Q_p、二维DCT变换矩阵C、残差矩阵R_e以及TU块的大小N；

2)根据Q_p、C、R_e和N计算零块检测阈值Th₀，Th₁，Th₂，……Th_N-1；

3)对于一个大小为N的TU块通过以下公式计算其对应的检测参数SAD：

其中，e(x，y)为TU块中的元素，0<＝x，y<＝N-1，x、y为整数；

4)对于一个大小N的TU块，首先判断SAD是否满足SAD<Th₀，若是，则判断该TU块为全零块，返回步骤3)进行下一个残差块的检测，若否，则判断SAD能否满足SAD<Th₁，若是，则对最终量化块Z(0，0)进行DCT、量化、反量化和反DCT操作，返回步骤3)，若否，则判断SAD能否满足SAD<Th₂，若是，则对最终量化块Z(0，0)到Z(1，1)的2×2块进行DCT、量化、反量化和反DCT操作，返回步骤3)，否则直到判断SAD是否满足SAD<Th_N-1，如满足则只需要计算最终量化块Z(0，0)到Z(N-2，N-2)的(N-1)×(N-1)块DCT、量化操作，返回步骤3)；如以上条件均不满足，则对TU块进行完整的DCT、量化、反量化和反DCT操作，返回步骤3)。

采用HEVC参考软件模型HM8.0来评估本发明所提出的提前检测方法。实验配置如下：采用随机接入(Random Access，RA)；图片组大小(GOP)设置为8；CTU尺寸、最小CU尺寸、最大TU尺寸、最小TU尺寸、帧内编码CU的变换树层次以及帧间编码CU的变换树层次分别设置为64×64、8×8、32×32、4×4、3×3。使用了5个HEVC标杆测试视频进行评估。根据视频分辨率可以把这些视频分为五类，每类一个视频，包括：Class A(2560×1600)、Class B(1920×1080)、Class C(832×480)、Class D(416×240)和Class E(1280×720)。对于每一个视频序列，使用32帧(即4个GOP)进行测试。为了检测不同码率时的预测表现，实验中共使用了五个Q_p值：24、28、32、36和40。

为了评估性能，本专利使用了六个评价指标，分别是整体计算时间的下降(ΔT_e)、DCT/量化/反量化/反DCT过程的时间下降(ΔT_d)、Y-PSNR降低、U-PSNR降低、V-PSNR降低以及Bitrate降低，定义如下：

其中，是原始编码器的整体编码时间；T_e是使用了高斯优化算法后编码器的整体运行时间；是原始编码器DCT/量化/反量化/反DCT的时间；T_d是使用了高斯优化算法后编码器中DCT/量化/反量化/反DCT的时间；B^org分别是原始编码器的Y-PSNR、U-PSNR、V-PSNR和Bitrate，P_Y，P_U，P_V，B分别是使用了高斯优化算法后编码器的Y-PSNR、U-PSNR、V-PSNR和Bitrate。表2给出了五个视频的实验结果。可以看出，提出的高斯算法可以在基本不改变视频质量的前提下，有效的降低HEVC的编码时间。

表2

Claims (4)

1.一种高效视频编码零系数块提前检测方法，其特征在于，包括以下步骤：

1)设定量化参数、二维DCT变换矩阵、残差矩阵以及TU块的大小；

2)计算零块检测阈值Th₀,Th₁,Th₂,......Th_N-1；

3)对于一个大小为N的TU块通过以下公式计算其对应的检测参数SAD：

$SAD=\underset{x=0}{\overset{N-1}{\&Sigma;}}\underset{y=0}{\overset{N-1}{\&Sigma;}}\left|e(x,y)\right|$

其中，e(x,y)为TU块中的元素，0＜＝x,y＜＝N-1，x、y为整数；

4)对于一个大小N的TU块，首先判断SAD是否满足SAD＜Th₀，若是，则判断该TU块为全零块，返回步骤3)进行下一个残差块的检测，若否，则执行步骤5)；

5)判断SAD能否满足SAD＜Th_j，j＝1,2,...,N-1，若是，则对最终量化块Z(0,0)到Z(j-1,j-1)的j×j块进行DCT、量化、反量化和反DCT操作，返回步骤3)进行下一个残差块的检测，若否，则执行步骤6)；

6)对全TU块进行DCT、量化、反量化和反DCT操作，返回步骤3)进行下一个残差块的检测；

所述的步骤2)中零块检测阈值Th_j的计算公式为：

${\mathrm{Th}}_j=\frac{\left(2^{\frac{9}{2}+2i}\right)}{\mathrm{\&gamma;}{\sqrt{\mathrm{\&pi;}\&lsqb;C_i{R}_i{C}_i^T\&rsqb;}}_{0,0}{\&lsqb;C_i{R}_i{C}_i^T\&rsqb;}_{j,j}}\&CenterDot;(\frac{2^{{\mathrm{qbits}}_i-r_i}}{m}\&CenterDot;2^{9+2i}-2^{8+2i}-2^i\&CenterDot;|\underset{x=0}{\overset{2^{i+2}-1}{\&Sigma;}}{C}_i\left(0,x\right)\left|\right)$

其中γ＝3，[·]_u,u为矩阵中第(u,u)个位置的元素，i＝0,1,2,3，相对于N＝4,8,16,32，0≤j＜N，N为TU块的大小，qbits_i＝19-i+floor(Q_p/6)，floor(·)为取整函数，m是与Q_p有关的乘数因子，Q_p为量化参数，r_i＝F＜＜(qbits_i-9)，F是量化偏移量，＜＜表示左移操作符，R_i为残差矩阵，为相关系数，C_i为二维DCT变换矩阵，其中，C₁,C₂,C₃通过HEVC标准得出。

2.根据权利要求1所述的一种高效视频编码零系数块提前检测方法，其特征在于，所述的步骤1)中量化参数Q_p的取值范围为[0,51]，且Q_p为整数。

3.根据权利要求1所述的一种高效视频编码零系数块提前检测方法，其特征在于，所述的m与Q_p的关系为：

4.根据权利要求1所述的一种高效视频编码零系数块提前检测方法，其特征在于，所述的量化偏移量F的取值为：对于帧内预测，F为171；对于帧间预测，F为85；相关系数ρ为0.6。