CN102148977A - 一种自适应的dct零系数提前检测方法 - Google Patents

Abstract

一种自适应的DCT零系数提前检测算法，本算法包括全零系数宏块(AZB)检测和14零系数宏块(FZB)检测。其中全零系数宏块指4x4DCT的系数全为0，14零系数宏块指4x4DCT系数只有2个不为0。由于14零系数宏块占的比重大，但通常被当成非全零系数宏块计算，所以有相当一部分计算可以被回避。本算法正是利用了对14零系数宏块的提前检测，从而减少DCT和量化的计算。

Description

一种自适应的DCT零系数提前检测方法

技术领域

本发明涉及视频编码领域，特别是一种自适应的DCT零系数提前检测方法。

背景技术

H.264/AVC作为ITU和MPEG联合开发的最新视频标准，比传统的视频标准获得了很大的提高，而同时在编码的复杂度方面也有显著的增加。减少编码复杂度成为H.264/AVC应用的重点之一。DCT零系数在低比特率视频应用中非常常见，如果能在DCT和量化运算前检测出零系数，DCT和量化的计算就可以显著的减少。

发明内容

本自适应的DCT零系数提前检测算法包括全零系数宏块(AZB)检测和14零系数宏块(FZB)检测。其中全零系数宏块指4x4DCT的系数全为0，14零系数宏块指4x4DCT系数只有2个不为0。

本发明的目的是通过以下步骤实现：

1、根据4x4残差块f(u，v)整形变换，确定量化系数F(x，y)Q。变换公式如下：

$F(x,y)=\underset{u=0}{\overset{3}{\mathrm{\Σ}}}\underset{v=0}{\overset{3}{\mathrm{\Σ}}}C(x,u)f(u,v)C(y,v);---\left(1\right)$

满足0≤x，y≤2，其中 $C(m,n)=\&lang;\frac{2.5L\left(m\right)}{\sqrt{2}}\cos \frac{(2n+1)\mathrm{m\&pi;}}{8}\&rang;.$ 符号<x>表示取整运算。当m＝0时， $L\left(m\right)=1/\sqrt{2};$ 当m为其他值时，L(m)＝1。当量化参数在0～51范围内，量化系数公式如下：

F(x，y)Q＝sign(F(x，y))×(|F(x，y)|·M[q_rem][r]+f)》qbits；(2)

其中符号》表示二进制右移，qbits＝15+floor(QP/6)，函数floor(x)为向下取整。对于帧内宏块，f＝(2^qbits)/3；对于帧间宏块，f＝(2^qbits)/6。矩阵

$M\left[q_{\mathrm{rem}}\right]\left[r\right]=\left[\begin{array}{ccc}5243& 8066& 13107\\ 4660& 7490& 11916\\ 4194& 6554& 10082\\ 3647& 5825& 9362\\ 3355& 5243& 8192\\ 2893& 4559& 7283\end{array}\right],$ 其中q_rem＝QP％6，r＝2-(x％2)-(y％2)。

2、定义判决值公式，如下：

$T\left(2\right)=\frac{\left((2^{\mathrm{qbits}}-f\right)}{M\left[q_{\mathrm{rem}}\right]\left[2\right])};---\left(3\right)$

$T\left(1\right)=\frac{1}{2}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[1\right]}\right);---\left(4\right)$

$T\left(0\right)=\frac{1}{4}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[0\right]}\right);---\left(5\right)$

3、定义门限值公式，如下：

${\mathrm{TH}}_1=2T\left(0\right)-\max \{\max (S_0,S_3)-\frac{1}{2}\min (S_0,S_3),\max (S_1,S_2)-\frac{1}{2}\min (S_1,S_2)\};---\left(6\right)$

TH₂＝2T(1)-max(S₀，S₃)-max(S₁，S₂)；(7)

其中，S₀＝|f(0，0)|+|f(0，3)|+|f(3，0)|+|f(3，3)|；

S₁＝|f(0，1)|+|f(0，2)|+|f(3，1)|+|f(3，2)|；

S₂＝|f(1，0)|+|f(1，3)|+|f(2，0)|+|f(2，3)|；

S₃＝|f(1，1)|+|f(1，2)|+|f(2，1)|+|f(2，2)|。

4、确定总体检测法则：定义量化参数门限值为ThQ，当量化参数QP＜ThQ时，使用14零系数宏块检测法来检测14零系数宏块和全零系数宏块；其他情况下，使用全零系数宏块检测法来检测全零系数宏块。ThQ一般选取为40。

5、确定全零系数宏块检测法则。该全零系数宏块检测法则分为3个步骤：

A.如果SAD_4×4≥T(2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换；否则进入步骤B。

B.如果SAD_4×4＜T(0)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则计算min{TH₁，TH₂}，进入步骤C。

C.如果SAD_4×4＜min{TH₁，TH₂}，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换。

6、确定14零系数宏块检测法则。该14零系数宏块检测法则分为3个步骤：

A.如果SAD_4×4≥T(2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换；否则进入步骤B。

B.如果SAD_4×4＜T(1)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块为14零系数宏块，进入步骤C。

C.通过计算f(1，0)和f(0，1)完成变换、量化、反量化、反变换。

如果将一个4x4残差块的全部16个DCT量化系数分为2组：G1、G2，G1组包括F(0，1)Q和F(0，1)Q这两个系数；G2组包括其它14个系数。经过统计测试，发现在SAD_4×4＜T(2)的情况下，95％以上的宏块G2中各个元素为0。

因而本发明提出的14零系数宏块检测方法可以显著简化计算。测试序列和G2为0的概率情况可见表一

序列	G2＝0的概率	序列	G2＝0的概率
				Forman	99.1％	Bus	99.2％
Mother	99.4％	Highway	98.2％
				Akiyo	99.7％	Claire	99.4％
Silent	99.1％	Container	99.3％
				News	99.4％	Coastguard	98.5％
Table Tennis	99.0％	Mobile calendar	99.2％
				Garden	99.1％	Grandma	99.6％

表一

具体实施过程

对自适应的DCT零系数提前检测算法，具体实施步骤描述如下：

1、根据4x4残差块f(u，v)整形变换，确定量化系数F(x，y)Q。变换公式如下：

$F(x,y)=\underset{u=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{3}{\mathrm{\&Sigma;}}}C(x,u)f(u,v)C(y,v);---\left(1\right)$

满足0≤x，y≤2，其中 $C(m,n)=\&lang;\frac{2.5L\left(m\right)}{\sqrt{2}}\cos \frac{(2n+1)\mathrm{m\&pi;}}{8}\&rang;.$ 符号<x>表示取整运算。当m＝0时， $L\left(m\right)=1/\sqrt{2};$ 当m为其他值时，L(m)＝1。

当量化参数在0～51范围内，量化系数公式如下：

F(x，y)Q＝sign(F(x，y))×(|F(x，y)|·M[q_rem][r]+f)》qbits；(2)

其中符号》表示二进制右移，qbits＝15+Hoor(QP/6)，函数floor(x)为向下取整。对于帧内宏块，f＝(2^qbits)/3；对于帧间宏块，f＝(2^qbits)/6。矩阵 $M\left[q_{\mathrm{rem}}\right]\left[r\right]=\left[\begin{array}{ccc}5243& 8066& 13107\\ 4660& 7490& 11916\\ 4194& 6554& 10082\\ 3647& 5825& 9362\\ 3355& 5243& 8192\\ 2893& 4559& 7283\end{array}\right],$ 其中q_rem＝QP％6，r＝2-(x％2)-(y％2)。

2、计算判决值，公式如下：

$T\left(2\right)=\frac{\left((2^{\mathrm{qbits}}-f\right)}{M\left[q_{\mathrm{rem}}\right]\left[2\right])};---\left(3\right)$

$T\left(1\right)=\frac{1}{2}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[1\right]}\right);---\left(4\right)$

$T\left(0\right)=\frac{1}{4}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[0\right]}\right);---\left(5\right)$

3、计算门限值，公式如下：

${\mathrm{TH}}_1=2T\left(0\right)-\max \{\max (S_0,S_3)-\frac{1}{2}\min (S_0,S_3),\max (S_1,S_2)-\frac{1}{2}\min (S_1,S_2)\};---\left(6\right)$

TH₂＝2T(1)-max(S₀，S₃)-max(S₁，S₂)；            (7)

其中，S₀＝|f(0，0)|+|f(0，3)|+|f(3，0)|+|f(3，3)|；

S₁＝|f(0，1)|+|f(0，2)|+|f(3，1)|+|f(3，2)|；

S₂＝|f(1，0)|+|f(1，3)|+|f(2，0)|+|f(2，3)|；

S₃＝|f(1，1)|+|f(1，2)|+|f(2，1)|+|f(2，2)|。

4、根据总体检测法则确定检测方法：定义量化参数门限值为ThQ，当量化参数QP＜ThQ时，使用14零系数宏块检测法来检测14零系数宏块和全零系数宏块；其他情况下，使用全零系数宏块检测法来检测全零系数宏块。ThQ一般选取为40。

5、根据全零系数宏块检测法则进行检测。该全零系数宏块检测法则分为3个步骤：

A.如果SAD_4×4≥T(2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换；否则进入步骤B。

B.如果SAD_4×4＜T(0)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则计算min{TH₁，TH₂}，进入步骤C。

C.如果SAD_4×4＜min{TH₁，TH₂}，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换。

6、根据14零系数宏块检测法则进行检测。该14零系数宏块检测法则分为3个步骤：

A.如果SAD_4×4≥T(2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换；否则进入步骤B。

B.如果SAD_4×4＜T(1)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块为14零系数宏块，进入步骤C。

C.通过计算f(1，0)和f(0，1)完成变换、量化、反量化、反变换。

Claims (6)

1.一种自适应的DCT零系数提前检测算法，其特征在于，包括如下步骤：

1)根据4x4残差块f(u，v)整形变换，确定量化系数F(x，y)_Q。

2)定义判决值公式。

3)定义门限值公式。

4)确定总体检测法则。

5)确定全零系数宏块检测法则。

6)确定14零系数宏块检测法则。

2.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤2)中判决值公式及参数，如下：

$T\left(2\right)=\frac{\left((2^{\mathrm{qbits}}-f\right)}{M\left[q_{\mathrm{rem}}\right]\left[2\right])};---\left(3\right)$

$T\left(1\right)=\frac{1}{2}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[1\right]}\right);---\left(4\right)$

$T\left(0\right)=\frac{1}{4}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[0\right]}\right);---\left(5\right)$

其中qbits＝15+floor(QP/6)，函数floor(x)为向下取整。对于帧内宏块，f＝(2^qbits)/3；对于帧间宏块，f＝(2^qbits)/6。矩阵

$M\left[q_{\mathrm{rem}}\right]\left[r\right]=\left[\begin{array}{ccc}5243& 8066& 13107\\ 4660& 7490& 11916\\ 4194& 6554& 10082\\ 3647& 5825& 9362\\ 3355& 5243& 8192\\ 2893& 4559& 7283\end{array}\right],$

其中q_rem＝QP％6，r＝2-(x％2)-(y％2)。

3.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤3)中门限值公式及参数，如下：

${\mathrm{TH}}_1=2T\left(0\right)-\max \{\max (S_0,S_3)-\frac{1}{2}\min (S_0,S_3),\max (S_1,S_2)-\frac{1}{2}\min (S_1,S_2)\};---\left(6\right)$

TH₂＝2T(1)-max(S₀，S₃)-max(S₁，S₂)；      (7)

其中，S₀＝|f(0，0)|+|f(0，3)|+|f(3，0)|+|f(3，3)|；

      S₁＝|f(0，1)|+|f(0，2)|+|f(3，1)|+|f(3，2)|；

      S₂＝|f(1，0)|+|f(1，3)|+|f(2，0)|+|f(2，3)|；

      S₃＝|f(1，1)|+|f(1，2)|+|f(2，1)|+|f(2，2)|。

4.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤4)中总体检测法则，如下：

定义量化参数门限值为ThQ，当量化参数QP＜ThQ时，使用14零系数宏块检测法来检测14零系数宏块和全零系数宏块；其他情况下，使用全零系数宏块检测法来检测全零系数宏块。ThQ一般选取为40。

5.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤5)中全零系数宏块检测法则的3个步骤，如下：

A.如果SAD_4×4≥T(2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换；否则进入步骤B。

B.如果SAD_4×4＜T(0)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则计算min{TH₁，TH₂}，进入步骤C。

C.如果SAD_4×4＜min{TH₁，TH₂}，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换。

6.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤6)中14零系数宏块检测法则的3个步骤，如下：

A.如果SAD_4×4≥T(2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换；否则进入步骤B。

B.如果SAD_4×4＜T(1)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块为14零系数宏块，进入步骤C。

C.通过计算f(1，0)和f(0，1)完成变换、量化、反量化、反变换。