CN102685499A - 一种基于能量守恒的全零块检测方法 - Google Patents

Abstract

基于能量守恒的全零块检测方法，通过在变换量化前对变换量化后系数全为零的块（全零块）进行预判，可以提前检测出全零块，从而可省去残差块的变换量化过程。本方案在保证大QP时的检测率的同时对于小QP时的视频编码过程中的全零块检测效果突出，并且在检测过程中引入的计算量很小。因此能有效地减少变换量化过程中的计算量，从而提高编码效率。

Description

一种基于能量守恒的全零块检测方法

技术领域

本发明属于信息处理的视频编码领域，主要针对H.264国际视频编码标准中的变换量化过程，提出了一种基于能量守恒的全零块检测方法。

背景技术

随着以超大规模集成电路和互联网技术为代表的现代电子技术和计算机技术的迅猛发展，各种新的信息传播手段不断出现，其中多媒体技术及其应用领域是其中的热点。对于广泛的多媒体应用，视频压缩扮演着重要的角色。

H.264是由国际电信联盟(ITU)和国际标准化组织(ISO/IEC)的专家组成的联合视频组(JVT)提出的新一代数字视频编码标准，因此对于ISO被称为MPEG-4第10部分或对于JVT称为H.264/高级视频编码(H.264/AVC)。与之前的视频编码标准相比，H.264采用了多种新的编码技术使其编码效率提高70%以上，但其计算复杂度非常高，大约是H.263的4~5倍，限制了其在实时方面的应用。近年来，研究人员对H.264中复杂度非常高的运动估计和模式选择提出了很多快速算法，当运动估计和模式选择被优化后，变换和量化部分的计算复杂度就变得比较突出。

H.264的大致编码流程如下：

1、输入当前宏块，进行帧内或帧间预测；

2、预测块减去原始块得到残差块，对残差块进行变换量化等操作；

3、计算各预测模式下的率失真代价值，选择出率失真代价最小的模式作为最佳模式；

4、对下一宏块执行1-3的操作；

在视频压缩编码过程中，由于很多视频序列都具有运动缓慢、背景静止等特点，具有很强的相关性，因此预测编码的效果很好，由原始信号减去预测信号得到的残差信号的绝对值很小。如果编码块的残差信号经过变换、量化后的系数全部为零，则称这样的块为全零块(AZB)。显然对于全零块而言，变换、量化等操作都是多余的。因此，如果在H.264的编码过程中能提前检测出全零块，就可以跳过变换、量化等操作，减少相应的计算量，降低编码复杂度。

为避免反变换引起的不匹配问题，H.264采用了4×4的整数DCT。对于一个4×4残差块f(x,y),0≤x,y≤3，其整数离散余弦变换(DCT)定义为：

$F_I={\mathrm{CXC}}^T\⊗E=W\⊗E,{\mathrm{CC}}^T\⊗E=I---\left(17\right)$

其中F_I表示整数DCT系数，X表示残差块， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 2& 1& -1& -2\\ 1& -1& -1& 1\\ 1& -2& 2& -1\end{array}\right]$ 为整数变换矩阵，E为伸缩因子矩阵，符号

表示(CXC^T)矩阵中的元素与矩阵E中对应位置上的伸缩因子相乘，W＝CXC^T为核心变换。为降低计算量，缩放操作

合并到了量化过程中。量化系数Z(u,v)可表示为：

|Z(u,v)|=(|W(u,v)|·M[q_rem][r]+f)>>qbits,0≤u,v≤3    (18)

sign(Z(u,v))=sign(W(u,v))，其中qbits=15+floor(QP/6)，QP为取值范围是0到51的量化参数，帧间时f=(2^qbits)/6，帧内时f=(2^qbits)/3，>>表示线性右移， $M\left[q_{\mathrm{rem}}\right]\left[r\right]=\left[\begin{array}{ccc}5243& 8066& 13107\\ 4660& 7490& 11916\\ 4194& 6554& 10082\\ 3647& 5825& 9362\\ 3355& 5423& 8192\\ 2893& 4559& 7283\end{array}\right]$ 为一个周期表，其中q_rem＝QP%6,r=2-(u%2)-(v%2)。从公式（18）可以得到当W(u,v)满足以下不等式时量化系数Z(u,v)为零：

$\left|W(u,v)\right|<\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[r\right]}---\left(19\right)$

由W＝CXC^T可得到：

$\left|W(u,v)\right|\&le;\underset{x=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|f(x,y)\right|\&CenterDot;\left|C(x,y,u,v)\right|---\left(20\right)$

又因绝对误差和(SAD)为

因此由公式（19）和（20）可以得到全零块检测的充分条件：

SAD<min{T(r)},r=2-(u%2)-(v%2)   (21)

其中r的取值为0,1,2，

$T\left(0\right)=\frac{1}{4}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[0\right]}\right),$ $T\left(1\right)=\frac{1}{2}\&times;\left(\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[1\right]}\right),$ $T\left(2\right)=\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[2\right]}.$

现有的全零块检测算法大部分是基于绝对误差和，且在SAD<T(2)的情况下讨论的。然而当SAD>T(2)时仍有很多全零块，因此全零块的检测率仍有提升空间。

发明内容

本发明的目的在于克服上述现有技术的存在的问题，提供了一种能够降低H.264的编码复杂度的基于能量守恒的全零块检测方法。

为达到上述目的，本发明采用的技术方案是：

1）查表得到检测全零块的阈值T(2)和Th；

2）判断SAD<T(2)，满足条件则判断该块为全零块跳到步骤5），否则跳到步骤3）；

3）判断计算直流系数DC是否为零，若为零跳到步骤4），否则判断该块为非全零块，跳到步骤6）；

4）判断SAD<Th，满足条件则判断该块为全零块跳到步骤5），否则判断该块为非全零块，跳到步骤6）；

5）跳过变换量化操作，进入下一块编码；

6）进行变换量化操作，进入下一块编码。

当SAD>T(2)时，对当前块的特性进行以下处理：

1）直流系数量化为零的条件

由H.264的整数变换量化公式可知直流量化系数Z(0,0)为0的条件为：

$\left|W\left(\mathrm{0,0}\right)\right|<\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[2\right]}=T\left(2\right)---\left(22\right)$

由W＝CXC^T可知

因此直流系数量化为0的判断条件为：

$\left|\underset{x=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{3}{\mathrm{\&Sigma;}}}f(x,y)\right|<T\left(2\right)---\left(23\right)$

2）交流系数量化为0的条件

假设作为DCT输入的残差系数f(x,y)近似为均值为0方差为σ的高斯分布：

$p\left(f\right)=\frac{1}{\sqrt{2\mathrm{\&pi;}}\mathrm{\&sigma;}}{e}^{-\frac{f^2}{2{\mathrm{\&sigma;}}^2}},$ -∞<f<+∞       (24)

|f|的期望为：

$E\left[\right|f\left|\right]=\underset{-\&infin;}{\overset{+\&infin;}{\&Integral;}}\left|f\right|\frac{1}{\sqrt{2\mathrm{\&pi;}}\mathrm{\&sigma;}}{e}^{-\frac{f^2}{2{\mathrm{\&sigma;}}^2}}\mathrm{df}=\sqrt{\frac{2}{\mathrm{\&pi;}}}\mathrm{\&sigma;}---\left(25\right)$

由于

E[|f|]可以近似表示为

$E\left[\right|f\left|\right]\&ap;\frac{\mathrm{SAD}}{N^2}---\left(26\right)$

其中N表示块尺寸，因此由公式(25)和(26)得到：

$\mathrm{\&sigma;}\&ap;\sqrt{\frac{\mathrm{\&pi;}}{2}}\frac{\mathrm{SAD}}{N^2}---\left(27\right)$

由H.264的变换量化公式可知

等于I，因此根据帕斯瓦尔原理可以得到

$\underset{u=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{F}_I^2(u,v)=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)---\left(28\right)$

F_I(0,0)表示直流系数，可表示为：

$F_I\left(\mathrm{0,0}\right)=\frac{1}{N}\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)---\left(29\right)$

因此对于交流系数的总能量可以表示为：

$\underset{u+v\&NotEqual;0}{\mathrm{\&Sigma;}}{F}_I^2(u,v)=\underset{u=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{F}_I^2(u,v)-F_I^2\left(\mathrm{0,0}\right)=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2\left(\mathrm{0,0}\right)---\left(30\right)$

很自然地：

$\max \{{\left|F_I(u,v)\right|}^2,u+v\&NotEqual;0\}\&le;\underset{u+v\&NotEqual;0}{\mathrm{\&Sigma;}}{\left|F_I(u,v)\right|}^2---\left(31\right)$

由于DCT系数量化为零的条件为：

$\left|F_I(u,v)\right|<\frac{5}{6}\&times;\mathrm{QStep}---\left(32\right)$

其中QStep=0.625×2^QP/6。由公式(30)、(31)和(32)得到交流系数为零的条件：

$\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2\left(\mathrm{0,0}\right)<{(\frac{5}{6}\&times;\mathrm{QStep})}^2---\left(33\right)$

又因为：

$N^2{\mathrm{\&sigma;}}^2=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{[f(x,y)-\frac{1}{N^2}\&times;\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)]}^2$

$=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-\frac{1}{N^2}\&times;{\left[\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)\right]}^2---\left(34\right)$

$=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2(0,0)$

由公式(33)和(34)得到交流系数为零的条件:

$N^2{\mathrm{\&sigma;}}^2<{(\frac{5}{6}\&times;\mathrm{QStep})}^2---\left(35\right)$

将公式(27)代入(35)可得到由SAD判断交流系数为零的条件：

$\mathrm{SAD}<\sqrt{\frac{2}{\mathrm{\&pi;}}}\&CenterDot;N\&CenterDot;\frac{5}{6}\&times;\mathrm{QStep}---\left(36\right)$

由于不同视频和编码方式下，DCT系数的分布模型或相应N×N残差块的能量有所不同，因此我们引入一个伸缩因子k：

$\mathrm{SAD}<k\&CenterDot;\sqrt{\frac{2}{\mathrm{\&pi;}}}\&CenterDot;N\&CenterDot;\frac{5}{6}\&times;\mathrm{QStep}=\mathrm{Th}---\left(37\right)$

根据统计得到的全零块与SAD的关系，当QP<30时设定k为经验值1.4，当QP≥30时设定k为经验值1.3。

本发明的有益效果是，通过在变换量化前对全零块进行预判，可以提前检测出全零块，从而可省去残差块的变换量化过程。本方案在保证大QP时的检测率的同时对于小QP时的视频编码过程中的全零块检测效果突出，并且在检测过程中引入的计算量很小。因此能有效地减少变换量化过程中的计算量，从而提高编码效率。

附图说明

图1为本发明中全零块检测的流程图。

具体实施方式

在全零块检测之前，对各个QP计算出其对应的全零块检测阈值T(2)和Th，将这些阈值存储在表中。全零块检测过程中，通过查表得到这些阈值。编码过程中，根据H.264的编码流程，在变换量化前得到绝对误差和(SAD)。若SAD<T(2)，判断当前块为全零块；若SAD>T(2)，计算直流系数(DC)，判断直流系数是否为零，若直流系数不为零，则判断当前块为非全零块；若直流系数为零，则判断SAD<Th，若成立，则判断当前块为全零块，否则为非全零块。利用该方法可以在各QP下对不同视频序列进行全零块检测。

实施例1

选取运动复杂度从高到底的三个视频序列Football,Foreman,Mother利用提出的全零块检测算法进行全零块检测，检测流程如图1所示：

1）查表得到T(2)和Th；

2）判断SAD<T(2)，满足条件则判断该块为全零块跳到步骤5），否则跳到步骤3）；

3）判断计算直流系数DC是否为零，若为零跳到步骤4），否则判断该块为非全零块，跳到步骤6）；

4）判断SAD<Th，满足条件则判断该块为全零块跳到步骤5），否则判断该块为非全零块，跳到步骤6）；

5）跳过变换量化操作，进入下一块编码；

6）进行变换量化操作，进入下一块编码。

当SAD>T(2)时，对当前块的特性进行以下处理：

1）直流系数量化为零的条件

由H.264的整数变换量化公式可知Z(0,0)为0的条件为：

$\left|W\left(\mathrm{0,0}\right)\right|<\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[2\right]}=T\left(2\right)---\left(38\right)$

由W＝CXC^T可知因此计算直流系数DC系数为0的判断条件为：

$\left|\underset{x=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{3}{\mathrm{\&Sigma;}}}f(x,y)\right|<T\left(2\right)---\left(39\right)$

2）交流系数量化为0的条件

假设作为DCT输入的残差系数f(x,y)近似为均值为0方差为σ的高斯分布：

$p\left(f\right)=\frac{1}{\sqrt{2\mathrm{\&pi;}}\mathrm{\&sigma;}}{e}^{-\frac{f^2}{2{\mathrm{\&sigma;}}^2}},$ -∞<f<+∞       (40)

|f|的期望为：

$E\left[\right|f\left|\right]=\underset{-\&infin;}{\overset{+\&infin;}{\&Integral;}}\left|f\right|\frac{1}{\sqrt{2\mathrm{\&pi;}}\mathrm{\&sigma;}}{e}^{-\frac{f^2}{2{\mathrm{\&sigma;}}^2}}\mathrm{df}=\sqrt{\frac{2}{\mathrm{\&pi;}}}\mathrm{\&sigma;}---\left(41\right)$

由于E[|f|]可以近似表示为

$E\left[\right|f\left|\right]\&ap;\frac{\mathrm{SAD}}{N^2}---\left(42\right)$

其中N表示块尺寸，因此由公式(41)和(42)得到：

$\mathrm{\&sigma;}\&ap;\sqrt{\frac{\mathrm{\&pi;}}{2}}\frac{\mathrm{SAD}}{N^2}---\left(43\right)$

由H.264的变换量化公式可知

等于I，因此根据帕斯瓦尔原理可以得到

$\underset{u=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{F}_I^2(u,v)=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)---\left(44\right)$

F_I(0,0)表示直流系数，可表示为：

$F_I\left(\mathrm{0,0}\right)=\frac{1}{N}\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)---\left(45\right)$

因此对于交流系数的总能量可以表示为：

$\underset{u+v\&NotEqual;0}{\mathrm{\&Sigma;}}{F}_I^2(u,v)=\underset{u=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{F}_I^2(u,v)-F_I^2\left(\mathrm{0,0}\right)=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2\left(\mathrm{0,0}\right)---\left(46\right)$

很自然地：

$\max \{{\left|F_I(u,v)\right|}^2,u+v\&NotEqual;0\}\&le;\underset{u+v\&NotEqual;0}{\mathrm{\&Sigma;}}{\left|F_I(u,v)\right|}^2---\left(47\right)$

由于DCT系数量化为零的条件为：

$\left|F_I(u,v)\right|<\frac{5}{6}\&times;\mathrm{QStep}---\left(48\right)$

其中QStep=0.625×2^QP/6。由公式(46)、(47)和(48)得到交流系数为零的条件：

$\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2\left(\mathrm{0,0}\right)<{(\frac{5}{6}\&times;\mathrm{QStep})}^2---\left(49\right)$

又因为：

$N^2{\mathrm{\&sigma;}}^2=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{[f(x,y)-\frac{1}{N^2}\&times;\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)]}^2$

$=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-\frac{1}{N^2}\&times;{\left[\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)\right]}^2---\left(50\right)$

$=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2(0,0)$

由公式(49)和(50)得到交流系数为零的条件:

$N^2{\mathrm{\&sigma;}}^2<{(\frac{5}{6}\&times;\mathrm{QStep})}^2---\left(51\right)$

将公式(43)代入(51)可得到由SAD判断交流系数为零的条件：

$\mathrm{SAD}<\sqrt{\frac{2}{\mathrm{\&pi;}}}\&CenterDot;N\&CenterDot;\frac{5}{6}\&times;\mathrm{QStep}---\left(52\right)$

由于不同视频和编码方式下，DCT系数的分布模型或相应N×N残差块的能量有所不同，因此我们引入一个伸缩因子k：

$\mathrm{SAD}<k\&CenterDot;\sqrt{\frac{2}{\mathrm{\&pi;}}}\&CenterDot;N\&CenterDot;\frac{5}{6}\&times;\mathrm{QStep}=\mathrm{Th}---\left(53\right)$

根据统计得到的全零块与SAD的关系，当QP<30时设定k为经验值1.4，当QP≥30时设定k为经验值1.3。

实施例2

选取纹理复杂度从高到低的三个视频序列Mother,Foreman,Bridge-far进行全零块检测，检测流程与实施例1中一致。

Claims (2)

1.一种基于能量守恒的全零块检测方法，其特征在于：

1）查表得到检测全零块的阈值T(2)和Th；

2）对获得的绝对误差和SAD进行判断：SAD<T(2)，满足条件则判断该块为全零块跳到步骤5），否则跳到步骤3）；

3）判断计算直流系数DC是否为零，若为零跳到步骤4），否则判断该块为非全零块，跳到步骤6）；

4）判断SAD<Th，满足条件则判断该块为全零块跳到步骤5），否则判断该块为非全零块，跳到步骤6）；

5）跳过变换量化操作，进入下一块编码；

6）进行变换量化操作，进入下一块编码。

2.根据权利要求1所述的基于能量守恒的全零块检测方法，其特征在于：

当SAD>T(2)时，对当前块的特性进行以下处理：

1）直流系数量化为零的条件

由H.264的整数变换量化公式可知直流量化系数Z(0,0)为0的条件为：

$\left|W\left(\mathrm{0,0}\right)\right|<\frac{(2^{\mathrm{qbits}}-f)}{M\left[q_{\mathrm{rem}}\right]\left[2\right]}=T\left(2\right)---\left(1\right)$

由W＝CXC^T可知

因此直流系数量化为0的判断条件为：

$\left|\underset{x=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{3}{\mathrm{\&Sigma;}}}f(x,y)\right|<T\left(2\right)---\left(2\right)$

2）交流系数量化为0的条件

假设作为DCT输入的残差系数f(x,y)近似为均值为0方差为σ的高斯分布：

$p\left(f\right)=\frac{1}{\sqrt{2\mathrm{\&pi;}}\mathrm{\&sigma;}}{e}^{-\frac{f^2}{2{\mathrm{\&sigma;}}^2}},$ -∞<f<+∞       (3)

|f|的期望为：

$E\left[\right|f\left|\right]=\underset{-\&infin;}{\overset{+\&infin;}{\&Integral;}}\left|f\right|\frac{1}{\sqrt{2\mathrm{\&pi;}}\mathrm{\&sigma;}}{e}^{-\frac{f^2}{2{\mathrm{\&sigma;}}^2}}\mathrm{df}=\sqrt{\frac{2}{\mathrm{\&pi;}}}\mathrm{\&sigma;}---\left(4\right)$

由于

E[|f|]可以近似表示为：

$E\left[\right|f\left|\right]\&ap;\frac{\mathrm{SAD}}{N^2}---\left(5\right)$

其中N表示块尺寸，因此由公式(4)和(5)得到：

$\mathrm{\&sigma;}\&ap;\sqrt{\frac{\mathrm{\&pi;}}{2}}\frac{\mathrm{SAD}}{N^2}---\left(6\right)$

由H.264的变换量化公式可知

等于I，因此根据帕斯瓦尔原理可以得到：

$\underset{u=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{F}_I^2(u,v)=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)---\left(7\right)$

F_I(0,0)表示直流系数，可表示为：

$F_I\left(\mathrm{0,0}\right)=\frac{1}{N}\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)---\left(8\right)$

因此对于交流系数的总能量可以表示为：

$\underset{u+v\&NotEqual;0}{\mathrm{\&Sigma;}}{F}_I^2(u,v)=\underset{u=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{F}_I^2(u,v)-F_I^2\left(\mathrm{0,0}\right)=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2\left(\mathrm{0,0}\right)---\left(9\right)$

很自然地：

$\max \{{\left|F_I(u,v)\right|}^2,u+v\&NotEqual;0\}\&le;\underset{u+v\&NotEqual;0}{\mathrm{\&Sigma;}}{\left|F_I(u,v)\right|}^2---\left(10\right)$

由于DCT系数量化为零的条件为：

$\left|F_I(u,v)\right|<\frac{5}{6}\&times;\mathrm{QStep}---\left(11\right)$

其中QStep=0.625×2^QP/6，由公式(9)、(10)和(11)得到交流系数为零的条件：

$\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2\left(\mathrm{0,0}\right)<{(\frac{5}{6}\&times;\mathrm{QStep})}^2---\left(12\right)$

又因为：

$N^2{\mathrm{\&sigma;}}^2=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{[f(x,y)-\frac{1}{N^2}\&times;\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)]}^2$

$=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-\frac{1}{N^2}\&times;{\left[\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}f(x,y)\right]}^2---\left(13\right)$

$=\underset{x=0}{\overset{N-1}{\mathrm{\&Sigma;}}}\underset{y=0}{\overset{N-1}{\mathrm{\&Sigma;}}}{f}^2(x,y)-F_I^2(0,0)$

由公式(12)和(13)得到交流系数为零的条件:

$N^2{\mathrm{\&sigma;}}^2<{(\frac{5}{6}\&times;\mathrm{QStep})}^2---\left(14\right)$

将公式(6)代入(14)可得到由SAD判断交流系数为零的条件：

$\mathrm{SAD}<\sqrt{\frac{2}{\mathrm{\&pi;}}}\&CenterDot;N\&CenterDot;\frac{5}{6}\&times;\mathrm{QStep}---\left(15\right)$

由于不同视频和编码方式下，DCT系数的分布模型或相应N×N残差块的能量有所不同，因此我们引入一个伸缩因子k：

$\mathrm{SAD}<k\&CenterDot;\sqrt{\frac{2}{\mathrm{\&pi;}}}\&CenterDot;N\&CenterDot;\frac{5}{6}\&times;\mathrm{QStep}=\mathrm{Th}---\left(16\right)$

根据统计得到的全零块与SAD的关系，当QP<30时设定k为经验值1.4，当QP≥30时设定k为经验值1.3。

Images