CN102413334B - 一种应用于h.264编码的亮度4×4块帧内预测模式快速选择方法 - Google Patents

Abstract

一种应用于H.264编码的亮度4×4块帧内预测模式快速选择方法，涉及一种亮度4×4块帧内预测模式快速选择方法。它是为了4×4块帧内预测模式快速选择进而提高H.264编码的编码效率。通过分析帧内4×4块预测的基本原理和相应预测公式，得出在不同的预测模式下，相邻像素在整个预测块中具有不同的加权系数，整个预测块内大部分像素是由几个具有较大加权系数的相邻像素所决定的。根据这一特性提出了一种基于当前像素分布的亮度4×4块帧内预测模式快速选择新算法。通过将该算法集成到H.264中，能够在损失较小的编码质量的前提下，有效的提高H.264帧内预测的效率，从而提高H.264的编码效率。本发明能够满足对实时性要求较高的应用领域的需求。

Description

一种应用于H.264编码的亮度4×4块帧内预测模式快速选择方法

技术领域

本发明涉及一种帧内预测模式快速选择方法。

背景技术

由于受到存储空间和传输带宽的限制，视频文件在进行存储和传输之前需要进行压缩编码。随时多媒体技术的发展，对于视频压缩编码算法的压缩效率要求也越来越高。H.264作为一种高性能的视频编码技术，由于其优越的视频压缩比率，使得该技术在数字视频通讯领域得到迅速的发展和应用。相比于MPEG-2和MPEG-4技术，H.264技术可以在同等图像质量下大大缩减传输和存储过程中的数据量，从而减少传输带宽和存储空间。

H.264通过帧内预测消除视频序列的帧内冗余，在进行帧内预测时H.264使用相邻像素预测当前块的像素，得到预测块，再对预测块和当前块的差值进行编码。H.264在进行视频序列的亮度分量预测时，使用4×4块和16×16块两种预测方式，其中4×4块包含9种预测模式，16×16块包含4种预测模式。为了提高压缩效率，H.264在进行帧内预测时，结合率失真优化代价函数，遍历所有的预测模式，从中选取最优的预测模式。这在提高编码压缩效率的同时，也使得编码的复杂度和运算量大幅度提高，增加了进行编码所需要的时间，限制了其在实时编码领域的应用。

发明内容

本发明是为了4×4块帧内预测模式快速选择进而提高H.264编码的编码效率，从而一种应用于H.264编码的亮度4×4块帧内预测模式快速选择方法。

一种应用于H.264编码的亮度4×4块帧内预测模式快速选择方法，它由以下步骤实现：

步骤一、计算4×4块帧中9种预测模式的重要值，根据获得的9种预测模式的重要值生成9种预测模式的直方图；

步骤二、在步骤一获得的9种预测模式的直方图中选取幅值最大的三种预测模式Mx、My和Mz，并将该三种预测模式的幅值标记为hist_Mx、hist_My和hist_Mz；其中hist_Mx大于或等于hist_My；hist_My大于或等于hist_Mz；

步骤三、判断幅值hist_Mx是否小于预设一号门限值，如果判断结果是为是，则执行步骤三一；如果判断结果为否，则执行步骤三二；

步骤三一、则采用H.264中的模式选择方法遍历4×4块帧内所有的预测模式，完成4×4块帧内预测模式快速选择；

步骤三二、计算步骤二中选取的三种预测模式的幅值的差值diff1和diff2，并执行步骤四；所述diff1＝hist_Mx-hist_My；diff2＝hist_My-hist_Mz；

步骤四、判断步骤三二中的差值diff1是否大于预设二号门限值，如果判断结果为是，则选取预测模式Mx作为候选模式，完成4×4块帧内预测模式快速选择；如果判断结果为否，则执行步骤五；

步骤五、判断步骤三二中的差值diff2是否大于预设二号门限值，如果判断结果为是，则选取预测模式Mx和预测模式My作为候选模式，完成4×4块帧内预测模式快速选择；如果判断结果为否，则选取预测模式Mx、预测模式My和预测模式Mz作为候选预测模式，完成4×4块帧内预测模式快速选择。

步骤一中计算4×4块帧中9种预测模式的重要值的方法是：

步骤一一、在4×4块帧中的每种预测模式中，采用相邻相素的加权和的方式对每个像素进行预测，获得每种预测模式的预测值；

步骤一二、在每种预测模式下，将当前像素和其相邻的预测像素值相加，获得每种预测模式的加权系数，即：

Sum_M0＝4*A+4*B+4*C+4*D               (2)

Sum_M1＝4*I+4*J+4*K+4*L               (3)

Sum_M2＝2*(A+B+C+D+I+J+K+L)           (4)

${\mathrm{Sum}}_{M3}=\frac{1}{4}*A+B+\frac{7}{4}*C+3*D+\frac{14}{4}*E+3*F+\frac{7}{4}*G+H---\left(5\right)$

${\mathrm{Sum}}_{M4}=3*A+\frac{7}{4}*B+C+\frac{1}{4}*D+3*I+2*J+k+\frac{1}{4}*L+\frac{14}{4}*X---\left(6\right)$

${\mathrm{Sum}}_{M6}=\frac{14}{4}*A+\frac{15}{4}*B+3*C+\frac{3}{4}*D+\frac{5}{4}*I+J+\frac{1}{4}*K+\frac{11}{4}*X---\left(7\right)$

${\mathrm{Sum}}_{M6}=\frac{5}{4}*A+\frac{3}{4}*B+\frac{1}{4}*C+4*I+\frac{15}{4}*J+\frac{14}{4}*K+\frac{3}{4}*L+\frac{9}{4}*X---\left(8\right)$

${\mathrm{Sum}}_{M7}=\frac{8}{4}*A+\frac{11}{4}*B+\frac{15}{4}*C+\frac{16}{4}*D+\frac{12}{4}*E+\frac{6}{4}*F+\frac{1}{4}*G---\left(9\right)$

${\mathrm{Sum}}_{M8}=\frac{3}{4}*L+4*J+\frac{15}{4}*K+\frac{34}{4}*I---\left(10\right)$

式中，A至X为各模式下的相邻像素值，M0至M8为9种预测模式；

步骤一三、选择步骤一二获得的九个加权系数中的较大的三个权值系数作为4×4块帧中9种预测模式的重要值。

有益效果：本发明有效的提高了4×4块帧内预测模式选择速度，进而大幅提高H.264编码的编码效率；并且本发明在提高编码效率的同时带来较小的峰值信噪比降低和码率的增加。

附图说明

图1是具体实施方式一中所述的4×4块和其相邻的像素分布示意图；图2是具体实施方式中所述的4×4块帧内预测方向示意图；图3是具体实施方式中的像素分布及其重要值的关系示意图；图4是4×4预测模式的直方图。

具体实施方式

具体实施方式一、一种应用于H.264编码的亮度4×4块帧内预测模式快速选择方法，它由以下步骤实现：

步骤一、计算4×4块帧中9种预测模式的重要值，根据获得的9种预测模式的重要值生成9种预测模式的直方图；

步骤二、在步骤一获得的9种预测模式的直方图中选取幅值最大的三种预测模式Mx、My和Mz，并将该三种预测模式的幅值标记为hist_Mx、hist_My和hist_Mz；其中(hist_Mx大于或等于hist_My；hist_My大于或等于hist_Mz)；

步骤三、判断幅值hist_Mx是否小于预设一号门限值，如果判断结果是为是，则执行步骤三一；如果判断结果为否，则执行步骤三二；如果判断结果否，则执行步骤三二；

步骤三一、则采用H.264中的模式选择方法遍历4×4块帧内所有的预测模式，并结束4×4块帧内预测模式快速选择；

步骤三二、计算步骤二中选取的三种预测模式的幅值的差值diff1和diff2，并执行步骤四；所述diff1＝hist_Mx-hist_My；diff2＝hist_My-hist_Mz；

步骤四、判断步骤三二中的差值diff1是否大于预设二号门限值，如果判断结果为是，则选取预测模式Mx作为候选模式，完成4×4块帧内预测模式快速选择；如果判断结果为否，则执行步骤五；

步骤五、判断步骤三二中的差值diff2是否大于预设二号门限值，如果判断结果为是，则选取预测模式Mx和预测模式My作为候选模式，完成4×4块帧内预测模式快速选择；如果判断结果为否，则选取预测模式Mx、预测模式My和预测模式Mz作为候选预测模式，完成4×4块帧内预测模式快速选择。

步骤一中计算4×4块帧中9种预测模式的重要值的方法是：

步骤一一、在4×4块帧中的每种预测模式中，采用相邻相素的加权和的方式对每个像素进行预测，获得每种预测模式的预测值；当前像素的预测值通过公式：

Y＝(C1×P1+C2×P2+C3×P3+C4)/C5           (1)

获得；

步骤一二、在每种预测模式下，将当前像素和其相邻的预测像素值相加，获得每种预测模式的加权系数，即：

Sum_M0＝4*A+4*B+4*C+4*D                    (2)

Sum_M1＝4*I+4*J+4*K+4*L                    (3)

Sum_M2＝2*(A+B+C+D+I+J+K+L)                (4)

${\mathrm{Sum}}_{M3}=\frac{1}{4}*A+B+\frac{7}{4}*C+3*D+\frac{14}{4}*E+3*F+\frac{7}{4}*G+H---\left(5\right)$

${\mathrm{Sum}}_{M4}=3*A+\frac{7}{4}*B+C+\frac{1}{4}*D+3*I+2*J+k+\frac{1}{4}*L+\frac{14}{4}*X---\left(6\right)$

${\mathrm{Sum}}_{M6}=\frac{14}{4}*A+\frac{15}{4}*B+3*C+\frac{3}{4}*D+\frac{5}{4}*I+J+\frac{1}{4}*K+\frac{11}{4}*X---\left(7\right)$

${\mathrm{Sum}}_{M6}=\frac{5}{4}*A+\frac{3}{4}*B+\frac{1}{4}*C+4*I+\frac{15}{4}*J+\frac{14}{4}*K+\frac{3}{4}*L+\frac{9}{4}*X---\left(8\right)$

${\mathrm{Sum}}_{M7}=\frac{8}{4}*A+\frac{11}{4}*B+\frac{15}{4}*C+\frac{16}{4}*D+\frac{12}{4}*E+\frac{6}{4}*F+\frac{1}{4}*G---\left(9\right)$

${\mathrm{Sum}}_{M8}=\frac{3}{4}*L+4*J+\frac{15}{4}*K+\frac{34}{4}*I---\left(10\right)$

步骤一三、选择步骤一二获得的九个加权系数中的较大的三个权值系数作为4×4块帧中9种预测模式的重要值。

其中，各个预测模式的方向如图2所示；4×4块和相邻像素的关系如图1所示。

为了方便观察，将上式各加权系数乘以4得到如表1所示的各预测模式下各相邻像素在预测块中的加权系数值。

表1：

表1中A至X为图1中的相邻像素值，M1至M8为图2中的预测模式。由表1可知在不同预测模式下，各相邻像素在整个预测块中具有不同的权值系数，并且某些权值比较大，这些具有较大权值系数的像素决定了整个预测块的预测值，而具有较小权值系数的像素对预测块的影响较小。

例如在模式M6中相邻像素I，J，K和X的权值分别为16，15，14和9，而A，B，C和L权值为5，3，1和3。因此整个预测块的值主要是由I，J，K和X这四个相邻像素决定的。并且在真实的自然场景中，除某些物体边界外，空间上相邻像素大多数具有较相近的值。因此，可以得出如果M6作为最佳预测模式的话，其当前块中的大部分像素应该分布在相邻像素I，J，K和X附近。为了进一步简化，用(I+X)/2和(J+K)/2代替I，J，K和X。将(I+X)/2和(J+K)/2定义为M6预测模式的重要值，即如果M6作为最佳预测模式，则当前块的大多数像素应该分布在其重要值附近。其余预测模式的重要值如表2所示。

表2：

预测模式	重要值
		M0	A，B，C，D
M1	I，J，K，L
		M2	(A+B+C+D+I+J+K+J)/8
M3	(C+D)/2，    (E+F)/2
		M4	(M+A)/2，    (I+J)/2，

M5	(A+M)/2，  (B+C)/2
		M6	(I+M)/2，  (J+K)/2
M7	(B+C)/2，  (D+E)/2
		M8	(J+K)/2，  L

使用直方图描述上述当前像素和重要值的分布特性，各预测模式基于当前像素分布的直方图计算方法如公式(11)所示：

For(j＝0；j＜＝15；j++){

If(|pixel_j-significant value_Mi|≤12)

histogram(Mi)＝histogram(Mi)+1；}                  (11)

上式中Mi为预测模式，其中i＝0，1，2...8；pixel_j为当前像素值，significant value_Mi为表2中各预测模式的重要值。图4为一个4×4块各预测模式的直方图，图中模式M1和M8具有较大的幅值，说明当前像素在模式M1和M8时较多的分布在其重要值附近，因此预测模式M1和M8最有可能成为最佳预测模式，据此将M1和M8作为候选模式计算率失真代价函数，跳过其他的6种预测模式。

Claims (1)

1.一种应用于H.264编码的亮度4×4块帧内预测模式快速选择方法，

其特征是：它由以下步骤实现：

步骤一、计算4×4块帧中9种预测模式的重要值，根据获得的9种预测模式的重要值生成9种预测模式的直方图；

步骤二、在步骤一获得的9种预测模式的直方图中选取幅值最大的三种预测模式Mx、My和Mz，并将该三种预测模式的幅值标记为hist_Mx、hist_My和hist_Mz；其中hist_Mx大于或等于hist_My；hist_My大于或等于hist_Mz；

步骤三、判断幅值hist_Mx是否小于预设一号门限值，如果判断结果是为是，则执行步骤三一；如果判断结果为否，则执行步骤三二；

步骤三一、则采用H.264中的模式选择方法遍历4×4块帧内所有的预测模式，完成4×4块帧内预测模式快速选择；

步骤三二、计算步骤二中选取的三种预测模式的幅值的差值diff1和diff2，并执行步骤四；所述diff1＝hist_Mx-hist_My；diff2＝hist_My-hist_Mz；

步骤四、判断步骤三二中的差值diff1是否大于预设二号门限值，如果判断结果为是，则选取预测模式Mx作为候选模式，完成4×4块帧内预测模式快速选择；如果判断结果为否，则执行步骤五；

步骤五、判断步骤三二中的差值diff2是否大于预设二号门限值，如果判断结果为是，则选取预测模式Mx和预测模式My作为候选模式，完成4×4块帧内预测模式快速选择；如果判断结果为否，则选取预测模式Mx、预测模式My和预测模式Mz作为候选预测模式，完成4×4块帧内预测模式快速选择；

计算4×4块帧中9种预测模式的重要值的方法是：

步骤一一、在4×4块帧中的每种预测模式中，采用相邻相素的加权和的方式对每个像素进行预测，获得每种预测模式的预测值；

步骤一二、在每种预测模式下，将当前像素和其相邻的预测像素值相加，获得每种预测模式的加权系数，即：

Sum_M0＝4*A+4*B+4*C+4*D              (2)

Sum_M1＝4*I+4*J+4*K+4*L          (3)

Sum_M2＝2*(A+B+C+D+I+J+K+L)       (4)

${\mathrm{Sum}}_{M3}=\frac{1}{4}*A+B+\frac{7}{4}*C+3*D+\frac{14}{4}*E+3*F+\frac{7}{4}*G+H---\left(5\right)$

${\mathrm{Sum}}_{M4}=3*A+\frac{7}{4}*B+C+\frac{1}{4}*D+3*I+2*J+k+\frac{1}{4}*L+\frac{14}{4}*X---\left(6\right)$

${\mathrm{Sum}}_{M5}=\frac{14}{4}*A+\frac{15}{4}*B+3*C+\frac{3}{4}*D+\frac{5}{4}*I+J+\frac{1}{4}*K+\frac{11}{4}*X---\left(7\right)$

${\mathrm{Sum}}_{M6}=\frac{5}{4}*A+\frac{3}{4}*B+\frac{1}{4}*C+4*I+\frac{15}{4}*J+\frac{14}{4}*K+\frac{3}{4}*L+\frac{9}{4}*X---\left(8\right)$

-

${\mathrm{Sum}}_{M7}=\frac{3}{4}*A+\frac{11}{4}*B+\frac{15}{4}*C+\frac{16}{4}*D+\frac{12}{4}*E+\frac{6}{4}*F+\frac{1}{4}*G---\left(9\right)$

${\mathrm{Sum}}_{m8}=\frac{3}{4}*L+4*J+\frac{15}{4}*K+\frac{34}{4}*I---\left(10\right)$

式中，A至X为各模式下的相邻像素值，M0至M8为9种预测模式；

步骤一三、选择步骤一二获得的九个加权系数中的较大的三个权值系数作为4×4块帧中9种预测模式的重要值。

Images