CN101888549B - 基于变换域信息的帧内4×4预测模式选择方法 - Google Patents

Abstract

本发明公开基于变换域信息的帧内4×4预测模式选择方法，步骤如下：（1）对亮度宏块进行帧内16×16下各模式预测及SATD生成，选取SATD值最小模式作为帧内16×16下最佳预测模式并得到该最佳预测模式代价值；在进行帧内16×16下模式2 SATD生成时，修改传统的对各4×4子块的Hadamard变换处理方法，从其中间结果中提取各4×4子块方向信息，后对方向信息进行边缘方向直方图统计，得到候选模式集合，在进行帧内4×4预测模式选择时只在候选模式集合范围内搜索。（2）对亮度宏块的各4×4子块分别进行帧内4×4预测模式选择得到最佳预测模式以及帧内4×4下亮度宏块的代价值。（3）比较帧内16×16下最佳预测模式的代价值和帧内4×4下亮度宏块的代价值，从中选取亮度宏块的最佳预测模式。

Description

基于变换域信息的帧内4×4预测模式选择方法

技术领域

本发明涉及视频压缩编码技术，尤其涉及一种基于变换域信息的帧内4×4预测模式选择方法。

背景技术

H.264于2003年被ITU-T正式批准为新一代视频编码标准。与以往的视频编码标准相比，H.264在压缩效率方面得到了明显提升。H.264的性能增强主要得益于其高复杂度的预测部分，包括帧内预测和帧间预测。其中，帧内预测主要用在去除空间冗余上，而帧间预测则主要用在去除时间冗余上。对于帧内预测，有亮度16×16的4种预测模式、亮度4×4的9种预测模式和色度8×8的4种预测模式。由于率失真优化(RDO)的引入，一方面，为了获得一个宏块(MB)的最优帧内预测模式，需要穷尽计算各种亮度预测模式与色度预测模式的组合，这意味着编码器需要进行4×(9×16+4)＝592次率失真优化计算才能得到一个宏块的最优帧内预测模式，而对于一般的720×480的图像而言，仅一帧图像就有1350个待预测宏块；另一方面，由于待预测块的预测像素是由相邻的左、上方已重构的像素根据不同模式插值得到的，因而，只有在当前待预测块的模式选择结束并且其重构像素已算出的前提下，下一个待预测块才可以开始进行处理，即存在数据依赖性，因而很难通过并行化来提高吞吐率。由以上分析，根据现有技术，帧内预测需要巨大的计算量，这使得无论软件编码器还是硬件编码器均难以满足实时视频编码的要求。

发明内容

本发明的目的是针对现有技术中帧内预测模式选择过程复杂度极高的缺陷，提供一种新的基于变换域信息的帧内4×4预测模式选择方法。

为实现上述目的，本发明所采取的技术方案是：该基于变换域信息的帧内4×4预测模式选择方法主要包括如下步骤：

(1)对亮度宏块进行帧内16×16下各模式的预测以及SATD生成，获得所述帧内16×16下各模式的SATD值，选取出SATD值最小的模式作为帧内16×16下的最佳预测模式，并进一步得到所述帧内16×16下的最佳预测模式的代价值；其中，在进行帧内16×16下模式2的SATD生成时，包括首先按以下方式对帧内16×16下模式2的宏块残差矩阵的每个4×4子块进行变换处理的步骤：

1)对所述4×4子块的左上、右上、左下和右下2×2子块分别进行2×2Hadamard变换处理得到相应的左上第一中间结果矩阵、右上第一中间结果矩阵、左下第一中间结果矩阵和右下第一中间结果矩阵；

然后分别抽取所述四个第一中间结果矩阵的系数相应地组成左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵；

所述左上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第一列；

所述右上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第二列；

所述左下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第一列；

所述右下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第二列；

再分别对所述左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵进行2×2Hadamard变换处理相应得到左上最终结果矩阵、右上最终结果矩阵、左下最终结果矩阵和右下最终结果矩阵；

2)从所述四个第一中间结果矩阵的系数以及左上最终结果矩阵的系数中提取一组方向信息；

3)将所提取的所述方向信息进行边缘方向直方图统计，得到所述4×4子块的候选模式集合；

(2)对所述亮度宏块的16个4×4子块分别进行帧内4×4预测模式选择，得到各4×4子块的帧内4×4下的最佳预测模式，并进一步得到帧内4×4下的所述亮度宏块的代价值；

所述各4×4子块的帧内4×4预测模式选择包括如下步骤：

i)将所述亮度宏块的4×4子块在其经步骤(1)变换处理后得到的所述候选模式集合内进行帧内模式预测和代价生成，得到该4×4子块的代价值；

ii)从所述4×4子块的代价值中选取最小代价值所对应的预测模式作为该4×4子块在帧内4×4下的最佳预测模式；

(3)比较所述帧内16×16下的最佳预测模式的代价值和帧内4×4下的所述亮度宏块的代价值，根据比较结果，从帧内16×16预测模式和帧内4×4预测模式中选取所述亮度宏块的最佳预测模式。

进一步地，本发明在所述步骤2)中，所述一组方向信息包括所述帧内16×16下模式2的宏块残差矩阵的4×4子块的左上、右上、左下、右下2×2子块的方向比值D(i)和方向强度幅值A(i)，以及左上最终结果矩阵的方向比值D(5)和方向强度幅值A(5)；

所述帧内16×16下模式2的宏块残差矩阵的4×4子块的左上、右上、左下、右下2×2子块的方向比值D(i)和方向强度幅值A(i)分别满足关系式(1)和关系式(2)，

D(i)＝M(0，1)/M(1，0)                    (1)

A(i)＝|M(0，1)|+|M(1，0)|                (2)

所述左上最终结果矩阵的方向比值D(5)和方向强度幅值A(5)分别满足关系式(3)和关系式(4)，

D(5)＝Y(0，1)/Y(1，0)                    (3)

A(5)＝(|Y(0，1)|+|Y(1，0)|)/2

(4)

以上各式中，i表示所述帧内16×16下模式2的宏块残差矩阵的4×4子块的左上、右上、左下或右下2×2子块；

M为与i对应的第一中间结果矩阵，M(0，1)为第一中间结果矩阵的第一行第二列的值，M(1，0)为第一中间结果矩阵的第二行第一列的值；

Y代表所述左上最终结果矩阵，Y(0，1)代表该左上最终结果矩阵的第一行第二列的值，Y(1，0)代表该左上最终结果矩阵的第二行第一列的值。

进一步地，本发明在所述步骤3)中，按以下步骤对所提取的所述方向信息进行边缘方向直方图统计：

a)按以下方式进行帧内4×4的0、1、3、4模式共四个方向的边缘方向直方图信息统计：

分别以0、1、3、4模式所对应的方向为中心线划分方向区间，每个方向区间的两个边界与该方向区间的中心线所成的夹角分别为22.5°和-22.5°；

然后，确定每个方向信息中的方向比值所在的所述方向区间，并进而确定该方向比值所对应的模式，将同一方向信息中的方向强度幅值累加在该方向比值所对应的模式的边缘方向直方图信息内，得到所述0、1、3、4模式的边缘方向直方图信息统计值；

b)将所述0模式和4模式的边缘方向直方图信息统计值进行平均，将该平均值作为5模式的边缘方向直方图信息；

将所述1模式和4模式的边缘方向直方图信息统计值进行平均，将该平均值作为6模式的边缘方向直方图信息；

将所述0模式和3模式的边缘方向直方图信息统计值进行平均，将该平均值作为7模式的边缘方向直方图信息；

将所述1模式和3模式的边缘方向直方图信息统计值进行平均，将该平均值作为8模式的边缘方向直方图信息。

进一步地，本发明在所述步骤3)中，所述帧内16×16下模式2的宏块残差矩阵的4×4子块候选模式集合包括帧内4×4下模式2、以及与所述边缘方向直方图统计结果中前三大值相对应的三个模式。

与现有技术相比，本发明的有益效果是：利用帧内16×16预测过程中既有Hadamard变换的中间结果来提取块方向信息，以此指导帧内4×4预测，排除低概率模式的搜索，从而降低了帧内预测复杂度。另外，由于所述中间结果来自于既有预测过程，故本发明方法不需对原始残差像素进行处理，对帧内预测模式选择过程额外引入的复杂度极低。综上，本发明适于集成进现有软件编码流程或硬件编码器中，满足实时视频编码的要求。

附图说明

图1为本发明基于变换域信息的帧内4×4预测模式选择方法的一种实施方式的流程图；

图2a)为帧内16×16下模式2的宏块残差矩阵的4×4子块的左上2×2子块位置示意图，由格状花纹标示的是左上2×2子块；

图2b)为帧内16×16下模式2的宏块残差矩阵的4×4子块的右上2×2子块位置示意图，由格状花纹标示的是右上2×2子块；

图2c)为帧内16×16下模式2的宏块残差矩阵的4×4子块的左下2×2子块位置示意图，由格状花纹标示的是左下2×2子块；

图2d)为帧内16×16下模式2的宏块残差矩阵的4×4子块的右下2×2子块位置示意图，由格状花纹标示的是右下2×2子块；

图3为帧内4×4下0、1、3、4模式四个方向与其方向区间划分示意图；

图4为帧内4×4下0、1、3、4、5、6、7、8模式所对应方向示意图。

具体实施方式

在传统帧内亮度预测流程中，对色度的每种模式，待预测亮度宏块的处理流程为：首先对亮度宏块进行帧内16×16预测模式选择：从模式0(vertical)，模式1(horizontal)，模式2(DC)，模式3(plane)四种模式中选出最小SATD(Sum ofAbsolute Transformed Differences)的模式作为该亮度宏块在帧内16×16下的最佳预测模式。然后对亮度宏块的16个4×4子块分别进行帧内4×4预测模式选择：从模式0(vertical)，模式1(horizontal)，模式2(DC)，模式3(diagonal down-left)，模式4(diagonal down-right)，模式5(vertical-right)，模式6(horizontal-down)，模式7(vertical-left)，模式8(horizontal-up)九种模式中选出最小代价的模式作为该4×4子块在帧内4×4下的的最佳预测模式。最后在帧内16×16和帧内4×4两种预测类型中选择最佳的预测模式。

本发明方法嵌入在以上的传统帧内亮度预测流程中，如图1右半部虚线框内部分所示：首先在进行帧内16×16预测模式选择过程中，在模式2(DC模式)的SATD生成步骤中，通过修改传统SATD生成过程中既有的对16个4×4子块的Hadamard变换处理方法，使其在不影响SATD结果的前提下，可以从修改的Hadamard变换处理的中间结果中提取16个4×4子块的方向信息，然后对每个4×4子块的方向信息进行边缘方向直方图统计，得到相应的候选模式集合，最后，在进行帧内4×4预测模式选择时，只搜索在该待处理4×4子块的候选模式集合范围内的模式，而不再完整搜索帧内4×4下的9种预测模式。由此排除低概率模式的搜索，降低帧内预测复杂度。

以下以其中一种实施方式具体说明本发明基于变换域信息的帧内4×4预测模式选择方法，具体的步骤如下；

(1)对亮度宏块进行帧内16×16下各模式的预测以及SATD生成，获得各模式的SATD值，选取出SATD值最小的模式作为帧内16×16下的最佳预测模式，并进一步得到最佳预测模式的代价值。

其中，帧内16×16下各模式的SATD生成均包括以下步骤：

a)对亮度宏块在相应模式下的残差矩阵的16个4×4子块分别进行的变换处理；b)对以上16个变换结果的直流系数再进行Hadamard变换；c)对以上所有变换结果绝对值的加权求和。对于帧内16×16的0、1和3模式，进行步骤a)至步骤c)时所用的方法均与传统方法相同；然而对于帧内16×16的2模式(DC模式)，只有步骤b)和步骤c)的方法与传统方法相同，步骤a)所用方法却与传统方法不同。传统方法中，步骤a)中所述的变换处理使用的是定序(Sequency-Ordered)Hadamard变换；而在本发明中，对于帧内16×16的2模式，步骤a)中所述的变换处理按以下方式进行：

1)对4×4子块的左上(图2a))、右上(图2b))、左下(图2c))和右下(图2d))2×2子块分别进行2×2Hadamard变换处理得到相应的左上第一中间结果矩阵、右上第一中间结果矩阵、左下第一中间结果矩阵和右下第一中间结果矩阵。

然后分别抽取四个第一中间结果矩阵的系数相应地组成左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵。

其中，左上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第一列，左上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第一列，左上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第一列，左上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第一列；右上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第二列，右上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第二列，右上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第二列，右上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第二列；左下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第一列，左下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第一列，左下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第一列，左下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第一列；右下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第二列，右下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第二列，右下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第二列，右下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第二列。

再分别对左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵进行2×2Hadamard变换处理相应得到左上最终结果矩阵、右上最终结果矩阵、左下最终结果矩阵和右下最终结果矩阵。

需要说明的是，对同一4×4子块分别按以上方法变换处理得到的四个最终结果矩阵的所有系数和按定序Hadamard变换处理得到的结果的所有系数可以建立起一一对应的关系。具体的，左上最终结果矩阵的第一行第一列的系数对应于定序Hadamard变换处理结果的直流系数；而四个最终结果矩阵中，除左上最终结果矩阵的第一行第一列的系数以外的所有系数也可与定序Hadamard变换处理结果的所有交流系数建立起一一对应关系。由于SATD是对各变换结果系数绝对值的求和过程，因此，系数在结果矩阵中的具体位置并不影响SATD结果的正确性，即按以上方式进行变换并不影响SATD的计算结果。

2)从四个第一中间结果矩阵的系数以及左上最终结果矩阵的系数中提取一组方向信息。

在本实施例中，该组方向信息包括所述帧内16×16下模式2的宏块残差矩阵的4×4子块的左上、右上、左下、右下2×2子块的方向比值D(i)和方向强度幅值A(i)，以及左上最终结果矩阵的方向比值D(5)和方向强度幅值A(5)。

其中，帧内16×16下模式2的宏块残差矩阵的4×4子块的左上、右上、左下、右下2×2子块的方向比值D(i)和方向强度幅值A(i)分别满足关系式(1)和关系式(2)，

D(i)＝M(0，1)/M(1，0)                        (1)

A(i)＝|M(0，1)|+|M(1，0)|                    (2)

左上最终结果矩阵的方向比值D(5)和方向强度幅值A(5)分别满足关系式(3)和关系式(4)，

D(5)＝Y(0，1)/Y(1，0)                        (3)

A(5)＝(|Y(0，1)|+|Y(1，0)|)/2                (4)

以上各式中，i表示所述帧内16×16下模式2的宏块残差矩阵的4×4子块的左上、右上、左下或右下2×2子块；M为与i对应的第一中间结果矩阵，M(0，1)为该第一中间结果矩阵的第一行第二列的值，M(1，0)为该第一中间结果矩阵的第二行第一列的值；Y代表左上最终结果矩阵，Y(0，1)代表该左上最终结果矩阵的第一行第二列的值，Y(1，0)代表该左上最终结果矩阵的第二行第一列的值。

需要指出的是，在本实施例中，如公式(2)、(4)，所述方向信息中的方向强度是由中间或最终结果矩阵中，特定系数的绝对值的和值表示的。本发明亦可用所述特定系数的均方根值来更精确的描述所述方向信息中的方向强度，但实验表明，这样对编码效果没有实质的改善，同时，均方根的复杂度明显远高于绝对值和，因而在本优选实施例中，使用绝对值的和值来表示方向强度。

3)将所提取的方向信息进行边缘方向直方图统计，得到4×4子块的候选模式集合。

作为本发明的优选实施方式，在本实施例中，按以下步骤对所提取的所述方向信息进行边缘方向直方图统计：

a)按以下方式进行帧内4×4的0、1、3、4模式共四个方向的边缘方向直方图信息统计：

如图3，分别以0、1、3、4模式所对应的方向为中心线划分方向区间，每个方向区间的两个边界与该方向区间的中心线所成的夹角分别为22.5°和-22.5°。具体的，图3中区间A所示为1模式的方向区间，区间B所示为3模式的方向区间，区间C所示为0模式的方向区间，区间D所示为4模式的方向区间。

然后，确定每个方向信息中的方向比值所在的方向区间，并进而按公式(5)确定该方向比值所对应的模式，将同一方向信息中的方向强度幅值按公式(6)累加在该方向比值所对应的模式的边缘方向直方图信息内，得到所述0、1、3、4模式的边缘方向直方图信息统计值；

Histo(mode(i))＝Histo(mode(i))+A(i)                (6)

b)将0模式和4模式的边缘方向直方图信息统计值进行平均，并将所得的平均值作为5模式的边缘方向直方图信息；将1模式和4模式的边缘方向直方图信息统计值进行平均以作为6模式的边缘方向直方图信息；将0模式和3模式的边缘方向直方图信息统计值进行平均以作为7模式的边缘方向直方图信息；将1模式和3模式的边缘方向直方图信息统计值进行平均以作为8模式的边缘方向直方图信息。

在本实施列中，所述4×4子块的候选模式集合包括：模式2和与所述边缘方向直方图统计结果中前三大值相对应的三个模式。

需要指出的是，在本实施例中，只统计0、1、3、4模式共四个主要方向的边缘方向直方图信息，而5、6、7、8模式的边缘方向直方图信息分别由图4所示的其空间上对应的相邻两个主要方向的对应模式的边缘方向直方图信息平均获得。在本发明中，亦可直接对帧内4×4的八个模式方向统计边缘方向直方图，但要注意的是，在本发明中，对每个4×4块实际只有5个方向信息的样品以供统计，因此，如果用这5个样品做8个方向的统计，离散度较大；而如果用这5个样品做4个主要方向的统计，由抽屉原理可知，至少有两个样品会落在一个方向上，因而，以本实施例方法统计的稳定性更好。

另外，候选模式集合由模式2、以及与边缘方向直方图中最大的3个值对应的3个模式组成。本发明中，亦可由模式2、与边缘方向直方图中最大的四个值对应的4个模式组成，这样编码效果更好，但是由于多了一个搜索模式，因而复杂度比本实施例略高。此外，本发明中，候选模式集合也可由模式2、以及边缘方向直方图中的四个主要方向中最大值的模式及其空间上相邻的两个模式组成，但结果表明，这样的编码效果不如本实施例的理想。

(2)对亮度宏块的16个4×4子块分别进行帧内4×4预测模式选择，得到各4×4子块的帧内4×4下的最佳预测模式，并进而得到各4×4子块在其最佳预测模式下的代价值；然后将16个4×4子块的预测结果按相应位置拼成16×16块，作为本亮度宏块采用帧内4×4预测模式的预测结果，将各4×4子块在其最佳预测模式的代价值相加作为本宏块在帧内4×4下的亮度宏块的代价值。其中，各4×4子块的帧内4×4预测模式选择包括以下步骤：

i)将所述亮度宏块的4×4子块在其经步骤(1)变换处理后得到的所述候选模式集合内进行帧内模式预测和代价生成，得到该4×4子块的代价值。

ii)从所述4×4子块的代价值中选取最小代价值所对应的预测模式作为该4×4子块在帧内4×4下的最佳预测模式。

(3)比较所述帧内16×16下的最佳预测模式的代价值和帧内4×4下的所述亮度宏块的代价值，选取代价值较小的预测模式的预测结果作为亮度宏块的最终帧内预测结果。例如，若所述帧内16×16下的最佳预测模式的代价值小于帧内4×4下的所述亮度宏块的代价值，则选取所述帧内16×16下的最佳预测模式的预测结果作为亮度宏块的帧内预测结果；若所述帧内16×16下的最佳预测模式的代价值大于帧内4×4下的所述亮度宏块的代价值，则选取所述亮度宏块采用帧内4×4预测模式的预测结果作为亮度宏块的帧内预测结果。

至此，当前处理的亮度宏块完成帧内预测模式选择。

Claims (3)

1.一种基于变换域信息的帧内4×4预测模式选择方法，其特征在于包括如下步骤：

(1)对亮度宏块进行帧内16×16下各模式的预测以及SATD生成，获得所述帧内16×16下各模式的SATD值，选取出SATD值最小的模式作为帧内16×16下的最佳预测模式，并进一步得到所述帧内16×16下的最佳预测模式的代价值；其中，在进行帧内16×16下DC模式的SATD生成时，包括首先按以下方式对帧内16×16下DC模式的宏块残差矩阵的每个4×4子块进行变换处理的步骤：

1)对所述4×4子块的左上、右上、左下和右下2×2子块分别进行2×2Hadamard变换处理得到相应的左上第一中间结果矩阵、右上第一中间结果矩阵、左下第一中间结果矩阵和右下第一中间结果矩阵；

然后分别抽取所述四个第一中间结果矩阵的系数相应地组成左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵；

所述左上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第一列；

所述右上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第二列；

所述左下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第一列；

所述右下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第二列；

再分别对所述左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵进行2×2Hadamard变换处理相应得到左上最终结果矩阵、右上最终结果矩阵、左下最终结果矩阵和右下最终结果矩阵；

2)从所述四个第一中间结果矩阵的系数以及左上最终结果矩阵的系数中提取一组方向信息；所述一组方向信息包括所述帧内16×16下DC模式的宏块残差矩阵的4×4子块的左上、右上、左下、右下2×2子块的方向比值D(i)和方向强度幅值A(i)，以及左上最终结果矩阵的方向比值D(5)和方向强度幅值A(5)；

所述帧内16×16下DC模式的宏块残差矩阵的4×4子块的左上、右上、左下、右下2×2子块的方向比值D(i)和方向强度幅值A(i)分别满足关系式(1)和关系式(2)，

D(i)＝M(0，1)/M(1，0)         (1)

A(i)＝|M(0，1)|+|M(1，0)|     (2)

所述左上最终结果矩阵的方向比值D(5)和方向强度幅值A(5)分别满足关系式(3)和关系式(4)，

D(5)＝Y(0，1)/Y(1，0)         (3)

A(5)＝(|Y(0，1)|+|Y(1，0)|)/2 (4)

以上各式中，i表示所述帧内16×16下DC模式的宏块残差矩阵的4×4子块的左上、右上、左下或右下2×2子块；

M为与i对应的第一中间结果矩阵，M(0，1)为第一中间结果矩阵的第一行第二列的值，M(1，0)为第一中间结果矩阵的第二行第一列的值；

Y代表所述左上最终结果矩阵，Y(0，1)代表该左上最终结果矩阵的第一行第二列的值，Y(1，0)代表该左上最终结果矩阵的第二行第一列的值；

3)将所提取的所述方向信息进行边缘方向直方图统计，得到所述4×4子块的候选模式集合；

(2)对所述亮度宏块的16个4×4子块分别进行帧内4×4预测模式选择，得到各4×4子块的帧内4×4下的最佳预测模式，并进一步得到帧内4×4下的所述亮度宏块的代价值；

所述各4×4子块的帧内4×4预测模式选择包括如下步骤：

i)将所述亮度宏块的4×4子块在其经步骤(1)变换处理后得到的所述候选模式集合内进行帧内模式预测和代价生成，得到该4×4子块的代价值；

ii)从所述4×4子块的代价值中选取最小代价值所对应的预测模式作为该4×4子块在帧内4×4下的最佳预测模式；

(3)比较所述帧内16×16下的最佳预测模式的代价值和帧内4×4下的所述亮度宏块的代价值，根据比较结果，从帧内16×16预测模式和帧内4×4预测模式中选取较小代价值所对应的预测模式作为所述亮度宏块的最佳预测模式。

2.如权利要求1所述的一种基于变换域信息的帧内4×4预测模式选择方法，其特征在于：在所述步骤3)中，按以下步骤对所提取的所述方向信息进行边缘方向直方图统计：

a)按以下方式进行帧内4×4的0、1、3、4模式共四个方向的边缘方向直方图信息统计：

分别以0、1、3、4模式所对应的方向为中心线划分方向区间，每个方向区间的两个边界与该方向区间的中心线所成的夹角分别为22.5°和-22.5°；

然后，确定每个方向信息中的方向比值所在的所述方向区间，并进而确定该方向比值所对应的模式，将同一方向信息中的方向强度幅值累加在该方向比值所对应的模式的边缘方向直方图信息内，得到所述0、1、3、4模式的边缘方向直方图信息统计值；

b)将所述0模式和4模式的边缘方向直方图信息统计值进行平均，将该平均值作为5模式的边缘方向直方图信息；

将所述1模式和4模式的边缘方向直方图信息统计值进行平均，将该平均值作为6模式的边缘方向直方图信息；

将所述0模式和3模式的边缘方向直方图信息统计值进行平均，将该平均值作为7模式的边缘方向直方图信息；

将所述1模式和3模式的边缘方向直方图信息统计值进行平均，将该平均值作为8模式的边缘方向直方图信息。

3.如权利要求1所述的一种基于变换域信息的帧内4×4预测模式选择方法，其特征在于：在所述步骤3)中，所述帧内16×16下DC模式的宏块残差矩阵的4×4子块候选模式集合包括帧内4×4下DC模式、以及与所述边缘方向直方图统计结果中前三大值相对应的三个模式。

Images