CN101895761A - 一种快速帧内预测算法 - Google Patents

Abstract

一种快速帧内预测算法，包括以下步骤：步骤1)计算宏块的一个8×8亮度块的SAD_avs；步骤2)判决SAD_avs的大小，若SAD_avs小于T1，只需考虑DC模式；否则执行步骤3)；步骤3)若SAD_avs大于另一个阈值T2，则只需考虑方向模式，无需考虑DC模式；否则DC模式和方向模式都要考虑，计算4个方向模式的Luma_diff，选取最小值对应的模式记Direction_mode；步骤4)把MODE_up、MODE_left和步骤2)和步骤3)获得的候选模式聚为最后的候选模式集合；步骤5)计算候选集合里各模式的RDCost，择取最小RDCost对应的模式为当前子块的最佳预测模式；步骤6)重复步骤1)至4)，获取当前宏块的所有子块的最佳帧内预测模式。

Description

一种快速帧内预测算法

技术领域

本发明属于音视频编解码技术领域，具体涉及一种AVS1-P2的快速帧内预测算法。

背景技术

AVS1-P2采用基于8×8像素块的帧内预测，亮度和色度帧内预测分别有4种和5种模式，相邻已解码块在环路滤波前的重建像素值用作当前块的参考。帧内预测是AVS1-P2编码器一个主要的耗时模块，因此优化帧内预测模块对提高编码速度是极其重要的。快速帧内预测模式选择算法一直是视频编解码行业研究的热点。

目前常用的提高帧内预测的方法有二种：简化代价函数、缩小预测模式选择范围。这两种提高帧内预测的方法的缺陷是预测过程比较复杂，编码时间长，因此对帧内预测模块优化以提高编解码速度是提高帧内预测方法的当务之急。

发明内容

本发明的目的在于克服现有技术的缺陷，提供一种能够降低预测过程复杂度、节省编码时间的快速帧内预测算法，本发明主要应用在采用AVS1-P2标准的视频编解码系统。

实现本发明目的的技术方案是：一种快速帧内预测算法，包括以下步骤：

步骤1)计算宏块的一个8×8亮度块的SAD_avs(亮度块方向绝对误差函数)

${\mathrm{SAD}}_{\mathrm{avs}}=\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}|{\mathrm{MEAN}}_{\mathrm{avs}}-\mathrm{Pixel}(i,j)|;$

步骤2)判决SAD_avs的大小，若SAD_avs小于T1，只需考虑DC模式；否则执行步骤3)；

步骤3)若SAD_avs大于另一个阈值T2，则只需考虑方向模式，无需考虑DC模式；否则DC模式和方向模式都要考虑，计算4个方向模式的Luma_diff(方向亮度差)，选取最小值对应的模式记Direction_mode；

步骤4)把MODE_up(上边块预测模式)、MODE_left(下边块的预测模式)和步骤2)和步骤3)获得的候选模式聚为最后的候选模式集合；

步骤5)计算候选集合里各模式的RDCost，择取最小RDCost(率失真代价函数)对应的模式为当前子块的最佳预测模式；

步骤6)重复步骤1)至4)，获取当前宏块的所有子块的最佳帧内预测模式。

作为本发明的进一步改进，本发明步骤1)中SAD_avs大小的采用如下算式：

${\mathrm{MEAN}}_{\mathrm{avs}}=\left[\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\mathrm{Pixel}(i,j)\right]>>6$

${\mathrm{SAD}}_{\mathrm{avs}}=\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}|{\mathrm{MEAN}}_{\mathrm{avs}}-\mathrm{Pixel}(i,j)|$

其中，MEAN_avs为8×8子块的64个像素的平均值，Pixel(i，j)为当前8×8子块坐标为(i，j)的像素值。

步骤2)和3)中当子块亮度变化缓慢时，最佳模式为DC模式的可能性就很大。为了判决是否采用DC模式，首先计算8×8子块的SAD_avs，若SAD_avs小于阈值T1，则说明当前子块的亮度变化缓慢，只需考虑DC模式；若SAD_avs大于另一个阈值T2，则只需考虑方向模式；否则DC模式和方向模式都要考虑。

作为本发明的进一步改进，本发明步骤3)方向模式判决，具体如下：

在AVS1-P2的帧内预测中，亮度块的5个帧内预测模式有4个是具有方向性的预测模式，分别是：模式0(垂直)、模式1(水平)、模式3(左下)、模式4(右下)。由统计可知，大部分块的最佳预测方向和块内亮度变化最慢的方向相同或相近。把块内亮度变化最慢的方向模式记为Direction_mode(方向最佳模式)。本发明采用像素抽样法判决方向最佳模式，首先定义下面的算式：

该式表示对应模式的差和，P_i和Q_i表示图3中标号为i的两个点，只要适当地选取像素点，就可以通过上式计算8×8子块四个方向变化快慢。Luma_diff越小，则对应模式的方向上的像素越接近，成为方向最佳模式的可能性越大；Luma_diff越大，成为方向最佳模式的可能性越小。为了获取方向最佳模式，需要计算4个方向模式的Luma_diff，其中最小的Luma_diff对应的模式记为Direction_mode。

本发明总结已有算法特点的基础上，对其进行改进，根据子块亮度变化的方向性和邻块预测模式的相关性来预选候选模式，简单有效的降低了预测过程的复杂度，节省了大量的编码时间，在不影响编码性能的情况下有效地提高了编码速度，适用于实时编码领域。

附图说明

图1全搜索流程图。

图2本发明实施例1DC模式的判决流程图。

图3垂直模式像素抽样模型。

图4本发明实施例1快速帧内预测算法流程图。

具体实施方式

下面结合附图和实施例做进一步说明。

如图1所示，全搜索流程如下：

步骤S101从四种色度预测模式中选择一种；

步骤S102从宏块中选择一8×8子块；

步骤S103判断当前宏块的各子块是否遍历；

步骤S104选择下一个未预测的子块；

步骤S105计算该亮度子块的最佳预测模式；

步骤S106计算当前宏块对应色度模式下的最佳模式组合。

如图2所示，DC模式的判决流程如下：

步骤S201计算宏块的一个8×8亮度块的SAD_avs，然后判决其大小；SAD_avs大小的采用如下算式：

${\mathrm{MEAN}}_{\mathrm{avs}}=\left[\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\mathrm{Pixel}(i,j)\right]>>6$

${\mathrm{SAD}}_{\mathrm{avs}}=\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}|{\mathrm{MEAN}}_{\mathrm{avs}}-\mathrm{Pixel}(i,j)|$

其中，MEAN_avs为8×8子块的64个像素的平均值，Pixel(i，j)为当前8×8子块坐标为(i，j)的像素值。

步骤S202若SAD_avs小于T1，执行步骤S204，只需考虑DC模式，否则执行步骤S203；

步骤S203若SAD_avs大于另一个阈值T2，则执行步骤205只需考虑方向模式，无需考虑DC模式；否则执行步骤206既考虑DC模式又考虑方向模式，计算4个方向模式的Luma_diff，选取最小值对应的模式记为Direction_mode(方向最佳模式)；Luma_diff的算法为：

步骤S207得到上述步骤S204、S205和S206的候选模式。

如图3所示，垂直方向的抽象模型；

通过该模型计算垂直模式的Luma_diff；

然后分别计算水平模式、左下模式以及右下模式的Luma_diff；

选择Luma_diff最小值对应的方向模式为该子块对应方向候选模式。

如图4所示，一种快速帧内预测算法，包括以下步骤：

步骤S301选择一个8×8子块；

步骤S301计算宏块的一个8×8亮度块的SAD_avs，然后判决其大小；

步骤S303若SAD_avs小于T，执行步骤S305，只需考虑DC模式，否则执行步骤S304；

步骤S304若SAD_avs大于另一个阈值T2，则执行步骤306，只需考虑方向模式，无需考虑DC模式；否则执行步骤307，既考虑DC模式又考虑方向模式，计算4个方向模式的Luma_diff，选取最小值对应的模式记为Direction_mode(方向最佳模式)；

步骤S308把MODE_up、MODE_left和步骤305、306、307获得的候选模式聚为最后的候选模式集合；

步骤S309计算候选集合里各模式的RDCost，择取最小RDCost对应的模式为当前子块的最佳预测模式；

步骤S310重复步骤S301至步骤S309，遍历该宏块所有8×8子块；

步骤S311获取当前宏块的所有子块的最佳帧内预测模式。

Claims (3)

1.一种快速帧内预测算法，其特征是，该方法包括以下步骤：

步骤1)计算宏块的一个8×8亮度块的SAD_avs；

步骤2)判决SAD_avs的大小，若SAD_avs小于T1，只需考虑DC模式；否则执行步骤3)；

步骤3)若SAD_avs大于另一个阈值T2，则只需考虑方向模式，无需考虑DC模式；否则DC模式和方向模式都要考虑，计算4个方向模式的Luma_diff，选取最小值对应的模式记为Direction_mode；

步骤4)把MODE_up、MODE_left和步骤2)和步骤3)获得的候选模式聚为最后的候选模式集合；

1.步骤5)计算候选集合里各模式的RDCost，择取最小RDCost对应的模式为当前子块的最佳预测模式；

步骤6)重复步骤1)至4)，获取当前宏块的所有子块的最佳帧内预测模式。

2.根据权利要求1所述的快速帧内预测算法，其特征是，所述步骤1)中SAD_avs大小的采用如下算式：

${\mathrm{MEAN}}_{\mathrm{avs}}=\left[\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\mathrm{Pixel}(i,j)\right]>>6$

${\mathrm{SAD}}_{\mathrm{avs}}=\underset{i=0}{\overset{7}{\mathrm{\Σ}}}\underset{i=0}{\overset{7}{\mathrm{\Σ}}}|{\mathrm{MEAN}}_{\mathrm{avs}}-\mathrm{Pixel}(i,j)|$

其中，MEAN_avs为8×8子块的64个像素的平均值，Pixel(i，j)为当前8×8子块坐标为(i，j)的像素值。

3.根据权利要求1所述的快速帧内预测算法，其特征是，所述步骤Luma_diff的算法为：

Images