CN103763570B - 一种基于satd的hevc快速帧内预测方法 - Google Patents

Abstract

本发明提供了一种基于SATD的HEVC快速帧内预测方法，首先统计出一组健壮的阈值使其能够适用于不同尺寸的编码单元CU块以及不同的QP，当当前编码单元CU最小的SATD值小于给定的阈值条件下，即结束当前编码单元CU的分割过程；本发明可准确地定位出HEVC帧内编码单元CU需要分割的深度，能够极大地降低HEVC的编码复杂度，有助于实现HEVC编码器的实时应用。

Description

一种基于SATD的HEVC快速帧内预测方法

技术领域

本发明属于数字视频通信领域中的视频信息处理领域，具体涉及一种基于SATD的视频编码标准（HEVC）快速帧内预测方法。

技术背景

随着科技的不断进步，人们对视觉和听觉质量的要求越来越高，高清视频和超高清视频开始被普遍关注。10年之前创立的第二代视频编码标准H.264/AVC已不能满足人们对于实际应用的要求，工业界和学术界对新一代视频编码标准的渴望越来越强烈。在这一形势下，VCEG和MPEG两大标准组织开始进行合作开发，在2010年1月成立了称为JCT-VC(Joint Collaborative Team on Video Coding)的联合组织，开始统一制定下一代视频编码标准并取名为-High Efficiency Video Coding。在2013年1月26号HEVC正式成为国际视频编码标准。

HEVC虽然跟以往的视频编码标准一样采用基于块的编码框架，但HEVC做了大量的技术创新。首次提出三个编码单元概念：CU(编码单元)，PU（预测单元），TU（变换单元）。对于编码单元CU创新性地采用基于四叉树的块尺寸递归分割结构，最大尺寸可达64×64。对于预测单元PU，其帧内预测模式多达35种。对于变换单元TU采用一种称为RQT（ResidualQuad-tree Transform）分割结构,其变换块的大小可根据残差的特性进行自适应的调整。上述所列的技术只是HEVC引进的众多技术中最为突出的部分。引进的这些创新技术使得HEVC跟H.264相比在保证相同视频质量的同时，码率可减少50%左右。可见，随着对未来高清以及超高清视频的不断需求，以及移动设备的大力发展，在可用带宽限制的前提下，HEVC展现出了巨大的市场应用潜力。但在取得高增益的同时，HEVC也面临着一个巨大的问题，跟H.264相比，HEVC的编码复杂度至少是其4倍，不利于实时应用。而HEVC中的模式选择又占到整个编码时间的80%以上，可见研究一种高效的快速模式选择算法对于降低HEVC的编码复杂度显得尤为重要。

对于帧间编码单元CU的快速决策，已提出了众多的提案。如基于SKIP模式的子树提前修剪算法，该算法先检查当前编码单元CU是否为SKIP模式，若是则提前结束其分割过程，该算法简单有效，已被HEVC标准采纳。但该算法不适用于帧内，对于帧内的编码单元CU快速划分目前还没有较为有效的算法。

发明内容

本发明的目的在于提供一种基于SATD的视频编码标准（HEVC）快速帧内预测方法，可以极大地降低HEVC的编码复杂度，有助于实现一种能够实时应用的编码器，不会引入额外的计算复杂度，而且对HEVC的编码效率几乎没有影响,可以灵活控制编码效率与编码时间之间的折中。

本发明一种基于SATD的HEVC快速帧内预测方法，具体包括如下步骤：

步骤1、首先分别统计出64×64，32×32以及16×16尺寸块的编码单元CU在不同量化参数QP下其35个帧内预测模式中最小的SATD（Sum of Absolute TransformedDifference）值需要满足的阈值条件，使得其不分割的概率达到95%左右，得出如下3组阈值分别对应于64×64，32×32以及16×16尺寸块：

thr64×64=139.3×QP-1971.4 （1）

thr32×32=107.9×QP-1154.3 （2）

thr16×16=96.4×QP-1290.5 （3）

步骤2、读入一个当前最大的编码单元块CTU，开始进行帧内预测，并设一个新的分割标志位earlyprune，初始化其为true；

步骤3、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为8×8，转到步骤9，否则转到步骤4；

步骤4、对当前编码单元CU在粗略模式选择处理过程中保存下35个不同预测模式的SATD值，同时找出最小的SATD值，记为minSATD；

步骤5、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为64×64，转到步骤6，若当前编码单元CU尺寸为32×32，转到步骤7，若当前编码单元CU尺寸为16×16，转到步骤8；

步骤6、由式（1）计算出thr64×64,若minSATD<thr64×64，结束其分割过程，转到步骤9；

步骤7、由式（2）计算出thr32×32,若minSATD<thr32×32，结束其分割过程，转到步骤9；

步骤8、由式（3）计算出thr16×16,若minSATD<thr16×16，结束其分割过程，转到步骤9；

步骤9、对当前编码单元CU经粗略模式选择处理后的预测模式进行率失真优化计算,从中选出最优的预测模式，转到步骤10；

步骤10、若当前编码单元CU尺寸大于8×8，判断分割标志位earlyprune是否为false,若是，则结束当前编码单元CU的分割过程，转到步骤2；否则将当前编码单元CU划分为4个相等尺寸的子编码单元CU，对每个子编码单元CU，转到步骤3。

本发明适用于采用HEVC标准的编码系统中，对图像进行帧内预测处理时，提供一种帧内预测的快速CU划分决策算法，避免做不必要的RDO计算。本发明具有以下的主要特点和优点:

1、本发明利用SATD跟每一帧图像编码单元CU块平坦度之间紧密的依赖关系，提前结束当前编码单元CU块不必要的分割过程。

2、本发明简单有效，不会带来额外的计算复杂度，可精确的终止当前编码单元CU块不必要的划分，而且可灵活控制所选阈值，使其适用于不同的应用场景，同时本发明非常利于硬件和软件的实现。

3.本发明不会改变HEVC原有的码流结构，与HEVC标准完全兼容。

附图说明

图1为本发明HEVC帧内编码单元CU的递归划分过程示意图；

图2为本发明HEVC35种可用的帧内预测模式示意图。

以下结合附图和具体实施例对本发明做进一步详述。

具体实施方式

本发明一种基于SATD的HEVC快速帧内预测方法，如图1所示，其中最大的编码单元CU称为CTU（Coding Tree Unit），首先进行CTU的分割，其四叉树的划分过程如下：当其不划分时，尺寸为64×64的编码单元CU，此时深度为0；接着对其进行预测编码，得其率失真代价，然后对该编码单元CU进行分割，分为四个子编码单元CU，每个子编码单元CU的尺寸为32×32，此时深度为1，接着对这四个子CU分别进行预测编码，同样得其RDO（Rate-DistortionOptimization）代价，如此递归地划分下去；当子编码单元CU的尺寸为8×8时，即此时深度为3时，结束其分割过程；接着对分割的编码单元CU进行修剪，即依此比较求得的各个编码单元CU的代价，从而决定当前LCU最优的编码分割选择：首先比较4个8×8子编码单元CU的代价和是否小于其对应的16×16的编码单元CU的代价，如果小于，则选择8×8的编码单元CU的分割类型，否则选择16×16的编码单元CU分割类型，如此比较下去，直到当前编码单元CU的深度为0。

对于HEVC的帧内预测，当前尺寸为2N×2N的编码单元CU对应预测单元PU的尺寸只允许为2N×2N或者N×N，而N×N尺寸的预测单元PU只在编码单元CU的尺寸为8×8时才被允许。

如图2所示，HEVC中每个预测单元PU的最优预测模式需在包括模式2-34之间的33种角度预测模式以及planar和DC模式共35种预测模式之间进行RDO计算，比较其RDO代价后选取最小代价对应的模式作为最终的预测模式，可见其计算复杂度相当巨大。因此，为了缓解编码器的计算复杂度，HEVC首先进行RMD(rough mode decision)处理，即对35种预测模式分别求其对应的Hadamard代价，从中选出N个代价最小的预测模式，并考虑了当前编码单元CU的MPM（most probable mode），接着对这可能的N到N+2个候选模式进行率失真计算从中选出最优的预测模式。

本发明的一种基于SATD的HEVC快速帧内预测方法，具体包括如下步骤：

步骤1、首先分别统计出64×64，32×32以及16×16尺寸块的编码单元CU在不同量化参数QP下其35个帧内预测模式中最小的SATD（Sum of Absolute TransformedDifference）值需要满足的阈值条件，使得其不分割的概率达到95%左右，得出如下3组阈值分别对应于64×64，32×32以及16×16尺寸块：

thr64×64=139.3×QP-1971.4 （1）

thr32×32=107.9×QP-1154.3 （2）

thr16×16=96.4×QP-1290.5 （3）

步骤2、读入一个当前最大的编码单元块CTU，开始进行帧内预测，并设一个新的分割标志位earlyprune，初始化其为true；

步骤3、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为8×8，转到步骤9，否则转到步骤4；

步骤4、对当前编码单元CU在粗略模式选择处理过程中保存下35个不同预测模式的SATD值，同时找出最小的SATD值，记为minSATD；

步骤5、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为64×64，转到步骤6，若当前编码单元CU尺寸为32×32，转到步骤7，若当前编码单元CU尺寸为16×16，转到步骤8；

步骤6、由式（1）计算出thr64×64,若minSATD<thr64×64，结束其分割过程，转到步骤9；

步骤7、由式（2）计算出thr32×32,若minSATD<thr32×32，结束其分割过程，转到步骤9；

步骤8、由式（3）计算出thr16×16,若minSATD<thr16×16，结束其分割过程，转到步骤9；

步骤9、对当前编码单元CU经粗略模式选择处理后的预测模式进行率失真优化计算,从中选出最优的预测模式，转到步骤10；

步骤10、若当前编码单元CU尺寸大于8×8，判断分割标志位earlyprune是否为false,若是，则结束当前编码单元CU的分割过程，转到步骤2；否则将当前编码单元CU划分为4个相等尺寸的子编码单元CU，对每个子编码单元CU，转到步骤3。

本发明的核心思想为：利用SATD值与当前编码单元CU平滑度之间存在的紧密关系，提前决策当前编码单元CU是否需要进一步的分割，过滤掉一些不必要的分割过程，节省编码时间。

采用新一代的视频编码标准HEVC提供的参考软件HM10.1来衡量本发明方法的效果。对HEVC建议的5个分辨率等级的18个测试序列进行全部测试。编码器参数为：全帧内编码模式，分别选取QP=22,27,32,37,其余为默认设置。本发明与原始HM10.1比较的实验结果如下表所示。表中的BDBR与BDPSNR为VCEG建议采用的评价准则，分别表示在同样的客观质量下，两种方法的码率节省情况以及在给定的同等码率下，两种方法的Y-PSNR的差异。

从表中可看出，本发明效果良好，几乎不会影响其PSNR与码率。而同时在QP=37条件下平均能减少30.7%的编码时间。从表中还可进一步看出本发明方法随着QP不断的增大，编码时间减少的幅度也不断的增大，具有一定的实际应用意义。需要指出的是，表中所列数据是在预测精度满足95%条件下所求出的阈值，对于不同的应用场合，本发明可灵活的控制所选阈值，使其适用于不同应用场合。而且本发明硬件与软件的实现简单。

以上所述，仅是本发明较佳实施例而已，并非对本发明的技术范围作任何限制，故凡是依据本发明的技术实质对以上实施例所作的任何细微修改、等同变化与修饰，均仍属于本发明技术方案的范围内。

Claims (1)

1.一种基于SATD的HEVC快速帧内预测方法，其特征在于包括如下步骤：

步骤1、首先分别统计出64×64，32×32以及16×16尺寸块的编码单元CU在不同量化参数QP下其35个帧内预测模式中最小的SATD(Sum of Absolute Transformed Difference绝对变换差值和)值需要满足的阈值条件，使得其不分割的概率达到95％，得出如下3组阈值分别对应于64×64，32×32以及16×16尺寸块：

thr64×64＝139.3×QP-1971.4 (1)

thr32×32＝107.9×QP-1154.3 (2)

thr16×16＝96.4×QP-1290.5 (3)

步骤2、读入一个当前最大的编码单元块CTU，开始进行帧内预测，并设一个新的分割标志位earlyprune，初始化其为true；

步骤3、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为8×8，转到步骤9，否则转到步骤4；

步骤4、对当前编码单元CU在粗略模式选择处理过程中保存下35个不同预测模式的SATD值，同时找出最小的SATD值，记为minSATD；

步骤5、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为64×64，转到步骤6，若当前编码单元CU尺寸为32×32，转到步骤7，若当前编码单元CU尺寸为16×16，转到步骤8；

步骤6、由式(1)计算出thr64×64,若minSATD<thr64×64，置分割标志位earlyprune为false，结束其分割过程，转到步骤9，若minSATD>＝thr64×64，直接转到步骤9；

步骤7、由式(2)计算出thr32×32,若minSATD<thr32×32，置分割标志位earlyprune为false，结束其分割过程，转到步骤9，若minSATD>＝thr32×32，直接转到步骤9；

步骤8、由式(3)计算出thr16×16,若minSATD<thr16×16，置分割标志位earlyprune为false，结束其分割过程，转到步骤9，若minSATD>＝thr16×16，直接转到步骤9；

步骤9、对当前编码单元CU经粗略模式选择处理后的预测模式进行率失真优化计算,从中选出最优的预测模式，转到步骤10；

步骤10、若当前编码单元CU尺寸大于8×8，判断分割标志位earlyprune是否为false,若是，则结束当前编码单元CU的分割过程，转到步骤2；否则将当前编码单元CU划分为4个相等尺寸的子编码单元CU，对每个子编码单元CU，转到步骤3。