CN107071418A - 一种基于决策树的hevc帧内编码单元快速划分方法 - Google Patents

Abstract

一种基于决策树的HEVC帧内编码单元快速划分方法，包括步骤：通过构造直方图获取当前编码单元的纹理特征，纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差；根据纹理特征采用决策树模型预测当前编码单元的编码深度。由于通过构造直方图分析当前编码单元的纹理特征，并利用该纹理特征通过决策树模型进行编码尺度的自适应选择，跳过不必要的编码尺度计算，实验结果表明本申请的方法在帧内编码时平均节省31％的编码时间，而平均比特流增加2.6％左右，同时视频的PSNR基本维持不变，极大地降低了HEVC的编码复杂度。

Description

一种基于决策树的HEVC帧内编码单元快速划分方法

技术领域

本发明涉及高效视频编码(High Efficiency Video Coding，HEVC)技术领域，具体涉及一种基于决策树的HEVC帧内编码单元快速划分方法。

背景技术

高效率视频编码(High Efficiency Video Coding，HEVC)是继H.264之后，又一新的视频编码标准。相比H.264，HEVC引进了大量的创新技术，在提供相同视频质量的同时，可节省将近50％比特率。但是，HEVC视频编码的更高的性能是以更高的计算复杂度为代价的，导致HEVC难以有效地应用于实时通信应用。

例如，对于编码的块结构，HEVC采用树状结构，利用四叉树划分，可以将编码单元分成更小的块。每帧图像被分割成若干个编码树单元(Coding Tree Units，CTU)，每个CTU按照递归方式可以划分为不同深度(depth)的编码单元(Coding Units，CU)。其中，CU被定义为正方形单元，有8×8、16×16、32×32、64×64共4种尺寸大小。对于HEVC帧内编码，每一深度的CU可以划分成2N×2N和N×N两种预测单元(Prediction Units，PU)，每个预测单元进行35种帧内预测模式搜索。

在HEVC测试模型HM中，四叉树递归划分过程如下：首先，对尺寸为64×64深度depth＝0的最大编码单元(Largest Coding Units，LCU)进行35种帧内预测模式搜索，求出最小率失真代价J(CU₀)。然后，将该CU划分为4个子CU，每个子CU的尺寸为32×32，深度为1，分别对每个子CU进行帧内预测，计算出各自的率失真代价J(CU_1，i)(i＝0，1，2，3)。如此递归地划分下去，直至子CU的尺寸为8×8，即depth为3时，不再继续划分。接着对已完成划分的LCU进行自下向上的修剪。如果子CU的率失真代价之和小于其对应的父CU的率失真代价，则保留这个CU分割，否则继续往上修剪。

与H.264采用16×16的宏块划分方式相比，HEVC采用64×64的LCU四叉树划分方式可以减少12％的码率。然而，在HEVC测试模型HM中，整个CU划分过程是在4个深度级范围内逐级比较率失真代价的，并选择率失真代价最小的作为最佳划分结果。这种遍历方法，需进行多次的率失真代价相关计算和比较，虽然可以获得更精确的图像划分结果，但也给HEVC编码器带来了巨大的复杂度，限制了HEVC的实际应用。

因此，在保持HEVC视频主客观质量的前提下，如何降低HEVC视频编码的算法复杂度，加快编码速度，满足实际应用，成为HEVC视频编码研究的重要课题。

发明内容

针对HEVC视频编码的算法复杂的问题，本申请提供一种基于决策树的HEVC帧内编码单元快速划分方法，包括步骤：

通过构造直方图获取当前编码单元的纹理特征，纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

根据纹理特征采用决策树模型预测当前编码单元的编码深度。

一种实施例中，根据纹理特征采用决策树模型预测当前编码单元的编码深度之前，还包括训练决策树模型的步骤：

通过HEVC测试模型HM获取学习帧编码单元的最优编码深度；

获取学习帧编码单元的纹理特征，纹理特征包括学习帧编码单元的边缘点数目、亮度值的方差、学习帧编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

通过最优编码深度和纹理特征训练决策树模型。

一种实施例中，获取边缘点数目的具体步骤为：

分别计算出编码单元的横向梯度和纵向梯度；

根据所述横向梯度和纵向梯度计算像素点的梯度值，并获取梯度图；

利用最大类间方差方法对梯度图进行二值化分割，并将梯度值大于门限值的像素点作为边缘点；

统计编码单元的边缘点的数目。

一种实施例中，根据所述纹理特征采用决策树模型预测当前编码单元的编码深度包括步骤：

根据纹理特征利用决策树对当前编码单元进行划分；

计算当前编码单元的编码深度的率失真代价；

判断所述率失真代价是否小于当前编码单元相应深度级的率失真代价门限值；

若小于则终止划分，并输出当前编码单元的编码深度，否则对当前编码单元继续划分。

一种实施例中，还包括对当前编码单元的编码深度进行修正的步骤：

判断与当前编码单元平行的三个编码单元的编码深度是否相同，若相同，则将当前编码单元的编码深度修正为其父节点的编码深度；

判断当前编码单元的编码深度是否均大于相邻划分的编码单元的编码深度，若是，则将当前编码单元的编码深度修正为其子节点的编码深度。

一种实施例中，分别计算出编码单元的横向梯度和纵向梯度的步骤为：

利用Sobel算子与原始图像作卷积，分别计算出编码单元的横向梯度和纵向梯度，具体为：

其中，G_x为横向梯度，G_y为纵向梯度，Y为原始图像。

一种实施例中，率失真代价门限值的计算步骤为：

其中，和δ²(RD_d)分别表示编码深度级d所对应的率失真代价的均值和方差，α用于调整门限值的大小。

依据上述实施例的HEVC帧内编码单元快速划分方法，由于通过构造直方图分析当前编码单元的纹理特征，并利用该纹理特征通过决策树模型进行编码尺度的自适应选择，跳过不必要的编码尺度计算，实验结果表明本申请的方法在帧内编码时平均节省31％的编码时间，而平均比特流增加2.6％左右，同时视频的PSNR基本维持不变，极大地降低了HEVC的编码复杂度。

附图说明

图1为HEVC帧内编码单元快速划分方法的流程图；

图2为决策树划分原理图。

具体实施方式

下面通过具体实施方式结合附图对本发明作进一步详细说明。

本例提供一种基于决策树的HEVC帧内编码单元快速划分方法，其流程图如图1所示，具体包括以下步骤。

S1：通过构造直方图获取当前编码单元的纹理特征。

本步骤的纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差。

其中，当前编码单元的边缘点数目的获取过程是：

分别计算出编码单元的横向梯度和纵向梯度，具体为：利用Sobel算子与原始图像作卷积，分别计算出编码单元的横向梯度和纵向梯度，计算公式如下，

其中，G_x为横向梯度，G_y为纵向梯度，Y为原始图像；

根据所述横向梯度和纵向梯度计算像素点的梯度值，并获取梯度图G；

利用最大类间方差方法对所述梯度图进行二值化分割，并将梯度值大于门限值的像素点作为边缘点；

统计编码单元的边缘点的数目，边缘点数目越多则认为该编码单元越复杂，划分的深度级则越大。

像素亮度值与亮度值均值偏离的程度可以用来反映图像纹理是否丰富，因此，数学工具方差可以用来估计图像的复杂程度。方差越大，表示像素亮度值偏离均值越大，图像越复杂。如果方差等于0，表示所有图像亮度值都一样，图像平坦，没有变化。假设2N×2N大小的图像块，x_i，j是位置(i，j)处像素的亮度值，μ是2N×2N大小图像块的亮度均值，则亮度值的方差为：

子块之间纹理差异越大，编码时越倾向于采用更大的划分深度，可以用子块亮度值均值的方差和子块亮度值方差的方差来衡量子块之间的纹理差异。将2N×2N大小的图像块划分为N×N大小的四个子块。

则子块亮度值均值的方差δ²(μ_N)的计算公式为：子块亮度值方差的计算公式为：子块亮度值方差的方差的计算公式为：其中，μ_m，n是N×N大小的子块亮度均值，是N×N大小的子块亮度方差。

S2：根据纹理特征采用决策树模型预测当前编码单元的编码深度。

决策树分类是一种基于空间数据挖掘和知识发现的监督分类方法[8]，它通过对训练样本进行归纳学习，从无次序、无规则的事例样本中推理出决策树表示形式的分类规则，可以对未知事例进行预测分类。

在预测分类之前，还需要对决策树模型进行训练，具体为：通过HEVC测试模型HM获取学习帧编码单元的最优编码深度；获取学习帧编码单元的纹理特征，纹理特征包括学习帧编码单元的边缘点数目、亮度值的方差、学习帧编码单元的子块亮度值均值的方差和子块亮度值方差的方差；通过最优编码深度和纹理特征训练决策树模型。

已训练好的决策树模型采用C4.5进行编码单元划分，其中，C4.5是一系列用在机器学习和数据挖掘的分类问题中的算法，它的目标是监督学习：给定一个数据集，其中的每一个元组都能用一组属性值来描述，每一个元组属于一个互斥的类别中的某一类；C4.5的目标是通过学习，找到一个从属性值到类别的映射关系，并且这个映射能用于对新的类别未知的实体进行分类。算法过程是从决策树的根节点开始不断的分治、递归、生长，直至得到最后的结果。

HEVC参考模型HM中，编码器在4个深度级范围内逐级比较不同编码划分深度的率失真代价，然后选择率失真代价最小的编码单元划分方式。本例由决策树分类规则根据图像纹理复杂程度确定的2个深度级范围内进行CU划分。为进一步加快编码速度，采用基于率失真代价的编码提前终止策略。一般情况下，如果CU当前编码深度的率失真代价比较小，则说明当前编码方式的效果已经足够好，无须再继续尝试更小的编码尺寸。

具体的，从最小深度级开始计算当前深度级别的率失真代价，若当前深度级CU的率失真代价小于对应深度级的率失真代价门限值，则该CU不继续划分，提前终止，否则继续按深度增加逐级比较。这样，就大大减小了率失真代价的计算量。在学习帧中，利用HM得到各LCU的编码深度以及其对应德率失真代价。然后，针对每种编码深度，计算率失真代价的均值和标准差，最后计算用于提前终止的率失真代价门限值Th_RD_d。

其中，和δ²(RD_d)分别表示深度级d所对应的率失真代价的均值和方差，α用于调整门限值的大小，一般取值大于0小于1。随着α的增加，序列编码时间效率会有较大增加，码率增加较小，而信噪比几乎不变。

基于上述思想，采用决策树对编码单元进行划分的原理图如图2所示，划分的过程中预测当前编码单元的编码深度的步骤为：

根据纹理特征利用决策树对当前编码单元进行划分；

计算当前编码单元的编码深度的率失真代价；

判断率失真代价是否小于当前编码单元相应深度级的率失真代价门限值；

若小于则终止划分，并输出当前编码单元的编码深度，否则对当前编码单元继续划分。

HEVC帧内快速编码算法是通过自适应地筛选编码尺寸来达到降低编码复杂度的目的的，没有遍历所有可能的编码尺寸，因此所选的最终编码深度有可能不是最优的，从而导致PSNR的降低或输出码率的增大。

因此需要修正快速划分的编码深度，具体步骤如下：

判断与当前编码单元平行的三个编码单元的编码深度是否相同，若相同，则将当前编码单元的编码深度修正为其父节点的编码深度；

判断当前编码单元的编码深度是否均大于相邻划分的编码单元的编码深度，若是，则将当前编码单元的编码深度修正为其子节点的编码深度。

采用HEVC的测试模型HM10.1，配置文件选用配置文件encoder_intra_main.cfg，QP＝27，测试过程中I帧的周期设置为1；实验环境是主频为2.66Hz的Pentium Dual-CoreCPU、26byte内存的Windows 7系统。本申请的方法测试结果如表1所示。

表1HEVC帧内编码快速算法性能

视频序列	ΔTime/％	DB-psnr/dB	BD-rate/％
				PeopleOnStreet	-28.2	-0.101	3.4
Traffic	-29.7	-0.041	1.8
				ParkScene	-39.4	-0.056	2.1
PartyScene	-26.1	-0.022	2.6
				BasketballPass	-29.6	-0.054	2.8
FourPeople	-37.3	-0.083	3.1
				平均值	-31.7	-0.059	2.6

表1的实验结果表明，本申请的方法在帧内编码时平均节省31％的编码时间，而平均比特流增加2.6％左右，同时视频的PSNR基本维持不变。从不同序列对应的数据可以看出，本申请的方法具有理论意义和实际应用价值

以上应用了具体个例对本发明进行阐述，只是用于帮助理解本发明，并不用以限制本发明。对于本发明所属技术领域的技术人员，依据本发明的思想，还可以做出若干简单推演、变形或替换。

Claims (7)

1.一种基于决策树的HEVC帧内编码单元快速划分方法，其特征在于，包括步骤：

通过构造直方图获取当前编码单元的纹理特征，所述纹理特征包括当前编码单元的边缘点数目、亮度值的方差、当前编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

根据所述纹理特征采用决策树模型预测当前编码单元的编码深度。

2.如权利要求1所述的HEVC帧内编码单元快速划分方法，其特征在于，根据纹理特征采用决策树模型预测当前编码单元的编码深度之前，还包括训练决策树模型的步骤：

通过HEVC测试模型HM获取学习帧编码单元的最优编码深度；

获取学习帧编码单元的纹理特征，所述纹理特征包括学习帧编码单元的边缘点数目、亮度值的方差、学习帧编码单元的子块亮度值均值的方差和子块亮度值方差的方差；

通过所述最优编码深度和纹理特征训练所述决策树模型。

3.如权利要求1或2所述的HEVC帧内编码单元快速划分方法，其特征在于，获取边缘点数目的具体步骤为：

分别计算出编码单元的横向梯度和纵向梯度；

根据所述横向梯度和纵向梯度计算像素点的梯度值，并获取梯度图；

利用最大类间方差方法对所述梯度图进行二值化分割，并将梯度值大于门限值的像素点作为边缘点；

统计编码单元的边缘点的数目。

4.如权利要求1所述的HEVC帧内编码单元快速划分方法，其特征在于，根据所述纹理特征采用决策树模型预测当前编码单元的编码深度包括步骤：

根据纹理特征利用决策树对当前编码单元进行划分；

计算当前编码单元的编码深度的率失真代价；

判断所述率失真代价是否小于当前编码单元相应深度级的率失真代价门限值；

若小于则终止划分，并输出当前编码单元的编码深度，否则对当前编码单元继续划分。

5.如权利要求4所述的HEVC帧内编码单元快速划分方法，其特征在于，还包括对当前编码单元的编码深度进行修正的步骤：

判断与当前编码单元平行的三个编码单元的编码深度是否相同，若相同，则将当前编码单元的编码深度修正为其父节点的编码深度；

判断当前编码单元的编码深度是否均大于相邻划分的编码单元的编码深度，若是，则将当前编码单元的编码深度修正为其子节点的编码深度。

6.如权利要求3所述的HEVC帧内编码单元快速划分方法，其特征在于，分别计算出编码单元的横向梯度和纵向梯度的步骤为：

利用Sobel算子与原始图像作卷积，分别计算出编码单元的横向梯度和纵向梯度，具体为：

其中，G_x为横向梯度，G_y为纵向梯度，Y为原始图像。

7.如权利要求4所述的HEVC帧内编码单元快速划分方法，其特征在于，所述率失真代价门限值的计算步骤为：

其中，和δ²(RD_d)分别表示编码深度级d所对应的率失真代价的均值和方差，α用于调整门限值的大小。