CN103957421A - 一种基于纹理复杂度的hevc编码尺寸快速判定方法 - Google Patents

Abstract

本发明涉及一种基于纹理复杂度的HEVC编码尺寸快速判定方法。本方法针对最大编码单元LCU进行16:1亚采样,将后续进行纹理复杂度计算所耗费的时间降为原有的1/16，然后引入两级判定机制，首先利用ASAD模型初步判定LCU亚采样后得到的块的纹理复杂度，通过设定两个阈值以防止误判，对于纹理简单的LCU采用大尺寸编码单元，对于纹理复杂的LCU则采用小尺寸编码单元；然后基于上级判定结果再采用MAD模型，决定是否添加其他尺寸的编码单元，提高了纹理判定的精度。本发明能够极大降低算法复杂度，同时能够精确地判定纹理，提高算法准确度。

Description

一种基于纹理复杂度的HEVC编码尺寸快速判定方法

技术领域

本发明涉及一种用于HEVC帧内编码的快速判定编码尺寸的方法，尤其是基于纹理复杂度的HEVC编码尺寸快速判定方法。

背景技术

HEVC是新一代的视频编码标准，它是为了满足人们对于视频的高清、超高清、3D和移动无线通信等新要求而提出，并在2013年1月正式成为国际标准。与已经得到广泛应用的上一代视频编码标准H.264相比，HEVC的帧内预测采用大尺寸四叉树递归编码结构以及多达35种预测模式，这大大增加了帧内预测的精确度，可以显著节省编码比特数以及提高图像重建质量，但是这些技术的采用却大大增加帧内预测计算的复杂度。以编码尺寸为64×64像素、最大深度为3、不在图像边缘的最大编码单元为例，若要得出最佳的编码划分结构和各个子编码单元的预测方向，总共计算的率失真代价次数为35+4×35+16×35+64×35+256×17=7327次。如果对一幅1920×1080的视频帧进行编码，所需的率失真代价计算次数大概为7327×1920×1080÷64÷64≈3709293次。如此多的计算对HEVC的编码器实现来说是一个沉重的负担，极大影响着HEVC在实际中的应用。而大尺寸编码单元通常适用于纹理复杂度高、细节较多的区域，，小尺寸块适用于平滑、纹理简单的区域，如果能够判断出编码单元的图像纹理复杂度，那么就可以提前判定编码尺寸进而减少进行率失真代价计算的次数，加速HEVC帧内预测的过程。

针对这个改进角度，不少学者进行了研究，最常用的检测图像纹理复杂度的方法有直方图法、绝对差值和法（SAD）、平均绝对差值法（MAD）、直流交流系数比法和熵值法等，这些方法在一定程度上能够表征图像的纹理复杂度,但是对于HEVC大尺寸编码块的特征来说，计算复杂度还是较高的，并且这些方法反应的是像素的统计特性,而不能反映像素的变化情况,在统计特性相同纹理不同的情况下不够精确。

发明内容

本发明的目的是提供一种基于纹理复杂度的HEVC快速编码尺寸判定方法。对比于之前的其他方法，本方法进一步降低了计算复杂度，并且利用更精确的模型来判定纹理复杂度。

为达到上述目的，本发明的构思是：

首先对最大编码单元LCU(64×64块)亚采样并设计判定编码单元纹理复杂度的模型，利用该模型对亚采样后的编码块进行计算，然后根据不同的纹理特征采取不同的优化措施以减少帧内预测时间，具体是：首先对最大编码单元进行16:1亚采样，以减少计算量；设计可准确判定编码块纹理复杂度的模型，即通过两级判定机制来确定进行率失真代价值计算的编码尺寸，利用该模型对亚采样后的编码块进行计算，然后根据不同的纹理特征采用不同的优化措施：对纹理复杂的编码块跳过大尺寸块的编码，对纹理平坦的编码块跳过小尺寸块的编码。

根据上述构思，本发明的技术方案是：

一种基于纹理复杂度的HEVC快速编码尺寸判定方法，操作步骤如下：

(1)     亚采样：将最大编码单元LCU(64×64块)亚采样为16×16块；

(2)     计算纹理复杂度：设计更准确的模型初步判定亚采样后得到的16×16块的纹理复杂度； 

(3)     根据纹理特征采用不用的优化措施：对于纹理简单的LCU采用大尺寸编码单元，对于纹理复杂的LCU则采用小尺寸编码单元；

(4)     提高纹理判定精度：根据（3）得到的结果，每一种纹理特征会采用两种尺寸的编码单元进行编码，进一步比较分别利用其中一种编码单元进行编码的亮度块的绝对差值和的均值MAD；

(5)     决定编码单元的尺寸：根据（4）中得到的结果再采用相应的附加判断，即判定是否需要再加入其它尺寸的编码单元，以提高算法准确度。

 

上述步骤（1）中的亚采样，是指将LCU划分成256个4×4块，然后取每个4×4块的均值得到亚采样后的16×16块。

上述步骤（2）中的计算纹理复杂度，是指计算经过亚采样后的16×16块的纹理复杂度，采用的模型是表征纹理平坦度的改进的绝对误差和                                                （Advanced Sum of Absolute Difference）：

其中，是位置上的亮度像素值，是以为中心的3×3邻域内的亮度像素的均值。

由于空间相关性，与当前亮度像素距离越近的像素相关性越强，于是采用加权均值，即：

，

其中，为加权因子且， 表示为中心的3×3邻域内的亮度像素。

 

上述步骤（3）中的根据纹理特征采用不用的优化措施，是指设定两个阈值和来判定纹理特征，若该 LCU是纹理平坦的，不进行尺寸为16×16和8×8的编码单元的代价值计算，若该LCU具有复杂的纹理，跳过64×64和32×32编码单元的代价值计算，若该LCU具有适中的纹理，计算所有尺寸编码单元的代价值。因为随着量化参数QP（Quantization Parameter）的增大，大尺寸编码单元逐渐增多，所以阈值的选取是与QP有关的，通过实验设定两个阈值分别为：

，

其中。

 

上述步骤（4）中的提高纹理判定精度，是指经过第一级判定后，每一种纹理特征会采用两种尺寸的编码单元进行编码，进一步比较分别利用其中一种编码单元进行编码的亮度块的绝对差值和的均值MAD：

其中，2N为编码单元在水平和垂直方向上的像素点数，为深度为的编码单元的亮度像素均值。

 

上述步骤（5）中的决定编码单元的尺寸，是指当初步判定LCU为纹理简单的情况，比较深度0与深度1的编码单元的MAD值，然后决定是否添加16×16编码单元；当初步判定LCU为纹理复杂的情况，比较深度2与深度3的编码单元的MAD值，然后决定是否添加32×32编码单元；

本发明与现有技术相比较，具有如下显而易见的突出实质性特点和显著技术进步：

本发明针对最大编码单元LCU进行16:1亚采样,将后续进行纹理复杂度计算所耗费的时间降为原有的1/16，然后引入两级判定机制，首先利用ASAD模型初步判定LCU亚采样后得到的块的纹理复杂度，通过设定两个阈值以防止误判，对于纹理简单的LCU采用大尺寸编码单元，对于纹理复杂的LCU则采用小尺寸编码单元；然后基于上级判定结果再采用MAD模型，决定是否添加其他尺寸的编码单元，提高了纹理判定的精度。本发明能够极大降低算法复杂度，同时能够精确地判定纹理，提高算法准确度。

 

附图说明

图1是本发明的基于纹理复杂度的HEVC快速编码尺寸判定方法的流程框图。

具体实施方式

本发明的优选实施例结合附图详述如下：

实施例的具体步骤如图1流程图所示。在计算机平台上编程实现本发明的方法，利用纹理特征快速判定HEVC编码单元的尺寸。

参见图1，本基于纹理复杂度的HEVC快速编码尺寸判定方法，首先对最大编码单元LCU亚采样，然后判定亚采样后的编码单元的纹理复杂度，将LCU划分为纹理简单和纹理复杂以及纹理适中的情况，接着进行二次判定来提高编码尺寸划分精度，防止误判，从而在降低算法复杂度的同时提高算法的精度。

其步骤是：

(1)     亚采样：将最大编码单元LCU(64×64块)亚采样为16×16块；

(2)     计算纹理复杂度：设计更准确的模型初步判定亚采样后得到的16×16块的纹理复杂度； 

(3)     根据纹理特征采用不用的优化措施：对于纹理简单的LCU采用大尺寸编码单元，对于纹理复杂的LCU采用小尺寸编码单元，对于纹理适中的LCU则需采用所有尺寸的编码单元；

(4)     提高纹理判定精度：根据（3）得到的结果，每一种纹理特征会采用两种尺寸的编码单元进行编码，进一步比较分别利用其中一种编码单元进行编码的亮度块的绝对差值和的均值MAD；

(5)     决定编码单元的尺寸：根据（4）中得到的结果再采用相应的附加判断，即判定是否需要再加入其它尺寸的编码单元，以提高算法准确度。

 

上述步骤（1）中的亚采样，是指将LCU划分成256个4×4块，然后取每个4×4块的均值得到亚采样后的16×16块，其亮度像素值为：

其中，为LCU中位置的亮度像素值。

 

上述步骤（2）中的计算纹理复杂度，是指计算经过亚采样后的16×16块的纹理复杂度，采用的模型是表征纹理平坦度的改进的绝对误差和（Advanced Sum of Absolute Difference）：

其中，是位置上的亮度像素值，是以为中心的3×3邻域内的亮度像素的均值。

由于空间相关性，与当前亮度像素距离越近的像素相关性越强，于是采用加权均值，即：

，

其中，为加权因子且， 表示为中心的3×3邻域内的亮度像素。

 

上述步骤（3）中的根据纹理特征采用不用的优化措施，是指设定两个阈值和，若采用(2)中模型计算得到的值小于阈值，说明该 LCU是纹理平坦的，不进行尺寸为16×16和8×8编码单元的代价值计算，若大于阈值说明LCU具有复杂的纹理，跳过64×64和32×32编码单元的代价值计算，若位于两个阈值之间说明LCU具有适中的纹理，需要计算所有尺寸编码单元的代价值。因为随着量化参数QP（Quantization Parameter）的增大，大尺寸编码单元逐渐增多，所以阈值的选取是与QP有关的，通过实验设定两个阈值分别为：

，

其中。

 

上述步骤（4）中的提高纹理判定精度，是指经过第一级判定后，每一种纹理特征会采用两种尺寸的编码单元进行编码，进一步比较分别利用其中一种编码单元进行编码的亮度块的绝对差值和的均值MAD：

其中，2N为编码单元在水平和垂直方向上的像素点数，为深度为的编码单元的亮度像素均值。

上述步骤（5）中的决定编码单元的尺寸，是指当初步判定LCU为纹理简单的情况，即，不做任何改变，仍然采用64×64和32×32编码单元，反之，添加16×16编码单元；当初步判定LCU为纹理复杂的情况，即，仍然采用16×16和8×8的编码单元，反之，添加32×32编码单元。

Claims (6)

1.一种基于纹理复杂度的HEVC编码尺寸快速判定方法，操作步骤如下：

亚采样：将最大编码单元LCU（64×64）亚采样为16×16块；

计算纹理复杂度：设计准确的模型初步判定亚采样后得到的16×16块的纹理复杂度； 

根据纹理特征采用不用的优化措施：对于纹理简单的LCU采用大编码单元64×64和32×32，对于纹理复杂的LCU则采用小尺寸编码单元16×16和8×8；

提高纹理判定精度：根据步骤（3）得到的结果，每一种纹理特征会采用两种尺寸的编码单元进行编码，比较这两种编码单元编码后的亮度块的绝对差值和均值MAD；

决定编码单元的尺寸：根据步骤（4）中得到的结果再采用相应的附加判断，即判定是否需要再加入其它尺寸的编码单元，以提高算法准确度。

2.根据权利要求1所述的基于纹理复杂度的HEVC编码尺寸快速选择方法，其特征在于：所述步骤（1）中，对最大编码单元LCU进行16:1亚采样，即将LCU划分成256个4×4块，然后取每个4×4块的均值得到亚采样后的16×16块。

3.根据权利要求1所述的基于纹理复杂度的HEVC编码尺寸快速选择方法，其特征在于：所述步骤（2）中，计算经过亚采样后得到的16×16块的纹理复杂度，采用的模型是表征纹理平坦度的先进绝对误差和                                                ：

其中，是位置上的亮度像素值，是以为中心的3×3邻域内的亮度像素的 

均值；由于空间相关性，与当前亮度像素距离越近的像素相关性越强，于是采用加权均

值，即：

，

     其中，为加权因子且， 表示为中心的3×3邻域内

的亮度像素。

4.根据权利要求1所述的基于纹理复杂度的HEVC编码尺寸快速选择方法，其特征在于：所述步骤（3）中，根据纹理特征采用不用的优化措施，设定两个阈值和来判定纹理特征，若<，该 LCU是纹理平坦的，不进行尺寸为16×16和8×8的编码单元的代价值计算；若>，该LCU具有复杂的纹理，跳过64×64和32×32编码单元的代价值计算；若，该LCU具有适中的纹理，进行所有尺寸的编码单元的代价值计算；因为随着量化参数QP的增大，大尺寸编码单元逐渐增多，所以阈值的选取是与QP有关的，通过实验设定两个阈值分别为：

，

其中。

5.根据权利要求1所述的基于纹理复杂度的HEVC编码尺寸快速选择方法，其特征在于：所述步骤（4）中，提高纹理判定精度，是指经过第一级判定后，每一种纹理特征会采用两种尺寸的编码单元进行编码，进一步比较分别这两种编码单元编码后亮度块的绝对差值和均值MAD：

其中，2N为编码单元在水平和垂直方向上的像素点数，为深度为的编码单元的亮度像素均值。

6.根据权利要求1所述的基于纹理复杂度的HEVC编码尺寸快速选择方法，其特征在于：所述步骤（5）中，决定编码单元的尺寸，当初步判定LCU为纹理简单的情况，比较深度0与深度1的编码单元的MAD值，如，则添加16×16编码单元；当初步判定LCU为纹理复杂的情况，比较深度2与深度3的编码单元的MAD值，如，添加32×32编码单元。