CN104954787A - Hevc帧间预测模式选择方法及装置 - Google Patents

Abstract

本发明公开了一种HEVC帧间预测模式选择方法及装置，用以降低帧间预测模式选择的复杂度，提高处理效率。该方法为：确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价；根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式；确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

Description

HEVC帧间预测模式选择方法及装置

技术领域

本发明涉及视频编码技术领域，尤其涉及一种高效视频编码标准（HighEfficiency Video Coding，HEVC）帧间预测模式选择方法及装置。

背景技术

新一代高效视频编码标准HEVC专注于处理高清超高清视频和并行处理架构，主要是针对现有混合编码框架中的每个技术模块进行小步快跑的改进，用积少成多的方法提高编码的性能。但是，HEVC在提升编码效率的同时也大大增加了编码的复杂度。

目前，对于所有HEVC编码器开放算法的研究都基本上是以HEVC测试模型（HEVC Test Model，简称HM）工程为参考模型。HEVC编码器的基本编码单元是LCU（Large Coding Unit），并将LCU的深度Depth定义为0，对于LCU单元是否要进一步进行四叉树划分（宽和高分别为划分前的一半）成四个CU（Coding Unit），是通过计算和比较层间的采用误差平方和（Sum of SquaredError，SSE）算法的率失真代价决定的，且每进行一次四叉树划分Depth加1。同理对于每个CU是否要进行四叉树划分，也是通过计算和比较层间采用SSE算法的率失真代价决定。附图1描述的是HM的层间CU的率失真代价计算和比较的流程图，对于Depth为n（n<3）的CU，先计算不进行四叉树划分的采用SSE算法的率失真代价Cost_n，然后再计算将当前CU四叉树均分成四个CU（Depth=n+1）后的总的率失真代价(Cost_n+1=Cost_n+1_0+Cost_n+1_1+Cost_n+1_2+Cost_n+1_3)，通过比较两个率失真代价的大小决定是否对当前CU进行四叉树分割编码。对划分后的CU以同样的方式进行层间的率失真代价计算，决定是否需要再进行四叉树分割，直至达到编码器允许的最深深度。

HM中对每个CU进行帧间预测模式选择时，如附图2所示在协议规则范围允许的条件下，依次要经历SKIP/MERGE、INTER_2N×2N、INTER_N×N、INTER_N×2N、INTER_2N×2N、INTER_2N×nU、INTER_2N×nD、INTER_nL×2N、INTER_nR×2N、INTRA_2N×2N、INTRA_N×N、PCM等模式的采用SSE算法的率失真代价计算，最后通过比较率失真代价选出最优的预测模式。

基于SSE算法的率失真代价计算，首选需要通过对当前CU进行预测，得到残差数据后再经过变换量化和熵编码，求得编码的比特代价，并将量化后的数据进行反量化反变换得到重建图像，再通过SSE代价函数计算原始视频和重建视频中像素的差异，有效权衡原始视频图像经变换量化后图像的失真和编码比特数两方面的因素，能够在获得尽可能好的视频质量的同时使码率最小，有效地提高编码的性能。但是，由于在计算率失真代价时，需要对当前CU进行预测、变换量化、熵编码、反变换反量化、重建等一系列过程，计算复杂度太高，非常耗时，不利于实际应用。

因此，需要寻找一种HEVC帧间预测模式选择方法，以降低帧间预测模式选择的复杂度，提高处理效率。

发明内容

本发明提供一种HEVC帧间预测模式选择方法及装置，用以降低帧间预测模式选择的复杂度，提高处理效率。

本发明实施例提供的具体技术方案如下：

一种高效视频编码标准HEVC帧间预测模式选择方法，包括：

确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价；

根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式；

确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

一种高效视频编码标准HEVC帧间预测模式选择装置，包括：

计算模块，用于确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价；

选择模块，用于根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式；

确定模块，用于确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

基于上述技术方案，本发明实施例中，在CU块的像素尺寸在设定范围内时，采用SAD算法计算每种帧间预测模式的第一率失真代价，并在最优的第一率失真代价SadCost0和次优的第一率失真代价SadCost1满足(SadCost1-SadCost0)/SadCost0大于阈值时，采用SAD算法代替SSE算法进行帧间预测模式选择，在提高处理速度，降低计算复杂度的同时，又能够保证压缩效率和重建图像的质量。

附图说明

图1为现有技术中层间CU的率失真代价计算和比较的流程图；

图2为现有技术中CU的率失真代价计算顺序的示意图；

图3为本发明实施例中HEVC帧间预测模式选择的方法流程图；

图4为本发明具体实施例中帧间预测模式选择过程示意图；

图5为本发明具体实施例中skip或merge的率失真代价计算过程示意图；

图6为本发明具体实施例中HEVC帧间预测模式选择装置的结构示意图。

具体实施方式

为了降低帧间预测模式选择的复杂度，提高处理效率，本发明实施例提供了一种HEVC帧间预测模式选择方法及装置。

下面结合附图对本发明优选的实施方式进行详细说明。

本发明实施例提供的帧间模式选择的核心思想为：通过比较各种帧间预测模式的基于绝对误差和（Sum of Absolute Difference，SAD）计算获得的第一率失真代价，计算最优与次优的第一率失真代价之差与最优的第一率失真代价的比值，通过设定阈值，如果该比值满足阈值条件则直接通过第一率失真代价得出最优的帧间预测模式，否则，再次进行各帧间预测模式的基于SSE的第二率失真代价，选出最优的帧间预测模式。

如附图3所示，本发明实施例中，HEVC帧间预测模式选择的详细方法流程如下：

步骤301：确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价。

较佳地，确定CU块的像素尺寸小于32×32时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价。

其中，第一率失真代价计算公式如下：

J_pred,SAD=SAD+λ_pred*B_pred

其中，Diff(i,j)表示原始图像块和预测图像块之间的残差，λ_pred表示系数因子，B_pred表示比特代价。

步骤302：根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式。

较佳地，将获得各帧间预测模式的第一率失真代价按照从小到大的顺序排序，将最小值作为最优的第一率失真代价SadCost0，该最小值对应的帧间预测模式作为第一帧间预测模式，以及将次小值作为次优的第一率失真代价SadCost1，该次小值对应的帧间预测模式作为第二帧间预测模式。

步骤303：确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

较佳地，本发明实施例中，针对不同的CU块的像素尺寸设定不同的阈值，确定(SadCost1-SadCost0)/SadCost0大于阈值之前，根据预设的CU的像素尺寸与阈值的对应关系，获取所述CU的像素尺寸对应的所述阈值。

本发明实施例中，确定(SadCost1-SadCost0)/SadCost0不大于阈值时，基于SSE算法计算获得所述CU块的每种帧间预测模式的第二率失真代价，根据所述第二率失真代价确定所述CU块的最优帧间预测模式。

其中，第二率失真代价的函数表示为：

J_mode=(SSE_luma+W_chroma*SSE_chroma)+λ_mode*B_mode

其中，SSE_luma表示亮度平面的SSE代价，SSE_chroma表示色度平面的SSE代价，W_chroma表示系数因子，λ_mode表示系数因子，B_mode表示比特代价，其中，Diff(i,j)=BlockA(i,j)-BlockB(i,j)，BlockA(i,j)表示原始图像块，BlockB(i,j)表示由参考图像进行预测后加上该参考图像变换量化、反量化、反变换、解码后的残差得到的重建图像值。

以下结合附图4所示，通过一个具体实施例对HEVC帧间预测模式选择的过程进行完整详细的说明。

步骤401：获取当前CU块对应的深度Depth，HEVC中将64x64像素大小的CU块的深度设定为零，每进行一次四叉树分割，深度加1，因此32×32像素大小的CU块的深度为1，16×16像素大小的CU块的深度为2，8×8像素大小的CU块的深度为3。

步骤402：判断当前CU块对应的深度Depth是否大于1，若是执行步骤403，否则，执行步骤405；

步骤403：分别采用SAD函数计算各帧间预测模式的第一率失真代价，各帧间预测模式的计算顺序如下：

首先，计算skip或merge的率失真代价，具体计算过程如附图5所示：

如果是skip模式，对skip模式中包含的5个候选帧间预测模式基于SSE计算第二率失真代价，选择出第二率失真代价最小的最优候选帧间预测模式，基于SAD计算该最优候选帧间预测模式的第一率失真代价；

如果是merge模式，对merge模式中包含的5个候选帧间预测模式基于SAD计算第一率失真代价，选出第一率失真代价最小的最优候选帧间预测模式，保存其第一率失真代价；

比较skip和merge模式的最优候选帧间预测模式的第一率失真代价，根据第一率失真代价选择最终的帧间预测模式，并保存该最终的帧间预测模式的基于SAD的第一率失真代价。

其次，依次基于SAD计算INTER_2Nx2N、INTER_NxN、INTER_Nx2N、INTER_2Nx2N、INTER_2NxnU、INTER_2NxnD、INTER_nLx2N、INTER_nRx2N、INTRA_2Nx2N、INTRA_NxN、PCM的第一率失真代价（虚线所示的帧间预测模式表示，在协议允许的情况下需要计算该帧间预测模式），保存各个帧间预测模式的第一率失真代价。

步骤404：将各个模式的第一率失真代价按照从小到大的顺序排序，记为SadCost0、SadCost1～SadCostn(n最大值为参与第一率失真代价计算的帧间预测模式的数目)，将(SadCost1-SadCost0)/SadCost0与阈值Th_n进行比较（当CU深度为2的时候，Th取值为Th_2，当CU深度为3的时候Th的取值为Th_3），如果(SadCost1-SadCost0)/SadCost0>Th_n，执行步骤407，否则，执行步骤405。

步骤405：依次基于SSE计算skip/merge、INTER_2N×2N、INTER_N×N、INTER_N×2N、INTER_2N×N、INTER_2N×nU、INTER_2N×nD、INTER_nL×2N、INTER_nR×2N、INTRA_2N×2N、INTRA_N×N、PCM的第二率失真代价（虚线所示的帧间预测模式表示如果在协议允许的情况下，需要计算该帧间预测模式的第二率失真代价），此方式与现有技术中的帧间预测模式选择方案一致。

步骤406：比较步骤405中获得各第二率失真代价，获得第二率失真代价最小值对应的最优帧间预测模式。

步骤407：选择第一率失真代价中的最小值，将该最小值对应的帧间预测模式作为最优帧间预测模式。

基于相同的原理，本发明实施例中，还提供了一种HEVC帧间预测模式选择装置，该装置的具体实施可参见上述方法部分的描述，重复之处不再赘述，如附图6所示，该装置主要包括：

计算模块601，用于确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价；

选择模块602，用于根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式；

确定模块603，用于确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

较佳地，所述计算模块用于：

确定所述CU块的像素尺寸小于32×32时，计算获得所述CU块的每种帧间预测模式的第一率失真代价。

较佳地，所述确定模块还用于：

确定(SadCost1-SadCost0)/SadCost0大于阈值之前，根据预设的CU的像素尺寸与阈值的对应关系，获取所述CU的像素尺寸对应的所述阈值。

较佳地，所述确定模块还用于：

确定(SadCost1-SadCost0)/SadCost0不大于阈值时，基于SSE算法计算获得所述CU块的每种帧间预测模式的第二率失真代价，根据所述第二率失真代价确定所述CU块的最优帧间预测模式。

较佳地，所述选择模块具体用于：

将获得各帧间预测模式的第一率失真代价按照从小到大的顺序排序，将最小值作为最优的第一率失真代价SadCost0，该最小值对应的帧间预测模式作为第一帧间预测模式，以及将次小值作为次优的第一率失真代价SadCost1，该次小值对应的帧间预测模式作为第二帧间预测模式。

本发明实施例中，经过大量实验的数据统计，当CU块划分比较小的时候，基于SAD计算的第一率失真代价与基于SSE计算的第二率失真代价选择最优帧间预测模式的结果基本一致。使得在绝大多数情况下（在CU像素尺寸小于32×32时，约90%的情况）只需基于SAD计算第一率失真代价，就能得出最优帧间预测模式，只有极少数情况下，需要再基于SSE计算第二率失真代价进行最优帧间预测模式选择，在有效率降低帧间预测模式选择时，率失真代价计算的复杂度的同时，保证了编码效率和重建视频质量，压缩效率和重建视频质量几乎与采用SSE计算率失真代价并进行帧间预测模式选择时一样。

基于上述技术方案，本发明实施例中，在CU块的像素尺寸在设定范围内时，采用SAD算法计算每种帧间预测模式的第一率失真代价，并在最优的第一率失真代价SadCost0和次优的第一率失真代价SadCost1满足(SadCost1-SadCost0)/SadCost0大于阈值时，采用SAD算法代替SSE算法进行帧间预测模式选择，在提高处理速度，降低计算复杂度的同时，又能够保证压缩效率和重建图像的质量。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种高效视频编码标准HEVC帧间预测模式选择方法，其特征在于，包括：

确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价；

根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式；

确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

2.如权利要求1所述的方法，其特征在于，确定当前帧的编码单元CU块的像素尺寸在设定范围内，包括：

确定所述CU块的像素尺寸小于32×32。

3.如权利要求1或2所述的方法，其特征在于，确定(SadCost1-SadCost0)/SadCost0大于阈值之前，包括：

根据预设的CU的像素尺寸与阈值的对应关系，获取所述CU的像素尺寸对应的所述阈值。

4.如权利要求3所述的方法，其特征在于，所述方法还包括：

确定(SadCost1-SadCost0)/SadCost0不大于阈值时，基于误差平方和SSE算法计算获得所述CU块的每种帧间预测模式的第二率失真代价，根据所述第二率失真代价确定所述CU块的最优帧间预测模式。

5.如权利要求3所述的方法，其特征在于，根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式，包括：

将获得各帧间预测模式的第一率失真代价按照从小到大的顺序排序，将最小值作为最优的第一率失真代价SadCost0，该最小值对应的帧间预测模式作为第一帧间预测模式，以及将次小值作为次优的第一率失真代价SadCost1，该次小值对应的帧间预测模式作为第二帧间预测模式。

6.一种高效视频编码标准HEVC帧间预测模式选择装置，其特征在于，包括：

计算模块，用于确定当前帧的编码单元CU块的像素尺寸在设定范围内时，基于绝对误差和SAD算法计算获得所述CU块的每种帧间预测模式的第一率失真代价；

选择模块，用于根据获得各帧间预测模式的第一率失真代价，获得最优的第一率失真代价SadCost0及相应的第一帧间预测模式和次优的第一率失真代价SadCost1及相应的第二帧间预测模式；

确定模块，用于确定(SadCost1-SadCost0)/SadCost0大于阈值时，选择所述第一帧间预测模式作为所述CU块的最优帧间预测模式。

7.如权利要求6所述的装置，其特征在于，所述计算模块用于：

确定所述CU块的像素尺寸小于32×32时，计算获得所述CU块的每种帧间预测模式的第一率失真代价。

8.如权利要求6或7所述的装置，其特征在于，所述确定模块还用于：

确定(SadCost1-SadCost0)/SadCost0大于阈值之前，根据预设的CU的像素尺寸与阈值的对应关系，获取所述CU的像素尺寸对应的所述阈值。

9.如权利要求8所述的装置，其特征在于，所述确定模块还用于：

确定(SadCost1-SadCost0)/SadCost0不大于阈值时，基于误差平方和SSE算法计算获得所述CU块的每种帧间预测模式的第二率失真代价，根据所述第二率失真代价确定所述CU块的最优帧间预测模式。

10.如权利要求8所述的装置，其特征在于，所述选择模块具体用于：

将获得各帧间预测模式的第一率失真代价按照从小到大的顺序排序，将最小值作为最优的第一率失真代价SadCost0，该最小值对应的帧间预测模式作为第一帧间预测模式，以及将次小值作为次优的第一率失真代价SadCost1，该次小值对应的帧间预测模式作为第二帧间预测模式。