CN108881905A - 基于概率的帧内编码器优化方法 - Google Patents

Abstract

本发明涉及一种基于概率的帧内编码器优化方法，包括以下步骤：步骤S1:构建预测候选模式列表；步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；步骤S3:基于RD costs的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分。本发明在视频质量的前提下，大幅提高视频编码的效率。

Description

基于概率的帧内编码器优化方法

技术领域

本发明涉及视频编码技术领域，具体设计一种基于概率的帧内编码器优化方法。

背景技术

HEVC视频压缩已经是我们生活中必不可少的家庭娱乐之一，如果没有它的存HEVC在，那么我们将活在一个全球范围内只有几十个电视频道的世界里，放在眼下那简直是无法想象的。数字技术首次出现在英国，那时候人们已经有了电视机，通过数字技术的不断进化演变，地面电视频道迅速地从5个发展到了30多个，极大的丰富了人们的日常生活娱乐。

现有的HEVC帧内预测算法复杂度高，在实际的使用中，视频图像的编码效率是非常重要的，特别是用于实时传输的时候，现有算法不能满足高效实时传输的要求。

发明内容

有鉴于此，本发明的目的在于提供一种基于概率的帧内编码器优化方法在视频质量的前提下，大幅提高视频编码的效率。

为实现上述目的，本发明采用如下技术方案：

一种基于概率的帧内编码器优化方法，包括以下步骤：

步骤S1:构建预测候选模式列表；

步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；

步骤S3:基于RD costs的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分。

进一步的，所述步骤S1基于35种模式成为最佳候选模式的概率，构建预测候选模式列表。

进一步的，所述步骤S1具体为：

步骤S11:根据相邻PU块HCost的分布来预测当前PU块的分布，三个分布的依赖关系为：

其中,是预测当前PU块的HCost的分布，H_L,H_A是左边PU块和上边PU块的HCost分布，ω_t是模型的权重，值介于0-1之间；

步骤S12:收集之前帧相同PU位置的信息，来动态调整ω_t的值，定义t是当前帧的索引，L是已经编码帧的数量，H_i是第i帧相同位置HCost的分布，定义模型的错误率为：

通过推导和近似值，对于当前PU的权重ω_t最终被定义为：

其中ω_t-1,分别代表t-1时刻，同一位置PU的实际和预测的HCost分布；通过大量实验证明，α＝0.1，是两个很常用的值；

ω_t-1定义为：

步骤S23:选取HCost较小的前8个模式带入实际的HCost计算，并且每一次更新完成减少预测模式的功能。

进一步的，所述步骤S2具体为：

步骤S21:HEVC帧内预测中，不同的PU尺寸{64×64,32×32,16×16,8×8,4×4}对应的候选模式数量为{8,8,3,3,3}，通过比较PU尺寸为，8×8,4×4候选模式RDcost的大小，来减少候选模式个数；

步骤S22:在编码PU尺寸为8×8,4×4时候，前三个候选模式进入RDO流程分别计算出RDcost0,RDcost1,RDcost2；

步骤S23:若RDcost0<RDcost1<RDcost2,提前终止模式选择，否则对第四个候选模式计算RDcost3；若RDcost1<RDcost2<RDcost3,则提前终止模式选择。

进一步的，所述步骤S3具体为：

RD costs的对数正态分布表达式为：

式(5)中，f_i(x)是当RDcost等于x时的概率密度值；N_o,S_p分别表示不分割与分割；E(X)，Var(X)是集合X的均值和方差；

对于不分割的CU的RDcost集中在比较小的值，而对于分割CU的RDcost集中在相对较大的值，如果当前的CU的RDcost小于一个阈值，当前CU就被认为是最佳尺寸的CU，提前终止CU划分。

本发明与现有技术相比具有以下有益效果：

本发明针对HEVC帧内编码器提出的基于概率的优化方法，以达到在保证视频质量性能的前提下，实现大幅度减少编码复杂度的目的。

附图说明

图1是本发明流程图

图2是本发明一实施例中相邻PU块的HCost分布图

图3是本发明一实施例中第一候选模式成为最佳预测模式的概率

图4是本发明一实施例中不分割CU与分割CU的RDcost分布概率密度。

具体实施方式

下面结合附图及实施例对本发明做进一步说明。

请参照图1，本发明提供一种基于概率的帧内编码器优化方法，包括以下步骤：

步骤S1:构建预测候选模式列表；

步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；

步骤S3:基于RD costs的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分。

在本发明一实施例中，所述步骤S1基于35种模式成为最佳候选模式的概率，构建预测候选模式列表。

在本发明一实施例中，所述步骤S1具体为：

步骤S11:根据相邻PU块HCost的分布来预测当前PU块的分布，三个分布的依赖关系为：

其中,是预测当前PU块的HCost的分布，H_L,H_A是左边PU块和上边PU块的HCost分布，ω_t是模型的权重，值介于0-1之间；

步骤S12:收集之前帧相同PU位置的信息，来动态调整ω_t的值，定义t是当前帧的索引，L是已经编码帧的数量，H_i是第i帧相同位置HCost的分布，定义模型的错误率为：

通过推导和近似值，对于当前PU的权重ω_t最终被定义为：

其中ω_t-1,分别代表t-1时刻，同一位置PU的实际和预测的HCost分布；通过大量实验证明，α＝0.1，是两个很常用的值；

ω_t-1定义为：

步骤S23:选取HCost较小的前8个模式带入实际的HCost计算，并且每一次更新完成减少预测模式的功能。

在本发明一实施例中，所述步骤S2具体为：

步骤S21:HEVC帧内预测中，不同的PU尺寸{64×64,32×32,16×16,8×8,4×4}对应的候选模式数量为{8,8,3,3,3}，通过比较PU尺寸为，8×8,4×4候选模式RDcost的大小，来减少候选模式个数；

步骤S22:在编码PU尺寸为8×8,4×4时候，前三个候选模式进入RDO流程分别计算出RDcost0,RDcost1,RDcost2；

步骤S23:若RDcost0<RDcost1<RDcost2,提前终止模式选择，否则对第四个候选模式计算RDcost3；若RDcost1<RDcost2<RDcost3,则提前终止模式选择。

进一步的，所述步骤S3具体为：

RD costs的对数正态分布表达式为：

式(5)中，f_i(x)是当RDcost等于x时的概率密度值；N_o,S_p分别表示不分割与分割；E(X)，Var(X)是集合X的均值和方差；

对于不分割的CU的RDcost集中在比较小的值，而对于分割CU的RDcost集中在相对较大的值，如果当前的CU的RDcost小于一个阈值，当前CU就被认为是最佳尺寸的CU，提前终止CU划分。

实施例1：

为了验证本发明算法的有效性，我们在HEVC标准参考代码HM16.9上进行实验。使用量化参数(quantization parameter,QP)22，27，32，37，LCU尺寸为64×64，最大深度级别为3，只对全I帧进行测试。实验结果如表1所示。

表1实验结果

可以看出，本发明在保证视频质量性能的前提下，实现大幅度减少编码复杂度的目的。

以上所述仅为本发明的较佳实施例，凡依本发明申请专利范围所做的均等变化与修饰，皆应属本发明的涵盖范围。

Claims (5)

1.一种基于概率的帧内编码器优化方法，其特征在于：包括以下步骤：

步骤S1:构建预测候选模式列表；

步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率，提前终止模式选择；

步骤S3:基于RD costs的对数正态分布，设定CU划分与否的依据，完成提前终止CU划分。

2.根据权利要求1所述的一种基于概率的帧内编码器优化方法，其特征在于：所述步骤S1基于35种模式成为最佳候选模式的概率，构建预测候选模式列表。

3.根据权利要求2所述的一种基于概率的帧内编码器优化方法，其特征在于：所述步骤S1具体为：

步骤S11:根据相邻PU块HCost的分布来预测当前PU块的分布，三个分布的依赖关系为：

其中,是预测当前PU块的HCost的分布，H_L,H_A是左边PU块和上边PU块的HCost分布，ω_t是模型的权重，值介于0-1之间；

步骤S12:收集之前帧相同PU位置的信息，来动态调整ω_t的值，定义t是当前帧的索引，L是已经编码帧的数量，H_i是第i帧相同位置HCost的分布，定义模型的错误率为：

通过推导和近似值，对于当前PU的权重ω_t最终被定义为：

其中ω_t-1,分别代表t-1时刻，同一位置PU的实际和预测的HCost分布；

ω_t-1定义为：

步骤S23:选取HCost较小的前8个模式带入实际的HCost计算，并且每一次更新完成减少预测模式的功能。

4.根据权利要求1所述的一种基于概率的帧内编码器优化方法，其特征在于：所述步骤S2具体为：

步骤S21:HEVC帧内预测中，不同的PU尺寸{64×64,32×32,16×16,8×8,4×4}对应的候选模式数量为{8,8,3,3,3}，通过比较PU尺寸为，8×8,4×4候选模式RDcost的大小，来减少候选模式个数；

步骤S22:在编码PU尺寸为8×8,4×4时候，前三个候选模式进入RDO流程分别计算出RDcost0,RDcost1,RDcost2；

步骤S23:若RDcost0<RDcost1<RDcost2,提前终止模式选择，否则对第四个候选模式计算RDcost3；若RDcost1<RDcost2<RDcost3,则提前终止模式选择。

5.根据权利要求1所述的一种基于概率的帧内编码器优化方法，其特征在于：所述步骤S3具体为：

RD costs的对数正态分布表达式为：

式(5)中，f_i(x)是当RDcost等于x时的概率密度值；N_o,S_p分别表示不分割与分割；E(X)，Var(X)是集合X的均值和方差；

对于不分割的CU的RDcost集中在比较小的值，而对于分割CU的RDcost集中在相对较大的值，如果当前的CU的RDcost小于一个阈值，当前CU就被认为是最佳尺寸的CU，提前终止CU划分。