CN103873862B - 一种帧内快速编码方法及系统 - Google Patents

Abstract

本发明公开了一种适用于HEVC/H.265视频编码标准的帧内编码的帧内快速编码方法及系统，涉及视频编码技术领域，所述快速编码方法中的粗略模式中估算每个预测模式的粗略率失真代价之后包括：S1：根据所述粗略率失真代价计算当前预测准确率；S2：根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值。本发明通过当前预测准确率来确定当前模式数量N的取值，使得N为可变化的值，解决了候选模式列表由于大小固定，而导致的编码速度变慢的问题。

Description

一种帧内快速编码方法及系统

技术领域

本发明涉及视频编码技术领域，特别涉及一种帧内快速编码方法及系统。

背景技术

H.265是ITU最新颁布的视频编码标准，也称为HEVC。为了提高视频压缩中帧内图像的压缩效率，H.265/HEVC中的帧内编码采用了35种帧内预测模式（为了描述方便，这些所有的预测模式集合记作M），因此编码复杂度较高。为了降低帧内编码的复杂度，现有的参考代码中采用了快速编码方法。该快速编码方法分为2个步骤：

（a）粗略模式选择：在粗略模式选择阶段，遍历所有的预测模式，估算每个预测模式的粗略率失真代价，并将所述预测模式根据粗略率失真代价进行从小到大排序，并将排序后的前N个预测模式组成候选模式列表；

（b）真实率失真优化模式选择：然后对这候选模式列表中的模式，分别进行真实率失真优化计算，并最终选择出一种最佳预测模式。

在粗略模式选择过程中，根据以下公式估算每个预测模式的粗略率失真代价，

c(m)＝r(m)+λ·b(m)，

其中，c(m)为预测模式m的粗略率失真代价，r(m)是预测残差的哈达玛变换系数的绝对值之和，b(m)是预测模式m编码所需的比特数，λ是拉格朗日乘法因子。

在原有方法中，对于不同尺寸的预测块，候选模式列表的大小可以不同（即N的取值不同），但是对于相同尺寸的预测块而言，候选模式列表的大小可以不同（即N值是固定的），导致编码速度变慢。

发明内容

（一）要解决的技术问题

本发明要解决的技术问题是：如何解决候选模式列表由于大小固定，而导致的编码速度变慢的问题。

（二）技术方案

为解决上述技术问题，本发明提供了一种帧内快速编码方法，所述快速编码方法中的粗略模式中估算每个预测模式的粗略率失真代价之后包括：

S1：根据所述粗略率失真代价计算当前预测准确率；

S2：根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值。

其中，根据以下公式计算当前预测准确率p，

其中，M为所有预测模式的集合，|M|为M中的预测模式个数，c(m)为预测模式m的粗略率失真代价。

其中，粗略模式中估算每个预测模式的粗略率失真代价之前还包括：

S0：获取所述预测准确率和模式数量之间的对应关系。

其中，步骤S0包括：

S0.1：计算当前样本中所有预测模式的粗略率失真代价，并将当前样本中的所有预测模式按照粗略率失真代价从小到大的顺序排序得到模式序列S；

S0.2：根据粗略率失真代价计算预测准确率p，把实数区间[0,1]分成K个子区间，p落在第i个子区间则作为第i类，i=1,…,K，K为不小于2的整数；

S0.3：依次计算选取模式序列S的前N’个预测模式的最小真实率失真，N’=1,…,n，n为所述当前样本中所有预测模式的个数；

S0.4：将步骤S0.3的计算结果作为第i类的当前率失真向量，将所述第i类的当前率失真向量叠加至第i类的总率失真向量中；

S0.5：判断是否已经遍历了所有样本，若否，则将未选中的样本作为新的当前样本，并返回步骤S0.1，若是，则执行步骤S0.6；

S0.6：获取每一类的总率失真向量的拐点，将拐点对应选取的预测模式数量N’和该类的预测准确率p进行对应。

本发明还公开了一种帧内快速编码系统，所述系统包括：

预测准确率计算模块，用于根据所述粗略率失真代价计算当前预测准确率；

模式数量计算模块，用于根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值。

其中，预测准确率计算模块中根据以下公式计算当前预测准确率p，

其中，M为所有预测模式的集合，|M|为M中的预测模式个数，c(m)为预测模式m的粗略率失真代价。

其中，所述系统还包括：

对应关系获取模块，用于获取所述预测准确率和模式数量之间的对应关系。

其中，所述对应关系获取模块包括：

计算排序子模块，用于计算当前样本中所有预测模式的粗略率失真代价，并将当前样本中的所有预测模式按照粗略率失真代价从小到大的顺序排序得到模式序列S；

预测准确率计算子模块，用于根据粗略率失真代价计算预测准确率p，把实数区间[0,1]分成K个子区间，p落在第i个子区间则作为第i类，i=1,…,K，K为不小于2的整数；

真实率失真计算子模块，用于依次计算选取模式序列S的前N’个预测模式的最小真实率失真，N’=1,…,n，n为所述当前样本中所有预测模式的个数；

向量叠加子模块，用于将真实率失真计算子模块的计算结果作为第i类的当前率失真向量，将所述第i类的当前率失真向量叠加至第i类的总率失真向量中；

遍历判断子模块，用于判断是否已经遍历了所有样本，若否，则将未选中的样本作为新的当前样本；

拐点获取子模块，用于获取每一类的总率失真向量的拐点，将拐点对应选取的预测模式数量N’和该类的预测准确率p进行对应。

（三）有益效果

本发明通过当前预测准确率来确定当前模式数量N的取值，使得N为可变化的值，解决了候选模式列表由于大小固定，而导致的编码速度变慢的问题。

附图说明

图1是本发明的一种实施方式的帧内快速编码方法的流程图；

图2是本发明方法在视频亮度分量上的率失真代价（Y_PROPOSED）与现有技术的率失真代价（Y_HEVC）之间的比较图。

具体实施方式

下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。

图1是本发明的一种实施方式的帧内快速编码方法的流程图；参照图1，所述快速编码方法中的粗略模式中估算每个预测模式的粗略率失真代价之后包括：

S1：根据所述粗略率失真代价计算当前预测准确率；

S2：根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值。

根据多次实验验证，优选地，根据以下公式计算当前预测准确率p，

其中，M为所有预测模式的集合，|M|为M中的预测模式个数，c(m)为预测模式m的粗略率失真代价。

优选地，粗略模式中估算每个预测模式的粗略率失真代价之前还包括：

S0：获取所述预测准确率和模式数量之间的对应关系，所述预测准确率和模式数量之间呈反比，即预测准确率越高，则候选模式列表中的模式数量越少；预测准确率越低，则候选模式列表中的模式数量越多。

为准确地获得对应关系，优选地，步骤S0包括：

S0.1：计算当前样本中所有预测模式的粗略率失真代价，并将当前样本中的所有预测模式按照粗略率失真代价从小到大的顺序排序得到模式序列S；

S0.2：根据粗略率失真代价计算预测准确率p，把实数区间[0,1]分成K个子区间，p落在第i个子区间则作为第i类，i=1,…,K，K为不小于2的整数；

S0.3：依次计算选取模式序列S的前N’个预测模式的最小真实率失真，N’=1,…,n，n为所述当前样本中所有预测模式的个数；

S0.4：将步骤S0.3的计算结果作为第i类的当前率失真向量（由于步骤S0.3在计算时，可获得选取的预测模式数量N’和真实率失真的n个对应关系，即可将n个真实率失真表示为向量形式），将所述第i类的当前率失真向量叠加至第i类的总率失真向量中；

S0.5：判断是否已经遍历了所有样本，若否，则将未选中的样本作为新的当前样本，并返回步骤S0.1，若是，则执行步骤S0.6；

S0.6：获取每一类的总率失真向量的拐点（由于总率失真向量和选取的预测模式数量N’存在对应关系，可将该对应关系通过二维坐标进行表示，并从二维坐标中选取出拐点），将拐点对应选取的预测模式数量N’和该类的预测准确率p进行对应。

按照HEVC指定过程中在文档JCTVC-J1100提出的测试方法，用本发明对推荐的24个测试序列和量化参数下进行了测试。测试结果表明，本发明能在保证编码率失真性能的条件下，能提高帧内编码速度。6组测试序列的平均提速比如下表所示，其中Y-BD，U-BD，V-BD分别Y、U、V三个分量的相率失真条件下相对增加的码率。T-Saving表示本发明相对于参考代码的提速比，计算方法为

测试序列	Y-BD	U-BD	V-BD	T-Saving（%）
					A类	0.0%	0.0%	0.0%	4.80
B类	0.0%	0.0%	0.0%	3.74
					C类	0.0%	0.0%	0.0%	5.19
D类	0.0%	0.0%	-0.1%	3.66
					E类	0.1%	0.0%	0.0%	6.70
F类	0.1%	0.1%	0.1%	11.09
					平均	0.1%	0.0%	0.0%	5.74

可见本发明编码的率失真性能与原方法之间的差异可以忽略。但是平均编码时间节省了5.74%。在测试序列SlideShow上平均节省时间18.10%，如图2所示，两根线条基本重合，率失真曲线表明率失真性能几乎无损失。

本发明还公开了一种帧内快速编码系统，所述系统包括：

预测准确率计算模块，用于根据所述粗略率失真代价计算当前预测准确率；

模式数量计算模块，用于根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值。

优选地，预测准确率计算模块中根据以下公式计算当前预测准确率p，

其中，M为所有预测模式的集合，|M|为M中的预测模式个数，c(m)为预测模式m的粗略率失真代价。

优选地，所述系统还包括：

对应关系获取模块，用于获取所述预测准确率和模式数量之间的对应关系。

优选地，所述对应关系获取模块包括：

计算排序子模块，用于计算当前样本中所有预测模式的粗略率失真代价，并将当前样本中的所有预测模式按照粗略率失真代价从小到大的顺序排序得到模式序列S；

预测准确率计算子模块，用于根据粗略率失真代价计算预测准确率p，把实数区间[0,1]分成K个子区间，p落在第i个子区间则作为第i类，i=1,…,K，K为不小于2的整数；

真实率失真计算子模块，用于依次计算选取模式序列S的前N’个预测模式的最小真实率失真，N’=1,…,n，n为所述当前样本中所有预测模式的个数；

向量叠加子模块，用于将真实率失真计算子模块的计算结果作为第i类的当前率失真向量，将所述第i类的当前率失真向量叠加至第i类的总率失真向量中；

遍历判断子模块，用于判断是否已经遍历了所有样本，若否，则将未选中的样本作为新的当前样本；

拐点获取子模块，用于获取每一类的总率失真向量的拐点，将拐点对应选取的预测模式数量N’和该类的预测准确率p进行对应。

以上实施方式仅用于说明本发明，而并非对本发明的限制，有关技术领域的普通技术人员，在不脱离本发明的精神和范围的情况下，还可以做出各种变化和变型，因此所有等同的技术方案也属于本发明的范畴，本发明的专利保护范围应由权利要求限定。

Claims (6)

1.一种帧内快速编码方法，其特征在于，所述快速编码方法中的粗略模式中估算每个预测模式的粗略率失真代价之后包括：

S1：根据所述粗略率失真代价计算当前预测准确率，根据以下公式计算当前预测准确率p，

$p=1-\frac{c_o}{a},$

其中，M为所有预测模式的集合，|M|为M中的预测模式个数，c(m)为预测模式m的粗略率失真代价；

S2：根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值，所述模式数量为候选模式列表中的模式数量。

2.如权利要求1所述的编码方法，其特征在于，粗略模式中估算每个预测模式的粗略率失真代价之前还包括：

S0：获取所述预测准确率和模式数量之间的对应关系。

3.如权利要求2所述的编码方法，其特征在于，步骤S0包括：

S0.1：计算当前样本中所有预测模式的粗略率失真代价，并将当前样本中的所有预测模式按照粗略率失真代价从小到大的顺序排序得到模式序列S；

S0.2：根据粗略率失真代价计算预测准确率p，把实数区间[0,1]分成K个子区间，p落在第i个子区间则作为第i类，i＝1,…,K，K为不小于2的整数；

S0.3：依次计算选取模式序列S的前N’个预测模式的最小真实率失真，N’＝1,…,n，n为所述当前样本中所有预测模式的个数；

S0.4：将步骤S0.3的计算结果作为第i类的当前率失真向量，将所述第i类的当前率失真向量叠加至第i类的总率失真向量中；

S0.5：判断是否已经遍历了所有样本，若否，则将未选中的样本作为新的当前样本，并返回步骤S0.1，若是，则执行步骤S0.6；

S0.6：获取每一类的总率失真向量的拐点，将拐点对应选取的预测模式数量N’和该类的预测准确率p进行对应。

4.一种帧内快速编码系统，其特征在于，所述系统包括：

预测准确率计算模块，用于根据所述粗略率失真代价计算当前预测准确率，预测准确率计算模块中根据以下公式计算当前预测准确率p，

$p=1-\frac{c_o}{a},$

其中，M为所有预测模式的集合，|M|为M中的预测模式个数，c(m)为预测模式m的粗略率失真代价；

模式数量计算模块，用于根据预测准确率和模式数量之间的对应关系通过所述当前预测准确率来确定当前模式数量N的取值，所述模式数量为候选模式列表中的模式数量。

5.如权利要求4所述的编码系统，其特征在于，所述系统还包括：

对应关系获取模块，用于获取所述预测准确率和模式数量之间的对应关系。

6.如权利要求5所述的编码系统，其特征在于，所述对应关系获取模块包括：

计算排序子模块，用于计算当前样本中所有预测模式的粗略率失真代价，并将当前样本中的所有预测模式按照粗略率失真代价从小到大的顺序排序得到模式序列S；

预测准确率计算子模块，用于根据粗略率失真代价计算预测准确率p，把实数区间[0,1]分成K个子区间，p落在第i个子区间则作为第i类，i＝1,…,K，K为不小于2的整数；

真实率失真计算子模块，用于依次计算选取模式序列S的前N’个预测模式的最小真实率失真，N’＝1,…,n，n为所述当前样本中所有预测模式的个数；

向量叠加子模块，用于将真实率失真计算子模块的计算结果作为第i类的当前率失真向量，将所述第i类的当前率失真向量叠加至第i类的总率失真向量中；

遍历判断子模块，用于判断是否已经遍历了所有样本，若否，则将未选中的样本作为新的当前样本；

拐点获取子模块，用于获取每一类的总率失真向量的拐点，将拐点对应选取的预测模式数量N’和该类的预测准确率p进行对应。