CN107371023A - 一种帧内亮度预测模式的快速选择方法 - Google Patents

Abstract

本发明针对AVS2视频编码提出一种帧内亮度预测模式的快速选择方法，以对33种亮度预测模式进行分组统计为基础，利用了来自左边和上边已编码单元的最佳亮度预测模式MPMs的特殊性和相邻预测模式具有大致相同的预测方向的特点。该方法主要作用在帧内亮度预测完成33选9以后，对9种亮度预测模式的处理。通过本发明能够有效的减少当前预测单元需要进行精细模式计算的候选模式的数量，有效地减低AVS2视频编码器的计算复杂度，提高了编码效率；有利于实时编码的实现及AVS2视频标准的推广与应用。

Description

一种帧内亮度预测模式的快速选择方法

【技术领域】

本发明涉及一种帧内亮度预测模式的快速选择方法。

【背景技术】

在现代信息时代，多媒体的应用越来越广，这其中以视频最为突出，而原始的视频如果不经过压缩处理会给存储设备或者传输网络带来极大的挑战。为了应对该问题，提出了视频压缩的技术，国际上不同组织开发了针对不同应用的视频编解码标准。我国的音视频编解码工作组(AVS)在2016年5月发布了新一代音视频编解码标准----AVS2。AVS2标准的第二部分是关于视频编解码的描述，AVS2视频编码相比上一代标准(AVS1)能够提高一倍的压缩率，主要面向高清与超高清视频应用。

AVS2视频编码采用了传统的基于块的混合编码框架，采用的技术主要有帧内预测编码、帧间预测编码，变换域量化和熵编码等。AVS2视频编码在传统的基础上也引入了众多新颖的技术，主要包括：更加灵活划分的逻辑单元，更多的帧内预测模式，更多的帧类型等。新技术的使用是提高压缩率的重要原因，但是同时也给编码器带来了较高的计算复杂度。

在AVS2视频编码的帧内亮度预测中，以预测单元为基础进行预测编码，对每个预测单元都有33种预测模式(请参阅图1，其中0，1，2为非角度预测模式的索引，分别代表DC，Plane和Bilinear的预测模式，3-32为角度预测模式索引，箭头代表该角度预测模式的预测方向)，包括30种角度预测模式和3种非角度预测模式(DC，Plane和Bilinear)。每个预测单元都要从33种亮度预测模式中选中一种率失真代价最小的预测模式，在选择率失真代价最小的预测模式的过程中，针对每种预测模式都要进行变换，量化，反量化，反变换等操作，计算量巨大。在目前发布的标准中，采用了一种预筛选的方法，主要包括两个过程：(1)、粗略模式选择(RMD)，该过程中根据HSAD_pred+λ×bit_pred,从33种预测模式中选出9种最优的模式。(2)、精细模式选(RDO)，该过程中只对RMD选出的9种模式进行变换，量化，反量化，反变化等操作，进而选中率失真代价最小的最佳模式。

在AVS2视频编码标准中的RMD过程中引入了最有可能预测模式(MPMs:MostPossible Modes)概念，MPMs是来自左边与上边已编码单元的最佳预测模式。根据图像的空间相关性，相邻的区域通常具有相似的纹理结构，在编码的过程中通常会采用相同的预测模式，也就是说对于当前的预测单元来说，最佳的预测模式有较大的可能与MPMs相同或者与MPMs的预测方向相似。因此，MPMs对于当前的预测单元具有重要的参考价值，但是在标准中并没有得到充分的利用。

AVS2视频编码标准采用的帧内亮度预测模式选择方案可以有效的降低帧内编码的计算复杂度，但是依旧比较耗时，在实验中发现，RDO过程在全I帧编码器中要占用55％的编码时间，可见计算复杂度依旧较高。因此，有必要进一步提出更加有效的处理方案，本发明就针对该部分提出了一种帧内亮度预测模式的快速选择方法。

【发明内容】

本发明要解决的技术问题，在于提供一种帧内亮度预测模式的快速选择方法，是一种基于统计分析的快速模式选择方法，采用该方法能够在保证编码后图像质量的前提下，有效的减小进行RDO计算的模式数量，降低编码器的计算复杂度，提高编码效率。

本发明是这样实现上述技术问题的：

一种帧内亮度预测模式的快速选择方法，根据现有AVS2标准，对当前预测单元采用粗略模式选择RMD后，从33种预测模式中预筛选出9种模式，然后对所述预筛选的9种模式进行处理来减少进行精细模式选择RDO的数量，包括以下步骤：

步骤10、将现有的33种帧内亮度预测模式划分为复数个组，将其中3种非角度预测模式的划分为一组，将剩余的30种角度预测模式中相邻的模式平均或非平均的划分为复数个组；确定所述9种模式所在的组，并对所述9种模式在各个组内的分布情况进行统计；

步骤20、定位MPMs中的一种或者两种模式位于哪个组中；所述MPMs的定义是来自左边已编码单元的最佳预测模式和来自上边已编码单元的最佳预测模式；

步骤30、找出9种模式分布最多且与MPMs分布的组的预测方向最为接近的组；

步骤40、对所述最为接近的组的组内模式和所述9种模式求交集，交集内的模式会进行精细模式选择RDO；然后，对MPMs中的一种或者两种模式和所述9种模式求交集，交集内的模式会进行精细模式选择RDO；

步骤50、通过精细模式选择RDO计算，选出当前预测单元的最佳的预测模式。

本发明具有如下优点：

本发明先对33种角度预测模式进行分组，然后对经过粗略模式选择RMD选出的9种模式在各分组内的分布情况进行统计分析，接着再充分利用MPMs的特殊性和相邻预测模式具有大致相同的预测方向的特点，根据MPMs中的一种或者两种预测模式来查找与预测方向最为接近的组，并且只对选中的最为接近的组内的几种模式进行后续的RDO的计算过程，进而选出该预测单元的最佳预测模式。采用本发明帧内亮度预测模式快速选择方法，能够在保证编码后图像质量的前提下，有效减小进行RDO计算的模式数量，降低编码器的计算复杂度，提高编码效率。

【附图说明】

下面参照附图结合实施例对本发明作进一步的说明。

图1为现有技术中AVS2视频编码帧内两度预测模式的示意图。

图2为本发明的流程示意图。

图3为本发明嵌入到AVS2官方代码RD14.0以后得到关于码率和图像质量(峰值信噪比：PSNR)的曲线图，及AVS2官方默认算法方法的曲线图。

【具体实施方式】

请参阅图2和图3所示，对本发明的实施例进行详细的说明。

实施例一：

重点请参阅图2，一种帧内亮度预测模式的快速选择方法，根据现有AVS2标准，对当前预测单元采用粗略模式选择RMD后，从33种预测模式中预筛选出9种模式，然后对所述预筛选的9种模式进行处理来减少进行精细模式选择RDO的数量，包括以下步骤：

步骤10、将现有的33种帧内亮度预测模式划分为复数个组，将其中3种非角度预测模式的划分为一组，将剩余的30种角度预测模式中相邻的模式平均或非平均的划分为复数个组；确定所述9种模式所在的组，并对所述9种模式在各个组内的分布情况进行统计；

步骤20、定位MPMs中的一种或者两种模式位于哪个组中；所述MPMs包括来自左边已编码单元的最佳预测模式和来自上边已编码单元的最佳预测模式；

步骤30、找出9种模式分布最多且与MPMs分布的组的预测方向最为接近的组；

步骤40、对所述最为接近的组的组内模式和所述9种模式求交集，交集内的模式会进行精细模式选择RDO；然后，对MPMs中的一种或者两种模式和所述9种模式求交集，交集内的模式会进行精细模式选择RDO；

步骤50、通过精细模式选择RDO计算，选出当前预测单元的最佳的预测模式。

较佳的实施例二：

本实施将30种角度预测模式平均划分为6组；

步骤10：将3种非角度预测模式划分为一组，将组号命名为G0；对30种角度预测模式相邻的预测模式划分为一组的原则，平均划分为6组，每组内包含5种预测模式，且各组依次命名为G1、G2、G3、G4、G5、G6；所述33中预测模式一共分为7组，对所述预筛选的9种模式在所述7个组内的分布情况进行统计；在每个组内的统计个数依次记录为：μ(G0),μ(G1),…,μ(Gk),…,μ(G6)，同时找出其中的最大值，记录为μ_max；μ(G0)表示9种模式中位于G0组内的模式的数量，以此类推；

步骤20：定位MPMs中的两种模式分别位于所述7个组中的哪个组内，并记录，定义为Gs和Gt(s<＝t)，s和t表示组的编号；当s＝t时，说明MPMs中两种模式都位于同一组内；

步骤30具体为：从所述7个组中，找出所述预筛选的9种模式分布最多且与所述MPMs的两种模式所分布的组的预测方向最接近的组Gi，具体地：

根据公式得到所述9种模式在各组内分布最多且与MPMs最接近的组Gi，其中P＝{k|μ(Gk)＝μ_max}；

9种模式分布最多的组可能有多个，例如，分布在G1、G2、G3组内的模式均为3个，则G1、G2、G3均为分组最多的组，则l的取值为1、2、3；若s＝3，t＝4，则i＝3，即G3为最接近的组；

所述步骤40具体为：

排除选定的组Gi之外的所有模式，并把剩余的模式定义为RMD_re，所述RMD_re即33中预测模式中被划分入组Gi的预测模式；对于要进行精细模式选择RDO计算的候选模式列入候选模式列表RDO_list，最后根据μ_max的不同分为两种情况选定候选模式；

若μ_max＝5，此种情况表示经过RMD选出的9种模式其中5种都分布在Gi内，根据公式判断MPMs是否在Gi组内，若d＝0，说明MPMs中至少有一个模式位于该组内，此时只对位于Gi组内的模式索引为MPM-1，MPM和MPM+1的模式选定为候选模式，添加到候选模式列表RDO_list中，若d>0说明MPMs中的两个模式都不在该组内，此时满足条件(1):{s,t}<i，或条件(2):s<i<t且|i-s|<|i-t|之一的情况下，选中Gi组内模式索引较小的三个模式添加到候选模式列表RDO_list中，否则，选中Gi组内模式索引较大的三个模式添加到候选模式列表RDO_list中；

若μ_max≠5，则只把Gi组内的RMD_re模式添加到候选模式列表RDO_list中；之所以要把μ_max＝5的情况单独列出是因为，在μ_max＝5时，所在的组包含的模式仍然比较多，可以进行二次处理；但是，在μ_max≠5时，选出的最佳的组中包含的需要进行RDO计算的模式较少，可以直接对选出的最优组内的模式及RMD选出的9种模式的交集中的模式进行RDO计算；

最后，判断MPMs中的两种模式是否包含在RMD选出的9种模式中，并且对包含在9种模式中的模式添加到候选列表中，若不包含，则不添加；

步骤50、对候选列表RDO_list中的模式进行精细模式选择RDO计算，选出最佳的预测模式。

对本发明提出的帧内亮度预测模式的快速选择方法进行实验。在实验测试的过程采用的官方代码为RD14.0；量化参数(QP)设置为22、27、32和37；测试的视频序列采用了从416×240到3840×2160六个等级，且每个等级测试了两个不同的序列；由于本发明主要是针对帧内预测编码，所以在测试中编码器采用了全I帧配置。

表1

表1为实验所取得的测试效果。结合表1和图3，可以看出采用本发明的处理方法，不仅保证图像质量，还可以节省全I帧编码器29.37％的编码时间，有效的降低了编码器的计算复杂度。

较佳实施例三、

本实施例较实施例二的不同之处在于：本实施例将30中角度预测模式分为5组，每组包含中预测模式，具体实施过程如下：

所述步骤10具体为：将3种非角度预测模式划分为一组，将组号命名为G0；对30种角度预测模式相邻的预测模式划分为一组的原则，平均划分为5组，每组内包含6种预测模式，且各组依次命名为G1、G2、G3、G4、G5；所述33中预测模式一共分为6组，对所述预筛选的9种模式在所述6个组内的分布情况进行统计；在每个组内的统计个数依次记录为：μ(G0),μ(G1),…,μ(Gk),…,μ(G5)，同时找出其中的最大值，记录为μ_max；μ(G0)表示9种模式中位于G0组内的模式的数量，以此类推；

步骤20具体为：定位MPMs中的两种模式分别位于所述6个组中的哪个组内，并记录，定义为Gs和Gt(s<＝t)，s和t表示组的编号；

步骤30具体为：从所述6个组中，找出所述预筛选的9种模式分布最多且与所述MPMs的两种模式所分布的组的预测方向最接近的组Gi，具体地：

根据公式得到所述9种模式在各组内分布最多且与MPMs最接近的组Gi，其中P＝{k|μ(Gk)＝μ_max}；

所述步骤40具体为：

排除选定的组Gi之外的所有模式，并把剩余的模式定义为RMD_re，所述RMD_re即33中预测模式中被划分入组Gi的预测模式；对于要进行精细模式选择RDO计算的候选模式列入候选模式列表RDO_list，最后根据μ_max的不同分为两种情况选定候选模式；

若μ_max＝6，此种情况表示经过RMD选出的9种模式其中6种都分布在Gi内，根据公式判断MPMs是否在Gi组内，若d＝0，说明MPMs中至少有一个模式位于该组内，此时只对位于该组内的模式索引为MPM-1，MPM和MPM+1的模式选定为候选模式，添加到候选模式列表RDO_list中，若d>0说明MPMs中的两个模式都不在该组内，此时满足条件(1):{s,t}<i，或条件(2):s<i<t且|i-s|<|i-t|之一的情况下，选中Gi组内模式索引较小的三个模式添加到候选模式列表RDO_list中，否则选中Gi组内模式索引较大的三个模式添加到候选模式列表RDO_list中；

若μ_max≠6，则只把Gi组内的RMD_re模式添加到候选模式列表RDO_list中；

最后，判断MPMs中的两种模式是否包含在RMD选出的9种模式中，并且对包含在9种模式中的模式添加到候选列表中，若不包含，则不添加；

对于μ_max＝6这种情况，如果MPMs中的两种模式包含在RMD选出的9种模式中，则，则可能有3种或者4种或者5种模式。如果不包含，则，候选列表有只选中3种模式；

步骤50、对候选列表RDO_list中的模式进行精细模式选择RDO计算，选出最佳的预测模式。

本发明先对33种角度预测模式进行分组，然后对经过粗略模式选择RMD选出的9种模式在各分组内的分布情况进行统计分析，充分利用MPMs的特殊性和相邻预测模式具有大致相同的预测方向的特点，根据MPMs中的一种或者两种预测模式来查找与预测方向最为接近的组，并且只对选中的最为接近的组内的几种模式进行后续的RDO的计算过程，进而选出该预测单元的最佳预测模式。采用本发明帧内亮度预测模式快速选择方法，能够在保证编码后图像质量的前提下，有效减小进行RDO计算的模式数量，降低编码器的计算复杂度，提高编码效率。

虽然以上描述了本发明的具体实施方式，但是熟悉本技术领域的技术人员应当理解，我们所描述的具体的实施例只是说明性的，而不是用于对本发明的范围的限定，熟悉本领域的技术人员在依照本发明的精神所作的等效的修饰以及变化，都应当涵盖在本发明的权利要求所保护的范围内。

Claims (3)

1.一种帧内亮度预测模式的快速选择方法，其特征在于，根据现有AVS2标准，对当前预测单元采用粗略模式选择RMD后，从33种预测模式中预筛选出9种模式，然后对所述预筛选的9种模式进行处理来减少进行精细模式选择RDO的数量，包括以下步骤：

步骤10、将现有的33种帧内亮度预测模式划分为复数个组，将其中3种非角度预测模式的划分为一组，将剩余的30种角度预测模式中相邻的模式平均或非平均的划分为复数个组；确定所述9种模式所在的组，并对所述9种模式在各个组内的分布情况进行统计；

步骤20、定位MPMs中的一种或者两种模式位于哪个组中；所述MPMs的定义是来自左边已编码单元的最佳预测模式和来自上边已编码单元的最佳预测模式；

步骤30、找出9种模式分布最多且与MPMs分布的组的预测方向最为接近的组；

步骤40、对所述最为接近的组的组内模式和所述9种模式求交集，交集内的模式会进行精细模式选择RDO；然后，对MPMs中的一种或者两种模式和所述9种模式求交集，交集内的模式会进行精细模式选择RDO；

步骤50、通过精细模式选择RDO计算，选出当前预测单元的最佳的预测模式。

2.根据权利要求1所述的一种帧内亮度预测模式的快速选择方法，其特征在于：

所述步骤10具体为：将3种非角度预测模式划分为一组，将组号命名为G0；对30种角度预测模式按照相邻的预测模式划分为一组的原则，平均划分为6组，每组内包含5种预测模式，且各组依次命名为G1、G2、G3、G4、G5、G6；所述33中预测模式一共分为7组，对所述预筛选的9种模式在所述7个组内的分布情况进行统计；在每个组内的统计个数依次记录为：μ(G0),μ(G1),…,μ(Gk),…,μ(G6)，同时找出其中的最大值，记录为μ_max；μ(G0)表示9种模式中位于G0组内的模式的数量，以此类推；

步骤20具体为：定位MPMs中的两种模式分别位于所述7个组中的哪个组内，并记录，定义为Gs和Gt(s<＝t)，s和t表示组的编号；

步骤30具体为：从所述7个组中，找出所述预筛选的9种模式分布最多且与所述MPMs的两种模式所分布的组的预测方向最接近的组Gi，具体地：

根据公式得到所述9种模式在各组内分布最多且与MPMs最接近的组Gi，其中P＝{k|μ(Gk)＝μ_max}；

所述步骤40具体为：

排除选定的组Gi之外的所有模式，并把剩余的模式定义为RMD_re，所述RMD_re即33中预测模式中被划分入组Gi的预测模式；对于要进行精细模式选择RDO计算的候选模式列入候选模式列表RDO_list，最后根据μ_max的不同分为两种情况选定候选模式；

若μ_max＝5，此种情况表示经过RMD选出的9种模式其中5种都分布在Gi内，根据公式判断MPMs是否在Gi组内，若d＝0，说明MPMs中至少有一个模式位于该组内，此时只对位于该组内的模式索引为MPM-1，MPM和MPM+1的模式选定为候选模式，添加到候选模式列表RDO_list中，若d>0说明MPMs中的两个模式都不在该组内，此时满足条件(1):{s,t}<i，或条件(2):s<i<t且|i-s|<|i-t|之一的情况下，选中Gi组内模式索引较小的三个模式添加到候选模式列表RDO_list中，否则选中Gi组内模式索引较大的三个模式添加到候选模式列表RDO_list中；

若μ_max≠5，则只把Gi组内的RMD_re模式添加到候选模式列表RDO_list中；

最后，判断MPMs中的两种模式是否包含在RMD选出的9种模式中，并且对包含在9种模式中的模式添加到候选列表中，若不包含，则不添加；

步骤50、对候选列表RDO_list中的模式进行精细模式选择RDO计算，选出最佳的预测模式。

3.根据权利要求1所述的一种帧内亮度预测模式的快速选择方法，其特征在于：

所述步骤10具体为：将3种非角度预测模式划分为一组，将组号命名为G0；对30种角度预测模式按照相邻的预测模式划分为一组的原则，平均划分为5组，每组内包含6种预测模式，且各组依次命名为G1、G2、G3、G4、G5；所述33中预测模式一共分为6组，对所述预筛选的9种模式在所述6个组内的分布情况进行统计；在每个组内的统计个数依次记录为：μ(G0),μ(G1),…,μ(Gk),…,μ(G5)，同时找出其中的最大值，记录为μ_max；μ(G0)表示9种模式中位于G0组内的模式的数量，以此类推；

步骤20具体为：定位MPMs中的两种模式分别位于所述6个组中的哪个组内，并记录，定义为Gs和Gt(s<＝t)，s和t表示组的编号；

步骤30具体为：从所述6个组中，找出所述预筛选的9种模式分布最多且与所述MPMs的两种模式所分布的组的预测方向最接近的组Gi，具体地：

根据公式得到所述9种模式在各组内分布最多且与MPMs最接近的组Gi，其中P＝{k|μ(Gk)＝μ_max}；

所述步骤40具体为：

排除选定的组Gi之外的所有模式，并把剩余的模式定义为RMD_re，所述RMD_re即33中预测模式中被划分入组Gi的预测模式；对于要进行精细模式选择RDO计算的候选模式列入候选模式列表RDO_list，最后根据μ_max的不同分为两种情况选定候选模式；

若μ_max＝6，此种情况表示经过RMD选出的9种模式其中6种都分布在Gi内，根据公式判断MPMs是否在Gi组内，若d＝0，说明MPMs中至少有一个模式位于该组内，此时只对位于该组内的模式索引为MPM-1，MPM和MPM+1的模式选定为候选模式，添加到候选模式列表RDO_list中，若d>0说明MPMs中的两个模式都不在该组内，此时满足条件(1):{s,t}<i，或条件(2):s<i<t且|i-s|<|i-t|之一的情况下，选中Gi组内模式索引较小的三个模式添加到候选模式列表RDO_list中，否则选中Gi组内模式索引较大的三个模式添加到候选模式列表RDO_list中；

若μ_max≠6，则只把Gi组内的RMD_re模式添加到候选模式列表RDO_list中；

最后，判断MPMs中的两种模式是否包含在RMD选出的9种模式中，并且对包含在9种模式中的模式添加到候选列表中，若不包含，则不添加；

步骤50、对候选列表RDO_list中的模式进行精细模式选择RDO计算，选出最佳的预测模式。