CN102843559A

CN102843559A - 基于纹理特性的hevc帧内预测模式的快速选择方法及装置

Info

Publication number: CN102843559A
Application number: CN2012103378319A
Authority: CN
Inventors: 刘振宇; 陈�光; 汪东升
Original assignee: Tsinghua University
Current assignee: Tsinghua University
Priority date: 2012-09-12
Filing date: 2012-09-12
Publication date: 2012-12-26
Anticipated expiration: 2032-09-12
Also published as: CN102843559B

Abstract

本发明提供了一种基于纹理特性的HEVC帧内预测模式的快速选择方法及装置，通过确定待预测单元PU的边缘纹理图中每个元素的纹理幅值及纹理方向，生成纹理方向统计直方图，进而对所述PU的强纹理方向进行判定，当所述PU具有强纹理方向且与任一邻接块的预测模式方向匹配时，则将所述强纹理方向作为最终预测模式方向。本发明在保证编码质量的前提下，减少了搜索次数，有效降低模式选择的计算时间，显著提高模式选择速度。

Description

基于纹理特性的HEVC帧内预测模式的快速选择方法及装置

技术领域

本发明涉及视频编解码技术领域，特别涉及一种基于纹理特性的HEVC帧内预测模式的快速选择方法及装置。

背景技术

HEVC（High Efficiency Video Coding）协议旨在提供一种比当前H.264协议压缩率更高且计算复杂度没有显著增加的高分辨率视频编解码技术。HEVC提出了三种更加高效和富有弹性的视频内容表示单元，包括：编码单元（coding unit，CU）,预测单元（prediction unit，PU）,以及传输单元（transform unit，TU）。其中PU具有最小4×4，最大64×64五种尺寸。为了适应PU单元的变化以及提高预测的准确度，HEVC引入了帧内预测方法（Arbitrary Direction Intra，ADI）。该方法定义了多达35种的帧内预测模式，并以率失真优化（rate-distortionoptimization，RDO）为准则对35种模式进行搜索，从而确定唯一的最优预测模式。由于RDO的计算非常耗时，直接对全部的35种预测模式进行RDO筛选在实现上并不可行。因此，HEVC设计了一种“先粗选后细选（Rough-to-Fine）”的模式选择方案，方案的流程如图1。

ADI初始化根据当前PU的大小，确定当前搜索的预测模式数为35（Size>8×8）或18(Size<=8×8)。模式粗选（Rough mode decision）使用计算量相对较小的哈达马变换，计算每种预测模式的残差变换绝对值（Sum of absolute transformed differences，SATD），从中筛选出若干具有最小SATD值的候选模式。之后对生成的候选模式进行RDO细选(RDO mode decision)，计算每个候选模式的RDO，最终确定唯一的预测方向模式。该方案的主要特点是具有较高的编码质量。可是统计结果表明，采用“先粗选后细选”筛选策略后，在HEVC推荐的高性能模式配置和低复杂度模式配置下，帧内预测的模式选择依然分别占用整个编码过程78%和62%的处理时间。

可以看出，过多的模式搜索量是使得模式选择成为整个编码系统的效率瓶颈的主要原因。因此，提高编码效率的根本在于在保证编码质量的前提下，尽可能地减少需要搜索的模式方向个数。

发明内容

（一）解决的技术问题

过多的模式搜索量使得整个编码系统的模式选择效率低下的问题。

（二）技术方案

一种基于纹理特性的HEVC帧内预测模式的快速选择方法，所述方法包括：

A：确定待预测单元PU的边缘纹理图中每个元素的幅值及方向；

B：对方向进行统计，生成纹理方向统计直方图；

C：对所述PU的强纹理方向进行判定，当所述PU具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式；

所述强纹理方向为所述PU在任一方向上的幅值能量与所述纹理方向统计直方图中所有方向总幅值的总能量的比值大于预设阈值时的方向。

优选地，步骤A中利用最大匹配法确定所述边缘纹理图中每个元素的方向，所述最大匹配法为用定点运算完成所述方向与预测模式方向之间匹配度的运算。

优选地，所述方法进一步包括：当所述PU包含n×n像素，则可得到大小为m×m的幅值表；其中，m=n-1。

优选地，步骤B具体包括：将所述边缘纹理图中所有方向一致的元素的幅值进行累加，通过比较各个方向的累加值，生成纹理方向统计直方图。

优选地，所述累加值最大的纹理方向为纹理主方向；

生成纹理方向统计直方图时采用相邻方向加权投票机制；

所述相邻方向加权投票机制为边缘纹理图中的每个元素将自身幅值向纹理主方向投票的同时，将幅值与加权系数的乘积值投票给纹理主方向的相邻方向。

优选地，在步骤C中，

当判定不存在所述强纹理方向或者当所述PU具有强纹理方向但与任一相邻块的预测模式方向不匹配时，则确定最小搜索方向集合。

优选地，

当纹理方向统计直方图中非零值少于最小搜索方向个数时，则舍弃零值方向，从而得到非零值的模式；

对非零值的模式计算SATD值并进行筛选，得到具有最小SATD值的候选模式。

优选地，当次小SATD值与最小SATD值的比值超过预定阈值时，则所述最小SATD值对应的模式为最终预测模式。

优选地，若次小SATD值与最小SATD值的比值未超过预定阈值，则对所述候选模式进行RDO计算，从而得到最终预测模式。

一种基于纹理特性的HEVC帧内预测模式的快速选择装置，所述装置包括：

纹理幅值计算与方向判定模块，用于计算待预测单元PU的边缘纹理图中每个元素的幅值和判定所述PU的边缘纹理图中每个元素的方向；

纹理方向统计直方图生成模块，用于根据对所述方向进行统计，生成纹理方向统计直方图；

强纹理方向判定模块，用于判定所述PU是否具有强纹理方向和所述强纹理方向是否与任一相邻块的预测模式方向匹配；

当所述PU具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式；

（三）有益效果

本发明通过考察待预测单元的纹理方向分布特征，从全部的待搜索方向集合中筛选出最有可能的一个或几个模式方向，在保证编码质量的前提下，减少了搜索次数，有效降低模式选择的计算时间，显著提高模式选择速度。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为HEVC帧内预测流程图；

图2为本发明提供的基于纹理特征的快速模式选择算法流程图；

图3为本发明提供的纹理幅值计算与方向判定流程图；

图4为本发明提供的纹理方向统计流程图；

图5为本发明提供的强纹理方向判定流程图；

图6为本发明提供的生成最小搜索方向集合流程图；

图7为本发明提供的PU像素与纹理表元素之间的对应关系图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。

实施例1

本发明提出了一种基于纹理特性的HEVC帧内预测模式的快速选择方法，所述方法包括：

B：对方向进行统计，生成纹理方向统计直方图；

优选地，所述累加值最大的纹理方向为纹理主方向；

生成纹理方向统计直方图时采用相邻方向加权投票机制；

优选地，在步骤C中，

优选地，

实施例2

本发明还提出一种更为具体地基于纹理特性的HEVC帧内预测模式的快速选择方法，其算法实现的总体流程如图2。具体包括：纹理幅值计算与方向判定、纹理方向统计直方图生成，强纹理方向判定，生成最小搜索方向集合，以及基于SATD值的模式舍弃等子过程。这些过程能够直接嵌入HEVC原有帧内预测处理流程，不需要改动协议原有的粗选与细选等标准过程的程序代码。算法采用2×2滤波器计算待预测块的边缘纹理图，下面对算法各个子过程的细节进行说明。

纹理幅值计算与方向判定

该过程输入包含n×n像素的PU，全部的像素以相邻的4个像素为顶点，构成m×m（m=n-1）个最小正方形，对每个正方形按照文献[1]给出方法，计算当前正方形对应的边缘梯度向量G和幅值Amp，从而得到当前PU的幅值表，记为Amp[1：m×m]。即幅值表中的第(i,j)个元素对应第(i,j)个最小正方形，之后的表述遵循此对应关系。

对幅值表中的每个元素进行最大匹配判定，并将判定出的模式方向存储在纹理方向表Dir35[1：m×m]中。由于HEVC标准协议规定，当PU的大小为4×4时，预测方向只有18种，在此情况下，纹理方向表只需要对这18种方向进行记录，记为Dir18[1：m×m]。生成幅值表和纹理方向表中第(i,j)个元素的流程如图3，包括以下步骤：

1.根据公式（1）分别计算X、Y方向上的幅值分量D_x(i，j)及D_y(i，j)。

2.根据公式（1）计算Amp(i，j)。

3.根据公式（3）计算17种匹配值D。

4.根据公式（4）、（5）、（6）确定当前元素在33个方向上的匹配值D_i。

5.PU的大小为4×4时，查找协议规定的18种预测方向中的最大匹配值，确定当前元素的模式方向，写入Dir18(i，j)。

PU的大小大于4×4时，查找协议规定的35种预测方向中的最大匹配值，确定当前元素的模式方向，写入Dir35(i，j)。

纹理方向统计

纹理方向统计是将所有模式方向一致的元素的幅值进行累加，通过比较各个方向的累加值，生成预测方向统计直方图，从而确定当前PU的预测方向。其中累加值最大的为纹理主方向。生成纹理方向统计直方图时采用相邻方向加权投票机制，边缘纹理图中的每个元素不仅向最大匹配法检测到的主方向投票自己的幅值，同时将幅值乘以加权系数，投票给主方向的相邻方向。本发明给出加权系数经验值为0.5。

定义纹理方向统计直方图为H[35]，该过程的循环结构如图4所示。纹理表第(i，j)个元素对所属Dir方向以相邻方向加权方式进行幅值投票的实现步骤如下：

6.如果PU大于4×4，投票方向编号Idx_main=Dir35(i，j)，否则Idx_main=Dir18(i，j)。

7.按照ADI定义的模式方向顺序，确定主方向的邻居方向Idx_nbr。

8.对主方向进行幅值投票：H[Idx_main]=H[Idx_main]+Amp(i，j)。

9.以0.5为加权值，向相邻方向加权投票H[Idx_nbr]=H[Idx_nbr]+Amp(i，j)×0.5。

强纹理方向判定

定义总幅值能量为TotalAmp，定义当前PU的强纹理方向编号为Idx_strong。当前PU上方邻接块的预测模式方向编号为Idx_Above，左侧邻接块的预测模式方向编号为Idx_Left。如果当前PU在某一方向的幅值投票值占总幅度值的比值超过预设的阀值，定义该方向为强纹理方向。假设当前方向编号为i，如果当前方向上的幅值能量占总能量的比例超过预定阈值，即进入强纹理方向处理流程，如图5。

10．当PU尺寸大于8×8时，经验阈值为0.25，如果H[i]>0.25×Total_Amp，令Idx_strong=i，否则进入生成最小搜索方向集合过程。

11.当PU尺寸小于8×8时，经验阈值为0.125，如果H[i]>0.125×Total_Amp，令Idx_strong=i，否则进入生成最小搜索方向集合过程。

12.如果强纹理方向存在，且满足(Idx_strong==Idx_Above)&&(Idx_strong<18)或(Idx_strong==Idx_Left)&&(Idx_strong≥18)，则将Idx_strong确定为最终的模式方向，并直接进入最后的RDO预测方向模式过程。

13.否则进入最小搜索方向集合生成过程。

生成最小搜索方向集合

定义Ref[0：34]为最小搜索方向集合。Ref[i](0≤i≤34)为1时，表示方向编号为i的模式在最小搜索集合中。粗选过程将只对Ref[0：34]中为1的方向模式进行搜索。HEVC协议要求搜索方向中总是包含DC与Planar模式，因此Ref[0]和Ref[3]初始值总是1，其他方向初始值为0。定义最小搜索方向的个数Num_min，如果PU>8×8，Num_min初始值等于4，否则为8。当方向统计直方图H[0：34]中非零值少于Num_min时，算法会降低Num_min的取值以进一步减少搜索方向个数。具体流程如图6。

14.去除DC与Planar模式后，按照幅值大小降序排列H[0：34]的索引，得到DEC_Idx[0：32]。

15.令s=0，t=0，遍历DEC_Idx[0：32]。

16.如果t<Num_min-2，且H[DEC_Idx[s]]≠0，则将Ref[0：34]中由DEC_Idx[s]及其相邻方向指定的数组位，置1。同时s，t均加1

17.如果t<Num_min-2，且H[DEC_Idx[s]]=0，则终止遍历。更新Num_min=s+2。

18.如果t>Num_min-2结束遍历。

基于SATD值的模式舍弃

粗选过程通过计算SATD筛选出若干候选模式，细选过程对这些模式进行RDO计算从而确定最终的预测模式，其中，细选过程为HEVC协议的标准过程。本算法通过考察SATD值，在次小SATD_sub与最小SATD_min的比值超过预定阈值时，直接跳过细选过程并确定最终的模式。具体流程为：

19.给定经验阈值为0.125，如果SATD_sub>0.125*SATD_min，则将SATD_min对应的方向模式确定为最终选择模式，并跳过细选过程。

20.否则，进入细选过程。