CN101212665A

CN101212665A - 一种环路滤波方法

Info

Publication number: CN101212665A
Application number: CN 200710116362
Authority: CN
Inventors: 刘微; 焦梅
Original assignee: Hisense Group Co Ltd
Current assignee: Hisense Group Co Ltd
Priority date: 2007-12-25
Filing date: 2007-12-25
Publication date: 2008-07-02
Anticipated expiration: 2027-12-25
Also published as: CN101212665B

Abstract

本发明公开了一种环路滤波方法，其通过计算当前边界的至少一行/列样本的边界平滑度，并根据该边界平滑度与阈值平滑度的关系得到对应的滤波强度值。本发明通过计算一行/列或几行/列的边界平滑度，并根据该边界强度得到对应的滤波强度值，省却了对当前边界重复8次的阈值判断和计算，并且也避免了通过运动矢量和宏块类型对滤波强度的计算，因而减少了环路滤波的计算量，加快了环路滤波的速度，提高了实时性。

Description

一种环路滤波方法

技术领域

本发明涉及视频处理领域，尤其涉及一种环路滤波方法。

背景技术

视频编解码标准AVS(Audio Video coding Standard，数字音视频编解码标准)、H.264都采用基于宏块的编码框架，即将输入视频分割成宏块，对宏块进行预测、运动估计、变换、量化、熵编码等。由于进行了分块，因而不可避免的会导致块效应，于是引入了环路滤波技术。

除图像边界及条带的边界之外，宏块的所有块边界都应进行滤波。此处宏块边界定义为宏块内部各个8×8块的边界。

环路滤波以宏块为单位，图像中每个宏块的滤波过程如下：

对于AVS标准来说，对亮度和色度分别做环路滤波。如图1所示，对于一个宏块的16×16亮度块来说，其内部包含①、②、③、④四个8×8块，标准环路滤波方法首先从左到右对垂直边界1和2依次进行滤波，然后从上到下对水平边界3和4依次进行滤波；对于一个宏块的8×8色度块来说，标准环路滤波方法首先对垂直边界5滤波，然后对水平边界6滤波。当前宏块的环路滤波的输入为图像未进行滤波的样本值，当前宏块环路滤波会修改这些样本值。当前宏块垂直边界滤波过程中修改的样本值作为水平边界滤波过程的输入。

如上所述，在编解码过程中，为解决边界效应和块效应问题，必须进行环路滤波。在标准的环路滤波算法中，其对一个8×8块边界的滤波过程为：首先根据宏块类型以及宏块中8×8亮度块的运动矢量得到当前边界的滤波强度值，再根据该滤波强度值对当前边界两侧的第一行/列样本进行阈值判断以确定是否需要滤波，若需要则进一步通过两个阈值判断步骤确定滤波的程度和范围，最后再进行滤波操作。

因此，在上述过程中，对于当前边界的滤波强度的计算耗费许多滤波时间；并且，对于当前边界来说其还要重复执行8次上述对第一行/列所进行的一系列判断操作，因此，其计算量也是很大的，也耗费了大量的滤波时间；这些原因便导致了解码端的实时性较差。

发明内容

本发明所要解决的技术问题在于提供一种快速的环路滤波算法。

为了解决上述技术问题，本发明提出了一种环路滤波方法，其通过计算当前边界的至少一行/列样本的边界平滑度，并根据该边界平滑度与阈值平滑度的关系得到对应的滤波强度值。

其中，得到滤波强度值之后，根据所述滤波强度值对当前边界进行滤波。

另外，在通过边界平滑度得到滤波强度值之前，还包括以下步骤：

a0、判断当前宏块的块效应是否明显，若明显则继续执行。

其中，在所述步骤a0中，若当前边界满足下述3个条件中的至少一个，则认为块效应不明显，否则认为明显：

con1、当前帧为B帧或P帧，并且当前边界为当前宏块的内部边界，且当前宏块亮度的宏块编码模板的值为0；

con2、当前帧为B帧或P帧，并且当前边界为两个宏块之间的边界，且所述两个宏块亮度的宏块编码模板的值都为0；

con3、当前帧为B帧或P帧，并且当前边界为两个宏块之间的边界，所述两个宏块的参考帧相同，且所述两个宏块的运动矢量的差小于一个像素点。

具体的，所述边界平滑度通过以下方法得到：

判断紧邻当前边界的一对样本的差的绝对值是否小于第一阈值，若是，则取值1，否则，取值0；

判断紧邻当前边界的一侧和次紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断次紧邻当前边界的所述侧和倒数第三紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断紧邻当前边界的另一侧和次紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断次紧邻当前边界的所述另一侧和倒数第三紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

上述五个判断所取值的和为所述边界平滑度；

并且，所述边界平滑度与所述滤波强度值的对应关系为：

若边界平滑度大于第一阈值平滑度，则滤波强度值为2；

若边界平滑度位于第一阈值平滑度和第二阈值平滑度之间，则滤波强度值为1；

若边界平滑度小于第二阈值平滑度，则滤波强度值为0。

其中，在根据滤波强度值对当前边界进行滤波的步骤中，

当所述滤波强度值为2时，对紧邻当前边界两侧的样本按所述视频标准中定义的方式进行滤波；

当所述滤波强度值为1时，对于亮度块来说，对紧邻和次紧邻当前边界两侧的样本按所述视频标准中定义的方式进行滤波；对于色度块来说，对紧邻当前边界两侧的样本按所述视频标准中定义的方式进行滤波；

当所述滤波强度值为0时，则不进行滤波。

优选的，其选取当前边界中的第一行/列或最后一行/列进行计算得到边界平滑度；或者，选取当前边界的任意一行/列进行计算得到边界平滑度。

优选的，其选取当前边界的第一行/列或最后一行/列进行计算得到边界平滑度。

其中，当所述滤波强度值为2时，所采用的环路滤波公式为：

紧邻当前边界一侧样本的滤波后的值＝(该样本的两倍+次紧邻当前边界所述一侧+紧邻当前边界另一侧的样本+2)/4。

优选的，当计算多于一行/列样本的边界平滑度时，将该多行/列样本的边界平滑度的平均值作为最终用于得到滤波强度值的边界平滑度。

本发明通过计算一行/列或几行/列的边界平滑度，并根据该边界强度得到对应的滤波强度值，省却了对当前边界重复8次的阈值判断和计算，并且也避免了通过运动矢量和宏块类型对滤波强度的计算，因而减少环路滤波的计算量，加快了环路滤波的速度，提高了实时性。特别是，当仅通过计算一行/列的边界平滑度来得到滤波强度值时更能大幅度的节省滤波时间，加快环路滤波的速度，提高实时性。

附图说明

图1是一个宏块的亮度和色度边界分布的一个实施例的示意图；

图2是基于图1所示宏块的一个8×8块边界结构的一个实施例的示意图；

图3是基于图2的本发明一种环路滤波方法的一个实施例的流程图。

具体实施方式

首先，对现有技术中环路滤波的方法进行描述。

参考图1，图示了一个宏块的亮度和色度边界分布的一个实施例的示意图。如图所示，该宏块包括4个8×8亮度块，分别是①、②、③、④；该四个亮度块包括两个垂直边界1和2(图中实线部分)，两个水平边界3和4(图中虚线部分)；其中，2表示一整个垂直边界，而7表示2的一部分(在本实施例中为2的一半)。该宏块还包括一个8×8色度块(图中仅示出一个，对于不同的格式8×8色度块的数量也不同)，其包括垂直边界5和水平边界6。

图1中四个亮度块和一个色度块的最右边的点线边界为所述宏块右边的宏块(图未示)的对应亮度和色度的左边界，最下边的点线为所述宏块下边的宏块(图未示)的对应亮度和色度的上边界，因此，所述两个点线边界为其它宏块的边界，可以类比于图1所示宏块，在此不对其说明。

参考图2，图示了基于图1所示宏块的一个8×8块边界结构的一个实施例的示意图。如图所示，实际上本实施例是将图1中垂直边界7及其两侧的各三列样本进行放大后的示意图，由于①、②均是8×8块，因此，边界7两侧的各三列样本每列均包括8行，另外由于对于边界7的滤波不涉及其两侧各三列样本以外的数据，所以，在图2中仅示出其两侧的各三列样本。

需要说明的是，本具体实施方式中用小写字母p、q表示未进行滤波前的样本值，用大写字母P、Q对应表示滤波后的样本值。

现有技术中，对边界7的滤波过程如下，参考图2，以AVS标准为例：

首先，对于第一行样本21判断下述四个条件是否全部成立：

1)、Bs≠0；

2)、Abs(p(0，0)-q(0，0))＜α；

3)、Abs(p(0，1)-p(0，0))＜β；

4)、Abs(q(0，1)-q(0，0))＜β；

本具体实施方式中，α、β均为AVS标准中所定义的块边界阈值，其值可以参考AVS标准中的解释；Abs为求绝对值函数；Bs为滤波强度；“＞＞”表示右移操作，其后值为右移操作次数。

如果上述4个条件均成立，则当Bs＝2时，对下述2个条件进行判断：

5)、Abs(p(0，2)-p(0，0))＜β；

6)、Abs(p(0，0)-q(0，0)＜((α＞＞2)+2)；

如果上述5)、6)条件全部成立，则执行下述滤波过程，执行完毕后进行后续判断：

P(0，0)＝(p(0，1)+2×p(0，0)+q(0，0)+2)＞＞2

P(0，1)＝(2×p(0，1)+p(0，0)+q(0，0)+2)＞＞2

如果上述5)、6)条件不全部成立，则执行下述滤波过程，执行完毕后进行后续判断：

P(0，0)＝(2×p(0，1)+p(0，0)+q(0，0)+2)＞＞2

判断下述两个条件是否全部成立：

7)、Abs(q(0，2)-q(0，0))＜β；

8)、Abs(q(0，0)-q(0，0)＜((α＞＞2)+2)；

如果上述7)、8)条件全部成立，则执行下述滤波过程：

Q(0，0)＝(q(0，1)+2×q(0，0)+p(0，0)+2)＞＞2

Q(0，1)＝(2×q(0，1)+q(0，0)+p(0，0)+2)＞＞2

如果上述7)、8)条件不能全部成立，则执行下述滤波过程：

Q(0，0)＝(2×q(0，1)+q(0，0)+p(0，0)+2)＞＞2

当1)、2)、3)、4)四个条件均成立，且Bs＝1时，执行下述滤波过程：

delta＝Clip3(-C，C，((q(0，0)-p(0，0)×3+(p(0，1)-q(0，1))+4)＞＞3))

P(0，0)＝Clip1(p(0，0)+delta)

Q(0，0)＝Clip1(q(0，0)-delta)

随后，判断是否需要对p(0，1)、q(0，1)进行滤波：

情况1：如果当前边界为色度边界，则不对p(0，1)、q(0，1)进行滤波；(本实施例不属于这种情况)

情况2：如果在亮度边界处有Abs(p(0，2)-p(0，0))＜β，则对p(0，1)进行滤波，滤波后的值为：

P(0，1)＝Clip1(p(0，1)+Clip3(-C，C，(((P(0，0)-p(0，1))×3+(p(0，2)-Q(0，0))+4)＞＞3)))

情况3：如果在亮度边界处有Abs(q(0，2)-q(0，0))＜β，则对q(0，1)进行滤波，滤波后的值为：

Q(0，1)＝Clip1(q(0，1)-Clip3(-C，C，(((q(0.1)-Q(0，0))×3+(P(0，0)-q(0，2))+4)＞＞3)))

至此，对于第一行样本21的滤波过程结束，重复上述过程对剩余7行数据进行滤波操作。

需要说明的是，上述delta、Clip1、Clip3、C(滤波裁减参数)均为AVS标准中所定义的内容，其具体解释可以参考AVS国家标准。另外，若上述对现有技术的描述有误，也以AVS国家标准内容为准。

通过以上介绍可以看出，在对图2所示第一行样本21进行滤波过程中进行了3次判断，分别是对条件1)、2)、3)、4)的判断、对条件5)、6)的判断、对条件7)、8)的判断；那么滤波完毕边界7则需要3×8＝24次判断，这种频繁的判断将会占用较多的滤波时间，在滤波剩余时间有限的情况，解码器很难实现实时性操作。另外，由于所述Bs值的获得均是根据

下面结合附图对本发明进行详细阐述。

首先，简要描述本发明原理。为了与上文背景技术形成对比，同样以AVS视频标准为例，但是本发明并不限于AVS标准，由于环路滤波同样应用于H.264、MPEG-4(Moving Pictures Experts Group-4，动态图象专家组标准第4版)等视频标准中，因此，本发明所述方法同样可以应用于H.264、MPEG-4等视频标准的环路滤波中。

本发明通过计算当前边界的某一行/列的边界平滑度，或者多行/列的边界平滑度的平均值，并根据最终得到边界平滑度得到对应的滤波强度值，并将该值作为当前边界的所有行/列的滤波强度值并进行滤波。这样一来，大大节省了许多重复的条件判断的时间，也节省了根据宏块类型及运动矢量计算滤波强度的时间，从而减少了整个环路滤波的耗时，提高了系统的实时性。并且，实验结果证明采用本方案仅使得这个图像的信噪比下降0.0xdb，人眼的宏观观察并不能察觉到这种微小的变化。

参考图3，图示了基于图2的本发明一种环路滤波方法的一个实施例的流程图。本实施例仍然以边界7的环路滤波为例进行描述，如图所示，包括以下步骤：

S31，判断当前宏块的块效应是否明显，若是则执行步骤S32，否则执行步骤S36。在这里，所述是否明显的标准为AVS视频环路滤波研究领域的公认的说法，其可以通过判断一下三个条件是否成立实现：

con1、当前帧为B帧或P帧，并且当前边界为当前宏块的内部边界，且当前宏块亮度的cbp值为0；

con2、当前帧为B帧或P帧，并且当前边界为两个宏块之间的边界，且所述两个宏块亮度的cbp值都为0；

其中，cbp为宏块编码模板，其含义在AVS标准中有定义，在此不进行详细解释。

如果当前边界满足上述三个条件中的任何一个，则认为块效应不明显，否则认为块效应明显；块效应明显就表示当前边界需要后续的滤波过程，否则就不需要滤波；

S32，计算当前边界的第一行的边界平滑度。即，对于图2所示实施例来说，则是计算边界7的第一行21的边界平滑度。具体的计算方法的一个实施例为：

num＝(abs(P(0，0)-Q(0，0))＜T1)？1：0+(abs(P(0，1)-P(0，0))＜T2)？1：0+(abs(P(0，2)-P(0，1))＜T2)？1：0+(abs(Q(0，1)-Q(0，0))＜T2)？1：0+(abs(Q(0，2)-Q(0，1))＜T2)？1：0

其中，num表示边界平滑度；T1为第一阈值，其可以在((α＞＞3)+2)～((α＞＞1)+2)之间取值，优选的可以取(α＞＞3)+2；T2为第二阈值，其可以在(β+2)/5～(β+2)/3之间取值，优选的可以取(β+2)/4；“？”为问号表达式，对于S？U：V式来说，若S成立，则该式的值为U，否则为V；α、β、abs的含义与前述背景技术中相同；

abs(P(0，0)-Q(0，0))＜T1)？1：0含义为：判断紧邻当前边界的一对样本的差的绝对值是否小于第一阈值，若是，则取值1，否则，取值0；

abs(P(0，1)-P(0，0))＜T2)？1：0含义为：判断紧邻当前边界的一侧和次紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

abs(P(0，2)-P(0，1))＜T2？1：0含义为：判断次紧邻当前边界的所述侧和倒数第三紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

abs(Q(0，1)-Q(0，0))＜T2)？1：0含义为：判断紧邻当前边界的另一侧和次紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

abs(Q(0，2)-Q(0，1))＜T2)？1：0含义为：判断次紧邻当前边界的所述另一侧和倒数第三紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

S33，根据边界平滑度与阈值平滑度的关系对应得到当前边界的滤波强度值。即，通过S32得到num后再将num与阈值平滑度比较，根据num所在的范围来确定滤波强度Bs的值。其得到Bs的一个实施例如下：

若num≥Th1，则Bs＝2；

若Th2≤num＜Th1，则Bs＝1；

若num＜Th2，则Bs＝0；

其中，Th1为第一阈值平滑度，其值可以取3、4或5，优选的可以取4；Th2为第二阈值平滑度，其值可以取1或2，优选的可以取2；另外，对于num等于边界值的情况，这时num即可以事先约定属于哪个区间(例如上述实施例)，也可以是随机的；

S34，判断Bs是否为0，若是，则执行步骤S36，否则窒息观念步骤S35。这里Bs为通过步骤S33得到的Bs值；

S35，根据所述滤波强度值对当前边界进行滤波。即，在得到Bs值以后，便可以按照AVS标准所定义的标准环路滤波方法对当前边界进行滤波，也可以使用其它任何改进的方法对当前边界进行环路滤波。在本发明的一个实施例中，本步骤进行环路滤波的方法为(以对第一行样本21为例进行说明，对于其它行可以类比得到)：

当Bs为2时，

P(0，0)＝(p(0，1)+2×p(0，0)+q(0，0)+2)＞＞2；

Q(0，0)＝(q(0，1)+2×q(0，0)+p(0，0)+2)＞＞2；

当Bs为1时，若当前边界为亮度边界，则：

delta＝Clip3(-C，C，((q(0，0)-p(0，0)×3+(p(0，1)-q(0，1))+4)＞＞3))

P(0，0)＝Clip1(p(0，0)+delta)

Q(0，0)＝Clip1(q(0，0)-delta)

若当前边界为色度边界，则：

delta＝Clip3(-C，C，((q(0，0)-p(0，0)×3+(p(0，1)-q(0，1))+4)＞＞3))

P(0，0)＝Clip1(p(0，0)+delta)

Q(0，0)＝Clip1(q(0，0)-delta)

需要说明的是，上述delta、Clip1、Clip3、C(滤波裁减参数)均为AVS标准中所定义的内容，其具体解释可以参考AVS国家标准。

S36，判断当前宏块是否滤波完毕，若是，则执行步骤S38，否则执行步骤S37。本步骤的作用是判断当前宏块的所有边界是否全部滤波完毕，若没有，则对下一个边界进行滤波，否则就结束对当前宏块的滤波；

S37，取下一个边界。即，取当前宏块中还未进行滤波操作的边界进行滤波；本步骤结束后执行步骤S32；

S38，结束。即，当前宏块滤波结束。

图3所示实施例仅阐述了对一个宏块进行滤波的过程，循环进行所述过程即可完成对所有宏块的滤波操作。

在本发明环路滤波方法的另一个实施例中，类比于图3所示实施例，可以仅对当前边界的最后一行计算边界平滑度并进行后续的过程，例如对图2中最后一行22计算其边界平滑度并进行后续的过程。由于，与图3实施例相比区别仅在于选取的行不同，因此不再进行更为详细的说明。另外，本发明并不限于对当前边界两端的行/列计算边界平滑度值进而进行后续过程，其可以是对当前边界的任何一行/列计算边界平滑度值进行后续过程，本发明不受所选取的行/列的位置的限制。

在本发明环路滤波方法的再一个实施例中，选取当前边界8行/列样本中的X行/列分别计算其边界平滑度值，得到X个边界平滑度值后取其平均值作为有效的边界平滑度值并进行图3所示的后续的滤波过程，X取值大于等于2小于等于8的整数，优选的取值小于等于4。

本发明中所述的“紧邻”是指，对于当前边界来说，紧靠其两侧的位置。例如，对于图2来说，边界7的紧邻样本为p(x，0)，q(x，0)，其中x取{0，1，2，3，4，5，6，7}；本发明中所述的“次紧邻”是指，对于当前边界来说，次紧靠其两侧的位置。例如，对于图2来说，边界7的次紧邻样本为p(y，1)，q(y，1)，其中y取{0，1，2，3，4，5，6，7}；本发明所述的“倒数第三紧邻”是指除了紧邻和次近邻之外的与当前边界最邻近的位置。例如，对于图2来说，边界7的次紧邻样本为p(z，1)，q(z，1)，其中z取{0，1，2，3，4，5，6，7}。

以上所揭露的仅为本发明一种较佳实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。

Claims

1.一种环路滤波方法，其通过计算当前边界的至少一行/列样本的边界平滑度，并根据该边界平滑度与阈值平滑度的关系得到对应的滤波强度值。

2.根据权利要求1所述的环路滤波方法，其特征在于，得到滤波强度值之后，根据所述滤波强度值对当前边界进行滤波。

3.根据权利要求2所述的环路滤波方法，其特征在于，在通过边界平滑度得到滤波强度值之前，还包括以下步骤：

a0、判断当前宏块的块效应是否明显，若明显则继续执行。

4.根据权利要求3所述的环路滤波方法，其特征在于，在所述步骤a0中，若当前边界满足下述3个条件中的至少一个，则认为块效应不明显，否则认为明显：

5.根据权利要求1至4中任一项所述的环路滤波方法，其特征在于，所述边界平滑度通过以下方法得到：

上述五个判断所取值的和为所述边界平滑度；

并且，所述边界平滑度与所述滤波强度值的对应关系为：

若边界平滑度大于第一阈值平滑度，则滤波强度值为2；

若边界平滑度小于第二阈值平滑度，则滤波强度值为0。

6.根据权利要求5所述的环路滤波方法，其特征在于，在根据滤波强度值对当前边界进行滤波的步骤中，

当所述滤波强度值为0时，则不进行滤波。

7.根据权利要求1至4中任一项所述的环路滤波方法，其特征在于，其选取当前边界中的第一行/列或最后一行/列进行计算得到边界平滑度；或者，选取当前边界的任意一行/列进行计算得到边界平滑度。

8.根据权利要求5所述的环路滤波方法，其特征在于，其选取当前边界的第一行/列或最后一行/列进行计算得到边界平滑度。

9.根据权利要求6所述的环路滤波方法，其特征在于，当所述滤波强度值为2时，所采用的环路滤波公式为：

10.根据权利要求1至4中任一项所述的环路滤波方法，其特征在于，当计算多于一行/列样本的边界平滑度时，将该多行/列样本的边界平滑度的平均值作为最终用于得到滤波强度值的边界平滑度。