CN101330615B - 一种环路滤波方法 - Google Patents

Abstract

本发明公开了一种环路滤波方法，包括以下步骤：a、计算需要滤波的边界的每一行/列的滤波强度值；b、对应所述滤波强度值对所述每一行/列样本进行滤波。本发明中由于对边界上每一行/列样本均计算一个滤波强度值，从而该滤波强度值更加适合该行/列边界，而根据该滤波强度值进行的滤波操作也能够使得重建图像的质量更好。

Description

一种环路滤波方法

技术领域

本发明涉及视频编解码领域，尤其涉及一种环路滤波方法。

背景技术

视频编解码标准AVS(Audio Video coding Standard，数字音视频编解码标准)、H.264都采用基于宏块的编码框架，即将输入视频分割成宏块，对宏块进行预测、运动估计、变换、量化、熵编码等。由于进行了分块，因而不可避免的会导致块效应，于是引入了环路滤波技术。

除图像边界及条带的边界之外，宏块的所有块边界都应进行滤波。此处宏块边界定义为宏块内部各个8×8块的边界。

环路滤波以宏块为单位，图像中每个宏块的滤波过程如下：

对于AVS标准来说，对亮度和色度分别做环路滤波。如图1所示，对于一个宏块的16×16亮度块来说，其内部包含①、②、③、④四个8×8块，标准环路滤波方法首先从左到右对垂直边界1和2依次进行滤波，然后从上到下对水平边界3和4依次进行滤波；对于一个宏块的8×8色度块来说，标准环路滤波方法首先对垂直边界5滤波，然后对水平边界6滤波。当前宏块的环路滤波的输入为图像未进行滤波的样本值，当前宏块环路滤波会修改这些样本值。当前宏块垂直边界滤波过程中修改的样本值作为水平边界滤波过程的输入。

如上所述，在编解码过程中，为解决边界效应和块效应问题，必须进行环路滤波。在标准的环路滤波算法中，其对一个8×8块边界的滤波过程为：首先根据宏块类型以及宏块中8×8亮度块的运动矢量得到当前边界的滤波强度值，再根据该滤波强度值对当前边界两侧的某一行/列样本进行阈值判断以确定是否需要滤波，若需要则进一步通过两个阈值判断步骤确定滤波的程度和范围，最后再进行滤波操作。

很显然，由于一个8×8块边界仅采用一个滤波强度值，因而对于该边界的8个行/列边界来说，所述的滤波强度值并不一定适合该行/列边界，会造成重建图像质量的下降。并且，由于对边界上的每行/列进行滤波时都需要两个阈值判断步骤，因而复杂度加大，并且不利于滤波的流水操作。

发明内容

本发明所要解决的技术问题在于提供一种使得重建图像质量较好的环路滤波方法。

为了解决上述技术问题，本发明提出一种环路滤波方法，包括以下步骤：

a、计算需要滤波的边界的每一行/列样本的滤波强度值；

b、对应所述滤波强度值对所述每一行/列样本进行滤波。

其中，所述滤波强度值通过计算边界平滑度并根据该边界平滑度与阈值平滑度的对应关系得到。

优选的，所述边界平滑度通过以下方法得到：

判断紧邻当前边界的一对样本的差的绝对值是否小于第一阈值，若是，则取值1，否则，取值0；

判断紧邻当前边界的一侧和次紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断次紧邻当前边界的所述侧和倒数第三紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断紧邻当前边界的另一侧和次紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断次紧邻当前边界的所述另一侧和倒数第三紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

上述五个判断所取值的和为所述边界平滑度；

并且，所述边界平滑度与所述滤波强度值的对应关系为：

若边界平滑度大于第一阈值平滑度，则滤波强度值为2；

若边界平滑度位于第一阈值平滑度和第二阈值平滑度之间，则滤波强度值为1；

若边界平滑度小于第二阈值平滑度，则滤波强度值为0。

其中，步骤b中，

当所述滤波强度值为2时，且为亮度边界时，采用以下公式进行滤波：

p0’＝(p2+p1×4+p0×4+p0×2+q0×4+q1+8)/16；

q0’＝(p1+p0×4+q0×4+q0×2+q1×4+q2+8)/16；

p1’＝(p2×3+p1×8+p0×4+q0+8)/16；

q1’＝(q2×3+q1×8+q0×4+p0+8)/16；

当所述滤波强度值为2时，且为色度边界时，采用以下公式进行滤波：

p0’＝(p2+p1×4+p0×4+p0×2+q0×4+q1+8)/16；

q0’＝(p1+p0×4+q0×4+q0×2+q1×4+q2+8)/16。

其中，步骤b中，

当所述滤波强度值为1时，采用以下公式进行滤波：

p0’＝(p0×3+q0+2)/4；

q0’＝(q0×3+p0+2)/4。

另外，在计算所述边界平滑度之前，首先判断当前行/列样本的边界是否是真实边界，若是，则结束对该行/列样本边界的滤波，否则执行后续步骤。

其中，步骤b中，当所述滤波强度值为不等于对应所述的情形时，则按照视频编解码标准中标准滤波方案滤波。

另一方面，步骤a中通过判断当前宏块的块效应是否明显实现，若明显，则认为需要滤波，否则不需要滤波。

其中，若当前边界满足下述3个条件中的至少一个，则认为块效应不明显，否则认为明显：

con1、当前帧为B帧或p帧，并且当前边界为当前宏块的内部边界，且当前宏块亮度的宏块编码模板的值为0；

con2、当前帧为B帧或p帧，并且当前边界为两个宏块之间的边界，且所述两个宏块亮度的宏块编码模板的值都为0；

con3、当前帧为B帧或p帧，并且当前边界为两个宏块之间的边界，所述两个宏块的参考帧相同，且所述两个宏块的运动矢量的差小于一个像素点。

本发明中由于对边界上每一行/列均计算一个滤波强度值，从而该滤波强度值更加适合该行/列边界，而根据该滤波强度值进行的滤波操作也能够使得重建图像的质量更好。

另外，由于在滤波过程中省略了对两个阈值的判断，因而避免了大量的运算，提高了效率。

另一方面，由于在滤波强度值等于2或1时采用了新的滤波公式，从而使得输出的信噪比进一步提升。

附图说明

图1是一个宏块的亮度和色度边界分布的一个实施例的示意图；

图2是基于图1所示宏块的一个8×8块边界结构的一个实施例的示意图；

图3是基于图2的本发明一种环路滤波方法的一个实施例的流程图。

具体实施方式

首先，对现有技术中环路滤波的方法进行描述。

参考图1，图示了一个宏块的亮度和色度边界分布的一个实施例的示意图。如图所示，该宏块包括4个8×8亮度块，分别是①、②、③、④；该四个亮度块包括两个垂直边界1和2(图中实线部分)，两个水平边界3和4(图中虚线部分)；其中，2表示一整个垂直边界，而7表示2的一部分(在本实施例中为2的一半)。该宏块还包括一个8×8色度块(图中仅示出一个，对于不同的格式8×8色度块的数量也不同)，其包括垂直边界5和水平边界6。

图1中四个亮度块和一个色度块的最右边的点线边界为所述宏块右边的宏块(图未示)的对应亮度和色度的左边界，最下边的点线为所述宏块下边的宏块(图未示)的对应亮度和色度的上边界，因此，所述两个点线边界为其它宏块的边界，可以类比于图1所示宏块，在此不对其说明。

参考图2，图示了基于图1所示宏块的一个8×8块边界结构的一个实施例的示意图。如图所示，实际上本实施例是将图1中垂直边界7及其两侧的各三列样本进行放大后的示意图，由于①、②均是8×8块，因此，边界7两侧的各三列样本每列均包括8行，另外由于对于边界7的滤波不涉及其两侧各三列样本以外的数据，所以，在图2中仅示出其两侧的各三列样本。

需要说明的是，本具体实施方式中用p、q表示未进行滤波前的样本值，用字母p’、q’对应表示滤波后的样本值；其后所跟的数值(例如p0、q1、q2、p2等)为通用的表示同一行/列样本中与边界的位置关系，0表示紧邻，1表示次紧邻，2表示倒数第三紧邻。

在现有技术的环路滤波过程当中，计算边界7的滤波强度值(BS值)，并利用该滤波强度值对该边界7的每行边界两侧的像素进行滤波。

例如，当BS＝2时，滤波过程如下：

if(Abs(p2-p0)＜β&& Abs(p0-q0)＜((α＞＞2)+2))

{

p0’＝(p1+2×p0+q0+2)＞＞2

p1’＝(2×p1+p0+q0+2)＞＞2

}

else

p0’＝(2×p1+p0+q0+2)＞＞2

if(Abs(q2-q0)＜β&& Abs(p0-q0)＜((α＞＞2)+2))

{

q0’＝(q1+2×q0+p0+2)＞＞2

q1’＝(2×q1+q0+p0+2)＞＞2

}

else

q0’＝(2×q1+q0+p0+2)＞＞2

可见，在上述过程中，有两次“if”的判断，这两次判断即为阈值的判断。其中，α、β均为AVS标准中所定义的块边界阈值，其值可以参考AVS标准中的解释；Abs为求绝对值函数；Bs为滤波强度；“＞＞”表示右移操作，其后值为右移操作次数。

下面，简要说明本发明的原理。

本发明改变了现有技术中以一个块边界的滤波强度值(即Bs值)来作为该边界下的每一行/列样本的边界滤波强度值的做法；其通过计算块边界上的每一行/列样本的边界滤波强度值，来对该行/列样本边界两侧的像素进行滤波，这样一来，由于每一行/列样本的边界滤波强度值相对于所述块边界的滤波强度值更能适应该行/列的情况，因而滤波的效果更好，重建图像的质量也更好。

以图2为例，其为8×8块，其包括8行及8列样本。对于边界7来说，该块的8行样本所包含的每一段边界将求得一个Bs值，并根据该Bs值对所在行的对应样本进行滤波操作。而现有技术当中则是对图2中8×8块的边界7求一个该边界下所有8行样本共用的Bs值，或者对图1中宏块的边界1、2、3、4、5、6求得一个该边界下所有行/列样本共用的Bs值。

另外，由于每一行/列样本边界得到一个滤波强度值，因而省略了现有技术中在对每一行/列样本边界滤波时所进行的阈值判断，降低了计算量，提高了效率。

下面结合附图对本发明进行详细阐述。

参考图3，图示了基于图2的本发明一种环路滤波方法的一个实施例的流程图。如图所示，包括以下步骤：

步骤S300，判断当前宏块是否需要滤波，若是，则程序下行，否则执行步骤S307。

本步骤中，判断当前宏块是否需要滤波通过判断当前宏块的块效应是否明显来实现，若明星，则认为需要滤波，否则不需要滤波。

而其中对块效应是否明显的判断可以通过以下方式实现：

判断当前边界满足是否满足下列三个条件中的至少一个，若是，则认为块效应不明显，否则认为明显。三个条件如下：

con1、当前帧为B帧或P帧，并且当前边界为当前宏块的内部边界，且当前宏块亮度的宏块编码模板的值为0；

con2、当前帧为B帧或P帧，并且当前边界为两个宏块之间的边界，且所述两个宏块亮度的宏块编码模板的值都为0；

con3、当前帧为B帧或P帧，并且当前边界为两个宏块之间的边界，所述两个宏块的参考帧相同，且所述两个宏块的运动矢量的差小于一个像素点。

所述宏块编码模板即为cbp，其含义在AVS标准中有定义，在此不进行详细解释。

步骤S301，计算当前边界当前行/列的边界平滑度。

在本发明的一个实施例中，所述边界平滑度通过以下方式计算：

num＝(abs(p0-q0)＜T1)？1:0+(abs(p1-p0)＜T2)？1:0+(abs(p2-p1)＜T2)？1:0+(abs(q1-q0)＜T2)？1:0+(abs(q2-q1)＜T2)？1:0

其中，num表示边界平滑度；T1为第一阈值，其可以在((α＞＞3)+2)～((α＞＞1)+2)之间取值，优选的可以取(α＞＞3)+2；T2为第二阈值，其可以在(β+2)/5～(β+2)/3之间取值，优选的可以取(β+2)/4；“？”为问号表达式，对于S？U:V式来说，若S成立，则该式的值为U，否则为V；α、β、abs的含义与前述背景技术中相同；

abs(p0-q0)＜T1)？1:0含义为：判断紧邻当前边界的一对样本的差的绝对值是否小于第一阈值，若是，则取值1，否则，取值0；

abs(p1-p0)＜T2)？1:0含义为：判断紧邻当前边界的一侧和次紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

abs(p2-p1)＜T2？1:0含义为：判断次紧邻当前边界的所述侧和倒数第三紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

abs(q1-q0)＜T2)？1:0含义为：判断紧邻当前边界的另一侧和次紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

abs(q2-q1)＜T2)？1:0含义为：判断次紧邻当前边界的所述另一侧和倒数第三紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

步骤S302，根据边界平滑度与阈值平滑度的关系对应得到当前边界的滤波强度值Bs。

在通过步骤S301得到了边界平滑度后，本步骤将利用该边界平滑度与阈值平滑度的对应关系获得滤波强度值Bs。

即，得到num后再将num与阈值平滑度比较，根据num所在的范围来确定滤波强度Bs的值。其得到Bs的一个实施例如下：

若num≥Th1，则Bs＝2；

若Th2≤num＜Th1，则Bs＝1；

若num＜Th2，则Bs＝0；

其中，Th1为第一阈值平滑度，其值可以取3、4或5，优选的可以取4；Th2为第二阈值平滑度，其值可以取1或2，优选的可以取2；另外，对于num等于边界值的情况，这时num即可以事先约定属于哪个区间(例如上述实施例)，也可以是随机的；

步骤S303，判断滤波强度值Bs是否为0，若是，则执行步骤S305，否则，执行步骤S304。

当Bs值为0时，即表示滤波强度为0，也就不需要滤波，因而执行步骤S305；

步骤S304，根据所述滤波强度值对当前行/列进行滤波。

在本步骤中，滤波操作所采用的公式可以是视频编解码标准中定义的标准公式(例如AVS标准文档、H.264标准文档中的滤波公式)，也可以采用本发明中特殊的滤波公式，当然也可以混合本发明中的特殊滤波公式和标准滤波公式使用。下面以本发明中的滤波公式为例进行说明：

当所述滤波强度值为2时，且为亮度边界时，采用以下公式进行滤波：

p0’＝(p2+p1×4+p0×4+p0×2+q0×4+q1+8)/16；

q0’＝(p1+p0×4+q0×4+q0×2+q1×4+q2+8)/16；

p1’＝(p2×3+p1×8+p0×4+q0+8)/16；

q1’＝(q2×3+q1×8+q0×4+p0+8)/16；

当所述滤波强度值为2时，且为色度边界时，采用以下公式进行滤波：

p0’＝(p2+p1×4+p0×4+p0×2+q0×4+q1+8)/16；

q0’＝(p1+p0×4+q0×4+q0×2+q1×4+q2+8)/16。

其中，步骤b中，

当所述滤波强度值为1时，采用以下公式进行滤波：

p0’＝(p0×3+q0+2)/4；

q0’＝(q0×3+p0+2)/4；

所述p0、p1、p2、q2、q1、q0所表示的含义可以参考上文的阐述，其位置关系可以形象的参考下表：

p2

p1

p0

q0

q1

q2

其表示一行/列样本中临近边界(粗实线)的三个像素点；

px’表示，px滤波后的值，x取0，1，2。

步骤S305，判断当前宏块是否滤波完毕，若是，则执行步骤S307，否则执行步骤S306。

判断当前宏块是否滤波完毕是指当前宏块的所有需要滤波的边界的每一行/列均滤波完毕；

步骤S306，取下一行/列样本。

即，在当前宏块还有没有滤波的行/列样本时，则取还没有滤波的行/列样本以进行上述的滤波过程，其目的在于遍历所有行/列进行滤波。

本步骤执行完毕后执行步骤S301；

步骤S307，结束。

需要说明的是，在步骤S304的滤波过程中，可以Bs＝2时采用本发明所述方案，Bs＝1时采用标准文档中的方案；或者，反过来，当Bs＝1时采用本发明所述方案，Bs＝2时采用标准文档中的方案。

另外，由于AVS视频编解码标准和H.264、MPEG视频编解码标准等均是基于宏块的编码框架，因此本具体实施方式中的实施例均可以适用。

以上所揭露的仅为本发明一种较佳实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。

Claims (6)

1.一种环路滤波方法，包括以下步骤：

a、计算需要滤波的边界的每一行/列样本的滤波强度值；

b、对应所述滤波强度值对所述每一行/列样本进行滤波；其中，所述滤波强度值通过计算边界平滑度并根据该边界平滑度与阈值平滑度的对应关系得到；并且，所述边界平滑度通过以下方法得到：

判断紧邻当前边界的一对样本的差的绝对值是否小于第一阈值，若是，则取值1，否则，取值0；

判断紧邻当前边界的一侧和次紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断次紧邻当前边界的所述侧和第三紧邻当前边界的所述侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断紧邻当前边界的另一侧和次紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

判断次紧邻当前边界的所述另一侧和第三紧邻当前边界的所述另一侧的一对样本的差的绝对值是否小于第二阈值，若是，则取值1，否则，取值0；

上述五个判断所取值的和为所述边界平滑度；

并且，所述边界平滑度与所述滤波强度值的对应关系为：

若边界平滑度大于第一阈值平滑度，则滤波强度值为2；

若边界平滑度位于第一阈值平滑度和第二阈值平滑度之间，则滤波强度值为1；

若边界平滑度小于第二阈值平滑度，则滤波强度值为0；

其中，所述第一阈值在((α＞＞3)+2)～((α＞＞1)+2)之间取值；所述第二阈值在(β+2)/5～(β+2)/3之间取值；α、β均为AVS标准中所定义的块边界阈值；所述第一阈值平滑度取3、4或5；所述第二阈值平滑度取1或2。

2.根据权利要求1所述的方法，其特征在于，步骤b中，

当所述滤波强度值为2时，且为亮度边界时，采用以下公式进行滤波：

p0’＝(p2+p1×4+p0×4+p0×2+q0×4+q1+8)/16； 

q0’＝(p1+p0×4+q0×4+q0×2+q1×4+q2+8)/16；

p1’＝(p2×3+p1×8+p0×4+q0+8)/16；

q1’＝(q2×3+q1×8+q0×4+p0+8)/16；

当所述滤波强度值为2时，且为色度边界时，采用以下公式进行滤波：

p0’＝(p2+p1×4+p0×4+p0×2+q0×4+q1+8)/16；

q0’＝(p1+p0×4+q0×4+q0×2+q1×4+q2+8)/16；

其中，所述p、q表示未进行滤波前的样本值，用字母p’、q’对应表示滤波后的样本值；其后所跟的数值中，0表示紧邻边界，1表示次紧邻边界，2表示第三紧邻边界。

3.根据权利要求2所述的方法，其特征在于，步骤b中，

当所述滤波强度值为1时，采用以下公式进行滤波：

p0’＝(p0×3+q0+2)/4；

q0’＝(q0×3+p0+2)/4。

4.根据权利要求1所述的方法，其特征在于，在计算所述边界平滑度之前，首先判断当前行/列样本的边界是否是真实边界，若是，则结束对该行/列样本边界的滤波，否则执行后续步骤。

5.根据权利要求1至4中任一项所述的方法，其特征在于，步骤a中通过判断当前宏块的块效应是否明显实现，若明显，则认为需要滤波，否则不需要滤波。

6.根据权利要求5所述的方法，其特征在于，若当前边界满足下述3个条件中的至少一个，则认为块

效应不明显，否则认为明显：

con1、当前帧为B帧或p帧，并且当前边界为当前宏块的内部边界，且当前宏块亮度的宏块编码模板的值为0；

con2、当前帧为B帧或p帧，并且当前边界为两个宏块之间的边界，且所 述两个宏块亮度的宏块编码模板的值都为0；

con3、当前帧为B帧或p帧，并且当前边界为两个宏块之间的边界，所述两个宏块的参考帧相同，且所述两个宏块的运动矢量的差小于一个像素点。 

Images