CN103384327A

CN103384327A - 基于自适应阈值的avs快速模式选择算法

Info

Publication number: CN103384327A
Application number: CN2013101401851A
Authority: CN
Inventors: 张新安
Original assignee: Individual
Current assignee: Individual
Priority date: 2013-04-22
Filing date: 2013-04-22
Publication date: 2013-11-06

Abstract

本发明提供一种基于自适应阈值的AVS快速模式选择算法。算法在采用提前终止准则的同时，把自适应阈值应用在运动搜索以及模式选择过程中，针对加入B帧编码的视频序列中，P帧之间的相关性小的特点，提出了新的快速模式选择准则。当第一个参考帧中的最优块代价小于阈值时，终止搜索，否则继续对第二个参考帧搜索。其P帧宏块编码算法流程如附图所示，B帧宏块编码算法步骤和P帧类似，但是各步骤中判别准则和阈值自适应更新的法则不一样。与AVS标准参考软件RM52j中的全搜索算法相比，本发明的快速算法在保证图像质量和码率几乎不变的情况下，节省的计算量可达36.9%～78.6％，能有效地提高编码速度。

Description

基于自适应阈值的AVS快速模式选择算法

技术领域

本发明涉及信号处理中的视频编码技术领域，具体涉及一种基于自适应阈值的AVS快速模式选择算法。

背景技术

数字音视频产业是信息产业三大组成部分之一，我国的数字音视频产业规模巨大，但知识产权薄弱，这一领域长期被MPEG-2、MPEG-4和H.264等国外技术标准垄断，采用这些标准都需要交纳高昂的专利费。为降低国内音视频产业的专利费负担、提升国内企业的核心竞争力，国家信息产业部于2002年6月批准成立“数字音视频编码技术标准工作组”，联合国内从事数字音视频编码技术研发的科研机构和企业，针对国内音视频产业的需求，提出了我国自主的信源编码标准—《信息技术先进音视频编码》系列标准，简称AVS（Audio Video coding Standard）。

AVS与H.264比较，具有4大优点：（1）性能高，编码效率是MPEG-2的2.4倍，与H.264相当；（2）复杂度低，编码复杂度相当于H.264的70%，解码复杂度相当于H.264的30%；（3）软硬件实现成本都低于H.264；（4）专利费用低，只收取1元人民币的软硬件专利费。AVS的使用，不仅可以每年节省几十亿美元的专利费，还可以带动中国自己的芯片产业发展，加速解决我国IT企业无核心技术的问题。

AVS采用率失真优化RDO（Rate Distortion Optimization）的全模式选择方法比较所有模式下编码所得的率失真代价RDCost（Rate Distortion Cost），从中选择率失真代价最小的模式作为最优的编码模式，在提高编码压缩性能的同时极大地增加了编码复杂度。采用多参考帧全部编码块模式的帧间预测模块占整个AVS编码计算量的80％以上，实时应用必须降低该模块的计算复杂度。

目前国内外针对MEPG和H.264提出了很多快速帧间模式选择算法，权衡考虑编码速度、PSNR以及码率，Duan Dagao, Cui Yansong, Deng Zhongliang等人提出的模式选择算法计算复杂度较低，便于实现，而且其性能（PSNR和码率）下降很小，但是其阈值都是固定的，对各种不同运动程度的图像序列缺乏灵活性，在编码速度和编码性能方面的改善差别很大。另一方面，AVS和H.264虽然都采用树型结构的宏块划分，每个宏块的亮度块可以划分成一个16×16块、两个16×8块、两个8×16块或者四个8×8块进行运动估计。但是H.264对于每个8×8块又可以进一步划分成两个8×4块、两个4×8块或者四个4×4块进行运动估计，而AVS则不行，所以，在AVS编码中帧间模式还有所不同，需要改进。

由于AVS系列标准制定得较晚，目前对其帧间模式选择快速算法的研究不多。Wang Lei-rui, Shen Li-quan, Zhang Zhao-yang等人针对AVS提出了一种结合了全零块的提前中止准则和通过纹理特性对候选模式预选的快速算法。但是，针对推导所得到的全零块的判决门限过低，难以检测出全零块的问题，文献中只是说明使用时可以适当增大门限值，没有给出具体解决办法。

发明内容

针对我国的视频编码标准AVS需要更高效的快速模式选择算法，为了解决现有算法中存在的不足，本发明提出一种基于自适应阈值的AVS快速模式选择算法。该算法在采用提前终止准则的同时，把自适应阈值应用在运动搜索以及模式选择过程中，针对加入B帧编码的视频序列中，P帧之间的相关性小的特点，提出了新的快速模式选择准则。该算法对不同运动程度的视频序列，在不降低编码性能的情况下，节省的计算量可达36.9%～78.6％，能有效地提高编码速度。

为达到上述目的，本发明的快速模式选择算法，其中P帧宏块编码算法包括以下步骤：

步骤1、计算SKIP模式RDCost代价；

步骤2、计算16×16模式RDCost代价，运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T _16×16则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算对应最优运动矢量的RDCost代价；

步骤3、取SKIP模式和16×16模式的RDCost代价的min_rdcost，与自适应阈值TH _irdcost和TH _mrdcost比较，如果min_rdcost＞TH _irdcost和min_rdcost＜TH _mrdcost，则直接跳转到步骤6，否则进行步骤4；

步骤4、计算16×8模式RDCost代价，每个16×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T _16×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价；

步骤5、计算8×16模式RDCost代价，每个8×16块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T _8×16则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价；

步骤6、计算8×8模式RDCost代价，每个8×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T _8×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价，如果条件min_rdcost＜TH _irdcost/2成立，则跳转到步骤8，否则进行步骤7；

步骤7、计算当前宏块的帧内模式编码的RDCost代价；

步骤8、按公式（5）和（6）自适应更新阈值；

步骤9、当前宏块编码结束。

B帧宏块编码算法步骤与P帧类似，但是各步骤中判别准则和阈值自适应更新的法则不一样，在步骤8中，自适应阈值的更新改为公式（7）和（8）。

与现有技术比较，本发明的优点和积极效果为：采用SKIP提前预判，利用加入B帧编码的视频序列中，P帧之间的相关性小的特点，提出了新的适用于AVS的快速模式选择算法。与AVS标准参考软件RM52j 中的全搜索算法相比，本发明的快速算法在保证图像质量和码率几乎不变的情况下，节省的计算量可达36.9%～78.6％，能有效地提高编码速度。

下面对AVS率失真算法和本发明的基于自适应阈值的AVS快速模式选择算法这两部分详细说明。

率失真算法。

AVS视频编码标准的帧间预测编码支持三种模式：帧内预测模式、帧间预测模式和SKIP（跳过）模式。其中帧间预测模式又分为16×16、16×8、8×16和8×8四种不同宏块划分的帧间编码模式。宏块划分的每个子块都对应一个运动矢量（MV）。因此，编码端需要对编码宏块选取最佳的编码模式，以达到最佳的编码效果。RM52j参考软件中，采用绝对误差和函数SAD作为率失真的判决准则，其实现步骤如下：

（1）搜索16×16宏块的运动矢量并找到最佳的MV；

（2）搜索16×8和8×16宏块的运动矢量，找到最佳的MV；

（3）搜索8×8宏块的运动矢量，找到最佳的MV；

（4）计算匹配代价，找到最佳模式和最优的运动矢量，进行预测编码。

在RM52j参考软件中，帧间最佳模式的选择算法需要计算所有模式的SAD值，宏块最优预测模式选择采用全率失真优化准则，对每一种预测模式按照式（1）计算代价：

（1）

其中R表示残差块经过熵编码后得到的码长，λ是与量化参数相关的率失真参数，SSD表示原始块与重构块之间的误差均方和，按照式（2）计算，即：

（2）

其中重构块元素值f _RDO（x, y）需要对残差块经过变化→量化→反量化→反变换过程后再与预测块相加得到。最终选择代价最小的预测模式作为当前宏块编码的预测模式。这种全模式RDO算法是所有模式选择中最精确的方法，同时也是最耗时的方法。如果能够缩减这个时间，将会极大地提高编码器的编码速度。

基于自适应阈值的AVS快速模式选择算法。

跳过宏块的预判。

AVS中存在一种宏块类型，称为跳过宏块，对应的编码模式是SKIP模式，这种编码模式的运动矢量等于运动矢量的预测值，运动补偿残差为零，直接复制其前一帧的参考宏块，不需进行编码。

对不同运动程度的图像序列研究的统计结果表明，无论是运动缓慢的序列还是运动较为复杂的序列，其帧间编码最佳模式都满足这样的统计规律：宏块级帧间预测模式（16×16、16×8和8×16）最多，其次是亚宏块级帧间预测模式（8×8），帧内预测模式小于0.1%，并且，SKIP模式与16×16宏块的帧间预测模式占整幅图像预测模式的60％以上，尤其是对于运动缓慢的图像，SKIP模式可高达90％。因此，通过一些条件来预判出宏块是跳过宏块，提前结束模式选择，不再遍历其它模式，从而可以很大程度地提高编码速度。

从像素残差和DCT系数的分布可推出全零块判决门限：

（3）。

QP处在指数位置，随着QP的增加，门限值增大过快，特别是对于QP小于40的情况，容易造成误检。为了解决这个问题，本发明通过测试大量序列，把阈值T修正为，即：

（4）。

在帧间编码的过程中，得到运动补偿的残差块信号后，先根据式（4）判断当前块是否为全零块，如果是全零块，就可以省去变换、量化以及反变换和反量化的过程，降低编码的计算量，提高编码速度。

自适应阈值快速模式选择算法。

由于B帧编码能在很大程度上提高预测的准确性以及编码的压缩率，AVS视频算法标准中引入了B帧编码。B帧编码采用双向预测，其参考数据来自前后两个I/P帧。一方面，其预测方式与P帧不一样；另一方面，相邻两个P帧之间，由于B帧的插入，其相关性减小。所以，本发明对P帧和B帧编码使用不同的宏块模式选择算法，以提高编码的效率和性能。下面将两种帧编码方式的快速模式选择算法的步骤分别介绍。

P帧宏块编码首先按公式（1）计算SKIP模式和16×16模式的率失真代价，由于一般序列中这两种宏块模式占的比重比较高，如果这两种模式中的较优者适合当前宏块编码则可以不用计算其他三种宏块模式的代价，这样将节约大量的时间。所以首先将SKIP模式和16×16模式较优者的率失真代价与统计阈值进行比较，以决定是否还进行16×8、8×16和8×8模式的率失真代价计算。在运动矢量的搜索过程中也有选择，由于AVS允许最多两个参考帧，但实际上最优匹配的参考块90%以上出现在第一个参考帧中，所以，本发明对各种宏块模式统计了一个阈值公式（5）和（6）。当在第一个参考帧中的最优块代价小于阈值，则终止搜索；否则继续对第二个参考帧搜索。

附图说明

图1为本发明的基于自适应阈值的AVS快速模式选择算法流程图。

具体实施方式

本发明的基于自适应阈值的AVS快速模式选择算法流程如附图1所示，快速模式选择算法中的P帧宏块编码包括以下步骤：

步骤1、计算SKIP模式RDCost代价；

步骤3、取SKIP模式和16×16模式的RDCost代价的min_rdcost，与自适应阈值TH _irdcost和TH _mrdcost比较，如果min_rdcost>TH _irdcost和min_rdcost<TH _mrdcost，则直接跳转到步骤6，否则进行步骤4；

步骤6、计算8×8模式RDCost代价，每个8×8块在运动矢量搜索过程中，首先搜索第一个参考帧，获得最优匹配块的SAD值，如果该值小于阈值T _8×8则结束搜索，否则，继续搜索第二个参考帧，找出最优运动矢量，计算该模式的RDCost代价，如果条件min_rdcost<TH _irdcost/2成立，则跳转到步骤8，否则进行步骤7；

步骤7、计算当前宏块的帧内模式编码的RDCost代价；

步骤8、按公式（5）和（6）自适应更新阈值，

（5）

（6）

步骤9、P帧宏块编码结束。

B帧宏块编码算法步骤与P帧类似，但是各步骤中判别准则和阈值自适应更新的法则不一样，在步骤8中，自适应阈值的更新改为公式（7）和（8）：

（7）

（8）。

本发明采用AVS参考测试模型RM52j作为改进算法的测试平台，测试环境是Pentium 4 CPU3.0GHz，DDR512MB，VC++6.0。选取Akiyo、News、foreman和mobile四个具有不同运动程度的CIF标准视频序列。主要参数设置为：编码帧数100帧；帧率30f/s；序列结构IBBP；参考帧数2帧，运动搜索半径为32；Hadamard变换关闭，率失真优化开启。量化参数（QP）选择28、32、36、40。其他编码参数选择默认设置。

由于SKIP提前预判和自适应阈值的快速模式选择算法的引入，在编码过程中，能避免大量无用宏块模式的代价计算，在运动矢量搜索过程中，由于第二个参考帧的相对比较弱的相关性，通过判断第一个参考帧最优代价来提前终止搜索，也能节省不少计算代价。表1给出了所测试的4个标准视频序列编码采用提前终止准则和自适应阈值快速模块选择算法编码时与采用参考程序RM52j编码时相比节省的计算量。

表1节省的计算量（%）

从表1可以看出，当QP较大时，节省的计算量最大可以达到78.6％，节省的计算量最小也有36.9％。视频序列的运动越小，量化参数QP越大，节省的计算量就越多。

由于编码QP不变时只需要在初始化时计算一次门限值，因此增加的计算量完全可以忽略不计。

将SKIP提前预判和自适应阈值的快速模式选择算法应用于多种块模式的运动搜索时，对编码视频质量（以PSNR来度量）和编码效率（以码率来度量）的影响，在前述参数设置条件下的实验结果如表2所示。

表2 峰值信噪比（dB）和比特率的变化（%）

从表2可以看出，在本发明实验条件范围内，对于所有仿真的视频序列和QP值，PSNR均稍有下降，但同时码率也稍有降低，且码率降低程度大于PSNR下降程度。因此，从率失真性能来讲，将SKIP提前预判和自适应阈值的快速模式选择算法应用于多种块模式的运动搜索算法时，在大幅度减少计算量的同时，保证了编码性能不比原始性能差。

应当指出，上述说明并非是对本发明的限制，本发明也并不仅限于上述举例，本技术领域的技术人员在本发明的实质范围内所做出的修改，变形、添加或替换，也应属于本发明的保护范围。