CN112995672A - 一种基于参数选择的视频编码算法优化方法 - Google Patents

Abstract

本发明公开了一种基于参数选择的视频编码算法优化方法，包括：S1，通过R‑D‑T综合性能评价指标，将率失真性能和编码复杂度进行综合分析；S2，分析参数间的相关性，定量计算参数的耦合系数，根据耦合系数对参数进行排序；S3，通过参数选择算法，在第一个循环中，获得一组最优参数组合；第二个循环在第一个循环的基础上加入编码时间限制，基于同一个参数的取值越小，则编码时间越短的规律，在第一个循环得到的最优参数组合的基础上，通过实际编码时间与目标编码时间对比来确定增大或减小参数取值，比较不同参数调整后的RDTscore，从而找出综合性能最好的参数作为本轮参数调整的对象，直到在误差允许的范围内达到目标复杂度。

Description

一种基于参数选择的视频编码算法优化方法

技术领域

本发明涉及数字视频编解码领域，尤其是涉及用于视频编码器的性能优化和编码复杂度控制的发给你法。

背景技术

新一代视频编码算法设计是个复杂非线性系统优化问题。可通过优化可定制模块算法、选择编码工具、配置编码系统参数，实现多目标性能均衡优化。经过几十年的发展，各定制模块算法趋于成熟，但各算法模块的不同配置方式以及不同编码工具的选择会导致编码器不同的性能表现，因此视频编码算法仍然具有较大的优化空间。在编码过程中，各算法模块的配置和编码工具的选择可以通过配置编码器的系统参数实现。

一些研究者已经提出率-失真-复杂度约束下的编码参数选择方法，但这些研究都是在较小的参数范围内进行选择，对整体性能的提升作用十分有限。扩大参数选择范围，可以进一步提升编码器的编码效率，然而，参数间的耦合关系使得整体的参数组合数量十分庞大，从中找到有效的参数组合十分困难。

《An MCMC based Efficient Parameter Selection Model for x265 Encoder》，该文献提出了一种基于MCMC的复杂度控制算法，提出率-失真-复杂度约束下的编码参数选择方法。通过参数不断迭代的方法与不同目标复杂度进行适配，可根据目标编码时间自适应选择编码参数。该研究只选取了一小部分参数，在此范围内进行参数的分析和选择，且提出的算法仍然是基于枚举的方法进行，需要测试大量的参数组合，然而编码器的性能提升十分有限。

《Pareto-Based Method for High Efficiency Video Coding With LimitedEncoding Time》，该文献提出了一种基于Pareto的编码参数配置方案，通过率-失真-复杂度分析，将中粒度编码时间控制与细粒度编码时间控制相结合，将HEVC编码时间限制在每个GOP的预定目标以下。该研究只考虑了少量参数，并采用枚举的方法，分别测试RD性能和编码复杂度。然后通过观察实验结果找出性能和复杂度均较好的参数配置。该方法涉及的参数较少，不能很好地发挥编码器性能，并且没有建立起有效的参数选择方法，也没有建立起RD性能和复杂度综合评价方法，仍然是按经验进行参数选择。

综上所述，目前方案仍存在以下问题：

1、单一的率失真性能或编码复杂度的评价指标不能满足实用性的要求，为有效评估参数对率-失真-复杂度的影响，需要建立率-失真-复杂度综合性能度量方法；

2、参数较多且互相存在耦合关系，优化过程中需要决策参数的优化选择顺序；

3、每个参数有若干取值选项，需要提出参数取值选择的快速算法。

发明内容

为解决现有技术的不足，本发明将编码算法优化转化为编码器的编码参数选择，实现编码复杂度可控的同时获得最佳率失真性能目的，本发明采用如下的技术方案：

一种基于参数选择的视频编码算法优化方法，包括如下步骤：

S1，通过R-D-T综合性能评价指标，将率失真性能和编码复杂度进行综合分析；

S2，分析参数间的相关性，定量计算参数的耦合系数，根据耦合系数对参数进行排序，以降低优化过程中由于耦合带来的性能损失和复杂度升高；

S3，通过参数选择算法，按照参数优化顺序依次确定每个参数的取值选项，使用该算法可确保每个参数的取值能为编码器带来最大的率-失真-复杂度性能提升，该算法包括两个循环，分别用于率失真优化和编码时间限制，在第一个循环中，参数按相关性顺序依次进行迭代，每个参数又根据其候选取值进行迭代，下一个参数取值的确定过程在上一个参数最优取值的基础上进行，最终获得一组最优参数组合；第二个循环在第一个循环的基础上加入编码时间限制，依次进行迭代，基于同一个参数的取值越小，则编码时间越短的规律，在第一个循环得到的最优参数组合的基础上，通过实际编码时间与目标编码时间对比来确定增大或减小参数取值，比较不同参数调整后的RDTscore，从而找出综合性能最好的参数作为本轮参数调整的对象，其他参数保持不变；更新参数组合，继续执行第二个循环直到在误差允许的范围内达到目标复杂度。

进一步地，所述步骤S1包括如下步骤：

S11，将编码复杂度进行归一化处理：

其中EncodingTime表示当前编码时间，EncodingTime(AnchorPreset)表示预设模式的编码时间；

S12，为有效评估参数对率-失真-复杂度的影响，定义统一的综合性能评价指标：

RDTscore为单位复杂度的编码性能增益，即相同复杂度代价下，RD性能的提升量，RDTscore越小即表明该选项更优，BDBR(

Delta Bit Rate)表示RD性能。

进一步地，所述步骤S2中定量计算参数的耦合系数，包括如下步骤：

S21，参数p_i和p_j取值单独改变，导致RD性能分别改变为

和

两个参数同时改变导致的RD性能改变为

定义参数间相关性系数

如下：

S22，采用类似方法度量参数p_i与其他所有重要参数间整体的耦合关系，定义参数p_i的耦合系数Θp_i如下：

其中p_j表示所选参数集中除p_i外的重要参数，m为p_j的个数。

进一步地，所述步骤S3中的增大或减小参数取值，是将参数取值改为相邻的参数取值。

进一步地，所述步骤S3中的参数选择算法，是基于viterbi的参数选择算法，包括如下步骤：

S31，按照参数优化顺序依次确定每个参数的取值选项，参数集表示为

M表示参数的个数，每个参数的取值空间表示为P_m＝{p_m1,p_m2,…,p_mk,…,p_mKm}，第m个参数的候选取值个数为K_m；

S32，进入第一循环，所述第一循环包括m循环和k循环，先进入m循环，m初始值为1，当m≤M时，进入k循环，k初始值为1，当k≤km时，进行取值操作，取p_mk作为实际编码Param_this，使用Param_this编码，根据编码结果计算RDTscore，并更新当前参数组合的实际编码时间T_r(Param_this)，随后k递增，继续进行k循环，直至k>km时跳出k循环，m递增，继续进行m循环，直至m>M时，跳出m循环，将RDTscore最小的Param_this作为最优编码Param_best，连同T_r(Param_this)输出，将Param_best作为目标参数组合

S33，进入第二循环，所述第二循环包括T_r循环和m’循环，先进入T_r循环，当|T_r(Param_this)-T_t|>TE时，进入m’循环，否则跳出T_r循环，并直接输出

所述T_t是目标编码时间，所述TE是允许的编码时间误差，m初始值为1，当m≤M时，进行第一判断，如果T_r(Param_this)-T_t>0，取p_m(k-1)作为实际编码Param_this，如果T_r(Param_this)-T_t<0，取p_m(k+1)作为实际编码Param_this，使用第一判断后的Param_this编码，根据编码结果计算RDTscore并更新T_r(Param_this)，进行第二判断，如果根据Param_this编码结果计算的RDTscore，小于根据Param_best编码结果计算的RDTscore，将Param_this作为

1≤k≤km时，继续进行T_r循环，否则m递增，并继续进行T_r循环，直至m>M时，跳出m’循环和T_r循环，并输出

和T_r(Param_this)。

本发明的优势和有益效果在于：

为有效评估参数对率-失真-复杂度的影响，本发明定义了RDTscore用于表示相同复杂度代价下，RD性能的提升量，RDTscore越小即表明该参数组合综合性能更优。

通过定义参数pi的耦合系数，将各参数的Θpi由小到大排序，该顺序将作为参数的优化顺序。按参数决策顺序，逐渐确定各参数取值。参数间错综复杂的相关关系，按耦合系数由低到高排序后变为线性关系。

使用参数选择算法，得到目标参数组合仅需要数百次离线测试和计算(每个不同参数组合的所有测试记作一次)，而不必测试所有参数组合。

附图说明

图1是本发明中参数的相关性顺序示意图。

图2是本发明中所有参数组合的BDBR-Time分布图。

图3是本发明中参数的相关性顺序示意图。

具体实施方式

以下结合附图对本发明的具体实施方式进行详细说明。应当理解的是，此处所描述的具体实施方式仅用于说明和解释本发明，并不用于限制本发明。

如图1所示，本发明通过研究有效的编码参数选择方法解决这一难题。在编码过程中，可定制模块算法的改变对其他模块性能有提升或抑制作用。实验发现，模块内不同算法间、不同模块算法间均存在一定程度的相关性。因此，本发明将不同模块的参数放在同一维度，在参数配置层面建立统一的参数选择方法。本发明首先分析不同参数对率-失真-复杂度的影响，根据影响程度确定重要参数，然后定量分析参数间的耦合程度，并据此将多个参数优化过程映射为多阶段决策过程。针对每个阶段各参数取值如何确定的问题，本发明提出基于viterbi的参数选择算法，可快速从所有参数的不同取值组合中找到符合复杂度要求且RD性能最优的参数取值组合。

一种基于参数选择的视频编码算法优化方法，包括如下步骤：

1、提出R-D-T综合性能评价指标，将率失真性能和编码复杂度进行综合分析。

首先将编码复杂度的计算按下面的公式(1)进行归一化处理：

其中EncodingTime表示当前编码时间，EncodingTime(AnchorPreset)表示预设模式的编码时间，在此基础上，按公式(2)定义统一的综合性能评价指标，以有效评估参数对率-失真-复杂度的影响：

RD性能用BDBR(

Delta Bit Rate)表示，RDTscore的含义为单位复杂度的编码性能增益，即相同复杂度代价下，RD性能的提升量。RDTscore越小即表明该选项更优。

2、分析参数间的相关性，定量计算它们的耦合系数，根据耦合系数对参数进行排序，以降低优化过程中由于耦合带来的性能损失和复杂度升高。

首先考虑两个参数之间的耦合情况。假设两个算法参数p_i和p_j取值单独改变导致的RD性能改变分别为

和

两个参数同时改变导致的RD性能改变为

定义参数间相关性系数

如下：

采用类似方法度量参数p_i与其他所有重要参数间整体的耦合关系。定义参数p_i的耦合系数Θp_i如下(其中p_j表示所选参数集中除p_i外的重要参数，m为p_j的个数)：

3、提出基于viterbi的参数选择算法，按照参数优化顺序依次确定每个参数的取值选项。使用该算法可确保每个参数的取值能为编码器带来最大的率-失真-复杂度性能提升。算法1中给出了基于viterbi的多参数选择算法。重要参数表示为

这里M表示重要参数的个数。每个参数的取值空间表示为P_m＝{p_m1,p_m2,…,p_mk,…,p_mKm}，这里第m个参数的候选取值个数为K_m。

算法1：基于viterbi的参数选择算法：

输入：目标编码时间T_t；

初始参数配置：Param_init；

重要参数集(按相关性顺序排序)：

参数P_m的取值空间：P_m＝{p_m1,p_m2,…,p_mk,…,p_mKm}；

使用当前参数组合的实际编码时间：T_r(Param_this)；

允许的编码时间误差：TE；

输出：目标参数组合

使用Param_this编码，根据编码结果计算RDTscore并更新T_r(Param_this)；

if(RDTscore(Param_this)<RDTscore(Param_best))then

Param_best＝Param_this；

输出Param_best,T_r(Param_this)；

使用Param_this编码，根据编码结果计算RDTscore并更新T_r(Param_this)；

if(RDTscore(Param_this)<RDTscore(Param_best))then

输出目标参数组合

和实际编码时间T_r(Param_this)；

该算法由两个循环组成，分别着重于率失真优化和编码时间限制。在第一个循环中，10个参数分为十个步骤按相关性顺序依次进行迭代，每个参数又根据其候选取值分为若干个步骤进行迭代。下一个参数取值的确定过程在上一个参数最优取值的基础上进行，最终可获得一组最优参数组合。第二个循环在第一个循环的基础上加入编码时间限制，同样分为多个步骤进行。对于同一个参数，它的取值越小编码时间越短。基于此规律，在第一个循环得到的最优参数组合的基础上，通过实际编码时间与目标编码时间对比来确定增大或减小参数取值(改变为相邻取值)。比较不同参数调整后的RDTscore，找出综合性能最好的参数作为本轮参数调整的对象，其他参数保持不变。更新参数组合，继续执行第二个循环直到在误差允许的范围内达到目标复杂度。

x265是当今最流行的HEVC视频编码器，由于并行性和某些早期终止算法，它相比HM有更高的编码效率，同时也具有更多的编码参数，因此本发明选取x265为载体进行实验和研究，并详细分析了该编码器预设模式涉及的全部31个编码参数，根据性能表现筛选出了ctu/min-cu-size、bframes/b-adapt、ref、subme、rect、max-merge、rd/rskip、sao、rdoq-Level、tu-inter-depth这10个重要参数。

1、参数的相关性分析结果

将ctu/min-cu-size、bframes/b-adapt、ref、subme、rect、max-merge、rd/rskip、sao、rdoq-Level、tu-inter-depth这10个参数按顺序编号为A-J，根据公式(3)分别测试它们两两之间的相关性系数；再根据公式(4)计算它们的耦合系数如表1所示。

表1：重要参数间的相关性系数及其与编码器的耦合系数

将各参数的Θpi由小到大排序，该顺序将作为参数的优化顺序。按参数决策顺序，逐渐确定各参数取值。参数间错综复杂的相关关系，按耦合系数由低到高排序后变为线性关系，如图2所示。

2、使用该参数选择算法得到的目标参数组合

设定一组目标复杂度，分别为medium模式下对应复杂度的0.5、1.0、1.5、2.0、2.5、3.0、3.5倍(允许的误差为+/-0.05倍)。通过参数选择算法可找到接近目标复杂度的参数组合。为了便于和预设模式的编码性能对比，本发明设置了0.4、0.7、1.1、1.0、3.5五个目标复杂度，分别对应superfast、faster、fast、medium、slow五种预设模式的复杂度。得到的10种新的参数配置及编码性能如表2所示。

表2：目标复杂度对应的参数组合：

Generated	P1	P2	P3	P4	P5	P6	P7	P8	P9	P10
											bframes/b-adapt	3/0	3/0	3/0	3/0	3/0	3/0	3/0	3/0	4/0	4/0
ref	5	4	5	6	6	6	3	6	4	6
											max-merge	5	5	5	5	5	5	5	5	5	5
subme	2	1	2	2	2	4	2	2	1	2
											rdoq-Level	2	2	2	2	2	2	2	2	2	2
tu-inter-depth	1	1	2	3	4	4	2	2	2	1
											rd/rskip	2/1	2/1	2/1	3/1	3/1	2/1	4/1	4/1	4/1	4/1
ctu/min-cu-size	16/8	32/8	32/8	32/8	32/8	32/8	32/8	32/8	64/8	64/8
											sao	1	1	1	1	1	1	1	1	1	1
rect	0	0	0	0	0	0	1	1	1	1
											BDBR	5.4％	-5.4％	-9.4％	-10.9％	-10.6％	-12.2％	-14.0％	-15.5％	-15.7％	-16.2％
目标复杂度	0.4	0.5	0.7	1.0	1.1	1.5	2.0	2.5	3.0	3.5
											实际复杂度	0.45	0.55	0.69	0.98	1.06	1.54	2.05	2.52	3.04	3.53
RDT-score	12.1％	-9.8％	-13.6％	-11.2％	-10.0％	-7.9％	-6.9％	-6.2％	-5.1％	-4.6％

3、实验结果分析

使用本发明的优化模型，与预设模式相比，可获得平均8.8％的BDBR降低。在与预设模式的RD性能相同时，新产生的参数配置获得的时间节省达43.6％，如表3所示。

表3：目标参数组合获得的RD性能提升及编码时间节省(a)目标参数组合获得的RD性能提升

(b)目标参数组合获得的编码时间节省

如图3所示，优化过程中所有编码参数组合相对于medium模式的BDBR和编码时间。其中每个点代表一组参数配置在标准测试集不同序列下的BDBR的平均值，浅色线代表所选的5种预设模式对应的参数组合，深色线代表根据10个目标复杂度得到的10组参数组合。通过对比，可以看出本发明参数选择方法的有效性。

以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的范围。

Claims (5)

1.一种基于参数选择的视频编码算法优化方法，其特征在于包括如下步骤：

S1，通过R-D-T综合性能评价指标，将率失真性能和编码复杂度进行综合分析；

S2，分析参数间的相关性，定量计算参数的耦合系数，根据耦合系数对参数进行排序；

S3，通过参数选择算法，按照参数优化顺序依次确定每个参数的取值选项，该算法包括两个循环，在第一个循环中，参数按相关性顺序依次进行迭代，每个参数又根据其候选取值进行迭代，下一个参数取值的确定过程在上一个参数最优取值的基础上进行，最终获得一组最优参数组合；第二个循环在第一个循环的基础上加入编码时间限制，依次进行迭代，基于同一个参数的取值越小，则编码时间越短的规律，在第一个循环得到的最优参数组合的基础上，通过实际编码时间与目标编码时间对比来确定增大或减小参数取值，比较不同参数调整后的RDTscore，从而找出综合性能最好的参数作为本轮参数调整的对象，其他参数保持不变；更新参数组合，继续执行第二个循环直到在误差允许的范围内达到目标复杂度。

2.如权利要求1所述的一种基于参数选择的视频编码算法优化方法，其特征在于所述步骤

S1包括如下步骤：

S11，将编码复杂度进行归一化处理：

其中EncodingTime表示当前编码时间，EncodingTime(AnchorPreset)表示预设模式的编码时间；

S12，定义统一的综合性能评价指标：

RDTscore为单位复杂度的编码性能增益，即相同复杂度代价下，RD性能的提升量，RDTscore越小即表明该选项更优，BDBR表示RD性能。

3.如权利要求1所述的一种基于参数选择的视频编码算法优化方法，其特征在于所述步骤

S2中定量计算参数的耦合系数，包括如下步骤：

S21，参数p_i和p_j取值单独改变，导致RD性能分别改变为

和

两个参数同时改变导致的RD性能改变为

定义参数间相关性系数

如下：

S22，度量参数p_i与其他参数间耦合关系，定义参数p_i的耦合系数Θp_i如下：

其中p_j表示所选参数集中除p_i外的参数，m为p_j的个数。

4.如权利要求1所述的一种基于参数选择的视频编码算法优化方法，其特征在于所述步骤S3中的增大或减小参数取值，是将参数取值改为相邻的参数取值。

5.如权利要求4所述的一种基于参数选择的视频编码算法优化方法，其特征在于所述步骤

S3中的参数选择算法，是基于viterbi的参数选择算法，包括如下步骤：

S31，按照参数优化顺序依次确定每个参数的取值选项，参数集表示为

M表示参数的个数，每个参数的取值空间表示为P_m＝{p_m1,p_m2,…,p_mk,…,p_mKm}，第m个参数的候选取值个数为K_m；

S32，进入第一循环，所述第一循环包括m循环和k循环，先进入m循环，m初始值为1，当m≤M时，进入k循环，k初始值为1，当k≤km时，进行取值操作，取p_mk作为实际编码Param_this，使用Param_this编码，根据编码结果计算RDTscore，并更新当前参数组合的实际编码时间T_r(Param_this)，随后k递增，继续进行k循环，直至k>km时跳出k循环，m递增，继续进行m循环，直至m>M时，跳出m循环，将RDTscore最小的Param_this作为最优编码Param_best，连同T_r(Param_this)输出，将Param_best作为目标参数组合

S33，进入第二循环，所述第二循环包括T_r循环和m’循环，先进入T_r循环，当|T_r(Param_this)-T_t|>TE时，进入m’循环，否则跳出T_r循环，并直接输出

所述T_t是目标编码时间，所述TE是允许的编码时间误差，m初始值为1，当m≤M时，进行第一判断，如果T_r(Param_this)-T_t>0，取p_m(k-1)作为实际编码Param_this，如果T_r(Param_this)-T_t<0，取p_m(k+1)作为实际编码Param_this，使用第一判断后的Param_this编码，根据编码结果计算RDTscore并更新T_r(Param_this)，进行第二判断，如果根据Param_this编码结果计算的RDTscore，小于根据Param_best编码结果计算的RDTscore，将Param_this作为

1≤k≤km时，继续进行T_r循环，否则m递增，并继续进行T_r循环，直至m>M时，跳出m’循环和T_r循环，并输出

和T_r(Param_this)。

Images