CN104320660A - 用于无损视频编码的率失真优化方法及编码方法 - Google Patents

Abstract

本发明公开了一种无损视频编码的率失真优化方法及相应的编码方法，所述优化方法包括：对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码的CU进行粗略RDO的参数α和β，其中R_residue＝αD_rough+β，参数α和β基于已编码CU的候选模式的D_rough、R_predInf和R_total数据，通过最小二乘回归算法获得。本发明充分利用了HEVC既有的编码结构，保持了原有标准中的语义和语法结构，在编码复杂度上和HEVC原有技术几乎一样，在RA-Main、LDB-Main和LDP-Main三种编码环境下比特率平均降低了1.0-1.3％。

Description

用于无损视频编码的率失真优化方法及编码方法

技术领域

本发明涉及视频编码领域，特别涉及一种无损视频编码的率失真优化方法及相应的编码方法。

背景技术

近年来，在医学图像和遥感视频等诸多要求无损传输或保存视频的领域，无损视频压缩技术正越来越重要。为了满足这些需求，已经有一系列编码压缩技术被提出。其中，HEVC(High Efficiency Video Coding)视频编码标准的无损技术，不管在性能和复杂度上表现都尤为出色。HEVC，即高性能视频标准，是由视频编码标准化组织JCT-VC(Joint CollaborativeTeam on Video Coding)于2013年1月正式发布的最新一代视频编码国际标准，在相同视频主观质量下，其比特率大约为上一代视频编码标准H.264/AVC的50％。

HEVC的编码基本框架和先前的H.264/AVC标准类似，依然采用混合编码模式。整个编码过程主要分为：预测、变换、量化、熵编码四步。预测部分分为帧内预测和帧间预测。帧内预测利用当前帧已重建像素作为参考像素进行初步预测，帧间预测利用前面或后面帧重建的像素值作为参考。然后将所得的预测值与当前块相减，进而得到残差，残差经过变换量化得到变换系数，最后将变换系数经过熵编码而得到最后的码流。不管是帧间预测，还是帧内预测都需要用到重建图像的信息，因而在编码过程中，还需要将残差图像进行反变换量化，再将该残差图像与预测值相加，最后经过一个环路滤波滤除视频图像中的噪声，同时可避免块效应等视频图像劣化影响。

在HEVC标准中，存在有损压缩和无损压缩两大类编码模式。对于互联网中传输的大部分视频，进行适当地有损失压缩可以很好地降低比特率，从而提高传输的效率。而对于医学视频、遥感视频、指纹等领域，无损压缩也存在很大的应用。当前的HEVC标准的设计中，有损模式为其默认模式，而无损模式是作为该标准的一个拓展部分，可以对整个帧或者某个编码单元(coding)设定其是否采用无损编码模式。不同于有损模式，无损模式的重建视频与原始之间不存在失真。对于HEVC标准，其主要由预测、变换、量化、熵编码和环路滤波器组成。而变换和量化都会带来失真，另外，由于重建视频中不存在噪声，因而环路滤波器也不需要。因此，在HEVC无损模式中，变换、量化以及环路滤波都被跳过。通过这种方法，HEVC只需要在有损模式上进行极少的变化即可以实现无损模式。此时，无损模式下，仅有预测和熵编码两个部分决定，因而，预测效果的优劣将大大影响最终编码性能的优劣。

为了提高编码性能，HEVC采用了更加弹性的编码结构，其采用大小不同的编码单元(CU)、预测单元(PU)以及变换单元(TU)。此外，帧内预测模式有多达35个预测模式，而帧间模式也采用更复杂的预测单元大小划分和更精确的运动估计。为了从众多模式中选择当前块的最优预测模式，HEVC采用了率失真优化(Rate-Distortion Optimization，RDO)技术。在率失真优化技术中，具有最小率失真代价(Rate-Distortion cost，RDcost)的模式将被采用，J(RD cost)的计算如公式(1)所示

J＝D+λR      (1)

其中J表示率失真代价，D表示重建图像块与原始图像块的失真度，一般用误差平方和(sum of square errors，SSE)表示，R表示在所预测的模式下编码该图像块所需的比特率(包括编码残差和编码预测模式所需的比特率)。

如公式(1)所示，率失真优化是为了找到编码比特率和重建视频质量的最优组合。而λ为拉格朗日乘数，用于权衡比特率在该RD cost中的权重，其表示减少一个比特率将产生的编码失真。由于编码的失真主要是由量化带来的，因而拉格朗日乘数λ通过量化参数QP(quantizationparameter)决定，可通过计算公式(2)获得。

λ＝Qpfactor×2^(QP-12)/3      (2)

其中，Qpfactor为量化系数，在该公式中为一常数，由帧类型等编码情况决定。

图1给出了计算公式(1)中的R和D所需流程。从图1可知，为了计算R，除了获得当前预测值外，还需要经过变换、量化、熵编码三个部分，而为了获得D，还需要进行反量化、反变换以及必要的滤波过程。因而，为了计算某一个模式的率失真代价J，已经需要很长的计算时间，而HEVC有众多的模式，如果每个模式都按照图1所示的流程一一计算，其编码复杂度将是非常惊人的。

为了解决上述问题，另外一种粗略率失真代价J_rough被用于从众多的模式中选择几个可能成为最优模式的候选模式，该过程我们称之为粗略RDO。其计算公式如(3)所示。

J_rough＝D_rough+λR_pred      (3)

其中，D_rough表示原始像素值和预测像素值之间的差值，而R_pred代表编码除了残差信息外的其他预测信息。由于这两个参数的获得不需要经过复杂的重建和残差熵编码过程，因而，相比精确RDO，虽然通过粗略RDO选取最佳模式会带来一定的性能损失，但所需的计算时间却大大降低。

综合考虑编码性能和计算复杂度，这两种准则均被HEVC所采用。具体地，先采用粗略RDO从众多模式中选择最有可能成为最优模式的几个候选模式，再通过精确RDO从这几个候选模式中选择RD cost最小的模式作为最优模式。

在当前的许多应用中，对视频进行无损压缩的需求越来越大，由于HEVC的无损编码模式可以提供较高的压缩率，其在视频无损压缩编码的应用也将越来越广泛。在HEVC标准的主流应用中，如机顶盒、视频监控等，要求很高的编码效率，因而不得不以产生一些失真作为代价，也就是说，主流应用多为有损压缩。然而，在HEVC有损压缩标准之上，再开发一套全新的编码工具来获得尽可能好的无损编码效率显然不切实际。因此，在进行HEVC无损编码方案设计时，应遵循这样的设计原则：尽可能地利用已有的HEVC有损编码结构，提出的无损编码方案对原始的有损编码结构改动尽可能小，同时考虑编码效率和复杂度的平衡。

如上文提到的，无损压缩中，重建视频和原始视频是完全一样的，即不存在编码失真。因而，无损压缩只有最小化编码所需的比特率这一个目标。在无损模式中，公式(1)中的D等于零，且λ为正，因而最小化公式(1)中的J与最小化R是完全等价的。因而，有损模式的精确RDO也适用于无损模式。但是，公式(3)中的D_rough为预测值与原始值的差值，不为零，因而，J_rough的值将随着λ的变化而变化，而由量化参数决定的λ将不适用于无损模式。具体的，公式(3)中的D_rough表示为原始像素与预测像素的差值函数，即

D_rough＝f(P_org-P_pred)      (4)

其中，P_org为原始像素值，P_pred为预测像素值。而原始像素值由重建残差、失真以及预测值组成，则公式(4)可重写为

D_rough＝f(P_resi+P_dst+P_pred-P_pred)＝f(P_resi+P_dst)      (5)

其中，P_resi为重建残差值，P_dst为失真，在无损模式中为零。因而无损模式中D_rough仅仅与残差的特性有关，而有损模式中，P_dst不为零，则D_rough还与失真有关。这就是在粗略RDO时由QP决定的λ在有损模式中有效，而在无损模式中却不适用的主要原因。

在有损压缩时，可以通过调节QP获得不同质量和不同比特率的码流，以满足不同应用场景的需求。这是因为，一方面，调整QP可以获得不同λ，从而调节RD cost中，比特率和重建图像质量之间的权衡关系。另一方面，也是最重要的一方面，QP越小，量化误差就越小，解码重建的视频图像质量就越好，但是编码产生的码流比特率就越高。所以，在有损压缩中，若其他编码条件一样，比特率随着QP的增加而降低，而视频图像解码重建质量随着QP的增加而降低。但是，在无损压缩中，已经不存在量化，除了调节λ，QP其实已经没有其他作用。因而对于无损压缩，通过公式(2)、(3)来获得最佳候选模式的方法已经不再合适。

发明内容

有鉴于此，本发明的目的是提供一种无损视频编码的率失真优化方法，以重新调整编码预测过程中的率失真优化技术，最大程度地降低无损压缩比特率。

为了实现上述目的，本发明提供了一种无损视频编码的率失真优化方法，包括以下步骤：

S1、对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码CU进行粗略RDO的参数α和β，其中R_residue＝αD_rough+β，D_rough表示在某个预测模式下进行粗略RDO时原始像素值和预测像素值之间的差值，R_residue表示在某个预测模式下编码残差所需比特率；

S2、对于所述未编码的CU，利用所述步骤S1获得的参数α和β，先采用粗略RDO从众多预测模式中选择最有可能成为最优预测模式的几个候选模式，再通过精确RDO从这几个候选模式中选择率失真代价最小的预测模式作为最优预测模式。

根据本发明的一种具体实施方式，如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧内预测模式，则α和β分别设置为和所述取值范围为[0.0，0.5]，所述取值范围为[-0.5，0.5]。

根据本发明的一种具体实施方式，在所述步骤S1中，如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧间预测模式，则α和β分别设置为和所述取值范围为[1.0，3.0]，所述取值范围为[-0.5，0.5]。

根据本发明的一种具体实施方式，在所述步骤S1中，如果该CU左边、上边和左上边仅存在一个相邻的已编码的CU，例如某一帧边缘位置的CU，则选择这个唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数。

根据本发明的一种具体实施方式，所述选择唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数的步骤为：

将所述唯一相邻已编码CU的经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得拟合参数α_reg和β_reg，分别作为公式(8)中的参数α和β：

R_total-R_predInf＝αD_rough+β      (8)，

其中R_total为某个模式所需的最终比特率，R_predInf编码预测模式信息所需比特率。

根据本发明的一种具体实施方式，在所述步骤S1中，如果当前未编码CU的左边、上边和左上边均存在相邻的已编码的CU，则该未编码CU进行粗略RDO的参数α通过式(9)获得，当参数α采用某一位置的已编码CU的拟合参数α_reg时，则该未编码CU的参数β也采用该位置的已编码CU的拟合参数β_reg：

在公式(9)中，表示当前未编码CU进行粗略RDO的参数α，L、U和C分别代表当前未编码CU的左边、上边以及左上边的已编码的CU经过最小二乘回归算法获得的拟合参数α_reg，即(N，mode)、(N，mode)和(N，mode)，其中，mode表示帧内预测或帧间预测的模式，left表示左边，upper表示上面，upperleft表示左上边，current表示当前，median(L，U，C)表示L、U、C三个数的中位数。

根据本发明的一种具体实施方式，当前未编码CU的左边、上边和左上边均存在相邻的已编码的CU时，计算某一已编码CU的拟合参数α_reg和β_reg的步骤为：

将所述某一已编码CU的经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得拟合参数α_reg和β_reg，分别作为公式(8)中的参数α和β：

R_total-R_predInf＝αD_rough+β      (8)，

其中R_total为某个模式所需的最终比特率，R_predInf为编码除残差信息外的其他预测模式信息所需比特率。

根据本发明的一种具体实施方式，在所述步骤S2中，选取具有最小式(10)中的粗略率失真代价J_rough的若干模式作为候选模式，

J_rough＝αD_rough+β+R_predInf      (10)，

其中R_predInf代表R_predInf编码预测模式信息所需比特率。本发明还提出一种无损视频编码方法，包括所述的无损视频编码的率失真优化方法。

本发明充分利用了HEVC既有的编码结构，保持了原有标准中的语义和语法结构，充分利用了HEVC既有的编码工具；本发明的方法在编码复杂度上，和HEVC原有技术几乎一样；以及在RA-Main、LDB-Main和LDP-Main三种编码环境下，本发明的方法的比特率平均降低了1.0-1.3％，特别是F类测试序列，其获得了平均高达2.1％到2.4％的比特率节省。

附图说明

图1是HEVC中的精确RDO的方法流程图；

图2是当前未编码CU周围的已编码CU的拟合参数α_reg的示意图；

图3是本发明的无损视频编码的率失真优化方法的流程图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明作进一步的详细说明。

在当前的许多应用中，对视频进行无损压缩的需求越来越大，由于HEVC的无损编码模式可以提供较高的压缩率，其在视频无损压缩编码的应用也将越来越广泛。在HEVC标准的主流应用中，如机顶盒、视频监控等，要求很高的编码效率，因而不得不以产生一些失真作为代价，也就是说，主流应用多为有损压缩。然而，在HEVC有损压缩标准之上，再开发一套全新的编码工具来获得尽可能好的无损编码效率显然不切实际。因此，在进行HEVC无损编码方案设计时，应遵循这样的设计原则：尽可能地利用已有的HEVC有损编码结构，提出的无损编码方案对原始的有损编码结构改动尽可能小，同时考虑编码效率和复杂度的平衡。

在无损模式中，残差不经过变换和量化直接进行熵编码，因而残差编码性能的好坏，直接由熵编码的性能决定。在HEVC标准中，只采用基于上下文自适应二进制算术编码(Context-based Adaptive Binary ArithmeticCoding，简称CABAC)进行残差熵编码。在该熵编码方法中，虽然有诸多因素会影响到最终编码比特率，但残差的大小和内部相关性是最主要的两方面。

由上面的分析可知，公式(3)中的D_rough可以表示残差的大小，若我们用参数α作为衡量残差内部的相关性的参数，则在无损模式中，我们可以设D_rough和编码残差所需比特率R_residue有如下关系：

R_residue＝αD_rough+β      (6)

其中β为该函数的截距，代表影响残差编码比特率的其他因素的总和。

如上文提到的，无损压缩的主要目标是最小化编码所需的比特率，而某个模式所需的最终比特率R_total为编码残差所需比特率R_residue和编码预测模式信息所需比特率R_predInf之和，即

R_total＝R_residue+R_predInf      (7)

联合公式(6)和(7)，我们有：

R_total-R_predInf＝αD_rough+β      (8)

对于当前编码单元(CU)的帧内或帧间预测，经过粗略RDO后，选出的几个候选模式会进行精确RDO，因而，经过精确RDO后，我们将可以获得几个候选模式的D_rough、R_predInf和R_total数据。基于这些数据，当前CU的参数α和β可以通过最小二乘回归算法获得。

图2是当前未编码CU周围的已编码CU的拟合参数α_reg的示意图。如图2所示，对于当前未编码CU，若其上边、左边以及左上边的CU已经编码，即，这些CU的拟合参数α_reg和β_reg已经通过上文所述的最小二乘回归算法获得，若当前CU的大小为N×N，则该CU的参数可以通过公式(9)获得。

在公式(9)中，表示当前未编码CU进行粗略RDO的参数α，L、U和C分别代表当前CU左边、上边以及左上边CU经过最小二乘回归算法获得的拟合参数α_reg，即(N，mode)、(N，mode)和(N，mode)。其中，mode表示帧内预测或帧间预测的模式，current表示当前。若当前CU的参数选定为某个位置的拟合参数α_reg时，则该位置的拟合参数β_reg将被选定为当前的CU的参数median(L，U，C)表示L、U、C三个数的中位数。

若该CU左边、上边和左上边都不存在已经编码的大小为N×N的CU，例如为某一帧的第一个大小为N×N的CU，则参数α和β分别设置为默认初始值和由于帧内预测模式残差的相关性大于帧间预测残差的相关性，则其参数α的默认初始值将小于帧间预测的参数α的默认初始值。另外，若该CU左边、上边和左上边仅存在一个已经编码的大小为N×N的CU，例如某一帧边缘位置大小为N×N的CU，则选择该唯一临近已编码CU的拟合参数α_reg和β_reg作为当前CU进行粗略RDO的参数。

图3为本发明的无损视频编码的率失真优化方法的流程图。如图3所示，该无损视频编码包括粗略RDO和精确RDO过程，本发明的方法包括如下步骤：

S1、对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码的CU进行粗略RDO的参数α和β，其中R_residue＝αD_rough+β，D_rough表示在某个预测模式下进行粗略RDO时原始像素值和预测像素值之间的差值，R_residue表示在某个预测模式下编码残差所需比特率。

S1.1若未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，例如该视频帧的第一个CU，则对参数α和β分别进行初始赋值。若当前预测模式为帧内预测模式，则α和β分别设置为和所述取值范围为[0.0，0.5]，所述取值范围为[-0.5，0.5]，该取值范围基于文献(F.Bossen，“Common Test Conditions and Software ReferenceConfigurations”，JCT-VC document，JCTVC-L1100，Geneva，Jan.2013)中提供的测试序列和测试条件获得，可根据实际编码条件调整。

若当前预测模式为帧间预测模式，则参数α和β分别设置为和所述取值范围为[1.0，3.0]，所述取值范围为[-0.5，0.5]，该取值范围基于文献(F.Bossen，“Common Test Conditions and SoftwareReference Configurations”，JCT-VC document，JCTVC-L 1100，Geneva，Jan.2013)中提供的测试序列和测试条件获得，可根据实际编码条件调整。

S1.2若该CU左边、上边和左上边仅存在一个相邻的已编码的CU，例如某一帧边缘位置的CU，则选择这个唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为该CU进行粗略RDO的参数。

具体的计算方法为，将所述唯一相邻已编码CU的经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得公式(8)中的拟合参数α_reg和β_reg，作为当前未编码的CU的拟合参数α_reg(N，mode)和β_reg(N，mode)，

R_total-R_predInf＝αD_rough+β      (8)

这两个参数的表达式为：

${\mathrm{\α}}_{\mathrm{reg}}(N,\mathrm{mode})=\frac{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\left(R_{\mathrm{residue}}\left(i\right)D_{\mathrm{rough}}\left(i\right)\right)-n{\stackrel{\‾}{R}}_{\mathrm{residue}}{\stackrel{\‾}{D}}_{\mathrm{rough}}}{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{\left(D_{\mathrm{rough}}\left(i\right)\right)}^2-n{\left({\stackrel{\‾}{D}}_{\mathrm{rough}}\right)}^2}---\left(11\right)$

${\mathrm{\β}}_{\mathrm{reg}}(N,\mathrm{mode})={\stackrel{\‾}{R}}_{\mathrm{residue}}-{\mathrm{\α}}_{\mathrm{reg}}^{\mathrm{mode}}\left(N\right){\stackrel{\‾}{D}}_{\mathrm{rough}}---\left(12\right)$

其中各CU的大小为N×N，n表示进行精确RDO的模式个数，R_residue为R_total-R_predInf，和分别表示各预测模式R_residue和D_rough的平均数。

该过程获得的参数α_reg(N，mode)和β_reg(N，mode)将作为后续未编码CU进行参数预测的候选拟合参数。

S1.3若当前未编码CU的左边、上边和左上边均存在相邻的已编码的CU，则该未编码CU进行粗略RDO的参数α通过式(9)获得，当参数α采用某一位置的已编码CU的拟合参数α_reg时，则该未编码CU的参数β也采用该位置的已编码CU的拟合参数β_reg。例如，若未编码CU选择左边已编码CU的拟合参数则当前CU的β参数为

在公式(9)中，表示当前未编码CU进行粗略RDO的参数α，L、U和C分别代表当前未编码CU的左边、上边以及左上边的已编码的CU经过最小二乘回归算法获得的拟合参数，即(N，mode)、(N，mode)和(N，mode)。其中，mode表示帧内预测或帧间预测的模式，left表示左边，upper表示上面，upperleft表示左上边，current表示当前，median(L，U，C)表示L、U、C三个数的中位数。

当前未编码CU的左边、上边和左上边均存在相邻的已编码的CU时，计算拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数的步骤与前面所述类似，在此不再赘述。

S2、对于所述未编码的CU，利用步骤S1获得的参数α和β，先采用粗略RDO从众多预测模式中选择最有可能成为最优预测模式的几个候选模式，再通过精确RDO从这几个候选模式中选择率失真代价最小的预测模式作为最优预测模式。

具体来说，使用上述方法获得的参数α和β作为当前未编码CU进行粗略RDO的参数，选取具有最小式(10)中的J_rough的若干模式作为候选模式。

J_rough＝αD_rough+β+R_predInf      (10)

接着，对于所选出的若干候选模式，通过图1所示的流程进行精确RDO，选取所述候选模式中具有公式(1)表示的最小率失真代价J的模式作为最终编码模式。

J＝D+λR      (1)

其中，对于无损模式，公式(1)中的D应为0，而R为包含编码残差信息在内的所有模式信息所需比特率，即公式(8)中的R_total。

实施例

为了验证本发明的有益效果，我们在最新的HEVC参考代码HM10.0上实现了该方法，并与参考代码中原有的跳过变换、量化、滤波的无损编码方法进行了对比。在仿真对比中，我们采用文献(F.Bossen，“CommonTest Conditions and Software Reference Configurations”，JCT-VC document，JCTVC-L1100，Geneva，Jan.2013)中提供的测试序列和测试条件作为仿真对比环境。其中，我们采用了三个编码环境，即随机接入主文件编码(Random Access Main Profile encoding，RA-Main)、低延时B主文件编码(Lowdelay B Main Profile encoding，LDB-Main)和低延时P主文件编码(Lowdelay P Main Profile encoding，LDP-Main)。我们对A类到F类全部视频序列都进行了测试，其中F类为屏幕录制视频序列，所含序列的分辨率不同，存在1280×720、1024×768和832×480多种分辨率，其他类别的视频序列的分辨率如表1所示。由于参考软件HM10.0中的默认编码方式为有损编码，我们需要将配置文件中指示是否进行无损编码的标志设置为1，即进行无损编码。

表1各类测试序列

序列类型	分辨率
		A类	2560×1600
B类	1920×1080
		C类	832×480
D类	416×240
		E类	1280×720

表2-4分别给出了在RA-Main、LDB-Main和LDP-Main三种编码环境下，HM10.0中原有无损编码方法和本发明提出的方法的比特率，其中比特率节省率通过下式获得：

比特率变化率＝100×(本发明比特率-原有方法比特率)/原有方法比特率％。

通过表2-4，我们可以看出，相对HM10.0中无损压缩的方法，本发明的编码比特率有了很大降低。从三个表格中，我们也可以发现本方法的编码时间和HM10.0的无损模式几乎一样，而编码比特率却下降了很多。三种编码环境下，本发明方法的比特率平均降低了1.0％到1.3％，特别是F类测试序列，其获得了平均高达2.1％到2.4％的比特率节省。

表2 RA-Main配置环境下实验结果

表3 LDB-Main配置环境下实验结果

表4 LDP-Main配置环境下实验结果

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种无损视频编码的率失真优化方法，包括以下步骤：

S1、对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码CU进行粗略RDO的参数α和β，其中R_residue＝αD_rough+β，D_rough表示在某个预测模式下进行粗略RDO时原始像素值和预测像素值之间的差值，R_residue表示在某个预测模式下编码残差所需比特率；

S2、对于所述未编码的CU，利用所述步骤S1获得的参数α和β，先采用粗略RDO从众多预测模式中选择最有可能成为最优预测模式的几个候选模式，再通过精确RDO从这几个候选模式中选择率失真代价最小的预测模式作为最优预测模式。

2.根据权利要求1所述的率失真优化方法，其特征在于，在所述步骤S1中，如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧内预测模式，则α和β分别设置为和所述取值范围为[0.0，0.5]，所述取值范围为[-0.5，0.5]。

3.根据权利要求1所述的率失真优化方法，其特征在于，在所述步骤S1中，如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧间预测模式，则α和β分别设置为和所述取值范围为[1.0，3.0]，所述取值范围为[-0.5，0.5]。

4.根据权利要求1所述的率失真优化方法，其特征在于，在所述步骤S1中，如果该CU左边、上边和左上边仅存在一个相邻的已编码的CU，则选择这个唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数。

5.根据权利要求4所述的率失真优化方法，其特征在于，所述选择唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数的步骤为：

将所述唯一相邻已编码CU的经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得拟合参数α_reg和β_reg，分别作为公式(8)中的参数α和β：

R_total-R_predInf＝αD_rough+β                        (8)，

其中R_total为某个模式所需的最终比特率，R_predInf为编码除残差信息外的其他预测模式信息所需比特率。

6.根据权利要求1所述的率失真优化方法，其特征在于，在所述步骤S1中，如果当前未编码CU的左边、上边和左上边均存在相邻的已编码的CU，则该未编码CU进行粗略RDO的参数α通过式(9)获得，当参数α采用某一位置的已编码CU的拟合参数α_reg时，则该未编码CU的参数β也采用该位置的已编码CU的拟合参数β_reg：

在公式(9)中，表示当前未编码CU进行粗略RDO的参数α，L、U和C分别代表当前未编码CU的左边、上边以及左上边的已编码的CU经过最小二乘回归算法获得的拟合参数α_reg，即 和其中，mode表示帧内预测或帧间预测的模式，left表示左边，upper表示上面，upperleft表示左上边，current表示当前，median(L，U，C)表示L、U、C三个数的中位数。

7.根据权利要求6所述的率失真优化方法，其特征在于，当前未编码CU的左边、上边和左上边均存在相邻的已编码的CU时，计算某一已编码CU拟合参数α_reg和β_reg的步骤为：

将某一已编码CU经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得拟合参数α_reg和β_reg，分别作为公式(8)中的参数α和β：

R_total-R_predInf＝αD_rough+β                  (8)，

其中R_total为某个模式所需的最终比特率，R_predInf为编码除残差信息外的其他预测模式信息所需比特率。

8.根据权利要求1所述的率失真优化方法，其特征在于，在所述步骤S2中，选取具有最小式(10)中的粗略率失真代价J_rough的若干模式作为候选模式，

J_rough＝αD_rough+β+R_predInf                  (10)，

其中R_predInf代表编码除残差信息外的其他预测模式信息所需比特率。

9.一种无损视频编码方法，包括权利要求1-8中任一项所述的无损视频编码的率失真优化方法。