CN102780886B - 一种率失真优化方法 - Google Patents

Abstract

本发明涉及一种率失真优化方法，其包括步骤：获取当前帧内每个基本编码单元的块层拉格朗日参数以及当前帧的帧层拉格朗日参数；根据块层拉格朗日参数和帧层拉格朗日参数，获取当前帧内每个基本编码单元的最终拉格朗日参数；根据最终拉格朗日参数，对当前帧内每个基本编码单元进行率失真优化编码，得到当前帧内每个基本编码单元码率值和失真值，进而得到当前帧的码率值和失真值；根据当前帧内至少两个基本编码单元码率值和失真值，建立帧层率失真模型，根据帧层率失真模型和当前帧的码率值和失真值，估算下一帧的帧层拉格朗日参数。本发明的率失真优化方法通过综合帧层的率失真优化和基本编码单元层的率失真优化，实现对视频内容的最佳率失真优化。

Description

一种率失真优化方法

技术领域

本发明涉及图像/视频编解码领域，更具体地说，涉及一种率失真优化方法。

背景技术

以国际标准H264为参考，对基本编码单元进行编码时，可以选择不同的编码模式。编码模式的选择包括对帧内预测方式或帧间预测方式的选择，也可以包括对基本编码单元的分割方式(例INTRA-4x4、INTRA-8x8、INTRA-16x16、SKIP、DIRECT、INTER-16x16、INTER-16x8、INTER-8x16、INTER-8x8、对INTER-8x8可以进一步分为INTER-8x8、INTER-8x4、INTER-4x8、INTER-4x4)的选择，还可以包括对预测块位置(例Intra_4x4_Vertical、Intra_4x4_Horizontal、Intra_4x4_Diagonal_Down_Left、Intra_4x4_Diagonal_Down_Right、Intra_4x4_Vertical_Right、Intra_4x4_Horizontal_Down、Intra_4x4_Vertical_Left、Intra_4x4_Horizontal_Up、Intra_4x4_DC)的选择。编码模式的确定是通过率失真优化实现的，其中率失真优化是对以下代价函数J求最小值的过程，

J(s,c,mode|QP)＝D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)，

其中D是失真值，R是码率值，s和c分别表示原图和通过编解码处理的再建图像的相应基本编码单元，mode表示基本编码单元的可选择编码模式，QP为量化参数，λmode是用来折衷失真值和码率值的拉格朗日参数。

率失真优化是在量化参数QP已定的条件下，确定能使上述代价函数J最小的mode。在H264标准中，λmode是由量化参数QP决定的，即有

λ_mode＝0.85×2^(QP-12)/3，

上述率失真优化方式只是一个统计近似结果，缺乏对视频内容的自适应能力，没有考虑帧间内容的连续性，对连续帧间的率失真关系没有任何的限制。故有可能导致连续帧间的率失真不平衡，造成连续帧间的失真或码率起伏过大。

故，有必要提供一种率失真优化方法，以解决现有技术所存在的问题。

发明内容

本发明要解决的技术问题在于，针对现有技术中的率失真优化方法不能对视频内容进行自适应优化的缺陷，提供一种通过综合帧层的率失真优化和基本编码单元层的率失真优化，实现对视频内容的最佳率失真优化的率失真优化方法。

本发明解决其技术问题所采用的技术方案是：本发明涉及一种率失真优化方法，其包括步骤：

A、获取当前帧内每个基本编码单元的块层拉格朗日参数以及当前帧的帧层拉格朗日参数；

B、根据所述基本编码单元的块层拉格朗日参数和所述当前帧的帧层拉格朗日参数，获取所述当前帧内每个基本编码单元的最终拉格朗日参数；

C、根据所述最终拉格朗日参数，对所述当前帧内每个基本编码单元进行率失真优化编码，得到所述当前帧内每个基本编码单元对应的码率值和失真值，进而得到当前帧对应的码率值和失真值；

D、根据所述当前帧内至少两个基本编码单元对应的码率值和失真值，建立帧层率失真模型，根据所述帧层率失真模型和所述当前帧对应的码率值和失真值，估算下一帧的帧层拉格朗日参数；

所述步骤D包括：根据所述当前帧的至少两个所述基本编码单元的码率值和失真值，采用下式建立所述帧层率失真模型，

D＝αR^β，β<0，

其中R为码率值，D为相应的失真值，α、β为模型参数。

在本发明所述的率失真优化方法中，当使用两个所述基本编码单元的码率值和失真值，建立所述帧层率失真模型时，所述模型参数通过下式取得，

$\mathrm{\&alpha;}=D_1{R_1}^{-({\mathrm{lnD}}_1-{\mathrm{lnD}}_2)/({\mathrm{lnR}}_1-{\mathrm{lnR}}_2)},$

$\mathrm{\&beta;}=\frac{{\mathrm{lnD}}_1-{\mathrm{lnD}}_2}{{\mathrm{lnR}}_1-{\mathrm{lnR}}_2},$

其中R₁和R₂为所述两个基本编码单元的码率值，D₁和D₂为所述两个基本编码单元对应的失真值，α、β为模型参数。

在本发明所述的率失真优化方法中，当使用N个所述基本编码单元的码率值和失真值，建立所述帧层率失真模型时，所述模型参数通过下式取得，

α＝e^q，

β＝p，

$p=\frac{N\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n-\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

x_n＝lnR_n，y_n＝lnD_n，

N>2，

其中，α、β为模型参数，R_n为第n个基本编码单元的码率值,D_n为第n个基本编码单元对应的失真值，x_n、y_n、p、q为计算的中间参数，e为自然对数的底数。

在本发明所述的率失真优化方法中，所述每个基本编码单元的块层拉格朗日参数为：

λ_B＝0.85×2^(QP-12)/3，

其中λ_B为所述每个基本编码单元的块层拉格朗日参数，QP为所述基本编码单元的量化参数。

在本发明所述的率失真优化方法中，所述步骤B具体为：通过下式获取所述最终拉格朗日参数，

λ_mode＝w₁λ_B+w₂λ_F,0，

其中λ_mode为所述基本编码单元的最终拉格朗日参数，λ_F,0为所述基本编码单元所在的当前帧的帧层拉格朗日参数，λ_B为所述基本编码单元的块层拉格朗日参数，w₁、w₂为相应的加权系数，所述加权系数w₁、w₂根据上一帧的编码结果取得。

在本发明所述的率失真优化方法中，通过下式获取所述加权系数w₁、w₂，

x_n＝λ_B,n，

y_n＝λ_mode,n，

$p=\frac{N\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n-\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

w₁＝p，

$w_2=\frac{q}{{\mathrm{\&lambda;}}_{F,-1}},$

其中，N为从上一帧选出的基本编码单元个数，λ_B,n为第n个(n＝1～N)基本编码单元的块层拉格朗日参数，λ_mode,n为第n个基本编码单元的最终拉格朗日参数，λ_F,-1为上一帧的帧层拉格朗日参数，x_n、y_n、p、q为计算的中间参数。

在本发明所述的率失真优化方法中，所述步骤C包括：通过下式获取所述当前帧的所述基本编码单元的率失真优化的最小编码代价，

J(s,c,mode|QP)＝min[D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)]，

其中J为最小编码代价，D为失真值，R为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的相应基本编码单元，mode表示所述基本编码单元的可选择编码模式，QP为所述基本编码单元的量化参数，λ_mode为相应的最终拉格朗日参数；

根据所述最小编码代价，选择相应的编码模式，对所述当前帧的所述基本编码单元进行率失真优化编码。

在本发明所述的率失真优化方法中，所述步骤D还包括：通过下式估算下一帧的帧层拉格朗日参数，

λ_F,+1＝-(D(A₁)-D(A₂))/(R(A₁)-R(A₂))，

其中，λ_F,+1为下一帧的帧层拉格朗日参数，R(A₁)为第一交点的码率值，R(A₂)为第二交点的码率值，D(A₁)为第一交点的失真值，D(A₂)为第二交点的失真值，所述第一交点为R～D平面中R＝R_A与所述率失真模型所确定曲线的交点，所述第二交点为D＝D_A与所述率失真模型所确定曲线的交点，R_A为帧层码率值，D_A为帧层失真值。

在本发明所述的率失真优化方法中，所述帧层码率值R_A为所述当前帧中所有基本编码单元的码率值之和，所述帧层失真值D_A通过对所述当前帧的原图与所述当前帧的再建图像求基于结构相似指标的误差获得。

在本发明所述的率失真优化方法中，所述结构相似指标的计算具体为：

SSIM(s,c)＝L(s,c)·G(s,c)·H(s,c),

$L(s,c)=\frac{2{\mathrm{\&mu;}}_s{\mathrm{\&mu;}}_c+C_1}{{\mathrm{\&mu;}}_s^2+{\mathrm{\&mu;}}_c^2+C_1},$

$G(s,c)=\frac{2{\mathrm{\&sigma;}}_s{\mathrm{\&sigma;}}_c+C_2}{{\mathrm{\&sigma;}}_s^2+{\mathrm{\&sigma;}}_c^2+C_2},$

$H(s,c)=\frac{{\mathrm{\&sigma;}}_{sc}+C_3}{{\mathrm{\&sigma;}}_s{\mathrm{\&sigma;}}_c+C_3},$

其中SSIM为结构相似指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，L表示亮度相似度，G表示对比相似度，H表示结构相似度；μ_s为s内像素的平均值，μ_c为c内像素的平均值，σ_s为s内像素的标准差，为s内像素的方差值，σ_c为c内像素的标准差，为c内像素的方差值，σ_sc为s内像素和c内对应像素的协方差值，C₁、C₂、C₃为常数。

实施本发明的率失真优化方法，具有以下有益效果:通过综合帧层的率失真优化和基本编码单元层的率失真优化，实现对视频内容的最佳率失真优化。避免了现有技术的率失真优化方法不能对视频内容进行自适应优化的技术问题。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为本发明的率失真优化方法的第一优选实施例的流程图；

图2为本发明的率失真优化方法的第一优选实施例的具体流程框图；

图3为本发明的率失真优化方法中获取下一帧的帧层拉格朗日参数的示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

请参照图1，图1为本发明的率失真优化方法的第一优选实施例的流程图。该率失真优化方法开始于：

步骤101，获取当前帧内每个基本编码单元的块层拉格朗日参数以及当前帧的帧层拉格朗日参数；

步骤102，根据所述基本编码单元的块层拉格朗日参数和所述当前帧的帧层拉格朗日参数，获取所述当前帧内每个基本编码单元的最终拉格朗日参数；

步骤103，根据所述最终拉格朗日参数，对所述当前帧内每个所述基本编码单元进行率失真优化编码，得到每个基本编码单元对应的码率值和失真值，进而得到当前帧对应的码率值和失真值；

步骤104，根据当前帧内至少两个基本编码单元对应的码率值和失真值，建立帧层率失真模型，根据所述当前帧对应的码率值和失真值，以及当前帧的帧层率失真模型，估算下一帧的帧层拉格朗日参数，以及计算下一帧的最终拉格朗日参数时所用的加权系数。

请参照图1和图2，图2为本发明的率失真优化方法的第一优选实施例的具体流程框图。下面通过图2详细地说明本发明的率失真优化方法的具体实施过程。

首先，在步骤101之前，输入待编码视频的一个独立编码部分，比如GOP(画面组，GroupofPictures)中的一帧至编码装置，其中GOP内各帧可有不同的编码方式，根据现行视频编码标准，编码方式可以分为I帧方式、P帧方式和B帧方式。本发明的率失真优化方法可分别适用于I帧、P帧以及B帧，为了说明的简便性这里不再区分I帧、P帧以及B帧，而是使用统一的方式加以描述。

画面帧输入到编码装置后，由编码获取单元将该画面帧分割为基本编码单元，简单地可以把帧分割为16x16像素大小的宏块，以每一宏块作为一个基本编码单元。这里不排除采用其他的分割方法，如采用条带作为基本编码单元。然后对基本编码单元的所有可选择编码模式逐一进行选择，针对每一可选择编码模式，完成相应的编码和解码处理，得到基本编码单元对应的再建图像，编码和解码的处理方法可以依据各种视频编码标准进行。比如，编码处理可以依次执行以下各步骤：确定预测块、残差计算、DCT变换(离散余弦变换，DiscreteCosineTransform)、量化、熵编码。解码处理则是对上述各步骤的反向操作。本发明的率失真优化方法对该编码和解码处理的具体方法不做限制。

随后来到步骤101，在步骤101中，获取当前帧内每个基本编码单元的块层拉格朗日参数λ_B以及当前帧的帧层拉格朗日参数λ_F,0。其中基本编码单元的块层拉格朗日参数为：

λ_B＝0.85×2^(QP-12)/3，

其中λ_B为所述基本编码单元的块层拉格朗日参数，QP为所述基本编码单元的量化参数。需要指出的是，每个基本编码单元可以有不同的λ_B和QP值，但为了说明简洁，这里不加区别地用λ_B和QP表示一个基本编码单元的块层拉格朗日参数和量化参数。当前帧的帧层拉格朗日参数λ_F,0由对上一帧的编码结果确定，具体方法下文详细阐述。如果当前帧为一个编码方式(即I帧、P帧或B帧方式)的初始帧，则可取λ_F,0为一个指定数，例如0。

随后来到步骤102，在步骤102中，根据每个基本编码单元的块层拉格朗日参数λ_B和每个基本编码单元所在当前帧的帧层拉格朗日参数λ_F,0，获取每个所述基本编码单元的最终拉格朗日参数λ_mode。具体为通过下式获取每个基本编码单元的最终拉格朗日参数，

λ_mode＝w₁λ_B+w₂λ_F,0，

其中λ_mode为一个基本编码单元的最终拉格朗日参数，λ_F,0为所述基本编码单元所在的当前帧的帧层拉格朗日参数，λ_B为所述基本编码单元的块层拉格朗日参数，w₁、w₂为相应的加权系数，该加权系数w₁、w₂通过对上一帧的编码结果计算取得，具体方法在下面详细阐述。如果当前帧为初始帧，则可取为指定数，例如w₁为1，w₂为0。如前所述，每个基本编码单元的λ_mode，λ_B可取不同值，这里只是为说明简洁，采用了统一的记号。而同一帧内的所有基本编码单元的λ_F,0，w₁、w₂的值相同。

随后来到步骤103，在步骤103中，根据每个基本编码单元各自的最终拉格朗日参数，对当前帧内每个基本编码单元进行率失真优化编码，得到对应的码率值和失真值，并进一步得到当前帧对应的码率值和失真值，同时建立当前帧的帧层率失真模型。具体包括：

通过下式获取所述当前帧内一个基本编码单元的率失真优化的最小编码代价，

J(s,c,mode|QP)＝min[D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)]，

其中J为最小编码代价，D为失真值，R为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的相应基本编码单元，mode表示所述基本编码单元的可选择编码模式，QP为所述基本编码单元的量化参数，λ_mode为相应的最终拉格朗日参数；

通过上式找到率失真优化的最小编码代价，这样可以从可选择编码模式中找到每个基本编码单元的最佳编码模式，然后采用该最佳编码模式对该基本编码单元进行编码。当一帧中的所有基本编码单元均完成了上述的编码，则该帧的编码完成。

同时，采用上述最佳编码模式对基本编码单元编码，可以得到该基本编码单元对应的码率值和失真值。

上述基本编码单元的失真值可通过计算原图和再建图像的相应基本编码单元间的基于结构相似指标的误差得到。其中结构相似指标的计算具体为：

SSIM(s,c)＝L(s,c)·G(s,c)·H(s,c),

$L(s,c)=\frac{2{\mathrm{\&mu;}}_s{\mathrm{\&mu;}}_c+C_1}{{\mathrm{\&mu;}}_s^2+{\mathrm{\&mu;}}_c^2+C_1},$

$G(s,c)=\frac{2{\mathrm{\&sigma;}}_s{\mathrm{\&sigma;}}_c+C_2}{{\mathrm{\&sigma;}}_s^2+{\mathrm{\&sigma;}}_c^2+C_2},$

$H(s,c)=\frac{{\mathrm{\&sigma;}}_{sc}+C_3}{{\mathrm{\&sigma;}}_s{\mathrm{\&sigma;}}_c+C_3},$

其中SSIM为结构相似指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，L表示亮度相似度，G表示对比相似度，H表示结构相似度；μ_s为s内像素的平均值，μ_c为c内像素的平均值，σ_s为s内像素的标准差，为s内像素的方差值，σ_c为c内像素的标准差，为c内像素的方差值，σ_sc为s内像素和c内对应像素的协方差值，C₁、C₂、C₃为常数，C₁、C₂、C₃的值可以通过实验得到。基于结构相似指标的误差可取1-SSIM(其中SSIM小于1)。

随后，根据上述对当前帧内每个基本编码单元的编码，可以得到当前帧对应的码率值和失真值。其中，码率值为当前帧内所有基本编码单元的码率值之和。失真值为通过对当前帧的原图与当前帧的再建图像求基于结构相似指标的误差获得。

随后来到步骤104，在步骤104中，根据当前帧内至少两个基本编码单元的码率值R和失真值D，采用下式建立描述帧层率失真关系的帧层率失真模型，

D＝αR^β，β<0，

其中R为码率值，D为相应的失真值，α、β为模型参数。

具体为，当使用两个基本编码单元的码率值和失真值来建立帧层率失真模型时，可用下式得到帧层率失真模型的模型参数，

$\mathrm{\&alpha;}=D_1{R_1}^{-({\mathrm{lnD}}_1-{\mathrm{lnD}}_2)/({\mathrm{lnR}}_1-{\mathrm{lnR}}_2)},$

$\mathrm{\&beta;}=\frac{{\mathrm{lnD}}_1-{\mathrm{lnD}}_2}{{\mathrm{lnR}}_1-{\mathrm{lnR}}_2},$

其中R₁和R₂为所述两个基本编码单元对应的码率值，D₁和D₂为所述两个基本编码单元对应的失真值，α、β为模型参数。

当使用N个基本编码单元的码率值和失真值来建立帧层率失真模型时，可用下式得到帧层率失真模型的模型参数

α＝e^q，

β＝p，

$p=\frac{N\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n-\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

x_n＝lnR_n，y_n＝lnD_n，

N>2，

其中，α、β为模型参数，R_n为第n(n＝1～N)个基本编码单元对应的码率值,D_n为该基本编码单元对应的失真值，x_n、y_n、p、q为计算的中间参数，e为自然对数的底数。

根据当前帧的帧层率失真模型，以及当前帧对应的码率值和失真值，估算下一帧的帧层拉格朗日参数以及下一帧对应的加权系数w₁、w₂。

如图3所示，图3为本发明的率失真优化方法中获取下一帧的帧层拉格朗日参数的示意图。图3中的曲线为所述帧层率失真模型所确定的曲线，其中A点的坐标为当前帧对应的码率值R_A和失真值D_A在该坐标系中的坐标，如前所述，码率值R_A为当前帧中所有基本编码单元的码率值之和，失真值D_A通过对整个帧的原图与再建图像求基于结构相似指标的误差获得。假设过A点的纵向与横向直线分别与曲线的交点为A1点和A2点，其中A1点的坐标为(R(A₁)，D(A₁))，A2点的坐标为(R(A₂)，D(A₂))，A1点和A2点构成的直线斜率就可作为下一帧的帧层拉格朗日参数λ_F,+1。这里也可计算曲线上到A点的距离最近的点，曲线在该点的斜率即可作为下一帧的帧层拉格朗日参数λ_F,+1。

具体地，可通过下式计算下一帧的帧层拉格朗日参数，

λ_F,+1＝-(D(A₁)-D(A₂))/(R(A₁)-R(A₂))，

其中，λ_F,+1为下一帧的帧层拉格朗日参数，R(A₁)为第一交点的码率值，R(A₂)为第二交点的码率值，D(A₁)为第一交点的失真值，D(A₂)为第二交点的失真值，第一交点为R～D平面中R＝R_A与上述当前帧的帧层率失真模型所确定曲线的交点，第二交点为D＝D_A与上述率失真模型所确定曲线的交点，R_A为上述当前帧对应的码率值，D_A为上述当前帧对应的失真值。

当前帧对应的加权系数w₁、w₂的计算方法如下，

x_n＝λ_B,n，

y_n＝λ_mode,n，

$p=\frac{N\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n-\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

w₁＝p，

$w_2=\frac{q}{{\mathrm{\&lambda;}}_{F,-1}},$

其中，N为从上一帧选出的基本编码单元个数，λ_B,n为第n个(n＝1～N)基本编码单元的块层拉格朗日参数，λ_mode,n为第n个基本编码单元的最终拉格朗日参数，λ_F,-1为上一帧的帧层拉格朗日参数，x_n、y_n、p、q为计算的中间参数。

这样通过上式可以获得计算下一帧每个基本编码单元的最终拉格朗日参数时要用到的加权系数。

综上所述，本发明的率失真优化方法通过综合帧层的率失真优化和基本编码单元层的率失真优化，保证了连续帧间的率失真特性的连续性，实现对视频内容的最佳率失真优化。同时率失真优化可以依帧编码的类型(即I帧、P帧或B帧)各自独立实现；本发明的率失真优化方法很好的避免了现有技术的率失真优化方法不能对视频内容进行自适应优化的技术问题。

以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种率失真优化方法，其特征在于，包括步骤：

A、获取当前帧内每个基本编码单元的块层拉格朗日参数以及当前帧的帧层拉格朗日参数；

B、根据所述基本编码单元的块层拉格朗日参数和所述当前帧的帧层拉格朗日参数，获取所述当前帧内每个基本编码单元的最终拉格朗日参数；

C、根据所述最终拉格朗日参数，对所述当前帧内每个基本编码单元进行率失真优化编码，得到所述当前帧内每个基本编码单元对应的码率值和失真值，进而得到当前帧对应的码率值和失真值；

D、根据所述当前帧内至少两个基本编码单元对应的码率值和失真值，建立帧层率失真模型，根据所述帧层率失真模型和所述当前帧对应的码率值和失真值，估算下一帧的帧层拉格朗日参数；

所述步骤D包括：根据所述当前帧的至少两个所述基本编码单元的码率值和失真值，采用下式建立所述帧层率失真模型，

D＝αR^β，β＜0，

其中R为码率值，D为相应的失真值，α、β为模型参数。

2.根据权利要求1所述的率失真优化方法，其特征在于，当使用两个所述基本编码单元的码率值和失真值，建立所述帧层率失真模型时，所述模型参数通过下式取得，

$\mathrm{\&alpha;}=D_1{R_1}^{-\left({\mathrm{lnD}}_1-{\mathrm{lnD}}_2\right)/\left({\mathrm{lnR}}_1-{\mathrm{lnR}}_2\right)},$

$\mathrm{\&beta;}=\frac{{\mathrm{lnD}}_1-{\mathrm{lnD}}_2}{{\mathrm{lnR}}_1-{\mathrm{lnR}}_2},$

其中R₁和R₂为所述两个基本编码单元的码率值，D₁和D₂为所述两个基本编码单元对应的失真值，α、β为模型参数。

3.根据权利要求1所述的率失真优化方法，其特征在于，当使用N个所述基本编码单元的码率值和失真值，建立所述帧层率失真模型时，所述模型参数通过下式取得，

α＝e^q，

β＝p，

$p=\frac{N\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

x_n＝lnR_n，y_n＝lnD_n，

N＞2，

其中，α、β为模型参数，R_n为第n个基本编码单元的码率值,D_n为第n个基本编码单元对应的失真值，x_n、y_n、p、q为计算的中间参数，e为自然对数的底数。

4.根据权利要求1所述的率失真优化方法，其特征在于，所述每个基本编码单元的块层拉格朗日参数为：

λ_B＝0.85×2^(QP-12)/3，

其中λ_B为所述每个基本编码单元的块层拉格朗日参数，QP为所述基本编码单元的量化参数。

5.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤B具体为：通过下式获取所述最终拉格朗日参数，

λ_mode＝w₁λ_B+w₂λ_F,0，

其中λ_mode为所述基本编码单元的最终拉格朗日参数，λ_F,0为所述基本编码单元所在的当前帧的帧层拉格朗日参数，λ_B为所述基本编码单元的块层拉格朗日参数，w₁、w₂为相应的加权系数，所述加权系数w₁、w₂根据上一帧的编码结果取得。

6.根据权利要求5所述的率失真优化方法，其特征在于，通过下式获取所述加权系数w₁、w₂，

x_n＝λ_B,n，

y_n＝λ_mode,n，

$p=\frac{N\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2\underset{n=1}{\overset{N}{\&Sigma;}}{y}_n-\underset{n=1}{\overset{N}{\&Sigma;}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n}{N\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\&Sigma;}}{x}_n\right)}^2},$

w₁＝p，

$w_2=\frac{q}{{\mathrm{\&lambda;}}_{F,-1}},$

其中，N为从上一帧选出的基本编码单元个数，λ_B,n为第n个(n＝1～N)基本编码单元的块层拉格朗日参数，λ_mode,n为第n个基本编码单元的最终拉格朗日参数，λ_F,-1为上一帧的帧层拉格朗日参数，x_n、y_n、p、q为计算的中间参数。

7.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤C包括：通过下式获取所述当前帧的所述基本编码单元的率失真优化的最小编码代价，

J(s,c,mode|QP)＝min[D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)]，

其中J为最小编码代价，D为失真值，R为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的相应基本编码单元，mode表示所述基本编码单元的可选择编码模式，QP为所述基本编码单元的量化参数，λ_mode为相应的最终拉格朗日参数；

根据所述最小编码代价，选择相应的编码模式，对所述当前帧的所述基本编码单元进行率失真优化编码。

8.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤D还包括：通过下式估算下一帧的帧层拉格朗日参数，

λ_F,+1＝-(D(A₁)-D(A₂))/(R(A₁)-R(A₂))，

其中，λ_F,+1为下一帧的帧层拉格朗日参数，R(A₁)为第一交点的码率值，R(A₂)为第二交点的码率值，D(A₁)为第一交点的失真值，D(A₂)为第二交点的失真值，所述第一交点为R～D平面中R＝R_A与所述率失真模型所确定曲线的交点，所述第二交点为D＝D_A与所述率失真模型所确定曲线的交点，R_A为帧层码率值，D_A为帧层失真值。

9.根据权利要求8所述的率失真优化方法，其特征在于，所述帧层码率值R_A为所述当前帧中所有基本编码单元的码率值之和，所述帧层失真值D_A通过对所述当前帧的原图与所述当前帧的再建图像求基于结构相似指标的误差获得。

10.根据权利要求9所述的率失真优化方法，其特征在于，所述结构相似指标的计算具体为：

SSIM(s,c)＝L(s,c)·G(s,c)·H(s,c),

$L(s,c)=\frac{2{\mathrm{\&mu;}}_s{\mathrm{\&mu;}}_c+C_1}{{\mathrm{\&mu;}}_s^2+{\mathrm{\&mu;}}_c^2+C_1},$

$G(s,c)=\frac{2{\mathrm{\&sigma;}}_s{\mathrm{\&sigma;}}_c+C_2}{{\mathrm{\&sigma;}}_s^2+{\mathrm{\&sigma;}}_c^2+C_2},$

$H(s,c)=\frac{{\mathrm{\&sigma;}}_{sc}+C_3}{{\mathrm{\&sigma;}}_s{\mathrm{\&sigma;}}_c+C_3},$

其中SSIM为结构相似指标，s表示原图的基本编码单元，c表示通过编解码处理的再建图像相应的基本编码单元，L表示亮度相似度，G表示对比相似度，H表示结构相似度；μ_s为s内像素的平均值，μ_c为c内像素的平均值，σ_s为s内像素的标准差，为s内像素的方差值，σ_c为c内像素的标准差，为c内像素的方差值，σ_sc为s内像素和c内对应像素的协方差值，C₁、C₂、C₃为常数。