CN102821281B - 一种率失真优化方法 - Google Patents

Abstract

本发明涉及一种率失真优化方法，包括步骤：获取基本编码单元的初期拉格朗日参数，并根据该初期拉格朗日参数，得到当前帧的各基本编码单元的初期率失真优化结果，并根据基本编码单元的对应于不同编码模式的两组以上的失真值和码率值建立基本编码单元的率失真模型；计算基本编码单元的视频内容的复杂程度；根据基本编码单元的视频内容的复杂程度和预定的容许失真指标，获取最大容许失真值；根据率失真模型，初期率失真优化结果，以及最大容许失真值，得到修正拉格朗日参数，并利用修正拉格朗日参数对基本编码单元进行率失真优化编码。本发明的率失真优化方法根据视频内容自行调节率失真优化用拉格朗日参数，实现对视频内容的最佳率失真优化。

Description

一种率失真优化方法

技术领域

本发明涉及图像/视频编解码领域，更具体地说，涉及一种率失真优化方法。

背景技术

以国际标准H264为参考，对基本编码单元进行编码时，可以选择不同的编码模式。编码模式的选择包括对帧内预测方式或帧间预测方式的选择，也可以包括对基本编码单元的分割方式（例INTRA-4x4、INTRA-8x8、INTRA-16x16、SKIP、DIRECT、INTER-16x16、INTER-16x8、INTER-8x16、INTER-8x8、对INTER-8x8可以进一步分为INTER-8x8、INTER-8x4、INTER-4x8、INTER-4x4）的选择，还可以包括对预测块位置（例Intra_4x4_Vertical、Intra_4x4_Horizontal、Intra_4x4_Diagonal_Down_Left、Intra_4x4_Diagonal_Down_Right、Intra_4x4_Vertical_Right、Intra_4x4_Horizontal_Down、Intra_4x4_Vertical_Left、Intra_4x4_Horizontal_Up、Intra_4x_4DC）的选择。编码模式的确定是通过率失真优化实现的，其中率失真优化是对以下代价函数J求最小值的过程，

J(s,c,mode|QP)=D(s,c,mode|QP)+λ_modeR(s,c,mode|QP)，

其中D是失真值，R是码率值，s和c分别表示原图和通过编解码处理的再建图像的基本编码单元，mode表示基本编码单元的可选择编码模式，QP为量化参数，λ_mode是用来折衷失真值和码率值的拉格朗日参数。

率失真优化是在量化参数QP已定的条件下，确定能使上述代价函数J最小的mode。在H264标准中，λ_mode是由量化参数QP决定的，即有

λ_mode=0.85×2^(QP-12)/3

上述率失真优化方式没有考虑在编码过程中对各基本编码单元有不同的率失真要求。例如，对纹理较少的视频内容要求编码失真比较小，而对纹理较多的视频内容则容许较大的编码失真。这种对不同的视频内容容许不同的失真程度是基于人眼视觉对不同内容有不同敏感度而定的。从率失真优化的代价J而言，对纹理较少的基本编码单元应该取较小的λmode，以保证对编码值D的重视；而对纹理较多的基本编码单元则应该取较大的λmode，以保证对码率值R的重视。因此现有的率失真优化技术，缺少一种合理的以视频内容来控制率失真代价的方法。

故，有必要提供一种率失真优化方法，以解决现有技术所存在的问题。

发明内容

本发明要解决的技术问题在于，针对现有技术中的率失真优化方法不能根据视频内容自行调节率失真代价的技术问题，提供一种根据视频内容自行调节率失真编码模式，实现对视频内容的最佳率失真优化方法。

本发明解决其技术问题所采用的技术方案是：本发明涉及一种率失真优化方法，其包括步骤：

A、获取基本编码单元的初期拉格朗日参数，并根据所述基本编码单元的初期拉格朗日参数，得到当前帧的各基本编码单元的初期率失真优化结果，并根据所述基本编码单元的对应于不同编码模式的两组以上的失真值和码率值建立所述基本编码单元的率失真模型；

B、计算所述基本编码单元的视频内容的复杂程度；

C、根据所述基本编码单元的视频内容的复杂程度和预定的容许失真指标，获取最大容许失真值；

D、根据所述率失真模型，所述初期率失真优化结果，以及所述最大容许失真值，得到修正拉格朗日参数，并利用所述修正拉格朗日参数对所述基本编码单元进行率失真优化编码。

在本发明所述的率失真优化方法中，所述步骤A中，通过下式确定当前帧的各基本编码单元的初期率失真优化结果，

J_i(s,c,mode_i|QP)=D_i(s,c,mode_i|QP)+λ₁R_i(s,c,mode_i|QP)，

其中J_i为编码代价，D_i为失真值，R_i为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的基本编码单元，mode_i表示所述基本编码单元的可选择编码模式，QP为量化参数，λ₁是用来折衷所述失真值和所述码率值的初期拉格朗日参数，i为大于1的正整数，表示可选择编码模式的数量；其中：

λ₁=0.85×2^(QP-12)/3，

通过求取所述编码代价的最小值确定相应的最佳编码模式，并根据所述最佳编码模式得到所述基本编码单元的初期率失真优化结果，即相应的码率值和失真值。

在本发明所述的率失真优化方法中，所述步骤A中，根据所述基本编码单元的对应于不同可选择编码模式的两组以上的失真值和码率值，通过下式建立所述基本编码单元的率失真模型，

R=aln(b/D)，

其中R为所述基本编码单元的码率值，D为所述基本编码单元的失真值。

在本发明所述的率失真优化方法中，当使用所述基本编码单元的两组码率值和失真值，建立所述率失真模型时，模型参数通过下式取得，

$a=\frac{R_1-R_2}{\ln D_2-\ln D_1},$

$b=e^{\frac{R_1\ln D_2-R_2\ln D_1}{R_1-R_2}},$

其中R₁和R₂为所述基本编码单元的两个码率值，D₁和D₂为相应的失真值。

在本发明所述的率失真优化方法中，当使用所述基本编码单元的N组码率值和失真值，建立所述率失真模型时，模型参数通过下式取得，

a＝-p，

b=e-q/p，

$p=\frac{N\underset{n=1}{\overset{N}{\mathrm{\Σ}}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{y}_n}{N\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n^2\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{y}_n-\underset{n=1}{\overset{N}{\mathrm{\Σ}}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n}{N\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{x}_n\right)}^2},$

x_n=lnD_n，y_n=R_n，

N>2,

其中R_n为所述基本编码单元的第n个码率值,D_n为相应的失真值。

在本发明所述的率失真优化方法中，所述步骤B具体为：

B1、对当前帧做边缘检出滤波，得到各像素点的横向边缘强度和纵向边缘强度，进而得到所述各像素点的综合边缘强度，

$V\left(p\right)=\sqrt{V_x^2\left(p\right)+V_y^2\left(p\right)},$

其中p为像素点，V_x(p)为所述像素点的所述横向边缘强度，V_y(p)为所述像素点的所述纵向边缘强度，V(p)为所述像素点的所述综合边缘强度；

B2、设定第一阈值T₁和第二阈值T₂，并根据所述第一阈值T₁和所述第二阈值T₂将所述各像素点分为三部分，

$\left\{\begin{array}{c}V\left(p\right)<T_1\\ T_1\&le;V\left(p\right)\&le;T_2\\ V\left(p\right)>T_2\end{array}\right.;$

B3、根据所述三部分的像素点的数量，计算所述基本编码单元的视频内容的复杂程度，

S₁=第一像素点数，V(p)<T₁

S₂=第二像素点数，T₁≤V(p)≤T₂

S₃=第三像素点数，V(p)>T₂

c=S₂/(S₁+S₃+s)，

0<s<0.01，

其中c为所述基本编码单元的视频内容的复杂程度。

在本发明所述的率失真优化方法中，所述步骤D具体包括：

步骤D1、根据所述最大容许失真值在所述基本编码单元的率失真模型所构成的曲线上对应的点，和从步骤A得到的基本编码单元的初期率失真优化结果的失真值和码率值在所述率失真模型所构成的曲线上对应的点，得到率失真优化修正点，通过所述率失真优化修正点和所述率失真模型所构成的曲线得到修正拉格朗日参数；

步骤D2、根据所述修正拉格朗日参数，对所述基本编码单元进行率失真优化编码。

实施本发明的率失真优化方法，具有以下有益效果:根据视频内容自行调节率失真优化用拉格朗日参数，实现对视频内容的最佳率失真优化。避免了现有技术中的率失真优化方法不能根据视频内容自行调节率失真代价的技术问题。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为本发明的率失真优化方法的第一优选实施例的流程图；

图2为本发明的率失真优化方法的第一优选实施例的具体流程框图；

图3为本发明的率失真优化方法中获取率失真优化修正点的示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

请参照图1，图1为本发明的率失真优化方法的第一优选实施例的流程图。该率失真优化方法开始于：

步骤101，获取基本编码单元的初期拉格朗日参数，并根据所述基本编码单元的初期拉格朗日参数，得到当前帧的各基本编码单元的初期率失真优化结果，并根据所述基本编码单元的对应于不同编码模式的两组以上的失真值和码率值建立所述基本编码单元的率失真模型；

步骤102，计算所述基本编码单元的视频内容的复杂程度；

步骤103，根据所述基本编码单元的视频内容的复杂程度和预定的容许失真指标，获取最大容许失真值，

步骤104，根据所述率失真模型，所述初期率失真优化结果，以及所述最大容许失真值，得到修正拉格朗日参数，并利用所述修正拉格朗日参数对所述基本编码单元进行率失真优化编码。

请参照图2，图2为本发明的率失真优化方法的第一优选实施例的具体流程框图。下面通过图2详细地说明本发明的率失真优化方法的具体实施过程。

首先，在步骤101之前，输入视频编码单元的GOP（画面组，Group ofPictures）中的一帧至编码装置，其中GOP内各帧可有不同的编码方式，根据现行视频编码标准，编码方式可以分为I帧、P帧和B帧。本发明的率失真优化方法可分别适用于I帧、P帧以及B帧，为了说明的简便性这里不再区分I帧、P帧以及B帧，而是使用统一的方式加以描述。

画面帧输入到编码装置后，由编码分割单元将该画面帧分割为基本编码单元，最简单地可以把帧分为16x16大小的宏块，以每一宏块作为基本编码单元。这里也可以采用其他的分割方式，如采用一个条带、或者一帧直接做为基本编码单元。然后对基本编码单元的所有可选择编码模式逐一进行选择，针对每一编码模式，完成相应的编码和解码处理，得到基本编码单元对应的再建图像，编码和解码的处理方法可以依据各种视频编码标准进行。比如，编码处理可以依次执行以下各步骤：确定预测块、残差计算、DCT变化（离散余弦变换，Discrete Cosine Transform）、量化、熵编码。解码处理则是对上述各步骤的反向操作。本发明的率失真优化方法对该编码和解码处理的具体方法不做限制。

随后来到步骤101，在步骤101中，获取基本编码单元的初期拉格朗日参数，并根据基本编码单元的初期拉格朗日参数，对当前帧的各基本编码单元进行初期率失真优化，得到初期率失真优化结果，并根据基本编码单元的对应于不同编码模式的两组以上的失真值和码率值建立所述基本编码单元的率失真模型。

具体为：针对I/P/B帧各分类的一帧，通过下式确定当前帧的各基本编码单元的初期率失真优化结果，

J_i(s,c,mode_i|QP)=D_i(s,c,mode_i|QP)+λ₁R_i(s,c,mode_i|QP)，

其中J_i为编码代价，D_i为失真值，R_i为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的基本编码单元，mode_i表示所述基本编码单元的可选择编码模式，QP为量化参数，λ₁是用来折衷失真值和码率值的初期拉格朗日参数，i为大于1的正整数，表示可选择编码模式的数量；其中可取：

λ₁=0.85×2^(QP-12)/3，

通过求取编码代价的最小值确定相应的最佳编码模式，并根据最佳编码模式得到基本编码单元的初期率失真优化结果，即最小编码代价对应的码率值和失真值。

同时，利用该基本编码单元的对应于不同编码模式的失真值和码率值，可通过下式建立所述基本编码单元的率失真模型，

R=aln(b/D)，

其中R为基本编码单元的码率值，D为基本编码单元的失真值。

当使用基本编码单元的两组码率值和失真值，建立率失真模型时，模型参数通过下式取得，

$a=\frac{R_1-R_2}{\ln D_2-\ln D_1},$

$b=e^{\frac{R_1\ln D_2-R_2\ln D_1}{R_1-R_2}},$

其中R₁和R₂为基本编码单元的两个码率值，D₁和D₂为相应的失真值。

当使用基本编码单元的N组码率值和失真值，建立率失真模型时，模型参数通过下式取得，

a＝-p，

b＝e-q/p，

$p=\frac{N\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{y}_n}{N\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n^2\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{y}_n-\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n}{N\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n\right)}^2},$

x_n=lnD_n，y_n=R_n，

N>2,

其中R_n（n=1～N）为基本编码单元的第n个码率值,D_n为相应的失真值。

这里可以使用基本编码单元的全部可选择编码模式对应的失真值和码率值来建立率失真模型，也可只使用部分编码模式对应的失真值和码率值来建立率失真模型。同时这里也可以不顾及编码模式，而是人为地改变基本编码单元的量化参数QP，从而得到基本编码单元的多组失真值和码率值用于建立率失真模型。通常较多的码率值/失真值组使建立的率失真模型会更精确。

随后来到步骤102，在步骤102中，计算基本编码单元的视频内容的复杂程度。通常视频内容越复杂，其所容许的失真也越大。一般而言，视频内容从平滑图像到边缘图像，再到纹理图像，复杂程度由小到大变化。下面给出一种依边缘强度的测量视频内容复杂程度的方法，具体为：

步骤1021，对当前帧做边缘检出滤波，比如Sobel滤波等，得到各像素点的横向边缘强度和纵向边缘强度，进而得到各像素点的综合边缘强度，

$V\left(p\right)=\sqrt{V_x^2\left(p\right)+V_y^2\left(p\right)},$

其中p为像素点，V_x(p)为像素点的横向边缘强度，V_y(p)为像素点的纵向边缘强度，V(p)为像素点的综合边缘强度。

步骤1022，设定第一阈值T₁和第二阈值T₂，并根据第一阈值T₁和第二阈值T₂将各像素点分为三部分，

$\left\{\begin{array}{c}V\left(p\right)<T_1\\ T_1\&le;V\left(p\right)\&le;T_2\\ V\left(p\right)>T_2\end{array}\right..$

步骤1023，根据上述三部分的像素点的数量，计算基本编码单元的视频内容的复杂程度c，

S₁=第一像素点数，V(p)<T₁

S₂=第二像素点数，T₁≤V(p)≤T₂

S₃=第三像素点数，V(p)>T₂

c=S₂/(S₁+S₃+s)，

0<s<0.01，

其中c用来表示基本编码单元的视频内容的复杂程度。

当然这里也可用其他方法计算基本编码单元的视频内容的复杂程度，例如基于V_x(p)和V_y(p)的自相关以及互相关V_xy(p)的计算方式。

随后来到步骤103，在步骤103中，根据基本编码单元的视频内容的复杂程度c和预定的容许失真指标，获取最大容许失真值。一般来说，用一个特定的指标来全面的描述人眼对失真的感觉比较困难，所以可设置一个或多个容许失真指标来反映人眼对失真的不同感觉，或针对不同视频特性的不同感觉。针对不同c值的视频内容，设定不同的量化步长以得到不同的失真，通过多个观察者的判断得到失真的容许范围，假定使用MSE（均方误差，Mean SquareError）值来测量失真，则可以得到定量的最大容许失真值d，如表1所示，表1为相应的容许失真表。

表1

内容复杂程度c	最大容许失真值d
		2.0	0.05
3.0	0.08

需要指出的是，本发明并不限制计算失真的方法。除了可以采用上述提到的MSE,还可以采用基于SSIM（structural similarity）的计算方法。具体地，比如可以采用1-SSIM做为失真值。

随后来到步骤104，在步骤104中，根据所述率失真模型，所述初期率失真优化结果，以及所述最大容许失真值，得到修正拉格朗日参数，并利用所述修正拉格朗日参数对所述基本编码单元进行率失真优化编码。具体为：

步骤1041、根据最大容许失真值d在率失真模型所构成的曲线上对应的点，和初期率失真优化结果中的失真值和码率值在率失真模型所构成的曲线上对应的点，得到率失真优化修正点；

如图3所示，图3为本发明的率失真优化方法中获取率失真优化修正点的示意图。其中图中曲线为步骤101所建立的率失真模型所构成的曲线，其中A点为从步骤101得到的初期率失真优化结果在率失真模型所构成的曲线上的对应点，B点为最大容许失真值d在率失真模型所构成的曲线上的对应点，于是可以选取在曲线上位于A和B之间的一点（例如中间点C点）作为当前基本编码单元的率失真优化修正点。

步骤1042、根据率失真优化修正点，计算当前基本编码单元的修正拉格朗日参数，并利用修正拉格朗日参数对该基本编码单元进行率失真优化编码。

得到C点后，可通过下式对当前基本编码单元进行率失真优化编码，

J_i(s,c,mode_i|QP)=D_i(s,c,mode_i|QP)+λ_modeR_i(s,c,mode_i|QP)，

其中J_i为编码代价，D_i为失真值，R_i为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的基本编码单元，mode_i表示所述基本编码单元的可选择编码模式，QP为量化参数，λ_mode是修正拉格朗日参数，i为正整数，表示第i个可选择编码模式；其中

λ_mode=-dD/dR|_C，

通过编码代价的最小值确定相应的修正后的最佳编码模式，并根据修正后的最佳编码模式对各基本编码单元进行率失真优化编码，得到依视频内容自适应的编码结果。

当然这里也可以使用其他的方法建立率失真模型。例如，人为的指定多个QP值，并计算得到相应的失真值和码率值，从而用于建立率失真模型。另外，也可以考虑用前一帧或周边的基本编码单元的率失真模型作为当前基本编码单元的近似。因此根据可选择编码模式对应的失真值和码率值来建立率失真模型的方法并不限制本发明的保护范围。其他的步骤与本发明的率失真优化方法的第一优选实施例相同或相似，具体请参见本发明的第一优选实施例的相关说明。

综上所述，本发明的率失真优化方法根据视频内容自行调节率失真编码模式，实现对视频内容的最佳率失真优化。同时率失真优化可以依帧编码的类型（即I帧、P帧或B帧）各自独立实现；本发明的率失真优化方法很好地避免了现有技术中的率失真优化方法不能根据视频内容自行调节率失真代价的技术问题。

以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (6)

1.一种率失真优化方法，其特征在于，包括步骤：

A、获取基本编码单元的初期拉格朗日参数，并根据所述基本编码单元的初期拉格朗日参数，得到当前帧的各基本编码单元的初期率失真优化结果，并根据所述基本编码单元的对应于不同编码模式的两组以上的失真值和码率值建立所述基本编码单元的率失真模型；

B、计算所述基本编码单元的视频内容的复杂程度；

C、根据所述基本编码单元的视频内容的复杂程度和预定的容许失真指标，获取最大容许失真值；

D、根据所述率失真模型，所述初期率失真优化结果，以及所述最大容许失真值，得到修正拉格朗日参数，并利用所述修正拉格朗日参数对所述基本编码单元进行率失真优化编码；

其中，所述步骤D具体包括：

步骤D1、根据所述最大容许失真值在所述基本编码单元的率失真模型所构成的曲线上对应的点，和从步骤A得到的基本编码单元的初期率失真优化结果的失真值和码率值在所述率失真模型所构成的曲线上对应的点，得到率失真优化修正点，通过所述率失真优化修正点和所述率失真模型所构成的曲线得到修正拉格朗日参数；

步骤D2、根据所述修正拉格朗日参数，对所述基本编码单元进行率失真优化编码。

2.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤A中，通过下式确定当前帧的各基本编码单元的初期率失真优化结果，

J_i(s,c,mode_i|QP)＝D_i(s,c,mode_i|QP)+λ₁R_i(s,c,mode_i|QP)，

其中J_i为编码代价，D_i为失真值，R_i为码率值，s表示原图的基本编码单元，c表示通过编解码处理的再建图像的基本编码单元，mode_i表示所述基本编码单元的可选择编码模式，QP为量化参数，λ₁是用来折衷所述失真值和所述码率值的初期拉格朗日参数，i为大于1的正整数，表示可选择编码模式的数量；其中：

λ₁＝0.85×2^(QP-12)/3，

通过求取所述编码代价的最小值确定相应的最佳编码模式，并根据所述最佳编码模式得到所述基本编码单元的初期率失真优化结果。

3.根据权利要求2所述的率失真优化方法，其特征在于，所述步骤A中，根据所述基本编码单元的对应于不同可选择编码模式的两组以上的失真值和码率值，通过下式建立所述基本编码单元的率失真模型，

R＝aln(b/D)，

其中R为所述基本编码单元的码率值，D为所述基本编码单元的失真值，a、b为模型参数。

4.根据权利要求3所述的率失真优化方法，其特征在于，当使用所述基本编码单元的两组码率值和失真值，建立所述率失真模型时，模型参数a、b通过下式取得，

$a=\frac{R_1-R_2}{\ln D_2-\ln D_1},$

$b=e^{\frac{R_1\ln D_2-R_2\ln D_1}{R_1-R_2}},$

其中R₁和R₂为所述基本编码单元的两个码率值，D₁和D₂为相应的失真值。

5.根据权利要求3所述的率失真优化方法，其特征在于，当使用所述基本编码单元的N组码率值和失真值，建立所述率失真模型时，模型参数a、b通过下式取得，

a＝-p，

b＝e^-q/p，

$p=\frac{N\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}\left(x_n{y}_n\right)-\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{y}_n}{N\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n\right)}^2},$

$q=\frac{\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n^2\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{y}_n-\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}\left(x_n{y}_n\right)\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n}{N\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n^2-{\left(\underset{n=1}{\overset{N}{\mathrm{\&Sigma;}}}{x}_n\right)}^2},$

x_n＝ln D_n，y_n＝R_n，

N>2,

其中R_n为所述基本编码单元的第n个码率值,D_n为相应的失真值。

6.根据权利要求1所述的率失真优化方法，其特征在于，所述步骤B具体为：

B1、对当前帧做边缘检出滤波，得到各像素点的横向边缘强度和纵向边缘强度，进而得到所述各像素点的综合边缘强度，

$V\left(p\right)=\sqrt{V_x^2\left(p\right)+V_y^2\left(p\right)},$

其中p为像素点，V_x(p)为所述像素点的所述横向边缘强度，V_y(p)为所述像素点的所述纵向边缘强度，V(p)为所述像素点的所述综合边缘强度；

B2、设定第一阈值T₁和第二阈值T₂，并根据所述第一阈值T₁和所述第二阈值T₂将所述各像素点分为三部分，

$\left\{\begin{array}{c}V\left(p\right)<T_1\\ T_1\&le;V\left(p\right)\&le;T_2\\ V\left(p\right)>T_2\end{array}\right.;$

B3、根据所述三部分的像素点的数量，计算所述基本编码单元的视频内容的复杂程度，

S₁＝第一像素点数，V(p)＜T₁，

S₂＝第二像素点数，T₁≤V(p)≤T₂，

S₃＝第三像素点数，V(p)＞T₂，

c＝S₂/(S₁+S₃+s)，

0＜s＜0.01，

其中c为所述基本编码单元的视频内容的复杂程度。