CN106534855A - 一种面向satd的拉格朗日因子计算方法 - Google Patents

Abstract

本发明公开了一种面向SATD的拉格朗日因子计算方法，根据高码率条件下熵受限标量量化的编码器的率失真模型推导出基于SSE的拉格朗日因子λ_mode：哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：在失真测度为SATD的情况下，得率失真模型，进而得到面向SATD的拉格朗日因子λ_pre。本发明方法通过计算参数δ和δ_h来获取拉格朗日因子λ_pre，具有较低的编码复杂度，仅为现有算法的1％；且从率失真理论的角度得到失真测度SATD下的拉格朗日因子λ_pre，具有高的准确度。

Description

一种面向SATD的拉格朗日因子计算方法

技术领域

本发明属于视频编码技术领域，具体涉及一种面向SATD的拉格朗日因子计算方法。

背景技术

“高像素位深、高帧率、高分辨率”视频的出现和盛行，促使越来越多的用户融入到视频业务中，体验着前所未有的视觉盛宴。然而庞大的数据量也致使视频的存储和传输面临严峻的考验。新一代视频编码标准HEVC(High Efficiency Video Coding，高效视频编码)针对“高清/超高清视频的大数据量”这一点，采用更为先进的编码工具来灵活有效地表示视频内容，不仅在性能上节省了大量的传输带宽，还提高了视频的主客观质量。它在很大程度上扩大了内容的精细度，给用户呈现出更加细腻的画面效果。

率失真优化在视频编码中扮演着非常重要的角色。每一个候选编码模式都需经过预测、变换、量化和熵编码过程，计算出其对应的码率和失真。然后利用率失真代价函数确定最优的编码模式，以保证编码器获得高效的压缩性能。拉格朗日优化是解决率失真优化问题的重要手段，其中率失真代价J：

min{J},J＝D+λ·R (1)

其中λ就是所谓的拉格朗日因子，R和D分别表示编码码率和编码失真。HEVC帧内编码支持35种帧内预测模式，包括33种角度模式、DC模式、Planar模式。利用拉格朗日优化技术，可从35种帧内预测模式中选择出一种最优的预测模式来最大化提高编码效率。但如果对这35种帧内预测模式逐一进行变换、量化、熵编码、反量化、反变换、像素重构来获取准确的编码码率和编码失真，HEVC将要承受很大的计算负荷及处理时延，这对视频业务的传输是非常不利的。所以在帧内预测模式判决中，HEVC采用粗略模式判决和全搜索的率失真优化这两步来获取最优模式。

粗略模式判决是在编码失真的度量尺度为哈达玛变换的绝对误差和(SATD)的情况下，计算这35种帧内预测模式的拉格朗日代价J_SATD，根据结果从中选择出N种率失真代价J_SATD最小的帧内预测模式作为最可能模式(MPM)。N的取值依赖预测单元大小，当预测单元大小分别取4×4、8×8、16×16、32×32、64×64时，N值分别为8、8、3、3、3。其中拉格朗日代价J_SATD：

J_SATD＝SATD+λ_pre·R_pre (2)

参数R_pre是指编码帧内预测模式所需的比特数。失真测度参数SATD的获取方法为：

其中变量t_ij表示残差块经过二维哈达玛变换后的块内系数，参数M指残差块内水平或垂直方向上所含系数个数。λ_pre表示编码失真度量尺度为SATD下的拉格朗日因子，计算方法为：

λ_mode指编码失真度量尺度为均方误差和(SSE)下的拉格朗日因子。由式(4)可得，基于SATD的拉格朗日因子λ_pre与基于SSE的拉格朗日因子λ_mode之间呈简单的开方关系。考虑到在粗略模式判决中，基于SATD编码失真是在变换域中度量的，而基于SSE的编码失真是在空域中度量的，因此拉格朗日因子λ_pre的获取方法具有一定的局限性。

如何选择合适的拉格朗日因子，直接关系着码率和失真之间的权衡问题。Wiegand等人提出一种有效的拉格朗日因子计算方法(见WIEGAND T,GIROD B..Lagrangemultiplier selection in hybrid video coder control.Proceedings of the IEEEInternational Conference on Image Processing,Thessaloniki,2001)，即在量化参数与拉格朗日因子之间建立一种指数关系，该方法已广泛被业界所采纳且成功地应用到HEVC中。Sun等人考虑了用户感知特性，提出了一种改进的上下文自适应的拉格朗日因子选择方法(见SUN C,WANG H,KIM T,LI H.Perceptually adaptive Lagrange multiplier forrate-distortion optimization in H.264[C].Proceedings of the future generationcommunication and networking,Jeju,2007)。此外，基于ρ域的率失真模型，Chen等人建立了一种内容自适应的拉格朗日因子选择方法(见CHEN L,GARBACEA I.Adaptive lambdaestimation in Lagrangian rate-distortion optimization for video coding[C].Proceedings of the visual communications.Image Processing,San Jose,2006)。上述方法都是在编码失真度量尺度为SSE的前提下获取拉格朗日因子的，不适于计算失真测度SATD下的拉格朗日因子。因此在帧内粗略模式判决中，建立合适的基于SATD的拉格朗日因子获取方法是很有必要的。

发明内容

本发明的目的是提供一种面向SATD的拉格朗日因子计算方法，该方法具有高的准确度和较低的编码复杂度。

本发明所采用的技术方案是，一种面向SATD的拉格朗日因子计算方法，具体包括如下步骤：

步骤1，根据高码率条件下熵受限标量量化的编码器的率失真模型R(D)：

推导出基于SSE的拉格朗日因子λ_mode：

其中R表示码率，D表示失真，δ²表示DCT域残差的方差；

步骤2，哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：

其中x表示哈达玛变换后的残差，δ_h为哈达玛变换后残差的标准差；

在失真测度为SATD的情况下，得率失真模型：

则得面向SATD的拉格朗日因子λ_pre：

本发明的特点还在于，

步骤2中公式(9)中参数δ的计算方法如下：

对于M×M大小的残差块系数r，经DCT变换后得变换矩阵T：

其中A为DCT矩阵，则：

其中[·]_u,u表示矩阵中位于(u,u)位置出的系数值，符号R'定义为：

参数ρ用于度量水平方向和垂直方向上像素值之间的相关性，其值设置为0.6；参数δ_p用于表示残差块内像素的标准差，该值可通过平均绝对差值MAD近似：

步骤2中公式(9)中参数δ_h的计算方法如下：

哈达玛变换域的预测残差服从均值为零方差为δ_h ²的高斯分布，则根据期望值E的定义，得：

同时得到：

则哈达玛变换域的标准差δ_h：

本发明与现有技术相比具有如下优点：

(1)本发明从率失真理论的角度得到失真测度SATD下的拉格朗日因子λ_pre，具有高的准确度。

(2)本发明所提的拉格朗日因子计算方法，考虑了视频内容特性，进一步提高了编码效率。

(3)本发明根据视频编码原理，得到参数δ和δ_h，具有高的准确度。

(4)本发明通过计算参数δ和δ_h来获取拉格朗日因子λ_pre，具有较低的编码复杂度，仅为现有算法的1％。

附图说明

图1是本发明面向SATD的拉格朗日因子计算方法流程图；

图2是测试序列为BQMall下本发明方法与HEVC现有算法的率失真性能比较图；

图3是测试序列为FourPeople下本发明方法与HEVC现有算法的率失真性能比较图。

具体实施方式

下面结合附图和具体实施方式对本发明进行详细说明。

本发明面向SATD的拉格朗日因子计算方法，具体计算流程如图1所示，

步骤1，计算参数δ：

对于M×M大小的残差块系数r，经DCT变换后得变换矩阵T：

其中A为DCT矩阵，则：

其中[·]_u,u表示矩阵中位于(u,u)位置出的系数值，符号R'定义为：

参数ρ用于度量水平方向和垂直方向上像素值之间的相关性，其值设置为0.6；参数δ_p用于表示残差块内像素的标准差，该值可通过平均绝对差值MAD近似：

步骤2，计算参数δ_h：

哈达玛变换域的预测残差服从均值为零方差为δ_h ²的高斯分布，则根据期望值E的定义，得：

同时得到：

则哈达玛变换域的标准差δ_h：

步骤3，根据高码率条件下熵受限标量量化的编码器的率失真模型R(D)：

推导出基于SSE的拉格朗日因子λ_mode：

其中R表示码率，D表示失真，δ²表示DCT域残差的方差；

步骤4，哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：

其中x表示哈达玛变换后的残差，δ_h为哈达玛变换后残差的标准差；

在失真测度为SATD的情况下，得率失真模型：

则得面向SATD的拉格朗日因子λ_pre：

将公式(13)和公式(16)带入公式(9)中得到面向SATD的拉格朗日因子λ_pre。

本发明的效果通过实验进一步说明。

实验测试了不同分辨率，不同应用场景下的HEVC帧内编码性能。图2给出了测试序列为BQMall下本发明与HEVC现有算法的率失真性能比较图。图3给出了测试序列为FourPeople下本发明与HEVC现有算法的率失真性能比较图。由图2和3可以看出，在相同编码比特率的条件下，本发明在解码端恢复的视频质量峰值信噪比PSNR高于HEVC现有方法在解码端恢复的视频质量的峰值信噪比PSNR。统计结果表明本发明在解码端恢复的视频质量峰值信噪比PSNR比HEVC现有方法在解码端恢复的视频质量峰值信噪比PSNR平均高出0.15dB。

Claims (3)

1.一种面向SATD的拉格朗日因子计算方法，其特征在于，具体包括如下步骤：

步骤1，根据高码率条件下熵受限标量量化的编码器的率失真模型R(D)：

$R\left(D\right)=\frac{1}{2}log\left(\frac{{\mathrm{\δ}}^2}{D}\right)---\left(5\right)$

推导出基于SSE的拉格朗日因子λ_mode：

${\mathrm{\λ}}_{\mathrm{mod}e}=-\frac{dD}{dR}=2ln10\·{\mathrm{\δ}}^2{10}^{-2R}---\left(6\right)$

其中R表示码率，D表示失真，δ²表示DCT域残差的方差；

步骤2，哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：

$f\left(x\right)={\left(2{\mathrm{\π\δ}}_h^2\right)}^{1/2}{e}^{-\frac{x^2}{2{\mathrm{\δ}}_h^2}}---\left(7\right)$

其中x表示哈达玛变换后的残差，δ_h为哈达玛变换后残差的标准差；

在失真测度为SATD的情况下，得率失真模型：

$R\left(D\right)=\frac{1}{2}log\left(\frac{{\mathrm{\π\δ}}_h^2}{2eD}\right)---\left(8\right)$

则得面向SATD的拉格朗日因子λ_pre：

$\begin{array}{c}{\mathrm{\λ}}_{pre}=-\frac{dD}{dR}=\sqrt{\frac{\mathrm{\π}}{2e}}ln10\·{\mathrm{\δ}}_h{10}^{-R}\\ =\sqrt{\frac{\mathrm{\π}}{4eln10}}ln10.\frac{{\mathrm{\δ}}_h}{\mathrm{\δ}}\sqrt{{\mathrm{\λ}}_{\mathrm{mod}e}}\\ =c^{\′}.\frac{{\mathrm{\δ}}_h}{\mathrm{\δ}}\sqrt{{\mathrm{\λ}}_{\mathrm{mod}e}}\end{array}---\left(9\right).$

2.根据权利要求1所述的面向SATD的拉格朗日因子计算方法，其特征在于，步骤2中公式(9)中参数δ的计算方法如下：

对于M×M大小的残差块系数r，经DCT变换后得变换矩阵T：

$T(u,v)=\underset{x=0}{\overset{M-1}{\Σ}}\underset{y=0}{\overset{M-1}{\Σ}}r(x,y)\·A(x,u)\·A(y,v)---\left(10\right)$

其中A为DCT矩阵，则：

$\begin{array}{c}\mathrm{\δ}\≈\sqrt{\frac{1}{M\×M}\underset{i=0}{\overset{M-1}{\Σ}}\underset{j=0}{\overset{M-1}{\Σ}}{\mathrm{\δ}}^2(u,v)}\\ =\sqrt{\frac{1}{M\×M}\underset{i=0}{\overset{M-1}{\Σ}}\underset{j=0}{\overset{M-1}{\Σ}}{\mathrm{\δ}}_p^2\·{\[{\mathrm{AR}}^{\′}{A}^T\]}_{u,u}{\[{\mathrm{AR}}^{\′}{A}^T\]}_{v,v}}\\ =\sqrt{\frac{{\mathrm{\δ}}_p^2}{M\×M}\underset{i=0}{\overset{M-1}{\Σ}}\underset{j=0}{\overset{M-1}{\Σ}}{\[{\mathrm{AR}}^{\′}{A}^T\]}_{u,u}{\[{\mathrm{AR}}^{\′}{A}^T\]}_{v,v}}\end{array}---\left(11\right)$

其中[·]_u,u表示矩阵中位于(u,u)位置出的系数值，符号R'定义为：

参数ρ用于度量水平方向和垂直方向上像素值之间的相关性，其值设置为0.6；参数δ_p用于表示残差块内像素的标准差，该值可通过平均绝对差值MAD近似：

${\mathrm{\δ}}_p\≈\sqrt{2}MAD---\left(13\right).$

3.根据权利要求1或2所述的面向SATD的拉格朗日因子计算方法，其特征在于，步骤2中公式(9)中参数δ_h的计算方法如下：

哈达玛变换域的预测残差服从均值为零方差为δ_h ²的高斯分布，则根据期望值E的定义，得：

$E\[\left|x\right|\]=\underset{-\mathrm{\∞}}{\overset{+\mathrm{\∞}}{\∫}}\left|x\right|\·{\left(2{\mathrm{\π\δ}}_h^2\right)}^{1/2}{e}^{-\frac{x^2}{2{\mathrm{\δ}}_h^2}}dx=\sqrt{\frac{2}{\mathrm{\π}}}{\mathrm{\δ}}_h---\left(14\right)$

同时得到：

$E\[\left|x\right|\]=\frac{SATD}{M\×M}---\left(15\right)$

则哈达玛变换域的标准差δ_h：

${\mathrm{\δ}}_h=\sqrt{\frac{\mathrm{\π}}{2}}\·\frac{SATD}{M\×M}---\left(16\right).$