CN101146229A - 一种svc视频fgs优先级调度方法 - Google Patents

Abstract

本发明涉及一种基于误差漂移失真模型的SVC视频FGS优先级调度方法，其包括以下步骤：(1)提出一种伪GOP的概念，每个伪GOP包含两个相邻的关键帧和之间的所有B帧；(2)建立一个由误差漂移导致的失真模型，所述模型描述为：E(ε² _B)=E(ε² _H) ＋(P_fwd＋1/4P_Biwd)E(ε² _A)＋(P² _bwd＋1/4P_biwdE(ε² _C) ＋μE(ε² _A)E(ε² _C) ＋ν；(3)根据所述误差漂移失真模型，对SVC视频进行FGS优先级调度。本发明以伪GOP为基本调度单位，通过计算伪GOP中每一个质量包对所在帧和其他帧造成的率失真性能的影响来设置其优先级。利用该方法，可以以较小的复杂度实现FGS质量包调度，尽可能的提高重建视频的主观以及客观质量。

Description

一种SVC视频FGS优先级调度方法

技术领域

本发明涉及一种SVC视频FGS优先级调度方法，特别是关于一种基于误差漂移失真模型的SVC视频FGS优先级调度方法。

背景技术

近年来，随着互联网技术的发展和普遍应用，网络越来越影响人们的生活方式。由于视频信息具有直观性强，内容丰富等特点，因此视频传输在网络传输领域占据了越来越重要的地位。然而，在互联网上进行视频传输，对视频压缩、网络传输等提出了新的挑战。由于网络拥塞导致的网络带宽不稳定，以及终端设备应用需求和解码播放能力的差异，所有这些都要求视频编码和传输具有可伸缩的特性。可伸缩视频编码(SVC)便是在这种需求下由高压缩效率标准H.264/AVC发展而来的视频编码方案，它不仅能够提供空域、质量和时域的可伸缩性，提供精确到位的码率截断，而且使得SVC效率大大提高，接近传统定码率视频编码的压缩率。

在H.264/AVC的SVC扩展中，空间可伸缩性使用分层的方法，首先将图像分解为多个空间分辨率的信号，每个分辨率都是一个空间编码层，帧内预测和帧间预测可以跨层进行，具体包括层间帧内预测、层间帧间预测、层间残差预测。

质量可伸缩主要通过对变换系数的重复量化和位平面编码来实现质量SNR的可伸缩性。具体通过粗糙粒度可伸缩性(CGS)，中等粒度可伸缩性(MGS)，精细粒度可伸缩性(FGS)等技术实现质量的可伸缩性。其基本思想为：将视频的每一帧都分为一个可以单独解码的基本层(BL)码流和在基本层解码器之上的增强层(EL)码流。基本层采用混合编码的方法，通常码率比较低，只能保证最基本的质量要求，确保解码端有足够的能力接收并解码基本层的码流。增强层则通过嵌入式的对各增强层变换系数进行子位平面编码，以实现码流可以在任意点截断。

为实现时域可伸缩性，每个空间层内都使用层次化B帧编码结构，高时间级的图像通过低时间级的图像作为参考帧进行时间预测。如同先前的大多数编码方案，SVC也采用运动预测和补偿的方法来消除时间冗余，达到压缩效果。误差漂移是SVC技术遇到的一个重要问题，如果运动预测采用增强层图像作为参考帧，则在解码端，由于码流截断造成重建参考帧和原始参考帧失配，会造成解码误差，这样随着解码端高时间级的帧以低时间级的帧作参考不断地运动补偿和解码，会造成误差的逐步扩散，形成误差漂移。在MPEG-4FGS中，运动预测只能以基本层为参考帧，虽然这样可以有效防止误差漂移，却导致了率失真性能的低下。因此，在SVC中，运动预测的参考帧采用前一帧的最高质量重建帧，这样提高了率失真性能，缩短了与不可伸缩编码效率的差距。但是一旦解码端没有接受到所有增强层的信息，便会造成编码器和解码器之间的失配，引起误差漂移。为防止误差漂移，SVC中提出了关键帧(key picture)的概念，关键帧与这个关键帧之前的关键帧之间的所有图像形成一个图像组(GOP)，关键帧允许以基本层图像作为参考帧，关键帧之间的其它帧形成层次化B帧，以提供时间可伸缩性，从而将误差漂移限制在一个GOP范围内，这本质上是一个编码效率和误差漂移控制之间的权衡。

为了最大限度发挥SVC FGS的优势，应该有一个比特流提取方法将目标比特最优地分配给每个FGS图像。对于一个FGS码流，可以通过对不同的FGS层选择截断以达到目标码率，但是不同的提取方案会造成率失真性能很大的差别。通常地，最优码流提取要考虑到两个因素，一个是每一帧FGS增强层的率失真函数，另一个就是在每一个GOP中的误差漂移问题。也就是说，判断一个质量包的优先级，既要考虑其对所在帧的率失真性能的提高，同时也要考虑由于误差漂移引起的对其它帧率失真性能的影响。先前对码流截断方法的研究很不完善，很多算法仍然采用对码流任意截断的方法，这样没有考虑各质量包率失真性能的差异以及对整个序列率失真性能的影响，显然效率是不高的。而在参考代码中提出的码流截断方案，类似的提出了独立率失真信息和非独立率失真信息的概念，并用加权的方式计算每个质量包对整个序列率失真性能的影响，以此来判断其优先级，该方法共需要对码流进行2NT次的提取和解码，N是FGS层数，T为时间可伸缩级数。可见，其计算复杂性相当大，因此，一个简单快速而不失准确性的码率截断方法还是相当必要的。

发明内容

针对上述问题，本发明提出的是一种基于误差漂移失真模型的SVC视频FGS优先级调度方法，以较小的复杂度尽可能的提高重建视频的主观以及客观质量。

为实现上述目的，本发明采用如下技术方案：

1)提出一种伪GOP的概念，每个伪GOP包含两个相邻的关键帧和之间的所有B帧；

2)建立一个由误差漂移导致的失真模型，所述模型描述为：

$E\left({\mathrm{\ϵ}}_B^2\right)=E\left({\mathrm{\ϵ}}_H^2\right)+(p_{\mathrm{fwd}}+\frac{1}{4}{p}_{\mathrm{Btwd}})E\left({\mathrm{\ϵ}}_A^2\right)+(p_{\mathrm{bwd}}+\frac{1}{4}{p}_{\mathrm{Btwd}})E\left({\mathrm{\ϵ}}_C^2\right)+\mathrm{\μE}\left({\mathrm{\ϵ}}_A^2\right)E\left({\mathrm{\ϵ}}_C^2\right)+\mathrm{\ν}---\left(1\right)$

其中，E(ε_B ²)，E(ε_A ²)，E(ε_C ²)分别表示伪GOP中B帧和它的参考帧A，C的MSE，ε_H表示B帧的当前残差帧H中原始残差值和重建残差值之间的差，P_fwd，P_Bwd，P_Biwd分别表示B帧中采用前向预测、后向预测和双向预测的像素的百分比，μ，ν是两个待定的系数；

3)基于公式(1)所建立的误差漂移失真模型，按如下方法对SVC视频进行FGS优先级调度：

(1)计算估计公式(1)中两个参数μ，v，具体方法为：先对码流进行基本层抽取和全部抽取后解码，并统计每一帧在基本层的MSE以及每个残差帧在各质量级的E(ε_H ²)，同时统计出在基本层提取后的每个非关键帧的P_fwd，P_Bwd，P_Biwd，而后对于每一个非关键帧，根据其P_fwd，P_Bwd，P_Biwd和残差帧基本层的E(ε_H ²)，以及该帧和其参考帧基本层解码后的MSE，代入公式(1)计算出每一个非关键帧的μ，v；

(2)为每个伪GOP中的各FGS质量包设置优先级，具体方法为：根据每个质量包对整个伪GOP平均率失真性能的影响来确定其优先级，其影响包括对所在帧造成的非漂移失真和由于误差漂移导致的其它帧的MSE下降；其中，所在帧的非漂移失真即为步骤(1)中得到的残差帧在传输该质量包前后的E(ε???)，而后根据公式(1)算出由于误差漂移造成的其他帧的MSE下降，从而得到伪GOP的平均MSE下降，通过循环选取造成伪GOP的MSE下降最小的质量包来得到优先级顺序及相应的码率失真数据，具体步骤如下：

①用一个序列MSE_VGOP[0..(gop_size)]存放伪GOP中每一帧的MSE，将伪GOP的MSE_VGOP[0..(gop_size)]初始化为基本层的MSE序列MSE_Base[0..(gop_size)]，MSE_Base[0..(gop_size)]由步骤(1)中对码流进行基本层截断解码后得到，其中gop_size为伪GOP的大小；用序列array_level存放当前比较优先级的质量包，将array_level初始化为伪GOP的第一个FGS增强层；

②按照以下循环方法通过选择率失真斜率最大的质量包来逐步排列array_level中各质量包的优先级，直至array_level为空；

i)将PSNR-rate斜率CurrMaxSlope_VGOP初始化为O，伪GOP的平均率失真斜率为：PSNR_VGOP＝20log255-10mean(log₁₀(MSE_VGOP[1..gop_size+1]))；

ii)对于array_level中的每个质量包level(frame_no，FGS_level_no)，判断第k个质量包是不是当前最优的：

a)根据步骤(1)中得到的其所在帧的残差帧在传输该质量包前后的E(ε_H ²)，E(ε_H ²)即为该质量包对所在帧造成的非漂移的MSE下降，与当前MSEVGOP[0..(gop_size)]中对应的所在帧的MSE相减得到该质量包所在帧的新MSE，然后利用公式(1)，并根据当前的MSE_VGOP[1..(gop_size+1)]计算由误差漂移造成的伪GOP中其它帧的MSE下降decMSE_VGOP；

b)然后利用MSE_VGOP和decMSE_VGOP，按下式计算PSNR增加，incPSNR_Level_VGOP＝10mean(log₁₀(MSE_VGOP[1..gop_size+1]))-10mean(log₁₀(MSE_VGOP[1..gop_size+1]-decMSE_VGOP[1..gop_size+1]))如果incPSNR_Level_VGOP/level_size>CurrMaxSlope_VGOP，即该质量包的率失真斜率大于先前的最大率失真斜率，则令decOptiMSE_VGOP＝decMSE_VGOP，CurrMaxSlope_VGOP＝incPSNR_Level_VGOP/LevelSize，并令该质量包为当前最优质量包，如果关键帧包含在了两个伪GOP中，则Level_Size等于原始大小的一半，Level_Size为质量包的大小；令k＝k+1，回到步骤ii)直到对array_level中的所有质量包检查完毕，进行步骤iii)；

iii)输出本次循环中得到的最优质量包，更新

MSE_VGOP＝MSE_VGOP-decOptiMSE_VGOP；

iv)更新array_level：将先前得到的最优质量包移出array_level，并放入相应帧高一层的质量包，如果该质量包为该帧的最高质量包，则不放入任何质量包，直至array_level为空。

③计算每个FGS质量包的率失真斜率，其中对于关键帧，如果包含在两个伪GOP中，其质量包的率失真斜率等于其在两个伪GOP中的率失真斜率的平均；其余质量包的率失真斜率等于其在伪GOP中的率失真斜率，这些率失真斜率用于最终的质量包调度。

本发明由于采取以上技术方案，在每次解码时只需要对码流进行两次提取就可以得到各质量包的优先级时序，比起码流任意截断的方法，本发明方法能够提高视频的率失真性能，计算复杂度低了很多，并且还可以得到各个伪GOP的率失真信息，这些信息可以用于SVC视频平滑重建。

附图说明

图1是本发明伪GOP示意图

图2是本发明基于像素的当前帧和参考帧之间的预测关系图

具体实施方式

下面结合附图和实施例，对本发明进行详细的描述。

如图1所示，针对SVC的编码结构特性，我们提出了伪GOP的概念，每个伪GOP包含两个相邻的关键帧和之间的所有B帧。

我们首先分析基于像素的误差漂移，如图2所示，显示了基于像素的当前帧和参考帧之间的预测关系，ε_A和ε_C分别表示参考帧A，C中原始帧和重建帧的差，ε_Ael和ε_Cel，分别表示相应的原始帧A，C的编解码失配值，ε_H表示当前残差帧H中原始残差值和重建残差值之间的差，所有变量ε_A，ε_C，ε_Ael，ε_Cel，和ε_H都可以是正数或者负数。为了便于分析而不失准确性，分数像素预测的分析可由整数像素预测的分析近似。

对于当前帧B中的帧内编码像素，MSE可以表示为：

$E\left({\mathrm{\ϵ}}_{B,\mathrm{Intra}}^2\right)=E\left({\mathrm{\ϵ}}_H^2\right)---\left(1\right)$

对于当前帧B中的前向/后向编码像素，不失一般性，假设参考帧为A，MSE为：

上式中假设ε_H和ε_Ael，不相关并且均值为0，因此将

略去。

对于当前帧B中的双向编码像素，MSE为：

上式中假设ε_H和ε_Ael、ε_Cel，不相关，因此将

和

项省略，

项保留是因为ε_Ael和ε_Cel，是相关的并且很有可能相关的。

基于以上结果，我们进一步推导基于像素的误差漂移公式。

令p_i，p_fwd，p_Bwd，p_Biwd分别表示B帧中采用帧内预测，前向预测、后向预测和双向预测的像素的百分比，p_i，P_fwd，p_Bwd，p_Biwd≥O，并且p_i+p_fwd+p_bwd+p_Biwd＝1。

利用公式(1)～(3)，并假设各参考帧中各种参考像素(例如参考帧A中的前向、双向和非参考像素)的MSE相同，则B帧的MSE为：

$\left({\mathrm{\ϵ}}_B^2\right)=p_i\left({\mathrm{\ϵ}}_{B,\mathrm{Intra}}^2\right)p_{\mathrm{fwd}}\left({\mathrm{\ϵ}}_{B,\mathrm{Ref}\_A}^2\right)p_{\mathrm{bwd}}\left({\mathrm{\ϵ}}_{B,\mathrm{Ref}\_C}^2\right)p_{\mathrm{Biwd}}\left(E_{B,\mathrm{Ref}\_A\_C}^2\right)$

$=p_{i}E\left({\mathrm{\ϵ}}_H^2\right)+p_{\mathrm{fwd}}(E\left({\mathrm{\ϵ}}_H^2\right)+E\left(E_{A_{\mathrm{el}}}^2\right))+p_{\mathrm{bwd}}(E\left({\mathrm{\ϵ}}_H^2\right)+E\left({\mathrm{\ϵ}}_{C_{\mathrm{el}}}^2\right))$

                                               (4)

为了简化最后一项

，一个直觉的方法是使用

但是实验证明，是

或者

的线性函数，因此使用近似更合适。式(4)可以近似为：

为了简化，我们用

和

代替

和

，最后的误差漂移公式可以写为：

式中

分别表示伪GOP中B帧和它的参考帧A，c的MSE，ε_H表示B帧的当前残差帧H中原始残差值和重建残差值之间的差，μ，v是两个待定的系数，v用于补偿E(ε_* ²)和E(ε_*el ²)之间的失配，尤其当时，μ和v需要由已编帧的实际失真数据估计得出。

基于公式(6)建立的误差漂移失真模型，进行SVC视频FGS优先级调度，具体的调度方法可以按如下步骤：

(1)计算估计公式(6)中两个参数μ，v。具体方法为：先对码流进行基本层抽取和全部抽取后解码，并统计每一帧在基本层的MSE以及每个残差帧在各质量级的E(ε_H ²)，同时统计出在基本层提取后的每个非关键帧的P_fwd，P_Bwd，P_Biwd，而后对于每一个非关键帧，根据其P_fwd，P_Bwd，P_Biwd和残差帧基本层的E(ε_H ²)，以及该帧和其参考帧基本层解码后的MSE，代入公式(6)计算出每一个非关键帧的μ，v。

(2)为每个伪GOP中的各FGS质量包设置优先级。具体方法为：根据每个质量包对整个伪GOP平均率失真性能的影响来确定其优先级，其影响包括对所在帧造成的非漂移的失真和由于误差漂移导致的其它帧的MSE下降。其中，所在帧的非漂移失真即为步骤(1)中得到的残差帧在传输该质量包前后的E(ε_H ²)，而后根据公式(6)算出由于误差漂移造成的其他帧的MSE下降，从而得到伪GOP的平均MSE下降，通过循环选取造成伪GOP的MSE下降最小的质量包来得到优先级顺序及相应的码率失真数据，具体步骤如下：

①用一个序列MSE_VGOP[0..(gop_size)]存放伪GOP中每一帧的MSE，将伪GOP的MSE_VGOP[0..(gop_size)]初始化为基本层的MSE序列MSE_Base[0..(gop_size)]，MSE_Base[0..(gop_size)]由步骤(1)中对码流进行基本层截断解码后得到。其中，gop_size为伪GOP的大小，用序列array_level存放当前要比较优先级的质量包，将array_level初始化为伪GOP的第一个FGS增强层。如图1所示，array_level初始化为[(0，1)，(1，1)，(2，1)，(3，1)，(4，1)，(5，1)，(6，1)，(7，1)，(8，1)]，(*，*)表示(帧序号，质量包序号)。

②按照以下循环方法通过选择率失真斜率最大的质量包来逐步排列array_level中各质量包的优先级，直至array_level为空；

i)将PSNR-rate曲线斜率CurrMaxSlope_VGOP初始化为0，伪GOP的平均率失真斜率为：

PSNR_VGOP＝20log255-10mean(log₁₀(MSE_VGOP[1..gop_size+1]))(7)

ii)对于array_level中的第k个质量包(frame_no，FGS_level_no)，找出这次循环中最优先的质量包，即判断第k个质量包是不是当前最优的。

a)根据步骤(1)中得到的其所在帧的残差帧在传输该质量包前后的E(ε_H ²)，E(ε_H ²)即为该质量包对所在帧造成的非漂移的MSE下降，与当前MSE_VGOP[0..(gop_size)]中对应的所在帧的MSE相减得到该质量包所在帧的新MSE，然后利用公式(6)，并根据当前的MSE_VGOP[1..(gop_size+1)]计算由误差漂移造成的伪GOP中其它帧的MSE下降decMSE_VGOP。如图1所示，对于处于最低时间级的质量包(0，1)，要依次计算对高时间级的帧的影响，先根据刚算出的所在帧第0帧的新MSE以及当前第4和第8帧的MSE代入公式(6)，得到第4帧新的MSE，用第4帧这个新算出的MSE用相同方法计算第2，6帧的新MSE，最后计算1，3，5，7帧的新MSE，将所有新MSE与当前MSE_VGOP[1..(gop_size+1)]相减即可得到decMSE_VGOP[1..(gop_size+1)]。而对于质量包(6，1)由于其只影响到更高层时间级的帧5，7的MSE，则只需通过公式(6)计算5，7帧的MSE变化。对于1，3，5，7帧，已经是最高的时间级，则不需要计算对其它帧造成的MSE下降。

b)利用MSE_VGOP和decMSE_VGOP，按下式计算PSNR增加，

incPSNR_Level_VGOP＝10mean(log₁₀(MSE_VGOP[1..gop_size+1]))(8)

-10mean(log₁₀(MSE_VGOP[1..gop_size+1]-decMSE_VGOP[1..gop_size+1]))如果incPSNR_Level_VGOP/level_size>CurrMaxSlope_VGOP，即该质量包的率失真斜率大于先前的最大率失真斜率，则令decOptiMSE_VGOP＝decMSE_VGOP，CurrMaxSlope_VGOP＝incPSNR_Level_VGOP/LevelSize，并令该质量包为当前最优质量包，如果关键帧包含在了两个伪GOP中，则Level_Size等于原始大小的一半，Level_Size为质量包的大小。令k＝k+1，回到步骤ii)直到对array_level中的所有质量包检查完毕，进行步骤iii)。

iii)输出本次循环中得到的最优质量包，更新MSE_VGOP＝MSE_VGOP-decOptiMSE_VGOP。

iv)更新array_level：将先前得到的最优质量包移出array_level，并放入相应帧高一层的质量包。如果该质量包为该帧的最高质量包，则不放入任何质量包，直至array_level为空。如图1所示，如果第一次循环最优层为(4，1)，则更新后的array_level为[(0，1)，(1，1)，(2，1)，(3，1)，(4，2)，(5，1)，(6，1)，(7，1)，(8，1)]。

③计算每个FGS质量包的率失真斜率，其中对于关键帧，如果包含在两个伪GOP中，其质量包的率失真斜率等于其在两个伪GOP中的率失真斜率的平均；其余质量包的率失真斜率等于其在伪GOP中的率失真斜率，即在②ii)b)中得到的incPSNR_Level_VGOP/LevelSize，这些率失真斜率用于最终的质量包调度。

Claims (3)

1.一种SVC视频FGS优先级调度方法，其包括以下步骤：

1)提出一种伪GOP的概念，每个伪GOP包含两个相邻的关键帧和之间的所有B帧；

2)建立一个由误差漂移导致的失真模型，所述模型描述为：

$E\left({\mathrm{\ϵ}}_B^2\right)=E\left({\mathrm{\ϵ}}_H^2\right)+(p_{\mathrm{fwd}}+\frac{1}{4}{p}_{\mathrm{Biwd}})E\left({\mathrm{\ϵ}}_A^2\right)+(p_{\mathrm{bwd}}+\frac{1}{4}{p}_{\mathrm{Biwd}})E\left({\mathrm{\ϵ}}_C^2\right)+\mathrm{\μE}\left({\mathrm{\ϵ}}_A^2\right)E\left({\mathrm{\ϵ}}_C^2\right)+v---\left(1\right)$

其中，E(ε_B ²)，E(ε_A ²)，E(ε_C ²)分别表示伪GOP中B帧和它的参考帧A，C的MSE，ε_H表示B帧的当前残差帧H中原始残差值和重建残差值之间的差，p_fwd，p_Bwd，p_Biwd分别表示B帧中采用前向预测、后向预测和双向预测的像素的百分比，μ，y是两个待定的系数；

3)基于公式(1)所建立的误差漂移失真模型，按如下方法对SVC视频进行FGS优先级调度：

(1)计算估计公式(1)中两个参数μ，y，具体方法为：先对码流进行基本层抽取和全部抽取后解码，并统计每一帧在基本层的MSE以及每个残差帧在各质量级的E(ε_H ²)，同时统计出在基本层提取后的每个非关键帧的p_fwd，p_Bwd，p_Biwd，而后对于每一个非关键帧，根据其p_fwd，p_Bwd，p_Biwd和残差帧基本层的E(ε_H ²)，以及该帧和其参考帧基本层解码后的MSE，代入公式(1)计算出每一个非关键帧的μ，v；

(2)为每个伪GOP中的各FGS质量包设置优先级，具体方法为：根据每个质量包对整个伪GOP平均率失真性能的影响来确定其优先级，其影响包括对所在帧造成的非漂移失真和由于误差漂移导致的其它帧的MSE下降；其中，所在帧的非漂移失真即为步骤(1)中得到的残差帧在传输该质量包前后的E(ε_H ²)，而后根据公式(1)算出由于误差漂移造成的其他帧的MSE下降，从而得到伪GOP的平均MSE下降，通过循环选取造成伪GOP的MSE下降最小的质量包来得到优先级顺序及相应的码率失真数据。

2.如权利1一种SVC视频FGS优先级调度方法，在执行步骤(2)时，具体步骤如下：

①用一个序列MSE_VGOP[0..(gop_size)]存放伪GOP中每一帧的MSE，将伪GOP的MSE_VGOP[0..(gop_size)]初始化为基本层的MSE序列MSE_Base[0..(gop_size)]，MSE_Base[0..(gop_size)]由步骤(1)中对码流进行基本层截断解码后得到，其中gop_size为伪GOP的大小；用序列array_level存放当前比较优先级的质量包，将array_level初始化为伪GOP的第一个FGS增强层；

②按照循环方法通过选择率失真斜率最大的质量包来逐步排列array_level中各质量包的优先级，直至array_level为空；

③计算每个FGS质量包的率失真斜率，其中对于关键帧，如果包含在两个伪GOP中，其质量包的率失真斜率等于其在两个伪GOP中的率失真斜率的平均；其余质量包的率失真斜率等于其在伪GOP中的率失真斜率，这些率失真斜率用于最终的质量包调度。

3.如权利2所述一种SVC视频FGS优先级调度方法，在执行步骤②时，按如下方法进行：

i)将PSNR-rate斜率CurrMaxSlope_VGOP初始化为0，伪GOP的平均率失真斜率为：

PSNR_VGOP＝20log255-10mean(log₁₀(MSE_VGOP[1..gop_size+1]))；

ii)对于array_level中的每个质量包level(frame_no，FGS_level_no)，判断第k个质量包是不是当前最优的：

a)根据步骤(1)中得到的其所在帧的残差帧在传输该质量包前后的E(ε_H ²)，E(ε_H ²)即为该质量包对所在帧造成的非漂移的MSE下降，与当前MSE_VGOP[0..(gop_size)]中对应的所在帧的MSE相减得到该质量包所在帧的新MSE，然后利用公式(1)，并根据当前的MSE_VGOP[1..(gop_size+1)]计算由误差漂移造成的伪GOP中其它帧的MSE下降decMSE_VGOP；

b)然后利用MSE_VGOP和decMSE_VGOP，按下式计算PSNR增加，

incPSNR_Level_VGOP＝10mean(log₁₀(MSE_VGOP[1..gop_size+1]))

-10mean(log₁₀(MSE_VGOP[1..gop_size+1]-decMSE_VGOP[1..gop_size+1]))如果incPSNR_Level_VGOP/level_size＞CurrMaxSlope_VGOP，即该质量包的率失真斜率大于先前的最大率失真斜率，则令decOptiMSE_VGOP＝decMSE_VGOP，CurrMaxSlope_VGOP＝incPSNR_Level_VGOP/LevelSize，并令该质量包为当前最优质量包，如果关键帧包含在了两个伪GOP中，则Level_Size等于原始大小的一半，Level_Size为质量包的大小；令k＝k+1，回到步骤ii)直到对array_level中的所有质量包检查完毕，进行步骤iii)；

iii)输出本次循环中得到的最优质量包，更新

MSE_VGOP＝MSE_VGOP-decOptiMSE_VGOP；

iv)更新array_level：将先前得到的最优质量包移出array_level，并放入相应帧高一层的质量包，如果该质量包为该帧的最高质量包，则不放入任何质量包，直至array_level为空。

Images