CN102025995A - 一种可伸缩视频编码的空间增强层快速模式选择方法 - Google Patents

Abstract

本发明公开一种可伸缩视频编码的空间增强层快速模式选择方法：若当前编码宏块的空间基本层对应宏块的最佳模式为帧内模式，则当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集。若当前编码宏块的空间基本层对应宏块的最佳模式为帧间模式，则计算当前编码宏块的Skip模式提早跳出的率失真代价门限，如果当前编码宏块Skip模式的率失真代价小于所述率失真代价门限，则选择Skip模式作为当前编码宏块的最佳模式；否则，计算当前编码宏块的模式质量，根据当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集。本发明大大减少需要计算率失真代价的编码模式的数量，从而减少编码时间。

Description

一种可伸缩视频编码的空间增强层快速模式选择方法

技术领域

本发明涉及一种可伸缩视频编码的快速模式选择方法，特别涉及一种针对可伸缩视频编码空域增强层的快速模式选择方法。

背景技术

随着互联网与无线网络技术的发展，数字视频技术的应用随处可见，第三代移动通信技术(3G)的普及使得高效的视频编码技术变得越来越重要。同时快速发展的网络技术也要求视频内容具有各种不同的时域、空域分辨率以及不同的重建质量。为了使一个单一的视频流能够同时满足上述的不同要求，人们提出了可伸缩视频编码技术(SVC)。在可伸缩视频编码中，视频流可以被部分或者全部解码以获取不同帧率、不同空间分辨率或者不同重建质量的视频图像。

目前基于H.264的可伸缩视频编码系统被采纳为可伸缩视频编码的标准，被称为H.264/SVC，H.264/SVC通过“等级B帧”结构来获得时域可伸缩性，对于空域可伸缩，H.264/SVC才用了分层编码技术。为了提高编码效率，与H.264视频编码标准一样，H.264/SVC编码器需要从多种宏块编码模式中选出一个率失真代价最小的最佳模式对一个宏块进行编码，这大大增加了编码复杂度。所述多种宏块编码模式包括：2种帧内模式Intra16x16、Intra4x4；5种帧间模式分别是Skip、16x16、16x8、8x16和8x8模式，其中8x8模式又包括4种子模式分别为Sub8x8、Sub8x4、Sub4x8和Sub4x4模式。对于帧间模式，编码器的计算量极为复杂，编码器完成每一种帧间模式的率失真计算需要进行运动补偿预测、DCT变化、量化、反量化、熵编码等复杂过程，将占用大量编码时间。除此之外，H.264/SVC还在空间增强层引入了新的层间预测技术，以提高层间编码效率，这增加了两种新的预测模式BLSKIP、INTRABL。在BLSKIP模式下，空间增强层的分割信息、运动矢量以及残差数据直接从空间基本层对应宏块中推导出来。在INTRABL模式下，帧内预测的空间基本层对应宏块首先被重建，重建后的数据作为空间增强层宏块的预测信号，之后空间增强层宏块编码原始信号与预测信号的残差。与H.264视频编码标准相同，H.264/SVC依次计算所有可行模式的率失真代价，最后选取率失真代价最小的那个模式作为编码模式。

发明内容

为解决现有技术中可伸缩视频编码标准空间增强层宏块模式选择计算复杂度过高、运算量过大而导致耗时过久的问题，本发明提供一种可伸缩视频编码的空间增强层快速模式选择方法。

本发明解决其技术问题所采取的技术方案是：其可伸缩视频编码的空间增强层快速模式选择方法为：

若当前编码宏块的空间基本层对应宏块的最佳模式为帧内模式，则当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集，并通过“率失真最优化”模型在所述候选模式子集中选择率失真代价最小的模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程。

若当前编码宏块的空间基本层对应宏块的最佳模式为帧间模式，则计算当前编码宏块Skip模式的率失真代价，并根据当前编码宏块的周围宏块计算当前编码宏块的Skip模式提早跳出的率失真代价门限；判断当前编码宏块Skip模式的率失真代价是否小于所述率失真代价门限：若是，则选择Skip模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程；否则，根据位于当前编码宏块的左方、上方和右上方的相邻已编码宏块的最佳模式计算当前编码宏块的模式质量，并根据所述当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集，并通过“率失真最优化”模型在该候选模式子集中选择率失真代价最小的模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程。

进一步地，本发明所述“当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集”按如下方法进行：

当所述当前编码宏块的空间基本层对应宏块的最佳模式为Intra4x4时，选择Intra4x4和INTRABL模式作为当前编码宏块的候选模式子集；

当所述当前编码宏块的空间基本层对应宏块的最佳模式为Intra16x16时，选择为Intra16x16和INTRABL模式作为当前编码宏块的候选模式子集。

进一步地，本发明所述“当前编码宏块的Skip模式提早跳出的率失真代价门限”的计算方法如下：

在当前编码宏块的左方、左上方、上方和右上方的四个相邻已编码宏块中，找到所有最佳模式为Skip模式的宏块，计算出这些宏块的Skip模式的率失真代价的平均值，把该平均值设定为所述率失真代价门限。

进一步地，本发明所述“根据所述当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集”包括如下步骤：

1)若当前编码宏块的左方、上方、右上方均存在相邻已编码宏块，则利用公式(1)计算当前编码宏块的模式质量并执行步骤2)，否则将所述候选模式子集设置为Skip、16x16、16x8、8x16和Sub8x8模式，并执行步骤4)；

MW＝2A+2B+C            (1)

式(1)中，A、B、C分别表示当前编码宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值；

2)获取当前编码宏块的空间基本层对应宏块的最佳模式，根据所述空间基本层对应宏块的最佳模式在所述模式质量门限表中找出对应的3个模式质量门限，3个模式质量门限按其门限值由小到大依次为第一门限、第二门限、第三门限；若当前编码宏块的模式质量小于第一门限，则所述候选模式子集为Skip和16x16模式；若当前编码宏块的模式质量大于等于第一门限且小于第二门限，则所述候选模式子集为Skip、16x16、16x8和8x16模式；若当前编码宏块的模式质量大于等于第二门限且小于第三门限，则所述候选模式子集为Skip、16x16、16x8、8x16和8x8模式；若当前编码宏块的模式质量大于等于第三门限，则所述候选模式子集为Skip、16x8、8x16和8x8模式；

3)若所述候选模式子集包括8x8模式，则从该候选模式子集的除8x8模式以外的其他候选模式中选择率失真代价最小的模式作为暂时最佳模式；若所述暂时最佳模式为Skip或16x16模式，则从该候选模式子集中剔除8x8模式并执行步骤4)，否则首先计算8x8模式中的Sub8x8模式的率失真代价，再将该率失真代价与所述暂时最佳模式的率失真代价相比较：如果所述Sub8x8模式的率失真代价更大，则从该候选模式子集中剔除Sub8x4、Sub4x8、Sub4x4模式并执行步骤4)，否则直接执行步骤4)；

4)将BLSKIP和Intra4x4模式加入到候所述选模式子集中。

进一步地，本发明所述所述“编码器维护的当前编码参数下的模式质量门限表”按如下方法获得：

a)在所述当前编码参数下，分别对Bus、Football和Forman测试序列按可伸缩视频编码标准方法进行编码测试，根据测试结果得到可伸缩视频编码空间增强层宏块的帧间模式的概率分布，以及可伸缩视频编码空间基本层对应宏块的最佳模式在每一种帧间模式下可伸缩视频编码空间增强层宏块的最佳模式的条件概率分布；

b)将公式(2)中的A、B、C的所有可能的取值进行任意组合得到64种取值组合，并按公式(2)计算每一种取值组合所对应的宏块的模式质量，同时利用步骤a)所述空间增强层宏块的帧间模式的概率分布计算出所述每一种取值组合的发生概率；

MW＝2A+2B+C            (2)

式(2)中，A、B、C分别表示任意一个所述空间增强层宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值；

c)根据步骤b)所述64种取值组合的模式质量的由低到高顺序，对模式质量对应的发生概率进行排列，且对其中模式质量相同的发生概率按发生概率自身的由低到高顺序进行排列；

d)分别计算所述空间基本层对应宏块的最佳模式在每一种帧间模式下的第一门限、第二门限、第三门限，并根据计算得到的所有门限建立“编码器维护的当前编码参数下的模式质量门限表”；

所述第一门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip模式的概率，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip模式的概率”，此时截止项所对应的模式质量为第一门限；

所述第二门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip和16x16模式的概率和，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip和16x16模式的概率和”，此时截止项所对应的模式质量为第二门限；

所述第三门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip、16x16、16x8和8x16模式的概率和，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip、16x16、16x8和8x16模式的概率和”，此时截止项所对应的模式质量为第三门限。

与现有技术相比，本发明的优点在于：

1.当当前编码宏块的空间基本层对应宏块的最佳模式为帧内模式时，该当前编码宏块的候选模式子集仅包括帧内模式，这大大减少了需要计算率失真代价的编码模式的数量，从而减少了编码时间。

2.当当前编码宏块的空间基本层对应宏块的最佳模式为帧间模式时，本发明通过设定一个当前编码宏块的Skip模式提早跳出的率失真代价门限，并在当前编码宏块的Skip模式的率失真代价小于所述率失真代价门限时直接结束模式选择过程，从而减少了编码时间。

3.本发明依据当前编码宏块的模式质量和一张编码器维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集，而候选模式子集的编码模式数量较少，从而减少了编码时间。

附图说明

图1是本发明方法的流程图；

图2是图1中的“帧内情况下的模式选择”的具体流程示意图；

图3是图1中的“依据模式质量进行模式选择”的具体流程示意图；

具体实施方式

下面结合图1至图3以及实施例对本发明做进一步的说明。

本发明在JSVM12测试模型上进行仿真实验，并把仿真结果同现有的可伸缩视频编码空间增强层标准全搜索方法在编码时间、码率以及码流的PSNR方面进行了对比。

本实施例所设置的当前编码参数如表1所示：

表1：本实施例的当前编码参数

编码参数	空间基本层	空间增强层
			帧率	15	15
分辨率	QCIF	CIF
			GOP/Intra Period	8	8
运动估计范围	32	32
			量化参数	26	30

其中，编码器事先得到当期编码参数下的模式质量门限表，所述模式质量门限表按如下方法获得：

1)在如表1所述的当前编码参数下，对JVT组织提供的典型测试序列Bus、Football和Forman按照可伸缩视频编码标准方法进行编码测试，记录可伸缩视频编码空间基本层对应宏块的最佳模式为各帧间模式下，各种模式在可伸缩视频编码空间增强层被选为最佳模式的次数。根据测试结果统计得出可伸缩视频编码空间增强层宏块的帧间模式的概率分布，以及可伸缩视频编码空间基本层对应宏块的最佳模式在每一种帧间模式下可伸缩视频编码空间增强层宏块的最佳模式的条件概率分布。典型序列Bus、Football、Forman分别代表中等运动、快速运动、缓慢运动3种典型视频场景(编码65帧)，对典型序列Bus、Football、Forman分别进行编码测试，得到可伸缩视频编码空间增强层宏块的帧间模式的概率分布如表2所示，可伸缩视频编码空间增强层宏块的最佳模式的条件概率分布如表3所示：

表2：可伸缩视频编码空间增强层宏块的帧间模式的概率分布

编码模式	模式概率分布
		Skip	34.3％
16x16	41.5％
		16x8及8x16	17.0％
8x8	7.2％

表3：可伸缩视频编码空间增强层宏块的最佳模式的条件概率分布

2)由公式(3)可知，宏块的模式质量由3个宏块的最佳模式对应的权值A、B、C决定，A、B、C分别表示任意一个空间增强层宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值。A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值，最佳模式越趋于细分割，A、B、C的取值越大。

作为一种优选实施方式，本实施例中，宏块的最佳模式对应的权值的取值如表4所示。由表4可知，每个宏块的最佳模式对应的权值可以有4种取值，故3个宏块的权值A、B、C的取值组合共有64种。按公式(3)计算出这64种取值组合对应的模式质量，同时利用所述空间增强层帧间模式的概率分布计算出每种取值组合的发生概率；

MW＝2A+2B+C        (3)

表4：最佳模式对应的权值

最佳模式	权值
		Skip	0
16x16	1
		16x8	2
8x16	2
		8x8	4

3)根据步骤2)所述的64种取值组合的模式质量的由低到高顺序，对模式质量对应的发生概率进行排列，且对其中模式质量相同的发生概率按发生概率自身的由低到高顺序进行排列；作为示例，表5示出了部分排列结果：

表5：部分排列结果

取值组合(A，B，C)	模式质量	发生概率
			(0，0，0)	0	4.04％
(0，0，1)	1	4.88％
			(0，0，2)	2	2.00％
(0，1，0)	2	4.88％
			(1，0，0)	2	4.88％
(0，1，1)	3	5.89％
			(1，0，1)	3	5.89％
(0，0，4)	4	0.85％
			(0，2，0)	4	2.00％

(2，0，0)	4	2.00％
			(0，1，2)	4	2.42％
(1，0，2)	4	2.42％
			(1，1，0)	4	5.89％
(0，2，1)	5	2.42％
			(2，0，1)	5	2.42％
(1，1，1)	5	7.12％

4)分别计算空间基本层对应宏块的最佳模式在每一种帧间模式下的第一门限、第二门限、第三门限。

第一门限的计算方法如下：首先根据空间基本层宏块的最佳模式，找到空间增强层宏块的最佳模式的条件概率分布，计算该分布中Skip模式的概率，记为P1，接着从第一项开始逐项累加经步骤3)排列后的发生概率，直到累加得到的概率之和大于P1，此时截止项所对应的模式质量设为第一门限。比如当空间基本层对应宏块的最佳模式为为16x16时，相应的空间增强层宏块的最佳模式的条件概率分布中Skip模式的概率为35.03％，从第一项开始逐项累加经步骤3)排列后的发生概率，直到累加得到的概率之和大于35.03％，此时发现截止项对应的模式质量为4，于是设置空间基本层对应宏块的最佳模式为16x16时的第一门限为4。

第二门限计算方法如下：首先根据空间基本层宏块的最佳模式，找到空间增强层宏块的最佳模式的条件概率分布，计算该分布中Skip和16x16模式的概率和，记为P2，接着从第一项开始逐项累加经步骤3)排列后的发生概率，直到累加得到的概率之和大于P2，此时截止项所对应的模式质量设为第二门限。比如当空间基本层对应宏块的最佳模式为16x16时，相应的空间增强层宏块的最佳模式的条件概率分布中Skip和16x16模式的概率和为35.03％+51.17％＝86.20％，从第一项开始逐项累加经步骤3)排列后的发生概率，直到累加得到的概率之和大于86.20％，此时发现截止项对应的模式质量为9，于是设置空间基本层对应宏块的最佳模式为16x16时的第二门限为9。

第三门限计算方法如下：首先根据空间基本层宏块的最佳模式，找到空间增强层宏块的最佳模式的条件概率分布，计算该分布中Skip、16x16、16x8和8x16模式的概率和，记为P3，接着从第一项开始逐项累加经步骤3)排列后的发生概率，直到累加得到的概率之和大于P3，此时截止项所对应的模式质量设为第三门限。比如当空间基本层对应宏块的最佳模式为16x16时，相应的空间增强层宏块的最佳模式的条件概率分布中Skip、16x16、16x8和8x16模式的概率和为35.03％+51.17％+10.28％＝96.48％，从第一项开始逐项累加经步骤3)排列后的发生概率，直到累加得到的概率之和大于96.48％，此时发现截止项对应的模式质量为12，于是设置空间基本层对应宏块的最佳模式为16x16时的第三门限为12。

计算所有的12个门限后，建立“编码器维护的当前编码参数下的模式质量门限表”，最终建立的模式质量门限表如表6所示：

表6：当前编码参数下的模式质量门限表

基本层对应宏块最佳模式	第一门限	第二门限	第三门限
				Skip	7	12	16
16x16	4	9	12
				16x8及8x16	2	7	11
8x8	2	4	8

得到“编码器维护的当前编码参数下的模式质量门限表”后，本发明的增强层快速模式选择方法具体流程按以下步骤进行：

步骤1、输入空间增强层帧图像，依次对每一宏块进行编码；

步骤2、获取当前编码宏块的空间基本层对应宏块的最佳模式；

步骤3、判断当前编码宏块的空间基本层对应宏块的最佳模式：

(一)如果当前编码宏块的空间基本层对应宏块的最佳模式为帧内模式，则当前编码宏块仅选择帧内模式最为当前编码宏块的候选模式子集，并进一步判断：若空间基本层对应宏块的最佳模式为Intra4x4模式，当前编码宏块的候选模式子集选择为INTRABL和Intra4x4模式。仅针对这两种模式计算其率失真代价，并转到步骤4；若空间基本层对应宏块的最佳模式为Intra16x16模式，候选模式子集选择为INTRABL和Intra16x16模式。仅针对这两种模式计算其率失真代价，并转到步骤4；

(二)如果当前编码宏块的空间基本层对应宏块的最佳模式为帧间模式，则根据当前编码宏块的周围宏块计算当前编码宏块的Skip模式提早跳出的率失真代价门限。在当前编码宏块的左方、左上方、上方和右上方的四个相邻已编码宏块中，找到所有最佳模式为Skip模式的宏块，计算出这些宏块的Skip模式的率失真代价的平均值，把该平均值设定为所述率失真代价门限。并执行以下步骤：

步骤(1)：计算当前编码宏块Skip模式的率失真代价，并与所述率失真代价门限作比较，如果当前编码宏块Skip模式的率失真代价小于率失真代价门限，则当期编码宏块的最佳模式选择为Skip模式，转到步骤4；否则，进入步骤(2)。

步骤(2)：根据当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集。首先对当前编码宏块，检查它是否能够计算出模式质量：

如果不能计算出模式质量，则表示当前编码宏块的左方、上方、右上方不都存在相邻已编码宏块，此时将候选模式子集设为Skip、16x16、16x8、8x16和Sub8x8模式，计算16x16、16x8、8x16和Sub8x8模式的率失真代价(Skip模式的率失真代价已经在步骤(1)中计算过)，转到步骤(4)；

如果能计算出模式质量，则表示当前编码宏块的左方、上方、右上方都存在相邻已编码宏块，此时按公式(4)计算当前编码宏块的模式质量，后进入步骤(3)；

MW＝2A+2B+C        (4)

式(4)中，A、B、C分别表示当前编码宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C根据其所对应的最佳模式从表4中进行相应取值。

步骤(3)：根据当前编码宏块的空间基本层对应宏块的最佳模式，从模式质量门限表中找出对应的3个模式质量门限。

若当前编码宏块的模式质量小于第一门限，候选模式子集选择为Skip和16x16模式。计算16x16模式的率失真代价(Skip模式的率失真代价已经在步骤(1)中计算过)，转到步骤(4)。

若所述模式质量大于等于第一门限且小于第二门限，候选模式子集选择为Skip、16x16、16x8和8x16模式，计算16x16、16x8和8x16的率失真代价(Skip模式的率失真代价已经在步骤(1)中计算过)，转到步骤(4)。

若所述模式质量大于等于第二门限且小于第三门限，候选模式子集选择为Skip、16x16、16x8、8x16和8x8模式，其中8x8模式包括Sub8x8、Sub8x4、Sub4x8和Sub4x4四种模式。首先计算16x16、16x8和8x16模式的率失真代价(Skip模式的率失真代价已经在步骤(1)中计算过)，记已计算的所有模式中率失真代价最小的模式为暂时最佳模式，如果此时的暂时最佳模式为16x16或者Skip模式的话，转到步骤(4)(即剔除8x8模式)；否则，再计算Sub8x8模式的率失真代价，如果Sub8x8模式的率失真代价大于所述暂时最佳模式的率失真代价，转到步骤(4)(即剔除Sub4x8、Sub8x4、Sub4x4模式)；否则再计算Sub4x8、Sub8x4、Sub4x4模式的率失真代价，转到步骤(4)。

若所述模式质量大于第三门限，候选模式子集选择为Skip、16x8、8x16和8x8模式，其中8x8模式包括Sub8x8、Sub8x4、Sub4x8和Sub4x4四种模式。首先计算16x8、8x16模式的率失真代价(Skip模式的率失真代价已经在步骤(1)中计算过)，记已计算的所有模式中率失真代价最小的模式为暂时最佳模式，如果此时的暂时最佳模式为Skip模式的话，转到步骤(4)(即剔除8x8模式)；否则，再计算Sub8x8模式的率失真代价，如果Sub8x8模式的率失真代价大于暂时最佳模式的率失真代价，转到步骤(4)(即剔除Sub4x8、Sub8x4、Sub4x4模式)；否则再计算Sub4x8、Sub8x4、Sub4x4模式的率失真代价，转到步骤(4)。

步骤(4)：计算BLSKIP和Intra4x4模式的率失真代价，转到步骤4。

步骤4、选择已计算所有模式中率失真代价最小的模式为当前编码宏块的最佳模式。至此，一种可伸缩视频编码的空间增强层快速模式选择方法结束。

在本实施例的编码参数下，本发明的增强层快速模式选择方法实验效果如表7所示(编码65帧)：可以看到本发明有效地减少了编码时间平均达70％，最高达76％，同时对编码视频的率失真性能影响很小。

本发明通过减少当前编码宏块的候选子集模式，有效地降低了可伸缩视频编码标准中空间增强层宏块模式选择的计算复杂度。

表7：本发明实验效果

序列	总节省时间	增强层节省时间	比特率变化	PSNR变化db
					Container	76.3％	85.8％	+0.11％	-0.028
City	68.8％	77.8％	+0.54％	-0.085
					Football	62.0％	68.5％	+0.20％	-0.034
Foreman	66.6％	74.9％	+0.53％	-0.059
					Harbour	67.4％	73.9％	+0.54％	-0.038
M & D	74.8％	84.5％	+0.13％	-0.029
					平均	69.3％	77.6％	+0.34％	-0.046

Claims (5)

1.一种可伸缩视频编码的空间增强层快速模式选择方法，其特征是：

若当前编码宏块的空间基本层对应宏块的最佳模式为帧内模式，则当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集，并通过“率失真最优化”模型在所述候选模式子集中选择率失真代价最小的模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程。

若当前编码宏块的空间基本层对应宏块的最佳模式为帧间模式，则计算当前编码宏块Skip模式的率失真代价，并根据当前编码宏块的周围宏块计算当前编码宏块的Skip模式提早跳出的率失真代价门限；判断当前编码宏块Skip模式的率失真代价是否小于所述率失真代价门限：若是，则选择Skip模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程；否则，根据位于当前编码宏块的左方、上方和右上方的相邻已编码宏块的最佳模式计算当前编码宏块的模式质量，并根据所述当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集，并通过“率失真最优化”模型在该候选模式子集中选择率失真代价最小的模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程。

2.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，“当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集”按如下方法进行：

当所述当前编码宏块的空间基本层对应宏块的最佳模式为Intra4x4时，选择Intra4x4和INTRABL模式作为当前编码宏块的候选模式子集；

当所述当前编码宏块的空间基本层对应宏块的最佳模式为Intra16x16时，选择为Intra16x16和INTRABL模式作为当前编码宏块的候选模式子集。

3.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，“当前编码宏块的Skip模式提早跳出的率失真代价门限”的计算方法如下：

在当前编码宏块的左方、左上方、上方和右上方的四个相邻已编码宏块中，找到所有最佳模式为Skip模式的宏块，计算出这些宏块的Skip模式的率失真代价的平均值，把该平均值设定为所述率失真代价门限。

4.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，“根据所述当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集”包括如下步骤：

1)若当前编码宏块的左方、上方、右上方均存在相邻已编码宏块，则利用公式(1)计算当前编码宏块的模式质量并执行步骤2)，否则将所述候选模式子集设置为Skip、16x16、16x8、8x16和Sub8x8模式，并执行步骤4)；

MW＝2A+2B+C          (1)

式(1)中，A、B、C分别表示当前编码宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值；

2)根据当前编码宏块的空间基本层对应宏块的最佳模式在所述模式质量门限表中找出对应的3个模式质量门限，3个模式质量门限按其门限值由小到大依次为第一门限、第二门限、第三门限；若当前编码宏块的模式质量小于第一门限，则所述候选模式子集为Skip和16x16模式；若当前编码宏块的模式质量大于等于第一门限且小于第二门限，则所述候选模式子集为Skip、16x16、16x8和8x16模式；若当前编码宏块的模式质量大于等于第二门限且小于第三门限，则所述候选模式子集为Skip、16x16、16x8、8x16和8x8模式；若当前编码宏块的模式质量大于等于第三门限，则所述候选模式子集为Skip、16x8、8x16和8x8模式；

3)若所述候选模式子集包括8x8模式，则从该候选模式子集的除8x8模式以外的其他候选模式中选择率失真代价最小的模式作为暂时最佳模式；若所述暂时最佳模式为Skip或16x16模式，则从该候选模式子集中剔除8x8模式并执行步骤4)，否则首先计算8x8模式中的Sub8x8模式的率失真代价，再将该率失真代价与所述暂时最佳模式的率失真代价相比较：如果所述Sub8x8模式的率失真代价更大，则从该候选模式子集中剔除Sub8x4、Sub4x8、Sub4x4模式并执行步骤4)，否则直接执行步骤4)；

4)将BLSKIP和Intra4x4模式加入到候所述选模式子集中。

5.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，所述“编码器维护的当前编码参数下的模式质量门限表”按如下方法获得：

a)在所述当前编码参数下，分别对Bus、Football和Forman测试序列按可伸缩视频编码标准方法进行编码测试，根据测试结果得到可伸缩视频编码空间增强层宏块的帧间模式的概率分布，以及可伸缩视频编码空间基本层对应宏块的最佳模式在每一种帧间模式下可伸缩视频编码空间增强层宏块的最佳模式的条件概率分布；

b)将公式(2)中的A、B、C的所有可能的取值进行任意组合得到64种取值组合，并按公式(2)计算每一种取值组合所对应的宏块的模式质量，同时利用步骤a)所述空间增强层宏块的帧间模式的概率分布计算出所述每一种取值组合的发生概率；

MW＝2A+2B+C            (2)

式(2)中，A、B、C分别表示任意一个所述空间增强层宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值；

c)根据步骤b)所述64种取值组合的模式质量的由低到高顺序，对模式质量对应的发生概率进行排列，且对其中模式质量相同的发生概率按发生概率自身的由低到高顺序进行排列；

d)分别计算所述空间基本层对应宏块的最佳模式在每一种帧间模式下的第一门限、第二门限、第三门限，并根据计算得到的所有门限建立“编码器维护的当前编码参数下的模式质量门限表”；

所述第一门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip模式的概率，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip模式的概率”，此时截止项所对应的模式质量为第一门限；

所述第二门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip和16x16模式的概率和，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip和16x16模式的概率和”，此时截止项所对应的模式质量为第二门限；

所述第三门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip、16x16、16x8和8x16模式的概率和，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip、16x16、16x8和8x16模式的概率和”，此时截止项所对应的模式质量为第三门限。

Images