CN104581181A - 一种基于备选模式列表优化的帧内编码方法 - Google Patents

Abstract

本发明涉及视频信号处理方法技术领域，提供了一种基于备选模式列表优化的帧内编码方法，包括：步骤A：得到最初的备选模式列表CML；步骤B：重新确定与优化备选模式列表CML；步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。本发明通过重新确定备选模式列表CML减少备选模式从而实现帧内快速编码，在不降低编码后视频质量的前提下，有效地降低了帧内编码过程的复杂度。

Description

一种基于备选模式列表优化的帧内编码方法

【技术领域】

本发明涉及视频信号处理方法技术领域，特别是涉及一种基于备选模式列表优化的帧内编码方法。

【背景技术】

随着科学技术的不断发展，人类社会将进入全新的大数据时代。对视频而言，其分辨率从176×144逐渐增大到4k×2k，甚至是8k×4k。与低分辨率视频相比，高分辨率视频可以给人类提供更大的视觉享受。然而，目前最成熟的新一代视频编码标准H.264/AVC（H.264/Advanced Video Coding）不能对高分辨率视频进行有效的压缩，因此在2010年4月，国际电信联盟视频编码专家组（VideoCoding Expert Group，VCEG）和国际标准化组织/国际电工委员会运动图像专家组（Motion Picture Expert Group，MPEG）组成视频编码联合协作组（JointCollaborative Team on Video Coding，JCT-VC）研究下一代高效视频编码标准（High Efficiency Video Coding，HEVC）。高效视频编码标准HEVC的目标是在新一代视频编码标准H.264/AVC的基础上，进一步提高视频的压缩效率，特别是高分辨率的视频序列。

高效视频编码标准HEVC帧内编码过程中采用了更加灵活的块结构。该技术可以通过全遍历的方式针对不同复杂度的视频内容灵活地选择编码单元CU（Coding Unit）、预测单元PU（Prediction Unit）、变换单元TU（Transform Unit）和预测模式最优的组合方式，从而获得更高的压缩效率，但是这种技术也大大增加了编码的复杂度。对应于每种预测模式需要执行率失真优化（Rate DistortionOptimization，RDO），以遍历的方式计算各预测模式编码当前预测单元PU的代价并比较率失真代价值，具有最小率失真代价的预测模式成为最佳预测模式。虽然增加帧内预测模式的数目有助于提高预测单元PU内像素的预测精度，但是这种遍历搜索方式、众多预测模式以及每个模式下率失真代价计算极高的计算复杂度综合导致整个帧内编码复杂度极高，不利于实时性视频压缩应用。另外，备选模式列表（Candidate Mode List，CML）中不同位置的模式成为最佳预测模式的概率存在明显差异，以及同一位置不同模式成为最佳预测模式的概率也存在明显差异，但现有模式选择方法中，没有或者没有有效利用这一特性，进一步减少最终执行率失真优化RDO的备选模式列表CML中模式的数目。

鉴于此，可知现有技术未能充分降低高效视频编码标准HEVC帧内编码过程复杂度。

【发明内容】

本发明提供一种解决高效视频编码标准HEVC中帧内编码过程复杂度过高问题的基于备选模式列表优化的帧内编码方法。

本发明采用如下技术方案：

一种基于备选模式列表优化的帧内编码方法，包括以下步骤：

步骤A：得到最初的备选模式列表CML；

步骤B：重新确定与优化备选模式列表CML；

步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。

进一步地，所述步骤A具体为：编码当前编码单元CU的亮度编码块CB，利用当前编码单元CU与周围已编码的编码单元CU信息，包括纹理复杂度信息、已编码单元CU的编码预测模式、已编码单元CU和预测单元PU的尺寸与深度信息，从可选帧内预测模式选取可能的最佳模式为备选模式，由此得到最初的备选模式列表CML；

所述步骤B具体为：根据备选模式列表CML中的帧内模式排序、模式属性以及编码单元CU和预测单元PU的尺寸信息，重新确定与优化备选模式列表CML。

进一步地，在所述步骤A中，通过如下步骤得到亮度编码块CB最初的备选模式列表CML：

步骤S21：使用粗略模式决定RMD方法，从35种帧内预测模式中选择N个具有最小粗略模式决定代价RMD cost的模式，并按照从小到大的顺序排列，获得初步的备选模式列表CML，其中N根据预测单元PU尺寸决定，当预测单元PU为64×64，32×32，16×16，8×8，4×4时分别选择3，3，3，8，8；

步骤S22：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中。

进一步地，所述步骤B具体包括：

若备选模式列表CML中第一个备选模式FCM属于最可能模式MPM，则备选模式列表CML中所有模式仅保留集合A；

若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单元PU尺寸大于M×M，则备选模式列表CML中所有模式仅保留集合C；

若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单元PU尺寸小于等于M×M，则备选模式列表CML中所有模式仅保留集合E；

若备选模式列表CML中第一个备选模式FCM不属于集合F，则备选模式列表CML中所有模式仅保留集合G。

进一步地，所述集合A选择{第一个备选模式FCM，第二个备选模式SCM}或者{第一个备选模式FCM，第二个备选模式SCM，第三个备选模式TCM}。

进一步地，所述集合B选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，水平模式}，M选择8或者16，集合C选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，第二个备选模式SCM}。

进一步地，所述集合B选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，水平模式}，M选择8或者16，集合E选择{直流模式DC，平面模式Planar，第二个备选模式SCM}或者{直流模式DC，平面模式Planar，第二个备选模式SCM，第三个备选模式TCM}。

进一步地，集合F选择{直流模式DC，平面模式Planar，最可能模式MPM}或者{直流模式DC，平面模式Planar，水平模式，最可能模式MPM}，集合G选择原始备选模式列表CML中的所有模式或者原始备选模式列表CML中前N-1个模式。

进一步地，在所述步骤C之后，还包括如下步骤：

判断当前编码树单元CTU是否遍历完成，若未完成则返回执行步骤A，遍历下一个编码块CB。

与现有技术相比，本发明的有益效果在于：利用备选模式列表CML中不同位置的模式成为最佳预测模式的概率差异，以及同一位置不同模式成为最佳预测模式的概率差异，进一步减少需要执行率失真优化的备选模式列表CML中模式的数目，通过重新确定备选模式列表CML进行帧内快速编码，从而在不降低编码后视频质量的前提下有效地降低了帧内编码过程的复杂度。

【附图说明】

图1是亮度预测块PB使用的33种预测方向的示意图；

图2是本发明的基于备选模式列表优化的帧内编码方法流程图；

图3是本发明的亮度编码块CB的帧内编码流程图；

图4是本发明实施例一种基于备选模式列表优化的帧内编码方法的流程图；

图5是本发明另一实施例一种基于备选模式列表优化的帧内编码方法的流程图；

图6是本发明实施例的方法与原始高效视频编码标准HEVC编码平台、文献①M.Zhang,C.Zhao and J.Xu,“An Adaptive Fast Intra Mode Decision InHEVC,”IEEE International Conference on Image Processing(ICIP),Beijing,China,PP.221-224,Sept.2012.提供的方法在全帧内高效档次配置下Traffic、Cactus、BQMall和Johnny序列的率失真性能对比图；

图7是本发明实施例的方法与原始高效视频编码标准HEVC编码平台、文献①M.Zhang,C.Zhao and J.Xu,“An Adaptive Fast Intra Mode Decision InHEVC,”IEEE International Conference on Image Processing(ICIP),Beijing,China,PP.221-224,Sept.2012.提供的方法在全帧内主档次配置下Traffic、Cactus、BQMall和Johnny序列的率失真性能对比图。

【具体实施方式】

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

此外，下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。

高效视频编码标准HEVC中，编码单元CU（Coding Unit）是编码的基本单元，类似于视频编码标准H.264/AVC中宏块的概念，它是采用四叉树结构递归分割的编码树单元（Coding Tree Unit，CTU）的叶子节点。在序列参数集（SequenceParameter Set，SPS）中可以规定编码树单元CTU的最大编码单元（Largest CodingUnit，LCU）尺寸和最大的分割深度。编码树单元CTU利用分割标识确定编码单元CU是否需要继续分割，当需要分割时编码单元CU可以分成四个大小相同的下一级编码单元CU。预测单元PU（Prediction Unit）是预测的基本单元，它决定编码单元CU是采用帧间或者帧内模式中哪一种模式进行预测，其根节点在编码单元CU层。帧内预测模式的分割类型有不分割和四等分两种类型，只有当编码单元CU递归分割达到最小尺寸时四等分的分割模式才执行。变换单元TU（Transform Unit）是残差变换的基本单元，根节点也在编码单元CU层。变换单元TU的处理也采用四叉树结构，其四叉树称为残差四叉树（ResidualQuadtree，RQT）。在序列参数集SPS中可以规定残差四叉树RQT的最大变换块（Transform Block，TB）尺寸和最大的分割深度。变换块TB基本上都采用离散余弦变换（Discrete Cosine Transform，DCT），但是如果变换块TB大小为4×4且是帧内预测时选择离散正弦变换（Discrete Sine Transform，DST）。

帧内预测时，编码树单元CTU根据四叉树递归分割，每个叶子节点构成编码单元CU。编码单元CU包含一个亮度编码块（Coding Block，CB），两个色度编码块CB，以及对应的句法元素。本发明只对编码单元CU中亮度编码块CB编码过程进行优化，而对应的色度编码块CB仍采用原始的高效视频编码标准HEVC的方法处理。当亮度编码块CB确定后使用一个或者多个亮度预测块PB（Prediction Block，PB）进行预测，并且每个亮度预测块PB使用33种方向预测和2种非方向预测获得预测块PB内每个像素的预测值。亮度预测块PB使用的33种预测方向如图1所示，其中模式2-17使用预测块PB左边的参考像素预测，模式18-34使用预测块PB上边的参考像素预测。每种模式还要执行计算复杂度很高的率失真优化（Rate Distortion Optimization，RDO）过程。如果预测块PB的35种帧内预测模式都执行率失真优化RDO过程，很明显复杂度会很高。在不降低帧内编码后视频质量的前提下，为了降低帧内编码过程的复杂度，高效视频编码标准HEVC采用了粗略模式决定（Rough Mode Decision，RMD）方法获得最可能成为最佳预测模式的集合-备选模式列表（Candidate Mode List，CML）。该技术主要通过大大减少执行率失真优化RDO的帧内预测模式的数目，从而大大降低了帧内预测的复杂度。粗略模式决定RMD首先根据公式（1）快速计算35种帧内预测模式对应的粗略模式决定代价RMD_cost，并选择粗略模式决定代价RMD_cost最小的N个模式按从小到大的顺序排列构成初步的备选模式列表CML。N根据预测块PB的大小64×64，32×32，16×16，8×8，4×4分别选择3，3，3，8，8。然后将最可能模式（Most Probable Mode，MPM）中未包含在粗略模式决定RMD获得的备选模式列表CML中的模式添加到备选模式列表CML，此时构成了最初的备选模式列表CML。本发明在最初确定的备选模式列表CML的基础上重新确定了备选模式列表CML，重新确定后的备选模式列表CML中每个模式需要进一步执行率失真优化RDO，根据率失真代价（Rate DistortionCost，RD Cost）选择最佳的帧内预测模式。

${\mathrm{RMD}}_{\cos t}=\mathrm{HSAD}\left({\mathrm{Res}}_{m_i}\right)+\mathrm{\λ}\·\mathrm{bit}\left(m_i\right)---\left(1\right)$

其中，是当前预测块PB使用帧内预测模式m_i预测后得到的残差信号进行阿达玛变换后变换系数的绝对值之和，bit(m_i)是编码帧内预测模式m_i所需的比特，λ是拉格朗日乘子，粗略模式决定代价RMD_cost是粗略模式决定RMD后使用帧内预测模式m_i预测当前块得到的代价。

本发明实施例提供了一种基于备选模式列表优化的帧内编码方法。如图2所示，该方法包括如下步骤：

步骤A：编码当前编码单元CU的亮度编码块CB，利用当前编码单元CU与周围已编码的编码单元CU信息，包括纹理复杂度信息、已编码单元CU的编码预测模式、已编码单元CU和预测单元PU的尺寸与深度信息，从可选帧内预测模式选取可能的最佳模式为备选模式，由此得到最初的备选模式列表CML；

步骤B：根据备选模式列表CML中的帧内模式排序、模式属性以及编码单元CU和预测单元PU的尺寸信息，重新确定备选模式列表CML；

步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。

下面通过一具体实施例，对当前亮度编码块CB的帧内编码流程进行详细说明。如图3所示，该流程包括：

步骤S11：开始亮度编码块CB编码；

步骤S12：使用粗略模式决定RMD方法获得初步的备选模式列表CML；

步骤S13：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中；

步骤S14：得到最初的备选模式列表CML；

其中，步骤S11-步骤S14可以理解为步骤A的一具体实现方式。

步骤S15：重新确定备选模式列表CML；

步骤S16：备选模式列表CML中每个模式执行率失真优化RDO过程；

步骤S17：选择率失真代价RD Cost最小的模式作为最佳帧内预测模式；

其中，步骤S16-步骤S17可以理解为步骤C的一具体实现方式。

步骤S18：完成亮度编码块CB编码。

如图4所示，为包括步骤S15重新确定备选模式列表CML具体实现过程的本实施例的详细流程图，其中FCM（First Candidate Mode）表示备选模式列表CML中第一个备选模式，SCM（Second Candidate Mode）表示备选模式列表CML中第二个备选模式，DC（Direct Current）表示直流预测模式，Planar表示平面预测模式，粗略模式决定代价RMD cost表示模式对应的粗略模式决定RMD代价，率失真代价RD Cost表示模式对应的率失真代价。

图4中，未经列出的操作默认为原始的高效视频编码标准HEVC的操作，该方法包括如下步骤：

步骤A1：开始编码一个编码树单元CTU。

步骤A2：亮度编码块CB执行粗略模式决定RMD方法。

为了获得亮度预测块PB对应的备选模式列表CML，使用粗略模式决定RMD方法从35种帧内预测模式中选择N个具有最小粗略模式决定代价RMDcost的模式，并按照从小到大的顺序排列。其中N根据预测单元PU尺寸决定，当预测单元PU为64×64，32×32，16×16，8×8，4×4时分别选择3，3，3，8，8。

步骤A3：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中。

该步骤通过判断最可能模式MPM中的模式是否包含在备选模式列表CML中，若最可能模式MPM中的某个模式不包含在备选模式列表CML中，则将不包含的模式添加到备选模式列表CML中。

步骤A4：得到亮度编码块CB最初的备选模式列表CML。

步骤A5：判断第一个备选模式FCM是否包含在最可能模式MPM中，也即判断备选模式列表CML中第一个备选模式FCM是否属于最可能模式MPM，若是则执行步骤A6，否则执行步骤A7。

需要说明的是，本实施例通过第一个备选模式FCM的类型，快速确定备选模式列表中保留的模式数目，在其他实施例中，还可以对第一个备选模式FCM使用其它不同的类型判断。

步骤A6：备选模式列表CML中仅保留前两个备选模式，包括第一个备选模式FCM和第二个备选模式SCM，然后执行步骤A12。

步骤A7：判断第一个备选模式FCM是否为直流模式DC或者平面模式Planar，也即判断备选模式列表CML中第一个模式是否属于集合{直流预测模式DC，平面预测模式Planar}，若是则执行步骤A8，否则执行步骤A11。

步骤A8：当前预测单元PU尺寸是否小于等于8×8，若是则执行步骤A9，否则执行步骤A10。

步骤A9：备选模式列表CML中仅保留直流模式DC、平面模式Planar和第二个备选模式SCM，然后执行步骤A12。

步骤A10：备选模式列表CML中仅保留直流模式DC和平面模式Planar，然后执行步骤A12。

步骤A11：采用原始HEVC处理方法处理，也即备选模式列表CML中的所有模式都保留，然后执行步骤A12。

步骤A12：备选模式列表CML中每个模式执行率失真优化RDO，选择最佳的帧内预测模式，具体为计算备选模式列表CML中每个模式对应的率失真代价RD Cost，然后选择率失真代价RD Cost最小的模式作为最佳帧内预测模式。

步骤A13：判断当前亮度编码块CB所属编码单元CU是否为编码树单元CTU中最后一个编码单元，也即判断当前编码树单元CTU是否遍历完成，若是代表遍历完成，则执行步骤A14，否则返回执行步骤A2。

步骤A14：完成编码树单元CTU的编码。

需要说明的是，本实施例将帧内编码过程中第一个备选模式FCM使用四个分支划分，分别是步骤A6、A9、A10、A11，还可以使用更多或者更少的分支进行划分。本实施例根据第一个备选模式FCM的类型，快速确定备选模式列表中保留的模式数目和种类，在其他实施例中，可以在第一个备选模式FCM属于不同类型的情况下，备选模式列表保留不同的模式数目和种类。此处不一一列举。

本步骤中，结束当前编码树单元CTU的递归分割过程，完成当前编码树单元CTU对应的编码单元CU、预测单元PU、变换单元TU和预测模式的选择。

如图5所示，为包括步骤S15重新确定备选模式列表CML具体实现过程的本发明另一实施例的详细流程图，本实施例与上述实施例的区别在于：在第一个备选模式FCM属于不同类型的情况下，备选模式列表保留不同的模式数目和种类。

其中FCM（First Candidate Mode）表示备选模式列表CML中第一个备选模式，SCM（Second Candidate Mode）表示备选模式列表CML中第二个备选模式，TCM（Third Candidate Mode）表示备选模式列表CML中第三个备选模式，DC（Direct Current）表示直流预测模式，Planar表示平面预测模式，粗略模式决定代价RMD cost表示模式对应的粗略模式决定RMD代价，率失真代价RD Cost表示模式对应的率失真代价。

图5中，未经列出的操作默认为原始的高效视频编码标准HEVC的操作，该方法包括如下步骤：

步骤B1：开始编码一个编码树单元CTU。

步骤B2：亮度编码块CB执行粗略模式决定RMD方法。

为了获得亮度预测块PB对应的备选模式列表CML，使用粗略模式决定RMD方法从35种帧内预测模式中选择N个具有最小粗略模式决定代价RMDcost的模式，并按照从小到大的顺序排列。其中N根据预测单元PU尺寸决定，当预测单元PU为64×64，32×32，16×16，8×8，4×4时分别选择3，3，3，8，8。

步骤B3：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中。

该步骤通过判断最可能模式MPM中的模式是否包含在备选模式列表CML中，若最可能模式MPM中的某个模式不包含在备选模式列表CML中，则将不包含的模式添加到备选模式列表CML中。

步骤B4：得到亮度编码块CB最初的备选模式列表CML。

步骤B5：判断第一个备选模式FCM是否包含在最可能模式MPM中，也即判断备选模式列表CML中第一个备选模式FCM是否属于最可能模式MPM，若是则执行步骤B6，否则执行步骤B7。

需要说明的是，本实施例通过第一个备选模式FCM的类型，快速确定备选模式列表中保留的模式数目，在其他实施例中，还可以对第一个备选模式FCM使用其它不同的类型判断。

步骤B6：备选模式列表CML中仅保留前N个备选模式，本实施例中保留前三个备选模式，包括第一个备选模式FCM，第二个备选模式SCM和第三个备选模式TCM，然后执行步骤B12。

步骤B7：判断第一个备选模式FCM是否为直流模式DC，平面模式Planar或者水平模式，也即判断备选模式列表CML中第一个模式是否属于集合{直流模式DC，平面模式Planar，水平模式}，若是则执行步骤B8，否则执行步骤B11。

步骤B8：当前预测单元PU尺寸是否小于等于16×16，若是则执行步骤B9，否则执行步骤B10。

步骤B9：备选模式列表CML中仅保留直流模式DC，平面模式Planar，第二个备选模式SCM和第三个备选模式TCM，然后执行步骤B12。

步骤B10：备选模式列表CML中仅保留直流模式DC，平面模式Planar和第二个备选模式SCM，然后执行步骤B12。

步骤B11：保留原始备选模式列表CML中前N-1个模式，然后执行步骤B12。

步骤B12：备选模式列表CML中每个模式执行率失真优化RDO，选择最佳的帧内预测模式，具体为计算备选模式列表CML中每个模式对应的率失真代价RD Cost，然后选择率失真代价RD Cost最小的模式作为最佳帧内预测模式。

步骤B13：判断当前亮度编码块CB所属编码单元CU是否为编码树单元CTU中最后一个编码单元，也即判断当前编码树单元CTU是否遍历完成，若是代表遍历完成，则执行步骤B14，否则返回执行步骤B2。

步骤B14：完成编码树单元CTU的编码。

实验：

在高效视频编码标准HEVC编码平台HM8.0上实现了本发明的方法。测试平台的配置如下：AMD Athlon(tm)ⅡX2B24，处理器2.99GHz，2.00G内存。全帧内高效档次和全帧内主档次两种测试条件下相同配置参数如下：最大编码单元CU宽度64，最大编码单元CU高度64，最大编码单元CU递归深度为4，最大变换单元TU大小为32×32，最大变换单元TU递归深度为1，启动采样自适应偏移（Sample Adaptive Offset，SAO），启动变换跳过（Transform Skipping，TS），启动快速变换跳过（Fast Transform Skipping，FTS）。全帧内高效档次和全帧内编码主档次唯一不同的配置是全帧内高效档次的内部位深度为10，全帧内编码主档次的内部位深度为8。在测试过程中本文测试了class A-class E中所有的测试序列，class A包含四个序列，分别为Traffic、PeopleOnStreet、Nebuta和SteamLocomotive，对应的分辨率为2560×1600，其中Traffic和PeopleOnStreet的帧率是30，Nebuta和SteamLocomotive的帧率是60；class B包含五个序列，分别为Kimono、ParkScene、Cactus、BQTerrace和BasketballDrive，对应的分辨率为1920×1080，其中Kimono和ParkScene帧率是24，Cactus和BasketballDrive的帧率是50，BQTerrace帧率是60；class C包含四个序列，分别为RaceHorses、BQMall、PartyScene和BasketballDrill，对应的分辨率为832×480，其中RaceHorses帧率是30，BQMall帧率是60，PartyScene和BasketballDrill的帧率是50；classD包含四个序列，分别为RaceHorses、BQSquare、BlowingBubbles和BasketballPass，对应的分辨率为416×240，其中RaceHorses的帧率是30，BlowingBubbles和BasketballPass的帧率是50，BQSquare的帧率是60；class E包含三个序列，分别为FourPeople、Johnny和KristenAndSara，对应的分辨率为1280×720，并且FourPeople、Johnny和KristenAndSara的帧率是60。每个class的每个测试序列需要测试4个量化参数（Quantization Parameter，QP）：22、27、32、37，每个序列的每个量化参数QP编码100帧。

实验结果展示在表1中，最终使用平均峰值信噪比增加量BD-PSNR(dB)、平均比特率的增加量BD-BitRate(%)、时间节省Time-Saving(TS)(%)评价提出本方法的性能。时间节省TS的定义如公式（2）所示：

$\mathrm{TS}=\frac{1}{4}\underset{i=1}{\overset{4}{\mathrm{\Σ}}}\frac{T_{\mathrm{HM}8.0}\left({\mathrm{QP}}_i\right)-T_{\mathrm{proposed}}\left({\mathrm{OP}}_i\right)}{T_{\mathrm{HM}8.0}\left({\mathrm{OP}}_i\right)}\×100\%---\left(2\right)$

其中T_HM8.0(QP_i)表示当QP=QP_i时编码平台HM8.0编码的总时间；T_propoed(QP_i)表示当QP=QP_i时提出方法编码的总时间。

表1为本发明方法与文献①方法在全帧内高效档次和全帧内主档次两种配置下与原始高效视频编码标准HEVC编码平台编码结果的对比，其中本发明方法/原始表示本发明提出方法与原始高效视频编码标准HEVC编码平台编码结果的对比，文献①/原始表示文献①方法与原始高效视频编码标准HEVC编码平台编码结果的对比。

表1 实验结果

对比实验方案包括原始高效视频编码标准HEVC编码平台方案，文献①M.Zhang,C.Zhao and J.Xu,“An Adaptive Fast Intra Mode Decision In HEVC,”IEEEInternational Conference on Image Processing(ICIP),Beijing,China,PP.221-224,Sept.2012.的快速帧内编码方案以及本发明的方法。编码实验结果表明：对于压缩效率上，本发明方法在相同码率下，相对于原始高效视频编码标准HEVC编码平台尖峰信噪比平均下降为0.02dB，可以忽略。

图6和图7为本发明方法与原始高效视频编码标准HEVC编码平台、文献①方法在全帧内高效档次和全帧内主档次两种配置下部分序列率失真性能对比图。其中“高效视频压缩标准方法”代表原始高效视频编码标准HEVC编码平台编码率失真性能曲线，“本发明方法”代表本发明方法率失真性能曲线，“文献①方法”代表文献①方法率失真性能曲线。在全帧内高效档次配置下帧内编码过程速度提高20.16%到28.48%（平均24.30%），相比于已有方法文献①复杂度降低4.67%；相比于原高效视频编码标准HEVC编码平台，在全帧内主档次配置下帧内编码过程速度提高20.07%到28.19%（平均24.11%），相比于已有方法文献①复杂度进一步降低4.57%。

本实施例具有如下有益效果：

高效视频编码标准HEVC主要采用更多的帧内预测模式提高编码效率但计算复杂度极高，本发明实施例针对高效视频编码标准HEVC中存在的帧内编码复杂度高的问题，综合利用备选模式列表CML中不同位置的模式成为最佳预测模式的概率差异，以及同一位置不同模式成为最佳预测模式的概率差异，进一步减少需要执行率失真优化的备选模式列表CML中模式的数目，构建更有效的备选模式列表CML集合，从而在保证高压缩比的前提下，也即不降低编码后视频质量的前提下，更有效地降低了高效视频编码标准HEVC帧内编码复杂度，另外，本发明主要重新确定粗略模式决定RMD后的备选模式列表CML，可以和其他传统的帧内快速方法结合，进一步降低帧内编码的复杂度。

本领域普通技术人员可以理解实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：只读存储器（ROM，Read Only Memory）、随机存取存储器（RAM，Random Access Memory）、磁盘或光盘等。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于备选模式列表优化的帧内编码方法，其特征在于，包括以下步骤：

步骤A：得到最初的备选模式列表CML；

步骤B：重新确定与优化备选模式列表CML；

步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。

2.根据权利要求1所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述步骤A具体为：编码当前编码单元CU的亮度编码块CB，利用当前编码单元CU与周围已编码的编码单元CU信息，包括纹理复杂度信息、已编码单元CU的编码预测模式、已编码单元CU和预测单元PU的尺寸与深度信息，从可选帧内预测模式选取可能的最佳模式为备选模式，由此得到最初的备选模式列表CML；

所述步骤B具体为：根据备选模式列表CML中的帧内模式排序、模式属性以及编码单元CU和预测单元PU的尺寸信息，重新确定与优化备选模式列表CML。

3.根据权利要求1所述的基于备选模式列表优化的帧内编码方法，其特征在于，在所述步骤A中，通过如下步骤得到亮度编码块CB最初的备选模式列表CML：

步骤S21：使用粗略模式决定RMD方法，从35种帧内预测模式中选择N个具有最小粗略模式决定代价RMD cost的模式，并按照从小到大的顺序排列，获得初步的备选模式列表CML，其中N根据预测单元PU尺寸决定，当预测单元PU为64×64，32×32，16×16，8×8，4×4时分别选择3，3，3，8，8；

步骤S22：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中。

4.根据权利要求1所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述步骤B具体包括：

若备选模式列表CML中第一个备选模式FCM属于最可能模式MPM，则备选模式列表CML中所有模式仅保留集合A；

若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单元PU尺寸大于M×M，则备选模式列表CML中所有模式仅保留集合C；

若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单元PU尺寸小于等于M×M，则备选模式列表CML中所有模式仅保留集合E；

若备选模式列表CML中第一个备选模式FCM不属于集合F，则备选模式列表CML中所有模式仅保留集合G。

5.根据权利要求4所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述集合A选择{第一个备选模式FCM，第二个备选模式SCM}或者{第一个备选模式FCM，第二个备选模式SCM，第三个备选模式TCM}。

6.根据权利要求4所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述集合B选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，水平模式}，M选择8或者16，集合C选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，第二个备选模式SCM}。

7.根据权利要求4所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述集合B选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，水平模式}，M选择8或者16，集合E选择{直流模式DC，平面模式Planar，第二个备选模式SCM}或者{直流模式DC，平面模式Planar，第二个备选模式SCM，第三个备选模式TCM}。

8.根据权利要求4所述的基于备选模式列表优化的帧内编码方法，其特征在于，集合F选择{直流模式DC，平面模式Planar，最可能模式MPM}或者{直流模式DC，平面模式Planar，水平模式，最可能模式MPM}，集合G选择原始备选模式列表CML中的所有模式或者原始备选模式列表CML中前N-1个模式。

9.根据权利要求1-8任一项所述的基于备选模式列表优化的帧内编码方法，其特征在于，在所述步骤C之后，还包括如下步骤：

判断当前编码树单元CTU是否遍历完成，若未完成则返回执行步骤A，遍历下一个编码块CB。