CN103702122A - 编码模式选择方法、装置及编码器 - Google Patents

Abstract

本发明实施例中公开了编码模式选择方法、装置及编码器，该方法包括：对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据相邻编码层的最佳划分方式对应的RDCost，选择编码单元的最佳编码模式。本发明实施例同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此可以节省编码器的计算资源开销，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

Description

编码模式选择方法、装置及编码器

技术领域

本发明涉及视频编码技术领域，特别涉及一种编码模式选择方法、装置及编码器。

背景技术

高效率的视频编码（High efficiency video coding，HEVC）是正在研究的新一代视频压缩标准，主要面向对象为高清和超高清的视频图像。应用HEVC可以在保证相同视频图像质量的前提下，减少视频流的码率；并在提高压缩效率的同时，允许编码端适当提高编码复杂度。在基于HEVC标准为当前编码单元（Coding Unit，CU）选择编码模式时，视频编码器可以采用率失真优化（Rate Distortion Optimization，RDO）算法，遍历计算当前CU的每个模式类型下的所有分块方式对应的率失真代价值（Rate DistortionCost，RDCost），从中选择数值最小的RDCost对应的候选模式及分块方式作为当前CU的编码模式。

发明人在对现有技术的研究过程中发现，由于在为当前CU选择编码模式时，需要通过RDO算法遍历计算每个模式类型下的所有分块方式对应的RDCost，而每一次RDO算法都需要执行包括变换、量化、反变换和反量化在内的计算，因此计算复杂度较高，需要耗费编码器的大量计算资源，相应提升了编码器的硬件要求，导致编码模式的选择效率不高。

发明内容

本发明实施例中提供了编码模式选择方法、装置及编码器，以解决现有技术需要编码器耗费大量计算资源，导致编码模式的选择效率不高的问题。

为了解决上述技术问题，本发明实施例公开了如下技术方案：

第一方面，提供一种编码模式选择方法，所述方法包括：

对于编码单元的每个编码层，通过快速率失真优化RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；

根据所述编码单元的相邻编码层的最佳划分方式对应的率失真代价值RDCost，选择所述编码单元的最佳编码模式。

结合第一方面，在第一方面的第一种可能的实现方式中，所述通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，包括：

对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

结合第一方面的第一种可能的实现方式，在第一方面的第二种可能的实现方式中，所述通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，包括：

采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；

比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

结合第一方面的第一种可能的实现方式，或第一方面的第二种可能的实现方式，在第一方面的第三种可能的实现方式中，所述模式类型包括至少一种下述模式：帧间Inter模式、帧内Intra模式、合并Merge模式。

结合第一方面，或第一方面的第一种可能的实现方式，或第一方面的第二种可能的实现方式，或第一方面的第三种可能的实现方式，在第一方面的第四种可能的实现方式中，所述通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式，包括：

采用RDO算法计算所述编码层的候选划分方式对应的RDCost；

比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

结合第一方面，或第一方面的第一种可能的实现方式，或第一方面的第二种可能的实现方式，或第一方面的第三种可能的实现方式，或第一方面的第四种可能的实现方式中，在第一方面的第五种可能的实现方式中，所述根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式，包括：

比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

第二方面，提供一种编码模式选择装置，所述装置包括：

获取单元，用于对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式；

确定单元，通过RDO算法从所述获取单元获取的候选划分方式中确定所述编码层的最佳划分方式；

选择单元，用于根据所述确定单元确定的所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。

结合第二方面，在第二方面的第一种可能的实现方式中，所述获取单元，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

结合第二方面的第一种可能的实现方式，在第二方面的第二种可能的实现方式中，所述获取单元包括：

第一代价值计算子单元，用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；

第一划分方式选择子单元，用于比较所述第一代价计算子单元计算得到的模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

结合第二方面，或第二方面的第一种可能的实现方式，或第二方面的第二种可能的实现方式，在第二方面的第三种可能的实现方式中，所述确定单元包括：

第二代价值计算子单元，用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost；

第二划分方式选择子单元，用于比较所述第二代价值计算子单元计算得到的候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

结合第二方面，或第二方面的第一种可能的实现方式，或第二方面的第二种可能的实现方式，或第二方面的第三种可能的实现方式，在第二方面的第四种可能的实现方式中，所述选择单元，具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

第三方面，提供一种编码器，所述编码器包括：输入输出接口和处理器，其中，

所述输入输出接口，用于获得编码单元；

所述处理器，用于对于所述编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。

结合第三方面，在第三方面的第一种可能的实现方式中，所述处理器，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

结合第三方面的第一种可能的实现方式，在第三方面的第二种可能的实现方式中，所述处理器，具体用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost，并比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

结合第三方面，或第三方面的第一种可能的实现方式，或第三方面的第二种可能的实现方式，在第三方面的第三种可能的实现方式中，所述处理器，具体用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost，并比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

结合第三方面，或第三方面的第一种可能的实现方式，或第三方面的第二种可能的实现方式，或第三方面的第三种可能的实现方式，在第三方面的第四种可能的实现方式中，所述处理器，具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

本发明实施例中，对于编码单元的每个编码层，编码器通过快速RDO算法从编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择编码单元的最佳编码模式。应用本发明实施例，在编码单元的同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此与现有技术相比可以节省编码器的计算资源开销，降低编码器的硬件要求，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明编码模式选择方法的一个实施例流程图；

图2为本发明编码模式选择方法的另一个实施例流程图；

图3A为应用本发明实施例的一个编码模式选择架构示意图；

图3B为应用现有技术的编码模式选择架构示意图；

图4为应用本发明实施例的另一个编码模式选择架构示意图；

图5为本发明编码模式选择装置的实施例框图；

图6为本发明编码器的实施例框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

参见图1，为本发明编码模式选择方法的一个实施例流程图：

步骤101：对于编码单元的每个编码层，通过快速RDO算法从该编码层的所有划分方式中获取该编码层的候选划分方式，通过RDO算法从候选划分方式中确定该编码层的最佳划分方式。

本实施例中，在通过快速RDO算法从该编码层的所有划分方式中获取每个编码层的候选划分方式时，对于每个编码层的每种模式类型，可以通过快速RDO算法从每种模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。具体的，可以采用快速RDO算法计算每种模式类型对应的所有划分方式的RDCost，比较每种模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为该模式类型的最佳划分方式。其中，模式类型包括至少一种下述模式：帧间（Inter）模式、帧内（Intra）模式、合并（Merge）模式。

本实施例中，在通过RDO算法从候选划分方式中确定每个编码层的最佳划分方式时，可以采用RDO算法计算每个编码层的候选划分方式对应的RDCost，比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为该编码层的最佳划分方式。

步骤102：根据编码单元的相邻编码层的最佳划分方式对应的RDCost，选择该编码单元的最佳编码模式。

在步骤101确定了每个编码层的最佳划分方式后，可以比较编码单元的相邻编码层的最佳划分方式对应的RDCost，该最佳划分方式对应的RDCost为通过RDO算法计算得到的RDCost，选择数值最小的RDCost对应的划分方式作为该编码单元的最佳划分方式。

由上述实施例可见，在编码单元的同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此与现有技术相比可以节省编码器的计算资源开销，降低编码器的硬件要求，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

本发明编码模式选择方法实施例可以基于HEVC标准实现，HEVC标准的核心是在H.264标准的基础上，提高高分率和高保真的视频图像的压缩效率。现有技术中，视频编码器主要通过RDO算法进行编码模式的选择，随着对H.264标准及类似标准的进一步研究，现有技术中已经提出了各种快速RDO算法（也可以称为非RDO算法），例如，哈德曼变换后再绝对值求和（Sum of Absolute Transformed Difference，SATD）算法等。在计算同一模式类型的同一划分方式的RDCost时，快速RDO算法和RDO算法相比，前者的计算复杂度低于后者，因此本发明实施例在选择编码单元的编码模式时，通过采用快速RDO算法以节省编码器的计算资源开销。

参见图2，为本发明编码模式选择方法的另一个实施例流程图：

步骤201：进入编码单元的当前编码层。

HEVC标准在编码单元中引入了编码层（Depth），假设编码单元共有K层编码层，对应可以表示为编码层0至编码层K-1，初始获得编码单元时，首先进入的当前编码层为编码层0。以HEVC标准支持的最大编码单元（Large Coding Unit，LCU）为例，该LCU为64*64的像素块，其支持四层编码层的划分，其中编码层0的CU大小为64*64，编码层1的CU大小为32*32，编码层2的CU大小为16*16，编码层3的CU大小为8*8。

步骤202：对于当前编码层的每种模式类型，采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost。

每个编码单元根据其帧类型不同，可能对应不同的模式类型，即每个编码层的模式类型可能有一种或者多种。例如，当编码单元的帧类型为I帧时，编码单元的模式类型可以仅包含Intra模式；当编码单元的帧类型为非I帧时，编码单元的模式类型可以包含Inter模式和Intra模式，进一步还可以包含Merge模式。其中，不同模式类型对应的划分方式可能不同，例如，对于Inter模式，其划分方式可以包括2N*2N，N*2N，2N*N和N*N，对于Intra模式，其划分方式可以包括2N*2N和N*N，其中2N*2N为当前编码层的CU大小。

本发明实施例中，不论编码单元包含几种模式类型，对于当前编码层，对每种模式类型，均采用快速RDO算法计算该模式类型对应的所有划分方式的RDCost。需要说明的是，对于不同模式类型，可以采用相同的快速RDO算法计算RDCost，也可以采用不同的RDO算法计算RDCost，对此本发明实施例不进行限制。

步骤203：比较每种模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为该模式类型的最佳划分方式，并将每种模式类型的最佳划分方式作为当前编码层的候选划分方式。

步骤204：采用RDO算法计算当前编码层的候选划分方式对应的RDCost。

对于当前编码层，当步骤203通过快速RDO算法获得了每种模式类型的最佳划分方式后，采用RDO算法计算这些最佳划分方式对应的RDCost，RDCost可以表示为如下公式，其中，D表示失真度，R表示编码所需的比特数，λ为预设常量：

RDCost=D+λ·R

步骤205：比较候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为当前编码层的最佳划分方式。

根据步骤204中通过RDO算法计算得到的每种模式类型的最佳划分方式对应的RDCost，从中选择最小的RDCost对应的划分方式为当前编码层的最佳划分方式。

步骤206：输出通过RDO算法计算得到的当前编码层的最佳划分方式对应的RDCost。

步骤207：判断当前编码层是否为编码单元的最大编码层，若是，则执行步骤209，否则，执行步骤208。

步骤208：将当前编码层的层数加1，返回步骤202。

步骤209：比较输出的相邻编码层的最佳划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为编码单元的最佳划分方式。

由上述实施例可见，在编码单元的同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此与现有技术相比可以节省编码器的计算资源开销，降低编码器的硬件要求，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

参见图3A，为应用本发明实施例的一个编码模式选择架构示意图，该示意图中示出的编码单元的模式类型包括Inter模式和Intra模式，其中同一编码层的不同模式类型采用相同的快速RDO算法：

如图3A中，LCU分为四个编码层，且包括Inter模式和Intra模式。在编码层0，通过快速RDO算法从Inter模式中的四个划分方式中获取最佳划分方式，通过RDO算法计算该Inter模式下的最佳划分方式的RDCost，以及通过快速RDO算法从Intra模式中的两个划分方式中获取最佳划分方式，通过RDO算法计算该Intra模式下的最佳划分方式的RDCost，从上述两个RDCost中选择较小的RDCost对应的划分方式作为编码层0的最佳划分方式，输出通过RDO算法计算得到的编码层0的最佳划分方式的RDCost，记为RDCost0；同理，采用上述方式获得编码层1至编码层3的最佳划分方式的RDCost，分别记为RDCost1、RDCost2和RDCost3；然后，比较四个编码层的最佳划分方式对应的RDCost，即比较RDCost0、RDCost1、RDCost2和RDCost3，从中选择最小的RDCost对应的划分方式作为该LCU的最佳划分方式。

为了进一步说明采用本发明实施例选择编码模式的有益效果，参见图3B，为应用现有技术的编码模式选择架构示意图：

与图3A一致，图3B中的LCU也分为四个编码层，且包括Inter模式和Intra模式。其中，在每个编码层，均通过RDO算法从Inter模式中的四个划分方式中获取最佳划分方式，以及通过RDO算法从Intra模式中的两个划分方式中获取最佳划分方式，并从上述两个RDCost中选择较小的RDCost对应的划分方式作为该编码层的最佳划分方式。

下面结合上述应用图3A和图3B的编码选择过程，如下表1，为对比编码器采用本发明实施例和现有技术的RDO计算次数：

表1

由上表1可见，当采用现有技术进行编码选择时，对于Inter模式需要进行319次RDO计算，对于Intra模式需要进行149次RDO计算，共需进行468此RDO计算；当采用本发明实施例进行编码选择时，对于Inter模式仅需要进行85次RDO计算，对于Intra模式也仅需要进行85次RDO计算，共需进行170次RDO计算。

采用本发明实施例，虽然在进行同一编码层的最佳划分方式的选择时采用了快速RDO算法，但是快速RDO算法的计算复杂度远低于RDO算法，且计算速度快，因此可以不考虑其对编码器计算资源的占用，而对于不同编码层，由于仍采用RDO算法选择编码单元的最佳划分方式，因此可以保证最终编码模式的选择指令。由此可知，采用本发明实施例所需要的RDO计算次数远远少于现有技术，因此可以节省编码器的大量计算资源，降低编码器的硬件要求。

参见图4，为应用本发明实施例的另一个编码模式选择架构示意图，该示意图中示出的编码单元的模式类型包括Inter模式和Merge模式，其中同一编码层的不同模式类型采用不同的快速RDO算法：

如图4中，LCU分为四个编码层，且包括Inter模式和Merge模式。在编码层0，可以通过第一快速RDO算法从Intra模式中的四个划分方式中获取最佳划分方式，然后通过第二快速RDO算法从Inter模式的四个划分方式和Intra模式的最佳划分方式中选择一个最佳划分方式，作为编码层0的最佳划分方式，通过RDO算法计算该编码层0的最佳划分方式的RDCost；同理，采用上述方式获得编码层1至编码层3的最佳划分方式的RDCost，分别记为RDCost1、RDCost2和RDCost3；然后，比较四个编码层的最佳划分方式对应的RDCost，即比较RDCost0、RDCost1、RDCost2和RDCost3，从中选择最小的RDCost对应的划分方式作为该LCU的最佳划分方式。

由上述实施例可见，在编码单元的同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此与现有技术相比可以节省编码器的计算资源开销，降低编码器的硬件要求，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

与本发明编码模式选择方法的实施例相对应，本发明还提供了编码模式选择装置及编码器的实施例。

参见图5，为本发明编码模式选择装置的实施例框图：

该装置包括：获取单元510、确定单元520和选择单元530。

其中，获取单元510，用于对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式；

确定单元520，通过RDO算法从所述获取单元获取的候选划分方式中确定所述编码层的最佳划分方式；

选择单元530，用于根据所述确定单元确定的所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。

在一个可选的实现方式中：

所述获取单元510，可以具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

其中，所述获取单元510可以包括（图5中未示出）：

第一代价值计算子单元，用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；

第一划分方式选择子单元，用于比较所述第一代价计算子单元计算得到的模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

在另一个可选的实现方式中：

所述确定单元520可以包括（图5中未示出）：

第二代价值计算子单元，用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost；

第二划分方式选择子单元，用于比较所述第二代价值计算子单元计算得到的候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

在另一个可选的实现方式中：

所述选择单元530，可以具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

参见图6，为本发明编码器的实施例框图：

该编码器包括：输入输出接口610和处理器620。

其中，所述输入输出接口610，用于获得编码单元；

所述处理器620，用于对于所述编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。

在一个可选的实现方式中：

所述处理器620，可以具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

其中，所述处理器620，可以具体用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost，并比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

在另一个可选的实现方式中：

所述处理器620，可以具体用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost，并比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

在另一个可选的实现方式中：

所述处理器620，可以具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

由上述实施例可见，对于编码单元的每个编码层，编码器通过快速RDO算法从编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择编码单元的最佳编码模式。应用本发明实施例，在编码单元的同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此与现有技术相比可以节省编码器的计算资源开销，降低编码器的硬件要求，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件的方式来实现，通用硬件包括通用集成电路、通用CPU、通用存储器、通用元器件等，当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明实施例中的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、磁碟、光盘等，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例或者实施例的某些部分所述的方法。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述的本发明实施方式，并不构成对本发明保护范围的限定。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (16)

1.一种编码模式选择方法，其特征在于，所述方法包括：

对于编码单元的每个编码层，通过快速率失真优化RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；

根据所述编码单元的相邻编码层的最佳划分方式对应的率失真代价值RDCost，选择所述编码单元的最佳编码模式。

2.根据权利要求1所述的方法，其特征在于，所述通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，包括：

对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

3.根据权利要求2所述的方法，其特征在于，所述通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，包括：

采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；

比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

4.根据权利要求2或3所述的方法，其特征在于，所述模式类型包括至少一种下述模式：帧间Inter模式、帧内Intra模式、合并Merge模式。

5.根据权利要求1至4任意一项所述的方法，其特征在于，所述通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式，包括：

采用RDO算法计算所述编码层的候选划分方式对应的RDCost；

比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

6.根据权利要求1至5任意一项所述的方法，其特征在于，所述根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式，包括：

比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

7.一种编码模式选择装置，其特征在于，所述装置包括：

获取单元，用于对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式；

确定单元，通过RDO算法从所述获取单元获取的候选划分方式中确定所述编码层的最佳划分方式；

选择单元，用于根据所述确定单元确定的所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。

8.根据权利要求7所述的装置，其特征在于，所述获取单元，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

9.根据权利要求8所述的装置，其特征在于，所述获取单元包括：

第一代价值计算子单元，用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；

第一划分方式选择子单元，用于比较所述第一代价计算子单元计算得到的模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

10.根据权利要求7至9任意一项所述的装置，其特征在于，所述确定单元包括：

第二代价值计算子单元，用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost；

第二划分方式选择子单元，用于比较所述第二代价值计算子单元计算得到的候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

11.根据权利要求7至10任意一项所述的装置，其特征在于，所述选择单元，具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

12.一种编码器，其特征在于，所述编码器包括：输入输出接口和处理器，其中，

所述输入输出接口，用于获得编码单元；

所述处理器，用于对于所述编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。

13.根据权利要求12所述的编码器，其特征在于，

所述处理器，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。

14.根据权利要求13所述的编码器，其特征在于，

所述处理器，具体用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost，并比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。

15.根据权利要求12至14任意一项所述的编码器，其特征在于，

所述处理器，具体用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost，并比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。

16.根据权利要求12至15任意一项所述的编码器，其特征在于，

所述处理器，具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。

Images