CN108322741A - 一种确定编码模式的方法及装置 - Google Patents

Abstract

本申请实施例提供了一种确定编码模式的方法及装置，属于图像处理技术领域。所述方法应用于编码器，编码器中存储有多种类型的编码模式，且每种类型的编码模式的数目为多个，所述方法包括：获取待编码的编码单元，根据预设的多个编码模式对应的跳过模式和预设的率失真花费算法，计算编码单元的率失真花费，根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列，根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数，如果第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。采用本发明，可以提高模式确定的效率。

Description

一种确定编码模式的方法及装置

技术领域

本申请涉及图像处理技术领域，特别是涉及一种确定编码模式的方法及装置。

背景技术

由于高分辨率拍摄设备的普及化，互联网视频量急速增长。为了高效的存储和传输高清视频，人们通常采用具有更高压缩编码效率的新一代视频编码标准对视频进行压缩，比如HEVC/H.265。

在高效视频编码中，编码器会将待编码的图像分割成多个编码单元(CodingUnit，CU)，然后逐个进行编码。其中，帧间预测模式是一种常用的编码模式。帧间预测模式通常包含7类型的预测模式，即merge模式、2Nx2N模式、2NxN模式、Nx2N模式、2NxnU模式、2NxnD模式、nLx2N模式和nRx2N模式。针对任一CU，它的模式决定过程一般来说先评价merge模式，然后依次评价其余编码模式，最终确定待使用的编码模式，作为该CU的编码模式。以merge模式为例，编码器中会存储多个merge模式，其中，不同的merge模式对应的运动向量不同。对于任一merge模式，编码器会通过该merge模式确定某CU对应的预测图像，进而将预测图像和源图像进行相减得到残差，然后根据预设的TU划分方式对该残差执行DCT(Discrete Cosine Transform，离散余弦变换)，然后量化得到量化系数，进而判断这些量化系数是否全为0，如果是，则终止对剩余编码模式的评价，将该编码模式作为待使用的编码模式，否则，按照上述处理过程继续对其他编码模式进行评价。

基于现有技术的方案，需要分别计算每种编码模式的量化系数，直到确定出量化系数全为0的编码模式为止。该模式确定过程非常复杂，耗费了大量时间，导致模式确定的效率较低。

发明内容

本申请实施例的目的在于提供一种确定编码模式的方法及装置，以提高模式确定的效率。具体技术方案如下：

第一方面，提供了一种确定编码模式的方法，所述方法应用于编码器，所述编码器中存储有多种类型的编码模式，且每种类型的编码模式的数目为多个，所述方法包括：

获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；

根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，其中，所述多个编码模式为同一类型的编码模式；

根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列；

根据所述第一编码模式序列和所述编码单元，依次确定所述各编码模式对应的量化系数；

如果所述第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对所述类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

可选的，所述根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，包括：

针对任一编码模式，将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式；

根据所述各编码模式对应的跳过模式和预设的率失真花费算法，计算所述编码单元的率失真花费。

可选的，所述方法还包括：

如果所述第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据所各编码模式对应的率失真花费、以及所述各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式；

根据所述第二编码模式，确定待使用的编码模式。

可选的，所述根据所述第二编码模式，确定待使用的编码模式，包括：

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费小于预设阈值，则将所述第二编码模式作为待使用的编码模式；

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将所述编码模式顺序中的其他编码模式的量化系数均设置为0，并计算所述其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式；

如果所述第二编码模式不为跳过模式，则根据所述编码模式顺序，依次计算所述其他编码模式的率失真花费，当判定所述编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

第二方面，提供了一种确定编码模式的装置，所述装置应用于编码器，所述编码器中存储有多种类型的编码模式，且每种类型的编码模式的数目为多个，所述装置包括：

获取模块，用于获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；

计算模块，用于根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，其中，所述多个编码模式为同一类型的编码模式；

排序模块，用于根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列；

第一确定模块，用于根据所述第一编码模式序列和所述编码单元，依次确定所述各编码模式对应的量化系数；

第二确定模块，用于如果所述第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对所述类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

可选的，所述计算模块，具体用于：

针对任一编码模式，将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式；

根据所述各编码模式对应的跳过模式和预设的率失真花费算法，计算所述编码单元的率失真花费。

可选的，所述装置还包括：

第三确定模块，用于如果所述第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据所各编码模式对应的率失真花费、以及所述各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式；

第四确定模块，用于根据所述第二编码模式，确定待使用的编码模式。

可选的，所述第四确定模块，具体用于：

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费小于预设阈值，则将所述第二编码模式作为待使用的编码模式；

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将所述编码模式顺序中的其他编码模式的量化系数均设置为0，并计算所述其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式；

如果所述第二编码模式不为跳过模式，则根据所述编码模式顺序，依次计算所述其他编码模式的率失真花费，当判定所述编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

第三方面，提供了一种编码器，包括处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令，所述处理器被所述机器可执行指令促使：实现第一方面所述的方法步骤。

第四方面，提供了一种机器可读存储介质，其特征在于，存储有机器可执行指令，在被处理器调用和执行时，所述机器可执行指令促使所述处理器：实现第一方面所述的方法步骤。

本发明实施例提供确定编码模式的方法，编码设备在对某一类型的编码模式进行评价时，先根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，然后根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列，进而根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数。当编码设备按照第一编码模式序列，确定出对应的量化系数均为0的第一编码模式后，可以直接将将第一编码模式作为该类型的编码模式中的待使用的编码模式，无需对该第一编码模式之后的编码模式进行评价，从而提高了确定编码模式的效率。当然，实施本申请的任一产品或方法必不一定需要同时达到以上所述的所有优点。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明实施例提供的一种确定编码模式的方法流程图；

图2为本发明实施例提供的一种确定编码模式的方法流程图；

图3为本发明实施例提供的一种确定编码模式的方法流程图；

图4为本发明实施例提供的一种确定编码模式的装置的结构示意图；

图5为本发明实施例提供的一种确定编码模式的装置的结构示意图；

图6为本发明实施例提供的一种编码器的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。

本发明实施例还提供了一种确定编码模式的方法，该方法应用于编码设备，该编码设备可以是终端或服务器，还可以是终端或服务器中设置的编码器。编码设备中可以存储有多种类型的编码模式，该编码模式为帧间编码模式，比如merge模式、2Nx2N模式、2NxN模式、Nx2N模式、2NxnU模式、2NxnD模式、nLx2N模式和nRx2N模式。针对每种类型的编码模式，编码设备中会存储多个该类型的编码模式，且不同的编码模式对应的运动向量不同。如图1所示，该方法的处理过程可以包括以下步骤：

步骤110，获取待编码的编码单元。

其中，编码单元是通过对待编码的目标图像进行划分得到。

在实施中，当需要对某图像进行编码时，编码设备可以获取待编码的图像，然后将待编码的图像分割成编码树单元(即CTU)，一般设CTU(Coding Tree Unit，编码树单元)的尺寸为64x64。编码设备通常以四叉树的形式把CTU分为编码单元(CU)，然后确定编码模式，对CU进行编码。CU可以有64x64、32x32、16x16、8x8共4种大小，一个64x64的块，可以以四叉树的形式任意分割为不同大小的CU进行编码。其中，帧间预测模式是常用的编码模式之一。帧间预测模式至少包含有7种预测模式。其中，不同的预测模式中，对CU的划分方式不同。具体的划分方式为现有技术，本实施例不再赘述。

步骤120，根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，其中，多个编码模式为同一类型的编码模式。

在实施中，编码设备中可以存储有多种类型的编码模式，该编码模式为帧间编码模式，比如merge模式、2Nx2N模式、2NxN模式、Nx2N模式、2NxnU模式、2NxnD模式、nLx2N模式和nRx2N模式。针对每种类型的编码模式，编码设备中会存储多个该类型的编码模式，且不同的编码模式对应的运动向量不同。在确定编码模式时，首先会对merge模式进行评价，然后再依次对其他模式进行评价。本实施例以merge模式为例进行说明，其他情况与之类似，不再赘述。为了便于描述，编码设备中的不同merge模式可称为候选merge模式。

首先，针对任一编码模式，编码设备可以将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式。本发明实施例中，对于每个候选merge模式，编码设备可以先确定该候选merge模式的跳过模式，其中，跳过模式为该候选merge模式对应的量化系数均预先设置为0的模式。

然后，编码设备可以根据各编码模式对应的跳过模式和预设的率失真花费算法，计算编码单元的率失真花费。本发明实施例中，对于任一候选merge模式，编码设备可以根据该候选merge模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，具体的处理过程可以如下：

在计算一个子CU的率失真花费时，会先选定一个对该CU进行划分的PU划分方式和一个TU划分方式，然后根据该跳过模式和PU划分方式，确定该CU对应的预测图像，进而将预测图像和源图像进行相减得到残差，然后用该残差加上预测图像，得到该子CU的重构图像。编码设备可以计算源图像和重构图像之间的平方和失真(SSE)，然后把该CU的编码参数和预设的量化系数(即均为0)等用熵编码设备编码，得到其码率bits。具体的，率失真花费的计算公式可以如下：

Rdcost＝SSE+λ*bits

其中，Rdcost为率失真花费，λ是一个依赖于量化参数的常数，λ＝α×2^{((QP-12)/3.0)}；α是一个依赖于图像类型的参数，为一个预设的常数。

这样，编码设备可以根据预设的每个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，得到每个编码模式对应的跳过模式的率失真花费。

步骤130，根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列。

在实施中，编码设备可以对计算出每个跳过模式的各率失真花费，按照由小到大的顺序进行排序，得到跳过模式序列，进而根据该跳过模式序列，确定其对应的编码模式序列(即第一编码模式序列)。

步骤140，根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数。

在实施中，编码设备可以按照第一编码模式序列中各候选merge模式的顺序，依次计算每个候选merge模式对应的率失真花费，具体的计算过程可以如下：

在计算一个子CU的率失真花费时，会先选定一个对该CU进行划分的PU划分方式和一个TU划分方式，然后根据该候选merge模式和PU划分方式，确定该CU对应的预测图像，进而将预测图像和源图像进行相减得到残差，然后根据TU划分方式对该残差执行DCT变换，然后进行量化得到量化系数，然后再进行反量化、反变换，进而加上预测图像，得到该子CU的重构图像。编码设备可以计算源图像和重构图像之间的平方和失真(SSE)，然后把该CU的编码参数和量化系数等用熵编码设备编码，得到其码率bits。具体的，率失真花费的计算公式可以如下：

Rdcost＝SSE+λ*bits

其中，Rdcost为率失真花费，λ是一个依赖于量化参数的常数，λ＝α×2^{((QP-12)/3.0)}；α是一个依赖于图像类型的参数，为一个预设的常数。

在上述计算过程中，编码设备还可以获取上述计算过程中的量化系数。具体的，编码设备可以对DCT系数进行量化，获得量化系数。例如，DCT系数是123，量化参数是15，那么量化后就是123/15＝8.2，量化结果为对商取整，也即，量化系数为8；如果DCT系数是5，量化参数是15，那么量化结果就是5/15＝0。

步骤150，如果第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对该类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

在实施中，编码设备获取到该候选merge模式的量化系数后，可以判断该候选merge模式的量化系数是否全部为0，如果是，则可以判定该候选merge模式为merge模式中的待使用的编码模式，编码器可以跳过merge模式的评价过程，然后根据其他类型的编码模式和该候选merge模式(即第一编码模式)，确定待使用的编码模式。其中，根据其他类型的编码模式确定待使用的编码模式的处理过程，可以采用现有技术中的处理过程，或者，也可以采用本发明实施例提供的确定编码模式的处理过程，本发明实施例不做限定。

如果该候选merge模式的量化系数不是全部为0，则根据第一编码模式序列，继续计算下一个候选merge模式的量化系数，并判断该候选merge模式的量化系数是否均为0，以此类推，直到第一编码模式序列中的全部候选merge模式计算完成为止。

可选的，如图2所示，上述方法还可以包括：

步骤160，如果第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据各编码模式对应的率失真花费、以及各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式。

在实施中，如果编码设备对第一编码模式序列中的全部候选merge模式计算完成后，判定第一编码模式序列中，不存在对应的量化系数均为0的候选merge模式，则可以在各编码模式对应的率失真花费、以及各编码模式对应的跳过模式的率失真花费中，确定最小率失真花费，进而确定该最小率失真花费对应的编码模式(即第二编码模式)。其中，第二编码模式可能是候选merge模式，也可能是跳过模式。

步骤170，根据第二编码模式，确定待使用的编码模式。

在实施中，编码设备确定第二编码模式后，可以根据第二编码模式，确定待使用的编码模式。如图3所示，具体可以包括以下步骤：

步骤171，如果第二编码模式为跳过模式，且第二编码模式对应的率失真花费小于预设阈值，则将第二编码模式作为待使用的编码模式。

在实施中，编码设备可以判断第二编码模式是否为跳过模式，如果是，则可以进一步判断第二编码模式对应的率失真花费是否小于预设阈值。其中，预设阈值可以由技术人员根据经验设置。如果第二编码模式对应的率失真花费小于预设阈值，则可以将第二编码模式直接作为待使用的编码模式，并基于第二编码模式对该CU进行编码，否则，执行步骤172。另外，如果第二编码模式不是跳过模式，则编码设备会根据其他类型的编码模式确定待使用的编码模式，具体的，可以采用现有技术中的处理过程，或者，也可以采用本发明实施例提供的确定编码模式的处理过程，本发明实施例不做限定。

步骤172，如果第二编码模式为跳过模式，且第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将编码模式顺序中的其他编码模式的量化系数均设置为0，并计算其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

在实施中，如果编码设备判定第二编码模式为跳过模式，且第二编码模式对应的率失真花费大于或等于预设阈值，则将编码模式顺序中的其他编码模式的量化系数均设置为0，并计算其他编码模式的率失真花费。其中，编码模式顺序可以是2Nx2N模式、2NxN模式、Nx2N模式、2NxnU模式、2NxnD模式、nLx2N模式、nRx2N模式和帧内模式等。然后，编码设备将率失真花费最小的编码模式作为待使用的编码模式。这样，可以进一步提高编码的效率。

另外，如果第二编码模式不为跳过模式，则根据编码模式顺序，依次计算其他编码模式的率失真花费，当判定编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

在实施中，如果第二编码模式不为跳过模式，编码设备则会根据预设的编码模式顺序，依次确定其他编码模式的非零量化系数。其中，编码模式顺序可以是2Nx2N模式、2NxN模式、Nx2N模式、2NxnU模式、2NxnD模式、nLx2N模式、nRx2N模式和帧内模式等。当确定第三编码模式的非零量化系数不全为0时，将编码模式顺序中第三编码模式之后的编码模式的量化系数均设置为0，并根据设置后的编码模式，计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。这样，可以进一步提高编码的效率。

本发明实施例中，编码设备在对某一类型的编码模式进行评价时，先根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，然后根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列，进而根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数。当编码设备按照第一编码模式序列，确定出对应的量化系数均为0的第一编码模式后，可以直接将将第一编码模式作为该类型的编码模式中的待使用的编码模式，无需对该第一编码模式之后的编码模式进行评价，从而提高了确定编码模式的效率。

基于相同的技术构思，如图4所示，本申请实施例还提供了一种确定编码模式的装置，装置应用于编码器，编码器中存储有多种类型的编码模式，且每种类型的编码模式的数目为多个，装置包括：

获取模块410，用于获取待编码的编码单元，编码单元是通过对待编码的目标图像进行划分得到；

计算模块420，用于根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，其中，多个编码模式为同一类型的编码模式；

排序模块430，用于根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列；

第一确定模块440，用于根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数；

第二确定模块450，用于如果第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

可选的，计算模块420，具体用于：

针对任一编码模式，将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式；

根据各编码模式对应的跳过模式和预设的率失真花费算法，计算编码单元的率失真花费。

可选的，如图5所示，装置还包括：

第三确定模块460，用于如果第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据所各编码模式对应的率失真花费、以及各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式；

第四确定模块470，用于根据第二编码模式，确定待使用的编码模式。

可选的，第四确定模块470，具体用于：

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费小于预设阈值，则将所述第二编码模式作为待使用的编码模式；

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将所述编码模式顺序中的其他编码模式的量化系数均设置为0，并计算所述其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式；

如果所述第二编码模式不为跳过模式，则根据所述编码模式顺序，依次计算所述其他编码模式的率失真花费，当判定所述编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

本发明实施例中，编码设备在对某一类型的编码模式进行评价时，先根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，然后根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列，进而根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数。当编码设备按照第一编码模式序列，确定出对应的量化系数均为0的第一编码模式后，可以直接将将第一编码模式作为该类型的编码模式中的待使用的编码模式，无需对该第一编码模式之后的编码模式进行评价，从而提高了确定编码模式的效率。

本发明实施例还提供了一种编码器，如图6所示，包括处理器601、通信接口602、存储器603和通信总线604，其中，处理器601，通信接口602，存储器603通过通信总线604完成相互间的通信，

存储器603，用于存放计算机程序；

处理器601，用于执行存储器603上所存放的程序时，以使该编码器执行如下步骤，该步骤包括：

获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；

根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，其中，所述多个编码模式为同一类型的编码模式；

根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列；

根据所述第一编码模式序列和所述编码单元，依次确定所述各编码模式对应的量化系数；

如果所述第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对所述类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

可选的，所述根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，包括：

针对任一编码模式，将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式；

根据所述各编码模式对应的跳过模式和预设的率失真花费算法，计算所述编码单元的率失真花费。

可选的，所述方法还包括：

如果所述第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据所各编码模式对应的率失真花费、以及所述各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式；

根据所述第二编码模式，确定待使用的编码模式。

可选的，所述根据所述第二编码模式，确定待使用的编码模式，包括：

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费小于预设阈值，则将所述第二编码模式作为待使用的编码模式；

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将所述编码模式顺序中的其他编码模式的量化系数均设置为0，并计算所述其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式；

如果所述第二编码模式不为跳过模式，则根据所述编码模式顺序，依次计算所述其他编码模式的率失真花费，当判定所述编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

机器可读存储介质可以包括RAM(Random Access Memory，随机存取存储器)，也可以包括NVM(Non-Volatile Memory，非易失性存储器)，例如至少一个磁盘存储器。另外，机器可读存储介质还可以是至少一个位于远离前述处理器的存储装置。

上述处理器可以是通用处理器，包括CPU(Central Processing Unit，中央处理器)、NP(Network Processor，网络处理器)等；还可以是DSP(Digital Signal Processing，数字信号处理器)、ASIC(Application Specific Integrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

本发明实施例中，编码设备在对某一类型的编码模式进行评价时，先根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算编码单元的率失真花费，然后根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列，进而根据第一编码模式序列和编码单元，依次确定各编码模式对应的量化系数。当编码设备按照第一编码模式序列，确定出对应的量化系数均为0的第一编码模式后，可以直接将将第一编码模式作为该类型的编码模式中的待使用的编码模式，无需对该第一编码模式之后的编码模式进行评价，从而提高了确定编码模式的效率。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。

Claims (10)

1.一种确定编码模式的方法，其特征在于，所述方法应用于编码器，所述编码器中存储有多种类型的编码模式，且每种类型的编码模式的数目为多个，所述方法包括：

获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；

根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，其中，所述多个编码模式为同一类型的编码模式；

根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列；

根据所述第一编码模式序列和所述编码单元，依次确定所述各编码模式对应的量化系数；

如果所述第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对所述类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

2.根据权利要求1所述的方法，其特征在于，所述根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，包括：

针对任一编码模式，将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式；

根据所述各编码模式对应的跳过模式和预设的率失真花费算法，计算所述编码单元的率失真花费。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

如果所述第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据所各编码模式对应的率失真花费、以及所述各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式；

根据所述第二编码模式，确定待使用的编码模式。

4.根据权利要求3所述的方法，其特征在于，所述根据所述第二编码模式，确定待使用的编码模式，包括：

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费小于预设阈值，则将所述第二编码模式作为待使用的编码模式；

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将所述编码模式顺序中的其他编码模式的量化系数均设置为0，并计算所述其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式；

如果所述第二编码模式不为跳过模式，则根据所述编码模式顺序，依次计算所述其他编码模式的率失真花费，当判定所述编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

5.一种确定编码模式的装置，其特征在于，所述装置应用于编码器，所述编码器中存储有多种类型的编码模式，且每种类型的编码模式的数目为多个，所述装置包括：

获取模块，用于获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；

计算模块，用于根据预设的多个编码模式对应的跳过模式、以及预设的率失真花费算法，计算所述编码单元的率失真花费，其中，所述多个编码模式为同一类型的编码模式；

排序模块，用于根据计算出的各率失真花费，对各编码模式进行排序，得到第一编码模式序列；

第一确定模块，用于根据所述第一编码模式序列和所述编码单元，依次确定所述各编码模式对应的量化系数；

第二确定模块，用于如果所述第一编码模式序列中，存在对应的量化系数均为0的第一编码模式，则跳过对所述类型的编码模式的评价过程，根据其他类型的编码模式，确定待使用的编码模式。

6.根据权利要求5所述的装置，其特征在于，所述计算模块，具体用于：

针对任一编码模式，将该编码模式的量化系数均设为0，得到该编码模式对应的跳过模式；

根据所述各编码模式对应的跳过模式和预设的率失真花费算法，计算所述编码单元的率失真花费。

7.根据权利要求5所述的装置，其特征在于，所述装置还包括：

第三确定模块，用于如果所述第一编码模式序列中，不存在对应的量化系数均为0的编码模式，则根据所各编码模式对应的率失真花费、以及所述各编码模式对应的跳过模式的率失真花费，确定率失真花费最小的第二编码模式；

第四确定模块，用于根据所述第二编码模式，确定待使用的编码模式。

8.根据权利要求7所述的装置，其特征在于，所述第四确定模块，具体用于：

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费小于预设阈值，则将所述第二编码模式作为待使用的编码模式；

如果所述第二编码模式为跳过模式，且所述第二编码模式对应的率失真花费大于预设阈值，则根据预设的编码模式顺序，将所述编码模式顺序中的其他编码模式的量化系数均设置为0，并计算所述其他编码模式的率失真花费，将率失真花费最小的编码模式作为待使用的编码模式；

如果所述第二编码模式不为跳过模式，则根据所述编码模式顺序，依次计算所述其他编码模式的率失真花费，当判定所述编码模式顺序中存在量化系数均设置为0的编码模式时，将该编码模式之后的编码模式的量化系数均设置为0，并计算率失真花费，将率失真花费最小的编码模式作为待使用的编码模式。

9.一种编码器，其特征在于，包括处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令，所述处理器被所述机器可执行指令促使：实现权利要求1-4任一所述的方法步骤。

10.一种机器可读存储介质，其特征在于，存储有机器可执行指令，在被处理器调用和执行时，所述机器可执行指令促使所述处理器：实现权利要求1-4任一所述的方法步骤。