CN114697660A - 一种数据处理方法、装置、计算机设备和存储介质 - Google Patents

Abstract

本申请实施例公开一种数据处理方法、装置、计算机设备和存储介质，其中方法包括如下步骤：确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。采用本申请，可以降低计算复杂度，提高视频编码的效率。

Description

一种数据处理方法、装置、计算机设备和存储介质

技术领域

本申请涉及互联网技术领域，尤其涉及一种数据处理方法、装置、计算机设备和存储介质。

背景技术

在新一代视频编解码标准VVC的帧间预测模块中，引入了一种新的技术，叫做几何划分模式(Geometric partitioning mode，GPM)，该技术将视频帧中矩形的编码单元(CU)按照几何划分方向划分为两个几何形状(三角形，梯形等)的子块，两个子块分别采用不同的编码参数，以达到最优的预测结果。但是几何划分模式有64种划分方式，每种划分的划分线的位置根据划分的角度和偏移参数得到，划分后每个区域根据自己的运动信息做帧间预测，确定参考帧和运动矢量(MV)，为了选择最优的划分模式，要根据每种模式下的两个子块对应的MV和参考帧，得到编码单元的最优预测值，并计算在该几何划分模式下的率失真代价，选择率失真代价最小的划分模式作为最优划分模式，因此，每次选择矩形编码单元的最优几何划分模式时，需要遍历所有的几何划分模式，计算复杂度太高，降低了视频编码的效率。

发明内容

本申请实施例提供一种数据处理方法、装置、计算机设备和存储介质，可以降低计算复杂度，提高视频编码的效率。

本申请实施例一方面提供了一种数据处理方法，可包括：

确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

本申请实施例一方面提供了一种数据处理装置，可包括：

预测方向确定单元，用于确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

候选方向确定单元，用于根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

目标方向确定单元，用于获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

本申请实施例一方面提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，所述计算机程序适于由处理器加载并执行上述的方法步骤。

本申请实施例一方面提供了一种计算机设备，包括处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行上述的方法步骤。

本申请实施例一方面提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述的方法步骤。

在本申请实施例中，通过确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，并根据所述预测方向确定所述目标编码单元的候选几何划分方向，所述候选几何划分方向至少包括一个几何划分方向，进一步获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。通过目标编码单元的预测方向确定目标几何划分方向，避免了遍历目标编码单元所有的几何划分模式，降低了计算复杂度，提高了视频编码的效率。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种数据处理的系统架构图；

图2是本申请实施例提供的一种数据处理方法的流程示意图；

图3是本申请实施例提供的一种数据处理方法的流程示意图；

图4a是本申请实施例提供的一种预测方向的举例示意图；

图4b是本申请实施例提供的一种几何划分方向的举例示意图；

图4c是本申请实施例提供的一种候选几何划分方向的举例示意图；

图4d是本申请实施例提供的一种数据处理方法的流程示意图；

图5是本申请实施例提供的一种数据处理装置的结构示意图；

图6是本申请实施例提供的一种计算机设备的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

应当理解，本披露的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本披露说明书中所使用的术语仅仅是出于描述特定实施例的目的，而并不意在限定本披露。如在本披露说明书和权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解，在本披露说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本说明书和权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。

请参见图1，是本发明实施例提供的一种数据处理的系统架构图。服务器10f通过交换机10e和通信总线10d与用户终端集群建立连接，用户终端集群可包括：用户终端10a、用户终端10b、...、用户终端10c。在视频传输的应用场景中，用户终端在编码过程中，首先确定视频文件的目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，进一步根据所述预测方向确定所述目标编码单元的候选几何划分方向，所述候选几何划分方向至少包括一个几何划分方向，获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，采用目标几何划分方向将所述目标编码单元划分为两个编码单元子块，两个编码单元子块分别采用不同的编码参数进行编码。视频文件的接收端获取编码后的视频文件，采用所述目标几何划分方向对应的输出模式信息和运动矢量，对编码后的视频文件进行解码显示。上述接收端可以是用户终端集群中的其他用户终端。

本申请实施例涉及的所述用户终端包括：平板电脑、智能手机、个人电脑(PC)、笔记本电脑、掌上电脑等终端设备。

请参见图2，为本申请实施例提供了一种数据处理方法的流程示意图。该方法可以应用于上述终端设备，终端设备可以是图1中的用户终端，如图2所示，本申请实施例的所述方法可以包括以下步骤S101-步骤S103。

S101，确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

具体的，终端设备确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，可以理解的是，目标视频帧为视频文件中的任意一帧，在视频传输的应用场景中，需要对视频文件中每一帧进行编码，在解码端进行解码。在编码过程中，将目标视频帧划分为若干个Slice或Tile，每个Slice或Tile划分为大小相等的编码树单元(CTU)，采用四叉树结构的编码树对CTU进行编码。具体的，使用帧间或者帧内预测的方法将CTU划分为一个、两个、三个或者四个编码单元，其中每个编码单元可以采用相同的方式进一步被划分成一个、两个、三个或四个编码单元，目标编码单元可以为上述编码单元中的任意一个编码单元。

进一步，采用帧内预测方式确定所述目标编码单元的预测方向，具体的，目标编码单元对应多个帧内预测方向，采用帧内预测方式从多个帧内预测方向中选择目标编码单元的预测方向，例如，可以根据目标编码单元在每个帧内预测方向上的率失真代价确定预测方向。在新一代视频编解码标准VVC的帧间预测模块中，采用几何划分方向将视频帧中的编码单元划分为两个几何形状(三角形，梯形等)的子块，两个子块分别采用不同的编码参数，以达到最优的预测结果。对编码单元进行划分的几何划分方向包括划分的角度，以及划分的偏移量，在同一个划分的角度上可以有多个偏移量，不同的偏移量对应不同几何划分方向，因为采用帧内预测方式生成的预测方向与几何划分方向相近或者相同，因此，可以进一步根据目标编码单元的预测方向确定几何划分方向的划分的角度和偏移量。

S102，根据所述预测方向确定所述目标编码单元的候选几何划分方向；

具体的，终端设备根据所述预测方向确定所述目标编码单元的候选几何划分方向，可以理解的是，所述候选几何划分方向至少包括一个几何划分方向，候选几何划分方向不包括视频帧对应的所有的几何划分方向，例如，视频帧对应的几何划分方向总共有64种，则候选几何划分方向中的几何划分方向少于64种，一般情况下候选几何划分方向中的几何划分方向不多于7中，候选几何划分方向中几何划分方向的划分角度相同或者相近，候选几何划分方向中具有相同划分角度的几何划分方向具有不同的划分偏移量。

S103，获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向。

具体的，终端设备获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，可以理解的是，目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码，所述率失真代价用于表征编码的性能，即在一定的码率(码率也表现为数据压缩的程度，码率越低，数据压缩的越厉害)限制下，视频帧的失真情况，率失真代价越小，视频的编码性能越强，率失真代价越大，视频的编码性能越弱。

率失真代价的获取方法具体为：根据几何划分方向将编码单元划分为编码单元子块，根据编码单元子块对应的参考帧确定所述编码单元子块中每个像素的像素预测值，根据像素的像素预测值与像素的像素真实值确定几何划分方向的率失真代价。采用上述方法计算每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，具体的，可以选择率失真代价最小的几何划分方向为所述目标编码单元的目标几何划分方向。

在本申请实施例中，通过确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，并根据所述预测方向确定所述目标编码单元的候选几何划分方向，所述候选几何划分方向至少包括一个几何划分方向，进一步获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。通过目标编码单元的预测方向确定目标几何划分方向，避免了遍历目标编码单元所有的几何划分模式，降低了计算复杂度，提高了视频编码的效率。

请参见图3，为本申请实施例提供了一种数据处理方法的流程示意图。该方法可以应用于上述终端设备，终端设备可以是图1中的用户终端，如图3所示，本申请实施例的所述方法可以包括以下步骤S201-步骤S207。

S201，确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素；

具体的，终端设备确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素，可以理解的是，在视频传输的应用场景中，目标视频帧为视频文件中的任意一帧，目标编码单元相邻的编码单元包括左侧、右侧、上侧和下侧四个方位相邻的编码单元，通常情况下，根据左侧和上侧相邻的编码单元确定目标编码单元对应的参考像素，参考像素通常选取相邻编码单元的边界上的像素对应的像素重建值，具体的，根据左侧和上侧相邻的编码单元可以确定参考像素为：左侧相邻的编码单元的最后一列的像素对应的像素重建值和上侧相邻的编码单元的最后一行的像素对应的像素重建值，需要说明的是，若目标编码单元不存在左侧或者上侧相邻单元的像素重建值，则采用预设的像素值填充为参考像素。

进一步，从帧内预测方向集合中确定目标帧内预测方向，所述帧内预测方向集合中包括至少一个帧内预测方向，目标帧内预测方向为帧内预测方向集合中任意一个帧内预测方向，帧内预测方向用于获取目标编码单元中每个像素对应的像素预测值。

S202，根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值；

具体的，终端设备根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值，可以理解的是，终端设备获取所述目标编码单元中的目标像素，所述目标像素为目标编码单元中任意一个像素，确定所述目标像素的像素坐标，确定所述像素坐标在所述目标帧内预测方向对应的目标参考像素，所述目标参考像素属于所述参考像素。确定目标参考像素的具体方法可以为：将所述像素坐标在目标帧内预测方向上指示的参考像素确定为目标参考像素。

进一步的，将所述目标参考像素确定为所述目标像素的像素预测值，采用上述方式获取所述目标编码单元中的每个像素对应的像素预测值，将所述每个像素对应的像素预测值确定为所述目标编码单元在所述目标帧内预测方向上的像素预测值。

S203，根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向。

具体的，终端设备根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向，可以理解的是，终端设备获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，即计算每个像素对应的像素真实值和像素预测值之间的差值，将上述差值确定为像素的残差，进而将所述像素残差进行变换量化和双编码生成对应的码流和失真度，根据上述码流和失真度生成在所述目标帧内预测方向上的率失真代价。

进一步的，采用上述方法确定所述目标编码单元在所述帧内预测方向集合中每个帧内预测方向上的率失真代价，将最小的率失真代价对应的帧内预测方向确定为所述目标编码单元的预测方向。

S204，获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向；根据所述几何划分方向确定所述目标编码单元的候选几何划分方向。

具体的，终端设备获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向，可以理解的是，预测方向与几何划分方向之间的对应关系是预先设定的。请参见图4a，为本申请实施例提供了一种预测方向的举例示意图，图中包括多种预测方向，每一个方向箭头对应一种预测方向和预测方向对应的编号；请参见图4b，为本申请实施例提供了一种几何划分方向的举例示意图，图中包括多种几何划分方向，每一个方向箭头对应一种几何划分方向和几何划分方向对应的编号，具体的，上述预测方向与几何划分方向的对应关系如下：

预测方向是-10～-5时，对应几何划分方向16；

预测方向是-4～-1或2～4时，对应几何划分方向15；

预测方向是5～10时，对应几何划分方向14；

预测方向是11～15时，对应几何划分方向13；

预测方向是16～20时，对应几何划分方向12和0；

预测方向是21～26时，对应几何划分方向11和23；

预测方向是27～31时，对应几何划分方向10和22；

预测方向是32～37时，对应几何划分方向9和21；

预测方向是38～45时，对应几何划分方向8和20；

预测方向是46～54时，对应几何划分方向6和18；

预测方向是55～62时，对应几何划分方向4；

预测方向是63～68时，对应几何划分方向3；

预测方向是69～72时，对应几何划分方向2；

预测方向是73～76时，对应几何划分方向1。

进一步的，根据所述几何划分方向确定所述目标编码单元的候选几何划分方向，所述候选几何划分方向至少包括一个几何划分方向，具体的，可以选择与上述几何划分方向具有相同或者相近的划分角度的几何划分方向作为候选几何划分方向，候选几何划分方向中具有相同划分角度的几何划分方向具有不同的划分偏移量，请参见图4c，为本申请实施例提供了一种候选几何划分方向的举例示意图，若根据预测方向与几何划分方向的对应关系，确定预测方向对应的几何划分方向为3，则选择区域30中的几何划分方向作为候选几何划分方向，区域30中包括7中几何划分方向，区域30中的几何划分方向具有相同的划分角度和不同的偏移量。

需要说明的是，当预测方向是0(Plannar)时，则确定目标编码单元对应的像素是平坦的，当预测方向是1(DC)时，则确定目标编码单元对应的像素是渐变的，即当预测方向是0(Plannar)或者1(DC)时，目标编码单元可以不采用几何划分方向进行划分，即不需要选择候选几何划分方向。

S205，从所述候选几何划分方向中确定待处理几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块；

具体的，终端设备从所述候选几何划分方向中确定待处理几何划分方向，可以理解的是，所述待处理几何划分方向为所述候选几何划分方向中任意一个几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块，进一步确定所述编码单元子块对应的参考帧，上述两个编码单元子块可以分别对应不同的参考帧，根据所述参考帧确定所述编码单元子块的像素预测值，具体的，根据编码单元子块中像素的像素坐标以及运动矢量，获取编码单元子块中每个像素在参考帧中对应的像素坐标，将参考帧中像素坐标对应的像素作为编码单元子块的像素预测值，采用上述方法分别获取上述两个编码单元子块的像素预测值。

进一步，根据所述两个编码单元子块的像素预测值确定所述目标编码单元在所述待处理几何划分方向上的像素预测值，需要说明的是，为了视频显示效果更好，通常会对几何划分边界处的像素点进行加权补偿。

S206，根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向。

具体的，终端设备根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向，可以理解的是，终端设备获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，即计算每个像素对应的像素真实值和像素预测值之间的差值，将上述差值确定为像素的残差，将所述像素残差进行变换量化和双编码生成对应的码流和失真度，根据上述码流和失真度生成在所述待处理几何划分方向上的率失真代价。

进一步的，采用上述方法确定所述目标编码单元在所述候选几何划分方向中每个几何划分方向上的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向。

S207，获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量；所述运动矢量用于从参考帧中获取目标编码单元的像素预测值；将所述输出模式信息和运动矢量进行输出。

具体的，终端设备获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量，可以理解的是，所述模式信息为目标几何划分方向对应的索引标识，索引标识具体可以为目标几何划分方向对应的数字编号，所述运动矢量用于从参考帧中获取目标编码单元的像素预测值，进一步将所述输出模式信息和运动矢量进行输出，以使解码端根据上述模式信息和运动矢量对视频进行解码显示。请参见图4d，为本申请实施例提供了一种数据处理方法的流程示意图。如图4d所示，在视频传输的编码过程中，目标视频帧会被划分成若干个编码单元，确定目标视频帧中的目标编码单元，目标编码单元为编码单元中的任意一个编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，检测上述预测方向，若预测方向是1或0，则确定目标编码单元对应的像素是平坦的或者是渐变的，即目标编码单元不需要采用几何划分方向进行划分，则关闭几何划分方向，若预测方向不是1或0，则根据所述预测方向确定所述目标编码单元的候选几何划分方向，并计算候选几何划分方向中每种几何划分方向对应的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向，进一步获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量，将所述输出模式信息和运动矢量进行输出，以使解码端根据上述模式信息和运动矢量对视频进行解码显示。

在本申请实施例中，通过确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，并根据所述预测方向确定所述目标编码单元的候选几何划分方向，所述候选几何划分方向至少包括一个几何划分方向，进一步获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。通过目标编码单元的预测方向确定目标几何划分方向，避免了遍历目标编码单元所有的几何划分模式，降低了计算复杂度，提高了视频编码的效率。

请参见图5，为本申请实施例提供了一种数据处理装置的结构示意图。所述数据处理装置可以是运行于计算机设备中的一个计算机程序(包括程序代码)，例如该数据处理装置为一个应用软件；该设备可以用于执行本申请实施例提供的方法中的相应步骤。如图5所示，本申请实施例的所述数据处理装置1可以包括：预测方向确定单元11、候选方向确定单元12、目标方向确定单元13。

预测方向确定单元11，用于确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

候选方向确定单元12，用于根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

目标方向确定单元13，用于获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

请参见图5，本申请实施例的所述预测方向确定单元11可以包括：参考像素确定子单元111、像素预测值获取子单元112、预测方向确定子单元113。

参考像素确定子单元111，用于确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素；

从帧内预测方向集合中确定目标帧内预测方向，所述帧内预测方向集合中包括至少一个帧内预测方向；

像素预测值获取子单元112，用于根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值；

预测方向确定子单元113，用于根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向。

在一种可行的实施方式中，所述像素预测值获取子单元112具体用于：

获取所述目标编码单元中的目标像素，所述目标像素为目标编码单元中任意一个像素，确定所述目标像素的像素坐标；

确定所述像素坐标在所述目标帧内预测方向对应的目标参考像素，所述目标参考像素属于所述参考像素；

将所述目标参考像素确定为所述目标像素的像素预测值，获取所述目标编码单元中的每个像素对应的像素预测值，将所述每个像素对应的像素预测值确定为所述目标编码单元在所述目标帧内预测方向上的像素预测值。

在一种可行的实施方式中，所述预测方向确定子单元113具体用于：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述目标帧内预测方向上的率失真代价；

确定所述目标编码单元在所述帧内预测方向集合中每个帧内预测方向上的率失真代价，将最小的率失真代价对应的帧内预测方向确定为所述目标编码单元的预测方向。

在一种可行的实施方式中，所述候选方向确定单元12具体用于：

获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向；

根据所述几何划分方向确定所述目标编码单元的候选几何划分方向。

请参见图5，本申请实施例的所述目标方向确定单元13可以包括：待处理方向确定子单元131、目标方向确定子单元132。

待处理方向确定子单元131，用于从所述候选几何划分方向中确定待处理几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块，所述待处理几何划分方向为所述候选几何划分方向中任意一个几何划分方向；

确定所述编码单元子块对应的参考帧，根据所述参考帧确定所述编码单元子块的像素预测值；

根据所述两个编码单元子块的像素预测值确定所述目标编码单元在所述待处理几何划分方向上的像素预测值；

目标方向确定子单元132，用于根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向。

在一种可行的实施方式中，所述目标方向确定子单元132具体用于：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述待处理几何划分方向上的率失真代价；

确定所述目标编码单元在所述候选几何划分方向中每个几何划分方向上的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向。

请参见图5，本申请实施例的所述数据处理装置1可以还包括：信息输出单元14。

信息输出单元14，用于获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量；所述运动矢量用于从参考帧中获取目标编码单元的像素预测值；

将所述输出模式信息和运动矢量进行输出。

在本申请实施例中，通过确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，并根据所述预测方向确定所述目标编码单元的候选几何划分方向，所述候选几何划分方向至少包括一个几何划分方向，进一步获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。通过目标编码单元的预测方向确定目标几何划分方向，避免了遍历目标编码单元所有的几何划分模式，降低了计算复杂度，提高了视频编码的效率。

请参见图6，为本申请实施例提供了一种计算机设备的结构示意图。如图6所示，所述计算机设备1000可以包括：至少一个处理器1001，例如CPU，至少一个网络接口1004，用户接口1003，存储器1005，至少一个通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。其中，用户接口1003可以包括显示屏(Display)，可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是随机存取存储器(Random Access Memory，RAM)，也可以是非易失性存储器(non-volatile memory，NVM)，例如至少一个磁盘存储器。存储器1005可选的还可以是至少一个位于远离前述处理器1001的存储装置。如图6所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及数据处理应用程序。

在图6所示的计算机设备1000中，网络接口1004可提供网络通讯功能，用户接口1003主要用于为用户提供输入的接口；而处理器1001可以用于调用存储器1005中存储的数据处理应用程序，以实现上述图2-图4d任一个所对应实施例中对所述数据处理方法的描述，在此不再赘述。

应当理解，本申请实施例中所描述的计算机设备1000可执行前文图2-图4d任一个所对应实施例中对所述数据处理方法的描述，也可执行前文图5所对应实施例中对所述数据处理装置的描述，在此不再赘述。另外，对采用相同方法的有益效果描述，也不再进行赘述。

此外，这里需要指出的是：本申请实施例还提供了一种计算机可读存储介质，且所述计算机可读存储介质中存储有前文提及的终端设备所执行的计算机程序，且所述计算机程序包括程序指令，当所述处理器执行所述程序指令时，能够执行前文图2-图4d任一个所对应实施例中对所述数据处理方法的描述，因此，这里将不再进行赘述。另外，对采用相同方法的有益效果描述，也不再进行赘述。对于本申请所涉及的计算机可读存储介质实施例中未披露的技术细节，请参照本申请方法实施例的描述。作为示例，程序指令可被部署为在一个计算设备上执行，或者在位于一个地点的多个计算设备上执行，又或者，在分布在多个地点且通过通信网络互连的多个计算设备上执行，分布在多个地点且通过通信网络互连的多个计算设备可以组成区块链系统。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述存储介质可为磁碟、光盘、NVM或RAM等。

以上所揭露的仅为本申请较佳实施例而已，当然不能以此来限定本申请之权利范围，因此依本申请权利要求所作的等同变化，仍属本申请所涵盖的范围。

依据以下条款可更好地理解前述内容：

条款A1，一种数据处理方法，其特征在于，包括：

确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

条款A2，根据条款A1所述的方法，其特征在于，所述确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，包括：

确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素；

从帧内预测方向集合中确定目标帧内预测方向，所述帧内预测方向集合中包括至少一个帧内预测方向；

根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值；

根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向。

条款A3，根据条款A2所述的方法，其特征在于，所述根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值，包括：

获取所述目标编码单元中的目标像素，所述目标像素为目标编码单元中任意一个像素，确定所述目标像素的像素坐标；

确定所述像素坐标在所述目标帧内预测方向对应的目标参考像素，所述目标参考像素属于所述参考像素；

将所述目标参考像素确定为所述目标像素的像素预测值，获取所述目标编码单元中的每个像素对应的像素预测值，将所述每个像素对应的像素预测值确定为所述目标编码单元在所述目标帧内预测方向上的像素预测值。

条款A4，根据条款A2所述的方法，其特征在于，所述根据所述像素预测值获取在所述目标帧内预测方向上所述目标编码单元的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向，包括：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述目标帧内预测方向上的率失真代价；

确定所述目标编码单元在所述帧内预测方向集合中每个帧内预测方向上的率失真代价，将最小的率失真代价对应的帧内预测方向确定为所述目标编码单元的预测方向。

条款A5，根据条款A1所述的方法，其特征在于，所述根据所述预测方向确定所述目标编码单元的候选几何划分方向，包括：

获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向；

根据所述几何划分方向确定所述目标编码单元的候选几何划分方向。

条款A6，根据条款A1所述的方法，其特征在于，所述获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，包括：

从所述候选几何划分方向中确定待处理几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块，所述待处理几何划分方向为所述候选几何划分方向中任意一个几何划分方向；

确定所述编码单元子块对应的参考帧，根据所述参考帧确定所述编码单元子块的像素预测值；

根据所述两个编码单元子块的像素预测值确定所述目标编码单元在所述待处理几何划分方向上的像素预测值；

根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向。

条款A7，根据条款A6所述的方法，其特征在于，所述根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向，包括：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述待处理几何划分方向上的率失真代价；

确定所述目标编码单元在所述候选几何划分方向中每个几何划分方向上的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向。

条款A8，根据条款A1所述的方法，其特征在于，还包括：

获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量；所述运动矢量用于从参考帧中获取目标编码单元的像素预测值；

将所述输出模式信息和运动矢量进行输出。

条款A9，一种数据处理装置，其特征在于，包括：

预测方向确定单元，用于确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

候选方向确定单元，用于根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

目标方向确定单元，用于获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

条款A10，根据条款A9所述的方法，其特征在于，所述预测方向确定单元，包括：

参考像素确定子单元，用于确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素；

从帧内预测方向集合中确定目标帧内预测方向，所述帧内预测方向集合中包括至少一个帧内预测方向；

像素预测值获取子单元，用于根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值；

预测方向确定子单元，用于根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向。

条款A11，根据条款A10所述的方法，其特征在于，所述像素预测值获取子单元具体用于：

获取所述目标编码单元中的目标像素，所述目标像素为目标编码单元中任意一个像素，确定所述目标像素的像素坐标；

确定所述像素坐标在所述目标帧内预测方向对应的目标参考像素，所述目标参考像素属于所述参考像素；

将所述目标参考像素确定为所述目标像素的像素预测值，获取所述目标编码单元中的每个像素对应的像素预测值，将所述每个像素对应的像素预测值确定为所述目标编码单元在所述目标帧内预测方向上的像素预测值。

条款A12，根据条款A10所述的方法，其特征在于，所述预测方向确定子单元具体用于：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述目标帧内预测方向上的率失真代价；

确定所述目标编码单元在所述帧内预测方向集合中每个帧内预测方向上的率失真代价，将最小的率失真代价对应的帧内预测方向确定为所述目标编码单元的预测方向。

条款A13，根据条款A9所述的方法，其特征在于，所述候选方向确定单元具体用于：

获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向；

根据所述几何划分方向确定所述目标编码单元的候选几何划分方向。

条款A14，根据条款A9所述的方法，其特征在于，所述目标方向确定单元，包括：

待处理方向确定子单元，用于从所述候选几何划分方向中确定待处理几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块，所述待处理几何划分方向为所述候选几何划分方向中任意一个几何划分方向；

确定所述编码单元子块对应的参考帧，根据所述参考帧确定所述编码单元子块的像素预测值；

根据所述两个编码单元子块的像素预测值确定所述目标编码单元在所述待处理几何划分方向上的像素预测值；

目标方向确定子单元，用于根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向。

条款A15，根据条款A14所述的方法，其特征在于，所述目标方向确定子单元具体用于：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述待处理几何划分方向上的率失真代价；

确定所述目标编码单元在所述候选几何划分方向中每个几何划分方向上的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向。

条款A16，根据条款A9所述的方法，其特征在于，还包括：

信息输出单元，用于获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量；所述运动矢量用于从参考帧中获取目标编码单元的像素预测值；

将所述输出模式信息和运动矢量进行输出。

以上对本披露实施例进行了详细介绍，本文中应用了具体个例对本披露的原理及实施方式进行了阐述，以上实施例的说明仅用于帮助理解本披露的方法及其核心思想。同时，本领域技术人员依据本披露的思想，基于本披露的具体实施方式及应用范围上做出的改变或变形之处，都属于本披露保护的范围。综上所述，本说明书内容不应理解为对本披露的限制。

Claims (11)

1.一种数据处理方法，其特征在于，包括：

确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

2.根据权利要求1所述的方法，其特征在于，所述确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向，包括：

确定目标视频帧中的目标编码单元，根据所述目标编码单元相邻的编码单元确定目标编码单元对应的参考像素；

从帧内预测方向集合中确定目标帧内预测方向，所述帧内预测方向集合中包括至少一个帧内预测方向；

根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值；

根据所述像素预测值获取所述目标编码单元在所述目标帧内预测方向上的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向。

3.根据权利要求2所述的方法，其特征在于，所述根据所述参考像素和所述目标帧内预测方向，获取所述目标编码单元在所述目标帧内预测方向上的像素预测值，包括：

获取所述目标编码单元中的目标像素，所述目标像素为目标编码单元中任意一个像素，确定所述目标像素的像素坐标；

确定所述像素坐标在所述目标帧内预测方向对应的目标参考像素，所述目标参考像素属于所述参考像素；

将所述目标参考像素确定为所述目标像素的像素预测值，获取所述目标编码单元中的每个像素对应的像素预测值，将所述每个像素对应的像素预测值确定为所述目标编码单元在所述目标帧内预测方向上的像素预测值。

4.根据权利要求2所述的方法，其特征在于，所述根据所述像素预测值获取在所述目标帧内预测方向上所述目标编码单元的率失真代价，根据所述目标编码单元在每个帧内预测方向上的率失真代价，确定目标编码单元的预测方向，包括：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述目标帧内预测方向上的率失真代价；

确定所述目标编码单元在所述帧内预测方向集合中每个帧内预测方向上的率失真代价，将最小的率失真代价对应的帧内预测方向确定为所述目标编码单元的预测方向。

5.根据权利要求1所述的方法，其特征在于，所述根据所述预测方向确定所述目标编码单元的候选几何划分方向，包括：

获取所述预测方向与几何划分方向的对应关系，根据所述对应关系，确定所述预测方向对应的几何划分方向；

根据所述几何划分方向确定所述目标编码单元的候选几何划分方向。

6.根据权利要求1所述的方法，其特征在于，所述获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向，包括：

从所述候选几何划分方向中确定待处理几何划分方向，采用所述待处理几何划分方向将所述目标编码单元划分为两个编码单元子块，所述待处理几何划分方向为所述候选几何划分方向中任意一个几何划分方向；

确定所述编码单元子块对应的参考帧，根据所述参考帧确定所述编码单元子块的像素预测值；

根据所述两个编码单元子块的像素预测值确定所述目标编码单元在所述待处理几何划分方向上的像素预测值；

根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向。

7.根据权利要求6所述的方法，其特征在于，所述根据所述像素预测值获取所述目标编码单元在所述待处理几何划分方向上的率失真代价，根据所述目标编码单元在每个几何划分方向上的率失真代价，确定目标编码单元的目标几何划分方向，包括：

获取所述目标编码单元的像素真实值，根据所述像素预测值和所述像素真实值确定每个像素对应的像素残差，将所述像素残差进行变换量化生成在所述待处理几何划分方向上的率失真代价；

确定所述目标编码单元在所述候选几何划分方向中每个几何划分方向上的率失真代价，将最小的率失真代价对应的几何划分方向确定为所述目标编码单元的目标几何划分方向。

8.根据权利要求1所述的方法，其特征在于，还包括：

获取所述目标编码单元在所述目标几何划分方向对应的输出模式信息和运动矢量；所述运动矢量用于从参考帧中获取目标编码单元的像素预测值；

将所述输出模式信息和运动矢量进行输出。

9.一种数据处理装置，其特征在于，包括：

预测方向确定单元，用于确定目标视频帧中的目标编码单元，采用帧内预测方式确定所述目标编码单元的预测方向；

候选方向确定单元，用于根据所述预测方向确定所述目标编码单元的候选几何划分方向；所述候选几何划分方向至少包括一个几何划分方向；

目标方向确定单元，用于获取所述候选几何划分方向中每个几何划分方向的率失真代价，根据所述率失真代价确定所述目标编码单元的目标几何划分方向；所述目标几何划分方向用于将所述目标编码单元划分为两个编码单元子块，以使所述两个编码单元子块分别采用不同的编码参数进行编码。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，所述计算机程序适于由处理器加载并执行权利要求1-8任意一项所述的方法。

11.一种计算机设备，其特征在于，其特征在于，包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行权利要求1-8任意一项所述的方法。

Images