CN113038132B - 一种编码单元cu的预测模式确定方法及装置 - Google Patents

一种编码单元cu的预测模式确定方法及装置 Download PDF

Info

Publication number
CN113038132B
CN113038132B CN202110292803.9A CN202110292803A CN113038132B CN 113038132 B CN113038132 B CN 113038132B CN 202110292803 A CN202110292803 A CN 202110292803A CN 113038132 B CN113038132 B CN 113038132B
Authority
CN
China
Prior art keywords
prediction mode
target
prediction
frame
modes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110292803.9A
Other languages
English (en)
Other versions
CN113038132A (zh
Inventor
罗昆
董胜富
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN202110292803.9A priority Critical patent/CN113038132B/zh
Publication of CN113038132A publication Critical patent/CN113038132A/zh
Application granted granted Critical
Publication of CN113038132B publication Critical patent/CN113038132B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明实施例提供了一种编码单元CU的预测模式确定方法及装置，上述方法包括：获得上侧相邻CU的预测方式与左侧相邻CU的预测方式；根据上侧相邻CU的预测方式与左侧相邻CU的预测方式，确定目标CU优先选择的预测方式，作为第一备选预测方式；计算目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价；从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为目标CU的预测模式。应用本发明实施例提供的方案确定CU的预测模式时，能够提高确定CU的预测模式的效率。

Description

一种编码单元CU的预测模式确定方法及装置
技术领域
本发明涉及视频编解码技术领域，特别是涉及一种编码单元CU的预测模式确定方法及装置。
背景技术
视频编码过程中对每一视频帧进行编码时，一般是以CU(Coding Unit, 编码单元)为单位实现编码。而在对视频帧中各个CU进行编码时，首先需要从帧内预测方式和帧间预测方式分别包含的各个预测模式中确定各个CU 的预测模式，然后再基于所确定的预测模式对各个CU进行编码。
现有技术中，在确定CU的预测模式时，计算CU在各个预测模式下的率失真代价，将率失真代价最小的预测模式确定为CU的预测模式。
然而，由于预测模式数量较多，计算CU在每一种预测模式下的率失真代价的复杂度较高，使得确定CU的预测模式的计算量较大，从而导致确定 CU的预测模式的效率较低。
发明内容
本发明实施例的目的在于提供一种CU的预测模式确定方法及装置，以提高确定CU的预测模式的效率。具体技术方案如下：
第一方面，本发明实施例提供了一种CU的预测模式确定方法，所述方法包括：
在目标CU所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻CU时，获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，所述预测方式为：帧间预测方式或帧内预测方式；
根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式；
计算所述目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；
计算所述目标CU在第二备选预测方式包含的目标预测模式下的率失真代价，其中，所述第二备选预测方式为：与所述第一备选预测方式不同的预测方式，所述目标预测模式的数量小于所述第二备选预测方式包含的预测模式的总数量；
从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为所述目标CU的预测模式。
本发明的一个实施例中，上述根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式，包括：
在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式相同的情况下，将所述上侧相邻CU和左侧相邻CU的预测方式确定为所述目标CU优先选择的预测方式，得到第一备选预测方式。
本发明的一个实施例中，上述根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式，包括：
在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式不同的情况下，从所述上侧相邻CU与左侧相邻CU的各个预测方式中确定数量最多的预测方式作为所述目标CU优先选择的预测方式，得到第一备选预测方式。
本发明的一个实施例中，上述所述左侧相邻CU包括：第一像素列中第一预设位置的像素点所属的CU，所述第一像素列中各像素点与所述目标CU的最左像素列中各像素点向左相邻；
和/或
所述上侧相邻CU包括：第一像素行中第二预设位置的像素点所属的CU，所述第一像素行中各像素点与所述目标CU的最上像素行中各像素点向上相邻。
本发明的一个实施例中，上述获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，包括：
获得与所述目标CU左侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述左侧相邻CU的预测方式，并获得与所述目标CU上侧相邻的各个 CU的预测方式，选择数量最多的预测方式作为所述上侧相邻CU的预测方式。
本发明的一个实施例中，所述目标预测模式为按照以下方式确定的预测模式：
在所述第二备选预测方式为帧间预测方式的情况下，根据预先统计的CU 的预测模式为所述帧间预测方式包含的各帧间预测模式的可能性，从各帧间预测模式中选择目标预测模式；
和/或
在所述第二备选预测方式为帧内预测方式的情况下，计算目标CU在帧内预测方式包含的各帧内预测模式下的绝对误差和SATD，选择预设数量个SATD 最小的帧内预测模式，作为目标预测模式，其中，所述预设数量小于帧内预测方式包含的帧内预测模式的总数量。
第二方面，本发明实施例提供了一种CU的预测模式确定装置，所述装置包括：
预测方式获得模块，用于在目标CU所属视频帧为非I帧、且存在上侧相邻 CU与左侧相邻CU时，获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，所述预测方式为：帧间预测方式或帧内预测方式；
预测方式确定模块，用于根据所述上侧相邻CU的预测方式与左侧相邻CU 的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式；
第一率失真代价计算模块，用于计算所述目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；
第二率失真代价计算模块，用于计算所述目标CU在第二备选预测方式包含的目标预测模式下的率失真代价，其中，所述第二备选预测方式为：与所述第一备选预测方式不同的预测方式，所述目标预测模式的数量小于所述第二备选预测方式包含的预测模式的总数量；
预测模式确定模块，用于从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为所述目标CU的预测模式。
本发明的一个实施例中，上述预测方式确定模块，具体用于在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式相同的情况下，将所述上侧相邻CU 和左侧相邻CU的预测方式确定为所述目标CU优先选择的预测方式，得到第一备选预测方式。
本发明的一个实施例中，上述预测方式确定模块，具体用于在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式不同的情况下，从所述上侧相邻CU 与左侧相邻CU的各个预测方式中确定数量最多的预测方式作为所述目标CU优先选择的预测方式，得到第一备选预测方式。
本发明的一个实施例中，上述左侧相邻CU包括：第一像素列中第一预设位置的像素点所属的CU，所述第一像素列中各像素点与所述目标CU的最左像素列中各像素点向左相邻；
和/或
所述上侧相邻CU包括：第一像素行中第二预设位置的像素点所属的CU，所述第一像素行中各像素点与所述目标CU的最上像素行中各像素点向上相邻。
本发明的一个实施例中，上述预测方式获得模块，具体用于获得与所述目标CU左侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述左侧相邻CU的预测方式，并获得与所述目标CU上侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述上侧相邻CU的预测方式。
本发明的一个实施例中，所述装置还包括：预测模式确定模块，
所述预测模式确定模块，具体用于在所述第二备选预测方式为帧间预测方式的情况下，根据预先统计的CU的预测模式为所述帧间预测方式包含的各帧间预测模式的可能性，从各帧间预测模式中选择目标预测模式；和/或，在所述第二备选预测方式为帧内预测方式的情况下，计算目标CU在帧内预测方式包含的各帧内预测模式下的绝对误差和SATD，选择预设数量个SATD最小的帧内预测模式，作为目标预测模式，其中，所述预设数量小于帧内预测方式支持的帧内预测模式的最大数量。
第三方面，本发明实施例提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现上述第一方面所述的方法步骤。
第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面所述的方法步骤。
由以上可见，应用本发明实施例提供的方案确定CU的预测模式时，由于上述第二备选预测方式为：与第一备选预测方式不同的预测方式，且上述第一备选预测方式为目标CU优先选择的预测方式。这样来看，第二备选预测方式不是目标CU优先选择的预测方式，也就是目标CU的预测模式为第二备选预测方式所包含的预测模式的概率较小。因此，相较于现有技术，计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价时，由于目标预测模式的数量小于第二备选预测方式包含的预测模式的总数量，能够减小计算目标CU在不同预测模式下的率失真代价的计算量，从而提高了确定目标CU的预测模式的效率。
另外，由于左侧相邻CU和上侧相邻CU是视频帧中与目标CU相距较近、且已经完成预测的CU，目标CU一般又与左侧相邻CU、上侧相邻CU具有内容相关性，所以，根据左侧相邻CU的预测方式和上侧相邻CU的预测方式，能够准确地确定出目标CU优先选择的预测方式，也就是目标CU的预测模式为第一备选预测方式所包含的预测模式的概率较大。因此，计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价时，能够提高确定目标CU的预测模式的准确度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1a为HEVC中帧间预测方式包含的PU划分模式的示意图；
图1b为HEVC中帧内预测方式包含的PU划分模式的示意图；
图2为本发明实施例提供的一种CU的预测模式确定方法的流程示意图；
图3a为本发明实施例提供的一种上侧相邻CU的示意图；
图3b为本发明实施例提供的一种左侧相邻CU的示意图；
图4a为本发明实施例提供的第一种CU的示意图；
图4b为本发明实施例提供的第二种CU的示意图；
图5为本发明实施例提供的一种HEVC中CU的预测模式确定方法的流程示意图；
图6为本发明实施例提供的一种VVC中CU的预测模式确定方法的流程示意图；
图7为本发明实施例提供的一种CU的预测模式确定装置的结构示意图；
图8为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
由于现有技术中存在确定CU的预测模式的效率较低的问题，为解决这一技术问题，本发明实施例提供了一种编码单元CU的预测模式确定方法及装置。
本发明的一个实施例中，提供了一种CU的预测模式确定方法，该方法包括：
在目标CU所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻CU时，获得上侧相邻CU的预测方式与左侧相邻CU的预测方式，所述预测方式为：帧间预测方式或帧内预测方式；
根据上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定目标CU优先选择的预测方式，作为第一备选预测方式；
计算目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；
计算所述目标CU在第二备选预测方式包含的目标预测模式下的率失真代价，其中，所述第二备选预测方式为：与所述第一备选预测方式不同的预测方式，所述目标预测模式的数量小于所述第二备选预测方式包含的预测模式的总数量；
从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为目标CU的预测模式。
由以上可见，应用本实施例提供的方案确定CU的预测模式时，由于上述第二备选预测方式为：与第一备选预测方式不同的预测方式，且上述第一备选预测方式为目标CU优先选择的预测方式。这样来看，第二备选预测方式不是目标CU优先选择的预测方式，也就是目标CU的预测模式为第二备选预测方式所包含的预测模式的概率较小。因此，相较于现有技术，计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价时，由于目标预测模式的数量小于第二备选预测方式包含的预测模式的总数量，能够减小计算目标CU在不同预测模式下的率失真代价的计算量，从而提高了确定目标CU的预测模式的效率。
另外，由于左侧相邻CU和上侧相邻CU是视频帧中与目标CU相距较近、且已经完成预测的CU，目标CU一般又与左侧相邻CU、上侧相邻CU具有内容相关性，所以，根据左侧相邻CU的预测方式和上侧相邻CU的预测方式，能够准确地确定出目标CU优先选择的预测方式，也就是目标CU的预测模式为第一备选预测方式所包含的预测模式的概率较大。因此，计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价时，能够提高确定目标CU的预测模式的准确度。
首先，对本发明实施例涉及的概念进行说明。
1.CU
CU为视频编码过程中的编码单元。具体的，视频帧可以划分成各个互不重叠的CTU(Coding Tree Unit,编码树单元)，各个CTU又可以进一步划分为各个尺寸更小的CU，可以以各个CU为编码单元，对各个CU进行编码。
在视频编码标准为HEVC/H.265(High Efficiency Video Coding，高效率视频编码)时，CU还可以进一步划分为PU(Prediction Unit，预测单元)。预测方式不同，PU划分模式也不同。在视频编码标准VVC/H。266(Versatile Video Coding，多功能视频编码)中，CU不会继续划分为PU。
当CU的预测方式为帧间预测方式时，2N*2N的CU可以有八种PU划分模式，分别是：2N*2N、2N*N、N*2N、N*N、2N*nU、2N*nD、nL*2N、nR*2N。其中，N为正整数。
以图1a为例，图1a为HEVC中帧间预测方式包含的PU划分模式的示意图。在图1a中，标识为(1)的矩形框表示2N*2N的PU划分模式、标识为(2)的矩形框表示N*N的PU划分模式、标识为(3)的矩形框表示2N*N的PU划分模式、标识为(4)的矩形框表示N*2N的PU划分模式、标识为(5)的矩形框表示2N*nU 的PU划分模式、标识为(6)的矩形框表示2N*nD的PU划分模式、标识为(7) 的矩形框表示nL*2N的PU划分模式、标识为(8)的矩形框表示2N*2N的PU划分模式。
当CU的预测方式为帧内预测方式时，2N*2N CU可以有两种PU划分模式，分别是：2N*2N、N*N。
以图1b为例，图1b为HEVC中帧内预测方式包含的PU划分模式的示意图。在图1b中，左侧矩形框表示2N*2N的PU划分模式，右侧矩形框表示N*N的PU 划分模式。
2.预测方式
视频编码过程中，CU可以有两种预测方式，包括帧内预测方式Intra和帧间预测方式Inter。
帧内预测方式是指：基于视频帧内的空间相关性，根据视频帧内已完成编码的CU的编码信息对当前CU的编码信息进行预测。
帧间预测方式是指：基于视频帧之间的时间相关性，根据已完成编码的视频帧的编码信息对当前CU的编码信息进行预测。
3.预测模式
预测模式是指：对CU进行编码的模式。预测方式不同，预测方式包含的预测模式也是不同的。
当视频编码标准为HEVC/H.265时：帧间预测方式包含的帧间预测模式包括：merge模式和ME模式。帧内预测方式包含的帧内预测模式包括：33种角度模式、planar模式、DC模式。
当视频编码标准为VVC/H.266时：帧间预测方式包含的帧间预测模式包括： Merge模式、ME模式、Affine模式和GEO模式。帧内预测方式包含的帧内预测模式包括：65种角度模式、planar模式、DC模式。
以下对本发明实施例提供的方案进行具体说明。
参见图2，图2为本发明实施例提供的一种CU的预测模式确定方法的流程示意图，上述方法包括步骤S201-S205。
步骤S201：在目标CU所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻 CU时，获得上侧相邻CU的预测方式与左侧相邻CU的预测方式。
上述预测方式为：帧间预测方式或帧内预测方式。
视频编码过程中，视频帧的类型可以包括I帧、P帧、B帧类型。当视频帧的类型为I帧时，上述视频帧中各个CU的预测方式只能为帧内预测方式，而不能为帧间预测方式；当视频帧的类型为非I帧时，也就是视频帧的类型为P帧或 B帧时，上述视频帧中各个CU的预测方式可以为帧内预测方式，也可以为帧间预测方式。
上述上侧相邻CU是指：在目标CU所属视频帧内，与目标CU相邻、且位于目标CU上侧的CU。其中，上述上侧相邻CU可以为一个CU，也可以为多个CU。
以图3a为例，图3a为本发明实施例提供的一种上侧相邻CU的示意图。在图 3a中，大矩形框表示目标CU所属视频帧，实线小矩形框表示目标CU，各个虚线小矩形框表示上侧相邻CU，由图3a可以得到，上侧相邻CU是与目标CU相邻、且位于目标CU上侧的CU。
上述左侧相邻CU是指：在目标CU所属视频帧内，与目标CU相邻、且位于目标CU左侧的CU。其中，上述左侧相邻CU可以为一个CU，也可以为多个CU。
以图3b为例，图3b为本发明实施例提供的一种左侧相邻CU的示意图。在图3b中，大矩形框表示目标CU所属视频帧，实线小矩形框表示目标CU，各个虚线小矩形框表示左侧相邻CU，由图3b可以得到，左侧相邻CU是与目标CU相邻、且位于目标CU左侧的CU。
当目标CU所属视频帧为I帧时，目标CU的预测方式只能为帧内预测方式，所以，在这种情况下，不需要获得上侧相邻CU的预测方式和左侧相邻CU的预测方式。并且当目标CU不存在上侧相邻CU和/或左侧相邻CU时，不需要获得上侧相邻CU的预测方式和/或左侧相邻CU的预测方式。所以，需要在目标CU 所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻CU时，获得上侧相邻CU 的预测方式与左侧相邻CU的预测方式。
在获得上述上侧相邻CU的预测方式与左侧相邻CU的预测方式时，由于确定视频帧中CU的预测模式是按照从左到右从上到下的顺序依次确定各个CU的预测模式的，因此，当目标CU存在上侧相邻CU和左侧相邻CU时，已确定了上侧相邻CU和左侧相邻CU的预测方式，因此，可以获得上侧相邻CU和左侧相邻 CU的预测方式。
步骤S202：根据上侧CU的预测方式与左侧CU的预测方式，从帧内预测方式和帧间预测方式中确定目标CU优先选择的预测方式，作为第一备选预测方式。
由于左侧相邻CU和上侧相邻CU是视频帧中与目标CU相距较近、且已经完成预测的CU，目标CU一般又与左侧相邻CU、上侧相邻CU具有内容相关性，所以，CU优先选择的预测方式、与该CU的上侧相邻CU和左侧相邻CU的预测方式之间存在较强的相关性。因此，根据上侧CU的预测方式与左侧CU的预测方式，从帧内预测方式和帧间预测方式中能够较为准确地确定目标CU优先选择的预测方式。
具体的，在上侧相邻CU的预测方式与左侧相邻CU的预测方式相同的情况下，在确定上述目标CU优先选择的预测方式时，可以将上侧相邻CU和左侧相邻CU的预测方式确定为目标CU优先选择的预测方式，得到第一备选预测方式。
由于CU优先选择的预测方式、与该CU的上侧相邻CU和左侧相邻CU的预测方式之间存在较强的相关性，因此，当上侧相邻CU的预测方式和左侧相邻 CU的预测方式相同时，可以认为目标CU的预测方式为上述上侧相邻CU和左侧相邻CU的预测方式的概率较大，因此，可以直接将上侧相邻CU和左侧相邻CU 的预测方式确定为目标CU优先选择的预测方式。
例如：假设上侧相邻CU的预测方式为帧间预测方式、左侧相邻CU的预测方式也为帧间预测方式，表示上侧相邻CU的预测方式与左侧相邻CU的预测方式为相同的预测方式，在这种情况下，可以将帧间预测方式作为目标CU优先选择的预测方式，从而得到第一备选预测方式。假设上侧相邻CU的预测方式为帧内预测方式、左侧相邻CU的预测方式也为帧内预测方式，表示上侧相邻 CU的预测方式与左侧相邻CU的预测方式为相同的预测方式，在这种情况下，可以将帧内预测方式作为目标CU优先选择的预测方式，从而得到第一备选预测方式。
这样，由于当上侧相邻CU的预测方式和左侧相邻CU的预测方式相同时，表示目标CU的预测方式为上述上侧相邻CU和左侧相邻CU的预测方式的概率较大，因此，在上述情况下，将上侧相邻CU和左侧相邻CU的预测方式作为目标CU的预测方式，能够较为准确地得到第一备选预测方式。
具体的，在上侧相邻CU的预测方式与左侧相邻CU的预测方式不同的情况下，在预估上述目标CU优先选择的预测方式时，可以从上侧相邻CU与左侧相邻CU的各个预测方式中确定数量最多的预测方式作为目标CU优先选择的预测方式，得到第一备选预测方式。
由于CU优先选择的预测方式、与该CU的上侧相邻CU和左侧相邻CU的预测方式之间存在较强的相关性，因此，当上侧相邻CU的预测方式和左侧相邻 CU的预测方式不同时，上侧相邻CU和左侧相邻CU的各个预测方式中数量最多的预测方式为目标CU的预测方式的概率较大，因此，将数量最多的预测方式确定为目标CU优先选择的预测方式，能够得到较为准确地第一备选预测方式。
例如：假设上侧相邻CU包括CU上1、CU上2、CU上3，左侧相邻CU包括CU左1、 CU左2，其中，CU上1、CU上2的预测方式均为帧间预测方式，CU上3的预测方式为帧内预测方式，CU左1、CU左2的预测方式为帧内预测方式，可以得到帧内预测方式的数量为3，帧间预测方式的数量为2，所以帧内预测方式的数量最多，可以将帧内预测方式确定为目标CU优先选择的预测方式，也就是第一备选预测方式。
这样，由于当上侧相邻CU的预测方式和左侧相邻CU的预测方式不同时，上侧相邻CU和左侧相邻CU的各个预测方式中数量最多的预测方式为目标CU 的预测方式的概率较大，因此，将数量最多的预测方式作为目标CU优先选择的预测方式，能够得到较为准确地第一备选预测方式。
步骤S203：计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价。
由于第一备选预测方式是根据左侧相邻CU的预测方式和上侧相邻CU的预测方式确定的，表示上述第一备选预测方式为目标CU优先选择的预测方式，也就是目标CU的预测模式为第一备选预测方式所包含的预测模式的概率较大。所以，为了提高确定CU的预测模式的准确度，可以计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价。
上述率失真代价可以按照以下表达式进行计算：
RDO＝D+λ*R
其中，RDO为率失真代价，D表示失真值，通过对重建块与原始块之间的差值求平方计算得到，λ为拉格朗日乘子，R为码率。
具体的，上述重建块为：对残差块进行变换、量化得到量化系数块，且在对量化系数块进行反量化、反变换得到重建块。
在确定第一备选预测方式后，可以采用上述率失真代价的计算公式，计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价。
步骤S204：计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价。
上述第二备选预测方式为：与第一备选预测方式不同的预测方式。例如：假设第一备选预测方式为帧内预测方式时，第二备选预测方式为帧间预测方式；假设第一备选预测方式为帧间预测方式时，第二备选预测方式为帧内预测方式。
上述目标预测模式的数量小于第二备选预测方式包含的预测模式的总数量。如第二备选预测方式包含的预测模式的总数量为4，目标预测模式的数量可以为1、2或3。
由于上述第二备选预测方式与第一备选预测方式不同的预测方式，表示上述第二备选预测方式不是目标CU优先选择的预测方式，也就是目标CU的预测模式为第二备选预测方式所包含的预测模式的概率较小。又由于目标预测模式的数量小于第二备选预测方式包含的目标预测模式，所以，计算目标CU在目标预测模式下的率失真代价相较于现有技术提高了确定预测模式的效率。
具体的，上述目标预测模式可以从第二备选预测方式包含的各预测模式中随机选择的预测模式，作为目标预测模式。
在第二备选预测方式为帧间预测方式的情况下，上述目标预测模式还可以是根据预先统计的CU的预测模式为帧间预测方式包含的各预测模式的可能性，从各帧间预测模式中选择目标预测模式。
上述可能性反映了CU的预测模式为帧间预测方式包含的各预测模式，基于上述可能性所确定的目标预测模式大概率为CU的预测模式，从而可以减少计算小概率的目标预测模式的率失真代价的计算量，提高了目标CU的预测模式的确定效率。并且由于所确定的目标预测模式大概率为CU的预测模式，进一步提高了目标CU的预测模式的准确度。
具体的，当视频编码标准为HEVC时，预先统计得到CU的PU划分模式为 2N*2N的可能性与其他PU划分模式相比可能性较大、且PU的预测模式为 Merge模式与ME模式相比可能性较大，基于上述统计结果可以确定CU的PU划分模式为2N*2N，且PU的预测模式为Merge模式。
当视频编码标准为VVC时，预先统计得到CU的预测模式为Merge模式的可能性最大、且CU的预测模式为Affine模式的可能性最小，基于上述统计结果可以确定可能性较大的预测模式，如Merge模式、ME模式、GEO模式。
当上述第二备选预测方式为帧内预测方式的情况下，上述目标预测模式可以是计算目标CU在帧内预测方式包含的各预测模式下的SATD(Sum of Absolute TransformedDifference，变换块的绝对误差和)，选择预设数量个SATD 最小的预测模式，作为目标预测模式。
上述SATD是变换块的绝对误差和，上述变换块为通过预测块和原始块求差后进行哈达玛 变换得到的值。具体计算SATD的方式可以采用现有技术中任意一种方式进行计算，在此不进行详述。
由于计算SATD的复杂度较低，首先计算目标CU在各预测模式下的SATD 能够减少计算量，用于各预测模式的粗选，并基于计算SATD的结果，选择预设数量个SATD值最小的预测模式作为目标预测模式，从而减少了计算率失真代价的计算量，提高了目标CU的预测模式的确定效率。
上述预设数量小于帧内预测方式包含的帧内预测模式的总数量。具体的，上述预设数量可以为帧内预测方式包含的帧内预测模式的总数量的二分之一、三分之一等。
例如：当视频编码标准为HEVC时，帧内预测方式包含35中帧内预测模式，包括33种角度模式、planar模式和DC模式，计算目标CU在各帧内预测模式下的 SATD值，选择前5个SATD值最小的帧内预测模式作为目标预测模式；
当视频编码标准为VVC时，帧内预测方式包含67种帧内预测模式，包括65 种角度模式、planar模式和DC模式，计算目标CU在各帧内预测模式下的SATD 值，选择前5个SATD值最小的帧内预测模式作为目标预测模式。
在确定第二备选预测方式和目标预测模式后，可以步骤S204中的率失真代价的计算公式，计算目标CU在不同目标预测模式下的率失真代价。
步骤S205：从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为目标CU的预测模式。
当CU在预测模式下的率失真代价越小时，表示该预测模式为CU的最终预测模式的可能性越高。因此，选择最小率失真代价对应的预测模式作为目标CU 的预测模式，能够提高确定目标CU的预测模式的准确度。
通过上述步骤S103和步骤S104可以获得目标CU在不同预测模式下的率失真代价，从所获得的各个率失真代价选择最小率失真代价对应的预测模式，作为目标CU的预测模式。
由以上可见，应用本实施例提供的方案确定CU的预测模式时，由于上述第二备选预测方式为：与第一备选预测方式不同的预测方式，且上述第一备选预测方式为目标CU优先选择的预测方式。这样来看，第二备选预测方式不是目标CU优先选择的预测方式，也就是目标CU的预测模式为第二备选预测方式所包含的预测模式的概率较小。因此，相较于现有技术，计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价时，由于目标预测模式的数量小于第二备选预测方式包含的预测模式的总数量，能够减小计算目标CU在不同预测模式下的率失真代价的计算量，从而提高了确定目标CU的预测模式的效率。
另外，由于左侧相邻CU和上侧相邻CU是视频帧中与目标CU相距较近、且已经完成预测的CU，目标CU一般又与左侧相邻CU、上侧相邻CU具有内容相关性，所以，根据左侧相邻CU的预测方式和上侧相邻CU的预测方式，能够准确地确定出目标CU优先选择的预测方式，也就是目标CU的预测模式为第一备选预测方式所包含的预测模式的概率较大。因此，计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价时，能够提高确定目标CU的预测模式的准确度。
本发明的一个实施例中，上述左侧相邻CU可以包括：第一像素列中第一预设位置的像素点所属的CU。
上述第一像素列中各像素点与目标CU的最左像素列中各像素点向左相邻。
具体的，CU中可以包括多个像素点，且每个CU所包括的像素点的数量可以不同。例如：CU中可以包括8*8个像素点，也可以包括16*16个像素点，还可以包括32*32个像素点。
以图4a为例，图4a为本发明实施例提供的第一种CU的示意图，图4a中矩形框表示目标CU，矩形框内的圆形框表示像素点，目标CU包括8*8个像素点，矩形框内的虚线框表示目标CU的最左像素列，与上述目标CU的最左像素列中各像素点向左相邻的各个像素点为第一像素列。
具体的，上述预设位置可以为第一像素列中按照从上到下的顺序第一个像素点所在位置，还可以为第一像素列中按照从上到下的顺序最后一个像素点所在位置，还可以为第一像素列中按照从上到下的顺序中间像素点所在位置。
本发明的一个实施例中，上述上侧相邻CU可以包括：第一像素行中第二预设位置的像素点所属的CU。
上述第一像素行中各像素点与目标CU的最上像素行中各像素点向上相邻。
以图4b为例，图4b为本发明实施例提供的第二种CU的示意图。图4b中矩形框表示目标CU，矩形框内的圆形框表示像素点，目标CU包括8*8个像素点，矩形框内的虚线框表示目标CU的最上像素行，与上述目标CU的最上像素行中各像素点向上相邻的各个像素点为第一像素行。
具体的，上述预设位置可以为第一像素行中按照从左到右的顺序第一个像素点所在位置，还可以为第一像素行中按照从左到右的顺序最后一个像素点所在位置，还可以为第一像素行中按照从左到右的顺序中间像素点所在位置。
本发明的一个实施例中，还可以获得与目标CU左侧相邻的各个CU的预测方式，选择数量最多的预测方式作为左侧相邻CU的预测方式，并获得与目标 CU上侧相邻的各个CU的预测方式，选择数量最多的预测方式作为上侧相邻CU 的预测方式。
由于在与目标CU左侧相邻或者上侧相邻的各个CU的预测方式中，数量最多的预测方式表示目标CU左侧相邻或者上侧相邻的各个CU的预测方式的总体情况，因此，将数量最多的预测方式作为左侧相邻CU或者上侧相邻CU的预测方式，能够提高获得左侧相邻CU和上侧相邻CU的预测方式的准确度。
例如：假设与目标CU左侧相邻CU的预测方式分别为：帧内预测方式、帧间预测方式、帧间预测方式，可以得到帧内预测方式的数量为1、帧间预测方式的数量为2，因此帧间预测方式的数量最多，所以选择帧间预测方式为上述左侧相邻CU的预测方式。假设与目标CU左侧相邻CU的预测方式分别为：帧内预测方式、帧内预测方式、帧间预测方式、帧间预测方式、帧间预测方式，可以得到帧内预测方式的数量为2、帧间预测方式的数量为3，因此帧间预测方式的数量最多，所以选择帧间预测方式为上述上侧相邻CU的预测方式。
这样，将数量最多的预测方式作为左侧相邻CU或者上侧相邻CU的预测方式，能够提高获得左侧相邻CU和上侧相邻CU的预测方式的准确度。
在上述步骤S202中提及到“CU优先选择的预测方式、与该CU的上侧相邻 CU和左侧相邻CU的预测方式之间存在较强的相关性。”这一结论由本申请的发明人通过以下实验数据进行证明得到。
实验样本为：HEVC编码标准中P帧、B帧共九帧视频帧、VVC编码标准中 P帧、B帧共九帧视频帧。
获得各视频帧中CU的预测方式；
统计CU为帧内预测方式情况下，左侧相邻CU和上侧相邻CU的预测方式均为帧内预测方式所占比例、左侧相邻CU和上侧相邻CU的预测方式不同所占比例、左侧相邻CU和上侧相邻CU的预测方式均为帧间预测方式所占比例；
统计CU为帧间预测方式情况下，左侧相邻CU和上侧相邻CU的预测方式均为帧间预测方式所占比例、左侧相邻CU和上侧相邻CU的预测方式不同所占比例、左侧相邻CU和上侧相邻CU的预测方式均为帧内预测方式所占比例。
统计得到的结果如下表1所示。
表1
Figure BDA0002983015280000171
从上述表1可以看到，左侧相邻CU和上侧相邻CU的最优预测方式都是帧内预测方式时，当前CU的预测方式是帧间预测的比例约为99％，说明当前 CU的最优预测方式大概率是帧内预测，小概率是帧间预测。
当左侧相邻CU和上侧相邻CU的最优预测方式都是帧间预测方式时，当前CU的最优预测方式是帧间预测方式的比例约为68％，说明当前CU的最优预测方式大概率是帧间预测方式，小概率是帧内预测方式。
因此，可以得到当前CU的预测方式与左侧相邻CU、上侧相邻CU的预测方式具有相关性。
以下分别以视频编码标准为HEVC和VVC为例，对本发明实施例提供的确定CU的预测模式的方法进行具体说明。以下均假设目标CU有上侧相邻CU和左侧相邻CU、且上侧相邻CU的预测方式和左侧相邻CU的预测方式为相同预测方式。
参见图5，图5为本发明实施例提供的一种HEVC中CU的预测模式确定方法的流程示意图。
步骤S501：判断目标CU所属视频帧是否为I帧。
若为是，执行步骤S502。
若为否，执行步骤S503。
步骤S502：计算目标CU在帧内预测方式包含的各预测模式下的率失真代价，并将最小率失真代价对应的预测模式作为目标CU的预测模式。
HEVC中规定的帧内预测方式包含的各帧内预测模式包括：33种角度模式、 planar模式、DC模式。
具体的，在计算上述率失真代价时，可以首先计算CU在不同帧内预测模式下的SATD选择出预设数量个SATD值最小的帧内预测模式，再计算CU在所选择的各个帧内预测模式下的率失真代价RDO。
例如：首先计算目标CU在35种帧内预测模式下的SATD值，选择10种SATD 值最小的帧内预测模式，再计算目标CU在所选择的10种帧内预测模式下的 RDO。
步骤S503:判断左侧相邻CU的预测方式与上侧相邻CU的预测方式是否均为帧内预测方式，若为帧内预测方式，执行步骤S504，否则，若为帧间预测方式，执行步骤S505。
步骤S504：计算目标CU在帧内预测方式包含的各预测模式下的率失真代价；并计算目标CU在帧间预测方式包含的目标预测模式下的率失真代价，如上述目标预测模式包含：仅CU在2N*2N划分模式下不同预测模式。
帧内预测方式包含的各预测模式包括：33种角度模式、planar模式、DC模式。
步骤S506：选择最小率失真代价的预测模式作为目标CU的预测模式。
步骤S505:计算目标CU在帧间预测方式包含的各预测模式下的率失真代价；并计算目标CU在帧内预测方式包含的目标预测模式下的率失真代价，如仅计算目标CU在预设数量种帧内预测模式下的率失真代价。
帧间预测方式包含的各帧间预测模式可以包括：merge模式和ME模式。
帧内预测方式包含的各目标预测模式可以包括：预设数量种帧内预测模式。
上述预设数量小于帧内预测方式包含的帧内预测模式的总数量。例如：上述预设数量可以为总数量的一半。
步骤S507：选择最小率失真代价的预测模式作为目标CU的预测模式。
参见图6，图6为本发明实施例提供的一种VVC中CU的预测模式确定方法的流程示意图。
步骤S601：判断目标CU所属视频帧是否为I帧。
若为是，执行S602。
若为否，执行S603。
步骤S602：计算目标CU在帧内预测方式包含的各预测模式下的率失真代价，并将最小率失真代价对应的预测模式作为目标CU的预测模式。
帧内预测方式包含的各帧内预测模式包括：65种角度模式，planar模式、 DC模式。
具体的，上述率失真代价计算流程可以为：首先计算CU在不同帧内预测模式下的SATD，选择出预设数量个SATD值最小的帧内预测模式，再计算CU 在所选择的各个帧内预测模式下的率失真代价RDO。
例如：首先计算目标CU在67种帧内预测模式下的SATD值，选择10种SATD 值最小的帧内预测模式，再计算目标CU在所选择的10种帧内预测模式下的 RDO。
步骤S603:判断左侧相邻CU的预测方式与上侧相邻CU的预测方式是否均为帧内预测方式，若为帧内预测方式，执行S604，否则，若为帧间预测方式，执行S605。
步骤S604：计算目标CU在帧内预测方式包含的各预测模式下的率失真代价；并计算目标CU在帧间预测方式包含的各目标预测模式下的率失真代价，如不计算CU在Affine模式下的率失真代价。
帧间预测方式包含的各目标预测模式可以为：Merge模式、GEO模式以及 ME模式。
步骤S606：选择最小率失真代价的预测模式作为目标CU的预测模式。
步骤S605:计算目标CU在帧间预测方式包含的各预测模式下的率失真代价；并计算目标CU在帧内预测方式包含的各目标预测模式下的率失真代价，如仅计算目标CU在预设数量种帧内预测模式下的率失真代价，上述预设数量小于帧内预测方式包含的帧内预测模式的总数量。例如：上述预设数量可以为总数量的一半。
帧间预测方式包含的各帧间预测模式可以包括Merge模式、ME模式、Affine 模式、GEO模式。
帧内预测方式包含的各帧内预测模式可以包括：VVC中规定的帧内预测方式能够支持的预设数量种帧内预测模式。上述预设数量小于帧内预测方式支持的帧内预测模式的最大数量。例如：上述预设数量可以为上述最大数量的一半。
步骤S607：选择最小率失真代价的预测模式作为目标CU的预测模式。
本发明的一个实施例中，当目标CU满足以下任意一个或者组合条件时，即：目标CU所属视频帧为I帧；目标CU不存在上侧相邻CU；目标CU不存在左侧相邻CU。均可以采用现有技术中任意一种确定CU的预测模式的方法确定目标CU的预测模式。
需要说明的是，本发明实施例中的“*”表示为乘号。
与上述CU的预测模式确定方法相对应，本发明实施例还提供了一种CU的预测模式确定装置。
参见图7，图7为本发明实施例提供的一种CU的预测模式确定装置的结构示意图，上述装置包括以下模块701-705。
预测方式获得模块701，用于在目标CU所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻CU时，获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，所述预测方式为：帧间预测方式或帧内预测方式；
预测方式确定模块702，用于根据所述上侧相邻CU的预测方式与左侧相邻 CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式；
第一率失真代价计算模块703，用于计算所述目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；
第二率失真代价计算模块704，用于计算所述目标CU在第二备选预测方式包含的目标预测模式下的率失真代价，其中，所述第二备选预测方式为：与所述第一备选预测方式不同的预测方式，所述目标预测模式的数量小于所述第二备选预测方式包含的预测模式的总数量；
预测模式确定模块705，用于从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为所述目标CU的预测模式。
由以上可见，应用本实施例提供的方案确定CU的预测模式时，由于上述第二备选预测方式为：与第一备选预测方式不同的预测方式，且上述第一备选预测方式为目标CU优先选择的预测方式。这样来看，第二备选预测方式不是目标CU优先选择的预测方式，也就是目标CU的预测模式为第二备选预测方式所包含的预测模式的概率较小。因此，相较于现有技术，计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价时，由于目标预测模式的数量小于第二备选预测方式包含的预测模式的总数量，能够减小计算目标CU在不同预测模式下的率失真代价的计算量，从而提高了确定目标CU的预测模式的效率。
另外，由于左侧相邻CU和上侧相邻CU是视频帧中与目标CU相距较近、且已经完成预测的CU，目标CU一般又与左侧相邻CU、上侧相邻CU具有内容相关性，所以，根据左侧相邻CU的预测方式和上侧相邻CU的预测方式，能够准确地确定出目标CU优先选择的预测方式，也就是目标CU的预测模式为第一备选预测方式所包含的预测模式的概率较大。因此，计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价时，能够提高确定目标CU的预测模式的准确度。
本发明的一个实施例种，上述预测方式确定模块702，具体用于在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式相同的情况下，将所述上侧相邻CU和左侧相邻CU的预测方式确定为所述目标CU优先选择的预测方式，得到第一备选预测方式。
这样，由于当上侧相邻CU的预测方式和左侧相邻CU的预测方式相同时，表示目标CU的预测方式为上述上侧相邻CU和左侧相邻CU的预测方式的概率较大，因此，在上述情况下，将上侧相邻CU和左侧相邻CU的预测方式作为目标CU的预测方式，能够较为准确地得到第一备选方式。
本发明的一个实施例种，上述预测方式确定模块702，具体用于在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式不同的情况下，从所述上侧相邻CU与左侧相邻CU的各个预测方式中确定数量最多的预测方式作为所述目标 CU优先选择的预测方式，得到第一备选预测方式。
这样，由于当上侧相邻CU的预测方式和左侧相邻CU的预测方式不同时，上侧相邻CU和左侧相邻CU的各个预测方式中数量最多的预测方式为目标CU 的预测方式的概率较大，因此，将数量最多的预测方式确定为目标CU优先选择的预测方式，能够得到较为准确地第一备选预测方式。
本发明的一个实施例中，上述左侧相邻CU包括：第一像素列中第一预设位置的像素点所属的CU，所述第一像素列中各像素点与所述目标CU的最左像素列中各像素点向左相邻；
和/或
所述上侧相邻CU包括：第一像素行中第二预设位置的像素点所属的CU，所述第一像素行中各像素点与所述目标CU的最上像素行中各像素点向上相邻。
本发明的一个实施例中，上述预测方式获得模块701，具体用于获得与所述目标CU左侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述左侧相邻CU的预测方式，并获得与所述目标CU上侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述上侧相邻CU的预测方式。
这样，将数量最多的预测方式作为左侧相邻CU或者上侧相邻CU的预测方式，能够提高获得左侧相邻CU和上侧相邻CU的预测方式的准确度。
本发明的一个实施例中，所述装置还包括：预测模式确定模块，
所述预测模式确定模块，具体用于在所述第二备选预测方式为帧间预测方式的情况下，根据预先统计的CU的预测模式为所述帧间预测方式包含的各帧间预测模式的可能性，从各帧间预测模式中选择目标预测模式；和/或，在所述第二备选预测方式为帧内预测方式的情况下，计算目标CU在帧内预测方式包含的各帧内预测模式下的绝对误差和SATD，选择预设数量个SATD最小的帧内预测模式，作为目标预测模式，其中，所述预设数量小于帧内预测方式包含的帧内预测模式的总数量。
上述可能性反映了CU的预测模式为帧间预测方式包含的各预测模式，基于上述可能性所确定的目标预测模式大概率为CU的预测模式，从而可以减少计算小概率的目标预测模式的率失真代价的计算量，提高了目标CU的预测模式的确定效率。并且由于所确定的目标预测模式大概率为CU的预测模式，进一步提高了目标CU的预测模式的准确度。
另外，由于计算SATD的复杂度较低，首先计算目标CU在各预测模式下的 SATD能够减少计算量，用于各预测模式的粗选，并基于计算SATD的结果，选择预设数量个SATD值最小的预测模式作为目标预测模式，从而减少了计算率失真代价的计算量，提高了目标CU的预测模式的确定效率。
与上述CU的预测模式确定方法相对应，本发明实施例还提供了一种电子设备。
本发明实施例还提供了一种电子设备，如图8所示，图8为本发明实施例提供的一种电子设备的结构示意图，包括处理器801、通信接口802、存储器803 和通信总线804，其中，处理器801，通信接口802，存储器803通过通信总线804 完成相互间的通信，
存储器803，用于存放计算机程序；
处理器801，用于执行存储器803上所存放的程序时，实现本发明实施例提供的CU的预测模式确定方法。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器 (DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现本发明实施例提供的CU的预测模式确定方法。
在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行时实现本发明实施例提供的CU的预测模式确定方法。
由以上可见，应用本实施例提供的方案确定CU的预测模式时，由于上述第二备选预测方式为：与第一备选预测方式不同的预测方式，且上述第一备选预测方式为目标CU优先选择的预测方式。这样来看，第二备选预测方式不是目标CU优先选择的预测方式，也就是目标CU的预测模式为第二备选预测方式所包含的预测模式的概率较小。因此，相较于现有技术，计算目标CU在第二备选预测方式包含的目标预测模式下的率失真代价时，由于目标预测模式的数量小于第二备选预测方式包含的预测模式的总数量，能够减小计算目标CU在不同预测模式下的率失真代价的计算量，从而提高了确定目标CU的预测模式的效率。
另外，由于左侧相邻CU和上侧相邻CU是视频帧中与目标CU相距较近、且已经完成预测的CU，目标CU一般又与左侧相邻CU、上侧相邻CU具有内容相关性，所以，根据左侧相邻CU的预测方式和上侧相邻CU的预测方式，能够准确地确定出目标CU优先选择的预测方式，也就是目标CU的预测模式为第一备选预测方式所包含的预测模式的概率较大。因此，计算目标CU在第一备选预测方式包含的各预测模式下的率失真代价时，能够提高确定目标CU的预测模式的准确度。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备、计算机可读存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (10)

1.一种编码单元CU的预测模式确定方法，其特征在于，所述方法包括：
在目标CU所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻CU时，获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，所述预测方式为：帧间预测方式或帧内预测方式；
根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式；
计算所述目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；
计算所述目标CU在第二备选预测方式包含的目标预测模式下的率失真代价，其中，所述第二备选预测方式为：与所述第一备选预测方式不同的预测方式，所述目标预测模式的数量小于所述第二备选预测方式包含的预测模式的总数量；不同预测方式包含的预测模式是不同的；
从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为所述目标CU的预测模式。
2.根据权利要求1所述的方法，其特征在于，所述根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式，包括：
在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式相同的情况下，将所述上侧相邻CU和左侧相邻CU的预测方式确定为所述目标CU优先选择的预测方式，得到第一备选预测方式。
3.根据权利要求1所述的方法，其特征在于，所述根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式，包括：
在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式不同的情况下，从所述上侧相邻CU与左侧相邻CU的各个预测方式中确定数量最多的预测方式作为所述目标CU优先选择的预测方式，得到第一备选预测方式。
4.根据权利要求1-3中任一项所述的方法，其特征在于，
所述左侧相邻CU包括：第一像素列中第一预设位置的像素点所属的CU，所述第一像素列中各像素点与所述目标CU的最左像素列中各像素点向左相邻；
和/或
所述上侧相邻CU包括：第一像素行中第二预设位置的像素点所属的CU，所述第一像素行中各像素点与所述目标CU的最上像素行中各像素点向上相邻。
5.根据权利要求1-3中任一项所述的方法，其特征在于，所述获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，包括：
获得与所述目标CU左侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述左侧相邻CU的预测方式，并获得与所述目标CU上侧相邻的各个CU的预测方式，选择数量最多的预测方式作为所述上侧相邻CU的预测方式。
6.根据权利要求1-3中任一项所述的方法，其特征在于，所述目标预测模式为按照以下方式确定的预测模式：
在所述第二备选预测方式为帧间预测方式的情况下，根据预先统计的CU的预测模式为所述帧间预测方式包含的各帧间预测模式的可能性，从各帧间预测模式中选择目标预测模式；
和/或
在所述第二备选预测方式为帧内预测方式的情况下，计算目标CU在帧内预测方式包含的各帧内预测模式下的绝对误差和SATD，选择预设数量个SATD最小的帧内预测模式，作为目标预测模式，其中，所述预设数量小于帧内预测方式包含的帧内预测模式的总数量。
7.一种CU的预测模式确定装置，其特征在于，所述装置包括：
预测方式获得模块，用于在目标CU所属视频帧为非I帧、且存在上侧相邻CU与左侧相邻CU时，获得所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，所述预测方式为：帧间预测方式或帧内预测方式；
预测方式确定模块，用于根据所述上侧相邻CU的预测方式与左侧相邻CU的预测方式，从帧内预测方式和帧间预测方式中确定所述目标CU优先选择的预测方式，作为第一备选预测方式；
第一率失真代价计算模块，用于计算所述目标CU在所述第一备选预测方式包含的各预测模式下的率失真代价；
第二率失真代价计算模块，用于计算所述目标CU在第二备选预测方式包含的目标预测模式下的率失真代价，其中，所述第二备选预测方式为：与所述第一备选预测方式不同的预测方式，所述目标预测模式的数量小于所述第二备选预测方式包含的预测模式的总数量；不同预测方式包含的预测模式是不同的；
预测模式确定模块，用于从所计算的各个率失真代价中确定最小率失真代价对应的预测模式，作为所述目标CU的预测模式。
8.根据权利要求7所述的装置，其特征在于，
所述预测方式确定模块，具体用于在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式相同的情况下，将所述上侧相邻CU和左侧相邻CU的预测方式确定为所述目标CU优先选择的预测方式，得到第一备选预测方式。
9.根据权利要求7所述的装置，其特征在于，
所述预测方式确定模块，具体用于在所述上侧相邻CU的预测方式与左侧相邻CU的预测方式不同的情况下，从所述上侧相邻CU与左侧相邻CU的各个预测方式中确定数量最多的预测方式作为所述目标CU优先选择的预测方式，得到第一备选预测方式。
10.根据权利要求7-9中任一项所述的装置，其特征在于，所述装置还包括：预测模式确定模块，
所述预测模式确定模块，具体用于在所述第二备选预测方式为帧间预测方式的情况下，根据预先统计的CU的预测模式为所述帧间预测方式包含的各帧间预测模式的可能性，从各帧间预测模式中选择目标预测模式；和/或，在所述第二备选预测方式为帧内预测方式的情况下，计算目标CU在帧内预测方式包含的各帧内预测模式下的绝对误差和SATD，选择预设数量个SATD最小的帧内预测模式，作为目标预测模式，其中，所述预设数量小于帧内预测方式包含的帧内预测模式的总数量。
CN202110292803.9A 2021-03-18 2021-03-18 一种编码单元cu的预测模式确定方法及装置 Active CN113038132B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110292803.9A CN113038132B (zh) 2021-03-18 2021-03-18 一种编码单元cu的预测模式确定方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110292803.9A CN113038132B (zh) 2021-03-18 2021-03-18 一种编码单元cu的预测模式确定方法及装置

Publications (2)

Publication Number Publication Date
CN113038132A CN113038132A (zh) 2021-06-25
CN113038132B true CN113038132B (zh) 2023-01-20

Family

ID=76471567

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110292803.9A Active CN113038132B (zh) 2021-03-18 2021-03-18 一种编码单元cu的预测模式确定方法及装置

Country Status (1)

Country Link
CN (1) CN113038132B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101568035A (zh) * 2002-05-28 2009-10-28 夏普株式会社 图像内预测模式估计、通信和组织的方法和系统
CN111988607A (zh) * 2020-08-07 2020-11-24 北京奇艺世纪科技有限公司 编码单元处理方法、装置、电子设备及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103039075B (zh) * 2010-05-21 2015-11-25 Jvc建伍株式会社 图像编码装置、图像编码方法、以及图像解码装置、图像解码方法
CN103327325B (zh) * 2013-05-13 2016-05-25 西安电子科技大学 基于hevc标准的帧内预测模式快速自适应选择方法
CN106131547B (zh) * 2016-07-12 2018-07-03 北京大学深圳研究生院 视频编码中帧内预测模式的快速决策方法
CN109672895A (zh) * 2018-12-27 2019-04-23 北京佳讯飞鸿电气股份有限公司 一种hevc帧内预测方法及系统
CN110312127B (zh) * 2019-06-25 2022-04-19 浙江大华技术股份有限公司 最可能预测模式列表的构建、图像编码方法和处理装置
CN110913215B (zh) * 2019-12-03 2022-04-12 北京数码视讯软件技术发展有限公司 一种预测模式的选择方法及装置、可读存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101568035A (zh) * 2002-05-28 2009-10-28 夏普株式会社 图像内预测模式估计、通信和组织的方法和系统
CN111988607A (zh) * 2020-08-07 2020-11-24 北京奇艺世纪科技有限公司 编码单元处理方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN113038132A (zh) 2021-06-25

Similar Documents

Publication Publication Date Title
CN110024392B (zh) 用于视频译码的低复杂度符号预测
CN107046645B (zh) 图像编解码方法及装置
CN110839155B (zh) 运动估计的方法、装置、电子设备及计算机可读存储介质
CN110933412A (zh) 用于帧内块复制的基于历史的运动矢量预测值
US20230024834A1 (en) Video decoding method, video encoding method, and related apparatuses
JP2016527789A (ja) イントラ動き補償の拡張
KR20190117708A (ko) 부호화유닛 심도 확정 방법 및 장치
CN103650490A (zh) 用于运动补偿预测的方法和设备
KR20210042355A (ko) 비디오 이미지 성분의 예측 방법, 장치 및 컴퓨터 저장 매체
US20240163470A1 (en) Method for inter prediction method, video picture encoder and decoder
CN112073719B (zh) 一种串匹配预测方法、装置、系统及计算机可读存储介质
US10715820B2 (en) Interframe predictive coding method and device
US20220116658A1 (en) Methods and devices for coding and decoding a data stream representative of at least one image
CN109660806B (zh) 一种编码方法、装置和电子设备
CN113038132B (zh) 一种编码单元cu的预测模式确定方法及装置
CN108683915B (zh) 一种写入dQP值的方法、装置及电子设备
CN115442617A (zh) 一种基于视频编码的视频处理方法和装置
CN106101731B (zh) 图像无损压缩方法及装置
CN109951707B (zh) 一种目标运动矢量选择方法、装置、电子设备及介质
CN117692648B (zh) 视频编码方法、装置、设备、存储介质和计算机程序产品
CN110944198A (zh) 色度模式帧内编码
CN109587496B (zh) 一种Skip块判别方法、编码器、电子设备及可读存储介质
CN112788339B (zh) 视频编码优化方法、装置、系统、介质及终端
JP7436663B2 (ja) サンプルブロックの変換済み表現についてのコーディングコンセプト
CN108632622B (zh) 一种帧内预测方法、装置及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant