CN110913232A - 一种tu划分模式的选择方法及装置、可读存储介质 - Google Patents

一种tu划分模式的选择方法及装置、可读存储介质 Download PDF

Info

Publication number
CN110913232A
CN110913232A CN201911212712.9A CN201911212712A CN110913232A CN 110913232 A CN110913232 A CN 110913232A CN 201911212712 A CN201911212712 A CN 201911212712A CN 110913232 A CN110913232 A CN 110913232A
Authority
CN
China
Prior art keywords
coding unit
mode
current coding
division mode
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911212712.9A
Other languages
English (en)
Other versions
CN110913232B (zh
Inventor
张文东
佟欣
陆明海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Digital Video Software Technology Development Co Ltd
Sumavision Technologies Co Ltd
Original Assignee
Beijing Digital Video Software Technology Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Digital Video Software Technology Development Co Ltd filed Critical Beijing Digital Video Software Technology Development Co Ltd
Priority to CN201911212712.9A priority Critical patent/CN110913232B/zh
Publication of CN110913232A publication Critical patent/CN110913232A/zh
Application granted granted Critical
Publication of CN110913232B publication Critical patent/CN110913232B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/58—Motion compensation with long-term prediction, i.e. the reference frame for a current frame not being the temporally closest one
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本申请提供一种TU划分模式的选择方法及装置、可读存储介质。该选择方法包括：判断当前编码单元的预测模式；若所述当前编码单元是帧内预测模式，根据所述当前编码单元对应的编码标准确定所述当前编码单元的TU划分模式；若所述当前编码单元是帧间预测模式，根据所述当前编码单元的参考单元的TU划分方式确定所述当前编码单元的TU划分模式；所述参考单元为所述当前编码单元对应的参考帧中的编码单元。该选择方法提高了TU划分模式的决策效率，进而提高编码的实时性。

Description

一种TU划分模式的选择方法及装置、可读存储介质
技术领域
本申请涉及视频编码技术领域，具体而言，涉及一种TU划分模式的选择方法及装置、可读存储介质。
背景技术
在超高清视频的编码中，经常会用到TU(Transform Unit，变换单元)划分，在TU的划分过程中，需要先决策具体的划分模式。
在现有技术中，在决策TU划分模式时，需要进行变换-量化-反量化-反变换的重建过程，计算重建块与原始像素之间的差值等计算过程才能选择TU的划分模式。大量的计算过程会导致处理效率下降，在视频质量较高的要求下，如果决策时间太长，会导致得到最终的编码结果的时间也较长，无法满足编码的实时性要求。
发明内容
本申请实施例的目的在于提供一种TU划分模式的选择方法及装置、可读存储介质，用以提高TU划分模式的决策效率，进而提高编码的实时性。
第一方面，本申请实施例提供一种TU划分模式的选择方法，包括：判断当前编码单元的预测模式；若所述当前编码单元是帧内预测模式，根据所述当前编码单元对应的编码标准确定所述当前编码单元的TU划分模式；若所述当前编码单元是帧间预测模式，根据所述当前编码单元的参考单元的TU划分模式确定所述当前编码单元的TU划分模式；所述参考单元为所述当前编码单元对应的参考帧中的编码单元。
在本申请实施例中，对于当前编码单元，先确定所采用的预测模式，然后根据预测模式确定TU划分模式。与现有技术相比，若当前编码单元为帧内预测模式时，帧内预测模式在编码标准中对应有TU划分模式，因此可以直接根据编码标准确定TU划分模式；若当前编码单元为帧间预测模式时，说明它采用参考帧的某一预测样本进行重建，此时可以根据参考单元的TU划分模式确定TU划分模式。在整个过程中，不管是哪种预测模式，都不需要基于重建块进行大量的计算，进而能够快速的进行TU划分模式的选择，提高了TU划分模式的决策效率，进而实现编码的实时性。
作为一种可能的实现方式，根据所述当前编码单元的参考单元确定所述当前编码单元的TU划分模式，包括：若所述当前编码单元采用单向预测，获取所述当前编码单元的参考单元对应的预测样本；根据所述预测样本的TU划分模式确定所述当前编码单元的TU划分模式。
在本申请实施例中，若当前编码单元采用的是单向预测，可以直接根据参考单元的预测单元的TU划分模式确定当前编码单元的TU划分模式，进而快速的确定当前编码单元的TU划分模式。
作为一种可能的实现方式，根据所述预测样本的TU划分模式确定所述当前编码单元的TU划分模式，包括：若所述预测样本的TU划分模式为不划分模式，确定所述当前编码单元的TU划分模式为不划分模式；若所述预测样本的TU划分模式为与所述编码标准对应的划分模式，确定所述预测样本的TU划分模式为所述当前编码单元的TU划分模式。
在本申请实施例中，对于TU的划分模式，可以是不划分模式，即TU没有进行划分，也可以是与编码标准对应的划分模式，若预测样本采用的TU不划分模式，那么当前编码单元也可以采用不划分模式，进而可以快速的确定当前编码单元的TU划分模式。
作为一种可能的实现方式，根据所述当前编码单元的参考单元的TU划分模式确定所述当前编码单元的TU划分模式，包括：若所述当前编码单元的采用双向预测，获取所述当前编码单元的前向参考单元的TU划分模式与后向参考单元的TU划分模式；所述前向参考单元为所述当前编码单元对应的前向参考帧中的编码单元；所述后向参考单元为所述当前编码单元对应的后向参考帧中的编码单元；根据所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式确定所述当前编码单元的TU划分模式。
在本申请实施例中，若当前编码单元采用双向预测的方式，可以结合前向和后向的参考单元的TU划分模式来确定当前编码单元的TU划分模式，进而快速的确定当前编码单元的TU划分模式。
作为一种可能的实现方式，根据所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式确定所述当前编码单元的TU划分模式，包括：判断所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式是否相同；若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式相同，确定所述当前编码单元的TU划分模式为所述前向参考单元的TU划分模式或者所述后向参考单元的TU划分模式。
在本申请实施例中，在结合前向参考单元和后向参考单元的TU划分模式决定当前编码单元的TU划分模式时，可以先判断两个参考单元是否采用相同的TU划分模式，若相同，可以选择该相同的TU划分模式，进而快速的确定当前编码单元的TU划分模式。
作为一种可能的实现方式，所述方法还包括：若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式不相同，判断所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中是否存在不划分模式；若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中存在不划分模式，确定所述当前编码单元的TU划分模式为不划分模式；若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中不存在不划分模式，分别计算所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式的率失真代价；确定所述当前编码单元的TU划分模式为率失真代价小的TU划分模式。
在本申请实施例中，若两个参考单元没有采用相同的TU划分模式，可以先判断是否存在采用不划分模式，若存在，可以直接采用不划分模式，若不存在，可以通过计算率失真代价确定TU划分模式，进而快速的确定当前编码单元的TU划分模式。
第二方面，本申请实施例还提供一种TU划分模式的选择装置，所述装置包括用于实现第一方面以及第一方面任意一种可能的实现方式中所述的方法的功能模块。
第三方面，本申请实施例提供一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被计算机运行时执行如第一方面以及第一方面任意一种可能的实现方式中所述的方法。
附图说明
为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的TU划分模式的选择方法的流程图；
图2为本申请实施例提供的TU划分模式的选择方法的一种实施流程示意图；
图3为本申请实施例提供的单向预测情况下的TU划分模式的选择方法的实施流程示意图；
图4为本申请实施例提供的双向预测情况下的TU划分模式的选择方法的实施流程示意图；
图5为本申请实施例提供的TU划分模式的选择装置的功能结构框图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。
为了更清楚的介绍本申请实施例所提供的TU划分模式的选择方法，在介绍该选择方法之前，先对该选择方法涉及到的应用场景和相关技术进行介绍。
该选择方法应用于视频编码，视频编码一般是通过视频编码器实现的，该方法可以应用于各类视频编码器。而对于TU划分，常用于较高视频编码质量的编码过程中，因此，该选择方法尤其适合应用于高清编码器或者超高清编码器。
目前常用的视频编码标准包括：H.264/AVC(Advanced Video Coding，高级视频编码)，H.265/HEVC(High Efficiency Video Coding，高效视频编码标准)，AVS(Audio Videocoding Standard，信源编码标准)+，AVS2等。在这些编码标准中，采用混合编码框架，主要模块包括：帧内预测、帧间预测、变换、量化、环路滤波以及熵编码等。帧内预测与帧间预测都是利用了图像的重构信息，达到去除冗余信息、提高图像压缩率的目的，帧内预测主要是根据视频数据空间的纹理特性，根据邻近重建块与当前预测块的相似程度，将某一个预测角度的相邻块像素投影值，作为当前像素块的预测信息；帧间预测则参考已编码帧，利用视频图像的时间相关性，降低时间冗余，在实际预测过程中，会去搜索当前预测块在参考帧中的最佳匹配位置，从而获得参考像素块的预测值，同时确定预测方向与矢量。帧间预测可较大程度地减少需要编码的残差信息，提高视频压缩率。
在视频编码过程中，基于每个编码单元，可以选择编码单元的TU划分模式，TU是进行变换的单元，不同的编码标准下有不同的TU划分模式，如AVS3标准中就有PBT(PositionBased Transform，基于位置的变换块)模式和四叉树模式。PBT模式主要是基于残差矩阵中不同编号的区域采用不同的变换矩阵；四叉树模式为传统的TU划分模式，其基本思想是首先把一幅图像或一幅栅格地图等分成四部分，如果检查到某个子区的所有格网都含有相同的值(灰度或属性值)，那么这个子区域就不再往下分割；否则，把这个区域再分割成四个子区域，这样递归地分割，直至每个子块都只含有相同的灰度或属性值为止。
此外，在本申请实施例中，还涉及到对帧预测模式的判断，对于帧预测模式，不同的帧类型可采用不同的帧预测模式。帧类型，包括：I帧、P帧、B帧。I帧(intra frame)就是俗称的关键帧，它靠尽可能去除图像空间冗余信息来压缩传输数据量的帧内编码图像。I帧仅使用帧内预测进行编码，属于帧内压缩。它是一个全帧压缩编码帧，不需要参考其他画面而生成，解码时仅用I帧的数据就可重构完整图像。I帧所占数据的信息量最大，压缩效率也最小。P帧(predicted frame)就是俗称的单向编码帧。它是通过充分降低于图像序列中前面已编码帧的时间冗余信息来压缩传输数据量的编码图像，也叫预测帧。P帧由在它前面的P帧或者I帧预测而来，或者利用当前P帧内部已编码像素进行预测得到。总体来说，P帧既能考虑时间上的运动特性进行压缩，也能考虑空间冗余信息进行压缩。P帧压缩效率比I帧大。B帧(bi-directional frame)就是俗称的双向编码帧。它既考虑与源图像序列前面已编码帧，也顾及源图像序列后面已编码帧之间的时间冗余信息来压缩传输数据量的编码图像。B帧压缩效率最大。
对于I帧，只做帧内预测；对于P帧和B帧，既可以做帧内预测，也可以做帧间预测。
基于上述应用场景和相关技术的介绍，接下来请参照图1，为本申请实施例提供的TU划分模式的选择方法的流程图，该选择方法包括：
步骤101：判断当前编码单元的预测模式。
步骤102：若当前编码单元是帧内预测模式，根据当前编码单元对应的编码标准确定当前编码单元的TU划分模式。
步骤103：若当前编码单元是帧间预测模式，根据当前编码单元的参考单元的TU划分模式确定当前编码单元的TU划分模式。
与现有技术相比，在本申请实施例中，若当前编码单元为帧内预测模式时，帧内预测模式在编码标准中对应有TU划分模式，因此可以直接根据编码标准确定TU划分模式；若当前编码单元为帧间预测模式时，说明它采用参考帧的某一预测样本进行重建，此时可以根据参考单元的TU划分模式确定TU划分模式。在整个过程中，不管是哪种预测模式，都不需要基于重建块进行大量的计算，进而能够快速的进行TU划分模式的选择，提高了TU划分模式的决策效率，进而实现编码的实时性。
接下来对步骤101-步骤103的详细实施流程作介绍。
在步骤101中，需要对当前编码单元的预测模式进行判断，根据前述对预测模式的介绍，可以理解，在编码器输入当前编码单元后，已经得到当前编码单元的帧类型，进而可以根据帧类型判断预测模式。对于I帧来说，只能采用帧内预测，因此，I帧的预测模式可直接判断为帧内预测。对于P/B帧来说，采用帧内预测或者帧间预测，当输入当前编码单元后，可以直接得到对应的预测模式。
进一步的，在步骤102中，为当前编码单元是帧内预测的情况，在这种情况中，可以根据当前编码单元的编码标准确定TU划分模式。比如在AVS3编码标准中，帧内预测单元的类型决定其TU的划分模式，因此不需要再进行TU划分模式的确定，可直接按照标准规定的划分模式进行划分。其中，帧内预测单元的类型的TU划分模式例如1:2、1:4划分等常规的划分模式。
进一步的，在步骤103中，为当前编码单元是帧间预测的情况，在这种情况中，根据当前编码单元的参考单元的TU划分模式确定当前编码单元的TU划分模式。在帧间预测中，可以采用单向预测和双向预测，单向预测中参考帧为一个，对应的参考单元只有一个，双向预测中参考帧有两个，对应的参考单元有两个，在参考单元不同的情况下，可以有不同的TU划分模式决策方式，进而可以基于单向预测和双向预测两种不同的情况采用不同的TU划分模式的决策方式。在具体实施时，步骤101-步骤103的实施流程可以如图2所示，在图2中，在输入编码单元后，判断是否为帧内或者帧间预测，若为帧内预测，则不进行TU划分的决策；若为帧间预测，判断采用单向预测还是双向预测，若为单向预测，就采用单向预测的决策方式，若为双向预测，就采用双向预测的决策方式，但需要注意的是，不管采用何种决策方式，都需要基于参考单元的TU划分模式决定当前编码单元的TU划分模式。接下来，对不同的决策方式作介绍。
作为步骤103的第一种可选的实施方式，步骤103包括：若当前编码单元采用单向预测，获取当前编码单元的参考单元对应的预测样本；根据预测样本的TU划分模式确定当前编码单元的TU划分模式。
在第一种可选的实施方式中，在具体应用时，首先输入单向预测MV(motionvector，运动矢量)，将其整像素化后，其左上角的第一个元素所在的参考图像中的编码单元CUpred位置，即为当前编码单元的参考单元所对应的预测样本，进而可以根据CUpred的TU划分模式进行决策。
进一步的，根据预测样本的TU划分模式确定当前编码单元的TU划分模式，可以包括：若预测样本的TU划分模式为不划分模式，确定当前编码单元的TU划分模式为不划分模式；若预测样本的TU划分模式为与编码标准对应的划分模式，确定预测样本的TU划分模式为当前编码单元的TU划分模式。其中，对于不划分模式，可以理解为没有进行TU划分；对于与编码标准对应的划分模式，可以理解在编码标准下可选的各种TU划分模式，例如AVS3标准下的PBT模式和四叉树模式。
以AVS3标准为例，请参照图3，为第一种实施方式的一种可选的实施流程示意图，先输入单向预测的MV，然后获得参考帧对应的预测样本，然后判断参考单元对应的TU是否划分，若没有划分，那么当前编码单元(即当前编码单元)也采用不划分的模式。若划分，参考单元采用PBT划分模式，当前编码单元也采用PBT划分，参考单元采用四叉树划分，当前编码单元也采用四叉树划分。可以理解的是，当前编码单元属于当前帧，参考单元为参考帧中的编码单元，比如，后续实施例中，前向参考单元可以理解为前向参考帧中的编码单元，后向参考单元可以理解为后向参考帧中的编码单元。
需要理解的是，根据P/B帧之间的时间相关性，可以假设其TU划分模式也具有类似的性质，由于参考单元中MV所指向的预测样本应该是与当前编码单元的残差块具有相似的分布特性，如果CUpred采用了TU不划分的模式进行变换编码，则可以决策当前编码单元对应的TU也应采用不划分的模式进行残差能量的集中。否则，如果CUpred的TU采取划分的模式，则需要对该划分模式分类讨论。当CUpred的TU划分采用的是PBT模式，说明预测样本所在的TU的残差矩阵相关性并不强，此时需要将它划分成4个子TU，并且采用不同的变换矩阵进行能量的集中，当前编码单元与预测样本具有相似性，所以此时也采用PBT划分模式；反之，如果CUpred采用的四叉树的TU划分方式，则要考虑其纹理特性，所以当前编码单元的TU也采用四叉树的TU划分方式。
在本申请实施例中，若当前编码单元采用的是单向预测，可以直接根据参考单元的预测单元的TU划分模式确定当前编码单元的TU划分模式。对于TU的划分模式，可以是不划分模式，即TU没有进行划分，也可以是与编码标准对应的划分模式，若预测样本采用的TU不划分模式，那么当前编码单元也可以采用不划分模式，进而可以快速的确定当前编码单元的TU划分模式。
作为步骤103的第二种可选的实施方式，步骤103包括：若当前编码单元采用双向预测，获取当前编码单元的前向参考单元的TU划分模式与后向参考单元的TU划分模式；根据前向参考单元的TU划分模式与后向参考单元的TU划分模式确定当前编码单元的TU划分模式。其中，前向参考单元为当前编码单元对应的前向参考帧中的编码单元；后向参考单元为当前编码单元对应的后向参考帧中的编码单元。
其中，根据前向参考单元的TU划分模式与后向参考单元的TU划分模式确定当前编码单元的TU划分模式，具体可以包括：判断前向参考单元的TU划分模式与后向参考单元的TU划分模式是否相同；若前向参考单元的TU划分模式与后向参考单元的TU划分模式相同，确定当前编码单元的TU划分模式为前向参考单元的TU划分模式或者后向参考单元的TU划分模式。需要注意的是，不管是前向参考单元还是后向参考单元，在判断各自对应的TU划分模式时，以参考单元对应的预测样本的TU划分模式为准。
在这种情况中，相当于判断前向参考单元与后向参考单元的TU划分模式是否相同，若相同，可以选择其中任意一种作为当前编码单元的TU划分模式。
当然，存在相同的情况，也存在不相同的情况，在不相同的情况下，该选择方法还包括：若前向参考单元的TU划分模式与后向参考单元的TU划分模式不相同，判断前向参考单元的TU划分模式与后向参考单元的TU划分模式中是否存在不划分模式；若前向参考单元的TU划分模式与后向参考单元的TU划分模式中存在不划分模式，确定当前编码单元的TU划分模式为不划分模式；若前向参考单元的TU划分模式与后向参考单元的TU划分模式中不存在不划分模式，分别计算前向参考单元的TU划分模式与后向参考单元的TU划分模式的率失真代价；确定当前编码单元的TU划分模式为率失真代价小的TU划分模式。
可以理解，当前向和后向两者的TU划分模式不相同时，先判断是否存在有不划分模式，若有，则确定当前编码单元的TU划分模式为不划分模式；若不存在不划分模式，则进行率失真代价的计算，根据计算结果来确定当前编码单元的TU划分模式。
为了便于更清楚的理解在双向预测下的TU划分模式决策方式，接下来继续以该方法应用于AVS3编码标准为例，对实际应用时的实施流程作介绍。
请参照图4，为双向预测下的TU划分模式决策的一种可选的实施流程。由于B帧存在双向预测模式，此时预测向量包括两组MVforward与MVbackward，MVforward指向对应显示顺序的前向参考帧的编码单元的预测样本Sampleforward，MVbackward指向显示顺序上后向参考帧的编码单元的预测样本Samplebackward，最后当前编码单元的预测值就是二者的平均值：(Sampleforward+Samplebackward)/2，此时不能仅从一侧的预测样本中确定TU划分模式，可以结合前后向的预测样本综合考虑。
因此，在图4中，首先根据MVforward与MVbackward分别进入图3中的单向预测模块的决策方式，得到预测样本Sampleforward与Samplebackward所对应编码单元的TU划分模式，Sampleforward与Samplebackward可能采用不同的TU划分模式，需要进行分类决策：
(1)如果二者采用相同的TU划分模式，说明它们的残差矩阵具有相同的分布状况，由于当前编码单元是Sampleforward与Samplebackward的平均值，所以可以认为当前编码单元也采用与二者相同的TU划分模式。
(2)如果二者采用不相同的TU划分模式，此时需要分析前向与后向的TU划分模式，如果前向或者后向中存在TU不划分的情况，此时为节省码流所需要的比特数，优先考虑TU不划分的情况，如果采用TU划分的情况，不论是PBT模式，还是传统的四叉树划分模式，都会引入更多低频区域的信号值，所以优先考虑不划分的模式，可以降低这部分的比特数代价。
(3)如果前向与后向中不存在TU不划分的情况，这说明前向与后向的预测样本对应TU块的残差分布相关性较差，需要利用RDO准则去分别比较PBT模式与四叉树模式下的率失真代价(RD Cost)，选择最佳TU划分模式。该数值的计算方式如下所示：
Figure BDA0002294988930000121
RD Cost由Distortion(失真)以及bits(比特)两部分组成，目的是为了在尽可能保证重建值与真实值一致的情况下，节省编码所需要的比特数。上式中TU代表的是当前编码单元的TU块，由于PBT模式与四叉树划分模式都会得到4个子TU，所以此处就是累加4个子TU的Distortion以及bits。将当前编码单元经过PBT模式以及四叉树划分模式的变换编码后，再经过量化、反量化、对应的反变换处理流程，得到编码单元的重建值；Distortion即代表了真实值与重建值的差异，编码单元中像素f(x,y)与重建fr(x,y)之间的差值平方和；另一方面，考虑bits对实际编码过程压缩效率的影响，将拉格朗日因子λ与比特数R相乘后作为bits部分的影响权重。然后这两种划分模式的RD Cost，RD Cost越小，可以认为这种划分模式的失真度较低，而且压缩率高，即可确定为当前编码单元的TU划分模式。
从图2-图4所示的本申请实施例的选择方法在实际应用时的实施流程可以看出，考虑帧间预测中当前帧与参考帧的时间相关性，根据当前编码单元对应参考帧中的预测样本所在的编码单元(即参考单元)的TU划分模式，决定当前编码单元的TU划分模式，不需要通过反复变换、量化、反量化与反变换分析不同划分模式RD Cost，将其中涉及RD Cost的计算步骤降至最低程度。在保证编码质量的情况下，提高TU划分模式的决策效率，进而提高编码的实时性。
基于同一发明构思，请参照图5，本申请实施例中还提供一种TU划分模式的选择装置200，包括：判断模块201和确定模块202。
判断模块201，用于判断当前编码单元的预测模式。确定模块202，用于若所述当前编码单元是帧内预测模式，根据所述当前编码单元对应的编码标准确定所述当前编码单元的TU划分模式。确定模块202还用于：若所述当前编码单元是帧间预测模式，根据所述当前编码单元的参考单元的TU划分模式确定所述当前编码单元的TU划分模式。
可选的，确定模块202包括单向预测模块，用于：若所述当前编码单元的采用单向预测，获取所述当前编码单元的参考单元对应的预测样本；根据所述预测样本的TU划分模式确定所述当前编码单元的TU划分模式。
可选的，单向预测模块具体还用于：若所述预测样本的TU划分模式为不划分模式，确定所述当前编码单元的TU划分模式为不划分模式；若所述预测样本的TU划分模式为与所述编码标准对应的划分模式，确定所述预测样本的TU划分模式为所述当前编码单元的TU划分模式。
可选的，确定模块202还包括双向预测模块，用于：若所述当前编码单元采用双向预测，获取所述当前编码单元的前向参考单元的TU划分模式与后向参考单元的TU划分模式；所述前向参考单元为所述当前编码单元对应的前向参考帧中的编码单元；所述后向参考单元为所述当前编码单元对应的后向参考帧中的编码单元；根据所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式确定所述当前编码单元的TU划分模式。
可选的，双向预测模块具体用于：判断所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式是否相同；若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式相同，确定所述当前编码单元的TU划分模式为所述前向参考单元的TU划分模式或者所述后向参考单元的TU划分模式。
可选的，双向预测模块具体还用于：若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式不相同，判断所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中是否存在不划分模式；若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中存在不划分模式，确定所述当前编码单元的TU划分模式为不划分模式；若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中不存在不划分模式，分别计算所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式的率失真代价；确定所述当前编码单元的TU划分模式为率失真代价小的TU划分模式。
前述实施例中的TU划分模式的选择方法中的各实施方式和具体实例同样适用于本申请实施例提供的TU划分模式的选择装置，通过前述对TU划分模式的选择方法的详细描述，本领域技术人员可以清楚的知道TU划分模式的选择装置的实施方法，所以为了说明书的简洁，在此不再详述。
基于同一发明构思，本申请实施例还提供一种可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被计算机运行时执行上述任一实施方式的TU划分模式的选择方法。
在本申请所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
另外，作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
再者，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述仅为本申请的实施例而已，并不用于限制本申请的保护范围，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (10)

1.一种TU划分模式的选择方法，其特征在于，包括：
判断当前编码单元的预测模式；
若所述当前编码单元是帧内预测模式，根据所述当前编码单元对应的编码标准确定所述当前编码单元的TU划分模式；
若所述当前编码单元是帧间预测模式，根据所述当前编码单元的参考单元的TU划分模式确定所述当前编码单元的TU划分模式；所述参考单元为所述当前编码单元对应的参考帧中的编码单元。
2.根据权利要求1所述的选择方法，其特征在于，根据所述当前编码单元的参考单元确定所述当前编码单元的TU划分模式，包括：
若所述当前编码单元采用单向预测，获取所述当前编码单元的参考单元对应的预测样本；
根据所述预测样本的TU划分模式确定所述当前编码单元的TU划分模式。
3.根据权利要求2所述的选择方法，其特征在于，根据所述预测样本的TU划分模式确定所述当前编码单元的TU划分模式，包括：
若所述预测样本的TU划分模式为不划分模式，确定所述当前编码单元的TU划分模式为不划分模式；
若所述预测样本的TU划分模式为与所述编码标准对应的划分模式，确定所述预测样本的TU划分模式为所述当前编码单元的TU划分模式。
4.根据权利要求1所述的选择方法，其特征在于，根据所述当前编码单元的参考单元的TU划分模式确定所述当前编码单元的TU划分模式，包括：
若所述当前编码单元采用双向预测，获取所述当前编码单元的前向参考单元的TU划分模式与后向参考单元的TU划分模式；所述前向参考单元为所述当前编码单元对应的前向参考帧中的编码单元；所述后向参考单元为所述当前编码单元对应的后向参考帧中的编码单元；
根据所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式确定所述当前编码单元的TU划分模式。
5.根据权利要求4所述的选择方法，其特征在于，根据所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式确定所述当前编码单元的TU划分模式，包括：
判断所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式是否相同；
若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式相同，确定所述当前编码单元的TU划分模式为所述前向参考单元的TU划分模式或者所述后向参考单元的TU划分模式。
6.根据权利要求5所述的选择方法，其特征在于，所述方法还包括：
若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式不相同，判断所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中是否存在不划分模式；
若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中存在不划分模式，确定所述当前编码单元的TU划分模式为不划分模式；
若所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式中不存在不划分模式，分别计算所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式的率失真代价；
确定所述当前编码单元的TU划分模式为率失真代价小的TU划分模式。
7.一种TU划分模式的选择装置，其特征在于，包括：
判断模块，用于判断当前编码单元的预测模式；
确定模块，用于若所述当前编码单元是帧内预测模式，根据所述当前编码单元对应的编码标准确定所述当前编码单元的TU划分模式；
所述确定模块还用于：若所述当前编码单元是帧间预测模式，根据所述当前编码单元的参考单元的TU划分模式确定所述当前编码单元的TU划分模式；所述参考单元为所述当前编码单元对应的参考帧中的编码单元。
8.根据权利要求7所述的装置，其特征在于，所述确定模块包括单向预测模块，用于：
若所述当前编码单元采用单向预测，获取所述当前编码单元的参考单元对应的预测样本；
根据所述预测样本的TU划分模式确定所述当前编码单元的TU划分模式。
9.根据权利要求7所述的装置，其特征在于，所述确定模块包括双向预测模块，用于：
若所述当前编码单元采用双向预测，获取所述当前编码单元的前向参考单元的TU划分模式与后向参考单元的TU划分模式；所述前向参考单元为所述当前编码单元对应的前向参考帧中的编码单元；所述后向参考单元为所述当前编码单元对应的后向参考帧中的编码单元；
根据所述前向参考单元的TU划分模式与所述后向参考单元的TU划分模式确定所述当前编码单元的TU划分模式。
10.一种可读存储介质，其特征在于，所述可读存储介质上存储有计算机程序，所述计算机程序被计算机运行时执行如权利要求1-6任一项所述的方法。
CN201911212712.9A 2019-11-29 2019-11-29 一种tu划分模式的选择方法及装置、可读存储介质 Active CN110913232B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911212712.9A CN110913232B (zh) 2019-11-29 2019-11-29 一种tu划分模式的选择方法及装置、可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911212712.9A CN110913232B (zh) 2019-11-29 2019-11-29 一种tu划分模式的选择方法及装置、可读存储介质

Publications (2)

Publication Number Publication Date
CN110913232A true CN110913232A (zh) 2020-03-24
CN110913232B CN110913232B (zh) 2021-09-14

Family

ID=69821612

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911212712.9A Active CN110913232B (zh) 2019-11-29 2019-11-29 一种tu划分模式的选择方法及装置、可读存储介质

Country Status (1)

Country Link
CN (1) CN110913232B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113315967A (zh) * 2021-07-28 2021-08-27 腾讯科技（深圳）有限公司 视频编码方法、装置、介质及电子设备
CN113660490A (zh) * 2021-06-24 2021-11-16 浙江大华技术股份有限公司 编码单元的划分方法、编码方法、电子装置及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103348651A (zh) * 2011-03-09 2013-10-09 联发科技（新加坡）私人有限公司 具有降低复杂性的变换单元分割的方法及装置
CN105791865A (zh) * 2014-12-22 2016-07-20 江苏省电力公司南京供电公司 帧内预测及去块滤波方法
KR20160106023A (ko) * 2010-12-14 2016-09-09 엠앤케이홀딩스 주식회사 동영상 부호화 장치
CN108259918A (zh) * 2016-12-29 2018-07-06 北京金山云网络技术有限公司 一种编码单元模式决策方法及装置
CN110049338A (zh) * 2019-04-26 2019-07-23 杭州电子科技大学 基于多层次分类的hevc快速帧间编码方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160106023A (ko) * 2010-12-14 2016-09-09 엠앤케이홀딩스 주식회사 동영상 부호화 장치
CN103348651A (zh) * 2011-03-09 2013-10-09 联发科技（新加坡）私人有限公司 具有降低复杂性的变换单元分割的方法及装置
CN105791865A (zh) * 2014-12-22 2016-07-20 江苏省电力公司南京供电公司 帧内预测及去块滤波方法
CN108259918A (zh) * 2016-12-29 2018-07-06 北京金山云网络技术有限公司 一种编码单元模式决策方法及装置
CN110049338A (zh) * 2019-04-26 2019-07-23 杭州电子科技大学 基于多层次分类的hevc快速帧间编码方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113660490A (zh) * 2021-06-24 2021-11-16 浙江大华技术股份有限公司 编码单元的划分方法、编码方法、电子装置及存储介质
CN113315967A (zh) * 2021-07-28 2021-08-27 腾讯科技（深圳）有限公司 视频编码方法、装置、介质及电子设备
CN113315967B (zh) * 2021-07-28 2021-11-09 腾讯科技（深圳）有限公司 视频编码方法、装置、介质及电子设备

Also Published As

Publication number Publication date
CN110913232B (zh) 2021-09-14

Similar Documents

Publication Publication Date Title
KR100739714B1 (ko) 인트라 예측 모드 결정 방법 및 장치
US20220417504A1 (en) Video decoding method and apparatus, video coding method and apparatus, device, and storage medium
CN106170092B (zh) 用于无损编码的快速编码方法
CN103997646B (zh) 一种高清视频编码中快速帧内预测模式选择方法
EP2262269B1 (en) Skip macroblock coding
CN111819852A (zh) 用于变换域中残差符号预测的方法及装置
KR100727970B1 (ko) 영상의 부호화 및 복호화 장치와, 그 방법, 및 이를수행하기 위한 프로그램이 기록된 기록 매체
CN112533000B (zh) 视频解码方法、装置、计算机可读介质及电子设备
JP2011514095A (ja) 映像イントラ予測方法及び装置
JP2007503776A (ja) インター符号化に使われる参照画像数を最小化するための方法および装置
US9332275B2 (en) Methods, apparatuses, and programs for encoding and decoding picture
KR20070019485A (ko) 영상의 인트라 예측 부호화, 복호화 방법 및 장치
US20090016443A1 (en) Inter mode determination method for video encoding
CN111837389A (zh) 适用于多符号位隐藏的块检测方法及装置
CN113994701A (zh) 用于在视频编码中进行运动场存储的方法和设备
CN110913232B (zh) 一种tu划分模式的选择方法及装置、可读存储介质
US20240031580A1 (en) Method and apparatus for video coding using deep learning based in-loop filter for inter prediction
CN110913215B (zh) 一种预测模式的选择方法及装置、可读存储介质
US10015484B2 (en) Adaptive scan device and method for scanning thereof
CN113906754A (zh) 图像编码/解码方法和设备
CN113841404A (zh) 视频编码/解码方法和设备以及存储比特流的记录介质
Wang et al. Overview of the second generation avs video coding standard (avs2)
WO2022078339A1 (zh) 参考像素候选列表构建方法、装置、设备及存储介质
CN113207002B (zh) 视频编解码方法、装置、计算机可读介质及电子设备
Suzuki et al. Block-based reduced resolution inter frame coding with template matching prediction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant