CN111918059A - 硬件友好的基于回归树的帧内预测模式决策方法及装置 - Google Patents

硬件友好的基于回归树的帧内预测模式决策方法及装置 Download PDF

Info

Publication number
CN111918059A
CN111918059A CN202010638820.9A CN202010638820A CN111918059A CN 111918059 A CN111918059 A CN 111918059A CN 202010638820 A CN202010638820 A CN 202010638820A CN 111918059 A CN111918059 A CN 111918059A
Authority
CN
China
Prior art keywords
block
prediction mode
coded
hardware
regression tree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010638820.9A
Other languages
English (en)
Other versions
CN111918059B (zh
Inventor
高伟
蔡占元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University Shenzhen Graduate School
Original Assignee
Peking University Shenzhen Graduate School
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University Shenzhen Graduate School filed Critical Peking University Shenzhen Graduate School
Priority to CN202010638820.9A priority Critical patent/CN111918059B/zh
Publication of CN111918059A publication Critical patent/CN111918059A/zh
Application granted granted Critical
Publication of CN111918059B publication Critical patent/CN111918059B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明公开了一种硬件友好的基于回归树的帧内预测模式决策方法及装置、计算机可读存储介质，该方法包括以下步骤：以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定待编码块的初预测模式；在预设的预测模式范围内从初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入候选模式列表；对候选模式列表中的候选模式构建预测块，并计算待编码块与预测块的残差经Hadamard变换后的绝对值和，选择绝对值和最小的候选模式作为最终预测模式。本发明实现了对帧内预测模式的one‑pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。

Description

硬件友好的基于回归树的帧内预测模式决策方法及装置
技术领域
本申请涉及视频编码技术领域，尤其涉及一种硬件友好的基于回归树的帧内预测模式决策方法及装置、计算机可读存储介质。
背景技术
在视频编码中，帧内预测利用空间相关性，使用已编码像素预测待编码像素来消除视频信号中的空间冗余。其中，预测单元(Prediction Unit,PU)是帧内预测任务的最小单位，也被称为预测块(Prediction Block,PB)。通过分析待编码块与相邻已编码块的信息，利用角度模式以及非角度模式可以获取待编码块的最佳预测模式。在帧内预测中，为了进行亮度块的预测，HEVC标准采用了35种预测模式，包含33种角度模式以及DC、Planar模式；VVC标准采用了多达67种预测模式，包含65种角度模式以及DC、Planar模式；而AVS3标准也采用了65种预测模式，包含62种角度模式以及DC、Planar和Bilinear模式。更多的帧内预测模式虽然带来了视频编码性能的提升，但也导致了帧内预测模式决策的计算复杂度的增加。
关于帧内预测模式快速决策方法，目前传统技术使用的是经典的三阶段快速模式决策方案：第一阶段为粗略模式决策(Rough Mode Decision,RMD)，通过使用Hadamard代价(Hcost)选择N个模式，其中，Hadamard代价的公式为Hcost＝DSATD+λ·Bitmode，DSATD标识残差信号经Hadamard变换后的绝对值和(Sum of Absolute Transformed Difference,SATD)，Bitmode为该帧内预测模式熵编码所需的比特数；在第二阶段，将来自相邻编码块的最可能模式(Most Possible Mode,MPM)与N个RMD模式结合，生成帧内预测候选模式列表；在第三阶段，根据编码单元(Coding Unit,CU)的尺寸大小，即编码块(Coding Block,CB)的尺寸大小，选择候选模式列表中成本较低的3种模式进行率失真优化(Rate DistortionOptimization,RDO)，以获得最佳的帧内预测模式。这种方案在一定程度上降低了帧内预测模式决策的计算复杂度，但是其帧内预测模式决策的计算复杂度仍然较高。
发明内容
本申请实施例通过提供一种硬件友好的基于回归树的帧内预测模式决策方法及装置、计算机可读存储介质，解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
本申请实施例提供了一种硬件友好的基于回归树的帧内预测模式决策方法，所述方法包括以下步骤：
以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；
在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；
对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
在一实施例中，在所述以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
利用四种Sobel纹理方向算子计算待编码块与四个相邻编码块的Sobel纹理方向特征；
通过所述Sobel纹理方向特征计算得到所述待编码块与所述相邻编码块的纹理特征差异。
在一实施例中，所述四种Sobel纹理方向算子为：
Figure BDA0002567287470000031
在一实施例中，在所述以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
当待编码块为非内部编码块时，对预设的所有预测模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的预测模式作为最终预测模式。
在一实施例中，在所述以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
在将原帧内预测模式重新编号后，利用训练数据集进行回归树训练。
在一实施例中，在所述使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
增加相邻编码块预测模式作为特征。
在一实施例中，所述相邻编码块预测模式为位于左侧和正上的两个相邻编码块的最终预测模式。
在一实施例中，所述在预设的预测模式范围内从所述初预测模式周围增加搜索范围时，其搜索半径在2至10之间。
本申请实施例还提供了一种装置，所述装置包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的帧内预测模式决策程序，所述帧内预测模式决策程序被所述处理器执行时实现如上述的硬件友好的基于回归树的帧内预测模式决策方法的步骤。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有帧内预测模式决策程序，所述帧内预测模式决策程序被处理器执行时实现如上述的硬件友好的基于回归树的帧内预测模式决策方法的步骤。
本申请实施例中提供的一种硬件友好的基于回归树的帧内预测模式决策方法及装置、计算机可读存储介质的技术方案，至少具有如下技术效果：
由于采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术手段。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
附图说明
图1为本申请实施例涉及的装置的结构示意图；
图2为本申请硬件友好的基于回归树的帧内预测模式决策方法第一实施例的流程示意图；
图3为本申请实施例涉及的编码块的位置示意图；
图4为本申请实施例涉及的AVS3标准帧内预测模式示意图；
图5为本申请硬件友好的基于回归树的帧内预测模式决策方法第二实施例的流程示意图；
图6为本申请硬件友好的基于回归树的帧内预测模式决策方法第三实施例的流程示意图；
图7为本申请硬件友好的基于回归树的帧内预测模式决策方法第四实施例的流程示意图；
图8为本申请硬件友好的基于回归树的帧内预测模式决策方法第五实施例的流程示意图；
图9为本申请硬件友好的基于回归树的帧内预测模式决策方法实施例涉及的装置的硬件结构示意图。
具体实施方式
本申请为了解决传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
为了更好地理解上述技术方案，下面将参照附图更详细地描述本申请的示例性实施例。虽然附图中显示了本申请的示例性实施例，然而应当理解，可以以各种形式实现本申请而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本申请，并且能够将本申请的范围完整的传达给本领域的技术人员。
结合图1所示，其为本申请各个实施例中涉及的装置的一种硬件结构示意图，该装置可以包括：处理器101、存储器102、输入模块103等部件。本领域技术人员可以理解，图1所示的装置的硬件结构并不构成对该装置的限定，该装置可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图1对该装置的各个部件进行具体的介绍：
处理器101是装置的控制中心，连接整个装置的各个部分，通过运行或执行存储在存储器102内的程序，以及调用存储在存储器102内的数据，执行装置的各种功能或者对数据进行处理，从而对装置进行整体监控。
存储器102可用于存储装置中的各种程序以及各种数据。存储器102主要包括存储程序区和存储数据区，其中，存储程序区至少存储了进行帧内预测模式决策所需的程序；存储数据区可以存储装置的各种数据，如接收的原始视频信号和编码后的视频信号。此外，存储器102可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件或其他易失性固态存储器件。
输入模块103可用于接收待编码的原始视频信号。
在本申请实施例中，处理器101可以用于调用存储在存储器102中的帧内预测模式决策程序，并执行以下操作：
以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；
在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；
对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
在一实施例中，处理器101可以用于调用存储在存储器102中的帧内预测模式决策程序，并执行以下操作：
利用四种Sobel纹理方向算子计算待编码块与四个相邻编码块的Sobel纹理方向特征；
通过所述Sobel纹理方向特征计算得到所述待编码块与所述相邻编码块的纹理特征差异。
在一实施例中，所述四种Sobel纹理方向算子为：
Figure BDA0002567287470000071
在一实施例中，处理器101可以用于调用存储在存储器102中的帧内预测模式决策程序，并执行以下操作：
当待编码块为非内部编码块时，对预设的所有预测模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的预测模式作为最终预测模式。
在一实施例中，处理器101可以用于调用存储在存储器102中的帧内预测模式决策程序，并执行以下操作：
在将原帧内预测模式重新编号后，利用训练数据集进行回归树训练。
在一实施例中，处理器101可以用于调用存储在存储器102中的帧内预测模式决策程序，并执行以下操作：
增加相邻编码块预测模式作为特征。
在一实施例中，所述相邻编码块预测模式为位于左侧和正上的两个相邻编码块的最终预测模式。
在一实施例中，所述在预设的预测模式范围内从所述初预测模式周围增加搜索范围时，其搜索半径在2至10之间。
本实施例根据上述技术方案，采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
为了更好的理解上述技术方案，下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明。
结合图2所示，在本申请的第一实施例中，本申请的硬件友好的基于回归树的帧内预测模式决策方法具体包括以下步骤：
步骤S110，以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式。
在本实施例中，所述待编码块为内部编码块，其具有四个相邻的已编码块，所述四个相邻的已编码块分别位于待编码块的左侧、左上、正上、右上四个方向，而所述相邻编码块即为所述四个相邻的已编码块。所述待编码块与相邻编码块的具体位置关系如图3所示，其中待编码块表示为CB1，相邻编码块表示为CB2至CB5。所述待编码块是需要进行编码的像素块，而所述相邻编码块是为待编码块构建参考块信息提供已编码信息的像素块。
所述待编码块与相邻编码块的纹理特征差异为待编码块的纹理特征分别与四个相邻编码块的纹理特征之间的差异，其反应了待编码块与相邻编码块之间在图像属性上的差异。当在待编码块和四个相邻编码块中选取了四个方向上的纹理特征时，将存在十六个纹理特征差异。而所述编码块的尺寸包括二维特征。
回归树就是用树模型做回归问题，其每一片叶子都对应一个预测结果，而本申请技术方案中的回归树模型的叶子对应的预测结果就是待编码块的预测模式。以所述十六个纹理特征差异和编码块尺寸作为特征，可以得到十八维特征。再将当前待编码块的所述十八维特征的值输入已训练回归树就可以确定一个预测模式，将该预测模式作为当前待编码块的初预测模式。
步骤S120，在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表。
在本实施例中，所有预测模式都存在一个编号，例如，在AVS3标准中，所有的预测模式的编号如图4所示，其中，未标注的预测模式为非角度预测模式，包括预测模式0(DC模式)、预测模式1(Planar模式)、预测模式2(Bilinear模式)。而作为初预测模式的预测模式同样存在一个编号，在这里假设该编号为n。所述在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表具体来说就是以作为所述初预测模式的预测模式n为中心，以编号的大小为标准向两侧在一定范围内搜索其它预测模式，假设这个范围为r，则搜索得到的预测模式为编号大于或等于n-r并且编号小于或等于n+r的全部的预测模式，最后将搜索得到的预测模式作为候选模式构建候选模式列表。而为了避免候选模式列表中的候选模式过多而影响决策的速度，需要对候选模式列表的长度进行限制。一般将搜索范围的搜索半径r设置在2至10之间，若将搜索半径设置为5，则当存在截断时，最多截断5，加上DC模式后候选模式列表最小长度为6(初预测模式为DC模式)；当不存在截断时，加上DC模式后候选模式列表最大长度为12。
步骤S130，对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
在本实施例中，所述对候选模式列表中的候选模式构建预测块即为利用所述候选模式对待编码块进行预测。计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和即为在计算预测值与实际值的残差后对残差进行Hadamard变换，然后对其取绝对值并求和，这样的一个过程其实就是求SATD的过程。通过计算候选模式的SATD值，可以对所述预测模式的预测准确度进行评价：SATD值越小，其预测准确度就越高。在对所有的候选模式构建预测块并求得SATD值之后，可以判断SATD值最小的预测模式即为当前待编码块的预测准确度最高的预测模式。因此，可以将所述绝对值和最小的候选模式作为当前待编码块的最终预测模式。
在传统技术中，RMD阶段需要使用Hadamard代价来选择候选模式，其中Hadamard代价既需要考虑预测模式的SATD值，又需要考虑熵编码所需的比特数，并且在最后决策的阶段还需要进行多次预编码来实现率失真优化。而本申请的技术方案采用的评价方法不需要进行熵编码操作和多次预编码操作，减少了时间和硬件资源的消耗。
在本实施例中，使用HPM6.0软件工具中的快速算法来对比测试本申请技术方案的RD性能。为保证对比的公平，对HPM6.0软件工具中的快速算法进行部分调整：删除RMD阶段的熵编码过程，仅使用SATD作为帧内预测模式快速决策的标准；修改RDO的次数为1次，即实现one-pass编码方案；最小编码块尺寸为8×8；关闭PB划分。经验证，上述调整对解码端没有影响。
经过实验，得到本申请技术方案的对比测试结果为：相比于最原始的HPM6.0软件工具，本申请技术方案的BD_PSNR为-0.114dB，BD_BR为5.293％，编码时间下降65.2％；相比于调整后的HPM6.0软件工具，本申请技术方案的BD_PSNR为-0.008dB，BD_BR为0.365％，编码时间下降10.6％。
使用Vivado 2019.1HLS综合工具来进行本申请技术方案的硬件资源仿真，使用型号为xcvu440-flga2892-1-c的FPGA，时钟频率设为100MHz。其中，仅仿真帧内预测模式快速决策模块，即输入为上方一行像素和左侧一列像素，输出为决策的预测模式。
仿真结果表明，对于尺寸为8x8的编码块，本申请的技术方案可以在16311个时钟周期后输出最优预测模式，相比于调整后的HPM6.0加速工具可以减少58.61％的延迟。以最坏的情况进行分析，4K视频帧中所有编码块尺寸均为8×8，则一帧中共有129600个编码块。因此，在不进行并行优化的情况下，对于帧内预测模式快速决策模块，编码一帧需要21.12s。考虑到更高的时钟频率300MHz，以及30的并行度，本申请的技术方案为进一步研究4K超高清视频实时编码器奠定基础。
对于本申请的技术方案，可以发现对于4K超高清视频，关闭编码块的预测单元划分带来的编码性能损失与编码速度的提升在可接受范围之内；以及将最小编码块的尺寸由4×4增加到8×8带来的编码性能损失与编码速度的提升也在可接受范围之内。
上述方法的有益效果为采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
结合图5所示，在本申请的第二实施例中，本申请的硬件友好的基于回归树的帧内预测模式决策方法具体包括以下步骤：
步骤S210，利用四种Sobel纹理方向算子计算待编码块与四个相邻编码块的Sobel纹理方向特征。
在本实施例中，Sobel纹理方向算子的原理为对图像像素做卷积，以得到图像的纹理方向特征。横向以及纵向的Sobel纹理方向算子分别为：
Figure BDA0002567287470000121
将卷积核进行旋转后可以得到不同方向上的Sobel纹理方向算子，可用于计算图像在不同方向上的纹理方向特征。这里采用的四种Sobel纹理方向算子为：
Figure BDA0002567287470000122
通过所述四种纹理方向算子，可以分别计算得到待编码块和四个相邻编码块在四个方向上的纹理方向特征。
步骤S220，通过所述Sobel纹理方向特征计算得到所述待编码块与所述相邻编码块的纹理特征差异。
在本实施例中，利用所述待编码块在四个方向上的纹理特征分别与四个相邻编码块各自在四个方向上的纹理特征进行差异计算，即可以得到十六个所述待编码块与所述相邻编码块的纹理特征差异。
步骤S230，以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式。
步骤S240，在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表。
步骤S250，对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
上述方法的有益效果为在第一实施例的基础上增加了获取纹理特征差异的步骤，采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
结合图6所示，在本申请的第三实施例中，本申请的硬件友好的基于回归树的帧内预测模式决策方法具体包括以下步骤：
步骤S310，在将原帧内预测模式重新编号后，利用训练数据集进行回归树训练。
在本实施例中，所有预测模式都存在一个编号，例如，在AVS3标准中，所有的预测模式的编号如图4所示，其中，未标注的预测模式为非角度预测模式，包括预测模式0(DC模式)、预测模式1(Planar模式)、预测模式2(Bilinear模式)。为了体现角度模式的特性，以利于后续的回归树训练，对原帧内预测模式的编号进行重新编号。例如，对于如图4所示帧内预测模式编号，可以将预测模式34至65进行重新编号，其中重新编号如下表所示：
原编号 34 35 36 37 38 39 40 41
重编号 3.5 4.5 5.5 6.5 7.5 8.5 9.5 10.5
原编号 42 43 44 45 46 47 48 49
重编号 11.5 11.5 12.5 12.5 13.5 14.5 15.5 16.5
原编号 50 51 52 53 54 55 56 57
重编号 17.5 18.5 19.5 20.5 21.5 22.5 23.5 23.5
原编号 58 59 60 61 62 63 64 65
重编号 24.5 24.5 25.5 26.5 27.5 28.5 29.5 30.5
其进行重新编号的规律为：将位于预测模式n与预测模式n+1之间的编号为34至65的预测模式重新编号为(2×n+1)/2。例如，预测模式45位于预测模式12和预测模式13之间，则将其重新编号为12.5。
在进行重新编号后，预测模式的编号变化可以更好的表现其预测角度的变化，从而在进行在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表的步骤时，可以更方便的找到与初预测模式角度相近的其它预测模式。
步骤S320，利用四种Sobel纹理方向算子计算待编码块与四个相邻编码块的Sobel纹理方向特征。
步骤S330，通过所述Sobel纹理方向特征计算得到所述待编码块与所述相邻编码块的纹理特征差异。
步骤S340，以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式。
步骤S350，在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表。
步骤S360，对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
上述方法的有益效果为在第二实施例的基础上增加了训练回归树的步骤，采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
结合图7所示，在本申请的第四实施例中，本申请的硬件友好的基于回归树的帧内预测模式决策方法具体包括以下步骤：
步骤S410，在将原帧内预测模式重新编号后，利用训练数据集进行回归树训练。
步骤S420，利用四种Sobel纹理方向算子计算待编码块与四个相邻编码块的Sobel纹理方向特征。
步骤S430，通过所述Sobel纹理方向特征计算得到所述待编码块与所述相邻编码块的纹理特征差异。
步骤S440，以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式。
步骤S441，增加相邻编码块预测模式作为特征。
在本实施例中，可以增加相邻编码块预测模式作为特征来使用已训练回归树模型确定所述待编码块的初预测模式。其中，所述相邻编码块预测模式为位于左侧和正上的两个相邻编码块的最终预测模式。再加上十六维的纹理特征差异和二维的编码块尺寸，最终可以获得待编码块的二十维特征。
步骤S450，在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表。
步骤S460，对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
上述方法的有益效果为在第三实施例的基础上增加了增加特征的步骤，采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
结合图8所示，在本申请的第五实施例中，本申请的硬件友好的基于回归树的帧内预测模式决策方法具体包括以下步骤：
步骤S510，当待编码块为非内部编码块时，对预设的所有预测模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的预测模式作为最终预测模式。
在本实施例中，待编码块根据其所处的位置可以分为以下五类：左上角编码块、上边缘编码块、左边缘编码块、右边缘编码块和内部编码块。参照图3，若CB1为左上角编码块，则其不存在参考块；若CB1为上边缘编码块，则其存在参考块CB2；若CB1为左边缘编码块，则其存在参考块CB4和CB5；若CB1为右边缘编码块，则其存在参考块CB2、CB3和CB4；若CB1为内部码块，则其存在全部参考块。
当待编码块为非内部编码块时，由于其不存在四个相邻已编码块作为参考块，无法采用如步骤520至步骤540所示的方法对预测模式进行快速决策，所以选择对所有的预测模式的预测准确度都进行评价的方法来实现对预测模式的决策。由于本步骤采用的评价方法同样不需要进行熵编码操作和预编码操作，减少了时间和硬件资源的消耗，所以对所有的预测模式的预测准确度都进行评价所增加的时间消耗在可接受范围内，并且由于非内部编码块在全部的编码中占比较小，对所有的预测模式的预测准确度都进行评价所增加的时间消耗对整体方案的影响较小。
步骤S520，以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式。
步骤S530，在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表。
步骤S540，对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
上述方法的有益效果为在第一实施例的基础上增加了对非内部编码块的预测模式进行决策的步骤，采用了以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式的技术方案。所以，有效解决了传统技术中存在的帧内预测模式决策的计算复杂度仍然较高的问题，进一步实现了对帧内预测模式的one-pass快速选择，避免了传统方案的预编码过程，在硬件层面提升了帧内预测处理模块的处理速度，达到了面向硬件实现友好、软硬件协同加速的效果。
在上述实施例中，本申请技术方案的具体硬件结构及各个硬件在技术方案中执行的操作如图9所示。其中，视频帧像素存储器用于存储待编码块像素和相邻编码块像素；纹理特征计算模块用于分别获取待编码块像素和相邻编码块像素并计算其纹理特征；回归树推理模块根据获得的纹理特征差异数据和待编码块的宽高数据以及邻近编码块预测模式数据，推理得到初预测模式；候选列表构建模块用于在初预测模式周围增加搜索范围构建候选模式列表并获取DC模式加入候选模式列表；相邻像素存储器用于存储相邻像素；预测块构建模块用于获取相邻像素并对候选模式列表中的每一个候选模式构建预测块；SATD计算模块用于对预测块与待编码块计算SATD值从而得到最优预测模式；变换模块、量化模块、熵编码模块用于在获得最优预测模式之后对待编码块进行编码；内部总线用于进行装置内部的模块间的通信。
基于同一发明构思，本申请实施例还提供了一种装置，所述装置包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的帧内预测模式决策程序，所述帧内预测模式决策程序被所述处理器执行时实现如上述的硬件友好的基于回归树的帧内预测模式决策方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
由于本申请实施例提供的装置，为实施本申请实施例的方法所采用的装置，故而基于本申请实施例所介绍的方法，本领域所属人员能够了解该装置的具体结构及变形，故而在此不再赘述。凡是本申请实施例的方法所采用的装置都属于本申请所欲保护的范围。
基于同一发明构思，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有帧内预测模式决策程序，所述帧内预测模式决策程序被处理器执行时实现如上述的硬件友好的基于回归树的帧内预测模式决策方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
由于本申请实施例提供的计算机可读存储介质，为实施本申请实施例的方法所采用的计算机可读存储介质，故而基于本申请实施例所介绍的方法，本领域所属人员能够了解该计算机可读存储介质的具体结构及变形，故而在此不再赘述。凡是本申请实施例的方法所采用的计算机可读存储介质都属于本申请所欲保护的范围。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
应当注意的是，在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的部件或步骤。位于部件之前的单词“一”或“一个”不排除存在多个这样的部件。本发明可以借助于包括有若干不同部件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，所述方法包括以下步骤：
以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式；其中，所述待编码块为内部编码块，具有四个分别位于左侧、左上、正上、右上的相邻已编码块；
在预设的预测模式范围内从所述初预测模式周围增加搜索范围构建候选模式列表，并将DC模式加入所述候选模式列表；
对所述候选模式列表中的候选模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的候选模式作为最终预测模式。
2.如权利要求1所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，在所述以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
利用四种Sobel纹理方向算子计算待编码块与四个相邻编码块的Sobel纹理方向特征；
通过所述Sobel纹理方向特征计算得到所述待编码块与所述相邻编码块的纹理特征差异。
3.如权利要求2所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，所述四种Sobel纹理方向算子为：
Figure FDA0002567287460000011
4.如权利要求1所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，在所述以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
当待编码块为非内部编码块时，对预设的所有预测模式构建预测块，并计算所述待编码块与所述预测块的残差经Hadamard变换后的绝对值和，选择所述绝对值和最小的预测模式作为最终预测模式。
5.如权利要求1所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，在所述以待编码块与相邻编码块的纹理特征差异及编码块尺寸作为特征，使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
在将原帧内预测模式重新编号后，利用训练数据集进行回归树训练。
6.如权利要求1所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，在所述使用已训练回归树模型确定所述待编码块的初预测模式的步骤之前，还包括：
增加相邻编码块预测模式作为特征。
7.如权利要求6所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，所述相邻编码块预测模式为位于左侧和正上的两个相邻编码块的最终预测模式。
8.如权利要求1所述的硬件友好的基于回归树的帧内预测模式决策方法，其特征在于，所述在预设的预测模式范围内从所述初预测模式周围增加搜索范围时，其搜索半径在2至10之间。
9.一种装置，其特征在于，所述装置包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的帧内预测模式决策程序，所述帧内预测模式决策程序被所述处理器执行时实现如权利要求1至8任一项所述的硬件友好的基于回归树的帧内预测模式决策方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有帧内预测模式决策程序，所述帧内预测模式决策程序被处理器执行时实现如权利要求1至8任一项所述的硬件友好的基于回归树的帧内预测模式决策方法的步骤。
CN202010638820.9A 2020-07-02 2020-07-02 硬件友好的基于回归树的帧内预测模式决策方法及装置 Active CN111918059B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010638820.9A CN111918059B (zh) 2020-07-02 2020-07-02 硬件友好的基于回归树的帧内预测模式决策方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010638820.9A CN111918059B (zh) 2020-07-02 2020-07-02 硬件友好的基于回归树的帧内预测模式决策方法及装置

Publications (2)

Publication Number Publication Date
CN111918059A true CN111918059A (zh) 2020-11-10
CN111918059B CN111918059B (zh) 2023-01-13

Family

ID=73227978

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010638820.9A Active CN111918059B (zh) 2020-07-02 2020-07-02 硬件友好的基于回归树的帧内预测模式决策方法及装置

Country Status (1)

Country Link
CN (1) CN111918059B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024088058A1 (en) * 2022-10-28 2024-05-02 Mediatek Inc. Method and apparatus of regression-based intra prediction in video coding system

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102843559A (zh) * 2012-09-12 2012-12-26 清华大学 基于纹理特性的hevc帧内预测模式的快速选择方法及装置
CN103997646A (zh) * 2014-05-13 2014-08-20 北京航空航天大学 一种高清视频编码中快速帧内预测模式选择方法
CN104581181A (zh) * 2013-10-11 2015-04-29 中国科学院深圳先进技术研究院 一种基于备选模式列表优化的帧内编码方法
CN107071416A (zh) * 2017-01-06 2017-08-18 华南理工大学 一种hevc帧内预测模式快速选择方法
CN108881904A (zh) * 2018-06-25 2018-11-23 中山大学 基于Sobel算子的帧内快速判决方法、装置及存储介质
CN109587503A (zh) * 2018-12-30 2019-04-05 北京工业大学 一种基于边缘检测的3d-hevc深度图帧内编码模式快速决策方法
CN109729351A (zh) * 2018-12-18 2019-05-07 中南大学 一种低复杂度配置下的hevc快速模式选择方法
CN109905712A (zh) * 2019-01-09 2019-06-18 西安邮电大学 基于ResNet的HEVC帧内编码快速模式决策算法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102843559A (zh) * 2012-09-12 2012-12-26 清华大学 基于纹理特性的hevc帧内预测模式的快速选择方法及装置
CN104581181A (zh) * 2013-10-11 2015-04-29 中国科学院深圳先进技术研究院 一种基于备选模式列表优化的帧内编码方法
CN103997646A (zh) * 2014-05-13 2014-08-20 北京航空航天大学 一种高清视频编码中快速帧内预测模式选择方法
CN107071416A (zh) * 2017-01-06 2017-08-18 华南理工大学 一种hevc帧内预测模式快速选择方法
CN108881904A (zh) * 2018-06-25 2018-11-23 中山大学 基于Sobel算子的帧内快速判决方法、装置及存储介质
CN109729351A (zh) * 2018-12-18 2019-05-07 中南大学 一种低复杂度配置下的hevc快速模式选择方法
CN109587503A (zh) * 2018-12-30 2019-04-05 北京工业大学 一种基于边缘检测的3d-hevc深度图帧内编码模式快速决策方法
CN109905712A (zh) * 2019-01-09 2019-06-18 西安邮电大学 基于ResNet的HEVC帧内编码快速模式决策算法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024088058A1 (en) * 2022-10-28 2024-05-02 Mediatek Inc. Method and apparatus of regression-based intra prediction in video coding system

Also Published As

Publication number Publication date
CN111918059B (zh) 2023-01-13

Similar Documents

Publication Publication Date Title
Tang et al. Adaptive CU split decision with pooling-variable CNN for VVC intra encoding
US10003792B2 (en) Video encoder for images
US9451266B2 (en) Optimal intra prediction in block-based video coding to calculate minimal activity direction based on texture gradient distribution
KR101941955B1 (ko) 재귀적 블록 파티셔닝
CN108605126A (zh) 从用于视频译码的固定滤波器预测滤波器系数
KR102435595B1 (ko) 분산 처리 환경에서의 학습 파라미터의 압축 및 전송을 제공하는 방법 및 장치
US20210329267A1 (en) Parallelized rate-distortion optimized quantization using deep learning
CN105721878A (zh) Hevc视频编解码中执行帧内预测的图像处理装置及方法
CN110383841A (zh) 用于在视频压缩中对运动矢量进行编码的方法和设备
CN109587491B (zh) 一种帧内预测方法、装置及存储介质
CN112738511B (zh) 一种结合视频分析的快速模式决策方法及装置
CN109819250B (zh) 一种多核全组合方式的变换方法和系统
CN108989799B (zh) 一种编码单元参考帧的选择方法、装置及电子设备
CN111741297B (zh) 帧间预测方法、视频编码方法及其相关装置
CN103957414A (zh) 一种hevc帧内预测编码方法和系统
CN101969561A (zh) 一种帧内模式选取方法、装置及一种编码器
KR20190090867A (ko) 인트라 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
US20240031576A1 (en) Method and apparatus for video predictive coding
CN109246430B (zh) 虚拟现实360度视频快速帧内预测和cu划分提前决策
CN110198442B (zh) 一种用于视频编码的帧内预测方法、装置和存储介质
CN111918059B (zh) 硬件友好的基于回归树的帧内预测模式决策方法及装置
CN113992914B (zh) 帧间预测方法及装置、设备、存储介质
CN110971896B (zh) 一种h.265编码方法和装置
CN109688411B (zh) 一种视频编码率失真代价估计方法和装置
CN110049322A (zh) 模式选择的方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant