CN113271461A - 基于自适应代价分数阈值的帧内预测模式判决方法和系统 - Google Patents

基于自适应代价分数阈值的帧内预测模式判决方法和系统 Download PDF

Info

Publication number
CN113271461A
CN113271461A CN202110542562.9A CN202110542562A CN113271461A CN 113271461 A CN113271461 A CN 113271461A CN 202110542562 A CN202110542562 A CN 202110542562A CN 113271461 A CN113271461 A CN 113271461A
Authority
CN
China
Prior art keywords
mode
prediction
cost
intra
score threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110542562.9A
Other languages
English (en)
Other versions
CN113271461B (zh
Inventor
滕国伟
熊丹祺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Shanghai for Science and Technology
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN202110542562.9A priority Critical patent/CN113271461B/zh
Publication of CN113271461A publication Critical patent/CN113271461A/zh
Application granted granted Critical
Publication of CN113271461B publication Critical patent/CN113271461B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明提供了一种基于自适应代价分数阈值的帧内预测模式判决方法和系统，包括：步骤1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS1，并计算CS1中各模式的预测代价；步骤2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；步骤3：使用自适应代价分数阈值降低计算率失真代价的模式数量；步骤4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。本发明针对帧内预测粗糙模式判决利用角度分区降低初始候选模式集数量，避免了过多的预测代价计算。

Description

基于自适应代价分数阈值的帧内预测模式判决方法和系统
技术领域
本发明涉及视频编解码技术领域，具体地，涉及一种基于自适应代价分数阈值的帧内预测模式判决方法和系统。
背景技术
随着多媒体技术和流媒体市场的发展，超高清视频由于其高分辨率和广泛的亮度动态范围给人们带来了卓越的视听体验，因此在社会中越来越受到大众欢迎。然而，于2013年发布的高效视频编码标准H.265/HEVC(High Efficiency Video Coding)已没有足够的压缩能力来应对视频传输与存储数据量急剧增加的情况。
H.266/VVC(Versatile Video Coding)作为H.265/HEVC的下一代编码标准，引入了许多新的编码工具来提高编码性能，但却是以高昂的复杂度为代价的。帧内预测作为编码器框架中极其重要的一环，有着举足轻重的地位，同时它也占据整体编码时间的很大一部分。对H.266/VVC参考软件VTM(VVC Test Model)的帧内预测模式判决各环节进行复杂度分析可知，粗糙模式判决(Rough Mode Decision,RMD)是帧内预测模式判决过程中除熵编码和变换与量化外最耗时的环节，因此可以尝试对RMD流程进行优化，降低最终进行率失真优化代价(RD Cost)计算的模式数量，以降低帧内预测的编码复杂度。
专利文献CN111447438A(申请号：CN202010331567.2)公开了一种面向通用视频编码的快速模式判决方法，利用粗略模式判决方法(RMD)获取上下文信息；根据残差的概率分布，从数学的角度预测编码码率Re；通过结合像素域中的上下文信息预测编码失真De；根据率失真代价Je从候选模式集中确定出帧内预测模式。
发明内容
针对现有技术中的缺陷，本发明的目的是提供一种基于自适应代价分数阈值的帧内预测模式判决方法和系统。
根据本发明提供的一种基于自适应代价分数阈值的帧内预测模式判决方法，包括：
步骤1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS1，并计算CS1中各模式的预测代价；
步骤2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；
步骤3：使用自适应代价分数阈值降低计算率失真代价的模式数量；
步骤4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。
优选的，所述初始候选模式集CS1为：CS1{2,10,18,26,34,42,50,58,66}；
预测代价的计算公式为：
Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)
其中，Cost表示帧内预测模式判决过程粗选时使用的预测代价，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数。
优选的，所述步骤2包括：采用分层模式判决框架，使用由粗略到精细的搜索方法，对于搜索层级i，在2≤i≤5时，候选模式集包含的具体模式如下式所示：
Figure BDA0003072165220000021
FPMi表示在候选模式集CSi-1中预测代价最小的角度模式的模式号；SPMi表示在候选模式集CSi-1中预测代价第二小的角度模式的模式号；DC表示帧内预测的非角度预测模式，是一种H.266规定的适用于大面积平坦区域的特定预测模式；PLANAR表示帧内预测的非角度预测模式，是一种H.266规定的适用于像素渐变情况的特定预测模式。
优选的，在每层级中利用自适应代价分数阈值αi缩减候选模式集，通过将FPMi-1的预测代价除以SPMi-1的预测代价得到的商作为本层级的代价分数，若代价分数小于与i的大小以及当前编码单元的尺寸相关的代价分数阈值αi，则仅使用FPMi-1及其临近角度模式构造本层级的候选模式集，如下式所示：
Figure BDA0003072165220000031
优选的，所述步骤3包括：通过率失真代价对候选模式集进行精选，选取率失真代价最低的模式为最优预测模式，在VTM帧内预测中粗糙模式判决之后，进行多参考行、最可能模式、帧内子块划分和矩阵加权帧内预测，最终获得候选模式列表与相应的预测代价列表；
列表排序按照预测代价从小到大的顺序，通过计算每个模式的预测代价与列表首个模式的预测代价的商作为代价分数，若代价分数小于自适应代价分数阈值β，则跳过当前与后续模式的率失真代价计算。
根据本发明提供的基于自适应代价分数阈值的帧内预测模式判决系统，包括：
模块M1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS1，并计算CS1中各模式的预测代价；
模块M2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；
模块M3：使用自适应代价分数阈值降低计算率失真代价的模式数量；
模块M4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。
优选的，所述初始候选模式集CS1为：CS1{2,10,18,26,34,42,50,58,66}；
预测代价的计算公式为：
Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)
其中，Cost表示帧内预测模式判决过程粗选时使用的预测代价，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数。
优选的，所述模块M2包括：采用分层模式判决框架，使用由粗略到精细的搜索方法，对于搜索层级i，在2≤i≤5时，候选模式集包含的具体模式如下式所示：
Figure BDA0003072165220000041
FPMi表示在候选模式集CSi-1中预测代价最小的角度模式的模式号；SPMi表示在候选模式集CSi-1中预测代价第二小的角度模式的模式号；DC表示帧内预测的非角度预测模式，是一种H.266规定的适用于大面积平坦区域的特定预测模式；PLANAR表示帧内预测的非角度预测模式，是一种H.266规定的适用于像素渐变情况的特定预测模式。
优选的，在每层级中利用自适应代价分数阈值αi缩减候选模式集，通过将FPMi-1的预测代价除以SPMi-1的预测代价得到的商作为本层级的代价分数，若代价分数小于与i的大小以及当前编码单元的尺寸相关的代价分数阈值αi，则仅使用FPMi-1及其临近角度模式构造本层级的候选模式集，如下式所示：
Figure BDA0003072165220000042
优选的，所述模块M3包括：通过率失真代价对候选模式集进行精选，选取率失真代价最低的模式为最优预测模式，在VTM帧内预测中粗糙模式判决之后，进行多参考行、最可能模式、帧内子块划分和矩阵加权帧内预测，最终获得候选模式列表与相应的预测代价列表；
列表排序按照预测代价从小到大的顺序，通过计算每个模式的预测代价与列表首个模式的预测代价的商作为代价分数，若代价分数小于自适应代价分数阈值β，则跳过当前与后续模式的率失真代价计算。
与现有技术相比，本发明具有如下的有益效果：
(1)本发明针对帧内预测粗糙模式判决RMD-1环节利用角度分区降低初始候选模式集数量，避免过多的预测代价计算；
(2)本发明提出了一种帧内预测分层模式判决框架，并利用自适应代价分数阈值αi缩减每层级的候选模式集，通过动态的搜索步长可以实现角度模式的全覆盖，与层级和编码单元尺寸相关的代价分数阈值αi保证了率失真性能；
(3)使用自适应代价分数阈值β降低计算RD Cost的模式数量，代价分数阈值β与编码单元尺寸相关，降低了RD Cost计算引入的编码复杂度并保证了率失真性能。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：
图1为本发明一种基于代价分数的分层模式判决快速算法的流程图；
图2为本发明帧内预测角度模式分区的示意图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明，但不以任何形式限制本发明。应当指出的是，对本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变化和改进。这些都属于本发明的保护范围。
实施例：
本发明针对帧内预测模式判决流程的加速，提出了一种基于自适应代价分数阈值的H.266/VVC帧内预测分层模式判决快速算法，该算法首先为了降低帧内预测RMD初始检测模式的数量，在RMD-1环节中将角度模式进行分区，计算每个区域中代表模式的预测代价，选择代价最低的两个模式最为候选输入RMD-2环节。RMD-2中利用分层模式判决框架对RMD-1中得到的候选模式进行临近角度模式搜索，搜索步长随层级增大而减小，同时利用自适应代价分数阈值αi降低每层搜索的临近角度模式数量，最终利用自适应代价分数阈值β进行终选，以降低计算RD Cost的模式数量。实验结果表明，本发明算法在VTM9.0全帧内预测配置下对H.266/VVC官方测试序列集类A1—类F进行编码，平均可以降低约22％的编码时间。
为达到以上目的，本发明采用如下技术方案：
根据本发明提供的一种基于自适应代价分数阈值的H.266/VVC帧内预测分层模式判决快速算法，如图1，具体操作步骤如下：
步骤1：RMD-1环节中将帧内预测角度模式分为九个区域，如图2，区域1包含模式2—6，区域2包含模式6—14，区域3包含模式14—22，区域4包含模式22—30，区域5包含模式30—38，区域6包含模式38—46，区域7包含模式46—54，区域8包含模式54—62，区域9包含模式62—66。各区域包含的模式号区间均为左闭右开区间。对于每个区间，选择一个角度模式组成初始候选模式集CS1(Candidate Set){2,10,18,26,34,42,50,58,66}，并计算CS1中各模式基于式(1)的预测代价，取代价最小的前两个模式，作为最可能模式(FPM1)、第二可能模式(SPM1)。
Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)
其中，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数，Cost表示帧内预测模式判决过程粗选时使用的预测代价。
步骤2：RMD-2环节采用分层模式判决框架，使用由粗略到精细的搜索办法，对于搜索层级i，当i增长到2、3、4时，会相应地检查FPMi-1、SPMi-1邻近的角度模式，邻近的距离遵循由大到小的原则，分别为4、2、1，即本层级的候选模式集CSi会由FPMi-1、SPMi-1及其临近角度模式构成。而当i为5时，由于DC模式与PLANAR模式在帧内预测中使用率较高，本算法会单独检查这两个模式，计算其预测代价。最终，在2≤i≤5时，候选模式集包含的具体模式如式所示。
Figure BDA0003072165220000061
FPMi表示在候选模式集CSi-1中预测代价最小的角度模式的模式号；SPMi表示在候选模式集CSi-1中预测代价第二小的角度模式的模式号；DC表示帧内预测的非角度预测模式，是一种H.266规定的适用于大面积平坦区域的特定预测模式；PLANAR表示帧内预测的非角度预测模式，是一种H.266规定的适用于像素渐变情况的特定预测模式；
进一步地，本算法还在每层级中利用自适应代价分数阈值αi缩减候选模式集，通过将FPMi-1的预测代价除以SPMi-1的预测代价得到的商作为本层级的代价分数，若其小于与i的大小以及当前编码单元的尺寸相关的代价分数阈值αi，则仅使用FPMi-1及其临近角度模式构造本层级的候选模式集，如下式所示：
Figure BDA0003072165220000071
步骤3：使用自适应代价分数阈值β降低计算RD Cost的模式数量。H.266/VVC使用RD Cost对候选模式进行精选，选取RD Cost最低的模式为最优预测模式，由于RD Cost的计算复杂度远高于式中预测代价的计算复杂度，所以也需要降低计算RD Cost的候选模式数量。VTM帧内预测中粗糙模式判决之后，还使用了多参考行(Multiple Reference Line,MRL)、最可能模式(Most Probable Mode)、帧内子块划分(Intra Sub-Partitions,ISP)、矩阵加权帧内预测(Matrix weighted Intra Prediction,MIP)等工具，完成上述环节后获得最终的候选模式列表与相应的预测代价列表。由于列表排序是按照预测代价从小到大的顺序，通过计算每个模式的预测代价与列表首个模式的预测代价的商作为其代价分数，若其小于自适应代价分数阈值β则跳过当前与后续模式的RD Cost计算，代价分数阈值β与编码单元尺寸相关。
步骤4：选取RD Cost最低的预测模式作为帧内预测的最佳预测模式。
本领域技术人员知道，除了以纯计算机可读程序代码方式实现本发明提供的系统、装置及其各个模块以外，完全可以通过将方法步骤进行逻辑编程来使得本发明提供的系统、装置及其各个模块以逻辑门、开关、专用集成电路、可编程逻辑控制器以及嵌入式微控制器等的形式来实现相同程序。所以，本发明提供的系统、装置及其各个模块可以被认为是一种硬件部件，而对其内包括的用于实现各种程序的模块也可以视为硬件部件内的结构；也可以将用于实现各种功能的模块视为既可以是实现方法的软件程序又可以是硬件部件内的结构。
以上对本发明的具体实施例进行了描述。需要理解的是，本发明并不局限于上述特定实施方式，本领域技术人员可以在权利要求的范围内做出各种变化或修改，这并不影响本发明的实质内容。在不冲突的情况下，本申请的实施例和实施例中的特征可以任意相互组合。

Claims (10)

1.一种基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，包括：
步骤1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS1，并计算CS1中各模式的预测代价；
步骤2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；
步骤3：使用自适应代价分数阈值降低计算率失真代价的模式数量；
步骤4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。
2.根据权利要求1所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，所述初始候选模式集CS1为：CS1{2,10,18,26,34,42,50,58,66}；
预测代价的计算公式为：
Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)
其中，Cost表示帧内预测模式判决过程粗选时使用的预测代价，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数。
3.根据权利要求1所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，所述步骤2包括：采用分层模式判决框架，使用由粗略到精细的搜索方法，对于搜索层级i，在2≤i≤5时，候选模式集包含的具体模式如下式所示：
Figure FDA0003072165210000011
FPMi表示在候选模式集CSi-1中预测代价最小的角度模式的模式号；SPMi表示在候选模式集CSi-1中预测代价第二小的角度模式的模式号；DC表示帧内预测的非角度预测模式，是一种H.266规定的适用于大面积平坦区域的特定预测模式；PLANAR表示帧内预测的非角度预测模式，是一种H.266规定的适用于像素渐变情况的特定预测模式。
4.根据权利要求3所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，在每层级中利用自适应代价分数阈值αi缩减候选模式集，通过将FPMi-1的预测代价除以SPMi-1的预测代价得到的商作为本层级的代价分数，若代价分数小于与i的大小以及当前编码单元的尺寸相关的代价分数阈值αi，则仅使用FPMi-1及其临近角度模式构造本层级的候选模式集，如下式所示：
Figure FDA0003072165210000021
5.根据权利要求1所述的基于自适应代价分数阈值的帧内预测模式判决方法，其特征在于，所述步骤3包括：通过率失真代价对候选模式集进行精选，选取率失真代价最低的模式为最优预测模式，在VTM帧内预测中粗糙模式判决之后，进行多参考行、最可能模式、帧内子块划分和矩阵加权帧内预测，最终获得候选模式列表与相应的预测代价列表；
列表排序按照预测代价从小到大的顺序，通过计算每个模式的预测代价与列表首个模式的预测代价的商作为代价分数，若代价分数小于自适应代价分数阈值β，则跳过当前与后续模式的率失真代价计算。
6.一种基于自适应代价分数阈值的帧内预测模式判决系统，其特征在于，包括：
模块M1：将帧内预测的角度模式分为九个区域，对于每个区域，选择一个角度模式组成初始候选模式集CS1，并计算CS1中各模式的预测代价；
模块M2：采用分层模式判决框架，对临近角度模式进行搜索，构造本层级的候选模式集；
模块M3：使用自适应代价分数阈值降低计算率失真代价的模式数量；
模块M4：选取率失真代价最低的预测模式作为帧内预测的最佳预测模式，并利用参考像素计算当前块的预测值，完成当前块的帧内预测。
7.根据权利要求6所述的基于自适应代价分数阈值的帧内预测模式判决系统，其特征在于，所述初始候选模式集CS1为：CS1{2,10,18,26,34,42,50,58,66}；
预测代价的计算公式为：
Cost＝min(SAD,SATD)+λ*fracModeBits…………(1)
其中，Cost表示帧内预测模式判决过程粗选时使用的预测代价，SAD为绝对误差和，SATD为将预测残差经哈达玛变换后再绝对值求和，λ为拉格朗日因子，fracModeBits为编码当前模式所需的比特数。
8.根据权利要求6所述的基于自适应代价分数阈值的帧内预测模式判决系统，其特征在于，所述模块M2包括：采用分层模式判决框架，使用由粗略到精细的搜索方法，对于搜索层级i，在2≤i≤5时，候选模式集包含的具体模式如下式所示：
Figure FDA0003072165210000031
FPMi表示在候选模式集CSi-1中预测代价最小的角度模式的模式号；SPMi表示在候选模式集CSi-1中预测代价第二小的角度模式的模式号；DC表示帧内预测的非角度预测模式，是一种H.266规定的适用于大面积平坦区域的特定预测模式；PLANAR表示帧内预测的非角度预测模式，是一种H.266规定的适用于像素渐变情况的特定预测模式。
9.根据权利要求8所述的基于自适应代价分数阈值的帧内预测模式判决系统，其特征在于，在每层级中利用自适应代价分数阈值αi缩减候选模式集，通过将FPMi-1的预测代价除以SPMi-1的预测代价得到的商作为本层级的代价分数，若代价分数小于与i的大小以及当前编码单元的尺寸相关的代价分数阈值αi，则仅使用FPMi-1及其临近角度模式构造本层级的候选模式集，如下式所示：
Figure FDA0003072165210000041
10.根据权利要求9所述的基于自适应代价分数阈值的帧内预测模式判决系统，其特征在于，所述模块M3包括：通过率失真代价对候选模式集进行精选，选取率失真代价最低的模式为最优预测模式，在VTM帧内预测中粗糙模式判决之后，进行多参考行、最可能模式、帧内子块划分和矩阵加权帧内预测，最终获得候选模式列表与相应的预测代价列表；
列表排序按照预测代价从小到大的顺序，通过计算每个模式的预测代价与列表首个模式的预测代价的商作为代价分数，若代价分数小于自适应代价分数阈值β，则跳过当前与后续模式的率失真代价计算。
CN202110542562.9A 2021-05-18 2021-05-18 基于自适应代价分数阈值的帧内预测模式判决方法和系统 Active CN113271461B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110542562.9A CN113271461B (zh) 2021-05-18 2021-05-18 基于自适应代价分数阈值的帧内预测模式判决方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110542562.9A CN113271461B (zh) 2021-05-18 2021-05-18 基于自适应代价分数阈值的帧内预测模式判决方法和系统

Publications (2)

Publication Number Publication Date
CN113271461A true CN113271461A (zh) 2021-08-17
CN113271461B CN113271461B (zh) 2022-09-27

Family

ID=77231523

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110542562.9A Active CN113271461B (zh) 2021-05-18 2021-05-18 基于自适应代价分数阈值的帧内预测模式判决方法和系统

Country Status (1)

Country Link
CN (1) CN113271461B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104052994A (zh) * 2014-04-14 2014-09-17 嘉兴职业技术学院 分级自适应的hevc帧内预测模式快速决策方法
CN107318016A (zh) * 2017-05-08 2017-11-03 上海大学 一种基于零块分布的hevc帧间预测模式快速判定方法
WO2018233411A1 (zh) * 2017-06-23 2018-12-27 腾讯科技（深圳）有限公司 预测模式选择方法、视频编码设备及存储介质
CN112804524A (zh) * 2019-11-13 2021-05-14 北京大学 一种针对avs2的帧内快速模式决策方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104052994A (zh) * 2014-04-14 2014-09-17 嘉兴职业技术学院 分级自适应的hevc帧内预测模式快速决策方法
CN107318016A (zh) * 2017-05-08 2017-11-03 上海大学 一种基于零块分布的hevc帧间预测模式快速判定方法
WO2018233411A1 (zh) * 2017-06-23 2018-12-27 腾讯科技（深圳）有限公司 预测模式选择方法、视频编码设备及存储介质
CN112804524A (zh) * 2019-11-13 2021-05-14 北京大学 一种针对avs2的帧内快速模式决策方法

Also Published As

Publication number Publication date
CN113271461B (zh) 2022-09-27

Similar Documents

Publication Publication Date Title
CN103517069B (zh) 一种基于纹理分析的hevc帧内预测快速模式选择方法
CN103220528B (zh) 通过使用大型变换单元编码和解码图像的方法和设备
CN102474613B (zh) 考虑具有分层结构的编码单元的扫描顺序来对视频进行编码和解码的方法和设备
KR102304446B1 (ko) 적중률이 높은 ｍｐｍ을 통한 영상의 부호화 방법 및 장치, 그리고 복호화 방법 및 장치
CN102742277B (zh) 基于分层数据单元的扫描顺序对视频进行编码的方法和设备以及基于分层数据单元的扫描顺序对视频进行解码的方法和设备
CN105357540A (zh) 对视频进行解码的方法和设备
CN102025995B (zh) 一种可伸缩视频编码的空间增强层快速模式选择方法
CN103765892A (zh) 使用帧内预测对视频编码的方法和设备及对视频解码的方法和设备
CN102939753A (zh) 用于通过根据像素组补偿像素值来对视频进行编码的方法和设备以及用于通过根据像素组补偿像素值来对视频进行解码的方法和设备
CN104980757A (zh) 根据像素分类使用偏移调整的视频解码方法及其设备
CN102668560B (zh) 嵌入式图形编码:用于并行解码的重排序比特流
CN105100798A (zh) 对视频编码的方法和设备以及对视频解码的方法和设备
CN108174204B (zh) 一种基于决策树的帧间快速模式选择方法
CN104883565A (zh) 一种高效视频编码的帧内预测模式决策方法及装置
CN109905712A (zh) 基于ResNet的HEVC帧内编码快速模式决策算法
CN104702958A (zh) 一种基于空间相关性的hevc帧内编码方法及系统
US8665946B2 (en) Macroblock pair coding for systems that support progressive and interlaced data
CN108989799B (zh) 一种编码单元参考帧的选择方法、装置及电子设备
CN103533355B (zh) 一种hevc快速编码方法
CN113271461B (zh) 基于自适应代价分数阈值的帧内预测模式判决方法和系统
CN103702131A (zh) 一种基于模式预处理的帧内编码优化方法和系统
JP4957780B2 (ja) 動き補償予測符号化装置、動き補償予測符号化方法及びプログラム
TWI403175B (zh) 畫面內預測模式最佳化方法與影像壓縮方法以及裝置
CN102333220B (zh) 一种选择在变换域完成预测编码的视频编解码方法
Zeng et al. Learning-based multi-stage intra partition for versatile video coding

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant