CN117356090A - 用于视频处理的方法、设备和介质 - Google Patents

用于视频处理的方法、设备和介质 Download PDF

Info

Publication number
CN117356090A
CN117356090A CN202280027748.3A CN202280027748A CN117356090A CN 117356090 A CN117356090 A CN 117356090A CN 202280027748 A CN202280027748 A CN 202280027748A CN 117356090 A CN117356090 A CN 117356090A
Authority
CN
China
Prior art keywords
intra
video
block
flag
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280027748.3A
Other languages
English (en)
Inventor
王洋
张莉
张凯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
ByteDance Inc
Original Assignee
Douyin Vision Co Ltd
ByteDance Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Douyin Vision Co Ltd, ByteDance Inc filed Critical Douyin Vision Co Ltd
Publication of CN117356090A publication Critical patent/CN117356090A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本公开的实施例提供了一种用于视频处理的解决方案。提出了一种用于视频处理的方法。该方法包括：确定视频的至少一个语法元素，该至少一个语法元素指示以下中的至少一项：第一标志，指示编码器和解码器是否基于视频的当前视频单元的邻近样本导出帧内预测模式，或者至少一个参数，被用于基于当前视频单元的邻近样本导出帧内预测模式；以及利用至少一个语法元素执行视频和码流之间的转换。与传统的解决方案相比，所提出的方法可以有利地提高编解码效率。

Description

用于视频处理的方法、设备和介质
技术领域
本公开的实施例一般涉及视频编解码技术，并且更具体地，涉及导出帧内预测。
技术背景
如今，数字视频功能正被应用于人们生活的各个方面。已经针对视频编码/解码，已经提出了多种类型的视频压缩技术，诸如运动图片专家组(MPEG)-2、MPEG-4、ITU-TH.263、国际电信联盟-电信标准化部门(ITU-T)H.264/MPEG-4第10部分高级视频编解码(AVC)、ITU-T H.265高效视频编解码(HEVC)标准、通用视频编解码(VVC)标准。然而，常规视频编解码技术的编解码效率通常非常低，这是不希望的。
发明内容
本公开的实施例提供了用于导出帧内预测的解决方案。
在第一方面中，提出了一种处理视频数据的方法。该方法包括：确定视频的至少一个语法元素，该至少一个语法元素指示以下中的至少一项：第一标志，指示编码器和解码器是否基于视频的当前视频单元的邻近样本导出帧内预测模式，或者至少一个参数，被用于基于当前视频单元的邻近样本导出帧内预测模式。与传统的解决方案相比，所提出的方法可以有利地提高编解码效率。
在第二方面，提出了一种电子设备。该电子设备包括处理单元和存储器。存储器耦合到处理单元，并且具有存储于其上的指令，该指令在由处理单元执行时使电子设备执行根据本公开的第一方面的方法。
在第三方面，提出了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储指令，该指令使得处理器执行根据本公开的第一方面的方法。
在第四方面，提出了一种非暂态计算机可读记录介质。该非暂态计算机可读记录介质存储由根据本公开第一方面的方法生成的视频的码流，其中该方法由视频处理装置执行。
提供本发明内容是为了以简化的形式介绍以下在具体实施例中进一步描述的概念的选择。本发明内容不旨在标识所要求保护的主题的关键特征或基本特征，也不旨在用于限制所要求保护主题的范围。
附图说明
通过参考附图的以下详细描述，本公开的示例实施例的上述和其他目的、特征和优点将变得更加明显。在本公开的示例实施例中，相同的附图标记通常指代相同的组件。
图1示出了根据本公开的一些实施例的示例视频编解码系统的框图；
图2示出了根据本公开的一些实施例的示例视频编码器的框图；
图3示出了根据本公开的一些实施例的示例视频解码器的框图；
图4示出了帧内预测模式的示意图；
图5示出了用于宽角度帧内预测的参考样本的示意图；
图6示出了广角帧内预测的示意图；
图7示出了样本的位置的示意图；
图8A示出了应用于对角和相邻角帧内模式(对角右上模式)的PDPC所使用的样本的定义的示意图；
图8B示出了应用于对角和相邻角帧内模式(对角左下模式)的PDPC所使用的样本的定义的示意图；
图8C示出了应用于对角和相邻角帧内模式(相邻对角右上模式)的PDPC所使用的样本的定义的示意图；
图8D示出了应用于对角和相邻角帧内模式(相邻对角左下模式)的PDPC所使用的样本的定义的示意图；
图9示出了用于非垂直/非水平模式的梯度方法的示意图；
图10示出了nScale值的示意图；
图11示出了传统PDPC和所提出的PDPC的流程图；
图12示出了用于导出通用MPM列表的邻近块的示意图；
图13示出了关于所提出的帧内参考映射的示例的示意图；
图14示出了与预测块邻近的四条参考线的示例的示意图；
图15A示出了根据块大小进行子分割的过程的示意图；
图15B示出了根据块大小进行子分割的过程的示意图；
图16示出了矩阵加权帧内预测过程的示意图；
图17示出了DIMD中使用的模板的目标样本、模板样本和参考样本；
图18示出了对其执行梯度分析的一组选定像素的示意图；
图19示出了3Sobel梯度滤波器与模板的卷积的示意图；
图20示出了所提出的帧内块解码过程的示意图；
图21示出了从宽度为3个像素的模板进行HoG计算的示意图；
图22示出了通过两个HoG模式和平面的加权平均的预测融合的示意图；
图23示出了传统角度IPM和扩展角度IPM的示意图；
图24示出了根据本公开的一些实施例的视频处理方法的流程图；以及
图25示出了其中可以实现本公开的各种实施例的计算设备的框图。
在附图中，相同或相似的附图标记通常指代相同或相似元素。
具体实施方式
现在将参考一些实施例来描述本公开的原理。应当理解的是，描述这些实施例仅出于说明并且帮助本领域技术人员理解和实施本公开的目的，而不暗示对本公开的范围的任何限制。除了下文所述的方式之外，本文所描述的公开内容还可以以各种方式实施。
在以下描述和权利要求中，除非另有定义，否则在本文中使用的所有科学术语和技术术语具有与本公开所属领域的普通技术人员通常理解的含义相同的含义。
本公开中提及的“一个实施例”、“实施例”、“示例实施例”等指示所描述的实施例可以包括特定的特征、结构或特性，但是并非每个实施例都必须包括该特定的特征、结构或特性。此外，这些短语不一定指同一实施例。此外，当结合示例实施例描述特定的特征、结构或特性时，无论是否明确描述，认为影响与其他实施例相关的这种特征、结构或特性在本领域技术人员的知识范围内。
应当理解的是，尽管术语“第一”和“第二”等可以用于描述各种元素，但这些元素不应受限于这些术语。这些术语仅用于区分一个元素与另一个元素。例如，第一元素可以被称为第二元素，类似地，第二元素可以被称为第一元素，而不脱离示例实施例的范围。如本文中所使用的，术语“和/或”包括一个或多个所列术语的任何和所有组合。
本文中所使用的术语仅用于描述特定实施例的目的，并不旨在限制示例实施例。如本文中所用的，单数形式“一”、“一个”和“该”也旨在包括复数形式，除非上下文另有明确指示。还应理解，术语“包括”、“包含”和/或“具有”在本文中使用时表示存在所述特征、元素和/或组件等，但不排除一个或多个其他特征、元素、组件和/或其组合的存在或添加。
示例环境
图1是图示可以利用本公开的技术的示例视频编解码系统100的框图。如所示出的，视频编解码系统100可以包括源设备110和目的设备120。源设备110也可以称为视频编码设备，并且目的设备120也可以称为视频解码设备。在操作中，源设备110可以被配置为生成经编码的视频数据，并且目的设备120可以被配置为对由源设备110生成的经编码的视频数据进行解码。源设备110可以包括视频源112、视频编码器114和输入/输出(I/O)接口116。
视频源112可以包括诸如视频捕获设备之类的源。视频捕获设备的示例包括但不限于从视频内容提供商接收视频数据的接口、用于生成视频数据的计算机图形系统和/或其组合。
视频数据可以包括一个或多个图片。视频编码器114对来自视频源112的视频数据进行编码，以生成码流。码流可以包括形成视频数据的编码表示的位序列。码流可以包括编码图片和相关联的数据。编码图片是图片的编码表示。相关联的数据可以包括序列参数集、图片参数集和其他语法结构。I/O接口116可以包括调制器/解调器和/或发送器。经编码的视频数据可以通过网络130A经由I/O接口116直接传输至目的设备120。经编码的视频数据也可以存储在存储介质/服务器130B上，以供目的设备120访问。
目的设备120可以包括I/O接口126、视频解码器124和显示设备122。I/O接口126可以包括接收器和/或调制解调器。I/O接口126可以从源设备110或存储介质/服务器130B获取经编码的视频数据。视频解码器124可以对经编码的视频数据进行解码。显示设备122可以向用户显示经解码的视频数据。显示设备122可以与目的设备120集成，或者可以在目的设备120的外部，该目的设备120被配置为与外部显示设备接口连接。
视频编码器114和视频解码器124可以根据视频压缩标准操作，诸如高效视频编解码(HEVC)标准、通用视频编解码(VVC)标准和其他现有和/或将来的标准。
图2是示出根据本公开的一些实施例的视频编码器200的示例的方框图，视频编码器200可以是图1所示的系统100中的视频编码器114的示例。
视频编码器200可以被配置为实现本公开的任何或所有技术。在图2的示例中，视频编码器200包括多个功能组件。本公开中描述的技术可以在视频编码器200的各个组件之间共享。在一些示例中，处理器可以被配置为执行本公开中描述的任何或所有技术。
在一些实施例中，视频编码器200可以包括划分单元201、预测单元202、残差生成单元207、变换单元208、量化单元209、反量化单元210、反变换单元211、重建单元212、缓冲213和熵编码单元214，该预测单元202可以包括模式选择单元203、运动估计单元204、运动补偿单元205和帧内预测单元206。
在其他示例中，视频编码器200可以包括更多、更少或不同的功能组件。在一个示例中，预测单元202可以包括块内复制(IBC)单元。IBC单元可以在IBC模式中执行预测，其中至少一个参考图片是当前视频块所位于的图片。
此外，尽管一些组件(诸如运动估计单元204和运动补偿单元205)可以被集成，但是为了解释的目的，这些组件在图2的示例中被分离地示出。
划分单元201可以将图片划分成一个或多个视频块。视频编码器200和视频解码器300(其将在以下详细讨论)可以支持各种视频块大小。
模式选择单元203可以例如基于误差结果来选择多种编码模式(帧内编码或帧间编码)中的一种编码模式，并且将所产生的帧内编解码块或帧间编解码块提供给残差生成单元207以生成残差块数据，并且提供给重建单元212以重建编解码块以用作参考图片。在一些示例中，模式选择单元203可以选择帧内和帧间预测(CIIP)模式的组合，其中预测基于帧间预测信号和帧内预测信号。在帧间预测的情况下，模式选择单元203还可以为块选择针对运动矢量的分辨率(例如，亚像素精度或整数像素精度)。
为了对当前视频块执行帧间预测，运动估计单元204可以通过将来自缓冲213的一个或多个参考帧与当前视频块进行比较来生成针对当前视频块的运动信息。运动补偿单元205可以基于运动信息和来自缓冲213的除了与当前视频块相关联的图片之外的图片的经解码样本，来确定针对当前视频块的预测视频块。
运动估计单元204和运动补偿单元205可以对当前视频块执行不同的操作，例如，取决于当前视频块是在I条带、P条带还是B条带中。如本文中使用的，“I条带”可以是指由宏块构成的图片的一部分，所有宏块均基于同一图片内的宏块。此外，如本文中使用的，在一些方面中，“P条带”和“B条带”可以是指由独立于同一图片中的宏块的宏块构成的图片的部分。
在一些示例中，运动估计单元204可以对当前视频块执行单向预测，并且运动估计单元204可以搜索列表0或列表1的参考图片，以寻找针对当前视频块的参考视频块。运动估计单元204然后可以生成参考索引和运动矢量，该参考索引指示列表0或列表1中的包含参考视频块的参考图片，并且该运动矢量指示当前视频块与参考视频块之间的空间位移。运动估计单元204可以输出参考索引、预测方向指示符和运动矢量作为当前视频块的运动信息。运动补偿单元205可以基于由当前视频块的运动信息指示的参考视频块来生成当前视频块的预测视频块。
备选地，在其他示例中，运动估计单元204可以对当前视频块执行双向预测。运动估计单元204可以搜索列表0中的参考图片以寻找针对当前视频块的参考视频块，并且还可以搜索列表1中的参考图片以寻找针对当前视频块的另一参考视频块。运动估计单元204然后可以生成多个参考索引和多个运动矢量，该多个参考索引指示列表0和列表1中的包含多个参考视频块的多个参考图片，并且该多个运动矢量指示在多个参考视频块与当前视频块之间的多个空间位移。运动估计单元204可以输出当前视频块的多个参考索引和多个运动矢量以作为当前视频块的运动信息。运动补偿单元205可以基于由当前视频块的运动信息指示的多个参考视频块来生成针对当前视频块的预测视频块。
在一些示例中，运动估计单元204可以输出完整的运动信息集，以用于解码器的解码处理。备选地，在一些实施例中，运动估计单元204可以参考另一视频块的运动信息来通过信号传输当前视频块的运动信息。例如，运动估计单元204可以确定当前视频块的运动信息与邻近视频块的运动信息足够相似。
在一个示例中，运动估计单元204可以在与当前视频块相关联的语法结构中向视频解码器300指示一值，该值指示当前视频块具有与另一视频块相同的运动信息。
在另一示例中，运动估计单元204可以在与当前视频块相关联的语法结构中标识另一视频块和运动矢量差(MVD)。运动矢量差指示在当前视频块的运动矢量与所指示的视频块的运动矢量之间的差异。视频解码器300可以使用所指示的视频块的运动矢量以及运动矢量差来确定当前视频块的运动矢量。
如上所讨论的，视频编码器200可以以预测性的方式通过信号传输运动矢量。可以由视频编码器200实现的预测信令技术的两个示例包括高级运动矢量预测(AMVP)和合并模式信令。
帧内预测单元206可以对当前视频块执行帧内预测。当对当前视频块执行帧内预测时，帧内预测单元206可以基于同一图片中其他视频块的经解码样本来生成针对当前视频块的预测数据。针对当前视频块的预测数据可以包括预测视频块和各个语法元素。
残差生成单元207可以通过从当前视频块中减去(例如，由减号指示)当前视频块的(多个)预测视频块来生成针对当前视频块的残差数据。当前视频块的残差数据可以包括对应于当前视频块中样本的不同样本部分的残差视频块。
在其他示例中，例如在跳过模式中，针对当前视频块可以不存在针对当前视频块的残差数据，并且残差生成单元207可以不执行减去操作。
变换单元208可以通过将一个或多个变换应用于与当前视频块相关联的残差视频块，来生成针对当前视频块的一个或多个变换系数视频块。
在变换单元208生成与当前视频块相关联的变换系数视频块之后，量化单元209可以基于与当前视频块相关联的一个或多个量化参数(QP)值来量化与当前视频块相关联的变换系数视频块。
反量化单元210和反变换单元211可以分别对变换系数视频块应用反量化和反变换，以从变换系数视频块重建残差视频块。重建单元212可以将经重建的残差视频块添加到来自由预测单元202生成的一个或多个预测视频块的对应样本，以产生与当前视频块相关联的重建视频块，以供存储在缓冲213中。
在重建单元212重建视频块之后，可以执行环路滤波操作以减少视频块中的视频块效应伪像。
熵编码单元214可以从视频编码器200的其他功能组件接收数据。当数据被接收时，熵编码单元214可以执行一个或多个熵编码操作，以生成熵编码数据并且输出包括该熵编码数据的码流。
图3是示出根据本公开的一些实施例的视频解码器300的示例的方框图，视频解码器300可以是图1所示的系统100中的视频解码器124的示例。
视频解码器300可以被配置为执行本公开的任何或所有技术。在图3的示例中，视频解码器300包括多个功能组件。本公开中描述的技术可以在视频解码器300的各个组件之间共享。在一些示例中，处理器可以被配置为执行本公开中描述的任何或所有技术。
在图3的示例中，视频解码器300包括熵解码单元301、运动补偿单元302、帧内预测单元303、反量化单元304、反变换单元305、以及重建单元306和缓冲307。在一些示例中，视频解码器300可以执行通常与关于视频编码器200所描述的编码过程相对的解码过程。
熵解码单元301可以取回经编码的码流。经编码的码流可以包括经熵编码的视频数据(例如，经编码的视频数据块)。熵解码单元301可以对经熵编码的视频数据进行解码，并且运动补偿单元302可以从经熵解码的视频数据中确定运动信息，该运动信息包括运动矢量、运动矢量精度、参考图片列表索引和其他运动信息。运动补偿单元302可以例如通过执行AMVP和合并模式来确定该信息。AMVP被使用，包括基于邻近PB的数据和参考图片得出数个最可能的候选项。运动信息通常包括水平和竖直运动矢量位移值、一个或两个参考图片索引，并且在B条带中的预测区域的情况下，还包括哪个参考图片列表与每个索引相关联的标识。如本文所使用的，在一些方面中，“合并模式”可以是指从空间或时间上邻近的块中导出运动信息。
运动补偿单元302可以产生运动补偿块，可能地基于插值滤波器来执行内插。针对以亚像素精度被使用的插值滤波器的标识符可以被包括在语法元素中。
运动补偿单元302可以使用由视频编码器200在视频块的编码期间使用的插值滤波器来计算用于参考块的亚整数像素的内插值。运动补偿单元302可以根据接收到的语法信息来确定由视频编码器200使用的插值滤波器，并且运动补偿单元302可以使用插值滤波器来产生预测块。
运动补偿单元302可以使用至少部分语法信息来确定用于编码经编码视频序列的(多个)帧和/或(多个)条带的块的大小、描述经编码视频序列的图片的每个宏块如何被划分的划分信息、指示每个划分如何被编码的模式、针对每个帧间编解码块的一个或多个参考帧(和参考帧列表)、以及对经编码视频序列进行解码的其他信息。如本文中所使用的，在一些方面，“条带”可以是指在熵编码、信号预测和残差信号重建方面可以独立于同一图片的其他条带而被解码的数据结构。条带可以是整个图片，或者也可以是图片的区域。
帧内预测单元303可以使用例如在码流中接收的帧内预测模式，以从空间邻近块形成预测块。反量化单元304反量化(即，去量化)在码流中提供的、并且由熵解码单元301解码的量化视频块系数。反变换单元305应用反变换。
重建单元306可以例如通过将残差块与由运动补偿单元302或帧内预测单元303生成的相应预测块相加来获得经解码的块。如果需要的话，还可以应用去块效应滤波器以对经解码的块进行滤波，以便去除块效应伪像。经解码的视频块随后被存储在缓冲307中，缓冲307为后续运动补偿/帧内预测提供参考块，并且缓冲307还产生经解码的视频以供在显示设备上呈现。
下文将详细描述本公开的一些示例性实施例。应当注意，在本文件中使用章节标题是为了便于理解，而不是将章节中公开的实施例仅限于该章节。此外，尽管参考通用视频编解码或其他特定视频编解码器描述了一些实施例，但是所公开的技术也适用于其他视频编解码技术。此外，尽管一些实施例详细描述了视频编码步骤，但是应当理解的是取消编码的相应解码步骤将由解码器实现。此外，术语视频处理包括视频编码或压缩、视频解码或解压缩以及视频转码，在该视频转码中视频像素被从一种压缩格式表示为另一种压缩格式或以不同的压缩码率表示。
1.概述
本公开涉及视频编解码技术。具体地，本公开涉及使用先前解码的块来导出帧内预测模式的编解码工具，以及图片/视频编码中的最可能模式(MPM)列表构造和其他编解码工具。它可以应用于现有的视频编解码标准，如HEVC或通用视频编解码(VVC)。它也可以适用于未来的视频编解码标准或视频编解码器。
2.背景
视频编解码标准主要是通过众所周知的ITU-T和ISO/IEC标准的发展而发展起来。ITU-T制作了H.261和H.263，ISO/IEC制作了MPEG-1和MPEG-4视觉(Visual)，这两个组织联合制作了H.264/MPEG-2视频和H.264/MMPEG-4高级视频编解码(AVC)以及H.264/HEVC标准。自从H.262，视频编解码标准基于混合视频编解码结构，其中利用了时间预测加变换编解码。为了探索HEVC之外的未来视频编解码技术，VCEG和MPEG于2015年联合成立了联合视频探索团队(JVET)。此后，JVET采用了许多新方法，并将其放入名为联合探索模型(JEM)的参考软件中。2018年4月，VCEG(Q6/16)和ISO/IEC JTC1 SC29/WG11(MPEG)之间的联合视频专家组(JVET)被创建，以致力于VVC标准，其目标是与HEVC相比降低50％比特率。
2.1典型视频编解码器的编解码流程
VVC编码器框图的一个例子包含三个环内(in-loop)滤波块：去块滤波器(DF)、样本自适应偏移(SAO)和ALF。与使用预定义滤波器的DF不同，SAO和ALF利用当前图片的原始样本，分别通过添加偏移量和通过应用有限冲激响应(FIR)滤波器来减少原始样本和重构样本之间的均方误差，其中编码侧信息通过信号通知偏移和滤波器系数。ALF位于每个图片的最后处理阶段，并且可以被视为一种尝试获取和修复先前阶段所产生的伪影的工具。
2.2具有67个帧内预测模式的帧内模式编码
为了捕捉自然视频中呈现的任意边缘方向，定向帧内模式的数量从HEVC中使用的33个扩展到65个，如图4所示，平面模式和DC模式保持不变。这些密集的定向帧内预测模式适用于所有块大小并且适用于亮度帧内预测和色度帧内预测二者。
在HEVC中，每个帧内编解码块都具有正方形形状，并且其每条边的长度是2的幂。因此，不需要除法运算来使用DC模式生成帧内预测器。在VVC中，块可以具有矩形形状，这在一般情况下需要使用每个块的除法运算。为了避免针对DC预测的除法运算，仅使用较长边来计算非正方形块的平均值。
2.2.1广角帧内预测
尽管在VVC中定义了67个模式，但是用于给定帧内预测模式索引的精确预测方向进一步取决于块形状。传统的角度帧内预测方向定义为沿顺时针方向从45度到-135度。在VVC中，几种传统的角度帧内预测模式被自适应地替换为非正方形块的广角帧内预测模式。使用原始模式索引来通知被替换的模式，原始模式索引在解析后被重新映射到广角模式的索引。帧内预测模式的总数不变，即67，并且帧内模式编解码方法不变。
为了支持这些预测方向，定义了长度为2W+1的顶部参考和长度为2H+1的左侧参考，如图5所示。
宽角度方向模式中被替换的模式的数目取决于块的纵横比。被替代的帧内预测模式如表2-1所示。
表2-1被广角模式替代的帧内预测模式
如图6所示，在广角帧内预测的情况下，两个垂直的邻近预测样本可以使用两个不邻近的参考样本(这示出了在方向上超过45的情况下的不连续性问题)。因此，将低通参考样本滤波器和侧平滑应用于广角预测，以减少所增加的间隙Δpα带来的负面影响。如果广角模式代表非分数偏移。广角模式中有8种模式满足这一条件，它们是[-14，-12，-10，-6，72，76，78，80]。当通过这些模式预测块时，直接复制参考缓冲区中的样本，而不应用任何插值。通过这种修改，需要进行平滑处理的样本数量减少了。此外，它将对齐传统预测模式和广角模式中的非分数模式的设计。
在VVC中，支持4:2:2和4:4:4色度格式以及4:2:0色度格式。4:2:2色度格式的色度导出模式(DM)导出表最初从HEVC移植，将条目的数量从35扩展到67，以与帧内预测模式的扩展对齐。由于HEVC规范不支持低于-135度和超过45度的预测角度，因此范围从2到5的亮度帧内预测模式被映射到2。因此，通过替换映射表的条目的一些值来更新4:2:2:色度格式的色度DM导出表，以更精确地转换色度块的预测角度。
2.3帧间预测
对于每个帧间预测CU，运动参数包括运动矢量、参考图片索引和参考图片列表使用索引、以及将被用于帧间预测样本生成的VVC的新编码特征所需的附加信息。可以以显式或隐式的方式用信号通知运动参数。在以跳跃模式对CU进行编码时，该CU与一个PU相关联，并且不具有显著的残差系数，不具有编码的运动矢量差异(delta)或参考图片索引。指定一种合并(merge)模式，其中从邻近CU获得当前CU的运动参数，包括空间候选和时间候选，以及VVC中引入的附加调度。合并模式可以被应用于任何帧间预测CU，而不仅仅适用于跳过模式。合并模式的替代方案是运动参数的显式传输，其中运动矢量、每个参考图片列表的对应参考图片索引和参考图片列表使用标志以及其他所需信息按每个CU显式地以信号通知。
2.4块内复制(IBC)
块内复制(IBC)是SCC上HEVC扩展中采用的一种工具。众所周知，它显著提高了屏幕内容材料的编码效率。由于IBC模式被实现为块级编码模式，因此在编码器处执行块匹配(BM)，以找到每个CU的最佳块矢量(或运动矢量)。这里，块矢量用于指示从当前块到参考块的位移，该参考块已经在当前图片内重建。IBC编码的CU的亮度块矢量具有整数精度。色度块矢量也舍入到整数精度。当与AMVR结合使用时，IBC模式可以在1像素和4像素运动矢量精度之间切换。IBC编码的CU被视为除了帧内或帧间预测模式之外的第三预测模式。IBC模式适用于宽度和高度均小于或等于64个亮度样本的CU。
在编码器侧，对IBC执行基于哈希的运动估计。编码器对宽度或高度不大于16个亮度样本的块执行RD检查。对于非合并模式，首先使用基于哈希的搜索来执行块矢量搜索。如果哈希搜索没有返回有效的候选，则将执行基于块匹配的本地搜索。
在基于哈希的搜索中，当前块和参考块之间的哈希键匹配(32位CRC)被扩展到所有允许的块大小。当前图片中每个位置的哈希键计算基于4×4个子块。对于大小较大的当前块，在所有4×4个子块的所有哈希键与对应参考位置中的哈希键匹配时，确定哈希键与参考块的哈希键相匹配。如果发现多个参考块的哈希键与当前块的哈希密钥匹配，则计算每个匹配的参考的块向量成本，并选择具有最小成本的一个。
在块匹配搜索中，搜索范围被设置为覆盖先前CTU和当前CTU。
在CU级别，IBC模式通过一个标志发信号，它可以被以信号通知为IBC AMVP模式或IBC跳过/合并模式，如下所示：
–IBC跳过/合并模式：合并候选索引用于指示来自邻近候选IBC编解码块的列表中的哪个块矢量被用于预测当前块。合并列表包括空间候选、HMVP候选和成对候选。
–IBC AMVP模式：块矢量差以与运动矢量差相同的方式进行编解码。块矢量预测方法使用两个候选作为预测器，一个来自左邻近，一个从上邻近(如果是IBC编码)。当任一邻近不可用时，将使用默认块向量作为预测器。以信号通知一个标志，以指示块向量预测器索引。
2.5跨分量线性模型预测
为了降低跨分量冗余性，在VVC中使用跨分量线性模型(CCLM)预测模式，对于该CCLM预测模式，通过使用如下线性模型来基于相同CU的重构亮度样本来预测色度样本：
predC(i,j)＝α·recL′(i,j)+ β (2-1)
其中predC(i,j)表示CU中的预测色度样本，并且recL′(i,j)表示相同CU的下采样重构亮度样本。
CCLM参数(α和β)是用最多四个邻近色度样本及其对应的下采样亮度样本导出的。假设当前色度块尺寸为W×H，则W’和H’被设置为
-当应用LM模式时，W'＝W，H'＝H；
-当采用LM-T模式时，W’＝W+H；
-当应用LM-L模式时，H’＝H+W。
上方邻近位置被表示为S[0，-1]…S[W'-1，-1]，并且左侧邻近位置被表示为S[-1，0]…S[-1，H'-1]。然后，四个样本被选择为：
-在应用LM模式并且上方邻近样本和左侧邻近样本都可用时，S[W’/4,-1],S[3*W’/4,-1],S[-1,H’/4],S[-1,3*H’/4]；
-在应用LM-T模式或者只有上方邻近样本可用时，S[W’/8,-1],S[3*W’/8,-1],S[5*W’/8,-1],S[7*W’/8,-1]；
-在应用LM-L模式或者只有左侧邻近样本可用时，S[-1,H’/8],S[-1,3*H’/8],S[-1,5*H’/8],S[-1,7*H’/8]。
对所选位置处的四个邻近亮度样本进行下采样并比较四次，以找到两个较大的值：x0 A和x1 A，以及两个较小的值：x0 B和x1 B。它们对应的色度样本值表示为y0A、y1A、y0B和y1B。则xA、xB、yA和yB导出为：
Xa＝(x0 A+x1 A+1)>>1；Xb＝(x0 B+x1 B+1)>>1；Ya＝(y0 A+y1 A+1)>>1；Yb＝(y0 B+y1 B+1)>>1(2-2)
最后，根据下式获得线性模型的参数α和β。
B＝Yb-α·Xb (2-4)
图7示出了左侧样本和上方样本的位置示例以及CCLM模式中涉及的当前块的样本，并示出了用于导出α和β的样本的位置。
利用查找表来实现除法运算以计算参数。为了减少用于存储表所需的存储器，diff值(最大值和最小值之间的差)和参数α以指数表示。例如，diff是以4位有效部分和指数来近似的。因此，用于1/diff的表被缩减为针对有效位的16个值的16个元素，如下所示：
DivTable[]＝{0，7，6，5，5，4，4，3，3，2，2，1，1，0} (2-5)
这将有利于降低计算的复杂度以及用于存储所需表所需的存储器大小。
这将有利于降低计算的复杂度以及用于存储所需表所需的存储器大小。
除了上方模板和左侧模板可以一起用于计算线性模型系数之外，它们也可以交替地用于其他两种LM模式，称为LM_T和LM_L模式。
在LM_T模式中，仅使用上方模板来计算线性模型系数。为了获得更多的样本，上方模板被扩展到(W+H)个样本。在LM_L模式下，只使用左侧模板来计算线性模型系数。为了获得更多样本，将左侧模板扩展到(H+W)个样本。
在LM模式中，左侧模板和上方模板用于计算线性模型系数。
为了匹配用于4:2:0视频序列的色度采样位置，将两种类型的下采样滤波器应用于亮度样本，以在水平和垂直方向上实现2比1的下采样率。下采样滤波器的选择由SPS级别标志指定。两个下采样滤波器如下，分别对应“类型0(type-0)”和“类型2(type-2)”内容。
注意，当上部的参考线处于CTU边界时，仅使用一个亮度行线(帧内预测中的通用行缓冲)来进行下采样的亮度采样。
此参数计算是作为解码过程的一部分执行的，而不仅仅是作为编码器搜索操作。因此，不使用语法来将α和β值传递给解码器。
对于色度帧内模式编码，总共允许8个帧内模式用于色度帧内方式编码。这些模式包括五种传统的帧内模式和三种跨分量线性模型模式(LM、LM_T和LM_L)。色度模式信令和导出过程如表2-2所示。色度模式编码直接取决于对应亮度块的帧内预测模式。由于在I条带中启用了用于亮度和色度分量的单独块划分结构，因此一个色度块可以对应于多个亮度块。因此，对于色度DM模式，直接继承覆盖当前色度块的中心位置的对应亮度块的帧内预测模式。
表2-2在CCLM启用时从亮度模式导出色度预测模式
不管sps_cclm_enabled_flag的值如何，都使用单个二值化表，如表2-3所示。
表2-3用于色度预测模式的统一二值化表
intra_chroma_pred_mode的值 二进制值字符串
4 00
0 0100
1 0101
2 0110
3 0111
5 10
6 110
7 111
在表2-3中，第一个二进制值指示它是常规模式(0)还是LM模式(1)。如果是LM模式，则下一个二进制值指示它是否是LM_CHROMA(0)。如果它不是LM_CHROMA，则下一个1二进制值指示它是LM_L(0)还是LM_T(1)。对于这种情况，当sps_cclm_enabled_flag为0时，可以在熵编解码之前丢弃对应的intra_chroma_pred_mode的二值化表的第一个二进制值。或者，换言之，第一二进制值被推断为0，因此不被编解码。该单个二值化表用于sps_cclm_enabled_flag等于0和1的两种情况。表2-3中的前两个二进制值用自己的上下文模型进行上下文编解码，其余二进制值进行旁路编解码。
此外，为了减少双树中的亮度-色度延迟，当64×64亮度编码树节点用Not Split(并且ISP不用于64×64CU)或QT进行划分时，32×32/32×16色度编码树节点中的色度CU被允许以以下方式使用CCLM：
–如果32×32色度节点未拆分或分割QT拆分，则32×32节点中的所有色度CU都可以使用CCLM
–如果32×32色度节点是用水平BT分割的，而32×16子节点不分割或使用垂直BT分割，则32×16色度节点中的所有色度CU都可以使用CCLM。
在所有其他亮度和色度编码树分割条件下，对于色度CU不允许CCLM。
2.6位置相关帧内预测组合
在VVC中，通过位置相关帧内预测组合(PDPC)方法进一步修改DC、平面和几个角模式的帧内预测结果。PDPC是一种帧内预测方法，它调用边界参考样本和具有滤波边界参考样本的HEVC式的帧内预测的组合。PDPC应用于以下帧内模式，无需发出信号：平面、DC、小于或等于水平的帧内角，以及大于或等于垂直且小于或等于80的帧内角。如果当前块是BDPCM模式或MRL索引大于0，则不应用PDPC。
根据如下等式2-8，预测样本pred(x’,y’)是使用帧内预测模式(DC，平面，角)和参考样本的线性组合来预测的：
pred(x’，y’)＝Clip(0，(1＜＜BitDepth)-1，(wL×R-1，y’+wT×Rx’，-1+(64-wL-wT)×pred(x’，y’)+32)＞＞6) (2-8)
其Rx,-1,R-1,y分别表示位于当前样本(x，y)顶部和左侧边界的参考样本。
如果PDPC应用于DC、平面、水平和垂直帧内模式，则不需要额外的边界滤波，如HEVC DC模式边界滤波或水平/垂直模式边缘滤波的情况所需。DC模式和平面模式的PDPC过程是相同的。对于角模式，如果当前角模式为HOR_IDX或VER_IDX，则分别不使用左侧或顶部参考采样。PDPC权重和比例因子取决于预测模式和块大小。PDPC应用于宽度和高度均大于或等于4的块。
图8A至8D示出了在各种预测模式下应用的PDPC的参考样本(Rx,-1和R-1,y)的定义。预测样本pred(x’,y’)位于预测块内的(x’,y’)处。例如，参考样本Rx,-1的坐标x由：x＝x’+y’+1给出，参考样本R-1,y，y的坐标y类似地由：y＝x’+y’+1给出。对于其他角模式，参考样本Rx,-1和R-1,y可以位于分数样本位置。在这种情况下，将使用最近整数采样位置的采样值。
2.7渐变PDPC
如图9所示，基于梯度的方法扩展到非垂直/非水平模式。这里，梯度计算为r(-1,y)–r(-1+d,-1)，其中d是取决于角方向的水平位移。这里需要注意的几点：
梯度项r(-1,y)–r(-1+d,-1)需要每行计算一次，因为它不取决于x位置。
d的计算已经是可以重用的原始帧内预测过程的一部分，因此不需要单独计算d。因此，d的精度为1/32像素。
当d处于小数位置时，我们使用了双抽头(线性)滤波，即，如果dPos是1/32像素精度的位移，dInt是(向下取整)整数部分(dPos>>5)，dFract是1/32像素精度的小数部分(dPos&31)，则r(-1+d)计算为：
r(-1+d)＝(32–dFrac)*r(-1+dInt)+dFrac*r(-1+dInt+1)
如在a中所述，每行执行一次2抽头滤波(如果需要)。
最后，计算预测信号
p(x,y)＝Clip(((64–wL(x))*p(x,y)+wL(x)*(r(-1,y)-r(-1+d,-1))+32)>>6)
其中wL(x)＝32>>((x<<1)>>nScale2)，nScale2＝(log2(nTbH)+log2(nTbW)–2)>>2，它们与垂直/水平模式相同。简而言之，与垂直/水平模式相比，应用了相同的过程(事实上，d＝0表示垂直/水平模式)。
其次，在非垂直/非水平模式下，当(nScale＜0)或由于辅参考样本不可用而无法应用PDPC时，我们会激活基于梯度的方法。我们已经在图10中显示了与TB大小和角模式有关的nScale的值，以更好地可视化使用梯度方法的情况(图10示出了与nTbH和模式数目有关的nScale值；对于所有nScale＜0的情况都使用梯度方法)。此外，图11示出了传统/当前(左)和提出的PDPC(右)的流程图。
2.8辅MPM
JVET-D0114中介绍了辅MPM列表。现有的主MPM(PMPM)列表包括6个条目，而辅MPM(SMPM)列表包括16个条目。首先构建具有22个条目的通用MPM列表，然后将该通用MPM表中的前6个条目包括在PMPM列表中，其余条目形成SMPM列表。通用MPM列表中的第一个条目是平面模式。如图12所示，其余条目由左(L)、上(A)、左下(BL)、右上(AR)和左上(AL)邻近块的帧内模式组成，与邻近块的前两个可用方向模式有附加偏移的方向模式以及默认模式。
如果CU块是垂直定向的，则邻近块的顺序是A、L、BL、AR、AL；否则，它是L、A、BL、AR、AL。
首先解析PMPM标志，如果等于1，则解析PMPM索引以确定PMPM列表的哪个条目被选择，否则解析SPMPM标志以确定是解析SMPM索引还是解析其余模式。
2.9 6抽头插值滤波器
为了提高预测精度，提出用6抽头插值滤波器代替4抽头三次插值滤波器，滤波器系数是基于相同的多项式回归模型导出的，但多项式阶数为6。
滤波器系数如下所示，
{0,0,256,0,0,0},//0/32位置
{0,-4,253,9,-2,0},//1/32位置
{1,-7,249,17,-4,0},//2/32位置
{1,-10,245,25,-6,1},//3/32位置
{1,-13,241,34,-8,1},//4/32位置
{2,-16,235,44,-10,1},//5/32位置
{2,-18,229,53,-12,2},//6/32位置
{2,-20,223,63,-14,2},//7/32位置
{2,-22,217,72,-15,2},//8/32位置
{3,-23,209,82,-17,2},//9/32位置
{3,-24,202,92,-19,2},//10/32位置
{3,-25,194,101,-20,3},//11/32位置
{3,-25,185,111,-21,3},//12/32位置
{3,-26,178,121,-23,3},//13/32位置
{3,-25,168,131,-24,3},//14/32位置
{3,-25,159,141,-25,3},//15/32位置
{3,-25,150,150,-25,3},//半像素位置
用于插值的参考样本来自重建样本或HEVC中的填充样本，因此不需要对参考样本可用性进行条件检查。
建议使用4抽头三次插值滤波器，而不是使用最近舍入操作来导出扩展的帧内参考样本。如图13中的示例所示，为了导出参考样本P的值，使用了四抽头插值滤波器，而在JEM-3.0或HM中，直接将P设置为X1。
2.10多参考行(MRL)帧内预测
多参考行(MRL)帧内预测使用更多的参考行用于帧内预测。在图14中，描绘了4条参考行的示例，其中段A和段F的样本不是从重建的邻近样本中提取的，而是分别用来自段B和段E的最接近的样本填充的。HEVC帧内图片预测使用最附近的参考行(即参考行0)。在MRL中，使用了2条附加行(参考行1和参考行3)。
所选参考行的索引(mrl_idx)被用信号发送并用于生成帧内预测。对于大于0的参考行索引，仅在MPM列表中包括额外的参考行模式，并且仅信号MPM索引而不包括剩余模式。在帧内预测模式之前用信号发送参考行索引，如果参考行索引非零，则帧内预测模式不包括平面模式。
对CTU内的块的第一行禁用MRL，以防止在当前CTU行外使用扩展的参考样本。此外，当使用附加行时，PDPC将被禁用。对于MRL模式，非零参考行索引的DC帧内预测模式中的DC值的导出与参考行索引0的导出对齐。MRL需要存储具有CTU的3条邻近亮度参考行来生成预测。跨分量线性模型(CCLM)工具的下采样滤波还需要3个邻近的亮度参考行。使用相同3行的MRL的定义与CCLM一致，以减少解码器的存储要求。
2.11帧内子划分(ISP)
帧内子划分(ISP)根据块大小将亮度帧内预测块垂直或水平划分为2或4个子划分。例如，ISP的最小块大小为4×8(或8×4)。如果块大小大于4×8，则对应块将被划分为四个子划分。我们注意到，M×128(M≤64)和128×N(N≤64)ISP块可能会对64×64VDPU生成潜在问题。例如，单树情况下的M×128CU有一个M×128亮度TB和两个相应的色度TB。如果CU使用ISP，那么亮度TB将被分成4个M×32TB(只能水平分割)，每个TB都小于一个64×64块。然而，在目前的ISP设计中，色度块是不可分割的。因此，两个色度分量的大小都将大于一个32×32块。类似地，使用ISP的128×NCU也可以创建类似的情况。因此，这两种情况是64×64解码器流水线的问题。因此，可以使用ISP的CU大小被限制为最大值64×64。图15A和15B显示了两种可能性的示例(其中图15A示出了根据块大小的子划分过程的示意图(4×8和8×4CU的子划分示例)，图15B示出了根据块大小进行子划分的过程的示意图(4×8，8×4和4×4以外的CU的子划分示例)。所有子划分都满足具有至少16个样本的条件。
在ISP中，1×N/2×N子块预测允许依赖于编解码块的先前解码的1×N/2×N子块的重建值，使得子块的最小预测宽度变为四个样本。例如，一个8×N(N>4)的编解码块，在使用ISP垂直分割编解码时，会被分割成两个预测区域，每个预测区域的大小为4×N，四个变换的大小为2×N。同样，使用垂直分割ISP编解码的4×N编解码块，使用完整的4×N块进行预测；使用四个变换，每个变换的大小为1×N。尽管允许1×N和2×N的变换大小，但可以断言，这些块在4×N区域内的变换可以并行执行。例如，当4×N预测区域包含四个1×N变换时，在水平方向上没有变换；垂直方向上的变换可以作为垂直方向上单个4×N变换来执行。类似地，当4×N预测区域包含两个2×N变换块时，可以并行地进行两个2×N块在每个方向(水平和垂直)上的变换操作。因此，与处理4×4常规编解码的帧内块相比，在处理这些较小的块时不增加延迟。
表2-4熵编解码系数组大小
块大小 系数组大小
1×N,N≥16 1×16
N×1,N≥16 16×1
2×N,N≥8 2×8
N×2,N≥8 8×2
所有其他可能的M×N情况 4×4
对于每个子划分，通过将残差信号与预测信号相加来获得重建样本。这里，通过诸如熵解码、逆量化和逆变换的处来生成残差信号。因此，每个子划分的重建样本值可用于生成下一个子划分的预测，并且每个子划分被重复处理。此外，要处理的第一个子划分是包含CU的左上样本，然后向下(水平分割)或向右(垂直分割)继续的子划分。因此，用于生成子划分预测信号的参考样本仅位于线的左侧和上方。所有子划分共享相同的帧内模式。以下是ISP与其他编解码工具的交互摘要。
–多参考行(MRL)：如果块的MRL索引不是0，则ISP编解码模式将被推断为0，因此ISP模式信息将不会发送到解码器。
–熵编解码系数组大小：如表2-4所示，熵编解码子块的大小已被修改，以便在所有可能的情况下都有16个样本。值得注意，新的大小仅影响ISP的其中一个尺寸小于4个样本的块。在所有其他情况下，系数组保持维度。
–CBF编解码：假设至少有一个子划分具有非零CBF。因此，如果n是子划分的数目，并且第一n-1子划分已经产生零CBF，则第n子划分的CBF被推断为1。
–变换大小限制：所有长度大于16点的ISP变换都使用DCT-II。
–MTS标志：如果CU使用ISP编解码模式，MTS CU标志将设置为0，并且不会发送到解码器。因此，编码器不会对每个结果子划分的不同可用变换执行RD测试。ISP模式的变换选择将改为固定的，并根据所使用的帧内模式、处理顺序和块大小进行选择。因此，不需要用信号发出。例如，设tH和tV和为分别为w×h子划分选择的水平变换和垂直变换，其中w为宽度，h为高度。然后根据以下规则选择变换：
–如果w＝1或h＝1，则分别不存在水平变换或垂直变换。
–如果w≥4且w≤16,tH＝DST-VII，否则tH＝DCT-II
–如果h≥4且h≤16,tV＝DST-VII，否则tV＝DCT-II
在ISP模式中，允许所有67个帧内预测模式。如果相应的宽度和高度至少为4个样本长，则也应用PDPC。此外，参考样本滤波过程(参考平滑)和帧内插值滤波选择的条件不再存在，并且在ISP模式下，三次(DCT-IF)滤波总是用于分数位置插值。
2.12矩阵加权帧内预测(MIP)
矩阵加权帧内预测(MIP)方法是VVC中新加入的一种帧内预测技术。为了预测宽度W和高度H的矩形块的样本，矩阵加权帧内预测(MIP)取块左侧的一行H个重建的相邻边界样本和块上方的一行W个重建的相邻边缘样本作为输入。如果重建的样本不可用，则像在传统帧内预测中那样生成它们。预测信号的生成基于以下三个步骤，即平均、矩阵矢量乘法和线性插值，如图16所示。
2.12.1平均邻近样本
在边界样本中，通过基于块大小和形状进行平均来选择四个样本或八个样本。具体地，输入边界bdrytop和bdryleft会根据取决于块的大小的预定义的规则，通过对邻近边界样本进行平均，缩小为更小的和/>边界。然后，将两个缩小的边界和/>连接到缩小的边界矢量bdryred，因此，对于形状的块，缩小的边界矢量的大小为4×4，而对于所有其他形状的块来说，缩小的边缘矢量的大小是8。如果是指MIP模式，则此级联定义如下：
2.12.2矩阵乘法
将平均样本作为输入，执行矩阵矢量乘法，然后添加偏移。结果是原始块中的样本的子采样集上生成缩减预测信号。从缩减的输入矢量bdryred中生成缩减的预测信号predred,，该缩减的预测是宽度Wred和高度Hred的下采样块上的信号。此处，Wred和Hred定义为：
通过计算矩阵矢量乘积并添加偏移来计算缩减的预测信号predred：
predred＝A·bdryred+b (2-12)
这里，A是一个矩阵，如果W＝H＝4z则它有Wred·Hred行和4列，在所有其他情况下有8列。b是Wred·Hred大小的矢量。矩阵A和偏移矢量b取自S0，S1，S2.其中一个集合。索引idx＝idx(W,H)定义如下：
这里，矩阵A的每个系数以8比特的精度表示。集合S0由16个矩阵组成，每个矩阵具有16行4列，以及16个偏移矢量/>每个偏移矢量的大小为16。该集合的矩阵和偏移矢量用于大小为4×4的块。集合S1由8个矩阵/>组成，每个矩阵具有行和8列，以及8个偏移矢量/>每个偏移矢量大小为16。集合S2由6个矩阵/>组成，每个矩阵具有64行和8列，以及6个偏移矢量/>每个偏移矢量大小为64。
2.12.3插值
其余位置处的预测信号是通过线性插值从子采样集上的预测信号生成的，该线性插值是在每个方向上的单步线性插值。插值首先在水平方向上执行，然后在垂直方向上执行，与块的形状或块的大小无关。
2.12.4MIP模式的信令和与其他编解码工具的协调
对于帧内模式中的每个编解码单元(CU)，发送标志是否要应用MIP模式的标志。如果要应用MIP模式，则用信号发送MIP模式(predModeIntra)。对于MIP模式，转置标志(isTranspose)用于确定模式是否转置，MIP模式标识(modeId)用于确定给定MIP模式使用的矩阵，其导出过程如下：
isTransposed＝predModeIntra&1
modeId＝predModeIntra>>1 (2-14)
通过考虑以下方面，MIP编解码模式与其他编解码工具相协调：
–大块上的MIP启用LFNST。这里使用平面模式的LFNST变换
–MIP的参考样本导出与传统帧内预测模式完全相同
–对于MIP预测中使用的上采样步骤，使用原始参考样本而不是下采样样本
–在上采样之前执行剪裁，而不是在上采样之后执行剪裁
–无论最大变换大小如何，MIP都允许达到64×64
MIP模式的数目对于sizeId＝0为32，对于sizeId＝1为16，对于sizeId＝2为12。
2.13JVET-C0061解码器侧帧内模式导出
在JEM-2.0中，帧内模式从HEVC中的35种模式扩展到67种，并且它们在编码器处导出并明确地用信号发送到解码器。在JEM-2.0中，在帧内模式编解码上花费了大量开销。例如，在所有帧内编解码配置中，帧内模式信令开销可以高达总码率的5～10％。该贡献提出了解码器侧的帧内模式导出方法，以在保持预测精度的同时减少帧内模式编解码开销。
为了减少帧内模式信令的开销，本文提出了解码器侧帧内模式导出(DIMD)方法。在所提出的方法中，编码器和解码器不是显式地用信号发送帧内模式，而是从当前块的邻近重建样本导出信息。DIMD导出的帧内模式有两种使用方式：
1)对于2N×2N CU，当对应的CU级别DIMD标志开启时，DIMD模式被用作帧内预测的帧内模式；
2)对于N×N CU，DIMD模式用于替换现有MPM列表的一个候选模式，以提高帧内模式编解码的效率。
2.13.1基于模板的帧内模式导出
如图17所示，目标表示要估计其帧内预测模式的当前块(块大小为N)。模板(由图17中的图案区域表示)指定了一组已经重建的样本，这些样本用于导出帧内模式。模板大小表示为模板内延伸到目标块的上方和左侧的样本数目，即L。在当前实现中，4×4和8×8块的模板大小为2(即L＝2)，16×16及更大的块的模板大小为4(即L＝4))。根据JEM-2.0的定义，模板参考(由图17中的虚线区域表示)指的是模板上方和左侧的一组邻近样本。与总是来自重建区域的模板样本不同，在对目标块进行编码/解码时，模板的参考样本可能尚未重建。在这种情况下，利用JEM-2.0的现有参考样本替换算法来用可用参考样本替换不可用的参考样本。
对于每个帧内预测模式，DIMD计算重建的模板样本与其从模板的参考样本获得的预测样本之间的绝对差(SAD)。选择生产最小SAD的帧内预测模式作为目标块的最终帧内预测模型。
2.13.2 2N×2N CU帧内的DIMD
对于帧内2N×2N个CU，DIMD被用作一个附加帧内模式，通过将DIMD帧内模式与最佳正常帧内模式进行比较(即，被明确地发信号通知)而自适应地选择。每个帧内2N×2N CU都有一个标志来指示DIMD的使用情况。如果标志为1，则使用由DIMD导出的帧内模式来预测CU；否则，不应用DIMD，并且使用在码流中明确发信号通知的帧内模式来预测CU。当启用DIMD时，色度分量总是重复使用与为亮度分量导出的相同的帧内模式，即DM模式。
此外，对于每个DIMD编解码的CU，CU中的块可以自适应地选择以在PU级别或TU级别导出它们的帧内模式。具体而言，当DIMD标志为1时，另一个CU级别DIMD控制标志用信号表示执行DIMD的级别。如果该标志为0，则意味着在PU级别执行DIMD，并且PU中的所有TU使用相同的导出帧内模式进行帧内预测；否则(即，DIMD控制标志为1)，则表示在TU级别执行DIMD，并且PU中的每个TU导出其自己的帧内模式。
此外，当启用DIMD时，角方向的数目增加到129，并且DC模式和平面模式仍然保持不变。为了适应角帧内模式的粒度增加，DIMD编解码CU的帧插值值滤波的精度从1/32像素增加到1/64像素。此外，为了使用DIMD编解码CU的导出帧内模式作为邻近帧内块的MPM候选模式，在将DIMD编解码的CU的129个方向用作MPM之前，将其转换为“正常”帧内模式(即，65个角帧内方向)。
2.12.3帧内N×N CU的DIMD
在所提出的方法中，总是用信号发送N×N内CU的帧内模式。然而，为了提高帧内模式编解码的效率，从DIMD导出的帧内模式被用作预测CU中四个PU的帧内模式的MPM候选。为了不增加MPM索引信令的开销，DIMD候选总是被放在MPM列表的第一位，并删除最后一个现有的MPM候选模式。此外，执行修剪操作，使得如果DIMD候选是冗余的，则不会将其添加到MPM列表中。
2.13.4DIMD的帧内模式搜索算法
为了降低编码/解码的复杂度，DIMD使用一种简单的快速帧内模式搜索算法被用于DIMD。首先，执行一个初始估计过程来为帧内模式搜索提供良好的起点。具体地，通过从允许的帧内模式中选择N个固定模式来创建初始候选列表。然后，针对所有候选帧内模式计算SAD，并且选择使SAD最小化的帧内模式作为开始帧内模式。为了实现良好的复杂性/性能权衡，初始候选列表由11个帧内模式组成，包括DC、平面和HEVC中定义的33个角帧内方向中的每4个模式，即帧内模式0、1、2、6、10…30、34。
如果起始帧内模式是DC模式或平面模式，则将其用作DIMD模式。否则，基于起始帧内模式，然后应用一个细化过程，其中通过一次迭代搜索来识别最佳帧内模式。它通过在每次迭代时比较由给定搜索间隔分隔的三个帧内模式的SAD值来工作，并保持最小化SAD的帧内模式。然后将搜索间隔减少到一半，并且从上一次迭代中选择的帧内模式将用作当前迭代的中心帧内模式。对于具有129个角帧内方向的当前DIMD实现，在细化过程中最多使用4次迭代来找到最佳DIMD帧内模式。
2.14JVET-L0164 CE3相关：解码器侧帧内模式导出
本文提出了一种避免在码流中传输亮度帧内预测模式的方法。这是通过在编码器和解码器处以相同的方式使用先前编码/解码的像素来导出亮度帧内模式来实现的。该过程定义了一种称为DIMD的新编解码模式，其选择在使用简单标志的帧内编解码块的码流中用信号发送。DIMD在编码器上与其他编解码模式竞争，包括经典的Intra编解码模式(对帧内预测模式进行编解码)。请注意，在本文中DIMD仅适用于亮度。对于色度，适用经典的帧内编解码模式。正如对其他编解码模式(经典的帧内、帧间、合并等)所做的那样，为DIMD模式计算率失真成本，然后将其与其他模式的编解码成本进行比较，以决定是否将其选择为当前块的最终编解码模式。
在解码器侧，首先解析DIMD标志。如果DIMD标志为真，则在重建过程中使用相同的先前编码的邻近像素来导出帧内预测模式。否则，帧内预测模式将与经典帧内编解码模式一样从码流中解析出来。
2.14.1帧内预测模式导出
2.14.1.1梯度分析
为了导出块的帧内预测模式，首先选择对其执行梯度分析的一组邻近像素。出于规范性的目的，这些像素应该在解码/重建的像素池中。如图18所示，当前块周围的模板由左边的T个像素和上面的T个像素选择。在建议书中设定了T＝2。
接下来，对模板的像素执行梯度分析。这可以确定模板的主要角方向，假设模板的主要角方向(这是我们方法的核心前提)很有可能与当前块的角方向相同。因此，使用一个简单的3×3Sobel梯度滤波，该滤波由将与模板卷积的以下矩阵定义：
和/>
对于模板的每个像素，这两个矩阵中的每一个都是以当前像素为中心的3×3个窗口，逐点相乘，并由其8个直接邻近组成，结果相加。因此，在水平方向和垂直方向上分别获得与当前像素处的梯度相对应的两个值Gx(来自与Mx的乘积)和Gy(来自与My的乘积)。图19显示了卷积过程(图中说明了3×3Sobel梯度滤波与模板的卷积)。蓝色像素是当前像素。红色像素(包括蓝色)是可以进行梯度分析的像素。灰色像素是由于缺乏一些邻近而无法进行梯度分析的像素。紫色像素是所考虑的模板之外的可用(重建)像素，用于红色像素的梯度分析。如果紫色像素不可用(例如，由于块离图片边界太近)，则不执行使用该紫色像素的所有红色像素的梯度分析。
2.14.1.2梯度直方图和模式导出
对于每个红色像素，使用Gx和Gy的梯度的强度(G)和方向(O)如下核算：
G＝|Gx|+|Gy|和
值得注意，提出了atan功能的快速实现。然后将梯度的方向转换为帧内角预测模式，用于对直方图进行索引(首先初始化为零)。该帧内角模式下的直方图值增加G。一旦处理了模板中的所有红色像素，直方图将包含每个帧内角方式的梯度强度的累积值。显示直方图中最高峰值的模式被选择为当前块的帧内预测模式。如果直方图中的最大值是0(意味着不能进行梯度分析，或者组成模板的区域是平的)，则DC模式被选择为当前块的帧内预测模式。
对于位于CTU顶部的块，不对位于模板顶部的像素的梯度执行分析。DIMD标志使用三种可能的上下文进行编解码，具体取决于左侧和上方邻近块，类似于Skip标志编解码。上下文0对应于左邻近块和上邻近块中均未用DIMD模式编解码的情况，上下文1对应于只有一个邻近块用DIMD编解码的情况，以及上下文2对应于两个邻近块都用DIMD进行编解码的情况。每个上下文的初始符号概率被设置为0.5。
2.14.2 130种帧内模式的预测
与经典帧内模式编解码相比，DIMD提供的一个优点是，导出的帧内模式可以具有更高的精度，允许更精确的预测，而不需要额外的成本，因为它不在码流中传输。导出的帧内模式交叉涵盖129个角模式，因此包括DC在内共有总共有130个模式(在我们的贡献中，导出的帧内模式永远不可能是平面的)。经典的帧内编解码模式是不变的，即预测和模式编解码仍然使用67种模式。
对广角帧内预测和简化的PDPC进行了所需的改变，以适应使用129种模式的预测。注意，只有预测过程使用扩展的帧内模式，这意味着对于任何其他目的(例如，决定是否对参考样本进行滤波)，模式被转换回67模式精度。
2.14.3其他规范性变更
在DIMD模式中，亮度帧内模式是在块重建之前的重建过程中导出的。这样做是为了避免在解析期间对重建像素的依赖性。然而，通过这样做，对于块的色度分量和邻近块的亮度分量，块的亮度帧内模式将是未定义的。这会导致一个问题，因为：
·对于色度，定义了固定模式候选列表。通常，如果亮度模式等于色度候选之一，则候选模式将被垂直对角线(VDIA_IDX)帧内模式取代。由于在DIMD中，亮度模式不可用，因此不会修改初始色度模式候选列表。
在要从码流解析亮度帧内预测模式的经典帧内模式中，使用邻近块的亮度帧内模式来构建MPM列表，如果使用DIMD对这些块进行编解码，则MPM列表可能不可用。在这种情况下，在我们的贡献中，DIMD编解码块在MPM列表构建过程中被视为帧间块，这意味着它们实际上被认为是不可用的。
2.15JVET中的DIMD
从当前块的邻近像素计算的梯度直方图(HoG)中选择三个角模式。一旦选择了这三种模式，就正常地计算它们的预测，然后将它们的加权平均值用作块的最终预测。为了确定权重，三种模式都使用了HoG中的相应振幅。DIMD模式用作替代预测模式，始终在FullRD模式中进行检查。
当前版本的DIMD在信令、HoG计算和预测融合方面进行了一些修改。此修改的目的是提高编解码性能，并解决上次会议期间提出的复杂性问题(即4×4块的吞吐量)。以下各节介绍了每个方面的修改。
2.15.1信令
图20显示了VTM5中与所提出的DIMD集成的解析标志/索引的顺序。
可以看出，首先使用单个CABAC上下文来解析块的DIMD标志，该上下文被初始化为默认值154。
如果flag＝＝0，则解析将正常继续。
否则(如果标志＝＝1)，则仅解析ISP索引，并且推断出以下标志/索引为零：BDPCM标志、MIP标志、MRL索引。在这种情况下，也会跳过整个IPM解析。
在解析阶段，当常规非DIMD块查询其DIMD邻近的IPM时，模式PLANAR_IDX被用作DIMD块的虚拟IPM。
2.15.2纹理分析
DIMD的纹理分析包括梯度直方图(HoG)计算(图21)。梯度直方图计算是通过对块周围宽度为3的模板中的像素应用水平和垂直Sobel滤波。但是，如果以上模板像素属于不同的CTU，那么它们将不会用于纹理分析。
一旦计算出，就为块选择对应于两个最高直方图条的IPM。
在先前的版本中，模板中线中的所有像素都参与了HoG计算(JVET-N0342-v5,JVETof ITU-T SG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11)。然而，当前版本通过在4x4块上更稀疏地应用Sobel滤波来提高该过程的吞吐量。为此，仅使用从左起的一个像素和从上起的一个亚像素。如图21所示。
除了减少梯度计算的操作次数外，该特性还简化了从HoG中选择最佳2个模式，因为得到的HoG不能具有两个以上的非零振幅。
2.15.3预测融合
与JVET-0342中的先前版本((JVET-N0342-v5，JVET of ITU-TSG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11)一样，该方法的当前版本也为每个块使用三个预测的融合。然而，预测模式的选择是不同的，并且使用了在非CE3的参考的合假设帧内预测方法：JVET-N0248中具有统一帧内模式编解码的组合假设帧内预测，其中当计算帧内预测候选时，平面模式被认为与其他模式组合使用。在当前版本中，对应于两个最高HoG条的两个IPM与平面模式相结合。
预测融合被应用为上述三个预测的加权平均值。为此，平面的权重固定为21/64(～1/3)。剩余的43/64(～2/3)权重在两个HoG IPM之间共享按其HoG条的振幅成比例共享。图22表现了这一过程。
3.问题
解码器侧帧内预测模式导出(DIMD)的当前设计存在以下问题：
1.在JVET-C0061中的DIMD设计中，存在许多候选帧内预测模式(IPM)来导出当前块的最佳IPM，这导致在使用模板搜索最佳IPM时具有很高的复杂性。
4.本公开的实施例
下面的详细实施例应当被认为是解释一般概念的示例。不应当以狭隘的方式来解读这些实施例。此外，这些实施例可以以任何方式进行组合。
在本公开中，术语解码器侧帧内模式导出(DIMD)或基于模板的帧内模式导出(TIMD)表示使用先前解码的块来导出帧内预测模式的编解码工具。
在本公开中，“传统帧内预测模式(IPM)候选集合”用于指示帧内编解码块的允许IPM(例如，HEVC中的35种模式、VVC中的67种模式)，以及“传统帧间预测模式”可以指代传统IPM候选集合中的IPM。
在本公开中，“扩展帧内预测模式(IPM)候选集”包括所有传统IPM和扩展IPM(如图23所示，其中传统角IPM用箭头表示，扩展角IPM由虚线表示)。
DIMD的MPM列表构建
1.对于经DIMD编解码块，建议根据DIMD候选列表来导出最佳IPM(例如，将用于对块进行编解码的IPM)，其中DIMD候选列表中的候选总数小于传统IPM候选集或扩展IPM候选集中的候选总数。
a.在一个示例中，DIMD候选列表被设置为DIMD编解码块构建的MPM列表(即，DIMDMPM列表)。
i.在一个示例中，可以使用与传统帧内预测相同的过程来构建用于DIMD编解码块的MPM列表。
1)在一个示例中，在HEVC、JEM或VVC中使用相同的方式来构建MPM列表。
2)在一个示例中，无论是否使用DIMD，都可以为视频单元定义单个MPM列表构建过程。
ii.或者，可以使用与传统帧内预测不同的过程来构建用于DIMD编解码块的MPM列表。
1)在一个示例中，可以为视频单元定义一个以上的MPM列表构建过程，其中至少一个附加规则是专门为DIMD编解码块MPM列表构建而设计的(例如，DIMD MPM列表)。
2)在一个示例中，当传统的MPM列表包含不是基于邻近块的经编解码的信息(例如，IPM)导出的一个或多个IPM时，这种类型的IPM可以不被添加到DIMD MPM列表。
a)在一个示例中，当使用邻近样本的梯度导出一个或多个IPM并将其添加到传统MPM列表时，这些IPM可以不添加到DIMDMPM列表。
3)在一个示例中，当前块的传统MPM列表的子集可以用作DIMD MPM列表。
a)在一个示例中，当为当前块构建辅传统MPM列表时，可以仅使用主常规MPM表来构建DIMD MPM列表。
i.或者，主常规MPM列表和辅常规MPM表中的IPM都可以用于构建DIMD MPM列表。
b)在一个示例中，传统MPM列表中的前M个(例如，M＝6)IPM可以用于构建DIMD MPM列表。
4)在一个示例中，用于构建DIMD MPM列表的邻近块的数目可以不同于(例如，大于或小于)用于构建用于当前块的传统MPM列表中的邻近块数目。
a)在一个示例中，当使用左邻近块和上邻近块来构建用于当前块的传统MPM列表时，可以使用左邻近块，和/或上邻近块，和/或左下邻近块，右上邻近块和/或，和/或左上方邻近块来构建DIMD MPM列表。
5)在一个示例中，可以使用MPM候选的不同顺序来执行传统MPM列表和DIMD MPM列表。
a)例如，平面模式可以按不同的顺序放置，而不是像传统MPM列表中那样放在第一位。
b.在一个示例中，DIMD候选列表大小(例如，DIMD候选列表中的候选数目)被设置为预定义值或动态导出。
i.在一个示例中，列表大小被设置为K(例如，K＝6或K＝22)。
ii.或者，列表大小可以取决于当前块和/或其邻近块(相邻或非相邻)的解码信息。
2.在DIMD候选(例如，MPM)列表构建过程中，当邻近块没有用帧内模式(例如，帧间编解码/IBC/PLT模式)编解码时，预定义的IPM可以用作邻近块的IPM。
a.此外，同样的，应用非DIMD编解码块的MPM构建过程，其中预定义IPM被视为正常帧内预测模式。
3.在DIMD候选(例如，MPM)列表构建过程中，可以使用针对非帧内编解码的邻近块(例如，帧间编解码/IBC/PLT模式)的传播的IPM来构建DIMD候选列表。
a.在一个示例中，邻近块(相邻的或非相邻的)可以指左邻近块、和/或上邻近块、和/或左下邻近块、和/或在右上邻近块、和/或左上邻近块。
b.在一个示例中，可以使用邻近块的左上位置或邻近块的中心位置来导出传播的IPM。
c.在一个示例中，当利用帧间模式对邻近块进行编解码时，可以使用邻近块的运动信息来导出传播的IPM。
i.在一个示例中，运动信息可以是在运动细化之前或之后(例如，使用运动矢量细化方法(例如，DMVR))与邻近块相关联的信息。
ii.在一个示例中，当在邻近块中存在一个以上的运动信息(例如，双向预测，或者在TPM/GEO/GPM模式中用于两个部分的两个运动信息)时，可以使用第一运动信息(例如L0)或/第二运动信息(例如L1)来导出传播的IPM。
iii.在一个示例中，当邻近块的每个子块具有其自己的运动信息(例如，仿射/FURC/SbTMVP/GPM)时，可以使用子块的运动信息来导出IPM。
d.在一个示例中，当用IBC模式对邻近块进行编解码时，可以使用邻近块的块矢量来导出传播的IPM。
i.或者，可以使用预定义的模式作为传播的IPM。
ii.在一个示例中，可以使用默认块矢量来导出传播的IPM。
e.在一个示例中，当构建DIMD候选(例如，MPM)列表时，可以使用修剪，其中当传播的IPM已经在DIMD候选列表中时，不再添加传播的IPM。
f.在一个示例中，添加到MPM列表中的传播IPM的顺序可以取决于经编解码的信息。
i.在一个示例中，可以按照与具有帧内模式的邻近块相同的顺序来添加具有非帧内模式的邻近块的传播的IPM。
ii.在一个示例中，可以在从具有帧内编解码模式的邻近块导出的所有IPM之后添加所有传播的IPM。
iii.在一个示例中，可以在来自具有帧内编解码模式的邻近块的IPM之前添加一个或多个传播的IPM。
1)在一个示例中，可以在左下/右上/左上邻近块的IPM之前添加传播的左邻近块和上块邻近块的IPM。
g.此外，同样的，应用非DIMD编解码块的DIMDMPM列表构建过程，其中传播的IPM被视为正常帧内预测模式。
h.在一个示例中，DIMD MPM列表可以用于导出DIMD编解码块的最佳IPM。
4.当生成DIMD编解码块的预测块时，在非DIMD块的帧内预测中使用的一个或多个编解码工具可以不用于DIMD编解码块。
a.在一个示例中，帧内预测中使用的X抽头插值滤波可以不在DIMD中使用。
i.在一个示例中，X等于6、或8、或12。
ii.或者，当X小于或等于T1，例如T1＝4或2时，可以在DIMD中使用在当前块的帧内预测中使用的X抽头插值滤波。
b.在一个示例中，在DIMD中可以不使用在当前块的帧内预测中使用的PDPC或梯度PDPC。
c.在一个示例中，参考样本滤波/平滑(例如，MDIS)可以不用于DIMD编解码块。
i.或者，参考样本滤波/平滑(例如，MDIS)可以有条件地应用于DIMD编解码块。
d.在一个示例中，是否对参考样本进行滤波以用于DIMD中的帧内预测可以对当前块使用相同的条件。
i.或者，用于DIMD中的帧内预测的参考样本可以总是被滤波。
ii.或者，可以不对用于DIMD中的帧内预测的参考样本进行滤波。
5.在DIMD编解码块的最佳IPM选择期间，可以不使用在非DIMD块的帧内预测中使用的一个或多个编解码工具。
a.在一个示例中，项目符号4中提到的方法可以在DIMD编解码块的最佳IPM选择期间应用。
关于通过信号传输DIMD(TIMD)
6.是否使用/启用DIMD(TIMD)和/或如何使用DIMD(TIMD)可以作为语法元素而通过信号被传输。
a.在一个示例中，语法元素(例如，gci_no_dimd_constraint_flag或gci_no_md_constraint_flag)可以在通用约束信息语法中通过信号被传输。
i.在一个示例中，当指示对DIMD(TIMD)的通用约束的语法元素等于X(例如，X＝0或X＝1)时，不应使用DIMD(TIMD)。
b.在一个示例中，指示是否启用DIMD(TIMD)的语法元素可以在序列头/图片头/SPS/VPS/DPS/DCI/PPS/APS/条带头/图块组头处通过信号被传输。
i.在一个示例中，可以在SPS中通过信号传输语法元素(例如，sps_dimd_enabled_flag或sps_timd_enabled_flag)，其中当语法元素等于X(例如，X＝0或X＝1)时启用DIMD/TIMD。
c.在一个示例中，语法元素(例如，dimd_flag或timd_flag)可以通过信号被传输以指示DIMD(TIMD)是否用于视频单元(例如，CU或TU)。
i.在一个示例中，当编解码工具用于视频单元时，语法元素可以不通过信号传输并且被推断为X(例如，X＝0)。
1)在一个示例中，编解码工具可以是指JVET中的DIMD(其中编码器和解码器在不构建包括至少一个帧内预测模式的候选列表的情况下导出针对当前视频单元的帧内预测模型)、和/或BDPCM、和/或PLT、和/或IBC、和/或MIP。
ii.在一个示例中，当DIMD(TIMD)用于视频单元时，一个或多个语法元素可以不通过信号传输。
1)在一个示例中，当DIMD(TIMD)用于视频单元时，指示编解码工具是否的一个或多个语法元素可以不通过信号传输。
a)在一个示例中，编解码工具可以指除DIMD(TIMD)之外的所有帧内编解码工具。
b)在一个示例中，编解码工具可以是指JVET中的DIMD(其中编码器和解码器在不构建包括至少一个帧内预测模式的候选列表的情况下导出针对当前视频单元的帧内预测模型)、和/或BDPCM、和/或PLT、和/或IBC、和/或MIP、和/或ISP、和/或MRL。
2)在一个示例中，当DIMD(TIMD)用于视频单元时，可以不通过信号传输针对亮度帧内预测模式的剩余语法元素(例如，MPM标志、平面标志、MPM索引、MPM余数索引)。
通用权项
7.是否应用和/或如何应用上述公开的方法可以在序列级别/图片组级别/图片级别/条带级别/图块组级别用信号发送，例如在序列头/图片头/SPS/VPS/DPS/DCI/PPS/APS/条带头/图块组头。
8.是否应用和/或如何应用上述公开的方法可以在包含多于一个样本或像素的PB/TB/CB/PU/TU/CU/VPDU/CTU/CTU行/条带/图块/子图片/其他类型的区域处用信号发送。
9.是否应用和/或如何应用上述公开的方法可以取决于经编解码的信息，例如块大小、色彩格式、单/双树划分、色彩分量、条带/图片类型。
5.实施例
以下是上面在第4节中总结的本发明的一些方面的一些示例实施例。
5.1实施例1
5.1.1.TIMD模式导出
对于MPM中的每个帧内预测模式，计算帧内预测模型和模板的重建样本之间的SATD。选择SATD最小的帧内预测模式作为TIMD模式，并用于当前CU的帧内预测。TIMD模式的导出中包括位置相关帧内预测组合(PDPC)。
5.1.2TIMD信号
在序列参数集(SPS)中通过信号传输标志以启用/禁用所提出的方法。当该标志为真时，通过信号传输CU级标志以指示是否使用所提出的TIMD方法。TIMD标志紧接在MIP标志之后通过信号被传输。如果TIMD标志为真，则与亮度帧内预测模式(包括MRL、ISP)相关的剩余语法元素和针对亮度帧内预测模式的正常解析阶段都被跳过。
5.1.3.与JVET-U0100中新编解码工具的交互
在JVET-U0100中集成了一种使用平面进行预测融合的DIMD方法(在“Compressionefficiency methods beyond VVC”，联合视频专家组的文件，JVET-U 0100，通过电话会议，2020年1月，Y.-J.C.Chang，C.-C.C.Chen，J.Chen，J.Dong等中公开)。当JVET-U0100 DIMD标志为true时，所提出的TIMD标志不通过信号传输并设置为假。
与PDPC类似，梯度PDPC也包含在TIMD模式的导出中。
启用辅MPM时，主MPM和辅MPM都用于导出TIMD模式。
在TIMD模式的导出中不使用6抽头插值滤波器。
5.1.4.TIMD模式导出中MPM列表构造的修改
在MPM列表的构建过程中，相邻块的帧内预测模式在其被帧间编码时被导出为平面。为了提高MPM列表的准确性，当相邻块被帧间编码时，使用运动矢量和参考图片来导出传播的帧内预测模式(在“Intra-Prediction Mode Propagation for Video Coding”，IEEE Journal on Emerging and Selected Topics in Circuits and Systems，vol.9，no.1，第110-121页。2019年3月，K.Zhang，L.Zhang，W.Chien和M。Karczewicz中公开)，并用于MPM列表的构建。此修改仅适用于TIMD模式的导出。
需要澄清的是，以下描述(或其类似描述)是等同并且彼此可改变：语法元素没有在码流中用信号发送，语法元素没有用于视频单元，或者语法元素不存在。
图24示出了根据本公开的一些实施例的用于视频处理的方法2400的流程图。方法2400包括：确定2510视频的至少一个语法元素，该至少一个语法元素指示以下中的至少一项：第一标志，指示编码器和解码器是否基于视频的当前视频单元的邻近样本导出帧内预测模式，或者至少一个参数，被用于基于当前视频单元的邻近样本导出帧内预测模式；以及利用至少一个语法元素执行2520视频与码流之间的转换。本文中使用的术语“语法元素”可以指代用于通过信号发送信息的标志、索引或任何其他合适的元素。
以这种方式，关于DIMD的信息在编码器和解码器之间可以是一致的。与传统方案相比，所提出的方法可以有利地提高编解码效率。
在一些实施例中，所述至少一个语法元素被包括在通用约束信息语法结构中。在一个特定实施例中，当指示对DIMD(TIMD)的一般约束的语法元素等于X(例如，X＝0或X＝1)时，不应使用DIMD(TIMD)。在另一特定实施例中，当指示对DIMD(TIMD)的一般约束的语法元素等于X(例如，X＝0或X＝1)时，不应使用DIMD(TIMD)。
在一些实施例中，可以以各种形式用信号通知语法元素。举例来说，语法元素被包括在VPS中。可替换地，该语法元素被包括在SPS中。可替换地，语法元素被包括在PPS中。可替换地，语法元素被包括在DPS中。可替换地，该语法元素被包括在DCI中。或者，语法元素被包括在APS中。可替换地，语法元素被包括在序列头中。或者，语法元素被包括在图片头中。可替换地，语法元素被包括在子图片头中。可替换地，语法元素被包括在条带头中。或者，语法元素被包括在图块头中。
在一个特定实施例中，语法元素(例如，sps_dimd_enabled_flag或sps_timd_enabled_flag)可以包括在SPS中，其中在语法元素等于X(例如，X＝0或X＝1)时启用DIMD/TIMD。在另一特定实施例中，语法元素(例如，sps_dimd_enabled_flag或sps_timd_enabled_flag)可包括在SPS中，其中在语法元素等于X(例如，X＝0或X＝1)时，禁用DIMD/TIMD。
在一些实施例中，至少一个语法元素按以下级别之一被包括：序列级别、图片组级别、图片级别、条带级别或图块组级别。
在一些实施例中，至少一个语法元素被包括在包含至少一个样本或像素的区域处。举例来说，该区域是PB。可替换地，该区域是TB。可替换地，该区域是CB。可替换地，该区域是PU。可替换地，该区域是TU。可替换地，该区域为CU。可替换地，该区域是VPDU。可替换地，该区域是CTU。可替换地，该区域是CTU行。可替换地，该区域是条带。可替换地，该区域是图块。可替换地，该区域是子图片。
在一些实施例中，至少一个语法元素与经编解码的信息相关联。
在一些实施例中，经编解码的信息可以包括任何适当的信息。在一个示例中，经编解码的信息是块大小。可替换地，在另一示例中，经编解码的信息是色彩格式。在另一个示例中，经编解码的信息是单/双树划分。可替换地，该信息可以是其他适当信息，例如色彩分量、条带类型或图片类型。
在一些实施例中，至少一个语法元素是特定于当前视频单元的。
在一些实施例中，至少一个语法元素可以是任何适当的元素。在一个示例中，至少一个语法元素是gci_no_dimd_constraint_flag。可替换地，至少一个语法元素是gci_no_ind_constraint_flag。可替换地，至少一个语法元素是sps_dimd_enabled_flag。可替换地，至少一个语法元素是sps_timd_enabled_flag。可替换地，至少一个语法元素是dimd_flag。可替换地，至少一个语法元素是timd_flag。在一个特定实施例中，在编解码工具被用于视频单元时，该语法元素可以不被包括并且被推断为X(例如，X＝0/1)。
在一些实施例中，如果至少一个特定编解码工具用于视频单元，则该至少一个语法元素不被包括在码流中或者被确定为默认值。
在一些实施例中，如果以下编解码工具中的至少一个编解码工具被用于视频单元，则至少一个语法元素不包括在码流中：基于块的增量脉冲编解码调制(BDPCM)、调色板、块内复制(IBC)或基于矩阵的帧内预测(MIP)。
在一些实施例中，如果第一标志指示编码器和解码器基于邻近样本导出帧内预测模式，指示至少一个编解码工具的至少一个另外的语法元素不被包括在码流中，该至少一个编译工具包括以下中的至少一者：与解码器侧帧内模式导出无关的帧内编译工具、BDPCM、调色板、IBC、MIP、ISP或MRL。在一个特定实施例中，指示编解码工具是否被用于视频单元的至少一个另外的语法元素不被包括在码流中。可替换地，在另一特定实施例中，指示编解码工具是否被用于视频单元的至少一个另外的语法元素被认为是默认值(例如，false)。换句话说，至少一个另外的语法元素不被用于视频单元。
在一些实施例中，第一标志指示编码器和解码器基于邻近样本导出帧内预测模式，并且用于亮度帧内预测模型的至少一个另外的语法元素不包括在码流中。在一个特定实施例中，用于亮度帧内预测模式的至少一个另外的语法元素不包括在码流中。可替换地，在另一特定实施例中，指示编解码工具是否用于视频单元的至少一个另外的语法元素被认为是默认值(例如，false)。换句话说，该至少一个另外的语法元素不用于视频单元。
在一些实施例中，至少一个另外的语法元素包括以下中的至少一个：MPM标志、辅助MPM标志、辅助MPM索引、平面标志、MPM索引或MPM余数索引。
在一些实施例中，第一标志在MIP标志之后以信号发送。
在一些实施例中，第一标志指示解码器侧帧内模式导出是否被启用。
在一些实施例中，至少一个参数将由解码器侧帧内模式导出使用。
在一些实施例中，第一标志是以下之一：第二标志，其指示是否基于多个帧内预测模式(IPM)来启用针对视频单元的第一候选列表的构建，该多个IPM的数目小于预设值；或者第三标志，其指示是否基于当前块的邻近块的信息来启用针对视频单元的第二候选列表的构建，该邻近块未被利用帧内模式进行编解码。
在一些实施例中，如果编码器和解码器在没有构建包括至少一个帧内预测模式的候选列表的情况下导出针对该视频单元的帧内预测模式，则第一标志不被包括在码流中。
在一些实施例中，如果第二标志或第三标志被启用，则另一语法元素不被包括在码流中，该另一语法元素指示编码器和解码器在没有构建包括至少一个帧内预测模式的候选列表的情况下导出针对该视频单元的帧内预测模型。在一个特定实施例中，指示JVET中的DIMD的另一语法元素不被用于该视频单元。在另一特定实施例中，指示JVET中的DIMD的另一语法元素被认为是默认值(例如，false)。
在一些实施例中，执行2520变化包括：利用至少一个语法元素从码流解码视频。
在一些实施例中，执行2520转换包括：利用至少一个语法元素将视频编码为码流。
可以根据以下条款来描述本公开的实施方式，这些条款的特征可以以任何合理的方式进行组合。
条款1.一种用于视频处理的方法，包括：确定视频的至少一个语法元素，所述至少一个语法元素指示以下中的至少一项：第一标志，所述第一标志指示编码器和解码器是否基于视频的当前视频单元的邻近样本导出帧内预测模式，或者至少一个参数，被用于基于当前视频单元的邻近样本导出帧内预测模式；以及利用所述至少一个语法元素执行视频与码流之间的转换。
条款2.根据条款1所述的方法，其中所述至少一个语法元素被包括在通用约束信息语法结构中。
条款3.根据条款1所述的方法，其中所述至少一个语法元素包括在以下之一中：VPS、SPS、PPS、DPS、DCI、APS、序列头、图片头、子图片头、条带头或图块头。
条款4.根据条款1所述的方法，其中所述至少一个语法元素按以下级别之一被包括：序列级别、图片组级别、图片级别、条带级别或图块组级别。
条款5根据条款1所述的方法，其中所述至少一个语法元素被包括在包含至少一个样本或像素的区域中，该区域是以下区域之一：PB、TB、CB、PU、TU、CU、VPDU、CTU、CTU行、条带、图块或子图片。
条款6.根据条款1所述的方法，其中所述至少一个语法元素与经编解码的信息相关联。
条款7.根据条款6所述的方法，其中所述经编解码的信息包括以下至少一项：块大小、色彩格式、单/双树划分、色彩分量、条带类型或图片类型。
条款8.根据条款1所述的方法，其中所述至少一个语法元素特定于所述当前视频单元。
条款9.根据第1条所述的方法，其中所述至少一个语法元素是以下元素之一：gci_no_dimd_constraint_flag、gci_no_md_constraint_flag、sps_dimd_enabled_flag、ps_timd_enabled_flag、dimd_flag或timd_flag。
条款10.根据条款1所述的方法，其中如果至少一个特定编解码工具用于所述视频单元，则所述至少一个语法元素不被包括在所述码流中或被确定为默认值。
条款11.根据条款1所述的方法，如果以下编解码工具中的至少一个用于当前视频单元，则所述至少一个语法元素不包括在码流中：基于块的增量脉冲编解码调制(BDPCM)、调色板、块内复制(IBC)或基于矩阵的帧内预测(MIP)。
条款12.根据条款1所述的方法，其中如果所述第一标志指示所述编码器和解码器基于所述邻近样本导出所述帧内预测模式，则指示至少一个编解码工具的至少一个另外的语法元素不包括在所述码流中，所述至少一个编解码工具包括以下中的至少一个：与解码器侧帧内模式导出无关的帧内编解码工具、BDPCM、调色板、IBC、MIP、ISP或MRL。
条款13.根据条款1所述的方法，其中所述第一标志指示所述编码器和解码器基于所述邻近样本来导出所述帧内预测模式，并且用于亮度帧内预测模式的至少一个另外的语法元素不被包括在所述码流中。
条款14.根据条款13所述的方法，其中所述至少一个另外的语法元素包括以下至少一个：MPM标志、辅助MPM标志、辅助MPM索引、平面标志、MPM索引或MPM余数索引。
条款15.根据条款1所述的方法，其中所述第一标志在MIP标志之后以信号发送。
条款16.根据条款1所述的方法，其中所述第一标志指示解码器侧帧内模式导出是否被启用。
条款17.根据条款16所述的方法，其中所述至少一个参数将由所述解码器侧帧内模式导出使用。
条款18.根据条款1所述的方法，其中所述第一标志是以下之一：第二标志，所述第二标志指示是否基于多个帧内预测模式(IPM)其中针对当前DIMD块的第一候选列表的构建，所述多个IPM的数目小于预设值，或者第三标志，所述第三标志指示是否基于所述当前块的邻近块的信息来启用针对所述当前视频单元的第二候选列表的构建，所述邻近块未被利用帧内模式进行编解码。
条款19.根据条款18所述的方法，其中如果编码器和解码器在没有构建包括至少一个帧内预测模式的候选列表的情况下导出针对当前视频单元的帧内预测模式，则第一标志不被包括在码流中。
条款20.根据条款18所述的方法，其中如果所述第二标志或所述第三标志被启用，则所述码流中不包括另一语法元素，所述另一语法元素指示编码器和解码器在没有构建包括至少一个帧内预测模式的候选列表的情况下导出针对所述当前视频单元的帧内预测模式。
条款21.根据条款1-18中任一项所述的方法，其中执行所述转换包括：利用所述至少一个语法元素从所述码流解码所述视频。
条款22.根据条款1-18中任一项所述的方法，其中执行所述转换包括：利用所述至少一个语法元素将所述视频编码成所述码流。
条款23.一种用于处理视频数据的电子设备，包括：处理单元；以及存储器，所述存储器耦合到所述处理单元并且具有存储在其上的指令，所述指令在由所述处理单位执行时使得所述电子设备执行根据条款1-20中任一条款的方法。
条款24.一种非暂态计算机可读存储介质，所述计算机可读存储介质存储指令，所述指令使处理器执行根据条款1-22中任一条款的方法。
条款25.一种非暂态计算机可读记录介质，存储通过根据条款1-22中任一条款的方法生成的视频的码流，其中该方法由视频处理装置执行。
条款26.一种用于存储视频的码流的方法，包括：通过根据条款1-22中任一项的方法生成视频的码流，其中所述方法由用于处理视频数据的装置执行；以及将码流存储在非暂态计算机可读记录介质中。
示例设备
图25示出了可以在其中实现本公开的各种实施例的计算设备2500的框图。计算设备2500可以被实现为源设备110(或视频编码器114或200)或目的设备120(或视频解码器124或300)，或者可以被包括在源设备110(或视频编码器114或200)或目的设备120(或视频解码器124或300)中。
应当理解的是，图25中示出的计算设备2500仅为了说明的目的，而不是以任何方式暗示对本公开实施例的功能和范围的任何限制。
如图25所示，计算设备2500包括通用计算设备2500。计算设备2500可以至少包括一个或多个处理器或处理单元2510、存储器2520、存储单元2530、一个或多个通信单元2540、一个或多个输入设备2550以及一个或多个输出设备2560。
在一些实施例中，计算设备2500可以被实现为具有计算能力的任何用户终端或服务器终端。服务器终端可以是由服务提供商提供的服务器、大型计算设备等。用户终端例如可以是任何类型的移动终端、固定终端或便携式终端，包括移动电话、站、单元、设备、多媒体计算机、多媒体平板计算机、互联网节点、通信器、台式计算机、膝上型计算机、笔记本计算机、上网本计算机、个人通信系统(PCS)设备、个人导航设备、个人数字助理(PDA)、音频/视频播放器、数码相机/摄像机、定位设备、电视接收器、无线电广播接收器、电子书设备、游戏设备或其任何组合，并且包括这些设备的附件和外围设备或其任何组合。可以设想的是，计算设备2500可以支持到用户的任何类型的接口(诸如“可穿戴”电路装置等)。
处理单元2510可以是物理处理器或虚拟处理器，并且可以基于存储在存储器2520中的程序实现各种处理。在多处理器系统中，多个处理单元并行地执行计算机可执行指令，以便改善计算设备2500的并行处理能力。处理单元2510也可以被称为中央处理单元(CPU)、微处理器、控制器或微控制器。
计算设备2500通常包括各种计算机存储介质。这样的介质可以是由计算设备2500可访问的任何介质，包括但不限于易失性介质和非易失性介质、或可拆卸介质和不可拆卸介质。存储器2520可以是易失性存储器(例如，寄存器、高速缓存、随机存取存储器(RAM))、非易失性存储器(诸如只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)或闪存)或其任何组合。存储单元2530可以是任何可拆卸或不可拆卸的介质，并且可以包括机器可读介质，诸如存储器、闪存驱动器、磁盘或其他可以被用于存储信息和/或数据并且可以在计算设备2500中被访问的介质。
计算设备2500还可以包括附加的可拆卸/不可拆卸存储介质、易失性/非易失性存储介质。尽管在图25中未示出，但是可以提供用于从可拆卸的非易失性磁盘读取和/或写入可拆卸的非易失性磁盘的磁盘驱动器，以及用于从可拆卸的非易失性光盘读取和/或写入可拆卸的非易失性光盘的光盘驱动器。在这种情况下，每个驱动器可以经由一个或多个数据介质接口连接到总线(未示出)。
通信单元2540经由通信介质与另一计算设备通信。另外，计算设备2500中的组件的功能可以由可以经由通信连接进行通信的单个计算集群或多个计算机器来实现。因此，计算设备2500可以使用与一个或多个其他服务器、联网个人计算机(PC)或其他通用网络节点的逻辑连接来在联网环境中运行。
输入设备2550可以是各种输入设备中的一种或多种输入设备，诸如鼠标、键盘、轨迹球、语音输入设备等。输出设备2560可以是各种输出设备中的一种或多种输出设备，诸如显示器、扬声器、打印机等。借助于通信单元2540，计算设备2500还可以与一个或多个外部设备(未示出)通信，外部设备诸如是存储设备和显示设备，计算设备2500还可以与一个或多个使用户能够与计算设备2500交互的设备通信，或任何使计算设备2500能够与一个或多个其他计算设备通信的设备(例如网卡、调制解调器等)通信，如果需要的话。这种通信可以经由输入/输出(I/O)接口(未示出)进行。
在一些实施例中，计算设备2500的一些或所有组件也可以被布置在云计算架构中，而不是被集成在单个设备中。在云计算架构中，组件可以被远程提供并且共同工作，以实现本公开中描述的功能。在一些实施例中，云计算提供计算、软件、数据访问和存储服务，这将不要求最终用户知晓提供这些服务的系统或硬件的物理位置或配置。在各种实施例中，云计算使用合适的协议经由广域网(例如互联网)提供服务。例如，云计算提供商通过广域网提供应用程序，可以通过网络浏览器或任何其他计算组件访问这些应用程序。云计算架构的软件或组件以及对应的数据可以存储在远程服务器上。云计算环境中的计算资源可以被合并或分布在远程数据中心的位置。云计算基础设施可以通过共享数据中心提供服务，尽管它们表现为作为用户的单一接入点。因此，云计算架构可与被用于从远程位置的服务提供商处提供本文所述的组件和功能。备选地，它们可以由常规服务器提供，或者直接或以其他方式安装在客户端设备上。
在本公开的实施例中，计算设备2500可以被用于实现视频编码/解码。存储器2520可以包括具有一个或多个程序指令的一个或多个视频编解码模块2525。这些模块能够由处理单元2510访问和执行，以执行本文描述的各种实施例的功能。
在执行视频编码的示例实施例中，输入设备2550可以接收视频数据作为待编码的输入2570。视频数据可以由例如视频编解码模块2525处理，以生成经编码的码流。经编码的码流可以经由输出设备2560作为输出2580被提供。
在执行视频解码的示例实施例中，输入设备2550可以接收经编码的码流作为输入2570。经编码的码流可以由例如视频编解码模块2525处理，以生成经解码的视频数据。经解码的视频数据可以经由输出设备2560作为输出2580被提供。
虽然已经参考本公开的优选实施例具体示出和描述了本公开，但是本领域技术人员将理解，在不脱离由所附权利要求限定的本申请的精神和范围的情况下，可以在形式和细节上进行各种改变。这些变化旨在由本申请的范围所涵盖。因此，本申请的实施例的前述描述不旨在是限制性的。

Claims (26)

1.一种处理视频数据的方法，包括：
确定视频的至少一个语法元素，所述至少一个语法元素指示以下中的至少一项：
第一标志，指示编码器和解码器是否基于所述视频的当前视频单元的邻近样本导出帧内预测模式，或者
至少一个参数，被用于基于所述当前视频单元的所述邻近样本来导出所述帧内预测模式；以及
利用所述至少一个语法元素执行所述视频与码流之间的转换。
2.根据权利要求1所述的方法，其中所述至少一个语法元素被包括在通用约束信息语法结构中。
3.根据权利要求1所述的方法，其中所述至少一个语法元素被包括在以下之一中：
视频参数集(VPS)，
序列参数集(SPS)，
图片参数集(PPS)，
依赖性参数集(DPS)，
解码能力信息(DCI)，
自适应参数集(APS)，
序列头，
图片头，
子图片头，
条带头，或
图块头。
4.根据权利要求1所述的方法，其中所述至少一个语法元素按以下级别之一被包括：
序列级别，
图片组级别，
图片级别，
条带级别，或
图块组级别。
5.根据权利要求1所述的方法，其中所述至少一个语法元素被包括在包含至少一个样本或像素的区域中，所述区域是以下区域之一：
预测块(PB)，
变换块(TB)，
编解码块(CB)，
预测单元(PU)，
变换单元(TU)，
编解码单元(CU)，
虚拟流水线数据单元(VPDU)，
编解码树单元(CTU)，
CTU行，
条带，
图块，或
子图片。
6.根据权利要求1所述的方法，其中所述至少一个语法元素与经编解码的信息相关联。
7.根据权利要求6所述的方法，其中所述经编解码的信息包括以下至少一项：
块大小，
色彩格式，
单/双树划分，
色彩分量，
条带类型，或者
图片类型。
8.根据权利要求1所述的方法，其中所述至少一个语法元素特定于所述当前视频单元。
9.根据权利要求1所述的方法，其中所述至少一个语法元素是以下语法元素之一：
gci_no_dimd_constraint_flag，
gci_no_timd_constraint_flag，
sps_dimd_enabled_flag，
sps_timd_enabled_flag，
dimd_flag，或者
timd_flag。
10.根据权利要求1所述的方法，其中如果至少一个特定编解码工具被用于所述当前视频单元，则所述至少一个语法元素不被包括在所述码流中或被确定为默认值。
11.根据权利要求1所述的方法，其中如果以下编解码工具中的至少一个编解码工具被用于所述当前视频单元，则所述至少一个语法元素不被包括在所述码流中：
基于块的增量脉冲编解码调制(BDPCM)，
调色板，
块内复制(IBC)，或者
基于矩阵的帧内预测(MIP)。
12.根据权利要求1所述的方法，其中如果所述第一标志指示所述编码器和所述解码器基于所述邻近样本导出所述帧内预测模式，则指示至少一个编解码工具的至少一个另外的语法元素不被包括在所述码流中，所述至少一个编解码工具包括以下至少一项：
与解码器侧帧内模式导出无关的帧内编解码工具，
基于块的增量脉冲编解码调制(BDPCM)，
调色板，
帧内块复制(IBC)，
基于矩阵的帧内预测(MIP)，
帧内子划分(ISP)，或者
多参考行(MRL)。
13.根据权利要求1所述的方法，其中所述第一标志指示所述编码器和所述解码器基于所述邻近样本导出所述帧内预测模式，并且用于亮度帧内预测模式的至少一个另外的语法元素不被包括在所述码流中。
14.根据权利要求13所述的方法，其中所述至少一个另外的语法元素包括以下至少一个：
最可能模式(MPM)标志，
辅助MPM标志，
辅助MPM索引，
平面标志，
MPM索引，或者
MPM余数索引。
15.根据权利要求1所述的方法，其中所述第一标志在基于矩阵的帧内预测(MIP)标志之后以信号发送。
16.根据权利要求1所述的方法，其中所述第一标志指示解码器侧帧内模式导出是否被启用。
17.根据权利要求16所述的方法，其中所述至少一个参数将由所述解码器侧帧内模式导出使用。
18.根据权利要求1所述的方法，其中所述第一标志是以下标志之一：
第二标志，所述第二标志指示是否基于多个帧内预测模式来启用针对所述当前视频单元的第一候选列表的构建，所述多个帧内预测模式的数目小于预设值，或者
第三标志，所述第三标志指示是否基于所述当前块的邻近块的信息来启用针对所述当前视频单元的第二候选列表的构建，所述邻近块未被利用帧内模式进行编解码。
19.根据权利要求18所述的方法，其中如果编码器和解码器在没有构建包括至少一个帧内预测模式的候选列表的情况下导出针对所述当前视频单元的帧内预测模式，则所述第一标志不被包括在所述码流中。
20.根据权利要求18所述的方法，其中如果所述第二标志或所述第三标志被启用，则所述码流中不包括另一语法元素，所述另一语法元素指示编码器和解码器在没有构建包括至少一个帧内预测模式的候选列表的情况下导出针对所述当前视频单元的帧内预测模式。
21.根据权利要求1-20中任一项所述的方法，其中执行所述转换包括：利用所述至少一个语法元素从所述码流解码所述视频。
22.根据权利要求1-20中任一项所述的方法，其中执行所述转换包括：利用所述至少一个语法元素将所述视频编码成所述码流。
23.一种用于处理视频数据的电子设备，包括：
处理单元；以及
存储器，其耦合到所述处理单元并且具有存储于其上的指令，所述指令在由所述处理单元执行时使所述电子设备执行根据权利要求1-22中任一项所述的方法。
24.一种非暂态计算机可读存储介质，所述计算机可读存储介质存储指令，所述指令使处理器执行根据权利要求1-22中任一项所述的方法。
25.一种非暂态计算机可读记录介质，存储由根据权利要求1-22中任一项所述的方法生成的视频的码流，其中所述方法由视频处理装置执行。
26.一种用于存储视频的码流的方法，包括：
通过根据权利要求1-22中任一项所述的方法生成视频的码流，其中所述方法由用于处理视频数据的装置执行；以及
将所述码流存储在非暂态计算机可读记录介质中。
CN202280027748.3A 2021-04-13 2022-04-12 用于视频处理的方法、设备和介质 Pending CN117356090A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN2021087065 2021-04-13
CNPCT/CN2021/087065 2021-04-13
PCT/CN2022/086460 WO2022218316A1 (en) 2021-04-13 2022-04-12 Method, device, and medium for video processing

Publications (1)

Publication Number Publication Date
CN117356090A true CN117356090A (zh) 2024-01-05

Family

ID=83639485

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280027748.3A Pending CN117356090A (zh) 2021-04-13 2022-04-12 用于视频处理的方法、设备和介质

Country Status (2)

Country Link
CN (1) CN117356090A (zh)
WO (1) WO2022218316A1 (zh)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116866557A (zh) * 2017-01-16 2023-10-10 世宗大学校产学协力团 影像解码/编码方法以及传送比特流的方法
EP3834410A4 (en) * 2018-09-13 2021-11-03 Huawei Technologies Co., Ltd. METHOD AND DEVICE FOR INTRAPREDICTION
US11057619B2 (en) * 2019-03-23 2021-07-06 Lg Electronics Inc. Image coding method and apparatus based on intra prediction using MPM list
WO2020228578A1 (en) * 2019-05-10 2020-11-19 Mediatek Inc. Method and apparatus of luma most probable mode list derivation for video coding
CN112055200A (zh) * 2019-06-05 2020-12-08 华为技术有限公司 Mpm列表构建方法、色度块的帧内预测模式获取方法及装置

Also Published As

Publication number Publication date
WO2022218316A1 (en) 2022-10-20

Similar Documents

Publication Publication Date Title
CN114765686A (zh) 基于多个帧内预测模式的解码或编解码图像的技术
CN117597931A (zh) 用于视频处理的方法、装置和介质
CN115668923A (zh) 编解码视频中多重变换矩阵的指示
WO2023016408A1 (en) Method, apparatus, and medium for video processing
CN115606182A (zh) 使用增强二次变换的编解码视频处理
CN117356090A (zh) 用于视频处理的方法、设备和介质
CN117581544A (zh) 用于视频处理所述的方法、设备和介质
CN117581536A (zh) 用于视频处理的方法、设备和介质
WO2022247884A1 (en) Method, device, and medium for video processing
CN117769836A (zh) 用于视频处理的方法、设备和介质
CN118120230A (zh) 用于视频处理的方法、装置和介质
CN118044182A (zh) 用于视频处理的方法、设备和介质
CN118120229A (zh) 用于视频处理的方法、装置和介质
WO2024114701A1 (en) Method, apparatus, and medium for video processing
US20240187576A1 (en) Method, apparatus, and medium for video processing
US20240187575A1 (en) Method, apparatus, and medium for video processing
WO2023016424A1 (en) Method, apparatus, and medium for video processing
WO2023016439A1 (en) Method, apparatus, and medium for video processing
US20240187569A1 (en) Method, apparatus, and medium for video processing
WO2024099334A1 (en) Method, apparatus, and medium for video processing
WO2023025178A1 (en) Method, apparatus, and medium for video processing
WO2023208057A1 (en) Method, apparatus, and medium for video processing
WO2024078551A1 (en) Method, apparatus, and medium for video processing
WO2024030926A9 (en) Method, apparatus, and medium for video processing
CN117501690A (zh) 用于视频处理的方法、设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination