CN117561714A - 用于视频处理的方法、设备和介质 - Google Patents

用于视频处理的方法、设备和介质 Download PDF

Info

Publication number
CN117561714A
CN117561714A CN202280042907.7A CN202280042907A CN117561714A CN 117561714 A CN117561714 A CN 117561714A CN 202280042907 A CN202280042907 A CN 202280042907A CN 117561714 A CN117561714 A CN 117561714A
Authority
CN
China
Prior art keywords
mode
prediction
block
video
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280042907.7A
Other languages
English (en)
Inventor
邓智玭
张凯
张莉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
ByteDance Inc
Original Assignee
Douyin Vision Co Ltd
ByteDance Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Douyin Vision Co Ltd, ByteDance Inc filed Critical Douyin Vision Co Ltd
Publication of CN117561714A publication Critical patent/CN117561714A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本公开的实施例提供一种用于视频处理的方法。该方法包括：在视频的目标块与视频的码流之间的转换期间，在编解码模式中向目标块应用基于梯度的位置相关预测组合，在基于梯度的位置相关预测组合中，目标块的一个数目的邻近样本的梯度被使用；以及基于应用执行转换。

Description

用于视频处理的方法、设备和介质
技术领域
本公开的实施例总体上涉及视频编解码技术，更具体地，涉及应用基于梯度的位置相关预测组合。
背景技术
当今，数字视频功能已应用于人们生活的方方面面，人们提出了多种视频处理技术，如运动图片专家组(MPEG)-2、MPEG-4、ITU-TH.263、国际电信联盟-电信标准化部门(ITU-T)H.264/MPEG-4第10部分高级视频编解码(AVC)、ITU-T H.265高效视频编解码(HEVC)标准、通用视频编解码(VVC)标准等，但视频处理技术仍有待改进。
发明内容
本公开的实施例提供用于应用基于梯度的位置相关预测组合的解决方案。
在第一方面中，提出了一种用于视频处理的方法。该方法包括在视频的目标块和视频的码流之间的转换期间，在编解码模式中向目标块应用基于梯度的位置相关预测组合，在基于梯度的位置相关预测组合中，目标块的一个数目的邻近样本的梯度被使用。该方法还包括基于应用执行转换。根据本公开的第一方面的方法在基于梯度的位置相关预测组合中应用目标块的一个数目的邻近样本的梯度，这增强了使用基于梯度的位置相关预测组合的灵活性，并且提高了转换的质量。
在第二方面中，提出了用于视频处理的另一种方法。该方法包括在视频的目标块和视频的码流之间的转换期间，基于目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定目标块的一个或多个假设。该方法还包括基于一个或多个假设来执行转换。根据本公开的第二方面的方法在基于梯度的位置相关预测组合中应用目标块的适当编解码信息，这增强了使用基于梯度的位置相关预测组合的灵活性，并且提高了转换的质量。
在第三方面中，提出了一种用于处理视频数据的装置，该装置包括处理器和在其上具有指令的非暂态存储器，其中指令在被处理器执行时使处理器执行根据本公开的第一或第二方面的方法。
在第四方面，提出了一种非暂态计算机可读存储介质，该非暂态计算机可读存储介质存储使处理器执行根据本公开的第一或第二方面的方法的指令。
在第五方面中，提出了一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储视频的通过由视频处理装置执行的方法而生成的码流，其中该方法包括：在编解码模式中向视频的目标块应用基于梯度的位置相关预测组合，在基于梯度的位置相关预测组合中，目标块的一个数目的邻近样本的梯度被使用；以及基于应用基于梯度的位置相关预测组合生成码流。
在第六方面中，提出了一种用于存储视频的码流的方法。该方法包括：在编解码模式中向视频的目标块应用基于梯度的位置相关预测组合，在基于梯度的位置相关预测组合中，目标块的一个数目的邻近样本的梯度被使用；基于应用基于梯度的位置相关预测组合生成码流；以及将码流存储在非暂态计算机可读记录介质中。
在第七方面中，提出了一种非暂态计算机可读记录介质。所述非暂态计算机可读记录介质存储视频的通过由视频处理装置执行的方法而生成的码流，其中，该方法包括：基于目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定目标块的一个或多个假设；以及基于目标块的一个或多个假设生成码流。
在第八方面，提出了一种用于存储视频的码流的方法，该方法包括：基于目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定目标块的一个或多个假设；基于目标块的一个或多个假设生成码流；以及将码流存储在非暂态计算机可读记录介质中。
提供本发明内容是为了以简化的形式介绍以下在详细描述中进一步描述的概念的选择。本发明内容不旨在识别所要求保护的主题的关键特征或基本特征，也不旨在用于限制所要求保护主题的范围。
附图说明
通过参考附图的以下详细描述，本公开的示例实施例的上述和其他目的、特征和优点将变得更加明显。在本公开的示例实施例中，相同的附图标记通常指代相同的组件。
图1示出了根据本公开的一些实施例的示例视频编解码系统的框图；
图2示出了根据本公开的一些实施例的示例视频编码器的框图；
图3示出了根据本公开的一些实施例的示例视频解码器的框图；
图4示出了帧内预测模式的示意图；
图5示出了用于广角帧内预测的参考样本的示意图；
图6示出了广角帧内预测的示意图；
图7A示出了应用于对角线和相邻角度帧内模式(对角线右上方模式)的PDPC使用的样本定义的示意图；
图7B示出了PDPC应用于对角线和相邻角度帧内模式(对角线左下方模式)的样本定义的示意图；
图7C示出了应用于对角线和相邻角度帧内模式(相邻对角线右上方模式)的PDPC使用的样本定义的示意图；
图7D示出了应用于对角线和相邻角度帧内模式(相邻对角线左下方模式)的PDPC使用的样本定义的示意图；
图8示出了邻近预测块的四个参考行的示例的示意图；
图9A示出了取决于块尺寸的子划分的过程的示意图；
图9B示出了取决于块尺寸的子划分的过程的示意图；
图10示出了矩阵加权帧内预测过程的示意图；
图11示出了空间合并候选的位置的示意图；
图12示出了考虑用于空间合并候选的冗余检查的候选对的示意图；
图13示出了用于时间合并候选的运动矢量缩放的图示的示意图；
图14示出了时间合并候选的候选位置的示意图；
图15示出了MMVD搜索点的示意图；
图16示出了BDOF中使用的扩展CU区域的示意图；
图17示出了用于对称MVD模式的图示的示意图；
图18示出了解码侧运动矢量细化的示意图；
图19示出了在CIIP权重导出中使用的顶部邻近块和左侧邻近块的示意图；
图20示出了按相同角度分组的GPM分割示例的示意图；
图21示出用于几何划分模式的单向预测MV选择的示意图；
图22示出了使用几何划分模式示例性生成弯曲权重w0的示意图；
图23示出了根据本公开的一些实施例的用于视频处理的方法的流程图；
图24示出了根据本公开的一些实施例的用于视频处理的另一方法的流程图；以及
图25示出了其中可以实现本公开的各种实施例的计算设备的框图。
在所有附图中，相同或相似的附图标记通常指代相同或相似的元素。
具体实施方式
现在将参考一些实施例来描述本公开的原理。应当理解的是，描述这些实施例仅出于说明并且帮助本领域技术人员理解和实施本公开的目的，而不暗示对本公开的范围的任何限制。除了下文所述的方式之外，本文所描述的公开内容还可以以各种方式实施。
在以下描述和权利要求中，除非另有定义，否则在本文中使用的所有科学术语和技术术语具有与本公开所属领域的普通技术人员通常理解的含义相同的含义。
本公开中提及的“一个实施例”、“实施例”、“示例实施例”等指示所描述的实施例可以包括特定的特征、结构或特性，但是并非每个实施例都必须包括该特定的特征、结构或特性。此外，这些短语不一定指同一实施例。此外，当结合示例实施例描述特定的特征、结构或特性时，无论是否明确描述，认为影响与其他实施例相关的这种特征、结构或特性在本领域技术人员的知识范围内。
应当理解的是，尽管术语“第一”和“第二”等可以用于描述各种元素，但这些元素不应受限于这些术语。这些术语仅用于区分一个元素与另一个元素。例如，第一元素可以被称为第二元素，类似地，第二元素可以被称为第一元素，而不脱离示例实施例的范围。如本文中所使用的，术语“和/或”包括一个或多个所列术语的任何和所有组合。
本文中所使用的术语仅用于描述特定实施例的目的，并不旨在限制示例实施例。如本文中所用的，单数形式“一”、“一个”和“该”也旨在包括复数形式，除非上下文另有明确指示。还应理解，术语“包括”、“包含”和/或“具有”在本文中使用时表示存在所述特征、元素和/或组件等，但不排除一个或多个其他特征、元素、组件和/或其组合的存在或添加。
示例环境
图1是图示可以利用本公开的技术的示例视频编解码系统100的框图。如所示出的，视频编解码系统100可以包括源设备110和目的设备120。源设备110也可以称为视频编码设备，并且目的设备120也可以称为视频解码设备。在操作中，源设备110可以被配置为生成经编码的视频数据，并且目的设备120可以被配置为对由源设备110生成的经编码的视频数据进行解码。源设备110可以包括视频源112、视频编码器114和输入/输出(I/O)接口116。
视频源112可以包括诸如视频捕获设备之类的源。视频捕获设备的示例包括但不限于从视频内容提供商接收视频数据的接口、用于生成视频数据的计算机图形系统和/或其组合。
视频数据可以包括一个或多个图片。视频编码器114对来自视频源112的视频数据进行编码，以生成码流。码流可以包括形成视频数据的编码表示的位序列。码流可以包括编码图片和相关联的数据。编码图片是图片的编码表示。相关联的数据可以包括序列参数集、图片参数集和其他语法结构。I/O接口116可以包括调制器/解调器和/或发送器。经编码的视频数据可以通过网络130A经由I/O接口116直接传输至目的设备120。经编码的视频数据也可以存储在存储介质/服务器130B上，以供目的设备120访问。
目的设备120可以包括I/O接口126、视频解码器124和显示设备122。I/O接口126可以包括接收器和/或调制解调器。I/O接口126可以从源设备110或存储介质/服务器130B获取经编码的视频数据。视频解码器124可以对经编码的视频数据进行解码。显示设备122可以向用户显示经解码的视频数据。显示设备122可以与目的设备120集成，或者可以在目的设备120的外部，该目的设备120被配置为与外部显示设备接口连接。
视频编码器114和视频解码器124可以根据视频压缩标准操作，诸如高效视频编解码(HEVC)标准、通用视频编解码(VVC)标准和其他现有和/或将来的标准。
图2是示出根据本公开的一些实施例的视频编码器200的示例的方框图，视频编码器200可以是图1所示的系统100中的视频编码器114的示例。
视频编码器200可以被配置为实现本公开的任何或所有技术。在图2的示例中，视频编码器200包括多个功能组件。本公开中描述的技术可以在视频编码器200的各个组件之间共享。在一些示例中，处理器可以被配置为执行本公开中描述的任何或所有技术。
在一些实施例中，视频编码器200可以包括划分单元201、预测单元202、残差生成单元207、变换单元208、量化单元209、反量化单元210、反变换单元211、重建单元212、缓冲213和熵编解码单元214，该预测单元202可以包括模式选择单元203、运动估计单元204、运动补偿单元205和帧内预测单元206。
在其他示例中，视频编码器200可以包括更多、更少或不同的功能组件。在一个示例中，预测单元202可以包括块内复制(IBC)单元。IBC单元可以在IBC模式中执行预测，其中至少一个参考图片是当前视频块所位于的图片。
此外，尽管一些组件(诸如运动估计单元204和运动补偿单元205)可以被集成，但是为了解释的目的，这些组件在图2的示例中被分离地示出。
划分单元201可以将图片划分成一个或多个视频块。视频编码器200和视频解码器300(其将在以下详细讨论)可以支持各种视频块大小。
模式选择单元203可以例如基于误差结果来选择多种编解码模式(帧内编码或帧间编码)中的一种编解码模式，并且将所产生的帧内编解码块或帧间编解码块提供给残差生成单元207以生成残差块数据，并且提供给重建单元212以重建编解码块以用作参考图片。在一些示例中，模式选择单元203可以选择帧内和帧间预测(CIIP)模式的组合，其中预测基于帧间预测信号和帧内预测信号。在帧间预测的情况下，模式选择单元203还可以为块选择针对运动矢量的分辨率(例如，亚像素精度或整数像素精度)。
为了对当前视频块执行帧间预测，运动估计单元204可以通过将来自缓冲213的一个或多个参考帧与当前视频块进行比较来生成针对当前视频块的运动信息。运动补偿单元205可以基于运动信息和来自缓冲213的除了与当前视频块相关联的图片之外的图片的经解码样本，来确定针对当前视频块的预测视频块。
运动估计单元204和运动补偿单元205可以对当前视频块执行不同的操作，例如，取决于当前视频块是在I条带、P条带还是B条带中。如本文中使用的，“I条带”可以是指由宏块构成的图片的一部分，所有宏块均基于同一图片内的宏块。此外，如本文中使用的，在一些方面中，“P条带”和“B条带”可以是指由独立于同一图片中的宏块的宏块构成的图片的部分。
在一些示例中，运动估计单元204可以对当前视频块执行单向预测，并且运动估计单元204可以搜索列表0或列表1的参考图片，以寻找针对当前视频块的参考视频块。运动估计单元204然后可以生成参考索引和运动矢量，该参考索引指示列表0或列表1中的包含参考视频块的参考图片，并且该运动矢量指示当前视频块与参考视频块之间的空间位移。运动估计单元204可以输出参考索引、预测方向指示符和运动矢量作为当前视频块的运动信息。运动补偿单元205可以基于由当前视频块的运动信息指示的参考视频块来生成当前视频块的预测视频块。
备选地，在其他示例中，运动估计单元204可以对当前视频块执行双向预测。运动估计单元204可以搜索列表0中的参考图片以寻找针对当前视频块的参考视频块，并且还可以搜索列表1中的参考图片以寻找针对当前视频块的另一参考视频块。运动估计单元204然后可以生成多个参考索引和多个运动矢量，该多个参考索引指示列表0和列表1中的包含多个参考视频块的多个参考图片，并且该多个运动矢量指示在多个参考视频块与当前视频块之间的多个空间位移。运动估计单元204可以输出当前视频块的多个参考索引和多个运动矢量以作为当前视频块的运动信息。运动补偿单元205可以基于由当前视频块的运动信息指示的多个参考视频块来生成针对当前视频块的预测视频块。
在一些示例中，运动估计单元204可以输出完整的运动信息集，以用于解码器的解码处理。备选地，在一些实施例中，运动估计单元204可以参考另一视频块的运动信息来通过信号传输当前视频块的运动信息。例如，运动估计单元204可以确定当前视频块的运动信息与邻近视频块的运动信息足够相似。
在一个示例中，运动估计单元204可以在与当前视频块相关联的语法结构中向视频解码器300指示一值，该值指示当前视频块具有与另一视频块相同的运动信息。
在另一示例中，运动估计单元204可以在与当前视频块相关联的语法结构中标识另一视频块和运动矢量差(MVD)。运动矢量差指示在当前视频块的运动矢量与所指示的视频块的运动矢量之间的差异。视频解码器300可以使用所指示的视频块的运动矢量以及运动矢量差来确定当前视频块的运动矢量。
如上所讨论的，视频编码器200可以以预测性的方式通过信号传输运动矢量。可以由视频编码器200实现的预测信令技术的两个示例包括高级运动矢量预测(AMVP)和合并模式信令。
帧内预测单元206可以对当前视频块执行帧内预测。当对当前视频块执行帧内预测时，帧内预测单元206可以基于同一图片中其他视频块的经解码样本来生成针对当前视频块的预测数据。针对当前视频块的预测数据可以包括预测视频块和各个语法元素。
残差生成单元207可以通过从当前视频块中减去(例如，由减号指示)当前视频块的(多个)预测视频块来生成针对当前视频块的残差数据。当前视频块的残差数据可以包括对应于当前视频块中样本的不同样本部分的残差视频块。
在其他示例中，例如在跳过模式中，针对当前视频块可以不存在针对当前视频块的残差数据，并且残差生成单元207可以不执行减去操作。
变换单元208可以通过将一个或多个变换应用于与当前视频块相关联的残差视频块，来生成针对当前视频块的一个或多个变换系数视频块。
在变换单元208生成与当前视频块相关联的变换系数视频块之后，量化单元209可以基于与当前视频块相关联的一个或多个量化参数(QP)值来量化与当前视频块相关联的变换系数视频块。
反量化单元210和反变换单元211可以分别对变换系数视频块应用反量化和反变换，以从变换系数视频块重建残差视频块。重建单元212可以将经重建的残差视频块添加到来自由预测单元202生成的一个或多个预测视频块的对应样本，以产生与当前视频块相关联的重建视频块，以供存储在缓冲213中。
在重建单元212重建视频块之后，可以执行环路滤波操作以减少视频块中的视频块效应伪像。
熵编解码单元214可以从视频编码器200的其他功能组件接收数据。当数据被接收时，熵编解码单元214可以执行一个或多个熵编码操作，以生成熵编解码数据并且输出包括该熵编解码数据的码流。
图3是示出根据本公开的一些实施例的视频解码器300的示例的方框图，视频解码器300可以是图1所示的系统100中的视频解码器124的示例。
视频解码器300可以被配置为执行本公开的任何或所有技术。在图3的示例中，视频解码器300包括多个功能组件。本公开中描述的技术可以在视频解码器300的各个组件之间共享。在一些示例中，处理器可以被配置为执行本公开中描述的任何或所有技术。
在图3的示例中，视频解码器300包括熵解码单元301、运动补偿单元302、帧内预测单元303、反量化单元304、反变换单元305、以及重建单元306和缓冲307。在一些示例中，视频解码器300可以执行通常与关于视频编码器200所描述的编码过程相对的解码过程。
熵解码单元301可以取回经编码的码流。经编码的码流可以包括经熵编码的视频数据(例如，经编码的视频数据块)。熵解码单元301可以对经熵编码的视频数据进行解码，并且运动补偿单元302可以从经熵解码的视频数据中确定运动信息，该运动信息包括运动矢量、运动矢量精度、参考图片列表索引和其他运动信息。运动补偿单元302可以例如通过执行AMVP和合并模式来确定该信息。AMVP被使用，包括基于邻近PB的数据和参考图片得出数个最可能的候选项。运动信息通常包括水平和竖直运动矢量位移值、一个或两个参考图片索引，并且在B条带中的预测区域的情况下，还包括哪个参考图片列表与每个索引相关联的标识。如本文所使用的，在一些方面中，“合并模式”可以是指从空间或时间上邻近的块中导出运动信息。
运动补偿单元302可以产生运动补偿块，可能地基于插值滤波器来执行内插。针对以亚像素精度被使用的插值滤波器的标识符可以被包括在语法元素中。
运动补偿单元302可以使用由视频编码器200在视频块的编码期间使用的插值滤波器来计算用于参考块的亚整数像素的内插值。运动补偿单元302可以根据接收到的语法信息来确定由视频编码器200使用的插值滤波器，并且运动补偿单元302可以使用插值滤波器来产生预测块。
运动补偿单元302可以使用至少部分语法信息来确定用于编码经编码视频序列的(多个)帧和/或(多个)条带的块的大小、描述经编码视频序列的图片的每个宏块如何被划分的划分信息、指示每个划分如何被编码的模式、针对每个帧间编解码块的一个或多个参考帧(和参考帧列表)、以及对经编码视频序列进行解码的其他信息。如本文中所使用的，在一些方面，“条带”可以是指在熵编码、信号预测和残差信号重建方面可以独立于同一图片的其他条带而被解码的数据结构。条带可以是整个图片，或者也可以是图片的区域。
帧内预测单元303可以使用例如在码流中接收的帧内预测模式，以从空间邻近块形成预测块。反量化单元304反量化(即，去量化)在码流中提供的、并且由熵解码单元301解码的量化视频块系数。反变换单元305应用反变换。
重建单元306可以例如通过将残差块与由运动补偿单元302或帧内预测单元303生成的相应预测块相加来获得经解码的块。如果需要的话，还可以应用去块效应滤波器以对经解码的块进行过滤，以便去除块效应伪像。经解码的视频块随后被存储在缓冲307中，缓冲307为后续运动补偿/帧内预测提供参考块，并且缓冲307还产生经解码的视频以供在显示设备上呈现。
下文将详细描述本公开的一些示例实施例。应当注意，在本文件中使用章节标题是为了便于理解，而不是将章节中公开的实施例仅限于该章节。此外，尽管参考通用视频编解码或其他特定视频编解码器描述了一些实施例，但是所公开的技术也适用于其他视频编解码技术。此外，尽管一些实施例详细描述了视频编码步骤，但是应当理解的是取消编码的相应解码步骤将由解码器实现。此外，术语视频处理包括视频编解码或压缩、视频解码或解压缩以及视频转码，在该视频转码中视频像素被从一种压缩格式表示为另一种压缩格式或以不同的压缩码率表示。
1.概述
本公开涉及视频编解码技术，具体来说，是关于图像/视频编解码中的帧间/帧内预测技术，它可以应用于现有的视频编解码标准如HEVC、VVC等，也可以适用于未来的视频编解码标准或视频编解码器。
2.背景
视频编解码标准主要通过众所周知的ITU-T和ISO/IEC标准的发展而演进。ITU-T制定了H.261和H.263，ISO/IEC制定了MPEG-1和MPEG-4Visual，两个组织联合制定了H.262/MPEG-2Video和H.264/MPEG-4高级视频编解码(AVC)和H.265/HEVC标准。自H.262以来，视频编解码标准基于混合视频编解码结构，其中使用了时间预测加变换编解码。为了探索HEVC以外的未来视频编解码技术，VCEG和MPEG于2015年联合创立了联合视频探索团队(JVET)。JVET会议每季度同时举行一次，新的视频编解码标准在2018年4月的JVET会议上被正式命名为多功能视频编解码(VVC)，当时发布了VVC测试模型(VTM)的第一个版本。VVC工作草案和测试模型VTM在每次会议后都被更新。VVC项目在2020年7月的会议上实现了技术完成(FDIS)。
2.1.编解码工具
在一个具体示例性实施例中，编解码工具从诸如JVET-R2002中提取。
2.1.1.帧内预测
2.1.1.1.具有67种帧内预测模式的帧内模式编解码
图4示出了帧内预测模式的示意图400。为了捕捉自然视频中呈现的任意边缘方向，VVC中的定向帧内模式的数量从HEVC中使用的33个扩展到65个。未在HEVC中的新定向模式在图4中显示为没有参考索引的箭头，平面和DC模式保持不变。这些更密集的定向帧内预测模式适用于所有块尺寸以及亮度和色度帧内预测。
在VVC中，对于非正方形块，几种传统的角度帧内预测模式被自适应地替换为广角帧内预测模式。
在HEVC中，每个帧内编解码块都具有正方形形状，并且其每条边的长度是2的幂。因此，不需要除法运算来使用DC模式生成帧内预测子。在VVC中，块可以具有矩形形状，这在一般情况下需要使用每个块的除法运算。为了避免针对DC预测的除法运算，仅使用较长边来计算非正方形块的平均值。
2.1.1.2.帧内模式编解码
为了保持最可能模式(MPM)列表生成的复杂度较低，考虑到两种可用的邻近帧内模式，采用6MPM的帧内模式编解码方法。考虑以下三个方面来构建MPM列表：
–默认帧内模式
–邻近帧内模式
–导出帧内模式
无论是否应用MRL和ISP编解码工具，统一的6-MPM列表都用于帧内块。MPM列表是基于左侧和上方邻近块的帧内模式构建的。假设左侧的模式表示为Left，上方块的模式表示为Above，则统一的MPM列表被构建如下：
–当邻近块不可用时，其内部模式默认被设置为平面。
–如果Left和Above两个模式都是非角度模式：
–MPM列表→{平面、DC、V、H、V-4、V+4}
–如果Left和Above模式中的一个模式是角度模式，另一个模式是非角度模式：
–在Left和Above中设置模式Max作为较大的模式
–MPM列表→{平面、Max、DC、Max-1、Max+1、Max-2}
–如果Left和Above都是角度的，并且它们是不同的：
–在Left和Above中设置模式Max作为较大的模式
–如果Left模式和Above模式的差在2到62(含)的范围内
–MPM列表→{平面，Left，Above，DC，Max-1，Max+1}
–否则
–MPM列表→{平面，Left，Above，DC，Max-2，Max+2}
–如果Left和Above都是角度的，并且它们是相同的：
–MPM列表→{平面，Left，Left-1，Left+1，DC，Left-2}
此外，mpm索引码字的第一个二进制位是CABAC上下文编解码的。总共三个上下文被使用，对应于当前帧内块是启用MRL、启用ISP还是正常帧内块。
在6-MPM列表生成过程中，修剪被使用以删除重复的模式，以便只有唯一的模式可以包含在MPM列表中。对于61个非MPM模式的熵编解码，截断二进制码(TBC)被使用。
2.1.1.3.针对非正方形块的广角帧内预测
常规的角度帧内预测方向被定义为顺时针方向的45度到-135度。在VVC中，对于非正方形块，几种常规的角度帧内预测模式被自适应地替换为广角帧内预测模式。替换的模式使用原始模式索引通过信号被传输，原始模式索引在解析后被重新映射到广角模式的索引。帧内预测模式的总数不变，即67个，并且帧内模式编解码方法不变。
为了支持这些预测方向，长度为2W+1的顶部参考和长度为2H+1的左侧参考如图5所示被定义。图5示出了广角帧内预测的参考样本的示意图500
广角方向模式中替换的模式的数量取决于块的宽高比。替换的帧内预测模式如表2-1所示。
表2-1-被广角模式替代的帧内预测模式
图6示出了广角帧内预测的示意图600。如图6所示，在广角帧内预测的情况下，两个垂直相邻的预测样本可以使用两个非相邻的参考样本。因此，低通参考样本滤波器和侧平滑被应用于广角预测，以减少增加的间隙Δpα的负面影响。如果广角模式表示非分数偏移。广角模式中有8种模式满足这个条件，8种模式是[-14，-12，-10，-6,72,76,78,80]。当块通过这些模式被预测时，参考缓冲中的样本被直接复制，而不应用任何插值。通过这种修改，需要平滑的样本数量减少了。此外，它对齐了传统预测模式和广角模式中的非分数模式的设计。
在VVC中，支持4:2:2和4:4:4以及4:2:0色度格式。4:2:2色度格式的色度导出模式(DM)导出表最初是从HEVC移植的，HEVC将条目数从35扩展到67，以与帧内预测模式的扩展保持一致。由于HEVC规范不支持低于-135度和高于45度的预测角度，范围从2到5的亮度帧内预测模式被映射到2。因此，针对4:2:2:色度格式的色度DM导出表通过替换映射表的条目的值被更新，以更精确地转换色度块的预测角度。
2.1.1.4.模式相关帧内平滑(MDIS)
四抽头帧内插值滤波器用于提高定向帧内预测精度。在HEVC中，使用两抽头线性插值滤波器生成定向预测模式(即不包括平面和DC预测子)中的帧内预测块。在VVC中，简化的6位4抽头高斯插值滤波器仅用于定向帧内模式。非定向帧内预测过程是不变的。4抽头滤波器的选择是根据提供非分数位移的定向帧内预测模式的MDIS条件被执行的，即排除以下的所有定向模式：2、HOR_IDX、DIA_IDX、VER_IDX、66。
根据帧内预测模式，执行以下参考样本处理：
–定向帧内预测模式被分类至以下组中的一个：
–垂直模式或水平模式(HOR_IDX、VER_IDX)，
–对角线模式，表示角度是45度的倍数(2，DIA_IDX，VDIA_IDX)，
–其余定向模式；
–如果定向帧内预测模式被分类为属于A组，则没有滤波器被应用于参考样本以生成预测的样本；
–否则，如果模式属于B组，则[1,2,1]参考样本滤波器可以被应用(取决于MDIS条件)于参考样本，以根据所选方向将这些滤波值进一步复制到帧内预测子中，但没有插值滤波器被应用；
–否则，如果模式被分类为属于C组，则仅有帧内参考样本插值滤波器被应用于参考样本，以生成根据所选方向落在参考样本之间的分数位置或整数位置的预测的样本(不执行参考样本滤波)。
2.1.1.5.位置相关帧内预测组合
在VVC中，通过位置相关帧内预测组合(PDPC)方法进一步修改DC、平面和几个角模式的帧内预测结果。PDPC是一种帧内预测方法，它调用边界参考样本和具有滤波边界参考样本的HEVC式的帧内预测的组合。PDPC应用于以下帧内模式，无需发出信号：平面、DC、水平、垂直、左下角模式及其八个相邻角模式，以及右上角模式及其八个相邻角模式。
根据如下等式3-8，预测样本pred(x’,y’)是使用帧内预测模式(DC，平面，角)和参考样本的线性组合来预测的：
pred(x’,y’)＝(wL×R-1,y’+wT×Rx’,-1-wTL×R-1,-1+(64-wL-wT+wTL)×pred(x’,y’)+32)>>6 (2-1)
其Rx,-1,R-1,y分别表示位于当前样本(x，y)顶部和左侧边界的参考样本，并且R-1,-1表示位于当前块左上方的参考样本。
如果PDPC应用于DC、平面、水平和垂直帧内模式，则不需要额外的边界滤波，如HEVC DC模式边界滤波或水平/垂直模式边缘滤波的情况所需。DC模式和平面模式的PDPC过程是相同的，并且修剪操作被避免。对于角模式，pdpc缩放因子被调整，使得不需要范围检查，并去除启用pdpc的角度条件(使用缩放>＝0)。此外，PDPC权重在所有角模式情况下是基于32。PDPC权重取决于预测模式，如表2-2所示。PDPC被应用于宽度和高度都大于或等于4的块。
图7A-图7D示出了应用于对角线和相邻角度帧内模式的PDPC使用的样本定义的示意图(700、720、740和760)。图7A-7D示出了在各种预测模式下应用的PDPC的参考样本(Rx,-1,R-1,y和R-1,-1)的定义。预测样本pred(x’,y’)位于预测块内的(x’,y’)。例如，参考样本Rx,-1的坐标x由：x＝x’+y’+1给出，参考样本R-1,y的坐标y类似地由针对对角线模式的：y＝x’+y’+1给出。对于其他角模式，参考样本Rx,-1和R-1,y可以位于分数样本位置。在这种情况下，最附近整数样本位置的样本值被使用。
表2-2-根据预测模式的PDPC权重示例
2.1.1.6.多参考行(MRL)帧内预测
多参考行(MRL)帧内预测使用更多的参考行用于帧内预测。图8示出了邻近预测块的四个参考行的示例的示意图800。在图8中，描绘了4条参考行的示例，其中段A和段F的样本不是从重建的邻近样本中提取的，而是分别用来自段B和段E的最接近的样本填充的。HEVC帧内图片预测使用最附近的参考行(即参考行0)。在MRL中，使用了2条附加行(参考行1和参考行3)。
所选参考行的索引(mrl_idx)通过信号被发送并用于生成帧内预测子。对于大于0的参考行索引，仅在MPM列表中包括附加的参考行模式，并且仅信号MPM索引而不包括其余模式。在帧内预测模式之前参考行索引通过信号被发送，如果非零参考行索引通过信号被发送，则帧内预测模式不包括平面模式。
对CTU内的块的第一行禁用MRL，以防止在当前CTU行外使用扩展的参考样本。此外，当使用附加行时，PDPC将被禁用。对于MRL模式，非零参考行索引的DC帧内预测模式中的DC值的导出与参考行索引0的导出对齐。MRL需要存储具有CTU的3条邻近亮度参考行来生成预测。跨分量线性模型(CCLM)工具的下采样滤波还需要3个邻近的亮度参考行。使用相同3行的MRL的定义与CCLM一致，以减少解码器的存储要求。
2.1.1.7.帧内子划分(ISP)
帧内子划分(ISP)根据块尺寸将亮度帧内预测块垂直或水平划分为2或4个子划分。例如，ISP的最小块尺寸为4×8(或8×4)。如果块尺寸大于4×8(或8×4)，则对应块将被划分为四个子划分。我们注意到，M×128(M≤64)和128×N(N≤64)ISP块可能会对64×64VDPU生成潜在问题。例如，单树情况下的M×128CU有一个M×128亮度TB和两个相应的色度TB。如果CU使用ISP，那么亮度TB将被分成4个M×32TB(只能水平分割)，每个TB都小于64×64块。然而，在目前的ISP设计中，色度块是不可分割的。因此，两个色度分量的尺寸都将大于32×32块。类似地，使用ISP的128×NCU也可以创建类似的情况。因此，这两种情况是64×64解码器流水线的问题。因此，可以使用ISP的CU尺寸被限制为最大值64×64。图9A和图9B显示了两种可能性的示例900和950。所有子划分都满足具有至少16个样本的条件。
在ISP中，不允许1xN/2xN子块预测依赖于编解码块的先前解码的1xN/2xN子块的重建值，从而使得子块的最小预测宽度变为四个样本。例如，使用具有垂直分割的ISP被编解码的8xN(N>4)编解码块被分割成两个尺寸为4xN的预测区域和四个尺寸为2xN的变换。此外，使用具有垂直分割的ISP被编解码的4xN编解码块使用完整的4xN块被预测；四个变换中的每个1xN变换被使用。尽管允许1xN和2xN的变换尺寸，但断言这些块在4xN区域的变换可以并行地被执行。例如，当一个4xN预测区域包含四个1xN变换时，水平方向上没有变换；垂直方向的变换可以作为垂直方向的单个4xN变换被执行。类似地，当4xN预测区域包含两个2xN变换块时，每个方向(水平和垂直)的两个2xN块的变换操作可以并行进行。因此，相比处理4x4正则编解码的帧内块，处理这些较小的块不会增加延迟。
表2-3-熵编解码系数组尺寸
块尺寸 系数组尺寸
1×N，N≥16 1×16
N×1，N≥16 16×1
2×N，N≥8 2×8
N×2，N≥8 8×2
所有其他可能的M×N情况 4×4
对于每个子划分，通过将残差信号与预测信号相加来获得重建样本。这里，通过诸如熵解码、反量化和反变换的过程来生成残差信号。因此，每个子划分的重建样本值可用于生成下一个子划分的预测，并且每个子划分被重复处理。此外，要处理的第一个子划分是包含CU的左上方样本，然后向下(水平分割)或向右(垂直分割)继续的子划分。因此，用于生成子划分预测信号的参考样本仅位于行的左侧和上方。所有子划分共享相同的帧内模式。以下是ISP与其他编解码工具的交互摘要。
-多参考行(MRL)：如果块的MRL索引不是0，则ISP编解码模式将被推断为0，因此ISP模式信息将不会发送到解码器。
-熵编解码系数组尺寸：如表2-3所示，熵编解码子块的尺寸已被修改，以便在所有可能的情况下都有16个样本。值得注意，新的尺寸仅影响通过ISP产生的其中一个维度小于4个样本的块。在所有其他情况下，系数组保持4×4维度。
-CBF编解码：假设至少有一个子划分具有非零CBF。因此，如果n是子划分的数目，并且第一n-1子划分已经产生零CBF，则第n子划分的CBF被推断为1。
-MPM使用：MPM标志将被推断为通过ISP模式编解码的块中的一个，MPM列表被修改以排除DC模式，并优先考虑针对ISP水平分割的水平帧内模式和针对ISP垂直分割的垂直帧内模式。
-变换尺寸限制：所有长度大于16点的ISP变换都使用DCT-II。
–PDPC：当CU使用ISP编解码模式时，PDPC滤波器不会被应用于结果子划分。
–MTS标志：如果CU使用ISP编解码模式，MTS CU标志将设置为0，并且不会发送到解码器。因此，编码器不会对每个结果子划分的不同可用变换执行RD测试。ISP模式的变换选择将改为固定的，并根据所使用的帧内模式、处理顺序和块尺寸进行选择。因此，不需要用信号发出。例如，设tH和tV分别为w×h子划分选择的水平变换和垂直变换，其中w
为宽度，h为高度。然后根据以下规则选择变换：
–如果w＝1或h＝1，则分别不存在水平变换或垂直变换。
–如果w＝2且w>32,tH＝DCT-II
–如果h＝2且h>32,tV＝DCT-II
–否则，变换如表2-4所示被选择。
表2-4-变换选择取决于帧内模式
在ISP模式中，允许所有67个帧内预测模式。如果相应的宽度和高度至少为4个样本长，则也应用PDPC。此外，帧内插值滤波选择的条件不再存在，并且在ISP模式下，三次(DCT-IF)滤波总是用于分数位置插值。
2.1.1.8.矩阵加权帧内预测(MIP)
矩阵加权帧内预测(MIP)方法是一种新加入VVC的帧内预测技术。为了预测宽度W和高度H的矩形块的样本，矩阵加权帧内预测(MIP)以块左侧的一行H重建邻近边界样本和块上方的一行W重建邻近边界样本作为输入。如果重建样本不可用，则像传统帧内预测一样生成它们。预测信号的生成基于以下三个步骤，它们是平均、矩阵矢量乘法和线性插值，如图10所示。图10示出了矩阵加权帧内预测过程的示意图1000。
2.1.1.9.平均邻近样本
在边界样本中，通过基于块大小和形状进行平均来选择四个样本或八个样本。具体地，输入边界bdrytop和bdryleft会根据取决于块的大小的预定义的规则，通过对邻近边界样本进行平均，缩小为更小的和/>边界。然后，将两个缩小的边界/>和连接到缩小的边界矢量bdryred，因此，对于形状4×4的块缩小的边界矢量的大小为四，对于所有其他形状的块缩小的边界矢量的大小为八。如果模式是指MIP模式，则此连接定义如下：
2.1.1.10.矩阵乘法
将平均样本作为输入，执行矩阵矢量乘法，然后添加偏移。结果是原始块中的样本的子采样集上缩减的预测信号。从缩减的输入矢量bdryred中生成缩减的预测信号predred,，该缩减的预测信号是宽度Wred和高度Hred的下采样块上的信号。此处，Wred和Hred被定义为：
通过计算矩阵矢量乘积并添加偏移来计算缩减的预测信号predred：
predred＝A·bdryred+b.
这里，A是一个矩阵，如果W＝H＝4，则它有Wred·Hred行和4列，在所有其他情况下有8列。b是Wred·Hred大小的矢量。矩阵A和偏移矢量b取自S0，S1，S2.其中一个集合。索引idx＝idx(W,H)定义如下：
这里，矩阵A的每个系数以8位的精度表示。集合S0由16个矩阵组成，每个矩阵具有16行4列，以及16个偏移矢量/>每个偏移矢量的大小为16。该集合的矩阵和偏移矢量用于尺寸为4×4的块。集合S1由8个矩阵/>组成，每个矩阵具有16行和8列，以及8个偏移矢量/> 每个偏移矢量大小为16。集合S2由6个矩阵/> 组成，每个矩阵具有64行和8列，以及6个偏移矢量/> 每个偏移矢量大小为64。
2.1.1.11.插值
其余位置处的预测信号是通过线性插值从子采样集上的预测信号生成的，该线性插值是在每个方向上的单步线性插值。插值首先在水平方向上被执行，然后在垂直方向上被执行，与块的形状或块的尺寸无关。
2.1.1.12.MIP模式的信令和与其他编解码工具的协调
对于帧内模式中的每个编解码单元(CU)，发送指示是否要应用MIP模式的标志。如果要应用MIP模式，则用信号发送MIP模式(predModeIntra)。对于MIP模式，转置标志(isTransposed)用于确定模式是否转置，MIP模式标识(modeId)用于确定给定MIP模式使用的矩阵，其导出过程如下：
isTransposed＝predModeIntra&1
modeId＝predModeIntra＞＞1 (2-6)
通过考虑以下方面，MIP编解码模式与其他编解码工具相协调：
-大块上的MIP启用LFNST。这里使用平面模式的LFNST变换
-MIP的参考样本导出像传统帧内预测模式一样被执行
-对于MIP预测中使用的上采样步骤，使用原始参考样本而不是下采样样本
-在上采样之前执行剪裁，而不是在上采样之后执行剪裁
-无论最大变换大小如何，MIP都允许达到64×64
-MIP模式的数目对于sizeId＝0为32，对于sizeId＝1为16，对于sizeId＝2为12。
2.1.2.帧间预测
对于每个帧间预测的CU，运动参数包括运动矢量、参考图片索引和参考图片列表使用索引、以及将被用于帧间预测样本生成的VVC的新编解码特征所需的附加信息。运动参数可以以显式或隐式方式通过信号被传输。当CU用跳过模式被编解码时，CU与一个PU相关联，并且没有显著的残差系数，没有编解码运动矢量增量或参考图片索引。合并模式被指定，由此当前CU的运动参数从邻近的CU被获得，邻近的CU包括空间候选和时间候选，以及VVC中引入的附加安排。合并模式可以被应用于任何帧间预测CU，而不仅仅是跳过模式。合并模式的替代方案是运动参数的显式传输，其中运动矢量，每个参考图片列表的相应参考图片索引和参考图片列表使用标志以及其他所需信息针对每个CU显式地通过信号被传输。
除了HEVC中的帧间编解码功能外，VVC还包括一些新的和细化的帧间预测编解码工具，如下所示：
–扩展合并预测
–具有MVD的合并模式(MMVD)
–对称MVD(SMVD)信令
–仿射运动补偿预测
–基于子块的时间运动矢量预测(SbTMVP)
–自适应运动矢量分辨率(AMVR)
–运动场存储：1/16亮度样本MV存储和8x8运动场压缩
–具有CU级权重的双预测(BCW)
–双向光流(BDOF)
–解码器侧运动矢量细化(DMVR)
–几何划分模式(GPM)
–组合的帧间和帧内预测(CIIP)
下面的文本提供了VVC中指定的那些帧间预测方法的详细信息。
2.1.2.1.扩展合并预测
在VVC中，合并候选列表是通过按顺序包括以下五种类型的候选来构建的：
1)来自空间邻近CU的空间MVP
2)来自同位CU的时间MVP
3)来自FIFO表的基于历史的MVP
4)成对平均MVP
5)零MV。
合并列表的大小在序列参数集头中通过信号传输，并且合并列表的最大允许大小是6。对于合并模式中的每个CU码，使用截断的一元二进制化(TU)对最佳合并候选的索引进行编解码。合并索引的第一个二进制位(bin)使用上下文进行编解码，而旁路编解码用于其他二进制位。
每个类别的合并候选的导出过程在本节中提供。正如在HEVC中所操作的那样，VVC还支持在一定大小的区域内对所有CU的合并候选列表的并行导出。
2.1.2.2空间候选导出
VVC中空间合并候选的导出与HEVC中的导出相同，只是前两个合并候选的位置被交换。在位于图11所示位置的候选中，最多选择四个合并候选。图11示出了空间合并候选的位置的示意图1100。导出顺序为B0、A0、B1、A1和B2。只有当位置B0、A0、B1和A1的一个或多于一个CU不可用时(例如，因为它属于另一个条带或图块)或被帧内编解码时，才考虑位置B2。在添加了位置A1处的候选之后，对剩余候选的添加进行冗余检查，该冗余检查确保具有相同运动信息的候选被从列表中排除，从而提高了编解码效率。为了降低计算复杂度，在提到的冗余检查中并没有考虑所有可能的候选对。相反，只考虑图12中利用箭头链接的对，并且只有用于冗余检查的对应候选不具有相同的运动信息，才将候选添加到列表中。图12示出了针对空间合并候选的冗余检查所考虑的候选对的示意图1200。
2.1.2.3.时间候选导出
在这个步骤中，只有一个候选被添加到列表中。特别地，在该时间合并候选的导出中，基于属于同位参考图片的同位CU来导出缩放运动矢量。在条带头中显式地通过信号传输要用于导出同位的CU的参考图片列表。图13示出了用于时间合并候选的运动矢量缩放图示的示意图1300。如图13中的虚线所示，针对时间合并候选的缩放的运动矢量被获得，该矢量是使用POC距离，tb和td，从同位的CU的运动矢量缩放而来的，其中tb被定义为当前图片的参考图片与当前图片之间的POC差，td被定义为同位的图片的参考图片与同位的图片之间的POC差。时间合并候选的参考图片索引被设置为等于零。
图14示出了针对时间合并候选的候选位置的示意图1400。如图14所示，时间候选的位置在候选C0与C1之间被选择。如果位置C0处的CU不可用则被帧内编解码，或位置C0处的CU在CTU的当前行之外，则使用位置C1。否则，在时间合并候选的导出中使用位置C0。
2.1.2.4.基于历史的合并候选导出
基于历史的MVP(HMVP)合并候选被添加到空间MVP和TMVP之后的合并列表中。在该方法中，将先前编解码块的运动信息存储在表中，并用作当前CU的MVP。在编码/解码过程中维护具有多个HMVP候选的表。当遇到新的CTU行时，该表被重置(清空)。每当存在非子块帧间编解码CU时，将相关联的运动信息作为新的HMVP候选添加到表的最后一个条目。
HMVP表大小S被设置为6，这指示可以向该表添加多达6个基于历史的MVP(HMVP)候选。当将新的运动候选插入到表中时，使用受约束的先进先出(FIFO)规则，其中首先应用冗余检查来发现表中是否存在相同的HMVP。如果找到，则从表中移除相同的HMVP，然后将所有HMVP候选向前运动。
HMVP候选可以用于合并候选列表构建过程。按顺序检查表中最近的几个HMVP候选，并将其插入TMVP候选之后的候选列表中。冗余检查被应用于HMVP候选至空间或时间合并候选。
为了减少冗余检查操作的数目，引入了以下简化：
1)用于合并列表生成的HMPV候选数目设置为(N<＝4)？M:(8-N)，其中N指示合并列表中现有候选的数目，M指示表中可用HMVP候选的数目。
2)一旦可用合并候选的总数达到最大允许合并候选减1，则终止来自HMVP的合并候选列表构建过程。
2.1.2.5.成对平均合并候选导出
成对平均候选是通过对现有合并候选列表中的预定义候选对进行平均来生成的，并且预定义对被定义为{(0，1)、(0，2)、(1，2)，(0，3)、(1，3)，(2，3)}，其中数字表示合并候选列表的合并索引。对于每个参考列表单独计算平均运动矢量。如果两个运动矢量在一个列表中都可用，则即使这两个运动矢量指向不同的参考图片，也会对其进行平均；如果只有一个运动矢量可用，则直接使用该运动矢量；如果没有可用的运动矢量，保持此列表无效。
当添加成对平均合并候选后合并列表未满时，将在最后插入零MVP，直到遇到最大合并候选数目。
2.1.2.6.合并估计区域
合并估计区域(MER)允许在同一合并估计区域(MER)中针对CU独立导出合并候选列表。针对生成当前CU的合并候选列表，与当前CU在相同MER内的候选块被不包括。此外，仅当(xCb+cbWidth)>>Log2ParMrgLevel大于xCb>>Log2ParMrgLevel并且(yCb+cbHeight)>>Log2parMrglevel大于(yCb>>Log2ParMrgLevel)，针对基于历史的运动矢量预测子候选列表的更新过程被更新，并且其中(xCb，yCb)是图片中当前CU的左上方亮度样本位置，并且(cbWidth,cbHeight)是CU尺寸。MER大小在编码器端被选择，并在序列参数集中以log2_parallel_merge_level_minus2的形式来通过信号传输。
2.1.3.具有MVD的合并模式(MMVD)
除了将隐式导出的运动信息直接用于当前CU的预测样本生成的合并模式之外，在VVC中引入了具有运动矢量差的合并模式(MMVD)。在发送跳过标志和合并标志之后立即通过信号传输MMVD标志，以指定是否MMVD模式被用于CU。
在MMVD中，合并候选被选择之后，其由通过信号传输的MVD信息进一步细化。进一步的信息包括合并候选标志、指定运动幅度的索引，以及指示运动方向的索引。在MMVD模式中，选择合并列表中前两个候选的一个被使用作为MV基础。合并候选标志通过信号被传输以指定使用哪一个。
距离索引指定运动幅度信息，并指示距起点的预定义偏移。图15示出了MMVD搜索点的示意图1500。如图15所示，偏移被添加到起始MV的水平分量或垂直分量。距离索引和预定义偏移的关系如表2-5所示。
表2-5：距离索引与预定义偏移的关系
方向索引表示MVD相对于起点的方向。方向索引可以表示四个方向，如表2-6所示。注意，MVD符号的含义可以根据起始MV的信息而变化。当起始MV是单向预测MV或双向预测MV时，其中两个列表都指向当前图片的同一侧(即两个参考的POC都大于当前图片的POC或者都小于当前图片的POC)，表2-6中的符号指定了加在起始MV上的MV偏移的符号。当起始MV是双向预测MV时，其中两个MV指向当前图片的不同侧(即一个参考的POC大于当前图片的POC，另一个参考的POC小于当前图片的POC)，表2-6中的符号指定添加到起始MV的list0 MV分量的MV偏移的符号，并且list1 MV的符号具有相反的值。
表2-6：由方向索引指定的MV偏移的符号
方向索引 00 01 10 11
x轴 + – N/A N/A
y轴 N/A N/A + –
2.1.3.1具有CU级权重的双向预测(BCW)
在HEVC中，通过对从两个不同的参考图片获得的两个预测信号进行平均和/或使用两个不同运动矢量来生成双向预测信号。在VVC中，双向预测模式被扩展到简单平均之外，以允许对两个预测信号进行加权平均。
Pbi-pred＝((8-w)*P0+w*P1+4)＞＞3 (2-7)
在加权平均双向预测中允许五个权重，w∈{-2,3,4,5,10}。对于每个双向预测CU，以两种方式之一确定权重w：1)对于非合并CU，在运动矢量差之后通过信号传输权重索引；2)对于合并CU，基于合并候选索引从邻近块推断权重索引。BCW仅应用于具有256个或更多亮度样本的CU(即CU宽度乘以CU高度大于或等于256)。对于低延迟图片，将使用所有5个权重。对于非低延迟图片，仅使用3个权重(w∈{3,4,5})。
–在编码器处，在不显著增加编码器复杂度的情况下，应用快速搜索算法来找到权重索引。这些算法总结如下。可以参考VTM软件和文档JVET-L0646以获得进一步的细节。当与AMVR组合时，如果当前图片是低延迟图片，则仅有条件地检查1-像素和4-像素运动矢量精度的不等权重。
–当与仿射组合时，在且仅在仿射模式被选择为当前最佳模式的情况下，将针对不相等的权重执行仿射ME。
–当双向预测中的两个参考图片相同时，仅有条件地检查不相等的权重。
–当满足某些条件时，不搜索不等权重，这取决于当前图片与其参考图片之间的POC距离、编解码QP和时间级。
BCW权重索引是使用一个上下文编解码的二进制位然后是旁路编解码的二进制位来编解码的。第一上下文编解码的二进制位指示是否使用相等的权重；并且如果使用不相等的权重，则使用旁路编解码通过信号传输附加二进制位，以指示使用哪个不相等的权重。
加权预测(WP)是H.264/AVC和HEVC标准支持的一种编解码工具，用于在衰落的情况下对视频内容进行高效编解码。VVC标准中还增加了对WP的支持。WP允许为每个参考图片列表L0和列表L1中的每个参考图片通过信号传输加权参数(权重和偏移)。然后，在运动补偿期间，应用对应参考图片的权重和偏移。WP和BCW是为不同类型的视频内容而设计的。为了避免WP和BCW之间的交互(这将使VVC解码器设计复杂化)，如果CU使用WP，则BCW权重索引不通过信号被传输，并且w被推断为4(即应用相等的权重)。对于合并CU，权重索引是基于合并候选索引从邻近块推断的。这可以应用于正常合并模式和继承的仿射合并模式。对于构建的仿射合并模式，基于多达3个块的运动信息来构建仿射运动信息。使用构建的仿射合并模式的CU的BCW索引被简单地设置为等于第一控制点MV的BCW索引。
在VVC中，CIIP和BCW不能联合应用于CU。当使用CIIP模式对CU进行编解码时，当前CU的BCW索引设置为2，例如相等的权重。
2.1.3.2双向光流(BDOF)
双向光流(BDOF)工具被包含在VVC中。BDOF，以前称为BIO，被包含在JEM中。与JEM版本相比，VVC中的BDOF是一个更简单的版本，需要的计算要少得多，特别是在乘法次数和乘法器的尺寸方面。
BDOF被用于在4×4子块级细化CU的双向预测信号。如果满足以下所有条件，则BDOF被应用于CU：
–CU使用“真”双向预测模式被编解码，即两个参考图片中的一个在显示顺序上先于当前图片，并且两个参考图片中的另一个在显示顺序上在当前图片之后
–两个参考图片到当前图片的距离(即POC差)相同
–两张参考图片均为短期参考图片。
–CU未使用仿射模式或ATMVP合并模式被编解码
–CU有超过64个亮度样本
–CU高度和CU宽度均大于或等于8个亮度样本
–BCW权重索引指示相等的权重
–当前CU未启用WP
–CIIP模式不被用于当前CU
BDOF仅应用于亮度分量。正如其名称所示，BDOF模式基于光流概念，该概念假设物体的运动是平滑的。对于每个4×4子块，运动细化(vx,vy)通过最小化L0预测样本和L1预测样本之间的差异被计算。然后运动细化被使用来调整4x4子块中的双预测样本值。BDOF过程中应用以下步骤。
首先，通过直接计算两个邻近样本之间的差异，两个预测信号的水平梯度和垂直梯度，和/>被计算，即，
其中I(k)(i,j)是列表k,k＝0,1,中预测信号坐标(i,j)处的样本值，并且shift1基于亮度位深度bitDepth被计算为shift1＝max(6，bitDepth-6)。
然后，梯度S1,S2,S3,S5和S6的自相关和互相关被计算如下：
其中，
其中Ω是围绕4×4子块的6×6窗口，并且na和nb的值分别设置为min(1，bitDepth-11)和min(4，bitDepth-8)。
然后使用互相关项和自相关项运动细化(vx,vy)使用以下方法被导出：
/>
其中th′BIO＝2max(5,BD-7)。/>是向下舍入(floor)功能，并且/>
基于运动细化和梯度，针对4×4子块中的每个样本计算以下调整：
最后，通过以如下所示的方式调整双向预测样本，CU的BDOF样本被计算：
predBDOF(x,y)＝(I(0)(x,y)+I(1)(x,y)+b(x,y)+ooffset)＞＞shift (2-13)
选择这些值是为了使BDOF过程中的乘法器不超过15位，并且BDOF过程中中间参数的最大位宽保持在32位以内。
为了导出梯度值，当前CU边界之外的列表k(k＝0,1)中的一些预测样本I(k)(i,j)需要被生成。图16示出了在BDOF中被使用的扩展的CU区域的示意图1600。如图16所示，VVC中的BDOF在CU的边界周围使用一个扩展行/列。为了控制生成边界外预测样本的计算复杂度，扩展区域中的预测样本(空白位置)通过直接取附近整数位置(在坐标上使用floor()操作)的参考样本被生成，而不利用插值被生成，并且常规的8抽头运动补偿插值滤波器被使用来生成CU内的预测样本(灰色位置)。这些扩展样本值仅被用于梯度计算。对于BDOF过程中的其余步骤，如果CU边界之外的任何样本值和梯度值被需要，则这些样本值和梯度值从它们的最近的邻居被填充(即重复)。
当CU的宽度和/或高度大于16个亮度样本时，它将被分割成宽度和/或高度等于16个亮度样本的子块，子块边界被视为BDOF过程中的CU边界。BDOF过程的最大单元尺寸被限制为16x16。对于每个子块，BDOF过程可以跳过。当初始L0预测样本和L1预测样本之间的SAD小于阈值时，BDOF过程不被应用于子块。阈值被设置为等于(8*W*(H>>1)，其中W表示子块宽度，并且H表示子块高度。为了避免SAD计算的附加复杂度，这里DVMR过程中计算的初始L0预测样本和L1预测样本之间的SAD被重新使用。
如果对当前块启用BCW，即BCW权重索引指示不相等的权重，则禁用双向光流。类似地，如果对当前块启用WP，即两个参考图片中的任何一个的luma_weight_lx_flag是1，则也禁用BDOF；当CU使用对称MVD模式或CIIP模式被编解码时，也禁用BDOF。
2.1.4.对称MVD编解码
在VVC中，除了常规的单向预测模式MVD信令和双向预测模式MVD信令外，对称MVD模式针对双向预测MVD信令被应用(如图17所示，图17示出了用于对称MVD模式的图示的示意图1700)。在对称MVD模式下，包括列表0和列表1两者的参考图片索引和列表1的MVD在内的运动信息不通过信号被传输，而是被导出。
对称MVD模式的解码过程如下：
1)在条带级，变量BiDirPredFlag，RefIdxSymL0和RefIdxSymL1被导出如下：
–如果mvd_l1_zero_flag为1，则BiDirPredFlag被设置为等于0。
–否则，如果列表0中最近的参考图片和列表1中最近的参考图片形成向前和向后的参考图片对或向后和向前的参考图片对，则BiDirPredFlag被设置为1，列表0参考图片和列表1参考图片两者都是短期参考图片。否则BiDirPredFlag被设置为0。
2)在CU级，如果CU是被双向预测编解码的并且BiDirPredFlag等于1，则指示对称模式是否被使用的对称模式标志被显式地通过信号传输。
当对称模式标志为真时，只有mvp_l0_flag、mvp_l1_flag和MVD0被显式地通过信号传输。列表0和列表1的参考索引分别被设置为等于参考图片对。MVD1被设置为等于(-MVD0)。最终的运动矢量如下公式所示。
在编码器中，对称MVD运动估计从初始MV评估开始。一组初始MV候选包括从单向预测搜索获得的MV、从双向预测搜索获得的MV以及来自AMVP列表的MV。具有最低失真率成本的一个被选择作为针对对称MVD运动搜索的初始MV。
2.1.5.解码器侧运动矢量细化(DMVR)
为了提高合并模式MV的精度，在VVC中应用了基于双边匹配的解码器侧运动矢量细化。在双向预测操作中，在参考图片列表L0和参考图片列表L1中的初始MV周围搜索细化的MV。BM方法计算参考图片列表L0 1801和列表L1 1803中两个候选块之间的失真。图18示出了解码侧运动矢量细化的示意图1800。如图18所示，基于初始MV周围的每个MV候选，计算块1810和块1812之间的SAD。具有最低SAD的MV候选成为细化的MV，并用于生成双向预测信号。
在VVC中，DMVR可被应用于利用以下模式和功能被编解码的CU：
–具有双向预测MV的CU级合并模式
–相对于当前图片，一张参考图片是过去的，另一张参考图片是未来的
–从两个参考图片到当前图片的距离(即POC差)相同
–两张参考图片均为短期参考图片
–CU有超过64个亮度样本
–CU高度和CU宽度均大于或等于8个亮度样本
–BCW权重索引指示相等的权重
–当前块未启用WP
–CIIP模式未用于当前块
通过DMVR过程被导出的细化MV被用于生成帧间预测样本，并且还被用于未来图片编解码的时间运动矢量预测。而原始MV被用于去块过程，并且还被用于未来CU编解码的空间运动矢量预测。
DMVR的附加功能在以下子条款中有所提及。
2.1.5.1.搜索方案
在DVMR中，搜索点围绕初始MV，并且MV偏移服从MV差镜像规则。换句话说，由候选MV对(MV0，MV1)表示的DMVR检查的任何点遵循以下两个等式：
MV0′＝MV0+MV_offset (2-15)
MV1′＝MV1-MV_offset (2-16)
其中，MV_offset表示参考图片之一中的初始MV和细化MV之间的细化偏移。细化搜索范围是从初始MV开始的两个整数亮度样本。搜索包括整数样本偏移搜索阶段和分数样本细化阶段。
整数样本偏移搜索采用25点全搜索。首先计算初始MV对的SAD。如果初始MV对的SAD小于阈值，则DMVR的整数样本阶段终止。否则，剩余24个点的SAD按光栅扫描顺序被计算和被检查。选择SAD最小的点作为整数样本偏移搜索阶段的输出。为了减少DMVR细化不确定性的影响，提出在DMVR过程中支持原始MV。由初始MV候选参考的参考块之间的SAD减少了SAD值的1/4。
整数样本搜索之后是分数样本细化。为了节省计算复杂度，利用参数误差表面方程导出了分数样本细化，而不是使用SAD比较进行额外搜索。分数样本细化是基于整数样本搜索阶段的输出被有条件地调用的。当整数样本搜索阶段在第一次迭代或第二次迭代搜索中以具有最小SAD的中心结束时，分数样本细化被进一步应用。
在基于参数误差表面的亚像素偏移估计中，中心位置成本和距中心四个邻近位置的成本被用于拟合以下形式的二维抛物型误差表面方程
E(x,y)＝A(x-xmin)2+B(y-ymin)2+C (2-17)
其中(xmin,ymin)对应于具有最小成本的分数位置，并且C对应于最小成本值。通过使用五个搜索点的成本值求解上述方程，(xmin,ymin)被计算为：
xmin＝(E(-1,0)-E(1,0))/(2(E(-1,0)+E(1,0)-2E(0，0))) (2-18)
ymin＝(E(0，-1)-E(0，1))/(2((E(0，-1)+E(0，1)-2E(0，0))) (2-19)
xmin和ymin的值自动限制在-8和8之间，因为所有成本值都为正，并且最小值为E(0，0)。这对应于VVC中具有1/16-像素MV精度的半像素偏移。计算的分数(xmin，ymin)被添加到整数距离细化MV以获得亚像素精确的细化delta MV。
2.1.5.2.双线性插值和样本填充
在VVC中，MV的分辨率是1/16亮度样本。使用8抽头插值滤波器对分数位置处的样本进行插值。在DMVR中，搜索点围绕具有整数样本偏移的初始分数像素MV，因此针对DMVR搜索过程这些分数位置的样本需要被插值。为了降低计算复杂度，双线性插值滤波器被用于生成DMVR中搜索过程的分数样本。另一个重要的效果是，通过使用双线性滤波器，在2样本搜索范围内，与正常的运动补偿过程相比，DVMR不会访问更多的参考样本。在通过DMVR搜索过程获得细化的MV之后，应用普通的8抽头插值滤波器来生成最终预测。为了不访问正常MC过程的更多参考样本，将从那些可用样本中填充样本，这些样本对于基于原始MV的插值过程是不需要的，但是对于基于细化MV的插值过程是需要的。
2.1.5.3.最大DMVR处理单元
当CU的宽度和/或高度大于16个亮度样本时，它将被进一步分割为宽度和/或者高度等于16个亮度样本的子块。DMVR搜索过程的最大单元尺寸被限制为16x16。
2.1.6.组合的帧间和帧内预测(CIIP)
在VVC中，当以合并模式对CU进行编解码时，如果CU包含至少64个亮度样本(即，CU宽度乘以CU高度等于或大于64)，并且如果CU宽度和CU高度都小于128个亮度样本，则通过信号传输附加标志，以指示组合帧间/帧内预测(CIIP)模式是否被应用于当前CU。如其名称所示，CIIP预测将帧间预测信号与帧内预测信号进行组合。CIIP模式中的帧间预测信号Pinter是使用应用于常规合并模式的相同帧间预测过程来导出的；并且在平面模式的常规帧内预测过程之后导出帧内预测信号Pintra。然后，使用加权平均来组合帧内和帧间预测信号，其中权重值取决于顶部和左侧邻近块的编解码模式而被计算如下(图19示出了在CIIP权重导出中使用的顶部和左侧邻近块的示意图1900)：
-如果顶部邻居可用且已进行帧内编解码，则将isIntraTop设置为1，否则将isIntra top设置为0；
-如果左侧邻居可用且已进行帧内编解码，则将isIntraLeft设置为1，否则将isIntralLeft设置成0；
-如果(isIntraLeft+isIntraTop)等于2，则wt设置为3；
-否则，如果(isIntraLeft+isIntraTop)等于1，则wt设置为2；
-否则，将wt设置为1。
CIIP预测被建立如下：
PCIIP＝((4-wt)*Pinter+wt*Pintra+2)＞＞2 (2-20)
2.1.7.几何划分模式(GPM)
在VVC中，几何划分模式被支持用于帧间预测。使用CU级标志作为一种合并模式来通过信号传输几何划分模式，其他合并模式包括常规合并模式、MMVD模式、CIIP模式和子块合并模式。对于每个可能的CU尺寸w×h＝2m×2n，其中m，n∈{3…6}且不包括8x64和64x8，几何划分模式总共支持64个划分。
当使用该模式时，CU通过几何定位的直线被分割为两部分(图20示出了按相同角度分组的GPM分割示例的示意图2000)。分割线的位置在数学上是从特定划分的角度和偏移参数导出的。CU中的几何划分的每个部分使用其自身的运动进行帧间预测；每个划分只允许单向预测，即每个部分都有一个运动矢量和一个参考索引。应用单向预测运动约束以确保与传统的双向预测相同，每个CU只需要两个运动补偿预测。
如果几何划分模式用于当前CU，则指示几何划分的划分模式(角度和偏移)的几何划分索引以及两个合并索引(每个划分一个)被进一步通过信号传输。最大GPM候选大小的数目在SPS中被显式地通过信号传输，并且指定用于GPM合并索引的语法二进制化。在预测了几何划分的每个部分之后，使用具有自适应权重的混合处理来调整沿着几何划分边缘的样本值。这是整个CU的预测信号，并且将像在其他预测模式中一样对整个CU应用变换和量化过程。最后，使用几何划分模式预测的CU的运动场被存储。
2.1.7.1.单向预测候选列表构建
单向预测候选列表直接从根据扩展合并预测过程构建的合并候选列表中导出。将n表示为几何单向预测候选列表中的单向预测运动的索引。第n个扩展合并候选的LX运动矢量被用作几何划分模式的第n个单向预测运动矢量，X等于n的奇偶性。这些运动矢量在图21中用“x”标记，其中图21示出了几何划分模式的单向预测MV选择的示意图2100。如果第n个扩展合并候选的对应LX运动矢量不存在，则替代地使用相同候选的L(1-X)运动矢量作为几何划分模式的单向预测运动矢量。
2.1.7.2.沿几何划分边缘的混合
在使用其自身的运动来预测几何划分的每个部分之后，将混合应用于两个预测信号以导出几何划分边缘周围的样本。CU的每个位置的混合权重是基于个体位置和划分边缘之间的距离被导出的。
位置(x,y)到划分边缘的距离被导出为：
其中i,j是几何划分的角度和偏移的索引，其取决于通过信号传输的几何划分索引。ρx,j和ρy,j的符号取决于角度索引i。
几何划分的每个部分的权重如下导出：
wIdxL(x,y)＝partIdx？32+d(x,y):32-d(x,y) (2-25)
w1(x,y)＝1-w0(x,y) (2-27)
partIdx取决于角度索引i。权重w0的一个示例如图22所示。图22示出了使用几何划分模式生成弯曲权重w0的示例示意图2200。
2.1.7.3.用于几何划分模式的运动场存储
来自几何划分第一部分的Mv1、来自几何划分第二部分的Mv2以及Mv1和Mv2的组合Mv被存储在几何划分模式编解码的CU的运动场中。
运动场中每个个体位置的存储的运动矢量类型被确定为：
sType＝abs(motionIdx)<32？2∶(motionIdx≤0？(1-partIdx):partIdx) (2-43)
其中motionIdx等于d(4x+2,4y+2)，这是根据等式(2-36)重新计算的。partIdx取决于角度索引i。
如果sType等于0或1，则Mv0或Mv1被存储在对应运动场中，否则，如果sTType等于2，则存储来自Mv0和Mv2的组合Mv。
组合Mv使用以下过程被生成：
1)如果Mv1和Mv2来自不同的参考图片列表(一个来自L0，另一个来自L1)，则Mv1和Mv2被简单地组合以形成双向预测运动矢量。
2)否则，如果Mv1和Mv2来自同一列表，则仅存储单向预测运动Mv2。
2.1.8.多假设预测(MHP)
在一个具体示例性实施例中，MHP被描述为诸如JVET-U0100。
本公开采用JVET-M0425中先前提出的多假设预测。在帧间AMVP模式、常规合并模式以及MMVD模式之上，最多两个附加的预测子通过信号被传输。得到的整体预测信号利用每个附加的预测信号被迭代地累积。
pn+1＝(1-αn+1)pn+αn+1hn+1
权重因子α根据下表指定：
add_hyp_weight_idx α
0 1/4
1 -1/8
针对帧间AMVP模式，只有在双向预测模式中选择BCW中的不相等权重时才应用MHP。
2.2关于被混合来自多种组合的预测
下面的详细公开应被视为解释一般概念的示例。这些公开不应以狭隘的方式来解释。此外，这些公开可以以任何方式组合。
术语“视频单元”或“编解码单元”或“块”可表示编解码树块(CTB)、编解码树单元(CTU)、编解码块(CB)、CU、PU、TU、PB、TB。
在本公开中，关于“利用模式N被编解码的块”，这里的“模式N”可以是预测模式(例如，MODE_INTRA、MODE_INTER、MODE_PLT、MODE_IBC等)或编解码技术(例如，AMVP、合并、SMVD、BDOF、PROF、DMVR、AMVR、TM、仿射、CIIP、GPM、MMVD、BCW、HMVP、SbTMVP等)。
如本公开所用，“具有多于一个假设的预测模式”和“多重假设预测模式”的表达可以是可变的。
进一步地，本公开中的"多重假设预测"可以指将多于一个预测/组合/假设组合/混合为一个以供以后重建过程的任何编解码工具。例如，组合/假设可以是INTER模式编解码的、INTRA模式编解码的或任何其他编解码模式/方法，如CIIP、GPM、MHP等。
在下面的讨论中，多重假设预测块的“基本假设”可以指具有第一组加权值的第一假设/预测。
在下面的讨论中，多重假设预测块的“附加假设”可以指具有第二组加权值的第二假设/预测。
多重假设预测的组成
1.在一个示例中，模式X可以不被允许生成利用多重假设预测模式Y被编解码的多重假设预测块的假设。
1)例如，多重假设预测块的基本假设可以不被允许通过模式X被编解码。
2)例如，多重假设预测块的附加假设可以不被允许通过模式X被编解码。
3)例如，针对X编解码的块，它可以永远不会通过信号传输与模式Y相关的任何块级编解码信息。
4)例如，X是调色板编解码块(例如，PLT模式)。
5)备选地，模式X可以被允许使用来生成利用模式Y被编解码的多重假设预测块的假设。
a)例如，X是对称MVD编解码(例如，SMVD)模式。
b)例如，X是基于基于模板匹配的技术。
c)例如，X是基于基于双边匹配的技术。
d)例如，X是组合的帧内和帧间预测(例如，CIIP)模式。
e)例如，X是几何划分预测(例如，GPM)模式。
6)模式Y可以是CIIP、GPM或MHP。
2.CIIP可以与模式X(诸如GPM、或MMVD、或仿射)一起被用于块。
1)在一个示例中，GPM中的至少一个假设通过CIIP被生成。换言之，GPM中的至少一个假设被生成为至少一个帧间预测和一个帧内预测的加权和。
2)在一个示例中，CIIP中的至少一个假设通过GPM被生成。换言之，CIIP中的至少一个假设被生成为至少两个帧间预测的加权和。
3)在一个示例中，CIIP中的至少一个假设通过MMVD被生成。
4)在一个示例中，CIIP中的至少一个假设通过仿射预测被生成。
5)在一个示例中，模式X是否可以与CIIP一起被使用可以取决于诸如块维度的编解码信息。
6)在一个示例中，模式X是否可以与CIIP一起被使用可以通过信号从编码器被传输至解码器。
a)在一个示例中，信令可以通过诸如块维度的编解码信息被调节。
3.在一个示例中，多重假设预测块的一个或多个假设可以基于位置相关预测组合(例如，PDPC)被生成。
1)例如，假设的预测样本可以首先通过PDPC被处理，然后才被使用来生成多重假设预测块。
2)例如，基于考虑了邻近样本值的PDPC而获得的预测子可以被用于生成假设。
3)例如，基于考虑了邻近样本的梯度的基于梯度的PDPC而获得的预测子可以被用于生成假设。
a)例如，基于梯度的PDPC可以被应用于帧内模式(平面、DC、水平、垂直或对角线模式)的编解码假设。
4)例如，PDPC预测子可以不是基于当前块内部的预测样本。
a)例如，PDPC预测子可以仅是基于邻近当前块的预测(或重建)样本。
b)例如，PDPC预测子可以是基于邻近当前块的预测(或重建)样本和在当前块内部的预测(或重建)样本两者。
4.在一个示例中，多重假设预测块可以基于解码器侧细化技术被生成。
1)例如，解码器侧细化技术可以被应用于多重假设预测块的一个或多个假设。
2)例如，解码器侧细化技术可以被应用于多重假设预测块。
3)例如，解码器侧细化技术可以是基于解码器侧模板匹配(例如，TM)、解码器侧双边匹配(例如，DMVR)、或解码器侧双向光流(例如，BDOF)或利用光流的预测细化(PROF)。
4)例如，多重假设预测块可以利用CIIP、MHP、GPM或任何其它多重假设预测模式被编解码。
5)例如，多重假设块(例如，CIIP)的INTER预测运动数据可以通过解码器侧模板匹配(TM)、和/或解码器侧双边匹配(DMVR)和/或解码器侧双向光流(BDOF)被进一步细化。
6)例如，多重假设块(例如，CIIP)的INTER预测样本可以通过解码器侧模板匹配(TM)、和/或解码器侧双边匹配(DMVR)、和/或解码器侧双向光流(BDOF)或利用光流的预测细化(PROF)被进一步细化。
7)例如，多重假设块(例如，CIIP、MHP等)的INTRA预测部分可以通过解码器侧模式导出(例如，DIMD)、解码器侧帧内模板匹配等被进一步细化。
8)多重假设块的细化帧内预测模式/运动信息可以被禁止以预测在相同条带/图块/图片/子图片中将要被编码/被解码的后续块。
9)备选地，解码器侧细化技术可以不被应用于多重假设预测块。
a)例如，解码器侧细化技术可以不被允许对MHP编解码块使用。
通用权项
5.是否和/或如何应用上面公开的方法可以在序列级/图片组级/图片级/条带级/图块组级通过信号被传输，诸如在序列头/图片头/SPS/VPS/DPS/DCI/PPS/APS/条带头/图块组头中。
6.是否和/或如何应用上面公开的方法可以在PB/TB/CB/PU/TU/CU/VPDU/CTU/CTU行/条带/图块/子图片/其他种类的包含多于一个样本或像素的区域中通过信号被传输。
7.是否和/或如何应用上面公开的方法可以取决于编解码信息，例如块尺寸、颜色格式、单/双树划分、颜色分量、条带/图片类型。
3.问题
现有的视频编解码技术存在几个问题，需要进一步改进以获得更高的编解码增益。
1)目前针对帧内平面的PDPC没有考虑邻近样本的梯度，这可以被改进。
2)JVET-U0100中现有的MHP不考虑邻近样本的编解码信息，这可以被进一步提高用于更高的编解码增益。
3)现有方法探索了将运动细化(如模板匹配)应用于GPM编解码块。然而，是否被允许应用并不取决于GPM划分模式/形状。
4)现有方法探索了将模板匹配应用于GPM编解码块，或者对整个GPM块使用一个标志，或者对GPM块的一个子划分使用两个标志。基于GPM编解码的模板匹配信令可以进一步被优化。
5)现有方法探讨了将运动细化应用于视频块，例如，将模板匹配或MMVD应用于GPM编解码块，但从未将两者都应用。然而，不止一种运动细化方法可以应用于视频块，如GPM、CIIP等。
6)现有的方法使用固定的cMax值编解码合并索引。然而，合并索引编解码的二进制化可能取决于用于视频单元的编解码方法，因为被允许用于视频单元的编解码方法不止一种，并且它们每个都有自己的最大合并候选数目。
7)目前，一个视频单元可以使用模板匹配相关技术，没有关于不同模板样式的信令，这可以被修正。
4.发明
下面的详细公开应被视为解释一般概念的示例。这些公开不应以狭隘的方式来解释。此外，这些公开可以以任何方式组合。
术语“视频单元”或“编解码单元”或“块”可表示编解码树块(CTB)、编解码树单元(CTU)、编解码块(CB)、CU、PU、TU、PB、TB。
在本公开中，关于“利用模式N被编解码的块”，这里的“模式N”可以是预测模式(例如，MODE_INTRA、MODE_INTER、MODE_PLT、MODE_IBC等)或编解码技术(例如，AMVP、合并、SMVD、BDOF、PROF、DMVR、AMVR、TM、仿射、CIIP、GPM、MMVD、BCW、HMVP、SbTMVP等)。
本公开中的"多重假设预测"可以指将多于一个预测/组合/假设组合/混合为一个以供以后重建过程的任何编解码工具。例如，组合/假设可以是INTER模式编解码的、INTRA模式编解码的或任何其他编解码模式/方法，如CIIP、GPM、MHP等。
在下面的讨论中，多重假设预测块的“基本假设”可以指具有第一组加权值的第一假设/预测。
在下面的讨论中，多重假设预测块的“附加假设”可以指具有第二组加权值的第二假设/预测。
利用邻近视频单元的编解码信息的编解码技术
1.在一个示例中，基于梯度的位置相关预测组合(例如，PDPC)可应用于Y编解码模式块。
1)例如，基于梯度的PDPC可以利用邻近可用样本的梯度对当前块进行编解码。
a)例如，梯度值可以从一定数量(诸如两个)的邻近样本的样本值被计算。
b)例如，来自上方、右上方、左侧、左下方的几个(诸如两个)可用的邻近样本可以被用于计算梯度。
c)例如，对于角度预测方向，沿着相同方向的几个可用邻近样本可被用于计算梯度。
2)例如，Y是帧内PLANAR。
3)例如，Y是帧内CCLM。
4)例如，Y是帧间预测模式。
5)例如，除了左侧和上方邻近样本，用于帧内PLANAR模式的基于梯度的PDPC可以考虑左上方邻近样本。
6)例如，用于帧间预测模式的基于梯度的PDPC可以考虑左上方，和/或上方，和/或左侧的邻近样本。
2.在一个示例中，多重假设预测块的一个或多个假设可以基于当前块之外的邻近预测/重建样本被生成。
1)例如，多重假设预测块可以用MHP、GPM或任何其它多重假设预测模式来编解码。
2)例如，除了帧内PLANAR之外，其它利用邻近样本的帧内预测模式(帧内DC模式、帧内角度预测模式、帧内DM模式、帧内LM模式)，可以用于生成多重假设预测块。
3)例如，使用邻近预测/重建样本的帧间预测模式(帧间LIC、帧间OBMC、帧间模板匹配、使用邻近样本的帧间滤波)可用于生成多重假设预测块。
3.在一个示例中，是否和/或哪些邻近样本被用于通过多重假设预测(例如，MHP、GPM、CIIP等)对视频单元进行编解码，可以取决于视频单元的经编解码信息。
1)例如，不同的邻近样本可以用于不同的视频单元，这取决于应用于视频单元的帧内角度模式。
a)例如，视频单元可以是子块，也可以是多重假设块的划分。
b)例如，视频单元可以是多重假设块的假设之一。
2)例如，如果假设的编解码信息(例如，帧内模式等)指示预测方向是自左侧和/或上方，则可以将一个以上的左侧和/或上方邻近样本分组在一起，以构建用于生成假设的预测样本的模板。
3)另外，邻近样本是否被用于视频单元(划分/子块/整个块的假设，或整个块)，可以取决于邻近样本的可用性和/或关于视频单元的划分形状，和/或划分角度/方向。
a)例如，对于GPM编解码块的划分/子块，是否使用左侧和/或上方邻近样本来生成假设的预测样本可以取决于几何划分合并模式的划分形状(例如，merge_gpm_partition_idx)。
b)例如，对于GPM编解码块的划分/子块/假设，是否使用左侧和/或上方邻近样本来生成假设的预测样本可以取决于划分角(例如，angleIdx)，该划分角是从几何划分合并模式的划分形状被导出的。
c)例如，对于GPM编解码块的划分/子块/假设，是否使用左侧和/或上方邻近样本来生成假设的预测样本可以取决于划分距离(例如，distanceIdx)，其是从几何划分合并模式的划分形状被导出的。
关于GPM经编解码块的运动细化的一般规则
8.在一个示例中，是否将运动细化(例如，模板匹配、TM、MMVD、双边匹配)应用于GPM编解码视频单元(例如，整个块的划分/子块，或整个块)可以取决于编解码信息，例如几何划分合并模式的划分形状(例如，merge_gpm_partition_idx)。
1)可选地，是否将运动细化应用于GPM编解码视频单元可以取决于从几何划分合并模式的划分形状导出的划分角度/方向(例如，angleIdx)。
2)可选地，从几何划分合并模式的划分形状导出的划分角度/方向(例如，angleIdx)是否适用可以取决于运动细化是否应用于GPM编解码视频单元。
a)例如，划分角度/方向的信令可以取决于是否将运动细化应用于GPM编解码视频单元。
3)可选地，是否将运动细化应用于GPM编解码视频单元取决于从几何划分合并模式的划分形状导出的划分距离(例如，disranceIdx)。
4)例如，与运动细化相关的语法元素的信令可能取决于几何划分合并模式的划分形状、和/或划分角度和/或划分距离。
a)例如，与运动细化相关的语法元素可以是指示视频单元是否正在使用运动细化的标志。
b)例如，与运动细化相关的语法元素可以是指示视频单元如何使用运动细化的那些语法元素。
c)例如，对于某些划分形状(和/或某些划分角度，和/或某些划分距离)，与GPM运动细化相关的语法元素可能不被允许针对GPM编解码块通过信号被发送。
9.在一个示例中，在允许将运动细化(例如，模板匹配、TM、MMVD、双边匹配)应用于GPM编解码块的情况下，使用运动细化的信令可以遵循两级信令的样式。
1)例如，两级信令可以由指示是否将运动细化应用于整个GPM块的第一语法元素(例如，标志)、随后的指示是否将运动细化应用于GPM块的第一部分的第二语法元素(例如，标志)以及指示是否将运动细化应用于GPM块的第二部分的第三语法元素(例如，标志)构成。
2)例如，第二语法元素和第三语法元素的信令是基于第一语法元素的值被调整。
a)例如，如果第一语法元素指示没有将运动细化应用于GPM块，则第二语法元素和第三语法元素不通过信号被发送并被推断为等于默认值(例如，等于0)。
3)例如，第三语法元素的信令基于第一语法元素和第二语法元素的值被调整。
a)例如，如果第一语法元素指示运动细化被应用于GPM块并且第二语法元素指示运动细化未被应用于GPM块的第一部分，则第三语法元素不通过信号被发送并且被推断为等于默认值(例如，等于0)。
10.是否运动细化(例如，模板匹配、TM、MMVD、双边匹配)被允许应用于GPM编解码块可以在VPS/SPS/PPS/图片头/条带头或任何其它高于块级别的视频单元中通过信号被发送。
11.例如，如果在合并列表构建(例如，GPM合并列表生成)期间应用修剪过程，则如果合并列表的长度短于特定值(例如，通过信号传输的值或预定义值)，则可以向合并列表添加新的候选。
1)例如，可以通过合并列表中第一个X(例如X＝2)可用候选的加权和生成新的候选。
a)例如，可以使用平均加权。
b)例如，可以使用非平均加权。
c)例如，加权因子可以预先定义。
d)例如，使用什么加权因子可以基于语法元素(例如语法标志或语法变量)。
i.例如，预先定义了K组权重，并针对视频单元通过信号发送了语法变量以指定视频单元使用哪组权重。
2)例如，只有当新的候选与其在合并列表中的先前M个候选相似时，新的候选可以被添加。
a)例如，M等于合并列表中的所有可用候选。
b)例如，M是一个固定的数字，如M＝1。
c)例如，“相似”意味着它们的运动矢量的差异小于阈值。
d)例如，“相似”意味着它们指向相同的参考图片。
e)例如，“相似”意味着相同(诸如与其先前候选相同的运动矢量，和/或与其先前候选相同的参考图片)。
3)备选地，只有当新候选不同于合并列表中的先前M个候选时，新候选可以被添加。
a)例如，“不同”意味着它们的运动矢量的差异大于阈值。
b)例如，“不同”意味着它们指向不同的参考图片。
12.例如，在MMVD应用于视频块的情况下，通过信号被传输的MMVD步长/距离/方向索引与解释的/映射的MMVD步长/距离/方向之间的关系可以遵循以下规则中的一个或多个：
1)例如，较大的MMVD步长/距离索引可能不会指定较长的mmvd步长/距离。
a)类似地，较小的MMVD步长/距离索引可能不会指定较短的mmvd步长/距离。
2)例如，通过信号被传输的MMVD步长/距离/方向索引和解释的/映射的MMVD步长/距离/方向之间的映射关系可以由两层映射表定义。
a)例如，第一映射表指定通过信号被传输的MMVD步长/距离/方向索引和映射的MMVD步长/距离/方向索引之间的对应关系，第二映射表指定映射的MMVD步长/距离/方向索引和解释的/映射的MMVD步长/距离/方向之间的对应关系。
3)例如，MMVD步长/距离/方向索引的二进制化可以基于转换后的MMVD步长/距离/方向索引。
a)例如，转换后的MMVD步长/距离/方向索引被解码，然后转换回以导出解释的/映射的MMVD步长/距离/方向以供以后使用。
b)例如，可以将等于X的MMVD步长/距离/方向索引转换为用于二进制化的Y。
c)例如，X和Y是整数。
d)例如，并非所有可能的MMVD步长/距离/方向索引都被转换为用于二进制化的另一个值。
e)例如，第一K个MMVD步长/距离/方向索引被转换为用于二进制化的其他值。
f)例如，将第K1个MMVD步长/距离/方向索引的值和第K2个MMVD步长/距离/方向索引的值交换用于二进制化。
关于视频单元允许的多重运动细化
13在一个示例中，多于一个的运动细化过程(例如，模板匹配、TM或MMVD)可以应用于用特定模式X编解码的视频单元。
1)例如，X是GPM。
2)例如，X是CIIP。
3)例如，X是帧内模式。
4)例如，X是IBC。
5)例如，SPS/PPS/PH/SH/条带级语法元素可以通过信号被发送以指示哪种运动细化过程(例如，TM或MMVD)被允许应用于视频单元。
6)例如，语法元素可以以视频单元的编解码信息被调整。
a)例如，编解码信息可以是视频单元的宽度和/或高度。
b)例如，如果视频单元的宽度和/或高度满足条件，则应用第一类型的运动细化，否则应用第二类型的运动细化。
i.例如，第一类型的运动细化是模板匹配。
ii.例如，第二类型的运动细化是MMVD。
7)在一个示例中，可以用信号传输语法元素以指示使用哪种运动细化过程。
14.在一个示例中，基于帧间合并的编解码模式的合并索引编解码可以取决于哪个或是否运动细化(例如，模板匹配、TM、MMVD、双边匹配)被应用于视频单元。
1)例如，合并索引的二进制化可以取决于视频单元使用哪种运动细化。
2)例如，在允许通过{method_A、method_B、method_C…}中的任何一个的运动细化来进一步细化合并候选的情况下，允许的最大合并候选数目可以不同于不同的细化方法。
a)例如，如果合并块用method_A编解码，则合并索引用等于数字LEN_A的二进制化cMax值被编解码；否则，如果合并块用method_B编解码，则合并索引用等于数字LEN_B的二进制化cMax值被编解码；否则，如果合并块用method_C编解码，则合并索引用等于数字LEN_C的二进制化cMax值被编解码；等等。
3)例如，在允许使用运动细化或不使用运动细化对合并候选进行编解码的情况下，允许的最大合并候选数目可以不同于编解码方法(例如，使用或不使用运动细化)。
a)例如，如果合并编解码块不使用运动细化(例如，没有模板匹配的合并模式)，则使用等于数字X1的二进制化cMax值对合并索引进行编解码；否则(使用模板匹配对合并编解码块进行编解码)，使用等于数字X2的二进制化cMax值对合并索引进行编解码，其中X1！＝X2。
4)备选地，是否和/或如何应用运动细化可以取决于合并索引。15.在一个示例中，在允许对视频单元进行基于模板匹配的运动细化的情况下，可以存在允许用于视频单元的多于一种类型的模板。
1)例如，模板的类型可能遵循以下一个或多个规则：
a)仅在上方的一组邻近样本。
b)仅在左侧的一组邻近样本。
c)左侧和上方的一组邻近样本。
d)用X模式编解码的一组邻近样本。
e)用模式Y编解码的一组邻近样本，其中X！＝Y。
2)例如，哪种模板被用于视频单元可以由语法元素指示。
a)例如，可以用信号传输语法变量，该语法变量指定{Template_A，Template_B，Template_C，…}中的哪个模板被用于视频块。
b)例如，可以用信号传输语法标志，该语法标志指定模板A还是模板B被用于视频块。
3)例如，视频单元使用哪个模板可能会受到预定义规则的限制。
a)例如，该规则取决于几何划分合并模式编解码的视频单元的划分形状(和/或划分角度和/或划分距离)。
b)例如，该规则取决于邻近样本的可用性。
通用权利要求
16.是否和/或如何应用上面公开的方法可以在序列级/图片组级/图片级/条带级/图块组级通过信号被传输，诸如在序列头/图片头/SPS/VPS/DPS/DCI/PPS/APS/条带头/图块组头中。
17.是否和/或如何应用上面公开的方法可以在PB/TB/CB/PU/TU/CU/VPDU/CTU/CTU行/条带/图块/子图片/其他种类的包含多于一个样本或像素的区域中通过信号被传输。
18.是否和/或如何应用上面公开的方法可以取决于编解码信息，例如块尺寸、颜色格式、单/双树划分、颜色分量、条带/图片类型。
本公开涉及在编解码模式中将基于梯度的位置相关预测组合应用于目标块的解决方案。
图23示出了根据本公开的一些实施例的处理视频数据的方法2300的流程图。如图23所示，方法2300开始于2310，其中在视频的目标块和视频的码流之间的转换期间，在编解码模式中向目标块应用基于梯度的位置相关预测组合。在基于梯度的位置相关预测组合中，目标块的一个数目的邻近样本的梯度被使用。在2320，基于应用执行转换。
方法2300在基于梯度的位置相关预测组合中，应用目标块的一个数目的邻近样本的梯度，这增强了使用基于梯度的位置相关预测组合的灵活性，并且提高了转换的质量。
在一些实施例中，梯度的值可以从一个数目的邻近样本的值被确定。
在一些实施例中，数目是两个。应当理解，示例数目仅用于说明的目的而不表示任何限制，该数目可以是任何合适的值。
在一些实施例中，一个数目的邻近样本包括来自目标块上方的一个或多个可用邻近样本。可选地或附加地，一个数目的邻近样本包括来自右上方的一个或多个可用邻近样本。一个数目的邻近样本包括来自目标块左侧的一个或多个可用邻近样本。一个数目的邻近样本包括来自目标块左下方的一个或多个可用邻近样本。
在一些实施例中，一个数目的邻近样本包括沿角度预测方向的一个或多个可用邻近样本。
在一些实施例中，编解码模式可以是帧内平面模式。或者，编解码模式可以是帧内跨分量线性模型(CCLM)模式。或者，编解码模式可以是帧间预测模式。
在一些实施例中，编解码模式包括帧内平面模式并且邻近样本的数目包括左侧、上方和左上方邻近样本。
在一些实施例中，编解码模式包括区间预测模式并且一个数目的邻近样本包括左侧、上方和左上方邻近样本。
在一些实施例中，是否和/或如何应用基于梯度的位置相关预测组合的信息以任何合适的级别被指示。作为示例，信息以序列级别被指示。或者，信息也可以以图片组级别被指示。或者，信息也可以以图片级别被指示。或者，信息也可以以条带级别被指示。或者，信息也可以以图块组级别被指示。
在一些实施例中，是否和/或如何应用基于梯度的位置相关预测组合的信息可以以任何合适的形式通过信号被传输/被表示。作为示例，信息被包括在VPS中。或者，信息被包括在SPS中。或者，信息被包括在PPS中。或者，信息被包括在DPS中。或者，信息被包括在DCI中。或者，信息被包括在APS中。或者，信息被包括在序列头中。或者，信息被包括在图片头中。或者，信息被包括在子图片头中。或者，信息被包括在条带头中。或者，信息被包括在图块组头中。
在一些实施例中，是否和/或如何应用基于梯度的位置相关预测组合的信息可以在任何合适的区域被指示。作为示例，信息在PB被指示。或者，信息在TB被指示。或者，信息在CB被指示。或者，信息在PU被指示。或者，信息在TU被指示。或者，信息在CU被指示。或者，信息在VPDU被指示。或者，信息在CTU被指示。或者，信息在CTU行被指示。或者，信息在条带被指示。或者，信息在图块被指示。或者，信息在子图片被指示。
在一些实施例中，方法2300还包括基于目标块的经编解码的信息来确定是否和/或如何应用基于梯度的位置相关预测组合。在一些实施例中，经编解码的信息可以包括任何合适的信息。在一个示例中，经编解码的信息是块尺寸。或者，在另一个示例中，经编解码的信息是颜色格式。在另一个示例中，经编解码的信息是单树/双树划分。或者，信息可以是其他合适的，例如，颜色分量、条带类型或图片类型。
在一些实施例中，转换可以包括将目标块编码到码流中。
在一些实施例中，转换可以包括从码流解码目标块。
图24示出了根据本公开的一些实施例的处理视频数据的方法2400的流程图。如图24所示，方法2400开始于2410，其中在视频的目标块和视频的码流之间的转换期间，基于目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定目标块的一个或多个假设。在2420，基于一个或多个假设，执行转换。
方法2400在基于梯度的位置相关预测组合中应用目标块的适当编解码信息，增强了使用基于梯度的位置相关预测组合的灵活性，并提高了转换质量。
本公开的实施可以根据以下条款进行描述，其特征可以以任何合理的方式组合。
在一些实施例中，具有多于一个假设的预测模式可以是多假设预测(MHP)模式。或者，具有多于一个假设的预测模式可以是重叠块运动补偿(OBMC)模式。或者，具有多于一个假设的预测模式可以是多假设预测(MHP)模式。或者，具有多于一个假设的预测模式可以是几何划分模式(GPM)。或者，具有多于一个假设的预测模式可以是组合的帧内和帧间预测(CIIP)模式。
在一些实施例中，目标块的一个或多个假设可以在利用邻近样本的帧内预测模式中被确定。
在一些实施例中，帧内预测模式可以是帧内平面模式。可选地，帧内预测模式可以是帧内直流(DC)模式。可选地，帧内预测模式可以是帧内角度预测模式。可选地，帧内预测模式可以是帧内导出模式(DM)。可选地，帧内预测模式可以是帧内线性模型(LM)。
在一些实施例中，目标块的一个或多个假设可以在使用邻近预测或重建样本的帧内预测模式中被确定。
在一些实施例中，帧间预测模式包括使用邻近样本的以下模式中的至少一种，包括但不限于帧间局部照明补偿(LIC)模式、帧间重叠块运动补偿(OBMC)模式、帧间模板匹配模式或帧间滤波模式。
在一些实施例中，目标块的一个或多个假设可以包括目标块的至少一个目标单元的假设。
在一些实施例中，方法2400包括基于目标单元的经编解码的信息，确定要被用于获得目标单元的假设的一个或多个邻近样本。
在一些实施例中，所述经编解码的信息包括要被应用于目标单元的帧内角度模式，并且一个或多个邻近样本包括用于目标单元的至少一个邻近样本，至少一个邻近样本不同于用于除目标块之外的视频的另一单元的邻近样本。
在一些实施例中，目标单元可以包括目标块的子块或划分。
在一些实施例中，目标假设单元可以包括目标块的多个假设。
在一些实施例中，目标单元的经编解码的信息可以包括目标单元的假设的经编解码的信息，该假设的经编解码的信息指示预测方向是来自左侧和/或来自上方，并且一个或多个邻近样本可以包括一个以上的左侧和/或上方的邻近样本，一个以上的左侧和/或上方的邻近样本被分组在一起以构建用于假设的预测样本的模板。
在一些实施例中，目标单元的假设可以在帧内模式中被确定。
在一些实施例中，一个或多个邻近样本是否被用于获得目标单元的假设可以基于目标单元的经编解码的信息来确定。
在一些实施例中，目标单元的经编解码的信息包括一个或多个邻近样本的可用性。可选地或除此之外，目标单元的经编解码的信息包括一个或多个邻近样本的可用性。可选地或除此之外，目标单元的经编解码的信息包括与目标单元相关联的划分形状、划分角度或方向中的至少一项。
在一些实施例中，目标单元可以包括目标块的划分或子块、目标块的多个假设中的假设、或目标块。
在一些实施例中，目标单元可以包括目标块的划分或子块，或在几何划分合并模式下目标块的多个假设中的假设，并且一个或多个邻近样本可以包括左侧和/或上方的邻近样本。
在一些实施例中，目标单元的经编解码的信息包括几何划分合并模式的划分形状，并且其中左侧和/或上方的邻近样本是否被用于假设的预测样本是基于几何划分合并模式的划分形状来确定的。
在一些实施例中，几何划分合并模式划分形状可以由针对合并GPM划分的索引来指示，例如merge_gpm_partition_idx。
在一些实施例中，目标单元的经编解码的信息包括几何划分合并模式的划分角度，并且左侧和/或上方的邻近样本是否被用于假设的预测样本是基于几何划分合并模式的划分角度来确定的。
在一些实施例中，几何划分合并模式的划分角度可以从几何划分合并模式的划分形状导出。
在一些实施例中，几何划分合并模式的划分角度可以由针对角度的索引所指示，诸如angleIdx。
在一些实施例中，目标单元的经编解码的信息包括几何划分合并模式的划分距离，并且左侧和/或上方的邻近样本是否被用于假设的预测样本是基于几何划分合并模式的划分距离来确定的。
在一些实施例中，几何划分合并模式的划分距离是从几何划分合并模式的划分形状导出的。
在一些实施例中，几何划分合并模式的划分距离可以由针对距离的索引所指示，诸如距离Idx。
在一些实施例中，是否和/或如何基于一个或多个邻近样本获得目标块的一个或多个假设的信息可以以任何合适的形式通过信号被传输/被表示。作为示例，信息被包括在VPS中。在另一个示例中，信息被包括在SPS中。在进一步的示例中，信息被包括在PPS中。或者，信息被包括在DPS中。或者，信息被包括在DCI中。作为进一步的替代，信息被包括在APS中。在一些其他替代实施例中，信息可以被包括在一些种类的头中，例如序列头、图片头、子图片头、条带头、图块组头和/或类似物。
在一些实施例中，是否和/或如何基于一个或多个邻近样本获得目标块的一个或多个假设的信息可以在任何合适的区域被指示。作为示例，信息在PB被指示。或者，信息在TB被指示。或者，信息在CB被指示。或者，信息在PU被指示。或者，信息在TU被指示。或者，信息在CU被指示。或者，信息在VPDU被指示。或者，信息在CTU被指示。或者，信息在CTU行被指示。或者，信息在条带被指示。或者，信息在图块被指示。或者，信息在子图片被指示。
在一些实施例中，该方法还包括基于目标块的经编解码的信息来确定是否和/或如何确定目标块的一个或多个假设。在一些实施例中，经编解码的信息可以包括任何合适的信息。在一个示例中，经编解码的信息是块尺寸。或者，在另一个示例中，经编解码的信息是颜色格式。在另一个示例中，经编解码的信息是单树/双树划分。或者，信息可以是其他合适的，例如，颜色分量、条带类型或图片类型。
在一些实施例中，转换可以包括将目标块编码到码流中。
在一些实施例中，转换可以包括从码流解码目标块。
本公开的实施可以根据以下条款进行描述，其特征可以以任何合理的方式组合。
条款1.一种用于视频处理的方法，包括：在视频的目标块与所述视频的码流之间的转换期间，在编解码模式中向所述目标块应用基于梯度的位置相关预测组合，在所述基于梯度的位置相关预测组合中，所述目标块的一个数目的邻近样本的梯度被使用；以及基于所述应用执行所述转换。
条款2.根据条款1所述的方法，其中所述梯度的值是从所述一个数目的邻近样本的值被确定的。
条款3.根据条款2所述的方法，其中所述数目是两个。
条款4.根据条款1或2所述的方法，其中所述一个数目的邻近样本包括来自所述目标块的上方、右上方、左侧和/或左下方的一个或多个可用邻近样本。
条款5.根据条款1或2所述的方法，其中所述一个数目的邻近样本包括沿角度预测方向的一个或多个可用邻近样本。
条款6.根据条款1-5中任一项所述的方法，其中所述编解码模式是以下之一：帧内平面模式，帧内跨分量线性模型(CCLM)模式，或帧间预测模式。
条款7.根据条款1或2中任一项所述的方法，其中所述编解码模式包括帧内平面模式，并且所述一个数目的邻近样本包括左侧、上方和左上方邻近样本。
条款8.根据条款1或2所述的方法，其中所述编解码模式包括帧间预测模式，并且所述一个数目的邻近样本包括左侧、上方和/或左上方邻近样本。
条款9.根据条款1-8中任一项所述的方法，其中是否和/或如何应用所述基于梯度的位置相关预测组合的信息按以下中的一个级别被指示：序列级别，图片组级别，图片级别，条带级别，或者图块组级别。
条款10.根据条款1-8中任一项所述的方法，其中是否和/或如何应用所述基于梯度的位置相关预测组合的信息被包括在以下之一中：序列头，图片头，序列参数集(SPS)，视频参数集(VPS)，依赖参数集(DPS)，解码能力信息，图片参数集(PPS)，自适应参数集(APS)，条带头，或者图块组头。
条款11.根据条款1-8中任一项所述的方法，其中是否和/或如何应用所述基于梯度的位置相关预测组合的信息被包括在以下之一中：预测块(PB)，变换块(TB)，编解码块(CB)，预测单元(PU)，变换单元(TU)，编解码单元(CU)，虚拟流水线数据单元(VPDU)，编解码树单元(CTU)，CTU行，条带，图块，子图片，或包含多于一个样本或像素的区域。
条款12.根据条款1-11中任一项所述的方法，还包括：基于所述目标块的经编解码的信息确定是否和/或如何应用所述基于梯度的位置相关预测组合，所述经编解码的信息包括以下至少一项：块尺寸，颜色格式，单树和/或双树划分，颜色分量，条带类型，或图片类型。
条款13.根据条款1-12中任一项所述的方法，其中所述转换包括将所述目标块编码到所述码流中。
条款14.根据条款1-12中任一项所述的方法，其中所述转换包括从所述码流解码出所述目标块。
条款15.一种用于视频处理的方法，包括：在视频的目标块与所述视频的码流之间的转换期间，基于所述目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定所述目标块的一个或多个假设；以及基于所述一个或多个假设，执行所述转换。
条款16.根据条款15所述的方法，其中具有多于一个假设的所述预测模式是以下之一：重叠块运动补偿(OBMC)模式，多假设预测(MHP)模式，几何划分模式(GPM)，或组合的帧内和帧间预测(CIIP)模式。
条款17.根据条款15或16所述的方法，其中所述目标块的所述一个或多个假设是在利用邻近样本的帧内预测模式中被确定的。
条款18.根据条款17所述的方法，其中所述帧内预测模式是以下之一：帧内平面模式，帧内直流(DC)模式，帧内角度预测模式，帧内导出模式(DM)，或帧内线性模型(LM)。
条款19.根据条款15或16所述的方法，其中所述目标块的所述一个或多个假设是在利用邻近预测或重建样本的帧间预测模式中被确定的。
条款20.根据条款19所述的方法，其中所述帧间预测模式包括使用邻近样本的以下模式中的至少一个：帧间局部照明补偿(LIC)模式、帧间重叠块运动补偿(OBMC)模式、帧间模板匹配模式、或帧间滤波模式。
条款21.根据条款15-20中任一项所述的方法，其中所述目标块的所述一个或多个假设包括所述目标块的至少一个目标单元的假设。
条款22.根据条款21所述的方法，还包括：基于所述目标单元的经编解码的信息，确定要被用于获得所述目标单元的假设的所述一个或多个邻近样本。
条款23.根据条款22所述的方法，其中所述经编解码的信息包括要被应用于所述目标单元的帧内角度模式，并且所述一个或多个邻近样本包括用于所述目标单元的至少一个邻近样本，所述至少一个邻近样本不同于用于除所述目标块之外的所述视频的另一单元的邻近样本。
条款24.根据条款21-23中任一项所述的方法，其中所述目标单元包括所述目标块的子块或划分。
条款25.根据条款21-23中任一项所述的方法，其中所述目标假设单元包括所述目标块的多个假设。
条款26.根据条款22所述的方法，其中所述目标单元的所述经编解码的信息包括所述目标单元的所述假设的经编解码的信息,所述假设的所述经编解码的信息指示预测方向是来自左侧和/或来自上方，并且所述一个或多个邻近样本包括一个以上的左侧和/或上方的邻近样本，所述一个以上的左侧和/或上方的邻近样本被分组在一起以构建用于所述假设的预测样本的模板。
条款27.根据条款26所述的方法，其中所述目标单元的所述假设在帧内模式下被确定。
条款28.根据条款21所述的方法，其中所述一个或多个邻近样本是否被用于获得所述目标单元的所述假设是基于所述目标单元的经编解码的信息来确定的。
条款29.根据条款28所述的方法，其中所述目标单元的所述经编解码的信息包括以下中的至少一项：一个或多个邻近样本的可用性，或与所述目标单元相关联的划分形状、划分角度或方向中的至少一项。
条款30.根据条款29所述的方法，其中所述目标单元包括：所述目标块的划分或子块，所述目标块的多个假设中的假设，或所述目标块。
条款31.根据条款29或30所述的方法，其中所述目标单元包括所述目标块的划分或子块，或在几何划分合并模式下所述目标块的多个假设中的假设，并且所述一个或多个邻近样本包括左侧和/或上方的邻近样本。
条款32.根据条款31所述的方法，其中所述目标单元的所述经编解码的信息包括所述几何划分合并模式的划分形状，并且其中所述左侧和/或上方的邻近样本是否被用于所述假设的预测样本是基于所述几何划分合并模式的所述划分形状来确定的。
条款33.根据条款32所述的方法，其中所述几何划分合并模式的所述划分形状由针对合并GPM划分的索引来指示的。
条款34.根据条款31所述的方法，其中所述目标单元的所述经编解码的信息包括所述几何划分合并模式的划分角度，并且其中所述左侧和/或上方的邻近样本是否被用于所述假设的预测样本是基于所述几何划分合并模式的所述划分角度来确定的。
条款35.根据条款34所述的方法，其中所述几何划分合并模式的所述划分角是从所述几何划分合并模式的所述划分形状导出的。
条款36.根据条款34所述的方法，其中所述几何划分合并模式的所述划分角度由针对角度的索引所指示。
条款37.根据条款34所述的方法，其中所述目标单元的所述经编解码的信息包括所述几何划分合并模式的划分距离，并且其中所述左侧和/或上方的邻近样本是否被用于所述假设的预测样本是基于所述几何划分合并模式的所述划分距离来确定的。
条款38.根据条款37所述的方法，其中所述几何划分合并模式的所述划分距离是从所述几何划分合并模式的划分形状导出的。
条款39.根据条款37所述的方法，其中所述几何划分合并模式的所述划分距离由针对距离的索引所指示。
条款40.根据条款15-39中任一项所述的方法，其中是否和/或如何基于所述一个或多个邻近样本获得所述目标块的所述一个或多个假设的信息被包括在以下之一中：序列头，图片头，序列参数集(SPS)，视频参数集(VPS)，DPS，解码能力信息(DCI)，图片参数集(PPS)，自适应参数集(APS)，条带头，或者图块组头。
条款41.根据条款15-39中任一项所述的方法，其中是否和/或如何基于所述一个或多个邻近样本获得所述目标块的一个或多个假设的信息被包括在以下之一中：预测块(PB)，变换块(TB)，编解码块(CB)，预测单元(PU)，变换单元(TU)，编解码单元(CU)，虚拟流水线数据单元(VPDU)，编解码树单元(CTU)，CTU行，条带，图块，子图片，或包含多于一个样本或像素的区域。
条款42.根据条款15-41中任一项所述的方法，还包括：基于所述目标块的经编解码的信息确定是否和/或如何确定所述目标块的所述一个或多个假设，所述经编解码的信息包括以下至少一项：块尺寸，颜色格式，单树和/或双树划分，颜色分量，条带类型，或图片类型。
条款43.根据条款15-42中任一项所述的方法，其中所述转换包括将所述目标块编码到所述码流中。
条款44.根据条款15-42中任一项所述的方法，其中所述转换包括从所述码流解码出所述目标块。
条款45.一种用于处理视频数据的装置，包括处理器和在其上具有指令的非暂态存储器，其中所述指令在由所述处理器执行时使所述处理器执行根据条款1-14或条款15-44中任一项所述的方法。
条款46.一种非暂态计算机可读存储介质，存储指令，所述指令使处理器执行根据条款1-14或条款15-44中任一项所述的方法。
条款47.一种非暂态计算机可读记录介质，存储视频的通过由视频处理装置执行的方法而生成的码流，其中所述方法包括：在编解码模式中向所述视频的目标块应用基于梯度的位置相关预测组合，在所述基于梯度的位置相关预测组合中，所述目标块的一个数目的邻近样本的梯度被使用；以及基于所述应用所述基于梯度的位置相关预测组合，生成所述码流。
条款48.一种用于存储视频的码流的方法，包括：在编解码模式中向所述视频的目标块应用基于梯度的位置相关预测组合，在所述基于梯度的位置相关预测组合中，所述目标块的一个数目的邻近样本的梯度被使用；基于所述应用所述基于梯度的位置相关预测组合，生成所述码流；以及将所述码流存储在非暂态计算机可读记录介质中。
条款49.一种非暂态计算机可读记录介质，存储视频的通过由视频处理装置执行的方法而生成的码流，其中所述方法包括：基于所述目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定所述目标块的一个或多个假设；以及基于所述目标块的所述一个或多个假设，生成所述码流。
条款50.一种用于存储视频码流的方法，包括：基于所述目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定所述目标块的一个或多个假设；基于所述目标块的所述一个或多个假设，生成所述码流；以及将所述码流存储在非暂态计算机可读记录介质中。
示例设备
图25示出了可以在其中实现本公开的各种实施例的计算设备2500的框图。计算设备2500可以被实现为源设备110(或视频编码器114或200)或目的设备120(或视频解码器124或300)。
应当理解的是，图25中示出的计算设备2500仅为了说明的目的，而不是以任何方式暗示对本公开实施例的功能和范围的任何限制。
如图25所示，计算设备2500包括通用计算设备2500。计算设备2500可以至少包括一个或多个处理器或处理单元2510、存储器2520、存储单元2530、一个或多个通信单元2540、一个或多个输入设备2550以及一个或多个输出设备2560。
在一些实施例中，计算设备2500可以被实现为具有计算能力的任何用户终端或服务器终端。服务器终端可以是由服务提供商提供的服务器、大型计算设备等。用户终端例如可以是任何类型的移动终端、固定终端或便携式终端，包括移动电话、站、单元、设备、多媒体计算机、多媒体平板计算机、互联网节点、通信器、台式计算机、膝上型计算机、笔记本计算机、上网本计算机、个人通信系统(PCS)设备、个人导航设备、个人数字助理(PDA)、音频/视频播放器、数码相机/摄像机、定位设备、电视接收器、无线电广播接收器、电子书设备、游戏设备或其任何组合，并且包括这些设备的附件和外围设备或其任何组合。可以设想的是，计算设备2500可以支持到用户的任何类型的接口(诸如"可穿戴"电路装置等)。
处理单元2510可以是物理处理器或虚拟处理器，并且可以基于存储在存储器2520中的程序实现各种处理。在多处理器系统中，多个处理单元并行地执行计算机可执行指令，以便改善计算设备2500的并行处理能力。处理单元2510也可以被称为中央处理单元(CPU)、微处理器、控制器或微控制器。
计算设备2500通常包括各种计算机存储介质。这样的介质可以是由计算设备2500可访问的任何介质，包括但不限于易失性介质和非易失性介质、或可拆卸介质和不可拆卸介质。存储器2520可以是易失性存储器(例如，寄存器、高速缓存、随机存取存储器(RAM))、非易失性存储器(诸如只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)或闪存)或其任何组合。存储单元2530可以是任何可拆卸或不可拆卸的介质，并且可以包括机器可读介质，诸如存储器、闪存驱动器、磁盘或其他可以被用于存储信息和/或数据并且可以在计算设备2500中被访问的介质。
计算设备2500还可以包括附加的可拆卸/不可拆卸存储介质、易失性/非易失性存储介质。尽管在图25中未示出，但是可以提供用于从可拆卸的非易失性磁盘读取和/或写入可拆卸的非易失性磁盘的磁盘驱动器，以及用于从可拆卸的非易失性光盘读取和/或写入可拆卸的非易失性光盘的光盘驱动器。在这种情况下，每个驱动器可以经由一个或多个数据介质接口连接到总线(未示出)。
通信单元2540经由通信介质与另一计算设备通信。另外，计算设备2500中的组件的功能可以由可以经由通信连接进行通信的单个计算集群或多个计算机器来实现。因此，计算设备2500可以使用与一个或多个其他服务器、联网个人计算机(PC)或其他通用网络节点的逻辑连接来在联网环境中运行。
输入设备2550可以是各种输入设备中的一种或多种输入设备，诸如鼠标、键盘、轨迹球、语音输入设备等。输出设备2560可以是各种输出设备中的一种或多种输出设备，诸如显示器、扬声器、打印机等。借助于通信单元2540，计算设备2500还可以与一个或多个外部设备(未示出)通信，外部设备诸如是存储设备和显示设备，计算设备2500还可以与一个或多个使用户能够与计算设备2500交互的设备通信，或任何使计算设备2500能够与一个或多个其他计算设备通信的设备(例如网卡、调制解调器等)通信，如果需要的话。这种通信可以经由输入/输出(I/O)接口(未示出)进行。
在一些实施例中，计算设备2500的一些或所有组件也可以被布置在云计算架构中，而不是被集成在单个设备中。在云计算架构中，组件可以被远程提供并且共同工作，以实现本公开中描述的功能。在一些实施例中，云计算提供计算、软件、数据访问和存储服务，这将不要求最终用户知晓提供这些服务的系统或硬件的物理位置或配置。在各种实施例中，云计算使用合适的协议经由广域网(例如互联网)提供服务。例如，云计算提供商通过广域网提供应用程序，可以通过网络浏览器或任何其他计算组件访问这些应用程序。云计算架构的软件或组件以及对应的数据可以存储在远程服务器上。云计算环境中的计算资源可以被合并或分布在远程数据中心的位置。云计算基础设施可以通过共享数据中心提供服务，尽管它们表现为作为用户的单一接入点。因此，云计算架构可与被用于从远程位置的服务提供商处提供本文所述的组件和功能。备选地，它们可以由常规服务器提供，或者直接或以其他方式安装在客户端设备上。
在本公开的实施例中，计算设备2500可以被用于实现视频编码/解码。存储器2520可以包括具有一个或多个程序指令的一个或多个视频编解码模块2525。这些模块能够由处理单元2510访问和执行，以执行本文描述的各种实施例的功能。
在执行视频编码的示例实施例中，输入设备2550可以接收视频数据作为待编码的输入2570。视频数据可以由例如视频编解码模块2525处理，以生成经编码的码流。经编码的码流可以经由输出设备2560作为输出2580被提供。
在执行视频解码的示例实施例中，输入设备2550可以接收经编码的码流作为输入2570。经编码的码流可以由例如视频编解码模块2525处理，以生成经解码的视频数据。经解码的视频数据可以经由输出设备2560作为输出2580被提供。
虽然已经参考本公开的优选实施例具体示出和描述了本公开，但是本领域技术人员将理解，在不脱离由所附权利要求限定的本申请的精神和范围的情况下，可以在形式和细节上进行各种改变。这些变化旨在由本申请的范围所涵盖。因此，本申请的实施例的前述描述不旨在是限制性的。

Claims (50)

1.一种用于视频处理的方法，包括：
在视频的目标块与所述视频的码流之间的转换期间，在编解码模式中向所述目标块应用基于梯度的位置相关预测组合，在所述基于梯度的位置相关预测组合中，所述目标块的一个数目的邻近样本的梯度被使用；以及
基于所述应用执行所述转换。
2.根据权利要求1所述的方法，其中所述梯度的值是从所述一个数目的邻近样本的值被确定的。
3.根据权利要求2所述的方法，其中所述数目是两个。
4.根据权利要求1或2所述的方法，其中所述一个数目的邻近样本包括来自所述目标块的上方、右上方、左侧和/或左下方的一个或多个可用邻近样本。
5.根据权利要求1或2所述的方法，其中所述一个数目的邻近样本包括沿角度预测方向的一个或多个可用邻近样本。
6.根据权利要求1-5中任一项所述的方法，其中所述编解码模式是以下之一：
帧内平面模式，
帧内跨分量线性模型(CCLM)模式，或
帧间预测模式。
7.根据权利要求1或2中任一项所述的方法，其中
所述编解码模式包括帧内平面模式，并且
所述一个数目的邻近样本包括左侧、上方和左上方邻近样本。
8.根据权利要求1或2所述的方法，其中
所述编解码模式包括帧间预测模式，并且
所述一个数目的邻近样本包括左侧、上方和/或左上方邻近样本。
9.根据权利要求1-8中任一项所述的方法，其中是否和/或如何应用所述基于梯度的位置相关预测组合的信息按以下中的一个级别被指示：
序列级别，
图片组级别，
图片级别，
条带级别，或者
图块组级别。
10.根据权利要求1-8中任一项所述的方法，其中是否和/或如何应用所述基于梯度的位置相关预测组合的信息被包括在以下之一中：
序列头，
图片头，
序列参数集(SPS)，
视频参数集(VPS)，
依赖参数集(DPS)，
解码能力信息，
图片参数集(PPS)，
自适应参数集(APS)，
条带头，或者
图块组头。
11.根据权利要求1-8中任一项所述的方法，其中是否和/或如何应用所述基于梯度的位置相关预测组合的信息被包括在以下之一中：
预测块(PB)，
变换块(TB)，
编解码块(CB)，
预测单元(PU)，
变换单元(TU)，
编解码单元(CU)，
虚拟流水线数据单元(VPDU)，
编解码树单元(CTU)，
CTU行，
条带，图块，
子图片，或
包含多于一个样本或像素的区域。
12.根据权利要求1-11中任一项所述的方法，还包括：
基于所述目标块的经编解码的信息确定是否和/或如何应用所述基于梯度的位置相关预测组合，所述经编解码的信息包括以下至少一项：
块尺寸，
颜色格式，
单树和/或双树划分，
颜色分量，
条带类型，或
图片类型。
13.根据权利要求1-12中任一项所述的方法，其中所述转换包括将所述目标块编码到所述码流中。
14.根据权利要求1-12中任一项所述的方法，其中所述转换包括从所述码流解码出所述目标块。
15.一种用于视频处理的方法，包括：
在视频的目标块与所述视频的码流之间的转换期间，基于所述目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定所述目标块的一个或多个假设；以及
基于所述一个或多个假设，执行所述转换。
16.根据权利要求15所述的方法，其中具有多于一个假设的所述预测模式是以下之一：
重叠块运动补偿(OBMC)模式，
多假设预测(MHP)模式，
几何划分模式(GPM)，或
组合的帧内和帧间预测(CIIP)模式。
17.根据权利要求15或16所述的方法，其中所述目标块的所述一个或多个假设是在利用邻近样本的帧内预测模式中被确定的。
18.根据权利要求17所述的方法，其中所述帧内预测模式是以下之一：
帧内平面模式，
帧内直流(DC)模式，
帧内角度预测模式，
帧内导出模式(DM)，或
帧内线性模型(LM)。
19.根据权利要求15或16所述的方法，其中所述目标块的所述一个或多个假设是在利用邻近预测或重建样本的帧间预测模式中被确定的。
20.根据权利要求19所述的方法，其中所述帧间预测模式包括使用邻近样本的以下模式中的至少一个：帧间局部照明补偿(LIC)模式、帧间重叠块运动补偿(OBMC)模式、帧间模板匹配模式、或帧间滤波模式。
21.根据权利要求15-20中任一项所述的方法，其中所述目标块的所述一个或多个假设包括所述目标块的至少一个目标单元的假设。
22.根据权利要求21所述的方法，还包括：
基于所述目标单元的经编解码的信息，确定要被用于获得所述目标单元的假设的所述一个或多个邻近样本。
23.根据权利要求22所述的方法，其中
所述经编解码的信息包括要被应用于所述目标单元的帧内角度模式，并且
所述一个或多个邻近样本包括用于所述目标单元的至少一个邻近样本，所述至少一个邻近样本不同于用于除所述目标块之外的所述视频的另一单元的邻近样本。
24.根据权利要求21-23中任一项所述的方法，其中所述目标单元包括所述目标块的子块或划分。
25.根据权利要求21-23中任一项所述的方法，其中所述目标假设单元包括所述目标块的多个假设。
26.根据权利要求22所述的方法，其中
所述目标单元的所述经编解码的信息包括所述目标单元的所述假设的经编解码的信息,所述假设的所述经编解码的信息指示预测方向是来自左侧和/或来自上方，并且
所述一个或多个邻近样本包括一个以上的左侧和/或上方的邻近样本，所述一个以上的左侧和/或上方的邻近样本被分组在一起以构建用于所述假设的预测样本的模板。
27.根据权利要求26所述的方法，其中所述目标单元的所述假设在帧内模式下被确定。
28.根据权利要求21所述的方法，其中所述一个或多个邻近样本是否被用于获得所述目标单元的所述假设是基于所述目标单元的经编解码的信息来确定的。
29.根据权利要求28所述的方法，其中所述目标单元的所述经编解码的信息包括以下中的至少一项：
一个或多个邻近样本的可用性，或
与所述目标单元相关联的划分形状、划分角度或方向中的至少一项。
30.根据权利要求29所述的方法，其中所述目标单元包括：所述目标块的划分或子块，所述目标块的多个假设中的假设，或所述目标块。
31.根据权利要求29或30所述的方法，其中
所述目标单元包括所述目标块的划分或子块，或在几何划分合并模式下所述目标块的多个假设中的假设，并且
所述一个或多个邻近样本包括左侧和/或上方的邻近样本。
32.根据权利要求31所述的方法，其中
所述目标单元的所述经编解码的信息包括所述几何划分合并模式的划分形状，并且
其中所述左侧和/或上方的邻近样本是否被用于所述假设的预测样本是基于所述几何划分合并模式的所述划分形状来确定的。
33.根据权利要求32所述的方法，其中所述几何划分合并模式的所述划分形状由针对合并GPM划分的索引来指示的。
34.根据权利要求31所述的方法，其中
所述目标单元的所述经编解码的信息包括所述几何划分合并模式的划分角度，并且
其中所述左侧和/或上方的邻近样本是否被用于所述假设的预测样本是基于所述几何划分合并模式的所述划分角度来确定的。
35.根据权利要求34所述的方法，其中所述几何划分合并模式的所述划分角是从所述几何划分合并模式的所述划分形状导出的。
36.根据权利要求34所述的方法，其中所述几何划分合并模式的所述划分角度由针对角度的索引所指示。
37.根据权利要求34所述的方法，其中
所述目标单元的所述经编解码的信息包括所述几何划分合并模式的划分距离，并且
其中所述左侧和/或上方的邻近样本是否被用于所述假设的预测样本是基于所述几何划分合并模式的所述划分距离来确定的。
38.根据权利要求37所述的方法，其中所述几何划分合并模式的所述划分距离是从所述几何划分合并模式的划分形状导出的。
39.根据权利要求37所述的方法，其中所述几何划分合并模式的所述划分距离由针对距离的索引所指示。
40.根据权利要求15-39中任一项所述的方法，其中是否和/或如何基于所述一个或多个邻近样本获得所述目标块的所述一个或多个假设的信息被包括在以下之一中：
序列头，
图片头，
序列参数集(SPS)，
视频参数集(VPS)，
DPS，
解码能力信息(DCI)，
图片参数集(PPS)，
自适应参数集(APS)，
条带头，或者
图块组头。
41.根据权利要求15-39中任一项所述的方法，其中是否和/或如何基于所述一个或多个邻近样本获得所述目标块的一个或多个假设的信息被包括在以下之一中：
预测块(PB)，
变换块(TB)，
编解码块(CB)，
预测单元(PU)，
变换单元(TU)，
编解码单元(CU)，
虚拟流水线数据单元(VPDU)，
编解码树单元(CTU)，
CTU行，
条带，
图块，
子图片，或
包含多于一个样本或像素的区域。
42.根据权利要求15-41中任一项所述的方法，还包括：
基于所述目标块的经编解码的信息确定是否和/或如何确定所述目标块的所述一个或多个假设，所述经编解码的信息包括以下至少一项：
块尺寸，
颜色格式，
单树和/或双树划分，
颜色分量，
条带类型，或
图片类型。
43.根据权利要求15-42中任一项所述的方法，其中所述转换包括将所述目标块编码到所述码流中。
44.根据权利要求15-42中任一项所述的方法，其中所述转换包括从所述码流解码出所述目标块。
45.一种用于处理视频数据的装置，包括处理器和在其上具有指令的非暂态存储器，其中所述指令在由所述处理器执行时使所述处理器执行根据权利要求1-14或权利要求15-44中任一项所述的方法。
46.一种非暂态计算机可读存储介质，存储指令，所述指令使处理器执行根据权利要求1-14或权利要求15-44中任一项所述的方法。
47.一种非暂态计算机可读记录介质，存储视频的通过由视频处理装置执行的方法而生成的码流，其中所述方法包括：
在编解码模式中向所述视频的目标块应用基于梯度的位置相关预测组合，在所述基于梯度的位置相关预测组合中，所述目标块的一个数目的邻近样本的梯度被使用；以及
基于所述应用所述基于梯度的位置相关预测组合，生成所述码流。
48.一种用于存储视频的码流的方法，包括：
在编解码模式中向所述视频的目标块应用基于梯度的位置相关预测组合，在所述基于梯度的位置相关预测组合中，所述目标块的一个数目的邻近样本的梯度被使用；
基于所述应用所述基于梯度的位置相关预测组合，生成所述码流；以及
将所述码流存储在非暂态计算机可读记录介质中。
49.一种非暂态计算机可读记录介质，存储视频的通过由视频处理装置执行的方法而生成的码流，其中所述方法包括：
基于所述目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定所述目标块的一个或多个假设；以及
基于所述目标块的所述一个或多个假设，生成所述码流。
50.一种用于存储视频码流的方法，包括：
基于所述目标块之外的一个或多个邻近预测或重建样本，通过使用具有多于一个假设的预测模式来确定所述目标块的一个或多个假设；
基于所述目标块的所述一个或多个假设，生成所述码流；以及
将所述码流存储在非暂态计算机可读记录介质中。
CN202280042907.7A 2021-06-15 2022-06-14 用于视频处理的方法、设备和介质 Pending CN117561714A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CNPCT/CN2021/100211 2021-06-15
CN2021100211 2021-06-15
PCT/CN2022/098531 WO2022262693A1 (en) 2021-06-15 2022-06-14 Method, device, and medium for video processing

Publications (1)

Publication Number Publication Date
CN117561714A true CN117561714A (zh) 2024-02-13

Family

ID=84525958

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280042907.7A Pending CN117561714A (zh) 2021-06-15 2022-06-14 用于视频处理的方法、设备和介质

Country Status (3)

Country Link
US (1) US20240137496A1 (zh)
CN (1) CN117561714A (zh)
WO (1) WO2022262693A1 (zh)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200084441A1 (en) * 2017-03-22 2020-03-12 Electronics And Telecommunications Research Institute Prediction method and device using reference block
WO2019111835A1 (en) * 2017-12-08 2019-06-13 Panasonic Intellectual Property Corporation Of America Image encoding device, image decoding device, image encoding method, and image decoding method
CN111771382B (zh) * 2018-02-26 2022-12-06 交互数字Vc控股公司 帧内预测中基于梯度的边界滤波
WO2020058893A1 (en) * 2018-09-19 2020-03-26 Beijing Bytedance Network Technology Co., Ltd. History based motion vector predictor for intra block copy
CN111698500B (zh) * 2019-03-11 2022-03-01 杭州海康威视数字技术股份有限公司 一种编解码方法、装置及其设备
KR20230165888A (ko) * 2019-04-02 2023-12-05 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 양방향 광학 흐름 기반 비디오 코딩 및 디코딩

Also Published As

Publication number Publication date
WO2022262693A1 (en) 2022-12-22
US20240137496A1 (en) 2024-04-25

Similar Documents

Publication Publication Date Title
CN113424538A (zh) 解码器侧细化工具的选择性应用
CN117529919A (zh) 用于视频处理的方法、设备和介质
CN117337564A (zh) 用于视频处理的方法、装置和介质
CN117337567A (zh) 用于视频处理的方法、设备和介质
CN117561714A (zh) 用于视频处理的方法、设备和介质
CN117616754A (zh) 用于视频处理的方法、设备和介质
CN117501688A (zh) 用于视频处理的方法、设备和介质
CN117501690A (zh) 用于视频处理的方法、设备和介质
CN117581538A (zh) 视频处理的方法、设备和介质
CN117678223A (zh) 视频处理的方法、装置和介质
WO2023030504A1 (en) Method, device, and medium for video processing
WO2023051624A1 (en) Method, apparatus, and medium for video processing
WO2023040993A1 (en) Method, device, and medium for video processing
US20240163459A1 (en) Method, apparatus, and medium for video processing
WO2024099334A1 (en) Method, apparatus, and medium for video processing
WO2024002185A1 (en) Method, apparatus, and medium for video processing
WO2024046479A1 (en) Method, apparatus, and medium for video processing
CN118077194A (zh) 用于视频处理的方法、装置和介质
CN117957837A (zh) 用于视频处理的方法、装置和介质
CN117501689A (zh) 视频处理的方法、设备和介质
CN117529913A (zh) 视频处理的方法、设备和介质
CN118140475A (zh) 视频处理方法、设备和介质
CN117769836A (zh) 用于视频处理的方法、设备和介质
WO2024030926A9 (en) Method, apparatus, and medium for video processing
CN118077204A (zh) 用于视频处理的方法、装置和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication