CN114402608A - 视频编解码中bdof和dmvr的协调早期终止 - Google Patents

视频编解码中bdof和dmvr的协调早期终止 Download PDF

Info

Publication number
CN114402608A
CN114402608A CN202080064947.2A CN202080064947A CN114402608A CN 114402608 A CN114402608 A CN 114402608A CN 202080064947 A CN202080064947 A CN 202080064947A CN 114402608 A CN114402608 A CN 114402608A
Authority
CN
China
Prior art keywords
block
current block
current
picture
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080064947.2A
Other languages
English (en)
Inventor
C-C.陈
H.黄
W-J.钱
M.卡尔切维茨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN114402608A publication Critical patent/CN114402608A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/557—Motion estimation characterised by stopping computation or iteration based on certain criteria, e.g. error magnitude being too large or early exit
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/537—Motion estimation other than block-based
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

一种视频编解码器被配置为使用双向光流(BDOF)来基于第一参考图片和第二参考图片来确定视频数据的当前图片的当前块的预测块。第一参考图片距当前图片第一图片次序计数POC距离。第二参考图片距当前图片第二POC距离。该第一POC距离必须等于第二POC距离以使BDOF被用于确定当前块的预测块。视频编解码器根据视频编解码标准，基于当前块的预测块来对该当前块进行编解码。

Description

视频编解码中BDOF和DMVR的协调早期终止
本申请要求于2020年9月22日提交的美国专利申请17/028,599和于2019年9月23日提交的美国临时专利申请62/904,528的权益，其全部内容通过引用并入本文。
技术领域
本公开涉及视频编码和视频解码。
背景技术
数字视频能力可以被结合到广泛的设备中，包括数字电视、数字直接广播系统、无线广播系统、个人数字助理(PDA)、膝上型或桌上型计算机、平板计算机、电子书阅读器、数码相机、数字记录设备、数字媒体播放器、视频游戏设备、视频游戏控制台、蜂窝或卫星无线电电话(所谓的“智能电话”)、视频电话会议设备、视频流传输设备等。数字视频设备实现视频编解码技术，比如，那些在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分、高级视频编解码(AVC)、ITU-T H.265/高效视频编解码(HEVC)所定义的标准以及这些标准的扩展中所描述的技术。通过实现此类视频编解码技术，视频设备可以更有效地发送、接收、编码、解码和/或存储数字视频信息。
视频编解码技术包括空间(图片内)预测和/或时间(图片间)预测来减少或消除视频序列中固有的冗余。对于基于块的视频编解码，可以将视频切片(例如，视频图片或视频图片的一部分)分割为视频块，其也可以被称为编解码树单元(CTU)、编解码单元(CU)和/或编解码节点。图片的帧内编解码(I)切片中的视频块使用关于同一图片中相邻块中的参考样点的空间预测来进行编码。图片的帧间编解码(P或B)切片中的视频块可以使用关于同一图片中的相邻块中的参考样点的空间预测，或关于其他参考图片中的参考样点的时间预测。图片可以被称为帧，并且参考图片可以被称为参考帧。
发明内容
通常，本公开描述与双向光流(BDOF)和解码器侧运动向量精细化(DMVR)相关的技术。本公开的技术可以应用于比如HEVC(高效率视频编解码器)、VVC(通用视频编解码器)、基本视频编解码EVC的现有视频编解码器中的任一者，或在任何未来视频编解码标准中为高效编解码工具。如本文所描述，视频编解码器可以使用BDOF基于第一参考图片及第二参考图片确定视频数据的当前图片的当前块的预测块。该第一参考图片距该当前图片第一图片次序计数(POC)距离。该第二参考图片距该当前图片第二POC距离。在一些示例中，第一POC距离必须等于第二POC距离以使BDOF被用于确定当前块的预测块。强加这个要求可以协调BDOF和DMVR之间的早期终止条件。
在一个示例中，本公开描述对视频数据进行编解码的方法，该方法包括：使用双向光流(BDOF)基于第一参考图片及第二参考图片确定该视频数据的当前图片的当前块的预测块，其中：该第一参考图片距该当前图片第一图片次序计数(POC)距离，该第二参考图片距该当前图片第二POC距离，且该第一POC距离必须等于该第二POC距离以使得BDOF用以确定当前块的预测块；以及根据该视频编解码标准基于当前块的预测块对该当前块进行编解码。
在另一个示例中，本公开描述用于对视频数据进行编解码的设备，该设备包括：存储该视频数据的存储器；以及在电路中实现的一个或多个处理器，该一个或多个处理器被配置为：使用双向光流(BDOF)基于第一参考图片及第二参考图片确定该视频数据的当前图片的当前块的预测块，其中：该第一参考图片距该当前图片第一图片次序计数(POC)距离，该第二参考图片距该当前图片第二POC距离，且该第一POC距离必须等于该第二POC距离以使BDOF被用于确定当前块的预测块；以及根据该视频编解码标准基于当前块的预测块对该当前块进行编解码。
在另一个示例中，本公开描述用于对视频数据进行编解码的设备，该设备包括：用于使用双向光流(BDOF)基于第一参考图片及第二参考图片确定该视频数据的当前图片的当前块的预测块的部件，其中：该第一参考图片距该当前图片第一图片次序计数(POC)距离，该第二参考图片距该当前图片第二POC距离，且该第一POC距离必须等于该第二POC距离以使得BDOF被用于确定当前块的预测块；以及用于根据该视频编解码标准基于当前块的预测块对该当前块进行编解码的部件。
在另一个示例中，本公开描述其上存储有指令的计算机可读存储介质，该指令在执行时致使一个或多个处理器：使用双向光流(BDOF)基于第一参考图片及第二参考图片确定该视频数据的当前图片的当前块的预测块，其中：该第一参考图片距该当前图片第一图片次序计数(POC)距离，该第二参考图片距该当前图片第二POC距离，且该第一POC距离必须等于该第二POC距离以使得BDOF被用于确定当前块的预测块；以及根据该视频编解码标准基于当前块的预测块对该当前块进行编解码。
在附图和下面的描述中阐述了一个或多个示例的细节。根据说明书、附图和权利要求书，其他特征、目的和优点将是显而易见的。
附图说明
图1是图示了可以执行本公开的技术的示例性视频编码和解码系统的框图。
图2A是图示了用于合并模式的空间邻近运动向量(MV)候选的概念图。
图2B是图示了AMVP模式的空间邻近MV候选的概念图。
图3A是图示了示例性时间运动向量预测器(TMVP)候选的概念图。
图3B是图示了MV缩放的示例的概念图。
图4是图示了双边模板匹配的概念图。
图5是图示了在双向光流(BDOF)中使用的示例性扩展编解码单元(CU)区域的概念图。
图6是图示了可以执行本公开的技术的示例性视频编码器的框图。
图7是图示了可以执行本公开的技术的示例性视频解码器的框图。
图8是图示了用于对当前块进行编码的示例性方法的流程图。
图9是图示了用于对视频数据的当前块进行解码的示例性方法的流程图。
图10是图示了可以由根据本公开的一个或多个技术的视频编解码器执行的示例性方法的流程图。
具体实施方式
双向光流(BDOF)和解码器侧运动向量精细化(DMVR)是可在视频编解码期间用作运动补偿过程的编解码工具。BDOF和DMVR中的每一者与早期终止条件相关联。如果满足BDOF的早期终止条件，那么视频编解码器(例如，视频编码器或视频解码器)可执行BDOF过程。否则，如果不满足BDOF的早期终止条件，那么视频编解码器不执行BDOF过程。类似地，如果满足DMVR的早期终止条件，那么视频编解码器可执行DMVR过程。如果不满足DMVR的早期终止条件，则视频编解码器不执行DMVR过程。
以下是VVC标准的最新草案：Bross等人的“通用视频编解码(草案6)”，ITU-T SG16WP3和ISO/IEC JTC 1/SC29/WG11的视频编解码联合组(JVET)，第15次会议：Gothenburg，SE，2019年7月3-12日，JVET-O2001-vE(下文称为“VVC草案6”)。在VVC草案6中，BDOF的早期终止条件与DMVR的早期终止条件不匹配。具体地，DMVR的早期终止条件要求从两个参考图片到当前图片的距离(即，POC差)是相同的。然而，BDOF的早期终止条件要求两个参考图片中的一者按显示次序在当前图片之前，且另一者按显示次序在当前图片之后，但不要求参考图片具有与当前图片相同的POC差。由于BDOF和DMVR的早期终止条件的差，视频编解码器可能需要执行单独的检查，且在一些示例中包括单独的硬件以用于BDOF的早期终止条件和DMVR的早期终止条件。这可增加视频编解码器的复杂性、增加成本，且可减慢编解码过程。
本公开描述了此类问题的技术。举例来说，在一个示例中，视频编解码器(例如，视频编码器或视频解码器)可使用双向光流(BDOF)来基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块。该第一参考图片距该当前图片第一图片次序计数POC距离。该第二参考图片距该当前图片第二POC距离。第一POC距离必须等于BDOF的第二POC距离以用以确定当前块的预测块。举例来说，约束可以由比如，VVC或另一视频编解码标准之类的视频编解码标准来施加，其中，该约束要求第一POC距离等于第二POC距离。该视频编解码器可根据该视频编解码标准基于该当前块的该预测块对该当前块进行编解码。要求第一POC距离等于到待使用的BDOF的第二POC距离可至少部分地协调BDOF及DMVR的早期终止条件，且因此可导致视频编解码器的复杂性的降低。
图1是图示了可执行本公开的技术的示例性视频编码和解码系统100的框图。本公开的技术通常涉及编解码(编码和/或解码)视频数据。通常，视频数据包括用于处理视频的任何数据。因此，视频数据可以包括原始的未经编码的视频、经编码的视频、经解码的(例如，经重构的)视频和视频元数据，比如，信令通知数据。
如图1所示，在本示例中，系统100包括提供将由目标设备116进行解码和显示的经编码视频数据的源设备102。特别地，源设备102经由计算机可读介质110将视频数据提供给目标设备116。源设备102和目标设备116可包括广泛范围的设备中的任一者，包括桌上型计算机、移动设备(例如，笔记本(即，膝上型)计算机、平板计算机、比如智能电话的电话手持机、摄像机等)、机顶盒、广播接收器设备、电视、显示设备、数字媒体播放器、视频游戏控制台、视频串流设备等。在一些情况下，源设备102和目标设备116可以被配备用于无线通信，并且因此可以被称为无线通信设备。
在图1的示例中，源设备102包括视频源104、存储器106、视频编码器200和输出接口108。目标设备116包括输入接口122、视频解码器300、存储器120和显示设备118。根据本公开，源设备102的视频编码器200和目标设备116的视频解码器300可被配置为应用与DMVR和BDOF相关的技术。因此，源设备102表示视频编码设备的示例，而目标设备116表示视频解码设备的示例。在其他示例中，源设备和目标设备可以包括其他组件或布置。例如，源设备102可以从比如，外部相机的外部视频源接收视频数据。同样，目标设备116可以与外部显示设备接口，而不是包括集成的显示设备。
如图1所示的系统100仅是一个示例。通常，任何数字视频编码和/或解码设备都可以执行与DMVR和BDOF相关的技术。源设备102和目标设备116仅仅是此类编解码设备的示例，其中源设备102生成经编解码的视频数据以传输到目标设备116。本公开将“编解码”设备称为执行数据的编解码(编码和/或解码)的设备。从而，视频编码器200和视频解码器300表示编解码设备的示例，具体地，分别是视频编码器和视频解码器。在一些示例中，源设备102和目标设备116可以按基本上对称的方式操作，使得源设备102和目标设备116中的每一者都包括视频编码和解码组件。因此，系统100可以例如，对于视频流、视频回放、视频广播或视频电话，支持源设备102与目标设备116之间的单向或双向视频传输。
通常，视频源104表示视频数据的源(即，原始的未经编码的视频数据)，并向视频编码器200提供视频数据的连续系列的图片(也被称为“帧”)，该视频编码器200对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备，比如，摄像机、包含先前捕获的原始视频的视频档案和/或从视频内容提供商接收视频的视频馈送接口。作为进一步可替代的，视频源104可以生成基于计算机图形的数据作为源视频，或者实况视频、存档的视频和计算机生成的视频的组合。在每种情况下，视频编码器200对捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从接收的次序(有时被称为“显示次序”)重新布置成用于编解码的编解码次序。视频编码器200可以生成包括经编码的视频数据的比特流(bitstream)。源设备102然后可以经由输出接口108向计算机可读介质110上输出经编码的视频数据，用于由例如，目标设备116的输入接口122接收和/或检索。
源设备102的存储器106和目标设备116的存储器120表示通用存储器。在一些示例中，存储器106、120可存储原始视频数据，例如，来自视频源104的原始视频和来自视频解码器300的原始经解码的视频数据。另外地或可替代地，存储器106、120可以分别存储可由例如，视频编码器200和视频解码器300执行的软件指令。尽管在该示例中，与视频编码器200和视频解码器300分开示出存储器106和存储器120，但是应当理解的是，视频编码器200和视频解码器300也可以包括用于功能上类似或等同目的的内部存储器。此外，存储器106、120可以存储经编码的视频数据，例如，从视频编码器200输出并输入到视频解码器300的数据。在一些示例中，存储器106、120的部分可以被分配为一个或多个视频缓冲器，例如，以存储原始的、经解码的和/或经编码的视频数据。
计算机可读介质110可以表示能将经编码的视频数据从源设备102传输到目标设备116的任何类型的介质或设备。在一个示例中，计算机可读介质110表示通信介质，以使得源设备102能够例如，经由射频网络或基于计算机的网络实时地向目标设备116发送经编码的视频数据。根据通信标准，比如，无线通信协议，输出接口108可以调制包括经编码的视频数据的传输信号，并且输入接口122可以解调所接收的传输信号。通信介质可以包括任何无线或有线通信介质，比如，射频(RF)频谱或一条或多条物理传输线。通信介质可以形成基于分组的网络(比如，局域网、广域网或全球网络(比如，因特网))的一部分。通信介质可以包括路由器、交换机、基站或有助于促进从源设备102到目标设备116的通信的任何其他装备。
在一些示例中，计算机可读介质110可以包括存储设备112。源设备102可以将编码数据从输出接口108输出到存储设备112。类似地，目标设备116可以经由输入接口122访问来自存储设备112的经编码的数据。存储设备112可以包括各种分布式或本地访问的数据存储介质中的任何一种，比如，硬盘、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器，或者用于存储编码的视频数据的任何其他合适的数字存储介质。
在一些示例中，计算机可读介质110可以包括文件服务器114或可存储由源设备102生成的编码视频数据的另一中间存储设备。源设备102可将编码的视频数据输出到文件服务器114或可存储由源设备102生成的编码的视频的另一中间存储设备。目标设备116可以经由流传输或下载从文件服务器114访问所存储的视频数据。文件服务器114可以是能存储经编码的视频数据并向目标设备116发送该经编码的视频数据的任何类型的服务器设备。文件服务器114可以表示网页服务器(例如，用于网站的)、文件传输协议(FTP)服务器、内容传递网络设备或网络附加存储(NAS)设备。目标设备116可以通过任何标准数据连接，包括互联网连接，访问来自文件服务器114的经编码的视频数据。这可以包括无线信道(例如，Wi-Fi连接)、有线连接(例如，数字订户线(DSL)、电缆调制解调器等)或者二者的组合，它们适于访问存储在文件服务器114上的经编码的视频数据。文件服务器114和输入接口122可以配置为根据流传输协议、下载传输协议或其组合来操作。
输出接口108和输入接口122可以表示无线发送器/接收器、调制解调器、有线网络组件(例如，以太网卡)、根据各种IEEE 802.11标准中的任何标准操作的无线通信组件，或其他物理组件。在输出接口108和输入接口122包括无线组件的示例中，输出接口108和输入接口122可以被配置为根据比如，4G、4G-LTE(长期演进)、LTE高级、5G或类似标准的蜂窝通信标准来传输比如，编码的视频数据的数据。在输出接口108包括无线发送器的一些示例中，输出接口108和输入接口122可以被配置为根据其他无线标准，比如，IEEE 802.11规范、IEEE 802.15规范(例如，ZigBeeTM)、蓝牙TM标准或类似标准，来传输数据，比如，经编码的视频数据。在一些示例中，源设备102和/或目标设备116可以包括各自的片上系统(SoC)设备。例如，源设备102可以包括执行属于视频编码器200和/或输出接口108的功能性的SoC设备，并且目标设备116可以包括执行属于视频解码器300和/或输入接口122的功能性的SoC设备。
本公开的技术可以应用于视频编解码，以支持多种多媒体应用中的任何一种，比如，空中电视广播、有线电视传输、卫星电视传输、互联网流传输视频传输(比如，通过HTTP的动态自适应流传输(DASH))、经编码到数据存储介质上的数字视频、存储在数据存储介质上的数字视频的解码或其他应用。
目标设备116的输入接口122从计算机可读介质110(例如，通信介质、存储设备112、文件服务器114等)接收经编码的视频比特流。经编码视频比特流可包括由视频编码器200定义的信令通知信息，其也由视频解码器300使用，比如，具有描述视频块或其他经编码单元(例如，切片、图片组、序列等)的特性和/或处理的值的语法元素。显示设备118向用户显示经解码的视频数据的经解码的图片。显示设备118可以表示多种显示设备中的任何一种，比如，液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器或另一种类型的显示设备。
尽管未在图1中示出，但在一些示例中，视频编码器200和视频解码器300中的每个可以与音频编码器和/或音频解码器集成在一起，并且可以包括适当的MUX-DEMUX单元或其他硬件和/或软件，来处理公共数据流中包括音频和视频的多路复用流。如果适用，MUX-DEMUX单元可以符合ITU H.223多路复用器协议，或其他协议，比如，用户数据报协议(UDP)。
视频编码器200和视频解码器300各自可以被实现为多种合适的编码器和/或解码器电路中的任何一种，比如，一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件或其任何组合。当该技术部分地以软件实现时，设备可以将用于软件的指令存储在合适的非暂时计算机可读介质中，并使用一个或多个处理器在硬件中执行该指令来执行本公开的技术。视频编码器200和视频解码器300中的每一者可以被包括在一个或多个编码器或解码器中，其中任一个可以被集成为相应设备中的组合编码器/解码器(编解码器(CODEC))的一部分。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器和/或无线通信设备，比如，蜂窝电话。
视频编码器200和视频解码器300可根据视频编解码标准(比如，ITU-T H.265，也被称为高效视频编解码(HEVC))或其扩展(比如，多视图和/或可缩放视频编解码扩展)来操作。可替代地，视频编码器200和视频解码器300可根据其他专有或工业标准(比如，ITU-TH.266，也称为通用视频编解码(VVC))操作。VVC草案6是VVC标准的最新草案。然而，本公开的技术不限于任何特定的编解码标准。J.Chen等人，“Algorithm description ofVersatile Video Coding and Test Model 4(VTM 4)”，ITU-T SG 16 WP 3和ISO/IEC JTC1/SC 29/WG 11的视频编解码联合组(JVET)，第15次会议：Marrakech，MA，2019年1月9-18日，JVET-M1002是VVC的算法描述和测试模型。
通常，视频编码器200和视频解码器300可以执行图片的基于块的编解码。术语“块”通常指包括待处理的数据(例如，经编码的、经解码的或用在编码过程和/或解码过程中的其他形式的数据)的结构。例如，块可以包括亮度和/或色度数据的样点的二维矩阵。通常，视频编码器200和视频解码器300可以对以YUV(例如，Y、Cb、Cr)格式表示的视频数据进行编解码。也就是说，视频编码器200和视频解码器300可以对亮度和色度分量进行编解码，而不是对用于图片的样点的红、绿和蓝(RGB)数据进行编解码，其中色度分量可以包括红色调和蓝色调色度分量两种。在一些示例中，视频编码器200在编码之前将所接收的RGB格式化数据转换成YUV表示，并且视频解码器300将YUV表示转换成RGB格式。可替代地，预处理和后处理单元(未示出)可以执行这些转换。
本公开通常可以涉及图片的编解码(例如，编码和解码)，以包括编码或解码图片数据的过程。类似地，本公开可以涉及图片的块的编解码，以包括编码或解码用于块的数据的过程，例如，预测和/或残差编解码。经编码的视频比特流通常包括表示编解码决策(例如，编解码模式)和图片到块的分割的语法元素的一系列值。因此，对编解码图片或块的引用通常应被理解为用于形成图片或块的语法元素的编解码值。
HEVC定义了各种块，包括编解码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC，视频编解码器(比如，视频编码器200)根据四叉树结构来将编解码树单元(CTU)分割为CU。也就是说，视频编解码器将CTU和CU分割成四个相等的、不重叠的正方形，并且四叉树的每个节点有零个或四个子节点。没有子节点的节点可以被称为“叶节点”，并且此叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频编解码器还可以分割PU和TU。例如，在HEVC中，残差四叉树(RQT)表示TU的分割。在HEVC中，PU表示帧间预测数据，而TU表示残差数据。经帧内预测的CU包括帧内预测信息，比如，帧内模式指示。
作为另一个示例，视频编码器200和视频解码器300可以被配置为根据JEM或VVC来操作。根据VVC，视频编解码器(比如，视频编码器200)将图片分割成多个编解码树单元(CTU)。视频编码器200可以根据树结构，比如，四叉树-二叉树(QTBT)结构或多类型树(MTT)结构来分割CTU。QTBT结构移除了多种分割类型的概念，比如，HEVC的CU、PU以及TU之间的分离。QTBT结构包括两层：根据四叉树分割来分割的第一层和根据二叉树分割来分割的第二层。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于编解码单元(CU)。
在MTT分割结构中，块可以使用四叉树(QT)分割、二叉树(BT)分割和一种或多种类型的三叉树(TT)(也称为三叉树(TT))分割来分割。三叉树或三叉树分割是将块划分成三个子块的分割。在一些示例中，三叉树分割将块分成三个子块，而不通过中心来分原始块。MTT(例如，QT、BT和TT)中的分割类型可以是对称的或者不对称的。
在一些示例中，视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度分量和色度分量中的每一者分量，而在其他示例中，视频编码器200和视频解码器300可以使用两个或多个QTBT或MTT结构，比如，一个QTBT/MTT结构用于亮度分量，而另一QTBT/MTT结构用于两个色度分量(或者两个QTBT/MTT结构用于相应的色度分量)。
视频编码器200和视频解码器300可以被配置为使用每HEVC四叉树分割、QTBT分割、或MTT分割或其他分割结构。出于解释的目的，相对于QTBT分割来呈现本公开的技术的描述。然而，应当理解的是，本公开的技术也可以应用于被配置以使用四叉树分割或其他类型的分割的视频编解码器。
块(例如，CTU或CU)可以以各种方式在图片中进行分组。作为一个示例，图块(brick)可以指图片中的特定片(tile)内的CTU行的矩形区域。片可以是图片中特定片列和特定片行内的CTU的矩形区域。片列是指CTU的矩形区域，其高度等于图片高度，且其宽度由语法元素(比如，在图片参数集中)指定。片行表示CTU的矩形区域，其高度由语法元素(例如，在图片参数集中)指定，且其宽度等于图片宽度。
在一些示例中，可以将片分割成多个图块，每个图块可以包括片内的一个或多个CTU行。未被分割成多个图块的片也可被称为图块。然而，作为片的真实子集的图块可以不被称为片。
图片中的图块也可以被排列成切片。切片可以是可以排他地包含在单个网络抽象层(NAL)单元中的整数个图片图块。在一些示例中，切片包括多个完整的片或者仅包括一个片的完整的图块的连续序列。
本公开可以互换地使用“N×N”和“N乘N”来表示块(比如，CU或其他视频块)在垂直和水平维度方面的样点维度，例如，16×16样点或16乘16样点。通常，16×16CU在垂直方向上有16个样点(y＝16)，并且在水平方向上有16个样点(x＝16)。同样，N×N CU通常在垂直方向上具有N个样点且在水平方向上具有N个样点，其中N表示非负整数值。CU中的样点可以按行和列布置。此外，CU不一定需要在水平方向具有与垂直方向相同数量的样点。例如，CU可以包括N×M个样点，其中M不一定等于N。
视频编码器200编码CU的表示预测和/或残差信息以及其他信息的视频数据。预测信息指示如何预测CU，以便形成CU的预测块。残差信息通常表示编码之前的CU样点与预测块之间的逐样点差。
为了预测CU，视频编码器200通常可以通过帧间预测或帧内预测来形成用于CU的预测块。帧间预测通常指从先前经编解码的图片的数据中预测CU，而帧内预测通常指从相同图片的先前经编解码的数据中预测CU。为了执行帧间预测，视频编码器200可以使用一个或多个运动向量来生成预测块。视频编码器200通常可以执行运动搜索以标识与CU紧密匹配的参考块，例如，就CU与参考块之间的差而言。视频编码器200可以使用绝对差和(SAD)、平方差和(SSD)、平均绝对差(MAD)、均方差(MSD)或其他此类差计算来计算差度量，以确定参考块是否与当前CU紧密匹配。在一些示例中，视频编码器200可以使用单向预测或双向预测来预测当前CU。
VVC的一些示例也提供仿射运动补偿模式，该模式可以被认为是帧间预测模式。在仿射运动补偿模式下，视频编码器200可以确定表示非平移运动的两个或多个运动向量，比如，放大或缩小、旋转、透视运动或其他不规则运动类型。
为了执行帧内预测，视频编码器200可以选择帧内预测模式来生成预测块。VVC的一些示例提供了六十七种帧内预测模式，包括各种方向的模式，以及平面模式和DC模式。通常，视频编码器200选择帧内预测模式，其描述当前块(例如，CU的块)的相邻样点，以从其预测当前块的预测样点。假设视频编码器200以光栅扫描次序(从左侧到右侧、从顶部到底部)来编解码CTU和CU，此类样点通常可以在与当前块相同的图片中的当前块的上方、当前块的上方到左侧，或到当前块的左侧。
视频编码器200对表示当前块的预测模式的数据进行编码。例如，对于帧间预测模式，视频编码器200可以对表示使用了各种可用帧间预测模式中的哪一种的数据进行编码，以及对用于对应模式的运动信息进行编码。对于单向或双向帧间预测，例如，视频编码器200可以使用高级运动向量预测(AMVP)或合并模式来对运动向量进行编码。视频编码器200可以使用类似模式来编码用于仿射运动补偿模式的运动向量。
在预测之后，比如，块的帧内预测或帧间预测之后，视频编码器200可以计算用于块的残差数据。残差数据(比如，残差块)表示块与针对该块的预测块之间的逐样点差，其通过使用对应预测模式而形成。视频编码器200可以对残差块应用一个或多个变换，以在变换域而不是样点域中产生经变换的数据。例如，视频编码器200可以对残差视频数据应用离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换。另外，视频编码器200可以在第一变换之后应用二次变换，比如，模式相关的不可分离二次变换(MDNSST)、信号相关的变换、Karhunen-Loeve变换(KLT)等。视频编码器200在应用一个或多个变换之后产生变换系数。
如上所述，在产生变换系数的任何变换之后，视频编码器200可以执行变换系数的量化。量化通常指其中变换系数被量化以尽可能减少用来表示系数的数据量从而提供进一步压缩的过程。通过执行量化过程，视频编码器200可以减少与一些或所有系数相关联的位深度。例如，视频编码器200可在量化期间将n比特值下舍入到m比特值，其中n大于m。在一些示例中，为了执行量化，视频编码器200可执行待量化的值的逐位右移。
量化之后，视频编码器200可以扫描变换系数，从而从包括经量化的变换系数的二维矩阵中产生一维向量。扫描可以被设计成将较高能量(并且因此较低频率的)的系数放置在向量的前面，并且将较低能量(并且因此较高频率的)的变换系数放置在向量的后面。在一些示例中，视频编码器200可以利用预定扫描次序来扫描经量化的变换系数，以产生经串行化的向量，并且然后，对向量的经量化的变换系数进行熵编码。在其他示例中，视频编码器200可以执行自适应扫描。在扫描经量化变换系数以形成一维向量之后，视频编码器200可例如根据上下文自适应二进制算术编码(CABAC)对一维向量进行熵编码。视频编码器200也可以对用于描述了与经编码的视频数据相关联的元数据的语法元素的值进行熵编码，以供视频解码器300在对视频数据进行解码时使用。
为了执行CABAC，视频编码器200可以将上下文模型内的上下文分配给待传输的符号。上下文可以涉及例如，符号的相邻值是否为零值。概率确定可以基于被分配给符号的上下文。
视频编码器200还可以例如在图片标头、块标头、切片标头或其他语法数据中(比如，序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS))给视频解码器300生成语法数据，比如，基于块的语法数据、基于图片的语法数据和基于序列的语法数据。视频解码器300可以同样地解码此语法数据，以确定如何解码对应视频数据。
以这种方式，视频编码器200可以生成比特流，该比特流包括经编码的视频数据，例如，描述了图片到块(例如，CU)的分割的语法元素以及用于块的预测和/或残差信息。最终，视频解码器300可以接收比特流并解码经编码视频数据。
通常，视频解码器300执行与由视频编码器200执行的过程互易的过程，以解码比特流的经编码视频数据。例如，视频解码器300可以使用CABAC、按与视频编码器200的CABAC编码过程基本类似但互易的方式，解码比特流的用于语法元素的值。语法元素可以定义分割信息，该分割信息用于将图片分割为CTU和根据比如，QTBT结构的对应分割结构对每个CTU进行分割以定义CTU的CU。语法元素还可以定义用于视频数据的块(例如，CU)的预测和残差信息。
残差信息可以由例如经量化的变换系数来表示。视频解码器300可以对块的经量化的变换系数进行逆量化和逆变换，以重现用于块的残差块。视频解码器300使用信令通知的预测模式(帧内预测或帧间预测)和有关预测信息(例如，用于帧间预测的运动信息)，以形成用于块的预测块。视频解码器300然后可以(在逐样点的基础上)组合预测块和残差块，以重现原始块。视频解码器300可以执行附加处理，比如，执行去块过程以减少沿块的边界的视觉伪像。
在HEVC中，切片中最大的编解码单元称为编解码树块(CTB)或编解码树单元(CTU)。CTB包含四叉树，其节点是编解码单元。在HEVC主轮廓中CTB的大小可以在16×16至64×64的范围内(尽管可以支持8×8CTB大小)。编解码单元(CU)的大小可以与CTB的大小相同，小至8×8。每个编解码单元用一种模式，即帧间或帧内进行编解码。当CU经帧间编解码时，CU可进一步分割成2或4个预测单元(PU)或在不适用进一步分割时变成仅一个PU。当一个CU中存在两个PU时，其可以是半大小矩形或具有CU的1/4或3/4大小的两个矩形大小。当CU经帧间编解码时，每一PU具有以唯一帧间预测模式导出的运动信息集。
在HEVC标准中，存在两种帧间预测模式，分别称为合并(跳过被视为合并的特殊情况)和用于预测单元(PU)的高级运动向量预测(AMVP)模式。在AMVP或合并模式中，为多个运动向量预测值维持运动向量(MV)候选列表。通过从MV候选列表中选取一个候选，生成当前PU的运动向量和合并模式下的参考索引。
MV候选列表包含多达五个用于合并模式的候选以及仅两个用于AMVP模式的候选。合并候选可包含运动信息集，例如，对应于参考图片列表(列表0和列表1)和参考索引两者的运动向量。如果合并候选由合并索引标识，则将参考图片用于当前块的预测，并且确定相关联的运动向量。另一方面，在AMVP模式下，对于来自列表0或列表1的每一潜在预测方向，需要将参考索引连同MV预测器(MVP)索引一起显式地用信号发送到MV候选列表，因为AMVP候选仅包含运动向量。在AMVP模式中，可进一步精细化所预测的运动向量。两种模式的候选类似地从相同的空间和时间相邻块导出。
空间运动向量候选是从图2A和图2B所示的特定预测单元(PU0)的相邻块中导出的(140)，尽管从块中产生候选的方法对于合并和AMVP模式不同。图2A是图示了用于合并模式的空间邻近MV候选的概念图。图2B是图示了AMVP模式的空间邻近MV候选的概念图。
在合并模式中，可以利用图2A中所示的具有数字的次序来导出多达四个空间MV候选，并且该次序如下：左(0，A1)、上(1，B1)、右上(2，B0)、左下(3，A0)和左上(4，B2)，如图2A所示。
在AMVP模式中，相邻块142A至142E被划分为两组：如图2B所示，左边一组由块0和1组成，而上面一组由块2、3和4组成。对于每个组，参考与用信号通知的参考索引指示的参考图片相同的参考图片的相邻块中的潜在候选具有要选择的最高优先级，以形成该组的最终候选。可能没有相邻块包含指向相同参考图片的运动向量。因此，如果不能找到这样的候选，则缩放第一可用候选以形成最终候选；因此，可以补偿时间距离差。
如果启用且可用，那么可以将时间运动向量预测器(TMVP)候选添加到空间运动向量候选之后的MV候选列表中。TMVP候选的运动向量推导过程对于合并模式和AMVP模式来说是相同的；然而，用于合并模式中的TMVP候选的目标参考索引总是被设定为0。
用于TMVP候选导出的主要块位置是如图3A中展示为块“T”的并置PU外部的右下块，以补偿对用于产生空间邻近候选的上方和左上方块的偏置。然而，如果该块位于当前CTB行之外或者运动信息不可用，则用PU的中心块替换该块。
图3A是图示了TMVP候选的概念图。在图6的示例中，CU 160包括第一PU 162(表示为PU0)和第二PU 164(表示为PU1)。在图3A的示例中，用于TMVP候选导出的主要块位置166是位于并置PU外部的右下块(在图3A中示出为块“T”)，以补偿对用于产生空间邻近候选的上方块和左上方块的偏置。然而，如果在主块位置166的块位于当前CTB行之外或者运动信息不可用，则用PU 602的中心块168替换该块。从在切片层级中指示的并置图片的并置PU导出TMVP候选的运动向量。用于协同定位的PU的运动向量被称为并置MV。类似于H.264/AVC中的时间直接模式，为了导出TMVP候选运动向量，可能需要缩放并置MV以补偿时间距离差，例如，如图3B中所示。
图3B是图示了MV缩放的概念图。在图3B的示例中，当前图片172的并置图片170包括指示并置参考图片174中的位置的运动向量(即，并置运动向量)。并置图片170和并置参考图片174之间的时间距离被称为并置时间距离。此外，在AMVP中，当前图片172的当前块的参考索引指示当前参考图片176。当前图片172和当前参考图片176之间的时间距离被称为当前时间距离。视频编解码器可以使用并置运动向量作为当前图片172中的块的时间运动向量预测器(TMVP)，但是可以基于并置时间距离和当前时间距离之间的差来缩放并置运动向量。
因此，为了确定L0AMVP候选列表，视频编解码器可确定左组中是否存在具有L0运动向量的可用相邻块。如果相邻块存在且视频编解码器能够存取关于相邻块的运动信息，那么可认为相邻块可用。此外，如果左组包括具有L0运动向量的可用相邻块，则视频编解码器可将L0运动向量包括在L0AMVP候选列表中。另外，视频编解码器可确定上述群组中是否存在具有L0运动向量的可用相邻块。如果上述组包括具有L0运动向量的可用相邻块，则视频编解码器可将L0运动向量包括在L0 AMVP候选列表中。在一些示例中，如果左侧组和/或上述组不包括可用的L0运动向量，则视频编解码器可包括时间相邻者的L0运动向量。在一些此类示例中，如果时间相邻者不可用或不具有L0运动向量，那么视频编解码器可在L0AMVP候选列表中包括零值运动向量。视频编解码器可以执行相同的过程，其中用L1代替L0以确定L1AMVP候选列表。
合并和AMVP模式的若干方面呈现如下。
运动向量缩放：假定运动向量的值与呈现时间中图片的距离成比例。运动向量将两个图片、参考图片和包括运动向量的图片(即包含图片)相关联。当利用运动向量预测另一运动向量时，基于图片次序计数(POC)值来计算包含图片与参考图片的距离。
对于要预测的运动向量，包含图片和与该运动向量相关联的参考图片可以是不同的。因此，可以计算新的距离(基于POC)。可以基于这两个POC距离来缩放运动向量。对于空间邻近候选，两个运动向量的包含图片是相同的，而参考图片是不同的。在HEVC中，运动向量缩放应用于空间及时间邻近候选的TMVP及AMVP两者。
人工运动向量候选生成：如果运动向量候选列表不完整，那么产生人工运动向量候选且将其插入在列表的末尾处，直到MV候选列表具有所有候选为止。在合并模式中，存在两种类型的人工MV候选：(1)如果第一类型没有提供足够的人工候选，则组合的候选仅用于B切片，而(2)零候选仅用于AMVP。
对于已经在候选列表中并且具有必要运动信息的每对候选，通过参考列表0中的图片的第一候选的运动向量和参考列表1中的图片的第二候选的运动向量的组合来导出双向组合运动向量候选。
候选插入的修剪过程：来自不同块的候选可能碰巧相同，这降低合并/AMVP候选列表的效率。修剪过程被应用来解决这个问题。它将一个候选与当前候选列表中的其他候选进行比较，以避免在一定程度上插入相同的候选。为了降低复杂性，仅应用有限数量的修剪过程，而不是将每个潜在修剪过程与所有其他现有修剪过程进行比较。
解码器侧运动向量精细化(DMVR)是解码器侧MV导出技术的一种变型，以避免基于模板的精细化过程。该技术直接计算在由初始双向预测MV(例如，如图4中的v0和v1)所指向的单向预测参考块(表示为I0(x+v0)和I1(x+v1)并且x为当前块内的像素的坐标)之间的双向匹配成本。图4是图示了双边模板匹配的概念图。在图4的示例中，当前图片180包括当前块182。当前块182具有L0运动向量，其指示与过去参考图片186中的区域184(表示为Ref.0)对应的位置。当前块182还具有L1运动向量，其指示对应于未来参考图片190中的区域188的位置。视频编解码器(例如，视频编码器或视频解码器)基于在围绕初始双向预测MV的预定义5×5搜索范围内的双边匹配而执行局部搜索。遵循从5×5窗口的左上角的光栅扫描次序，DMVR过程找到最优ΔMV(即Δ)。最优ΔMV是导致最低双向匹配成本的ΔMV，其中成本函数被定义为I0(x+v0+Δ)和I1(x+v1-Δ)之间的失真。ΔMV是包括x和y值的元组，x和y值被添加到双向预测MV的x和y值或从双向预测MV的x和y值中减去。最优ΔMV可以由Δ*表示。在当前VVC标准中使用的失真函数是绝对差(SAD)的和。
视频编解码器然后可以再次以亚像素精度精细化输出MV对(表示为v0+Δ*和v1-Δ*，其中Δ*是在预先限定的5×5窗口内的优化的Δ)。视频编解码器可采用所得MV对来替换合并块的原始MV(v0 (0)和v1 (0))。视频编解码器可接着基于经精细化MV执行运动补偿。因此，在图4的示例中，视频编解码器可确定对应于由经精细化MV对指示的位置Ref0'和Ref1'的区域192和194。
在针对VVC草案6(VTM-6.0)的测试模型中，如果满足以下条件中的每一者，则DMVR处理可以应用于CU：
·具有双向预测MV的CU级合并模式。
·相对于当前图片，一个参考图片在过去，而另一参考图片在未来。
·从两个参考图片到当前图片的距离(即POC差)是相同的。
·不使用仿射模式或ATMVP合并模式对CU进行编解码。
·CU具有超过64个亮度样点。
·CU高度和CU宽度两者均大于或等于8个亮度样点。
·具有CU权重(BCW)的双向预测权重索引指示相等的权重。
·不为当前块启用加权预测(WP)，以及
·组合的帧间和帧内预测(CIIP)模式不用于当前块。
换句话说，视频编解码器将以上早期终止条件用于DMVR。如果满足上述条件中的每一者，则可以认为DMVR的早期终止条件被满足。
双向光流(BDOF)用于精细化CU中的4×4子块层级的亮度样点的双向预测信号。如其名称所指示，BDOF模式是基于光流概念，其假定物体的运动是平滑的。对于每个4×4子块，通过最小化L0和L1预测样点之间的差来计算运动精细化(vx，vy)。然后，使用运动精细化来调整4×4子块中的双向预测的样点值。在BDOF过程中应用以下步骤。
首先，通过直接计算两个相邻样点之间的差来计算两个预测信号的水平和垂直梯度，
Figure BDA0003549081090000181
和
Figure BDA0003549081090000182
k＝0，1即，
Figure BDA0003549081090000183
Figure BDA0003549081090000184
其中I(k)(i，j)是列表k、k＝0，1中预测信号的坐标(i，j)处的样点值，并且基于亮度位深度bitDepth计算shift1，因为shift1＝max(2，14-bitDepth)。
然后，梯度S1、S2、S3、S5和S6的自相关和互相关被计算为
S1＝∑(i，j)∈Ωψx(i，j)·ψx(i，j)，S3＝∑(i，j)∈Ωθ(i，j)·ψx(i，j)
S2＝∑(i，j)∈Ωψx(i，j)·ψy(i，j)
S5＝∑(i，j)∈Ωψy(i，j)·ψy(i，j) S6＝∑(i，j)∈Ωθ(i，j)·ψy(i，j)
其中
Figure BDA0003549081090000185
Figure BDA0003549081090000186
θ(i，j)＝(I(1)(i，j)＞＞nb)-(I(0)(i，j)＞＞nb)
其中Ω是4×4子块周围的6×6窗口，并且分别将na和nb的值设置为等于min(5，bitDepth-7)和min(8，bitDepth-4)。
然后使用互相关和自相关项，使用下式来导出运动精细化(vx,vy)：
Figure BDA0003549081090000191
Figure BDA0003549081090000192
其中
Figure BDA0003549081090000193
th′BIO＝213-BD。
Figure BDA0003549081090000194
是floor函数，并且
Figure BDA0003549081090000195
基于运动精细化和梯度，针对4×4子块中的每个样点计算以下调整：
Figure BDA0003549081090000196
通过如下调整双向预测样点来计算CU的BDOF样点：
predBDOF(x,y)＝(I(1)(x,y)+I(1)(x,y)+b(x,y)+ooffset)＞＞shift
选择这些值，使得BDOF过程中的乘数不超过15位，且BDOF过程中的中间参数的最大位宽度保持在32位内。
为了导出梯度值，需要产生当前CU边界外部的列表k(k＝0,1)中的一些预测样点I(k)(i,j)。如图5所描绘，BDOF使用CU 196的边界周围的一个扩展的行/列。为了控制生成边界外预测样点的计算复杂度，通过直接在附近整数位置处(在坐标上使用floor()运算)获取参考样点而不进行插值来生成扩展区域(白色位置)中的预测样点，并且使用正常8抽头运动补偿插值滤波器来生成CU(灰色位置)内的预测样点。这些扩展样点值仅用于梯度计算。对于BDOF过程中的剩余步骤，如果需要CU边界外部的任何样点和梯度值，那么从其最近相邻者填补(即，重复的)样点和梯度值。
BDOF可用于在4×4子块层级改进CU的双向预测信号。如果满足所有以下条件，则BDOF被应用于CU：
·使用“真”双向预测模式来对CU进行编解码，即，两个参考图片中的一者按显示次序在当前图片之前，且另一者按显示次序在当前图片之后。
·不使用仿射模式或ATMVP合并模式对CU进行编解码。
·CU具有超过64个亮度样点。
·CU高度和CU宽度两者均大于或等于8个亮度样点。
·BCW权重索引指示相等的权重。
·当前CU的WP未启用。
·当前CU未使用CIIP模式。
换句话说，视频编解码器使用上述BDOF的早期终止条件。如果满足上述每个条件，则可以认为满足BDOF的早期终止条件。
在VVC草案6中，BDOF和DMVR两者分别应用其自己的CU级提前终止以在运动补偿阶段期间跳过其相应的过程。为早期终止而施加在BDOF上的条件与施加在DMVR上的条件几乎相同，除了它们的POC距离约束之外。DMVR要求其双向预测参考图片必须按照显示次序分别来自过去和未来，每个都具有相对于当前图片的相等绝对POC距离。然而，与DMVR如何做相比，BDOF采用更宽松的约束。利用BDOF，参考图片不需要具有等于彼此的POC距离的绝对POC距离，从而导致在用于两个编解码工具的运动补偿阶段期间的两个单独的条件检查。如果可以协调分别用于DMVR和BDOF的两个条件检查，则仅需要单个条件检查，并且在运动补偿阶段期间可以计算一次。
本公开描述了可以解决该问题的技术。举例来说，在本公开的一些示例中，从DMVR中移除等POC距离约束。在本公开的一些示例中，DMVR可以去除其等POC距离约束，使得DMVR仅要求其参考图片中的一个来自显示次序中的过去，而另一个来自显示次序中的将来。因此，DMVR的早期终止条件与BDOF的早期终止条件完全匹配。
因此，在本公开的一些示例中，视频编解码器(例如，视频编码器200或视频解码器300)可使用DMVR来基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块，其中第一参考图片距当前图片第一POC距离且第二参考图片距当前图片第二POC距离。根据本公开的一些示例，该第一POC距离不需要等于该第二POC距离。该视频编解码器可基于该当前块的该预测块对该当前块进行编解码。
在本公开的一些示例中，相等POC距离被施加在BDOF上。换句话说，BDOF可对其自身强加相等POC距离约束，使得BDOF要求其双向预测参考图片必须分别来自按显示次序的过去及未来，每一双向预测参考图片具有相对于当前图片的相等绝对POC距离。因此，BDOF的早终止条件与DMVR的早终止条件精确匹配。
因此，在本公开的一些示例中，视频编解码器(例如，视频编码器200或视频解码器300)可使用BDOF基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块。在此些示例中，第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。在此些示例中，第一POC距离必须等于第二POC距离以供视频编解码器使用BDOF来确定当前块的预测块。举例来说，第一约束可以由视频编解码标准(例如，VVC或另一视频编解码标准)施加。第一约束要求第一POC距离等于第二POC距离。在一些示例中，第一参考图片必须在显示次序上在当前图片之前，且第二参考图片必须在显示次序上在当前图片之后，以用于BDOF确定当前块的预测块。举例来说，视频编解码标准可强加第二约束，该第二约束要求第一参考图片按显示次序在当前图片之前且第二参考图片按显示次序在当前图片之后。该视频编解码器可基于该当前块的该预测块根据该视频编解码标准对该当前块进行编解码。
图6是图示可以执行本公开的技术的示例性视频编码器200的框图。提供图6是为了解释的目的并且不应认为是对本公开中广泛示例和描述的技术的限制。出于解释的目的，本公开在视频编解码标准(比如，HEVC视频编解码标准和正在开发的H.266视频编解码标准)的背景下描述了视频编码器200。然而，本公开的技术不限于这些视频编解码标准，并且通常适用于视频编码和解码。
在图6的示例中，视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、解码图片缓冲器(DPB)218以及熵编码单元220。视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、DPB 218和熵编码单元220中的任何一个或全部可以在一个或多个处理器或处理电路中实现。另外，视频编码器200可包括附加或替代处理器或处理电路以执行这些和其他功能。
视频数据存储器230可以存储要由视频编码器200的组件编码的视频数据。视频编码器200可以从例如，视频源104(图1)接收存储在视频数据存储器230中的视频数据。DPB218可以用作参考图片存储器，参考图片存储器存储参考视频数据，供视频编码器200用于预测后续视频数据时使用。视频数据存储器230和DPB 218可以由多种存储器设备中的任何一种形成，比如，动态随机访问存储器(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、阻变RAM(RRAM)或其他类型的存储器设备。视频数据存储器230和DPB 218可以由相同的存储器设备或单独的存储器设备提供。在各种示例中，视频数据存储器230可以与视频编码器200的其他组件在片上，如所图示的，或者相对于那些组件在片外。
在本公开中，提到视频数据存储器230不应被解释为限于视频编码器200内部的存储器，除非具体描述如此，或者限于视频编码器200外部的存储器，除非具体描述如此。相反，提到视频数据存储器230应该被理解为存储视频编码器200接收用于编码的视频数据(例如，用于要被编码的当前块的视频数据)的参考存储器。图1的存储器106还可以对视频编码器200各个单元输出提供临时存储。
图示的图6的各个单元用来帮助理解由视频编码器200执行的操作。这些单元可以被实现为固定功能电路、可编程电路或其组合。固定功能电路指提供特定功能性的电路，并被预设在可以被执行的操作上。可编程电路是指可以被编程来执行各种任务并且在能够执行的操作中提供灵活功能的电路。举例来说，可编程电路可以运行软件或固件，使可编程电路按由软件或固件的指令定义的方式操作。固定功能电路可以运行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不可变的。在一些示例中，单元中的一个或多个可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。
视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核心。在使用由可编程电路执行的软件来执行视频编码器200的操作的示例中，存储器106(图1)可以存储视频编码器200接收和执行的软件的指令(例如，目标代码)，或视频编码器200(未示出)内另一存储器可以存储这样的指令。
视频数据存储器230被配置为存储所接收的视频数据。视频编码器200可以从视频数据存储器230中检索视频数据的图片，并向残差生成单元204和模式选择单元202提供视频数据。视频数据存储器230中的视频数据可以是待编码的原始视频数据。
模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括附加的功能单元，以根据其他预测模式来执行视频预测。作为示例，模式选择单元202可以包括调色板单元、帧内块复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。在图6的示例中，运动补偿单元224包括DMVR单元225和BDOF单元227。
模式选择单元202通常协调多个编码过程，以测试编码参数的组合以及得到的用于此类组合的率失真值。编码参数可以包括CTU到CU的分割、用于CU的预测模式、用于CU残差数据的变换类型、用于CU残差数据的量化参数等。模式选择单元202可以最终选择具有比其他测试组合更好的率失真值的编码参数的组合。
视频编码器200可以将从视频数据存储器230中检索的图片分割成一系列CTU，并将一个或多个CTU封装在切片内。模式选择单元202可以根据树结构(比如，上述HEVC的QTBT结构或四叉树结构)来分割图片的CTU。如上所述，视频编码器200可以根据树结构通过分割CTU来形成一个或多个CU。此CU也可以通常被称为“视频块”或“块”。
通常，模式选择单元202还控制其组件(例如，运动估计单元222、运动补偿单元224和帧内预测单元226)以生成当前块(例如，当前CU或HEVC中PU和TU的重叠部分)的预测块。为了对当前块进行帧间预测，运动估计单元222可以执行运动搜索来标识在一个或多个参考图片(例如，存储在DPB 218中的一个或多个先前编解码的图片)中的一个或多个紧密匹配的参考块。特别地，运动估计单元222可以例如，根据绝对差和(SAD)、平方差和(SSD)、平均绝对差(MAD)、均方差(MSD)等来计算表示潜在参考块对当前块有多相似的值。运动估计单元222一般可以使用当前块与考虑中的参考块之间的逐样点差来执行这些计算。运动估计单元222可以标识具有从这些计算得到的最低值的参考块，指示最紧密匹配当前块的参考块。
运动评估单元222可形成一个或多个运动向量(MV)，该运动向量界定参考图片中的参考块相对于当前图片中的当前块的位置的位置。运动估计单元222然后可以向运动补偿单元224提供运动向量。例如，对于单向帧间预测，运动估计单元222可以提供单个运动向量，而对于双向帧间预测，运动估计单元222可以提供两个运动向量。运动补偿单元224然后可以使用运动向量来生成预测块。例如，运动补偿单元224可以使用运动向量来检索参考块的数据。作为另一示例，如果运动向量具有分数样点精度，则运动补偿单元224可以根据一个或多个插值滤波器来插值用于预测块的值。此外，对于双向帧间预测，运动补偿单元224可以检索由相应运动向量标识的用于两个参考块的数据，并例如，通过逐样点平均或加权平均来组合所检索的数据。
运动补偿单元224的DMVR单元225可以使用DMVR过程作为运动补偿过程的一部分来生成预测块。在本公开的其他地方描述了DMVR过程的示例。DMVR单元225可以检查DMVR过程的一个或多个早期终止条件。如果满足早期终止条件，则DMVR单元225可以继续DMVR处理并使用DMVR来生成预测块。否则，如果不满足一个或多个早期终止条件，则运动补偿单元224可在不使用DMVR过程的情况下生成预测块。在本公开的一些示例中，相对于VVC草案6中所阐述的DMVR的早期终止条件来修改DMVR的一个或多个早期终止条件。具体地，作为一个示例，可以从早期终止条件中去除相等POC距离约束。因此，在一些示例中，即使第一参考图片和第二参考图片与当前图片的POC距离不相等，但是DMVR单元225也可以执行DMVR过程。
运动补偿单元224的BDOF单元227可以使用BDOF过程作为运动补偿过程的一部分来产生预测块。在本公开的其他地方描述BDOF过程的示例。BDOF单元227可以检查BDOF过程的一个或多个早期终止条件。如果满足早期终止条件，则BDOF单元227可以继续BDOF过程并使用BDOF来生成预测块。否则，如果不满足一个或多个早期终止条件，则运动补偿单元224可以生成预测块而不使用BDOF过程。在本公开的一些示例中，相对于VVC草案6中所阐述的BDOF的早期终止条件来修改BDOF的一个或多个早期终止条件。具体地，作为一个示例，可以在BDOF的早期终止条件中应用相等POC距离约束。因此，在一些示例中，BDOF单元227可以仅在第一参考图片和第二参考图片距当前图片的POC距离相等的情况下执行BDOF过程。
作为另一示例，对于帧内预测或帧内预测编解码，帧内预测单元226可以根据与当前块相邻的样点来生成预测块。例如，对于方向模式，帧内预测单元226通常可以数学上地组合相邻样点的值，并在跨越当前块的定义方向上填充这些计算出的值，以产生预测块。作为另一个示例，对于DC模式，帧内预测单元226可以计算当前块的相邻样点的平均值，并且生成预测块以包括对于预测块的每个样点所得到的平均值。
模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的、未经编码的版本，并从模式选择单元202接收预测块。残差生成单元204计算当前块与预测块之间的逐样点差。得到的逐样点差定义当前块的残差块。在一些示例中，残差生成单元204也可以确定残差块中的样点值之间的差，以使用残差差分脉冲编解码调制(RDPCM)来生成残差块。在一些示例中，残差生成单元204可以使用执行二进制减法的一个或多个减法器电路来形成。
在模式选择单元202将CU分割成PU的示例中，每个PU可以与亮度预测单元和对应色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所述，CU的大小可以指CU的亮度编解码块的大小，而PU的大小可以指PU的亮度预测单元的大小。假设特定CU的大小为2N×2N，则视频编码器200可以支持2N×2N或N×N的PU大小用于帧内预测，以及2N×2N、2N×N、N×2N、N×N或类似的对称PU大小用于帧间预测。视频编码器200和视频解码器300还可以支持2N×nU、2N×nD、nL×2N和nR×2N的PU大小的非对称分割用于帧间预测。
在模式选择单元202没有进一步将CU分割成PU的示例中，每个CU可以与亮度编解码块和对应色度编解码块相关联。同上，CU的大小可以指CU的亮度编解码块的大小。视频编码器200和视频解码器300可以支持2N×2N、2N×N或N×2N的CU大小。
对于其他视频编解码技术，比如，作为一些示例的帧内块复制模式编解码、仿射模式编解码和线性模型(LM)模式编解码，模式选择单元202经由与编解码技术相关联的各自单元来生成正在被编码的当前块的预测块。在一些示例中，比如，调色板模式编解码，模式选择单元202可以不生成预测块，而是生成指示按基于所选择的调色板来重构块的方式的语法元素。在这样的模式中，模式选择单元202可以将这些语法元素提供给熵编码单元220，以对其进行编码。
如上所述，残差生成单元204接收用于当前块和对应预测块的视频数据。然后，残差生成单元204生成用于当前块的残差块。为生成残差块，残差生成单元204计算预测块与当前块之间的逐样点差。
变换处理单元206对残差块应用一个或多个变换，以生成变换系数的块(本文中被称为“变换系数块”)。变换处理单元206可以对残差块应用各种变换，以形成变换系数块。例如，变换处理单元206可以对残差块应用离散余弦变换(DCT)、方向变换、Karhunen-Loeve变换(KLT)或概念上类似的变换。在一些示例中，变换处理单元206可以对残差块执行多个变换，例如，主变换和二次变换，比如，旋转变换。在一些示例中，变换处理单元206不对残差块应用变换。
量化单元208可以量化变换系数块中的变换系数，以产生经量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值来量化变换系数块的变换系数。视频编码器200(例如，经由模式选择单元202)可以通过调整与CU相关联的QP值来调整应用于与当前块相关联的变换系数块的量化程度。量化可能引入信息损失，并且因此，经量化的变换系数可能具有比由变换处理单元206产生的原始变换系数更低的精度。
逆量化单元210和逆变换处理单元212可以对经量化的变换系数块分别应用逆量化和逆变换，以从变换系数块中重构残差块。重构单元214可以基于经重构的残差块和由模式选择单元202生成的预测块来产生与当前块对应的经重构的块(尽管可能具有一定程度的失真)。例如，重构单元214可以将经重构的残差块的样点添加到来自由模式选择单元202生成的预测块的对应样点中，以产生经重构的块。
滤波器单元216可以对经重构的块执行一个或多个滤波操作。例如，滤波器单元216可以执行去块操作来减少沿CU边缘的块效应伪影。滤波器单元216的操作可以在一些示例中跳过。
视频编码器200将重构块存储在DPB 218中。举例来说，在不需要滤波器单元216的操作的示例中，重构单元214可以将重构块存储到DPB 218。在需要滤波器单元216的操作的示例中，滤波器单元216可以将滤波后的重构块存储到DPB 218。运动估计单元222和运动补偿单元224可以从DPB 218中取得参考图片，该参考图片是由重构(并且潜在地滤波的)块形成的，来对随后编码的图片的块进行帧间预测。此外，帧内预测单元226可以使用当前图片的DPB 218中的重构块来对当前图片中的其他块进行帧内预测。
通常，熵编码单元220可以对从视频编码器200的其他功能组件接收的语法元素进行熵编码。例如，熵编码单元220可以对来自量化单元208的量化的变换系数块进行熵编码。作为另一个示例，熵编码单元220可以对来自模式选择单元202的预测语法元素(例如，用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一个示例的语法元素执行一个或多个熵编码操作，以生成经熵编码的数据。例如，熵编码单元220可以对数据执行上下文自适应可变长度编码(CAVLC)操作、CABAC操作、变量到变量(V2V)长度编码操作、基于语法的上下文自适应二进制算术编码(SBAC)操作、概率区间分割熵(PIPE)编码操作、指数Golomb编码操作或另一种类型的熵编码操作。在一些示例中，熵编码单元220可以以旁路模式操作。
视频编码器200可以输出比特流，该比特流包括重构切片或图片的块所需的经熵编码的语法元素。具体地，熵编码单元220可以输出比特流。
上述操作是相对于块来描述的。此描述应当被理解为用于亮度编码块和/或色度编码块的操作。如上所述，在一些示例中，亮度编码块和色度编码块是CU的亮度分量和色度分量。在一些示例中，亮度编码块和色度编码块是PU的亮度分量和色度分量。
在一些示例中，对于色度编码块，不需要重复相对于亮度编码块执行的操作。作为一个示例，不需要重复用于标识亮度编码块的运动向量(MV)和参考图片的操作来标识用于色度块的MV和参考图片。相反，用于亮度编码块的MV可以被缩放以确定用于色度块的MV，并且参考图片可以是相同的。作为另一个示例，对于亮度编码块和色度编码块，帧内预测过程可以是相同的。
视频编码器200表示被配置为对视频数据的设备进行编码的示例，其包括被配置为存储视频数据的存储器，以及在电路中实现且被配置为使用解码器侧运动向量精细化(DMVR)基于第一参考图片及第二参考图片来确定视频数据的当前图片的当前块的预测块的一个或多个处理单元，其中第一参考图片距当前图片第一POC距离，且第二参考图片距当前图片第二POC距离。根据本公开的一些示例，该第一POC距离不需要等于该第二POC距离。在一些示例中，运动估计单元222和/或运动补偿单元224使用DMVR来确定当前块的预测块。视频编码器200的一个或多个处理器可基于当前块的预测块对当前块进行编码。
在本公开的一些示例中，视频编码器200的一个或多个处理单元可使用BDOF基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块，其中：第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。在此类示例中，第一POC距离必须等于待用以确定当前块的预测块的BDOF的第二POC距离。举例来说，视频编解码标准(例如，VVC或另一视频编解码标准)强加至少第一约束。第一约束要求第一POC距离等于第二POC距离。在一些示例中，第一参考图片必须在显示次序上在当前图片之前，且第二参考图片必须在显示次序上在当前图片之后，以用于BDOF确定当前块的预测块。举例来说，视频编解码标准也可以强加第二约束，该第二约束要求第一参考图片按显示次序在当前图片之前且第二参考图片按显示次序在当前图片之后。在一些示例中，运动估计单元222和/或运动补偿单元224使用BDOF来确定当前块的预测块。视频编码器200的一个或多个处理器可基于当前块的预测块根据视频编解码标准对当前块进行编码。
图7是图示了可执行本公开的技术的示例性视频解码器300的框图。提供图7是出于解释的目的，而非限制本公开中广泛示例和描述的技术。为了说明的目的，本公开描述了根据VCC和HEVC的技术描述的视频解码器300。然而，本公开的技术可以由配置为其他视频编解码标准的视频编解码设备来执行。
在图7的示例中，视频解码器300包括经编解码的图片缓冲器(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和解码图片缓冲器(DPB)314。CPB存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和DPB 314中的任何一个或全部可以在一个或多个处理器或处理电路中实现。另外，视频解码器300可包括附加或替代处理器或处理电路以执行这些和其他功能。
预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括附加单元以按照其他预测模式来执行预测。作为示例，预测处理单元304可以包括调色板单元、帧内块复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其他示例中，视频解码器300可以包括更多、更少或不同的功能组件。在图7的示例中，运动补偿单元316可以包括DMVR单元317和BDOF单元319。
CPB存储器320可以存储要由视频解码器300的组件解码的视频数据，比如，经编码的视频比特流。例如，可以从计算机可读介质110(图1)获得存储在CPB存储器320中的视频数据。CPB存储器320可以包括存储来自经编码的视频比特流的经编码的视频数据(例如，语法元素)的CPB。而且，CPB存储器320可以存储除经编解码的图片的语法元素之外的视频数据，比如，表示来自视频解码器300的各种单元的输出的临时数据。DPB 314通常存储经解码的图片，视频解码器300可以在解码经编码的视频比特流的后续数据或图片时，输出该经解码的图片和/或将其用作参考视频数据。CPB存储器320和DPB 314可以由多种存储设备中的任何一种形成，比如，DRAM，包括SDRAM、MRAM、RRAM或其他类型的存储设备。CPB存储器320和DPB 314可以由同一存储器设备或不同的存储器设备提供。在各种示例中，CPB存储器320可以与视频解码器300的其他组件置于片上，或者相对于那些组件置于片外。
另外地或可替代地，在一些示例中，视频解码器300可以从存储器120(图1)取得编解码视频数据。也就是说，存储器120可以如上文所讨论的用CPB存储器320来存储数据。同样，当视频解码器300的某些或全部功能在将由视频解码器300的处理电路执行的软件实现时，存储器120可以存储将由视频解码器300执行的指令。
图示图7所示的各种单元以帮助理解由视频解码器300执行的操作。这些单元可以被实现为固定功能电路、可编程电路或其组合。类似于图6，固定功能电路是指提供特定功能并且在可以执行的操作上预设的电路。可编程电路是指可以被编程来执行各种任务并且在能够执行的操作中提供灵活功能的电路。举例来说，可编程电路可以运行软件或固件，使可编程电路按由软件或固件的指令定义的方式操作。固定功能电路可以运行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不可变的。在一些示例中，单元中的一个或多个可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。
视频解码器300可以包括由可编程电路形成的ALU、EFU、数字电路、模拟电路和/或可编程核心。在视频解码器300的操作由在可编程电路上运行的软件来执行的示例中，片上或片外存储器可以存储视频解码器300接收和运行的软件的指令(例如，目标代码)。
熵解码单元302可以从CPB中接收经编码的视频数据，并对视频数据进行熵解码以重现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从比特流中提取的语法元素来生成经解码的视频数据。
通常，视频解码器300在逐块基础上重构图片。视频解码器300可以对每个块单独地执行重构操作(其中当前正被重构的块，即经解码的块可以被称为“当前块”)。
熵解码单元302可以对定义经量化的变换系数块的经量化变换系数的语法元素以及变换信息(比如，量化参数(QP)和/或(多个)变换模式指示)进行熵解码。逆量化单元306可以使用与经量化的变换系数块相关联的QP来确定量化程度，并且同样地，确定供逆量化单元306应用的逆量化程度。逆量化单元306可以例如，执行逐位左移操作来对经量化的变换系数进行逆量化。逆量化单元306由此可以形成包括变换系数的变换系数块。
在逆量化单元306形成变换系数块之后，逆变换处理单元308可以对变换系数块应用一个或多个逆变换，以生成与当前块相关联的残差块。例如，逆变换处理单元308可以将逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或另一逆变换应用于变换系数块。
此外，预测处理单元304根据由熵解码单元302进行熵解码的预测信息语法元素来生成预测块。例如，如果预测信息语法元素指示当前块是帧间预测的，则运动补偿单元316可以生成预测块。在这种情况下，预测信息语法元素可以指示从中检索参考块的DPB 314中的参考图片，以及标识参考图片中的参考块相对于当前图片中的当前块的位置的运动向量。运动补偿单元316一般可以以与针对运动补偿单元224(图6)所描述的方式基本上相似的方式来执行帧间预测过程。
运动补偿单元316的DMVR单元317可以使用DMVR过程作为运动补偿过程的一部分来生成预测块。在本公开的其他地方描述了DMVR过程的示例。DMVR单元317可以检查DMVR过程的一个或多个早期终止条件。如果满足早期终止条件，则DMVR单元317可以继续DMVR处理并使用DMVR来生成预测块。否则，如果不满足一个或多个早期终止条件，则运动补偿单元316可在不使用DMVR过程的情况下生成预测块。在本公开的一些示例中，相对于VVC草案6中所阐述的DMVR的早期终止条件来修改DMVR的早期终止条件。具体地，作为一个示例，可以从早期终止条件中去除相等POC距离约束。因此，在一些示例中，即使第一参考图片和第二参考图片与当前图片的POC距离不相等，但是DMVR单元317也可以执行DMVR过程。
运动补偿单元316的BDOF单元319可使用BDOF过程作为运动补偿过程的一部分来产生预测块。在本公开的其他地方描述BDOF过程的示例。BDOF单元319可以检查BDOF过程的一个或多个早期终止条件。如果满足早期终止条件，则BDOF单元319可以继续BDOF过程并使用BDOF来生成预测块。否则，如果不满足一个或多个早期终止条件，则运动补偿单元316可以生成预测块而不使用BDOF过程。在本公开的一些示例中，相对于VVC草案6中所阐述的BDOF的早期终止条件来修改BDOF的早期终止条件。具体地，作为一个示例，可以在BDOF的早期终止条件中应用相等POC距离约束。因此，在一些示例中，BDOF单元319可以仅在第一参考图片和第二参考图片距当前图片的POC距离相等的情况下执行BDOF过程。
作为另一个示例，如果预测信息语法元素指示当前块是帧内预测的，则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式来生成预测块。再次，帧内预测单元318一般可以以与针对帧内预测单元226(图6)所描述的方式基本上相似的方式来执行帧内预测过程。帧内预测单元318可以从DPB 314中对当前块检索相邻样点的数据。
重构单元310可以使用预测块和残差块来重构当前块。例如，重构单元310可以将残差块的样点添加到预测块的对应样点中，以重构当前块。
滤波器单元312可以对经重构的块执行一个或多个滤波操作。例如，滤波器单元312可以执行去块操作来减少沿经重构块的边缘的块效应伪影。不一定在所有示例中都执行滤波器单元312的操作。
视频解码器300可以将经重构的块存储在DPB 314中。举例来说，在不执行滤波器单元312的操作的示例中，重构单元310可以将重构块存储到DPB 314。在执行滤波器单元312的操作的示例中，滤波器单元312可以将滤波后的重构块存储到DPB 314。如上所述，DPB314可以向预测处理单元304提供参考信息，比如，用于帧内预测的当前图片的样点和先前的用于后续运动补偿的经解码的图片。此外，视频解码器300可输出来自DPB 314的经解码图片(例如，经解码视频)以供随后呈现于比如，图1的显示设备118等显示设备上。
以此方式，视频解码器300表示视频解码装置的示例，其包括被配置为存储视频数据的存储器，以及在电路中实现且被配置为使用DMVR基于第一参考图片及第二参考图片来确定视频数据的当前图片的当前块的预测块的一个或多个处理单元，其中第一参考图片距当前图片第一POC距离，且第二参考图片距当前图片第二POC距离。根据本公开的一个示例，该第一POC距离不需要等于第二POC距离。在一些示例中，运动补偿单元316(例如，运动补偿单元316的DMVR单元317)使用DMVR来确定当前块的预测块。视频解码器300的一个或多个处理器可基于当前块的预测块对当前块进行译码。
在本公开的一些示例中，视频解码器300的一个或多个处理单元可使用BDOF基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块，其中：第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。在此类示例中，第一POC距离必须等于一个或多个处理单元使用BDOF来确定当前块的预测块的第二POC距离。举例来说，至少第一约束由视频编解码标准施加。第一约束要求第一POC距离等于第二POC距离。此外，在一些此类示例中，第一参考图片必须在显示次序上在当前图片之前，且第二参考图片必须在显示次序上在当前图片之后，以供一个或多个处理单元使用BDOF来确定当前块的预测块。举例来说，视频编解码标准还可以施加第二约束，该第二约束要求第一参考图片按照显示次序在当前图片之前，而第二参考图片按照显示次序在当前图片之后。在一些示例中，运动补偿单元316(例如，运动补偿单元316的BDOF单元319)使用BDOF来确定当前块的预测块。视频解码器300的一个或多个处理器可基于当前块的预测块根据视频编解码标准对当前块进行编解码。
图8是图示了用于对当前块进行编码的示例性方法的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和4)进行描述，但应理解，其他设备可以被配置为执行类似于图8的方法。
在此示例中，视频编码器200最初预测当前块(350)。例如，视频编码器200可形成当前块的预测块。在本公开的一些示例中，视频编码器200(例如，视频编码器200的DMVR单元225)可使用DMVR来基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块，其中第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。根据本公开的一些示例，该第一POC距离不需要等于该第二POC距离。
在本公开的一些示例中，视频编码器200(例如，视频编码器200的BDOF单元227)可使用BDOF基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块，其中：第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。在此类示例中，第一POC距离必须等于第二POC距离，以使视频编码器200使用BDOF来确定当前块的预测块。举例来说，由视频编解码标准施加至少第一约束，其中第一约束要求第一POC距离等于第二POC距离。在一些示例中，第一参考图片必须在显示次序中的当前图片之前，且第二参考图片必须在显示次序中的当前图片之后，以使视频编码器200使用BDOF来确定当前块的预测块。举例来说，也施加第二约束。第二约束要求第一参考图片按显示次序在当前图片之前且第二参考图片按显示次序在当前图片之后。
视频编码器200然后可以计算当前块的残差块(352)。为了计算残差块，视频编码器200可以计算原始的、未经编码的块与当前块的预测块之间的差。视频编码器200然后可以变换和量化残差块的变换系数(354)。接下来，视频编码器200可以扫描经量化的残差块的变换系数(356)。在扫描期间或在扫描之后，视频编码器200可以对变换系数进行熵编码(358)。例如，视频编码器200可以使用CAVLC或CABAC对变换系数进行编码。视频编码器200接着可输出块的经熵编码的数据(360)。
图9是图示了用于对视频数据的当前块进行解码的示例性方法的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和图3)进行描述，但应理解，其他设备可以被配置为执行类似于图9的方法。
视频解码器300可以接收当前块的经熵编码的数据，比如，经熵编码的预测信息和与当前块相对应的残差块的变换系数的经熵编码的数据(370)。视频解码器300可以对经熵编码的数据进行解码以确定当前块的预测信息并重现残差块的变换系数(372)。
视频解码器300可以预测当前块(374)，例如，使用由当前块的预测信息所指示的帧内或帧间预测模式，以计算当前块的预测块。在本公开的一些示例中，视频解码器300可使用DMVR基于第一参考图片和第二参考图片来确定视频数据的当前图片的当前块的预测块，其中第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。在本公开的一些示例中，第一POC距离不需要等于第二POC距离。
在本公开的一些示例中，视频解码器300可使用BDOF基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块，其中：第一参考图片距当前图片的第一POC距离，且第二参考图片距当前图片第二POC距离。第一POC距离必须等于第二POC距离，以便视频解码器300使用BDOF来确定当前块的预测块。举例来说，由视频编解码标准施加至少第一约束，其中第一约束要求第一POC距离等于第二POC距离。在一些示例中，第一参考图片必须在显示次序中的当前图片之前，且第二参考图片必须在显示次序中的当前图片之后，以使视频解码器300使用BDOF来确定当前块的预测块。举例来说，视频编解码标准还可以施加第二约束，该第二约束要求第一参考图片按照显示次序在当前图片之前，而第二参考图片按照显示次序在当前图片之后。
然后，视频解码器300可以逆扫描所重现的变换系数(376)，以创建经量化的变换系数的块。视频解码器300然后可以对变换系数进行逆量化和逆变换，以产生残差块(378)。视频解码器300可以通过组合预测块和残差块来最终解码当前块(380)。
图10是图示了可由根据本公开的一个或多个技术的视频编解码器执行的示例性方法的流程图。图10的方法可由视频编码器200或视频解码器300执行。
在图10的示例中，视频编解码器(例如，视频编码器200的BDOF单元227或视频解码器300的BDOF单元319)可使用BDOF基于第一参考图片和第二参考图片确定视频数据的当前图片的当前块的预测块(400)。该第一参考图片距该当前图片第一图片次序计数POC距离。该第二参考图片距该当前图片第二POC距离。根据本公开的一个或多个技术，第一POC距离必须等于第二POC距离，以使视频编解码器使用用以确定当前块的预测块的BDOF。在一些示例中，第一参考图片必须在显示次序上在当前图片之前，且第二参考图片必须在显示次序上在当前图片之后，以供视频编解码器使用BDOF来确定当前块的预测块。因此，BDOF可对其自身施加相等POC距离约束，使得BDOF要求其双向预测参考图片必须按显示次序分别来自过去和未来，每一双向预测参考图片具有相对于当前图片的相等绝对POC距离。因此，BDOF的早期终止条件可以匹配DMVR的早期终止条件。
在视频编解码器是视频编码器200的示例中，视频编码器200可以确定是否满足BDOF的一个或多个早期终止条件。该一个或多个早期终止条件包括该第一POC距离等于该第二POC距离。BDOF的其他示例性早期终止条件在本公开的其他地方列出。基于满足BDOF的早期终止条件，视频编码器200(例如，视频编码器200的BDOF单元319)可使用BDOF来确定当前块的预测块。
此外，在图10的示例中，视频编解码器可根据视频编解码标准基于当前块的预测块对当前块进行编解码(402)。在视频编解码器是视频编码器的示例中(即，当对当前块进行编解码包括对当前块进行编码时)，基于预测块对当前块进行编解码可包括基于当前块的样点与当前块的预测块的对应样点之间的差来生成(例如，通过视频编码器200的残差生成单元204)用于当前块的残差数据。在视频编解码器为视频解码器的示例中(即，当对当前块进行编解码包括对当前块进行解码时)，基于预测块对当前块进行编解码包括通过将当前块的预测块的样点与用于当前块的对应残差数据相加来重构(例如，由视频解码器300的重构单元310)用于当前块的样点。
本公开可以通常涉及“信令通知”特定信息，比如，语法元素。术语“信令通知”通常可以指用来解码经编码的视频数据的用于语法元素和/或其他数据的值的传送。也就是说，视频编码器200可以在比特流中信令通知用于语法元素的值。通常，信令通知指在比特流中生成值。如上所述，源设备102可以基本上实时地(或非实时地，比如，可能在将语法元素存储到存储设备112以供稍后由目标设备116取得时发生)将比特流传输到目标设备116。
以下是根据本公开的一种或多种技术的示例的非限制性列表。
示例1。对视频数据进行编解码的方法，该方法包括：使用解码器侧运动向量精细化(DMVR)基于第一参考图片及第二参考图片来确定该视频数据的当前图片的当前块的预测块，其中该第一参考图片距该当前图片第一图片次序计数(POC)距离，该第二参考图片距该当前图片第二POC距离，且该第一POC距离不等于该第二POC距离；以及基于当前块的预测块对当前块进行编解码。
示例2。对视频数据进行编解码的方法，该方法包括：使用双向光流(BDOF)基于第一参考图片及第二参考图片确定该视频数据的当前图片的当前块的预测块，其中：该第一参考图片距该当前图片第一图片次序计数(POC)距离，该第二参考图片距该当前图片第二POC距离，且第一约束及第二约束中的至少一者是由视频编解码标准强加，该第一约束要求该第一POC距离等于该第二POC距离，该第二约束要求该第一参考图片按显示次序在该当前图片之前且该第二参考图片按该显示次序在该当前图片之后；以及基于当前块的预测块对当前块进行编解码。
示例3。根据示例1-2中的任一者的方法，其中，编解码包括解码。
示例4。根据示例3的方法，其中，基于该预测块对该当前块进行编解码包括：通过将该当前块的该预测块的样点和该当前块的对应残差数据相加来重构该当前块的样点。
示例5。根据示例1-3中的任一者的方法，其中，编解码包括编码。
示例6。根据示例5的方法，其中，基于该预测块对该当前块进行编解码包括：基于该当前块的样点与该当前块的该预测块的对应样点之间的差来生成该当前块的残差数据。
示例7。用于对视频数据进行编解码的设备，该设备包括用于执行示例1-6中的任一者的方法的一个或多个部件。
示例8。根据示例7的设备，其中，一个或多个部件包括在电路中实现的一个或多个处理器。
示例9。根据示例7和8中的任一者的设备，还包括用于存储视频数据的存储器。
示例10。根据示例7-9中的任一者的设备，还包括被配置为显示经解码的视频数据的显示器。
示例11。根据示例7-10中的任一者的设备，其中，该设备包括摄像机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
示例12。根据示例7-11中的任一者的设备，其中，该设备包括视频解码器。
示例13。根据示例7-12中的任一者的设备，其中，该设备包括视频编码器。
示例14。一种计算机可读存储介质，其上存储有指令，该指令在被执行时使一个或多个处理器执行示例1-6中的任一者的方法。
可以认识到的是，取决于示例，本文描述的技术中的任何一种的某些动作或事件可以按不同的次序来执行，可以被添加、合并或一起省略(例如，并非所有所描述的动作或事件对于技术的实践都是必要的)。此外，在某些示例中，动作或事件可以同时执行，例如，通过多线程处理、中断处理或多个处理器，而非次序执行。
在一个或多个示例中，所描述的功能可以在硬件、软件、固件或其任何组合中实现。如果在软件中实现，这些功能可以作为一个或多个指令或代码存储或发送到计算机可读介质上并由基于硬件的处理单元运行。计算机可读介质可以包括与比如，数据存储介质的有形介质对应的计算机可读存储介质，或包括例如，根据通信协议促进将计算机程序从一个地方转移到另一个地方的任何介质的通信介质。以这种方式，计算机可读介质一般可以对应于(1)非暂时性的有形计算机可读存储介质，或者(2)比如，信号或载波之类的通信介质。数据存储介质可以是可由一个或多个计算机或一个或多个处理器访问以检索指令、代码和/或数据结构以用于实现本公开中描述的技术的任何可用介质。计算机程序产品可以包括计算机可读介质。
作为示例而非限制，这种计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储或其他磁性存储设备、闪存或可以用于以指令或数据结构形式存储所需程序代码并且可以由计算机访问的任何其他介质。并且，任何连接都被恰当地称作计算机可读介质。例如，如果指令是使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或无线技术(比如，红外线、无线电以及微波)从网站、服务器或其他远程源发送的，则同轴电缆、光纤电缆、双绞线、DSL或无线技术(比如，红外线、无线电以及微波)都被包括在介质的定义中。然而，应当理解，计算机可读存储介质和数据存储介质不包括连接、载波、信号或其他暂时性介质，而是指向非暂时性有形存储介质。如本文所使用的磁盘和光盘包括压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)和蓝光光盘，其中，磁盘一般以磁性方式重现数据，而光盘用激光光学地重现数据。上述的组合也应包括在计算机可读介质的范围内。
指令可以由一个或多个处理器执行，比如，一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其他等效集成的或分立逻辑电路。因此，如本文中所使用的术语“处理器”和“处理电路”可指前述结构中的任一者或适于实现本文中所描述的技术的任何其他结构。另外，在一些方面，本文描述的功能性可以在被配置为用于编码和解码的专用硬件和/或软件模块中提供，或者被结合在组合编解码器中。而且，这些技术可以完全在一个或多个电路或逻辑元件中实现。
本公开的技术可以在很多种设备或装置中实现，包括无线手机、集成电路(IC)或IC组(例如，芯片组)。在本公开中描述了各种组件、模块或单元，以强调被配置为执行所公开的技术的设备的各功能方面，但是不一定要求通过不同的硬件单元来实现。相反，如上所述，各种单元可以被组合在编解码器硬件单元中，或者由包括如上所述的一个或多个处理器的互操作硬件单元的集，结合合适的软件和/或固件来提供。
已经描述了各种示例。这些和其他示例都在所附权利要求的范围内。

Claims (21)

1.一种对视频数据进行编解码的方法，所述方法包括：
使用双向光流(BDOF)基于第一参考图片和第二参考图片来确定所述视频数据的当前图片的当前块的预测块，其中：
所述第一参考图片距所述当前图片第一图片次序计数(POC)距离，
所述第二参考图片距所述当前图片第二POC距离，以及
所述第一POC距离必须等于所述第二POC距离，以使BDOF被用于确定所述当前块的预测块；以及
根据所述视频编解码标准，基于所述当前块的预测块对所述当前块进行编解码。
2.根据权利要求1所述的方法，其中，所述第一参考图片在显示次序上必须在所述当前图片之前，并且所述第二参考图片在所述显示次序上必须在所述当前图片之后，以使BDOF被用于确定所述当前块的预测块。
3.根据权利要求1所述的方法，其中，对所述当前块进行编解码包括对所述当前块进行解码。
4.根据权利要求3所述的方法，其中，基于所述预测块对所述当前块进行编解码包括通过将所述当前块的所述预测块的样点和所述当前块的对应残差数据相加来重构所述当前块的样点。
5.根据权利要求1所述的方法，其中，对所述当前块进行编解码包括对所述当前块进行编码。
6.根据权利要求5所述的方法，其中，基于所述预测块对所述当前块进行编解码包括基于所述当前块的样点与所述当前块的所述预测块的对应样点之间的差来生成所述当前块的残差数据。
7.根据权利要求5所述的方法，
其中，所述方法还包括确定BDOF的一个或多个早期终止条件被满足，其中，所述早期终止条件包括所述第一POC距离等于所述第二POC距离，以及
使用BDOF来确定所述当前块的预测块包括：基于BDOF的一个或多个早期终止条件被满足而使用BDOF来确定所述当前块的预测块。
8.一种用于对视频数据进行编解码的设备，所述设备包括：
存储所述视频数据的存储器；以及
在电路中实现的一个或多个处理器，所述一个或多个处理器被配置为：
使用双向光流(BDOF)基于第一参考图片和第二参考图片来确定所述视频数据的当前图片的当前块的预测块，其中：
所述第一参考图片距所述当前图片第一图片次序计数(POC)距离，
所述第二参考图片距所述当前图片第二POC距离，以及
所述第一POC距离必须等于所述第二POC距离，以使BDOF被用于确定所述当前块的预测块；以及
根据所述视频编解码标准，基于所述当前块的预测块对所述当前块进行编解码。
9.根据权利要求8所述的设备，其中，所述第一参考图片在显示次序上必须在所述当前图片之前，且所述第二参考图片在所述显示次序上必须在所述当前图片之后，以使BDOF被用于确定所述当前块的预测块。
10.根据权利要求8所述的设备，其中，所述一个或多个处理器被配置以使得对所述当前块进行编解码包括对所述当前块进行解码。
11.根据权利要求10所述的设备，其中，所述一个或多个处理器被配置以使得作为基于所述预测块对所述当前块进行编解码的部分，所述一个或多个处理器通过将所述当前块的所述预测块的样点与所述当前块的对应残差数据相加来重构所述当前块的样点。
12.根据权利要求8所述的设备，还包括显示器，所述显示器被配置为显示经解码的视频数据。
13.根据权利要求8所述的设备，其中，所述一个或多个处理器被配置以使得对所述当前块进行编解码包括对所述当前块进行编码。
14.根据权利要求13所述的设备，其中，所述一个或多个处理器被配置以使得作为基于所述预测块对所述当前块进行编解码的部分，所述一个或多个处理器基于所述当前块的样点与所述当前块的所述预测块的对应样点之间的差来生成所述当前块的残差数据。
15.根据权利要求8所述的设备，其中，所述设备包括摄像机、计算机、移动设备、广播接收器设备或机顶盒中的一者或多者。
16.根据权利要求8所述的设备，其中，所述一个或多个处理器还被配置为：
确定BDOF的一个或多个早期终止条件被满足，其中，所述一个或多个早期终止条件包括所述第一POC距离等于所述第二POC距离，以及
基于所述BDOF的一个或多个早期终止条件被满足，使用BDOF来确定所述当前块的预测块。
17.一种用于对视频数据进行编解码的设备，所述设备包括：
用于使用双向光流(BDOF)基于第一参考图片和第二参考图片来确定所述视频数据的当前图片的当前块的预测块的部件，其中：
所述第一参考图片距所述当前图片第一图片次序计数(POC)距离，
所述第二参考图片距所述当前图片第二POC距离，以及
所述第一POC距离必须等于所述第二POC距离，以使BDOF被用于确定所述当前块的预测块；以及
用于根据所述视频编解码标准基于所述当前块的预测块对所述当前块进行编解码的部件。
18.根据权利要求17所述的设备，其中，所述第一参考图片在显示次序上必须在所述当前图片之前，且所述第二参考图片在所述显示次序上必须在所述当前图片之后，以使BDOF被用于确定所述当前块的预测块。
19.根据权利要求17所述的设备，其中，所述用于基于所述预测块对所述当前块进行编解码的部件包括用于通过将所述当前块的所述预测块的样点与所述当前块的对应残差数据相加来重构所述当前块的样点的部件。
20.根据权利要求17所述的设备，
其中，所述设备还包括用于确定BDOF的一个或多个早期终止条件被满足的部件，其中，所述一个或多个早期终止条件包括所述第一POC距离等于所述第二POC距离，以及
所述用于使用BDOF来确定所述当前块的预测块的部件包括用于基于所述BDOF的早期终止条件被满足而使用BDOF来确定所述当前块的预测块的部件。
21.一种计算机可读存储介质，具有存储其上的指令，所述指令在被执行时使得一个或多个处理器：
使用双向光流(BDOF)基于第一参考图片和第二参考图片来确定所述视频数据的当前图片的当前块的预测块，其中：
所述第一参考图片距所述当前图片第一图片次序计数(POC)距离，
所述第二参考图片距所述当前图片第二POC距离，以及
所述第一POC距离必须等于所述第二POC距离，以使BDOF被用于确定所述当前块的预测块；以及
根据所述视频编解码标准，基于所述当前块的预测块对所述当前块进行编解码。
CN202080064947.2A 2019-09-23 2020-09-23 视频编解码中bdof和dmvr的协调早期终止 Pending CN114402608A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962904528P 2019-09-23 2019-09-23
US62/904,528 2019-09-23
US17/028,599 2020-09-22
US17/028,599 US20210092427A1 (en) 2019-09-23 2020-09-22 Harmonized early termination in bdof and dmvr in video coding
PCT/US2020/052238 WO2021061787A1 (en) 2019-09-23 2020-09-23 Harmonized early termination in bdof and dmvr in video coding

Publications (1)

Publication Number Publication Date
CN114402608A true CN114402608A (zh) 2022-04-26

Family

ID=74881397

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080064947.2A Pending CN114402608A (zh) 2019-09-23 2020-09-23 视频编解码中bdof和dmvr的协调早期终止

Country Status (9)

Country Link
US (1) US20210092427A1 (zh)
EP (1) EP4035380A1 (zh)
JP (1) JP2022548142A (zh)
KR (1) KR20220062521A (zh)
CN (1) CN114402608A (zh)
CA (1) CA3150772A1 (zh)
MX (1) MX2022003404A (zh)
TW (1) TW202114426A (zh)
WO (1) WO2021061787A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118140480A (zh) * 2021-12-16 2024-06-04 北京达佳互联信息技术有限公司 用于视频编解码中仿射合并模式的候选推导的方法和设备
US20230308677A1 (en) * 2022-03-25 2023-09-28 Tencent America LLC Method and apparatus adaptive constraint on bi-prediction for out-of-boundary conditions
WO2024061363A1 (en) * 2022-09-22 2024-03-28 Mediatek Inc. Method and apparatus for video coding

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11330284B2 (en) * 2015-03-27 2022-05-10 Qualcomm Incorporated Deriving motion information for sub-blocks in video coding
US10491917B2 (en) * 2017-03-22 2019-11-26 Qualcomm Incorporated Decoder-side motion vector derivation
CN116405667A (zh) * 2018-09-13 2023-07-07 华为技术有限公司 用于视频译码中的条件性解码器侧运动矢量修正的装置和方法

Also Published As

Publication number Publication date
CA3150772A1 (en) 2021-04-01
EP4035380A1 (en) 2022-08-03
KR20220062521A (ko) 2022-05-17
JP2022548142A (ja) 2022-11-16
WO2021061787A1 (en) 2021-04-01
MX2022003404A (es) 2022-04-18
TW202114426A (zh) 2021-04-01
US20210092427A1 (en) 2021-03-25

Similar Documents

Publication Publication Date Title
TWI819100B (zh) 用於仿射模式之以歷史為基礎之運動向量預測
CN112119636A (zh) 视频编码中高精度运动矢量的存储
US10958928B2 (en) Decoder-side motion vector derivation for video coding
TW202123699A (zh) 具有協調的運動場儲存及運動補償的幾何分區模式
CN112740672A (zh) 具有自适应方向信息集合的最终运动矢量表达
CN113508594A (zh) 视频编解码中三角形合并模式索引的信令
CN114223202A (zh) 低频不可分离变换（lfnst）信令
TW202038609A (zh) 用於視訊寫碼之共享候選清單及平行候選清單推導
CN113892264A (zh) 使用非矩形预测模式来减少用于视频数据预测的运动场存储
US20210092427A1 (en) Harmonized early termination in bdof and dmvr in video coding
TW202101996A (zh) 用於視訊寫碼之以梯度為基礎之預測精細化
TW202025727A (zh) 向量預測器清單之產生
CN113940078B (zh) 用于视频编解码中的双向光流计算的简化的方法和设备
CN114375575A (zh) 用于视频编解码的高层语法中的子图片信令
US11051035B2 (en) Processing of illegal motion vectors for intra block copy mode in video coding
US11528504B2 (en) Motion vector prediction with motion information collecting buffer
CN113396583A (zh) 预测性系数编解码
CN113170163B (zh) 用于视频译码中最坏情况下带宽减少的限制
TWI843809B (zh) 用於視訊寫碼中具有運動向量差之合併模式之信令傳輸
US11792423B2 (en) Early termination of motion vector refinement process in video coding
US20200267415A1 (en) Chroma deblocking filter for intra block copy mode for video coding
JP2022521979A (ja) デコーダ側動きベクトル改良に対する制約
CN114342404A (zh) 在用于视频编解码的较高语法级别处信令通知的常量条带标头参数
CN116648910A (zh) 视频译码中多个颜色分量的符号预测
CN116601952A (zh) 视频译码的多假设预测

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination