CN114342385A - 基于缩放比率和色度采样类型的色度的子像素运动向量校正 - Google Patents

基于缩放比率和色度采样类型的色度的子像素运动向量校正 Download PDF

Info

Publication number
CN114342385A
CN114342385A CN202080062677.1A CN202080062677A CN114342385A CN 114342385 A CN114342385 A CN 114342385A CN 202080062677 A CN202080062677 A CN 202080062677A CN 114342385 A CN114342385 A CN 114342385A
Authority
CN
China
Prior art keywords
chroma
current block
video
vertical
phase shift
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202080062677.1A
Other languages
English (en)
Other versions
CN114342385B (zh
Inventor
V.塞雷金
M.Z.科班
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN114342385A publication Critical patent/CN114342385A/zh
Application granted granted Critical
Publication of CN114342385B publication Critical patent/CN114342385B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/523—Motion estimation or motion compensation with sub-pixel accuracy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一种设备被配置为基于水平方向上的色度相移来修改由当前图片的当前块的运动向量指向的色度位置的水平分量。该色度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片。该设备可以基于垂直方向上的色度相移来修改色度位置的垂直分量。另外，该设备可以基于与对于当前图片的当前块的预测块的修改后的色度位置色度样点相对应的该参考图片的色度样点来生成。修改后的色度位置由色度位置的修改后的水平分量和垂直分量来定义。该设备可以基于对于当前块的预测块对当前块进行编解码。

Description

基于缩放比率和色度采样类型的色度的子像素运动向量校正
相关申请的交叉引用
本申请要求于2020年9月10日提交的美国专利申请17/017,278的优先权，该美国专利申请要求于2019年9月18日提交的美国临时专利申请62/902,271的权益，其全部内容通过引用并入本文。
技术领域
本公开涉及视频编码和视频解码。
背景技术
数字视频能力可以被结合到广泛的设备中，包括数字电视、数字直接广播系统、无线广播系统、个人数字助理(PDA)、膝上型或桌上型计算机、平板计算机、电子书阅读器、数码相机、数字记录设备、数字媒体播放器、视频游戏设备、视频游戏控制台、蜂窝或卫星无线电电话(所谓的“智能电话”)、视频电话会议设备、视频流式传输设备等。数字视频设备实施视频编解码技术，诸如，在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分、高级视频编解码(AVC)、ITU-T H.265/高效视频编解码(HEVC)所定义的标准以及这种标准的扩展中所描述的技术。通过实施此类视频编解码技术，视频设备可以更有效地发送、接收、编码、解码和/或存储数字视频信息。
视频编解码技术包括空域(图片内)预测和/或时域(图片间)预测来减少或消除视频序列中固有的冗余。对于基于块的视频编解码，可以将视频条带(例如，视频图片或视频图片的一部分)分割为视频块，其也可以被称为编解码树单元(CTU)、编解码单元(CU)和/或编解码节点。图片的经帧内编解码(I)条带中的视频块针对同一图片中的相邻块中的参考样点使用空域预测来进行编码。图片的经帧间编解码(P或B)条带中的视频块可以针对同一图片中的相邻块中的参考样点使用空域预测，或针对其他参考图片中的参考样点使用时域预测。图片可以被称为帧，并且参考图片可以被称为参考帧。
发明内容
通常，本公开描述用于确定与参考图片重新采样一起使用的运动向量的技术。如本文中所描述，视频编解码器(诸如视频编码器或视频解码器)可以执行帧间预测以生成对于当前图片的当前块的预测块。视频编解码器可以使用参考图片的样点来生成预测块。然而，参考图片可以具有与当前图片不同的分辨率或色度采样类型。由于分辨率或色度相移的差，视频编解码器可以调整当前块的运动向量(或由运动向量指示的位置)以指示参考图片中的正确位置。
在一个示例中，本公开描述对视频数据进行编解码的方法，该方法包括：基于水平方向上的色度相移来修改由视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量，其中该色度位置位于具有与该当前图片不同的分辨率或不同的色度采样类型的参考图片中；基于垂直方向上的色度相移来修改该色度位置的垂直分量；基于与修改后的色度位置相对应的该参考图片的色度样点来生成对于当前块的预测块的色度样点，其中修改后的色度位置由该色度位置的修改后的水平分量及垂直分量来定义；以及基于对于当前块的预测块对当前块进行编解码。
在另一示例中，本公开描述用于对视频数据进行编解码的设备，包括：被配置为存储该视频数据的存储器；以及在电路中实施的一个或多个处理器，该一个或多个处理器被配置为：基于水平方向上的色度相移来修改由视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量，其中该色度位置位于参考图片中，其中该色度位置位于具有与该当前图片不同的分辨率或不同的色度采样类型的参考图片中；基于垂直方向上的色度相移来修改该色度位置的垂直分量；基于与修改后的色度位置相对应的该参考图片的色度样点来生成对于当前块的预测块的色度样点，其中修改后的色度位置由该色度位置的修改后的水平分量及垂直分量来定义；以及基于对于当前块的预测块对当前块进行编解码。
在另一示例中，本公开描述用于对视频数据进行编解码的设备，包括：用于基于水平方向上的色度相移来修改由视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量的部件，其中该色度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片中；用于基于垂直方向上的色度相移来修改该色度位置的垂直分量的部件；用于基于与修改后的色度位置相对应的该参考图片的色度样点来生成对于当前块的预测块的色度样点的部件，其中修改后的色度位置由该色度位置的修改后的水平分量及垂直分量来定义；以及用于基于对于当前块的预测块对当前块进行编解码的部件。
在另一示例中，本公开描述上面存储有指令的计算机可读存储介质，该指令在执行时使得一个或多个处理器：基于水平方向上的色度相移来修改视频数据的当前图片的当前块的运动向量的色度位置的水平分量，其中该色度位置位于具有与该当前图片不同的分辨率或不同的色度采样类型的参考图片中；基于垂直方向上的色度相移来修改该运动向量的垂直分量；基于与由该运动向量指示的该参考图片中的位置相对应的该参考图片的色度样点来生成对于当前图片的当前块的预测块的色度样点；以及基于对于当前块的预测块对当前块进行编解码。
在附图和下面的描述中阐述了一个或多个示例的细节。根据说明书、附图和权利要求书，其他特征、目的和优点将是显而易见的。
附图说明
图1是图示了可以执行本公开的技术的示例性视频编码和解码系统的框图。
图2是图示了示例性色度采样类型的概念图。
图3是图示了可以执行本公开的技术的示例性视频编码器的框图。
图4是图示了可以执行本公开的技术的示例性视频解码器的框图。
图5是图示了根据本公开的一个或多个技术的用于对当前块进行编码的示例性方法的流程图。
图6是图示了根据本公开的一个或多个技术的用于对视频数据的当前块进行解码的示例性方法的流程图。
图7是图示了根据本公开的一个或多个技术的对视频数据进行编解码的示例性方法的流程图。
具体实施方式
视频编解码器(诸如视频编码器或视频解码器)可以使用帧间预测来生成当前图片的当前块的预测块。视频编解码器可以使用当前块的运动向量来确定参考图片中的位置。然后，视频编解码器可以使用在由运动向量指示的位置处的参考图片的样点来生成预测块。举例来说，在运动向量指示子像素位置(即，两个样点之间的位置)的情况下，视频编解码器可以基于参考图片的样点来内插预测块的样点。在视频编解码器是视频编码器的情况下，视频编码器可以使用预测块来生成当前块的残差数据。然后，可以对残差数据进行编码并信令通知。在视频编解码器是视频解码器的情况下，视频解码器可以使用当前块的预测块和残差数据来重构当前块。
在一些示例中，当前图片和参考图片具有不同的分辨率或不同的色度采样类型。例如，可以使用不同色度格式对当前图片和参考图片进行编解码。举例来说，在一个示例中，可以用4:2:2色度格式对当前图片进行编解码，并且可以用4:2:0色度格式对参考图片进行编解码。因此，在该示例中，当前图片在垂直方向上具有两倍于参考图片的色度样点。色度相移中的这种差可能导致运动向量指示参考图片内的不准确位置。
此外，在以4:2:0色度格式进行编解码的图片中，存在不同的色度采样类型。在4:2:0色度格式中，色度样点相对于亮度样点在水平和垂直方向上被2:1下采样。不同的色度采样类型对应于色度采样相对于亮度样点的不同位置。未考虑到当前图片与参考图片之间的色度样点类型的这种差，并且可能降低编解码效率且可能降低图片质量。因此，当前图片和参考图片可以具有不同的分辨率或色度采样类型。
本公开描述可以解决这些问题的技术。举例来说，在一个示例中，视频编解码器(例如，视频编码器或视频解码器)可以基于水平方向上的色度相移来修改由当前图片的当前块的运动向量指向的色度位置的水平分量。色度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片中。另外，视频编解码器可以基于垂直方向上的色度相移来修改运动向量的垂直分量。该视频编解码器可以基于与修改后的色度位置相对应的参考图片的色度样点来生成当前块的预测块的色度样点。修改后的色度位置由色度位置的修改后的水平分量和垂直分量定义。视频编解码器可以基于对于当前块的预测块对当前块进行编解码(例如，编码或解码)。通过以此方式修改色度位置的水平分量和垂直分量，视频编解码器可以能够避免在当前图片和参考图片具有不同的分辨率或色度采样类型时可能出现的问题。
图1是图示了可以执行本公开的技术的示例性视频编码和解码系统100的框图。本公开的技术通常涉及编解码(编码和/或解码)视频数据。通常，视频数据包括用于处理视频的任何数据。因此，视频数据可以包括原始的、未经编码的视频、经编码的视频、经解码的(例如，经重构的)视频和视频元数据，诸如信令通知数据。
如图1所示，在该示例中，系统100包括提供将由目的地设备116进行解码和显示的经编码的视频数据的源设备102。特别地，源设备102经由计算机可读介质110将视频数据提供给目的地设备116。源设备102和目的地设备116可以包括广泛范围的设备中的任一者，包括桌上型计算机、移动设备(例如，笔记本(即，膝上型)计算机、平板计算机、诸如智能电话的电话手持机、电视、相机等)广播接收器设备、机顶盒、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备等。在一些情况下，源设备102和目的地设备116可以被配备用于无线通信，并且因此可以被称为无线通信设备。
在图1的示例中，源设备102包括视频源104、存储器106、视频编码器200和输出接口108。目的地设备116包括输入接口122、视频解码器300、存储器120和显示设备118。根据本公开，源设备102的视频编码器200和目的地设备116的视频解码器300可以被配置为应用用于确定与参考图片重新采样一起使用的运动向量的技术。因此，源设备102表示视频编码设备的示例，而目的地设备116表示视频解码设备的示例。在其他示例中，源设备和目的地设备可以包括其他组件或布置。例如，源设备102可以从诸如外部相机的外部视频源接收视频数据。同样，目的地设备116可以与外部显示器设备接口，而不是包括集成的显示器设备。
如图1所示的系统100仅仅是一个示例。通常，任何数字视频编码和/或解码设备可以执行用于确定与参考图片重新采样一起使用的运动向量的技术。源设备102和目的地设备116仅仅是此类编解码设备的示例，其中源设备102生成经编解码的视频数据以传输到目的地设备116。本公开将“编解码”设备称为执行数据的编解码(编码和/或解码)的设备。因此，视频编码器200和视频解码器300表示编解码设备的示例，具体地，分别是视频编解码器和视频解码器。在一些示例中，源设备102和目的地设备116可以以基本上对称的方式操作，使得源设备102和目的地设备116中的每一个包括视频编码和解码组件。因此，系统100可以支持源设备102与目的地设备116之间的单向或双向视频传输，例如，用于视频流式传输、视频回放、视频广播或视频电话。
通常，视频源104表示视频数据的源(即，原始的、未经编码的视频数据)，并向视频编码器200提供视频数据的连续一系列的图片(也被称为“帧”)，该视频编码器200对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备，诸如视频相机、包含先前捕获的原始视频的视频存档和/或从视频内容提供商接收视频的视频馈送接口。作为进一步的替代，视频源104可以生成基于计算机图形的数据作为源视频，或者实况视频、存档的视频和计算机生成的视频的组合。在每种情况下，视频编码器200对捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从接收的顺序(有时被称为“显示顺序”)重新布置成用于编码的编解码顺序。视频编码器200可以生成包括经编码的视频数据的比特流。源设备102然后可以经由输出接口108向计算机可读介质110上输出经编码的视频数据，用于由例如，目的地设备116的输入接口122接收和/或检索。
源设备102的存储器106和目的地设备116的存储器120表示通用存储器。在一些示例中，存储器106、120可以存储原始视频数据(例如，来自视频源104的原始视频)和来自视频解码器300的原始的、经解码的视频数据。另外地或可替代地，存储器106、120可以分别存储可由例如视频编码器200和视频解码器300执行的软件指令。尽管在该示例中，与视频编码器200和视频解码器300分开示出存储器106和存储器120，但是应当理解的是，视频编码器200和视频解码器300也可以包括用于功能上类似或等同目的内部存储器。此外，存储器106、120可以存储例如从视频编码器200输出并输入到视频解码器300的经编码的视频数据。在一些示例中，存储器106、120的部分可以被分配为一个或多个视频缓冲器，例如，以存储原始的、经解码的和/或经编码的视频数据。
计算机可读介质110可以表示能将经编码的视频数据从源设备102传输到目的地设备116的任何类型的介质或设备。在一个示例中，计算机可读介质110表示通信介质，以使得源设备102能够例如经由射频网络或基于计算机的网络实时地向目的地设备116发送经编码的视频数据。根据通信标准，诸如无线通信协议，输出接口108可以调制包括经编码的视频数据的传输信号，并且输入接口122可以解调接收到的传输信号。通信介质可以包括任何无线或有线通信介质，诸如射频(RF)频谱或一条或多条物理传输线。通信介质可以形成基于分组的网络(诸如局域网、广域网或全球网络(诸如因特网))的一部分。通信介质可以包括路由器、交换机、基站或有助于促进从源设备102到目的地设备116的通信的任何其他装备。
在一些示例中，计算机可读介质110可以包括存储设备112。源设备102可以将经编码的数据从输出接口108输出到存储设备112。类似地，目的地设备116可以经由输入接口122访问来自存储设备112的经编码的数据。存储设备112可以包括各种分布式或本地访问的数据存储介质中的任何一种，诸如硬盘、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器、或者用于存储经编码的视频数据的任何其他合适的数字存储介质。
在一些示例中，计算机可读介质110可以包括文件服务器114或可以存储由源设备102生成的经编码的视频数据的另一中间存储设备。源102可以将经编码的视频数据输出到文件服务器114或可以存储由源设备102生成的经编码的视频的另一中间存储设备。目的地设备116可以经由流式传输或下载从文件服务器114访问所存储的视频数据。文件服务器114可以是能存储经编码的视频数据并向目的地设备116发送该经编码的视频数据的任何类型的服务器设备。文件服务器114可以表示(例如，用于网站的)网页服务器、文件传输协议(FTP)服务器、内容传递网络设备或网络附接存储(NAS)设备。目的地设备116可以通过任何标准数据连接，包括互联网连接，访问来自文件服务器114的经编码的视频数据。这可以包括无线信道(例如，Wi-Fi连接)、有线连接(例如，数字订户线(DSL)、电缆调制解调器等)或者二者的组合，它们适于访问存储在文件服务器114上的经编码的视频数据。文件服务器114和输入接口122可以被配置为根据流式传输协议、下载传输协议或其组合来操作。
输出接口108和输入接口122可以表示无线发送器/接收器、调制解调器、有线网络组件(例如，以太网卡)、根据各种IEEE 802.11标准中的任何标准操作的无线通信组件、或其他物理组件。在输出接口108和输入接口122包括无线组件的示例中，输出接口108和输入接口122可以被配置为根据诸如4G、4G-LTE(长期演进)、LTE高级、5G等的蜂窝通信标准来传送诸如经编码的视频数据的数据。在输出接口108包括无线发送器的一些示例中，输出接口108和输入接口122可以被配置为根据其他无线标准，诸如IEEE 802.11规范、IEEE 802.15规范(例如，ZigBeeTM)、蓝牙TM标准或类似标准，来传送数据，诸如经编码的视频数据。在一些示例中，源设备102和/或目的地设备116可以包括相应的片上系统(SoC)设备。例如，源设备102可以包括执行属于视频编码器200和/或输出接口108的功能的SoC设备，并且目的地设备116可以包括执行属于视频解码器300和/或输入接口122的功能的SoC设备。
本公开的技术可以应用于视频编解码，以支持多种多媒体应用中的任何一种，诸如空中电视广播、有线电视传输、卫星电视传输、互联网流式传输视频传输(诸如通过HTTP的动态自适应流式传输(DASH))、经编码到数据存储介质上的数字视频、存储在数据存储介质上的数字视频的解码或其他应用。
目的地设备116的输入接口122从计算机可读介质110(例如，通信介质、存储设备112、文件服务器114等)接收经编码的视频比特流。经编码的视频比特流可以包括由视频编码器200定义的信令通知信息，诸如具有描述视频块或其他经编解码的单元(例如，条带、图片、图片组、序列等)的特征和/或处理的值的语法元素，该信令信息也被视频解码器300使用。显示设备118向用户显示经解码的视频数据的经解码的图片。显示设备118可以表示多种显示设备中的任何一种，诸如阴极射线管(CRT)、液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器或另一种类型的显示设备。
尽管未在图1中示出，但在一些示例中，视频编码器200和视频解码器300各自可以与音频编码器和/或音频解码器集成在一起，并且可以包括适当的MUX-DEMUX单元或其他硬件和/或软件，来处理公共数据流中包括音频和视频的多路复用流。如果适用，MUX-DEMUX单元可以符合ITU H.223多路复用器协议，或其他协议，诸如用户数据报协议(UDP)。
视频编码器200和视频解码器300各自可以被所述为多种合适的编码器和/或解码器电路中的任何一种，诸如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件或其任何组合。当该技术部分地以软件来实施时，设备可以将用于软件的指令存储在合适的非暂时计算机可读介质中，并使用一个或多个处理器在硬件中执行该指令来执行本公开的技术。视频编码器200和视频解码器300中的每一个可以被包括在一个或多个编码器或解码器中，其中任一个可以被集成为相应设备中的组合编码器/解码器(编解码器(CODEC))的一部分。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器和/或无线通信设备，诸如蜂窝电话。
视频编码器200和视频解码器300可以根据视频编解码标准(诸如ITU-T H.265，也被称为高效视频编解码(HEVC))或其扩展(诸如多视图和/或可缩放视频编解码扩展)来操作。可替代地，视频编码器200和视频解码器300可以根据其他专有或工业标准(诸如ITU-TH.266，也称为通用视频编解码(VVC))来操作。在以下中描述了VVC标准的最新草案：Bross等人的“Versatile Video Coding(通用视频编解码)(草案6)”，ITU-T SG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频编解码组(JVET)，第15次会议：Gothenburg，SE，2019年7月3日到12日，JVET-O2001-vE(下文中称为“VVC草案6”)。在以下中描述了用于VVC草案6的测试模型：Chen等人的“Algorithm Description for Versatile Video Coding and TestModel 6(用于通用视频编解码和测试模型的算法描述6)”，ITU-T SG 16WP 3和ISO/IECJTC 1/SC 29/WG 11的联合视频编解码组(JVET)，第15次会议：Gothenburg，SE，2019年7月3日到12日，JVET-O2001-vE(下文中称为“VTM-6”)。然而，本公开的技术不限于任何特定的编解码标准。
通常，视频编码器200和视频解码器300可以执行图片的基于块的编解码。术语“块”通常指包括要处理(例如，经编码的、经解码的或用在编码过程和/或解码过程中的其他方式)的数据的结构。例如，块可以包括亮度和/或色度数据的样点的二维矩阵。通常，视频编码器200和视频解码器300可以对以YUV(例如，Y、Cb、Cr)格式表示的视频数据进行编解码。也就是说，视频编码器200和视频解码器300可以对亮度和色度分量进行编解码，而不是对用于图片的样点的红、绿和蓝(RGB)数据进行编解码，其中色度分量可以包括红色调和蓝色调色度分量两者。在一些示例中，视频编码器200在编码之前将接收到的RGB格式化数据转换成YUV表示，并且视频解码器300将YUV表示转换成RGB格式。可替代地，预处理和后处理单元(未示出)可以执行这些转换。
本公开通常可以涉及图片的编解码(例如，编码和解码)，以包括对图片的数据进行编码或解码的过程。类似地，本公开可以涉及图片的块的编解码，以包括对块的数据进行编码或解码的过程，例如，预测和/或残差编解码。经编码的视频比特流通常包括表示编解码决策(例如，编解码模式)和图片分割成块的语法元素的一系列值。因此，对编解码图片或块的引用通常应被理解为用于形成图片或块的语法元素的编解码值。
HEVC定义了各种块，包括编解码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC，视频编解码器(诸如视频编码器200)根据四叉树结构来将编解码树单元(CTU)分割成CU。也就是说，视频编解码器将CTU和CU分割成四个相等的、不重叠的正方形，并且四叉树的每个节点有零个或四个子节点。没有子节点的节点可以被称为“叶节点”，并且此叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频编解码器还可以分割PU和TU。例如，在HEVC中，残差四叉树(RQT)表示TU的分割。在HEVC中，PU表示帧间预测数据，而TU表示残差数据。帧内预测的CU包括帧内预测信息，诸如帧内模式指示。
作为另一示例，视频编码器200和视频解码器300可以被配置为根据VVC来操作。根据VVC，视频编解码器(诸如视频编码器200)将图片分割成多个编解码树单元(CTU)。视频编码器200可以根据树结构，诸如四叉树-二叉树(QTBT)结构或多类型树(MTT)结构来分割CTU。QTBT结构消除了多个分割类型的概念，诸如HEVC的CU、PU和TU之间的区分。QTBT结构包括两层：根据四叉树分割来分割的第一层和根据二叉树分割来分割的第二层。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于编解码单元(CU)。
在MTT分割结构中，块可以使用四叉树(QT)分割、二叉树(BT)分割和一种或多种类型的三叉树(TT)(也称为三叉树(TT))分割来分割。三叉树或三重树(ternary tree)分割是将块划分成三个子块的分割。在一些示例中，三叉树或三重树分割将块分成三个子块，而不通过中心来划分原始块。MTT(例如，QT、BT和TT)中的分割类型可以是对称的或者不对称的。
在一些示例中，视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度分量和色度分量中的每一个分量，而在其他示例中，视频编码器200和视频解码器300可以使用两个或多个QTBT或MTT结构，诸如一个QTBT/MTT结构用于亮度分量，而另一QTBT/MTT结构用于两个色度分量(或者两个QTBT/MTT结构用于相应的色度分量)。
视频编码器200和视频解码器300可以被配置为使用每HEVC四叉树分割、QTBT分割、或MTT分割或其他分割结构。出于解释的目的，相对于QTBT分割来呈现本公开的技术的描述。然而，应当理解的是，本公开的技术也可以应用于被配置为使用四叉树分割或其他类型的分割的视频编解码器。
块(例如，CTU或CU)可以以各种方式在图片中进行分组。作为一个示例，砖块(brick)可以指图片中的特定片(tile)内的CTU行的矩形区域。片可以是图片中特定片列和特定片行内的CTU的矩形区域。片列是指CTU的矩形区域，其高度等于图片高度，且其宽度由语法元素(例如，在图片参数集中)指定。片行是指CTU的矩形区域，其高度由语法元素(例如，在图片参数集中)指定，且其宽度等于图片宽度。
在一些示例中，可以将片分割成多个砖块，每个砖块可以包括片内的一个或多个CTU行。未被分割成多个砖块的片也可以被称为砖块。然而，作为片的真实子集的砖块可以不被称为片。
图片中的砖块也可以被排列成条带。条带可以是可以排他地包含在单个网络抽象层(NAL)单元中的整数个图片砖块。在一些示例中，条带包括多个完整的片或者仅包括一个片的完整的砖块的连续序列。
本公开可以互换地使用“N×N”和“N乘N”来指代块(诸如CU或其他视频块)在垂直和水平维度方面的样点维度，例如，16×16样点或16乘16样点。通常，16×16CU在垂直方向上有16个样点(y＝16)，并且在水平方向上有16个样点(x＝16)。同样地，N×N CU通常在垂直方向上具有N个样点，并且在水平方向上具有N个样点，其中N表示非负整数值。CU中的样点可以按行和列布置。此外，CU在水平方向上不必具有与垂直方向上相同数量的样点。例如，CU可以包括N×M个样点，其中M不一定等于N。
视频编码器200对表示预测和/或残差信息以及其他信息的对于CU的视频数据进行编码。预测信息指示如何要预测CU，以便形成对于CU的预测块。残差信息通常表示编码之前的CU样点与预测块之间的逐样点差。
为了预测CU，视频编码器200通常可以通过帧间预测或帧内预测来形成对于CU的预测块。帧间预测通常指从先前经编解码的图片的数据中预测CU，而帧内预测通常指从相同图片的先前经编解码的数据中预测CU。为了执行帧间预测，视频编码器200可以使用一个或多个运动向量来生成预测块。视频编码器200通常可以执行运动搜索以识别与CU紧密匹配的参考块，例如，在CU与参考块之间的差方面。视频编码器200可以使用绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)或其他这种差值计算来计算差值度量以确定参考块是否与当前CU紧密地匹配。在一些示例中，视频编码器200可以使用单向预测或双向预测来预测当前CU。
运动向量可以具有子像素精度。换句话说，运动向量可以指示参考图片中的位置，该位置位于参考图片在水平和/或垂直方向上的两个样点之间。运动向量的精确度是指运动向量相对于参考图片中的位置具有的位置的精度。例如，如果运动向量具有16的精度，则运动向量能够指示参考图片的样点或者参考图片的样点和下一个样点之间的15个位置中的一个位置。当使用运动向量执行帧间预测时，视频编码器200或视频解码器300可以将内插滤波器应用于参考图片的样点以确定与由运动向量指示的位置相对应的预测块的样点。举例来说，如果运动向量指示参考图片的两个样点之间的垂直半途(halfway)位置，则视频编码器200或视频解码器300可应用内插滤波器，该内插滤波器基于参考图片的至少两个样点来确定参考图片的两个样点之间的垂直半途位置的值。
VVC的一些示例也提供仿射运动补偿模式，该模式可以被认为是帧间预测模式。在仿射运动补偿模式下，视频编码器200可以确定表示非平移运动的两个或多个运动向量，诸如放大或缩小、旋转、透视运动或其他不规则运动类型。
为了执行帧内预测，视频编码器200可以选择帧内预测模式来生成预测块。VVC的一些示例提供了六十七种帧内预测模式，包括各种方向的模式，以及平面模式和DC模式。通常，视频编码器200选择帧内预测模式，其描述当前块(例如，CU的块)的相邻样点，以从其预测当前块的预测样点。假设视频编码器200以光栅扫描顺序(从左侧到右侧、从顶部到底部)来编解码CTU和CU，此类样点通常可以在与当前块相同的图片中的当前块的上方、上方到左侧，或到左侧。
视频编码器200对表示当前块的预测模式的数据进行编码。例如，对于帧间预测模式，视频编码器200可以对表示使用了各种可用帧间预测模式中的哪一种的数据进行编码，以及对用于对应模式的运动信息进行编码。对于单向或双向帧间预测，例如，视频编码器200可以使用高级运动向量预测(AMVP)或合并模式来对运动向量进行编码。视频编码器200可以使用类似模式来编码用于仿射运动补偿模式的运动向量。
在预测之后，诸如块的帧内预测或帧间预测之后，视频编码器200可以计算对于块的残差数据。残差数据(诸如残差块)表示块与对于该块的预测块之间的逐样点差，其通过使用对应预测模式而形成。视频编码器200可以对残差块应用一个或多个变换，以在变换域而不是样点域中产生经变换的数据。例如，视频编码器200可以对残差视频数据应用离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换。另外地，视频编码器200可以在第一变换之后应用二次变换，诸如模式相关的不可分离二次变换(MDNSST)、信号相关的变换、Karhunen-Loeve变换(KLT)等。视频编码器200在应用一个或多个变换之后产生变换系数。
如上所述，在产生变换系数的任何变换之后，视频编码器200可以执行变换系数的量化。量化通常指其中变换系数被量化以尽可能减少用来表示变换系数的数据量从而提供进一步压缩的过程。通过执行量化过程，视频编码器200可以减小与变换系数中的一些或所有相关联的比特深度。例如，视频编码器200可以在量化期间将n比特值下舍入到m比特值，其中n大于m。在一些示例中，为了执行量化，视频编码器200可以执行要量化的值的逐位右移。
量化之后，视频编码器200可以扫描变换系数，从而从包括经量化的变换系数的二维矩阵中产生一维向量。扫描可以被设计成将较高能量(并且因此较低频率的)变换系数放置在向量的前面，并且将较低能量(并且因此较高频率的)变换系数放置在向量的后面。在一些示例中，视频编码器200可以利用预定扫描顺序来扫描经量化的变换系数，以产生经序列化(serialized)的向量，并且然后，对向量的经量化的变换系数进行熵编码。在其他示例中，视频编码器200可以执行自适应扫描。在扫描经量化的变换系数以形成一维向量之后，视频编码器200可以例如根据上下文自适应二进制算术编解码(CABAC)对一维向量进行熵编码。视频编码器200也可以对用于描述了与经编码的视频数据相关联的元数据的语法元素的值进行熵编码，以供视频解码器300在对视频数据进行解码时使用。
为了执行CABAC，视频编码器200可以将上下文模型内的上下文分配给要发送的符号。上下文可以涉及例如符号的相邻值是否为零值。概率确定可以基于被分配给符号的上下文。
视频编码器200可以进一步生成语法数据，诸如基于块的语法数据、基于图片的语法数据和基于序列的语法数据。视频解码器300可以同样地解码此语法数据，以确定如何解码对应视频数据。
以这种方式，视频编码器200可以生成比特流，该比特流包括经编码的视频数据，例如，描述了图片分割成块(例如，CU)的语法元素以及对于块的预测和/或残差信息。最终，视频解码器300可以接收比特流并解码经编码的视频数据。
通常，视频解码器300执行与由视频编码器200执行的过程相反的过程，以解码比特流的经编码的视频数据。例如，视频解码器300可以使用CABAC、以与视频编码器200的CABAC编码过程基本类似但相反的方式，解码比特流的语法元素的值。语法元素可以定义分割信息，该分割信息用于将图片分割成CTU和根据诸如QTBT结构的对应分割结构对每个CTU进行分割以定义CTU的CU。语法元素还可以定义视频数据的块(例如，CU)的预测和残差信息。
残差信息可以由例如经量化的变换系数来表示。视频解码器300可以对块的经量化的变换系数进行逆量化和逆变换，以重现用于块的残差块。视频解码器300使用信令通知的预测模式(帧内预测或帧间预测)和相关预测信息(例如，用于帧间预测的运动信息)，以形成用于块的预测块。视频解码器300然后可以(在逐样点的基础上)组合预测块和残差块，以重现原始块。视频解码器300可以执行另外的处理，诸如执行去块过程以减少沿块的边界的视觉伪像。
比特流可以包括网络抽象层(NAL)单元的序列。NAL单元是包含NAL单元中的数据的类型的指示、以及以需要穿插有仿真阻止比特的原始字节序列有效载荷(RBSP)的形式的、包含数据的字节的语法结构。每个NAL单元可以包括NAL单元标头并且可以封装RBSP。NAL单元标头可以包括指示NAL单元类型代码的语法元素。由NAL单元的NAL单元标头指定的NAL单元类型代码指示NAL单元的类型。RBSP可以是包含封装在NAL单元内的整数个字节的语法结构。在一些情况下，RBSP包括零比特。
如上所述，比特流可以包括视频数据和相关联的数据的经编解码的图片的表示。相关联的数据可以包括参数集。NAL单元可以封装用于视频参数集(VPS)、序列参数集(SPS)和图片参数集(PPS)的RBSP。VPS是包括应用于零个或多个完整编解码的视频序列(CVS)的语法元素的语法结构。SPS也是包括应用于零个或多个整个CVS的语法元素的语法结构。SPS可以包括识别当SPS活动时为活动的VPS的语法元素。因此，VPS的语法元素通常可以比SPS的语法元素更适用。PPS是包括应用于零个或多个经编解码的图片的语法元素的语法结构。PPS可以包括识别当PPS活动时为活动的SPS的语法元素。条带的条带标头可以包括指示当条带被编解码时活动的PPS的语法元素。
图2是图示了用于4:2:0色度格式的示例性色度样点位置类型的概念图。图片可以被分成顶部场(field)和底部场。顶部场和底部场可以对应于交替的亮度样点的行。如图2的示例所示，当使用4:2:0色度格式编码图片时，对于每个场可以有六种不同类型的色度样点布置150。尽管参考场编解码解释了图2，但是在帧编解码中可以使用色度类型。在使用帧编解码的示例中，帧(图片)的每个亮度样点可以被认为属于顶部场，并且可以使用色度类型0到3。
具体地，在图2的示例中，当使用4:2:0色度格式和类型0色度样点来编码图片时，在上部场亮度样点位置的行中每隔一个亮度样点位置对应于色度样点，并且色度样点与上部场亮度样点位置水平对齐，并且在该上部场亮度样点位置的行与该上部场亮度样点位置的行下方的下部场亮度样点位置的行之间的中间垂直对齐。当使用4:2:0色度格式和类型0色度样点来编码图片时，在下部场亮度样点位置的行中每隔一个亮度样点位置对应于色度样点，并且色度样点与下部场亮度样点位置水平对齐，并且与下部场亮度样点位置的行和在下部场亮度样点位置的行上方的上部场亮度样点位置的行之间的中间垂直对齐。
当使用4:2:0色度格式和类型1色度样点来编码图片时，在上部场亮度样点位置的行中每隔一个亮度样点位置对应于色度样点，并且该色度样点在上部场亮度样点位置之间水平对齐，并且在该上部场亮度样点位置的行和该上场亮度样点位置的行下方的下部场亮度样点位置的行之间垂直对齐。当使用4:2:0色度格式和类型0色度样点来编码图片时，在下部场亮度样点位置的行中每隔一个亮度样点位置对应于色度样点，并且色度样点在下部场亮度样点位置之间水平对齐，并且与下部场亮度样点位置的行和在下部场亮度样点位置的行上方的上部场亮度样点位置的行之间的中间垂直对齐。
当使用4:2:0色度格式和类型2色度样点来编码图片时，在上部场亮度样点位置的行中每隔一个亮度样点位置对应于色度样点，并且该色度样点直接与该上部场亮度样点位置的行中的上部场亮度样点位置对齐。当使用4:2:0色度格式和类型2色度采样来编码图片时，在下部场亮度样点位置的行中每隔一个亮度样点位置对应于色度样点，并且该色度样点直接与在下部场亮度样点位置的行上方的上部场亮度样点位置的行中的上部场亮度样点位置对齐。
当使用4:2:0色度格式和类型3色度样点来编码图片时，在上部场亮度样点位置的行中每隔一个亮度样点对应于色度样点，并且该色度样点与该上部场亮度样点位置的行垂直对齐，并且在上部场亮度样点位置之间的中间。当使用4:2:0色度格式和类型3色度样点来编码图片时，在下部场亮度样点位置的行中每隔一个亮度样点对应于与在下部场亮度样点位置的行上方的上部场亮度样点位置的行垂直对齐并且在下部场亮度样点位置之间的中间水平对齐的色度样点。
当使用4:2:0色度格式和类型4色度样点来编码图片时，在上部场亮度样点位置的行中每隔一个亮度样点对应于色度样点，并且该色度样点与在对应的上部场亮度样点位置下方的下部场亮度样点位置对齐。当使用4:2:0色度格式和类型4色度样点来编码图片时，在下部场亮度样点位置的行中每隔一个亮度样点对应于色度样点，并且该色度样点与对应的下部场亮度样点位置对齐。
当使用4:2:0色度格式和类型5色度样点来编码图片时，在上部场亮度样点位置的行中每隔一个亮度样点对应于色度样点，并且该色度样点在上部场亮度样点位置之间的中间位置水平对齐，并且与该上部场亮度样点位置下方的行的下部场亮度样点位置的行垂直对齐。当使用4:2:0色度格式和类型5色度样点来编码图片时，在下部场亮度样点位置的行中每隔一个亮度样点对应于色度样点，并且该色度样点与下部场亮度样点位置之间的中间位置水平对齐，并且与在下部场亮度样点位置的行上方的上场亮度样点位置的行垂直对齐。
在使用帧编解码的示例中(即，当不存在上部场和下部场时)，亮度样点位置的列中每隔一个亮度样点对应于色度样点，并且色度样点如上所述相对于上部场垂直和水平对齐。
VVC草案6介绍了参考图片重新采样(RPR)。RPR允许当前图片和参考图片具有不同的分辨率。因此，在运动补偿中，通过调整内插滤波器相位和参考块开始位置，在内插滤波期间考虑分辨率的差异。另外，基于当前图片和参考图片宽度和高度以及当前图片和参考图片一致性(conformance)窗口，针对水平和垂直方向推导出缩放比率。可以基于图片的输出宽度(PicOutputWidthL)和输出高度(PicOutputHeightL)来确定水平和垂直方向的缩放比率。在VTM-6规范草案中，可以如下推导出PicOutputWidthL和PicOutputHeightL：
Figure BDA0003534314970000171
PicOutputHeightL＝pic_height_in_luma_samples-SubHeightC*(conf_win_bottom_offset+conf_win_top_offset) (7-44)
在等式(7-43)中，pic_width_in_luma_samples是PPS中指示以亮度样点为单位的、参考PPS的每个解码图片的宽度的语法元素。在等式(7-44)中，pic_height_in_luma_samples是PPS中指示以亮度样点为单位的、参考PPS的每个解码图片的高度的语法元素。换句话说，pic_width_in_luma_samples和pic_height_in_luma_samples是图片的宽度和高度。SubWidthC表示水平方向上的子采样率(例如，SubWidthC等于1表示在水平方向上没有子采样，SubWidthC等于2表示在水平方向上每隔一个样点被去除，等等)。类似地，SubHeightC表示垂直方向上的子采样率(例如，SubHeightC表示在垂直方向上没有子样点，SubWidthC等于2表示在垂直方向上每隔一个样点被去除，等等)。语法元素conf_win_left_offset、conf_win_right_offset、conf_win_top_offset和conf_win_bottom_offset按照在用于输出的图片坐标中指定的矩形区域来指定从解码处理输出的CVS中的图片的样点。换句话说，conf_win_right_offset、conf_win_left_offset、conf_win_bottom_offset、conf_win_top_offset是一致性窗口中的左、右、底部和顶部偏移。
在VTM-6中，缩放比率(即，水平缩放比率(hori_scale_fp)和垂直缩放比率(vert_scale_fp))被推导如下：
hori_scale_fp＝((fRefWidth<<14)+(PicOutputWidthL>>1))/PicOutputWidthL(8-753)
vert_scale_fp＝((fRefHeight<<14)+(PicOutputHeightL>>1))/PicOutputHeightL (8-754)
变量fRefWidth被设置为等于亮度样点中的参考图片的PicOutputWidthL。变量fRefHeight被设置为等于亮度样点中的参考图片的PicOutputHeightL。PicOutputWidthL和PicOutputHeightL是为当前图片推导出的变量。
表示为(xIntL，yIntL)的参考图片中的块的起始位置(左上角)和表示为(xFracL，yFracL)的以1/16样点单位给出的滤波器相位或偏移被推导如下：
–(refxSbL，refySbLL)和(refxL，refyL)是由以1/16样点单位给出的运动向量(refMvLX[0]，refMvLX[1])指向的亮度位置。如下推导出变量refxSbL、refxL、refySbL和refyL：
refxSbL＝((xSb<<4)+refMvLX)*hori_scale_fp (8-755)
refxL＝((Sign(refxSb)*((Abs(refxSb)+128)>>8)+xL*((hori_scale_fp+8)>>4))+32)>>6 (8-756)
refySbL＝((ySb<<4)+refMvLX)*vert_scale_fp (8-757)
refyL＝((Sign(refySb)*((Abs(refySb)+128)>>8)+yL*((vert_scale_fp+8)>>4))+32)>>6 (8-758)
–变量xIntL、yIntL、xFracL和yFracL被推导如下：
xIntL＝refxL>>4 (8-759)
yIntL＝refyL>>4 (8-760)
xFracL＝refxL&15 (8-761)
yFracL＝refyL&15 (8-762)
在上文中，(xSb，ySb)指定相对于当前图片的左上亮度样点的当前编解码子块的左上样点，且refMvLX是参考图片列表LX(其中X是0和1)的运动向量。
在VVC草案6中，如下对色度颜色分量重复相同的过程。
–对于预测色度样点阵列predSampleLX内的每个色度样点位置(xC＝0..sbWidth-1,yC＝0..sbHeight-1)，如下推导出对应的预测色度样点值predSamplesLX[xC][yC]：
–(refxSbC，refySbC)和(refxC，refyC)是由以1/32样点单位给出的运动向量(mvLX，mvLX)指向的色度位置。如下推导出变量refxSbC、refySbC、refxC和refyC：
refxSbC＝((xSb/SubWidthC<<5)+mvLX)*hori_scale_fp (8-763)
refxC＝((Sign(refxSbC)*((Abs(refxSbC)+256)>>9)+xC*((hori_scale_fp+8)>>4))+16)>>5 (8-764)
refySbC＝((ySb/SubHeightC<<5)+mvLX)*vert_scale_fp (8-765)
refyC＝((Sign(refySbC)*((Abs(refySbC)+256)>>9)+yC*((vert_scale_fp+8)>>4))+16)>>5 (8-766)
–变量xIntC、yIntC、xFracC和yFracC被推导如下：
xIntC＝refxC>>5 (8-767)
yIntC＝refyC>>5 (8-768)
xFracC＝refxC&31 (8-769)
yFracC＝refyC&31 (8-770)
在VVC草案6中，色度具有32个滤波器相位，而亮度具有16个滤波器相位。换句话说，运动向量可以指示相对于亮度样点的16个位置中的一个，并且运动向量可以指示相对于色度样点的32个位置中的一个。当色度滤波器相位被推导出时，即，考虑到应用重新采样的分数位置xFracC和yFracC，意味着hori_scale_fp或vert_scale_fp不同于1x比率时，假定亮度和色度分量网格之间的零相移，如图2中作为类型2色度采样所示。在本公开中，术语1x比率是指1比1的比率。
然而，可以存在如图2所示的其他色度类型，其可以在亮度和色度分量之间具有不同的零相移。例如，类型2色度采样在水平和垂直方向上具有0相移，类型0色度采样在水平方向上具有0相移，在垂直方向上具有0.5相移，对于类型1，分量之间的水平和垂直相移都等于0.5。
当在VVC草案6中应用内插滤波时，不考虑分量之间的相移，即，总是为0，因此当将这种零相位滤波应用于非类型2色度采样时，滤波的结果将从原始输入类型改变色度采样类型，这可能是不期望的。以这种方式改变色度采样类型可能影响编解码效率、影响输出图片，和/或影响图片的显示/渲染，因为在输入图片色度类型和输出图片色度类型之间可能存在失配。
针对帧编解码来描述本公开的技术。然而，本公开的技术也可以适用于帧字段编解码。在后一种情况下，本公开的任何解决方案可以分别应用于顶部场和底部场。例如，如果本公开描述关于帧编解码的语法元素，则针对顶部字段信令通知类似语法元素，且针对底部字段信令通知另一类似语法元素。
根据本公开的技术，为了解决色度采样类型问题，可以在诸如VPS、SPS、PPS或其他地方的参数集中信令通知色度类型或水平和垂直色度相移信息。这些相移可以指示每个图片的输入类型。
当前在VVC草案6中，在SPS视频可用性信息(VUI)中信令通知chroma_sample_loc_type_frame语法元素(其也被称为chroma_sample_loc_type语法元素)以指示相移。由于在VUI中信令通知chroma_sample_loc_type_frame语法元素，所以视频解码器可以忽略chroma_sample_loc_type_frame语法元素。在使用字段编解码的示例中，可以针对上部和下部字段信令通知类似的语法元素(例如，chroma_sample_loc_type_top_field和chroma_sample_loc_type_bottom_field)。
在本公开的一个示例中，在PPS中信令通知chroma_sample_loc_type_frame语法元素。因此，不在SPS的可忽略VUI部分中信令通知chroma_sample_loc_type_frame语法元素。这类似于：Rapaka等人所描述的chroma_phase_idc语法元素的信令通知，“AHG13：chroma phaseoffset for SHVC resampling process(用于SHVC重新采样过程的色度相位偏移)”，ITU-T SG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11的视频编解码联合组(JCT-VC)，第16次会议：San Jose，US，2014年1月9日到17日，文件JCTVC-P0164(下文中称为“JCTVC-P0164”)，其在HEVC可缩放扩展的VPS中信令通知。在JCTVC-P0164中，chroma_phase_idc指定参考VPS的所有图片的色度样点栅格的位置。在JCTVC-P0164中，chroma_phase_idc的值在0到5的范围内，包括0和5。在JCTVC-P0164中，如下推导出变量chroma_phase_X和chroma_phase_Y：
chroma_phase_X＝chroma_phase_idc＝＝0||chroma_phase_idc＝＝1||chroma_phase_idc＝＝5
chroma_phase_Y＝(chroma_phase_idc>>2)？2:(chroma_phase_idc&0x1)
在本公开的另一示例中，显式地信令通知水平和垂直相移，例如，其在HEVC中完成，其中在PPS扩展中针对每一层间参考图片信令通知那些移位。举例来说，HEVC如下指定phase_hor_chroma_plus8语法元素和phase_ver_chroma_plus8语法元素：
phase_hor_chroma_plus8[ref_loc_offset_layer_id[i]] ue(v)
phase_ver_chroma_plus8[ref_loc_offset_layer_id[i]] ue(v)
phase_hor_chroma_plus8[ref_loc_offset_layer_id[i]]减8指定在具有等于ref_loc_offset_layer_id[i]的nuh_layer_id的直接参考层图片的重新采样中使用的水平方向上的色度相移。phase_hor_chroma_plus8[ref_loc_offset_layer_id[i]]的值应在0到63的范围内，包括0到63在内。当不存在时，phase_hor_chroma_plus8[ref_loc_offset_layer_id[i]]的值被推断为等于8。
phase_ver_chroma_plus8[ref_loc_offset_layer_id[i]]减8指定在具有等于ref_loc_offset_layer_id[i]的nuh_layer_id的直接参考层图片的重新采样过程中使用的垂直方向上的色度相移。phase_ver_chroma_plus8[ref_loc_offset_layer_id[i]]的值应在0到63的范围内，包括0到63在内。当不存在时，phase_ver_chroma_plus8[ref_loc_offset_layer_id[i]]的值被推断如下：
–如果chroma_format_idc等于3(4:4:4色度格式)，则phase_ver_chroma_plus8[ref_loc_offset_layer_id[i]]的值被推导为等于8。
–否则，phase_ver_chroma_plus8[ref_loc_offset_layer_id[i]]的值被推导为等于4*scaledRefRegHeight+refRegHeight/2)/refRegHeight+4，其中scaledRefRegHeight的值等于针对直接参考层图片推导出的ScaledRefRegionHeightInSamplesY的值，其中nuh_layer_id等于参考此PPS的图片的ref_loc_offset_layer_id[i]，并且refRegHeight的值等于针对直接参考层图片推导出的RefLayerRegionHeightInSamplesY，其中nuh_layer_id等于参考此PPS的图片的ref_loc_offset_layer_id[i]]。
PhaseHorC＝phase_hor_chroma_plus8–8 (H-24)
PhaseVerC＝phase_ver_chroma_plus8–8 (H-25)
根据本公开的一个或多个技术，相移指示每一图片的色度采样类型。在一个示例中，相移指示给定图片具有该特定色度类型，另一图片可以具有相同序列中的不同类型。在另一示例中，这种色度相移信息可以在SPS中信令通知。在该示例中，色度相移信息指示所有图片具有该特定色度类型。
另外，在本公开的一些示例中，在重新采样(下采样或上采样)过程中可以总是假定并约束色度类型在视频序列中的所有图片上保持不变，并且当应用重新采样过程时，针对每一图片推导出所需色度相移，这些相移可以针对每一图片而不同，以保持色度类型不变。色度类型可以如以上示例中所描述的来指示。图片可以是输入图片、当前图片、参考图片或输出图片。
色度相移可以被信令通知为正值。然而，可以基于是应用下采样(例如，小于1x的缩放比率)还是应用上采样(例如，大于1x的缩放比率)来推导出相移的符号。在一个示例中，如果对水平或垂直方向应用下采样，则色度相移的符号为正，而如果应用上采样，则为负。在一些示例中，可以是在一个方向上应用下采样而在另一方向上应用上采样的情况。
可以是当前图片和参考图片具有不同色度相移的情况。在当前图片和参考图片具有不同色度相移的情况下，在滤波和重新采样过程中使用当前和参考相移。
在两个示例(即，在一个方向上应用下采样并且在另一方向上应用上采样的情况(例如，不同的分辨率)以及当前图片和参考图片具有不同色度相移的情况)中，色度相移信息被用在仅考虑零相移的内插滤波过程中。然而，仅在应用重新采样时可以考虑色度相移信息，即，hori_scale_fp或vert_scale_fp不同于1x比率。这意味着在滤波中有条件地应用所信令通知的色度相移信息，即，如果hori_scale_fp不同于1x比率，则使用chroma_phase_X，并且如果vert_scale_fp不同于1x比率，则使用chroma_phase_Y。
应当注意，当色度格式不是4:2:0时(例如，当chroma_format_idc不等于4:2:0时)，诸如4:2:2或4:4:4，在垂直方向上不应用色度子采样(4:2:2)或者根本不应用色度子采样(4:4:4)。在VVC草案6中，chroma_format_idc语法元素指示色度采样格式(即，色度格式)。在色度格式不为4:2:0(例如，chroma_format_idc不等于4:2:0)的一些示例中，本公开的技术不适用于4:2:2格式的垂直滤波，或不适用于4:4:4格式或单色格式的水平及垂直滤波两者。
表1.chroma_format_idc和separate_colour_plane_flag
Figure BDA0003534314970000231
视频解码器300可以使用上表1来基于可以在比特流中信令通知的chroma_format_idc语法元素和separate_colour_plane_flag语法元素来确定色度格式、SubWidthC和SubHeightC。separate_colour_plane_flag语法元素等于1指定分别编解码4:4:4色度格式的三个颜色分量。separate_colour_plane_flag等于0指定颜色分量不被单独编解码。例如，如果chroma_format_idc语法元素等于3并且separate_colour_plane_flag语法元素等于0，则色度格式是4:4:4，SubWidthC等于1，并且SubHeightC等于1。
在一个实施方式示例中，如以下表2中所示，修改refxSbC、refxC、refySbC、refyC以考虑色度相移，其中被括在<！>…</！>标签中的文本将被添加到VVC草案6：
表2
Figure BDA0003534314970000232
在表2中，addX基于水平方向上的色度相移来设置，并且addY基于垂直方向上的色度相移来设置。在一个示例中，色度相移包括当前图片的色度相移和参考图片的色度相移。
在更详细的示例中，如果水平缩放比率(hori_scale_fp)等于1x比率或chroma_format_idc等于3或0，则addX被设置为等于0。否则，如果水平缩放比率不等于1x比率并且chroma_format_idc不等于3且不等于1，则addX基于水平方向上的色度相移来设置。如果垂直缩放比率(vert_scale_fp)等于1x比率或chroma_format_idc等于2、3或0，则addY被设置为等于0。否则，如果垂直缩放比率不等于1x比率并且chroma_format_idc不等于2、不等于3并且不等于0，则addY基于垂直方向上的色度相移来设置。值addX和addY可以如以下示例中所描述来设置。
在一些示例中，addX和addY基于如下表3的示例中所示的色度相移来(例如，由视频编码器200和视频解码器300)设置：
表3
Figure BDA0003534314970000241
在表3的等式中，(1<<14)是水平和垂直缩放的精度因子。此外，在表3的等式中，右移2(除以4)来自chroma_phase_X和chroma_phase_Y的定义，其具有2的精度因子(即，1对应于0.5移位)和相对于在4:2:0格式中为2的亮度的色度子采样比率。由于色度分数位置的数量(其是32，与色度MV精度相同)，addX和addY右移5。
考虑诸如4:2:2和4:4:4的其他色度格式，在一个示例中，上述公式可以被修改为包括如下表4的示例中所示的色度子采样比率SubWidthC和SubHeightC：
表4
Figure BDA0003534314970000242
在表4的公式中，对于在水平或垂直方向上没有色度子采样的情况，分别用除以2来代替除以4(右移除以2)。也就是说，如表4所示，在没有水平子采样的情况下，SubWidthC的值可以等于1，并且在有水平子采样的情况下，SubWidthC的值可以等于2。因此，除以2或4取决于是否存在水平子采样而进行。同样，在没有垂直子采样的情况下，SubHeightC的值可以等于1，并且在有垂直子采样的情况下，SubHeightC的值可以等于2。因此，除以2或4取决于是否存在垂直子采样而进行。
可以使用其他数量的分数位置，并且因此右移可以取决于分数位置的数量而不同，并且可以针对缩放因子和相位使用其他精度表示。通常，表3和表4的公式只是整数实施方式的示例，并且可以使用其他类似的公式。
在一些示例中，可以通过合并如下面的表5中所示的移位(5-2)来组合表3和表4中的等式的最后两个步骤：
表5
Figure BDA0003534314970000251
在表3、4和5的示例中，chroma_phase_X and chroma_phase_Y可以是当前(重新采样之后)图片的色度相移，而ref_chroma_phase_X和ref_chroma_phase_Y可以是参考(重新采样之前)图片的色度相移。
如果色度相位具有16的精度，则如下面表6的示例中所示重写上述公式：
表6
addX＝chroma_phase_X*hori_scale_fp–(1<<14)*ref_chroma_phase_X
addY＝chroma_phase_Y*vert_scale_fp–(1<<14)*ref_chroma_phase_Y
当考虑其他色度格式(例如，4:2:2和4:4:4)时，视频编码器200和视频解码器300可以根据表7中的以下公式来计算addX和addY：
表7
Figure BDA0003534314970000252
Figure BDA0003534314970000261
在另一示例中，不是除以SubWidthC和SubHeightC，而是可以用SubWidthC和SubHeightC来缩放水平和垂直色度相位值。可以在相位信令通知之前或相位信令通知之后进行缩放。在第一种情况下(即，在相位信令通知之前执行缩放的示例中)，信令通知较小的幅度值，这可能是有利的，因为与较大的幅度值相比，可能需要较少的比特来信令通知较小的幅度值。
在另一示例中，如果色度相位具有32的精度，则公式可以重写为如下表8所示：
表8
Figure BDA0003534314970000262
在一些示例中，可以使用固定的色度相位。换句话说，色度相位总是相同的，因此不是信令通知的。例如，可以使用对应于色度样点类型0的色度相位，因为色度样点类型0可以是最常用的色度格式。在该示例中，chroma_phase_X＝ref_chroma_phase_X＝0,chroma_phase_Y＝ref_chroma_phase_Y＝1。
在另一示例中，当前色度相位可以是固定的，但是参考色度相位是信令通知的。在又一示例中，参考色度相位可以是固定的，但当前色度相位是信令通知的。
因此，根据本公开的技术，视频编解码器(例如，视频编码器200或视频解码器300)可以基于水平方向上的色度相移来修改由视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量。色度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片。视频编解码器还可以基于垂直方向上的色度相移来修改色度位置的垂直分量。此外，视频编解码器可以基于与修改后的色度位置相对应的参考图片的色度样点来生成对于当前图片的当前块的预测块的色度样点。修改后的色度位置由色度位置的修改后的水平分量和垂直分量来定义。视频编解码器可以基于对于当前块的预测块对当前块进行编解码。
类似的方法可以应用于亮度相位。例如，当可以在编解码器之外完成下采样(在一个示例中，对于要编码的输入图片)并且可以利用下采样中的非零相位对齐时，可以发生亮度的相移。类似地，上采样滤波之外使用上采样滤波(在一个示例中，用于显示)，并且可以应用非零相位对齐滤波。在这些示例中，可能发生输入/输出图片与编码或参考图片之间的亮度相位不匹配。
为了避免这种相位不匹配，可以信令通知亮度相位，并且可以在滤波处理中使用亮度相位。在一个示例中，亮度相位的信令通知可以使用HEVC语法来完成。在HEVC中，仅针对层间图片(即，取决于不同层中的图片的图片)信令通知亮度相位。然而，根据本公开的示例，可以针对当前图片而不仅仅针对层间图片来应用用于信令通知亮度相位的HEVC语法。下文呈现用于信令通知亮度相位的HEVC语法和语义。
phase_hor_luma[ref_loc_offset_layer_id[i]] ue(v)
phase_ver_luma[ref_loc_offset_layer_id[i]] ue(v)
phase_hor_luma[ref_loc_offset_layer_id[i]]指定在具有等于ref_loc_offset_layer_id[i]的nuh_layer_id的直接参考层图片的重新采样过程中使用的水平方向上的亮度相移。phase_hor_luma[ref_loc_offset_layer_id[i]]的值应在0到31的范围内，包括0到31在内。当不存在时，phase_hor_luma[ref_loc_offset_layer_id[i]]的值被推断为等于0。
phase_ver_luma[ref_loc_offset_layer_id[i]]指定在具有等于ref_loc_offset_layer_id[i]的直接参考层图片的重新采样中使用的垂直方向上的亮度相移。phase_ver_luma[ref_loc_offset_layer_id[i]]的值应在0到31的范围内，包括0到31在内。当不存在时，phase_ver_luma[ref_loc_offset_layer_id[i]]的值被推断为等于0。
在其他示例中，可以通过其他方式信令通知亮度相位。例如，可以使用类似于上文论述的chroma_phase_idc语法元素的luma_phase_idc语法元素来信令通知亮度相位。luma_phase_idc语法元素指示一个图片相对于另一图片(诸如当前图片和参考图片)之间的位置偏移。根据luma_phase_idc推导出亮度相位(例如，以与从chroma_phase_idc语法元素推导出色度相位相同的方式)。
可以在诸如VPS、SPS、PPS或其他的参数集中信令通知水平和垂直亮度相移信息。相移可以指示每个图片的输入类型。可以在与色度相移相同的参数集(诸如PPS)中信令通知水平和垂直亮度相移。在另一示例中，可以在诸如SPS或VPS的较高参数集中信令通知水平和垂直亮度相位，而在PPS中信令通知色度相移。在较高参数集中信令通知水平和垂直亮度相移背后的思想是亮度相移可以是整个视频序列的全局位置偏移特性，而色度相移对于图片可以更具体。
如已经针对色度所解释的，考虑到当前图片和参考图片的亮度相位，可以在亮度滤波中执行与在色度滤波器中(例如，在表3-8的等式中)执行的修改类似的修改。当缩放因子不同于1x比率(即，参考图片和当前图片具有不同的宽度或高度或两者)时(例如，视频编码器200和视频解码器300)应用亮度修改。
refxSbL＝((xSb<<4)+refMvLX[0])*hori_scale_fp<！>+addX</！> (8-755)
refxL＝((Sign(refxSb)*((Abs(refxSb)+128)>>8)+xL*((hori_scale_fp+8)>>4))+32)>>6 (8-756)
refySbL＝((ySb<<4)+refMvLX[1])*vert_scale_fp<！>+addY</！> (8-757)
refyL＝((Sign(refySb)*((Abs(refySb)+128)>>8)+yL*((vert_scale_fp+8)>>4))+32)>>6 (8-758)
在更详细的示例中，如果hori_scale_fp等于1x比率，则addX被设置为等于0，否则addX基于水平方向上的亮度相移来设置。如果vert_scale_fp等于1x比率，则addY被设置为等于0；否则，addY基于垂直方向上的亮度相移来设置，例如，如下表9所示。
表9
Figure BDA0003534314970000281
其中(1<<14)是用于水平和垂直缩放的精度因子，右移1(即，除以2)来自于对chroma_phase_X和chroma_phase_Y的定义，其具有精度因子2(即，1对应于0.5移位)，由于亮度分数位置的数量(其为16，与亮度MV精度相同)，其右移4。
在其他示例中，addX和addY基于如下表10中所示的亮度相移来设置：
表10
addX＝phase_hor_luma*hori_scale_fp–(1<<14)*ref_phase_hor_luma
addY＝phase_ver_luma*vert_scale_fp–(1<<14)*ref_phase_ver_luma
在该示例中，考虑亮度相位具有精度因子16。可以应用相同的注释，一些亮度相位可以是固定的(当前或参考)，在另一示例中，一个可以是固定的，而另一被信令通知。
亮度相位和色度相位的精度可以不同，例如，亮度相位的精度是8，然而色度相位的精度可以是16。在该示例中，亮度的0.5移位对应于4，并且色度的0.5移位对应于8。亮度和色度的精度因子可以分别设置为与亮度和色度运动内插滤波器中的分数的数量相同。
因此，在一些示例中，视频编解码器可以基于水平方向上的亮度相移来修改由当前图片的当前块的运动向量指向的亮度位置的水平分量。亮度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片。视频编解码器还可以基于垂直方向上的亮度相移来修改亮度位置的垂直分量。此外，视频编解码器可以基于与修改后的亮度位置相对应的参考图片的亮度样点来生成当前块的预测块的亮度样点。修改后的亮度位置由亮度位置的修改后的水平分量和垂直分量来定义。视频编解码器可以基于当前块的预测块对当前块进行编解码。
本公开的以下部分描述了使用VVC草案6的亮度和色度的示例解决方案，其中亮度和色度相位的精度因子均为16。添加至VVC草案6的文本由<！>…</！>标签表示。还可以使用示例解决方案的子集(例如，仅色度相位偏移或仅预定义的固定相位偏移)。
Figure BDA0003534314970000291
Figure BDA0003534314970000301
<！>resample_phase_set_present_flag等于1指定在PPS中存在重新采样相位集。resample_phase_set_present_flag等于0指定在PPS中不存在重新采样相位集。
重新采样相位集指定在参考PPS的图片的重新采样过程中使用的相位偏移。
phase_hor_luma指定重新采样过程中使用的水平方向上的亮度相移。phase_hor_luma的值应在0到31的范围内，包括0到31在内。当不存在时，phase_hor_luma的值被推断为等于0。
phase_ver_luma指定重新采样过程中使用的垂直方向上的亮度相移。phase_ver_luma的值应在0到31的范围内，包括0到31在内。当不存在时，phase_ver_luma的值被推断为等于0。
phase_hor_chroma指定在重新采样过程中使用的水平方向上的色度相移。phase_hor_chroma的值应在0到63的范围内，包括0和63在内。当不存在时，phase_hor_chroma的值被推断为等于0。
phase_ver_chroma指定在重新采样过程中使用的垂直方向上的色度相移。phase_ver_chroma的值应在0至63的范围内，包括0至63在内。当不存在时，如果chroma_format_idc等于3(4:4:4色度格式)，则phase_ver_chroma的值被推断为等于0，否则等于8。</！>
8.5.6.3分数样点插值过程
8.5.6.3.1一般情况
该过程的输入为：
–亮度位置(xSb，ySb)，其指定相对于当前图片的左上角亮度样点当前编解码子块的左上角样点，
–指定当前编解码子块的宽度的变量sbWidth，
–指定当前编解码子块的高度的变量sbHeight，
–运动向量偏移mvOffset，
–细化运动向量refMvLX，
–选择的参考图片样点阵列refPicLX，
–半样点内插滤波器索引hpelIfIdx，
–双向光流标志bdofFlag，
–指定当前块的颜色分量索引的变量cIdx。
该过程的输出为：
–预测样点值的(sbWidth+brdExtSize)x(sbHeight+brdExtSize)阵列predSamplesLX。
预测块边界扩展大小brdExtSize被推导如下：
brdExtSize＝(bdofFlag||(inter_affine_flag&&sps_affine_prof_enabled_flag))？2:0 (8-752)
变量fRefWidth被设置为等于亮度样点中的参考图片的PicOutputWidthL。
变量fRefHeight被设置为等于亮度样点中的参考图片的PicOutputHeightL。
运动向量mvLX被设置为等于(refMvLX-mvOffset)。
–如果cIdx等于0，则以下适用：
–缩放因子及其固定点表示被定义为
hori_scale_fp＝((fRefWidth<<14)+(PicOutputWidthL>>1))/PicOutputWidthL(8-753)
vert_scale_fp＝((fRefHeight<<14)+(PicOutputHeightL>>1))/PicOutputHeightL (8-754)
–设(xIntL，yIntL)是以全样点单位给出的亮度位置，并且(xFracL，yFracL)是以1/16样点单位给出的偏移。这些变量仅在本条款中用于指定参考样点阵列refPicLX内的分数样点位置。
–用于参考样点填充的边界块的左上坐标(xSbIntL，ySbIntL)被设置为等于(xSb+(mvLX>>4),ySb+(mvLX>>4))。
–对于预测亮度样点阵列predSamplesLX内部的每个亮度样点位置(xL＝0..sbWidth-1+brdExtSize,yL＝0..sbHeight-1+brdExtSize)，对应的预测亮度样点值predSamplesLX被推导如下：
–设(refxSbL,refySbL)和(refxL,refyL)是由以1/16样点单位给出的运动向量(refMvLX，refMvLX)指向的亮度位置。变量refxSbL、refxL、refySbL和refyL被推导如下：
<！>ref_phase_hor_luma被设置为等于refPicLX的phase_hor_luma，ref_phase_ver_luma被设置为等于refPicLX的phase_ver_luma。
addX＝hori_scale_fp＝＝(1<<14)？0:phase_hor_luma*hori_scale_fp–(1<<14)*ref_phase_hor_luma
addY＝vert_scale_fp＝＝(1<<14)？0:phase_ver_luma*vert_scale_fp–(1<<14)*ref_phase_ver_luma</！>
refxSbL＝((xSb<<4)+refMvLX)*hori_scale_fp<！>+addX</！> (8-755)
refxL＝((Sign(refxSb)*((Abs(refxSb)+128)>>8)+xL*((hori_scale_fp+8)>>4))+32)>>6 (8-756)
refySbL＝((ySb<<4)+refMvLX)*vert_scale_fp<！>+addY</！> (8-757)
refyL＝((Sign(refySb)*((Abs(refySb)+128)>>8)+yL*((vert_scale_fp+8)>>4))+32)>>6 (8-758)
–变量xIntL、yIntL、xFracL和yFracL被推导如下：
xIntL＝refxL>>4 (8-759)
yIntL＝refyL>>4 (8-760)
xFracL＝refxL&15 (8-761)
yFracL＝refyL&15 (8-762)
–如果bdofFlag等于TRUE或(sps_affine_prof_enabled_flag等于TRUE且inter_affine_flag[xSb][ySb]等于TRUE)，且以下条件中的一或多者为真，则通过以(xIntL+(xFracL>>3)-1),yIntL+(yFracL>>3)-1)和refPicLX作为输入调用如条款8.5.6.3.3中规定的亮度整数样点获取过程来推导出预测亮度样点值predSamplesLX[xL][yL]。
–xL等于0。
–xL等于sbWidth+1.
–yL等于0。
–yL等于sbHeight+1.
–否则，通过以(xIntL-(brdExtSize>0？1:0),yIntL-(brdExtSize>0？1:0))，(xFracL,yFracL)，(xSbIntL,ySbIntL)、refPicLX、hpelIfIdx、sbWidth、sbHeight和(xSb,ySb)作为输入调用如条款8.5.6.3.2中规定的亮度样点8抽头内插滤波过程来推导出预测亮度样点值predSamplesLX[xL][yL]。
–否则(cIdx不等于0)，以下适用：
–设(xIntC，yIntC)是以全样点单位给出的色度位置，并且(xFracC，yFracC)是以1/32样点单位给出的偏移。这些变量仅在本条款中用于指定参考样点阵列refPicLX内的一般分数样点位置。
–用于参考样点填充的边界块的左上坐标(xSbIntC，ySbIntC)被设置为等于((xSb/SubWidthC)+(mvLX>>5),(ySb/SubHeightC)+(mvLX>>5))。
–对于预测色度样点阵列predSampleLX内的每个色度样点位置(xC＝0..sbWidth-1,yC＝0..sbHeight-1)，对应的预测色度样点值predSamplesLX[xC][yC]被推导如下：
–设(refxSbC,refySbC)和(refxC,refyC)是由以1/32样点单位给出的运动向量(mvLX，mvLX)指向的色度位置。变量refxSbC、refySbC、refxC和refyC被推导如下：
<！>ref_phase_hor_chroma被设置为等于refPicLX的phase_hor_luma，ref_phase_ver_chroma被设置为等于refPicLX的phase_ver_luma。
addX＝hori_scale_fp＝＝(1<<14)？0:(phase_hor_chroma*hori_scale_fp–(1<<14)*ref_phase_ver_chroma)*2/SubWidthC
addY＝vert_scale_fp＝＝(1<<14)？0:(phase_ver_chroma*vert_scale_fp–(1<<14)*ref_phase_ver_chroma)*2/SubHeightC</！>
refxSbC＝((xSb/SubWidthC<<5)+mvLX)*hori_scale_fp<！>+addX</！> (8-763)
refxC＝((Sign(refxSbC)*((Abs(refxSbC)+256)>>9)+xC*((hori_scale_fp+8)>>4))+16)>>5 (8-764)
refySbC＝((ySb/SubHeightC<<5)+mvLX)*vert_scale_fp<！>+addY</！> (8-765)
refyC＝((Sign(refySbC)*((Abs(refySbC)+256)>>9)+yC*((vert_scale_fp+8)>>4))+16)>>5 (8-766)
–变量xIntC、yIntC、xFracC和yFracC被推导如下：
xIntC＝refxC>>5 (8-767)
yIntC＝refyC>>5 (8-768)
xFracC＝refyC&31 (8-769)
yFracC＝refyC&31 (8-770)
–通过以(xIntC，yIntC)、(xFracC，yFracC)、(xSbIntC，ySbIntC)、sbWidth、sbHeight和refPicLX作为输入调用如条款8.5.6.3.4中规定的过程来推导出预测样点值predSamplesLX。
本公开可以通常涉及“信令通知”特定信息，诸如语法元素。术语“信令通知”通常可以指对用来解码经编码的视频数据的语法元素和/或其他数据的值的传送。也就是说，视频编码器200可以在比特流中信令通知语法元素的值。通常，信令通知指在比特流中生成值。如上所述，源设备102可以基本上实时地(或非实时地，诸如可能在将语法元素存储到存储设备112以供稍后由目的地设备116检索时发生)将比特流传输到目的地设备116。
图3是图示可以执行本公开的技术的示例视频编码器200的框图。提供图3是为了解释的目的并且不应认为是对本公开中广泛示例和描述的技术的约束。出于说明的目的，本公开在诸如HEVC视频编解码标准和开发中的H.266视频编解码标准(VCC)的视频编解码标准的上下文中描述了视频编码器200。然而，本公开的技术不限于这些视频编解码标准，并且通常适用于视频编码和解码。
在图3的示例中，视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、解码图片缓冲器(DPB)218、以及熵编码单元220。视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、DPB 218和熵编码单元220中的任何一个或全部可以在一个或多个处理器或处理电路中实施。此外，视频编码器200可以包括另外的或可替代的处理器或处理电路以执行这些和其他功能。
视频数据存储器230可以存储要由视频编码器200的组件编码的视频数据。视频编码器200可以从例如视频源104(图1)接收存储在视频数据存储器230中的视频数据。DPB218可以用作参考图片存储器，参考图片存储器存储参考视频数据，供视频编码器200用于预测后续视频数据时使用。视频数据存储器230和DPB 218可以由多种存储器设备中的任何一种形成，诸如动态随机访问存储器(DRAM)，包括同步DRAM(SDRAM)、磁阻式RAM(MRAM)、电阻式RAM(RRAM)或其他类型的存储器设备。视频数据存储器230和DPB 218可以由相同的存储器设备或单独的存储器设备提供。在各种示例中，视频数据存储器230可以与视频编码器200的其他组件一起在片上(on-chip)，如所图示的，或者相对于那些组件在片外(off-chip)。
在本公开中，提到视频数据存储器230不应被解释为限于视频编码器200内部的存储器，除非具体描述如此，或者限于视频编码器200外部的存储器，除非具体描述如此。相反，提到视频数据存储器230应该被理解为存储视频编码器200接收以进行编码的视频数据(例如，要被编码的当前块的视频数据)的参考存储器。图1的存储器106还可以对视频编码器200各个单元输出提供临时存储。
图3的各个单元被示出以帮助理解由视频编码器200执行的操作。这些单元可以被实施为固定功能电路、可编程电路或其组合。固定功能电路是指提供特定功能并预设能够执行的操作的电路。可编程电路是指可以被编程来执行各种任务并且在能够执行的操作中提供灵活功能的电路。举例来说，可编程电路可以运行软件或固件，使可编程电路按由软件或固件的指令定义的方式操作。固定功能电路可以运行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不可变的。在一些示例中，单元中的一个或多个可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。
视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核心。在使用由可编程电路执行的软件来执行视频编码器200的操作的示例中，存储器106(图1)可以存储视频编码器200接收和执行的软件的指令(例如，目标代码)，或视频编码器200(未示出)内另一存储器可以存储这样的指令。
视频数据存储器230被配置为存储接收到的视频数据。视频编码器200可以从视频数据存储器230中检索视频数据的图片，并向残差生成单元204和模式选择单元202提供视频数据。视频数据存储器230中的视频数据可以是要编码的原始视频数据。
模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括另外的功能单元，以根据其他预测模式来执行视频预测。作为示例，模式选择单元202可以包括调色板单元、帧内块复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。
模式选择单元202通常协调多个编码过程，以测试编码参数的组合以及得到的用于此类组合的率失真值。编码参数可以包括CTU到CU的分割、用于CU的预测模式、用于CU残差数据的变换类型、用于CU残差数据的量化参数等。模式选择单元202可以最终选择具有比其他测试组合更好的率失真值的编码参数的组合。
视频编码器200可以将从视频数据存储器230中检索的图片分割成一系列CTU，并将一个或多个CTU封装在条带内。模式选择单元202可以根据树结构(诸如上述HEVC的QTBT结构或四叉树结构)来分割图片的CTU。如上所述，视频编码器200可以根据树结构通过分割CTU来形成一个或多个CU。这种CU也可以通常被称为“视频块”或“块”。
通常，模式选择单元202还控制其组件(例如，运动估计单元222、运动补偿单元224和帧内预测单元226)以生成当前块(例如，当前CU或HEVC中PU和TU的重叠部分)的预测块。为了对当前块进行帧间预测，运动估计单元222可以执行运动搜索来识别在一个或多个参考图片(例如，存储在DPB218中的一个或多个先前编解码的图片)中的一个或多个紧密匹配的参考块。特别地，运动估计单元222可以例如根据绝对差和(SAD)、平方差和(SSD)、平均绝对差(MAD)、均方差(MSD)等来计算表示潜在参考块对当前块有多相似的值。运动估计单元222通常可以使用当前块与正考虑的参考块之间的逐样点差来执行这些计算。运动估计单元222可以识别具有从这些计算得到的最低值的参考块，指示最紧密匹配当前块的参考块。
运动估计单元222可以形成一个或多个运动向量(MV)，运动向量定义参考图片中的参考块相对于当前图片中的当前块的位置。运动估计单元222然后可以向运动补偿单元224提供运动向量。例如，对于单向帧间预测，运动估计单元222可以提供单个运动向量，而对于双向帧间预测，运动估计单元222可以提供两个运动向量。运动补偿单元224然后可以使用运动向量来生成预测块。例如，运动补偿单元224可以使用运动向量来检索参考块的数据。作为另一示例，如果运动向量具有分数样点精度，则运动补偿单元224可以根据一个或多个插值滤波器来插值用于预测块的值。此外，对于双向帧间预测，运动补偿单元224可以检索由相应运动向量识别的用于两个参考块的数据，并例如，通过逐样点平均或加权平均来组合所检索的数据。
作为另一示例，对于帧内预测或帧内预测编解码，帧内预测单元226可以根据与当前块相邻的样点来生成预测块。例如，对于方向模式，帧内预测单元226通常可以数学上地组合相邻样点的值，并在跨越当前块的定义方向上填充这些计算出的值，以产生预测块。作为另一示例，对于DC模式，帧内预测单元226可以计算当前块的相邻样点的平均值，并且生成预测块以包括对于预测块的每个样点的得到的平均值。
模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的、未经编码的版本，并从模式选择单元202接收预测块。残差生成单元204计算当前块与预测块之间的逐样点差。得到的逐样点差定义对于当前块的残差块。在一些示例中，残差生成单元204也可以确定残差块中的样点值之间的差，以使用残差差分脉冲编解码调制(RDPCM)来生成残差块。在一些示例中，残差生成单元204可以使用执行二进制减法的一个或多个减法器电路来形成。
在模式选择单元202将CU分割成PU的示例中，每个PU可以与亮度预测单元和对应色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所述，CU的大小可以指CU的亮度编解码块的大小，并且PU的大小可以指PU的亮度预测单元的大小。假设特定CU的大小为2N×2N，则视频编码器200可以支持2N×2N或N×N的PU大小用于帧内预测，以及2N×2N、2N×N、N×2N、N×N或类似的对称PU大小用于帧间预测。视频编码器200和视频解码器300还可以支持2N×nU、2N×nD、nL×2N和nR×2N的PU大小的非对称分割用于帧间预测。
在模式选择单元202没有进一步将CU分割成PU的示例中，每个CU可以与亮度编解码块和对应色度编解码块相关联。同上，CU的大小可以指CU的亮度编解码块的大小。视频编码器200和视频解码器300可以支持2N×2N、2N×N或N×2N的CU大小。
对于其他视频编解码技术，诸如帧内块复制模式编解码、仿射模式编解码和线性模型(LM)模式编解码，作为少数示例，模式选择单元202经由与编解码技术相关联的相应单元，生成对于正被编码的当前块的预测块。在一些示例中，诸如调色板模式编解码，模式选择单元202可以不生成预测块，而是生成指示按基于所选择的调色板来重构块的方式的语法元素。在这样的模式中，模式选择单元202可以将这些语法元素提供给熵编码单元220，以对其进行编码。
如上所述，残差生成单元204接收当前块和对应预测块的视频数据。然后，残差生成单元204生成对于当前块的残差块。为了生成残差块，残差生成单元204计算预测块与当前块之间的逐样点差。
变换处理单元206对残差块应用一个或多个变换，以生成变换系数的块(本文中被称为“变换系数块”)。变换处理单元206可以对残差块应用各种变换，以形成变换系数块。例如，变换处理单元206可以对残差块应用离散余弦变换(DCT)、方向变换、Karhunen-Loeve变换(KLT)或概念上类似的变换。在一些示例中，变换处理单元206可以对残差块执行多个变换，例如，主变换和二次变换，诸如旋转变换。在一些示例中，变换处理单元206不将变换应用于残差块。
量化单元208可以量化变换系数块中的变换系数，以产生经量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值来量化变换系数块的变换系数。视频编码器200(例如，经由模式选择单元202)可以通过调整与CU相关联的QP值来调整应用于与当前块相关联的变换系数块的量化程度。量化可能引入信息损失，并且因此，经量化的变换系数可能具有比由变换处理单元206产生的原始变换系数更低的精确度(precision)。
逆量化单元210和逆变换处理单元212可以对经量化的变换系数块分别应用逆量化和逆变换，以从变换系数块中重构残差块。重构单元214可以基于经重构的残差块和由模式选择单元202生成的预测块来产生与当前块相对应的经重构的块(尽管可能具有一定程度的失真)。例如，重构单元214可以将经重构的残差块的样点添加到来自由模式选择单元202生成的预测块的对应样点中，以产生经重构的块。
滤波器单元216可以对经重构的块执行一个或多个滤波操作。例如，滤波器单元216可以执行去块操作来减少沿CU边缘的块效应伪影。在一些示例中，可以跳过滤波器单元216的操作。
视频编码器200将重构块存储在DPB 218中。举例来说，在不需要滤波器单元216的操作的示例中，重构单元214可以将重构块存储到DPB 218。在需要滤波器单元216的操作的示例中，滤波器单元216可以将滤波后的重构块存储到DPB 218。运动估计单元222和运动补偿单元224可以从DPB 218中检索由重构(并且潜在地滤波的)块形成的参考图片，来对随后编码的图片的块进行帧间预测。此外，帧内预测单元226可以使用当前图片的DPB 218中的重构块来对当前图片中的其他块进行帧内预测。
通常，熵编码单元220可以对从视频编码器200的其他功能组件接收的语法元素进行熵编码。例如，熵编码单元220可以对来自量化单元208的量化的变换系数块进行熵编码。作为另一示例，熵编码单元220可以对来自模式选择单元202的预测语法元素(例如，用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一示例的语法元素执行一个或多个熵编码操作，以生成经熵编码的数据。例如，熵编码单元220可以对数据执行上下文自适应可变长度编解码(CAVLC)操作、CABAC操作、变量到变量(V2V)长度编解码操作、基于语法的上下文自适应二进制算术编解码(SBAC)操作、概率区间分割熵(PIPE)编解码操作、指数Golomb编解码操作或另一种类型的熵编码操作。在一些示例中，熵编码单元220可以在旁路模式下操作，在旁路模式下，语法元素未被熵编码。
视频编码器200可以输出包括重构条带或图片的块所需的经熵编码的语法元素的比特流。特别地，熵编码单元220可以输出比特流。
上述操作是针对块来描述的。这种描述应当被理解为用于亮度编解码块和/或色度编解码块的操作。如上所述，在一些示例中，亮度编解码块和色度编解码块是CU的亮度分量和色度分量。在一些示例中，亮度编解码块和色度编解码块是PU的亮度分量和色度分量。
在一些示例中，对于色度编解码块，不需要重复针对亮度编解码块执行的操作。作为一个示例，识别用于亮度编解码块的运动向量(MV)和参考图片的操作不需要重复以用于识别用于色度块的MV和参考图片。相反，用于亮度编解码块的MV可以被缩放以确定用于色度块的MV，并且参考图片可以是相同的。作为另一示例，对于亮度编解码块和色度编解码块，帧内预测过程可以是相同的。
视频编码器200表示被配置为对视频数据进行编码的设备的示例，其包括被配置为存储视频数据的存储器，以及在电路中实施且被配置为基于水平方向上的色度相移修改由当前图片的当前块的运动向量指向的色度位置的水平分量的一个或多个处理器。色度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片。一个或多个处理器还可以基于垂直方向上的色度相移来修改色度位置的垂直分量。此外，一个或多个处理器可以基于与修改后的色度位置相对应的参考图片的色度样点来生成对于当前块的预测块的色度样点。修改后的色度位置由色度位置的修改后的水平分量和垂直分量来定义。视频编码器200的一个或多个处理器可以基于对于当前块的预测块对当前块进行编码。
在一些示例中，视频编码器200表示视频编码设备的示例，该视频编码设备包括被配置为存储视频数据的存储器，以及在电路中实施且被配置为基于水平方向上的亮度相移来修改由当前图片的当前块指向的亮度位置的水平分量的一个或多个处理器。参考图片具有与当前图片不同的分辨率或不同的色度采样类型。该一个或多个处理器还可以基于垂直方向上的亮度相移来修改亮度位置的垂直分量。此外，该一个或多个处理器可以基于与修改后的亮度位置相对应的参考图片的亮度样点来生成对于当前块的预测块的亮度样点。修改后的亮度位置由亮度位置的修改后的水平分量和垂直分量来定义。视频编码器200的一个或多个处理器可以基于对于当前块的预测块对当前块进行编码。
图4是图示了可以执行本公开的技术的示例视频解码器300的框图。提供图4是出于解释的目的，而非限制本公开中广泛示例和描述的技术。为了解释的目的，本公开描述了根据VCC和HEVC的技术描述的视频解码器300。然而，本公开的技术可以由被配置为其他视频编解码标准的视频编解码设备来执行。
在图4的示例中，视频解码器300包括编码图片缓冲器(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和解码图片缓冲器(DPB)314。CPB存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和DPB 314中的任何一个或全部可以在一个或多个处理器或处理电路中实施。此外，视频解码器300可包括另外的或可替代的处理器或处理电路以执行这些和其他功能。
预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括另外的单元以根据其他预测模式来执行预测。作为示例，预测处理单元304可以包括调色板单元、帧内块复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其他示例中，视频解码器300可以包括更多、更少或不同的功能组件。
CPB存储器320可以存储要由视频解码器300的组件解码的视频数据，诸如经编码的视频比特流。例如，可以从计算机可读介质110(图1)获得存储在CPB存储器320中的视频数据。CPB存储器320可以包括存储来自经编码的视频比特流的经编码的视频数据(例如，语法元素)的CPB。而且，CPB存储器320可以存储除经编解码的图片的语法元素之外的视频数据，诸如表示来自视频解码器300的各种单元的输出的临时数据。DPB 314通常存储经解码的图片，视频解码器300可以在解码经编码的视频比特流的后续数据或图片时，输出该经解码的图片和/或将其用作参考视频数据。CPB存储器320和DPB 314可以由多种存储设备中的任何一种形成，诸如DRAM，包括SDRAM、MRAM、RRAM或其他类型的存储设备。CPB存储器320和DPB314可以由同一存储器设备或单独的存储器设备提供。在各种示例中，CPB存储器320可以与视频解码器300的其他组件置于片上，或者相对于那些组件置于片外。
另外地或可替代地，在一些示例中，视频解码器300可以从存储器120(图1)检索编解码视频数据。也就是说，存储器120可以如上文所讨论的用CPB存储器320来存储数据。同样，当视频解码器300的某些或全部功能在将由视频解码器300的处理电路执行的软件来实施时，存储器120可以存储将由视频解码器300执行的指令。
图4所示的各种单元被示出以帮助理解由视频解码器300执行的操作。这些单元可以被实施为固定功能电路、可编程电路或其组合。类似于图3，固定功能电路是指提供特定功能并且在可以执行的操作上预设的电路。可编程电路是指可以被编程来执行各种任务并且在能够执行的操作中提供灵活功能的电路。举例来说，可编程电路可以运行软件或固件，使可编程电路以由软件或固件的指令定义的方式操作。固定功能电路可以运行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不可变的。在一些示例中，单元中的一个或多个可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。
视频解码器300可以包括ALU、EFU、数字电路、模拟电路和/或由可编程电路形成的可编程核心。在视频解码器300的操作由在可编程电路上运行的软件来执行的示例中，片上或片外存储器可以存储视频解码器300接收和运行的软件的指令(例如，目标代码)。
熵解码单元302可以从CPB中接收经编码的视频数据，并对视频数据进行熵解码以重现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从比特流中提取的语法元素来生成经解码的视频数据。
通常，视频解码器300在逐块基础上重构图片。视频解码器300可以对每个块单独地执行重构操作(其中当前正被重构的块，即，经解码的块可以被称为“当前块”)。
熵解码单元302可以对定义经量化的变换系数块的经量化变换系数的语法元素以及变换信息(诸如量化参数(QP)和/或(多个)变换模式指示)进行熵解码。逆量化单元306可以使用与经量化的变换系数块相关联的QP来确定量化程度，并且同样地，确定供逆量化单元306应用的逆量化程度。逆量化单元306可以例如执行逐位左移操作来对经量化的变换系数进行逆量化。逆量化单元306由此可以形成包括变换系数的变换系数块。
在逆量化单元306形成变换系数块之后，逆变换处理单元308可以对变换系数块应用一个或多个逆变换，以生成与当前块相关联的残差块。例如，逆变换处理单元308可以将逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或另一逆变换应用于变换系数块。
此外，预测处理单元304根据由熵解码单元302进行熵解码的预测信息语法元素来生成预测块。例如，如果预测信息语法元素指示当前块是帧间预测的，则运动补偿单元316可以生成预测块。在这种情况下，预测信息语法元素可以指示从中检索参考块的DPB 314中的参考图片，以及识别参考图片中的参考块相对于当前图片中的当前块的位置的运动向量。运动补偿单元316通常可以以与针对运动补偿单元224(图3)所描述的方式基本上相似的方式来执行帧间预测过程。
作为另一示例，如果预测信息语法元素指示当前块是帧内预测的，则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式来生成预测块。再者，帧内预测单元318通常可以以与针对帧内预测单元226(图3)所描述的方式基本上相似的方式来执行帧内预测过程。帧内预测单元318可以从DPB 314中对当前块检索相邻样点的数据。
重构单元310可以使用预测块和残差块来重构当前块。例如，重构单元310可以将残差块的样点增加到预测块的对应样点来重构当前块。
滤波器单元312可以对经重构的块执行一个或多个滤波操作。例如，滤波器单元312可以执行去块操作来减少沿经重构块的边缘的块效应伪影。不一定在所有示例中都执行滤波器单元312的操作。
视频解码器300可以将经重构的块存储在DPB 314中。举例来说，在不执行滤波器单元312的操作的示例中，重构单元310可以将重构块存储到DPB 314。在执行滤波器单元312的操作的示例中，滤波器单元312可以将滤波后的重构块存储到DPB 314。如上所述，DPB314可以向预测处理单元304提供参考信息，诸如用于帧内预测的当前图片的样点和先前的用于后续运动补偿的经解码的图片。此外，视频解码器300可以输出来自DPB 314的经解码图片(例如，经解码视频)以供随后呈现于诸如图1的显示设备118等显示设备上。
以此方式，视频解码器300表示视频解码设备的示例，其包括被配置为存储视频数据的存储器，以及在电路中实施且被配置为基于水平方向上的色度相移来修改由视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量的一个或多个处理器单元，其中该色度位置位于具有与当前图片不同的分辨率或不同的色度采样类型的参考图片。该一个或多个处理器还可以基于垂直方向上的色度相移来修改色度位置的垂直分量。此外，一个或多个处理器可以基于与修改后的色度位置相对应的参考图片的色度样点来生成对于当前块的预测块的色度样点。修改后的色度位置由色度位置的修改后的水平分量和垂直分量来定义。视频解码器300的一个或多个处理器可以基于对于当前块的预测块来解码当前块。
在一些示例中，视频解码器300表示视频解码设备的示例，其包括被配置为存储视频数据存储器；以及在电路中实施且被配置为基于水平方向上的亮度相移来修改由当前图片的当前块指向的亮度位置的水平分量的一个或多个处理单元。参考图片具有与当前图片不同的分辨率或不同的色度采样类型。该一个或多个处理器还可以基于垂直方向上的亮度相移来修改亮度位置的垂直分量。此外，该一个或多个处理器可以基于与修改后的亮度位置相对应的参考图片的亮度样点来生成对于当前块的预测块的亮度样点。修改后的亮度位置由亮度位置的修改后的水平分量和垂直分量来定义。视频解码器300的一个或多个处理器可以基于对于当前块的预测块来解码当前块。
图5是图示了用于对当前块进行编码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和图3)进行描述，但应理解，其他设备可以被配置为执行类似于图5的方法。
在该示例中，视频编码器200最初预测当前块(350)。例如，视频编码器200可以形成对于当前块的预测块。根据本公开的一个或多个技术，在视频编码器200使用来自具有与当前图片不同的分辨率或色度采样类型的参考图片的帧间预测来预测当前块的示例中，视频编码器200可以基于水平方向上的色度相移来修改当前块的运动向量指向的色度位置的水平分量。色度位置位于可以具有与当前图片不同的分辨率或不同的色度采样类型的参考图片。另外，视频编码器200可以基于垂直方向上的色度相移来修改色度位置的垂直分量。视频编码器200还可以基于与修改后的色度位置相对应的参考图片的色度样点来生成对于当前图片的当前块的预测块的色度样点。修改后的色度位置由色度位置的修改后的水平分量和垂直分量来定义。
在一些示例中，视频编码器200可以基于水平方向上的亮度相移来修改当前图片的当前块指向的亮度位置的水平分量。参考图片可以具有与当前图片不同的分辨率或不同的色度采样类型。视频编码器200还可以基于垂直方向上的亮度相移来修改亮度位置的垂直分量。此外，视频编码器200可以基于与修改后的亮度位置相对应的参考图片的亮度样点来生成对于当前块的预测块的亮度样点。修改后的亮度位置由亮度位置的修改后的水平分量和垂直分量来定义。
视频编码器200然后可以计算对于当前块的残差块(352)。为了计算残差块，视频编码器200可以计算原始的、未经编码的块与对于当前块的预测块之间的差。视频编码器200然后可以对残差块的变换系数进行变换和量化(354)。接下来，视频编码器200可以扫描残差块的经量化的变换系数(356)。在扫描期间或在扫描之后，视频编码器200可以对变换系数进行熵编码(358)。例如，视频编码器200可以使用CAVLC或CABAC对变换系数进行编码。视频编码器200然后可以输出块的经熵编码的数据(360)。
图6是图示了用于对视频数据的当前块进行解码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和图4)进行描述，但应理解，其他设备可以被配置为执行类似于图6的方法。
视频解码器300可以接收当前块的经熵编码的数据，诸如与当前块相对应的残差块的变换系数的经熵编码的预测信息及经熵编码的数据(370)。视频解码器300可以对经熵编码的数据进行解码以确定用于当前块的预测信息并重现残差块的变换系数(372)。视频解码器300可以预测当前块(374)，例如，使用由当前块的预测信息所指示的帧内或帧间预测模式，以计算对于当前块的预测块。
根据本公开的一个或多个技术，在视频解码器300使用来自可以具有与当前图片不同的分辨率或色度采样类型的参考图片的帧间预测来预测当前块的示例中，视频解码器300可以基于水平方向上的色度相移来修改由当前块的运动向量指向的色度位置的水平分量。另外，视频解码器300可以基于垂直方向上的色度相移来修改色度位置的垂直分量。视频解码器300还可以基于与修改后的色度位置相对应的参考图片的色度样点来生成对于当前图片的当前块的预测块的色度样点。修改后的色度位置由色度位置的修改后的水平分量和垂直分量来定义。
在一些示例中，视频解码器300可以基于水平方向上的亮度相移来修改由当前图片的当前块指向的亮度位置的水平分量。参考图片可以具有与当前图片不同的分辨率或不同的色度采样类型。视频解码器300还可以基于垂直方向上的亮度相移来修改亮度位置的垂直分量。此外，视频解码器300可以基于与修改后的亮度位置相对应的参考图片的亮度样点来生成对于当前块的预测块的亮度样点。修改后的亮度位置由亮度位置的修改后的水平分量和垂直分量来定义。
然后，视频解码器300可以逆扫描所重现的变换系数(376)，以创建经量化的变换系数的块。视频解码器300然后可以对变换系数进行逆量化和逆变换，以产生残差块(378)。视频解码器300可以通过组合预测块和残差块来最终解码当前块(380)。
图7是图示了根据本公开的一个或多个技术的对视频数据进行编解码的示例性方法的流程图。图7的方法可以由诸如视频编码器200或视频解码器300等视频编解码器执行。
在图7的示例中，视频编解码器可以基于水平方向上的色度相移来修改由视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量(400)。此外，该视频编解码器可以基于垂直方向上的色度相移来修改色度位置的垂直分量(402)。在一些示例中，在参数集中信令通知水平方向上的色度相移和垂直方向上的色度相移。在一些示例中，视频编解码器可以在运动补偿过程期间修改色度位置的水平分量和垂直分量。
在该示例中，参考图片和当前图片具有不同的分辨率或色度采样类型/相移。举例来说，作为参考图片和当前图片具有不同的分辨率的示例，参考图片的色度样点可以根据4:2:0色度格式来格式化，并且当前图片的色度样点可以根据4:4:4色度格式来格式化。作为参考图片和当前图片具有色度采样类型的示例，参考图片的色度样点可为类型0，且当前图片的色度样点可为类型1。举例来说，在参数集中信令通知水平方向上的色度相移和垂直方向上的色度相移。
在一些示例中，为了修改运动向量的水平分量和运动向量的垂直分量，视频编解码器可以确定色度位置的初始水平分量。在表2的示例中，色度位置的初始水平分量可以等于(((xSb/SubWidthC<<5)+mvLX)*hori_scale_fp)。此外，视频编解码器可以基于水平方向上的色度相移来确定水平增加值(addition)(例如，addX)。视频编解码器然后可以通过将色度位置的初始水平分量与水平增加值相加来确定色度位置的修改后的水平分量(例如，refxC)。以此方式，视频编解码器可以有效地修改当前块的初始运动向量(mvLX)的水平分量以确定指示用于生成预测块的参考图片中的实际位置的运动向量的水平分量。类似地，为了修改色度位置的垂直分量，视频编解码器可以确定由运动向量指向的色度位置的初始垂直分量。在表2的示例中，色度位置的初始垂直分量可以等于(((ySb/SubHeightC<<5)+mvLX)*vert_scale_fp)。此外，视频编解码器可以基于垂直方向上的色度相移来确定垂直增加值(例如，addY)。视频编解码器可以通过将色度位置的初始垂直分量与垂直增加值相加来确定色度位置的修改后的垂直分量(例如，refyC)。以此方式，视频编解码器可以有效地修改当前块的初始运动向量(mvLX)的垂直分量以确定指示用于生成预测块的参考图片中的实际位置的运动向量的垂直分量。在一些示例中，为了设置水平增加值，视频编解码器可以将水平方向上的色度相移乘以等于水平缩放比率减去(1<<14)的值，且设置垂直增加值包括将垂直方向上的色度相移乘以等于垂直缩放比率减去(1<<14)的值(例如，如表3到表8的示例中所示)。
如先前段落中所描述，视频编解码器可以确定水平增加值(例如，addX)和垂直增加值(例如，addY)。在一些示例中，为了确定水平增加值，视频编解码器可以确定水平缩放比率是否等于1x比率、垂直缩放比率是否等于1x比率、色度格式指示符(例如，chroma_format_idc)是否指示参考图片为单色的，以及参考图片是否是使用4:4:4色度格式编解码。在这些示例中，基于水平缩放比率不等于1x比率且色度格式指示符指示参考图片不为单色且不使用4:4:4色度格式来编解码，该视频编解码器可以基于水平方向上的色度相移来设置水平增加值。类似地，基于垂直缩放比率不等于1x比率并且色度格式指示符指示参考图片不是单色的，参考图片不使用4:4:4色度格式来编解码并且参考图片不使用4:2:2色度格式来编解码，基于垂直方向上的色度相移来设置垂直增加值。因此，色度相移信息可以仅在应用重新采样时被考虑，即hori_scale_fp或vert_scale_fp不同于1x比率，且本公开的技术不应用于4:2:2格式的垂直滤波或不应用于4:4:4格式或单色格式的水平和垂直滤波两者。
另外，视频编解码器可以基于与由运动向量指示的参考图片中的位置相对应的参考图片的色度样点来生成对于当前图片的当前块的预测块的色度样点(404)。例如，视频编解码器可以将内插滤波器应用于参考图片的样点以内插由运动向量指示的位置的预测块的样点，并且类似地，内插具有相对于参考图片的样点的偏移的预测块的样点，该参考图片的样点与由运动向量指示的位置的偏移相对应。
视频编解码器可以基于对于当前块的预测块对当前块进行编解码(406)。举例来说，在视频编解码器为视频编码器(例如，视频编码器200)的示例中，编解码可以指代编码且编解码当前块可以包括基于对于当前块的预测块的色度样点与当前块的对应色度样点之间的差来生成当前块的色度残差样点。在视频编解码器为视频解码器(例如，视频解码器300)的示例中，编解码可以指代解码当前块且编解码当前块可以包括通过将对于当前块的预测块的色度样点与当前块的对应色度残差样点相加来重构当前块的色度样点。
以下是根据本公开的一种或多种技术的示例的非排他性列表：
示例1.一种对视频数据进行编解码的方法，该方法包括：基于水平方向上的色度相移来确定指示参考图片中的位置的运动向量的水平分量，其中该参考图片和当前图片具有不同的分辨率；基于垂直方向上的色度相移来确定该运动向量的垂直分量；基于与由该运动向量指示的参考图片中的位置相对应的该参考图片的色度样点来生成对于当前图片的当前块的预测块的色度样点；以及基于对于当前块的预测块对当前块进行编解码。
示例2.根据示例1的方法，其中，在参数集中信令通知水平方向上的色度相移和垂直方向上的色度相移。
示例3.根据示例1-2中的任一示例的方法，其中，编解码包括解码。
示例4.根据示例4的方法，其中，对该当前块进行编解码包括通过将对于当前块的预测块的色度样点与当前块的对应的色度残差样点相加来重构当前块的色度样点。
示例5.根据示例1-2中的任一示例的方法，其中，编解码包括编码。
示例6.根据示例5的方法，其中，对当前块进行编解码包括：基于对于当前块的预测块的色度样点与当前块的对应的色度样点之间的差来生成当前块的色度残差样点。
示例7.一种对视频数据进行编解码的方法，该方法包括：基于水平方向上的亮度相移来确定指示参考图片中的位置的运动向量的水平分量，其中该参考图片和当前图片具有不同的分辨率；基于垂直方向上的亮度相移来确定该运动向量的垂直分量；基于与由该运动向量指示的参考图片中的位置相对应的该参考图片的亮度样点来生成对于当前图片的当前块的预测块的亮度样点；以及基于对于当前块的预测块对当前块进行编解码。
示例8.根据示例7的方法，其中，在参数集中信令通知水平方向上的亮度相移和垂直方向上的亮度相移。
示例9.根据示例7-8中的任一示例的方法，其中，编解码包括解码。
示例10.根据示例9的方法，其中，对该当前块进行编解码包括通过将当前块的预测块的亮度样点与当前块的对应的亮度残差样点相加来重构当前块的亮度样点。
示例11.根据示例7-8中的任一示例的方法，其中，编解码包括编码。
示例12.根据示例11的方法，其中，对当前块进行编解码包括基于对于当前块的预测块的亮度样点与当前块的对应的亮度样点之间的差来生成当前块的亮度残差样点。
示例13.一种用于对视频数据进行编解码的设备，该设备包括用于执行示例1-12中的任一示例的方法的一个或多个部件。
示例14.根据示例13的设备，其中，一个或多个部件包括在电路中实施的一个或多个处理器。
示例15.根据示例13和14中的任一示例的设备，还包括用于存储视频数据的存储器。
示例16.根据示例13-15中的任一示例的设备，还包括被配置为显示经解码的视频数据的显示器。
示例17.根据示例13-16中的任一示例的设备，其中，该设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
示例18.根据示例13-17中的任一示例的设备，其中，该设备包括视频解码器。
示例19.根据示例13-18中的任一示例的设备，其中，该设备包括视频编码器。
示例20.一种计算机可读存储介质，其上存储有指令，该指令在被执行时使一个或多个处理器执行示例1-12的任一项的方法。
可以认识到的是，取决于示例，本文描述的技术中的任何一种的某些动作或事件可以按不同的顺序来执行，可以被添加、合并或一起省略(例如，并非所有所描述的动作或事件对于技术的实践都是必要的)。此外，在某些示例中，动作或事件可以同时执行，例如，通过多线程处理、中断处理或多个处理器，而非顺序执行。
在一个或多个示例中，所描述的功能可以以硬件、软件、固件或其任何组合来实施。如果以软件来实施，这些功能可以作为一个或多个指令或代码存储在计算机可读介质上或通过其发送一个或多个指令或代码并由基于硬件的处理单元执行。计算机可读介质可以包括与诸如数据存储介质的有形介质相对应的计算机可读存储介质，或包括例如根据通信协议促进将计算机程序从一个地方转移到另一个地方的任何介质的通信介质。以这种方式，计算机可读介质通常可以对应于(1)非暂时性的有形计算机可读存储介质，或者(2)诸如信号或载波之类的通信介质。数据存储介质可以是可由一个或多个计算机或一个或多个处理器访问以检索指令、代码和/或数据结构以用于实施本公开中描述的技术的任何可用介质。计算机程序产品可以包括计算机可读介质。
作为示例而非限制，这种计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储或其他磁性存储设备、闪存或可以用于以指令或数据结构形式存储所需程序代码并且可以由计算机访问的任何其他介质。并且，任何连接都被恰当地称作计算机可读介质。例如，如果指令是使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或无线技术(诸如红外线、无线电以及微波)从网站、服务器或其他远程源发送的，则同轴电缆、光纤电缆、双绞线、DSL或无线技术(诸如红外线、无线电以及微波)都被包括在介质的定义中。然而，应当理解，计算机可读存储介质和数据存储介质不包括连接、载波、信号或其他暂时性介质，而是指向非暂时性有形存储介质。如本文所使用的磁盘和光盘包括压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软盘和蓝光光盘，其中，磁盘通常以磁性方式重现数据，而光盘用激光光学地重现数据。上述的组合也应包括在计算机可读介质的范围内。
指令可以由一个或多个处理器执行，诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其他等效集成的或分立逻辑电路。因此，如本文中所使用的术语“处理器”和“处理电路”可以指前述结构中的任一者或适于实施本文中所描述的技术的任何其他结构。另外，在一些方面，本文描述的功能性可以在被配置为用于编码和解码的专用硬件和/或软件模块中提供，或者被结合在组合编码解码器中。同样，这些技术可以在一个或多个电路或逻辑元件中完全实现。
本公开的技术可以在很多种设备或装置中实施，包括无线手机、集成电路(IC)或IC集(例如，芯片集)。在本公开中描述了各种组件、模块或单元，以强调被配置为执行所公开的技术的设备的各功能方面，但是不一定要求通过不同的硬件单元来实现。相反，如上所述，各种单元可以被组合在编码解码器硬件单元中，或者由包括如上所述的一个或多个处理器的互操作硬件单元的集合，结合合适的软件和/或固件来提供。
已经描述了各种示例。这些和其他示例在所附权利要求的范围内。

Claims (23)

1.一种对视频数据进行编解码的方法，所述方法包括：
基于水平方向上的色度相移来修改由所述视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量，其中，所述色度位置位于具有与所述当前图片不同的分辨率或不同的色度采样类型的参考图片中；
基于垂直方向上的色度相移来修改所述色度位置的垂直分量；
基于与修改后的色度位置相对应的所述参考图片的色度样点来生成对于所述当前块的预测块的色度样点，其中，所述修改后的色度位置由所述色度位置的修改后的水平分量和垂直分量来定义；以及
基于对于所述当前块的预测块对所述当前块进行编解码。
2.根据权利要求1所述的方法，其中，在参数集中信令通知所述水平方向上的色度相移和所述垂直方向上的色度相移。
3.根据权利要求1所述的方法，其中：
修改所述色度位置的水平分量包括：
确定所述色度位置的初始水平分量；
基于所述水平方向上的色度相移来确定水平增加值；以及
通过将所述色度位置的初始水平分量与所述水平增加值相加来确定所述色度位置的修改后的水平分量，以及
修改所述色度位置的垂直分量包括：
确定所述色度位置的初始垂直分量；
基于所述垂直方向上的色度相移来确定垂直增加值；以及
通过将所述色度位置的初始垂直分量与所述垂直增加值相加来确定所述色度位置的修改后的垂直分量。
4.根据权利要求3所述的方法，其中：
确定所述水平增加值包括：
基于水平缩放比率不等于1x比率和色度格式指示符指示所述参考图片不是单色的并且不是使用4:4:4色度格式来编解码的，基于所述水平方向上的色度相移来设置所述水平增加值，以及
确定所述垂直增加值包括：
基于垂直缩放比率不等于1x比率和所述色度格式指示符指示所述参考图片不是单色的，所述参考图片不是使用4:4:4色度格式来编解码的，并且所述参考图片不是使用4:2:2色度格式来编解码的，基于所述垂直方向上的色度相移来设置所述垂直增加值。
5.根据权利要求4所述的方法，其中：
设置所述水平增加值包括：将所述水平方向上的色度相移乘以等于所述水平缩放比率减去(1<<14)的值，以及
设置所述垂直增加值包括：将所述垂直方向上的色度相移乘以等于所述垂直缩放比率减去(1<<14)的值。
6.根据权利要求1所述的方法，其中，编解码包括解码。
7.根据权利要求6所述的方法，其中，对所述当前块进行编解码包括：通过将对于所述当前块的预测块的色度样点与所述当前块的对应的色度残差样点相加来重构所述当前块的色度样点。
8.根据权利要求1所述的方法，其中，编解码包括编码。
9.根据权利要求8所述的方法，其中，对所述当前块进行编解码包括：基于对于所述当前块的预测块的色度样点与所述当前块的对应的色度样点之间的差来生成所述当前块的色度残差样点。
10.根据权利要求1所述的方法，其中，
修改所述色度位置的水平分量包括：在所述运动补偿过程期间修改所述色度位置的水平分量，以及
修改所述色度位置的垂直分量包括：在所述运动补偿过程期间修改所述色度位置的垂直分量。
11.一种用于对视频数据进行编解码的设备，所述设备包括：
存储器，被配置为存储所述视频数据；以及
在电路中实施的一个或多个处理器，所述一个或多个处理器被配置为：
基于水平方向上的色度相移来修改由所述视频数据的当前图片的当前块的运动向量指向的色度位置的水平分量，其中，所述色度位置位于在参考图片中，其中，所述色度位置位于具有与所述当前图片不同的分辨率或不同的色度采样类型的参考图片中；
基于垂直方向上的色度相移来修改所述色度位置的垂直分量；
基于与修改后的色度位置相对应的参考图片的色度样点来生成对于所述当前块的预测块的色度样点，其中，所述修改后的色度位置由所述色度位置的修改后的水平分量和垂直分量来定义；以及
基于对于所述当前块的预测块对所述当前块进行编解码。
12.根据权利要求11所述的设备，其中，在参数集中信令通知所述水平方向上的色度相移和所述垂直方向上的色度相移。
13.根据权利要求11所述的设备，其中：
所述一个或多个处理器被配置为使得作为修改所述色度位置的水平分量的一部分，所述一个或多个处理器：
确定由所述运动向量指向的所述色度位置的初始水平分量；
基于所述水平方向上的色度相移来确定水平增加值；以及
通过将所述色度位置的初始水平分量与所述水平增加值相加来确定所述色度位置的修改后的水平分量，以及
所述一个或多个处理器被配置为使得作为修改所述色度位置的垂直分量的一部分，所述一个或多个处理器：
确定所述色度位置的初始垂直分量；
基于所述垂直方向上的色度相移来确定垂直增加值；以及
通过将所述色度位置的初始垂直分量与所述垂直增加值相加来确定所述色度位置的修改后的垂直分量。
14.根据权利要求13所述的设备，其中：
所述一个或多个处理器被配置为使得作为确定所述水平增加值的一部分，所述一个或多个处理器：
基于水平缩放比率不等于1x比率和色度格式指示符指示所述参考图片不是单色的并且不是使用4:4:4色度格式来编解码的，基于所述水平方向上的色度相移来设置所述水平增加值，以及
所述一个或多个处理器被配置为使得作为确定所述垂直增加值的一部分，所述一个或多个处理器：
基于垂直缩放比率不等于1x比率和所述色度格式指示符指示所述参考图片不是单色的，所述参考图片不是使用4:4:4色度格式来编解码的，并且所述参考图片不是使用4:2:2色度格式来编解码的，基于所述垂直方向上的色度相移来设置所述垂直增加值。
15.根据权利要求14所述的设备，其中：
所述一个或多个处理器被配置为使得作为设置水平增加值的一部分，所述一个或多个处理器将水平方向上的色度相移乘以等于水平缩放比率减去(1<<14)的值，以及
所述一个或多个处理器被配置为使得作为设置所述垂直增加值的一部分，所述一个或多个处理器将所述垂直方向上的色度相移乘以等于所述垂直缩放比率减去(1<<14)的值。
16.根据权利要求11所述的设备，其中，所述设备包括视频解码器。
17.根据权利要求16所述的设备，其中，所述视频解码器被配置为使得作为对所述当前块进行编解码的一部分，所述视频解码器通过将对于所述当前块的预测块的色度样点与所述当前块的对应的色度残差样点相加来重构所述当前块的色度样点。
18.根据权利要求11所述的设备，其中，所述设备包括视频编码器。
19.根据权利要求18所述的设备，其中，所述视频编码器被配置为使得作为对所述当前块进行编解码的一部分，所述视频编码器基于对于所述当前块的预测块的色度样点与所述当前块的对应的色度样点之间的差来生成所述当前块的色度残差样点。
20.根据权利要求11所述的设备，还包括显示器，所述显示器被配置为显示经解码的视频数据。
21.根据权利要求11所述的设备，其中，所述设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
22.根据权利要求11所述的设备，其中：
所述一个或多个处理器被配置为在运动补偿过程期间修改所述色度位置的水平分量，以及
所述一个或多个处理器被配置为在所述运动补偿过程期间修改所述色度位置的垂直分量。
23.一种计算机可读存储介质，其上存储有指令，所述指令在被执行时使得一个或多个处理器：
基于水平方向上的色度相移来修改由所述视频数据的当前图片的当前块的运动向量的色度位置的水平分量，其中，所述色度位置位于具有与所述当前图片不同的分辨率或不同的色度采样类型的参考图片中；
基于垂直方向上的色度相移来修改所述运动向量的垂直分量；
基于与由所述运动向量指示的所述参考图片中的位置相对应的参考图片的色度样点来生成对于所述当前图片的当前块的预测块的色度样点；以及
基于对于所述当前块的预测块对所述当前块进行编解码。
CN202080062677.1A 2019-09-18 2020-09-11 基于缩放比率和色度采样类型的色度的子像素运动向量校正 Active CN114342385B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962902271P 2019-09-18 2019-09-18
US62/902,271 2019-09-18
US17/017,278 2020-09-10
US17/017,278 US11303909B2 (en) 2019-09-18 2020-09-10 Scaling ratio and output full resolution picture in video coding
PCT/US2020/050310 WO2021055242A1 (en) 2019-09-18 2020-09-11 Subpixel motion vector correction for chroma based on scaling ration and chroma sampling type

Publications (2)

Publication Number Publication Date
CN114342385A true CN114342385A (zh) 2022-04-12
CN114342385B CN114342385B (zh) 2024-09-24

Family

ID=74869959

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080062677.1A Active CN114342385B (zh) 2019-09-18 2020-09-11 基于缩放比率和色度采样类型的色度的子像素运动向量校正

Country Status (6)

Country Link
US (1) US11303909B2 (zh)
EP (1) EP4032266A1 (zh)
KR (1) KR20220065766A (zh)
CN (1) CN114342385B (zh)
TW (1) TW202114424A (zh)
WO (1) WO2021055242A1 (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2022002916A (es) * 2019-09-19 2022-04-06 Beijing Bytedance Network Tech Co Ltd Derivacion de posiciones de muestra de referencia en codificacion de video.
EP4018659A4 (en) 2019-09-19 2022-11-30 Beijing Bytedance Network Technology Co., Ltd. SCALE WINDOW IN VIDEO CODING
US11336894B2 (en) * 2019-09-20 2022-05-17 Tencent America LLC Signaling of reference picture resampling with resampling picture size indication in video bitstream
KR20220070437A (ko) 2019-10-05 2022-05-31 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩 툴의 레벨 기반 시그널링
CN114556918A (zh) 2019-10-12 2022-05-27 北京字节跳动网络技术有限公司 细化视频编解码工具的使用和信令
MX2022004200A (es) 2019-10-13 2022-05-02 Beijing Bytedance Network Tech Co Ltd Interaccion entre remuestreo de imagen de referencia y herramientas de codificacion de video.
WO2021129866A1 (en) 2019-12-27 2021-07-01 Beijing Bytedance Network Technology Co., Ltd. Signaling of slice types in video pictures headers
WO2023110437A1 (en) * 2021-12-15 2023-06-22 Interdigital Vc Holdings France, Sas Chroma format adaptation

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140133551A1 (en) * 2011-06-28 2014-05-15 Samsung Electronics Co., Ltd. Method for image interpolation using asymmetric interpolation filter and apparatus therefor
US20150201204A1 (en) * 2014-01-16 2015-07-16 Qualcomm Incorporated Reference layer sample position derivation for scalable video coding
US20150341661A1 (en) * 2013-01-04 2015-11-26 Samsung Electronics Co., Ltd. Scalable video encoding method and apparatus using image up-sampling in consideration of phase-shift and scalable video decoding method and apparatus
CN105230018A (zh) * 2013-05-24 2016-01-06 株式会社Kt 用于对支持多个层的视频进行编码的方法和设备
CN105359532A (zh) * 2013-07-12 2016-02-24 高通股份有限公司 帧内运动补偿延伸
CN106464890A (zh) * 2014-03-14 2017-02-22 三星电子株式会社 可伸缩视频编码/解码方法和设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140133551A1 (en) * 2011-06-28 2014-05-15 Samsung Electronics Co., Ltd. Method for image interpolation using asymmetric interpolation filter and apparatus therefor
US20150341661A1 (en) * 2013-01-04 2015-11-26 Samsung Electronics Co., Ltd. Scalable video encoding method and apparatus using image up-sampling in consideration of phase-shift and scalable video decoding method and apparatus
CN105230018A (zh) * 2013-05-24 2016-01-06 株式会社Kt 用于对支持多个层的视频进行编码的方法和设备
CN105359532A (zh) * 2013-07-12 2016-02-24 高通股份有限公司 帧内运动补偿延伸
US20150201204A1 (en) * 2014-01-16 2015-07-16 Qualcomm Incorporated Reference layer sample position derivation for scalable video coding
CN105900431A (zh) * 2014-01-16 2016-08-24 高通股份有限公司 用于可缩放视频译码的参考层样本位置导出
CN106464890A (zh) * 2014-03-14 2017-02-22 三星电子株式会社 可伸缩视频编码/解码方法和设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
BENJAMIN BROSS ET AL.: "Versatile Video Coding (Draft 6)", JOINT VIDEO EXPERTS TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11 15TH MEETING: GOTHENBURG, SE, 3–12 JULY 2019 *

Also Published As

Publication number Publication date
TW202114424A (zh) 2021-04-01
CN114342385B (zh) 2024-09-24
WO2021055242A1 (en) 2021-03-25
KR20220065766A (ko) 2022-05-20
US11303909B2 (en) 2022-04-12
US20210084311A1 (en) 2021-03-18
EP4032266A1 (en) 2022-07-27

Similar Documents

Publication Publication Date Title
US11831875B2 (en) Position-dependent intra-inter prediction combination in video coding
US11303909B2 (en) Scaling ratio and output full resolution picture in video coding
US11632563B2 (en) Motion vector derivation in video coding
CN113508589A (zh) 视频译码中的组合残差译码
US11425420B2 (en) Wraparound offsets for reference picture resampling in video coding
CN113557723B (zh) 使用不同的色度格式的三角预测单元模式中的视频译码
CN114342389A (zh) 视频编解码和变换单元的以高层语法信令通知的最大和最小块大小
US11277611B2 (en) Delta quantization parameter (QP) signaling in palette mode
US11418793B2 (en) Adaptive affine motion vector coding
US11589037B2 (en) Motion compensation using size of reference picture
CN112913245A (zh) 视频译码中的块内复制预测限制
CN112771860A (zh) 针对视频译码中最差情况的带宽减少的仿射限制
CN114830667A (zh) 视频编解码中用于参考图片重采样的参考图片缩放比例
CN114846801A (zh) 基于色度变换跳过的用于色度的lfnst信令
US10779006B2 (en) Signaling 360-degree video information
US20220321918A1 (en) Picture orientation and quality metrics supplemental enhancement information message for video coding
CN113170163A (zh) 用于视频译码中最坏情况下带宽减少的限制
US20240196006A1 (en) Minimum process grid for inter-prediction-related video coding processes
US20240129458A1 (en) Techniques for subsampling for cross component prediction in video coding
TW202123697A (zh) 在用於視訊寫碼之較高語法層級處經信令傳輸之恆定圖塊標頭參數

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant