CN112913234A

CN112913234A - 广角帧内预测平滑与插值

Info

Publication number: CN112913234A
Application number: CN201980068988.6A
Authority: CN
Inventors: G.范德奥韦拉; A.K.拉马苏布拉莫尼安; M.卡尔切维茨
Original assignee: Qualcomm Inc
Current assignee: Qualcomm Inc
Priority date: 2018-10-25
Filing date: 2019-10-25
Publication date: 2021-06-04
Also published as: BR112021006798A2; US20200137381A1; CL2021001015A1; EP3871412C0; EP3871412A1; EP3871412B1; WO2020086985A1; TW202031041A; US11303885B2; PL3871412T3; SG11202102458YA

Abstract

一种用于解码视频数据的设备，可以被配置为：确定视频数据块的尺寸，其中视频数据块包括矩形、非正方形块；确定视频数据块的帧内预测模式；在视频数据块的临近块中定位对应于所确定的帧内预测模式的参考样点；响应于视频数据块的帧内预测模式是广角帧内预测模式并且对应于块的对角线方向，对参考样点进行滤波以确定滤波后的参考样点；从滤波后的参考样点生成视频数据块的预测块；从预测块确定视频数据块的解码版本；以及输出视频数据块的解码版本。

Description

广角帧内预测平滑与插值

交叉引用

本申请要求以下申请的优先权：

于2019年10月24日提交的美国申请No.16/663,193，该申请要求以下申请的权益：

于2018年10月25日提交的美国临时申请62/750749；以及

于2019年6月24日提交的美国临时申请62/865872，

通过引用将每一个申请的全部内容并入本文。

技术领域

本公开涉及视频编码和视频解码。

背景技术

数字视频功能可以集成到各种设备中，包括数字电视、数字直播系统、无线广播系统、个人数字助理(PDA)、膝上型或台式计算机、平板计算机、电子书阅读器、数码相机、数字录音设备、数字媒体播放器、视频游戏设备、视频游戏机、蜂窝或卫星无线电话、所谓的“智能电话”、视频电话会议设备、视频流设备等。数字视频设备实施视频编解码(code)技术，例如那些在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4、第10部分、高级视频编解码(AVC)、高效视频编解码(HEVC)标准、ITU-T H.265/高效视频编解码(HEVC)所定义的标准以及此类标准的扩展中所描述的技术。视频设备可以通过实施此类视频编解码技术来更高效地发送、接收、编码(encode)、解码(decode)和/或存储数字视频信息。

视频编解码技术包括空域(图片内)预测和/或时域(图片间)预测来减少或消除视频序列中内在的冗余。对于基于块的视频编解码，视频条带(例如，视频图片或视频图片的一部分)可被分割成视频块，其也可称为编码树单元(CTU)、编码单元(CU)和/或编码节点。对于图片的帧内编解码(I)条带中的视频块，使用相对于同一图片中临近块中的参考样点的空域预测进行编码。对于图片的帧间编解码(P或B)条带中的视频块，可以使用相对于同一图片中临近块中的参考样点的空域预测或者相对于其它参考图片中的参考样点的时域预测。图片可以被称为帧，并且参考图片可以被称为参考帧。

发明内容

通常，本公开描述了用于编码和解码视频数据的技术。具体地，本公开描述了用于使用广角帧内预测对视频数据进行编码和解码的示例技术。本公开的技术通过配置视频编码器和解码器以在滤波(例如，帧内平滑滤波)有利的更多编解码场景中执行这种滤波，潜在地改进视频编解码质量。

根据一个示例，一种解码视频数据的方法包括：确定视频数据块的尺寸，其中视频数据块包括矩形、非正方形块；确定视频数据块的帧内预测模式；在视频数据块的临近块中定位对应于所确定的帧内预测模式的参考样点；响应于视频数据块的帧内预测模式是广角帧内预测模式并且对应于该块的对角线方向，对参考样点进行滤波以确定滤波后的参考样点；从滤波后的参考样点生成视频数据块的预测块；从预测块确定视频数据块的解码版本；以及输出视频数据块的解码版本。

根据另一示例，一种用于解码视频数据的设备包括：用于存储视频数据的存储器；和一个或多个处理器，该一个或多个处理器被配置为：确定视频数据块的尺寸，其中视频数据块包括矩形、非正方形块；确定视频数据块的帧内预测模式；在视频数据块的临近块中定位对应于所确定的帧内预测模式的参考样点；响应于视频数据块的帧内预测模式是广角帧内预测模式并且对应于该块的对角线方向，对参考样点进行滤波以确定滤波后的参考样点；从滤波后的参考样点生成视频数据块的预测块；从预测块确定视频数据块的解码版本；以及输出视频数据块的解码版本。

一种存储指令的计算机可读存储介质，当该指令由一个或多个处理器执行时使得使该一个或多个处理器执行以下操作：确定视频数据块的尺寸，其中视频数据块包括矩形、非正方形块；确定视频数据块的帧内预测模式；在视频数据块的临近块中定位对应于所确定的帧内预测模式的参考样点；响应于视频数据块的帧内预测模式是广角帧内预测模式并且对应于该块的对角线方向，对参考样点进行滤波以确定滤波后的参考样点；从滤波后的参考样点生成视频数据块的预测块；从预测块确定视频数据块的解码版本；以及输出视频数据块的解码版本。

根据另一示例，一种用于解码视频数据的装置包括：用于确定视频数据块的尺寸的部件，其中视频数据块包括矩形、非正方形块；用于确定视频数据块的帧内预测模式的部件；用于在视频数据块的临近块中定位对应于所确定的帧内预测模式的参考样点的部件；用于响应于视频数据块的帧内预测模式是广角帧内预测模式并且对应于该块的对角线方向，对参考样点进行滤波以确定滤波后的参考样点的部件；用于从滤波后的参考样点生成视频数据块的预测块的部件；用于从预测块确定视频数据块的解码版本的部件；以及用于输出视频数据块的解码版本的部件。

一个或多个示例的细节在附图和下面的描述中阐述。其它特征、对象和优点将从说明书、附图和权利要求书中显而易见。

附图说明

图1是示出可以执行本公开的技术的示例视频编码和解码系统的框图。

图2A和图2B是示出示例四叉树二叉树(QTBT)结构和对应的编码树单元(CTU)的概念图。

图3示出了帧内预测的方向的示例，其中箭头指向参考样点。

图4示出了8x4矩形块的示例，其中“较近的”参考样点不用于帧内预测，但是可以使用较远的参考样点。

图5A-图5C示出了对角线方向范围以外的模式的模式映射处理的示例。

图6是用于帧内预测的广角的图示。

图7是用于帧内预测的广角的图示。

图8是示出可以执行本公开的技术的示例视频编码器的框图。

图9是示出可以执行本公开的技术的示例视频解码器的框图。

图10是示出用于对视频数据的当前块进行编码的示例处理的流程图。

图11是示出用于对视频数据的当前块进行解码的示例处理的流程图。

图12是示出用于对视频数据的当前块进行解码的示例处理的流程图。

具体实施方式

各种视频编码标准，包括最近开发的高效视频编解码(HEVC)标准和目前正在开发的通用视频编解码(VVC)标准，包括用于视频块的预测编解码模式，其中当前正在编解码(即，编码或解码)的块基于已经编解码视频数据块来预测。在帧内预测模式中，基于与当前块在相同图片中的一个或多个先前编解码的临近块来预测当前块，而在帧间预测模式中，基于不同图片中已经编解码的块来预测当前块。在帧间预测模式中，确定要用作预测块的先前编解码帧的块的过程有时被称为运动估计，其通常由视频编码器执行，并且识别和检索预测块的过程有时被称为运动补偿，其由视频编码器和视频解码器二者执行。

为了使用帧内预测来生成预测块，视频编解码器(即，视频编码器或视频解码器)可以基于参考样点集合来确定预测块的样点的值。参考样点集合可以包括当前图片的在当前块的左侧的列中的样点和当前图片的在当前块的上方的行中的样点。视频编解码器根据预测块的帧内预测模式，使用参考样点以不同方式确定预测块的样点的值。帧内预测的早期实施方式仅使用紧邻正被编解码的块的样点的行或列。然而，帧内预测的较新实施方式可以利用多条参考线，并且另外或者可选地，还可以使用与正被编解码的块不直接相邻的线。

本公开描述了用于使用帧内预测对视频数据块进行编解码的技术，并且更具体地，本公开描述了用于改进广角帧内预测的若干技术。本公开的技术通过配置视频编码器和解码器以在滤波(例如，帧内平滑滤波)有利的更多编解码场景中执行这种滤波，潜在地改进视频编解码质量。

当在本公开中使用时，术语视频编解码一般指视频编码或视频解码。类似地，术语视频编解码器可以泛指视频编码器或视频解码器。此外，本公开中描述的关于视频解码的某些技术也可以应用于视频编码，反之亦然。例如，通常情况下，视频编码器和视频解码器被配置为执行相同的过程或相反的过程。另外，视频编码器通常执行视频解码，作为确定如何编码视频数据的过程的一部分。因此，除非相反地说明，否则不应假设关于视频解码描述的技术不能作为视频编码的一部分来执行，反之亦然。

本公开还可以使用诸如当前层、当前块、当前图片、当前条带等的术语。在本公开的上下文中，术语“当前”旨在识别当前正在编解码的块、图片、条带等，而不是例如先前或已经编解码的块、图片、以及条带或尚未编解码的块、图片和条带。

图1是示出可以执行本公开的技术的示例视频编码和解码系统100的框图。本公开的技术通常针对视频数据的编解码(编码和/或解码)。通常，视频数据包括用于处理视频的任何数据。因此，视频数据可以包括原始的、未编码的视频、编码的视频、解码的(例如，重构的)视频和视频元数据，例如信令数据。

如图1所示，在本示例中，系统100包括提供要由目标设备116进行解码和显示的编码视频数据的源设备102。具体地，源设备102经由计算机可读介质110向目标设备116提供视频数据。源设备102和目标设备116可以包括多种设备中的任何一种，包括台式计算机、笔记本(即，膝上型)计算机、平板计算机、机顶盒、诸如智能手机的电话手持设备、电视、照相机、显示设备、数字媒体播放器、视频游戏控制台、视频流设备等。在一些情况下，源设备102和目标设备116可以被装备用于无线通信，因此可以被称为无线通信设备。

在图1的示例中，源设备102包括视频源104、存储器106、视频编码器200和输出接口108。目标设备116包括输入接口122、视频解码器300、存储器120和显示设备118。根据本公开，源设备102的视频编码器200和目标设备116的视频解码器300可以被配置为应用本公开中描述的用于广角帧内预测平滑和插值的技术。因此，源设备102表示视频编码设备的示例，而目标设备116表示视频解码设备的示例。在其它示例中，源设备和目标设备可以包括其它组件或布置。例如，源设备102可以从外部视频源(例如外部照相机)接收视频数据。类似地，目标设备116可以与外部显示设备接口，而不是包括集成的显示设备。

如图1所示的系统100仅仅是一个示例。通常，任何数字视频编码和/或解码设备都可以执行用于广角帧内预测平滑和插值的技术。源设备102和目标设备116仅仅是这样的编解码设备的示例，其中源设备102生成用于发送到目标设备116的编解码视频数据。本公开将“编解码”设备称为执行数据编解码(编码和/或解码)的设备。因此，视频编码器200和视频解码器300分别表示编解码设备的示例，具体地，视频编码器和视频解码器。在一些示例中，源设备102和目标设备116可以以基本对称的方式操作，使得源设备102和目标设备116中的每一个包括视频编码和解码组件。因此，系统100可以支持源设备102和目标设备116之间的单向或双向视频传输，例如，用于视频流式传输、视频回放、视频广播或视频电话。

通常，视频源104表示视频数据的源(即，原始的、未编码视频数据)，并向视频编码器200提供视频数据的连续图片序列(也被称为“帧”)，视频编码器200对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备，例如摄像机、包含先前捕获的原始视频的视频存档和/或从视频内容提供商接收视频的视频馈送接口。作为另一可选方案，视频源104可以生成基于计算机图形的数据作为源视频，或者生成实时视频、存档视频和计算机生成的视频的组合。在每种情况下，视频编码器200对捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从接收到的顺序(有时称为“显示顺序”)重新排列成编解码顺序以进行编解码。视频编码器200可以生成包括编码视频数据的比特流。源设备102然后可经由输出接口108将编码视频数据输出到计算机可读介质110上，以供例如目标设备116的输入接口122接收和/或检索。

源设备102的存储器106和目标设备116的存储器120表示通用存储器。在一些示例中，存储器106、120可以存储原始视频数据，例如，来自视频源104的原始视频和来自视频解码器300的原始的解码视频数据。附加地或可选地，存储器106、120可以存储可分别由例如视频编码器200和视频解码器300执行的软件指令。尽管在本示例中，存储器106和存储器120与视频编码器200和视频解码器300分开示出，但是应当理解，视频编码器200和视频解码器300还可以包括功能相似或等效目的的内部存储器。此外，存储器106、120可以存储编码视频数据，例如，从视频编码器200输出并输入到视频解码器300的编码视频数据。在一些示例中，存储器106、120的部分可以被分配为一个或多个视频缓冲器，例如用于存储原始的、解码和/或编码视频数据。

计算机可读介质110可以表示能够将编码视频数据从源设备102发送到目标设备116的任何类型的介质或设备。在一个示例中，计算机可读介质110表示使源设备102能够例如经由射频网络或基于计算机的网络实时地将编码视频数据直接发送到目标设备116的通信介质。输出接口108可以根据诸如无线通信协议的通信标准调制包括编码视频数据的发送信号，并且输入接口122可以根据诸如无线通信协议的通信标准解调所接收的发送信号。通信介质可以包括任何无线或有线通信介质，例如射频(RF)频谱或一条或多条物理传输线。通信介质可以形成基于分组的网络的一部分，例如局域网、广域网或诸如互联网的全球网络。通信介质可包括路由器、交换机、基站或可用于促进从源设备102到目标设备116的通信的任何其它设备。

在一些示例中，源设备102可以将编码数据从输出接口108输出到存储设备112。类似地，目标设备116可以经由输入接口122从存储设备112访问编码数据。存储设备112可以包括各种分布式或本地访问的数据存储介质中的任何一种，例如硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器，或者用于存储编码视频数据的任何其它合适的数字存储介质。

在一些示例中，源设备102可将编码视频数据输出到文件服务器114或可以存储由源设备102生成的编码视频的另一中间存储设备。目标设备116可以经由流式传输或下载从文件服务器114访问存储的视频数据。文件服务器114可以是能够存储编码视频数据并将该编码视频数据发送到目标设备116的任何类型的服务器设备。文件服务器114可以表示web服务器(例如，对于网站)、文件传输协议(FTP)服务器、内容递送网络设备或网络附加存储(NAS)设备。目标设备116可以通过包括互联网连接的任何标准数据连接来访问来自文件服务器114的编码视频数据。这可以包括无线信道(例如，Wi-Fi连接)、有线连接(例如，数字用户线(DSL)、电缆调制解调器等)或两者的组合，其适于访问存储在文件服务器114上的编码视频数据。文件服务器114和输入接口122可以被配置为根据流传输协议、下载传输协议或其组合来操作。

输出接口108和输入接口122可以表示无线发送器/接收器、调制解调器、有线网络组件(例如，以太网卡)、根据各种IEEE 802.11标准中的任何一种进行操作的无线通信组件或其它物理组件。在输出接口108和输入接口122包括无线组件的示例中，输出接口108和输入接口122可以被配置为根据蜂窝通信标准(例如4G、4G-LTE(长期演进)、LTE高级、5G等)传输数据，例如编码视频数据。在输出接口108包括无线发送器的一些示例中，输出接口108和输入接口122可以被配置为根据其它无线标准(例如IEEE 802.11规范、IEEE 802.15规范(例如ZigBee^TM)、蓝牙^TM标准等)传输数据，例如编码视频数据。在一些示例中，源设备102和/或目标设备116可以包括相应的片上系统(SoC)设备。例如，源设备102可以包括用于执行归于视频编码器200和/或输出接口108的功能的SoC设备，并且目标设备116可以包括用于执行归于视频解码器300和/或输入接口122的功能的SoC设备。

本公开的技术可应用于支持各种多媒体应用中的任何一种的视频编解码，例如空中电视广播、有线电视传输、卫星电视传输、互联网流视频传输，例如HTTP上的动态自适应流式传输(DASH)，编码到数据存储介质上的数字视频、对存储在数据存储介质上的数字视频的解码或其它应用。

目的设备116的输入接口122从计算机可读介质110(例如，通信介质、存储设备112、文件服务器114等)接收编码视频比特流。编码视频比特流可以包括由视频编码器200定义的信令信息，其也由视频解码器300使用，例如具有描述视频块或其它编解码单元(例如，条带、图片、图片组、序列等)的特性和/或处理的值的语法元素。显示设备118向用户显示解码视频数据的解码图片。显示设备118可以表示各种显示设备中的任何一种，例如阴极射线管(CRT)、液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器或其他类型的显示设备。

尽管在图1中未示出，但在一些示例中，视频编码器200和视频解码器300可以各自与音频编码器和/或音频解码器集成，并且可以包括适当的MUX-DEMUX单元或其它硬件和/或软件，以处理公共数据流中包括音频和视频二者的复用流。如果适用，MUX-DEMUX单元可以符合ITU H.223复用器协议或诸如用户数据报协议(UDP)的其它协议。

视频编码器200和视频解码器300各自可以实施为各种合适的编码器和/或解码器电路中的任何一种，例如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑、软件、硬件，固件或其任何组合。当这些技术部分地在软件中实施时，设备可以将软件的指令存储在适当的非暂时性计算机可读介质中，并且使用一个或多个处理器在硬件中执行指令以执行本公开的技术。视频编码器200和视频解码器300中的每一个可以包括在一个或多个编码器或解码器中，其中任何一个都可以作为组合编码器/解码器(CODEC)的一部分集成在相应设备中。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器和/或无线通信设备，例如蜂窝电话。

视频编码器200和视频解码器300可以根据视频编解码标准(例如，ITU-TH.265，也称为高效视频编解码(HEVC))或其扩展(例如，多视图和/或可缩放视频编解码扩展)来操作。可选地，视频编码器200和视频解码器300可以根据其它专有或行业标准来操作，例如联合探索测试模型(JEM)或ITU-TH.266，也称为通用视频编解码(VVC)。Bross等人描述了VVC标准的最新草案，“Versatile Video Coding(Draft 6)”(“通用视频编码(草案6)”)，ITU-TSG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11联合视频专家组(JVET)，第15次会议：哥德堡，SE，2019年7月3日至12日，JVET-O2001-vE(以下简称“VVC草案6”)。然而，本公开的技术不限于任何具体的编解码标准。

通常，视频编码器200和视频解码器300可以执行基于块的图片编解码。术语“块”通常指包括要处理(例如，编码、解码或在编码和/或解码过程中以其它方式使用)的数据的结构。例如，块可以包括亮度和/或色度数据的样点的二维矩阵。通常，视频编码器200和视频解码器300可以对以YUV(例如，Y、Cb、Cr)格式表示的视频数据进行编解码。也就是说，视频编码器200和视频解码器300可以对亮度和色度分量进行编解码，而不是对图片的样点的红、绿和蓝(RGB)数据进行编解码，其中色度分量可以包括红色调和蓝色调色度分量。在一些示例中，视频编码器200在编码之前将接收到的RGB格式的数据转换为YUV表示，并且视频解码器300将YUV表示转换为RGB格式。可选地，预处理单元和后处理单元(未示出)可以执行这些转换。

本公开通常可以涉及对图片进行编解码(例如，编码和解码)，包括对图片的数据进行编码或解码的过程。类似地，本公开可以涉及对图片的块进行编解码，包括对块的数据进行编码或解码的过程，例如预测和/或残差编解码。编码视频比特流通常包括一系列的表示编解码决策(例如编解码模式)的语法元素以及图片到块的分割的值。因此，对图片或块进行编解码的引用通常应理解为对形成图片或块的语法元素的值进行编解码。

HEVC定义了各种的块，包括编码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC，视频编码器(例如视频编码器200)根据四叉树结构将编码树单元(CTU)分割为CU。也就是说，视频编码器将CTU和CU分割为四个相等的、不重叠正方形，并且四叉树的每一个节点都有零个或四个子节点。没有子节点的节点可以被称为“叶节点”，并且此类叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频编解码器可以进一步分割PU和TU。例如，在HEVC中，残差四叉树(RQT)表示对TU的分割。在HEVC中，PU表示帧间预测数据，TU表示残差数据。帧内预测的CU包括帧内预测信息，例如帧内模式指示。

作为另一示例，视频编码器200和视频解码器300可以被配置为根据JEM或VVC操作。根据JEM或VVC，视频编解码器(例如视频编码器200)将图片分割成多个编码树单元(CTU)。视频编码器200可以根据树结构(例如四叉树二叉树(QTBT)结构或多类型树(MTT)结构来分割CTU。QTBT结构消除了多分割类型的概念，例如HEVC的CU、PU和TU的分隔。QTBT结构包括两个级别：根据四叉树分割而分割的第一级，根据二叉树分割而分割的第二级。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于编码单元(CU)。

在MTT分割结构中，块可以使用四叉树(QT)分割、二叉树(BT)分割和一种或多种类型的三叉树(TT)(也称三元树(TT))分割来分割。三叉树或三元树分割是其中块被划分成三个子块的分割。在一些示例中，三叉树或三元树分割将一个块划分为三个子块，而不通过中心划分原始块。MTT中的分割类型(例如QT、BT和TT)可以是对称或不对称的。

在一些示例中，视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度和色度分量中的每一个，而在其它示例中，视频编码器200和视频解码器300可以使用两个或多个QTBT或MTT结构，例如用于亮度分量的一个QTBT/MTT结构和用于两个色度分量的另一QTBT/MTT结构(或用于各个色度分量的两个QTBT/MTT结构)。

视频编码器200和视频解码器300可以被配置为使用根据HEVC的四叉树分割、QTBT分割、MTT分割或其它分割结构。出于说明的目的，针对QTBT分割呈现了本公开技术的描述。但是，应该理解的是，本公开的技术也可以应用于被配置为使用四叉树分割或者其它类型的分割的视频编解码器。

可以以各种方式在图片中对块(例如CTU或CU)进行分组。作为一个示例，砖块(brick)可以指图片中的特定片(tile)内的CTU行的矩形区域。片可以是图片中在特定片列和特定片行内的CTU的矩形区域。片列是指CTU的矩形区域，其高度等于图片的高度并且其宽度由语法元素(例如，在图片参数集中)指定。片行是指CTU的矩形区域，其具有由语法元素(例如，在图片参数集中)指定的高度并且其宽度等于图片的宽度。

在一些示例中，可以将片分割成多个砖块，其中每一个砖块可以包括片内一个或多个CTU行。未分割成多个砖块的片也可以被称为砖块。然而，作为片的真子集的砖块不可以被称为片。

图片中的砖块也可以成条带排列。条带可以是图片的砖块的整数倍，这些砖块可以排他地包含在单个网络抽象层(NAL)单元中。在一些示例中，条带包括多个完整的砖块，或者包括仅一个片的完整砖块的连续序列。

本公开可互换地使用“N×N”和“N乘N”来指代块(例如CU或其它视频块)在垂直和水平维度的样点大小，例如16×16样点或16乘16样点。通常，16×16CU在垂直方向上将有16个样点(y＝16)，在水平方向上将有16个样点(x＝16)。同样地，N×N CU通常在垂直方向上具有N个样点，在水平方向上具有N个样点，其中N表示非负整数值。CU中的样点可以排列成行和列。此外，CU在水平方向上不必具有与垂直方向上相同数量的样点。例如，CU可以包括N×M样点，其中M不一定等于N。

视频编码器200对表示预测和/或残差信息以及其它信息的CU的视频数据进行编码。预测信息指示如何预测CU，以便形成CU的预测块。残差信息通常表示编码前CU的样点与预测块之间的逐样点差异。

为了预测CU，视频编码器200通常可以通过帧间预测或帧内预测来形成CU的预测块。帧间预测通常指从先前编解码的图片的数据中预测CU，而帧内预测通常指从相同图片的先前编解码的数据中预测CU。为了执行帧间预测，视频编码器200可以使用一个或多个运动矢量来生成预测块。视频编码器200通常可以执行运动搜索，以识别例如就CU和参考块之间的差异而言与CU紧密地匹配的参考块。视频编码器200可以使用绝对差和(SAD)、平方差和(SSD)、平均绝对差(MAD)、均方差(MSD)和或其它此类差值计算来计算差值度量，以确定参考块是否与当前CU紧密地匹配。在一些示例中，视频编码器200可以使用单向预测或双向预测来对当前CU进行预测。

JEM和VVC的一些示例还提供了仿射运动补偿模式，该模式可以被视为帧间预测模式。在仿射运动补偿模式中，视频编码器200可以确定表示非平移运动的两个或更多个运动矢量，例如放大或缩小、旋转、透视运动或其它不规则运动类型。

为了执行帧内预测，视频编码器200可以选择帧内预测模式来生成预测块。JEM和VVC的一些示例提供了六十七种帧内预测模式，包括各种方向模式，以及平面模式和DC模式。通常，视频编码器200选择描述到当前块(例如CU的块)的临近样点的帧内预测模式，以从临近样点预测当前块的样点。假设视频编码器200以光栅扫描顺序(从左到右、从上到下)对CTU和CU进行编解码，则此类样点通常可以在与当前块相同的图片中在当前块的上方、左上侧(above and to the left)或左侧。

视频编码器200对表示当前块的预测模式的数据进行编码。例如，对于帧间预测模式，视频编码器200可以对表示使用了各种可用的帧间预测模式中的哪一种以及对应模式的运动信息的数据进行编码。对于单向或双向帧间预测，例如，视频编码器200可以使用高级运动矢量预测(AMVP)或Merge模式对运动矢量进行编码。视频编码器200可以使用类似的模式来对用于仿射运动补偿模式的运动矢量进行编码。

在诸如块的帧内预测或帧间预测的预测之后，视频编码器200可以计算块的残差数据。残差数据(诸如残差块)表示块与该块的使用相应预测模式形成的预测块之间的逐样点差异。视频编码器200可以将一个或多个变换应用于残差块，以产生变换域中而非样点域中的变换数据。例如，视频编码器200可以将离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换应用于残差视频数据。此外，视频编码器200可以在第一变换之后应用二次变换，例如模式相关的不可分二次变换(MDNSST)、信号相关的变换、Karhunen-Loeve变换(KLT)等。视频编码器200在应用一个或多个变换后产生变换系数。

如上所述，在用来产生变换系数的任何变换之后，视频编码器200可以执行变换系数的量化。量化通常指将变换系数进行量化以可能地减少用于表示变换系数的数据量，从而提供进一步的压缩的过程。通过执行量化处理，视频编码器200可以减少与变换系数中的一些或所有相关联的比特深度。例如，视频编码器200可以在量化期间将n比特值四舍五入为m比特值，其中n大于m。在一些示例中，为了执行量化，视频编码器200可以对待量化的值执行逐比特右移。

量化之后，视频编码器200可以对变换系数进行扫描，从包括量化的变换系数的二维矩阵中产生一维矢量。可以将扫描设计为将较高能量(因此频率较低)的变换系数放在矢量的前面，并将较低能量(因此频率较高)的变换系数放在矢量的后面。在一些示例中，视频编码器200可以利用预定义的扫描顺序来对量化的变换系数进行扫描以产生序列化的矢量，然后对矢量的量化的变换系数进行熵编码。在其他示例中，视频编码器200可以执行自适应扫描。在对量化的变换系数进行扫描以形成一维矢量之后，视频编码器200可以例如根据上下文自适应二进制算术编解码(CABAC)，对一维矢量进行熵编码。视频编码器200还可以对语法元素的值进行熵编码，语法元素描述与编码视频数据相关联的元数据，以由视频解码器300在对视频数据进行解码中使用。

为了执行CABAC，视频编码器200可以将上下文模型内的上下文分配给待发送的符号。上下文可以涉及例如符号的临近值是否是零值。概率确定可以基于分配给符号的上下文。

视频编码器200还可以，例如在图片标头、块标头、条带标头中，生成至视频解码器300的语法数据，诸如基于块的语法数据、基于图片的语法数据以及基于序列的语法数据，或生成其他语法数据，诸如序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS)。视频解码器300可以类似地对此类语法数据进行解码来确定如何对对应的视频数据进行解码。

以此方式，视频编码器200可以生成包括编码视频数据的比特流，例如描述将图片分割成块(例如CU)的语法元素以及块的预测和/或残差信息。最终，视频解码器300可以接收比特流并且对编码视频数据进行解码。

通常，视频解码器300执行与视频编码器200执行的过程相反的过程，以对比特流的编码视频数据进行解码。例如，视频解码器300可以以与视频编码器200的CABAC编码过程基本相似(尽管与之相反)的方式，使用CABAC对比特流的语法元素的值进行解码。语法元素可以定义分割信息，该分割信息用于将图片分割为CTU，以及根据诸如QTBT结构的对应分割结构对每一个CTU进行分割来定义CTU的CU。语法元素还可以定义视频数据的块(例如CU)的预测和残差信息。

残差信息可以由例如量化的变换系数表示。视频解码器300可以对块的量化的变换系数进行逆量化和逆变换，以对块的残差块进行再现。视频解码器300使用信令通知的预测模式(帧内或帧间预测)和相关的预测信息(例如，用于帧间预测的运动信息)来形成用于块的预测块。然后，视频解码器300可以(在逐样点的基础上)组合预测块和残差块以对原始块进行再现。视频解码器300可以执行附加处理(诸如执行去方块过程)来减少沿块边界的可视伪影。

本公开通常可以指“信令通知”某些信息，诸如语法元素。术语“信令通知”通常可以指对于语法元素和/或用于对编码视频数据进行解码的其他数据的值的通信。也就是说，视频编码器200可以在比特流中信令通知语法元素的值。通常，信令通知是指在比特流中生成值。如上所述，源设备102可以基本上实时地将比特流传送到目标设备116，或非实时地将比特流传送到目标设备116，诸如在将语法元素存储到存储设备112以供稍后由目标设备116检索时可能发生。

图2A和图2B是示出示例四叉树二叉树(QTBT)结构130和对应的编码树单元(CTU)132的概念图。实线表示四叉树划分，虚线指示二叉树划分。在二叉树的每一个划分(即非叶)节点中，信令通知一个标志以指示使用哪种划分类型(即，水平或垂直)，其中在本示例中0指示水平划分，而1指示垂直划分。对于四叉树划分，由于四叉树节点将块水平和垂直地划分为尺寸相等的4个子块，因此无需指示划分类型。相应地，视频编码器200可以对QTBT结构130的区域树级别(即实线)的语法元素(例如划分信息)和QTBT结构130的预测树级别(即虚线)的语法元素(例如划分信息)进行编码，并且视频解码器300可以对QTBT结构130的区域树级别(即实线)的语法元素(例如划分信息)和QTBT结构130的预测树级别(即虚线)的语法元素(例如划分信息)进行解码。视频编码器200可以对由QTBT结构130的终端叶节点表示的CU的视频数据(诸如预测和变换数据)进行编码，并且视频解码器300可以对由QTBT结构130的终端叶节点表示的CU的视频数据(诸如预测和变换数据)进行解码。

通常，图2B的CTU 132可以与参数相关联，参数定义与第一和第二级别的QTBT结构130的节点相对应的块的尺寸。这些参数可以包括CTU尺寸(表示CTU 132的样点尺寸)、最小四叉树尺寸(MinQTSize，表示最小允许四叉树叶节点尺寸)、最大二叉树尺寸(MaxBTSize，表示最大允许二叉树根节点尺寸)、最大二叉树深度(MaxBTDepth，表示最大允许二叉树深度)和最小二叉树尺寸(MinBTSize，表示最小允许二叉树叶节点尺寸)。

与CTU相对应的QTBT结构的根节点可以在QTBT结构的第一级别具有四个子节点，每一个子节点可以根据四叉树分割来分割。即，第一级别的节点是叶节点(没有子节点)或具有四个子节点。QTBT结构130的示例表示这样的节点，其包括父节点和具有实线分支的子节点。如果第一级别的节点不大于最大允许二进制树根节点尺寸(MaxBTSize)，则可以通过相应的二进制树进一步分割节点。可以对一个节点的二叉树划分进行迭代，直到划分生成的节点达到最小允许二叉树叶节点尺寸(MinBTSize)或最大允许二叉树深度(MaxBTDepth)。QTBT结构130的示例将这样的节点表示为具有虚线分支。二叉树叶节点被称为编码单元(CU)，其用于预测(例如图片内或图片间预测)和变换，而无需任何进一步分割。如上所述，CU也可以被称为“视频块”或“块”。

在QTBT分割结构的一个示例中，CTU尺寸被设置为128×128(亮度样点和两个对应的64×64色度样点)、MinQTSize被设置为16×16、MaxBTSize被设置为64×64、MinBTSize(对于宽度和高度两者)被设置为4、并且MaxBTDepth被设置为4。首先将四叉树分割应用于CTU来生成四叉树叶节点。四叉树叶节点的尺寸可以从16×16(即MinQTSize)到128×128(即CTU尺寸)。如果叶四叉树节点是128×128，则将不会通过二叉树进一步划分叶四叉树节点，因为其尺寸超过了MaxBTSize(在此示例中，即，64×64)。否则，二叉树将进一步分割叶四叉树节点。因此，四叉树叶节点也是二叉树的根节点，且具有二叉树深度为0。当二叉树深度达到MaxBTDepth(在本示例中为4)时，不允许进一步划分。当二叉树节点的宽度等于MinBTSize(在本例中为4)时，表示不允许进一步的水平划分。类似地，具有等于MinBTSize的高度的二叉树节点意味着对于该二叉树节点不允许进一步的垂直划分。如上所述，二叉树的叶节点被称为CU，并且根据预测和变换对其进行进一步处理而无需进一步分割。

本公开描述了用于改进广角帧内预测的若干技术。在广角帧内预测中，视频编码器200和视频解码器300可以使用超出典型的-135度到45度角的预测角度来确定帧内模式预测样点。

图3示出了帧内预测的方向的示例，其中箭头指向参考样点。图3示出了使用当前块的-135度到45度之间的预测角度的正方形块的方向预测模式，如以下文档所描述的：J.Chen、Y.Ye、S.Kim的“Algorithm description for Versatile Video Coding and TestModel 2(VTM2)”(“通用视频编解码和测试模型2(VTM2)的算法描述”)，第11届JVET会议，卢布尔雅那，SI，2018年7月，JVET-K1002。除了图3所示的方向(或角度)预测模式之外，帧内预测模式还包括DC预测模式和平面预测模式。如下面将更详细地说明的，视频编码器200和视频解码器300可以被配置为使用图3中未示出的附加角度预测模式来执行广角帧内预测模式。

在VTM2中，用于指定帧内预测的预测块的块结构不限于正方形。对于正方形块，宽度(w)等于高度(h)。非正方形、矩形预测块(w>h或w<h)可以基于内容的特性提高编解码效率。

在这样的矩形块中，将帧内预测的方向限制在-135度到45度之间可能导致将较远的参考样点而不是较近的参考样点用于帧内预测的情况。这样的设计可能会影响编解码效率。因此，改变角度限制的范围可能是有益的，以便可以使用较近的参考样点(超过-135到45度的角度的参考样点)来进行预测。这种情况的示例如图4所示。

图4示出了4×8矩形当前块400的示例，其中由于帧内预测方向限制在-135度到45度范围内，因此不使用“较近”的参考样点(圆402)，而是可以使用较远的参考样点(圆404)。

在第12次JVET会议期间，在以下文档中提出了广角帧内预测的修改：L.Zhao、X.Zhao、S.Liu、X.Li的“CE3-related:Unification of angular intra prediction forsquare and non-square blocks,”(“CE3-相关：正方形块和非正方形块的角度帧内预测的统一”)，第12届JVET会议，中国澳门特别行政区，2018年10月，JVET-L0279，并被纳入VTM3。在以下文档中描述了VTM3：J.Chen、Y.Ye、S.Kim的“Algorithm description forVersatile Video Coding and Test Model 3(VTM3)”(“通用视频编解码和测试模型3(VTM3)的算法描述”)，第12届JVET会议，中国澳门特别行政区，2018年10月，JVET-L1002。

该提案包括两个修改，以统一正方形块和非正方形块的角度帧内预测。首先，对角度预测方向进行修正，使其覆盖所有块形状的对角线方向。其次，所有角度方向都保持在图5A-图5C所示的所有块纵横比(正方形和非正方形)的左下对角线方向和右上对角线方向之间的范围内。此外，对于所有块形状，顶部参照行和左侧参照列中的参考样点数可以限制为2*width+1和2*height+1。

图5A-图5C示出了对角线方向范围以外的模式的模式映射处理的示例。视频编码器200和视频解码器300可以实施模式映射处理，以确定不同形状和尺寸的CU的可用帧内预测模式。图5A示出了不需要角度模式重新映射的正方形块。图5B示出了用于水平非正方形块的角度模式重新映射。图5C示出了用于垂直非正方形块的角度模式重新映射。在图5B和图5C中，模式A和B被映射模式A和B所替代，使得仍然只有65个可用的角度模式，但是这65个可用模式在图5A、图5B和图5C之间不同。

在图5A的示例中，CU 502是正方形块(即w＝h)。对角线方向504对应于45度预测角度，对角线方向506对应于-135度预测角度。CU 502的所有可用预测模式在对角线方向504和对角线预测506之间，因此不需要模式重新映射。

在图5B的示例中，CU 512是非正方形矩形块，其中w大于h。对角线方向514表示从CU 512的左下角移动到CU 512的右上角的对角线方向，对角线方向516表示从CU 512的右上角移动到CU 512的左下角的对角线方向。由于模式A和B不在对角线方向514和516之间，因此模式A和B被映射模式A和B所取代，使得CU 512的所有可用预测模式在对角线方向514和对角线方向516之间。

在图5C的示例中，CU 522是非正方形矩形块，其中h大于w。对角线方向524表示从CU 522的左下角移动到CU 522的右上角的对角线方向，对角线方向526表示从CU 522的右上角移动到CU 522的左下角的对角线方向。由于模式A和B不在对角线方向524和526之间，因此模式A和B被映射模式A和B所取代，使得CU 522的所有可用预测模式在对角线方向524和对角线方向526之间。

图6是VTM2中采用的广角的图示。图6示出了除65个角度模式之外的描绘的广角模式(在图6中标记为-1至-10和67至76)。在图6的示例中，模式50对应于-90度的预测角度。模式66对应于-135度的预测角度，模式2对应于45度的预测角度。

图7示出了超出模式2和66的VTM3中的广角(在图7中标记为-1至-14和67至80)的示例，总共93个角度模式。在图7的示例中，模式50对应于-90度的预测角度。模式66对应于-135度的预测角度，模式2对应于45度的预测角度。

图7示出了VTM3中采用的更广角度的图示。虽然VTM3定义了95种模式，但对于任何块尺寸，仅允许67种模式。允许的确切模式取决于块的宽度和高度比。这是通过基于块尺寸限制模式范围来实现的。

表1规定了predModeIntra与VTM3中的角度参数intraPredAngle之间的映射表。在以下文档中描述了VTM3：B.Bross、J.Chen、S.Liu的“Versatile Video Coding(Draft 3)”(“通用视频编解码(草案3)”)，第12届JVET会议，中国澳门特别行政区，2018年10月，JVET-L1001，并通过引用其整体并入本文。

与非正方形块对角线对应的角度模式用插入符号(^∧)表示。垂直和水平模式用磅符号(#)表示以供参考。正方块对角线模式如表1所示，带有星号(*)。

predModelntra														-14<sup>∧</sup>	-13	-12<sup>∧</sup>	-11
																		intraPredAngle														512<sup>∧</sup>	341	256<sup>∧</sup>	171
predModelntra	-10<sup>∧</sup>	-9	-8	-7	-6<sup>∧</sup>	-5	-4	-3	-2	-1	2<sup>＊</sup>	3	4	5	6	7	8<sup>∧</sup>
																		intraPredAngle	128<sup>∧</sup>	102	86	73	64<sup>∧</sup>	57	51	45	39	35	32<sup>＊</sup>	29	26	23	20	18	16<sup>∧</sup>
predModelntra	9	10	11	12<sup>∧</sup>	13	14<sup>∧</sup>	15	16<sup>∧</sup>	17	18#	19	20<sup>∧</sup>	21	22<sup>∧</sup>	23	24<sup>∧</sup>	25
																		intraPredAngle	14	12	10	8<sup>∧</sup>	6	4<sup>∧</sup>	3	2<sup>∧</sup>	1	0#	-1	-2<sup>∧</sup>	-3	-4<sup>∧</sup>	-6	-8<sup>∧</sup>	-10
predModelntra	26	27	28<sup>∧</sup>	29	30	31	32	33	34<sup>＊</sup>	35	36	37	38	39	40	41	42
																		intraPredAngle	-12	-14	-16<sup>∧</sup>	-18	-20	-23	-26	-29	-32<sup>＊</sup>	-29	-26	-23	-20	-18	-16	-14	-12
predModelntra	43	44<sup>∧</sup>	45	46<sup>∧</sup>	47	48<sup>∧</sup>	49	50#	51	52<sup>∧</sup>	53	54<sup>∧</sup>	55	56<sup>∧</sup>	57	58	59
																		intraPredAngle	-10	-8<sup>∧</sup>	-6	-4<sup>∧</sup>	-3	-2<sup>∧</sup>	-1	0#	1	2<sup>∧</sup>	3	4<sup>∧</sup>	6	8<sup>∧</sup>	10	12	14
predModelntra	60<sup>∧</sup>	61	62	63	64	65	66<sup>＊</sup>	67	68	69	70	71	72<sup>∧</sup>	73	74	75	76<sup>∧</sup>
																		intraPredAngle	16<sup>∧</sup>	18	20	23	26	29	32<sup>＊</sup>	35	39	45	51	57	64<sup>∧</sup>	73	86	102	128<sup>∧</sup>
predModelntra	77	78<sup>∧</sup>	79	80<sup>∧</sup>
																		intraPredAngle	171	256<sup>∧</sup>	341	512<sup>∧</sup>

逆角度参数invAngle是基于intraPredAngle导出的，如下所示：

注意，如VTM3规范中的情况，是32(0、32、64、128、256、512)的倍数的intraPredAngle值与来自非分数参考阵列样点的预测相对应。

表2示出了与各种块宽高比相对应的对角线模式。

块宽高比(W/H)	对角线模式
		1(正方形)	2，34，66
2	8，28，72
		4	12，24，76
8	14，22，78
		16	16，20，80
1/2	-6，40，60
		1/4	-10，44，56
1/8	-12，46，54
		1/16	-14，48，52

视频编码器200和视频解码器300可以被配置为执行模式相关的帧内平滑(MDIS)和参考样点插值。平滑滤波器通常以减少样点之间的变化的方式改变样点值。相比之下，插值滤波器从已知样点值确定样点值未知或不存在的位置(例如，样点之间的位置)的样点值。在HEVC中，在帧内预测之前，使用2抽头线性或3抽头(1,2,1)/4滤波器对临近参考样点进行潜在滤波。这个过程被称为帧内参考平滑，MDIS。在MDIS中，给定帧内预测模式索引predModeIntra和块尺寸nTbS，视频编码器200和视频解码器300确定是否执行参考平滑处理，并且如果是，则使用哪个平滑滤波器。以下文本是来自HEVC规范的相关段落：

“8.4.4.2.3临近样点的滤波过程

该过程的输入是：

-临近样点p[x][y]，其中x＝-1，y＝-1..nTbS*2-1和x＝0..nTbS*2-1，y＝-1，

-指定变换块尺寸的变量nTbS。

该过程的输出是滤波后的样点pF[x][y]，其中x＝-1，y＝-1..nTbS*2-1和x＝0..nTbS*2-1，y＝-1。

变量filterFlag的推导如下：

-如果以下一个或多个条件为真，则将filterFlag设置为等于0：

-predModeIntra等于INTRA_DC。

-nTbS等于4。

-否则，以下情况适用：

-将变量minDistVerHor设置为等于Min(Abs(predModeIntra-26)、Abs(predModeIntra-10))。

-表8-3规定了变量intraHorVerDistThres[nTbS]。

-变量filterFlag的推导如下：

-如果minDistVerHor大于intraHorVerDistThres[nTbS]，则将filterFlag设置为等于1。

-否则，将filterFlag设置为等于0。

表8-3——用于各种变换块尺寸的intraHorVerDistThres[nTbS]的规范

	nTbS＝8	nTbS＝16	nTbS＝32
				intraHorVerDistThres[nTbS]	7	1	0

当filterFlag等于1时，以下适用：

-变量biIntFlag的推导如下：

-如果以下所有条件为真，则将biIntFlag设置为等于1：

-strong_intra_smoothing_enabled_flag等于1

-nTbS等于32

-Abs(p[-1][-1]+p[nTbS*2-1][-1]-2*p[nTbS-1][-1])<(1<<(BitDepth_Y-5))

-Abs(p[-1][-1]+p[-1][nTbS*2-1]-2*p[-1][nTbS-1])<(1<<(BitDepth_Y-5))

-否则，将biIntFlag设置为等于0。

-滤波过程如下：

-如果biIntFlag等于1，则x＝-1，y＝-1..63和x＝0..63，y＝-1的滤波后的样点值pF[x][y]推导如下：

pF[-1][-1]＝p[-1][-1] (8-30)

pF[-1][y]＝((63-y)*p[-1][-1]+(y+1)*p[-1][63]+32)>>6，y＝0..62 (8-31)

pF[-1][63]＝p[-1][63] (8-32)

pF[x][-1]＝((63-x)*p[-1][-1]+(x+1)*p[63][-1]+32)>>6，x＝0..62 (8-33)

pF[63][-1]＝p[63][-1] (8-34)

-否则(biIntFlag等于0)，x＝-1，y＝-1..nTbS*2-1和x＝0..nTbS*2-1，y＝-1的滤波后的样点值pF[x][y]的推导如下：

pF[-1][-1]＝(p[-1][0]+2*p[-1][-1]+p[0][-1]+2)>>2 (8-35)

pF[-1][y]＝(p[-1][y+1]+2*p[-1][y]+p[-1][y-1]+2)>>2，y＝0..nTbS*2-2

(8-36)

pF[-1][nTbS*2-1]＝p[-1][nTbS*2-1] (8-37)

pF[x][-1]＝(p[x-1][-1]+2*p[x][-1]+p[x+1][-1]+2)>>2，x＝0..nTbS*2-2

(8-38)

pF[nTbS*2-1][-1]＝p[nTbS*2-1][-1] (8-39)”

在上面的示例中，filterFlag设置为0表示不执行MDIS，filterFlag设置为1表示执行MDIS。

在联合视频探索组(JVET)活动期间，起草了联合探索测试模型版本7(JEM7)，包括用于亮度块的MDIS表的以下版本：

sizeIndex	阈值[sizeIndex]
		0	20
1	20
		2	14
3	2
		4	0
5	20
		6	0

在以下文档中描述了JEM7：J.Chen、E.Alshina、G.J.Sullivan、J.-R.Ohm、J.Boyce的“Algorithm description of Joint Exploration Test Model 7”(“联合探索测试模型7的算法描述”)，第7次JVET会议，意大利都灵，2017年7月，JVET-G1001，其通过引用其整体并入本文。

根据JEM 7，视频编码器200和视频解码器300可以被配置为确定尺寸索引，如下所示：

sizeIndex＝(log2(BlockWidth)-2+log2(BlockHeight)-2)/2+2-1

视频编码器200和视频解码器300可以被配置为通过如下确定帧内模式差值来确定是否将[1 2 1]/4平滑滤波器应用于帧内参考样点：

IntraModeDiff＝min(abs(IntraModeIdx-HOR_IDX)、abs(IntraModeIdx-VER_IDX))

在JEM7以及图6和图7中，HOR_IDX＝18并且VER_IDX＝50，因为除了平面(IntraModeIdx＝0)和DC模式(IntraModeIdx＝1)之外，JEM7还有65个方向帧内模式(IntraModeIdx 2-66)。

视频编码器200和视频解码器300可以被配置为基于以下条件来确定是否应用平滑滤波器：

如果IntraModeDiff>Threshold[sizeIndex]，则“应用平滑滤波器”

VTM3包括以下MDIS表：

在VTM3中如下定义块尺寸索引：

sizeIndex＝(log2(BlockWidth)+log2(BlockHeight))/2

视频编码器200和视频解码器300可以被配置为确定是将[1 2 1]/4平滑滤波器应用于非分数帧内参考样点，还是在用于分数参考样点位置的平滑(例如，高斯插值)和非平滑(例如，立方插值)之间切换插值滤波器，如以下文档所示和描述：于2018年9月14日提交的A.Filippov等人的美国临时专利申请62/731723和G.Van der Auwera等人的“CE3:Acombination of tests3.1.2 and 3.1.4 for intra reference sample interpolationfilter”(“CE3：帧内参考样点插值滤波器的测试3.1.2和3.1.4的组合”)，第12次JVET会议，中国澳门特别行政区，2018年10月，JVET-L0628：

IntraModeDiff＝min(abs(IntraModeIdx-HOR_IDX)、abs(IntraModeIdx-VER_IDX))

其中HOR_IDX＝18并且VER_IDX＝50，以及条件：

如果IntraModeDiff>Threshold[sizeIndex]，则“应用平滑”

在VTM3中，对于索引<2或>66的广角模式，将帧内平滑条件设置为等于真。原因是在广角帧内预测的情况下，两个垂直相邻的预测样点可以使用两个非相邻的参考样点。

现有的实施广角模式的技术具有潜在的问题。例如，对于VTM3中的广角模式，根据上述MDIS条件启用参考样点帧内平滑。然而，VTM3为非正方形块引入了几种广角对角线模式，这些模式导致从非分数(即整数)临近参考样点阵列位置进行预测(见表2)。如果在VTM3中使用多条参考线进行预测，也会出现这种情况。

如果在典型实施方式中，仅当从分数临近参考样点进行预测时才应用插值滤波器(平滑或非平滑)，则从非分数参考样点位置进行预测的广角对角线模式将不会从平滑的参考样点进行预测。

为了解决上述问题，提出了以下技术。所描述的技术可以适用于亮度和/或色度预测。

根据一个示例，可以为与非正方形块的对角线相对应且通过使用平滑滤波器(例如3抽头平滑滤波器[1 2 1]/4)对参考样点进行预滤波而从非分数参考样点位置进行预测的广角模式创建例外。在这种情况下，视频编码器200和视频解码器300可以被配置为：确定不应用平滑或非平滑插值滤波，并且将非分数样点从参考样点阵列复制到预测块阵列中。例如，可以为表1中包括的广角模式-6、-10、-12、-14、72、76、78、80创建此例外。因此，与以其它角度模式进行帧内预测相比，视频编码器200和视频解码器300可以被配置为以广角模式来不同地执行帧内预测。

在一些示例中，视频编码器200和视频解码器300可以被配置为不对前述非分数广角模式应用滤波，这意味着将非分数未滤波参考样点复制到预测块中。类似地，为了与非分数广角模式一致，可以省略表1中的用于非分数非广角(正方形块对角线)模式2、34、66的平滑滤波。

在一些示例中，视频编码器200和视频解码器300可以被配置为将平滑插值滤波器的零相位设置为等于平滑滤波器，例如[1 2 1 0]/4(4抽头滤波器)。在这种情况下，平滑插值滤波器被用于从参考样点阵列中的非分数和分数样点位置二者进行预测而无需例外。类似地，非平滑插值滤波器的零相位(恒等滤波器(identity filter)，例如在4抽头滤波器的情况下具有滤波器抽头[0 10 0])可以应用于其它模式的非分数位置。

在一些示例中，视频编码器200和视频解码器300可以被配置为在从非分数参考样点位置进行预测的情况下“动态(on-the-fly)”应用帧内平滑滤波器，例如，当从非分数样点位置进行预测时，应用抽头为[1 2 1]/4的3抽头滤波器。在该示例中，对于非分数位置，参考样点的预滤波和插值滤波都被旁路。

在上述提出的技术中，使用抽头为[1 2 1]/4的帧内平滑滤波器作为示例。诸如具有更强平滑特性和/或具有更宽支持(更多滤波器抽头)的滤波器(例如具有抽头[1 3 1]/8的滤波器)的滤波器的可选的帧内平滑滤波可以引起更好的预测。类似地，对于广角模式具有更宽支持的插值滤波可以引起更好的预测。

在VTM3中，广角模式的MDIS条件如下：“如果模式索引<2或>66，则帧内平滑条件设置为等于真。”建议将此广角条件与MDIS角度差条件结合起来，如下所示：

如下定义块尺寸索引：

sizeIndex＝(log2(BlockWidth)+log2(BlockHeight))/2

例如，如下确定是将[1 2 1]/4平滑滤波器应用于非分数帧内参考样点，还是在用于分数参考样点位置的平滑(例如，高斯插值)和非平滑(例如，立方插值)之间切换插值滤波器(参见于2018年9月14日提交的A.Filippov等人的美国临时专利申请62/731723和G.Van der Auwera等人的“CE3:Acombination of tests 3.1.2and 3.1.4for intrareference sample interpolation filter”(“CE3：帧内参考样插值滤波器的测试3.1.2和3.1.4的组合”，第12次JVET会议，中国澳门特别行政区，2018年10月，JVET-L0628)：

IntraModeDiff＝min(abs(IntraModeIdx-HOR_IDX)、abs(IntraModeIdx-VER_IDX))

其中HOR_IDX＝18并且VER_IDX＝50，以及条件：

如果IntraModeDiff>Threshold[sizeIndex]，则“应用平滑”

将sizeIndex 0、1、2的表项修改为值16，以便始终平滑所有块尺寸的广角模式：

sizeIndex	阈值[sizeIndex]
		0	20→16
1	20→16
		2	20→16
3	14
		4	2
5	0
		6	0
7	0

图8是示出可以执行本公开的技术的示例视频编码器200的框图。图8是为了说明的目的而提供的，并且不应被认为是对本公开中广泛例示和描述的技术的限制。为了说明的目的，本公开在视频编解码标准的上下文中描述了视频编码器200，例如HEVC视频编解码标准和正在开发的H.266视频编解码标准。然而，本公开的技术不限于这些视频编解码标准，并且通常适用于视频编码和解码。

在图8的示例中，视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、解码图像缓冲器(DPB)218以及熵编码单元220。

视频数据存储器230可以存储要由视频编码器200的组件进行编码的视频数据。视频编码器200可以从例如视频源104(图1)接收存储在视频数据存储器230中的视频数据。DPB 218可以充当参考图片存储器，其存储视频编码器200用于预测后续视频数据的参考视频数据。视频数据存储器230和DPB 218可以由多种存储器设备中的任何一种形成，例如动态随机存取存储器(DRAM)，包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、电阻RAM(RRAM)或其它类型的存储器设备。视频数据存储器230和DPB 218可以由相同的存储器设备或单独的存储器设备提供。在各种示例中，如图所示，视频数据存储器230可以与视频编码器200的其它组件在芯片上，或者相对于那些组件在芯片外。

在本公开中，对视频数据存储器230的引用不应被解释为限于视频编码器200内部的存储器，除非特别描述为这样，或者限于视频编码器200外部的存储器，除非特别描述为这样。相反，对视频数据存储器230的引用应当理解为引用存储视频编码器200接收用于编码的视频数据(例如，将要编码的当前块的视频数据)的存储器。图1的存储器106还可以提供来自视频编码器200的各个单元的输出的临时存储。

示出图8的各个单元以帮助理解由视频编码器200执行的操作。这些单元可以实施为固定功能电路、可编程电路或其组合。固定功能电路是指提供特定功能并预设可执行的操作的电路。可编程电路是指可编程以执行各种任务，并以可执行的操作提供灵活功能的电路。例如，可编程电路可执行使可编程电路以由软件或固件的指令所定义的方式操作的软件或固件。固定功能电路可以执行软件指令(例如，接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不变的。在一些示例中，一个或多个单元可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。

视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核心。在使用由可编程电路执行的软件执行视频编码器200的操作的示例中，存储器106(图1)可以存储视频编码器200接收和执行的软件的目标代码，或者视频编码器200(未示出)内的另一存储器可以存储这样的指令。

视频数据存储器230被配置为存储接收到的视频数据。视频编码器200可以从视频数据存储器230检索视频数据的图片，并将视频数据提供给残差生成单元204和模式选择单元202。视频数据存储器230中的视频数据可以是要编码的原始视频数据。

模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括附加功能单元以根据其他预测模式执行视频预测。作为示例，模式选择单元202可以包括调色板单元、帧内块复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。

模式选择单元202通常协调多个编码过程，以测试编码参数的组合和用于这种组合的所得率失真值。编码参数可以包括将CTI分割为CU、CU的预测模式、CU的残差数据的变换类型、CU的残差数据的量化参数等。模式选择单元202可以最终选择具有比其它测试的组合更好的率失真值的编码参数的组合。

视频编码器200可将从视频数据存储器230检索到的图片分割成一系列CTU，并将一个或多个CTU封装在条带内。模式选择单元202可以根据树结构(例如上述HEVC的QTBT结构或四叉树结构)来分割图片的CTU。如上所述，视频编码器200可以根据树结构从分割CTU来形成一个或多个CU。这样的CU通常也可以被称为“视频块”或“块”。

通常，模式选择单元202还控制其组件(例如，运动估计单元222、运动补偿单元224和帧内预测单元226)以生成当前块(例如，当前CU，或在HEVC中，PU和TU的重叠部分)的预测块。对于当前块的帧间预测，运动估计单元222可以执行运动搜索以识别一个或多个参考图片(例如，DPB 218中存储的一个或多个先前编解码的图片)中的一个或多个紧密匹配的参考块。具体地，运动估计单元222可以例如根据绝对差和(SAD)、平方差和(SSD)、平均绝对差(MAD)、平均平方差(MSD)等来计算表示潜在参考块与当前块的相似程度的值。运动估计单元222通常可以使用当前块和正被考虑的参考块之间的逐样点差来执行这些计算。运动估计单元222可以识别具有从这些计算得到的最低值的参考块，指示与当前块最紧密匹配的参考块。

运动估计单元222可以形成一个或多个运动矢量(MV)，其相对于当前图片中的当前块的位置来定义参考图片中的参考块的位置。然后，运动估计单元222可以将运动矢量提供给运动补偿单元224。例如，对于单向帧间预测，运动估计单元222可以提供单个运动矢量，而对于双向帧间预测，运动估计单元222可以提供两个运动矢量。然后，运动补偿单元224可以使用运动矢量生成预测块。例如，运动补偿单元224可以使用运动矢量来检索参考块的数据。作为另一示例，如果运动矢量具有分数样点精度，则运动补偿单元224可以根据一个或多个插值滤波器对预测块进行插值。此外，对于双向帧间预测，运动补偿单元224可以检索由各自的运动矢量识别的两个参考块的数据，并且例如通过逐样点平均或加权平均来组合检索到的数据。

作为另一示例，对于帧内预测或帧内预测编解码，帧内预测单元226可以从与当前块临近的样点生成预测块。例如，对于方向模式，帧内预测单元226通常可以在数学上组合临近样点的值，并在跨当前块的定义方向上填充这些计算值以产生预测块。如在本公开的其它地方更详细地解释的，帧内预测单元226可以执行广角帧内预测，并且可以被配置为对广角帧内预测模式执行平滑滤波。作为另一示例，对于DC模式，帧内预测单元226可以计算当前块的临近样点的平均值，并且生成包括预测块的每个样点的该所得平均值的预测块。

模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的未编解码的版本，并从模式选择单元202接收预测块。残差生成单元204计算当前块和预测块之间的逐样点差。所得的逐样点差定义了当前块的残差块。在一些示例中，残差生成单元204还可以确定残差块中的样点值之间的差，以使用残差差分脉冲编码调制(RDPCM)生成残差块。在一些示例中，可以使用执行二进制减法的一个或多个减法器电路来形成残差生成单元204。

在模式选择单元202将CU分割为PU的示例中，每个PU可以与亮度预测单元和相应的色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种尺寸的PU。如上所述，CU的尺寸可以指CU的亮度编解码块的尺寸，PU的尺寸可以指PU的亮度预测单元的尺寸。假设特定CU的尺寸为2N×2N，对于帧内预测，视频编码器200可以支持2N×2N或N×N的PU尺寸；并且对于帧间预测，支持2N×2N、2N×N、N×2N、N×N或类似的对称PU尺寸。对于帧间预测，视频编码器200和视频解码器300还可以支持2N×nU、2N×nD、nL×2N和nR×2N的PU尺寸的不对称分割。

在模式选择单元不进一步将CU分割为PU的示例中，每个CU可以与亮度编解码块和相应的色度编解码块相关联。如上所述，CU的尺寸可以参考CU的亮度编解码块的尺寸。视频编码器200和视频解码器300可以支持2N×2N、2N×N或N×2N的CU尺寸。

对于诸如例如帧内块复制模式编解码、仿射模式编解码和线性模型(LM)模式编解码的其它视频编解码技术，模式选择单元202经由与编解码技术相关联的各个单元，为正被编码的当前块生成预测块。在一些示例中，例如调色板模式编解码，模式选择单元202可以不生成预测块，而是生成语法元素，这些语法元素指示基于选择的调色板重构块的方式。在这种模式中，模式选择单元202可以向要进行编码的熵编码单元220提供这些语法元素。

如上所述，残差生成单元204接收当前块和相应的预测块的视频数据。然后，残差生成单元204为当前块生成残差块。为了生成残差块，残差生成单元204计算预测块和当前块之间的逐样点差。因此，

变换处理单元206将一个或多个变换应用于残差块以生成变换系数块(这里称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块以形成变换系数块。例如，变换处理单元206可以对残差块应用离散余弦变换(DCT)、方向变换、Karhunen-Loeve变换(KLT)或概念上相似的变换。在一些示例中，变换处理单元206可以对残差块执行多个变换，例如，主变换和二次变换，例如旋转变换。在一些示例中，变换处理单元206不将变换应用于残差块。

量化单元208可以对变换系数块中的变换系数进行量化，以产生量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值对变换系数块的变换系数进行量化。视频编码器200(例如，经由模式选择单元202)可以通过调整与CU相关联的QP值来调整应用于与当前块相关联的系数块的量化程度。量化可能引入信息丢失，因此，量化的变换系数可能比由变换处理单元206产生的原始变换系数具有更低的精度。

逆量化单元210和逆变换处理单元212可以分别对量化的变换系数块应用逆量化和逆变换，以从变换系数块重构残差块。重构单元214可以基于重构的残差块和由模式选择单元202生成的预测块，产生与当前块相对应的重构块(尽管可能具有一定程度的失真)。例如，重构单元214可以将重构的残差块的样点添加到来自由模式选择单元202生成的预测块的对应样点，以产生重构块。

滤波单元216可以对重构块执行一个或多个滤波操作。例如，滤波器单元216可以执行去方块操作以减少沿CU的边缘的块状伪影。在一些示例中，可以跳滤波波器单元216的操作。

视频编码器200将重构块存储在DPB 218中。例如，在不执行滤波单元216的操作的示例中，重构单元214可以将重构块存储到DPB 218。在执行滤波单元216的操作的示例中，滤波单元216可以将滤波后的重构块存储到DPB218。运动估计单元222和运动补偿单元224可以从DPB 218检索由重构(和可能的滤波后的)块形成的参考图片，以对随后编码的图片的块进行帧间预测。另外，帧内预测单元226可以使用当前图片的DPB 218中的重构块来对当前图片中的其它块进行帧内预测。

通常，熵编码单元220可以对从视频编码器200的其它功能组件接收的语法元素进行熵编码。例如，熵编码单元220可以对来自量化单元208的量化的变换系数块进行熵编码。作为另一示例，熵编码单元220可以对来自模式选择单元202的预测语法元素(例如，用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一示例的语法元素执行一个或多个熵编码操作，以生成熵编码的数据。例如，熵编码单元220可以对数据执行上下文自适应可变长度编解码(CAVLC)操作、CABAC操作、可变到可变(V2V)长度编解码操作、基于语法的上下文自适应二进制算术编解码(SBAC)操作、概率间隔分割熵(PIPE)编解码操作、指数Golomb编码操作或另一类型的熵编码操作。在一些示例中，熵编码单元220可以以不熵编码语法元素的旁路模式操作。

视频编码器200可以输出比特流，该比特流包括重构条带或图片的块所需的熵编码的语法元素。具体地，熵编码单元220可以输出比特流。

上述操作是针对块进行描述的。这种描述应当理解为用于亮度编解码块和/或色度编解码块的操作。如上所述，在一些示例中，亮度编解码块和色度编解码块是CU的亮度和色度分量。在一些示例中，亮度编解码块和色度编解码块是PU的亮度和色度分量。

在一些示例中，对于色度编解码块，不需要重复针对亮度编解码块执行的操作。作为一个示例，为了识别色度块的运动矢量(MV)和参考图片，不需要重复用于识别亮度编解码块的MV和参考图片的操作。准确地说，可以缩放亮度编解码块的MV以确定色度块的MV，并且参考图片可以相同。作为另一示例，对于亮度编解码块和色度编解码块，帧内预测处理可以是相同的。

图9是示出可以执行本公开的技术的示例视频解码器300的框图。图9是为了说明的目的而提供的，并且不限制在本公开中广泛例示和描述的技术。为了说明的目的，本公开描述了根据JEM和HEVC的技术描述的视频解码器300。然而，本公开的技术可以由配置为其它视频编解码标准的视频编解码设备来执行。

在图9的示例中，视频解码器300包括编解码图片缓冲(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和解码图片缓冲器(DPB)314。预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括加法单元，以根据其它预测模式执行预测。作为示例，预测处理单元304可以包括调色板单元、帧内块复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其它示例中，视频解码器300可以包括更多、更少或不同的功能组件。

CPB存储器320可以存储要由视频解码器300的组件进行解码的视频数据，例如编码视频比特流。存储在CPB存储器320中的视频数据可以例如从计算机可读介质110(图1)获得。CPB存储器320可以包括存储来自编码视频比特流的编码视频数据(例如，语法元素)的CPB。此外，CPB存储器320可以存储编解码图片的语法元素以外的视频数据，例如表示来自视频解码器300的各个单元的输出的临时数据。DPB 314通常存储解码的图片，视频解码器300在对编码视频比特流的后续数据或图片进行解码时可以输出解码的图片和/或将其用作参考视频数据。CPB存储器320和DPB 314可以由多种存储器设备中的任何一种形成，例如动态随机存取存储器(DRAM)，包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、电阻RAM(RRAM)或其它类型的存储器设备。CPB存储器320和DPB 314可以由相同的存储器设备或单独的存储器设备提供。在各种示例中，CPB存储器320可以与视频解码器300的其它组件在芯片上，或者相对于那些组件在芯片外。

另外地或可选地，在一些示例中，视频解码器300可以从存储器120(图1)检索编解码视频数据。即，存储器120可以如上与CPB存储器320讨论的那样存储数据。同样地，当视频解码器300的一些或全部功能以由视频解码器300的处理电路执行的软件实施时，存储器120可以存储要由视频解码器300执行的指令。

示出图9中所示的各种单元以帮助理解视频解码器300执行的操作。这些单元可以实施为固定功能电路、可编程电路或其组合。与图8类似，固定功能电路是指提供特定功能并且预设可执行的操作的电路。可编程电路是指可编程以执行各种任务并以可执行的操作提供灵活功能的电路。例如，可编程电路可执行使可编程电路以由软件或固件的指令所定义的方式操作的软件或固件。固定功能电路可以执行软件指令(例如，接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不变的。在一些示例中，一个或多个单元可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。

视频解码器300可以包括由可编程电路形成的ALU、EFU、数字电路、模拟电路和/或可编程核心。在视频解码器300的操作由在可编程电路上执行的软件执行的示例中，片上或片外存储器可以存储视频解码器300接收和执行的软件的指令(例如，目标代码)。

熵解码单元302可以从CPB接收编码视频数据，并且对视频数据进行熵解码以再现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从比特流提取的语法元素生成解码视频数据。

通常，视频解码器300在逐块地基础上重构图片。视频解码器300可以单独地对每个块执行重构操作(其中当前正在重构的(即解码的)块可以被称为“当前块”)。

熵解码单元302可以对定义量化变换系数块的量化变换系数的语法元素以及诸如量化参数(QP)和/或(多个)变换模式指示的变换信息进行熵解码。逆量化单元306可以使用与量化变换系数块相关联的QP来确定量化程度，并且同样地，确定逆量化程度以供逆量化单元306应用。逆量化单元306例如可以执行逐比特左移操作以对量化的变换系数进行逆量化。逆量化单元306由此可以形成包括变换系数的变换系数块。

在逆量化单元306形成变换系数块之后，逆变换处理单元308可以对变换系数块应用一个或多个逆变换，以生成与当前块相关联的残差块。例如，逆变换处理单元308可以对系数块应用逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或另一逆变换。

此外，预测处理单元304根据由熵解码单元302熵解码的预测信息语法元素来生成预测块。例如，如果预测信息语法元素指示当前块是被帧间预测的，则运动补偿单元316可以生成预测块。在这种情况下，预测信息语法元素可以指示DPB 314中的、要从中检索参考块的参考图片，以及相对于当前图片中的当前块的位置识别参考图片中的参考块的位置的运动矢量。运动补偿单元316通常可以以与关于运动补偿单元224(图8)描述的方式基本相似的方式来执行帧间预测处理。

作为另一示例，如果预测信息语法元素指示当前块是被帧内预测的，则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式生成预测块。如在本公开的其它地方更详细地解释的，帧内预测单元318可以执行广角帧内预测，并且可以被配置为对广角帧内预测模式执行平滑滤波。再次，帧内预测单元318通常可以以与关于帧内预测单元226(图8)描述的方式基本相似的方式来执行帧内预测处理。帧内预测单元318可以从DPB314检索当前块的临近样点的数据。

重构单元310可以使用预测块和残差块来重构当前块。例如，重构单元310可以将残差块的样点添加到预测块的对应样点，以重构当前块。

滤波单元312可以对重构块执行一个或多个滤波操作。例如，滤波器单元312可以执行去方块操作，以减少沿重构块的边缘的块状伪影。不一定在所有示例中执行滤波器单元312的操作。

视频解码器300可以将重构块存储在DPB 314中。如上所述，DPB 314可以向预测处理单元304提供参考信息，例如用于帧内预测的当前图片的样点和用于后续运动补偿的先前解码的图片。此外，视频解码器300可以从DPB输出解码的图片，用于随后在诸如图1的显示设备118的显示设备上呈现。

图10是示出用于对视频数据的当前块进行编码的示例处理的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和图8)进行描述，但应理解，其它设备可以被配置为执行类似于图10的处理。

在本示例中，视频编码器200最初预测当前块(350)。例如，视频编码器200可以形成当前块的预测块。然后，视频编码器200可以计算当前块的残差块(352)。为了计算残差块，视频编码器200可以计算当前块的原始、未编解码的块和预测块之间的差值。然后，视频编码器200可以对残差块的系数进行变换和量化(354)。接下来，视频编码器200可以对残差块的量化的变换系数进行扫描(356)。在扫描期间或在扫描之后，视频编码器200可以对系数进行熵编码(358)。例如，视频编码器200可以使用CAVLC或CABAC对系数进行编码。然后，视频编码器200可以输出块的熵编解码的数据(360)。

图11是示出用于对视频数据的当前块进行解码的示例处理的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和图9)进行描述，但应理解，其它设备可以被配置为执行类似于图11的处理。

视频解码器300可以接收当前块的熵编解码的数据，例如对应于当前块的残差块的系数的熵编解码的数据和熵编解码的预测信息(370)。视频解码器300可以对熵编解码的数据进行熵解码，以确定当前块的预测信息，并再现残差块的系数(372)。视频解码器300可以预测当前块，例如，使用由当前块的预测信息指示的帧内或帧间预测模式来计算当前块的预测块(374)。然后，视频解码器300可以对再现的系数进行扫描，以创建量化的变换系数块(376)。然后，视频解码器300可以对系数进行逆量化和逆变换以产生残差块(378)。视频解码器300可以通过组合预测块和残差块最终解码当前块(380)。

图12是示出用于对视频数据的当前块进行解码的示例处理的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和图9)进行描述，但应理解，其它设备可以被配置为执行类似于图12的处理。作为一个示例，图12的过程也可以由视频编码器200执行，作为确定如何对视频数据的当前块进行编码的过程的一部分。

在图12的示例中，视频解码器300确定视频数据块的尺寸，其中视频数据块包括矩形非方形块(382)。例如，视频解码器300可以通过基于块的高度和块的宽度确定尺寸索引来确定视频数据块的尺寸。例如，视频解码器300可以基于块的高度和块的宽度、通过确定尺寸索引等于(log2(BlockWidth)+log2(BlockHeight))/2来确定尺寸索引，其中BlockWidth是块的宽度，BlockHeight是块的高度。

视频解码器300确定视频数据块的帧内预测模式(384)。视频解码器300在视频数据块的临近块中定位与所确定的帧内预测模式相对应的参考样点(386)。参考样点可以是非分数参考样点。参考样点可以是不经过插值滤波而确定的样点。

响应于视频数据块的帧内预测模式是广角帧内预测模式且对应于该块的对角线方向，视频解码器300对参考样点进行滤波以确定滤波后的参考样点(388)。广角帧内预测模式可以是具有-135度和-180度之间或45度和90度之间的预测角度的帧内预测模式。

根据权利要求1的方法，其中，对参考样点进行滤波以确定滤波后的参考样点包括对参考样点应用平滑滤波器。平滑滤波器可以例如是三抽头滤波器。在一些示例中，为了将平滑滤波器应用于参考样点，视频解码器300可以在将插值滤波器应用于参考样点之前或在不应用插值滤波器的情况下应用平滑滤波。在其它示例中，为了将平滑滤波器应用于参考样点，视频解码器300可以将平滑插值滤波器应用于参考样点。

视频解码器300从滤波后的参考样点生成视频数据块的预测块(390)。视频解码器300可以以上述方式使用帧内预测生成预测块。

视频解码器300从预测块确定视频数据块的解码版本(392)。例如，视频解码器300可以通过向预测块添加视频数据的残差块来确定视频数据块的解码版本。

在一个示例中，视频解码器300可以基于尺寸索引确定阈值；基于帧内预测模式的帧内模式索引与水平索引值之间的差以及帧内预测模式的帧内模式索引与垂直索引值之间的差来确定帧内模式差值；以及响应于帧内模式差值大于阈值，对参考样点进行滤波以确定滤波后的参考样点。为了确定帧内模式差值，视频解码器300可以确定帧内模式差值等于min(abs(IntraModeIdx-HOR_IDX)、abs(IntraModeIdx-VER_IDX))，其中，IntraModeIdx是帧内预测模式的帧内模式索引，HOR_IDX是水平索引值，VER_IDX是垂直索引值。在一个示例中，响应于确定尺寸索引小于或等于2，视频解码器300确定阈值等于16。

视频解码器300输出视频数据块的解码版本(394)。例如，视频解码器300可以将视频块的解码版本作为图片的一部分输出以供显示，或者通过将视频数据块的解码版本作为参考图片的一部分存储在参考图片存储器中来输出视频块的解码版本。当由视频编码器执行时，视频编码器可以通过将视频数据块的解码版本作为可用于对视频数据的未来图片进行编码的参考图片的一部分存储在参考图片存储器中来输出块的解码版本。

应当认识到，根据示例，可以以不同的顺序执行本文所述任何技术的某些动作或事件，可以被添加、合并或完全排除(例如，并非所有描述的动作或事件对于技术的实践是必要的)。此外，在某些示例中，可以并行地执行动作或事件，例如通过多线程处理、中断处理或多个处理器，而不是顺序地执行。

在一个或多个示例中，所述功能可以在硬件、软件、固件或其任何组合中实施。如果在软件中实施，则这些功能可以作为一个或多个指令或代码存储在计算机可读介质上或在其上传输，并由基于硬件的处理单元执行。计算机可读介质可以包括与有形介质(例如数据存储介质)相对应的计算机可读存储介质，或包括有助于计算机程序从一个地方转移到另一个地方(例如，根据通信协议)的任何介质的通信介质。以这种方式，计算机可读介质通常可对应于(1)非暂时的有形计算机可读存储介质或(2)诸如信号或载波的通信介质。数据存储介质可以是可由一个或多个计算机或一个或多个处理器访问以检索用于实施本公开中描述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可以包括计算机可读介质。

通过示例而不是限制，这种计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、闪存或可用于以指令或数据结构的形式存储并且可以由计算机进行访问的所需的程序代码的任何其它介质中的一个或多个。此外，任何连接都被适当地称为计算机可读介质。例如，如果使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或无线技术(诸如红外线、无线电和微波)从网站、服务器或其它远程源发送指令，则同轴电缆、光纤电缆、双绞线、DSL或无线技术(诸如红外线、无线电和微波)被包括在介质的定义中。然而，应当理解，计算机可读存储介质和数据存储介质不包括连接、载波、信号或其它暂时介质，而是指向非暂时的有形存储介质。本文所使用的磁盘和光盘包括光盘(CD)、激光光盘、光盘、数字多功能光盘(DVD)、软盘和蓝光光盘，其中磁盘通常以磁性方式再现数据，而光盘则以激光光学方式再现数据。上述的组合也应包括在计算机可读介质的范围内。

指令可由一个或多个处理器执行，例如一个或多个DSP、通用微处理器、ASIC、FPGA或其它等效集成或离散逻辑电路。因此，本文所使用的术语“处理器”可指上述结构中的任何一个或适合实施本文所述技术的任何其它结构。此外，在一些方面，本文描述的功能可以提供在配置用于编码和解码的专用硬件和/或软件模块内，或并入组合的编解码器中。此外，这些技术可以在一个或多个电路或逻辑元件中完全实施。

本公开的技术可以在多种设备或装置中实施，包括无线手持机、集成电路(IC)或IC集合，例如芯片集合。本公开中描述了各种组件、模块或单元，以强调被配置为执行所公开技术的设备的功能方面，但不一定需要由不同硬件单元来实现。相反，如上所述，各种单元可以组合在编解码器硬件单元中，或者由互操作硬件单元的集合(包括如上所述的一个或多个处理器)连同合适的软件和/或固件提供。

已经描述了各种示例。这些和其它示例在以下权利要求的范围内。

Claims

1.一种解码视频数据的方法，所述方法包括：

确定视频数据块的尺寸，其中所述视频数据块包括矩形、非正方形块；

确定用于所述视频数据块的帧内预测模式；

在所述视频数据块的临近块中，定位与所确定的帧内预测模式相对应的参考样点；

响应于所述视频数据块的所述帧内预测模式是广角帧内预测模式且对应于块的对角线方向，对所述参考样点进行滤波以确定滤波后的参考样点；

从所述滤波后的参考样点生成所述视频数据块的预测块；

从所述预测块确定所述视频数据块的解码版本；以及

输出所述视频数据块的所述解码版本。

2.根据权利要求1所述的方法，其中，所述参考样点包括非分数参考样点。

3.根据权利要求1所述的方法，其中，所述参考样点包括不经过插值滤波确定的样点。

4.根据权利要求1所述的方法，其中，对所述参考样点进行滤波以确定滤波后的参考样点包括将平滑滤波器应用于所述参考样点。

5.根据权利要求4所述的方法，其中，所述平滑滤波器包括3抽头滤波器。

6.根据权利要求4所述的方法，其中，将所述平滑滤波器应用于所述参考样点包括在将插值滤波器应用于所述参考样点之前或在不对所述参考样点应用插值滤波器的情况下应用平滑滤波。

7.根据权利要求4所述的方法，其中，将所述平滑滤波器应用于所述参考样点包括将平滑插值滤波器应用于所述参考样点。

8.根据权利要求1所述的方法，其中，所述视频数据块的所述帧内预测模式是所述广角帧内预测模式包括具有-135度和-180度之间或45度和90度之间的预测角度的帧内预测模式。

9.根据权利要求1所述的方法，其中，确定所述视频数据块的尺寸包括基于块的高度和块的宽度确定尺寸索引。

10.根据权利要求9所述的方法，还包括：

基于所述尺寸索引确定阈值；

基于所述帧内预测模式的帧内模式索引与水平索引值之间的差以及所述帧内预测模式的帧内模式索引与垂直索引值之间的差来确定帧内模式差值；

响应于所述帧内模式差值大于所述阈值，对所述参考样点进行滤波以确定所述滤波后的参考样点。

11.根据权利要求10所述的方法，其中确定所述帧内模式差值包括确定所述帧内模式差值等于：

min(abs(IntraModeIdx-HOR_IDX),abs(IntraModeIdx–VER_IDX))，其中IntraModeIdx是所述帧内预测模式的帧内模式索引，HOR_IDX是所述水平索引值，VER_IDX是所述垂直索引值。

12.根据权利要求10所述的方法，所述方法还包括：

响应于确定所述尺寸索引小于或等于2，确定所述阈值等于16。

13.根据权利要求9所述的方法，其中，基于块的高度和块的宽度确定所述尺寸索引包括确定所述尺寸索引等于(log2(BlockWidth)+log2(BlockHeight))/2，其中BlockWidth是块的宽度，BlockHeight是块的高度。

14.根据权利要求1所述的方法，其中，解码方法作为编码过程的一部分执行，并且其中，输出所述视频数据块的所述解码版本包括将所述视频数据块的所述解码版本存储为参考图片的一部分。

15.一种用于解码视频数据的设备，所述设备包括：

存储器，用于存储视频数据；和

一个或多个处理器，被配置为：

确定用于所述视频数据块的帧内预测模式；

从所述滤波后的参考样点生成所述视频数据块的预测块；

从所述预测块确定所述视频数据块的解码版本；以及

输出所述视频数据块的所述解码版本。

16.根据权利要求15所述的设备，其中，所述参考样点包括非分数参考样点。

17.根据权利要求15所述的设备，其中，所述参考样点包括不经过插值滤波确定的样点。

18.根据权利要求15所述的设备，其中，为了对所述参考样点进行滤波以确定滤波后的参考样点，所述一个或多个处理器被进一步被配置为将平滑滤波器应用于所述参考样点。

19.根据权利要求18所述的设备，其中，所述平滑滤波器包括3抽头滤波器。

20.根据权利要求18所述的设备，其中，为了将所述平滑滤波器应用于所述参考样点，所述一个或多个处理器被进一步被配置为在将插值滤波器应用于所述参考样点之前或在不对所述参考样点应用插值滤波器的情况下应用平滑滤波。

21.根据权利要求18所述的设备，其中，为了将所述平滑滤波器应用于所述参考样点，所述一个或多个处理器被进一步被配置为将平滑插值滤波器应用于所述参考样点。

22.根据权利要求15所述的设备，其中，所述视频数据块的所述帧内预测模式是所述广角帧内预测模式包括具有-135度和-180度之间或45度和90度之间的预测角度的帧内预测模式。

23.根据权利要求15所述的设备，其中，为了确定所述视频数据块的所述尺寸，所述一个或多个处理器被进一步被配置为基于块的高度和块的宽度来确定尺寸索引。

24.根据权利要求23所述的设备，其中，所述一个或多个处理器被进一步被配置为：

基于所述尺寸索引确定阈值；

25.根据权利要求24所述的设备，其中，为了确定帧内模式差值，所述一个或多个处理器被进一步被配置为确定所述帧内模式差值等于：

min(abs(IntraModeIdx-HOR_IDX),abs(IntraModeIdx–VER_IDX))，其中IntraModeIdx是所述帧内预测模式的所述帧内模式索引，HOR_IDX是所述水平索引值，并且VER_IDX是所述垂直索引值。

26.根据权利要求24所述的设备，其中，所述一个或多个处理器被进一步被配置为：

27.根据权利要求23所述的设备，其中，为了基于块的高度和块的宽度确定所述尺寸索引，所述一个或多个处理器被进一步被配置为确定所述尺寸索引等于(log2(BlockWidth)+log2(BlockHeight))/2，其中BlockWidth是块的宽度，BlockHeight是块的高度。

28.根据权利要求15所述的设备，其中，所述一个或多个处理器被配置为：作为编码过程的一部分，解码视频数据，并且其中，为了输出所述视频数据块的所述解码版本，所述一个或多个处理器被进一步被配置为将所述视频数据块的所述解码版本存储为参考图片的一部分。

29.一种存储指令计算机可读存储介质，当所述指令由一个或多个处理器执行时使得所述一个或多个处理器：

确定用于所述视频数据块的帧内预测模式；

从所述滤波后的参考样点生成所述视频数据块的预测块；

从所述预测块确定所述视频数据块的解码版本；以及

输出所述视频数据块的所述解码版本。

30.根据权利要求29所述的计算机可读存储介质，其中，所述参考样点包括非分数参考样点。

31.根据权利要求29所述的计算机可读存储介质，其中，所述参考样点包括不经过插值滤波确定的样点。

32.根据权利要求29所述的计算机可读存储介质，其中，为了对所述参考样点进行滤波以确定滤波后的参考样点，所述指令使得所述一个或多个处理器将平滑滤波器应用于所述参考样点。

33.根据权利要求32所述的计算机可读存储介质，其中，所述平滑滤波器包括3抽头滤波器。

34.根据权利要求32所述的计算机可读存储介质，其中，为了将所述平滑滤波器应用于所述参考样点，所述指令使得所述一个或多个处理器在将插值滤波器应用于所述参考样点之前或在不对所述参考样点应用插值滤波器的情况下应用平滑滤波。

35.根据权利要求32所述的计算机可读存储介质，其中，为了将所述平滑滤波器应用于所述参考样点，所述指令使得所述一个或多个处理器将平滑插值滤波器应用于所述参考样点。

36.根据权利要求29所述的计算机可读存储介质，其中，所述视频数据块的所述帧内预测模式是所述广角帧内预测模式包括具有-135度和-180度之间或45度和90度之间的预测角度的帧内预测模式。

37.根据权利要求29所述的计算机可读存储介质，其中，为了确定所述视频数据块的所述尺寸，所述指令使得所述一个或多个处理器基于块的高度和块的宽度来确定尺寸索引。

38.根据权利要求37所述的计算机可读存储介质，其存储进一步的指令，当执行所述指令时使得所述一个或多个处理器：

基于所述尺寸索引确定阈值；

39.根据权利要求38所述的计算机可读存储介质，其中，为了确定帧内模式差值，所述指令使得所述一个或多个处理器确定所述帧内模式差值等于：

40.根据权利要求38所述的计算机可读存储介质，其存储进一步的指令，当执行所述指令时使得所述一个或多个处理器：

41.根据权利要求37所述的计算机可读存储介质，其中，为了基于块的高度和块的宽度来确定所述尺寸索引，所述指令使得所述一个或多个处理器确定所述尺寸索引等于(log2(BlockWidth)+log2(BlockHeight))/2，其中BlockWidth是块的宽度，BlockHeight是块的高度。

42.根据权利要求29所述的计算机可读存储介质，其中所述指令使得所述一个或多个处理器：作为编码过程的一部分，解码所述视频数据，并且其中为了输出所述视频数据块的解码版本，所述一个或多个处理器被进一步被配置为将所述视频数据块的所述解码版本存储为参考图片的一部分。

43.一种用于解码视频数据的装置，所述装置包括：

用于确定视频数据块的尺寸的部件，其中所述视频数据块包括矩形、非正方形块；

用于确定用于所述视频数据块的帧内预测模式的部件；

用于在所述视频数据块的临近块中，定位与所确定的帧内预测模式相对应的参考样点的部件；

用于响应于所述视频数据块的所述帧内预测模式是广角帧内预测模式且对应于块的对角线方向，对所述参考样点进行滤波以确定滤波后的参考样点的部件；

用于从所述滤波后的参考样点生成所述视频数据块的预测块的部件；

用于从所述预测块确定所述视频数据块的解码版本的部件；以及

用于输出所述视频数据块的所述解码版本的部件。