CN116636207A - 具有固定滤波器的自适应环路滤波器 - Google Patents
具有固定滤波器的自适应环路滤波器 Download PDFInfo
- Publication number
- CN116636207A CN116636207A CN202180084645.6A CN202180084645A CN116636207A CN 116636207 A CN116636207 A CN 116636207A CN 202180084645 A CN202180084645 A CN 202180084645A CN 116636207 A CN116636207 A CN 116636207A
- Authority
- CN
- China
- Prior art keywords
- sample
- filter
- reconstructed
- value
- filters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
一种视频解码器可以被配置为:通过确定重构样本的第一类索引、基于第一类索引从第一滤波器集中选择滤波器、以及将来自第一滤波器集的滤波器应用于重构样本以确定第一中间样本值,来将第一阶段自适应环路滤波器(ALF)应用于重构样本;通过确定重构样本的第二类索引、基于第二类索引从第二滤波器集中选择第二滤波器、将第二滤波器应用于重构样本以确定第一样本修改值、以及基于第一中间样本值确定第二样本修改值,来将第二阶段ALF应用于重构样本;以及基于重构样本以及第一和第二样本修改值来确定经滤波的重构样本。
Description
本申请要求以下申请的优先权:
2021年12月21日提交的美国专利申请第17/557,706号,
2021年2月11日提交的美国临时专利申请第63/148,538号;和
2020年12月23日提交的美国临时专利申请第63/130,275号,每个申请的全部内容通过引用并入本文。
2021年12月21日提交的美国专利申请第17/557,706号要求以下申请的权益:
2021年2月11日提交的美国临时专利申请第63/148,538号;和
2020年12月23日提交的美国临时专利申请第63/130,275号。
技术领域
本公开涉及视频编码和视频解码。
背景技术
数字视频功能可以集成到各种设备中,包括数字电视、数字直播系统、无线广播系统、个人数字助理(PDA)、膝上型或台式计算机、平板计算机、电子书阅读器、数字相机、数字记录设备、数字媒体播放器、视频游戏设备、视频游戏机、蜂窝或卫星无线电电话、所谓的“智能电话”、视频电话会议设备、视频流设备等。数字视频设备实施视频译码技术,例如那些在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4,第10部分,高级视频译码(AVC)、ITU-T H.265/高效视频译码(HEVC)所定义的标准以及此类标准的扩展中所描述的技术。视频设备可以通过实施此类视频译码技术来更高效地发送、接收、编码、解码和/或存储数字视频信息。
视频译码技术包括空间(图片内)预测和/或时间(图片间)预测来减少或消除视频序列中固有的冗余。对于基于块的视频译码,视频切片(例如,视频图片或视频图片的一部分)可被分割成视频块,其也可称为译码树单元(CTU)、译码单元(CU)和/或译码节点。图片的帧内译码(I)切片中的视频块使用相对于同一图片中相邻块中的参考样本的空间预测进行编码。图片的帧间译码(P或B)切片中的视频块可以使用相对于同一图片中相邻块中的参考样本的空间预测或者相对于其它参考图片中的参考样本的时间预测。图片可以称为帧,并且参考图片可以称为参考帧。
发明内容
根据本公开的技术,视频解码器可被配置为执行两阶段自适应环路滤波。对于ALF的第一阶段,视频解码器可以被配置为确定被滤波的重构样本的活动值和方向值。活动值通常可以指示在被滤波的样本周围的样本邻域中的样本值的变化。方向值通常可以指示样本值改变的方向,例如样本值是否在水平方向上增加、在垂直方向上增加、在45度方向上增加、在135度方向上增加或者根本不增加。基于活动值和方向值,视频解码器可确定被滤波的样本的类索引。类索引可以与来自第一滤波器集的滤波器相关联,每个滤波器由形状和系数值集来定义。视频解码器可基于位流中包括的语法来确定第一滤波器集,以及哪些分类器映射到哪些滤波器。视频解码器可将滤波器应用于重构样本以确定第一中间样本值。
对于ALF的第二阶段,视频解码器通过将第二滤波器应用于重构样本来确定第一样本修改值,并且基于第一中间样本值来确定第二样本修改值。然后视频解码器基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。如本文所述,通过将第一阶段ALF应用于重构块的重构样本并将第二阶段ALF应用于重构样本,本公开的技术可通过比单阶段ALF更好地考虑视频数据的局部特征来改善解码的视频数据的整体质量。
根据一个示例,一种解码视频数据的方法包括将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中应用第一阶段ALF包括:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中应用第二阶段ALF包括:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
根据一个示例,一种用于解码视频数据的设备包括:存储器,被配置为存储视频数据;一个或多个处理器,在电路中实施并被配置为:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用第一阶段ALF,一个或多个处理器还被配置为:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中为了应用第二阶段ALF,一个或多个处理器还被配置为:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
根据一个示例,一种存储指令的计算机可读存储介质,该指令在被一个或多个处理器执行时使得该一个或多个处理器:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用第一阶段ALF,一个或多个处理器还被配置为:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中为了应用第二阶段ALF,一个或多个处理器还被配置为:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
一个或多个示例的细节在附图和下面的描述中阐述。其它特征、对象和优点将从说明书、附图和权利要求书中显而易见。
附图说明
图1是示出了可以执行本公开的技术的示例视频编码和解码系统的框图。
图2A和图2B是示出了可根据本公开的技术使用的示例自适应环路滤波器形状的概念图。
图3是示出了可根据本公开的技术使用的4×4子块自适应环路滤波器分类的示例子采样拉普拉斯值的概念图。
图4是示出了可根据本公开的技术使用的亮度样本的示例拉普拉斯值的概念图。
图5是示出了可根据本公开的技术使用的自适应环路滤波器类合并的示例的概念图。
图6是示出了可根据本公开的技术使用的7×7菱形滤波器形状的示例几何变换的概念图。
图7A-图7C示出了可根据本公开的技术使用的ALF中的对称样本填充的示例。
图8示出了可根据本公开的技术使用的ALF 4×4子块分类的示例。
图9示出了根据本公开的技术使用多个固定滤波器集和多个信令通知的滤波器集来对视频数据的重构样本进行滤波的示例框架。
图10A-图10E示出了可根据本公开的技术使用的5×5、7×7、9×9、11×11和13×13滤波器的示例。
图11示出了根据本公开的技术的用于实施多个固定滤波器和一个信令通知的滤波器的示例。
图12A-图12E示出了可根据本公开的技术使用的两部分滤波器的示例。
图13和图14是示出了根据本公开的技术的示例ALF框架的概念图。
图15是示出了可以执行本公开的技术的示例视频编码器的框图。
图16是示出了可以执行本公开的技术的示例视频解码器的框图。
图17是示出了用于执行本公开的技术的示例滤波器单元的框图。
图18是示出了根据本公开的技术的用于编码当前块的示例过程的流程图。
图19是示出了根据本公开的技术的用于解码当前块的示例过程的流程图。
图20是示出了根据本公开的技术的用于解码当前块的示例过程的流程图。
具体实施方式
视频译码(例如,视频编码和/或视频解码)通常涉及从同一图片中视频数据的已译码块(即,帧内预测)或不同图片中视频数据的已译码块(即,帧间预测)来预测视频数据的块。在一些情况下,视频编码器还通过将预测块与原始块进行比较来计算残差数据。因此,残差数据表示预测块和原始块之间的差异。视频编码器对残差数据进行变换和量化,并在编码位流中信令通知经变换和量化的残差数据。视频解码器将残差数据添加到预测块,以产生比单独预测块更紧密匹配原始视频块的重构视频块。为了进一步提高解码的视频的质量,视频解码器可以对重构的视频块执行一个或多个滤波操作。这些滤波操作的示例包括去块滤波、样本自适应偏移(SAO)滤波和自适应环路滤波(ALF)。这些滤波操作的参数可以由视频编码器确定并在编码的视频位流中显式地信令通知,或者可以由视频解码器隐式地确定,而不需要在编码的视频位流中显式地信令通知这些参数。
本公开描述与在视频编码和/或视频解码过程中对重构视频数据进行滤波相关联的技术,并且更具体地,本公开描述与ALF相关的技术。然而,所描述的技术也可以潜在地应用于其他滤波方案。
根据本公开的技术,视频解码器可被配置为执行两阶段自适应环路滤波。对于ALF的第一阶段,视频解码器可以被配置为确定被滤波的重构样本的活动值和方向值。活动值通常可以指示在被滤波的样本周围的样本邻域中的样本值的变化。方向值通常可以指示样本值改变的方向,例如样本值是否在水平方向上增加、在垂直方向上增加、在45度方向上增加、在135度方向上增加或者根本不增加。基于活动值和方向值,视频解码器可确定被滤波的样本的类索引。类索引可以与来自第一滤波器集的滤波器相关联,每个滤波器由形状和系数值集来定义。视频解码器可基于位流中包括的语法来确定第一滤波器集,以及哪些分类器映射到哪些滤波器。视频解码器可将滤波器应用于重构样本以确定第一中间样本值。
对于ALF的第二阶段,视频解码器通过将第二滤波器应用于重构样本来确定第一样本修改值,并且基于第一中间样本值来确定第二样本修改值。然后视频解码器基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。如本文所述,通过将第一阶段ALF应用于重构块的重构样本并将第二阶段ALF应用于重构样本,本公开的技术可通过比单阶段ALF更好地考虑视频数据的局部特征来改善解码的视频数据的整体质量。
图1是示出了可以执行本公开的技术的示例视频编码和解码系统100的框图。本公开的技术通常针对对视频数据进行译码(编码和/或解码)。通常,视频数据包括用于处理视频的任何数据。因此,视频数据可以包括原始的、未编码的视频、编码的视频、解码的(例如,重构的)视频和视频元数据,例如信令数据。
如图1所示,在本示例中,系统100包括提供要由目的地设备116进行解码和显示的编码的视频数据的源设备102。具体地,源设备102经由计算机可读介质110向目的地设备116提供视频数据。源设备102和目的地设备116可以包括多种设备中的任何一种,包括台式计算机、笔记本(即,膝上型)计算机、移动设备、平板计算机、机顶盒、诸如智能手机的电话手持设备、电视、相机、显示设备、数字媒体播放器、视频游戏控制台、视频流设备、广播接收器设备等。在一些情况下,源设备102和目的地设备116可以被装备用于无线通信,因此可以被称为无线通信设备。
在图1的示例中,源设备102包括视频源104、存储器106、视频编码器200和输出接口108。目的地设备116包括输入接口122、视频解码器300、存储器120和显示设备118。根据本公开,源设备102的视频编码器200和目的地设备116的视频解码器300可被配置为以本文描述的方式应用使用第一和第二阶段进行自适应环路滤波的技术。因此,源设备102表示视频编码设备的示例,而目的地设备116表示视频解码设备的示例。在其它示例中,源设备和目标设备可以包括其它组件或布置。例如,源设备102可以从外部视频源(例如外部相机)接收视频数据。类似地,目的地设备116可以与外部显示设备接口连接,而不是包括集成的显示设备。
如图1所示的系统100仅仅是一个示例。通常,任何数字视频编码和/或解码设备都可以执行本文描述的自适应环路滤波技术。源设备102和目的地设备116仅仅是这样的译码设备的示例,其中源设备102生成译码视频数据以传输到目的地设备116。本公开将“译码”设备称为执行数据译码(编码和/或解码)的设备。因此,视频编码器200和视频解码器300表示译码设备的示例,具体地分别是视频编码器和视频解码器。在一些示例中,源设备102和目的地设备116可以以基本对称的方式操作,使得源设备102和目的地设备116中的每一个包括视频编码和解码组件。因此,系统100可以支持源设备102和目的地设备116之间的单向或双向视频传输,例如,用于视频流传输、视频回放、视频广播或视频电话。
一般来说,视频源104表示视频数据的源(即,原始的、未编码的视频数据),并向视频编码器200提供视频数据的连续图片序列(也称为“帧”),视频编码器200对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备,例如摄像机、包含先前捕获的原始视频的视频存档和/或从视频内容提供商接收视频的视频馈送接口。作为另一替代方案,视频源104可以生成基于计算机图形的数据作为源视频,或者生成实时视频、存档视频和计算机生成的视频的组合。在每种情况下,视频编码器200对捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从接收到的顺序(有时称为“显示顺序”)重新布置成译码顺序以进行译码。视频编码器200可以生成包括编码的视频数据的位流。源设备102随后可经由输出接口108将编码的视频数据输出到计算机可读介质110上,以供例如目的地设备116的输入接口122接收和/或取得。
源设备102的存储器106和目的地设备116的存储器120表示通用存储器。在一些示例中,存储器106、120可以存储原始视频数据,例如,来自视频源104的原始视频和来自视频解码器300的原始的解码视频数据。附加地或可选地,存储器106、120可存储可分别由例如视频编码器200和视频解码器300执行的软件指令。尽管在本示例中,存储器106和存储器120被示出与视频编码器200和视频解码器300分开,但是应当理解,视频编码器200和视频解码器300还可以包括用于功能相似或等效目的的内部存储器。此外,存储器106、120可以存储编码的视频数据,例如,从视频编码器200输出并输入到视频解码器300的那些。在一些示例中,存储器106、120的部分可被分配为一个或多个视频缓冲器,例如用于存储原始的、解码的和/或编码的视频数据。
计算机可读介质110可以表示能够将编码的视频数据从源设备102传送到目的地设备116的任何类型的介质或设备。在一个示例中,计算机可读介质110表示使源设备102能够例如经由射频网络或基于计算机的网络实时地将编码的视频数据直接发送到目的地设备116的通信介质。输出接口108可以调制包括编码的视频数据的传输信号,并且输入接口122可以根据诸如无线通信协议的通信标准解调所接收的传输信号。通信介质可以包括任何无线或有线通信介质,例如射频(RF)频谱或一条或多条物理传输线。通信介质可以形成基于分组的网络的一部分,例如局域网、广域网或诸如互联网的全球网络。通信介质可包括路由器、交换机、基站或可用于促进从源设备102到目的地设备116的通信的任何其它装备。
在一些示例中,源设备102可以将编码的数据从输出接口108输出到存储设备112。类似地,目的地设备116可以经由输入接口122从存储设备112访问编码的数据。存储设备112可以包括各种分布式或本地访问的数据存储介质中的任何一种,例如硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器,或者用于存储编码的视频数据的任何其它合适的数字存储介质。
在一些示例中,源设备102可将编码的视频数据输出到文件服务器114或可存储由源设备102生成的编码的视频数据的另一中间存储设备。目的地设备116可以经由流传输或下载来从文件服务器114访问存储的视频数据。
文件服务器114可以是能够存储编码的视频数据并将该编码的视频数据发送到目的地设备116的任何类型的服务器设备。文件服务器114可以表示web服务器(例如,用于网站)、配置为提供文件传输协议服务(例如,文件传输协议(FTP)或单向传输文件传递(FLUTE)协议)的服务器、内容传递网络(CDN)设备、超文本传输协议(HTTP)服务器,多媒体广播多播服务(MBMS)或增强型MBMS(eMBMS)服务器和/或网络连接存储(NAS)设备。文件服务器114可以附加地或替代地实现一个或多个HTTP流传输协议,例如HTTP上的动态自适应流传输(DASH)、HTTP实时流传输(HLS)、实时流传输协议(RTSP)、HTTP动态流传输等。
目的地设备116可以通过包括互联网连接的任何标准数据连接来访问来自文件服务器114的编码的视频数据。这可以包括无线信道(例如,Wi-Fi连接)、有线连接(例如,数字订户线(DSL)、电缆调制解调器等)或两者的组合,其适于访问存储在文件服务器114上的编码的视频数据。输入接口122可以被配置为根据上面讨论的用于从文件服务器114取得或接收媒体数据的各种协议中的任何一个或多个,或者用于取得媒体数据的其他此类协议来操作。
输出接口108和输入接口122可以表示无线发送器/接收器、调制解调器、有线网络组件(例如,以太网卡)、根据各种IEEE 802.11标准中的任何一种进行操作的无线通信组件或其它物理组件。在输出接口108和输入接口122包括无线组件的示例中,输出接口108和输入接口122可被配置为根据蜂窝通信标准(例如4G、4G-LTE(长期演进)、LTE高级、5G等)传输数据,例如编码的视频数据。在输出接口108包括无线发送器的一些示例中,输出接口108和输入接口122可被配置为根据其它无线标准(例如IEEE 802.11规范、IEEE 802.15规范(例如ZigBeeTM)、蓝牙TM标准等)传输数据,例如编码的视频数据。在一些示例中,源设备102和/或目的地设备116可以包括相应的片上系统(SoC)设备。例如,源设备102可以包括用于执行归因于视频编码器200和/或输出接口108的功能的SoC设备,并且目的地设备116可以包括用于执行归因于视频解码器300和/或输入接口122的功能的SoC设备。
本公开的技术可应用于支持各种多媒体应用中的任何一种的视频译码,多媒体应用例如空中电视广播、有线电视传输、卫星电视传输、互联网流视频传输,例如HTTP上的动态自适应流传输(DASH),编码到数据存储介质上的数字视频、对存储在数据存储介质上的数字视频的解码或其它应用。
目的设备116的输入接口122从计算机可读介质110(例如,通信介质、存储设备112、文件服务器114等)接收编码的视频位流。编码的视频位流可以包括由视频编码器200定义的信令信息,其也由视频解码器300使用,例如具有描述视频块或其它译码单元(例如,切片、图片、图片组、序列等)的特性和/或处理的值的语法元素。显示设备118向用户显示解码的视频数据的解码图片。显示设备118可以表示各种显示设备中的任何一种,例如液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器或另一类型的显示设备。
尽管在图1中未示出,但在一些示例中,视频编码器200和视频解码器300可以各自与音频编码器和/或音频解码器集成,并且可以包括适当的MUX-DEMUX单元或其它硬件和/或软件,以处理在公共数据流中包括音频和视频二者的复用流。如果适用,MUX-DEMUX单元可符合ITU H.223复用器协议或诸如用户数据报协议(UDP)的其它协议。
视频编码器200和视频解码器300各自可以实现为各种合适的编码器和/或解码器电路中的任何一种,例如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑、软件、硬件,固件或其任何组合。当这些技术部分地在软件中实现时,设备可以将用于该软件的指令存储在合适的非暂时性计算机可读介质中,并且使用一个或多个处理器在硬件中执行该指令以执行本公开的技术。视频编码器200和视频解码器300中的每一个可以包括在一个或多个编码器或解码器中,其中任何一个都可以作为组合编码器/解码器(CODEC)的一部分集成在相应设备中。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器和/或无线通信设备,例如蜂窝电话。
视频编码器200和视频解码器300可以根据视频译码标准(例如,ITU-TH.265,也称为高效视频译码(HEVC))或其扩展(例如,多视图和/或可缩放视频译码扩展)来操作。可替换地,视频编码器200和视频解码器300可以根据其他专有或行业标准(例如,ITU-T H.266,也称为通用视频译码(VVC))进行操作。在Bross等人的“Versatile Video Coding(Draft10)”(“通用视频译码(草案10)”),ITU-T SG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET),第18次会议:电话会议,2020年6月22日至7月1日,JVET-S2001-v17(以下简称“VVC草案10”)中描述了VVC标准草案。然而,本公开的技术不限于任何特定的译码标准,此外,可以明确地设想,本文描述的技术可以结合VVC的后续标准来使用。
通常,视频编码器200和视频解码器300可以执行基于块的图片译码。术语“块”通常指包括要处理(例如,编码、解码或在编码和/或解码过程中以其它方式使用)的数据的结构。例如,块可以包括亮度和/或色度数据的样本的二维矩阵。通常,视频编码器200和视频解码器300可以对以YUV(例如,Y、Cb、Cr)格式表示的视频数据进行译码。也就是说,视频编码器200和视频解码器300可以对亮度和色度分量进行译码,而不是对用于图片的样本的红、绿和蓝(RGB)数据进行译码,其中色度分量可以包括红色调和蓝色调色度分量两者。在一些示例中,视频编码器200在编码之前将接收到的RGB格式的数据转换为YUV表示,并且视频解码器300将YUV表示转换为RGB格式。可替换地,预处理单元和后处理单元(未示出)可以执行这些转换。
本公开通常可以涉及对图片进行译码(例如,编码和解码),以包括对图片的数据进行编码或解码的过程。类似地,本公开可涉及对图片的块进行译码,以包括对块的数据进行编码或解码的过程,例如预测和/或残差译码。编码的视频位流通常包括表示译码决策(例如译码模式)的语法元素的一系列值,以及图片到块的分割。因此,对图片或块进行译码的引用通常应理解为构成图片或块的语法元素的译码值。
HEVC定义了各种块,包括译码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC,视频译码器(例如视频编码器200)根据四叉树结构将译码树单元(CTU)分割为CU。也就是说,视频译码器将CTU和CU分割为四个相等的、不重叠正方形,并且四叉树的每一个节点都有零个或四个子节点。没有子节点的节点可以称为“叶节点”,并且此类叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频译码器可以进一步分割PU和TU。例如,在HEVC中,残差四叉树(RQT)表示对TU的分割。在HEVC中,PU表示帧间预测数据,TU表示残差数据。帧内预测的CU包括帧内预测信息,例如帧内模式指示。
作为另一示例,视频编码器200和视频解码器300可以被配置为根据VVC操作。根据VVC,视频译码器(例如视频编码器200)将图片分割成多个译码树单元(CTU)。视频编码器200可以根据树结构(例如四叉树二叉树(QTBT)结构或多类型树(MTT)结构)来分割CTU。QTBT结构消除了多个分区类型的概念,例如HEVC的CU、PU和TU的分隔。QTBT结构包括两个级:根据四叉树分割而分割的第一级,根据二叉树分割而分割的第二级。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于译码单元(CU)。
在MTT分割结构中,块可以使用四叉树(QT)分割、二叉树(BT)分割和一种或多种类型的三叉树(TT)(也称三元树(TT))分割来分割。三叉树或三元树分割是其中块被拆分成三个子块的分割。在一些示例中,三叉树或三元树分割将一个块划分为三个子块,而不通过中心划分初始块。MTT中的分割类型(例如QT、BT和TT)可以是对称或不对称的。
在一些示例中,视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度和色度分量中的每一个,而在其它示例中,视频编码器200和视频解码器300可以使用两个或多个QTBT或MTT结构,例如用于亮度分量的一个QTBT/MTT结构和用于两个色度分量的另一QTBT/MTT结构(或用于各自色度分量的两个QTBT/MTT结构)。
视频编码器200和视频解码器300可以配置为使用每HEVC的四叉树分割、QTBT分割、MTT分割或其它分割结构。出于说明的目的,针对QTBT分割呈现了本公开技术的描述。但是,应该理解的是,本公开的技术也可以应用于配置为使用四叉树分割或者其它类型的分割的视频译码器。
在一些示例中,CTU包括亮度样本的译码树块(CTB)、具有三个样本阵列的图片的色度样本的两个对应CTB、或单色图片或使用三个单独的颜色平面和用于译码样本的语法结构进行译码的图片的样本的CTB。对于某个N值,CTB可以是N×N样本块,使得将分量划分为CTB是一种分割。分量是来自构成4:2:0、4:2:2或4:4:4颜色格式图片的三个阵列(亮度和两个色度)之一的阵列或单个样本,或构成单色格式图片的阵列或阵列的单个样本。在一些示例中,对于M和N的一些值,译码块是M×N样本块,使得将CTB划分为译码块是一种分割。
可以以各种方式在图片中对块(例如CTU或CU)进行分组。例如,砖块可以指图片中的特定图块内的CTU行的矩形区。图块可以是图片中在特定图块列和特定图块行内的CTU的矩形区。图块列是指CTU的矩形区,其高度等于图片的高度并且其宽度由语法元素(例如,在图片参数集中)指定。图块行是指CTU的矩形区,其具有由语法元素(例如,在图片参数集中)指定的高度并且其宽度等于图片的宽度。
在一些示例中,可以将图块分割成多个砖块,其中每一个砖块可以包括图块内一个或多个CTU行。未分割成多个砖块的图块也可以被称为砖块。然而,作为图块的真子集的砖块不可以被称为图块。
图片中的砖块也可以以切片布置。切片可以是图片的砖块的整数倍,其可以排他地包含在单个网络抽象层(NAL)单元中。在一些示例中,切片包括许多完整的砖块,或者仅仅一个图块的完整砖块的连续序列。
本公开可互换地使用“N×N”和“N乘N”来指代块(例如CU或其它视频块)在垂直和水平维度方面的样本维度,例如16×16样本或16乘16样本。一般来说,16×16CU在垂直方向上有16个样本(y=16),在水平方向上有16个样本在(x=16)。同样地,N×N CU通常在垂直方向上有N个样本,在水平方向上有N个样本,其中N表示非负整数值。CU中的样本可以布置成行和列。此外,CU在水平方向上不必具有与垂直方向上相同数量的样本。例如,CU可以包括N×M样本,其中M不一定等于N。
视频编码器200对表示预测和/或残差信息以及其它信息的CU的视频数据进行编码。预测信息指示如何预测CU,从而形成CU的预测块。残差信息通常表示编码前CU的样本与预测块之间的逐样本差异。
为了预测CU,视频编码器200通常可以通过帧间预测或帧内预测来形成CU的预测块。帧间预测通常指根据先前译码的图片的数据预测CU,而帧内预测通常指根据相同图片的先前译码的数据预测CU。为了执行帧间预测,视频编码器200可以使用一个或多个运动向量来生成预测块。视频编码器200通常可以执行运动搜索,以识别例如就CU和参考块之间的差异而言与CU紧密地匹配的参考块。视频编码器200可以使用绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)和或其它此类差值计算来计算差值度量,以确定参考块是否与当前CU紧密地匹配。在一些示例中,视频编码器200可以使用单向预测或双向预测来对当前CU进行预测。
VVC的一些示例还提供了仿射运动补偿模式,该模式可以被视为帧间预测模式。在仿射运动补偿模式中,视频编码器200可以确定表示例如放大或缩小、旋转、透视运动或其它不规则运动类型的非平移运动的两个或更多个运动向量。
为了执行帧内预测,视频编码器200可以选择帧内预测模式以生成预测块。VVC的一些示例提供了六十七种帧内预测模式,包括各种方向模式,以及平面模式和DC模式。一般地,视频编码器200选择描述到当前块(例如CU的块)的相邻样本的帧内预测模式,以从相邻样本预测当前块的样本。假设视频编码器200以光栅扫描顺序(从左到右、从上到下)对CTU和CU进行译码,则此类样本通常可以在与当前块相同的图片中在当前块的上方、左上方、或左侧。
视频编码器200对表示当前块的预测模式的数据进行编码。例如,对于帧间预测模式,视频编码器200可以对表示使用了各种可用的预测模式中的哪一种以及用于对应模式的运动信息的数据进行编码。对于单向或双向帧间预测,例如,视频编码器200可以使用高级运动向量预测(AMVP)或合并模式对运动向量进行编码。视频编码器200可以使用类似的模式来对用于仿射运动补偿模式的运动向量进行编码。
在诸如块的帧内预测或帧间预测的预测之后,视频编码器200可以计算块的残差数据。残差数据(诸如残差块)表示块与该块的使用对应预测模式形成的预测块之间的逐样本差异。视频编码器200可以将一个或多个变换应用于残差块,以在变换域中而非样本域中产生转换数据。例如,视频编码器200可以将离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换应用于残差视频数据。此外,视频编码器200可以在第一变换之后应用二次变换,例如模式依赖的不可分二次变换(MDNSST)、信号依赖的变换、Karhunen-Loeve变换(KLT)等。视频编码器200在应用一个或多个变换后产生变换系数。
如上所述,在用来产生变换系数的任何变换之后,视频编码器200可以执行变换系数的量化。量化通常指将变换系数进行量化以可能地减少用于表示变换系数的数据量,从而提供进一步的压缩的过程。通过执行量化处理,视频编码器200可以减少与变换系数中的一些或所有相关联的位深度。例如,视频编码器200可以在量化期间将n位值四舍五入为m位值,其中n大于m。在一些示例中,为了执行量化,视频编码器200可以对待量化的值执行逐位右移。
量化之后,视频编码器200可以对变换系数进行扫描,根据包括量化的变换系数的二维矩阵产生一维向量。可以将扫描设计为将较高能量(因此频率较低)的变换系数放在向量的前面,并将较低能量(因此频率较高)的变换系数放在向量的后面。在一些示例中,视频编码器200可以利用预定义的扫描顺序来对量化的变换系数进行扫描以产生序列化的向量,然后对向量的量化的变换系数进行熵编码。在其他示例中,视频编码器200可以执行自适应扫描。在对量化的变换系数进行扫描以形成一维向量之后,例如根据上下文自适应的二进制算术译码(CABAC),视频编码器200可以对一维向量进行熵编码。视频编码器200还可以对语法元素的值进行熵编码,该语法元素描述与编码的视频数据相关联的元数据,以由视频解码器300在对视频数据进行解码中使用。
为了执行CABAC,视频编码器200可以将上下文模型内的上下文分配给待发送的符号。上下文可以涉及例如符号的相邻值是否是零值。概率确定可以基于分配给符号的上下文。
视频编码器200可以进一步地,诸如在图片报头、块报头、切片报头中,生成给视频解码器300的语法数据,诸如基于块的语法数据、基于图片的语法数据以及基于序列的语法数据,或其他语法数据,诸如序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS)。视频解码器300可以类似地对此类语法数据进行解码来确定如何对对应的视频数据进行解码。
以此方式,视频编码器200可以生成包括编码的视频数据的位流,例如描述将图片分割成块(例如CU)的语法元素以及块的预测和/或残差信息。最终,视频解码器300可以接收位流并且对编码的视频数据进行解码。
总体上,视频解码器300执行的是与视频编码器200执行的过程的相反的过程,以对位流的编码的视频数据进行解码。例如,视频解码器300可以以与视频编码器200的CABAC编码过程基本相似(尽管与之相反)的方式,使用CABAC对位流的语法元素的值进行解码。语法元素可以定义分割信息,该分割信息用于将图片分割为CTU,以及根据诸如QTBT结构的对应分割结构对每一个CTU进行分割来定义CTU的CU。语法元素可以进一步定义视频数据的块(例如CU)的预测和残差信息。
残差信息可以由例如量化的变换系数表示。视频解码器300可以对块的量化的变换系数进行逆量化和逆变换,以对块的残差块进行再现。视频解码器300使用信令通知的预测模式(帧内或帧间预测)和相关的预测信息(例如用于帧间预测的运动信息)来形成用于块的预测块。然后,视频解码器300可以(在逐样本的基础上)组合预测块和残差块以对初始块进行再现。视频解码器300可以执行附加处理(诸如执行去块过程)来减少沿块边界的视觉伪影。
本公开通常可以指“信令通知”某些信息,诸如语法元素。术语“信令通知”通常可以指对于语法元素和/或用于对编码的视频数据进行解码的其他数据的值的通信。也就是说,视频编码器200可以在位流中信令通知的语法元素的值。一般地,信令通知是指在位流中生成值。如上所述,源设备102可以基本上实时地将位流传输到目的地设备116,或非实时地将位流传输到目的地设备116,诸如在将语法元素存储到存储设备112以供稍后由目的地设备116取得时可能发生。
在视频译码中,例如在H.266/VVC标准中,应用ALF来最小化经滤波样本和初始样本之间的均方误差。例如,ALF的输入样本可以是SAO的输出样本。ALF的输出样本可以存储在解码图片缓冲器(DPB)中,或者作为可视图片输出。联合探索模型(JEM)软件中采用的ALF滤波器形状为5×5、7×7和9×9菱形。在JEM,可以在图片级选择和信令通知滤波器形状。为了在译码效率和滤波器复杂度之间获得更好的折衷,在VVC,对于亮度和色度分量,仅分别支持7×7菱形和5×5菱形。
图2A示出了示例滤波器140,其是7×7菱形滤波器。图2B示出了示例滤波器142,其是5×5菱形滤波器。在每个滤波器140和142中,整数系数ci用7位小数精度表示。ci的绝对值通过使用后跟非零系数符号位的0阶指数哥伦布(Exp-Golomb)码进行译码。在图2A和图2B中,每个方块对应亮度或色度样本,中心方块对应当前要滤波的样本。为了减少发送系数的开销和乘法次数,图2A和图2B中的滤波器形状是点对称的。此外,如等式(1)所示,所有滤波器系数之和被设置为等于128,这是1.0的定点表示,具有7位小数精度。
在等式(1)中,N是系数的数量,对于7×7和5×5滤波器形状,N分别等于13和7。
在VVC,非线性被引入到ALF中。当相邻样本值和当前要滤波的样本值之间的差太大时,应用简单的裁剪函数来减小相邻样本值的影响。为了对样本进行滤波,ALF可以被执行为:
其中R(x,y)是SAO后的样本值。
非线性函数用裁剪函数定义为:
fi,j=min(bi,max(-bi,R(x+xi,j,y+yi,j)-R(x,y))) (3)
其中j等于0或1,并且(xi,j,yi,j)是第i个系数ci的滤波器抽头位置偏移。
在VVC版本1中,如等式(4)所示,系数ci的裁剪参数bi由裁剪指数di确定。BD是内部位深度。
对于滤波器,信令通知的系数的数量和信令通知的裁剪指数的数量都是N-1。每个系数限定在[-128,127]的范围内,相当于具有7位小数精度的[-1.0,1.0]。每个裁剪指数di可以是0、1、2或3,并且通过使用两位固定长度代码来信令通知。为了简化裁剪操作,如在等式(4)中,裁剪参数bi的值可以被限制为仅仅是2的幂。因此,逐位逻辑运算可以用作裁剪运算。
视频编码器200和视频解码器300可被配置为执行子块级滤波器适配。在VVC版本1中,ALF遵循与JEM 7.0中的ALF相同的亮度分类框架。为了在译码效率和计算复杂度之间获得更好的折衷,用于分类的块大小可以从2×2样本增加到4×4样本。为了确定4×4块的类索引,使用具有8×8亮度样本的周围窗口来导出方向和活动信息。在这个8×8亮度样本窗口中,首先计算每隔一个样本的四个梯度值,如图3所示。图3示出了用于ALF分类的4×4子块150的子采样拉普拉斯值。计算用点标记的样本的梯度值。其他样本的梯度值被设置为0。
图4用坐标(k,l)示出了每个样本的四个梯度值。点代表正在计算其梯度的样本。块160示出了水平梯度(H),块162示出了垂直梯度(V)。块164示出了135度梯度(D1),块166示出了45度梯度(D2)。H、V、D1和D2的导出如下:
变量i和j可以指4×4块中左上样本的坐标。计算出的水平梯度gH、垂直梯度gV、135度梯度gD1和45度梯度gD2的总和计算如下:
如等式(7)所示,计算水平和垂直梯度的最大值和最小值之比,用RH,V表示,以及两个对角梯度的最大值和最小值之比,用RD1,D2表示。
然后,将RH,V和RD1,D2与两个阈值t1=2和t2=4.5相互比较,以得出方向性D:
步骤1:如果RH,V≤t1且RD1,D2≤t1,D被设置为0(纹理),否则继续步骤2。
步骤2:如果RD1,D2>DH,V,继续步骤3,否则继续步骤4。
步骤3:如果RD1,D2≤t2,D被设置为1(弱对角线),否则,D被设置为2(强对角线)。
步骤4:如果RH,V≤t2,D被设置为3(弱水平/垂直),否则,D被设置为4(强水平/垂直)。
活动值A计算如下:
图5示出将25个亮度类合并成7个合并类(0到6)的示例,其中每个方块表示基于D和的值的类。5×5网格170表示25个类,其中5×5网格170的每个框内的数字表示从0到6的合并类。每个类,即5×5网格170中的每个方块,可以具有从0到24(含0和24)的索引。A被映射到0到4(含0和4)的范围,并且量化值表示为/>因此,每个4×4块被分为25个类中的一类,如下所示:
亮度滤波器集包含25个滤波器。然而,为了在保持译码效率的同时减少表示滤波器系数所需的位数,可以合并不同的类,合并类使用相同的滤波器。信令通知合并表。在合并表中,例如使用固定长度的代码来信令通知每个类的滤波器索引。在图5的示例滤波器集中,信令通知7个亮度滤波器。对于每个类,在ALF_APS中信令通知滤波器索引(在该示例中从0到6)。
在基于4×4块的类索引C和合并表从亮度滤波器集中确定滤波器之后,在对4×4块的样本进行滤波之前,可以根据如表1所示的为4×4块计算的梯度值来对滤波器应用几何变换。
表2基于梯度值的几何变换
梯度值 | 变换 |
gD2<gD1和gH<gV | 不变换 |
gD2<gD1和gV≤gH | 对角翻转 |
gD1≤gD2和gH<gV | 垂直翻转 |
gD1≤gD2和gV≤gH | 向右旋转 |
图6示出了图2A中滤波器140的几何变换的示例。如图6所示,滤波器180对应于滤波器140的对角翻转。滤波器182对应于滤波器140的垂直翻转,滤波器184对应于滤波器140的向右旋转。
视频编码器200和视频解码器300可以被配置为执行译码树块级适配。在JEM-7.0中,只有一个亮度滤波器集被应用于切片的所有亮度CTB,只有一个色度滤波器被应用于切片的所有色度CTB。然而,有两个潜在的缺点。首先,当CTB之间的统计信息相差一定量时,对颜色分量的所有CTB使用相同的滤波器或滤波器集会限制ALF的译码效率,尤其是对于大分辨率序列和混合内容视频序列。第二,当导出切片的滤波器时,在收集了整个切片的统计信息之前,不能计算滤波器。这种多遍译码对于低延迟应用并不友好。为了解决这个问题,一种解决方案是使用来自先前译码切片的统计数据。但是,这可能会导致一些性能损失。
除了亮度4×4块级滤波器适配,VVC支持CTB级滤波器适配。在切片中,允许不同的亮度CTB使用不同的亮度滤波器集,并且不同的色度CTB能够使用不同的色度滤波器。具有相似统计数据的CTB可以使用相同的滤波器。这种CTB级滤波器适配改善了译码效率,尤其是对于低延迟应用。此外,VVC版本1允许来自先前译码图片的滤波器用于CTB。这种时间滤波器重用机制可以减少滤波器系数信令通知的开销。VVC版本1中,最多可以将七个信令通知的亮度滤波器集和八个信令通知的色度滤波器应用于一个切片。当没有任何信令通知的滤波器时,可以将16个固定滤波器集中的一个应用于亮度CTB。当ALF被启用时,固定滤波器集或信令通知的亮度滤波器集的滤波器集索引将针对亮度CTB进行信令通知。针对色度CTB,信令通知已信令通知的色度滤波器的滤波器索引。通过使用从先前译码的图片信令通知的滤波器和固定滤波器,当在低延迟应用中编码当前CTU时,仅通过使用当前CTU的统计信息就可以确定三个CTU级开/关标志和滤波器/滤波器集索引。因此,可以即时生成每个CTU的编码位流,而无需等待整个图片的统计数据的可用性。
视频编码器200和视频解码器300可被配置为执行用于线缓冲减少的技术。如图2A和图2B所示,在垂直方向上,滤波器形状对于亮度和色度分量分别具有7个抽头和5个抽头。结果,在VVC测试模型2.0(VTM-2.0)中,当解码一行CTU时,由于去块滤波器和SAO滤波器的延迟,上部CTU行的7个亮度线和4个色度线必须存储在ALF的线缓冲器中。然而,额外的线缓冲器需要较大的芯片面积,尤其是对于高清(HD)和超高清(UHD)视频序列。
为了使ALF硬件友好(例如,通过减少线缓冲器需求),可以应用虚拟边界(VB)的概念来移除ALF的所有线缓冲器开销。考虑VVC版本1中的去块滤波器和SAO滤波器,VB的位置是水平CTU边界上方的4个亮度样本和2个色度样本。当VB一侧的一个样本被滤波时,VB另一侧的样本不能被利用,可以应用具有对称样本填充的修改滤波。
图7A-图7C示出了在ALF VB处用于亮度ALF滤波的对称样本填充的示例。在图7A-图7C的示例中,滤波器190的中心方块是当前要滤波的样本的位置,粗线是VB(VB 192)的位置。在图7A-图7C中,用虚线填充滤波器抽头位置。图7A示出了滤波器190的一个滤波器抽头位置在VB 192之上或之下的示例。在该示例中,填充了一个滤波器抽头位置。图7B示出了滤波器190的四个滤波器抽头位置在VB 192之上或之下的示例。在该示例中,填充了四个滤波器抽头位置。
然而,如图7C所示,当样本在VB 192的每一侧的最近的行上时,2D滤波器相当于水平滤波器。这可能会引入视觉伪像。为了解决这个问题,在当前要滤波的样本位于VB的每一侧的最近的行上时,可以补偿滤波器强度,如等式(10)所示。将等式(10)与等式(2)进行比较,可以看出又右移了3位。
当应用VB处理时,4×4块的分类也可以被修改。当计算VB的一侧上的4×4块的类索引时,可以不使用VB的另一侧上的梯度和样本,如图8所示。
图8示出了在ALF VB处的ALF 4×4子块分类的示例。当计算与VB相邻的样本的梯度值时,不能利用VB的另一侧上的样本。因此,当前侧的边界样本被重复扩展,如图8所示。也就是说,VB的当前侧上的边界样本被镜像到VB的另一侧。随着可用梯度值的数量减少,等式(8)中的活动值推导被重新缩放为:
视频编码器200和视频解码器300可被配置为执行滤波器系数信令通知。在VVC版本1中,在ALF适配参数集(APS)中信令通知ALF系数。一个APS可以包含一个亮度滤波器集,最多25个滤波器,最多8个色度滤波器和最多8个交叉分量ALF(CC-ALF)滤波器。每个亮度滤波器集都支持将ALF应用于亮度25个类。在VVC版本1中,最多支持8个ALF_APS。
下面的表2示出了根据本公开的技术的用于信令通知滤波器系数的示例语法信号表。
表2
/>
/>
本公开描述了可以进一步改善ALF的性能的技术。例如,在VVC,当对样本进行滤波时,只能应用一个分类器和一个滤波器。然而,本公开描述了用于应用多个分类器和滤波器来捕捉更多局部特征的技术。本公开描述了用于使用多个滤波器和分类器来对样本进行滤波的框架的技术。
图9示出了用于使用多个固定滤波器集和多个信令通知的滤波器集来对视频数据的重构样本进行滤波的示例框架。视频编码器200和视频解码器300可被配置为根据图9的技术实施多个固定滤波器和多个信令通知的滤波器。图10-图15的技术将关于视频解码器300来描述,但是也可以由视频编码器200来执行。
在图9的示例中,视频解码器300将第一阶段ALF 400应用于重构样本R(x,y)以确定中间经滤波信号R’。视频解码器300然后将第二阶段ALF 410应用于R’以确定经滤波样本430的值。
现在将更详细地描述第一阶段ALF 400的方面。
·Ns和Nf表示可以应用于样本的信令通知的滤波器集和固定(预定义)的滤波器集的数量。Rs是ALF的输入样本。
·F(f,i),其中i=0…Nf-1表示第i个固定滤波器集
·C(f,i),其中i=0…Nf-1表示第i个固定滤波器集的分类器。通过C(f,i),对于每个样本,计算滤波器索引。基于滤波器索引,从固定滤波器集F(f,i)中选择滤波器来对该样本进行滤波。此外,C(f,i)决定如何对系数应用几何变换。
·F(s,i),其中i=0…Ns-1表示第i个信令通知的滤波器集
·C(s,i),其中i=0…Ns-1表示第i个信令通知的滤波器集的分类器。通过C(s,i),对于每个样本,计算滤波器索引。基于滤波器索引,从固定滤波器集F(s,i)中选择滤波器来对该样本进行滤波。此外,C(s,i)决定如何对系数应用几何变换。
对于重构样本R(x,y),通过使用重构样本本身和相邻样本,视频解码器300可以应用多个滤波器集。给定滤波器集(可以是固定的滤波器集或信令通知的滤波器集),可以应用分类器。分类器确定可以应用滤波器集中的哪个滤波器,以及如何转置滤波器系数。在第一阶段之后,对于每个滤波器集和相应的分类器,可以计算中间经滤波信号R’,例如,
对于第i个滤波器,其中i=0…Nf+Ns-1,ci,j是从第i个滤波器集中选择的滤波器的第j个系数,Ni是系数的数量,并且fi,j,k(其中k=0或1)是一个相邻样本和当前样本的函数,例如,fi,j,k可以被实施为VVC中的裁剪函数
fi,j,k=min(bi,j,max(-bi,j,R(x+xi,j,k,y+yi,j,k)-R(x,y))) (13)
(xi,j,k,yi,j,k)是相邻样本相对于当前样本的坐标偏移。
在一些示例中,固定滤波器或信令通知的滤波器的滤波器形状可以是5×5、7×7、9×9、11×11和13×13。图10A示出了5×5菱形滤波器形状的滤波器510的示例,而图10B示出了7×7菱形滤波器形状的滤波器520的示例。图10C示出了9×9菱形滤波器形状的滤波器530的示例,而图10D示出了11×11菱形滤波器形状的滤波器540的示例。图10E示出了13×13菱形滤波器形状的滤波器550的示例。
在一个示例中,视频解码器300可被配置为基于2-D拉普拉斯/梯度值来确定分类器C(f/s,i)、活动值和方向值。分类器可以被应用于每个样本或块。当将分类器应用于块时,块中的所有样本具有相同的类索引和相同的转置类型。例如,wi可以表示块的宽度,hi可以表示块的高度,并且(x,y)可以表示块的左上样本的坐标。
对于具有坐标(k,l)的样本,四个拉普拉斯(梯度)值:水平梯度H、垂直梯度V、135度梯度D1和45度梯度D2可以导出为
视频解码器300可被配置为通过使用垂直和水平梯度来导出活动值Ai,如下所示:
其中ai和bi分别是分类器C(f/s,i)在水平和垂直方向上的窗口大小。
视频解码器300可被配置为将Ai量化到0至MA,i-1(含0和MA,i-1)的范围。量化值表示为
视频解码器300可被配置为使用水平梯度H、垂直梯度V、135度梯度D1和45度梯度D2来确定方向。
视频解码器300可被配置为首先计算水平梯度gi,H、垂直梯度gi,V和两个对角梯度gi,D1和gi,D2的值,如下所示:
为了分配方向Di,视频编码器200和视频解码器300可以被配置为导出水平梯度和垂直梯度的最大值和最小值、两个对角梯度的最大值和最小值,如下所示:
然后,可以像VVC一样导出方向Di,其中方向数量MD,i=5:
步骤1.如果且/>则Di被设置为0(块被归类为“纹理”)。
步骤2.如果从步骤3继续,否则从步骤4继续。
步骤3.如果则Di被设置为2(块被归类为“强水平/垂直”),否则Di被设置为1(块被归类为“弱水平/垂直”)。
步骤4.如果则Di被设置为4(块被归类为“强对角线”),否则Di被设置为3(块被归类为“弱对角线”)。
在一些示例中,可以支持更多的方向。
视频解码器300可被配置为通过将比率与阈值数组(Th)进行比较来计算水平/垂直方向的边缘强度(ESi,HV)。阈值数组的大小用S表示,并且阈值按升序布置。方向数量是MD,i=(S+1)*(S+2)
步骤1.初始化m=0和ESi,HV=0;
步骤2.如果m等于S,则停止;否则,转到步骤3。
步骤3.如果则m=m+1且ESi,HV=ESi,HV+1,转到步骤2;否则,停止。
视频解码器300可被配置为如下计算对角线方向directions(Ei,D):
步骤1.初始化m=0和Ei,D=0;
步骤2.如果m等于S,则停止;否则,转到步骤3。
步骤3.如果则m=m+1且Ei,D=Ei,D+1,转到步骤2;否则,停止。
阈值数组的示例是Th=[1.25,1.5,2,3,4.5,8]且S=6。
视频解码器300可以被配置为如下确定主边缘强度(ESM)和次边缘强度(ESS):
如果则ESM被设置为ESHV,ESS被设置为ESD;否则,ESM被设置为ESD,ESS被设置为ESHV
如果ESS大于ESM,则Di被设置为0。否则,如果 则Di=ESM*(ESM+1)/2+ESS;否则,Di=ESM*(ESM+1)/2+ESS+MD,i/2
视频解码器300可被配置为导出类索引Ci为
基于Ci,视频编码器200和视频解码器300可被配置为从滤波器集F(f/s,i)中选择滤波器。
现在将更详细地描述第二阶段ALF 410的方面。在第二阶段ALF 410,F’是滤波器集,C’是相应的分类器。可以用当前样本及其相邻样本进一步对中间滤波结果进行滤波。C’可用于确定应用F’中的哪个滤波器以及如何转置系数。在一个示例中,F’可以是信令通知的滤波器集或固定的(预定义的)滤波器集。在一个示例中,通过以与第一阶段相同的方式计算活动值和方向,C’可以使用Rs和/或R’s来确定滤波器集F’的滤波器索引。当应用F’时,可以应用转置。
可以从一个或多个候选固定滤波器集中选择固定滤波器集F(f,i)和相应的分类器C(f,i)。在一个示例中,给定i,对于固定滤波器集F(f,i)和分类器C(f,i),可能存在一些候选固定滤波器集。并且可以基于译码信息来选择固定滤波器集F(f,i)和分类器C(f,i),译码信息例如是图片/CTU/CU/PU/TU大小、量化参数(QP)、非零量化系数的数量、运动向量、窗口大小(ai,bi)等。在一些示例中,对于每个F(f,i),可以信令通知语法元素来指示使用第i个固定滤波器集的候选固定滤波器集中的哪个固定滤波器集。语法元素可作为SPS、PPS、VPS、APS、图片报头(PH)、切片报头(SH)、子图片、CTU或块的一部分来进行信令通知。在一些示例中,所有这些语法元素可以具有相同的值,并且只需要信令通知一个语法元素。在一些示例中,对于F(f,i),可能只有一个候选固定滤波器集可用,因此不需要信令通知语法元素。
在一个示例中,可以在诸如SPS、VPS、APS、PH、SH、CTU或子块级的高级隐式地确定或显式地信令通知Ns和Nf。
视频解码器300可被配置为实施多个固定滤波器和一个信令通知的滤波器。在另一个示例中,为了减少位流信令开销,同时保持自适应性,视频编码器200和视频解码器300可以被配置为仅使用一个信令通知的滤波器和多个固定滤波器来对当前样本进行滤波,如图11所示。
图11示出了根据本公开的技术的用于实施多个固定滤波器和一个信令通知的滤波器的示例框架。在图11的示例中,视频编码器200和视频解码器300将第一阶段ALF 540应用于重构块的重构样本R(x,y)。为了应用第一阶段ALF 540,视频编码器200和视频解码器300应用分类器(C)来确定重构样本的第一类索引,并基于第一类索引从第一滤波器集(F)中选择滤波器(f)。视频编码器200和视频解码器300将来自第一滤波器集中的滤波器应用于重构样本,以确定第一中间样本值(R’)。如图11所示,在第一阶段540中,视频编码器200和视频解码器300可以使用多个分类器和多个滤波器来确定多个中间样本值。
视频编码器200和视频解码器300将第二阶段ALF 542应用于重构样本。以下等式(28)示出了视频编码器200和视频解码器300可如何应用第二阶段ALF的示例。
Nf表示可应用于样本的固定(预定义)滤波器集的数量。Rs是ALF的输入。F(f,i)(其中i=0…Nf-1)表示第i个固定滤波器集。C(f,i)(其中i=0…Nf-1)表示第i个固定滤波器集的分类器。通过C(f,i),对于每个样本,计算滤波器索引。基于滤波器索引,从固定滤波器集F(f,i)中选择滤波器来对该样本进行滤波。此外,C(f,i)决定如何对系数应用几何变换。
现在将描述第一阶段。在第一阶段,对于重构样本R(x,y),通过使用重构样本本身和相邻样本,视频编码器200和视频解码器300可以被配置为应用多个固定滤波器集。给定固定滤波器集F(f,i),视频编码器200和视频解码器300可以应用分类器C(f,i)。基于导出的类索引,视频编码器200和视频解码器300可以应用来自滤波器集F(f,i)的滤波器。此外,在C(f,i)中确定几何变换,并且几何变换可以应用于所选滤波器的系数。在第一阶段之后,对于每个滤波器集和相应的分类器,视频编码器200和视频解码器300可以例如如下计算中间经滤波信号R’:
对于第i个滤波器,其中i=0…Nf-1,ci,j是从第i个滤波器集F(f,i)中选取的滤波器的第j个系数,Ni是系数的数量,并且fi,j,k(其中k=0或1)是一个相邻样本和当前样本的函数,例如,fi,j,k可以被实施为VVC中的裁剪函数
fi,j,k=min(bi,j,max(-bi,j,R(x+xi,j,k,y+yi,j,k)-R(x,y))) (20)
(xi,j,l,yi,j,k)是相邻样本相对于当前样本的坐标偏移,bi,j是从第i个滤波器集中选择的滤波器的第j个裁剪参数。
在一些示例中,固定滤波器或信令通知的滤波器的滤波器形状可以是5×5、7×7、9×9、11×11和13×13,如图9所示。
在一个示例中,视频编码器200和视频解码器300可以基于2-D拉普拉斯值在分类器C(f,i)中确定活动值和方向值。分类器可以被应用于每个样本或块。当将分类器应用于块时,块中的所有样本具有相同的类索引和相同的转置类型。例如,wi可以表示块的宽度,hi可以表示块的高度,并且(x,y)可以表示块的左上样本的坐标。
对于具有坐标(k,l)的样本,视频编码器200和视频解码器300可被配置为导出四个拉普拉斯(梯度)值:水平梯度H、垂直梯度V、135度梯度D1和45度梯度D2,如下:
视频编码器200和视频解码器300可以通过使用垂直梯度和水平梯度来导出活动值Ai,如下所示:
其中ai和bi分别是分类器C(f,i)在水平和垂直方向上的窗口大小。
视频编码器200和视频解码器300可以被配置为将Ai量化到0至MA,i-1(含0和Mi,i-1)的范围,并且量化值被表示为
在一个示例中,
MA,i=16,Ai=min(192,(multi·Ai)>>(9+bitdepth)),其中
Q[193]={0,1,2,3,4,4,5,5,6,6,6,6,7,7,7,7,8,8,8,8,8,8,8,8,9,9,9,9,9,9,9,9,10,10,10,10,10,10,10,10,10,10,10,10,10,10,10,10,11,11,11,11,11,11,11,11,11,11,11,11,11,11,11,11,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,12,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,13,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,14,15};
bitdepth是R(x,y)的位深度,multi可以取决于窗口大小(ai,bi),并且multi可以等于以下值:
ai | bi | multi |
0 | 0 | 5628 |
1 | 1 | 1407 |
2 | 2 | 624 |
3 | 3 | 351 |
4 | 4 | 225 |
5 | 5 | 156 |
视频编码器200和视频解码器300可以被配置为通过使用水平梯度H、垂直梯度V、135度梯度D1和45度梯度D2来确定方向。
视频编码器200和视频解码器300可被配置为首先计算水平梯度gi,H、垂直梯度gi,V和两个对角梯度gi,D1和gi,D2的值,如下所示:
/>
为了分配方向Di,,视频编码器200和视频解码器300可以被配置为导出水平梯度和垂直梯度的最大值和最小值以及两个对角梯度的最大值和最小值,如下所示:
然后视频编码器200和视频解码器300可被配置为如下导出方向Di,其中方向数量MD,i=5:
步骤1.如果且/>则Mi被设置为0(块被归类为“纹理”)。
步骤2.如果从步骤3继续,否则从步骤4继续。
步骤3.如果则Di被设置为2(块被归类为“强水平/垂直”),否则Di被设置为1(块被归类为“弱水平/垂直”)。
步骤4.如果则Di被设置为4(块被归类为“强对角线”),否则Di被设置为3(块被归类为“弱对角线”)。
在一些示例中,可以支持更多的方向。
视频编码器200和视频解码器300可被配置为通过将比率与阈值数组(Th)进行比较来计算水平方向/垂直方向的边缘强度(ESi,HV)。阈值数组的大小可以是S,并且阈值可以升序排序。方向数量是MD,i=(S+1)*(S+2)
步骤1.初始化m=0和ESi,HV=0;
步骤2.如果m等于S,则停止;否则,转到步骤3。
步骤3.如果则m=m+1且ESi,HV=ESi,HV+1,转到步骤2;否则,停止。
视频编码器200和视频解码器300可被配置为如下计算对角线方向(Ei,D):
步骤1.初始化m=0和Ei,D=0;
步骤2.如果m等于S,则停止;否则,转到步骤3。
步骤3.如果则m=m+1且Ei,D=Ei,D+1,转到步骤2;否则,停止。
阈值数组的示例是Th=[1.25,1.5,2,3,4.5,8]且S=6。
视频编码器200和视频解码器300可以被配置为如下确定主边缘强度(ESM)和次边缘强度(ESS):
如果则ESM被设置为ESHV,ESS被设置为ESD;否则,ESM被设置为ESD,ESS被设置为ESHV
如果ESS大于ESM,则Di被设置为0。否则,如果 Di=ESM*(ESM+1)/2+ESS;否则,Di=ESM*(ESM+1)/2+ESS+MD,i/2/>
类索引Ci可以导出为
基于Ci,从C(f,i)中选取滤波器。
视频编码器200和视频解码器300可以从一个或多个候选固定滤波器集中选择固定滤波器集F(f,i)和相应的分类器C(f,i)。在一个示例中,给定i,对于固定滤波器集F(f,i)和分类器C(f,i),可能存在一些候选固定滤波器集。并且可以基于译码信息来选择固定滤波器集F(f,i)和分类器C(f,i),译码信息例如是图片/CTU/CU/PU/TU大小、QP、非零量化系数的数量、运动向量、窗口大小(ai,bi)等。在一些示例中,对于每个F(f,i),可以信令通知语法元素来指示使用第i个固定滤波器集的候选固定滤波器集中的哪个固定滤波器集。可以在SPS、PPS、VPS、APS、PH、SH、子图片、CTU或块级信令通知语法元素。在一些示例中,所有这些语法元素可以具有相同的值,并且只需要信令通知一个语法元素。在一些示例中,候选固定滤波器集可以仅具有一个固定滤波器集,因此不需要信令通知语法元素。
在一个示例中,给定窗口大小(ai,bi),所有可用的固定滤波器的数量是T。例如,QP可以表示当前样本的量化参数,其中QP_MIN、QP_MAX和QP_OFFSET是预定义的值。两个候选固定滤波器集的索引可以确定为
I0=min(T-2,max(0,(qp-QP_MIN)/QP_OFFSET),I1=I0+1。
可以信令通知语法元素来指示针对F(f,i)是使用第I0个候选固定滤波器集还是第I1个候选固定滤波器集。在一些示例中,所有固定滤波器集可以共享相同的语法元素。
现在将描述第二阶段的方面。在第二阶段,F’是信令通知的滤波器或预定义滤波器集,C’是相应的分类器。可以用当前样本和/或其相邻样本进一步对中间滤波结果进行进一步滤波。C’可用于确定应用F’中的哪个滤波器以及如何转置系数。通过如第一阶段计算活动值和方向,C’可以使用Rs和/或R’s来确定滤波器集F’的滤波器索引。当应用F’时,可以应用转置。
在一个示例中,对于具有坐标(k,l)的样本,四个拉普拉斯(梯度)值:水平梯度H、垂直梯度V、135度梯度D1和45度梯度D2可以导出为
视频编码器200和视频解码器300可以被配置为通过使用垂直梯度和水平梯度来导出活动值A,如下所示:
其中a和b分别是分类器C’在水平和垂直方向上的窗口大小,w和h是块的宽度和高度,其中所有样本具有相同的分类索引和相同的转置索引。
视频编码器200和视频解码器300可以被配置为将A量化到0至MA-1(含0和MA-1)的范围,并且量化值被表示为例如,
其中
Q={0,1,2,2,2,2,2,3,3,3,3,3,3,3,3,4}
bitdepth是R(x,y)的位深度,mult可以取决于窗口大小a*b,并且mult可以等于以下值:
a | b | mult |
0 | 0 | 5628 |
1 | 1 | 1407 |
2 | 2 | 624 |
3 | 3 | 351 |
4 | 4 | 225 |
5 | 5 | 156 |
可以以美国专利公开2017/0238020A1、美国专利公开2017/0237981A1或美国专利公开2017/0237982A1中描述的方式来计算方向和如何执行转置,所有这些文献通过引用并入本文。
现在将描述滤波的其他方面。在从C’获得样本的类索引之后,视频编码器200和视频解码器300可以被配置为基于类索引从滤波器集F’中选择滤波器。视频编码器200和视频解码器300可被配置为按如下方式应用滤波器:
在(28)中,滤波被分成两部分:
·滤波器部分1:通过使用相邻样本进行滤波,可以应用几何变换。N0是应用的滤波器形状的系数数量。滤波器可以是5×5、7×7、9×9、11×11或13×13菱形滤波器,如图9所示。
·滤波器部分2:通过使用中间滤波的样本进行滤波,可以应用几何变换。N0和N1表示潜在唯一系数的数量。
函数fi,j,其中j=0或1,可以用裁剪函数定义为
fi,j=fi,j(R(x+xi,j,y+yi,j),R(x,y))
=min(bi,max(-bi,R(x+xi,j,y+yi,j) (29)
-R(x,y)))
函数gi可以用裁剪函数定义为
gi=gi(R′(x,y,i-N0),R(x,y))
=min(bi,max(-bi,R′(x,y,i-N0)-R(x,y))) (30)
bi是对应于系数ci的裁剪参数。
图12A-图12E示出了两部分滤波器的示例。图12A示出了一个示例,其中滤波器部分1(滤波器560)是5×5N1=7,并且对于滤波器部分2(滤波器562)N1=2。图12B示出了一个示例,其中滤波器部分1(滤波器564)是7×7N0=13,并且对于滤波器部分2(滤波器566)N1=2。图12C示出了一个示例,其中滤波器部分1(滤波器568)是9×9N1=21,并且对于滤波器部分2(滤波器570)N1=2。图12D示出了一个示例,其中滤波器部分1(滤波器572)是11×11N1=31,并且对于滤波器部分2(滤波器574)N1=2。图12E示出了一个示例,其中滤波器部分1(滤波器576)是13×13N1=43,并且对于滤波器部分2(滤波器578)N1=2。
在一些示例中,可以在SPS、VPS、PPS、APS、PH、SH、子图片报头或块级显式地信令通知或隐式地确定N0和/或N1的值。
在一些示例中,可以在SPS、VPS、PPS、APS、PH、SH、子图片报头、块级或滤波器级显式地信令通知或隐式地确定标志,使得当该标志等于一个值时,所有系数ci(i=0...N0-1)和裁剪参数bi(i=0...N0-1)都不被信令通知/使用并被推断为0。
在一些示例中,可以在SPS、VPS、PPS、APS、PH、SH、子图片报头、块级或滤波器级显式地信令通知或隐式地确定标志,使得当该标志等于一个值时,所有系数ci(i=N0…N0+N1-1)和裁剪参数bi(i=N0…N0+N1-1)都不被信令通知/使用并被推断为0。
在一个滤波器集中,不同滤波器的N0的值可以不同。在一个滤波器集中,不同滤波器的N1的值可以不同。
本公开认识到,在JVET-U0100和美国临时专利申请第63/130,275号中描述的技术的基础上,可以改善ALF性能。当只有来自第一阶段的经滤波样本是优选的并且不需要第二阶段中的滤波时,仍然信令通知F’的滤波器系数ci,其中i=0…N0-2,这些系数都是零。然而,没有必要信令通知所有这些零系数。因此,可以应用替代的信令通知过程来改善译码效率。
在一些示例中,视频编码器200和视频解码器300可被配置为在位流中对表示一个或多个滤波器F(f,i)的数据进行译码,而非仅使用固定滤波器。附加地或替代地,视频编码器200和视频解码器300可以被配置为确定是否执行如上所述的第二阶段滤波。当不执行第二阶段时,视频编码器200和视频解码器300可以避免对在第二阶段期间应用的一个或多个滤波器的系数进行译码(编码和/或解码),这可以减少位流中的信令开销以及由视频编码器200和视频解码器300两者执行的处理。
图13是示出了根据本公开的技术的示例ALF框架的概念图。视频解码器300可被配置为执行关于图13描述的技术。如图13所示,示例ALF框架包括第一阶段580和第二阶段582两者。根据本公开的技术,视频编码器200和视频解码器300可使用滤波器使用信息来确定是否要执行第二阶段。当不执行第二阶段时,视频编码器200和视频解码器300可以绕过第二阶段中的滤波(C’,F’),如图13所示。因此,视频编码器200和视频解码器300可以仅使用来自第一阶段的中间经滤波样本(R’(x,y,0)…R’(x,y,Nf-1))来计算经滤波样本。
此外,视频解码器300可计算来自各种滤波器的中间经滤波样本的加权和,例如,根据:
其中wi是R′(x,y,i)的权重。
在一些示例中,可在序列、图片、切片、子图片、CTU、CTB或子块级信令通知滤波器使用信息。例如,视频编码器200和视频解码器300可将滤波器使用信息译码在序列参数集(SPS)、图片参数集(PPS)、切片报头、子图片报头、译码树单元(CTU)报头、译码树块(CTB)报头或子块报头中的一个或多个中。
在另一个示例中,可以不信令通知滤波器使用信息。而是,视频解码器300可基于译码信息(例如,量化参数(QP)、块大小、帧间/帧内模式或其它此类数据)来自适应地导出滤波器使用信息。
给定滤波器使用信息的值,权重wi(其中i=0…Nf-1)可以是固定的,或者视频编码器200和视频解码器300可以在序列、图片、切片、子图片、CTU、CTB、子块级对位流中的权重wi的值进行译码。可以使用权重wi的几种组合,滤波器使用信息可以用于确定哪个权重wi的组合用于当前样本。
在一个示例中,可以信令通知第一标志。当该第一标志等于1时,则视频编码器200和视频解码器300可以绕过值(C’,F’)。然后可以信令通知第二标志。视频编码器200和视频解码器300可以将第二标志的值与权重wi(其中i=0…Nf-1)的组合相关联。例如,如果第二标志等于i(i可以是0…Nf-1),则R′(x,y,i)可以用作经滤波样本。
图14是示出了根据本公开的技术的另一示例ALF框架的概念图。视频编码器200和视频解码器300可以根据关于图14描述的技术来配置。具体地,在图14中,缩放被应用于滤波结果以获得经滤波样本。
图14示出了使用多个固定滤波器集和多个信令通知的滤波器集来对视频数据的重构样本进行滤波的示例框架。视频解码器300可被配置为根据图14的技术实施多个固定滤波器和多个信令通知的滤波器。在图14的示例中,视频解码器300将第一阶段ALF 584应用于重构样本R(x,y)以确定中间经滤波信号R’。视频解码器300然后将第二ALF阶段586应用于R’以确定经滤波样本588的值。
图15是示出了可以执行本公开的技术的示例视频编码器200的框图。图15是为了说明的目的而提供的,并且不应被认为是对本公开中广泛例示和描述的技术的限制。为了说明的目的,本公开描述了根据VVC(ITU-T H.266,正在开发)和HEVC(ITU-T H.265)的技术的视频编码器200。然而,本公开的技术可以由配置成其它视频译码标准的视频编码设备来执行。
在图15的示例中,视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、DPB 218以及熵编码单元220。视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、DPB 218和熵编码单元220中的任一个或全部可以在一个或多个处理器或处理电路中实施。例如,视频编码器200的单元可以实施为一个或多个电路或逻辑元件,作为硬件电路的一部分,或者作为处理器、ASIC或FPGA的一部分。此外,视频编码器200可包括附加或替代处理器或处理电路以执行这些和其他功能。
视频数据存储器230可以存储要由视频编码器200的组件进行编码的视频数据。视频编码器200可以从例如视频源104(图1)接收存储在视频数据存储器230中的视频数据。DPB 218可以充当参考图片存储器,其存储参考视频数据以供视频编码器200预测后续视频数据时使用。视频数据存储器230和DPB 218可以由多种存储器设备中的任何一种形成,例如动态随机存取存储器(DRAM),包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、电阻RAM(RRAM)或其它类型的存储器设备。视频数据存储器230和DPB 218可以由相同的存储器设备或单独的存储器设备提供。在各种示例中,如图所示,视频数据存储器230可以与视频编码器200的其它组件一起在芯片上,或者相对于那些组件在芯片之外。
在本公开中,对视频数据存储器230的引用不应被解释为限于视频编码器200内部的存储器,除非具体描述为这样,或者限于视频编码器200外部的存储器,除非具体描述为这样。而是,对视频数据存储器230的引用应当理解为引用存储视频编码器200接收以用于编码的视频数据(例如,用于要编码的当前块的视频数据)的存储器。图1的存储器106还可以提供来自视频编码器200的各个单元的输出的临时存储。
示出图15的各个单元以帮助理解由视频编码器200执行的操作。这些单元可以实现为固定功能电路、可编程电路或其组合。固定功能电路是指提供特定功能并预设在可执行的操作上的电路。可编程电路是指可编程以执行各种任务并在可执行的操作中提供灵活功能的电路。例如,可编程电路可执行使可编程电路以由软件或固件的指令所定义的方式操作的软件或固件。固定功能电路可以执行软件指令(例如,接收参数或输出参数),但是固定功能电路执行的操作类型通常是不变的。在一些示例中,一个或多个单元可以是不同的电路块(固定功能或可编程),并且在一些示例中,一个或多个单元可以是集成电路。
视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核心。在使用由可编程电路执行的软件执行视频编码器200的操作的示例中,存储器106(图1)可以存储视频编码器200接收和执行的软件的指令(例如,目标代码),或者视频编码器200内的另一存储器(未示出)可以存储这样的指令。
视频数据存储器230被配置成存储接收到的视频数据。视频编码器200可以从视频数据存储器230取得视频数据的图片,并将视频数据提供给残差生成单元204和模式选择单元202。视频数据存储器230中的视频数据可以是要编码的原始视频数据。
模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括附加功能单元以根据其他预测模式执行视频预测。作为示例,模式选择单元202可以包括调色板单元、块内复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。
模式选择单元202通常协调多个编码过程,以测试编码参数的组合和用于这种组合的率失真值。编码参数可以包括将CTU分割为CU、CU的预测模式、CU的残差数据的变换类型、CU的残差数据的量化参数等。模式选择单元202可最终选择具有比其它经测试的组合更好的率失真值的编码参数的组合。
视频编码器200可将从视频数据存储器230取得的图片分割成一系列CTU,并将一个或多个CTU封装在切片内。模式选择单元202可以根据树结构(例如上述HEVC的QTBT结构或四叉树结构)来分割图片的CTU。如上所述,视频编码器200可以根据树结构根据分割CTU来形成一个或多个CU。这样的CU通常也可以被称为“视频块”或“块”
通常,模式选择单元202还控制其组件(例如,运动估计单元222、运动补偿单元224和帧内预测单元226)以生成对当前块的预测块(例如,当前CU,或在HEVC中,PU和TU的重叠部分)。对于当前块的帧间预测,运动估计单元222可以执行运动搜索以识别一个或多个参考图片(例如,DPB 218中存储的一个或多个先前译码的图片)中的一个或多个紧密匹配的参考块。具体地,运动估计单元222可以例如根据绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)等来计算表示潜在参考块与当前块的相似程度的值。运动估计单元222通常可以使用当前块和正被考虑的参考块之间的逐样本差来执行这些计算。运动估计单元222可以识别具有从这些计算得到的最低值的参考块,该参考块指示与当前块最紧密匹配的参考块。
运动估计单元222可以形成一个或多个运动向量(MV),其相对于当前图片中的当前块的位置来定义参考图片中的参考块的位置。然后,运动估计单元222可以将运动向量提供给运动补偿单元224。例如,对于单向帧间预测,运动估计单元222可以提供单个运动向量,而对于双向帧间预测,运动估计单元222可以提供两个运动向量。然后,运动补偿单元224可以使用运动向量来生成预测块。例如,运动补偿单元224可以使用运动向量来取得参考块的数据。作为另一示例,如果运动向量具有分数样本精度,则运动补偿单元224可以根据一个或多个插值滤波器对预测块进行插值。此外,对于双向帧间预测,运动补偿单元224可以取得由各自的运动向量识别的两个参考块的数据,并且例如通过逐样本平均或加权平均来组合取得的数据。
作为另一示例,对于帧内预测或帧内预测译码,帧内预测单元226可以从与当前块相邻的样本生成预测块。例如,对于方向模式,帧内预测单元226通常可以在数学上组合相邻样本的值,并在跨当前块的定义方向上填充这些计算值以产生预测块。作为另一示例,对于DC模式,帧内预测单元226可以计算到当前块的相邻样本的平均值,并且生成预测块以包括预测块的每个样本的该结果平均值。
模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的未编码的版本,并从模式选择单元202接收预测块。残差生成单元204计算当前块和预测块之间的逐样本差。得到的逐样本差定义了当前块的残差块。在一些示例中,残差生成单元204还可以确定残差块中的样本值之间的差,以使用残差差分脉冲编码调制(RDPCM)生成残差块。在一些示例中,可以使用执行二进制减法的一个或多个减法器电路来形成残差生成单元204。
在模式选择单元202将CU分割为PU的示例中,每个PU可以与亮度预测单元和相应的色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所述,CU的大小可以指CU的亮度译码块的大小,PU的大小可以指PU的亮度预测单元的大小。假设特定CU的大小为2N×2N,视频编码器200可支持用于帧内预测的2N×2N或N×N的PU大小,以及用于帧间预测的2N×2N、2N×N、N×2N、N×N或类似的对称PU大小。视频编码器200和视频解码器300还可以支持用于帧间预测的2N×nU、2N×nD、nL×2N和nR×2N的PU大小的不对称分割。
在模式选择单元202不进一步将CU分割为PU的示例中,每个CU可以与亮度译码块和相应的色度译码块相关联。如上所述,CU的大小可以指CU的亮度译码块的大小。视频编码器200和视频解码器300可以支持2N×2N、2N×N或N×2N的CU大小。
对于诸如块内复制模式译码、仿射模式译码和线性模型(LM)模式译码等其它视频译码技术,作为一些示例,模式选择单元202经由与译码技术相关联的各个单元,为当前被编码的块生成预测块。在一些示例中,例如调色板模式译码,模式选择单元202可以不生成预测块,而是生成语法元素,其指示基于选择的调色板来重构块的方式。在这种模式中,模式选择单元202可以向要编码的熵编码单元220提供这些语法元素。
如上所述,残差生成单元204接收当前块和相应的预测块的视频数据。残差生成单元204随后为当前块生成残差块。为了生成残差块,残差生成单元204计算预测块和当前块之间的逐样本差。
变换处理单元206将一个或多个变换应用于残差块以生成变换系数的块(这里称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块以形成变换系数块。例如,变换处理单元206可以向残差块应用离散余弦变换(DCT)、方向变换、karhun-Loeve变换(KLT)或概念上相似的变换。在一些示例中,变换处理单元206可以对残差块执行多个变换,例如,主变换和次变换,例如旋转变换。在一些示例中,变换处理单元206不将变换应用于残差块。
量化单元208可以对变换系数块中的变换系数进行量化,以生成量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值对变换系数块的变换系数进行量化。视频编码器200(例如,经由模式选择单元202)可以通过调整与CU相关联的QP值来调整应用于与当前块相关联的变换系数块的量化程度。量化可以引入信息丢失,因此,量化的变换系数可能具有比由变换处理单元206产生的初始变换系数更低的精度。
逆量化单元210和逆变换处理单元212可以分别对量化的变换系数块应用逆量化和逆变换,以从变换系数块重构残差块。重构单元214可以基于重构的残差块和由模式选择单元202生成的预测块,产生与当前块相对应的重构块(尽管可能具有一定程度的失真)。例如,重构单元214可以将重构的残差块的样本添加到来自由模式选择单元202生成的预测块的对应样本中,以产生重构块。
滤波器单元216可以对重构块执行一个或多个滤波操作。例如,滤波器单元216可以执行去块操作以减少沿CU的边缘的块状伪影。在一些示例中,可以跳过滤波器单元216的操作。
视频编码器200将重构块存储在DPB 218中。例如,在不执行滤波器单元216的操作的示例中,重构单元214可以将重构块存储到DPB 218。在执行滤波器单元216的操作的示例中,滤波器单元216可以将经滤波的重构块存储到DPB 218。运动估计单元222和运动补偿单元224可以从DPB 218取得由重构(和潜在地滤波)块形成的参考图片,以对随后编码的图片的块进行帧间预测。另外,帧内预测单元226可以使用当前图片的DPB 218中的重构块来对当前图片中的其它块进行帧内预测。
通常,熵编码单元220可以对从视频编码器200的其他功能组件接收的语法元素进行熵编码。例如,熵编码单元220可以对来自量化单元208的量化的变换系数块进行熵编码。作为另一示例,熵编码单元220可以对来自模式选择单元202的预测语法元素(例如,用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一示例的语法元素执行一个或多个熵编码操作,以生成熵编码的数据。例如,熵编码单元220可以执行上下文自适应可变长度编码(CAVLC)操作、CABAC操作、可变到可变(V2V)长度编码操作、基于语法的上下文自适应二进制算术编码(SBAC)操作、概率间隔分割熵(PIPE)编码操作、指数哥伦布编码操作、或对数据的另一种类型的熵编码操作。在一些示例中,熵编码单元220可以在语法元素未被熵编码的旁路模式中操作。
视频编码器200可以输出位流,该位流包括重构切片或图片的块所需的熵编码的语法元素。具体地,熵编码单元220可以输出位流。
上述操作是关于块进行描述的。这种描述应当理解为是用于亮度译码块和/或色度译码块的操作。如上所述,在一些示例中,亮度译码块和色度译码块是CU的亮度和色度分量。在一些示例中,亮度译码块和色度译码块是PU的亮度和色度分量。
在一些示例中,对于色度译码块,不需要重复针对亮度译码块执行的操作。作为一个示例,为了识别色度块的运动向量(MV)和参考图片,不需要重复用于识别亮度译码块的MV和参考图片的操作。而是,可以缩放亮度译码块的MV以确定色度块的MV,并且参考图片可以相同。作为另一示例,对于亮度译码块和色度译码块,帧内预测过程可以是相同的。
图16是示出了可以执行本公开的技术的示例视频解码器300的框图。图16是为了说明的目的而提供的,并且不限制在本公开中广泛例示和描述的技术。为了说明的目的,本公开描述了根据VVC(ITU-T H.266,正在开发)和HEVC(ITU-T H.265)的技术的视频解码器300。然而,本公开的技术可以由配置成其它视频译码标准的视频译码设备来执行。
在图16的示例中,视频解码器300包括译码图片缓冲(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和DPB 314。CPB存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和DPB 314中的任一个或全部可以在一个或多个处理器或处理电路中实施。例如,视频解码器300的单元可以实施为一个或多个电路或逻辑元件,作为硬件电路的一部分,或者作为处理器、ASIC或FPGA的一部分。此外,视频解码器300可包括附加或替代处理器或处理电路以执行这些和其他功能。
预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括附加单元,以根据其他预测模式执行预测。作为示例,预测处理单元304可以包括调色板单元、块内复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其它示例中,视频解码器300可以包括更多、更少或不同的功能组件。
CPB存储器320可以存储要由视频解码器300的组件进行解码的视频数据,例如编码的视频位流。存储在CPB存储器320中的视频数据可以例如从计算机可读介质110(图1)获得。CPB存储器320可以包括存储来自编码的视频位流的编码的视频数据(例如,语法元素)的CPB。此外,CPB存储器320可以存储译码图片的语法元素以外的视频数据,例如表示来自视频解码器300的各个单元的输出的临时数据。DPB 314通常存储解码的图片,视频解码器300在对编码的视频位流的后续数据或图片进行解码时可以输出解码的图片和/或将其用作参考视频数据。CPB存储器320和DPB 314可以由多种存储器设备中的任何一种形成,例如DRAM,包括SDRAM、MRAM、RRAM或其他类型的存储器设备。CPB存储器320和DPB 314可以由相同的存储器设备或单独的存储器设备提供。在各种示例中,CPB存储器320可以与视频解码器300的其它组件一起在芯片上,或者相对于那些组件在芯片之外。
另外地或可选地,在一些示例中,视频解码器300可以从存储器120(图1)取得译码的视频数据。即,存储器120可以如上与CPB存储器320讨论的那样存储数据。同样地,当视频解码器300的一些或全部功能在由视频解码器300的处理电路执行的软件中实现时,存储器120可以存储要由视频解码器300执行的指令。
示出图16中所示的各种单元以帮助理解视频解码器300执行的操作。这些单元可以实现为固定功能电路、可编程电路或其组合。与图15类似,固定功能电路是指提供特定功能并且预设在可执行的操作上的电路。可编程电路是指可编程以执行各种任务并在可执行的操作中提供灵活功能的电路。例如,可编程电路可执行使可编程电路以由软件或固件的指令所定义的方式操作的软件或固件。固定功能电路可以执行软件指令(例如,接收参数或输出参数),但是固定功能电路执行的操作类型通常是不变的。在一些示例中,一个或多个单元可以是不同的电路块(固定功能或可编程),并且在一些示例中,一个或多个单元可以是集成电路。
视频解码器300可以包括由可编程电路形成的ALU、EFU、数字电路、模拟电路和/或可编程核心。在视频解码器300的操作由在可编程电路上执行的软件执行的示例中,片上或片外存储器可以存储视频解码器300接收和执行的软件的指令(例如,目标代码)。
熵解码单元302可以从CPB接收编码的视频数据,并且对视频数据进行熵解码以再现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从位流提取的语法元素生成解码的视频数据。
通常,视频解码器300在逐块地基础上重构图片。视频解码器300可以单独地对每个块执行重构操作(其中当前正在重构的(即解码的)块可以被称为“当前块”)。
熵解码单元302可以对定义量化变换系数块的量化变换系数的语法元素以及诸如量化参数(QP)和/或变换模式指示的变换信息进行熵解码。逆量化单元306可以使用与量化变换系数块相关联的QP来确定量化程度,并且同样地,确定逆量化程度以供逆量化单元306应用。逆量化单元306例如可以执行按位左移操作以对量化的变换系数进行逆量化。逆量化单元306由此可以形成包括变换系数的变换系数块。
在逆量化单元306形成变换系数块之后,逆变换处理单元308可以对变换系数块应用一个或多个逆变换,以生成与当前块相关联的残差块。例如,逆变换处理单元308可以对变换系数块应用逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或另一逆变换。
此外,预测处理单元304根据由熵解码单元302熵解码的预测信息语法元素来生成预测块。例如,如果预测信息语法元素指示当前块是被帧间预测的,则运动补偿单元316可以生成预测块。在这种情况下,预测信息语法元素可以指示要从中取得参考块的DPB 314中的参考图片,以及相对于当前图片中的当前块的位置识别参考图片中的参考块的位置的运动向量。运动补偿单元316通常可以以与关于运动补偿单元224(图15)描述的方式基本相似的方式来执行帧间预测处理。
作为另一示例,如果预测信息语法元素指示当前块是被帧内预测的,则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式生成预测块。再次,帧内预测单元318通常可以以与关于帧内预测单元226描述的方式基本相似的方式来执行帧内预测处理(图15)。帧内预测单元318可以从DPB 314取得当前块的相邻样本的数据。
重构单元310可以使用预测块和残差块重构当前块。例如,重构单元310可以将残差块的样本添加到预测块的对应样本中,以重构当前块。
滤波器单元312可以对重构块执行一个或多个滤波操作。例如,滤波器单元312可以执行去块操作,以减少沿重构块的边缘的块状伪影。不一定在所有示例中都执行滤波器单元312的操作。
视频解码器300可以将重构块存储在DPB 314中。例如,在不执行滤波器单元312的操作的示例中,重构单元310可以将重构块存储到DPB 314。在执行滤波器单元312的操作的示例中,滤波器单元312可以将经滤波的重构块存储到DPB 314。如上所述,DPB 314可以向预测处理单元304提供参考信息,例如用于帧内预测的当前图片的样本和用于后续运动补偿的先前解码的图片。此外,视频解码器300可以从DPB 314输出解码的图片(例如,解码的视频),用于随后在诸如图1的显示设备118上呈现。
图17示出了图16中滤波器单元312的示例实施方式。图15中的滤波器单元216可以以相同的方式实施。滤波器单元216和312可执行本公开的技术,可能结合视频编码器200或视频解码器300的其它组件。在图16的示例中,滤波器单元312包括去块滤波器342、SAO滤波器344和ALF单元346。SAO滤波器344可以例如被配置为以本公开中所描述的方式来确定块的样本的偏移值。ALF单元346可同样以本公开中所描述的方式对视频数据的块进行滤波。例如,ALF单元346可被配置为将第一阶段ALF应用于重构块的重构样本以确定第一样本修改值,将第二阶段ALF应用于重构样本以确定第二样本修改值,并且基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
滤波器单元312可以包括更少的滤波器和/或可以包括附加的滤波器。此外,图17所示的特定滤波器可以以不同的顺序实施。其他环路滤波器(在译码环路中或者在译码环路之后)也可以用于平滑像素转换或者以其他方式改善视频质量。由滤波器单元312输出的经滤波的重构视频块可存储在DPB 314中,DPB 314存储用于后续运动补偿的参考图片。DPB314可以是附加存储器的一部分或者与附加存储器分离,该附加存储器存储解码的视频以供稍后在显示设备(例如图1的显示设备118)上呈现。
图18是示出了根据本公开的技术的用于编码当前块的示例过程的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和图14)进行描述,但应理解,其它设备可以被配置为执行类似于图18的处理。
在本示例中,视频编码器200最初预测当前块(650)。例如,视频编码器200可以形成当前块的预测块。然后,视频编码器200可以计算当前块的残差块(652)。为了计算残差块,视频编码器200可以计算当前块的初始、未编码的块和预测块之间的差值。然后,视频编码器200可以变换残差块并量化残差块的变换系数(654)。接下来,视频编码器200可以对残差块的量化的变换系数进行扫描(656)。在扫描期间或在扫描之后,视频编码器200可以对变换系数进行熵编码(658)。例如,视频编码器200可以使用CAVLC或CABAC对变换系数进行编码。然后,视频编码器200可以输出块的熵编码的数据(660)。
图19是示出了根据本公开的技术的用于解码视频数据的当前块的示例过程的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和图15)进行描述,但应理解,其它设备可以被配置为执行类似于图19的处理。
视频解码器300可以接收当前块的熵编码的数据,例如对应于当前块的残差块的变换系数的熵编码的预测信息和熵编码的数据(670)。视频解码器300可以对熵编码的数据进行熵解码,以确定当前块的预测信息,并再现残差块的变换系数(672)。视频解码器300可以预测当前块,例如,使用由当前块的预测信息指示的帧内或帧间预测模式,以计算当前块的预测块(674)。然后,视频解码器300可以对再现的变换系数进行反向扫描,以创建量化的变换系数块(676)。然后,视频解码器300可以对变换系数进行逆量化并将逆变换应用于变换系数以产生残差块(678)。视频解码器300可以通过组合预测块和残差块最终对当前块进行解码(680)。
图20是示出了根据本公开的技术的用于解码视频数据的当前块的示例过程的流程图。尽管关于视频解码器300(图1和图15)进行描述,但应理解,其它设备可以被配置为执行类似于图20的处理。例如,包括滤波器单元216的视频编码器200的视频解码环路可执行图20的技术。
视频解码器300将第一阶段ALF应用于重构块的重构样本,其中应用第一阶段ALF包括(710)。在这种情况下,重构样本可以是去块滤波之前或者去块滤波之后的重构样本。为了应用第一阶段ALF,视频解码器300确定重构样本的第一类索引(712),基于第一类索引从第一滤波器集中选择滤波器(714),并将来自第一滤波器集的滤波器应用于重构样本以确定第一中间样本值(716)。如上所述,视频解码器300可以基于重构块的量化参数从多个固定滤波器集中选择第一滤波器集。例如,第一滤波器集可以是固定滤波器。也就是说,第一滤波器集可以是存储在视频译码器中的滤波器集,而不是在视频数据中信令通知。例如,第一滤波器集可以包括至少一个9×9菱形滤波器或上述任何大小或形状的滤波器。如图9和图11所示,视频解码器可以确定多个中间样本值。
为了确定第一类索引,视频解码器300可确定重构样本的活动值,确定重构样本的方向,并基于活动值和方向确定分类器。如上所述,方向数量可以是MD,i=(S+1)*(S+2),其中S等于6意味着有56个方向。
视频解码器300将第二阶段ALF应用于重构样本(720)。为了应用第二阶段ALF,视频解码器300确定重构样本的第二类索引(722),基于第二类索引从第二滤波器集中选择第二滤波器(724),将第二滤波器应用于重构样本以确定第一样本修改值(726),并基于第一中间样本值确定第二样本修改值。例如,第二滤波器集可以是信令通知的滤波器,意味着第二集中的滤波器至少部分地在视频数据中信令通知。
视频解码器300基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本(730)。为了基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本,视频解码器300可以例如将第一样本修改值和第二样本修改值添加到重构样本。以上等式(28)表示视频解码器300可如何确定经滤波的重构样本的值的一个示例。
为了基于第一中间样本值来确定第二样本修改值,视频解码器300可裁剪第二样本修改值以确定经裁剪的样本修改值,并将第一样本修改值和经裁剪的样本修改值添加到重构样本。视频解码器300可在视频数据中接收经裁剪的样本修改值。为了基于第一中间样本值确定第二样本修改值,视频解码器300还可通过确定重构样本与第一中间样本值之间的差来基于第一中间样本值确定第二样本修改值。以上等式(28)和(30)表示视频解码器300可如何确定第二样本修改值的示例。
视频解码器300可输出包括经滤波的重构样本的视频数据的解码图片。在一些译码情形中,视频解码器300可在输出之前对经滤波的重构样本执行一个或多个附加滤波操作。视频解码器300可以通过将图片存储在解码图片缓冲器中以用于解码后续图片、将解码图片存储到存储介质以供稍后显示、或者通过将解码图片输出到显示设备以用于实时或接近实时的显示,来输出解码图片。在图20的技术由视频编码器执行的情况下,视频编码器可以例如通过将图片存储在解码图片缓冲器中以用于编码后续图片来输出解码图片。
以下编号的条款示出了本公开中描述的设备和技术的一个或多个方面。
条款1A:一种解码视频数据的方法,该方法包括:确定视频数据的重构块;以及将滤波器应用于视频数据的重构块的样本,以生成经滤波的重构块。
条款2A:根据条款1A的方法,其中将滤波器应用于样本包括:确定样本的活动值和样本的方向之一或两者;以及基于所确定的活动值和/或方向从滤波器集中选择滤波器。
条款3A:根据条款2A的方法,其中滤波器集包括固定的滤波器集。
条款4A:根据条款2A的方法,其中滤波器集包括信令通知的滤波器集。
条款5A:根据条款1A-4A中任一条款的方法,其中将滤波器应用于样本包括:将第一滤波器应用于样本以确定中间经滤波样本;以及将第二滤波器应用于中间经滤波样本以确定最终经滤波样本。
条款6A:根据条款1A-5A中任一条款的方法,其中解码方法作为视频编码过程的一部分来执行。
条款7A:一种用于译码视频数据的设备,该设备包括用于执行根据条款1A-6A中任一条款的方法的一个或多个部件。
条款8A:根据条款7A的设备,其中该一个或多个部件包括在电路中实施的一个或多个处理器。
条款9A:根据条款7A和8A中任一条款的设备,还包括用于存储视频数据的存储器。
条款10A:根据条款7A-9A中任一条款的设备,还包括被配置为显示解码的视频数据的显示器。
条款11A:根据条款7A-10A中任一条款的设备,其中该设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
条款12A:根据条款7A-11A中任一条款的设备,其中该设备包括视频解码器。
条款13A:根据条款7A-12A中任一条款的设备,其中该设备包括视频编码器。
条款14A:一种其上存储有指令的计算机可读存储介质,该指令在被执行时使得一个或多个处理器执行根据条款1A-6A中任一条款的方法。
条款1B:一种解码视频数据的方法,该方法包括:解码视频数据的图片的至少一部分;在ALF的第一阶段期间,将一个或多个自适应环路滤波器(ALF)应用于图片的至少一部分,以产生图片的至少一部分的经滤波样本;确定是否对图片的至少一部分执行ALF的第二阶段;当确定不执行ALF的第二阶段时,避免对ALF的第二阶段的一个或多个ALF的滤波器系数进行解码,并且避免对图片的至少一部分执行ALF的第二阶段;以及使用经滤波样本产生图片的至少一部分的最终样本。
条款2B:根据条款1B的方法,其中使用经滤波样本产生最终样本包括根据计算最终样本,其中/>表示位置(x,y)处的最终样本之一,wi包括一个或多个ALF中的第i个ALF的权重值,并且R’(x,y,i)包括由位置(x,y)处的第i个ALF产生的经滤波样本之一。
条款3B:根据条款2B的方法,还包括根据固定配置数据确定权重值wi。
条款4B:根据条款2B的方法,还包括根据解码的滤波器使用信息确定权重值wi。
条款5B:根据条款2B的方法,还包括解码权重值wi。
条款6B:根据条款5B的方法,其中解码权重值wi包括从序列参数集(SPS)、图片参数集(PPS)、切片报头、子图片报头、译码树单元(CTU)报头、译码树块(CTB)报头或子块报头中的一个或多个解码权重值wi。
条款7B:根据条款2B-6B中任一条款的方法,还包括解码表示将用于一个或多个最终样本的权重值wi的组合的语法元素的数据。
条款8B:根据条款1B-7B中任一条款的方法,其中确定是否执行ALF的第二阶段包括解码表示是否执行ALF的第二阶段的数据。
条款9B:根据条款8B的方法,其中解码表示是否执行ALF的第二阶段的数据包括解码序列参数集(SPS)、图片参数集(PPS)、切片报头、子图片报头、译码树单元(CTU)报头、译码树块(CTB)报头或子块报头中的一个或多个的数据。
条款10B:根据条款8B和9B中任一条款的方法,其中解码表示是否执行ALF的第二阶段的数据包括解码语法元素的值,该值指示ALF的第二阶段将被绕过。
条款11B:根据条款1B-7B中任一条款的方法,其中确定是否执行ALF的第二阶段包括根据先前解码的译码信息自适应地导出是否执行ALF的第二阶段。
条款12B:根据条款11B的方法,其中先前解码的译码信息包括以下中的一个或多个:图片的至少一部分中的块的量化参数(QP)、块的大小、或者是使用帧内预测还是帧间预测来预测块。
条款13B:根据条款1B-12B中任一条款的方法,其中使用经滤波样本产生最终样本包括缩放经滤波样本以产生最终样本。
条款14B:根据条款1B-13B中任一条款的方法,还包括在解码图片的至少一部分之前编码该图片的至少一部分。
条款15B:一种用于解码视频数据的设备,该设备包括用于执行根据条款1B-14B中任一条款的方法的一个或多个部件。
条款16B:根据条款15B的设备,其中一个或多个部件包括在电路中实施的一个或多个处理器。
条款17B:根据条款15B和16B中任一条款的设备,还包括被配置为显示解码的视频数据的显示器。
条款18B:根据条款15B-17B中任一条款的设备,其中该设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
条款19B:根据条款15B-18B的设备,还包括被配置为存储视频数据的存储器。
条款20B:一种其上存储有指令的计算机可读存储介质,该指令在被执行时使得用于解码视频数据的设备的处理器执行根据条款1B-14B中任一条款的方法。
条款21B:一种用于解码视频数据的设备,该设备包括:用于解码视频数据的图片的至少一部分的部件;用于在自适应环路滤波器(ALF)的第一阶段期间将一个或多个ALF应用于图片的至少一部分以产生图片的至少一部分的经滤波样本的部件;用于确定是否对图片的至少一部分执行ALF的第二阶段的部件;用于当确定不执行ALF的第二阶段时,避免对ALF的第二阶段的一个或多个ALF的滤波器系数进行解码的部件;用于当确定不执行ALF的第二阶段时,避免对图片的至少一部分执行ALF的第二阶段的部件;以及用于使用经滤波样本来产生图片的至少一部分的最终样本的部件。
条款1C:一种解码视频数据的方法,该方法包括:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中应用第一阶段ALF包括:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中应用第二阶段ALF包括:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
条款2C:根据条款1C的方法,其中第一滤波器集包括固定滤波器。
条款3C:根据条款1C-2C中任一条款的方法,其中第二滤波器集包括基于在视频数据中信令通知的语法来确定的信令通知的滤波器。
条款4C:根据条款1C-3C中任一条款的方法,其中确定第一类索引包括:确定重构样本的活动值;确定重构样本的方向;以及基于活动值和方向确定第一类索引。
条款5C:根据条款4C的方法,其中确定方向包括将56个值中的一个分配给方向。
条款6C:根据条款1C-5C中任一条款的方法,其中第一滤波器集包括9×9菱形滤波器。
条款7C:根据条款1C-6C中任一条款的方法,其中基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本包括将第一样本修改值和第二样本修改值添加到重构样本。
条款8C:根据条款1C-7C中任一条款的方法,其中基于第一中间样本值确定第二样本修改值包括裁剪第二样本修改值以确定经裁剪的样本修改值,以及将第一样本修改值和经裁剪的样本修改值添加到重构样本。
条款9C:根据条款8C的方法,还包括:在视频数据中接收经裁剪的样本修改值。
条款10C:根据条款1C-9C中任一条款的方法,其中基于第一中间样本值确定第二样本修改值包括确定重构样本和第一中间样本值之间的差。
条款11C:根据条款1C-10C中任一条款的方法,还包括:基于重构块的量化参数,从多个固定滤波器集中选择第一滤波器集。
条款12C:根据条款1C-11C中任一条款的方法,其中应用第一阶段ALF还包括确定重构样本的第三类索引,基于第三类索引从第二滤波器集中选择第三滤波器;以及将来自第二滤波器集的第三滤波器应用于重构样本,以确定第二中间样本值;以及将第二阶段ALF应用于重构样本还包括基于第一中间样本值和第二中间样本值来确定第二样本修改值。
条款13C:根据条款1C-12C中任一条款的方法,还包括:将预测样本值添加到残差样本值,以确定重构样本。
条款14C:根据条款13C中任一条款的方法,还包括:将去块滤波器应用于预测样本值和残差样本值的和,以确定重构样本。
条款15C:根据条款1C-14C中任一条款的方法,还包括:输出视频数据的解码图片,其中解码图片包括经滤波的重构样本。
条款16C:根据条款1C-14C中任一条款的方法,其中解码方法作为视频编码过程的一部分来执行。
条款17C:一种用于解码视频数据的设备,该设备包括:存储器,被配置为存储视频数据;一个或多个处理器,在电路中实施并被配置为:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用第一阶段ALF,一个或多个处理器还被配置为:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中为了应用第二阶段ALF,一个或多个处理器还被配置为:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
条款18C:根据条款17C的设备,其中第一滤波器集包括固定滤波器。
条款19C:根据条款17C-18C中任一条款的设备,其中第二滤波器集包括基于在视频数据中信令通知的语法来确定的信令通知的滤波器。
条款20C:根据条款17C-19C中任一条款的设备,其中为了确定第一类索引,一个或多个处理器还被配置为:确定重构样本的活动值;确定重构样本的方向;以及基于活动值和方向来确定第一类索引。
条款21C:根据条款20C的设备,其中为了确定方向,一个或多个处理器还被配置为将56个值中的一个分配给方向。
条款22C:根据条款17C-21C中任一条款的设备,其中第一滤波器集包括9×9菱形滤波器。
条款23C:根据条款17C-22C中任一条款的设备,其中为了基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本,一个或多个处理器还被配置为将第一样本修改值和第二样本修改值添加到重构样本。
条款24C:根据条款17C-23C中任一条款的设备,其中为了基于第一中间样本值来确定第二样本修改值,一个或多个处理器还被配置为裁剪第二样本修改值以确定经裁剪的样本修改值,以及将第一样本修改值和经裁剪的样本修改值添加到重构样本。
条款25C:根据条款24C的设备,其中一个或多个处理器还被配置成:在视频数据中接收经裁剪的样本修改值。
条款26C:根据条款17C-25C中任一条款的设备,其中为了基于第一中间样本值来确定第二样本修改值,一个或多个处理器还被配置为确定重构样本和第一中间样本值之间的差。
条款27C:根据条款17C-26C中任一条款的设备,其中一个或多个处理器还被配置为:基于重构块的量化参数,从多个固定滤波器集中选择第一滤波器集。
条款28C:根据条款17C-27C中任一条款的设备,其中为了应用第一阶段ALF,一个或多个处理器还被配置为确定重构样本的第三类索引,基于第三类索引从第二滤波器集中选择第三滤波器,以及将来自第二滤波器集的第三滤波器应用于重构样本以确定第二中间样本值;为了将第二阶段ALF应用于重构样本,一个或多个处理器还被配置为基于第一中间样本值和第二中间样本值来确定第二样本修改值。
条款29C:根据条款17C-28C中任一条款的设备,其中一个或多个处理器还被配置为:将预测样本值添加到残差样本值,以确定重构样本。
条款30C:根据条款28C的设备,其中一个或多个处理器还被配置为:将去块滤波器应用于预测样本值和残差样本值的和,以确定重构样本。
条款31C:根据条款17C-30C中任一条款的设备,其中一个或多个处理器还被配置为:输出视频数据的解码图片,其中解码图片包括经滤波的重构样本。
条款32C:根据条款17C-31C中任一条款的设备,其中该设备包括视频编码设备。
条款33C:根据条款17C-32C中任一条款的设备,其中一个或多个处理器还被配置为:输出视频数据的解码图片,其中解码图片包括经滤波的重构样本。
条款34C:根据条款33C的设备,其中该设备包括无线通信设备,还包括被配置为接收编码的视频数据的接收器。
条款35C:根据条款34C的设备,其中无线通信设备包括电话手机,并且其中接收器被配置为根据无线通信标准解调包括编码的视频数据的信号。
条款36C:根据条款17C-35C中任一条款的设备,还包括:被配置为显示解码的视频数据的显示器。
条款37C:根据条款17C-36C中任一条款的设备,其中该设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
条款38C:根据条款17C-37C中任一条款的设备,其中该设备包括视频编码设备。
条款39C:一种存储指令的计算机可读存储介质,该指令在被一个或多个处理器执行时使得该一个或多个处理器:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用第一阶段ALF,一个或多个处理器还被配置为:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中为了应用第二阶段ALF,一个或多个处理器还被配置为:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
条款1D:一种解码视频数据的方法,该方法包括:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中应用第一阶段ALF包括:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中应用第二阶段ALF包括:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
条款2D:根据条款1D的方法,其中第一滤波器集包括固定滤波器。
条款3D:根据条款1D的方法,其中第二滤波器集包括基于在视频数据中信令通知的语法来确定的信令通知的滤波器。
条款4D:根据条款1D的方法,其中确定第一类索引包括:确定重构样本的活动值;确定重构样本的方向;以及基于活动值和方向确定第一类索引。
条款5D:根据条款4D的方法,其中确定方向包括将56个值中的一个分配给方向。
条款6D:根据条款1D的方法,其中第一滤波器集包括9×9菱形滤波器。
条款7D:根据条款1D的方法,其中基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本包括将第一样本修改值和第二样本修改值添加到重构样本。
条款8D:根据条款1D的方法,其中基于第一中间样本值确定第二样本修改值包括裁剪第二样本修改值以确定经裁剪的样本修改值,以及将第一样本修改值和经裁剪的样本修改值添加到重构样本。
条款9D:根据条款8D的方法,还包括:在视频数据中接收经裁剪的样本修改值。
条款10D:根据条款1D的方法,其中基于第一中间样本值确定第二样本修改值包括确定重构样本和第一中间样本值之间的差。
条款11D:根据条款1D的方法,还包括:基于重构块的量化参数,从多个固定滤波器集中选择第一滤波器集。
条款12D:根据条款1D的方法,其中应用第一阶段ALF还包括确定重构样本的第三类索引;基于第三类索引从第二滤波器集中选择第二滤波器;以及将来自第二滤波器集的第二滤波器应用于重构样本,以确定第二中间样本值;以及将第二阶段ALF应用于重构样本还包括基于第一中间样本值和第二中间样本值来确定第二样本修改值。
条款13D:根据条款1D的方法,还包括:将预测样本值添加到残差样本值,以确定重构样本。
条款14D:根据条款13D的方法,还包括:将去块滤波器应用于预测样本值和残差样本值的和,以确定重构样本。
条款15D:根据条款1D的方法,还包括:输出视频数据的解码图片,其中解码图片包括经滤波的重构样本。
条款16D:根据条款1D的方法,其中解码方法作为视频编码过程的一部分来执行。
条款17D:一种用于解码视频数据的设备,该设备包括:存储器,被配置为存储视频数据;一个或多个处理器,在电路中实施并被配置为:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用第一阶段ALF,一个或多个处理器还被配置为:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中为了应用第二阶段ALF,一个或多个处理器还被配置为:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
条款18D:根据条款17D的设备,其中第一滤波器集包括固定滤波器。
条款19D:根据条款17D的设备,其中第二滤波器集包括基于在视频数据中信令通知的语法来确定的信令通知的滤波器。
条款20D:根据条款17D的设备,其中为了确定第一类索引,一个或多个处理器还被配置为:确定重构样本的活动值;确定重构样本的方向;以及基于活动值和方向来确定第一类索引。
条款21D:根据条款20D的设备,其中为了确定方向,一个或多个处理器还被配置为将56个值中的一个分配给方向。
条款22D:根据条款17D的设备,其中第一滤波器集包括9×9菱形滤波器。
条款23D:根据条款17D的设备,其中为了基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本,一个或多个处理器还被配置为将第一样本修改值和第二样本修改值添加到重构样本。
条款24D:根据条款17D的设备,其中为了基于第一中间样本值来确定第二样本修改值,一个或多个处理器还被配置为裁剪第二样本修改值以确定经裁剪的样本修改值,以及将第一样本修改值和经裁剪的样本修改值添加到重构样本。
条款25D:根据条款24D的设备,其中一个或多个处理器还被配置成:在视频数据中接收经裁剪的样本修改值。
条款26D:根据条款17D的设备,其中为了基于第一中间样本值来确定第二样本修改值,一个或多个处理器还被配置为确定重构样本和第一中间样本值之间的差。
条款27D:根据条款17D的设备,其中一个或多个处理器还被配置为:基于重构块的量化参数,从多个固定滤波器集中选择第一滤波器集。
条款28D:根据条款17D的设备,其中为了应用第一阶段ALF,一个或多个处理器还被配置为确定重构样本的第三类索引,基于第三类索引从第二滤波器集中选择第二滤波器,以及将来自第二滤波器集的第二滤波器应用于重构样本以确定第二中间样本值;为了将第二阶段ALF应用于重构样本,一个或多个处理器还被配置为基于第一中间样本值和第二中间样本值来确定第二样本修改值。
条款29D:根据条款17D的设备,其中一个或多个处理器还被配置为:将预测样本值添加到残差样本值,以确定重构样本。
条款30D:根据条款28D的设备,其中一个或多个处理器还被配置为:将去块滤波器应用于预测样本值和残差样本值的和,以确定重构样本。
条款31D:根据条款17D的设备,其中一个或多个处理器还被配置为:输出视频数据的解码图片,其中解码图片包括经滤波的重构样本。
条款32D:根据条款17D的设备,其中该设备包括视频编码设备。
条款33D:根据条款17D的设备,其中一个或多个处理器还被配置为:输出视频数据的解码图片,其中解码图片包括经滤波的重构样本。
条款34D:根据条款33D的设备,其中该设备包括无线通信设备,还包括被配置为接收编码的视频数据的接收器。
条款35D:根据条款34D的设备,其中无线通信设备包括电话手机,并且其中接收器被配置为根据无线通信标准解调包括编码的视频数据的信号。
条款36D:根据条款17D的设备,还包括:被配置为显示解码的视频数据的显示器。
条款37D:根据条款17D的设备,其中该设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
条款38D:根据条款17D的设备,其中该设备包括视频编码设备。
条款39D:一种存储指令的计算机可读存储介质,该指令在被一个或多个处理器执行时使得该一个或多个处理器:将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用第一阶段ALF,一个或多个处理器还被配置为:确定重构样本的第一类索引;基于第一类索引从第一滤波器集中选择滤波器;以及将来自第一滤波器集的滤波器应用于重构样本,以确定第一中间样本值;将第二阶段ALF应用于重构样本,其中为了应用第二阶段ALF,一个或多个处理器还被配置为:确定重构样本的第二类索引;基于第二类索引从第二滤波器集中选择第二滤波器;将第二滤波器应用于重构样本,以确定第一样本修改值;基于第一中间样本值确定第二样本修改值;以及基于重构样本、第一样本修改值和第二样本修改值来确定经滤波的重构样本。
应当认识到,根据示例,可以以不同的顺序执行本文所述任何技术的某些动作或事件,可以被添加、合并或完全排除(例如,并非所有描述的动作或事件对于技术的实践是必要的)。此外,在某些示例中,可以并行地执行动作或事件,例如通过多线程处理、中断处理或多个处理器,而不是顺序地执行。
在一个或多个示例中,所描述的功能可以在硬件、软件、固件或其任何组合中实现。如果在软件中实现,则这些功能可以作为一个或多个指令或代码存储在计算机可读介质上或在其上传输,并由基于硬件的处理单元执行。计算机可读介质可以包括与有形介质(例如数据存储介质)相对应的计算机可读存储介质,或包括有助于计算机程序从一个地方转移到另一个地方(例如,根据通信协议)的任何介质的通信介质。以这种方式,计算机可读介质通常可对应于(1)非暂时的有形计算机可读存储介质或(2)诸如信号或载波的通信介质。数据存储介质可以是可由一个或多个计算机或一个或多个处理器访问以取得用于实现本公开中描述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可以包括计算机可读介质。
通过示例而不是限制,这种计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、闪存或可用于以指令或数据结构的形式存储并且可以由计算机进行访问的所需的程序代码的任何其它介质。此外,任何连接都被适当地称为计算机可读介质。例如,如果使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或无线技术(诸如红外线、无线电和微波)从网站、服务器或其它远程源发送指令,则同轴电缆、光纤电缆、双绞线、DSL或无线技术(诸如红外线、无线电和微波)被包括在介质的定义中。然而,应当理解,计算机可读存储介质和数据存储介质不包括连接、载波、信号或其它暂时介质,而是指向非暂时的有形存储介质。本文所使用的磁盘和光盘包括压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软盘和蓝光光盘,其中磁盘通常以磁性方式再现数据,而光盘则以激光光学方式再现数据。上述的组合也应包括在计算机可读介质的范围内。
指令可由一个或多个处理器执行,例如一个或多个DSP、通用微处理器、ASIC、FPGA或其它等效集成或离散逻辑电路。因此,本文使用的术语“处理器”和“处理电路”可指上述结构中的任何一个或适合实现本文所述技术的任何其它结构。此外,在一些方面,本文描述的功能可以提供在配置用于编码和解码的专用硬件和/或软件模块内,或并入组合的译码器中。此外,这些技术可以在一个或多个电路或逻辑元件中完全实现。
本公开的技术可以在多种设备或装置中实现,包括无线手持机、集成电路(IC)或IC集合,例如芯片集合。本公开中描述了各种组件、模块或单元,以强调配置为执行所公开技术的设备的功能方面,但不一定需要由不同硬件单元来实现。而是,如上所述,各种单元可以组合在译码器硬件单元中,或者由互操作硬件单元的集合(包括如上所述的一个或多个处理器)连同合适的软件和/或固件提供。
已经描述了各种示例。这些和其它示例在所附权利要求的范围内。
Claims (38)
1.一种解码视频数据的方法,所述方法包括:
将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中应用所述第一阶段ALF包括:
确定所述重构样本的第一类索引;
基于所述第一类索引从第一滤波器集中选择滤波器;以及
将来自所述第一滤波器集中的所述滤波器应用于所述重构样本,以确定第一中间样本值;
将第二阶段ALF应用于所述重构样本,其中应用所述第二阶段ALF包括:
确定所述重构样本的第二类索引;
基于所述第二类索引从第二滤波器集中选择第二滤波器;
将所述第二滤波器应用于所述重构样本,以确定第一样本修改值;
基于所述第一中间样本值确定第二样本修改值;以及
基于所述重构样本、所述第一样本修改值和所述第二样本修改值来确定经滤波的重构样本。
2.根据权利要求1所述的方法,其中所述第一滤波器集包括固定滤波器。
3.根据权利要求1所述的方法,其中所述第二滤波器集包括基于在所述视频数据中信令通知的语法来确定的信令通知的滤波器。
4.根据权利要求1所述的方法,其中确定所述第一类索引包括:
确定所述重构样本的活动值;
确定所述重构样本的方向;以及
基于所述活动值和所述方向确定所述第一类索引。
5.根据权利要求4所述的方法,其中确定所述方向包括将56个值中的一个分配给所述方向。
6.根据权利要求1所述的方法,其中所述第一滤波器集包括9×9菱形滤波器。
7.根据权利要求1所述的方法,其中基于所述重构样本、所述第一样本修改值和所述第二样本修改值来确定所述经滤波的重构样本包括将所述第一样本修改值和所述第二样本修改值添加到所述重构样本。
8.根据权利要求1所述的方法,其中基于所述第一中间样本值确定所述第二样本修改值包括裁剪所述第二样本修改值以确定经裁剪的样本修改值,以及将所述第一样本修改值和所述经裁剪的样本修改值添加到所述重构样本。
9.根据权利要求8所述的方法,还包括:
在所述视频数据中接收所述经裁剪的样本修改值。
10.根据权利要求1所述的方法,其中基于所述第一中间样本值确定所述第二样本修改值包括确定所述重构样本和所述第一中间样本值之间的差。
11.根据权利要求1所述的方法,还包括:
基于所述重构块的量化参数从多个固定滤波器集中选择所述第一滤波器集。
12.根据权利要求1所述的方法,其中
应用所述第一阶段ALF还包括确定所述重构样本的第三类索引,基于所述第三类索引从第二滤波器集中选择第三滤波器,以及将来自所述第二滤波器集中的所述第三滤波器应用于所述重构样本以确定第二中间样本值;
将所述第二阶段ALF应用于所述重构样本还包括基于所述第一中间样本值和所述第二中间样本值确定所述第二样本修改值。
13.根据权利要求1所述的方法,还包括:
将预测样本值添加到残差样本值,以确定所述重构样本。
14.根据权利要求13所述的方法,还包括:
将去块滤波器应用于所述预测样本值和所述残差样本值的和,以确定所述重构样本。
15.根据权利要求1所述的方法,还包括:
输出所述视频数据的解码图片,其中所述解码图片包括所述经滤波的重构样本。
16.根据权利要求1所述的方法,其中所述解码方法作为视频编码过程的一部分来执行。
17.一种用于解码视频数据的设备,所述设备包括:
存储器,被配置为存储视频数据;
一个或多个处理器,在电路中实施并被配置为:
将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用所述第一阶段ALF,所述一个或多个处理器还被配置为:
确定所述重构样本的第一类索引;
基于所述第一类索引从第一滤波器集中选择滤波器;以及
将来自所述第一滤波器集中的所述滤波器应用于所述重构样本,
以确定第一中间样本值;
将第二阶段ALF应用于所述重构样本,其中为了应用所述第二阶段ALF,所述一个或多个处理器还被配置为:
确定所述重构样本的第二类索引;
基于所述第二类索引从第二滤波器集中选择第二滤波器;
将所述第二滤波器应用于所述重构样本,以确定第一样本修改值;
基于所述第一中间样本值确定第二样本修改值;以及
基于所述重构样本、所述第一样本修改值和所述第二样本修改值来确定经滤波的重构样本。
18.根据权利要求17所述的设备,其中所述第一滤波器集包括固定滤波器。
19.根据权利要求17所述的设备,其中所述第二滤波器集包括基于在所述视频数据中信令通知的语法来确定的信令通知的滤波器。
20.根据权利要求17所述的设备,其中为了确定所述第一类索引,所述一个或多个处理器还被配置为:
确定所述重构样本的活动值;
确定所述重构样本的方向;以及
基于所述活动值和所述方向确定所述第一类索引。
21.根据权利要求20所述的设备,其中为了确定所述方向,所述一个或多个处理器还被配置为将56个值中的一个分配给所述方向。
22.根据权利要求17所述的设备,其中所述第一滤波器集包括9×9菱形滤波器。
23.根据权利要求17所述的设备,其中为了基于所述重构样本、所述第一样本修改值和所述第二样本修改值来确定所述经滤波的重构样本,所述一个或多个处理器还被配置为将所述第一样本修改值和所述第二样本修改值添加到所述重构样本。
24.根据权利要求17所述的设备,其中为了基于所述第一中间样本值来确定所述第二样本修改值,所述一个或多个处理器还被配置为裁剪所述第二样本修改值以确定经裁剪的样本修改值,以及将所述第一样本修改值和所述经裁剪的样本修改值添加到所述重构样本。
25.根据权利要求24所述的设备,其中所述一个或多个处理器还被配置为:
在所述视频数据中接收所述经裁剪的样本修改值。
26.根据权利要求17所述的设备,其中为了基于所述第一中间样本值来确定所述第二样本修改值,所述一个或多个处理器还被配置为确定所述重构样本和所述第一中间样本值之间的差。
27.根据权利要求17所述的设备,其中所述一个或多个处理器还被配置为:
基于所述重构块的量化参数从多个固定滤波器集中选择所述第一滤波器集。
28.根据权利要求17所述的设备,其中
为了应用所述第一阶段ALF,所述一个或多个处理器还被配置为确定所述重构样本的第三类索引,基于所述第三类索引从第二滤波器集中选择第三滤波器,以及将来自所述第二滤波器集中的所述第三滤波器应用于所述重构样本以确定第二中间样本值;
为了将所述第二阶段ALF应用于所述重构样本,所述一个或多个处理器还被配置为基于所述第一中间样本值和所述第二中间样本值来确定所述第二样本修改值。
29.根据权利要求17所述的设备,其中所述一个或多个处理器还被配置为:
将预测样本值添加到残差样本值,以确定所述重构样本。
30.根据权利要求29所述的设备,其中所述一个或多个处理器还被配置为:
将去块滤波器应用于所述预测样本值和所述残差样本值的和,以确定所述重构样本。
31.根据权利要求17所述的设备,其中所述一个或多个处理器还被配置为:
输出所述视频数据的解码图片,其中所述解码图片包括所述经滤波的重构样本。
32.根据权利要求17所述的设备,其中所述设备包括视频编码设备。
33.根据权利要求32所述的设备,其中所述设备包括无线通信设备,还包括被配置为接收编码的视频数据的接收器。
34.根据权利要求33所述的设备,其中所述无线通信设备包括电话手机,并且其中所述接收器被配置为根据无线通信标准解调包括所述编码的视频数据的信号。
35.根据权利要求17所述的设备,进一步包括:
显示器,被配置为显示解码的视频数据。
36.根据权利要求17所述的设备,其中所述设备包括相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
37.根据权利要求17所述的设备,其中所述设备包括视频编码设备。
38.一种存储指令计算机可读存储介质,所述指令在由一个或多个处理器执行时使得所述一个或多个处理器:
将第一阶段自适应环路滤波器(ALF)应用于重构块的重构样本,其中为了应用所述第一阶段ALF,所述一个或多个处理器还被配置为:
确定所述重构样本的第一类索引;
基于所述第一类索引从第一滤波器集中选择滤波器;以及
将来自所述第一滤波器集中的所述滤波器应用于所述重构样本,以确定第一中间样本值;
将第二阶段ALF应用于所述重构样本,其中为了应用所述第二阶段ALF,所述一个或多个处理器还被配置为:
确定所述重构样本的第二类索引;
基于所述第二类索引从第二滤波器集中选择第二滤波器;
将所述第二滤波器应用于所述重构样本,以确定第一样本修改值;
基于所述第一中间样本值确定第二样本修改值;以及
基于所述重构样本、所述第一样本修改值和所述第二样本修改值来确定经滤波的重构样本。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US63/130,275 | 2020-12-23 | ||
US63/148,538 | 2021-02-11 | ||
US17/557,706 US11778177B2 (en) | 2020-12-23 | 2021-12-21 | Adaptive loop filter with fixed filters |
US17/557,706 | 2021-12-21 | ||
PCT/US2021/064898 WO2022140567A1 (en) | 2020-12-23 | 2021-12-22 | Adaptive loop filter with fixed filters |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116636207A true CN116636207A (zh) | 2023-08-22 |
Family
ID=87590681
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180084645.6A Pending CN116636207A (zh) | 2020-12-23 | 2021-12-22 | 具有固定滤波器的自适应环路滤波器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116636207A (zh) |
-
2021
- 2021-12-22 CN CN202180084645.6A patent/CN116636207A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113853784B (zh) | 用于视频译码的多个自适应环路滤波器集合的方法和装置 | |
US11778177B2 (en) | Adaptive loop filter with fixed filters | |
CN114080805A (zh) | 用于视频译码的自适应环路滤波的非线性扩展 | |
CN114223202A (zh) | 低频不可分离变换(lfnst)信令 | |
US20220030232A1 (en) | Multiple adaptive loop filter sets | |
CN113545058A (zh) | 用于变换跳过模式的系数译码 | |
CN113557734A (zh) | 视频译码中的系数域块差分脉冲译码调制 | |
US11778213B2 (en) | Activation function design in neural network-based filtering process for video coding | |
CN114128298A (zh) | 调色板模式下的增量量化参数(qp)信令 | |
CN114402620A (zh) | 用于视频编解码的交叉分量自适应环路滤波的比特移位 | |
CN112335251B (zh) | 以分组的旁路位元的系数编码 | |
CN113615178A (zh) | 视频译码中的色度帧内预测 | |
US11722675B2 (en) | Sign prediction for multiple color components in video coding | |
CN116235498A (zh) | 去块滤波器参数信令 | |
CN114503590A (zh) | 用信号发送针对变换跳过中的残差值的译码方案以进行视频译码 | |
CN116636207A (zh) | 具有固定滤波器的自适应环路滤波器 | |
US20220400292A1 (en) | Joint clipping operating for filters for video coding | |
US20230010869A1 (en) | Signaled adaptive loop filter with multiple classifiers in video coding | |
US20230300328A1 (en) | Adaptive loop filter with samples before deblocking filter and samples before sample adaptive offsets | |
US20230328255A1 (en) | Sign prediction for multiple color components in video coding | |
US20240015337A1 (en) | Filtering in parallel with deblocking filtering in video coding | |
KR20230123947A (ko) | 고정 필터들을 갖는 적응적 루프 필터 | |
CN117561712A (zh) | 在视频译码中具有多个分类器的用信号通知的自适应环路滤波器 | |
CN116648910A (zh) | 视频译码中多个颜色分量的符号预测 | |
WO2024011113A1 (en) | Filtering in parallel with deblocking filtering in video coding |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |