CN117426097A - 用于视频译码的滤波器的联合截取操作 - Google Patents
用于视频译码的滤波器的联合截取操作 Download PDFInfo
- Publication number
- CN117426097A CN117426097A CN202280040229.0A CN202280040229A CN117426097A CN 117426097 A CN117426097 A CN 117426097A CN 202280040229 A CN202280040229 A CN 202280040229A CN 117426097 A CN117426097 A CN 117426097A
- Authority
- CN
- China
- Prior art keywords
- filter operation
- output
- filter
- video data
- ccsao
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003044 adaptive effect Effects 0.000 claims abstract description 55
- 238000000034 method Methods 0.000 claims description 142
- 230000002146 bilateral effect Effects 0.000 claims description 65
- 230000015654 memory Effects 0.000 claims description 65
- 238000001914 filtration Methods 0.000 claims description 35
- 238000004891 communication Methods 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 20
- 238000012545 processing Methods 0.000 description 44
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 33
- 238000013139 quantization Methods 0.000 description 31
- 230000006870 function Effects 0.000 description 30
- 241000023320 Luma <angiosperm> Species 0.000 description 28
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 28
- 230000008569 process Effects 0.000 description 23
- 239000013598 vector Substances 0.000 description 22
- 238000005192 partition Methods 0.000 description 20
- 238000000638 solvent extraction Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 9
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 8
- 239000011449 brick Substances 0.000 description 7
- 238000013500 data storage Methods 0.000 description 6
- 238000013461 design Methods 0.000 description 6
- 230000011664 signaling Effects 0.000 description 6
- 101150114515 CTBS gene Proteins 0.000 description 5
- 239000000872 buffer Substances 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000012546 transfer Methods 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 101150039623 Clip1 gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012432 intermediate storage Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
视频编码器或视频解码器被配置为:重构视频数据以生成经重构的视频数据。视频编码器或视频解码器还可以并行地对经重构的视频数据执行多个环路滤波器操作,其中,多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对第一滤波器的第一输出和多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。第一滤波器操作可以是跨分量样本自适应偏移(CCSAO)滤波器操作。
Description
本申请要求享受于2022年6月9日递交的美国专利申请No.17/806,192和于2021年6月14日递交的美国临时申请No.63/210,438的权益,将上述申请中的每个的全部内容通过引用的方式并入本文中。于2022年6月9日递交的美国专利申请No.17/806,192要求享受于2021年6月14日递交的美国临时申请No.63/210,438的权益。
技术领域
本公开内容涉及视频编码和视频解码。
背景技术
数字视频能力可以被合并到各种各样的设备中,包括数字电视机、数字直播系统、无线广播系统、个人数字助理(PDA)、膝上型计算机或台式计算机、平板计算机、电子书阅读器、数字相机、数字记录设备、数字媒体播放器、视频游戏设备、视频游戏控制台、蜂窝或卫星无线电电话(所谓的“智能电话”)、视频电话会议设备、视频流式传输设备等。数字视频设备实现视频译码技术(诸如在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4(第10部分,高级视频译码(AVC))、ITU-T H.265/高效率视频译码(HEVC)、ITU-T H.266/通用视频译码(VVC)所定义的标准和此类标准的扩展以及专有视频编解码器/格式(诸如由开放媒体联盟开发的AOMedia Video 1(AV1))中描述的那些技术)。通过实现这样的视频译码技术,视频设备可以更加高效地发送、接收、编码、解码和/或存储数字视频信息。
视频译码技术包括空间(图片内(intra-picture))预测和/或时间(图片间(inter-picture))预测以减少或去除在视频序列中固有的冗余。对于基于块的视频译码,视频切片(例如,视频图片或视频图片的一部分)可以被分割为视频块,视频块也可以被称为译码树单元(CTU)、译码单元(CU)和/或译码节点。图片的经帧内编码(I)的切片中的视频块是使用相对于同一图片中的相邻块中的参考样本的空间预测来编码的。图片的经帧间编码(P或B)的切片中的视频块可以使用相对于同一图片中的相邻块中的参考样本的空间预测或者相对于其它参考图片中的参考样本的时间预测。图片可以被称为帧,并且参考图片可以被称为参考帧。
发明内容
概括而言,本公开内容描述了用于视频译码的环路滤波的技术。具体而言,本公开内容描述了用于两个或更多个环路滤波操作的联合截取操作的技术。示例环路滤波操作可以包括跨分量样本自适应偏移(CCSAO)滤波器、样本自适应偏移(SAO)滤波器和/或双边滤波器(BIF)。本公开内容的技术可以降低环路滤波器设计的实现复杂度,包括减少实现环路滤波器所需的存储器数量。本公开内容的技术可以进一步增加视频译码中的环路滤波器的吞吐量,从而减少译码过程中的延迟。
在一个示例中,本公开内容描述了一种对视频数据进行译码的方法,所述方法包括:重构视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。在一个示例中,所述第一滤波器操作是CCSAO滤波器操作。
在另一示例中,本公开内容描述了一种被配置为对视频数据进行译码的装置,所述装置包括:被配置为存储视频数据的存储器;以及与所述存储器相通信的一个或多个处理器,所述一个或多个处理器被配置为:重构所述视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。在一个示例中,所述第一滤波器操作是CCSAO滤波器操作。
在另一示例中,本公开内容描述了一种被配置为对视频数据进行译码的装置,所述装置包括:用于重构视频数据以生成经重构的视频数据的单元;用于并行地对所述经重构的视频数据执行多个环路滤波器操作的单元,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及用于对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作的单元。在一个示例中,所述第一滤波器操作是CCSAO滤波器操作。
在另一示例中,本公开内容描述了一种存储指令的非暂时性计算机可读存储介质,所述指令在被执行时使得被配置为对视频数据进行译码的设备的一个或多个处理器进行以下操作:重构所述视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。在一个示例中,所述第一滤波器操作是CCSAO滤波器操作。
在附图和以下描述中阐述了一个或多个示例的细节。根据描述、附图和权利要求,其它特征、目的和优点将是显而易见的。
附图说明
图1是示出可以执行本公开内容的技术的示例视频编码和解码系统的框图。
图2是示出可以与本公开内容的技术结合使用的CCSAO过程的示例的框图。
图3是示出用于CCSAO分类器的候选位置的示例的概念图,该CCSAO分类器可以与本公开内容的技术结合使用。
图4是示出本公开内容的一个示例中的多个环路滤波器的处理的一个示例的流程图。
图5是示出本公开内容的另一示例中的用于SAO、BIF和CCSAO的联合截取的一个示例的流程图。
图6是示出本公开内容的另一示例中的用于SAO、BIF和CCSAO的偏移截取的一个示例的流程图。
图7是示出本公开内容的另一示例中的应用于BIF的输出偏移的截取的一个示例的流程图。
图8是示出本公开内容的另一示例中的对BIF和SAO和的输出偏移的联合截取的一个示例的流程图。
图9是示出可以执行本公开内容的技术的示例视频编码器的框图。
图10是示出可以执行本公开内容的技术的示例视频解码器的框图。
图11是示出根据本公开内容的技术的用于对当前块进行编码的示例方法的流程图。
图12是示出根据本公开内容的技术的用于对当前块进行解码的示例方法的流程图。
图13是示出根据本公开内容的技术的用于对当前块进行滤波的示例方法的流程图。
具体实施方式
概括而言,本公开内容描述了用于视频译码的环路滤波的技术。具体而言,本公开内容描述了用于两个或更多个环路滤波操作的联合截取操作的技术。示例环路滤波操作可以包括跨分量样本自适应偏移(CCSAO)滤波器、样本自适应偏移(SAO)滤波器和/或双边滤波器(BIF)。本公开内容的技术可以降低环路滤波器设计的实现复杂度,包括实现环路滤波器所需的存储器数量的减少。本公开内容的技术可以进一步增加视频译码中的环路滤波器的吞吐量,从而减少译码过程中的延迟。
图1是示出可以执行本公开内容的技术的示例视频编码和解码系统100的框图。概括而言,本公开内容的技术涉及对视频数据进行译码(编码和/或解码)。通常,视频数据包括用于处理视频的任何数据。因此,视频数据可以包括原始的未经编码的视频、经编码的视频、经解码(例如,经重构)的视频、以及视频元数据(例如,信令数据)。
如图1中所示,在该示例中,系统100包括源设备102,源设备102提供要被目的地设备116解码和显示的、经编码的视频数据。具体地,源设备102经由计算机可读介质110来将视频数据提供给目的地设备116。源设备102和目的地设备116可以包括各种各样的设备中的任何一种,包括台式计算机、笔记本计算机(即,膝上型计算机)、移动设备、平板计算机、机顶盒、诸如智能电话之类的电话手机、电视机、相机、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备、广播接收机设备等。在一些情况下,源设备102和目的地设备116可以被配备用于无线通信,并且因此可以被称为无线通信设备。
在图1的示例中,源设备102包括视频源104、存储器106、视频编码器200以及输出接口108。目的地设备116包括输入接口122、视频解码器300、存储器120以及显示设备118。根据本公开内容,源设备102的视频编码器200和目的地设备116的视频解码器300可以被配置为应用用于在滤波(例如,环路滤波)期间执行截取操作的技术。因此,源设备102表示视频编码设备的示例,而目的地设备116表示视频解码设备的示例。在其它示例中,源设备和目的地设备可以包括其它组件或布置。例如,源设备102可以从诸如外部相机之类的外部视频源接收视频数据。同样,目的地设备116可以与外部显示设备对接,而不是包括集成显示设备。
如图1中所示的系统100仅是一个示例。通常,任何数字视频编码和/或解码设备可以执行用于在滤波(例如,环路滤波)期间执行截取操作的技术。源设备102和目的地设备116仅是这样的译码设备的示例,其中,源设备102生成经译码的视频数据以用于传输给目的地设备116。本公开内容将“译码”设备指代为执行对数据的译码(编码和/或解码)的设备。因此,视频编码器200和视频解码器300分别表示译码设备(具体地,视频编码器和视频解码器)的示例。在一些示例中,源设备102和目的地设备116可以以基本上对称的方式进行操作,使得源设备102和目的地设备116中的每一者都包括视频编码和解码组件。因此,系统100可以支持在源设备102和目的地设备116之间的单向或双向视频传输,例如,以用于视频流式传输、视频回放、视频广播或视频电话。
通常,视频源104表示视频数据(即,原始的未经编码的视频数据)的源,并且将视频数据的顺序的一系列图片(也被称为“帧”)提供给视频编码器200,视频编码器200对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备,诸如摄像机、包含先前捕获的原始视频的视频存档、和/或用于从视频内容提供者接收视频的视频馈送接口。作为另外的替代方式,视频源104可以生成基于计算机图形的数据作为源视频,或者生成实时视频、被存档的视频和计算机生成的视频的组合。在每种情况下,视频编码器200可以对被捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从所接收的次序(有时被称为“显示次序”)重新排列为用于译码的译码次序。视频编码器200可以生成包括经编码的视频数据的比特流。然后,源设备102可以经由输出接口108将经编码的视频数据输出到计算机可读介质110上,以便由例如目的地设备116的输入接口122接收和/或取回。
源设备102的存储器106和目的地设备116的存储器120表示通用存储器。在一些示例中,存储器106、120可以存储原始视频数据,例如,来自视频源104的原始视频以及来自视频解码器300的原始的经解码的视频数据。另外或替代地,存储器106、120可以存储由例如视频编码器200和视频解码器300分别可执行的软件指令。尽管存储器106和存储器120在该示例中被示为与视频编码器200和视频解码器300分开,但是应当理解的是,视频编码器200和视频解码器300还可以包括用于在功能上类似或等效目的的内部存储器。此外,存储器106、120可以存储例如从视频编码器200输出的并且输入到视频解码器300的经编码的视频数据。在一些示例中,存储器106、120的部分可以被分配为一个或多个视频缓冲器,例如,以存储原始的经解码和/或经编码的视频数据。
计算机可读介质110可以表示能够将经编码的视频数据从源设备102输送到目的地设备116的任何类型的介质或设备。在一个示例中,计算机可读介质110表示通信介质,其使得源设备102能够例如经由射频网络或基于计算机的网络,来实时地向目的地设备116直接发送经编码的视频数据。根据诸如无线通信协议之类的通信标准,输出接口108可以对包括经编码的视频数据的传输信号进行调制,并且输入接口122可以对所接收的传输信号进行解调。通信介质可以包括任何无线或有线通信介质,诸如射频(RF)频谱或一条或多条物理传输线。通信介质可以形成诸如以下各项的基于分组的网络的一部分:局域网、广域网、或诸如互联网之类的全球网络。通信介质可以包括路由器、交换机、基站、或对于促进从源设备102到目的地设备116的通信而言可以是有用的任何其它设备。
在一些示例中,源设备102可以将经编码的数据从输出接口108输出到存储设备112。类似地,目的地设备116可以经由输入接口122从存储设备112访问经编码的数据。存储设备112可以包括各种分布式或本地访问的数据存储介质中的任何一种,诸如硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器、或用于存储经编码的视频数据的任何其它适当的数字存储介质。
在一些示例中,源设备102可以将经编码的视频数据输出到文件服务器114或者可以存储由源设备102生成的经编码的视频数据的另一中间存储设备。目的地设备116可以经由流式传输或下载来从文件服务器114访问被存储的视频数据。
文件服务器114可以是能够存储经编码的视频数据并且将该经编码的视频数据发送给目的地设备116的任何类型的服务器设备。文件服务器114可以表示网页服务器(例如,用于网站)、被配置为提供文件传输协议服务(诸如文件传输协议(FTP)或基于单向传输的文件递送(FLUTE)协议)的服务器、内容递送网络(CDN)设备、超文本传输协议(HTTP)服务器、多媒体广播多播服务(MBMS)或增强型MBMS(eMBMS)服务器、和/或网络附加存储(NAS)设备。文件服务器114可以另外或替代地实现一种或多种HTTP流式传输协议,诸如基于HTTP的动态自适应流式传输(DASH)、HTTP实时流式传输(HLS)、实时流式传输协议(RTSP)、HTTP动态流式传输等。
目的地设备116可以通过任何标准数据连接(包括互联网连接)来从文件服务器114访问经编码的视频数据。这可以包括适于访问被存储在文件服务器114上的经编码的视频数据的无线信道(例如,Wi-Fi连接)、有线连接(例如,数字用户线(DSL)、电缆调制解调器等)、或这两者的组合。输入接口122可以被配置为根据上文讨论的用于从文件服务器114取回或接收媒体数据的各种协议或者用于取回媒体数据的其它此类协议中的任何一种或多种进行操作。
输出接口108和输入接口122可以表示无线发射机/接收机、调制解调器、有线联网组件(例如,以太网卡)、根据各种IEEE 802.11标准中的任何一种标准进行操作的无线通信组件、或其它物理组件。在其中输出接口108和输入接口122包括无线组件的示例中,输出接口108和输入接口122可以被配置为根据蜂窝通信标准(诸如4G、4G-LTE(长期演进)、改进的LTE、5G等)来传输数据(诸如经编码的视频数据)。在其中输出接口108包括无线发射机的一些示例中,输出接口108和输入接口122可以被配置为根据其它无线标准(诸如IEEE 802.11规范、IEEE 802.15规范(例如,ZigBeeTM)、BluetoothTM标准等)来传输数据(诸如经编码的视频数据)。在一些示例中,源设备102和/或目的地设备116可以包括相应的片上系统(SoC)设备。例如,源设备102可以包括用于执行被赋予视频编码器200和/或输出接口108的功能的SoC设备,并且目的地设备116可以包括用于执行被赋予视频解码器300和/或输入接口122的功能的SoC设备。
本公开内容的技术可以被应用于视频译码,以支持各种多媒体应用中的任何一种,诸如空中电视广播、有线电视传输、卫星电视传输、互联网流式传输视频传输(诸如基于HTTP的动态自适应流式传输(DASH))、被编码到数据存储介质上的数字视频、对被存储在数据存储介质上的数字视频的解码、或其它应用。
目的地设备116的输入接口122从计算机可读介质110(例如,通信介质、存储设备112、文件服务器114等)接收经编码的视频比特流。经编码的视频比特流可以包括由视频编码器200定义的诸如以下语法元素之类的信令信息(其也被视频解码器300使用):所述语法元素具有描述视频块或其它译码单元(例如,切片、图片、图片组、序列等)的特性和/或处理的值。显示设备118将经解码的视频数据的经解码的图片显示给用户。显示设备118可以表示各种显示设备中的任何一种,诸如液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器、或另一种类型的显示设备。
尽管在图1中未示出,但是在一些示例中,视频编码器200和视频解码器300可以各自与音频编码器和/或音频解码器集成,并且可以包括适当的MUX-DEMUX单元或其它硬件和/或软件,以处理包括公共数据流中的音频和视频两者的经复用的流。
视频编码器200和视频解码器300各自可以被实现为各种适当的编码器和/或解码器电路中的任何一种,诸如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件、或其任何组合。当所述技术部分地用软件实现时,设备可以将用于软件的指令存储在适当的非暂时性计算机可读介质中,并且使用一个或多个处理器,用硬件来执行指令以执行本公开内容的技术。视频编码器200和视频解码器300中的每一者可以被包括在一个或多个编码器或解码器中,编码器或解码器中的任一者可以被集成为相应设备中的组合编码器/解码器(CODEC)的一部分。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器、和/或无线通信设备(诸如蜂窝电话)。
视频编码器200和视频解码器300可以根据视频译码标准(诸如ITU-T H.265(也被称为高效率视频译码(HEVC)标准)或对其的扩展(诸如多视图和/或可伸缩视频译码扩展))进行操作。替代地,视频编码器200和视频解码器300可以根据其它专有或行业标准(诸如ITU-T H.266,也被称为通用视频译码(VVC))进行操作。在其它示例中,视频编码器200和视频解码器300可以根据专有视频编解码器/格式(诸如AOMedia Video 1(AV1)、AV1的扩展和/或AV1的后续版本(例如,AV2))操作。在其它示例中,视频编码器200和视频解码器300可以根据其它专有格式或行业标准操作。然而,本公开内容的技术不限于任何特定的译码标准或格式。通常,视频编码器200和视频解码器300可以被配置为结合使用两个或更多个滤波器(包括两个或更多个环路滤波器)的任何视频译码技术来执行本公开内容的技术。
通常,视频编码器200和视频解码器300可以执行对图片的基于块的译码。术语“块”通常指代包括要被处理的(例如,在编码和/或解码过程中要被编码、被解码或以其它方式使用的)数据的结构。例如,块可以包括亮度和/或色度数据的样本的二维矩阵。通常,视频编码器200和视频解码器300可以对以YUV(例如,Y、Cb、Cr)格式表示的视频数据进行译码。也就是说,视频编码器200和视频解码器300可以对亮度和色度分量进行译码,而不是对用于图片的样本的红色、绿色和蓝色(RGB)数据进行译码,其中,色度分量可以包括红色色相和蓝色色相色度分量两者。在一些示例中,视频编码器200在进行编码之前将所接收的经RGB格式化的数据转换为YUV表示,并且视频解码器300将YUV表示转换为RGB格式。替代地,预处理和后处理单元(未示出)可以执行这些转换。
概括而言,本公开内容可以涉及对图片的译码(例如,编码和解码)以包括对图片的数据进行编码或解码的过程。类似地,本公开内容可以涉及对图片的块的译码以包括对用于块的数据进行编码或解码(例如,预测和/或残差译码)的过程。经编码的视频比特流通常包括用于表示译码决策(例如,译码模式)以及将图片分割为块的语法元素的一系列值。因此,关于对图片或块进行译码的引用通常应当被理解为对形成图片或块的语法元素的值进行译码。
HEVC定义了各种块,包括译码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC,视频译码器(诸如视频编码器200)根据四叉树结构来将译码树单元(CTU)分割为CU。也就是说,视频译码器将CTU和CU分割为四个相等的、不重叠的正方形,并且四叉树的每个节点具有零个或四个子节点。没有子节点的节点可以被称为“叶节点”,并且这样的叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频译码器可以进一步分割PU和TU。例如,在HEVC中,残差四叉树(RQT)表示对TU的分割。在HEVC中,PU表示帧间预测数据,而TU表示残差数据。经帧内预测的CU包括帧内预测信息,诸如帧内模式指示。
作为另一示例,视频编码器200和视频解码器300可以被配置为根据VVC进行操作。根据VVC,视频译码器(诸如视频编码器200)将图片分割为多个译码树单元(CTU)。视频编码器200可以根据树结构(诸如四叉树-二叉树(QTBT)结构或多类型树(MTT)结构)分割CTU。QTBT结构去除了多种分割类型的概念,诸如在HEVC的CU、PU和TU之间的分割。QTBT结构包括两个级别:根据四叉树分割而被分割的第一级别、以及根据二叉树分割而被分割的第二级别。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于译码单元(CU)。
在MTT分割结构中,可以使用四叉树(QT)分割、二叉树(BT)分割以及一种或多种类型的三叉树(TT)(也被称为三元树(TT))分割来对块进行分割。三叉树或三元树分割是其中块被分为三个子块的分割。在一些示例中,三叉树或三元树分割将块划分为三个子块,而不通过中心划分原始块。MTT中的分割类型(例如,QT、BT和TT)可以是对称的或不对称的。
当根据AV1编解码器操作时,视频编码器200和视频解码器300可以被配置为对块中的视频数据进行译码。在AV1中,可以处理的最大译码块被称为超级块。在AV1中,超级块可以是128x128亮度样本或64x64亮度样本。然而,在后续视频译码格式(例如,AV2)中,超级块可以由不同(例如,更大)的亮度样本大小来定义。在一些示例中,超级块是块四叉树的顶层。视频编码器200可以进一步将超级块划分为更小的译码块。视频编码器200可以使用正方形或非正方形分割来将超级块和其它译码块分割为更小的块。非正方形块可以包括N/2xN、NxN/2、N/4xN和NxN/4块。视频编码器200和视频解码器300可以对每个译码块执行单独的预测和变换过程。
AV1还定义了视频数据的瓦片。瓦片是超级块的矩形阵列,其可以独立于其它瓦片进行译码。也就是说,视频编码器200和视频解码器300可以分别对瓦片内的译码块进行编码和解码,而不使用来自其它瓦片的视频数据。然而,视频编码器200和视频解码器300可以跨越瓦片边界执行滤波。瓦片的大小可以是均匀的或不均匀的。基于瓦片的译码可以实现针对编码器和解码器实现的并行处理和/或多线程。
在一些示例中,视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度分量和色度分量中的每一者,而在其它示例中,视频编码器200和视频解码器300可以使用两个或更多个QTBT或MTT结构,诸如用于亮度分量的一个QTBT/MTT结构以及用于两个色度分量的另一个QTBT/MTT结构(或者用于相应色度分量的两个QTBT/MTT结构)。
视频编码器200和视频解码器300可以被配置为使用四叉树分割、QTBT分割、MTT分割、超级块分割或其它分割结构。
在一些示例中,CTU包括亮度样本的译码树块(CTB)、具有三个样本阵列的图片的色度样本的两个对应的CTB、或者单色图片或使用三个单独的色彩平面和用于对样本进行译码的语法结构来译码的图片的样本的CTB。CTB可以是样本的NxN块(针对N的某个值),使得将分量划分为CTB是一种分割。分量是来自以4:2:0、4:2:2或4:4:4的色彩格式组成图片的三个阵列(一个亮度和两个色度)之一的阵列或单个样本,或者是以单色格式组成图片的阵列或阵列的单个样本。在一些示例中,译码块是样本的M×N块(针对M和N的某些值),使得将CTB划分成译码块是一种分割。
可以以各种方式在图片中对块(例如,CTU或CU)进行分组。作为一个示例,砖块可以指代图片中的特定瓦片内的CTU行的矩形区域。瓦片可以是图片中的特定瓦片列和特定瓦片行内的CTU的矩形区域。瓦片列指代CTU的矩形区域,其具有等于图片的高度的高度以及由语法元素(例如,诸如在图片参数集中)指定的宽度。瓦片行指代CTU的矩形区域,其具有由语法元素指定的高度(例如,诸如在图片参数集中)以及等于图片的宽度的宽度。
在一些示例中,可以将瓦片分割为多个砖块,其中的每个砖块可以包括瓦片内的一个或多个CTU行。没有被分割为多个砖块的瓦片也可以被称为砖块。然而,作为瓦片的真实子集的砖块可以不被称为瓦片。图片中的砖块也可以以切片来排列。切片可以是图片的整数个砖块,其可以唯一地被包含在单个网络抽象层(NAL)单元中。在一些示例中,切片包括多个完整的瓦片或者仅包括一个瓦片的完整砖块的连续序列。
本公开内容可以可互换地使用“NxN”和“N乘N”来指代块(诸如CU或其它视频块)在垂直和水平维度方面的样本维度,例如,16x16个样本或16乘16个样本。通常,16x16 CU在垂直方向上将具有16个样本(y=16),并且在水平方向上将具有16个样本(x=16)。同样地,NxN CU通常在垂直方向上具有N个样本,并且在水平方向上具有N个样本,其中N表示非负整数值。CU中的样本可以按行和列来排列。此外,CU不一定需要在水平方向上具有与在垂直方向上相同的数量的样本。例如,CU可以包括NxM个样本,其中M不一定等于N。
视频编码器200对用于CU的表示预测和/或残差信息以及其它信息的视频数据进行编码。预测信息指示将如何预测CU以便形成用于CU的预测块。残差信息通常表示在编码之前的CU的样本与预测块之间的逐样本差。
为了预测CU,视频编码器200通常可以通过帧间预测或帧内预测来形成用于CU的预测块。帧间预测通常指代根据先前经译码的图片的数据来预测CU,而帧内预测通常指代根据同一图片的先前经译码的数据来预测CU。为了执行帧间预测,视频编码器200可以使用一个或多个运动矢量来生成预测块。视频编码器200通常可以执行运动搜索,以识别例如在CU与参考块之间的差异方面与CU紧密匹配的参考块。视频编码器200可以使用绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)、或其它这样的差计算来计算差度量,以确定参考块是否与当前CU紧密匹配。在一些示例中,视频编码器200可以使用单向预测或双向预测来预测当前CU。
VVC的一些示例还提供仿射运动补偿模式,其可以被认为是帧间预测模式。在仿射运动补偿模式下,视频编码器200可以确定表示非平移运动(诸如放大或缩小、旋转、透视运动或其它不规则的运动类型)的两个或更多个运动矢量。
为了执行帧内预测,视频编码器200可以选择帧内预测模式来生成预测块。VVC的一些示例提供六十七种帧内预测模式,包括各种方向性模式、以及平面模式和DC模式。通常,视频编码器200选择帧内预测模式,帧内预测模式描述要根据其来预测当前块(例如,CU的块)的样本的、当前块的相邻样本。假设视频编码器200以光栅扫描次序(从左到右、从上到下)对CTU和CU进行译码,则这样的样本通常可以是在与当前块相同的图片中在当前块的上方、左上方或左侧。
视频编码器200对表示用于当前块的预测模式的数据进行编码。例如,对于帧间预测模式,视频编码器200可以对表示使用各种可用帧间预测模式中的哪一种的数据以及用于对应模式的运动信息进行编码。对于单向或双向帧间预测,例如,视频编码器200可以使用高级运动矢量预测(AMVP)或合并模式来对运动矢量进行编码。视频编码器200可以使用类似的模式来对用于仿射运动补偿模式的运动矢量进行编码。
AV1包括两种用于对视频数据的译码块进行编码和解码的通用技术。这两种通用技术是帧内预测(例如,帧内预测或空间预测)和帧间预测(例如,帧间预测或时间预测)。在AV1的上下文中,当使用帧内预测模式来预测视频数据的当前帧的块时,视频编码器200和视频解码器300不使用来自视频数据的其它帧的视频数据。对于大多数帧内预测模式,视频编码器200基于当前块中的样本值与从同一帧中的参考样本生成的预测值之间的差来对当前帧的块进行编码。视频编码器200基于帧内预测模式来确定从参考样本生成的预测值。
在诸如对块的帧内预测或帧间预测之类的预测之后,视频编码器200可以计算用于该块的残差数据。残差数据(诸如残差块)表示在块与用于该块的预测块之间的逐样本差,该预测块是使用对应的预测模式来形成的。视频编码器200可以将一个或多个变换应用于残差块,以在变换域而非样本域中产生经变换的数据。例如,视频编码器200可以将离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换应用于残差视频数据。另外,视频编码器200可以在第一变换之后应用二次变换,诸如模式相关的不可分离二次变换(MDNSST)、信号相关变换、Karhunen-Loeve变换(KLT)等。视频编码器200在应用一个或多个变换之后产生变换系数。
如上面提到的,在任何变换以产生变换系数之后,视频编码器200可以执行对变换系数的量化。量化通常指代如下的过程:在该过程中,对变换系数进行量化以可能减少用于表示变换系数的数据量,从而提供进一步的压缩。通过执行量化过程,视频编码器200可以减小与一些或所有变换系数相关联的比特深度。例如,视频编码器200可以在量化期间将n比特的值向下舍入为m比特的值,其中n大于m。在一些示例中,为了执行量化,视频编码器200可以执行对要被量化的值的按位右移。
在量化之后,视频编码器200可以扫描变换系数,从而从包括经量化的变换系数的二维矩阵产生一维矢量。可以将扫描设计为将较高能量(并且因此较低频率)的变换系数放在矢量的前面,并且将较低能量(并且因此较高频率)的变换系数放在矢量的后面。在一些示例中,视频编码器200可以利用预定义的扫描次序来扫描经量化的变换系数以产生经串行化的矢量,并且然后对矢量的经量化的变换系数进行熵编码。在其它示例中,视频编码器200可以执行自适应扫描。在扫描经量化的变换系数以形成一维矢量之后,视频编码器200可以例如根据上下文自适应二进制算术译码(CABAC)来对一维矢量进行熵编码。视频编码器200还可以对用于描述与经编码的视频数据相关联的元数据的语法元素的值进行熵编码,以供视频解码器300在对视频数据进行解码时使用。
为了执行CABAC,视频编码器200可以将上下文模型内的上下文指派给要被发送的符号。上下文可以涉及例如符号的相邻值是否为零值。概率确定可以是基于被指派给符号的上下文的。
视频编码器200还可以例如在图片报头、块报头、切片报头中为视频解码器300生成语法数据(诸如基于块的语法数据、基于图片的语法数据和基于序列的语法数据)、或其它语法数据(诸如序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS))。同样地,视频解码器300可以对这样的语法数据进行解码以确定如何解码对应的视频数据。
以这种方式,视频编码器200可以生成比特流,其包括经编码的视频数据,例如,描述将图片分割为块(例如,CU)以及用于该块的预测和/或残差信息的语法元素。最终,视频解码器300可以接收比特流并且对经编码的视频数据进行解码。
通常,视频解码器300执行与由视频编码器200执行的过程相反的过程,以对比特流的经编码的视频数据进行解码。例如,视频解码器300可以使用CABAC,以与视频编码器200的CABAC编码过程基本上类似的、但是相反的方式来对用于比特流的语法元素的值进行解码。语法元素可以定义用于将图片分割为CTU、以及根据对应的分割结构(诸如QTBT结构)对每个CTU进行分割以定义CTU的CU的分割信息。语法元素还可以定义用于视频数据的块(例如,CU)的预测和残差信息。
残差信息可以由例如经量化的变换系数来表示。视频解码器300可以对块的经量化的变换系数进行逆量化和逆变换以重现用于该块的残差块。视频解码器300使用经信号通知的预测模式(帧内预测或帧间预测)和相关的预测信息(例如,用于帧间预测的运动信息)来形成用于该块的预测块。视频解码器300然后可以对预测块和残差块(在逐个样本的基础上)进行组合以重现原始块。视频解码器300可以执行额外处理,诸如执行去块过程以减少沿着块的边界的视觉伪影。
概括而言,本公开内容可能涉及“用信号通知”某些信息(诸如语法元素)。术语“用信号通知”通常可以指代对用于语法元素的值和/或用于对经编码的视频数据进行解码的其它数据的传送。也就是说,视频编码器200可以在比特流中用信号通知用于语法元素的值。通常,用信号通知指代在比特流中生成值。如上面提到的,源设备102可以基本上实时地或不是实时地(诸如可能在将语法元素存储到存储设备112以供目的地设备116稍后取回时发生)将比特流传输到目的地设备116。
根据本公开内容的技术,如将在下文更详细地解释的,视频编码器200和视频解码器300可以被配置为:重构视频数据以生成经重构的视频数据;并行地对经重构的视频数据执行多个环路滤波器操作,其中,多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对第一滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。在一个示例中,第一滤波器操作是CCSAO滤波器操作。
在增强型压缩模型(ECM 1.0)中(在ECM-1.0:https:// vcgit.hhi.fraunhofer.de/ecm/VVCSoftware_VTM/-/tree/ECM-1.0处可获得),被称为样本自适应偏移(SAO)和双边滤波器(BIF)的两个滤波器被配置为并行地操作。在ECM 1.0中,SAO和BIF两者被配置为使用经去块的样本(例如,在应用去块滤波器之后的样本)作为输入,并且双边滤波器和SAO滤波器两者的输出偏移在一起被联合地截取。这些经截取的输出样本进一步被提供给自适应环路滤波器(ALF)作为输入样本。
跨分量样本自适应偏移(CCSAO)是目前正在ECM的探索实验中研究的环路滤波器。与SAO和BIF滤波器一样,跨分量SAO也将来自去块滤波器的经去块的样本作为输入。在一个示例中,CCSAO滤波器与SAO和BIF并行地操作。然而,由CCSAO生成的偏移仅被添加到SAO和BIF的经截取的输出。给定这种实现,示例CCSAO设计具有若干缺点。一个缺点来自需要对每个样本进行额外的截取操作,这增加了视频编码器和视频解码器两者的额外的计算复杂度。另一缺点来自需要生成SAO和BIF的经截取的输出,并且然后在添加CCSAO的偏移之前将经截取的输出存储在存储器中。在一些示例中,这种实现可能增加存储器要求,或者可能在样本的处理中增加额外的延迟。
与SAO类似,CCSAO滤波器被配置为将经重构的样本分类为不同的类别。然后,CCSAO滤波器可以针对每个类别推导一个偏移,并且将该偏移添加到该类别中的经重构的样本中。然而,与仅使用当前样本的一个亮度/色度分量作为输入的SAO不同,CCSAO滤波器利用所有三个分量(例如,YUV或YCbCr)来将当前样本分类为不同的类别。为了促进并行处理,将来自去块滤波器的输出样本用作CCSAO滤波器的输入。图2是示出CCSAO过程400的示例的框图。
在图2中,使用去块滤波器(DBF)、SAO滤波器和CCSAO滤波器对亮度(Y)和色度(U,V)样本进行滤波。DBF Y 402A被配置为对经重构的视频数据的亮度(Y)样本执行去块滤波。DBF U 402B被配置为对经重构的视频数据的第一色度(U)样本执行去块滤波。DBF V 402B被配置为对经重构的视频数据的第二色度(V)样本执行去块滤波。
SAO Y 404A对DBF Y 402A的输出执行SAO滤波。SAO U 404B对DBF U 402B的输出执行SAO滤波。SAO V 404C对DBF V 402C的输出执行SAO滤波。CCSAO Y 406A、CCSAO U 406B和CCSAO V 406C中的每一者被配置为对DBF Y 402A、DBF U 402B和DBF V 402c的输出执行CCSAO滤波。加法器408A对CCSAO Y 406A和SAO Y 404A的输出的样本值求和。加法器408B对CCSAO U 406B和SAO U 404B的输出的样本值求和。加法器408C对CCSAO V 406C和SAOV404C的输出的样本值求和。
在CCSAO设计的一个示例中,为了实现更好的复杂度/性能权衡,仅使用带偏(BO)来增强经重构的样本的质量。对于给定的亮度/色度样本,选择三个候选样本将给定样本分类为不同的类别:一个共置Y样本、一个共置U样本和一个共置V样本。视频编码器200和视频解码器300可以将这三个选择的样本的样本值分类为三个不同的带{bandY,bandU,bandV},并且可以使用联合索引i来指示给定样本的类别。确定一个偏移并且将其添加到落入该类别的经重构的样本,这可以被公式化为:
在等式(1)中,{Ycol,Ucol,Vcol}是三个选择的共置样本,其用于对当前样本进行分类;{NY,NU,NV}是分别应用于{Ycol,Ucol,Vcol}全范围的等分带数量;BD是内部译码比特深度;Cree和C′rec是在应用CCSAO滤波器之前和之后的经重构的样本;σCCSAO[i]是被应用于第i BO类别的CCSAO偏移的值。Clip1是截取函数。在CCSAO的一个示例中,可以从九(9)个候选位置中选择共置亮度样本,而共置色度样本位置是固定的,如在图3中描绘的。图3是示出用于CCSAO分类器的候选位置的示例的概念图。图3示出了用于共置亮度样本的九个候选410(标记为0-8)、以及位置4处的共置U色度样本412和位置4处的共置V色度样本414。
与SAO类似,可以将不同的分类器应用于不同的局部区域,以进一步增强整体图像质量。在帧级别用信号通知用于每个分类器的参数(例如,Ycol,NY、NU、NV的位置和偏移),并且在译码树块(CTB)级别显式地用信号通知并且切换要使用哪个分类器。在一个示例中,对于每个分类器,{NY,NU,NV}的最大值被设置为{16,4,4},并且偏移被约束在范围[-15,15]内。在一个示例中,尽管每帧的最大分类器被约束为4,但是可以使用其它约束。
图4是示出用于SAO、BIF和CCSAO的联合截取的一个示例的流程图。在图4的示例CCSAO设计中,所有三个滤波器(SAO 420、BIF 422和CCSAO 424)将来自去块滤波器426的经去块的样本作为输入,并且每个滤波器生成输出偏移。SAO 420和BIF 422的输出偏移由加法器428添加到来自去块滤波器426的样本,并且对加法器428的求和输出进行截取。然后,加法器430将CCSAO 424的输出偏移与求和SAO 420和BIF 422的经截取输出样本(例如,加法器428的输出)求和。然后,将加法器430的输出发送到自适应环路滤波器(ALF)。在其它示例中,将加法器430的输出存储在存储器(诸如解码图片缓冲器)中。图4的示例CCSAO设计可能表现出若干缺点:
1)第一缺点是每个样本要求额外的截取操作,这增加了额外的计算复杂度。截取操作基本上确保经滤波的样本值没有下溢或上溢,并且确保最终的经滤波的值在指定的动态范围内。基于分量(亮度或色度)并且取决于输入视频的比特深度,动态范围可能不同。
2)第二缺点是在添加CCSAO 424的输出偏移之前,需要生成SAO 420和BIF 422的经截取的输出并且将其存储在存储器中,这可能在一些实现中增加存储器要求,或者可能在样本的处理中增加额外的延迟。
鉴于上述缺点,本公开内容描述了用于在应用两个或更多个滤波器(例如,环路滤波器)时进行联合截取的以下技术。本公开内容的技术可以以任何组合的方式使用或者可以与滤波器的任何组合一起使用。下文参考CCSAO滤波器描述本公开内容的技术,但是本公开内容的技术不限于此。本公开内容的技术可以适用于不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的任何滤波器操作的联合截取(当此类滤波器操作与其它滤波器操作并行地执行时)。当滤波器操作在同一输入上并且不一定同时操作时,它们是并行地执行的。例如,参照图4,SAO 420、BIF 422和CCSAO 424并行地操作,因为它们各自将去块滤波器426的输出作为输入。
通常,视频编码器200和视频解码器300可以被配置为:重构视频数据以生成经重构的视频数据;并行地对经重构的视频数据执行多个环路滤波器操作,其中,多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对第一滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。在一个示例中,第一滤波器操作是CCSAO滤波器操作。然而,第一滤波器可以是与其它滤波器操作并行地执行的另一滤波器(例如,除BIF或SAO之外)。在一个示例中,多个环路滤波器操作还包括双边滤波器(BIF)操作或样本自适应偏移(SAO)滤波器操作中的至少一项。在一个示例中,视频编码器200和视频解码器300可以被配置为:在执行多个环路滤波器操作之前对经重构的视频数据执行去块滤波操作。替代地,视频编码器200和视频解码器300还可以被配置为:在执行两个或更多个环路滤波器操作之后执行自适应环路滤波操作。
在本公开内容的第一示例中,如图5中所示,在加法器500处执行单个联合截取操作。去块滤波器426生成经去块的输出样本。由去块滤波器426生成的输出样本用作SAO420、BIF 422和CCSAO 424的输入。SAO 420、BIF 422和CCSAO中的每一者生成输出偏移。加法器500将由SAO 420、BIF 422和CCSAO 424计算的输出偏移相加,并且将其添加到从去块滤波器426生成的经去块的样本。在加法器500计算总和之后,加法器500对总和执行联合截取操作。图5的技术缓解了上述缺点,同时保持了与图4中提出的CCSAO技术相同的客观和主观质量。
在图5的示例中,为了对CCSAO 424的第一输出和多个环路滤波器操作(例如,去块滤波器426、SAO 420或BIF 422)中的第二环路滤波器的至少第二输出执行联合截取操作,视频编码器200和/或视频解码器300被配置为:将CCSAO 424的第一输出与SAO 420、BIF422和去块滤波器426的相应输出相加以生成第一总和;以及对第一总和执行联合截取操作。
在本公开内容的第二示例中,为了避免SAO滤波器、BIF和CCSAO滤波器的偏移的上溢,视频编码器200和视频解码器300可以向每个滤波器的输出偏移应用截取操作,如图6中所示。
再次,在图6的示例中,去块滤波器426生成经去块的输出样本。由去块滤波器426生成的输出样本用作SAO 420、BIF 422和CCSAO 424的输入。SAO 420、BIF 422和CCSAO中的每一者生成输出偏移。使用截取函数600来对SAO 420的输出偏移进行截取。使用截取函数602来对BIF 422的输出偏移进行截取。使用截取函数604来对CCSAO 424的输出偏移进行截取。加法器606将SAO 420、BIF 422和CCSAO 424中的每一者的经截取的输出添加到由去块滤波器426生成的经去块的样本,以生成总和。然后,加法器606对该总和进行截取。
在图6的示例中,为了对CCSAO 424的第一输出和多个环路滤波器操作(例如,去块滤波器426、SAO 420或BIF 422)的第二环路滤波器的至少第二输出执行联合截取操作,视频编码器200和/或视频解码器300被配置为:对SAO 420、BIF 422和CCSAO 424中的每一者的相应输出进行截取(例如,使用截取函数600、602和604),以生成相应的经截取的输出。视频编码器200和视频解码器300可以将SAO 420、BIF 422和CCSAO 424的相应的经截取的输出与来自去块滤波器426的样本相加在一起(例如,使用加法器606)以生成第一总和,并且对第一总和执行联合截取操作(例如,在加法器606的输出处)。
在本公开内容的第三示例中,由于可以在比特流中用信号通知SAO滤波器和CCSAO滤波器的偏移,因此可以应用比特流约束来避免SAO和CCSAO的偏移的上溢。因此,如图7中所示,截取可以仅应用于BIF的输出偏移。
再次,在图7的示例中,去块滤波器426生成经去块的输出样本。由去块滤波器426生成的输出样本用作SAO 420、BIF 422和CCSAO 424的输入。SAO 420、BIF 422和CCSAO中的每一者生成输出偏移。使用截取函数700来对BIF 422的输出偏移进行截取。加法器702将截取函数700的经截取的输出与SAO和CCSAO 424中的每一者的输出偏移以及由去块滤波器426生成的经去块的样本相加在一起,以生成总和。然后,加法器702对该总和进行截取。
在图7的示例中,为了对CCSAO 424的第一输出和多个环路滤波器操作(例如,去块滤波器426、SAO 420或BIF 422)的第二环路滤波器的至少第二输出执行联合截取操作,视频编码器200和/或视频解码器300被配置为:对BIF 422的第三输出进行截取(例如,使用截取函数700),以生成BIF的经截取的输出。视频编码器200和视频解码器300可以将BIF 422的经截取的输出与CCSAO 424的第一输出以及SAO 420和去块滤波器426的相应输出相加在一起,以生成第一总和。然后,视频编码器200和视频解码器300可以对第一总和执行联合截取操作(例如,在加法器702的输出处)。
在本公开内容的第四示例中,由于在先前的编解码器中应用SAO,因此可以相对于图4重用SAO的控制逻辑,如图8中所示。图8是示出对BIF 422的输出偏移以及SAO 420和去块滤波器426的输出的总和的一个示例联合截取的流程图。
再次,在图8的示例中,去块滤波器426生成经去块的输出样本。由去块滤波器426生成的输出样本用作SAO 420、BIF 422和CCSAO 424的输入。SAO 420、BIF 422和CCSAO中的每一者生成输出偏移。加法器800将SAO 420的输出偏移添加到去块滤波器426的输出并且生成总和(例如,SAO总和)。该SAO总和(例如,将SAO偏移添加到经去块的样本的结果)可以由截取函数804来截取。BIF 422的输出偏移可以由截取函数802来截取。在一些示例中,还可以对CCSAO 424的输出偏移进行截取。然后,可以通过加法器806将BIF 422(例如,由截取函数802截取的)和CCSAO 424的输出偏移添加到经截取的SAO总和。然后,加法器806可以对所得的总和进行截取。
在图8的示例中,为了对CCSAO 424的第一输出和多个环路滤波器操作(例如,去块滤波器426、SAO 420或BIF 422)的第二环路滤波器的至少第二输出执行联合截取操作,视频编码器200和/或视频解码器300被配置为:对BIF 422的第三输出进行截取(例如,使用截取函数802)以生成第一经截取的输出。视频编码器200和/或视频解码器300可以对SAO 420和去块滤波器426的相应输出进行求和以创建第一总和,并且可以对第一总和进行截取以形成第二经截取的输出。视频编码器200和/或视频解码器300可以进一步对CCSAO 424的第一经截取的输出、第二经截取的输出和第一输出进行求和(例如,使用加法器806)以创建第二总和,并且然后可以对第二总和执行联合截取操作(例如,在加法器806的输出处)。
图9是示出可以执行本公开内容的技术的示例视频编码器200的框图。图9是出于解释的目的而提供的,并且不应当被认为对如在本公开内容中泛泛地举例说明和描述的技术进行限制。出于解释的目的,本公开内容根据VVC(正在开发的ITU-T H.266)和HEVC(ITU-T H.265)的技术描述了视频编码器200。然而,本公开内容的技术可以由被配置为其它视频译码标准和视频译码格式(诸如AV1和AV1视频译码格式的后续版本)的视频编码设备来执行。
在图9的示例中,视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、解码图片缓冲器(DPB)218和熵编码单元220。视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、DPB 218和熵编码单元220中的任何一者或全部可以在一个或多个处理器中或者在处理电路中实现。例如,视频编码器200的单元可以被实现为一个或多个电路或逻辑元件,作为硬件电路的一部分,或者作为处理器、ASIC或FPGA的一部分。此外,视频编码器200可以包括额外或替代的处理器或处理电路以执行这些和其它功能。
视频数据存储器230可以存储要由视频编码器200的组件来编码的视频数据。视频编码器200可以从例如视频源104(图1)接收被存储在视频数据存储器230中的视频数据。DPB 218可以充当参考图片存储器,其存储参考视频数据以在由视频编码器200对后续视频数据进行预测时使用。视频数据存储器230和DPB 218可以由各种存储器设备中的任何一种形成,诸如动态随机存取存储器(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、电阻性RAM(RRAM)、或其它类型的存储器设备。视频数据存储器230和DPB 218可以由相同的存储器设备或单独的存储器设备来提供。在各个示例中,视频数据存储器230可以与视频编码器200的其它组件在芯片上(如所示的),或者相对于那些组件在芯片外。
在本公开内容中,对视频数据存储器230的引用不应当被解释为限于在视频编码器200内部的存储器(除非如此具体地描述),或者在视频编码器200外部的存储器(除非如此具体地描述)。确切而言,对视频数据存储器230的引用应当被理解为存储视频编码器200接收以用于编码的视频数据(例如,用于要被编码的当前块的视频数据)的参考存储器。图1的存储器106还可以提供对来自视频编码器200的各个单元的输出的临时存储。
示出了图9的各个单元以帮助理解由视频编码器200执行的操作。这些单元可以被实现为固定功能电路、可编程电路、或其组合。固定功能电路指代提供特定功能并且关于可以被执行的操作而预先设置的电路。可编程电路指代可以被编程以执行各种任务并且以可以被执行的操作来提供灵活功能的电路。例如,可编程电路可以执行软件或固件,软件或固件使得可编程电路以由软件或固件的指令所定义的方式进行操作。固定功能电路可以执行软件指令(例如,以接收参数或输出参数),但是固定功能电路执行的操作类型通常是不可变的。在一些示例中,这些单元中的一个或多个单元可以是不同的电路块(固定功能或可编程的),并且在一些示例中,这些单元中的一个或多个单元可以是集成电路。
视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核。在其中使用由可编程电路执行的软件来执行视频编码器200的操作的示例中,存储器106(图1)可以存储视频编码器200接收并且执行的软件的指令(例如,目标代码),或者视频编码器200内的另一存储器(未示出)可以存储这样的指令。
视频数据存储器230被配置为存储所接收的视频数据。视频编码器200可以从视频数据存储器230取回视频数据的图片,并且将视频数据提供给残差生成单元204和模式选择单元202。视频数据存储器230中的视频数据可以是要被编码的原始视频数据。
模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括额外功能单元,其根据其它预测模式来执行视频预测。作为示例,模式选择单元202可以包括调色板单元、块内复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。
模式选择单元202通常协调多个编码通路(pass),以测试编码参数的组合以及针对这样的组合所得到的率失真值。编码参数可以包括将CTU分割为CU、用于CU的预测模式、用于CU的残差数据的变换类型、用于CU的残差数据的量化参数等。模式选择单元202可以最终选择编码参数的具有比其它测试的组合更佳的率失真值的组合。
视频编码器200可以将从视频数据存储器230取回的图片分割为一系列CTU,并且将一个或多个CTU封装在切片内。模式选择单元202可以根据树结构(诸如上述的MTT结构、QTBT结构、超级块结构或四叉树结构)来分割图片的CTU。如上所述,视频编码器200可以通过根据树结构来分割CTU,从而形成一个或多个CU。这样的CU通常也可以被称为“视频块”或“块”。
通常,模式选择单元202还控制其组件(例如,运动估计单元222、运动补偿单元224和帧内预测单元226)以生成用于当前块(例如,当前CU,或者在HEVC中为PU和TU的重叠部分)的预测块。为了对当前块进行帧间预测,运动估计单元222可以执行运动搜索以识别在一个或多个参考图片(例如,被存储在DPB 218中的一个或多个先前经译码的图片)中的一个或多个紧密匹配的参考块。具体地,运动估计单元222可以例如根据绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)等,来计算表示潜在参考块将与当前块的类似程度的值。运动估计单元222通常可以使用在当前块与正被考虑的参考块之间的逐样本差来执行这些计算。运动估计单元222可以识别从这些计算所得到的具有最低值的参考块,其指示与当前块最紧密匹配的参考块。
运动估计单元222可以形成一个或多个运动矢量(MV),所述运动矢量限定相对于当前块在当前图片中的位置而言参考块在参考图片中的位置。然后,运动估计单元222可以将运动矢量提供给运动补偿单元224。例如,对于单向帧间预测,运动估计单元222可以提供单个运动矢量,而对于双向帧间预测,运动估计单元222可以提供两个运动矢量。然后,运动补偿单元224可以使用运动矢量来生成预测块。例如,运动补偿单元224可以使用运动矢量来取回参考块的数据。作为另一示例,如果运动矢量具有分数样本精度,则运动补偿单元224可以根据一个或多个插值滤波器来对用于预测块的值进行插值。此外,对于双向帧间预测,运动补偿单元224可以取回用于由相应的运动矢量标识的两个参考块的数据并且例如通过逐样本平均或加权平均来将所取回的数据进行组合。
当根据AV1视频译码格式操作时,运动估计单元222和运动补偿单元224可以被配置为使用平移运动补偿、仿射运动补偿、重叠块运动补偿(OBMC)和/或复合帧间-帧内预测来对视频数据的译码块(例如,亮度译码块和色度译码块两者)进行编码。
作为另一示例,对于帧内预测或帧内预测译码,帧内预测单元226可以根据与当前块相邻的样本来生成预测块。例如,对于方向性模式,帧内预测单元226通常可以在数学上将相邻样本的值进行组合,并且跨越当前块在所定义的方向上填充这些计算出的值以产生预测块。作为另一示例,对于DC模式,帧内预测单元226可以计算当前块的相邻样本的平均值,并且生成预测块以包括针对预测块的每个样本的该得到的平均值。
当根据AV1视频译码格式操作时,帧内预测单元226可以被配置为使用定向帧内预测、非定向帧内预测、递归滤波器帧内预测、根据亮度的色度(CFL)预测、块内复制(IBC)和/或调色板模式来对视频数据的译码块(例如,亮度译码块和色度译码块两者)进行编码。模式选择单元202可以包括用于根据其它预测模式来执行视频预测的额外的功能单元。
模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的未经编码的版本,并且从模式选择单元202接收预测块。残差生成单元204计算在当前块与预测块之间的逐样本差。所得到的逐样本差定义了用于当前块的残差块。在一些示例中,残差生成单元204还可以确定残差块中的样本值之间的差,以使用残差差分脉冲译码调制(RDPCM)来生成残差块。在一些示例中,可以使用执行二进制减法的一个或多个减法器电路来形成残差生成单元204。
在其中模式选择单元202将CU分割为PU的示例中,每个PU可以与亮度预测单元和对应的色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所指出的,CU的大小可以指代CU的亮度译码块的大小,而PU的大小可以指代PU的亮度预测单元的大小。假设特定CU的大小为2Nx2N,则视频编码器200可以支持用于帧内预测的2Nx2N或NxN的PU大小、以及用于帧间预测的2Nx2N、2NxN、Nx2N、NxN或类似的对称的PU大小。视频编码器200和视频解码器300还可以支持针对用于帧间预测的2NxnU、2NxnD、nLx2N和nRx2N的PU大小的非对称分割。
在其中模式选择单元202不将CU进一步分割为PU的示例中,每个CU可以与亮度译码块和对应的色度译码块相关联。如上面,CU的大小可以指代CU的亮度译码块的大小。视频编码器200和视频解码器300可以支持2Nx2N、2NxN或Nx2N的CU大小。
对于其它视频译码技术(举一些示例,诸如块内复制模式译码、仿射模式译码和线性模型(LM)模式译码),模式选择单元202经由与译码技术相关联的相应单元来生成用于正被编码的当前块的预测块。在一些示例中(诸如调色板模式译码),模式选择单元202可以不生成预测块,而是替代地生成指示基于所选择的调色板来重构块的方式的语法元素。在这样的模式下,模式选择单元202可以将这些语法元素提供给熵编码单元220以进行编码。
如上所述,残差生成单元204接收用于当前块和对应的预测块的视频数据。然后,残差生成单元204为当前块生成残差块。为了生成残差块,残差生成单元204计算在预测块与当前块之间的逐样本差。
变换处理单元206将一种或多种变换应用于残差块,以生成变换系数的块(本文中被称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块,以形成变换系数块。例如,变换处理单元206可以将离散余弦变换(DCT)、方向变换、Karhunen-Loeve变换(KLT)、或概念上类似的变换应用于残差块。在一些示例中,变换处理单元206可以对残差块执行多种变换,例如,初级变换和二次变换(诸如旋转变换)。在一些示例中,变换处理单元206不对残差块应用变换。
当根据AV1操作时,变换处理单元206可以将一种或多种变换应用于残差块以生成变换系数的块(本文中被称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块以形成变换系数块。例如,变换处理单元206可以应用水平/垂直变换组合,其可以包括离散余弦变换(DCT)、非对称离散正弦变换(ADST)、翻转ADST(例如,逆序ADST)和恒等变换(IDTX)。当使用恒等变换时,将在垂直或水平方向之一跳过变换。在一些示例中,可以跳过变换处理。
量化单元208可以对变换系数块中的变换系数进行量化,以产生经量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值来对变换系数块的变换系数进行量化。视频编码器200(例如,经由模式选择单元202)可以通过调整与CU相关联的QP值来调整被应用于与当前块相关联的变换系数块的量化程度。量化可能引起信息损失,并且因此,经量化的变换系数可能具有与由变换处理单元206所产生的原始变换系数相比较低的精度。
逆量化单元210和逆变换处理单元212可以将逆量化和逆变换分别应用于经量化的变换系数块,以从变换系数块重构残差块。重构单元214可以基于经重构的残差块和由模式选择单元202生成的预测块来产生与当前块相对应的重构块(尽管潜在地具有某种程度的失真)。例如,重构单元214可以将经重构的残差块的样本与来自由模式选择单元202所生成的预测块的对应样本相加,以产生经重构的块。
滤波器单元216可以对经重构的块执行一个或多个滤波器操作。例如,滤波器单元216可以执行去块操作以减少沿着CU的边缘的块效应伪影。在一些示例中,可以跳过滤波器单元216的操作。在一些示例中,滤波器单元216可以被配置为执行两个或更多个环路滤波操作,包括CCSAO、SAO和BIF。滤波器单元216还可以被配置为执行上述联合截取操作中的一个或多个联合截取操作。
当根据AV1操作时,滤波单元216可以对经重构的块执行一个或多个滤波器操作。例如,滤波器单元216可以执行去块操作以减少沿CU边缘的块状伪影。在其它示例中,滤波器单元216可以应用约束定向增强滤波器(CDEF),其可以在去块之后被应用,并且可以包括基于估计的边缘方向来应用不可分离的、非线性的、低通方向滤波器。滤波器单元216还可以包括在CDEF之后应用的环路恢复滤波器,并且可以包括可分离的、对称归一化维纳滤波器或双自导滤波器。
视频编码器200将经重构的块存储在DPB 218中。例如,在其中不执行滤波器单元216的操作的示例中,重构单元214可以将经重构的块存储到DPB 218中。在其中执行滤波器单元216的操作的示例中,滤波器单元216可以将经滤波的重构块存储到DPB 218中。运动估计单元222和运动补偿单元224可以从DPB 218取回由经重构的(并且潜在地经滤波的)块形成的参考图片,以对后续经编码的图片的块进行帧间预测。另外,帧内预测单元226可以使用在DPB 218中的当前图片的经重构的块来对当前图片中的其它块进行帧内预测。
通常,熵编码单元220可以对从视频编码器200的其它功能组件接收的语法元素进行熵编码。例如,熵编码单元220可以对来自量化单元208的经量化的变换系数块进行熵编码。作为另一示例,熵编码单元220可以对来自模式选择单元202的预测语法元素(例如,用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一示例的语法元素执行一个或多个熵编码操作,以生成经熵编码的数据。例如,熵编码单元220可以执行上下文自适应变长译码(CAVLC)操作、CABAC操作、可变-可变(V2V)长度译码操作、基于语法的上下文自适应二进制算术译码(SBAC)操作、概率区间分割熵(PIPE)译码操作、指数哥伦布编码操作、或对数据的另一种类型的熵编码操作。在一些示例中,熵编码单元220可以在其中语法元素未被熵编码的旁路模式下操作。
视频编码器200可以输出比特流,其包括重构切片或图片的块所需要的经熵编码的语法元素。具体地,熵编码单元220可以输出比特流。
根据AV1,熵编码单元220可以被配置为符号到符号自适应多符号算术译码器。AV1中的语法元素包括N个元素的字母表,并且上下文(例如,概率模型)包括N个概率的集合。熵编码单元220可以将概率存储为n比特(例如,15比特)累积分布函数(CDF)。熵编码单元22可以利用基于字母大小的更新因子来执行递归缩放,以更新上下文。
关于块描述了上述操作。这样的描述应当被理解为用于亮度译码块和/或色度译码块的操作。如上所述,在一些示例中,亮度译码块和色度译码块是CU的亮度分量和色度分量。在一些示例中,亮度译码块和色度译码块是PU的亮度分量和色度分量。
在一些示例中,不需要针对色度译码块重复关于亮度译码块执行的操作。作为一个示例,不需要重复用于识别用于亮度译码块的运动矢量(MV)和参考图片的操作来识别用于色度块的MV和参考图片。确切而言,可以对用于亮度译码块的MV进行缩放以确定用于色度块的MV,并且参考图片可以是相同的。作为另一示例,对于亮度译码块和色度译码块,帧内预测过程可以是相同的。
视频编码器200表示被配置为对视频数据进行编码的设备的示例,该设备包括:存储器,其被配置为存储视频数据;以及一个或多个处理单元,其在电路中实现并且被配置为:重构视频数据以生成经重构的视频数据;并行地对经重构的视频数据执行多个环路滤波器操作,其中,多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对第一滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
图10是示出可以执行本公开内容的技术的示例视频解码器300的框图。图10是出于解释的目的而提供的,并且不对在本公开内容中泛泛地举例说明和描述的技术进行限制。出于解释的目的,本公开内容根据VVC(正在开发的ITU-T H.266)和HEVC(ITU-T H.265)的技术描述了视频解码器300。然而,本公开内容的技术可以由被配置用于其它视频译码标准的视频译码设备来执行。
在图10的示例中,视频解码器300包括译码图片缓冲器(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和解码图片缓冲器(DPB)134。CPB存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和DPB 134中的任何一者或全部可以在一个或多个处理器中或者在处理电路中实现。例如,视频解码器300的单元可以被实现为一个或多个电路或逻辑元件,作为硬件电路的一部分,或者作为处理器、ASIC或FPGA的一部分。此外,视频解码器300可以包括额外或替代的处理器或处理电路以执行这些和其它功能。
预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括加法单元,其根据其它预测模式来执行预测。作为示例,预测处理单元304可以包括调色板单元、块内复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其它示例中,视频解码器300可以包括更多、更少或不同的功能组件。
当根据AV1操作时,补偿单元316可以被配置为使用平移运动补偿、仿射运动补偿、OBMC和/或复合帧间-帧内预测来对视频数据的译码块(例如,亮度译码块和色度译码块两者)进行解码,如上所述。帧内预测单元318可以被配置为使用定向帧内预测、非定向帧内预测、递归滤波器帧内预测、CFL预测、块内复制(IBC)和/或调色板模式来对视频数据的译码块(例如,亮度译码块和色度译码块两者)进行解码,如上所述。
CPB存储器320可以存储要由视频解码器300的组件解码的视频数据,诸如经编码的视频比特流。例如,可以从计算机可读介质110(图1)获得被存储在CPB存储器320中的视频数据。CPB存储器320可以包括存储来自经编码的视频比特流的经编码的视频数据(例如,语法元素)的CPB。此外,CPB存储器320可以存储除了经译码的图片的语法元素之外的视频数据,诸如表示来自视频解码器300的各个单元的输出的临时数据。DPB 314通常存储经解码的图片,视频解码器300可以输出经解码的图片,和/或在解码经编码的视频比特流的后续数据或图片时使用经解码的图片作为参考视频数据。CPB存储器320和DPB 314可以由各种存储器设备中的任何一种形成,诸如DRAM,包括SDRAM、MRAM、RRAM或其它类型的存储器设备。CPB存储器320和DPB 314可以由相同的存储器设备或单独的存储器设备来提供。在各个示例中,CPB存储器320可以与视频解码器300的其它组件在芯片上,或者相对于那些组件在芯片外。
另外或替代地,在一些示例中,视频解码器300可以从存储器120(图1)取回经译码的视频数据。也就是说,存储器120可以如上文所讨论地利用CPB存储器320来存储数据。同样,当视频解码器300的一些或全部功能是用要被视频解码器300的处理电路执行的软件来实现时,存储器120可以存储要被视频解码器300执行的指令。
示出了图10中示出的各个单元以帮助理解由视频解码器300执行的操作。这些单元可以被实现为固定功能电路、可编程电路、或其组合。类似于图9,固定功能电路指代提供特定功能并且关于可以被执行的操作而预先设置的电路。可编程电路指代可以被编程以执行各种任务并且以可以被执行的操作来提供灵活功能的电路。例如,可编程电路可以执行软件或固件,软件或固件使得可编程电路以由软件或固件的指令所定义的方式进行操作。固定功能电路可以执行软件指令(例如,以接收参数或输出参数),但是固定功能电路执行的操作的类型通常是不可变的。在一些示例中,这些单元中的一个或多个单元可以是不同的电路块(固定功能或可编程的),并且在一些示例中,这些单元中的一个或多个单元可以是集成电路。
视频解码器300可以包括由可编程电路形成的ALU、EFU、数字电路、模拟电路和/或可编程核。在其中由在可编程电路上执行的软件执行视频解码器300的操作的示例中,片上或片外存储器可以存储视频解码器300接收并且执行的软件的指令(例如,目标代码)。
熵解码单元302可以从CPB接收经编码的视频数据,并且对视频数据进行熵解码以重现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从比特流中提取的语法元素来生成经解码的视频数据。
通常,视频解码器300逐块地重构图片。视频解码器300可以单独地对每个块执行重构操作(其中,当前正在被重构(即,被解码)的块可以被称为“当前块”)。
熵解码单元302可以对定义经量化的变换系数块的经量化的变换系数的语法元素以及诸如量化参数(QP)和/或变换模式指示之类的变换信息进行熵解码。逆量化单元306可以使用与经量化的变换系数块相关联的QP来确定量化程度,并且同样地,确定供逆量化单元306应用的逆量化程度。逆量化单元306可以例如执行按位左移操作以对经量化的变换系数进行逆量化。逆量化单元306从而可以形成包括变换系数的变换系数块。
在逆量化单元306形成变换系数块之后,逆变换处理单元308可以将一种或多种逆变换应用于变换系数块,以生成与当前块相关联的残差块。例如,逆变换处理单元308可以将逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或另一逆变换应用于变换系数块。
此外,预测处理单元304根据由熵解码单元302进行熵解码的预测信息语法元素来生成预测块。例如,如果预测信息语法元素指示当前块是经帧间预测的,则运动补偿单元316可以生成预测块。在这种情况下,预测信息语法元素可以指示在DPB 314中的要从其取回参考块的参考图片、以及标识相对于当前块在当前图片中的位置而言参考块在参考图片中的位置的运动矢量。运动补偿单元316通常可以以与关于运动补偿单元224(图9)所描述的方式基本类似的方式来执行帧间预测过程。
作为另一示例,如果预测信息语法元素指示当前块是经帧内预测的,则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式来生成预测块。再次,帧内预测单元318通常可以以与关于帧内预测单元226(图9)所描述的方式基本上类似的方式来执行帧内预测过程。帧内预测单元318可以从DPB 314取回当前块的相邻样本的数据。
重构单元310可以使用预测块和残差块来重构当前块。例如,重构单元310可以将残差块的样本与预测块的对应样本相加来重构当前块。
滤波器单元312可以对经重构的块执行一个或多个滤波器操作。例如,滤波器单元312可以执行去块操作以减少沿着经重构的块的边缘的块效应伪影。不一定在所有示例中都执行滤波器单元312的操作。在一些示例中,滤波器单元312可以被配置为执行两个或更多个环路滤波操作,包括CCSAO、SAO和BIF。滤波器单元316还可以被配置为执行上述联合截取操作中的一个或多个联合截取操作。
视频解码器300可以将经重构的块存储在DPB 314中。例如,在其中不执行滤波器单元312的操作的示例中,重构单元310可以将经重构的块存储到DPB 314中。在其中执行滤波器单元312的操作的示例中,滤波器单元312可以将经滤波的重构块存储到DPB 314中。如上所讨论的,DPB 314可以将参考信息(诸如用于帧内预测的当前图片以及用于后续运动补偿的先前经解码的图片的样本)提供给预测处理单元304。此外,视频解码器300可以从DPB314输出经解码的图片(例如,经解码的视频),以用于在诸如图1的显示设备118之类的显示设备上的后续呈现。
以这种方式,视频解码器300表示视频解码设备的示例,该视频解码设备包括:存储器,其被配置为存储视频数据;以及一个或多个处理单元,其在电路中实现并且被配置为:重构视频数据以生成经重构的视频数据;并行地对经重构的视频数据执行多个环路滤波器操作,其中,多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对第一滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
图11是示出根据本公开内容的技术的用于对当前块进行编码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和9)进行了描述,但是应当理解的是,其它设备可以被配置为执行与图11的方法类似的方法。
在该示例中,视频编码器200最初预测当前块(350)。例如,视频编码器200可以形成用于当前块的预测块。然后,视频编码器200可以计算用于当前块的残差块(352)。为了计算残差块,视频编码器200可以计算在原始的未经编码的块与用于当前块的预测块之间的差。然后,视频编码器200可以对残差块进行变换以及对残差块的变换系数进行量化(354)。接下来,视频编码器200可以扫描残差块的经量化的变换系数(356)。在扫描期间或在扫描之后,视频编码器200可以对变换系数进行熵编码(358)。例如,视频编码器200可以使用CAVLC或CABAC来对变换系数进行编码。然后,视频编码器200可以输出块的经熵编码的数据(360)。
图12是示出根据本公开内容的技术的用于对视频数据的当前块进行解码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和10)进行了描述,但是应当理解的是,其它设备可以被配置为执行与图12的方法类似的方法。
视频解码器300可以接收用于当前块的经熵编码的数据(诸如经熵编码的预测信息和用于与当前块相对应的残差块的变换系数的经熵编码的数据)(370)。视频解码器300可以对经熵编码的数据进行熵解码以确定用于当前块的预测信息并且重现残差块的变换系数(372)。视频解码器300可以例如使用如由用于当前块的预测信息所指示的帧内或帧间预测模式来预测当前块(374),以计算用于当前块的预测块。然后,视频解码器300可以对所重现的变换系数进行逆扫描(376),以创建经量化的变换系数的块。然后,视频解码器300可以对变换系数进行逆量化并且将逆变换应用于变换系数以产生残差块(378)。最终,视频解码器300可以通过将预测块和残差块进行组合来对当前块进行解码(380)。
图13是示出根据本公开内容的技术的用于对当前块进行滤波的示例方法的流程图。图13的技术可以由视频编码器200和视频解码器300的一个或多个结构组件(包括视频编码器200的滤波单元216(参见图9)和/或视频解码器300的滤波单元312(参见图10))执行。图13的技术可以在视频编码器200的重构环路中执行,该重构环路通常在图11的变换和量化残差块(354)过程之后执行。图13的技术也可以由视频解码器300执行,并且通常可以在图12的组合预测块和残差块(380)过程之后发生。
在本公开内容的一个示例中,视频编码器200和视频解码器300可以被配置为:重构视频数据以生成经重构的视频数据(1200)。在视频编码的示例中,视频编码器200可以被配置为:在重构环路中重构视频数据,以生成经重构的视频数据。在视频解码的示例中,视频解码器300可以被配置为:对视频数据进行解码,以生成经重构的视频数据。
视频编码器200和视频解码器300还可以被配置为:并行地对经重构的视频数据执行多个环路滤波器操作,其中,多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作(1202)。视频编码器200和视频解码器300还可以被配置为:对第一滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作(1204)。在一个示例中,第一滤波器操作是CCSAO滤波器操作。在另一示例中,多个环路滤波器操作还包括双边滤波器操作或SAO滤波器操作中的至少一项。
在本公开内容的另一示例中,视频编码器200和视频解码器300可以被配置为:在执行多个环路滤波器操作之前,对经重构的视频数据执行去块滤波操作。视频编码器200和视频解码器300还可以被配置为:在执行多个环路滤波器操作之后,执行自适应环路滤波操作。
在一个示例中,为了对CCSAO滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的至少第二输出执行联合截取操作,视频编码器200和视频解码器300被配置为:将CCSAO滤波器操作的第一输出与SAO滤波器操作、双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及对第一总和执行联合截取操作。
在另一示例中,为了对CCSAO滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的至少第二输出执行联合截取操作,视频编码器200和视频解码器300被配置为:对SAO滤波器操作、双边滤波器操作和CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;将SAO滤波器操作、双边滤波器操作和CCSAO滤波器操作的相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及对第一总和执行联合截取操作。
在另一示例中,为了对CCSAO滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的至少第二输出执行联合截取操作,视频编码器200和视频解码器300被配置为:对双边滤波器操作的第三输出进行截取,以生成双边滤波器操作的经截取的输出;将双边滤波器操作的经截取的输出与CCSAO滤波器操作的第一输出以及SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及对第一总和执行联合截取操作。
在另一示例中,为了对CCSAO滤波器操作的第一输出和多个环路滤波器操作中的第二环路滤波器操作的至少第二输出执行联合截取操作,视频编码器200和视频解码器300被配置为:对双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;将SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;对第一总和进行截取以形成第二经截取的输出;将第一经截取的输出、第二经截取的输出和CCSAO滤波器操作的第一输出相加以创建第二总和;以及对第二总和执行联合截取操作。
下文描述了本公开内容的额外方面。
方面1A-一种对视频数据进行译码的方法,所述方法包括:重构视频数据;以及对经重构的视频数据执行两个或更多个环路滤波器操作,包括对所述两个或更多个环路滤波器操作的输出执行联合截取操作。
方面2A-根据方面1A所述的方法,其中,所述两个或更多个环路滤波器操作包括双边滤波器(BIF)、样本自适应偏移(SAO)滤波器和跨分量SAO(CCSAO)滤波器。
方面3A-根据方面1A-2A中任一项所述的方法,还包括:在执行所述两个或更多个环路滤波器操作之前,对经重构的视频数据执行去块滤波操作。
方面4A-根据方面1A-3A中任一项所述的方法,还包括:在执行所述两个或更多个环路滤波器操作之后,执行自适应环路滤波操作。
方面5A-根据方面1A-4A中任一项所述的方法,其中,执行所述两个或更多个环路滤波器操作包括:将SAO滤波器、BIF和CCSAO滤波器的所述输出与来自去块滤波器的样本相加在一起;以及对总和执行截取操作。
方面6A-根据方面1A-4A中任一项所述的方法,其中,执行所述两个或更多个环路滤波器操作包括:对SAO滤波器、BIF和CCSAO滤波器中的每一者的所述输出进行截取;将所述SAO滤波器、所述BIF和CCSAO滤波器的经截取的输出与来自去块滤波器的样本相加在一起;以及对总和执行截取操作。
方面7A-根据方面1A-4A中任一项所述的方法,其中,执行所述两个或更多个环路滤波器操作包括:对BIF的所述输出进行截取;将所述BIF的经截取的输出与SAO滤波器和CCSAO滤波器的输出以及来自去块滤波器的样本相加在一起;以及对总和执行截取操作。
方面8A-根据方面1A-4A中任一项所述的方法,其中,执行所述两个或更多个环路滤波器操作包括:对BIF的所述输出进行截取;将SAO滤波器的输出与去块滤波器的样本相加在一起以创建第一总和;对所述第一总和进行截取以形成第一经截取的输出;将所述BIF的经截取的输出与所述第一经截取的输出和CCSAO滤波器的输出相加,以创建第二经截取的输出;以及对所述第二经截取的输出执行截取操作。
方面9A-根据方面1A-8A中任一项所述的方法,其中,译码包括解码。
方面10A-根据方面1A-8A中任一项所述的方法,其中,译码包括编码。
方面11A-一种用于对视频数据进行译码的设备,所述设备包括用于执行根据方面1A-10A中任一项所述的方法的一个或多个单元。
方面12A-根据方面11A所述的设备,其中,所述一个或多个单元包括在电路中实现的一个或多个处理器。
方面13A-根据方面11A和12A中任一项所述的设备,还包括:用于存储所述视频数据的存储器。
方面14A-根据方面11A-13A中任一项所述的设备,还包括:被配置为显示经解码的视频数据的显示器。
方面15A-根据方面11A-14A中任一项所述的设备,其中,所述设备包括相机、计算机、移动设备、广播接收机设备或机顶盒中的一者或多者。
方面16A-根据方面11A-15A中任一项所述的设备,其中,所述设备包括视频解码器。
方面17A-根据方面11A-16A中任一项所述的设备,其中,所述设备包括视频编码器。
方面18A-一种具有被存储在其上的指令的计算机可读存储介质,所述指令在被执行时使得一个或多个处理器执行根据方面1A-10A中任一项所述的方法。
方面1B-一种对视频数据进行译码的方法,所述方法包括:重构视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
方面2B-根据方面1B所述的方法,其中,所述多个环路滤波器操作还包括所述双边滤波器操作或所述SAO滤波器操作中的至少一项。
方面3B-根据方面1B所述的方法,还包括:在执行所述多个环路滤波器操作之前,对经重构的视频数据执行去块滤波操作。
方面4B-根据方面1B所述的方法,还包括:在执行所述多个环路滤波器操作之后,执行自适应环路滤波操作。
方面5B-根据方面1B所述的方法,其中,所述第一滤波器操作是跨分量样本自适应偏移(CCSAO)滤波器操作。
方面6B-根据方面5B所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:将所述CCSAO滤波器操作的所述第一输出与所述SAO滤波器操作、所述双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面7B-根据方面5B所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:对所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;将所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作的所述相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面8B-根据方面5B所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:对所述双边滤波器操作的第三输出进行截取,以生成所述双边滤波器操作的经截取的输出;将所述双边滤波器操作的所述经截取的输出与所述CCSAO滤波器操作的所述第一输出以及所述SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面9B-根据方面5B所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:对所述双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;将所述SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;对所述第一总和进行截取以形成第二经截取的输出;将所述第一经截取的输出、所述第二经截取的输出和所述CCSAO滤波器操作的所述第一输出相加以创建第二总和;以及对所述第二总和执行所述联合截取操作。
方面10B-根据方面1B所述的方法,其中,译码包括编码,并且其中,重构所述视频数据以生成所述经重构的视频数据包括:在视频编码器的重构环路中重构所述视频数据,以生成所述经重构的视频数据。
方面11B-根据方面1B所述的方法,其中,译码包括解码,并且其中,重构所述视频数据以生成所述经重构的视频数据包括:对所述视频数据进行解码以生成所述经重构的视频数据。
方面12B-一种被配置为对视频数据进行译码的装置,所述装置包括:存储器,其被配置为存储视频数据;以及与所述存储器相通信的一个或多个处理器,所述一个或多个处理器被配置为:重构所述视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
方面13B-根据方面12B所述的装置,其中,所述多个环路滤波器操作还包括所述双边滤波器操作或所述样本自适应偏移(SAO)滤波器操作中的至少一项。
方面14B-根据方面12B所述的装置,其中,所述一个或多个处理器还被配置为:在执行所述多个环路滤波器操作之前,对经重构的视频数据执行去块滤波操作。
方面15B-根据方面12B所述的装置,其中,所述一个或多个处理器还被配置为:在执行所述多个环路滤波器操作之后,执行自适应环路滤波操作。
方面16B-根据方面12B所述的装置,其中,所述第一滤波器操作是跨分量样本自适应偏移(CCSAO)滤波器操作。
方面17B-根据方面16B所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:将所述CCSAO滤波器操作的所述第一输出与所述SAO滤波器操作、所述双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面18B-根据方面16B所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:对所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;将所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作的所述相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面19B-根据方面16B所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:对所述双边滤波器操作的第三输出进行截取,以生成所述双边滤波器操作的经截取的输出;将所述双边滤波器操作的所述经截取的输出与所述CCSAO滤波器操作的所述第一输出以及所述SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面20B-根据方面16B所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:对所述双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;将所述SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;对所述第一总和进行截取以形成第二经截取的输出;将所述第一经截取的输出、所述第二经截取的输出和所述CCSAO滤波器操作的所述第一输出相加以创建第二总和;以及对所述第二总和执行所述联合截取操作。
方面21B-根据方面12B所述的装置,其中,所述装置是视频编码器,并且其中,为了重构所述视频数据以生成所述经重构的视频数据,所述一个或多个处理器还被配置为:在所述视频编码器的重构环路中重构所述视频数据,以生成所述经重构的视频数据。
方面22B-根据方面12B所述的装置,其中,所述装置是视频解码器,并且其中,为了重构所述视频数据以生成所述经重构的视频数据,所述一个或多个处理器还被配置为:对所述视频数据进行解码以生成所述经重构的视频数据。
方面23B-一种被配置为对视频数据进行译码的装置,所述装置包括:用于重构视频数据以生成经重构的视频数据的单元;用于并行地对所述经重构的视频数据执行多个环路滤波器操作的单元,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及用于对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作的单元。
方面24B-一种存储指令的非暂时性计算机可读存储介质,所述指令在被执行时使得被配置为对视频数据进行译码的设备的一个或多个处理器进行以下操作:重构所述视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
方面1C-一种对视频数据进行译码的方法,所述方法包括:重构视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
方面2C-根据方面1C所述的方法,其中,所述多个环路滤波器操作还包括所述双边滤波器操作或所述SAO滤波器操作中的至少一项。
方面3C-根据方面1C-2C中任一项所述的方法,还包括:在执行所述多个环路滤波器操作之前,对经重构的视频数据执行去块滤波操作。
方面4C-根据方面1C-3C中任一项所述的方法,还包括:在执行所述多个环路滤波器操作之后,执行自适应环路滤波操作。
方面5C-根据方面1C-4C中任一项所述的方法,其中,所述第一滤波器操作是跨分量样本自适应偏移(CCSAO)滤波器操作。
方面6C-根据方面5C所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:将所述CCSAO滤波器操作的所述第一输出与所述SAO滤波器操作、所述双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面7C-根据方面5C所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:对所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;将所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作的所述相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面8C-根据方面5C所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:对所述双边滤波器操作的第三输出进行截取,以生成所述双边滤波器操作的经截取的输出;将所述双边滤波器操作的所述经截取的输出与所述CCSAO滤波器操作的所述第一输出以及所述SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面9C-根据方面5C所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:对所述双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;将所述SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;对所述第一总和进行截取以形成第二经截取的输出;将所述第一经截取的输出、所述第二经截取的输出和所述CCSAO滤波器操作的所述第一输出相加以创建第二总和;以及对所述第二总和执行所述联合截取操作。
方面10C-根据方面1C-9C中任一项所述的方法,其中,译码包括编码,并且其中,重构所述视频数据以生成所述经重构的视频数据包括:在视频编码器的重构环路中重构所述视频数据,以生成所述经重构的视频数据。
方面11C-根据方面1C-9C中任一项所述的方法,其中,译码包括解码,并且其中,重构所述视频数据以生成所述经重构的视频数据包括:对所述视频数据进行解码以生成所述经重构的视频数据。
方面12C-一种被配置为对视频数据进行译码的装置,所述装置包括:存储器,其被配置为存储视频数据;以及与所述存储器相通信的一个或多个处理器,所述一个或多个处理器被配置为:重构所述视频数据以生成经重构的视频数据;并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
方面13C-根据方面12C所述的装置,其中,所述多个环路滤波器操作还包括所述双边滤波器操作或所述样本自适应偏移(SAO)滤波器操作中的至少一项。
方面14C-根据方面12C-13C中任一项所述的装置,其中,所述一个或多个处理器还被配置为:在执行所述多个环路滤波器操作之前,对经重构的视频数据执行去块滤波操作。
方面15C-根据方面12C-14C中任一项所述的装置,其中,所述一个或多个处理器还被配置为:在执行所述多个环路滤波器操作之后,执行自适应环路滤波操作。
方面16C-根据方面12C-15C中任一项所述的装置,其中,所述第一滤波器操作是跨分量样本自适应偏移(CCSAO)滤波器操作。
方面17C-根据方面16C所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:将所述CCSAO滤波器操作的所述第一输出与所述SAO滤波器操作、所述双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面18C-根据方面16C所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:对所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;将所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作的所述相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面19C-根据方面16C所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:对所述双边滤波器操作的第三输出进行截取,以生成所述双边滤波器操作的经截取的输出;将所述双边滤波器操作的所述经截取的输出与所述CCSAO滤波器操作的所述第一输出以及所述SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及对所述第一总和执行所述联合截取操作。
方面20C-根据方面16C所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:对所述双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;将所述SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;对所述第一总和进行截取以形成第二经截取的输出;将所述第一经截取的输出、所述第二经截取的输出和所述CCSAO滤波器操作的所述第一输出相加以创建第二总和;以及对所述第二总和执行所述联合截取操作。
方面21C-根据方面12C-20C中任一项所述的装置,其中,所述装置是视频编码器,并且其中,为了重构所述视频数据以生成所述经重构的视频数据,所述一个或多个处理器还被配置为:在所述视频编码器的重构环路中重构所述视频数据,以生成所述经重构的视频数据。
方面22C-根据方面12C-20C中任一项所述的装置,其中,所述装置是视频解码器,并且其中,为了重构所述视频数据以生成所述经重构的视频数据,所述一个或多个处理器还被配置为:对所述视频数据进行解码以生成所述经重构的视频数据。
要认识到的是,根据示例,本文描述的任何技术的某些动作或事件可以以不同的顺序执行,可以被添加、合并或完全省略(例如,并非所有描述的动作或事件对于实施所述技术都是必要的)。此外,在某些示例中,动作或事件可以例如通过多线程处理、中断处理或多个处理器并发地而不是顺序地执行。
在一个或多个示例中,所描述的功能可以用硬件、软件、固件或其任何组合来实现。如果用软件来实现,则所述功能可以作为一个或多个指令或代码被存储在计算机可读介质上或者通过其进行传输并且由基于硬件的处理单元执行。计算机可读介质可以包括计算机可读存储介质,其对应于诸如数据存储介质之类的有形介质或者通信介质,所述通信介质包括例如根据通信协议来促进计算机程序从一个地方传送到另一个地方的任何介质。以这种方式,计算机可读介质通常可以对应于(1)非暂时性的有形计算机可读存储介质、或者(2)诸如信号或载波之类的通信介质。数据存储介质可以是可以由一个或多个计算机或者一个或多个处理器访问以取回用于实现在本公开内容中描述的技术的指令、代码和/或数据结构的任何可用的介质。计算机程序产品可以包括计算机可读介质。
举例来说而非进行限制,这样的计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、闪存、或者能够用于以指令或数据结构的形式存储期望的程序代码以及能够由计算机访问的任何其它介质。此外,任何连接被适当地称为计算机可读介质。例如,如果使用同轴电缆、光纤光缆、双绞线、数字用户线(DSL)或者无线技术(诸如红外线、无线电和微波)从网站、服务器或其它远程源传输指令,则同轴电缆、光纤光缆、双绞线、DSL或者无线技术(诸如红外线、无线电和微波)被包括在介质的定义中。然而,应当理解的是,计算机可读存储介质和数据存储介质不包括连接、载波、信号或其它暂时性介质,而是替代地针对非暂时性的有形存储介质。如本文所使用的,磁盘和光盘包括压缩光盘(CD)、激光光盘、光盘、数字多功能光盘(DVD)、软盘和蓝光光盘,其中,磁盘通常磁性地复制数据,而光盘利用激光来光学地复制数据。上述各项的组合也应当被包括在计算机可读介质的范围之内。
指令可以由一个或多个处理器来执行,诸如一个或多个DSP、通用微处理器、ASIC、FPGA、或其它等效的集成或分立逻辑电路。因此,如本文所使用的,术语“处理器”和“处理电路”可以指代前述结构中的任何一者或者适于实现本文描述的技术的任何其它结构。另外,在一些方面中,本文描述的功能可以在被配置用于编码和解码的专用硬件和/或软件模块内提供,或者被并入经组合的编解码器中。此外,所述技术可以完全在一个或多个电路或逻辑元件中实现。
本公开内容的技术可以在多种多样的设备或装置中实现,包括无线手机、集成电路(IC)或一组IC(例如,芯片组)。在本公开内容中描述了各种组件、模块或单元以强调被配置为执行所公开的技术的设备的功能性方面,但是不一定需要通过不同的硬件单元的实现。确切而言,如上所述,各种单元可以被组合在编解码器硬件单元中,或者由可互操作的硬件单元的集合(包括如上所述的一个或多个处理器)结合适当的软件和/或固件来提供。
已经描述了各个示例。这些和其它示例在所附的权利要求的范围内。
Claims (24)
1.一种对视频数据进行译码的方法,所述方法包括:
重构视频数据以生成经重构的视频数据;
并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及
对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
2.根据权利要求1所述的方法,其中,所述多个环路滤波器操作还包括所述双边滤波器操作或所述SAO滤波器操作中的至少一项。
3.根据权利要求1所述的方法,还包括:
在执行所述多个环路滤波器操作之前,对所述经重构的视频数据执行去块滤波操作。
4.根据权利要求1所述的方法,还包括:
在执行所述多个环路滤波器操作之后,执行自适应环路滤波操作。
5.根据权利要求1所述的方法,其中,所述第一滤波器操作是跨分量样本自适应偏移(CCSAO)滤波器操作,并且所述第二滤波器操作是所述双边滤波器操作或所述SAO滤波器操作中的一项。
6.根据权利要求5所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:
将所述CCSAO滤波器操作的所述第一输出与所述SAO滤波器操作、所述双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及
对所述第一总和执行所述联合截取操作。
7.根据权利要求5所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:
对所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;
将所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作的所述相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及
对所述第一总和执行所述联合截取操作。
8.根据权利要求5所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:
对所述双边滤波器操作的第三输出进行截取,以生成所述双边滤波器操作的经截取的输出;
将所述双边滤波器操作的所述经截取的输出与所述CCSAO滤波器操作的所述第一输出以及所述SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及
对所述第一总和执行所述联合截取操作。
9.根据权利要求5所述的方法,其中,对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作包括:
对所述双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;
将所述SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;
对所述第一总和进行截取以形成第二经截取的输出;
将所述第一经截取的输出、所述第二经截取的输出和所述CCSAO滤波器操作的所述第一输出相加以创建第二总和;以及
对所述第二总和执行所述联合截取操作。
10.根据权利要求1所述的方法,其中,译码包括编码,并且其中,重构所述视频数据以生成所述经重构的视频数据包括:
在视频编码器的重构环路中重构所述视频数据,以生成所述经重构的视频数据。
11.根据权利要求1所述的方法,其中,译码包括解码,并且其中,重构所述视频数据以生成所述经重构的视频数据包括:
对所述视频数据进行解码以生成所述经重构的视频数据。
12.一种被配置为对视频数据进行译码的装置,所述装置包括:
存储器,其被配置为存储视频数据;以及
与所述存储器相通信的一个或多个处理器,所述一个或多个处理器被配置为:
重构所述视频数据以生成经重构的视频数据;
并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及
对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
13.根据权利要求12所述的装置,其中,所述多个环路滤波器操作还包括所述双边滤波器操作或所述样本自适应偏移(SAO)滤波器操作中的至少一项。
14.根据权利要求12所述的装置,其中,所述一个或多个处理器还被配置为:
在执行所述多个环路滤波器操作之前,对所述经重构的视频数据执行去块滤波操作。
15.根据权利要求12所述的装置,其中,所述一个或多个处理器还被配置为:
在执行所述多个环路滤波器操作之后,执行自适应环路滤波操作。
16.根据权利要求12所述的装置,其中,所述第一滤波器操作是跨分量样本自适应偏移(CCSAO)滤波器操作,并且所述第二滤波器操作是所述双边滤波器操作或所述SAO滤波器操作中的一项。
17.根据权利要求16所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:
将所述CCSAO滤波器操作的所述第一输出与所述SAO滤波器操作、所述双边滤波器操作和去块滤波器操作的相应输出相加,以生成第一总和;以及
对所述第一总和执行所述联合截取操作。
18.根据权利要求16所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:
对所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作中的每一项的相应输出进行截取,以生成相应的经截取的输出;
将所述SAO滤波器操作、所述双边滤波器操作和所述CCSAO滤波器操作的所述相应的经截取的输出与来自去块滤波器操作的样本相加在一起,以生成第一总和;以及
对所述第一总和执行所述联合截取操作。
19.根据权利要求16所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:
对所述双边滤波器操作的第三输出进行截取,以生成所述双边滤波器操作的经截取的输出;
将所述双边滤波器操作的所述经截取的输出与所述CCSAO滤波器操作的所述第一输出以及所述SAO滤波器操作和去块滤波器操作的相应输出相加在一起,以生成第一总和;以及
对所述第一总和执行所述联合截取操作。
20.根据权利要求16所述的装置,其中,为了对所述CCSAO滤波器操作的所述第一输出和所述多个环路滤波器操作中的所述第二环路滤波器操作的至少所述第二输出执行所述联合截取操作,所述一个或多个处理器还被配置为:
对所述双边滤波器操作的第三输出进行截取,以生成第一经截取的输出;
将所述SAO滤波器操作和去块滤波器操作的相应输出相加以创建第一总和;
对所述第一总和进行截取以形成第二经截取的输出;
将所述第一经截取的输出、所述第二经截取的输出和所述CCSAO滤波器操作的所述第一输出相加以创建第二总和;以及
对所述第二总和执行所述联合截取操作。
21.根据权利要求12所述的装置,其中,所述装置是视频编码器,并且其中,为了重构所述视频数据以生成所述经重构的视频数据,所述一个或多个处理器还被配置为:
在所述视频编码器的重构环路中重构所述视频数据,以生成所述经重构的视频数据。
22.根据权利要求12所述的装置,其中,所述装置是视频解码器,并且其中,为了重构所述视频数据以生成所述经重构的视频数据,所述一个或多个处理器还被配置为:
对所述视频数据进行解码以生成所述经重构的视频数据。
23.根据权利要求12所述的装置,其中,所述装置是无线通信设备。
24.一种存储指令的非暂时性计算机可读存储介质,所述指令在被执行时使得被配置为对视频数据进行译码的设备的一个或多个处理器进行以下操作:
重构所述视频数据以生成经重构的视频数据;
并行地对所述经重构的视频数据执行多个环路滤波器操作,其中,所述多个环路滤波器操作包括不是双边滤波器操作或样本自适应偏移(SAO)滤波器操作的第一滤波器操作;以及
对所述第一滤波器操作的第一输出和所述多个环路滤波器操作中的第二环路滤波器操作的第二输出执行联合截取操作。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US63/210,438 | 2021-06-14 | ||
US17/806,192 US20220400292A1 (en) | 2021-06-14 | 2022-06-09 | Joint clipping operating for filters for video coding |
US17/806,192 | 2022-06-09 | ||
PCT/US2022/072862 WO2022266589A1 (en) | 2021-06-14 | 2022-06-10 | Joint clipping operating for filters for video coding |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117426097A true CN117426097A (zh) | 2024-01-19 |
Family
ID=89530708
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280040229.0A Pending CN117426097A (zh) | 2021-06-14 | 2022-06-10 | 用于视频译码的滤波器的联合截取操作 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117426097A (zh) |
-
2022
- 2022-06-10 CN CN202280040229.0A patent/CN117426097A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113853784B (zh) | 用于视频译码的多个自适应环路滤波器集合的方法和装置 | |
CN113940069A (zh) | 用于视频译码中的低频不可分离变换的变换和最后有效系数位置信令 | |
CN114258675A (zh) | 用于视频编码的跨分量自适应环路滤波 | |
CN112385233A (zh) | 合并的依赖模式的帧内平滑(mdis)与具有依赖位置的帧内预测组合(pdpc)的内插值滤波器切换 | |
CN114223202A (zh) | 低频不可分离变换(lfnst)信令 | |
CN116235494A (zh) | 用于视频译码的滤波过程 | |
CN114424570B (zh) | 用于视频编解码的变换单元设计 | |
CN114080805A (zh) | 用于视频译码的自适应环路滤波的非线性扩展 | |
KR20230038709A (ko) | 다중 적응형 루프 필터 세트들 | |
CN113597762A (zh) | 视频译码中具有非线性自适应环路滤波器的固定滤波器 | |
CN116508321A (zh) | 视频译码期间基于联合分量神经网络的滤波 | |
CN116325729A (zh) | 用于视频译码的基于神经网络的滤波过程中的激活函数设计 | |
CN116235498A (zh) | 去块滤波器参数信令 | |
CN113615178A (zh) | 视频译码中的色度帧内预测 | |
CN113647107A (zh) | 用于视频译码的最后位置译码的上下文推导 | |
CN117426097A (zh) | 用于视频译码的滤波器的联合截取操作 | |
US20220400292A1 (en) | Joint clipping operating for filters for video coding | |
TW202308375A (zh) | 用於視訊譯碼的濾波器的聯合截取操作 | |
CN118176721A (zh) | 用于视频译码的多个参考线的候选列表 | |
CN117561712A (zh) | 在视频译码中具有多个分类器的用信号通知的自适应环路滤波器 | |
CN117413514A (zh) | 使用重叠块运动补偿、组合帧间帧内预测和/或亮度映射和色度缩放的视频编解码 | |
CN117121490A (zh) | 用于视频译码的图片方位和质量度量补充增强信息消息 | |
CN116848845A (zh) | 用于视频译码的图片方位和质量度量补充增强信息消息 | |
TW202308377A (zh) | 視訊譯碼中的用信號通知的具有多個分類器的自我調整迴路濾波器 | |
WO2023200715A1 (en) | Flexible activation of multiple transform selection for inter-coding in video coding |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |