CN117769833A - 视频编解码中的自适应双边滤波器 - Google Patents

视频编解码中的自适应双边滤波器 Download PDF

Info

Publication number
CN117769833A
CN117769833A CN202280045207.3A CN202280045207A CN117769833A CN 117769833 A CN117769833 A CN 117769833A CN 202280045207 A CN202280045207 A CN 202280045207A CN 117769833 A CN117769833 A CN 117769833A
Authority
CN
China
Prior art keywords
unit
video
filter
samples
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280045207.3A
Other languages
English (en)
Inventor
尹文斌
张凯
张莉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
ByteDance Inc
Original Assignee
Douyin Vision Co Ltd
ByteDance Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Douyin Vision Co Ltd, ByteDance Inc filed Critical Douyin Vision Co Ltd
Publication of CN117769833A publication Critical patent/CN117769833A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

公开了一种用于处理视频数据的机制。该机制基于与图片数据相关的统计信息确定将图片数据分类成组,并应用双边滤波器来对每个组中的样点进行滤波。基于双向滤波器执行可视媒体数据和比特流之间的转换。

Description

视频编解码中的自适应双边滤波器
相关申请的交叉引用
本专利申请要求Wenbin Yin等人于2021年6月25日提交的、以及标题为“视频编解码中的自适应双边滤波器”的国际申请No.PCT/CN2021/102282的权益,其通过引入并入本文。
技术领域
本专利文档涉及视频编解码技术。
背景技术
数字视频占互联网和其他数字通信网络上最大的带宽使用。随着能够接收和显示视频的连接用户设备数量的增加,数字视频使用的带宽需求可能继续增长。
发明内容
第一方面涉及一种用于处理视频数据的方法,包括:基于与图片数据相关的统计信息确定将图片数据分类成组,并且应用双边滤波器来对每个组中的样点进行滤波;和基于双向滤波器执行可视媒体数据和比特流之间的转换。
可选地,在任一前述方面,该方面的另一实施提供图片数据包括视频单元,组包括多个视频单元组(Nunit),统计信息与视频单元相关,基于统计信息视频单元被分类为Nunit
可选地,在任一前述方面,该方面的另一实施提供双边滤波器在对分配给不同类的视频单元组进行滤波时采用不同的参数。
可选地,在任一前述方面,该方面的另一实施提供统计信息包括根据以下公式计算的视频单元的类索引:
indexynit=0当(0≤infounit<T1)时
indexunit=Nunit-2当(TN-2≤infounit<TN-1)时
indexunit=Nunit-1当(TN-1≤infounit)时
其中indexunit是所述视频单元的类索引,[T1,T2,…TN-1]是一组阈值,并且infounit是方差或单元平均值。
可选地,在任一前述方面,该方面的另一实施提供统计信息包括根据以下公式计算的视频单元的类索引:
其中indexunit是所述视频单元的类索引,infounit是方差或单元平均值,Tunit_class是固定阈值,并且0≤indexunit<Nunit
可选地,在任一前述方面,该方面的另一实施提供统计信息包括根据以下公式计算的视频单元的单元平均值:
S=wunit×hunit
其中i是所述视频单元内的位置,pi是位于位置i的样点,s是所述视频单元的尺寸,wunit是所述视频单元的宽度,hunit是所述视频单元的高度,并且meanunit是所述单元平均值。
可选地,在任一前述方面,该方面的另一实施提供统计信息包括根据以下公式计算的视频单元的方差:
其中i是所述视频单元内的位置,pi是位于位置i的样点,s是视频单元的尺寸,meanunit是单元平均值,corrunit是所述视频单元中样点值之间的相关性,varunit是所述视频单元的方差。
可选地,在任一前述方面,该方面的另一实施提供统计信息包括所述视频单元的宽度、所述视频单元的高度或其组合。
可选地,在任一前述方面,该方面的另一实施提供视频单元是编解码树单元(CTU)、编解码树块(CTB)、编解码单元(CU)、编解码块(CB)、变换块(TB)或其组合。
可选地,在任一前述方面,该方面的另一实施提供所述图片数据包括样点,其中所述组包括多个样点组(Nsample),其中所述统计信息与所述样点相关,并且其中基于所述统计信息将所述样点分类为所述Nsample
可选地,在任一前述方面,该方面的另一实施提供当当对分配给不同类别的样点组滤波时,BF采用不同的参数。
可选地,在任一前述方面,该方面的另一实施提供述统计信息包含在所述样点周围的窗口内。
可选地,在任一前述方面,该方面的另一实施提供窗口内的所述统计信息包括平均值、方差、最小梯度、最大梯度、平均梯度或其组合。
可选地,在任一前述方面,该方面的另一实施提供窗口包括窗口形状,并且其中所述窗口形状是正方形、十字形、菱形、对称形状、不对称形状或其组合。
可选地,在任一前述方面,该方面的另一实施提供双边滤波器被应用于样点的子块。
可选地,在任一前述方面,该方面的另一实施提供与第一子块相关的滤波结果用于对第二子块的样点进行滤波。
可选地,在任一前述方面,该方面的另一实施提供与第一子块相关的未滤波样点用于对第二子块的样点进行滤波。
可选地,在任一前述方面,该方面的另一实施提供在去方块滤波器之前应用所述双边滤波器。
可选地,在任一前述方面,该方面的另一实施提供在去方块滤波器之后和样点自适应偏移(SAO)滤波器之前应用所述双边滤波器。
可选地,在任一前述方面,该方面的另一实施提供在样点自适应偏移(SAO)滤波器之后和自适应环路滤波器(ALF)之前应用所述双边滤波器。
可选地,在任一前述方面,该方面的另一实施提供在自适应环路滤波器(ALF)之后应用所述双边滤波器。
可选地,在任一前述方面,该方面的另一实施提供所述双边滤波器被用作后处理滤波器。
可选地,在任一前述方面,该方面的另一实施提供所述双边滤波器和第二滤波器应用于相同的样点,其中所述双边滤波器产生第一偏移,其中所述第二滤波器产生第二偏移,并且其中所述双边滤波器基于所述第一偏移和所述第二偏移产生输出样点。
可选地,在任一前述方面,该方面的另一实施提供双边滤波器被应用于预测样点。
可选地,在任一前述方面,该方面的另一实施提供所述双边滤波器被应用于重建样点。
可选地,在任一前述方面,该方面的另一实施提供转换包括将所述可视媒体数据编码成所述比特流。
可选地,在任一前述方面,该方面的另一实施提供转换包括解码来自所述比特流的所述可视媒体数据。
第二方面关于用于处理图像数据的装置,该装置包括处理器;以及其上具有指令的非暂时性存储器,其中所述指令在被所述处理器执行时,使得所述处理器执行任一前述方面的方法。
第三方面关于非暂时性计算机可读存储介质,该非暂时性计算机可读存储介质存储使处理器执行任一前述方面的方法。
第四方面关于非暂时性计算机可读记录介质,该非暂时性计算机可读记录介质存储由视频处理装置执行的方法生成的视频的比特流,该方法包括:基于与所述图片数据相关的统计信息确定将图片数据分类成组,并且应用双边滤波器来对每个所述组中的样点进行滤波;和基于所述确定来生成所述比特流。
第五方面关于用于存储视频的比特流的方法,该方法包括:基于与图片数据相关的统计信息,确定将所述图片数据分类成组并且应用双边滤波器来对每个所述组中的样点进行滤波;基于所述确定来生成所述比特流;和将所述比特流存储在非暂时性计算机可读记录介质中。
为清晰起见,任何一个前述实施例可与任何一个或多个其他前述实施例组合,以在本公开的范围内形成新的实施例。
从以下结合附图和权利要求的详细说明中,可更清楚地理解这些和其他特征。
附图说明
为了更全面地理解本公开内容,现结合附图和详细说明参考以下简要说明,其中相同的参考数字代表相同的部件。
图1为色度子采样的示例的示意图。
图2为示例帧内预测模式的示意图。
图3为应用于视频单元中样点的示例双边滤波器的示意图。
图4为结合环路滤波应用的示例双边滤波器的示意图。
图5为用于镜像填充的示例机制的示意图。
图6为用于扩展填充的示例机制的示意图。
图7为用于双边滤波器的示例滤波模式的示意图。
图8为显示示例视频处理系统的框图。
图9为示例视频处理装置的框图。
图10为视频处理的示例方法的流程图。
图11为图示示例视频编解码系统的框图。
图12为图示示例编码器的框图。
图13为图示示例解码器的框图。
图14为示例编码器的示意图。
具体实施方式
首先应理解,尽管下文提供了一个或多个实施例的说明性实现方式,但可使用任何数量的技术实现所公开的系统和/或方法,无论是当前已知的还是待开发的。本公开不应以任何方式限于以下示出的示例性实现方式、附图和技术,包括在此示出和描述的示例性设计和实现方式,而是可以在所附权利要求及其等同物的全部范围内进行修改。
本专利文档涉及视频编解码技术。具体而言,本文档涉及图像/视频编解码中的环路滤波器和其他编解码工具。本文讨论的概念可以单独或以各种组合应用于任何视频编解码标准和/或视频编解码器,例如高效视频编解码(HEVC)和多功能视频编解码(VVC)。
本公开包括以下缩写。自适应颜色变换(ACT),编解码图片缓冲器(CPB),清洁随机访问(CRA),编解码树单元(CTU),编解码单元(CU),编解码视频序列(CVS),解码图片缓冲器(DPB),解码参数集(DPS),通用约束信息(GCI),高效视频编解码(也称为Rec.ITU-T H.265|ISO/IEC 23008-2)(HEVC),联合探索模型(JEM),运动约束片集(MCTS),网络抽象层(NAL),输出层集(OLS),图片标头(PH),图片参数集(PPS),档次、层次、和级别(PTL),预测单元(PU),参考图片重采样(RPR),原始字节序列有效负载(RBSP),补充增强信息(SEI),条带标头(SH),序列参数集(SPS),视频编解码层(VCL),视频参数集(VPS),视频可用性信息(VUI),以及多功能视频编码(也称为Rec.ITU-T H.266|ISO/IEC 23090-3)(VVC),VVC测试模型(VTM),变换单元(TU),编解码单元(CU),去方块滤波器(DF),样点自适应偏移(SAO),自适应环路滤波器(ALF),编解码块标志(CBF),量化参数(QP),率失真优化(RDO)和双边滤波器(BF)。
视频编解码标准主要通过国际电信联盟(ITU)电信标准化部门(ITU-T)和ISO/国际电工委员会(IEC)标准的发展而演变的。ITU-T制定了H.261和H.263,ISO/IEC制定了运动图片专家组(MPEG)-1和MPEG-4视频,并且这两个组织联合制定了H.262/MPEG-2视频和H.264/MPEG-4高级视频编解码(AVC)和H.265/HEVC标准。自H.262以来,视频编解码标准基于混合视频编解码结构,其中利用了时域预测加变换编解码。为了进一步探索HEVC之外的视频编解码技术,视频编解码专家组(VCEG)和MPEG联合成立了联合视频探索团队(JVET)。JVET采用了许多方法,并将其输入到名为联合勘探模型(JEM)的参考软件中。JVET发起了一个编解码标准,目标是与HEVC相比降低50%比特率。被命名为多功能视频编解码(VVC),并与VVC测试模型相关联。随着VVC标准化的不断努力,VVC不断更新附加技术。VVC工作草案和测试模型VTM然后被相应地更新。
现在讨论颜色空间和色度子采样。颜色空间,也称为颜色模型(或颜色系统),是一种数学模型,它将颜色的范围描述为数字元组,例如3或4个值或颜色分量(例如,红色、绿色和蓝色)。颜色空间可以被看作是坐标系和子空间的细化。对于视频压缩,大多数视频编解码器采用亮度、蓝差色度、红差色度(YCbCr)以及红色、绿色、蓝色(RGB)颜色空间。YCbCr、Y′CbCr、Y平行蓝色(Pb)平行红色(Pr)和Y’PbPr(也称为YCBCR或Y'CBCR)是一系列颜色空间,用作视频和数字摄影系统中彩色图像管道的一部分。Y′是亮度分量,并且Cb和Cr是蓝差和红差色度分量。Y′(带撇)不同于Y,Y是亮度,这意味着光强度是基于伽马校正的RGB原色而非线性编码的。
色度子采样是通过对色度信息实现比亮度信息更低的分辨率来对图像进行编码的实践。这利用了人类视觉系统对色差的敏感度低于对亮度的敏感度。在4:4:4分量格式中,三个Y'CbCr分量中的每一个都具有相同的采样率,因此没有色度子采样。这种方案有时用于高端胶片扫描仪和电影后期制作。
图1为色度子采样的示例的示意图100。在4:2:2分量格式中,两个色度分量以亮度的采样速率的一半进行采样。具体来说,水平色度分辨率减半,而垂直色度分辨率不变。这将未压缩视频信令的带宽减少了三分之一,但几乎没有视觉差异。4:2:2颜色格式的标称垂直和水平位置的示例是示意图100。示意图100描绘了图片中4:2:2亮度和色度样点的标称垂直和水平位置。
在4:2:0格式中,与4:1:1相比,水平采样加倍,但在该方案中,Cb和Cr信道仅在每条交替线上采样。因此,垂直分辨率减半。因此,数据速率是相同的。Cb和Cr每个都在水平和垂直两个方向上以两倍的系数进行子采样。4:2:0方案有三种变体,每个变体都有不同的水平和垂直选址。在MPEG版本二(MPEG-2)中,Cb和Cr是水平共址的。在该方案中,Cb和Cr选址在垂直方向上的像素之间(选址在空隙中)。
在联合摄影专家组(JPEG)、JPEG文件交换格式(JFIF)、H.261和MPEG-1中,Cb和Cr选址在交替亮度样点中间的空隙中。在4:2:0数字视频(DV)中,Cb和Cr在水平方向上共址。在垂直方向上,它们共址在交替线上。
表1:
chroma_format_idc separate_colour_plane_flag 色度格式 SubWidthC SubHeightC
0 0 单色 1 1
1 0 4:2:0 2 2
2 0 4:2:2 2 1
3 0 4:4:4 1 1
3 1 4:4:4 1 1
如表1所示,色度子采样宽度(SubWidthC)和色度子采样高度(SubHeightC)值从色度格式标识码(chroma_format_idc)和单独的颜色平面标志(separate_colour_plane_flag)中导出。现在讨论示例视频编解码器的编解码流程。
现在参考图14。图14示出了在VVC中使用的编码器4600的示例。VVC包括三个环路滤波模块:去方块滤波器(DF)、样点自适应偏移(SAO)和ALF。DF使用预定义的滤波器。SAO和ALF利用当前图片的原始样点来减小原始样点和重建样点之间的均方误差。这分别通过添加偏移和通过应用有限脉冲响应(FIR)滤波器来实现。还采用了偏移和滤波器系数的编解码辅助信息信令通知。ALF位于每个图片的最后一个处理阶段,并且可以被视为捕捉和修复由前一个阶段创建的伪影的工具。
图2为示例帧内预测模式的示意图200。现在讨论帧内预测。为了捕捉自然视频中呈现的任意边缘方向,方向帧内模式的数量从HEVC中的33个扩展到VVC中的65个。这些密集的方向帧内预测模式适用于所有块尺寸以及亮度和色度帧内预测两者。如示意图200所示,角度帧内预测方向被定义为在顺时针方向上的从45度到-135度。在VTM中,对于非正方形块,若干角度帧内预测模式被自适应地替换为广角帧内预测模式。被更换的模式被信令通知,并在解析后被重新映射到广角模式的索引。帧内预测模式的总数为67种并且没有变化。此外,帧内模式编解码不变。
在HEVC中,每个帧内编解码块具有正方形形状,并且每条边的长度是二的幂。因此,不使用除法运算来生成使用直流(DC)模式的帧内预测器。在VVC中,块可以具有矩形形状,这使得在一般情况下对每个块使用除法运算成为必要。为了避免DC预测的除法运算,只有较长的一边用于计算非正方形块的平均值。
对于每个帧间预测的CU,包括运动矢量、参考图片索引、参考图片列表使用索引和附加信息的运动参数用于VVC中的帧间预测样点生成。运动参数可以以显式或隐式的方式被信令通知。当用跳过模式对CU进行编解码时,CU与一个PU相关联,并且没有有效的残差系数、没有编解码运动矢量增量、并且没有参考图片索引。规定merge模式,由此从邻域CU获得当前CU的运动参数。这包括空域和时域候选,以及在VVC中引入的附加时间表。merge模式可以应用于任何帧间预测的CU,并且不仅仅用于跳过模式。merge模式的替代方案是运动参数的显式传输。在这种情况下,对于每个CU,运动矢量、每个参考图片列表的对应参考图片索引、参考图片列表使用标志和其他信息被显式地信令通知。
现在讨论去方块滤波器。去方块滤波是视频编解码器中的环路滤波器。在VVC中,去方块滤波过程应用于CU边界、变换子块边界和预测子块边界。预测子块边界包括由基于子块的时域运动矢量预测(SbTMVP)和仿射模式引入的预测单元边界。变换子块边界包括由子块变换(SBT)和帧内子分割(ISP)模式引入的变换单元边界,以及由大CU的隐式划分引起的变换。去方块滤波器的处理顺序被定义为首先对整个图片的垂直边缘进行水平滤波。接下来是对水平边缘进行垂直滤波。这种特定的顺序使得能够在并行线程中应用多个水平滤波或垂直滤波过程。这种滤波仍然可以在逐个CTB的基础上实现,只有很小的处理等待时间。
现在讨论SAO滤波器。通过使用编码器为每个CTB规定的偏移,将SAO应用于去方块滤波器之后的重建信号。视频编码器首先作出是否对当前条带应用SAO过程的决定。如果对条带应用SAO,每个CTB被分类为五种SAO类型之一,如表2所示。SAO用于将像素分类,并通过向每个类别的像素添加偏移来减少失真。SAO操作包括边缘偏移(EO),它使用边缘属性进行SAO类型1到4中的像素分类。SAO还包括带偏移(BO),它使用像素强度进行SAO类型5中的像素分类。每个适用的CTB具有SAO参数,该SAO参数包括SAO merge左标志(sao_merge_left_flag)、SAO merge上标志(sao_merge_up_flag)、SAO类型和四个偏移。如果sao_merge_left_flag等于1,则当前CTB重新使用左边的CTB的SAO类型和偏移。如果sao_merge_up_flag等于1,则当前CTB重新使用上方的CTB的SAO类型和偏移。表2是SAO类型的规格。
表2
SAO类型 要使用的样点自适应偏移类型 分类的数量
0 0
1 1-D 0度图案边缘偏移 4
2 1-D 90度图案边缘偏移 4
3 1-D 135度图案边缘偏移 4
4 1-D 45度图案边缘偏移 4
5 带偏移 4
现在讨论自适应环路滤波器。用于视频编解码的自适应环路滤波用于通过使用基于Wiener的自适应滤波器来最小化原始样点和解码样点之间的均方误差。ALF位于每个图片的最后一个处理阶段,并且可以被视为捕捉和校正来自前一个阶段的伪影的工具。合适的滤波器系数由编码器确定,并被显式地信令通知给解码器。为了实现更好的编解码效率,特别是对于高分辨率视频,通过对图片中的不同区域或块应用不同的滤波器,对亮度信令使用局部自适应。除了滤波器自适应之外,编解码树单元(CTU)级别的滤波器开/关控制也有助于提高编解码效率。从语法角度来看,滤波器系数在称为自适应参数集的图片级别标头中发送。CTU的滤波器开/关标志在条带数据中以CTU级别交错。这种语法设计不仅支持图片级别优化,而且实现了低编码等待时间。
现在讨论双边图像滤波器。双边图像滤波器是非线性滤波器,其在保留边缘结构的同时平滑噪声。双边滤波是使滤波器权重不仅随着样点之间的距离减小,而且随着强度差的增加而减小的技术。这样,可以改善边缘的过度平滑。权重定义为
其中Δx和Δy是垂直和水平的距离,并且ΔI是样点之间的强度差。边缘保持去噪双边滤波器对空域滤波器和值域滤波器都采用低通高斯滤波器。空域低通高斯滤波器给予空间上靠近中心像素的像素更高的权重。值域低通高斯滤波器给予与中心像素相似的像素更高的权重。结合值域滤波器和空域滤波器,在边缘像素处的双边滤波器变成沿着边缘定向并且在梯度方向上大大减小的拉长的高斯滤波器。为此,双边滤波器可以平滑噪声,同时保留边缘结构。
现在讨论视频编解码中的双边滤波器。双边滤波器充当与样点自适应偏移(SAO)滤波器并行的环路滤波器。双边滤波器和SAO都作用于相同的输入样点。每个滤波器产生偏移。然后,这些偏移被添加到输入样点中,以产生输出样点,该输出样点在限幅后进入下一阶段。空域滤波强度σd由块尺寸决定,其中块越小,滤波越强。强度滤波强度σr由量化参数决定。更强的滤波用于更高的QP。仅使用四个最接近的样点,因此滤波后的样点强度IF可计算如下:
其中,IC表示中心样点的强度,ΔIA=IA-IC表示中心样点和上方样点之间的强度差,并且ΔIB,ΔIL和ΔIR分别表示中心样点和下方、左边和右边样点之间的强度差。
以下是通过公开的技术解决方案解决的示例技术问题。
视频编解码中双边滤波器的示例设计具有以下问题。环路滤波器不能完全移除重建视频内的振铃伪影。对于色度分量来说尤其如此。
本文公开了解决上面列出的一个或多个问题的机制。例如,本公开包括被配置为移除振铃伪影的双边滤波器的各种示例,并因此改善环路滤波过程的输出。在示例中,双边滤波器包括位于一组样点上的滤波器形状。基于滤波器形状中的周围样点,将滤波器应用于中心样点。然后,滤波器被移位到不同的中心样点,直到整个视频单元(例如,TU、CTU、CU、CB等)被滤波。例如,中心样点的值可以被周围样点的值修改,周围样点的值基于距离加权并被强度因子修改。双边滤波器可应用于亮度分量、色度分量或两者。此外,在一些示例中,当对对应的色度分量进行滤波时,基于滤波器的变化和/或与亮度分量相关的信息可以用作输入。
在另一示例中,双边滤波器可配置为自适应双边滤波器,其基于与图片相关的统计信息而变化。例如,可基于统计信息将视频单元分组在一起,且双边滤波器可不同地应用于每一视频单元组,例如通过采用不同的参数。在示例中,可基于视频单元类索引、单元平均值、方差、尺寸或其组合来选择视频单元组。在另一示例中,图片中的样点可被分组为样点组(例如,不考虑视频单元),并且双边滤波器可被不同地应用于每个样点组,例如通过采用不同的参数。在示例中,可以基于通过比较窗口内的样点而确定的统计信息来选择样点组。例如,这种统计信息可以包括平均值、方差、最小梯度、最大梯度、平均梯度或其组合。双边滤波器也可以应用在相对于其他环路滤波器的不同位置。
在另一个示例中,各种视频信息可用于确定是否以及如何将双边滤波器应用于样点。例如,可基于与视频单元相关的项目来有条件地应用双边滤波器,该项目例如是数字变换系数等级、颜色分量、相对于阈值的量化参数(QP)、相对于阈值的最小或最大尺寸、相对于阈值的样点数量、视频单元的编解码模式或其组合。在另一个示例中,可以基于比特流中的语法元素有条件地应用双边滤波器。语法元素可指示双边滤波器是否应用于编解码树单元(CTU)、编解码单元(CU)和/或变换单元(TU)。在一些示例中,可以从比特流中省略语法元素,并且解码器可以推断在某些情况下没有应用双边滤波器。例如,当当前视频单元的信道类型不等于亮度、当前视频单元的QP小于阈值、当前视频单元的宽度和高度的最小值等于或大于尺寸阈值、当前视频单元的宽度和高度的最大值等于或大于尺寸阈值、当前视频单元的宽度和高度两者都等于或大于阈值或其组合时,可省略语法元素。在另一示例中,当启用亮度样点自适应偏移(SAO)、启用亮度双向滤波器、编解码块标志(CBF)等于1或其组合时,语法元素可仅包含在色度分量的比特流中。
图3是应用于视频单元316中的样点310的示例双边滤波器312的示意图300。样点310是像素值。视频编解码过程将像素值划分成颜色空间,例如YCrCb和/或RGB。因此,取决于上下文,样点310可包括来自像素的亮度分量(光值)、像素的色度分量(颜色值)或两者。样点310可被分割成各种视频单元316,例如序列、图片、子图片、条带、片、编解码树单元(CTU)、CTU行、编解码单元(CU)、预测单元(PU)、变换单元(TU)、编解码树块(CTB)、预测块(PB)、变换块(TB)和/或任何前述的颜色分量。例如,样点310可以被划分成CTU,这些CTU可以被分割成块,这是可以包括CU、PU、PB、TB、TU等的通用术语。然后,参考一个或多个参考块,通过帧内预测和/或帧间预测对每个当前块进行编解码。预测过程不对参考块和当前块之间的任何差进行编解码。这种差被称为残差。可以应用变换来压缩残差。此外,残差可以被量化,这进一步压缩了残差,但是丢失了数据。然后,在编码器处,对这些块进行解码和重建,以用作后续图片的参考块。在解码器处,块被解码和重建以供显示。在任一情况下,基于块的编解码方案经常产生伪影,这些伪影是重建样点310时样点值中的误差。可以应用滤波器来减轻这种伪影。例如,滤波器可以被设计成调整样点310的值,以便抵消预期的和/或观察到的编解码错误。例如,滤波器可以一致地应用于所有样点和/或可以在某些条件发生时应用。在另一示例中,编码器可重建视频单元,检查视频单元的错误,确定应用滤波器,且接着经由比特流向解码器信令通知滤波器使用。
本公开具体涉及双边滤波器312。双边滤波器312被设计为解决由变换和量化过程所产生的伪像,例如振铃伪像。振铃伪影是出现在转变点(例如块边缘)的错误信令。振铃伪影可能作为沿块边缘的额外带出现。额外带是真实边缘的回声。双边滤波器应用计算于样点310以校正这种伪影。
在示例中,双边滤波器312位于第i个中心样点(IC)周围,并且包括围绕该中心样点的几个样点。双边滤波器312滤波中央样点,然后可以移动到另一个中央样点。该过程可以重复,直到包含样点310的整个视频单元316被滤波。在示例中,双向滤波器312包括滤波器权重,该滤波器权重基于对应的周围样点和中心样点之间的距离以及周围样点和中心样点的强度差异而变化。在示例中,双边滤波器312根据以下公式来应用:
其中Ifiltered是更新的样点值,IC是位于滤波器形状中心的中心样点,e是强度因子,μ(Δii)是用于确定在滤波器形状中某一位置处的每个周围样点的滤波权重的函数,Δi是第i个周围样点和中心样点之间的差,Ωi是第i个周围样点和中心样点之间的垂直和水平距离之和,n是滤波器形状中样点的总数。
此外,对于每个第i个样点,μ(Δii)可以用如下公式表示:
其中,σd和σr是滤波参数,Δ是每个第i个周围样点与中心样点之间的差,以及Ω是每个第i个周围样点与中心样点之间的垂直和水平距离之和。在示例中,σd和σr是基于与当前块/视频单元相关的编解码模式、尺寸或编解码信息来设置的。在示例中,基于当前块的宽度和高度来设置e。在示例中,基于亮度样点中的当前块的最大尺寸(表示为max(widthlu,a,heightluma))、亮度样点中的当前块的最小尺寸(表示为min(widthluma,heightluma))、色度样点中的当前块的最大尺寸(表示为max(widthchroma,heightchroma))、色度样点中的当前块的最小尺寸(表示为min(widthchroma,heightchroma))或其组合来设定e。
在示例中,双向滤波器312基于偏移进行操作。偏移可以是由滤波器引起的样点310的变化。因此,双边滤波器为每个样点310生成偏移。在示例中,亮度样点的偏移可以用作对色度样点进行滤波的输入。在另一个示例中,与亮度样点相关的局部信息可以被用作对色度样点进行滤波的输入。局部信息可以包括样点之间的差和/或样点之间的距离。在另一个示例中,与亮度样点相关的统计信息可以用作滤波色度样点的输入。这种统计信息可以包括均值、方差、块维度等。以类似的方式,与参考图片中的参考样点相关的偏移和/或局部信息可以被用作为输入以滤波当前图片中的样点310。
在示例中,可以通过在编码器和解码器处执行计算来应用双边滤波器312。例如,编码器和/或解码器可以执行位移位操作来计算样点310的变化和/或偏移。在另一个示例中,双边滤波器312可以被实现为每个样点310参考的查找表。
在示例中,双边滤波器312可以不同地应用于不同的分量。例如,双边滤波器312在滤波亮度分量时可以采用与过滤色度分量时不同的参数、滤波器形状、计算等。此外,双边滤波器312被描绘为采用菱形,但是可以采用许多滤波器形状,例如正方形、十字形、菱形、对称形状、不对称形状或其组合。在示例中,双边滤波器312被应用于重建样点310。在其他示例中,通过向预测添加残差,双边滤波器312在重建之前被应用于预测样点。
在示例中,可以基于与视频单元316相关的编解码信息来修改双向滤波器312的操作。编解码信息可包括编解码模式、运动信息、视频单元316的维度、QP、样点310值、与样点310值相关的变量或其组合。在示例中,双向滤波器312采用均值、方差、视频单元316维度或其组合来生成滤波后的亮度样点或滤波后色度样点。应当注意,在一些示例中,样点310可以在未添加的状态下被滤波。在其他示例中,视频单元中的样点310可以在滤波之前被填充,例如如下所述。
在示例中,双向滤波器312被配置成自适应地应用于不同的图片区域。例如,可以基于统计信息对各种类型的图片数据进行分组。双边滤波器312然后可以被应用于每个组314。例如,当滤波不同的组314时,双边滤波器312可以采用不同的参数。组314可以是视频单元组或样点组,取决于示例。例如,可基于与视频单元316相关的统计信息,将一个或多个视频单元316放置在组314中。在这种情况下,组314可以被称为视频单元组。在另一个示例中,基于与视频单元316相关的统计信息,样点310可以被放置在组314中。在这种情况下,该组可以被称为样点组。
当组314是视频单元组时,统计信息可以包括根据以下公式计算的视频单元的类索引:
indexunit=0当(0≤infounit<T1)时
indexunit=Nunit-2当(TN-2≤infounit<TN-1)时
indexunit=Nunit-1当(TN-1≤infounit)时
其中indexunit是视频单元的类索引,[T1,T2,…TN-1]是一组阈值,infounit是方差或单元平均值。
在另一示例中,统计信息可包括根据以下公式计算的视频单元的类索引:
其中indexunit是视频单元的类索引,infounit是方差或单元平均值,Tunit_class是固定阈值,0≤indexunit<Nunit
在另一示例中,统计信息可包括根据以下公式计算的视频单元的单元平均值:
S=wunit×hunit
其中i是视频单元内的位置,pi是位于位置i的样点,s是视频单元的尺寸,wunit是视频单元的宽度,hunit是视频单元的高度,meanunit是单元平均值。
在另一示例中,统计信息可包括根据以下公式计算的视频单元的方差:
其中i是视频单元内的位置,pi是位于位置i的样点,s是视频单元的尺寸,meanunit是单元平均值,corrunit是视频单元中样点值之间的相关性,varunit是视频单元的方差。
在另一个示例中,统计信息可以包括视频单元316的宽度、视频单元316的高度或其组合。
当组314是样点组时,统计信息可以包含在样点310周围的窗口内。例如,窗口内的统计信息可以包括平均值、方差、最小梯度、最大梯度、平均梯度或其组合。此外,窗口可以是各种窗口形状,例如正方形、十字形、菱形、对称形状、不对称形状或其组合。
在另一个示例中,双边滤波器312被应用于样点310的子块。子块可以是视频单元316的特定区域。在示例中,与第一子块相关的滤波结果用于滤波第二子块的样点。在另一个示例中,与第一子块相关的未滤波样点被用于滤波第二子块的样点。
在示例中,可以基于与样点310相关的各种视频信息来对是否应用双边滤波器312作出确定。例如,可基于编解码信息来对是否应用双向滤波器312进行确定,该编解码信息可包含变换系数、颜色分量、QP、视频单元316尺寸和/或维度、视频单元316中的样点数量和/或编解码模式信息,例如帧内模式、帧间预测模式、merge标志/索引、仿射标志、运动矢量、参考索引或其组合。
在示例中,当视频单元316包含一个或多个不等于零的变换系数等级时,将双向滤波器312应用于视频单元316,且当视频单元316仅包含零变换系数等级时,禁用双向滤波器312。在示例中,当视频单元316包含颜色分量时,应用双向滤波器312,且当视频单元316包含亮度分量时,禁用双向滤波器312。在示例中,当视频单元316的QP大于QP阈值(TQP)时,应用双边滤波器312,且当视频单元316的QP小于或等于TQP时,禁用双边滤波器312。在示例中,当视频单元316的最小尺寸小于尺寸阈值(Tsize min)、视频单元316的最大尺寸小于尺寸阈值(Tsize max)、视频单元316的宽度和视频单元316的高度小于阈值(Tsize both)或其组合时,应用双向滤波器312。在另一示例中,当视频单元316的最小尺寸大于尺寸阈值(Tsize min)、视频单元316的最大尺寸大于尺寸阈值(Tsize max)、视频单元316的宽度和视频单元316的高度大于阈值(Tsize both)或其组合时,应用双向滤波器312。在另一示例中,当视频单元316中的样点310的数量乘以因子(Fnum)大于阈值(Tnum)时,应用双向滤波器312。
在示例中,可基于比特流中信令通知的语法元素来对是否应用双边滤波器312作出确定。例如,语法元素可以指示双边滤波器312是否被应用于条带、CTU、CU和/或TU。语法元素可以被包括在视频参数集(VPS)、序列参数集(SPS)、图片参数集(PPS)、自适应参数集(APS)、条带标头、图片标头等中。
在示例中,当双向滤波器312应用于视频单元316时,语法元素可包括在比特流中,并且当双向滤波器312不允许用于视频单元316时,语法元素可从比特流中省略。在示例中,当当前CU的信道类型不等于亮度、当前CU的QP小于阈值(TCUQP)、当前CU的宽度和高度的最小值等于或大于尺寸阈值(TCUmin)、当前CU的宽度和高度的最大值等于或大于尺寸阈值(TCUmax)、当前CU的宽度和当前CU的高度都等于或大于阈值(TCUboth)或其组合,可以从比特流中省略该语法元素。在另一示例中,当当前TU的信道类型不等于亮度、当前TU的QP小于阈值(TTUQP)、当前TU的宽度和高度的最小值等于或大于尺寸阈值(TTUmin)、当前TU的编解码块标志(CBF)被设置为假、当前TU的宽度和高度的最大值等于或大于尺寸阈值(TTUmax)、当前TU的宽度和当前TU的高度都等于或大于阈值(TTUboth),或其组合,可以从比特流中省略该语法元素。在示例中,只有当亮度SAO被启用、亮度双边滤波器被启用、CBF等于1或其组合时,语法元素可包含于色度分量的比特流中。
图4是结合环路滤波应用的示例双边滤波器420的示意图400。环路滤波器410可以包括去方块滤波器(DF)412、样点自适应偏移(SAO)滤波器416和自适应环路滤波器(ALF)418。此类滤波器可以以示意图400中所示的顺序应用于视频单元。例如,可以重建视频单元。在SAO滤波器416之前应用DF 412。在SAO滤波器416之后应用ALF 418。DF 412、SAO滤波器416和ALF 418如上文所讨论。本公开提出了双边滤波器420,其可以如关于示意图300所讨论的那样操作。如图所示,双边滤波器420可以应用在环路滤波器410内的不同位置处。双边滤波器420也可以在应用环路滤波器410之前或在应用环路滤波器410之后应用。双边滤波器420的可能位置表示为位置A-G。
在位置A,可以在环路滤波之前应用双边滤波器420。例如,双边滤波器420可以在应用残差以创建重建样点之前应用于预测结果。双边滤波器420也可以在位置B处应用作为环路滤波器410的一部分并且在DF 412之前。双边滤波器420也可以应用在DF 412之后和SAO滤波器416之前的位置C。双边滤波器420也可以应用在SAO滤波器416之后和ALF 418之前的位置D。双边滤波器420也可以应用在ALF 418之后的位置E。双边滤波器420也可以应用于位置G,其与DF 412、SAO滤波器416和/或ALF 418中的任何一个并行。例如,双边滤波器和第二滤波器可以应用于相同的样点。双向滤波器420可以产生第一偏移,第二滤波器可以产生第二偏移,并且双向滤波器420可以基于第一偏移和第二偏移产生输出样点。双向滤波器420也可以作为环路滤波器410的一部分应用在ALF 418之后的位置E。此外,双向滤波器420也可以应用在环路滤波完成之后的位置F。例如,双向滤波器420可以在应用环路滤波器410之后的后处理阶段中应用。
为了解决上述问题以及其他问题,公开了如下总结的方法。这些项目应该被认为是解释一般概念的示例,而不应该以狭隘的方式解释。此外,这些项目可以单独使用或以任何方式组合使用。应当注意,所提出的方法可以用作环路滤波器或后处理。
示例1
在一个示例中,双边滤波器(BF)可以应用于一个或多个颜色分量。在一个示例中,当BF应用于不同的分量时,BF可以采用不同的滤波方法(例如,不同的参数、不同的滤波器形状等)。在另一个示例中,当应用于不同的分量时,BF可以采用相同的滤波方法。在一个示例中,当应用于亮度分量时,BF可以采用第一滤波方法。BF然后可以在应用于两个色度分量时采用第二滤波方法,并且第二滤波方法对于两个色度分量可以是相同的。
示例2
在一个示例中,双边滤波器可用于进一步修改视频单元的重建色度样点/像素。
示例3
在一个示例中,视频单元的重建亮度或色度样点/像素的修改可取决于一个或多个区域的编解码信息或设计的滤波器形状。这些区域或滤波器形状包含至少一个重建的亮度或色度样点/像素。
示例4
编解码信息可包含任何编解码模式或运动信息,例如帧内预测模式、参考列表/索引、运动矢量等。编解码信息可以包括视频单元的维度。编解码信息可以包括QP。编解码信息可以包括样点值或基于样点值导出的任何变量。当BF滤波第二颜色分量时,可以使用第一颜色分量的编解码信息。例如,BF可以使用亮度分量的编解码信息来滤波Cb或Cr分量。
示例5
在一个示例中,BF可以使用编解码/统计信息(例如,均值/方差/块维度)来生成滤波后的亮度或色度样点/像素。在一个示例中,编解码/统计信息可从视频单元内的亮度样点/像素生成。在一个示例中,编解码/统计信息可从视频单元内的色度样点/像素生成。
示例6
在一个示例中,设计的BF滤波器形状可以是正方形、菱形或其他形状。在一个示例中,滤波器形状可以是正方形。在一个示例中,滤波器形状可以是十字形。在一个示例中,滤波器形状可以是菱形。在一个示例中,滤波器形状可以是对称的。在一个示例中,滤波器形状可以是不对称的。在一个示例中,滤波器形状的指示可以是信令通知的、预定义的、即时导出的。例如,可以信令通知索引来指示来自一组候选形状的滤波器形状。在一个示例中,设计的滤波器形状的尺寸可以是预定义的、信令通知的、即时导出的或者基于解码的信息导出的。
示例7
在一个示例中,当对亮度或色度样点/像素进行滤波时,BF可以利用编解码/统计信息。在一个示例中,BF可以根据以下公式生成滤波结果:
其中Ifiltered代表更新/修改的亮度或色度样点/像素,IC代表位于滤波形状中心的未修改的亮度或色度样点/像素。符号Δ表示对应的参考样点和未修改的中心样点之间的差。符号Ω表示参考样点和中心样点之间的垂直和水平距离之和。n代表滤波形状内的样点总数,e代表强度因子。μ(Δ,Ω)是用于计算滤波形状中每个位置的滤波权重的函数。
示例8
在一个示例中,函数μ(Δ,Ω)可以被公式化为:
其中σd和σr是两个滤波参数,其他参数如上所述。在一个示例中,函数μ(Δ,Ω)可以通过查找表来实现。
示例9
在一个示例中,视频单元内的不同样点或不同位置可使用统一参数或查找表。在一个示例中,视频单元内的不同样点或不同位置可以使用不同的参数或查找表。在一个示例中,诸如σd和σr的参数可以被预定义、搜索、即时确定或在比特流中被信令通知。
示例10
在一个示例中,上文提及的参数可基于编解码模式、尺寸或描述当前视频单元的其它编解码信息来设定。在一个示例中,上述参数可以从编码器信令通知到解码器。在一个示例中,参数e可以被预定义、搜索、即时确定或在比特流中被信令通知。在一个示例中,可基于编解码模式、尺寸或描述当前视频单元的其它编解码信息来设定参数e。在一个示例中,可基于当前视频单元的亮度尺寸来设定参数e。在一个示例中,可基于当前视频单元的最大亮度尺寸(由max(widthluma,heightluma)表示)或最小亮度尺寸(由min(widthluma,heightluma)表示)来设定参数e。在一个示例中,参数e可基于亮度样点中的当前视频单元的尺寸来设定,由widthluma×heightluma表示。在另一示例中,参数e可以基于当前视频单元的色度尺寸来设置。在一个示例中,参数e可以基于由max(widthchroma,heightchroma)表示的最大色度尺寸或由min(widthchroma,heightchroma)表示的最小色度尺寸来设置。在一个示例中,参数e可基于色度样点中的当前视频单元的尺寸来设置,由widthchroma×heightchroma表示。在一个示例中,参数e可以从编码器信令通知到解码器。
示例11
在一个示例中,色度样点的滤波偏移可基于亮度样点的滤波偏移或亮度样点的信息来生成。在一个示例中,色度样点的滤波偏移可通过加权和方法,结合色度和亮度样点两者的计算滤波偏移来计算。在一个示例中,色度样点的滤波偏移可通过使用亮度样点的局部信息来生成,例如对应亮度样点之间的差或距离。在一个示例中,由BF滤波的亮度或色度样点可用于更新重建亮度或色度样点和/或视频单元的残差。
示例12
在一个示例中,如上所述的BF滤波过程可以通过对整数的运算来实现。例如,变量可以在过程之前、期间和/或之后左移位和/或右移位,以保持合适的计算精度。
示例13
在示例中,亮度样点可以在色度样点的BF滤波期间使用。
示例14
在示例中,可以采用BF跨图片滤波方法,其中滤波过程可以取决于不同图片中的样点。
示例15
在一个示例中,可在滤波过程之前和/或之后填充视频单元。在一个示例中,视频单元可在边界位置处被Npad(例如,Npad=2)个样点填充。
示例16
在一个示例中,是否填充和/或如何填充样点/像素可以取决于相邻样点/像素是否已经在不同的条带、片、砖和/或子图片中被解码。
示例17
在一个示例中,当相邻样点/像素已经被解码时,可以使用解码的相邻样点/像素来填充相邻样点/像素。在示例中,当相邻样点/像素没有被解码时,可以使用预定义的值来填充。
示例18
在一个示例中,可以使用扩展和/或镜像填充。在这种情况下,填充样点/像素来自当前视频单元,而不是来自相邻样点/像素。
示例19
在一个示例中,视频单元的边界样点可由镜像函数填充。例如,当边界样点是[a,b,c]时,填充样点可以是如下所示的[c,b,a,b,c]。
图5是用于镜像填充的示例机制的示意图500。在图500中,圆圈描绘视频单元内的样点,正方形描绘视频单元外的填充样点。如图所示,视频单元外的填充样点b、c、d和e是基于视频单元内的样点b、c、d和e生成的。因此,在一个示例中,可通过如图表500中所示的镜像函数来填充视频单元的边界样点。
在一个示例中,可通过扩展函数来填充视频单元的边界样点。例如,当边界样点是[a,b,c]时,填充样点可以是如下所示的[b,c,a,b,c]。
图6是用于扩展填充的示例机制的示意图600。在图600中,圆圈描绘视频单元内的样点,正方形描绘视频单元外的填充样点。如图所示,视频单元外的填充样点b、c、d和e是基于视频单元内的样点b、c、d和e生成的。图500和图600之间的差异在于,在图500中,样点在样点a周围被镜像,而在图600中,样点从样点a的一侧被复制,并且以相同的顺序被包括在样点a的另一侧。因此,在示例中,视频单元的边界样点可以由扩展函数来填充。
示例20
在一个示例中,填充样点可用于滤波过程。滤波过程滤波的样点可进一步用于填充样点。
示例21
在一个示例中,BF中的滤波可以在子块级别执行。
示例22
在一个示例中,编解码和/或统计信息可以由子块(例如,2×2/1×2/2×1)共享。在示例中,第一子块的滤波结果可用于对第二子块的样点进行滤波。在示例中,第一子块的未滤波样点可用于对第二子块的样点进行滤波。
示例23
在一个示例中,BF可以在视频编解码器编解码流程中的不同阶段执行。在一个示例中,BF可以用在环路滤波阶段。在一个示例中,BR可以在DF之前或之后执行。在一个示例中,BF可以在SAO滤波器之前或之后执行。在一个示例中,BF可以在ALF之前或之后执行。在一个示例中,BF可以在其他环路滤波器之前或之后执行。在一个示例中,BF可以被执行为后处理滤波器,其在解码完成后对样点/像素进行滤波。
示例24
在一个示例中,第一滤波阶段(例如,BF)可以相对于第二滤波过程(例如,SAO、ALF、BF或其他环路滤波器)独立地执行。例如,第一和第二滤波器可以应用于相同的输入样点,产生第一偏移和第二偏移。可以基于第一和第二偏移两者来导出输出样点。输出样点可能被限幅。输出样点可以由下一阶段进一步处理。在一个示例中,BF可以在解码器处生成重建样点之前应用于预测样点。在一个示例中,BF可应用于编解码块的重建样点,其可用于预测后续样点或块。在示例中,BF可以在基于神经网络的滤波器之前或之后执行。
示例25
在一个示例中,可将视频单元或样点分类成多个组,且可使用与组相关联的一个或多个参数。在一个示例中,较高级别视频区域内的视频单元可通过视频单元的编解码/统计信息(例如,平均值/方差/块尺寸)被分类成Nunit个组。在一个示例中,不同类的视频单元,BF可具有同参数。在一个示例中,视频单元的编解码和/或统计信息可用于视频单元分类中。在一个示例中,输入块的平均值可用于单元分类。例如,单位平均值可以通过
S=wunit×hunit
来计算,其中pi是位于视频单元内i位置的亮度或色度,wunit和hunit分别是视频单元的宽度和高度。
示例26
在一个示例中,视频单元的方差可用于单元分类。单位方差可通过
来计算。
示例27
在一个示例中,固定阈值Tunit_class(例如,Tunit_class=1024)可用于计算基于单位方差的视频单元的类索引。单位平均值或其他统计信息如下:
其中0≤indexunit<Nunit,并且infounit是对应的统计信息。
示例28
在一个示例中,可使用一组阈值[T1,T2,…TN-1]来分类基于单位方差、单位平均值或其它统计信息的视频单元,如下:
indexunit=0当(0≤infounit<T1)时
indexunit=Nunit-2当(TN-2≤infounit<TN-1)时
indexunit=Nunit-1当(TN-1≤infounit)时
其中0≤indexunit<Nunit,infounit代表对应的统计信息。
示例29
在一个示例中,视频单元的宽度或高度可独立地用于块分类。在一个示例中,视频单元的宽度和高度可联合地用于块分类中。
示例30
在一个示例中,视频单元可以是CTU、CTB、CU、CB和/或TB。在一个示例中,较高级别的视频区域可以是条带、子图片、片、砖、图片和/或序列。在一个示例中,视频单元内的样点可被分类成Nsample组。在一个示例中,BF可对视频单元中不同类的样点具有不同的参数。在一个示例中,窗口内的编解码/统计信息可以用于样点/像素分类。在一个示例中,样点分类中使用的编解码/统计信息可以是窗口内的平均值。在一个示例中,样点分类中使用的编解码/统计信息可以是窗口内的方差。在一个示例中,样点分类中使用的编解码/统计信息可以是窗口内的梯度信息。在一个示例中,梯度信息可以是窗口内梯度的最小值。在一个示例中,梯度信息可以是窗口内梯度的最大值。在一个示例中,梯度信息可以是窗口内梯度的平均值。在一个示例中,窗口形状可以是正方形。在一个示例中,窗口形状可以是菱形。在一个示例中,窗口形状可以是十字形。在一个示例中,窗口形状可以是对称的。在一个示例中,窗口形状可以是不对称的。在一个示例中,视频单元可以是CTU、CTB、CU、CB和/或TB。
示例31
在一个示例中,是否对视频单元或视频单元内的样点/像素应用BF和/或如何应用BF可取决于编解码信息或即时确定。在一个示例中,编解码信息可指视频单元中的变换系数。在一个示例中,当视频单元具有一个或多个不等于0的变换系数等级时,例如当当前视频单元的编解码块标志(CBF)等于1时,可应用BF。在一个示例中,当视频单元具有全零变换系数等级时,例如当当前视频单元的CBF等于0时,BF可被禁止。在一个示例中,编解码信息可指视频单元的颜色分量和/或颜色格式。在一个示例中,当当前视频单元的分量是YCbCr格式的Cb和/或Cr时,可以应用BF。在一个示例中,当当前视频单元的分量是RGB格式的G、B和/或R时,可以应用BF。在一个示例中,编解码信息可以指QP。在一个示例中,当当前视频单元的QP大于TQP(例如,TQP=17)时,可应用BF。
示例32
在一个示例中,编解码信息可指视频单元的维度和/或尺寸。在一个示例中,当当前视频单元的宽度和高度的最小值小于或大于Tsize_min(例如,Tsize_min=16)时,可以应用BF。在一个示例中,当当前视频单元的宽度和高度的最大值小于或大于Tsize_max(例如,Tsize_max=64)时,可以应用BF。在一个示例中,当当前视频单元的宽度和高度都小于或大于Tsize_both(例如,Tsize_both=8)时,可以应用BF。在一个示例中,编解码信息可指视频单元中的样点/像素的数量。在一个示例中,当视频单元内的样点数量乘以因子Fnum(例如,Fnum=1、2或4)大于或小于或等于Tnum(例如,Tnum=16)时,可以应用BF。在一个示例中,编解码信息可指任何编解码模式或信息,例如帧间预测模式、帧内预测模式、merge标志、merge索引、仿射标志、运动矢量、参考索引等。在一个示例中,对于视频单元中的两个样点/像素,它们中的一个可以被BF滤波,而另一个不被滤波。
示例33
在一个示例中,可使用一个或多个语法元素向解码器信令通知是否使用和/或如何使用视频单元的BF。在一个示例中,可以在VPS、SPS、PPS、图片、子图片、条带、片、条带组、片组、CTU、CU、PU、TU、CTB、CB、PB、TB和/或其他级别信令通知一个或多个语法元素。在一个示例中,可以向解码器侧信令通知条带级别语法元素。条带级别语法元素可以由RDO运算来确定。在示例中,条带级别语法元素可决定环路滤波器是否应用于条带内的视频块。
示例34
在一个示例中,可以将CTU级别语法元素信令通知给解码器侧。CTU级别语法元素可以通过RDO运算来确定。CTU级别语法元素可决定环路滤波器是否应用于CTU内的视频块。在一个示例中,可以将CU级别语法元素信令通知给解码器侧。在一个示例中,CU级别语法元素可由RDO运算来确定。在一个示例中,CU级别语法元素可以在CU初始过程中被设置为假。在一个示例中,当当前CU的信道类型不等于亮度时,可不在编解码器侧信令通知CU级别语法元素,且可在解码器侧将其设定为假。在一个示例中,当当前CU的QP小于阈值TCUQP(例如,TCUQP=17)时,可不在编解码器侧信令通知CU级别语法元素,且可在解码器侧将其设定为假。在一个示例中,当当前CU的宽度和高度的最大值不小于阈值TCUmax(例如,TCUmax=64)时,可不在编解码器侧信令通知CU级别语法元素,且可在解码器侧将其设定为假。在一个示例中,当当前CU的宽度和高度的最小值不小于阈值TCUmin(例如,TCUmin=16)时,可不在编解码器侧信令通知CU级别语法元素,且可在解码器侧将其设定为假。在一个示例中,当当前CU的宽度和高度均不小于或不大于阈值TCUboth(例如,TCUboth=8)时,CU级别语法元素可不在编解码器侧信令通知,且可在解码器侧设定为假。
示例35
在一个示例中,TU级别语法元素可以信令通知给解码器侧。在一个示例中,TU级别语法元素可由RDO运算来确定。在一个示例中,TU级别语法元素可以在TU初始过程中被设置为假。在一个示例中,当当前TU的信道类型不等于亮度时,TU级别语法元素可不在编解码器侧信令通知,且可在解码器侧设定为假。在一个示例中,当当前TU的QP小于阈值TTUQP(例如,TTUQP=17)时,TU级别语法元素可不在编解码器侧信令通知,且可在解码器侧设定为假。在一个示例中,当当前TU的CBF等于假时,TU级别语法元素可以不在编解码器侧信令通知,并且可以在解码器侧被设置为假。在一个示例中,当当前TU的宽度和高度的最大值不小于阈值TTUmax(例如,TTUmax=64)时,TU级别语法元素可不在编解码器侧信令通知,且可在解码器侧设定为假。在一个示例中,当当前TU的宽度和高度的最小值不小于阈值TTUmin(例如,TTUmin=16)时,TU级别语法元素可不在编解码器侧信令通知,且可在解码器侧设定为假。在一个示例中,当当前TU的宽度和高度均不小于或不大于阈值TTUboth(例如,TTUboth=8)时,TU级别语法元素可不在编解码器侧信令通知,且可在解码器侧设定为假。在一个示例中,语法元素可以通过基于旁路的方法来编解码。在一个示例中,语法元素可以通过基于上下文的方法来编解码。
示例36
在示例中,可以有条件地信令通知用于指示色度分量上的BF使用的语法元素。在一个示例中,仅当在启用亮度SAO时信令通知上述语法元素。在一个示例中,仅当亮度BF被启用时,才可以信令通知上述语法元素。在一个示例中,仅当满足某些解码信息时(例如,CBF等于1),才可以信令通知上述语法元素。
示例37
在示例中,视频单元可指代序列、图片、子图片、条带、片、编解码树单元(CTU)、CTU行、CTU组、编解码单元(CU)、预测单元(PU)、变换单元(TU)、编解码树块(CTB)、编解码块(CB)、预测块(PB)、变换块(TB)和/或含有多于一个亮度或色度样点/像素的任何其它区域。
示例38
在一个示例中,是否和/或如何应用上述公开的方法可以在序列级别、图片组级别、图片级别、条带级别和/或片组级别信令通知,例如在序列标头、图片标头、SPS、VPS、DPS、解码能力信息(DCI)、PPS、自适应参数集(APS)、条带标头和/或片组标头中。
示例39
在一个示例中,可以在PB、TB、CB、PU、TU、CU、虚拟管线数据单元(VPDU)、CTU、CTU行、条带、片、子图片或包含多于一个样点或像素的其他区域信令通知是否和/或如何应用上述公开的方法。
示例40
在一个示例中,是否和/或如何应用上述公开的方法可以取决于编解码信息,例如块尺寸、颜色格式、单/双树分割、颜色分量、条带/图片类型。
现在讨论一个示例实现方式。在下面的示例性实施例中,BF可以在色度分量上执行,并且与SAO滤波器并行。BF可以作为SAO环路滤波器阶段的一部分来执行。BF和SAO都使用去方块滤波器产生的样点作为输入。这两个滤波器都为每个样点生成偏移。这两个偏移被添加到输入样点中,然后在进入ALF之前被限幅。
在示例中,输出样点IOUT可以被计算为
IOUT=clip3(IC+ΔIBF+ΔISAO)
其中,IC是来自去方块滤波器的输入样点,ΔIBIF是来自双边滤波器的偏移,ΔISAO是来自SAO的偏移,clip3是限幅函数。BF可以允许编解码器启用或禁用CTU和条带级别的滤波。编码器通过评估RDO成本来做出决定。
PPS中引入了以下语法元素。示例,PPS RBSP语法如下。
pps_chroma_bistropical_filter_enabled_flag等于0规定对参考PPS的条带禁用BF。pps_chroma_bilateral_filter_flag等于1规定为参考PPS的条带启用BF。chroma_bilateral_filter_strength规定在双边变换块滤波过程中使用的BF强度值。chroma_bilateral_filter_strength的值应在0到2(包括端值)的范围内。chroma_bilateral_filter_qp_offset为参考PPS的条带规定了在导出双边滤波器查找表LUT(x)中使用的偏移。
引入了以下语法元素。示例通用条带标头语法如下。
示例编解码树单元语法如下。
语义如下。slice_chroma_bilateral_filter_all_ctb_enabled_flag等于1规定BF被启用并且被应用于当前条带中的所有CTB。当slice_chroma_bilateral_filter_all_ctb_enabled_flag不存在时,其被推断为等于0。slice_chroma_bilateral_filter_enabled_flag等于1规定BF被启用,并且可以被应用于当前条带的CTB。当slice_chroma_bilateral_filter_enabled_flag不存在时,其被推断为等于slice_chroma_bilateral_filter_all_ctb_enabled_flag。chroma_bilateral_filter_ctb_flag[xCtb>>CtbLog2SizeY][yCtb>>CtbLog2SizeY]等于1规定BF应用于亮度位置(xCtb,yCtb)处的编解码树单元的色度编解码树块。
对于被滤波的CTU,滤波过程可以如下进行。在样点不可用的图片边界处,双边滤波器使用扩展(例如,样点填充)来填充不可用的样点。对于虚拟边界,行为类似于SAO(例如,不发生滤波)。当跨越水平CTU边界时,BF可以访问SAO正在访问的相同样点。
图7是双边滤波器的示例滤波模式的示意图700。根据示意图700来表示中心样点IC周围的样点,其中A、B、L、R NW、NE、SW、SE、AA和BB分别代表上样点、下样点、左样点、右样点、西北样点、东北样点、西南样点、东南样点、上方样点和下方样点。因此,示意图700图示了围绕中心样点的样点的命名约定。
每个周围样本IA,IR等均贡献对应的修正值等。这些修正值按以下方式计算。从样点对右侧的贡献IR开始,差计算如下。
ΔIR=(|IR-IC|+4)>>3
其中||表示绝对值。对于不是10位的数据,可以使用下面的公式来代替ΔIR=(|IR-IC|+2n-6)>>(n-7),其中,对于8位数据,n=8,等等。现在,结果值被限幅如下,以使该值小于16。
sIR=min(15,ΔIR)
然后修正值计算如下:
其中,LUTROW[]是由qpb=clip(0,25,QP+chroma_bilateral_filter_qp_offset-17)的值确定的16个值的阵列,QP是量化参数。
和/>的修正值是用同样的方法从IL、IA和IB计算出来的。对于对角线样点INW、INE、ISE、ISW以及两步远样点IAA、IBB、IRR和ILL,计算也遵循上述公式,但使用移位1的值。例如,对角样点ISE计算如下:
其他对角线样点和两步远样点以类似的方式计算。修正值根据以下公式相加:
然后,将msum值乘以c=1、2或3,这可以使用单个加法器和逻辑与门以如下方式完成:
cv=k1&(msum<<1)+k2&msum
其中&表示逻辑与,k1是乘数c的最高有效位,k2是最低有效位。使用模式和块的尺寸来获得c。
最后,可以计算色度双边滤波器偏移ΔIBIF。以下用于全强度滤波:
ΔIBIF=(cv+16)>>5
n位数据的通用公式为:
radd=214-n-chroma_bilateral_filter_strength
rshift=15-n-chroma_bilateal_filter_strength
ΔIBIF=(cv+radd)>>rshift,
其中,色度双边滤波器强度可以是0或1,并在PPS中信令通知。
图8是可实现本文中所公开的各种技术的示例视频处理系统4000的框图。各种实现方式可以包括系统4000中的一些或全部组件。系统4000可以包括用于接收视频内容的输入4002。视频内容可以以原始或未压缩的格式(例如8或10比特多分量像素值)接收,或者可以以压缩或编码的格式接收。输入4002可以代表网络接口、外围总线接口或存储接口。网络接口的示例包括有线接口(诸如以太网、无源光网络(PON)等)和无线接口(诸如Wi-Fi或蜂窝接口)。
系统4000可以包括可以实现本文档中描述的各种编解码或编码方法的编解码组件4004。编解码组件4004可以减少从输入4002到编解码组件4004的输出的视频的平均比特率,以产生视频的编解码表示。因此,编解码技术有时称为视频压缩或视频转码技术。编解码组件4004的输出可以被存储或经由所连接的通信来发送,如组件4006所表示的。在输入4002处接收的视频的存储或通信的比特流(或编解码)表示可以由组件4008使用,以生成被发送到显示接口4010的像素值或可显示视频。从比特流表示中生成用户可见的视频的过程有时称为视频解压缩。此外,尽管某些视频处理操作被称为“编解码”操作或工具,但是应当理解,在编码器处使用编解码工具或操作,并且将由解码器进行反演编解码的结果的对应解码工具或操作。
外围总线接口或显示接口的示例可以包括通用串行总线(USB)或高清晰度多媒体接口(HDMI)或Displayport等。存储接口的示例包括SATA(串行高级技术附件)、PCI、IDE接口等类似接口。本文档中描述的技术可以实施在各种电子设备中,诸如移动电话、膝上型计算机、智能电话或其它能够进行数字数据处理和/或视频显示的装设备。
图9示例视频处理装置4100的框图。装置4100可以用于实现本文中所述的方法中的一个或多个。装置4100可以体现在智能电话、平板电脑、计算机、物联网(IoT)接收器等中。装置4100可以包括一个或多个处理器4102、一个或多个存储器4104和视频处理电路4106。(多个)处理器4102可以配置为实现本文档中所述的一个或多个方法。(多个)存储器4104可以用于存储数据和代码,该代码用于实现本文所描述的方法和技术。视频处理电路4106可以用于在硬件电路中实现本文档中所描述的一些技术。在一些实施例中,视频处理电路4106可以至少部分地包括在处理器4102中,例如图形协处理器。
图10是视频处理的示例方法4200的流程图。方法4200包括在步骤4202确定基于与图片数据相关的统计信息将图片数据分类成组,并且应用双边滤波器来对每个组中的样本进行滤波。在示例中,图片数据包括视频单元。在这种情况下,这些组包括多个视频单元组(Nunit)。此外,统计信息与视频单元相关。此外,基于统计信息将视频单元分类成Nunit。在示例中,双边滤波器在对分配给不同类别的视频单元组进行滤波时采用不同的参数。
在示例中,统计信息包括根据以下公式计算的视频单元的类索引:
indexunit=0当(0≤infounit<T1)时
indexunit=Nunit-2当(TN-2≤infounit<TN-1)时
indexunit=Nunit-1当(TN-1≤infounit)时
其中indexunit是视频单元的类索引,[T1,T2,…TN-1]是一组阈值,infounit是方差或单元平均值。
在示例中,统计信息包括根据以下公式计算的视频单元的类索引:
其中indexunit是视频单元的类索引,infounit是方差或单元平均值,Tunit_class是固定阈值,≤indexunit<Nunit
在示例中,统计信息包括根据以下公式计算的视频单元的单元平均值:
S=wunit×hunit
其中i是视频单元内的位置,pi是位于位置i的样点,S是视频单元的尺寸,wunit是视频单元的宽度,hunit是视频单元的高度,meanunit是单元平均值。
在示例中,统计信息包括根据以下公式计算的视频单元的方差:
其中i是视频单元内的位置,pi是位于位置i的样点,S是视频单元的尺寸,meanunit是单元平均值,corrunit是视频单元中样点值之间的相关性,varunit是视频单元的方差。
在示例中,统计信息包括视频单元的宽度、视频单元的高度或其组合。在示例中,视频单元是CTU、CTB、CU、CB、TB或其组合。
在示例中,图片数据包括样点。此外,该组包括多个样点组(Nsample)。此外,该统计信息与样点相关。基于统计信息将样点分类为Nsample。在示例中,当对分配给不同类别的样点组滤波时,BF采用不同的参数。在示例中,统计信息包含在样点周围的窗口内。在示例中,窗口内的统计信息包括平均值、方差、最小梯度、最大梯度、平均梯度或其组合。在示例中,窗口包括窗口形状,并且其中窗口形状是正方形、十字形、菱形、对称形状、不对称形状或其组合。
在示例中,双边滤波器被应用于样点的子块。在示例中,与第一子块相关的滤波结果用于对第二子块的样点进行滤波。在示例中,与第一子块相关的未滤波样点用于对第二子块的样点进行滤波。
在示例中,在去方块滤波器之前应用双边滤波器。在示例中,在去方块滤波器之后和SAO滤波器之前应用双边滤波器。在示例中,在SAO滤波器之后和ALF之前应用双边滤波器。在示例中,在ALF之后应用双边滤波器。在示例中,双边滤波器被用作后处理滤波器。
在示例中,双边滤波器和第二滤波器应用于相同的样点。此外,双边滤波器产生第一偏移,并且第二滤波器产生第二偏移、此外,双边滤波器基于第一偏移和第二偏移产生输出样点。在示例中,双边滤波器被应用于预测样点。在示例中,双边滤波器被应用于重建样点。
在步骤4204,基于双向滤波器执行可视媒体数据和比特流之间的转换。当在编码器上执行方法4200时,转换包括将可视媒体数据编码成比特流。例如,转换包括将视频单元编码成比特流。编码成比特流的视频单元接着重建以用作为编码后续视频单元的参考视频单元。当在解码器上执行方法4200时,转换包括解析和解码比特流以获得可视媒体数据中的视频单元。在任一情况下,双边滤波器在步骤4204被应用于视频单元中的样点。
应注意,方法4200可在用于处理视频数据的装置中实现,该装置包括处理器和其上带有指令的非暂时性存储器,例如视频编码器4400、视频解码器4500和/或编码器4600。在这种情况下,由处理器执行的指令使得处理器执行方法4200。此外,方法4200可以由包括供视频编解码设备使用的计算机程序产品的非暂时性计算机可读介质来执行。该计算机程序产品包括存储在非暂时性计算机可读介质上的计算机可执行指令,使得当由处理器执行时,使得视频编解码设备执行方法4200。
图11是示出可利用本公开的技术的示例视频编解码系统4300的框图。视频编解码系统4300可以包括源设备4310和目的地设备4320。源设备4310生成编码的视频数据,其可以被称为视频编码设备。目的地设备4320可以解码由源设备4310生成的编码的视频数据,该目的地设备4320可以被称为视频解码设备。
源设备4310可以包括视频源4312、视频编码器4314和输入/输出(I/O)接口4316。视频源4312可以包括诸如视频捕获设备的源、从视频内容提供者接收视频数据的接口、和/或生成视频数据的计算机图形系统,或这些源的组合。视频数据可以包括一个或多个图片。视频编码器4314对来自视频源4312的视频数据进行编码以生成比特流。比特流可以包括形成视频数据的编解码表示的比特序列。比特流可以包括编解码图片和相关联的数据。编解码图片是图片的编解码表示。相关联的数据可以包括序列参数集、图片参数集和其他语法元素。I/O接口4316包括调制器/解调器(调制解调器)和/或发送器。可以将编码的视频数据经由I/O接口4316通过网络4330直接发送到目的地设备4320。还可以将编码的视频数据存储到存储介质/服务器4340上,用于由目的地设备4320存取。
目的地设备4320可以包括I/O接口4326、视频解码器4324和显示设备4322。I/O接口4326可以包括接收器和/或调制解调器。I/O接口4326可以从源设备4310或存储介质/服务器4340获取编码的视频数据。视频解码器4324可以对编码的视频数据进行解码。显示设备4322可以向用户显示解码的视频数据。显示设备4322可以与目的地设备4320集成,或可以在配置为与外置显示设备相接的目的地设备4320的外部。
视频编码器4314和视频解码器4324可以根据视频压缩标准(诸如,高效视频编解码(HEVC)标准、多功能视频编解码(VVC)标准和其他当前和/或其他标准)进行操作。
图12是示出视频编码器4400的示例的框图,该视频编码器4400可以是图11中示出的系统4300中的视频编码器4314。视频编码器4400可以被配置为执行本公开的任何或全部技术。视频编码器4400包括多个功能组件。本公开所描述的技术可以在视频编码器4400的各种组件之间共享。在一些示例中,处理器可以配置为实施本公开中描述的任何或全部技术。
视频编码器4400的功能组件可以包括分割单元4401、预测单元4402(其可以包括模式选择单元4403、运动估计单元4404、运动补偿单元4405、帧内预测单元4406、残差生成单元4407、变换处理单元4408、量化单元4409、逆量化单元4410、逆变换单元4411、重建单元4412、缓冲器4413和熵编码单元4414)。
在其他示例中,视频编码器4400可以包括更多、更少或不同的功能组件。在一个示例中,预测单元4402可以包括帧内块复制(IBC)单元。IBC单元可以以IBC模式进行预测,其中至少一个参考图片是当前视频块所位于的图片。
此外,诸如运动估计单元4404和运动补偿单元4405的一些组件可以被高度集成,但是出于解释的目的在视频编码器4400的示例中分开表示。
分割单元4401可以将图片分割成一个或多个视频块。视频编码器4400和视频解码器4500可以支持各种视频块尺寸。
模式选择单元4403可以例如基于错误结果选择帧内或帧间的编解码模式中的一个,并且将得到的帧内或帧间编解码块提供到残差生成单元4407来生成残差块数据而且提供到重建单元4412来重建编解码块以用作参考图片。在一些示例中,模式选择单元4403可以选择帧内和帧间预测的组合(CIIP)模式,其中预测是基于帧间预测信号和帧内预测信号的。模式选择单元4403还可以为帧间预测情况下的块选择运动矢量的分辨率(例如子像素或整像素精度)。
为了对当前视频块进行帧间预测,运动估计单元4404可以通过将来自缓冲器4413的一个或多个参考帧与当前视频块进行比较,为当前视频块生成运动信息。运动补偿单元4405可以基于来自缓冲器4413的图片(而不是与当前视频块相关联的图片)的运动信息和解码样点来为当前视频块确定预测的视频块。
运动估计单元4404和运动补偿单元4405可以为当前视频块进行不同操作,例如执行不同操作取决于当前视频块是在I条带、P条带还是B条带中。
在一些示例中,运动估计单元4404可以进行当前视频块的单向预测,并且运动估计单元4404可以在列表0或列表1的参考图片中为当前视频块搜索参考视频块。运动估计单元4404然后可以生成指示列表0或列表1的参考图片中含有参考视频块的参考索引以及指示在当前视频块与参考视频块之间的空域位移的运动矢量。运动估计单元4404可以输出参考索引、预测方向指示符、和运动矢量作为当前视频块的运动信息。运动补偿单元4405可以基于由当前视频块的运动信息指示的参考视频块来生成当前块的预测视频块。
在其他示例中,运动估计单元4404可以进行当前视频块的双向预测,运动估计单元4404可以在列表0的参考图片中搜索当前视频块的参考视频块并且还可以在列表1的参考图片中搜索当前视频块的另一个参考视频块。运动估计单元4404然后可以生成指示列表0或列表1的参考图片中含有参考视频块的参考索引以及指示在参考视频块与当前视频块之间的空域位移的运动矢量。运动估计单元4404可以输出参考索引和当前视频块的运动矢量作为当前视频块的运动信息。运动补偿单元4405可以基于由当前视频块的运动信息指示的参考视频块来生成当前视频块的预测视频块。
在一些示例中,运动估计单元4404可以输出运动信息的全部集合,用于解码器的解码处理。在一些示例中,运动估计单元4404可以不输出当前视频的运动信息的全部集合。而是,运动估计单元4404可以参考另一个视频块的运动信息来信令通知当前视频块的运动信息。例如,运动估计单元4404可以确定当前视频块的运动信息与相邻视频块的运动信息足够相似。
在一个示例中,运动估计单元4404可以在与当前视频块相关联的语法结构中指示一个值,以指示视频解码器4500:当前视频块具有与另一个视频块相同的运动信息的值。
在另一个示例中,运动估计单元4404可以在与当前视频块相关联的语法结构中标识另一个视频块和运动矢量差(MVD)。运动矢量差指示当前视频块的运动矢量与指示视频块的运动矢量之间的差。视频解码器4500可以使用指示视频块的运动矢量和运动矢量差来确定当前视频块的运动矢量。
如上所讨论的,视频编码器4400可以预测性地信令通知运动矢量。可以由视频编码器4400实现的预测性的信令通知技术的两个示例包括高级运动矢量预测(AMVP)和merge模式信令通知。
帧内预测单元4406可以对当前视频块进行帧内预测。当帧内预测单元4406对当前视频块进行帧内预测时,帧内预测单元4406可以基于相同图片中其他视频块的解码样点来生成当前视频块的预测数据。当前视频块的预测数据可以包括预测视频块和各种语法元素。
残差生成单元4407可以通过从当前视频块中减去当前视频块的(多个)预测视频块来生成当前视频块的残差数据。当前视频块的残差数据可以包括对应于当前视频块中样点的不同样点分量的残差视频块。
在其他示例中,例如在跳过模式下,对于当前视频块可能不存在当前视频块的残差数据,并且残差生成单元4407可以不进行减去操作。
变换处理单元4408可以通过将一个或多个变换应用于与当前视频块相关联的残差视频块来生成当前视频块的一个或多个变换系数视频块。
在变换处理单元4408生成与当前视频块相关联的变换系数视频块之后,量化单元4409可以基于与当前视频块相关联的一个或多个量化参数(QP)值来量化与当前视频块相关联的变换系数视频块。
逆量化单元4410和逆变换单元4411可以将逆量化和逆变换分别应用于变换系数视频块,来从变换系数视频块重建残差视频块。重建单元4412可以将重建的残差视频块添加到来自由预测单元4402生成的一个或多个预测视频块的对应样点,以产生与当前块相关联的重建视频块用于存储在缓冲器4413中。
在重建单元4412重建视频块之后,可以进行环路滤波操作以降低视频块中视频块化伪影。
熵编码单元4414可以从视频编码器4400的其他功能组件接收数据。当熵编码单元4414接收数据时,熵编码单元4414可以进行一个或多个熵编码操作以生成熵编码数据并且输出包括熵编码数据的比特流。
图13是示出视频解码器4500的示例的框图,该视频解码器4500可以是图11中示出的系统4300中的视频解码器4324。视频解码器4500可以被配置为进行本公开的任何或全部技术。在所示的示例中,视频解码器4500包括多个功能组件。本公开所描述的技术可以在视频解码器4500的各种组件之间共享。在一些示例中,处理器可以配置为进行本公开中描述的任何或全部技术。
在所示的示例中,视频解码器4500包括熵解码单元4501、运动补偿单元4502、帧内预测单元4509、逆量化单元4504、逆变换单元4505、重建单元4506和缓冲器4507。在一些示例中,视频解码器4500可以进行与视频编码器4400所描述的编码过程总体反演的解码过程。
熵解码单元4501可以检索编码比特流。编码比特流可以包括熵编解码视频数据(例如,视频数据的编解码块)。熵解码单元4501可以解码熵编解码视频数据,并且根据熵解码视频数据,运动补偿单元4502可以确定包括运动矢量、运动矢量精度、参考图片列表索引和其他运动信息的运动信息。运动补偿单元4502例如可以通过进行AMVP和merge模式确定此类信息。
运动补偿单元4502可以产生运动补偿块,可能地基于插值滤波器进行插值。要以子像素精度使用的插值滤波器的标识符可以包括在语法元素中。
运动补偿单元4502可以使用由视频编码器4400在编码视频块的期间所使用的插值滤波器,来计算出参考块的子整数个像素的插值的值。运动补偿单元4502可以根据接收的语法信息确定由视频编码器4400所使用的插值滤波器并且使用插值滤波器来产生预测块。
运动补偿单元4502可以使用一些语法信息来确定:用于对编码视频序列的(多个)帧和/或(多个)条带进行编码的块的尺寸,描述编码视频序列的图片的每个宏块如何被分割的分割信息,指示如何编码每个分割的模式,每个帧间编码块的一个或多个参考帧(和参考帧列表),以及对编码视频序列进行解码的其他信息。
帧内预测单元4503可以使用例如在比特流中接收的帧内预测模式来从空域相邻块形成预测块。逆量化单元4504逆量化(即去量化)在比特流中提供的且由熵解码单元4501解码的量化的视频块系数。逆变换单元4505应用逆变换。
重建单元4506可以用由运动补偿单元4502或帧内预测单元4503生成的对应预测块求和残差块,以形成解码块。如所期望的,去方块滤波器还可以应用于滤波解码块以便移除块效应伪影。解码视频块然后存储在缓冲器4507中,该缓冲器4507提供用于随后的运动补偿/帧内预测的参考块,并且还产生用于在显示设备上呈现的解码视频。
图14是示例编码器4600的示意图。编码器4600适合于实现VVC技术。编码器4600包括三个环路滤波器,即去方块滤波器(DF)4602、样点自适应偏移(SAO)4604和自适应环路滤波器(ALF)4606。与使用预定义滤波器的DF 4602不同,SAO 4604和ALF 4606利用当前图片的原始样点,通过分别添加偏移和应用有限脉冲响应(FIR)滤波器,利用编解码的辅助信息信令通知偏移和滤波器系数,来减小原始样点和重构样点之间的均方误差。ALF 4606位于每个图片的最后处理阶段,并且可以被视为试图捕捉和修复由先前阶段产生的伪像的工具。
编码器4600还包括帧内预测组件4608和运动估计/补偿(ME/MC)组件4610,配置为接收输入视频。帧内预测组件4608被配置成执行帧内预测,而ME/MC组件4610被配置成利用从参考图片缓冲器4612获得的参考图片来执行帧间预测。来自帧间预测或帧内预测的残差块被馈送到变换(T)组件4614和量化(Q)组件4616中,以生成量化的残差变换系数,这些系数被馈送到熵编解码组件4618中。熵编解码组件4618对预测结果和量化的变换系数进行熵编解码,并将其向视频解码器(未示出)发送。从量化组件4616输出的量化组件可以被馈送到逆量化(IQ)组件4620、逆变换组件4622和重构(REC)组件4624。REC组件4624能够将图像输出到DF 4602、SAO 4604和ALF 4606,以便在这些图片被存储在参考图片缓冲器4612中之前进行滤波。
下面提供了一些示例优选的解决方案列表。
以下解决方案显示了本文讨论的技术的示例。
1.一种媒体数据处理方法(例如,图10中描绘的方法4200),包括:根据规则来对将双边滤波器应用于视频的颜色分量的视频单元作出确定;以及根据该确定执行视频和视频的比特流之间的转换。
2.根据解决方案1所述的方法,其中双边滤波器在子块级别应用于视频单元。
3.根据解决方案2所述的方法,其中通过在子块之间共享编解码或统计信息,在子块级别应用双边滤波器。
4.上述解决方案中任一项所述的方法,其中该规则规定在转换期间在编解码流中的预定阶段应用双边滤波器。
5.根据解决方案4所述的方法,其中该规则规定在环路滤波阶段应用双边滤波器。
6.根据解决方案5所述的方法,其中该规则规定在应用去方块滤波器之前应用双边滤波器。
7.根据解决方案5所述的方法,其中该规则规定在应用样点自适应偏移滤波器之前应用双边滤波器。
8.根据解决方案5所述的方法,其中该规则规定在应用神经网络滤波器之前应用双边滤波器。
9.根据解决方案1所述的方法,其中视频单元或视频单元的样点被分类成一个或多个组,并且其中规则规定使用与一个或多个组相关联的一个或多个参数来进行双边滤波。
10.根据解决方案9所述的方法,其中该视频单元是视频区域的一部分,并且根据所述视频单元的编解码或统计信息将所述视频单元分类成一个或多个组。
11.根据解决方案10所述的方法,其中视频单元的平均样点值用于分类。
12.根据解决方案10所述的方法,其中视频单元的样点值的方差用于分类。
13.根据解决方案10所述的方法,其中视频单元的维度用于分类。
14.根据解决方案9所述的方法,其中视频单元的样点被分类为多个组,Nsample
15.根据解决方案14所述的方法,其中视频单元中的窗口内的编解码或统计信息用于分类。
16.根据解决方案15所述的方法,其中该窗口满足以下属性之一:正方形、菱形、十字形、对称或不对称。
17.上述解决方案中任一项所述的方法,其中视频单元是编解码树单元或编解码树块或编解码单元或编解码块或变换块。
18.上述解决方案中任一项所述的方法,其中双边滤波器被用作环路内滤波器。
19.上述解决方案中任一项所述的方法,其中双边滤波器被用作后处理滤波器。
20.根据解决方案1-19中任一项所述的方法,其中转换包括从视频生成比特流。
21.根据解决方案1-19中任一项所述的方法,其中转换包括从比特流生成视频。
22.一种视频解码装置,包括被配置为实现解决方案1至21中的一项或多项所述的方法的处理器。
23.一种视频编码装置,包括被配置为实现解决方案1至21中的一项或多项所述的方法的处理器。
24.一种其上存储有计算机代码的计算机程序产品,该代码在由处理器执行时使处理器实现解决方案1至21中任一项所述的方法。
25.一种视频处理方法,包括根据解决方案1-21中任一项或多项所述的方法生成比特流,并将该比特流存储在计算机可读介质上。
26.本文档中描述的方法、设备或系统。
在本文所述的解决方案中,编码器可通过根据格式规则产生编解码表示来符合格式规则。在本文描述的解决方案中,解码器可以使用格式规则来解析编解码表示中的语法元素,根据格式规则知道语法元素的存在和不存在,以产生解码的视频。
在本文档中,术语“视频处理”可指视频编码、视频解码、视频压缩或视频解压缩。例如,在从视频的像素表示到对应的比特流表示的转换期间,可以应用视频压缩算法,反之亦然。如语法所定义,当前视频块的比特流表示可(例如)对应于共位或散布在比特流内不同位置的比特。例如,可以根据变换和编解码的误差残差值并且还使用头中的比特和比特流中的其他字段,对宏块进行编码。此外,在转换期间,解码器可以基于该确定,在知道一些字段可能存在或不存在的情况下解析比特流,如以上解决方案中所述。类似地,编码器可确定包括或不包括某些语法字段,并通过从编解码表示中包括或排除语法字段来相应地生成编解码表示。
本文档中所述的公开和其他方案、示例、实施例、模块和功能操作可以被实现在数字电子电路中或者在计算机软件、固件或硬件中,含有本文档中所公开的结构以及其结构的等同物,或者它们中的一个或多个的组合。所公开的和其他实施例可以被实现为计算机可读介质上所编码的一个或多个计算机程序产品,即一个或多个计算机程序指令模块,用于由数据处理装置执行或者控制数据处理装置的操作。该计算机可读介质可以是机器可读存储设备、机器可读存储基板、存储器设备、影响机器可读可传播信号的复合物,或其一个或多个的组合。术语“数据处理装置”涵盖用于处理数据的所有装置、设备和机器,包括例如可编程处理器、计算机或多个处理器或计算机。除了硬件之外,该装置还可以包括为所讨论的计算机程序创建执行环境的代码,例如,构成处理器固件、协议栈、数据库管理系统、操作系统、或者它们中的一个或多个的组合的代码。传播信号是人工生成的信号,例如,机器生成的电、光或电磁信号,其被生成来编码信息以传输到合适的接收器装置。
计算机程序(也称为程序、软件、软件应用、脚本或代码)可以用任何形式的编程语言编写,包括编译或解释语言,并且可以以任何形式来部署计算机程序,包括独立程序或适合在计算环境中使用的模块、组件、子例程或其它单元。计算机程序不必须对应于文件系统中的文件。程序可以存储在保存其他程序或数据的文件的部分中(例如,在标记语言文档中存储的一个或多个脚本)、在专用于所讨论的程序的单个文件中、或在多个协同文件中(例如存储一个或多个模块、子程序或代码部分的文件)。计算机程序可以部署为在一个计算机上或者在多个计算机上执行,该多个计算机位于一个站点处或者分布跨多个站点并由通信网络互连。
可以由执行一个或多个计算机程序的一个或多个可编程处理器来进行在本文档中所描述的过程和逻辑流,以通过在输入数据上操作并且生成输出来进行功能。也可以由专用逻辑电路(例如,现场可编程门阵列(FPGA)或专用集成电路(ASIC))进行过程和逻辑流,并且装置可以实现为专用逻辑电路(例如FPGA或ASIC)。
适合于计算机程序的执行的处理器包括例如通用和专用微处理器两者,以及任何类型的数字计算机的任何一个或多个处理器。通常,处理器将从只读存储器或随机存取存储器或者该两者接收指令和数据。计算机的基本元件是用于进行指令的处理器和用于存储指令和数据的一个或多个存储器设备。通常,计算机还将包括用于存储数据的一个或多个海量存储设备(例如磁、磁光盘或光盘),或者可操作地耦合以从海量存储设备(例如磁、磁光盘或光盘)接收数据或者将数据传输到海量存储设备(例如磁、磁光盘或光盘),或者以上两者。但是,计算机不必具有此类设备。适用于存储计算机程序指令和数据的计算机可读介质含有所有形式的非易失性存储器、介质和存储器设备,含有例如半导体存储器设备(例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)和闪速存储器设备);磁盘(例如内部硬盘或可移动磁盘);磁光盘;和光盘只读存储器(CD ROM)和数字多功能光盘只读存储器(DVD-ROM)盘。处理器和存储器可以由专用逻辑电路补充,或者合并在专用逻辑电路中。
虽然本专利文档含有许多细节,但这些细节不应被解释为对任何主题或可要求保护的范围的限制,而是作为规定于特定技术的特定实施例的特征的描述。在本专利文档中,在单独的实施例的上下文中描述的某些特征也可以在单个实施例中组合实现。相反地,在单个实施例的上下文中所描述的各种特征还可以分别在多个实施例中来实现或者以各种合适的子组合来实现。此外,尽管特征可以如上文描述为以某些组合起作用并且甚至最初同样地要求,但是在某些情况下来自所要求保护的组合的一个或多个特征可以从组合中去除,并且所要求保护的组合可以针对子组合或子组合的变化。
类似地,尽管在附图中以特定顺序描绘了操作,但这不应当理解为要求按所示的特定次序或顺序次序进行此类操作或者进行所有示出的操作,以实现期望的结果。此外,在本专利文档中描述的实施例中的各种系统组件的分开不应被理解为在所有实施例中都要求这种分开。
仅描述了几个实现方式和示例,并且可以基于本专利文档中描述和示出的内容来作出其它实现方式、增强和变型。
当除了第一组件和第二组件之间的线、迹线或另一种介质之外,不存在中间组件时,第一组件直接耦合至第二组件。当在第一组件和第二组件之间存在除了线、迹线或另一种介质之外的中间组件时,第一组件间接耦合到第二组件。术语“耦合”及其变体包括直接耦合和间接耦合。除非另有说明,术语“约”的使用意味着包括后续数值的10%的范围。
虽然本公开中提供了若干实施例,但应理解,在不脱离本公开的精神或范围的情况下,所公开的系统和方法可体现为许多其他特定形式。当前的示例被认为是说明性的而非限制性的,并且意图不限于这里给出的细节。例如,各种元件或组件可以组合或集成在另一个系统中,或者可以省略或不实现某些特征。
此外,在不脱离本公开的范围的情况下,各种实施例中描述和说明的离散或单独的技术、系统、子系统和方法可与其他系统、模块、技术或方法组合或集成。被示出或讨论为耦合的其他项目可以直接连接,或者可以通过一些接口、设备或中间组件以电、机械或其他方式间接耦合或通信。本领域的技术人员可以确定改变、替换和变更的其他示例,并且可以在不脱离这里公开的精神和范围的情况下进行这些改变、替换和变更。

Claims (31)

1.一种用于处理视频数据的方法,包括:
基于与图片数据相关的统计信息,确定将所述图片数据分类成组并且应用双边滤波器来对每个所述组中的样点进行滤波;和
基于所述双向滤波器执行可视媒体数据和比特流之间的转换。
2.根据权利要求1所述的方法,其中所述图片数据包括视频单元,其中所述组包括多个视频单元组(Nunit),其中所述统计信息与所述视频单元相关,并且其中基于所述统计信息所述视频单元被分类为所述Nunit
3.根据权利要求1-2中任一项所述的方法,其中,所述双边滤波器在对分配给不同类的视频单元组进行滤波时采用不同的参数。
4.根据权利要求1-3中任一项所述的方法,其中所述统计信息包括根据以下公式计算的视频单元的类索引:
indexunit=0当(0≤infounit<T1)时
indexunit=Nunit-2当(TN-2≤infounit<TN-1)时
indexunit=Nunit-1当(TN-1≤infounit)时
其中indexunit是所述视频单元的类索引,[T1,T2,...TN-1]是一组阈值,并且infounit是方差或单元平均值。
5.根据权利要求1-4中任一项所述的方法,其中,所述统计信息包括根据以下公式计算的视频单元的类索引:
其中indexunit是所述视频单元的类索引,infounit是方差或单元平均值,Tunit_class是固定阈值,并且其中0≤indexunit<Nunit
6.根据权利要求1-5中任一项所述的方法,其中,所述统计信息包括根据以下公式计算的视频单元的单元平均值:
S=wunit×hunit
其中i是所述视频单元内的位置,pi是位于位置i的样点,s是所述视频单元的尺寸,wunit是所述视频单元的宽度,hunit是所述视频单元的高度,并且meanunit是所述单元平均值。
7.根据权利要求1-6中任一项所述的方法,其中所述统计信息包括根据以下公式计算的视频单元的方差:
其中i是所述视频单元内的位置,pi是位于位置i的样点,s是视频单元的尺寸,meanunit是单元平均值,corrunit是所述视频单元中样点值之间的相关性,varunit是所述视频单元的方差。
8.根据权利要求1-7中任一项所述的方法,其中所述统计信息包括所述视频单元的宽度、所述视频单元的高度或其组合。
9.根据权利要求1到8中任一项所述的方法,其中所述视频单元是编解码树单元(CTU)、编解码树块(CTB)、编解码单元(CU)、编解码块(CB)、变换块(TB)或其组合。
10.根据权利要求1所述的方法,其中所述图片数据包括样点,其中所述组包括多个样点组(Nsample),其中所述统计信息与所述样点相关,并且其中基于所述统计信息将所述样点分类为所述Nsample
11.根据权利要求10所述的方法,其中当对分配给不同类别的样点组滤波时,BF采用不同的参数。
12.根据权利要求10-11中任一项所述的方法,其中所述统计信息包含在所述样点周围的窗口内。
13.根据权利要求10-12中任一项所述的方法,其中所述窗口内的所述统计信息包括平均值、方差、最小梯度、最大梯度、平均梯度或其组合。
14.根据权利要求10-13中任一项所述的方法,其中所述窗口包括窗口形状,并且其中所述窗口形状是正方形、十字形、菱形、对称形状、不对称形状或其组合。
15.根据权利要求1-14中任一项所述的方法,其中所述双边滤波器被应用于样点的子块。
16.根据权利要求1-15中任一项所述的方法,其中与第一子块相关的滤波结果用于对第二子块的样点进行滤波。
17.根据权利要求1-16中任一项所述的方法,其中,与第一子块相关的未滤波样点用于对第二子块的样点进行滤波。
18.根据权利要求1-17中任一项所述的方法,其中,在去方块滤波器之前应用所述双边滤波器。
19.根据权利要求1-17中任一项所述的方法,其中在去方块滤波器之后和样点自适应偏移(SAO)滤波器之前应用所述双边滤波器。
20.根据权利要求1-17中任一项所述的方法,其中在样点自适应偏移(SAO)滤波器之后和自适应环路滤波器(ALF)之前应用所述双边滤波器。
21.根据权利要求1-17中任一项所述的方法,其中,在自适应环路滤波器(ALF)之后应用所述双边滤波器。
22.根据权利要求1-17中任一项所述的方法,其中所述双边滤波器被用作后处理滤波器。
23.根据权利要求1-17中任一项所述的方法,其中所述双边滤波器和第二滤波器应用于相同的样点,其中所述双边滤波器产生第一偏移,其中所述第二滤波器产生第二偏移,并且其中所述双边滤波器基于所述第一偏移和所述第二偏移产生输出样点。
24.根据权利要求1-23中任一项所述的方法,其中所述双边滤波器被应用于预测样点。
25.根据权利要求1-24中任一项所述的方法,其中所述双边滤波器被应用于重建样点。
26.根据权利要求1-25中任一项所述的方法,其中所述转换包括将所述可视媒体数据编码成所述比特流。
27.根据权利要求1-25中任一项所述的方法,其中所述转换包括解码来自所述比特流的所述可视媒体数据。
28.一种用于处理视频数据的装置,包括:处理器;以及其上具有指令的非暂时性存储器,其中所述指令在被所述处理器执行时,使得所述处理器执行权利要求1-27所述的方法。
29.一种存储使处理器执行权利要求1-27所述的方法的指令的非暂时性计算机可读存储介质。
30.一种存储由视频处理装置执行的方法生成的视频的比特流的非暂时性计算机可读记录介质,其中所述方法包括:
基于与所述图片数据相关的统计信息确定将图片数据分类成组,并且应用双边滤波器来对每个所述组中的样点进行滤波;和
基于所述确定来生成所述比特流。
31.一种用于存储视频的比特流的方法,包括:
基于与图片数据相关的统计信息,确定将所述图片数据分类成组并且应用双边滤波器来对每个所述组中的样点进行滤波;
基于所述确定来生成所述比特流;和
将所述比特流存储在非暂时性计算机可读记录介质中。
CN202280045207.3A 2021-06-25 2022-06-24 视频编解码中的自适应双边滤波器 Pending CN117769833A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN2021102282 2021-06-25
CNPCT/CN2021/102282 2021-06-25
PCT/CN2022/100944 WO2022268184A1 (en) 2021-06-25 2022-06-24 Adaptive Bilateral Filter In Video Coding

Publications (1)

Publication Number Publication Date
CN117769833A true CN117769833A (zh) 2024-03-26

Family

ID=84544133

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280045207.3A Pending CN117769833A (zh) 2021-06-25 2022-06-24 视频编解码中的自适应双边滤波器

Country Status (3)

Country Link
US (1) US20240137574A1 (zh)
CN (1) CN117769833A (zh)
WO (1) WO2022268184A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024148111A1 (en) * 2023-01-03 2024-07-11 Bytedance Inc. Method, apparatus, and medium for video processing
WO2024148112A1 (en) * 2023-01-03 2024-07-11 Bytedance Inc. Method, apparatus, and medium for video processing

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018180841A1 (en) * 2017-03-29 2018-10-04 Sharp Kabushiki Kaisha Systems and methods for filtering reconstructed video data using bilateral filtering techniques
EP3454556A1 (en) * 2017-09-08 2019-03-13 Thomson Licensing Method and apparatus for video encoding and decoding using pattern-based block filtering
US10834396B2 (en) * 2018-04-12 2020-11-10 Qualcomm Incorporated Bilateral filter for predicted video data
US11153563B2 (en) * 2019-03-12 2021-10-19 Qualcomm Incorporated Combined in-loop filters for video coding

Also Published As

Publication number Publication date
US20240137574A1 (en) 2024-04-25
WO2022268184A1 (en) 2022-12-29

Similar Documents

Publication Publication Date Title
CN113711604A (zh) 视频编解码中色度和亮度语法元素的信令
CN114208174B (zh) 预测过程中的调色板模式编解码
CN117528097A (zh) 跨分量自适应环路滤波器
CN113785574B (zh) 色度分量的自适应环路滤波
US20240137574A1 (en) Adaptive bilateral filter in video coding
CN114430901B (zh) 带有色度缩放的亮度映射
CN117336514A (zh) 调色板模式使用指示的独立编解码
CN113853787B (zh) 基于子块使用变换跳过模式
US20240137573A1 (en) Bilateral filter in video coding
US20240187580A1 (en) Advanced Bilateral Filter In Video Coding
WO2023213265A1 (en) Extended taps using different sources for adaptive loop filter in video coding
CN115066897A (zh) 低位深度视觉媒体数据的编解码
CN117813823A (zh) 视频编解码中自适应环路滤波器的改进融合模式
WO2022268186A1 (en) Conditions for usage of adaptive bilateral filters
WO2022218285A1 (en) Guided filter usage
WO2023213298A1 (en) Filter shape switch for adaptive loop filter in video coding
CN114631313B (zh) 使用亮度差值的跨分量自适应环路滤波器
WO2024213000A1 (en) Using side information for cross-component adaptive loop filter in video coding
WO2024002168A1 (en) Padding methods for adaptive loop filter in video coding
WO2024217499A1 (en) Conditional filter shape switch for adaptive loop filter in video coding
WO2024094071A1 (en) Using side information for adaptive loop filter in video coding
WO2024022377A1 (en) Using non-adjacent samples for adaptive loop filter in video coding
WO2024078566A1 (en) Multiple input sources based extended taps for adaptive loop filter in video coding
WO2024094059A1 (en) Adaptive filter reusing methods on adaptive loop filter in video coding
WO2024193631A1 (en) Using boundary strength for adaptive loop filter in video coding

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination