CN115280771A - 基于滤波相关信息信令的图像编码设备和方法 - Google Patents

基于滤波相关信息信令的图像编码设备和方法 Download PDF

Info

Publication number
CN115280771A
CN115280771A CN202180021157.0A CN202180021157A CN115280771A CN 115280771 A CN115280771 A CN 115280771A CN 202180021157 A CN202180021157 A CN 202180021157A CN 115280771 A CN115280771 A CN 115280771A
Authority
CN
China
Prior art keywords
information
alf
prediction
samples
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180021157.0A
Other languages
English (en)
Inventor
S·帕鲁利
亨得利·亨得利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of CN115280771A publication Critical patent/CN115280771A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Abstract

根据本文档的实施方式,将零阶指数哥伦布编码方案(ue(v))用于与亮度/色度ALF滤波器系数绝对值有关的信息/语法元素的解析过程,从而能够降低操作开销和复杂度。另外,由于与亮度/色度ALF滤波器系数绝对值有关的信息的值的范围是固定的,所以能够高效地执行使用ue(v)的编码。

Description

基于滤波相关信息信令的图像编码设备和方法
技术领域
本公开涉及基于滤波相关信息信令的图像编码方法和装置。
背景技术
最近,在各种领域中对诸如4K或8K或更高超高清(UHD)图像/视频的高分辨率、高质量图像/视频的需求不断增加。随着图像/视频数据具有高分辨率和高质量,相对于现有图像/视频数据,将被发送的信息或比特的量增大,因此,使用诸如现有有线/无线宽带线路的介质或现有存储介质发送图像数据或者使用现有存储介质存储图像/视频数据增加了传输成本和存储成本。
另外,对诸如虚拟现实(VR)和人工现实(AR)内容或全息图的沉浸式媒体的关注和需求日益增长,并且具有与现实图像(诸如游戏图像)不同的特性的图像/视频的广播也日益增长。
因此,需要高度高效的图像/视频压缩技术来有效地压缩、发送、存储或再现如上所述具有各种特性的高分辨率、高质量图像/视频的信息。
另外,正在讨论诸如自适应环路滤波(ALF)等技术,以便提高压缩效率并改善主观/客观的视觉质量。为了高效地应用这些技术,需要一种高效地用信号通知相关信息的方法。
发明内容
技术方案
根据本文档的实施方式,本文提供了一种提高图像/视频编编码效率的方法和装置。
根据本文档的实施方式,本文提供了一种应用高效滤波的方法和装置。
根据本文档的实施方式,本文提供了一种高效地应用自适应环路滤波(ALF)的方法和装置。
根据本文档的实施方式,本文提供了一种提高图像/视频编码效率的方法和装置。
根据本文档的实施方式,本文提供了一种分层地用信号通知ALF相关信息的方法和装置。
根据本文档的实施方式,零阶指数哥伦布方案(ue(v))可用于与亮度/色度ALF滤波器系数的绝对值有关的信息/语法元素的解析过程。
根据本文档的实施方式,与亮度/色度ALF滤波器系数的绝对值有关的信息的值的范围可以是固定的。
根据本文档的实施方式,提供了一种用于执行视频/图像编码的编码装置。
根据本文档的一个实施方式,提供了一种计算机可读数字存储介质,其中存储有根据本文档的实施方式中的至少一个实施方式中公开的视频/图像编码方法生成的编码的视频/图像信息。
根据本文档的实施方式,提供了一种计算机可读数字存储介质,其中存储有使解码装置执行本文档的实施方式中的至少一个实施方式中公开的视频/图像解码方法的编码的信息或编码的视频/图像信息。
本发明的效果
根据本文档的实施方式,可以提高图像/视频的总体压缩效率。
根据本文档的实施方式,可以通过高效的滤波来提高主观/客观的视觉质量。
根据本文档的实施方式,可以高效地用信号通知ALF相关信息。
根据本文档实施方式,通过将零阶指数哥伦布方案(ue(v))用于与亮度/色度ALF滤波器系数的绝对值有关的信息/语法元素的解析过程,可以降低操作(或计算)开销和复杂度。
根据本文档的实施方式,通过固定与亮度/色度ALF滤波器系数的绝对值有关的信息的值的范围,可以执行使用ue(v)的编码。
附图说明
图1示意性地示出可以应用于本公开的实施方式的视频/图像编码系统的示例。
图2是示意性地图示可以应用于本公开的实施方式的视频/图像编码装置的配置的图。
图3是示意性地图示可以应用于本公开的实施方式的视频/图像解码装置的配置的图。
图4示例性地示出编码图像/视频的层级结构。
图5示出了ALF滤波器形状的示例。
图6和图7分别示出了根据本公开的实施方式的视频/图像编码方法和相关组件的一般示例。
图8和图9分别示出了根据本公开的实施方式的视频/图像解码方法和相关组件的一般示例。
图10示出了可以应用本公开的实施方式的内容流传输系统的示例。
具体实施方式
在本文件中,视频可能意指随着时间的推移一系列图像的集合。图片通常意指在特定时间区域中表示一个图像的单位,并且切片(slice)/图块(tile)是在编码中构成图片的一部分的单位。切片/图块可以包括一个或更多个编码树单元(CTU)。一个图片可以由一个或更多个切片/图块组成。一个图片可以由一个或更多个图块组组成。一个图块组可以包括一个或更多个图块。
像素或像元(pel)可以意指构成一个图片(或图像)的最小单元。另外,“样本”可以被用作与像素对应的术语。样本通常可以表示像素或像素的值,并且可以仅表示亮度分量的像素/像素值,或仅表示色度分量的像素/像素值。此外,样本可以意指空间域中的像素值,或者在将这种像素值变换到频域的情况下,可以意指频域中的变换系数。
本文档涉及视频/图像编码。例如,本文档中公开的方法/实施方式可能与通用视频编码(VVC)标准(ITU-T Rec.H.266)、VVC之后的下一代视频/图像编码标准或其他视频编码相关标准(例如,高效视频编码(HEVC)标准(ITU-T Rec.H.265)、基本视频编码(EVC)标准和AVS2标准)有关。
本文档提出了视频/图像编码的各种实施方式,并且实施方式可以彼此结合执行,除非另有说明。
本文档能够以各种方式进行修改并且可以具有各种实施方式,并且将在附图中图示并详细描述具体实施方式。然而,这并不旨在将本文件限制于特定实施方式。本说明书中常用的术语被用于描述具体实施方式并且不用于限制本文档的技术精神。单数的表达包括复数表达,除非在上下文中另有明确表达。本说明书中的诸如“包括”或“具有”的术语应理解为指示说明书中描述的特性、数量、步骤、操作、元件、部分或它们的组合的存在,并且因此不应被理解为排除一个或更多个不同特性、数量、步骤、操作、元件、部分或它们的组合的存在或增加的可能性。
另外,本文档中记载的附图的各配置是用于说明作为彼此不同的特征的功能的独立图示,并不表示各配置由彼此不同的硬件或不同的软件实现。例如,可以将两种或更多种配置组合成一种配置,并且也可以将一种配置分成多种配置。在不脱离本文件的主旨的情况下,组合和/或分离配置的实施方式包括在权利要求的范围内。
在下文中,将参考附图更具体地描述本文档的优选实施方式。在下文中,在附图中,相同的附图标记用于相同的元件,并且省略相同元件的重复描述。
单元可以表示图像处理的基本单元。单元可以包括图片的特定区域和与该区域相关的信息中的至少一个。一个单元可以包括一个亮度块和两个色度(例如,cb、cr)块。在一些情况下,可以将单元和诸如块、区域等这样的术语互换地使用。在通常情况下,M×N块可以包括由M列和N行组成的样本(或样本阵列)或变换系数的集合(或阵列)。另选地,样本可以是空间域中的像素值,并且当这种像素值被变换到频域时,它可以意指频域中的变换系数。
在本文件中,术语“/”和“,”被解释为指示“和/或”。例如,表述“A/B”被解释为指示“A和/或B”,并且“A,B”被解释为指示“A和/或B”。此外,“A/B/C”可以意指“A、B和/或C中的至少一个”。此外,“A、B、C”可以意指“A、B和/或C中的至少一个”。
此外,在本文档中,术语“或”应解释为指示“和/或”。例如,表述“A或B”可能意指1)仅A、2)仅B、和/或3)A和B这两者。换言之,本文档中的术语“或”可以意指“附加地或可替选地”。
在本说明书中,“A和B中的至少一个”可以意指“仅A”、“仅B”或“A和B这两者”。此外,在本说明书中,表述“A或B中的至少一个”或“A和/或B中的至少一个”可以解释为与“A和B中的至少一个”相同。
此外,在本说明书中,“A、B和C中的至少一个”可以意指“仅A”、“仅B”、“仅C”或“A、B和C的任意组合”。此外,“A、B或C中的至少一个”或“A、B和/或C中的至少一个”可以意指“A、B和C中的至少一个”。
此外,在本说明书中使用的括号可以意指“例如”。具体地,在表达“预测(帧内预测)”的情况下,可以指示提出“帧内预测”作为“预测”的示例。换言之,本说明书中的术语“预测”不限于“帧内预测”,并且可以指示提出“帧内预测”作为“预测”的示例。此外,即使在表达“预测(即,帧内预测)”的情况下,也可以指示提出“帧内预测”作为“预测”的示例。
在本说明书中,在一个附图中单独解释的技术特征可以单独实现,或者可以同时实现。
图1示意性地图示可以应用本文档的实施方式的视频/图像编码系统的示例。
参考图1,视频/图像编码系统可以包括源设备和接收设备。源设备可以经由数字存储介质或网络以文件或流的形式将编码的视频/图像信息或数据递送到接收设备。
源设备可以包括视频源、编码装置和发射器。接收设备可以包括接收器、解码装置和渲染器。编码装置可以被称为视频/图像编码装置,解码装置可以被称为视频/图像解码装置。发射器可以被包括在编码装置中。接收器可以被包括在解码装置中。渲染器可以包括显示器,并且显示器可以被配置为单独的设备或外部组件。
视频源可以通过捕获、合成或生成视频/图像的处理来获取视频/图像。视频源可以包括视频/图像捕获设备和/或视频/图像生成设备。例如,视频/图像捕获设备可以包括一个或更多个摄像头、包括先前捕获的视频/图像的视频/图像档案等。例如,视频/图像生成设备可以包括计算机、平板计算机和智能电话,并且可以(以电子方式)生成视频/图像。例如,可以通过计算机等生成虚拟视频/图像。在这种情况下,视频/图像捕获处理可以由生成相关数据的处理代替。
编码装置可以对输入视频/图像进行编码。为了压缩和编码效率,编码装置可以执行诸如预测、变换和量化的一系列过程。编码的数据(编码的视频/图像信息)可以以比特流的形式输出。
发射器可以通过数字存储介质或网络将以比特流的形式输出的编码的图像/图像信息或数据以文件或流的形式发送至接收设备的接收器。数字存储介质可以包括诸如USB、SD、CD、DVD、蓝光、HDD、SSD等的各种存储介质。发射器可以包括用于通过预定文件格式生成媒体文件的元件,并且可以包括用于通过广播/通信网络传输的元件。接收器可以接收/提取比特流并且将所接收的比特流发送至解码装置。
解码装置可以通过执行与编码装置的操作相对应的诸如解量化、逆变换和预测的一系列处理对视频/图像进行解码。
渲染器可以渲染解码的视频/图像。渲染的视频/图像可以通过显示器显示。
图2是示意性地解释本文档适用于的视频/图像编码装置的配置的图。在下文中,视频编码装置可以包括图像编码装置。
参考图2,编码装置200包括图像分割器210、预测器220、残差处理器230和熵编码器240、加法器250、滤波器260和存储器270。预测器220可以包括帧间预测器221和帧内预测器222。残差处理器230可以包括变换器232、量化器233、解量化器234和逆变换器235。残差处理器230还可以包括减法器231。加法器250可以被称为重构器或重构块生成器。根据实施方式,图像分割器210、预测器220、残差处理器230、熵编码器240、加法器250和滤波器260可以由至少一个硬件组件(例如,编码器芯片组或处理器)配置。另外,存储器270可以包括解码图片缓冲器(DPB),或者可以由数字存储介质配置。硬件组件还可以包括存储器270作为内部/外部组件。
图像分割器210可以将输入至编码装置200的输入图像(或图片或帧)分割成一个或更多个处理器。例如,可以将处理器称作编码单元(CU)。在这种情况下,可以根据四叉树二叉树三叉树(QTBTTT)结构从编码树单元(CTU)或最大编码单元(LCU)递归地分割编码单元。例如,可以基于四叉树结构、二叉树结构和/或三叉树结构将一个编码单元分割成较深深度的多个编码单元。在这种情况下,例如,可以首先应用四叉树结构,和/或可以稍后应用二叉树结构和/或三叉树结构。另选地,也可以首先应用二叉树结构。可以基于不再分割的最终编码单元来执行根据本公开的编码处理。在这种情况下,基于根据图像特征的编码效率,可以将最大编码单元用作最终编码单元,或者必要时,可以将编码单元递归地分割成较深深度的编码单元,并且具有最佳大小的编码单元可以用作最终编码单元。这里,编码处理可以包括稍后描述的预测、变换和重构的处理。作为另一示例,处理器还可以包括预测单元(PU)或变换单元(TU)。在这种情况下,预测单元和变换单元可以从前述最终编码单元分区或分割。预测单元可以是样本预测的单元,并且变换单元可以是用于推导变换系数的单元和/或用于从变换系数推导残差信号的单元。
在一些情况下,单元可以与诸如块或区域的术语互换使用。在一般情况下,M×N块可以表示由M列和N行组成的样本或变换系数的集合。样本通常可以表示像素或像素值,可以仅表示亮度分量的像素/像素值或者仅表示色度分量的像素/像素值。样本可以用作与配置一个图片(或图像)的像素或像元相对应的术语。
减法器231可以通过从输入图像信号(原始块、原始样本或原始样本阵列)中减去从预测器220输出的预测信号(预测块、预测样本或预测样本阵列)来生成残差信号(残差块、残差样本或残差样本阵列),并且可以将生成的残差信号发送到变换器232。预测器220可以对处理目标块(以下称为“当前块”)执行预测,并且可以生成包括用于当前块的预测样本的预测块。预测器220可以确定以当前块或CU为单位应用帧内预测还是帧间预测。预测器可以生成和向熵编码器240传递关于预测的各种信息,诸如稍后将在各预测模式的解释中描述的预测模式信息。关于预测的信息可以由熵编码器240编码,并且能够以比特流的形式输出。
帧内预测器222可以通过参考当前图片中的样本来预测当前块。根据预测模式,所参考的样本可以位于当前块附近或者可以隔开。在帧内预测中,预测模式可以包括多个非定向模式和多个定向模式。例如,非定向模式可以包括DC模式和平面模式。例如,根据预测方向的详细程度,定向模式可以包括33个定向预测模式或65个定向预测模式。然而,这仅是示例,可以根据设置使用更多或更少的定向预测模式。帧内预测器222可以通过使用应用于邻近块的预测模式来确定应用于当前块的预测模式。
帧间预测器221可以基于参考图片上运动矢量所指定的参考块(参考样本阵列)来推导当前块的预测块。这里,为了减少在帧间预测模式下发送的运动信息量,可以基于邻近块与当前块之间的运动信息的相关性以块、子块或样本为单位预测运动信息。运动信息可以包括运动矢量和参考图片索引。运动信息还可以包括帧间预测方向(L0预测、L1预测、Bi预测等)信息。在帧间预测的情况下,邻近块可以包括存在于当前图片中的空间邻近块和存在于参考图片中的时间邻近块。包括参考块的参考图片和包括时间邻近块的参考图片可以相同或不同。时间邻近块可以被称为并置参考块、并置CU(colCU)等,并且包括时间邻近块的参考图片可以被称为并置图片(colPic)。例如,帧间预测器221可以基于邻近块来配置运动信息候选列表并且生成指示哪一候选用于推导当前块的运动矢量和/或参考图片索引的信息。可以基于各种预测模式执行帧间预测。例如,在跳过模式和合并模式的情况下,帧间预测器221可以使用邻近块的运动信息作为当前块的运动信息。在跳过模式下,与合并模式不同,可以不发送残差信号。运动矢量预测(MVP)模式可以通过邻近块的运动矢量可以用作运动矢量预测子并且可以通过用信号通知运动矢量差来指示当前块的运动矢量。
预测器220可以基于以下描述的各种预测方法生成预测信号。例如,预测器不仅可以应用帧内预测或帧间预测来预测一个块,而且可以同时应用帧内预测和帧间预测。这可以称为组合的帧间和帧内预测(CIIP)。此外,预测器可以执行帧内块复制(IBC)用于针对块的预测。帧内块复制可以被用于游戏等的内容图像/视频编码,例如,屏幕内容编码(SCC)。IBC基本上在当前图片中执行预测,但是可以在当前图片中推导参考块的点上与帧间预测类似地执行。也就是说,IBC可以使用本文档中描述的帧间预测技术中的至少一种。
通过帧间预测器221和/或帧内预测器222生成的预测信号可以被用于生成重构信号或生成残差信号。变换器232可以通过将变换技术应用于残差信号来生成变换系数。例如,变换技术可以包括离散余弦变换(DCT)、离散正弦变换(DST)、基于图形的变换(GBT)或条件非线性变换(CNT)中的至少一个。这里,GBT意指当像素之间的关系信息由图表示时从图获得的变换。CNT意指基于使用所有先前重构的像素生成的预测信号而生成的变换。此外,变换处理可以应用于具有相同大小的正方形像素块,或者可以应用于具有可变大小而不是正方形的块。
量化器233可以对变换系数进行量化并且将它们发送到熵编码器240并且熵编码器240可以对量化的信号(关于量化的变换系数的信息)进行编码并且输出比特流。关于量化的变换系数的信息可以被称为残差信息。量化器233可以基于系数扫描顺序将块型量化的变换系数重新排列成一维向量形式,并且基于一维向量形式的量化的变换系数生成关于量化的变换系数的信息。熵编码器240可以执行各种编码方法,例如,指数哥伦布、上下文自适应可变长度编码(CAVLC)、上下文自适应二进制算术编码(CABAC)等。熵编码器240可以一起或单独地编码除了量化的变换系数(例如,语法元素的值等)之外的用于视频/图像重构所需的信息。编码信息(例如,编码视频/图像信息)能够以比特流的形式以NAL(网络抽象层)为单位被发送或存储。视频/图像信息可以进一步包括关于各种参数集的信息,诸如自适应参数集(APS)、图片参数集(PPS)、序列参数集(SPS)或视频参数集(VPS)。此外,视频/图像信息可以进一步包括一般约束信息。在本文档中,将在本文档中稍后描述的用信号发送/发送的信息和/或语法元素可以通过上述编码过程被编码并且可以被包括在比特流中。比特流可以通过网络被发送或者可以被存储在数字存储介质中。网络可以包括广播网络和/或通信网络,并且数字存储介质可以包括诸如USB、SD、CD、DVD、蓝光、HDD、SSD等的各种存储介质。发送从熵编码器240输出的信号的发射器(未示出)和/或存储该信号的存储单元(未示出)可以作为编码装置200的内部/外部元件被包括,并且可替选地,发射器可以被包括在熵编码器240中。
从量化器233输出的量化的变换系数可以被用于生成预测信号。例如,可以通过解量化器234和逆变换器235对量化的变换系数应用解量化和逆变换来重构残差信号(残差块或残差样本)。加法器250将重构的残差信号添加到从预测器220输出的预测信号以生成重构信号(重构图片、重构块、重构样本或重构样本阵列)。如果要处理的块没有残差,诸如应用跳过模式的情况,则可以将预测块用作重构块。所生成的重构信号可以被用于对当前图片中要处理的下一个块的帧内预测,并且可以通过如下所述的滤波被用于对下一图片进行帧间预测。
同时,可以在图片编码和/或重构期间应用亮度映射与色度缩放(LMCS)。
滤波器260可以通过对重构信号应用滤波来改进主观/客观图像质量。例如,滤波器260可以通过对重构图片应用各种滤波方法来生成修改的重构图片,并且将修改的重构图片存储在存储器270(具体地,存储器270的DPB)中。各种滤波方法可以包括:例如去块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。滤波器260可以生成与滤波有关的各种信息,并将生成的信息发送到熵编码器240,如稍后在每种滤波方法的描述中所描述的。与滤波有关的信息可以由熵编码器240编码并且以比特流的形式输出。
发送到存储器270的修改的重构图片可以用作帧间预测器221中的参考图片。当通过编码装置应用帧间预测时,编码装置200和解码装置300之间的预测失配可以被避免,并且可以改进编码效率。
存储器270的DPB可以存储修改的重构图片以用作帧间预测器221中的参考图片。存储器270可以存储从其推导(或编码)当前图片中的运动信息的块的运动信息和/或已经重构的图片中的块的运动信息。存储的运动信息可以被发送到帧间预测器221并用作空间邻近块的运动信息或时间邻近块的运动信息。存储器270可以存储当前图片中重构块的重构样本并且可以将重构样本传递到帧内预测器222。
图3是示意性地解释本文档适用于的视频/图像解码装置的配置的图。
参考图3,解码装置300可以包括并配置有熵解码器310、残差处理器320、预测器330、加法器340、滤波器350和存储器360。预测器330可以包括帧间预测器331和帧内预测器332。残差处理器320可以包括解量化器321和逆变换器322。根据实施方式,熵解码器310、残差处理器320、预测器330、加法器340和滤波器350可以由硬件组件(例如,解码器芯片组或处理器)配置。另外,存储器360可以包括解码图片缓冲器(DPB)或者可以由数字存储介质配置。硬件组件还可以包括存储器360作为内部/外部组件。
当输入包括视频/图像信息的比特流时,解码装置300可以响应于在图2的编码装置中处理视频/图像信息的处理而重构图像。例如,解码装置300可以基于从比特流获得的块分区相关信息来推导单元/块。解码装置300可以使用在编码装置中应用的处理器来执行解码。因此,解码的处理器例如可以是编码单元,并且编码单元可以从编码树单元或最大的编码单元按照四叉树结构、二叉树结构和/或三叉树结构进行分区。可以从编码单元推导一个或更多个变换单元。另外,通过解码装置300解码和输出的重构图像信号可以通过再现装置被再现。
解码装置300可以接收以比特流的形式从图2的编码装置输出的信号,并且可以通过熵解码器310对接收到的信号进行解码。例如,熵解码器310可以解析比特流以推导图像重构(或图片重构)所需的信息(例如,视频/图像信息)。视频/图像信息可以进一步包括关于各种参数集的信息,诸如自适应参数集(APS)、图片参数集(PPS)、序列参数集(SPS)或视频参数集(VPS)。此外,视频/图像信息可以进一步包括一般约束信息。解码装置可以进一步基于关于参数集的信息和/或通用约束信息对图片进行解码。可以通过解码过程对本文档中稍后描述的用信号发送/接收的信息和/或语法元素进行解码并从比特流中获得。例如,熵解码器310可以基于诸如指数哥伦布编码(exponential Golomb coding)、CAVLC或CABAC的编码方法以及图像重构所需的语法元素的输出值和用于残差的变换系数的量化值来解码比特流中的信息。更具体地,CABAC熵解码方法可以接收与比特流中的每个语法元素相对应的bin,使用解码目标语法元素信息、邻近和解码目标块的解码信息或前一阶段中解码的符号/bin的信息来确定上下文模型,并且根据确定的上下文模型通过预测bin出现的概率对bin执行算术解码,并且生成与每个语法元素的值相对应的符号。在这种情况下,CABAC熵解码方法可以在确定上下文模型之后通过将解码的符号/bin的信息用于下一个符号/bin的上下文模型来更新上下文模型。由熵解码器310解码的信息之中的关于预测的信息可以提供给预测器330,并且关于已经在熵解码器310中对其执行熵解码的残差的信息,即,量化的变换系数和相关参数信息可以被输入到解量化器321。此外,由熵解码器310解码的信息之中的关于滤波的信息可以被提供给滤波器350。同时,用于接收从编码装置输出的信号的接收器(未示出)可以进一步被配置为解码装置300的内部/外部元件,或者接收器可以是熵解码器310的组件。同时,根据本文的解码装置可以被称为视频/图像/图片解码装置,并且解码装置可以被分类为信息解码器(视频/图像/图片信息解码器)和样本解码器(视频/图像/图片样本解码器)。信息解码器可以包括熵解码器310,并且样本解码器可以包括解量化器321、逆变换器322、预测器330、加法器340、滤波器350和存储器360中的至少一个。
解量化器321可以将量化的变换系数解量化并输出变换系数。解量化器321可以按二维块的形式重新排列量化的变换系数。在这种情况下,可以基于在编码装置中执行的系数扫描次序来执行重新排列。解量化器321可以通过使用量化参数(例如,量化步长信息)对量化的变换系数执行解量化并且获得变换系数。
逆变换器322对变换系数进行逆变换,以获得残差信号(残差块、残差样本阵列)。
预测器330可以对当前块执行预测并生成包括针对当前块的预测样本的预测块。预测器可以基于从熵解码器310输出的关于预测的信息来确定对当前块应用帧内预测还是帧间预测并且可以确定特定帧内/帧间预测模式。
预测器可以基于以下描述的各种预测方法来生成预测信号。例如,预测器不仅可以应用帧内预测或帧间预测来预测一个块,还可以同时应用帧内预测和帧间预测。这可以称为组合的帧间和帧内预测(CIIP)。此外,预测器可以执行帧内块复制(IBC)用于针对块的预测。帧内块复制可以被用于游戏等的内容图像/视频编码,例如,屏幕内容编码(SCC)。IBC基本上在当前图片中执行预测,但是可以类似于帧间预测被执行,因为在当前图片中推导参考块。也就是说,IBC可以使用本文档中描述的帧间预测技术中的至少一个。
帧内预测器332可以通过参考当前图片中的样本来预测当前块。所参考的样本可以位于当前块的附近或者可以根据预测模式而位于分开的位置。在帧内预测中,预测模式可以包括多个非定向模式和多个定向模式。帧内预测器332可以通过使用应用于邻近块的预测模式来确定要应用于当前块的预测模式。
帧间预测器331可以基于参考图片上的由运动矢量所指定的参考块(参考样本阵列)推导用于当前块的预测块。在这种情况下,为了减少在帧间预测模式下发送的运动信息量,可以基于邻近块和当前块之间的运动信息的相关性以块、子块或样本为单位预测运动信息。运动信息可以包括运动矢量和参考图片索引。运动信息可以进一步包括帧间预测方向(L0预测、L1预测、Bi预测等)信息。在帧间预测的情况下,邻近块可以包括存在于当前图片中的空间邻近块和存在于参考图片中的时间邻近块。例如,帧间预测器331可以基于邻近块来构建运动信息候选列表并且基于接收到的候选选择信息来推导当前块的运动矢量和/或参考图片索引。可以基于各种预测模式来执行帧间预测,并且关于预测的信息可以包括指示用于当前块的帧间预测的模式的信息。
加法器340可以通过将获得的残差信号与从预测器(330)输出的预测信号(预测块、预测样本阵列)相加来生成重构信号(重构图片、重构块、重构样本阵列)。如果要处理的块没有残差,诸如当应用跳过模式时,预测块可以用作重构块。
加法器340可以被称为重构器或重构块生成器。生成的重构信号可以被用于当前图片中的下一个要处理的块的帧内预测,可以通过如下所述的滤波输出,或者可以用于下一个图片的帧间预测。
同时,可以在图片解码过程中应用亮度映射与色度缩放(LMCS)。
滤波器350可以通过对重构信号应用滤波来改进主观/客观图像质量。例如,滤波器350可以通过将各种滤波方法应用于重构图片来生成修改的重构图片,并将修改的重构图片存储在存储器360(具体地,存储器360的DPB)中。各种滤波方法可以包括:例如去块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。
存储在存储器360的DPB中的(修改的)重构图片可以用作帧间预测器331中的参考图片。存储器360可以存储从其推导(或者解码)当前图片中的运动信息的块的运动信息和/或已经重构的图片中的块的运动信息。存储的运动信息可以被发送到帧间预测器331,使得被用作空间邻近块的运动信息或时间邻近块的运动信息。存储器360可以存储当前图片中重构块的重构样本并将重构样本传递到帧内预测器332。
在本说明书中,解码装置300的预测器330、解量化器321、逆变换器322和滤波器350中解释的实施方式能够分别以相同的方式应用于或对应于编码装置200的预测器220,解量化器234、逆变换器235和滤波器260。
此外,如上所述,在视频编码中,执行预测以提高压缩效率。通过这种操作,可以生成包括针对作为要编码的块的当前块(即,编码目标块)的预测样本的预测块。这里,预测块包括空间域(或像素域)中的预测样本。预测块从编码装置和解码装置中相同地推导,并且编码装置对关于原始块与预测块之间的残差(而非原始块的原始样本值本身)的信息(残差信息)进行解码。通过用信号向装置通知可以提高图像编码效率。解码装置可以基于残差信息来推导包括残差样本的残差块,通过将残差块和预测块相加来生成包括重构样本的重构块,并且生成包括重构块的重构图片。
残差信息可以通过变换处理和量化处理来生成。例如,编码装置可以推导原始块与预测块之间的残差块,对包括在残差块中的残差样本(残差样本阵列)执行变换处理以推导变换系数,然后通过对变换系数执行量化处理来推导量化的变换系数,以将残差相关信息(经由比特流)用信号通知给解码装置。这里,残差信息可以包括量化的变换系数的值信息、位置信息、变换技术、变换核心和量化参数等。解码装置可以基于残差信息来执行解量化/逆变换处理并且推导残差样本(或残差块)。解码装置可以基于预测块和残差块来生成重构图片。另外,为了以后的图片的帧间预测参考,编码装置还可以对量化的变换系数进行解量化/逆变换来推导残差块,并且基于此生成重构图片。
在本文档中,可以省略量化/解量化和/或变换/逆变换中的至少一个。当省略量化/解量化时,量化的变换系数可以被称为变换系数。当省略变换/逆变换时,变换系数可以被称为系数或残差系数,或者为了表达的统一,仍可以被称为变换系数。
在本文档中,量化的变换系数和变换系数可以分别被称为变换系数和缩放变换系数。在这种情况下,残差信息可以包括关于变换系数的信息,并且关于变换系数的信息可以通过残差编码语法用信号通知。可以基于残差信息(或关于变换系数的信息)推导变换系数,并且可以通过对变换系数进行逆变换(缩放)来推导缩放变换系数。可以基于缩放变换系数的逆变换(变换)来推导残差样本。这也可以在本文档的其它部分中应用/表达。
编码装置/解码装置的预测器可以通过以块为单位执行帧间预测来推导预测样本。帧间预测可以是以依赖于除当前图片之外的图片的数据元素(例如,样本值或运动信息)的方式推导的预测。当将帧间预测应用于当前块时,可以基于由参考图片索引指示的参考图片上的运动矢量指定的参考块(参考样本阵列)来推导针对当前块的预测块(预测样本阵列)。这里,为了减少在帧间预测模式下发送的运动信息量,可以基于邻近块与当前块之间的运动信息的相关性以块、子块或样本为单位预测当前块的运动信息。运动信息可以包括运动矢量和参考图片索引。运动信息还可以包括帧间预测类型(L0预测、L1预测、Bi预测等)信息。在帧间预测的情况下,邻近块可以包括存在于当前图片中的空间邻近块和存在于参考图片中的时间邻近块。包括参考块的参考图片和包括时间邻近块的参考图片可以相同或不同。时间邻近块可以被称为并置参考块、并置CU(colCU)等,并且包括时间邻近块的参考图片可以被称为并置图片(colPic)。例如,可以基于当前块的邻近块来配置运动信息候选列表,并且可以用信号通知指示哪一候选被选择(使用)的标志或索引信息,以推导当前块的运动矢量和/或参考图片索引。可以基于各种预测模式执行帧间预测。例如,在跳过模式和合并模式的情况下,当前块的运动信息可以与邻近块的运动信息相同。在跳过模式下,与合并模式不同,可以不发送残差信号。在运动矢量预测(MVP)模式的情况下,所选邻近块的运动矢量可以用作运动矢量预测子,并且可以用信号通知运动矢量差。在这种情况下,可以使用运动矢量预测子和运动矢量差的和来推导当前块的运动矢量。
根据帧间预测类型(L0预测、L1预测、Bi预测等),运动信息可以包括L0运动信息和/或L1运动信息。L0方向的运动矢量可以被称为L0运动矢量或MVL0,并且L1方向的运动矢量可以被称为L1运动矢量或MVL1。基于L0运动矢量的预测可以被称为L0预测,基于L1运动矢量的预测可以被称为L1预测,并且基于L0运动矢量和L1运动矢量二者的预测可以被称为双向预测。这里,L0运动矢量可以指示与参考图片列表L0(L0)相关联的运动矢量,并且L1运动矢量可以指示与参考图片列表
L1(L1)相关联的运动矢量。参考图片列表L0可以包括在输出次序上比当前图片更
早的图片作为参考图片,并且参考图片列表L1可以包括在输出次序上比当前图片更晚的图片。前面的图片可以被称为前向(参考)图片,并且后续图片可以被称为反向(参考)图片。参考图片列表L0还可以包括在输出次序上比当前图片更晚的图片作为参考图片。在这种情况下,可以首先在参考图片列表L0中对先前图片进行索引,并且可以稍后对后续图片进行索引。参考图片列表L1还可以包括在输出次序上比当前图片更早的图片作为参考图片。在这种情况下,可以首先在参考图片列表1中对后续图片进行索引,并且先前的图片可以稍后被索引。输出次序可以与图片次序计数(POC)次序相对应。
图4示例性地示出编码图像/视频的层级结构。
参考图4,编码图像/视频被划分成处理图像/视频及它本身的解码过程的视频编码层(VCL)、发送并存储编码信息的子系统、以及负责网络适应功能并存在于VCL与子系统之间的NAL(网络抽象层)。
在VCL中,生成包括压缩图像数据(切片数据)的VCL数据,或者可以生成包括图片参数集(PSP)、序列参数集(SPS)和视频参数集(VPS)的参数集、或图像解码过程附加地需要的补充增强信息(SEI)消息。
在NAL中,可以通过向在VCL中生成的原始字节序列有效载荷(RBSP)添加报头信息(NAL单元报头)来生成NAL单元。在这种情况下,RBSP是指在VCL中生成的切片数据、参数集、SEI消息等。NAL单元报头可以包括根据相应NAL单元中包括的RBSP数据指定的NAL单元类型信息。
如图所示,可以根据在VCL中生成的RBSP来将NAL单元划分成VCL NAL单元和非VCLNAL单元。VCL NAL单元可以意指包括关于图像(切片数据)的信息的NAL单元,并且非VCLNAL单元可以意指包括对图像进行解码所需要的信息(参数集或SEI消息)的NAL单元。
可以通过根据子系统的数据标准附加报头信息来通过网络发送前述VCL NAL单元和非VCL NAL单元。例如,NAL单元可以被变换成诸如H.266/VVC文件格式、实时传输协议(RTP)、传输流(TS)等的预定标准的数据格式,并且通过各种网络来发送。
如上所述,可以根据相应NAL单元中包括的RBSP数据结构利用NAL单元类型来指定NAL单元,并且可以在NAL单元报头中存储和用信号通知关于NAL单元类型的信息。
例如,可以根据NAL单元是否包括关于图像的信息(切片数据)来将NAL单元分类成VCL NAL单元类型和非VCL NAL单元类型。可以根据VCL NAL单元中包括的图片的性质和类型对VCL NAL单元类型进行分类,并且可以根据参数集的类型对非VCL NAL单元类型进行分类。
以下是根据非VCL NAL单元类型中包括的参数集的类型所指定的NAL单元类型的示例。
-APS(自适应参数集)NAL单元:用于包括APS的NAL单元的类型
-DPS(解码参数集)NAL单元:用于包括DPS的NAL单元的类型
-VPS(视频参数集)NAL单元:用于包括VPS的NAL单元的类型
-SPS(序列参数集)NAL单元:用于包括SPS的NAL单元的类型
-PPS(图片参数集)NAL单元:用于包括PPS的NAL单元的类型
-PH(图片报头)NAL单元:用于包括PH的NAL单元的类型
前述NAL单元类型可以具有用于NAL单元类型的语法信息,并且可以在NAL单元报头中存储和用信号通知语法信息。例如,语法信息可以是nal_unit_type,并且NAL单元类型可以由nal_unit_type值指定。
同时,如上所述,一个图片可以包括多个切片,并且一个切片可以包括切片报头和切片数据。在这种情况下,可以向一个图片中的多个切片(切片报头和切片数据集)进一步添加一个图片报头。图片报头(图片报头语法)可以包括共同地适用于图片的信息/参数。在本文档中,切片可以与图块组混用或替换。另外,在本文档中,切片报头可以与图块组报头混用或替换。
切片报头(切片报头语法、切片报头信息)可以包括可以被共同地应用于切片的信息/参数。APS(APS语法)或PPS(PPS语法)可以包括可以被共同地应用于一个或更多个切片或图片的信息/参数。SPS(SPS语法)可以包括可以被共同地应用于一个或更多个序列的信息/参数。VPS(VPS语法)可以包括可以被共同地应用于多个层的信息/参数。DPS(DPS语法)可以包括可以被共同地应用于整个视频的信息/参数。DPS可以包括与编码视频序列(CVS)的级联有关的信息/参数。本文档中的高级语法(HLS)可以包括APS语法、PPS语法、SPS语法、VPS语法、DPS语法、图片报头语法和切片报头语法中的至少一种。
在本文档中,从编码装置编码并且以比特流的形式用信号通知给解码装置的图像/图像信息不仅包括图片中的分区相关信息、帧内/帧间预测信息、残差信息、环路内滤波信息等,而且还包括切片报头中包括的信息、图片报头中包括的信息、APS中包括的信息、PPS中包括的信息、SPS中包括的信息、VPS中包括的信息和/或DPS中包括的信息。另外,图像/视频信息还可以包括NAL单元报头的信息。
下表示出了用于本公开的编码相关信息的解析过程的编码描述符。编码描述符可用于包括在本公开的语法中的语法元素的解析过程。
[表1]
Figure BDA0003845120630000171
下表示出了基于零阶、一阶、二阶和三阶指数哥伦布编码对x进行编码。例如,x可以是十进制数,而编码后的x可以是二进制数。k表示指数哥伦布编码的阶数(其中k=0、1、2、3)。根据上述编码描述符ue(v),可以使用零阶指数哥伦布编码(其中k=0)进行语法元素解析过程,对于基于编码描述符ue(v)的语法元素的解析过程可参考表2(其中k=0)。
[表2]
Figure BDA0003845120630000181
Figure BDA0003845120630000191
Figure BDA0003845120630000201
Figure BDA0003845120630000211
同时,为了补偿由于在诸如量化的压缩编码过程中发生的误差而导致的原始图像与重构图像之间的差异,可以如上所述对重构样本或重构图片执行环路内滤波过程。如上所述,环路内滤波可以由编码装置的滤波器和解码装置的滤波器执行,并且可以应用去块滤波器、SAO和/或自适应环路滤波器(ALF)。例如,可以在去块滤波过程和/或SAO过程完成之后执行ALF过程。然而,即使在这种情况下,也可以跳过去块滤波过程和/或SAO过程。
在下文中,将详细描述图片重构和滤波。在图像/视频编码中,可以基于针对每个块单元的帧内预测/帧间预测来生成重构块,并且可以生成包括重构块的重构图片。在当前图片/切片是I图片/切片时,可以仅基于帧内预测来重构当前图片/切片中包括的块。同时,在当前图片/切片是P或B图片/切片时,可以基于帧内预测或帧间预测来重构当前图片/切片中包括的块。在这种情况下,可以对当前图片/切片中的块的一部分应用帧内预测,并且可以对剩余块应用帧间预测。
帧内预测可以表示基于当前块所属于的图片(在下文中,称为当前图片)内的参考样本来生成当前块的预测样本的预测。在对当前块应用帧内预测时,可以推导要用于当前块的帧内预测的邻近参考样本。当前块的邻近参考样本可以包括与具有大小为nW×nH的当前块的左侧边界相邻的样本和邻近左下侧的总共2×nH个样本、与当前块的上侧边界相邻的样本和邻近右上侧的总共2×nW个样本、以及邻近当前块的左上侧的一个样本。可替选地,当前块的邻近参考样本还可以包括多个多列的上侧邻近样本和多个多行的左侧邻近样本。可替选地,当前块的邻近参考样本还可以包括与具有大小为nW×nH的当前块的右侧边界相邻的总共nH个样本、与当前块的下侧边界相邻的总共nW个样本、以及邻近当前块的右下侧的一个样本。
然而,在当前块的邻近参考样本当中,邻近参考样本的一部分可能仍未被解码或可用。在这种情况下,解码器可以通过用可用样本取代不可用的样本来配置要用于预测的邻近参考样本。可替选地,可以通过可用样本的插值来配置要用于预测的邻近参考样本。
当推导邻近参考样本时,可以基于当前块的邻近参考样本的平均或插值来推导预测样本,并且(ii)可以基于当前块的邻近参考样本当中的相对于沿着预测样本的特定(预测)方向存在的参考样本来推导预测样本。可以将(i)的情况称作非定向模式或非角度模式,并且可以将(ii)的情况称作定向模式或角度模式。另外,基于当前块的邻近参考样本当中的预测样本,可以通过第二邻近样本和位于与当前块的帧内预测模式的预测方向相反的方向中的第一邻近样本之间的插值来生成预测样本。可以将上述情况称为线性插值帧内预测(LIP)。另外,可以使用线性模型基于亮度样本来生成色度预测样本。可以将这种情况称作LM模式。另外,可以基于滤波的邻近参考样本来推导当前块的临时预测样本,并且可以对现有的邻近参考样本当中根据帧内预测模式推导的至少一个参考样本(即,未滤波的邻近参考样本)和临时预测样本进行加权求和以推导当前块的预测样本。可以将上述情况称为位置相关帧内预测(PDPC)。另外,可以选择当前块的邻近多参考样本线之中具有最高预测准确度的参考样本线,并且通过使用对应线上位于预测方向中的参考样本来推导预测样本。并且,此时可以将本文使用的参考样本线指示(用信号通知)给解码装置,从而执行帧内预测编码。可以将上述情况称为多参考线(MRL)帧内预测或基于MRL的帧内预测。另外,可以通过将当前块划分成垂直或水平子分区,并且然后基于相同的帧内预测模式来执行帧内预测,并且可以在子分区单元中推导和使用邻近参考样本。也就是说,在这种情况下,用于当前块的帧内预测模式被同等地应用于子分区,并且可以在一些情况下通过推导和使用子分区单元中的邻近参考样本来改进帧内预测性能。可以将这样的预测方法称作帧内子分区(ISP)或基于ISP的帧内预测。可以将前述帧内预测方法与在部分1.2中描述的帧内预测模式分开地称作帧内预测类型。能够以诸如帧内预测方案或附加帧内预测模式的各种其他术语来称呼帧内预测类型。例如,帧内预测类型(或附加帧内预测模式等)可以包括前述LIP、PDPC、MRL和ISP中的至少一种。可以将除了诸如LIP、PDPC、MRL或ISP等的特定帧内预测类型之外的一般帧内预测方法称作正常帧内预测类型。当无法应用特定帧内预测类型时,可以通常应用正常帧内预测类型,并且可以基于上述帧内预测模式执行预测。同时,可以根据需要对所推导的预测样本执行后滤波。
具体地,帧内预测过程可以包括帧内预测模式/类型确定步骤、邻近参考样本推导步骤和基于帧内预测模式/类型的预测样本推导步骤。另外,可以根据需要对所推导的预测样本执行后滤波步骤。
可以通过环路内滤波过程生成修改的重构图片,并且可以将修改的重构图片作为解码图片从解码装置输出。并且,修改的重构图片也可以存储在编码装置/解码装置的解码图片缓冲器或存储器中,以便稍后在对图片进行编码/解码时在帧间预测过程期间用作参考图片。如上所述,环路内滤波过程可以包括去块滤波过程、样本自适应偏移(SAO)过程和/或自适应环路滤波(ALF)过程等。在这种情况下,在去块滤波过程、样本自适应偏移(SAO)过程、自适应环路滤波(ALF)过程和双边滤波过程当中,可以顺序应用一个过程或一些过程,或者可以顺序应用所有过程。例如,在对重构图片应用去块滤波过程之后,可以执行SAO过程。另选地,例如,在将去块滤波过程应用于重构图片之后,可以执行ALF过程。这可以在编码装置中同样地执行。
去块滤波是去除在重构图片内的块之间的边界处发生的任何失真的滤波方案。例如,去块滤波过程可以从重构图片推导目标边界,确定目标边界的边界强度(bS),并基于bS对目标边界执行去块滤波。可以基于与目标边界相邻的两个块的预测模式、运动矢量差、参考图片是否相同、是否存在非零有效系数(non-zero significant coefficient)等来确定bS。
SAO是补偿重构图片与原始图片之间的偏移差的方法。并且,在本文中,例如,可以基于诸如带偏移(Band Offset)、边缘偏移(Edge Offset)等的各种类型来应用SAO。根据SAO,可以按照各个SAO类型将样本按不同类别归类,并且可以基于类别对各个样本添加偏移值。SAO的滤波信息可以包括关于应用或不应用SAO的信息、SAO类型信息、SAO偏移值信息等。也可以在对重构图片应用去块滤波之后,将SAO应用于该重构图片。
自适应环路滤波(ALF)是根据用于重构图片的滤波器形状基于滤波器系数以样本为单位执行的滤波方案。编码装置可以通过重构图片与原始图片之间的比较来确定应用或不应用ALF、ALF形状和/或ALF滤波系数等,然后,编码装置可以将所确定的结果用信号通知给解码装置。也就是说,用于ALF的滤波信息可以包括ALF滤波器形状信息、ALF滤波系数信息等。可以在应用去块滤波之后,将ALF应用于重构图片。
图5示出了ALF滤波器形状的示例。
图5的(a)示出7x7菱形滤波器的形状,图5的(b)示出5x5菱形滤波器的形状。图5所示的滤波器形状内的Cn表示滤波器系数。当Cn中的n的值相同时,这指示可以分配相同的滤波器系数。在本公开中,可以将根据ALF的滤波器形状来分配滤波器系数的位置和/或单元称为滤波器抽头(filter tab)。在这种情况下,可以将一个滤波器系数分配给各个滤波器抽头,并且滤波器抽头的排列形式可以对应于滤波器形状。可以将位于滤波器形状的中心处的滤波器抽头称为中心滤波器抽头。可以将相同的滤波器系数分配给相等n值的存在于基于中心滤波器抽头而彼此对称的位置中的两个滤波器抽头。例如,在7x7菱形滤波器形状的情况下,由于包括25个滤波器抽头,并且由于以中心对称结构分配滤波器系数C0至C11,所以可以使用仅7个滤波器系数来将滤波器系数分配给13个滤波器抽头。例如,为了减少与用信号通知的滤波器系数有关的信息的数据量,在7x7菱形滤波器形状的13个滤波器系数当中,可以(显式地)用信号通知12个滤波器系数,并且可以(隐式地)推导一个滤波器系数。另外,例如,在5x5菱形滤波器形状的7个滤波器系数当中,可以(显式地)用信号通知6个系数,并且可以(隐式地)推导一个滤波器系数。
在一个示例中,在应用滤波器之前,可以基于为对应块计算的梯度值将几何变换应用于滤波器系数和对应的限幅值(clipping value)。几何变换可以包括旋转、对角翻转或垂直翻转。
以下等式示出了具有针对各个方向(对角线、垂直、旋转)的变换的滤波器系数和限幅值。在下面所示的等式中,K是滤波器大小,k和l表示系数坐标。例如,k可以大于或等于0,并且l可以小于或等于K-1。位置(0,0)可以是左上角,位置(K-1,K-1)可以是右下角。基于为对应块计算的梯度值,可以将变换应用于滤波器系数f(k,l)和限幅值c(k,l)。
[等式1]
对角线:f_D(k,l)=f(l,k),c_D(k,l)=c(l,k)
[等式2]
垂直翻转:f_V(k,l)=f(k,K-l-1),c_V(k,l)=c(k,K-l-1)
[等式3]
旋转:f_R(k,l)=f(K-l-1,k),c_R(k,l)=c(K-l-1,k)
下表示出了四个方向的梯度值(gh、gv、gd1、gd2)与应用于当前块的变换之间的示例性关系。
[表3]
梯度值 变换
g<sub>d2</sub>&lt;g<sub>d1</sub>且g<sub>h</sub>&lt;g<sub>v</sub> 无变换
g<sub>d2</sub>&lt;g<sub>d1</sub>且g<sub>v</sub>&lt;g<sub>h</sub> 对角线
g<sub>d1</sub>&lt;g<sub>d2</sub>且g<sub>h</sub>&lt;g<sub>v</sub> 垂直翻转
g<sub>d1</sub>&lt;g<sub>d2</sub>且g<sub>v</sub>&lt;g<sub>h</sub> 旋转
为了减少比特开销,需要组合不同类别的亮度分量的滤波器系数。可以在APS和/或切片报头中用信号通知ALF滤波器参数。例如,在一个APS中,可以用信号通知最多25组的亮度滤波器系数和限幅值索引,并且可以用信号通知最多8组的色度滤波器系数和限幅值索引。在切片报头中,可以用信号通知用于当前切片的APS的索引。
从APS解码的限幅值索引可以与限幅值的亮度表和限幅值的色度表一起用于确定限幅值。这样的限幅值可以基于内部比特深度。
在一个示例中,可以基于以下等式推导限幅值的亮度表和限幅值的色度表。在下面所示的等式中,B表示内部比特深度,N可以是限幅值的数量。例如,N可以等于4。
[等式4]
AlfClipL={round(2^(B(N-n+1)/N))其中,n∈[1..N]}
[等式5]
AlfClipC={round(2^((B-8)+8((N-n))/(N-1)))其中,n∈[1..N]}
作为示例,为了指示在当前切片中使用的亮度滤波器集,切片报头可以用信号通知最多7个APS索引。滤波过程可以进一步以CTB级别控制。可以始终用信号通知指示是否将ALF应用于亮度CTB的标志。亮度CTB可以从16个固定滤波器集和APS的滤波器集中选择滤波器集。为了指示正在应用哪个滤波器集,可以用信号通知用于CTB的滤波器集索引。16个固定滤波器集可以在编码器和解码器两者中进行预定义和硬编码。
在色度配置元素的情况下,可以在切片报头中用信号通知APS索引,以便指示用于当前切片的色度滤波器集。在CTB级别下,当两个或更多个色度滤波器集存在于APS中时,可以针对各个色度CTB用信号通知滤波器索引。
为了进一步限制(或约束)乘法复杂度,应用比特流一致性(bitstreamconformance),从而允许非中心位置的系数值在0~28的范围内,并且允许剩余位置的系数值在-27到27-1的范围内。中心位置系数未在比特流中用信号通知,并且可以推断为等于128。
当ALF可用于当前CTB时,CU内的各个R(i,j)可以被滤波,从而使得能够计算R’(i,j)。例如,可以基于以下等式计算R’(i,j)。f(k,l)可以是滤波器系数,并且K(x,y)可以是限幅函数。另外,c(k,l)可以是解码的限幅参数。k和l可以在-L/2到L/2之间变化,并且在本文中,L可以是滤波器长度。限幅函数K(x,y)=min(y,max(-y,x))也可以表示为Clip3(-y,y,x)。
[等式6]
R′(i,j)=R(i,j)+((∑k≠0l≠0f(k,l)×K(R(i+k,j+l)-R(i,j),c(k,l))+64)>>7)
如上所述,可以将环路内滤波过程应用于重构图片。在这种情况下,定义虚拟边界以便提高重构图片的主观/客观视觉质量,并且可以跨虚拟边界应用环路内滤波过程。虚拟边界例如可以包括非连续边缘,例如360度图像、VR图像或画中画(PIP)等。例如,虚拟边界可以存在于预定位置中,或者可以用信号通知其存在与否和/或其位置。例如,虚拟边界可以位于CTU行的前4个样本线中(更具体地,例如,CTU行的前4个样本线的上部)。作为另一示例,可以通过HLS用信号通知与虚拟边界的存在与否和/或位置有关的信息。如上所述,HLS可以包括SPS、PPS、图片报头、切片报头等。
在下文中,将描述与本说明书的实施方式有关的高级语法信令和语义。
本说明书的实施方式可以包括一种控制环路滤波器的方法。控制环路滤波器的方法可以应用于重构图片。环路内滤波器(环路滤波器)可用于对编码的比特流进行解码。环路滤波器可以包括上述去块、SAO和ALF。SPS可以包括与去块、SAO和ALF中的每一者有关的标志。这些标志可以指示各个工具是否可用于对参考SPS的编码层视频序列(CLVS)和编码视频序列(CVS)进行编码。
在一个示例中,当环路滤波器可用于对CVS内的图片进行编码时,可以控制环路滤波器的应用,使得不会跨特定边界应用环路滤波器。例如,可以控制环路滤波器不跨子图片边界,可以控制环路滤波器不跨图块边界,可以控制环路滤波器不跨切片边界,和/或可以控制环路滤波器不跨虚拟边界。
与环路内滤波有关的信息可以包括在本说明书(或本说明书中包括的实施方式)中描述的信息、语法、语法元素和/或语义。与环路内滤波有关的信息可以包括与环路内滤波过程是否(全部或部分)可用于跨特定边界(例如,虚拟边界、子图片边界、切片边界和/或图块边界)的使用有关的信息。包括在比特流中的图像信息可以包括高级语法(HLS),并且HLS可以包括与环路滤波有关的信息。可以基于关于是否跨特定边界应用环路内滤波的确定来生成修改的(或滤波的)重构样本(重构图片)。在一个示例中,如果针对所有块/边界禁用环路内滤波过程,则修改的重构样本可能与重构样本相同。在另一示例中,修改的重构样本可以包括基于环路内滤波推导的修改的重构样本。然而,在这种情况下,基于所确定的结果,在重构样本当中,一部分(例如,跨虚拟边界的重构样本)可以不进行环路内滤波处理。例如,尽管跨特定边界(包括使得能够执行环路内滤波的虚拟边界、子图片边界、切片边界和/或图块边界中的至少一者)的重构样本可以在环路内滤波内进行处理,但是跨其他边界(包括被禁用以执行环路内滤波的虚拟边界、子图片边界、切片边界和/或图块边界中的至少一者)的重构样本可以不在环路内滤波内进行处理。
在一个示例中,关于是否跨虚拟边界执行环路内滤波过程,与环路内滤波有关的信息可以包括SPS虚拟边界存在标志、图片报头虚拟边界存在标志、与虚拟边界的数量有关的信息、关于虚拟边界的位置的信息等。
在本说明书中包括的实施方式中,与虚拟边界的位置有关的信息可以包括关于垂直虚拟边界的x坐标和/或水平虚拟边界的y坐标的信息。更具体地,与虚拟边界的位置有关的信息可以包括以亮度样本为单位的垂直虚拟边界的x坐标和/或以亮度样本为单位的水平虚拟边界的y坐标。另外,与虚拟边界的位置有关的信息可以包括关于与存在于SPS中的垂直虚拟边界的x坐标有关的信息(语法元素)的数量的信息。另外,与虚拟边界的位置有关的信息可以包括关于与存在于SPS中的水平虚拟边界的y坐标有关的信息(语法元素)的数量的信息。另选地,与虚拟边界的位置有关的信息可以包括关于与存在于图片报头中的垂直虚拟边界的x坐标有关的信息(语法元素)的数量的信息。另外,与虚拟边界的位置有关的信息可以包括关于与存在于图片报头中的水平虚拟边界的y坐标有关的信息(语法元素)的数量的信息。
下表示出了根据本实施方式的序列参数集(SPS)的示例性语法和语义。
[表4]
Figure BDA0003845120630000291
[表5]
Figure BDA0003845120630000292
Figure BDA0003845120630000301
Figure BDA0003845120630000311
下表示出了根据本实施方式的图片参数集(PPS)的示例性语法和语义。
[表6]
Figure BDA0003845120630000312
[表7]
Figure BDA0003845120630000313
Figure BDA0003845120630000321
下表示出了根据本实施方式的图片报头的示例性语法和语义。
[表8]
Figure BDA0003845120630000331
Figure BDA0003845120630000341
[表9]
Figure BDA0003845120630000342
Figure BDA0003845120630000351
Figure BDA0003845120630000361
Figure BDA0003845120630000362
下表示出了根据本实施方式的切片报头的示例性语法和语义。
[表10]
Figure BDA0003845120630000371
[表11]
Figure BDA0003845120630000372
Figure BDA0003845120630000381
Figure BDA0003845120630000391
在下文中,将描述与ALF滤波器系数有关的信息的信令。
在常规的ALF过程中,k阶指数哥伦布码(其中k=3)用于用信号通知亮度和色度ALF系数的绝对值。然而,k阶指数哥伦布编码的缺点在于它会导致相当大的操作开销和复杂程度。
将在以下段落中描述的实施方式可以提出用于解决上述问题的解决方案。实施方式可以是独立适用的。另选地,至少两个或更多个实施方式可以组合地应用。
下表示出了根据本说明书的实施方式的自适应参数集(APS)的示例性语法。
[表12]
Figure BDA0003845120630000401
下表示出了根据本实施方式的ALF数据的示例性语法。
[表13]
Figure BDA0003845120630000402
下表示出了与包含在语法中的语法元素有关的示例性语义。
[表14]
Figure BDA0003845120630000411
Figure BDA0003845120630000421
Figure BDA0003845120630000422
根据本说明书的另一实施方式,可以基于零阶指数哥伦布编码方案(ue(v))来解析关于亮度/色度ALF滤波器系数绝对值的信息(alf_luma_coeff_abs[sfIdx][j]、alf_chroma_coeff_abs[altIdx][j])。
下表示出了根据本实施方式的ALF数据的示例性语法。
[表15]
Figure BDA0003845120630000431
下表示出了与包括在语法中的语法元素有关的示例性语义。
[表16]
Figure BDA0003845120630000432
Figure BDA0003845120630000441
Figure BDA0003845120630000442
Figure BDA0003845120630000451
根据参考上述表格描述的本说明书的实施方式,通过将零阶指数哥伦布编码方案(ue(v))用于与亮度/色度ALF滤波器系数绝对值(alf_luma_coeff_abs[sfIdx][j],alf_chroma_coeff_abs[altIdx][j])有关的信息的解析过程,可以降低操作开销和复杂度。另外,通过固定与亮度/色度ALF滤波器系数绝对值有关的信息的值的值范围(例如,0到128),可以高效地执行使用(ue(v))的编码。
图6和图7分别示出了根据本公开的实施方式的视频/图像编码方法和相关组件的一般示例。
图6中公开的方法可以由图2或图7所示的编码装置来执行。更具体地,例如,图6的S600和S610可以由图7的编码装置的预测器220执行,图6的S620至S640可以由图7的编码装置的残差处理器230执行,图6的S650可以由图7的编码装置的加法器250执行,图6的S660和/或S670可以由图7的编码装置的滤波器260执行,图6的S680可以由图7的编码装置的熵编码器240执行。另外,虽然在图6中未示出,但是可以由编码装置的预测器220推导预测样本或预测相关信息,并且编码装置的熵编码器240可以根据残差信息或预测相关信息生成比特流。图6中公开的方法可以包括本说明书中的上述实施方式。
参考图6,编码装置可以推导预测样本(S600)。编码装置可以基于预测模式来推导当前块的预测样本。编码装置可以基于预测模式来推导当前块的预测样本。在这种情况下,可以应用本说明书中公开的各种预测方法,例如,帧间预测或帧内预测。
编码装置可以生成预测模式信息(S610)。编码装置可以基于预测样本和/或应用于预测样本的模式来生成预测模式信息。预测模式信息可以包括关于各种预测模式(例如,合并模式、MVP模式等)的信息、MVD信息等。
编码装置可以推导残差样本(S620)。编码装置可以推导当前块的残差样本,并且可以基于当前块的原始样本和预测样本来推导当前块的残差样本。更具体地,编码装置可以基于预测模式来推导当前块的预测样本。在这种情况下,可以应用本说明书中公开的各种预测方法,例如帧间预测或帧内预测等。可以基于预测样本和原始样本来推导残差样本。对于帧间预测,编码装置可以推导至少一个参考图片,并且可以基于所述至少一个参考图片来执行帧间预测。可以基于帧间预测生成预测样本。编码装置可以基于所述至少一个参考图片来生成参考图片相关信息。
编码装置可以推导变换系数(S630)。编码装置可以基于对残差样本的变换过程来推导变换系数。例如,变换过程可以包括DCT、DST、GBT或CNT中的至少一种。
编码装置可以推导量化的变换系数。编码装置可以基于对变换系数的量化过程来推导量化的变换系数。量化的变换系数可以具有基于系数扫描顺序的一维向量形式。
编码装置可以生成残差信息(S640)。编码装置可以基于当前块的残差样本来生成残差信息。编码装置可以生成指示量化的变换系数的残差信息。残差信息可以通过各种编码方法生成,例如指数哥伦布、CAVLC、CABAC等。
编码装置可以生成重构样本(S650)。编码装置可以基于残差信息来生成重构样本。可以通过将基于残差信息的残差样本和预测样本相加来生成重构样本。更具体地,编码装置可以对当前块执行预测(帧内或帧间预测),然后可以基于预测样本来生成重构样本,这些预测样本是从利用原始样本的预测生成的。
重构样本可以包括重构亮度样本和重构色度样本。更具体地,残差样本可以包括残差亮度样本和残差色度样本。可以基于原始亮度样本和预测亮度样本来生成残差亮度样本。可以基于原始色度样本和预测色度样本来生成残差色度样本。编码装置可以推导针对残差亮度样本的变换系数(亮度变换系数)和/或推导针对残差色度样本的变换系数(色度变换系数)。量化的变换系数可以包括量化的亮度变换系数和/或量化的色度变换系数。
编码装置可以推导ALF滤波器系数(S660)。ALF滤波器系数可以包括亮度ALF滤波器系数和/或色度ALF滤波器系数。并且,可以基于ALF滤波器系数生成修改的重构样本。
编码装置可以生成ALF相关信息(S670)。ALF相关信息可以包括与ALF滤波器系数有关的信息、与ALF相关限幅有关的信息等。另外,ALF相关信息可以包括与可用性标志有关的信息、与用于指定高级语法(例如,PPS、SPS、APS、图片报头等)的位置的存在标志有关的信息。例如,与ALF滤波器系数有关的信息可以包括与ALF滤波器系数的绝对值有关的信息,以及与ALF滤波器系数的符号有关的信息。
编码装置可以对视频/图像信息进行编码(S680)。图像信息可以包括残差信息、预测相关信息、参考图片相关信息、子图片相关信息、环路内滤波相关信息和/或虚拟边界相关信息(和/或附加虚拟边界相关信息)。编码的视频/图像信息可以以比特流格式输出。比特流可以通过网络或存储介质传输到解码装置。
视频/图像信息可以包括根据本说明书的实施方式的各种信息。例如,视频/图像信息可以包括在上面呈现的表1至表16中的至少一个中公开的信息。
根据实施方式,图像信息可以包括关于用于ALF过程的亮度滤波器系数的绝对值的信息和关于用于ALF过程的色度滤波器系数的绝对值的信息。用于ALF过程的亮度滤波器系数的绝对值和用于ALF过程的色度滤波器系数的绝对值可以在预定范围内。
根据实施方式,图像信息可以包括参数集和ALF数据。所述参数集中的至少一个参数集可以包括自适应参数集(APS)。ALF数据可以包括关于用于ALF过程的亮度滤波器系数的绝对值的信息和关于用于ALF过程的色度滤波器系数的绝对值的信息。ALF数据可以包括在APS中。
根据实施方式,图像信息可以包括报头信息和ALF相关自适应参数集(APS)。报头信息可以包括与ALF相关APS ID的数量有关的信息。可以基于与ALF相关APS ID的数量有关的信息的值来推导ALF相关APS ID的数量。ALF相关APS ID语法元素的数量等于可以包括在报头信息中的ALF相关APS ID的数量。
根据实施方式,图像信息可以包括报头信息和ALF相关自适应参数集(APS)。报头信息可以包括指示图片或切片内的ALF的可用性的ALF可用性标志以及与ALF相关APS ID的数量有关的信息。当ALF可用性标志的值等于1时,报头信息可以包括与ALF相关APS ID的数量有关的信息。与ALF相关APS ID的数量有关的信息的值加1可以与ALF相关APS ID的数量相同。
根据实施方式,用于ALF过程的亮度滤波器系数的绝对值可以在预定范围内。
根据实施方式,用于ALF过程的色度滤波器系数的绝对值可以在预定范围内。
根据实施方式,预定范围可以是从0到128的范围。
图8和图9分别示出了根据本公开的实施方式的视频/图像解码方法和相关组件的一般示例。
图8中公开的方法可以由图3或图9所示的解码装置来执行。更具体地,例如,图8的S800可以由解码装置的熵解码器310执行,S810和S820可以由解码装置的残差处理器320执行,S830可以由解码装置的预测器330执行,S840可以由解码装置的加法器340执行,并且S850和/或S860可以由解码装置的滤波器350执行。图8中公开的方法可以包括本说明书中的上述实施方式。
参考图8,解码裝置可以接收/获得视频/图像信息(S800)。视频/图像信息可以包括残差信息、预测相关信息、参考图片相关信息、子图片相关信息、环路内滤波相关信息和/或ALF相关信息。解码装置可以通过比特流接收/获得视频/图像信息。
视频/图像信息可以包括根据本说明书的实施方式的各种信息。例如,视频/图像信息可以包括在上面呈现的表1至表16中的至少一个中公开的信息。
解码装置可以推导量化的变换系数。解码装置可以基于残差信息推导量化的变换系数。量化的变换系数可以具有基于系数扫描顺序的一维向量形式。量化的变换系数可以包括量化的亮度变换系数和/或量化的色度变换系数。
解码装置可以推导变换系数(S810)。解码装置可以基于对量化的变换系数的解量化过程来推导变换系数。解码装置可以基于量化的亮度变换系数通过解量化来推导亮度变换系数。解码装置可以基于量化的色度变换系数通过解量化来推导色度变换系数。
解码装置可以生成/推导残差样本(S820)。解码装置可以基于对变换系数的逆变换过程来推导残差样本。解码装置可以基于残差亮度样本通过逆变换过程来推导残差亮度样本。解码装置可以基于残差色度样本通过逆变换过程来推导残差色度样本。
解码装置可以基于参考图片相关信息来推导至少一个参考图片。解码装置可以对所述至少一个参考图片执行预测过程。
解码装置可以基于预测模式来生成当前块的预测样本(S830)。在这种情况下,可以应用本说明书中公开的各种预测方法,例如帧间预测或帧内预测等。解码装置可以基于预测过程为当前图片内的当前块生成预测样本。例如,解码装置可以基于所述至少一个参考图片执行帧间预测过程,并且可以基于帧间预测过程生成预测样本。
解码装置可以生成/推导重构样本(S840)。例如,解码装置可以生成/推导重构亮度样本和/或重构色度样本。解码装置可以基于残差信息来生成重构亮度样本和/或重构色度样本。解码装置可以基于残差信息来生成重构样本。重构样本可以包括重构亮度样本和/或重构色度样本。重构样本的亮度分量可以对应于重构亮度样本,并且重构样本的色度分量可以对应于重构色度样本。解码装置可以通过预测过程来生成预测亮度样本和/或预测色度样本。解码装置可以基于预测亮度样本和残差亮度样本来生成重构亮度样本。解码装置可以基于预测色度样本和残差色度样本来生成重构色度样本。
解码装置可以推导ALF滤波器系数(S850)。ALF滤波器系数可以包括亮度ALF滤波器系数和/或色度ALF滤波器系数。可以基于关于亮度滤波器系数的绝对值的信息和关于色度滤波器系数的绝对值的信息来推导ALF滤波器系数。
解码装置可以生成修改的(滤波的)重构样本(S860)。解码装置可以基于对重构样本的环路内滤波过程来生成修改的重构样本。解码装置可以基于环路内滤波相关信息来生成修改的重构样本。解码装置可以使用去块过程、SAO过程和/或ALF过程以便生成修改的重构样本。
根据实施方式,图像信息可以包括关于针对ALF过程的亮度滤波器系数的绝对值的信息和关于针对ALF过程的色度滤波器系数的绝对值的信息。用于ALF过程的亮度滤波器系数的绝对值和用于ALF过程的色度滤波器系数的绝对值可以在预定范围内。
根据实施方式,图像信息可以包括参数集和ALF数据。所述参数集中的至少一个参数集可以包括自适应参数集(APS)。ALF数据可以包括关于针对ALF过程的亮度滤波器系数的绝对值的信息和关于针对ALF过程的色度滤波器系数的绝对值的信息。ALF数据可以包括在APS中。
根据实施方式,图像信息可以包括报头信息和ALF相关自适应参数集(APS)。报头信息可以包括与ALF相关APS ID的数量有关的信息。可以基于与ALF相关APS ID的数量有关的信息的值来推导ALF相关APS ID的数量。ALF相关APS ID语法元素的数量等于可以包括在报头信息中的ALF相关APS ID的数量。
根据实施方式,图像信息可以包括报头信息和ALF相关自适应参数集(APS)。报头信息可以包括指示图片或切片内的ALF的可用性的ALF可用性标志以及与ALF相关APS ID的数量有关的信息。当ALF可用性标志的值等于1时,报头信息可以包括与ALF相关APS ID的数量有关的信息。与ALF相关APS ID的数量有关的信息的值加1可以与ALF相关APS ID的数量相同。
根据实施方式,针对ALF过程的亮度滤波器系数的绝对值可以在预定范围内。
根据实施方式,针对ALF过程的色度滤波器系数的绝对值可以在预定范围内。
根据实施方式,预定范围可以是从0到128的范围。
在存在针对当前块的残差样本的情况下,解码装置可以接收关于针对当前块的残差的信息。关于残差的信息可以包括针对残差样本的变换系数。解码装置可以基于残差信息来推导针对当前块的残差样本(或残差样本阵列)。具体地,解码装置可以基于残差信息来推导量化的变换系数。量化的变换系数可以具有基于系数扫描次序的一维矢量形式。解码装置可以基于针对量化的变换系数的解量化处理来推导变换系数。解码装置可以基于变换系数来推导残差样本。
解码装置可以基于(帧内)预测样本和残差样本来生成重构样本,并且可以基于重构样本来推导重构块或重构图片。具体地,解码装置可以基于(帧内)预测样本与残差样本之和来生成重构样本。此后,如上所述,如果需要,则解码装置可以对重构图片应用环路滤波处理(例如,去块滤波和/或SAO处理),以提高主观/客观图片质量。
例如,解码装置可以通过对比特流或编码的信息进行解码来获得包括所有或一些上述信息(或语法元素)的图像信息。此外,比特流或编码的信息可以存储在计算机可读存储介质中,或者可以使上述解码方法被执行。
在上述实施方式中,基于具有一系列步骤或框的流程图来描述方法。本公开不限于上述步骤或框的次序。一些步骤或框可以与如上所述的其它步骤或框同时发生或以与如上所述的其它步骤或框不同的次序发生。此外,本领域技术人员将理解,上述流程图所示的步骤并非排他性的,可以包括另外的步骤,或者可以删除流程图中的一个或更多个步骤,而不影响本文档的范围。
根据本文档的上述实施方式的所述方法可以以软件形式实现,并且可以将根据本文档的编码装置和/或解码装置例如包括在TV、计算机、智能电话、机顶盒和显示设备等的执行图像处理的设备中。
当本文档中的实施方式以软件实现时,上述方法可以实现为执行上述功能的模块(处理、功能等)。模块可以被存储在存储器中并由处理器执行。存储器可以在处理器内部或外部并且可以通过各种公知手段联接至处理器。处理器可以包括专用集成电路(ASIC)、其它芯片组、逻辑电路和/或数据处理设备。存储器可以包括只读存储器(ROM)、随机存取存储器(RAM)、闪存、存储卡、存储介质和/或其它存储设备。也就是说,可以在处理器、微处理器、控制器或芯片上实现并执行本文档中描述的实施方式。例如,可以在计算机、处理器、微处理器、控制器或芯片上实现并执行每个附图中示出的功能单元。在这种情况下,可以在数字存储介质中存储关于针对实现方式的指令或算法的信息。
另外,应用本文档的解码装置和编码装置可以被包括在多媒体广播发送/接收装置、移动通信终端、家庭影院视频装置、数字影院视频装置、监控摄像头、视频聊天装置、诸如视频通信的实时通信装置、移动流传输装置、存储介质、摄像机、VoD服务提供装置、过顶(OTT)视频装置、互联网流传输服务提供装置、三维(3D)视频装置、虚拟现实(VR)装置、增强现实(AR)装置、电话会议视频装置、交通用户设备(即,车载(包括自主车辆)用户设备、飞机用户设备、船舶用户设备等)和医疗视频装置中,并且可以用于处理视频信号和数据信号。例如,过顶(OTT)视频装置可以包括游戏机、蓝光播放器、互联网接入电视、家庭影院系统、智能电话、平板计算机、数字视频录像机(DVR)等。
此外,应用本文档的处理方法可以以由计算机执行的程序的形式产生并且可以被存储在计算机可读记录介质中。也可以将具有根据本公开的数据结构的多媒体数据存储在计算机可读记录介质中。计算机可读记录介质包括存储计算机系统可读的数据的所有种类的存储设备。例如,计算机可读记录介质可以包括BD、通用串行总线(USB)、ROM、PROM、EPROM、EEPROM、RAM、CD-ROM、磁带、软盘和光学数据存储设备。此外,计算机可读记录介质包括以载波(即,通过互联网的传输)的形式实现的介质。另外,通过编码方法生成的比特流可以被存储在计算机可读记录介质中或者可以通过有线或无线通信网络来发送。
另外,可以利用根据程序代码的计算机程序产品来实现本文档的实施方式,并且可以按照本文档的实施方式在计算机中执行程序代码。可以将程序代码存储在计算机可读的载体上。
图10表示可以应用本文档的实施方式的内容流传输系统的示例。
参考图10,应用本文档的实施方式的内容流传输系统大体可以包括编码服务器、流传输服务器、web服务器、媒体存储部、用户设备和多媒体输入设备。
编码服务器用于将从多媒体输入设备(例如,智能电话、相机、摄像机等)输入的内容压缩为数字数据,以生成比特流,并且将该比特流发送至流传输服务器。作为另一示例,在诸如智能电话、相机、摄像机等的多媒体输入设备直接生成比特流时,可以省略编码服务器。
可以通过应用本公开的实施方式的编码方法或比特流生成方法来生成比特流,并且流传输服务器可以在发送或接收比特流的处理中暂时存储比特流。
流传输服务器基于用户的请求通过web服务器向用户设备发送多媒体数据,该web服务器充当向用户通知服务的介质。当用户从web服务器请求期望的服务时,web服务器将请求传递至流传输服务器,并且流传输服务器将多媒体数据发送至用户。在这种情况下,内容流传输系统可以包括单独的控制服务器。在这种情况下,控制服务器用来控制内容流传输系统中的设备之间的命令/响应。
流传输服务器可以从媒体存储和/或编码服务器接收内容。例如,在从编码服务器接收到内容时,可以实时地接收内容。在这种情况下,为了提供流畅的流传输服务,流传输服务器可以将比特流存储预定时间段。
用户设备的示例可以包括移动电话、智能电话、膝上型计算机、数字广播终端、个人数字助理(PDA)、便携式多媒体播放器(PMP)、导航、板式PC、平板PC、超极本、可穿戴设备(例如,智能手表、智能眼镜、头戴式显示器)、数字TV、台式计算机、数字标牌等。
可以将内容流传输系统中的每个服务器作为分布式服务器操作,并且在这种情况下,可以以分布式方式处理从每个服务器接收到的数据。
本文所述的权利要求可以以各种方式组合。例如,可以将本文档的方法权利要求的技术特征组合并实现为装置,也可以将本文档的装置权利要求的技术特征组合并实现为方法。另外,本文档的方法权利要求的技术特征和装置权利要求的技术特征可以组合以实现为装置,并且本文档的方法权利要求的技术特征和装置权利要求的技术特征可以组合并实现为方法。

Claims (15)

1.一种由解码装置执行的图像解码方法,所述图像解码方法包括以下步骤:
通过比特流获得包括预测模式信息和残差信息的图像信息;
基于所述残差信息推导变换系数;
基于所述变换系数推导残差样本;
基于所述预测模式信息推导预测样本;
基于所述预测样本和所述残差样本生成重构样本;
推导针对所述重构样本的自适应环路滤波ALF过程的滤波器系数;以及
基于所述重构样本和所述滤波器系数生成修改的重构样本,
其中,所述图像信息包括与用于所述ALF过程的亮度滤波器系数的绝对值有关的信息以及与用于所述ALF过程的色度滤波器系数的绝对值有关的信息,并且
其中,用于所述ALF过程的亮度滤波器系数的绝对值和用于所述ALF过程的色度滤波器系数的绝对值在预定范围内。
2.根据权利要求1所述的图像解码方法,其中,所述图像信息包括参数集和ALF数据,
其中,所述参数集中的至少一个包括自适应参数集APS,
其中,所述ALF数据包括与用于所述ALF过程的亮度滤波器系数的绝对值有关的信息以及与用于所述ALF过程的色度滤波器系数的绝对值有关的信息,并且
其中,所述ALF数据被包括在所述APS中。
3.根据权利要求1所述的图像解码方法,其中,所述图像信息包括报头信息和ALF相关自适应参数集APS,
其中,所述报头信息包括与ALF相关APS ID的数量有关的信息,
其中,所述ALF相关APS ID的数量是基于与所述ALF相关APS ID的数量有关的信息的值推导的,并且
其中,ALF相关APS ID语法元素的数量等于包括在所述报头信息中的所述ALF相关APSID的数量。
4.根据权利要求1所述的图像解码方法,其中,所述图像信息包括报头信息和ALF相关自适应参数集APS,
其中,所述报头信息包括指示ALF是否可用于在图片或切片内的使用的ALF可用性标志以及与ALF相关APS ID的数量有关的信息,
其中,当所述ALF可用性标志的值等于1时,所述报头信息包括与ALF相关APS ID的数量有关的所述信息,并且
其中,与ALF相关APS ID的数量有关的所述信息的值等于所述ALF相关APS ID的数量。
5.根据权利要求1所述的图像解码方法,其中,用于ALF过程的亮度滤波器系数的绝对值在预定范围内。
6.根据权利要求1所述的图像解码方法,其中,用于ALF过程的色度滤波器系数的绝对值在预定范围内。
7.根据权利要求6所述的图像解码方法,其中,所述预定范围是从0到128。
8.一种由编码装置执行的图像编码方法,所述图像编码方法包括以下步骤:
推导当前块的预测样本;
基于所述预测样本生成预测模式信息;
推导所述当前块的残差样本;
基于所述残差样本推导变换系数;
基于所述变换系数生成残差信息;
基于所述残差信息生成重构样本;
推导针对所述重构样本的自适应环路滤波ALF过程的滤波器系数;
基于所述滤波器系数生成ALF相关信息;以及
对包括所述残差信息和所述ALF相关信息的图像信息进行编码,
其中,所述图像信息包括与用于所述ALF过程的亮度滤波器系数的绝对值有关的信息以及与用于所述ALF过程的色度滤波器系数的绝对值有关的信息,并且
其中,用于ALF过程的亮度滤波器系数的绝对值和用于ALF过程的色度滤波器系数的绝对值在预定范围内。
9.根据权利要求8所述的图像编码方法,其中,所述图像信息包括参数集和ALF数据,
其中,所述参数集中的至少一个包括自适应参数集APS,
其中,所述ALF数据包括与用于所述ALF过程的亮度滤波器系数的绝对值有关的信息以及与用于所述ALF过程的色度滤波器系数的绝对值有关的信息,并且
其中,所述ALF数据被包括在所述APS中。
10.根据权利要求8所述的图像编码方法,其中,所述图像信息包括报头信息和ALF相关自适应参数集APS,
其中,所述报头信息包括与ALF相关APS ID的数量有关的信息,
其中,所述ALF相关APS ID的数量是基于与所述ALF相关APS ID的数量有关的信息的值推导的,并且
其中,ALF相关APS ID语法元素的数量等于包括在所述报头信息中的所述ALF相关APSID的数量。
11.根据权利要求8所述的图像编码方法,其中,所述图像信息包括报头信息和ALF相关自适应参数集APS,
其中,所述报头信息包括指示ALF是否可用于在图片或切片内的使用的ALF可用性标志以及与ALF相关APS ID的数量有关的信息,
其中,当所述ALF可用性标志的值等于1时,所述报头信息包括与ALF相关APS ID的数量有关的所述信息,并且
其中,与ALF相关APS ID的数量有关的所述信息的值等于所述ALF相关APS ID的数量。
12.根据权利要求8所述的图像编码方法,其中,用于所述ALF过程的亮度滤波器系数的绝对值在预定范围内。
13.根据权利要求8所述的图像编码方法,其中,用于所述ALF过程的色度滤波器系数的绝对值在预定范围内。
14.根据权利要求13所述的图像编码方法,其中,所述预定范围是从0到128。
15.一种计算机可读数字存储介质,所述计算机可读数字存储介质中存储有使图像解码装置执行图像解码方法的信息,其中,所述图像解码方法包括以下步骤:
通过比特流获得包括预测模式信息和残差信息的图像信息;
基于所述残差信息推导变换系数;
基于所述变换系数推导残差样本;
基于所述预测模式信息推导预测样本;
基于所述预测样本和所述残差样本生成重构样本;
推导针对所述重构样本的自适应环路滤波ALF过程的滤波器系数;以及
基于所述重构样本和所述滤波器系数生成修改的重构样本,
其中,所述图像信息包括与用于所述ALF过程的亮度滤波器系数的绝对值有关的信息以及与用于所述ALF过程的色度滤波器系数的绝对值有关的信息,并且
其中,用于所述ALF过程的亮度滤波器系数的绝对值和用于所述ALF过程的色度滤波器系数的绝对值在预定范围内。
CN202180021157.0A 2020-01-15 2021-01-15 基于滤波相关信息信令的图像编码设备和方法 Pending CN115280771A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202062961699P 2020-01-15 2020-01-15
US62/961,699 2020-01-15
PCT/KR2021/000606 WO2021145725A1 (ko) 2020-01-15 2021-01-15 필터링 관련 정보 시그널링 기반 영상 코딩 장치 및 방법

Publications (1)

Publication Number Publication Date
CN115280771A true CN115280771A (zh) 2022-11-01

Family

ID=76863946

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180021157.0A Pending CN115280771A (zh) 2020-01-15 2021-01-15 基于滤波相关信息信令的图像编码设备和方法

Country Status (4)

Country Link
US (1) US20230067885A1 (zh)
KR (1) KR20220112828A (zh)
CN (1) CN115280771A (zh)
WO (1) WO2021145725A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021145728A1 (ko) * 2020-01-15 2021-07-22 엘지전자 주식회사 인루프 필터링 기반 영상 코딩 장치 및 방법

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120090740A (ko) * 2011-02-07 2012-08-17 (주)휴맥스 정밀한 단위의 필터 선택을 적용한 영상 부호화/복호화 장치 및 방법
US9451252B2 (en) * 2012-01-14 2016-09-20 Qualcomm Incorporated Coding parameter sets and NAL unit headers for video coding
US10701356B2 (en) * 2015-10-13 2020-06-30 Lg Electronic Inc. Image decoding method and apparatus by deriving a frequency component based on filtering in image coding system
CN111615828B (zh) * 2017-11-29 2023-01-10 韩国电子通信研究院 采用环内滤波的图像编码/解码方法和装置

Also Published As

Publication number Publication date
US20230067885A1 (en) 2023-03-02
KR20220112828A (ko) 2022-08-11
WO2021145725A1 (ko) 2021-07-22

Similar Documents

Publication Publication Date Title
EP3843405A1 (en) Image coding method using history-based motion information, and device therefor
CN114586350A (zh) 基于交叉分量自适应环路滤波的图像编译装置和方法
CN114586349A (zh) 基于滤波编译视频的设备和方法
US20230254514A1 (en) Image coding device and method for controlling loop filtering
CN114930816A (zh) 对图像进行编译的装置和方法
US20230344986A1 (en) Filtering-based image coding device and method
CN114982245A (zh) 基于滤波的图像编码装置和方法
KR20220082059A (ko) 루프 필터링을 제어하기 위한 영상 코딩 장치 및 방법
CN114982244A (zh) 图像编码装置和方法
JP2024036651A (ja) サブピクチャに基づく映像コーディング装置及び方法
KR20220110299A (ko) 인루프 필터링 기반 영상 코딩 장치 및 방법
CN114586351A (zh) 基于自适应环路滤波的图像编译设备和方法
US11647232B2 (en) Image coding device and method for controlling loop filtering
CN115280771A (zh) 基于滤波相关信息信令的图像编码设备和方法
US20230071477A1 (en) Adaptive loop filtering-based image coding apparatus and method
US20230007266A1 (en) Apparatus and method for coding image on basis of signaling of information for filtering
CN115699775A (zh) 视频或图像编码系统中基于单色颜色格式的色度去块参数信息的图像编码方法
CN115211122A (zh) 用于对包括画面头的图像信息进行编码的图像解码方法和设备
CN114946191A (zh) 基于用于滤波的信息的信令的图像编码设备和方法
CN114762350A (zh) 基于切片类型的图像/视频编译方法和设备
US20230096855A1 (en) In-loop filtering-based image coding device and method
US20230052204A1 (en) Picture splitting-based image coding device and method
US20230046583A1 (en) Virtual boundary-based image coding device and method
US20230046209A1 (en) Filtering-based image coding device and method
US20230041024A1 (en) Image coding device and method

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination