CN115462081A - 4:2:0或4:2:2视频的交叉分量编解码 - Google Patents

4:2:0或4:2:2视频的交叉分量编解码 Download PDF

Info

Publication number
CN115462081A
CN115462081A CN202180029354.7A CN202180029354A CN115462081A CN 115462081 A CN115462081 A CN 115462081A CN 202180029354 A CN202180029354 A CN 202180029354A CN 115462081 A CN115462081 A CN 115462081A
Authority
CN
China
Prior art keywords
subwidthc
equal
subheightc
neighboring
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180029354.7A
Other languages
English (en)
Inventor
王洋
张莉
张凯
刘鸿彬
王悦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
ByteDance Inc
Original Assignee
Douyin Vision Co Ltd
ByteDance Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Douyin Vision Co Ltd, ByteDance Inc filed Critical Douyin Vision Co Ltd
Priority to CN202311558909.4A priority Critical patent/CN117596409A/zh
Publication of CN115462081A publication Critical patent/CN115462081A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Abstract

提供了一种视频处理的方法,包括:对于具有4:2:2颜色格式的视频的视频块与视频的比特流之间的转换,根据规则确定用于视频块的交叉分量线性模型的参数;以及基于该确定来执行转换,其中,语法元素指示视频的色度样点是否相对于视频的亮度样点垂直移位,并且其中规则指定该参数是独立于语法元素的值而确定的。

Description

4:2:0或4:2:2视频的交叉分量编解码
相关申请的交叉引用
根据适用的专利法和/或根据《巴黎公约》的规则,本申请是为了及时要求对2020年4月18日提交的国际专利申请No.PCT/CN2020/085484的优先权和利益。就法律规定的所有目的而言,上述申请的全部公开内容通过引用并入作为本申请公开的一部分。
技术领域
本文件涉及视频和图像编解码技术。
背景技术
在互联网和其他数字通信网络中,数字视频占据了最大的带宽使用量。随着能够接收并显示视频的连接用户设备的数量增加,预计针对数字视频使用的带宽需求将继续增长。
发明内容
所公开的技术可以由视频或图像解码器或编码器实施例用于使用交叉分量线性模型预测来执行编码或解码。
在一个示例方面,公开了一种处理视频的方法。方法包括:针对在视频的色度块与视频的经编解码表示之间的转换,通过下采样的同位相邻顶部亮度样点来推导交叉分量线性模型的参数,所述下采样的同位相邻顶部亮度样点是使用下采样滤波器从同位亮度块的N个上方相邻行生成的,其中N是正整数;以及使用使用交叉分量线性模型生成的经预测色度块来执行转换。
在另一示例方面,公开了一种处理视频的方法。该方法包括:对于具有4:2:2颜色格式的视频的视频块与视频的比特流之间的转换,根据规则确定用于视频块的交叉分量线性模型的参数;以及基于该确定来执行转换,并且其中,语法元素指示视频的色度样点是否相对于视频的亮度样点垂直移位,并且其中规则指定该参数是独立于语法元素的值而确定的。
在另一示例方面,公开了一种处理视频的方法。该方法包括:根据规则执行视频与视频的比特流之间的转换,并且其中格式规则指定由于视频具有4:2:2或4:4:4颜色格式,指示色度样点位置是否相对于对应的亮度样点位置垂直移位的字段被设置为默认值。
在另一示例方面,公开了一种处理视频的方法。该方法包括:对于视频的视频块与视频的比特流之间的转换,根据规则确定用于视频块的交叉分量线性模型(CCLM)的参数;以及基于该确定来执行转换,并且其中该规则指定仅在表示相邻亮度样点的变量具有特定值的情况下才在CCLM的参数的确定中使用该变量。
在另一示例方面,公开了一种处理视频的方法。该方法包括:对于包括视频单元的视频与该视频的比特流之间的转换,根据规则确定是否针对该视频单元启用第一编解码工具,其中规则指定第一编解码工具和第二编解码工具是互斥启用的,并且其中第一编解码工具或第二编解码工具包括符号数据隐藏工具;以及根据该确定来执行转换。
在另一示例方面,公开了一种处理视频的方法。该方法包括:对于包括视频单元的视频与该视频的比特流之间的转换,根据规则确定是否针对该视频单元启用第一编解码工具,其中规则指定第一编解码工具和第二编解码工具是互斥启用的,并且其中第一编解码工具或第二编解码工具包括依赖量化工具;以及根据该确定来执行转换。
在另一示例方面,公开了一种处理视频的方法。该方法包括:根据规则执行包括包含一个或多个条带的一个或多个图片的视频与该视频的比特流之间的转换,并且其中规则指定条带的条带类型取决于用于该条带的参考图片列表的参考图片条目。
在另一示例方面,公开了一种处理视频的方法。该方法包括:根据规则执行包括包含一个或多个条带的一个或多个图片的视频和该视频的比特流之间的转换,其中规则指定自适应参数集(APS)中允许的滤波器的数量或APS的数量取决于视频的经编解码信息。
在另一示例方面,上述方法可以由包括处理器的视频编码器装置来实现。
在又一示例方面,这些方法可以以处理器可执行指令的形式实现,并存储在计算机可读程序介质上。
本文件还描述了这些和其他方面。
附图说明
图1A示出了图片中4:2:2的亮度和色度样点的标称垂直和水平位置。
图1B示出了视频编码器的示例。
图2示出67个帧内预测模式的示例。
图3示出了水平和垂直遍历扫描的示例。
图4示出了用于α和β的推导的样点的位置示例。
图5示出了将4x8样点的块划分为两个独立的可解码区域的示例。
图6示出了为了将具有垂直预测器的4xN块的吞吐量最大化而进行的像素行的处理的示例顺序。
图7示出了低频不可分离变换(LFNST)过程的示例。
图8示出了在用于4:2:2视频的CCLM参数的推导中使用的相邻色度样点和下采样的同位相邻亮度样点的示例。
图9示出了视频处理装置的示例。
图10示出了视频编码器的框图。
图11是视频处理方法的示例的流程图。
图12是视频处理系统的示例的框图。
图13示出了当前块中的样点和要使用的左上样点的示例。
图14是示出示例视频编解码系统的框图。
图15是示出根据所公开技术的一些实施例的编码器的框图。
图16是示出根据所公开技术的一些实施例的解码器的框图。
图17A和图17B是根据所公开技术的一些实施例的示例视频处理方法的流程图。
图18是根据所公开技术的一些实施例的视频处理的示例方法的流程图。
图19A至图19D是根据所公开技术的一些实施例的示例视频处理方法的流程图。
具体实施方式
本文件提供了可由图像或视频比特流的解码器使用以改进经解压缩或经解码的数字视频或图像的质量的各种技术。为了简洁起见,本文使用术语“视频”来包括图片序列(传统上称为视频)和单个图像。此外,视频编码器还可以在编码过程中实现这些技术,以便重建用于进一步编码的经解码帧。
为了便于理解,在本文档中使用了节标题,并且节标题并不将实施例和技术限制到对应的小节。因此,来自一节的实施例可以与来自其他节的实施例组合。
1.简要概述
本发明涉及视频编解码技术。具体地,它涉及图像/视频编解码中的交叉分量线性模型预测和其他编解码工具。它可以应用于现有的视频编解码标准(如HEVC),或有待最终确定的标准(多功能视频编解码)。它也可能适用于未来的视频编解码标准或视频编解码器。
2.背景技术
视频编解码标准主要是通过公知的ITU-T和ISO/IEC标准的开发而发展起来的。ITU-T制定了H.261和H.263,ISO/IEC制定了MPEG-1和MPEG-4视觉,两个组织联合制定了H.262/MPEG-2视频、H.264/MPEG-4高级视频编解码(AVC)标准和H.265/HEVC标准。自H.262以来,视频编解码标准是基于混合视频编解码结构的,其中使用时域预测加变换编解码。为了探索超越HEVC的未来视频编解码技术,VCEG和MPEG于2015年联合成立了联合视频探索小组(JVET)。此后,许多新的方法被JVET所采用,并被引入到名为联合探索模型(JEM)的参考软件中。2018年4月,VCEG(Q6/16)和ISO/IEC JTC1 SC29/WG11(MPEG)之间的联合视频专家团队(JVET)成立,旨在制定VVC标准,目标是比HEVC降低50%的比特率。
VVC草案的最新版本,即多功能视频编码(草案7)可在以下网址找到:
http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/16_Geneva/wg11/JVET-P2001-v9.zip
VVC的最新参考软件(名称为VTM)可在以下网址找到:
https://vcgit.hhi.fraunhofer.de/jvet/VVCSoftware_VTM/-/tags/VTM-6.0
2.1.颜色空间与色度子采样
颜色空间,也称为颜色模型(或颜色系统),是一种抽象的数学模型,它简单地将颜色范围描述为数字元组,通常为3或4个值或颜色分量(例如RGB)。从根本上说,颜色空间是对坐标系统和子空间的一种阐述。
对于视频压缩,最常用的颜色空间是YCbCr和RGB。
YCbCr、Y’CbCr或Y Pb/Cb Pr/Cr,也被写成YCBCR或Y’CBCR,是在视频和数字摄影系统中用作颜色图像管线的一部分的一族颜色空间。Y’是亮度分量,CB和CR是蓝色差和红色差色度分量。Y’(带上标符号)与Y区分开来,Y是亮度,这意味着光强度是基于伽马校正的RGB原色进行非线性编码的。
色度子采样是利用人类视觉系统对色差的敏感度低于对亮度的敏感度,通过实现色度信息的分辨率低于亮度信息的分辨率来对图像进行编码的实践。
2.1.1. 4:4:4
三个Y’CbCr分量中的每一个具有相同的采样率,因此不存在色度子采样。这种方案有时用于高端胶片扫描仪和电影后期制作。
2.1.2. 4:2:2
两个色度分量以亮度的一半采样率进行采样:水平色度分辨率减半,而垂直色度分辨率不变。这将未经压缩视频信号的带宽减少三分之一,而视觉差异很小或没有视觉差异。4:2:2颜色格式的标称垂直和水平位置的示例在VVC工作草案中的图1A中描绘。
2.1.3. 4:2:0
在4:2:0中,水平采样比4:1:1增加了一倍,但由于在这一方案中Cb和Cr通道仅在每条交替行上被采样,垂直分辨率降低了一半。因此,数据速率是相同的。Cb和Cr在水平和垂直两者上都以2的因子进行子采样。4:2:0方案有三种变体,具有不同的水平和垂直位置。
·在MPEG-2中,Cb和Cr在水平方向上是共址的(cosited)。Cb和Cr在垂直方向上位于像素之间(间隔地位于)。
·在JPEG/JFIF、H.261和MPEG-1中,Cb和Cr间隔地位于交替亮度样点之间的中间。
·在4:2:0DV中,Cb和Cr在水平方向上共址。在垂直方向上,它们在交替的行上共址。
表2-1从chroma_format_idc和separate_colour_plane_flag推导的SubWidthC和SubHeightC值
Figure BDA0003896220680000051
Figure BDA0003896220680000061
2.2.典型视频编解码器的编解码流程
图1B示出了VVC的编码器框图的示例,其包含三个环内滤波块:去方块滤波器(DF)、样点自适应偏移(SAO)和ALF。与使用预定义滤波器的DF不同,SAO和ALF利用当前图片的原始样点,分别通过添加偏移和应用有限脉冲响应(FIR)滤波器来减小原始样点与重建样点之间的均方误差,其中经编解码侧信息信令通知偏移和滤波器系数。ALF位于每个图片的最后一个处理阶段,并且可以看作是一个试图捕捉和修复前几个阶段制造的伪影的工具。
2.3.具有67个帧内预测模式的帧内模式编解码
为了捕获自然视频中呈现的任意边缘方向,方向帧内模式的数量从HEVC中使用的33个扩展到65个。附加方向模式在图2中被描绘为红色虚线箭头,平面模式和DC模式保持不变。这些更密集的方向帧内预测模式适用于所有块尺寸以及亮度和色度帧内预测两者。
如图2所示,传统的角度帧内预测方向在顺时针方向上被定义为从45度至-135度。在VTM中,对于非正方形块,采用宽角度帧内预测模式自适应地替代了几种传统的角度帧内预测模式。替代后的模式用原始方法来被信令通知,并且在解析后被重新映射到宽角度模式的索引上。帧内预测模式的总数不变,即67个,并且帧内模式编解码不变。
在HEVC中,每个帧内编解码的块具有正方形形状,其每边的长度是2的幂。因此,使用DC模式生成帧内预测器不需要除法操作。在VVC中,块可以具有矩形形状,在一般情况下需要对每个块使用除法操作。为了避免DC预测的除法运算,对于非方形块,只使用较长边计算平均值。
图2示出67个帧内预测模式的示例。
2.4.帧间预测
对于每个帧间预测CU,运动参数由运动矢量、参考图片索引和参考图片列表使用索引,以及将用于帧间预测样点生成的VVC的新编解码特征所需的附加信息组成。运动参数可以以显式或隐式的方式来信令通知。当用跳过模式对CU进行编解码时,CU与一个PU相关联,并且没有显著的残差系数,没有编解码运动矢量增量或参考图片索引。指定merge模式,由此从相邻CU获得当前CU的运动参数,包括空域和时域候选,以及在VVC中引入的附加调度。merge模式不仅适用于跳过模式,还可应用于任何帧间预测CU。merge模式的替代方案是运动参数的显式传输,其中每个CU显式地信令通知运动矢量、每个参考图片列表的对应参考图片索引和参考图片列表使用标志以及其他所需信息。
2.5.帧内块复制(IBC)
帧内块复制(IBC)是SCC上的HEVC扩展中所采用的工具。众所周知,它显著地提高了屏幕内容材料的编解码效率。由于IBC模式被实现为块级编解码模式,因此在编码器处执行块匹配(BM)以找到每个CU的最佳块矢量(或运动矢量)。这里,使用块矢量来指示从当前块到参考块的位移,参考块已经在当前图片内重建。IBC编解码的CU的亮度块矢量是整数精度的。色度块矢量也取整到整数精度。当与AMVR相结合时,IBC模式可以在1像素与4像素运动矢量精度之间切换。IBC编解码的CU被视为除帧内或帧间预测模式之外的第三预测模式。IBC模式适用于宽度和高度均小于或等于64个亮度样点的CU。
在编码器侧,针对IBC执行基于哈希的运动估计。编码器对宽度或高度不超过16个亮度样点的块执行RD检查。对于非merge模式,首先使用基于哈希的搜索来执行块矢量搜索。如果哈希搜索没有返回有效的候选,则将执行基于块匹配的本地搜索。
在基于哈希的搜索中,当前块与参考块之间的哈希键匹配(32比特CRC)被扩展到所有允许的块尺寸。当前图片中每个位置的哈希键计算基于4×4子块。对于较大尺寸的当前块,当所有4×4个子块的所有哈希键都与对应参考位置中的哈希键匹配时,确定与参考块的哈希键匹配的哈希键。如果发现多个参考块的哈希键与当前块的哈希键匹配,则计算每个匹配参考的块矢量成本,并选择成本最小的一个。
在块匹配搜索中,搜索范围被设置为同时覆盖先前和当前的CTU。
在CU级,IBC模式用标志来信令通知,它可以作为IBC AMVP模式或IBC跳过/merge模式来信令通知,如下所示:
-IBC跳过/merge模式:merge候选索引被用于指示列表中来自相邻候选IBC编解码块的哪些块矢量被用于预测当前块。merge列表由空域候选、HMVP候选和成对候选组成。
-IBC AMVP模式:块矢量差以与运动矢量差相同的方式进行编解码。块矢量预测方法使用两个候选作为预测器,一个来自左邻区(left neighbour),一个来自上邻区(如果是IBC编解码)。当任何一个邻区不可用时,将使用默认的块矢量作为预测器。标志被信令通知以指示块矢量预测器索引。
2.6.调色板模式
对于调色板模式信令通知,调色板模式被编解码为编解码单元的预测模式,即,编解码单元的预测模式可以是MODE_INTRA、MODE_INTER、MODE_IBC和MODE_PLT。如果使用调色板模式,CU中的像素值由小的代表性颜色值集合来表示。该集合被称为调色板。对于值接近调色板颜色的像素,调色板索引被信令通知。对于值在调色板之外的像素,用转义符号表示该像素,并直接信令通知量化的像素值。
为了对调色板编码块进行解码,解码器需要对调色板颜色和索引进行解码。调色板颜色由调色板表描述,并且由调色板表编解码工具编码。对每个CU信令通知转义标志以指示当前CU中是否存在转义符号。如果存在转义符号,则调色板表将增加一个,并且最后一个索引被分配给转义模式。CU中所有像素的调色板索引形成调色板索引图,并由调色板索引图编解码工具进行编码。
为了对调色板表进行编解码,维护了调色板预测器。在预测器被重置为0的每个条带的开始处初始化预测器。对于调色板预测器中的每个条目,重用标志被信令通知以指示它是否是当前调色板的一部分。重用标志使用零的游程编解码来发送。在此之后,使用0阶的指数哥伦布码来信令通知新调色板条目的数量。最后,信令通知新调色板条目的分量值。在对当前CU进行编码后,调色板预测器将使用当前调色板进行更新,并且来自前一个调色板预测器中未在当前调色板中重用的条目将被添加到新的调色板预测器的末尾,直到达到允许的最大尺寸(调色板填充)。
为了对调色板索引图进行编解码,使用如图3所示的水平和垂直遍历扫描来对索引进行编解码。使用palette_transpose_flag在比特流中显式地信令通知扫描顺序。
图3示出了水平和垂直遍历扫描的示例。
调色板索引使用两种主要的调色板样点模式进行编解码:‘INDEX’和‘COPY_ABOVE’。除了使用水平扫描时的顶部行、使用垂直扫描时的第一列或以前的模式是‘COPY_ABOVE’时,使用标志来信令通知模式。在‘COPY_ABOVE’模式下,复制上方行中样点的调色板索引。在‘INDEX’模式下,显式地信令通知调色板索引。对于‘INDEX’和‘COPY_ABOVE’模式,都会信令通知一个游程值,该值指定使用相同模式进行编解码的像素数。
索引图的编码顺序如下:首先,信令通知CU的索引值的数量。随后使用截断二进制编解码来信令通知整个CU的实际索引值。索引数和索引值两者都以旁路模式进行编解码。这将索引相关的旁路二进制数(bypass bins)分组在一起。然后,调色板模式(INDEX或COPY_ABOVE)和游程值以交织的方式被信令通知。最后,对应于整个CU的转义样点的分量转义值被分组在一起并以旁路模式进行编解码。在信令通知索引值之后信令通知附加语法元素last_run_type_flag。这个语法元素与索引数结合使用,就不需要信令通知对应于块中最后一次游程的游程值。
在VTM中,针对I条带启用了二元树,将亮度(Luma)和色度(Chroma)编解码单元划分分开。因此,在本方案中,调色板分别应用于亮度(Y分量)和色度(Cb和Cr分量)。如果二元树被禁用,调色板将被共同应用在Y,Cb,Cr分量上,与HEVC调色板相同。
2.7.交叉分量线性模型预测
在VVC中使用交叉分量线性模型(CCLM)预测模式,对于该模式,通过使用如下线性模型基于相同CU的重建亮度样点来预测色度样点:
predC(i,j)=α·recL′(i,j)+ β (2-1)
其中predC(i,j)表示CU中的经预测色度样点,而recL(i,j)表示相同CU的下采样的重建亮度样点。
图4示出了LM模式中涉及的左侧和上方样点以及当前块的样点的位置的示例。
图4示出了用于α和β的推导的样点的位置示例。
除了上方模板和左侧模板可以被用于在LM模式下一起计算线性模型系数外,它们还可以在其他两种LM模式(即LM_A和LM_L模式)中交替使用。在LM_A模式下,只使用上方模板计算线性模型系数。为了得到更多的样点,将上方模板扩展为(W+H)。在LM_L模式下,只使用左侧模板计算线性模型系数。为了得到更多的样点,左侧模板被扩展为(H+W)。对于非正方形块,上方模板被扩展为W+W,左侧模板被扩展为H+H。
利用至多四个相邻色度样点及其对应的下采样的亮度样点推导CCLM参数(α和β)。假设当前色度块维数为W×H,则W’和H’被设置为
—当应用LM模式时,W’=W,H’=H;
—当应用LM-A模式时,W’=W+H;
—当应用LM-L模式时,H’=H+W;
上方相邻位置表示为S[0,-1]…S[W’-1,-1],而左侧相邻位置表示为S[-1,0]…S[-1,H’-1]。然后将四个样点被选为
—当应用LM模式且上方和左侧相邻样点均可用时,S[W’/4,-1],S[3W’/4,-1],S[-1,H’/4],S[-1,3H’/4];
—当应用LM-A模式或只有上方相邻样点可用时,S[W’/8,-1],S[3W’/8,-1],S[5W’/8,-1],S[7W’/8,-1];
—当应用LM-L模式或只有左侧相邻样点可用时,S[-1,H’/8],S[-1,3H’/8],S[-1,5H’/8],S[-1,7H’/8];
对所选位置上的四个相邻亮度样点进行下采样并进行四次比较,以找到两个较小的值:x0 A和x1 A,以及两个较大的值:x0 B和x1 B。它们对应的色度样点值表示为y0 A、y1 A、y0 B和y1 B。则xA、xB、yA和yB推导为:
Xa=(x0 A+x1 A+1)>>1;Xb=(x0 B+x1 B+1)>>1;Ya=(y0 A+y1 A+1)>>1;
Yb=(y0 B+y1 B+1)>>1 (2-2)
最后,根据以下等式求得线性模型参数α和β。
Figure BDA0003896220680000101
β=Yb-α·Xb (2-4)
计算参数α的除法运算是用查找表实现的。为了减少存储表所需的内存,diff值(最大值与最小值之间的差值)和参数α用指数表示法表示。例如,diff是用一个4比特有效部分和一个指数来近似的。因此,1/diff的表被简化为用于16个有意义的值的16个元素,如下所示:
DivTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0}
(2-5)
这样做的好处是既减少了计算的复杂性,又减少了存储所需表所需的内存大小。
为了匹配4:2:0视频序列的色度样点位置,对亮度样点应用两种下采样滤波器,在水平方向和垂直方向两者上实现2:1的下采样率。下采样滤波器的选择由SPS级别标志指定。两个下采样滤波器如下所示,分别对应于“类型0”和“类型2”内容。
Figure BDA0003896220680000111
Figure BDA0003896220680000112
注意,当上参考行在CTU边界处时,仅使用一个亮度行(在帧内预测中一般是行缓冲器)来得出下采样亮度样点。
该参数计算作为解码过程的一部分而不只是作为编码器搜索操作来执行。结果,不使用语法将α和β值传递给解码器。
对于色度帧内模式编解码,允许总共8个帧内模式用于色度帧内模式编解码。这些模式包括五种传统的帧内模式和三种交叉分量线性模型模式(LM,LM_A和LM_L)。色度模式信令和推导过程如表2-2中所示。色度模式编解码直接依赖于对应亮度块的帧内预测模式。由于在I条带中启用了亮度和色度分量的单独的块划分结构,因此一个色度块可以对应于多个亮度块。因此,对于色度DM模式,直接继承覆盖当前色度块中心位置的对应亮度块的帧内预测模式。
表2-2.当cclm_is被启用时从亮度模式的色度预测的推导
Figure BDA0003896220680000113
Figure BDA0003896220680000121
JVET-Q2001-vE中INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubH eightC-1))(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?
(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0
(356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE (357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1)
(359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2(363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样的相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1 (384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1]
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1 (388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1 (389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1 (390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1 (391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
2.8.块差分脉码调制编解码(BDPCM)
BDPCM是在JVET-M0057中提出的。由于水平(垂直)预测器的形状,其使用左侧(A)(顶部(B))像素来预测当前像素,处理块的最吞吐量高效的方式是并行地处理一列(行)的所有像素,并顺序地处理这些列(行)。为了提高吞吐量,我们引入了以下过程:当在这个块上选择的预测器是垂直的时,宽度为4的块被分成具有水平边界的两半;当在这个块上选择的预测器是水平的时,高度为4的块被分成具有垂直边界的两半。
当块被划分时,来自一个区域的样点不被允许使用来自另一个区域的像素来计算预测:如果出现这种情况,预测像素被预测方向上的参考像素替换。对于垂直预测的4×8块中的当前像素X的不同位置,这在图5中示出。
图5示出了将4x8样点的块划分为两个独立的可解码区域的示例。
由于这个特性,现在有可能在2个周期内处理一个4×4块,在4个周期内处理一个4×8或8×4块,依此类推,如图6所示。
图6示出了为了将具有垂直预测器的4xN块的吞吐量最大化而进行的像素行的处理的示例顺序。
表2-3总结了处理块所需的周期数,这取决于块的尺寸。表明两个维度都大于或等于8的任何块可以按照每个周期8个像素甚至更多来处理是容易解决的的。
表2-3.尺寸为4×NN×4的块的最坏情况吞吐量
Figure BDA0003896220680000201
2.9.量化残差域BDPCM
在JVET-N0413中,提出了量化残差域BDPCM(以下称为RBDPCM)。通过在与帧内预测类似的预测方向(水平或垂直预测)上的样点复制对整个块进行帧内预测。对残差进行量化,并对量化残差与其预测器(水平或垂直)量化值之间的增量进行编解码。
对于尺寸为M(行)×N(列)的块,设ri,j,0≤i≤M-1,0≤j≤N-1为使用来自上方或左侧块边界样点的未经滤波样点水平地(跨预测块逐行复制左侧相邻像素值)或垂直地(将顶部相邻行复制到预测块中的每一行)执行帧内预测后的预测残差。设Q(ri,j),0≤i≤M-1,0≤j≤N-1表示残差ri,j的经量化版本,其中残差是原始块值与经预测块值之间的差。然后对经量化的残差样点应用块DPCM,得到具有元素
Figure BDA0003896220680000202
的经修正的M×N数组
Figure BDA0003896220680000203
当信令通知垂直BDPCM时:
Figure BDA0003896220680000204
对于水平预测,应用类似的规则,残差量化样点通过以下获得
Figure BDA0003896220680000205
残差量化样点
Figure BDA0003896220680000211
被发送到解码器。
在解码器端,上述计算被反转以产生Q(ri,j),0≤i≤M-1,0≤j≤N-1。对于垂直预测情况,
Figure BDA0003896220680000212
对于水平情况,
Figure BDA0003896220680000213
将经逆量化残差Q-1(Q(rij))与块内预测值相加,以产生重建样点值。
该方案的主要优点是,逆DPCM可以在系数解析期间动态进行,只需在系数被解析时添加预测器即可,也可以在解析后进行。
在量化残差域BDPCM中,常采用变换跳过法。
2.10.VVC中的多重变换集(MTS)
在VTM中,启用大的块尺寸变换,高达64×64的尺寸,这主要用于更高分辨率的视频,例如1080p和4K序列。对于尺寸(宽度或高度,或宽度和高度两者)等于64的变换块,高频变换系数被归零,从而仅保留低频系数。例如,对于M×N的变换块,M为块宽并且N为块高,当M等于64时,只保留左侧32列变换系数。同样,当N等于64时,只保留顶部32行变换系数。当变换跳过模式被用于大的块时,将使用整个块而不清零任何值。VTM还支持SPS中可配置的最大变换尺寸,使得编码器可以根据具体实现的需要灵活地选择高达16长度、32长度或64长度的变换尺寸。
除了在HEVC中使用的DCT-II外,还使用多重变换选择(MTS)方案对帧间和帧内编解码的块进行残差编解码。它使用DCT8/DST7中的多个选定变换。新引入的变换矩阵是DST-VII和DCT-VIII。表2-4示出了所选DST/DCT的基本函数。
表2-4.N点输入的DCT-II/VIII和DSTVII变换基本函数
Figure BDA0003896220680000214
Figure BDA0003896220680000221
为了保持变换矩阵的正交性,变换矩阵的量化比HEVC中的变换矩阵更精确。为了保持变换后的系数的中间值保持在16比特范围内,在水平变换和垂直变换之后,所有的系数都应该是10比特的。
为了控制MTS方案,在SPS级分别针对帧内和帧间指定单独的启用标志。当在SPS处启用MTS时,会信令通知CU级别标志来指示是否应用MTS。在这里,MTS仅适用于亮度。当满足以下条件时,将信令通知MTS CU级别标志。
—宽度和高度两者均小于或等于32
—CBF标志等于1
如果MTS CU标志等于零,则在两个方向上都应用DCT2。然而,如果MTS CU标志等于1,则另外信令通知两个其他标志以分别指示水平方向和垂直方向的变换类型。变换和信令映射表如表2-5中所示。统一了ISP的变换选择,并且通过消除帧内模式和块形状的依赖关系使用隐式MTS。如果当前块是ISP模式,或者如果当前块是帧内块,并且帧内和帧间显式MTS都打开,则只有DST7被用于水平和垂直变换核两者。当涉及到变换矩阵精度时,使用8比特主变换核。因此,HEVC中使用的所有变换核都保持不变,包括4点DCT-2和DST-7,8点、16点和32点DCT-2。而且,包括64点DCT-2,4点DCT-8,8点、16点、32点DST-7和DCT-8在内的其他变换核使用8比特主变换核。
表2-5.变换和信令映射表
Figure BDA0003896220680000222
Figure BDA0003896220680000231
为了降低大尺寸DST-7和DCT-8的复杂度,对于尺寸(宽度或高度,或宽度和高度两者)等于32的DST-7和DCT-8块,高频变换系数被归零。仅保留16×16低频区域内的系数。
与在HEVC中一样,块的残差可以用变换跳过模式进行编解码。为了避免语法编解码的冗余,当CU级别MTS_CU_flag不等于零时,不信令通知变换跳过标志。变换跳过的块尺寸限制与JEM4中的MTS相同,这指示变换跳过适用于块宽和块高均等于或小于32的CU。注意,当针对当前CU激活LFNST或MIP时,隐式MTS变换被设置为DCT2。而且,当针对帧间编解码块启用MTS时,仍然可以启用隐式MTS。
2.1.1.低频不可分离变换(LFNST)
在VVC中,如图7所示,在前向主变换和量化之间(在编码器处)以及在去量化和反向主变换之间(在解码器侧)应用LFNST(低频不可分离变换),它被称为简化的辅变换。在LFNST中,根据块尺寸采用4×4不可分离变换或8×8不可分离变换。例如,4×4LFNST应用于小块(即,min(width,height)<8),而8×8LFNST应用于较大的块(即,min(width,height)>4)。
图7示出了低频不可分离变换(LFNST)过程的示例。
下面以输入为例,描述了LFNST中使用的不可分离变换的应用。要应用4×4LFNST,4×4输入块X
Figure BDA0003896220680000232
首先表示为矢量
Figure BDA0003896220680000233
Figure BDA0003896220680000234
不可分离变换被计算为
Figure BDA0003896220680000235
其中
Figure BDA0003896220680000236
指示变换系数矢量,T是16×16变换矩阵。随后使用该块的扫描顺序(水平、垂直或对角线)将16×1系数矢量
Figure BDA0003896220680000237
重新组织为4×4块。具有较小索引的系数将与较小扫描索引一起放在4×4系数块中。
2.11.1简化的不可分离变换
LFNST(低频不可分离变换)是在直接矩阵乘法的基础上应用不可分离变换,使其在单个遍次中实现,无需多次迭代。然而,需要降低不可分离的变换矩阵维数,以最小化计算复杂度和存储变换系数的存储空域。因此,在LFNST中使用简化的不可分离变换(或RST)方法。简化的不可分离变换的主要思想是将一个N(8×8NSST的N通常等于64)维矢量映射到不同空间中的R维矢量,其中N/R(R<N)是约简因子。因此,RST矩阵替代N×N矩阵成为如下所示的R×N矩阵:
Figure BDA0003896220680000241
其中变换的R行是N维空间的R个基。RT的逆变换矩阵是其前向变换的转置。对于8×8LFNST,采用4的约简因子(reduction factor),将传统的8×8不可分离变换矩阵尺寸64×64的直接矩阵缩减为16×48的直接矩阵。因此,在解码器侧使用48×16逆RST矩阵来生成8×8左上区域的核心(主要)变换系数。当使用具有相同的变换集配置的16×48矩阵而不是16×64矩阵时,每个矩阵从左上8×8块不包括右下4×4块中的三个4×4块中获取48个输入数据。在降维的帮助下,存储所有LFNST矩阵的内存占用从10KB减少到8KB,性能下降合理。为了降低复杂度,LFNST被限制为仅当第一系数子组之外的所有系数都是非有效的时才适用。因此,当应用LFNST时,所有的主变换系数必须为零。这允许在最低有效位置上的LFNST索引信令的调节,因此避免了当前LFNST设计中仅在特定位置检查有效系数所需的额外系数扫描。LFNST的最坏情况处理(就每像素的乘法而言)将4×4和8×8块的不可分离变换分别限制为8×16和8×48变换。在这些情况下,当应用LFNST时,最低有效扫描位置必须小于8,对于其他尺寸小于16。对于形状为4×n和N×4且N>8的块,建议的限制意味着LFNST现在只应用一次,并且只应用于左上的4×4区域。当应用LFNST时,由于所有仅主系数都为零,因此在这种情况下,主转换所需的操作数减少了。从编码器的角度来看,当测试LFNST变换时,系数的量化被显著简化。必须对前16个系数(按扫描顺序)进行最大速率失真优化量化,其余系数强制为零。
2.11.2.LFNST变换选择
LFNST中使用了总共4个变换集,每个变换集使用2个不可分离变换矩阵(核)。从帧内预测模式到变换集的映射是如表2-6中所示预定义的。如果三种CCLM模式(INTRA_LT_CCLM、INTRA_T_CCLM或INTRA_L_CCLM)中的一种用于当前块(81<=predModeIntra<=83),则为当前色度块选择变换集0。对于每个变换集,通过显式信令通知的LFNST索引进一步指定所选择的不可分离辅变换候选。在变换系数之后,每个CU在比特流中信令通知一次索引。
表2-6.变换选择表
IntraPredMode Tr集索引
IntraPredMode<0 1
0<=IntraPredMode<=1 0
2<=IntraPredMode<=12 1
13<=IntraPredMode<=23 2
24<=IntraPredMode<=44 3
45<=IntraPredMode<=55 2
56<=IntraPredMode<=80 1
81<=IntraPredMode<=83 0
2.11.3.LFNST索引信令及其与其他工具的交互
由于LFNST被限制为只有在第一个系数子组之外的所有系数都是非有效的情况下才适用,因此LFNST索引编解码依赖于最后一个有效系数的位置。另外,LFNST索引是上下文编解码的,但不依赖于帧内预测模式,并且仅第一二进制数是上下文编解码的。此外,LFNST在条带内和条带间两者中以及针对亮度和色度两者都被应用于帧内CU。如果启用了二元树,则分别信令通知亮度和色度的LFNST索引。对于条带间(二元树禁用),单个LFNST索引被信令通知并用于亮度和色度两者。
当选择ISP模式时,禁用LFNST,并且不信令通知RST索引,因为即使将RST应用于每个可行的划分块,性能改善也是微乎其微的。此外,对ISP预测残差禁用RST可以降低编码复杂度。当选择MIP模式时,LFNST也被禁用并且不信令通知索引。
考虑到由于现有的最大变换尺寸限制(64×64),大于64×64的较大CU被隐式拆分(TU平铺(tiling)),对于一定数量的解码管线阶段,LFNST索引搜索可以将数据缓冲增加四倍。因此,LFNST允许的最大尺寸限制在64×64。注意,LFNST仅在DCT2中启用。
2.12.用于色度的变换跳过
在VVC中引入了色度变换跳过(TS)。其动机是通过将transform_skip_flag和mts_idx重新定位到residual_coding部分,来统一亮度与色度之间的TS和MTS信令。为色度TS增加了一个上下文模型。对于mts_idx没有更改上下文模型和二值化。另外,在使用色度TS时也应用TS残差编解码。
语义
transform_skip_flag[x0][y0][cIdx]指定是否将变换应用于相关联的亮度变换块。数组索引x0,y0指定所考虑的变换块的左上亮度样点相对于图片的左上亮度样点的位置(x0,y0)。transform_skip_flag[x0][y0][cIdx]等于1指定没有变换被应用于当前亮度变换块。数组索引cIdx指定颜色分量的指示符;对于亮度等于0,对于Cb等于1,对于Cr等于2。transform_skip_flag[x0][y0][cIdx]等于0指定是否将变换应用于当前变换块取决于其他语法元素。当transform_skip_flag[x0][y0][cIdx]不存在时,它被推断为等于0。
用于色度的BDPCM
除了色度TS支持,BDPCM被添加到色度分量。如果sps_bdpcm_enable_flag为1,则向SPS添加另一个语法元素sps_bdpcm_chroma_enable_flag。这些标志具有以下行为,如表2-7所示。
表2-7.亮度和色度BDPCM的sps标志
Figure BDA0003896220680000261
当BDPCM仅适用于亮度时,当前行为不变。当BDPCM也可用于色度时,针对每个色度块发送bdpcm_chroma_flag。这指示是否在色度块上使用BDPCM。当其被启用时,BDPCM被用于两个色度分量,并且附加的bdpcm_dir_chroma标志被编解码,指示用于两个色度分量的预测方向。
去方块滤波器在两个Block-DPCM块之间的边界上被去激活,因为两个块都不使用通常负责分块伪影的变换阶段。对于亮度和色度分量,这种去激活是独立发生的。
3.公开的方案所解决的技术问题的示例
目前CCLM和TS中线性参数推导的设计存在以下问题:
1.对于非4:4:4颜色格式,CCLM中线性参数的推导涉及相邻色度样点和下采样的同位相邻亮度样点。如图8所示,在当前VVC中,当最近的行不在CTU边界处时,使用4:2:2视频的当前块上方的第二行来推导下采样的同位相邻顶部亮度样点。然而,对于4:2:2视频,垂直分辨率不变。因此,在下采样的同位相邻顶部亮度样点与相邻色度样点之间存在相移。
图8示出了在4:2:2视频的CCLM参数的推导中使用的相邻色度样点和下采样的同位相邻亮度样点的示例。
2.在当前的VVC中,对于亮度变换跳过标志的信令和色度变换跳过标志的信令,在条件检查中使用相同的最大块尺寸。这样的设计没有考虑到颜色格式,这是不可取的。
a.对于亮度BDPCM标志的信令和色度BDPCM标志的信令也存在类似的问题,其中在条件检查中使用相同的最大块尺寸。
3.在JVET-Q2001-vE中规定的VVC中,左侧相邻样点在上方相邻样点之前被放入选定的相邻样点列表中。但是,将上方相邻样点放在左侧相邻样点之前可能会更好。
4.在JVET-Q2001-vE中规定的VVC中,分配了两行相邻的亮度样点。然而,当sps_chroma_vertical_collocated_flag等于1时,需要三行相邻的亮度样点。
5.在JVET-Q2001-vE中规定的VVC中,当左侧相邻亮度样点不可用时,使用当前块的最左侧样点填充左侧相邻亮度样点,并且使用顶部相邻亮度样点填充左上相邻亮度样点。然而,顶部邻近亮度样点尚未被推导。例如,在JVET-Q2001-VE中。
“—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。”
6.在JVET-Q2001-vE中规定的VVC中,当顶部(或/和左侧)相邻亮度样点不可用时,它们被错误地推导。例如,在JVET-Q2001-vE中,“当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]”被用于在顶部相邻亮度样点不可用时推导它们。然而,当顶部相邻亮度样点不可用时,numSampT被设置为0。
7.在当前的VVC中,当顶部和左侧相邻亮度样点可用时,左上相邻亮度样点被用于CCLM参数的推导,但当顶部和左侧相邻亮度样点位于不同的条带中时(例如在光栅条带情况下),左上相邻亮度样点不可用。
4.实施例和技术的列表
下面的列表应该被认为是解释一般概念的示例。不应狭隘地解释这些项目。此外,这些项目可以以任何方式组合。
在本文中,术语“CCLM”表示一种编解码工具,其利用交叉颜色分量信息来预测当前颜色分量的样点/残差或推导当前颜色分量中样点的重建。并不局限于VVC中描述的CCLM技术。
CCLM中线性参数的推导
1.当推导色度块的CCLM参数时,可以使用其同位亮度块的一个或多个上方相邻行来推导其下采样的同位相邻顶部亮度样点。
a.在一个示例中,当当前色度块不在顶部CTU边界处时,同位亮度块的最近的上方行而不是上方的第二行可以被用于推导下采样的同位相邻顶部亮度样点。
i.在一个示例中,一个相同的下采样滤波器可以被用于推导下采样的同位相邻顶部亮度样点和下采样同位相邻左侧亮度样点。
1)例如,可以使用[1 2 1]滤波器。更具体地,pDsY[x]=(pY[2×x-1][-1]+2×pY[2×x][-1]+pY[2×x+1][-1]+2)>>2,其中pY[2×x][-1]、pY[2×x-1][-1]、pY[2×x+1][-1]是来自最近的上方相邻行上的亮度样点,而pDsY[x]表示下采样的同位相邻顶部亮度样点。
ii.在一个示例中,不同的下采样滤波器(例如,不同的滤波器抽头/不同的滤波器系数)可以被用于推导下采样的同位相邻顶部亮度样点和下采样的同位相邻左侧亮度样点。
iii.在一个示例中,一个相同的下采样滤波器可以被用于推导下采样的同位相邻顶部亮度样点,而不管色度块的位置(例如,色度块可以在顶部CTU边界处,也可以不在顶部CTU边界处)。
iv.在一个示例中,上述方法可以仅应用于4:2:2格式的图片/视频。
b.在一个示例中,当当前色度块不在顶部CTU边界处时,上方相邻亮度样点,包括同位亮度块的最近的上方行但不包括上方的第二行可以被用于推导下采样的同位相邻顶部亮度样点。
c.在一个示例中,下采样的同位相邻顶部亮度样点的推导可以依赖于位于多行处的样点。
i.在一个示例中,它可以依赖于同位亮度块上方的第二最近行和最近行。
ii.在一个示例中,对于不同的颜色格式(例如,4:2:0和4:2:2),可以使用一个相同的下采样滤波器推导下采样的同位相邻顶部亮度样点。
1)在一个示例中,可以使用6抽头滤波器(例如,[1 2 1;1 2 1])。
a)在一个示例中,下采样的同位相邻顶部亮度样点可以推导为:pDsY[x]=(pY[2×x-1][-2]+2×pY[2×x][-2]+pY[2×x-1][-1]+2×pY[2×x][-1]+pY[2×x+1][-1]+pY[2×x+1][-1]+4)>>3,其中pY是对应的亮度样点,并且pDsY[x]表示下采样的同位相邻顶部亮度样点。
b)可替代地,此外,当sps_cclm_colocated_chroma_flag等于0时,可以应用上述方法。
2)在一个示例中,可以使用5抽头滤波器(例如,[0 1 0;1 4 1;0 1 0])。
a)在一个示例中,下采样的同位相邻顶部亮度样点可以推导为:pDsY[x]=(pY[2×x][-2]+pY[2×x][-1]+4×pY[2×x][-1]+pY[2×x+1][-1]+pY[2×x][0]+4)>>3,其中pY是对应的亮度样点,并且pDsY[x]表示下采样的同位相邻顶部亮度样点。
b)可替代地,此外,当sps_cclm_colocated_chroma_flag等于1时,可以应用上述方法。
iii.在一个示例中,上述方法可以仅应用于4:2:2格式的图片/视频。
变化跳过编解码块的最大块尺寸(例如,在transform_skip_flag等于1的情况下,或BDPCM或其他跳过变换处理/使用标识变换的模式下)
2.变换跳过编解码块的最大块尺寸可以取决于颜色分量。分别用MaxTsSizeY和MaxTsSizeC表示用于亮度和色度的变换跳过编解码块的最大块尺寸。
a.在一个示例中,用于亮度和色度分量的最大块尺寸可以不同。
b.在一个示例中,用于两个色度分量的最大块尺寸可以不同。
c.在一个示例中,用于亮度和色度分量或用于每个颜色分量的最大块尺寸可以被单独地信令通知。
i.在一个示例中,MaxTsSizeC/MaxTsSizeY可以在序列级/图片级/条带级/片组级上被信令通知,诸如在序列标头/图片标头/SPS/VPS/DPS/PPS/APS/条带标头/片组标头中。
ii.在一个示例中,可以有条件地信令通知MaxTsSizeY,诸如根据变换跳过是否启用/BDPCM是否启用。
iii.在一个示例中,可以有条件地信令通知MaxTsSizeC,诸如根据颜色格式/变换跳过是否启用/BDPCM是否启用。
iv.可替代地,可以使用用于亮度和色度分量的最大块尺寸之间的预测编解码。
d.在一个示例中,MaxTsSizeC可能依赖于MaxTsSizeY。
i.在一个示例中,MaxTsSizeC可以被设置为等于MaxTsSizeY。
ii.在一个示例中,MaxTsSizeC可以被设置为等于MaxTsSizeY/N(N是整数)。例如,N=2。
e.在一个示例中,MaxTsSizeC可以根据色度子采样比来设置。
i.在一个示例中,MaxTsSizeC被设置为等于MaxTsSizeY>>SubWidthC,其中SubWidthC在表2-1中定义。
ii.在一个示例中,MaxTsSizeC被设置为等于MaxTsSizeY>>SubHeightC,其中SubHeightC在表2-1中定义。
iii.在一个示例中,MaxTsSizeC被设置为等于MaxTsSizeY>>max(SubWidthC,SubHeightC)。
iv.在一个示例中,MaxTsSizeC被设置为等于MaxTsSizeY>>min(SubWidthC,SubHeightC)。
3.变换编解码块的最大允许块尺寸、宽度和高度可以不同地定义。
a.在一个示例中,最大允许的块尺寸宽度和高度可以分别被信令通知。
b.在一个示例中,色度变换编解码块的最大允许块尺寸宽度和高度可以分别表示为MaxTsSizeWC和MaxTsSizeHC。MaxTsSizeWC可以被设置为等于MaxTsSizeY>>SubWidthC,MaxTsSizeHC可以设置为等于MaxTsSizeY>>SubHeightC。
i.在一个示例中,MaxTsSizeY是项目符号2中定义的那个。
4.是否信令通知针对色度块的变换跳过标志(例如,transform_skip_flag[x0][y0][1]和/或transform_skip_flag[x0][y0][2])可以取决于色度变换跳过编解码块的最大允许尺寸。
a.在一个示例中,可以根据以下条件有条件地信令通知色度变换跳过标志:
i.在一个例子中,条件是:tbW小于或等于MaxTsSizeC且tbH小于或等于MaxTsSizeC,其中tbW和tbH是当前色度块的宽度和高度。
1)在一个示例中,MaxTsSizeC可以定义为项目符号2-3中的那个。
ii.在一个示例中,条件是:tbW小于或等于MaxTsSizeWC且tbH小于或等于MaxTsSizeHC,其中tbW和tbH是当前色度块的宽度和高度,MaxTsSizeWC和MaxTsSizeHC分别表示色度变换跳过编解码块的最大允许块尺寸宽度和高度。
1)在一个示例中,MaxTsSizeWC和/或MaxTsSizeHC可以定义为项目符号3中的那个。
b.在一个示例中,通过将“变换跳过”替换为“BDPCM”,上述方法可以适用于色度BDPCM标志(例如,intra_bdpcm_chroma_flag)的编解码。
5.提出用一个语法来指示针对两个色度颜色分量的TS使用,而不是针对两个色度颜色分量对两个TS标志进行编解码。
a.在一个示例中,代替对transform_skip_flag[x0][y0][1]和/或transform_skip_flag[x0][y0][2])进行编解码,可以对单个语法元素(例如TS_chroma_flag)进行编解码。
i.在一个示例中,单个语法元素的值是二进制值。
1)此外,可替代地,两个色度分量块根据单个语法元素共享相同的TS模式的开/关控制。
a)在一个示例中,单个语法元素的值等于0指示TS对两者都禁用。
b)在一个示例中,单个语法元素的值等于0指示TS对两者都启用。
2)此外,可替代地,可以基于单个语法元素的值是否等于K(例如,K=1)进一步信令通知第二语法元素。
a)在一个示例中,单个语法元素的值等于0指示TS对两者都禁用;单个语法元素的值等于0指示对两个色度分量中的至少一个启用了TS。
b)第二语法元素可以被用于指示TS被应用于两个色度分量中的哪一个和/或TS被应用于它们两者。
ii.在一个示例中,单个语法元素的值是非二进制值。
1)在一个示例中,单个语法元素的值等于K0指示TS对两者都禁用。
2)在一个示例中,单个语法元素的值等于K1指示对于第一色度颜色分量启用TS,对于第二颜色分量禁用TS。
3)在一个示例中,单个语法元素的值等于K2指示对于第一色度颜色分量禁用TS,对于第二颜色分量启用TS。
4)在一个示例中,单个语法元素的值等于K3指示TS对两者都启用。
5)在一个示例中,单个语法元素可以用固定长度、一元、截断一元、k阶EG二值化方法来进行编解码。
iii.在一个示例中,单个语法元素和/或第二语法元素可以被上下文编解码或旁路编解码。
一般声明
6.是否和/或如何应用上述公开的方法可以在序列级/图片级/条带级/片组级上被信令通知,诸如在序列标头/图片标头/SPS/VPS/DPS/PPS/APS/条带标头/片组标头中。
7.是否和/或如何应用上述公开的方法取决于编解码信息,诸如颜色格式、单树/二元树划分。
对CCLM的附加声明
8.在CCLM参数推导过程中,在左侧相邻样点之前将上方相邻样点放入所选择的相邻样点列表中,并使用所选择的相邻样点列表来推导CCLM参数(例如,使用4点推导法,其中两个较大的值平均,两个较小的值平均,并且使用这两个平均值来推导线性参数)。在实施例5中演示了一个示例。
9.在CCLM参数推导过程中,当得到表示为pSelDsY[idx]的下采样的上方相邻亮度样点时,索引值idx应该在cntL至cntL+cntT-1的范围中,其中cntL和cntT分别表示用于推导CCLM参数的左侧相邻色度样点和上方相邻色度样点的数量。
a.在实施例5中演示了一个示例。
b.此外,可替代地,左侧相邻样点在上方相邻样点之前被放入选定的相邻样点列表中。
10.在CCLM参数推导过程中,分配三行的上方相邻亮度样点。在实施例6中演示了一个示例。
11.在CCLM参数推导过程中,分配T1行和T2列的左上相邻亮度样点。
a.在一个示例中,T1=2和T2=2。在实施例12中演示了一个示例。
b.在一个示例中,T1=3和T2=3。
12.在CCLM参数推导过程中,要分配的上方亮度相邻样点的行数可以取决于指示是否相对于对应亮度样点位置不垂直移位的色度样点位置的变量或语法元素,诸如JVET-Q2001-vE中的sps_chroma_vertical_collocated_flag。
a.在一个示例中,当sps_chroma_vertical_collocated_flag等于1时,分配三行的上方相邻亮度样点。否则,分配两行的上方相邻亮度样点。在实施例7中演示了示例。
13.在上述示例中,相邻亮度样点可以是下采样前的相邻亮度样点,也可以是下采样后的相邻亮度样点。
14.在CCLM参数推导过程中,是否和/或如何填充左上相邻样点可以取决于左上相邻样点中至少一个的可用性,而不是左侧相邻样点和/或上方相邻样点的可用性。
a.在一个示例中,左上相邻样点中的至少一个的可用性可以取决于左上相邻样点和当前块中的样点中的至少一个是在相同的条带中还是在不同的条带中。
i.此外,上述条带可以是矩形条带,也可以是非矩形条带。
b.在一个示例中,如果左上相邻样点和当前块中的样点中的至少一个在不同的条带中,则填充左上相邻样点。
c.在一个示例中,如果至少一个左上相邻样点的可用性为假,则填充左上相邻样点。
15.在CCLM参数推导过程中,当左上相邻亮度样点“不可用”时,可以不使用它们。
a.在一个示例中,如果相邻样点在当前图片、或当前子图片、或当前片、或当前条带、或当前砖块、或当前CTU、或当前处理单元或任何其他当前视频单元之外,则相邻样点是“不可用的”。
i.在一个示例中,对于图13所示的非矩形条带情况,位于与当前块不同的条带中的左上相邻亮度样点是“不可用的”。
b.在一个示例中,在CCLM的过程中是否使用左上相邻亮度样点可以取决于它们是否与当前块在相同的图片/子图片/片/条带/砖块/CTU/处理单元/其他视频单元中。
i.在一个示例中,当左上相邻亮度样点位于与当前块不同的光栅条带中时,可以不在CCLM过程中使用它们。
1)在实施例10中演示了一个示例。
ii.在一个示例中,左上相邻亮度样点可以不在CCLM过程中使用,尽管它们与当前块在相同的图片/子图片/片/条带/砖块/CTU/处理单元/其他视频单元中。
c.在CCLM参数推导过程中,当左上相邻亮度样点“不可用”时,可以使用重复填充来生成左上相邻亮度样点。用(x,y)表示当前块的左上样点位置。用pY[i][j]表示去方块滤波过程之前的重建亮度样点。用pD[m][n]表示经填充的左上亮度样点,其中m=x-1...x-M,n=y-1...y-N,其中m和n是诸如1的整数。
i.在一个示例中,当左侧或/和顶部相邻亮度样点可用时,可以使用重复填充方法。
ii.在一个示例中,当顶部相邻亮度样点可用时,可以从顶部相邻亮度样点填充左上相邻亮度样点。
2)在一个示例中,pD[m][n]=pY[x][n]。
iii.在一个示例中,当左侧相邻亮度样点可用时,可以从左侧相邻亮度样点填充左上相邻亮度样点。
3)在一个示例中,pD[m][n]=pY[m][y]。
iv.在一个示例中,当顶部相邻亮度样点可用并且左侧相邻亮度样点可用时,可以从顶部相邻亮度样点填充左上相邻亮度样点。
4)在一个示例中,pD[m][n]=pY[x][n]。
v.可替代地,当顶部相邻亮度样点可用并且左侧相邻亮度样点可用时,可以从左侧相邻亮度样点填充左上相邻亮度样点。
5)在一个示例中,pD[m][n]=pY[m][y]。
vi.在一个示例中,M=2,N=2,或M=3,N=3。
d.可替代地,当左上相邻亮度样点“不可用”时,它们可以被预定义的值替换。
i.在一个示例中,预定值可以等于常量值,例如128。
ii.在一个示例中,可以使用左侧或/和顶部相邻亮度样点推导预定义值。
6)在一个示例中,预定义值可以等于左侧或/和顶部相邻亮度样点的平均值。
iii.在一个示例中,预定义值可以依赖于样点的比特深度。例如,预定义值可以等于1<<(BD-1),其中BD表示样点的比特深度。
e.可替代地,即使左上相邻亮度样点是“可用的”,也可以使用项目符号14.c中的上述填充方法和项目符号14.d中的预定义值来替换可用的左上相邻亮度样点。
i.在实施例11中演示了一个示例。
f.在一个示例中,是否检查左上相邻亮度样点的可用性可以取决于左侧相邻亮度样点是否可用或/和顶部相邻亮度样点是否可用。
i.在一个示例中,仅当左侧相邻亮度样点和顶部相邻亮度样点都可用时,才检查左上相邻亮度样点的可用性。在实施例17中示出了一个示例。
g.在一个示例中,是否和/或如何使用或/和填充左上相邻亮度样点可以取决于左上、或/和左侧、或/和顶部相邻亮度样点的可用性。
i.在一个示例中,仅当左上相邻亮度样点可用时,才可以使用左上相邻亮度样点。
ii.在一个示例中,仅当左上、左侧和顶部相邻亮度样点可用时,才可以使用左上相邻亮度样点。在实施例18中示出了一个示例。
iii.在一个示例中,当左侧和/或顶部相邻亮度样点可用时,可以填充左上相邻亮度样点。
1)在一个示例中,仅当左侧或顶部相邻亮度样点可用并且左上相邻亮度样点不可用时,才可以填充左上相邻亮度样点。
2)在一个示例中,仅当左侧和顶部相邻亮度样点可用并且左上相邻亮度样点不可用时,才可以填充左上相邻亮度样点。
3)在一个示例中,可以使用顶部相邻亮度样点填充左上相邻亮度样点。其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。在实施例18中示出了一个示例。
4)其中在一个示例中,可以使用顶部相邻亮度样点填充左上相邻亮度样点。x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。在实施例19中示出了一个示例。
5)在一个示例中,可以使用顶部和左侧相邻亮度样点填充左上相邻亮度样点。
h.在一个示例中,是否检查左上相邻亮度样点的可用性,或者/和使用左上相邻亮度样点,或者/和填充左上相邻亮度样点可以取决于色度颜色格式。
i.在一个示例中,当使用4:4:4颜色格式时,不需要检查左上相邻亮度样点的可用性,或/和使用左上相邻亮度样点,或/和填充左上相邻亮度样点。在实施例20中示出了一个示例。
i.在一个示例中,是否填充左上相邻亮度样点和/或哪些样点需要填充可以取决于指示是否相对于对应亮度样点位置不垂直移位的色度样点位置的变量或语法元素,诸如JVET-Q2001-vE中的sps_chroma_vertical_collocated_flag。
i.在一个示例中,当sps_chroma_vertical_collocated_flag等于1时,填充左上相邻亮度样点。否则,左上相邻样点不被填充。在实施例14中演示了示例。
16.在CCLM过程中,当顶部(或/和左侧)相邻亮度样点不可用时,使用当前块的最顶部(或/和最左侧)样点推导顶部(或/和左侧)相邻亮度样点。并且可以使用左侧(或/和顶部)可用的相邻亮度样点来推导左上相邻样点。
a.在一个示例中,当顶部相邻亮度样点不可用时,可以使用当前块的最顶部样点和左侧相邻亮度样点来推导顶部和左上相邻亮度样点。
i.在一个示例中,其中x=0..SubWidthC×nTbW-1,y=-1..-2的顶部相邻亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。并且将其中x=-1,y=-1..-2的左上相邻亮度样点pY[x][y]设置为等于亮度样点pY[x][0],其中pY[0][0]表示当前块的左上样点,nTbW表示当前块的宽度,而SubWidthC在2.1中定义。
ii.在一个示例中,其中x=0..SubWidthC×nTbW-1,y=-1..-N的顶部相邻样点pY[x][y]被设置为等于亮度样点pY[x][0]。并且将其中x=-M..-1,y=-1..-N的左上相邻亮度样点pY[x][y]设置为等于亮度样点pY[x][0],其中pY[0][0]表示当前块的左上样点,nTbW表示当前块的宽度,而SubWidthC在2.1中定义。在实施例13中演示了一个示例。
1)在一个示例中,M和N是整数,诸如M=2和N=3。
2)在一个示例中,M可以依赖于色度颜色格式,诸如M=SubWidthC,这是在2.1中定义的。
3)在一个示例中,可以填充最多T个左上相邻亮度样点,其中T是整数(诸如1)。
a)在一个示例中,pY[-M][-1]=pY[-M][0],其中M=1或M=SubWidthC。
b.在一个示例中,当左侧相邻亮度样点不可用时,可以使用当前块的最左侧样点和顶部相邻亮度样点来推导左侧和左上相邻亮度样点。
i.在一个示例中,其中x=0..-3,y=-1..SubHeightC×nTbH-1的左侧相邻亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。并且将其中x=0..-3,y=-1的左上相邻亮度样点pY[x][y]设置为等于亮度样点pY[0][y],其中pY[0][0]表示当前块的左上样点,nTbH表示当前块的高度,而SubHeightC在2.1中定义。
ii.在一个示例中,其中x=-1..-M,y=0..SubHeightC×nTbH-1的左侧相邻亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。并且将其中x=-1..-M,y=-1..-N的左上相邻亮度样点pY[x][y]设置为等于亮度样点pY[0][y],其中pY[0][0]表示当前块的左上样点,nTbH表示当前块的高度,而SubHeightC在2.1中定义。在实施例15中演示了示例。
1)在一个示例中,M和N是整数,诸如M=2,N=3。
2)在一个示例中,M可以取决于色度颜色格式,诸如N=SubHeightC,这是在2.1中定义的。
3)在一个示例中,可以填充最多T个左上相邻亮度样点,其中T是整数(诸如1)。
a)在一个示例中,pY[-1][-N]=pY[0][-N],其中N=1或N=SubHeightC。
b)可替代地,T等于2。pY[-1][-1]=pY[0][-1],pY[-1][-2]=pY[0][-2]。
iii.在一个示例中,可以在推导顶部相邻亮度样点之后填充左上亮度相邻样点。在实施例16中演示了一个示例。
c.在一个示例中,在填充顶部(或/和左侧)相邻亮度样点的过程中,可以使用在项目13中推导的左上相邻亮度样点。
d.在一个示例中,是否填充顶部(或/和左侧)相邻亮度(或色度)样点和/或哪些相邻样点需要被填充取决于色度颜色格式。
i.在一个示例中,当使用4:4:4颜色格式时,不需要填充顶部(或/和左侧)相邻亮度样点。在实施例21中示出了一个示例。
e.在一个示例中,当填充顶部(或/和左侧)相邻亮度样点时,使用15(诸如15.c)中的方法填充左上相邻亮度样点。在实施例22中示出了一个示例。
17.在CCLM预测过程中,可以以固定的顺序进行顶部相邻样点、左侧相邻样点和左上相邻样点的填充。相邻样点可以是亮度样点或色度样点。
a.例如,顺序可能是顶部相邻样点填充、左侧相邻样点填充以及左上相邻样点填充。
b.例如,顺序可能是左侧相邻填充、顶部相邻样点填充以及左上相邻样点填充。
c.例如,顺序可能是左上相邻填充、顶部相邻样点填充以及左侧相邻样点填充。
d.例如,顺序可能是左上相邻填充、左侧相邻样点填充以及顶部相邻样点填充。
18.4:2:2颜色格式视频的CCLM中的下采样过程可以与语法元素或变量(诸如JVET-Q2001-vE中的sps_chroma_vertical_collocated_flag)解耦,该语法元素或变量指示色度样点位置是否相对于对应的亮度样点位置垂直移位。
a.在一个示例中,下采样过程可以指对相邻上方亮度样点进行下采样,或/和对相邻左侧亮度样点进行下采样,或/和对当前亮度块中的样点进行下采样。
b.在一个示例中,无论sps_chroma_vertical_collocated_flag等于1还是0,固定滤波器(诸如具有系数[1/4,2/4,1/4]或[2/8,4/8,2/8]的3抽头水平滤波器)可以用于4:2:2颜色格式视频的CCLM中的下采样过程。在实施例27和实施例28中示出了一个示例。
19.在一个示例中,指示色度样点位置是否相对于对应的亮度样点位置垂直移位的变量或语法元素(例如,JVET-Q2001-vE中的sps_chroma_vertical_collocated_flag)可以被设置为默认值,诸如对于4:2:2和/或4:4:4:4颜色格式的0或1。
a.在一个示例中,当sps_chroma_vertical_collocated_flag不存在时,其可以被推断为等于1。
b.在一个示例中,当sps_chroma_vertical_collocated_flag不存在时,其可以被推断为等于0。
20.在CCLM过程中,只有当表示相邻亮度样点的变量被设置为有效值时,才能使用该变量。在实施例29和实施例30中示出了一个示例。
a.在一个示例中,表示相邻上方亮度样点的变量可以在去方块滤波过程之前被设置为等于重建的亮度样点。
i.在一个示例中,当相邻上方亮度样点可用时(例如,在JVET-Q2001-vE中availT等于真),表示用pY[x][y]表示的相邻上方亮度样点的变量被设置为等于在位置(xTbY+x,yTbY+y)处去方块滤波过程之前的重建亮度样点,其中(xTbY,yTbY)表示当前块的左上位置。
1)在一个示例中,x和y可以在x=0...SubWidthC×max(numSampT,nTbW)-1,y=-1,-2的范围内,其中nTbW表示当前块的宽度,并且SubWidthC在2.1中定义,并且numSampT指示在顶部和右上上可用的相邻色度样点的数量,并且在JVET-Q2001-vE中定义。
b.在一个示例中,表示相邻左侧亮度样点的变量可以在去方块滤波过程之前被设置为等于重建的亮度样点。
i.在一个示例中,当相邻左侧亮度样点可用时(例如,在JVET-Q2001-vE中availL等于真),表示用pY[x][y]表示的相邻左侧亮度样点的变量被设置为等于在位置(xTbY+x,yTbY+y)处去方块滤波过程之前的重建亮度样点,其中(xTbY,yTbY)表示当前块的左上位置。
1)在一个示例中,x和y可以在x=-1..-3,y=0..SubHeightC×max(numSampL,nTbH)-1的范围内,其中nTbH表示当前块的宽度,并且SubHeightC在2.1中定义,并且numSampL指示在左侧和左下上可用的相邻色度样点的数量,并且在JVET-Q2001-vE中定义。
21.条带的条带类型可以取决于该条带的参考图片条目。
a.在一个示例中,如果列表0的参考图片条目的数量等于0,并且列表1的参考图片条目的数量等于0,则条带类型一定是I条带。
i.在一个示例中,在这种情况下条带类型没有被信令通知。
b.在一个示例中,如果列表0的参考图片条目的数量大于0,并且列表1的参考图片条目的数量等于0,则条带类型一定是P条带。
i.可替代地,如果列表0的参考图片条目的数量大于0,并且列表1的参考图片条目的数量等于0,则条带类型不可能是B条带。
ii.在一个示例中,在这种情况下条带类型没有被信令通知。
c.可以在信令通知或推断条带类型之前信令通知或推断条带的参考图片条目。
i.条带的参考图片条目可以在与图片相关联的图片标头中被信令通知。
22.APS中允许的滤波器的总数或APS的总数可以根据经编解码信息(诸如子图片的数量)来限制。
a.APS中允许的滤波器的总数可以包括具有PU的所有APS NAL单元中的ALF APS中的亮度/色度ALF和CC-ALF的总数。
b.APS中允许的滤波器的总数可以包括用于亮度分量(或亮度ALF滤波器)的自适应环路滤波器类的总数、用于色度分量的替代滤波器(色度ALF滤波器)的总数和/或具有PU的所有APS NAL单元中的交叉分量滤波器的总数。
c.APS是ALF APS/缩放列表APS/LMCS APS。
d.如何信令通知APS ID,和/或将由视频单元使用的APS的数量取决于限制的数量。
23.一致性比特流应遵循以下规则:如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用BDPCM,则禁用符号数据隐藏。
a.可替代地,一致性比特流应遵循以下规则,如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用了符号数据隐藏,则禁用BDPCM。
24.一致性比特流应遵循以下规则:如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用了仅应用标识变换的变换跳过/编解码工具,则禁用符号数据隐藏。
a.可替代地,一致性比特流应遵循以下规则,如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用了符号数据隐藏,则仅应用标识变换的变换跳过/编解码工具被禁用。
25.一致性比特流应遵循以下规则:如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用BDPCM,则禁用DQ(依赖量化)。
a.可替代地,一致性比特流应遵循以下规则,如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用了DQ,则禁用BDPCM。
26.一致性比特流应遵循以下规则:如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用了仅应用标识变换的变换跳过/编解码工具,则禁用DQ(依赖量化)。
a.可替代地,一致性比特流应遵循以下规则,如果对视频单元(例如,序列/图片/条带/片/砖块/子图片)启用了DQ,则仅应用标识变换的变换跳过/编解码工具被禁用。
5.实施例
本节示出示例实施例和修改当前VVC标准以描述这些实施例的方法。对VVC规范的更改以粗体和斜体突出显示。删除的文本用双括号标记(例如,[[a]]表示删除字符“a”)。
5.1.实施例1
JVET-P2001-v9中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (8-159)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[i]=1,其中i=0..1 (8-160)
F2[0]=1,F2[1]=2,F2[2]=1 (8-161)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (8-162)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (8-163)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (8-164)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (8-165)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (8-166)
—否则,适用以下:
F1[0]=2,F1[1]=0 (8-167)
F3[1][1]=8 (8-168)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (8-169)
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样的相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1,如下指定:
—否则(sps_cclm_colocated_chroma_flag等于0),则适用以下:
—如果x大于0,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC×x-1][[[-2]]-1]+
F4[0][2]×pY[SubWidthC×x-1][[[-1]]-2]+
F4[1][1]×pY[SubWidthC×x][[[-2]]-1]+(8-193)
F4[1][2]×pY[SubWidthC×x][[[-1]]-2]+
F4[2][1]×pY[SubWidthC×x+1][[[-2]]-1]+
F4[2][2]×pY[SubWidthC×x+1][[[-1]]-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(8-194)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(x等于0),则适用以下:
—如果availTL等于真(TRUE)且bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1][[[-2]]-1]+F4[0][2]×pY[-1][[[-1]]-2]+F4[1][1]×pY[0][[[-2]]-1]+F4[1][2]×pY[0][[[-1]]-2]+(8-195)
F4[2][1]×pY[1][[[-2]]-1]+F4[2][2]×pY[1][[[-1]]-2]+4)>>3
—否则,如果availTL等于真(TRUE)且bCTUboundary等于真(TRUE),则适用以下:
pSelDsY[idx]=(F2[0]×pY[-1][-1]+F2[1]×pY[0][-1]+
F2[2]×pY[1][-1]+2)>>2 (8-196)
—否则,如果availTL等于假(FALSE)且bCTUboundary等于真(TRUE),则适用以下:
pSelDsY[idx]=(F1[1]×pY[0][-2]+F1[0]×pY[0][-1]+1)>>1
(8-197)
—否则(availTL等于假(FALSE)且bCTUboundary等于真(TRUE)),则适用以下:
pSelDsY[idx]=pY[0][-1] (8-198)
5.2.实施例2
本实施例示出了根据最大允许变换跳过编解码块尺寸进行色度变换跳过标志编解码的示例。JVET-P2001-v9中规定的工作草案可作如下更改。
7.3.9.10变换单元语法
Figure BDA0003896220680000441
Figure BDA0003896220680000451
5.3.实施例3
本实施例示出了根据最大允许色度变换跳过编解码块尺寸进行色度BDPCM标志编解码的示例。JVET-P2001-v9中规定的工作草案可作如下更改。
7.3.9.5编解码单元语法
Figure BDA0003896220680000452
Figure BDA0003896220680000461
5.4.实施例4
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE
(357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,
F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1(367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
[[4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2]]
4.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx]][-1],其中idx=0..cntT-1,并且下采样的相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntT-1如下指定:
—变量x被设置为等于pickPosT[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
5.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx-cntT]],其中idx=cntT..cntT+cntL-1,并且所选择的下采样的相邻左亮度样点pSelDsY[idx],idx=cntT..cntT+cntL-1,其如下推导:
—变量y被设置为等于pickPosL[idx-cntT]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx)(386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1(391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC(396)
x=Floor(Log2(diff))(397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0}
(405)
—否则(diff等于0),则适用以下:
k=0(406)
a=0(407)
b=minC(408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.5.实施例5
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE (357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样的相邻顶部亮度样点pSelDsY[idx],其中idx=[[0]]cntL..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1 (391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0}
(405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.6.实施例6
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2
×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?
(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE(357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-[[2]]3的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2,-3的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,
F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样的相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1 (391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0}
(405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.7.实施例7
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE(357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..[[-2]]-(2+sps_chroma_vertical_collocated_flag)的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-(2+sps_chroma_vertical_collocated_flag)[[-2]]的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,
F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]× pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1(391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0}
(405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b)
(409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.8.实施例8
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,x=0。2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
[[—变量availTL如下推导:
availTL=availL&&availT (352)]]
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?
(nTbW+Min(numTopRig ht,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE (357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—[[当]]如果availTL等于真(TRUE)时,x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,如果availT等于真,则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—否则,如果availL等于真,则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1(391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0}(405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.9.实施例9
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,x=0。2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE(357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×[[numSampT]]nTbW-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
[[—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。]]
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×nTbH-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1(391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.10.实施例10
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
[[—变量availTL如下推导:
availTL=availL&&availT (352)]]
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE(357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。]]
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—[[当]]如果availTL等于真(TRUE)时,x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,如果availT等于真,则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—否则,如果availL等于真,则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availT等于假(FALSE)时,其中x=0..SubWidthC×nTbW-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=0..-3,y=-1..SubHeightC×nTbH-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1(391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0(399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0(406)
a=0(407)
b=minC(408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.11.实施例11
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
[[—变量availTL如下推导:
availTL=availL&&availT (352)]]
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE (357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[—当availTL等于真(TRUE)时,x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availT等于真,则x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—否则,如果availL等于真,则x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1 (391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.12.实施例12
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE (357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×
numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-23的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y]其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=0..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1 (391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0(399)y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.13.实施例13
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM
帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-[[1]]SubWidthC..SubWidthC×[[numSampT]]nTbW-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.14.实施例14
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM
帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)且sps_chroma_vertical_collocated_flag等于0时,其中x=-[[1]]SubWidthC..SubWidthC×[[numSampT]]nTbW-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.15.实施例15
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=[[1]]SubHeightC..SubHeightC×[[numSampL]]nTbH-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.16.实施例16
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—[[当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。]]
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-SubHeightC..SubHeightC×nTbH-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.17.实施例17
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—如果availTL等于真且availT等于真,则适用以下:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
—否则,availTL被设置为等于假。
[[-变量availTL如下推导:
availTL=availL&&availT(352)]]
5.18.实施例18
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[-当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availL和availT两者都等于真(TRUE),则适用以下:
—如果availTL等于真(TRUE),其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
5.19.实施例19
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[-当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availL和availT两者都等于真(TRUE),则适用以下:
—如果availTL等于真(TRUE),其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
5.20.实施例20
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是经预测样点predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—如果SubWidthC或SubHeightC等于2,则适用以下:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
—否则,availTL被设置为等于假。
[[-变量availTL如下推导:
availTL=availL&&availT(352)]]
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)且(SubWidthC或SubHeightC等于2)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.21.实施例21
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)且(SubWidthC或SubHeightC等于2)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)且(SubWidthC或SubHeightC等于2)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.22.实施例22
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=[[1]]0..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=[[-1]]0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—如果availT等于真,则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—否则,如果availL等于真,则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
5.23.实施例23
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—如果availTL等于真且availT等于真,则适用以下:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
—否则,availTL被设置为等于假。
[[-变量availTL如下推导:
availTL=availL&&availT (352)]]
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[-当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availL和availT两者都等于真(TRUE),则适用以下:
—如果availTL等于真(TRUE),其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
5.24.实施例24
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—如果availTL等于真且availT等于真,则适用以下:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
—否则,availTL被设置为等于假。
[[-变量availTL如下推导:
availTL=availL&&availT (352)]]
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[-当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availL和availT两者都等于真(TRUE),则适用以下:
—如果availTL等于真(TRUE),其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
5.25.实施例25
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
[[-变量availTL如下推导:
availTL=availL&&availT (352)]]
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[-当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availL和availT两者都等于真(TRUE),则适用以下:
—如果availTL等于真(TRUE),其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
5.26.实施例26
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTL。
[[-变量availTL如下推导:
availTL=availL&&availT (352)]]
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
[[-当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。]]
—如果availL和availT两者都等于真(TRUE),则适用以下:
—如果availTL等于真(TRUE),则其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—否则,其中x=-1,-2,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
5.27.实施例27
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,with i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,
F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
—否则,适用以下:
F3[0][1]=2,F3[1][1]=[[8]]4,F3[2][1]=2, (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
—如果sps_chroma_vertical_collocated_flag等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则(sps_chroma_vertical_collocated_flag等于0),则适用以下:
—pDsY[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
5.28.实施例28
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE(357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
变量bVerticalCollocated被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,with i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
bVerticalCollocated=sps_chroma_vertical_collocated_flag
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
bVerticalCollocated=0
—如果[[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于1,则适用以下:
—pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则([[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于0),则适用以下:
—pDsY[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果[[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则([[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][-1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=[[0]]cntL..cntL+cntT-1,其如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果[[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则([[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1
(388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1
(390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1 (391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0(399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k)(404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
5.29.实施例29
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当[[numSampL大于0]]availL等于真(TRUE)时,其中x=-1..-3、y=0..SubHeightC×max(numSampL-1,nTbH)-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当[[numSampT大于0]]availT等于真(TRUE)时,其中x=0..SubWidthC×max(numSampT,nTbW)-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.30.实施例30
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当numSampL等于0且availL等于真(TRUE)时,其中x=-1、y=0..SubHeightC×nTbH-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当numSampT等于0且availT等于真(TRUE)时,其中x=0..SubWidthC×nTbW-1,y=-1的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
5.31.实施例31
JVET-Q2001-vE中规定的工作草案可作如下更改。
8.4.5.2.13INTRA_LT_CCLM、INTRA_L_CCLM和INTRA_T_CCLM帧内预测模式的规范
对这一过程的输入是:
—帧内预测模式predModeIntra,
—当前变换块的左上样点相对于当前图片的左上样点的样点位置(xTbC,yTbC),
—指定变换块宽度的变量nTbW,
—指定变换块高度的变量nTbH,
—指定当前块的颜色分量的变量cIdx,
—色度相邻样点p[x][y],其中x=-1,y=0..2×nTbH-1,以及x=0..2×nTbW-1,y=-1。
该过程的输出是predSamples[x][y],其中x=0..nTbW-1,y=0..nTbH-1。
当前亮度位置(xTbY,yTbY)如下推导:
(xTbY,yTbY)=(xTbC<<(SubWidthC-1),yTbC<<(SubHeightC-1))
(351)
变量availL、availT和availTL如下推导:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availL。
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availT。
—变量availTL如下推导:
availTL=availL&&availT (352)
—可用的右上相邻色度样点数numTopRight如下推导:
—变量numTopRight被设置为0,而availTR被设置为真(TRUE)。
—当predModeIntra等于INTRA_T_CCLM时,以下适用于x=nTbW..2×nTbW-1,直到availTR等于假(FALSE)或x等于2×nTbW-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY+x,yTbY-1)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availTR。
—当availTR等于真(TRUE)时,numTopRight增加1。
—可用的左下相邻色度样点数numLeftBelow如下推导:
—变量numLeftBelow被设置为0,而availLB被设置为真(TRUE)。
—当predModeIntra等于INTRA_L_CCLM时,以下适用于y=nTbH..2×nTbH-1,直到availLB等于假(FALSE)或y等于2×nTbH-1:
—使用设置为等于(xTbY,yTbY)的当前亮度位置(xCurr,yCurr)、相邻亮度位置(xTbY-1,yTbY+y)、设置为等于假(FLASE)的checkPredModeY和cIdx作为输入调用条款6.4.4中指定的相邻块可用性的推导过程,并将输出指派给availLB。
—当availLB等于真(TRUE)时,numLeftBelow增加1。
在顶部和右上的可用相邻色度样点数numSampT和在左侧和左下的可用相邻色度样点数numSampL如下推导:
—如果predModeIntra等于INTRA_LT_CCLM,则适用以下:
numSampT=availT?nTbW:0 (353)
numSampL=availL?nTbH:0 (354)
—否则,适用以下:
numSampT=(availT&&predModeIntra==INTRA_T_CCLM)?(nTbW+Min(numTopRight,nTbH)):0 (355)
numSampL=(availL&&predModeIntra==INTRA_L_CCLM)?(nTbH+Min(numLeftBelow,nTbW)):0 (356)
变量bCTUboundary如下推导:
bCTUboundary=(yTbY&(CtbSizeY-1)==0)?TRUE:FALSE (357)
N被L和T替代的变量cntN和数组pickPosN,如下推导:
—变量numIs4N如下推导:
numIs4N=((availT&&availL&&predModeIntra==INTRA_LT_CCLM)?0:1) (358)
—变量startPosN被设置为等于numSampN>>(2+numIs4N)。
—变量pickStepN被设置为等于Max(1,numSampN>>(1+numIs4N))。
—如果availN等于真(TRUE)并且predModeIntra等于INTRA_LT_CCLM或INTRA_N_CCLM,则进行以下赋值:
—cntN被设置为等于Min(numSampN,(1+numIs4N)<<1)。
—pickPosN[pos]被设置为等于(startPosN+pos×pickStepN),其中pos=0..cntN-1。
—否则,cntN被设置为等于0。
变量bVerticalCollocated被设置为等于0。
预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
—如果numSampL和numSampT两者都等于0,则适用以下:
predSamples[x][y]=1<<(BitDepth-1) (359)
—否则,将应用以下有序步骤:
1.其中x=0..nTbW×SubWidthC-1,y=0..TbH×SubHeightC-1的同位亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点。
2.相邻亮度样点pY[x][y]如下推导:
—当numSampL大于0时,其中x=-1..-3、y=0..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availT等于假(FALSE)时,其中x=-1..SubWidthC×numSampT-1,y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于亮度样点pY[x][0]。
—当availL等于假(FALSE)时,其中x=-1..-3,y=-1..SubHeightC×numSampL-1的相邻左侧亮度样点pY[x][y]被设置为等于亮度样点pY[0][y]。
—当numSampT大于0时,其中x=0..SubWidthC×numSampT-1、y=-1..-2的相邻顶部亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
—当availTL等于真(TRUE)时,其中x=-1,y=-1,-2的相邻左上亮度样点pY[x][y]被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波处理过程之前的重建亮度样点。
3.下采样的同位亮度样点pDsY[x][y],其中x=0..nTbW-1,y=0..nTbH-1,如下推导:
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
—pDsY[x][y],其中x=1..nTbW-1,y=1..nTbH-1如下推导:
pDstY[x][y]=pY[x][y] (360)
—否则,适用以下:
—一维滤波器系数数组F1和F2以及二维滤波器系数数组F3和F4如下指定。
F1[0]=2,F1[1]=0 (361)
F2[0]=1,F2[1]=2,F2[2]=1 (362)
F3[i][j]=F4[i][j]=0,其中i=0..2,j=0..2 (363)
—如果SubWidthC和SubHeightC两者都等于2,则适用以下:
F1[0]=1,F1[1]=1 (364)
F3[0][1]=1,F3[1][1]=4,F3[2][1]=1,F3[1][0]=1,F3[1][2]=1 (365)
F4[0][1]=1,F4[1][1]=2,F4[2][1]=1 (366)
F4[0][2]=1,F4[1][2]=2,F4[2][2]=1 (367)
bVerticalCollocated=sps_chroma_vertical_collocated_flag
—否则,适用以下:
F3[1][1]=8 (368)
F4[0][1]=2,F4[1][1]=4,F4[2][1]=2, (369)
bVerticalCollocated=0
—如果[[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于1,则适用以下:
—pDsY[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F3[1][0]×pY[SubWidthC×x][SubHeightC×y-1]+
F3[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F3[1][1]×pY[SubWidthC×x][SubHeightC×y]+(370)
F3[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F3[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+4)>>3
—否则([[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于0),则适用以下:
—pDsY[x][y],x=0..nTbW-1,y=0..nTbH-1如下推导:
pDsY[x][y]=(F4[0][1]×pY[SubWidthC×x-1][SubHeightC×y]+
F4[0][2]×pY[SubWidthC×x-1][SubHeightC×y+1]+
F4[1][1]×pY[SubWidthC×x][SubHeightC×y]+(371)
F4[1][2]×pY[SubWidthC×x][SubHeightC×y+1]+
F4[2][1]×pY[SubWidthC×x+1][SubHeightC×y]+
F4[2][2]×pY[SubWidthC×x+1][SubHeightC×y+1]+4)>>3
4.当numSampL大于0时,所选择的相邻左色度样点pSelC[idx]被设置为等于p[-1][pickPosL[idx]],其中idx=0..cntL-1,并且所选择的下采样相邻左亮度样点pSelDsY[idx],其中idx=0..cntL-1如下推导:
—变量y被设置为等于pickPosL[idx]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[-1][y] (372)
—否则,适用以下:
—如果[[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于1,则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[-SubWidthC][SubHeightC×y-1]+
F3[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F3[1][1]×pY[-SubWidthC][SubHeightC×y]+(373)
F3[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F3[1][2]×pY[-SubWidthC][SubHeightC×y+1]+4)>>3
—否则([[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于0),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[-1-SubWidthC][SubHeightC×y]+
F4[0][2]×pY[-1-SubWidthC][SubHeightC×y+1]+
F4[1][1]×pY[-SubWidthC][SubHeightC×y]+(374)
F4[1][2]×pY[-SubWidthC][SubHeightC×y+1]+
F4[2][1]×pY[1-SubWidthC][SubHeightC×y]+
F4[2][2]×pY[1-SubWidthC][SubHeightC×y+1]+4)>>3
5.当numSampT大于0时,所选择的相邻顶部色度样点pSelC[idx]被设置为等于p[pickPosT[idx-cntL]][1],其中idx=cntL..cntL+cntT-1,并且下采样相邻顶部亮度样点pSelDsY[idx],其中idx=[[0]]cntL..cntL+cntT-1如下指定:
—变量x被设置为等于pickPosT[idx-cntL]。
—如果SubWidthC和SubHeightC两者都等于1,则适用以下:
pSelDsY[idx]=pY[x][-1] (375)
—否则,适用以下:
—如果[[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于1,则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F3[1][0]×pY[SubWidthC×x][-1-SubHeightC]+
F3[0][1]×pY[SubWidthC×x-1][-SubHeightC]+
F3[1][1]×pY[SubWidthC×x][-SubHeightC]+(376)
F3[2][1]×pY[SubWidthC×x+1][-SubHeightC]+
F3[1][2]×pY[SubWidthC×x][1-SubHeightC]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(377)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
—否则([[sps_chroma_vertical_collocated_flag]]bVerticalCollocated等于0),则适用以下:
—如果bCTUboundary等于假(FALSE),则适用以下:
pSelDsY[idx]=(F4[0][1]×pY[SubWidthC x-1][-1]+
F4[0][2]×pY[SubWidthC×x-1][-2]+
F4[1][1]×pY[SubWidthC×x][-1]+(378)
F4[1][2]×pY[SubWidthC×x][-2]+
F4[2][1]×pY[SubWidthC×x+1][-1]+
F4[2][2]×pY[SubWidthC×x+1][-2]+4)>>3
—否则(bCTUboundary是真(TRUE)),则适用以下:
pSelDsY[idx]=(F2[0]×pY[SubWidthC×x-1][-1]+
F2[1]×pY[SubWidthC×x][-1]+(379)
F2[2]×pY[SubWidthC×x+1][-1]+2)>>2
6.当cntT+cntL不等于0时,变量minY、maxY、minC和maxC如下推导:
—当cntT+cntL等于2时,pSelComp[3]被设置为等于pSelComp[0],pSelComp[2]被设置为等于pSelComp[1],pSelComp[0]被设置为等于pSelComp[1],pSelComp[1]被设置为等于pSelComp[3],Comp被替换为DsY和C。
—数组minGrpIdx和maxGrpIdx如下推导:
minGrpIdx[0]=0 (380)
minGrpIdx[1]=2 (381)
maxGrpIdx[0]=1 (382)
maxGrpIdx[1]=3 (383)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[minGrpIdx[1]]时,minGrpIdx[0]和minGrpIdx[1]按以下方式交换:
(minGrpIdx[0],minGrpIdx[1])=Swap(minGrpIdx[0],minGrpIdx[1])
(384)
—当pSelDsY[maxGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,maxGrpIdx[0]和maxGrpIdx[1]按以下方式交换:
(maxGrpIdx[0],maxGrpIdx[1])=Swap(maxGrpIdx[0],maxGrpIdx[1])
(385)
—当pSelDsY[minGrpIdx[0]]大于pSelDsY[maxGrpIdx[1]]时,数组minGrpIdx和maxGrpIdx按以下方式交换:
(minGrpIdx,maxGrpIdx)=Swap(minGrpIdx,maxGrpIdx) (386)
—当pSelDsY[minGrpIdx[1]]大于pSelDsY[maxGrpIdx[0]]时,minGrpIdx[1]和maxGrpIdx[0]按以下方式交换:
(minGrpIdx[1],maxGrpIdx[0])=Swap(minGrpIdx[1],maxGrpIdx[0])
(387)
—变量maxY、maxC、minY和minC如下推导:
maxY=(pSelDsY[maxGrpIdx[0]]+pSelDsY[maxGrpIdx[1]]+1)>>1 (388)
maxC=(pSelC[maxGrpIdx[0]]+pSelC[maxGrpIdx[1]]+1)>>1
(389)
minY=(pSelDsY[minGrpIdx[0]]+pSelDsY[minGrpIdx[1]]+1)>>1 (390)
minC=(pSelC[minGrpIdx[0]]+pSelC[minGrpIdx[1]]+1)>>1
(391)
7.变量a、b和k如下推导:
—如果numSampL等于0且numSampT等于0,则适用以下:
k=0 (392)
a=0 (393)
b=1<<(BitDepth-1) (394)
—否则,适用以下:
diff=maxY-minY (395)
—如果diff不等于0,则适用以下:
diffC=maxC-minC (396)
x=Floor(Log2(diff)) (397)
normDiff=((diff<<4)>>x)&15 (398)
x+=(normDiff!=0)?1:0 (399)
y=Abs(diffC)>0?Floor(Log2(Abs(diffC)))+1:0 (400)
a=(diffC×(divSigTable[normDiff]|8)+2y-1)>>y (401)
k=((3+x-y)<1)?1:3+x-y (402)
a=((3+x-y)<1)?Sign(a)×15:a (403)
b=minC-((a×minY)>>k) (404)
其中divSigTable[]如下指定:
divSigTable[]={0,7,6,5,5,4,4,3,3,2,2,1,1,1,1,0} (405)
—否则(diff等于0),则适用以下:
k=0 (406)
a=0 (407)
b=minC (408)
8.预测样点predSample[x][y],其中x=0..nTbW-1,y=0..nTbH-1如下推导:
predSamples[x][y]=Clip1(((pDsY[x][y]×a)>>k)+b) (409)
注意-此过程使用sps_chroma_vertical_collocated_flag。但是,为了简化实现,它没有使用sps_chroma_horizontal_collocated_flag。
图9是视频处理装置900的框图。装置900可用于实现本文描述的一个或多个方法。装置900可以体现在智能手机、平板电脑、计算机、物联网(IoT)接收器等中。装置900可以包括一个或多个处理器902、一个或多个存储器904和视频处理硬件906。处理器(多个处理器)902可以被配置为实现本文件中描述的一个或多个方法。存储器(多个存储器)904可以用于存储用于实现本文描述的方法和技术的数据和代码。视频处理硬件906可用于在硬件电路中实现本文件中描述的一些技术(例如,在前一节中列出的)。
图10示出了视频编码器的框图。
图11是处理视频的方法1100的流程图。方法1100包括:针对在视频的色度块与视频的经编解码表示之间的转换,通过使用下采样的同位相邻顶部亮度样点来推导(1102)交叉分量线性模型的参数,该采样的同位相邻顶部亮度样点是使用下采样滤波器从同位亮度块的N个上方相邻行生成的,其中N是正整数;以及使用经预测色度块来执行(1104)转换,该经预测块是使用交叉分量线性模型生成的。
图12是其中可以实现所公开的技术的示例视频处理系统的框图。
图12是示出可以在其中实现本文公开的各种技术的示例视频处理系统1200的框图。各种实现可包括系统1200的部分或全部组件。系统1200可以包括用于接收视频内容的输入1202。该视频内容可以以原始或未压缩格式接收,例如,8比特或10比特多分量像素值,或者可以以经压缩或经编码格式接收。输入1202可以表示网络接口、外围总线接口或存储接口。网络接口的示例包括诸如以太网、无源光网络(PON)等的有线接口和诸如Wi-Fi或蜂窝接口的无线接口。
系统1200可以包括编解码组件1204,其可以实现本文件中描述的各种编解码或编码方法。编解码组件1204可以降低从输入1202到编解码组件1204的输出的视频的平均比特率,以产生该视频的编解码表示。因此,编解码技术有时被称为视频压缩或视频转码技术。编解码组件1204的输出可以存储,或者经由连接的通信发送,如组件1206所表示的。在输入1202处接收的视频的存储或通信的比特流(或经编解码的)表示可以由组件1208用于生成向显示接口1210发送的像素值或可显示视频。从比特流表示生成用户可视视频的过程有时被称为视频解压缩。此外,尽管某些视频处理操作被称为“编解码”操作或工具,但应理解,编解码工具或操作在编码器处使用,并且将编解码结果逆转的对应解码工具或操作将由解码器执行。
外围总线接口或显示接口的示例可以包括通用串行总线(USB)或高清晰度多媒体接口(HDMI)或显示端口等。存储接口的示例包括SATA(串行高级技术附件)、PCI、IDE接口等。本文件中描述的技术可以体现在各种电子设备中,诸如移动电话、膝上型计算机、智能电话或者能够执行数字数据处理和/或视频显示的其他设备。
图14是示出可以利用本公开的技术的示例视频编解码系统100的框图。
如图14所示,视频编解码系统100可以包括源设备110和目的地设备120。源设备110生成经编码视频数据,其可以被称为视频编码设备。目的地设备120可以对源设备110生成的经编码视频数据进行解码,目的地设备120可以被称为视频解码设备。
源设备110可以包括视频源112、视频编码器114和输入/输出(I/O)接口116。
视频源112可以包括诸如视频捕获设备的源、用于从视频内容提供商接收视频数据的接口和/或用于生成视频数据的计算机图形系统,或者这些源的组合。视频数据可以包括一个或多个图片。视频编码器114对来自视频源112的视频数据进行编码以生成比特流。比特流可以包括形成视频数据的经编解码表示的比特序列。比特流可以包括经编解码图片和相关联的数据。经编解码图片是图片的经编解码表示。相关联的数据可以包括序列参数集、图片参数集和其他语法结构。I/O接口116可以包括调制器/解调器(调制解调器)和/或发送器。经编码视频数据可以经由I/O接口116通过网络130a直接向目的地设备120发送。经编码视频数据也可以存储在存储介质/服务器130b上,以供目的地设备120访问。
目的地设备120可以包括I/O接口126、视频解码器124和显示设备122。
I/O接口126可以包括接收器和/或调制解调器。I/O接口126可以从源设备110或存储介质/服务器130b获得经编码视频数据。视频解码器124可以对经编码视频数据进行解码。显示设备122可以将经解码视频数据向用户显示。显示设备122可以与目的地设备120集成,或者可以在目的地设备120的外部,目的地设备120被配置为与外部显示设备接口。
视频编码器114和视频解码器124可以根据视频压缩标准操作,诸如高效视频编解码(HEVC)标准、多功能视频编解码(VVC)标准和其他当前和/或未来的标准。
图15是示出视频编码器200的示例的框图,视频编码器200可以是图14所示的系统100中的视频编码器114。
视频编码器200可以被配置为执行本公开的任何或所有技术。在图15的示例中,视频编码器200包括多个功能组件。本公开中描述的技术可以在视频编码器200的各个组件之间共享。在一些示例中,处理器可以被配置为执行本公开中描述的任何或所有技术。
视频编码器200的功能组件可以包括划分单元201、预测单元202、残差生成单元207、变换单元208、量化单元209、逆量化单元210、逆变换单元211、重建单元212、缓冲器213和熵编解码单元214,预测单元202可以包括模式选择单元203、运动估计单元204、运动补偿单元205和帧内预测单元206。
在其他示例中,视频编码器200可以包括更多、更少或不同的功能组件。在一个示例中,预测单元202可以包括帧内块复制(IBC)单元。IBC单元可以在IBC模式下执行预测,在该模式中至少一个参考图片是当前视频块所在的图片。
此外,诸如运动估计单元204和运动补偿单元205的一些组件可以是高度集成的,但为了说明的目的,在图15的示例中分开表示。
划分单元201可以将图片划分为一个或多个视频块。视频编码器200和视频解码器300可以支持各种视频块尺寸。
模式选择单元203可以例如基于误差结果,在帧内或帧间选择编码模式之一,并将所得的帧内或帧间编解码块提供给残差生成单元207以生成残差块数据,以及提供给重建单元212以重建经编码块以用作参考图片。在一些示例中,模式选择单元203可以选择组合帧内和帧间预测(CIIP)模式,其中,预测基于帧间预测信号和帧内预测信号。模式选择单元203还可以在帧间预测的情况下为块选择运动矢量的分辨率(例如,子像素或整数像素精度)。
为了对当前视频块执行帧间预测,运动估计单元204可以通过将来自缓冲器213的一个或多个参考帧与当前视频块进行比较来生成当前视频块的运动信息。运动补偿单元205可以基于运动信息和来自缓冲器213的除与当前视频块相关联的图片之外的图片的经解码样点来确定当前视频块的预测视频块。
运动估计单元204和运动补偿单元205可以例如根据当前视频块是处于I条带、P条带还是B条带中,对当前视频块执行不同的操作。
在一些示例中,运动估计单元204可以对当前视频块执行单向预测,并且运动估计单元204可以搜索列表0或列表1的参考图片以获得用于当前视频块的参考视频块。然后,运动估计单元204可以生成指示包含参考视频块的列表0或列表1中的参考图片的参考索引,以及指示当前视频块与参考视频块之间的空域位移的运动矢量。运动估计单元204可以输出参考索引、预测方向指示符和运动矢量作为当前视频块的运动信息。运动补偿单元205可以基于由当前视频块的运动信息指示的参考视频块来生成当前块的经预测视频块。
在其他示例中,运动估计单元204可以对当前视频块执行双向预测,运动估计单元204可以在列表0中的参考图片中搜索用于当前视频块的参考视频块,并且还可以在列表1中的参考图片中搜索用于当前视频块的另一参考视频块。然后,运动估计单元204可以生成指示包含参考视频块的列表0和列表1中的参考图片的参考索引,以及指示参考视频块与当前视频块之间的空域位移的运动矢量。运动估计单元204可以输出当前视频块的参考索引和运动矢量作为当前视频块的运动信息。运动补偿单元205可以基于由当前视频块的运动信息指示的参考视频块来生成当前视频块的经预测视频块。
在一些示例中,运动估计单元204可以输出用于解码器的解码处理的运动信息完全集合。
在一些示例中,运动估计单元204可以不输出用于当前视频的运动信息的完全集合。相反,运动估计单元204可以参考另一视频块的运动信息信令通知当前视频块的运动信息。例如,运动估计单元204可以确定当前视频块的运动信息与相邻视频块的运动信息充分相似。
在一个示例中,运动估计单元204可以在与当前视频块相关联的语法结构中指示一个值,该值向视频解码器300指示当前视频块具有与另一视频块相同的运动信息。
在另一示例中,运动估计单元204可以在与当前视频块相关联的语法结构中识别另一视频块和运动矢量差(MVD)。该运动矢量差指示当前视频块的运动矢量与指示的视频块的运动矢量之间的差值。视频解码器300可以使用指示的视频块的运动矢量和该运动矢量差来确定当前视频块的运动矢量。
如上所述,视频编码器200可以预测地信令通知该运动矢量。可由视频编码器200实现的预测信令技术的两个示例包括高级运动矢量预测(AMVP)和merge模式信令。
帧内预测单元206可以对当前视频块执行帧内预测。当帧内预测单元206对当前视频块执行帧内预测时,帧内预测单元206可以基于同一图片中的其他视频块的经解码样点生成用于当前视频块的预测数据。用于当前视频块的预测数据可以包括经预测视频块和各种语法元素。
残差生成单元207可以通过从当前视频块减去(例如,由减号指示的)当前视频块的预测视频块来生成当前视频块的残差数据。当前视频块的残差数据可以包括对应于当前视频块中的样点的不同样点分量的残差视频块。
在其他示例中,例如在跳过模式下,对于当前视频块可以没有用于当前视频块的残差数据,并且残差生成单元207可以不执行减法操作。
变换处理单元208可以通过对与当前视频块相关联的残差视频块应用一个或多个变换来生成用于当前视频块的一个或多个变换系数视频块。
在变换处理单元208生成与当前视频块相关联的变换系数视频块之后,量化单元209可以基于与当前视频块相关联的一个或多个量化参数(QP)值来量化与当前视频块相关联的变换系数视频块。
逆量化单元210和逆变换单元211可以分别对变换系数视频块应用逆量化和逆变换,以从变换系数视频块重建残差视频块。重建单元212可以将重建的残差视频块加到来自由预测单元202生成的一个或多个经预测视频块的对应样点,以产生与当前块相关联的重建视频块,以存储在缓冲器213中。
在重建单元212重建视频块之后,可以执行环路滤波操作以减少视频块中的视频块伪影。
熵编码单元214可以从视频编码器200的其他功能组件接收数据。当熵编码单元214接收数据时,熵编码单元214可以执行一个或多个熵编码操作以生成经熵编码数据并输出包括该经熵编码数据的比特流。
图16是示出视频解码器300的示例的框图,视频解码器300可以是图14所示的系统100中的视频解码器114。
视频解码器300可以被配置为执行本公开的任何或所有技术。在图16的示例中,视频解码器300包括多个功能组件。本公开中描述的技术可以在视频解码器300的各个组件之间共享。在一些示例中,处理器可以被配置为执行本公开中描述的任何或所有技术。
在图16的示例中,视频解码器300包括熵解码单元301、运动补偿单元302、帧内预测单元303、逆量化单元304、逆变换单元305、以及重建单元306和缓冲器307。在一些示例中,视频解码器300可以执行与关于视频编码器200(例如图15)描述的编码遍次(pass)大致相反的解码遍次。
熵解码单元301可以检索经编码比特流。经编码比特流可以包括经熵编解码视频数据(例如,视频数据的经编码块)。熵解码单元301可以对经熵编解码的视频数据进行解码,并且运动补偿单元302可以从经熵解码的视频数据中确定运动信息,其包括运动矢量、运动矢量精度、参考图片列表索引和其他运动信息。运动补偿单元302例如可以通过执行AMVP和merge模式来确定这样的信息。
运动补偿单元302可以产生运动补偿块,可能地基于插值滤波器执行插值。用于以亚像素精度使用的插值滤波器的标识符可以被包括在语法元素中。
运动补偿单元302可以使用视频编码器200在视频块的编码期间使用的插值滤波器来计算参考块的子整数像素的内插值。运动补偿单元302可以根据接收到的语法信息确定视频编码器200使用的插值滤波器,并且使用该插值滤波器产生预测块。
运动补偿单元302可以使用一些语法信息来确定用于对经编码的视频序列的帧和/或条带进行编码的块的尺寸、描述经编码的视频序列的图片的每个宏块如何被划分的划分信息、指示每个划分如何被编码的模式、每个帧间编解码块的一个或多个参考帧(和参考帧列表)以及用于对经编码的视频序列进行解码的其他信息。
帧内预测单元303可以使用例如在比特流中接收的帧内预测模式,以从空域邻近的块形成预测块。逆量化单元303对比特流中提供并由熵解码单元301解码的经量化视频块系数进行逆量化,即去量化。逆变换单元303应用逆变换。
重建单元306可以将残差块与运动补偿单元202或帧内预测单元303生成的对应预测块相加,以形成经解码块。如果需要,还可以应用去块滤波器以对经解码块进行滤波,以便去除块效应伪影。然后将经解码视频块存储在缓冲器307中,缓冲器307提供用于后续运动补偿的参考块。
下面的条款集合提供了一些实施例优选的示例。
第一条款集合示出了在上一节的项目18和项目19中讨论的技术的示例实施例。
1.一种视频处理方法(例如,如图17A所示的方法1700),包括:对于具有4:2:2颜色格式的视频的视频块与视频的比特流之间的转换,根据规则确定1702用于视频块的交叉分量线性模型的参数;以及基于该确定来执行1704转换,并且其中,语法元素指示视频的色度样点是否相对于视频的亮度样点垂直移位,并且其中规则指定该参数是独立于语法元素的值而确定的。
2.根据条款1的方法,其中交叉分量线性模型的参数对应于交叉分量线性模型中的下采样滤波的参数。
3.根据条款2的方法,其中下采样滤波包括对上方相邻亮度样点进行下采样,和/或对左侧相邻亮度样点进行下采样,和/或对是亮度块的视频块中的样点进行下采样。
4.根据条款2或条款3的方法,其中无论语法元素的值如何,使用固定滤波器来执行下采样滤波。
5.根据条款4的方法,其中固定滤波器是具有系数[1/4,2/4,1/4]或[2/8,4/8,2/8]的3抽头水平滤波器。
6.一种视频处理方法(例如,如图17B所示的方法1710),包括:根据规则执行视频与视频的比特流之间的转换,并且其中格式规则指定由于视频具有4:2:2或4:4:4颜色格式,指示色度样点位置是否相对于对应的亮度样点位置垂直移位的字段被设置为默认值。
7.根据条款6的方法,其中默认值为0或1。
8.根据条款6的方法,其中规则还指定在该字段不存在的情况下,该字段的值被推断为等于1。
9.根据条款6的方法,其中规则还指定在该字段不存在的情况下,该字段的值被推断为等于0。
10.根据条款1至条款9中任一项的方法,其中交叉分量线性模型使用线性模式以从另一分量推导色度分量的预测值。
11.根据条款1至条款9中任一项的方法,其中转换包括将视频编码为比特流。
12.根据条款1至条款9中任一项的方法,其中转换包括从比特流解码视频。
13.根据条款1至条款12中任一项的方法,其中转换包括从视频生成比特流,并且方法还包括:将比特流存储在非暂时性计算机可读记录介质中。
14.一种视频处理装置,包括被配置为实现条款1至条款12中任一项或多项所述的方法的处理器。
15.一种存储视频的比特流的方法,包括条款1至条款12中任一项所述的方法,并且还包括将比特流存储到非暂时性计算机可读记录介质。
16.一种存储程序代码的计算机可读介质,当被执行时,程序代码使处理器实现条款1至条款12中任一项或多项所述的方法。
17.一种计算机可读介质,其存储根据上述任何方法生成的比特流。
18.一种用于存储比特流表示的视频处理装置,其中视频处理装置被配置为实现条款1至条款12中任一项或多项所述的方法。
第二条款集合示出了在上一节的项目20中讨论的技术的示例实施例。
1.一种视频处理的方法(例如,如图18所示的方法1800),包括:对于视频的视频块与视频的比特流之间的转换,根据规则确定1802用于视频块的交叉分量线性模型(CCLM)的参数;以及基于该确定来执行1804转换,并且其中该规则指定仅在表示相邻亮度样点的变量具有特定值的情况下才在CCLM的参数的确定中使用该变量。
2.根据条款1的方法,其中表示视频块的上方相邻亮度样点的变量的特定值等于在去方块滤波过程之前的重建亮度样点的特定值。
3.根据条款2的方法,其中在上方相邻亮度样点可用的情况下,表示为pY[x][y]的表示上方相邻亮度样点的变量被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点,其中(xTbY,yTbY)表示视频块的左上位置,并且x和y是整数。
4.根据条款3的方法,其中x在0到SubWidthC×max(numSampT,nTbW)-1的范围内,其中nTbW表示视频块的宽度,SubWidthC是视频块的宽度缩放因子并且是从根据包括视频块的图片的色度格式的表中获得的,并且numSampT指示视频块的顶部和右上可用的相邻色度样点的数量。
5.根据条款3的方法,其中y为-1或-2。
6.根据条款1的方法,其中在去方块滤波过程之前,表示视频块的左侧相邻亮度样点的变量的值被设置为等于重建亮度样点的值。
7.根据条款6的方法,其中在左侧相邻亮度样点可用的情况下,表示为pY[x][y]的表示左侧相邻亮度样点的变量被设置为等于在位置(xTbY+x,yTbY+y)处的去方块滤波过程之前的重建亮度样点,其中(xTbY,yTbY)表示视频块的左上位置,并且x和y是整数。
8.根据条款7的方法,其中x在-1至-3的范围内。
9.根据条款7的方法,其中y在0到SubHeightC×max(numSampL,nTbH)-1的范围内,其中nTbH表示视频块的高度,SubHeightC是视频块的高度缩放因子并且是从根据包括视频块的图片的色度格式的表中获得的,并且numSampL指示视频块的左侧和左下可用的相邻色度样点的数量。
10.根据条款1至条款9中任一项的方法,其中交叉分量线性模型使用线性模式以从另一分量推导色度分量的预测值。
11.根据条款1至条款9中任一项的方法,其中转换包括将视频编码为比特流。
12.根据条款1至条款9中任一项的方法,其中转换包括从比特流解码视频。
13.根据条款1至条款12中任一项的方法,其中转换包括从视频生成比特流,并且方法还包括:将比特流存储在非暂时性计算机可读记录介质中。
14.一种视频处理装置,包括被配置为实现条款1至条款12中任一项或多项所述的方法的处理器。
15.一种存储视频的比特流的方法,包括条款1至条款12中任一项所述的方法,并且还包括将比特流存储到非暂时性计算机可读记录介质。
16.一种存储程序代码的计算机可读介质,当被执行时,程序代码使处理器实现条款1至条款12中任一项或多项所述的方法。
17.一种计算机可读介质,其存储根据上述任何方法生成的比特流。
18.一种用于存储比特流的视频处理装置,其中视频处理装置被配置为实现条款1至条款12中任一项或多项所述的方法。
第三条款集合示出了在上一节的项目21-项目26中讨论的技术的示例实施例。
1.一种视频处理的方法(例如,图19A中所示的方法1900),包括:对于包括视频单元的视频与该视频的比特流之间的转换,根据规则确定1902是否针对该视频单元启用第一编解码工具,其中规则指定第一编解码工具和第二编解码工具是互斥启用的,并且其中第一编解码工具或第二编解码工具包括符号数据隐藏工具;以及根据该确定来执行1904转换。
2.根据条款1的方法,其中视频单元对应于序列、图片、条带、片、砖块或子图片。
3.根据条款1或条款2的方法,其中规则指定在包括块差分脉冲编解码调制(BDPCM)工具的第二编解码工具被启用用于视频单元的情况下禁用包括符号数据隐藏工具的第一编解码工具。
4.根据条款1或条款2的方法,其中规则指定在包括符号数据隐藏工具的第二编解码工具被启用用于视频单元的情况下禁用包括块差分脉码调制(BDPCM)工具的第一编解码工具。
5.根据条款1或条款2的方法,其中规则指定在仅应用标识变换的第二编解码工具被启用用于视频单元的情况下禁用包括符号数据隐藏工具的第一编解码工具。
6.根据条款1或条款2的方法,其中规则指定在包括符号数据隐藏工具的第二编解码工具被启用用于视频单元的情况下禁用仅应用标识变换的第一编解码工具。
7.根据条款5或条款6的方法,其中仅应用标识变换的第二编解码工具或仅应用标识变换的第一编解码工具包括变换跳过模式工具或其他编解码工具。
8.一种视频处理的方法(例如,图19B中所示的方法1910),包括:对于包括视频单元的视频与该视频的比特流之间的转换,根据规则确定1912是否针对该视频单元启用第一编解码工具,其中规则指定第一编解码工具和第二编解码工具是互斥启用的,并且其中第一编解码工具或第二编解码工具包括依赖量化工具;以及根据该确定来执行1914转换。
9.根据条款8的方法,其中视频单元对应于序列、图片、条带、片、砖块或子图片。
10.根据条款8或条款9的方法,其中规则指定在包括块差分脉码调制(BDPCM)工具的第二编解码工具被启用用于视频单元的情况下禁用包括依赖量化工具的第一编解码工具。
11.根据条款8或条款9的方法,其中规则指定在包括依赖量化工具的第二编解码工具被启用用于视频单元的情况下禁用包括块差分脉码调制(BDPCM)工具的第一编解码工具。
12.根据条款8或条款9的方法,其中规则指定在仅应用标识变换的第二编解码工具被启用用于视频单元的情况下禁用包括依赖量化工具的第一编解码工具。
13.根据条款8或条款9的方法,其中规则指定在包括依赖量化工具的第二编解码工具被启用用于视频单元的情况下禁用仅应用标识变换的第一编解码工具。
14.根据条款8或条款9的方法,其中仅应用标识变换的第二编解码工具或仅应用标识变换的第一编解码工具包括变换跳过模式工具或其他编解码工具。
15.一种视频处理的方法(例如,如图19C所示的方法1920),包括:根据规则执行1922包括包含一个或多个条带的一个或多个图片的视频与该视频的比特流之间的转换,并且其中规则指定条带的条带类型取决于用于该条带的参考图片列表的参考图片条目。
16.根据条款15的方法,其中规则指定在参考图片列表0的参考图片条目的数量等于0并且参考图片列表1的参考图片条目的数量等于0的情况下,条带的条带类型是I条带。
17.根据条款15的方法,其中规则指定在参考图片列表0的参考图片条目的数量大于0并且参考图片列表1的参考图片条目的数量等于0的情况下,条带的条带类型是P条带。
18.根据条款15的方法,其中规则指定在参考图片列表0的参考图片条目的数量大于0并且参考图片列表1的参考图片条目的数量等于0的情况下,条带的条带类型是B条带。
19.根据条款16至条款18中任一项的方法,其中条带类型不被包括在比特流中。
20.根据条款15的方法,其中在信令通知或推断条带类型之前,信令通知或推断参考图片条目。
21.根据条款15的方法,其中参考图片条目被包括在与包括条带的图片相关联的图片标头中。
22.一种视频处理的方法(例如,如图19D所示的方法1930),包括:根据规则执行1932包括包含一个或多个条带的一个或多个图片的视频和该视频的比特流之间的转换,其中规则指定自适应参数集(APS)中的允许的滤波器的数量或APS的数量取决于视频的经编解码信息。
23.根据条款22的方法,其中经编解码信息包括图片的子图片数量。
24.根据条款22的方法,其中APS中的允许的滤波器的数量包括亮度自适应环路滤波器(ALF)、色度ALF和图片单元内的所有自适应参数集(APS)网络抽象层(NAL)单元中的ALF APS中的交叉分量ALF的数量。
25.根据条款22的方法,其中APS中的允许的滤波器的数量包括用于亮度分量的自适应环路滤波器(ALF)类的数量、用于色度分量的替代滤波器的数量、和/或图片单元内的所有自适应参数集(APS)网络抽象层(NAL)单元中的交叉分量滤波器的数量。
26.根据条款22的方法,其中APS对应于ALF APS、缩放列表APS、和/或LMCS(具有色度缩放的亮度映射)APS。
27.根据条款22的方法,其中如何信令通知APS标识符和/或视频单元要使用的APS的数量取决于APS中的允许的滤波器的数量。
28.根据条款1至条款27中任一项的方法,其中转换包括将视频编码为比特流。
29.根据条款1至条款27中任一项的方法,其中转换包括从比特流解码视频。
30.根据条款1至条款27中任一项的方法,其中转换包括从视频生成比特流,并且方法还包括:将比特流存储在非暂时性计算机可读记录介质中。
31.一种视频处理装置,包括被配置为实现条款1至条款30中任一项或多项所述的方法的处理器。
32.一种存储视频的比特流的方法,包括条款1至条款30中任一项所述的方法,并且还包括将比特流存储到非暂时性计算机可读记录介质。
33.一种存储程序代码的计算机可读介质,当被执行时,程序代码使处理器实现条款1至条款30中任一项或多项所述的方法。
34.一种计算机可读介质,其存储根据上述任何方法生成的比特流。
35.一种用于存储比特流的视频处理装置,其中视频处理装置被配置为实现条款1至条款30中任一项或多项所述的方法。
所公开的技术的一些实施例包括作出启用视频处理工具或模式的决策或确定。在一个示例中,当启用视频处理工具或模式时,编码器将在视频块的处理中使用或实现该工具或模式,但不一定基于该工具或模式的使用来修改所得到的比特流。也就是,从视频块到视频的比特流表示的转换将在基于决策或确定启用时使用该视频处理工具或模式。在另一示例中,当启用视频处理工具或模式时,解码器将在知道比特流已经基于视频处理工具或模式被修改的情况下处理比特流。也就是,将使用基于决策或确定而启用的视频处理工具或模式来执行从视频的比特流表示到视频块的转换。
所公开的技术的一些实施例包括作出禁用视频处理工具或模式的决策或确定。在一个示例中,当禁用视频处理工具或模式时,编码器将不在视频块到视频的比特流表示的转换中使用该工具或模式。在另一示例中,当禁用视频处理工具或模式时,解码器将在知道比特流没有被修改的情况下使用基于决策或确定而启用的视频处理工具或模式来处理比特流。
本文件中描述的所公开的和其他解决方案、示例、实施例、模块和功能操作可以在数字电子电路中实现,或者在计算机软件、固件或硬件中实现,包括本文件中公开的结构及其结构等效物,或者以它们中的一个或多个的组合实现。所公开的和其他实施例可以实现为一个或多个计算机程序产品,即,编码在计算机可读介质上用于由数据处理装置执行或控制其操作的一个或多个计算机程序指令模块。计算机可读介质可以是机器可读存储设备、机器可读存储主板、存储器设备、影响机器可读传播信号的物质组成或它们中的一个或多个的组合。术语“数据处理装置”涵盖用于处理数据的所有装置、设备和机器,包括例如可编程处理器、计算机或多个处理器或计算机。除了硬件之外,该装置可以包括为所说的计算机程序创建执行环境的代码,例如,构成处理器固件、协议栈、数据库管理系统、操作系统或它们中的一个或多个的组合的代码。传播信号是人工生成的信号,例如机器生成的电、光或电磁信号,生成该信号以对信息进行编码以向合适的接收器装置传输。
计算机程序(也公知为程序、软件、软件应用、脚本或代码)可以用任何形式的编程语言编写,包括编译过的或解释过的语言,并且可以以任何形式部署,包括作为独立程序或作为模块、组件、子历程或适合在计算环境中使用的其他单元。计算机程序不一定对应于文件系统中的文件。程序可以存储在保存其他程序或数据的文件的一部分(例如,存储在标记语言文档中的一个或多个脚本)中,存储在专用于所说的程序的单个文件中,或者存储在多个协调文件中(例如,存储一个或多个模块、子程序或代码部分的文件)。可以部署计算机程序以在一台计算机或位于一个站点或分布于多个站点并通过通信网络互连的多台计算机上执行。
本文档中描述的过程和逻辑流可以由一个或多个可编程处理器执行,该处理器执行一个或多个计算机程序,以通过对输入数据进行操作并产生输出来执行功能。该过程和逻辑流也可以由专用逻辑电路执行,并且该装置也可以被实现为专用逻辑电路,例如FPGA(现场可编程门阵列)或ASIC(专用集成电路)。
适用于执行计算机程序的处理器包括,例如,通用和专用微处理器,以及任何类型数字计算机的任何一个或多个处理器。一般地,处理器将从只读存储器或随机存取存储器或两者接收指令和数据。计算机的基本元件是用于执行指令的处理器和用于存储指令和数据的一个或多个存储器设备。一般地,计算机还将包括或可操作地耦合以从一个或多个用于存储数据的大容量存储设备(例如,磁盘、磁光盘或光盘)接收数据或将数据传送到该一个或多个大容量存储设备或两者。然而,计算机不需要有这样的设备。适于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、介质和存储器设备,包括例如半导体存储器设备(例如EPROM、EEPROM和闪存设备);磁盘(例如,内部硬盘或可移动磁盘);磁光盘;以及CD ROM和DVD-ROM盘。该处理器和存储器可以由专用逻辑电路补充或merge在专用逻辑电路中。
虽然本专利文件包含很多细节,但这些不应被解释为对任何主题的范围或可要求权利的内容的限制,而是对专门于特定技术的特定实施例的特征的描述。本专利文件中在分开的实施例的上下文中描述的某些特征也可以组合在单个实施例中实现。相反,在单个实施例的上下文中描述的各种特征也可以在多个实施例中分开地或以任何适当的子组合形式实现。此外,尽管上述特征可以被描述为在某些组合中起作用,甚至最初是这样要求保护的,但在某些情况下,来自要求保护的组合的一个或多个特征可以从该组合中删除,并且所要求保护的组合可以指向子组合或子组合的变型。
类似地,尽管在附图中以特定顺序描绘了操作,但这不应理解为要求以所示特定顺序或以序列化顺序执行这些操作,或执行所有所示操作以获得期望的结果。此外,本专利文件中描述的实施例中的各种系统组件的分开不应理解为在所有实施例中都要求这样的分开。
仅描述了一些实现和示例,并且可以基于本专利文件中描述和说明的内容来进行其他实现、增强和变化。

Claims (18)

1.一种视频处理的方法,包括:
对于具有4:2:2颜色格式的视频的视频块与所述视频的比特流之间的转换,根据规则确定用于所述视频块的交叉分量线性模型的参数;以及
基于所述确定来执行所述转换,以及
其中,语法元素指示所述视频的色度样点是否相对于所述视频的亮度样点垂直移位,并且
其中,所述规则指定所述参数是独立于所述语法元素的值而确定的。
2.根据权利要求1所述的方法,其中所述交叉分量线性模型的所述参数对应于所述交叉分量线性模型中的下采样滤波的参数。
3.根据权利要求2所述的方法,其中所述下采样滤波包括对上方相邻亮度样点进行下采样,和/或对左侧相邻亮度样点进行下采样,和/或对是亮度块的所述视频块中的样点进行下采样。
4.根据权利要求2或3所述的方法,其中无论所述语法元素的值如何,使用固定滤波器来执行所述下采样滤波。
5.根据权利要求4所述的方法,其中所述固定滤波器是具有系数[1/4,2/4,1/4]或[2/8,4/8,2/8]的3抽头水平滤波器。
6.一种视频处理的方法,包括:
根据规则执行视频与所述视频的比特流之间的转换,并且其中格式规则指定由于所述视频具有4:2:2或4:4:4颜色格式,指示色度样点位置是否相对于对应的亮度样点位置垂直移位的字段被设置为默认值。
7.根据权利要求6所述的方法,其中所述默认值为0或1。
8.根据权利要求6所述的方法,其中所述规则还指定在所述字段不存在的情况下,所述字段的值被推断为等于1。
9.根据权利要求6所述的方法,其中所述规则还指定在所述字段不存在的情况下,所述字段的值被推断为等于0。
10.根据权利要求1至9中任一项所述的方法,其中所述交叉分量线性模型使用线性模式以从另一分量推导色度分量的预测值。
11.根据权利要求1至9中任一项所述的方法,其中所述转换包括将所述视频编码为所述比特流。
12.根据权利要求1至9中任一项所述的方法,其中所述转换包括从所述比特流解码所述视频。
13.根据权利要求1至9中任一项所述的方法,其中所述转换包括从所述视频生成所述比特流,并且所述方法还包括:将所述比特流存储在非暂时性计算机可读记录介质中。
14.一种视频处理装置,包括被配置为实现权利要求1至12中任一项或多项所述的方法的处理器。
15.一种存储视频的比特流的方法,包括权利要求1至12中任一项所述的方法,并且还包括将所述比特流存储到非暂时性计算机可读记录介质。
16.一种存储程序代码的计算机可读介质,当被执行时,所述程序代码使处理器实现权利要求1至12中任一项或多项所述的方法。
17.一种计算机可读介质,其存储根据上述任何方法生成的比特流。
18.一种用于存储比特流表示的视频处理装置,其中所述视频处理装置被配置为实现权利要求1至12中任一项或多项所述的方法。
CN202180029354.7A 2020-04-18 2021-04-19 4:2:0或4:2:2视频的交叉分量编解码 Pending CN115462081A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311558909.4A CN117596409A (zh) 2020-04-18 2021-04-19 用于处理视频数据的方法、装置以及计算机可读存储介质

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN2020085484 2020-04-18
CNPCT/CN2020/085484 2020-04-18
PCT/CN2021/087998 WO2021209063A1 (en) 2020-04-18 2021-04-19 Cross-component coding of 4: 2: 0 or 4: 2: 2 video

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202311558909.4A Division CN117596409A (zh) 2020-04-18 2021-04-19 用于处理视频数据的方法、装置以及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN115462081A true CN115462081A (zh) 2022-12-09

Family

ID=78083943

Family Applications (4)

Application Number Title Priority Date Filing Date
CN202180029366.XA Pending CN115443658A (zh) 2020-04-18 2021-04-19 用于信令通知交叉分量视频编解码的语法
CN202180029354.7A Pending CN115462081A (zh) 2020-04-18 2021-04-19 4:2:0或4:2:2视频的交叉分量编解码
CN202180029353.2A Pending CN115428446A (zh) 2020-04-18 2021-04-19 交叉分量预测的使用限制
CN202311558909.4A Pending CN117596409A (zh) 2020-04-18 2021-04-19 用于处理视频数据的方法、装置以及计算机可读存储介质

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202180029366.XA Pending CN115443658A (zh) 2020-04-18 2021-04-19 用于信令通知交叉分量视频编解码的语法

Family Applications After (2)

Application Number Title Priority Date Filing Date
CN202180029353.2A Pending CN115428446A (zh) 2020-04-18 2021-04-19 交叉分量预测的使用限制
CN202311558909.4A Pending CN117596409A (zh) 2020-04-18 2021-04-19 用于处理视频数据的方法、装置以及计算机可读存储介质

Country Status (6)

Country Link
US (4) US11936873B2 (zh)
EP (2) EP4122204A4 (zh)
JP (3) JP7473680B2 (zh)
KR (2) KR20230002432A (zh)
CN (4) CN115443658A (zh)
WO (3) WO2021209064A1 (zh)

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103096057B (zh) * 2011-11-08 2016-06-29 华为技术有限公司 一种色度帧内预测方法和装置
JP6125215B2 (ja) * 2012-09-21 2017-05-10 株式会社東芝 復号装置、及び符号化装置
US10645399B2 (en) 2013-07-23 2020-05-05 Intellectual Discovery Co., Ltd. Method and apparatus for encoding/decoding image
US10455249B2 (en) * 2015-03-20 2019-10-22 Qualcomm Incorporated Downsampling process for linear model prediction mode
WO2017088093A1 (en) 2015-11-23 2017-06-01 Mediatek Singapore Pte. Ltd. On the smallest allowed block size in video coding
US10230961B2 (en) 2016-06-03 2019-03-12 Mediatek Inc. Method and apparatus for template-based intra prediction in image and video coding
US10484712B2 (en) 2016-06-08 2019-11-19 Qualcomm Incorporated Implicit coding of reference line index used in intra prediction
US10554974B2 (en) 2017-01-13 2020-02-04 Mediatek Inc. Method and apparatus enabling adaptive multiple transform for chroma transport blocks using control flags
US10779007B2 (en) 2017-03-23 2020-09-15 Mediatek Inc. Transform coding of video data
JP2020120141A (ja) 2017-05-26 2020-08-06 シャープ株式会社 動画像符号化装置及び動画像復号装置、フィルタ装置
US10856010B2 (en) 2017-09-08 2020-12-01 FG Innovation Company Limited Device and method for coding video data based on multiple reference lines
GB2567249A (en) 2017-10-09 2019-04-10 Canon Kk New sample sets and new down-sampling schemes for linear component sample prediction
CN116684619A (zh) * 2017-11-28 2023-09-01 Lx 半导体科技有限公司 图像编码/解码方法、图像数据的传输方法和存储介质
GB2571314A (en) 2018-02-23 2019-08-28 Canon Kk Methods and devices for linear component sample prediction using a double classification
EP3738309A1 (en) * 2018-03-07 2020-11-18 Huawei Technologies Co., Ltd. Method and apparatus for detecting blocks suitable for multiple sign bit hiding
CN116708837A (zh) 2018-07-02 2023-09-05 Lg电子株式会社 编解码设备和数据发送设备
CN116405688A (zh) * 2018-07-12 2023-07-07 华为技术有限公司 视频译码中使用交叉分量线性模型进行帧内预测
WO2020015433A1 (en) 2018-07-15 2020-01-23 Huawei Technologies Co., Ltd. Method and apparatus for intra prediction using cross-component linear model
CN110839153B (zh) 2018-08-17 2023-04-07 北京字节跳动网络技术有限公司 一种处理视频数据的方法和装置
JP2021536717A (ja) * 2018-09-07 2021-12-27 ビー1、インスティテュート、オブ、イメージ、テクノロジー、インコーポレイテッドB1 Institute Of Image Technology, Inc. イントラ予測を用いた画像符号化/復号化方法及び装置
CN110896480A (zh) * 2018-09-12 2020-03-20 北京字节跳动网络技术有限公司 交叉分量线性模型中的尺寸相关的下采样
CN112703742B (zh) * 2018-09-14 2023-03-31 华为技术有限公司 视频译码中的分块指示
KR102543468B1 (ko) * 2018-10-04 2023-06-14 엘지전자 주식회사 Cclm에 기반한 인트라 예측 방법 및 그 장치
WO2020073904A1 (en) * 2018-10-08 2020-04-16 Huawei Technologies Co., Ltd. An image processing device and method for performing deblocking
US11197005B2 (en) 2018-11-08 2021-12-07 Qualcomm Incorporated Cross-component prediction for video coding
CN116418981A (zh) * 2019-02-22 2023-07-11 华为技术有限公司 使用线性模型进行帧内预测的方法及装置
WO2020236038A1 (en) * 2019-05-21 2020-11-26 Huawei Technologies Co., Ltd. Method and apparatus of cross-component prediction
US11115658B2 (en) 2019-06-25 2021-09-07 Qualcomm Incorporated Matrix intra prediction and cross-component linear model prediction harmonization for video coding
KR20230107417A (ko) * 2019-12-30 2023-07-14 베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드 비디오 데이터의 크로마 및 루마 성분의 교차 성분결정
CN114902661A (zh) * 2019-12-30 2022-08-12 华为技术有限公司 用于跨分量线性模型预测的滤波方法和装置
US11523138B2 (en) * 2020-03-26 2022-12-06 Alibaba Group Holding Limited Method and apparatus for cross component filtering
US11638036B2 (en) * 2020-04-03 2023-04-25 Qualcomm Incorporated High-level constraints for transform skip blocks in video coding

Also Published As

Publication number Publication date
WO2021209065A1 (en) 2021-10-21
EP4122204A4 (en) 2024-02-14
JP2023521502A (ja) 2023-05-24
US20230075048A1 (en) 2023-03-09
US11902529B2 (en) 2024-02-13
US11936873B2 (en) 2024-03-19
KR20230002433A (ko) 2023-01-05
JP2024023524A (ja) 2024-02-21
JP7473680B2 (ja) 2024-04-23
US20230069756A1 (en) 2023-03-02
WO2021209064A1 (en) 2021-10-21
EP4122194A4 (en) 2023-08-16
EP4122194A1 (en) 2023-01-25
US20230063736A1 (en) 2023-03-02
US20240114141A1 (en) 2024-04-04
EP4122204A1 (en) 2023-01-25
WO2021209063A1 (en) 2021-10-21
CN115428446A (zh) 2022-12-02
KR20230002432A (ko) 2023-01-05
JP2023521503A (ja) 2023-05-24
CN117596409A (zh) 2024-02-23
CN115443658A (zh) 2022-12-06

Similar Documents

Publication Publication Date Title
CN115244924A (zh) 跨分量自适应环路滤波器的信令通知
US11496751B2 (en) Derivation of linear parameter in cross-component video coding
CN113728642A (zh) 编解码视频的量化残差差分脉冲编解码调制表示
US20220272335A1 (en) Cross-component adaptive loop filter
WO2021052494A1 (en) Size restriction based for chroma intra mode
WO2021104409A1 (en) Cross-component adaptive filtering and subblock coding
CN115066899A (zh) 编解码视频的可分二次变换处理
CN113841402A (zh) 视频编解码中大块的变换设计
US20240098266A1 (en) Using Neighboring Samples In Cross-Component Video Coding
WO2021190593A1 (en) Coded video processing using enhanced secondary transform
WO2021209065A1 (en) Use restrictions for cross-component prediction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination