CN113574870A - 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 - Google Patents
编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 Download PDFInfo
- Publication number
- CN113574870A CN113574870A CN202080011328.7A CN202080011328A CN113574870A CN 113574870 A CN113574870 A CN 113574870A CN 202080011328 A CN202080011328 A CN 202080011328A CN 113574870 A CN113574870 A CN 113574870A
- Authority
- CN
- China
- Prior art keywords
- mode
- prediction mode
- intra prediction
- block
- current block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
- H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
提供了一种解码设备或编码设备实现的对当前块进行预测译码的方法,包括:获取所述当前块的左相邻块的帧内预测模式;获取所述当前块的上相邻块的帧内预测模式;当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式(most probable mode,MPM)列表,所述MPM列表包括如下至少5个帧内预测模式条目:{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的帧内预测模式和所述上相邻块的帧内预测模式是相同的角度模式,并且其中,ang表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。
Description
相关申请案交叉申请
本专利申请要求于2019年2月25日提交的第62/810,323号美国临时专利申请的优先权。上述专利申请的全部公开内容通过引用的方式并入本文中。
技术领域
本申请实施例大体上涉及图像处理领域,更具体地,涉及帧内预测。
背景技术
视频译码(视频编码和解码)广泛用于数字视频应用,例如广播数字TV、通过互联网和移动网络传输视频、实时会话应用(如视频聊天)、视频会议、DVD和蓝光光盘、视频内容采集和编辑系统,以及安全应用的摄像机。
即使在视频较短的情况下也需要对大量的视频数据进行描述,当数据要在带宽容量受限的通信网络中发送或以其它方式发送时,这样会造成困难。因此,视频数据通常要先压缩然后在现代电信网络中发送。由于内存资源有限,当在存储设备中存储视频时,视频的大小也会成为问题。视频压缩设备通常在信源侧使用软件和/或硬件,以在发送或存储之前对视频数据进行译码,从而减少用来表示数字视频图像所需的数据量。然后,压缩数据在目的侧由用于对视频数据进行解码的视频解压缩设备接收。在有限的网络资源以及对更高视频质量的需求不断增长的情况下,需要改进压缩和解压缩技术,这些改进的技术在几乎不影响图像质量的情况下能够提高压缩比。
特别地,在帧内预测处理背景下,存在对减少处理器负载的持续需求。在本领域中,已知将最可能模式(most probable mode,MPM)列表用于帧内预测模式译码。MPM列表减少了译码当前块的帧内预测模式所需的比特数。在当前块的帧内预测模式对应于MPM列表的条目时,对索引而不是实际模式进行编码,因此需要的比特数更少。但是,考虑到最高效的帧内预测译码,选择用于生成MPM列表的条目仍然是一项任务。条目的正确选择对基于MPM列表的帧内预测模式译码的效率的影响很大。
有鉴于此,本发明的一个目的是提供一种用于生成MPM列表的技术,该技术与现有技术相比,能够更高效地译码。
发明内容
本申请实施例提供根据独立权利要求请求保护的用于编码和解码的装置和方法。
上述和其它目的通过独立权利要求请求保护的主题实现。其它实现方式从从属权利要求、说明书和附图中是显而易见的。
根据一个实施例,提供了一种由解码设备或编码设备实现的对当前块进行预测译码的方法,包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,(根据这些获取步骤的结果)构建所述当前块的帧内预测模式的最可能模式(most probable mode,MPM)列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的帧内预测模式和所述上相邻块的帧内预测模式是相同的角度模式,并且其中,ang表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。换句话说,ang是一个值或索引,表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。ang的范围可以为{2-66}。
在本实施例的一种实现方式中,所述方法还可以包括:检查所述左相邻块的所述帧内预测模式与所述上相邻块的所述帧内预测模式是否为相同的角度模式。
由于实践中通常使用的帧内预测模式包括在生成的MPM列表中,所以所述MPM列表可以提高译码效率,并可以通过列表的索引参考,无需对实际模式进行译码。
特别地,当所述第一条件和第二条件满足时,所述至少5个帧内预测模式条目可以包括在所述MPM列表中,其中,所述第二条件包括所述当前块使用帧内子划分(intra subpartition,ISP)模式进行译码。由此,可以根据实际应用,进一步提高译码效率。
在一个替代方案中,为了提高译码效率,解码设备或编码设备实现的对当前块进行预测译码的方法可以提供MPM列表,所述方法包括:获取所述当前块的左相邻块的帧内预测模式;获取所述当前块的上相邻块的帧内预测模式;当至少第一条件满足时,(根据这些获取步骤的结果)构建所述当前块的帧内预测模式的最可能模式(most probable mode,MPM)列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中仅有一种为角度模式,其中,ang表示所述角度模式。换句话说,ang是一个值或索引,表示角度模式。ang的范围可以为{2-66}。所述第一条件可以包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中的另一个不是角度模式。
在替代实施例的一种实现方式中,所述方法还可以包括:检查所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中是否仅有一个为角度模式。
同样,当所述第一条件和第二条件满足时,所述MPM列表可以包括所述至少5个帧内预测模式条目,其中,所述第二条件包括所述当前块使用ISP模式进行译码。
根据另一个替代方案,为了提高译码效率,解码设备或编码设备实现的对当前块进行预测译码的方法可以提供MPM列表,所述方法包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,(根据这些获取步骤的结果)构建所述当前块的帧内预测模式的最可能模式(most probable mode,MPM)列表,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均为角度模式,所述MPM列表包括如下至少5个帧内预测模式条目:
(a)当maxAB–minAB等于1时,{above_mode,left_mode,2+((minAB+61)%64),2+((maxAB–1)%64),2+((minAB+60)%64)};或
(b)当maxAB–minAB等于2时,{above_mode,left_mode,2+((minAB–1)%64),2+((minAB+61)%64),2+((maxAB–1)%64)};或
(c)当maxAB–minAB大于61时,{above_mode,left_mode,2+((minAB–1)%64),2+((maxAB+61)%64),2+(minAB%64)};或
(d)其它情况下,{above_mode,left_mode,2+((minAB+61)%64),2+((minAB–1)%64),2+((maxAB+61)%64)};
其中,above_mode表示所述上相邻块的所述帧内预测模式,left_mode表示所述左相邻块的所述帧内预测模式,minAB表示所述above_mode与所述left_mode之间的最小帧内预测模式,maxAB表示所述above_mode与所述left_mode之间的最大帧内预测模式。
在替代实施例的一种实现方式中,所述方法还可以包括:检查所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式是否均为角度模式。
在上述所有实施例中,所述当前块的所述帧内预测模式可以根据分别生成的MPM列表进行译码。如上所述,与现有技术相比,译码过程的译码效率可以通过使用相应的MPM列表来提高。
根据上述实施例中的一个的方法还可以包括:确定所述当前块的所述帧内预测模式,以及当所述当前块的所述确定的帧内预测模式列在所述MPM列表中时,通过所述MPM列表的对应的索引对所述当前块的所述确定的帧内预测模式进行译码。同样,与现有技术相比,译码过程的译码效率可以通过使用相应的MPM列表的索引来提高。
根据一个实施例,所述MPM列表的生成包括生成表示所述PLANAR模式的第六列表条目。或者,上述实施例中的一个的方法可以包括:确定所述当前块的所述帧内预测模式是否为PLANAR模式,以及在确定所述当前块的所述帧内预测模式不是PLANAR模式时,通过标志指示所述当前块的所述帧内预测模式不是PLANAR模式。
因此,可以明确考虑广泛使用的重要的PLANAR模式。应明确指出,这些使用PLANAR模式的替代方案之间的区别仅仅是示例性的,并且这些替代方案可以相互替换。
根据另一个实施例,所述生成的MPM列表包括上述至少5个条目(即没有索引PLANAR模式),并且所述方法还包括使用所述生成的MPM列表进行多参考行译码。同样,可以提高帧内预测的译码效率。
根据另一个特定实施例,如果不存在帧内预测的上相邻块,则所述上相邻块的所述帧内预测模式可以确定为PLANAR;如果不存在帧内预测的左相邻块,则所述左相邻块的所述帧内预测模式确定为PLANAR。因此,对于不存在帧内预测的上相邻块或帧内预测的左相邻块的情况,可以通过默认的方式高效处理。
此外,还考虑了所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均不为角度模式的情况。因此,提供了一种解码设备或编码设备实现的对当前块进行预测译码的方法,包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式(mostprobable mode,MPM)列表,所述MPM列表包括至少5个帧内预测模式条目,其中,所述至少5个条目中的4个由VER_IDX、HOR_IDX、VER_IDX–4和VER_ID+4给出,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均不为角度模式,其中,VER_IDX表示垂直帧内预测模式的索引,HOR_IDX表示水平帧内预测模式的索引。
在替代实施例的一种实现方式中,所述方法还可以包括:检查所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式是否均不为角度模式。
在本发明方法的所有上述实施例中,以下内容成立:所述左相邻块的左上角位于(xCb–1,yCb+cbHeight–1),所述上相邻块的左上角位于(xCb+cbWidth–1,yCb–1),其中,xCb、yCb、cbHeight和cbWidth分别表示所述当前块的所述左上角在宽度方向上的位置、所述当前块的所述左上角在高度方向上的位置、所述当前块的高度和所述当前块的宽度。
上述实施例可以在提供上述相同优点的编码器或解码器中实现。因此,提供了一种编码器,其包括用于执行根据上述实施例中的任一个实施例的方法的处理电路。类似地,提供了一种解码器,其包括用于执行根据上述实施例中的任一个实施例的方法的处理电路。
此外,提供了一种计算机程序产品,其包括用于执行上述方法的步骤的程序代码。
此外,提供了一种解码器或编码器,其包括一个或多个处理器和非瞬时性计算机可读存储介质,其与所述处理器耦合并存储由所述处理器执行的程序,其中,当所述程序由所述处理器执行时,使所述编码器或所述解码器执行根据上述实施例中任一项所述的方法。
本发明中对当前块进行预测译码的方法的上述实施例可以在用于图像编码器和/或图像解码器的适当设备中实现。这样的设备的操作还提供上述优点。因此,提供了一种用于图像编码器和/或图像解码器的设备,包括:
预测模式单元,用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元,用于当至少第一条件满足时,(根据来自所述预测模式单元的输入)构建所述当前块的帧内预测模式列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的帧内预测模式和所述上相邻块的帧内预测模式是相同的角度模式,并且其中,ang表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。换句话说,ang是一个值或索引,表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。ang的范围可以为{2-66}。
在本实施例的一种实现方式中,MPM单元还可以用于检查所述左相邻块的所述帧内预测模式与所述上相邻块的所述帧内预测模式是否为相同的角度模式。
当所述第一条件和第二条件满足时,所述MPM列表可以包括所述至少5个帧内预测模式条目,其中,所述第二条件包括所述当前块使用帧内子划分(intra sub partition,ISP)模式进行译码。
此外,提供了一种用于图像编码器和/或图像解码器的设备,包括:
预测模式单元,用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元,用于当至少第一条件满足时,(根据来自所述预测模式单元的输入)构建所述当前块的帧内预测模式列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中仅有一种为角度模式,其中,ang表示所述角度模式。换句话说,ang是一个值或索引,表示角度模式。ang的范围可以为{2-66}。
在替代实施例的一种实现方式中,所述MPM单元还可以用于检查所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中是否仅有一个为角度模式。
同样,当所述第一条件和第二条件满足时,所述MPM列表可以包括所述至少5个帧内预测模式条目,其中,所述第二条件包括所述当前块使用ISP模式进行译码。
此外,提供了一种用于图像编码器和/或图像解码器的设备,包括:
预测模式单元,用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元,用于当至少第一条件满足时,(根据来自所述预测模式单元的输入)构建所述当前块的帧内预测模式列表,
其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均为角度模式,所述MPM列表包括如下至少5个帧内预测模式条目:
(a)当maxAB–minAB等于1时,{above_mode,left_mode,2+((minAB+61)%64),2+((maxAB–1)%64),2+((minAB+60)%64)};或
(b)当maxAB–minAB等于2时,{above_mode,left_mode,2+((minAB–1)%64),2+((minAB+61)%64),2+((maxAB–1)%64)};或
(c)当maxAB–minAB大于61时,{above_mode,left_mode,2+((minAB–1)%64),2+((maxAB+61)%64),2+(minAB%64)};或
(d)其它情况下,{above_mode,left_mode,2+((minAB+61)%64),2+((minAB–1)%64),2+((maxAB+61)%64)};
其中,above_mode表示所述上相邻块的所述帧内预测模式,left_mode表示所述左相邻块的所述帧内预测模式,minAB表示所述above_mode与所述left_mode之间的最小帧内预测模式,maxAB表示所述above_mode与所述left_mode之间的最大帧内预测模式。
在替代实施例的一种实现方式中,所述MPM单元还可以用于检查所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式是否均为角度模式。
根据上述实施例中的一个的设备还可以包括编码单元,用于根据生成的MPM列表对所述当前块的帧内预测模式进行编码。
此外,根据上述实施例中的一个的设备还可以包括确定单元,用于确定所述当前块的所述帧内预测模式,以及当所述当前块的所述确定的帧内预测模式列在所述MPM列表中时,通过所述MPM列表的对应的索引对所述当前块的所述确定的帧内预测模式进行译码。
根据一个实施例,所述最可能模式单元用于生成表示所述PLANAR模式的第六列表条目。
根据一个实施例,所述设备还包括平面确定单元,用于确定所述当前块的所述帧内预测模式是否为所述PLANAR模式;以及指示单元,用于在确定所述当前块的所述帧内预测模式不是PLANAR模式时,通过标志指示所述当前块的所述帧内预测模式不是PLANAR模式。
所述生成的MPM列表可以包括所述至少5个条目,并且根据上述实施例中的一个的设备还可以包括多参考行编码单元,用于使用所述MPM列表进行多参考行编码。
在上述所有实施例中,如果不存在帧内预测的上相邻块,则所述预测模式单元可以确定所述上相邻块的所述帧内预测模式为PLANAR,并且如果不存在帧内预测的左相邻块,则所述预测模式单元确定所述左相邻块的所述帧内预测模式为PLANAR。
此外,还考虑了所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均不为角度模式的情况。因此,提供了一种用于图像编码器和/或图像解码器的设备(1100),包括:
预测模式单元(1101),用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元(1102),用于当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式列表,所述MPM列表包括至少5个帧内预测模式条目,其中,所述至少5个条目中的4个由VER_IDX、HOR_IDX、VER_IDX–4和VER_ID+4给出,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均不为角度模式,其中,VER_IDX表示垂直帧内预测模式的索引,HOR_IDX表示水平帧内预测模式的索引。
通常,在本发明方法的所有上述实施例中,以下内容成立:所述左相邻块的左上角位于(xCb–1,yCb+cbHeight–1),所述上相邻块的左上角位于(xCb+cbWidth–1,yCb–1),其中,xCb、yCb、cbHeight和cbWidth分别表示所述当前块的所述左上角在宽度方向上的位置、所述当前块的所述左上角在高度方向上的位置、所述当前块的高度和所述当前块的宽度。
在上述所有实施例中,
x%y取模运算,x除以y得到的余数,仅针对x>=0且y>0的整数x和y定义。
上述所有实施例通过在MPM列表构建中包括与当前预测块更相关的模式来改进帧内模式译码。
特别地,当左块的帧内模式和上块的帧内模式中的一个为角度模式或两者均为角度模式但相同时,通过包括角度模式并在MPM列表中扩展其相邻角度模式来构建MPM列表。
当左块的帧内模式和上块的帧内模式是角度模式且不相同时,根据左块的帧内模式和上块的帧内模式的差异构建MPM列表。
共区分四类,并且通过添加左块和上块的帧内模式的相邻角度模式推导MPM列表。
附图及以下说明中将详细描述一个或多个实施例。其它特征、目标和优点在说明书、附图以及权利要求中显而易见。
附图说明
下面结合附图对本发明实施例进行详细描述。
图1A为用于实现本发明实施例的视频译码系统的示例的框图。
图1B为用于实现本发明实施例的视频译码系统的另一个示例的框图。
图2为用于实现本发明实施例的视频编码器的示例的框图。
图3为用于实现本发明实施例的视频解码器的示例性结构的框图。
图4为编码装置或解码装置的一个示例的框图。
图5为编码装置或解码装置的另一个示例的框图。
图6示出了多参考行译码工具的操作。
图7示出了帧内子划分译码的示例。
图8示出了帧内子划分译码的示例。
图9示出了当前块的帧内预测译码所依赖的相邻块的位置。
图10示出了根据本发明的解码设备或编码设备实现的对当前块进行预测译码的方法的实施例。
图11示出了根据本发明的用于图像编码器和/或图像解码器中的设备的实施例。
图12为实现内容分发服务的内容供应系统3100的示例性结构的框图。
图13为终端设备的一个示例的结构的框图。
下文中,除非另外明确说明,否则相同的附图标记指代相同或至少功能等同的特征。
具体实施方式
在以下描述中,参考构成本发明的一部分的附图,这些附图通过说明的方式示出本发明的实施例的特定方面或可以使用本发明的实施例的具体方面。应理解,本发明的实施例可以用于其它方面,并且包括在附图中未描绘的结构上或逻辑上的变化。因此,以下详细描述不作为限制意义,并且本发明的范围由所附权利要求限定。
例如,应理解,参考所描述的方法公开的内容对于用于执行该方法的对应的设备或系统也可以成立,反之亦然。例如,如果描述了一个或多个特定的方法步骤,则对应的设备可以包括一个或多个单元,例如用于执行所描述的一个或多个方法步骤的功能单元(例如,执行一个或多个步骤的一个单元;或者多个单元,每个单元执行多个步骤中的一个或多个),即使一个或多个单元在附图中未明确描述或示出时也是如此。此外,例如,如果根据一个或多个单元(例如功能单元)来描述特定装置,则对应的方法可以包括用于执行一个或多个单元的功能的一个步骤(例如执行一个或多个单元的功能的一个步骤,或多个步骤,每个步骤执行多个单元中的一个或多个单元的功能),即使一个或多个步骤在附图中未明确描述或示出时也是如此。此外,应理解,除非特别指出,否则本文描述的各种示例性实施例和/或方面的特征可以彼此组合。
视频译码通常是指对构成视频或视频序列的图像序列进行处理。在视频译码领域中,术语“帧(frame)”可以代替术语“图像(picture或image)”。视频译码(或通常称为译码)包括视频编码和视频解码两部分。视频编码在源端执行,并且通常包括处理(例如,通过压缩)原始视频图像,以减少表示视频图像所需的数据量(以获得更高效的存储和/或传输)。视频解码在目的端执行,并且通常包括相对于编码器的逆处理以重建视频图像。实施例涉及的视频图像(或通常称为图像)的“译码”应理解为视频图像或各自视频序列的“编码”或“解码”。编码部分和解码部分的组合也称为编解码器(编码和解码,CODEC)。
在无损视频译码的情况下,可以对原始视频图像进行重建,即,重建的视频图像与原始视频图像具有相同的质量(假设在存储或传输期间没有传输损失或其它数据损失)。在有损视频译码的情况下,通过量化等方式进行进一步压缩,以减少表示视频图像所需的数据量,在解码器侧无法完全重建视频图像,即,重建的视频图像的质量比原始视频图像的质量低或差。
若干视频译码标准属于“有损混合视频编解码”组(即,将样本域中的空间和时间预测与2D变换译码相结合,以在变换域中进行量化)。视频序列的每个图像通常分割为一组不重叠的块,并且通常在块级别上进行译码。换句话说,在编码器侧,通常在块(视频块)级别上对视频进行处理(即,编码),例如,通过使用空间(帧内图像)预测和/或时间(帧间图像)预测来生成预测块,从当前块(当前处理/待处理块)中减去预测块以获得残差块,变换残差块并在变换域中量化残差块以减少待发送(压缩)的数据量,而在解码器侧,相对于编码器的逆处理用于编码的或压缩的块,以重建当前块用于表示。此外,编码器按照解码器处理循环来处理,使得两者生成相同的预测(例如,帧内和帧间预测)和/或重建,用于进行处理,即,对后续块进行译码。
在以下视频译码系统10的实施例中,视频编码器20和视频解码器30根据图1至图3进行描述。
图1A为示例性译码系统10的示意性框图,例如可以使用本申请的技术的视频译码系统10(或简称为译码系统10)。视频译码系统10的视频编码器20(或简称为编码器20)和视频解码器30(或简称为解码器30)表示可以用于根据本申请中描述的各种示例执行技术的设备的示例。
如图1A所示,译码系统10包括源设备12,源设备12用于向目的地设备14等提供编码图像数据21,以对编码数据13进行解码。
源设备12包括编码器20,并且可以另外(即可选地)包括图像源16、预处理器(预处理单元)18(例如图像预处理器18)和通信接口或通信单元22。
图像源16可以包括或可以是:任何类型的图像捕获设备,例如用于捕获真实世界图像的摄像机;和/或任何类型的图像生成设备,例如用于生成计算机动画图像的计算机图形处理器;或用于获取和/或提供真实世界图像、计算机动画图像(例如屏幕内容、虚拟现实(virtual reality,VR)图像),和/或其任何组合(例如增强现实(augmented reality,AR)图像)的任何类型的设备。图像源可以为存储上述图像中的任何图像的任何类型的存储器或存储装置。
为了与预处理单元18和由预处理单元18执行的处理进行区分,图像或图像数据17也可以称为原始图像或原始图像数据17。
预处理器18用于接收(原始)图像数据17,并对图像数据17进行预处理,以获得预处理图像19或预处理图像数据19。预处理器18执行的预处理可以包括修正(trimming)、颜色格式转换(例如从RGB到YCbCr)、颜色校正或去噪等。可以理解的是,预处理单元18可以是可选的组件。
视频编码器20用于接收预处理的图像数据19并提供编码图像数据21(例如,下文根据图2进一步详细描述)。
源设备12中的通信接口22可以用于:接收编码图像数据21并通过通信信道13向目的地设备14等另一设备或任何其它设备发送编码图像数据21(或任何其它处理后的版本),以用于存储或直接重建。
目的地设备14包括解码器30(例如视频解码器30),并且可以另外(即可选地)包括通信接口或通信单元28、后处理单元32(或后处理单元32)和显示设备34。
目的地设备14的通信接口28用于例如直接从源设备12,或从任何其它源(例如存储设备,例如编码图像数据存储设备)接收编码图像数据21或(或任何其它处理后的版本),并将编码图像数据21提供给解码器30。
通信接口22和通信接口28可以用于通过源设备12与目的地设备14之间的直接通信链路(例如直接有线或无线连接),或者通过任何类型的网络(例如有线网络、无线网络、有线网络和无线网络的任何组合、任何类型的私网和公网、任何类型的私网和公网的组合),发送或接收编码图像数据21或编码数据13。
例如,通信接口22可以用于将编码图像数据21封装为报文等合适的格式,和/或使用任何类型的传输编码或处理来处理编码图像数据,以便在通信链路或通信网络上进行传输。
通信接口28与通信接口22对应,例如,可以用于接收所发送数据,并使用任何类型的对应传输解码或处理和/或解封装过程对传输数据进行处理,以获得编码图像数据21。
通信接口22和通信接口28均可配置为如图1A中从源设备12指向目的地设备14的通信信道13的箭头所指示的单向通信接口,或配置为双向通信接口,并且可用于发送和接收消息,建立连接,确认并交换与通信链路和/或数据传输(例如编码图像数据传输)相关的任何其它信息等。
解码器30用于接收编码图像数据21并提供解码图像数据31或解码图像31(例如,下文根据图3或图5进一步详细描述)。
目的地设备14的后处理器32用于对解码图像数据31(也称为重建图像数据),例如解码图像31,进行后处理,以获得后处理图像数据33,例如后处理图像33。由后处理单元32执行的后处理可以包括颜色格式转换(例如从YCbCr到RGB)、颜色校正、修剪或重新采样或任何其它处理,以例如准备解码图像数据31,用于通过显示设备34等进行显示。
目的地设备14的显示设备34用于接收经后处理的图像数据33,以例如向用户或观看者显示图像。显示设备34可以是或包括用于呈现重建图像的任何类型的显示器,例如集成的或外部的显示器或监控器。例如,显示器可以包括液晶显示器(liquid crystaldisplay,LCD)、有机发光二极管(organic light emitting diode,OLED)显示器、等离子显示器、投影仪、微LED显示器,硅上液晶(liquid crystal on silicon,LCOS)、数字光处理器(digital light processor,DLP)或任何类型的其它显示器。
尽管图1A将源设备12和目的地设备14描绘为的设备,但是设备的实施例也可以包括这两种设备或这两种设备的功能,即包括源设备12或对应的功能与目的地设备14或对应的功能。在此类实施例中,源设备12或对应的功能与目的地设备14或对应的功能可以通过相同的硬件和/或软件、通过单独的硬件和/或软件或其任何组合来实现。
根据以上描述,对于本领域技术人员来说显而易见的是,图1A中所示的源设备12和/或目的地设备14的不同单元或功能的存在和(精确)功能划分可以根据实际设备和应用而变化。
编码器20(例如视频编码器20)或解码器30(例如视频解码器30)或两者都可通过如图1B所示的处理电路如一个或多个微处理器、数字信号处理器(digital signalprocessor,DSP)、专用集成电路(application-specific integrated circuit,ASIC)、现场可编程门阵列(field-programmable gate array,FPGA)、离散逻辑、硬件、视频译码专用处理器或其任何组合来实现。编码器20可以通过处理电路46实现,以实现结合图2的编码器20和/或本文描述的任何其它编码器系统或子系统所讨论的各种模块。解码器30可以通过处理电路46实现,以实现结合图3的解码器30所讨论的各种模块和/或本文所描述的任何其它解码器系统或子系统。处理电路可以用于执行本文所描述的各种操作。如图5所示,如果这些技术部分地在软件中实现,则设备可以将软件指令存储在合适的非瞬时性计算机可读存储介质中,并且可以通过一个或多个处理器在硬件中执行这些指令,以执行本发明的技术。视频编码器20和视频解码器30中的任何一个可以作为组合编解码器(encoder/decoder,CODEC)的一部分集成在单个设备中,如图1B所示。
源设备12和目的地设备14可以包括多种设备中的任一种,包括任何类型的手持设备或固定设备,例如,笔记本电脑或膝上型电脑、手机、智能手机、平板或平板电脑、摄像机、台式计算机、机顶盒、电视机、显示设备、数字媒体播放器、视频游戏控制台、视频流设备(如内容业务服务器或内容分发服务器)、广播接收器设备、广播发送器设备等,并且可以使用或不使用任何类型的操作系统。在一些情况下,源设备12和目的地设备14可以用于无线通信。因此,源设备12和目的地设备14可以是无线通信设备。
在一些情况下,图1A所示的视频译码系统10仅是示例,本申请的技术可以应用于视频译码设置(例如,视频编码或视频解码),不一定包括编码设备与解码设备之间的任何数据通信。在其它示例中,数据可以从本地存储器检索、通过网络流式传输等。视频编码设备可以对数据进行编码并将数据存储到存储器,和/或视频解码设备可以从存储器检索和解码数据。在一些示例中,编码和解码由不彼此通信但简单地将数据编码到存储器和/或从存储器检索和解码数据的设备执行。
为便于描述,例如,参考由ITU-T视频译码专家组(video coding experts group,VCEG)和ISO/IEC运动图像专家组(motion picture experts group,MPEG)的视频译码联合工作组(joint collaboration team on video coding,JCT-VC)开发的高效视频译码(high-efficiency video coding,HEVC)、通用视频译码(versatile video coding,VVC)参考软件、下一代视频译码标准描述本发明实施例。本领域普通技术人员应理解本发明的实施例不限于HEVC或VVC。
编码器及编码方法
图2为用于实现本申请的技术的示例性视频编码器20的示意性框图。在图2的示例中,视频编码器20包括输入端201(或输入接口201)、残差计算单元204、变换处理单元206、量化单元208、反量化单元210、逆变换处理单元212、重建单元214、环路滤波器220、解码图像缓冲器(decoded picture buffer,DPB)230、模式选择单元260、熵编码单元270和输出端272(或输出接口272)。模式选择单元260可以包括帧间预测单元244、帧内预测单元254和分割单元262。帧间预测单元244可以包括运动估计单元和运动补偿单元(图中未示出)。根据混合视频编解码器,图2所示的视频编码器20也可以称为混合视频编码器或视频编码器。
残差计算单元204、变换处理单元206、量化单元208和模式选择单元260组成编码器20的前向信号路径;反量化单元210、逆变换处理单元212、重建单元214、缓冲器216、环路滤波器220、解码图像缓冲器(decoded picture buffer,DPB)230、帧间预测单元244和帧内预测单元254组成视频编码器20的反向信号路径,其中,视频编码器20的反向信号路径对应于解码器(参见图3的解码器30)的信号路径。反量化单元210、逆变换处理单元212、重建单元214、环路滤波器220、解码图像缓冲器230、帧间预测单元244和帧内预测单元254还组成视频编码器20的“内置解码器”。
图像和图像分割(图像和块)
编码器20可以用于通过输入端201等接收图像17(或图像数据17),例如,形成视频或视频序列的图像序列中的图像。接收到的图像或图像数据还可以是经预处理图像19(或预处理图像数据19)。为简单起见,以下描述中称为图像17。图像块17还可以称为当前图像或待译码图像(特别是在视频译码中,将当前图像与其它图像区分开来,其它图像例如是同一视频序列(即,也包括当前图像的视频序列)中之前编码和/或解码的图像)。
(数字)图像是或可以看作具有强度值的二维样本阵列或矩阵。阵列中的样本也可以称为像素(pixel/pel)(图像元素的简称)。阵列或图像的水平和垂直方向(或轴线)上的样本的数量定义图像的大小和/或分辨率。通常使用三个颜色分量来表示颜色,即,可以通过三个样本阵列来表示图像或图像可以包括三个样本阵列。在RBG格式或色彩空间中,图像包括对应的红、绿、蓝样本阵列。但是,在视频译码中,每个像素通常以亮度和色度格式或颜色空间表示,例如YCbCr,其包括Y表示的亮度分量(有时也用L代替)以及Cb和Cr表示的两个色度分量。亮度分量Y表示亮度或灰度强度(例如在灰度级图像中),而两个色度分量Cb和Cr表示色度或颜色信息分量。对应地,YCbCr格式的图像包括亮度样本值的亮度样本阵列(Y)和色度值的两个色度样本阵列(Cb和Cr)。RGB格式的图像可以转换或变换为YCbCr格式,反之亦然,该过程也称为颜色变换或转换。如果图像是单色的,则该图像可以只包括亮度样本阵列。相应地,图像可以为例如单色格式的亮度样本阵列或4:2:0、4:2:2和4:4:4彩色格式的亮度样本阵列和两个对应的色度样本阵列。
在视频编码器20的实施例中,视频编码器20可以包括图像分割单元(图2中未示出),用于将图像17分割为多个(通常是不重叠的)图像块203。这些块也可以称为根块或宏块(H.264/AVC标准)或称为编码树块(coding tree block,CTB)或编码树单元(codingtree unit,CTU)(H.265/HEVC和VVC标准)。图像分割单元可以用于对视频序列中的所有图像和定义块大小的对应的栅格使用相同的块大小,或者改变图像或子集或图像组之间的块大小,并将每个图像分割为对应的块。
在其它实施例中,视频编码器可以用于直接接收图像17的块203,例如,组成图像17的一个、若干个或所有块。图像块203也可以称为当前图像块或待译码图像块。
尽管图像块203的尺寸小于图像17,但是与图像17一样,块203也是或也可以被认为是具有强度值(样本值)的样本的二维阵列或矩阵。换句话说,块203例如可以包括一个样本阵列(例如,在单色图像17的情况下,亮度阵列)、三个样本阵列(例如,在彩色图像17的情况下,一个亮度阵列和两个色度阵列)或任何其它数量和/或类型的阵列,这取决于应用的颜色格式。块203在水平和垂直方向(或轴线)上的样本的数量定义了块203的大小。相应地,某图像块可以为M×N(M列×N行)个样本阵列,或M×N个变换系数阵列等。
在图2所示的视频编码器20的实施例中,视频编码器20可以用于对图像17逐块地进行编码,例如对每个块203执行编码和预测。
在图2所示的视频编码器20的实施例中,视频编码器20还可以用于采用条带(slice)(也称为视频条带)对图像进行分割和/或编码,其中,图像可以采用一个或多个条带(通常是不重叠的条带)进行分割或编码,每个条带可以包括一个或多个块(如CTU)。
在图2所示的视频编码器20的实施例中,视频编码器20还可以用于使用分块组(也称为视频分块组)和/或分块(也称为视频分块)对图像进行分割和/或编码,其中,可以使用一个或多个分块组(通常是不重叠的)对图像进行编码或可以将图像分割为一个或多个分块组,并且每个分块组可以包括一个或多个块(例如CTU)或一个或多个分块,其中,每个分块可以是矩形并且可以包括一个或多个块(例如CTU),例如全部或部分块。
残差计算
残差计算单元204可以用于根据图像块203和预测块265(后面会详细描述预测块265)计算残差块205(也称为残差205),例如,逐样本(逐像素)从图像块203的样本值中减去预测块265的样本值,以获得样本域中的残差块205。
变换
变换处理单元206可以用于对残差块205的样本值进行变换,例如离散余弦变换(discrete cosine transform,DCT)或离散正弦变换(discrete sine transform,DST),以获得变换域中的变换系数207。变换系数207也可以称为变换残差系数,并且表示变换域中的残差块205。
变换处理单元206可以用于应用DCT/DST的整数近似,例如针对H.265/HEVC指定的变换。与正交DCT变换相比,此类整数近似通常通过某个因子进行缩放。使用附加的缩放因子作为变换过程的一部分,以维持经过前向变换和反向变换处理的残差块的范数。通常根据某些限制来选择缩放因子,例如缩放因子为移位运算的2的幂、变换系数的位深度、准确度和实现成本之间的权衡等。例如,通过逆变换处理单元212指定用于逆变换的特定缩放因子(以及在视频解码器30中通过逆变换处理单元312等为相应的逆变换指定缩放因子),在编码器20中可以相应地通过变换处理单元206等指定用于正向变换的对应的缩放因子。
在视频编码器20的实施例中,例如,视频编码器20(对应地,变换处理单元206)可以用于直接输出或通过熵编码单元270进行编码或压缩后输出一种或多种变换类型的变换参数,使得视频解码器30可以接收并使用变换参数进行解码。
量化
量化单元208可以用于对变换系数207进行量化(例如进行标量量化或矢量量化),以获得量化系数209。量化系数209也可以称为量化变换系数209或量化残差系数209。
量化过程可以减小与部分或全部变换系数207相关的位深。例如,可以在量化期间将n位变换系数向下舍入到m位变换系数,其中,n大于m,可以通过调整量化参数(quantization parameter,QP)修改量化程度。例如,对于标量量化,可以进行不同的缩放来实现更精细或更粗略的量化。量化步长大小越小,量化越精细;量化步长大小越大,量化越粗略。合适的量化步长大小可以通过量化参数(quantization parameter,QP)来指示。例如,量化参数可以是适用于预定义的一组合适的量化步长大小的索引。例如,小的量化参数可以对应精细的量化(小量化步长大小),而大的量化参数可以对应粗略的量化(大量化步长大小),反之亦然。量化操作可以包括除以量化步长,而反量化单元210等执行的相应解量化和/或反解量化操作可以包括乘以量化步长。根据一些标准(例如HEVC),实施例中可以使用量化参数来确定量化步长大小。通常,可以通过包括除法的方程的定点近似、根据量化参数计算量化步长大小。可以将其它缩放因子引入量化和解量化,用于恢复残差块的范数,因为量化步长大小和量化参数的方程的定点近似中使用缩放,所以可以修改该范数。在一种示例性实现方式中,可以合并逆变换和解量化中的缩放。或者,可以使用自定义量化表,并且例如在码流中将该自定义量化表从编码器发送到解码器。量化为有损操作,损耗随量化步长大小的增加而增加。
在视频编码器20的实施例中,视频编码器20(对应地,量化单元208)可以用于,例如,直接输出或经熵编码单元270进行编码后输出量化参数(quantization parameter,QP),使得视频解码器30可以接收并使用量化参数进行解码。
反量化
反量化单元210用于对量化系数执行量化单元208所执行的量化的反量化,以获得解量化系数211,例如,根据或使用与量化单元208相同的量化步长执行与量化单元208所执行的量化方案的反量化方案。解量化系数211也可以称为解量化残差系数211,其对应于变换系数207,但是由于量化造成损耗,所以解量化系数211通常与变换系数不完全相同。
逆变换
逆变换处理单元212用于执行变换处理单元206所执行的变换的逆变换,例如,逆离散余弦变换(discrete cosine transform,DCT)或逆离散正弦变换(discrete sinetransform,DST),以获得样本域中的重建残差块213(或对应的解量化系数213)。重建残差块213也可以称为变换块213。
重建
重建单元214(例如,加法器或求和器214)用于将变换块213(即重建残差块213)与预测块265相加,例如,将重建残差块213的样本值和预测块265的样本值逐样本进行相加,以获得样本域中的重建块215。
滤波
环路滤波单元220(或简称为“环路滤波器”220)用于对重建块215进行滤波,以得到滤波块221,或通常用于对重建样本进行滤波,以得到滤波样本。例如,环路滤波单元用于平滑像素的突变或提高视频质量。环路滤波单元220可以包括一个或多个环路滤波器,例如去块效应滤波器、采样自适应偏移(sample-adaptive offset,SAO)滤波器或一个或多个其它滤波器,例如双边滤波器、自适应环路滤波器(adaptive loop filter,ALF)、锐化滤波器、平滑滤波器、协作滤波器或其任何组合。尽管在图2中环路滤波单元220示出为环内滤波器,但在其它配置中,环路滤波单元220可以实现为后环路滤波器。滤波块221也可以称为滤波重建块221。
例如,视频编码器20(相应地,环路滤波单元220)的实施例可以用于直接输出或通过熵编码单元270编码后输出环路滤波器参数(例如采样自适应偏移信息),使得解码器30可以接收并应用相同或不同的环路滤波参数进行解码。
解码图像缓冲器
解码图像缓冲器(decoded picture buffer,DPB)230可以是存储参考图像或通常存储参考图像数据的存储器,以在视频编码器20对视频数据进行编码时使用。DPB 230可以由各种存储器设备中的任一种形成,例如动态随机存取存储器(dynamic random accessmemory,DRAM)(包括同步DRAM(synchronous DRAM,SDRAM))、磁阻RAM(magneto resistiveRAM,MRAM)、电阻RAM(resistive RAM,RRAM)或其它类型的存储器设备。解码图像缓冲器(decoded picture buffer,DPB)230可用于存储一个或多个滤波块221。解码图像缓冲器230还可以用于存储相同的当前图像或不同图像(例如之前重建的图像)的其它之前滤波的块(例如之前重建的和滤波的块221),并且可以提供完整的之前重建的(即解码的)图像(以及对应的参考块和样本)和/或部分重建的当前图像(以及对应的参考块和样本),以例如用于帧间预测。解码图像缓冲器230还可以用于存储一个或多个未滤波的重建块215,或通常存储未滤波的重建样本,例如,未经环路滤波单元220滤波的重建块215,或未进行任何其它处理的重建块或重建样本。
模式选择(分割和预测)
模式选择单元260包括分割单元262、帧间预测单元244和帧内预测单元254,并且用于从解码图像缓冲器230或其它缓冲器(例如,列缓冲器,图中未示出)接收或获得原始图像数据如原始块203(当前图像17的当前块203),以及重建图像数据如同一(当前)图像和/或一个或多个之前解码的图像的滤波和/或未经滤波的重建样本或重建块。重建图像数据用作帧间预测或帧内预测等预测所需的参考图像数据,以获得预测块265或预测值265。
模式选择单元260可以用于为当前块预测模式(包括不分割模式)和预测模式(例如帧内或帧间预测模式)确定或选择分割模式,并生成对应的预测块265,该预测块用于残差块205的计算以及重建块215的重建。
在模式选择单元260的实施例中,模式选择单元260可以用于选择分割和预测模式(例如,从模式选择单元260支持或可用的模式中选择)。所述分割和预测模式提供最佳匹配,即最小残差(最小残差更有利于压缩,以便传输或存储),或提供最小指示开销(最小的指示开销更有利于压缩,以便传输或存储),或者同时考虑以上两者或在以上两者中取得平衡。模式选择单元260可用于根据率失真优化(rate distortion optimization,RDO)确定分割和预测模式,即选择提供最小率失真的预测模式。本文中“最佳”、“最小”、“最优”等术语不一定指总体上“最佳”、“最小”、“最优”等,也可以指满足终止或选择标准的情况,例如,某个值超过或低于阈值或其它限制,可能导致“次优选择”,但会降低复杂度和处理时间。
换句话说,分割单元262可以用于例如,通过迭代地使用四叉树分割(quad-tree-partitioning,QT)、二叉树分割(binary partitioning,BT)或三叉树分割(triple-tree-partitioning,TT)或其任何组合,将块203分割为较小的块部分或子块(它们再次形成块),以及用于例如对块部分或子块中的每一个执行预测,其中,模式选择包括选择分割的块203的树结构以及应用于每个块部分或子块的预测模式。
下文详细描述由视频编码器20执行的分割(例如,由分割单元260执行)处理和预测处理(例如,由帧间预测单元244和帧内预测单元254执行)。
分割模块
分割单元262可以将当前块203分割(或划分)为较小的部分,例如较小的正方形或矩形块。这些较小的块(也可以称为子块)可以进一步分割为更小的部分。这也称为树分割或分层树分割,其中,在根树层级0(层级0、深度0)等的根块可以递归地分割为两个或多个下一较低树层级的块,例如树层级1(层级1、深度1)的节点,这些块又可以分割为两个或多个下一较低层级的块,例如树层级2(层级2、深度2)等,直到由于满足结束标准(例如达到最大树深度或最小块大小)而结束分割。未进一步分割的块也称为树的叶块或叶节点。分割为两个部分的树称为二叉树(binary-tree,BT),分割为三个部分的树称为三叉树(ternary-tree,TT),分割为四个部分的树称为四叉树(quad-tree,QT))。
如上所述,本文中使用的术语“块”可以是图像的一部分,特别是正方形或矩形部分。例如,结合HEVC和VVC,块可以是或对应于编码树单元(coding tree unit,CTU)、编码单元(coding unit,CU)、预测单元(prediction unit,PU)和变换单元(transform unit,TU)和/或对应于相应的块,例如,编码树块(coding tree block,CTB)、编码块(coding block,CB)、变换块(transform block,TB)或预测块(prediction block,PB)。
例如,编码树单元(coding tree unit,CTU)可以是或包括:亮度样本的CTB、具有三个样本阵列的图像的色度样本的两个对应的CTB、单色图像或使用三个单独的颜色平面和用于对样本进行译码的语法结构译码的图像的样本的CTB。相应地,编码树块(codingtree block,CTB)可以是N×N的样本块,其中,N可以设为某个值以将分量分割为CTB,这是一种分割。编码单元(coding unit,CU)可以是或包括:亮度样本的编码块、具有三个样本阵列的图像的色度样本的两个对应的编码块、单色图像或使用三个单独的颜色平面和用于对样本进行译码的语法结构译码的图像的样本的编码块。相应地,编码块(coding block,CB)可以是M×N的样本块,其中,M和N可以设为某些值以将CTB分割为编码块,这是一种分割。
在实施例中,例如,根据HEVC,可以通过表示为译码树的四叉树结构将编码树单元(coding tree unit,CTU)划分为CU。在CU级别上决定是通过帧间(时间)预测还是通过帧内(空间)预测对图像区域进行译码。每个CU还可以根据PU划分类型划分为1个、2个或4个PU。在一个PU内,进行相同的预测过程,并且以PU为单位将相关信息发送到解码器。在通过进行预测过程而获得残差块后,根据PU划分类型,可以根据与用于CU的译码树类似的其它四叉树结构将CU分割为变换单元(transform unit,TU)。
在实施例中,例如,根据当前正在开发的最新视频译码标准(称为通用视频译码(versatile video coding,VVC),使用组合四叉树和二叉树(quad-tree and binarytree,QTBT)分割对编码块进行分割。在QTBT块结构中,CU可以具有正方形或矩形形状。例如,首先通过四叉树结构分割编码树单元(coding tree unit,CTU)。进一步通过二叉树或三叉树结构对四叉树叶节点进行分割。分割树叶节点称为编码单元(coding unit,CU),该段用于预测和变换处理,无需进一步分割。即,CU、PU和TU在QTBT编码块结构中具有相同的块大小。同时,三叉树分割等多重分割可以与QTBT块结构结合使用。
在一个示例中,视频编码器20的模式选择单元260可以用于执行本文分割技术的任何组合。
如上所述,视频编码器20用于从一组(例如,预定的)预测模式中确定或选择最佳或最优预测模式。该组预测模式可以包括例如帧内预测模式和/或帧间预测模式。
帧内预测
该组帧内预测模式可以包括35种不同的帧内预测模式,例如DC(或均值)模式和平面模式等非定向模式,或HEVC中定义的定向模式等,或者可以包括67种不同的帧内预测模式,例如DC(或均值)模式和平面模式等非定向模式,或VVC中定义的定向模式等。
帧内预测单元254用于根据帧内预测模式集合中的帧内预测模式使用同一当前图像的相邻块的重建样本来生成帧内预测块265。
帧内预测单元254(或通常为模式选择单元260)还用于以语法元素266的形式向熵编码单元270输出帧内预测参数(或通常为指示块的选定帧内预测模式的信息),以将该帧内预测参数包括到编码图像数据21中,从而视频解码器30可以,例如,接收并使用该预测参数进行解码。
帧间预测
该组(或可能的)帧间预测模式取决于可用的参考图像(即,例如存储在DBP 230中的之前至少部分解码的图像)和其它帧间预测参数,例如是整个参考图像还是仅参考图像的一部分(例如,当前块的区域周围的搜索窗口区域)用于搜索最佳匹配的参考块,和/或例如是否应用像素插值,例如半像素和/或四分之一像素插值,或不应用像素插值。
除了上述预测模式之外,还可以应用跳过模式和/或直接模式。
帧间预测单元244可以包括运动估计(motion estimation,ME)单元和运动补偿(motion compensation,MC)单元(两者均未在图2中示出)。运动估计单元可以用于接收或获取图像块203(当前图像17的当前图像块203)和解码图像231,或者至少一个或多个之前重建的块(例如一个或多个其它/不同的之前解码的图像231的重建块),以用于运动估计。例如,视频序列可以包括当前图像和之前解码的图像231,或者,换句话说,当前图像和之前解码的图像231可以是构成视频序列的图像序列的一部分或可以构成该序列。
例如,编码器20可以用于从多个其它图像的相同或不同图像的多个参考块中选择参考块并提供参考图像(或参考图像索引)和/或参考块的位置(x坐标、y坐标)与当前块的位置之间的偏移量(空间偏移),作为运动估计单元的帧间预测参数。这个偏移量也称为运动矢量(motion vector,MV)。
运动补偿单元用于获取(例如,接收)帧间预测参数,并根据或通过帧间预测参数进行帧间预测,以获得帧间预测块265。运动补偿单元所执行的运动补偿可以包括根据通过运动估计确定的运动/块矢量提取或生成预测块(可能执行插值以提高子像素精度)。插值滤波可以通过已知样本生成其它样本,从而潜在地增加可以用于译码图像块的候选预测块的数量。在接收到当前图像块的PU的运动矢量时,运动补偿单元可以定位运动矢量在一个参考图像列表中指向的预测块。
运动补偿单元还可以生成与块和视频条带相关的语法元素,该语法元素由视频解码器30用来解码视频条带的图像块。除了或作为条带和相应语法元素的替代,可以生成或使用分块组和/或分块以及相应语法元素。
熵译码
例如,熵编码单元270用于将熵编码算法或方案(例如,可变长度译码(variablelength coding,VLC)方案、上下文自适应VLC方案(context adaptive VLC,CALVC)、算术译码方案、二值化算法、上下文自适应二进制算术译码(context adaptive binaryarithmetic coding,CABAC)、基于语法的上下文自适应二进制算术译码(syntax-basedcontext-adaptive binary arithmetic coding,SBAC)、概率区间分割熵(probabilityinterval partitioning entropy,PIPE)译码或其它熵编码方法或技术)或旁路(无压缩)方案应用于量化系数209、帧间预测参数、帧内预测参数、环路滤波参数和/或其它语法元素,以获得可以通过输出单元272以编码码流21等形式输出的编码图像数据21,使得视频解码器30可以接收并使用这些参数进行解码。可以将编码码流21发送到视频解码器30,或者将其存储在存储器汇总,以便随后由视频解码器30发送或检索。
视频编码器20的其它结构变化可以用于编码视频流。例如,对于某些块或帧,基于非变换的编码器20可以在没有变换处理单元206的情况下直接量化残差信号。在另一种实现方式中,编码器20可以将量化单元208和反量化单元210组合成单个单元。
解码器及解码方法
图3为用于实现本申请的技术的视频解码器30的示例。视频解码器30用于接收例如由编码器20编码的编码图像数据21(例如,编码码流21),以获得解码图像331。编码图像数据或码流包括用于对编码图像数据进行解码的信息,例如,表示编码视频条带的图像块的数据(和/或分块组或分块)以及相关的语法元素。
在图3的示例中,解码器30包括熵解码单元304、反量化单元310、逆变换处理单元312、重建单元314(例如求和器314)、环路滤波器320、解码图像缓冲器(decoded picturebuffer,DBP)330、模式应用单元360、帧间预测单元344和帧内预测单元354。帧间预测单元344可以是或包括运动补偿单元。在一些示例中,视频解码器30可以执行与图2中关于视频编码器100描述的编码通道大体上互逆的解码通道。
如编码器20所述,反量化单元210、逆变换处理单元212、重建单元214、环路滤波器220、解码图像缓冲器(decoded picture buffer,DPB)230、帧间预测单元344和帧内预测单元354还组成视频编码器20的“内置解码器”。因此,反量化单元310可以与反量化单元110具有相同的功能,逆变换处理单元312可以与逆变换处理单元212具有相同的功能,重建单元314可以与重建单元214具有相同的功能,环路滤波器320可以与环路滤波器220具有相同的功能,解码图像缓冲器330可以与解码图像缓冲器230具有相同的功能。因此,对视频编码器20的相应单元和功能的解释相应地适用于视频解码器30的相应单元和功能。
熵解码
熵解码单元304用于解析码流21(或通常称为编码图像数据21),并对编码图像数据21进行熵解码,以获得量化系数309和/或解码译码参数(图3中未示出)等,例如帧间预测参数(如参考图像索引和运动矢量)、帧内预测参数(如帧内预测模式或索引)、变换参数、量化参数、环路滤波参数和/或其它语法元素等中的任一者或全部。熵解码单元304可以用于进行对应于编码器20的熵编码单元270所描述的编码方案的解码算法或方案。熵解码单元304还可以用于向模式应用单元360提供帧间预测参数、帧内预测参数和/或其它语法元素,并向解码器30的其它单元提供其它参数。视频解码器30可以在视频条带级和/或视频块级接收语法元素。除了或作为条带和相应语法元素的替代,可以接收和/或使用分块组和/或分块以及相应语法元素。
反量化
反量化单元310可以用于从编码图像数据21(例如,通过熵解码单元304等解析和/或解码)接收量化参数(quantization parameter,QP)(或通常为与反量化相关的信息)和量化系数,并基于量化参数对解码量化系数309进行反量化,以获得解量化系数311,解量化系数311也可以称为变换系数311。反量化过程可以包括:使用视频编码器20确定的视频条带(或分块或分块组)中的每个视频块的量化参数,以确定应应用的量化程度以及反量化程度。
逆变换
逆变换处理单元312可以用于接收解量化系数311(也称为变换系数311),并对解量化系数311进行变换,以获得样本域中的重建残差块213。重建残差块213也可以称为变换块313。变换可以是逆变换,例如,逆DCT、逆DST、逆整数变换或概念上类似的逆变换过程。逆变换处理单元312还可以用于从编码图像数据21接收变换参数或相应的信息(例如,通过解析和/或解码,例如,通过熵解码单元304),以确定要应用于解量化系数311的变换。
重建
重建单元314(例如,加法器或求和器314)可以用于将重建残差块313添加到预测块365,以获得样本域中的重建块315,例如,通过将重建残差块313的样本值添加到预测块365的样本值。
滤波
环路滤波单元320(在译码环路中或译码环路之后)用于对重建块315进行滤波,以获得滤波块321,以平滑像素的突变或提高视频质量。环路滤波单元320可以包括一个或多个环路滤波器,例如去块效应滤波器、采样自适应偏移(sample-adaptive offset,SAO)滤波器或一个或多个其它滤波器,例如双边滤波器、自适应环路滤波器(adaptive loopfilter,ALF)、锐化滤波器、平滑滤波器、协作滤波器或其任和组合。尽管在图3中环路滤波单元320示出为环内滤波器,但在其它配置中,环路滤波单元320可以实现为后环路滤波器。
解码图像缓冲器
之后,将一个图像的解码视频块321存储在解码图像缓冲器330中。解码图像331作为参考图像存储在所述解码图像缓冲器330中,用于后续对其它图像进行运动补偿和/或后续相应输出以进行显示。
解码器30用于例如通过输出端312输出解码图像311,以呈现给用户或由用户观看。
预测
帧间预测单元344的功能可以与帧间预测单元244(特别是运动补偿单元)相同;帧内预测单元354的功能可以与帧间预测单元254相同,并根据从编码图像数据21接收到的分割和/或预测参数或相应信息(例如,通过熵解码单元304等解析和/或解码)决定划分或分割模式并执行预测。模式应用单元360可以用于根据重建图像、重建块或相应的样本(已滤波的或未滤波的)按块进行预测(帧内预测或帧间预测),以获得预测块365。
当视频条带译码为帧内译码(I)条带时,模式应用单元360的帧内预测单元354用于:根据所指示的帧内预测模式和来自当前图像的之前解码的块的数据来为当前视频条带的图像块生成预测块365。当视频图像译码为帧间译码(即,B或P)条带时,模式应用单元360的帧间预测单元344(例如,运动补偿单元)用于根据从熵解码单元304接收的运动矢量和其它语法元素生成当前视频条带的视频块的预测块365。对于帧间预测,预测块可以从一个参考图像列表中的一个参考图像中生成。视频解码器30可以根据DPB 330中存储的参考图像通过默认构建技术构建参考帧列表,列表0和列表1。除了应用于使用条带(例如视频条带)的实施例外,相同或相似的过程可以应用于使用分块组(例如视频分块组)和/或分块(例如视频分块)的实施例,例如可以使用I、P或B分块组和/或分块对视频进行译码。
模式应用单元360用于通过解析运动矢量或相关信息和其它语法元素确定当前视频条带的视频块的预测信息,并使用预测信息来生成正在解码的当前视频块的预测块。例如,模式应用单元360使用接收到的一些语法元素来确定用于对视频条带的视频块进行译码的预测模式(例如,帧内或帧间预测)、帧间预测条带类型(例如,B条带,P条带或GPB条带)、条带的参考图像列表中的一个或多个的构建信息、条带的每个帧间编码视频块的运动矢量、条带的每个帧间译码视频块的帧间预测状态,以及其它信息,以对当前视频条带中的视频块进行解码。除了应用于使用条带(例如视频条带)的实施例外,相同或相似的过程可以应用于使用分块组(例如视频分块组)和/或分块(例如视频分块)的实施例,例如可以使用I、P或B分块组和/或分块对视频进行译码。
在图3所示的视频解码器30的实施例中,视频解码器30可以用于采用条带(slice)(也称为视频条带)对图像进行分割和/或解码,其中,图像可以采用一个或多个条带(通常是不重叠的条带)进行分割或解码,每个条带可以包括一个或多个块(如CTU)。
在图3所示的视频解码器30的实施例中,视频解码器30可以用于使用分块组(也称为视频分块组)和/或分块(也称为视频分块)对图像进行分割和/或解码,其中,可以使用一个或多个分块组(通常是不重叠的)对图像进行解码或可以将图像分割为一个或多个分块组,并且每个分块组可以包括一个或多个块(例如CTU)或一个或多个分块,其中,每个分块可以是矩形并且可以包括一个或多个块(例如CTU),例如全部或部分块。
视频解码器30的其它变型可以用于解码编码图像数据21。例如,解码器30可以在没有环路滤波单元320的情况下生成输出视频流。例如,对于某些块或帧,基于非变换的解码器30可以在没有逆变换处理单元312的情况下直接量化残差信号。在另一种实现方式中,视频解码器30可以将反量化单元310和逆变换处理单元312组合成单个单元。
应理解,在编码器20和解码器30中,可以针对当前环节的处理结果进行进一步处理,然后输出到下一环节。例如,在插值滤波、运动矢量推导或环路滤波等之后,可以对插值滤波、运动矢量推导或环路滤波的处理结果进一步进行修正(clip)或移位(shift)等操作。
需要说明的是,可以对当前块的推导运动矢量(包括但不限于仿射模式下的控制点运动矢量、仿射、平面、ATMVP模式下的子块运动矢量、时间运动矢量等)进行进一步操作。例如,根据运动矢量的表示位将该运动矢量的值限制在预定义范围。如果运动矢量的表示位为bitDepth,则运动矢量的取值范围为–2^(bitDepth–1)至2^(bitDepth–1)–1,其中,“^”符号表示幂次方。例如,如果bitDepth设置为16,则该取值范围为–32768至32767;如果bitDepth设置为18,则该取值范围为–131072至131071。例如,对推导的运动矢量(例如一个8×8块中的四个4×4子块的MV)的值进行限制,使得四个4×4子块MV的整数部分之间的最大差值不超过N个像素,例如不超过1个像素。这里提供了两种根据bitDepth限制运动矢量的方法。
方法一:通过流操作移除溢出MSB(most significant bit,最高有效位)。
ux=(mvx+2bitDepth)%2bitDepth (1)
mvx=(ux>=2bitDepth–1)?(ux–2bitDepth):ux (2)
uy=(mvy+2bitDepth)%2bitDepth (3)
mvy=(uy>=2bitDepth–1)?(uy–2bitDepth):uy (4)
其中,mvx为图像块或子块的运动矢量的水平分量,mvy为图像块或子块的运动矢量的垂直分量,ux和uy表示中间值;
例如,如果mvx的值为–32769,则应用公式(1)和(2)后,所得到的值为32767。在计算机系统中,十进制数以二的补码的形式存储。–32769的二的补码为1,0111,1111,1111,1111(17位),然后丢弃MSB,因此所得到的二的补码为0111,1111,1111,1111(十进制数为32767),与公式(1)和(2)的输出相同。
ux=(mvpx+mvdx+2bitDepth)%2bitDepth (5)
mvx=(ux>=2bitDepth–1)?(ux–2bitDepth):ux (6)
uy=(mvpy+mvdy+2bitDepth)%2bitDepth (7)
mvy=(uy>=2bitDepth–1)?(uy–2bitDepth):uy (8)
如公式(5)至(8)所示,在求mvp与mvd之和期间,可以应用这些运算。
方法二:通过修正(clipping)移除溢出MSB。
vx=Clip3(–2bitDepth–1,2bitDepth–1–1,vx)
vy=Clip3(–2bitDepth–1,2bitDepth–1–1,vy)
其中,vx为图像块或子块的运动矢量的水平分量,vy为图像块或子块的运动矢量的垂直分量;x、y和z分别对应MV修正过程的三个输入值,函数Clip3的定义如下:
图4为本发明的一个实施例提供的视频译码设备400的示意图。如本文所述,视频译码设备400适合于实现所公开的实施例。在一个实施例中,视频译码设备400可以是解码器(例如,图1A中的视频解码器30)或编码器(例如,图1A中的视频编码器20)。
视频译码设备400包括:用于接收数据的入端口410(或输入端口410)和接收单元(Rx)420;用于处理数据的处理器、逻辑单元或中央处理器(central processing unit,CPU)430;用于发送数据的发送器单元(Tx)440和出端口450(或输出端口450);以及用于存储数据的存储器460。视频译码设备400还可以包括耦合到入端口410、接收器单元420、发送器单元440和出端口450的光电(optical-to-electrical,OE)组件和电光(electrical-to-optical,EO)组件,以用于光或电信号的出或入。
处理器430通过硬件和软件实现。处理器430可以实现为一个或多个CPU芯片、核(例如,多核处理器)、FPGA、ASIC和DSP。处理器430与入端口410、接收单元420、发送器单元440、出端口450和存储器460通信。处理器430包括译码模块470。译码模块470实现上述公开的实施例。例如,译码模块470实现、处理、准备或提供各种译码操作。因此,包括译码模块470大大提高了视频译码设备400的功能,并影响视频译码设备400到不同状态的转换。或者,译码模块470实现为存储在存储器460中并由处理器430执行的指令。
存储器460可以包括一个或多个磁盘、磁带机和固态硬盘,并且可以用作溢出数据存储设备,以在选择此类程序用于执行时存储程序,以及存储在程序执行期间读取的指令和数据。例如,存储器460可以是易失性和/或非易失性的,并且可以是只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、三态内容寻址存储器(ternary content-addressable memory,TCAM)和/或静态随机存取存储器(staticrandom-access memory,SRAM)。
图5为一个示例性实施例提供的装置500的简化框图,该装置500可以用作图1中的源设备12和目的地设备14中的一者或两者。
装置500中的处理器502可以是中央处理器。或者,处理器502可以是能够操纵或处理现在存在或以后开发的信息的任何其它类型的设备或多个设备。尽管所公开的实现方式可以通过单个处理器(例如处理器502)实施,但是可以通过一个以上的处理器来提高速度和效率。
装置500中的存储器504在一种实现方式中可以是只读存储器(read onlymemory,ROM)设备或随机存取存储器(random access memory,RAM)设备。可以使用任何其它合适类型的存储设备作为存储器504。存储器504可以包括由处理器502通过总线512访问的代码和数据506。存储器504还可以包括操作系统508和应用程序510,应用程序510包括使处理器502执行本文描述的方法的至少一个程序。例如,应用程序510可以包括应用程序1至N,其还包括执行本文所描述的方法的视频译码应用程序。
装置500还可以包括一个或多个输出设备,例如显示器518。在一个示例中,显示器518可以是触摸敏感显示器,触摸敏感显示器将显示器与可操作以感测触摸输入的触摸敏感元件相结合。显示器518可以通过总线512耦合到处理器502。
尽管在这里描述为单个总线,但装置500的总线512可以由多个总线组成。此外,辅助存储装置514可以直接耦合到装置500的其它组件,或者可以通过网络访问,并且可以包括单个集成单元(例如存储卡)或多个单元(例如多个存储卡)。因此,可以以多种配置实现装置500。
关于帧内模式译码的背景
在目前的VTM 4.0中,为帧内模式译码构建了6-MPM(most probable mode)列表。引入MPM列表以减少译码当前块的帧内预测模式所需的比特数。根据当前块的相邻块的帧内预测模式构建6-MPM列表。在当前块的帧内预测模式落入MPM列表中时,对索引而不是实际模式进行译码,这使用的比特数更少。在当前块的帧内预测模式不属于MPM列表中时,使用截断二值化对当前块的帧内预测模式进行译码。MPM列表为当前块的帧内模式提供了很好的预测。
多参考行(MRL)的MPM列表。
在VTM 4.0中,多参考行(multiple reference line,MRL)译码工具可以使用多个相邻行中的一行来预测当前块的样本。当MRL行索引值等于0时(即使用最接近的相邻参考行,如图6所示),使用包括平面和DC的常规6MPM列表。当MRL行索引的值不等于0时,使用不包括平面(即值0)和DC(即值1)的6-MPM列表。
帧内子划分(ISP)译码模式的MPM列表
帧内子划分(intra sub-partition,ISP)译码模式是VTM4.0(JVET-M0102)中新引入的一种工具。根据块大小维度,亮度帧内预测块在垂直或水平方向上划分为2或4个子部分,如表1所示。图7和图8示出了这两种可能性的示例。所有子部分满足至少有16个样本的条件。
表1:取决于块大小的子部分的数量
块大小 | 子部分的数量 |
4×4 | 不划分 |
4×8和8×4 | 2 |
所有其它情况 | 4 |
当启用帧内子划分译码模式时,VTM 4.0中使用不包括DC模式的另一个MPM列表。当多参考行索引的值等于0时(即MRL不应用于当前帧内预测块),可以使用帧内子划分模式。所有子部分共享一个帧内预测模式,因此,对于帧内块,MPM列表只构建一次,且由所有子部分共享。
MPM的构建取决于ISP的划分模式。确定两种划分模式:水平和垂直。它们如图7所示,其中,水平划分/分割在顶部示出,垂直划分/分割在底部示出。
下表总结了VTM 4.0中使用的3MPM列表的特点。
表2:VTM 4.0在不同的情况下使用不同的6-MPM
MRL配置 | ISP配置 | MPM列表特点 |
MRL!=0 | - | 6MPM,不包括平面模式和DC模式 |
MRL==0 | 1 | 6MPM,不包括DC模式 |
MRL==0 | 0 | 6MPM,包括平面模式和DC模式 |
关于如何确定左邻和上邻的背景。
VVC的帧内模式译码取决于其相邻块(即当前块的左块和上块)的帧内模式。它们的位置如图9所示。
MPM索引的指示
标志(即MPM标志)用于表示当前块的帧内模式是否在MPM列表中。当MPM标志为真(即值为1)时,可以使用MPM索引确定帧内预测模式。当MPM列表长度为6时,MPM索引使用截断一元码进行译码,如下表所示:当MPM标志不为真时,当前块的帧内模式不在MPM列表中,并且使用截断二进制码对模式进行译码。
关于平面模式、DC模式、水平模式、垂直模式、角度模式的背景:帧内预测模式平面(值为0)和DC(值为1)。其它帧内预测模式称为角度预测模式。
本文提供了用于生成MPM列表以提高译码效率的改进的技术。特别地,提供了以下用于生成MPM列表的方案。例如,这些方案可以在上文描述的编码器20(参见图2),解码器30(参见图3)和视频译码设备400(参见图4)中实现。
MARK 1:ISP优化的MPM列表构建的替代方案
根据本发明的一个实施例(非角度分支,H):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果当前块使用ISP模式,则确定当前块的划分模式。
·步骤5:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式。
·当前块使用ISP模式进行译码。
·当前块的划分模式为水平划分。
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:DC
MPM[2]:水平
MPM[3]:25
MPM[4]:10
MPM[5]:65
根据本发明的一个实施例(非角度分支,V):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果当前块使用ISP模式,则确定当前块的划分模式。
·步骤5:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式
·当前块使用ISP模式进行译码
·当前块的划分模式为垂直划分。
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:DC
MPM[2]:垂直
MPM[3]:43
MPM[4]:60
MPM[5]:3
根据本发明的一个实施例(一个角度分支,一个为角度,另一个为非角度):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode有一个是角度模式,另一个是非角度模式。
·当前块使用ISP模式进行译码。然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
定义角度模式ang,得到如下结果:
如果left_mode为角度模式,则ang=left mode
否则(上模式为角度模式)ang=above mode
MPM[0]:平面
MPM[1]:ang
MPM[2]:2+((ang+61)%64)
MPM[3]:2+((ang–1)%64)
MPM[4]:2+((ang+60)%64)
MPM[5]:2+((ang)%64)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
根据本发明的一个实施例(一个角度分支,两个为相同的角度):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode都是角度模式,两者相同。
·当前块使用ISP模式进行译码。
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:left_mode
MPM[2]:2+((left_mode+61)%64)
MPM[3]:2+((left_mode–1)%64)
MPM[4]:2+((left_mode+60)%64)
MPM[5]:2+((left_mode)%64)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
根据本发明的一个实施例(两个角度分支):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode是两种不同的角度模式。
·当前块使用ISP模式进行译码
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:above_mode
MPM[2]:left_mode
-变量minAB和maxAB的推导过程如下:
minAB=Min(above_mode,left_mode)
maxAB=Max(above_mode,left_mode)
-如果maxAB–minAB等于1,则以下适用:
MPM[3]=2+((minAB+61)%64) (8-30)
MPM[4]=2+((maxAB–1)%64) (8-31)
MPM[5]=2+((minAB+60)%64) (8-32)
-否则,如果maxAB–minAB等于2,则以下适用:
MPM[3]=2+((minAB–1)%64) (8-34)
MPM[4]=2+((minAB+61)%64) (8-35)
MPM[5]=2+((maxAB–1)%64) (8-36)
-否则,如果maxAB–minAB大于61,则以下适用:
MPM[3]=2+((minAB–1)%64) (8-38)
MPM[4]=2+((maxAB+61)%64) (8-39)
MPM[5]=2+(minAB%64) (8-40)
-否则,以下适用:
MPM[3]=2+((minAB+61)%64) (8-42)
MPM[4]=2+((minAB–1)%64) (8-43)
MPM[5]=2+((maxAB+61)%64) (8-44)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
MARK 2:非ISP帧内块的MPM列表构建的替代方案
根据本发明的一个实施例(非角度分支):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式。
·当前块未使用ISP模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:left_mode
MPM[1]:如果左模式为DC模式,则此条目为平面模式;如果左模式为平面模式,则此条目为DC模式。
MPM[2]:VER_IDX(即,例如,值为50)
MPM[3]:HOR_IDX(即,例如,值为18)
MPM[4]:VER_IDX–4(即,例如,值为46)
MPM[5]:VER_IDX+4(即,例如,值为54)
其中,VER_IDX表示垂直帧内预测模式索引,HOR_IDX表示水平帧内预测模式索引。
根据本发明的一个实施例(一个角度分支,一个为角度,另一个为非角度):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode有一个是角度模式,另一个是非角度模式;
·当前块未使用ISP模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
定义角度模式maxAB,得到如下结果:
如果left_mode为角度模式,则maxAB=left mode
否则(上模式为角度模式)maxAB=above mode
MPM[0]:平面
MPM[1]:maxAB模式
MPM[2]:DC
MPM[3]:2+((maxAB+61)%64)
MPM[4]:2+((maxAB–1)%64)
MPM[5]:2+((maxAB+60)%64)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
根据本发明的一个实施例(一个角度分支,两个为相同的角度):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode都是角度模式,两者相同。
·当前块未使用ISP模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
定义角度模式ang,得到如下结果:
MPM[0]:左模式
MPM[1]:平面
MPM[2]:DC
MPM[3]:2+((left mode+61)%64)
MPM[4]:2+((left mode–1)%64)
MPM[5]:2+((left mode+60)%64)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
根据本发明的一个实施例(两个角度分支):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode是两种不同的角度模式。
·当前块未使用ISP模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:left_mode
MPM[1]:平面
MPM[2]:above_mode
MPM[3]:DC
-变量minAB和maxAB的推导过程如下:
minAB=Min(above_mode,left_mode)
maxAB=Max(above_mode,left_mode)
-如果maxAB–minAB在2至62之间(包括端值),则以下适用:
candModeList[4]=2+((maxAB+61)%64) (8-26)
candModeList[5]=2+((maxAB–1)%64) (8-27)
-否则,以下适用:
candModeList[4]=2+((maxAB+60)%64) (8-28)
candModeList[5]=2+((maxAB)%64) (8-29)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
MARK 3:ISP和非ISP帧内块的MPM列表构建的替代方案
根据本发明的一个实施例(非角度分支,H):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果当前块使用ISP模式,则确定当前块的划分模式。
·步骤5:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式
·当前块使用ISP模式,划分模式为水平模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:水平
MPM[2]:垂直模式。
MPM[3]:25
MPM[4]:10
MPM[5]:65。
根据本发明的一个实施例(非角度分支,V):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果当前块使用ISP模式,则确定当前块的划分模式。
·步骤5:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式
·当前块未使用ISP模式,或当前块使用ISP模式,且划分模式为垂直模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:垂直
MPM[2]:水平
MPM[3]:43
MPM[4]:60
MPM[5]:3。
根据本发明的一个实施例(一个角度分支,一个为角度,另一个为非角度):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面模式。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode有一个是角度模式,另一个是非角度模式。
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
定义角度模式ang,得到如下结果:
如果left_mode为角度模式,则ang=left mode
否则(上模式为角度模式)ang=above mode
MPM[0]:平面
MPM[1]:ang
MPM[2]:2+((ang+61)%64)
MPM[3]:2+((ang–1)%64)
MPM[4]:2+((ang+60)%64)
MPM[5]:2+((ang)%64)。
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
根据本发明的一个实施例(一个角度分支,两个为相同的角度):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode都是角度模式,两者相同。
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:左模式
MPM[2]:2+((left mode+61)%64)
MPM[3]:2+((left mode–1)%64)
MPM[4]:2+((left mode+60)%64)
MPM[5]:2+((left mode)%64)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
根据本发明的一个实施例(两个角度分支):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode和above_mode是两种不同的角度模式。
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:above_mode
MPM[2]:left_mode
-变量minAB和maxAB的推导过程如下:
minAB=Min(above_mode,left_mode)
maxAB=Max(above_mode,left_mode)
-如果maxAB–minAB等于1,则以下适用:
MPM[3]=2+((minAB+61)%64) (8-30)
MPM[4]=2+((maxAB–1)%64) (8-31)
MPM[5]=2+((minAB+60)%64) (8-32)
-否则,如果maxAB–minAB等于2,则以下适用:
MPM[3]=2+((minAB–1)%64) (8-34)
MPM[4]=2+((minAB+61)%64) (8-35)
MPM[5]=2+((maxAB–1)%64) (8-36)
-否则,如果maxAB–minAB大于61,则以下适用:
MPM[3]=2+((minAB–1)%64) (8-38)
MPM[4]=2+((maxAB+61)%64) (8-39)
MPM[5]=2+(minAB%64) (8-40)
-否则,以下适用:
MPM[3]=2+((minAB+61)%64) (8-42)
MPM[4]=2+((minAB–1)%64) (8-43)
MPM[5]=2+((maxAB+61)%64) (8-44)
·步骤6:根据索引(表示为MPM索引)和构建的列表的条目预测当前块。
MARK 4:ISP和非ISP帧内块的MPM列表构建的替代方案,但仅用于非角度分支,因为其它分支已经没有DC,并且已经使用ISP优化版本。
根据本发明的一个实施例(非角度分支,H):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果当前块使用ISP模式,则确定当前块的划分模式。
·步骤5:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式
·当前块使用ISP模式,划分模式为水平划分
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:DC
MPM[2]:水平
MPM[3]:25
MPM[4]:10
MPM[5]:65。
根据本发明的一个实施例(非角度分支,V):
·步骤1:根据图9获得左相邻块的帧内预测模式和上相邻块的帧内预测模式。如果相邻块的帧内预测模式不可用(例如,相邻块超出图像边界或相邻块进行帧间译码),则相邻块的帧内预测模式设置为平面。左相邻块的帧内预测模式表示为left_mode,上相邻块的帧内预测模式表示为above_mode。
·步骤2:确定相邻块的帧内预测模式是否为角度模式。
·步骤3:确定当前块是否使用ISP模式进行译码。
·步骤4:如果当前块使用ISP模式,则确定当前块的划分模式
·步骤5:如果以下所有条件(项目符号项)均被评估为真,则
·left_mode不是角度模式,above_mode不是角度模式
·当前块未使用ISP模式,或当前块使用ISP模式,且划分模式为垂直模式
然后,构建帧内预测模式列表,该列表包括N个帧内预测模式条目(例如,N等于6,其中,第1条目对应于MPM[0],第2条目对应于MPM[1],以此类推):
MPM[0]:平面
MPM[1]:DC
MPM[2]:垂直
MPM[3]:43
MPM[4]:60
MPM[5]:3。
在本实施例的一种实现方式中,N设置为6。
在本实施例的一种实现方式中,N设置为5。在这种情况下,所述帧内预测模式列表包括如上文列出的前5个条目,不包括第六条目。
在本实施例的一种实现方式中,N设置为4。在这种情况下,所述帧内预测模式列表包括如上文列出的前4个条目,不包括第五条目和第六条目。
在本实施例的一种实现方式中,所述帧内预测模式列表称为MPM列表。
在一种实现方式中,所述列表索引(MPM索引)在码流中作为指示符进行指示。有利地,MPM索引可以使用上下文自适应熵译码器(context adaptive entropy coder,CABAC)进行译码。MPM索引可以由CABAC根据不同数量的概率模型(换句话说,上下文)进行译码。
与多参考行的交互
如果一个MPM列表同时包括平面模式和DC模式,则多参考行译码工具使用一个从构建的MPM列表中排除平面模式和DC模式的MPM列表。在这种情况下,多参考行的帧内模式译码使用4-MPM列表。在一个示例中,在MPM列表构建后,MPM列表为{Planar(值为0)、DC(值为1)、VER(值为50)、HOR(值为18)、VER–4(值为46)、VER+4(值为54)},当启用多参考行时,帧内模式译码使用{VER,HOR,VER–4,VER+4}的4-MPM列表。
如果一个MPM列表包括平面模式但不包括DC模式,则多参考行译码工具使用一个从构建的MPM列表中排除平面模式的MPM列表。在这种情况下,多参考行的帧内模式译码使用5-MPM列表。在一个示例中,在MPM列表构建之后,MPM列表为{Planar,VER,HOR,43,60,3},当启用多参考行时,帧内模式译码使用{VER,HOR,43,60,3}的5-MPM列表。
在另一个示例中,可能需要对没有DC模式的MPM列表进行语法修改。如果MPM列表不包括DC模式,则DC模式在非MPM分支中使用非常频繁(即,MPM标志为假)。在这种情况下,引入了新的语法DC_mode。DC_mode等于1表示当前块的帧内模式是DC模式。DC_mode等于0表示当前块的帧内模式不是DC模式。
即,非MPM的旧语法从
改变为
语法DC_mode可以使用上下文自适应熵译码器(context adaptive entropycoder,CABAC)进行译码。DC_mode可以由CABAC根据各种数量的概率模型(换句话说,上下文)进行译码。随着DC_Mode的引入,截断二进制的最大值是60,即67(总模式数)–6(MPM)–1(DC)。在没有引入DC_mode时,截断二进制的最大值是61,即67(总模式数)–6(MPM)。
特别地,本文提供了以下由解码设备或编码设备实现的对当前块进行预测译码的方法。解码设备可以是图3的解码器30,编码设备可以是图2的编码器20。
根据一个实施例(参见图10),一种由解码设备或编码设备实现的对当前块进行预测译码的方法包括以下步骤:获取当前块的左相邻块的帧内预测模式(1001);获取当前块的上相邻块的帧内预测模式(1002)(参见图9)。此外,该方法包括根据获取步骤1101和1002提供的结果构建当前块的帧内预测模式的最可能模式(most probable mode,MPM)列表,MPM列表包括至少5个帧内预测模式条目(1003)。
当至少第一条件满足时,至少5个条目如下:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,第一条件包括左相邻块的帧内预测模式和上相邻块的帧内预测模式是相同的角度模式,其中,ang表示左相邻块的帧内预测模式或上相邻块的帧内预测模式。
根据一个替代示例,当至少第一条件满足时,至少5个条目如下:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,第一条件包括左相邻块的帧内预测模式和上相邻块的帧内预测模式中有一种为角度模式,其中,ang表示角度模式。
根据另一个替代示例,至少5个条目如下:
当左相邻块的帧内预测模式和上相邻块的帧内预测模式均为角度模式时,其中,above_mode表示上相邻块的帧内预测模式,left_mode表示左相邻块的帧内预测模式,
minAB=Min(above_mode,left_mode)
maxAB=Max(above_mode,left_mode)
(a)如果maxAB–minAB等于1,则至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB+61)%64),2+((maxAB–1)%64),2+((minAB+60)%64)};或
(b)如果maxAB–minAB等于2,则至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB–1)%64),2+((minAB+61)%64),2+((maxAB–1)%64)};或
(c)如果maxAB–minAB大于61,则至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB–1)%64),2+((maxAB+61)%64),2+(minAB%64)};或
(d)否则,至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB+61)%64),2+((minAB–1)%64),2+((maxAB+61)%64)}。
根据另一个实施例,当至少第一条件满足时,至少5个条目中的4个由VER_IDX、HOR_IDX、VER_IDX–4和VER_ID+4给出,其中,第一条件包括左相邻块的帧内预测模式和上相邻块的帧内预测模式均不为角度模式,其中,VER_IDX表示垂直帧内预测模式的索引,HOR_IDX表示水平帧内预测模式的索引。
特别地,MPM列表可以包括5个条目,例如上述替代实施例中提到的5个条目。此外,可以通过PLANAR模式标志来指示PLANAR模式。
上述对当前块进行预测译码的方法可以在用于图像编码器和/或图像解码器(例如图2的编码器20和/或图3的解码器30)的设备中实现。
如图11所示,根据实施例的设备1100包括预测模式单元1101,用于获取当前块的左相邻块的帧内预测模式,以及用于获取当前块的上相邻块的帧内预测模式。此外,设备1100包括最可能模式(most probable mode,MPM)单元1102,用于(根据由预测模式单元1101提供的结果)构建包括至少5个条目的当前块的帧内预测模式的最可能模式列表。
根据替代实施例,由最可能模式单元1102提供的MPM列表包括如下至少5个帧内预测模式条目:
(1)
当至少第一条件满足时,{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,第一条件包括左相邻块的帧内预测模式和上相邻块的帧内预测模式是相同的角度模式,其中,ang表示左相邻块的帧内预测模式或上相邻块的帧内预测模式;或
(2)
当至少第一条件满足时,{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,第一条件包括左相邻块的帧内预测模式和上相邻块的帧内预测模式中有一种为角度模式,其中,ang表示角度模式。
根据另一个替代方案,MPM列表包括如下至少5个帧内预测模式条目:
当左相邻块的帧内预测模式和上相邻块的帧内预测模式均为角度模式时,其中,above_mode表示上相邻块的帧内预测模式,left_mode表示左相邻块的帧内预测模式,
minAB=Min(above_mode,left_mode)
maxAB=Max(above_mode,left_mode)
(a)如果maxAB–minAB等于1,则至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB+61)%64),2+((maxAB–1)%64),2+((minAB+60)%64)};或
(b)如果maxAB–minAB等于2,则至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB–1)%64),2+((minAB+61)%64),2+((maxAB–1)%64)};或
(c)如果maxAB–minAB大于61,则至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB–1)%64),2+((maxAB+61)%64),2+(minAB%64)};或
(d)否则,至少5个帧内预测模式条目如下所示:
{above_mode,left_mode,2+((minAB+61)%64),2+((minAB–1)%64),2+((maxAB+61)%64)}。
根据另一个实施例,当至少第一条件满足时,至少5个条目中的4个由VER_IDX、HOR_IDX、VER_IDX–4和VER_ID+4给出,其中,第一条件包括左相邻块的帧内预测模式和上相邻块的帧内预测模式均不为角度模式,其中,VER_IDX表示垂直帧内预测模式的索引,HOR_IDX表示水平帧内预测模式的索引。
特别地,MPM列表可以包括5个条目,例如上述替代实施例中提到的5个条目。此外,可以通过PLANAR模式标志来指示PLANAR模式。
下文对上述实施例中所示的编码方法和解码方法的应用以及使用这些方法的系统进行说明。
图12为用于实现内容分发服务的内容供应系统3100的框图。该内容供应系统3100包括捕获设备3102、终端设备3106,并且可选地包括显示器3126。捕获设备3102与终端设备3106通过通信链路3104进行通信。该通信链路可以包括上述通信信道13。通信链路3104包括但不限于WIFI、以太网、电缆、无线(3G/4G/5G)、USB或者其任何组合等。
捕获设备3102生成数据,并且可以通过如上述实施例所示的编码方法对数据进行编码。或者,捕获设备3102可以将数据分发给流服务器(图中未示出),服务器对数据进行编码并将编码数据发送给终端设备3106。捕获设备3102包括但不限于摄像机、智能手机或平板电脑、计算机或笔记本电脑、视频会议系统、PDA、车载设备,或它们的任何组合等。例如,捕获设备3102可以包括如上所述的源设备12。当数据包括视频时,捕获设备3102中包括的视频编码器20实际上可以执行视频编码处理。当数据包括音频(即,语音)时,捕获设备3102中包括的音频编码器实际上可以执行音频编码处理。对于一些实际场景,捕获设备3102通过将编码视频和音频数据复用在一起来进行分发。对于其它实用场景,例如在视频会议系统中,不复用编码音频数据和编码视频数据。捕获设备3102将编码音频数据和编码视频数据分别分发给终端设备3106。
在内容提供系统3100中,终端设备310接收并再现编码数据。终端设备3106可以是具有数据接收和恢复能力的设备,例如智能手机或平板电脑3108、计算机或笔记本电脑3110、网络录像机(network video recorder,NVR)/数字录像机(digital videorecorder,DVR)3112、TV 3114、机顶盒(set top box,STB)3116、视频会议系统3118、视频监控系统3120、个人数字助理(personal digital assistant,PDA)3122、车载设备3124或其任何组合,或者能够解码上述编码数据的设备。例如,终端设备3106可以包括如上所述的目的地设备14。当编码数据包括视频时,终端设备中包括的视频解码器30优先进行视频解码。当编码数据包括音频时,终端设备中包括的音频解码器优先进行音频解码处理。
对于带有显示器的终端设备,例如智能手机或平板电脑3108、计算机或笔记本电脑3110、网络录像机(network video recorder,NVR)/数字录像机(digital videorecorder,DVR)3112、TV 3114、个人数字助理(personal digital assistant,PDA)3122或车载设备3124,终端设备可以将解码数据馈送到该终端设备的显示器。对于没有显示器的终端设备(例如STB 3116、视频会议系统3118或视频监控系统3120),连接外部显示器3126以接收并显示解码数据。
该系统中的每个设备在进行编码或解码时,可以使用如上述实施例中所示的图像编码设备或图像解码设备。
图13为终端设备3106的一个示例的结构的图。在终端设备3106从捕获设备3102接收流之后,协议处理单元(protocol proceeding unit)3202分析流的传输协议。协议包括但不限于实时流协议(real time streaming protocol,RTSP)、超文本传输协议(hypertext transfer protocol,HTTP)、HTTP直播协议(HTTP live streaming protocol,HLS)、MPEG-DASH、实时传输协议(real-time transport protocol,RTP)、实时消息协议(realtime messaging protocol,RTMP)或其任何组合等。
协议处理单元3202对流进行处理后,生成流文件。将文件输出到解复用单元3204。解复用单元3204可以将复用数据分为编码音频数据和编码视频数据。如上所述,对于一些实际场景,例如在视频会议系统中,不复用编码音频数据和编码视频数据。在这种情况下,将编码数据发送到视频解码器3206和音频解码器3208,无需经过解复用单元3204。
通过解复用处理,生成视频基本流(elementary stream,ES)、音频ES和可选的字幕。视频解码器3206包括如上述实施例中所说明的视频解码器30,通过如上述实施例中所示的解码方法对视频ES进行解码以生成视频帧,并将该数据馈送到同步单元3212。音频解码器3208,解码音频ES以生成音频帧,并将该数据馈送到同步单元3212。或者,在将视频帧馈送到同步单元3212之前,可以将该视频帧存储在缓冲器(图Y中未示出)中。类似地,在将音频帧馈送到同步单元3212之前,可以将该音频帧存储在缓冲器(图Y中未示出)中。
同步单元3212同步视频帧和音频帧,并将视频/音频提供给视频/音频显示器3214。例如,同步单元3212同步视频和音频信息的呈现。可以使用关于译码音频和视频数据的表示的时间戳和关于数据流本身的传递的时间戳在语法中对信息进行译码。
如果流中包括字幕,则字幕解码器3210解码字幕,并使字幕与视频帧和音频帧同步,并将视频/音频/字幕提供给视频/音频/字幕显示器3216。
本发明并不限于上述系统,上述实施例中的图像编码设备或图像解码设备都可以结合到其它系统,例如汽车系统。
数学运算符
本申请中使用的数学运算符与C编程语言中使用的数学运算符类似。但是,这里准确定义了整除运算和算术移位运算的结果,并且还定义了其它运算,如幂运算和实值除法运算。编号和计数规范通常约定从0开始,例如,“第一个”相当于第0个,“第二个”相当于第1个,等等。
算术运算符
以下算术运算符定义如下:
+ 加法
– 减法(用作双参数运算符)或者非运算(用作一元前缀运算符)。
* 乘法,包括矩阵乘法。
xy 幂次方,表示x的y次幂。在其它上下文中,该表示形式也可以用作上标,而不应解释为是幂次方运算。
/ 向零方向对结果进行截断的整数除法。例如,7/4和–7/–4被截断成1,–7/4和7/–4被截断成–1。
÷ 用来表示数学等式中的除法运算,但没有截断或者四舍五入操作。
x%y 取模运算,x除以y得到的余数,仅针对x>=0且y>0的整数x和y定义。
逻辑运算符
以下逻辑运算符定义如下:
x&&y x和y的布尔逻辑“与”操作
x||y x和y的布尔逻辑“或”操作
! 布尔逻辑“非”
x?y:z 如果x为真或不等于0,则等于y的值;否则,等于z的值。
关系运算符
以下关系运算符定义如下:
> 大于
>= 大于等于
< 小于
<= 小于等于
== 等于
!= 不等于
当关系运算符用于一个已赋值为“na”(不适用)的语法元素或变量时,则将值“na”视为该语法元素或变量的唯一值。值“na”不等于任何其它值。
按位运算符
以下按位运算符的定义如下:
& 按位“与”。对整数参数进行运算时,对整数值的二的补码表示进行运算。当对二进制参数进行运算时,如果它包括的位比另一个参数少,则通过添加等于0的更多有效位来扩展较短的参数。
| 按位“或”。对整数参数进行运算时,对整数值的二的补码表示进行运算。当对二进制参数进行运算时,如果它包括的位比另一个参数少,则通过添加等于0的更多有效位来扩展较短的参数。
^ 按位“异或”。对整数参数进行运算时,对整数值的二的补码表示进行运算。当对二进制参数进行运算时,如果它包括的位比另一个参数少,则通过添加等于0的更多有效位来扩展较短的参数。
x>>y 将x的二的补码整数表示算法右移y个二进制数字。该函数仅针对y的非负整数值定义。右移的结果是移到最高有效位(most significant bit,MSB)的位的值等于移位操作前的x的MSB。
x<<y 将x的二的补码整数表示算法左移y个二进制数字。该函数仅针对y的非负整数值定义。左移的结果是移到最低有效位(least significant bit,LSB)的位的值等于0。
赋值运算符
以下算术运算符定义如下:
= 赋值运算符
++ 递增,即,x++等价于x=x+1;当用于数组索引时,等于递增操作之前变量的值。
–– 递减,即,x––等价于x=x–1;当用于数组索引时,等于递减操作之前变量的值。
+= 按指定数量递增,即,x+=3等价于x=x+3,x+=(–3)等价于x=x+(–3)。
–= 按指定数量递减,即,x–=3等价于x=x–3,x–=(–3)等价于x=x–(–3)。
范围表示法以下表示法用于指定值的范围:
x=y..z x取从y到z的整数值(包括y和z),其中,x、y和z是整数,并且z大于y。
数学函数
数学函数定义如下:
Asin(x) 三角反正弦函数,对参数x进行运算,x在–1.0至1.0的范围内(包括端值),输出值在–π÷2至π÷2的范围内(包括端值),单位为弧度。
Atan(x) 三角反正切函数,对参数x运算,输出值在–π÷2至π÷2的范围内(包括端值),单位为弧度。
Ceil(x) 表示大于或等于x的最小整数值。
Clip1Y(x)=Clip3(0,(1<<BitDepthY)–1,x)
Clip1C(x)=Clip3(0,(1<<BitDepthC)–1,x)
Cos(x) 三角余弦函数,对参数x运算,单位为弧度。
Floor(x) 表示小于或等于x的最大整数值。
Ln(x) x的自然对数(以e为底的对数,其中,e是自然对数底数常数2.718281828……)。
Log2(x) 以2为底x的对数。
Log10(x) 以10为底x的对数。
Round(x)=Sign(x)*Floor(Abs(x)+0.5)
Sin(x) 三角正弦函数,对参数x进行运算,单位为弧度。
Swap(x,y)=(y,x)
Tan(x) 三角正切函数,对参数x进行运算,单位为弧度。
运算优先级顺序
当没有使用括号来显式的表示优先顺序时,则遵循如下规则:
-高优先级的运算在低优先级的运算之前进行。
-相同优先级的运算从左到右依次进行。
下表从最高到最低的顺序说明运算的优先级,在表中的位置越高,优先级也越高。
如果在C编程语言中也使用这些运算符,则本文中采用的优先级顺序与C编程语言中采用的优先级顺序相同。
表:运算优先级从最高(表格顶部)到最低(表格底部)进行排序
逻辑运算的文字描述
文本中,逻辑运算中的语句以数学形式描述如下:
可以通过如下方式进行描述:
……如下/……以下为准:
-如果条件0,则语句0
-否则,如果条件1,则语句1
-……
-否则(剩余条件的提示性说明),则语句n
文本中的每个“如果……否则,如果……否则,……”语句由“……如下”或“……以下为准”(后面紧跟着“如果……”)引入。最后一个条件“如果……否则,如果……否则,……”总有一个“否则,……”。插入的“如果……否则,如果……否则,……”语句可以通过匹配“……如下”或“……以下为准”,以“否则,……”结尾来识别。
文本中,逻辑运算中的语句以数学形式描述如下:
可以通过如下方式进行描述:
……如下/……以下为准:
-如果以下所有条件都为真,则语句0:
-条件0a
-条件0b
-否则,如果以下一个或多个条件为真,则语句1:
-条件1a
-条件1b
-……
-否则,语句n
文本中,逻辑运算中的语句以数学形式描述如下:
可以通过如下方式进行描述:
如果条件0,则语句0
如果条件1,则语句1
尽管本发明的实施例已经主要根据视频译码进行描述,但需要说明的是,译码系统10、编码器20和解码器30(以及相应地系统10)的实施例以及本文描述的其它实施例也可以用于静止图像处理或译码,即独立于视频译码中的任何前面或连续的图像的处理或译码。通常,在图像处理译码限于单个图像17的情况下,可能只有帧间预测单元244(编码器)和344(解码器)不可用。视频编码器20和视频解码器30的所有其它功能(也称为工具或技术)可以同样用于静止图像处理,例如残差计算204/304,变换206,量化208,反量化210/310,(逆)变换212/312,分割262/362,帧内预测254/354和/或环路滤波220、320,熵译码270和熵解码304。
编码器20和解码器30等的实施例,以及本文描述的与编码器20和解码器30等有关的功能可以以硬件、软件、固件或其任何组合来实现。如果以软件实现,则功能可以存储在计算机可读介质上或作为一个或多个指令或代码通过通信介质传输,并由基于硬件的处理单元执行。计算机可读介质可以包括计算机可读存储介质,对应数据存储介质等有形介质,或包括便于例如根据通信协议将计算机程序从一个地方传输到另一个地方的任何介质的通信介质。在这种方式中,计算机可读介质通常可以对应(1)非瞬时性的有形计算机可读存储介质或(2)通信介质,例如信号或载波。数据存储介质可以是任何可用介质,可由一个或多个计算机或一个或多个处理器访问以检索用于实现本发明所描述的技术的指令、代码和/或数据结构。计算机程序产品可以包括计算机可读介质。
作为示例而非限制,此类计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储器、磁盘存储器或其它磁性存储设备、闪存,或可以用于存储指令或数据结构形式的所需程序代码并且可由计算机访问的任何其它介质。此外,任何连接都可以称为计算机可读介质。例如,如果指令是从网站、服务器或其它远程源通过同轴电缆、光纤电缆、双绞线、数字用户线(digital subscriber line,DSL)或无线技术(例如红外、无线电、微波等)发送的,则介质的定义包括同轴电缆、光纤电缆、双绞线、DSL或无线技术(例如红外、无线电和微波等)。但是,应理解,计算机可读存储介质和数据存储介质不包括连接、载波、信号或其它瞬时介质,而是指非瞬时有形存储介质。本文使用的磁盘和光盘包括压缩光盘(compact disc,CD)、激光光盘、光盘、数字通用光盘(digital versatile disc,DVD)、软盘和蓝光光盘,盘通常磁性地再现数据,而光盘则用激光光学地再现数据。上述的组合也应包括在计算机可读介质的范围内。
指令可以由一个或多个处理器执行,例如一个或多个数字信号处理器(digitalsignal processor,DSP)、通用微处理器、专用集成电路(application-specificintegrated circuit,ASIC)、现场可编程逻辑阵列(field programmable logic array,FPGA)或其它等效的集成或分立逻辑电路。因此,本文使用的术语“处理器”可以指任何上述结构或任何适合于实现本文所描述的技术的任何其它结构。另外,在一些方面中,本文所描述的功能可以在用于编码和解码的专用硬件和/或软件模块中提供,或者结合在组合编解码器中。另外,这些技术可以在一个或多个电路或逻辑元件中完全实现。
本发明的技术可以在多种设备或装置中实现,包括无线手持电话、集成电路(integrated circuit,IC)或一组IC(例如芯片组)。本发明描述各种组件、模块或单元以强调用于执行所公开技术的设备的功能方面,但这些组件、模块或单元不一定要求通过不同的硬件单元实现。相反,如上所述,各种单元可以组合在编解码器硬件单元中,或者由包括如上所述的一个或多个处理器的互操作硬件单元的集合结合合适的软件和/或固件来提供。
Claims (28)
1.一种解码设备或编码设备实现的对当前块进行预测译码的方法,其特征在于,包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式(mostprobable mode,MPM)列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的帧内预测模式和所述上相邻块的帧内预测模式是相同的角度模式,并且其中,ang表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。
2.根据权利要求1所述的方法,其特征在于,当所述第一条件和第二条件满足时,所述MPM列表包括所述至少5个帧内预测模式条目,其中,所述第二条件包括所述当前块使用帧内子划分(intra sub partition,ISP)模式进行译码。
3.一种解码设备或编码设备实现的对当前块进行预测译码的方法,其特征在于,包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式(mostprobable mode,MPM)列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中仅有一种为角度模式,其中,ang表示所述角度模式。
4.根据权利要求3所述的方法,其特征在于,当所述第一条件和第二条件满足时,所述MPM列表包括所述至少5个帧内预测模式条目,其中,所述第二条件包括使用ISP模式对所述当前块进行译码。
5.一种解码设备或编码设备实现的对当前块进行预测译码的方法,其特征在于,包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式(mostprobable mode,MPM)列表,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均为角度模式,所述MPM列表包括如下至少5个帧内预测模式条目:
(a)当maxAB–minAB等于1时,{above_mode,left_mode,2+((minAB+61)%64),2+((maxAB–1)%64),2+((minAB+60)%64)};或
(b)当maxAB–minAB等于2时,{above_mode,left_mode,2+((minAB–1)%64),2+((minAB+61)%64),2+((maxAB–1)%64)};或
(c)当maxAB–minAB大于61时,{above_mode,left_mode,2+((minAB–1)%64),2+((maxAB+61)%64),2+(minAB%64)};或
(d)其它情况下,{above_mode,left_mode,2+((minAB+61)%64),2+((minAB–1)%64),2+((maxAB+61)%64)};
其中,above_mode表示所述上相邻块的所述帧内预测模式,left_mode表示所述左相邻块的所述帧内预测模式,minAB表示所述above_mode与所述left_mode之间的最小帧内预测模式,maxAB表示所述above_mode与所述left_mode之间的最大帧内预测模式。
6.根据权利要求1至5中任一项所述的方法,其特征在于,还包括根据生成的MPM列表对所述当前块的所述帧内预测模式进行译码。
7.根据权利要求1至6中任一项所述的方法,其特征在于,还包括:确定所述当前块的所述帧内预测模式,以及当所述当前块的所述确定的帧内预测模式列在所述MPM列表中时,通过所述MPM列表的对应的索引对所述当前块的所述确定的帧内预测模式进行译码。
8.根据权利要求1至6中任一项所述的方法,其特征在于,还包括:确定所述当前块的所述帧内预测模式是否为PLANAR模式;
当确定所述当前块的所述帧内预测模式不是PLANAR模式时,通过标志指示所述当前块的所述帧内预测模式不是所述PLANAR模式。
9.根据权利要求1至6中任一项所述的方法,其特征在于,所述生成的MPM列表包括所述至少5个条目,并且所述方法还包括使用所述MPM列表进行多参考行译码。
10.根据权利要求1至9中任一项所述的方法,其特征在于,如果不存在帧内预测的上相邻块,则所述上相邻块的所述帧内预测模式确定为PLANAR;如果不存在帧内预测的左相邻块,则所述左相邻块的所述帧内预测模式确定为PLANAR。
11.一种解码设备或编码设备实现的对当前块进行预测译码的方法,其特征在于,包括:
获取所述当前块的左相邻块的帧内预测模式;
获取所述当前块的上相邻块的帧内预测模式;
当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式(mostprobable mode,MPM)列表,所述MPM列表包括至少5个帧内预测模式条目,其中,所述至少5个条目中的4个由VER_IDX、HOR_IDX、VER_IDX–4和VER_ID+4给出,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均不为角度模式,其中,VER_IDX表示垂直帧内预测模式的索引,HOR_IDX表示水平帧内预测模式的索引。
12.根据权利要求1至11中任一项所述的方法,其特征在于,所述左相邻块的左上角位于(xCb–1,yCb+cbHeight–1),所述上相邻块的左上角位于(xCb+cbWidth–1,yCb–1),其中,xCb、yCb、cbHeight和cbWidth分别表示所述当前块的所述左上角在宽度方向上的位置、所述当前块的所述左上角在高度方向上的位置、所述当前块的高度和所述当前块的宽度。
13.一种编码器(20),其特征在于,包括处理电路,用于执行根据权利要求1至12中任一项所述的方法。
14.一种解码器(30),其特征在于,包括处理电路,用于执行根据权利要求1至12中任一项所述的方法。
15.一种计算机程序产品,其特征在于,包括程序代码,用于执行根据权利要求1至12中任一项所述的方法。
16.一种解码器或编码器,其特征在于,包括:
一个或多个处理器;
非瞬时性计算机可读存储介质,与所述处理器耦合并存储由所述处理器执行的程序,其中,当所述程序由所述处理器执行时,使所述编码器或所述解码器执行根据权利要求1至12中任一项所述的方法。
17.一种用于图像编码器和/或图像解码器的设备(1100),其特征在于,包括:
预测模式单元(1101),用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元(1102),用于当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式是相同的角度模式,并且其中,ang表示所述左相邻块的所述帧内预测模式或所述上相邻块的所述帧内预测模式。
18.根据权利要求17所述的设备,其特征在于,当所述第一条件和第二条件满足时,所述MPM列表包括所述至少5个帧内预测模式条目,其中,所述第二条件包括所述当前块使用帧内子划分(intra sub partition,ISP)模式进行译码。
19.一种用于图像编码器和/或图像解码器的设备(1100),其特征在于,包括:
预测模式单元(1101),用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元(1102),用于当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式列表,所述MPM列表包括如下至少5个帧内预测模式条目:
{ang,2+((ang+61)%64),2+((ang–1)%64),2+((ang+60)%64),2+((ang)%64)},其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式中仅有一种为角度模式,其中,ang表示所述角度模式。
20.根据权利要求19所述的设备(1100),其特征在于,当所述第一条件和第二条件满足时,所述MPM列表包括所述至少5个帧内预测模式条目,其中,所述第二条件包括使用ISP模式对所述当前块进行译码。
21.一种用于图像编码器和/或图像解码器的设备(1100),其特征在于,包括:
预测模式单元(1101),用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元(1102),用于当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式列表,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均为角度模式,所述MPM列表包括如下至少5个帧内预测模式条目:
(a)当maxAB–minAB等于1时,{above_mode,left_mode,2+((minAB+61)%64),2+((maxAB–1)%64),2+((minAB+60)%64)};或
(b)当maxAB–minAB等于2时,{above_mode,left_mode 2+((minAB–1)%64),2+((minAB+61)%64),2+((maxAB–1)%64)};或
(c)当maxAB–minAB大于61时,{above_mode,left_mode,2+((minAB–1)%64),2+((maxAB+61)%64),2+(minAB%64)};或
(d)其它情况下,{above_mode,left_mode,2+((minAB+61)%64),2+((minAB–1)%64),2+((maxAB+61)%64)};
其中,above_mode表示所述上相邻块的所述帧内预测模式,left_mode表示所述左相邻块的所述帧内预测模式,minAB表示所述above_mode与所述left_mode之间的最小帧内预测模式,maxAB表示所述above_mode与所述left_mode之间的最大帧内预测模式。
22.根据权利要求17至21中任一项所述的设备(1100),其特征在于,还包括编码单元,用于根据生成的MPM列表对所述当前块的所述帧内预测模式进行编码。
23.根据权利要求17至22中任一项所述的设备(1100),其特征在于,还包括确定单元,用于确定所述当前块的所述帧内预测模式,以及当所述当前块的所述确定的帧内预测模式列在所述MPM列表中时,通过所述MPM列表的对应的索引对所述当前块的所述确定的帧内预测模式进行译码。
24.根据权利要求17至21中任一项所述的设备(1100),其特征在于,还包括平面确定单元,用于确定所述当前块的所述帧内预测模式是否为PLANAR模式;
指示(signaling)单元,用于当确定所述当前块的所述帧内预测模式不是所述PLANAR模式时,通过标志指示所述当前块的所述帧内预测模式不是所述PLANAR模式。
25.根据权利要求17至21中任一项所述的设备(1100),其特征在于,所述生成的MPM列表包括所述至少5个条目,并且所述设备(1100)还包括多参考行编码单元,用于使用所述MPM列表进行多参考行编码。
26.根据权利要求17至25中任一项所述的设备(1100),其特征在于,如果不存在帧内预测的上相邻块,则所述预测模式单元(1101)确定所述上相邻块的所述帧内预测模式为PLANAR,并且如果不存在帧内预测的左相邻块,则所述预测模式单元(1101)确定所述左相邻块的所述帧内预测模式为PLANAR。
27.一种用于图像编码器和/或图像解码器的设备(1100),其特征在于,包括:
预测模式单元(1101),用于获取所述当前块的左相邻块的帧内预测模式,以及用于获取所述当前块的上相邻块的帧内预测模式;
最可能模式(most probable mode,MPM)单元(1102),用于当至少第一条件满足时,构建所述当前块的帧内预测模式的最可能模式列表,所述MPM列表包括至少5个帧内预测模式条目,其中,所述至少5个条目中的4个由VER_IDX、HOR_IDX、VER_IDX–4和VER_ID+4给出,其中,所述第一条件包括所述左相邻块的所述帧内预测模式和所述上相邻块的所述帧内预测模式均不为角度模式,其中,VER_IDX表示垂直帧内预测模式的索引,HOR_IDX表示水平帧内预测模式的索引。
28.根据权利要求17至27中任一项所述的设备(1100),其特征在于,所述左相邻块的左上角位于(xCb–1,yCb+cbHeight–1),所述上相邻块的左上角位于(xCb+cbWidth–1,yCb–1),其中,xCb、yCb、cbHeight和cbWidth分别表示所述当前块的所述左上角在宽度方向上的位置、所述当前块的所述左上角在高度方向上的位置、所述当前块的高度和所述当前块的宽度。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310208229.3A CN116320486A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202310200928.3A CN116634174A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202110877584.0A CN114007068B (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及其实现的对当前块进行预测译码的方法 |
CN202310200619.6A CN116647700A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962810323P | 2019-02-25 | 2019-02-25 | |
US62/810,323 | 2019-02-25 | ||
PCT/CN2020/076193 WO2020173399A1 (en) | 2019-02-25 | 2020-02-21 | An encoder, a decoder and corresponding methods using intra mode coding for intra prediction |
Related Child Applications (4)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310208229.3A Division CN116320486A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202310200928.3A Division CN116634174A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202310200619.6A Division CN116647700A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202110877584.0A Division CN114007068B (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及其实现的对当前块进行预测译码的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113574870A true CN113574870A (zh) | 2021-10-29 |
CN113574870B CN113574870B (zh) | 2023-02-10 |
Family
ID=72239080
Family Applications (5)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110877584.0A Active CN114007068B (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及其实现的对当前块进行预测译码的方法 |
CN202310208229.3A Pending CN116320486A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202310200619.6A Pending CN116647700A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202080011328.7A Active CN113574870B (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及其实现的对当前块进行预测译码的方法 |
CN202310200928.3A Pending CN116634174A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
Family Applications Before (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110877584.0A Active CN114007068B (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及其实现的对当前块进行预测译码的方法 |
CN202310208229.3A Pending CN116320486A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
CN202310200619.6A Pending CN116647700A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310200928.3A Pending CN116634174A (zh) | 2019-02-25 | 2020-02-21 | 编码器、解码器及对应的使用帧内模式译码进行帧内预测的方法 |
Country Status (12)
Country | Link |
---|---|
US (1) | US20210392373A1 (zh) |
EP (2) | EP4203471A1 (zh) |
JP (3) | JP7267444B2 (zh) |
KR (1) | KR20210113399A (zh) |
CN (5) | CN114007068B (zh) |
AU (2) | AU2020227859B2 (zh) |
CA (1) | CA3128913A1 (zh) |
ES (1) | ES2946058T3 (zh) |
HU (1) | HUE061648T2 (zh) |
MX (1) | MX2021009888A (zh) |
PL (1) | PL3912342T3 (zh) |
WO (1) | WO2020173399A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109889827B (zh) * | 2019-04-11 | 2021-01-29 | 腾讯科技(深圳)有限公司 | 帧内预测编码方法、装置、电子设备及计算机存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107113434A (zh) * | 2014-11-10 | 2017-08-29 | 三星电子株式会社 | 用于视频编码中帧内预测的系统和方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10448011B2 (en) * | 2016-03-18 | 2019-10-15 | Mediatek Inc. | Method and apparatus of intra prediction in image and video processing |
KR20180014675A (ko) * | 2016-08-01 | 2018-02-09 | 한국전자통신연구원 | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 |
US10638161B2 (en) * | 2018-07-13 | 2020-04-28 | Tencent America LLC | Methods and apparatus for most probable mode derivation |
US11743452B2 (en) * | 2018-09-03 | 2023-08-29 | Electronics And Telecommunications Research Institute | Video encoding/decoding method and device, and recording medium for storing bitstream |
EP3691264B1 (en) * | 2018-10-05 | 2023-03-08 | LG Electronics Inc. | Intra prediction-based video coding method using mpm list, and device therefor |
CN112823515B (zh) * | 2018-10-07 | 2024-03-19 | 三星电子株式会社 | 使用用于多参考线的mpm配置方法处理视频信号的方法和设备 |
US11178396B2 (en) * | 2018-11-14 | 2021-11-16 | Tencent America LLC | Constrained intra prediction and unified most probable mode list generation |
US11979555B2 (en) * | 2018-12-28 | 2024-05-07 | Electronics And Telecommunications Research Institute | Method and apparatus for deriving intra-prediction mode |
CN118870033A (zh) * | 2019-02-19 | 2024-10-29 | 数码士有限公司 | 基于帧内预测的视频信号处理方法和设备 |
-
2020
- 2020-02-21 MX MX2021009888A patent/MX2021009888A/es unknown
- 2020-02-21 CN CN202110877584.0A patent/CN114007068B/zh active Active
- 2020-02-21 AU AU2020227859A patent/AU2020227859B2/en active Active
- 2020-02-21 CN CN202310208229.3A patent/CN116320486A/zh active Pending
- 2020-02-21 CA CA3128913A patent/CA3128913A1/en active Pending
- 2020-02-21 KR KR1020217027121A patent/KR20210113399A/ko not_active Application Discontinuation
- 2020-02-21 WO PCT/CN2020/076193 patent/WO2020173399A1/en active Application Filing
- 2020-02-21 HU HUE20762968A patent/HUE061648T2/hu unknown
- 2020-02-21 JP JP2021549857A patent/JP7267444B2/ja active Active
- 2020-02-21 PL PL20762968.4T patent/PL3912342T3/pl unknown
- 2020-02-21 ES ES20762968T patent/ES2946058T3/es active Active
- 2020-02-21 CN CN202310200619.6A patent/CN116647700A/zh active Pending
- 2020-02-21 CN CN202080011328.7A patent/CN113574870B/zh active Active
- 2020-02-21 EP EP23156741.3A patent/EP4203471A1/en active Pending
- 2020-02-21 EP EP20762968.4A patent/EP3912342B1/en active Active
- 2020-02-21 CN CN202310200928.3A patent/CN116634174A/zh active Pending
-
2021
- 2021-08-20 US US17/407,517 patent/US20210392373A1/en active Pending
-
2023
- 2023-04-19 JP JP2023068786A patent/JP7521050B2/ja active Active
-
2024
- 2024-02-22 AU AU2024201152A patent/AU2024201152A1/en active Pending
- 2024-07-10 JP JP2024111034A patent/JP2024150526A/ja active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107113434A (zh) * | 2014-11-10 | 2017-08-29 | 三星电子株式会社 | 用于视频编码中帧内预测的系统和方法 |
Non-Patent Citations (6)
Title |
---|
BENJAMIN BROSS等: "Versatile Video Coding (Draft 4)", 《JOINT VIDEO EXPERTS TEAM (JVET)OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11:JVET-M1001-V3》 * |
BENJAMIN BROSS等: "Versatile Video Coding (Draft 4)", 《JOINT VIDEO EXPERTS TEAM (JVET)OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11:JVET-M1001-V7》 * |
BIAO WANG等: "CE3-related: Harmonization of MPM list construction", 《JOINT VIDEO EXPERTS TEAM (JVET)OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11:JVET-M0295-R2》 * |
GEERT VAN DER AUWERA等: "Description of Core Experiment 3 (CE3): Intra Prediction and Mode Coding", 《JOINT VIDEO EXPERTS TEAM (JVET)OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11:JVET-M1023-V3》 * |
JINHO LEE等: "Non-CE3: Modification of MPM", 《JOINT VIDEO EXPERTS TEAM (JVET)OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11:JVET-M0239-V1》 * |
LIANG ZHAO等: "CE3-related: Modifications on MPM list generation", 《JOINT VIDEO EXPERTS TEAM (JVET)OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11:JVET-M0494-V3》 * |
Also Published As
Publication number | Publication date |
---|---|
JP7267444B2 (ja) | 2023-05-01 |
EP3912342B1 (en) | 2023-04-26 |
ES2946058T3 (es) | 2023-07-12 |
US20210392373A1 (en) | 2021-12-16 |
CN114007068B (zh) | 2022-12-13 |
HUE061648T2 (hu) | 2023-07-28 |
AU2024201152A1 (en) | 2024-03-14 |
AU2020227859A1 (en) | 2021-08-26 |
JP7521050B2 (ja) | 2024-07-23 |
KR20210113399A (ko) | 2021-09-15 |
CA3128913A1 (en) | 2020-09-03 |
EP3912342A1 (en) | 2021-11-24 |
AU2020227859B2 (en) | 2023-11-30 |
CN113574870B (zh) | 2023-02-10 |
EP4203471A1 (en) | 2023-06-28 |
MX2021009888A (es) | 2021-09-14 |
WO2020173399A1 (en) | 2020-09-03 |
PL3912342T3 (pl) | 2023-07-17 |
EP3912342A4 (en) | 2022-08-03 |
CN116320486A (zh) | 2023-06-23 |
CN114007068A (zh) | 2022-02-01 |
CN116647700A (zh) | 2023-08-25 |
JP2022521980A (ja) | 2022-04-13 |
JP2023100701A (ja) | 2023-07-19 |
CN116634174A (zh) | 2023-08-22 |
JP2024150526A (ja) | 2024-10-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7529349B2 (ja) | エンコーダ、デコーダ、および対応するイントラ予測方法 | |
CN114650419B (zh) | 进行帧内预测的编码器、解码器和对应方法 | |
CN112673633B (zh) | 合并模式的编码器、解码器及对应方法 | |
CN114449265B (zh) | 用于帧内平滑的方法和装置 | |
AU2019386917B2 (en) | Encoder, decoder and corresponding methods of most probable mode list construction for blocks with multi-hypothesis prediction | |
CN114125468A (zh) | 帧内预测方法和装置 | |
CN113796078A (zh) | 帧内预测模式相关的编码器、解码器及对应方法 | |
CN113660489B (zh) | 用于帧内子划分的解码方法、装置、解码器和存储介质 | |
CN113170118B (zh) | 视频译码中进行色度帧内预测的方法及装置 | |
CN113348665A (zh) | 编码器、解码器及色度帧内模式推导的对应方法 | |
JP2023100701A (ja) | イントラ予測のためのイントラモードコーディングを使用するエンコーダ、デコーダ、および対応する方法 | |
CN113727120A (zh) | 编码器、解码器和用于变换处理的对应方法 | |
CN113891084B (zh) | 帧内预测模式相关的编码器、解码器、对应方法及计算机可读介质 | |
CN114900702B (zh) | 降低平面模式的帧内预测的复杂度的编解码器和对应方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |