CN114731443A - 图像处理装置和方法 - Google Patents

图像处理装置和方法 Download PDF

Info

Publication number
CN114731443A
CN114731443A CN202080078836.7A CN202080078836A CN114731443A CN 114731443 A CN114731443 A CN 114731443A CN 202080078836 A CN202080078836 A CN 202080078836A CN 114731443 A CN114731443 A CN 114731443A
Authority
CN
China
Prior art keywords
transform
decoding
control information
lfnst
case
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080078836.7A
Other languages
English (en)
Inventor
筑波健史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Publication of CN114731443A publication Critical patent/CN114731443A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本公开内容涉及能够抑制编码效率降低的图像处理装置和图像处理方法。在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对作为与二次变换相关的控制信息的二次变换控制信息的编码;并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。本公开内容适用于例如图像处理装置、图像编码装置、图像解码装置、发送装置、接收装置、发送/接收装置、信息处理装置、成像装置、再现装置、电子装置、图像处理方法、信息处理方法等。

Description

图像处理装置和方法
技术领域
本公开内容涉及图像处理装置和方法,并且更具体地涉及能够抑制编码效率降低的图像处理装置和方法。
背景技术
过去,已经提出了用于导出运动图像的预测残差、执行系数变换、进行量化和编码的编码方法(例如,非专利文献1)。在非专利文献1中描述的通用视频编码(VVC)中,存在如下编码工具,该编码工具执行低频不可分离变换(LFNST)作为对一次变换之后的变换系数的二次变换并且进一步改进能量集中性。然后,用信令通知作为关于二次变换的控制信息的二次变换控制信息(即,二次变换控制信息被编码并发送到了解码侧)。
例如,已经用信令通知指示LFNST的模式的LFNST标识符(lfnst_idx)作为二次变换控制信息。已经根据树类型(treeType)和变换跳过标志(transform_skip_flag)的值用信令通知该LFNST标识符。变换跳过标志是指示在图像编码中是否跳过(省略)包括一次变换、二次变换等的系数变换的标志信息。注意,该变换跳过标志还指示是否跳过(省略)图像解码中的系数变换的逆处理(逆变换)。
引用列表
非专利文献
非专利文献1:Benjamin Bross,Jianle Chen,Shan Liu,Ye-Kui Wang,“Versatile Video Coding(Draft 7)”,JVET-P2001-vE,ITU-T SG 16WP 3和ISO/IEC JTC1/SC 29/WG 11的联合视频专家组(JVET)第十六次会议:日内瓦,瑞士,2019年3月19日至2019年10月1-11日。
发明内容
本发明要解决的问题
然而,在非专利文献1描述的方法的情况下,即使在树类型为双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志为真(例如,1)的情况下,也用信令通知LFNST标识符,这可能导致冗余。即,存在编码效率降低的可能性。
鉴于前述内容作出了本公开内容,并且本公开内容旨在使得能够抑制编码效率的降低。
问题的解决方案
根据本技术的一个方面的图像处理装置是如下的图像处理装置,该图像处理装置包括:编码单元,编码单元被配置成:在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,二次变换控制信息是与二次变换相关的控制信息;并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
根据本技术的一个方面的图像处理方法是如下的图像处理方法,该图像处理方法包括:在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对作为与二次变换相关的控制信息的二次变换控制信息的编码;以及在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
根据本技术的另一方面的图像处理装置是如下的图像处理装置,该图像处理装置包括:解码单元,解码单元被配置成:在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息;并且在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成二次变换控制信息。
根据本技术的另一方面的图像处理方法是如下的图像处理方法,该图像处理方法包括:在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息;以及在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成二次变换控制信息。
在根据本技术的一个方面的图像处理装置和图像处理方法中,在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,二次变换控制信息是与二次变换相关的控制信息;并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
在根据本技术的另一方面的图像处理装置和图像处理方法中,在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息;并且在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成二次变换控制信息。
附图说明
图1是示出关于LFNST标识符的语法表的示例的图。
图2是示出基于树类型和变换跳过标志的LFNST标识符的示例的图。
图3是示出基于树类型和变换跳过标志的LFNST标识符的示例的图。
图4是示出关于LFNST标识符的语法表的示例的图。
图5是示出编码条件condition的示例的图。
图6是示出关于LFNST标识符的语法表的示例的图。
图7是示出编码条件condition的示例的图。
图8是示出基于树类型和变换跳过标志的LFNST标识符的示例的图。
图9是示出基于树类型和变换跳过标志的LFNST标识符的示例的图。
图10是示出基于树类型和变换跳过标志的LFNST标识符的示例的图。
图11是示出图像编码装置的主要配置示例的框图。
图12是示出编码处理的流程的示例的流程图。
图13是示出解码装置的主要配置示例的框图。
图14是用于描述解码处理流程的示例的流程图。
图15是示出图像编码装置的主要配置示例的框图。
图16是用于描述图像编码处理的流程的示例的流程图。
图17是示出图像解码装置的主要配置示例的框图。
图18是用于描述图像解码处理的流程的示例的流程图
图19是示出计算机的主要配置示例的框图。
具体实施方式
在下文中,将描述用于实现本公开内容的模式(在下文中,被称为实施方式)。注意,将按以下顺序给出描述。
1.LFNST标识符的信令模式
2.第一实施方式(编码装置)
3.第二实施方式(解码装置)
4.第三实施方式(图像编码装置)
5.第四实施方式(图像解码装置)
6.补充说明
<1.LFNST标识符的信令模式>
<支持技术内容和技术术语的文献等>
本技术中公开的范围不仅包括实施方式中描述的内容,而且还包括在提交申请时已知的以下非专利文献等中描述的内容以及以下非专利文献中参考的其他文献的内容。
非专利文献1:(以上所述)
非专利文献2:Jianle Chen,Yan Ye,Seung Hwan Kim,“Algorithm descriptionfor Versatile Video Coding and Test Model 7(VTM 7)”,JVET-P2002-v1,ITU-T SG16WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET)第16次会议,日内瓦,瑞士,2019年10月1-11日
非专利文献3:ITU-T H.264建议书(04/2017)“Advanced video coding forgeneric audiovisual services”,2017年4月
非专利文件4:ITU-T H.265建议书(02/18)“High efficiency video coding”,2018年2月
即,以上非专利文献中描述的内容也用作确定支持要求的基础。例如,即使在示例中没有直接描述以上非专利文献中描述的四叉树块结构和四叉树加二叉树(QTBT)块结构的情况下,这些内容也落入本技术的公开范围内,并且满足权利要求的支持要求。此外,例如,即使在示例中没有直接描述诸如解析、语法和语义的技术术语的情况下,这些技术术语也类似地落入本技术的公开范围内,并且满足权利要求的支持要求。
此外,在本说明书中,除非另有指定,否则用于作为图像(图片)的部分区域或处理单位的描述的“块”(不是指示处理单元的块)指示图片中的任意部分区域,并且块的大小、形状、特性等不受限制。例如,“块”包括诸如在以上非专利文献中描述的变换块(TB)、变换单元(TU)、预测块(PB)、预测单元(PU)、最小编码单元(SCU)、编码单元(CU)、最大编码单元(LCU)、编码树块(CTB)、编码树单元(CTU)、子块、宏块、图块、或切片的任意部分区域(处理的单位)。
此外,在指定这样的块的大小时,不仅可以直接指定块大小,而且还可以间接指定块大小。例如,可以使用用于标识大小的标识信息来指定块大小。此外,例如,可以通过与参考块(例如,LCU、SCU等)的大小的比率或差来指定块大小。例如,在将用于指定块大小的信息作为语法元素等进行发送的情况下,可以使用如上所述的用于间接指定大小的信息作为该信息。通过该配置,可以减少信息量,并且在一些情况下可以提高编码效率。此外,块大小的指定还包括块大小的范围的指定(例如,可允许的块大小的范围的指定等)。
此外,在本说明书中,编码不仅包括将图像变换为比特流的整个处理,而且还包括该处理的一部分。例如,编码不仅包括包含预测处理、正交变换、量化、算术编码等的处理,而且还包括被统称为量化和算术编码的处理,包含预测处理、量化和算术编码的处理,等等。类似地,解码不仅包括将比特流变换为图像的整个处理,而且还包括该处理的一部分。例如,解码不仅包括包含逆算术解码、逆量化、逆正交变换、预测处理等的处理,而且还包括包含逆算术解码和逆量化的处理,包含逆算术解码、逆量化和预测处理的处理,等等。
<LFNST标识符>
在非专利文献1中描述的通用视频编码(VVC)中,存在如下编码工具,该编码工具执行低频不可分离变换(LFNST)作为对一次变换之后的变换系数的二次变换并且进一步改进能量集中性。然后,用信令通知作为关于二次变换的控制信息的二次变换控制信息(即,二次变换控制信息已经被编码器编码并且被发送到解码侧(解码器))。
例如,已经用信令通知作为指示LFNST的模式的标识符的LFNST标识符(lfnst_idx)作为二次变换控制信息。LFNST标识符(lfnst_idx)的值为“0”的情况指示跳过(省略)二次变换(LFNST)。此外,LFNST标识符(lfnst_idx)的值为“1”的情况指示应用根据第一方法的二次变换。此外,LFNST标识符(lfnst_idx)的值为“2”的情况指示应用根据第二方法的二次变换。注意,如下所述,可以跳过(省略)LFNST标识符(lfnst_idx)的信令。在跳过LFNST标识符(lfnst_idx)的信令的情况下,解码侧(解码器)估计该值。
解码器可以基于这样从编码侧(编码器)用信令通知的LFNST标识符(或估计的LFNST标识符)以与在编码器中执行的二次变换对应的模式执行逆二次变换即二次变换的逆处理。即,二次变换控制信息也可以称为与逆二次变换相关的控制信息。此外,LFNST标识符也可以说是指示作为逆二次变换执行的LFNST的逆处理的模式的标识符。
通过如上所述用信令通知LFNST标识符,编码侧(编码器)可以控制解码侧(解码器)处的逆二次变换。即,编码器可以使解码器在编码时以与二次变换对应的模式执行逆二次变换。
图1示出了非专利文献1中描述的关于VVC中的LFNST标识符的语法表的示例。如图1所示,在满足该语法表的顶部起第七行和第八行中的条件的情况下,用信令通知从顶部起第九行中所示的LFNST标识符(lfnst_idx)。即,已经根据树类型(treeType)和变换跳过标志(transform_skip_flag)的值用信令通知该LFNST标识符。变换跳过标志是指示在图像编码中是否跳过(省略)包括一次变换、二次变换等的系数变换的标志信息。注意,该变换跳过标志还指示在图像编码中是否跳过(省略)系数变换的逆处理(逆变换)。
图2示出了树类型和变换跳过标志的组合与LFNST标识符的信令之间的对应关系的示例。在图2中,树类型包括三种类型:SINGLE_TREE、DUAL_TREE_LUMA和DUAL_TREE_CHROMA。此外,transform_skip_flag[0]指示亮度(Y)分量的变换跳过标志。transform_skip_flag[1]指示色度(Cb)分量的变换跳过标志。transform_skip_flag[2]指示色度(Cr)分量的变换跳过标志。图2所示的表格中的每个变换跳过标志的列中的“0”和“1”指示变换跳过标志的值。在该示例中,值“1”指示真,值“0”指示假。注意,没有用信令通知每个树类型的无效分量(Y、Cb或Cr)的变换跳过标志。在图2中,这种无效分量的变换跳过标志的值用“-”指示。
在该示例中,在transform_skip_flag[0]的值为“0”的情况下或者在树类型为DUAL_TREE_CHROMA的情况下,可以用信令通知LFNST标识符(可以)。否则,跳过(省略)LFNST标识符的信令。在这种情况下,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。
然而,如图2的表格的底部行中所示,即使在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真(例如,1)的情况下,用信令通知LFNST标识符。如上所述,在变换跳过标志为真的情况下,跳过系数变换(逆系数变换),因此也跳过二次变换(逆二次变换)。在树类型为双树色度(DUAL_TREE_CHROMA)的情况下,有效分量为Cb和Cr。因此,当这些分量的变换跳过标志为真时,总是跳过二次变换(逆二次变换)。因此,存在LFNST标识符的信令变得冗余的可能性。即,存在编码效率不必要地降低的可能性。
<方法1>
因此,在有效分量中的至少一个分量的变换跳过标志为真的情况下,跳过LFNST标识符的信令(方法1)。
例如,在图像处理方法中,在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略作为与二次变换相关的控制信息的二次变换控制信息的编码,并且在图像编码中的有效分量中所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
例如,在图像处理装置中,设置了编码单元,该编码单元在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对作为与二次变换相关的控制信息的二次变换控制信息的编码,并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
例如,在图像处理方法中,在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息;并且在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成二次变换控制信息。
例如,图像处理装置设置有解码单元,该解码单元在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息;并且在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成二次变换控制信息。
注意,关于二次变换控制信息的解码是对通过对二次变换控制信息进行编码而生成的比特流(也称为编码数据)进行解码以生成二次变换控制信息。此外,指示二次变换的跳过的预定值是任意的。例如,可以设置“0”。
注意,二次变换控制信息可以是任何信息,只要该信息是关于二次变换的控制信息,并且二次变换控制信息可以包括例如二次变换标识符,该二次变换标识符是指示二次变换(和逆二次变换)的类型的标识符。
此外,二次变换可以是任何系数变换,并且可以是例如低频不可分离变换(LFNST)。在那种情况下,逆二次变换可以是LFNST的逆处理。此外,在这种情况下,二次变换标识符是LFNST标识符(lfnst_idx)。然后,指示二次变换的跳过的预定值可以是“0”(lfnst_idx==0)。
图3示出了在应用方法1的情况下,树类型和变换跳过标志的组合与LFNST标识符的信令之间的对应关系的示例。图3是与图2中的表格对应的表格。二次变换是LFNST,并且用信令通知LFNST标识符作为二次变换信息。此外,将指示二次变换的跳过的预定值假定为“0”(lfnst_idx==0)。
与图2的情况一样,树类型包括三种类型:SINGLE_TREE、DUAL_TREE_LUMA和DUAL_TREE_CHROMA。此外,transform_skip_flag[0]指示亮度(Y)分量的变换跳过标志。transform_skip_flag[1]指示色度(Cb)分量的变换跳过标志。transform_skip_flag[2]指示色度(Cr)分量的变换跳过标志。每个变换跳过标志的列中的“0”和“1”指示变换跳过标志的值。在该示例中,值“1”指示真,值“0”指示假。注意,没有用信令通知每个树类型的无效分量(Y、Cb或Cr)的变换跳过标志(由“-”指示的变换跳过标志)。
在该示例中,仅在有效分量中的所有分量的变换跳过标志为假(值“0”)的情况下才可以用信令通知LFNST标识符(可以),而不管树类型如何。在有效分量中的至少一个分量的变换跳过标志为真(值“1”)的情况下,跳过(省略)LFNST标识符的信令。在这种情况下,在解码侧(解码器)上,LFNST标识符的值被估计为“0”(即,指示二次变换的跳过的值)(推断为0)。
如此,在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下,可以跳过LFNST标识符的信令(图3的表格底部的行)。那么,即使以这种方式跳过LFNST标识符的信令,解码器也可以基于LFNST标识符来跳过逆二次变换。即,解码器可以获得具有与用信令通知的变换跳过标志不矛盾的值的LFNST标识符,并且可以正确地执行图像解码。换言之,编码器可以正确地控制解码器中的逆二次变换。
即,通过应用上述方法1,可以抑制LFNST标识符的信令的冗余,并且可以抑制编码效率的降低。
例如,在图像编码的树类型为单树(SINGLE_TREE)的情况下,Y、Cb、Cr是有效分量。因此,在这种情况下,当Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志中的至少一个为真时,跳过对二次变换控制信息的编码。即,在这种情况下,跳过LFNST标识符(lfnst_idx)的信令。然后,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。注意,Y分量变换跳过标志是Y分量的变换跳过标志(transform_skip_flag[0])。Cb分量变换跳过标志是Cb分量的变换跳过标志(transform_skip_flag[1])。Cr分量变换跳过标志是Cr分量的变换跳过标志(transform_skip_flag[2])。
相比之下,当Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志为假时,可以对二次变换控制信息进行编码(可以)。即,用信令通知LFNST标识符(lfnst_idx)。
此外,例如,在图像解码的树类型为单树并且Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志中的至少一个为真的情况下,跳过对二次变换控制信息的解码。然后,二次变换控制信息的值被估计为指示二次变换的跳过的预定值。即,在这种情况下,跳过关于LFNST标识符(lfnst_idx)的解码。然后,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志为假时,对比特流进行解码以生成二次变换控制信息。即,获得用信令通知的LFNST标识符(lfnst_idx)。
注意,在图2中的示例的情况下,在树类型为单树并且Y分量变换跳过标志为假(transform_skip_flag[0]==0)的情况下,用信令通知LFNST标识符(lfnst_idx)。
相比之下,在图3的示例的情况下,在树类型为单树并且Y分量变换跳过标志为假的情况下,此外,在Cb分量变换跳过标志和Cr分量变换跳过标志不为假(transform_skip_flag[1]==0&&transform_skip_flag[2]==0)的情况下,跳过LFNST标识符(lfnst_idx)的信令。因此,解码器可以抑制缓冲器容量的增加。此外,可以抑制解码处理延迟的增加。
例如,在图像编码的树类型为双树亮度(DUAL_TREE_LUMA)的情况下,亮度Y是有效分量。因此,在这种情况下,当Y分量变换跳过标志为真时,跳过对二次变换控制信息的编码。即,在这种情况下,跳过LFNST标识符(lfnst_idx)的信令。然后,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志为假时,可以对二次变换控制信息进行编码(可以)。即,用信令通知LFNST标识符(lfnst_idx)。
此外,例如,在图像解码的树类型是双树亮度的情况下,并且当Y分量变换跳过标志为真时,跳过关于二次变换控制信息的解码。然后,二次变换控制信息的值被估计为指示二次变换的跳过的预定值。即,在这种情况下,跳过关于LFNST标识符(lfnst_idx)的解码。然后,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志为假时,对比特流进行解码以生成二次变换控制信息。即,获得用信令通知的LFNST标识符(lfnst_idx)。
例如,在图像编码的树类型是双树色度(DUAL_TREE_CHROMA)的情况下,色度Cb和Cr是有效分量。因此,在这种情况下,当Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为真时,跳过对二次变换控制信息的编码。即,在这种情况下,跳过LFNST标识符(lfnst_idx)的信令。然后,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Cb分量变换跳过标志和Cr分量变换跳过标志为假时,可以对二次变换控制信息进行编码(可以)。即,用信令通知LFNST标识符(lfnst_idx)。
此外,例如,在图像解码的树类型为双树色度并且Cb分量变换跳过标志和Cr分量变换跳过标志中的至少一个为真的情况下,省略对二次变换控制信息的解码。然后,二次变换控制信息的值被估计为指示二次变换的跳过的预定值。即,在这种情况下,跳过关于LFNST标识符(lfnst_idx)的解码。然后,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Cb分量变换跳过标志和Cr分量变换跳过标志为假时,对比特流进行解码以生成二次变换控制信息。即,获得了用信令通知的LFNST标识符(lfnst_idx)。
图4示出了在将方法1应用于非专利文献1中描述的VVC的情况下关于LFNST标识符的语法表的示例。在这种情况下,编码器(或解码器)针对每个树类型的有效分量设置变量nonTsUsed,如图4顶部所示。变量nonTsUsed是指示是否不应用变换跳过的变量。值为真(例如,“1”)的情况指示未应用变换跳过。值为假(例如,“0”)的情况指示应用了变换跳过。
例如,在树类型为双树亮度并且Y分量变换跳过标志为假(treeType==DUAL_TREE_LUMA&&transform_skip_flag[x0][y0][0]==0)的情况下,变量nonTsUsed被设置为真(nonTsUsed==1)。相比之下,当Y分量变换跳过标志为真时,变量nonTsUsed被设置为假(nonTsUsed==0)。
此外,在树类型为双树色度并且Cb分量变换跳过标志和Cr分量变换跳过标志为假的情况下(treeType==DUAL_TREE_CHROMA&&transform_skip_flag[x0][y0][1]==0&&transform_skip_flag[x0][y0][2]==0),变量nonTsUsed被设置为真(nonTsUsed==1)。相比之下,当Cb分量变换跳过标志或Cr分量变换跳过标志为真时,变量nonTsUsed被设置为假(nonTsUsed==0)。
此外,在树类型为单树并且Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志为假的情况下(treeType==SINGLE_TREE&&transform_skip_flag[x0][y0][0]==0&&transform_skip_flag[x0][y0][1]==0&&transform_skip_flag[x0][y0][2]==0),变量nonTsUsed被设置为真(nonTsUsed==1)。相比之下,当Y分量变换跳过标志、Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为真时,变量nonTsUsed被设置为假(nonTsUsed==0)。
然后,使用变量nonTsUsed作为条件之一来控制是否用信令通知LFNST标识符(lfnst_idx)。例如,在该变量nonTsUsed为真(nonTsUsed==1)并且满足其他条件的情况下,编码器对LFNST标识符(lfnst_idx)进行编码。此外,解码器还对LFNST标识符(lfnst_idx)进行解码。
此外,在变量nonTsUsed为假(nonTsUsed==0)的情况下,编码器跳过对LFNST标识符(lfnst_idx)的编码。此外,解码器跳过关于LFNST标识符(lfnst_idx)的解码,并且估计LFNST标识符(lfnst_idx)的值为“0”。
图5是示出与图4的语法表等效的LFNST标识符的编码条件(解码条件)condition的图。例如,编码器针对每个树类型设置变量NonTsUsed(图5中的上侧)。然后,编码器使用变量NonTsUsed作为条件之一设置LFNST标识符的编码条件condition(图5中的下侧)。然后,在编码条件condition为真的情况下,编码器用信令通知LFNST标识符(lfnst_idx)。在编码条件condition为假的情况下,编码器跳过LFNST标识符(lfnst_idx)的信令。
例如,解码器针对每种树类型设置变量NonTsUsed(图5中的上侧)。然后,解码器使用变量NonTsUsed作为条件之一设置LFNST标识符的解码条件condition(图5中的下侧)。然后,在解码条件condition为真的情况下,解码器对比特流进行解码以获得用信令通知的LFNST标识符(lfnst_idx)。在解码条件condition为假的情况下,解码器跳过关于LFNST标识符(lfnst_idx)的解码,并且估计LFNST标识符(lfnst_idx)的值为“0”。
如此,可以抑制非专利文献1中描述的VVC中编码效率的降低。
注意,可以在条件表达式中使用否定表达式,如图6所示的语法表。图6所示的语法表对应于图4所示的语法表,但是使用变量TsUsed代替图4中的变量nonTsUsed。变量TsUsed是指示是否应用了变换跳过的变量,值为真的情况(例如,“1”)指示应用了变换跳过。值为假的情况(例如,“0”)指示未应用变换跳过。
例如,变量TsUsed被设置为如图6中的顶部所示。即,当Y分量变换跳过标志、Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为真时(transform_skip_flag[x0][y0][0]==1||transform_skip_flag[x0][y0][1]==1||transform_skip_flag[x0][y0][2]==1),变量TsUsed被设置为真(TsUsed==1)。相比之下,当Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志为假时,变量TsUsed被设置为假(TsUsed==0)。
然后,使用变量TsUsed作为条件之一来控制是否用信令通知LFNST标识符(lfnst_idx)。例如,在该变量TsUsed为假(TsUsed==0)并且满足其他条件的情况下,编码器对LFNST标识符(lfnst_idx)进行编码,并且解码器对LFNST标识符(lfnst_idx)进行解码。
此外,在变量TsUsed为真(TsUsed==1)的情况下,编码器跳过对LFNST标识符(lfnst_idx)的编码。然后,解码器跳过关于LFNST标识符(lfnst_idx)的解码,并且估计LFNST标识符(lfnst_idx)的值为“0”。
图7是示出与图6的语法表等效的LFNST标识符的编码条件(解码条件)condition的图。例如,编码器设置变量TsUsed(图7中的上侧)。然后,编码器使用变量TsUsed作为条件之一设置LFNST标识符的编码条件condition(图7中的下侧)。然后,在编码条件condition为真的情况下,编码器用信令通知LFNST标识符(lfnst_idx)。在编码条件condition为假的情况下,编码器跳过LFNST标识符(lfnst_idx)的信令。
例如,解码器设置变量TsUsed(图7中的上侧)。然后,解码器使用变量TsUsed作为条件之一设置LFNST标识符的解码条件condition(图7中的下侧)。然后,在解码条件condition为真的情况下,解码器对比特流进行解码以获得用信令通知的LFNST标识符(lfnst_idx)。在解码条件condition为假的情况下,解码器跳过关于LFNST标识符(lfnst_idx)的解码,并且估计LFNST标识符(lfnst_idx)的值是“0”。
如此,可以抑制非专利文献1中描述的VVC中编码效率的降低。
<方法2>
例如,在有效分量中的所有分量的变换跳过标志为真的情况下,可以跳过LFNST标识符的信令(方法2)。
例如,在图像编码中的有效分量中的所有分量的变换跳过标志为真的情况下,可以省略对二次变换控制信息的编码,并且在图像编码中有效分量中至少一个分量的变换跳过标志为假的情况下,可以对二次变换控制信息进行编码。
此外,例如,在图像解码中的有效分量中的所有分量的变换跳过标志为真的情况下,可以省略与二次变换控制信息相关的解码,并且可以估计二次变换控制信息的值是指示二次变换的跳过的预定值,并且在图像解码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,可以对码流进行解码以生成二次变换控制信息。
即使在方法2中,与方法1类似,关于二次变换控制信息的解码是对通过对二次变换控制信息进行编码而生成的比特流进行解码以生成二次变换控制信息。此外,指示二次变换的跳过的预定值是任意的。
此外,二次变换控制信息可以是任何信息,只要该信息是关于二次变换的控制信息即可。例如,二次变换控制信息可以包括二次变换标识符,该二次变换标识符是指示二次变换(和逆二次变换)的类型的标识符。
此外,二次变换可以是任何系数变换。例如,二次变换可以是LFNST。在那种情况下,逆二次变换可以是LFNST的逆处理。此外,在这种情况下,二次变换标识符是LFNST标识符(lfnst_idx)。然后,指示二次变换的跳过的预定值可以是“0”(lfnst_idx==0)。
图8示出了在应用方法2的情况下,树类型和变换跳过标志的组合与LFNST标识符的信令之间的对应关系的示例。图8是与图2中的表格对应的表格。二次变换是LFNST,并且用信令通知LFNST标识符作为二次变换信息。此外,将指示二次变换的跳过的预定值假定为“0”(lfnst_idx==0)。
与图2的情况一样,树类型包括三种类型:SINGLE_TREE、DUAL_TREE_LUMA和DUAL_TREE_CHROMA。此外,transform_skip_flag[0]指示Y分量变换跳过标志。transform_skip_flag[1]指示Cb分量变换跳过标志。transform_skip_flag[2]指示Cr分量变换跳过标志。每个变换跳过标志的列中的“0”和“1”指示变换跳过标志的值。在该示例中,值“1”指示真,值“0”指示假。注意,没有用信令通知每个树类型的无效分量(Y、Cb或Cr)的变换跳过标志(由“-”指示的变换跳过标志)。
在该示例中,在有效分量中的至少一个分量的变换跳过标志为假(值“0”)的情况下,可以用信令通知LFNST标识符(可以),而不管树类型如何。仅在有效分量中的所有分量的变换跳过标志为真(值“1”)的情况下,才跳过(省略)LFNST标识符的信令。在这种情况下,在解码侧(解码器)上,LFNST标识符的值被估计为“0”(即,指示二次变换的跳过的值)(推断为0)。
如此,在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下,可以跳过LFNST标识符的信令(图8的表格底部的行)。那么,即使以这种方式跳过了LFNST标识的信令,解码器也可以基于LFNST标识符来跳过逆二次变换。即,解码器可以获得具有与用信令通知的变换跳过标志不矛盾的值的LFNST标识符,并且可以正确地执行图像解码。换言之,编码器可以正确地控制解码器中的逆二次变换。
即,通过应用上述方法2,可以抑制LFNST标识符的信令的冗余,并且可以抑制编码效率的降低。
例如,在图像编码的树类型为单树(SINGLE_TREE)的情况下,Y、Cb、Cr是有效分量。因此,在这种情况下,当Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志为真时,跳过对二次变换控制信息的编码。即,在这种情况下,跳过LFNST标识符(lfnst_idx)的信令。然后,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志、Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为假时,可以对二次变换控制信息进行编码(可以)。即,用信令通知LFNST标识符(lfnst_idx)。
此外,例如,在图像解码的树类型是单树并且Y分量变换跳过标志、Cb分量变换跳过标志和Cr分量变换跳过标志为真的情况下,跳过对二次变换控制信息的解码。然后,二次变换控制信息的值被估计为指示二次变换的跳过的预定值。即,在这种情况下,跳过关于LFNST标识符(lfnst_idx)的解码。然后,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志、Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为假时,对比特流进行解码以生成二次变换控制信息。即,获得用信令通知的LFNST标识符(lfnst_idx)。
注意,在图2的示例的情况下,在图像解码的树类型是单树并且Y分量变换跳过标志为真(transform_skip_flag[0]==1)的情况下,已跳过LFNST的信令标识符(lfnst_idx)。因此,此时,即使Cb分量变换跳过标志和Cr分量变换跳过标志为假(transform_skip_flag[1]==0||transform_skip_flag[2]==0),也不能将二次变换(LFNST)应用于Cb分量和Cr分量。因此,Cb分量和Cr分量的编码效率有可能降低。
相比之下,在图8的情况下,当Y分量变换跳过标志、Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为假时,可以用信令通知LFNST标识符。即,在图像解码的树类型为单树并且Y分量变换跳过标志为真(transform_skip_flag[0]==1)的情况下,并且当Cb分量变换跳过标志和Cr分量变换跳过标志为假(transform_skip_flag[1]==0||transform_skip_flag[2]==0)的情况下,可以将二次变换(LFNST)应用于Cb分量和Cr分量。因此,可以抑制Cb分量和Cr分量的编码效率的降低。
例如,在图像编码的树类型为双树亮度(DUAL_TREE_LUMA)的情况下,亮度Y是有效分量。因此,在这种情况下,当Y分量变换跳过标志为真时,跳过对二次变换控制信息的编码。即,在这种情况下,跳过LFNST标识符(lfnst_idx)的信令。然后,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志为假时,可以对二次变换控制信息进行编码(可以)。即,用信令通知LFNST标识符(lfnst_idx)。
此外,例如,在图像解码的树类型是双树亮度的情况下,并且当Y分量变换跳过标志为真时,跳过关于二次变换控制信息的解码。然后,二次变换控制信息的值被估计为指示二次变换的跳过的预定值。即,在这种情况下,跳过关于LFNST标识符(lfnst_idx)的解码。然后,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Y分量变换跳过标志为假时,对比特流进行解码以生成二次变换控制信息。即,获得用信令通知的LFNST标识符(lfnst_idx)。
例如,在图像编码的树类型是双树色度(DUAL_TREE_CHROMA)的情况下,色度Cb和Cr是有效分量。因此,在这种情况下,当Cb分量变换跳过标志和Cr分量变换跳过标志为真时,跳过二次变换控制信息的编码。即,在这种情况下,跳过LFNST标识符(lfnst_idx)的信令。然后,在解码器中,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为假时,可以对二次变换控制信息进行编码(可以)。即,用信令通知LFNST标识符(lfnst_idx)。
此外,例如,在图像解码的树类型是双树色度并且Cb分量变换跳过标志和Cr分量变换跳过标志为真的情况下,省略对二次变换控制信息的解码。然后,二次变换控制信息的值被估计为指示二次变换的跳过的预定值。即,在这种情况下,跳过关于LFNST标识符(lfnst_idx)的解码。然后,LFNST标识符的值被估计为“0”(推断为0)。相比之下,当Cb分量变换跳过标志或Cr分量变换跳过标志中的至少一个为假时,对比特流进行解码以生成二次变换控制信息。即,获得用信令通知的LFNST标识符(lfnst_idx)。
<方法3>
例如,在树类型是单树的情况下以及在树类型是双树亮度的情况下,LFNST标识符的信令可以通过与非专利文献1中描述的方法类似的方法来控制,并且仅在树类型为双树色度(DUAL_TREE_CHROMA)并且双树色度中的有效分量中所有分量的变换跳过标志为真的情况下,才可以跳过LFNST标识符的信令(方法3)。
例如,在图像编码的树类型是双树色度的情况下,在双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,可以跳过对二次变换控制信息的编码,并且在双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下,可以对二次变换控制信息进行编码。
此外,例如,在图像解码的树类型是双树色度的情况下,在双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,可以跳过与二次变换控制信息相关的解码,并且可以估计二次变换控制信息的值是指示二次变换的跳过的预定值,并且在双树色度中有效分量中至少一个分量的变换跳过标志为假的情况下,,可以对比特流进行解码以生成二次变换控制信息。
即使在方法3中,类似于方法1,关于二次变换控制信息的解码是对通过对二次变换控制信息进行编码而生成的比特流进行解码以生成二次变换控制信息。此外,指示二次变换的跳过的预定值是任意的。
此外,二次变换控制信息可以是任何信息,只要该信息是关于二次变换的控制信息即可。例如,二次变换控制信息可以包括二次变换标识符,该二次变换标识符是指示二次变换(和逆二次变换)的类型的标识符。
此外,二次变换可以是任何系数变换。例如,二次变换可以是LFNST。在那种情况下,逆二次变换可以是LFNST的逆处理。此外,在这种情况下,二次变换标识符是LFNST标识符(lfnst_idx)。然后,指示二次变换的跳过的预定值可以是“0”(lfnst_idx==0)。
图9示出了在应用方法3的情况下,树类型和变换跳过标志的组合与LFNST标识符的信令之间的对应关系的示例。图9是与图2中的表格对应的表格。二次变换是LFNST,并且用信令通知LFNST标识符作为二次变换信息。此外,将指示二次变换的跳过的预定值假定为“0”(lfnst_idx==0)。
与图2的情况一样,树类型包括三种类型:SINGLE_TREE、DUAL_TREE_LUMA和DUAL_TREE_CHROMA。此外,transform_skip_flag[0]指示Y分量变换跳过标志。transform_skip_flag[1]指示Cb分量变换跳过标志。transform_skip_flag[2]指示Cr分量变换跳过标志。每个变换跳过标志的列中的“0”和“1”指示变换跳过标志的值。在该示例中,值“1”指示真,值“0”指示假。注意,没有用信令通知每个树类型的无效分量(Y、Cb或Cr)的变换跳过标志(由“-”指示的变换跳过标志)。
在该示例中,树类型是双树色度,并且在双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下,可以用信令通知LFNST标识符(可以)。相比之下,当所有分量的变换跳过标志为真(值“1”)时,跳过(省略)LFNST标识符的编码。在这种情况下,在解码侧(解码器)上,LFNST标识符的值被估计为“0”(即,指示二次变换的跳过的值)(推断为0)。
注意,在树类型是单树的情况以及在树类型是双树亮度的情况下,LFNST标识符的信令通过与非专利文献1中描述的方法类似的方法来控制。即,LFNST标识符的信令控制类似于图2中的表格的情况。
如此,在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量的变换跳过标志都为真的情况下,可以跳过LFNST标识符的信令(图9的表格底部的行)。那么,即使以这种方式跳过了LFNST标识的信令,解码器也可以基于LFNST标识符来跳过逆二次变换。即,解码器可以获得具有与用信令通知的变换跳过标志不矛盾的值的LFNST标识符,并且可以正确地执行图像解码。换言之,编码器可以正确地控制解码器中的逆二次变换。
即,通过应用上述方法3,可以抑制LFNST标识符的信令的冗余,并且可以抑制编码效率的降低。
<方法4>
例如,在树类型是单树的情况下以及在树类型是双树亮度的情况下,LFNST标识符的信令可以通过与非专利文献1中描述的方法类似的方法来控制,并且只有在树类型为双树色度(DUAL_TREE_CHROMA)并且双树色度中的有效分量中至少一个分量的变换跳过标志为真的情况下,才可以跳过LFNST标识符的信令(方法4)。
例如,在图像编码的树类型为双树色度的情况下,在双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,可以跳过二次变换控制信息的编码,并且在双树色度中的有效分量中所有分量的变换跳过标志为假的情况下,可以对二次变换控制信息进行编码。
此外,例如,在图像解码的树类型是双树色度的情况下,在双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,可以跳过与二次变换控制信息相关的解码,并且可以估计二次变换控制信息的值是指示二次变换的跳过的预定值,并且在双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下,可以对比特流进行解码以生成二次变换控制信息。
即使在方法4中,与方法1类似,关于二次变换控制信息的解码是对通过对二次变换控制信息进行编码而生成的比特流进行解码以生成二次变换控制信息。此外,指示二次变换的跳过的预定值是任意的。
此外,二次变换控制信息可以是任何信息,只要该信息是关于二次变换的控制信息即可。例如,二次变换控制信息可以包括二次变换标识符,该二次变换标识符是指示二次变换(和逆二次变换)的类型的标识符。
此外,二次变换可以是任何系数变换。例如,二次变换可以是LFNST。在那种情况下,逆二次变换可以是LFNST的逆处理。此外,在这种情况下,二次变换标识符是LFNST标识符(lfnst_idx)。然后,指示二次变换的跳过的预定值可以是“0”(lfnst_idx==0)。
图10示出了在应用方法4的情况下树类型和变换跳过标志的组合与LFNST标识符的信令之间的对应关系的示例。图10是与图2中的表格对应的表格。二次变换是LFNST,并且用信令通知LFNST标识符作为二次变换信息。此外,将指示二次变换的跳过的预定值假定为“0”(lfnst_idx==0)。
与图2的情况一样,树类型包括三种类型:SINGLE_TREE、DUAL_TREE_LUMA和DUAL_TREE_CHROMA。此外,transform_skip_flag[0]指示Y分量变换跳过标志。transform_skip_flag[1]指示Cb分量变换跳过标志。transform_skip_flag[2]指示Cr分量变换跳过标志。每个变换跳过标志的列中的“0”和“1”指示变换跳过标志的值。在该示例中,值“1”指示真,值“0”指示假。注意,没有用信令通知每个树类型的无效分量(Y、Cb或Cr)的变换跳过标志(由“-”指示的变换跳过标志)。
在该示例中,树类型是双树色度,并且在双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下,可以用信令通知LFNST标识符(可以)。相比之下,当至少一个分量的变换跳过标志为真(值“1”)时,跳过(省略)LFNST标识符的编码。在这种情况下,在解码侧(解码器)上,LFNST标识符的值被估计为“0”(即,指示二次变换的跳过的值)(推断为0)。
注意,类似于图3的情况,在树类型是单树的情况以及在树类型是双树亮度的情况下,LFNST标识符的信令通过与在非专利文献1中描述的方法类似的方法来控制。即,LFNST标识符的信令控制类似于图2中的表格的情况。
如此,在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量的变换跳过标志都为真的情况下,可以跳过LFNST标识符的信令(图10的表格底部的行)。那么,即使以这种方式跳过了LFNST标识的信令,解码器也可以基于LFNST标识符来跳过逆二次变换。即,解码器可以获得具有与用信令通知的变换跳过标志不矛盾的值的LFNST标识符,并且可以正确地执行图像解码。换言之,编码器可以正确地控制解码器中的逆二次变换。
即,通过应用上述方法4,可以抑制LFNST标识符的信令的冗余,并且可以抑制编码效率的降低。
<组合>
可以适当地组合和应用上述方法1至4中的一些或全部。
<2.第一实施方式>
<编码装置>
<1.LFNST标识符的信令模式>中描述的本技术(方法1至4)可以应用于任何装置。在下文中,将描述本技术的应用示例。图11是示出作为应用本技术的图像处理装置的一种模式的编码装置的配置的示例的框图。图11所示的编码装置100是对LFNST标识符(lfnst_idx)进行编码的装置。例如,编码装置100通过应用基于上下文的自适应二进制算术码(CABAC)来执行编码。
注意,图11示出了主要处理单元、数据流等,并且图11中示出的那些不一定是全部。即,在编码装置100中,可以存在未示为图11中的块的处理单元,或者存在未示为图11中的箭头等的处理或数据流。
如图11所示,编码装置100包括LFNST标识符编码单元101。
LFNST标识符编码单元101执行与LFNST标识符的编码相关的处理。例如,LFNST标识符编码单元101从外部获取LFNST标识符(lfnst_idx)。LFNST标识符编码单元101对所获取的LFNST标识符进行编码以生成比特流。LFNST标识符编码单元101将所生成的比特流输出到编码装置100的外部。该比特流例如经由通信介质等被发送到解码侧(解码器),或者被存储在存储介质中。
此外,LFNST标识符编码单元101获取要用于对LFNST标识符进行编码的各种参数。例如,LFNST标识符编码单元101获取诸如treeType、transform_skip_flag[0]、transform_skip_flag[1]、transform_skip_flag[2]、lfnstWidth、lfnstHeight、sps_lfnst_enabled_flag、intra_mip_flag、cbWidth、cbHeight、IntraSubPartitionFlagType、LfnstDcOnly和LfnstZeroOutSigCoefFlag之类的参数。这些参数是上述非专利文献(例如,非专利文献1)中描述的参数。
然后,LFNST标识符编码单元101使用这些参数控制如<1.LFNST标识符的信令模式>中所述的对LFNST标识符(lfnst_idx)的编码(信令)。
例如,LFNST标识符编码单元101通过应用上述方法1来控制LFNST标识符的编码。即,在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,LFNST标识符编码单元101省略对二次变换控制信息的编码,二次变换控制信息是与二次变换相关的控制信息,并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
例如,LFNST标识符编码单元101根据图4所示的语法表控制LFNST标识符的编码。注意,LFNST标识符编码单元101可以根据图6所示的语法表控制LFNST标识符的编码。根据这些语法表,LFNST标识符编码单元101可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图3所示的表格所示。每种树类型中的控制方法如上文在<1.LFNST标识符的信令模式>中所述。
注意,LFNST标识符编码单元101可以通过应用上述方法2来控制LFNST标识符的编码。即,LFNST标识符编码单元101可以在图像编码中的有效分量中所有分量的跳过标志为真情况下省略对二次变换控制信息的编码,并且在图像编码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
如此,LFNST标识符编码单元101可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图8所示的表格所示。每种树类型中的控制方法如上述<1.LFNST标识符的信令模式>中所述。
此外,LFNST标识符编码单元101可以通过应用上述方法3来控制LFNST标识符的编码。例如,在图像编码的树类型是双树色度的情况下,LFNST标识符编码单元101可以在双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,并且在双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下对二次变换控制信息进行编码。
如此,LFNST标识符编码单元101可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图9所示的表格所示。每种树类型中的控制方法如上述<1.LFNST标识符的信令模式>中所述。
此外,LFNST标识符编码单元101可以通过应用上述方法4来控制LFNST标识符的编码。例如,在图像编码的树类型是双树色度的情况下,LFNST标识符编码单元101可以在双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,并且在双树色度中有效分量中所有分量的变换跳过标志为假的情况下对二次变换控制信息进行编码。
如此,LFNST标识符编码单元101可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图10所示的表格所示。每种树类型中的控制方法如上述<1.LFNST标识符的信令模式>中所述。
在应用方法1至4中的任何方法的任何情况下,在树类型为双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下,LFNST标识符编码单元101可以跳过LFNST标识符的信令。因此,编码装置100可以抑制编码效率的降低。
<编码处理的流程>
接下来,将参照图12中的流程图来描述在编码装置100中执行的编码处理的流程的示例。
当编码处理开始时,编码装置100的LFNST标识符编码单元101在步骤S101中导出LFNST标识符的编码条件condition。例如,在应用<1.LFNST标识符的信令模式>中描述的方法1的情况下,LFNST标识符编码单元101在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,二次变换控制信息是与二次变换相关的控制信息;并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。例如,LFNST标识符编码单元101导出图5所示的变量NonTsUsed,并且使用导出的变量NonTsUsed导出图5所示的编码条件condition。
注意,LFNST标识符编码单元101可以导出图7所示的变量TsUsed,并且使用导出的变量TsUsed导出图7所示的编码条件condition。此外,LFNST标识符编码单元101可以应用方法2至4中的任何一个来导出编码条件condition。
在步骤S102中,LFNST标识符编码单元101确定是否满足编码条件condition。即,LFNST标识符编码单元101确定在步骤S101中导出的编码条件condition是否为真。在确定编码条件condition为真的情况下,处理进行到步骤S103。
在步骤S103中,LFNST标识符编码单元101对LFNST标识符(lfnst_idx)进行编码以生成比特流。即,在满足编码条件condition的情况下,LFNST标识符编码单元101对LFNST标识符(lfnst_idx)进行编码以生成比特流。例如,该比特流经由通信介质提供给解码器。此外,该比特流可以被存储在存储介质中。当步骤S103中的处理结束时,编码处理结束。
此外,在步骤S102中,在确定在步骤S101中导出的编码条件condition为假的情况下,处理进行到步骤S104。
在步骤S104中,LFNST标识符编码单元101跳过(省略)对LFNST标识符(lfnst_idx)的编码。即,在不满足编码条件condition的情况下,LFNST标识符编码单元101跳过对LFNST标识符(lfnst_idx)的编码。即,在这种情况下,不生成LFNST标识符的比特流(即,没有用信令通知LFNST标识符)。当步骤S104中的处理结束时,编码处理结束。
通过以这种方式执行编码处理,在应用方法1至4中的任何方法的任何情况下,LFNST标识符编码单元101可以在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下跳过LFNST标识符的信令。因此,编码装置100可以抑制编码效率的降低。
<补充>
注意,编码装置100(LFNST标识符编码单元101)可以对任意二次变换标识符(任意二次变换控制信息)而不是LFNST标识符的示例进行编码。即,二次变换不限于LFNST,并且可以是任意系数变换。此外,可以适当地组合和应用上述方法1至4中的一些或全部。
<3.第二实施方式>
<解码装置>
图13是示出作为应用本技术的图像处理装置的一种模式的解码装置的配置的示例的框图。图13所示的解码装置200是对LFNST标识符(lfnst_idx)的比特流(编码数据)进行解码的装置。解码装置200通过应用与编码装置100的编码方法对应的解码方法(例如,CABAC)来执行解码。例如,解码装置200对由编码装置100生成的比特流进行解码。
注意,图13示出了主要处理单元、数据流等,并且图13中示出的那些不一定是全部。即,在解码装置200中,可以存在未示为图13中的块的处理单元,或者存在未示为图13中的箭头等的处理或数据流。
如图13所示,解码装置200包括LFNST标识符解码单元201。
LFNST标识符解码单元201执行与LFNST标识符的解码相关的处理。例如,LFNST标识符解码单元201从外部获取比特流。LFNST标识符解码单元201对所获取的比特流进行解码以生成LFNST标识符(lfnst_idx)。LFNST标识符解码单元201将生成的LFNST标识符输出到解码装置200的外部。LFNST标识符例如经由通信介质等被发送到解码侧(解码器),或者被存储在存储介质中。
此外,LFNST标识符解码单元201获取要用于关于LFNST标识符的解码的各种参数。例如,LFNST标识符解码单元201获取诸如treeType、transform_skip_flag[0]、transform_skip_flag[1]、transform_skip_flag[2]、lfnstWidth、lfnstHeight、sps_lfnst_enabled_flag、intra_mip_flag、cbWidth、cbHeight、IntraSubPartitionFlagType、LfnstDcOnly和LfnstZeroOutSigCoefFlag之类的参数。这些参数是上述非专利文献(例如,非专利文献1)中描述的参数。
这些参数在编码器(例如,编码装置100)中被编码并且作为比特流被提供(即,用信令通知)。解码装置200获取比特流并且对比特流进行解码以生成这些参数。注意,该解码可以由LFNST标识符解码单元201外部的解码单元(未示出)执行,或者可以由LFNST标识符解码单元201执行。
然后,LFNST标识符解码单元201使用这些参数控制如<1.LFNST标识符的信令模式>中所述的对LFNST标识符(lfnst_idx)的解码。
例如,LFNST标识符解码单元201通过应用上述方法1来控制LFNST标识符的解码。即,LFNST标识符解码单元201在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息;并且在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成二次变换控制信息。
例如,LFNST标识符解码单元201根据图4所示的语法表控制LFNST标识符的解码。注意,LFNST标识符解码单元201可以根据图6所示的语法表控制LFNST标识符的解码。根据这些语法表,LFNST标识符解码单元201可以根据树类型和变换跳过标志来控制LFNST标识符的解码,如图3所示的语法表。每种树类型中的控制方法如上文在<1.LFNST标识符的信令模式>中所述。
注意,LFNST标识符解码单元201可以通过应用上述方法2来控制LFNST标识符的解码。即,当图像解码中的有效分量中的所有分量的变换跳过标志为真时,LFNST标识符解码单元201可以省略与二次变换控制信息相关的解码,并且估计二次变换控制信息的值为“0”。此外,当图像解码中的有效分量中的至少一个分量的变换跳过标志为假时,LFNST标识符解码单元201可以执行关于二次变换控制信息的解码。
如此,LFNST标识符解码单元201可以根据树类型和变换跳过标志来控制LFNST标识符的解码,如图8所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
此外,LFNST标识符解码单元201可以通过应用上述方法3来控制LFNST标识符的解码。即,在图像解码的树类型是双树色度的情况下,LFNST标识符解码单元201可以在双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下跳过(省略)二次变换控制信息的解码,并且估计二次变换控制信息的值为“0”。此外,当图像解码中的有效分量中的至少一个分量的变换跳过标志为假时,LFNST标识符解码单元201可以执行关于二次变换控制信息的解码。
如此,LFNST标识符解码单元201可以根据树类型和变换跳过标志来控制LFNST标识符的解码,如图9所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
此外,LFNST标识符解码单元201可以通过应用上述方法4来控制LFNST标识符的解码。即,在图像解码的树类型是双树色度的情况下,在双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,LFNST标识符解码单元201可以省略对二次变换控制信息的解码,并且估计二次变换控制信息的值为“0”。此外,当所有分量的变换跳过标志为假时,可以执行关于二次变换控制信息的解码。
如此,LFNST标识符解码单元201可以根据树类型和变换跳过标志来控制LFNST标识符的解码,如图10所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
在应用方法1至4中的任何方法的任何情况下,在树类型为双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下,LFNST标识符解码单元201可以跳过对LFNST标识符的解码。因此,解码装置200可以抑制编码效率的降低。
<解码处理的流程>
接下来,将参照图14中的流程图来描述在解码装置200中执行的解码处理的流程的示例。
当解码处理开始时,解码装置200的LFNST标识符解码单元201在步骤S201中导出LFNST标识符的解码条件condition。例如,在应用<1.LFNST标识符的信令模式>中描述的方法1的情况下,在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,LFNST标识符解码单元201省略与二次变换控制信息相关的解码,二次变换控制信息是与二次变换相关的控制信息,并且在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下对二次变换控制信息进行解码。例如,LFNST标识符解码单元201导出图5所示的变量NonTsUsed,并且使用导出的变量NonTsUsed导出图5所示的解码条件condition。
注意,LFNST标识符解码单元201可以导出图7所示的变量TsUsed,并且使用导出的变量TsUsed导出图7所示的解码条件condition。此外,LFNST标识符解码单元201可以应用方法2至4中的任何一个来导出解码条件condition。
在步骤S202中,LFNST标识符解码单元201确定是否满足解码条件condition。即,LFNST标识符解码单元201确定在步骤S201中导出的解码条件condition是否为真。在确定解码条件condition为真的情况下,处理进行到步骤S203。
在步骤S203中,LFNST标识符解码单元201对比特流进行解码以生成LFNST标识符(lfnst_idx)。即,在满足解码条件condition的情况下,LFNST标识符解码单元201对比特流进行解码以生成LFNST标识符(lfnst_idx)。当步骤S203中的处理结束时,解码处理结束。
此外,在步骤S202中,在确定在步骤S201中导出的解码条件condition为假的情况下,处理进行到步骤S204。
在步骤S204中,LFNST标识符解码单元201跳过(省略)对LFNST标识符(lfnst_idx)的解码。即,在不满足解码条件condition的情况下,LFNST标识符解码部201跳过对LFNST标识符(lfnst_idx)的解码,并且估计LFNST标识符的值为“0”(lfnst_idx=0)。当步骤S204中的处理结束时,解码处理结束。
通过以这种方式执行解码处理,在应用方法1至4中的任何方法的任何情况下,当树类型是双树色度(DUAL_TREE_CHROMA)并且Cb分量和Cr分量二者的变换跳过标志都为真时,LFNST标识符解码单元201可以跳过对LFNST标识符的解码。因此,解码装置200可以抑制编码效率的降低。
<补充>
注意,解码装置200(LFNST标识符解码单元201)可以对任意二次变换标识符(任意二次变换控制信息)而不是LFNST标识符的示例进行解码。即,逆二次变换不限于LFNST的逆处理,并且可以是任何逆系数变换。此外,可以适当地组合和应用上述方法1至4中的一些或全部。
<4.第三实施方式>
<图像编码装置>
图15是示出作为了应用本技术的图像处理装置的一个模式的图像编码装置的配置的示例的框图。图15中示出的图像编码装置300是对运动图像的图像数据进行编码的装置。例如,图像编码装置300可以通过在任一非专利文献中描述的编码方法对运动图像的图像数据进行编码。
注意,图15示出了主要处理单元(块)、数据流等,并且图15中示出的那些不一定是全部。即,在图像编码装置300中,可以存在未被示出为图15中的块的处理单元或者未被示出为图15中的箭头等的处理或数据流。
如图15所示,图像编码装置300包括控制单元301、重排缓冲器311、计算单元312、正交变换单元313、量化单元314、编码单元315、累积缓冲器316、逆量化单元317、逆正交变换单元318、计算单元319、环内滤波器单元320、帧存储器321、预测单元322和速率控制单元323。
<控制单元>
控制单元301基于外部处理单元或预先指定的处理单元中的块大小,将由重排缓冲器311保持的运动图像数据划分为处理单元中的块(CU、PU、变换块等)。此外,控制单元301基于例如率失真优化(RDO)来确定要提供给每个块的编码参数(报头信息Hinfo、预测模式信息Pinfo、变换信息Tinfo、滤波器信息Finfo等)。
下面将描述这些编码参数的细节。在确定上述编码参数之后,控制单元301将编码参数提供给每个块。具体地,编码参数如下。
报头信息Hinfo被提供给每个块。
预测模式信息Pinfo被提供给编码单元315和预测单元322。
变换信息Tinfo被提供给编码单元315、正交变换单元313、量化单元314、逆量化单元317和逆正交变换单元318。
滤波器信息Finfo被提供给环内滤波器单元320。
<重排缓冲器>
运动图像数据的每个字段(输入图像)按再现顺序(显示顺序)被输入至图像编码装置300。重排缓冲器311以其再现顺序(显示顺序)获取并且保持(存储)每个输入图像。重排缓冲器311基于控制单元301的控制以编码顺序(解码顺序)重排输入图像,或者将输入图像划分为处理单元中的块。重排缓冲器311将经处理的输入图像提供给计算单元312。此外,重排缓冲器311还将输入图像(原始图像)提供给预测单元322和环内滤波器单元320。
<计算单元>
计算单元312接收与处理单元中的块对应的图像I以及从预测单元322提供的预测图像P作为输入,如以下表达式所示,从图像I中减去预测图像P以导出预测残差D,并且将预测残差D提供给正交变换单元313。
D=I-P
<正交变换单元>
正交变换单元313执行关于系数变换的处理。例如,正交变换单元313获取从计算单元312提供的预测残差D。此外,正交变换单元313获取从控制单元301提供的变换信息Tinfo。
正交变换单元313基于变换信息Tinfo对预测残差D执行正交变换,以导出变换系数Coeff。例如,正交变换单元313对预测残差D执行一次变换,以生成一次变换系数,并且对一次变换系数执行二次变换,以生成二次变换系数。正交变换单元313将获得的二次变换系数作为变换系数Coeff提供给量化单元314。
注意,正交变换是系数变换的示例,并且不限于该示例。即,正交变换单元313可以对预测残差D执行任意系数变换。另外,正交变换单元313可以执行任意系数变换作为一次变换和二次变换。
<量化单元>
量化单元314执行关于量化的处理。例如,量化单元314获取从正交变换单元313提供的变换系数Coeff。此外,量化单元314获取从控制单元301提供的变换信息Tinfo。此外,量化单元314基于变换信息Tinfo来缩放(量化)变换系数Coeff。注意,这种量化方法是任意的。此外,该量化的速率由速率控制单元323控制。量化单元314将通过量化而获得的量化变换系数(即,量化变换系数级别level)提供给编码单元315和逆量化单元317。
<编码单元>
编码单元315执行关于编码的处理。例如,编码单元315获取从量化单元314提供的量化变换系数级别level。此外,编码单元315获取从控制单元301提供的各种编码参数(报头信息Hinfo、预测模式信息Pinfo、变换信息Tinfo、滤波器信息Finfo等)。此外,编码单元315获取从环内滤波器单元320提供的关于滤波器的信息(例如,滤波器系数)。此外,编码单元315获取从预测单元322提供的关于最佳预测模式的信息作为输入。
编码单元315对经量化的变换系数级别level执行可变长度编码(例如算术编码),以生成比特串(编码数据)。此外,编码单元315从量化变换系数级别level导出残差信息Rinfo,并且对残差信息Rinfo进行编码以生成位串。
编码单元315包括从环内滤波器单元320提供到滤波器信息Finfo中的关于滤波器的信息。此外,编码单元315包括从预测单元322提供到预测模式信息Pinfo中的关于最佳预测模式的信息。然后,编码单元315对上述各种编码参数(报头信息Hinfo、预测模式信息Pinfo、变换信息Tinfo、滤波器信息Finfo等)进行编码以生成位串。
编码单元315对如上所述的那样生成的各种类型的信息的位串进行复用,以生成编码数据。编码单元315将编码数据提供给累积缓冲器316。
<累积缓冲器>
累积缓冲器316临时存储由编码单元315获得的编码数据。累积缓冲器316在预定定时处将存储的编码数据作为比特流等输出至图像编码装置300的外部。例如,编码数据经由任意记录介质、任意传输介质、任意信息处理装置等被发送至解码侧。即,累积缓冲器316也是发送编码数据(比特流)的传输单元。
<逆量化单元>
逆量化单元317执行关于逆量化的处理。例如,逆量化单元317获取从量化单元314提供的量化变换系数级别level。此外,逆量化单元317获取从控制单元301提供的变换信息Tinfo。
逆量化单元317基于变换信息Tinfo对量化变换系数级别level的值进行缩放(逆量化)。注意,逆量化是在量化单元314中执行的量化的逆处理。逆量化单元317将通过逆量化而获得的变换系数Coeff_IQ提供给逆正交变换单元318。
<逆正交变换单元>
逆正交变换单元318执行关于逆正交变换的处理。例如,逆正交变换单元318获取从逆量化单元317提供的变换系数Coeff_IQ。此外,逆正交变换单元318获取从控制单元301提供的变换信息Tinfo。
逆正交变换单元318基于变换信息Tinfo对变换系数Coeff_IQ执行逆正交变换,以导出预测残差D'。注意,逆正交变换是在正交变换单元313中执行的正交变换的逆处理。例如,逆正交变换单元318对变换系数Coeff_IQ(二次变换系数)执行逆二次变换以生成一次变换系数。此外,逆正交变换单元318对一次变换系数执行逆一次变换,以生成预测残差D'。注意,逆二次变换是由正交变换单元313执行的二次变换的逆处理。此外,逆一次变换是在正交变换单元313中执行的一次变换的逆处理。
逆正交变换单元318将通过逆正交变换而获得的预测残差D'提供给计算单元319。注意,由于逆正交变换单元318类似于解码侧的逆正交变换单元(将在下面描述),因此可以将针对解码侧给出的描述(将在下面描述)应用于逆正交变换单元318
<计算单元>
计算单元319使用从逆正交变换单元318提供的预测残差D'以及从预测单元322提供的预测图像P作为输入。计算单元319将预测残差D'和与预测残差D'对应的预测图像P相加,以导出局部解码图像Rlocal。计算单元319将导出的局部解码图像Rlocal提供给环内滤波器单元320和帧存储器321。
<环内滤波器单元>
环内滤波器单元320执行关于环内滤波处理的处理。例如,环内滤波器单元320使用从计算单元319提供的局部解码图像Rlocal、从控制单元301提供的滤波器信息Finfo、以及从重排缓冲器311提供的输入图像(原始图像)作为输入。注意,输入至环内滤波器单元320的信息是任意的,并且可以输入除了前述信息之外的信息。例如,根据需要,可以将诸如预测模式、运动信息、代码量目标值、量化参数QP、图片类型和块(CU、CTU等)等的信息输入至环内滤波器单元320。
环内滤波器单元320基于滤波器信息Finfo适当地对局部解码图像Rlocal执行滤波处理。环内滤波器单元320还使用输入图像(原始图像)和其他输入信息,用于根据需要进行滤波处理。
例如,环内滤波器单元320按双边滤波器、去块滤波器(DBF)、自适应偏移滤波器(采样自适应偏移(SAO))和自适应环路滤波器(ALF)的顺序应用这四个环内滤波器。注意,应用哪个滤波器以及以哪个顺序应用滤波器是任意的,并且可以适当地选择
当然,由环内滤波器单元320执行的滤波处理是任意的,并且不限于以上示例。例如,环内滤波器单元320可以应用维纳(Wiener)滤波器等
环内滤波器单元320将经滤波的局部解码图像Rlocal提供给帧存储器321。注意,在将诸如滤波器系数的关于滤波器的信息发送至解码侧的情况下,环内滤波器单元320将关于滤波器的信息提供给编码单元315
<帧存储器>
帧存储器321执行与关于图像的数据的存储相关的处理。例如,帧存储器321使用从计算单元319提供的局部解码图像Rlocal以及从环内滤波器单元320提供的经滤波的局部解码图像Rlocal作为输入,并且保持(存储)这些输入。此外,帧存储器321使用局部解码图像Rlocal重建并且保持每个图片单元的解码图像R(将解码图像R存储在帧存储器321的缓冲器中)。帧存储器321响应于来自预测单元322的请求将解码图像R(或其一部分)提供给预测单元322。
<预测单元>
预测单元322执行关于预测图像的生成的处理。例如,预测单元322获取从控制单元301提供的预测模式信息Pinfo。此外,预测单元322获取从重排缓冲器311提供的输入图像(原始图像)。此外,预测单元322获取从帧存储器321读取的解码图像R(或其一部分)。
预测单元322使用预测模式信息Pinfo和输入图像(原始图像)执行诸如帧间预测或帧内预测的预测处理。即,预测单元322将解码图像R作为参考图像来执行预测,基于预测结果来执行运动补偿处理,并且生成预测图像P。
预测单元322将生成的预测图像P提供给计算单元312和319。此外,预测单元322根据需要将通过以上处理而选择的预测模式(即,关于最佳预测模式的信息)提供给编码单元315。
<速率控制单元>
速率控制单元323执行关于速率控制的处理。例如,速率控制单元323基于在累积缓冲器316中累积的编码数据的代码量来控制量化单元314的量化操作的速率,使得不会发生上溢或下溢。
<LFNST标识符的编码控制>
<1.LFNST标识符的信令模式>中描述的本技术可以应用于具有以上配置的图像编码装置300。
例如,正交变换单元313执行LFNST作为二次变换,并且将LFNST标识符(lfnst_idx)作为二次变换控制信息(二次变换标识符)提供给编码单元315(箭头331)。注意,正交变换单元313还将LFNST标识符(lfnst_idx)提供给逆正交变换单元318(箭头332)。
编码单元315包括编码装置100(图11)的LFNST标识符编码单元101。LFNST标识符编码单元101获取从正交变换单元313提供的LFNST标识符。LFNST标识符编码单元101对获取的LFNST标识符进行编码以生成比特串。编码单元315将生成的比特串与另一信息的比特串复用以生成编码数据。编码单元315将编码数据提供给累积缓冲器316。
此外,LFNST标识符编码单元101获取用于控制如图11所示的LFNST标识符的编码的各种参数,这些参数作为变换信息Tinfo从控制单元301提供。例如,LFNST标识符编码单元101获取诸如treeType、transform_skip_flag[0]、transform_skip_flag[1]、transform_skip_flag[2]、lfnstWidth、lfnstHeight、sps_lfnst_enabled_flag、intra_mip_flag、cbWidth、cbHeight、IntraSubPartitionSplitType、LfnstDcOnly和LfnstZeroOutSigCoefFlag之类的参数。这些参数是上述非专利文献(例如,非专利文献1)中描述的参数。
然后,LFNST标识符编码单元101(即,编码单元315)使用这些参数控制LFNST标识符(lfnst_idx)的编码(信令),如<1.LFNST标识符的信令模式>中所述。
例如,编码单元315通过应用上述方法1来控制LFNST标识符的编码。即,编码单元315在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,二次变换控制信息是与二次变换相关的控制信息,并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
例如,编码单元315根据图4所示的语法表控制LFNST标识符的编码。注意,编码单元315可以根据图6所示的语法表控制LFNST标识符的编码。根据这些语法表,编码单元315可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图3所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
注意,编码单元315可以通过应用上述方法2来控制LFNST标识符的编码。即,编码单元315可以在图像编码中的有效分量中的所有分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,并且在图像编码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对二次变换控制信息进行编码。
如此,编码单元315可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图8所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
此外,编码单元315可以通过应用上述方法3来控制LFNST标识符的编码。例如,在图像编码的树类型是双树色度的情况下,编码单元315可以在双树色度中的有效分量中所有分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,并且在双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下对二次变换控制信息进行编码。
如此,编码单元315可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图9所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
此外,编码单元315可以通过应用上述方法4来控制LFNST标识符的编码。例如,在图像编码的树类型是双树色度的情况下,编码单元315可以在双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,并且在双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下对二次变换控制信息进行编码。
如此,编码单元315可以根据树类型和变换跳过标志来控制LFNST标识符的编码,如图10所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
在应用方法1至4中的任何方法的任何情况下,在树类型为双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下,编码单元315可以跳过LFNST标识符的信令。因此,图像编码装置300可以抑制编码效率的降低。
<配置示例>
注意,这些处理单元(控制单元301,以及重排缓冲器311至速率控制单元323)具有任意配置。例如,每个处理单元可以由实现上述处理的逻辑电路配置而成。此外,每个处理单元可以包括例如CPU、ROM、RAM等,并且通过使用上述资源执行程序来实现上述处理。当然,每个处理单元可以具有这两种配置并且通过逻辑电路实现上述处理的一部分并且通过执行程序来实现其他处理。处理单元的配置可以彼此独立。例如,一些处理单元可以通过逻辑电路来实现上述处理的一部分,一些处理单元可以通过执行程序来实现上述处理,而一些处理单元可以通过逻辑电路和程序的执行二者来实现上述处理。
<图像编码处理的流程>
接下来,将参照图16的流程图描述由具有以上配置的图像编码装置300执行的的流程的示例。
当图像编码处理开始时,在步骤S301中,重排缓冲器311由控制单元301控制,并且将输入的运动图像数据的帧从显示顺序重排成编码顺序。
在步骤S302中,控制单元301设置用于由重排缓冲器311保持的输入图像的处理单元(执行块划分)。
在步骤S303中,控制单元301确定(设置)由重排缓冲器311保持的输入图像的编码参数。
在步骤S304中,预测单元322执行预测处理,并且生成最佳预测模式的预测图像等。例如,在预测处理中,预测单元322执行帧内预测,以生成最佳帧内预测模式的预测图像,执行帧间预测以生成最佳帧间预测模式的预测图像,并且基于成本函数值等从预测图像中选择最佳预测模式。
在步骤S305中,计算单元312计算输入图像与在步骤S304中通过预测处理选择的最佳模式的预测图像之间的差。即,计算单元312生成输入图像与预测图像之间的预测残差D。以此方式获得的预测残差D与原始图像数据相比减了少数据量。因此,与按原样对图像进行编码的情况相比,可以压缩数据量。
在步骤S306中,正交变换单元313对通过步骤步骤S305中的处理生成的预测残差D执行正交变换处理,以导出变换系数Coeff。例如,正交变换单元313对预测残差D执行一次变换,以生成一次变换系数,并且对一次变换系数执行二次变换,以生成二次变换系数(变换系数Coeff)。
在步骤S307中,量化单元314通过使用由控制单元301等计算的量化参数来量化通过步骤S306中的处理而获得的变换系数Coeff,以导出量化变换系数级别level。
在步骤S308中,逆量化单元317利用与步骤S308中的量化的特性对应的特性,对通过步骤S307中的处理而生成的量化变换系数级别level进行逆量化,以导出变换系数Coeff_IQ。
在步骤S309中,逆正交变换单元318通过与步骤S306中的正交变换处理对应的方法对通过步骤S308中的处理获得的变换系数Coeff_IQ进行逆正交变换,以导出预测残差D'。例如,逆正交变换单元318对变换系数Coeff_IQ(二次变换系数)执行逆二次变换,以生成一次变换系数。此外,逆正交变换单元318对一次变换系数执行逆一次变换,以生成预测残差D'。
注意,该逆正交变换处理类似于在解码侧执行的逆正交变换处理。因此,下面要描述的解码侧的描述可以应用于步骤S309的逆正交变换处理。
在步骤S310中,计算单元319将通过步骤S304中的预测处理而获得的预测图像与通过步骤S309中的处理导出的预测残差D'相加,以生成局部解码图像。
在步骤S311中,环内滤波器单元320对通过步骤S310中的处理导出的局部解码图像执行环内滤波处理。
在步骤S312中,帧存储器321存储通过步骤S301中的处理导出的局部解码图像以及在步骤S311中经滤波的局部解码图像。
在步骤S313中,编码单元315对通过步骤S307中的处理而获得的量化变换系数级别level进行编码。例如,编码单元315通过算术编码等对作为关于图像的信息的量化变换系数级别level进行编码,以生成编码数据。此外,此时,编码单元315对各种编码参数(报头信息Hinfo、预测模式信息Pinfo和变换信息Tinfo)进行编码。此外,编码单元315从量化变换系数级别level导出残差信息RInfo,并且对残差信息RInfo进行编码。
在步骤S314中,累积缓冲器316累积由此获得的编码数据,并且将编码数据例如作为比特流输出至图像编码装置300的外部。例如,比特流经由传输路径或记录介质被发送至解码侧。此外,速率控制单元323根据需要执行速率控制。
当步骤S314中的处理结束时,图像编码处理结束。
<LFNST标识符的编码控制>
<1.LFNST标识符的信令模式>中描述的本技术可以应用于具有上述流程的图像编码处理。
例如,在步骤S306中,正交变换单元313执行LFNST作为二次变换。正交变换单元313生成LFNST标识符(lfnst_idx)作为用于二次变换(LFNST)的二次变换控制信息(二次变换标识符)。
在步骤S313中,编码单元315(的LFNST标识符编码单元101)对LFNST标识符进行编码。此时,编码单元315基于变换信息Tinfo来控制LFNST标识符的编码。即,编码单元315执行图12的流程图所示的编码处理作为步骤S313的处理之一。
例如,在步骤S101中,编码单元315基于变换信息Tinfo中包括的上述各种参数,导出LFNST标识符的编码条件condition。在步骤S102中,编码单元315确定是否满足编码条件condition。在确定编码条件condition为真的情况下,编码单元315在步骤S103中对LFNST标识符进行编码以生成比特串。编码单元315将生成的比特串与另一信息的比特串复用以生成编码数据。即,在这种情况下,用信令通知LFNST标识符。
此外,在步骤S102中,在确定在步骤S101中导出的编码条件condition为假的情况下,编码单元315在步骤S104中跳过(省略)对LFNST标识符的编码。即,在这种情况下,不生成LFNST标识符的比特串。即,没有用信令通知LFNST标识符。
在如上所述的编码处理中,编码单元315(编码单元315的LFNST标识符编码单元101)应用例如上文<1.LFNST标识符的信令模式>中描述的方法1。即,编码单元315在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下省略对二次变换控制信息的编码,二次变换控制信息是与二次变换相关的控制信息,并且在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下对二次变换控制信息进行编码。
在这种情况下,在步骤S101中,编码单元315导出图5所示的变量NonTsUsed,并且使用导出的变量NonTsUsed导出图5所示的编码条件condition。注意,编码单元315可以导出图7所示的变量TsUsed,并且使用导出的变量TsUsed导出图7所示的编码条件condition。此外,编码单元315可以应用方法2至4中的任何一个来导出编码条件condition。
通过以这种方式执行图像编码处理,在应用方法1至4中的任何方法的任何情况下,编码单元315可以在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志为真时跳过LFNST标识符的信令。因此,图像编码装置300可以抑制编码效率的降低。
<补充>
注意,图像编码装置300可以应用任意系数变换作为二次变换。因此,编码单元315可以对任意二次变换标识符(任意二次变换控制信息)而不是LFNST标识符的示例进行编码。此外,可以适当地组合和应用上述方法1至4中的一些或全部。
<5.第四实施方式>
<图像解码装置>
图17是示出作为应用了本技术的图像处理装置的一个模式的图像解码装置的配置的示例的框图。图17中示出的图像解码装置400是对运动图像的编码数据进行编码的装置。例如,图像解码装置400可以通过上述任一非专利文献中描述的解码方法对编码数据进行解码。例如,图像解码装置400对由上述图像编码装置300生成的编码数据(比特流)进行解码。
注意,图17示出了主要处理单元(块)、数据流等,并且图17中示出的那些不一定是全部。即,在图像解码装置400中,可以存在未示为图17中的块的处理单元,或者存在未示为图17中的箭头等的处理或数据流。
在图17中,图像解码装置400包括累积缓冲器411、解码单元412、逆量化单元413、逆正交变换单元414、计算单元415、环内滤波器单元416、重排缓冲器417、帧存储器418和预测单元419。注意,预测单元419包括帧内预测单元和帧间预测单元(未示出)。图像解码装置400是通过对编码数据(比特流)进行解码来生成运动图像数据的装置。
<累积缓冲器>
累积缓冲器411获取输入至图像解码装置400的比特流,并且保持(存储)该比特流。例如,累积缓冲器411在预定定时处或者在满足预定条件的情况下将累积的比特流提供给解码单元412。
<解码单元>
解码单元412执行用于对图像进行解码的处理。例如,解码单元412获取从累积缓冲器411提供的比特流。例如,解码单元412根据语法表的定义对来自比特串的每个语法元素的语法值执行可变长度解码,以导出参数。
从语法元素和语法元素的语法值导出的参数例如包括诸如报头信息Hinfo、预测模式信息Pinfo、变换信息Tinfo、残差信息Rinfo和滤波器信息Finfo的信息。即,解码单元412从比特流解析(分析和获取)这样的信息。这些信息将在下面描述。
<报头信息Hinfo>
报头信息Hinfo例如包括诸如视频参数集(VPS)/序列参数集(SPS)/图片参数集(PPS)/切片报头(SH)的报头信息。报头信息Hinfo例如包括定义以下各项的信息:图像大小(宽度PicWidth和高度PicHeight)、位深度(亮度bitDepthY和色度bitDepthC)、色度阵列类型ChromaArrayType、CU大小最大值MaxCUSize/最小值MinCUSize、四叉树划分的最大深度MaxQTDepth/最小深度MinQTDepth、二叉树划分的最大深度MaxBTDepth/最小深度MinBTDepth、变换跳过块的最大值MaxTSSize(也被称为最大变换跳过块大小)、每个编码工具的开/关标志(也被称为使能标志)等。
例如,报头信息Hinfo中包括的编码工具的开/关标志的示例包括与下面的变换和量化处理相关的开/关标志。注意,编码工具的开/关标志也可以被解释为指示与编码工具相关的语法是否存在于编码数据中的标志。此外,在开/关标志的值为1(真)的情况下,该值指示编码工具可用。在开/关标志的值为0(假)的情况下,该值指示编码工具不可用。注意,可以调换对标志值的解释。
例如,报头信息Hinfo可以包括分量间预测使能标志(ccp_enabled_flag)。分量间预测使能标志是指示分量间预测(跨分量预测(CCP))是否可用的标志信息,也称为CC预测)。例如,在标志信息为“1”(真)的情况下,标志信息指示分量间预测可用。在标志信息为“0”(假)的情况下,标志信息指示分量间预测不可用。
注意,该CCP也被称为分量间线性预测(CCLM或CCLMP)。
<预测模式信息Pinfo>
预测模式信息Pinfo例如包括诸如要处理的预测块(PB)的大小信息PBSize(预测块大小)、帧内预测模式信息IPinfo和运动预测信息MVinfo的信息。
帧内预测模式信息IPinfo例如包括JCTVC-W1005的7.3.8.5编码单元语法(CodingUnit syntax)中的prev_intra_luma_pred_flag、mpm_idx和rem_intra_pred_mode、从该语法导出的亮度帧内预测模式IntraPredModeY等。
此外,帧内预测模式信息IPinfo例如可以包括分量间预测标志(ccp_flag(cclmp_flag))。分量间预测标志(ccp_flag(cclmp_flag))是指示是否应用分量间线性预测的标志信息。例如,ccp_flag==1指示应用了分量间预测,并且ccp_flag==0指示没有应用分量间预测。
此外,帧内预测模式信息IPinfo可以包括多类线性预测模式标志(mclm_flag)。多类线性预测模式标志(mclm_flag)是关于线性预测模式的信息(线性预测模式信息)。更具体地,多类线性预测模式标志(mclm_flag)是指示是否设置多类线性预测模式的标志信息。例如,“0”指示一类模式(单类别模式)(例如,CCLMP),“1”指示二类模式(多类别模式)(例如,MCLMP)。
此外,帧内预测模式信息IPinfo可以包括色度样本位置类型标识符(chroma_sample_loc_type_idx)。色度样本位置类型标识符(chroma_sample_loc_type_idx)是用于标识色度分量的像素位置的类型(也被称为色度样本位置类型)的标识符。例如,在作为关于颜色格式的信息的色度阵列类型(ChromaArrayType)指示420格式的情况下,色度样本位置类型标识符按照以下表达式被分配。
chroma_sample_loc_type_idx==0:Type2
chroma_sample_loc_type_idx==1:Type3
chroma_sample_loc_type_idx==2:Type0
chroma_sample_loc_type_idx==3:Type1。
注意,色度样本位置类型标识符(chroma_sample_loc_type_idx)作为(被存储在)关于色度分量的像素位置的信息(chroma_sample_loc_info())被发送(即,存储在关于色度分量的像素位置的信息中)。
此外,帧内预测模式信息IPinfo可以包括色度MPM标识符(chroma_mpm_idx)。色度MPM标识符(chroma_mpm_idx)是指示色度帧内预测模式候选列表(intraPredModeCandListC)中的哪个预测模式候选将被指定为色度帧内预测模式的标识符。
此外,帧内预测模式信息IPinfo可以包括从这些语法导出的亮度帧内预测模式(IntraPredModeC)。
运动预测信息MVinfo例如包括诸如merge_idx、merge_flag、inter_pred_idc、ref_idx_LX、mvp_lX_flag、X={0,1}、mvd等的信息(例如,参见JCTVC-W1005的7.3.8.6预测单元语法)。
当然,预测模式信息Pinfo中包括的信息是任意的,并且可以包括除了以上信息之外的信息。
<变换信息Tinfo>
变换信息Tinfo可以包括例如要处理的变换块的宽度大小TBWSize和高度TBHSize。注意,可以应用以2为底的对数值log2TBWSize来代替要处理的变换块的宽度大小TBWSize。此外,可以应用以2为底的对数值log2TBHSize来代替要处理的变换块的高度TBHSize。
此外,变换信息Tinfo可以包括变换跳过标志(transform_skip_flag(或ts_flag))。变换跳过标志是指示是否跳过系数变换(或逆系数变换)的标志。注意,可以针对Y、Cb和Cr的每个分量(transform_skip_flag[0]、transform_skip_flag[1]和transform_skip_flag[2])用信令通知该变换跳过标志。
此外,变换信息Tinfo可以包括诸如扫描标识符(scanIdx)、量化参数(qp)、量化矩阵(scaling_matrix(例如,JCTVC-W1005,7.3.4缩放列表数据语法))之类的参数。
当然,残差信息Rinfo中包括的信息是任意的,并且可以包括除了以上信息之外的信息。
<残差信息Rinfo>
残差信息Rinfo(例如,参见JCTVC-W1005的7.3.8.11残差编码语法)例如可以包括:残差数据存在/不存在标志(cbf(coded_block_flag))。此外,残差信息Rinfo可以包括最后的非零系数X坐标(last_sig_coeff_x_pos)和最后的非零系数Y坐标(last_sig_coeff_y_pos)。此外,残差信息Rinfo可以包括子块非零系数存在/不存在标志(coded_sub_block_flag)和非零系数存在/不存在标志(sig_coeff_flag)。
此外,残差信息Rinfo可以包括作为指示非零系数的级别是否大于1的标志的GR1标志(gr1_flag)以及作为指示非零系数的级别是否大于2的标志的GR2标志(gr2_flag)。此外,残差信息Rinfo可以包括作为指示非零系数的正负的符号的符号代码(sign_flag)。此外,残差信息Rinfo可以包括作为非零系数的残差级别的非零系数残差级别(coeff_abs_level_remaining)。
当然,残差信息Rinfo中包括的信息是任意的,并且可以包括除了以上信息之外的信息。
<滤波器信息Finfo>
滤波器信息Finfo包括关于滤波处理的控制信息。例如,滤波器信息Finfo可以包括关于去块滤波器(DBF)的控制信息。此外,滤波器信息Finfo可以包括关于像素自适应偏移(SAO)的控制信息。此外,滤波器信息Finfo可以包括关于自适应环路滤波器(ALF)的控制信息。此外,滤波器信息Finfo可以包括关于其他线性滤波器和非线性滤波器的控制信息。
例如,滤波器信息Finfo可以包括应用了每个滤波器的图片和指定图片中的区域的信息。此外,滤波器信息Finfo可以包括以CU为单位的滤波器开/关控制信息。此外,滤波器信息Finfo可以包括关于切片或图片的边界的滤波器开/关控制信息。
当然,滤波器信息Finfo中包括的信息是任意的,并且可以包括除了以上信息之外的信息。
返回解码单元412的描述。解码单元412参考残差信息Rinfo,并且导出每个变换块中的每个系数位置处的量化变换系数级别。解码单元412将量化变换系数级别level提供给逆量化单元413。
此外,解码单元412将经解析的报头信息Hinfo、预测模式信息Pinfo、量化变换系数级别level、变换信息Tinfo和滤波器信息Finfo提供给每个块。如下面给出具体描述。
报头信息Hinfo被提供给逆量化单元413、逆正交变换单元414、预测单元419和环内滤波器单元416。预测模式信息Pinfo被提供给逆量化单元413和预测单元419。变换信息Tinfo被提供给逆量化单元413和逆正交变换单元414。滤波器信息Finfo被提供给环内滤波器单元416。
当然,以上示例是示例,并且本实施方式不限于该示例。例如,可以将每个编码参数提供给任意处理单元。此外,可以将其他信息提供给任意处理单元。
<逆量化单元>
逆量化单元413执行关于逆量化的处理。例如,逆量化单元413获取从解码单元412提供的变换信息Tinfo和量化变换系数级别level。此外,逆量化单元413基于变换信息Tinfo对量化变换系数级别level的值进行缩放(逆量化),以导出逆量化之后的变换系数Coeff_IQ。
注意,作为由图像编码装置300的量化单元314进行的量化的逆处理来执行该逆量化。此外,逆量化是与由图像编码装置300的逆量化单元317执行的逆量化类似的处理。换言之,逆量化单元317执行与逆量化单元413类似的处理(逆量化)。
逆量化单元413将导出的变换系数Coeff_IQ提供给逆正交变换单元414。
<逆正交变换单元>
逆正交变换单元414执行关于逆正交变换的处理。例如,逆正交变换单元414获取从逆量化单元413提供的变换系数Coeff_IQ。此外,逆正交变换单元414获取从解码单元412提供的变换信息Tinfo。
逆正交变换单元414基于变换信息Tinfo对变换系数Coeff_IQ执行逆正交变换处理,以导出预测残差D'。例如,逆正交变换单元414对变换系数Coeff_IQ执行逆二次变换,以生成一次变换系数,并且对一次变换系数执行一次变换,图生成预测残差D'。
注意,作为由图像编码装置300的正交变换单元313进行的正交变换的逆处理而执行该逆正交变换。此外,逆正交变换是与由图像编码装置300的逆正交变换单元318执行的逆正交变换类似的处理。换言之,逆正交变换单元318执行与逆正交变换单元414类似的处理(逆正交变换)。
逆正交变换单元414将导出的预测残差D'提供给计算单元415。
<计算单元>
计算单元415执行与关于图像的信息的相加相关的处理。例如,计算单元415获取从逆正交变换单元414提供的预测残差D'。此外,计算单元415获取从预测单元419提供的预测图像P。计算单元415将预测残差D'和与预测残差D'对应的预测图像P(预测信号)相加,以导出局部解码图像Rlocal,如以下表达式所示。
Rlocal=D'+P
计算单元415将导出的局部解码图像Rlocal提供给环内滤波器单元416和帧存储器418。
<环内滤波器单元>
环内滤波器单元416执行关于环内滤波处理的处理。例如,环内滤波器单元416获取从计算单元415提供的局部解码图像Rlocal。此外,环内滤波器单元416获取从解码单元412提供的滤波器信息Finfo。注意,输入至环内滤波器单元416的信息是是任意的,并且可以输入除了前述信息之外的信息。
环内滤波器单元416基于滤波器信息Finfo适当地对局部解码图像Rlocal执行滤波处理。例如,环内滤波器单元416按双边滤波器、去块滤波器(DBF)、自适应偏移滤波器(采样自适应偏移(SAO))和自适应环路滤波器(ALF)的顺序应用这四个环内滤波器。注意,应用哪个滤波器以及以哪个顺序应用滤波器是任意的,并且可以适当地选择
环内滤波器单元416执行与编码侧(例如,由图像编码装置300的环内滤波器单元320)执行的滤波处理对应的滤波处理。当然,由环内滤波器单元416执行的滤波处理是任意的,并且不限于以上示例。例如,环内滤波器单元416可以应用维纳(Wiener)滤波器等。
环内滤波器单元416将经滤波的局部解码图像Rlocal提供给重排缓冲器417和帧存储器418。
<重排缓冲器>
重排缓冲器417接收从环内滤波器单元416提供的局部解码图像Rlocal作为输入,并且保持(存储)局部解码图像Rlocal。重排缓冲器417使用局部解码图像Rlocal来重建每个图片单元的解码图像R,并且将解码图像R保持(存储)(在缓冲器中)。重排缓冲器417将获得的解码图像R从解码顺序重排成再现顺序。重排缓冲器417将经重排的解码图像R组输出至图像解码装置400的外部作为运动图像数据。
<帧存储器>
帧存储器418执行与关于图像的数据的存储相关的处理。例如,帧存储器418获取从计算单元415提供的局部解码图像Rlocal。然后,帧存储器418使用局部解码图像Rlocal来重建每个图片单元的重建解码图像R。帧存储器418将重建的解码图像R存储在帧存储器418中的缓冲器中。
此外,帧存储器418获取从环内滤波器单元416提供的经环内滤波的局部解码图像Rlocal。然后,帧存储器418使用经环内滤波的局部解码图像来重建每个图片单元的解码图像R。帧存储器418将重建的解码图像R存储在帧存储器418中的缓冲器中。
此外,帧存储器418适当地将存储的解码图像R(或其一部分)作为参考图像提供给预测单元419。
注意,帧存储器418可以存储与解码图像的生成相关的报头信息Hinfo、预测模式信息Pinfo、变换信息Tinfo、滤波器信息Finfo等。
<预测单元>
预测单元419执行关于预测图像的生成的处理。例如,预测单元419获取从解码单元412提供的预测模式信息Pinfo。此外,预测单元419通过由预测模式信息Pinfo指定的预测方法执行预测,以导出预测图像P。在导出时,预测单元419使用存储在帧存储器418中的解码图像R(或其一部分)作为参考图像,解码图像R由预测模式信息Pinfo指定。解码图像R可以是滤波之前或滤波之后的图像。预测单元419将导出的预测图像P提供给计算单元415。
<LFNST标识符的编码控制>
<1.LFNST标识符的信令模式>中描述的本技术可以应用于具有以上配置的图像编码装置300。
例如,逆正交变换单元414执行LFNST的逆处理作为逆二次变换。此时,逆正交变换单元414从解码单元412获取所提供的LFNST标识符(lfnst_idx)作为二次变换控制信息(二次变换标识符)(箭头431)。然后,逆正交变换单元414根据LFNST标识符执行逆二次变换。
即,解码单元412将LFNST标识符(lfnst_idx)提供给逆正交变换单元414(箭头431)。解码单元412包括解码装置200(图13)的LFNST标识符解码单元201。例如,在用信令通知LFNST标识符的情况下,LFNST标识符解码单元201对比特流进行解码以生成LFNST标识符,并且将LFNST标识符提供给逆正交变换单元414。在没有用信令通知LFNST标识符的情况下,LFNST标识符解码单元201省略与LFNST标识符相关的解码,将其值估计为“0”,并且将具有值“0”的LFNST标识符提供给逆正交变换单元414。
此时,LFNST标识符解码单元201基于用信令通知的变换信息Tinfo来确定是否已经用信令通知了LFNST标识符(是否执行与LFNST标识符相关的解码)。例如,解码单元412对比特流进行解码以生成变换信息Tinfo。LFNST标识符解码单元201获取与包括在变换信息Tinfo中的LFNST标识符相关的用于解码的各种参数。例如,LFNST标识符解码单元201获取诸如treeType、transform_skip_flag[0]、transform_skip_flag[1]、transform_skip_flag[2]、lfnstWidth、lfnstHeight、sps_lfnst_enabled_flag、intra_mip_flag、cbWidth、cbHeight、IntraSubPartitionFlagType、LfnstDcOnly和LfnstZeroOutSigCoefFlag之类的参数。这些参数是上述非专利文献(例如,非专利文献1)中描述的参数。
解码单元412通过对比特流进行解码来生成这些参数。然后,LFNST标识符解码单元201使用这些参数控制LFNST标识符(lfnst_idx)的解码,如上文<1.LFNST标识符的信令模式>中所述。
例如,解码单元412通过应用上述方法1来控制LFNST标识符的解码。即,解码单元412在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略与二次变换控制信息相关的解码,并且估计二次变换控制信息的值是指示二次变换的跳过的预定值,二次变换控制信息是与二次变换相关的控制信息,并且在图像解码中的有效分量中所有分量的变换跳过标志为假的情况,对比特流进行解码以生成二次变换控制信息。
例如,解码单元412根据图4所示的语法表控制LFNST标识符的解码。注意,解码单元412可以根据图6所示的语法表控制LFNST标识符的解码。根据这些语法表,解码单元412可以根据树类型和变换跳过标志控制LFNST标识符的解码,如图3所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
注意,解码单元412可以通过应用上述方法2来控制LFNST标识符的解码。即,当图像解码中的有效分量中的所有分量的变换跳过标志为真时,解码单元412可以省略与二次变换控制信息相关的解码,并且估计二次变换控制信息的值为“0”。此外,当图像解码中的有效分量中的至少一个分量的变换跳过标志为假时,解码单元412可以执行关于二次变换控制信息的解码。
如此,解码单元412可以根据树类型和变换跳过标志来控制对LFNST标识符的解码,如图8所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
此外,解码单元412可以通过应用上述方法3来控制LFNST标识符的解码。即,在图像解码的树类型是双树色度的情况下,在双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,解码单元412可以跳过(省略)对二次变换控制信息的解码,并且估计二次变换控制信息的值为“0”。此外,当图像解码中的有效分量中的至少一个分量的变换跳过标志为假时,解码单元412可以执行关于二次变换控制信息的解码。
如此,解码单元412可以根据树类型和变换跳过标志来控制LFNST标识符的解码,如图9所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
此外,解码单元412可以通过应用上述方法4来控制LFNST标识符的解码。即,在图像解码的树类型是双树色度的情况下,在双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,解码单元412可以省略对二次变换控制信息进行解码,并且估计二次变换控制信息的值为“0”。此外,当所有分量的变换跳过标志为假时,解码单元412可以执行关于二次变换控制信息的解码。
如此,解码单元412可以根据树类型和变换跳过标志来控制LFNST标识符的解码,如图10所示的表格所示。每种树类型中的控制方法如上文<1.LFNST标识符的信令模式>中所述。
在应用方法1至4中的任何方法的任何情况下,在树类型为双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志都为真的情况下,解码单元412可以跳过对LFNST标识符的解码。因此,图像解码装置400可以抑制编码效率的降低。
<配置示例>
注意,这些处理单元(累积缓冲器411至预测单元419)具有任意配置。例如,每个处理单元可以由实现上述处理的逻辑电路配置而成。此外,每个处理单元可以包括例如CPU、ROM、RAM等,并且通过使用上述资源执行程序来实现上述处理。当然,每个处理单元可以具有这两种配置并且通过逻辑电路实现上述处理的一部分并且通过执行程序来实现其他处理。处理单元的配置可以彼此独立。例如,一些处理单元可以通过逻辑电路来实现上述处理的一部分,一些处理单元可以通过执行程序来实现上述处理,而一些处理单元可以通过逻辑电路和程序的执行二者来实现上述处理。
图像解码处理的流程>
接下来,将参照图18的流程图描述由具有以上配置的图像解码装置400执行的图像解码处理的流程的示例。
当图像解码处理开始时,在步骤S401中,累积缓冲器411获取并保持(累积)从图像解码装置400的外部提供的编码数据(比特流)。
在步骤S402中,解码单元412对编码数据(比特流)进行解码,以获得量化变换系数级别level。此外,解码单元412通过该解码从编码数据(比特流)解析(分析和获取)各种编码参数。
在步骤S403中,逆量化单元413对通过步骤S402中的处理而获得的量化变换系数级别level执行逆量化以获得变换系数Coeff_IQ,该逆量化是在编码侧执行的量化的逆处理,。
在步骤S404中,逆正交变换单元414对在S403中获得的变换系数Coeff_IQ执行逆正交变换处理以获得预测残差D',该逆正交变换处理是在编码侧执行的正交变换处理的逆处理。例如,逆正交变换单元414对变换系数Coeff_IQ(二次变换系数)执行逆二次变换,以生成一次变换系数,并且对一次变换系数执行逆一次变换,以生成预测残差D'。
在步骤S405中,预测单元419基于在步骤S402中解析的信息,通过在编码侧指定的预测方法来执行预测处理,并且例如通过参考存储在帧存储器418中的参考图像来生成预测图像P。
在步骤S406中,计算单元415将在步骤S404中获得的预测残差D'与在步骤S405中获得的预测图像P相加,以导出局部解码图像Rlocal。
在步骤S407中,环内滤波器单元416对通过步骤S406中的处理而获得的局部解码图像Rlocal执行内环滤波处理。
在步骤S408中,重排缓冲器417使用通过步骤S407中的处理而获得的经滤波的局部解码图像Rlocal来导出解码图像R,并且将解码图像R组从解码顺序重排成再现顺序。将按再现顺序重排的解码图像R组作为运动图像输出至图像解码装置400的外部。
此外,在步骤S409中,帧存储器418存储通过步骤S406中的处理而获得的局部解码图像Rlocal或通过步骤S407中的处理而获得的滤波处理之后的局部解码图像Rlocal中的至少之一。
当步骤S409中的处理结束时,图像解码处理结束。
<关于LFNST标识符的解码控制>
<1.LFNST标识符的信令模式>中描述的本技术可以应用于具有上述流程的图像解码处理。例如,在步骤S402中,解码单元412(的LFNST标识符解码单元201)对比特流进行解码以生成LFNST标识符。然后,在步骤S404中,逆正交变换单元414根据LFNST标识符执行逆二次变换。
此时,解码单元412基于变换信息Tinfo来控制关于LFNST标识符的解码。即,解码单元412执行图14中的流程图所示的解码处理作为步骤S402中的处理之一。
例如,在步骤S201中,解码单元412基于变换信息Tinfo中包括的上述各种参数导出LFNST标识符的解码条件condition。在步骤S202中,解码单元412确定是否满足解码条件condition。在确定解码条件condition为真的情况下,用信令通知LFNST标识符,因此解码单元412在步骤S203中对比特流进行解码以获得用信令通知的LFNST标识符(lfnst_idx)。
此外,在步骤S202中,在确定在步骤S201中导出的解码条件condition为假的情况下,没有用信令通知LFNST标识符。因此,解码单元412在步骤S204中跳过(省略)对LFNST标识符(lfnst_idx)的解码。即,在不满足解码条件condition的情况下,解码单元412跳过对LFNST标识符(lfnst_idx)的解码,并且估计LFNST标识符的值为“0”(lfnst_idx=0)。
在如上所述的解码处理中,解码单元412(解码单元412的LFNST标识符解码单元201)应用例如上文<1.LFNST标识符的信令模式>中描述的方法1。即,解码单元412在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的解码,二次变换控制信息是与二次变换相关的控制信息,并且在图像解码中的有效分量中所有分量的变换跳过标志为假的情况下,对二次变换控制信息进行解码。
在这种情况下,在步骤S201中,解码单元412导出图5所示的变量NonTsUsed,并且使用导出的变量NonTsUsed导出图5所示的编码条件condition。注意,解码单元412可以导出图7所示的变量TsUsed,并且使用导出的变量TsUsed导出图7所示的编码条件condition。此外,解码单元412可以应用方法2至4中的任何一种来导出编码条件condition。
通过以这种方式执行图像解码处理,在应用方法1至4中的任何方法的任何情况下,解码单元412可以在树类型是双树色度(DUAL_TREE_CHROMA)并且图像的Cb分量和Cr分量二者的变换跳过标志为真时跳过对LFNST标识符的解码。因此,图像解码装置400可以抑制编码效率的降低。
<补充>
注意,图像解码装置400可以应用任何逆系数变换作为逆二次变换。因此,解码单元412可以执行对任意二次变换标识符(任意二次变换控制信息)的编码而不是LFNST标识符的示例的编码。此外,可以适当地组合和应用上述方法1至4中的一些或全部。
<6.补充说明>
<计算机>
上述一系列处理可以由硬件或由软件执行。在由软件执行这一系列处理的情况下,在计算机中安装配置该软件的程序。这里,计算机包括并入专用硬件中的计算机、能够通过安装各种程序来执行各种功能的计算机例如通用个人计算机等。
图19是示出了通过程序执行上述一系列处理的计算机的硬件的配置示例的框图。
在图19中示出的计算机800中,中央处理单元(CPU)801、只读存储器(ROM)802和随机存取存储器(RAM)803通过总线804相互连接。
输入/输出接口810也连接至总线804。输入单元811、输出单元812、存储单元813、通信单元814和驱动器815连接至输入/输出接口810。
输入单元811包括例如键盘、鼠标、麦克风、触摸板、输入终端等。输出单元812包括例如显示器、扬声器、输出终端等。存储单元813包括例如硬盘、RAM盘和非易失性存储器等。通信单元814包括例如网络接口。驱动器815驱动诸如磁盘、光盘、磁光盘或半导体存储器的可移除介质821。
在如上所述那样地配置的计算机中,CPU 801例如经由输入/输出接口810和总线804将存储在存储单元813中的程序加载到RAM 803中,并且执行该程序,使得执行上述一系列处理。此外,RAM 803适当地存储CPU 801执行各种类型的处理所需的数据等。
要由计算机执行的程序可以被记录在例如作为封装介质等的可移除介质821上,并且被应用,并且可以被提供。在该情况下,通过将可移除介质821附接至驱动器815,可以经由输入/输出接口810将程序安装至存储单元813。
此外,可以经由诸如局域网、因特网或数字卫星广播的有线或无线传输介质来提供该程序。在该情况下,程序可以由通信单元814接收并且被安装在存储单元813中。
除了以上方法之外,可以预先将程序安装在ROM 802或存储单元813中。
<本技术的应用对象>
本技术可以应用于任何图像编码/解码方法。即,诸如变换(逆变换)、量化(逆量化)、编码(解码)和预测的关于图像编码/解码的各种类型的处理的规格是任意的,并且不限于上述示例,只要与上述本技术不发生矛盾即可。此外,只要与上述本技术不发生矛盾,则可以省去处理的部分。
此外,本技术可以应用于执行包括多个视点(视角)的图像的多视点图像的编码/解码的多视点图像编码/解码系统。在该情况下,本技术简单地应用于每个视点(视角)的编码/解码。
此外,本技术可以应用于分层图像编码(可缩放编码)/解码系统,该系统对多层(分层)的分层图像进行编码/解码,以具有针对预定参数的可缩放性功能。在该情况下,本技术简单地应用于每一层(层)的编码/解码。
此外,在以上描述中,已经描述了编码装置100、解码装置200、图像编码装置300、图像解码装置400作为本技术的应用示例,但是本技术可以应用于任意配置。
例如,本技术可以应用于例如各种电子装置,例如卫星广播中的发送器和接收器(例如,电视接收器和移动电话)、有线广播如有线电视、因特网上的分发以及由蜂窝通信向终端的分发或者在诸如光盘、磁盘和闪速存储器的介质上记录图像并且从这些存储介质再现图像的装置(例如,硬盘记录器和摄像装置)。
此外,例如,本技术可以实现为装置的一部分的配置,例如作为系统大规模集成(LSI)等的处理器(例如,视频处理器)、使用多个处理器等的模块(例如,视频模块)、使用多个模块等的单元(例如,视频单元)、或者其中向单元添加了其他功能的集(例如,视频集)(即,装置的一部分的配置)。
此外,例如,本技术还可以应用于包括多个装置的网络系统。例如,本技术可以实现为由多个装置经由网络协作共享和处理的云计算。例如,本技术可以实现在向诸如计算机、视听(AV)装置、便携式信息处理终端或物联网(IoT)装置的任意终端提供关于图像(运动图像)的服务的云服务。
注意,在本说明书中,术语“系统”是指一组多个配置元素(装置、模块(部分)等),并且所有配置元素是否都在同一外壳中是无关紧要的。因此,容纳在不同的外壳中并经由网络连接的多个装置以及将多个模块容纳在一个外壳中的一个装置都是系统。
<现有技术适用的领域和应用>
应用本技术的系统、装置、处理单元等可以在诸如交通、医疗护理、犯罪预防、农业、畜牧业、采矿、美容、工厂、家用电器、天气和自然监控的任意领域中使用。此外,在任意领域中的使用也是任意的。
例如,本技术可以应用于被提供用于提供供欣赏的内容等的系统和装置。此外,例如,本技术还可以应用于用于诸如交通状况监视和自动驾驶控制的交通的系统和装置。此外,例如,本技术还可以应用于为安全而提供的系统和装置。此外,例如,本技术可以应用于为机器等的自动控制而提供的系统和装置。此外,例如,本技术还可以应用于为农业或畜牧业而提供的系统和装置。此外,本技术还可以应用于监视诸如火山、森林和海洋的自然状态、野生动物等的系统和装置。此外,例如,本技术还可以应用于为运动而提供的系统和装置。
<其他>
注意,本说明书中的“标志”是用于标识多个状态的信息,并且不仅包括用于标识真(1)和假(0)这两个状态的信息,而且包括能够标识三个或更多个状态的信息。因此,“标志”可以采用的值可以是例如二进制值1/0,或者可以是三元值或更多。即,构成“标志”的位数是任意的,并且可以是1位或多位。此外,假设标识信息(包括标志)不仅是在比特流中包括标识信息的形式,而且是在比特流中包括标识信息与特定参考信息的差异信息的形式。因此,在本说明书中,“标志”和“标识信息”不仅包括信息本身,还包括相对于参考信息的差异信息。
此外,可以以任何形式发送或记录关于编码数据(比特流)的各种类型的信息(元数据等),只要各种类型的信息与编码数据相关联即可。这里,术语“关联”意味着例如当处理一个数据时可以使用(链接)另一数据。即,彼此相关联的数据可以被收集为一个数据或者可以是单独的数据。例如,可以在与编码数据(图像)的传输路径不同的传输路径上发送与编码数据(图像)相关联的信息。此外,例如,可以将与编码数据(图像)相关联的信息记录在与编码数据(图像)不同的记录介质(或同一记录介质的另外的记录区域)上。注意,该“关联”可以是数据的一部分而不是整个数据。例如,图像和与图像对应的信息可以以诸如多个帧、一个帧或帧中的一部分的任意单元彼此相关联。
注意,在本说明书中,诸如“组合”、“复用”、“添加”、“集成”、“包括”、“存储”和“插入”的术语意指将多个事物放入一个事物中,例如将编码数据和元数据放入一个数据中,并且意指上述“关联”的一种方法。
此外,本技术的实施方式不限于上述实施方式,并且可以在不脱离本技术的主旨的情况下进行各种修改。
例如,可以将描述为一个装置(或处理单元)的配置划分且配置成多个装置(或处理单元)。反之,可以将描述为多个装置(或处理单元)的配置共同配置成一个装置(或处理单元)。此外,可以将除了以上配置之外的配置添加到每个装置(或每个处理单元)的配置。此外,特定装置(或处理单元)的配置的一部分可以被包括在另一装置(或另一处理单元)的配置中,只要系统的配置和操作作为整体基本相同即可。
此外,例如,上述程序可以由任意装置执行。在该情况下,装置仅需要具有必要的功能(功能块等)并且获得必要的信息。
此外,例如,一个流程图的每个步骤可以由一个装置执行,或者可以由多个装置共享和执行。此外,在一个步骤中包括多个处理的情况下,多个处理可以由一个装置执行或者可以由多个装置共享和执行。换言之,一个步骤中包括的多个处理可以作为多个步骤的处理来执行。相反,被描述为多个步骤的处理可以作为一个步骤来共同执行。
此外,例如,在由计算机执行的程序中,描述程序的步骤的处理可以根据本说明书中描述的顺序按时间顺序执行,或者可以并行地或者在进行调用时的必要定时处单独执行。即,只要不发生矛盾,则可以以与以上顺序不同的顺序执行每个步骤的处理。此外,描述程序的步骤的处理可以与另一程序的处理并行执行,或者可以与另一程序的处理组合执行。
此外,例如,与本技术相关的多个技术可以作为单个整体独立地实施,只要不存在矛盾即可。当然,可以一起实现任意数目的本技术。例如,在任何实施方式中描述的本技术的部分或全部可以与在另一实施方式中描述的本技术的部分或全部组合实现。此外,上述任意本技术的部分或全部可以与上面未描述的另一技术组合实现。
注意,本技术还可以具有以下配置。
(1)一种图像处理装置,包括:
编码单元,所述编码单元被配置成:
在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,所述二次变换控制信息是作为与二次变换相关的控制信息;并且
在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(2)根据(1)所述的图像处理装置,其中,
在所述图像编码的树类型为单树的情况下,所述编码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志、作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述Y分量变换跳过标志、所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(3)根据(1)或(2)所述的图像处理装置,其中,
在所述图像编码的树类型为双树亮度的情况下,所述编码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述Y分量变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(4)根据(1)至(3)中任一项所述的图像处理装置,其中,
在所述图像编码的树类型为双树色度的情况下,所述编码单元进行如下操作:
在作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(5)根据(1)至(4)中任一项所述的图像处理装置,其中,
所述二次变换控制信息包括二次变换标识符,所述二次变换标识符是指示所述二次变换的类型的标识符。
(6)根据(1)至(5)中任一项所述的图像处理装置,其中,
所述二次变换是低频不可分离变换(LFNST)。
(7)根据(1)至(6)中任一项所述的图像处理装置,其中,
所述编码单元进行如下操作:
在图像编码中的有效分量中的所有分量的变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在图像编码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(8)根据(1)至(7)中任一项所述的图像处理装置,其中,
在所述图像编码的树类型为双树色度的情况下,所述编码单元进行如下操作:
在所述双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(9)根据(1)至(8)中任一项所述的图像处理装置,其中,
在所述图像编码的树类型为双树色度的情况下,所述编码单元进行如下操作:
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(10)一种图像处理方法,包括:
在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,所述二次变换控制信息是与二次变换相关的控制信息;以及
在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
(11)一种图像处理装置,包括:
解码单元,所述解码单元被配置成:
在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示二次变换的跳过的预定值,所述二次变换控制信息是与所述二次变换相关的控制信息;并且
在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成所述二次变换控制信息。
(12)根据(11)所述的图像处理装置,其中,
在所述图像解码的树类型为单树的情况下,所述解码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志、作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述Y分量变换跳过标志、所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
(13)根据(11)或(12)所述的图像处理装置,其中,
在所述图像解码的树类型为双树亮度的情况下,所述解码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述Y分量变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
(14)根据(11)至(13)中任一项所述的图像处理装置,其中,
在所述图像解码的树类型为双树色度的情况下,所述解码单元进行如下操作:
在作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
(15)根据(11)至(14)中任一项所述的图像处理装置,其中,
所述二次变换控制信息包括二次变换标识符,所述二次变换标识符是指示所述二次变换的类型的标识符。
(16)根据(11)至(15)中任一项所述的图像处理装置,其中,
所述二次变换是低频不可分离变换(LFNST)。
(17)根据(11)至(16)中任一项所述的图像处理装置,其中,
所述解码单元进行如下操作:
在图像解码中的有效分量中的所有分量的变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在图像解码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
(18)根据(11)至(17)中任一项所述的图像处理装置,其中,
在所述图像解码的树类型为双树色度的情况下,所述解码单元进行如下操作:
在所述双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
(19)根据(11)至(18)中任一项所述的图像处理装置,其中,
在所述图像解码的树类型为双树色度的情况下,所述解码单元进行如下操作:
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
(20)一种图像处理方法,包括:
在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示二次变换的跳过的预定值,所述二次变换控制信息是与所述二次变换相关的控制信息;以及
在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成所述二次变换控制信息。
附图标记列表
100 编码装置
101 LFNST标识符编码单元
200 解码装置
201 LFNST标识符解码单元
300 图像编码装置
301 控制单元
313 正交变换单元
315 编码单元
400 图像解码装置
412 解码单元
414 逆正交变换单元

Claims (20)

1.一种图像处理装置,包括:
编码单元,所述编码单元被配置成:
在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,所述二次变换控制信息是与二次变换相关的控制信息;并且
在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
2.根据权利要求1所述的图像处理装置,其中,
在所述图像编码的树类型为单树的情况下,所述编码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志、作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述Y分量变换跳过标志、所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
3.根据权利要求1所述的图像处理装置,其中,
在所述图像编码的树类型为双树亮度的情况下,所述编码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述Y分量变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
4.根据权利要求1所述的图像处理装置,其中,
在所述图像编码的树类型为双树色度的情况下,所述编码单元进行如下操作:
在作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
5.根据权利要求1所述的图像处理装置,其中,
所述二次变换控制信息包括二次变换标识符,所述二次变换标识符是指示所述二次变换的类型的标识符。
6.根据权利要求1所述的图像处理装置,其中,所述二次变换是低频不可分离变换(LFNST)。
7.根据权利要求1所述的图像处理装置,其中,
所述编码单元进行如下操作:
在图像编码中的有效分量中的所有分量的变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在图像编码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
8.根据权利要求1所述的图像处理装置,其中,
在所述图像编码的树类型为双树色度的情况下,所述编码单元进行如下操作:
在所述双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
9.根据权利要求1所述的图像处理装置,其中,
在所述图像编码的树类型为双树色度的情况下,所述编码单元进行如下操作:
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对所述二次变换控制信息的编码,并且
在所述双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
10.一种图像处理方法,包括:
在图像编码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对二次变换控制信息的编码,所述二次变换控制信息是与二次变换相关的控制信息;以及
在图像编码中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述二次变换控制信息进行编码。
11.一种图像处理装置,包括:
解码单元,所述解码单元被配置成:
在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示二次变换的跳过的预定值,所述二次变换控制信息是与所述二次变换相关的控制信息;并且
在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成所述二次变换控制信息。
12.根据权利要求11所述的图像处理装置,其中,
在所述图像解码的树类型为单树的情况下,所述解码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志、作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述Y分量变换跳过标志、所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
13.根据权利要求11所述的图像处理装置,其中,
在所述图像解码的树类型为双树亮度的情况下,所述解码单元进行如下操作:
在作为Y分量的变换跳过标志的Y分量变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述Y分量变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
14.根据权利要求11所述的图像处理装置,其中,
在所述图像解码的树类型为双树色度的情况下,所述解码单元进行如下操作:
在作为Cb分量的变换跳过标志的Cb分量变换跳过标志或者作为Cr分量的变换跳过标志的Cr分量变换跳过标志中的至少一个为真的情况下,省略对所述二次变换控制信息的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述Cb分量变换跳过标志和所述Cr分量变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
15.根据权利要求11所述的图像处理装置,其中,
所述二次变换控制信息包括二次变换标识符,所述二次变换标识符是指示所述二次变换的类型的标识符。
16.根据权利要求11所述的图像处理装置,其中,
所述二次变换是低频不可分离变换(LFNST)。
17.根据权利要求11所述的图像处理装置,其中,
所述解码单元进行如下操作:
在图像解码中的有效分量中的所有分量的变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在图像解码中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
18.根据权利要求11所述的图像处理装置,其中,
在所述图像解码的树类型为双树色度的情况下,所述解码单元进行如下操作:
在所述双树色度中的有效分量中的所有分量的变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
19.根据权利要求11所述的图像处理装置,其中,
在所述图像解码的树类型为双树色度的情况下,所述解码单元进行如下操作:
在所述双树色度中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略与所述二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示所述二次变换的跳过的预定值,并且
在所述双树色度中的有效分量中的所有分量的变换跳过标志为假的情况下,对所述比特流进行解码以生成所述二次变换控制信息。
20.一种图像处理方法,包括:
在图像解码中的有效分量中的至少一个分量的变换跳过标志为真的情况下,省略对与二次变换控制信息相关的解码,并且估计所述二次变换控制信息的值是指示二次变换的跳过的预定值,所述二次变换控制信息是与所述二次变换相关的控制信息;以及
在图像解码中的有效分量中的所有分量的变换跳过标志为假的情况下,对比特流进行解码以生成所述二次变换控制信息。
CN202080078836.7A 2019-11-22 2020-11-12 图像处理装置和方法 Pending CN114731443A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962939102P 2019-11-22 2019-11-22
US62/939,102 2019-11-22
PCT/JP2020/042196 WO2021100588A1 (ja) 2019-11-22 2020-11-12 画像処理装置および方法

Publications (1)

Publication Number Publication Date
CN114731443A true CN114731443A (zh) 2022-07-08

Family

ID=75981242

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080078836.7A Pending CN114731443A (zh) 2019-11-22 2020-11-12 图像处理装置和方法

Country Status (9)

Country Link
US (1) US20220385904A1 (zh)
EP (1) EP4064707A4 (zh)
KR (1) KR20220104154A (zh)
CN (1) CN114731443A (zh)
AU (1) AU2020389252A1 (zh)
BR (1) BR112022009359A2 (zh)
MX (1) MX2022005833A (zh)
TW (1) TW202127898A (zh)
WO (1) WO2021100588A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2019275552B2 (en) * 2019-12-03 2022-10-13 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding a coding tree unit

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2018013461A (es) * 2016-05-13 2019-03-28 Sony Corp Aparato y metodo de procesamiento de imagenes.
CN113950830A (zh) * 2019-06-18 2022-01-18 韩国电子通信研究院 使用次级变换的图像编码/解码方法和装置以及存储比特流的记录介质
JP2022548220A (ja) * 2019-09-10 2022-11-17 エックスリス、コーポレーション 映像信号符号化/復号化方法及びそのための装置

Also Published As

Publication number Publication date
US20220385904A1 (en) 2022-12-01
MX2022005833A (es) 2022-06-09
EP4064707A4 (en) 2023-01-11
BR112022009359A2 (pt) 2022-08-09
KR20220104154A (ko) 2022-07-26
EP4064707A1 (en) 2022-09-28
JPWO2021100588A1 (zh) 2021-05-27
WO2021100588A1 (ja) 2021-05-27
AU2020389252A1 (en) 2022-05-26
TW202127898A (zh) 2021-07-16

Similar Documents

Publication Publication Date Title
WO2021125309A1 (ja) 画像処理装置および方法
US20210144376A1 (en) Image processing apparatus and method
CA3149873A1 (en) Image processing device and method
US20240171746A1 (en) Image processing device and method
US20210006836A1 (en) Image encoding apparatus, image encoding method, image decoding apparatus, and image decoding method
US20240040137A1 (en) Image processing apparatus and method
CN113039794B (zh) 图像处理装置和方法
JP7235031B2 (ja) 画像処理装置および方法
WO2022255395A1 (ja) 画像処理装置および方法
WO2021100588A1 (ja) 画像処理装置および方法
WO2021117500A1 (ja) 画像処理装置、ビットストリーム生成方法、係数データ生成方法、および量子化係数生成方法
WO2020066641A1 (ja) 画像処理装置および方法
JP7494858B2 (ja) 画像処理装置および方法
US20240163437A1 (en) Image processing device and method
US20220394256A1 (en) Image processing device and method
JP7484923B2 (ja) 画像処理装置および方法
JP7494850B2 (ja) 画像処理装置および方法
US20230045106A1 (en) Image processing apparatus and method
US20220086489A1 (en) Image processing apparatus and method
KR20240024808A (ko) 화상 처리 장치 및 방법
CN117981322A (zh) 图像处理装置和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination