CN117857810A - 一种光照补偿方法、编码器、解码器及存储介质 - Google Patents

一种光照补偿方法、编码器、解码器及存储介质 Download PDF

Info

Publication number
CN117857810A
CN117857810A CN202311445183.3A CN202311445183A CN117857810A CN 117857810 A CN117857810 A CN 117857810A CN 202311445183 A CN202311445183 A CN 202311445183A CN 117857810 A CN117857810 A CN 117857810A
Authority
CN
China
Prior art keywords
illumination compensation
prediction
current
block
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311445183.3A
Other languages
English (en)
Inventor
王凡
谢志煌
王东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN202311445183.3A priority Critical patent/CN117857810A/zh
Publication of CN117857810A publication Critical patent/CN117857810A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Circuit Arrangement For Electric Light Sources In General (AREA)

Abstract

本申请实施例提供了一种光照补偿方法、编码器、解码器和存储介质,通过获取码流,并解析所述码流,得到光照补偿允许标识、当前运动信息和当前预测模式;若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。

Description

一种光照补偿方法、编码器、解码器及存储介质
技术领域
本申请实施例涉及视频编码技术,涉及但不限于一种光照补偿方法、编码器、解码器及存储介质。
背景技术
在视频编解码,对当前块进行编解码的过程中,除了有帧内预测方式外,还可以采用帧间预测。帧间预测可以对每个编码单元分别进行帧间预测过程计算预测块。
相关技术中,在帧间预测中,采用光照补偿技术,来消除由于光照变化、物体运动引起的光照角度变化、前后物体相对运动引起的阴影变化、后期制作引入的亮度变化等,当前块(编码块或解码块)和参考块之间可能存在纹理相似但亮度不同的情况。这时,对当前块使用光照补偿技术,利用当前块左边一列和上边一行的已重构像素中的某些像素,及参考块左边一列和上边一行的像素中的对应位置的像素,确定出当前块的光照补偿因子,进行光照补偿。
然而,对于普通自然视频中的当前块,采用光照补偿技术会由于编码单元级的标识位开销会使码流比特率增多,从而导致了对于特定光照视频或图像,不需要进行光照补偿的序列的编解码比特开销较大,影响最终的编解码的效率。
发明内容
本申请实施例提供了一种光照补偿、编码器、解码器和存储介质,能够基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,以节省编解码的比特开销,提高编解码的性能。
第一方面,本申请实施例提供了一种光照补偿方法,应用于解码器,所述方法包括:
获取码流,并解析所述码流,得到光照补偿允许标识;
若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;
若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;
若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;
基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。
第二方面,本申请实施例还提供了一种光照补偿方法,应用于编码器,所述方法包括:
基于当前帧的亮度信息,确定光照补偿帧级允许标识;
若所述光照补偿帧级允许标识为有效,则所述当前帧开启光照补偿功能,对所述当前帧的当前块允许进行光照补偿,得到光照预测值;
将所述光照补偿帧级允许标识写入码流。
第三方面,本申请实施例提供了一种解码器,包括:
解析部分,被配置为获取码流,并解析所述码流,得到光照补偿允许标识;
第一获取部分,被配置为若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;
第一光照补偿部分,被配置为基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。
第四方面,本申请实施例提供了一种编码器,包括:
第二确定部分,被配置为基于当前帧的亮度信息,确定光照补偿帧级允许标识;
第二预测部分,被配置为若所述光照补偿帧级允许标识为有效,则所述当前帧开启光照补偿功能,对所述当前帧的当前块进行光照补偿,得到光照预测值;
写入部分,被配置为将所述光照补偿帧级允许标识写入码流。
第五方面,本申请实施例还提供了一种解码器,包括:
第一存储器和第一处理器;
所述第一存储器存储有可在第一处理器上运行的计算机程序,所述第一处理器执行所述程序时实现解码器的所述光照补偿方法。
第六方面,本申请实施例还提供了一种编码器,包括:
第二存储器和第二处理器;
所述第二存储器存储有可在第二处理器上运行的计算机程序,所述第二处理器执行所述程序时编码器的所述光照补偿方法。
本申请实施例提供了一种存储介质,其特征在于,其上存储有计算机程序,该计算机程序被第一处理器执行时,实现权利要求解码器的所述光照补偿方法;或者,该计算机程序被第二处理器执行时,实现权利要求编码器的所述光照补偿方法。
本申请实施例提供了一种光照补偿方法、编码器、解码器和存储介质,通过获取码流,并解析所述码流,得到光照补偿允许标识、当前运动信息和当前预测模式;若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。采用上述方案实现技术,由于解码器在对当前块进行解码的过程中,在使用了光照补偿技术的情况下,可以直接从码流中获取到帧级别的光照补偿帧级允许标识,这样编码器就可以先从帧级别判断是否需要继续解析块级别的光照补偿使用标识了,只有在光照补偿帧级允许标识有效的情况下,才能获取码流中的下一级标识,进而进行后续的解码,从而进行当前块预测(例如帧间预测)了。因此,在光照补偿帧级允许标识无效的情况下,码流的传输比特会大大降低,这样在基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,就可以节省编解码的比特开销,提高编解码的性能。
附图说明
图1A-图1C为本申请实施例提供的示例性的不同颜色格式下的各分量分布图;
图2为本申请实施例提供的示例性的编码单元的划分示意图;
图3为本申请实施例提供的示例性的视频编解码的网络架构的组成结构示意图;
图4为本申请实施例提供的示例性的视频编码系统结构图;
图5为本申请实施例提供的示例性的视频解码系统结构图;
图6为本申请实施例提供的示例性的当前块与参考块的光照补偿示意图;
图7A为本申请实施例提供的示例性的当前块与参考块的排布示意图一;
图7B为本申请实施例提供的示例性的当前块与参考块的排布示意图二;
图8为本申请实施例提供的一种光照补偿方法的流程图;
图9为本申请实施例提供的示例性的当前块与参考块的排布示意图三;
图10为本申请实施例提供的示例性的当前块与参考块的排布示意图四;
图11为本申请实施例提供的示例性的当前块与参考块的排布示意图五;
图12为本申请实施例还提供的一种光照补偿方法的流程图;
图13为本申请实施例提供的一种解码器的结构示意图一;
图14为本申请实施例提供的一种解码器的结构示意图二;
图15为本申请实施例提供的一种编码器的结构示意图一;
图16为本申请实施例提供的一种编码器的结构示意图二。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。可以理解的是,此处所描述的具体实施例仅仅用于解释相关申请,而非对该申请的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关申请相关的部分。
在视频图像中,一般采用第一图像分量、第二图像分量和第三图像分量来表征当前块(Coding Block,CB);其中,这三个图像分量分别为一个亮度分量、一个蓝色色度分量和一个红色色度分量,具体地,亮度分量通常使用符号Y表示,蓝色色度分量通常使用符号Cb或者U表示,红色色度分量通常使用符号Cr或者V表示;这样,视频图像可以用YCbCr格式表示,也可以用YUV格式表示。
通常,数字视频压缩技术作用于颜色编码方法为YCbCr(YUV)格式的影像数据上,YUV比例通测为4:2:0、4:2:2或者4:4:4,Y表示明亮度(Luma),Cb(U)表示蓝色色度,Cr(V)表示红色色度,U和V表示为色度(Chroma)用于描述色彩及饱和度。图1A至图1C展示了不同颜色格式下的各分量分布图,其中白色为Y分量,黑灰色为UV分量。如图1A所示,在颜色格式上,4:2:0表示每4个像素有4个亮度分量,2个色度分量(YYYYCbCr),如图1B所示,4:2:2表示每4个像素有4个亮度分量,4个色度分量(YYYYCbCrCbCr),而如图1C所示,4:4:4表示全像素显示(YYYYCbCrCbCrCbCrCbCr)。
目前,通用的视频编解码标准基于都采用基于块的混合编码框架。视频图像中的每一帧被分割成相同大小(比如128×128,64×64等)的正方形的最大编码单元(LargestCoding Unit,LCU),每个最大编码单元还可以根据规则划分成矩形的编码单元(CodingUnit,CU);而且编码单元可能还会划分成更小的预测单元(Prediction Unit,PU)。具体地,混合编码框架可以包括有预测、变换(Transform)、量化(Quantization)、熵编码(EntropyCoding)、环路滤波(In Loop Filter)等模块;其中,预测模块可以包括帧内预测(intraPrediction)和帧间预测(interPrediction),帧间预测可以包括运动估计(motionestimation)和运动补偿(motion compensation)。由于视频图像的一个帧内相邻像素之间存在很强的相关性,在视频编解码技术中使用帧内预测方式能够消除相邻像素之间的空间冗余。帧间预测可以参考不同帧的图像信息,利用运动估计搜索最匹配当前划分块的运动矢量信息,用于消除时间冗余;变换将预测后的图像块转换到频率域,能量重新分布,结合量化可以将人眼不敏感的信息去除,用于消除视觉冗余;熵编码可以根据当前上下文模型以及二进制码流的概率信息消除字符冗余。
需要说明的是,视频编码过程中,编码器首先读取图像信息,将图像划分成若干个编码树单元(Coding Tree Unit,CTU),而一个编码树单元又可以继续划分成若干个编码单元(Coding Unit,CU),这些编码单元可以为矩形块也可以为方形块,具体关系可以参考图2所示。
在帧间预测过程中,当前编码单元是参考不同帧图像的参考块的信息进行预测,即根据目前大多数的从左至右、从上到下的编码顺序,当前编码单元可以根据参考块的左上侧编码单元,上侧编码单元以及左侧编码单元作为参考信息来预测当前编码单元输入的数字视频为彩色格式,即当前主流的数字视频编码器输入源为YUV 4:2:0格式,即图像的每4个像素点由4个Y分量和2个UV分量组成,编码器会对Y分量和UV分量分别进行编码,采用的编码工具与技术也略有不同,同时,解码端也会根据不同格式对应进行解码。
针对数字视频编解码中的帧间预测部分,主要参考已解码帧的重建图像信息对当前帧的编码块进行预测,通过运动估计搜索参考帧中的图像块,基于MSE(mean squareerror)或其他算法寻得最小误差的匹配块,得到当前编码快对应的运动信息(motionvector,MV)),对MV指向的参考块做运动补偿得到预测块,将预测块与原始图像块计算残差得到残差信息后经由变换与量化等过程,将残差信息传输到解码端。解码端接收并解析码流后,经过反变换与反量化等步骤得到残差信息,将解码端预测得到的预测图像块叠加残差信息后得到重建图像块。
基于上述概念的基础上,示例性的,光照补偿技术可以应用在各种预测技术中,例如,帧间预测,帧间非矩形预测、仿射变换预测等,本申请实施例不作限制。
以帧间预测为例,本申请实施例提供了一种包含光照补偿方法的视频编解码系统的网络架构,图3为本申请实施例视频编解码的网络架构的组成结构示意图,如图3所示,该网络架构包括一个或多个电子设备13至1N和通信网络01,其中,电子设备13至1N可以通过通信网络01进行视频交互。电子设备在实施的过程中可以为各种类型的具有视频编解码功能的设备,例如,所述电子设备可以包括手机、平板电脑、个人计算机、个人数字助理、导航仪、数字电话、视频电话、电视机、传感设备、服务器等,本申请实施例不作限制。其中,本申请实施例中的光照补偿装置就可以为上述电子设备。
其中,本申请实施例中的电子设备具有视频编解码功能,一般包括视频编码器(即编码器)和视频解码器(即解码器)。
本申请提供一种视频编码系统,如图4所示,该视频编码系统11包括:
变换单元111、量化单元112、模式选择和编码控制逻辑单元113、帧内预测单元114、帧间预测单元115(包括:运动补偿和运动估计)、反量化单元116、反变换单元117、环路滤波单元118、编码单元119和解码图像缓存单元110;针对输入的原始视频信号,通过编码树块(Coding Tree Unit,CTU)的划分可以得到一个视频重建块,通过模式选择和编码控制逻辑单元113确定编码模式,然后,对经过帧内或帧间预测后得到的残差像素信息,通过变换单元111、量化单元112对该视频重建块进行变换,包括将残差信息从像素域变换到变换域,并对所得的变换系数进行量化,用以进一步减少比特率;帧内预测单元114用于对该视频重建块进行帧内预测;其中,帧内预测单元114用于确定该视频重建块的最优帧内预测模式(即目标预测模式);帧间预测单元115用于执行所接收的视频重建块相对于一或多个参考帧中的一或多个块的帧间预测编码,以提供时间预测信息;其中吗,运动估计为产生运动向量的过程,所述运动向量可以估计该视频重建块的运动,然后,运动补偿基于由运动估计所确定的运动向量执行运动补偿;在确定帧间预测模式之后,帧间预测单元115还用于将所选择的帧间预测数据提供到编码单元119,而且,将所计算确定的运动向量数据也发送到编码单元119;此外,反量化单元116和反变换单元117用于该视频重建块的重构建,在像素域中重构建残差块,该重构建残差块通过环路滤波单元118去除方块效应伪影,然后,将该重构残差块添加到解码图像缓存单元110的帧中的一个预测性块,用以产生经重构建的视频重建块;编码单元119是用于编码各种编码参数及量化后的变换系数。而解码图像缓存单元110用于存放重构建的视频重建块,用于预测参考。随着视频图像编码的进行,会不断生成新的重构建的视频重建块,这些重构建的视频重建块都会被存放在解码图像缓存单元110中。
本申请实施例提供一种视频解码系统,图5为本申请实施例视频编码系统的组成结构示意图,如图5所示,该视频解码系统12包括:
解码单元121、反变换单元127,与反量化单元122、帧内预测单元123、运动补偿单元124、环路滤波单元125和解码图像缓存单元126单元;输入的视频信号经过视频编码系统11进行编码处理之后,输出该视频信号的码流;该码流输入视频解码系统12中,首先经过解码单元121,用于得到解码后的变换系数;针对该变换系数通过反变换单元127与反量化单元122进行处理,以便在像素域中产生残差块;帧内预测单元123可用于基于所确定的帧内预测方向和来自当前帧或图片的先前经解码块的数据而产生当前视频解码块的预测数据;运动补偿单元124是通过剖析运动向量和其他关联语法元素来确定用于视频解码块的预测信息,并使用该预测信息以产生正被解码的视频解码块的预测性块;通过对来自反变换单元127与反量化单元122的残差块与由帧内预测单元123或运动补偿单元124产生的对应预测性块进行求和,而形成解码的视频块;该解码的视频信号通过环路滤波单元125以便去除方块效应伪影,可以改善视频质量;然后将经解码的视频块存储于解码图像缓存单元126中,解码图像缓存单元126存储用于后续帧内预测或运动补偿的参考图像,同时也用于视频信号的输出,得到所恢复的原始视频信号。
在实际应用中,现实自然视频中经常存在视频内容上的光照强度变化,如随着时间流逝光照强度下降,乌云遮挡抑或是相机的闪光灯强度变化等视频内容。这些视频内容与前后帧图像的差别主要在于图像直流分量的强弱,对于内容中的纹理信息基本没有变化。但碍于较大的直流分量数值影响,对于帧间预测技术的运动搜索与运动补偿并不能有效的预测这些内容,容易编入较多的残差信息。而光照补偿(Illuminance Compensation,IC)技术能够很好的去除这些直流冗余信息,准确预测亮度变化和做出对应的补偿,使得残差信息更小,提高编码效率。
相关技术中,光照补偿技术包括多功能视频编码,H.266(Versatile VideoCoding,VVC)的JEM中所带的技术以及目前音视频编码标准(Audio Video codingStandard,AVS)3标准的光照补偿技术如下:
在帧间预测模式中,每一个可以使用光照补偿技术的CU块都会进行使用光照补偿技术和不使用光照补偿技术下的率失真代价(Rdcost)计算和比较,而光照补偿技术的实现主要通过一个光照补偿线性模型对预测块做线性补偿。光照补偿模型主要由一个缩放因子a和偏移因子b组成,具体公式表达如公式(1)所示:
Pred′(x,y)=a·pred(x,y)+b (1)
其中,Pred(x,y)为未进行光照补偿前的预测块,Pred‘(x,y)为光照补偿之后的预测块,a为光照补偿模型中的缩放因子,b为光照补偿模型中的偏移因子。在数字视频编解码过程中,如图6所示,根据参考帧的重建参考块,对当前帧的编码块(即当前块)通过光照补偿模型进行光照差异的修正,得到补偿后的预测块。
需要说明的是,a和b均需要通过当前帧的图像信息与参考帧的图像信息计算求取,通过对当前块空间相邻重建像素与对应参考帧中的已重建块的相邻参考像素进行建模得到,推导公式如公式(2)所示:
Curr_Recneigh=a·Ref_Recneigh+b (2)
其中,Curr_Recneigh为当前帧的重建图像的重建像素,Ref_Recneigh为参考帧的重建图像的重建参考像素。
在本申请实施例中,缩放因子a和偏移因子b的计算需要借助参考帧中对应已重建参考块的相邻重建参考像素和当前帧中编码块的相邻重建像素。根据当前帧的编码块的相邻重建像素与参考帧中对应像素位置相同的已重建参考像素之间的相关性,对公式(2)块进行建模和求解得到当前块对应的光照补偿后的预测块。
示例性的,如图7A和图7B所示,Reconstructed pixels均为CU的最相邻重建像素,Reference picture CU为参考帧中对应的已重建CU(参考块),Current picture CU为当前帧中待编码的CU(当前块)。通过对两帧中对应Reconstructed pixels建模求解线性关系,得到缩放因子a和偏移因子b,再将该线性关系作用到Reference picture CU得到Currentpicture CU的预测块。详细的,将Reference picture CU的相邻Reconstructed pixels进行排序,为防止一些噪点影响线性模型的准确性,去掉排序后的一个最大值和最小值。取当前排序后的reconstructed pixels的两个最大值求取平均值记为Max1,取当前排序后的reconstructed pixels的两个最小值求取平均值记为Min1;此外,取Current picture CU的Reconstructed pixels对应于上述排序后所取的两个最大值坐标重建像素求取平均值记为Max2,取Current picture CU的Reconstructed pixels对应于前述排序后所取的两个最小值坐标重建像素求取平均值记为Min2。求解线性模型推导得到公式(3)和公式(4):
b=a×Min2-Min1 (4)
在本申请实施例中,将Max1、Max2、Min1和Min2代入公式(3)和(4),计算得到a和b。
本申请实施例中的光照补偿技术作用于视频编码混合框架中的帧间预测部分,具体应用于帧间预测的所有预测模式,对编码端和解码端同时作用。
采用帧间预测光照补偿技术(IC)进行帧间预测编码模式的编码器的实施方式如下:
输入数字视频信息在编码端被划分成若干个编码树单元,每个编码树单元又被划分成若干个或矩形或方形的编码单元(即当前块),每个编码单元分别进行帧间预测过程计算预测块。
在当前编码单元中,若光照补偿允许标识位为‘1’则进行如下所有步骤,若光照补偿允许标识位为‘0’则仅进行a)、b)和f)步骤:
a)、帧间预测首先对所有候选MV进行遍历做运动补偿,计算每一个MV下运动补偿后的预测像素,并根据原始像素和预测像素计算率失真代价;
b)、根据上述所有MV率失真代价最小原则,选择出当前编码单元的最优MV及预测模式如(SKIP,MERGE/DIRECT或者INTER),记录最优信息和与之对应的率失真代价信息;
c)、对所有候选MV再次进行遍历,此过程开启光照补偿技术,首先根据预测模式和MV匹配到参考块(参考帧的重建像素),提取参考块的左边及上边重建像素和当前帧待编码块的左边及上边重建像素,对重建像素进行排序和求平均(具体操作如上述)并带入上述式子可得到线性模型参数a和b;
d)、对参考块进行运动补偿,得到普通运动补偿后的预测块后对其进行光照补偿,即对每个预测块中的像素根据线性模型做线性偏移,得到当前编码单元的最终预测块;
e)、根据上述经过光照补偿技术的最终预测像素与原始像素计算得到每一个MV的率失真代价信息,记录最小率失真代价信息的MV索引及其对应的预测模式(如跳过模式SKIP,合并模式/直接导出模式MERGE/DIRECT,或普通帧间模式INTER))和其对应的率失真代价;
f)、若光照补偿技术允许标识位为‘0’,则将b)中记录的MV索引和预测模式经码流传输给解码端;若光照补偿技术允许标识位为‘1’,则将b)中记录的最小代价值与e)中记录的最小代价值进行比较,若b)中的率失真代价更小,则将b)中记录的MV索引和预测模式编码作为当前编码单元的最优信息经码流传输给解码端,将光照补偿技术当前编码单元标识位置为无效,表示不使用光照补偿技术,也经码流传输给解码端;若e)中的率失真更小,则将e)中记录的MV索引和预测模式编码作为当前编码单元的最优信息经码流传输给解码端,将光照补偿技术当前编码单元标识位置为有效,表示使用光照补偿技术,也经码流传输给解码端。
采用IC进行帧间预测编码模式的解码器的实施方式如下:
解码端获取码流并解析得到数字视频序列信息,解析得到当前视频序列的光照补偿允许标识位、当前解码单元(即当前块)编码模式为帧间预测模式和当前解码单元的光照补偿使用标识位。
在当前解码单元中,若光照补偿允许标识位为‘1’则进行如下所有步骤;若光照补偿允许标识位为‘0’则仅进行a)、b)、d)和f)步骤:
a)、获取码流信息,解析当前解码单元的残差信息,经过反变换与反量化过程得到时域残差信息;
b)、解析码流并获取当前解码单元的预测模式信息和MV索引;
c)、解析并获取光照补偿技术的使用标识位;
d)、根据当前解码单元的预测模式和MV索引获取参考帧中的参考块,做运动补偿后得到当前解码单元的预测块;
e)、若当前解码单元的光照补偿技术使用标识位为‘1’,则获取参考帧中参考块的左边和上边重建像素,获取当前解码单元的左边和上边重建像素,对获取到的参考帧和当前帧的重建像素进行排序和求平均(具体操作如前所述),得到线性模型的缩放因子a和偏移因子b。对当前解码单元的预测块做线性偏移,得到当前解码单元的最终预测块;
f)、将预测块叠加还原后的残差信息得到当前解码单元的重建块,经后处理输出。
需要说明的是,本申请实施例中的光照补偿允许标识位为光照补偿允许标识的数值表现形式,光照补偿使用标识位为光照补偿使用标识的数值表现形式。
在本申请实施例中,光照补偿技术在计算线性模型时,光照补偿技术仅对特定视频序列有很好的预测补偿效果,如手机或相机拍摄的闪光灯作用图像,机动车夜间经过的前灯变化图像等,光照补偿技术能够最大程度地缩小预测值与真实样本值之间的差距。但对于非光照补偿视频序列,如普通自然视频等,光照补偿技术并不能很好的起到预测补偿作用,相反由于编码单元级的标识位开销会使码流比特率增多。所以,对于特定光照视频或图像,编解码器需要从帧级别的允许标识来体现自适应地开启或禁止光照补偿技术,以达到节省比特开销,提高压缩效率的目的。
基于此,在进行帧间预测时对当前块实行本申请,本申请实施例提供的一种光照补偿方法主要作用于视频编码系统11的帧间预测单元115和视频解码系统12的帧间预测单元,即运动补偿单元124;也就是说,如果在视频编码系统11能够通过本申请实施例提供的光照补偿方法得到一个较好的预测效果,那么,对应地,在解码端,也能够改善视频解码恢复质量。
基于此,下面结合附图和实施例对本申请的技术方案进一步详细阐述。在进行详细阐述之前,需要说明的是,说明书通篇中提到的“第一”、“第二”、“第三”等,仅仅是为了区分不同的特征,不具有限定优先级、先后顺序、大小关系等功能。
本申请实施例提供一种光照补偿方法,该方法应用于视频解码设备,即解码器。该方法所实现的功能可以通过视频解码设备中的第一处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该视频解码设备至少包括第一处理器和第一存储介质。其中,当前解码单元和当前编码单元下述均用当前块来表示。
图8为本申请实施例一种光照补偿方法的实现流程示意图,如图8所示,该方法包括:
S101、获取码流,并解析码流,得到光照补偿允许标识。
S102、若光照补偿允许标识为有效,则获取码流中的光照补偿帧级允许标识。
S103、若光照补偿帧级允许标识为有效,则获取码流中的光照补偿使用标识。
S104、若光照补偿使用标识为有效,则获取码流中的目标光照补偿模式的索引信息。
S105、基于目标光照补偿模式的索引信息,对当前块进行光照补偿。
本申请实施例提供的一种光照补偿方法可以用于预测技术的多种应用场景中,例如帧间预测,帧间非矩形预测、仿射变换预测等,本申请实施例不作限制。
在本申请实施例中,解码器在获取到了码流后,可以从码流的头信息中先解析出待解析的视频序列中是不是进行允许进行光照补偿处理的,即可以解析出光照补偿允许标识,光照补偿允许标识是对视频序列是不是允许进行光照补偿的表示。
需要说明的是,在本申请实施例中,若解码器解析出的光照补偿允许标识为有效,表征该视频序列中允许开启光照补偿功能,那么解码器获取的码流中一定还有进一步的表征每帧是否允许进行光照补偿的帧级别的光照补偿帧级允许标识,即解码器还能解析出码流中的光照补偿帧级允许标识。其中,视频序列中的某一帧(例如当前帧)对应的光照补偿帧级允许标识为有效时,表征该帧中允许开启光照补偿功能,那么解码器就需要进一步的解析确认该帧中的哪些块是使用了光照补偿技术的,进而在解码当前块时,就可以通过块级别的光照补偿使用标识来判断当前块是否进行采用了光照补偿技术的,以便进行后面的解码过程。若当前块对应的光照补偿使用标识为有效,那就是当前块在编码时有采用光照补偿技术,因此,解码器是可以在解析时,获取到码流中传输的编码当前块时采用的目标光照补偿模式的索引信息的,这样解码器就可以目标光照补偿模式的索引信息,对当前块进行光照补偿处理了。
在本申请实施例中,当解码器解析出采用了IC(光照补偿)技术时,光照补偿允许标识为有效(其中,光照补偿允许标识的光照补偿允许标识位的数值体现是否有效)。这时,解码器获知当前块所属的视频序列是可以采用IC技术的那么就需要进一步的从码流中解析出当前块所属的当前帧对应的光照补偿帧级允许标识是不是有效,有效则表征当前块是允许采用光照补偿的,进而就需要进一步的从码流中解析出当前块对应的光照补偿使用标识是不是有效,有效则表征当前块是采用了光照补偿处理的,无效则表征当前块允许使用光照补偿技术,但是并没有使用。在本申请实施例中,若编码时使用了光照补偿,那么解码器是可以从码流中获取到使用的目标光照补偿模式的索引信息的。
示例性的,解码器也同时可以解析出编码器采用的当前预测模式和当前运动信息的。解码器只要根据目标光照补偿模式的索引信息、当前预测模式和当前运动信息,对当前块进行帧间预测,得到预测值,然后再基于预测值进行后续的解码流程即可。
需要说明的是,在本申请实施例,标识位可以采用数值进行表示,本申请实施例不作限制。
示例性的,光照补偿允许标识位为1,表征光照补偿允许标识为有效;光照补偿允许标识位为0,表征光照补偿允许标识为无效;光照补偿帧级允许标识位为1,表征光照补偿帧级允许标识为有效;光照补偿帧级允许标识位为0,表征光照补偿帧级允许标识为无效;光照补偿使用标识位为1,表征光照补偿使用标识为有效;光照补偿使用标识位为0,表征光照补偿使用标识为无效。或者,
光照补偿允许标识位为0,表征光照补偿允许标识为有效;光照补偿允许标识位为1,表征光照补偿允许标识为无效;光照补偿帧级允许标识位为0,表征光照补偿帧级允许标识为有效;光照补偿帧级允许标识位为1,表征光照补偿帧级允许标识为无效;光照补偿使用标识位为0,表征光照补偿使用标识为有效;光照补偿使用标识位为1,表征光照补偿使用标识为无效,本申请实施例不作限制。
在本申请的一些实施例中,光照补偿帧级允许标识包括:至少一个光照补偿帧级允许标识。也就是说,本申请实施例可以有一个帧级的光照补偿允许标识位来表示当前待编码图像帧(即当前帧)开启光照补偿技术;也可以使用多个帧级的光照补偿允许标识位来表示当前待编码图像帧开启光照补偿技术。
在本申请实施例中,至少一个光照补偿帧级允许标识可以与当前帧的不同预测模式一一对应;或者,至少一个光照补偿帧级允许标识可以与当前帧的不同区域一一对应。也就是说,采用不同的预测模式,或者针对一帧图像的不同图像区域,可以不同的光照补偿帧级允许标识。
在本申请的一些实施例中,光照补偿帧级允许标识包括:与预测模式对应的N级光照补偿帧级允许标识;在这种情况下,若光照补偿帧级允许标识为有效,解码器则获取码流中的光照补偿使用标识的过程可以为:若N级光照补偿帧级允许标识中的第i级光照补偿帧级允许标识为有效,则确定码流中的第i+1级光照补偿帧级允许标识,直至确定码流中的第N级光照补偿帧级允许标识时为止;i为大于或等于1,且小于等于N的正整数,N为大于或等于1的正整数;若第i+1级光照补偿帧级允许标识为无效,则获取码流中的光照补偿使用标识。
需要说明的是,解码器在解析码流时,是可以根据N级光照补偿帧级允许标识的顺序来依次解析的,N级光照补偿帧级允许标识中是存在优先关系的,第1级光照补偿帧级允许标识至第N级光照补偿帧级允许标识的优先级是依次降低的,第1级光照补偿帧级允许标识最高。在这种情况下,解码器在解码出优先级高的光照补偿帧级允许标识时,可以在优先级高的光照补偿帧级允许标识有效时,才继续按照优先级解析后续的光照补偿帧级允许标识。也就是说,在优先级高的光照补偿帧级允许标识被解析出来是无效时,则不再进行后续级别的光照补偿帧级允许标识的解析了。
在本申请实施例中,若当前帧对应的某些预测模式可以使用光照补偿技术,则第一级的光照补偿帧级允许标识位表示当前帧可以使用光照补偿技术但并非所有预测模式都开启光照补偿技术,需要解析后续光照补偿帧级允许标识位,根据码流语法在编解码端对相应的预测模式开启光照补偿技术。若当前帧都不启用光照补偿技术,则第一级的光照补偿帧级允许标识位为否,不需要解析后续标识位且码流中也不存在后续标识位的码字。
需要说明的是,若N级光照补偿帧级允许标识中的第i级光照补偿帧级允许标识为有效,则确定码流中的第i+1级光照补偿帧级允许标识,如果第i+1级光照补偿帧级允许标识还是有效,那就继续解析下一级,但是若是解析到第N级光照补偿帧级允许标识时还是有效,那么也不再解析下一级了,因为没有下一级了。在这个过程中,如果解析到第i+1级光照补偿帧级允许标识是无效的,那么也不再继续下一级的解析了,而是开始针对第i级光照补偿帧级允许标识对应的预测模式开启光照补偿技术,进一步的确定看哪个当前块要使用光照补偿了,从而获取码流中的光照补偿使用标识了。在本申请的一些实施例中,若第1级光照补偿帧级允许标识为无效,则当前帧的所有预测模式均未开启光照补偿技术,因此都不用进行光照补偿。
在本申请的一些实施例中,解码器还可以从码流中直接解析出N级光照补偿帧级允许标识,不存在优先级的关系,直接全部都解析,哪级光照补偿帧级允许标识有效,就表征该级别光照补偿帧级允许标识对应的预测模式开启了光照补偿模式,可以继续解析光照补偿使用标识了。若无效,则表征该级别光照补偿帧级允许标识对应的预测模式未开启光照补偿模式,进行正常的解码即可。
在本申请的一些实施例中,预测模式可以包括:合并模式/直接导出模式、跳过模式和普通帧间模式等,本申请实施例不作限制。
示例性的,当N=3时,第1级光照补偿帧级允许标识对应合并模式/直接导出模式;第2级光照补偿帧级允许标识对应跳过模式,第3级光照补偿帧级允许标识对应普通帧间模式。
可以理解的是,解码器可以根据不同预测模式,来确定哪些预测模式是开启了光照补偿技术的,哪些是未开启该光照补偿模式的,进而可以从帧级就筛除了未开启光照补偿技术的当前帧的一部分码字,提高了解压缩的效率。
在本申请的一些实施例中,解码器在解析码流时,还可以获取图像区域划分标识;若图像区域划分标识为有效,则获取M个光照补偿帧级允许标识;若图像区域划分标识为无效,则不开启光照补偿,M为大于或等于1的正整数。
需要说明的是,解码器可以针对当前帧划分的不同图像区域,设置不同的光照补偿帧级允许标识。在本申请实施例中,当前帧划分为M个图像区域。
在本申请的一些实施例中,光照补偿帧级允许标识包括:与图像区域对应的M个光照补偿帧级允许标识。在这种情况下,若光照补偿帧级允许标识为有效,解码器则获取码流中的光照补偿使用标识的过程还可以为:若M个光照补偿帧级允许标识中的第j个光照补偿帧级允许标识为有效,则确定码流中的第j+1个光照补偿帧级允许标识,直至确定码流中的第M个光照补偿帧级允许标识时为止;j为大于或等于1,且小于等于M的正整数;若第j+1个光照补偿帧级允许标识为无效,则获取码流中的光照补偿使用标识。
需要说明的是,解码器在解析码流时,是可以根据M个光照补偿帧级允许标识的顺序来依次解析的,M个光照补偿帧级允许标识中是存在优先关系的,第1个光照补偿帧级允许标识至第M个光照补偿帧级允许标识的优先级是依次降低的,第1个光照补偿帧级允许标识最高。在这种情况下,解码器在解码出优先级高的光照补偿帧级允许标识时,可以在优先级高的光照补偿帧级允许标识有效时,才继续按照优先级解析后续的光照补偿帧级允许标识。也就是说,在优先级高的光照补偿帧级允许标识被解析出来是无效时,则不再进行后续级别的光照补偿帧级允许标识的解析了。
在本申请实施例中,若当前帧对应的某些图像区域可以使用光照补偿技术,则第一个光照补偿帧级允许标识位表示当前帧的第一个图像区域可以使用光照补偿技术但并非所有图像区域都开启光照补偿技术,需要解析后续光照补偿帧级允许标识位,根据码流语法在编解码端对相应的图像区域的开启光照补偿技术。若当前帧的第一个图像区域都不启用光照补偿技术,则第一个的光照补偿帧级允许标识位为否,不需要解析后续标识位且码流中也不存在后续标识位的码字,也就是说当前帧的所有图像区域均不开启光照补偿技术。
需要说明的是,若M个光照补偿帧级允许标识中的第i个光照补偿帧级允许标识为有效,则确定码流中的第i+1个光照补偿帧级允许标识,如果第i+1个光照补偿帧级允许标识还是有效,那就继续解析下一个,但是若是解析到第M个光照补偿帧级允许标识时还是有效,那么也不再解析下一个了,因为没有下一个了。在这个过程中,如果解析到第i+1个光照补偿帧级允许标识是无效的,那么也不再继续下一个的解析了,而是开始针对第i个光照补偿帧级允许标识对应的图像区域开启光照补偿技术,进一步的确定看哪个当前块要使用光照补偿了,从而获取码流中的光照补偿使用标识了。在本申请的一些实施例中,若第1个光照补偿帧级允许标识为无效,则当前帧的所有图像区域均未开启光照补偿技术,因此都不用进行光照补偿。
在本申请的一些实施例中,光照补偿帧级允许标识包括:与图像区域对应的M个光照补偿帧级允许标识。在这种情况下,若光照补偿帧级允许标识为有效,解码器则获取码流中的光照补偿使用标识的过程还可以为:若M个光照补偿帧级允许标识中的任意一个为有效,则获取码流中的光照补偿使用标识。
在本申请的一些实施例中,解码器还可以从码流中直接解析出M个光照补偿帧级允许标识,不存在优先级的关系,直接全部都解析,哪个光照补偿帧级允许标识有效,就表征该级别光照补偿帧级允许标识对应的图像区域开启了光照补偿模式,可以继续解析光照补偿使用标识了。若无效,则表征该级别光照补偿帧级允许标识对应的图像区域未开启光照补偿模式,进行正常的解码即可。
在本申请的一些实施例中,若第1个光照补偿帧级允许标识为无效,则不进行光照补偿。
可以理解的是,解码器可以根据当前帧划分的不同图像区域,来确定哪些图像区域是开启了光照补偿技术的,哪些是未开启该光照补偿模式的,进而可以从帧级就筛除了未开启光照补偿技术的图像区域的一部分码字,提高了解压缩的效率。
在本申请的一些实施例中,在当前帧开启光照补偿功能或者开启光照补偿技术的前提下,解码器在对当前块进行解码时,可以直接对当前块进行解码,也可以对当前块进行划分,得到至少两个区域对应的至少两个子块,在针对该至少两个子块依次进行解码,本申请实施例不作限制。
在本申请的一些实施例中,解码器在基于目标光照补偿模式的索引信息,对当前块进行光照补偿的过程中,针对至少两个子块时,可以基于目标光照补偿模式的索引信息,确定当前帧的重建像素和参考帧的重建参考像素;基于当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数;h为大于或等于1的正整数,且小于至少两个子块的数量;基于第h个模型参数,对第h个区域进行光照补偿,得到第h个区域预测块;继续进行第h+1个区域的光照补偿处理,直至处理完至少两个子块的光照补偿处理时为止。
需要说明的是,在本申请实施例中,光照补偿模式可以有三种:上左光照补偿模式(IC_TL)、上光照补偿模式(IC_T)和左光照补偿模式(IC_L)。而目标光照补偿模式的索引信息对应上左光照补偿模式(IC_TL)、上光照补偿模式(IC_T)和左光照补偿模式(IC_L)中的一种。其中,上左光照补偿模式、上光照补偿模式和左光照补偿模式之间是由不同位置相邻边的像素确定得到的。
解码器可以根据目标光照补偿模式的索引信息,确定是哪种光照补偿模式,因此可以确定出该终光照补偿模式采用的相邻边是哪种,从而确定出当前帧的重建像素和参考帧的重建参考像素;在至少基于当前帧的重建像素和参考帧的重建参考像素来依次对每个子块进行光照补偿的处理。
在本申请实施例中,至少两个子块是可以有处理顺序的,例如左上区域的子块优先处理,右上区域的子块次之,右下区域的子块再次之等,本申请实施例不作限制。解码器可以根据当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数,利用第h个模型参数,构建第h个区域对应的第h个目标光照补偿模式,利用第h个目标光照补偿模式对第h个区域进行光照补偿,从而得到第h个区域的第h个区域预测块的光照预测值;在继续下一个区域的光照补偿处理,直至处理完至少两个子块的光照补偿处理时为止。
可以理解的是,解码器在对当前块进行解码的过程中,在对当前块进行了光照补偿功能的前提下(即当前块的光照补偿使用标识为有效时),可以对当前块进行块区域的划分,得到至少两个子块,针对每个子块可以计算出各自对应的目标光照补偿模式,再基于各自的目标光照补偿模式进行光照补偿,这样由于针对子块有针对性的进行了目标光照模式的确定,可以更精准的针对不同子块进行有效的针对处理,从而提高了解码的精细度以及解码的性能。
需要说明的是,解码器计算线性模型参数(即模型参数)时,可以将当前块划分成若干个指定大小的区域,分别计算线性模型参数并作用在相应大小的区域。
在本申请的一些实施例中,解码器基于当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数的方式有一下至少一种:
方式一:若参考帧的重建参考像素中存在与第h个区域相邻的第h个相邻重建参考像素,则基于第h个相邻重建参考像素,以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数;若h不为1,且参考帧的重建参考像素中不存在与第h个区域相邻的重建参考像素,则基于第h-1个区域预测块中的相邻像素,以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数。
需要说明的是,解码器计算线性模型使用的参考样本可以是各自区域对应的相邻重建样本(相邻重建参考像素),若相邻区域重建样本不存在,则可以使用块内的相邻区域已做光照补偿后的预测样本(区域预测块)来参与此次计算线性模型。
示例性的,若当前解码单元大小为32x32,则将其划分成4个16x16大小的样本区域分别计算各自的线性模型并线性补偿于各自的16x16大小样本区域。
方式二:
若h不为1,参考帧的重建参考像素中存在与第h个区域相邻的第h个相邻重建参考像素,则基于第h个相邻重建参考像素,第1个区域预测块至第h-1个区域预测块中的相邻像素以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数;若h不为1,且参考帧的重建参考像素中不存在与第h个区域相邻的重建参考像素,则基于第1个区域预测块至第h-1个区域预测块中的相邻像素,以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数。
需要说明的是,上述光照补偿技术在计算线性模型参数时,可以将当前块划分成若干个指定大小的区域,并允许存在像素的继承关系。后一个区域在进行相邻重建参考像素的确定时,可以采用当前块的相邻重建参考像素,也可以采用当前块中的当前子块的相邻子块的相邻参考像素(即前面区域的区域预测块中的像素)。如果当前子块有相邻的重建参考像素,则使用该相邻的重建参考像素进行当前子块对应的模型参数的计算,但当前子块没有相邻的重建参考像素,则使用前面区域的区域预测块中的像素进行当前子块对应的模型参数的计算。
示例性的,若当前块大小为32x32,则将其划分成4个16x16大小的样本区域。假定左上16x16大小的样本区域1首先进行光照补偿,其次为右上16x16大小的样本区域2进行光照补偿,则右上16x16样本区域可以使用左上和右上两个16x16样本区域内所有的预测样本和它们所相邻的重建样本进行光照补偿线性模型的计算。
在本申请的一些实施例中,如果当前子块有相邻的重建参考像素,则使用该相邻的重建参考像素,以及前面区域的区域预测块中至少一个区域预测块的像素进行当前子块对应的模型参数的计算。但当前子块没有相邻的重建参考像素,则使用前面区域的区域预测块中至少一个区域预测块的像素进行当前子块对应的模型参数的计算。其中,至少一个区域预测块是几个不作限制,可以是全量,也可以是局部的。
需要说明的是,当h为1,则没有继承当前块的像素关系的,是根据第1个相邻重建参考像素和当前帧的重建像素中第1个区域的重建像素进行第1个模型参数计算的。
方式三:
解码器基于当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数之后,若h不为1,则基于获取的第1个模型参数至第h-1个新模型参数中的至少一个,与第h个模型参数进行加权处理,得到第h个新模型参数;基于第h个新模型参数,对第h个区域进行光照补偿,得到第h个区域预测块。
需要说明的是,上述光照补偿技术在计算线性模型参数时,可以将当前块划分成若干个指定大小的区域,并允许存在模型参数的继承关系。后一个区域在计算模型参数时,可以采用方式一或方式二的方式计算出模型参数后,再结合前面区域计算得到的模型参数(可以是直接方式一和方式二计算得到的模型参数,也可以是前面区域进行加权处理得到的新模型参数)中的至少一个进行加权处理,得到此次最终的模型参数,即新模型参数。
需要说明的是,若h为1,第1个模型参数也是第1个新模型参数。
在本申请实施例中,加权的权重信息,可以是当前子块自己计算的模型参数的权重最大,与该当前子块相邻的子块计算的模型参数的权重次之,即可以按照与当前子块的相关程度进行权重的分布,越相关,则权重越大。其中,权重分布本申请实施例不作限制。
示例性的,若当前块大小为32x32,则将其划分成4个16x16大小的样本区域。右上16x16样本区域2做光照补偿时可以参考已光照补偿的信息,如右上16x16样本区域2在仅用所属的预测样本和相邻样本计算线性参数后,可以参考左上16x16样本区域1的线性参数。简单地可以进行如加权操作等,得到新的线性模型参数作用于右上16x16样本区域2进行光照补偿。样本区域2计算新模型参数的时候,将样本区域1计算得到的模型参数a1和b1,与样本区域2计算出的a2和b2参数进行继承,将a1和a2加权,得到最终的样本区域2的a,将b1和b2加权,得到最终的样本区域2的b。
需要说明的是,模型参数包括缩放因子a和偏移因子b。
在本申请的一些实施例中,解码器解析码流时,获取块区域划分标识;若块区域划分标识为有效,则对当前块进行划分,得到至少两个子块;若块区域划分标识为无效,则计算当前块的块模型参数。
需要说明的是,块区域划分标识可以有,也可以默认直接进行块划分就不传输了,以减少码字,本申请实施例不作限制。
在本申请实施例中,解码器不对当前块划分区域来进行线性模型参数的计算,而是作为一个整体来进行模型参数的计算的,而计算当前块的块模型参数(在进行光照补偿的情况下)。
需要说明的是,上左光照补偿模式、上光照补偿模式和左光照补偿模式均是公式(1)所示的模型原理得到的,不同的是,得到上左光照补偿模式、上光照补偿模式和左光照补偿模式的模型参数,即缩放因子和偏移因子时,采用的当前帧的重建像素和参考帧的重建参考像素的相邻边不同。其中,上左光照补偿模式主要用的是上相邻和左相邻,上光照补偿模式用上相邻,而左光照补偿模式则采用左相邻。
在本申请的一些实施例中,解码器采用目标光照补偿模式的索引信息,确定目标光照补偿模式的详细实现过程可以为:解码器根据目标光照补偿模式的索引信息,确定当前帧的重建像素和参考帧的重建参考像素;基于当前帧的当前块的重建像素和参考帧的重建参考像素,确定目标光照补偿模式的模型参数,进而确定目标光照补偿模式。
在本申请的一些实施例中,解码器基于当前帧的重建像素和参考帧的重建参考像素,确定目标光照补偿模式的实现可以为:
基于当前帧的当前块的上重建像素、左重建像素,以及对应像素位置相同的参考帧的上重建参考像素和左重建参考像素,确定目标光照补偿模式为上左光照补偿模式;或者,
基于当前帧的当前块的上重建像素,以及对应像素位置相同的参考帧的上重建参考像素,确定目标光照补偿模式为上光照补偿模式;
基于当前帧的当前块的左重建像素,以及对应像素位置相同的参考帧的左重建参考像素,确定目标光照补偿模式为左光照补偿模式。
在本申请的一些实施例中,当前帧的上重建像素包括:当前帧内的当前块的上一行相邻重建块的至少一个第一像素;
当前帧的左重建像素包括:当前帧内的当前块的左一列相邻重建块的至少一个第二像素;
参考帧的上重建参考像素包括:参考帧内的初始预测块的上一行相邻重建参考块的至少一个第三像素,或者,参考帧内的初始预测块内的第N行的至少一个第四像素;N为大于等于1小于当前块的行数的正整数;
参考帧的左重建参考像素包括:参考帧内的初始预测块的左一列相邻重建参考块的至少一个第五像素,或者,参考帧内的初始预测块内的第M列的至少一个第六像素。M为大于等于1小于当前块的列数的正整数。
示例性的,如图9所示,光照补偿模式IC_T中,当前帧中采用上一行相邻重建块的第5个像素,参考帧中内的某一行相邻重建参考块的第5个像素。
示例性的,如图10所示,光照补偿模式IC_L中,当前帧中采用左一列相邻重建块的第1个像素,参考帧中采用左一列相邻重建参考块的第1个像素。
示例性的,如图11所示,运动信息补偿完,得到运动补偿后的预测块,再进行光照补偿时,光照补偿模式IC_T中,当前帧中采用上一行相邻重建块的第5个像素,预测块中的某一行的第5个预测像素。
在本申请实施例中,参考帧还可以采用参考块内的某一行或某一列的像素,即在本申请的一些实施例中,光照补偿技术获取参考帧中重建参考像素的像素位置和个数可以为参考帧中参考块内的任意位置和大于0的整数个数,如运动信息所指向的参考块内第一行和/或第一列,本申请实施例不作限制,此外,当前帧中重建像素获取的像素位置和个数应与上述参考帧中获取重建像素的位置和个数一致。
需要说明的是,要是当前块进行划分时,当前块的重建像素就是指每个子块在进行模型参数计算时的子块的重建像素。
可以理解的是,由于解码器在对当前块进行编码的过程中,在使用了光照补偿技术的情况下,通过码流解析的目标光照补偿模式的索引信息,从上左光照补偿模式、上光照补偿模式和左光照补偿模式,确定出采用哪种光照补偿模式进行光照补偿。在此过程中,由于上左光照补偿模式、上光照补偿模式和左光照补偿模式之间是由不同位置相邻边的像素确定得到的,是基于不同的相邻边的考虑,可以采用不同的光照补偿模式进行光照补偿的。因此,针对不同相邻边的像素差异较大的情况,能够基于不同的像素位置,对应不同的光照补偿模型,通过选择不同的光照补偿模型进行当前块的预测过程,提高解码精度。
在本申请的一些实施例中,解码器在解析码流时,还可以获取当前运动信息和当前预测模式;根据目标光照补偿模式的索引信息、当前预测模式和当前运动信息,对当前块进行预测,得到预测值。
在本申请的一些实施例中,解码器可以基于当前运动信息,确定当前块对应的初始预测块;对初始预测块进行运动补偿,得到第一预测块;采用目标光照补偿模式的索引信息,确定模型参数;采用模型参数,确定目标光照补偿模式,进而采用目标光照补偿模式对第一预测块进行光照补偿处理,得到第二预测块;采用当前预测模式,对第二预测块进行帧间预测,得到预测值。
在本申请的一些实施例中,解码器根据目标光照补偿模式的索引信息、当前预测模式和当前运动信息,对当前块进行帧间预测,得到预测值的实现可以包括以下三种方式:
方式一:
解码器采用目标光照补偿模式的索引信息,确定目标光照补偿模式;基于当前运动信息,确定当前块对应的初始预测块;对初始预测块进行运动补偿,得到第一预测块;采用目标光照补偿模式,对第一预测块进行光照补偿处理,得到第二预测块;采用当前预测模式,对第二预测块进行帧间预测,得到预测值。
方式二:
解码器采用目标光照补偿模式的索引信息,确定目标光照补偿模式;基于当前运动信息,确定当前块对应的初始预测块;采用目标光照补偿模式,对初始预测块进行光照补偿处理,得到第三预测块;对第三预测块进行运动补偿,得到第四预测块;采用当前预测模式,对第四预测块进行帧间预测,得到预测值。
方式三:
解码器基于当前运动信息,确定当前块对应的初始预测块;对初始预测块进行运动补偿,得到第一预测块;采用目标光照补偿模式的索引信息,确定目标光照补偿模式;采用目标光照补偿模式,对第一预测块进行光照补偿处理,得到第二预测块;采用当前预测模式,对第二预测块进行帧间预测,得到预测值。
解码器可以先确定出目标光照补偿模式,然后基于目标光照补偿模式,进行光照补偿的过程可以作用在运动补偿之前,也可以作用在运动补偿之后。其中,方式一为光照补偿处理作用在运动补偿之后,方式二为光照补偿处理作用在进行运动补偿之前,本申请实施例不作限制。
在本申请实施例中,解码器进行目标光照补偿模式的计算时,使用的参考帧的参考块的重建参考像素可以是未经运动补偿之后的像素,也可以是运动补偿之后的像素。其中,方式三为参考帧的参考块的重建参考像素是在运动补偿之后的像素,方式一为参考帧的参考块的重建参考像素是在运动补偿之前的像素,本申请实施例不作限制。
可以理解的是,光照补偿处理在运动补偿进行之前进行时,可以减少硬件实现的难度,减少实现复杂度,而光照补偿处理在运动补偿之后进行时,编解码效果更好。
在本申请的一些实施例中,目标光照补偿模式的索引信息包括:第一索引信息和第二索引信息。
在本申请实施例中,解码器可以根据目标光照补偿模式的索引信息确定出目标光照补偿模式是采用的哪种相邻边进行模型计算的,然后直接根据公式(2)-(4)求解对应的缩放因子和偏移因子,最终代入公式(1),得到目标光照补偿模式。
在本申请的一些实施例中,解码器在当前块的光照补偿使用标识有效时,才判断用哪个光照补偿模式。在当前块的光照补偿使用标识无效时,就不采用光照补偿处理。
在本申请实施例中,解码器采用目标光照补偿模式的索引信息,确定目标光照补偿模式的实现可以包括以下两种方式:
方式一:若第一索引信息为无效,则确定目标光照补偿模式为上左光照补偿模式;
若第一索引信息为有效、且第二索引信息为无效,则确定目标光照补偿模式为上光照补偿模式;
若第一索引信息为有效、且第二索引信息为有效,则确定目标光照补偿模式为左光照补偿模式。
方式二:若第一索引信息为有效,则确定目标光照补偿模式为上左光照补偿模式;
若第一索引信息为无效、且第二索引信息为无效时,则确定目标光照补偿模式为上光照补偿模式;
若第一索引信息为无效、且第二索引信息为有效时,则确定目标光照补偿模式为左光照补偿模式。
需要说明的是,解码器采用第一索引信息和第二索引信息的不同表示来体现三种光照补偿模式。
示例性的,光照补偿处理过程中的码字传输语法如表1所示。
表1
其中,IC_Index为光照补偿模式的类型,包括:IC_TL、IC_T和IC_L,IC_flag表示光照补偿使用标识,IC_index0为第一索引信息,IC_index1为第二索引信息。下面以1为有效,0为无效来描述表1的语法逻辑。
在本申请实施例中,针对表1,光照补偿使用标识位无效时,没有可用的光照补偿模式;只有在光照补偿使用标识位有效时,若IC_index0为无效,则确定目标光照补偿模式为IC_TL;
若IC_index0为有效、且IC_index1为无效,则确定目标光照补偿模式为IC_T;
若IC_index0为有效、且IC_index1为有效,则确定目标光照补偿模式为IC_L。
需要说明的是,除了上述两种之外,将目标光照补偿模式为IC_L和目标光照补偿模式为IC_T的索引信息交换也可以实现,或者,将0表示有效,1表示无效,来实现上述的判断逻辑也是可行的,本申请实施例不作限制。
示例性的,以1表征有效,0表征无效进行帧间预测时的举例说明。
解码器获取码流,解析码流得到当前视频序列的光照补偿允许标识。
在帧内预测解码过程中,若光照补偿允许标识位为‘1’,则解析当前帧的光照补偿帧级允许标识位,若该光照补偿帧级允许标识位为‘1’,则执行如下所有步骤;若光照补偿允许标识位为‘0’或光照补偿帧级允许标识位为‘0’,则仅执行a)、b)、d)和f)步骤:
a)、获取码流并解码得到残差信息,经过反变换与反量化等过程得到时域残差信息;
b)、解析码流得到当前解码块的帧间预测模式及MV索引;
c)、解析码流得到当前解码块的IC使用标识位,以表1语法为例,若当前解码块的IC使用标识位为真,则继续解析码流得到当前解码块的第一位光照补偿模式索引标识位,否则当前解码单元不使用光照补偿技术;若第一位光照补偿模式索引标识位为真;则继续解析第二位光照补偿模式索引标识位,否则置光照补偿模式索引为1,表示使用第一个光照补偿线性模型IC_TL(可使用上边和左边重建像素进行光照补偿线性模型计算);若解析得到第二位光照补偿模式索引标识位为真,则置光照补偿模式索引为3,表示使用第三个光照补偿线性模式IC_L(仅可使用左边重建像素进行光照补偿线性模型计算),否则置光照补偿模式索引为2,表示使用第二个光照补偿线性模式IC_T(仅可使用上边重建像素进行光照补偿线性模型计算)。根据解析得到的光照补偿模式索引获取对应位置的重建像素计算线性模型参数,得到缩放因子a和偏移因子b;
d)、对当前解码块做运动补偿得到预测块;
e)、若光照补偿使用标识位不为0,即需要对当前预测块做光照补偿,则根据c)求解得到的缩放因子a和偏移因子b对当前预测块内所有像素进行线性偏移,得到最终预测块;
将最终的预测块;
f)、叠加步骤a)还原后的残差信息得到当前解码单元的重建块,经后处理输出。
可以理解的是,目标光照补偿模式的索引信息只占用两个码字,可以节省码流。
需要说明的是,上述计算线性模型参数过程中,可以是对所有像素值进行排序后,去除最大值和最小值,求取两个最大值的平均值和两个最小值的平均值;也可以是间隔性取点,如上侧第一个点及倒数第二个点,左侧第一个点及倒数第二个点,进行排序求取两个较大值的平均值和两个较小值的平均值,之后计算步骤与前述一致。
在本申请的一些实施例中,至少一个第一像素为当前块的上一行相邻重建块中相隔预设间隔像素位置的像素;
至少一个第二像素为当前块的左一列相邻重建块中相隔预设间隔像素位置的像素;
至少一个第三像素为初始预测块的上一行相邻重建参考块中相隔预设间隔像素位置的像素;
至少一个第四像素为初始预测块内的第N行像素中相隔预设间隔像素位置的像素;
至少一个第五像素为初始预测块的左一列相邻重建参考块中相隔预设间隔像素位置的像素;
至少一个第六像素为初始预测块内的第M列像素中相隔预设间隔像素位置的像素。
在本申请实施例中,解码器计算目标光照补偿模式的a和b的过程中,可以是对所有像素值进行排序后,去除最大值和最小值,求取两个最大值的平均值和两个最小值的平均值,即前述实施例描述的过程一致;也可以是解码器在像素位置上间隔性取点,如上侧第一个点及倒数第二个点,左侧第一个点及倒数第二个点,再进行排序求取两个较大值的平均值和两个较小值的平均值,之后再按照公式(2)-(4)计算a和b,从而得到公式(1)的目标光照补偿模式。如下:
在本申请的一些实施例中,解码器基于当前帧的上重建像素、左重建像素,以及对应像素位置相同的参考帧的上重建参考像素和左重建参考像素,确定目标光照补偿模式为上左光照补偿模式的实现为:
对至少一个第一像素的至少一个第一像素值和至少一个第二像素的至少一个第二像素值进行排序,确定出前n个最大第一像素值和前n个最小第一像素值;n为大于等于1小于当前块的列数和行数的正整数;
对至少一个第三像素和至少一个第四像素中的一种,与至少一个第五像素和至少一个第六像素中的一种进行排序,确定前n个最大第二像素值和前n个最小第二像素值;
确定前n个最大第一像素值的第一最大平均值、前n个最小第一像素值的第一最小平均值、前n个最大第二像素值的第二最大平均值和前n个最小第二像素值的第二最小平均值;
根据第一最大平均值、第一最小平均值、第二最大平均值和第二最小平均值,确定第一缩放因子和第一偏移因子;
基于第一缩放因子、第一偏移因子和初始上左光照补偿模式,确定上左光照补偿模式,上左光照补偿模式为目标光照补偿模式。
在本申请的一些实施例中,解码器基于当前帧的上重建像素,以及对应像素位置相同的参考帧的上重建参考像素,确定目标光照补偿模式为上光照补偿模式的实现为:
对至少一个第一像素的至少一个第一像素值进行排序,确定出前m个最大第三像素值和前m个最小第三像素值;m为大于等于1小于当前块的列数和行数的正整数;
对至少一个第三像素或至少一个第四像素进行排序,确定前m个最大第四像素值和前m个最小第四像素值;
确定前m个最大第三像素值的第三最大平均值、前m个最小第三像素值的第三最小平均值、前m个最大第四像素值的第四最大平均值和前m个最小第四像素值的第四最小平均值;
根据第三最大平均值、第三最小平均值、第四最大平均值和第四最小平均值,确定第二缩放因子和第二偏移因子;
基于第二缩放因子、第二偏移因子和初始上光照补偿模式,确定上光照补偿模式,上光照补偿模式为目标光照补偿模。
在本申请的一些实施例中,解码器基于当前帧的左重建像素,以及对应像素位置相同的参考帧的左重建参考像素,确定目标光照补偿模式为左光照补偿模式的实现如下:
对至少一个第一像素的至少一个第二像素值进行排序,确定出前h个最大第五像素值和前h个最小第五像素值;h为大于等于1小于当前块的列数和行数的正整数;
对至少一个第五像素或至少一个第六像素进行排序,确定前h个最大第六像素值和前h个最小第六像素值;
确定前h个最大第五像素值的第五最大平均值、前h个最小第五像素值的第五最小平均值、前h个最大第六像素值的第六最大平均值和前h个最小第六像素值的第六最小平均值;
根据第五最大平均值、第五最小平均值、第六最大平均值和第六最小平均值,确定第三缩放因子和第三偏移因子;
基于第三缩放因子、第三偏移因子和初始左光照补偿模式,确定左光照补偿模式,左光照补偿模式为目标光照补偿模。
在本申请的一些实施例中,上述的光照补偿处理作用在双向光流技术、解码端运动矢量修正、双向预测加权、双向梯度修正、帧间预测滤波或帧间帧内联合预测的实现流程中的任一位置。
其中,光照补偿技术可以作用在其他如双向光流技术(Bi-directional opticalflow,BDOF/BIO)解码端运动矢量修正(Decoder side Motion Vector Refinement,DMVR)、双向预测加权(Bi-prediction with CU-level Weights,BCW)、双向梯度修正(Bi-directional Gradient Correction,BGC)、帧间预测滤波(Inter Prediction Filtering,INTERPF)或帧间帧内联合预测(Combined Inter and Intra Prediction,CIIP)中的任一位置,如光照补偿技术作用在双向光流技术和双向加权预测技术之前等,本申请实施例不作限制。
在本申请的一些实施例中,双向光流技术、解码端运动矢量修正、双向预测加权、双向梯度修正、帧间预测滤波或帧间帧内联合预测中的至少一种的处理,与光照补偿处理不作用于同一个当前块。
上述光照补偿技术可以不和其他技术共同作用于同一当前块,如若当前块使用IC技术,则不再对当前块使用BDOF/BIO进行修正补偿等上述技术,本申请实施例不作限制。
在本申请的一些实施例中,上左光照补偿模式包括:亮度上左光照补偿模式,第一色度上左光照补偿模式和第二色度上左光照补偿模式;
上光照补偿模式包括:亮度上光照补偿模式,第一色度上光照补偿模式和第二色度上光照补偿模式;
左光照补偿模式包括:亮度左光照补偿模式,第一色度左光照补偿模式和第二色度左光照补偿模式。
在本申请实施例中,光照补偿技术在不同颜色分量之间需要重新计算线性模型,如YUV颜色空间则需要分别对Y、U和V计算对应于三个颜色分量的线性模型。
需要说明的是,当前CU可以限制最小面积和最大面积进行IC技术。
在本申请的一些实施例中,当前块的尺寸范围在像素个数为64与像素个数为128x128之间。
本申请实施例不限制具体的面积大小。光照补偿技术使用做编码单元级的面积限制或宽、高限制,如最小面积为64,最大为128x128。
在本申请的一些实施例中,解码器可以解析码流,获取当前帧的帧级光照补偿允许标识;将帧级光照补偿允许标识作为光照补偿允许标识,再进行解码处理流程。
光照补偿技术增加帧级开关,解码端解析帧级开关判断是否继续解析当前帧的编码单元级光照补偿使用标识和光照补偿模式的索引信息。
在本申请的一些实施例中,解码器可以解析码流,获取当前帧的帧级预测模式光照补偿允许标识;将帧级预测模式光照补偿允许标识作为光照补偿允许标识,再进行解码处理流程。
本申请实施例中,解码器增加特定于普通帧间预测模式或SKIP、MERGE(DIRECT)的帧级标识位,用于限制上述某些预测模式下光照补偿技术的使用,但不限于这些,也可以是其他特定预测模式,可以依据实际设定来决定。
在本申请的一些实施例中,上左光照补偿模式包括:多个子上左光照补偿模式;多个子上左光照补偿作用于初始预测块的不同像素区域;
上光照补偿模式包括:多个子上光照补偿模式;多个子上光照补偿作用于初始预测块的不同像素区域;
左光照补偿模式包括:多个子左光照补偿模式;多个子左光照补偿作用于初始预测块的不同像素区域。
需要说明的是,一个编码单元块内可以求解多个线性模型,并作用于当前块内的不同区域,从而使得同一个块都可以基于自己的特性来进行光照补偿模式的选择,更贴合自己的特定来进行光照补偿,提高了解码精度。
示例性的,帧间预测的解码部分,为帧间预测在需要光照补偿或局部线性偏移等操作上提供选择。对于当前帧与参考帧在亮度上存在明显变化的区域,使用光照补偿技术可以计算出线性偏移模型,对当前编码块做光照补偿后,预测块将更接近原始图像块,使得残差更小,最终将提高编码效率。
可以理解的是,本申请的光照补偿方法为帧间预测等在需要光照补偿或局部线性偏移等操作上提供选择。对于当前帧与参考帧在亮度上存在明显变化的区域,使用光照补偿技术可以计算出线性偏移模型,对当前编码块做补偿后,预测块将更接近原始图像块,使得残差更小,最终将提高编码效率。
采用本申请的光照补偿方法在AVS的官方仿真平台HPM10.0上进行了测试,集成了IC技术并开启后,针对class为4K、1080P和720P时,在随机访问和低延迟测试条件下,测试结果如表2所示。表2为随机访问测试条件的结果。
表2
其中,在随机访问测试条件下,亮度分量具有0.38%的BDBR节省,UV分量各有0.27%和0.14%的BDBR节省,能够明显看出具有较高的性能,有效提升解码器的解码效率。其次,在低延迟测试条件下,亮度分量、UV分量也有BDBR节省,能够明显看出具有较高的性能,有效提升编码器的编码效率。
从应用角度来看,低延迟测试条件主要面对如直播行业、公共服务视频等应用,在互联网如此发达的时代,该技术将有效降低码率及带宽。
需要说明的是,本申请实施例的光照补偿还可以应用在帧间非矩形块预测技术中使用,即如VVC中的GPM(geometric partitioning mode)、AVS中的AWP(Angular WeightedPrediction)技术中使用光照补偿技术。当解码端将两个参考帧运动补偿后的预测块通过某种方式进行结合得到一个新的预测块后,可以使用光照补偿技术进行预测补偿。上述某种方式可以是分别取不同预测块的非矩形区域预测样本进行结合。也就是说,当前块为一个运动信息指定的第一子预测块的非矩形区域和另一个运动信息指定的第一预测块的互补非矩形区域拼接得到第二子预测块,该帧间非矩形块预测技术可以是VVC中的GPM,也可以是AVS中的AWP,或者是AV中的inter-inter等,在此不做限定,
采用目标光照补偿模式,对第二子预测块进行光照补偿处理,得到目标预测块,目标预测块即为当前块的最终预测块。
在本申请的一些实施例中,光照补偿方法可以在图像集(GOP,group of picture)中增加一个标识位,即图像集级别光照补偿允许标识,用于表示当前GOP是否开启光照补偿技术,该图像集级别光照补偿允许标识需要写入码流,这是在解码端解析,若光照补偿允许标识为有效,则获取码流中的图像集级别光照补偿允许标识;若图像集级别光照补偿允许标识为有效,则获取码流中的光照补偿帧级允许标识。示例性的,在特定的配置下,视频有500帧,500帧中25帧是一个图像集,图像集级别的允许标识为1的每帧才有帧级图像允许标识,即光照补偿帧级允许标识,这样可以进一步的节省码流开销。
在本申请的一些实施例中,光照补偿方法可以在仿射变换预测技术中使用,即如VVC中的AFFINE、PROF(Prediction Refinement with Optical Flow for affine)这个是AFFINE的改进、AVS中的AFFINE、AFFINE_UMVE(Ultimate Motion Vector Expression)、ASP(Affine Secondary Prediction,类似VVC那边的PROF)等技术中使用光照补偿技术。即解码端将参考块根据仿射变换参数做完仿射运动补偿后的预测块进行光照补偿。
在本申请实施例中,解码器解析码流时,获取当前仿射变换参数;基于当前仿射变换参数,对当前块进行仿射运动补偿,得到第三预测块;采用目标光照补偿模式的索引信息,确定模型参数;采用模型参数,对第三预测块进行光照补偿处理,得到第四预测块;第四预测块即为当前块的最终预测块。
在本申请实施例中,解码器解析码流时,获取修正的运动信息;基于修正的运动信息,对当前块进行运动补偿后,得到第五预测块(即,运动补偿后的预测块);采用目标光照补偿模式的索引信息,确定模型参数;采用模型参数,对第五预测块进行光照补偿处理,得到第六预测块(即,光照补偿后的预测块)。第六预测块即为当前块的最终预测块。
其中,修正的运动信息为高级运动信息表达、时域运动信息的改进、运动矢量角度预测,合并模式的运动矢量差值偏移中的任意一种方式确定的。
在本申请实施例中,光照补偿方法可以在任何修改MV的技术中使用,即如VVC中的合并模式的运动矢量差值偏移(MMVD,Merge mode with MVD)等、AVS中的高级运动信息表达(UMVE,Ultimate Motion Vector Expression)、时域运动信息的改进(ETMVP,EnhancedTemporal Motion Vector Prediction)、运动矢量角度预测(MVAP,Motion VectorAngular Prediction)等技术中使用光照补偿技术。即解码端将MV修正/提升后对应参考块运动补偿后的预测块进行光照补偿。
可以理解的是,由于解码器在对当前块进行解码的过程中,在使用了光照补偿技术的情况下,可以直接从码流中获取到帧级别的光照补偿帧级允许标识,这样解码器就可以先从帧级别判断是否需要继续解析块级别的光照补偿使用标识了,只有在光照补偿帧级允许标识有效的情况下,才能获取码流中的下一级标识,进而进行后续的解码,从而进行当前块预测(例如帧间预测)了。因此,在光照补偿帧级允许标识无效的情况下,码流的传输比特会大大降低,这样在基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,就可以节省编解码的比特开销,提高编解码的性能。
本申请实施例提供一种光照补偿方法,该方法应用于视频编码设备,即编码器。该方法所实现的功能可以通过视频编码设备中的第二处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该视频编码设备至少包括第二处理器和第二存储介质。
图12为本申请实施例一种光照补偿方法的实现流程示意图,如图12所示,该方法包括:
S201、基于当前帧的亮度信息,确定光照补偿帧级允许标识。
S202、若光照补偿帧级允许标识为有效,则当前帧开启光照补偿功能,对当前帧的当前块允许进行光照补偿,得到光照预测值。
S203、将光照补偿帧级允许标识写入码流。
本申请实施例提供的一种光照补偿方法可以用于预测技术的多种应用场景中,例如帧间预测,帧间非矩形预测、仿射变换预测等,本申请实施例不作限制。示例性的,在帧间预测基础上,可以叠加使用光照补偿技术实现帧间预测。即IC允许的情况下,进行编码器侧的帧间预测过程。
在本申请实施例中,视频图像可以划分为多个图像块,每个当前待编码的图像块可以称为编码块,其中,每个编码块可以包括第一图像分量、第二图像分量和第三图像分量;而当前块为视频图像中当前待进行第一图像分量、第二图像分量或者第三图像分量预测的编码块。
其中,假定当前块进行第一图像分量预测,而且第一图像分量为亮度分量,即待预测图像分量为亮度分量,那么当前块也可以称为亮度块;或者,假定当前块进行第二图像分量预测,而且第二图像分量为色度分量,即待预测图像分量为色度分量,那么当前块也可以称为色度块。
在本申请的一些实施例中,编码器基于当前帧的亮度信息,确定光照补偿帧级允许标识。若光照补偿帧级允许标识为有效,则当前帧开启光照补偿功能,对当前帧的当前块允许或者开启进行光照补偿,进而通过遍历不同的光照补偿模式,得到对应的光照预测值,并将光照补偿帧级允许标识写入码流。
在本申请的一些实施例中,光照补偿帧级允许标识包括:至少一个光照补偿帧级允许标识。也就是说,本申请实施例可以有一个帧级的光照补偿允许标识位来表示当前待编码图像帧(即当前帧)开启光照补偿技术;也可以使用多个帧级的光照补偿允许标识位来表示当前待编码图像帧开启光照补偿技术。
在本申请的一些实施例中,若至少一个亮度差异值中存在大于预设亮度变化阈值的亮度差异值,编码器则确定出与该亮度差异值对应的有效的光照补偿帧级允许标识;否则,确定出无效的光照补偿帧级允许标识。
需要说明的是,编码器可以设置一个预设亮度变化阈值,那么针对当前帧与至少一个参考帧之间的至少一个亮度差异值都跟该预设亮度变化阈值进行比较,就可以确定出当前帧的光照补偿帧级允许标识了。详细的,至少一个亮度差异值中存在大于预设亮度变化阈值的亮度差异值,该亮度差异值对应的有效的光照补偿帧级允许标识,即当前帧的光照补偿帧级允许标识为有效;至少一个亮度差异值均小于或等于预设亮度变化阈值时,当前帧的光照补偿帧级允许标识为无效。
在本申请实施例中,至少一个光照补偿帧级允许标识可以与当前帧的不同预测模式一一对应;或者,至少一个光照补偿帧级允许标识可以与当前帧的不同区域一一对应。也就是说,采用不同的预测模式,或者针对一帧图像的不同图像区域,可以不同的光照补偿帧级允许标识。在本申请的一些实施例中,光照补偿帧级允许标识包括:与预测模式对应的N级光照补偿帧级允许标识;在这种情况下,编码器基于当前帧的亮度信息,确定光照补偿帧级允许标识的过程可以为:编码器基于当前帧的亮度信息,确定当前帧与至少一个参考帧之间的至少一个亮度差异值;基于至少一个亮度差异值和预设亮度变化阈值,确定光照补偿帧级允许标识。
在本申请的一些实施例中,预设亮度变化阈值包括:第一预设亮度变化阈值和第二预设亮度变化阈值;第二亮度变化阈值大于第一预设亮度变化阈值;光照补偿帧级允许标识包括:与预测模式对应的N级光照补偿帧级允许标识。N为大于或等于1的正整数。
编码器基于至少一个亮度差异值和预设亮度变化阈值,确定光照补偿帧级允许标识的过程还可以为:若至少一个亮度差异值均大于第二预设亮度变化阈值,则N级光照补偿帧级允许标识均为有效;若至少一个亮度差异值均小于第一预设亮度变化阈值,则N级光照补偿帧级允许标识均为无效;若至少一个亮度差异值均大于第一预设亮度变化阈值,且均小于第二预设亮度变化阈值,则第1级光照补偿帧级允许标识为有效,其他级光照补偿帧级允许标识均为无效。
在本申请的一些实施例中,预测模式可以包括:合并模式/直接导出模式、跳过模式和普通帧间模式等,本申请实施例不作限制。
示例性的,当N=3时,第1级光照补偿帧级允许标识对应合并模式/直接导出模式;第2级光照补偿帧级允许标识对应跳过模式,第3级光照补偿帧级允许标识对应普通帧间模式。
需要说明的是,针对不同的预测模式,编码器可以根据预测模式的个数确定出不同的阈值区间,来确定不同阈值范围时,哪些预测模式可以开启光照补偿功能或技术。以3种模式为例,本申请实施例可以采用第一预设亮度变化阈值和第二预设亮度变化阈值划分为3个阈值范围,若至少一个亮度差异值均大于最大的预设亮度变化阈值,则所有预测模式都开启光照补偿功能。若至少一个亮度差异值均小于最小的预设亮度变化阈值,则所有预测模式都不开启光照补偿功能。若存在属于最小的预设亮度变化阈值与最大的预设亮度变化阈值之间的不同阈值范围时,可以每个阈值范围确定对应一种或几种预测模式,来开启光照补偿功能。
在本申请实施例中,若至少一个亮度差异值均大于第一预设亮度变化阈值,且均小于第二预设亮度变化阈值,则确定第1级光照补偿帧级允许标识为有效,其他级光照补偿帧级允许标识均为无效。
可以理解的是,编码器可以根据不同预测模式,来确定哪些预测模式是开启了光照补偿技术的,哪些是未开启该光照补偿模式的,进而可以从帧级就将开启光照补偿技术的当前帧的一部分码字,传输码流,其他情况不传输码字,从而节省了码字开销,提高了解压缩的效率。
在本申请的一些实施例中,编码器还可以对当前帧进行区域划分,得到M个图像区域和有效的图像区域划分标识;计算M个图像区域的亮度信息,得到对应的M个亮度信息;并将图像区域划分标识写入码流。M为大于或等于1的正整数。
需要说明的是,解码器可以针对当前帧划分的不同图像区域,设置不同的光照补偿帧级允许标识。在本申请实施例中,当前帧划分为M个图像区域。
在本申请的一些实施例中,光照补偿帧级允许标识包括:与图像区域对应的M个光照补偿帧级允许标识。在这种情况下,当前帧的亮度信息包括:M个图像区域的亮度信息M个亮度信息;
在本申请的一些实施例中,编码器可以基于当前帧的亮度信息,确定光照补偿帧级允许标识的过程可以为:编码器基于M个亮度信息与预设亮度信息阈值,确定光照补偿帧级允许标识。或者,
若M个亮度信息中存在大于预设亮度信息阈值的亮度信息,编码器则确定出与该亮度信息对应的有效的光照补偿帧级允许标识;否则,确定出无效的光照补偿帧级允许标识,直至M个亮度信息比较完时,得到M个光照补偿帧级允许标识。
需要说明的是,每个亮度信息与预设亮度信息阈值进行比较,若大于预设亮度信息阈值,那么这个亮度信息对应的图像区域的光照补偿帧级允许标识就为有效,否则为无效。
在本申请的一些实施例中,亮度信息的计算可以通过亮度直方图来计算。
在本申请的一些实施例中,光照补偿模式包括:上左光照补偿模式、上光照补偿模式和左光照补偿模式。光照预测值包括:第一类预测值、第二类预测值和第三类预测值。
编码器遍历多个候选运动信息,确定出当前块对应的初始预测块的初始预测值;初始预测块与多个候选运动信息一一对应,其中,当前块属于当前帧,初始预测块属于参考帧;针对初始预测块,遍历上左光照补偿模式、上光照补偿模式和左光照补偿模式进行光照补偿处理,得到多个候选运动信息对应的第一类预测值、第二类预测值和第三类预测值;其中,上左光照补偿模式、上光照补偿模式和左光照补偿模式之间是由不同位置相邻边的像素确定得到的;采用初始预测值、第一类预测值、第二类预测值和第三类预测值,分别与当前块的原始像素值进行率失真代价计算,确定出光照补偿使用标识,以及最优率失真代价对应的当前预测模式、当前运动信息和目标光照补偿模式;采用当前预测模式、当前运动信息和目标光照补偿模式对当前编码块进行帧间预测,得到当前预测值;将当前预测模式的索引信息、当前运动信息的索引信息、目标光照补偿模式的索引信息和光照补偿使用标识写入码流。
示例性的,以帧间预测为例进行说明,编码器获取编码信息,包括帧间预测光照补偿允许标识,获取图像信息后将图像划分成若干个CTU,进一步再划分成若干个CU,每个独立CU都进行帧间预测,当前CU可以限制最小面积和最大面积进行IC技术。
在编码端的帧间预测过程中,若IC允许标识位为‘1’,则则计算当前待编码图像与各参考图像的亮度直方图的绝对差值和(SAD,sum of absolute difference),即至少一个亮度差异值。若当前待编码图像与某一帧参考图像的亮度直方图绝对差值和大于光照变化阈值,则对当前待编码图像开启光照补偿技术,或对当前待编码图像的某些预测模式开启光照补偿技术,并将当前图像的开启标识位(即光照补偿帧级允许标识)写入码流,传输到解码端。上述光照变化阈值可以是预先设定好的,也可以根据当前已编码图像的经验值来确定;上述对当前待编码图像的某些预测模式可以是帧间预测模式、合并模式或者跳过模式等。
若当前待编码图像开启光照补偿技术,则执行如下所有步骤;若IC允许标识位为‘0’或当前待编码图像未开启光照补偿技术,则仅执行a)、b)和f):
a)、帧间预测首先对所有候选MV运动信息进行遍历做运动补偿,计算每一个MV下运动补偿后的预测像素,并根据原始像素计算率失真代价;
b)、根据上述所有MV率失真代价最小原则,选择出当前编码单元的最优MV及预测模式如(SKIP,MERGE/DIRECT或者INTER),记录最优信息和与之对应的率失真代价信息;
c)、对所有候选MV再次进行遍历,此过程开启光照补偿技术并该遍历3种光照补偿模式,首先根据预测模式和MV匹配到参考块,根据光照补偿模式索引提取参考块的左边及/或上边重建像素和当前帧待编码块的左边及/或上边重建像素,对重建像素进行排序和求平均(具体操作如上述)并带入上述式子可得到线性模型参数a和b。上述光照补偿模式索引1记为IC_TL,可使用参考块和当前块的左边和上边重建像素计算线性模型;光照补偿模式索引2记为IC_T,仅可使用参考块和当前块的上边重建像素计算线性模型;光照补偿模式索引3记为IC_L,仅可使用参考块和当前块的左边重建像素计算线性模型;
d)、对参考块进行运动补偿,得到普通运动补偿后的预测块后对其进行光照补偿,即对每个预测块中的像素根据线性模型做线性偏移,得到当前编码单元的最终预测块;
e)、根据上述经过光照补偿技术的最终预测像素与原始像素计算得到每一个MV的率失真代价信息,记录当前光照补偿模式索引、最小率失真代价信息的MV索引、对应的预测模式(如SKIP,MERGE/DIRECT或INTER)和对应代价值;
f)、若光照补偿技术允许标识位为‘0’,则将b)中记录的MV索引和预测模式经码流传输给解码端;若光照补偿技术允许标识位为‘1’,则将b)中记录的最小代价值与e)中记录的最小代价值进行比较,若b)中的率失真代价更小,则将b)中记录的MV索引和预测模式编码作为当前编码单元的最优信息经码流传输给解码端,将光照补偿技术当前编码单元标识位置否,表示不使用光照补偿技术,也经码流传输给解码端;若e)中的率失真更小,则将e)中记录的MV索引、光照补偿模式索引和预测模式编码作为当前编码单元的最优信息经码流传输给解码端,将光照补偿技术当前编码单元标识位置真并编码当前编码单元块的光照补偿模式索引,表示使用光照补偿技术,也经码流传输给解码端。
在本申请的一些实施例中,编码器在编码的过程中,还可以确定当前块的尺寸;基于当前块的尺寸和预测尺寸阈值,确定当前块的光照补偿模式。
在本申请的一些实施例中,若当前块的尺寸小于预测尺寸阈值,编码器则确定当前块的光照补偿模式为上左光照补偿模式、上光照补偿模式和左光照补偿模式中的至少一种;或者,
若当前块的尺寸大于预测尺寸阈值,则确定当前块的光照补偿模式为上左光照补偿模式、上光照补偿模式和左光照补偿模式中的至少一种。
示例性的,上述光照补偿技术允许使用IC_TL、IC_T和IC_L对所有预测块做预测补偿,也可以对使用范围加以限制,对于样本数量较少的编码单元或宽/高小于预设定阈值的编码单元仅可以使用IC_TL或IC_T或IC_L光照补偿模式。上述光照补偿技术允许使用IC_TL、IC_T和IC_L对所有预测块做预测补偿,也可以对使用范围加以限制,对于样本数量较多的编码单元或宽/高大于预设定阈值的编码单元仅可以使用IC_TL或IC_T或IC_L光照补偿模式。
可以理解的是,针对不同尺寸的当前块,编码器可以采用部分光照模式来进行光照预测值的确定,这样可以减少遍历所有光照补偿模式的情况,减少了计算的复杂度,还可以节省比特。
在本申请的一些实施例中,编码器在对当前块进行编码的过程中,可以对当前块进行区域划分,得到至少两个区域的至少两个子块。再对至少两个子块进行编码。
在本申请的一些实施例中,若光照补偿帧级允许标识为有效,编码器则当前帧开启光照补偿功能,对当前帧的当前块允许进行光照补偿,得到光照预测值的过程为:
遍历多个候选运动信息,确定出至少两个子块中每个子块对应的初始预测块的初始预测值;初始预测块与多个候选运动信息一一对应;若光照补偿帧级允许标识为有效,则针对每个子块的初始预测块,遍历不同的光照补偿模式进行光照补偿,得到对应的光照预测值。
需要说明的是,编码器针对每个子块的初始预测块,遍历不同的光照补偿模式进行光照补偿,得到对应的光照预测值时,该编码器可以针对每种光照补偿模式,确定当前帧的重建像素和参考帧的重建参考像素;基于当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数;h为大于或等于1的正整数,且小于至少两个子块的数量;基于第h个模型参数,对第h个区域进行光照补偿,得到第h个区域预测块的第h个光照预测值;继续进行第h+1个区域的光照补偿处理,直至处理完至少两个区域的至少两个子块的光照补偿处理时为止。
在本申请的一些实施例中,编码器基于当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数的方式有一下至少一种:
方式一:若参考帧的重建参考像素中存在与第h个区域相邻的第h个相邻重建参考像素,则基于第h个相邻重建参考像素,以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数;若h不为1,且参考帧的重建参考像素中不存在与第h个区域相邻的重建参考像素,则基于第h-1个区域预测块中的相邻像素,以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数。
方式二:
若h不为1,参考帧的重建参考像素中存在与第h个区域相邻的第h个相邻重建参考像素,则基于第h个相邻重建参考像素,第1个区域预测块至第h-1个区域预测块中的相邻像素以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数;若h不为1,且参考帧的重建参考像素中不存在与第h个区域相邻的重建参考像素,则基于第1个区域预测块至第h-1个区域预测块中的相邻像素,以及当前帧的重建像素中第h个区域的重建像素,计算第h个模型参数。
方式三:
编码器基于当前帧的重建像素和参考帧的重建参考像素,确定第h个区域对应的第h个模型参数之后,若h不为1,则基于获取的第1个模型参数至第h-1个新模型参数中的至少一个,与第h个模型参数进行加权处理,得到第h个新模型参数;基于第h个新模型参数,对第h个区域进行光照补偿,得到第h个区域预测块。
在本申请的一些实施例中,编码器还可以生成有效的块区域划分标识,并将块区域划分标识写入码流。
可以理解的是,编码器在对当前块进行编解码的过程中,在对当前块进行了光照补偿功能的前提下(即当前块的光照补偿使用标识为有效时),可以对当前块进行块区域的划分,得到至少两个子块,针对每个子块可以计算出各自对应的光照补偿模式,再基于各自的目标光照补偿模式进行光照补偿,这样由于针对子块有针对性的进行了光照补偿模式的确定,可以更精准的针对不同子块进行有效的针对处理,从而提高了编码的精细度以及解码的性能。
在本申请的一些实施例中,本申请实施例中的光照补偿模式可以包括:上左光照补偿模式、上光照补偿模式和左光照补偿模式进行光照补偿处理,得到多个候选运动信息对应的得到光照预测值。
需要说明的是,编码器确定当前块的待预测图像分量;基于当前块的参数,利用多种预测模式分别对待预测图像分量进行预测编码,得到初始预测值,再基于初始预测值计算多种预测模式下每一种预测模式对应的率失真代价;从计算得到的多个率失真代价中选取最小率失真代价(即第一最小率失真代价),并将最小率失真代价确定为最优率失真代价,其最优率失真代价对应的预测模式确定为当前块的预测模式。
但在本申请实施例中,编码器还需要遍历光照补偿模式,确定出光照预测值,基于光照预测值计算多种预测模式下每一种预测模式对应的率失真代价,再与基于初始预测值计算多种预测模式下每一种预测模式对应的率失真代进行比较,最终确定出最优率失真代价,从而确定是否对当前块进行光照补偿处理的。
在本申请的一些实施例中,编码器采用初始预测值和光照预测值,分别与当前块的原始像素值进行率失真代价计算,确定出光照补偿使用标识,以及最优率失真代价对应的当前预测模式、当前运动信息和目标光照补偿模式;采用当前预测模式、当前运动信息和目标光照补偿模式对当前块进行预测,得到预测值。
在本申请的一些实施例中,编码器基于当前运动信息,确定当前块对应的初始预测块;对初始预测块进行运动补偿,得到第一预测块;采用目标光照补偿模式,对第一预测块进行光照补偿处理,得到第二预测块;采用当前预测模式,对第二预测块进行帧间预测,得到预测值。
可以理解的是,本申请的光照补偿方法为帧间预测等在需要光照补偿或局部线性偏移等操作上提供选择。对于当前帧与参考帧在亮度上存在明显变化的区域,使用光照补偿技术可以计算出线性偏移模型,对当前编码块做补偿后,预测块将更接近原始图像块,使得残差更小,最终将提高编码效率。
需要说明的是,本申请实施例的光照补偿还可以应用在帧间非矩形块预测技术中使用,即如VVC中的GPM、AVS中的AWP技术中使用光照补偿技术。当编码端将两个参考帧运动补偿后的预测块通过某种方式进行结合得到一个新的预测块后,可以使用光照补偿技术进行预测补偿。上述某种方式可以是分别取不同预测块的非矩形区域预测样本进行结合。也就是说,当前块为一个运动信息指定的第一子预测块的非矩形区域和另一个运动信息指定的第一预测块的互补非矩形区域拼接得到第二子预测块,该帧间非矩形块预测技术可以是VVC中的GPM,也可以是AVS中的AWP,或者是AV中的inter-inter等,在此不做限定,
采用目标光照补偿模式,对第二子预测块进行光照补偿处理,得到目标预测块,目标预测块即为当前块的最终预测块。
在本申请的一些实施例中,光照补偿方法可以在图像集GOP中增加一个标识位,即图像集级别光照补偿允许标识,用于表示当前GOP是否开启光照补偿技术,该图像集级别光照补偿允许标识需要写入码流。示例性的,在特定的配置下,视频有500帧,500帧中25帧是一个图像集,图像集级别的允许标识为1的每帧才有帧级图像允许标识,即光照补偿帧级允许标识,这样可以进一步的节省码流开销。
在本申请的一些实施例中,光照补偿方法可以在仿射变换预测技术中使用,即如VVC中的AFFINE、PROF这个是AFFINE的改进、AVS中的AFFINE、AFFINE_UMVE、ASP等技术中使用光照补偿技术。即编码端将参考块根据仿射变换参数做完仿射运动补偿后的预测块进行光照补偿。
在本申请实施例中,编码器解析码流时,获取当前仿射变换参数;基于当前仿射变换参数,对当前块进行仿射运动补偿,得到第三预测块;采用目标光照补偿模式的索引信息,确定模型参数;采用模型参数,对第三预测块进行光照补偿处理,得到第四预测块。第四预测块即为当前块的最终预测块。
在本申请实施例中,编码器解析码流时,获取修正的运动信息;基于修正的运动信息,对当前块进行运动补偿后,得到第五预测块;采用目标光照补偿模式的索引信息,确定模型参数;采用模型参数,对第五预测块进行光照补偿处理,得到第六预测块。第六预测块即为当前块的最终预测块。
其中,修正的运动信息为高级运动信息表达、时域运动信息的改进、运动矢量角度预测,合并模式的运动矢量差值偏移中的任意一种方式确定的。
在本申请实施例中,光照补偿方法可以在任何修改MV的技术中使用,即如VVC中的合并模式的MMVD等、AVS中的UMVE,Ultimate Motion Vector Expression)、ETMVP、MVAP等技术中使用光照补偿技术。即解码端将MV修正/提升后对应参考块运动补偿后的预测块进行光照补偿。
可以理解的是,由于编码器在对当前块进行编码的过程中,在使用了光照补偿技术的情况下,可以通过遍历不同的光照补偿模式,确定当前帧是否开启光照补偿技术,进而产生了帧级别的光照补偿帧级允许标识,这样编码器就可以先从帧级别判断是否需要继续进行块级别的光照补偿使用标识了的确定,只有在光照补偿帧级允许标识有效的情况下,才进行后续的编码,从而进行当前块预测(例如帧间预测)了。因此,在光照补偿帧级允许标识无效的情况下,码流的传输比特会大大降低,这样在基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,就可以节省编解码的比特开销,提高编编码的性能。
需要说明的是,编码器的描述与解码器的原理一致,实现相对应,此处不再赘述。
基于前述实施例的实现基础,如图13所示,本申请实施例提供了一种解码器1,包括:
解析部分10,被配置为获取码流,并解析所述码流,得到光照补偿允许标识;
第一获取部分11,被配置为若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;
第一光照补偿部分12,被配置为基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。
在本申请的一些实施例中,所述光照补偿帧级允许标识包括:至少一个光照补偿帧级允许标识;
所述至少一个光照补偿帧级允许标识与当前帧的不同预测模式一一对应;或者,所述至少一个光照补偿帧级允许标识与当前帧的不同区域一一对应。
在本申请的一些实施例中,所述解析部分10,还被配置为所述若所述N级光照补偿帧级允许标识中的第i级光照补偿帧级允许标识为有效,则确定所述码流中的第i+1级光照补偿帧级允许标识,直至确定所述码流中的第N级光照补偿帧级允许标识时为止;i为大于或等于1,且小于等于N的正整数,N为大于或等于1的正整数;若所述第i+1级光照补偿帧级允许标识为无效,则获取所述码流中的所述光照补偿使用标识。
在本申请的一些实施例中,所述光照补偿帧级允许标识包括:与图像区域对应的M个光照补偿帧级允许标识;
所述解析部分10,还被配置为所述若所述M个光照补偿帧级允许标识中的第j个光照补偿帧级允许标识为有效,则确定所述码流中的第j+1个光照补偿帧级允许标识,直至确定所述码流中的第M个光照补偿帧级允许标识时为止;j为大于或等于1,且小于等于M的正整数,M为大于或等于1的正整数;若所述第j+1个光照补偿帧级允许标识为无效,则获取所述码流中的所述光照补偿使用标识。
在本申请的一些实施例中,所述光照补偿帧级允许标识包括:与图像区域对应的M个光照补偿帧级允许标识;
所述解析部分10,还被配置为所述若所述M个光照补偿帧级允许标识中的任意一个为有效,则获取所述码流中的所述光照补偿使用标识。
在本申请的一些实施例中,当N=3时,第1级光照补偿帧级允许标识对应合并模式/直接导出模式;第2级光照补偿帧级允许标识对应跳过模式,第3级光照补偿帧级允许标识对应普通帧间模式。
在本申请的一些实施例中,所述第一光照补偿部分12,还被配置为所述若第1级光照补偿帧级允许标识为无效,则不进行光照补偿。
在本申请的一些实施例中,所述第一光照补偿部分12,还被配置为所述若第1个光照补偿帧级允许标识为无效,则不进行光照补偿。
在本申请的一些实施例中,所述解析部分10,还被配置为解析所述码流时,获取图像区域划分标识;若所述图像区域划分标识为有效,则获取M个光照补偿帧级允许标识;
所述第一光照补偿部分12,还被配置为若所述图像区域划分标识为无效,则不进行光照补偿。
在本申请的一些实施例中,所述第一获取部分11,还被配置为对所述当前块进行划分,得到至少两个区域对应的至少两个子块。
在本申请的一些实施例中,所述第一光照补偿部分12,还被配置为基于所述目标光照补偿模式的索引信息,确定当前帧的重建像素和参考帧的重建参考像素;基于所述当前帧的重建像素和所述参考帧的重建参考像素,确定第h个区域对应的第h个模型参数;h为大于或等于1的正整数,且小于至少两个子块的数量;基于所述第h个模型参数,对所述第h个区域进行光照补偿,得到第h个区域预测块;继续进行第h+1个区域的光照补偿处理,直至处理完所述至少两个子块的光照补偿处理时为止。
在本申请的一些实施例中,所述第一光照补偿部分12,还被配置为若所述参考帧的重建参考像素中存在与所述第h个区域相邻的第h个相邻重建参考像素,则基于所述第h个相邻重建参考像素,以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数;若h不为1,且所述参考帧的重建参考像素中不存在与所述第h个区域相邻的重建参考像素,则基于第h-1个区域预测块中的相邻像素,以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数。
在本申请的一些实施例中,所述第一光照补偿部分12,还被配置为若h不为1,所述参考帧的重建参考像素中存在与所述第h个区域相邻的第h个相邻重建参考像素,则基于所述第h个相邻重建参考像素,第1个区域预测块至第h-1个区域预测块中的相邻像素以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数;若h不为1,且所述参考帧的重建参考像素中不存在与所述第h个区域相邻的重建参考像素,则基于第1个区域预测块至第h-1个区域预测块中的相邻像素,以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数。
在本申请的一些实施例中,所述第一光照补偿部分12,还被配置为所述基于所述当前帧的重建像素和所述参考帧的重建参考像素,确定第h个区域对应的第h个模型参数之后,若h不为1,则基于获取的第1个模型参数至第h-1个新模型参数中的至少一个,与第h个模型参数进行加权处理,得到第h个新模型参数;基于所述第h个新模型参数,对所述第h个区域进行光照补偿,得到所述第h个区域预测块。
在本申请的一些实施例中,所述解析部分10,还被配置为解析所述码流时,获取块区域划分标识;
所述第一获取部分11,还被配置为若所述块区域划分标识为有效,则对所述当前块进行划分,得到所述至少两个子块;
所述第一光照补偿部分12,还被配置为若所述块区域划分标识为无效,则计算当前块的块模型参数。
在本申请的一些实施例中,所述解码器还包括解码部分13;
所述解析部分10,还被配置为解析所述码流时,获取当前运动信息和当前预测模式;
所述解码部分13,被配置为根据所述目标光照补偿模式的索引信息、所述当前预测模式和所述当前运动信息,对当前块进行预测,得到预测值。
在本申请的一些实施例中,所述解码部分13,还被配置为基于所述当前运动信息,确定当前块对应的初始预测块;对所述初始预测块进行运动补偿,得到第一预测块;
所述第一光照补偿部分12,还被配置为采用所述目标光照补偿模式的索引信息,确定模型参数;采用所述模型参数,对所述第一预测块进行光照补偿处理,得到第二预测块;
所述解码部分13,被配置为采用所述当前预测模式,对所述第二预测块进行帧间预测,得到所述预测值。
在本申请的一些实施例中,使用在帧间非矩形块预测技术的过程中,所述当前块为一个运动信息指定的第一子预测块的非矩形区域和另一个运动信息指定的第一子预测块的互补非矩形区域拼接得到第二子预测块。
所述第一光照补偿部分12,还被配置为采用所述目标光照补偿模式,对所述第二子预测块进行光照补偿处理,得到目标预测块。
在本申请的一些实施例中,所述解析部分10,还被配置为若所述光照补偿允许标识为有效,则获取所述码流中的图像集级别光照补偿允许标识;若所述图像集级别光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识。
在本申请的一些实施例中,所述解析部分10,还被配置为解析所述码流时,获取当前仿射变换参数;
解码部分13,还被配置为基于所述当前仿射变换参数,对当前块进行仿射运动补偿,得到第三预测块;
所述第一光照补偿部分12,还被配置为采用所述目标光照补偿模式的索引信息,确定模型参数;采用所述模型参数,对所述第三预测块进行光照补偿处理,得到第四预测块。
在本申请的一些实施例中,所述解析部分10,还被配置为解析所述码流时,获取修正的运动信息;
解码部分13,还被配置为基于所述修正的运动信息,对当前块进行运动补偿后,得到第五预测块;
所述第一光照补偿部分12,还被配置为采用所述目标光照补偿模式的索引信息,确定模型参数;采用所述模型参数,对所述第五预测块进行光照补偿处理,得到第六预测块。
在本申请的一些实施例中,所述修正的运动信息为高级运动信息表达、时域运动信息的改进、运动矢量角度预测,运动矢量差值偏移中的任意一种方式确定的。
可以理解的是,由于解码器在对当前块进行解码的过程中,在使用了光照补偿技术的情况下,可以直接从码流中获取到帧级别的光照补偿帧级允许标识,这样编码器就可以先从帧级别判断是否需要继续解析块级别的光照补偿使用标识了,只有在光照补偿帧级允许标识有效的情况下,才能获取码流中的下一级标识,进而进行后续的解码,从而进行当前块预测(例如帧间预测)了。因此,在光照补偿帧级允许标识无效的情况下,码流的传输比特会大大降低,这样在基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,就可以节省编解码的比特开销,提高编解码的性能。
在本申请的实际应用中,如图14所示,本申请实施例还提供了一种解码器,包括:
第一存储器14和第一处理器15;
所述第一存储器14存储有可在第一处理器15上运行的计算机程序,所述第一处理器15执行所述程序时实现解码器对应的光照补偿方法。
其中,第一处理器15可以通过软件、硬件、固件或者其组合实现,可以使用电路、单个或多个专用集成电路(application specific integrated circuits,ASIC)、单个或多个通用集成电路、单个或多个微处理器、单个或多个可编程逻辑器件、或者前述电路或器件的组合、或者其他适合的电路或器件,从而使得该第一处理器15可以执行前述实施例中的解码器侧的光照补偿方法的相应步骤。
本申请实施例提供了一种编码器2,如图15所示,包括:
第二确定部分20,被配置为基于当前帧的亮度信息,确定光照补偿帧级允许标识;
第二预测部分21,被配置为若所述光照补偿帧级允许标识为有效,则所述当前帧开启光照补偿功能,对所述当前帧的当前块进行光照补偿,得到光照预测值;
写入部分22,被配置为将所述光照补偿帧级允许标识写入码流。
在本申请的一些实施例中,所述第二确定部分20,还被配置为基于当前帧的亮度信息,确定所述当前帧与至少一个参考帧之间的至少一个亮度差异值;基于所述至少一个亮度差异值和预设亮度变化阈值,确定所述光照补偿帧级允许标识。
在本申请的一些实施例中,所述第二确定部分20,还被配置为若所述至少一个亮度差异值中存在大于所述预设亮度变化阈值的亮度差异值,则确定出与该亮度差异值对应的有效的光照补偿帧级允许标识;否则,确定出无效的光照补偿帧级允许标识。
在本申请的一些实施例中,所述预设亮度变化阈值包括:第一预设亮度变化阈值和第二预设亮度变化阈值;所述第二亮度变化阈值大于所述第一预设亮度变化阈值;所述光照补偿帧级允许标识包括:与预测模式对应的N级光照补偿帧级允许标识;
所述第二确定部分20,还被配置为若所述至少一个亮度差异值均大于所述第二预设亮度变化阈值,则所述N级光照补偿帧级允许标识均为有效;若所述至少一个亮度差异值均小于所述第一预设亮度变化阈值,则所述N级光照补偿帧级允许标识均为无效;若所述至少一个亮度差异值均大于所述第一预设亮度变化阈值,且均小于所述第二预设亮度变化阈值,则第1级光照补偿帧级允许标识为有效,其他级光照补偿帧级允许标识均为无效。
在本申请的一些实施例中,当N=3时,第1级光照补偿帧级允许标识对应合并模式/直接导出模式;第2级光照补偿帧级允许标识对应跳过模式,第3级光照补偿帧级允许标识对应普通帧间模式。
在本申请的一些实施例中,所述第二确定部分20,还被配置为对所述当前帧进行区域划分,得到M个图像区域和有效的图像区域划分标识;计算所述M个图像区域的亮度信息,得到对应的M个亮度信息;
所述写入部分22,还被配置为将所述图像区域划分标识写入码流。
在本申请的一些实施例中,所述当前帧的亮度信息包括:M个图像区域的亮度信息M个亮度信息;
所述第二确定部分20,还被配置为基于所述M个亮度信息与预设亮度信息阈值,确定光照补偿帧级允许标识。
在本申请的一些实施例中,所述光照补偿帧级允许标识包括:与图像区域式对应的M个光照补偿帧级允许标识;
所述第二确定部分20,还被配置为若所述M个亮度信息中存在大于所述预设亮度信息阈值的亮度信息,则确定出与该亮度信息对应的有效的光照补偿帧级允许标识;否则,确定出无效的光照补偿帧级允许标识,直至M个亮度信息比较完时,得到M个光照补偿帧级允许标识。
在本申请的一些实施例中,所述第二确定部分20,还被配置为对所述当前块进行区域划分,得到至少两个区域的至少两个子块。
在本申请的一些实施例中,所述第二预测部分21,还被配置为遍历多个候选运动信息,确定出所述至少两个子块中每个子块对应的初始预测块的初始预测值;所述初始预测块与所述多个候选运动信息一一对应,其中,所述至少两个子块属于当前帧,所述初始预测块属于参考帧;若所述光照补偿帧级允许标识为有效,则针对每个子块的所述初始预测块,遍历不同的光照补偿模式进行光照补偿,得到对应的光照预测值。
在本申请的一些实施例中,所述第二预测部分21,还被配置为针对每种光照补偿模式,确定当前帧的重建像素和参考帧的重建参考像素;基于所述当前帧的重建像素和所述参考帧的重建参考像素,确定第h个区域对应的第h个模型参数;h为大于或等于1的正整数,且小于至少两个子块的数量;基于所述第h个模型参数,对所述第h个区域进行光照补偿,得到第h个区域预测块的第h个光照预测值;继续进行第h+1个区域的光照补偿处理,直至处理完所述至少两个区域的至少两个子块的光照补偿处理时为止。
在本申请的一些实施例中,所述第二预测部分21,还被配置为若所述参考帧的重建参考像素中存在与所述第h个区域相邻的第h个相邻重建参考像素,则基于所述第h个相邻重建参考像素,以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数;若h不为1,且所述参考帧的重建参考像素中不存在与所述第h个区域相邻的重建参考像素,则基于第h-1个区域预测块中的相邻像素,以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数。
在本申请的一些实施例中,所述第二预测部分21,还被配置为若h不为1,所述参考帧的重建参考像素中存在与所述第h个区域相邻的第h个相邻重建参考像素,则基于所述第h个相邻重建参考像素,第1个区域预测块至第h-1个区域预测块中的相邻像素以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数;若h不为1,且所述参考帧的重建参考像素中不存在与所述第h个区域相邻的重建参考像素,则基于第1个区域预测块至第h-1个区域预测块中的相邻像素,以及所述当前帧的重建像素中第h个区域的重建像素,计算所述第h个模型参数。
在本申请的一些实施例中,所述第二预测部分21,还被配置为所述基于所述当前帧的重建像素和所述参考帧的重建参考像素,确定第h个区域对应的第h个模型参数之后,若h不为1,则基于获取的第1个模型参数至第h-1个新模型参数中的至少一个,与第h个模型参数进行加权处理,得到第h个新模型参数;基于所述第h个新模型参数,对所述第h个区域进行光照补偿,得到所述第h个区域预测块的第h个光照预测值。
在本申请的一些实施例中,所述第二确定部分20,还被配置为生成有效的块区域划分标识;
所述写入部分22,还被配置为将所述块区域划分标识写入码流。
在本申请的一些实施例中,所述第二预测部分21,还被配置为采用所述初始预测值和所述光照预测值,分别与当前块的原始像素值进行率失真代价计算,确定出光照补偿使用标识,以及最优率失真代价对应的当前预测模式、当前运动信息和目标光照补偿模式;采用所述当前预测模式、所述当前运动信息和所述目标光照补偿模式对所述当前块进行预测,得到预测值。
在本申请的一些实施例中,所述第二预测部分21,还被配置为基于所述当前运动信息,确定所述当前块对应的初始预测块;对所述初始预测块进行运动补偿,得到第一预测块;采用所述目标光照补偿模式,对所述第一预测块进行光照补偿处理,得到第二预测块;采用所述当前预测模式,对所述第二预测块进行帧间预测,得到所述预测值。
在本申请的一些实施例中,使用在帧间非矩形块预测技术的过程中,所述当前块为一个运动信息指定的第一子预测块的非矩形区域和另一个运动信息指定的第一子预测块的互补非矩形区域拼接得到第二子预测块;
所述第二预测部分21,还被配置为采用所述目标光照补偿模式,对所述第二子预测块进行光照补偿处理,得到目标预测块。
在本申请的一些实施例中,所述第二确定部分20,还被配置为若所述光照补偿允许标识为有效,则确定图像集级别光照补偿允许标识;若所述图像集级别光照补偿允许标识为有效,则确定图像集中的每帧的光照补偿帧级允许标识。
在本申请的一些实施例中,所述第二预测部分21,还被配置为获取当前仿射变换参数;
基于所述当前仿射变换参数,对当前块进行仿射运动补偿,得到第三预测块;
采用所述目标光照补偿模式,对所述第三预测块进行光照补偿处理,得到第四预测块。
在本申请的一些实施例中,所述第二预测部分21,还被配置为获取修正的运动信息;
基于所述修正的运动信息,对当前块进行运动补偿后,得到第五预测块;
采用所述目标光照补偿模式,对所述第五预测块进行光照补偿处理,得到第六预测块。
在本申请的一些实施例中,所述修正的运动信息为高级运动信息表达、时域运动信息的改进、运动矢量角度预测,运动矢量差值偏移中的任意一种方式确定的。
在本申请的一些实施例中,所述第二确定部分20,还被配置为确定当前块的尺寸;基于所述当前块的尺寸和预测尺寸阈值,确定当前块的光照补偿模式。
在本申请的一些实施例中,所述第二确定部分20,还被配置为若所述当前块的尺寸小于预测尺寸阈值,则所述当前块的光照补偿模式为上左光照补偿模式、上光照补偿模式和左光照补偿模式中的至少一种;或者,若所述当前块的尺寸大于预测尺寸阈值,则所述当前块的光照补偿模式为上左光照补偿模式、上光照补偿模式和左光照补偿模式中的至少一种。
可以理解的是,由于编码器在对当前块进行编码的过程中,在使用了光照补偿技术的情况下,可以通过遍历不同的光照补偿模式,确定当前帧是否开启光照补偿技术,进而产生了帧级别的光照补偿帧级允许标识,这样编码器就可以先从帧级别判断是否需要继续进行块级别的光照补偿使用标识了的确定,只有在光照补偿帧级允许标识有效的情况下,才进行后续的编码,从而进行当前块预测(例如帧间预测)了。因此,在光照补偿帧级允许标识无效的情况下,码流的传输比特会大大降低,这样在基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,就可以节省编解码的比特开销,提高编编码的性能。
在实际应用中,如图16所示,本申请实施例还提供了一种编码器,包括:
第二存储器23和第二处理器24;
所述第二存储器23存储有可在第二处理器24上运行的计算机程序,所述第二处理器24执行所述程序时编码器对应的光照补偿方法。
本申请实施例提供了一种存储介质,其特征在于,其上存储有计算机程序,该计算机程序被第一处理器执行时,实现权利要求解码器对应的所述光照补偿方法;或者,该计算机程序被第二处理器执行时,实现权利要求编码器对应的所述光照补偿方法。
在本申请实施例中的各组成部分可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
所述集成的单元如果以软件功能模块的形式实现并非作为独立的产品进行销售或使用时,可以存储在一个计算机可读取存储介质中,基于这样的理解,本实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或processor(处理器)执行本实施例所述方法的全部或部分步骤。而前述的存储介质包括:磁性随机存取存储器(FRAM,ferromagnetic random access memory)、只读存储器(ROM,Read Only Memory)、可编程只读存储器(PROM,Programmable Read-Only Memory)、可擦除可编程只读存储器(EPROM,Erasable Programmable Read-Only Memory)、电可擦除可编程只读存储器(EEPROM,Electrically Erasable Programmable Read-Only Memory)、快闪存储器(FlashMemory)、磁表面存储器、光盘、或只读光盘(CD-ROM,Compact Disc Read-Only Memory)等各种可以存储程序代码的介质,本公开实施例不作限制。
以上所述,仅为本申请的实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
工业实用性
本申请实施例提供了一种光照补偿方法、编码器、解码器和存储介质,通过获取码流,并解析所述码流,得到光照补偿允许标识、当前运动信息和当前预测模式;若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。采用上述方案实现技术,由于解码器在对当前块进行解码的过程中,在使用了光照补偿技术的情况下,可以直接从码流中获取到帧级别的光照补偿帧级允许标识,这样编码器就可以先从帧级别判断是否需要继续解析块级别的光照补偿使用标识了,只有在光照补偿帧级允许标识有效的情况下,才能获取码流中的下一级标识,进而进行后续的解码,从而进行当前块预测(例如帧间预测)了。因此,在光照补偿帧级允许标识无效的情况下,码流的传输比特会大大降低,这样在基于不同的情形,对帧级图像进行光照补偿的选择时,增加帧级别的光照补偿帧级允许标识,来表征是不是使用了光照补偿技术,就可以节省编解码的比特开销,提高编解码的性能。

Claims (13)

1.一种光照补偿方法,其特征在于,应用于解码器,包括:
获取码流,并解析所述码流,得到光照补偿允许标识;
若所述光照补偿允许标识为有效,则获取所述码流中的光照补偿帧级允许标识;
若所述光照补偿帧级允许标识为有效,则获取所述码流中的光照补偿使用标识;
若所述光照补偿使用标识为有效,则获取所述码流中的目标光照补偿模式的索引信息;
基于所述目标光照补偿模式的索引信息,对当前块进行光照补偿。
2.根据权利要求1所述的方法,其特征在于,
所述光照补偿帧级允许标识包括:至少一个光照补偿帧级允许标识;
所述至少一个光照补偿帧级允许标识与当前帧的不同预测模式一一对应。
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
解析所述码流时,获取当前运动信息和当前预测模式;
根据所述目标光照补偿模式的索引信息、所述当前预测模式和所述当前运动信息,对当前块进行预测,得到预测值。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
解析所述码流时,获取修正的运动信息;
基于所述修正的运动信息,对当前块进行运动补偿后,得到运动补偿后的预测块;
采用所述目标光照补偿模式的索引信息,确定模型参数;
采用所述模型参数,对所述运动补偿后的预测块进行光照补偿处理,得到光照补偿后的预测块。
5.根据权利要求4所述的方法,其特征在于,
所述修正的运动信息为时域运动信息的改进、运动矢量角度预测中的任意一种方式确定的。
6.一种光照补偿方法,其特征在于,应用于编码器,包括:
基于当前帧的亮度信息,确定光照补偿帧级允许标识;
若所述光照补偿帧级允许标识为有效,则所述当前帧开启光照补偿功能,对所述当前帧的当前块允许进行光照补偿,得到光照预测值;
将所述光照补偿帧级允许标识写入码流。
7.根据权利要求6所述的方法,其特征在于,
所述光照补偿帧级允许标识包括:至少一个光照补偿帧级允许标识;
所述至少一个光照补偿帧级允许标识与当前帧的不同预测模式一一对应。
8.根据权利要求6所述的方法,其特征在于,所述方法还包括:
确定出光照补偿使用标识、当前预测模式、当前运动信息和目标光照补偿模式;
采用所述当前预测模式、所述当前运动信息和所述目标光照补偿模式对所述当前块进行预测,得到预测值。
9.根据权利要求8所述的方法,其特征在于,所述方法还包括:
获取修正的运动信息;
基于所述修正的运动信息,对当前块进行运动补偿后,得到运动补偿后的预测块;
采用所述目标光照补偿模式,对所述运动补偿后的预测块进行光照补偿处理,得到光照补偿后的预测块。
10.根据权利要求9所述的方法,其特征在于,
所述修正的运动信息为时域运动信息的改进、运动矢量角度预测中的任意一种方式确定的。
11.一种解码器,其特征在于,包括:
第一存储器和第一处理器;
所述第一存储器存储有可在第一处理器上运行的计算机程序,所述第一处理器执行所述程序时实现权利要求1至5任一项所述的方法。
12.一种编码器,其特征在于,包括:
第二存储器和第二处理器;
所述第二存储器存储有可在第二处理器上运行的计算机程序,所述第二处理器执行所述程序时实现权利要求6至10任一项所述的方法。
13.一种存储介质,其特征在于,其上存储有计算机程序,该计算机程序被第一处理器执行时,实现权利要求1至5任一项所述的方法;或者,该计算机程序被第二处理器执行时,实现权利要求6至10任一项所述的方法。
CN202311445183.3A 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质 Pending CN117857810A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311445183.3A CN117857810A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202180089931.1A CN116762339A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质
PCT/CN2021/077327 WO2022174469A1 (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质
CN202311445183.3A CN117857810A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN202180089931.1A Division CN116762339A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质

Publications (1)

Publication Number Publication Date
CN117857810A true CN117857810A (zh) 2024-04-09

Family

ID=82932062

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202180089931.1A Pending CN116762339A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质
CN202311445183.3A Pending CN117857810A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202180089931.1A Pending CN116762339A (zh) 2021-02-22 2021-02-22 一种光照补偿方法、编码器、解码器及存储介质

Country Status (4)

Country Link
US (1) US20230396780A1 (zh)
CN (2) CN116762339A (zh)
MX (1) MX2023009739A (zh)
WO (1) WO2022174469A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116128759B (zh) * 2023-02-08 2024-01-09 爱芯元智半导体(上海)有限公司 图像的光照补偿方法及其装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070177671A1 (en) * 2006-01-12 2007-08-02 Lg Electronics Inc. Processing multiview video
CN101072355B (zh) * 2006-05-12 2010-07-28 中国科学院计算技术研究所 一种加权预测运动补偿方法
WO2018008906A1 (ko) * 2016-07-05 2018-01-11 주식회사 케이티 비디오 신호 처리 방법 및 장치
EP3468198A1 (en) * 2017-10-05 2019-04-10 Thomson Licensing Method and apparatus for video encoding and decoding based on illumination compensation
CN111263147B (zh) * 2018-12-03 2023-02-14 华为技术有限公司 帧间预测方法和相关装置
CN112203086B (zh) * 2020-09-30 2023-10-17 字节跳动(香港)有限公司 图像处理方法、装置、终端和存储介质
CN112203085B (zh) * 2020-09-30 2023-10-17 字节跳动(香港)有限公司 图像处理方法、装置、终端和存储介质

Also Published As

Publication number Publication date
CN116762339A (zh) 2023-09-15
MX2023009739A (es) 2023-08-30
US20230396780A1 (en) 2023-12-07
WO2022174469A1 (zh) 2022-08-25

Similar Documents

Publication Publication Date Title
US20240155122A1 (en) Methods and apparatus for picture encoding and decoding
CN114009040B (zh) 编码器、解码器及对应方法
CN113796077B (zh) 视频编解码之亮度mpm列表导出的方法及装置
KR100643819B1 (ko) 페이딩 보정을 위한 파라미터화
KR100906243B1 (ko) Rgb 색 공간 신호의 영상 부호화 방법
CN106664405A (zh) 用调色板模式对经逸出编码的像素的稳健编码/解码
CN105359531A (zh) 针对屏幕内容编码的编码器侧判定
JP2023542841A (ja) ビデオコーディング中にフィルタ処理するための複数のニューラルネットワークモデル
CN116235496A (zh) 编码方法、解码方法、编码器、解码器以及编码系统
CN117354511A (zh) 一种帧内预测方法、装置及解码器和编码器
US20230396780A1 (en) Illumination compensation method, encoder, and decoder
CN113132739B (zh) 边界强度确定、编解码方法、装置及其设备
CN110971897B (zh) 色度分量的帧内预测模式的编码、解码方法、设备和系统
CN116916029A (zh) 一种帧间预测方法、编码器、解码器及存储介质
US8891627B1 (en) System and method for coding video using color segmentation
TWI752488B (zh) 視訊編解碼之方法和裝置
CN116980596A (zh) 一种帧内预测方法、编码器、解码器及存储介质
WO2024016156A1 (zh) 滤波方法、编码器、解码器、码流以及存储介质
CN113132724A (zh) 编码、解码方法、装置及其设备
WO2023197230A1 (zh) 滤波方法、编码器、解码器以及存储介质
WO2023130226A1 (zh) 一种滤波方法、解码器、编码器及计算机可读存储介质
WO2024077573A1 (zh) 编解码方法、编码器、解码器、码流以及存储介质
WO2024145790A1 (zh) 解码方法、编码方法、解码器和编码器
US20230403392A1 (en) Intra prediction method and decoder
WO2023123736A1 (zh) 预测方法、装置、设备、系统、及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination