CN117834864A - 一种视频编解码环路滤波方法、视频解码方法及装置 - Google Patents
一种视频编解码环路滤波方法、视频解码方法及装置 Download PDFInfo
- Publication number
- CN117834864A CN117834864A CN202211182900.3A CN202211182900A CN117834864A CN 117834864 A CN117834864 A CN 117834864A CN 202211182900 A CN202211182900 A CN 202211182900A CN 117834864 A CN117834864 A CN 117834864A
- Authority
- CN
- China
- Prior art keywords
- video unit
- filtering
- reconstructed
- filter
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001914 filtration Methods 0.000 title claims abstract description 558
- 238000000034 method Methods 0.000 title claims abstract description 115
- 230000004927 fusion Effects 0.000 claims abstract description 28
- 238000013528 artificial neural network Methods 0.000 claims description 38
- 238000012545 processing Methods 0.000 claims description 30
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 claims description 29
- 230000003044 adaptive effect Effects 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 16
- 241000023320 Luma <angiosperm> Species 0.000 claims description 9
- 238000013507 mapping Methods 0.000 claims description 6
- 230000006978 adaptation Effects 0.000 abstract description 53
- 230000008569 process Effects 0.000 abstract description 10
- 230000000694 effects Effects 0.000 abstract description 7
- 238000012937 correction Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000004422 calculation algorithm Methods 0.000 description 29
- 238000010586 diagram Methods 0.000 description 29
- 230000005540 biological transmission Effects 0.000 description 14
- 229910003460 diamond Inorganic materials 0.000 description 6
- 239000010432 diamond Substances 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000015556 catabolic process Effects 0.000 description 5
- 238000006731 degradation reaction Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000002860 competitive effect Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/15—Correlation function computation including computation of convolution operations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本申请实施例提供了一种视频编解码环路滤波方法、视频解码方法及装置,该方法包括:利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;利用第二滤波器对重建图像进行滤波,得到第二重建视频单元;根据第一重建视频单元、第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数;基于卷积模板及滤波器系数,对第一重建视频单元、第二重建视频单元以及滤波器系数进行滤波,得到第三重建视频单元,可以解决相关技术中针对单个像素点的加权融合操作,滤波适配效果不佳的问题,基于卷积的滤波方式能够尽可能在滤波修正过程中,添加更多的邻近像素信息,让重建值更好地逼近原始值,达到较好的输出图像质量。
Description
技术领域
本申请实施例涉及通信领域,具体而言,涉及一种视频编解码环路滤波方法、视频解码方法及装置。
背景技术
基于神经网络的环路滤波(Neural Network In-loop Filter,简称为NNF)可以作为一个新的模块加入环路滤波中,既可以代替原本的去块环路滤波(Deblocking Filter,简称为DBF)模块和样本自适应补偿环路滤波(Sample adaptive offset,简称为SAO)模块,也可以与传统滤波模块并行。一般地,编解码器中,NNF滤波后仍旧会使用自适应环路滤波(Adaptive Loop Filter,简称为ALF)来进一步提高图像性能。
NNF滤波一般采用离线训练的形式,将离线训练得到的权重加载到VTM(VVC的参考软件测试平台)中使用,可以获得较好的效果。由于现有的网络一般为离线网络,在实际使用时没有原始图像作为参照,所以NNF会存在强度过强或者过弱的问题。基于此,在进行NNF滤波时,需要根据当前图像的特性进行适配。
适配方法之一是引入缩放因子进行强度调节(Scale)操作。Scale操作通过最小二乘法拟合直线的形式使NNF滤波后重建帧逼近原始帧,达到NNF滤波强度与原图像自适应的效果,此外还加入条带层级或编码块级开关操作,以此控制NNF滤波的有效范围。
适配方法之二是加入DBF滤波进行加权,加权方案包括仅采用DBF的输出、采用NN滤波方案和DBF滤波加权等,参与加权的像素点为待适配的当前像素点,此方案可以在条带层级或编码块级灵活选择和控制。
但以上两种适配方法都是针对单个像素点的加权融合操作,滤波适配效果不佳,NNF滤波的修正仍有进一步提升的空间,目前该问题尚未提出有效解决方案。
发明内容
本申请实施例提供了一种视频编解码环路滤波方法、视频解码方法及装置,以至少解决相关技术中针对单个像素点的加权融合操作,滤波适配效果不佳的问题。
根据本申请的一个实施例,提供了一种视频编解码环路滤波方法,所述方法包括:
利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;
利用第二滤波器对所述重建图像进行滤波,得到第二重建视频单元;
根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;
基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
根据本申请的另一个实施例,还提供了一种视频解码方法,包括:
获取包含编码视频序列的比特流,得到与环路滤波方式对应的环路滤波控制信息,其中,所述环路滤波控制信息包括滤波器系数;
利用第一滤波器对当前图像的重建图像进行滤波,获取第一重建视频单元;
利用第二滤波器对当前图像的重建图像进行滤波,获取第二重建视频单元;
基于所述第一重建视频单元、所述第二重建视频单元的卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
根据本申请的另一个实施例,还提供了一种视频编解码环路滤波装置,所述装置包括:
第一滤波模块,用于利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;
第二滤波模块,用于利用第二滤波器对当前图像的重建图像进行滤波,得到第二重建视频单元;
第一确定模块,用于根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;
第三滤波模块,用于基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
根据本申请的另一个实施例,还提供了一种视频解码装置,所述装置包括:
获取模块,用于获取包含编码视频序列的比特流,得到与环路滤波方式对应的环路滤波控制信息;
第一滤波模块,用于利用第一滤波器对当前图像的重建图像进行滤波,获取第一重建视频单元;
第二滤波模块,用于利用第二滤波器对当前图像的重建图像进行滤波,获取第二重建视频单元;
第三滤波模块,用于基于所所述第一重建视频单元、所述第二重建视频单元的卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
根据本申请的又一个实施例,还提供了一种计算机可读的存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
根据本申请的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
本申请实施例,利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;利用第二滤波器对所述重建图像进行滤波,得到第二重建视频单元;根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元,可以解决相关技术中针对单个像素点的加权融合操作,滤波适配效果不佳的问题,基于卷积的滤波方式能够尽可能在滤波修正过程中,添加更多的邻近像素信息,让重建值更好地逼近原始值,达到较好的输出图像质量。
附图说明
图1是本申请实施例的视频编解码环路滤波方法的移动终端的硬件结构框图;
图2是根据本申请实施例的视频编解码环路滤波方法的流程图;
图3是根据本实施例的CCA滤波的卷积模型的示意图一;
图4是根据本实施例的编码端基于卷积的滤波适配的示意图一;
图5是根据本实施例的编码端基于卷积的滤波适配的示意图二;
图6是根据本实施例的编码端基于卷积的滤波适配的示意图三;
图7是根据本实施例的编码端基于卷积的滤波适配的示意图四;
图8是根据本实施例的编码端基于卷积的滤波适配的示意图五;
图9是根据本实施例的编码端基于卷积的滤波适配的示意图六;
图10是根据本实施例的CCA滤波的卷积模型的示意图二;
图11是根据本实施例的CCA滤波的卷积模型的示意图三;
图12是根据本实施例的CCA滤波的卷积模型的示意图四;
图13是根据本申请实施例的视频解码方法的流程图;
图14是根据本实施例的解码端基于卷积的滤波适配操作的示意图;
图15是根据本申请实施例的视频编解码环路滤波装置的框图;
图16是根据本申请实施例的视频解码装置的框图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本申请的实施例。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
本申请实施例中所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例,图1是本申请实施例的视频编解码环路滤波方法的移动终端的硬件结构框图,如图1所示,移动终端可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件等的处理装置)和用于存储数据的存储器104,其中,上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述移动终端的结构造成限定。例如,移动终端还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本申请实施例中的视频编解码环路滤波方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及视频编解码环路滤波,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至移动终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种运行于上述移动终端或网络架构的视频编解码环路滤波方法,图2是根据本申请实施例的视频编解码环路滤波方法的流程图,如图2所示,应用于编解码端,该流程包括如下步骤:
步骤S202,利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;
本实施例中,上述步骤S202具体可以包括:对所述重建图像进行去块环路滤波DBF;或者对所述重建图像进行样本自适应补偿环路滤波SAO;或者对所述重建图像进行去块环路滤波DBF与样本自适应补偿环路滤波SAO;或者对所述重建图像进行基于色度缩放的亮度映射LMCS处理。
步骤S204,利用第二滤波器对所述重建图像进行滤波,得到第二重建视频单元;
本实施例中,上述步骤S204具体可以包括:对所述重建图像进行神经网络环路滤波,得到所述第二重建视频单元;或者对所述重建图像进行神经网络环路滤波,将神经网络环路滤波结果与所述第一重建视频单元进行加权求和,得到所述第二重建视频单元;或者对所述重建图像进行神经网络环路滤波,根据原始图像将所述神经网络环路滤波结果进行强度调节,得到所述第二重建视频单元,或者对所述重建图像进行除所述神经网络环路滤波之外的其他环路滤波,得到所述第二重建视频单元,其中,所述其他环路滤波包括以下至少之一:去块环路滤波DBF、样本自适应补偿环路滤波SAO、基于色度缩放的亮度映射LMCS。
步骤S206,根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;
步骤S208,基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
通过上述步骤S202至S208,可以解决相关技术中针对单个像素点的加权融合操作,滤波适配效果不佳的问题,基于卷积的滤波方式能够尽可能在滤波修正过程中,添加更多的邻近像素信息,让重建值更好地逼近原始值,达到较好的输出图像质量。
在一实施例中,步骤S208具体可以包括:分别针对所述重建图像的视频单元与原始图像的视频单元中的每个像素点,确定所述卷积模板中各个邻域位置的像素点与所述每个像素点的差值,将所述差值分别相乘,获得第一像素乘积,并确定所述原始图像的视频单元的像素点与所述重建图像的视频单元的像素点的差值,获得协方差;基于维纳滤波方法,根据所述协方差确定所述滤波器系数。
在另一实施例中,上述步骤S208具体还可以包括:基于所述第一重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第一结果;同时基于所述第二重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第二结果;将所述第一结果、所述第二结果以及所述第二重建视频单元相加,再进行取整处理,得到所述第三重建视频单元。
上述S202中,具体可以DBF滤波,上述S204中,具体可以NN滤波,上述S208中,具体可以是CCA滤波,对应的,第三重建视频单元为CCAF滤波结果,具体可以通过以下方式进行滤波处理,得到第三重建视频单元,第三重建视频单元为以下CCAF滤波结果:
NNout′=int(NNoutC+w0*(DBFoutt-NNoutC)+w1*(DBFoutl-NNoutC)+w2*(DBFoutc-NNoutC)+w3*(DBFoutr-NNoutC)+w4*(DBFoutb-NNoutC)+w5*(NNoutt-NNoutC)+w6*(NNoutl-NNoutC)+w7*(NNoutr-NNoutC)+w8*(NNoutb-NNoutC)>>BITS_NUM+0.5);其中,NNout′为该CCAF滤波结果,DBFout为第一重建视频单元,NNout为第二重建视频单元,wi为第i个滤波器系数,w0至w4是对该第一重建视频单元的滤波器系数,w5至w8是对该第二重建视频单元的滤波器系数。
本实施例中,上述的重建图像的视频单元包括经过重建处理的图像,或片,或编码块,或编码树块。
在另一实施例中,上述步骤S208具体还可以包括以下至少之一:基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的亮度分量进行滤波处理;基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的第一色度分量进行滤波处理;基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的第二色度分量进行滤波处理。
在一可选的实施例中,所述方法还包括:确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与所述原始图像的像素之间的第二损失,根据所述第一损失与所述第二损失,确定是否对所述当前图像的视频单元进行CCA滤波。
在另一可选的实施例中,所述方法还包括:确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;通过预设滤波器系数进行滤波,确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第三损失;根据所述第一损失与所述第三损失,确定通过所述滤波器系数进行所述滤波处理,或确定通过预设滤波器系数进行所述滤波处理。
具体的,确定通过该滤波器系数进行滤波后的第一损失;确定通过该滤波器系数进行滤波前的第二损失,或者确定通过预设滤波器系数进行该滤波后的第三损失;根据该第一损失与该第二损失,或者该第一损失与该第三损失确定是否进行CCA滤波;在该第一损失小于该第二损失,或该第一损失小于该第三损失时的情况下,确定进行CCA滤波,将CCA滤波的标识符设置为1;在该第一损失不小于该第二损失,或该第一损失不小于该第三损失时的情况下,确定不进行CCA滤波,将该CCA滤波的标识符设置为0。
进一步的,在该滤波器系数为该重建图像的每个slice对应的滤波器系数时,在该第一损失小于该第二损失的情况下,确定对该重建图像的每个slice基于slice对应的滤波器系数进行CCA滤波;在该第一损失不小于该第二损失的情况下,确定不对该重建图像的每个slice基于slice对应的滤波器系数进行CCA滤波;或者在该第一损失小于该第二损失的情况下,确定对该重建图像的每个块基于所在slice对应的滤波器系数进行CCA滤波;在该第一损失不小于该第二损失的情况下,确定不对该重建图像的每个块基于所在slice对应的滤波器系数进行CCA滤波,其中,该块为以下之一:一个或多个CTU,一个或多个CU,预设尺寸的像素块。
在另一可选的实施例中,所述方法还包括:确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与原始图像的像素之间的第二损失;根据所述当前图像的视频单元的相邻视频单元的滤波器系数对所述当前图像的视频单元进行所述滤波,确定滤波后所述重建图像的视频单元的像素与所述原始图像的像素之间的第四损失;根据所述第一损失、所述第二损失与所述第四损失,确定所述当前图像的视频单元采用的滤波器系数,并根据确定的滤波器系数进行所述滤波。
在另一可选的实施例中,所述方法还包括:确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频的像素与原始图像的像素之间的第一损失;确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与原始图像的像素之间的第二损失;根据所述第一损失与所述第二损失,判断是否对所述当前图像的视频单元进行所述滤波,并针对开启所述滤波的视频单元重新计算滤波器系数,再次根据所述第一损失与所述第二损失确定是否进行滤波,重复N次后确认是否对所述当前图像的视频单元进行所述滤波。
本实施例中的卷积模板包括以下之一:菱形模板,方形模板,十字型模板。具体可以为3*3菱形模板,5*5菱形模板,7*7菱形模板,3*3方形模板,5*5方形模板,7*7方形模板,5*5十字型模板,此处只是列举了常用的几种,并不局限于本实施例的保护范围。
在一实施例中,该方法还包括:将该滤波器系数与该重建图像进行编码,得到视频码流;其中,该视频码流的pps_cca_enabled_flag为该CCA滤波的标识符,其中,该pps_cca_enabled_flag为1或0,1表示对当前slice进行CCA滤波,0表示对当前slice未进行CCA滤波;或者在该pps_cca_enabled_flag为1的前提下,该视频码流的cca_block_flag用于标识当前块是否进行CCA滤波,该cca_block_flag为1或0,其中,1表示对当前块进行CCA滤波,为0表示对当前块未进行CCA滤波。
本实施例中的视频码流的pps_cca_info_in_ph_flag用于指示该滤波器系数的位置,pps_cca_info_in_ph_flag为1或0,1表示该滤波器系数在picture header中,0表示该滤波器系数在slice header中。
在另一实施例中,上述步骤S206具体可以包括:对该CCA滤波的标识符为1的slice或块,根据该第一滤波结果、该第二滤波结果及每个slice对应的滤波器系数进行CCA滤波处理,得到该CCA滤波结果。具体的,获取该第一滤波结果中亮度分量和/或色度分量的第一子滤波结果、并获取该第二滤波结果中亮度分量和/或色度分量的第二子滤波结果;根据该第一子滤波结果、该第二子滤波结果及该滤波器系数对该重建图像的每个slice或每个块进行CCA滤波处理,得到该CCA滤波结果。
在一实施例中,该方法还包括:将该滤波器系数与该重建图像进行编码,得到视频码流;其中,该视频码流的cca_luma_enabled_flag用于标识当前slice的亮度分量是否进行CCA滤波,该cca_luma_enabled_flag为1或0,1表示当前slice的亮度分量进行CCA滤波,0表示当前slice的亮度分量未进行CCA滤波;cca_cb_enabled_flag用于标识当前slice的色度Cb分量是否进行CCA滤波,该cca_cb_enabled_flag为1或0,1表示当前slice的色度Cb分量进行CCA滤波,0表示当前slice的色度Cb分量不进行CCA滤波;cca_cr_enabled_flag用于标识当前slice的色度Cr分量是否进行CCA滤波,该cca_cr_enabled_flag为1或0,1表示当前slice的色度Cr分量进行CCA滤波,0表示当前slice的色度Cr分量不进行CCA滤波;或者cca_block_flag[i]用于标识当前块的亮度分量或色度分量是否进行CCA滤波,cca_block_flag[i]为1或0,其中,1表示对当前块的亮度分量或色度分量进行CCA滤波,0表示对当前块的亮度分量或色度分量未进行CCA滤波;i为0表示亮度分量,i为1表示色度Cb分量,为2表示色度Cr分量。
在另一实施例中,该方法还包括:重复迭代N次执行以下步骤,以得到每个块的CCA滤波的标识符与对应的滤波器系数:针对该CCA滤波的标识符为1的目标块,确定该目标块的目标滤波器系数;确定该该目标块中每个块进行CCA滤波处理后的第一图像cost和进行CCA滤波处理前的第二图像cost,将该第一图像cost小于该第二图像cost的目标块的CCA滤波的标识符设置为1。
在另一实施例中,该方法还包括:在该滤波器系数为该重建图像的每个块对应的滤波器系数时,对该重建图像的每个块执行以下步骤,以通过系数融合模式更新该每个块的滤波器系数,其中,正在执行的块称为当前块:针对当前块的像素点,确定通过该滤波器系数进行CCA滤波后的第一图像cost;若当前块的上相邻块存在滤波器系数,确定该当前块的第四图像cost为该上相邻块的通过该滤波器系数进行CCA滤波处理后的图像cost;若当前块的左相邻块存在滤波器系数,确定该当前块的第五图像cost为该左相邻块的通过该滤波器系数进行CCA滤波处理后的第一图像cost;确定该当前块不通过该滤波器系数进行该CCA滤波处理的第六图像cost;从该第一图像cost、该第四图像cost、该第五图像cost及该第六图像cost中选取最小图像cost对应的滤波器系数为该当前块的滤波器系数,其中,该块为以下之一:一个或多个CTU,一个或多个CU,预设尺寸的像素块。
在另一实施例中,该方法还包括:将该滤波器系数与该重建图像进行编码,得到视频码流;该CCA滤波的标识符为1的前提下,该视频码流的cca_block_flag用于标识当前块是否进行CCA滤波,该cca_block_flag为1或0,1表示对当前块进行CCA滤波,为0表示对当前块未进行CCA滤波;该cca_block_flag为1的情况下,cca_block_merge_flag[i][BlkAddrX][Blk AddrY]用于标识当前块是否使用该系数融合模式,该cca_block_merge_flag[i][Blk AddrX][Blk AddrY]为1或0,1表示使用该系数融合模式;该cca_block_merge_flag[i][Blk AddrX][Blk AddrY]为1的情况下,cca_block_merge_mode_flag[0][BlkAddrX][Blk AddrY]用于标识当前块的系数融合模式的类型,该cca_block_merge_mode_flag[0][Blk AddrX][Blk AddrY]为1或0,1表示使用上相邻块的滤波器系数,0表示使用左相邻块的滤波器系数;其中,i为0表示亮度分量,i为1表示色度Cb分量,i为2表示色度Cr分量。
本实施例在NN滤波的修正过程中,进行引入多点邻域像素基于卷积的滤波设计适配算法(CCAF)。由于现有的方案都是针对单个像素点的加权融合操作。所以CCAF的基于卷积的滤波方式能够尽可能在NN滤波修正过程中,添加更多的邻近像素信息,让重建值更好地逼近原始值,达到较好的输出图像质量。
本实施例中,编码端基于卷积的滤波适配算法,编码端CCA滤波方法的流程包括:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到recBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCAF环节中,结合原始图像计算CCAF滤波系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCAF滤波系数,根据卷积模板进行滤波操作。
本实施例中的邻域信息指的是CCF卷积模板中以所述位置像素点为中心的邻域信息。
参与CCA滤波系数计算的邻域信息包括:Rec图像中所述位置像素点的邻域信息,NNin图像中所述位置像素点的邻域信息,NNout图像中所位置述像素点的邻域信息。
作为一种可选实施方式,图3是根据本实施例的CCA滤波的卷积模型的示意图一,如图3所示,CCA滤波的邻域信息包括:c代表中间位置待滤波的像素,t代表上方的邻域像素,b代表下方的邻域像素,l代表左方的邻域像素,r代表右方的邻域像素。
图4是根据本实施例的编码端基于卷积的滤波适配的示意图一,如图4所示,编码端应用基于卷积的滤波适配算法的流程如上图所示。将传统滤波模块(譬如:DBF)的输出(DBFout)与NN滤波模块的输出(NNout)作为CCA模块的输入,对传统模块的输出与NN模块的输出进行多点的加权操作。
此处可以扩展到任意两种滤波方案的适配算法,不局限于DBF滤波和NN滤波。
步骤1:DBF滤波,对LMCS后的重建图像Rec进行DBF滤波,存储DBF滤波的结果到dbfoutBuf中。
步骤2:NN滤波,得到LMCS的重建图像之后,进行NN滤波。
首先配置需要输入网络的各项数据,比如重建图像样本、QP信息、CU划分信息、去方块滤波信息、预测样本等等,然后将这些信息输入到NN滤波网络模块,得到经过NN滤波处理后的重建图像样本。存储NN滤波的结果到NNoutBuf中。
步骤3:基于卷积的滤波适配算法,将以上步骤中存储的2个Buf中的结果送入到CCA环节中,计算系数并进行滤波操作。具体步骤包括:
使用维纳滤波的方法,原理如下:
滤波后的均方误差MSE的计算方法如下:
其中n表示系数数量,c为所求系数,p为中心相对坐标的偏移。将上式分解:
根据以上方程求解系数,可得到针对一个像素点最优的性能。
针对一个slice的多个像素点,可列出如下方程式。
求解这个方程,得到滤波系数。
步骤3-a:协方差计算,包括:
(1)对每个像素点,计算卷积模板各个位置与中心点的差值,将差值分别相乘。同时计算当前点的org-当前点像素值。
(2)对一个slice的像素点都进行(1)的计算。
在主方案中,滤波模板被设置为如图3所示的模板中(模板不限于此模板,可以扩展或者缩小)。
步骤3-b:根据协方差计算CCA滤波系数,包括:
根据3-a步骤计算得到的协方差,列出方程并求解得到滤波系数。(c0至c8)
由于通过公式直接求得的系数为浮点数,将系数量化为整数(w0至w8)。
wi=int((ci<<BITS_NUM+0.5))。
这里BITS_NUM取7。o(i)为所述重构图像的像素值,r(i)为NN滤波后的图像的像素值,pi为像素点与相邻像素点的位置偏移,将系数左移是将系数整数化。
步骤3-c:构建CCA输出信号,得到计算出的滤波系数后,使用如下公式进行滤波操作:
NNout′=int((NNoutC+w0*(DBFoutt-NNoutC)+w1*(DBFoutl-NNoutC)+w2*(DBFoutc-NNoutC)+w3*(DBFoutr-NNoutC)+w4*(DBFoutb-NNoutC)+w5*(NNoutt-NNoutC)+w6*(NNoutl-NNoutC)+w7*(NNoutr-NNoutC)+w8*(NNoutb-NNoutC))>>BITS_NUM+0.5)。
其中DBFout是指经过DBF的输出,NNout是指经过NN滤波器的输出,wi指第i个滤波系数,其中w0至w4是对DBF输出的滤波器系数,w5至w8是对NN输出的滤波器系数。
(由于在步骤3-b中,系数是左移过的,所以在使用后,需要右移回去。)
退化为DBF与NN加权方案:
去掉邻域信息,除w2外,其他w系数都为0;
NNout′=NNoutC+w2*(DBFoutc-NNoutC)=w2*DBFoutc+(1-w2)*NNoutC;
退化为scale:去掉邻域信息,除w2外,其他w系数都为0。将DBFoutc变成Recc(即NNin,也是DBF之前的重建值)。
可选实施方式1:改变CCA输入。
由于目前出现了很多种NN滤波模块与传统滤波模块的结合方式,因此CCA模块的输入并不固定为主方案中的方式。可以对输出1和输入2分别进行修改。
方式1-1:改变CCA输入1,具体改变Rec。Rec主方案中,Rec表示的是DBF的输出,在实际操作中也可以是经过DBF、SAO等传统滤波模块后的重建图像,或者DBF之前的输出。
Rec表示DBF之前的的重建图像,图5是根据本实施例的编码端基于卷积的滤波适配的示意图二,如图5所示,包括以下步骤:
步骤1,将LMCS后的重建图像存储到recBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差;根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
Rec表示DBF、SAO之后的重建图像,图6是根据本实施例的编码端基于卷积的滤波适配的示意图三,如图6所示,步骤如下:
步骤1,对LMCS后的重建图像进行DBF、SAO滤波,存储SAO滤波后的结果到saooutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板进行滤波系数计算,根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
方式1-2:还可以改变CCA输入2,改变NNrelated。主方案中NNrelated表示的是NN的输出,但由于NN由于离线性,在NN后普遍会对做与重建像素的加权操作。因此NNrelated也可以是与NN有关的输出。包括:
NNrelated表示NN的输出与DBF的加权结果,图7是根据本实施例的编码端基于卷积的滤波适配的示意图四,如图7所示,包括:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
将recBuf中的像素值与nnoutBuf中的像素值进行加权,加权后的结果放到nnoutBuf。
nnout=dbfout*(1-k)+nnout*k。
k范围为[0,1],比如可以为0.75、0.5等。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差;根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
NNrelated表示NN做了scale后的结果,图8是根据本实施例的编码端基于卷积的滤波适配的示意图五,如图8所示,包括:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到recBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
将LMCS后的像素值(也就是NN的输入)与nnoutBuf中的像素值进行scale操作,结果放到nnoutBuf。scale可以采用最小二乘法计算得到,也可以是预设值。
nnout=nnin+scale*(nnout-nnin)。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差;根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
方式1-3:还可以是范围更广的CCA,CCA不局限于在基于NN的编解码框架中使用,也可以在传统编解码框架中使用。
比如可以把未经过DBF的重建图像与经过DBF的重建图像作为CCA的两个输入,进行CCA操作。图9是根据本实施例的编码端基于卷积的滤波适配的示意图六,如图9所示,步骤如下:
步骤1,将LMCS后的重建图像存储到recBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到dbfoutBuf中。
步骤3,进行CCA适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差;根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
可选实施方式2:CCA决策机制.
由于系数需要在编码端计算后传输到解码端,可能会导致视频编码码流的传输开销增加。以及当像素过多时,针对一个slice计算一组系数可能对部分像素点没有性能增益或导致性能变差。因此本方案提出多种决策机制方案。
可选实施方式2-1:开关控制。
slice级开关:对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,slice级开关控制,包括:
(1)计算3-b中求出的自适应系数的cost(cost表示RDcost)。
(2)计算不使用CCA前重建图像的cost。
(3)当前slice使用CCA与不使用CCA竞争,标识最优方案并传输。若CCA后性能没有增益或变差,设置标识符为0,表示当前slice不进行CCA操作;否则标识符为1,表示当前slice要进行CCA操作。
对flag为1的slice,按实施例1步骤2-b所述方法进行CCA操作,得到重建图像。flag为0的类不做处理。
块级开关:对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,块级开关控制,包括:
(1)计算各个块使用3-b中求出的自适应系数后的cost(cost表示RDcost)。
(2)计算各个块不使用CCA前重建图像的cost。
(3)对每个块使用CCA与不使用CCA竞争,标识最优方案并传输。若CCA后性能没有增益或变差,设置标识符为0,表示这个块不进行CCA操作;否则标识符为1,表示这个块要进行CCA操作。
对flag为1的块,按实施例1步骤2-b所述方法进行CCA操作,得到重建图像。flag为0的块不做处理。
本实施例中的系数优化方案,包括:对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,系数优化,包括:
(1)计算各个块(块可以指CTU,也可以指NN的操作块)使用CCA前的cost和使用CCA后的cost。若CCA后性能没有增益或变差,设置标识符为0,表示这个块不进行CCA操作;否则标识符为1,表示这个块要进行CCA操作。
(2)针对标识符为1的块,重新计算一组系数,然后重复步骤(1)。按照这个步骤将系数迭代N次(这里N不做限制,可以取3),每次都计算这个系数对应的cost,比较得到优化后的系数以及各个块的最终标识符。
对flag为1的块,按实施例1步骤2-b所述方法进行CCA操作,得到重建图像。flag为0的块不做处理。
可选实施方式2-2:竞争决策。
预设系数与自适应系数竞争筛选,包括:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,竞争决策,包括:
①计算3-b中求出的自适应系数的cost(cost表示RDcost)。
②3-c对预设系数计算cost(预设系数根据统计信息设置)。
③自适应系数与预设系数进行竞争,标识最优方案并传输。
使用cost小的系数按照实施例1步骤3-c进行滤波。
可选实施方式3:块级CCA。
由于以上方案都是的系数都是针对slice级的,对于一个slice的像素只使用一组系数的自适应性可能不高,因此本方案提出块级CCA技术。块级CCA操作步骤包括:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果按照块为单位送入到CCA环节中,计算系数并进行滤波操作。
针对一个块的像素点,根据卷积模板所包含的邻域信息计算协方差。根据协方差计算CCA滤波系数,对当前块根据卷积模板进行滤波操作,具体操作与上述类似,在此不再赘述。
加入块级开关控制:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果按照块为单位送入到CCA环节中,计算系数并进行滤波操作。
针对一个块的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,对各个块使用CCA前的cost和使用CCA后的cost。若CCA后性能没有增益或变差,设置标识符为0,表示这个块不进行CCA操作;否则标识符为1,表示这个块要进行CCA操作。
对flag为1的块,按实施例1步骤3-c所述方法进行CCA操作,得到重建图像。flag为0的块不做处理。
融合模式:由于块级传输系数的开销比较大,因此加入系数融合模式节省部分传输开销。针对当前块,由于相邻区域有一定的相关性,当前块可以使用上或左的块计算出的系数来完成当前块的CCA滤波,步骤如下:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果按照块为单位送入到CCA环节中,计算系数并进行滤波操作。
针对一个块的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,融合主要步骤:
①计算使用3-b自适应系数后的cost。
②若当前块的上边块存在CCA系数,则计算对当前块直接使用上边块系数的cost。
③若当前块的左边块存在CCA系数,则计算对当前块直接使用左边块系数的cost。
④计算不做CCA的cost。
⑤比较以上4个cost。选择出当前块的最优方案。
对flag为1的块,按实施例1步骤3-c所述方法进行CCA操作,得到重建图像。flag为0的块不做处理。
可选实施方式4:改变卷积模板。
主方案中为3x3菱形模板。扩大模块可以在CCA过程中融合更多的信息,缩小模板可以节省CCA在传输过程中的比特。基于此,模板还有更多选择方案。
以下方案仅修改了卷积模板形状,整体操作步骤如下:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个块的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
本实施例中不限于3x3菱形模板,图10是根据本实施例的CCA滤波的卷积模型的示意图二,如图10所示,可以是5x5的模板,也可以是7x7等模板。
本实施例中不限于菱形模板,图11是根据本实施例的CCA滤波的卷积模型的示意图三,如图11所示,也可以是方形等形状。
图12是根据本实施例的CCA滤波的卷积模型的示意图四,如图12所示,Rec与NN模板形状可以不同。
本实施例中主方案的中心点为NN模板的中心点,也可以为Rec的中心点。
NNout′=int((DBFoutc+w0*(DBFoutt-DBFoutc)+w1*(DBFoutl-DBFoutc)+w2*(DBFoutr-DBFoutc)+w3*(DBFoutb-DBFoutc)+w4*(NNoutt-DBFoutc)+w5*(NNoutl-DBFoutc)+w6*(NNoutc-DBFoutc)+w7*(NNoutr-DBFoutc)+w8*(NNoutb-DBFoutc))>>BITS_NUM+0.5)。
可选实施方式5:不同分量的CCA以及分量间CCA,CCA方式不限制分量,亮度色度都可以分别使用或是关闭。
亮度色度都使用CCA,步骤如下:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中亮度色度分量的结果分别送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
仅亮度使用CCA,步骤如下:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中亮度分量的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
仅色度使用CCA,步骤如下:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中色度分量的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,根据卷积模板进行滤波操作。
分量间CCA(Cross Components CCA模式),考虑到一般亮度能比色度包含更多的信息,所以可以使用亮度取计算CCA的滤波系数,包括:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,计算系数并进行滤波操作。
针对一个slice的像素点,根据卷积模板所包含的邻域信息计算协方差,根据协方差计算CCA滤波系数,构建CCA输出信号:
得到计算出的滤波系数后,使用如下公式进行滤波操作:
NNout_chroma′=int((NNout_chromaC+w0*(DBFout_lumat-NNout_lumaC)+w1*(DBFout_lumal-NNout_lumaC)+w2*(DBFout_lumac-NNout_lumaC)+w3*(DBFout_lumar-NNout_lumaC)+w4*(DBFout_lumab-NNout_lumaC)+w5*(NNout_lumat-NNout_lumaC)+w6*(NNout_lumal-NNout_lumaC)+w7*(NNout_lumar-NNout_lumaC)+w8*(NNout_lumab-NNout_lumaC))>>BITS_NUM+0.5)
其中DBFout_luma是指亮度分量经过DBF的输出,NNout_luma是指亮度分量经过NN滤波器的输出,NNout_chromaC是指色度分量经过NN滤波器的输出,wi指第i个滤波系数,其中w0至w4是对DBF输出的滤波器系数,w5至w8是对NN输出的滤波器系数。
根据本申请的另一个实施例,还提供了一种视频解码方法,图13是根据本申请实施例的视频解码方法的流程图,如图13所示,该流程包括如下步骤:
步骤S1302,获取包含编码视频序列的比特流,得到与环路滤波方式对应的环路滤波控制信息,其中,所述环路滤波控制信息包括滤波器系数;
步骤S1304,利用第一滤波器对当前图像的重建图像进行滤波,获取第一重建视频单元;
本实施例中,上述步骤S1304具体可以包括:对所述重建图像进行去块环路滤波DBF;或者对所述重建图像进行样本自适应补偿环路滤波SAO;或者对所述重建图像进行去块环路滤波DBF与样本自适应补偿环路滤波SAO;或者对所述重建图像进行基于色度缩放的亮度映射LMCS处理。与上述步骤S202类似。
步骤S1306,利用第二滤波器对当前图像的重建图像进行滤波,获取第二重建视频单元;
本实施例中,上述步骤S1306具体可以包括:对所述重建图像进行神经网络环路滤波,得到所述第二重建视频单元;或者对所述重建图像进行神经网络环路滤波,将神经网络环路滤波结果与所述第一重建视频单元进行加权求和,得到所述第二重建视频单元,或者对所述重建图像进行神经网络环路滤波,根据原始图像将所述神经网络环路滤波结果进行强度调节,得到所述第二重建视频单元;或者对所述重建图像进行除神经网络环路滤波之外的其他环路滤波,得到所述第二重建视频单元,所述其他环路滤波包括以下至少之一:去块环路滤波DBF、样本自适应补偿环路滤波SAO、基于色度缩放的亮度映射LMCS。与上述步骤S204类似。
步骤S1308,基于第一重建视频单元、第二重建视频单元的卷积模板以及滤波器系数,对第一重建视频单元、第二重建视频单元进行滤波,得到第三重建视频单元。
通过上述步骤S1302至S1308,可以解决相关技术中针对单个像素点的加权融合操作滤波修改不佳的问题,基于卷积的滤波方式能够尽可能在滤波修正过程中,添加更多的邻近像素信息,让重建值更好地逼近原始值,达到较好的输出图像质量。
本实施例中,上述步骤S1308具体可以包括:基于所述第一重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第一结果;同时基于所述第二重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第二结果;将所述第一结果、所述第二结果以及所述第二重建视频单元相加,再进行取整处理,得到所述第三重建视频单元。与上述步骤S208类似。
上述S1304中,具体可以DBF滤波,上述S1306中,具体可以NN滤波,上述S1308中,具体可以是CCA滤波,对应的,第三重建视频单元为CCAF滤波结果,具体可以通过以下方式进行滤波处理,得到第三重建视频单元,第三重建视频单元为以下CCAF滤波结果:
NNout′=int(NNoutC+w0*(DBFoutt-NNoutC)+w1*(DBFoutl-NNoutC)+w2*(DBFoutc-NNoutC)+w3*(DBFoutr-NNoutC)+w4*(DBFoutb-NNoutC)+w5*(NNoutt-NNoutC)+w6*(NNoutl-NNoutC)+w7*(NNoutr-NNoutC)+w8*(NNoutb-NNoutC)>>BITS_NUM+0.5);其中,NNout′为该CCAF滤波结果,DBFout为第一重建视频单元,NNout为第二重建视频单元,wi为第i个滤波器系数,w0至w4是对该第一重建视频单元的滤波器系数,w5至w8是对该第二重建视频单元的滤波器系数。
本实施例中,上述的环路滤波信息,包括以下至少之一:序列级滤波开关标识符,用于指示对当前视频帧所在的视频序列开启或关闭所述环路滤波方式;滤波图像级标识符,用于指示所述环路滤波模型信息在图像头信息中出现或在片头信息中出现;环路滤波模型结构信息,用于指示对应用所述环路滤波方式的视频单元进行所述环路滤波。
在一实施例中,所述方法还包括:确定所述序列级滤波开关标识符的取值;在所述序列级滤波开关标识符取值为第一值时,确定当前编码视频序列启用所述环路滤波,在所述序列级滤波开关标识符取值为第二值时,确定当前编码视频序列不启用所述环路滤波,其中,所述第一值与所述第二值不同。
在一实施例中,所述方法还包括:确定所述滤波图像级标识符的取值;在所述滤波图像级标识符取值为第三值时,确定所述环路滤波模型信息在图像头中出现,在所述滤波图像级标识符取值为第四值时,确定所述环路滤波模型信息在片头中出现,其中,所述第三值与所述第四值不同。
本实施例中,上述的视频单元包括视频中的图像或视频片。
本实施例中,上述的环路滤波模型结构信息包括以下至少之一:视频单元滤波开关标识符,用于指示视频单元开启或关闭所述环路滤波方式;视频单元分量开关标识符,用于指示视频单元分量开启或关闭所述环路滤波方式;视频单元块级滤波开关标识符,用于指示所述视频单元中的各级别开启或关闭所述环路滤波方式;视频单元滤波系数绝对值,用于指示所述视频单元中的各级别对应的滤波系数绝对值;视频单元滤波系数符号,用于指示所述视频单元中的各级别对应的滤波系数符号;其中,所述视频单元分量包括以下至少之一:视频单元的亮度分量;视频单元的第一色度分量;视频单元的第二色度分量。
在一实施例中,所述方法还包括:确定所述视频单元滤波开关标识符的取值,根据所述取值确定当前视频单元启用所述环路滤波或不启用所述环路滤波。
在一实施例中,所述方法还包括:确定所述视频单元亮度分量开关标识符的取值,根据所述取值确定对当前视频单元亮度分量启用所述环路滤波,或不对当前视频单元亮度分量启用所述环路滤波;确定所述视频单元第一色度分量开关标识符的取值,根据所述取值确定对当前视频单元第一色度分量启用,或不对当前视频单元第一色度分量启用所述环路滤波;确定所述视频单元第二色度分量开关标识符的取值,根据所述取值确定对当前视频单元第二色度分量启用,或不对当前视频单元第二色度分量启用所述环路滤波。
在一实施例中,所述方法还包括:确定所述视频单元块级滤波开关标识符的取值,根据所述取值确定对视频单元中的编码块启用所述环路滤波,或不对视频单元中的编码块启用所述环路滤波。
在一实施例中,所述方法还包括:根据所述视频单元滤波系数绝对值以及所述视频单元滤波系数符号,采用所述环路滤波方式对开启所述环路滤波方式的所述视频单元进行滤波。
本实施例中,上述的环路滤波模型结构信息还包括:视频单元块级滤波器系数融合模式开关标识符,用于指示视频单元中的编码块以及编码块的分量是否启用系数融合模式;视频单元块级滤波器系数融合模式类型标识符,用于指示视频单元中的当前编码块的相邻编码块所在位置,其中当前编码块使用所述相邻编码块的滤波器系数进行所述环路滤波;其中,所述编码块分量包括以下至少之一:亮度分量,第一色度分量,第二色度分量。
本实施例中,上述的=环路滤波模型结构信息还包括:跨分量滤波模式开关标识符,用于指示视频单元中的编码块以及编码块的分量是否启用跨分量滤波模式。
一方面,上述步骤S1306中,具体可以从该视频码流的pps_cca_enabled_flag中获取该CCA滤波的标识符;根据该CCA滤波的标识符确定是否进行CCA滤波,其中,该pps_cca_enabled_flag为1或0,1表示对当前slice进行CCA滤波,0表示对当前slice未进行CCA滤波;在该pps_cca_enabled_flag为1的情况下,从该视频码流中获取该滤波器系数;或者在该pps_cca_enabled_flag为1的情况下,根据该视频码流的cca_block_flag确定该重建图像的每个block是否进行CCA滤波,其中,该cca_block_flag为1或0,其中,1表示对当前块进行CCA滤波,为0表示对当前块未进行CCA滤波,若该cca_block_flag为1,获取该每个块的该滤波器系数,其中,该块为以下之一:一个或多个CTU,一个或多个CU,预设尺寸的像素块。
另一方面,上述步骤S1306中,具体还可以通过该视频码流的pps_cca_info_in_ph_flag确定该滤波器系数的位置,其中,pps_cca_info_in_ph_flag为1或0,1表示该滤波器系数在picture header中,0表示该滤波器系数在slice header中;在pps_cca_info_in_ph_flag为1的情况下,从picture header中获取该滤波器系数;在pps_cca_info_in_ph_flag为0的情况下,从slice header中获取该滤波器系数。
在另一实施例中,上述步骤S1308具体可以包括:对该CCA滤波的标识符为1的slice或块,获取该第一滤波结果中亮度分量和/或色度分量的第一子滤波结果、并获取该第二滤波结果中亮度分量和/或色度分量的第二子滤波结果;根据该第一子滤波结果、该第二子滤波结果及该滤波器系数对该重建图像的每个slice或每个块进行CCA滤波处理,得到该CCA滤波结果。
在另一实施例中,上述步骤S1308具体还可以包括:根据该视频码流的cca_luma_enabled_flag确定当前slice的亮度分量是否进行CCA滤波,若该cca_luma_enabled_flag为1,对当前slice的亮度分量进行CCA滤波,若该cca_luma_enabled_flag为0,对当前slice的亮度分量未进行CCA滤波;根据cca_cb_enabled_flag确定当前slice的色度Cb分量是否进行CCA滤波,若该cca_cb_enabled_flag为1,对当前slice的色度Cb分量进行CCA滤波,若该cca_cb_enabled_flag为0,对当前slice的色度Cb分量不进行CCA滤波;根据cca_cr_enabled_flag确定当前slice的色度Cr分量是否进行CCA滤波,若该cca_cr_enabled_flag为1,对当前slice的色度Cr分量进行CCA滤波,若该cca_cr_enabled_flag为0,对当前slice的色度Cr分量不进行CCA滤波;或者根据cca_block_flag[i]确定当前块的亮度分量或色度分量是否进行CCA滤波;若该cca_block_flag[i]为1,对当前块的亮度分量或色度分量进行CCA滤波,若该cca_block_flag[i]为0,对当前块的亮度分量或色度分量未进行CCA滤波,其中,i为0表示亮度分量,i为1表示色度Cb分量,为2表示色度Cr分量。
在另一实施例中,上述步骤S308具体可以包括:在该CCA滤波的标识符为1的情况下,通过该视频码流的cca_block_flag确定当前块是否进行CCA滤波,若该cca_block_flag为1,对当前块进行CCA滤波,若该cca_block_flag为0,对当前块不进行CCA滤波;在该cca_block_flag为1的情况下,通过cca_block_merge_flag[i][Blk AddrX][Blk AddrY]确定当前块是否使用该系数融合模式,若该cca_block_merge_flag[i][Blk AddrX][Blk AddrY]为1,确定使用该系数融合模式,若该cca_block_merge_flag[i][Blk AddrX][Blk AddrY]为0,确定未使用该系数融合模式;该cca_block_merge_flag[i][Blk AddrX][Blk AddrY]为1的情况下,通过cca_block_merge_mode_flag[0][Blk AddrX][Blk AddrY]确定当前块的系数融合模式的类型,若该cca_block_merge_mode_flag[0][Blk AddrX][Blk AddrY]为1,使用上相邻块的滤波器系数对当前块进行CCA滤波,若该cca_block_merge_mode_flag[0][Blk AddrX][Blk AddrY]为0,使用左相邻块的滤波器系数对当前块进行CCA滤波;其中,i为0表示亮度分量,i为1表示色度Cb分量,i为2表示色度Cr分量。
本实施例中,上述的卷积模板为3*3菱形模板,5*5菱形模板,7*7菱形模板,3*3方形模板,5*5方形模板,7*7方形模板,5*5十字型模板,此处只是列举了常用的几种,并不局限于本实施例的保护范围。
本实施例中解码端基于卷积的滤波适配算法,解码端CCA滤波方法整体流程如下:
步骤1,对LMCS后的重建图像进行DBF滤波,存储DBF滤波后的结果到dbfoutBuf中。
步骤2,对LMCS后的重建图像进行NN滤波,存储NN滤波的结果到nnoutBuf中。
步骤3,进行基于卷积的滤波适配算法。将以上步骤中存储的2个buf中的结果送入到CCA环节中,从码流中解析CCA系数并进行滤波操作。
3-a,解码器根据码流中语法元素读取滤波器系数;
3-b,重建CCA滤波后的输出,同实施例1步骤3-c操作方式。
图14是根据本实施例的解码端基于卷积的滤波适配操作的示意图,如图14所示,在解码端,基于卷积的滤波适配算法,滤波器系数等内容通过解析码流获得。解码端CCAF包括:
步骤1:DBF滤波,对LMCS后的重建图像Rec进行DBF滤波,存储DBF滤波的结果到dbfoutBuf中。
步骤2:NN滤波,得到LMCS的重建图像之后,进行NN滤波。
首先配置需要输入网络的各项数据,比如重建图像样本、QP信息、CU划分信息、去方块滤波信息、预测样本等等,然后将这些信息输入到网络模块,得到经过NN处理后的重建图像样本。存储NN滤波的结果到nnoutBuf中。
步骤3:基于卷积的滤波适配算法,将以上步骤中存储的2个buf中的结果送入到CCA环节中,从码流中解析CCA系数并进行滤波操作。具体步骤包括:
步骤3-a:滤波系数计算,从码流中解析出w0至w8。
步骤3-b:构建CCA输出信号,得到的滤波系数后,使用如下公式进行滤波操作:
NNout′=int((NNoutC+w0*(DBFoutt-NNoutC)+w1*(DBFoutl-NNoutC)+w2*(DBFoutc-NNoutC)+w3*(DBFoutr-NNoutC)+w4*(DBFoutb-NNoutC)+w5*(NNoutt-NNoutC)+w6*(NNoutl-NNoutC)+w7*(NNoutr-NNoutC)+w8*(NNoutb-NNoutC))>>BITS_NUM+0.5)
其中DBFout是指经过DBF的输出,NNout是指经过NN滤波器的输出,wi指第i个滤波系数,其中w0至w4是对DBF输出的滤波器系数,w5至w8是对NN输出的滤波器系数。
本实施例中基于卷积的滤波适配算法传输,视频编码码流中CCA相关的语法元素,包括:
SPS层:
编码器根据SPS中sps_cca_enabled_flag语法元素判断当前序列是否采用CCA方案,语法语义如下表1所示。
表1
其中,sps_cca_enabled_flag等于1表示当前序列开启CCA技术,等于0表示当前序列不开启CCA技术。
PPS层:
编码器根据PPS中pps_cca_info_in_ph_flag语法元素判断CCA方案相关信息在语法元素中的位置,语法语义如下表2所示。
表2
pps_cca_info_in_ph_flag等于1表示CCA相关信息在picture header中出现,等于0表示CCA相关信息不在picture header中出现,可以在slice header中出现。
picture header:
当pps_cca_info_in_ph_flag等于1时,表示CCA相关信息在picture header中出现,解码器可以根据picture header中cca_structure()结构读取CCA滤波系数,语法语义如下表3所示。
表3
slice header:
当pps_cca_info_in_ph_flag等于0时,表示CCA相关信息不在picture header中出现,可以在slice header中出现。解码器可以根据slice header中cca_structure()结构读取CCA滤波系数,语法语义如下表4所示。
表4
cca_structure():
解码器根据cca_structure()结构中语法元素判断当前图像或片是否使用CCA,如果使用CCA,则进一步获取亮度分量或色度分量的滤波系数,完成CCA操作,如图下表5所示。
表5
cca_enabled_flag等于1表示使用CCA,等于0表示不使用CCA。
cca_luma_enabled_flag等于1表示当前slice的luma分量使用CCA,等于0表示当前slice的luma分量不使用CCA。
num_cca_luma_coeff:亮度滤波器系数的个数。一般为预设值,不需要传输。不同实施例可以选用不同的滤波器个数。
cca_luma_coeff_abs[i]:表示当前slice亮度的第i个系数绝对值。
cca_luma_coeff_signed[i]:表示当前slice亮度的第i个系数符号。
cca_cb_enabled_flag:等于1表示当前slice的Cb分量使用CCA,等于0表示当前slice的Cb分量不使用CCA。
cca_cr_enabled_flag:等于1表示当前slice的Cr分量使用CCA,等于0表示当前slice的Cr分量不使用CCA。
cca_cb_coeff_abs[i]:表示当前slice的Cb分量的第i个系数绝对值。
cca_cb_coeff_signed[i]:表示当前slice的Cb分量第i个系数符号。
cca_cr_coeff_abs[i]:表示当前slice的Cr分量的第i个系数绝对值。
cca_cr_coeff_signed[i]:表示当前slice的Cr分量第i个系数符号。
num_cca_chroma_coeff:色度滤波器系数的个数。一般为预设值,不需要传输。不同实施例可以选用不同的滤波器个数。
仅针对亮度分量使用的语法结构如下表6所示。
表6
仅针对色度分量使用的语法结构如下表7所示。
表7
/>
Block级开关:
如果对CCA操作设置块级开关,控制各个块的CCA开关操作,那么解码器还需要解析块级的开关,如下表8所示。
表8
cca_block_flag[i]标识该block是否使用CCA,为1表示使用,为0表示未使用。i为0表示亮度分量,为1表示色度Cb分量,为2表示色度Cr分量。
Block级CCA系数传输:
若在块级做CCA,那么需要在块级传输CCA系数亮度如下表9所示。
表9
色度如下表10所示。
表10
/>
系数融合模式:
块级系数若能与上和左相邻块融合,则需要传输融合开关。
亮度如下表11所示。
表11
cca_block_merge_flag[i][Blk AddrX][Blk AddrY]:标识该block是否使用CCA的merge模式,为1表示使用,为0表示未使用。i为0表示亮度分量,为1表示色度Cb分量,为0表示色度Cr分量。
cca_block_merge_mode_flag[0][Blk AddrX][Blk AddrY]:标识该block的CCA的merge模式类型,为1表示使用使用上相邻块的CCA系数,为0表示使用左相邻块的CCA系数。i为0表示亮度分量,为1表示色度Cb分量,为0表示色度Cr分量。
色度如下表12所示。
表12
/>
Cross Components CCA模式,如下表13所示。
表13
/>
cc_cca_structure()
cc_cca_structure()与cca_structure()的调用位置相同,如下表14所示。
表14
/>
cc_cca_enabled_flag:等于1表示使用CC-CCA,等于0表示不使用CC-CCA,当此语法元素不存在时,表示cca_enabled_flag等于0。
cc_cca_cb_enabled_flag:等于1表示当前slice的Cb分量使用CC-CCA,等于0表示当前slice的Cb分量不使用CC-CCA。
cc_cca_cr_enabled_flag:等于1表示当前slice的Cr分量使用CC-CCA,等于0表示当前slice的Cr分量不使用CC-CCA。
cc_cca_cb_coeff_abs[i]:表示当前slice的Cb分量的第i个系数绝对值。
cc_cca_cb_coeff_signed[i]:表示当前slice的Cb分量第i个系数符号。
cc_cca_cr_coeff_abs[i]:表示当前slice的Cr分量的第i个系数绝对值。
cc_cca_cr_coeff_signed[i]:表示当前slice的Cr分量第i个系数符号。
num_cc_cca_chroma_coeff:色度滤波器系数的个数。一般为预设值,不需要传输。不同实施例可以选用不同的滤波器个数。
根据本申请实施例的另一方面,还提供了一种视频编解码环路滤波装置,图15是根据本申请实施例的环路滤波装置的框图,如图15所示,所述装置包括:
第一滤波模块152,用于利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;
第二滤波模块154,用于利用第二滤波器对当前图像的重建图像进行滤波,得到第二重建视频单元;
第一确定模块156,用于根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;
第三滤波模块158,用于基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
在一实施例中,所述第一确定模块156,还用于分别针对所述重建图像的视频单元与原始图像的视频单元中的每个像素点,确定所述卷积模板中各个邻域位置的像素点与所述每个像素点的差值,将所述差值分别相乘,获得第一像素乘积,并确定所述原始图像的视频单元的像素点与所述重建图像的视频单元的像素点的差值,获得协方差;基于维纳滤波方法,根据所述协方差确定所述滤波器系数。
在一实施例中,所述重建图像的视频单元包括经过重建处理的图像,或片,或编码块,或编码树块。
在一实施例中,所述第三滤波模块158,还用于执行以下至少之一:
基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的亮度分量进行滤波处理;
基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的第一色度分量进行滤波处理;
基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的第二色度分量进行滤波处理。
在一实施例中,所述第一滤波模块152,还用于对所述重建图像进行去块环路滤波DBF;或者对所述重建图像进行样本自适应补偿环路滤波SAO;或者对所述重建图像进行去块环路滤波DBF与样本自适应补偿环路滤波SAO;或者对所述重建图像进行基于色度缩放的亮度映射LMCS处理。
在一实施例中,所述第二滤波模块154,还用于对所述重建图像进行神经网络环路滤波,得到所述第二重建视频单元;或者对所述重建图像进行神经网络环路滤波,将神经网络环路滤波结果与所述第一重建视频单元进行加权求和,得到所述第二重建视频单元;或者对所述重建图像进行神经网络环路滤波,根据原始图像将所述神经网络环路滤波结果进行强度调节,得到所述第二重建视频单元,或者对所述重建图像进行除所述神经网络环路滤波之外的其他环路滤波,得到所述第二重建视频单元,其中,所述其他环路滤波包括以下至少之一:去块环路滤波DBF、样本自适应补偿环路滤波SAO、基于色度缩放的亮度映射LMCS。
在一实施例中,所述装置还包括:
第二确定模块,用于确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与所述原始图像的像素之间的第二损失,
CCA滤波模块,用于根据所述第一损失与所述第二损失,确定是否对所述当前图像的视频单元进行CCA滤波。
在一实施例中,所述装置还包括:
第三确定模块,用于确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;通过预设滤波器系数进行滤波,确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第三损失;
第四滤波模块,用于根据所述第一损失与所述第三损失,确定通过所述滤波器系数进行所述滤波处理,或确定通过预设滤波器系数进行滤波处理。
在一实施例中,所述装置还包括:
第四确定模块,用于确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与原始图像的像素之间的第二损失;根据所述当前图像的视频单元的相邻视频单元的滤波器系数对所述当前图像的视频单元进行所述滤波,确定滤波后所述重建图像的视频单元的像素与所述原始图像的像素之间的第四损失;
第五滤波模块,用于根据所述第一损失、所述第二损失与所述第四损失,确定所述当前图像的视频单元采用的滤波器系数,并根据确定的滤波器系数进行滤波。
在一实施例中,所述装置还包括:
第五确定模块,用于确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频的像素与原始图像的像素之间的第一损失;确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与原始图像的像素之间的第二损失;
确认模块,用于根据所述第一损失与所述第二损失,判断是否对所述当前图像的视频单元进行所述滤波,并针对开启所述滤波的视频单元重新计算滤波器系数,再次根据所述第一损失与所述第二损失确定是否进行滤波,重复N次后确认是否对所述当前图像的视频单元进行所述滤波。
在一实施例中,所述第三滤波模块158,还用于基于所述第一重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第一结果;同时基于所述第二重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第二结果;将所述第一结果、所述第二结果以及所述第二重建视频单元相加,再进行取整处理,得到所述第三重建视频单元。
在一实施例中,所述卷积模板包括以下之一:菱形模板,方形模板,十字型模板。
根据本申请实施例的另一方面,还提供了一种视频解码装置,图16是根据本申请实施例的视频解码装置的框图,如图16所示,所述装置包括:
获取模块162,用于获取包含编码视频序列的比特流,得到与环路滤波方式对应的环路滤波控制信息;
第一滤波模块152,用于利用第一滤波器对当前图像的重建图像进行滤波,获取第一重建视频单元;
第二滤波模块154,用于利用第二滤波器对当前图像的重建图像进行滤波,获取第二重建视频单元;
第三滤波模块158,用于基于所所述第一重建视频单元、所述第二重建视频单元的卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
在一实施例中,所述第一滤波模块152,还用于对所述重建图像进行去块环路滤波DBF;或者对所述重建图像进行样本自适应补偿环路滤波SAO;或者对所述重建图像进行去块环路滤波DBF与样本自适应补偿环路滤波SAO;或者对所述重建图像进行基于色度缩放的亮度映射LMCS处理。
在一实施例中,所述第二滤波模块154,还用于对所述重建图像进行神经网络环路滤波,得到所述第二重建视频单元;或者对所述重建图像进行神经网络环路滤波,将神经网络环路滤波结果与所述第一重建视频单元进行加权求和,得到所述第二重建视频单元,或者对所述重建图像进行神经网络环路滤波,根据原始图像将所述神经网络环路滤波结果进行强度调节,得到所述第二重建视频单元;或者对所述重建图像进行除神经网络环路滤波之外的其他环路滤波,得到所述第二重建视频单元,所述其他环路滤波包括以下至少之一:去块环路滤波DBF、样本自适应补偿环路滤波SAO、基于色度缩放的亮度映射LMCS。
在一实施例中,所述第三滤波模块158,还用于基于所述第一重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第一结果;同时基于所述第二重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第二结果;将所述第一结果、所述第二结果以及所述第二重建视频单元相加,再进行取整处理,得到所述第三重建视频单元。
在一实施例中,所述环路滤波信息,包括以下至少之一:
序列级滤波开关标识符,用于指示对当前视频帧所在的视频序列开启或关闭所述环路滤波方式;
滤波图像级标识符,用于指示所述环路滤波模型信息在图像头信息中出现或在片头信息中出现;
环路滤波模型结构信息,用于指示对应用所述环路滤波方式的视频单元进行所述环路滤波。
在一实施例中,所述装置还包括:
第六确定模块,用于确定所述序列级滤波开关标识符的取值;在所述序列级滤波开关标识符取值为第一值时,确定当前编码视频序列启用所述环路滤波,在所述序列级滤波开关标识符取值为第二值时,确定当前编码视频序列不启用所述环路滤波,其中,所述第一值与所述第二值不同。
在一实施例中,所述装置还包括:
第七确定模块,用于确定所述滤波图像级标识符的取值;在所述滤波图像级标识符取值为第三值时,确定所述环路滤波模型信息在图像头中出现,在所述滤波图像级标识符取值为第四值时,确定所述环路滤波模型信息在片头中出现,其中,所述第三值与所述第四值不同。
在一实施例中,所述视频单元包括视频中的图像或视频片。
在一实施例中,所述环路滤波模型结构信息包括以下至少之一:
视频单元滤波开关标识符,用于指示视频单元开启或关闭所述环路滤波方式;
视频单元分量开关标识符,用于指示视频单元分量开启或关闭所述环路滤波方式;
视频单元块级滤波开关标识符,用于指示所述视频单元中的各级别开启或关闭所述环路滤波方式;
视频单元滤波系数绝对值,用于指示所述视频单元中的各级别对应的滤波系数绝对值;
视频单元滤波系数符号,用于指示所述视频单元中的各级别对应的滤波系数符号;
其中,所述视频单元分量包括以下至少之一:
视频单元的亮度分量;
视频单元的第一色度分量;
视频单元的第二色度分量。
在一实施例中,所述装置还包括:
第八确定模块,用于确定所述视频单元滤波开关标识符的取值,根据所述取值确定当前视频单元启用所述环路滤波或不启用所述环路滤波。
在一实施例中,所述装置还包括:
第九确定模块,用于确定所述视频单元亮度分量开关标识符的取值,根据所述取值确定对当前视频单元亮度分量启用所述环路滤波,或不对当前视频单元亮度分量启用所述环路滤波;确定所述视频单元第一色度分量开关标识符的取值,根据所述取值确定对当前视频单元第一色度分量启用,或不对当前视频单元第一色度分量启用所述环路滤波;确定所述视频单元第二色度分量开关标识符的取值,根据所述取值确定对当前视频单元第二色度分量启用,或不对当前视频单元第二色度分量启用所述环路滤波。
在一实施例中,所述装置还包括:
第十确定模块,用于确定所述视频单元块级滤波开关标识符的取值,根据所述取值确定对视频单元中的编码块启用所述环路滤波,或不对视频单元中的编码块启用所述环路滤波。
在一实施例中,所述装置还包括:
第六滤波模块,用于根据所述视频单元滤波系数绝对值以及所述视频单元滤波系数符号,采用所述环路滤波方式对开启所述环路滤波方式的所述视频单元进行滤波。
在一实施例中,所述环路滤波模型结构信息还包括:
视频单元块级滤波器系数融合模式开关标识符,用于指示视频单元中的编码块以及编码块的分量是否启用系数融合模式;
视频单元块级滤波器系数融合模式类型标识符,用于指示视频单元中的当前编码块的相邻编码块所在位置,其中当前编码块使用所述相邻编码块的滤波器系数进行所述环路滤波;
其中,所述编码块分量包括以下至少之一:亮度分量,第一色度分量,第二色度分量。
在一实施例中,所述环路滤波模型结构信息还包括:跨分量滤波模式开关标识符,用于指示视频单元中的编码块以及编码块的分量是否启用跨分量滤波模式。
本申请的实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
在一个示例性实施例中,上述计算机可读存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本申请的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
在一个示例性实施例中,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
本实施例中的具体示例可以参考上述实施例及示例性实施方式中所描述的示例,本实施例在此不再赘述。
显然,本领域的技术人员应该明白,上述的本申请的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本申请不限制于任何特定的硬件和软件结合。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (31)
1.一种视频编解码环路滤波方法,其特征在于,所述方法包括:
利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;
利用第二滤波器对所述重建图像进行滤波,得到第二重建视频单元;
根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;
基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
2.根据权利要求1所述的方法,其特征在于,根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中所包含的邻域信息确定滤波器系数包括:
分别针对所述重建图像的视频单元与原始图像的视频单元中的每个像素点,确定所述卷积模板中各个邻域位置的像素点与所述每个像素点的差值,将所述差值分别相乘,获得第一像素乘积,并确定所述原始图像的视频单元的像素点与所述重建图像的视频单元的像素点的差值,获得协方差;
基于维纳滤波方法,根据所述协方差确定所述滤波器系数。
3.根据权利要求2所述的方法,其特征在于,所述重建图像的视频单元包括经过重建处理的图像,或片,或编码块,或编码树块。
4.根据权利要求1所述的方法,其特征在于,基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元包括以下至少之一:
基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的亮度分量进行滤波处理;
基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的第一色度分量进行滤波处理;
基于所述卷积模板,根据所述滤波器系数对所述第一重建视频单元、所述第二重建视频单元的第二色度分量进行滤波处理。
5.根据权利要求1所述的方法,其特征在于,利用第一滤波器对当前图像的重建图像进行滤波包括:
对所述重建图像进行去块环路滤波DBF;或者
对所述重建图像进行样本自适应补偿环路滤波SAO;或者
对所述重建图像进行去块环路滤波DBF与样本自适应补偿环路滤波SAO;或者
对所述重建图像进行基于色度缩放的亮度映射LMCS处理。
6.根据权利要求1所述的方法,其特征在于,利用第二滤波器对所述重建图像进行滤波,得到第二重建视频单元包括:
对所述重建图像进行神经网络环路滤波,得到所述第二重建视频单元;或者
对所述重建图像进行神经网络环路滤波,将神经网络环路滤波结果与所述第一重建视频单元进行加权求和,得到所述第二重建视频单元;或者
对所述重建图像进行神经网络环路滤波,根据原始图像将所述神经网络环路滤波结果进行强度调节,得到所述第二重建视频单元,或者
对所述重建图像进行除所述神经网络环路滤波之外的其他环路滤波,得到所述第二重建视频单元,其中,所述其他环路滤波包括以下至少之一:去块环路滤波DBF、样本自适应补偿环路滤波SAO、基于色度缩放的亮度映射LMCS。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与所述原始图像的像素之间的第二损失;
根据所述第一损失与所述第二损失,确定是否对所述当前图像的视频单元进行CCA滤波。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;
通过预设滤波器系数进行滤波,确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第三损失;
根据所述第一损失与所述第三损失,确定通过所述滤波器系数进行所述滤波处理,或确定通过预设滤波器系数进行滤波处理。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频单元的像素与原始图像的像素之间的第一损失;
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与原始图像的像素之间的第二损失;
根据所述当前图像的视频单元的相邻视频单元的滤波器系数对所述当前图像的视频单元进行所述滤波,确定滤波后所述重建图像的视频单元的像素与所述原始图像的像素之间的第四损失;
根据所述第一损失、所述第二损失与所述第四损失,确定所述当前图像的视频单元采用的滤波器系数,并根据确定的滤波器系数进行滤波处理。
10.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波后所述重建图像的视频的像素与原始图像的像素之间的第一损失;
确定根据所述第一重建视频单元、所述第二重建视频单元以及所述滤波器系数进行滤波前所述重建图像的视频单元的像素与原始图像的像素之间的第二损失;
根据所述第一损失与所述第二损失,判断是否对所述当前图像的视频单元进行所述滤波,并针对开启所述滤波的视频单元重新计算滤波器系数,再次根据所述第一损失与所述第二损失确定是否进行滤波,重复N次后确认是否对所述当前图像的视频单元进行所述滤波。
11.根据权利要求1所述的方法,其特征在于,基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元包括:
基于所述第一重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第一结果;同时基于所述第二重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第二结果;
将所述第一结果、所述第二结果以及所述第二重建视频单元相加,再进行取整处理,得到所述第三重建视频单元。
12.根据权利要求1至11中任一项所述的方法,其特征在于,所述卷积模板包括以下之一:菱形模板,方形模板,十字型模板。
13.一种视频解码方法,其特征在于,包括:
获取包含编码视频序列的比特流,得到与环路滤波方式对应的环路滤波控制信息,其中,所述环路滤波控制信息包括滤波器系数;
利用第一滤波器对当前图像的重建图像进行滤波,获取第一重建视频单元;
利用第二滤波器对当前图像的重建图像进行滤波,获取第二重建视频单元;
基于所述第一重建视频单元、所述第二重建视频单元的卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
14.根据权利要求13所述的方法,其特征在于,利用第一滤波器对当前图像的重建图像进行滤波包括:
对所述重建图像进行去块环路滤波DBF;或者
对所述重建图像进行样本自适应补偿环路滤波SAO;或者
对所述重建图像进行去块环路滤波DBF与样本自适应补偿环路滤波SAO;或者
对所述重建图像进行基于色度缩放的亮度映射LMCS处理。
15.根据权利要求13所述的方法,其特征在于,利用第二滤波器对当前图像的重建图像进行滤波,得到所述第二重建视频单元包括:
对所述重建图像进行神经网络环路滤波,得到所述第二重建视频单元;或者
对所述重建图像进行神经网络环路滤波,将神经网络环路滤波结果与所述第一重建视频单元进行加权求和,得到所述第二重建视频单元,或者
对所述重建图像进行神经网络环路滤波,根据原始图像将所述神经网络环路滤波结果进行强度调节,得到所述第二重建视频单元;或者
对所述重建图像进行除神经网络环路滤波之外的其他环路滤波,得到所述第二重建视频单元,所述其他环路滤波包括以下至少之一:去块环路滤波DBF、样本自适应补偿环路滤波SAO、基于色度缩放的亮度映射LMCS。
16.根据权利要求13所述的方法,其特征在于,基于所述第一重建视频单元、所述第二重建视频单元的卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元包括:
基于所述第一重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第一结果;同时基于所述第二重建视频单元计算所述卷积模板的中心像素点与邻域像素点的差值,并乘以所述邻域像素点对应位置的滤波器系数,得到第二结果;
将所述第一结果、所述第二结果以及所述第二重建视频单元相加,再进行取整处理,得到所述第三重建视频单元。
17.根据权利要求13所述的方法,其特征在于,所述环路滤波信息,包括以下至少之一:
序列级滤波开关标识符,用于指示对当前视频帧所在的视频序列开启或关闭所述环路滤波方式;
滤波图像级标识符,用于指示所述环路滤波模型信息在图像头信息中出现或在片头信息中出现;
环路滤波模型结构信息,用于指示对应用所述环路滤波方式的视频单元进行所述环路滤波。
18.根据权利要求17所述方法,其特征在于,所述方法还包括:
确定所述序列级滤波开关标识符的取值;
在所述序列级滤波开关标识符取值为第一值时,确定当前编码视频序列启用所述环路滤波,在所述序列级滤波开关标识符取值为第二值时,确定当前编码视频序列不启用所述环路滤波,其中,所述第一值与所述第二值不同。
19.根据权利要求17所述方法,其特征在于,所述方法还包括:
确定所述滤波图像级标识符的取值;
在所述滤波图像级标识符取值为第三值时,确定所述环路滤波模型信息在图像头中出现,在所述滤波图像级标识符取值为第四值时,确定所述环路滤波模型信息在片头中出现,其中,所述第三值与所述第四值不同。
20.根据权利要求17所述的方法,其特征在于,所述视频单元包括视频中的图像或视频片。
21.根据权利要求17所述的方法,其特征在于,所述环路滤波模型结构信息包括以下至少之一:
视频单元滤波开关标识符,用于指示视频单元开启或关闭所述环路滤波方式;
视频单元分量开关标识符,用于指示视频单元分量开启或关闭所述环路滤波方式;
视频单元块级滤波开关标识符,用于指示所述视频单元中的各级别开启或关闭所述环路滤波方式;
视频单元滤波系数绝对值,用于指示所述视频单元中的各级别对应的滤波系数绝对值;
视频单元滤波系数符号,用于指示所述视频单元中的各级别对应的滤波系数符号;
其中,所述视频单元分量包括以下至少之一:
视频单元的亮度分量;
视频单元的第一色度分量;
视频单元的第二色度分量。
22.根据权利要求21所述的方法,其特征在于,所述方法还包括:
确定所述视频单元滤波开关标识符的取值,根据所述取值确定当前视频单元启用所述环路滤波或不启用所述环路滤波。
23.根据权利要求21所述的方法,其特征在于,所述方法还包括:
确定所述视频单元亮度分量开关标识符的取值,根据所述取值确定对当前视频单元亮度分量启用所述环路滤波,或不对当前视频单元亮度分量启用所述环路滤波;
确定所述视频单元第一色度分量开关标识符的取值,根据所述取值确定对当前视频单元第一色度分量启用,或不对当前视频单元第一色度分量启用所述环路滤波;
确定所述视频单元第二色度分量开关标识符的取值,根据所述取值确定对当前视频单元第二色度分量启用,或不对当前视频单元第二色度分量启用所述环路滤波。
24.根据权利要求21所述的方法,其特征在于,所述方法还包括:
确定所述视频单元块级滤波开关标识符的取值,根据所述取值确定对视频单元中的编码块启用所述环路滤波,或不对视频单元中的编码块启用所述环路滤波。
25.根据权利要求13所述的方法,其特征在于,所述方法还包括:
根据所述视频单元滤波系数绝对值以及所述视频单元滤波系数符号,采用所述环路滤波方式对开启所述环路滤波方式的所述视频单元进行滤波。
26.根据权利要求17所述的方法,其特征在于,所述环路滤波模型结构信息还包括:
视频单元块级滤波器系数融合模式开关标识符,用于指示视频单元中的编码块以及编码块的分量是否启用系数融合模式;
视频单元块级滤波器系数融合模式类型标识符,用于指示视频单元中的当前编码块的相邻编码块所在位置,其中当前编码块使用所述相邻编码块的滤波器系数进行所述环路滤波;
其中,所述编码块分量包括以下至少之一:亮度分量,第一色度分量,第二色度分量。
27.根据权利要求17所述的方法,其特征在于,所述环路滤波模型结构信息还包括:
跨分量滤波模式开关标识符,用于指示视频单元中的编码块以及编码块的分量是否启用跨分量滤波模式。
28.一种视频编解码环路滤波装置,其特征在于,所述装置包括:
第一滤波模块,用于利用第一滤波器对当前图像的重建图像进行滤波,得到第一重建视频单元;
第二滤波模块,用于利用第二滤波器对当前图像的重建图像进行滤波,得到第二重建视频单元;
第一确定模块,用于根据所述第一重建视频单元、所述第二重建视频单元的卷积模板中包含的邻域信息确定滤波器系数,其中,所述邻域信息为所述卷积模板中以像素点为中心的相邻像素点的信息;
第三滤波模块,用于基于所述卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
29.一种视频解码装置,其特征在于,所述装置包括:
获取模块,用于获取包含编码视频序列的比特流,得到与环路滤波方式对应的环路滤波控制信息;
第一滤波模块,用于利用第一滤波器对当前图像的重建图像进行滤波,获取第一重建视频单元;
第二滤波模块,用于利用第二滤波器对当前图像的重建图像进行滤波,获取第二重建视频单元;
第三滤波模块,用于基于所所述第一重建视频单元、所述第二重建视频单元的卷积模板以及所述滤波器系数,对所述第一重建视频单元、所述第二重建视频单元进行滤波,得到第三重建视频单元。
30.一种计算机可读的存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行所述权利要求1至12、13至27任一项中所述的方法。
31.一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行所述权利要求1至12、13至27任一项中所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211182900.3A CN117834864A (zh) | 2022-09-27 | 2022-09-27 | 一种视频编解码环路滤波方法、视频解码方法及装置 |
PCT/CN2023/094306 WO2024066386A1 (zh) | 2022-09-27 | 2023-05-15 | 一种视频编解码环路滤波方法、视频解码方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211182900.3A CN117834864A (zh) | 2022-09-27 | 2022-09-27 | 一种视频编解码环路滤波方法、视频解码方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117834864A true CN117834864A (zh) | 2024-04-05 |
Family
ID=90475830
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211182900.3A Pending CN117834864A (zh) | 2022-09-27 | 2022-09-27 | 一种视频编解码环路滤波方法、视频解码方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN117834864A (zh) |
WO (1) | WO2024066386A1 (zh) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2232874B1 (en) * | 2008-01-08 | 2012-12-05 | Telefonaktiebolaget L M Ericsson (publ) | Adaptive filtering |
CN102640497B (zh) * | 2009-11-30 | 2014-12-31 | 日本电气株式会社 | 视频编码设备和视频解码设备 |
US9462298B2 (en) * | 2011-10-21 | 2016-10-04 | Qualcomm Incorporated | Loop filtering around slice boundaries or tile boundaries in video coding |
KR101974261B1 (ko) * | 2016-06-24 | 2019-04-30 | 한국과학기술원 | Cnn 기반 인루프 필터를 포함하는 부호화 방법과 장치 및 복호화 방법과 장치 |
-
2022
- 2022-09-27 CN CN202211182900.3A patent/CN117834864A/zh active Pending
-
2023
- 2023-05-15 WO PCT/CN2023/094306 patent/WO2024066386A1/zh unknown
Also Published As
Publication number | Publication date |
---|---|
WO2024066386A1 (zh) | 2024-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11363302B2 (en) | Method and apparatus of neural network for video coding | |
US10116967B2 (en) | Method and apparatus for coding of sample adaptive offset information | |
DK2777255T3 (en) | Method and apparatus for optimizing coding / decoding of compensation offsets for a set of reconstructed samples of an image | |
WO2015090219A1 (en) | Method and apparatus for palette initialization and management | |
CN113228646A (zh) | 具有非线性限幅的自适应环路滤波(alf) | |
CN108271024A (zh) | 图像编码、解码方法及装置 | |
EP1680928A2 (en) | Methods of processing digital image and/or video data including luminance filtering based on chrominance data | |
US20220141456A1 (en) | Method and device for picture encoding and decoding | |
CN111064958A (zh) | 一种针对b帧和p帧的低复杂度神经网络滤波算法 | |
CN109587491A (zh) | 一种帧内预测方法、装置及存储介质 | |
CN116601951A (zh) | 预测方法、编码器、解码器以及存储介质 | |
CN117201781A (zh) | 编码处理、解码处理方法及装置、存储介质 | |
WO2022116113A1 (zh) | 一种帧内预测方法、装置及解码器和编码器 | |
CN110971897B (zh) | 色度分量的帧内预测模式的编码、解码方法、设备和系统 | |
CN117834864A (zh) | 一种视频编解码环路滤波方法、视频解码方法及装置 | |
CN118101933A (zh) | 滤波方法、装置及设备 | |
CN116762339A (zh) | 一种光照补偿方法、编码器、解码器及存储介质 | |
WO2023124673A1 (zh) | 用于视频处理的方法及装置、存储介质及电子装置 | |
CN114097236A (zh) | 一种视频编码、解码方法、设备及存储介质 | |
EP3349465A1 (en) | Method and apparatus for video coding with multi-pass sample adaptive offset filtering | |
CN105230015B (zh) | 自适应处理视频信号帧中的视频取样的方法和装置 | |
WO2023197230A1 (zh) | 滤波方法、编码器、解码器以及存储介质 | |
WO2024074129A1 (en) | Method and apparatus of inheriting temporal neighbouring model parameters in video coding system | |
WO2024016156A1 (zh) | 滤波方法、编码器、解码器、码流以及存储介质 | |
WO2023109766A1 (zh) | 环路滤波、视频编码、视频解码方法、电子设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |