CN110383837A - 用于视频处理的方法和设备 - Google Patents

用于视频处理的方法和设备 Download PDF

Info

Publication number
CN110383837A
CN110383837A CN201880012519.8A CN201880012519A CN110383837A CN 110383837 A CN110383837 A CN 110383837A CN 201880012519 A CN201880012519 A CN 201880012519A CN 110383837 A CN110383837 A CN 110383837A
Authority
CN
China
Prior art keywords
block
search
pixel
similar block
similar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880012519.8A
Other languages
English (en)
Other versions
CN110383837B (zh
Inventor
孟学苇
马思伟
郑萧桢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Shenzhen Dajiang Innovations Technology Co Ltd
Original Assignee
Peking University
Shenzhen Dajiang Innovations Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University, Shenzhen Dajiang Innovations Technology Co Ltd filed Critical Peking University
Publication of CN110383837A publication Critical patent/CN110383837A/zh
Application granted granted Critical
Publication of CN110383837B publication Critical patent/CN110383837B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例提供一种用于视频处理的方法和设备,可以降低滤波过程的复杂度。该方法包括:在至少一个像素集合中,获取当前块的至少一个第一相似块,其中,该像素集合包括稀疏的重建像素,该当前块包括至少一个重建像素;基于该至少一个第一相似块,进行滤波。

Description

用于视频处理的方法和设备
题述申请要求于2018年4月2号递交中国专利局,发明名称为“用于视频处理的方法和设备”,申请号为PCT/CN2018/081653的PCT申请的优先权,其全部内容通过引用合并于此。
版权申明
本专利文件披露的内容包含受版权保护的材料。该版权为版权所有人所有。版权所有人不反对任何人复制专利与商标局的官方记录和档案中所存在的该专利文件或者该专利披露。
技术领域
本申请涉及视频处理领域,并且更具体地,涉及一种用于视频处理的方法和设备。
背景技术
在视频编码过程中,对重建像素进行滤波是关键部分。它主要用于减少编码过程中产生的压缩失真。
当前视频编解码的滤波器例如包括均值滤波器(Non-local means filter,NLM),或者基于非局部相似性的环路滤波器(具体可以为基于非局部结构的视频编码滤波器(Non-local Structure-based Filter,NLSF))。
在进行滤波时,需要对当前块进行相似块的搜索,并基于搜索到的相似块进行滤波。其中,在搜索相似块时,需要对搜索窗中的所有像素进行逐点扫描,导致复杂度过高,难以实用。
因此,如何降低滤波过程的复杂度是一项亟待解决的问题。
发明内容
本申请实施例提供一种用于视频处理的方法和设备,可以降低滤波过程的复杂度。
第一方面,提供了一种用于视频处理的方法,包括:在至少一个像素集合中,获取待滤波块的至少一个第一相似块,其中,该像素集合包括稀疏的重建像素,该待滤波块包括至少一个重建像素;基于该至少一个第一相似块,对该待滤波块进行滤波。
第二方面,提供了一种用于视频处理的方法,包括:从多个候选搜索模板中,确定目标搜索模板;利用所述目标搜索模板,在当前图像的重建像素中,获取待滤波块的至少一个目标相似块;利用所述至少一个目标相似块,对所述待滤波块进行滤波。
第三方面,提供了一种用于视频处理的方法,包括:从重建像素中,获取待滤波块的至少一个相似块,所述待滤波块包括至少一个重建像素,其中,用于表征所述待滤波块与所述相似块的相似度的参量的值超出第一阈值;基于所述至少一个相似块,对所述待滤波块进行滤波。
第四方面,提供了一种用于视频处理的设备,包括获取单元和滤波单元;其中,所述获取单元用于:在至少一个像素集合中,获取待滤波块的至少一个第一相似块,其中,所述像素集合包括稀疏的重建像素,所述待滤波块包括至少一个重建像素;所述滤波单元用于:基于所述至少一个第一相似块,对所述待滤波块进行滤波。
第五方面,提供了一种用于视频处理的设备,包括确定单元、获取单元和滤波单元;其中,所述确定单元用于:从多个候选搜索模板中,确定目标搜索模板;所述获取单元用于:利用所述目标搜索模板,在当前图像的重建像素中,获取待滤波块的至少一个目标相似块;所述滤波单元用于:利用所述至少一个目标相似块,对所述待滤波块进行滤波。
第六方面,提供了一种用于视频处理的设备,包括获取单元和滤波单元;其中,所述获取单元用于:从重建像素中,获取待滤波块的至少一个相似块,所述待滤波块包括至少一个重建像素,其中,用于表征所述待滤波块与所述相似块的相似度的参量的值超出第一阈值;所述滤波单元用于:基于所述至少一个相似块,对所述待滤波块进行滤波。
第七方面,提供了一种计算机系统,包括:存储器,用于存储计算机可执行指令;处理器,用于访问该存储器,并执行该计算机可执行指令,以进行上述第一方面或第二方面或第三方面的方法中的操作。
第八方面,提供了一种计算机存储介质,该计算机存储介质中存储有程序代码,该程序代码可以用于指示执行上述第一方面或第二方面或第三方面的方法。
第九方面,提供了一种计算机程序产品,该程序产品包括程序代码,该程序代码可以用于指示执行上述第一方面或第二方面或第三方面的方法。
因此,本申请实施例中的用于视频处理的方法,在至少一个像素集合中,获取待滤波块的至少一个第一相似块,其中,该像素集合包括稀疏的重建像素,该待滤波块包括至少一个重建像素,基于该至少一个第一相似块,进行滤波,可以在保证最小的编码性能损失的情况下,降低滤波复杂度,从而降低编解码的复杂度,以及节省编解码的时间。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本申请实施例的编码系统的示意性图。
图2是根据本申请实施例的编码框架的示意图。
图3是SVD分解的过程的示意性图。
图4是硬阈值的过程的示意性图。
图5是根据本申请实施例的用于视频处理的方法的示意性流程图。
图6是根据本申请实施例的当前块选取的示意性图。
图7是根据本申请实施例中的搜索模板中的像素分布的示意性图。
图8是根据本申请实施例的搜索模板或像素集合的示意图。
图9是根据本申请实施例的在重建像素中获取相似块的示意性图。
图10是根据本申请实施例的在重建像素中获取相似块的示意性图。
图11是根据本申请实施例的搜索模板的示意性图。
图12是根据本申请实施例的搜索模板的示意性图。
图13是根据本申请实施例的搜索模板的示意性图。
图14是根据本申请实施例的搜索模板的示意性图。
图15是根据本申请实施例的图像块的示意性图。
图16是根据本申请实施例的图像块与周围区域的像素的示意性图。
图17是根据本申请实施例的图像块与周围区域的像素残差的示意性图
图18是根据本申请实施例的用于视频处理的方法示意性图。
图19是根据本申请实施例的用于视频处理的方法示意性图。
图20是根据本申请实施例的用于视频处理的设备的示意性框图。
图21是根据本申请实施例的用于视频处理的设备的示意性框图。
图22是根据本申请实施例的用于视频处理的设备的示意性框图。
图23是根据本申请实施例的计算机系统的示意性框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
除非另有说明,本申请实施例所使用的所有技术和科学术语与本申请的技术领域的技术人员通常理解的含义相同。本申请中所使用的术语只是为了描述具体的实施例的目的,不是旨在限制本申请的范围。
图1是应用本申请实施例的技术方案的架构图。
如图1所示,系统100可以接收待处理数据102,对待处理数据102进行处理,产生处理后的数据108。例如,系统100可以接收待编码数据,对待编码数据进行编码以产生编码后的数据,或者,系统100可以接收待解码数据,对待解码数据进行解码以产生解码后的数据。在一些实施例中,系统100中的部件可以由一个或多个处理器实现,该处理器可以是计算设备中的处理器,也可以是移动设备(例如无人机)中的处理器。该处理器可以为任意种类的处理器,本申请实施例对此不做限定。在一些可能的设计中,该处理器可以包括图像信号处理器(Image Signal Processor,ISP)、编码或解码器等。系统100中还可以包括一个或多个存储器。该存储器可用于存储指令和数据,例如,实现本申请实施例的技术方案的计算机可执行指令,待处理数据102、处理后的数据108等。该存储器可以为任意种类的存储器,本申请实施例对此也不做限定。
待处理数据102可以包括文本,图像,图形对象,动画序列,音频,视频,或者任何需要编码或解码的其他数据。
任何合适的编码或解码技术都可以用于编码或解码待处理数据102。编码或解码类型依赖于待处理数据和具体的编码或解码需求。
在一些实施例中,编码或解码器可以实现一种或多种不同的编解码器。每种编解码器可以包括实现不同编码或解码算法的代码,指令或计算机程序。基于各种因素,包括待处理数据102的类型和/或来源,待处理数据数据的接收实体,可用的计算资源,网络环境,商业环境,规则和标准等,可以选择一种合适的编码或解码算法编码或解码给定的待处理数据102。
例如,编码或解码器可以被配置为编码或解码一系列视频帧。编码或解码每个帧中的数据可以采用一系列步骤。
图2是根据本申请实施例的一种编码器的框架图。以下将结合图2分别介绍帧间编码和帧内编码的流程。
如图2所示,帧间编码的流程可以如下所示:
在201中,获取当前帧图像。在202中,获取参考帧图像。在203a中,利用参考帧图像,进行运动估计,以得到当前帧图像的各个图像块的运动矢量(Motion Vector,MV)。在204a中,利用运动估计得到的运动矢量,进行运动补偿,以得到当前图像块的估计值。在205中,将当前图像块的估计值与当前图像块相减,得到残差。在206中,对残差进行变换,以得到变换系数。在207中,变换系数经量化可得到量化后的系数。在208中,将量化后的系数进行熵编码,最后将熵编码得到的比特流及进行编码后的编码模式信息进行存储或发送到解码端。在209中,对量化的结果进行反量化。在210中,对反量化结果进行反变换。在211中,利用反变换结果以及运动补偿结果,得到重建像素。在212中,对重建像素进行滤波。在213中,输出滤波后的重建像素。
如图2所示,帧内编码的流程可以如下所示:
在202中,获取当前帧图像。在203b中,对当前帧图像进行帧内预测选择。在204b中,当前帧中的当前图像块进行帧内预测。在205中,将当前图像块的估计值与当前图像块相减,得到残差。在206中,对图像块的残差进行变换,以得到变换系数。在207中,变换系数经量化可得到量化后的系数。在208中,将量化后的系数进行熵编码,最后将熵编码得到的比特流及进行编码后的编码模式信进行存储或发送到解码端。在209中,对量化结果进行反量化。在210中,对反量化结果进行反变换,在211中,利用反变换结果以及帧内预测结果,得到重建像素。
其中,212中的滤波过程可以用于减少编码过程中的压缩失真。
其中,212中的滤波可以由多种方式来实现。本申请实施例中的滤波可以为环路滤波。
以下将介绍两种实现方式,应理解,本申请实施例中的滤波还可以有其他的实现方式,本申请实施例对此不作具体限定。
在一种实现方式中,可以由基于图像非局部相似特性的环路滤波器(Non-localStructure-Based Filter for Video Coding,NLSF)来实现,该滤波器主要利用图像非局部结构相似特性,对搜索得到的相似结构组进行协同滤波。
具体地,可以将当前重建图像帧或图像块按块进行处理。具体可以将图像分为K个块,以这些块分别作为当前块。并在图像帧或图像块的一些重建像素中获取当前块的M个相似块。将M个相似块组成集合。然后将这些相似块组成的集合用数学结构来表示,可以是一维、二维或者三维矩阵,以上过程可以叫做结构数组的构建(Group Construction)。滤波的过程就是对矩阵(结构数组)的处理过程,目的是滤除编码过程中引入的失真和噪声,此过程可以称为基于结构数组的滤波(Group-based filtering)。其中,可以对该结构数组进行奇异值分解(Singular Value Decomposition,SVD),并对奇异值进行硬阈值操作,根据奇异值分解的结果获得重建结构组,最后获取重建图像。其中,SVD分解的目的是将结构数组提取主成分,单纯的SVD并不能起到滤波的作用,滤波的关键在于去除噪声,NLSF中去除噪声的地方采用的是硬阈值的操作。
以下将结合图3和图4进行描述。其中,图3是SVD分解的过程,这可以理解为矩阵的变换,具体地可以将二维矩阵分解为三个矩阵乘积的形式,中间的矩阵是一个对角矩阵,对角线上的元素从左上角到右下角依次减小,可以将较小的元素认为是噪声,其中,“较小”的评价标准可以采用一个阈值,如果阈值为60,那么小于60的部分认为是噪声,直接设置为0。如图4所示,可以再将三个矩阵相乘,得到的矩阵和原始进行分解的矩阵可以不相同,这就是滤除噪声之后的结果,可以将该过程称为硬阈值的过程。
在另一种实现方式中,可以先搜索当前块的相似块,进而可以对相似块做加权平均。
具体地,可以将当前重建图像帧或图像块按块进行处理。具体可以将图像分为K个块,以这些块分别作为当前块。并在图像帧或图像块的一些重建像素中获取当前块的M个相似块。然后,可以为M个相似块中每一个相似块分配一个权重,再计算当前块所有相似块的加权平均,加权平均之后的值可以作为当前块滤波之后的结果,其中,可以采用多种方式来计算权重。
可选地,各个相似块的权重的大小可以与各个相似块与当前块的相似度正相关。也即当前块与相似块越相似,则该相似块的权重越大。其中,此处的相似度可以用欧式距离来衡量。
例如,假设对于当前块p,具有三个相似块q1、q2和q3,如果q1、q2与当前块更加相似,对应的权重就更大,则q3对应的权重就更小。
其中,一个相似块可以具有一个权重,或者,一个相似块中的各个像素点可以分别具有相应的权重。
可选地,可以将相似块作为整体进行滤波,在滤波时,不再进行像素点的拆分,此时一个相似块可以具有一个权重。或者,也可以以像素点为单位进行滤波,结合各个像素点的滤波结果,得到当前块的滤波结果,此时每个相似块中各个像素点可以分别具有一个相似块。
以下将结合式1-3进行说明。
其中,在以下的公式中,i和j可以有两种解释。
在一种解释中,i为当前块中的当前像素点,I为当前像素点在各个相似块中对应的像素点(例如,在相似块中占用相同的位置的相似点,例如,当前块的中心像素点的对应像素点为相似块的中心像素点)的集合,j为集合I中的元素,v(j)表示j的像素值,w(i,j)表示权重。
在另一种解释中,i可以理解为当前块,I为当前块的相似块的集合,j为集合I中的元素,v(j)表示j的像素值(例如,可以是j包括的像素点的像素值的平均值),w(i,j)表示权重。
其中,NL[v](i)表示当前块或当前像素点对应的滤波结果。
其中,式2和式3中,可以表示当前块与相似块之间的欧式距离,或者表示当前像素点与相似块中对应的像点之间的欧式距离。
在以上的滤波方式中,滤波过程的复杂度来源于获取当前块的相似块。例如,如果采用全搜索的方式(也可以称为逐点扫描的方式)在正方形搜索窗口搜索当前块的最相似块。搜索过程可以从搜索窗口左上角开始,按照光栅扫描顺序逐像素进行,到右下角终止。搜索过程中搜到的每一个小块都需要和当前块计算误差平方和(Sum of SquaredDifferences,SSD)。最后将SSD排序,选取最小的M个SSD对应的小块。具体来讲,如果使用全搜索的方式进行相似块搜索,在33x33的搜索窗口中搜索30个最相似块,搜索过程中搜到的候选块的数目为1089。块匹配的部分过于冗余,并且可能导致候选块的数目远远高于滤波需要的相似块数目。
因此,本申请实施例提供了一种视频处理的方法,可以简化滤波过程中相似块获取的复杂度,从而可以提高视频编解码的效率。
应理解,本申请实施例的方法和装置可以应用于图2所示的编码框架,也可以适用于其他的编码框架,本申请实施例对此不作具体限定。例如,只要采用利用相似块进行滤波的编解码框架均可以采用本申请实施例中的方法和装置。
图5是根据本申请实施例的用于视频处理的方法300的示意性流程图。该方法300包括以下内容中的至少部分内容。其中,该方法300可以由应用于编码端,也可以应用于解码端。
可选地,该方法300可以由滤波器实现,该滤波器可以是编码器或解码器的一部分,也可以独立于编码器或解码器存在。可选地,该滤波器可以是NLSF滤波器,或NLM滤波器,或者其他滤波器。
在310中,滤波器在至少一个像素集合中,获取当前块的至少一个第一相似块,其中,该像素集合包括稀疏的重建像素,该当前块包括至少一个重建像素。该当前块为待滤波块。
可选地,本申请实施例中的像素集合包括的重建像素可以是滤波之前的重建像素。
可选地,本申请实施例中提到的相似块(包括第一相似块和后面提到的第二相似块)可以是与当前块相似度较高的块,该相似块的大小可以等于当前块的大小。与当前块的相似度越高,则被选择为相似块的可能性越大。
其中,用于相似度判断的度量参量(也即用于表征相似度的参量)可以为:哈希值的差值、误差平方和(Sum of Squared Differences,SSD)、绝对误差和(Sum of AbsoluteDifferences,SAD)、平均绝对差(Mean Absolute Differences,MAD)、平均误差平方和(Mean Square Differences,MSD)或结构相似性指标(Structural SIMilarity SSIM)。
例如,假设相似度的度量参量为SSD,SSD的计算方式如下式4所示:
其中,f(h,w)表示当前块在坐标(h,w)的像素,表示搜索块(也可以称为候选相似块)在坐标(h,w)的像素,表示当前块包含的像素数目。
例如,表征假设相似度的度量参量是哈希值,则可以通过哈希(hash)值的大小来判断相似度,两个块的hash值越接近代表越相似,hash值可以通过块的像素和、水平、垂直梯度等等来表示。
应理解,以上度量参量中,有些值越大,则表明相似度越高,而有些值越小,则表明相似度越高。
例如,对于SSD而言,SSD的值越小,则表明相似度越高。而对于哈希值而言,相似度可以通过两个块的哈希值的差来判断,哈希值的差越小,则表明相似度越高。
还应理解,对于本申请实施例提到的用于表征相似度的参量超过阈值(可以包括阈值本数)而言,如果度量参量的值越大相似度越高,用于表征相似度的参量的值超过一定值代表着该参量的值大于或等于该阈值;如果度量参量的值越小相似度越高,用于表征相似度的参量的值超过一定值代表着该参量的值小于或等于该阈值。而对于哈希值而言,用于表征相似度的参量的值超过一定值代表着两个块的哈希值的差小于或等于该阈值。
可选地,在本申请实施例中,用于表征所述当前块与所述当前块的相似块的相似度的参量的值超出第一阈值。
可选地,该第一阈值是基于以下参数中的至少一种确定的:该当前块的大小,视频的比特深度,该当前块的像素和,该当前块的像素的水平梯度,该当前块的像素的垂直梯度。
其中,当前块的大小直接决定SSD计算过程中加和的次数,视频的比特深度代表的是像素值的取值范围(比如8bit的视频,每个像素值是0~255之间的数;10bit视频,每个像素值是0~1023之间的数,显然不同的比特深度,像素值范围不同,计算得到的SSD的大小范围也就不同)。
其中,确定阈值的参数可以是与度量参量计算时所采用的参数有关。
在一种实现方式中,在该相似度的度量参量是哈希值时,该第一阈值是基于以下参数中的至少一种确定的:
该当前块的像素和,该当前块的像素的水平梯度,该当前块的像素的垂直梯度。
具体地,可以通过哈希(hash)值的大小来判断相似度,两个块的hash值越接近代表越相似,hash值可以通过块的像素和、水平、垂直梯度等等来表示。
在一种实现方式中,该相似度的度量参量是SSD或SAD时,该第一阈值是基于以下参数中的至少一种确定的:该当前块的大小,视频的比特深度。
其中,第一阈值可以和当前块的大小以及视频的比特深度有关,可以通过以下公式5计算第一阈值:
ε=Bs×(1<<(2×bitDepth))×λ 式5
其中bitDepth是测试视频的比特深度,一般是8或10。λ可以根据当前块和相似块之间SSD的统计特性计算得到,表示当前块包含的像素数目。
在一种实现方式中,该相似度的度量参量是MAD,MSD或SSIM时,该第一阈值是基于视频的比特深度确定的。
具体地,第一阈值可以是按照以下公式6得到的:
ε=(1<<(2×bitDepth))×λ 式6
因此,在本申请实施例中,选择的相似块与当前块之前的相似度高到超出一定阈值可以使得选择的相似块与当前块的相似度更高,从而可以避免选中的相似块可能和当前块差别较大,从而避免这些块对滤波过程帮助不大所造成的滤波复杂度较高的问题。
可选地,本申请实施例可以由编码端实现,也可以由解码端实现,在由编码端实现时,编码端可以计算第一阈值,并将第一阈值在码流中传递给解码端。以及,在由解码端实现时,解码端可以从码流中获取第一阈值,不再进行第一阈值的计算。
当然,在本申请实施例中,编码端和解码端可以分别计算第一阈值,则编码端无需在码流中传递该第一阈值。
可选地,本申请实施例可以在获取到整个重建帧之后,从该重建帧中获取当前块。其中,见图6,首先看左上侧的两个框,如果左侧的框为正在处理的当前块,那么下一个即将处理的块就是右侧的框,这两个块之间可以有重叠,可以紧挨着,也可以隔一定的距离,比如对于6x6大小的当前块,两个框之间的步长值(可以是两个框的最左侧的像素的间隔)可以是1,2,3…等等任意整数值,其中步长值为1,2,3,4,5时两个块之间就有一定的重叠,步长值为6时两个块紧挨着,大于6时,两个块隔一定的距离。另外一个就是上下两个块的间隔问题,例如,如图6所示的中间的两个框,如果上侧的框为正在处理的当前块,那么下一个即将处理的块就是下侧的框,这两个块之间可以有重叠,可以紧挨着,也可以隔一定的距离。
可选地,在获取到整帧重建图像进行滤波时,像素集合中的像素可以是当前帧的重建图像中的任意位置的像素,也可以是一个搜索窗口中的部分像素,例如,可以是一个32x32像素集合中的部分像素,其中,当前块可以位于该搜索窗口中的中心位置。
可选地,用于获取该当前块的相似块的重建像素包括:该当前块所属的编码单元本身的重建像素、编码单元的上侧的重建像素、编码单元的左侧的重建像素、编码单元的右侧的重建像素和编码单元的下侧的重建像素。
可选地,在本申请实施例中,也可以在获取到重建后的编码单元(例如,CTU)之后,对该编码单元中的各个块进行滤波,例如,该编码单元可以128x128的块,当前块可以是6x6大小的块,所述的编码单元一般被称为图像块。由于在编码时,在获取到当前编码单元的重建像素时,左侧和上侧的编码单元的重建像素已获取,则用于获取当前块的相似块的重建像素可以是所属的编码单元的左侧的重建像素以及上侧的重建像素。
进一步的,在实际的视频编解码系统中,所述的上侧的重建像素需要以图像行为单位进行存储,所述的右侧的重建像素以图像块高度为单位进行存储。如对于一个宽度为3840、图像块高度为128的图像,其所述的上侧的重建像素以3840为单位进行存储,所述的右侧的重建像素以128为单位进行存储。可见所述的上侧的重建像素的存储开销通常大于所述的右侧的重建像素的存储开销。为了减少视频编解码系统的存储开销,所述上侧的重建像素的垂直方向的像素个数(通常来说可以认为是所述上侧的重建像素的行数)可以少于或等于所述左侧的重建像素的水平方向的像素个数(通常来说可以认为是所述左侧的重建像素的列数)。
当然,用于获取当前块的相似块的重建像素也可以为所述当前块所属的编码单元的左侧的重建像素,上侧的重建像素和右侧的重建像素(其中,需要等待右侧的编码单元被重建)。
本申请实施例还可以具有其他的实现方式,例如,对于当前已重建的编码单元,对于该编码单元的左上侧的当前块,用于获取相似块的重建像素可以是当前块的左侧、上侧、下侧和右侧的重建像素,这是由于该当前块的右侧和下侧的重建像素仍然属于当前编码单元。而对于该编码单元的右下侧的当前块,用于获取相似块的重建像素可以是当前块的左侧和上侧的重建像素,这是由于该当前块的右侧和下侧的重建像素属于右侧和下侧的编码单元,而右侧和下侧的编码单元还未重建,所以不能用于获取当前块的相似块。
应理解,本申请实施例的像素集合包括稀疏的重建像素意味着:该像素集合中存在这样的一些像素,这些像素之间间隔(例如,像素之间的最短直线距离上)有不属于该集合的像素。
可选地,在本申请实施例中,像素集合中的部分像素也可以聚集成块,像素集合可以聚集成分离的多个块(此处提到的块与块之间不存在相邻的像素),其中,每个块的大小可以大于或等于当前块的大小。例如,如图7所示(一个□代表一个像素位置),像素集合中包括五个块,每个块大于当前块(假设当前块大小为6x6),其中,该五个块中每个块可以形成为下文提到的一个或一个以上的候选相似块。
可选地,在本申请实施例中,滤波器可以基于搜索模板,获取像素集合。具体地,可以在滤波器中预设搜索模板,利用该搜索模板在一个搜索窗口中圈定一些重建像素,这些重建像素可以理解本申请实施例提到的像素集合。
可选地,在本申请实施例中,搜索模板也可以是理解为一种像素集合,该搜索模板包括的像素可以是相对于搜索模板中心对称的。可选地,从该搜索模板的中心到该搜索模板的边缘,像素可以是越来越稀疏的。
可选地,在用搜索模板确定用于获取相似块的像素集合时,可能会存在这样一种结果,即:像素集合中的像素数量小于搜索模板包括的像素数量,这是由于用搜索模板在一个搜索范围中圈定一些重建像素时,搜索模板的边缘可能会超出搜索范围的边缘。
可选地,该搜索模板包括用于选择该第一相似块的多个候选相似块,该候选相似块的大小等于该当前块的大小。其中,候选相似块意味着在与当前块的相似度高到超过一定阈值时,可以被选择作为相似块。其中,多个候选相似块包括的像素可以不重叠或部分重叠。
可选地,在本申请实施例中,该搜索模板包括从中心到边缘的多组候选相似块,每组候选相似块围成环形,该环形相对该搜索模板的中心对称,组内的候选相似块均匀排布。当然,该搜索模板包括的候选相似块也可以是不对称的。
可选地,该搜索模板包括四组候选相似块,该四组候选相似块的远离该搜索模板的中心的边缘像素,相对于该搜索模板的中心,分别间隔1个像素,2个像素,4个像素和8个像素。
可选地,该四组候选相似块分别具有4个候选相似块,8个候选相似块,8个候选相似块和8个候选相似块,其中,具有4个候选相似块的一组候选相似块距离该搜索模板的中心最近。
具体地,以下将结合图8所示的搜索模板(图8也可以认为是基于搜索模板得到的像素集合)进行举例说明。例如,如图8所示,图中多个□的交叉点可以是一个像素位置,每个独立的数字代表着一个独立的候选相似块,例如,存在8个⑧,则代表有8个候选相似块,存在8个④,也代表有8个候选相似块,8个②代表有8个候选相似块,4个①代表有4个候选相似块,则整个搜索模板包括28个候选相似块。数字①②④⑧可以分别是候选相似块的一个像素位置,例如,可以是候选相似块的远离搜索模板的中心的边缘上像素位置,具体可以是左上角的像素位置,左下角的像素位置,右上角的像素位置,或右下角的像素位置。当然,图中的数字代表也可以是候选相似块的其它像素位置,例如,可以是中心像素位置等。假设每个候选相似块为大小6x6的块,则意味着这些候选相似块是相互重叠的。
可选地,在本申请实施例中,滤波器可以采用至少两个以上的搜索模板进行像素集合的确定,例如,不同的像素集合可以采用不同的搜索模板进行确定。
应理解,本申请实施例的搜索模板也可以包括其它数量的候选相似块组,以及每组候选相似块也可以包括其它数量的候选相似块。
例如,搜索模板的像素可以组成十字形,条形,除四边形之外的其他多边形等。其中,在组成除四边形之外的其他多边形时,可以类似于图7是一环套一环的,例如,较大的五边形套较小的五边形。
还应理解,以上介绍的关于搜索模板中的像素特征同样适用于像素集合。为了简洁,在此不再赘述。
应理解,本申请实施例提到的搜索模板或像素集合也可以是包括稀疏的重建像素,按照一定的规则,在该稀疏的重建像素中进行相似块的匹配,此时意味着不存在上述提到的候选相似块的概念。
可选地,在本申请实施例中,滤波器可以基于该当前块包括的重建像素的位置,确定该第一像素集合;从该第一像素集合中,获取该第一相似块。
其中,该第一像素集合中的像素可以是稀疏的重建像素,该第一像素集合中的像素可以相对于该当前块包括的重建像素对称。例如,如图7所示,所在像素位置可以是当前块的一个像素位置,例如,可以是当前块的左上角的像素位置或中心的像素位置或右下角的像素位置等。
可选地,可以按照从靠近该当前块到远离该当前块的搜索方式,从该第一像素集合中,获取该第一相似块。
具体地,在如图8所示的像素集合中,可以先对候选相似块①进行相似度的匹配,然后再对候选相似块②进行相似度的匹配,再对候选相似块④进行相似度的匹配,最后对候选相似块⑧进行相似度的匹配。
这是由于在候选相似块中选取相似块的过程中,需要按照相似度对候选相似块进行排序,来得到相似度最高的一定数量的块作为相似块,在越靠近当前块的位置,候选相似块与当前块的相似度可能越高,被选择作为相似块的可能性越大,在该种搜索方式下,在选取相似块时,需要调整位置的候选相似块的数量较少,从而可以降低滤波的复杂度。
可选地,在本申请实施例中,从第一像素集合中获取的第一相似块的数量可以不超过一定数值,例如,第二阈值。
在一种实现方式中,可以获取到第一像素集合中所有搜索块(也可以称为候选相似块)与当前块的相似度,按照相似度从高到低的方式排布,挑出数量为第二阈值的第一相似块。
在另一种实现方式中,在所述第一像素集合中搜索到的期望块的数量达到第二阈值时,将所述期望块作为所述第一相似块,并停止在所述第一像素集合中进行所述第一相似块的搜索,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
在另一种实现方式中,在所述第一像素集合的所有像素中,搜索到的期望块的数量大于第二阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第二阈值的所述第一相似块,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
可选地,在本申请实施例中,可以根据前次得到的第一相似块包括的重建像素的位置,确定第二像素集合;从该第二像素集合中,再次获取该第一相似块。
其中,该第二像素集合中的像素可以是稀疏的重建像素,该第二像素集合中的像素可以相对于之前确定的第一相似块包括的重建像素对称。
其中,该之前确定的第一相似块可以是从第一像素集合(基于当前块的位置确定的像素集合)中搜索得到的相似块,也可以是基于另一第二像素集合(基于前前次的第一相似块的位置确定的像素集合)中搜索得到的相似块。
也就是说,在本申请实施例中,在基于当前块的位置得到一个像素集合之后,在该像素集合中搜索相似块,然后再基于搜索到的相似块的像素位置,再次确定像素集合,在再次确定的像素集合中搜索相似块,然后可以停止基于像素集合的相似块的搜索,或者也可以基于再次搜索到的相似块确定像素集合,并以此类推。其中,可以将该过程称为基于本申请实施例提到的相似块的N阶搜索过程,N可以为取值大于等于1的整数,N的大小可以根据实际情况而定。
以下将结合图9进行详细说明。如图9所示,在基于当前块确定的像素集合中,两个候选相似块⑧(图中圈内是灰底,字是白色的8的数字)被确定为相似块,在该两个候选相似块⑧周围分别确定像素集合(由图中圈内是灰底,字是黑色的数字来表示),然后,在该两个像素集合中分别确定相似块,即,图中圈内是黑底,字是白色的数字来表示的相似块,即,5个相似块。由此,加上之前得到的两个相似块在图9中共示出了7个相似块。
可选地,在本申请实施例中,在该第二像素集合中之前已经进行了相似度匹配的块,不再进行相似块的匹配操作,由此可以节省滤波的复杂度。
或者,在本申请实施例中,在该第二像素集合中不包括已经进行了相似块匹配操作的块,也就是说,在用搜索模板确定第二像素集合时,某些块已经进行了相似度匹配,则该候选相似块不再被包括在第二像素集合中。
例如,如图9所示,基于右下角被确定为相似块的块⑧确定的候选相似块,仅包括17个候选相似块,而非28个候选相似块,因为,存在一些候选相似块已经进行了相似块匹配。
但应理解,本申请实施例并不限于此。
例如,在该第二像素集合中之前已经被确定为相似块的块,不再进行相似块的匹配操作。也就是说,即使之前已经进行了相似度匹配,但是由于没有被确定为相似块,仍然可以再次进行匹配,例如,可以是由于不同阶搜索过程中,用来判断是否为相似块的阈值可以是不同的。
类似地,在该第二像素集合中不包括已经被确定为相似块的块,也就是说,在用搜索模板确定第二像素集合时,某些块已经被确定为了相似块,则该候选相似块不再被包括在第二像素集合中。
可选地,在本申请实施例中,从一个第二像素集合中获取的相似块的数量可以不超过一定数值,例如,第三阈值。其中,一个第三像素集合可以理解为在一个第一相似块周围用一次搜索模板套住的像素。
在一种实现方式中,可以获取到第二像素集合中所有搜索块与当前块的相似度,按照相似度从高到低的方式排布,挑出数量为第三阈值的第一相似块。
在另一种实现方式中,在所述第二像素集合中搜索到的期望块的数量达到第三阈值时,将所述期望块确定为所述第一相似块,并停止在所述第二像素集合中进行所述第一相似块的搜索,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
在另一种实现方式中,在所述第二像素集合的所有像素中,搜索到的期望块的数量大于第三阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第三阈值的所述第一相似块,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
但应理解,本申请实施例,并限于以上的实现方式,其中,可以是多个像素集合中搜索的相似块不超过第三阈值。例如,该多个像素集合可以理解为以上的N阶搜索过程中的其中一阶搜索过程得到多个相似块对应的多个像素集合。
可选地,在本申请实施例中,第一像素集合和第二像素集合对应的搜索模板可以相同。或者,第一像素集合和第二像素集合对应的搜索模板可以不相同。
可选地,对于不同阶搜索过程中采样的搜索模板可以不相同,当然也可以相同。
其中,可以将不同阶搜索过程中所采用的模板称为子搜索模板,将这些子搜索模板的集合统称为搜索模板。
以上已经介绍了利用稀疏的像素集合确定第一相似块的方案,在本申请实施例中,在获取到第一相似块之后,还可以基于该第一相似块的位置,分别确定像素窗口;在该像素窗口内,获取该第二相似块。
其中,在该像素窗口内,可以按照逐点扫描的方式,确定该第二相似块。
例如,如图10所示,在搜索到的两个相似块⑧(图中圈内是灰底,字是白色的8)周围分别划定一个像素窗口,其中,该像素窗口可以相对于已确定的相似块对称,也可以不对阵。其中,该像素窗口可以是方形的,也可以是其它形状的。
其中,本申请实施例提到的逐点扫描可以是以滑窗的方式实现的,滑窗滑动的步长可以为1,其中,滑窗的大小可以等于当前块的大小。
可选地,在本申请实施例中,在从一个像素窗口中获取的相似块的数量可以不超过一定数值,例如,第四阈值。其中,一个像素窗口可以理解为套住一个第一相似块的像素窗口。
在一种实现方式中,可以获取到像素窗口中所有搜索块与当前块的相似度,按照相似度从高到低的方式排布,挑出数量为第四阈值的第二相似块。
在另一种实现方式中,在所述像素窗口中搜索到的期望块的数量达到第四阈值时,将搜索到的所述期望块确定为所述第二相似块,并停止在所述像素窗口中进行所述第二相似块的搜索,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
在另一种实现方式中,在所述像素窗口中的所有像素中,搜索到的期望块的数量大于第四阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第四阈值的所述第二相似块,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
但应理解,本申请实施例并限于以上的实现方式,其中,可以是多个像素窗口中搜索的相似块不超过第四阈值。例如,该多个像素窗口可以理解为以上的全部第一相似块对应的像素窗口。
可选地,在本申请实施中,以上阐述了各个搜索阶段均可能存在阈值,但是本申请实施例并不限于此。
例如,每个搜索阶段不存在用于限定搜索到的相似块的数量的阈值,本申请实施例可以设置一个用于限定总的所有相似块的数量的阈值。
可选地,在搜索到的期望块的数量达到一定数值时,将所述期望块作为所述相似块,并停止所述相似块的搜索,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
可选地,在用于相似块搜索的全部重建像素中,搜索到的期望块的数量大于一定数值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于该数值的所述相似块,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
当然,既可以设置限制各个阶段得到相似块的数量的阈值,也可以同时设置一个用于限定总的所有相似块的数量的阈值。
其中,基于像素窗口进行相似块的搜索可以为本申请实施例的多阶相似块搜索的一部分。
可选地,在本申请实施例中,进行多阶相似块的搜索可以是指:利用当前待滤波块,对搜索模板进行固定获取像素集合或像素窗口,并搜索相似块,然后再基于搜索到的相似块,再次进行搜索模板的固定获取像素集合或像素窗口,并搜索相似块,然后可以停止相似块的搜索,或者也可以基于再次搜索到的相似块进行搜索模板的固定,并以此类推。其中,可以将该过程称为基于本申请实施例提到的相似块的多阶搜索过程。
其中,上述提到的像素窗口也可以是基于搜索模板进行获取的。
可选地,在本申请实施例由编码端实现时,编码端可以确定上述各个用于限制相似块数量的阈值,并将这一个或多个阈值进行编码,并传递给解码端。以及,在由解码端实现时,解码端可以从码流中获取该一个或多个阈值。
当然,在本申请实施例中,编码端和解码端可以分别确定上述各个用于限制相似块数量的阈值,则编码端无需在码流中传递这些阈值。
以上所述的像素集合和像素窗口均可以是由搜索模板获取的。在本申请实施例中,可以从多个候选搜索模板中,选择目标搜索模板,也即上述提到的需要采用的搜索模板。
本申请实施例中的搜索模板可以包括多个子搜索模板。每个子搜索模板均可以用于进行像素集合或像素窗口的确定。
可选地,每个搜索模板包括的子搜索模板不同和/或使用顺序不同。
例如,搜索模板1包括子搜索模板1、子搜索模板2和子搜索模板3,搜索模板2包括子搜索模板1和子搜索模板2,则搜索模板1和搜索模板2不同。
例如,搜索模板1包括子搜索模板1、子搜索模板2和子搜索模板3,搜索模板2包括子搜索模板2、子搜索模板4和子搜索模板5,则搜索模板1和搜索模板2不同。
例如,搜索模板1和搜索模板2均包括子搜索模板1、子搜索模板2和子搜索模板3,但对搜索模板1而言,子搜索模板的使用顺序为子搜索模板1、子搜索模板2和子搜索模板3,而对搜索模板2而言,子搜索模板的使用顺序为子搜索模板2、子搜索模板1和子搜索模板3,则搜索模板1和搜索模板2不同。
还应理解,在搜索模板包括多个子搜索模板的情况下,本申请实施例中的搜索模板可以理解为搜索模板集合,其包括多个搜索模板。
可选地,在本申请实施例中,可以在滤波器中预设多个候选搜索模板,具体地,可以预设每个搜索模板中重建像素的数量和排列方式等。
其中,滤波器可以从存储器中得到分别预设的该多个候选搜索模板,也即,滤波器无需获知该多个候选搜索模板之间的变形规律。
或者,在本申请实施例中,滤波器也可以从存储器中得到一个候选搜索模板,然后可以按照一定规律变形得到其他的搜索模板。
例如,可以将该得到的候选搜索模板在某一个或多个方向上增加或减少一列或多列像素。
可选地,在本申请实施例中,确定的目标搜索模板可以包括一个搜索模板,或多个搜索模板,而每个搜索模板也可以包括一个或多个子搜索模板。
可选地,在本申请实施例中,滤波器可以基于目标图像块中的至少一个待滤波块,从该多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;其中,该目标搜索模板包括该第一搜索模板,该第一搜索模板用于该至少一个待滤波块获取相似块。
具体地说,滤波器可以以图像块为单位确定目标搜索模板,并可以将确定的目标搜索模板用于进行该图像块包括的待滤波块的滤波。
其中,该图像块可以包括一个待滤波块或多个待滤波块。该图像块可以是重建后的图像块。
例如,该图像块可以是重建后的一帧图像或者也可以是重建后的一个CTU。
其中,滤波器可以基于该图像块包括的至少一个待滤波块,从至少部分候选搜索模板中,确定目标搜索模板。
以下将结合两种实现方式介绍滤波器如何基于该图像块包括的至少一个待滤波块来确定目标搜索模板,应理解,该两种实现方式并非是独立的,其可以相互结合使用或者结合其他方式来实现。
其中,在下文中,为了描述的方便,可以将第一种实现方式称之为基于遍历的方式获取目标搜索模板,将第二种实现方式称为为基于图像内容的方式获取搜索模板。
在第一种实现方式中,滤波器可以针对该至少一个待滤波块,遍历该至少部分候选搜索模板中的各个候选搜索模板;根据遍历结果,从该至少部分候选搜索模板中,确定该第一搜索模板。
具体地,滤波器可以利用各个候选搜索模板,针对各个待滤波块进行相似块的获取,根据相似块的获取结果(也即上述提到的遍历结果),来确定目标搜索模板。也就是说,可以根据相似块的获取结果,选取较优的候选搜索模板作为目标搜索模板。
可选地,该遍历结果可以包括:
针对该至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对该至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
其中,在遍历结果包括针对该至少一个待滤波块中全部待滤波块,得到的相似块的总数量的情况下,在计算该得到的相似块的总数量时,在搜索到一个相似块时,可以在得到相似块的数量上加1,而不区分是基于哪个待滤波块得到的,或者,也可以分别确定基于各个待滤波块得到相似块的数量,并对各个待滤波块得到的相似块的数量进行加和处理。
同样,在遍历结果包括针对该至少一个待滤波块中全部待滤波块,获取相似块所需搜索的总块数的情况下,在统计所需搜索的总块数时,在进行了(或者是将要进行或正在进行)一个块的搜索时,可以在统计的块的数量上加1,而不区分是基于哪个待滤波块进行相似块搜索的,或者,也可以分别统计基于各个待滤波块进行相似块搜索时所需搜索的块数,并进行加和处理。
可选地,该第一搜索模板可以是该至少部分候选搜索模板中满足以下条件的搜索模板:
得到该至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对该至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对该至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
可选地,滤波器可以确定各个待滤波块的优选搜索模板;根据该各个待滤波块的优选搜索模板,确定该第一搜索模板。
具体地,滤波器可以根据各个候选搜索模板,针对各个滤波块的搜索结果,确定每个待滤波块的优选搜索模板,并基于各个候选搜索模板被确定为优选搜索模板的次数,来确定该第一搜索模板。
可选地,将该第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
正如上文所述,一个搜索模板可以包括多个子搜索模板,在该种情况下,在利用每个搜索模板,来确定针对全部滤波块或各个滤波块获取相似块过程中得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数时,可以是利用该多个子搜索模板,来确定针对全部滤波块或各个滤波块获取相似块过程中得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数。其中,该多个子搜索模板可以用于进行多阶相似块的搜索,上一阶得到的相似块用于下一阶子搜索模板的固定。
在第二种实现方式中,根据目标图像块包括的该至少一个待滤波块的图像内容,从该至少部分候选搜索模板中,确定该第一搜索模板。
例如,假设存在如图11-14所示的4个搜索模板,其中,在图11-图14所示的模板中,多个□的交叉点可以是一个像素位置,每个灰色填充原圈可以代表一个待搜索块(可以称为候选相似块)的一个像素点,例如左上角的像素点或中心像素点等,代表当前待滤波块的一个像素点,例如左上角的像素点或中心像素点等。
图15示出了一帧图像中四个图像块,从图15中各个图像块可以看出,图15中的图像块A可以采用图14所示的搜索模板,图像块B可以采用图11所示的搜索模板,图像块C可以采用图13所示的搜索模板,图像块D可以采用图12所示的搜索模板。
也就是说,对于边界比较明显的区域,可以顺着边界的方向进行搜索,而对于无明显边界特性的区域,则可以采用遍历的方式进行搜索。
可选地,该至少一个待滤波块的图像内容可以包括:该目标图像块的图像边缘信息。
可选地,该目标图像块的边缘信息可以包括该图像块的边缘的梯度方向和/或该目标图像块周围像素与该目标图像块的像素残差。
具体地,滤波器可以根据该至少一个待滤波块的边缘的梯度方向(可以进一步结合梯度大小)和/或该目标图像块周围像素与该目标图像块的像素残差,以及该至少部分候选搜索模板的像素的排布方向(例如,倾斜方向),从该至少部分候选搜索模板中,确定该第一搜索模板。
其中,在边缘的计算梯度大小和方向时,可以采用多种计算方式进行计算,例如可以采用Sobel算子、Robinson算子或Laplace算子等进行计算。
以下结合式7-10介绍sobel算子的实现方式,应理解,本申请实施例并不限于此。
其中,A可以代表目标图像块的像素矩阵,Gx和Gy代表经过横向以及纵向边缘检测的图像。G代表梯度大小,Θ代表梯度方向。
可选地,可以基于目标图像块包括的各个待滤波块的边缘的梯度方向,来选择各个待滤波块的优选搜索模板,并基于此,选择对目标图像块进行相似块搜索的目标搜索模板。
或者,可以基于整个目标图像块(无需进行待滤波块的拆分)的边缘的梯度方向,直接从候选搜索模板中,选择目标搜索模板。
可选地,该目标图像块周围像素与该目标图像块的像素残差的计算方式可以是:该目标图像块或包括的各个待滤波块和搜索块对应位置像素值之差绝对值再求和(即曼哈顿距离),或者像素值之差平方再求和(即欧氏距离)。
其中,在计算像素残差时,可以在目标图像块的周围区域(可以包括该目标图像块本身)进行全搜索(也即逐点扫描)的方式来计算像素残差。
其中,如果目标图像块包括一个待滤波块,则可以在该一个待滤波块的周围区域(可以包括该目标图像块的全部或部分区域)进行全搜索,计算搜索块相应的点与该一个待滤波块相应点(在所属的块中,具有相同的位置,例如,均位于所属块的中间,左上角,左下角等)的残差。
如果目标图像块包括多个待滤波块,则可以将该目标图像块作为一个块,在该一个块的周围区域(可以包括该目标图像块的全部或部分区域)进行全搜索,计算搜索块相应的点与该一个块相应点的残差。
或者,如果目标图像块包括多个待滤波块,针对单个滤波块,在该目标图像块的周围区域(可以包括该目标图像块的全部或部分区域)进行全搜索,计算搜索块相应的点与单个滤波块的相应的点的残差。
当然,如果目标图像块包括多个待滤波块,针对单个滤波块,也可以在该单个待滤波块的周围区域(可以包括该单个待滤波块的全部或部分区域)进行全搜索,计算搜索块相应的点与单个滤波块的相应的点的残差。
应理解,以上介绍了可以利用对周围区域进行全搜索的方式计算目标图像块与周围区域的像素残差,但是本申请实施例并不限于此,也可以隔点扫描的方式来计算像素残差。
其中,在针对单个待滤波块分别计算其与周围像素的像素残差时,可以计算各个待滤波块的优选搜索模板,并可以基于此,选择该目标图像块的目标搜索模板。
以下结合采用曼哈顿距离进行残差的计算来举例说明。
如图16所示每个小方框代表一个像素位置,方框中的数字代表该位置处的像素值,其中,像素值下带下划线的为当前块(2x2的块)的像素值,可以对当前块的周围区域进行全搜索(整个区域进行逐点扫描的方式),计算残差。
残差计算结果可以如图17所示,其中,在图17中,每个小方框代表搜索的一个块的残差,总共搜索了16个块,从图17中可以看出最小的残差是45度角方向分布,这种情况下可以采用图11所示的搜索模板。
可选地,也可以依据目标图像块的内容选择一组搜索模板(也即第一搜索模板包括多个子搜索模板)。
例如,将包括的多个子搜索模板的倾斜方向均于目标图像块的边缘的梯度方向一致或基本一致的候选搜索模板作为第一搜索模板。
可选地,在本申请实施例中,以上确定的第一搜索模板可以用来确定相似块。
可选地,在本申请实施例中,从该多个候选搜索模板中除用于确定第一搜索模板之外的候选搜索模板中,根据该第一搜索模板,确定第二搜索模板。
具体地,在从部分候选搜索模板中,按照上述提到的方法确定出第一搜索模板之后,可以从剩下的部分候选搜索模板中,依据确定的第一搜索模板,确定第二搜索模板,由第一搜索模板和第二搜索模板来共同确定相似块。
例如,假设存在9个搜索模板,其中,搜索模板1、搜索模板2和搜索模板3组成搜索模板组A,搜索模板4、搜索模板5和搜索模板6组成搜索模板组B,以及搜索模板7、搜索模板8和搜索模板9组成搜索模板组C,在进行相似块的搜索时,需要利用一组搜索模板进行搜索;可以依据上述提到的遍历的方式和按照目标图像块的内容的方式,选择一个搜索模板,具体地,可以从候选搜索模板1、候选搜索模板4和候选搜索模板7中挑择一个目标搜索模板,例如,假设选择的为目标搜索模板为搜索模板4,则由于搜索模板5和6与搜索模板4属于同一搜索模板组,则可以将该搜索模板5和6作为目标搜索模板,也即可以利用搜索模板4、搜索模板5和搜索模板6来进行相似块的搜索。
当然,在本申请实施例中,得到目标搜索模板可以仅包括第一搜索模板,而不存在第二搜索模板。其中,第一搜索模板与第二搜索模板的区别在于获取的方式不同。
例如,同样假设存在9个搜索模板,其中,搜索模板1、搜索模板2和搜索模板3组成搜索模板组A,搜索模板4、搜索模板5和搜索模板6组成搜索模板组B,以及搜索模板7、搜索模板8和搜索模板9组成搜索模板组C,在进行相似块的搜索时,需要利用一组搜索模板进行搜索;可以依据上述提到的遍历的方式和按照目标图像块的内容的方式,直接选择一组搜索模板。
上述提到的第一搜索模板可以包多个子搜索模板,其中,如果将上述例子中的一个搜索模板组称为一个搜索模板的话,则其中的各个搜索模板可以称为子搜索模板。
可选地,上述提到的第二搜索模板也可以包括一个或多个子搜索模板。
可选地,在一个目标搜索模板包括L个子搜索模板时,利用该L个子搜索模板,进行L阶目标相似块的搜索,其中,第j阶目标相似块搜索得到的目标相似块用于进行第j+1阶目标相似块的搜索过程中的子搜索模板的固定,其中,j取值从1到L,L为大于或等于1的整数。
当然,利用该L个子搜索模板,也可以进行非L阶目标相似块的搜索。
例如,同一子搜索模板,可以进行多阶目标相似块的搜索。
可选地,如果存在N目标搜索模板,则可以利用该N个搜索模板,进行M阶目标相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板或目标搜索模板的固定,其中,i取值从1到M,M大于或等于N,N与M为大于或等于1的整数。
其中,在存在N个目标搜索模板,而目标搜索模板均未包括子搜索模板(也可以理解为包括一个子搜索模板)的情况下,则可以进行M(M等于N)阶相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的搜索模板的固定。
当然,此时,利用该N个目标搜索模板,也可以进行非N阶目标相似块的搜索。
例如,同一目标搜索模板,可以进行多阶目标相似块的搜索。
或者,在存在N个目标搜索模板,而目标搜索模板中包括多个子搜索模板的情况下,则可以进行M(M大于N)阶相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板的固定。
可选地,在本申请实施例中,该方法可以用于编码端。
其中,在该方法用于编码端时,可以对该目标搜索模板的编号进行编码,其中,可以将用到的目标搜索模板的编号写入到码流中,从而解码端可以在从码流中获取目标搜索模板的编号时,按照该编号,确定目标搜索模板,从而可以基于该编号,确定目标搜索模板,以对相应的待滤波块进行滤波。
应理解,在本申请实施例中,编码端在获取到目标搜索模板,并利用目标搜索模板对待滤波块进行滤波时,也可以不将编号写入到码流中,解码端可以依据编码端相同的方法来获取目标搜索模板,例如,以上提到的遍历的方式或者按照目标图像块的内容进行目标搜索模板的选取。
在320中,滤波器基于该至少一个第一相似块,进行滤波。
在一种实现方式中,可以基于该至少一个第一相似块,构建结构数组;对该结构数组进行分解;根据分解的结构数组,获得重建结构数组。
可选地,在本申请实施中,如果确定了上述第二相似块,则可以基于该第一相似块和第二相似块,构建结构数组。
可选地,构建的结构数组可以是一维、二维或者三维矩阵。
其中,可以对该结构数组进行奇异值分解(Singular Value Decomposition,SVD),并对奇异值进行硬阈值操作,根据奇异值分解的结果获得重建结构组,最后获取重建图像。其中,SVD分解的目的是将结构数组提取主成分,单纯的SVD并不能起到滤波的作用,滤波的关键在于去除噪声,NLSF中去除噪声的地方采用的是硬阈值的操作。
可选地,在本申请实施例中,除了采用SVD的滤波方式,还可以利用离散余弦变换(Discrete Cosine Transform,DCT)变换、哈达玛变换、KLT(Karhunen-Loève Transform)、依赖信号转换(Signal Dependent Transform,SDT)、小波变换等等滤波方式。
在另一种实现方式中,基于所述至少一个第一相似块的像素值的加权平均结果对所述待滤波块进行滤波。
可选地,在本申请实施中,如果确定了上述第二相似块,则可以基于该第一相似块和第二相似块的像素值,进行加权平均。
可选地,本申请实施例的滤波方式可以与其他的滤波方式结合使用。具体地,可以在本申请实施例的滤波之后执行其他方式的滤波,或者,在其他方式的滤波之后执行根据本申请实施例的滤波方式。
其他的滤波技术可以包括双边滤波、去块滤波、自适应样值补偿滤波和自适应环路滤波。其中,
双边滤波是当前像素由它自身和相邻四个点像素值的加权平均来计算,实现保边去噪。去块滤波用于预测单元和变换单元的边界,利用训练得到的低通滤波器进行边界像素的非线性加权,从而减少块效应。自适应样值补偿滤波通过对图像块内像素进行分类,进而为每类像素加上相同补偿值的方式使得重构图像更接近原始图像,从而起到抑制振铃效应的作用。自适应环路滤波是一种维纳滤波器,主要用于最小化原始图像和重构图像之间的均方误差。
以下表1示出了现有技术与本申请的需要搜索的点数(搜索点数相当于相似度匹配操作次数,一个搜索点等于一次相似度匹配)的比照图。其中,在为当前块设置的用于搜索相似块的搜索窗口为33x33的情况下,现有技术在进行相似块搜索时平均每个当前块需要搜索1072个点。使用本申请中的如图8所示的搜索搜索模板,在第一次搜索时,最多需要搜索28个点,几次迭代后,MarketPlace、BQTTerrace、BasketballDrive、RitualDance、Cactus五个序列序列平均需要搜索291个点,本发明使得搜索点数节省了72.9%。其中,五个序列MarketPlace、BQTTerrace、BasketballDrive、RitualDance、Cactus分别可以减少74.6%、70.3%、71.5%、75.2%、72.9%的搜索点数。
表1
因此,本申请实施例中的用于视频处理的方法,在至少一个像素集合中,获取当前块的至少一个第一相似块,该像素集合包括稀疏的重建像素,从而可以在过滤过程中降低相似块获取的复杂度,可以在保证最小的编码性能损失的情况下,降低滤波复杂度,从而降低编解码的复杂度,以及节省编解码的时间。
图18是根据本申请实施例的用于视频处理的方法400的示意性流程图。该方法400包括以下内容中的至少部分内容。其中,该方法400可以应用于编码端,也可以应用于解码端。
可选地,该方法400可以由滤波器实现,该滤波器可以是编码器或解码器的一部分,也可以独立于编码器或解码器存在。可选地,该滤波器可以是NLSF滤波器,或NLM滤波器,或者其他滤波器。
在410中,滤波器从多个候选搜索模板中,确定目标搜索模板。
可选地,本申请实施例中的搜索模板用于在重建的图像或图像块中圈住一些重建像素,滤波器可以从这些重建像素中搜索相似块。搜索模板的形状与圈住的用于搜索相似块的重建像素的排布形状是一样的。
其中,搜索模板包括的像素可以理解为将该搜索模板固定在重建图像或图像块所圈住的像素。
本申请实施例对方法400提到的搜索模板的形状(可用理解为像素排布和像素数量等)不作具体的现定。
例如,方法400中的搜索模板可以包括稀疏的重建像素,其中,搜索模板包括稀疏的重建像素意味着:该搜索模板中存在这样的一些像素,这些像素之间间隔(例如,像素之间的最短直线距离上)有不属于该集合的像素,例如,可以如图7和图8所示的搜索模板。
或者,方法400中的搜索模板也可以包括非稀疏的重建像素,例如,如图10所示的搜索模板,但是包括非稀疏的重建像素的搜索模板还可以具有其他的形状,例如,可以是长方形搜索模板、菱形搜索模板和圆形搜索模板等。
本申请实施例中的搜索模板可以包括多个子搜索模板,每个搜索模板包括的子搜索模板不同和/或使用顺序不同。
例如,搜索模板1包括子搜索模板1、子搜索模板2和子搜索模板3,搜索模板2包括子搜索模板1和子搜索模板2,则搜索模板1和搜索模板2不同。
例如,搜索模板1包括子搜索模板1、子搜索模板2和子搜索模板3,搜索模板2包括子搜索模板2、子搜索模板4和子搜索模板5,则搜索模板1和搜索模板2不同。
例如,搜索模板1和搜索模板2均包括子搜索模板1、子搜索模板2和子搜索模板3,但对搜索模板1而言,子搜索模板的使用顺序为子搜索模板1、子搜索模板2和子搜索模板3,而对搜索模板2而言,子搜索模板的使用顺序为子搜索模板2、子搜索模板1和子搜索模板3,则搜索模板1和搜索模板2不同。
应理解,在本申请实施例中,子搜索模板也可以包括稀疏的重建像素或非稀疏的重建像素。
还应理解,在搜索模板包括多个子搜索模板的情况下,本申请实施例中的搜索模板可以理解为搜索模板集合,其包括多个搜索模板。
可选地,在本申请实施例中,可以在滤波器中预设多个候选搜索模板,具体地,可以预设每个搜索模板中重建像素的数量和排列方式等。
其中,滤波器可以从存储器中得到分别预设的该多个候选搜索模板,也即,滤波器无需获知该多个候选搜索模板之间的变形规律。
或者,在本申请实施例中,滤波器也可以从存储器中得到一个候选搜索模板,然后可以按照一定规律变形得到其他的搜索模板。
例如,可以将该得到的候选搜索模板在某一个或多个方向上增加或减少一列或多列像素。
可选地,在本申请实施例中,确定的目标搜索模板可以包括一个搜索模板,或多个搜索模板,而每个搜索模板也可以包括一个或多个子搜索模板。
可选地,在本申请实施例中,滤波器可以基于目标图像块中的至少一个待滤波块,从该多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;其中,该目标搜索模板包括该第一搜索模板,该第一搜索模板用于该至少一个待滤波块获取目标相似块。
具体地说,滤波器可以以图像块为单位确定目标搜索模板,并可以将确定的目标搜索模板用于进行该图像块包括的待滤波块的滤波。
其中,该图像块可以包括一个待滤波块或多个待滤波块。该图像块可以是重建后的图像块。
例如,该图像块可以是重建后的一帧图像或者也可以是重建后的一个CTU。
其中,滤波器可以基于该图像块包括的至少一个待滤波块,从至少部分候选搜索模板中,确定目标搜索模板。
以下将结合两种实现方式介绍滤波器如何基于该图像块包括的至少一个待滤波块来确定目标搜索模板,应理解,该两种实现方式并非是独立的,其可以相互结合使用或者结合其他方式来实现。
其中,在下文中,为了描述的方便,可以将第一种实现方式称之为基于遍历的方式获取目标搜索模板,将第二种实现方式称为为基于图像内容的方式获取搜索模板。
在第一种实现方式中,滤波器可以针对该至少一个待滤波块,遍历该至少部分候选搜索模板中的各个候选搜索模板;根据遍历结果,从该至少部分候选搜索模板中,确定该第一搜索模板。
具体地,滤波器可以利用各个候选搜索模板,针对各个待滤波块进行相似块的获取,根据相似块的获取结果(也即上述提到的遍历结果),来确定目标搜索模板。也就是说,可以根据相似块的获取结果,选取较优的候选搜索模板作为目标搜索模板。
可选地,该遍历结果可以包括:
针对该至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对该至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
其中,在遍历结果包括针对该至少一个待滤波块中全部待滤波块,得到的相似块的总数量的情况下,在计算该得到的相似块的总数量时,在搜索到一个相似块时,可以在得到相似块的数量上加1,而不区分是基于哪个待滤波块得到的,或者,也可以分别确定基于各个待滤波块得到相似块的数量,并对各个相似块得到的滤波块的数量进行加和处理。
同样,在遍历结果包括针对该至少一个待滤波块中全部待滤波块,获取相似块所需搜索的总块数的情况下,在统计所需搜索的总块数时,在进行了(或者是将要进行或正在进行)一个块的搜索时,可以在统计的块的数量上加1,而不区分是基于哪个待滤波块进行相似块搜索的,或者,也可以分别统计基于各个待滤波块进行相似块搜索时所需搜索的块数,并进行加和处理。
可选地,该第一搜索模板可以是该至少部分候选搜索模板中满足以下条件的搜索模板:
得到该至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对该至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对该至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
可选地,滤波器可以确定各个待滤波块的优选搜索模板;根据该各个待滤波块的优选搜索模板,确定该第一搜索模板。
具体地,滤波器可以根据各个候选搜索模板,针对各个滤波块的搜索结果,确定每个待滤波块的优选搜索模板,并基于各个候选搜索模板被确定为优选搜索模板的次数,来确定该第一搜索模板。
可选地,将该第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
正如上文所述,一个搜索模板可以包括多个子搜索模板,在该种情况下,在利用每个搜索模板,来确定针对全部滤波块或各个滤波块获取相似块过程中得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数时,可以是利用该多个子搜索模板,来确定针对全部滤波块或各个滤波块获取相似块过程中得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数。其中,该多个子搜索模板可以进行多阶相似块的搜索,上一阶得到的相似块用于下一阶子搜索模板的固定。
在第二种实现方式中,根据目标图像块包括的该至少一个待滤波块的图像内容,从该至少部分候选搜索模板中,确定该第一搜索模板。
例如,假设存在如图11-14所示的4个搜索模板,图15示出了一帧图像中四个图像块,从图15中各个图像块可以看出,图15中的图像块A可以采用图14所示的搜索模板,图像块B可以采用图11所示的搜索模板,图像块C可以采用图13所示的搜索模板,图像块D可以采用图12所示的搜索模板。
也就是说,对于边界比较明显的区域,可以顺着边界的方向进行搜索,而对于无明显边界特性的区域,则可以采用遍历的方式进行搜索。
可选地,该至少一个待滤波块的图像内容可以包括:该目标图像块的图像边缘信息。
可选地,该目标图像块的边缘信息可以包括该图像块的边缘的梯度方向和/或该目标图像块周围像素与该目标图像块的像素残差。
具体地,滤波器可以根据该至少一个待滤波块的边缘的梯度方向(可以进一步结合梯度大小)和/或该目标图像块周围像素与该目标图像块的像素残差,以及该至少部分候选搜索模板的像素的排布方向(例如,倾斜方向),从该至少部分候选搜索模板中,确定该第一搜索模板。
其中,在边缘的计算梯度大小和方向时,可以多种计算方式进行计算,例如可以采用Sobel算子、Robinson算子或Laplace算子等进行计算。
sobel算子的实现可以结合上述方法300中的描述。
可选地,可以基于目标图像块包括的各个待滤波块的边缘的梯度方向,来选择各个待滤波块的优选搜索模板,并基于此,选择对目标图像块进行相似块搜索的目标搜索模板。
或者,可以基于整个目标图像块(无需进行待滤波块的拆分)的边缘的梯度方向,直接从候选搜索模板中,选择目标搜索模板。
可选地,该目标图像块周围像素与该目标图像块的像素残差的计算方式可以是:该目标图像块或包括的各个待滤波块和搜索块对应位置像素值之差绝对值再求和(即曼哈顿距离),或者像素值之差平方再求和(即欧氏距离)。
其中,在计算像素残差时,可以在目标图像块的周围区域(可以包括该目标图像块本身)进行全搜索(也即逐点扫描)的方式来计算像素残差。
其中,如果目标图像块包括一个待滤波块,则可以在该一个待滤波块的周围区域(可以包括该目标图像块的全部或部分区域)进行全搜索,计算搜索块相应的点与该一个待滤波块相应点(在所属的块中,具有相同的位置,例如,均位于所属块的中间,左上角,左下角等)的残差。
如果目标图像块包括多个待滤波块,则可以将该目标图像块作为一个块,在该一个块的周围区域(可以包括该目标图像块的全部或部分区域)进行全搜索,计算搜索块相应的点与该一个块相应点的残差。
或者,如果目标图像块包括多个待滤波块,针对单个滤波块,在该目标图像块的周围区域(可以包括该目标图像块的全部或部分区域)进行全搜索,计算搜索块相应的点与单个滤波块的相应的点的残差。
当然,如果目标图像块包括多个待滤波块,针对单个滤波块,也可以在该单个待滤波块的周围区域(可以包括该单个待滤波块的全部或部分区域)进行全搜索,计算搜索块相应的点与单个滤波块的相应的点的残差。
应理解,以上介绍了可以利用对周围区域进行全搜索的方式计算目标图像块与周围区域的像素残差,但是本申请实施例并不限于此,也可以隔点扫描的方式来计算像素残差。
其中,在针对单个待滤波块分别计算其与周围像素的像素残差时,可以计算各个待滤波块的优选搜索模板,并可以基于此,选择该目标图像块的目标搜索模板。
以下结合采用曼哈顿距离进行残差的计算来举例说明。
如图16所示每个小方框代表一个像素位置,方框中的数字代表该位置处的像素值,其中,像素值下带下划线的为当前块的像素值,可以对当前块的周围区域进行全搜索(整个区域进行逐点扫描的方式),计算残差。
残差计算结果可以如图17所示,其中,在图17中,每个小方框代表搜索的一个块的残差,总共搜索了16个块,从图17中可以看出最小的残差是45度角方向分布,这种情况下可以采用图13所示的搜索模板。
可选地,也可以依据目标图像块的内容选择一组搜索模板(也即第一搜索模板包括多个子搜索模板)。
例如,将包括的多个子搜索模板的倾斜方向均于目标图像块的边缘的梯度方向一致或基本一致的候选搜索模板作为第一搜索模板。
可选地,在本申请实施例中,以上确定的第一搜索模板可以用来确定相似块。
可选地,在本申请实施例中,从该多个候选搜索模板中除用于确定第一搜索模板之外的候选搜索模板中,根据该第一搜索模板,确定第二搜索模板。
具体地,在从部分候选搜索模板中,按照上述提到的方法确定出第一搜索模板之后,可以从剩下的部分候选搜索模板中,依据确定的第一搜索模板,确定第二搜索模板,由第一搜索模板和第二搜索模板来共同确定相似块。
例如,假设存在9个搜索模板,其中,搜索模板1、搜索模板2和搜索模板3组成搜索模板组A,搜索模板4、搜索模板5和搜索模板6组成搜索模板组B,以及搜索模板7、搜索模板8和搜索模板9组成搜索模板组C,在进行相似块的搜索时,需要利用一组搜索模板进行搜索;可以依据上述提到的遍历的方式和按照目标图像块的内容的方式,选择一个搜索模板,具体地,可以从候选搜索模板1、候选搜索模板4和候选搜索模板7中挑择一个目标搜索模板,例如,假设选择的为目标搜索模板为搜索模板4,则由于搜索模板5和6与搜索模板4属于同一搜索模板组,则可以将该搜索模板5和6作为目标搜索模板,也即可以利用搜索模板4、搜索模板5和搜索模板6来进行相似块的搜索。
当然,在本申请实施例中,得到目标搜索模板可以仅包括第一搜索模板,而不存在第二搜索模板。
例如,同样假设存在9个搜索模板,其中,搜索模板1、搜索模板2和搜索模板3组成搜索模板组A,搜索模板4、搜索模板5和搜索模板6组成搜索模板组B,以及搜索模板7、搜索模板8和搜索模板9组成搜索模板组C,在进行相似块的搜索时,需要利用一组搜索模板进行搜索;可以依据上述提到的遍历的方式和按照目标图像块的内容的方式,直接选择一组搜索模板。
上述提到的第一搜索模板可以包多个子搜索模板,其中,如果将上述例子中的一个搜索模板组称为一个搜索模板的话,则其中的各个搜索模板可以称为子搜索模板。
可选地,上述提到的第二搜索模板也可以包括一个或多个子搜索模板。
在420中,利用该目标搜索模板,在当前图像的重建像素中,滤波器获取待滤波块的至少一个目标相似块。
可选地,在一个目标搜索模板包括L个子搜索模板时,利用该L个子搜索模板,进行L阶目标相似块的搜索,其中,第j阶目标相似块搜索得到的目标相似块用于进行第j+1阶目标相似块的搜索过程中的子搜索模板的固定,其中,j取值从1到L,L为大于或等于1的整数。
当然,利用该L个子搜索模板,也可以进行非L阶目标相似块的搜索。
例如,同一子搜索模板,可以进行多阶目标相似块的搜索。
可选地,如果存在N目标搜索模板,则可以利用该N个搜索模板,进行M阶目标相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板或目标搜索模板的固定,其中,i取值从1到M,M大于或等于N,N与M为大于或等于1的整数。
其中,在存在N个目标搜索模板,而目标搜索模板均未包括子搜索模板(也可以理解为包括一个子搜索模板)的情况下,则可以进行M(M等于N)阶相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的搜索模板的固定。
当然,此时,利用该N个目标搜索模板,也可以进行非N阶目标相似块的搜索。
例如,同一目标搜索模板,可以进行多阶目标相似块的搜索。
或者,在存在N个目标搜索模板,而目标搜索模板中包括多个子搜索模板的情况下,则可以进行M(M大于N)阶相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板的固定。
可选地,在本申请实施例中,进行多阶相似块的搜索可以是指:利用当前待滤波块,对搜索模板进行固定,并搜索相似块,然后再基于搜索到的相似块,再次进行搜索模板的固定,并搜索相似块,然后可以停止相似块的搜索,或者也可以基于再次搜索到的相似块进行搜索模板的固定,并以此类推。其中,可以将该过程称为基于本申请实施例提到的相似块的多阶搜索过程。
其中,如果某一阶搜索过程得到了多个相似块,则可以分别基于该多个相似块进行搜索模板的固定,并进行相似块的搜索过程。
可选地,在本申请实施例中,在之前的相似块搜索过程已经进行了相似度匹配的块,不再进行相似块的匹配操作,由此可以节省滤波的复杂度。
但应理解,本申请实施例并不限于此。
例如,在之前的相似块搜索过程已经被确定为相似块的块,不再进行相似块的匹配操作。也就是说,即使之前已经进行了相似度匹配,但是由于没有被确定为相似块,仍然可以再次进行匹配,例如,可以是由于不同阶搜索过程中,用来判断是否为相似块的阈值可以是不同的。
可选地,在本申请实施例中,某一阶相似块搜索过程中获取的相似块的数量可以不超过一定数值。
在一种实现方式中,在某一阶相似块搜索过程中,可以获取到当前待滤波块中所有搜索块与当前块的相似度,按照相似度从高到低的方式排布,挑出特定数量的相似块。
在另一种实现方式中,在某一阶相似块搜索过程中,在搜索到的期望块的数量达到特定数量时,将所述期望块确定为相似块,并停止进行该阶相似块的搜索,其中,用于表征所述当前待滤波块与所述期望块的相似度的参量的值超出第一阈值。
在另一种实现方式中,在某一阶相似块搜索过程中,在搜索到的期望块的数量大于特定数量时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定出特定数量的相似块,其中,用于表征所述当前待滤波块与所述期望块的相似度的参量的值超出第一阈值。
但应理解,本申请实施例,并限于以上的实现方式,其中,可以是多阶搜索过程的相似块的总和不超过特定数量,不对每阶搜索过程中的相似块的数量进行限定。
应理解,以上提到的相似块用于搜索模板或子搜索模板的固定可以是指将该相似块作为固定搜索模板或子搜索模板的一点。如果存在多个相似块用于搜索模板或子搜索模板的固定,可以是指基于该多个相似块来移动搜索模板或子搜索模板,用搜索模板或子搜索模板得到多个像素集合,来进行下一阶相似块的搜索。
还应理解,在采用遍历的方式获取目标搜索模板的情况下,在基于目标搜索模板确定相似块时,可以不再进行相似块的具体搜索操作,而是采用在确定目标搜索过程中所得到的相似块获取结果。
在430中,利用该至少一个目标相似块,对该待滤波块进行滤波。
在一种实现方式中,可以基于该至少一个目标相似块,构建结构数组;对该结构数组进行分解;根据分解的结构数组,获得重建结构数组。
在另一种实现方式中,基于所述至少一个目标相似块的像素值的加权平均结果对所述待滤波块进行滤波。
可选地,在本申请实施例中,该方法可以用于编码端。
其中,在该方法用于编码端时,可以对该目标搜索模板的编号进行编码,其中,可以将用到的目标搜索模板的编号写入到码流中,从而解码端可以在从码流中获取目标搜索模板的编号时,按照该编号,确定目标搜索模板,从而可以基于该编号,确定目标搜索模板,以对相应的待滤波块进行滤波。
应理解,在本申请实施例中,编码端在获取到目标搜索模板,并利用目标搜索模板对待滤波块进行滤波时,也可以不将编号写入到码流中,解码端可以依据编码端相同的方法来获取目标搜索模板,例如,以上提到的遍历的方式或者按照目标图像块的内容进行目标搜索模板的选取。
因此,在从多个候选搜索模板中,确定目标搜索模板;利用所述目标搜索模板,在当前图像的重建像素中,获取用于对待滤波块进行滤波的至少一个目标相似块,可以灵活选取搜索模板,避免采用固定的搜索模板进行相似块的搜索所带来的相似块获取不合理的问题。
应理解,本申请实施例中的方法300和方法400中的描述可以相互参考,例如,关于术语的解释和可选方案的实现方式(例如,关于相似块的表征、多阶搜索过程的描述、模板的描述以及模板的选择的描述等等)均可以相互参考,以及方法300和方法400可以结合使用,为了简洁,在此不再赘述。
图19是根据本申请实施例的用于视频处理的方法500的示意性流程图。如图19所示,该方法500包括以下内容中的至少部分内容。其中,该方法400可以由应用于编码端,也可以应用于解码端。
在510中,滤波器从重建像素中,获取当前块的至少一个相似块,该当前块包括至少一个重建像素,其中,用于表征所述当前块与所述相似块的相似度的参量的值超出第一阈值。
其中,该重建像素可以是搜索窗口中的像素,可以利用逐点扫描的方式,从该搜索窗口中,获取当前块的相似块。
在520中,滤波器基于该至少一个第一相似块,进行滤波。
可选地,在搜索到的期望块的数量达到所述第二阈值时,将所述期望块作为所述相似块,并停止所述相似块的搜索,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
可选地,在所述重建像素的所有像素中,搜索到的期望块的数量大于所述第二阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第二阈值的所述相似块,其中,用于表征所述当前块与所述期望块的相似度的参量的值超出第一阈值。
可选地,该第一阈值是基于以下参数中的至少一种确定的:该当前块的大小,视频的比特深度,该当前块的像素和,该当前块的像素的水平梯度,该当前块的像素的垂直梯度。
可选地,在该相似度的度量参量是哈希值的差值时,该第一阈值是基于以下参数中的至少一种确定的:该当前块的像素和,该当前块的像素的水平梯度,该当前块的像素的垂直梯度。
可选地,该相似度的度量参量是SSD或SAD时,该第一阈值是基于以下参数中的至少一种确定的:该当前块的大小,视频的比特深度。
可选地,该相似度的度量参量是MAD,MSD或SSIM时,该第一阈值是基于视频的比特深度确定的。
可选地,用于获取该相似块进行的相似度判断的度量参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
可选地,该方法由编码端实现;该方法还包括:所述编码端确定所述第一阈值,以及将所述第一阈值进行编码。
可选地,该方法由解码端实现;该方法还包括:所述解码端获取码流中的所述第一阈值。
可选地,可以基于该至少一个目标相似块,构建结构数组;对该结构数组进行分解;根据分解的结构数组,获得重建结构数组。
可选地,基于该至少一个相似块的像素值的加权平均结果,该待滤波块进行滤波。
应理解,该方法500中的各个操作的实现可以参照方法300或400的描述,为了简洁,在此不再赘述。
图20是根据本申请实施例的用于视频处理的设备600的示意性框图。如图20所示,该设备600包括获取单元610和滤波单元620;其中,
所述获取单元610用于:在至少一个像素集合中,获取待滤波块的至少一个第一相似块,其中,所述像素集合包括稀疏的重建像素,所述待滤波块包括至少一个重建像素;
所述滤波单元620用于:基于所述至少一个第一相似块,对所述待滤波块进行滤波。
可选地,所述至少一个像素集合包括第一像素集合;
所述设备还包括,确定单元630用于:
基于所述待滤波块包括的重建像素的位置,确定所述第一像素集合;
所述获取单元610进一步用于:从所述第一像素集合中,获取所述第一相似块。
可选地,所述获取单元610进一步用于:
按照从靠近所述待滤波块到远离所述待滤波块的搜索方式,从所述第一像素集合中,获取所述第一相似块。
可选地,所述获取单元610进一步用于:
在所述第一像素集合中搜索到的期望块的数量达到第二阈值时,将所述期望块作为所述第一相似块,并停止在所述第一像素集合中进行所述第一相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述获取单元610进一步用于:
在所述第一像素集合的所有像素中,搜索到的期望块的数量大于第二阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第二阈值的所述第一相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述至少一个像素集合包括第二像素集合;
所述确定单元630进一步用于:
根据前次得到的第一相似块包括的重建像素的位置,确定第二像素集合;
所述获取单元610进一步用于:
从所述第二像素集合中,再次获取所述第一相似块。
可选地,所述获取单元610进一步用于:
基于从靠近所述前次得到的所述第一相似块到远离所述前次得到的所述第一相似块的搜索方式,从所述第二像素集合中,再次获取所述第一相似块。
可选地,所述获取单元610进一步用于:
在所述第二像素集合中搜索到的期望块的数量达到第三阈值时,将所述期望块确定为所述第一相似块,并停止在所述第二像素集合中进行所述第一相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述获取单元610进一步用于:
在所述第二像素集合的所有像素中,搜索到的期望块的数量大于第三阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第三阈值的所述第一相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述获取单元610进一步用于:
所述第二像素集合中之前已经进行了相似块匹配操作的块,不再进行相似块的匹配操作;或者,
所述第二像素集合中不包括已经进行了相似块匹配操作的块。
可选地,所述设备还包括确定单元630,用于:
基于目标搜索模板,确定所述像素集合。
可选地,所述目标搜索模板中的重建像素聚集为多个分散的图像块,每个图像块的大小大于或等于所述待滤波块的大小。
可选地,所述目标搜索模板包括用于选择所述第一相似块的多个候选相似块,所述候选相似块的大小等于所述待滤波块的大小。
可选地,所述目标搜索模板包括从中心到边缘的多组候选相似块,每组候选相似块块围成环形,所述环形相对所述目标搜索模板的中心对称,组内的候选相似块均匀排布。
可选地,所述目标搜索模板包括四组候选相似块,所述四组候选相似块的远离所述目标搜索模板的中心的边缘像素,相对于所述目标搜索模板的中心,分别间隔1个像素,2个像素,4个像素和8个像素。
可选地,所述四组候选相似块分别具有4个候选相似块,8个候选相似块,8个候选相似块和8个候选相似块,其中,具有4个候选相似块的一组候选相似块距离所述目标搜索模板的中心最近。
可选地,所述至少一个像素集合中,不同的像素集合是基于不同的目标搜索模板确定的。
可选地,所述确定单元630进一步用于:
从多个候选搜索模板中,确定所述目标搜索模板。
可选地,所述确定单元630进一步用于:
基于目标图像块中的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;
其中,所述目标搜索模板包括所述第一搜索模板,所述第一搜索模板用于所述至少一个待滤波块获取目标相似块。
可选地,所述确定单元630进一步用于:
针对所述至少一个待滤波块,遍历所述至少部分候选搜索模板中的各个候选搜索模板;
根据遍历结果,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
可选地,所述遍历结果包括:
针对所述至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对所述至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
可选地,所述第一搜索模板是所述至少部分候选搜索模板中满足以下条件的搜索模板:
得到所述至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
可选地,所述确定单元630进一步用于:
根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
可选地,所述至少一个待滤波块的图像内容包括:所述目标图像块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差。
可选地,所述确定单元630进一步用于:
根据所述至少一个待滤波块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差,以及所述至少部分候选搜索模板的倾斜度,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
可选地,所述确定单元630进一步用于:
确定所述至少一个待滤波块中的各个待滤波块的优选搜索模板;
根据所述各个待滤波块的优选搜索模板,确定所述第一搜索模板。
可选地,将所述第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
可选地,所述确定单元630进一步用于:
从所述多个候选搜索模板中除所述至少部分搜索模板之外的搜索模板中,根据所述第一搜索模板,确定第二搜索模板。
可选地,所述搜索模板包括多个子搜索模板;
不同的搜索模板包括的子搜索模板不同和/或子搜索模板的使用顺序不同。
可选地,所述设备用于编码端。
可选地,所述设备还包括编码单元640,用于:
编码所述目标搜索模板的编号。
可选地,所述设备用于解码端。
可选地,所述设备用于解码端,所述确定单元630进一步用于:
从码流中获取所述目标搜索模板的编号;
根据所述目标搜索模板的编号,从所述多个候选搜索模板中,确定所述目标搜索模板。
可选地,所述设备还包括,确定单元630用于:
基于每个所述第一相似块的位置,分别确定像素窗口;
所述获取单元610进一步用于:
在所述像素窗口内,获取所述第二相似块;
所述滤波单元620进一步用于:
基于所述第一相似块和所述第二相似块,进行滤波。
可选地,所述获取单元610进一步用于:
按照逐点扫描的方式,确定所述第二相似块。
可选地,所述获取单元610进一步用于:
所述像素窗口中已进行了相似块匹配操作的块,不再进行相似块的匹配操作;或者,
所述搜索窗口中不包括已经进行了相似块匹配操作的块。
可选地,所述获取单元610进一步用于:
在所述像素窗口中搜索到的期望块的数量达到第四阈值时,将搜索到的所述期望块确定为所述第二相似块,并停止在所述像素窗口中进行所述第二相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述获取单元610进一步用于:
在所述像素窗口中的所有像素中,搜索到的期望块的数量大于第四阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第四阈值的所述第二相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,用于表征所述待滤波块与所述待滤波块的相似块的相似度的参量的值超出第一阈值。
可选地,所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的大小,视频的比特深度,所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
可选地,在表征所述相似度的参量是哈希值的差值时,
所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
可选地,在表征所述相似度的参量是误差平方和SSD或绝对误差和SAD时,
所述第一阈值是基于以下参数中的至少一种确定的:所述待滤波块的大小,视频的比特深度。
可选地,在表征所述相似度的参量是平均绝对差MAD,平均误差平方和MSD或结构相似性指标SSIM时,
所述第一阈值是基于视频的比特深度确定的。
可选地,所述设备由编码端实现;所述设备还包括编码单元640,用于:
确定所述第一阈值,以及将所述第一阈值进行编码。
可选地,所述设备由解码端实现;所述获取单元610进一步用于:
获取码流中的所述第一阈值。
可选地,表征相似度的参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
可选地,用于获取所述相似块的重建像素包括:
所述待滤波块所属的编码单元的上侧的重建像素、所述编码单元的左侧的重建像素和所述编码单元的重建像素;或,
所述编码单元的上侧的重建像素、所述编码单元的左侧的重建像素、所述编码单元的右侧的重建像素、所述编码单元的下侧的重建像素和所述编码单元的重建像素;或,
所述编码单元的重建像素。
可选地,所述编码单元的上侧的重建像素的垂直方向的像素个数少于或等于所述编码单元的左侧的重建像素的水平方向的像素个数。
可选地,所述滤波单元620进一步用于:
基于所述至少一个第一相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
可选地,所述滤波单元620进一步用于:
基于所述至少一个第一相似块的像素值的加权平均结果对所述待滤波块进行滤波。
可选地,该设备600可以实现上述方法300中的滤波器的操作,为了简洁,在此不再赘述。
图21是根据本申请实施例的用于视频处理的设备700的示意性框图。如图21所示,该设备700包括:包括确定单元710、获取单元720和滤波单元730;其中,
所述确定单元710用于:从多个候选搜索模板中,确定目标搜索模板;
所述获取单元720用于:利用所述目标搜索模板,在当前图像的重建像素中,获取待滤波块的至少一个目标相似块;
所述滤波单元730用于:利用所述至少一个目标相似块,对所述待滤波块进行滤波。
可选地,所述确定单元710进一步用于:
基于目标图像块中的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;
其中,所述目标搜索模板包括所述第一搜索模板,所述第一搜索模板用于所述至少一个待滤波块获取目标相似块。
可选地,所述确定单元710进一步用于:
针对所述至少一个待滤波块,遍历所述至少部分候选搜索模板中的各个候选搜索模板;
根据遍历结果,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
可选地,所述遍历结果包括:
针对所述至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对所述至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
可选地,所述第一搜索模板是所述至少部分候选搜索模板中满足以下条件的搜索模板:
得到所述至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
可选地,所述确定单元710进一步用于:
根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
可选地,所述至少一个待滤波块的图像内容包括:所述目标图像块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差。
可选地,所述确定单元710进一步用于:
根据所述至少一个待滤波块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差,以及所述至少部分候选搜索模板的倾斜度,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
可选地,所述确定单元710进一步用于:
确定所述至少一个待滤波块中的各个待滤波块的优选搜索模板;
根据所述各个待滤波块的优选搜索模板,确定所述第一搜索模板。
可选地,将所述第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
可选地,所述确定单元710进一步用于:
从所述多个候选搜索模板中除所述至少部分搜索模板之外的搜索模板中,根据所述第一搜索模板,确定第二搜索模板。
可选地,所述搜索模板包括多个子搜索模板;
不同的搜索模板包括的子搜索模板不同和/或子搜索模板的使用顺序不同。
可选地,所述目标搜索模板包括L个子搜索模板;
所述获取单元720进一步用于:
利用所述L个子搜索模板,进行L阶目标相似块的搜索,其中,第j阶目标相似块搜索得到的目标相似块用于进行第j+1阶目标相似块的搜索过程中的子搜索模板的固定,其中,j取值从1到L,L为大于或等于1的整数。
可选地,所述目标搜索模板包括N个搜索模板;
所述获取单元720进一步用于:
利用所述N个搜索模板,进行M阶目标相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板或目标搜索模板的固定,其中,i取值从1到M,M大于或等于N,N与M为大于或等于1的整数。
可选地,所述滤波单元730进一步用于:
基于所述至少一个目标相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
可选地,所述滤波单元730进一步用于:
基于所述至少一个目标相似块的像素值的加权平均结果对所述待滤波块进行滤波。
可选地,所述设备用于编码端。
可选地,所述设备还包括编码单元740,用于:
编码所述目标搜索模板的编号,以传递给解码端。
可选地,所述设备用于解码端。
可选地,所述设备用于解码端,所述确定单元710进一步用于:
从码流中获取所述目标搜索模板的编号;
根据所述目标搜索模板的编号,从所述多个候选搜索模板中,确定所述目标搜索模板。
可选地,该设备700可以实现上述方法400中的滤波器的操作,为了简洁,在此不再赘述。
图22是根据本申请实施例的用于视频处理的设备800的示意性框图。
该设备800包括获取单元810和滤波单元820;其中,所述获取单元810用于:从重建像素中,获取待滤波块的至少一个相似块,所述待滤波块包括至少一个重建像素,其中,用于表征所述待滤波块与所述相似块的相似度的参量的值超出第一阈值;
所述滤波单元820用于:基于所述至少一个相似块,对所述待滤波块进行滤波。
可选地,所述相似块的数量小于或等于第二阈值。
可选地,所述获取单元810进一步用于:
在搜索到的期望块的数量达到所述第二阈值时,将所述期望块作为所述相似块,并停止所述相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述获取单元810进一步用于:
在所述重建像素的所有像素中,搜索到的期望块的数量大于所述第二阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第二阈值的所述相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
可选地,所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的大小,视频的比特深度,所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
可选地,在表征所述相似度的参量是哈希值的差值时,
所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
可选地,在表征所述相似度的参量是误差平方和SSD或绝对误差和SAD时,
所述第一阈值是基于以下参数中的至少一种确定的:所述待滤波块的大小,视频的比特深度。
可选地,在表征所述相似度的参量是平均绝对差MAD,平均误差平方和MSD或结构相似性指标SSIM时,
所述第一阈值是基于视频的比特深度确定的。
可选地,表征相似度的参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
可选地,所述设备由编码端实现;所述设备还包括编码单元820,用于:
所述编码端确定所述第一阈值,以及将所述第一阈值进行编码。
可选地,所述设备由解码端实现;所述获取单元810进一步用于:
获取码流中的所述第一阈值。
可选地,所述滤波单元820进一步用于:
基于所述至少一个相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
可选地,所述滤波单元820进一步用于:
基于所述至少一个相似块的像素值的加权平均结果对所述待滤波块进行滤波。
可选地,该设备800可以实现上述方法500中的滤波器的操作,为了简洁,在此不再赘述。
应理解,上述本申请实施例的用于视频处理的设备可以是芯片,其具体可以由电路实现,但本申请实施例对具体的实现形式不做限定。
本申请实施例还提供了一种编码器,该编码器用于实现本申请实施例中编码端的功能,可以包括上述本申请实施例的用于视频处理的设备中用于编码端的模块。
本申请实施例还提供了一种解码器,该解码器用于实现本申请实施例中解码端的功能,可以包括上述本申请实施例的用于视频处理的设备中用于解码端的模块。
本申请实施例还提供了一种编解码器,该编解码器包括上述本申请实施例的用于视频处理的设备。
图23示出了本申请实施例的计算机系统900的示意性框图。
如图23所示,该计算机系统900可以包括处理器910和存储器920。
应理解,该计算机系统900还可以包括其他计算机系统中通常所包括的部件,例如,输入输出设备、通信接口等,本申请实施例对此并不限定。
存储器920用于存储计算机可执行指令。
存储器920可以是各种种类的存储器,例如可以包括高速随机存取存储器(RandomAccess Memory,RAM),还可以包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器,本申请实施例对此并不限定。
处理器910用于访问该存储器920,并执行该计算机可执行指令,以进行上述本申请实施例的用于视频处理的方法中的操作。
处理器910可以包括微处理器,现场可编程门阵列(Field-Programmable GateArray,FPGA),中央处理器(Central Processing unit,CPU),图形处理器(GraphicsProcessing Unit,GPU)等,本申请实施例对此并不限定。
本申请实施例的用于视频处理的设备和计算机系统可对应于本申请实施例的用于视频处理的方法的执行主体,并且用于视频处理的设备和计算机系统中的各个模块的上述和其它操作和/或功能分别为了实现前述各个方法的相应流程,为了简洁,在此不再赘述。
本申请实施例还提供了一种电子设备,该电子设备可以包括上述本申请各种实施例的用于视频处理的设备或者计算机系统。
本申请实施例还提供了一种计算机存储介质,该计算机存储介质中存储有程序代码,该程序代码可以用于指示执行上述本申请实施例的滤波的方法。
应理解,在本申请实施例中,术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系。例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接,也可以是电的,机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本申请实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,RandomAccess Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (166)

1.一种用于视频处理的方法,其特征在于,包括:
在至少一个像素集合中,获取待滤波块的至少一个第一相似块,其中,所述像素集合包括稀疏的重建像素,所述待滤波块包括至少一个重建像素;
基于所述至少一个第一相似块,对所述待滤波块进行滤波。
2.根据权利要求1所述的方法,其特征在于,所述至少一个像素集合包括第一像素集合;
所述在至少一个像素集合中,获取所述至少一个第一相似块,包括:
基于所述待滤波块包括的重建像素的位置,确定所述第一像素集合;
从所述第一像素集合中,获取所述第一相似块。
3.根据权利要求2所述的方法,其特征在于,从所述第一像素集合中,获取所述第一相似块,包括:
按照从靠近所述待滤波块到远离所述待滤波块的搜索方式,从所述第一像素集合中,获取所述第一相似块。
4.根据权利要求2或3所述的方法,其特征在于,从所述第一像素集合中,获取所述第一相似块,包括:
在所述第一像素集合中搜索到的期望块的数量达到第二阈值时,将所述期望块作为所述第一相似块,并停止在所述第一像素集合中进行所述第一相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
5.根据权利要求2或3所述的方法,其特征在于,从所述第一像素集合中,获取所述第一相似块,包括:
在所述第一像素集合的所有像素中,搜索到的期望块的数量大于第二阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第二阈值的所述第一相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
6.根据权利要求2至5中任一项所述的方法,其特征在于,所述至少一个像素集合包括第二像素集合;
所述在至少一个像素集合中,获取第一相似块,包括:
根据前次得到的第一相似块包括的重建像素的位置,确定第二像素集合;
从所述第二像素集合中,再次获取所述第一相似块。
7.根据权利要求6所述的方法,其特征在于,从所述第二像素集合中,再次获取所述第一相似块,包括:
基于从靠近所述前次得到的所述第一相似块到远离所述前次得到的所述第一相似块的搜索方式,从所述第二像素集合中,再次获取所述第一相似块。
8.根据权利要求6或7所述的方法,其特征在于,从所述第二像素集合中,再次获取所述第一相似块,包括:
在所述第二像素集合中搜索到的期望块的数量达到第三阈值时,将所述期望块确定为所述第一相似块,并停止在所述第二像素集合中进行所述第一相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
9.根据权利要求6或7所述的方法,其特征在于,从所述第二像素集合中,再次获取所述第一相似块,包括:
在所述第二像素集合的所有像素中,搜索到的期望块的数量大于第三阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第三阈值的所述第一相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
10.根据权利要求6至9中任一项所述的方法,其特征在于,
从所述第二像素集合中,再次获取所述第一相似块,包括:所述第二像素集合中之前已经进行了相似块匹配操作的块,不再进行相似块的匹配操作;或者,
所述第二像素集合中不包括已经进行了相似块匹配操作的块。
11.根据权利要求1至10中任一项所述的方法,其特征在于,所述方法还包括:
基于目标搜索模板,确定所述像素集合。
12.根据权利要求11所述的方法,其特征在于,所述目标搜索模板中的重建像素聚集为多个分散的图像块,每个图像块的大小大于或等于所述待滤波块的大小。
13.根据权利要求11或12所述的方法,其特征在于,所述目标搜索模板包括用于选择所述第一相似块的多个候选相似块,所述候选相似块的大小等于所述待滤波块的大小。
14.根据权利要求13所述的方法,其特征在于,所述目标搜索模板包括从中心到边缘的多组候选相似块,每组候选相似块块围成环形,所述环形相对所述目标搜索模板的中心对称,组内的候选相似块均匀排布。
15.根据权利要求14所述的方法,其特征在于,所述目标搜索模板包括四组候选相似块,所述四组候选相似块的远离所述目标搜索模板的中心的边缘像素,相对于所述目标搜索模板的中心,分别间隔1个像素,2个像素,4个像素和8个像素。
16.根据权利要求14或15所述的方法,其特征在于,所述四组候选相似块分别具有4个候选相似块,8个候选相似块,8个候选相似块和8个候选相似块,其中,具有4个候选相似块的一组候选相似块距离所述目标搜索模板的中心最近。
17.根据权利要求11至16中任一项所述的方法,其特征在于,所述至少一个像素集合中,不同的像素集合是基于不同的目标搜索模板确定的。
18.根据权利要求11至17中任一项所述的方法,其特征在于,所述方法还包括:
从多个候选搜索模板中,确定所述目标搜索模板。
19.根据权利要求18所述的方法,其特征在于,所述从多个候选搜索模板中,确定目标搜索模板,包括:
基于目标图像块中的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;
其中,所述目标搜索模板包括所述第一搜索模板,所述第一搜索模板用于所述至少一个待滤波块获取目标相似块。
20.根据权利要求19所述的方法,其特征在于,所述从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板,包括:
针对所述至少一个待滤波块,遍历所述至少部分候选搜索模板中的各个候选搜索模板;
根据遍历结果,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
21.根据权利要求20所述的方法,其特征在于,所述遍历结果包括:
针对所述至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对所述至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
22.根据权利要求21所述的方法,其特征在于,所述第一搜索模板是所述至少部分候选搜索模板中满足以下条件的搜索模板:
得到所述至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
23.根据权利要求19所述的方法,其特征在于,所述基于目标图像块的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板,包括:
根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
24.根据权利要求23所述的方法,其特征在于,所述至少一个待滤波块的图像内容包括:所述目标图像块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差。
25.根据权利要求23或24所述的方法,其特征在于,所述根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板,包括:
根据所述至少一个待滤波块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差,以及所述至少部分候选搜索模板的倾斜度,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
26.根据权利要求19至21和23至25中任一项所述的方法,其特征在于,所述从所述多个候选搜索模板的至少部分候选搜索模板中,确定所述第一搜索模板,包括:
确定所述至少一个待滤波块中的各个待滤波块的优选搜索模板;
根据所述各个待滤波块的优选搜索模板,确定所述第一搜索模板。
27.根据权利要求26所述的方法,其特征在于,将所述第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
28.根据权利要求18至27中任一项所述的方法,其特征在于,所述从多个候选搜索模板中,确定目标搜索模板,包括:
从所述多个候选搜索模板中除所述至少部分搜索模板之外的搜索模板中,根据所述第一搜索模板,确定第二搜索模板。
29.根据权利要求18至28中任一项所述的方法,其特征在于,所述搜索模板包括多个子搜索模板;
不同的搜索模板包括的子搜索模板不同和/或子搜索模板的使用顺序不同。
30.根据权利要求18至29中任一项所述的方法,其特征在于,所述方法用于编码端。
31.根据权利要求30所述的方法,其特征在于,所述方法还包括:
编码所述目标搜索模板的编号。
32.根据权利要求18至29中任一项所述的方法,其特征在于,所述方法用于解码端。
33.根据权利要求18所述的方法、其特征在于,所述方法用于解码端,所述从多个候选搜索模板中,确定目标搜索模板,包括:
从码流中获取所述目标搜索模板的编号;
根据所述目标搜索模板的编号,从所述多个候选搜索模板中,确定所述目标搜索模板。
34.根据权利要求1至33中任一项所述的方法,其特征在于,所述方法还包括:
基于每个所述第一相似块的位置,分别确定像素窗口;
在所述像素窗口内,获取所述第二相似块;
所述基于所述至少一个第一相似块,进行滤波,包括:
基于所述第一相似块和所述第二相似块,进行滤波。
35.根据权利要求34所述的方法,其特征在于,在所述像素窗口内,确定第二相似块,包括:
按照逐点扫描的方式,确定所述第二相似块。
36.根据权利要求34或35所述的方法,其特征在于,在所述像素窗口内,获取所述第二相似块,包括:
所述像素窗口中已进行了相似块匹配操作的块,不再进行相似块的匹配操作;或者,
所述搜索窗口中不包括已经进行了相似块匹配操作的块。
37.根据权利要求34至36中任一项所述的方法,其特征在于,所述在所述像素窗口内,获取所述第二相似块,包括:
在所述像素窗口中搜索到的期望块的数量达到第四阈值时,将搜索到的所述期望块确定为所述第二相似块,并停止在所述像素窗口中进行所述第二相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
38.根据权利要求34至36中任一项所述的方法,其特征在于,所述在所述像素窗口内,获取所述第二相似块,包括:
在所述像素窗口中的所有像素中,搜索到的期望块的数量大于第四阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第四阈值的所述第二相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
39.根据权利要求1至38中任一项所述的方法,其特征在于,用于表征所述待滤波块与所述待滤波块的相似块的相似度的参量的值超出第一阈值。
40.根据权利要求39所述的方法,其特征在于,所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的大小,视频的比特深度,所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
41.根据权利要求40所述的方法,其特征在于,在表征所述相似度的参量是哈希值的差值时,
所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
42.根据权利要求40所述的方法,其特征在于,在表征所述相似度的参量是误差平方和SSD或绝对误差和SAD时,
所述第一阈值是基于以下参数中的至少一种确定的:所述待滤波块的大小,视频的比特深度。
43.根据权利要求40所述的方法,其特征在于,在表征所述相似度的参量是平均绝对差MAD,平均误差平方和MSD或结构相似性指标SSIM时,
所述第一阈值是基于视频的比特深度确定的。
44.根据权利要求39至43中任一项所述的方法,其特征在于,所述方法由编码端实现;所述方法还包括:
所述编码端确定所述第一阈值,以及将所述第一阈值进行编码。
45.根据权利要求39至43中任一项所述的方法,其特征在于,所述方法由解码端实现;所述方法还包括:
所述解码端获取码流中的所述第一阈值。
46.根据权利要求1至45中任一项所述的方法,其特征在于,表征相似度的参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
47.根据权利要求1至46中任一项所述的方法,其特征在于,用于获取所述相似块的重建像素包括:
所述待滤波块所属的编码单元的上侧的重建像素、所述编码单元的左侧的重建像素和所述编码单元的重建像素;或,
所述编码单元的上侧的重建像素、所述编码单元的左侧的重建像素、所述编码单元的右侧的重建像素、所述编码单元的下侧的重建像素和所述编码单元的重建像素;或,
所述编码单元的重建像素。
48.根据权利要求47所述的方法,其特征在于,所述编码单元的上侧的重建像素的垂直方向的像素个数少于或等于所述编码单元的左侧的重建像素的水平方向的像素个数。
49.根据权利要求1至48中任一项所述的方法,其特征在于,所述利用所述至少一个第一相似块,对所述待滤波块进行滤波,包括:
基于所述至少一个第一相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
50.根据权利要求1至48中任一项所述的方法,其特征在于,所述利用所述至少一个第一相似块,对所述待滤波块进行滤波,包括:
基于所述至少一个第一相似块的像素值的加权平均结果对所述待滤波块进行滤波。
51.一种用于视频处理的方法,其特征在于,包括:
从多个候选搜索模板中,确定目标搜索模板;
利用所述目标搜索模板,在当前图像的重建像素中,获取待滤波块的至少一个目标相似块;
利用所述至少一个目标相似块,对所述待滤波块进行滤波。
52.根据权利要求51所述的方法,其特征在于,所述从多个候选搜索模板中,确定目标搜索模板,包括:
基于目标图像块中的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;
其中,所述目标搜索模板包括所述第一搜索模板,所述第一搜索模板用于所述至少一个待滤波块获取目标相似块。
53.根据权利要求52所述的方法,其特征在于,所述从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板,包括:
针对所述至少一个待滤波块,遍历所述至少部分候选搜索模板中的各个候选搜索模板;
根据遍历结果,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
54.根据权利要求53所述的方法,其特征在于,所述遍历结果包括:
针对所述至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对所述至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
55.根据权利要求54所述的方法,其特征在于,所述第一搜索模板是所述至少部分候选搜索模板中满足以下条件的搜索模板:
得到所述至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
56.根据权利要求52所述的方法,其特征在于,所述基于目标图像块的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板,包括:
根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
57.根据权利要求56所述的方法,其特征在于,所述至少一个待滤波块的图像内容包括:所述目标图像块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差。
58.根据权利要求56或57所述的方法,其特征在于,所述根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板,包括:
根据所述至少一个待滤波块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差,以及所述至少部分候选搜索模板的倾斜度,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
59.根据权利要求52至54和56至58中任一项所述的方法,其特征在于,所述从所述多个候选搜索模板的至少部分候选搜索模板中,确定所述第一搜索模板,包括:
确定所述至少一个待滤波块中的各个待滤波块的优选搜索模板;
根据所述各个待滤波块的优选搜索模板,确定所述第一搜索模板。
60.根据权利要求59所述的方法,其特征在于,将所述第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
61.根据权利要求52至60中任一项所述的方法,其特征在于,所述从多个候选搜索模板中,确定目标搜索模板,包括:
从所述多个候选搜索模板中除所述至少部分搜索模板之外的搜索模板中,根据所述第一搜索模板,确定第二搜索模板。
62.根据权利要求51至61中任一项所述的方法,其特征在于,所述搜索模板包括多个子搜索模板;
不同的搜索模板包括的子搜索模板不同和/或子搜索模板的使用顺序不同。
63.根据权利要求62所述的方法,其特征在于,所述目标搜索模板包括L个子搜索模板;
所述利用所述目标搜索模板,在重建像素中,获取待滤波块的至少一个目标相似块,包括:
利用所述L个子搜索模板,进行L阶目标相似块的搜索,其中,第j阶目标相似块搜索得到的目标相似块用于进行第j+1阶目标相似块的搜索过程中的子搜索模板的固定,其中,j取值从1到L,L为大于或等于1的整数。
64.根据权利要求51至63中任一项所述的方法,其特征在于,所述目标搜索模板包括N个搜索模板;
所述利用所述目标搜索模板,在重建像素中,获取待滤波块的至少一个目标相似块,包括:
利用所述N个搜索模板,进行M阶目标相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板或目标搜索模板的固定,其中,i取值从1到M,M大于或等于N,N与M为大于或等于1的整数。
65.根据权利要求51至64中任一项所述的方法,其特征在于,所述利用所述至少一个目标相似块,对所述待滤波块进行滤波,包括:
基于所述至少一个目标相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
66.根据权利要求51至65中任一项所述的方法,其特征在于,所述利用所述至少一个目标相似块,对所述待滤波块进行滤波,包括:
基于所述至少一个目标相似块的像素值的加权平均结果对所述待滤波块进行滤波。
67.根据权利要求51至66中任一项所述的方法,其特征在于,所述方法用于编码端。
68.根据权利要求67所述的方法,其特征在于,所述方法还包括:
编码所述目标搜索模板的编号。
69.根据权利要求51至66中任一项所述的方法,其特征在于,所述方法用于解码端。
70.根据权利要求51所述的方法、其特征在于,所述方法用于解码端,所述从多个候选搜索模板中,确定目标搜索模板,包括:
从码流中获取所述目标搜索模板的编号;
根据所述目标搜索模板的编号,从所述多个候选搜索模板中,确定所述目标搜索模板。
71.一种用于视频处理的方法,其特征在于,包括:
从重建像素中,获取待滤波块的至少一个相似块,所述待滤波块包括至少一个重建像素,其中,用于表征所述待滤波块与所述相似块的相似度的参量的值超出第一阈值;
基于所述至少一个相似块,对所述待滤波块进行滤波。
72.根据权利要求71所述的方法,其特征在于,所述相似块的数量小于或等于第二阈值。
73.根据权利要求72所述的方法,其特征在于,所述从重建像素中,获取待滤波块的至少一个相似块,包括:
在搜索到的期望块的数量达到所述第二阈值时,将所述期望块作为所述相似块,并停止所述相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
74.根据权利要求72所述的方法,其特征在于,所述从重建像素中,获取待滤波块的至少一个相似块,包括:
在所述重建像素的所有像素中,搜索到的期望块的数量大于所述第二阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第二阈值的所述相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
75.根据权利要求71至74中任一项所述的方法,其特征在于,所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的大小,视频的比特深度,所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
76.根据权利要求75所述的方法,其特征在于,在表征所述相似度的参量是哈希值的差值时,
所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
77.根据权利要求75所述的方法,其特征在于,在表征所述相似度的参量是误差平方和SSD或绝对误差和SAD时,
所述第一阈值是基于以下参数中的至少一种确定的:所述待滤波块的大小,视频的比特深度。
78.根据权利要求75所述的方法,其特征在于,在表征所述相似度的参量是平均绝对差MAD,平均误差平方和MSD或结构相似性指标SSIM时,
所述第一阈值是基于视频的比特深度确定的。
79.根据权利要求71至78中任一项所述的方法,其特征在于,表征相似度的参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
80.根据权利要求71至79中任一项所述的方法,其特征在于,所述方法由编码端实现;所述方法还包括:
所述编码端确定所述第一阈值,以及将所述第一阈值进行编码。
81.根据权利要求71至79中任一项所述的方法,其特征在于,所述方法由解码端实现;所述方法还包括:
所述解码端获取码流中的所述第一阈值。
82.根据权利要求71至81中任一项所述的方法,其特征在于,所述基于所述至少一个相似块,对所述待滤波块进行滤波,包括:
基于所述至少一个相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
83.根据权利要求71至82中任一项所述的方法,其特征在于,所述基于所述至少一个相似块,对所述待滤波块进行滤波,包括:
基于所述至少一个相似块的像素值的加权平均结果对所述待滤波块进行滤波。
84.一种用于视频处理的设备,其特征在于,包括获取单元和滤波单元;其中,
所述获取单元用于:在至少一个像素集合中,获取待滤波块的至少一个第一相似块,其中,所述像素集合包括稀疏的重建像素,所述待滤波块包括至少一个重建像素;
所述滤波单元用于:基于所述至少一个第一相似块,对所述待滤波块进行滤波。
85.根据权利要求84所述的设备,其特征在于,所述至少一个像素集合包括第一像素集合;
所述设备还包括,确定单元用于:
基于所述待滤波块包括的重建像素的位置,确定所述第一像素集合;
所述获取单元进一步用于:从所述第一像素集合中,获取所述第一相似块。
86.根据权利要求85所述的设备,其特征在于,所述获取单元进一步用于:
按照从靠近所述待滤波块到远离所述待滤波块的搜索方式,从所述第一像素集合中,获取所述第一相似块。
87.根据权利要求85或86所述的设备,其特征在于,所述获取单元进一步用于:
在所述第一像素集合中搜索到的期望块的数量达到第二阈值时,将所述期望块作为所述第一相似块,并停止在所述第一像素集合中进行所述第一相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
88.根据权利要求85或86所述的设备,其特征在于,所述获取单元进一步用于:
在所述第一像素集合的所有像素中,搜索到的期望块的数量大于第二阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第二阈值的所述第一相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
89.根据权利要求85至88中任一项所述的设备,其特征在于,所述至少一个像素集合包括第二像素集合;
所述确定单元进一步用于:
根据前次得到的第一相似块包括的重建像素的位置,确定第二像素集合;
所述获取单元进一步用于:
从所述第二像素集合中,再次获取所述第一相似块。
90.根据权利要求89所述的设备,其特征在于,所述获取单元进一步用于:
基于从靠近所述前次得到的所述第一相似块到远离所述前次得到的所述第一相似块的搜索方式,从所述第二像素集合中,再次获取所述第一相似块。
91.根据权利要求89或90所述的设备,其特征在于,所述获取单元进一步用于:
在所述第二像素集合中搜索到的期望块的数量达到第三阈值时,将所述期望块确定为所述第一相似块,并停止在所述第二像素集合中进行所述第一相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
92.根据权利要求89或90所述的设备,其特征在于,所述获取单元进一步用于:
在所述第二像素集合的所有像素中,搜索到的期望块的数量大于第三阈值时,按照相似度从高到低的方式,从搜索到的所述期望块中,确定数量等于所述第三阈值的所述第一相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
93.根据权利要求89至92中任一项所述的设备,其特征在于,所述获取单元进一步用于:
所述第二像素集合中之前已经进行了相似块匹配操作的块,不再进行相似块的匹配操作;或者,
所述第二像素集合中不包括已经进行了相似块匹配操作的块。
94.根据权利要求84至93中任一项所述的设备,其特征在于,所述设备还包括确定单元,用于:
基于目标搜索模板,确定所述像素集合。
95.根据权利要求94所述的设备,其特征在于,所述目标搜索模板中的重建像素聚集为多个分散的图像块,每个图像块的大小大于或等于所述待滤波块的大小。
96.根据权利要求94或95所述的设备,其特征在于,所述目标搜索模板包括用于选择所述第一相似块的多个候选相似块,所述候选相似块的大小等于所述待滤波块的大小。
97.根据权利要求96所述的设备,其特征在于,所述目标搜索模板包括从中心到边缘的多组候选相似块,每组候选相似块块围成环形,所述环形相对所述目标搜索模板的中心对称,组内的候选相似块均匀排布。
98.根据权利要求97所述的设备,其特征在于,所述目标搜索模板包括四组候选相似块,所述四组候选相似块的远离所述目标搜索模板的中心的边缘像素,相对于所述目标搜索模板的中心,分别间隔1个像素,2个像素,4个像素和8个像素。
99.根据权利要求97或98所述的设备,其特征在于,所述四组候选相似块分别具有4个候选相似块,8个候选相似块,8个候选相似块和8个候选相似块,其中,具有4个候选相似块的一组候选相似块距离所述目标搜索模板的中心最近。
100.根据权利要求94至99中任一项所述的设备,其特征在于,所述至少一个像素集合中,不同的像素集合是基于不同的目标搜索模板确定的。
101.根据权利要求94至100中任一项所述的设备,其特征在于,所述确定单元进一步用于:
从多个候选搜索模板中,确定所述目标搜索模板。
102.根据权利要求101所述的设备,其特征在于,所述确定单元进一步用于:
基于目标图像块中的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;
其中,所述目标搜索模板包括所述第一搜索模板,所述第一搜索模板用于所述至少一个待滤波块获取目标相似块。
103.根据权利要求102所述的设备,其特征在于,所述确定单元进一步用于:
针对所述至少一个待滤波块,遍历所述至少部分候选搜索模板中的各个候选搜索模板;
根据遍历结果,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
104.根据权利要求103所述的设备,其特征在于,所述遍历结果包括:
针对所述至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对所述至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
105.根据权利要求104所述的设备,其特征在于,所述第一搜索模板是所述至少部分候选搜索模板中满足以下条件的搜索模板:
得到所述至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
106.根据权利要求102所述的设备,其特征在于,所述确定单元进一步用于:
根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
107.根据权利要求106所述的设备,其特征在于,所述至少一个待滤波块的图像内容包括:所述目标图像块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差。
108.根据权利要求106或107所述的设备,其特征在于,所述确定单元进一步用于:
根据所述至少一个待滤波块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差,以及所述至少部分候选搜索模板的倾斜度,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
109.根据权利要求102至104和106至108中任一项所述的设备,其特征在于,所述确定单元进一步用于:
确定所述至少一个待滤波块中的各个待滤波块的优选搜索模板;
根据所述各个待滤波块的优选搜索模板,确定所述第一搜索模板。
110.根据权利要求109所述的设备,其特征在于,将所述第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
111.根据权利要求101至110中任一项所述的设备,其特征在于,所述确定单元进一步用于:
从所述多个候选搜索模板中除所述至少部分搜索模板之外的搜索模板中,根据所述第一搜索模板,确定第二搜索模板。
112.根据权利要求101至111中任一项所述的设备,其特征在于,所述搜索模板包括多个子搜索模板;
不同的搜索模板包括的子搜索模板不同和/或子搜索模板的使用顺序不同。
113.根据权利要求101至112中任一项所述的设备,其特征在于,所述设备用于编码端。
114.根据权利要求113所述的设备,其特征在于,所述设备还包括编码单元,用于:
编码所述目标搜索模板的编号。
115.根据权利要求101至112中任一项所述的设备,其特征在于,所述设备用于解码端。
116.根据权利要求101所述的设备、其特征在于,所述设备用于解码端,所述确定单元进一步用于:
从码流中获取所述目标搜索模板的编号;
根据所述目标搜索模板的编号,从所述多个候选搜索模板中,确定所述目标搜索模板。
117.根据权利要求84至116中任一项所述的设备,其特征在于,所述设备还包括,确定单元用于:
基于每个所述第一相似块的位置,分别确定像素窗口;
所述获取单元进一步用于:
在所述像素窗口内,获取所述第二相似块;
所述滤波单元进一步用于:
基于所述第一相似块和所述第二相似块,进行滤波。
118.根据权利要求117所述的设备,其特征在于,所述获取单元进一步用于:
按照逐点扫描的方式,确定所述第二相似块。
119.根据权利要求117或118所述的设备,其特征在于,所述获取单元进一步用于:
所述像素窗口中已进行了相似块匹配操作的块,不再进行相似块的匹配操作;或者,
所述搜索窗口中不包括已经进行了相似块匹配操作的块。
120.根据权利要求117至119中任一项所述的设备,其特征在于,所述获取单元进一步用于:
在所述像素窗口中搜索到的期望块的数量达到第四阈值时,将搜索到的所述期望块确定为所述第二相似块,并停止在所述像素窗口中进行所述第二相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
121.根据权利要求117至119中任一项所述的设备,其特征在于,所述获取单元进一步用于:
在所述像素窗口中的所有像素中,搜索到的期望块的数量大于第四阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第四阈值的所述第二相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
122.根据权利要求84至121中任一项所述的设备,其特征在于,用于表征所述待滤波块与所述待滤波块的相似块的相似度的参量的值超出第一阈值。
123.根据权利要求122所述的设备,其特征在于,所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的大小,视频的比特深度,所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
124.根据权利要求123所述的设备,其特征在于,在表征所述相似度的参量是哈希值的差值时,
所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
125.根据权利要求123所述的设备,其特征在于,在表征所述相似度的参量是误差平方和SSD或绝对误差和SAD时,
所述第一阈值是基于以下参数中的至少一种确定的:所述待滤波块的大小,视频的比特深度。
126.根据权利要求123所述的设备,其特征在于,在表征所述相似度的参量是平均绝对差MAD,平均误差平方和MSD或结构相似性指标SSIM时,
所述第一阈值是基于视频的比特深度确定的。
127.根据权利要求122至126中任一项所述的设备,其特征在于,所述设备由编码端实现;所述设备还包括编码单元,用于:
确定所述第一阈值,以及将所述第一阈值进行编码。
128.根据权利要求122至126中任一项所述的设备,其特征在于,所述设备由解码端实现;所述获取单元进一步用于:
获取码流中的所述第一阈值。
129.根据权利要求84至128中任一项所述的设备,其特征在于,表征相似度的参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
130.根据权利要求84至129中任一项所述的设备,其特征在于,用于获取所述相似块的重建像素包括:
所述待滤波块所属的编码单元的上侧的重建像素、所述编码单元的左侧的重建像素和所述编码单元的重建像素;或,
所述编码单元的上侧的重建像素、所述编码单元的左侧的重建像素、所述编码单元的右侧的重建像素、所述编码单元的下侧的重建像素和所述编码单元的重建像素;或,
所述编码单元的重建像素。
131.根据权利要求130所述的设备,其特征在于,所述编码单元的上侧的重建像素的垂直方向的像素个数少于或等于所述编码单元的左侧的重建像素的水平方向的像素个数。
132.根据权利要求84至131中任一项所述的设备,其特征在于,所述滤波单元进一步用于:
基于所述至少一个第一相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
133.根据权利要求84至131中任一项所述的设备,其特征在于,所述滤波单元进一步用于:
基于所述至少一个第一相似块的像素值的加权平均结果对所述待滤波块进行滤波。
134.一种用于视频处理的设备,其特征在于,包括确定单元、获取单元和滤波单元;其中,
所述确定单元用于:从多个候选搜索模板中,确定目标搜索模板;
所述获取单元用于:利用所述目标搜索模板,在当前图像的重建像素中,获取待滤波块的至少一个目标相似块;
所述滤波单元用于:利用所述至少一个目标相似块,对所述待滤波块进行滤波。
135.根据权利要求134所述的设备,其特征在于,所述确定单元进一步用于:
基于目标图像块中的至少一个待滤波块,从所述多个候选搜索模板的至少部分候选搜索模板中,确定第一搜索模板;
其中,所述目标搜索模板包括所述第一搜索模板,所述第一搜索模板用于所述至少一个待滤波块获取目标相似块。
136.根据权利要求135所述的设备,其特征在于,所述确定单元进一步用于:
针对所述至少一个待滤波块,遍历所述至少部分候选搜索模板中的各个候选搜索模板;
根据遍历结果,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
137.根据权利要求136所述的设备,其特征在于,所述遍历结果包括:
针对所述至少一个待滤波块中全部滤波块,得到的相似块的相似度、相似块的总数量和获取相似块所需搜索的总块数中的至少一个;和/或,
针对所述至少一个待滤波块中各个滤波块,分别得到的相似块的相似度、相似块的数量和获取相似块所需搜索的块数中的至少一个。
138.根据权利要求137所述的设备,其特征在于,所述第一搜索模板是所述至少部分候选搜索模板中满足以下条件的搜索模板:
得到所述至少一个待滤波块中全部待滤波块的相似块的过程中,搜索的总块数最少或小于等于第一阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的总数量最多和/或大于或等于第二阈值;和/或,
针对所述至少一个待滤波块中全部待滤波块,得到的相似块的相似度的平均值最高和/或超出第三阈值。
139.根据权利要求135所述的设备,其特征在于,所述确定单元进一步用于:
根据所述至少一个待滤波块的图像内容,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
140.根据权利要求139所述的设备,其特征在于,所述至少一个待滤波块的图像内容包括:所述目标图像块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差。
141.根据权利要求139或140所述的设备,其特征在于,所述确定单元进一步用于:
根据所述至少一个待滤波块的图像边缘的梯度方向和/或所述目标图像块周围像素与所述目标图像块的像素残差,以及所述至少部分候选搜索模板的倾斜度,从所述至少部分候选搜索模板中,确定所述第一搜索模板。
142.根据权利要求135至137和139至141中任一项所述的设备,其特征在于,所述确定单元进一步用于:
确定所述至少一个待滤波块中的各个待滤波块的优选搜索模板;
根据所述各个待滤波块的优选搜索模板,确定所述第一搜索模板。
143.根据权利要求142所述的设备,其特征在于,将所述第一搜索模板作为优选搜索模板的待滤波块的数量最多和/或大于或等于第四阈值。
144.根据权利要求135至143中任一项所述的设备,其特征在于,所述确定单元进一步用于:
从所述多个候选搜索模板中除所述至少部分搜索模板之外的搜索模板中,根据所述第一搜索模板,确定第二搜索模板。
145.根据权利要求134至144中任一项所述的设备,其特征在于,所述搜索模板包括多个子搜索模板;
不同的搜索模板包括的子搜索模板不同和/或子搜索模板的使用顺序不同。
146.根据权利要求145所述的设备,其特征在于,所述目标搜索模板包括L个子搜索模板;
所述获取单元进一步用于:
利用所述L个子搜索模板,进行L阶目标相似块的搜索,其中,第j阶目标相似块搜索得到的目标相似块用于进行第j+1阶目标相似块的搜索过程中的子搜索模板的固定,其中,j取值从1到L,L为大于或等于1的整数。
147.根据权利要求134至146中任一项所述的设备,其特征在于,所述目标搜索模板包括N个搜索模板;
所述获取单元进一步用于:
利用所述N个搜索模板,进行M阶目标相似块的搜索,其中,第i阶目标相似块搜索得到的目标相似块用于进行第i+1阶目标相似块的搜索过程中的子搜索模板或目标搜索模板的固定,其中,i取值从1到M,M大于或等于N,N与M为大于或等于1的整数。
148.根据权利要求134至147中任一项所述的设备,其特征在于,所述滤波单元进一步用于:
基于所述至少一个目标相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
149.根据权利要求134至148中任一项所述的设备,其特征在于,所述滤波单元进一步用于:
基于所述至少一个目标相似块的像素值的加权平均结果对所述待滤波块进行滤波。
150.根据权利要求134至149中任一项所述的设备,其特征在于,所述设备用于编码端。
151.根据权利要求150所述的设备,其特征在于,所述设备还包括编码单元,用于:
编码所述目标搜索模板的编号,以传递给解码端。
152.根据权利要求134至149中任一项所述的设备,其特征在于,所述设备用于解码端。
153.根据权利要求134所述的设备、其特征在于,所述设备用于解码端,所述确定单元进一步用于:
从码流中获取所述目标搜索模板的编号;
根据所述目标搜索模板的编号,从所述多个候选搜索模板中,确定所述目标搜索模板。
154.一种用于视频处理的设备,其特征在于,获取单元和滤波单元;其中,
所述获取单元用于:从重建像素中,获取待滤波块的至少一个相似块,所述待滤波块包括至少一个重建像素,其中,用于表征所述待滤波块与所述相似块的相似度的参量的值超出第一阈值;
所述滤波单元用于:基于所述至少一个相似块,对所述待滤波块进行滤波。
155.根据权利要求154所述的设备,其特征在于,所述相似块的数量小于或等于第二阈值。
156.根据权利要求155所述的设备,其特征在于,所述获取单元进一步用于:
在搜索到的期望块的数量达到所述第二阈值时,将所述期望块作为所述相似块,并停止所述相似块的搜索,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
157.根据权利要求155所述的设备,其特征在于,所述获取单元进一步用于:
在所述重建像素的所有像素中,搜索到的期望块的数量大于所述第二阈值时,按照相似度从高到低的方式,从所述期望块中,确定数量等于所述第二阈值的所述相似块,其中,用于表征所述待滤波块与所述期望块的相似度的参量的值超出第一阈值。
158.根据权利要求154至157中任一项所述的设备,其特征在于,所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的大小,视频的比特深度,所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
159.根据权利要求158所述的设备,其特征在于,在表征所述相似度的参量是哈希值的差值时,
所述第一阈值是基于以下参数中的至少一种确定的:
所述待滤波块的像素和,所述待滤波块的像素的水平梯度,所述待滤波块的像素的垂直梯度。
160.根据权利要求158所述的设备,其特征在于,在表征所述相似度的参量是误差平方和SSD或绝对误差和SAD时,
所述第一阈值是基于以下参数中的至少一种确定的:所述待滤波块的大小,视频的比特深度。
161.根据权利要求158所述的设备,其特征在于,在表征所述相似度的参量是平均绝对差MAD,平均误差平方和MSD或结构相似性指标SSIM时,
所述第一阈值是基于视频的比特深度确定的。
162.根据权利要求154至161中任一项所述的设备,其特征在于,表征相似度的参量为:哈希值的差值、SSD、SAD、MAD、MSD或SSIM。
163.根据权利要求154至162中任一项所述的设备,其特征在于,所述设备由编码端实现;所述设备还包括编码单元,用于:
所述编码端确定所述第一阈值,以及将所述第一阈值进行编码。
164.根据权利要求154至162中任一项所述的设备,其特征在于,所述设备由解码端实现;所述获取单元进一步用于:
获取码流中的所述第一阈值。
165.根据权利要求154至164中任一项所述的设备,其特征在于,所述滤波单元进一步用于:
基于所述至少一个相似块,构建结构数组;
对所述结构数组进行分解;
根据分解的结构数组,获得重建结构数组。
166.根据权利要求154至164中任一项所述的设备,其特征在于,所述滤波单元进一步用于:
基于所述至少一个相似块的像素值的加权平均结果对所述待滤波块进行滤波。
CN201880012519.8A 2018-04-02 2018-06-01 用于视频处理的方法和设备 Expired - Fee Related CN110383837B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CNPCT/CN2018/081653 2018-04-02
PCT/CN2018/081653 WO2019191891A1 (zh) 2018-04-02 2018-04-02 用于视频处理的方法和设备
PCT/CN2018/089669 WO2019192071A1 (zh) 2018-04-02 2018-06-01 用于视频处理的方法和设备

Publications (2)

Publication Number Publication Date
CN110383837A true CN110383837A (zh) 2019-10-25
CN110383837B CN110383837B (zh) 2021-10-22

Family

ID=68099773

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201880012506.0A Pending CN110352599A (zh) 2018-04-02 2018-04-02 用于视频处理的方法和设备
CN201880012519.8A Expired - Fee Related CN110383837B (zh) 2018-04-02 2018-06-01 用于视频处理的方法和设备

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201880012506.0A Pending CN110352599A (zh) 2018-04-02 2018-04-02 用于视频处理的方法和设备

Country Status (2)

Country Link
CN (2) CN110352599A (zh)
WO (2) WO2019191891A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113382246A (zh) * 2021-04-20 2021-09-10 浙江大华技术股份有限公司 编码方法、装置、电子设备及计算机可读存储介质
WO2024119821A1 (zh) * 2022-12-09 2024-06-13 腾讯科技(深圳)有限公司 视频数据处理方法、装置、存储介质、设备和程序产品

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111914890B (zh) * 2020-06-23 2024-05-14 北京迈格威科技有限公司 图像之间的图像块匹配方法、图像配准方法和产品
CN112804528B (zh) * 2021-02-05 2022-10-28 北京字节跳动网络技术有限公司 屏幕内容处理方法、装置及设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020918A (zh) * 2013-01-09 2013-04-03 西安电子科技大学 基于形状自适应邻域均值的非局部均值去噪方法
CN105763881A (zh) * 2016-02-23 2016-07-13 北京大学 利用图像非局部结构相似性特征的视频编码图像滤波方法
CN105791877A (zh) * 2016-03-15 2016-07-20 北京大学 视频编解码中自适应环路滤波的方法
US20160284065A1 (en) * 2015-03-24 2016-09-29 Intel Corporation Non-local means image denoising with an adaptive directional spatial filter

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008505589A (ja) * 2004-06-30 2008-02-21 コメット テクノロジーズ エルエルシー ビデオデータの圧縮を含むデータ圧縮の方法
KR100896279B1 (ko) * 2005-04-15 2009-05-07 엘지전자 주식회사 영상 신호의 스케일러블 인코딩 및 디코딩 방법
CN101783957B (zh) * 2010-03-12 2012-04-18 清华大学 一种视频预测编码方法和装置
CN101833667A (zh) * 2010-04-21 2010-09-15 中国科学院半导体研究所 一种基于分组稀疏表示的模式识别分类方法
CN101895297B (zh) * 2010-07-30 2012-12-26 哈尔滨工业大学 一种面向压缩感知的块稀疏信号重构方法
CN102164282B (zh) * 2011-04-29 2013-12-11 中南民族大学 一种用于图像编码的基于系数随机置换的压缩感知方法及系统
CN103473740B (zh) * 2013-08-31 2016-05-25 西安电子科技大学 基于稀疏表示和低秩双重约束的非局部去噪方法
CN105096351B (zh) * 2014-05-19 2018-04-17 北京大学 图像去块效应处理方法和装置
CN106572832A (zh) * 2014-07-30 2017-04-19 株式会社日立制作所 数据处理方法、数据处理装置以及x射线ct装置
CN106327422B (zh) * 2015-07-01 2019-05-07 北京大学 一种图像风格化重建方法及装置
CN105513026B (zh) * 2015-12-17 2019-05-21 浙江大学 一种基于图像非局部相似的压缩感知重构方法
CN107292852B (zh) * 2017-07-19 2020-05-05 南京邮电大学 一种基于低秩理论的图像去噪算法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020918A (zh) * 2013-01-09 2013-04-03 西安电子科技大学 基于形状自适应邻域均值的非局部均值去噪方法
US20160284065A1 (en) * 2015-03-24 2016-09-29 Intel Corporation Non-local means image denoising with an adaptive directional spatial filter
CN105763881A (zh) * 2016-02-23 2016-07-13 北京大学 利用图像非局部结构相似性特征的视频编码图像滤波方法
CN105791877A (zh) * 2016-03-15 2016-07-20 北京大学 视频编解码中自适应环路滤波的方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113382246A (zh) * 2021-04-20 2021-09-10 浙江大华技术股份有限公司 编码方法、装置、电子设备及计算机可读存储介质
CN113382246B (zh) * 2021-04-20 2024-03-01 浙江大华技术股份有限公司 编码方法、装置、电子设备及计算机可读存储介质
WO2024119821A1 (zh) * 2022-12-09 2024-06-13 腾讯科技(深圳)有限公司 视频数据处理方法、装置、存储介质、设备和程序产品

Also Published As

Publication number Publication date
CN110383837B (zh) 2021-10-22
CN110352599A (zh) 2019-10-18
WO2019192071A1 (zh) 2019-10-10
WO2019191891A1 (zh) 2019-10-10

Similar Documents

Publication Publication Date Title
JP7110370B2 (ja) ビデオ符号化のための機械学習モデルの量子化パラメータに適用される非線形関数の使用
CN110383837A (zh) 用于视频处理的方法和设备
CN103081474B (zh) 用于对运动图片进行解码的装置
CN103797800B (zh) 推导参考模式值以及编码和解码表示预测模式的信息
CN104885467B (zh) 用于下一代视频编码的内容自适应参数变换
CN105721876B (zh) 图像解码方法
CN108605143A (zh) 视频编码中的非局部自适应环内滤波器的方法和装置
CN105430400B (zh) 运动图像解码装置以及运动图像解码方法
CN105981389B (zh) 图像编码装置、图像解码装置、编码流变换装置、图像编码方法以及图像解码方法
CN107925763A (zh) 等级分割中的块级别变换选择和隐式信令的编码变换方法和设备
US20150016521A1 (en) Video encoder for images
CN110073663A (zh) 使用级别图的变换系数代码化
CN104641643A (zh) 在分层层级中信号编码、解码和重构期间残差数据的分解
CN104704826B (zh) 两步量化和编码方法和装置
CN107046645A (zh) 图像编解码方法及装置
CN108028945A (zh) 通过使用单例系数更新执行变换的设备和方法
CN109842799A (zh) 颜色分量的帧内预测方法及装置
CN107113438A (zh) 帧内编码模式
Egilmez et al. GBST: Separable transforms based on line graphs for predictive video coding
CN107667532A (zh) 用于非基带信号代码化的变换选择
CN109257605A (zh) 图像处理方法、设备及系统
WO2017043941A1 (ko) 예측 각도에 따른 그래프 기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
CN105794208B (zh) 编码解码图像方法、编码解码图像设备及相应计算机可读介质
CN107113426A (zh) 使用广义图形参数执行基于图形的变换的方法和设备
CN108200439A (zh) 提高数字信号变换性能的方法及数字信号变换方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20211022

CF01 Termination of patent right due to non-payment of annual fee