CN107454284B - 一种视频去噪方法及计算设备 - Google Patents

Abstract

本发明公开了一种视频去噪方法，该方法包括步骤：获取视频序列中待去噪帧的至少一个相邻帧；以及针对待去噪帧的每个像素点进行时间域去噪，该时间域去噪包括：对于待去噪帧的每个相邻帧，获取待去噪帧的像素点在该相邻帧上的匹配像素点，并计算匹配像素点的权重；基于获取的待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算待去噪帧的像素点及其匹配像素点的加权平均数，以得到待去噪帧的像素点进行时间域去噪后的像素值。本发明还公开了相应的计算设备和计算机存储介质。

Description

一种视频去噪方法及计算设备

技术领域

本发明涉及图像处理技术领域，尤其是一种视频去噪方法及计算设备。

背景技术

在图片或视频采集的应用场景中，所获取的图像不可避免会有信号噪声。例如，在夜晚等场景中所拍摄的图片或视频通常有比较明显的噪点。图像去噪是图像处理(单幅图片处理或视频帧序列的处理)中十分重要的环节。而去噪主要面对的问题是如何在有效去除时间域和空间域噪声的同时又能够有效保留图像的边界纹理细节不受到破坏。

目前较为主流的处理方式是在空间域进行双边滤波，在时间域进行均值滤波，但是这一方法的缺点是不能保证视频相邻帧滤波强度的一致性，因此在视频播放时会由于前后两帧滤波的强度不一致而出现闪动。其中，即使采用均值滤波也并不能很好的解决时间域的闪烁噪声，若视频前后两帧有运动，这种时间域的均值滤波还会导致很强的重影。

特别地，对于高噪图像，虽然选择较大平滑可以较好去噪，但会导致图像模糊，其边缘也相对模糊。如果选择较小平滑，则很难有效去除图像中的噪声。视频帧序列中的图像就是如此，由于视频在拍摄中存在很多诸如暗光条件、长时间镜头污染、错误的镜头曝光等等之类的复杂情况，也就导致视频中的噪声程度往往都很高。

因此，需要一种更优化的视频去噪方案。

发明内容

为此，本发明提供了一种视频去噪方法及计算设备，以力图解决或者至少缓解上面存在的至少一个问题。

根据本发明的一个方面，提供了一种视频去噪方法，该方法包括步骤：获取视频序列中待去噪帧的至少一个相邻帧；针对待去噪帧的每个像素点进行时间域去噪，该时间域去噪包括：对于待去噪帧的每个相邻帧，获取待去噪帧的像素点在该相邻帧上的匹配像素点，并计算匹配像素点的权重；基于获取的待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算待去噪帧的像素点及其匹配像素点的加权平均数，以得到待去噪帧的像素点进行时间域去噪后的像素值；其中计算匹配像素点的权重包括：在待去噪帧中构建以待去噪帧的像素点为中心的子块，在相邻帧中构建以匹配像素点为中心的匹配块，匹配块与子块大小相同；根据所构建的子块和匹配块得到残差块；以及基于待去噪帧的噪声标准差，将残差块映射为加权块，并根据加权块计算匹配像素点的权重。

可选地，在根据本发明的视频去噪方法中，获取待去噪帧的像素点在该相邻帧上的匹配像素点的步骤包括：获取待去噪帧和相邻帧的图像金字塔，图像金字塔包括以原始图像为底层、分辨率随层级升高而降低的多层图像；对于待去噪帧和相邻帧的图像金字塔，自上而下地逐层计算光流，直至到达底层为止；根据底层的光流结果，获取相邻帧中与待去噪帧的像素点相匹配的匹配像素点。

可选地，在根据本发明的视频去噪方法中，获取待去噪帧和相邻帧的图像金字塔的步骤包括：以原始图像为图像金字塔的第0层，并通过对原始图像以k因数连续降采样来依次得到图像金字塔的第1，2，…，Lm层；其中第L层图像的分辨率为

0≤L≤Lm；第0层为底层，第Lm层为顶层，k＝2。

可选地，在根据本发明的视频去噪方法中，降采样包括均值降采样，均值降采样按照以下步骤来进行降采样：将原始图像划分为若干个相同大小的降采样块；以该降采样块中所有像素点的平均值作为该降采样块的采样值；由若干个降采样块的采样值构成降采样后的图像。

可选地，在根据本发明的视频去噪方法中，对于待去噪帧和相邻帧的图像金字塔，自上而下地逐层计算光流的步骤包括：计算顶层图像的光流；对于顶层以下的每层图像，均基于其上一层图像的光流来计算该层图像的光流。

可选地，在根据本发明的视频去噪方法中，对于顶层以下的每层图像，均基于其上一层图像的光流来计算该层图像的光流的步骤包括：对于顶层以下的每层图像，以其上一层计算得到的光流作为该层的初始光流；计算该层的光流增量；根据该层的初始光流和光流增量得到该层的光流。

可选地，在根据本发明的视频去噪方法中，顶层以下第L层的光流按照以下公式计算：

式中

为第L层的光流，

为第L层的初始光流，

为第L层的光流增量；顶层以下第L-1层的初始光流按照以下公式计算：

式中

为第L-1层的初始光流；以及底层的光流按照以下公式计算：

其中

为底层的光流，

为底层的初始光流，

为底层的光流增量，

为顶层的光流。

可选地，在根据本发明的视频去噪方法中，顶层以下第L层的光流增量满足以下方程：

其中，d_x ^L、

为待去噪帧的第L层图像中像素点u(u_x,u_y)的光流增量

在x、y方向上的分量，w为以像素点u(u_x,u_y)为中心构建的搜索窗口(2wu_x+1,2wu_y+1)的半径，I^L(x,y)为待去噪帧的第L层图像，J^L(x,y)为相邻帧的第L层图像。

可选地，在根据本发明的视频去噪方法中，待去噪帧的顶层图像中像素点p(x,y)的像素值为I(x,y,t)，其光流满足以下方程：

式中以像素点p(x,y)为中心的邻域窗口包括像素点p₁、p₂、…、p_n，I_x(p_n)、I_y(p_n)、I_t(p_n)分别为I(x,y,t)在像素点p_n处对x、y、t的偏导，u、v为像素点p(x,y)的光流

在x、y方向上的分量。

可选地，在根据本发明的视频去噪方法中，在基于待去噪帧的噪声标准差，将残差块映射为加权块之前，还包括步骤：计算待去噪帧的噪声标准差，包括：以第一预定大小的窗口遍历所述待去噪帧，并计算每一个窗口的方差值；对于其中方差值为前第一预定比例的每个窗口，以该窗口的中心为中心，构建第二预定大小的标准块，并计算该标准块的方差值；对于其中方差值为前第二预定比例的多个标准块，计算其方差值的均值，以得到待去噪帧的噪声标准差。

可选地，在根据本发明的视频去噪方法中，基于待去噪帧的噪声标准差，将残差块映射为加权块的步骤包括：对残差块的绝对值进行均值滤波；对于滤波后的残差块中的每个像素点，计算其三通道的像素均值；以及基于该像素均值和噪声标准差的比较，确定加权块中与该像素点对应位置的像素点的像素值。

可选地，在根据本发明的视频去噪方法中，加权块中每个像素点的像素值按照以下公式确定：

其中Motion_neibor为加权块中像素点的像素值，Gray_neibor为滤波后的残差块中对应位置像素点的三通道像素均值，NoiseVar为待去噪帧的噪声标准差。

可选地，在根据本发明的视频去噪方法中，根据加权块计算匹配像素点的权重的步骤包括：以加权块中心的像素点为中心，构建均值块；计算该均值块的均值，以得到匹配像素点的权重。

可选地，在根据本发明的视频去噪方法中，基于获取的待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算待去噪帧的像素点及其匹配像素点的加权平均数的步骤包括：

按照以下公式计算得到待去噪帧的像素点进行时间域去噪后的像素值：

式中pTf_i为进行时间域去噪后的像素值，p_i为待去噪帧的像素点的像素值，p_neibor为匹配像素点的像素值，Mean_neibor为匹配像素点的权重，

为所有匹配像素点的像素值与其权重的乘积之和，

为所有匹配像素点的权重之和。

可选地，在根据本发明的视频去噪方法中，在得到待去噪帧的像素点进行时间域去噪后的像素值之后，方法还包括步骤：对待去噪帧的像素点进行空间域去噪。

可选地，在根据本发明的视频去噪方法中，子块和匹配块的大小均为5×5。

可选地，在根据本发明的视频去噪方法中，均值块大小为3×3。

可选地，在根据本发明的视频去噪方法中，待去噪帧的相邻帧为该待去噪帧前的相邻帧、和/或该待去噪帧后的相邻帧。

根据本发明的另一个发明，提供了一种计算设备，包括：一个或多个处理器；存储器；以及一个或多个程序，其中一个或多个程序存储在所述存储器中并被配置为由一个或多个处理器执行，一个或多个程序包括用于执行根据本发明的视频去噪方法中的任一方法的指令。

根据本发明的还有一个发明，提供了一种存储一个或多个程序的计算机可读存储介质，一个或多个程序包括指令，指令当由计算设备执行时，使得计算设备执行根据本发明的视频去噪方法中的任一方法。

根据本发明的视频去噪方案，通过图像金字塔来逐层计算光流，而后基于光流来确定匹配像素点，因而实现了有效的运动补偿，避免了物体运动比较大时按照传统方法计算出的光流对运动估计不准确从而导致匹配误差的问题。根据待去噪帧的像素点、相邻帧中的匹配像素点及其权重来进行时间域去噪的方式，去除了时间域上的闪烁噪声。同时，在进行时间域的滤波时由于在确定匹配像素点时进行了有效的运动补偿，因而也有效地解决了前后帧去噪力度不一致所带来的视频闪动问题

此外，将经由子块和匹配块做差得到的残差块映射为加权块，可以将运动和噪声进行有效的分离，进一步解决了时间域的闪烁噪声，并且在这种分离情况下，对于运动程度比较大的像素点在时间域可以进行较少的平滑、甚至不进行平滑，避免图像模糊，而对于运动程度比较小、甚至静止的像素，可以在时间域进行更多的平滑，避免噪声去除不够的问题。

附图说明

为了实现上述以及相关目的，本文结合下面的描述和附图来描述某些说明性方面，这些方面指示了可以实践本文所公开的原理的各种方式，并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述，本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开，相同的附图标记通常指代相同的部件或元素。

图1示出了根据本发明一个示例性实施方式的计算设备100的结构框图；

图2示出了根据本发明一个示例性实施方式的视频去噪方法200的流程图；

图3示出了根据本发明一个示例性实施方式的图像金字塔的示意图；

图4示出了根据本发明一个示例性实施方式的残差块与加权块的映射关系的示意图；以及

图5A示出了根据本发明一个示例性实施方式的待去噪帧的示意图；

图5B和图5C分别示出了图5A所示的待去噪帧前2个相邻帧的示意图；

图5D和图5E分别示出了图5A所示的待去噪帧后2个相邻帧的示意图；

图6示出了图5A所示的待去噪帧经过视频去噪方法200的去噪结果的示意图；

图7示出了图5A所示的待去噪帧经过传统视频去噪方法的去噪结果的示意图；以及

图8示出了图5A所示的待去噪帧仅经过传统视频去噪方法中空间域去噪的去噪结果的示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1示出了根据本发明一个示例性实施例的计算设备100的结构框图。该计算设备100可以实现为服务器，例如文件服务器、数据库服务器、应用程序服务器和WEB服务器等，也可以实现为包括桌面计算机和笔记本计算机配置的个人计算机。此外，计算设备100还可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。

在基本的配置102中，计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。

取决于期望的配置，处理器104可以是任何类型的处理，包括但不限于：微处理器((μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用，或者在一些实现中，存储器控制器218可以是处理器104的一个内部部分。

取决于期望的配置，系统存储器106可以是任意类型的存储器，包括但不限于：易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个程序122以及数据124。数据124可以包括可用于执行指令的程序数据128。在一些实施方式中，程序122可以被配置为在操作系统120上由一个或者多个处理器104利用程序数据128执行指令。其中，该程序122包括用于执行根据本发明的视频去噪方法200中任一方法的指令。

计算设备100还可以包括有助于从各种接口设备(例如，输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个A/V端口152与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156，它们可以被配置为有助于经由一个或者多个I/O端口158和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160，其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。

网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。

图2示出了根据本发明一个示例性实施方式的视频去噪方法200的流程图。该视频去噪方法200始于步骤S210。

在步骤S210中，获取视频帧序列中待去噪帧的至少一个相邻帧。待去噪帧的相邻帧可以为该待去噪帧前的相邻帧、和/或该待去噪帧后的相邻帧，例如可以选择待去噪帧Img_i的前两个相邻帧Img_i-2和Img_i-1、以及后两个相邻帧Img_i+1和Img_i+2。

而后对于该待去噪帧的每个像素点均进行时间域去噪，以形成待去噪帧进行时间域去噪后的图像。具体地，可以通过加权平均的方法来进行时间域去噪，也就是说，可以对于该待去噪帧的每个像素点，获取其每个相邻帧上与该像素点相匹配的匹配像素点和该匹配像素点的权重。

因此，如图2所示，对于待去噪帧的每个像素点，可以执行以下步骤。

对于该待去噪帧的每个相邻帧，在步骤S220中，获取该相邻帧中与待去噪帧的像素点相匹配的匹配像素点。具体地，可以基于光流来获取相邻帧中待去噪帧的像素点的匹配像素点。

首先，获取待去噪帧和相邻帧的图像金字塔。这里，图像金字塔包括以原始图像为底层、分辨率随层级升高而降低的多层图像。这多层图像均源自原始图像，并以原始图像为图像金字塔的第0层，再通过对原始图像以k因数连续降采样来依次得到图像金字塔的第1，2，…，Lm层。通常，k＝2。

图像金字塔中，第L层图像的分辨率为

0≤L≤Lm。第0层为底层，即原始图像，其分辨率最高，为w⁰×h⁰。第Lm层为顶层，分辨率最低，为

通常，2≤Lm≤4。

根据本发明的一个实施方式，降采样的方式可以包括均值降采样，均值降采样按照以下步骤来进行降采样：将原始图像划分为若干个相同大小的降采样块，以该降采样块中所有像素点的平均值作为该降采样块的采样值；由所划分的若干个降采样块的采样值构成降采样后的图像。采用均值降采样可以较好地避免得到的图像流失信息和不自然。

待去噪帧的图像金字塔和相邻帧的图像金字塔以同样的降采样方式得到，具有相同的层数，并且每一层具有相同的分辨率和尺寸。图3示出了根据本发明一个示例性实施方式的图像金字塔的示意图。其中，待去噪帧的图像金字塔为I^L，具有3层，底层I⁰为该金字塔的原始图像，也就是该待去噪帧；其相邻帧的图像金字塔为J^L，具有3层，底层J⁰为该金字塔的原始图像，也就是该相邻帧。

获取图像金字塔之后，可以对于待去噪帧和相邻帧的图像金字塔，自上而下地逐层计算光流，直至到达底层为止。

光流是空间运动物体在成像平面上的像素运动的瞬时速度，其计算方法通常可以包括基于区域或者基于特征的计算方法、基于频域的计算方法、以及基于梯度的计算方法。

下面介绍本发明自上而下逐层计算光流的过程。

首先可以计算顶层图像的光流

假设待去噪帧的顶层图像中像素点p(x,y)的像素值为I(x,y,t)，那么基于小速度、亮度不变以及区域一致性假设，其光流

可以满足以下第一方程：

即：

使

最小，即可解得

式中以像素点p(x,y)为中心的邻域窗口包括像素点p₁、p₂、…、p_n，I_x(p_n)、I_y(p_n)、I_t(p_n)分别为I(x,y,t)在像素点p_n处对x、y、t的偏导，u、v为像素点p(x,y)的光流

在x、y方向上的分量。

这种基于小速度、亮度不变以及区域一致性假设的传统光流法，通常只适用于物体运动速度较小的情况，例如图像金字塔的顶层图像，此时原始图像的大运动被缩减为满足光流约束条件的小运动，可以应用传统光流法。

但传统光流法并不能很好地处理物体运动速度很大的情况，因此接下来对于顶层以下的每层图像，均需要基于其上一层图像的光流来计算该层图像的光流。

具体地，对于顶层以下的每层图像，可以以其上一层计算得到的光流作为该层的初始光流，再计算该层的光流增量，根据该层的初始光流和光流增量得到该层的光流。

根据本发明的一个实施方式，顶层以下第L层的光流结果可以按照以下公式计算：

式中

为第L层的光流，

为第L层的初始光流，

为第L层的光流增量。

顶层以下第L-1层的初始光流可以按照以下公式计算：

式中

为第L-1层的初始光流。

依次递推，最后底层的光流可以按照以下公式计算：

式中

为底层的光流，

为底层的初始光流，

为底层的光流增量，

为顶层的光流。

其中，顶层以下第L层的光流增量

则需要满足以下第二方程：

其中，d_x ^L、

为待去噪帧的第L层图像中像素点u(u_x,u_y)的光流增量

在x、y方向上的分量，w为以像素点u(u_x,u_y)为中心构建的搜索窗口(2wu_x+1,2wu_y+1)的半径，I^L(x,y)为待去噪帧的第L层图像，J^L(x,y)为相邻帧的第L层图像。

在第二方程中，对光流增量

求偏导并令其为0。其中，J^L(x+d_x,y+d_y)在

处进行一阶泰勒展开近似，灰度时间微分I_t＝I^L(x,y)-J^L(x,y)，定义空间梯度矩阵：

并设矢量

为：

则解得最优的光流增量

为：

当然，这只是理论上的最优估计，实际的求解过程中需要迭代进行。通常可以采用牛顿逼近法来进行迭代。

计算得到每一层的光流增量后，即可以得到底层原始图像的光流

也就是待去噪帧至相邻帧的光流。

综上，通过对原始图像进行降采样，缩小图像尺寸，将大运动缩减为满足光流约束条件的小运动，再从图像金字塔的顶层至底层，逐层迭代求解光流直至得到底层的精确光流，实现了有效的运动补偿，避免了物体运动比较大时按照传统方法计算出的光流对运动估计不准确从而导致匹配误差的问题。

之后，就可以根据底层的光流，来获取相邻帧中与待去噪帧的像素点相匹配的匹配像素点。对于待去噪帧中任意一个像素点p_i＝(x_i,y_i)，该像素点的光流

在x、y方向上的分量为u_i、v_i，那么其在相邻帧中的匹配像素点p_neibor＝(x_neibor＝x_i+u_i,y_neibor＝y_i+v_i)。

确定待去噪帧的像素点在相邻帧中的匹配像素点之后，在步骤S230中，在待去噪帧中构建以上述待去噪帧的像素点为中心的子块，在相邻帧中构建以待去噪帧的像素点的匹配像素点为中心的匹配块。匹配块与子块大小相同，通常为5×5。

而后在步骤S240中，根据所构建的子块和匹配块得到残差块。具体地，定义残差块为：Res_neibor＝Patch_i-Patch_neibor，式中Res_neibor为残差块，Patch_i为子块，Patch_neibor为匹配块，也就是说，残差块中每一个像素点的像素值均为子块中对应像素点的像素值减去匹配块中对应像素点的像素值。

而后在步骤S250中，基于待去噪帧的噪声标准差，将该残差块映射为加权块，并根据该加权块计算匹配像素点的权重。

根据本发明的一个实施方式，在映射之前，可以先计算待去噪帧的噪声标准差。具体地，可以以第一预定大小的窗口遍历待去噪帧，并计算每一个窗口的方差值。对于其中方差值为前第一预定比例的每个窗口，以该窗口的中心为中心，构建第二预定大小的标准块，并计算该标准块的方差值。最后，对于其中方差值为前第二预定比例的多个标准块，计算所有方差值的均值，以得到待去噪帧的噪声标准差。其中，第一预定大小通常为9×9，第二预定大小通常为15×15，第一预定比例通常为1％，第二预定比例通常为5％。

得到噪声标准差之后，将残差块映射为加权块的过程如下：

先对残差块的绝对值进行均值滤波，通常是3×3均值滤波。而后对于滤波后的残差块中的每个像素点，计算其三通道(R、G、B三通道)的像素均值：

基于该像素均值和噪声标准差的比较，确定加权块中与像素点对应位置的像素点的像素值。

图4示出了根据本发明一个示例性实施方式的残差块到加权块的映射关系的示意图。其中，当滤波后的残差块中像素点的像素均值大于6倍噪声标准差时，将加权块中对应像素点的像素值映射为0。当滤波后的残差块中像素点的像素均值小于3倍噪声标准差时，将加权块中对应像素点的像素值映射为1，否则映射到0至1之间。具体公式如下：

其中Motion_neibor为加权块中像素点的像素值，Gray_neibor为滤波后残差块中对应位置像素点的三通道像素均值，NoiseVar为待去噪帧的噪声标准差。

获得待去噪帧中像素点的加权块之后，可以根据加权块获取匹配像素点的权重。具体地，可以以加权块中心的像素点为中心，构建均值块并计算该均值块的均值，该均值块大小通常为3×3。这个均值即为匹配像素点的权重。

这样，根据上述步骤，可以得到待去噪帧的像素点在每个相邻帧中的匹配像素点及匹配像素点的权重。

最后在步骤S260中，基于所获取的待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算待去噪帧的像素点及其匹配像素点的加权平均数，以得到待去噪帧的像素点进行时间域去噪后的像素值。

例如，默认将待去噪帧中的像素点设为1，可以按照以下公式计算得到像素点进行时间域去噪后的像素值：

式中pTf_i为进行时间域去噪后的像素值，p_i为待去噪帧的像素点的像素值，p_neibor为匹配像素点的像素值，Mean_neibor为匹配像素点的权重，

为所有匹配像素点的像素值与其权重的乘积之和，

为所有匹配像素点的权重之和。

假设选择待去噪帧Img_i的前两个相邻帧Img_i-2和Img_i-1、以及后两个相邻帧Img_i+1和Img_i+2来进行时间域去噪。那么可以按照以下公式计算得到像素点进行时间域去噪后的像素值：

式中p_neibor＝i+2、p_neibor＝i+1、p_neibor＝i-1、p_neibor＝i-2分别为在后两个相邻帧Img_i+2和Img_i+1、以及前两个相邻帧Img_i-1和Img_i-2上匹配像素点的像素值，Mean_neibor＝i+2、Mean_neibor＝i+1、Mean_neibor＝i-1、Mean_neibor＝i-2分别为相应的匹配像素点的权重。

这样，通过进行上述时间域去噪，去除了时间域上的闪烁噪声。其中，残差块到加权块的映射过程更有效地将运动和噪声进行了分离，也进一步地解决了时间域的闪烁噪声。在这种运动与噪声分离的情况下，对于运动程度比较大的像素点在时间域可以进行较少的平滑、甚至不进行平滑，避免图像模糊，而对于运动程度比较小、甚至静止的像素，可以在时间域进行更多的平滑，避免噪声去除不够的问题，因而可以更灵活的去噪。

而在进行时间域的去噪的过程中，由于在确定匹配像素点时已进行了有效的运动补偿，因此有效地解决了因为前后帧去噪力度不一致而导致视频闪动问题。

另外，根据本发明的还有一个实施方式，在进行时间域去噪之后，还可以进一步进行空间域去噪(例如双边滤波)，以达到更好效果。

图5A-图5E分别示出了根据本发明一个示例性实施方式的待去噪帧及其前2个相邻帧、后2个相邻帧的示意图。其中，图5A为待去噪帧第i帧，图5B和图5C为在前的相邻帧第i-2帧和第i-1帧，图5D和图5E为在后的相邻帧第i+1帧和第i+2帧。

图6-图8则分别示出了根据本发明一个示例性实施方式的待去噪帧的去噪结果、经过传统视频去噪方法(先空间域去噪再时间域去噪)的待去噪帧的去噪结果、以及仅经过视频去噪方法中空间域去噪(未经过时间域去噪)的待去噪帧的去噪结果的示意图。其中，空间域去噪指双边滤波，时间域去噪指简单的均值滤波。

显然地，相比于根据本发明的视频去噪方法200的待去噪帧的去噪结果图6，经过传统视频去噪方法进行去噪之后，待去噪帧的图像变得十分模糊，而仅经过视频去噪方法中空间域去噪之后的去噪结果则无法去除时间域的闪烁噪声，且前后帧会闪动。

应当理解，这里描述的各种技术可结合硬件或软件，或者它们的组合一起实现。从而，本发明的方法和设备，或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介，例如软盘、CD-ROM、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式，其中当程序被载入诸如计算机之类的机器，并被该机器执行时，该机器变成实践本发明的设备。

在程序代码在可编程计算机上执行的情况下，计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件)，至少一个输入装置，和至少一个输出装置。其中，存储器被配置用于存储程序代码；处理器被配置用于根据该存储器中存储的该程序代码中的指令，执行本发明的各种方法。

以示例而非限制的方式，计算机可读介质包括计算机存储介质和通信介质。计算机可读介质包括计算机存储介质和通信介质。计算机存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据，并且包括任何信息传递介质。以上的任一种的组合也包括在计算机可读介质的范围之内。

应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本发明还可以包括：A9、如A5所述的方法，其中，待去噪帧的顶层图像中像素点p(x,y)的像素值为I(x,y,t)，其光流满足以下方程：

式中以像素点p(x,y)为中心的邻域窗口包括像素点p₁、p₂、…、p_n，I_x(p_n)、I_y(p_n)、I_t(p_n)分别为I(x,y,t)在像素点p_n处对x、y、t的偏导，u、v为像素点p(x,y)的光流

在x、y方向上的分量。A10、如A1所述的方法，其中，在基于所述待去噪帧的噪声标准差，将所述残差块映射为加权块之前，还包括步骤：计算所述待去噪帧的噪声标准差，包括：以第一预定大小的窗口遍历所述待去噪帧，并计算每一个窗口的方差值；对于其中方差值为前第一预定比例的每个窗口，以该窗口的中心为中心，构建第二预定大小的标准块，并计算该标准块的方差值；对于其中方差值为前第二预定比例的多个标准块，计算其方差值的均值，以得到待去噪帧的噪声标准差。A11、如A1或A10所述的方法，其中，所述基于待去噪帧的噪声标准差，将残差块映射为加权块的步骤包括：对残差块的绝对值进行均值滤波；对于滤波后的残差块中的每个像素点，计算其三通道的像素均值；以及基于该像素均值和噪声标准差的比较，确定加权块中与所述像素点对应位置的像素点的像素值。A12、如A11所述的方法，其中，加权块中每个像素点的像素值按照以下公式确定：

其中Motion_neibor为加权块中像素点的像素值，Gray_neibor为滤波后的残差块中对应位置像素点的三通道像素均值，NoiseVar为待去噪帧的噪声标准差。A13、如A1所述的方法，其中，所述根据加权块计算匹配像素点的权重的步骤包括：以加权块中心的像素点为中心，构建均值块；计算该均值块的均值，以得到所述匹配像素点的权重。A14、如A1所述的方法，其中，所述基于获取的待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算待去噪帧的像素点及其匹配像素点的加权平均数的步骤包括：按照以下公式计算得到所述待去噪帧的像素点进行时间域去噪后的像素值：

式中pTf_i为进行时间域去噪后的像素值，p_i为所述待去噪帧的像素点的像素值，p_neibor为所述匹配像素点的像素值，Mean_neibor为所述匹配像素点的权重，

为所有匹配像素点的像素值与其权重的乘积之和，

为所有匹配像素点的权重之和。A15、如A1所述的方法，其中，在得到待去噪帧的像素点进行时间域去噪后的像素值之后，所述方法还包括步骤：对所述待去噪帧的像素点进行空间域去噪。A16、如A1所述的方法，其中，所述子块和匹配块的大小均为5×5。17、如A13所述的方法，其中，所述均值块大小为3×3。A18、如A1所述的方法，其中，所述待去噪帧的相邻帧为该待去噪帧前的相邻帧、和/或该待去噪帧后的相邻帧。

本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该发明的目的的元素所执行的功能。

如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。

尽管根据有限数量的实施例描述了本发明，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本发明的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本发明的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围，对本发明所做的公开是说明性的，而非限制性的，本发明的范围由所附权利要求书限定。

Claims (17)

1.一种视频去噪方法，该方法包括步骤：

获取视频序列中待去噪帧的至少一个相邻帧；

针对所述待去噪帧的每个像素点进行时间域去噪，所述时间域去噪包括：对于所述待去噪帧的每个相邻帧，

获取所述待去噪帧和所述相邻帧的图像金字塔；

对于待去噪帧和相邻帧的图像金字塔，自上而下地逐层计算光流，直至到达底层为止；

根据底层的光流结果，获取所述相邻帧中与所述待去噪帧的像素点相匹配的匹配像素点；

计算所述匹配像素点的权重，包括：

在待去噪帧中构建以所述待去噪帧的像素点为中心的子块，在相邻帧中构建以所述匹配像素点为中心的匹配块，所述匹配块与所述子块大小相同；

根据所构建的子块和匹配块得到残差块；

计算所述待去噪帧的噪声标准差，包括：

以第一预定大小的窗口遍历所述待去噪帧，并计算每一个窗口的方差值；

对于其中方差值为前第一预定比例的每个窗口，以该窗口的中心为中心，构建第二预定大小的标准块，并计算该标准块的方差值；

对于其中方差值为前第二预定比例的多个标准块，计算其方差值的均值，以得到待去噪帧的噪声标准差；

基于所述待去噪帧的噪声标准差，将所述残差块映射为加权块，并根据所述加权块计算所述匹配像素点的权重；以及

基于获取的所述待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算所述待去噪帧的像素点及其匹配像素点的加权平均数，以得到所述待去噪帧的像素点进行时间域去噪后的像素值；其中

图像金字塔顶层以下第L层的光流按照以下公式计算：

式中

为第L层的光流，

为第L层的初始光流，

为第L层的光流增量；

顶层以下第L-1层的初始光流按照以下公式计算：

式中

为第L-1层的初始光流；以及

底层的光流按照以下公式计算：

其中

为底层的光流，

为底层的初始光流，

为底层的光流增量，

为顶层的光流。

2.如权利要求1所述的方法，其中，所述获取待去噪帧和相邻帧的图像金字塔的步骤包括：

以原始图像为图像金字塔的第0层，并通过对原始图像以k因数连续降采样来依次得到图像金字塔的第1，2，…，Lm层；其中

第L层图像的分辨率为

0≤L≤Lm；第0层为底层，第Lm层为顶层，k＝2。

3.如权利要求2所述的方法，其中，所述降采样包括均值降采样，所述均值降采样按照以下步骤来进行降采样：

将原始图像划分为若干个相同大小的降采样块；

以该降采样块中所有像素点的平均值作为该降采样块的采样值；

由所述若干个降采样块的采样值构成降采样后的图像。

4.如权利要求2所述的方法，其中，所述对于待去噪帧和相邻帧的图像金字塔，自上而下地逐层计算光流的步骤包括：

计算顶层图像的光流；

对于顶层以下的每层图像，均基于其上一层图像的光流来计算该层图像的光流。

5.如权利要求4所述的方法，其中，所述对于顶层以下的每层图像，均基于其上一层图像的光流来计算该层图像的光流的步骤包括：

对于顶层以下的每层图像，

以其上一层计算得到的光流作为该层的初始光流；

计算该层的光流增量；

根据该层的初始光流和光流增量得到该层的光流。

6.如权利要求1所述的方法，其中，顶层以下第L层的光流增量满足以下方程：

其中，d_x ^L、

为待去噪帧的第L层图像中像素点u(u_x,u_y)的光流增量

在x、y方向上的分量，w为以像素点u(u_x,u_y)为中心构建的搜索窗口(2wu_x+1,2wu_y+1)的半径，I^L(x,y)为待去噪帧的第L层图像，J^L(x,y)为相邻帧的第L层图像。

7.如权利要求4所述的方法，其中，待去噪帧的顶层图像中像素点p(x,y)的像素值为I(x,y,t)，其光流满足以下方程：

式中以像素点p(x,y)为中心的邻域窗口包括像素点p₁、p₂、…、p_n，I_x(p_n)、I_y(p_n)、I_t(p_n)分别为I(x,y,t)在像素点p_n处对x、y、t的偏导，u、v为像素点p(x,y)的光流

在x、y方向上的分量。

8.如权利要求1所述的方法，其中，所述基于待去噪帧的噪声标准差，将残差块映射为加权块的步骤包括：

对残差块的绝对值进行均值滤波；

对于滤波后的残差块中的每个像素点，

计算其三通道的像素均值；以及

基于该像素均值和噪声标准差的比较，确定加权块中与所述像素点对应位置的像素点的像素值。

9.如权利要求8所述的方法，其中，加权块中每个像素点的像素值按照以下公式确定：

其中Motion_neibor为加权块中像素点的像素值，Gray_neibor为滤波后的残差块中对应位置像素点的三通道像素均值，NoiseVar为待去噪帧的噪声标准差。

10.如权利要求1所述的方法，其中，所述根据加权块计算匹配像素点的权重的步骤包括：

以加权块中心的像素点为中心，构建均值块；

计算该均值块的均值，以得到所述匹配像素点的权重。

11.如权利要求1所述的方法，其中，所述基于获取的待去噪帧的像素点在各相邻帧上的匹配像素点的权重，计算待去噪帧的像素点及其匹配像素点的加权平均数的步骤包括：

按照以下公式计算得到所述待去噪帧的像素点进行时间域去噪后的像素值：

式中pTf_i为进行时间域去噪后的像素值，p_i为所述待去噪帧的像素点的像素值，p_neibor为所述匹配像素点的像素值，Mean_neibor为所述匹配像素点的权重，

为所有匹配像素点的像素值与其权重的乘积之和，

为所有匹配像素点的权重之和。

12.如权利要求1所述的方法，其中，在得到待去噪帧的像素点进行时间域去噪后的像素值之后，所述方法还包括步骤：

对所述待去噪帧的像素点进行空间域去噪。

13.如权利要求1所述的方法，其中，所述子块和匹配块的大小均为5×5。

14.如权利要求11所述的方法，其中，所述均值块大小为3×3。

15.如权利要求1所述的方法，其中，所述待去噪帧的相邻帧为该待去噪帧前的相邻帧、和/或该待去噪帧后的相邻帧。

16.一种计算设备，包括：

一个或多个处理器；

存储器；以及

一个或多个程序，其中所述一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序用于执行根据权利要求1-15所述的视频去噪方法中的任一方法。

17.一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序当由计算设备执行时，使得所述计算设备执行根据权利要求1-15所述的视频去噪方法中的任一方法。

Images