CN108270945B - 一种运动补偿去噪方法及装置 - Google Patents
一种运动补偿去噪方法及装置 Download PDFInfo
- Publication number
- CN108270945B CN108270945B CN201810117113.8A CN201810117113A CN108270945B CN 108270945 B CN108270945 B CN 108270945B CN 201810117113 A CN201810117113 A CN 201810117113A CN 108270945 B CN108270945 B CN 108270945B
- Authority
- CN
- China
- Prior art keywords
- motion vector
- denoising
- candidate
- candidate motion
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Picture Signal Circuits (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明公开了一种运动补偿去噪方法及装置,该方法包括:将输入的当前帧有噪声图像cf按照图像块单元切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量;根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量;根据当前像素点的第一候选运动矢量和第二候选运动矢量,计算出当前像素点的邻域约束随机候选运动矢量;分别进行并计算出各候选运动矢量运动补偿去噪结果;对各候选运动矢量运动补偿去噪结果进行融合,本发明可解决运动补偿导致的块效应问题以及对于误差迭代传递错误导致的视频图像抖动、模糊等问题。
Description
技术领域
本发明涉及视频图像处理领域,特别是涉及一种运动补偿去噪方法及装置。
背景技术
随着各种数字产品的普及,视频图像已成为人们日常生活中的信息载体,视频图像在采集拍摄,传输和接受的过程中,会受到各种噪声的污染,致使原视频图像信息受到干扰甚至破坏,使视频图像质量下降,同时影响到后续视频图像处理的效果,如目标检测和识别、视频图像的编解码压缩的压缩率等。视频图像噪声主要有电路热噪声、闪烁噪声、散粒噪声、大气电磁波噪声等。尤其在低亮度视频场景,如夜晚或者室内场景,噪声严重影响所拍摄视频图像的质量和主观感受,并且噪声非常难于压缩,严重影响视频图像的压缩率和浪费视频图像的有限传输带宽资源。为了提高视频图像的质量和主客观效果、视频图像的压缩率并节省传输带宽资源、后续视频图像处理的效果,以及人们对视频质量要求的逐步提高,都有必要对视频图像进行去噪处理。
目前,去噪技术主要分为三大类:空域平滑滤波去噪、时域的运动检测去噪、时域的运动补偿去噪。空域平滑滤波去噪就是通过像素的邻域信息,对平滑区进行低通滤波进行抑制噪声,该方法容易损伤图像细节,尤其是导致图像弱细节纹理丢失;运动检测去噪主要是针对静止区域去噪,容易导致运动物体出现拖尾现象;运动补偿去噪综合考虑了帧间的运动矢量信息,很好的保留运动物体的时域和空域细节,是目前最先进的去噪算法。
在现有技术中,如公开号为CN106803865A的中国专利申请公开了“视频时域的去噪方法及系统”以及公开号为CN104680483A的中国专利申请公开了“图像的噪声估计方法、视频图像去噪方法及装置”,均为运动补偿去噪方法,然而其均是基于以块为最小单元的运动估计,导致运动补偿去噪易出现块效应现象,而且若运动估计的运动矢量不精确,运动补偿去噪算法对运动估计误差比较敏感,运动补偿去噪容易导致误差迭代传递错误,如抖动和模糊现象。
发明内容
为克服上述现有技术存在的不足,本发明之目的在于提供一种运动补偿去噪方法及装置,以解决运动补偿导致的块效应问题以及对于误差迭代传递错误导致的视频图像抖动、模糊等问题。
为达上述及其它目的,本发明提出一种运动补偿去噪方法,包括如下步骤:
步骤S1,将输入的当前帧有噪声图像cf按照图像块单元切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量;
步骤S2,根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量;
步骤S3,根据当前像素点的第一候选运动矢量和第二候选运动矢量,计算出当前像素点的邻域约束随机候选运动矢量;
步骤S4,分别进行并计算出各候选运动矢量运动补偿去噪结果;
步骤S5,对各候选运动矢量运动补偿去噪结果进行融合;采用如下公式实现:
其式中,cfcn(i,j)表示对cfcurr(i,j)和cfneib(i,j)融合后的去噪结果,cfcurr(i,j)表示像素cf(i,j)经过第一候选矢量Mvcurr运动补偿去噪结果,cfneib(i,j)表示像素cf(i,j)经过第二候选矢量Mvneib运动补偿去噪结果,为第一候选运动矢量与第二候选运动矢量运动补偿去噪的权重值;
计算邻域候选运动矢量的最大差异值DistMv,并根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重;
在对邻域候选运动矢量的运动补偿去噪进行融合的基础上对邻域约束随机候选运动矢量的运动补偿去噪进行融合;公式如下:
cfmc(i,j)=cfcn(i,j)+Wmc·cfrand(i,j)
其式中,cfmc(i,j)表示对cfcn(i,j)和cfrand(i,j)融合后的去噪结果。邻域约束随机候选矢量运动补偿去噪的融合很好的优化好了运动估计导致时域运动不一致的图像模糊、闪烁和抖动现象。
优选地,于步骤S2中,利用基于邻域图像块运动矢量的像素运动矢量分解策略,使分解后的运动矢量精细到像素级。
优选地,所述分解策略如下:
如果当前像素落在图像块Block0内,则当前像素的第一候选运动矢量Mvcurr=Mvblk0;如果当前像素落在图像块Block1内,则当前像素的第一候选运动矢量Mvcurr=Mvblk1;如果当前像素落在图像块Block2内,则当前像素的第一候选运动矢量Mvcurr=Mvblk2;如果当前像素落在图像块Block3内,则当前像素的第一候选运动矢量Mvcurr=Mvblk3;第二候选运动矢量为在2×2邻域内与Mvcurr差异最大的运动矢量,符号记为Mvneib;
其中,Block0、Block1、Block2、Block3分别是当前图像块cfblk的2×2邻域图像块,Mvblk0、Mvblk1、Mvblk2、Mvblk3为Block0、Block1、Block2、Block3邻域图像块位置对应的运动矢量。
优选地,于步骤S3中,利用基于邻域图像块运动矢量的约束随机扰动的策略,计算出当前像素点的邻域约束随机候选运动矢量。
优选地,所述基于邻域图像块运动矢量的约束随机扰动的策略具体如下:
根据步骤S2得到的第一候选运动矢量Mvcurr和第二候选运动矢量Mvneib,确定随机候选运动矢量的随机范围;
计算所述随机候选运动矢量Mvrand=(xrand,yrand),其中
xrand=rand(xcurr,xneib)
yrand=rand(ycurr,yneib)
rand表示随机运算算子,x表示水平方向的运动矢量大小,y表示垂直方向的运动矢量大小,下标curr,neib,rand表示3种运动矢量。
优选地,步骤S4进一步包括:
计算获得各候选运动矢量的SAD值;
根据各候选运动矢量的SAD值,分别计算各候选运动矢量的运动补偿去噪的权重值;
利用各候选运动矢量的运动补偿去噪的权重值对当前像素点与各候选运动矢量对应的参考像素点进行运动补偿去噪。
优选地,所述运动补偿去噪计算方法如下:
其式中,cfcurr(i,j)表示像素cf(i,j)经过第一候选运动矢量Mvcurr运动补偿去噪结果,cfneib(i,j)表示像素cf(i,j)经过第二候选运动矢量Mvneib运动补偿去噪结果,cfrand(i,j)表示像素cf(i,j)经过随机候选运动矢量Mvrand运动补偿去噪结果, 为各候选运动矢量的运动补偿去噪的权重值,p1(i+x,j+y)表示当前像素cf(j,i)经过运动矢量Mv=(x,y)投影到参考帧图像p1的对应像素点。
优选地,步骤S5进一步包括:
对邻域候选运动矢量的运动补偿去噪进行融合;
计算邻域候选运动矢量的最大差异值DistMv,并根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重;
在对邻域候选运动矢量的运动补偿去噪进行融合的基础上对邻域约束随机候选运动矢量的运动补偿去噪进行融合。
优选地,所述对邻域候选运动矢量的运动补偿去噪进行融合采用如下公式实现:
其式中,cfcn(i,j)表示对cfcurr(i,j)和cfneib(i,j)融合后的去噪结果,cfcurr(i,j)表示像素cf(i,j)经过第一候选矢量Mvcurr运动补偿去噪结果,cfneib(i,j)表示像素cf(i,j)经过第二候选矢量Mvneib运动补偿去噪结果,为第一候选运动矢量与第二候选运动矢量运动补偿去噪的权重值。
优选地,计算邻域约束随机候选运动矢量的运动补偿去噪融合,公式如下:
cfmc(i,j)=cfcn(i,j)+Wmc·cfrand(i,j)
其式中,cfmc(i,j)表示对cfcn(i,j)和cfrand(i,j)融合后的去噪结果。邻域约束随机候选矢量运动补偿去噪的融合很好的优化好了运动估计导致时域运动不一致的图像模糊、闪烁和抖动现象。
为达到上述目的,本发明还提供一种运动补偿去噪装置,包括:
运动估计单元,用于将输入的当前帧有噪声图像cf按照图像块单元切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量;
领域候选运动矢量选择单元,用于根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量;
随机候选运动矢量选择单元,用于根据当前像素点的第一候选运动矢量和第二候选运动矢量,计算出当前像素点的邻域约束随机候选运动矢量;
运动补偿去噪单元,用于分别进行并计算出各候选运动矢量运动补偿去噪结果;
去噪结果融合单元,用于对各候选运动矢量运动补偿去噪结果进行融合。
现有技术相比,本发明一种3DRS运动估计方法及运动补偿去隔行方法、系统通过同极性场3DRS运动估计进行第一次运动矢量搜索,使运动矢量场快速收敛,然后做异极性场3DRS运动进行第二次运动矢量搜索,进一步精确化当前场运动补偿的运动矢量,使其收敛到真实的运动矢量,最后根据异极性场3DRS搜索的矢量场进行运动补偿插值去隔行处理,解决了同极性场重复帧场景的去隔行闪烁问题现象,以及同极性场运动矢量和异极性场运动矢量在时间域中不一致导致去隔行出现错误、锯齿、羽化问题现象。
附图说明
图1为本发明一种运动补偿去噪方法的步骤流程图;
图2为本发明具体实施例中对输入图像的分块示意图;
图3为本发明具体实施例中图像块的邻域示意图;
图4为本发明具体实施例中基于SAD值的融合权重曲线图;
图5为本发明具体实施例中基于Dist_mv值的融合权重曲线图;
图6为本发明具体实施例中运动矢量mv的投影示意图;
图7为本发明一种运动补偿去噪装置的结构示意图。
具体实施方式
以下通过特定的具体实例并结合附图说明本发明的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本发明的其它优点与功效。本发明亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本发明的精神下进行各种修饰与变更。
图1为本发明一种运动补偿去噪方法的步骤流程图。如图1所示,本发明一种运动补偿去噪方法,包括如下步骤:
步骤S1,将输入的当前帧有噪声图像cf按照图像块单元(H′blk×W′blk大小的像素块)切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量,其中参考帧图像p1即当前帧cf的前一帧图像。
图像的分块示意图请参考图2所示,cf表示输入的当前帧有噪声图像,p1表示进行运动估计的参考帧图像,在本发明具体实施例中,输入帧图像像素分辨率大小为1920×1080,图像块分辨率大小为Wblk×Hblk(其中Hblk=8,Wblk=8),图像分块示意图参考附图2,图像数据是在YCbCr颜色空间的亮度Y分量进行计算的,其它颜色分量的计算过程类似,输入帧图像像素分辨率为1920×1080像素,将图像按照像素块(8×8大小的像素块)单元切分,总共有M×N(其M=1920/8=240,N=1080/8=135)个图像块(block);cf(i,j)表示cf场图像的第i行第j列像素;cfblk表示当前场cf图像中第n行第m列块(n取值范围是{0,1,...,N-1},m取值范围是{0,1,...,M-1}),cfblk(l,k)表示当前块cfblk的第l行第k列像素,根据当前帧图像和参考帧图像进行运动估计,得到当前帧图像中的各图像块的运动矢量,当前块运动矢量符号记为Mvcur=(x,y),x表示水平方向的运动矢量大小,y表示垂直方向的运动矢量大小。具体地,运动估计可以采用现有的各种方法,比如3DRS方法,多尺度金字塔3DRS方法等,在此不予赘述。
步骤S2,根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量。
根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,详细示意图请参考图3所示。中间的实线框区域表示当前8×8像素块,即当前图像块cfblk,Block0、Block1、Block2、Block3分别是当前图像块cfblk的2×2邻域图像块,邻域图像块位置对应的运动矢量分别表示为Mvblk0、Mvblk1、Mvblk2、Mvblk3。如果当前图像块cfblk内的8×8像素都用同一个运动矢量进行运动补偿去噪,因为图像中的物体并不是一个理想的刚体运动,在实际视频图像中的物体往往都会有些形变,同时图像的分块划分也会不可避免出现的物体碎片化,都会导致去噪后的图像出现块效应,因此本发明提出了基于邻域图像块运动矢量的像素运动矢量分解策略,使分解后的运动矢量精细到像素级。对单个图像块内的每个像素分别进行计算分解策略如下:
如果当前像素落在图像块Block0内,则当前像素的第一候选运动矢量Mvcurr=Mvblk0,第二候选运动矢量为在2×2邻域内与Mvcurr差异最大的运动矢量,符号记为Mvneib,即Mvneib={Mvblki|max{||Mvblki-Mvcurr||,i=0,1,2,3,IMvblki≠Mvcurr}};
如果当前像素落在图像块Block1、Block2或者Block3内,方法类似,可以计算出对应的第一候选运动矢量Mvcurr和第二候选运动矢量Mvneib。
步骤S3,根据当前像素点的第一候选运动矢量和第二候选运动矢量,计算出当前像素点的邻域约束随机候选运动矢量。
步骤S1中的运动估计(可利用现有的运动估计方法)搜索得到的运动矢量场,由于受到噪声的干扰以及运动矢量的精度影响,尤其时弱细节纹理区和低亮度区域,在时域内往往很难保证其运动矢量大小的连续性,导致运动补偿去噪过程中产生误差,并随着误差的迭代传递,最终导致运动图像模糊,抖动等现象。因此,本发明提出了基于邻域图像块运动矢量的约束随机扰动的策略,具体策略如下:
首先,根据步骤S2得到的第一候选运动矢量Mvcurr=(xcurr,ycurr)和第二候选运动矢量Mvneib=(xneib,yneib),确定随机候选运动矢量的随机范围。
其次,计算随机候选运动矢量Mvrand=(xrand,yrand),公式如下:
xrand=rand(xcurr,xneib)
yrand=rand(ycurr,yneib)
其式中,rand表示随机运算算子。
步骤S4,分别进行并计算出各候选运动矢量运动补偿去噪结果,以备后续模块进行去噪融合。
具体地,根据步骤S2和步骤S3计算得到的当前像素点的第一候选运动矢量Mvcurr、第二候选运动矢量Mvneib和随机候选运动矢量Mvrand,以及当前像素点的坐标位置,分别进行对应的候选运动矢量运动补偿去噪处理,具体步骤如下:
首先,计算对应像素点邻域内(本发明具体实施例采用了3×3像素邻域,也可以是其它窗口尺寸大小的邻域)的平均绝对值误差值,符号记为SAD。计算公式如下:
其式中,cf(i,j)表示cf场图像的当前像素(第i行第j列像素),p1(i+x,j+y)表示当前像素cf(i,j)经过运动矢量Mv=(x,y)投影(投影示意图请参考图6所示)到参考帧图像p1的对应像素点。根据SAD值的大小可知,如果SAD值越小,说明对应参考像素点邻域与当前像素点领域的时域距离越相近,也就是说参考图像像素领域与当前图像像素邻域匹配程度越高;如果SAD值越大,说明对应参考图像像素邻域与当前图像像素邻域的时域距离越不同,也就是说参考图像像素邻域与当前图像像素邻域匹配程度越低。
根据上述公式则可以计算得各候选运动矢量的SAD值,第一候选运动矢量SAD值符号记为SADcurr,第二候选运动矢量SAD值符号记为SADneib,随机选矢量SAD值符号记为SADrand。
最后,对当前像素点与各候选运动矢量对应的参考像素点进行运动补偿去噪,计算方法如下:
其式中,cfcurr(i,j)表示像素cf(i,j)经过第一候选运动矢量Mvcurr运动补偿去噪结果,cfneib(i,j)表示像素cf(i,j)经过第二候选运动矢量Mvneib运动补偿去噪结果,cfrand(i,j)表示像素cf(i,j)经过随机候选运动矢量Mvrand运动补偿去噪结果。
步骤S5,对各候选运动矢量运动补偿去噪结果进行融合。具体地,融合计算过程如下:
首先,计算邻域候选运动矢量的运动补偿去噪融合,公式如下:
其式中,cfcn(i,j)表示对cfcurr(i,j)和cfneib(i,j)融合后的去噪结果。邻域候选矢量的运动补偿去噪融合很好的解决了块效应问题。
其次,计算邻域候选运动矢量的最大差异值DistMv,并根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重,符号记为Wmc。最大差异值DistMv的计算公式如下:
DistMv=||Mvneib-Mvcurr||
其式中,DistMv值越大,表示邻域内候选运动矢量的差异越大,即随机候选运动矢量的扰动越剧烈,融合的力度需要降低以减少随机候选运动矢量扰动的误差,DistMv值越小,即随机候选运动矢量的扰动越平稳,融合的力度需要增加以减少时域运动矢量不一致导致的图像模糊、抖动等现象。根据图5,D0表示小扰动预设阈值,D1表示中扰动预设阈值,D2表示打扰动预设阈值,根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重,符号记为Wmc。
最后,计算邻域约束随机候选运动矢量的运动补偿去噪融合,公式如下:
cfmc(i,j)=cfcn(i,j)+Wmc·cfrand(i,j)
其式中,cfmc(i,j)表示对cfcn(i,j)和cfrand(i,j)融合后的去噪结果。邻域约束随机候选矢量运动补偿去噪的融合很好的优化好了运动估计导致时域运动不一致的图像模糊、闪烁和抖动现象。
图7为本发明一种运动补偿去噪装置的结构示意图。如图7所示,本发明一种运动补偿去噪装置,包括:
运动估计单元701,用于将输入的当前帧有噪声图像cf按照图像块单元(H′blk×W′blk大小的像素块)切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量。
其中,cf表示输入的当前帧有噪声图像,p1表示进行运动估计的参考帧图像,cf(i,j)表示cf场图像的第i行第j列像素;cfblk表示当前场cf图像中第n行第m列块(n取值范围是{0,1,...,N-1},m取值范围是{0,1,...,M-1}),cfblk(l,k)表示当前块cfblk的第l行第k列像素,根据当前帧图像和参考帧图像进行运动估计,得到当前帧图像中的各图像块的运动矢量,当前块运动矢量符号记为Mvcur=(x,y),x表示水平方向的运动矢量大小,y表示垂直方向的运动矢量大小。具体地,运动估计可以采用现有的各种方法,比如3DRS方法,多尺度金字塔3DRS方法等,在此不予赘述。
领域候选运动矢量选择单元702,用于根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量。
具体地,候选运动矢量选择单元702根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,详细示意图请参考图3所示。中间的实线框区域表示当前8×8像素块,即当前图像块cfblk,Block0、Block1、Block2、Block3分别是当前图像块cfblk的2×2邻域图像块,邻域图像块位置对应的运动矢量分别表示为Mvblk0、Mvblk1、Mvblk2、Mvblk3。为避免去噪后的图像出现块效应,本发明提出了基于邻域图像块运动矢量的像素运动矢量分解策略,使分解后的运动矢量精细到像素级。对单个图像块内的每个像素分别进行计算分解策略如下:
如果当前像素落在图像块Block0内,则当前像素的第一候选运动矢量Mvcurr=Mvblk0,第二候选运动矢量为在2×2邻域内与Mvcurr差异最大的运动矢量,符号记为Mvneib,即Mvneib={Mvblki|max{||Mvblki-Mvcurr||,i=0,1,2,3,IMvblki≠Mvcurr}};
如果当前像素落在图像块Block1、Block2或者Block3内,方法类似,可以计算出对应的第一候选运动矢量Mvcurr和第二候选运动矢量Mvneib。
随机候选运动矢量选择单元703,用于根据当前像素点的第一候选运动矢量和第二候选运动矢量,计算出当前像素点的邻域约束随机候选运动矢量。
在本发明具体实施例中,提出了基于邻域图像块运动矢量的约束随机扰动的策略,具体策略如下:
首先,根据领域候选运动矢量选择单元702得到的第一候选运动矢量Mvcurr=(xcurr,ycurr)和第二候选运动矢量Mvneib=(xneib,yneib),确定随机候选运动矢量的随机范围。
其次,计算随机候选运动矢量Mvrand=(xrand,yrand),公式如下:
xrand=rand(xcurr,xneib)
yrand=rand(ycurr,yneib)
其式中,rand表示随机运算算子。
运动补偿去噪单元704,用于分别进行并计算出各候选运动矢量运动补偿去噪结果,以备后续模块进行去噪融合。
具体地,根据领域候选运动矢量选择单元702和随机候选运动矢量选择单元703计算得到的当前像素点的第一候选运动矢量Mvcurr、第二候选运动矢量Mvneib和随机候选运动矢量Mvrand,以及当前像素点的坐标位置,分别进行对应的候选运动矢量运动补偿去噪处理,具体地,运动补偿去噪单元704进一步包括:
SAD计算模块,用于计算对应像素点邻域内(本发明具体实施例采用了3×3像素邻域,也可以是其它窗口尺寸大小的邻域)的平均绝对值误差值,符号记为SAD。即计算得到各候选运动矢量的SAD值,第一候选运动矢量SAD值符号记为SADcurr,第二候选运动矢量SAD值符号记为SADneib,随机选矢量SAD值符号记为SADrand。
运动补偿去噪模块,对当前像素点与各候选运动矢量对应的参考像素点进行运动补偿去噪。
去噪结果融合单元705,用于对各候选运动矢量运动补偿去噪结果进行融合。具体地,去噪结果融合单元705进一步包括:
第一融合单元,用于对邻域候选运动矢量的运动补偿去噪进行融合,公式如下:
其式中,cfcn(i,j)表示对cfcurr(i,j)和cfneib(i,j)融合后的去噪结果。邻域候选矢量的运动补偿去噪融合很好的解决了块效应问题。
第二融合单元,用于在第一融合单元的融合结果的基础上对邻域约束随机候选运动矢量的运动补偿去噪进行融合。
融合权重计算单元,用于计算邻域候选运动矢量的最大差异值DistMv,并根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重,符号记为Wmc。根据融合权重Wmc计算邻域约束随机候选运动矢量的运动补偿去噪融合,公式如下:
cfmc(i,j)=cfcn(i,j)+Wmc·cfrand(i,j)
其式中,cfmc(i,j)表示对cfcn(i,j)和cfrand(i,j)融合后的去噪结果。邻域约束随机候选矢量运动补偿去噪的融合很好的优化好了运动估计导致时域运动不一致的图像模糊、闪烁和抖动现象。
综上所述,本发明一种运动补偿去噪方法及装置基于邻域局部候选矢量的选取和运动补偿去噪融合技术,很好地解决了运动补偿导致的块效应问题,同时本发明基于邻域约束随机候选运动矢量的选取和运动补偿融合技术,降低了运动补偿去噪的误差迭代传递问题,增强了在时域内相邻帧去噪图像的一致性,很好地减少了图像模糊、闪烁和抖动现象。
与现有技术相比,本发明具有如下优点:
1、本发明根据运动矢量场的空域局部连续和分片光滑的形态学特征,提出了基于空域局部候选矢量的选取和运动补偿去噪融合技术,很好的解决了运动补偿导致的块效应问题。
2、本发明根据运动矢量场的时域局部连续和一致性特征,提出了基于邻域约束随机候选矢量的选取和运动补偿融合技术,降低运动补偿去噪的误差迭代传递问题,增强了在时域内相邻帧去噪图像的一致性,很好的减少图像模糊、闪烁和抖动现象。
3、本发明整个运动补偿去噪方法中,仅仅运用了局部2个候选运动矢量运动补偿去噪和1个随机候选运动矢量运动补偿去噪,然后将两类运动补偿去噪结构进行融合,很好的优化了块效应和图像模糊、闪烁和抖动现象,本发明实现的计算复杂度低,易于硬件逻辑实现。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何本领域技术人员均可在不违背本发明的精神及范畴下,对上述实施例进行修饰与改变。因此,本发明的权利保护范围,应如权利要求书所列。
Claims (5)
1.一种运动补偿去噪方法,包括如下步骤:
步骤S1,将输入的当前帧有噪声图像cf按照图像块单元切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量;
步骤S2,根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量;
步骤S3,根据当前像素点的第一候选运动矢量和第二候选运动矢量,利用基于邻域图像块运动矢量的约束随机扰动的策略,计算出当前像素点的邻域约束随机候选运动矢量;具体如下:
根据步骤S2得到的第一候选运动矢量Mvcurr和第二候选运动矢量Mvneib,确定随机候选运动矢量的随机范围;
计算所述随机候选运动矢量Mvrand=(xrand,yrand),其中,
xrand=rand(xcurr,xneib)
yrand=rand(ycurr,yneib)
rand表示随机运算算子,x表示水平方向的运动矢量大小,y表示垂直方向的运动矢量大小,下标curr,neib,rand表示3种运动矢量;
步骤S4,分别进行并计算出各候选运动矢量运动补偿去噪结果;包括:
计算获得各候选运动矢量的SAD值;计算公式如下:
其式中,cf(i,j)表示cf场图像的当前像素(第i行第j列像素),p1(i+x,j+y)表示当前像素cf(i,j)经过运动矢量Mv=(x,y)投影到参考帧图像p1的对应像素点;
根据各候选运动矢量的SAD值,分别计算各候选运动矢量的运动补偿去噪的权重值;
利用各候选运动矢量的运动补偿去噪的权重值对当前像素点与各候选运动矢量对应的参考像素点进行运动补偿去噪;
步骤S5,对各候选运动矢量运动补偿去噪结果进行融合;包括:
对邻域候选运动矢量的运动补偿去噪进行融合;采用如下公式实现:
其式中,cfcn(i,j)表示对cfcurr(i,j)和cfneib(i,j)融合后的去噪结果,cfcurr(i,j)表示像素cf(i,j)经过第一候选矢量Mvcurr运动补偿去噪结果,cfneib(i,j)表示像素cf(i,j)经过第二候选矢量Mvneib运动补偿去噪结果,为第一候选运动矢量与第二候选运动矢量运动补偿去噪的权重值;
计算邻域候选运动矢量的最大差异值DistMv,并根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重;
在对邻域候选运动矢量的运动补偿去噪进行融合的基础上对邻域约束随机候选运动矢量的运动补偿去噪进行融合;公式如下:
cfmc(i,j)=cfcn(i,j)+Wmc·cfrand(i,j)
其式中,cfmc(i,j)表示对cfcn(i,j)和cfrand(i,j)融合后的去噪结果,邻域约束随机候选矢量运动补偿去噪的融合很好的优化好了运动估计导致时域运动不一致的图像模糊、闪烁和抖动现象。
2.如权利要求1所述的一种运动补偿去噪方法,其特征在于:于步骤S2中,利用基于邻域图像块运动矢量的像素运动矢量分解策略,使分解后的运动矢量精细到像素级。
3.如权利要求2所述的一种运动补偿去噪方法,其特征在于,所述分解策略如下:
如果当前像素落在图像块Block0内,则当前像素的第一候选运动矢量Mvcurr=Mvblk0;如果当前像素落在图像块Block1内,则当前像素的第一候选运动矢量Mvcurr=Mvblk1;如果当前像素落在图像块Block2内,则当前像素的第一候选运动矢量Mvcurr=Mvblk2;如果当前像素落在图像块Block3内,则当前像素的第一候选运动矢量Mvcurr=Mvblk3;第二候选运动矢量为在2×2邻域内与Mvcurr差异最大的运动矢量,符号记为Mvneib;
其中,Block0、Block1、Block2、Block3分别是当前图像块cfblk的2×2邻域图像块,Mvblk0、Mvblk1、Mvblk2、Mvblk3为Block0、Block1、Block2、Block3邻域图像块位置对应的运动矢量。
5.一种运动补偿去噪装置,包括:
运动估计单元,用于将输入的当前帧有噪声图像cf按照图像块单元切分,对当前帧有噪声图像cf和参考帧图像p1进行运动估计,计算出当前帧图像中的各图像块的运动矢量;
领域候选运动矢量选择单元,用于根据当前图像块cfblk的块空间位置坐标,进行邻域候选矢量选择,计算出当前像素点的第一候选运动矢量和第二候选运动矢量;
随机候选运动矢量选择单元,用于根据当前像素点的第一候选运动矢量和第二候选运动矢量,利用基于邻域图像块运动矢量的约束随机扰动的策略,计算出当前像素点的邻域约束随机候选运动矢量;具体如下:
根据步骤S2得到的第一候选运动矢量Mvcurr和第二候选运动矢量Mvneib,确定随机候选运动矢量的随机范围;
计算所述随机候选运动矢量Mvrand=(xrand,yrand),其中
xrand=rand(xcurr,xneib)
yrand=rand(ycurr,yneib)
rand表示随机运算算子,x表示水平方向的运动矢量大小,y表示垂直方向的运动矢量大小,下标curr,neib,rand表示3种运动矢量;
运动补偿去噪单元,用于分别进行并计算出各候选运动矢量运动补偿去噪结果;包括:
计算获得各候选运动矢量的SAD值;计算公式如下:
其式中,cf(i,j)表示cf场图像的当前像素(第i行第j列像素),p1(i+x,j+y)表示当前像素cf(i,j)经过运动矢量Mv=(x,y)投影到参考帧图像p1的对应像素点;
根据各候选运动矢量的SAD值,分别计算各候选运动矢量的运动补偿去噪的权重值;
利用各候选运动矢量的运动补偿去噪的权重值对当前像素点与各候选运动矢量对应的参考像素点进行运动补偿去噪;
去噪结果融合单元,用于对各候选运动矢量运动补偿去噪结果进行融合;包括:
对邻域候选运动矢量的运动补偿去噪进行融合;采用如下公式实现:
其式中,cfcn(i,j)表示对cfcurr(i,j)和cfneib(i,j)融合后的去噪结果,cfcurr(i,j)表示像素cf(i,j)经过第一候选矢量Mvcurr运动补偿去噪结果,cfneib(i,j)表示像素cf(i,j)经过第二候选矢量Mvneib运动补偿去噪结果,为第一候选运动矢量与第二候选运动矢量运动补偿去噪的权重值;
计算邻域候选运动矢量的最大差异值DistMv,并根据DistMv值,计算出邻域约束随机候选运动矢量的运动补偿去噪融合权重Wmc;
在对邻域候选运动矢量的运动补偿去噪进行融合的基础上对邻域约束随机候选运动矢量的运动补偿去噪进行融合;采用如下公式实现:
cfmc(i,j)=cfcn(i,j)+Wmc·cfrand(i,j)
其式中,cfmc(i,j)表示对cfcn(i,j)和cfrand(i,j)融合后的去噪结果;邻域约束随机候选矢量运动补偿去噪的融合很好的优化好了运动估计导致时域运动不一致的图像模糊、闪烁和抖动现象。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810117113.8A CN108270945B (zh) | 2018-02-06 | 2018-02-06 | 一种运动补偿去噪方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810117113.8A CN108270945B (zh) | 2018-02-06 | 2018-02-06 | 一种运动补偿去噪方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108270945A CN108270945A (zh) | 2018-07-10 |
CN108270945B true CN108270945B (zh) | 2020-10-30 |
Family
ID=62773636
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810117113.8A Active CN108270945B (zh) | 2018-02-06 | 2018-02-06 | 一种运动补偿去噪方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108270945B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021134642A1 (zh) * | 2019-12-31 | 2021-07-08 | 深圳市大疆创新科技有限公司 | 图像处理方法、装置及存储介质 |
CN111462170B (zh) * | 2020-03-30 | 2023-08-25 | Oppo广东移动通信有限公司 | 运动估计方法、运动估计装置、存储介质与电子设备 |
CN111784614A (zh) * | 2020-07-17 | 2020-10-16 | Oppo广东移动通信有限公司 | 图像去噪方法及装置、存储介质和电子设备 |
CN113012061A (zh) * | 2021-02-20 | 2021-06-22 | 百果园技术(新加坡)有限公司 | 降噪处理方法、装置及电子设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI485655B (zh) * | 2012-04-18 | 2015-05-21 | Univ Nat Central | 影像處理方法 |
CN103561263B (zh) * | 2013-11-06 | 2016-08-24 | 北京牡丹电子集团有限责任公司数字电视技术中心 | 基于运动矢量约束和加权运动矢量的运动补偿预测方法 |
CN107124617B (zh) * | 2017-03-08 | 2020-11-24 | 青岛信芯微电子科技股份有限公司 | 运动估计运动补偿中随机矢量的生成方法及系统 |
-
2018
- 2018-02-06 CN CN201810117113.8A patent/CN108270945B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN108270945A (zh) | 2018-07-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108270945B (zh) | 一种运动补偿去噪方法及装置 | |
US9202263B2 (en) | System and method for spatio video image enhancement | |
US8582915B2 (en) | Image enhancement for challenging lighting conditions | |
KR101097673B1 (ko) | 화질 개선을 위한 노이즈 검출 및 평가 기술 | |
CN106210448B (zh) | 一种视频图像抖动消除处理方法 | |
JP2006350334A (ja) | ディジタル・ビデオ・シーケンスの現在のフレームと以前のフレームの間における動きに起因する知覚可能なぶれを補償する方法およびシステム | |
CN109963048B (zh) | 降噪方法、降噪装置及降噪电路系统 | |
Jin et al. | Quaternion-based impulse noise removal from color video sequences | |
CN111161172B (zh) | 一种红外图像列向条纹消除方法、系统及计算机存储介质 | |
WO2014069103A1 (ja) | 画像処理装置 | |
Gal et al. | Progress in the restoration of image sequences degraded by atmospheric turbulence | |
US20220414896A1 (en) | Image processing method, electronic device and storage medium | |
EP3131061A1 (en) | Method and apparatus for hierarchical motion estimation using dfd-based image segmentation | |
Gao et al. | Atmospheric turbulence removal using convolutional neural network | |
Reeja et al. | Real time video denoising | |
WO1999040726A2 (en) | Motion or depth estimation | |
US20120169890A1 (en) | Motion estimation in imaging systems | |
Meisinger et al. | Automatic tv logo removal using statistical based logo detection and frequency selective inpainting | |
Kim et al. | Multi-frame de-raining algorithm using a motion-compensated non-local mean filter for rainy video sequences | |
Gangal et al. | An improved motion-compensated restoration method for damaged color motion picture films | |
Xu et al. | Features based spatial and temporal blotch detection for archive video restoration | |
CN111652821A (zh) | 基于梯度信息的微光视频图像降噪处理方法、装置和设备 | |
JP5197374B2 (ja) | 動き推定 | |
CN113935910A (zh) | 一种基于深度学习的图像模糊长度测量方法 | |
Peng et al. | Image restoration for interlaced scan CCD image with space-variant motion blurs |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |