CN106375659B - 基于多分辨率灰度投影的电子稳像方法 - Google Patents
基于多分辨率灰度投影的电子稳像方法 Download PDFInfo
- Publication number
- CN106375659B CN106375659B CN201610814950.7A CN201610814950A CN106375659B CN 106375659 B CN106375659 B CN 106375659B CN 201610814950 A CN201610814950 A CN 201610814950A CN 106375659 B CN106375659 B CN 106375659B
- Authority
- CN
- China
- Prior art keywords
- image
- motion vector
- value
- frame
- particle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种基于多分辨率灰度投影的电子稳像方法,包括:步骤1、利用下采样的当前图像和参考图像确定是否有前景局部运动物体,并以此获取获取全局运动矢量;步骤2、采用实时粒子滤波方法,在滤除随机抖动的同时保留摄像机自身的主动扫描运动;步骤3、通过可变的参考帧,采用自适应相邻帧补偿方法以消除相邻帧累积误差。
Description
技术领域
本发明涉及图像处理技术领域,特别是指一种基于多分辨率灰度投影的电子稳像方法。
背景技术
随着技术的发展,各行各业对图像处理的要求越来越高,以提高人们的观感。现有的图像处理领域有以下几种广泛使用的算法:灰度投影算法、基于粒子滤波的运动滤波算法、相邻帧补偿方法。
其中灰度投影算法需要对图像中每一个像素进行灰度映射并进行相关计算,导致运算量较大;同时当图像中存在运动物体时,灰度投影法无法检测到运动物体,造成运动估计精度降低。
其中基于粒子滤波的运动滤波方法无法满足实时性要求。
其中相邻帧补偿方法是基于相邻帧进行计算,这样会使得上一帧存在的计算误差一直延续并累积,这样就造成图像边界缺失的部分会慢慢的变大,对稳像的效果造成很大的影响。
发明内容
针对现有技术中图像处理方法效果不好的问题,本发明实施例的目的是提出一种基于多分辨率灰度投影的电子稳像方法,至少能部分的解决以上的几个问题。
为了解决上述问题,本发明实施例提出了一种基于多分辨率灰度投影的电子稳像方法,包括:
步骤1、利用下采样的当前图像和参考图像确定是否有前景局部运动物体,并以此获取获取全局运动矢量;
步骤2、采用实时粒子滤波方法,在滤除随机抖动的同时保留摄像机自身的主动扫描运动;
步骤3、通过可变的参考帧,采用自适应相邻帧补偿方法以消除相邻帧累积误差。
其中,所述步骤1具体包括:
步骤11、提取当前图像,并确定参考图像;分别对当前图像和参考图像进行直方图均衡化处理以提高图像的对比度;
步骤12、然后分别对所述当前图像和参考图像多次进行下采样以获取n层多个不同分辨率的图像;
步骤13、分别获取当前图像和参考图像的低分辨率图像,并分别对当前图像和参考图像的低分辨率图像的预定子区域进行行列投影,并通过基于二分查找法的搜索方法计算预定子区域的第一运动矢量V1;然后分别对当前图像和参考图像的低分辨率图像的非预定子区域的其他区域进行行列投影,并通过基于二分查找法的搜索方法计算所述其他区域的第二运动矢量V2;
步骤14、将第一运动矢量V1与第二运动矢量V2的差值与预设阈值T进行比较;如果|V1-V2|≤T则没有前景局部运动物体,跳转到步骤15;如果|V1-V2|>T则有前景局部运动物体,跳转到步骤16;
步骤15、计算全局运动矢量V;所述全局运动矢量V=V1×2n-1,其中n为采样层数,步骤结束;
步骤16、将原始的参考图像和当前图像进行分块,并逐一确定参考图像和当前图像的分块之间的对应关系,然后将每一对对应的子块之间通过灰度投影算法获取每一子块的运动矢量,并将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3。
其中,所述步骤12具体包括:
步骤121、对原始图像f,获取图像的最大分辨率层f1,也称为高分辨率层,一般来说是第1层图像;
步骤122、先将最大分辨率层f1进行低通滤波处理,其中滤波算子为H;将低通滤波后的图像根据公式(1)进行下采样处理以这样就得到第2层图像f2,
fn(i,j)=fn-1(2i,2j),n=2,3,...,n (1);
以此类推,最终获得n层多分辨图像fn;
其中fn(i,j)为第n层图像中像素点(i,j)的灰度值,其中i,j为该像素点的坐标。
其中,在步骤13中的采用基于二分查找法的搜索方法来计算运动矢量,具体包括:
通过以下方法计算列方向的运算矢量:其中全局搜索范围为[m-M,M-m],水平运动量为dx,具体包括:
步骤131、计算初始区间[a,b]端点的相关函数值:Ca=C(a)及Cb=C(b);其中a=m-M,b=M-m;
步骤132、判断a=b是否成立,如果是则将相关函数值作为水平运动量,dx=a,步骤结束,如果否则跳转到步骤133;
步骤133、确定区间[a,b]中心值c,c=(a+b)/2;然后计算中心值c的相关函数值Cc,其中Cc=C(c);
步骤134、比较端点的相关函数值,确定下一步的搜索区间:
判断Ca<Cb是否成立,如果是则目标值dx∈[a,c],将b=c,Cb=Cc,返回到步骤132;如果否则目标值dx∈[c,b],将a=c,Ca=Cc,返回到步骤132;
通过相同的方法计算行方向的运算矢量。
其中,所述步骤16中,将所述参考图像和当前图像的原始图像分割为64×64个像素点,并采用将子块用隔行隔列的方式来排列。
其中,所述步骤16中,将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3,具体包括
通过统计最多样本法计算全局运动矢量中垂直运动矢量:
把所有子块的垂直运动矢量组成一个样本集合{yi|i=1,2,...,N};
将集合中的样本分为k(k<N)类;
将类中的样本与集合中的样本值逐一进行比较,并记下每一个类中样本的个数mi,i=1,2,...,k;
找出样本个数的最大值m=max(mi|i=1,2,...,k),此时最大值对应的样本值就是需要的垂直运动矢量;
通过相同的方法计算水平运动矢量。
其中,所述步骤2具体包括:
步骤21、初始化步骤,包括:图像序列的帧数为m,其中第k帧全局运动矢量的变化量为(Δxm,Δym);在m=0时进行初始化处理,采样获取初始粒子集每个粒子同时代表了一对值;根据估计窗宽度k,混合分布权值初值则通过以下方法对粒子进行采样:
其中,λ为常数,取值范围为λ∈[-1,1],m表示运动补偿的最大量。
步骤22、估计窗内粒子滤波运算(l=1,2...,k)步骤,包括:
步骤22a、系统转移方程及观测方程步骤:
当视频图像更新到第m帧时,首先将粒子集按权值分成k个子粒子集此时每一个粒子状态空间模型为
此时状态转移矩阵为
其中,α,β为常量,O表示均值为零白噪声;计算后可获得并将认定为观测量;粒子之间的相似度定义如下:
则观测概率密度函数为
其中,σ为常数;
此时,粒子权值的递推公式为
归一化权值为:
步骤22b、重采样步骤:
设重采样阈值为Nth,当Nth≥Neff时,对替代更换获得新的粒子集并且将全部粒子的权值设定为
步骤22c、获取m帧状态估计值步骤:
单个观测值的后验概率密度函数为:
则第m帧状态估计值为:
步骤23、混合分布权值求取(l=1,...,k)步骤,具体包括:
步骤23a、由均匀采样初始轨迹粒子集
步骤23b、根据步骤(2)计算新粒子权值
步骤23c、计算和
步骤23d、归一化和
步骤23e、设初值为1/k,由式(1)和(2)用梯度下降法求
获得估计值(Δx,Δy)即为所求的全局运动矢量变化量(Δxk,Δyk),将Δxk和Δyk分别临帧相加就可获得最终的运动补偿矢量。
其中,所述步骤3具体包括:
步骤31、将起始帧作为参考帧,并根据以下对抖动图像进行补偿;
其中,v(n)表示当前帧的运动补偿矢量,i表示参考帧,m(i)表示获取的帧间运动矢量;
步骤32、比较v(n)是否大于预设阈值T;如果|v(n)|>T,则累积值已达到最大值,需要更换参考帧,以当前帧确定为新的参考帧,令v(n)=m(n),返回步骤31;否则直接返回步骤31。
本发明的上述技术方案的有益效果如下:上述方案相比较现有的图像处理算法具有以下优点:本发明实施例的方法中引入图像多分辨处理以及基于二分查找法的搜索算法,以降低灰度投影算法的运算量。同时采用分块统计最多样本法解决图像中运动物体的干扰。本发明实施例采用改进的实时粒子滤波方法,解决传统粒子滤波无法满足实时性的问题。且本发明实施例引入自适应相邻帧补偿算法解决相邻帧累积误差的问题。
附图说明
图1为本发明实施例的流程图;
图2为本发明实施例中对运动估计的流程图;
图3为图像分辨率表示原理图;
图4为图像低通滤波多分辨率分解示意图;
图5为预定子区域选择的原理图;
图6为图像分块的实际图;
图7为估计窗实时粒子滤波的原理图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。
本发明中涉及的参考文献为以下四篇,本发明实施例中将该四篇参考文献全文引用于此:
(1)朱娟娟.电子稳像理论及其应用研究[D].西安电子科技大学,2009。
(2)李计添,何永强,陈财森,等.一种基于灰度投影算法的车载电子稳像方法[J].红外技术,2010,32(6):328-332。
(3)蒋蔚.粒子滤波改进算法研究与应用[D].哈尔滨工业大学,2010。
(4)王硕.基于运动估计和运动分离等技术的电子稳像算法研究[D].哈尔滨工业大学,2014。
本发明实施例提出了一种基于多分辨率灰度投影的电子稳像方法,包括:
步骤1、利用下采样的当前图像和参考图像确定是否有前景局部运动物体,并以此获取获取全局运动矢量;
步骤2、采用改进的实时粒子滤波方法,在滤除随机抖动的同时保留摄像机自身的主动扫描运动;
步骤3、采用自适应相邻帧补偿方法,解决相邻帧累积误差的问题。
其中,所述步骤1具体包括:
步骤11、提取当前图像,并确定参考图像;分别对当前图像和参考图像进行直方图均衡化处理以提高图像的对比度;(其中当前图像、参考图像也称为当前帧、参考帧);
步骤12、然后分别对所述当前图像和参考图像多次进行下采样以获取n层多个不同分辨率的图像;
步骤13、分别获取当前图像和参考图像的低分辨率图像,并分别对当前图像和参考图像的低分辨率图像的预定子区域进行行列投影,并通过基于二分查找法的搜索方法计算预定子区域的第一运动矢量V1;然后分别对当前图像和参考图像的低分辨率图像的非预定子区域的其他区域进行行列投影,并通过基于二分查找法的搜索方法计算所述其他区域的第二运动矢量V2;
步骤14、将第一运动矢量V1与第二运动矢量V2的差值与预设阈值T进行比较;如果|V1-V2|≤T则没有前景局部运动物体,跳转到步骤15;如果|V1-V2|>T则有前景局部运动物体,跳转到步骤16;
步骤15、计算全局运动矢量V;所述全局运动矢量V=V1×2n-1,其中n为采样层数,步骤结束;
步骤16、将原始的参考图像和当前图像进行分块,并逐一确定参考图像和当前图像的分块之间的对应关系,然后将每一对对应的子块之间通过灰度投影算法获取每一子块的运动矢量,并将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3。
灰度投影算法对图像中每一个像素进行灰度映射及相关计算,因此如何进一步通过相关研究减少算法计算量,提高运算速度,对于实时电子稳像具有重要意义。本发明实施例中采用多分辨分层的思想对原始图像进行分层,在低分辨率的图像中对图像进行投影算法操作,这样就可以减小算法的运算量,而且灰度投影算法以图像灰度信息为基础进行运算的,因此不会影响算法整体性能。
视频图像序列的多分辨率原理如图3所示,图像的多分辨描述也可称为金字塔描述,可采用低通滤波或者采样的方法得到。图像多分辨表示后,就可对图像采用分层表示,最低层图像的分辨率最高,层数越高其分辨率越小,图像的分辨率在最上层时最低。
如图4所示的,所述步骤12具体包括:
步骤121、对原始图像f,获取图像的最大分辨率层f1,也称为高分辨率层,一般来说是第1层图像;
步骤122、先将最大分辨率层f1进行低通滤波处理,其中滤波算子为H;将低通滤波后的图像根据公式(1)进行下采样处理以这样就得到第2层图像f2,
fn(i,j)=fn-1(2i,2j),n=2,3,...,n (1);
以此类推,最终获得n层多分辨图像fn;
其中fn(i,j)为第n层图像中像素点(i,j)的灰度值,其中i,j为该像素点的坐标。
在步骤13中,对于预定子区域和其他区域,都是采用了基于二分查找法的搜索方法来计算运动矢量。
灰度投影算法在相关运算时,需要对每一个矢量经过一次相关运算来获得最佳的匹配,这样就使得运算量相对较大。由匹配准则可知波谷位置对应全局运动矢量值,由行、列投影相关曲线图中可知,相关曲线具有显著的单峰特性;也就是在搜索范围内,曲线的数值先单调下降,到达实际运动矢量的波谷位置时最小,接着数据值又单调增加。基于相关曲线的这个特性,可以采用二分查找法作为灰度投影算法的搜索方法,这样就可以减小算法的计算量,加快运算速度。
本发明实施例中以列方向相关计算为例,介绍基于二分查找法的搜索算法。其中全局搜索范围为[m-M,M-m],水平运动量dx就是目标值,则步骤13中的基于二分查找法的搜索方法具体包括:
步骤131、计算初始区间[a,b]端点的相关函数值:Ca=C(a)及Cb=C(b);其中a=m-M,b=M-m;
步骤132、判断a=b是否成立,如果是则将相关函数值作为水平运动量,dx=a,步骤结束,如果否则跳转到步骤133;
步骤133、确定区间[a,b]中心值c,c=(a+b)/2;然后计算中心值c的相关函数值Cc,其中Cc=C(c);
步骤134、比较端点的相关函数值,确定下一步的搜索区间:
判断Ca<Cb是否成立,如果是则目标值dx∈[a,c],将b=c,Cb=Cc,返回到步骤132;如果否则目标值dx∈[c,b],将a=c,Ca=Cc,返回到步骤132。
对于监控图像来说,其出现移动物体的位置通常是固定的;因此在步骤13中是将预定预定子区域的图像提取出来,然后与其他区域进行对比,以确定是否有运动物体。例如在井下工作环境中,当机车在行进的过程中,井下工作的矿工为避免发生危险事故一般不会出现在图像中心子区域中。可以根据矿井车载摄像系统获取的图像中预定子区域无运动物体这一特点,作为算法的一个参考项。即将当前图像和参考图像的低分辨率图像中的预定子区域,与其他区域,分别进行灰度投影计算,然后对两者的运动矢量进行判断,从而确定图像中是否存在运动物体。以图像大小640*480为例,其预定子区域大小可以为{(220,50),(420,300)},其效果图如5所示。当然这都是举例说明,可以任意设定预定子区域的位置,且可以设置多个预定子区域。
前述的步骤16是为了消除局部运动物体的影响;即将原始的参考图像和当前图像进行分块,并逐一确定参考图像和当前图像的分块之间的对应关系,然后将每一对对应的子块之间通过灰度投影算法获取每一子块的运动矢量,并将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3。
摄像机在实际现场拍摄时,场景中有时会有前景运动物体的存在,这样就使得图像中某些像素点的运动矢量的大小和方向与其它像素点不一样,这样就会造成运动估计的精度降低。因此本发明实施例中采用分块统计最多样本法解决这一问题,以达到精确计算全局运动矢量的目的。即:首先对图像进行分块,利用灰度投影算法求取所有子块的运动矢量,然后采用统计最多样本法获得正确的背景运动类矢量,即全局运动矢量。
在所述步骤16中的将原始的参考图像和当前图像进行分块,其原理为:由于子块的大小对全局运动矢量的估计以及灰度投影运算的复杂度有着直接的影响。如果子块划分的过大,将会导致子块的数目减少一部分,这样就不能达到想要通过子块局部运动来对图像全局运动矢量估计的目的了。但是如果子块划分的过小,那么由于每个子块所包含的信息量就会相应的减少,导致投影曲线变化不是很明显,易产生错误的运动矢量。因此,为了得到准确的全局运动矢量,对子块的大小进行合理地划分是一个很重要的步骤。在进行子块的划分时需要考虑的因素有很多,比如子块内的灰度信息是否丰富、图像的像面大小以及子块的数量等等。
在本发明实施例中,将子块划分为64×64个像素点,并采用将子块用隔行隔列的方式来排列,如下图6所示。采取这种方法考虑到两点:
尽可能包含图像中各个区域的图像,避免子块集中在某个区域影响算法的精确性。图像中相邻区域之间灰度非常接近,因此可去除相邻区域,在保证算法精度的前提下又可减小计算量。
即,在所述步骤16中的将原始的参考图像和当前图像进行分块,具体包括:将原始的参考图像和当前图像切割为多个分块,每一分块包括64×64个像素点;将所述每一分块与相邻的分块之间间隔预定距离设置。
在步骤16中每一对对应的子块之间通过灰度投影算法获取每一子块的运动矢量。进一步的,在获取了各子块的运动矢量以后,需要对这些局部运动矢量进行分析处理,以提取出准确的全局运动矢量。当图像中没有局部物体运动干扰时,子块的运动矢量可以很好的代表全局运动矢量。但是当图像中存在局部运动物体时,子块的运动矢量就不能够代表全局运动矢量;因此本发明实施例中需要采用一些方法剔除掉代表局部运动物体块的运动矢量,以提取出全局运动矢量。此外,在视频图像中是同时存在局部运动与背景运动这两种运动形式的,而通常它们的运动速度是不同的。按照运动一致性的原理,在我们获得了子块的运动矢量之后就能够使用统计的方法把运动矢量划分为两大类,即局部物体运动类与背景运动类,背景运动类的运动矢量是我们想要获取的,也就是全局运动矢量。
在本发明实施例的步骤16中,将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3。其中统计最多样本法的基本思想:首先将子块的水平运动矢量和垂直运动矢量分为两个样本集合,统计集合中每一个样本的个数,其中个数最多的那个样本值就是全局运动矢量。实际工程应用中,期望的运动矢量(背景块运动矢量)的样本个数一般是最多的,局部运动矢量即使也比较多,但是由于运动一致性原则,单个样本值的数目一定不会是最多的。
下面以求全局运动矢量中垂直运动矢量为例,统计最多样本法的步骤为:
把子块的水平运动矢量组成一个样本集合{yi|i=1,2,...,N};
将集合中的样本分为k(k<N)类;
将类中的样本与集合中的样本值逐一进行比较,并记下每一个类中样本的个数mi,i=1,2,...,k;
找出样本个数的最大值m=max(mi|i=1,2,...,k),此时最大值对应的样本值就是需要的垂直运动矢量。
在步骤2中,采用实时粒子滤波方法,在滤除随机抖动的同时保留摄像机自身的主动扫描运动。
粒子滤波对非线性系统采用近似加权的方式获取状态估计,而没有做线性化处理,因此准确度更高。但是现有的粒子滤波算法需要对所有的粒子进行更新,而且需要大量的粒子作为辅助,所以计算很大,难以满足实时处理。
针对上述存在的问题,本发明实施例采用的实时粒子滤波方法可以成为“估计窗实时粒子滤波方法”,具体包括:
估计窗确定步骤,设置观测间隔ε,采样粒子数为N,且在一个估计窗内有k个观测值到来,则粒子滤波器的一个更新周期为kε,一个更新周期即为一个估计窗,估计窗大小由观察值个数表示。本发明实施例的估计窗实时粒子滤波方法的原理为:一个估计窗口内会接收到的观察值为k,则将N个粒子根据权值分割成k个粒子子集,每个粒子子集的个数为ni=αigN;根据观测值对每一个粒子子集进行粒子滤波,将获取的粒子子集估计值采用加权和的方式进行处理,获得最终的状态估计。如图7所示的为k=3时的估计窗实时滤波算法原理图。
则本发明实施例的步骤2具体包括:
步骤21、初始化步骤,包括:图像序列的帧数为m,其中第k帧全局运动矢量的变化量为(Δxm,Δym);在m=0时进行初始化处理,采样获取初始粒子集每个粒子同时代表了一对值;根据估计窗宽度k,混合分布权值初值则通过以下方法对粒子进行采样:
其中,λ为常数,取值范围为λ∈[-1,1],m表示运动补偿的最大量。
步骤22、估计窗内粒子滤波运算(l=1,2...,k)步骤,包括:
步骤22a、系统转移方程及观测方程步骤:
当视频图像更新到第m帧时,首先将粒子集按权值分成k个子粒子集此时每一个粒子状态空间模型为
此时状态转移矩阵为
其中,α,β为常量,一般取α=β=1,O表示均值为零白噪声。计算后可获得并将认定为观测量。粒子之间的相似度定义如下:
则观测概率密度函数为
其中,σ为常数。
此时,粒子权值的递推公式为
归一化权值为:
步骤22b、重采样步骤:
设重采样阈值为Nth,当Nth≥Neff时,对替代更换获得新的粒子集并且将全部粒子的权值设定为
步骤22c、获取m帧状态估计值步骤:
单个观测值的后验概率密度函数为:
那么,第m帧状态估计值为:
步骤23、混合分布权值求取(l=1,...,k)步骤,具体包括:
步骤23a、由均匀采样初始轨迹粒子集
步骤23b、根据步骤(2)计算新粒子权值
步骤23c、计算和
步骤23d、归一化和
步骤23e、设初值为1/k,由式(1)和(2)用梯度下降法求
获得估计值(Δx,Δy)即为所求的全局运动矢量变化量(Δxk,Δyk),将Δxk和Δyk分别临帧相加就可获得最终的运动补偿矢量。
步骤3、采用自适应相邻帧补偿方法以消除相邻帧累积误差。
现有的相邻帧补偿算法的原理是:在相邻帧补偿时,每一帧的运动补偿矢量为:
其中,v(n)表示当前帧的运动补偿矢量,i表示参考帧,m(i)表示获取的帧间运动矢量。
由公式(3)可知当前帧的运动补偿矢量为其前面所有帧的运动矢量累积和,这样就使得上一帧存在的计算误差会一直延续并累积,这样就造成图像边界缺失的部分会慢慢的变大,对稳像的效果造成很大的影响,同时也不能够长时间连续进行稳像。针对现有的相邻帧补偿累积误差的情况,本发明实施例步骤3中的采用自适应相邻帧补偿方法以消除相邻帧累积误差,具体包括:
步骤31、将起始帧作为参考帧,并根据公式(3)对抖动图像进行补偿;
步骤32、比较v(n)是否大于预设阈值T;如果|v(n)|>T,则累积值已达到最大值,需要更换参考帧,以当前帧确定为新的参考帧,令v(n)=m(n),返回步骤31;否则直接返回步骤31。
当T取值较大时,同样会出现相邻帧累积误差的问题,T取值太小时,又会因为频繁更换参考帧而导致图产生跳变现象。本发明实施例中根据实际现场摄像系统的运动情况,将T设为图像大小的20%。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (5)
1.一种基于多分辨率灰度投影的电子稳像方法,其特征在于,包括:
步骤1、利用下采样的当前图像和下采样的参考图像确定是否有前景局部运动物体,并以此获取全局运动矢量;
步骤2、采用实时粒子滤波方法,在滤除随机抖动的同时保留摄像机自身的主动扫描运动;
步骤3、通过可变的参考帧,采用自适应相邻帧补偿方法以消除相邻帧累积误差;
所述步骤3具体包括:
步骤31、将起始帧作为参考帧,并根据以下对抖动图像进行补偿;
其中,v(n)表示当前帧的运动补偿矢量,i表示参考帧,m(i)表示获取的帧间运动矢量;
步骤32、比较v(n)是否大于预设阈值T;如果|v(n)|>T,则累积值已达到最大值,需要更换参考帧,以当前帧确定为新的参考帧,令v(n)=m(n),返回步骤31;否则直接返回步骤31;
所述步骤1具体包括:
步骤11、提取当前图像,并确定参考图像;分别对当前图像和参考图像进行直方图均衡化处理以提高图像的对比度;
步骤12、然后分别对所述当前图像和参考图像多次进行下采样以获取n层多个不同分辨率的图像;
步骤13、分别获取当前图像和参考图像的低分辨率图像,并分别对当前图像和参考图像的低分辨率图像的预定子区域进行行列投影,并通过基于二分查找法的搜索方法计算预定子区域的第一运动矢量V1;然后分别对当前图像和参考图像的低分辨率图像的非预定子区域的其他区域进行行列投影,并通过基于二分查找法的搜索方法计算所述其他区域的第二运动矢量V2;
步骤14、将第一运动矢量V1与第二运动矢量V2的差值与预设阈值T进行比较;如果|V1-V2|≤T则没有前景局部运动物体,跳转到步骤15;如果|V1-V2|>T则有前景局部运动物体,跳转到步骤16;
步骤15、计算全局运动矢量V;所述全局运动矢量V=V1×2n-1,其中n为采样层数,步骤结束;
步骤16、将原始的参考图像和当前图像进行分块,并逐一确定参考图像和当前图像的分块之间的对应关系,然后将每一对对应的子块之间通过灰度投影算法获取每一子块的运动矢量,并将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3;
所述步骤2具体包括:
步骤21、初始化步骤,包括:图像序列的帧数为m,其中第k帧全局运动矢量的变化量为(Δxm,Δym);在m=0时进行初始化处理,采样获取初始粒子集每个粒子同时代表了一对值;根据估计窗宽度k,混合分布权值初值则通过以下方法对粒子进行采样:
其中,λ为常数,取值范围为λ∈[-1,1],m'表示运动补偿的最大量;
步骤22、估计窗内粒子滤波运算l=1,2...,k步骤,包括:
步骤22a、系统转移方程及观测方程步骤:
当视频图像更新到第m帧时,首先将粒子集按权值分成k个子粒子集此时每一个粒子状态空间模型为
此时状态转移矩阵为
其中,α,β为常量,O表示均值为零白噪声;计算后可获得并将认定为观测量;粒子之间的相似度定义如下:
则观测概率密度函数为
其中,σ为常数;
此时,粒子权值的递推公式为
归一化权值为:
步骤22b、重采样步骤:
设重采样阈值为Nth,当Nth≥Nef时,对替代更换获得新的粒子集并且将全部粒子的权值设定为
步骤22c、获取m帧状态估计值步骤:
单个观测值的后验概率密度函数为:
则第m帧状态估计值为:
步骤23、混合分布权值求取l=1,...,k步骤,具体包括:
步骤23a、由均匀采样初始轨迹粒子集
步骤23b、根据步骤(2)计算新粒子权值
步骤23c、计算和
步骤23d、归一化和
步骤23e、设初值为1/k,由式(1)和(2)用梯度下降法求
获得估计值即为所求的全局运动矢量变化量(Δxk,Δyk),将Δxk和Δyk分别临帧相加就可获得最终的运动补偿矢量。
2.根据权利要求1所述的基于多分辨率灰度投影的电子稳像方法,其特征在于,所述步骤12具体包括:
步骤121、对原始图像f,获取图像的最大分辨率层f1,也称为高分辨率层,一般来说是第1层图像;
步骤122、先将最大分辨率层f1进行低通滤波处理,其中滤波算子为H;将低通滤波后的图像根据以下公式进行下采样处理以这样就得到第2层图像f2,
fn(i,j)=fn-1(2i,2j),n=2,3,...,n;
以此类推,最终获得n层多分辨图像fn;
其中fn(i,j)为第n层图像中像素点(i,j)的灰度值,其中i,j为该像素点的坐标。
3.根据权利要求1所述的基于多分辨率灰度投影的电子稳像方法,其特征在于,在步骤13中的采用基于二分查找法的搜索方法来计算运动矢量,具体包括:
通过以下方法计算列方向的运算矢量:其中全局搜索范围为[h-H,H-h],水平运动量为dx,具体包括:
步骤131、计算初始区间[a,b]端点的相关函数值:Ca=C(a)及Cb=C(b);其中a=h-H,b=H-h;
步骤132、判断a=b是否成立,如果是则将相关函数值作为水平运动量,dx=a,步骤结束,如果否则跳转到步骤133;
步骤133、确定区间[a,b]中心值c,c=(a+b)/2;然后计算中心值c的相关函数值Cc,其中Cc=C(c);
步骤134、比较端点的相关函数值,确定下一步的搜索区间:
判断Ca<Cb是否成立,如果是则目标值dx∈[a,c],将b=c,Cb=Cc,返回到步骤132;如果否则目标值dx∈[c,b],将a=c,Ca=Cc,返回到步骤132;
通过相同的方法计算行方向的运算矢量。
4.根据权利要求1所述的基于多分辨率灰度投影的电子稳像方法,其特征在于,所述步骤16中,将所述参考图像和当前图像的原始图像分割为64×64个像素点,并采用将子块用隔行隔列的方式来排列。
5.根据权利要求1所述的基于多分辨率灰度投影的电子稳像方法,其特征在于,所述步骤16中,将所有运动矢量通过统计最多样本值法求取运动矢量V3作为全局运动矢量V;V=V3,具体包括
通过统计最多样本法计算全局运动矢量中垂直运动矢量:
把所有子块的垂直运动矢量组成一个样本集合{yi|i=1,2,...,N};
将集合中的样本分为k类;其中k<N;
将类中的样本与集合中的样本值逐一进行比较,并记下每一个类中样本的个数mi,i=1,2,...,k;
找出样本个数的最大值m=max(mi|i=1,2,...,k),此时最大值对应的样本值就是需要的垂直运动矢量;
通过相同的方法计算水平运动矢量。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610392684 | 2016-06-06 | ||
CN2016103926843 | 2016-06-06 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106375659A CN106375659A (zh) | 2017-02-01 |
CN106375659B true CN106375659B (zh) | 2019-06-11 |
Family
ID=57899529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610814950.7A Active CN106375659B (zh) | 2016-06-06 | 2016-09-09 | 基于多分辨率灰度投影的电子稳像方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106375659B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019205129A1 (en) * | 2018-04-28 | 2019-10-31 | SZ DJI Technology Co., Ltd. | Motion estimation |
CN108805832B (zh) * | 2018-05-29 | 2022-02-08 | 重庆大学 | 适于隧道环境特性的改进灰度投影稳像方法 |
CN108965842A (zh) * | 2018-07-16 | 2018-12-07 | 安徽国通亿创科技股份有限公司 | 一种基于低带宽的在线互动直播视频图像优化算法 |
CN109743495B (zh) * | 2018-11-28 | 2021-02-09 | 深圳市中科视讯智能系统技术有限公司 | 视频图像电子增稳方法及装置 |
CN110505485B (zh) * | 2019-08-23 | 2021-09-17 | 北京达佳互联信息技术有限公司 | 运动补偿方法、装置、计算机设备以及存储介质 |
CN115442522B (zh) * | 2022-08-10 | 2023-11-21 | 深圳市贝嘉技术有限公司 | 基于显微镜的成像调整方法、装置、设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102231792A (zh) * | 2011-06-29 | 2011-11-02 | 南京大学 | 基于特征匹配的电子稳像方法 |
CN102622764A (zh) * | 2012-02-23 | 2012-08-01 | 大连民族学院 | 一种基于移动相机平台的目标跟踪方法 |
CN103426182A (zh) * | 2013-07-09 | 2013-12-04 | 西安电子科技大学 | 基于视觉注意机制的电子稳像方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3679988B2 (ja) * | 2000-09-28 | 2005-08-03 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
JP4695972B2 (ja) * | 2005-12-14 | 2011-06-08 | キヤノン株式会社 | 画像処理装置、撮像装置および画像処理方法 |
-
2016
- 2016-09-09 CN CN201610814950.7A patent/CN106375659B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102231792A (zh) * | 2011-06-29 | 2011-11-02 | 南京大学 | 基于特征匹配的电子稳像方法 |
CN102622764A (zh) * | 2012-02-23 | 2012-08-01 | 大连民族学院 | 一种基于移动相机平台的目标跟踪方法 |
CN103426182A (zh) * | 2013-07-09 | 2013-12-04 | 西安电子科技大学 | 基于视觉注意机制的电子稳像方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106375659A (zh) | 2017-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106375659B (zh) | 基于多分辨率灰度投影的电子稳像方法 | |
CN109791696B (zh) | 用于场景的3d重建的方法、设备和定位事件摄像机的方法 | |
CN109242884B (zh) | 基于JCFNet网络的遥感视频目标跟踪方法 | |
CN102494675B (zh) | 一种运动目标特征高速视觉捕捉方法 | |
US9589328B2 (en) | Globally dominant point spread function estimation | |
JPH06511339A (ja) | センサの動きとシーン構造を決定する方法及びイメージ処理システム | |
CN110910421B (zh) | 基于分块表征和可变邻域聚类的弱小运动目标检测方法 | |
CN104282003A (zh) | 一种基于梯度筛选的数字模糊图像盲复原方法 | |
CN108492312B (zh) | 光照变化下基于逆向稀疏表示的视觉跟踪方法 | |
EP2916537A1 (en) | Image processing device | |
CN110689554B (zh) | 用于红外图像序列的背景运动估计方法、装置及存储介质 | |
Kryjak et al. | Real-time implementation of foreground object detection from a moving camera using the vibe algorithm | |
Bhattacharya et al. | Evdnerf: Reconstructing event data with dynamic neural radiance fields | |
DE102004026782A1 (de) | Verfahren und Vorrichtung zur rechnergestützten Bewegungsschätzung in mindestens zwei zeitlich aufeinander folgenden digitalen Bildern, computerlesbares Speichermedium und Computerprogramm-Element | |
CN100382567C (zh) | 从因隔行采样引起降质的图像中重建超分辨率图像的方法 | |
Nestares et al. | Probabilistic estimation of optical flow in multiple band-pass directional channels | |
Grimaldi et al. | Detection and parameters estimation of locally motion blurred objects | |
Mohana et al. | Vehicle detection and counting by using real time traffic flux through differential technique and performance evaluation | |
RU2522044C1 (ru) | Устройство выделения контуров объектов на текстурированном фоне при обработке цифровых изображений | |
Zhang et al. | An automated video object extraction system based on spatiotemporal independent component analysis and multiscale segmentation | |
Yusiong et al. | Unsupervised monocular depth estimation of driving scenes using siamese convolutional LSTM networks | |
CN106296688A (zh) | 基于全局估计的影像模糊检测方法及系统 | |
JP2001307104A (ja) | 動画像のオブジェクト抽出装置 | |
Wang et al. | Supervised texture segmentation using wavelet transform | |
CN112529936B (zh) | 一种用于室外无人机的单目稀疏光流算法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |