CN105611116B - 一种全局运动矢量估计方法及监控视频稳像方法及装置 - Google Patents

一种全局运动矢量估计方法及监控视频稳像方法及装置 Download PDF

Info

Publication number
CN105611116B
CN105611116B CN201510980353.7A CN201510980353A CN105611116B CN 105611116 B CN105611116 B CN 105611116B CN 201510980353 A CN201510980353 A CN 201510980353A CN 105611116 B CN105611116 B CN 105611116B
Authority
CN
China
Prior art keywords
characteristic point
motion vector
global motion
image
sampling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510980353.7A
Other languages
English (en)
Other versions
CN105611116A (zh
Inventor
赵海宾
汤峰峰
章勇
曹李军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Keda Technology Co Ltd
Original Assignee
Suzhou Keda Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Keda Technology Co Ltd filed Critical Suzhou Keda Technology Co Ltd
Priority to CN201510980353.7A priority Critical patent/CN105611116B/zh
Publication of CN105611116A publication Critical patent/CN105611116A/zh
Application granted granted Critical
Publication of CN105611116B publication Critical patent/CN105611116B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection

Abstract

本发明提供的全局运动矢量估计方法和监控视频稳像方法,根据上采样图像全局运动矢量和修正全局运动矢量计算最终的全局运动矢量。通过在下采样图像中进行特征点检测和匹配,可以快速估计出全局运动,然后在匹配的特征点上做块匹配,块匹配精度和效率更高。根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;判断所述抖动运动矢量是否超出预设范围,若未超出则根据抖动运动矢量进行图像补偿,输出稳像图像。针对监控视频的特点,对其图像进行防抖处理,技术选择更合理,更有针对性,在保证算法有效的情况下,选择复杂度低的算法来实现,更加高效实时。

Description

一种全局运动矢量估计方法及监控视频稳像方法及装置
技术领域
本发明涉及视频图像处理领域,具体涉及一种全局运动矢量估计方法及监控视频稳像方法及装置。
背景技术
随着监控技术的发展,视频监控的应用场合越来越多。监控摄像机在许多应用场合会发生抖动,如交通路口的摄像机会由于刮风或者通过车辆的震动发生抖动。由于摄像机发生震动或抖动,使视频图像不稳定,高变倍摄像机的影响更加明显。
不稳定的图像容易使观察者的视觉感到疲劳。相反,稳定的视频图像可以更好地表现图像细节,从而提高视频监控的质量。同时,稳定的图像为后端的数字视频记录设备提供了更有利于压缩的视频源,能大幅提高压缩比,可以在相同的码流下获得更高质量的压缩后图像,提高了传输信道的带宽,提高了通信系统的效率。
监控摄像机有其特殊性,一般情况下监控摄像机自身不存在运动,而且抖动形式也相对简单,基本都是平移运动,所以防抖动技术也更应有针对性,应和手持设备的防抖技术区别开来。
中国专利文献102547066A中公开了一种基于景像配准技术的视频稳像方法,可对待处理视频文件的每个单帧图像主要进行如下处理:设定图像帧中央的一个区块为显示子图,它取自图像帧,并且与图像帧显示在同一画面中;以前一图像帧的显示子图为配准模板;将当前图像帧与前一图像帧做配准计算,在当前图像帧中寻找与前一图像帧中相匹配的显示子图;将匹配的显示子图作为当前图像帧的显示子图,并将该显示子图作为新配准模板,供下一图像帧配准计算时使用;对前面多幅图像帧的显示子图坐标值相对于各自图像帧的坐标值做累计并计算运动平均值,以所述运动平均值调整显示子图在当前图像帧中的位置。该方案的不足之处在于景像匹配技术都比较复杂,不适合实时处理场景;同时运动平滑处理使用前面30帧的运动数据来平滑,有很大延迟不适合实时处理;而且需要在不抖动期间确定显示子图的位置,这个也不符合实际情况。
此外,在中国专利文献102665033A中公开一种基于分层块匹配的实时数字视频稳像方法,其包括如下步骤:首先对输入图像做下采样处理;然后对下采样图像内M个搜索块进行设定范围的全搜索;在下采样图像搜索块中选取最佳运动矢量并输出;根据下采样图像最佳运动矢量在原始图像中进一步做求精全搜索,并输出原始图像最终运动矢量;对原始图像运动轨迹低通平滑滤波,并计算图像补偿量;根据图像补偿量对当前图像进行补偿。该方案的不足之处在于普通分层块匹配的效率并没有那么高,块的大小和搜索窗口的选择直接影响精度和效率,对于弱纹理区域块匹配会出现偏差且浪费时间,特别对于目前1080p甚至4K视频来说,实时性很难保证。
发明内容
因此,本发明要解决的技术问题在于克服现有技术中的视频稳像处理方法延时长、效率低的缺陷。
本发明提供一种全局运动矢量估计方法,包括如下步骤:
对当前帧图像在水平及垂直方向进行下采样;
对下采样后的当前帧图像进行特征点检测得到特征点;
针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像对应特征点的位置进行块匹配,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量;
对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量;
对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量;
根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。
优选地,所述对下采样后的当前帧图像进行特征点检测得到特征点的步骤中,使用特征点检测阈值对下采样后的图像进行FAST特征点检测。
优选地,在所述对当前帧图像在水平及垂直方向进行下采样的步骤之前,还包括获取所述特征点检测阈值的步骤,该步骤包括:
分别在水平方向和垂直方向对上一帧图像进行下采样;
使用预设阈值对下采样后的图像进行特征点检测,统计检测到的特征点的数量;
根据所述特征点的数量获取所述特征点检测阈值。
优选地,所述根据所述特征点的数量获取所述特征点检测阈值的步骤,包括:
判断所述特征点的数量是否满足设定数量,如少于设定数量则减小预设特征点检测阈值得到调整阈值,如大于设定数量则增加所述预设特征点检测阈值得到调整阈值,使用调整阈值对下采样后的图像再次进行特征点检测,统计检测到的特征点的数量并循环本步骤,直至所述得到的特征点的数量满足设定的数量,将最后的调整阈值作为最终的特征点检测阈值。
优选地,所述根据所述特征点的数量获取特征点检测阈值的步骤,包括:
判断所述特征点的数量是否满足设定数量,如少于设定数量则减小预设特征点检测阈值得到调整阈值,如大于设定数量则增加所述预设特征点检测阈值得到调整阈值,使用调整阈值对下采样后的图像再次进行特征点检测,统计检测到的特征点的数量并循环本步骤,判断循环的次数是否达到预设最大值,如未达到则循环本步骤直至所述得到的特征点的数量满足设定的数量,将最后的调整阈值作为最终的特征点检测阈值;若循环的次数达到预设最大值,则将当前的调整阈值作为最终的特征点检测阈值。
本发明提供一种监控视频稳像方法,包括如下步骤:
采用所述的方法获取全局运动矢量;
对全局运动矢量进行平滑处理得到全局运动平滑矢量;
根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;
判断所述抖动运动矢量是否超出预设范围,若未超出则根据抖动运动矢量进行图像补偿,输出稳像图像。
优选地,还包括若所述抖动运动矢量超出预设范围,则调整特征点检测阈值后重新计算全局运动矢量。
本发明提供一种全局运动矢量估计装置,包括:
下采样单元,用于对当前帧图像在水平及垂直方向进行下采样;
特征点检测单元,用于对下采样后的当前帧图像进行特征点检测得到特征点;
下采样图像全局运动矢获取单元,用于针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像对应特征点的位置进行块匹配,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量;
上采样图像全局运动矢量获取单元,用于对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量;
修正全局运动矢量获取单元,用于对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量;
全局运动矢量输出单元,用于根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。
本发明还包括特征点检测阈值获取单元,用于获取所述特征点检测阈值。
本发明还提供一种监控视频稳像装置,包括:
全局运动矢量估计装置,用于获取全局运动矢量;
全局运动平滑矢量获取单元,用于对全局运动矢量进行平滑处理得到全局运动平滑矢量;
抖动运动矢量计算单元,用于根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;
判断单元,用于判断所述抖动运动矢量是否超出预设范围;
稳像图像输出单元,抖动运动矢量未超出预设范围时,根据抖动运动矢量进行图像补偿,输出稳像图像。
本发明技术方案,具有如下优点:
1.本发明提供一种全局运动矢量估计方法,对下采样后的当前帧图像进行特征点检测得到特征点;针对检测到的特征点进行块匹配,获取下采样图像全局运动矢量。然后对图像进行上采样,在上采样后的当前帧图像中,对之前匹配上的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算出修正全局运动矢量;最后,根据上采样图像全局运动矢量和修正全局运动矢量计算最终的全局运动矢量。通过该方案来获取全局运动矢量,运算复杂度低,可以实现高清图像的实时处理,通过在下采样图像中进行特征点检测和匹配,可以快速估计出全局运动,然后在匹配的特征点上做块匹配,块匹配精度和效率更高。
2.本发明提供一种监控视频稳像方法,获取全局运动矢量,并得到全局运动平滑矢量,根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;判断所述抖动运动矢量是否超出预设范围,若未超出则根据抖动运动矢量进行图像补偿,输出稳像图像。针对监控视频的特点,对其图像进行防抖处理,技术选择更合理,更有针对性,在保证算法有效的情况下,选择复杂度低的算法来实现,更加高效实时。
3.本发明提供的全局运动矢量估计方法和监控视频稳像方法中,特征点检测阈值根据当前情况来进行调整,从而使得特征点的数量满足要求,场景自适应能力强,采用自适应特征点检测阈值,可以在不同光照、不同气候条件下进行稳像处理。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例1中监控视频稳像方法整体的流程图;
图2为本发明实施例1中初始化防抖方法的流程图;
图3为本发明实施例1中监控视频稳像处理的流程图;
图4为本发明实施例1中全局运动矢量估计的流程图。
具体实施方式
下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,还可以是两个元件内部的连通,可以是无线连接,也可以是有线连接。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
此外,下面所描述的本发明不同实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
实施例1
本实施例中提供一种监控视频稳像方法,可用于对监控视频的图像进行处理,去除抖动对图像带来的影响,提高图像的质量。本实施例中的监控视频稳像方法,包括以下步骤,如图1所示:
第一步,初始化防抖,该步骤用于获取特征点的检测阈值,此步骤并非每次都执行,只在防抖最初阶段以及防抖处理失败之后才执行。具体步骤如下,如图2所示:
步骤1,分别在水平及垂直方向对输入的一帧图像分量进行N倍下采样处理,N可根据输入图像大小确定。本发明中针对1080p大小图像,N可设置为4。
步骤2,预设一个特征点检测阈值,根据该预设特征点检测阈值T对下采样图像进行FAST特征点检测。特征点的个数要求在一个范围内,如设定数量为(Fmin,Fmax),统计特征点个数是否少于设定数量Fmin,是则减小预设特征点检测阈值(T-m),减小该阈值后,可以检测到更多的特征点。否则判断特征点个数是否多于设定值Fmax,是则增加阈值(T+n),增加该阈值后检测到的特征点的个数会减少,这样就可以使得在任何情况下,检测到的特征点的数量都可以满足要求。否则设置当前阈值为最终阈值T,直接退出初始化防抖这一步骤。本实施例中预设特征点检测阈值可以设置为40,m为15,n为15,Fmin为200,Fmax为2000。
步骤3,判断调整次数是否超过了设定次数调整的最大值c,如果是,则直接设置当前调整值为最终阈值;否则继续根据步骤2进行调整,直到特征点个数满足要求或者调整次数达到最大值。本实施例中c设置为2。该步骤可以降低调整的次数,以免调整的次数过多,浪费时间。
该步骤中,通过调节特征点检测阈值使特征点个数满足设定要求,可通过多次比较检测特征点个数和设定范围来增加或者减小阈值并再次执行特征点检测算法来确定。
第二步,视频图像稳像处理,此步骤可在初始化防抖或者上一帧防抖处理之后进行,该步骤中当前处理帧为初始化帧的下一帧图像或者上一帧图像防抖处理完成后的下一帧图像。包括如下步骤,如图3所示:
步骤1,全局运动矢量估计。该步骤包括如下过程,如图4所示:
S1、对当前帧图像在水平及垂直方向进行下采样。分别在水平及垂直方向对输入图像分量进行N倍下采样处理,N的取值和初始化防抖中的一致;。
S2、对下采样后的当前帧图像进行特征点检测得到特征点。使用初始化防抖中得到的阈值T对下采样图像进行FAST特征点检测。
S3、针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像进行块匹配,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量。
设定全局运动最大范围,以当前帧特征点为中心得到大小为Wm*Hm9的图像块,并在搜索范围Ws*Hs9内对上一帧图像进行块匹配,得到匹配的特征点位置。本实施例中Wm和Hm可设置为9,Ws和Hs可设置为全局运动的最大范围。
之后,根据对应的匹配特征点计算运动矢量,根据匹配的特征点之间的差值,就可以得到该特征点的运动矢量,由于每个特征点计算得到的运动矢量存在差别,因此对各个运动矢量进行大小排序,取中值作为该步骤中获取的下采样图像全局运动矢量(dx,dy)。
S4、对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量。
对当前处理帧的图像和上一帧图像进行上采样至原始图像大小,对下采样的图像进行上采样时,上采样的次数可以和下采样的次数对应,也可以根据直接一次上采样至原始图像大小;不同的上采样方式对应不同的搜索范围。对运动矢量进行相应倍数的放大,放大的倍数与上采样的倍数相同,此处的放大是指通过插值等方式,使得运动矢量的个数与上采样后的特征点个数相对应,这样根据所述下采样图像全局运动矢量便可以计算出上采样图像全局运动矢量。
S5、对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量。
对于当前帧的匹配特征点在搜索范围内对上采样后的上一帧图像进行块匹配,此处的搜索范围可设置为[-4,4],块匹配后根据匹配的特征点可以计算该步骤中的运动矢量,并按S3步骤中取中值的方法得到该步骤中的修正全局运动矢量。
S6、根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。此处可以根据上采样图像全局运动矢量和所述修正全局运动矢量的累加获得全局运动矢量。
步骤2,全局运动矢量平滑处理。对初始化防抖之后的全局运动矢量进行累积,并使用Kalman滤波方法对累积的全局运动矢量进行平滑滤波,得到滤波之后的运动矢量。
步骤3,将全局运动平滑矢量与未平滑矢量相减得到抖动运动矢量。
步骤4,判断抖动运动矢量是否超出了设定范围,如果是则将抖动运动矢量置为0,并返回错误;否则进入步骤5。
步骤5,根据抖动运动矢量进行图像补偿,输出稳像图像。
第三步,如果防抖处理返回错误,则返回初始化防抖步骤,重新计算特征点检测阈值并重新对当前处理帧进行上述视频图像稳像处理;否则进入下一帧图像进行视频图像稳像处理,对下一帧图像进行防抖处理。
本实施例中的视频图像稳像方法,与现有的视频稳像技术相比,具有以下优点:1、场景自适应能力强。采用自适应特征点阈值,可以在不同光照、不同气候条件下进行稳像处理。2、运算复杂度低,可以实现高清图像的实时处理。通过在下采样图像中进行特征点检测和匹配,可以快速地估计全局运动,然后在匹配的特征点上做块匹配,使得块匹配精度和效率更高。3、技术选择更合理更有针对性。由于监控视频的特点,在保证算法有效的情况下,选择复杂度低的算法来实现。
实施例2
本实施例中提供一种全局运动矢量估计方法,可用于实施例1中的图像稳像处理中,也可以用于其他的需要获取全局运动矢量的过程中,本实施例中的全局运动矢量估计方法包括如下步骤:
S1、对当前帧图像在水平及垂直方向进行下采样。
S2、对下采样后的当前帧图像进行特征点检测得到特征点,使用特征点检测阈值对下采样后的图像进行FAST特征点检测。此处的特征点检测阈值可以预先设置,也可以采用其他方式通过调整来获得。
S3、针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像进行块匹配,此处的块匹配只在上一帧图像对应该特征点的位置进行,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量。
S4、对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量。
S5、对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量。
S6、根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。
通过该方案来获取全局运动矢量,运算复杂度低,可以实现高清图像的实时处理,通过在下采样图像中进行特征点检测和匹配,可以快速估计出全局运动,然后在匹配的特征点上做块匹配,是块匹配精度和效率更高。
本实施例中对下采样后的当前帧图像进行特征点检测得到特征点的步骤中,使用特征点检测阈值对下采样后的图像进行FAST特征点检测。
此外,上述过程中还包括根据当前的图像特征获取所述特征点检测阈值的步骤S0,该步骤S0包括:
S01、分别在水平方向和垂直方向对上一帧图像进行下采样;
S02、使用预设阈值对下采样后的图像进行特征点检测,统计检测到的特征点的数量;
S03、根据所述特征点的数量获取所述特征点检测阈值。具体为:判断所述特征点的数量是否满足设定数量,如少于设定数量则减小预设特征点检测阈值得到调整阈值,如大于设定数量则增加所述预设特征点检测阈值得到调整阈值,使用调整阈值对下采样后的图像再次进行特征点检测,统计检测到的特征点的数量并循环本步骤,直至所述得到的特征点的数量满足设定的数量,将最后的调整阈值作为最终的特征点检测阈值。
在步骤S03中还可以进一步对预设阈值的调整次数进行限制,在其他的实施方案中,该步骤S03包括:判断所述特征点的数量是否满足设定数量,如少于设定数量则减小预设特征点检测阈值得到调整阈值,如大于设定数量则增加所述预设特征点检测阈值得到调整阈值,使用调整阈值对下采样后的图像再次进行特征点检测,统计检测到的特征点的数量并循环本步骤,判断循环的次数是否达到预设最大值,如未达到则循环本步骤直至所述得到的特征点的数量满足设定的数量,将最后的调整阈值作为最终的特征点检测阈值;若循环的次数达到预设最大值,则将当前的调整阈值作为最终的特征点检测阈值。
这样,特征点检测阈值能够根据当前情况来进行调整,从而使得特征点的数量满足要求,场景自适应能力强,采用自适应特征点检测阈值,可以在不同光照、不同气候条件下进行稳像处理。
实施例3:
本实施例中提供一种监控视频稳像方法,包括如下步骤:
S31、获取全局运动矢量,可以使用实施例2中的全局运动矢量获取方法,或现有技术中的其他全局运动适量获取方法。
S32、对全局运动矢量进行平滑处理得到全局运动平滑矢量。对初始化防抖之后的全局运动矢量进行累积,并使用Kalman滤波方法对累积的全局运动矢量进行平滑滤波,得到滤波之后的运动矢量为全局运动平滑矢量。
S33、根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量。
S34、判断所述抖动运动矢量是否超出预设范围,若未超出则根据抖动运动矢量进行图像补偿,输出稳像图像,对下一帧图像进行处理。若所述抖动运动矢量超出预设范围,则调整特征点检测阈值后重新计算全局运动矢量,重复S31-S34对当前帧图像进行防抖处理。
实施例4:
本实施例中提供一种全局运动矢量估计装置,包括:
下采样单元,用于对当前帧图像在水平及垂直方向进行下采样;
特征点检测单元,用于对下采样后的当前帧图像进行特征点检测得到特征点;
下采样图像全局运动矢获取单元,用于针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像进行块匹配,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量;
上采样图像全局运动矢量获取单元,用于对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量;
修正全局运动矢量获取单元,用于对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量;
全局运动矢量输出单元,用于根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。
此外,还可以进一步包括特征点检测阈值获取单元,用于获取所述特征点检测阈值。
实施例5:
本实施例中提供一种监控视频稳像装置,包括:
实施例4中的所述的全局运动矢量估计装置,用于获取全局运动矢量;
全局运动平滑矢量获取单元,用于对全局运动矢量进行平滑处理得到全局运动平滑矢量;
抖动运动矢量计算单元,用于根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;
判断单元,用于判断所述抖动运动矢量是否超出预设范围;
稳像图像输出单元,抖动运动矢量未超出预设范围时,根据抖动运动矢量进行图像补偿,输出稳像图像。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,上述实施例仅仅是为清楚地说明所作的举例,而并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引伸出的显而易见的变化或变动仍处于本发明创造的保护范围之中。

Claims (10)

1.一种全局运动矢量估计方法,其特征在于,包括如下步骤:
对当前帧图像在水平及垂直方向进行下采样;
对下采样后的当前帧图像进行特征点检测得到特征点;
针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像对应特征点的位置进行块匹配,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量;
对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量;
对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量;
根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。
2.根据权利要求1所述的方法,其特征在于,所述对下采样后的当前帧图像进行特征点检测得到特征点的步骤中,使用特征点检测阈值对下采样后的图像进行FAST特征点检测。
3.根据权利要求1或2所述的方法,其特征在于,在所述对当前帧图像在水平及垂直方向进行下采样的步骤之前,还包括获取所述特征点检测阈值的步骤,该步骤包括:
分别在水平方向和垂直方向对上一帧图像进行下采样;
使用预设阈值对下采样后的图像进行特征点检测,统计检测到的特征点的数量;
根据所述特征点的数量获取所述特征点检测阈值。
4.根据权利要求3所述的方法,其特征在于,所述根据所述特征点的数量获取所述特征点检测阈值的步骤,包括:
判断所述特征点的数量是否满足设定数量,如少于设定数量则减小预设特征点检测阈值得到调整阈值,如大于设定数量则增加所述预设特征点检测阈值得到调整阈值,使用调整阈值对下采样后的图像再次进行特征点检测,统计检测到的特征点的数量并循环本步骤,直至所述得到的特征点的数量满足设定的数量,将最后的调整阈值作为最终的特征点检测阈值。
5.根据权利要求3所述的方法,其特征在于,所述根据所述特征点的数量获取特征点检测阈值的步骤,包括:
判断所述特征点的数量是否满足设定数量,如少于设定数量则减小预设特征点检测阈值得到调整阈值,如大于设定数量则增加所述预设特征点检测阈值得到调整阈值,使用调整阈值对下采样后的图像再次进行特征点检测,统计检测到的特征点的数量并循环本步骤,判断循环的次数是否达到预设最大值,如未达到则循环本步骤直至所述得到的特征点的数量满足设定的数量,将最后的调整阈值作为最终的特征点检测阈值;若循环的次数达到预设最大值,则将当前的调整阈值作为最终的特征点检测阈值。
6.一种监控视频稳像方法,其特征在于,包括如下步骤:
采用权利要求1-5任一所述的方法获取全局运动矢量;
对全局运动矢量进行平滑处理得到全局运动平滑矢量;
根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;
判断所述抖动运动矢量是否超出预设范围,若未超出则根据抖动运动矢量进行图像补偿,输出稳像图像。
7.根据权利要求6所述的方法,其特征在于,还包括若所述抖动运动矢量超出预设范围,则调整特征点检测阈值后重新计算全局运动矢量。
8.一种全局运动矢量估计装置,其特征在于,包括:
下采样单元,用于对当前帧图像在水平及垂直方向进行下采样;
特征点检测单元,用于对下采样后的当前帧图像进行特征点检测得到特征点;
下采样图像全局运动矢获取单元,用于针对检测到的特征点,以当前帧图像的所述特征点为中心提取图像块,在搜索范围内对上一帧图像对应特征点的位置进行块匹配,获得匹配的特征点,根据所述匹配的特征点获取下采样图像全局运动矢量;
上采样图像全局运动矢量获取单元,用于对下采样后的当前帧图像和下采样后的上一帧图像分别进行上采样,根据所述下采样图像全局运动矢量计算上采样图像全局运动矢量;
修正全局运动矢量获取单元,用于对上采样后的当前帧图像中的所述匹配的特征点,在搜索范围内对上采样后的上一帧图像进行块匹配,计算修正全局运动矢量;
全局运动矢量输出单元,用于根据所述上采样图像全局运动矢量和所述修正全局运动矢量计算最终的全局运动矢量。
9.根据权利要求8所述的装置,其特征在于,还包括特征点检测阈值获取单元,用于获取所述特征点检测阈值。
10.一种监控视频稳像装置,其特征在于,包括:
权利要求8或9所述的全局运动矢量估计装置,用于获取全局运动矢量;
全局运动平滑矢量获取单元,用于对全局运动矢量进行平滑处理得到全局运动平滑矢量;
抖动运动矢量计算单元,用于根据所述全局运动平滑矢量和所述全局运动矢量的差别计算抖动运动矢量;
判断单元,用于判断所述抖动运动矢量是否超出预设范围;
稳像图像输出单元,抖动运动矢量未超出预设范围时,根据抖动运动矢量进行图像补偿,输出稳像图像。
CN201510980353.7A 2015-12-23 2015-12-23 一种全局运动矢量估计方法及监控视频稳像方法及装置 Active CN105611116B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510980353.7A CN105611116B (zh) 2015-12-23 2015-12-23 一种全局运动矢量估计方法及监控视频稳像方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510980353.7A CN105611116B (zh) 2015-12-23 2015-12-23 一种全局运动矢量估计方法及监控视频稳像方法及装置

Publications (2)

Publication Number Publication Date
CN105611116A CN105611116A (zh) 2016-05-25
CN105611116B true CN105611116B (zh) 2018-10-19

Family

ID=55990635

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510980353.7A Active CN105611116B (zh) 2015-12-23 2015-12-23 一种全局运动矢量估计方法及监控视频稳像方法及装置

Country Status (1)

Country Link
CN (1) CN105611116B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106101486A (zh) * 2016-06-16 2016-11-09 恒业智能信息技术(深圳)有限公司 视频图像处理方法及系统
CN106357958B (zh) * 2016-10-10 2019-04-16 山东大学 一种基于区域匹配的快速电子稳像方法
CN106412441B (zh) * 2016-11-04 2019-09-27 珠海市魅族科技有限公司 一种视频防抖控制方法以及终端
CN107749987B (zh) * 2017-09-30 2020-09-18 河海大学 一种基于块运动估计的数字视频稳像方法
CN109672818B (zh) * 2017-10-16 2020-12-22 华为技术有限公司 一种调整图像质量的方法及装置
CN108230248A (zh) * 2018-01-23 2018-06-29 深圳普捷利科技有限公司 一种基于自适应特征点配准的环视系统拼接效果评估和自动微调方法
CN110351508B (zh) * 2019-08-13 2021-09-28 Oppo广东移动通信有限公司 基于录像模式的防抖处理方法和装置、电子设备
CN111724421B (zh) * 2020-06-29 2024-01-09 深圳市慧鲤科技有限公司 图像处理方法及装置、电子设备及存储介质
CN111724422B (zh) * 2020-06-29 2024-01-09 深圳市慧鲤科技有限公司 图像处理方法及装置、电子设备及存储介质
CN113411500B (zh) * 2021-06-18 2024-01-12 上海盈方微电子有限公司 一种全局运动向量估计方法及电子防抖方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003309820A (ja) * 2002-04-15 2003-10-31 Sony Corp 動きベクトル検出装置及び方法
CN101924874A (zh) * 2010-08-20 2010-12-22 北京航空航天大学 一种匹配块分级的实时电子稳像方法
CN101945284A (zh) * 2010-09-29 2011-01-12 无锡中星微电子有限公司 一种运动估计的装置和方法
CN103428516A (zh) * 2012-05-15 2013-12-04 三星电子株式会社 用于稳定数字图像的方法、电路和系统
CN104144282A (zh) * 2014-07-17 2014-11-12 西北工业大学 一种适用于空间机器人视觉系统的快速数字稳像方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001197501A (ja) * 2000-01-07 2001-07-19 Fujitsu Ltd 動きベクトル探索器及び動きベクトル探索方法並びに動画像符号化装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003309820A (ja) * 2002-04-15 2003-10-31 Sony Corp 動きベクトル検出装置及び方法
CN101924874A (zh) * 2010-08-20 2010-12-22 北京航空航天大学 一种匹配块分级的实时电子稳像方法
CN101945284A (zh) * 2010-09-29 2011-01-12 无锡中星微电子有限公司 一种运动估计的装置和方法
CN103428516A (zh) * 2012-05-15 2013-12-04 三星电子株式会社 用于稳定数字图像的方法、电路和系统
CN104144282A (zh) * 2014-07-17 2014-11-12 西北工业大学 一种适用于空间机器人视觉系统的快速数字稳像方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于图像特征提取和特征点描述的匹配算法研究及其应用;肖飞;《中国优秀硕士学位论文-信息科技辑》;20140115;第35页4.4.1改进的FAST角点提取算法-第38页4.4.2文本提出的特征描述子,第46页的第五章基于图像匹配技术的电子稳像方法-第53页的第5.5节电子稳像质量评价方法,图4-7至4-9,图5-1至5-4 *
基于自适应阈值的SIFT算法研究及应用;黄令允;《中国优秀硕士学位论文-信息科技辑》;20110515;第20页第3.2基于自适应阈值的改进SIFT方法-第23页3.3仿真实验与结果分析,图3.8 *

Also Published As

Publication number Publication date
CN105611116A (zh) 2016-05-25

Similar Documents

Publication Publication Date Title
CN105611116B (zh) 一种全局运动矢量估计方法及监控视频稳像方法及装置
US7605845B2 (en) Motion stabilization
JP6087671B2 (ja) 撮像装置およびその制御方法
JP4653235B2 (ja) フレーム選択を用いるパノラマ画像の構成
TWI469062B (zh) 影像穩定方法及影像穩定裝置
US10769798B2 (en) Moving object detection apparatus, moving object detection method and program
CN104144282B (zh) 一种适用于空间机器人视觉系统的快速数字稳像方法
US10917567B2 (en) Image processing apparatus, image processing method, program, and image pickup system
US20150029306A1 (en) Method and apparatus for stabilizing panorama video captured based on multi-camera platform
US8903130B1 (en) Virtual camera operator
JP6202879B2 (ja) ローリングシャッタ歪み補正と映像安定化処理方法
WO2010151215A1 (en) Real time video stabilization
CN111614965B (zh) 基于图像网格光流滤波的无人机视频稳像方法及系统
CN114429191B (zh) 基于深度学习的电子防抖方法、系统及存储介质
CN102685371A (zh) 基于多分辨率块匹配和pi控制的数字视频稳像方法
KR101538923B1 (ko) 관심 영역 추적을 통한 실시간 영상 안정화 장치 및 그 방법
CN111712857A (zh) 图像处理方法、装置、云台和存储介质
JP6282133B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP6505501B2 (ja) ローリングシャッタ回転歪み補正と映像安定化処理方法
CN109756778B (zh) 一种基于自适应运动补偿的帧率转换方法
JP6242742B2 (ja) 画像処理装置、撮像装置及び画像処理方法
JP2017199995A (ja) 画像処理装置、撮像装置、画像処理方法、および、プログラム
CN116091868A (zh) 在线视频防抖设备、在线视频防抖方法及其学习方法
TWI632814B (zh) 視訊畫幀產生方法及其系統
CN102547066B (zh) 一种基于景象配准技术的视频稳像方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant