CN103841297A - 一种适用于合成运动摄像载体的电子稳像方法 - Google Patents
一种适用于合成运动摄像载体的电子稳像方法 Download PDFInfo
- Publication number
- CN103841297A CN103841297A CN201210480512.3A CN201210480512A CN103841297A CN 103841297 A CN103841297 A CN 103841297A CN 201210480512 A CN201210480512 A CN 201210480512A CN 103841297 A CN103841297 A CN 103841297A
- Authority
- CN
- China
- Prior art keywords
- mtd
- mrow
- msub
- mtr
- msubsup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000033001 locomotion Effects 0.000 claims abstract description 88
- 238000011105 stabilization Methods 0.000 claims description 29
- 230000006641 stabilisation Effects 0.000 claims description 25
- 230000009466 transformation Effects 0.000 claims description 23
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 claims description 17
- 238000001914 filtration Methods 0.000 claims description 16
- 238000006073 displacement reaction Methods 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 239000013598 vector Substances 0.000 claims description 10
- 230000004927 fusion Effects 0.000 claims description 7
- 239000002131 composite material Substances 0.000 claims description 5
- 230000003287 optical effect Effects 0.000 claims description 4
- 238000013461 design Methods 0.000 claims description 3
- 230000005484 gravity Effects 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims description 2
- 238000000605 extraction Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 10
- 230000000087 stabilizing effect Effects 0.000 abstract description 7
- 238000013519 translation Methods 0.000 abstract description 4
- 230000000694 effects Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
- Studio Devices (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明属于图像处理技术领域,具体涉及一种适用于合成运动摄像载体的电子稳像方法。本发明的方法包括:建立运动模型;计算全局运动参数;运动补偿;图像拼接融合。本发明解决了现有技术中电子稳像方法难以对进行随机抖动和扫描拍摄引起的合成运动的摄像载体所获取的动态图像序列进行稳像处理的技术问题;针对进行合成运动的摄像载体所获取的动态图像序列帧间运动为平移、旋转和缩放混合的复杂运动的特点,矫正相机在水平、垂直、旋转多个方向上的抖动,有效进行电子稳像处理。
Description
技术领域
本发明属于图像处理技术领域,具体涉及一种适用于合成运动摄像载体的电子稳像方法。
背景技术
在一些恶劣的环境中,当使用摄像机对景物、场景、目标等进行拍摄、监视时,由于摄像机所处的工作平台会收到环境因素和载体运动的影响,会发生抖动、不能稳定拍摄,从而导致成像目标在图像序列中的位置发生随机性跳跃变化。这种视频序列的随机抖动使人观察疲劳并影响跟踪精度,甚至使跟踪失效,影响后续的图像处理效果。因此,需要对摄像系统进行稳像处理。
电子稳像是应用计算机数字图像处理和电子技术的方法来直接对随机运动或抖动的摄像机所获取的动态图像序列进行修改、重排,确定图像序列的帧间偏移并进行补偿,以使动态图像在监视器上能平稳显示的一种视频稳定技术。电子稳像具有稳定精度高、体积小、重量轻、功耗低以及能实时处理等特点,在国外已应用于摄影、航空侦察、跟踪和监视等各种任务中心。
电子稳像系统主要由运动估计和运动补偿两部分组成。运动估计是通过算法估算出图像序列运动偏移量的过程。运动补偿是根据运动估计所得到的偏移量确定图像的抖动,并根据抖动的大小和方向将图像上的像素作等量的反方向移动,实现图像的行、列序重组,从而实现图像序列稳定的过程。
目前应用于电子稳像的配准方法以块匹配算法和灰度投影法居多,而大部分算法针对拍摄载体做单一的平移或旋转运动。对于摄像机做复杂运动的拍摄应用场景,如机载弹载成像系统和舰船侦查系统,其成像系统的特点为作用距离远、焦距长,而且载体不仅平移振动剧烈,且存在旋转运动。此时,摄像机的随机抖动和扫描拍摄引起的合成运动,表现为帧间的平移、旋转和缩放混合的复杂运动,现有技术中的电子稳像方法难以对进行上述合成运动的摄像机获取的动态图像序列运动进行稳像处理。
发明内容
本发明需要解决的技术问题为:现有技术中的电子稳像方法难以对进行随机抖动和扫描拍摄引起的合成运动的摄像载体所获取的动态图像序列进行稳像处理。
本发明的技术方案如下所述:
一种适用于合成运动摄像载体的电子稳像方法,包括以下步骤:步骤一、建立运动模型;步骤二、计算全局运动参数;步骤三、运动补偿;步骤四、图像拼接融合。
步骤一具体包括以下步骤:
采用仿射模型描述两帧图像间的对应关系:
其中(xk,yk)和(x′k,y′k)表示两帧图像中对应的像素坐标;仿射矩阵M描述缩放、旋转、水平位移和竖直位移的变化。
步骤二具体包括以下步骤:
使用Harris特征点提取算法和金字塔光流法得到当前帧Ik和前一帧Ik-1中一组对应的匹配点记从当前帧Ik和前一帧Ik-1的仿射变换参数为根据步骤一中式(1)所示两帧间的映射关系构造线性方程组(2):
其中,sk表示缩放,αk表示旋转,uk表示竖直位移,vk表示水平位移;
即
步骤三具体包括以下步骤:
根据维纳滤波原理,对运动矢量θk进行滤波处理:
设计一组滤波器{hk,l},使得代价函数J最小:
步骤四具体包括以下步骤:
其中,权重参数d1和d2代表点(x,y)相对位置与重叠区域宽度的比例,满足d1+d2=1、0<d1,d2≤1;通过控制d1和d2的变化,实现在重叠区域中像素变化的平滑度,得到图像序列{Ik}的稳像结果
本发明的有益效果为:
(1)本发明针对进行合成运动的摄像载体所获取的动态图像序列帧间运动为平移、旋转和缩放混合的复杂运动的特点,矫正相机在水平、垂直、旋转多个方向上的抖动,有效进行电子稳像处理;
(2)本发明中估计全局运动参数的算法计算速度块、精度高;
(3)本发明提出的利用维纳滤波的稳像补偿算法,能够简单有效地实现平滑帧间运动同时保留相机的有效运动,并且避免了更换参考帧时带来的扰动;
(4)本发明使用图像拼接融合手段有效保证稳定视频的完整性。
附图说明
图1为航拍视频图像及特征点检测结果:
(1a)参考帧图像;
(1b)当前帧图像;
(1c)参考帧中使用Harris算法提取的特征点;
(1d)当前帧中使用金字塔光流法的匹配结果;
图2为参考帧经变换后与当前帧的差图像;
图3为水平和竖直运动参数及滤波结果:
(3a)水平运动参数及滤波结果;
(3b)竖直运动参数及滤波结果;
图4为视频序列运动补偿和全景补偿结果:
(4a)原视频序列;
(4b)运动补偿结果;
(4c)全景补偿结果。
具体实施方式
下面结合附图和实施例对本发明的一种适用于合成运动摄像载体的电子稳像方法进行详细说明。
本发明的一种适用于合成运动摄像载体的电子稳像方法包括以下步骤:
步骤一、建立运动模型
由于全局运动参数是通过估计图像序列帧间运动得到的,所以先建立视频图像的运动模型。本发明使用仿射模型描述两帧图像间的对应关系:
其中(xk,yk)和(x′k,y′k)表示两帧图像中对应的像素坐标。仿射矩阵M描述缩放、旋转、水平位移和竖直位移的变化。
步骤二、计算全局运动参数
如图1所示,使用Harris特征点提取算法和金字塔光流法得到当前帧Ik和前一帧Ik-1中一组对应的匹配点记从当前帧Ik和前一帧Ik-1的仿射变换参数为根据步骤一中式(1)所示两帧间的映射关系构造线性方程组(2)。不直接求解线性方程组(2),而是通过变换推导得到其最小二乘解,以降低常规求解方法的运算量。
根据式(2),进行行的重新排列得到
得到从Ik-1到Ik的仿射变换矩阵Mk(k=1,…,K),以第一帧I1为参考帧,则得到当前帧图像相对于参考帧的全局仿射变换矩阵(M1为3阶单位阵),而且也为仿射矩阵: 为了验证全局运动参数的计算精度,将图像(1a)按照估计的参数、经仿射变换后与当前帧(1b)相减,结果如图2所示。可见,图2中的背景部分几乎不见、只留下运动的前景物体,证明本文提出的运动估计方法能有效的得到两帧图像间的运动参数。
其中,
步骤三、运动补偿
在对图像进行补偿时,必须明确需要补偿的只是摄像机的随机抖动,而保留正常的扫描运动,从而达到有效减轻摄像机的抖动,同时又能实时跟踪真实场景。因此,需要对检测出来的全局运动向量中的平稳运动量(即摄像系统的扫描运动)和不稳定运动量(即载体的高频抖动)区分开来,即就是对运动矢量信号进行滤波。本发明根据帧间运动的特点,提出一种利用维纳滤波的稳像补偿算法,能够简单有效地实现平滑帧间运动同时保留相机的有效运动,并且避免了更换参考帧时带来的扰动。
根据维纳滤波原理,对运动矢量θk进行滤波处理:
补偿后的图像序列帧间仅存在摄像机的扫描运动,而抖动被消除或者大大减弱,从而结果图像变得平稳连续。如图3所示,对航拍视频中连续的100帧图像的水平和竖直参数进行滤波(参数λ1=8和λ2=4)。可见,使用维纳滤波原理可以很好地平滑运动矢量序列、同时有效跟踪摄像系统的全局扫描轨迹。
步骤四、图像拼接融合
进行运动补偿后的图像边界附近有无法获得像素值的区域,需要对稳定后图像中丢失的边界信息进行重建,得到完整的图像结果本发明采用图像拼接技术来实现边界信息的重建:以稳定后的当前帧为基准,将前一帧结果图像变换到的坐标系下得到进行图像融合:
其中,权重参数d1和d2代表点(x,y)相对位置与重叠区域宽度的比例,满足d1+d2=1、0<d1,d2≤1。通过控制d1和d2的变化,可以实现在重叠区域中像素变化的平滑度,使图像融合的效果更自然。至此,最终得到了图像序列{Ik}的稳像结果
如图4所示,图(4a)为原视100帧频序列中连续的四帧图像,利用本发明给出的方法估计帧间运动参数,并对6个仿射变换参数构成的运动矢量进行滤波、运动补偿(图(4b))和全景补偿(图(4c))。从结果可以看出,利用本发明的图像拼接方法,重建了运动补偿后视频中丢失的边界信息,从而保证整个场景全貌的观察效果及视频序列的完整流畅。
综上所述,本发明提出的电子稳像方法能有效地去除视频序列中的复杂抖动,并得到稳定完整的输出视频。
Claims (5)
1.一种适用于合成运动摄像载体的电子稳像方法,其特征在于:包括以下步骤:
步骤一、建立运动模型;
步骤二、计算全局运动参数;
步骤三、运动补偿;
步骤四、图像拼接融合。
2.根据权利要求1所述的适用于合成运动摄像载体的电子稳像方法,其特征在于:步骤一具体包括以下步骤:
采用仿射模型描述两帧图像间的对应关系:
其中(xk,yk)和(x′k,y′k)表示两帧图像中对应的像素坐标;仿射矩阵M描述缩放、旋转、水平位移和竖直位移的变化。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210480512.3A CN103841297B (zh) | 2012-11-23 | 2012-11-23 | 一种适用于合成运动摄像载体的电子稳像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210480512.3A CN103841297B (zh) | 2012-11-23 | 2012-11-23 | 一种适用于合成运动摄像载体的电子稳像方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103841297A true CN103841297A (zh) | 2014-06-04 |
CN103841297B CN103841297B (zh) | 2016-12-07 |
Family
ID=50804401
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210480512.3A Active CN103841297B (zh) | 2012-11-23 | 2012-11-23 | 一种适用于合成运动摄像载体的电子稳像方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103841297B (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104065854A (zh) * | 2014-06-18 | 2014-09-24 | 联想(北京)有限公司 | 一种图像处理方法及一种电子设备 |
CN105100618A (zh) * | 2015-07-30 | 2015-11-25 | 中国科学院光电技术研究所 | 一种能够准确检测出视频序列中复杂抖动的稳像方法 |
CN105141807A (zh) * | 2015-09-23 | 2015-12-09 | 北京二郎神科技有限公司 | 视频信号图像处理方法和装置 |
CN105721776A (zh) * | 2016-03-02 | 2016-06-29 | 湖南优象科技有限公司 | 一种带数字稳像功能的运动摄像机装置及数字稳像方法 |
CN106447730A (zh) * | 2016-09-14 | 2017-02-22 | 深圳地平线机器人科技有限公司 | 参数估计方法、装置和电子设备 |
CN106488081A (zh) * | 2016-10-17 | 2017-03-08 | 深圳市前海视微科学有限责任公司 | 视频稳像系统及方法 |
WO2019052534A1 (zh) * | 2017-09-15 | 2019-03-21 | 腾讯科技(深圳)有限公司 | 图像拼接方法及装置、存储介质 |
CN112136314A (zh) * | 2018-05-18 | 2020-12-25 | 高途乐公司 | 用于稳定视频的系统和方法 |
CN112437253A (zh) * | 2020-10-22 | 2021-03-02 | 中航航空电子有限公司 | 一种视频拼接方法、装置、系统、计算机设备和存储介质 |
WO2021102893A1 (zh) * | 2019-11-29 | 2021-06-03 | Oppo广东移动通信有限公司 | 视频防抖优化处理方法和装置、电子设备 |
WO2021184812A1 (zh) * | 2020-03-19 | 2021-09-23 | 武汉Tcl集团工业研究院有限公司 | 一种视频稳化方法及装置 |
CN114630102A (zh) * | 2020-11-26 | 2022-06-14 | 顺丰科技有限公司 | 检测数据采集设备角度变化的方法、装置和计算机设备 |
US11979662B2 (en) | 2018-09-19 | 2024-05-07 | Gopro, Inc. | Systems and methods for stabilizing videos |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101511024A (zh) * | 2009-04-01 | 2009-08-19 | 北京航空航天大学 | 实时电子稳像中基于运动状态识别的运动补偿方法 |
CN102148934A (zh) * | 2011-04-02 | 2011-08-10 | 北京理工大学 | 一种多模式实时电子稳像系统 |
CN102231792A (zh) * | 2011-06-29 | 2011-11-02 | 南京大学 | 基于特征匹配的电子稳像方法 |
-
2012
- 2012-11-23 CN CN201210480512.3A patent/CN103841297B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101511024A (zh) * | 2009-04-01 | 2009-08-19 | 北京航空航天大学 | 实时电子稳像中基于运动状态识别的运动补偿方法 |
CN102148934A (zh) * | 2011-04-02 | 2011-08-10 | 北京理工大学 | 一种多模式实时电子稳像系统 |
CN102231792A (zh) * | 2011-06-29 | 2011-11-02 | 南京大学 | 基于特征匹配的电子稳像方法 |
Non-Patent Citations (1)
Title |
---|
朱娟娟: "电子稳像理论及其应用研究", 《中国博士学位论文全文数据库信息科技辑》 * |
Cited By (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104065854A (zh) * | 2014-06-18 | 2014-09-24 | 联想(北京)有限公司 | 一种图像处理方法及一种电子设备 |
CN105100618A (zh) * | 2015-07-30 | 2015-11-25 | 中国科学院光电技术研究所 | 一种能够准确检测出视频序列中复杂抖动的稳像方法 |
CN105141807A (zh) * | 2015-09-23 | 2015-12-09 | 北京二郎神科技有限公司 | 视频信号图像处理方法和装置 |
CN105721776A (zh) * | 2016-03-02 | 2016-06-29 | 湖南优象科技有限公司 | 一种带数字稳像功能的运动摄像机装置及数字稳像方法 |
CN106447730A (zh) * | 2016-09-14 | 2017-02-22 | 深圳地平线机器人科技有限公司 | 参数估计方法、装置和电子设备 |
CN106447730B (zh) * | 2016-09-14 | 2020-02-28 | 深圳地平线机器人科技有限公司 | 参数估计方法、装置和电子设备 |
CN106488081A (zh) * | 2016-10-17 | 2017-03-08 | 深圳市前海视微科学有限责任公司 | 视频稳像系统及方法 |
CN106488081B (zh) * | 2016-10-17 | 2019-06-28 | 深圳市前海视微科学有限责任公司 | 视频稳像系统及方法 |
US11178428B2 (en) | 2017-09-15 | 2021-11-16 | Tencent Technology (Shenzhen) Company Limited | Image splicing method and apparatus, and storage medium |
WO2019052534A1 (zh) * | 2017-09-15 | 2019-03-21 | 腾讯科技(深圳)有限公司 | 图像拼接方法及装置、存储介质 |
CN112136314A (zh) * | 2018-05-18 | 2020-12-25 | 高途乐公司 | 用于稳定视频的系统和方法 |
US11979662B2 (en) | 2018-09-19 | 2024-05-07 | Gopro, Inc. | Systems and methods for stabilizing videos |
CN114586337A (zh) * | 2019-11-29 | 2022-06-03 | Oppo广东移动通信有限公司 | 视频防抖优化处理方法和装置、电子设备 |
WO2021102893A1 (zh) * | 2019-11-29 | 2021-06-03 | Oppo广东移动通信有限公司 | 视频防抖优化处理方法和装置、电子设备 |
CN114586337B (zh) * | 2019-11-29 | 2023-11-10 | Oppo广东移动通信有限公司 | 视频防抖优化处理方法和装置、电子设备 |
CN113497861A (zh) * | 2020-03-19 | 2021-10-12 | 武汉Tcl集团工业研究院有限公司 | 一种视频稳化方法及装置 |
WO2021184812A1 (zh) * | 2020-03-19 | 2021-09-23 | 武汉Tcl集团工业研究院有限公司 | 一种视频稳化方法及装置 |
CN113497861B (zh) * | 2020-03-19 | 2022-06-24 | 武汉Tcl集团工业研究院有限公司 | 一种视频稳化方法及装置 |
CN112437253B (zh) * | 2020-10-22 | 2022-12-27 | 中航航空电子有限公司 | 一种视频拼接方法、装置、系统、计算机设备和存储介质 |
CN112437253A (zh) * | 2020-10-22 | 2021-03-02 | 中航航空电子有限公司 | 一种视频拼接方法、装置、系统、计算机设备和存储介质 |
CN114630102A (zh) * | 2020-11-26 | 2022-06-14 | 顺丰科技有限公司 | 检测数据采集设备角度变化的方法、装置和计算机设备 |
Also Published As
Publication number | Publication date |
---|---|
CN103841297B (zh) | 2016-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103841297B (zh) | 一种适用于合成运动摄像载体的电子稳像方法 | |
Mitrokhin et al. | EV-IMO: Motion segmentation dataset and learning pipeline for event cameras | |
CN106550174B (zh) | 一种基于单应性矩阵的实时视频稳像方法 | |
CN102231792B (zh) | 基于特征匹配的电子稳像方法 | |
EP3216216B1 (en) | Methods and systems for multi-view high-speed motion capture | |
KR100985805B1 (ko) | 적응적인 칼만필터를 이용한 영상 안정화 장치 및 방법 | |
Beall et al. | 3D reconstruction of underwater structures | |
Saurer et al. | Rolling shutter stereo | |
KR101071352B1 (ko) | 좌표맵을 이용한 팬틸트줌 카메라 기반의 객체 추적 장치 및 방법 | |
US8194184B2 (en) | Method and apparatus for increasing the frame rate of a video signal | |
CN108805908B (zh) | 一种基于时序网格流叠加的实时视频稳像方法 | |
CN103139568B (zh) | 基于稀疏度和保真度约束的视频稳像方法 | |
JP6202879B2 (ja) | ローリングシャッタ歪み補正と映像安定化処理方法 | |
CN104284059A (zh) | 用于稳定图像的设备和方法 | |
Wang et al. | Video stabilization: A comprehensive survey | |
CN104038737A (zh) | 主动获取感兴趣目标高分辨率图像的双摄像机系统及方法 | |
CN108900775A (zh) | 一种水下机器人实时电子稳像方法 | |
Crawford et al. | Gradient based dominant motion estimation with integral projections for real time video stabilisation | |
US11531211B2 (en) | Method for stabilizing a camera frame of a video sequence | |
CN111767679B (zh) | 时变矢量场数据的处理方法及装置 | |
Shen et al. | Fast video stabilization algorithm for UAV | |
CN105913395A (zh) | 一种运动目标观测及模糊复原方法 | |
CN103118221B (zh) | 基于场处理的实时视频电子稳像方法 | |
Lee et al. | Globally consistent video depth and pose estimation with efficient test-time training | |
Suluhan et al. | Dual camera based high spatio-temporal resolution video generation for wide area surveillance |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |