CN110097509B - 一种局部运动模糊图像的复原方法 - Google Patents
一种局部运动模糊图像的复原方法 Download PDFInfo
- Publication number
- CN110097509B CN110097509B CN201910232779.2A CN201910232779A CN110097509B CN 110097509 B CN110097509 B CN 110097509B CN 201910232779 A CN201910232779 A CN 201910232779A CN 110097509 B CN110097509 B CN 110097509B
- Authority
- CN
- China
- Prior art keywords
- image
- background
- blurred
- target
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000000605 extraction Methods 0.000 claims abstract description 11
- 238000011084 recovery Methods 0.000 claims abstract description 11
- 238000003384 imaging method Methods 0.000 claims description 14
- 239000011159 matrix material Substances 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 230000002068 genetic effect Effects 0.000 claims description 2
- 108091008695 photoreceptors Proteins 0.000 claims description 2
- 238000010845 search algorithm Methods 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 7
- 238000005516 engineering process Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 108091026890 Coding region Proteins 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002969 morbid Effects 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
技术领域
本发明涉及图像复原技术领域,具体涉及一种局部运动模糊图像的复原方法。
背景技术
运动模糊是光学成像过程中经常会遇到的问题,其产生的原因是在相机曝光过程中由于被拍摄物和相机之间发生了相对位移,造成获取图像的运动模糊,降低了图像分辨率,极大的影响了成像质量。运动模糊图像复原技术,就是在不重新对目标景物拍摄的前提下,利用已有的运动模糊图像,通过对成像物理过程建模和数学求解,将模糊图像恢复为清晰图像,其在民用和军事等领域有着重要的应用价值。
在场景成像获取过程中,对于传统相机曝光模式来说,其相机快门在曝光过程中始终处于开启状态,相当于在时间域上定义了一个盒状滤波器和场景图像进行卷积。在频域上分析可近似为一个低通滤波器,这极大破坏了图像中的高频信息。同时由于外界噪声的加入,使得通过反卷积进行图像的运动模糊复原成为一个病态性问题。编码曝光(CodedExposure, CE)成像技术是Raskar等人在2006年提出的一种计算成像手段,其核心思想是通过在相机曝光过程中预设特定的二进制编码序列来控制相机快门的开启和闭合。相较于传统的相机曝光模式,相当于在时间域上设定了一个宽带滤波器,从频域率分析来看,使得在图像获取过程中尽可能多的保留中高频信息,消除了在频域上的零点部分,实现了复原的可逆化,大大的改善了模糊图像复原的病态性问题。
此外,运动目标场景拍摄时,会出现背景清晰、目标运动的局部运动模糊。大部分的模糊复原算法都是针对全局图像进行模糊复原,并未考虑局部运动模糊复原问题中PSF的空间非一致性。若直接采用全局模糊复原算法,会使得复原图像的背景产生严重的振铃效应,影响了复原图像的质量。需要引入局部运动模糊复原方法,对运动模糊区域和背景清晰区域分别进行处理,以期获得高质量的复原图像。
中国专利CN101504765B,公开日2011年6月8日,一种采用梯度融合技术的运动模糊图像序列的复原方法。其先计算出局部图像中的物体透明度,然后估计模糊退化函数,最后反卷积复原的过程中加入了梯度融合技术消除伪迹的影响。其使用了梯度融合技术来消除反卷积过程中引入的傅立叶振铃伪迹,较以往的复原方法的效果有所提高。但其迭代次数较多,所需复原时间长。
发明内容
本发明要解决的技术问题是:目前的局部运动模糊图像复原方法效果较差或者迭代次数多的技术问题。提出了一种快速迭代的具有较好清晰度和信噪比的局部运动模糊图像的复原方法。
为解决上述技术问题,本发明所采取的技术方案为:一种局部运动模糊图像的复原方法,适用于由编码曝光相机采集的局部运动模糊图像,包括以下步骤:A)获得编码曝光的最优快门序列;B)计算运动目标的PSF像移尺度估计值;C)采集背景图像,计算背景图像与待复原的模糊图像的差值图像,,表示矩阵的异或计算;D)将差值图像二值化后作为模板图,将模板图与模糊图像进行模板运算,得到目标提取图像,将模板图与背景图像进行模板运算,得到背景图像;E)将目标提取图像表示为:,其中,为待求解的运动目标图像,为目标提取图像中背景像素被运动目标遮挡的时间占曝光时间的百分比,,获得;F)针对步骤E获得的运动目标图像,使用基于student-t约束的复原方法,得到运动目标清晰图像;G)将运动目标清晰图像和背景图像融合,获得复原图像。
作为优选,在步骤A中使用遗传搜索算法,获得编码曝光的最优快门序列,目标函数为,其中,、为权重系数函数,表示傅里叶变换,表示快门序列S傅里叶变换的频域幅值,函数表示计算方差,,其中,为序列长度,其值由人工设定。
作为优选,步骤E中,获得目标提取图像中背景像素被运动目标遮挡的时间占曝光时间的百分比的方法为:,其中,,为图像的像素行数,,区域和表示,在运动方向上目标图像区域与背景交界处的两侧区域,所述两侧区域会各有d 个像素的运动目标与背景像素的叠加区域,,,为近似取整运算。
,其中,为待获得的清晰图像,为PSF像移尺度估计值,、和分别为各约束项的正则化系数,为势函数正则化系数,,,,为专家场模型的滤波器矩阵,、以及的取值越大时,图像复原细节更锐化,但同时会加大复原图像的噪声,,分别为水平和竖直方向的变分梯度算子;F2)将步骤B获得的PSF像移尺度估计值作为的初始值,使用进化算法迭代若干次,直到取得局部或全局最优解。
作为优选,步骤G中,将运动目标清晰图像和背景图像融合的方法为:,其中,指完全没有被运动目标遮挡的背景图像的区域,表示运动目标图像与背景图像交界处的模糊的区域,表示运动目标中心的不模糊区域,,,其中,,为图像的像素尺寸,区域以及区域为目标图像与背景图像交界处沿横轴方向的两侧的模糊的交界区域。
本发明的实质性效果是:利用编码曝光模式进行模糊图像采集,采用背景差分法进行目标初次提取,再综合编码曝光运动模糊叠加特性和运动先验信息,实现运动模糊目标区域的精确提取,结合student-t复原算法进行PSF精确估计和复原重建,迭代2-3次后通常可得到复原结果,迭代次数少,复原效率高。在本发明中,需要输入一幅场景背景图像和一幅局部运动目标模糊图像,从而得到复原效果较好的全局清晰图像。本发明可应用于运动目标探测、医学图像处理、遥感成像等领域,在图像处理场合有重要的应用价值。
附图说明
图1为实施例一复原方法流程图。
图2为实施例一成像场景背景图。
图3为实施例一目标局部运动模糊图像。
图4为实施例一运动目标区域模板图。
图5为实施例一运动目标提取图像。
图6为实施例一局部运动模糊复原结果。
具体实施方式
下面通过具体实施例,并结合附图,对本发明的具体实施方式作进一步具体说明。
实施例一:
一种局部运动模糊图像的复原方法,针对局部运动模糊复原问题,从模糊图像获取和复原方案设计角度出发,提出了基于编码曝光和运动先验信息的局部运动模糊复原方法,其主要思路是:
1.采用背景差分法进行目标提取,综合编码曝光运动模糊的叠加特性,引入了“抠图”的思想来分离出模糊目标边缘的背景像素,实现运动模糊目标区域的精确提取;
2.引入编码曝光成像理论模型,考虑了编码曝光中码字序列频域幅值曲线的最小值和方差,建立了最优码字选取的适应度函数准则;通过物像关系,获得运动目标PSF像移尺度初步估计参数,作为运动先验信息。引入基于贝叶斯最大后验概率框架的student-t复原算法进行PSF精确估计和复原重建,快速迭代得到复原结果。
如图1所示,本实施例包括以下步骤:
A)对于线性匀速运动的局部运动模糊成像场景,利用编码曝光相机采集运动图像,获得目标区域模糊,背景清晰的局部运动模糊图像。其中,编码曝光最优快门序列的确定准则定义为:,其中,、为权重系数函数,表示离散傅里叶变换,表示快门序列S傅里叶变换的频域幅值,函数表示计算方差,,其中,“1”表示快门开,“0”表示快门关,为编码序列长度,其值由人工设定。
B)获得PSF像移尺度估计值,PSF指模糊图像点扩散函数(Point SpreadFunction,PSF),对于线性匀速运动目标,其运动速度估计为,结合成像系统物像关系,物方成像距离为,相机焦距为,传感器像素尺寸为,则在相机曝光时间内,运动目标PSF像移尺度估计值可以表示为:,像移尺度的单位是像素,表示线性运动模糊像移量,该估计值作为后续复原算法输入的运动先验信息。
C)对于成像场景,利用编码曝光模式分别拍摄采集一幅背景图像和一幅待复原的目标运动局部模糊图像,计算两者的差值图像,表示为:,表示矩阵的异或计算。图2为成像场景背景清晰图。图3为目标局部运动模糊图像,运动目标为匀速直线运动,运动速度为40mm/s, 利用编码曝光方式采集图像,所选用的码字序列为11110001101000100110101010011011,码字长度为32。
D)设置阈值,将差值图像二值化后作为模板图,,其中,,为图像的像素尺寸。模板图表示了所提取的运动目标区域,将其与模糊图像进行模板运算,得到目标提取图像,表示为:,其中“”表示模板运算,模板运算为图像处理中常用的成熟的运算,在此不做展开。为背景与模板图进行模板运算得到的背景图像,。
,其中,,为图像的像素行数,,区域和表示,在运动方向上目标图像区域与背景交界处的两侧区域,所述两侧区域会各有个像素的运动目标与背景像素的叠加区域,,,为近似取整运算。计算图像每一行值,按行计算后拼接获得。
F)针对步骤E所提取获得的局部运动模糊图像,引入基于student-t约束的PSF估计和图像复原算法,结合运动先验信息,复原得到局部区域清晰图像。基于student-t约束复原方法利用了马尔可夫专家场模型,对于图像进行建模,复原问题可以表示为:,其中,为待获得的清晰图像,为PSF像移尺度估计值,、和分别为各约束项的正则化系数,为势函数正则化系数,,,,为专家场模型的滤波器矩阵,、以及的取值越大时,图像复原细节更锐化,但同时会加大复原图像的噪声,,分别为水平和竖直方向的变分梯度算子;将步骤B获得的PSF像移尺度估计值作为的初始值,使用进化算法迭代若干次,直到取得局部或全局最优解。通常经过2-3次迭代,就可快速得到复原结果。为5x5的高斯滤波器矩阵,, 。
其中,指完全没有被运动目标遮挡的背景图像的区域,表示运动目标图像与背景图像交界处的模糊的区域,表示运动目标中心的不模糊区域,,,其中,,为图像的像素尺寸,区域以及区域为目标图像与背景图像交界处沿横轴方向的两侧的模糊的交界区域。
如图4所示,为运动目标区域模板图,能够完整有效的提取目标区域,分割边缘较为准确,能够为后续局部图像复原提供较好的基础。图5为所提取出的精确的运动目标区域图像。针对该区域图像,进行局部复原,并将复原结果融合放入原模糊图像对应区域,得到最终的整体局部运动模糊复原结果,如图6所示。从图6结果可以看到,复原图像有效的保护了背景信息不被破坏,防止了目标边缘像素和背景的相互影响,视觉效果好。
以上所述的实施例只是本发明的一种较佳的方案,并非对本发明作任何形式上的限制,在不超出权利要求所记载的技术方案的前提下还有其它的变体及改型。
Claims (8)
1.一种局部运动模糊图像的复原方法,适用于由编码曝光相机采集的局部运动模糊图像,其特征在于,
包括以下步骤:
A)获得编码曝光的最优快门序列S;
B)计算运动目标的PSF像移尺度估计值d;
D)将差值图像H二值化后作为模板图H′,将模板图H′与模糊图像F进行模板运算,得到目标提取图像F′,将模板图H′与背景图像G进行模板运算,得到背景图像P;
2.根据权利要求1所述的一种局部运动模糊图像的复原方法,其特征在于,
在步骤A)中使用遗传搜索算法,获得编码曝光的最优快门序列S,目标函数为max F=α1min(|F(S)|)+α2var(1/|F(S)|),其中,α1、α2为权重系数函数,F()表示傅里叶变换,|F(S)|表示快门序列S傅里叶变换的频域幅值,函数var()表示计算方差,S=[S1,S2,...,Sl],其中Si,i∈[1,l]∈{0,1},l为编码序列长度,其值由人工设定。
F1)建立马尔可夫专家场模型:
其中,为待获得的清晰图像,h为PSF像移尺度估计值,λ、η和ξ分别为各约束项的正则化系数,σ为势函数正则化系数,λ∈[300,1500],η∈[50,150],ξ∈(0,1),为专家场模型的滤波器矩阵,λ、η以及ξ的取值越大时,图像复原细节更锐化,但同时会加大复原图像的噪声,d1,d2分别为水平和竖直方向的变分梯度算子;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910232779.2A CN110097509B (zh) | 2019-03-26 | 2019-03-26 | 一种局部运动模糊图像的复原方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910232779.2A CN110097509B (zh) | 2019-03-26 | 2019-03-26 | 一种局部运动模糊图像的复原方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110097509A CN110097509A (zh) | 2019-08-06 |
CN110097509B true CN110097509B (zh) | 2021-05-18 |
Family
ID=67443072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910232779.2A Active CN110097509B (zh) | 2019-03-26 | 2019-03-26 | 一种局部运动模糊图像的复原方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110097509B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111210390A (zh) * | 2019-10-15 | 2020-05-29 | 杭州电子科技大学 | 一种基于Golay序列互补码字集的运动模糊复原方法 |
CN111062895B (zh) * | 2019-11-29 | 2022-07-12 | 宁波永新光学股份有限公司 | 一种基于多视场分割的显微图像复原方法 |
CN111291471B (zh) * | 2020-01-17 | 2021-12-17 | 中山大学 | 一种基于l1正则无迹变换的约束多模型滤波方法 |
CN113724142B (zh) * | 2020-05-26 | 2023-08-25 | 杭州海康威视数字技术股份有限公司 | 图像复原系统及方法 |
CN112508821B (zh) * | 2020-12-21 | 2023-02-24 | 南阳师范学院 | 一种基于定向回归损失函数的立体视觉虚拟图像空洞填补方法 |
CN112652000B (zh) * | 2020-12-30 | 2024-05-24 | 南京航空航天大学 | 一种针对图像小尺度运动方向判定的方法 |
CN115118892A (zh) * | 2022-06-24 | 2022-09-27 | 维沃移动通信有限公司 | 图像采集方法、装置及电子设备 |
CN117495713B (zh) * | 2024-01-02 | 2024-04-19 | 天津大学 | 遥感模糊图像复原方法及系统 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8451338B2 (en) * | 2008-03-28 | 2013-05-28 | Massachusetts Institute Of Technology | Method and apparatus for motion invariant imaging |
US8390704B2 (en) * | 2009-10-16 | 2013-03-05 | Eastman Kodak Company | Image deblurring using a spatial image prior |
US9218648B2 (en) * | 2009-10-27 | 2015-12-22 | Honeywell International Inc. | Fourier domain blur estimation method and system |
CN102254309B (zh) * | 2011-07-27 | 2016-03-23 | 清华大学 | 一种基于近红外图像的运动模糊图像去模糊方法和装置 |
US9143687B2 (en) * | 2012-03-14 | 2015-09-22 | University Of Dayton | Method of analyzing motion blur using double discrete wavelet transform |
US9659350B2 (en) * | 2014-01-31 | 2017-05-23 | Morpho, Inc. | Image processing device and image processing method for image correction, and non-transitory computer readable recording medium thereof |
CN104966274B (zh) * | 2015-06-12 | 2019-01-29 | 杭州电子科技大学 | 一种采用图像检测与区域提取的局部模糊复原方法 |
CN109151332B (zh) * | 2018-06-26 | 2020-07-28 | 杭州电子科技大学 | 基于适应度函数的相机编码曝光最优码字序列搜索方法 |
CN109274895A (zh) * | 2018-09-25 | 2019-01-25 | 杭州电子科技大学 | 编码曝光成像的快速相对运动场景拍摄装置及复原方法 |
-
2019
- 2019-03-26 CN CN201910232779.2A patent/CN110097509B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN110097509A (zh) | 2019-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110097509B (zh) | 一种局部运动模糊图像的复原方法 | |
Aittala et al. | Burst image deblurring using permutation invariant convolutional neural networks | |
CN109190581B (zh) | 图像序列目标检测识别方法 | |
CN111709895A (zh) | 基于注意力机制的图像盲去模糊方法及系统 | |
US9589328B2 (en) | Globally dominant point spread function estimation | |
KR101664123B1 (ko) | 필터링에 기반하여 고스트가 없는 hdri를 생성하는 장치 및 방법 | |
Su et al. | Super-resolution without dense flow | |
Gu et al. | Blur removal via blurred-noisy image pair | |
CN107220945B (zh) | 多重退化的极模糊图像的复原方法 | |
Fan et al. | Multiscale cross-connected dehazing network with scene depth fusion | |
Kim et al. | Dynamic scene deblurring using a locally adaptive linear blur model | |
Sharif et al. | DarkDeblur: Learning single-shot image deblurring in low-light condition | |
Liu et al. | Guided image deblurring by deep multi-modal image fusion | |
Fazlali et al. | Atmospheric turbulence removal in long-range imaging using a data-driven-based approach | |
CN110121016B (zh) | 一种基于双重曝光先验的视频去模糊方法及装置 | |
He et al. | Feature aggregation convolution network for haze removal | |
Martorell et al. | Variational Temporal Optical Flow for Multi-exposure Video. | |
Wang et al. | Research on traditional and deep learning strategies based on optical flow estimation-a review | |
CN113222863B (zh) | 基于高速铁路运行环境视频自适应去模糊方法及装置 | |
CN115564671B (zh) | 基于长短曝光图像对的自监督图像复原系统 | |
HWANG et al. | Multi-aperture image processing using deep learning | |
Li et al. | Hybrid synthesis for exposure fusion from hand-held camera inputs | |
CN113470001B (zh) | 一种用于红外图像的目标搜索方法 | |
Gautam et al. | Rain removal in digital images using guided filter | |
Tiwari et al. | Enhancing Image Clarity using Deep Dehazing Architecture |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220810 Address after: Room 406, building 19, haichuangyuan, No. 998, Wenyi West Road, Yuhang District, Hangzhou City, Zhejiang Province Patentee after: HANGZHOU HUICUI INTELLIGENT TECHNOLOGY CO.,LTD. Address before: 310018 Xiasha Higher Education Zone, Hangzhou, Zhejiang, Jianggan District Patentee before: HANGZHOU DIANZI University |
|
TR01 | Transfer of patent right |