CN106709926B - 基于动态先验知识估计的快算去雨方法 - Google Patents

基于动态先验知识估计的快算去雨方法 Download PDF

Info

Publication number
CN106709926B
CN106709926B CN201611139578.0A CN201611139578A CN106709926B CN 106709926 B CN106709926 B CN 106709926B CN 201611139578 A CN201611139578 A CN 201611139578A CN 106709926 B CN106709926 B CN 106709926B
Authority
CN
China
Prior art keywords
image
raindrops
gradient
background
rain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201611139578.0A
Other languages
English (en)
Other versions
CN106709926A (zh
Inventor
刘怡光
都双丽
李�杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan University
Original Assignee
Sichuan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan University filed Critical Sichuan University
Priority to CN201611139578.0A priority Critical patent/CN106709926B/zh
Publication of CN106709926A publication Critical patent/CN106709926A/zh
Application granted granted Critical
Publication of CN106709926B publication Critical patent/CN106709926B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明是基于动态先验知识估计的快速去雨方法,在图像中雨滴的外形呈现高亮条纹状,这符合Gabor滤波器提取纹理的特性,即具有方向和频域选择性。基于此,提出一个两层的去雨框架。第一层用Gabor滤波器提取一组含有雨滴信息少而背景纹理多的图像,并用基于独立成分分析的图像融合方法将滤波图像与原图融合得到背景的梯度先验知识,其中滤波参数根据事先估计的雨滴方向和频域选取。第二层用背景的梯度先验知识和雨滴的低秩性构造了一个新的图像分解模型,可用SplitBregman策略交替迭代求解。与以前方法相比,新方法可以保留更多的图像细节信息,且速度提高了10倍,可达到实时应用的要求。

Description

基于动态先验知识估计的快算去雨方法
技术领域
数字图像处理与计算机视觉。本发明是基于动态先验知识估计的快速去雨方法,旨在提高方法速度的同时,恢复完整的背景图像信息。基于单张图像去雨方法的难点是信息不足,无法检测出雨滴,并恢复被覆盖像素。
背景技术
在雨天拍摄的图像能见度低,且很多重要纹理信息被遮挡,导致基于图像特征提取的视觉方法失效,如车牌识别,行人检测等。现有的研究工作主要基于图像序列,其利用前后帧信息的冗余和互补性检测和恢复被遮挡像素。基于单张图像的去雨方法较少,主流方法建立在下面几个理论体系上:稀疏表达与字典学习,自适应滤波及低秩优化。这些方法都把去雨看成图像分解问题,基于学习的方法预先训练得到两类字典,分别用来表示雨滴模型和背景图像,其缺点是耗时较久且背景会被模糊化;基于滤波的方法需根据形状先检测出雨滴,再用周围像素表示被覆盖像素,缺点是漏检率很高;基于低秩的方法假设性太强,导致图像中重复的纹理信息被误当作雨滴去除。
发明内容
在图像中雨滴的外形呈现高亮条纹状,其方向β可提前粗略估计。此事实启发我们用Gabor滤波器提取背景图像纹理信息,因为Gabor滤波器同时具有频率域和方向选择性,根据需求可提取特定频率域和方向内的纹理信息。基于此,本发明提出了一种新的图像去雨方法,包含两个模块:先验知识估计模块旨在利用Gabor滤波器生成的图像栈对背景纹理信息做初步的推断;基于先验知识的去雨模块提出了一种新的图像分解方法,将先验知识嵌入其中,同时假设雨滴在一副图像中具有低秩性。新方法同时用低秩约束和梯度先验知识求解问题,使背景中类似于雨的纹理可以保留下来。
为了提取有用的滤波图像,即包含较多的背景信息及较少的雨滴,Gabor函数波长λ及滤波方向θ扮有重要角色。考虑到计算成本,本发明固定波长,选择3个不同方向。滤波方向决定提取出纹理的方向,因此与雨滴垂直的方向可以最大限度地避免滤波图像中保留雨滴信息。对于其他两张滤波图像,需尽可能避开雨滴,并提供互补的背景信息,其值为{β-60,β+60}。通过大量实验发现,波长用以下方法计算在去雨问题中表现出较优的性能:
Figure GDA0002620820670000021
其中N表示图像的宽度。
本发明预先用独立成分分析法从大量自然图像中训练得到一个图像分量字典D,并将原图和参考图像分块,用列向量表示块,得到新的图像数据矩阵M0和参考图像数据Mi,i=1,2,3,用字典D表示为
Mi=DAi,i=0,1...,3 (2)
主要根据字典中分量对雨滴和背景图像的贡献度来去除雨滴。假定不含雨的背景图像M*可以表示为:
M*=DA*,A*=f(A0,A1,A2,A3); (3)
图像块
Figure GDA0002620820670000022
只与其他图像中的对应块有关系,其相邻或周围的块不参与计算,因此可以得到
Figure GDA0002620820670000023
其中
Figure GDA0002620820670000024
系数向量作为一个整体来考量,用于强调图像块的纹理信息和其内部结构,而非对每个像素点单独判断,采用线性函数:
Figure GDA0002620820670000025
其中
Figure GDA0002620820670000026
是贡献系数,表示整个图像块的贡献度。Gabor滤波器得到的参考图像,包含雨滴信息少,原图中雨滴比重较高。因此为了得到可靠的先验知识,系数
Figure GDA0002620820670000027
应降低,其他系数应增大,具体计算方法见下式:
Figure GDA0002620820670000028
其中γ在(0,1)之间,侧面反应了原图中雨滴的比重,其值越大,表示雨的信息越少。γ的计算方法是
Figure GDA0002620820670000029
其中d(,)采用Canberra距离。但是由于Gabor滤波器的选取及融合方法均是基于经验的,得到的图像M*不是最优解,下面讲述如何基于先验知识M*,用严格的数学推论求取更好的结果。
类似于以前的方法将输入图像用双边滤波器分解成低频部分ILF和高频部分IHF,使所有雨滴都包含在高频中,低频部分的雨滴可以忽略不计。此时,单张图像去雨问题可以描述为:
Figure GDA0002620820670000031
其中
Figure GDA0002620820670000032
是雨滴,
Figure GDA0002620820670000033
是背景图像的高频部分,求取的先验知识M*也是针对图像高频部分,其是分块形式,将数据元素重新排列成
Figure GDA0002620820670000034
令其梯度为V。基于此梯度先验知识构造新的图像分解框架:
Figure GDA0002620820670000035
上式旨在求解出分别满足梯度及低秩约束的
Figure GDA0002620820670000036
Figure GDA0002620820670000037
两种先验知识同时使用可增加方法鲁棒性。由于矩阵的秩很难近似表达,上式是一个NP问题,为了便于处理,用流行的Schatten范数取代上式中的低秩约束,可得:
Figure GDA0002620820670000038
其中参数p在(0,1)之间。求解该最小化问题的经典方式是固定一个变量,更新另一个变量,在交替迭代中直至方法收敛。求解
Figure GDA0002620820670000039
时,忽略所有与其无关的项,所得式是典型的矩阵低秩近似问题,存在最优解。同样求解
Figure GDA00026208206700000310
时,忽略与其无关的项。并令
Figure GDA00026208206700000311
则子优化问题为:
Figure GDA00026208206700000312
为了求解该式,本文使用基于SplitBregman方法的迭代策略,可以得到
Figure GDA00026208206700000313
的最优解,用快速傅里叶变换FFT表示为:
Figure GDA00026208206700000314
其中
Figure GDA00026208206700000315
是梯度算子
Figure GDA00026208206700000316
的共轭算子。
最终,不含雨的图像Inon-rain可表示为:
Figure GDA00026208206700000317
本发明提出一种新的单张图像去雨方法,认为雨天图像是雨滴和背景的线性相加。为了较好的剖析这个病态的数学问题,给背景图像提供先验约束条件,用Gabor滤波器生成的参考图像构建。此方法能够保留更多的纹理细节,如与雨滴相似的纹理,同时速度提高了10倍,可以应用到更多的实时场景中。

Claims (1)

1.一种基于动态先验知识估计的图像去雨方法,其特征在于,所述方法包括:
将输入图像用双边滤波器分解成低频部分ILF和高频部分IHF,使所有雨滴都包含在高频中,低频部分的雨滴可以忽略不计;
用Gabor滤波器生成一个图像栈,其中Gabor滤波器的波长固定,值为
Figure FDA0002620820660000011
其中N表示图像的宽度,Gabor滤波器的方向根据雨滴的方向β选取3个,即垂直于β的方向,β-60和β+60;
基于独立成分分析法从大量自然图像中训练得到一个图像字典,根据字典中分量对雨滴和背景图像的贡献度,用Gabor滤波器生成的参考图像与原图计算得到背景图像的高频部分
Figure FDA0002620820660000012
的梯度先验知识V,其计算过程为:
将原图和参考图像分块,用列向量表示块,得到新的图像数据矩阵M0和参考图像数据Mi,i=1,2,3,用字典D表示为Mi=DAi,i=0,1...,3;假定不含雨的背景图像M*可以表示为:M*=DA*,A*=f(A0,A1,A2,A3);假定图像块
Figure FDA0002620820660000013
只与其他图像中的对应块有关系,其相邻或周围的块不参与计算,可得
Figure FDA0002620820660000014
其中
Figure FDA0002620820660000015
采用线性函数
Figure FDA0002620820660000016
计算,其中
Figure FDA0002620820660000017
是贡献系数,由于求取的先验知识M*是分块形式,需将数据元素重新排列到图像空间,形成
Figure FDA0002620820660000018
令其梯度为V;
用梯度先验知识V约束背景图像,并用低秩性约束雨滴,构建得的图像分解问题:
Figure FDA0002620820660000019
其中
Figure FDA00026208206600000110
是梯度算子,用Split Bregman策略交替迭代求解,得到背景图像的高频部分
Figure FDA00026208206600000111
根据公式
Figure FDA00026208206600000112
确定去雨结果。
CN201611139578.0A 2016-12-12 2016-12-12 基于动态先验知识估计的快算去雨方法 Active CN106709926B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611139578.0A CN106709926B (zh) 2016-12-12 2016-12-12 基于动态先验知识估计的快算去雨方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611139578.0A CN106709926B (zh) 2016-12-12 2016-12-12 基于动态先验知识估计的快算去雨方法

Publications (2)

Publication Number Publication Date
CN106709926A CN106709926A (zh) 2017-05-24
CN106709926B true CN106709926B (zh) 2020-11-06

Family

ID=58937202

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611139578.0A Active CN106709926B (zh) 2016-12-12 2016-12-12 基于动态先验知识估计的快算去雨方法

Country Status (1)

Country Link
CN (1) CN106709926B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533581B (zh) * 2019-08-12 2023-05-02 广东工业大学 一种基于雨滴概率图的雨滴消除方法、系统和存储介质
CN113538297B (zh) * 2021-08-27 2023-08-01 四川大学 基于梯度先验知识和n-s方程的图像去雨方法
CN113902931B (zh) * 2021-09-17 2022-07-12 淮阴工学院 基于学习型卷积稀疏编码的图像去雨方法
CN114155426B (zh) * 2021-12-13 2023-08-15 中国科学院光电技术研究所 一种基于局部多向梯度信息融合的弱小目标检测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012008021A (ja) * 2010-06-25 2012-01-12 Japan Weather Association 監視装置、方法及びプログラム並びに監視システム
CN104537634A (zh) * 2014-12-31 2015-04-22 中国科学院深圳先进技术研究院 动态图像中去除雨滴影响的方法和系统
CN104992420A (zh) * 2015-07-08 2015-10-21 中国科学院深圳先进技术研究院 一种视频雨滴去除方法
CN105335949A (zh) * 2015-08-28 2016-02-17 中国科学院深圳先进技术研究院 一种视频图像去雨方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012008021A (ja) * 2010-06-25 2012-01-12 Japan Weather Association 監視装置、方法及びプログラム並びに監視システム
CN104537634A (zh) * 2014-12-31 2015-04-22 中国科学院深圳先进技术研究院 动态图像中去除雨滴影响的方法和系统
CN104992420A (zh) * 2015-07-08 2015-10-21 中国科学院深圳先进技术研究院 一种视频雨滴去除方法
CN105335949A (zh) * 2015-08-28 2016-02-17 中国科学院深圳先进技术研究院 一种视频图像去雨方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
A Generalized Low-Rank Appearance Model for Spatio-Temporally Correlated Rain Streaks;Yi-Lei Chen,et al.;《ICCV 2013》;20131231;第1969-1971页 *

Also Published As

Publication number Publication date
CN106709926A (zh) 2017-05-24

Similar Documents

Publication Publication Date Title
CN109360155B (zh) 基于多尺度特征融合的单帧图像去雨方法
CN106709926B (zh) 基于动态先验知识估计的快算去雨方法
CN103337061B (zh) 一种基于多次引导滤波的图像去雨雪方法
CN103093433B (zh) 基于区域划分和字典学习的自然图像去噪方法
CN102184533B (zh) 基于非局部约束的全变分图像去模糊方法
CN110443761B (zh) 一种基于多尺度聚合特征的单幅图像去雨方法
Tang et al. Single image dehazing via lightweight multi-scale networks
CN108765330B (zh) 基于全局和局部先验联合约束的图像去噪方法和装置
CN102393955A (zh) 用于图像复原的全信息非局部约束全变分方法
CN113724164B (zh) 一种基于融合重构制导滤波的可见光图像噪声去除方法
CN104657951A (zh) 图像乘性噪声移除方法
CN108694708A (zh) 基于图像边缘提取的小波变换图像融合方法
CN105957025A (zh) 基于稀疏表示的非一致图像盲复原方法
CN114202481A (zh) 一种基于图像高频信息融合的多尺度特征去雾网络及方法
CN116128768B (zh) 一种带有去噪模块的无监督图像低照度增强方法
Nejati et al. Low-rank regularized collaborative filtering for image denoising
Yang et al. Detail-aware near infrared and visible fusion with multi-order hyper-Laplacian priors
CN112734675B (zh) 一种基于金字塔模型和非局部增强密集块的图像去雨方法
Heiler et al. Natural image statistics for natural image segmentation
CN107798663B (zh) 一种基于偏微分方程和bm3d的无参数化图像恢复方法
KR101515686B1 (ko) 주파수 성분과 영역 분할을 이용한 고해상도 얼굴 영상 복원 장치 및 방법
CN107301625B (zh) 基于亮度融合网络的图像去雾方法
CN112529815B (zh) 一种雨后真实图像中雨滴去除方法及系统
Yeh et al. Single image rain removal based on part-based model
Gao et al. RASWNet: an algorithm that can remove all severe weather features from a degraded image

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant