CN108537761A - 一种图像去雨模型的训练方法、装置及图像去雨方法 - Google Patents
一种图像去雨模型的训练方法、装置及图像去雨方法 Download PDFInfo
- Publication number
- CN108537761A CN108537761A CN201810350026.7A CN201810350026A CN108537761A CN 108537761 A CN108537761 A CN 108537761A CN 201810350026 A CN201810350026 A CN 201810350026A CN 108537761 A CN108537761 A CN 108537761A
- Authority
- CN
- China
- Prior art keywords
- rain
- image
- detail
- rainy
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000012549 training Methods 0.000 title claims abstract description 33
- 230000006870 function Effects 0.000 claims description 27
- 238000013507 mapping Methods 0.000 claims description 27
- 238000012545 processing Methods 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000001914 filtration Methods 0.000 claims description 11
- 238000010276 construction Methods 0.000 claims description 9
- 230000004913 activation Effects 0.000 claims description 7
- 238000004422 calculation algorithm Methods 0.000 claims description 7
- 230000009191 jumping Effects 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008450 motivation Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/10—Image enhancement or restoration using non-spatial domain filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供了一种图像去雨模型的训练方法、装置及图像去雨方法,解决了现如今大多数现有的方法都是使用低级图像特征将雨痕与图像分开。当一个物体的结构和方向与雨状相似时,这些方法存在难以同时去除雨水和保存物体结构的技术问题。
Description
技术领域
本发明涉及计算机视觉技术领域,尤其涉及一种图像去雨模型的训练方法、装置及图像去雨方法。
背景技术
对图片或者视频进行去噪的研究一直以来都是计算机视觉和图像处理领域内的一个重要课题。在现实生活中,因为雨雪会对道路上的路况造成一定程度的遮挡,驾驶车辆行驶在下大雨或大雪的恶劣天气下是非常危险的;不仅如此,在重要位置设置的摄像头也会因为风沙雨雪的遮挡,导致无法提供给公安人员足够的信息来进行对罪犯的身份确定;人们在出去旅游的时候会拍摄很多美景的照片,但是有的照片会因为天气状况等原因无法得到清晰的效果。以上所述的情况都需要对图像进行后期的处理,因此,对图像噪音去除的研究是非常有现实意义的。
现如今,对雨水去除的论文中,引用量比较高的,效果比较理想的主要有三种方法:1.基于纯粹物理模型和数学推导的去雨模型;2.基于图像处理知识的去雨方法;3.基于稀疏编码字典学习和分类器的去雨方法。
去雨,实际上是一个将图像看作是两层:无雨层和雨水层,然后将雨水层从原图像中分离出来,留下无雨图的一个分类过程。在深度学习的领域,有很多种方法可以进行分类的操作,譬如使用全连接的神经网络、卷积神经网络等等。
其中基于稀疏编码字典学习和分类器的去雨方法,我们是将稀疏编码当作一个数据的预处理,然后将处理后的稀疏数据放入一个卷积神经网络去进行学习。另外一种方法,是使用有雨的图直接进行字典学习和稀疏编码,学习的过程中,它设定了一个假设:即假设雨水和背景的特征是可分的,通过不断进行对字典和编码的优化,最终把一个图片分成一个字典的两个编码之和,这两个编码分别代表雨水的编码和背景的编码,用分类器去掉雨水的部分即可。
现如今大多数现有的方法都是使用低级图像特征将雨痕与图像分开。当一个物体的结构和方向与雨状相似时,这些方法存在难以同时去除雨水和保存物体结构的技术问题。
发明内容
本发明提供了一种图像去雨模型的训练方法、装置及图像去雨方法,解决了现如今大多数现有的方法都是使用低级图像特征将雨痕与图像分开。当一个物体的结构和方向与雨状相似时,这些方法存在难以同时去除雨水和保存物体结构的技术问题。
本发明提供了一种图像去雨模型的训练方法,包括:
S1、获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
S2、对无雨图像Y和有雨图像X进行比较,得到无雨图像Y和有雨图像X的负向残差映射;
S3、在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
S4、构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
S5、将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
S6、根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则返回步骤S1。
可选地,所述步骤S4中基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU)。
可选地,所述步骤S2具体包括:
将无雨图像Y和有雨图像X归一化至[0,1]之间;
通过学习回归函数使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射;
计算无雨图像和有雨图像X之间负向残差映射。
可选地,所述步骤S6中预置代价函数具体为:
其中,f()是ResNet函数。
本发明提供了一种图像去雨模型的训练装置,包括:
获取单元,有雨获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
负向残差映射计算单元,用于对无雨图像Y和有雨图像X进行比较,得到无雨图像Y和有雨图像X的负向残差映射;
图像处理单元,用于在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
构建单元,有雨构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
训练单元,用于将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
判断单元,用于根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则跳转至获取单元。
可选地,所述构建单元中基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU)。
可选地,所述负向残差映射计算单元具体包括:
归一化子单元,用于将无雨图像Y和有雨图像X归一化至[0,1]之间;
回归子单元,用于通过学习回归函数使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射;
计算子单元,用于计算无雨图像Y和有雨图像X之间负向残差映射。
可选地,所述判断单元中预置代价函数具体为:
其中,f()是ResNet函数。
本发明提供了一种图像去雨的方法,基于如上任意一项所述得到的图像去雨模型,包括:
获取待处理的有雨图像;
将待处理的有雨图像输入至如上任意一项所述得到的图像去雨模型,得到处理后的去雨图像。
本发明提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述指令被处理器执行时实现如上任意一项所述的方法。
从以上技术方案可以看出,本发明实施例具有以下优点:
本发明提供了一种图像去雨模型的训练方法,包括:S1、构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;S2、获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;S3、对无雨图像和有雨图像X进行比较,得到无雨图像Y和有雨图像X的负向残差映射;S4、在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;S5、将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;S6、根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则返回步骤S2。
本发明提供了一种图像去雨模型的训练方法,通过改进ResNet残差网络,以及回归有雨图像X和无雨图像Y的残差,使得图像目标值域缩小,稀疏性增强,同时利用低通滤波器分离有雨图像X中低频部分和高频部分,只对高频部分做去雨操作,分离后可以使得图像目标进一步稀疏化,解决了现如今大多数现有的方法都是使用低级图像特征将雨痕与图像分开。当一个物体的结构和方向与雨状相似时,这些方法存在难以同时去除雨水和保存物体结构的技术问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1为本发明提供的一种图像去雨模型的训练方法的一个实施例的流程示意图;
图2为本发明提供的一种图像去雨模型的训练方法的另一个实施例的流程示意图;
图3为本发明提供的一种图像去雨模型的训练装置的一个实施例的结构示意图。
具体实施方式
本发明实施例提供了一种图像去雨模型的训练方法、装置及图像去雨方法,解决了现如今大多数现有的方法都是使用低级图像特征将雨痕与图像分开。当一个物体的结构和方向与雨状相似时,这些方法存在难以同时去除雨水和保存物体结构的技术问题。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,下面所描述的实施例仅仅是本发明一部分实施例,而非全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
请参阅图1,本发明提供了一种图像去雨模型的训练方法,包括:
101、获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
102、对无雨图像Y和有雨图像进行比较,得到无雨图像Y和有雨图像X的负向残差映射;
103、在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
104、构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
105、将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
106、根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则返回步骤101。
本发明提供了一种图像去雨模型的训练方法,通过改进ResNet残差网络,以及回归有雨图像X和无雨图像Y的残差,使得图像目标值域缩小,稀疏性增强,同时利用低通滤波器分离有雨图像X中低频部分和高频部分,只对高频部分做去雨操作,分离后可以使得图像目标进一步稀疏化,解决了现如今大多数现有的方法都是使用低级图像特征将雨痕与图像分开。当一个物体的结构和方向与雨状相似时,这些方法存在难以同时去除雨水和保存物体结构的技术问题。
以上是对本发明提供的一种图像去雨模型的训练方法的一个实施例进行的说明,以下将对本发明提供的一种图像去雨模型的训练方法的另一个实施例进行的说明。
请参阅图2,本发明提供了一种图像去雨模型的训练方法的另一个实施例,包括:
201、获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
需要说明的是,首先获取清晰的无雨图像Y,再通过Photoshop或其他图像处理软件对无雨图像Y进行人工加雨,得到对应的有雨图像X。
202、将无雨图像Y和有雨图像X归一化至[0,1]之间;
需要说明的是,在得到了无雨图像Y和有雨图像X后,将无雨图像Y和有雨图像X归一化至[0,1]之间。
203、通过学习回归函数使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射;
需要说明的是,在将无雨图像Y和有雨图像X进行归一化后,学习一个回归函数,使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射。为了改善深度神经网络学习过程,通过压缩映射范围来减少解空间是很重要的。
203、计算无雨图像Y和有雨图像X之间负向残差映射;
需要说明的是,当与干净的无雨图像Y相比较时,有雨图像Y-X的残差在像素值上有显着的范围减小。这意味着可以将残差引入网络来帮助学习映射,因此,需要计算无雨图像Y和有雨图像X之间负向残差映射。由于雨倾向于在图像中出现白色条纹,所以Y-X的大部分值往往是负的。因此我们称之为“负向残差映射”(简称负向映射)。
205、在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
需要说明的是,由于更深的架构可以增加探索和建模图像特征的灵活性和能力,所以我们使用ResNet残差网络结构的负映射来更好地区分雨痕和物体细节。这种结构保证了输入信息可以通过所有参数层进行传播,这有助于训练网络。但是,我们在实验中观察到,即使我们将这两者结合起来,输出中仍然存在细微的雨痕。因此,与原始ResNet方法相反,我们使用细节层的输出作为残差层的输入。为此,我们首先将雨天的图像建模为
X=Xdetail+Xbase
其中,Xdetail表示细节图像,而Xbase表示基础图像。在细节层中可以使用低通滤波来获得基础层,之后Xdetail=X-Xbase。从有雨图像X中减去基本图像后,背景的干扰被去除,只有雨纹和物体结构保留在细节层中。我们发现细节图像Xdetail比有雨图像X更稀疏,因为细节图像Xdetail中的大部分区域接近零。
206、构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU);
需要说明的是,构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU);
为了保证输出分辨率不变,本发明实施例构建的基于ResNet残差网络和深度细节网络的图像去雨模型中去掉了所有的池化层。
207、将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
需要说明的是,细节图像Xdetail和负残差映射显示出显着的范围缩小,网络性能应该得到改善。这激励我们将细节图像Xdetail和提出的负残差映射Y-X结合起来,作为ResNet残差层的输入。由于我们在细节层上训练网络,所以我们称之为“深度细节网络”,通过将所提出的深度细节网络与负向残差映射相结合的最终结果与其他网络结构相比,我们的最终结果不仅达到了良好的收敛速度,而且具有更清晰的视觉衰减效果。
对于第一层,我们使用尺寸为c×s1×s1×a1的滤波器来生成a1个特征图;s表示滤波器大小,c表示输入图像通道的数量,例如,对于灰度级,c=1,对于彩色图像,c=3。对于第2层到第L-1层,滤波器的大小为a1×s2×s2×a2。对于最后一层,我们使用尺寸为a2×s3×s3×c的滤波器来估计负余量。去雨图像是通过直接添加对有雨图像X的估计残差来获取的。
208、根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则返回步骤201;
预置代价函数具体为:
其中,f()是ResNet函数。
我们提出了一个端到端的深度学习框架,用于从单个图像中去除雨水。我们发现,结合图像的高频细节层内容和负残差信息的回归有利于提高去雨性能,因为它通过减少映射范围使得训练过程更容易。由于我们不具备与真实雨景相对应的地面真实清晰图像,因此我们合成了干净/多雨的图像对用于网络学习,并且显示了学习的网络如何仍然良好地转移到真实世界的图像。我们展示了我们的方法在图像质量和计算效率方面明显优于基于字典学习和混合建模框架的其他最先进的方法。
另外我们“深度细节网络”方法的动机同样适用于其他问题,如图像去噪和去雾等。当期望图像和观察图像之间的腐蚀频率高时,通过训练网络从高频输入细节映射到高频输出差异,显着地简化了深度学习问题。正如我们所观察到的,这意味着学习网络在新图像上的性能显着提高。
以上是对本发明提供的一种图像去雨模型的训练方法的另一个实施例进行的说明,以下将对本发明提供的一种图像去雨模型的训练装置的一个实施例进行的说明。
请参阅图3,本发明提供了一种图像去雨模型的训练装置的一个实施例,包括:
获取单元301,有雨获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
负向残差映射计算单元302,用于对无雨图像Y和有雨图像X进行比较,得到无雨图像和有雨图像X的负向残差映射;
负向残差映射计算单元302具体包括:
归一化子单元3021,用于将无雨图像Y和有雨图像X归一化至[0,1]之间;
回归子单元3022,用于通过学习回归函数使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射;
计算子单元3023,用于计算无雨图像Y和有雨图像X之间负向残差映射;
图像处理单元303,用于在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
构建单元304,有雨构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
构建单元304中基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU);
训练单元305,用于将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
判断单元306,用于根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则跳转至获取单元301;
判断单元306中预置代价函数具体为:
其中,f()是ResNet函数。
以上是对本发明提供的一种图像去雨模型的训练装置的一个实施例进行的说明,以下将对本发明提供的一种图像去雨方法的一个实施例进行说明。
本发明提供了一种图像去雨方法,包括:
获取待处理的有雨图像;
将待处理的有雨图像输入至如实施例一或实施例而中任意一项所述得到的图像去雨模型,得到处理后的去雨图像。
以上是对本发明提供的一种图像去雨方法的一个实施例进行的说明,以下将对本发明提供的一种计算机可读存储介质的一个实施例进行说明。
本发明提供的一种计算机可读存储介质的一个实施例,计算机可读存储介质存储有计算机指令,所述指令被处理器执行时实现如图1或图2中任一实施例涉及的方法。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种图像去雨模型的训练方法,其特征在于,包括:
S1、获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
S2、对无雨图像Y和有雨图像X进行比较,得到无雨图像Y和有雨图像X的负向残差映射;
S3、在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
S4、构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
S5、将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
S6、根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则返回步骤S1。
2.根据权利要求1所述的图像去雨模型的构建方法,其特征在于,所述步骤S4中基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU)。
3.根据权利要求2所述的图像去雨模型的构建方法,其特征在于,所述步骤S2具体包括:
将无雨图像Y和有雨图像X归一化至[0,1]之间;
通过学习回归函数使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射;
计算无雨图像Y和有雨图像X之间负向残差映射。
4.根据权利要求3所述的图像去雨模型的构建方法,其特征在于,所述步骤S6中预置代价函数具体为:
其中,f()是ResNet函数。
5.一种图像去雨模型的训练装置,其特征在于,包括:
获取单元,有雨获取无雨图像Y,并对无雨图像Y进行人工加雨得到对应的有雨图像X;
负向残差映射计算单元,用于对无雨图像Y和有雨图像X进行比较,得到无雨图像Y和有雨图像X的负向残差映射;
图像处理单元,用于在细节层中通过低通滤波对有雨图像X进行处理,得到基础图像Xbase,再从有雨图像X中减去基础图像Xbase,得到细节图像Xdetail;
构建单元,有雨构建基于ResNet残差网络和深度细节网络的图像去雨模型,包括细节层、残差层和输出层;
训练单元,用于将细节图像Xdetail作为残差层的输入,将得到的输出与无雨图像Y和有雨图像X的负向残差映射结合,输入至输出层中;
判断单元,用于根据输出层输出的权值W和偏置值b,结合无雨图像Y和有雨图像X,通过预置代价函数计算图像去雨模型的loss值,并判断loss值是否低于预置阈值,若是,则保存图像去雨模型的权值W和偏置值b,若否,则跳转至获取单元。
6.根据权利要求5所述的图像去雨模型的训练装置,其特征在于,所述构建单元中基于ResNet残差网络和深度细节网络的图像去雨模型具体为:
其中,l表示残差层层数的数量,*表示卷积运算,W为权值,b为偏置值,BN()表示批量归一化,σ()表示一个非线性激活输出单位(ReLU)。
7.根据权利要求6所述的图像去雨模型的训练装置,其特征在于,所述负向残差映射计算单元具体包括:
归一化子单元,用于将无雨图像Y和有雨图像X归一化至[0,1]之间;
回归子单元,用于通过学习回归函数使得有雨图像X和无雨图像Y之间为[0,1]到[0,1]之间的映射;
计算子单元,用于计算无雨图像Y和有雨图像X之间负向残差映射。
8.根据权利要求7所述的图像去雨模型的训练装置,其特征在于,所述判断单元中预置代价函数具体为:
其中,f()是ResNet函数。
9.一种图像去雨方法,基于如权利要求1至4中任意一项所述得到的图像去雨模型,其特征在于,包括:
获取待处理的有雨图像;
将待处理的有雨图像输入至如权利要求1至4中任意一项所述得到的图像去雨模型,得到处理后的去雨图像。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述指令被处理器执行时实现如权利要求1至4中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810350026.7A CN108537761A (zh) | 2018-04-18 | 2018-04-18 | 一种图像去雨模型的训练方法、装置及图像去雨方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810350026.7A CN108537761A (zh) | 2018-04-18 | 2018-04-18 | 一种图像去雨模型的训练方法、装置及图像去雨方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108537761A true CN108537761A (zh) | 2018-09-14 |
Family
ID=63477935
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810350026.7A Pending CN108537761A (zh) | 2018-04-18 | 2018-04-18 | 一种图像去雨模型的训练方法、装置及图像去雨方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108537761A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111681176A (zh) * | 2020-05-14 | 2020-09-18 | 华南农业大学 | 自适应卷积的残差修正单幅图像去雨方法 |
CN112507327A (zh) * | 2020-08-31 | 2021-03-16 | 华南理工大学 | 一种基于机器学习的晴雨检测与处理方法 |
WO2022126355A1 (zh) * | 2020-12-15 | 2022-06-23 | 罗伯特·博世有限公司 | 基于图像的处理方法和设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107133935A (zh) * | 2017-05-25 | 2017-09-05 | 华南农业大学 | 一种基于深度卷积神经网络的单图像精细去雨方法 |
CN107256541A (zh) * | 2017-06-15 | 2017-10-17 | 北京航空航天大学 | 一种基于卷积神经网络的多光谱遥感图像去雾方法 |
CN107480788A (zh) * | 2017-08-11 | 2017-12-15 | 广东工业大学 | 一种深度卷积对抗生成网络的训练方法及训练系统 |
-
2018
- 2018-04-18 CN CN201810350026.7A patent/CN108537761A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107133935A (zh) * | 2017-05-25 | 2017-09-05 | 华南农业大学 | 一种基于深度卷积神经网络的单图像精细去雨方法 |
CN107256541A (zh) * | 2017-06-15 | 2017-10-17 | 北京航空航天大学 | 一种基于卷积神经网络的多光谱遥感图像去雾方法 |
CN107480788A (zh) * | 2017-08-11 | 2017-12-15 | 广东工业大学 | 一种深度卷积对抗生成网络的训练方法及训练系统 |
Non-Patent Citations (1)
Title |
---|
XUEYANG FU 等: "Removing rain from single images via a deep detail network", 《2017 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111681176A (zh) * | 2020-05-14 | 2020-09-18 | 华南农业大学 | 自适应卷积的残差修正单幅图像去雨方法 |
CN111681176B (zh) * | 2020-05-14 | 2023-04-07 | 华南农业大学 | 自适应卷积的残差修正单幅图像去雨方法 |
CN112507327A (zh) * | 2020-08-31 | 2021-03-16 | 华南理工大学 | 一种基于机器学习的晴雨检测与处理方法 |
WO2022126355A1 (zh) * | 2020-12-15 | 2022-06-23 | 罗伯特·博世有限公司 | 基于图像的处理方法和设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113592736B (zh) | 一种基于融合注意力机制的半监督图像去模糊方法 | |
CN110443761B (zh) | 一种基于多尺度聚合特征的单幅图像去雨方法 | |
CN105046664B (zh) | 一种基于自适应epll算法的图像去噪方法 | |
CN108537197A (zh) | 一种基于深度学习的车道线检测预警装置及预警方法 | |
CN111179189B (zh) | 基于生成对抗网络gan的图像处理方法、装置以及电子设备、存储介质 | |
CN108537761A (zh) | 一种图像去雨模型的训练方法、装置及图像去雨方法 | |
CN109117788A (zh) | 一种融合ResNet和LSTM的公交车厢拥挤度检测方法 | |
CN111079821A (zh) | 一种脱轨自动制动拉环脱落故障图像识别方法 | |
CN112150379A (zh) | 基于感知判别增强生成对抗网络的图像去雾方法及装置 | |
CN110675340A (zh) | 一种基于改进的非局部先验的单幅图像去雾方法及介质 | |
CN113066025B (zh) | 一种基于增量学习与特征、注意力传递的图像去雾方法 | |
CN110570435A (zh) | 用于对车辆损伤图像进行损伤分割的方法及装置 | |
CN114742719A (zh) | 一种基于多特征融合的端到端图像去雾方法 | |
CN112767279A (zh) | 一种基于离散小波集成生成对抗网络的水下图像增强方法 | |
CN114140346A (zh) | 一种图像处理方法及装置 | |
CN108629750A (zh) | 一种夜间去雾方法、终端设备及存储介质 | |
CN111598793A (zh) | 一种用于输电线路图像去雾的方法、系统及存储介质 | |
Arif et al. | Adaptive deep learning detection model for multi-foggy images | |
CN110728692A (zh) | 一种基于Scharr算子改进的图像边缘检测方法 | |
CN106485663A (zh) | 一种车道线图像增强方法及系统 | |
CN112734675A (zh) | 一种基于金字塔模型和非局部增强密集块的图像去雨方法 | |
CN113962889A (zh) | 遥感图像的薄云去除方法、装置、设备及介质 | |
CN102156968B (zh) | 一种基于颜色立方先验的单一图像能见度复原方法 | |
CN107301625B (zh) | 基于亮度融合网络的图像去雾方法 | |
CN113947538A (zh) | 一种多尺度高效卷积自注意力单幅图像除雨方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20180914 |