CN108765319B - 一种基于生成对抗网络的图像去噪方法 - Google Patents

一种基于生成对抗网络的图像去噪方法 Download PDF

Info

Publication number
CN108765319B
CN108765319B CN201810466330.8A CN201810466330A CN108765319B CN 108765319 B CN108765319 B CN 108765319B CN 201810466330 A CN201810466330 A CN 201810466330A CN 108765319 B CN108765319 B CN 108765319B
Authority
CN
China
Prior art keywords
network
image
training
noise
convolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201810466330.8A
Other languages
English (en)
Other versions
CN108765319A (zh
Inventor
孙怡
张元祺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dalian University of Technology
Original Assignee
Dalian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dalian University of Technology filed Critical Dalian University of Technology
Priority to CN201810466330.8A priority Critical patent/CN108765319B/zh
Publication of CN108765319A publication Critical patent/CN108765319A/zh
Application granted granted Critical
Publication of CN108765319B publication Critical patent/CN108765319B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种基于生成对抗网络的图像去噪方法,属于计算机视觉技术领域。步骤如下:(1)设计神经网络对于含噪图像噪声强度进行估计;(2)依据估计的噪声强度,采用图像库中图像块添加该强度噪声作为训练网络的样本;(3)在训练网络时,设计全新的生成网络与判别网络。采用固定生成网络训练判别网络,固定判别网络参数训练生成网络的形式,使网络进行对抗训练。(4)采用训练后的生成网络作为去噪网络,依据噪声识别网络得到的结果选择网络参数,对含噪图像进行去噪。本发明的效果和益处是提高了去噪图像的视觉效果,无需人工干预调整参数,并且可以更好的恢复图像的纹理细节。

Description

一种基于生成对抗网络的图像去噪方法
技术领域
本发明属于计算机视觉技术领域,涉及一种基于生成对抗网络的图像去噪方法。
背景技术
在图像采集和传输的过程中,会产生图像噪声。采集图像时,设备的光电转换会引入噪声;图像传输时,信道噪声也会对图像产生干扰,因此图像质量往往会下降。图像中的噪声会使图像所含的信息具有不确定性,使人不能很好地对图像进行识别与理解。在计算机视觉领域中,对图像进行识别与分割等操作时,图像噪声会使处理结果产生严重偏差。在军事领域与医学领域中,这种偏差导致的错误会带来巨大的损失。因此,图像去噪的方法具有重要的研究意义,已经成为计算机视觉的热门课题。
图像去噪可以消除图像中由于噪声产生的不确定性,从而使人们更好的观测图像细节。在图像去噪方法中,有采用空间域滤波,频域滤波及小波域滤波的方法;利用自然图像的结构特性,基于稀疏表示与过完备字典的方法;采用图像中自相似性的三维块匹配方法。但这些传统方法在处理图像噪声时,主要针对图像的单一特性对图像进行去噪,例如图像在变换域的稀疏性,导致对图像的高频细节的保留效果较差。随着深度学习应用到图像去噪领域,例如采用多层感知器,自动编码器及卷积神经网络方法,使去噪效果较传统方法得到了较高的提升。但在图像纹理细节恢复上,尚有不足,为改善图像质量,本发明提出一种基于生成对抗网络的图像去噪方法。
发明内容
为解决上述问题,本发明提供一种基于生成对抗网络的图像去噪方法。本发明采用生成对抗思想进行图像去噪。搭建新的19层去噪网络结构作为生成网络,采用判别网络用以分辨生成网络输出的去噪图片与无噪图片间的区别。本发明通过网络之间的对抗训练,使判别网络可以辨别去噪图像与无噪图像的区别,同时对于生成网络,使其生成尽量与无噪图像相似的去噪图像,从而保留更多图像纹理。进而设计噪声强度识别网络,识别输入图像的噪声强度,自动选择合适的网络参数。
本发明的技术方案:
一种基于生成对抗网络的图像去噪方法
(1)定义
神经网络:是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型,如图1所示。由大量的节点(或称神经元)相互联接构成,节点分为不同的层次,每个节点与相邻层的其它节点相连,每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。每个节点值为相邻浅层网络节点值加权并通过非线性函数的输出,采用的非线性函数称为激励函数。网络的输出根据网络的连接方式,权重值和激励函数的变化而变化。网络自身通常都是对自然界某种算法或者函数的逼近,也可以是对一种逻辑策略的表达。
卷积神经网络:将一个小尺寸的矩阵作为卷积核,将卷积核与大规模的底层神经元进行卷积,从而使上层神经元只需要对局部进行感知,在更高层将局部的信息综合起来就得到全局的信息,而且可以共享权值,减少了网络的参数。
生成对抗去噪结构:采用两个不同结构的卷积神经网络,其中一个卷积神经网络为生成网络,输入为含噪图像,输出为去噪图像,用来进行图像去噪;第二个网络为判别网络,将去噪图像与对应的无噪图像作为训练的输入,从而使判别网络可以分辨两种图像;通过对抗训练,使生成网络生成判别器难以分辨的去噪图像;
卷积核:用于与图像进行卷积的小尺度矩阵。
卷积层:将卷积核对输入神经元进行卷积,从而得到输出神经元的值。
通道数:卷积层采用不同卷积核,导致输出神经元获得不同的值,而不同值的个数代表通道数。
批归一化:将每批输入数据进行运算处理,使其分布等于全部训练数据的数据分布。将对数据作归一化处理的网络结构称为批归一化层。
下采样层:对输入的神经元值进行采样处理,减少输出神经元的个数。
全连接网络:将神经元与所有相邻层神经元相连的神经网络结构。
激活函数:在神经元通过加权求和后,需要通过一个函数从而使网络具有非线性的特征,这个函数就是激活函数,三种常用的激活函数如图2所示。
训练网络:通过数据库中的样本,与该样本通过网络应当得到的值作为标签。通过计算包含标签与生成网络值的损失函数,并对网络中的参数进行优化,使损失函数值不断下降,在训练一定轮次之后或损失函数不再下降时,训练停止。
优化算法:将训练样本输入网络以获得激励响应,将激励响应同训练输入对应的目标标签求差,从而获得隐层和输出层的响应误差,根据响应误差,对网络的权重进行更新。更新网络权值的具体方法称为优化算法。
批:将数量的训练样本,组成一批,作为网络优化一次的单位。
轮:将所有的样本数据在网络中训练一次,称为一轮。
网络参数:神经网络每两个节点间的连接的权重值。
(2)步骤
1)设计噪声识别网络
噪声识别网络,采用八层卷积网络和一层全连接网络作为网络的整体结构;噪声识别网络在每层卷积网络后进行批归一化处理,并采用校正线性单元作为激活函数,对批归一化后的数据进行处理;八层卷积网络均采用3×3的卷积核对图像中的特征进行提取,在偶数卷积层通过步长为2的卷积对特征进行下采样操作,使噪声识别网络通过训练得到下采样的权重,通过增加参数学到更适合后续网络运算的下采样方法;在卷积层中,将前七层通道数设为64,最后一层设为16,保证特征提取的数量;在八层卷积网络后,使用全连接网络对卷积层提出的特征进行加权融合,随后通过sigmoid激活函数将值映射到0至1;
2)设计生成网络
生成网络,作为去噪网络,提取含噪图像的特征、并对提取的特征进行去噪、融合与恢复操作;
生成网络的第一部分为特征提取部分,由一个多尺度的卷积层构成,包括1×1,3×3,5×5,7×7大小的卷积核,将每个大小的卷积核输出的通道数设为32,将所有输出按通道维度进行合并,得到128通道的特征,即为原始的含噪特征;
第二部分为特征去噪部分,采用七层堆叠的卷积网络提取特征中的噪声,卷积核均为3×3;每层卷积网络,采用批归一化方法校正数据,使用校正线性单元作为激活函数,提高网络的非线性;在原始的含噪特征与提取的噪声间进行跨层相连,即在七层堆叠的卷积网络的首尾进行相连,使原始的含噪特征减去提取的噪声,得到去噪特征作为输出;
第三部分,将得到的去噪特征进行高维特征的提取,即对去噪特征进行多层卷积;通过两个残差块的堆叠提取高维特征,第一个残差块采用两层卷积核为3×3的卷积层与一层卷积核为1×1的卷积层;第二个残差块采用一层卷积核为3×3的卷积层与一层卷积核为1×1的卷积层;将输入的去噪特征作为低维特征,通过第一个残差块的输出与通过第二个残差块的输出均称为高维特征;将残差块的首末两端进行跨层连接,两个残差块组成的整体结构首末相连,使提取的高维特征与低维特征以相加的方式进行融合,得到128通道的融合特征;在残差块中,在每层卷积网络进行卷积前先进行批归一化处理,在卷积后使用ReLU激活函数对其进行激活,使网络收敛得更快;
第四部分为图像恢复部分,采用卷积核对128通道的融合特征进行筛选并逐渐重组为图像;一共使用五层卷积层,采用两个卷积核为3×3卷积层与三个卷积核为1×1的卷积层对特征进行通道上的融合,通道数从128通道逐渐降为64通道,16通道,最后降为3通道,作为去噪图像的RGB输出;
3)设计判别网络
判别网络,采用五层卷积层,卷积层输出通道数分别为32、64、64、32和16,每层卷积网络采用3×3的卷积核对图像中的特征进行提取,随着通道数的下降,卷积网络对提取的特征进行融合与筛选;在每层卷积中包含批归一化以及ReLU激活函数,保证网络的非线性及拟合能力;在每层卷积层后连接下采样层,对获取的特征筛选;通过进行步长为2的最大值下采样,将相邻2×2神经元中最大值保留下来作为输出,输出神经元数目变为输入的四分之一,对图像特征进行降维处理;在五层卷积层与下采样层的输出端,加入全连接层对降维后的图像特征进行加权处理,全连接层采用sigmoid作为激活函数;全连接层的输出为一个0至1的值,代表输入图片是真实图片的概率,用以衡量输入图片与真实图片的相似程度;
4)训练噪声识别网络
将图像库中无噪样本图像块添加强度为0至50的高斯噪声,将噪声识别网络输出值乘以50,作为噪声识别网络实际得到的噪声强度;将含噪图像作为噪声识别网络的输入,其对应的噪声强度作为标签进行训练;
在噪声识别网络训练时,输入采用40×40的含噪图像块,通过步长为10,大小为40×40的滑动窗口提取而成,用于训练;在训练时,每批训练图像为100个图像块,其中每个噪声强度的含噪图像为2块,保持输入图像的分布较为均匀,有利于网络的训练,在训练时,将每批数据的输入顺序打乱;
训练时,损失函数如公式(1)所示:
lossr=MSE(50×R(y)-l) (1)
其中,y为含噪图像,l为对应的标签,R为噪声识别网络,MSE为均方误差;采用矩估计的指数衰减速率为0.5和0.99,学习率为0.001的Adam算法对损失函数进行优化;
5)训练生成对抗网络
将图像库中的180×180的图片,通过步长为10,大小为40×40的滑动窗口裁剪为图像块用于训练;将每批训练图像数设为64;
首先对生成网络进行预训练,将生成器参数初始化为零均值的高斯分布;在训练时,采用无噪图像块加入0至50的高斯噪声作为生成网络的输入,将其对应的无噪图像块作为标签,采用公式(2)的损失函数对生成网络进行预训练;
lossg=MSE(G(y),x) (2)
其中,x为无噪图像,y为对应的含噪图像;MSE为均方误差,G为生成网络;采用Adam优化方法,学习率为0.001对其进行20轮训练;
在对生成网络进行预训练后,接下来对判别网络进行预训练,在对判别网络进行训练时,固定生成网络的参数,将噪声图像作为生成网络的输入,得到去噪图像,再将数据分布为pg去噪图像G(y)与数据分布为pr的无噪图像x作为判别网络的输入,在训练中去噪图像对应的标签为0,无噪图像的标签为1,使训练后的判别网络在输入为去噪图像时,输入与0相近,在输入为无噪图像时,输入与1相近,为输入为原图的概率;对于判别网络的预训练同样采用Adam优化方法,采用学习率为0.001对其进行10轮训练;
训练时,损失函数如公式(3)所示:
Figure BDA0001662155810000071
其中,D为判别网络,G为生成网络,y为分布为pn的含噪图像。通过将判别器输出值取log的方法,使损失函数为凸函数;在D(x)趋于1,D(G(y))趋近于0时,损失函数取得最小值0;
在生成网络与判别网络预训练结束后,即进行对抗训练;在对抗训练中,采用固定判别网络,对生成网络进行训练,使生成网络训练出判别网络难以判别的图像;再固定生成网络,对生成的改进过的去噪图像与无噪图像继续加以区分,从而优化判别网络的判别能力;在网络的对抗过程中,生成网络与判别网络分别得到优化;在网络的对抗训练中,将每批图像进行一次生成网络训练,两次判别网络训练,从而确保判别网络得到充分的更新;
损失函数如公式(4)所示:
Figure BDA0001662155810000072
在上式中,x为分布为pr的无噪图像,y为分布为pn的含噪图像;在生成网络损失函数中加入判别器对去噪图像G(y)和无噪图像x判别值的差D(x)-D(G(y))作为判别器衡量去噪效果的标准,用于指导生成器训练,α为引入的加权系数,随噪声强度增加而增加,在噪声强度为25时设为1;在训练判别网络时,采用生成网络值G(y)与无噪图像x送入判别网络,从而产生对抗训练;采用学习率为0.001的Adam算法对生成网络进行优化,学习率随着轮次增加而递减,直至为0.0001;采用学习率为0.001的Adam算法对判别网络进行优化,学习率不进行衰减。
本发明的有益效果:利用神经网络的特征提取能力与分辨能力,将去噪问题的纹理保留问题转化为去噪图像与真实图像间分布一致性问题。通过网络的训练,不需要人为提取特征,减少了人工干预,易于实现自动化,能够保证去噪图像质量。
附图说明
图1为神经网络示意图。
图2为激活函数示意图,(a)为s型激活函数(sigmoid);(b)为双曲正切激活函数(tanh);(c)为校正线性激活函数(ReLU)。
图3是生成对抗去噪网络整体框图。
图4是噪声识别网络示意图。
图5是生成网络示意图。
图6是判别网络示意图。
图7是本发明的工作流程图。
具体实施方式
以下结合技术方案和附图详细叙述本发明的具体实施方式。
一种基于生成对抗网络的图像去噪方法,利用卷积神经网络进行特征提取及图像拟合,设计噪声识别网络与生成对抗卷积网络对图像进行去噪,生成对抗网络结构,如图3所示;在处理噪声图片时,首先使用噪声识别网络识别含噪图像的噪声强度,然后根据噪声强度选择生成对抗网络参数,对含噪图像进行去噪;在使用生成对抗网络去噪前,对生成对抗网络进行训练,针对不同强度的噪声,训练网络得到不同的网络参数;在训练去除特定强度噪声的生成对抗网络时,将数据库中样本图像添加指定强度噪声,形成含噪图像,再将含噪图像与样本图像以图像对的形式送入生成网络进行训练;将生成网络输出的去噪图像与样本图像送入判别网络进行训练,由于生成网络和判别网络的损失函数互相相关,所以一个网络优化的同时使另一个网络的损失函数值上升,称为网络的对抗训练;通过对抗训练,提高生成网络和判别网络的性能,从而使生成网络从含噪图像中恢复出细节丰富的去噪图像;
1)设计噪声识别网络
噪声识别网络如图4所示,采用八层卷积网络和一层全连接网络作为网络的整体结构;噪声识别网络在每层卷积网络后进行批归一化处理,并采用校正线性单元(ReLU)作为激活函数,对批归一化后的数据进行处理;八层卷积网络均采用3×3的卷积核对图像中的特征进行提取,在偶数卷积层通过步长为2的卷积对特征进行下采样操作,使噪声识别网络通过训练得到下采样的权重,通过增加参数来学到更适合后续网络运算的下采样方法;在卷积层中,将前七层通道数设为64,最后一层设为16,保证特征提取的数量;在八层卷积网络之后,使用全连接网络对卷积层提出的特征进行加权融合,随后通过sigmoid(S型)激活函数将值映射到0至1;
2)设计生成网络
生成网络,作为去噪网络,提取含噪图像的特征、并对提取的特征进行去噪、融合与恢复操作,生成网络如图5所示;网络的第一部分为特征提取部分,由一个多尺度的卷积层构成,包括1×1,3×3,5×5,7×7大小的卷积核,将每个大小的卷积核输出的通道数设为32,将所有输出按通道维度进行合并,得到128通道的特征,即为原始的含噪特征;第二部分为特征去噪部分,采用七层堆叠的卷积网络提取特征中的噪声,卷积核均为3×3;每层卷积网络,采用批归一化方法校正数据,使用校正线性激活单元作为激活函数,提高网络的非线性;并在原始的含噪特征与提取的噪声间进行跨层相连,即在七层堆叠的卷积网络的首尾进行相连,使原始的含噪特征减去提取的噪声,得到去噪特征作为特征去噪部分的输出;第三部分,将得到的去噪特征进行高维特征的提取,即对去噪特征进行多层卷积,使输出神经元在原图上的感受野更大,具有更强的非线性表达能力;通过两个残差块的堆叠提取高维特征,第一个残差块采用两层卷积核为3×3的卷积层与一层卷积核为1×1的卷积层;第二个残差块采用一层卷积核为3×3的卷积层与一层卷积核为1×1的卷积层;将输入的去噪特征作为低维特征,通过第一个残差块的输出与通过第二个残差块的输出均称为高维特征;在每个残差块将残差块的首末两端进行跨层连接,两个残差块组成的整体结构首末相连,使提取的高维特征与低维特征以相加的方式进行融合,得到128通道的融合特征;在残差块中,在每层卷积网络进行卷积前首先进行批归一化处理,在卷积后使用ReLU激活函数对其进行激活,使网络收敛得更快;第四部分为图像恢复部分,采用卷积核对128通道的融合特征进行筛选并逐渐重组为图像;一共使用五层卷积层,采用两个卷积核为3×3卷积层与三个卷积核为1×1的卷积层对特征进行通道上的融合,通道数从128通道逐渐降为64通道,16通道,最后降为3通道,作为去噪图像的RGB输出;
3)设计判别网络
判别网络采用五层卷积层,如图6所示。卷积层输出通道数分别为32、64、64、32和16,每层卷积网络采用3×3的卷积核对于图像中的特征进行提取,随着通道数的下降,卷积网络对提取的特征进行融合与筛选;在每层卷积中包含批归一化以及ReLU激活函数,保证网络的非线性及拟合能力;并且在每层卷积层后连接下采样层,对获取的特征筛选;在通过卷积,批归一化与激活函数操作后得到的输出神经元是稀疏的,许多神经元值为零,所以通过进行步长为2的最大值下采样,将相邻2×2神经元中最大值保留下来作为输出,输出神经元数目变为输入的四分之一,对图像特征进行降维处理;在五层卷积层与下采样层的输出端,加入全连接层对降维后的图像特征进行加权处理,全连接层采用sigmoid作为激活函数。全连接层的输出为一个0至1的值,代表输入图片是真实图片的概率,用以衡量输入图片与真实图片的相似程度;
4)训练噪声识别网络
通过将图像库中无噪样本图像块添加强度为0至50的高斯噪声,将网络输出值乘以50,作为网络实际得到的噪声强度;将含噪图像作为噪声识别网络的输入,其对应的噪声强度作为标签进行训练;
在噪声识别网络训练时,输入采用40×40的含噪图像块,通过步长为10,大小为40×40的滑动窗口提取而成,用于训练;在训练时,每批训练图像为100个图像块,其中每个噪声强度的含噪图像为2块,从而保持输入图像的分布较为均匀,有利于网络的训练,在训练时,将每批数据的输入顺序打乱;
训练时,损失函数如公式(1)所示:
lossr=MSE(50×R(y)-l) (1)
其中,y代表含噪图像,l代表对应的标签,R代表噪声识别网络,MSE代表均方误差;采用矩估计的指数衰减速率为0.5和0.99,学习率为0.001的Adam算法对损失函数进行优化;
5)训练生成对抗网络
同样将图像库中的500张180×180的图片,通过步长为10,大小为40×40的滑动窗口裁剪为98000个图像块用于训练。将每批训练图像数设为64,更好的利用GPU资源。
首先对生成网络进行预训练,将生成器参数初始化为零均值的高斯分布。在训练时,采用无噪图像块加入0至50的高斯噪声作为网络的输入,将其对应的无噪图像块作为标签,采用公式(2)的损失函数对生成网络进行预训练。
lossg=MSE(G(y),x) (2)
其中,x代表无噪图像,y为对应的含噪图像。MSE为均方误差,G为生成网络。采用Adam优化方法,学习率为0.001对其进行20轮训练。
在对生成网络进行预训练后,接下来对判别网络进行预训练,在对判别网络进行训练时,固定生成网络的参数,将噪声图像作为生成网络的输入,得到去噪图像,再将数据分布为pr去噪图像与数据分布为pg的无噪图像作为判别网络的输入,在训练中去噪图像对应的标签为0,无噪图像的标签为1,从而使训练后的判别网络在输入为去噪图像时,输入与0相近,在输入为无噪图像时,输入与1相近,为输入为原图的概率。对于判别网络的预训练同样采用Adam优化方法,采用学习率为0.001对其进行10轮训练。损失函数如公式(3)所示。D为判别网络,G为生成网络,y为分布为pn的含噪图像。通过将判别器输出值取log的方法,使损失函数为凸函数,从而更易优化。在D(x)趋于1,D(G(y))趋近于0时,损失函数取得最小值0。
Figure BDA0001662155810000121
在生成网络与判别网络预训练结束后,即可进行对抗训练。在对抗训练中,采用固定判别网络,对生成网络进行训练,使生成网络训练出判别网络难以判别的图像。再固定生成网络,对生成的改进过的去噪图像与无噪图像继续加以区分,从而优化判别网络的判别能力。在网络的对抗过程中,生成网络与判别网络分别得到了优化。在网络的对抗训练中,将每批图像进行一次生成网络训练,两次判别网络训练,从而确保判别网络得到充分的更新。损失函数如公式(4)所示:
Figure BDA0001662155810000131
x为分布为pr的无噪图像,y为分布为pn的含噪图像;在生成网络损失函数中加入判别器对去噪图像G(y)和无噪图像x判别值的差D(x)-D(G(y))作为判别器衡量去噪效果的标准,用于指导生成器训练,α为引入的加权系数,随噪声强度增加而增加,在噪声强度为25时设为1。在训练判别网络时,采用生成网络值送入判别网络,从而产生对抗训练;采用学习率为0.001的Adam算法对生成网络进行优化,学习率随着轮次增加而递减,直至为0.0001;采用学习率为0.001的Adam算法对判别网络进行优化,学习率不进行衰减。
实施例:
以X射线成像图片的去噪为实验目标。实验平台GPU为NVIDIA GeForce GTX TITANX,运行环境Ubuntu14.04,Python3.4,Tensorflow0.12.1。
步骤1、获取X射线成像图片I,I的像素灰度级为0到255。
步骤2、建立无噪图像库,将网络中LSUN数据集中的500张180×180像素尺寸的灰度图像作为本实验数据集。
步骤3、将数据集中图像通过步长为10的滑动窗口,分割为98000个图像块。
步骤4、将图像块添加0至50强度的高斯噪声对噪声判别网络进行训练。
步骤5、将图像块添加一定强度噪声对生成对抗网络进行训练,并保存对应噪声的网络参数。
步骤6、改变添加的噪声强度,重复步骤5,直至将所有强度噪声对应去噪网络全部训练完毕。
步骤7、将待处理图像送入噪声判别网络,获取噪声强度。
步骤8、根据步骤7得到的噪声强度,选择生成网络的参数。
步骤9、使待处理图像作为网络输入,从而获取去噪后的图像。

Claims (1)

1.一种基于生成对抗网络的图像去噪方法,其特征在于,步骤如下:
1)设计噪声识别网络
噪声识别网络,采用八层卷积网络和一层全连接网络作为网络的整体结构;噪声识别网络在每层卷积网络后进行批归一化处理,并采用校正线性单元作为激活函数,对批归一化后的数据进行处理;八层卷积网络均采用3×3的卷积核对图像中的特征进行提取,在偶数卷积层通过步长为2的卷积对特征进行下采样操作,使噪声识别网络通过训练得到下采样的权重,通过增加参数学到更适合后续网络运算的下采样方法;在卷积层中,将前七层通道数设为64,最后一层设为16,保证特征提取的数量;在八层卷积网络后,使用全连接网络对卷积层提出的特征进行加权融合,随后通过sigmoid激活函数将值映射到0至1;
2)设计生成网络
生成网络,作为去噪网络,提取含噪图像的特征、并对提取的特征进行去噪、融合与恢复操作;
生成网络的第一部分为特征提取部分,由一个多尺度的卷积层构成,包括1×1,3×3,5×5,7×7大小的卷积核,将每个大小的卷积核输出的通道数设为32,将所有输出按通道维度进行合并,得到128通道的特征,即为原始的含噪特征;
第二部分为特征去噪部分,采用七层堆叠的卷积网络提取特征中的噪声,卷积核均为3×3;每层卷积网络,采用批归一化方法校正数据,使用校正线性单元作为激活函数,提高网络的非线性;在原始的含噪特征与提取的噪声间进行跨层相连,即在七层堆叠的卷积网络的首尾进行相连,使原始的含噪特征减去提取的噪声,得到去噪特征作为输出;
第三部分,将得到的去噪特征进行高维特征的提取,即对去噪特征进行多层卷积;通过两个残差块的堆叠提取高维特征,第一个残差块采用两层卷积核为3×3的卷积层与一层卷积核为1×1的卷积层;第二个残差块采用一层卷积核为3×3的卷积层与一层卷积核为1×1的卷积层;将输入的去噪特征作为低维特征,通过第一个残差块的输出与通过第二个残差块的输出均称为高维特征;将残差块的首末两端进行跨层连接,两个残差块组成的整体结构首末相连,使提取的高维特征与低维特征以相加的方式进行融合,得到128通道的融合特征;在残差块中,在每层卷积网络进行卷积前先进行批归一化处理,在卷积后使用ReLU激活函数对其进行激活,使网络收敛得更快;
第四部分为图像恢复部分,采用卷积核对128通道的融合特征进行筛选并逐渐重组为图像;一共使用五层卷积层,采用两个卷积核为3×3卷积层与三个卷积核为1×1的卷积层对特征进行通道上的融合,通道数从128通道逐渐降为64通道,16通道,最后降为3通道,作为去噪图像的RGB输出;
3)设计判别网络
判别网络,采用五层卷积层,卷积层输出通道数分别为32、64、64、32和16,每层卷积网络采用3×3的卷积核对图像中的特征进行提取,随着通道数的下降,卷积网络对提取的特征进行融合与筛选;在每层卷积中包含批归一化以及ReLU激活函数,保证网络的非线性及拟合能力;在每层卷积层后连接下采样层,对获取的特征筛选;通过进行步长为2的最大值下采样,将相邻2×2神经元中最大值保留下来作为输出,输出神经元数目变为输入的四分之一,对图像特征进行降维处理;在五层卷积层与下采样层的输出端,加入全连接层对降维后的图像特征进行加权处理,全连接层采用sigmoid作为激活函数;全连接层的输出为一个0至1的值,代表输入图片是真实图片的概率,用以衡量输入图片与真实图片的相似程度;
4)训练噪声识别网络
将图像库中无噪样本图像块添加强度为0至50的高斯噪声,将噪声识别网络输出值乘以50,作为噪声识别网络实际得到的噪声强度;将含噪图像作为噪声识别网络的输入,其对应的噪声强度作为标签进行训练;
在噪声识别网络训练时,输入采用40×40的含噪图像块,通过步长为10,大小为40×40的滑动窗口提取而成,用于训练;在训练时,每批训练图像为100个图像块,其中每个噪声强度的含噪图像为2块,保持输入图像的分布较为均匀,有利于网络的训练,在训练时,将每批数据的输入顺序打乱;
训练时,损失函数如公式(1)所示:
lossr=MSE(50×R(y)-l) (1)
其中,y为含噪图像,l为对应的标签,R为噪声识别网络,MSE为均方误差;采用矩估计的指数衰减速率为0.5和0.99,学习率为0.001的Adam算法对损失函数进行优化;
5)训练生成对抗网络
将图像库中的180×180的图片,通过步长为10,大小为40×40的滑动窗口裁剪为图像块用于训练;将每批训练图像数设为64;
首先对生成网络进行预训练,将生成器参数初始化为零均值的高斯分布;在训练时,采用无噪图像块加入0至50的高斯噪声作为生成网络的输入,将其对应的无噪图像块作为标签,采用公式(2)的损失函数对生成网络进行预训练;
lossg=MSE(G(y),x) (2)
其中,x为无噪图像,数据分布为pr,y为对应的含噪图像,数据分布为pn;MSE为均方误差,G为生成网络;采用Adam优化方法,学习率为0.001对其进行20轮训练;
在对生成网络进行预训练后,接下来对判别网络进行预训练,在对判别网络进行训练时,固定生成网络的参数,将噪声图像作为生成网络的输入,得到去噪图像,再将数据分布为pg去噪图像G(y)与数据分布为pr的无噪图像x作为判别网络的输入,在训练中去噪图像对应的标签为0,无噪图像的标签为1,使训练后的判别网络在输入为去噪图像时,输入与0相近,在输入为无噪图像时,输入与1相近,为输入为原图的概率;对于判别网络的预训练同样采用Adam优化方法,采用学习率为0.001对其进行10轮训练;
训练时,损失函数如公式(3)所示:
Figure FDA0002546112160000041
其中,D为判别网络,G为生成网络,x为无噪图像,数据分布为pr,y为对应的含噪图像,数据分布为pn;通过将判别器输出值取log的方法,使损失函数为凸函数;在D(x)趋于1,D(G(y))趋近于0时,损失函数取得最小值0;
在生成网络与判别网络预训练结束后,即进行对抗训练;在对抗训练中,采用固定判别网络,对生成网络进行训练,使生成网络训练出判别网络难以判别的图像;再固定生成网络,对生成的改进过的去噪图像与无噪图像继续加以区分,从而优化判别网络的判别能力;在网络的对抗过程中,生成网络与判别网络分别得到优化;在网络的对抗训练中,将每批图像进行一次生成网络训练,两次判别网络训练,从而确保判别网络得到充分的更新;
损失函数如公式(4)所示:
Figure FDA0002546112160000042
在上式中,x为无噪图像,数据分布为pr,y为对应的含噪图像,数据分布为pn;在生成网络损失函数中加入判别器对去噪图像G(y)和无噪图像x判别值的差D(x)-D(G(y))作为判别器的衡量标准,用于指导生成器训练,α为引入的加权系数,随噪声强度增加而增加,在噪声强度为25时设为1;在训练判别网络时,采用生成网络值G(y)与无噪图像x送入判别网络,从而产生对抗训练;采用学习率为0.001的Adam算法对生成网络进行优化,学习率随着轮次增加而递减,直至为0.0001;采用学习率为0.001的Adam算法对判别网络进行优化,学习率不进行衰减。
CN201810466330.8A 2018-05-09 2018-05-09 一种基于生成对抗网络的图像去噪方法 Expired - Fee Related CN108765319B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810466330.8A CN108765319B (zh) 2018-05-09 2018-05-09 一种基于生成对抗网络的图像去噪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810466330.8A CN108765319B (zh) 2018-05-09 2018-05-09 一种基于生成对抗网络的图像去噪方法

Publications (2)

Publication Number Publication Date
CN108765319A CN108765319A (zh) 2018-11-06
CN108765319B true CN108765319B (zh) 2020-08-14

Family

ID=64008048

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810466330.8A Expired - Fee Related CN108765319B (zh) 2018-05-09 2018-05-09 一种基于生成对抗网络的图像去噪方法

Country Status (1)

Country Link
CN (1) CN108765319B (zh)

Families Citing this family (72)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109636746B (zh) * 2018-11-30 2020-09-08 上海皓桦科技股份有限公司 图像噪声去除系统、方法及设备
CN109671125B (zh) * 2018-12-17 2023-04-07 电子科技大学 一种高度融合的gan网络装置及实现文本生成图像的方法
CN109685072B (zh) * 2018-12-22 2021-05-14 北京工业大学 一种基于生成对抗网络的复合降质图像高质量重建方法
CN111383172B (zh) * 2018-12-29 2023-04-21 Tcl科技集团股份有限公司 神经网络模型的训练方法、装置及智能终端
CN111383188B (zh) * 2018-12-29 2023-07-14 Tcl科技集团股份有限公司 一种图像处理方法、系统及终端设备
CN109977966A (zh) * 2019-02-28 2019-07-05 天津大学 基于深度学习的电子散斑条纹批量全自动滤波方法
CN109859147B (zh) * 2019-03-01 2021-05-04 武汉大学 一种基于生成对抗网络噪声建模的真实图像去噪方法
CN109993710B (zh) * 2019-03-20 2022-03-11 西北工业大学 一种基于生成对抗网络的水下图像去噪方法
CN109978807B (zh) * 2019-04-01 2020-07-14 西北工业大学 一种基于生成式对抗网络的阴影去除方法
CN110097512B (zh) * 2019-04-16 2021-06-04 四川大学 基于Wasserstein生成对抗网络的MRI图像去噪模型的构建方法及应用
CN110120020A (zh) * 2019-04-30 2019-08-13 西北工业大学 一种基于多尺度空洞残差注意力网络的sar图像去噪方法
CN110163827B (zh) * 2019-05-28 2023-01-10 腾讯科技(深圳)有限公司 图像去噪模型的训练方法、图像去噪方法、装置及介质
CN110223254A (zh) * 2019-06-10 2019-09-10 大连民族大学 一种基于对抗生成网络的图像去噪方法
CN110223259A (zh) * 2019-06-14 2019-09-10 华北电力大学(保定) 一种基于生成式对抗网络的道路交通模糊图像增强方法
CN110264428A (zh) * 2019-06-27 2019-09-20 东北大学 一种基于3d卷积反卷积和生成对抗网络的医学图像降噪方法
CN110288547A (zh) * 2019-06-27 2019-09-27 北京字节跳动网络技术有限公司 用于生成图像去噪模型的方法和装置
CN110349103A (zh) * 2019-07-01 2019-10-18 昆明理工大学 一种基于深度神经网络和跳跃连接的无干净标签图像去噪方法
CN110443758B (zh) * 2019-07-05 2023-08-25 广东省人民医院(广东省医学科学院) 一种医疗影像去噪方法及装置
CN110390650B (zh) * 2019-07-23 2022-02-11 中南大学 基于密集连接和生成对抗网络的oct图像去噪方法
CN110517195B (zh) * 2019-07-26 2022-12-06 西安电子科技大学 无监督sar图像去噪方法
CN110473154B (zh) * 2019-07-31 2021-11-16 西安理工大学 一种基于生成对抗网络的图像去噪方法
CN110490823A (zh) * 2019-08-14 2019-11-22 北京大学深圳研究生院 一种真实环境下的图像去噪方法
CN110490659B (zh) * 2019-08-21 2022-01-11 广东电网有限责任公司 一种基于gan的用户负荷曲线生成方法
CN112434780B (zh) * 2019-08-26 2023-05-30 上海高德威智能交通系统有限公司 目标对象识别网络模型及其训练方法、目标对象识别方法
CN112119408A (zh) * 2019-08-29 2020-12-22 深圳市大疆创新科技有限公司 获取画质增强网络的方法、图像画质增强方法、装置、可移动平台、相机及存储介质
CN110517204B (zh) * 2019-08-30 2022-05-20 京东方科技集团股份有限公司 一种x射线探测器的噪声消除方法及装置、探测器
CN110738605B (zh) * 2019-08-30 2023-04-28 山东大学 基于迁移学习的图像去噪方法、系统、设备及介质
CN110728636A (zh) * 2019-09-17 2020-01-24 杭州群核信息技术有限公司 一种基于生成式对抗网络的蒙特卡洛渲染图去噪模型、方法及装置
CN112561778A (zh) * 2019-09-26 2021-03-26 北京字节跳动网络技术有限公司 图像风格化处理方法、装置、设备及存储介质
CN110930314B (zh) * 2019-10-21 2023-08-08 西安电子科技大学 图像条带噪声抑制方法及其装置、电子设备、存储介质
CN110827216B (zh) * 2019-10-23 2023-07-14 上海理工大学 图像去噪的多生成器生成对抗网络学习方法
CN110738626B (zh) * 2019-10-24 2022-06-28 广东三维家信息科技有限公司 渲染图的优化方法、装置及电子设备
CN111222465B (zh) * 2019-11-07 2023-06-13 深圳云天励飞技术股份有限公司 基于卷积神经网络的图像分析方法及相关设备
CN111145103B (zh) * 2019-11-29 2022-08-12 南京理工大学 基于细节保留神经网络模型的蒙特卡洛去噪方法
CN111080540B (zh) * 2019-12-05 2023-11-21 深圳大学 一种图像修复模型的训练方法和计算机设备
CN110992344A (zh) * 2019-12-05 2020-04-10 北京华恒盛世科技有限公司 基于卫星图片缺陷的定位、识别和分类方法
CN111062886A (zh) * 2019-12-10 2020-04-24 携程计算机技术(上海)有限公司 酒店图片的超分辨方法、系统、电子产品和介质
CN111047537A (zh) * 2019-12-18 2020-04-21 清华大学深圳国际研究生院 一种图像去噪中恢复细节的系统
CN111260570B (zh) * 2020-01-10 2023-03-14 西安理工大学 基于循环一致性对抗网络的碑帖二值化背景噪声模拟方法
CN111223087B (zh) * 2020-01-15 2022-11-15 东南大学 一种基于生成对抗网络的桥梁裂缝自动检测方法
CN111353958B (zh) 2020-02-28 2023-07-25 北京东软医疗设备有限公司 图像处理方法、装置及系统
CN111489300B (zh) * 2020-03-11 2022-07-08 天津大学 基于无监督学习的屏幕图像去摩尔纹方法
CN111105417B (zh) * 2020-03-17 2023-07-07 珠海欧比特宇航科技股份有限公司 影像噪声定位方法及系统
CN111564160B (zh) * 2020-04-21 2022-10-18 重庆邮电大学 一种基于aewgan的语音降噪的方法
CN111861949B (zh) * 2020-04-21 2023-07-04 北京联合大学 一种基于生成对抗网络的多曝光图像融合方法及系统
CN111583135B (zh) * 2020-04-24 2023-04-07 华南理工大学 一种核预测神经网络蒙特卡罗渲染图像去噪方法
CN111598805A (zh) * 2020-05-13 2020-08-28 华中科技大学 一种基于vae-gan的对抗样本防御方法及系统
WO2021230708A1 (en) * 2020-05-15 2021-11-18 Samsung Electronics Co., Ltd. Image processing method, electronic device and readable storage medium
CN111932645B (zh) * 2020-06-12 2022-08-26 重庆大学 基于生成对抗网络gan自动生成水墨画的方法
CN111866521B (zh) * 2020-07-09 2022-04-01 浙江工商大学 一种视频图像压缩伪影去除方法
CN112215054B (zh) * 2020-07-27 2022-06-28 西北工业大学 一种用于水声信号去噪的深度生成对抗方法
CN112070693B (zh) * 2020-08-27 2024-03-26 西安理工大学 一种基于灰度世界自适应网络的单幅沙尘图像恢复方法
CN112230210B (zh) * 2020-09-09 2022-07-29 南昌航空大学 一种基于改进的lsgan和cnn的hrrp雷达目标识别方法
CN112085687B (zh) * 2020-09-10 2023-12-01 浙江大学 一种基于细节增强的t1到stir影像转换的方法
CN111932563B (zh) * 2020-09-23 2021-07-06 平安科技(深圳)有限公司 图片区域分割方法、装置、电子设备及存储介质
CN112184590B (zh) * 2020-09-30 2024-03-26 西安理工大学 一种基于灰度世界自引导网络的单幅沙尘图像恢复方法
CN112488953A (zh) * 2020-12-10 2021-03-12 深圳先进技术研究院 一种医学图像降噪方法、系统、终端以及存储介质
CN112651948B (zh) * 2020-12-30 2022-04-12 重庆科技学院 一种基于机器视觉的青蒿素萃取智能跟踪与识别方法
CN113112484B (zh) * 2021-04-19 2021-12-31 山东省人工智能研究院 一种基于特征压缩和噪声抑制的心室图像分割方法
CN113191972B (zh) * 2021-04-27 2023-04-14 西安交通大学 一种轻量真实图像去噪的神经网络设计及训练方法
CN113723171B (zh) * 2021-06-16 2022-11-11 陕西师范大学 基于残差生成对抗网络的脑电信号去噪方法
CN113822328B (zh) * 2021-08-05 2022-09-16 厦门市美亚柏科信息股份有限公司 防御对抗样本攻击的图像分类方法、终端设备及存储介质
CN114092520B (zh) * 2021-11-19 2023-12-26 电子科技大学长三角研究院(湖州) 基于生成对抗网络的地面运动目标重聚焦方法及系统
CN114091538B (zh) * 2021-11-23 2024-04-30 吉林大学 一种基于信号特征的判别损失卷积神经网络智能降噪方法
CN114926348B (zh) * 2021-12-22 2024-03-01 天翼数字生活科技有限公司 一种去除低照度视频噪声的装置和方法
CN114331903B (zh) * 2021-12-31 2023-05-12 电子科技大学 一种图像修复方法及存储介质
CN114067184B (zh) * 2022-01-17 2022-04-15 武汉大学 一种基于噪声模式分类的对抗样本检测方法及系统
CN114757841A (zh) * 2022-03-30 2022-07-15 西北核技术研究所 一种基于噪声特性的激光诱导荧光图像去噪方法
CN115170428A (zh) * 2022-07-18 2022-10-11 江苏科技大学 一种声波远探测成像图的降噪方法
CN115453619A (zh) * 2022-09-14 2022-12-09 中国地质科学院地质力学研究所 基于条件生成对抗网络的高分辨率地震成像方法及系统
CN117095074B (zh) * 2023-08-23 2024-04-09 浙江大学 一种基于深度学习的医学图像的双重去噪方法及装置
CN117407663B (zh) * 2023-12-15 2024-03-26 山东科技大学 一种基于卷积神经网络的全波形数据去噪方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105894457A (zh) * 2015-12-04 2016-08-24 乐视致新电子科技(天津)有限公司 一种去除图像噪声的方法及装置
CN107016406A (zh) * 2017-02-24 2017-08-04 中国科学院合肥物质科学研究院 基于生成式对抗网络的病虫害图像生成方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9633274B2 (en) * 2015-09-15 2017-04-25 Mitsubishi Electric Research Laboratories, Inc. Method and system for denoising images using deep Gaussian conditional random field network
CN107507153B (zh) * 2017-09-21 2021-03-09 百度在线网络技术(北京)有限公司 图像去噪方法和装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105894457A (zh) * 2015-12-04 2016-08-24 乐视致新电子科技(天津)有限公司 一种去除图像噪声的方法及装置
CN107016406A (zh) * 2017-02-24 2017-08-04 中国科学院合肥物质科学研究院 基于生成式对抗网络的病虫害图像生成方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
《Correction by Projection:Denoising images with Generative adversarial networks》;Subarna Tripathi,et al.;《arXiv:1803.04477v1》;20180312;第1-6页 *
《Generative Adversarial Networks for Noise Reduction in Low-Dose CT》;Jelmer M.Wolterink,et al.;《IEEE transactions on medical imaging》;20171231;第36卷(第12期);第2536-2545页 *
《基于主成分分析和字典学习的高光谱遥感图像去噪方法》;霍雷刚,等;《电子与信息学报》;20141130;第36卷(第11期);第2723-2729页 *

Also Published As

Publication number Publication date
CN108765319A (zh) 2018-11-06

Similar Documents

Publication Publication Date Title
CN108765319B (zh) 一种基于生成对抗网络的图像去噪方法
Tian et al. Deep learning on image denoising: An overview
CN108830157B (zh) 基于注意力机制和3d卷积神经网络的人体行为识别方法
Chang et al. HSI-DeNet: Hyperspectral image restoration via convolutional neural network
CN109711426B (zh) 一种基于gan和迁移学习的病理图片分类装置及方法
CN107977932B (zh) 一种基于可鉴别属性约束生成对抗网络的人脸图像超分辨率重建方法
CN107633486B (zh) 基于三维全卷积神经网络的结构磁共振图像去噪方法
CN111950649B (zh) 基于注意力机制与胶囊网络的低照度图像分类方法
CN112507997B (zh) 一种基于多尺度卷积和感受野特征融合的人脸超分辨系统
Gai et al. New image denoising algorithm via improved deep convolutional neural network with perceptive loss
CN110232341B (zh) 基于卷积-堆叠降噪编码网络的半监督学习图像识别方法
CN111275637A (zh) 一种基于注意力模型的非均匀运动模糊图像自适应复原方法
Zhang et al. Self-supervised image denoising for real-world images with context-aware transformer
CN111161178A (zh) 基于生成式对抗网络的单幅低光图像增强方法
CN111861894A (zh) 基于生成式对抗网络的图像去运动模糊方法
CN112270654A (zh) 基于多通道gan的图像去噪方法
CN112419171A (zh) 一种多残差块条件生成对抗网络的图像复原方法
CN112651917A (zh) 一种基于生成对抗网络的空间卫星低照度图像增强方法
Paul et al. Modified convolutional neural network with pseudo-CNN for removing nonlinear noise in digital images
CN113807356B (zh) 一种端到端的低能见度图像语义分割方法
CN113378620A (zh) 监控视频噪声环境下跨摄像头行人重识别方法
CN111047537A (zh) 一种图像去噪中恢复细节的系统
CN116523794A (zh) 一种基于卷积神经网络的低光照图像增强方法
CN116563144A (zh) 一种基于动态注意力的密集型lstm残差网络去噪方法
CN113269702A (zh) 基于跨尺度特征融合的低曝光静脉图像增强方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200814