CN110097512A - 基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法及应用 - Google Patents

基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法及应用 Download PDF

Info

Publication number
CN110097512A
CN110097512A CN201910304511.5A CN201910304511A CN110097512A CN 110097512 A CN110097512 A CN 110097512A CN 201910304511 A CN201910304511 A CN 201910304511A CN 110097512 A CN110097512 A CN 110097512A
Authority
CN
China
Prior art keywords
model
mri image
denoising
dimensional
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910304511.5A
Other languages
English (en)
Other versions
CN110097512B (zh
Inventor
张意
冉茂松
周激流
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan University
Original Assignee
Sichuan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan University filed Critical Sichuan University
Priority to CN201910304511.5A priority Critical patent/CN110097512B/zh
Publication of CN110097512A publication Critical patent/CN110097512A/zh
Application granted granted Critical
Publication of CN110097512B publication Critical patent/CN110097512B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/001Model-based coding, e.g. wire frame
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/002Image coding using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Abstract

本发明公开了一种基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法及应用,本发明以Wasserstein生成对抗网络作为基本模型对MRI噪声图像进行处理,利用大规模数据来进行训练,能够使模型自动从数据中学习噪声图像和无噪声图像之间潜在的关联,并将对抗损失、感知损失和MSE损失引入训练模型损失函数的构建中,使构建的模型对三维MRI图像具有很好的去噪效果。

Description

基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构 建方法及应用
技术领域
本发明属于MRI(核磁共振成像)图像处理技术领域,涉及一种MRI图像去噪的方法,尤其涉及一种基于Wassertein生成对抗网络的三维MRI图像去噪模型的构建方法及应用。
背景技术
在临床诊断过程中,每一个细节都会影响医师的诊断结果,这就要求更多的研究者投入时间和精力去研究新的成像技术及图像处理方法。
MRI作为医疗诊断的常规手段和医学影像界最先进的成像技术之一,具有对人体无创伤、无辐射伤害、可在任意方向直接断层成像的优点。然而,在高速成像和高分辨率成像条件下,容易出现涡流失真等问题,从而影响MRI图像的成像质量及其临床诊断价值。因此,对MRI图像进行去噪同时保留足够的细节信息是MRI成像领域的重要问题之一。
MRI图像的三维结构保留是医学图像分析中的关键步骤,为了同时在噪声抑制和结构保留两方面取得较好的效果,目前已经提出了多种MRI图像去噪方法,这些方法可以分为三类:(a)基于滤波器的方法,此类方法直接在空域对图像的像素点或图像块进行处理,典型的算法有Anisotropic diffusion filter、非局域均值(Nonlocal Means,NLM)等;(b)基于频域的方法,此类方法首先将图像通过某种变换【如离散余弦变换(Disicrete CosineTransform,DCT)、小波变换、傅里叶变化等】,将图像信息映射到频域,再对频域数据进行处理;(c)基于统计的方法,此类方法一般首先估计MRI图像中莱斯噪声参数,然后利用该参数结合统计方法(如贝叶斯、最大后验估计等)来优化图像质量。
近年来,基于图像自相似性和稀疏性的方法得到关注,许多研究者提出了非NLM方法和Block-matching and 3D(BM3D)滤波器,并将其应用到MRI图像去噪领域。非NLM方法通过搜索框口中的相似块进行加权求和来计算目标像素值,从而达到去除噪声的目的,并得到显著的效果(Manjon,J.,Carbonell-Caballero,J.,Jj,Garcia-Marti,G.,Marti-Bonmati,L.,Robles,M.,2008.MRI denoising using non-local means.Med.ImageAnal.12,514-523)。Block-matching and 3D(BM3D)滤波器结合局部性和域变换的特性,它首先将相似块组合成一个3D的数组,然后利用域变换操作(DCT,小波变换等)将该3D数组变换到频域空间来估计目标块的值(Dabov,K.,Foi,A.,Katkovnik,V.,Egiazarian,K.,2007.Image Denoising by Sparse 3-D Transform-Domain CollaborativeFiltering.IEEE Trans.Image Process.16,2080-2095)。Maggioni等人在2012年通过改进BM3D来处理三维图像(被称为BM4D),该方法的原理和BM3D是一样的,区别在于,BM3D处理的原始数据是2D图像,而BM4D处理三维数据,它将3D的相似块组合成一个4D的数组来进行处理,该方法是目前磁共振去噪性能最好的方法之一。另一种和BM4D相似的算法是高阶奇异值分解(Higher-Order Singular Value Decomposition,HOSVD,该方法和BM4D的区别是HOSVD的基是通过学习图像得到,因此具有更强的适应性(Dabov,K.,Foi,A.,Katkovnik,V.,Egiazarian,K.,2007.Image Denoising by Sparse 3-D Transform-DomainCollaborative Filtering.IEEE Trans.Image Process.16,2080-2095)。
近年来,由于深度学习(Deep Learning)在计算机视觉领域得到广泛的应用,并得到前所未有的性能,许多研究者也利用深度学习来处理医学图像,其在CT领域的研究得到许多学者的关注。但是,到目前为止,深度学习在MRI图像去噪的研究十分的少,仅出现过一篇利用简单的端到端的CNN网络模型进行MRI图像处理(Jiang,D.,Dou,W.,Vosters,L.,Xu,X.,Sun,Y.,Tan,T.,2018.Denoising of 3D magnetic resonance images withmultichannel residual learning of convolutional neural network.JapaneseJournal of Radiology,1-9),由于网络结构比较简单,其去噪性能有限。
发明内容
针对目前MRI图像去噪方法存在的计算量大、非凸优化和参数估计等因素造成去噪性能难以达到最优的技术现状,本发明的目的旨在提供一种基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,基于Wasserstein生成对抗网络(WassersteinGenerative Adversarial Network,WGAN)网络模型的具有较强的流形学习能力,从而可以从MRI噪声图像中恢复出高质量的图像。
本发明的另一目的旨在提供通过上述构建方法构建的去噪模型在在三维MRI图像去噪中的应用。
MRI图像去噪的目的是从含噪声MRI图像中恢复出高质量的MRI图像,假设x表示噪声图像,y表示无噪声图像,则他们之间的关系如下:
x=σ(y) (1)
其中σ是一个映射函数,去噪的目的是寻找σ-1的最优近似函数f使,使其满足:
因此,本发明提出的方法的作用是利用深度学习来找到这个最优近似函数f。
本发明利用深度学习(Deep Learning)技术来对MRI图像进行处理,提出一种基于深度学习的MRI图像去噪方法。本发明利用MRI图像的三维特性,以三维图像为基本处理单元,采用Wasserstein生成对抗网络为基本网络框架,利用自编码器(Autoencoder)的思想,并结合残差网络(Residual Network)结构,构造生成网络模型网络结构,同时针对传统MSE(Mean Squared Error)损失函数容易造成图像过平滑的情况,将感知损失(PerceptualLoss)引入训练模型损失函数的构造当中。
基于上述发明思想,本发明提供了一种基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其包括以下步骤:
(1)构建训练集,利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构建训练集;
(2)构建Wasserstein生成对抗网络,包括生成网络模型和判别网络模型;
(3)生成去噪数据,将有噪声的三维MRI图像数据输入Wasserstein生成对抗网络的的生成网络模型,其输出值作为去噪的输出图像数据;
(4)获取对抗损失L1和判别网络模型损失D1,将去噪的输出图像数据和相应无噪声的图像数据同时输入Wasserstein生成对抗网络的判别网络模型中,得到对抗损失L1和判别网络模型损失D1
(5)获取感知损失L2,将去噪的输出图像数据和相应无噪声的图像数据同时输入特征提取模型,并将输出值带入感知损失函数中,得到感知损失L2
(6)获取MSE损失L3,将去噪的输出图像数据和相应无噪声的图像数据同时带入MSE损失函数中,得到MSE损失L3
(7)构建生成网络模型损失LRED-WGAN,依据以下公式计算得到获取生成网络模型损失LRED-WGAN
LRED-WGAN=λ1L12L23L3 (3)
式中,λ1、λ2、λ3为设定的三个权重参数;
(8)判定生成网络模型损失LRED-WGAN是否收敛,若收敛,生成网络模型即为所构建的三维MRI图像去噪模型;若不收敛,进入下一步;
(9)优化生成网络:依据得到的生成网络模型损失LRED-WGAN和判别网络模型损失D1,利用Adam优化算法来分别对Wasserstein生成对抗网络的生成网络模型和判别网络模型进行修正,得到优化后的Wasserstein生成对抗网络,然后返回步骤(3),重复步骤(3)-(9),直至最终损失LRED-WGAN收敛,此时优化的生成网络模型即为所构建的三维MRI图像去噪模型。
上述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,由于深度学习在训练过程中,需要具有大量数据的训练集,因此数据收集及预处理是整个过程中至关重要的一步,关系到整个模型建立的成功与否。监督学习中,需要成对的数据来进行训练,因此,步骤(1)的目的是利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构建成对数据的训练集。此外,在深度学习中,数据预处理是在模型训练前的一个重要步骤,这样可以减少数据集中噪声干扰的影响,同时可以提高模型的泛化性。本发明中对有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据进行的预处理包括归一化处理和数据增强处理。
上述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,网络结构包括三部分:生成网络模型(Generator Network)、判别网络模型(DiscriminatorNetwork)和特征提取模型(Feature Extrator),其中生成网络模型和判别网络模型组成Wasserstein生成对抗网络。
上述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,步骤(3)-步骤(9)的目的是利用构建的训练集对生成网络模型进行训练,同时通过生成网络模型损失LRED-WGAN和判别网络模型损失D1,采用Adam优化算法对生成网络模型和判别网络模型进行优化直至生成网络模型损失LRED-WGAN收敛,经过上述训练后的生成网络模型即为所构建的三维MRI图像去噪模型。
所述生成网络模型用于对输入的含噪声三维MRI图像(x)去噪,输出的是去噪后的三维MRI图像(G(x))。所述生成网络模型包括编码器和解码器。编码器和解码器均采用CNN卷积网络。编码器用于将输入的有噪声数据经若干层处理,得到高维特征向量;本发明中,输入编码器的有噪声数据在每一层均依次经过三维卷积处理(Conv3D)、归一化处理(BatchNorm3D)和修正线性单元激活函数(LeakyReLU)处理;每一层的卷积核为25~28。解码器用于将编码器得到的高维特征向量进行若干层解码处理,得到去噪的输出图像数据;本发明中,解码器对输入的高维特征向量及来自编码器卷积核数相同的处理层的输出数据进行处理得到去噪的输出图像数据,除最后一层外每一层均依次经反三维卷积处理(DeConv3D)、归一化处理(BatchNorm3D)和修正线性单元激活函数(LeakyReLU)处理,最后一层包括反三维卷积处理和修正线性单元激活函数处理。定义生成网络模型损失函数为LRED-WGAN
所述判别网络模型为简单的三维CNN端到端的结构,用于对去噪的输出图像数据和相应无噪声数据进行判别,以此来使生成网络模型生成的去噪图像的分布更加符合无噪声MRI图像的分布,从而使去噪后的图像更加的逼真,并给出相应的损失值。本发明中,输入判别网络模型的数据除最后一层外每一层均依次经三维卷积处理和修正线性单元激活函数处理,最后一层为全连接层。本发明定义对抗损失L1判别网络模型损失 上述公式中的G表示生成网络模型,G(x)表示生成网络模型去噪后的图像(即生成网络模型的输出),D表示判别模型,D(y)表示判别模型对无噪声MRI图像的判别输出,D(G(x))表示以生成模型的输出G(x)为输入,对其进行判别输出,pn表示噪声数据的分布,pr表示无噪声数据的分布,表示在pr和pg的样本点之间的线性均匀采样分布(即对pr和pg样本点之间线性求和),pg表示生成网络模型生成的数据的分布,表示从分布采样的样本点,ε∈[0,1],表示判别网络模型对的梯度,E表示求期望,λ0是一个惩罚系数,通常取值为10。
所述特征提取模型为VGG网络模型。特征提取模型是一个预训练的模型,这里采用著名的VGG-19网络结构,该结构共19层。该特征提取模型同时以生成网络模型去噪后的MRI图像和相应的无噪声MRI图像作为输入,然后采用第16层的输出作为提取的相应的特征向量,然后利用该特征向量计算模型的感知损失以此来判断去噪后的图像在特征空间上的距离。本发明定义感知损失L2这里的F表示范数,本发明中取第二范数,即F=2,VGG(G(x))表示以生成网络模型生成的去噪数据G(x)为输入数据时,特征提取模型的输出结果,VGG(y)表示以无噪声的三维MRI图像y为输入数据时,特征提取模型的输出结果,W,H,D分别表示三维MRI图像的三维尺寸大小,WHD表示三者相乘。
步骤(6)中,MSE损失函数为
本发明基于上述对抗损失L1、感知损失L2和MSE损失L3,构建的生成网络模型损失函数为:LRED-WGAN=λ1L12L23L3。对抗损失L1为Wasserstein生成对抗网络自身的基础损失,可以使生成网络模型生成的去噪三维MRI图像更加逼真真实,从而更符合目标数据(无噪声三维MRI图像)的数据分布;感知损失L2作为正则项,能够使生成网络模型恢复出更多的细节和边缘信息;MSE损失L3作为一个保真项,用于控制生成网络模型尽可能恢复出三维MRI图像内容。λ1、λ2、λ3三个权重参数,用来平衡三个损失值的权重,可以通过获取的图像情况对三个权重参数进行调整。
对于深度学习模型而言,除了模型结构和损失函数之外,利用损失函数对生成网络模型和判别网络模型的参数进行优化也是一个重要的组成部分。通常深度学习模型的参数都是数以万记以上,在训练之前一般是通过随机初始化的方式对参数初始化一个初始值,然后通过优化算法找到使模型达到预期性能的参数值。本发明采用的优化算法为Adam算法。该算法思想如下:首先计算有偏一阶矩和二阶矩,然后修真一阶矩和二阶矩的偏差,再用修正后的一阶和二阶矩来得到参数的更新量,从而对参数进行更新。
通过本发明提供的所述方法构建的基于Wasserstein生成对抗网络的三维MRI图像去噪模型可以应用于三维MRI图像去噪,将预处理后的三维MRI图像输入构建的模型中,得到去噪后的MRI图像。
本发明采用Wasserstein生成对抗网络为基本网络框架,同时将对抗损失、感知损失和MSE损失引入训练模型损失函数的构建中,所构建的三维MRI图像去噪模型对三维MRI图像能够实现较好的去噪效果,与当下主流的BM4D和PRI-NLM方法比较,均取得最好的效果。
与现有技术相比,本发明提供的基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法及应用,具有以下有益效果:
(1)本发明在三维MRI图像去噪模型的构建中,以Wasserstein生成对抗网络作为基本模型对MRI噪声图像进行处理,利用大规模数据来进行训练,能够使模型自动从数据中学习噪声图像和无声图像之间潜在的关联,并将对抗损失、感知损失和MSE损失引入训练模型损失函数的构建中,使构建的模型对三维MRI图像具有很好的去噪效果。
(2)本发明在三维MRI图像去噪模型的构建中,Wasserstein生成对抗网络具有很强的流形学习能力,能够从MRI噪声图像中恢复出高质量的图像。
(3)本发明在三维MRI图像去噪模型的构建中,引入了VGG网络,并采用加权损失函数的策略构建生成网络模型的损失函数,在MSE损失函数基础上,加入感知损失和对抗损失,这样不仅能够克服MSE损失函数使图像过于平滑的缺点,而且能够有效保留MRI图像的结构和边缘信息,这对于医学图像来说,是十分重要的。
(4)本发明在三维MRI图像去噪模型的构建中,由于生成网络模型引入残差网络和自编码器机制,能够加速对模型的训练,因而模型构建速度较快,能够有效地在GPU上实现并行处理。
(5)本发明能够实现对三维MRI图像的去噪处理,本发明对于生成网络模型的设计采用对称设计,以CNN卷积网络作为模型的基本操作,构建编码器和解码器,编码器以原始三维噪声图像作为一个立体单元,提取图像中的高维特征向量,然后解码器将提取到的高维特征向量进行解码以此来重建出高质量的MRI图像。
附图说明
图1为本发明基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法流程图。
图2为本发明采用的网络结构示意图。
图3为本发明生成网络模型示意图。
图4为本发明判别网络模型示意图。
图5为本发明应用例1中分别采用BM4D、PRI-NLM、CNN3D(本应用例中单独的生成网络模型)和RED-WGAN(本应用例构建的三维MRI图像去噪模型)对T1模态的MRI图像去噪效果图;其中,(a)-(f)分别表示无噪声图、噪声图、BM4D去噪图、PRI-NLM去噪图、CNN3D去噪图和RED-WGAN去噪图,(g)-(j)分别表示BM4D、PRI-NLM、CNN3D和RED-WGAN去噪方法处理得到的残差图。
图6为本发明应用例1中分别采用BM4D、PRI-NLM、CNN3D(本应用例中单独的生成网络模型)和RED-WGAN(本应用例构建的三维MRI图像去噪模型)对T2模态的MRI图像去噪效果图;其中,(a)-(f)分别表示无噪声图、噪声图、BM4D去噪图、PRI-NLM去噪图、CNN3D去噪图和RED-WGAN去噪图,(g)-(j)分别表示BM4D、PRI-NLM、CNN3D和RED-WGAN去噪方法处理得到的残差图。
图7为本发明应用例1中分别采用BM4D、PRI-NLM、CNN3D(本应用例中单独的生成网络模型)和RED-WGAN(本应用例构建的三维MRI图像去噪模型)对PDw模态的MRI图像去噪效果图;其中,(a)-(f)分别表示无噪声图、噪声图、BM4D去噪图、PRI-NLM去噪图、CNN3D去噪图和RED-WGAN去噪图,(g)-(j)分别表示BM4D、PRI-NLM、CNN3D和RED-WGAN去噪方法处理得到的残差图。
图8为本发明应用例2中分别采用BM4D、PRI-NLM、CNN3D(本应用例中单独的生成网络模型)和RED-WGAN(本应用例构建的三维MRI图像去噪模型)对BrainWeb database图像数据去噪效果图;其中,(a)-(f)分别表示无噪声图、噪声图、BM4D去噪图、PRI-NLM去噪图、CNN3D去噪图和RED-WGAN去噪图,(g)-(j)分别表示BM4D、PRI-NLM、CNN3D和RED-WGAN去噪方法处理得到的残差图。
图9为本发明应用例3中分别采用传统WGAN-MSE和RED-WGAN对T1模态的MRI图像去噪效果图;其中,(a)-(d)分别表示无噪声图、噪声图、WGAN-MSE去噪图和RED-WGAN去噪图,(e)-(f)分别表示WGAN-MSE和RED-WGAN去噪方法处理得到的残差图。
图10为本发明应用例3中分别采用传统WGAN-MSE和RED-WGAN对T2模态的MRI图像去噪效果图;其中,(a)-(d)分别表示无噪声图、噪声图、WGAN-MSE去噪图和RED-WGAN去噪图,(e)-(f)分别表示WGAN-MSE和RED-WGAN去噪方法处理得到的残差图。
图11为本发明应用例3中分别采用传统WGAN-MSE和RED-WGAN对PDw模态的MRI图像去噪效果图;其中,(a)-(d)分别表示无噪声图、噪声图、WGAN-MSE去噪图和RED-WGAN去噪图,(e)-(f)分别表示WGAN-MSE和RED-WGAN去噪方法处理得到的残差图。
具体实施方式
以下将结合附图给出本发明实施例,并通过实施例对本发明的技术方案进行进一步的清楚、完整说明。显然,所述实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明内容,本领域普通技术人员在没有做出创造性劳动的前提下所得到的所有其它实施例,都属于本发明所保护的范围
实施例1
本实施例基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,如图1所示,其包括以下步骤:
(1)构建训练集,利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构建训练集。
本实施例采用数据来自IXI数据集:该数据集是一个公开的数据集,可从http://brain-development.org/ixi-dataset/下载。该数据集来自三个不同的医院及不同患者的大脑图像,包含MRI图像T1、T2、PDW三种MRI模态图像;对于噪声图像的获取,可以利用临床数据(无噪声图像)和计算机模拟噪声来获取噪声图像。其模拟公式如下
其中,noiseimg表示合成的噪声图像,level表示噪声程度,noise1和noise2表示高斯噪声,freeimg表示获取到的临床无噪声图。
根据公式(7),便可以建出有噪声三维MRI图像数据,有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构建成所需的训练集。
为了减少数据集中噪声干扰的影响,同时提高模型的泛化性,本实施例对有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据进行预处理,包括归一化处理和数据增强处理。
归一化处理采用的是特殊标准化,具体过程为:首先统计数据集中所有样本的方差σ和均值μ,通过公式(x*表示原始数据,x表示归一化后的数据),将样本处理为符合均值为0,方差为1的标准正态分布。
数据增强处理采用常规随机裁剪方法裁剪出图像中感兴趣区域。
(2)构建Wasserstein生成对抗网络,包括生成网络模型和判别网络模型。
如图2所示,网络结构包括三部分:生成网络模型(Generator Network)、判别网络模型(Discriminator Network)和特征提取模型(Feature Extrator),其中生成网络模型和判别网络模型组成Wasserstein生成对抗网络。
本实施例由编码器和解码器构建生成网络模型,两者均采用CNN卷积网络作为模型的基础操作。如图3所示,编码器包括四层CNN卷积网络,每层CNN卷积网络包括三维卷积处理(Conv3D)、归一化处理(BatchNorm3D)和修正线性单元激活函数(LeakyReLU)处理;每一层的卷积核为25~28,以前一层的输出作为后一层的输入。解码器包括四层CNN卷积网络,前三层CNN卷积网络包括反三维卷积处理(DeConv3D)、归一化处理(BatchNorm3D)和修正线性单元激活函数(LeakyReLU)处理,第四层包括反三维卷积处理和修正线性单元激活函数处理;第一层与编码器第三层卷积核相同,第二层与编码器第二层卷积核相同,第三层与编码器第一层卷积核相同;解码器第一层输入是由编码器第四层输出和第三层输出作为共同输入数据,解码器第二层输入是由解码器第一层输出和编码器第二层输出作为共同输入数据,解码器第三层输入是由解码器第二层输出和编码器第一层输出作为共同输入数据,解码器第四层输入是由解码器第三层输出和输入编码器的有噪声数据作为共同输入数据。定义生成网络模型损失函数为LRED-WGAN
判别网络模型也采用CNN卷积网络作为模型的基础操作,如图4所示,其包括三层CNN卷积网络,前两层均包括三维卷积处理和修正线性单元激活函数处理,每一层的卷积核为3*3*3,第三层为全连接层。本实施例定义对抗损失L1判别网络模型损失上述公式中的G表示生成网络模型,G(x)表示生成网络模型去噪后的图像(即生成网络模型的输出),D表示判别模型,D(y)表示判别模型对无噪声MRI图像的判别输出,D(G(x))表示以生成模型的输出G(x)为输入,对其进行判别输出,pn表示噪声数据的分布,pr表示无噪声数据的分布,表示在pr和pg的样本点之间的线性均匀采样分布(即对pr和pg样本点之间线性求和),中pg表示生成网络模型生成的数据的分布,表示从分布采样的样本点,ε∈[0,1],表示判别网络模型对的梯度,E表示求期望,λ0是一个惩罚系数,通常取值为10。
(3)生成去噪数据,将有噪声的三维MRI图像数据输入Wasserstein生成对抗网络的的生成网络模型,其输出值作为去噪的输出图像数据G(x)。
本步骤将步骤(1)中预处理后的有噪声三维MRI图像数据输入步骤(2)构建的生成网络模型中,得到去噪的输出图像数据。
(4)获取对抗损失L1和判别网络模型损失D1,将去噪的输出图像数据和相应无噪声的图像数据同时输入Wasserstein生成对抗网络的判别网络模型中,得到对抗损失L1和判别网络模型损失D1
本步骤将去噪的输出图像数据和相应无噪声的图像数据同时输入的判别网络模型中,对去噪的输出图像数据和相应无噪声数据进行判别,得到相应的对抗损失值L1和判别网络模型损失值D1
(5)获取感知损失L2,将去噪的输出图像数据和相应无噪声的图像数据同时输入特征提取模型,并将输出值带入感知损失函数中,得到感知损失L2
本实施例采用的特征提取模型为VGG-19网络模型。将去噪后的MRI图像和相应的无噪声MRI图像作为输入,以第16层的输出作为提取的相应的特征向量,然后按照给出的感知损失函数,计算感知损失L2这里的F表示范数,本发明中取第二范数,即F=2,VGG(G(x))表示以生成网络模型生成的去噪数据G(x)为输入数据时,特征提取模型的输出结果,VGG(y)表示以无噪声的三维MRI图像y为输入数据时,特征提取模型的输出结果,W,H,D分别表示三维MRI图像的三维尺寸大小,WHD表示三者相乘。
(6)获取MSE损失L3,将去噪的输出图像数据和相应无噪声的图像数据同时带入MSE损失函数中,得到MSE损失L3
按照给出的MSE损失函数计算得到MSE损失L3:MSE损失函数为
(7)构建生成网络模型损失LRED-WGAN,依据以下公式计算得到获取生成网络模型损失LRED-WGAN
LRED-WGAN=λ1L12L23L3 (3)
式中,λ1、λ2、λ3为设定的三个权重参数。
通过步骤(4)、步骤(5)和步骤(6)计算得到的对抗损失L1、感知损失L2和MSE损失L3,通过以上公式(3)便可得到生成网络模型损失LRED-WGAN。λ1、λ2、λ3三个权重参数,用来平衡三个损失值的权重,可以通过获取的图像情况对三个权重参数进行调整。本实施例中,λ1=1×e-3,λ2=0.1,λ3=1。
(8)判定生成网络模型损失LRED-WGAN是否收敛,若收敛,生成网络模型即为所构建的三维MRI图像去噪模型;若不收敛,进入下一步。
本实施例根据生成网络模型损失LRED-WGAN判断该模型是否收敛。本实施例中,当迭代50次时,损失值开始收敛,直到迭代100次左右,该损失值几乎在某个值上下振荡而没有实质降低,此时便可以认为该模型已经收敛,经过上述训练后的生成网络模型即为所构建的三维MRI图像去噪模型,对模型参数进行保存,构建流程结束。
(9)优化生成网络:依据得到的生成网络模型损失LRED-WGAN和判别网络模型损失D1,利用Adam优化算法来分别对Wasserstein生成对抗网络的生成网络模型和判别网络模型进行修正,得到优化后的Wasserstein生成对抗网络,然后返回步骤(3),重复步骤(3)-(8),直至最终损失LRED-WGAN收敛,此时优化的生成网络模型即为所构建的三维MRI图像去噪模型。
本实施例采用Adam算法对生成网络模型参数和判别网络模型参数。该算法中存在两个参数,均使用默认的参数,其值如下:β1=0.5,β2=0.9。
依据得到的损失值LRED-WGAN,对生成网络模型参数w的优化过程为:
1.
2.
其中,第一项表示损失函数对模型中的参数w求导取得梯度,第二项表示利用Adam算法和梯度来对参数w进行优化更新,lr表示模型训练过程中的学习率。
依据得到的损失值D1,对判别网络模型参数θ的优化过程为:
1.
2.
上述过程中,第一项表示损失函数对模型中的参数θ求导取得梯度,第二项表示利用Adam算法和梯度来对参数θ进行优化更新,lr′表示模型训练过程中的学习率。
应用例1
本应用例采用MRI三种模态的图像数据来自IXI数据集,噪声数据的获取方式参照实施例1给出的公式(7),level噪声程度取15%。并利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构成的数据集按照9:1的比例分为训练集和测试集。然后利用训练集中的数据按照实施例1提供的方法构建三维MRI图像去噪模型。
将预处理后的测试集中的MRI三种模态图像数据分别带入到BM4D、PRI-NLM、CNN3D(本应用例中单独的生成网络模型)和RED-WGAN(本应用例构建的三维MRI图像去噪模型)中,进行去噪处理,所得结果如图5-7所示。从图中可以看出,采用本应用例提供的三维MRI图像去噪模型去噪后得到图像中恢复出的结构更清晰,同时细节更多。
应用例2
本应用例采用MRI三种模态的图像数据来自IXI数据集,噪声数据的获取方式参照实施例1给出的公式(7),level噪声程度取9%。并利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构成训练集。然后利用训练集中的数据按照实施例1提供的方法构建三维MRI图像去噪模型。
对BrainWeb database图像数据(http://brainweb.bic.mni.mcgill.ca/brainweb)按照实施例1提供的预处理操作进行预处理,将预处理后的图像数据分别带入到BM4D、PRI-NLM、CNN3D(本应用例中单独的生成网络模型)和RED-WGAN(本应用例构建的三维MRI图像去噪模型)中,进行去噪处理,所得结果如图8所示。从图中可以看出,采用本应用例提供的三维MRI图像去噪模型去噪后得到图像中恢复出的结构更清晰,同时细节更多。
应用例3
本应用例采用MRI三种模态的图像数据来自IXI数据集,噪声数据的获取方式参照实施例1给出的公式(7),level噪声程度取15%。并利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构成的数据集按照9:1的比例分为训练集和测试集。然后利用训练集中的数据按照实施例1提供的方法构建三维MRI图像去噪模型。
WGAN-MSE模型的构建过程与三维MRI图像去噪模型(RED-WGAN)的构建过程的不同之处在于生成网络模型损失函数中缺少感知损失部分,其余操作相同。
为了显示了感知损失对模型去噪结果的影响,将预处理后的测试集中的MRI三种模态图像数据分别带入到WGAN-MSE和RED-WGAN中,进行去噪处理,所得结果如图9-11所示。从图中可以看出,采用本应用例提供的三维MRI图像去噪模型去噪后得到图像中恢复出的结构更清晰,同时细节更多。

Claims (8)

1.一种基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于包括以下步骤:
(1)构建训练集,利用有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据构建训练集;
(2)构建Wasserstein生成对抗网络,包括生成网络模型和判别网络模型;
(3)生成去噪数据,将有噪声的三维MRI图像数据输入Wasserstein生成对抗网络的的生成网络模型,其输出值作为去噪的输出图像数据;
(4)获取对抗损失L1和判别网络模型损失D1,将去噪的输出图像数据和相应无噪声的图像数据同时输入Wasserstein生成对抗网络的判别网络模型中,得到对抗损失L1和判别网络模型损失D1
(5)获取感知损失L2,将去噪的输出图像数据和相应无噪声的图像数据同时输入特征提取模型,并将输出值带入感知损失函数中,得到感知损失L2
(6)获取MSE损失L3,将去噪的输出图像数据和相应无噪声的图像数据同时带入MSE损失函数中,得到MSE损失L3
(7)构建生成网络模型损失LRED-WGAN,依据以下公式计算得到获取最终损失LRED-WGAN
LRED-WGAN=λ1L12L23L3
式中,λ1、λ2、λ3为设定的三个权重参数;
(8)判定生成网络模型损失LRED-WGAN是否收敛,若收敛,生成网络模型即为所构建的三维MRI图像去噪模型;若不收敛,进入下一步;
(9)优化生成网络:依据得到的生成网络模型损失LRED-WGAN和判别网络模型损失D1,利用Adam优化算法来分别对Wasserstein生成对抗网络的生成网络模型和判别网络模型参数进行优化,得到优化后的Wasserstein生成对抗网络,然后返回步骤(3),重复步骤(3)-(9),直至最终损失LRED-WGAN收敛,此时优化的生成网络模型即为所构建的三维MRI图像去噪模型。
2.根据权利要求1所述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于步骤(1)中,将有噪声的三维MRI图像数据和相应无噪声的三维MRI图像数据进行预处理,包括归一化处理和数据增强处理。
3.根据权利要求1所述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于所述生成网络模型包括编码器和解码器,编码器用于将输入的有噪声数据经若干层处理,得到高维特征向量;解码器用于将编码器得到的高维特征向量进行若干层解码处理,得到去噪的输出图像数据。
4.根据权利要求3所述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于输入编码器的有噪声数据在每一层均依次经过三维卷积处理、归一化处理和修正线性单元激活函数处理;每一层的卷积核为25~28
5.根据权利要求3或4所述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于解码器对输入的高维特征向量及来自编码器卷积核数相同的处理层的输出数据进行处理得到去噪的输出图像数据,除最后一层外每一层均依次经反三维卷积处理、归一化处理和修正线性单元激活函数处理,最后一层包括反三维卷积处理和修正线性单元激活函数处理。
6.根据权利要求1所述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于所述判别网络模型为卷积神经网络,输入判别网络模型的数据除最后一层外每一层均依次经三维卷积处理和修正线性单元激活函数处理,最后一层为全连接层。
7.根据权利要求1所述基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法,其特征在于所述特征提取模型为VGG网络模型。
8.权利要求1至7任一权利要求所述方法构建的基于Wasserstein生成对抗网络的三维MRI图像去噪模型在三维MRI图像去噪中的应用,将预处理后的三维MRI图像输入构建的模型中,得到去噪后的MRI图像。
CN201910304511.5A 2019-04-16 2019-04-16 基于Wasserstein生成对抗网络的MRI图像去噪模型的构建方法及应用 Active CN110097512B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910304511.5A CN110097512B (zh) 2019-04-16 2019-04-16 基于Wasserstein生成对抗网络的MRI图像去噪模型的构建方法及应用

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910304511.5A CN110097512B (zh) 2019-04-16 2019-04-16 基于Wasserstein生成对抗网络的MRI图像去噪模型的构建方法及应用

Publications (2)

Publication Number Publication Date
CN110097512A true CN110097512A (zh) 2019-08-06
CN110097512B CN110097512B (zh) 2021-06-04

Family

ID=67444859

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910304511.5A Active CN110097512B (zh) 2019-04-16 2019-04-16 基于Wasserstein生成对抗网络的MRI图像去噪模型的构建方法及应用

Country Status (1)

Country Link
CN (1) CN110097512B (zh)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110705328A (zh) * 2019-09-27 2020-01-17 江苏提米智能科技有限公司 一种基于二维码图像采集电力数据的方法
CN110866888A (zh) * 2019-11-14 2020-03-06 四川大学 基于潜在信息表征gan的多模态mri合成方法
CN110907176A (zh) * 2019-09-30 2020-03-24 合肥工业大学 一种基于Wasserstein距离的深度对抗迁移网络的故障诊断方法
CN110958417A (zh) * 2019-12-16 2020-04-03 山东大学 一种基于语音线索的视频通话类视频去除压缩噪声的方法
CN112164122A (zh) * 2020-10-30 2021-01-01 哈尔滨理工大学 一种基于深度残差生成对抗网络的快速cs-mri重建方法
CN112270654A (zh) * 2020-11-02 2021-01-26 浙江理工大学 基于多通道gan的图像去噪方法
CN112348747A (zh) * 2019-08-08 2021-02-09 苏州科达科技股份有限公司 图像增强方法、装置及存储介质
CN112396579A (zh) * 2020-11-03 2021-02-23 北京理工大学 基于深度神经网络的人体组织背景估计方法及装置
CN112634176A (zh) * 2021-01-05 2021-04-09 西南石油大学 基于多感知对抗生成网络的手机拍摄图像去噪方法
CN113191968A (zh) * 2021-04-19 2021-07-30 华中科技大学 三维超声图像盲去噪模型的建立方法及其应用
WO2021179764A1 (zh) * 2020-03-10 2021-09-16 Tcl科技集团股份有限公司 图像处理模型生成方法、处理方法、存储介质及终端
CN113793263A (zh) * 2021-08-23 2021-12-14 电子科技大学 多尺度空洞卷积的并行残差网络高分辨率图像重建方法
CN113852850A (zh) * 2020-11-24 2021-12-28 广东朝歌智慧互联科技有限公司 音视频流播放装置
US11540798B2 (en) 2019-08-30 2023-01-03 The Research Foundation For The State University Of New York Dilated convolutional neural network system and method for positron emission tomography (PET) image denoising
CN116339128A (zh) * 2023-05-30 2023-06-27 北京国电富通科技发展有限责任公司 一种输渣系统落渣雨量在线监控方法及系统
CN117095074A (zh) * 2023-08-23 2023-11-21 浙江大学 一种基于深度学习的医学图像的双重去噪方法及装置
CN117095073A (zh) * 2023-08-23 2023-11-21 浙江大学 一种基于深度学习的医学图像的去噪方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108765319A (zh) * 2018-05-09 2018-11-06 大连理工大学 一种基于生成对抗网络的图像去噪方法
CN109035163A (zh) * 2018-07-09 2018-12-18 南京信息工程大学 一种基于深度学习的自适应图像去噪方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108765319A (zh) * 2018-05-09 2018-11-06 大连理工大学 一种基于生成对抗网络的图像去噪方法
CN109035163A (zh) * 2018-07-09 2018-12-18 南京信息工程大学 一种基于深度学习的自适应图像去噪方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
HONGMING SHAN 等: "3-D Convolutional Encoder-Decoder Network for Low-Dose CT via Transfer Learning From a 2-D Trained Network", 《IEEE TRANSACTIONS ON MEDICAL IMAGING》 *
QINGSONG YANG 等: "Low-Dose CT Image Denoising Using a Generative Adversarial Network With Wasserstein Distance and Perceptual Loss", 《IEEE TRANSACTIONS ON MEDICAL IMAGING》 *
YUEWEN SUN 等: "Digital radiography image denoising using a generative adversarial network", 《JOURNAL OF X-RAY SCIENCE AND TECHNOLOGY》 *

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112348747A (zh) * 2019-08-08 2021-02-09 苏州科达科技股份有限公司 图像增强方法、装置及存储介质
US11540798B2 (en) 2019-08-30 2023-01-03 The Research Foundation For The State University Of New York Dilated convolutional neural network system and method for positron emission tomography (PET) image denoising
CN110705328A (zh) * 2019-09-27 2020-01-17 江苏提米智能科技有限公司 一种基于二维码图像采集电力数据的方法
CN110907176A (zh) * 2019-09-30 2020-03-24 合肥工业大学 一种基于Wasserstein距离的深度对抗迁移网络的故障诊断方法
CN110907176B (zh) * 2019-09-30 2021-02-02 合肥工业大学 一种基于Wasserstein距离的深度对抗迁移网络的故障诊断方法
CN110866888A (zh) * 2019-11-14 2020-03-06 四川大学 基于潜在信息表征gan的多模态mri合成方法
CN110958417A (zh) * 2019-12-16 2020-04-03 山东大学 一种基于语音线索的视频通话类视频去除压缩噪声的方法
CN110958417B (zh) * 2019-12-16 2020-12-08 山东大学 一种基于语音线索的视频通话类视频去除压缩噪声的方法
WO2021179764A1 (zh) * 2020-03-10 2021-09-16 Tcl科技集团股份有限公司 图像处理模型生成方法、处理方法、存储介质及终端
CN112164122A (zh) * 2020-10-30 2021-01-01 哈尔滨理工大学 一种基于深度残差生成对抗网络的快速cs-mri重建方法
CN112270654A (zh) * 2020-11-02 2021-01-26 浙江理工大学 基于多通道gan的图像去噪方法
CN112396579A (zh) * 2020-11-03 2021-02-23 北京理工大学 基于深度神经网络的人体组织背景估计方法及装置
CN113852850A (zh) * 2020-11-24 2021-12-28 广东朝歌智慧互联科技有限公司 音视频流播放装置
CN113852850B (zh) * 2020-11-24 2024-01-09 广东朝歌智慧互联科技有限公司 音视频流播放装置
CN112634176B (zh) * 2021-01-05 2022-02-25 西南石油大学 基于多感知对抗生成网络的手机拍摄图像去噪方法
CN112634176A (zh) * 2021-01-05 2021-04-09 西南石油大学 基于多感知对抗生成网络的手机拍摄图像去噪方法
CN113191968A (zh) * 2021-04-19 2021-07-30 华中科技大学 三维超声图像盲去噪模型的建立方法及其应用
WO2022222199A1 (zh) * 2021-04-19 2022-10-27 华中科技大学 三维超声图像盲去噪模型的建立方法及其应用
CN113191968B (zh) * 2021-04-19 2024-02-09 华中科技大学 三维超声图像盲去噪模型的建立方法及其应用
CN113793263B (zh) * 2021-08-23 2023-04-07 电子科技大学 多尺度空洞卷积的并行残差网络高分辨率图像重建方法
CN113793263A (zh) * 2021-08-23 2021-12-14 电子科技大学 多尺度空洞卷积的并行残差网络高分辨率图像重建方法
CN116339128A (zh) * 2023-05-30 2023-06-27 北京国电富通科技发展有限责任公司 一种输渣系统落渣雨量在线监控方法及系统
CN116339128B (zh) * 2023-05-30 2023-07-28 北京国电富通科技发展有限责任公司 一种输渣系统落渣雨量在线监控方法及系统
CN117095073A (zh) * 2023-08-23 2023-11-21 浙江大学 一种基于深度学习的医学图像的去噪方法及装置
CN117095074A (zh) * 2023-08-23 2023-11-21 浙江大学 一种基于深度学习的医学图像的双重去噪方法及装置
CN117095074B (zh) * 2023-08-23 2024-04-09 浙江大学 一种基于深度学习的医学图像的双重去噪方法及装置

Also Published As

Publication number Publication date
CN110097512B (zh) 2021-06-04

Similar Documents

Publication Publication Date Title
CN110097512A (zh) 基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法及应用
Chen et al. Low-dose CT with a residual encoder-decoder convolutional neural network
Yuan et al. SARA-GAN: Self-attention and relative average discriminator based generative adversarial networks for fast compressed sensing MRI reconstruction
CN110443867B (zh) 基于生成对抗网络的ct图像超分辨率重构方法
CN108460726A (zh) 一种基于增强递归残差网络的磁共振图像超分辨重建方法
CN109214989B (zh) 基于多方向特征预测先验的单幅图像超分辨率重建方法
CN116012344B (zh) 一种基于掩码自编码器CNN-Transformer的心脏磁共振图像配准方法
CN112465827A (zh) 一种基于逐类卷积操作的轮廓感知多器官分割网络构建方法
CN115953494B (zh) 基于低剂量和超分辨率的多任务高质量ct图像重建方法
Zhou et al. Volume upscaling with convolutional neural networks
Du et al. Accelerated super-resolution MR image reconstruction via a 3D densely connected deep convolutional neural network
CN107845079A (zh) 基于紧支撑的3D‑shearlet医学CT视频去噪方法
CN116071292A (zh) 基于生成对比学习的眼底镜视网膜图像血管识别方法
Qin Transfer learning with edge attention for prostate MRI segmentation
Manimala et al. Convolutional neural network for sparse reconstruction of MR images interposed with gaussian noise
Guan et al. Generative modeling in sinogram domain for sparse-view CT reconstruction
Chan et al. An attention-based deep convolutional neural network for ultra-sparse-view CT reconstruction
Huang et al. MambaMIR: An Arbitrary-Masked Mamba for Joint Medical Image Reconstruction and Uncertainty Estimation
Barbano et al. Steerable conditional diffusion for out-of-distribution adaptation in imaging inverse problems
CN116630964A (zh) 一种基于离散小波注意力网络的食品图像分割方法
CN107993205A (zh) 一种基于学习字典与非凸范数最小化约束的mri图像重构方法
CN115496659A (zh) 基于单张投影数据的三维ct图像重建方法及装置
CN113509165A (zh) 基于CAR2UNet网络的复数快速磁共振成像方法
CN116385329B (zh) 基于特征融合的多层知识蒸馏医学影像生成方法和装置
Jagtap et al. Improved Image Fusion Technique Using Convolutional Neural Networks and The Hybrid PCA-Guided Filter

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant