CN108460726A - 一种基于增强递归残差网络的磁共振图像超分辨重建方法 - Google Patents

一种基于增强递归残差网络的磁共振图像超分辨重建方法 Download PDF

Info

Publication number
CN108460726A
CN108460726A CN201810251558.5A CN201810251558A CN108460726A CN 108460726 A CN108460726 A CN 108460726A CN 201810251558 A CN201810251558 A CN 201810251558A CN 108460726 A CN108460726 A CN 108460726A
Authority
CN
China
Prior art keywords
residual error
network
resolution
magnetic resonance
recurrence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810251558.5A
Other languages
English (en)
Other versions
CN108460726B (zh
Inventor
包立君
叶富泽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiamen University
Original Assignee
Xiamen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiamen University filed Critical Xiamen University
Priority to CN201810251558.5A priority Critical patent/CN108460726B/zh
Publication of CN108460726A publication Critical patent/CN108460726A/zh
Application granted granted Critical
Publication of CN108460726B publication Critical patent/CN108460726B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种基于增强递归残差网络的磁共振图像超分辨重建方法,增强递归残差网络由上采样子网络、预测子网络和重建子网络组成;采用深度卷积神经网络,借鉴残差网络和递归学习的优异表现,以反复递归的残差模块为基本单元,在残差模块之间进行紧密跨连接,利用图像高频特性引导,构造增强递归残差网络,采用高分辨率图像及其对应高频特性对各层残差模块的超分辨重建进行多层监督,以实现用少量参数的卷积网络获得最优的磁共振超分辨重建效果,并在训练过程中监督重建结果,以实现用更少的参数重建出更好的高分辨率磁共振图像。

Description

一种基于增强递归残差网络的磁共振图像超分辨重建方法
技术领域
本发明涉及基于卷积神经网络的图像处理和机器学习技术,更具体地说,涉及一种基于增强递归残差网络的磁共振图像超分辨重建方法。
背景技术
磁共振成像是一种用于产生体内组织图像的成像技术,由于能提供优异的软组织对比度及其无损检测特性,磁共振成像技术已在评估脑部疾病,脊髓病变,心脏功能和血管造影术等方面得到了广泛的应用。临床医学成像中,由于受到脉冲序列特性、采样时间及采样对象运动等因素的限制,磁共振成像的空间分辨率通常较低,需采用图像后处理技术来提高图像的空间分辨率。在多数磁共振成像平台中,一般利用插值方法放大图像,如K空间填零,时域空间双三次插值等,然而这类方法无法获取新的信息,对图像质量的改善有限,甚至于会产生严重的伪影,如细节模糊及对比度损失等。因此,如何通过后处理的方法,有效提高磁共振图像的空间分辨率,同时保证数据的真实性和可信度,成为医学影像重建研究的一个主要问题。
常见的基于数学模型的超分辨重建方法,通过对图像降质的过程进行建模,结合先验信息构造约束项,利用不同最优化方法求解重建结果。不失一般性的,磁共振图像的采样模型可以表示为一个不适定的逆问题,超分辨重建以求解这个逆问题,获取无模糊、无噪且高分辨率的图像为目标。为了克服这个逆问题的不适定性质,需要引入基于先验的正则化约束,例如稀疏编码通过最小化稀疏系数的lp范数,稀疏约束图像在过完备字典上的表示。其中,字典的设计和特性对重建结果具有重要的影响。虽然基于各种先验约束的超分辨重建算法已经能够取得优于插值方法的效果,但是磁共振图像的超分辨重建仍然有待进一步的提高:部分细节信息仍然无法完全恢复;特别是随着下采样倍率的增大,基于数学模型的重建方法对分辨率的提高明显不足。
得益于高性能的GPU运算能力和有效训练方法的实现,深度卷积神经网络近三年来在计算机视觉领域快速崛起,取得了瞩目的成就。研究者可以设计卷积神经网络获得从低分辨率到高分辨率图像的映射函数F(·),通过学习训练确定网络参数,定义损失函数用于测量网络输出与标签图像的相似性。现有研究表明,基于卷积神经网络的方法比稀疏重建方法具有更显著的图像超分辨重建效果。SRCNN是首个基于卷积神经网络的图像超分辨重建方法(Dong C,Loy C C,He K,et al.Image super-resolution using deepconvolutional networks.IEEE transactions on pattern analysis and machineintelligence,2016,38:295-307),它通过训练3层卷积层,得到一个由低分辨率图像输入到高分辨率图像输出的端到端映射方程。相对于SRCNN的3层网络结构,Jiwon Kim提出了具有20层卷积层的深度卷积神经网络并用于图像的超分辨重建(Kim J,Kwon Lee J,Mu LeeK.Accurate image super-resolution using very deep convolutionalnetworks.Proceedings of the IEEE Conference on Computer Vision and PatternRecognition.2016:1646-1654)。该网络直接训练低分辨率与高分辨率图像之间的残差,可实现更快的收敛速度与更好的图像重建结果。然而,网络层数的加深使得训练参数数量增加,导致训练时间剧增。为了克服上述缺陷,Kim小组还提出用于图像超分辨重建的深度递归神经网络(Kim J,Kwon Lee J,Mu Lee K.Deeply-recursive convolutional networkfor image super-resolution.Proceedings of the IEEE Conference on ComputerVision and Pattern Recognition.2016:1637-1645),通过各卷积层参数共享以有效降低网络的参数数量,同时采用叠加递归层以增加网络的感受野。该网络仅由卷积层叠加而成,由于网络结构简单,使得网络性能受限。
残差网络的提出在机器视觉领域表现出优异的性能,实验证明直接学习图像的残差信息更有利于网络的训练及最终的重建效果。Christian Ledig小组将残差网络用于重建超分辨图像生成对抗网络的生成网络,并得到了具有照片级真实感的重建结果,但其网络依然存在参数过于庞大的缺陷(Ledig C,Theis L,Huszár F,et al.Photo-realisticsingle image super-resolution using a generative adversarialnetwork.Proceedings of the IEEE Conference on Computer Vision and PatternRecognition.2017:105-114)。为了约束图像超分辨率重建不适定问题的解空间,YANG W利用梯度算子提取图像的梯度信息以引导网络学习更多的高频信息(YANG W,FENG J,YANGJ,et al.Deep edge guided recurrent residual learning for image super-resolution.IEEE Transactions on Image Processing,2017,26(12):5895-907)。鉴于图像梯度信息灰度范围往往与图像域灰度范围差距较大,将其与灰度图像串接作为网络输入不仅提升有限,甚至在一定程度上限制了图像灰度信息重建的准确性。Ozan Oktay利用图像分割标签训练网络以学习医学图像的解剖结构,将其作为心脏图像超分辨重建网络解空间的约束(Oktay O,Ferrante E,Kamnitsas K,et al.Anatomically Constrained NeuralNetworks(ACNN):Application to Cardiac Image Enhancement and Segmentation.IEEETransactions on Medical Imaging,2018,37:384-395),该方法虽然有利于约束心脏超分辨重建并纠正形变,但是对于结构复杂的人脑磁共振成像,可操作性较低而难以实现。
综上所述,与现有基于重建模型的方法相比,深度学习方法具有显著地性能优势和应用前景。针对待处理任务构建理想的神经网络框架,可以获得高效率高鲁棒性的解决方案。卷积神经网络的设计涵盖网络结构、层数、参数等多方面因素,良好的设计有利于构造训练层数更深、效果更佳的卷积神经网络。此外,图像处理领域已有的专业知识和技术同样可以作为先验信息嵌入网络结构中。
发明内容
本发明的目的在于克服现有超分辨重建技术的不足,提出一种增强递归残差网络,并将其用于实现磁共振图像的超分辨率重建。本发明以反复递归的残差模块为基本单元建立递归残差网络,在各级残差模块之间构造紧密跨连接,充分利用各层残差输出,采用高分辨率图像及其对应高频特性对各层残差模块的超分辨重建进行多层监督,以实现用少量参数的卷积网络获得最优的磁共振超分辨重建效果。
本发明的技术方案如下:
一种基于增强递归残差网络的磁共振图像超分辨重建方法,递归残差网络由上采样子网络(Upsample Network)、预测子网络(Inference Network)和重建子网络(Reconstruction Network)组成。上采样子网络由一个低分辨率嵌入卷积层(LREmbed),一个残差模块(Residual Block,RB)和一个去卷积层(Upsample)组成。预测子网络包含高分辨率嵌入卷积层(HREmbed)和n个权值共享的残差模块(RBi,i=1,…,n)。重建子网络包含残差卷积层(ResConv)和重建层(Recon),其中ResConv用于将残差模块的输出卷积成残差信息,并与上采样子网络输出相加得到高分辨率信息,进而输入重建层Recon获得高分辨率磁共振图像。残差模块中的卷积采用预激活策略,称为预激活残差模块,依次包括批量规范化层(Batch Normalization)、ReLU激活层、卷积层、批量规范化层、ReLU激活层、卷积层,及由输入到输出的跨连接。
优选的,预测子网络采用递归学习实现n个残差模块权值共享。每个残差模块的输出为i=1,2,…,n。式中Bi-1与Bi分别表示第i-1个和第i个残差模块的输出。τ表示预激活过程,包括批量规范化层和ReLU激活层。表示残差模块内两个卷积层的权值参数。
优选的,所述的紧密跨连接将前端残差模块的输出乘以一个可训练的标量,相加后前馈到后端的残差模块中:式中权值μk在训练过程中由网络自行选取最优值。由此低层残差模块的输出特征可得到更加充分的利用,有利于训练层数更加深的网络结构,加速网络训练的收敛速度。
优选的,所述的高频信息引导包括高频信息输入与高频信息重建监督。高频信息输入是采用核尺寸和标准差分别为3×3/0.8,5×5/1和7×7/1.6的高斯核函数提取低分辨率图像的高频信息,由Concat层将低分辨率图像及其高频信息串接,输入网络。高频信息重建监督过程嵌入重建子网络中,残差卷积层ResConv1对各残差模块输出进行卷积得到残差信息Fr1i,由FeaRecon层高频特征重建得到采用从高分辨率图像标签中提取出的高频分量对其进行监督。
优选的,所述的多层监督策略将每层残差模块的输出分别输入到相同的重建子网络中,得到对应的高频特征及超分辨率图像的中间重建结果。残差卷积层ResConv2对残差信息与高频特征信息的并接卷积得到更精确残差量Fr2i。将其与上采样子网络的输出Fup相加,得到图像的高分辨率信息,输入Recon层重建出超分辨的磁共振图像:
加权平均作为网络最终输出权值ωi由网络在训练过程中自行选取最优值,并同时对输出的进行监督学习。
优选的,为保证网络性能,在网络训练过程中将对最终重建结果中间预测结果和全部高频特征信息进行监督。因此,本发明增强递归残差网络的损失函数定义为:
式中n为残差模块层数,M为训练样本数目,α和β分别为平衡最终输出超分辨率图像与中间预测和中间高频特征信息的权值参数。
本发明的有益效果如下:
本发明所述的基于增强递归残差网络的磁共振图像超分辨重建方法,采用深度卷积神经网络,借鉴残差网络和递归学习的优异表现,以反复递归的残差模块为基本单元,在残差模块之间进行紧密跨连接,利用图像高频特性引导,构造增强递归残差网络,对每个残差模块的输出进行高频特征重建和图像超分辨率重建,并在训练过程中监督重建结果,以实现用更少的参数重建出更好的高分辨率磁共振图像。
附图说明
图1是递归残差网络基础模型,及其中残差模块的组成示意图。
图2是增强递归残差网络的示意图,图中虚线框部分对应高频信息引导相关模块。
图3是不同递归残差网络在训练过程中以峰值信噪比PSNR作为评价指标的收敛曲线。baseline5、baseline10和baseline15分别表示残差模块数为5、10和15的递归残差网络基础模型,ERRN表示不包含高频信息引导的增强递归残差网络,EFRRN表示包含高频信息引导的增强递归残差网络。
图4是增强递归残差网络ERRN与EFRRN的磁共振图像超分辨重建结果,放大倍率为3×3。图中从左至右为MPRAGE幅值图及由不同尺度高斯核函数提取的高频特征信息。
图5是本发明EFRRN与其他方法的人脑磁共振图超分辨重建结果,放大倍率为2×2。从左至右为MPRAGE高分辨图像,Bicubic插值,LRTV,ScSR,SRCNN,VDSR及EFRRN的重建结果及其与高分辨率图像的差值图(第二行),PSNR/MSSIM值标于对应图像上方。
图6是本发明EFRRN与其他方法的人脑磁共振图超分辨率重建结果,放大倍率为3×3。从左至右为MPRAGE高分辨率图像,Bicubic插值,LRTV,ScSR,SRCNN,VDSR及EFRRN重建结果及其与高分辨率图像的差值图,PSNR/MSSIM值标于对应图像上方。
图7是本发明EFRRN与其他方法的人脑磁共振图超分辨率重建结果,放大倍率为4×4。从左至右为MPRAGE高分辨率图像,Bicubic插值,LRTV,ScSR,SRCNN,VDSR及EFRRN重建结果及其与高分辨率图像的差值图,PSNR/MSSIM值标于对应图像上方。
具体实施方式
以下通过具体实施方式对本发明作进一步的描述。
本发明所述递归残差网络的基础模型标记为baseline,如图1所示,其将递归学习策略与残差模块相结合,实现所有残差模块权值共享。在此基础上,我们采用上采样子网络对输入的低分辨率图像进行上采样操作,由残差重建层ResConv重建出残差信息,与上采样子网络的输出相加,输入重建层Recon重建出超分辨磁共振图像。为了更好地保留网络输出的负值信息及加速训练过程,本发明中所有卷积层皆采用预激活策略,即先激活后进行卷积操作(He K,Zhang X,Ren S,et al.Identity mappings in deep residualnetworks.European Conference on Computer Vision.Springer InternationalPublishing,2016:630-645)。采用预激活策略的残差模块如图1所示,依次包括批量规范化层、ReLU激活层、卷积层Conv、批量规范化层、ReLU激活层、卷积层Conv,以及由输入到输出的跨连接。
上采样子网络包含一个用于提取输入图像特征的低分辨率嵌入层LREmbed,一个残差模块RB和一个去卷积层Upsample。其上采样过程具体为:
F0=flr(y)=Wlr(τ(y)),
Fup=fup(B)=Wup(τ(B));
式中,y表示输入的低分辨率磁共振图像,Wlr为低分辨率嵌入卷积层的权值参数,τ表示批量规范化和ReLU激活过程,分别表示上采样子网络的残差模块中两个卷积层的权值参数,Wup为去卷积层的权值参数。为表达式简洁,省略掉卷积层中的偏置项。
预测子网络由高分辨率嵌入层HREmbed和n个权值共享的残差模块RB叠加而成。高分辨率嵌入卷积层过程为F1=fhr(Fup)=Whr(τ(Fup));式中Whr表示高分辨率嵌入卷积层的权值参数。权值共享的递归学习优势在于可以通过叠加预测网络层数以获取更大的感受野,但同时不会增加网络的参数数量,防止网络出现过拟合现象并加速网络训练速度。每个残差模块的输出特征为:
式中,Bi分别表示第i个残差模块的输出,分别表示残差模块中两个卷积层的参数。
重建子网络中的残差卷积层ResConv将残差模块的输出重建获得更准确的残差信息,与上采样子网络的输出相加得到图像高分辨率信息,Fres=fres(Bn)+Fup=Wres(τ(Bn))+Fup
式中,Wres表示残差卷积层ResConv的权值参数。
重建层Recon将高分辨率信息卷积为高分辨率图像:
式中,Wrec表示重建层Recon的权值参数。
在递归残差网络的基础上,本发明对磁共振图像的超分辨重建网络采取进一步的约束:添加紧密跨连接与多层监督策略,得到增强递归残差网络ERRN,如图2所示(不包括虚线框部分)。不同于将低层卷积层输出特征串接起来,也有别于以1×1卷积层作为门单元卷积串接起来的特征通道,本发明采用的紧密跨连接以一个可训练的标量控制前端残差模块输出特征的重要性:
权值μk在训练过程中由网络自行选取最优值,特别地因此,增强递归残差网络中残差模块卷积过程为:该方法将前端残差模块的输出特征前馈到后端残差模块中,使其得到更加充分的利用,并保持特征通道数量不变,有效降低网络不必要的参数数量。同时可以减缓网络训练过程中梯度消失或梯度爆炸效应,从而有利于训练层数更加深的网络结构。
在增强递归残差网络ERRN的基础上,本发明对磁共振图像超分辨率重建网络采取进一步的约束:对递归残差网络添加高频信息引导,得到增强递归残差网络EFRRN,如图2所示(包括虚线框部分)。图像信息可以分为高频分量与低频分量,高频分量比低频分量包含更多的图像细节信息,在重建过程中也更难修复。高频信息引导包括高频信息输入与高频信息重建监督。高频信息输入是对输入低分辨率图像提取高频特征信息,通过Concat层将两者串接,作为网络的输入。本发明采用核尺寸和标准差分别为3×3/0.8,5×5/1和7×7/1.6的高斯核函数进行图像模糊得到低频分量,将原图减去低频分量得到不同程度的高频分量。高频信息重建监督过程嵌入到重建子网络,在训练过程中采用从高分辨率图像标签中提取的高频分量进行监督。将ResConv1层输出的残差信息通过FeaRecon层重建出高频特征信息:
式中,Wr1为残差卷积层ResConv1的权值参数,Wfrc为特征重建层FeaRecon的权值参数。Concat层将残差信息与高频特性串接起来,通过ResCov2层卷积得到更准确的残差信息,与上采样子网络输出Fup相加,得到图像的高分辨率信息:
式中,Wr2为ResConv2层的权值参数。
递归残差网络利用权值共享的递归学习策略,因此需要监督每个残差模块输出的重建效果,以期待通过具有相同权值参数的残差模块的反复卷积,逐步提取更加精细的图像细节信息。本发明将每层残差模块的输出均输入到Recon层,得到一个中间预测结果:
所有中间预测在训练过程均得到监督。将其加权平均作为网络最终输出权值ωi由网络在训练过程中自行选取最优值,并同时对输出的进行监督学习,标签为已有的高分辨率图像。
为了确保网络性能,在网络训练过程中将对最终重建结果中间预测结果和全部高频特征信息进行监督。因此,运用紧密跨连接,多层监督策略和高频信息引导的增强递归残差网络的损失函数定义为:
式中,n为残差模块层数,M为训练样本数目,α和β分别为平衡最终输出超分辨率图像与中间预测和中间高频特征信息的权值参数。
基于本发明所述的方法进行如下实验:
本发明在MPRAGE成人脑图上进行实验。使用MPRAGE序列在7T MRI成像仪上采集健康志愿者数据,二维图像矩阵尺寸为224×224,随机选取其中370幅用于网络参数训练,另外65幅用于测试。为了增加训练集图像的冗余度,本发明对训练数据通过旋转及翻转进行扩充。本例实施的增强递归残差网络中,卷积层卷积核大小为3×3,特征重建层FeaRecon输出通道数目为3,重建层Recon输出通道数目为1,其余卷积层输出通道数目均为64。增强递归残差网络ERRN中,残差模块的个数设置为n=10,权值增强递归残差网络EFRRN中,残差模块n=10,权值α,β取值均为为了优化实验数据,本发明在将训练图像切割为图像块后,根据图像块的结构复杂度,选择具有丰富结构信息的图像块,适当删减结构信息简单的平滑块。本发明在深度学习框架Caffe下使用Adam优化器,学习率设置为10-4,每批训练样本minibatch大小设为16。
本发明分别训练残差模块个数n为5,10和15的递归残差网络基础模型baseline5,baseline10和baseline15,增强递归残差网络ERRN和EFRRN,各网络的峰值信噪比PSNR收敛曲线如图3所示。实验表明,通过增加残差模块的数量加深网络结构,有利于扩大网络的感受野从而增强网络的表现能力。在网络表现力与计算量之间进行折衷后,本发明残差模块个数设置为10。在此基础上,引入紧密跨连接、多层监督和高频信息引导功能,网络性能获得显著提高。图4给出放大倍率为3×3时,有无高频信息引导的网络EFRRN与ERRN重建出的脑图及其高频信息,三个高频特征图由核尺寸和标准差为3×3/0.8,5×5/1和7×7/1.6的高斯核提取。由图可见,EFRRN重建结果具有更好的分辨率和对比度,并且脑血管和灰白质的边界更为清晰。
本发明基于增强递归残差网络的磁共振超分辨重建模型EFRRN与基于低秩与全变分约束的超分辨重建模型LRTV(FENG S,JIAN C,LI W,et al.LRTV:MR Image Super-Resolution with Low-Rank and Total Variation Regularizations.IEEETransactions on Medical Imaging,2015,34(12):2459),基于稀疏编码的超分辨重建模型ScSR(Yang J,Wright J,Huang T S,et al.Image super-resolution via sparserepresentation.IEEE transactions on image processing,2010,19(11):2861-2873)和基于卷积神经网络的超分辨重建SRCNN(Dong C,Loy C,He K,et al.Image super-resolution using deep convolutional networks.IEEE transactions on patternanalysis and machine intelligence,2016,38(2):295-307)和VDSR(Kim J,Kwon Lee J,Mu Lee K.Accurate image super-resolution using very deep convolutionalnetworks.Proceedings of the IEEE Conference on Computer Vision and PatternRecognition.2016:1646-1654)进行比较,采用相同的训练数据集。图5、图6、图7给出各方法在放大倍数为2×2,3×3和4×4时,不同人脑图层的重建效果及局部放大图。由图可见,LRTV和ScSR方法的超分辨效果不足,伴有重建伪影,并且随着放大倍率的提高越加显著。相比LRTV和ScSR,基于卷积神经网络的SRCNN和VDSR优势明显,放大倍数为2×2和3×3时PSNR的提高大于2dB。而本发明EFRRN在不同放大倍率下重建结果的PSNR和MSSIM均高于SRCNN和VDSR,图像对比度最佳,结构信息更清晰,能更好地还原细小边缘信息和精细脑组织结构。
表1列出了本发明增强递归残差网络EFRRN与四种典型超分辨重建方法LRTV,ScSR,SRCNN,VDSR在人脑磁共振图像数据集上的性能对比,评价指标为峰值信噪比PSNR和结构相似度MSSIM,示值为测试集结果的均值,粗体表示最优结果。实验数据表明,在放大倍率为2×2时,EFRRN比其他方法的PSNR提高至少2dB,3×3时提高大于1.5dB,4×4时提高大于0.5dB,而MSSIM的改善也都超过0.01,可见EFRRN方法的结果最优。
表1.EFRRN与其它超分辨重建方法用于人脑磁共振图像的性能对比
表2列出本发明EFRRN与同为基于卷积神经网络的超分辨重建算法SRCNN和VDSR的网络结构参数。相比SRCNN,本发明EFRRN网络加深近10倍,感受野增加5倍,参数量增加5倍。相比VDSR,EFRRN层数增加50%而参数数量不足其50%,感受野拓展至其2倍多。可见本发明的网络结构在网络层数、参数数量和感受野的性能配置优于对比方法,可以实现用更少的参数重建出更好的高分辨率磁共振图像。
表2.EFRRN与SRCNN和VDSR的网络结构参数
上述实施例仅是用来说明本发明,而并非用作对本发明的限定。只要是依据本发明的技术实质,对上述实施例进行变化、变型等都将落在本发明的权利要求的范围内。

Claims (8)

1.一种基于增强递归残差网络的磁共振图像超分辨重建方法,其特征在于,增强递归残差网络由上采样子网络、预测子网络和重建子网络组成;以反复递归的残差模块为基本单元建立递归残差网络,在各级残差模块之间构造紧密跨连接;采用高分辨率图像及其对应高频特性对各层残差模块的超分辨重建进行多层监督,以实现用少量参数的卷积网络获得最优的磁共振超分辨重建效果。
2.根据权利要求1所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,上采样子网络由一个低分辨率嵌入卷积层,一个残差模块和一个去卷积层组成;预测子网络包含高分辨率嵌入卷积层和n个权值共享的残差模块;重建子网络包含残差卷积层和重建层,残差卷积层用于将残差模块的输出卷积成残差信息,并与上采样子网络输出相加得到高分辨率信息,进而输入重建层获得高分辨率磁共振图像。
3.根据权利要求1和2所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,残差模块中的卷积采用预激活策略,称为预激活残差模块,依次包括批量规范化层、ReLU激活层、卷积层、批量规范化层、ReLU激活层、卷积层,及由输入到输出的跨连接。
4.根据权利要求1和2所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,预测子网络采用递归学习实现n个残差模块权值共享,每个残差模块的输出为式中Bi-1与Bi分别表示第i-1个和第i个残差模块的输出,τ表示预激活过程,包括批量规范化层和ReLU激活层,表示残差模块内两个卷积层的权值参数。
5.根据权利要求1和2所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,紧密跨连接将前端残差模块的输出乘以一个可训练的标量,相加后前馈到后端的残差模块中:式中权值μk在训练过程中由网络自行选取最优值,
6.根据权利要求1和2所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,高频信息引导包括高频信息输入与高频信息重建监督,高频信息输入是采用核尺寸和标准差分别为3×3/0.8,5×5/1和7×7/1.6的高斯核函数进行图像模糊得到低频分量,将初始输入图减去低频分量,提取出低分辨率图像的高频信息,由串接层将低分辨率图像及其高频信息串接,输入网络;高频信息重建监督过程嵌入重建子网络中,残差卷积层ResConv1对各残差模块输出进行卷积得到残差信息Fr1i,由FeaRecon层高频特征重建得到采用从高分辨率图像标签中提取出的高频分量对其进行监督。
7.根据权利要求1和2所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,多层监督策略将每层残差模块的输出分别输入到相同的重建子网络中,得到对应的高频特征及超分辨率图像的中间重建结果;残差卷积层ResConv2对残差信息与高频特征信息的并接卷积得到更精确残差量Fr2i。将其与上采样子网络的输出Fup相加,得到图像的高分辨率信息,输入Recon层重建出超分辨的磁共振图像:
加权平均作为网络最终输出权值ωi由网络在训练过程中自行选取最优值,并同时对输出的进行监督学习。
8.根据权利要求1和2所述的基于递归残差网络的磁共振图像超分辨率重建方法,其特征在于,在网络训练过程中将对最终重建结果中间预测结果和全部高频特征信息进行监督;则增强递归残差网络的损失函数定义为:
式中n为残差模块层数,M为训练样本数目,α和β分别为平衡最终输出超分辨率图像与中间预测和中间高频特征信息的权值参数。
CN201810251558.5A 2018-03-26 2018-03-26 一种基于增强递归残差网络的磁共振图像超分辨重建方法 Expired - Fee Related CN108460726B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810251558.5A CN108460726B (zh) 2018-03-26 2018-03-26 一种基于增强递归残差网络的磁共振图像超分辨重建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810251558.5A CN108460726B (zh) 2018-03-26 2018-03-26 一种基于增强递归残差网络的磁共振图像超分辨重建方法

Publications (2)

Publication Number Publication Date
CN108460726A true CN108460726A (zh) 2018-08-28
CN108460726B CN108460726B (zh) 2020-08-11

Family

ID=63237878

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810251558.5A Expired - Fee Related CN108460726B (zh) 2018-03-26 2018-03-26 一种基于增强递归残差网络的磁共振图像超分辨重建方法

Country Status (1)

Country Link
CN (1) CN108460726B (zh)

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109345476A (zh) * 2018-09-19 2019-02-15 南昌工程学院 基于深度残差网络的高光谱图像超分辨率重建方法及装置
CN109472743A (zh) * 2018-10-25 2019-03-15 中国科学院电子学研究所 遥感图像的超分辨率重建方法
CN109544448A (zh) * 2018-11-09 2019-03-29 浙江工业大学 一种拉普拉斯金字塔结构的团网络超分辨率图像重建方法
CN109544488A (zh) * 2018-10-08 2019-03-29 西北大学 一种基于卷积神经网络的图像合成方法
CN109903226A (zh) * 2019-01-30 2019-06-18 天津城建大学 基于对称残差卷积神经网络的图像超分辨率重建方法
CN109949259A (zh) * 2019-03-29 2019-06-28 合肥工业大学 基于渐进优化网络的车窗图像细节增强方法及其装置
CN109993809A (zh) * 2019-03-18 2019-07-09 杭州电子科技大学 基于残差U-net卷积神经网络的快速磁共振成像方法
CN110111254A (zh) * 2019-04-24 2019-08-09 天津大学 一种基于多级递归引导和渐进监督的深度图超分辨率方法
CN110223224A (zh) * 2019-04-29 2019-09-10 杰创智能科技股份有限公司 一种基于信息过滤网络的图像超分辨实现算法
CN110264410A (zh) * 2019-05-07 2019-09-20 西安理工大学 一种基于细节特征的图像超分辨率重建方法
CN110288529A (zh) * 2019-06-28 2019-09-27 闽江学院 一种基于递归局部合成网络的单幅图像超分辨率重建方法
CN110503608A (zh) * 2019-07-13 2019-11-26 贵州大学 基于多视角的卷积神经网络的图像去噪方法
CN110533610A (zh) * 2019-08-20 2019-12-03 东软医疗系统股份有限公司 图像增强模型的生成方法及装置、应用方法及装置
CN111161152A (zh) * 2019-12-31 2020-05-15 西安电子科技大学 基于自适应卷积神经网络的图像超分辨方法
CN111223579A (zh) * 2019-12-16 2020-06-02 郑州大学第一附属医院 一种基于人工智能的远程医学影像增强系统及方法
CN111369598A (zh) * 2020-03-02 2020-07-03 北京推想科技有限公司 深度学习模型的训练方法及装置、应用方法及装置
CN111445547A (zh) * 2020-03-20 2020-07-24 中国科学院深圳先进技术研究院 一种基于神经网络的网格化磁共振图像重建方法和装置
CN111487573A (zh) * 2020-05-18 2020-08-04 厦门大学 一种用于磁共振欠采样成像的强化型残差级联网络模型
CN111488978A (zh) * 2019-01-25 2020-08-04 斯特拉德视觉公司 为了元学习用于调整残差网络的方法及装置
CN111598964A (zh) * 2020-05-15 2020-08-28 厦门大学 一种基于空间自适应网络的定量磁化率图像重建方法
CN111833348A (zh) * 2020-08-10 2020-10-27 上海工程技术大学 一种基于图像处理的血管沉积物自动检测方法
CN111899165A (zh) * 2020-06-16 2020-11-06 厦门大学 一种基于功能模块的多任务图像重建卷积网络模型
CN111986092A (zh) * 2020-09-07 2020-11-24 山东交通学院 一种基于双重网络的图像超分辨率重建方法及系统
CN112164122A (zh) * 2020-10-30 2021-01-01 哈尔滨理工大学 一种基于深度残差生成对抗网络的快速cs-mri重建方法
WO2021042270A1 (zh) * 2019-09-03 2021-03-11 中山大学 基于双流多路径递归残差网络的压缩伪影去除方法
WO2021184350A1 (zh) * 2020-03-20 2021-09-23 中国科学院深圳先进技术研究院 一种基于神经网络的网格化磁共振图像重建方法和装置
CN113947600A (zh) * 2021-12-20 2022-01-18 湖南工商大学 一种数字孪生宏观场景的多目标检测方法及装置
CN114037747A (zh) * 2021-11-25 2022-02-11 佛山技研智联科技有限公司 图像特征提取方法、装置、计算机设备及存储介质
CN115512182A (zh) * 2022-09-26 2022-12-23 中国人民解放军总医院第一医学中心 一种基于聚焦学习的ct血管造影智能成像方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106127684A (zh) * 2016-06-22 2016-11-16 中国科学院自动化研究所 基于双向递归卷积神经网络的图像超分辨率增强方法
US20170193367A1 (en) * 2016-01-05 2017-07-06 Sentient Technologies (Barbados) Limited Webinterface production and deployment using artificial neural networks

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170193367A1 (en) * 2016-01-05 2017-07-06 Sentient Technologies (Barbados) Limited Webinterface production and deployment using artificial neural networks
CN106127684A (zh) * 2016-06-22 2016-11-16 中国科学院自动化研究所 基于双向递归卷积神经网络的图像超分辨率增强方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
YING TAI等: "Image Super-Resolution via Deep Recursive Residual Network", 《IEEE XPLORE》 *
李伟等: "基于卷积神经网络的深度图像超分辨率重建方法", 《电子测量与仪器学报》 *

Cited By (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109345476A (zh) * 2018-09-19 2019-02-15 南昌工程学院 基于深度残差网络的高光谱图像超分辨率重建方法及装置
CN109544488A (zh) * 2018-10-08 2019-03-29 西北大学 一种基于卷积神经网络的图像合成方法
CN109544488B (zh) * 2018-10-08 2021-06-01 西北大学 一种基于卷积神经网络的图像合成方法
CN109472743A (zh) * 2018-10-25 2019-03-15 中国科学院电子学研究所 遥感图像的超分辨率重建方法
CN109544448A (zh) * 2018-11-09 2019-03-29 浙江工业大学 一种拉普拉斯金字塔结构的团网络超分辨率图像重建方法
CN111488978B (zh) * 2019-01-25 2023-10-10 斯特拉德视觉公司 为了元学习用于调整残差网络的方法及装置
CN111488978A (zh) * 2019-01-25 2020-08-04 斯特拉德视觉公司 为了元学习用于调整残差网络的方法及装置
CN109903226A (zh) * 2019-01-30 2019-06-18 天津城建大学 基于对称残差卷积神经网络的图像超分辨率重建方法
CN109903226B (zh) * 2019-01-30 2023-08-15 天津城建大学 基于对称残差卷积神经网络的图像超分辨率重建方法
CN109993809B (zh) * 2019-03-18 2023-04-07 杭州电子科技大学 基于残差U-net卷积神经网络的快速磁共振成像方法
CN109993809A (zh) * 2019-03-18 2019-07-09 杭州电子科技大学 基于残差U-net卷积神经网络的快速磁共振成像方法
CN109949259A (zh) * 2019-03-29 2019-06-28 合肥工业大学 基于渐进优化网络的车窗图像细节增强方法及其装置
CN110111254B (zh) * 2019-04-24 2023-03-24 天津大学 一种基于多级递归引导和渐进监督的深度图超分辨率方法
CN110111254A (zh) * 2019-04-24 2019-08-09 天津大学 一种基于多级递归引导和渐进监督的深度图超分辨率方法
CN110223224A (zh) * 2019-04-29 2019-09-10 杰创智能科技股份有限公司 一种基于信息过滤网络的图像超分辨实现算法
CN110264410B (zh) * 2019-05-07 2021-06-15 西安理工大学 一种基于细节特征的图像超分辨率重建方法
CN110264410A (zh) * 2019-05-07 2019-09-20 西安理工大学 一种基于细节特征的图像超分辨率重建方法
CN110288529B (zh) * 2019-06-28 2022-06-07 闽江学院 一种基于递归局部合成网络的单幅图像超分辨率重建方法
CN110288529A (zh) * 2019-06-28 2019-09-27 闽江学院 一种基于递归局部合成网络的单幅图像超分辨率重建方法
CN110503608A (zh) * 2019-07-13 2019-11-26 贵州大学 基于多视角的卷积神经网络的图像去噪方法
CN110503608B (zh) * 2019-07-13 2023-08-08 贵州大学 基于多视角的卷积神经网络的图像去噪方法
CN110533610A (zh) * 2019-08-20 2019-12-03 东软医疗系统股份有限公司 图像增强模型的生成方法及装置、应用方法及装置
WO2021042270A1 (zh) * 2019-09-03 2021-03-11 中山大学 基于双流多路径递归残差网络的压缩伪影去除方法
CN111223579A (zh) * 2019-12-16 2020-06-02 郑州大学第一附属医院 一种基于人工智能的远程医学影像增强系统及方法
CN111161152A (zh) * 2019-12-31 2020-05-15 西安电子科技大学 基于自适应卷积神经网络的图像超分辨方法
CN111369598B (zh) * 2020-03-02 2021-03-30 推想医疗科技股份有限公司 深度学习模型的训练方法及装置、应用方法及装置
CN111369598A (zh) * 2020-03-02 2020-07-03 北京推想科技有限公司 深度学习模型的训练方法及装置、应用方法及装置
WO2021184350A1 (zh) * 2020-03-20 2021-09-23 中国科学院深圳先进技术研究院 一种基于神经网络的网格化磁共振图像重建方法和装置
CN111445547A (zh) * 2020-03-20 2020-07-24 中国科学院深圳先进技术研究院 一种基于神经网络的网格化磁共振图像重建方法和装置
CN111598964B (zh) * 2020-05-15 2023-02-14 厦门大学 一种基于空间自适应网络的定量磁化率图像重建方法
CN111598964A (zh) * 2020-05-15 2020-08-28 厦门大学 一种基于空间自适应网络的定量磁化率图像重建方法
CN111487573B (zh) * 2020-05-18 2021-03-23 厦门大学 一种用于磁共振欠采样成像的强化型残差级联网络模型
CN111487573A (zh) * 2020-05-18 2020-08-04 厦门大学 一种用于磁共振欠采样成像的强化型残差级联网络模型
CN111899165A (zh) * 2020-06-16 2020-11-06 厦门大学 一种基于功能模块的多任务图像重建卷积网络模型
CN111833348A (zh) * 2020-08-10 2020-10-27 上海工程技术大学 一种基于图像处理的血管沉积物自动检测方法
CN111986092B (zh) * 2020-09-07 2023-05-05 山东交通学院 一种基于双重网络的图像超分辨率重建方法及系统
CN111986092A (zh) * 2020-09-07 2020-11-24 山东交通学院 一种基于双重网络的图像超分辨率重建方法及系统
CN112164122B (zh) * 2020-10-30 2022-08-23 哈尔滨理工大学 一种基于深度残差生成对抗网络的快速cs-mri重建方法
CN112164122A (zh) * 2020-10-30 2021-01-01 哈尔滨理工大学 一种基于深度残差生成对抗网络的快速cs-mri重建方法
CN114037747A (zh) * 2021-11-25 2022-02-11 佛山技研智联科技有限公司 图像特征提取方法、装置、计算机设备及存储介质
CN113947600A (zh) * 2021-12-20 2022-01-18 湖南工商大学 一种数字孪生宏观场景的多目标检测方法及装置
CN115512182A (zh) * 2022-09-26 2022-12-23 中国人民解放军总医院第一医学中心 一种基于聚焦学习的ct血管造影智能成像方法

Also Published As

Publication number Publication date
CN108460726B (zh) 2020-08-11

Similar Documents

Publication Publication Date Title
CN108460726A (zh) 一种基于增强递归残差网络的磁共振图像超分辨重建方法
CN110097550B (zh) 一种基于深度学习的医学图像分割方法及系统
WO2022047625A1 (zh) 一种图像处理方法、系统和计算机存储介质
CN110211045A (zh) 基于srgan网络的超分辨率人脸图像重建方法
CN110443867A (zh) 基于生成对抗网络的ct图像超分辨率重构方法
CN109214989B (zh) 基于多方向特征预测先验的单幅图像超分辨率重建方法
CN110288609B (zh) 一种注意力机制引导的多模态全心脏图像分割方法
CN107909581A (zh) Ct影像的肺叶段分割方法、装置、系统、存储介质及设备
CN107977932A (zh) 一种基于可鉴别属性约束生成对抗网络的人脸图像超分辨率重建方法
CN107464216A (zh) 一种基于多层卷积神经网络的医学图像超分辨率重构方法
CN108416821B (zh) 一种深度神经网络的ct图像超分辨重建方法
CN111951344B (zh) 一种基于级联并行卷积网络的磁共振图像重建方法
CN110097512A (zh) 基于Wasserstein生成对抗网络的三维MRI图像去噪模型的构建方法及应用
CN109035142A (zh) 一种对抗网络结合航拍图像先验的卫星图像超分辨方法
CN108510502A (zh) 基于深度神经网络的黑色素瘤图片组织分割方法和系统
CN109993735A (zh) 基于级联卷积的图像分割方法
Du et al. Accelerated super-resolution MR image reconstruction via a 3D densely connected deep convolutional neural network
CN110490863A (zh) 基于深度学习的检测冠脉造影有无完全闭塞病变的系统
CN110276736A (zh) 一种基于权值预测网络的磁共振图像融合方法
Zhu et al. Arbitrary scale super-resolution for medical images
CN107563434A (zh) 一种基于三维卷积神经网络的脑部mri图像分类方法、装置
CN110322402A (zh) 基于稠密混合注意力网络的医学图像超分辨率重建方法
CN115147600A (zh) 基于分类器权重转换器的gbm多模态mr图像分割方法
CN116228639A (zh) 基于半监督多级不确定性感知的口腔全景片龋齿分割方法
CN117036386A (zh) 一种使用扩散模型生成数据的颈椎mri图像自监督分割方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200811

Termination date: 20210326