CN109472817A - 一种基于循环生成对抗网络的多序列磁共振图像配准方法 - Google Patents

一种基于循环生成对抗网络的多序列磁共振图像配准方法 Download PDF

Info

Publication number
CN109472817A
CN109472817A CN201811128381.6A CN201811128381A CN109472817A CN 109472817 A CN109472817 A CN 109472817A CN 201811128381 A CN201811128381 A CN 201811128381A CN 109472817 A CN109472817 A CN 109472817A
Authority
CN
China
Prior art keywords
sequence
magnetic resonance
image
transformation matrix
similarity measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811128381.6A
Other languages
English (en)
Other versions
CN109472817B (zh
Inventor
管秋
陈奕州
金钦钦
李康杰
黄志军
王捷
龚明杰
袁梦依
陈胜勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN201811128381.6A priority Critical patent/CN109472817B/zh
Publication of CN109472817A publication Critical patent/CN109472817A/zh
Application granted granted Critical
Publication of CN109472817B publication Critical patent/CN109472817B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Abstract

一种基于循环生成对抗网络的多序列磁共振图像配准方法,包括以下步骤:1)对输入的序列1和序列2的磁共振原始图像,用CycleGAN进行训练,输出序列1和序列2的磁共振生成图像;2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量;3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵;4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。本发明对已配准样本的依赖较小,网络可训练性较高,抗干扰能力较强,配准精度较高。

Description

一种基于循环生成对抗网络的多序列磁共振图像配准方法
技术领域
本发明涉及一种多序列磁共振图像配准方法。
背景技术
磁共振图像在采集时所用加权像不同,导致不同序列的磁共振的图像表示不同,若直接对图像寻找特征,往往无法匹配到一致的特征。因此,在多序列核磁共振图像配准过程中寻找一致性的特征成为该类型配准的关键问题,即将不同序列的核磁共振图像转换成同一序列的图像,之后可使用单模态的图像配准方法进行配准。在传统的机器学习图像生成技术中,往往需要大量的已配准的数据进行训练,如基于结构化随机森林的图像生成技术。而引入生成对抗网络的方法来实现多序列磁共振图像之间相互转换能有效减少了对已匹配的多序列的数据的依赖,成为医学图像配准研究领域中比较热门的话题,如基于GAN的配准方法、基于条件GAN的配准方法及基于DCGAN的配准方法等。但这些方法在训练时很难保持两个子网络的平衡,易出现网络难以训练的问题。
存在的技术缺陷为:生成对抗网络可训练性较弱,抗干扰能力较弱。
发明内容
为了克服现有生成对抗网络在多序列磁共振图像的转换过程中抗干扰能力不足、易出现网络难以训练的问题,本发明提供了一种易于训练网络,抗干扰能力较强的结合循环生成对抗网络的转换方法进行多序列磁共振图像配准。
本发明解决其技术问题所采用的技术方案是:
一种基于循环生成对抗网络的多序列磁共振图像配准方法,包括如下步骤:
1)对输入的序列1和序列2的磁共振原始图像,用CycleGAN进行训练,输出序列1和序列2的磁共振生成图像;
2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量,过程如下:
2.1)对序列1的原始图像X和生成图像X*,寻找两图的特征点及其映射关系,计算序列1磁共振图像的变换矩阵1;
2.2)计算生成图和原图的归一化互信息,作为序列1生成图和原图的相似性度量1;
2.3)采用与序列1相同的方法,计算序列2磁共振图像的变换矩阵2及生成图和原图的相似性度量2;
3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵,过程如下:
3.1)设置相似度比较标准值,若相似性度量1和相似性度量2的差距小于该值,则两序列的相似性度量差距较小,反之较大;
3.2)若两序列的相似性度量差距较小,则计算变换矩阵1和变换矩阵2的均值作为最终变换矩阵并输出;
3.3)若两序列的相似性度量差距较大,则选取相似性度量更优的变换矩阵作为最终变换矩阵并输出。
4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。
进一步,所述步骤1)的过程如下:
1.1)将序列1的磁共振原始图像X输入生成器GXY,生成序列2的磁共振生成图像Y*;
1.2)将Y*与序列2的磁共振原始图像Y输入判别器DY,判断输入数据的真伪;
1.3)生成器GXY接受判别器DY的判别反馈,调整参数权值,生成新的Y*进行判别,直到判别器DY无法判别输入数据真伪性;
1.4)输出序列2的磁共振生成图像Y*;
1.5)序列1的磁共振生成图像X*获得方式与上述同理;
1.6)约束对两个子网络的训练进行平衡,使得不会出现损失消失的情况,损失函数用以下公式表示:
其中,Pdata(x)是真实样本的分布,Pdata(y)是合成样本的分布,F是生成器GXY的映射函数,G是生成器GYX的映射函数。
本发明的技术构思为:该方法针对获取的未匹配多序列磁共振图像在生成对抗网络中难以训练且易产生噪声点的应用场景。首先利用利用循环生成对抗网络增加的循环一致性约束,使网络在训练中不易出现损失消失等情况,使网络更容易被训练,生成精度较高的多序列磁共振生成图。为减小生成图像的误差点对配准过程的影响,增强配准结果的鲁棒性,对同序列的磁共振生成图像和原始图像进行单模态配准,获得两组变换矩阵和相似性度量,然后比较两序列生成图与原始图像之间的相似性度量,选择相应的加权策略,获得最终的输出矩阵。最后将该变换矩阵映射到原始图像中进行配准。
本发明的有益效果主要表现在:1、循环生成对抗网络可训练性较强,可生成精度较高的多序列磁共振图像;2、减小了生成图像的误差点对配准的影响,提高了配准结果的鲁棒性;3、提高了配准的精度。
附图说明
图1是一种基于循环生成对抗网络的多序列磁共振图像配准方法的流程图。
具体实施方式
下面结合附图对本发明作进一步描述。
参照图1,一种基于循环生成对抗网络的多序列磁共振图像配准方法,包括如下步骤:
1)将序列1和序列2的磁共振原始图像输入CycleGAN进行训练,输出序列1和序列2的磁共振生成图像;
2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量,过程如下:
2.1)对序列1的原始图像X和生成图像X*,寻找两图的特征点及其映射关系,计算序列1磁共振图像的变换矩阵1;
2.2)计算生成图和原图的归一化互信息,作为序列1生成图和原图的相似性度量1;
2.3)采用与序列1相同的方法,计算序列2磁共振图像的变换矩阵2及生成图和原图的相似性度量2;
3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵:
3.1)设置相似度比较标准值,若相似性度量1和相似性度量2的差距小于该值,则两序列的相似性度量差距较小,反之较大;
3.2)若两序列的相似性度量差距较小,则计算变换矩阵1和变换矩阵2的均值作为最终变换矩阵并输出;
3.3)若两序列的相似性度量差距较大,则选取相似性度量更优的变换矩阵作为最终变换矩阵并输出;
4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。
进一步,所述步骤1)的过程如下:
1.1)将序列1的磁共振原始图像X输入生成器GXY,生成序列2的磁共振生成图像Y*;
1.2)将Y*与序列2的磁共振原始图像Y输入判别器DY,判断输入数据的真伪;
1.3)生成器GXY接受判别器DY的判别反馈,调整参数权值,生成新的Y*进行判别,直到判别器DY无法判别输入数据真伪性;
1.4)输出序列2的磁共振生成图像Y*;
1.5)序列1的磁共振生成图像X*获得方式与上述同理;
1.6)约束对两个子网络的训练进行平衡,使得不会出现损失消失的情况,损失函数用以下公式表示:
其中,Pdata(x)是真实样本的分布,Pdata(y)是合成样本的分布,F是生成器GXY的映射函数,G是生成器GYX的映射函数。

Claims (2)

1.一种基于循环生成对抗网络的多序列磁共振图像配准方法,其特征在于,所述方法包括如下步骤:
1)对输入的序列1和序列2的磁共振原始图像,用CycleGAN进行训练,输出序列1和序列2的磁共振生成图像:
2)对同序列的生成图像和原始图像进行单模态配准,计算变换矩阵及同序列两图之间的相似性度量,过程如下:
2.1)对序列1的原始图像X和生成图像X*,寻找两图的特征点及其映射关系,计算序列1磁共振图像的变换矩阵1;
2.2)计算生成图和原图的归一化互信息,作为序列1生成图和原图的相似性度量1;
2.3)序列2磁共振图像的变换矩阵2及生成图和原图的相似性度量2计算方式同上。
3)比较两个序列的相似性度量,选择对应策略,输出最终变换矩阵,过程如下:
3.1)设置相似度比较标准值,若相似性度量1和相似性度量2的差距小于该值,则两序列的相似性度量差距较小,反之较大;
3.2)若两序列的相似性度量差距较小,则计算变换矩阵1和变换矩阵2的均值作为最终变换矩阵并输出;
3.3)若两序列的相似性度量差距较大,则选取相似性度量更优的变换矩阵作为最终变换矩阵并输出;
4)使用最终变换矩阵对浮动图进行变换,获得最终的结果图。
2.如权利要求1所述的一种基于循环生成对抗网络的多序列磁共振图像配准方法,其特征在于,所述步骤1)的过程如下:
1.1)将序列1的磁共振原始图像X输入生成器GXY,生成序列2的磁共振生成图像Y*;
1.2)将Y*与序列2的磁共振原始图像Y输入判别器DY,判断输入数据的真伪;
1.3)生成器GXY接受判别器DY的判别反馈,调整参数权值,生成新的Y*进行判别,直到判别器DY无法判别输入数据真伪性;
1.4)输出序列2的磁共振生成图像Y*;
1.5)序列1的磁共振生成图像X*获得方式与上述同理;
1.6)约束对两个子网络的训练进行平衡,使得不会出现损失消失的情况,损失函数用以下公式表示:
其中,Pdata(x)是真实样本的分布,Pdata(y)是合成样本的分布,F是生成器GXY的映射函数,G是生成器GYX的映射函数。
CN201811128381.6A 2018-09-27 2018-09-27 一种基于循环生成对抗网络的多序列磁共振图像配准方法 Active CN109472817B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811128381.6A CN109472817B (zh) 2018-09-27 2018-09-27 一种基于循环生成对抗网络的多序列磁共振图像配准方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811128381.6A CN109472817B (zh) 2018-09-27 2018-09-27 一种基于循环生成对抗网络的多序列磁共振图像配准方法

Publications (2)

Publication Number Publication Date
CN109472817A true CN109472817A (zh) 2019-03-15
CN109472817B CN109472817B (zh) 2021-08-03

Family

ID=65664683

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811128381.6A Active CN109472817B (zh) 2018-09-27 2018-09-27 一种基于循环生成对抗网络的多序列磁共振图像配准方法

Country Status (1)

Country Link
CN (1) CN109472817B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109978792A (zh) * 2019-03-28 2019-07-05 厦门美图之家科技有限公司 一种生成图像增强模型的方法
CN109978897A (zh) * 2019-04-09 2019-07-05 中国矿业大学 一种多尺度生成对抗网络的异源遥感图像配准方法及装置
CN110133643A (zh) * 2019-05-22 2019-08-16 北京林业大学 植物根系探测方法及装置
CN110298871A (zh) * 2019-06-10 2019-10-01 东软医疗系统股份有限公司 图像配准方法及装置
CN110444277A (zh) * 2019-07-19 2019-11-12 重庆邮电大学 一种基于多生成多对抗的多模态脑部mri图像双向转换方法
CN110827331A (zh) * 2019-11-04 2020-02-21 上海联影智能医疗科技有限公司 图像配准模型的训练方法、图像配准方法和计算机设备
CN110866888A (zh) * 2019-11-14 2020-03-06 四川大学 基于潜在信息表征gan的多模态mri合成方法
CN114881848A (zh) * 2022-07-01 2022-08-09 浙江柏视医疗科技有限公司 一种多序列mr转ct的方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101405768A (zh) * 2006-03-23 2009-04-08 国立大学法人东京工业大学 图像配准方法
CN104835112A (zh) * 2015-05-07 2015-08-12 厦门大学 一种肝脏多相期ct图像融合方法
CN108573222A (zh) * 2018-03-28 2018-09-25 中山大学 基于循环对抗生成网络的行人图像遮挡检测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101405768A (zh) * 2006-03-23 2009-04-08 国立大学法人东京工业大学 图像配准方法
CN104835112A (zh) * 2015-05-07 2015-08-12 厦门大学 一种肝脏多相期ct图像融合方法
CN108573222A (zh) * 2018-03-28 2018-09-25 中山大学 基于循环对抗生成网络的行人图像遮挡检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吴玉霞: "多对比度磁共振颈动脉图像配准算法的研究", 《硕士学位论文》 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109978792A (zh) * 2019-03-28 2019-07-05 厦门美图之家科技有限公司 一种生成图像增强模型的方法
CN109978897A (zh) * 2019-04-09 2019-07-05 中国矿业大学 一种多尺度生成对抗网络的异源遥感图像配准方法及装置
CN109978897B (zh) * 2019-04-09 2020-05-08 中国矿业大学 一种多尺度生成对抗网络的异源遥感图像配准方法及装置
CN110133643A (zh) * 2019-05-22 2019-08-16 北京林业大学 植物根系探测方法及装置
CN110133643B (zh) * 2019-05-22 2021-08-20 北京林业大学 植物根系探测方法及装置
CN110298871A (zh) * 2019-06-10 2019-10-01 东软医疗系统股份有限公司 图像配准方法及装置
CN110444277A (zh) * 2019-07-19 2019-11-12 重庆邮电大学 一种基于多生成多对抗的多模态脑部mri图像双向转换方法
CN110444277B (zh) * 2019-07-19 2023-03-28 重庆邮电大学 一种基于多生成多对抗的多模态脑部mri图像双向转换方法
CN110827331A (zh) * 2019-11-04 2020-02-21 上海联影智能医疗科技有限公司 图像配准模型的训练方法、图像配准方法和计算机设备
CN110827331B (zh) * 2019-11-04 2022-07-26 上海联影智能医疗科技有限公司 图像配准模型的训练方法、图像配准方法和计算机设备
CN110866888A (zh) * 2019-11-14 2020-03-06 四川大学 基于潜在信息表征gan的多模态mri合成方法
CN114881848A (zh) * 2022-07-01 2022-08-09 浙江柏视医疗科技有限公司 一种多序列mr转ct的方法

Also Published As

Publication number Publication date
CN109472817B (zh) 2021-08-03

Similar Documents

Publication Publication Date Title
CN109472817A (zh) 一种基于循环生成对抗网络的多序列磁共振图像配准方法
CN109753992B (zh) 基于条件生成对抗网络的无监督域适应图像分类方法
CN109190722B (zh) 基于满文字符图片的字体风格迁移变换方法
CN109522857B (zh) 一种基于生成式对抗网络模型的人数估计方法
TW202046242A (zh) 訓練生成對抗網路的方法、產生影像的方法及電腦可讀儲存媒體
CN107451619A (zh) 一种基于感知生成对抗网络的小目标检测方法
CN106203483B (zh) 一种基于语义相关多模态映射方法的零样本图像分类方法
CN105809693A (zh) 基于深度神经网络的sar图像配准方法
CN111428071A (zh) 一种基于多模态特征合成的零样本跨模态检索方法
CN108564606A (zh) 基于图像转换的异源图像块匹配方法
CN107729926A (zh) 一种基于高维空间变换的数据扩增方法、机器识别系统
CN108681689B (zh) 基于生成对抗网络的帧率增强步态识别方法及装置
CN113140019B (zh) 一种基于融合弥补生成对抗网络的文本生成图像的方法
CN113537247B (zh) 一种针对换流变压器振动信号的数据增强方法
CN105740917B (zh) 带有标签学习的遥感图像的半监督多视图特征选择方法
CN112036260A (zh) 一种自然环境下多尺度子块聚合的表情识别方法及系统
CN103077408A (zh) 基于小波神经网络的海底声纳图像转换为声学底质类别方法
CN112258625A (zh) 基于注意力机制的单幅图像到三维点云模型重建方法及系统
Eschweiler et al. Towards annotation-free segmentation of fluorescently labeled cell membranes in confocal microscopy images
CN109948589A (zh) 基于量子深度信念网络的人脸表情识别方法
CN111914617B (zh) 一种基于平衡栈式生成式对抗网络的人脸属性编辑方法
Hu et al. A Noising-Denoising Framework for Point Cloud Upsampling via Normalizing Flows
CN116681921A (zh) 一种基于多特征损失函数融合的目标标注方法及系统
Kuo et al. Computerized color separation system for printed fabrics by using backward-propagation neural network
CN115511758A (zh) 一种基于图像插值生成编码技术的图像生成方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant