CN109978850A - 一种多模态医学影像半监督深度学习分割系统 - Google Patents
一种多模态医学影像半监督深度学习分割系统 Download PDFInfo
- Publication number
- CN109978850A CN109978850A CN201910217002.9A CN201910217002A CN109978850A CN 109978850 A CN109978850 A CN 109978850A CN 201910217002 A CN201910217002 A CN 201910217002A CN 109978850 A CN109978850 A CN 109978850A
- Authority
- CN
- China
- Prior art keywords
- image
- module
- segmentation
- test
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013135 deep learning Methods 0.000 title claims abstract description 15
- 230000011218 segmentation Effects 0.000 claims abstract description 66
- 238000012549 training Methods 0.000 claims abstract description 43
- 238000012360 testing method Methods 0.000 claims abstract description 33
- 238000010276 construction Methods 0.000 claims abstract description 9
- 238000013480 data collection Methods 0.000 claims abstract description 8
- 230000006870 function Effects 0.000 claims abstract description 3
- 238000013527 convolutional neural network Methods 0.000 claims description 24
- 238000000034 method Methods 0.000 claims description 18
- 238000000605 extraction Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 9
- 230000004069 differentiation Effects 0.000 claims description 4
- 230000000694 effects Effects 0.000 claims description 4
- 238000009877 rendering Methods 0.000 claims description 4
- 230000005012 migration Effects 0.000 claims description 3
- 238000013508 migration Methods 0.000 claims description 3
- 210000004185 liver Anatomy 0.000 description 9
- 206010028980 Neoplasm Diseases 0.000 description 8
- 238000003709 image segmentation Methods 0.000 description 8
- 208000002454 Nasopharyngeal Carcinoma Diseases 0.000 description 5
- 206010061306 Nasopharyngeal cancer Diseases 0.000 description 5
- 201000011216 nasopharynx carcinoma Diseases 0.000 description 5
- WSFSSNUMVMOOMR-UHFFFAOYSA-N Formaldehyde Chemical compound O=C WSFSSNUMVMOOMR-UHFFFAOYSA-N 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003902 lesion Effects 0.000 description 3
- 238000013136 deep learning model Methods 0.000 description 2
- 230000007812 deficiency Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- 208000003174 Brain Neoplasms Diseases 0.000 description 1
- 206010051290 Central nervous system lesion Diseases 0.000 description 1
- 241001269238 Data Species 0.000 description 1
- 101150117538 Set2 gene Proteins 0.000 description 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000000701 chemical imaging Methods 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 238000013170 computed tomography imaging Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
- G06V2201/032—Recognition of patterns in medical or anatomical images of protuberances, polyps nodules, etc.
Abstract
本发明公开了一种多模态医学影像半监督深度学习分割系统,包括:数据收集模块,用于收集不同模态即多通道的图像数据,并对其中一种模态图像中的感兴趣区域进行标注,并将数据分为训练集与测试集;模型构建模块,用于实现分割模型的构建,并对训练集进行训练;测试模块,用于将测试集数据输入模型进行分割,实现分割测试功能。本发明系统能够快速、准确、有效地实现多模图像感兴趣区域的分割。
Description
技术领域
本发明涉及图像处理的技术领域,尤其是指一种多模态医学影像半监督深度学习分割系统。
背景技术
目前,各种模态成像技术与多分辨率成像技术的应用日益重要与广泛,如多光谱成像、多分辨率光学成像、医学PET-CT成像、PET-MRI成像,以及磁共振T1加权像(MR T1W)、磁共振T2加权像(MR T2W)、质子密度图像(PD)和MR增强影像等,它们从不同角度反映了成像介质的不同信息。
其中,图像中感兴趣区域或目标的分割,是进行影像分析和目标识别的基础。如医学图像中各组织器官的分割、病灶定位,如果依赖人工进行勾画,则存在主观性强、可靠性与重复性差、繁琐耗时等诸多不足。因此,人们纷纷寻求自动分割算法。
在深度学习技术兴起之前,研究者尝试了阈值法、区域增长法、几何形变模型、聚类、统计决策方法等众多传统的图像分割方法,以及通过提取图像特征,再利用人工神经网络、支持向量机等机器学习方法。
然而以上自动分割方法,普遍存在模型复杂、鲁棒性较差、对噪声敏感、特征提取与选择过程繁琐、主观性强等缺点,影响了分割性能与应用。
近年来,以卷积神经网络为代表的深度学习模型,采用了一种完全“端到端”的多层次分割流程,不仅训练过程中融合特征自动提取与选择,而且建立了由具体到抽象的多层特征体系,类似人脑对事物的认知过程与特性,此外,构建更深的网络结构,采用贪婪无监督逐层训练方法,以避免误差向前向后传播时丢失严重而导致梯度消失或扩散,易陷入局部极小值或不收敛问题。因此,深度学习技术在图像分割、配准、分类识别等方面的应用日益增加。其中,在医学影像的分割中,近年来最有代表性的方法是Ronneberger O,Fischer P,Brox T.U-Net:Convolutional Networks for Biomedical ImageSegmentation[C]//International Conference on Medical Image Computing andComputer-AssistedIntervention.Springer,Cham,2015:234-241.文中提出的采用编码-解码结构并带有跳跃连接的全卷积神经网络U-Net。此后,许多研究者在此基础上进行了改进工作,如Ghafoorian M,Mehrtash A,Kapur T,et al.Transfer Learning forDomainAdaptation in MRI:Application in Brain Lesion Segmentation[J].2017.文中提出利用迁移学习进行脑肿瘤MR图像的分割。虽然这些改进策略能改善分割模型的性能,然而,它们仅局限于单一模态的图像分割。在实际应用中,往往涉及多种模态影像,而不同模态影像对患者器官或病灶所反映的信息不同,包括器官或病灶的解剖位置、运动以及信号差异等,如何有效地利用多模态影像信息,是进一步反映感兴趣区域信息、改善分割模型性能的关键。
发明内容
本发明的目的在于克服现有医学图像分割技术的缺点与不足,提出了一种多模态医学影像半监督深度学习分割系统,该系统适用于多种模态的影像,能够快速、准确地实现多模态影像中感兴趣区域的自动分割。
为实现上述目的,本发明所提供的技术方案为:一种多模态医学影像半监督深度学习分割系统,包括:
数据收集模块,用于收集不同模态即多通道的图像数据,并对其中一种模态图像中的感兴趣区域进行标注,并将数据分为训练集与测试集;
模型构建模块,用于实现分割模型的构建,并对训练集进行训练;
测试模块,用于将测试集数据输入模型进行分割,实现分割测试功能。
进一步,所述数据收集模块总共收集M种模态的影像,以I1、I2、…Ik、…IM表示,每一种模态影像数量充足,且表示为N1、N2、…Nk、…NM,对第一种模态图像I1的每一幅图像,由人工标注感兴趣区域作为标注图R1,选取I1和R1构成训练集一(Training Set 1,TRS1);对其余每种I2、…Ik、…IM模态图像,选取一部分作为训练集二(Training Set 2,TRS2),剩余部分由人工标注感兴趣区域作为标注图R2、…Rk、…RM,作为测试集(Testing Set,TES);
所述模型构建模块用于对图像I1和图像Ik构建深度学习分割模型,该深度学习分割模型包括三个输入节点和两个输出节点,输入节点分别为图像I1及其标注图R1、以及图像Ik,输出节点分别为分割的背景和目标区域;
所述模型构建模块包括图像生成及判别模块、2D+3D特征编码模块、2D解码分割模块、分割结果判别模块、特征图判别模块、训练模块,其中:
所述图像生成及判别模块用于构建深度卷积神经网络生成模型即生成器G与判别模型即判别器D1,其中,G包括编码器和解码器两部分,用于由图像I1生成带有图像Ik风格的图像I1→k,而D1用于判别生成器G生成的图像I1→k是否与图像Ik相似;
所述2D+3D特征编码模块用于构建2D+3D卷积神经网络特征编码器(FeatureEncoder,FE)模块,包括2D特征编码器(FE-2D)和3D特征编码器(FE-3D),其中,2D特征编码器(FE-2D)用于对2D图像I1→k和图像Ik进行2D特征提取,得到两种图像2D特征图FM-2D1→k和FM-2Dk,3D特征编码器(FE-3D)用于对多层3D图像I1→k和图像Ik进行3D特征提取,得到两种图像3D特征图FM-3D1→k和FM-3Dk,并对FM-3D1→k和FM-3Dk提取每张图像特征图,分别与FM-2D1→k和FM-2Dk合并后,得到融合后的2D特征图FM-2D11→k和FM-2D1k;
所述2D解码分割模块用于构建卷积神经网络2D解码分割模块(2D DecoderandSegmentation,DS-2D),对特征图FM-2D11→k和FM-2D1k进行解码并分割,分别得到图像I1→k和图像Ik的分割结果S1→k和Sk,将S1→k与对应的图像I1的标注图R1进行比较,计算分割损失;
所述分割结果判别模块用于构建卷积神经网络判别模块即判别器D2,D2对2D解码分割模块生成的两种分割结果S1→k与Sk进行判别,即进行形状一致性判别,使两种分割结果具有相似的形状结构;
所述特征图判别模块用于构建卷积神经网络判别模块即判别器D3,D3对2D+3D特征编码模块生成的特征图FM-2D11→k和FM-2D1k进行判别,实现图像I1到图像Ik的特征域迁移;
所述训练模块用于将训练集图像I1及其标注图R1、以及图像Ik输入深度学习分割模型,实现模型的训练过程;
所述测试模块用于将独立测试集TES图像Ik输入模型构建模块的分割网络中,通过2D+3D特征编码模块以及2D解码分割模块,得到图像Ik的分割结果Pk,将其与标注图Rk进行对比,评估测试效果。
本发明与现有技术相比,具有如下优点与有益效果:
1、能充分利用单种模态带标签图像与其它模态图像的解剖结构相似性,指导其它无标签图像进行分割。
2、采用的半监督学习策略,仅需对单种模态图像勾画感兴趣区域,其它模态图像无需标注感兴趣区域,减少感兴趣区域的繁重勾画。
3、不需要进行预配准,对不同模态图像的位置差异具有自适应性。
4、本发明系统中通过构建三个判别模块,分别为图像生成及判别模块、特征图判别模块以及分割结果判别模块,从图像、特征以及分割结果图三个方面实现源图像到目标图像的域迁移,提高系统性能。
5、采用了一种2D与3D相融合的特征编码策略,既充分利用医学图像3D空间中的拓扑结构信息,提高系统性能,又能发挥2D空间在速度与占用内存空间方面的优势。
6、本发明系统在训练和测试时均不需要复杂的数据预处理过程,仅需提供单种模态图像及对应的目标区域的标签,以及其它模态的图像,有监督与无监督分割、生成对抗网络的训练均在深度学习模型中实现,一旦训练完成,即可快速、直接和准确地分割出其它模态图像的目标区域。
附图说明
图1是本发明系统结构框图。
图2是本发明系统网络结构图。
图3是鼻咽癌肿瘤分割实施例的示意图。
图4是肝脏分割实施例的示意图。
具体实施方式
下面以鼻咽癌肿瘤多模MR影像以及多b值肝脏MR影像的分割为例对本发明作进一步说明。
实施例1(鼻咽癌肿瘤多模MR图像分割)
如图1至图3所示,本实施例所提供的多模态医学影像半监督深度学习分割系统,包括数据收集模块、模型构建模块、测试模块。
所述数据收集模块收集鼻咽癌肿瘤的多模MR图像,包括T1W、T2W以及T1C三种模态数据,并对T1W模态每张图像的肿瘤区域进行标注。
总共收集了T1W、T2W、T1C三种模态的鼻咽癌MR影像数据,400个被试每种模态共2800张图像,选取T1W模态图像让临床医生标注肿瘤区域后有相应的标注图。选取所有被试的T1W图像及肿瘤区域标签R1作为训练集(Training Set 1,TRS1)。然后,选取所有被试中十分之九的T2W图像和T1C图像作为训练集二(Training Set 2,TRS2),剩余十分之一由人工标注肿瘤区域后有相应的标注图,作为测试集(Testing Set,TES),即360个被试共2480张T2W和T1C图像作为TRS2,40个被试共320张T2W和T1C图像及对应标注图像作为TES。
所述模型构建模块包括图像生成及判别模块、2D+3D特征编码模块、2D解码分割模块、分割结果判别模块、特征图判别模块、训练模块。
所述图像生成及判别模块以构建图像T2W的分割模型为例,T1C图像分割模型构建过程与之相似,不再赘述。构建深度卷积神经网络生成模型即生成器G,G包括编码器和解码器两部分,用于由图像T1W生成带有图像T2W风格的图像IT1W→T2W;构建深度卷积神经网络判别模型即判别器D1,D1用于判别生成器G生成的图像IT1W→T2W是否与图像T2W相似。
所述2D+3D特征编码模块构建2D+3D卷积神经网络特征编码器(FeatureEncoder,FE)模块,包括2D特征编码器(FE-2D)和3D特征编码器(FE-3D),2D特征编码器(FE-2D)对2D图像IT1W→T2W和图像T2W进行2D特征提取,得到两种图像2D特征图FM-2DT1W→T2W和FM-2D2,3D特征编码器(FE-3D)对相邻层3D图像IT1W→T2W和图像T2W进行3D特征提取,得到两种图像3D特征图FM-3DT1W→T2W和FM-3D2,对FM-3DT1W→T2W和FM-3D2提取每张图像特征图,分别与FM-2DT1W→T2W和FM-2D2合并后,得到2D特征图FM-2D1T1W→T2W和FM-2D12。
所述2D解码分割模块构建卷积神经网络解码2D分割模块(DecoderandSegmentation,DS-2D),对2D+3D特征编码模块生成的两种图像特征图FM-2D1T1W→T2W和FM-2D12进行解码并分割,分别得到图像IT1W→T2W和图像T2W的分割结果ST1W→T2W和S2。将ST1W→T2W与对应的图像T1W的标注图进行比较,计算分割损失。
所述分割结果判别模块构建卷积神经网络判别模块即判别器D2,D2对2D解码分割模块生成的两种分割结果ST1W→T2W与S2进行判别,即进行形状一致性判别,使两种分割结果具有相似的形状结构。
所述特征图判别模块构建卷积神经网络判别模块即判别器D3,D3对2D+3D特征编码模块生成的特征图FM-2D1T1W→T2W和FM-2D12进行判别,实现图像T1W到图像T2W的特征域迁移。
所述训练模块用于将训练集TRS1中图像T1W及其标注图R1、以及训练集TRS2中图像T2W输入深度学习分割模型,实现模型的训练过程。
所述测试模块将独立测试集TES中的T2W图像输入模型构建模块构建的半监督分割网络中,通过2D+3D特征编码模块进行2D+3D特征编码以及2D解码分割模进行2D特征解码分割后,得到图像T2W的分割结果P2,将分割结果与测试集TES中T2W图像对应的标注图进行比较,评估分割效果。
实施例2(多b值肝脏MR图像分割)
如图4所示,与实施例1不同的是本实施例的数据收集模块,收集多b值肝脏MR图像,包括b=0,10,25三种b值数据,分别记为b0,b10,b25图像,并对b0图像每张图像的肝脏区域进行标注。
总共收集了b0,b10,b25三种b值的肝脏MR影像数据,180个被试每种b值共3600张图像,选取b0图像让临床医生标注肝脏区域后有相应的标注图。选取所有被试的b0图像及肝脏区域标签R0作为训练集一(Training Set 1,TRS1)。然后,选取所有被试中十分之九的b10图像和b25图像作为训练集二(Training Set2,TRS2),剩余十分之一由人工标注肝脏区域后有相应的标注图,作为测试集(Testing Set,TES),即162个被试共3240张b10和b25图像作为TRS2,18个被试共360张b10和b25图像及对应标注图像作为TES。
所述图像生成及判别模块以构建图像b25的分割模型为例,b10图像分割模型构建过程与之相似,不再赘述。构建深度卷积神经网络生成模型即生成器G,G包括编码器和解码器两部分,用于由图像b0生成带有图像b25风格的图像Ib0→b25;构建深度卷积神经网络判别模型即判别器D1,D1用于判别生成器G生成的图像Ib0→b25是否与图像b25相似。
所述2D+3D特征编码模块构建2D+3D卷积神经网络特征编码器(FeatureEncoder,FE)模块,包括2D特征编码器(FE-2D)和3D特征编码器(FE-3D),2D特征编码器(FE-2D)对2D图像Ib0→b25和图像b25进行2D特征提取,得到两种图像2D特征图FM-2Db0→b25和FM-2D25,3D特征编码器(FE-3D)对相邻层3D图像Ib0→b25和图像b25进行3D特征提取,得到两种图像3D特征图FM-3Db0→b25和FM-3D25,对FM-3Db0→b25和FM-3D25提取每张图像特征图,分别与FM-2Db0→b25和FM-2D25合并后,得到2D特征图FM-2D1b0→b25和FM-2D125。
所述2D解码分割模块构建卷积神经网络2D解码分割模块(DecoderandSegmentation,DS),对2D+3D特征编码模块生成的两种图像特征图FM-2D1b0→b25和FM-2D125进行解码并分割,分别得到图像Ib0→b25和图像b25的分割结果Sb0→b25和S25。将Sb0→b25与对应的图像b0的标注图进行比较,计算分割损失,从而实现分割训练。
所述分割结果判别模块构建卷积神经网络判别模块即判别器D2,D2对2D解码分割模块生成的两种分割结果Sb0→b25与S25进行判别,即进行形状一致性判别,使两种分割结果具有相似的形状结构。
所述特征图判别模块构建卷积神经网络判别模块即判别器D3,D3对2D+3D特征编码模块生成的特征图FM-2D1b0→b25和FM-2D125进进行判别,实现图像b0到图像b25的特征域迁移。
所述训练模块用于将训练集TRS1中图像b0及其标注图R0、以及训练集TRS2中图像b25输入深度学习分割模型,实现模型的训练过程。
所述测试模块将独立测试集TES中的b25图像输入模型构建模块构建的半监督分割网络中,通过2D+3D特征编码模块进行2D+3D特征编码以及2D解码分割模块进行2D特征解码分割后,得到图像T2W的分割结果P25,将分割结果与测试集TES中b25图像对应的标注图进行比较,评估分割效果。
上所述实施例只为本发明之较佳实施例,并非以此限制本发明的实施范围,故凡依本发明之形状、原理所作的变化,均应涵盖在本发明的保护范围内。
Claims (2)
1.一种多模态医学影像半监督深度学习分割系统,其特征在于,包括:
数据收集模块,用于收集不同模态即多通道的图像数据,并对其中一种模态图像中的感兴趣区域进行标注,并将数据分为训练集与测试集;
模型构建模块,用于实现分割模型的构建,并对训练集进行训练;
测试模块,用于将测试集数据输入模型进行分割,实现分割测试功能。
2.根据权利要求1所述的一种多模态医学影像半监督深度学习分割系统,其特征在于:所述数据收集模块总共收集M种模态的影像,以I1、I2、…Ik、…IM表示,每一种模态影像数量充足,且表示为N1、N2、…Nk、…NM,对第一种模态图像I1的每一幅图像,由人工标注感兴趣区域作为标注图R1,选取I1和R1构成训练集一;对其余每种I2、…Ik、…IM模态图像,选取一部分作为训练集二,剩余部分由人工标注感兴趣区域作为标注图R2、…Rk、…RM,作为测试集;
所述模型构建模块用于对图像I1和图像Ik构建深度学习分割模型,该深度学习分割模型包括三个输入节点和两个输出节点,输入节点分别为图像I1及其标注图R1、以及图像Ik,输出节点分别为分割的背景和目标区域;
所述模型构建模块包括图像生成及判别模块、2D+3D特征编码模块、2D解码分割模块、分割结果判别模块、特征图判别模块、训练模块,其中:
所述图像生成及判别模块用于构建深度卷积神经网络生成模型即生成器G与判别模型即判别器D1,其中,G包括编码器和解码器两部分,用于由图像I1生成带有图像Ik风格的图像I1→k,而D1用于判别生成器G生成的图像I1→k是否与图像Ik相似;
所述2D+3D特征编码模块用于构建2D+3D卷积神经网络特征编码器模块,包括2D特征编码器和3D特征编码器,其中,2D特征编码器用于对2D图像I1→k和图像Ik进行2D特征提取,得到两种图像2D特征图FM-2D1→k和FM-2Dk,3D特征编码器用于对多层3D图像I1→k和图像Ik进行3D特征提取,得到两种图像3D特征图FM-3D1→k和FM-3Dk,并对FM-3D1→k和FM-3Dk提取每张图像特征图,分别与FM-2D1→k和FM-2Dk合并后,得到融合后的2D特征图FM-2D11→k和FM-2D1k;
所述2D解码分割模块用于构建卷积神经网络2D解码分割模块,对特征图FM-2D11→k和FM-2D1k进行解码并分割,分别得到图像I1→k和图像Ik的分割结果S1→k和Sk,将S1→k与对应的图像I1的标注图R1进行比较,计算分割损失;
所述分割结果判别模块用于构建卷积神经网络判别模块即判别器D2,D2对2D解码分割模块生成的两种分割结果S1→k与Sk进行判别,即进行形状一致性判别,使两种分割结果具有相似的形状结构;
所述特征图判别模块用于构建卷积神经网络判别模块即判别器D3,D3对2D+3D特征编码模块生成的特征图FM-2D11→k和FM-2D1k进行判别,实现图像I1到图像Ik的特征域迁移;
所述训练模块用于将训练集图像I1及其标注图R1、以及图像Ik输入深度学习分割模型,实现模型的训练过程;
所述测试模块用于将独立测试集图像Ik输入模型构建模块的分割网络中,通过2D+3D特征编码模块以及2D解码分割模块,得到图像Ik的分割结果Pk,将其与标注图Rk进行对比,评估测试效果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910217002.9A CN109978850B (zh) | 2019-03-21 | 2019-03-21 | 一种多模态医学影像半监督深度学习分割系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910217002.9A CN109978850B (zh) | 2019-03-21 | 2019-03-21 | 一种多模态医学影像半监督深度学习分割系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109978850A true CN109978850A (zh) | 2019-07-05 |
CN109978850B CN109978850B (zh) | 2020-12-22 |
Family
ID=67079916
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910217002.9A Expired - Fee Related CN109978850B (zh) | 2019-03-21 | 2019-03-21 | 一种多模态医学影像半监督深度学习分割系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109978850B (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110751651A (zh) * | 2019-09-27 | 2020-02-04 | 西安电子科技大学 | 基于多尺度迁移学习的mri胰腺图像分割方法 |
CN110930337A (zh) * | 2019-11-29 | 2020-03-27 | 北京理工大学 | 一种基于深度学习的医学影像增强方法 |
CN111260652A (zh) * | 2020-01-09 | 2020-06-09 | 浙江传媒学院 | 一种基于mimo-gan的图像生成系统和方法 |
CN111523597A (zh) * | 2020-04-23 | 2020-08-11 | 北京百度网讯科技有限公司 | 目标识别模型训练方法、装置、设备以及存储介质 |
CN111881979A (zh) * | 2020-07-28 | 2020-11-03 | 复旦大学 | 多模态数据标注装置及包含程序的计算机可读存储介质 |
CN112150478A (zh) * | 2020-08-31 | 2020-12-29 | 温州医科大学 | 一种构建半监督图像分割框架的方法及系统 |
WO2021026962A1 (en) * | 2019-08-13 | 2021-02-18 | Hong Kong Applied Science and Technology Research Institute Company Limited | Medical image segmentation based on mixed context cnn model |
CN112633071A (zh) * | 2020-11-30 | 2021-04-09 | 之江实验室 | 基于数据风格解耦内容迁移的行人重识别数据域适应方法 |
CN113139974A (zh) * | 2021-04-13 | 2021-07-20 | 广东工业大学 | 基于半监督学习的病灶分割模型训练、应用方法 |
CN113177981A (zh) * | 2021-04-29 | 2021-07-27 | 中国科学院自动化研究所 | 双通路颅咽管瘤侵袭性分类及其病灶区域分割系统 |
CN113313718A (zh) * | 2021-05-28 | 2021-08-27 | 华南理工大学 | 一种基于深度学习的急性腰椎骨折mri图像分割系统 |
CN113487579A (zh) * | 2021-07-14 | 2021-10-08 | 广州柏视医疗科技有限公司 | 自动勾画模型的多模态迁移方法 |
CN113793347A (zh) * | 2021-09-18 | 2021-12-14 | 福建师范大学 | 基于局部-全局自适应信息学习的脑肿瘤mr图像分割方法 |
WO2022221991A1 (zh) * | 2021-04-19 | 2022-10-27 | 深圳市深光粟科技有限公司 | 一种影像数据处理方法、装置、计算机及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106780499A (zh) * | 2016-12-07 | 2017-05-31 | 电子科技大学 | 一种基于堆叠自动编码网络的多模态脑肿瘤图像分割方法 |
CN107507195A (zh) * | 2017-08-14 | 2017-12-22 | 四川大学 | 基于超图模型的pet‑ct多模态鼻咽癌图像分割方法 |
KR101850043B1 (ko) * | 2016-12-23 | 2018-04-18 | 부산대학교 산학협력단 | 멀티모덜 센싱 데이터 기반의 검안영상 분석 장치 |
CN108986115A (zh) * | 2018-07-12 | 2018-12-11 | 佛山生物图腾科技有限公司 | 医学图像分割方法、装置及智能终端 |
CN109087318A (zh) * | 2018-07-26 | 2018-12-25 | 东北大学 | 一种基于优化U-net网络模型的MRI脑肿瘤图像分割方法 |
CN109410219A (zh) * | 2018-10-09 | 2019-03-01 | 山东大学 | 一种基于金字塔融合学习的图像分割方法、装置和计算机可读存储介质 |
-
2019
- 2019-03-21 CN CN201910217002.9A patent/CN109978850B/zh not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106780499A (zh) * | 2016-12-07 | 2017-05-31 | 电子科技大学 | 一种基于堆叠自动编码网络的多模态脑肿瘤图像分割方法 |
KR101850043B1 (ko) * | 2016-12-23 | 2018-04-18 | 부산대학교 산학협력단 | 멀티모덜 센싱 데이터 기반의 검안영상 분석 장치 |
CN107507195A (zh) * | 2017-08-14 | 2017-12-22 | 四川大学 | 基于超图模型的pet‑ct多模态鼻咽癌图像分割方法 |
CN108986115A (zh) * | 2018-07-12 | 2018-12-11 | 佛山生物图腾科技有限公司 | 医学图像分割方法、装置及智能终端 |
CN109087318A (zh) * | 2018-07-26 | 2018-12-25 | 东北大学 | 一种基于优化U-net网络模型的MRI脑肿瘤图像分割方法 |
CN109410219A (zh) * | 2018-10-09 | 2019-03-01 | 山东大学 | 一种基于金字塔融合学习的图像分割方法、装置和计算机可读存储介质 |
Non-Patent Citations (2)
Title |
---|
XIAOMENG,LI ET.AL: "《H-DenseUNet:hybrid densely connectde UNet for liver and tumor segmentgatioin from CT volumes》", 《IEEE TRANSACTIONS IN MEDICAL IMAGING》 * |
田娟秀等: "《医学图像分析深度学习方法研究与挑战》", 《自动化学报》 * |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021026962A1 (en) * | 2019-08-13 | 2021-02-18 | Hong Kong Applied Science and Technology Research Institute Company Limited | Medical image segmentation based on mixed context cnn model |
US10937158B1 (en) | 2019-08-13 | 2021-03-02 | Hong Kong Applied Science and Technology Research Institute Company Limited | Medical image segmentation based on mixed context CNN model |
CN110751651A (zh) * | 2019-09-27 | 2020-02-04 | 西安电子科技大学 | 基于多尺度迁移学习的mri胰腺图像分割方法 |
CN110751651B (zh) * | 2019-09-27 | 2022-03-04 | 西安电子科技大学 | 基于多尺度迁移学习的mri胰腺图像分割方法 |
CN110930337A (zh) * | 2019-11-29 | 2020-03-27 | 北京理工大学 | 一种基于深度学习的医学影像增强方法 |
CN110930337B (zh) * | 2019-11-29 | 2022-05-31 | 北京理工大学 | 一种基于深度学习的医学影像增强方法 |
CN111260652B (zh) * | 2020-01-09 | 2023-09-08 | 浙江传媒学院 | 一种基于mimo-gan的图像生成系统和方法 |
CN111260652A (zh) * | 2020-01-09 | 2020-06-09 | 浙江传媒学院 | 一种基于mimo-gan的图像生成系统和方法 |
CN111523597A (zh) * | 2020-04-23 | 2020-08-11 | 北京百度网讯科技有限公司 | 目标识别模型训练方法、装置、设备以及存储介质 |
CN111523597B (zh) * | 2020-04-23 | 2023-08-25 | 北京百度网讯科技有限公司 | 目标识别模型训练方法、装置、设备以及存储介质 |
CN111881979A (zh) * | 2020-07-28 | 2020-11-03 | 复旦大学 | 多模态数据标注装置及包含程序的计算机可读存储介质 |
CN112150478B (zh) * | 2020-08-31 | 2021-06-22 | 温州医科大学 | 一种构建半监督图像分割框架的方法及系统 |
CN112150478A (zh) * | 2020-08-31 | 2020-12-29 | 温州医科大学 | 一种构建半监督图像分割框架的方法及系统 |
CN112633071A (zh) * | 2020-11-30 | 2021-04-09 | 之江实验室 | 基于数据风格解耦内容迁移的行人重识别数据域适应方法 |
CN113139974A (zh) * | 2021-04-13 | 2021-07-20 | 广东工业大学 | 基于半监督学习的病灶分割模型训练、应用方法 |
CN113139974B (zh) * | 2021-04-13 | 2023-08-22 | 广东工业大学 | 基于半监督学习的病灶分割模型训练、应用方法 |
WO2022221991A1 (zh) * | 2021-04-19 | 2022-10-27 | 深圳市深光粟科技有限公司 | 一种影像数据处理方法、装置、计算机及存储介质 |
CN113177981B (zh) * | 2021-04-29 | 2022-10-14 | 中国科学院自动化研究所 | 双通路颅咽管瘤侵袭性分类及其病灶区域分割系统 |
CN113177981A (zh) * | 2021-04-29 | 2021-07-27 | 中国科学院自动化研究所 | 双通路颅咽管瘤侵袭性分类及其病灶区域分割系统 |
CN113313718A (zh) * | 2021-05-28 | 2021-08-27 | 华南理工大学 | 一种基于深度学习的急性腰椎骨折mri图像分割系统 |
CN113487579B (zh) * | 2021-07-14 | 2022-04-01 | 广州柏视医疗科技有限公司 | 自动勾画模型的多模态迁移方法 |
CN113487579A (zh) * | 2021-07-14 | 2021-10-08 | 广州柏视医疗科技有限公司 | 自动勾画模型的多模态迁移方法 |
CN113793347A (zh) * | 2021-09-18 | 2021-12-14 | 福建师范大学 | 基于局部-全局自适应信息学习的脑肿瘤mr图像分割方法 |
CN113793347B (zh) * | 2021-09-18 | 2023-05-09 | 福建师范大学 | 基于局部-全局自适应信息学习的脑肿瘤mr图像分割方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109978850B (zh) | 2020-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109978850A (zh) | 一种多模态医学影像半监督深度学习分割系统 | |
Ye et al. | Multi-depth fusion network for whole-heart CT image segmentation | |
CN111311592B (zh) | 一种基于深度学习的三维医学图像自动分割方法 | |
CN111476805B (zh) | 一种基于多重约束的跨源无监督域适应分割模型 | |
Spina et al. | Hybrid approaches for interactive image segmentation using the live markers paradigm | |
Piantadosi et al. | DCE-MRI breast lesions segmentation with a 3TP U-Net deep convolutional neural network | |
CN112488976B (zh) | 一种基于darts网络的多模态医学图像融合方法 | |
CN110766694B (zh) | 一种三维医学图像的交互式分割方法 | |
Chen et al. | Semi-supervised unpaired medical image segmentation through task-affinity consistency | |
Rejusha et al. | Artificial MRI image generation using deep convolutional gan and its comparison with other augmentation methods | |
Dufumier et al. | Openbhb: a large-scale multi-site brain mri data-set for age prediction and debiasing | |
Ramasamy et al. | Segmentation of brain tumor using deep learning methods: A review | |
Merkow et al. | Structural edge detection for cardiovascular modeling | |
Shen et al. | Medical image segmentation based on Transformer and HarDNet structures | |
Mamdouh et al. | A New Model for Image Segmentation Based on Deep Learning. | |
Qayyum et al. | Automatic segmentation using a hybrid dense network integrated with an 3D-atrous spatial pyramid pooling module for computed tomography (CT) imaging | |
Zhao et al. | Of-msrn: optical flow-auxiliary multi-task regression network for direct quantitative measurement, segmentation and motion estimation | |
CN112489048B (zh) | 一种基于深度网络的视神经自动分割方法 | |
Tang et al. | Automatic renal segmentation applied in pediatric MR Urography. | |
Chen et al. | TSEUnet: A 3D neural network with fused Transformer and SE-Attention for brain tumor segmentation | |
Li et al. | Remote sensing image segmentation by combining manifold projection and persistent homology | |
Fang et al. | Multi-organ segmentation network with adversarial performance validator | |
Wu et al. | Multi-scale segmentation using deep graph cuts: Robust lung tumor delineation in MVCBCT | |
Hou et al. | Brain tumor segmentation based on knowledge distillation and adversarial training | |
Wang et al. | Fiber modeling and clustering based on neuroanatomical features |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20201222 |
|
CF01 | Termination of patent right due to non-payment of annual fee |