CN108986115B - 医学图像分割方法、装置及智能终端 - Google Patents
医学图像分割方法、装置及智能终端 Download PDFInfo
- Publication number
- CN108986115B CN108986115B CN201810769168.7A CN201810769168A CN108986115B CN 108986115 B CN108986115 B CN 108986115B CN 201810769168 A CN201810769168 A CN 201810769168A CN 108986115 B CN108986115 B CN 108986115B
- Authority
- CN
- China
- Prior art keywords
- medical image
- segmentation
- fusion
- target
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Abstract
本发明提供了一种医学图像分割方法、装置及智能终端,涉及图像分割技术领域,该方法包括获取待分割的医学图像;将获取的医学图像输入至预先训练得到的分割模型;获取分割模型针对医学图像输出的分割结果。本发明通过对医学图像进行合理的分割处理,能够改善分割效果,得到较准确的分割图像。
Description
技术领域
本发明涉及图像分割技术领域,尤其是涉及一种医学图像分割方法、装置及智能终端。
背景技术
目前,在医学图像中对感兴趣区域或目标区域进行分割,是进行影像分析和目标识别的基础。例如,在临床诊治过程中,通常需要定位患者的病灶并识别病灶的性状,以便做出准确判断,因此图像中病灶的快速定位与精确分割则十分关键。在实际应用中,医学图像一般有多种模态,有效地利用多模态图像信息,并将全局与局部的多尺度信息进行深度融合,是对医学图像进行分割的关键,而现有对医学图像进行分割的技术,大多基于单一模态进行分割,分割效果不佳,分割结果不准确。
发明内容
有鉴于此,本发明的目的在于提供一种医学图像分割方法、装置及智能终端,通过对医学图像进行合理的分割处理,能够改善分割效果,得到较准确的分割图像。
为了实现上述目的,本发明实施例采用的技术方案如下:
第一方面,本发明实施例提供了一种医学图像分割方法,该方法包括:获取待分割的医学图像;将获取的医学图像输入至预先训练得到的分割模型;获取分割模型针对医学图像输出的分割结果;其中,分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行分割处理的。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,分割模型对医学图像进行分割处理的步骤,包括:获取医学图像的独立测试集;对独立测试集进行多尺度分解,得到医学图像在不同模态下依次分解的子块;将医学图像在不同模态分解的子块进行信息融合,得到融合块;将融合块依次进行卷积处理和反卷积处理,得到融合块的融合特征;将融合特征根据子块的分解顺序合并,得到合并后的融合特征;通过分类器对合并后的融合特征按照背景类型和目标区域类型进行分类,得到分割结果;其中,分割结果包括背景特征和目标区域特征。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,获取医学图像的独立测试集的步骤,包括:获取医学图像的目标区域;选取医学图像的目标模态以及目标模态下的目标层;将医学图像的目标区域、目标模态和目标层作为医学图像的训练集,将医学图像的除目标区域、目标模态和目标层之外的其余部分作为独立测试集。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第三种可能的实施方式,其中,对独立测试集进行多尺度分解的步骤,包括:选取独立测试集中的一种模态,将选取的模态划分为预设第一尺寸大小的子块;将独立测试集中的其它模态划分为预设第二尺寸大小的子块;其中,预设第一尺寸小于预设第二尺寸。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,将医学图像在不同模态分解的子块进行信息融合的步骤,包括:对医学图像在不同模态分解的子块依次进行卷积处理与池化处理,以实现信息融合。
结合第一方面,本发明实施例提供了第一方面的第五种可能的实施方式,其中,分割模型的训练过程包括:获取训练图像;对训练图像进行多尺度分解和信息融合,得到训练图像的融合信息;对训练图像的融合信息进行卷积处理和反卷积处理,生成训练图像的融合特征;根据融合特征对训练图像进行分割处理,直至分割模型的损失函数收敛至预设阈值时,停止训练。
第二方面,本发明实施例还提供一种医学图像分割装置,包括:获取模块,用于获取待分割的医学图像;输入模块,用于将获取的医学图像输入至预先训练得到的分割模型;分割处理模块,用于获取分割模型针对医学图像输出的分割结果;其中,分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行分割处理的。
第三方面,本发明实施例提供了一种智能终端,包括处理器和存储器;存储器上存储有计算机程序,计算机程序在被处理器运行时执行如第一方面至第一方面的第五种可能的实施方式任一项的方法。
第四方面,本发明实施例提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器运行时执行上述第一方面至第一方面的第五种可能的实施方式任一项的方法的步骤。
本发明实施例提供了一种医学图像分割方法、装置及智能终端,通过获取待分割的医学图像,并将获取的医学图像输入至预先训练得到的分割模型,进而获取分割模型针对医学图像输出的分割结果。由于本发明实施例提供的分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行合理的分割处理的,因此能够改善分割效果,得到较准确的分割图像。
本公开的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本公开的上述技术即可得知。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本发明实施例所提供的一种医学图像分割方法的流程图;
图2示出了本发明实施例所提供的一种分割模型的分割处理方法的流程图;
图3示出了本发明实施例所提供的一种分割处理方法的网络结构图;
图4示出了本发明实施例所提供的一种医学图像分割装置的结构框图;
图5示出了本发明实施例所提供的一种智能终端的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
考虑到现有技术中的医学图像分割方法对图像分割的准确性不高,局限于单一模态的图像分割,本发明实施例提供了一种医学图像分割方法、装置及智能终端,能够较准确的对多种模态的医学图像进行分割,以下对本发明实施例进行详细介绍。
参见图1所示的一种医学图像分割方法的流程图,该方法可以由诸如计算机、手机、iPad等智能终端执行,该方法包括以下步骤:
步骤S102,获取待分割的医学图像。
医学图像可以是多种模态的医学图像,包括但不限于多光谱成像、多分辨率光学成像、医学PET-CT成像、PET-MRI成像,以及磁共振T1加权像(MR T1W)、磁共振T1加权像(MRT2W)、质子密度图像(PD)和MR增强影像等,而图像中的分割对象包括器官、组织、细胞、肿瘤等各种目标区域,分割出目标区域有利于临床诊治和医疗研究。如对于病人身体某个部位的一张医学图像,若图像中存在肿瘤区域,临床医生或其他相关人员需要得到图像分割处理后较为准确的肿瘤区域才能更好地为病人进行诊断。
步骤S104,将获取的医学图像输入至预先训练得到的分割模型。
在实际应用中,分割模型可以是通过训练医学图像预先进行训练得到,待训练的分割模型通过训练,得到合理的分割图像,即当分割模型的损失函数收敛至预设阈值时,停止训练。通过预先训练得到的分割模型已经能够对医学图像进行较准确的分割处理。分割模型可以为编码-解码的全卷积神经网络,也可以为其它网络。
本实施例进一步给出了分割模型的训练过程,具体实施时,可以参见如下步骤:
(1)获取训练图像。
训练图像也是医学图像,医学图像可以是多种模态的医学图像,训练图像可以在多个医学图像中选择,对训练图像没有特殊要求。选取医学图像的目标模态以及目标模态下的目标层,将医学图像的目标区域、目标模态和目标层作为医学图像的训练集。
(2)对训练图像进行多尺度分解和信息融合,得到训练图像的融合信息。
多尺度分解是指将训练图像的训练集的不同模态按照预设的不同尺寸进行划分,得到在不同模态下划分的子块,不同模态划分的子块的尺寸大小不同。不同模态的子块依次进行卷积处理和池化处理,以完成信息融合。
(3)对训练图像的融合信息进行卷积处理和反卷积处理,生成训练图像的融合特征。
将训练图像的融合信息依次进行卷积处理和反卷积处理。
(4)根据融合特征对训练图像进行分割处理,直至分割模型的损失函数收敛至预设阈值时,停止训练。
当分割模型的损失函数收敛至预设阈值时,说明损失函数已经达到满足要求的较小的损失值,即得到合理的分割图像,此时停止对分割模型的训练,训练完成。
在分割模型训练与测试时均不需复杂的数据预处理过程,仅需提供不同模态的图像数据以及对应的目标区域,划分子块及子块的合并过程均在分割模型中实现,同时,将图像划分为子块进行模型训练,降低了对计算机内存的要求,分割模型的训练完成后,可得到较准确的分割结果。
步骤S106,获取分割模型针对医学图像输出的分割结果;其中,分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行分割处理的。
在具体实施时,分割模型将医学图像进行分割处理并输出医学图像的分割结果,分割模型有不同模态,每种模态有不同层,选取某种模态为最小子块模态,对该模态的图像按照预设的尺寸进行分解,得到多个子块,每个子块是相同大小的,这些子块为最小子块;对其它模态的图像也分解划分为多个子块,且子块尺寸的大小均大于最小子块的尺寸。对医学图像在不同模态分解的子块依次进行卷积处理与池化处理,以实现信息融合得到融合块,并将融合块依次进行卷积处理和反卷积处理,得到融合块的融合特征,然后通过分类器对合并后的融合特征按照背景类型和目标区域类型进行分类,得到包括背景特征和目标区域特征的分割结果,由分割模型对分割结果进行输出,完成对医学图像的分割。
本发明实施例提供了一种医学图像分割方法,通过获取待分割的医学图像,并将获取的医学图像输入至预先训练得到的分割模型,进而获取分割模型针对医学图像输出的分割结果。由于本发明实施例提供的分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行合理的分割处理的,因此能够改善分割效果,得到较准确的分割图像。
为便于理解,以下给出基于本实施例提供的医学图像分割方法中,根据医学图像进行分割处理的一种具体实施方式,参见图2所示的一种分割模型的分割处理方法的流程图,该方法包括以下步骤:
步骤S202,获取医学图像的目标区域。
医学图像中的目标区域包括器官、组织、细胞、肿瘤等各种区域,如对于病人身体某个部位的一张医学图像,若图像中存在肿瘤区域,临床医生或其他相关人员需要得到较为准确的肿瘤区域以便于临床诊治和医疗研究,则肿瘤区域即为医学图像的目标区域。
步骤S204,选取医学图像的目标模态以及目标模态下的目标层。
若获取的医学图像包含了M种模态,每一种模态图像共N层,每层以Ii,j表示,i∈[1,…,M],j∈[1,…,N],对每一幅图像Ii,j,标注区域Ri,j,如标注的区域是R1,2,则表示第1模态的第2层为目标模态的目标层。
步骤S206,将医学图像的目标区域、目标模态和目标层作为医学图像的训练集,将医学图像的除目标区域、目标模态和目标层之外的其余部分作为独立测试集。
选取Ii,j和Ri,j中一部分构成训练集,剩余部分构成独立测试集。训练集是用在训练分割模型的对图像进行分割处理的过程中,独立测试集则用在训练好的分割图像对医学图像进行分割处理的过程中。
步骤S208,选取独立测试集中的一种模态,将选取的模态划分为预设第一尺寸大小的子块。
在一种实施方式中,选定某种模态Im作为最小子块(patch)模态,其尺寸为wmin×wmin即预设第一尺寸,将该模态所有图像Im,按从左至右、从上到下的顺序,将其划分为大小均为wmin×wmin的子块,每一图像可被均分为P个该尺寸的子块。
步骤S210,将独立测试集中的其它模态划分为预设第二尺寸大小的子块,得到医学图像在不同模态下依次分解的子块;其中,预设第一尺寸小于预设第二尺寸。
除已选定的模态Im,对于其它模态Ik(k≠m),选定子块(patch)尺寸wk×wk即预设第二尺寸,其中wk>wmin,以模态Im的N个子块的每个子块中心像素位置为中心,以wk×wk的尺寸划分模态Ik的所有图像,则模态Ik的每张图像亦可生成P个子块。
步骤S212,对医学图像在不同模态分解的子块依次进行卷积处理与池化处理,以实现信息融合得到融合块。
在所有模态的子块中,最小子块的尺寸为wmin×wmin,对应模态为Im,对其它模态图像Ik(k≠i)的所有子块进行几何变换,将它们都降采样为wmin×wmin,使所有模态子块大小完全相同。
对于所有其它模态Ik的子块,在降采样为wmin×wmin大小后,分别经过卷积运算提取低阶特征,得到尺寸为wmin×wmin×C1(C1为通道数,下C2、C3、C4、C5同)的特征图,然后分别采用2×2、4×4、8×8以及16×16的最大池化核进行池化处理,步长分别为2×2,4×4,8×8以及16×16,分别得到尺寸为wmin/2×wmin/2×C1,wmin/4×wmin/4×C1,wmin/8×wmin/8×C1以及wmin/16×wmin/16×C1的特征图,再分别对它们进行卷积运算,得到尺寸为wmin/2×wmin/2×C1、wmin/4×wmin/4×C1、wmin/8×wmin/8×C2以及wmin/16×wmin/16×C2的特征图,将这4种特征图分别记为Fk1,Fk2,Fk3,Fk4。
对于模态Im的所有子块,原始尺寸为wmin×wmin,首先经过卷积运算提取低阶特征,得到尺寸为wmin×wmin×C1的特征图,记为Fm1;然后采用2×2的池化核、以2×2为步长进行最大池化处理,得到wmin/2×wmin/2×C1的特征图,记为Im1。
将Im1与Fk1在通道数的维度进行合并,再进行卷积运算,得到wmin/2×wmin/2×C2的特征图,记为Fm2;采用2×2的池化核、以2×2为步长进行最大池化处理,得到wmin/4×wmin/4×C2的特征图,记为Im2。
将Im2与Fk2在通道数的维度进行合并,继续进行卷积运算,得到wmin/4×wmin/4×C3的特征图,记为Fm3;采用2×2的池化核、以2×2的步长进行最大池化处理,得到wmin/8×wmin/8×C3的特征图,记为Im3。
将Im3与Fk3在通道数的维度进行合并,继续进行卷积运算,得到wmin/8×wmin/8×C4的特征图,记为Fm4;采用2×2的池化核、以2×2的步长进行最大池化处理,得到wmin/16×wmin/16×C4的特征图,记为Im4。
将Im4与Fk4在通道数的维度进行合并,再经过卷积运算,得到wmin/16×wmin/16×C5的特征图,记为Fm5。由此,得到5种分辨率的特征图Fm1,Fm2,Fm3,Fm4,Fm5。
对其它模态图像Ik,分别将这些模态作为最小子块模态,按照步骤S208、S210和S212的过程进行分割处理,则可得到其它每种模态图像对应的5种分辨率的特征图,记为Fkm1,Fkm2,Fkm3,Fkm4,Fkm5。因此,M种模态图像一共得到M组不同分辨率的特征图,记为Fi1,Fi2,Fi3,Fi4,Fi5,i∈[1,…,M]。
步骤S214,将融合块依次进行卷积处理和反卷积处理,得到融合块的融合特征。
将Fi1,Fi2,Fi3,Fi4,Fi5中相同分辨率的特征图以模态作为一维进行层叠,得到通道数分别为C1、C2、C3、C4、C5的特征图:M×wmin×wmin的F1、M×wmin/2×wmin/2的F2、M×wmin/4×wmin/4的F3、M×wmin/8×wmin/8的F4、M×wmin/16×wmin/16的F5。采用C个M×1×1的卷积核对这5种分辨率的特征图进行交叉模态卷积,令C=C1,C2,C3,C4,C5分别对应于F1、F2、F3、F4、F5的特征图通道数,卷积步长为1×1×1,则可得到wmin×wmin×C1的FM1,wmin/2×wmin/2×C2的FM2,wmin/4×wmin/4×C3的FM3,wmin/8×wmin/8×C4的FM4,wmin/16×wmin/16×C5的FM5。
对FM5层进行反卷积操作,得到wmin/8×wmin/8×C4的特征图,将其与FM4层求和,再经过卷积运算,得到wmin/8×wmin/8×C4的特征图FM5-4;
对FM5-4进行反卷积操作,得到wmin/4×wmin/4×C3的特征图,将其与FM3层求和,再经过卷积运算,得到wmin/4×wmin/4×C3的特征图FM4-3;
对FM4-3进行反卷积操作,得到wmin/2×wmin/2×C2的特征图,将其与FM2层求和,再经过卷积运算,得到wmin/2×wmin/2×C2的特征图FM3-2;
对FM3-2进行反卷积操作,得到wmin×wmin×C1的特征图,将其与FM1层进行元素和操作,再经过卷积运算,得到wmin×wmin×C1的特征图FM2-1。
步骤S216,将融合特征根据子块的分解顺序合并,得到合并后的融合特征。
对FM2-1采用1×1的卷积核进行卷积,得到wmin×wmin×2的子块融合特征FM。
采用的多模态多分辨率分解与融合策略,由于最小尺寸子块包含局部细节信息,除最小尺寸子块之外的子块包含全局特征,故其能有效地将局部细节与全局特征融合。
步骤S218,通过分类器对合并后的融合特征按照背景类型和目标区域类型进行分类,得到分割结果;其中,分割结果包括背景特征和目标区域特征。
将同一图像的所有子块融合特征FM按原始的子块划分顺序合并,将其作为分类器的输入,采用分类器对该层图像的所有像素进行分类,将其分为背景特征和目标区域特征,从而得到最终分割结果Om。如图3示意出了分割处理方法的网络结构图,M种模态的图像进行分割处理,最终得到图像的背景和感兴趣区域,其中,感兴趣区域即为目标区域。
在一种实施方式中,给出了大脑胶质瘤多模MR图像分割方法的分割处理过程,具体可参见如下步骤:
(1)获取大脑胶质瘤的多模MR图像,包括T1W、T2W、T1C以及FLAIR四种模态数据,每个被试不同模态间相同层代表同一位置的信息,并对每张图像的肿瘤区域进行标注。
总共获取了T1W、T2W、T1C、FLAIR四种模态的大脑胶质瘤MR影像数据,167个被试每种模态共1650张图像,选取其中一种模态数据让临床医生标注肿瘤区域后有相应的标注图。选取所有被试中十分之九的图像作为训练集,剩余十分之一作为测试集,即151个被试每种模态共1480张图像及对应标注图像作为训练集,16个被试每种模态共170张图像及对应标注图像作为测试集,图像大小为240×240。
(2)选定T1W模态作为最小子块(patch)模态,其尺寸为48×48,将该模态所有图像按从左至右、从上到下的顺序,将其划分为大小均为48×48的子块,每一图像可被均分为25个子块。
对于模态T2W、T1C和FLAIR,分别选定子块尺寸为64×64、80×80和96×96,以模态T1W的25个子块的每个子块的中心像素为中心,分别以64×64、80×80和96×96的尺寸划分T2W、T1C和FLAIR三种模态所有的图像,则这三种模态每张图像亦可生成25个子块。
(3)将T2W、T1C、FLAIR模态子块进行几何变换,采用最近邻插值法,将它们都降采样为48×48。
对于T2W、T1C、FLAIR模态的所有子块,在降采样为48×48大小后,分别经过卷积运算提取低阶特征,得到尺寸为48×48×16的特征图,然后分别采用2×2、4×4、8×8以及16×16的最大池化核进行池化处理,步长分别为2×2,4×4,8×8以及16×16,分别得到尺寸为24×24×16,12×12×16,6×6×16,3×3×16的特征图,再分别进行卷积运算,得到尺寸为24×24×16,12×12×16,6×6×32,3×3×32的特征图,将这4种特征图分别记为Fk1,Fk2,Fk3,Fk4。
对于模态T1W的所有子块,原始尺寸为48×48,首先经过卷积运算提取低阶特征,得到尺寸为48×48×16的特征图,记为Fm1;然后采用2×2的池化核、以2×2为步长进行最大池化处理,得到24×24×16的特征图,记为Im1;
将Im1与Ik1在通道数维度进行合并,再进行卷积运算,得到24×24×32的特征图,记为Fm2;采用2×2的池化核、以2×2为步长进行最大池化处理,得到12×12×32的特征图,记为Im2;
将Im2与Ik2在通道数维度进行合并,再进行卷积运算,得到12×12×64的特征图,记为Fm3;采用2×2的池化核、以2×2为步长进行最大池化处理,得到6×6×64的特征图,记为Im3;
将Im3与Ik3在通道数维度进行合并,再进行卷积运算,得到6×6×128的特征图,记为Fm4;采用2×2的池化核、以2×2为步长进行最大池化处理,得到3×3×128的特征图,记为Im4;
将Im4与Ik4在通道数维度进行合并,再进行卷积运算,得到3×3×256的特征图,记为Fm5;
由此,得到以T1W模态作为最小子块模态的5种分辨率的特征图Fm1,Fm2,Fm3,Fm4,Fm5。
对于模态T2W、T1C以及FLAIR,分别将这三种模态作为最小子块模态,进行步骤(3)的操作,则可得到分别以T2W、T1C、FLAIR模态作为最小子块模态的5种分辨率的特征图。因此,4种模态图像一共得到4组不同分辨率的特征图,记为Fi1,Fi2,Fi3,Fi4,Fi5,i∈[1,2,3,4]。
(4)将Fi1,Fi2,Fi3,Fi4,Fi5中相同分辨率的特征图以模态作为一维进行合并,得到通道数分别为16、32、64、128、256的4×48×48的F1、4×24×24的F2、4×12×12的F3、4×6×6的F4、4×3×3的F5。采用C个4×1×1的卷积核对这5种分辨率的特征图进行交叉模态卷积,其中C=16,32,64,128,256分别对应于F1、F2、F3、F4、F5的特征图通道数,卷积时步长为1×1×1,则可得到48×48×16的FM1,24×24×32的FM2,12×12×64的FM3,6×6×128的FM4,3×3×256的FM5。
(5)对FM5层进行反卷积操作,得到6×6×128的特征图,将其与FM4层求和,再经过卷积运算,得到6×6×128的特征图FM5-4;
对FM5-4进行反卷积操作,得到12×12×64的特征图,将其与FM3层求和,再经过卷积运算,得到12×12×64的特征图FM4-3;
对FM4-3进行反卷积操作,得到24×24×32的特征图,将其与FM2层求和,再经过卷积运算,得到24×24×32的特征图FM3-2;
对FM3-2进行反卷积操作,得到48×48×16的特征图,将其与FM1层求和,再经过卷积运算,得到48×48×16的特征图FM2-1。
(6)对FM2-1采用1×1的卷积核进行卷积,得到48×48×2的子块融合特征FM。
(7)将同一图像的所有子块融合特征FM按原始的子块划分顺序合并,再采用分类器对该层图像的所有像素进行分类,分为背景和大脑胶质瘤区域,从而得到分辨率为240×240×2的最终分割结果Om。
综上所述,采用本实施例提供的上述分割处理方法,由分割模型根据医学图像的多种模态以及每种模态的不同层,通过对不同模态下分解的子块进行信息融合,并依次进行卷积处理和反卷积处理得到融合块的融合特征,进而将融合特征合并,由分类器完成融合特征的分类并得到合理的分割结果,改善了图像的分割效果,得到较准确的分割图像。
对应于前述搜索方法,本发明实施例提供了一种医学图像分割装置,参见图4示出的一种医学图像分割装置的结构框图,该装置包括以下模块:
获取模块402,用于获取待分割的医学图像;
输入模块404,用于将获取的医学图像输入至预先训练得到的分割模型;
分割处理模块406,用于获取分割模型针对医学图像输出的分割结果;其中,分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行分割处理的。
本发明实施例提供的上述医学图像分割装置,通过获取待分割的医学图像,并将获取的医学图像输入至预先训练得到的分割模型,进而获取分割模型针对医学图像输出的分割结果。由于本发明实施例提供的分割模型是根据医学图像的多种模态以及每种模态的不同层,对医学图像进行合理的分割处理的,因此能够改善分割效果,得到较准确的分割图像。
上述分割处理模块406进一步用于:获取医学图像的独立测试集;对独立测试集进行多尺度分解,得到医学图像在不同模态下依次分解的子块;将医学图像在不同模态分解的子块进行信息融合,得到融合块;将融合块依次进行卷积处理和反卷积处理,得到融合块的融合特征;将融合特征根据子块的分解顺序合并,得到合并后的融合特征;通过分类器对合并后的融合特征按照背景类型和目标区域类型进行分类,得到分割结果;其中,分割结果包括背景特征和目标区域特征。
本实施例所提供的装置,其实现原理及产生的技术效果和前述实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
本发明实施例提供了一种智能终端,参见图5所示的一种智能终端的结构示意图,该智能终端包括:处理器50、存储器51、总线52和通信接口53,所述处理器50、通信接口53和存储器51通过总线52连接;处理器50用于执行存储器51中存储的可执行模块,例如计算机程序。
其中,存储器51可能包含高速随机存取存储器(RAM,Random Access Memory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口53(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。
总线52可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图5中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
其中,存储器51用于存储程序,所述处理器50在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器50中,或者由处理器50实现。
处理器50可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器50中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器50可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital SignalProcessing,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器51,处理器50读取存储器51中的信息,结合其硬件完成上述方法的步骤。
本发明实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器运行时执行前述实施例任一项的方法的步骤。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统具体工作过程,可以参考前述实施例中的对应过程,在此不再赘述。
本发明实施例所提供的医学图像分割方法、装置及智能终端的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (7)
1.一种医学图像分割方法,其特征在于,包括:
获取待分割的医学图像;
将获取的所述医学图像输入至预先训练得到的分割模型;
获取所述分割模型针对所述医学图像输出的分割结果;其中,所述分割模型是根据所述医学图像的多种模态以及每种所述模态的不同层,对所述医学图像进行分割处理的;
所述分割模型对所述医学图像进行分割处理的步骤,包括:
获取所述医学图像的独立测试集;
对所述独立测试集进行多尺度分解,得到所述医学图像在不同模态下依次分解的子块;
将所述医学图像在不同模态分解的子块进行信息融合,得到融合块;
将所述融合块依次进行卷积处理和反卷积处理,得到所述融合块的融合特征;
将所述融合特征根据子块的分解顺序合并,得到合并后的融合特征;
通过分类器对所述合并后的融合特征按照背景类型和目标区域类型进行分类,得到分割结果;其中,所述分割结果包括背景特征和目标区域特征;
所述获取所述医学图像的独立测试集的步骤,包括:
获取所述医学图像的目标区域;
选取所述医学图像的目标模态以及所述目标模态下的目标层;
将所述医学图像的目标区域、目标模态和目标层作为所述医学图像的训练集,将所述医学图像的除所述目标区域、目标模态和目标层之外的其余部分作为独立测试集。
2.根据权利要求1所述的方法,其特征在于,所述对所述独立测试集进行多尺度分解的步骤,包括:
选取所述独立测试集中的一种模态,将所述选取的模态划分为预设第一尺寸大小的子块;
将所述独立测试集中的其它模态划分为预设第二尺寸大小的子块;其中,所述预设第一尺寸小于所述预设第二尺寸。
3.根据权利要求1所述的方法,其特征在于,所述将所述医学图像在不同模态分解的子块进行信息融合的步骤,包括:
对所述医学图像在不同模态分解的子块依次进行卷积处理与池化处理,以实现信息融合。
4.根据权利要求1所述的方法,其特征在于,所述分割模型的训练过程包括:
获取训练图像;
对所述训练图像进行多尺度分解和信息融合,得到所述训练图像的融合信息;
对所述训练图像的融合信息进行卷积处理和反卷积处理,生成所述训练图像的融合特征;
根据所述融合特征对所述训练图像进行分割处理,直至所述分割模型的损失函数收敛至预设阈值时,停止训练。
5.一种医学图像分割装置,其特征在于,包括:
获取模块,用于获取待分割的医学图像;
输入模块,用于将获取的所述医学图像输入至预先训练得到的分割模型;
分割处理模块,用于获取所述分割模型针对所述医学图像输出的分割结果;其中,所述分割模型是根据所述医学图像的多种模态以及每种所述模态的不同层,对所述医学图像进行分割处理的;
所述分割处理模块用于:
获取所述医学图像的独立测试集;
对所述独立测试集进行多尺度分解,得到所述医学图像在不同模态下依次分解的子块;
将所述医学图像在不同模态分解的子块进行信息融合,得到融合块;
将所述融合块依次进行卷积处理和反卷积处理,得到所述融合块的融合特征;
将所述融合特征根据子块的分解顺序合并,得到合并后的融合特征;
通过分类器对所述合并后的融合特征按照背景类型和目标区域类型进行分类,得到分割结果;其中,所述分割结果包括背景特征和目标区域特征;
所述分割处理模块还用于:
获取所述医学图像的目标区域;
选取所述医学图像的目标模态以及所述目标模态下的目标层;
将所述医学图像的目标区域、目标模态和目标层作为所述医学图像的训练集,将所述医学图像的除所述目标区域、目标模态和目标层之外的其余部分作为独立测试集。
6.一种智能终端,其特征在于,包括处理器和存储器;
所述存储器上存储有计算机程序,所述计算机程序在被所述处理器运行时执行如权利要求1至4任一项所述的方法。
7.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行上述权利要求1至4任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810769168.7A CN108986115B (zh) | 2018-07-12 | 2018-07-12 | 医学图像分割方法、装置及智能终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810769168.7A CN108986115B (zh) | 2018-07-12 | 2018-07-12 | 医学图像分割方法、装置及智能终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108986115A CN108986115A (zh) | 2018-12-11 |
CN108986115B true CN108986115B (zh) | 2020-12-18 |
Family
ID=64537227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810769168.7A Active CN108986115B (zh) | 2018-07-12 | 2018-07-12 | 医学图像分割方法、装置及智能终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108986115B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109816657A (zh) * | 2019-03-03 | 2019-05-28 | 哈尔滨理工大学 | 一种基于深度学习的脑瘤医学图像分割方法 |
CN109978850B (zh) * | 2019-03-21 | 2020-12-22 | 华南理工大学 | 一种多模态医学影像半监督深度学习分割系统 |
CN109978886B (zh) * | 2019-04-01 | 2021-11-09 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN110197491B (zh) * | 2019-05-17 | 2021-08-17 | 上海联影智能医疗科技有限公司 | 图像分割方法、装置、设备和存储介质 |
CN110211079B (zh) * | 2019-05-22 | 2021-07-13 | 首都医科大学 | 医学图像的融合方法及装置 |
CN110223300A (zh) * | 2019-06-13 | 2019-09-10 | 北京理工大学 | Ct图像腹部多器官分割方法及装置 |
CN110335259B (zh) * | 2019-06-25 | 2021-08-31 | 腾讯科技(深圳)有限公司 | 一种医学影像识别方法、装置和存储介质 |
CN111145147B (zh) * | 2019-12-14 | 2023-08-22 | 中国科学院深圳先进技术研究院 | 多模态医学图像的分割方法及终端设备 |
CN112529863B (zh) * | 2020-12-04 | 2024-01-23 | 推想医疗科技股份有限公司 | 测量骨密度的方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102596025A (zh) * | 2010-06-25 | 2012-07-18 | 中国科学院自动化研究所 | 基于鲁棒统计信息传播的多模态三维磁共振图像脑肿瘤分割方法 |
US9251585B2 (en) * | 2007-07-12 | 2016-02-02 | Siemens Aktiengesellschaft | Coregistration and analysis of multi-modal images obtained in different geometries |
CN106296699A (zh) * | 2016-08-16 | 2017-01-04 | 电子科技大学 | 基于深度神经网络和多模态mri图像的脑肿瘤分割方法 |
CN107220980A (zh) * | 2017-05-25 | 2017-09-29 | 重庆理工大学 | 一种基于全卷积网络的mri图像脑肿瘤自动分割方法 |
CN108109152A (zh) * | 2018-01-03 | 2018-06-01 | 深圳北航新兴产业技术研究院 | 医学图像分类和分割方法和装置 |
-
2018
- 2018-07-12 CN CN201810769168.7A patent/CN108986115B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9251585B2 (en) * | 2007-07-12 | 2016-02-02 | Siemens Aktiengesellschaft | Coregistration and analysis of multi-modal images obtained in different geometries |
CN102596025A (zh) * | 2010-06-25 | 2012-07-18 | 中国科学院自动化研究所 | 基于鲁棒统计信息传播的多模态三维磁共振图像脑肿瘤分割方法 |
CN106296699A (zh) * | 2016-08-16 | 2017-01-04 | 电子科技大学 | 基于深度神经网络和多模态mri图像的脑肿瘤分割方法 |
CN107220980A (zh) * | 2017-05-25 | 2017-09-29 | 重庆理工大学 | 一种基于全卷积网络的mri图像脑肿瘤自动分割方法 |
CN108109152A (zh) * | 2018-01-03 | 2018-06-01 | 深圳北航新兴产业技术研究院 | 医学图像分类和分割方法和装置 |
Non-Patent Citations (4)
Title |
---|
UNIVERSAL MULTI-MODAL DEEP NETWORK FOR CLASSIFICATION AND SEGMENTATION OF MEDICAL IMAGESI;Ahmed Haroun 等;《2018 IEEE 15th International Symposium on Biomedical Imaging (ISBI 2018)》;20180524;第872-876页 * |
基于卷积神经网络的脑血管自动分割算法研究;陈圆;《中国优秀硕士学位论文全文数据库医药 卫生科技辑》;20180315;E070-97 * |
多模态3D卷积神经网络脑部胶质瘤分割方法;谷宇 等;《科学技术与工程》;20180308;第18卷(第7期);第18-24页 * |
结合卷积神经网络和模糊系统的脑肿瘤分割;师冬丽 等;《计算机科学与探索》;20170622;第608-617页 * |
Also Published As
Publication number | Publication date |
---|---|
CN108986115A (zh) | 2018-12-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108986115B (zh) | 医学图像分割方法、装置及智能终端 | |
Sun et al. | Saunet: Shape attentive u-net for interpretable medical image segmentation | |
Sevastopolsky | Optic disc and cup segmentation methods for glaucoma detection with modification of U-Net convolutional neural network | |
Dvořák et al. | Local structure prediction with convolutional neural networks for multimodal brain tumor segmentation | |
Hao et al. | Local label learning (LLL) for subcortical structure segmentation: application to hippocampus segmentation | |
CN109741343B (zh) | 一种基于3D-Unet和图论分割的T1WI-fMRI图像肿瘤协同分割方法 | |
JP2019531783A5 (zh) | ||
US10853409B2 (en) | Systems and methods for image search | |
Zhang et al. | Automated semantic segmentation of red blood cells for sickle cell disease | |
CN108961274B (zh) | 一种mri图像中自动头颈肿瘤分割方法 | |
An et al. | Medical image segmentation algorithm based on multilayer boundary perception-self attention deep learning model | |
EP3570216B1 (en) | Devices and methods for identifying an object in an image | |
KR102332032B1 (ko) | 복부장기 자동분할을 이용한 복부장기 볼륨 변화 분석에 기반한 복부장기 상태 판단 방법 | |
Abdullah et al. | Multi-sectional views textural based SVM for MS lesion segmentation in multi-channels MRIs | |
KR102349515B1 (ko) | 의료 영상에서 딥러닝에 기반한 종양 자동분할 방법 | |
Zhou | Modality-level cross-connection and attentional feature fusion based deep neural network for multi-modal brain tumor segmentation | |
CN117095815A (zh) | 基于磁共振图像和病理全景扫描切片预测带有同源重组缺陷的前列腺癌患者的系统 | |
Lu et al. | Lumbar spine segmentation method based on deep learning | |
US20230005158A1 (en) | Medical image segmentation and atlas image selection | |
CN116563189B (zh) | 一种基于深度学习的医学图像跨对比度合成方法及系统 | |
CN113724185A (zh) | 用于图像分类的模型处理方法、装置及存储介质 | |
CN108765399B (zh) | 病变部位识别装置、计算机装置及可读存储介质 | |
CN115984257A (zh) | 一种基于多尺度transformer的多模态医学图像融合方法 | |
CN113160199B (zh) | 影像识别方法、装置、计算机设备和存储介质 | |
Mansour et al. | Kidney segmentations using cnn models |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |