CN111709952A - 一种基于边缘特征优化的双流解码卷积神经网络的mri脑肿瘤自动分割方法 - Google Patents
一种基于边缘特征优化的双流解码卷积神经网络的mri脑肿瘤自动分割方法 Download PDFInfo
- Publication number
- CN111709952A CN111709952A CN202010436343.8A CN202010436343A CN111709952A CN 111709952 A CN111709952 A CN 111709952A CN 202010436343 A CN202010436343 A CN 202010436343A CN 111709952 A CN111709952 A CN 111709952A
- Authority
- CN
- China
- Prior art keywords
- edge
- network
- semantic
- segmentation
- brain tumor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/187—Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30016—Brain
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
本发明公开了一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法。本发明主要使用两种基于边缘的优化策略提高脑肿瘤分割的性能。首先,在网络结构上,本发明设计了一个单独的解码网络分支来处理边缘流信息,并通过特征融合将边缘流信息融合到语义流信息中。其次,通过使用正则化损失函数来惩罚预测分割掩码与标签在边缘附近不匹配的像素来鼓励预测分割掩码与边缘周围的标签值对准。在训练中,本发明引入了一种新的边缘提取算法来提供更高质量的边缘标签。此外,本发明在交叉熵损失函数中加入了自适应平衡类权重系数,以解决在边缘提取的反向传播中严重的类不平衡问题。实验表明,本发明有效地提高了肿瘤的分割精度。
Description
技术领域
本发明属于机器视觉领域,特别涉及一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法。
背景技术
随着医学影像学设备的快速发展和普及,成像技术包括磁共振成像(MR)、计算机断层扫描(CT)、超声、正电子发射断层扫描(PET)等,全世界每天都产生大量的医学影像学信息,有报道显示全世界医学影像信息量占全世界信息总量的1/5以上。医学图像分割是分析医学图像处理中的重要步骤,有助于使图像更加直观、清晰,提高诊断效率,因此国内外都十分重视医学影像分割技术。脑肿瘤图像分割是医学图像处理的重要部分,也是难点。脑肿瘤图像分割就是把脑肿瘤患者的脑部医学成像分成若干个特定的、具有独特性质的区域如正常脑组织、水肿区域,坏死区域,强化肿瘤区域和无强化肿瘤区域。传统的图像分割方法主要分以下几类:基于阈值的分割方法、基于区域的分割方法、基于边缘的分割方法以及基于特定理论的分割方法等。近年来,由于深度学习方法的迅速发展,基于深度学习的图像分割算法在医学图像分割领域取得了显著的成就,其精度已经远超过传统的分割算法。
目前,脑肿瘤图像分割算法基本都基于深度学习,并且发展趋势十分良好,其中针对基于U-net网络结构算法的研究尤为广泛。U-net网络通过一个编码网络和一个解码网络组成的独特的U形网络结构将脑肿瘤图像中的冗余的低级特征去除,留下高层的语义特征,最后通过softmax激活函数输出最终的分割图像,其特殊的网络结构能够使其在较少训练数据集下依旧能够表现出较好的分割性能。原始的U-net网络的编码解码结构虽然较为巧妙,但仍有以下几个问题有待改善:(1)原始的U-net网络结构设计简单,特征处理层仅使用两个堆叠卷积层,这样的网络层无论是在特征提取的编码网络中还是在特征处理的解码网络结构中网络都没有充分发挥出深度学习的优势;(2)网络在训练时并没有着重关注边缘部分的特征及分割效果,而这一部分恰好是影响肿瘤分割精度关键部分。
因此,基于以上考虑,本发明提出了一个基于U-net的双流解码卷积神经网络的脑肿瘤自动分割算法。首先,用两个堆叠残差块替代两个堆叠的卷积层。其次,在解码网络中,本发明新设计了一个分支单独提取边缘特征,并通过特征融合机制,将边缘流特征融合到语义流特征中。在训练时,使用额外的正则化损失函数惩罚分割掩码与标签在边缘上不匹配的像素点。此外,通过使用自适应平衡类权重损失函数来解决样本不平衡的问题。最后,为了获取高质量的边缘标签,本算法引入了一种新的边缘提取算法。
发明内容
本发明的主要目的是提出一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法,在对脑肿瘤分割时,通过提取深度特征,学习更加深层次的语义信息,并通过对边缘部分特征有效信息的增强学习,以进行高效的肿瘤分割。
为了实现上述目的,本发明提供如下技术方案:
一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法,步骤如下:
步骤一、获取脑肿瘤MRI信息:读取脑肿瘤MRI,共有4中模态T1,T1c,T2,Flair,对应图像集分别为XT1∈RN×H×W、XT1c∈RN×H×W、XT2∈RN×H×W、XFlair∈RN×H×W,其中N为图像的个数,H为图像的高度,W为图像的宽度;
步骤二、对图像进行预处理:将读取的XT1、XT1c、XT2、XFlair四种模态的MRI集进行均值为0、方差为1的预处理,并将这单独的四个模态的图像集合并为一个整体的图像集X∈RN ×4×H×W;
步骤三、裁剪图像:求出图像集X的中心坐标,以中心坐标为参照,将图像集X边缘裁剪为Xin∈RN×4×192×192的输入图像;
步骤四、批量输入图像到预先设计好分割网络中:根据服务器显存大小确定批量大小B,将Xin按照批量为B的大小分割为若干个批输入量Xin_batch∈RB×4×192×192;
步骤八、判断批量输入是否结束:若当前批是最后一个批次,则分割结束,否则,转向步骤六
步骤九、合并分割输出:将若干个批分割输出合并为Seg∈RN×192×192。具体地,将网络中多个批次的输出按照批次从小到大在第一维度上进行合并得到Seg∈RN×192×192。确保Seg与Xin能够在第一个维度上一一对应。
与现有的技术相比,本发明具有以下有益效果:
1.步骤四中的网络,在训练阶段引入了正则化损失函数和自适应平衡类权重损失函数。正则化损失函数用来额外的惩罚分割掩码与标签在边缘部分不匹配的像素点,以此来鼓励预测分割掩码与边缘周围的地面真实值对准。自适应平衡类权重损失函数用来解决在边缘流解码网络中边缘类与背景类严重不平衡的问题。同过调节边缘部分损失与背景部分损失的比重,使得模型更加侧重于对边缘特征的学习,从而不会被大量的背景样本像素点影响到训练效果。
2.步骤四中的网络,在训练阶段,为提供更加高质量的边缘标签,本发明使用了一种新颖的只针对分割标签有效的边缘提取算法。该算法确保了在肿瘤的水肿、坏死、增强和非增强部分提取出的边缘上的像素点全部来自于水肿、坏死、增强和非增强部分的内部。避免了通过传统的梯度边缘提取算法提取出的具有二值性的边缘(既边缘中像素来自于多个类别)对网络训练的影响
3.步骤五中的特征提取环节,本发明将原始U-net中的堆叠的卷积层替换为堆叠的残差块。与原始的U-net相比,堆叠的残差块可以更加充分地发挥深度网络在提取深度特征上的优势,使得网络学习到更有效的特征。
4.步骤六中的特征解码环节,本发明将原U-net的解码部分替换成新设计的双流解码卷积网络。两个解码分支分别处理语义流信息和边缘流信息。在解码过程中,边缘流信息将通过边缘特征处理模块和特征融合层融合到语义流信息中。与原始的U-net,改进的网络通过对边缘特征的学习和融合使得语义流中相关的边缘特征得到增强从而达到通过边缘特征优化分割效果的目的。
5.与原始U-net网络相比,本发明的网络模型在脑肿瘤分割任务上精度更高,在边缘部分的预测更精确。
附图说明
图1为本发明的算法流程图;
图2为本发明的整体模型图;
图3为BraTS2018的MRI扫描切片图;其中,A为T2-FLAIR模态的MRI扫描切片图,B为T1c模态的MRI扫描切片图,C为T1模态的MRI扫描切片图,D为包含整个脑组织结构的T1模态的MRI扫描图。
图4为部分脑肿瘤分割结果可视化图。其中,(a-1)至(f-1)为不同情况下模式Flair的MR原图,(a-2)至(f-2)为不同情况下模式T1的MR原图,(a-3)至(f-3)为不同情况下模式T1c的MR原图,(a-4)至(f-4)为不同情况下模式T2的MR原图,(a-5)至(f-5)为分割标签图,(a-6)至(f-6)为分割结果图。
具体实施方式
图2表示为本发明中所使用的深度卷积神经网络的算法模型图。算法的输入为包含四种模态的MR图像,包括T1,T1c,T2,Flair四种加权图像。模型包括特征提取的编码网络,边缘流解码网络,语义流解码网络,边缘特征处理模块和特征融合层等部分。其中,边缘特征处理模块和特征融合层组成边缘特征融合模块,边缘流解码网络、语义流解码网络以及边缘特征融合模块组成双流解码网络。具体地,编码网络表现为图2中左边连续的下采样网络部分,边缘流解码网络表现为图2中中间部分连续的上采样网络,语义流解码网络表现为图2中右边部分连续的上采样网络,边缘特征融合模块在图2中表现为颜色最浅的有向箭头,并在图的右下角标出。在设计上,边缘流的解码网络结构与语义流的解码网络结构基本相同。两个网络通过不同的训练标签进行优化。本发明用肿瘤的分割标签训练语义流部分,用肿瘤的边缘标签训练边缘流部分。边缘特征处理模块的输出是一个类似于单通道的注意力掩码,描述了边缘流中传递的边缘信息的最一般特征。最后,特征融合层以残差的形式将边缘特征处理模块的输出融合到语义流中。通过这样的特征融合方法,增强语义流中相关的边缘特征。
具体地,网络中的边缘特征融合模块主要包括两个模块:边缘特征处理模块和特征融合层。边缘流解码网络中的特征会首先被输入到边缘特征处理模块,再将边缘特征处理模块输出的特征e通过特征融合层融合到语义流解码网络中对应的特征s上。边缘特征处理模块表示为其中AvgPool和MaxPool分别代表在通道维度上的平均值池化和最大值池化,f1×1代表卷积核尺寸为1的卷积操作,σ是激活函数tanh。特征融合层表示为其中,s为语义流网络中对应层的语义特征,e是边缘特征处理模块的输出。
上述技术方案中所使用的网络需要通过所述的训练数据集训练后方可使用。上述技术方案中步骤四中所使用的网络,在训练阶段优化器、超参数、总的训练轮数、批量大小和主损失函数设置为:
本发明在训练阶段使用Adam优化器优化网络参数,动量参数设置为0.9,初始化学习率设置为1e-2,总的训练轮数设置为200,批量大小32。本发明采用多元学习率调整策略,在每一轮训练之后将初始学习率乘以(1-epoch/epochs)0.9,其中,epoch为当前已经训练的轮数,epochs为总的训练轮数。语义流中所使用的损失函数也就是网络的主损失函数设置为交叉熵损失函数:其中,n为像素点的个数,X为所有像素点所组成的集合,C为像素中的类别数,ω为本发明定义的自适应平衡类权重系数,ygt为分割语义标签,yp为网络语义流的分割预测掩码。
上述技术方案中步骤四中所使用的网络,在训练阶段所采用的数据增强为:
本发明通过随机的数据增强来提高网络的泛化能力主要包括对训练集的随机旋转,翻转以及缩放。其中旋转角度在0°到180°之间,翻转包括水平翻转和垂直翻转,缩放的倍数为0.75到1.25之间。
上述技术方案中步骤四中所使用的网络,在训练阶段所采用的正则化损失函数为:
本发明使用正则化损失函数来确保分割预测掩码yp与分割语义标签ygt在边缘上的一致性。其中,k为超参数用来避免数值过大,本发明中设置为3,为边缘标签,由ygt经过边缘提取算法提取所得,为分割边缘,由分割预测掩码yp经过边缘算法提取所得。
上述技术方案中步骤四中所使用的网络,在训练阶段所采用的自适应平衡类权重损失函数为:
自适应平衡类权重损失函数在本发明的训练阶段用来监督模型中边缘流的特征学习,主要是通过在交叉熵损失函数中添加自适应平衡类权重系数。在边缘特征学习中,由于严重的类不平衡问题,使用普通的交叉熵损失函数会导致模型对边缘特征学习的能力不够。因此,在训练中,需要模型更加关注边缘部分的学习,适当抑制背景部分的学习。为了解决这一问题,本发明设计了一种自适应均衡类权重系数用于调整在边缘预测时损失函数的不平衡。其中,i代表某一类别如水肿或者坏死,代表边缘标签中像素点的个数,ni代表i类在中所占像素点的个数,N代表所有像素点可分的类别数。可以看出,ωi会将每个类别的损失值的比例调整为1:1,这意味着每个类别的总损失是相等的,并且每个像素的损失与该类别的像素数成反比。由于背景像素较多,那么在反向传播是每个背景像素所传递的损失就很小。相反,在边缘上的像素点很少,因此每个像素点所获得的损失就很大,网络就会更加关注对边缘特征的学习。用于边缘损失的自适应平衡类权重损失函数表示为其中,n为像素点的个数,X为所有像素点所组成的集合,C为像素中的类别数,ωi为本发明定义的自适应平衡类权重系数,为边缘标签,为网络边缘流的边缘预测输出。
上述技术方案中步骤四中所使用的网络,在训练阶段,为提供高质量的边缘标签所采用的边缘提取算法为:
经典边缘提取算法利用图像的梯度提取边界信息,如Sobel、Laplacian和Canny等,作为标签类别间的边。假设一幅图像上只有肿瘤和非肿瘤两类,通过这些经典边缘提取算法提取的边界上的像素部分来自肿瘤,部分来自非肿瘤。如果边缘标签是这样的,非肿瘤部分的像素会导致网络得到错误的关注。在理想情况下,更加希望边缘上的像素都来自肿瘤。因此,在本发明中使用以下方法进行边缘提取:其中,Pool代表卷积网络中常用的最大值池化操作,θ为最大值池化中所使用的内核的大小,在本发明中设置为3,onehot是一种按类别用0和1重新编码原始分割标签的编码方法。通过这样的边缘提取方法,就可以分别提取水肿、坏死、增强肿瘤和非增强肿瘤的边缘,并确保每一个边缘上的像素来自同一类别。
为了对本发明进行更好的说明,下面以公开的行为数据集BraTS2018为例进行阐述。
为验证本发明的准确性,本发明在公开的BraTS2018数据集上进行了实验。它广泛应用于脑肿瘤分割领域,包括高恶性胶质瘤病例262例、低级别胶质瘤病例199例和相应的分割标签。每个病例包括四种MRI模态:Flair、T1、T1c和T2。图3是带有肿瘤区域的BraTS2018的MRI扫描切片。它们以不同的模态(左上角)和整个数据集的最终标签(右上角)进行注释。图像从左到右显示:整个肿瘤在T2-FLAIR中可见(图3中A浅灰色部分),肿瘤核心在T2中可见(图3中B中肿瘤部分相对颜色较深的部分),强化的肿瘤结构在T1c中可见(图3中C中肿瘤核心部分颜色较浅的部分),围绕核心的囊性/坏死成分(图3中C肿瘤核心部分颜色较深的部分)。这些分割被组合以产生肿瘤亚区的最终标记(图3中D):水肿、无增强的实性核心、坏死/囊性核心、增强核心。(1)全瘤(WT),即所有级别;(2)由坏死组织、无增强肿瘤和增强肿瘤组成的肿瘤核心(TC)区;(3)仅由增强肿瘤(ET)组成的肿瘤增强区。本发明采用脑肿瘤分割领域常用的指标Dice评价系数来衡量算法的性能。它起源于二值分类,本质上是两个样本重叠程度的度量。评价范围从0到1,其中1表示预测和标签完全重叠。Dice评价系数可表示为其中,TP,FP和FN分别表示预测样本中的真阳性、假阳性和假阴性。此外,本发明采用F1-score来衡量分割边缘的准确性。F1-score是统计学中用来衡量二进制分类模型准确性的指标。它考虑了分类模型的准确率和召回率。F1-score可以认为是模型准确率和召回率的加权平均值。其最大值为1,最小值为0。F1-score可表示为其中,Precision为预测的精确度,Recall为预测的召回率。
网络结构设置:
表1用于特征提取的编码网络结构
表2用于边缘流的解码网络结构
表3用语义流的解码网络结构
表1是用于特征提取的编码网络的结构设置。其主要包括了6层不同的卷积块的设置方式。表2是用于边缘流的解码网络的结构设置。其主要包括了5层不同的卷积块设置方式。表3是用于边缘流的解码网络的结构设置。其主要包括了5层不同的卷积块和融合层设置方式。表格详细给出了每一层中卷积输出的尺寸及通道数。
表4为本发明提出的基于U-net的双流解码卷积神经网络的脑肿瘤分割方法在BraTS2018数据集上的测试结果,本发明在该数据集上取得了较好的分割结果。
表4在BraTS2018上的分割结果
图4为部分分割结果的可视化,包含了4种模式的MR原图,一张分割标签图以及一张分割结果图。
本发明提出的方法主要包含基于U-net的双流解码卷积网络,训练阶段使用的自适应平衡类权重损失函数。从表5中可以看出,针对BraTS2018数据集,原始的U-net网络在三个分割任务上的Dice评价分别为87.22%、79.46%和75.01%,修改后的基于U-net的双流解码卷积神经网络在三个分割任务上的Dice评价达到89.86%、83.88%和78.37%。此外,表6中,原始的U-net网络在分割的边缘上的F1-score分别为0.50,0.41,0.39,修改后的基于U-net的双流解码卷积神经网络在分割的边缘上的F1-score分别为0.55,0.48,0.45。从Dice评价和分割边缘的F1-score上的提升来看,本发明提出的一系列通过边缘特征优化肿瘤分割效果的策略包括网络结构和损失函数都是有效的。在分割中,分割精度的丢失往往是在边缘部分造成的,因此通过优化边缘部分的分割效果往往能带来整体分割精度的提升。
表5在BraTS2018数据集上分割对比
表6在BraTS2018数据集上分割对比
上面结合附图对本发明的具体实施方式做了详细说明,但是本发明并不限于上述实施方式,在本领域普通技术人员所具备的知识范围内,还可以在不脱离本发明宗旨的前提下做出各种变化。
Claims (8)
1.一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法,其特征在于,步骤如下:
步骤一、获取脑肿瘤MRI信息:读取脑肿瘤MRI,共有4中模态T1,T1c,T2,Flair,对应图像集分别为XT1∈RN×H×W、XT1c∈RN×H×W、XT2∈RN×H×W、XFlair∈RN×H×W,其中N为图像的个数,H为图像的高度,W为图像的宽度;
步骤二、对图像进行预处理:将读取的XT1、XT1c、XT2、XFlair四种模态的MRI集进行均值为0、方差为1的预处理,并将这单独的四个模态的图像集合并为一个整体的图像集X∈RN ×4×H×W;
步骤三、裁剪图像:求出图像集X的中心坐标,以中心坐标为参照,将图像集X边缘裁剪为Xin∈RN×4×192×192的输入图像;
步骤四、批量输入图像到预先设计好分割网络中:根据服务器显存大小确定批量大小B,将Xin按照批量为B的大小分割为若干个批输入量Xin_batch∈RB×4×192×192;
步骤八、判断批量输入是否结束:若当前批是最后一个批次,则分割结束,否则,转向步骤六
2.根据权利要求1所述的一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法,其特征在于,该方法所使用的深度卷积神经网络模型包括特征提取的编码网络、边缘流解码网络、语义流解码网络、边缘特征处理模块和特征融合层;其中,边缘特征处理模块和特征融合层组成边缘特征融合模块,边缘流解码网络、语义流解码网络、边缘特征融合模块组成双流解码网络;边缘流解码网络结构与语义流解码网络结构相同,两个网络通过不同的训练标签进行优化;边缘特征处理模块的输出是一个单通道的注意力掩码,描述边缘流中传递的边缘信息的最一般特征;最后,特征融合层以残差的形式将边缘特征处理模块的输出融合到语义流中;通过这样的特征融合方法,增强语义流中相关的边缘特征。
5.根据权利要求1所述的一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法,其特征在于,所述步骤四中所用网络,在其训练阶段采用的数据增强为:通过随机的数据增强来提高网络的泛化能力,包括对训练集的随机旋转、翻转以及缩放;其中旋转角度在0°到180°之间,翻转包括水平翻转和垂直翻转,缩放的倍数为0.75到1.25之间。
7.根据权利要求1所述的一种基于边缘特征优化的双流解码卷积神经网络的MRI脑肿瘤自动分割方法,其特征在于,所述步骤四中所用网络,在其训练阶段所采用的自适应平衡类权重损失函数为:自适应平衡类权重损失函数在训练阶段用来监督模型中边缘流的特征学习,通过在交叉熵损失函数中添加自适应平衡类权重系数用于调整在边缘预测时损失函数的不平衡;其中,i代表某一类别,代表边缘标签中像素点的个数,ni代表i类在中所占像素点的个数,N代表所有像素点可分的类别数;ωi会将每个类别的损失值的比例调整为1:1,所以每个类别的总损失是相等的,并且每个像素的损失与该类别的像素数成反比;用于边缘损失的自适应平衡类权重损失函数表示为:其中,n为像素点的个数,X为所有像素点所组成的集合,C为像素中的类别数,ωi为自适应平衡类权重系数,为边缘标签,为网络边缘流的边缘预测输出。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010436343.8A CN111709952B (zh) | 2020-05-21 | 2020-05-21 | 一种基于边缘特征优化的双流解码卷积神经网络的mri脑肿瘤自动分割方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010436343.8A CN111709952B (zh) | 2020-05-21 | 2020-05-21 | 一种基于边缘特征优化的双流解码卷积神经网络的mri脑肿瘤自动分割方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111709952A true CN111709952A (zh) | 2020-09-25 |
CN111709952B CN111709952B (zh) | 2023-04-18 |
Family
ID=72538031
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010436343.8A Active CN111709952B (zh) | 2020-05-21 | 2020-05-21 | 一种基于边缘特征优化的双流解码卷积神经网络的mri脑肿瘤自动分割方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111709952B (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112365496A (zh) * | 2020-12-02 | 2021-02-12 | 中北大学 | 基于深度学习和多引导的多模态mr影像脑肿瘤分割方法 |
CN112966748A (zh) * | 2021-03-09 | 2021-06-15 | 中国电子科技集团公司第五十四研究所 | 基于边缘感知双分支fcn的极化sar图像分类方法 |
CN113139981A (zh) * | 2021-05-18 | 2021-07-20 | 哈尔滨理工大学 | 基于深度神经网络的dce-mri乳腺肿瘤图像分割方法 |
CN113222061A (zh) * | 2021-05-31 | 2021-08-06 | 北京理工大学 | 一种基于双路小样本学习的mri图像分类方法 |
CN113409349A (zh) * | 2021-05-27 | 2021-09-17 | 拓微摹心数据科技(南京)有限公司 | 一种基于人工智能的主动脉结构图像自动分割方法 |
CN113420632A (zh) * | 2021-06-17 | 2021-09-21 | 武汉科技大学 | 一种基于3d人体部件的行人重识别方法 |
CN114937045A (zh) * | 2022-06-20 | 2022-08-23 | 四川大学华西医院 | 一种肝细胞癌病理图像分割系统 |
CN115100467A (zh) * | 2022-06-22 | 2022-09-23 | 北京航空航天大学 | 一种基于核注意力网络的病理全切片图像分类方法 |
CN116188511A (zh) * | 2023-04-26 | 2023-05-30 | 湖南马栏山视频先进技术研究院有限公司 | 一种基于边缘检测优化人类标签的方法及装置 |
CN116309621A (zh) * | 2023-03-13 | 2023-06-23 | 浙江大学 | 一种基于符号距离的肝肿瘤分割方法及装置 |
GB2621332A (en) * | 2022-08-08 | 2024-02-14 | Twinn Health Ltd | A method and an artificial intelligence system for assessing an MRI image |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108062753A (zh) * | 2017-12-29 | 2018-05-22 | 重庆理工大学 | 基于深度对抗学习的无监督域自适应脑肿瘤语义分割方法 |
US20190026897A1 (en) * | 2016-11-07 | 2019-01-24 | Institute Of Automation, Chinese Academy Of Sciences | Brain tumor automatic segmentation method by means of fusion of full convolutional neural network and conditional random field |
CN110120048A (zh) * | 2019-04-12 | 2019-08-13 | 天津大学 | 结合改进U-Net和CMF的三维脑肿瘤图像分割方法 |
US20200082198A1 (en) * | 2017-05-23 | 2020-03-12 | Intel Corporation | Methods and apparatus for discriminative semantic transfer and physics-inspired optimization of features in deep learning |
US20200085382A1 (en) * | 2017-05-30 | 2020-03-19 | Arterys Inc. | Automated lesion detection, segmentation, and longitudinal identification |
CN111145186A (zh) * | 2019-12-17 | 2020-05-12 | 中国科学院深圳先进技术研究院 | 神经网络结构、图像分割方法、装置及存储介质 |
-
2020
- 2020-05-21 CN CN202010436343.8A patent/CN111709952B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190026897A1 (en) * | 2016-11-07 | 2019-01-24 | Institute Of Automation, Chinese Academy Of Sciences | Brain tumor automatic segmentation method by means of fusion of full convolutional neural network and conditional random field |
US20200082198A1 (en) * | 2017-05-23 | 2020-03-12 | Intel Corporation | Methods and apparatus for discriminative semantic transfer and physics-inspired optimization of features in deep learning |
US20200085382A1 (en) * | 2017-05-30 | 2020-03-19 | Arterys Inc. | Automated lesion detection, segmentation, and longitudinal identification |
CN108062753A (zh) * | 2017-12-29 | 2018-05-22 | 重庆理工大学 | 基于深度对抗学习的无监督域自适应脑肿瘤语义分割方法 |
CN110120048A (zh) * | 2019-04-12 | 2019-08-13 | 天津大学 | 结合改进U-Net和CMF的三维脑肿瘤图像分割方法 |
CN111145186A (zh) * | 2019-12-17 | 2020-05-12 | 中国科学院深圳先进技术研究院 | 神经网络结构、图像分割方法、装置及存储介质 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112365496B (zh) * | 2020-12-02 | 2022-03-29 | 中北大学 | 基于深度学习和多引导的多模态mr影像脑肿瘤分割方法 |
CN112365496A (zh) * | 2020-12-02 | 2021-02-12 | 中北大学 | 基于深度学习和多引导的多模态mr影像脑肿瘤分割方法 |
CN112966748A (zh) * | 2021-03-09 | 2021-06-15 | 中国电子科技集团公司第五十四研究所 | 基于边缘感知双分支fcn的极化sar图像分类方法 |
CN113139981A (zh) * | 2021-05-18 | 2021-07-20 | 哈尔滨理工大学 | 基于深度神经网络的dce-mri乳腺肿瘤图像分割方法 |
CN113409349A (zh) * | 2021-05-27 | 2021-09-17 | 拓微摹心数据科技(南京)有限公司 | 一种基于人工智能的主动脉结构图像自动分割方法 |
CN113409349B (zh) * | 2021-05-27 | 2022-04-19 | 拓微摹心数据科技(南京)有限公司 | 一种基于人工智能的主动脉结构图像自动分割方法 |
CN113222061A (zh) * | 2021-05-31 | 2021-08-06 | 北京理工大学 | 一种基于双路小样本学习的mri图像分类方法 |
CN113222061B (zh) * | 2021-05-31 | 2022-12-09 | 北京理工大学 | 一种基于双路小样本学习的mri图像分类方法 |
CN113420632A (zh) * | 2021-06-17 | 2021-09-21 | 武汉科技大学 | 一种基于3d人体部件的行人重识别方法 |
CN114937045A (zh) * | 2022-06-20 | 2022-08-23 | 四川大学华西医院 | 一种肝细胞癌病理图像分割系统 |
CN115100467A (zh) * | 2022-06-22 | 2022-09-23 | 北京航空航天大学 | 一种基于核注意力网络的病理全切片图像分类方法 |
CN115100467B (zh) * | 2022-06-22 | 2024-06-11 | 北京航空航天大学 | 一种基于核注意力网络的病理全切片图像分类方法 |
GB2621332A (en) * | 2022-08-08 | 2024-02-14 | Twinn Health Ltd | A method and an artificial intelligence system for assessing an MRI image |
CN116309621A (zh) * | 2023-03-13 | 2023-06-23 | 浙江大学 | 一种基于符号距离的肝肿瘤分割方法及装置 |
CN116188511A (zh) * | 2023-04-26 | 2023-05-30 | 湖南马栏山视频先进技术研究院有限公司 | 一种基于边缘检测优化人类标签的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111709952B (zh) | 2023-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111709952B (zh) | 一种基于边缘特征优化的双流解码卷积神经网络的mri脑肿瘤自动分割方法 | |
CN111402268B (zh) | 一种医学图像中肝脏及其病灶分割的方法 | |
Han et al. | Combining noise-to-image and image-to-image GANs: Brain MR image augmentation for tumor detection | |
Zhou et al. | Deep learning of the sectional appearances of 3D CT images for anatomical structure segmentation based on an FCN voting method | |
Oda et al. | BESNet: boundary-enhanced segmentation of cells in histopathological images | |
CN112365496B (zh) | 基于深度学习和多引导的多模态mr影像脑肿瘤分割方法 | |
CN108898140A (zh) | 基于改进的全卷积神经网络的脑肿瘤图像分割算法 | |
CN110265141B (zh) | 一种肝脏肿瘤ct影像计算机辅助诊断方法 | |
CN115661144B (zh) | 基于可变形U-Net的自适应医学图像分割方法 | |
CN110706214B (zh) | 融合条件随机与残差的三维U-Net大脑肿瘤分割方法 | |
CN115578559A (zh) | 基于多尺度和跨空间融合的超声乳腺结节端到端分割方法 | |
CN114119525A (zh) | 一种细胞医学图像分割的方法和系统 | |
Zhao et al. | Al-net: Attention learning network based on multi-task learning for cervical nucleus segmentation | |
Cheng et al. | Correcting and reweighting false label masks in brain tumor segmentation | |
Tyagi et al. | LCSCNet: A multi-level approach for lung cancer stage classification using 3D dense convolutional neural networks with concurrent squeeze-and-excitation module | |
CN117437423A (zh) | 基于sam协同学习和跨层特征聚合增强的弱监督医学图像分割方法及装置 | |
CN117422871A (zh) | 一种基于V-Net的轻量级脑肿瘤分割方法及系统 | |
Wang et al. | An effective deep network for automatic segmentation of complex lung tumors in CT images | |
Bai et al. | Digital rock core images resolution enhancement with improved super resolution convolutional neural networks | |
CN116884597A (zh) | 基于自监督预训练和多示例学习的病理图像乳腺癌分子分型方法及系统 | |
CN116758120A (zh) | 一种基于深度学习的3t mra到7t mra的预测方法 | |
CN115937083A (zh) | 一种融合先验信息的前列腺磁共振图像区域分割方法 | |
CN116468887A (zh) | 一种具有普适性的结肠息肉分割方法 | |
CN115908299A (zh) | 基于医学影像的生存期预测方法、装置、设备及介质 | |
CN115423802A (zh) | 基于深度学习的鳞状上皮肿瘤细胞图片自动分类分割方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |