CN111563902A - 一种基于三维卷积神经网络的肺叶分割方法及系统 - Google Patents
一种基于三维卷积神经网络的肺叶分割方法及系统 Download PDFInfo
- Publication number
- CN111563902A CN111563902A CN202010324982.5A CN202010324982A CN111563902A CN 111563902 A CN111563902 A CN 111563902A CN 202010324982 A CN202010324982 A CN 202010324982A CN 111563902 A CN111563902 A CN 111563902A
- Authority
- CN
- China
- Prior art keywords
- lung
- loss
- network
- lung lobe
- probability map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/181—Segmentation; Edge detection involving edge growing; involving edge linking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30061—Lung
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于三维卷积神经网络的肺叶分割方法及系统,该方法包括以下步骤:构建肺叶分割的训练图像数据集;构建基于三维卷积神经网络的肺叶分割网络并进行网络训练,对训练图像数据集进行预处理,训练完成后输出每个像素所属类别概率图;采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失;设置权重衰减和学习率衰减,训练网络直至网络收敛;将待测图像进行预处理后输入到训练好的肺叶分割网络输出预测结果;将预测结果经过后处理还原至待测图像原始输入尺寸获得最终分割结果。本发明经过预处理和网络推理即可获得肺叶分割结果,实现了端到端的设计,提高了肺叶分割的效率和精度。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种基于三维卷积神经网络的肺叶分割方法及系统。
背景技术
目前,肺叶分割方法大致分为四种策略:基于图像配准的方法、基于分水岭分割的方法、基于有监督学习的方法、基于深度学习的方法,现有的基于图像配准的方法较依赖构造图谱且计算量大;现有的基于分水岭分割的方法准确率依赖于构建的特征图,容易因分水岭界限不明确产生误分割的问题;现有的基于有监督学习的方法的准确度依赖于人工提取的特征,且需要大量有标签的样本;现有的基于深度学习的方法通过级联方式,先分割肺部区域的3D包围框,再对3D包围框进行肺叶分割,虽然提高了肺叶分割精度,但没有实现端到端的工作流程,工作流程比较复杂。
发明内容
为了克服现有技术存在的缺陷与不足,本发明提供一种基于三维卷积神经网络的肺叶分割方法及系统,在训练阶段输入整个CT体数据,对左右肺、5个肺叶、肺裂及肺边界分别计算损失,将多任务的损失进行组合优化,测试阶段只需要输入整个CT体数据,经过预处理和网络推理即可获得肺叶分割结果,实现了端到端的肺叶分割,提高了肺叶分割的效率和精度。
为了达到上述目的,本发明采用以下技术方案:
本发明提供一种基于三维卷积神经网络的肺叶分割方法,包括下述步骤:
构建肺叶分割的训练图像数据集;
构建基于三维卷积神经网络的肺叶分割网络并进行网络训练;
所述网络训练具体包括:
对训练图像数据集进行预处理;
基于U型结构搭建三维卷积神经网络,对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图;
采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失;
设置权重衰减和学习率衰减,训练网络直至网络收敛;
将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果;
将预测结果经过后处理还原至待测图像原始输入尺寸,获得最终分割结果。
作为优选的技术方案,所述构建肺叶分割训练图像数据集,具体步骤包括:
所述肺叶分割训练图像数据集标注肺区域及肺叶;
根据已标注的肺区域及肺叶,采用边界提取算法提取左右肺边界及肺裂,作为附加的标注内容。
作为优选的技术方案,所述采用边界提取算法提取左右肺边界及肺裂,具体步骤包括:所述边界提取算法采用三维轮廓提取算法,先对二值化的标注区域填充孔洞,再提取三维轮廓,获得右肺边界及左肺边界,肺裂像素点根据标注的肺叶区域进行提取,若像素点的设定邻域内存在不同标签的肺叶像素,则将像素点标注为肺裂像素点。
作为优选的技术方案,所述训练图像数据集进行预处理,具体步骤包括:
对训练图像数据集的CT值进行窗口截断及归一化,并对图像尺寸缩放至网络输入的固定尺寸。
作为优选的技术方案,所述对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图,具体步骤包括:
输入数据先通过卷积神经网络及下采样提取特征,扩大感受野;
再通过上采样恢复原图尺寸,上升通道与浅层的通道进行拼接,最终通过卷积层及softmax层输出预测的每个像素所属类别概率图,概率图包括左右肺概率图、肺叶概率图、肺裂及肺边界概率图。
作为优选的技术方案,所述采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失,具体步骤包括:
采用边界损失对边界概率图计算损失,边界概率图包括肺裂及肺边界概率图,边界损失具体计算公式为:
其中,Lb表示肺裂及肺边界损失,j表示类别,N表示所有体素点的数目,pij表示体素点i预测为第j类的概率,tij表示体素点i实际为第j类的概率,ε为正数;
采用左右肺损失对左右肺概率图计算损失,左右肺损失具体计算公式为:
其中,k表示最后k层的概率图,Llung (k)为最后k层的左右肺损失,j表示类别,N表示所有体素点的数目,pijk表示最后k层的概率图中体素点i预测为第j类的概率,tijk表示最后k层的概率图中体素点i实际为第j类的概率;
采用肺叶损失对肺叶概率图计算损失,肺叶损失具体计算公式为:
其中,Llobe (k)为最后k层的肺叶损失,j表示类别,N表示所有体素点的数目,pijk表示最后k层的概率图中体素点i预测为第j类的概率,tijk表示最后k层的概率图中体素点i实际为第j类的概率;
采用深度监督损失对非最后一层的左右肺概率图计算损失,深度监督损失具体计算公式为:
总损失的计算公式为:
L=λbLb+λlungLlung (1)+λlobeLlobe (1)+λdeepLdeep
其中,L为总损失,Lb、Llung (1)、Llobe (1)、Ldeep分别为肺裂及肺边界损失、左右肺损失、肺叶损失和深度监督损失,λb、λlung、λlobe、λdeep为对应损失的权重。
作为优选的技术方案,所述将待测图像进行预处理后输入到训练好的肺叶分割网络,所述预处理包括:将待测图像进行窗位截断及归一化,并进行尺度缩放至设定的网络输入尺寸。
作为优选的技术方案,所述将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果,具体步骤包括:
将预处理后的图像输入训练好的网络,进行推理,获得预测的肺叶分割结果,只输出网络最后一层的肺叶概率图,对肺叶概率图取最大值,所在类别作为对应肺叶类别,即为预测的肺叶输出。
作为优选的技术方案,所述将预测结果经过后处理还原至原始CT图像尺寸,获得最终分割结果,具体步骤包括:
采用最大连通域提取算法提取每个肺叶区域的最大连通部分;
将预测结果图像的尺寸调整至待测图像原始输入尺寸;
采用形态学运算平滑肺叶边界,对每个待预测的像素点,统计邻域点的分类情况,输出肺叶类别。
本发明还提供一种基于三维卷积神经网络的肺叶分割系统,包括:训练图像数据集构建模块、肺叶分割网络构建模块、肺叶分割网络训练模块、预测模块和后处理模块;
所述训练图像数据集构建模块用于构建肺叶分割的训练图像数据集;
所述肺叶分割网络构建模块用于构建肺叶分割网络;
所述肺叶分割网络训练模块用于训练肺叶分割网络,所述肺叶分割网络训练模块包括预处理单元、概率图生成单元、损失计算单元和设置单元;
所述预处理单元用于对训练图像数据集进行预处理;
所述概率图生成单元用于输出每个像素所属类别概率图,基于U型结构搭建三维卷积神经网络,对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图;
所述损失计算单元用于采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失;
所述设置单元用于设置权重衰减和学习率衰减,训练网络直至网络收敛;
所述预测模块用于将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果;
所述后处理模块用于将预测结果经过后处理还原至待测图像原始输入尺寸,获得最终分割结果。
本发明与现有技术相比,具有如下优点和有益效果:
(1)本发明采用模型再训练,通过获取更多的训练数据进行模型再训练,解决了单一方法无法适应多变的肺部CT图像的技术问题,达到了进一步提高模型鲁棒性的技术效果。
(2)本发明采用了端到端的设计,输入为原始CT数据,输出为肺叶分割结果,解决了传统方法需要繁琐的预处理和后处理手段的技术问题,达到了容易实现及部署的技术效果。
(3)本发明基于U型结构搭建三维卷积神经网络,结合了多尺度信息,解决了传统方法只考虑单一尺度导致分割效果不佳的技术问题,达到了提高分割精度的技术效果。
(4)本发明采用了多任务损失计算每个像素所属类别概率图的损失,结合了左右肺、肺叶、肺边界、肺叶边界的损失,解决了肺叶及肺边界较难精确定位的技术问题,达到了更精确定位肺叶边界的技术效果。
(5)本发明采用了全自动化的方式进行肺叶分割,解决了部分传统方法需要交互式修正分割结果的技术问题,达到了无需人工干预的技术效果。
附图说明
图1为本实施例基于三维卷积神经网络的肺叶分割方法的流程示意图;
图2为本实施例三维卷积神经网络的结构示意图;
图3为本实施例预测的二维肺叶分割结果示意图;
图4为本实施例预测的三维肺叶分割结果示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例
如图1所示,本实施例提供一种基于三维卷积神经网络的肺叶分割方法,实现了端到端的肺叶分割,提高了肺叶分割的效率和精度,具体步骤包括:
(1)数据集构建阶段,构建用于神经网络训练的肺叶分割数据集;
具体步骤包括:
(1-1)采用Materialise Mimics 22.0软件对肺叶图像进行标注,本实施例的肺叶分割数据集为像素级标注,标注内容包括:右肺、左肺、右上肺叶、右中肺叶、右下肺叶、左上肺叶、左下肺叶,本实施例共标注100例数据,数据来源取自LUNA16数据集,LUNA16数据集包括888低剂量肺部CT影像数据,每个影像包含一系列胸腔的多个轴向切片;
(1-2)根据已标注的肺区域及肺叶,使用边界提取算法提取左右肺边界、肺裂,作为附加的标注内容;
具体步骤为:
左右肺边界根据已标注的肺实质区域进行提取,使用三维轮廓提取算法,先对二值化的标注区域填充孔洞,再提取其三维轮廓,获得右肺边界及左肺边界;肺裂像素点根据标注的肺叶区域进行提取,若像素点的26邻域内存在不同标签的肺叶像素,则该像素点标注为肺裂像素点;
(2)网络训练阶段,搭建基于三维卷积神经网络的肺叶分割网络,进行网络训练,参数调优;
具体步骤包括:
(2-1)对输入数据进行预处理,对CT值进行窗口截断及归一化,并对图像尺寸进行缩放至网络输入的固定尺寸,在本实施例中,将CT值窗口截断至窗位为-400HU,窗宽为1500HU,之后使用最大最小归一化至[0,1],然后使用双三次插值算法将图像尺寸缩放至64x128x128(以横断面为切面,64、128、128分别为CT图像深度、宽度、高度);
(2-2)基于U型结构搭建三维卷积神经网络,先下采样提取特征,再上采样恢复原图尺寸,预测每个像素所属类别;
搭建网络步骤包括:
(2-2a)如图2所示,网络使用U型结构,每个卷积层包含3D卷积、PRelu激活函数、3D残差结构,本实施例基于U型结构搭建三维卷积神经网络,结合了多尺度信息,解决了传统方法只考虑单一尺度导致分割效果不佳的问题,达到了提高分割精度的技术效果;
(2-2b)网络输入为经过预处理的三维数据,先通过卷积神经网络及下采样提取特征,扩大感受野;再通过上采样恢复原图尺寸,上升通道与浅层的通道进行拼接,最终通过卷积层及softmax层输出预测的每个像素所属类别概率图,最后一层使用softmax层即可输出多类别概率图,最后的输出包括左右肺概率图(2通道)、肺叶概率图(6通道)、肺裂及肺边界概率图(2通道),输出的肺叶概率图为预测的主要任务,输出的左右肺概率图、肺裂及肺边界概率图为辅助任务;
(2-2c)为了加快网络收敛,使用深度监督方法,在训练过程中,除了网络的最后一层输出概率图结果,在U型网络的其他尺度空间通过上采样方式,softmax层也输出概率图结果,进行损失计算收敛,输出的概率图包括左右肺概率图(2通道)、肺叶概率图(6通道),如图2所示,除了最后一层的输出之外,其他层也有相应的输出结果;
(2-3)定义损失函数,设置训练策略,训练网络至收敛;
网络训练策略具体为:
(2-3a)使用Dice Loss计算损失,总的损失分为四部分:肺裂及肺边界损失、左右肺损失、肺叶损失和深度监督损失,其中,肺裂及肺边界作为同一类进行计算,反映肺叶边界;
边界损失对肺裂及肺边界概率图计算损失,表达式为:
式中,Lb为肺裂及肺边界损失,j表示类别(有2类:肺裂及肺边界、非肺裂及非肺边界),N表示所有体素点的数目,pij表示体素点i预测为第j类的概率,tij表示体素点i实际为第j类的概率,tij∈{0,1},ε为极小的正数避免除数为0;
左右肺损失对左右肺概率图计算损失,表达式为:
式中,k表示最后k层的概率图,k∈{1,2,3},k=1表示最后一层,Llung (k)为最后k层的左右肺损失,j表示类别(有3类:左肺、右肺、非肺区),N表示所有体素点的数目,pijk表示最后k层的概率图中体素点i预测为第j类的概率,tijk表示最后k层的概率图中体素点i实际为第j类的概率,tijk∈{0,1},ε为极小的正数避免除数为0;
肺叶损失对肺叶概率图计算损失,表达式为:
式中,k表示最后k层的概率图,k∈{1,2,3},k=1表示最后一层,Llobe (k)为最后k层的肺叶损失,j表示类别(有6类:左上肺叶、左下肺叶、右上肺叶、右中肺叶、右下肺叶、非肺区),N表示所有体素点的数目,pijk表示最后k层的概率图中体素点i预测为第j类的概率,tijk表示最后k层的概率图中体素点i实际为第j类的概率,tijk∈{0,1},ε为极小的正数避免除数为0。
深度监督损失对除了最后一层的左右肺概率图和肺叶概率图计算损失,表达式为:
总的损失对多任务损失进行加权:
L=λbLb+λlungLlung (1)+λlobeLlobe (1)+λdeepLdeep
其中,L为总损失,Lb、Llung (1)、Llobe (1)、Ldeep分别为肺裂及肺边界损失、左右肺损失、肺叶损失、深度监督损失,λb、λlung、λlobe、λdeep为对应损失的权重。
在本实施例中,采用了多任务损失计算每个像素所属类别概率图的损失,结合了左右肺、肺叶、肺边界、肺叶边界的损失,解决了肺叶及肺边界较难精确定位的问题,达到了更精确定位肺叶边界的技术效果;
(2-3b)训练过程中,优化器为Adam优化器,设置权重衰减防止网络过拟合,设置学习率衰减使训练后期网络收敛,对辅助任务的损失及深度监督的损失的权重系数进行衰减,使训练后期增加主要任务(肺叶概率图)的预测精度;
在本实施例中,设置epoch为40,batch为1,权重衰减为1e-4,初始学习率为0.1,学习率在epoch为[5,10,20,30]使减小10倍,损失权重λb为1.0,λlung为1.0,λlobe为1.5,λdeep为1.0,λdeep每5个epoch减小为原来的0.6倍,使得预测的主要任务权重加大;
在本实施例中,采用模型再训练,通过获取更多的训练数据进行模型再训练,解决了单一方法无法适应多变的肺部CT图像的技术问题,达到了进一步提高模型鲁棒性的技术效果。
(3)预测阶段,将待预测的三维CT图像经过预处理后输入训练好的神经网络,输出预测结果;
具体步骤包括:
(3-1)图像预处理,将待预测的三维CT图像进行窗位截断及归一化,并进行尺度缩放至符合网络输入尺寸;
在本实施例中,将CT值窗口截断至窗位为-400HU,窗宽为1500HU,之后使用最大最小归一化至[0,1],然后使用双三次插值算法将图像尺寸缩放至64x128x128(以横断面为切面,64、128、128分别为CT图像深度、宽度、高度);
(3-2)将预处理后的图像经过训练好的网络,进行推理,获得预测的肺叶分割结果,只输出网络最后一层的肺叶概率图,对肺叶概率图取最大值,所在类别作为对应肺叶类别,即为预测的肺叶输出;
(4)后处理阶段,将神经网络输出的预测结果经过简单的后处理操作并还原至原图尺寸,获得最终分割结果。如图3所示,在本实施例预测的二维肺叶分割结果中,肺实质区域内不同颜色标记代表不同的肺叶,左肺分为左上肺叶、左下肺叶,右肺分为右肺上叶、右肺中叶、右肺下叶。如图4所示,在本实施例预测的三维肺叶分割结果中,肺实质区域根据不同颜色分为5部分,左肺分为左上肺叶、左下肺叶,右肺分为右肺上叶、右肺中叶、右肺下叶。
具体步骤包括:
(4-1)利用最大连通域提取算法提取每个肺叶区域的最大连通部分,去除误分类的噪声;
(4-2)将预测结果图像的尺寸(64x128x128)调整至原始CT图像的尺寸;
(4-3)使用形态学运算平滑肺叶边界,对每个待预测的像素点,统计其26邻域点的分类情况,将其分类为统计数目最多的肺叶类别(右上肺叶、右中肺叶、右下肺叶、左上肺叶、左下肺叶)。
在本实施例中,训练阶段输入整个CT体数据,对左右肺、5个肺叶、肺裂及肺边界分别计算损失,将多任务的损失进行组合优化,测试阶段只需要输入整个CT体数据,经过预处理和网络推理即可获得肺叶分割结果,实现了端到端的肺叶分割,提高了肺叶分割的效率和精度。
本实施例还提供一种基于三维卷积神经网络的肺叶分割系统,包括:训练图像数据集构建模块、肺叶分割网络构建模块、肺叶分割网络训练模块、预测模块和后处理模块;
在本实施例中,训练图像数据集构建模块用于构建肺叶分割的训练图像数据集;
在本实施例中,肺叶分割网络构建模块用于构建肺叶分割网络;
在本实施例中,肺叶分割网络训练模块用于训练肺叶分割网络,肺叶分割网络训练模块包括预处理单元、概率图生成单元、损失计算单元和设置单元;
在本实施例中,预处理单元用于对训练图像数据集进行预处理;
在本实施例中,概率图生成单元用于输出每个像素所属类别概率图,基于U型结构搭建三维卷积神经网络,对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图;
在本实施例中,损失计算单元用于采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失;
在本实施例中,设置单元用于设置权重衰减和学习率衰减,训练网络直至网络收敛;
在本实施例中,预测模块用于将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果;
在本实施例中,后处理模块用于将预测结果经过后处理还原至待测图像原始输入尺寸,获得最终分割结果。
本实施例采用了全自动化的方式进行肺叶分割,解决了部分传统方法需要交互式修正分割结果的问题,达到了无需人工干预的技术效果。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (10)
1.一种基于三维卷积神经网络的肺叶分割方法,其特征在于,包括下述步骤:
构建肺叶分割的训练图像数据集;
构建基于三维卷积神经网络的肺叶分割网络并进行网络训练;
所述网络训练具体包括:
对训练图像数据集进行预处理;
基于U型结构搭建三维卷积神经网络,对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图;
采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失;
设置权重衰减和学习率衰减,训练网络直至网络收敛;
将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果;
将预测结果经过后处理还原至待测图像原始输入尺寸,获得最终分割结果。
2.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述构建肺叶分割训练图像数据集,具体步骤包括:
所述肺叶分割训练图像数据集标注肺区域及肺叶;
根据已标注的肺区域及肺叶,采用边界提取算法提取左右肺边界及肺裂,作为附加的标注内容。
3.根据权利要求2所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述采用边界提取算法提取左右肺边界及肺裂,具体步骤包括:所述边界提取算法采用三维轮廓提取算法,先对二值化的标注区域填充孔洞,再提取三维轮廓,获得右肺边界及左肺边界,肺裂像素点根据标注的肺叶区域进行提取,若像素点的设定邻域内存在不同标签的肺叶像素,则将像素点标注为肺裂像素点。
4.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述对训练图像数据集进行预处理,具体步骤包括:
对训练图像数据集的CT值进行窗口截断及归一化,并对图像尺寸缩放至网络输入的固定尺寸。
5.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图,具体步骤包括:
输入数据先通过卷积神经网络及下采样提取特征,扩大感受野;
再通过上采样恢复原图尺寸,上升通道与浅层的通道进行拼接,最终通过卷积层及softmax层输出预测的每个像素所属类别概率图,概率图包括左右肺概率图、肺叶概率图、肺裂及肺边界概率图。
6.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失,具体步骤包括:
采用边界损失对边界概率图计算损失,边界概率图包括肺裂及肺边界概率图,边界损失具体计算公式为:
其中,Lb表示肺裂及肺边界损失,j表示类别,N表示所有体素点的数目,pij表示体素点i预测为第j类的概率,tij表示体素点i实际为第j类的概率,ε为正数;
采用左右肺损失对左右肺概率图计算损失,左右肺损失具体计算公式为:
其中,k表示最后k层的概率图,Llung (k)为最后k层的左右肺损失,j表示类别,N表示所有体素点的数目,pijk表示最后k层的概率图中体素点i预测为第j类的概率,tijk表示最后k层的概率图中体素点i实际为第j类的概率;
采用肺叶损失对肺叶概率图计算损失,肺叶损失具体计算公式为:
其中,Llobe (k)为最后k层的肺叶损失,j表示类别,N表示所有体素点的数目,pijk表示最后k层的概率图中体素点i预测为第j类的概率,tijk表示最后k层的概率图中体素点i实际为第j类的概率;
采用深度监督损失对非最后一层的左右肺概率图计算损失,深度监督损失具体计算公式为:
总损失的计算公式为:
L=λbLb+λlungLlung (1)+λlobeLlobe (1)+λdeepLdeep
其中,L为总损失,Lb、Llung (1)、Llobe (1)、Ldeep分别为肺裂及肺边界损失、左右肺损失、肺叶损失和深度监督损失,λb、λlung、λlobe、λdeep为对应损失的权重。
7.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述将待测图像进行预处理后输入到训练好的肺叶分割网络,所述预处理包括:将待测图像进行窗位截断及归一化,并进行尺度缩放至设定的网络输入尺寸。
8.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果,具体步骤包括:
将预处理后的图像输入训练好的网络,进行推理,获得预测的肺叶分割结果,只输出网络最后一层的肺叶概率图,对肺叶概率图取最大值,所在类别作为对应肺叶类别,即为预测的肺叶输出。
9.根据权利要求1所述的基于三维卷积神经网络的肺叶分割方法,其特征在于,所述将预测结果经过后处理还原至原始CT图像尺寸,获得最终分割结果,具体步骤包括:
采用最大连通域提取算法提取每个肺叶区域的最大连通部分;
将预测结果图像的尺寸调整至待测图像原始输入尺寸;
采用形态学运算平滑肺叶边界,对每个待预测的像素点,统计邻域点的分类情况,输出肺叶类别。
10.一种基于三维卷积神经网络的肺叶分割系统,其特征在于,包括:训练图像数据集构建模块、肺叶分割网络构建模块、肺叶分割网络训练模块、预测模块和后处理模块;
所述训练图像数据集构建模块用于构建肺叶分割的训练图像数据集;
所述肺叶分割网络构建模块用于构建肺叶分割网络;
所述肺叶分割网络训练模块用于训练肺叶分割网络,所述肺叶分割网络训练模块包括预处理单元、概率图生成单元、损失计算单元和设置单元;
所述预处理单元用于对训练图像数据集进行预处理;
所述概率图生成单元用于输出每个像素所属类别概率图,基于U型结构搭建三维卷积神经网络,对输入数据进行下采样提取特征,上采样恢复原图尺寸,输出每个像素所属类别概率图;
所述损失计算单元用于采用Dice Loss损失函数计算每个像素所属类别概率图的损失,多个类别概率图的损失进行加权得到总损失;
所述设置单元用于设置权重衰减和学习率衰减,训练网络直至网络收敛;
所述预测模块用于将待测图像进行预处理后输入到训练好的肺叶分割网络,输出预测结果;
所述后处理模块用于将预测结果经过后处理还原至待测图像原始输入尺寸,获得最终分割结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010324982.5A CN111563902B (zh) | 2020-04-23 | 2020-04-23 | 一种基于三维卷积神经网络的肺叶分割方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010324982.5A CN111563902B (zh) | 2020-04-23 | 2020-04-23 | 一种基于三维卷积神经网络的肺叶分割方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111563902A true CN111563902A (zh) | 2020-08-21 |
CN111563902B CN111563902B (zh) | 2022-05-24 |
Family
ID=72074301
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010324982.5A Active CN111563902B (zh) | 2020-04-23 | 2020-04-23 | 一种基于三维卷积神经网络的肺叶分割方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111563902B (zh) |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112541893A (zh) * | 2020-12-11 | 2021-03-23 | 清华大学 | 一种三维断层扫描图像中树状结构分叉关键点的检测方法 |
CN112541892A (zh) * | 2020-12-07 | 2021-03-23 | 山东众阳健康科技集团有限公司 | 一种基于3d激活函数的脑动脉瘤图像分割方法 |
CN112651969A (zh) * | 2021-02-08 | 2021-04-13 | 福州大学 | 结合多信息融合网络和区域增长的气管树分级提取方法 |
CN112686849A (zh) * | 2020-12-24 | 2021-04-20 | 山东众阳健康科技集团有限公司 | 一种基于三维卷积神经网络的肺叶分割系统 |
CN112734755A (zh) * | 2021-03-15 | 2021-04-30 | 四川大学 | 基于3d全卷积神经网络与多任务学习的肺叶分割方法 |
CN112801964A (zh) * | 2021-01-20 | 2021-05-14 | 中国人民解放军总医院 | 肺部ct图像的多标签智能检测方法、装置、设备和介质 |
CN112861693A (zh) * | 2021-02-02 | 2021-05-28 | 东北林业大学 | 基于深度学习的植物叶片显微图像气孔分割方法 |
CN113160253A (zh) * | 2020-12-29 | 2021-07-23 | 南通大学 | 基于稀疏标记的三维医学图像分割方法及存储介质 |
CN113327274A (zh) * | 2021-04-15 | 2021-08-31 | 中国科学院苏州生物医学工程技术研究所 | 集成分割功能的肺ct图像配准方法及系统 |
CN113344881A (zh) * | 2021-06-09 | 2021-09-03 | 西安智诊智能科技有限公司 | 一种基于深度学习的肺叶图像分割方法 |
CN113450364A (zh) * | 2021-06-29 | 2021-09-28 | 湖南大学 | 一种基于三维通量模型的树状结构中心线提取方法 |
CN113470042A (zh) * | 2021-05-27 | 2021-10-01 | 广州医科大学附属第一医院 | 肺部ct图像的支气管分割方法及相关系统和存储介质 |
CN113807428A (zh) * | 2021-09-14 | 2021-12-17 | 清华大学 | 分类模型概率标签的重构方法、系统、装置及存储介质 |
CN114067314A (zh) * | 2022-01-17 | 2022-02-18 | 泗水县锦川花生食品有限公司 | 一种基于神经网络的花生霉变识别方法及系统 |
CN114092496A (zh) * | 2021-11-30 | 2022-02-25 | 西安邮电大学 | 一种基于空间加权的唇部分割方法及系统 |
CN114418931A (zh) * | 2021-11-23 | 2022-04-29 | 东北大学 | 术后剩余肺叶的提取方法及装置、电子设备和存储介质 |
CN114693698A (zh) * | 2020-12-30 | 2022-07-01 | 四川大学华西医院 | 一种基于神经网络的计算机辅助肺气道分割方法 |
CN115147359A (zh) * | 2022-06-06 | 2022-10-04 | 北京医准智能科技有限公司 | 肺叶分割网络模型训练方法、装置、电子设备及存储介质 |
WO2023066364A1 (zh) * | 2021-10-21 | 2023-04-27 | 苏州微创畅行机器人有限公司 | 三维图像处理方法、装置、计算机设备和存储介质 |
CN116030078A (zh) * | 2023-03-29 | 2023-04-28 | 之江实验室 | 多任务学习框架下结合注意力的肺叶分割方法及系统 |
CN116152278A (zh) * | 2023-04-17 | 2023-05-23 | 杭州堃博生物科技有限公司 | 医疗图像的分割方法及装置、非易失性存储介质 |
CN114037709B (zh) * | 2021-11-05 | 2023-06-16 | 复旦大学附属肿瘤医院 | 一种磨玻璃肺结节分割方法及装置 |
CN116363020A (zh) * | 2023-06-01 | 2023-06-30 | 青岛市中心医院 | 一种肺癌影像智能识别增强系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107230204A (zh) * | 2017-05-24 | 2017-10-03 | 东北大学 | 一种从胸部ct图像中提取肺叶的方法及装置 |
CN108335313A (zh) * | 2018-02-26 | 2018-07-27 | 阿博茨德(北京)科技有限公司 | 图像分割方法及装置 |
CN109636808A (zh) * | 2018-11-27 | 2019-04-16 | 杭州健培科技有限公司 | 一种基于全卷积神经网络的肺叶分割方法 |
US10304193B1 (en) * | 2018-08-17 | 2019-05-28 | 12 Sigma Technologies | Image segmentation and object detection using fully convolutional neural network |
CN109886967A (zh) * | 2019-01-16 | 2019-06-14 | 成都蓝景信息技术有限公司 | 基于深度学习技术的肺部解剖学位置定位算法 |
CN110060262A (zh) * | 2019-04-18 | 2019-07-26 | 北京市商汤科技开发有限公司 | 一种图像分割方法及装置、电子设备和存储介质 |
US20190333222A1 (en) * | 2018-04-26 | 2019-10-31 | NeuralSeg Ltd. | Systems and methods for segmenting an image |
CN110956635A (zh) * | 2019-11-15 | 2020-04-03 | 上海联影智能医疗科技有限公司 | 一种肺段分割方法、装置、设备及存储介质 |
-
2020
- 2020-04-23 CN CN202010324982.5A patent/CN111563902B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107230204A (zh) * | 2017-05-24 | 2017-10-03 | 东北大学 | 一种从胸部ct图像中提取肺叶的方法及装置 |
CN108335313A (zh) * | 2018-02-26 | 2018-07-27 | 阿博茨德(北京)科技有限公司 | 图像分割方法及装置 |
US20190333222A1 (en) * | 2018-04-26 | 2019-10-31 | NeuralSeg Ltd. | Systems and methods for segmenting an image |
US10304193B1 (en) * | 2018-08-17 | 2019-05-28 | 12 Sigma Technologies | Image segmentation and object detection using fully convolutional neural network |
CN109636808A (zh) * | 2018-11-27 | 2019-04-16 | 杭州健培科技有限公司 | 一种基于全卷积神经网络的肺叶分割方法 |
CN109886967A (zh) * | 2019-01-16 | 2019-06-14 | 成都蓝景信息技术有限公司 | 基于深度学习技术的肺部解剖学位置定位算法 |
CN110060262A (zh) * | 2019-04-18 | 2019-07-26 | 北京市商汤科技开发有限公司 | 一种图像分割方法及装置、电子设备和存储介质 |
CN110956635A (zh) * | 2019-11-15 | 2020-04-03 | 上海联影智能医疗科技有限公司 | 一种肺段分割方法、装置、设备及存储介质 |
Non-Patent Citations (4)
Title |
---|
WEI YU 等,: "Liver Vessels Segmentation Based on 3d Residual U-NET", 《2019 IEEE INTERNATIONAL CONFERENCE ON IMAGE PROCESSING (ICIP)》 * |
WENSHUAI ZHAO 等,: "Multi-Scale Supervised 3D U-Net for Kidneys and Kidney Tumor Segmentation", 《ARXIV》 * |
刘昊 等,: "3D脑肿瘤分割的Dice损失函数的优化", 《中国医疗设备》 * |
许友彬,: "基于肺部组织分割与检测技术的肺功能计算机辅助诊断系统研发", 《中国优秀博硕士学位论文全文数据库(硕士)医药卫生科技辑》 * |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112541892A (zh) * | 2020-12-07 | 2021-03-23 | 山东众阳健康科技集团有限公司 | 一种基于3d激活函数的脑动脉瘤图像分割方法 |
CN112541893B (zh) * | 2020-12-11 | 2022-11-11 | 清华大学 | 一种三维断层扫描图像中树状结构分叉关键点的检测方法 |
CN112541893A (zh) * | 2020-12-11 | 2021-03-23 | 清华大学 | 一种三维断层扫描图像中树状结构分叉关键点的检测方法 |
CN112686849A (zh) * | 2020-12-24 | 2021-04-20 | 山东众阳健康科技集团有限公司 | 一种基于三维卷积神经网络的肺叶分割系统 |
CN113160253B (zh) * | 2020-12-29 | 2024-01-30 | 南通大学 | 基于稀疏标记的三维医学图像分割方法及存储介质 |
CN113160253A (zh) * | 2020-12-29 | 2021-07-23 | 南通大学 | 基于稀疏标记的三维医学图像分割方法及存储介质 |
CN114693698A (zh) * | 2020-12-30 | 2022-07-01 | 四川大学华西医院 | 一种基于神经网络的计算机辅助肺气道分割方法 |
CN114693698B (zh) * | 2020-12-30 | 2023-06-20 | 四川大学华西医院 | 一种基于神经网络的计算机辅助肺气道分割方法 |
CN112801964A (zh) * | 2021-01-20 | 2021-05-14 | 中国人民解放军总医院 | 肺部ct图像的多标签智能检测方法、装置、设备和介质 |
CN112861693A (zh) * | 2021-02-02 | 2021-05-28 | 东北林业大学 | 基于深度学习的植物叶片显微图像气孔分割方法 |
CN112861693B (zh) * | 2021-02-02 | 2022-08-30 | 东北林业大学 | 基于深度学习的植物叶片显微图像气孔分割方法 |
CN112651969B (zh) * | 2021-02-08 | 2023-04-07 | 福州大学 | 结合多信息融合网络和区域增长的气管树分级提取方法 |
CN112651969A (zh) * | 2021-02-08 | 2021-04-13 | 福州大学 | 结合多信息融合网络和区域增长的气管树分级提取方法 |
CN112734755A (zh) * | 2021-03-15 | 2021-04-30 | 四川大学 | 基于3d全卷积神经网络与多任务学习的肺叶分割方法 |
CN113327274A (zh) * | 2021-04-15 | 2021-08-31 | 中国科学院苏州生物医学工程技术研究所 | 集成分割功能的肺ct图像配准方法及系统 |
CN113327274B (zh) * | 2021-04-15 | 2024-01-30 | 中国科学院苏州生物医学工程技术研究所 | 集成分割功能的肺ct图像配准方法及系统 |
CN113470042A (zh) * | 2021-05-27 | 2021-10-01 | 广州医科大学附属第一医院 | 肺部ct图像的支气管分割方法及相关系统和存储介质 |
CN113344881A (zh) * | 2021-06-09 | 2021-09-03 | 西安智诊智能科技有限公司 | 一种基于深度学习的肺叶图像分割方法 |
CN113450364B (zh) * | 2021-06-29 | 2022-05-13 | 湖南大学 | 一种基于三维通量模型的树状结构中心线提取方法 |
CN113450364A (zh) * | 2021-06-29 | 2021-09-28 | 湖南大学 | 一种基于三维通量模型的树状结构中心线提取方法 |
CN113807428A (zh) * | 2021-09-14 | 2021-12-17 | 清华大学 | 分类模型概率标签的重构方法、系统、装置及存储介质 |
WO2023066364A1 (zh) * | 2021-10-21 | 2023-04-27 | 苏州微创畅行机器人有限公司 | 三维图像处理方法、装置、计算机设备和存储介质 |
CN114037709B (zh) * | 2021-11-05 | 2023-06-16 | 复旦大学附属肿瘤医院 | 一种磨玻璃肺结节分割方法及装置 |
CN114418931A (zh) * | 2021-11-23 | 2022-04-29 | 东北大学 | 术后剩余肺叶的提取方法及装置、电子设备和存储介质 |
CN114418931B (zh) * | 2021-11-23 | 2024-06-04 | 东北大学 | 术后剩余肺叶的提取方法及装置、电子设备和存储介质 |
CN114092496A (zh) * | 2021-11-30 | 2022-02-25 | 西安邮电大学 | 一种基于空间加权的唇部分割方法及系统 |
CN114067314B (zh) * | 2022-01-17 | 2022-04-26 | 泗水县锦川花生食品有限公司 | 一种基于神经网络的花生霉变识别方法及系统 |
CN114067314A (zh) * | 2022-01-17 | 2022-02-18 | 泗水县锦川花生食品有限公司 | 一种基于神经网络的花生霉变识别方法及系统 |
CN115147359A (zh) * | 2022-06-06 | 2022-10-04 | 北京医准智能科技有限公司 | 肺叶分割网络模型训练方法、装置、电子设备及存储介质 |
CN116030078A (zh) * | 2023-03-29 | 2023-04-28 | 之江实验室 | 多任务学习框架下结合注意力的肺叶分割方法及系统 |
CN116152278A (zh) * | 2023-04-17 | 2023-05-23 | 杭州堃博生物科技有限公司 | 医疗图像的分割方法及装置、非易失性存储介质 |
CN116363020A (zh) * | 2023-06-01 | 2023-06-30 | 青岛市中心医院 | 一种肺癌影像智能识别增强系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111563902B (zh) | 2022-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111563902B (zh) | 一种基于三维卷积神经网络的肺叶分割方法及系统 | |
WO2023077816A1 (zh) | 边界优化的遥感图像语义分割方法、装置、设备及介质 | |
CN111047551B (zh) | 一种基于U-net改进算法的遥感影像变化检测方法及系统 | |
CN110428428B (zh) | 一种图像语义分割方法、电子设备和可读存储介质 | |
CN110287849B (zh) | 一种适用于树莓派的轻量化深度网络图像目标检测方法 | |
CN112966684B (zh) | 一种注意力机制下的协同学习文字识别方法 | |
CN107886514B (zh) | 基于深度残差网络的乳腺钼靶图像肿块语义分割方法 | |
CN111784671B (zh) | 基于多尺度深度学习的病理图像病灶区域检测方法 | |
CN111145181B (zh) | 基于多视角分离卷积神经网络的骨骼ct图像三维分割方法 | |
CN111369563A (zh) | 一种基于金字塔空洞卷积网络的语义分割方法 | |
CN110070091B (zh) | 用于街景理解的基于动态插值重建的语义分割方法及系统 | |
CN113034505B (zh) | 一种基于边缘感知网络的腺体细胞图像分割方法及装置 | |
CN113240691A (zh) | 一种基于u型网络的医学图像分割方法 | |
CN115205672A (zh) | 一种基于多尺度区域注意力的遥感建筑物语义分割方法及系统 | |
CN112348830B (zh) | 基于改进3D U-Net的多器官分割方法 | |
CN112950780A (zh) | 一种基于遥感影像的网络地图智能生成方法及系统 | |
CN113344933A (zh) | 一种基于多层次特征融合网络的腺体细胞分割方法 | |
CN112270366A (zh) | 基于自适应多特征融合的微小目标检测方法 | |
CN113888505A (zh) | 一种基于语义分割的自然场景文本检测方法 | |
CN109741358A (zh) | 基于自适应超图学习的超像素分割方法 | |
CN117437423A (zh) | 基于sam协同学习和跨层特征聚合增强的弱监督医学图像分割方法及装置 | |
CN117474796B (zh) | 一种图像生成方法、装置、设备及计算机可读存储介质 | |
CN113989256A (zh) | 遥感图像建筑物的检测模型优化方法及检测方法、装置 | |
CN117726872A (zh) | 基于多视图多任务特征学习的肺部ct图像分类方法 | |
CN117593275A (zh) | 一种医学图像分割系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |