CN111784700B - 肺叶分割、模型训练、模型构建与分割方法、系统及设备 - Google Patents
肺叶分割、模型训练、模型构建与分割方法、系统及设备 Download PDFInfo
- Publication number
- CN111784700B CN111784700B CN201910273160.6A CN201910273160A CN111784700B CN 111784700 B CN111784700 B CN 111784700B CN 201910273160 A CN201910273160 A CN 201910273160A CN 111784700 B CN111784700 B CN 111784700B
- Authority
- CN
- China
- Prior art keywords
- lung
- image
- neural network
- network layer
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 210000004072 lung Anatomy 0.000 title claims abstract description 446
- 230000011218 segmentation Effects 0.000 title claims abstract description 353
- 238000000034 method Methods 0.000 title claims abstract description 141
- 238000012549 training Methods 0.000 title claims abstract description 25
- 238000010276 construction Methods 0.000 title claims abstract description 8
- 238000003062 neural network model Methods 0.000 claims abstract description 219
- 238000010586 diagram Methods 0.000 claims description 50
- 238000012545 processing Methods 0.000 claims description 44
- 230000006870 function Effects 0.000 claims description 39
- 238000004364 calculation method Methods 0.000 claims description 32
- 230000008569 process Effects 0.000 claims description 23
- 238000005457 optimization Methods 0.000 claims description 21
- 238000000605 extraction Methods 0.000 claims description 20
- 238000013528 artificial neural network Methods 0.000 claims description 18
- 230000002685 pulmonary effect Effects 0.000 claims description 12
- 238000012937 correction Methods 0.000 claims description 8
- 238000011144 upstream manufacturing Methods 0.000 claims description 7
- 238000005192 partition Methods 0.000 claims description 5
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 3
- 238000013527 convolutional neural network Methods 0.000 description 14
- 238000004590 computer program Methods 0.000 description 13
- 238000002591 computed tomography Methods 0.000 description 9
- 210000004027 cell Anatomy 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 239000000470 constituent Substances 0.000 description 6
- 238000010606 normalization Methods 0.000 description 6
- 238000011160 research Methods 0.000 description 6
- 230000003068 static effect Effects 0.000 description 6
- 210000000056 organ Anatomy 0.000 description 5
- 238000000638 solvent extraction Methods 0.000 description 5
- 238000013136 deep learning model Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000002708 enhancing effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 208000019693 Lung disease Diseases 0.000 description 1
- 208000002151 Pleural effusion Diseases 0.000 description 1
- 210000001557 animal structure Anatomy 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000013316 zoning Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/94—Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20152—Watershed segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30061—Lung
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Epidemiology (AREA)
- Data Mining & Analysis (AREA)
- Primary Health Care (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Quality & Reliability (AREA)
- Databases & Information Systems (AREA)
- Pathology (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本申请实施例提供一种肺叶分割、模型训练、模型构建与分割方法、系统及设备。其中,方法包括如下的步骤:确定第一神经网络模型;将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。本申请实施例通过引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种肺叶分割、模型训练、模型构建与分割方法、系统及设备。
背景技术
利用神经网络模型进行图像识别是目前人工智能领域常用的技术手段,图像识别是指识别图像中的目标对象或者实现对图像中的目标对象的分割,如动物体分割或动物体器官分割等。
以人体肺叶分割为例,在医院和体检中心等医疗机构,检测出患者的肺部疾病(例如:肺结节、胸腔积液)后,还需要借助肺叶分割信息,进行定位,从而方便制定手术计划。随着计算机视觉识别技术的发展,很多医院和体检中心采用深度学习模型来获得肺叶分割信息,即将肺部分割成五个肺叶(左上肺叶、左下肺叶、右上肺叶、右中肺叶和右下肺叶)。
然而,目前的深度学习模型在分割目标对象,例如肺叶时,经常会出现误分等情况。
发明内容
鉴于上述问题,提出了本申请以提供一种解决上述问题或至少部分地解决上述问题的肺叶分割、模型训练、模型构建与分割方法、系统及设备。
于是,在本申请的一个实施例中,提供了一种肺叶分割方法。该方法包括:
确定第一神经网络模型;
将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
在本申请的另一实施例中,提供了一种模型训练方法。该方法,包括:
将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果;
根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化;
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
在本申请的又一实施例中,提供了一种模型构建方法。该方法,包括:
构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
在本申请的又一实施例中,提供了一种肺叶分割方法。该方法,包括:
将包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域;
将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果;
根据所述肺部分割结果,对所述肺叶分割结果进行修正。
在本申请的又一实施例中,提供了一种分割方法。该方法,包括:
将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域;
根据所述目标分割结果,对所述单元区域进行修正。
在本申请的又一实施例中,提供了一种神经网络系统。该系统,包括:用于识别出待处理图像中构成目标对象的单元对应的单元区域的多个网络层;所述多个网络层中任意两个相连接的网络层中下游网络层的输入数据为上游网络层的输出数据;
所述多个网络层中包括第一网络层;所述第一网络层,用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
在本申请的又一实施例中,提供了一种分割方法。该方法,包括:
获取包含目标对象影像的待处理图像;
对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作;
基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域。
在本申请的又一实施例中,提供了一种电子设备。该设备,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
确定第一神经网络模型;
将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
在本申请的又一实施例中,提供了一种电子设备。该设备,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果;
根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化;
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
在本申请的又一实施例中,提供了一种电子设备。该设备,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
在本申请的又一实施例中,提供了一种电子设备。该设备,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
将包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域;
将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果;
根据所述肺部分割结果,对所述肺叶分割结果进行修正。
在本申请的又一实施例中,提供了一种电子设备。该设备,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域;
根据所述目标分割结果,对所述单元区域进行修正。
在本申请的又一实施例中,提供了一种电子设备。该设备,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
获取包含目标对象影像的待处理图像;
对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作;
基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域。
本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,第一网络层对对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请一实施例提供的肺叶分割方法的流程示意图;
图2为本申请一实施例提供的模型训练方法的流程示意图;
图3为本申请又一实施例提供的肺叶分割方法的流程示意图;
图4为本申请一实施例提供的分割方法的流程示意图;
图5为本申请一实施例提供的肺叶分割装置的结构框图;
图6为本申请一实施例提供的模型训练装置的结构框图;
图7为本申请一实施例提供的分割装置的结构框图;
图8为本申请又一实施例提供的肺叶分割装置的结构框图;
图9为本申请又一实施例提供的分割装置的结构框图;
图10为本申请又一实施例提供的电子设备的结构框图;
图11为本申请又一实施例提供的分割方法的流程示意图。
具体实施方式
目前,常采用多层的神经网络模型进行肺叶分割,如卷积神经网络(Convolutional Neural Networks,CNN)模型。需要说明的是,本申请实施例中分割一词可理解为语义上的分割。
神经网络模型通常由多层网络层构成,每一层网络层包括多个神经元(节点),神经网络模型的多层网络层中包括输入层、输出层及位于输入层以及输出层之间的至少一个隐藏层(除输入层和输出层以外的其他各层叫做隐藏层,隐藏层不直接接受外界的信号,也不直接向外界发送信号),至少一个隐藏层可以对输入至输入层的待处理图像进行逐级计算处理,以获得对待处理图像的深入表达。因此,隐藏层的输出为可以表征待处理图像的特征图,不同隐藏层输出的特征图不同,每一层隐藏层对于其前一层隐藏层的特征表示更深入。每一层隐藏层的特征图通常是一个多通道特征图,多通道特征图中包含多个通道图。例如:待处理图像为二维图像时,对应的多通道特征图可表示为c*w*h结构,其中,c指的是通道数,w和h指的是每一通道图(此时通道图是二维的)的宽和高;待处理图像为三维图像时,对应的多通道特征图可表示为c*d*w*h,其中,c指的是通道数,d、w和h指的是每一通道图(此时通道图是三维的)的深度、宽和高。
目前,对于肺叶分割问题,此前的一些无监督的方法包括分水岭变换、图形切割、曲面拟合和半自动分割。这些方法使用解剖学信息作为先验知识,包括气道,血管和肺间裂隙的分布,接着产生肺叶的最终分割。但是,气管血管的分割并不总是可靠的,且这些方法鲁棒性较差。虽然随着计算机视觉方向的发展,出现了端对端的深度学习模型来分割五个肺叶,但现有的深度学习模型在进行肺叶分割时还是存在分割不准确的问题。
发明人在实现本申请技术方案的过程中研究发现,肺部图像中五片肺叶的相对位置分布比较固定,若是在神经网络模型中引入坐标信息,是否可以减少肺内误分情况。据此,发明人提出了本申请的技术方案。在本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
需要补充的是,引入坐标信息,可实现工程性能的优化,如减轻网络参数量,降低预测时间。
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
此外,在本申请的说明书、权利要求书及上述附图中描述的一些流程中,包含了按照特定顺序出现的多个操作,这些操作可以不按照其在本文中出现的顺序来执行或并行执行。操作的序号如101、102等,仅仅是用于区分各个不同的操作,序号本身不代表任何的执行顺序。另外,这些流程可以包括更多或更少的操作,并且这些操作可以按顺序执行或并行执行。需要说明的是,本文中的“第一”、“第二”等描述,是用于区分不同的消息、设备、模块等,不代表先后顺序,也不限定“第一”和“第二”是不同的类型。
本申请一实施例提供了一种神经网络系统。该神经网络系统包括:用于识别出待处理图像中构成目标对象的单元对应的单元区域的多个网络层;所述多个网络层中任意两个相连接的网络层中下游网络层的输入数据为上游网络层的输出数据;所述多个网络层中包括第一网络层;所述第一网络层,用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
在实际应用时,待处理图像可以是医学设备(如CT设备、X光设备)采集到的含有生物体或生物器官影像的图像,也可以是工业设备(如工业CT设备)采集到含有设备内部结构影像的图像等等,本申请实施例对此不作具体限定。目标对象可以为待处理图像中关注物体的影像,例如,具有多个组成单元(或结构)的设备影像、具有多个组成单元的动物体、动物体器官等。
构成目标对象的单元通常为多个,因此,识别出的单元区域的数量可为多个,每一个单元对应一个单元区域。
输入至所述第一网络层的输入数据,可以是待处理图像,还可以是与所述第一网络层连接的上游网络层的输出数据,例如,与所述第一网络层连接的上游网络层的输出数据可以是对待处理图像进行特征提取后得到的第一特征图。
本申请实施例提供的技术方案中,在神经网络系统中设计了第一网络层,第一网络层对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。在识别出待处理图像中构成目标对象的单元对应的单元区域时,由于构成目标对象的各个单元的相对位置分布比较固定,引入坐标信息,可使得神经网络系统学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少误分情况,提高分割的准确度。
在一实例中,输入至所述第一网络层的输入数据中可包括至少一个通道图,当输入数据中包括两个或多个通道图时,该输入数据可称为多通道特征图;当输入数据中仅包括一个通道图时,该输入数据可称为单通道特征图。
第一网络层为输入数据添加带有坐标信息的附加通道,附加通道的数量由待处理图像的维度或者由输入数据中通道图的维度确定,每一附加通道的尺寸与通道图的尺寸一致。当待处理图像为二维图像时,输入数据中通道图也是二维的,附加通道的数量为两,即第一轴(例如x轴)对应的附加通道和第二轴(例如y轴)对应的附加通道,其中第一轴和第二轴相交,每一附加通道的二维尺寸与通道图的二维尺寸一致;当待处理图像为三维图像时,输入数据中通道图也是三维的,附加通道的数量为三,即第一轴(例如x轴)对应的附加通道、第二轴(例如y轴)对应的附加通道和第三轴(例如z轴)对应的附加通道,其中第一轴、第二轴和第三轴两两相交,每一附加通道的三维尺寸与通道图的三维尺寸一致。各轴对应的附加通道中对应位置处添加有输入数据中通道图中各元素在相应轴上的坐标。
在一种可实现的方案中,所述输入数据为多通道特征图,即输入数据中包括至少两个通道图。所述多通道特征图中包括第一通道图。其中,第一通道图指代的是至少两个通道图中任一通道图。所述附加通道的生成过程包括如下几个步骤:
11、根据所述第一通道图中各元素所在位置,生成所述各元素的坐标信息。
12、根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道。
上述11中,当第一通道图为二维时,元素可理解为像素;当第一通道图为三维时,元素可理解为体素。
第一通道图的本质为数组。第一通道图为二维时,第一通道图即为一二维数组,第一通道图中各元素所在位置也即是各元素在该二维数组中的行列位置(X,Y),其中,X指的是行位置,Y指的是列位置;第一通道图为三维时,第一通道图即为一三维数组,第一通道图中各元素所在位置也即是各元素在该三维数组中的行列页位置(X,Y,Z),其中,X指的是行位置,Y指的是列位置,Z指的是页位置。
根据第一通道图中各元素所在位置,生成各元素的坐标信息的步骤具体可采用如下方法中的一种来实现:
方法一:将各元素所在的位置信息直接作为各元素的坐标信息。
下面将以第一通道图为一2*2*2三维数组为例进行示例说明:该2*2*2三维数组中包括8个元素:元素A、B、C、D、E、F、G和H。元素A所在的位置信息为(2,2,1),则元素A的坐标信息为(2,2,1)。
方法二:对所述各元素在所述第一通道图中的位置信息进行归一化处理(即标准化处理)得到所述各元素的坐标信息。
最终得到的各元素的坐标信息中坐标值均位于-1到1之间。对各元素所在的位置信息进行归一化处理有助于后续的特征提取。
沿用上例,对元素A所在的位置信息(2,2,1)进行标准化处理,也即是将页位置、行位置以及列位置除以2,得到(1,1,0.5),也即是元素A的坐标信息为(1,1,0.5)。
上述12中,按照第一通道图中各元素所在位置,在附加通道中相应位置处填充各元素的坐标信息。
以待处理图像为三维图像为例,第一通道图即为三维通道图,所述坐标信息中包括第一轴上的第一坐标、第二轴上的第二坐标以及第三轴上的第三坐标;所述第一轴、所述第二轴和所述第三轴两两相交。上述S11中“根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道”,具体可采用如下步骤来实现:
111、根据所述第一通道图中各元素所在位置以及所述各元素的第一坐标,生成所述第一轴对应的第一附加通道。
112、根据所述第一通道图中各元素所在位置以及所述各元素的第二坐标,生成所述第二轴对应的第二附加通道。
113、根据所述第一通道图中各元素所在位置以及所述各元素的第三坐标,生成所述第三轴对应的第三附加通道。
上述S111中,按照第一通道图中各元素所在位置,在第一轴对应的第一附加通道中相应位置处填充各元素的第一坐标。沿用上例,第一通道图为2*2*2三维数组,第一附加通道也为一2*2*2三维数组,元素A所在的位置信息(2,2,1),元素A的坐标信息为(1,1,0.5),假设第一轴为x轴,那么在第一附加通道中(2,2,1)位置处填充元素A的第一坐标,即1。
上述S112中,按照第一通道图中各元素所在位置,在第二轴对应的第二附加通道中相应位置处填充各元素的第二坐标。沿用上例,假设第二轴为y轴,那么在第二附加通道中(2,2,1)位置处填充元素A的第二坐标,即1。
上述S113中,按照第一通道图中各元素所在位置,在第三轴对应的第三附加通道中相应位置处填充各元素的第三坐标。沿用上例,假设第三轴为z轴,那么在第三附加通道中(2,2,1)位置处填充元素A的第三坐标,即0.5。
在一实例中,上述步骤11和步骤12可由上述第一网络层来实现。
在一种可实现的方案中,上述“基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据”的步骤,具体包括:对添加所述附加通道的输入数据进行特征提取,得到第三特征图,以作为所述第一网络层的输出数据。
在另一种可实现的方案中,上述“基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据”的步骤,具体包括:将添加所述附加通道的输入数据作为所述第一网络层的输出数据,在本实施例中,第一网络层仅执行附加通道添加的步骤。具体实施时,多个网络层中还包括:与所述第一网络层连接的卷积层,该卷积层用于对第一网络层的输出数据进行特征提取得到第三特征图。
进一步的,所述多个网络层中包括输入层和输出层;所述第一网络层位于所述输入层和所述输出层之间。神经网络系统中第一网络层的所处位置以及数量可根据实际需要进行设定,本申请实施例对此不做具体限定。
发明人通过研究发现:若将第一网络层设置在神经网络系统中靠前位置(即靠上游设置),随着往后不断做特征提取,会弱化坐标信息,致使分割准确度提升较少。若第一网络层设置在神经网络系统的输出层之前,与输出层连接,可以较大幅度提升分割准确度。
在一实施例中,神经网络系统中仅设置有一个第一网络层,且第一网络层与输出层连接。
需要补充的是,上述多个网络层中还可包括:卷积层、下采样层、上采样层等等。多个网络层中除第一网络层以外的其他网络层的处理过程可参见现有技术,在此不做具体限定。
图11为本申请一实施例提供的分割方法的流程示意图。如图11所示,该方法包括:
21、获取包含目标对象影像的待处理图像。
22、对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作。
23、基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域。
上述21中,在实际应用时,待处理图像可以是医学设备(如CT设备、X光设备)采集到的含有生物体或生物器官影像的图像,也可以是工业设备(如工业CT设备)采集到含有设备内部结构影像的图像等等,本申请实施例对此不作具体限定。目标对象可以为待处理图像中关注物体的影像,例如,具有多个组成单元的设备影像、具有多个组成单元的动物体、具有多个组成单元的动物体器官等。
在一种可实现的方案中,上述22中,可直接为待处理图像添加带有坐标信息的附加通道。附加通道的生成过程可参见上述各实施例中相应内容,在此不再赘述。
在另一种可实现的方案中,上述22中“对所述待处理图像进行处理”,具体可采用如下步骤来实现:
S221、对所述待处理图像进行特征提取,得到第一特征图。
S222、为所述第一特征图添加所述附加通道,得到第二特征图。
上述S221中,可通过第一神经网络模型中至少一层网络层对待处理图像进行特征提取,得到第一特征图。
上述S222中,附加通道的生成过程可参见上述各实施例中相应内容,在此不再赘述。
上述23中,基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域。
本申请实施例提供的技术方案中,在分割构成目标对象的各单元对应的单元区域时,由于构成目标对象的各个单元的相对位置分布比较固定,引入坐标信息,可使得神经网络系统学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少误分情况,提高分割的准确度。
进一步的,上述22中“对所述待处理图像进行处理”,具体还可包括如下步骤:
S223、对所述第二特征图进行特征提取,得到第三特征图。
例如:通过卷积操作对第二特征图进行特征提取。
在一实例中,上述添加所述附加通道的步骤、对所述第二特征图进行特征提取得到第三特征图的步骤可由第一神经网络模型中第一网络层实现。
本申请实施例中第一神经网络模型的训练过程如下:将包含样本对象影像的样本图像输入第一神经网络模型,识别出构成所述样本对象的单元对应的预测单元区域;其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据;根据所述预测单元区域与所述样本图像的期望单元区域,对所述第一神经网络模型进行参数优化;其中,所述第一神经网络模型用于对识别出构成目标对象的单元对应的单元区域。
进一步的,“根据所述预测单元区域与所述样本图像的期望单元区域,对所述第一神经网络模型进行参数优化”的步骤具体可以为:将所述预测单元区域与所述样本图像的期望单元区域作为Dice coefficient损失函数的输入,执行Dice coefficient损失函数得到损失值;根据损失值,对所述第一神经网络模型进行参数优化。损失值大于或等于损失阈值,则根据损失值,对所述第一神经网络模型进行参数优化;损失值小于损失阈值,则停止训练,得到的第一神经网络模型即可投入应用。
进一步的,在将所述样本图像输入所述第一神经网络模型之前,还包括:
将所述样本图像输入第二神经网络模型,获得样本分割结果,所述样本分割结果中包括识别出的样本对象区域和样本对象以外区域;更改所述样本图像中所述样本对象以外区域对应的第一区域的灰度值以增强所述样本图像中所述样本对象区域对应的第二区域和第一区域的差别。这样有助于第一神经网络模型学习到各单元的特征,也可加快网络收敛。
进一步的,所述第一神经网络模型中包括输入层和输出层;所述第一网络层位于所述输入层和所述输出层之间,且与所述输出层连接。这样,可大幅度提高分割准确度。
为了避免目标对象的组成单元分割结果中出现的目标对象以外区域误分的情况,上述方法,还可包括:
25、将所述待处理图像输入第二神经网络模型,获得目标分割结果。
其中,所述目标分割结果中包括识别出的目标对象区域。
26、根据所述目标分割结果,对所述单元区域进行修正。
上述25中,目标对象区域即是识别出的目标对象所占区域。上述目标分割结果中还可包括目标对象以外区域。目标对象以外区域即是第一图像中除目标对象所占区域以外的区域。
第二神经网络模型可以U-net作为基础网络架构,第二神经网络模型可以事先经一有对象轮廓标注的公开数据集训练得到。第二神经网络模型还可对其预测出的对象轮廓进行平滑处理,以得到完整且连续的对象区域。第二神经网络模型的具体训练过程可参见现有技术,在此不再详述。
需要补充说明的是:当第二神经网络模型只能处理二维图像且待处理图像为三维图像时,可将待处理图像切割成多个二维图像,分别输入到第二神经网络模型中,得到多个二维目标分割结果;再将多个二维目标分割结果拼接成一个三维目标分割结果,以供后续使用。
在一种可实现的方案中,上述26中“根据所述目标分割结果,对所述单元区域进行修正”,具体可采用如下步骤来实现:
S261a、根据所述目标对象以外区域,确定出所述单元区域中目标对象以外误分区域。
S262a、在所述单元区域中,将所述目标对象以外误分区域的类别修正为目标对象以外区域类别,以得到修正后的单元区域。
上述261a中,目标对象以外误分区域指的是识别出的单元区域中将原本属于目标对象以外区域类别的区域预测成目标对象的单元类别的区域。
将识别出的单元区域与目标分割结果中目标对象以外区域的交集确定为目标对象以外误分区域。
在另一种可实现的方案中,所述目标分割结果中目标对象区域中各元素对应的类别值赋为第一数值(第一数值代表的就是目标对象区域类别),目标对象以外区域中各元素对应的类别值赋为第二数值(第二数值代表的就是目标对象以外区域类别,也即是背景类别)。上述26“根据所述目标分割结果,对所述单元区域进行修正”,具体可以为:
S261b、按照预先定义的运算规则,确定所述单元区域中各元素对应的类别值与所述目标分割结果中相应元素对应的类别值的计算结果,以作为所述单元区域中各元素对应的修正类别值。
S262、根据所述单元区域中各元素对应的修正类别值,生成修正后的单元区域。
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
其中,各元素在组成单元分割结果中的位置信息与各元素的相应元素在目标分割结果中的位置信息相同。
举例来说:识别出的单元区域中元素A的位置为(150,162,32),元素A对应的类别值为1,目标分割结果中元素A’的位置也为(150,162,32),元素A’对应的类别值为0,元素A’即是元素A的相应元素,元素A对应的类别值1与元素A’对应的类别值0相乘,得到元素A对应的修正类别值为0。可以看出,组成单元分割结果中元素A的类别值预测错了,元素A应该属于目标对象以外区域类别。这样,可以有效修正后续组成单元分割中的目标对象以外误分情况。
在本实施例中,通过第二神经网络模型的辅助,可减少目标对象以外误分的情况。
进一步的,目标分割结果中包括识别出的目标对象区域和目标对象以外区域。在对所述待处理图像进行处理,以为其添加带有坐标信息的附加通道,得到第二特征图的步骤之前,上述方法,还可包括:
27、更改所述待处理图像中所述目标对象以外区域对应的第一区域的灰度值以增强所述待处理图像中所述目标对象区域对应的第二区域和第一区域的差别。
以目标对象为肺部举例说明:在所述待处理图像中,将第一区域的灰度值统一设置为大于第一预设阈值的设定值。
在本实施例中,通过增强待处理图像中目标对象区域和目标对象以外区域的差别,可有助于后续神经网络学习目标对象的各单元的特征,提高准确度。
图4示出了本申请又一实施例提供的分割方法的流程示意图。如图4所示,该方法,包括:
501、将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果。
其中,所述目标分割结果中包括识别出的目标对象区域。
502、将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域。
503、根据所述目标分割结果,对所述单元区域进行修正。
上述501中,在实际应用时,待处理图像可以是医学设备(如CT设备、X光设备)采集到的含有生物体或生物器官影像的图像,也可以是工业设备(如工业CT设备)采集到含有设备内部结构影像的图像等等,本申请实施例对此不作具体限定。目标对象可以为待处理图像中关注物体的影像。
目标对象区域即是识别出的目标对象所占区域。所述目标分割结果中还可包括目标对象以外区域,目标对象以外区域即是待处理图像中除目标对象所占区域以外的区域。
第二神经网络模型的具体训练过程可参见上述各实施例中相应内容,在此不再详述。
上述502中,第一神经网络模型可以是指深度神经网络模型、循环神经网络模型等,本申请不对第一神经网络模型的类型进行具体限定。
为了提高单元区域的分割准确度,第一神经网络模型可以为基于坐标指引的神经网络模型,具体地,第一神经网络模型中包括第一网络层,第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
为输入数据添加带有坐标信息的附加通道的具体实现可参照上述各实施例中相应内容,在此不再赘述。
在一种可实现的方案中,基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据的步骤,具体为对添加所述附加通道后的输入数据进行特征提取,得到第三特征图。即第一网络层不仅执行附加通道添加的步骤,还执行对添加所述附加通道后的输入数据进行特征提取的操作。
在实际应用中,上述第一神经网络模型可以是基于对卷积神经网络(CNN)模型改进得到的,即将卷积神经网络模型中的至少一个卷积层中各卷积层替换为本申请实施例中提供的第一网络层。该卷积神经网络具体可以为全卷积神经网络模型,在一种可实现的方案中,全卷积神经网络模型可以v-net作为基础网络架构。
上述503的具体实现可参见上述各实施例中相应内容,在此不再赘述。
在本实施例中,通过第二神经网络模型的辅助,可减少目标对象以外误分的情况。
在一种可实现的方案中,所述目标分割结果中还包括识别出的目标对象以外区域;所述目标分割结果中目标对象区域中各元素对应的类别值赋为第一数值,目标对象以外区域中各元素对应的类别值赋为第二数值。上述503中“根据所述目标分割结果,对所述单元区域进行修正”,具体可采用如下步骤来实现:
5031、按照预先定义的运算规则,确定所述单元区域中各元素对应的类别值与所述目标分割结果中相应元素对应的类别值的计算结果,以作为所述单元区域中各元素对应的修正类别值。
5032、根据所述单元区域中各元素对应的修正类别值,生成修正后的单元区域。
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
进一步的,在将所述待处理图像输入所述第一神经网络模型之前,上述方法,还可包括:
504、更改所述待处理图像中所述目标对象以外区域对应的第一区域的灰度值以增强所述待处理图像中所述目标对象区域对应的第二区域和所述第一区域的差别。
上述504的具体实现可参见上述各实施例中相应内容,在此不再赘述。将更改后的待处理图像输入至第一神经网络模型中。
在本实施例中,通过增强待处理图像中目标对象区域和目标对象以外区域的差别,可有助于后续神经网络学习目标对象的各组成单元的特征,提高准确度。
进一步的,所述第一神经网络模型中还包括:输入层和输出层。所述第一网络层位于所述输入层和输出层之间。
第一神经网络模型中的第一网络层的位置以及数量可根据实际需要进行设定,本申请实施例对此不做具体限定。
发明人通过研究发现:若将第一网络层设置在第一神经网络模型中靠前位置,随着往后不断做特征提取(例如:卷积),会弱化坐标信息,致使组成单元分割的准确度提升较少。若将第一网络层设置在输出层之前,与输出层连接,可以较大幅度提升单元区域分割准确度。
在一实例中,第一神经网络模型中仅设置有一个第一网络层,且第一网络层与输出层连接。
本申请实施例中第一神经网络模型的训练过程可参见上述各实施例中相应内容,在此不再赘述。
下面将介绍第一神经网络模型的构建方法:构建至少一个网络层,以获得用于识别出构成目标对象的单元对应的单元区域的第一神经网络模型;其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
这里需要说明的是:本申请实施例提供的所述方法中各步骤未尽详述的内容可参照上述实施例中相应内容,此处不再赘述。此外,本申请实施例提供的所述方法中除了上述各步骤以外,还可包括上述各实施例中其他部分或全部步骤,具体可参见上述各实施例相应内容,在此不再赘述。
本申请各实施例提供的技术方案,可适用于多种应用场景,如对医学影像或工业CT采集探伤影像进行分割的场景。以下各实施例均以对医学影像进行分割的场景为例,对本方案进行说明。下面将介绍一种模型构建方法。该方法可以包括:
101、构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
第一神经网络模型中至少一个网络中除第一网络层以外的其它网络层的处理与现有技术相同,在此不再赘述。
本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,第一网络层对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
在一实例中,包含有肺部影像的待处理图像可以为胸部CT(ComputedTomography)图。
第一神经网络模型中的第一网络层的位置以及数量可根据实际需要进行设定,本申请实施例对此不做具体限定。
发明人通过研究发现:若将第一网络层设置在第一神经网络模型中靠上游位置,随着往后不断做特征提取,会弱化坐标信息,致使肺叶分割的准确度提升较少。若仅设计一个第一网络层,且第一网络层设置在输出层之前,与输出层连接,可以较大幅度提升肺叶分割准确度。具体地,所述至少一个网络层中所述第一网络层的数量为一个;所述至少一个网络层中包括输入层和输出层;所述第一网络层位于所述输入层和所述输出层之间,且所述第一网络层与所述输出层连接。
进一步的,基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据的步骤,具体可以为:对添加所述附加通道后的输入数据进行特征提取,得到第三特征图。即第一网络层既可以执行附加通道的添加步骤,还可执行特征提取步骤。在实际应用中,上述第一神经网络模型可以是基于对卷积神经网络(CNN)模型改进得到的,即将卷积神经网络模型中的至少一个卷积层替换为本申请实施例中提供的第一网络层。该卷积神经网络具体可以为全卷积神经网络模型,在一种可实现的方案中,全卷积神经网络模型可以v-net作为基础网络架构。
上述第一网络层所作的处理具体可参见上述各实施例中相应内容,在此不再赘述。
图1为本申请一实施例提供的肺叶分割方法的流程示意图。如图1所示,该方法包括:
201、确定第一神经网络模型。
202、将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果。
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
上述202中,可将包含有肺部影像的待处理图像输入至第一神经网络模型中的输入层中。肺叶分割结果中可包括识别出的多个肺叶(通常为五个)的肺叶区域以及背景区域(即肺外区域)。
在实际应用时,将待处理图像输入至输入层之前,可对待处理图像进行预处理以满足第一神经网络模型对输入图像的尺寸要求,方便后续预测。例如:待处理图像为三维图像,可通过双线性插值为128*256*256大小,其中,128代表的是预处理后的待处理图像的深度,两个256分别代表预处理后的待处理图像的宽高。
输入至所述第一网络层的输入数据可以为待处理图像或者为对待处理图像进行特征提取后得到的第一特征图。第一网络层可以为第一神经网络模型的输入层、输出层或者为输入层和输出层之间的任一层,本实施例对此不做具体限定。
具体实施时,输入数据中可包括至少一个通道图,当输入数据中包括两个或多个通道图时,该输入数据可称为多通道特征图;当输入数据中仅包括一个通道图时,该输入数据可称为单通道特征图。
为输入数据添加附加通道的具体实现以及上述附加通道的生成过程可参见上述各实施例中相应内容,在此不再赘述。
本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,第一网络层对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
在一种可实现的方案中,所述输入数据为多通道特征图,即输入数据中包括至少两个通道图。所述输入数据中包括第一通道图。其中,第一通道图指代的是这至少两个通道图中任一通道图。上述方法,还可包括:
203、根据所述第一通道图中各元素所在位置,生成所述各元素的坐标信息。
204、根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道。
上述203和204的具体实现可参见上述各实施例中相应内容,在此不再赘述。根据第一通道图中各元素所在位置,生成各元素的坐标信息的步骤具体可采用如下方法来实现:对所述各元素在所述第一通道图中的位置信息进行归一化处理(即标准化处理)得到所述各元素的坐标信息。归一化处理过程具体可参见上述各实施例中相应内容,在此不再赘述。
需要补充的是,上述步骤203和204可由上述第一网络层来实现。
以待处理图像为三维图像为例,第一通道图即为三维通道图,所述坐标信息中包括第一轴上的第一坐标、第二轴上的第二坐标以及第三轴上的第三坐标;所述第一轴、所述第二轴和所述第三轴两两相交。上述104中“根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道”,具体可采用如下步骤来实现:
2041、根据所述第一通道图中各元素所在位置以及所述各元素的第一坐标,生成所述第一轴对应的第一附加通道。
2042、根据所述第一通道图中各元素所在位置以及所述各元素的第二坐标,生成所述第二轴对应的第二附加通道。
2043、根据所述第一通道图中各元素所在位置以及所述各元素的第三坐标,生成所述第三轴对应的第三附加通道。
上述2041、2042和2043的具体实现可参见上述各实施例中相应内容,在此不再赘述。为了避免肺叶分割结果中出现的肺外误分的情况,上述方法,还可包括:
205、将所述待处理图像输入第二神经网络模型,获得肺部分割结果。
其中,所述肺部分割结果中包括识别出的肺部区域和/或肺外区域。
206、根据所述肺部分割结果,对所述肺叶分割结果进行修正。
上述205中,第二神经网络模型可以U-net作为基础网络架构,第二神经网络模型可以事先经一有肺部轮廓标注的公开数据集训练得到。第二神经网络模型还可对其预测出的肺部轮廓进行平滑处理,以得到完整且连续的肺部区域。经验证该部分的肺部分割的精度可达百分之九十九点五以上。第二神经网络模型的具体训练过程可参见现有技术,在此不再详述。
上述206中,根据所述肺部分割结果中识别出的肺部区域或肺外区域,对所述肺叶分割结果进行修正。也即是,通过提取出肺部区域或肺外区域,可以有效修正后续肺叶分割中的肺外误分情况。
在一种可实现的方案中,上述206中“根据所述肺部分割结果,对所述肺叶分割结果进行修正”,具体可采用如下步骤来实现:
2061a、所述肺部分割结果中包括识别出的肺部区域时,根据所述肺部区域,确定出所述肺叶分割结果中肺外误分区域。
2062a、所述肺部分割结果中包括识别出的肺外区域时,根据所述肺外区域,确定出所述肺叶分割结果中所述肺外误分区域。
2063a、在所述肺叶分割结果中,将所述肺外误分区域的类别修正为肺外区域类别。
上述2061a和2062a中,肺外误分区域指的是肺叶分割结果中将原本属于肺外区域类别的区域预测成某一肺叶类别的区域。
将肺叶分割结果中由五个肺叶区域构成的总区域与肺部分割结果中肺外区域的交集确定为肺外误分区域;或者,将肺叶分割结果中由五个肺叶区域构成的总区域中去除肺部分割结果中肺部区域,剩下的区域即为肺外误分区域。
上述2063a中,在所述肺叶分割结果中,将所述肺外误分区域的类别修正为肺外区域类别。
在另一种可实现的方案中,所述肺部分割结果中肺部区域中各元素对应的类别值赋为第一数值(第一数值代表的就是肺部区域类别),肺外区域中各元素对应的类别值为第二数值(第二数值代表的就是肺外区域类别,也即是背景类别)。肺叶分割结果中包括五个肺叶区域(左上肺叶、左下肺叶、右上肺叶、右中肺叶和右下肺叶),各肺叶区域中各元素对应的类别值可根据实际需要来赋值,本申请实施例对此不做具体限定。例如:左上肺叶区域中各元素对应的类别值为1,左下肺叶中各元素对应的类别值为2、右上肺叶中各元素对应的类别值为3、右中肺叶中各元素对应的类别值为4、右下肺叶中各元素对应的类别值为5。上述106中“根据所述肺部分割结果,对所述肺叶分割结果进行修正”,具体为:
2061b、按照预先定义的运算规则,确定所述肺叶分割结果中各元素对应的类别值与所述肺部分割结果中相应元素对应的类别值的计算结果,以作为所述肺叶分割结果中各元素对应的修正类别值。
2062b、根据所述肺叶分割结果中各元素对应的修正类别值,生成修正后的肺叶分割结果。
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
其中,各元素在肺叶分割结果中的位置信息与各元素的相应元素在肺部分割结果中的位置信息相同。
举例来说:肺叶分割结果中元素A的位置为(150,162,32),元素A对应的类别值为1,肺部分割结果中元素A’的位置也为(150,162,32),元素A’对应的类别值为0,元素A’即是元素A的相应元素,元素A对应的类别值1与元素A’对应的类别值0相乘,得到元素A对应的修正类别值为0。可以看出,肺叶分割结果中元素A的类别值预测错了,元素A应该属于肺外区域类别。这样,可以有效修正后续肺叶分割中的肺外误分情况。
进一步的,为了有助于后续神经网络学习肺叶的特征,可在将待处理图像输入第一神经网络模型之前,增强待处理图像中肺部区域与肺外区域的差别。
具体地,上述方法,还包括:
207、更改所述待处理图像中所述肺外区域对应的第一区域的灰度值以增强所述待处理图像中所述肺部区域对应第二区域和所述第一区域的差别。
通常,肺部区域的灰度值小于1,可将肺外区域的灰度值设置为大于第一预设阈值。具体地,在所述待处理图像中,将所述第一区域的灰度值统一设置为大于第一预设阈值的设定值。
其中,第一预设阈值为大于1的数。第一预设阈值的大小可根据实际需要来确定,本申请实施例对此不作具体限定。上述设定值例如可以为20。
进一步的,所述第一神经网络模型中还包括:输入层和输出层。所述第一网络层位于所述输入层和输出层之间。
第一神经网络模型中的第一网络层的位置以及数量可根据实际需要进行设定,本申请实施例对此不做具体限定。
发明人通过研究发现:若将第一网络层设置在第一神经网络模型中靠前位置,随着往后不断做特征提取(例如:卷积),会弱化坐标信息,致使肺叶分割的准确度提升较少。若将第一网络层设置在输出层之前,与输出层连接,可以较大幅度提升肺叶分割准确度。
在一实施例中,第一神经网络模型中仅设置有一个第一网络层,且第一网络层与输出层连接。
进一步的,基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据的步骤,具体可以为:对添加所述附加通道后的输入数据进行特征提取,得到第三特征图。即第一网络层既可以执行附加通道的添加步骤,还可执行特征提取步骤。
综上所述,由于肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。通过第二神经网络模型的辅助,可减少肺外误分的情况。通过增强待处理图像中肺部区域和肺外区域的灰度值的差别,可有助于后续神经网络学习肺叶的特征,提高准确度以及加快网络收敛。
这里需要说明的是:本申请实施例提供的所述方法中各步骤未尽详述的内容可参见上述实施例中的相应内容,此处不再赘述。
下面将结合图2介绍本申请实施例中第一神经网络模型的训练过程。如图2所示,模型训练方法包括:
301、将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果。
302、根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化。
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
上述301中,第一神经网络中各网络层对样本图像的处理过程可参照上述各实施例中第一神经网络中各网络层对上述包含有肺部影像的待处理图像的处理过程,在此不再赘述。
上述302中,计算肺叶分割预测结果与肺叶分割期望结果之间的差异值,也即损失值,肺叶分割预测结果与肺叶分割期望结果之间的损失值大于或等于第一损失阈值,则表明网络未收敛,需要根据肺叶分割预测结果与肺叶分割期望结果之间的损失值,对所述第一神经网络模型进行参数优化;肺叶分割预测结果与肺叶分割期望结果之间的损失值小于第一损失阈值,则表明网络收敛,则可停止参数优化,即停止模型训练,得到的第一神经网络模型即可投入应用。
在模型训练过程中,可加入肺间裂隙的监督方法以提高肺叶的分割精度。事先对于样本图像中标注的肺叶类别期望值ground truth(即肺叶类别真值),通过腐蚀方法得到肺间裂隙,接着使用高斯平滑,得到样本图像中肺间裂隙类别期望值ground truth(即肺间裂隙类别真值)。通过腐蚀方式得到肺间裂隙的具体实现看参见现有技术,在此不再详述。使用上述第一神经网络模型,一边学习肺叶特征,一边学习肺间裂隙的特征,经验证加入肺间裂隙的监督方法可以提高肺叶的分割精度。
具体地,所述肺叶分割预测结果中包括肺叶分类预测结果和肺间裂隙分类预测结果;所述肺叶分割期望结果中包括肺叶分类期望结果和肺间裂隙分类期望结果。上述302中“根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化”,具体可采用如下步骤来实现:
3021、根据所述肺叶分类预测结果以及所述肺叶分类期望结果,计算第一损失值。
3022、根据所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果,计算第二损失值。
3023、综合所述第一损失值和所述第二损失值,对所述第一神经网络模型进行参数优化。
可利用现有的损失函数来计算第一损失值和第二损失值。
上述3023中,可采用如下公式(1)来计算网络的总损失值D0:
D0=D1+λ*D2 (1)
其中,D1为第一损失值,D2为第二损失值,λ的取值为(0,1]。在一实例中,λ的取值为1,即总损失值为第一损失值和第二损失值之和。
为了进一步提高第一神经网络模型的预测准确度,可采用dice coefficient损失函数来计算第一损失值和第二损失值。由于dice coefficient损失函数考虑的是肺叶分类预测结果以及肺叶分类期望结果之间的交并比(即重叠部分)、肺间裂隙分类预测结果以及肺间裂隙分类期望结果之间的交并比,考察输出结果和目标结果的符合度,尽最大可能使得预测和期望的相交比例最大,且使用dice coefficient损失函数不需要处理类别不平衡问题。
具体地,上述3021“根据所述肺叶分类预测结果以及所述肺叶分类期望结果,计算第一损失值”,具体为:将所述肺叶分类预测结果以及所述肺叶分类期望结果作为第一Dicecoefficient损失函数的输入,执行所述第一Dice coefficient损失函数得到第一损失值。
第一Dice coefficient损失函数的公式具体形式如下:
其中,gc(i)为第i个元素对应的肺叶类别真值(即肺叶类别groud truth),pc(i)为网络预测的第i个元素所属的肺叶类别,c的取值为1、2、3、4、5这五个类别值(即c只取五个肺叶对应的类别值,c不取背景类别值);γ为1e-5;代表的是样本图像中各元素对应的肺叶类别期望值均为c的肺叶区域的肺叶分类预测结果与肺叶分类期望结果之间的损失值。
这里需要补充的是,输出层在对样本图像以及上述各实施例中待处理图像中各元素进行分类时,只从五个肺叶对应的类别值中选取一个作为各元素对应的预测值。这样,可有效避免第一神经网络模型将肺叶区域误分成肺外区域类别(即背景类别),提高分割精准度。
上述3022中“根据所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果,计算第二损失值”,具体为:将所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果作为第二Dice coefficient损失函数的输入,执行所述第二Dice coefficient损失函数得到第二损失值。
第二Dice coefficient损失函数的公式(3)具体形式如下:
其中,gb(i)为第i个元素对应的肺间裂隙类别真值(即肺间裂隙类别groudtruth),pb(i)为网络预测的第i个元素所属的肺间裂隙类别,b的取值可以为1(即为肺间裂隙这一类别值)或者为0(即为非肺间裂隙这一类别值);γ为1e-5。需要说明的是,由于肺间裂隙分类属于二分类,故只需要计算b为1和0中的一种即可。
进一步的,为了有助于后续神经网络学习肺叶的特征以及加快收敛,可在将样本图像输入第一神经网络模型之前,增强样本图像中肺部区域与肺外区域的差别。具体地,上述方法,还包括:
303、将所述样本图像输入第二神经网络模型,获得样本肺部分割结果。
其中,所述样本肺部分割结果中包括识别出的肺部区域和肺外区域。
304、更改所述样本图像中所述肺外区域对应的第一区域的灰度值以增强所述样本图像中所述肺部区域对应的第二区域和所述第一区域的差别。
其中,第二神经网络模型对样本图像的处理过程可参照上述各实施例中第二神经网络模型对包含有肺部影像的待处理图像的处理过程,在此不再赘述。第二神经网络模型的训练过程具体可参见上述各实施例中相应内容,在此不再赘述。
上述304中,更改样本图像中肺外区域对应的第一区域的灰度值的步骤可参照上述各实施例中更改待处理图像中肺外区域对应的第一区域的灰度值的步骤,在此不再赘述。
进一步的,所述第一神经网络模型中还包括:输入层和输出层。所述第一网络层位于所述输入层和输出层之间。
第一神经网络模型中的第一网络层的位置以及数量可根据实际需要进行设定,本申请实施例对此不做具体限定。
发明人通过研究发现:若将第一网络层设置在第一神经网络模型中靠前位置,随着往后不断做特征提取(例如:卷积),会弱化坐标信息,致使肺叶分割的准确度提升较少。若将第一网络层设置在输出层之前,与输出层连接,可以较大幅度提升肺叶分割准确度。
在一实施例中,第一神经网络模型中仅设置有一个第一网络层,且第一网络层与输出层连接。
图3示出了本申请又一实施例提供的肺叶分割方法的流程示意图。如图3所示,该方法,包括:
401、将包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果。
其中,所述肺部分割结果中包括识别出的肺部区域。
402、将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果。
403、根据所述肺部分割结果,对所述肺叶分割结果进行修正。
在一种可实现的方案中,上述402中,第一神经网络模型可以为以v-net为基础网络架构的神经网络模型。
为了提高肺叶分割精度,第一神经网络模型具体可以为上述各实施例中提及的第一神经网络模型。
上述步骤401、402和403的具体实现可参见上述各实施例中相应内容,在此不再赘述。
本申请实施例提供的技术方案中,通过第二神经网络模型的辅助,可减少肺外误分的情况。
进一步的,所述肺部分割结果中还包括识别出的肺外区域;所述肺部分割结果中肺部区域中各元素对应的类别值赋为第一数值,肺外区域中各元素对应的类别值赋为第二数值。具体地,上述403中“根据所述肺部分割结果,对所述肺叶分割结果进行修正”具体可采用如下步骤来实现:
4031、按照预先定义的运算规则,确定所述肺叶分割结果中各元素对应的类别值与所述肺部分割结果中相应元素对应的类别值的计算结果,以作为所述肺叶分割结果中各元素对应的修正类别值。
4032、根据所述肺叶分割结果中各元素对应的修正类别值,生成修正后的肺叶分割结果。
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
这里需要说明的是:本申请实施例提供的所述方法中各步骤未尽详述的内容可参见上述实施例中的相应内容,此处不再赘述。此外,本申请实施例提供的所述方法中除了上述各步骤以外,还可包括上述各实施例中其他部分或全部步骤,具体可参见上述各实施例相应内容,在此不再赘述。
图5示出了本申请一实施例提供的肺叶分割装置的结构框图。如图5所示,该装置包括:第一确定模块601和第一获取模块602。其中,
第一确定模块601,用于确定第一神经网络模型;
第一获取模块602,用于将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,第一网络层对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
进一步的,所述输入数据为为多通道特征图;所述输入数据为中包括第一通道图;
上述装置,还包括:
第一生成模块,用于根据所述第一通道图中各元素所在位置,生成所述各元素的坐标信息;
第二生成模块,用于根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道。
进一步的,所述待处理图像为三维图像;所述第一通道图为三维通道图;所述坐标信息中包括第一轴上的第一坐标、第二轴上的第二坐标以及第三轴上的第三坐标;所述第一轴、所述第二轴和所述第三轴两两相交;
所述第二生成模块,具体用于:
根据所述第一通道图中各元素所在位置以及所述各元素的第一坐标,生成所述第一轴对应的第一附加通道;
根据所述第一通道图中各元素所在位置以及所述各元素的第二坐标,生成所述第二轴对应的第二附加通道;
根据所述第一通道图中各元素所在位置以及所述各元素的第三坐标,生成所述第三轴对应的第三附加通道。
进一步的,所述第一生成模块,具体用于:
对所述各元素在所述第一通道图中的位置信息进行归一化处理得到所述各元素的坐标信息。
进一步的,上述装置,还包括:
第二获取模块,用于将所述待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域和/或肺外区域;
第一修正模块,用于根据所述肺部分割结果,对所述肺叶分割结果进行修正。
进一步的,第一修正模块,具体用于:
所述肺部分割结果中包括识别出的肺部区域时,根据所述肺部区域,确定出所述肺叶分割结果中肺外误分区域;
所述肺部分割结果中包括识别出的肺外区域时,根据所述肺外区域,确定出所述肺叶分割结果中所述肺外误分区域;
在所述肺叶分割结果中,将所述肺外误分区域的类别修正为肺外区域类别,以得到修正后的肺叶分割结果。
进一步的,所述肺部分割结果中包括识别出的肺部区域和肺外区域;所述肺部分割结果中肺部区域中各元素对应的类别值赋为第一数值,肺外区域中各元素对应的类别值赋为第二数值;
第一修正模块,具体用于:
按照预先定义的运算规则,确定所述肺叶分割结果中各元素对应的类别值与所述肺部分割结果中相应元素对应的类别值的计算结果,以作为所述肺叶分割结果中各元素对应的修正类别值;
根据所述肺叶分割结果中各元素对应的修正类别值,生成修正后的肺叶分割结果;
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
进一步的,所述肺部分割结果中包括识别出的肺部区域和肺外区域;上述装置,还包括,第一更改模块,用于:
在将所述待处理图像输入所述第一神经网络模型之前,更改所述待处理图像中所述肺外区域对应的第一区域的灰度值以增强所述待处理图像中所述肺部区域对应的第二区域和所述第一区域的差别。
进一步的,第一更改模块,具体用于:
在所述待处理图像中,将所述第一区域的灰度值统一设置为大于第一预设阈值的设定值。
进一步的,所述第一神经网络模型中还包括:输入层和输出层;所述第一网络层位于所述输入层和输出层之间,且与所述输出层连接。
进一步的,所述第一网络层具体用于:对添加所述附加通道后的输入数据进行特征提取得到第三特征图,以作为所述第一网络层的输出数据。
这里需要说明的是:上述实施例提供的肺叶分割装置可实现上述各方法实施例中描述的技术方案,上述各模块或单元具体实现的原理可参见上述各方法实施例中的相应内容,此处不再赘述。
图6示出了本申请又一实施例提供的模型训练装置的结构框图。该装置包括:第三获取模块701和第一优化模块702。其中,
第三获取模块701,用于将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果;
第一优化模块702,用于根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化;
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
进一步的,所述肺叶分割预测结果中包括肺叶分类预测结果和肺间裂隙分类预测结果;所述肺叶分割期望结果中包括肺叶分类期望结果和肺间裂隙分类期望结果;
第一优化模块702,具体用于:
根据所述肺叶分类预测结果以及所述肺叶分类期望结果,计算第一损失值;
根据所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果,计算第二损失值;
综合所述第一损失值和所述第二损失值,对所述第一神经网络模型进行参数优化。
进一步的,第一优化模块702,具体用于:
将所述肺叶分类预测结果以及所述肺叶分类期望结果作为第一Dicecoefficient损失函数的输入,执行所述第一Dice coefficient损失函数得到第一损失值;
将所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果作为第二Dicecoefficient损失函数的输入,执行所述第二Dice coefficient损失函数得到第二损失值。
进一步的,上述装置,还包括:第四获取模块和第二更改模块,其中,
第四获取模块,用于在将所述样本图像输入所述第一神经网络模型之前,将所述样本图像输入第二神经网络模型,获得所述肺部分割结果,所述肺部分割结果中包括识别出的肺部区域和肺外区域;
第二更改模块,用于在将所述样本图像输入所述第一神经网络模型之前,更改所述样本图像中所述肺外区域对应第一区域的灰度值以增强所述样本图像中所述肺部区域对应的第二区域和所述第一区域的差别。
进一步的,所述第一神经网络模型中还包括:输入层和输出层;
所述第一网络层位于所述输入层和输出层之间,且与所述输出层连接。
这里需要说明的是:上述实施例提供的模型训练装置可实现上述各方法实施例中描述的技术方案,上述各模块或单元具体实现的原理可参见上述各方法实施例中的相应内容,此处不再赘述。
本申请又一实施例提供了一种模型构建装置。该装置,包括:
第一构建模块,构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
本申请实施例提供的技术方案中,在用于肺叶分割的第一神经网络模型中设计了第一网络层,第一网络层对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。肺部图像中五片肺叶的相对位置分布比较固定,引入坐标信息,可使得神经网络模型学习到坐标特征以及全局信息,从而起到坐标指引的作用,可有效减少肺内误分情况,提高肺叶分割的准确度。
进一步的,所述至少一个网络层中所述第一网络层的数量为一个;所述至少一个网络层中包括输入层和输出层;所述第一网络层位于所述输入层和所述输出层之间,且所述第一网络层与所述输出层连接。
这里需要说明的是:上述实施例提供的模型构建装置可实现上述各方法实施例中描述的技术方案,上述各模块或单元具体实现的原理可参见上述各方法实施例中的相应内容,此处不再赘述。
图8示出了本申请又一实施例提供的肺叶分割装置的结构框图。如图8所示,该装置,包括:第五获取模块901、第六获取模块902以及第二修正模块903。其中,
第五获取模块901,用于将所述包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域;
第六获取模块902,用于将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果;
第二修正模块903,用于根据所述肺部分割结果,对所述肺叶分割结果进行修正。
在本实施例中,通过第二神经网络模型的辅助,可减少肺外误分的情况。
进一步的,所述肺部分割结果中还包括识别出的肺外区域;所述肺部分割结果中肺部区域中各元素对应的类别值赋为第一数值,肺外区域中各元素对应的类别值赋为第二数值;
第二修正模块903,具体用于:
按照预先定义的运算规则,确定所述肺叶分割结果中各元素对应的类别值与所述肺部分割结果中相应元素对应的类别值的计算结果,以作为所述肺叶分割结果中各元素对应的修正类别值;
根据所述肺叶分割结果中各元素对应的修正类别值,生成修正后的肺叶分割结果;
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
这里需要说明的是:上述实施例提供的肺叶分割装置可实现上述各方法实施例中描述的技术方案,上述各模块或单元具体实现的原理可参见上述各方法实施例中的相应内容,此处不再赘述。
图9示出了本申请又一实施例提供的分割装置的结构框图。如图9所示,该装置包括:
第七获取模块1001,用于将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
第八获取模块1002,用于将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域;
第三修正模块1003,用于根据所述目标分割结果,对所述单元区域进行修正。
在本实施例中,通过第二神经网络模型的辅助,可减少目标对象以外误分的情况。
进一步的,所述目标分割结果中还包括识别出的目标对象以外区域;所述目标分割结果中目标对象区域中各元素对应的类别值赋为第一数值,目标对象以外区域中各元素对应的类别值赋为第二数值;
第三修正模块1003,具体用于:
按照预先定义的运算规则,确定所述单元区域中各元素对应的类别值与所述目标分割结果中相应元素对应的类别值的计算结果,以作为所述单元区域中各元素对应的修正类别值;
根据所述单元区域中各元素对应的修正类别值,生成修正后的单元区域;
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
这里需要说明的是:上述实施例提供的分割装置可实现上述各方法实施例中描述的技术方案,上述各模块或单元具体实现的原理可参见上述各方法实施例中的相应内容,此处不再赘述。
图7出了本申请一实施例提供的分割装置的结构框图。如图所示,该装置包括:第九获取模块1201、第一处理模块1202和第一识别模块1203,其中,
第九获取模块1201,用于获取包含目标对象影像的待处理图像;
第一处理模块1202,用于对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作;
第一识别模块1203,用于基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域。
进一步的,第一处理模块1202,具体用于:
对所述待处理图像进行特征提取,得到第一特征图;
为所述第一特征图添加所述附加通道,得到第二特征图。
进一步的,第一处理模块1202,还用于:
对所述第二特征图进行特征提取,得到第三特征图。
进一步的,添加所述附加通道的步骤由第一神经网络模型中第一网络层实现。
进一步的,所述第一神经网络模型中包括输入层和输出层;所述第一网络层位于所述输入层和所述输出层之间,且与所述输出层连接。
进一步的,还包括:
第十获取模块,用于将所述待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
第四修正模块,用于根据所述目标分割结果,对所述单元区域进行修正。
进一步的,上述装置,还包括:
第三更改模块,用于更改所述待处理图像中所述目标对象以外区域对应的第一区域的灰度值以增强所述待处理图像中所述目标对象区域对应的第二区域和所述第一区域的差别。
图10示出了本申请一实施例提供的电子设备的结构示意图。如图所示,所述电子设备包括存储器1101以及处理器1102。存储器1101可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1101可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
所述处理器1102,与所述存储器1101耦合,用于执行所述存储器1101中存储的所述程序,以用于:
确定第一神经网络模型;
将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
其中,处理器1102在执行存储器1101中的程序时,除了上面的功能之外,还可实现其它功能,具体可参见前面各实施例的描述。
进一步,如图10所示,电子设备还包括:通信组件1103、显示器1104、电源组件1105、音频组件1106等其它组件。图10中仅示意性给出部分组件,并不意味着电子设备只包括图10所示组件。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序被计算机执行时能够实现上述各实施例提供的肺叶分割方法步骤或功能。
图10示出了本申请一实施例提供的电子设备的结构示意图。如图所示,所述电子设备包括存储器1101以及处理器1102。存储器1101可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1101可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
所述处理器1102,与所述存储器1101耦合,用于执行所述存储器1101中存储的所述程序,以用于:
将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果;
根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化;
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据。
其中,处理器1102在执行存储器1101中的程序时,除了上面的功能之外,还可实现其它功能,具体可参见前面各实施例的描述。
进一步,如图10所示,电子设备还包括:通信组件1103、显示器1104、电源组件1105、音频组件1106等其它组件。图10中仅示意性给出部分组件,并不意味着电子设备只包括图10所示组件。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序被计算机执行时能够实现上述各实施例提供的模型训练方法步骤或功能。
图10示出了本申请一实施例提供的电子设备的结构示意图。如图所示,所述电子设备包括存储器1101以及处理器1102。存储器1101可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1101可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
所述处理器1102,与所述存储器1101耦合,用于执行所述存储器1101中存储的所述程序,以用于:
构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据。
其中,处理器1102在执行存储器1101中的程序时,除了上面的功能之外,还可实现其它功能,具体可参见前面各实施例的描述。
进一步,如图10所示,电子设备还包括:通信组件1103、显示器1104、电源组件1105、音频组件1106等其它组件。图10中仅示意性给出部分组件,并不意味着电子设备只包括图10所示组件。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序被计算机执行时能够实现上述各实施例提供的模型构建方法步骤或功能。
图10示出了本申请一实施例提供的电子设备的结构示意图。如图所示,所述电子设备包括存储器1101以及处理器1102。存储器1101可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1101可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
所述处理器1102,与所述存储器1101耦合,用于执行所述存储器1101中存储的所述程序,以用于:
将包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域;
将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果;
根据所述肺部分割结果,对所述肺叶分割结果进行修正。
其中,处理器1102在执行存储器1101中的程序时,除了上面的功能之外,还可实现其它功能,具体可参见前面各实施例的描述。
进一步,如图10所示,电子设备还包括:通信组件1103、显示器1104、电源组件1105、音频组件1106等其它组件。图10中仅示意性给出部分组件,并不意味着电子设备只包括图10所示组件。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序被计算机执行时能够实现上述各实施例提供的肺叶分割方法步骤或功能。
图10示出了本申请一实施例提供的电子设备的结构示意图。如图所示,所述电子设备包括存储器1101以及处理器1102。存储器1101可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1101可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
所述处理器1102,与所述存储器1101耦合,用于执行所述存储器1101中存储的所述程序,以用于:
将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域;
根据所述目标分割结果,对所述单元区域进行修正。
其中,处理器1102在执行存储器1101中的程序时,除了上面的功能之外,还可实现其它功能,具体可参见前面各实施例的描述。
进一步,如图10所示,电子设备还包括:通信组件1103、显示器1104、电源组件1105、音频组件1106等其它组件。图10中仅示意性给出部分组件,并不意味着电子设备只包括图10所示组件。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序被计算机执行时能够实现上述各实施例提供的分割方法步骤或功能。
图10示出了本申请一实施例提供的电子设备的结构示意图。如图所示,所述电子设备包括存储器1101以及处理器1102。存储器1101可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令。存储器1101可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
所述处理器1102,与所述存储器1101耦合,用于执行所述存储器1101中存储的所述程序,以用于:
获取包含目标对象影像的待处理图像;
对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作;
基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域。
其中,处理器1102在执行存储器1101中的程序时,除了上面的功能之外,还可实现其它功能,具体可参见前面各实施例的描述。
进一步,如图10所示,电子设备还包括:通信组件1103、显示器1104、电源组件1105、音频组件1106等其它组件。图10中仅示意性给出部分组件,并不意味着电子设备只包括图10所示组件。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,所述计算机程序被计算机执行时能够实现上述各实施例提供的分割方法步骤或功能。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (36)
1.一种肺叶分割方法,其特征在于,包括:
确定第一神经网络模型;
将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
2.根据权利要求1所述的方法,其特征在于,所述输入数据为多通道特征图;所述多通道特征图中包括第一通道图;
上述方法,还包括:
根据所述第一通道图中各元素所在位置,生成所述各元素的坐标信息;
根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道。
3.根据权利要求2所述的方法,其特征在于,所述待处理图像为三维图像;所述第一通道图为三维通道图;所述坐标信息中包括第一轴上的第一坐标、第二轴上的第二坐标以及第三轴上的第三坐标;所述第一轴、所述第二轴和所述第三轴两两相交;
根据所述第一通道图中各元素所在位置以及所述各元素的坐标信息,生成所述附加通道,包括:
根据所述第一通道图中各元素所在位置以及所述各元素的第一坐标,生成所述第一轴对应的第一附加通道;
根据所述第一通道图中各元素所在位置以及所述各元素的第二坐标,生成所述第二轴对应的第二附加通道;
根据所述第一通道图中各元素所在位置以及所述各元素的第三坐标,生成所述第三轴对应的第三附加通道。
4.根据权利要求2所述的方法,其特征在于,根据所述第一通道图中各元素所在位置,生成所述各元素的坐标信息,包括:
对所述各元素在所述第一通道图中的位置信息进行归一化处理得到所述各元素的坐标信息。
5.根据权利要求1至4中任一项所述的方法,其特征在于,还包括:
将所述待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域和/或肺外区域;
根据所述肺部分割结果,对所述肺叶分割结果进行修正。
6.根据权利要求5所述的方法,其特征在于,根据所述肺部分割结果,对所述肺叶分割结果进行修正,包括:
所述肺部分割结果中包括识别出的肺部区域时,根据所述肺部区域,确定出所述肺叶分割结果中肺外误分区域;
所述肺部分割结果中包括识别出的肺外区域时,根据所述肺外区域,确定出所述肺叶分割结果中所述肺外误分区域;
在所述肺叶分割结果中,将所述肺外误分区域的类别修正为肺外区域类别,以得到修正后的肺叶分割结果。
7.根据权利要求5所述的方法,其特征在于,所述肺部分割结果中包括识别出的肺部区域和肺外区域;所述肺部分割结果中肺部区域中各元素对应的类别值赋为第一数值,肺外区域中各元素对应的类别值赋为第二数值;
根据所述肺部分割结果,对所述肺叶分割结果进行修正,包括:
按照预先定义的运算规则,确定所述肺叶分割结果中各元素对应的类别值与所述肺部分割结果中相应元素对应的类别值的计算结果,以作为所述肺叶分割结果中各元素对应的修正类别值;
根据所述肺叶分割结果中各元素对应的修正类别值,生成修正后的肺叶分割结果;
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
8.根据权利要求5所述的方法,其特征在于,所述肺部分割结果中包括识别出的肺部区域和肺外区域;
在将所述待处理图像输入所述第一神经网络模型之前,还包括:
更改所述待处理图像中所述肺外区域对应的第一区域的灰度值以增强所述待处理图像中所述肺部区域对应的第二区域和所述第一区域的差别。
9.根据权利要求8所述的方法,其特征在于,更改所述待处理图像中所述肺外区域对应的第一区域的灰度值以增强所述待处理图像中所述肺部区域对应的第二区域和所述第一区域的差别,包括:
在所述待处理图像中,将所述第一区域的灰度值统一设置为大于第一预设阈值的设定值。
10.根据权利要求1至4中任一项所述的方法,其特征在于,所述第一神经网络模型中还包括:输入层和输出层;
所述第一网络层位于所述输入层和所述输出层之间,且与所述输出层连接。
11.根据权利要求1至4中任一项所述的方法,其特征在于,所述基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据的步骤,包括:
对添加所述附加通道后的输入数据进行特征提取得到第三特征图,以作为所述第一网络层的输出数据。
12.一种模型训练方法,其特征在于,包括:
将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果;
根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化;
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
13.根据权利要求12所述的方法,其特征在于,所述肺叶分割预测结果中包括肺叶分类预测结果和肺间裂隙分类预测结果;所述肺叶分割期望结果中包括肺叶分类期望结果和肺间裂隙分类期望结果;
根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化,包括:
根据所述肺叶分类预测结果以及所述肺叶分类期望结果,计算第一损失值;
根据所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果,计算第二损失值;
综合所述第一损失值和所述第二损失值,对所述第一神经网络模型进行参数优化。
14.根据权利要求13所述的方法,其特征在于,根据所述肺叶分类预测结果以及所述肺叶分类期望结果,计算第一损失值,包括:
将所述肺叶分类预测结果以及所述肺叶分类期望结果作为第一Dice coefficient损失函数的输入,执行所述第一Dice coefficient损失函数得到第一损失值;
根据所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果,计算第二损失值,包括:
将所述肺间裂隙分类预测结果以及所述肺间裂隙分类期望结果作为第二Dicecoefficient损失函数的输入,执行所述第二Dice coefficient损失函数得到第二损失值。
15.根据权利要求12至14中任一项所述的方法,其特征在于,在将所述样本图像输入所述第一神经网络模型之前,还包括:
将所述样本图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域和肺外区域;
更改所述样本图像中所述肺外区域对应的第一区域的灰度值以增强所述样本图像中所述肺部区域对应的第二区域和所述第一区域的差别。
16.根据权利要求12至14中任一项所述的方法,其特征在于,所述第一神经网络模型中还包括:输入层和输出层;
所述第一网络层位于所述输入层和输出层之间,且与所述输出层连接。
17.一种模型构建方法,其特征在于,包括:
构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
18.根据权利要求17所述的方法,其特征在于,所述至少一个网络层中所述第一网络层的数量为一个;
所述至少一个网络层中包括输入层和输出层;
所述第一网络层位于所述输入层和所述输出层之间,且所述第一网络层与所述输出层连接。
19.一种肺叶分割方法,其特征在于,包括:
将包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域;
将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果;其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致;
根据所述肺部分割结果,对所述肺叶分割结果进行修正。
20.根据权利要求19所述的方法,其特征在于,所述肺部分割结果中还包括识别出的肺外区域;
所述肺部分割结果中肺部区域中各元素对应的类别值赋为第一数值,肺外区域中各元素对应的类别值赋为第二数值;
根据所述肺部分割结果,对所述肺叶分割结果进行修正,包括:
按照预先定义的运算规则,确定所述肺叶分割结果中各元素对应的类别值与所述肺部分割结果中相应元素对应的类别值的计算结果,以作为所述肺叶分割结果中各元素对应的修正类别值;
根据所述肺叶分割结果中各元素对应的修正类别值,生成修正后的肺叶分割结果;
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
21.一种分割方法,其特征在于,包括:
将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域;其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致;
根据所述目标分割结果,对所述单元区域进行修正。
22.根据权利要求21所述的方法,其特征在于,所述目标分割结果中还包括识别出的目标对象以外区域;
所述目标分割结果中目标对象区域中各元素对应的类别值赋为第一数值,目标对象以外区域中各元素对应的类别值赋为第二数值;
根据所述目标分割结果,对所述单元区域进行修正,包括:
按照预先定义的运算规则,确定所述单元区域中各元素对应的类别值与所述目标分割结果中相应元素对应的类别值的计算结果,以作为所述单元区域中各元素对应的修正类别值;
根据所述单元区域中各元素对应的修正类别值,生成修正后的单元区域;
其中,所述运算规则为:所述第一数值与任一数值的计算结果为所述任一数值;所述第二数值与任一数值的计算结果为所述第二数值。
23.一种神经网络系统,其特征在于,包括:用于识别出待处理图像中构成目标对象的单元对应的单元区域的多个网络层;所述多个网络层中任意两个相连接的网络层中下游网络层的输入数据为上游网络层的输出数据;
所述多个网络层中包括第一网络层;所述第一网络层,用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
24.根据权利要求23所述的系统,其特征在于,所述多个网络层中包括输入层和输出层;
所述第一网络层位于所述输入层和所述输出层之间,且与所述输出层连接。
25.一种分割方法,其特征在于,包括:
获取包含目标对象影像的待处理图像;
对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作;
基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域;
其中,所述添加所述附加通道的步骤由第一神经网络模型中第一网络层实现;其中,所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
26.根据权利要求25所述的方法,其特征在于,对所述待处理图像进行处理,包括:
对所述待处理图像进行特征提取,得到第一特征图;
为所述第一特征图添加所述附加通道,得到第二特征图。
27.根据权利要求26所述的方法,其特征在于,对所述待处理图像进行处理,还包括:
对所述第二特征图进行特征提取,得到第三特征图。
28.根据权利要求25至27中任一项所述的方法,其特征在于,所述第一神经网络模型中包括输入层和输出层;
所述第一网络层位于所述输入层和所述输出层之间,且与所述输出层连接。
29.根据权利要求25至27中任一项所述的方法,其特征在于,还包括:
将所述待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
根据所述目标分割结果,对所述单元区域进行修正。
30.根据权利要求29所述的方法,其特征在于,所述目标分割结果中还包括识别出的目标对象以外区域;
在所述对所述待处理图像进行处理的步骤之前,还包括:
更改所述待处理图像中所述目标对象以外区域对应的第一区域的灰度值以增强所述待处理图像中所述目标对象区域对应的第二区域和所述第一区域的差别。
31.一种电子设备,其特征在于,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
确定第一神经网络模型;
将包含有肺部影像的待处理图像输入所述第一神经网络模型,获得所述待处理图像的肺叶分割结果;
其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
32.一种电子设备,其特征在于,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
将包含有肺部影像的样本图像输入第一神经网络模型,获得所述样本图像的肺叶分割预测结果;
根据所述肺叶分割预测结果与所述样本图像的肺叶分割期望结果,对所述第一神经网络模型进行参数优化;
其中,所述第一神经网络模型用于肺叶分割;所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
33.一种电子设备,其特征在于,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
构建至少一个网络层,以获得用于肺叶分割的第一神经网络模型;
其中,所述至少一个网络层中包括至少一个第一网络层;所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
34.一种电子设备,其特征在于,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
将包含有肺部影像的待处理图像输入第二神经网络模型,获得肺部分割结果,所述肺部分割结果中包括识别出的肺部区域;
将所述待处理图像输入第一神经网络模型,获得所述待处理图像的肺叶分割结果;其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致;
根据所述肺部分割结果,对所述肺叶分割结果进行修正。
35.一种电子设备,其特征在于,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
将包含目标对象影像的待处理图像输入第二神经网络模型,获得目标分割结果,所述目标分割结果中包括识别出的目标对象区域;
将所述待处理图像输入第一神经网络模型,获得识别出的构成所述目标对象的单元对应的单元区域;其中,所述第一神经网络模型中第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致;
根据所述目标分割结果,对所述单元区域进行修正。
36.一种电子设备,其特征在于,包括:存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以用于:
获取包含目标对象影像的待处理图像;
对所述待处理图像进行处理,其中,处理过程中含有添加带有坐标信息的附加通道的操作;
基于对所述待处理图像的处理结果,识别出构成所述目标对象的单元对应的单元区域;
其中,所述添加所述附加通道的步骤由第一神经网络模型中第一网络层实现;其中,所述第一网络层用于对输入至所述第一网络层的输入数据添加带有坐标信息的附加通道;并基于添加所述附加通道后的输入数据,确定所述第一网络层的输出数据;所述输入数据中包括至少一个通道图;所述附加通道的尺寸与所述通道图的尺寸一致。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910273160.6A CN111784700B (zh) | 2019-04-04 | 2019-04-04 | 肺叶分割、模型训练、模型构建与分割方法、系统及设备 |
US16/839,886 US20200320697A1 (en) | 2019-04-04 | 2020-04-03 | Method, system, and device for lung lobe segmentation, model training, model construction and segmentation |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910273160.6A CN111784700B (zh) | 2019-04-04 | 2019-04-04 | 肺叶分割、模型训练、模型构建与分割方法、系统及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111784700A CN111784700A (zh) | 2020-10-16 |
CN111784700B true CN111784700B (zh) | 2022-07-22 |
Family
ID=72663133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910273160.6A Active CN111784700B (zh) | 2019-04-04 | 2019-04-04 | 肺叶分割、模型训练、模型构建与分割方法、系统及设备 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20200320697A1 (zh) |
CN (1) | CN111784700B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230291926A1 (en) * | 2020-08-06 | 2023-09-14 | Hyundai Motor Company | Video encoding and decoding using deep learning based inter prediction |
CN113903432B (zh) * | 2020-11-18 | 2024-08-27 | 苏州律点信息科技有限公司 | 影像分辨率提高方法、装置、电子设备及存储介质 |
CN112541917B (zh) * | 2020-12-10 | 2022-06-10 | 清华大学 | 一种针对脑出血疾病的ct图像处理方法 |
CN112541463A (zh) * | 2020-12-21 | 2021-03-23 | 上海眼控科技股份有限公司 | 模型训练方法、外观分割方法、设备及存储介质 |
KR102554224B1 (ko) | 2020-12-31 | 2023-07-12 | 파크시스템스 주식회사 | 원자 현미경에서 시료 위치를 인식하기 위한 방법 및 장치 |
CN112766333B (zh) * | 2021-01-08 | 2022-09-23 | 广东中科天机医疗装备有限公司 | 医学影像处理模型训练方法、医学影像处理方法及装置 |
CN113011510B (zh) * | 2021-03-25 | 2021-12-24 | 推想医疗科技股份有限公司 | 一种支气管分级及模型训练方法、装置及电子设备 |
CN113601306B (zh) * | 2021-08-04 | 2022-07-08 | 上海电器科学研究所(集团)有限公司 | 基于一维分割网络的充电设施箱体焊缝打磨方法 |
CN113706557B (zh) * | 2021-08-30 | 2023-06-27 | 江苏省人民医院(南京医科大学第一附属医院) | 肺实质对称四分区判定肺结节三维空间内深度的方法 |
CN113838026B (zh) * | 2021-09-22 | 2024-02-02 | 中南大学 | 非小细胞肺癌检测方法、装置、计算机设备和存储介质 |
CN113837192B (zh) * | 2021-09-22 | 2024-04-19 | 推想医疗科技股份有限公司 | 图像分割方法及装置,神经网络的训练方法及装置 |
CN114418931B (zh) * | 2021-11-23 | 2024-06-04 | 东北大学 | 术后剩余肺叶的提取方法及装置、电子设备和存储介质 |
CN115147359B (zh) * | 2022-06-06 | 2023-04-07 | 北京医准智能科技有限公司 | 肺叶分割网络模型训练方法、装置、电子设备及存储介质 |
CN116152278B (zh) * | 2023-04-17 | 2023-07-21 | 杭州堃博生物科技有限公司 | 医疗图像的分割方法及装置、非易失性存储介质 |
CN117576126B (zh) * | 2024-01-16 | 2024-04-09 | 广东欧谱曼迪科技股份有限公司 | 一种肺叶分割的优化方法、装置、电子设备及存储介质 |
CN117830302B (zh) * | 2024-03-04 | 2024-07-30 | 瀚依科技(杭州)有限公司 | 肺段分割的优化方法及装置、电子设备和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105590099A (zh) * | 2015-12-22 | 2016-05-18 | 中国石油大学(华东) | 一种基于改进卷积神经网络的多人行为识别方法 |
CN107909581A (zh) * | 2017-11-03 | 2018-04-13 | 杭州依图医疗技术有限公司 | Ct影像的肺叶段分割方法、装置、系统、存储介质及设备 |
CN109146899A (zh) * | 2018-08-28 | 2019-01-04 | 众安信息技术服务有限公司 | Ct图像的危及器官分割方法及装置 |
CN109493347A (zh) * | 2017-09-12 | 2019-03-19 | 深圳科亚医疗科技有限公司 | 在图像中对稀疏分布的对象进行分割的方法和系统 |
CN109523546A (zh) * | 2018-12-21 | 2019-03-26 | 杭州依图医疗技术有限公司 | 一种肺结节分析的方法及装置 |
-
2019
- 2019-04-04 CN CN201910273160.6A patent/CN111784700B/zh active Active
-
2020
- 2020-04-03 US US16/839,886 patent/US20200320697A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105590099A (zh) * | 2015-12-22 | 2016-05-18 | 中国石油大学(华东) | 一种基于改进卷积神经网络的多人行为识别方法 |
CN109493347A (zh) * | 2017-09-12 | 2019-03-19 | 深圳科亚医疗科技有限公司 | 在图像中对稀疏分布的对象进行分割的方法和系统 |
CN107909581A (zh) * | 2017-11-03 | 2018-04-13 | 杭州依图医疗技术有限公司 | Ct影像的肺叶段分割方法、装置、系统、存储介质及设备 |
CN109146899A (zh) * | 2018-08-28 | 2019-01-04 | 众安信息技术服务有限公司 | Ct图像的危及器官分割方法及装置 |
CN109523546A (zh) * | 2018-12-21 | 2019-03-26 | 杭州依图医疗技术有限公司 | 一种肺结节分析的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
US20200320697A1 (en) | 2020-10-08 |
CN111784700A (zh) | 2020-10-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111784700B (zh) | 肺叶分割、模型训练、模型构建与分割方法、系统及设备 | |
US11887311B2 (en) | Method and apparatus for segmenting a medical image, and storage medium | |
CN109344874B (zh) | 一种基于深度学习的染色体自动分析方法及系统 | |
Tang et al. | A multi-stage framework with context information fusion structure for skin lesion segmentation | |
US12079989B2 (en) | Identifying boundaries of lesions within image data | |
CN108921851A (zh) | 一种基于3d对抗网络的医学ct图像分割方法 | |
CN112347977B (zh) | 一种诱导性多能干细胞的自动检测方法、存储介质及装置 | |
CN113011509B (zh) | 肺部支气管的分类方法、装置、电子设备和存储介质 | |
CN113822851A (zh) | 图像分割方法、装置、设备及存储介质 | |
CN112734755A (zh) | 基于3d全卷积神经网络与多任务学习的肺叶分割方法 | |
CN112348818B (zh) | 一种图像分割方法、装置、设备以及存储介质 | |
WO2023207389A1 (zh) | 数据处理方法、装置、程序产品、计算机设备和介质 | |
CN114170212A (zh) | 一种基于ct影像中肺小结节假阳检测方法及系统 | |
CN108597589B (zh) | 模型生成方法、目标检测方法及医学成像系统 | |
US11494586B2 (en) | Tomographic image machine learning device and method | |
CN117522892A (zh) | 基于空间通道注意力增强的肺腺癌ct影像病灶分割方法 | |
CN110717916B (zh) | 一种基于卷积神经网络的肺栓塞检测系统 | |
EP2573713A2 (en) | Image processing device, method and program | |
Lee et al. | Enhancement for automatic extraction of RoIs for bone age assessment based on deep neural networks | |
CN116402831A (zh) | 部分监督的腹部ct序列图像多器官自动分割方法及装置 | |
CN115170599A (zh) | 通过图神经网络的链路预测进行血管分割的方法和装置 | |
CN114049358A (zh) | 肋骨实例分割、计数与定位的方法及系统 | |
Jing et al. | Improved building MEP systems semantic segmentation in point clouds using a novel multi-class dataset and local–global vector transformer network | |
US20220344033A1 (en) | Method and System for Anatomical Labels Generation | |
CN116934757B (zh) | 一种用于肺结节假阳性删减的方法、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |