CN113298827A - 一种基于DP-Net网络的图像分割方法 - Google Patents

一种基于DP-Net网络的图像分割方法 Download PDF

Info

Publication number
CN113298827A
CN113298827A CN202110642538.2A CN202110642538A CN113298827A CN 113298827 A CN113298827 A CN 113298827A CN 202110642538 A CN202110642538 A CN 202110642538A CN 113298827 A CN113298827 A CN 113298827A
Authority
CN
China
Prior art keywords
module
characteristic diagram
net network
image
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110642538.2A
Other languages
English (en)
Other versions
CN113298827B (zh
Inventor
栗伟
曹仰勇
冯朝路
于鲲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northeastern University China
Original Assignee
Northeastern University China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northeastern University China filed Critical Northeastern University China
Priority to CN202110642538.2A priority Critical patent/CN113298827B/zh
Publication of CN113298827A publication Critical patent/CN113298827A/zh
Application granted granted Critical
Publication of CN113298827B publication Critical patent/CN113298827B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于DP‑Net网络的图像分割方法,涉及图像分割技术领域。该方法包括:输入待分割图像;图像经过编码阶段得到特征图M1~M5,同时将PPM模块加入U‑Net网络的编码阶段,并将M5经过PPM模块得到MP;引入DP模块,将Mi输入第i个DP模块,得到特征图Di,其中i为特征图索引,i=1,2,3,4;结合特征图Di,将MP经过解码阶段进行特征还原得到Y,根据Y得到图像的分割结果。PPM模块和DP模块的加入,解决了U‑Net网络中缺少处理图像多尺度问题模块的这一问题以及U‑Net网络中每次跳跃连接之后的拼接操作中的两个主体特征语义相差较大的问题,进而提升了U‑Net网络对于CT图像中病灶分割的准确率。

Description

一种基于DP-Net网络的图像分割方法
技术领域
本发明涉及图像分割技术领域,特别是涉及一种基于DP-Net网络的图像分割方法。
背景技术
肺炎患者的CT图像包含丰富的图像语义,其中的病灶区域更是蕴含着纹理学、形态学、统计学等不同形式的重要特征。所以一些研究指出,了解CT图像的演变过程可为COVID-19的早期防控、早期诊断及治疗提供重要依据。但是研究人员研究和使用CT图像的前提条件之一是:CT图像中的病灶区域已经具有显著性标注。而如今这项工作多为医生或者专业人员进行的人工标注,重复且大量的CT图像标注工作给工作人员带来了巨大的工作量。而且人工操作一般带有标注者个人的主观思想,并且常常伴有标注者的失误操作现象,所以标注者难以保证精准地在CT图像中标注病灶区域。
2012年提出的AlexNet网络首次将卷积神经网络(CNN)应用在图像识别上。之后陆续出现了很多优秀的图像分割的网络和方法,如:FCN、SegNet、Deeplab v1&v2&v3、V-net、U-Net等。它们的出现,在进一步提高图像分割精度的同时,也大大地解放了标注者的工作。这些网络中,在医学图像中应用比较广泛,效果比较好的是U-Net网络。U-Net网络的实现思路是:首先将输入的图像不断地进行卷积、池化、激活操作,提取输入图像的特征信息,产生多个特征图,在这个过程中,特征图的大小不断缩小,通道数量不断增大,这个过程被称为“编码阶段”;然后再将编码阶段提取到的最后一个特征图作为输入,重复使用上采样、卷积、激活操作,产生多个特征图,在这个过程中,特征图的大小不断增大,通道数量不断缩小,最后一个特征图被还原至与输入图像的大小一致,这个过程被称为“解码阶段”。其中最后一个特征图中的每个点的值代表对输入图像中的每个像素点的预测值,然后设置一定大小的阈值,根据特征图中每个像素点的值与阈值之间的大小关系来确定分割的区域,以此达到了对输入图像进行分割的效果。然而因为U-Net网络在解码阶段使用了上采样技术,所以无法避免地会造成特征图信息的丢失。针对这个问题,U-Net网络认为编码阶段产生的特征图更加接近于输入图像,具有更丰富的特征信息,因此将编码阶段产生的特征图与解码阶段产生的特征图直接进行拼接操作,以此来弥补解码阶段上采样操作中的信息丢失,这个操作被称为“跳跃连接”。而近期很多文献中提出:在U-Net网络每次跳跃连接时,解码阶段的特征图一般是与其相对应的编码阶段的特征图经过若干次卷积、激活、池化、上采样操作之后得到的,因此它们之间语义上的差别较大。如果直接将它们进行拼接操作,可能会因为这种特征图间语义上的差别造成网络的分割效果下降。就像让两个年龄相差较大且素未谋面的人协同工作一样。
与此同时,在经过相关专业医生的指导之后,容易发现COVID-19病灶体现在CT图像上具有多尺度的特点:1、病灶的面积大小不一致。例如较小的病灶面积小于1cm2,而最大病灶的面积却接近于半个肺叶;2、病灶的形状不统一。例如磨玻璃型的病灶形态接近于一团海绵,而索条型的病灶却像一道细长的绳索。但是在U-Net网络中并没有设计专门处理图像多尺度问题的模块,因此对于CT图像中的COVID-19病灶,U-Net网络并不能具有很好的分割效果。
发明内容
针对上述现有技术存在的不足,本发明提供一种基于DP-Net网络的图像分割方法,旨在对U-Net网络进行改进,在传统的U-Net网络中加入PPM模块和DP模块构成DP-Net网络,通过基于DP-Net网络的图像分割方法解决基于U-Net网络的图像分割方法无法处理图像多尺度问题和每次跳跃连接之后的拼接操作中的两个主体特征语义相差较大的问题,从而提高基于U-Net网络的图像分割方法的精度。
本发明的技术方案为:
一种基于DP-Net网络的图像分割方法,包括下述步骤:
步骤1:输入待分割图像,并根据该图像的大小将其定义为大小为T×H×W的3维特征数组,表示为:X(T×H×W);
步骤2:图像X经过编码阶段得到特征图M1~M5,同时将PPM模块加入U-Net网络的编码阶段,并将M5经过PPM模块得到MP
步骤3:引入DP模块替换跳跃连接操作,将Mi输入第i个DP模块,得到特征图Di,其中i为特征图索引,i=1,2,3,4;
步骤4:结合步骤3得到的特征图Di,将MP经过解码阶段进行特征还原得到Y,根据Y得到图像的分割结果。
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述图像X经过编码阶段得到特征图M1~M5的方法为:首先将X经过提取特征操作改变特征图通道数量,得到特征图M1(C×W×H);然后将Mi经过最大值池化操作改变Mi的特征图大小,得到
Figure BDA0003107606570000021
再将
Figure BDA0003107606570000022
经过提取特征操作,得到特征图Mi+1,其中i为特征图索引,i=1,2,3,4,所述Mi+1分别为
Figure BDA0003107606570000023
Figure BDA0003107606570000031
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述M5经过PPM模块得到MP的具体过程为:(1)将M5经过平均值池化操作改变特征图大小,再经过卷积操作改变通道数量,得到Pi,再将Pi经过上采样操作改变特征图大小,得到
Figure BDA0003107606570000032
该过程重复执行四次,在执行的过程中i依次取值1、2、3、4,其中依次得到P1(C×1×1)、P2(C×2×2)、P3(C×3×3)、P4(C×6×6);(2)将M5与S1,S2,S3,S4进行拼接操作,得到
Figure BDA0003107606570000033
(3)将S经过卷积操作改变通道数量,得到特征图
Figure BDA0003107606570000034
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述DP模块依次由若干个DB模块、卷积操作、数据归一化操作和激活操作组成;所述DP模块中可变参数为:ND、NR,其中ND代表DP模块中的DB模块数量,NR代表输入特征图经过DB模块后得到的输出特征图在通道的数量上与输入特征图相比增加NR;所述DB模块包括对输入特征图进行提取特征的操作以及将该操作得到的结果与输入特征图进行拼接的操作。
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述将Mi输入第i个DP模块得到特征图Di具体过程为:设置第i个DP模块中的ND
Figure BDA0003107606570000035
NR
Figure BDA0003107606570000036
并定义T0=Mi,且Mi三个维度的大小分别为Ci,Hi,Wi,即Mi(Ci×Hi×Wi);定义k为特征索引,
Figure BDA0003107606570000037
Figure BDA0003107606570000038
将Tk经过第i个DP模块中的DB模块,即将Tk经过提取特征操作改变特征图通道数量,得到
Figure BDA0003107606570000039
再将Tk与Qk+1进行拼接操作得到
Figure BDA00031076065700000310
Figure BDA00031076065700000311
其中k为特征索引,
Figure BDA00031076065700000312
经过所有DB模块后,得到
Figure BDA00031076065700000313
最后将
Figure BDA00031076065700000314
经过串行的卷积操作、数据归一化操作和激活操作改变特征图通道数量得到Di(Ci×Hi×Wi),其中i为DP模块的索引,i=1,2,3,4。
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述提取特征操作由串行的两组串行的卷积操作、数据归一化操作和激活操作构成。
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述步骤4中所述的将MP经过解码阶段进行特征还原得到Y的方法为:首先定义B5=MP,将Bi+1经过上采样操作改变特征图大小,得到特征图
Figure BDA00031076065700000315
然后将
Figure BDA00031076065700000316
与Di进行拼接操作,得到特征图Ui;又然后将Ui经过还原特征操作得到特征图Bi,其中i为特征图索引,i=4,3,2,1,所述Bi分别为
Figure BDA0003107606570000041
Figure BDA0003107606570000042
B1(C×H×W);最后将B1通过卷积操作得到输出Y(T×H×W)。
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述还原特征操作由串行的两组串行的卷积操作、数据归一化操作和激活操作构成。
进一步地,根据所述的基于DP-Net网络的图像分割方法,所述上采样操作采用双线性插值算法。
与现有技术相比,本发明具有如下有益效果:
1、本发明在U-Net网络中加入PPM模块(PPM-Pyramid pooling module,金字塔池化模块),利用具有多种大小不同的感受野的特征提取模块,更好地提取不同尺度的特征,解决了U-Net网络中缺少处理图像多尺度问题模块的这一问题,从而可以更加精准地分割不同尺度大小的COVID-19病灶。2、本发明在U-Net网络中还引入了DP(Dense Path,密集路径)模块替换跳跃连接操作,该模块将编码阶段的特征图经过提取特征操作后的结果与特征图本身进行拼接,将拼接后的结果作为下一次的输入,并循环这个过程。然后将DP模块输出的特征图与对应的解码阶段的特征图进行拼接操作,使得两个特征更好地融合,如此解决了U-Net网络中每次跳跃连接之后的拼接操作中的两个主体特征语义相差较大的问题,进而提升了网络对于CT图像中的COVID-19病灶分割的准确率。
附图说明
图1为本实施方式基于DP-Net网络的图像分割方法的流程图;
图2为本实施方式中提取特征操作与还原特征操作的结构示意图;
图3为本实施方式的PPM模块的结构示意图;
图4为本实施方式的DP模块的结构示意图;
图5(A)为从测试集中选取的一张原始CT图像;(B)为(A)图中病灶区域对应的图像;(C)为通过传统的U-Net网络对(A)图中COVID-19病灶分割的结果显示图;(D)为通过DP-Net网络对(A)图中COVID-19病灶分割的结果显示图。
具体实施方式
下面将结合附图和具体实施方式,对本发明的具体实施方式作进一步详细描述。以下实施例仅用于说明本发明,但限制本发明的范围。
图1是本实施方式的基于DP-Net网络的图像分割方法的流程图,所述基于DP-Net网络的图像分割方法包括如下步骤:
步骤1:读取训练集中的一幅待分割CT图像,并根据该图像的大小将其定义为大小为T×H×W的3维特征数组,表示为:X(T×H×W);
在优选实施例中,根据读取的待分割CT图像的大小,将读取到的CT图像定义为大小为1×256×256的3维特征数组,表示为:X(1×256×256),其中第一个维度为1,代表X的通道数量,第二个维度和第三个维度均为256,代表X的特征图大小。数组X中的元素表示为Xi,j,k,代表3维数组X中坐标为(i,j,k)的位置的像素值。
步骤2:在U-Net网络的编码阶段加入PPM模块,输入的CT图像经过编码阶段后得到特征图MP
步骤2.1:对X进行特征提取,将X经过提取特征操作改变特征图通道数量,得到特征图M1(C×W×H);
图2是所述提取特征操作的结构示意图,所述提取特征操作,由串行的两组操作构成,其中每组所述操作由串行的卷积操作、数据归一化操作和激活操作构成;
在优选实施例中,对X进行特征提取的详细过程为:先将输入X经过提取特征操作中的一组操作即串行的卷积操作(在优选实施例中所有的卷积操作中卷积核为3×3大小,步长为1,不同点在于卷积核的数量,即输出结果中特征图的通道数)、数据归一化操作和激活操作,得到特征图
Figure BDA0003107606570000051
然后再将
Figure BDA0003107606570000052
经过提取特征操作中的另一组操作即串行的卷积操作、数据归一化操作和激活操作得到特征图M1(64×256×256)。
步骤2.2:对M1进行特征提取,将M1经过最大值池化操作改变M1的特征图大小,得到
Figure BDA0003107606570000053
再将
Figure BDA0003107606570000054
经过提取特征操作,改变
Figure BDA0003107606570000055
的特征图通道数量,得到特征图M2
在优选实施例中,将M1经过池化窗口大小为2×2的最大值池化操作(在优选实施例中,最大值池化操作中池化窗口大小均为2×2),改变M1的特征图大小,得到
Figure BDA0003107606570000056
Figure BDA0003107606570000057
经过提取特征操作,改变
Figure BDA0003107606570000058
的特征图通道数量,得到特征图M2(128×128×128)。
步骤2.3:按照步骤2.2的方法,对M2进行特征提取,将M2经过最大值池化操作改变M2的特征图大小,得到
Figure BDA0003107606570000059
再将
Figure BDA00031076065700000510
经过提取特征操作,改变
Figure BDA00031076065700000511
的特征图通道数量,得到特征图M3
在优选实施例中,将M2经过最大值池化操作改变特征图大小,得到
Figure BDA00031076065700000512
再将
Figure BDA00031076065700000513
进行提取特征操作改变通道数量,得到特征图M3(256×64×64)。
步骤2.4:对M3进行特征提取,将M3经过最大值池化操作改变M3的特征图大小,得到
Figure BDA0003107606570000061
再将
Figure BDA0003107606570000062
经过提取特征操作,改变
Figure BDA0003107606570000063
的特征图通道数量,得到特征图M4
在优选实施例中,将M3经过最大值池化操作改变特征图大小,得到
Figure BDA0003107606570000064
再将
Figure BDA0003107606570000065
进行提取特征操作改变通道数量,得到特征图M4(512×32×32)。
步骤2.5:对M4进行特征提取,将M4经过最大值池化操作改变M4的特征图大小,得到
Figure BDA0003107606570000066
再将
Figure BDA0003107606570000067
经过提取特征操作,但不改变
Figure BDA0003107606570000068
的特征图通道数量,得到特征图M5
在优选实施例中,将M4经过最大值池化操作改变特征图大小,得到
Figure BDA0003107606570000069
Figure BDA00031076065700000610
进行提取特征操作,不改变通道数量,得到特征图M5(512×16×16)。
步骤2.6:将M5经过PPM模块得到MP
具体过程包括:(1)将M5经过平均值池化操作改变特征图大小,再经过卷积操作改变通道数量,得到Pi,再将Pi经过上采样操作改变特征图大小,得到
Figure BDA00031076065700000611
该过程重复执行四次,在执行的过程中i依次取值1、2、3、4,其中依次得到P1(C×1×1)、P2(C×2×2)、P3(C×3×3)、P4(C×6×6);(2)将M5与S1,S2,S3,S4进行拼接操作,得到
Figure BDA00031076065700000612
(3)将S经过卷积操作改变通道数量,得到特征图
Figure BDA00031076065700000613
在优选实施例中,如图3所示,将M5经过PPM模块得到MP的具体过程包括:首先同时执行下面的步骤(a)至(d)得到特征图S1,S2,S3,S4
(a)将M5串行经过池化窗口大小为16×16的平均值池化操作改变特征图大小,经过卷积操作改变通道数量,得到P1(64×1×1),将P1经过上采样操作改变特征图大小,得到S1(64×16×16)。其中上采样操作采用双线性插值算法,其功能为改变输入特征图的大小,本实施方式的上采样操作中均使用双线性插值算法;
(b)将M5串行经过的池化口大小为8×8的平均值池化操作改变特征图大小,经过卷积操作改变通道数量,得到P2(64×2×2),将P2再经过上采样操作改变特征图大小,得到S2(64×16×16);
(c)将M5串行经过池化窗口大小为6×6的平均值池化操作改变特征图大小,经过卷积操作改变通道数量,得到P3(64×3×3),将P3再经过上采样操作改变特征图大小,得到S3(64×16×16);
(d)将M5串行经过池化窗口大小为3×3的平均值池化操作改变特征图大小,经过卷积操作改变通道数量,得到P4(64×6×6),将P4经过上采样操作改变特征图大小,得到S4(64×16×16);
然后,将M5与S1,S2,S3,S4进行拼接操作,得到S(768×16×16);
最后,将S经过卷积操作改变通道数量,得到特征图MP(512×16×16)。
步骤3:在U-Net网络中引入DP模块,将Mi输入DP模块,得到特征图Di,其中i为特征图索引,i=1,2,3,4。
在本实施方式中,DP(Dense Path)模块依次由若干个DB(Dense Block)模块、卷积操作、数据归一化操作和激活操作组成。DP模块中可变参数为ND和NR,其中ND代表DP模块中的DB模块数量,NR代表输入特征图在经过DB模块后得到的输出特征图在通道的数量上与输入特征图相比增加NR。所述DB模块包括对输入特征图进行提取特征操作以及对对输入特征图进行提取特征操作得到的结果与输入特征图进行拼接的操作。
在本实施方式中,设置第i个DP模块中的ND
Figure BDA0003107606570000071
NR
Figure BDA0003107606570000072
定义T0=Mi,定义Ci,Hi,Wi数值上分别等于Mi三个维度的大小,即特征图的通道数量和特征图的大小;第i个DP模块的实施过程为:将Tk经过第k+1个DB模块,即将Tk经过提取特征操作改变特征图通道数量,得到
Figure BDA0003107606570000073
再将Tk与Qk+1进行拼接操作得到
Figure BDA0003107606570000074
Figure BDA0003107606570000075
其中k为特征索引,
Figure BDA0003107606570000076
输入特征图经过第i个DP模块中的所有DB模块后,得到最终结果
Figure BDA0003107606570000077
最后将
Figure BDA0003107606570000078
经过串行的卷积操作、数据归一化操作和激活操作改变特征图通道数量得到Di(Ci×Hi×Wi),其中i为DP模块的索引,i=1,2,3,4。
在优选实施例中,将Mi输入DP模块得到特征图Di包括如下具体步骤:
步骤3.1:将M1输入第一DP模块DP1,得到特征图D1
设置第一DP模块中的ND为4,NR为8;并定义T0=M1,首先将T0输入第一DP模块中的第一个DB模块,得到T1。其中第一个DB模块的详细过程为:如图4所示,首先将T0经过提取特征操作改变特征图通道数量,得到Q1(NR×256×256);然后将T0与Q1进行拼接操作得到T1((64+NR)×256×256)。
类似地,再将T1依次经过ND-1个即3个DB模块,每个DB模块的输出特征图分别是:T2((64+2NR)×256×256)、T3((64+3NR)×256×256)、T4((64+4NR)×256×256)。然后将T4经过串行的卷积操作、数据归一化操作和激活操作改变特征图通道数量得到D1(64×256×256)。
步骤3.2:将M2输入第二DP模块DP2,得到特征图D2
设置第二DP模块DP2中的ND为3,NR为16,则输入的M2依次经过DP2中的3个DB模块、卷积操作、数据归一化操作和激活操作后得到D2(128×128×128)。
步骤3.3:将M3输入第三DP模块DP3,得到特征图D3
设置第三DP模块DP3中的ND为2,NR为32,则输入的M3依次经过DP3中的2个DB模块、卷积操作、数据归一化操作和激活操作后得到D3(256×64×64)。
步骤3.4:将M4输入第四DP模块DP4,得到特征图D4
设置第四DP模块DP4中的ND为1,NR为64,则输入的M4依次经过DP4中的1个DB模块、卷积操作、数据归一化操作和激活操作后得到D4(512×32×32)。
步骤4:定义B5=MP,将B5经过解码阶段得到Y,Y与X相同大小,根据Y结合预设的阈值,得到图像的分割结果;
步骤4.1:对B5进行特征还原,得到特征图B4
图2也是还原特征操作的结构示意图,所述还原特征操作与提取特征操作采用相同的架构,也是由串行的两组操作构成,其中每组所述操作由串行的卷积操作、数据归一化操作和激活操作构成;不同点在于二者在进行各自的卷积操作时设置的卷积核数量。
在优选实施例中,对B5进行特征还原得到特征图B4的详细过程为:先将B5经过上采样操作改变特征图大小,得到特征图
Figure BDA0003107606570000081
再将
Figure BDA0003107606570000082
与D4进行拼接操作,得到特征图U4(1024×32×32);然后将U4经过还原特征操作中的一组操作即串行的卷积操作、数据归一化操作和激活操作改变通道数量得到特征图
Figure BDA0003107606570000083
再将
Figure BDA0003107606570000084
经过还原特征操作中的另一组操作即串行的卷积操作、数据归一化操作和激活操作改变通道数量得到特征图B4(256×32×32)。
步骤4.2:对B4进行还原特征,得到特征图B3
将B4经过上采样操作,改变特征图大小,得到特征图
Figure BDA0003107606570000085
Figure BDA0003107606570000086
与D3进行拼接操作,得到特征图U3(512×64×64)。将U3进行还原特征操作,即经过两次串行的卷积操作、数据归一化操作和激活操作,改变特征图通道数,得到B3(128×64×64)。
步骤4.3:对B3进行还原特征,得到特征图B2
将B3经过上采样操作,改变特征图大小,得到特征图
Figure BDA0003107606570000087
Figure BDA0003107606570000088
与D2进行拼接操作,得到特征图U2(256×128×128)。将U2进行还原特征操作,改变特征图通道数,得到B2(64×128×128)。
步骤4.4:对B2进行还原特征,得到特征图B1
将B2经过上采样操作,改变特征图大小,得到特征图
Figure BDA0003107606570000091
Figure BDA0003107606570000092
与D1进行拼接操作,得到特征图U1(128×256×256)。将U1进行还原特征操作,只在还原特征操作中的第一个卷积操作时改变U1的特征图通道数为64,第二个卷积操作不改变特征图通道数,得到B1(64×256×256)。
步骤4.5:将B1通过卷积操作得到输出Y,根据Y得到图像的分割结果。
将B1经过卷积操作改变特征图通道数,得到输出Y(1×256×256),此时Y与X大小一致,Y中的元素表示为Yi,j,k,Yi,j,k代表DP-Net网络对于原始输入图像X在坐标为(i,j,k)位置的像素值的预测值。在优选实施例中,设置阈值α=0.5,Yi,j,k>=α时,表示DP-Net网络预测X中(i,j,k)位置属于病灶区域;Yi,j,k<α时,表示DP-Net网络预测X中(i,j,k)位置属于非病灶区域,从而得到对于X中病灶区域的分割结果。
在本实施方式中,本发明方法在实验过程中所使用的数据集是在某医院经过保密采集。数据集使用了338例来自同一个医院的不同新冠病人的病例。其中每个病例被隐藏了个人信息,并且均做过PCR核酸检测且结果呈阳性。每个病例含有300张以上的CT图像,并且每张CT图像都经过了两位相关的医生进行手工标注病灶区域得到了每张CT对应的病灶图像。从中挑选出相似度较小并且图像较为清晰的4472组图像,其中一组图像代表一张CT图像和一张对应的病灶图像。首先将所有的CT图像和病灶图像大小都缩放至256×256。然后通过将所有CT图像设置窗宽WW、窗位WL为:1500HU,-450HU的方法将CT图像中的像素点的值归一化至0-255。最后将病灶图像中像素点值大于1的点的值改为1,像素点值小于0的点的值改为0,其余点的像素值不变。
将4472组图像按照14∶3∶3的比例分割为:训练集,验证集,测试集,并且对训练集中的每张图片进行顺时针旋转180度后作为一张新的图片加入训练集,以此进行数据增强。然后将训练集中的CT图像输入DP-Net网络,设置每次训练时输入的图片数量为6,设置学习率为1e-4,设置优化算法为Adam,并将其中参数β1设置为0.9,β2设置为0.999,eps设置为1e-8,weight_decay设置为1e-8,设置损失函数为LossBCE,设置迭代次数为1000次。其中LossBCE的定义如下
Figure BDA0003107606570000101
Figure BDA0003107606570000102
因为本发明进行的实验为图像分割实验,所以为了定量分析实验结果的精准度,使用Sensitivity,Specificity,Precision,Dice,E_measure(Eφ),MAE这几个指标衡量实验结果,以此来评价网络的性能。各项指标的公式如下:
Figure BDA0003107606570000103
Figure BDA0003107606570000104
Figure BDA0003107606570000105
Figure BDA0003107606570000106
Figure BDA0003107606570000107
Figure BDA0003107606570000108
Figure BDA0003107606570000109
其中TP代表X1,i,j=1且Y1,i,j=1的像素点的个数,TN代表X1,i,j=0且Y1,i,j=0的像素点的个数,FP代表X1,i,j=0且Y1,i,j=1的像素点的个数,FN代表X1,i,j=0且Y1,i,j=1的像素点的个数,其中0<i,j<256且i,j为整数。
将DP-Net网络与传统的U-Net网络分别在训练集的CT图像上进行训练,保存最后一次迭代训练的网络参数。将训练好的DP-Net网络与U-Net网络分别在测试集的CT图像上进行测试,得到分割结果,将分割结果与测试集中的病灶图像数据作为各项指标的输入进行计算,得到结果如表1所示。
表1
网络 Sensitivity Specificity Precision Dice MAE E_measure
U-Net 0.75099 0.98073 0.5432 0.63041 0.0261 0.89163033
DP-Net 0.68603 0.99349 0.76264 0.72231 0.0156 0.97685344
根据表中的数据定量分析,可以分析得到:DP-Net网络在衡量图片间的相似度指标Dice上可以达到0.72231,大幅度超越U-Net网络;在衡量分割结果错误率的指标MAE上,也取得了0.0156,小于U-Net网络,表示与U-Net网络相比,DP-Net网络对CT图像分割出的病灶图像与真实的病灶图像的差距更小。其余各项指标中,Specificity,Precision,E_measure也均达到了比U-Net网络更好的效果。
接下来再根据图5进行定性分析,图5中的(A)图为测试集中的一张原始CT图像;(B)图为与(A)图对应的病灶图像;(C)图为基于传统的U-Net网络对(A)图中COVID-19病灶的分割结果,可以看出U-Net网络将更多的非病灶区域分割为病灶区域,而且在病灶区域的分割结果上与真实的病灶图像也有很大的偏差,分割图像中含有更多的噪音和杂质;(D)图为基于DP-Net网络对(A)图中COVID-19病灶的分割结果,可以看出基于DP-Net网络的图像分割结果含有更少的杂质,几乎精准的分割出完整的病灶区域。
综合上述,可以说明与传统的U-Net网络相比,基于DP-Net网络的图像分割方法在对于CT中COVID-19病灶的分割上达到了更加精准的效果。
显然,上述实施例仅仅是本发明的一部分实施例,而不是全部的实施例。上述实施例仅用于解释本发明,并不构成对本发明保护范围的限定。基于上述实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,也即凡在本申请的精神和原理之内所作的所有修改、等同替换和改进等,均落在本发明要求的保护范围内。

Claims (9)

1.一种基于DP-Net网络的图像分割方法,其特征在于,包括下述步骤:
步骤1:输入待分割图像,并根据该图像的大小将其定义为大小为T×H×W的3维特征数组,表示为:X(T×H×W);
步骤2:图像X经过编码阶段得到特征图M1~M5,同时将PPM模块加入U-Net网络的编码阶段,并将M5经过PPM模块得到MP
步骤3:引入DP模块替换跳跃连接操作,将Mi输入第i个DP模块,得到特征图Di,其中i为特征图索引,i=1,2,3,4;
步骤4:结合步骤3得到的特征图Di,将MP经过解码阶段进行特征还原得到Y,根据Y得到图像的分割结果。
2.根据权利要求1所述的基于DP-Net网络的图像分割方法,其特征在于,所述图像X经过编码阶段得到特征图M1~M5的方法为:首先将X经过提取特征操作改变特征图通道数量,得到特征图M1(C×W×H);然后将Mi经过最大值池化操作改变Mi的特征图大小,得到
Figure FDA0003107606560000011
再将
Figure FDA0003107606560000012
经过提取特征操作,得到特征图Mi+1,其中i为特征图索引,i=1,2,3,4,所述Mi+1分别为
Figure FDA0003107606560000013
3.根据权利要求1所述的基于DP-Net网络的图像分割方法,其特征在于,所述M5经过PPM模块得到MP的具体过程为:(1)将M5经过平均值池化操作改变特征图大小,再经过卷积操作改变通道数量,得到Pi,再将Pi经过上采样操作改变特征图大小,得到
Figure FDA0003107606560000014
该过程重复执行四次,在执行的过程中i依次取值1、2、3、4,其中依次得到P1(C×1×1)、P2(C×2×2)、P3(C×3×3)、P4(C×6×6);(2)将M5与S1,S2,S3,S4进行拼接操作,得到
Figure FDA0003107606560000015
(3)将S经过卷积操作改变通道数量,得到特征图
Figure FDA0003107606560000016
4.根据权利要求1所述的基于DP-Net网络的图像分割方法,其特征在于,所述DP模块依次由若干个DB模块、卷积操作、数据归一化操作和激活操作组成;所述DP模块中可变参数为:ND、NR,其中ND代表DP模块中的DB模块数量,NR代表输入特征图经过DB模块后得到的输出特征图在通道的数量上与输入特征图相比增加NR;所述DB模块包括对输入特征图进行提取特征的操作以及将该操作得到的结果与输入特征图进行拼接的操作。
5.根据权利要求5所述的基于DP-Net网络的图像分割方法,其特征在于,所述将Mi输入第i个DP模块得到特征图Di具体过程为:设置第i个DP模块中的ND
Figure FDA0003107606560000017
NR
Figure FDA0003107606560000018
并定义T0=Mi,且Mi三个维度的大小分别为Ci,Hi,Wi,即Mi(Ci×Hi×Wi);定义k为特征索引,
Figure FDA0003107606560000021
将Tk经过第i个DP模块中的DB模块,即将Tk经过提取特征操作改变特征图通道数量,得到
Figure FDA0003107606560000022
再将Tk与Qk+1进行拼接操作得到
Figure FDA0003107606560000023
Figure FDA0003107606560000024
其中k为特征索引,
Figure FDA0003107606560000025
经过所有DB模块后,得到
Figure FDA0003107606560000026
最后将
Figure FDA0003107606560000027
经过串行的卷积操作、数据归一化操作和激活操作改变特征图通道数量得到Di(Ci×Hi×Wi),其中i为DP模块的索引,i=1,2,3,4。
6.根据权利要求2或5所述的基于DP-Net网络的图像分割方法,其特征在于,所述提取特征操作由串行的两组串行的卷积操作、数据归一化操作和激活操作构成。
7.根据权利要求1所述的基于DP-Net网络的图像分割方法,其特征在于,所述步骤4中所述的将MP经过解码阶段进行特征还原得到Y的方法为:首先定义B5=MP,将Bi+1经过上采样操作改变特征图大小,得到特征图
Figure FDA0003107606560000028
然后将
Figure FDA0003107606560000029
与Di进行拼接操作,得到特征图Ui;又然后将Ui经过还原特征操作得到特征图Bi,其中i为特征图索引,i=4,3,2,1,所述Bi分别为
Figure FDA00031076065600000210
B1(C×H×W);最后将B1通过卷积操作得到输出Y(T×H×W)。
8.根据权利要求7所述的基于DP-Net网络的图像分割方法,其特征在于,所述还原特征操作由串行的两组串行的卷积操作、数据归一化操作和激活操作构成。
9.根据权利要求3或7所述的基于DP-Net网络的图像分割方法,其特征在于,所述上采样操作采用双线性插值算法。
CN202110642538.2A 2021-06-09 2021-06-09 一种基于DP-Net网络的图像分割方法 Active CN113298827B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110642538.2A CN113298827B (zh) 2021-06-09 2021-06-09 一种基于DP-Net网络的图像分割方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110642538.2A CN113298827B (zh) 2021-06-09 2021-06-09 一种基于DP-Net网络的图像分割方法

Publications (2)

Publication Number Publication Date
CN113298827A true CN113298827A (zh) 2021-08-24
CN113298827B CN113298827B (zh) 2023-11-14

Family

ID=77327705

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110642538.2A Active CN113298827B (zh) 2021-06-09 2021-06-09 一种基于DP-Net网络的图像分割方法

Country Status (1)

Country Link
CN (1) CN113298827B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116152807A (zh) * 2023-04-14 2023-05-23 广东工业大学 一种基于U-Net网络的工业缺陷语义分割方法及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200380695A1 (en) * 2019-05-28 2020-12-03 Zongwei Zhou Methods, systems, and media for segmenting images
CN112419322A (zh) * 2020-10-16 2021-02-26 北京工业大学 一种基于3d多尺度多池化特征融合网络的颞骨外半规管分割方法
DE102019123756A1 (de) * 2019-09-05 2021-03-11 Connaught Electronics Ltd. Neuronales Netzwerk zur Durchführung einer semantischen Segmentierung eines Eingabebildes
CN112927240A (zh) * 2021-03-08 2021-06-08 重庆邮电大学 一种基于改进的AU-Net网络的CT图像分割方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200380695A1 (en) * 2019-05-28 2020-12-03 Zongwei Zhou Methods, systems, and media for segmenting images
DE102019123756A1 (de) * 2019-09-05 2021-03-11 Connaught Electronics Ltd. Neuronales Netzwerk zur Durchführung einer semantischen Segmentierung eines Eingabebildes
CN112419322A (zh) * 2020-10-16 2021-02-26 北京工业大学 一种基于3d多尺度多池化特征融合网络的颞骨外半规管分割方法
CN112927240A (zh) * 2021-03-08 2021-06-08 重庆邮电大学 一种基于改进的AU-Net网络的CT图像分割方法

Non-Patent Citations (9)

* Cited by examiner, † Cited by third party
Title
HAFHOUF, BELLAL, ET AL.: ""A modified U-Net for skin lesion segmentation"", 《2020 1ST INTERNATIONAL CONFERENCE ON COMMUNICATIONS, CONTROL SYSTEMS AND SIGNAL PROCESSING (CCSSP)》 *
HUANG, GAO, ET AL.: ""Densely connected convolutional networks"", 《PROCEEDINGS OF THE IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 *
LI, WEI, ET AL.: ""Fully feature fusion based neural network for COVID-19 lesion segmentation in CT images"", 《BIOMEDICAL SIGNAL PROCESSING AND CONTROL》 *
QIN, XUEBIN, ET AL.: ""U2-Net: Going deeper with nested U-structure for salient object detection"", 《PATTERN RECOGNITION 106 (2020)》 *
SU, ZHONGBIN, ET AL.: ""An improved U-Net method for the semantic segmentation of remote sensing images"", 《APPLIED INTELLIGENCE》 *
ZHANG, JIAWEI, ET AL.: ""Mdu-net: Multi-scale densely connected u-net for biomedical image segmentation"", 《ARXIV PREPRINT ARXIV:1812.00352 (2018)》 *
ZHANG, ZIANG, ET AL.: ""DENSE-INception U-net for medical image segmentation"", 《COMPUTER METHODS AND PROGRAMS IN BIOMEDICINE》 *
田丰源、周明全、闫峰、范力、耿国华.: ""基于AttentionNet和DenseUnet的脊椎CT分割"", 《激光与光电子学进展》 *
钟思华;郭兴明;郑伊能;: ""改进U-Net网络的肺结节分割方法"", 《计算机工程与应用》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116152807A (zh) * 2023-04-14 2023-05-23 广东工业大学 一种基于U-Net网络的工业缺陷语义分割方法及存储介质
CN116152807B (zh) * 2023-04-14 2023-09-05 广东工业大学 一种基于U-Net网络的工业缺陷语义分割方法及存储介质

Also Published As

Publication number Publication date
CN113298827B (zh) 2023-11-14

Similar Documents

Publication Publication Date Title
CN111681252B (zh) 一种基于多路径注意力融合的医学图像自动分割方法
CN110889853B (zh) 基于残差-注意力深度神经网络的肿瘤分割方法
CN110889852B (zh) 基于残差-注意力深度神经网络的肝脏分割方法
CN110706214B (zh) 融合条件随机与残差的三维U-Net大脑肿瘤分割方法
CN112560968B (zh) 一种基于卷积和残差网络的her2图像分类方法及系统
CN113674253A (zh) 基于U-Transformer的直肠癌CT影像自动分割方法
US20220335600A1 (en) Method, device, and storage medium for lesion segmentation and recist diameter prediction via click-driven attention and dual-path connection
WO2022062164A1 (zh) 基于偏微分算子的广义等变卷积网络模型的图像分类方法
CN111861886B (zh) 一种基于多尺度反馈网络的图像超分辨率重建方法
CN107679539B (zh) 一种基于局部感知野的单卷积神经网络局部信息与全局信息整合方法
CN114612714B (zh) 基于课程学习的无参考图像质量评价方法
CN113298826B (zh) 一种基于LA-Net网络的图像分割方法
CN111667445A (zh) 一种基于Attention多特征融合的图像压缩感知重建方法
CN112396605A (zh) 网络训练方法及装置、图像识别方法和电子设备
CN114219719A (zh) 基于双重注意力和多尺度特征的cnn医学ct图像去噪方法
CN110930378A (zh) 基于低数据需求的肺气肿影像处理方法及系统
CN110738660A (zh) 基于改进U-net的脊椎CT图像分割方法及装置
CN113674156A (zh) 一种图像超分辨率重建的方法及系统
CN117409030A (zh) 基于动态管状卷积的octa图像血管分割方法及其系统
CN113298827B (zh) 一种基于DP-Net网络的图像分割方法
CN114974421A (zh) 基于扩散-降噪的单细胞转录组测序数据补插方法及系统
CN113554668B (zh) 一种皮肤镜图像黑色素瘤分割方法、装置及相关组件
CN108765287B (zh) 一种基于非局部均值的图像超分辨率方法
CN112785575B (zh) 一种图像处理的方法、装置和存储介质
CN111553250A (zh) 一种基于人脸特征点的精准面瘫程度评测方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant