CN114581392A - 基于深度学习和各向异性活动轮廓的图像分割方法 - Google Patents
基于深度学习和各向异性活动轮廓的图像分割方法 Download PDFInfo
- Publication number
- CN114581392A CN114581392A CN202210189267.4A CN202210189267A CN114581392A CN 114581392 A CN114581392 A CN 114581392A CN 202210189267 A CN202210189267 A CN 202210189267A CN 114581392 A CN114581392 A CN 114581392A
- Authority
- CN
- China
- Prior art keywords
- layer
- convolution
- image
- channels
- feature map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Image Processing (AREA)
Abstract
一种基于深度学习和各向异性活动轮廓的图像分割方法,考虑了图像边缘的各向异性和非对称特征,将测地线主动轮廓模型作为损失函数的形式融入到V‑Net网络中,首先对训练集的数据动态增强,即在训练网络时,输入训练的一份数据进行多种变化,如。将增强后的数据送入网络训练,使用新定义的损失函数L来进行回归,优化方法Adam优化方法。训练集数据训练完成后保存网络参数,进行图像分割时先加载网络参数,然后直接对图像进行分割,得到结果,这种结合了测地主动轮廓的损失函数对医学图像分割相对于只有深度学习的网络分割医学图像更稳健。
Description
技术领域
本发明涉及计算机视觉领域,具体涉及一种基于深度学习和各向异性活动轮廓的图像分割方法。
背景技术
基于深度学习的图像分割方法和基于测地线主动轮廓的图像分割方法有各自的优点,所以可以采用将上述两种方法的优点结合的方式,来进行图像分割,提高模型的分割准确性。在2020年提出了深度学习(网络结构:V-Net)和经典的测地线主动轮廓模型相结合(参考文献:Ma J,He J,Yang X.Learning Geodesic Active Contours for EmbeddingObject Global Information in Segmentation CNNs[J].IEEE Transactions onMedical Imaging,2020,PP(99).) 的方法来分割图像。该方法是在原来的网络结构(所选用的网络结构:V-Net) 的基础上,加入残差模块,并在网络结构的最后一层生成一个经过水平集函数处理过的概率图。并将测地线主动轮廓模型设计成网络的损失函数,再加入Dice 和L1两个辅助的损失函数训练网络,来提高图像分割的准确性。但是上述方法中,基于测地线主动轮廓模型的损失函数存在缺点,没有结合图像的各向异性和非对称的特征等因素。
发明内容
本发明为了克服以上技术的不足,提供了一种提高图像的分割准确性,减少图像分割的有异常值和分割曲线容易发生泄漏问题的图像分割方法。
本发明克服其技术问题所采用的技术方案是:
一种基于深度学习和各向异性活动轮廓的图像分割方法,包括如下步骤:
a)读取图像数据存储的路径,读取医学图像数据对应的医生手动分割出来感兴趣的区域做标集的路径作为标准的分割的路径,将路径对应的医学图像划分为训练集traini和测试集vali,使用Pytorch中的Dataset抽象类将医学图像和标准的分割封装起来;
b)对封装后的医学图像和标准的分割进行数据的动态增强;
c)设置依次由编码路径、中间路径及解码路径构成的网络结构;
d)计算损失函数L;
e)采用Adam优化算法,根据损失函数L使用反向传播来调整步骤c)中的网络结构的权重weight和偏置量bias;
f)判断网络训练结果,在计算机中设置一个保存评价最优指标的变量,保存最优结果的网络权重weight及其偏置量bias,将分割结果最优的网络权重weight 及其偏置量bias保存到ph文件中;
g)重复步骤f)N次,将训练集traini和测试集vali分别放入优化后的网络结构中训练并保存网络结构机器权重;
h)在进行分割医学图像时,加载步骤g)中保存的网络结构及其权重,然后从测试集vali中加载一张图像,将图像放进网络结构中,最终得到图像的分割结果,将分割结果保存成jpg格式的文件。
进一步的,步骤a)中通过Python中pydicom模块读取图像数据存储的路径和。
进一步的,步骤a)中按5:1的比例将医学图像划分为训练集traini和测试集vali。
进一步的,步骤a)中将医学图像封装时将医学图像的像素修改为512*512。
进一步的,步骤b)中使用Python中的albumentations模块对管路操作后的医学图像进行仿射变换、修改图像亮度、修改图像对比度的动态增强操作。
进一步的,步骤c)中的网络结构为:
c-1)编码路径依次由第一编码层、第二编码层、第三编码层、第四编码层构成;第一编码层依次由第一卷积层、第二卷积层、池化层构成;第二编码层依次由卷积层、池化层构成;第三编码层依次由卷积层、池化层构成构成;第四编码层依次由卷积层、池化层构成;
c-2)中间路径由卷积层构成;
c-3)解码路径依次由第四解码层、第三解码层、第二解码层、第一解码层构成;第四解码层依次由反卷积层、卷积层构成;第三解码层依次由反卷积层、卷积层构成;第二解码层依次由反卷积层、卷积层构成;第一解码层依次由反卷积层、第一卷积层及第二卷积层构成。
进一步的,步骤c-1)中第一编码层中的第一卷积层的卷积核大小设置为7*7,stride设置为1*1,padding设置为3,输出通道数设置为64,第一卷积层使用 BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第二卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,第一编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第一编码层输出的特征图像素大小为256*256,通道数为64;第二编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为128,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第二编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第二编码层输出的特征图像素大小为128*128,通道数为128;第三编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为 256,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu 函数,第三编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第三编码层输出的特征图像素大小为64*64,通道数为256;第四编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第四编码层中的池化层使用最大池化层,池化窗口大小设置为 2*2,第四编码层输出的特征图像素大小为32*32,通道数为512;
步骤c-1)中中间路径中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为1024,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,中间路径输出的特征图像素大小为32*32,通道数为1024;
步骤c-2)中第四解码层的反卷积层的卷积核大小设置为2*2,stride设置为 2*2,输出通道数设置为512,通过反卷积层将中间路径输出的特征图像素大小恢复到64*64,通道数为512,将恢复后的特征图与第四编码层输出的特征图进行融合,融合后的特征图像素为64*64,通道数为1024,将融合后的特征图输入到第四解码层的卷积层中,卷积层的卷积核大小设置3*3,stride设置为1*1, padding设置为1,输出通道数设置为512,第四解码层输出的特征图像素大小为64*64,通道数为512;第三解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为512,通过反卷积层将第四解码层输出的特征图像素大小恢复到128*128,通道数为512,将恢复后的特征图与第三编码层输出的特征图进行融合,融合后的特征图像素为128*128,通道数为512,将融合后的特征图输入到第三解码层的卷积层中,卷积层的卷积核大小设置3*3, stride设置为1*1,padding设置为1,输出通道数设置为512,第三解码层输出的特征图像素大小为128*128,通道数为256;第二解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为256,通过反卷积层将第三解码层输出的特征图像素大小恢复到256*256,通道数为256,将恢复后的特征图与第二编码层输出的特征图进行融合,融合后的特征图像素为 256*256,通道数为256,将融合后的特征图输入到第二解码层的卷积层中,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为128,第二解码层输出的特征图像素大小为64*64,通道数为128;第一解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,padding 设置为1,输出通道数设置为64,通过反卷积层将第二解码层输出的特征图像素大小恢复到512*512,通道数为64,将恢复后的特征图与第一编码层输出的特征图进行融合,融合后的特征图像素为512*512,通道数为128,将融合后的特征图依次输入到第一解码层的第一卷积层和第二卷积层中,第一卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第二卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为1,第一解码层输出的特征图像素大小为512*512,通道数为1;编码路径、中间路径及解码路径中的各个卷积层的卷积使用Pytorch中的Conv2d 进行编码,解码路径中的各个反卷积层使反卷积使用Pytorch中的ConvTranspose2d进行反卷积操作。
进一步的,步骤d)包括如下步骤:
d-1)通过公式
计算得到损失函数LAC,式中φ(x)为水平集函数,x为网络结构输出的特征图上的点,S为网络结构输出的特征图中的区域,为区域S的边界,为点x到边界的欧式距离,为水平集函数的梯度,为水平集函数梯度的模值,Ω为预测图像的区域,δε为光滑的狄拉克函数,ε为参数,ε>0,V(x)为向量场, 为动态增强后的医学图像的梯度,为动态增强后的医学图像的梯度模值,gI为图像边缘指示器函数,b为常数,b>0,Gσ为高斯核函数,g∞为gI的最大值,α为常数,α>0,f1为动态增强后的医学图像的轮廓内部的高斯混合概率密度函数,I为动态增强后的医学图像的二维数组集合,为动态增强后的医学图像的轮廓内部的图像数据的均值,为动态增强后的医学图像的轮廓内部的图像数据的协方差矩阵,为第j个高斯概率分布量,K为高斯概率分布量的总数,为第j个高斯概率分布量的加权值,f2为动态增强后的医学图像的轮廓外部的高斯混合概率密度函数, 为动态增强后的医学图像的轮廓外部的图像数据的均值,为动态增强后的医学图像的轮廓外部的图像数据的协方差矩阵,为第j个高斯概率分布量,K为高斯概率分布量的总数,为第j个高斯概率分布量的加权值,Hε(x)为光滑Heaviside函数, y为变量,y=φ(x)或y=(1-φ(x));
d-3)通过公式L1=||φ-φGT||计算得到绝对值损失函数,||·||为L1范数,φGT为标准的分割的水平集函数,x0为标准的分割中的点,S0为标准的分割的区域,为区域S0的边界,为点x0到边界的欧式距离。
d-4)通过公式L=LDice+L1+λLAC计算得到损失函数L,式中λ为常数。进一步的,步骤f)中使用绝对体积差、平均对称的表面距离、豪斯多夫距离、 Dice系数四种评价指标判断网络训练结果。
优选的,步骤g)中N取值为5。
本发明的有益效果是:考虑了图像边缘的各向异性和非对称特征,将测地线主动轮廓模型作为损失函数的形式融入到V-Net网络中,首先对训练集的数据动态增强,即在训练网络时,输入训练的一份数据进行多种变化,如。将增强后的数据送入网络训练,使用新定义的损失函数L来进行回归,优化方法Adam优化方法。训练集数据训练完成后保存网络参数,进行图像分割时先加载网络参数,然后直接对图像进行分割,得到结果,这种结合了测地主动轮廓的损失函数对医学图像分割相对于只有深度学习的网络分割医学图像更稳健。
附图说明
图1为本发明的训练集数据训练网络的流程图;
图2为本发明的测试集数据查看网络分割效果的流程图。
具体实施方式
下面结合附图1、附图2对本发明做进一步说明。
为了弥补测地线主动轮廓损失函数的不足,设计了一种新的主动轮廓损失函数。该损失函数结合了边缘的各向异性和非对称的特征等因素,然后添加了混合高斯模型。进一步提高图像的分割准确性,减少图像分割的有异常值和分割曲线容易发生泄漏的问题。具体的,本基于深度学习和各向异性活动轮廓的图像分割方法,这样可以按照索引查询医学图像和标准的分割,包括如下步骤:
a)读取图像数据存储的路径,读取医学图像数据对应的医生手动分割出来感兴趣的区域做标集的路径作为标准的分割的路径,将路径对应的医学图像划分为训练集traini和测试集vali,使用Pytorch中的Dataset抽象类将医学图像和标准的分割封装起来。
b)对封装后的医学图像和标准的分割进行数据的动态增强。
c)设置依次由编码路径、中间路径及解码路径构成的网络结构,收入网络结构的图像像素大小为512*512,通道数为1。
d)计算损失函数L。
e)采用Adam优化算法,调整优化器的参数,其中学习率参数采用的策略是模拟退火算法来寻找最优的学习率参数,其余的参数采用默认参数。根据损失函数 L使用反向传播来调整步骤c)中的网络结构的权重weight和偏置量bias。
f)判断网络训练结果,在计算机中设置一个保存评价最优指标的变量,保存最优结果的网络权重weight及其偏置量bias,将分割结果最优的网络权重weight 及其偏置量bias保存到ph文件中。
g)重复步骤f)N次,将训练集traini和测试集vali分别放入优化后的网络结构中训练并保存网络结构机器权重。
h)在进行分割医学图像时,加载步骤g)中保存的网络结构及其权重,然后从测试集vali中加载一张图像,将图像放进网络结构中,最终得到图像的分割结果,将分割结果保存成jpg格式的文件,方便以后查看。
提供了一种端到端的医学图像分割方法,考虑了图像边缘的各向异性和非对称特征,将测地线主动轮廓模型作为损失函数的形式融入到V-Net网络中,首先对训练集的数据动态增强,即在训练网络时,输入训练的一份数据进行多种变化,如。将增强后的数据送入网络训练,使用新定义的损失函数L来进行回归,优化方法 Adam优化方法。训练集数据训练完成后保存网络参数,进行图像分割时先加载网络参数,然后直接对图像进行分割,得到结果,这种结合了测地主动轮廓的损失函数对医学图像分割相对于只有深度学习的网络分割医学图像更稳健。
实施例1:
步骤a)中通过Python中pydicom模块读取图像数据存储的路径和标准的分割的路径。
实施例2:
步骤a)中按5:1的比例将医学图像划分为训练集traini和测试集vali。
实施例3:
步骤a)中将医学图像封装时将医学图像的像素修改为512*512。
实施例4:
步骤b)中使用Python中的albumentations模块对管路操作后的医学图像进行仿射变换、修改图像亮度、修改图像对比度对数据集进行数据的动态增强操作。
实施例5:
步骤c)中的网络结构为:
c-1)编码路径依次由第一编码层、第二编码层、第三编码层、第四编码层构成;第一编码层依次由第一卷积层、第二卷积层、池化层构成;第二编码层依次由卷积层、池化层构成;第三编码层依次由卷积层、池化层构成构成;第四编码层依次由卷积层、池化层构成。
c-2)中间路径由卷积层构成。
c-3)解码路径依次由第四解码层、第三解码层、第二解码层、第一解码层构成;第四解码层依次由反卷积层、卷积层构成;第三解码层依次由反卷积层、卷积层构成;第二解码层依次由反卷积层、卷积层构成;第一解码层依次由反卷积层、第一卷积层及第二卷积层构成。
实施例6:
步骤c-1)中第一编码层中的第一卷积层的卷积核大小设置为7*7,stride设置为1*1,padding设置为3,输出通道数设置为64,使用大卷积核来提取更大范围的特征,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第二卷积层的卷积核大小设置为3*3,stride设置为1*1,padding 设置为1,使用一个较小的卷积层提取特征,第一编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第一编码层输出的特征图像素大小为256*256,通道数为64;第二编码层中的卷积层的卷积核大小设置为3*3,stride设置为 1*1,padding设置为1,输出通道数设置为128,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第二编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第二编码层输出的特征图像素大小为 128*128,通道数为128;第三编码层中的卷积层的卷积核大小设置为3*3,stride 设置为1*1,padding设置为1,输出通道数设置为256,第一卷积层使用 BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第三编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第三编码层输出的特征图像素大小为64*64,通道数为256;第四编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第四编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第四编码层输出的特征图像素大小为32*32,通道数为512。
步骤c-1)中中间路径中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为1024,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,中间路径输出的特征图像素大小为32*32,通道数为1024。
步骤c-2)中第四解码层的反卷积层的卷积核大小设置为2*2,stride设置为 2*2,输出通道数设置为512,通过反卷积层将中间路径输出的特征图像素大小恢复到64*64,通道数为512,将恢复后的特征图与第四编码层输出的特征图进行融合,融合后的特征图像素为64*64,通道数为1024,将融合后的特征图输入到第四解码层的卷积层中,对特征图进行一次卷积操作,减少特征图的通道数,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第四解码层输出的特征图像素大小为64*64,通道数为512;第三解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为512,通过反卷积层将第四解码层输出的特征图像素大小恢复到 128*128,通道数为512,将恢复后的特征图与第三编码层输出的特征图进行融合,融合后的特征图像素为128*128,通道数为512,将融合后的特征图输入到第三解码层的卷积层中,对特征图进行一次卷积操作,减少特征图的通道数,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第三解码层输出的特征图像素大小为128*128,通道数为256;第二解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为256,通过反卷积层将第三解码层输出的特征图像素大小恢复到 256*256,通道数为256,将恢复后的特征图与第二编码层输出的特征图进行融合,融合后的特征图像素为256*256,通道数为256,将融合后的特征图输入到第二解码层的卷积层中,对特征图进行一次卷积操作,减少特征图的通道数,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为128,第二解码层输出的特征图像素大小为64*64,通道数为128;第一解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,padding 设置为1,输出通道数设置为64,通过反卷积层将第二解码层输出的特征图像素大小恢复到512*512,通道数为64,将恢复后的特征图与第一编码层输出的特征图进行融合,融合后的特征图像素为512*512,通道数为128,将融合后的特征图依次输入到第一解码层的第一卷积层和第二卷积层中,对特征图进行一次卷积操作,减少特征图的通道数,第一卷积层的卷积核大小设置3*3,stride设置为 1*1,padding设置为1,输出通道数设置为512,第二卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为1,第一解码层输出的特征图像素大小为512*512,通道数为1;编码路径、中间路径及解码路径中的各个卷积层的卷积使用Pytorch中的Conv2d进行编码,解码路径中的各个反卷积层使反卷积使用Pytorch中的ConvTranspose2d进行反卷积操作。
实施例7:
步骤d)包括如下步骤:
d-1)通过公式
计算得到损失函数LAC,式中φ(x)为水平集函数,x为网络结构输出的特征图上的点,S为网络结构输出的特征图中的区域,为区域S的边界,为点x到边界的欧式距离,为水平集函数的梯度,为水平集函数梯度的模值,Ω为预测图像的区域,δε为光滑的狄拉克函数,ε为参数,ε>0,V(x)为向量场, 为动态增强后的医学图像的梯度,为动态增强后的医学图像的梯度模值,gI为图像边缘指示器函数,b为常数,b>0,Gσ为高斯核函数,g∞为gI的最大值,α为常数,α>0,f1为动态增强后的医学图像的轮廓内部的高斯混合概率密度函数,I为动态增强后的医学图像的二维数组集合,为动态增强后的医学图像的轮廓内部的图像数据的均值,为动态增强后的医学图像的轮廓内部的图像数据的协方差矩阵,为第j个高斯概率分布量,K为高斯概率分布量的总数,为第j个高斯概率分布量的加权值,f2为动态增强后的医学图像的轮廓外部的高斯混合概率密度函数, 为动态增强后的医学图像的轮廓外部的图像数据的均值,为动态增强后的医学图像的轮廓外部的图像数据的协方差矩阵,为第j个高斯概率分布量,K为高斯概率分布量的总数,为第j个高斯概率分布量的加权值,Hε(x)为光滑Heaviside函数, y为变量,y=φ(x)或y=(1-φ(x))。关于采用的活动轮廓能量函数LAC中的第一项,考虑待处理图像梯度的各向异性以及非对称特性。向量场V包含了图像梯度的方向特征,当向量V的方向和轮廓的法向量具有相反方向时,的值很小。反之则很大。这使得我们的模型可以充分利用如下的梯度一致性的假设:沿着待分割区域的边界,图像的梯度方向指向待分割区域的内部。在实际应用中,非常多的图像符合上述梯度方向的一致性的假设。
d-3)通过公式L1=||φ-φGT||计算得到绝对值损失函数,||·||为L1范数,φGT为标准的分割的水平集函数,x0为标准的分割中的点,S0为标准的分割的区域,为区域S0的边界,为点x0到边界的欧式距离。
d-4)通过公式L=LDice+L1+λLAC计算得到损失函数L,式中λ为常数。在训练的前100轮中,将λ设为零,因为这样可以快速的进行图像的初始化分割,之后将λ的值设为LDice+L1与LAC的比值,以确保不同损失函数项之间数值大小的处在同一水平。
实施例8:
步骤f)中使用绝对体积差(Relative absolute volume difference)、平均对称的表面距离(Average symmetric surface distance)、豪斯多夫距离 (Hausdorffdistance)、Dice(Dice coefficient)系数四种评价指标判断网络训练结果。
实施例9:
步骤g)中N取值为5。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于,包括如下步骤:
a)读取图像数据存储的路径,读取医学图像数据对应的医生手动分割出来感兴趣的区域做标集的路径作为标准的分割的路径,将路径对应的医学图像划分为训练集traini和测试集vali,使用Pytorch中的Dataset抽象类将医学图像和标准的分割封装起来;
b)对封装后的医学图像和标准的分割进行数据的动态增强;
c)设置依次由编码路径、中间路径及解码路径构成的网络结构;
d)计算损失函数L;
e)采用Adam优化算法,根据损失函数L使用反向传播来调整步骤c)中的网络结构的权重weight和偏置量bias;
f)判断网络训练结果,在计算机中设置一个保存评价最优指标的变量,保存最优结果的网络权重weight及其偏置量bias,将分割结果最优的网络权重weight及其偏置量bias保存到ph文件中;
g)重复步骤f)N次,将训练集traini和测试集vali分别放入优化后的网络结构中训练并保存网络结构机器权重;
h)在进行分割医学图像时,加载步骤g)中保存的网络结构及其权重,然后从测试集vali中加载一张图像,将图像放进网络结构中,最终得到图像的分割结果,将分割结果保存成jpg格式的文件。
2.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤a)中通过Python中pydicom模块读取图像数据存储的路径和。
3.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤a)中按5:1的比例将医学图像划分为训练集traini和测试集vali。
4.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤a)中将医学图像封装时将医学图像的像素修改为512*512。
5.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤b)中使用Python中的albumentations模块对管路操作后的医学图像进行仿射变换、修改图像亮度、修改图像对比度的动态增强操作。
6.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于,步骤c)中的网络结构为:
c-1)编码路径依次由第一编码层、第二编码层、第三编码层、第四编码层构成;第一编码层依次由第一卷积层、第二卷积层、池化层构成;第二编码层依次由卷积层、池化层构成;第三编码层依次由卷积层、池化层构成构成;第四编码层依次由卷积层、池化层构成;
c-2)中间路径由卷积层构成;
c-3)解码路径依次由第四解码层、第三解码层、第二解码层、第一解码层构成;第四解码层依次由反卷积层、卷积层构成;第三解码层依次由反卷积层、卷积层构成;第二解码层依次由反卷积层、卷积层构成;第一解码层依次由反卷积层、第一卷积层及第二卷积层构成。
7.根据权利要求6所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤c-1)中第一编码层中的第一卷积层的卷积核大小设置为7*7,stride设置为1*1,padding设置为3,输出通道数设置为64,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第二卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,第一编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第一编码层输出的特征图像素大小为256*256,通道数为64;第二编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为128,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第二编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第二编码层输出的特征图像素大小为128*128,通道数为128;第三编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为256,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第三编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第三编码层输出的特征图像素大小为64*64,通道数为256;第四编码层中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,第四编码层中的池化层使用最大池化层,池化窗口大小设置为2*2,第四编码层输出的特征图像素大小为32*32,通道数为512;
步骤c-1)中中间路径中的卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为1024,第一卷积层使用BatchNorm2d将数据归一化,第一卷积层激活函数采用Relu函数,中间路径输出的特征图像素大小为32*32,通道数为1024;
步骤c-2)中第四解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为512,通过反卷积层将中间路径输出的特征图像素大小恢复到64*64,通道数为512,将恢复后的特征图与第四编码层输出的特征图进行融合,融合后的特征图像素为64*64,通道数为1024,将融合后的特征图输入到第四解码层的卷积层中,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第四解码层输出的特征图像素大小为64*64,通道数为512;第三解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为512,通过反卷积层将第四解码层输出的特征图像素大小恢复到128*128,通道数为512,将恢复后的特征图与第三编码层输出的特征图进行融合,融合后的特征图像素为128*128,通道数为512,将融合后的特征图输入到第三解码层的卷积层中,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第三解码层输出的特征图像素大小为128*128,通道数为256;第二解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,输出通道数设置为256,通过反卷积层将第三解码层输出的特征图像素大小恢复到256*256,通道数为256,将恢复后的特征图与第二编码层输出的特征图进行融合,融合后的特征图像素为256*256,通道数为256,将融合后的特征图输入到第二解码层的卷积层中,卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为128,第二解码层输出的特征图像素大小为64*64,通道数为128;第一解码层的反卷积层的卷积核大小设置为2*2,stride设置为2*2,padding设置为1,输出通道数设置为64,通过反卷积层将第二解码层输出的特征图像素大小恢复到512*512,通道数为64,将恢复后的特征图与第一编码层输出的特征图进行融合,融合后的特征图像素为512*512,通道数为128,将融合后的特征图依次输入到第一解码层的第一卷积层和第二卷积层中,第一卷积层的卷积核大小设置3*3,stride设置为1*1,padding设置为1,输出通道数设置为512,第二卷积层的卷积核大小设置为3*3,stride设置为1*1,padding设置为1,输出通道数设置为1,第一解码层输出的特征图像素大小为512*512,通道数为1;编码路径、中间路径及解码路径中的各个卷积层的卷积使用Pytorch中的Conv2d进行编码,解码路径中的各个反卷积层使反卷积使用Pytorch中的ConvTranspose2d进行反卷积操作。
8.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于,步骤d)包括如下步骤:
d-1)通过公式
计算得到损失函数LAC,式中φ(x)为水平集函数,x为网络结构输出的特征图上的点,S为网络结构输出的特征图中的区域,为区域S的边界,为点x到边界的欧式距离,为水平集函数的梯度,为水平集函数梯度的模值,Ω为预测图像的区域,δε为光滑的狄拉克函数,ε为参数,ε>0,V(x)为向量场, 为动态增强后的医学图像的梯度,为动态增强后的医学图像的梯度模值,gI为图像边缘指示器函数,b为常数,b>0,Gσ为高斯核函数,g∞为gI的最大值,α为常数,α>0,f1为动态增强后的医学图像的轮廓内部的高斯混合概率密度函数,I为动态增强后的医学图像的二维数组集合,为动态增强后的医学图像的轮廓内部的图像数据的均值,为动态增强后的医学图像的轮廓内部的图像数据的协方差矩阵,为第j个高斯概率分布量,K为高斯概率分布量的总数,为第j个高斯概率分布量的加权值,f2为动态增强后的医学图像的轮廓外部的高斯混合概率密度函数, 为动态增强后的医学图像的轮廓外部的图像数据的均值,为动态增强后的医学图像的轮廓外部的图像数据的协方差矩阵,为第j个高斯概率分布量,K为高斯概率分布量的总数,为第j个高斯概率分布量的加权值,Hε(x)为光滑Heaviside函数,y为变量,y=φ(x)或y=(1-φ(x));
d-3)通过公式L1=||φ-φGT||计算得到绝对值损失函数,||·||为L1范数,φGT为标准的分割的水平集函数,x0为标准的分割中的点,S0为标准的分割的区域,为区域S0的边界,为点x0到边界的欧式距离。
d-4)通过公式L=LDice+L1+λLAC计算得到损失函数L,式中λ为常数。
9.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤f)中使用绝对体积差、平均对称的表面距离、豪斯多夫距离、Dice系数四种评价指标判断网络训练结果。
10.根据权利要求1所述的基于深度学习和各向异性活动轮廓的图像分割方法,其特征在于:步骤g)中N取值为5。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210189267.4A CN114581392B (zh) | 2022-02-28 | 2022-02-28 | 基于深度学习和各向异性活动轮廓的图像分割方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210189267.4A CN114581392B (zh) | 2022-02-28 | 2022-02-28 | 基于深度学习和各向异性活动轮廓的图像分割方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114581392A true CN114581392A (zh) | 2022-06-03 |
CN114581392B CN114581392B (zh) | 2022-10-11 |
Family
ID=81775544
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210189267.4A Active CN114581392B (zh) | 2022-02-28 | 2022-02-28 | 基于深度学习和各向异性活动轮廓的图像分割方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114581392B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115984288A (zh) * | 2022-11-29 | 2023-04-18 | 山东省人工智能研究院 | 基于关键点检测与非对称测地线生长模型的图像分割方法 |
CN116524191A (zh) * | 2023-05-11 | 2023-08-01 | 山东省人工智能研究院 | 融入测地线投票算法的深度学习网络的血管分割方法 |
CN116543151A (zh) * | 2023-05-05 | 2023-08-04 | 山东省人工智能研究院 | 一种基于深度学习的3d医学ct图像分割方法 |
CN116580194A (zh) * | 2023-05-04 | 2023-08-11 | 山东省人工智能研究院 | 融合几何信息的软注意力网络的血管分割方法 |
CN116823842A (zh) * | 2023-06-25 | 2023-09-29 | 山东省人工智能研究院 | 融合测地线模型的双解码器网络的血管分割方法 |
CN116934782A (zh) * | 2023-07-18 | 2023-10-24 | 齐鲁工业大学(山东省科学院) | 基于深度gru循环水平集的ct图像分割方法 |
CN117611599A (zh) * | 2023-12-28 | 2024-02-27 | 齐鲁工业大学(山东省科学院) | 融合中心线图和增强对比度网络的血管分割方法及其系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101599174A (zh) * | 2009-08-13 | 2009-12-09 | 哈尔滨工业大学 | 基于边缘和统计特征的水平集医学超声图像区域轮廓提取方法 |
CN109523559A (zh) * | 2018-10-15 | 2019-03-26 | 石家庄学院 | 一种基于改进的能量泛函模型的噪声图像分割方法 |
CN112446381A (zh) * | 2020-11-11 | 2021-03-05 | 昆明理工大学 | 一种利用全卷积网络驱动的基于测地线活动轮廓的混合语义分割方法 |
CN114066866A (zh) * | 2021-11-23 | 2022-02-18 | 湖南科技大学 | 一种基于深度学习的医学图像自动分割方法 |
-
2022
- 2022-02-28 CN CN202210189267.4A patent/CN114581392B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101599174A (zh) * | 2009-08-13 | 2009-12-09 | 哈尔滨工业大学 | 基于边缘和统计特征的水平集医学超声图像区域轮廓提取方法 |
CN109523559A (zh) * | 2018-10-15 | 2019-03-26 | 石家庄学院 | 一种基于改进的能量泛函模型的噪声图像分割方法 |
CN112446381A (zh) * | 2020-11-11 | 2021-03-05 | 昆明理工大学 | 一种利用全卷积网络驱动的基于测地线活动轮廓的混合语义分割方法 |
CN114066866A (zh) * | 2021-11-23 | 2022-02-18 | 湖南科技大学 | 一种基于深度学习的医学图像自动分割方法 |
Non-Patent Citations (2)
Title |
---|
FAUSTO MILLETARI ET AL.: "V-Net: Fully Convolutional Neural Networks for Volumetric Medical Image Segmentation", 《2016 FOURTH INTERNATIONAL CONFERENCE ON 3D VISION》 * |
JUN MA ET AL.: "Learning Geodesic Active Contours for Embedding Object Global Information in Segmentation CNNs", 《IEEE TRANSACTIONS ON MEDICAL IMAGING》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115984288A (zh) * | 2022-11-29 | 2023-04-18 | 山东省人工智能研究院 | 基于关键点检测与非对称测地线生长模型的图像分割方法 |
CN116580194A (zh) * | 2023-05-04 | 2023-08-11 | 山东省人工智能研究院 | 融合几何信息的软注意力网络的血管分割方法 |
CN116580194B (zh) * | 2023-05-04 | 2024-02-06 | 山东省人工智能研究院 | 融合几何信息的软注意力网络的血管分割方法 |
CN116543151B (zh) * | 2023-05-05 | 2024-05-28 | 山东省人工智能研究院 | 一种基于深度学习的3d医学ct图像分割方法 |
CN116543151A (zh) * | 2023-05-05 | 2023-08-04 | 山东省人工智能研究院 | 一种基于深度学习的3d医学ct图像分割方法 |
CN116524191B (zh) * | 2023-05-11 | 2024-01-19 | 山东省人工智能研究院 | 融入测地线投票算法的深度学习网络的血管分割方法 |
CN116524191A (zh) * | 2023-05-11 | 2023-08-01 | 山东省人工智能研究院 | 融入测地线投票算法的深度学习网络的血管分割方法 |
CN116823842B (zh) * | 2023-06-25 | 2024-02-02 | 山东省人工智能研究院 | 融合测地线模型的双解码器网络的血管分割方法 |
CN116823842A (zh) * | 2023-06-25 | 2023-09-29 | 山东省人工智能研究院 | 融合测地线模型的双解码器网络的血管分割方法 |
CN116934782A (zh) * | 2023-07-18 | 2023-10-24 | 齐鲁工业大学(山东省科学院) | 基于深度gru循环水平集的ct图像分割方法 |
CN116934782B (zh) * | 2023-07-18 | 2024-03-12 | 齐鲁工业大学(山东省科学院) | 基于深度gru循环水平集的ct图像分割方法 |
CN117611599A (zh) * | 2023-12-28 | 2024-02-27 | 齐鲁工业大学(山东省科学院) | 融合中心线图和增强对比度网络的血管分割方法及其系统 |
CN117611599B (zh) * | 2023-12-28 | 2024-05-31 | 齐鲁工业大学(山东省科学院) | 融合中心线图和增强对比度网络的血管分割方法及其系统 |
Also Published As
Publication number | Publication date |
---|---|
CN114581392B (zh) | 2022-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114581392B (zh) | 基于深度学习和各向异性活动轮廓的图像分割方法 | |
CN111489364B (zh) | 基于轻量级全卷积神经网络的医学图像分割方法 | |
CN112163628A (zh) | 一种适用于嵌入式设备的改进目标实时识别网络结构的方法 | |
CN112365514A (zh) | 基于改进PSPNet的语义分割方法 | |
CN110599461B (zh) | 一种基于子空间特征学习的丘脑功能分区方法 | |
CN112270366B (zh) | 基于自适应多特征融合的微小目标检测方法 | |
CN110706214A (zh) | 融合条件随机与残差的三维U-Net大脑肿瘤分割方法 | |
CN107273934A (zh) | 一种基于属性融合的图聚类方法 | |
CN112884668A (zh) | 基于多尺度的轻量级低光图像增强方法 | |
CN113744136A (zh) | 基于通道约束多特征融合的图像超分辨率重建方法和系统 | |
CN114419381A (zh) | 一种语义分割方法及应用其的道路积水检测方法和装置 | |
CN114170311A (zh) | 一种双目立体匹配方法 | |
CN107153839A (zh) | 一种高光谱图像降维处理方法 | |
CN113781324A (zh) | 一种老照片修复方法 | |
CN117934375A (zh) | 一种增强图像特征融合的轻量化锂电池表面缺陷检测方法 | |
CN113780483B (zh) | 结节超声分类数据处理方法及数据处理系统 | |
CN116246110A (zh) | 基于改进胶囊网络的图像分类方法 | |
CN116797790A (zh) | 一种主动脉夹层边界确定方法、系统、电子设备及介质 | |
CN111626379A (zh) | 肺炎x光图像检测方法 | |
CN111898560A (zh) | 一种目标检测中的分类回归特征解耦方法 | |
Yu et al. | Remote sensing image classification based on RBF neural network based on fuzzy C-means clustering algorithm | |
CN117611599B (zh) | 融合中心线图和增强对比度网络的血管分割方法及其系统 | |
CN116740069B (zh) | 基于多尺度显著信息和双向特征融合的表面缺陷检测方法 | |
CN114078149A (zh) | 一种图像估计方法、电子设备及存储介质 | |
CN117274754A (zh) | 梯度匀质化的点云多任务融合方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |