CN116681667A - 一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质 - Google Patents

一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质 Download PDF

Info

Publication number
CN116681667A
CN116681667A CN202310643341.XA CN202310643341A CN116681667A CN 116681667 A CN116681667 A CN 116681667A CN 202310643341 A CN202310643341 A CN 202310643341A CN 116681667 A CN116681667 A CN 116681667A
Authority
CN
China
Prior art keywords
medical image
self
small sample
module
segmentation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310643341.XA
Other languages
English (en)
Inventor
张方蓉
纪建
廖俊茹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN202310643341.XA priority Critical patent/CN116681667A/zh
Publication of CN116681667A publication Critical patent/CN116681667A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/0895Weakly supervised learning, e.g. semi-supervised or self-supervised learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质,方法包括:对未标注图片医学图像数据集进行数据增强,得到增强后医学图像数据集,用自监督学习maskSLIC算法进行聚类处理,生成伪标签,将有标注图片医学图像数据集和伪标签进行数据增强,得到支持集和查询集,构建基于原型网络小样本分割模型,将支持集和查询集输入上述模型,得到医学图像数据集分割后的预测结果,将其输入上述模型,得到微调小样本分割模型,将其用于医学图像分割,得到基于自监督学习的小样本医学图像分割结果;系统、设备及介质,用于实现基于自监督学习的小样本医学图像分割方法;本发明具有泛化能力强、医学图像数据量多、全局多样性充裕、分割性能好的特点。

Description

一种基于自监督学习的小样本医学图像分割方法、系统、设备 及介质
技术领域
本发明涉及医学图像分割技术领域,具体涉及一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质。
背景技术
医学图像分割是医学图像分析的基础,其主要目的是将医学图像中的目标区域与背景分离出来。医学图像的分割任务往往需要人工参与,由于人工参与的成本高昂、工作量大、且易出现主观误差等问题,因此,研究如何利用计算机算法自动实现医学图像分割成为当前医学图像分析领域的热门研究方向。
现有的医学图像分割算法主要有:
(1)基于U-Net的医学图像分割
U-Net采用了一种跳层的对称编码器—解码器架构,解码网络中使用上采样加卷积的结构,简单高效,容易构建,该结构在数据量较少的医学影像数据集中取得了不错的图像分割结果。Residual U-Net是对U-Net的一种改进,它将残差网络和U-Net结合起来,可以更好地利用图像中上下文空间信息,有效减少错误预测,加强了卷积神经网络学习方式,同时防止更深层次的梯度退化问题,在网络层提取特征的同时保证图像本质属性特征的识别更加明显。此外,R2U-Net使用了循环残余卷积网络,能够训练更深的网络,并且能够提取到更好的特征,在拥有相同参数量的情况下,获得了更好的表现。但是此类方法通常需要大量的数据集进行训练,而医学图像数据标注困难,在数据集量少的情况下,难以实现较好的效果。
(2)基于Transformer的医学图像方法
UNETR模型则将视觉Transformer模型融入到了U-Net的特征提取中,用于3D影像数据的肝脏分割任务,该模型借助Transformer很好地建立了特征之间的远距离联系和依赖,相比于经典的U-Net,UNETR可以发掘出更大范围的上下文语义信息,对肝脏器官的轮廓和复杂的病灶等具有更强的分割能力。近几年来,基于Transformer强大的全局上下文信息表示能力以及CNN在局部特征提取的优势,一些研究人员提出了Transformer和CNN相结合的方法来实现全局和局部特征的融合。如TransUNet模型,在保留编码器—解码器网络的基础上,在解码器部分的最后一层,通过引入Transformer模块,弥补了全局信息的丢失相比于纯Transformer的方法,提高了分割精度。但基于Transformer的医学图像方法也无法在数据集量较少的情况下获得良好的精度,由此导致此类模型通常抗噪性能,全局多样性以及泛化能力较差。
(3)基于半监督的医学图像分割
URPC模型提出了不确定性纠正金字塔一致性正则化方法用于半监督医学图像分割,文章一方面对于有标签的数据采用监督损失来训练网络,另一方面对于没有标记的数据采用金字塔结构生成多尺度的预测值进行一致性约束。但是此类方法依旧需要一定的有标注数据集作为支撑进行训练,无法在未标记的数据集上进行训练,此外,对于医学图像中前景背景不平衡的问题,此类模型也难以解决,导致分割性能较差。
专利申请号为[CN202211432379.4]的专利申请,提供了“一种基于自监督学习的全视野医学图片区域分割方法”,首先进行数据预处理,过程包括组织区域分割,采样图像块,通过随机裁剪、高斯模糊、颜色变换等方式进行数据增强;然后,对图像块进行自监督预训练,保存预训练模型;最后,构建语义分割网络,完成区域的分割;但是此方法只在进行训练的数据集中表现良好,使用其他数据集后效果不佳,不具有很强的泛化能力。
发明内容
为了克服上述现有技术的缺点,本发明的目的在于提供一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质,通过采用数据增强策略、医学图像数据增强策略,融入自监督学习maskSLIC算法,利用小样本图像分割特点,采用基于原型网络的小样本分割模型,在数据集少的情况下同样可取得较好的效果,在标注和未标注的数据集上进行训练,适用的数据集范围广,缓解了医学数据标注的压力、前景背景不平衡和抗噪性能差的问题,因此具有泛化能力强、全局多样性充裕、分割性能好的特点。
一种基于自监督学习的小样本医学图像分割方法,包括以下步骤:
步骤1:获取未标注图片的医学图像数据集,采用数据增强策略对未标注图片的医学图像数据集进行数据增强,得到增强后的医学图像数据集;
步骤2:对未标注的医学图像数据集和步骤1得到的增强后的医学图像数据集利用自监督学习maskSLIC算法进行聚类处理,生成伪标签;
步骤3:采用医学图像数据增强策略将有标注的图片的医学图像数据集和根据步骤2得到的伪标签进行数据增强,得到支持集和查询集;
步骤4:构建基于原型网络的小样本分割模型;
步骤5:将步骤3得到的支持集和查询集输入到步骤4得到的小样本分割模型,得到对医学图像数据集分割后的预测结果;
步骤6:将步骤5得到的对医学图像数据集分割后的预测结果输入到步骤4得到的小样本分割模型,得到微调后的小样本分割模型,将微调后的小样本分割模型用于医学图像分割,得到一种基于自监督学习的小样本医学图像分割结果。
所述步骤1中的数据增强策略,包括:
1)水平翻转:利用OpenCV即一个基于Apache2.0许可发行的跨平台计算机视觉和机器学习软件库的数据增强操作以及Python图像处理库中的图像类PIL方法进行操作:先从PIL中导入未标注图片的医学图像数据集,然后进行图像裁剪Image.resize,图像旋转Image.rotate操作;
2)随机旋转:采用随机角度旋转策略进行数据增强;
3)随机裁剪:对未标注图片的医学图像数据集随机选取数据集中的图片进行随机尺度裁剪操作,从而实现数据增强。
所述步骤2利用自监督学习maskSLIC算法对未标注的医学图像数据集和增强后的医学图像数据集进行聚类处理,生成伪标签,具体为:
步骤2.1:获得邻域聚类中心:按照设定的超像素个数,对于步骤1中数据增强后的医学图像数据集均匀的分配种子点,假设医学图像数据集总共有N个像素点,预分割为K个相同尺寸的超像素,那么每个超像素的大小为N/K,得到邻域聚类中心;
步骤2.2:在种子点的邻域聚类中心内重新选择种子点:计算步骤2.1得到的邻域聚类中心内所有像素点的梯度值,将种子点移到邻域聚类中心内梯度最小的地方;
步骤2.3:在步骤2.2得到的每个种子点周围的邻域聚类中心内为每个像素点分配类标签;
步骤2.4:根据步骤2.3得到的分配类标签,使用欧几里德距离变换迭代查找距离邻域边界和任何其他种子点的最大距离的种子点;
所述的欧几里德距离变换,公式为如下:
其中,D(x)表示在位置x上的距离变换,n表示空间维度数量,L是包含背景B和标记点P的集合,B是背景标签没有掩码的集合;
最大距离p*可通过下式得到:
p*=argxmaxD(x)
当标记点P变成P∪{p*}时,对应于下一次迭代,迭代需要重复N次,直至得到最大距离的种子点P;
步骤2.5:将步骤2.4得到的最大距离的种子点带入到线性迭代聚类SLIC,得到超像素,将得到的超像素用于指定标签mask内部定义的像素,生成伪标签。
所述步骤3的具体过程为:
步骤3.1:采用医学图像数据增强策略对图像进行数据增强,得到融合图像;所述的医学图像数据增强策略分为全局位置尺度增强模块、局部位置尺度增模块和显著性融合模块;
步骤3.2:采用显着性平衡融合策略模块对步骤3.1中的融合图像通过输入通道的梯度值取范式,然后对取范式后的融合图像下采样,对采样后的模块进行线性插值操作输出增强后的融合图像;
步骤3.3:对于每一次迭代i,由步骤3.2得到的增强后的融合图像中每张图片xi和步骤2中生成的超像素来构成支持集/>
每一次迭代的查询集为其中/>和/>是对于支持集中的图片进行随即转换。
所述步骤3.1的具体过程为:
步骤3.1.1:使用全局位置尺度增强模块对有标注的图片的医学图像数据集和伪标签进行约束贝塞尔变换,得到增强图像多样性的医学图像数据集,计算高斯分布的标准差,根据差值选取位置尺度因子,通过对增强图像多样性的医学图像数据集输入通道上的梯度值取范数以及进行下采样操作和线性插值操作计算显著图,得到全局中最大梯度区域;
步骤3.1.2:使用局部位置尺度增模块将步骤3.1.1得到的全局中最大梯度区域的有标注的图片的医学图像数据集和伪标签进行约束贝塞尔变换,得到增强图像多样性的医学图像数据集,然后计算高斯分布的标准差,根据差值选取位置尺度因子,通过对增强图像多样性的医学图像数据集输入通道上的梯度值取范数以及进行下采样操作和线性插值操作计算显著图,得到前景区域中最大梯度区域;
步骤3.1.3:将步骤3.1.1得到的全局中最大梯度区域和步骤3.1.2得到的前景区域中最大梯度区域进行融合,得到融合图像。
所述步骤4基于原型网络的小样本分割模型,结构为:
1)特征提取模块:用于使用特征提取函数fθ(·)对支持集和查询集进行特征提取,生成支持集和查询的
2)自适应局部原型池化模块:用于对支持集提取的特征进行求和取均值操作,生成局部原型pl,mn(c)和类级原型/>通过生成的局部原型和类级原型划分出前景和背景;
3)基于相似性的分类器模块:用于对支持集中的前景和查询集中的特征提取计算相似度,得到查询集中前景的分类结果;
所述自适应局部原型池化模块中的局部原型表示为:
其中,表示查询集中序号为l的图像。
对每个局部原型pl,mn(c)的类c进行如下操作来执行类别划分:
其中,表示步骤3中生成的超像素/>在位置(m,n)上使用平均池化后的值,T为前景的下界阈值,T在0-1之间;
所述自适应局部原型池化模块为中的类级原型表示为:
其中,为查询集中序号为l,类别为/>的二进制掩码。
所述步骤5的具体过程为:
步骤5.1:将步骤3得到的支持集和查询集输入到步骤4中的特征提取模块进行特征提取,生成支持集和查询集的
步骤5.2:将步骤5.1得到的支持集提取的特征输入到自适应局部原型池化模块,生成局部原型和类级原型,将生成局部原型和类级原型划分为前景和背景;
步骤5.3:将步骤5.2得到的前景和查询集中的特征提取输入到基于相似性的分类器模块,计算计算相似度,得到查询集中前景的分类结果;
步骤5.4:将步骤5.3得到的查询集中前景的分类结果用归一化指数函数进行归一化处理,得到最终对医学图像数据集分割后的预测结果。
一种基于自监督学习的小样本医学图像分割系统,包括:
自监督模块:本模块采用自监督学习maskSLIC算法生成伪标签;
数据增强模块:本模块采用水平翻转、随机裁剪、随机旋转以及医学图像数据增强策略对医学图像进行数据增强;
小样本图像分割模块:本模块采用微调后的小样本分割模型对医学图像任务进行分割,得到一种基于自监督学习的小样本医学图像分割结果。
一种基于自监督学习的小样本医学图像分割设备,包括:
存储器:用于存储实现所述的一种基于自监督学习的小样本医学图像分割方法的计算机程序;
处理器,用于执行所述计算机程序时实现所述的一种基于自监督学习的小样本医学图像分割方法。
一种计算机可读存储介质,包括:
所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时能够实现一种基于自监督学习的小样本医学图像分割方法。
相对于现有技术,本发明的有益效果在于:
1.本发明对未标注的医学图像数据集采用自监督学习maskSLIC算法增强其鲁棒性,相比于现有的未采用自监督学习算法的网络结构U-Net,R2U-Net等,本发明减少了对于数据标注的依赖,从而缓解了医学图像数据集标注的压力。
2.本发明采用的数据增强策略,如水平翻转、随机旋转、随机裁剪,相比于未采用数据增强策略的医学图像分割方法,可以更显著地改善医学图像数据量少的问题,因此具有分割性能好的特点。
3.本发明采用针对医学图像使用医学图像数据增强策略,相较于自然图像中采用的数据增强策略,医学图像数据增强策略改善了全局增强多样性不足的问题,执行了特定类的转化,因此具有全局多样性充裕、泛化能力强的特点。
4.本发明采用显著性平衡融合策略,为前景区域特定类的方向和强度提供梯度信息的增强,提高医学图像分割性能,因此具有分割性能好的特点。
5.本发明利用小样本图像分割的特点,相较于目前其他的医学图像分割网络,如URPC,TransU-Net等模型,采用基于原型结构的小样本分割模型,有效的缓解医学图像前景背景模糊、抗噪性差等问题,提升了模型的泛化能力,因此具有泛化能力强的特点。
综上所述,本发明通过采用数据增强策略、医学图像数据增强策略,融入自监督学习maskSLIC算法,利用小样本图像分割特点,采用基于原型网络的小样本分割模型,在数据集少的情况下同样可取得较好的效果,在标注和未标注的数据集上进行训练,适用的数据集范围广,缓解了医学数据标注的压力、前景背景不平衡和抗噪性能差的问题,因此具有泛化能力强、医学图像数据量多、全局多样性充裕、分割性能好的特点。
附图说明
图1为本发明的方法流程图。
图2为小样本原型网络模型处理支持集和查询集的流程图。
图3为本发明使用maskSLIC自监督算法的部分结果图。
图4为本发明与其他主流方法效果的对比图。
具体实施方式
下面结合附图对本发明作详细叙述。
参见图1,步骤1:获取未标注图片的医学图像数据集,采用数据增强策略对未标注图片的医学图像数据集进行数据增强,得到增强后的医学图像数据集;由于医学图像数据集种类较多,我们要针对医学图像数据集的特定特点进行增强操作,在常见的CT图像处理中可以进行一些常见的增强处理策略,如:在各个方位上进行水平翻转、随机旋转、随机裁剪、位置尺度增强操作,这些操作都能够增强数据的多样性并且提高模型的鲁棒性,改善了医学图像数据量少的问题;
所述的医学图像数据集包括:
ABIDE数据集是一个多中心、跨国的核磁共振MRI数据集,其中包含了1,126名自闭症患者和1,181名典型人群的核磁共振MRI扫描图像、性别和年龄信息、认知和行为评估数据等;这些核磁共振MRI扫描图像由不同的成像设备生成,使用不同的成像参数设置,图像质量和噪音水平也有所不同,ABIDE数据集提供了对来自不同来源的核磁共振MRI数据进行标准化和校正的方法。
CMR数据集收集了大量的心脏磁共振成像数据,包括乳头肌运动、左心室形态和功能、冠状动脉血流等多个方面的数据,这些数据可以为心血管疾病的诊断和治疗提供重要支持,此外,CMR数据集还包含了大量的心脏样本数据,如心肌细胞、血管内皮细胞等,对于心脏疾病的分子机制研究也有很大的参考价值;
所述步骤1中的数据增强策略,包括:
1)水平翻转:利用OpenCV即一个基于Apache2.0许可发行的跨平台计算机视觉和机器学习软件库的数据增强操作以及Python图像处理库中的图像类PIL方法进行操作:先从PIL中导入未标注图片的医学图像数据集,然后进行图像裁剪Image.resize,图像旋转Image.rotate操作;
2)随机旋转:采用随机角度旋转策略进行数据增强;具体为:读取未标注图片的医学图像数据集,然后对医学图像数据集中的图片进行预处理操作,先使用使用图像处理函数transforms.resize对医学图像数据集的图片大小进行裁剪,然后将裁剪后的图片使用自由角度旋转函数transforms.Random.Rotation,其中第一个参数为旋转角度,第二个参数为旋转中心,进行随机旋转,然后将随机旋转后的医学图像数据集继续使用transforms.Resize函数进行裁剪,最后转变成张量型变量
3)随机裁剪:对未标注图片的医学图像数据集随机选取数据集中的图片进行随机尺度裁剪操作,从而实现数据增强;具体为:读取未标注图片的医学图像数据集,然后打乱数据,随机选取医学图像数据集中的图片使用图像预处理包transforms.Compose中的RandomResizedCrop将给定图像随机裁剪为不同的大小和宽高比,然后缩放所裁剪得到的图像为制定的大小,即先随机采集,然后对裁剪得到的图像缩放为同一大小;
步骤2:对未标注的医学图像数据集和步骤1得到的增强后的医学图像数据集利用自监督学习maskSLIC算法进行聚类处理,生成伪标签;
所述步骤2中的自监督学习maskSLIC算法进行聚类处理,具体为:
步骤2.1:获得邻域聚类中心:按照设定的超像素个数,对于步骤1中数据增强后的医学图像数据集均匀的分配种子点,假设医学图像数据集总共有N个像素点,预分割为K个相同尺寸的超像素,那么每个超像素的大小为N/K,得到邻域聚类中心;
步骤2.2:在种子点的邻域聚类中心内重新选择种子点:计算步骤2.1得到的邻域聚类中心内所有像素点的梯度值,将种子点移到邻域聚类中心内梯度最小的地方;这样做的目的是为了避免种子点落在梯度较大的轮廓边界上,以免影响后续聚类效果;
步骤2.3:在步骤2.2得到的每个种子点周围的邻域内为每个像素点分配类标签;
步骤2.4:根据步骤2.3得到的分配类标签,使用欧几里德距离变换迭代查找距离邻域边界和任何其他种子点的最大距离的种子点;
所述的欧几里德距离变换,公式为如下:
其中,D(x)表示在位置x上的距离变换,n表示空间维度数量,L是包含背景B和标记点P的集合,B是背景标签没有掩码的集合;
最大距离p*可通过下式得到:
p*=argxmaxD(x)
当标记点P变成P∪{p*}时,对应于下一次迭代,迭代需要重复N次,直至得到最大距离的种子点P;
步骤2.5:将步骤2.4得到的最大距离的种子点带入到线性迭代聚类SLIC,得到超像素,将得到的超像素用于指定标签mask内部定义的像素,生成伪标签。
步骤3:将有标注的图片的医学图像数据集和根据步骤2得到的伪标签进行数据增强,得到支持集和查询集;
步骤3.1:采用医学图像数据增强策略对图像进行数据增强,得到融合图像;
所述的医学图像数据增强模块分为全局位置尺度增强模块、局部位置尺度增模块和显着性平衡融合模块;
步骤3.1.1:使用全局位置尺度增强模块对有标注的图片的医学图像数据集和伪标签进行约束贝塞尔变换,得到增强图像多样性的医学图像数据集,计算高斯分布的标准差,根据差值选取位置尺度因子,确保全局位置尺度增强后的医学图像数据集与有标注的图片的医学图像数据集和伪标签具有相似的外观,通过对增强图像多样性的医学图像数据集输入通道上的梯度值取范数以及进行下采样操作和线性插值操作计算显著图,得到全局中最大梯度区域;
步骤3.1.2:使用局部位置尺度增模块将步骤3.1.1得到的全局中最大梯度区域的有标注的图片的医学图像数据集和伪标签进行约束贝塞尔变换,得到增强图像多样性的医学图像数据集,然后计算高斯分布的标准差,根据差值选取位置尺度因子,确保局部位置尺度增强后的样本与有标注的图片的医学图像数据集和伪标签具有相似的外观具有相似的外观,通过对增强图像多样性的医学图像数据集输入通道上的梯度值取范数以及进行下采样操作和线性插值操作计算显著图,得到前景区域中最大梯度区域;
步骤3.1.3:将步骤3.1.1得到的全局中最大梯度区域和步骤3.1.2得到的前景区域中最大梯度区域进行融合,得到融合图像;通过显著图将局部位置尺度增强图像与全局位置尺度增强图像融合,保留了全局位置尺度增强图像中的大梯度区域,并将剩余区域替换为局部位置尺度增强部分,这些区域可以观察到外观上的变化,此模块只对前景区域进行非线性变换操作,使用位置尺度增强策略可以增强样本的多样性和信息量,使得分割结果更加准确;
步骤3.2:由于融合图像包含增强图像的两个部分,显着性平衡融合策略鼓励模型在全局位置尺度增强和局部位置尺度增强示例之间表现出线性,它以梯度分布作为增强幅度的指标来解决随机增强的过度泛化问题;采用显着性平衡融合策略模块对步骤3.1中的融合图像通过输入通道的梯度值取范式,然后对取范式后的融合图像下采样,对采样后的模块进行线性插值进行平滑处理操作输出增强后的融合图像;与直接输入局部位置尺度增强样本相比,这种线性行为在预测分布外样本时减少了不良振荡的数量,为适当的梯度信息提供增强方向和强度;
步骤3.3:对于每一次迭代i,由步骤3.2得到的增强后的融合图像中每张图片xi和步骤2中生成的超像素来构成支持集/>
每一次迭代的查询集为其中/>和/>是对于支持集中的图片进行随即转换。
所述步骤4基于原型网络的小样本分割模型,结构为:
1)特征提取模块:用于使用特征提取函数fθ(·)对支持集和查询集进行特征提取,生成支持集和查询集的
2)自适应局部原型池化模块:用于对支持集提取的特征进行求和取均值操作,生成局部原型pl,mn(c)和类级原型/>通过生成的局部原型和类级原型划分出前景和背景;
3)基于相似性的分类器模块:用于对支持集中的前景和查询集中的特征提取计算相似度,得到查询集中前景的分类结果;
所述的自适应局部原型池化模块为中的局部原型,表示为:
其中,表示查询集中序号为l的图像。
为了使得每个局部原型pl,mn(c)的类c平均前景类的二值掩码到相同大小,进行如下操作:
其中,表示步骤3中生成的超像素/>在位置(m,n)上使用平均池化后的值。T为前景的下界阈值,T设置为0.95;
所述的自适应局部原型池化模块为中的类级原型表示为:
其中,为查询集中序号为l,类别为/>的二进制掩码。
步骤4:构建基于原型网络的小样本分割模型;所述步骤4基于原型网络的小样本分割模型,结构为:
1)特征提取模块:用于使用特征提取函数fθ(·)对支持集和查询集进行特征提取,生成支持集和查询的
2)自适应局部原型池化模块:用于对支持集提取的特征进行求和取均值操作,生成局部原型pl,mn(c)和类级原型/>通过生成的局部原型和类级原型划分出前景和背景;
3)基于相似性的分类器模块:用于对支持集中的前景和查询集中的特征提取计算相似度,得到查询集中前景的分类结果;
所述自适应局部原型池化模块中的局部原型表示为:
其中,表示查询集中序号为l的图像。
为了使得每个局部原型pl,mn(c)的类c平均前景类的二值掩码到相同大小,进行如下操作:
其中,表示步骤3中生成的超像素/>在位置(m,n)上使用平均池化后的值,T为前景的下界阈值,T在0-1之间;
所述自适应局部原型池化模块中的类级原型表示为:
其中,为查询集中序号为l,类别为/>的二进制掩码;
为了提高基于原型网络的小样本分割模型的精度,在将支持集和查询集送入小样本分割模型之前,先用预训练模型对支持集和查询集进行预训练,所述的预训练模型使用残差网络ResNet-101在真实图像数据集MS-COCO上预训练的权重作为特征提取的主干网络,该网络是由一个7×7,步幅为2的卷积层,最大池化层以及四个残差块组成,其中网络中第一个残差块的输出特征比输入分辨率小4倍,网络对最后3个带扩张的残差块进行三倍下采样操作。
参见图2,步骤5:将步骤3得到的支持集和查询集输入到步骤4得到的小样本分割模型,得到对医学图像数据集分割后的预测结果;具体过程为:
步骤5.1:将步骤3得到的支持集和查询集输入到步骤4中的特征提取模块进行特征提取,生成支持集和查询的
步骤5.2:将步骤5.1得到的支持集提取的特征输入到自适应局部原型池化模块,生成局部原型和类级原型,将生成局部原型和类级原型划分为前景和背景;
步骤5.3:将步骤5.2得到的前景和查询集中的特征提取输入到基于相似性的分类器模块,计算计算相似度,得到查询集中前景的分类结果;
步骤5.4:将步骤5.3得到查询集中前景的分类结果用Softmax函数进行归一化处理,得到最终对医学图像数据集分割后的预测结果。
使用batch-size为1的随机梯度下降算法对步骤4构建小样本分割模型的10万次迭代进行最小化批量处理,其中设置学习率为0.001,每1000次迭代的衰减速率为0.98。
步骤6:将步骤5得到的对医学图像数据集分割后的预测结果输入到步骤4得到的小样本分割模型,得到微调后的小样本分割模型,将微调后的小样本分割模型用于医学图像分割,得到一种基于自监督学习的小样本医学图像分割结果。
参见图3,其中,图3(a)为医学图像原图,图3(b)为使用maskSLIC算法生成伪标签,可以看出,使用自监督学习算法maskSLIC可以将相似的特征聚集在一起,捕获局部相似性的同时,减少了图像的冗余,加快了处理速度,从而使复杂的区域关系分析更加可行,也获得了对噪声和部分体积更稳健的表示。
此外,为了使实验结果更加真实可靠,本发明设置查询集和支持集的图片数据集的比例,并将查询集划分为测试类和训练类,进行对比实验,采用了如下两种设置:
设置1:标准设置,其中查询集中的测试类可以出现在查询集中的训练类的背景中,测试类的对象可能被隐含地涉及在训练过程中,在这种情况下,测试类对于基于原型的小样本分割模型来说并不是真正“看不见的”类。
设置2:严格设置,查询集中的测试类不可以出现在查询集中的训练类的背景中,本发明从查询集中的训练类中删除包含测试类的图像切片训练数据,此设置模式能保证测试类是模型真正“看不见的”类。
为了评估本发明提出的医学图像小样本分割模型的性能,将本发明的实验结果与目前针对医学图像分割所设计的一些优秀方法进行比对。
表1:在ABIDE数据集中采用标准设置1,得到的实验结果:
Method Liver R.kidney L.kidney Spleen MEAN
ALPNet 78.55 83.11 78.16 70.58 77.60
Q-Net 81.74 87.98 78.36 75.99 81.02
SE-Net 20.02 47.96 45.78 47.30 42.51
PANet 76.81 83.35 75.05 75.77 77.74
Ours 82.12 87.88 80.11 76.02 81.53
表2:在ABIDE数据集中采用严格设置2,得到的实验结果:
Method Liver R.kidney L.kidney Spleen MEAN
ALPNet 72.53 81.15 68.04 71.00 78.43
Q-Net 80.44 75.98 76.26 74.19 76.71
SE-Net 27.43 61.32 62.11 51.80 50.66
PANet 73.44 79.21 77.05 73.48 75.79
Ours 81.21 81.58 78.21 75.99 79.24
从表1和表2可以看出,在ABIDE数据集上,本发明(Ours)所采用的基于自监督的小样本医学图像分割方法得到的效果较ALPNet、Q-Net、SE-Net、PANet方法在Liver、R.kidney、L.kidney、Spleen分类中测试结果显著,尤其是L.kidney和Liver分类中测试结果明显提升,主要是由于本发明提出的小样本原型算法中针对前景背景模糊问题设计了专门的局部原型和类级原型模块进行处理。
表3:在CMR数据集中采用标准设置1,得到的实验结果:
Method LV-BP LV-MYO RV MEAN
ALPNet 85.42 63.38 74.07 74.29
Q-Net 88.25 56.92 78.19 74.45
SE-Net 58.04 25.18 12.86 32.02
PANet 87.63 60.23 71.98 73.28
Ours 89.21 63.11 73.02 75.11
表4:在CMR数据集中采用严格设置2,得到的实验结果:
Method LV-BP LV-MYO RV MEAN
ALPNet 83.12 58.34 71.28 70.91
Q-Net 82.10 52.13 78.10 70.77
SE-Net 53.04 23.10 15.53 30.55
PANet 81.07 61.54 69.28 70.63
Ours 84.23 61.28 71.12 72.21
从表3和表4可以看出,在CMR数据集上,本发明(Ours)所采用的基于自监督的小样本医学图像分割方法得到的效果较ALPNet、Q-Net、SE-Net、PANet方法在LV-BP、LV-MYO、RV分类中测试精度,尤其是在LV-BP分类中,测试精度显著提升。
综上所述,由于本发明在标准设置1中训练类背景中存在一些测试类中的对象,所以标准设置1的实验精度要比严格设置2的实验精度更高,但还是可以看出,由于本发明在数据处理以及原型网络中做出的改进策略,相比其他医学图像分割模型,本发明的标准设置1和严格设置2的精度差并不是很大,这也从另一个方面体现出本发明的适用性较强。
参见图4,可以看出本发明(Ours)所采用的医学图像分割方法与Q-Net、ALPNet、SENet、PANet、groundtruth医学图像分割方法的可视化对比结果图,可以看出,本发明提出的模型结果无论是在关键器官的分割边界,还是在分割的范围上都更加准确,其结果较真实值更加相近;尤其是相较于SE-Net和ALPNet网络将其他部位进行了错误的划分,更加可以看出本发明实验结果的优越性。
一种基于自监督学习的小样本医学图像分割系统,包括:
自监督模块:本模块采用自监督学习maskSLIC算法生成伪标签,使用这些超像素进行训练可以直观地提高网络对各种形状的不可见类的泛化能力;
数据增强模块:本模块采用水平翻转、随机裁剪、随机旋转以及位置尺度增强策略对医学图像进行数据增强,提升了增强操作后图像的信息量和多样性;
小样本图像分割模块:本模块采用微调后的小样本分割模型对医学图像任务进行分割,得到一种基于自监督学习的小样本医学图像分割结果,提升了图像分割的准确度。
一种基于自监督学习的小样本医学图像分割设备,包括:
存储器:用于存储实现所述的一种基于自监督学习的小样本医学图像分割方法的计算机程序;
处理器,用于执行所述计算机程序时实现所述的一种基于自监督学习的小样本医学图像分割方法。
一种计算机可读存储介质,包括:
所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时能够实现一种基于自监督学习的小样本医学图像分割方法。

Claims (10)

1.一种基于自监督学习的小样本医学图像分割方法,其特征在于,包括以下步骤:
步骤1:获取未标注图片的医学图像数据集,采用数据增强策略对未标注图片的医学图像数据集进行数据增强,得到增强后的医学图像数据集;
步骤2:对未标注的医学图像数据集和步骤1得到的增强后的医学图像数据集利用自监督学习maskSLIC算法进行聚类处理,生成伪标签;
步骤3:采用医学图像数据增强策略将有标注的图片的医学图像数据集和根据步骤2得到的伪标签进行数据增强,得到支持集和查询集;
步骤4:构建基于原型网络的小样本分割模型;
步骤5:将步骤3得到的支持集和查询集输入到步骤4得到的小样本分割模型,得到对医学图像数据集分割后的预测结果;
步骤6:将步骤5得到的对医学图像数据集分割后的预测结果输入到步骤4得到的小样本分割模型,得到微调后的小样本分割模型,将微调后的小样本分割模型用于医学图像分割,得到一种基于自监督学习的小样本医学图像分割结果。
2.根据权利要求1所述的一种基于自监督学习的小样本医学图像分割方法,其特征在于,所述步骤1中的数据增强策略,包括:
1)水平翻转:利用OpenCV即一个基于Apache2.0许可发行的跨平台计算机视觉和机器学习软件库的数据增强操作以及Python图像处理库中的图像类PIL方法进行操作:先从PIL中导入未标注图片的医学图像数据集,然后进行图像裁剪Image.resize,图像旋转Image.rotate操作;
2)随机旋转:采用随机角度旋转策略进行数据增强;
3)随机裁剪:对未标注图片的医学图像数据集随机选取数据集中的图片进行随机尺度裁剪操作,从而实现数据增强。
3.根据权利要求1所述的一种基于自监督学习的小样本医学图像分割方法,其特征在于,所述步骤2利用自监督学习maskSLIC算法对未标注的医学图像数据集和增强后的医学图像数据集进行聚类处理,生成伪标签,具体为:
步骤2.1:获得邻域聚类中心:按照设定的超像素个数,对于步骤1中数据增强后的医学图像数据集均匀的分配种子点,假设医学图像数据集总共有N个像素点,预分割为K个相同尺寸的超像素,那么每个超像素的大小为N/K,得到邻域聚类中心;
步骤2.2:在种子点的邻域聚类中心内重新选择种子点:计算步骤2.1得到的邻域聚类中心内所有像素点的梯度值,将种子点移到邻域聚类中心内梯度最小的地方;
步骤2.3:在步骤2.2得到的每个种子点周围的邻域聚类中心内为每个像素点分配类标签;
步骤2.4:根据步骤2.3得到的分配类标签,使用欧几里德距离变换迭代查找距离邻域边界和任何其他种子点的最大距离的种子点;
所述的欧几里德距离变换,公式为如下:
其中,D(x)表示在位置x上的距离变换,n表示空间维度数量,L是包含背景B和标记点P的集合,B是背景标签没有掩码的集合;
最大距离p*可通过下式得到:
p*=argxmaxD(x)
当标记点P变成P∪{p*}时,对应于下一次迭代,迭代需要重复N次,直至得到最大距离的种子点P;
步骤2.5:将步骤2.4得到的最大距离的种子点带入到线性迭代聚类SLIC,得到超像素,将得到的超像素用于指定标签mask内部定义的像素,生成伪标签。
4.根据权利要求1所述的一种基于自监督学习的小样本医学图像分割方法,其特征在于,所述步骤3的具体过程为:
步骤3.1:采用医学图像数据增强策略对图像进行数据增强,得到融合图像;所述的医学图像数据增强策略分为全局位置尺度增强模块、局部位置尺度增模块和显著性融合模块;
步骤3.2:采用显着性平衡融合策略模块对步骤3.1中的融合图像通过输入通道的梯度值取范式,然后,对取范式后的融合图像下采样,对采样后的模块进行线性插值操作输出增强后的融合图像;
步骤3.3:对于每一次迭代i,由步骤3.2得到的增强后的融合图像中每张图片xi和步骤2中生成的超像素来构成支持集/>
每一次迭代的查询集为其中/>和/>是对于支持集中的图片进行随即转换。
5.根据权利要求4所述的一种基于自监督学习的小样本医学图像分割方法,其特征在于,所述步骤3.1的具体过程为:
步骤3.1.1:使用全局位置尺度增强模块对有标注的图片的医学图像数据集和伪标签进行约束贝塞尔变换,得到增强图像多样性的医学图像数据集,计算高斯分布的标准差,根据差值选取位置尺度因子,通过对增强图像多样性的医学图像数据集输入通道上的梯度值取范数以及进行下采样操作和线性插值操作计算显著图,得到全局中最大梯度区域;
步骤3.1.2:使用局部位置尺度增模块将步骤3.1.1得到的全局中最大梯度区域的有标注的图片的医学图像数据集和伪标签进行约束贝塞尔变换,得到增强图像多样性的医学图像数据集,然后计算高斯分布的标准差,根据差值选取位置尺度因子,通过对增强图像多样性的医学图像数据集输入通道上的梯度值取范数以及进行下采样操作和线性插值操作计算显著图,得到前景区域中最大梯度区域;
步骤3.1.3:将步骤3.1.1得到的全局中最大梯度区域和步骤3.1.2得到的前景区域中最大梯度区域进行融合,得到融合图像。
6.根据权利要求1所述的一种基于自监督学习的小样本医学图像分割方法,其特征在于,所述步骤4基于原型网络的小样本分割模型,结构为:
1)特征提取模块:用于使用特征提取函数fθ(·)对支持集和查询集进行特征提取,生成支持集和查询的
2)自适应局部原型池化模块:用于对支持集提取的特征进行求和取均值操作,生成局部原型pl,mn(c)和类级原型/>通过生成的局部原型和类级原型划分出前景和背景;
3)基于相似性的分类器模块:用于对支持集中的前景和查询集中的特征提取计算相似度,得到查询集中前景的分类结果;
所述自适应局部原型池化模块中的局部原型表示为:
其中,表示查询集中序号为l的图像;
对每个局部原型pl,mn(c)的类c进行如下操作来执行类别划分:
其中,表示步骤3中生成的超像素/>在位置(m,n)上使用平均池化后的值,T为前景的下界阈值,T在0-1之间;
所述自适应局部原型池化模块中的类级原型表示为:
其中,为查询集中序号为l,类别为/>的二进制掩码。
7.根据权利要求1所述的一种基于自监督学习的小样本医学图像分割方法,其特征在于,所述步骤5的具体过程为:
步骤5.1:将步骤3得到的支持集和查询集输入到步骤4中的特征提取模块进行特征提取,生成支持集和查询集
步骤5.2:将步骤5.1得到的支持集提取的特征输入到自适应局部原型池化模块,生成局部原型和类级原型,将生成局部原型和类级原型划分前景和背景;
步骤5.3:将步骤5.2得到的前景和查询集中的特征提取输入到基于相似性的分类器模块,计算计算相似度,得到查询集中前景的分类结果;
步骤5.4:将步骤5.3得到的查询集中前景的分类结果用归一化指数函数进行归一化处理,得到最终对医学图像数据集分割后的预测结果。
8.一种基于自监督学习的小样本医学图像分割系统,其特征在于,包括:
自监督模块:本模块采用自监督学习maskSLIC算法生成伪标签;
数据增强模块:本模块采用水平翻转、随机裁剪、随机旋转以及医学图像数据增强策略对医学图像进行数据增强;
小样本图像分割模块:本模块采用微调后的小样本分割模型对医学图像任务进行分割,得到一种基于自监督学习的小样本医学图像分割结果。
9.一种基于自监督学习的小样本医学图像分割设备,其特征在于,包括:
存储器:用于存储实现权利要求1-7所述的一种基于自监督学习的小样本医学图像分割方法的计算机程序;
处理器,用于执行所述计算机程序时实现权利要求1-7所述的一种基于自监督学习的小样本医学图像分割方法。
10.一种计算机可读存储介质,其特征在于,
所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时能够实现权利要求1-7所述一种基于自监督学习的小样本医学图像分割方法。
CN202310643341.XA 2023-06-01 2023-06-01 一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质 Pending CN116681667A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310643341.XA CN116681667A (zh) 2023-06-01 2023-06-01 一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310643341.XA CN116681667A (zh) 2023-06-01 2023-06-01 一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质

Publications (1)

Publication Number Publication Date
CN116681667A true CN116681667A (zh) 2023-09-01

Family

ID=87786615

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310643341.XA Pending CN116681667A (zh) 2023-06-01 2023-06-01 一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质

Country Status (1)

Country Link
CN (1) CN116681667A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117726815A (zh) * 2023-12-19 2024-03-19 江南大学 一种基于异常检测的小样本医学图像分割方法
CN118096685A (zh) * 2024-02-26 2024-05-28 中国矿业大学 一种基于深度学习的眼底图像渗漏区定量化计算方法
CN118135325A (zh) * 2024-03-29 2024-06-04 中国海洋大学 基于分割大模型引导的医学影像细粒度分类方法
CN118608547A (zh) * 2024-08-08 2024-09-06 之江实验室 一种基于原型和半监督深度学习的细胞核分割方法和系统

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117726815A (zh) * 2023-12-19 2024-03-19 江南大学 一种基于异常检测的小样本医学图像分割方法
CN117726815B (zh) * 2023-12-19 2024-07-02 江南大学 一种基于异常检测的小样本医学图像分割方法
CN118096685A (zh) * 2024-02-26 2024-05-28 中国矿业大学 一种基于深度学习的眼底图像渗漏区定量化计算方法
CN118135325A (zh) * 2024-03-29 2024-06-04 中国海洋大学 基于分割大模型引导的医学影像细粒度分类方法
CN118608547A (zh) * 2024-08-08 2024-09-06 之江实验室 一种基于原型和半监督深度学习的细胞核分割方法和系统

Similar Documents

Publication Publication Date Title
Sankaranarayanan et al. Learning from synthetic data: Addressing domain shift for semantic segmentation
Lei et al. Coupled adversarial training for remote sensing image super-resolution
CN108765363B (zh) 一种基于人工智能的冠脉cta自动后处理系统
CN116681667A (zh) 一种基于自监督学习的小样本医学图像分割方法、系统、设备及介质
CN113012172B (zh) 一种基于AS-UNet的医学图像分割方法及系统
WO2021203795A1 (zh) 一种基于显著性密集连接扩张卷积网络的胰腺ct自动分割方法
CN109035172B (zh) 一种基于深度学习的非局部均值超声图像去噪方法
CN109215033A (zh) 图像分割的方法及系统
CN111242959B (zh) 基于卷积神经网络的多模态医学图像的目标区域提取方法
WO2024104035A1 (zh) 基于长短期记忆自注意力模型的三维医学图像分割方法及系统
CN112907569B (zh) 头部图像区域的分割方法、装置、电子设备和存储介质
CN110648331B (zh) 用于医学图像分割的检测方法、医学图像分割方法及装置
CN116188479B (zh) 基于深度学习的髋关节图像分割方法及系统
Shan et al. SCA-Net: A spatial and channel attention network for medical image segmentation
CN114821052A (zh) 基于自调节策略的三维脑肿瘤核磁共振图像分割方法
CN113450359A (zh) 医学图像分割、显示、模型训练方法、系统、设备和介质
CN112070752A (zh) 一种医学图像的心耳分割方法、装置及存储介质
CN113159223A (zh) 一种基于自监督学习的颈动脉超声图像识别方法
CN117437423A (zh) 基于sam协同学习和跨层特征聚合增强的弱监督医学图像分割方法及装置
CN117237322A (zh) 一种基于医学图像的器官分割建模方法及终端
CN113538209A (zh) 一种多模态医学影像配准方法、配准系统、计算设备和存储介质
CN115035089A (zh) 适用于二维脑图像数据的脑解剖结构定位方法
Chatterjee et al. A survey on techniques used in medical imaging processing
Gao et al. Image super-resolution based on two-level residual learning CNN
CN113538363A (zh) 一种基于改进U-Net的肺部医学影像分割方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination