CN116721065A - 基于对比学习预训练的ddh超声影像分析方法 - Google Patents

基于对比学习预训练的ddh超声影像分析方法 Download PDF

Info

Publication number
CN116721065A
CN116721065A CN202310603724.4A CN202310603724A CN116721065A CN 116721065 A CN116721065 A CN 116721065A CN 202310603724 A CN202310603724 A CN 202310603724A CN 116721065 A CN116721065 A CN 116721065A
Authority
CN
China
Prior art keywords
training
ddh
network
ultrasonic
data set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310603724.4A
Other languages
English (en)
Inventor
李煊鹏
王志博
王加宽
黎梓威
张为公
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southeast University
Original Assignee
Southeast University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southeast University filed Critical Southeast University
Priority to CN202310603724.4A priority Critical patent/CN116721065A/zh
Publication of CN116721065A publication Critical patent/CN116721065A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06V10/7753—Incorporation of unlabelled data, e.g. multiple instance learning [MIL]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10132—Ultrasound image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30008—Bone
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03—Recognition of patterns in medical or anatomical images
    • G06V2201/033—Recognition of patterns in medical or anatomical images of skeletal patterns

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于对比学习预训练的DDH超声影像分析方法，首先获取无标签DDH超声影像数据；构建神经网络的特征提取器G，使用无标签数据集，以对比学习的方式训练神经网络的特征提取器；再根据待检查的关键解剖结构对部分数据进行标注，形成有标签超声数据集；根据任务目标构建任务处理网络T，将任务处理网络T与训练后的特征提取器G组合，形成神经网络模型O；使用有标签超声数据集对神经网络模型O进行训练，实现DDH超声影像分析。本方法利用大量无标注数据对特征提取网络进行预训练，提高其特征提取能力，从而提高使用深度学习进行超声影像检查中下游任务的性能。

Description

基于对比学习预训练的DDH超声影像分析方法
技术领域
本发明属于医学超声图像处理的技术领域，主要涉及了一种基于对比学习预训练的DDH超声影像分析方法。
背景技术
髋关节发育不良(developmental dysplasia of the hip,DDH)，是一种严重危害婴儿健康的最常见骨骼肌肉系统疾病。，其常用检查方法为进行超声影像检查。超声影像检查是一种无创检查方法，其具有廉价、无损、可重复等优点，与CT(电子计算机断层扫描)和MRI(核磁共振成像)等方法相比，是筛查DDH的首选影像分析方法。然而，其诊断过程对医师的解剖学知识和经验要求较高，且超声影像诊断存在很大的主观因素，同时整个诊断过程费力耗时。
深度学习能够直接对原始超声影像数据进行处理，能够对超声数据进行分析，从中提取图像特征，进而完成各项下游任务：如病变/结节分类、组织分割与目标检测等。利用深度学习完成自动超声影像检查和辅助诊断，可以提供相对稳定的诊断结果，并减轻医生工作负担。
利用深度学习完成自动DDH超声影像检查和辅助诊断需要大量规范、有效的数据。然而当前的公开超声数据集往往数量有限，很难满足深度学习的需求。另一方面，医院虽然存有大量历史超声影像数据，但由于医学超声影像经过需要规范的数据标注才能用于深度学习训练，因此部署深度学习超声影像检查需要较高的数据标注成本，且历史积累的大量超声数据很难得到充分利用。
发明内容
本发明正是针对现有DDH超声影像检查和辅助诊断中需要大量规范、有效的数据，数据工作量过于庞大和专业的问题，提供一种基于对比学习预训练的DDH超声影像分析方法，首先对DDH超声诊断中获得的超声灰阶图像进行数据增强预处理后，形成无标签数据集；构建神经网络的特征提取器G，使用无标签数据集，以对比学习的方式训练神经网络的特征提取器；再根据待检查的关键解剖结构对部分数据进行标注，形成有标签超声数据集；根据任务目标构建任务处理网络T，将任务处理网络T与训练后的特征提取器G组合，形成神经网络模型O；使用有标签超声数据集对神经网络模型O进行训练，并测试神经网络模型O的任务性能，实现DDH超声影像分析。本方法使用对比学习对无标签数据进行预训练，使得深度学习超声检测过程中的特征提取网络能够从大量无标签DDH超声数据中，学习到对应医学解剖结构的基本特征，缓解使用深度学习进行DDH超声影像分析时数据标记困难、下游任务数据集规模小的问题，进而提高神经网络在下游任务上的表现。
为了实现上述目的，本发明采取的技术方案是：基于对比学习预训练的DDH超声影像分析方法，包括如下步骤:
S1：对DDH超声诊断中获得的超声灰阶图像进行数据增强预处理后，形成无标签数据集；
S2：构建神经网络的特征提取器G，使用步骤S1获得的无标签数据集，以对比学习的方式训练神经网络的特征提取器；
S3：根据待检查关键解剖结构对部分数据进行标注，形成有标签超声数据集；
S4：根据任务目标构建任务处理网络T，将任务处理网络T与训练后的特征提取器G组合，形成神经网络模型O；
S5：使用步骤S3标注的有标签超声数据集对神经网络模型O进行训练，并测试神经网络模型O的任务性能，实现DDH超声影像分析。
作为本发明的一种改进，所述步骤S1中数据增强后的数据集是图片分辨率为224*224、单通道、像素取值范围为0-255的灰度图。
作为本发明的一种改进，所述步骤S2中构建的神经网络的特征提取器G，以数据集中的图像作为输入，输出特征向量
其中,xi为数据集中的任意一张图片,i为数据序号，取值范围为(1,n)。
作为本发明的另一种改进，所述步骤S2中以对比学习的方式训练神经网络的训练过程具体为：
对数据集中的输入图片xi分别以不同概率的亮度、随机仿射变换、随机对比度和随机缩放进行像素级数据增强，得到增强后的图像数据对yi1,yi2；
将yi1,yi2分别输入特征提取网络G1,G2中，得到对应的特征向量其中,特征提取网络G1,G2结构与G相同，参数分别为θ1,θ2，随机初始化；构建多层感知P，参数随机初始化，用于将/>等效变换为/>与/>格式相同；
在每轮训练中交替执行下式更新网络参数θ1,θ2，经过若干轮训练后，得到学习后的网络参数η；
其中，t表示当前训练轮次，G2(θ2 t-1,yi1)表示G2网络使用上一训练轮次的网络参数θ2 t-1接受输入yi1得到输出,L为余弦相似度损失函数。
作为本发明的另一种改进，所述损失函数L为:
其中，为建多层感知P输出的特征向量，/>为网络G输出的特征向量。
作为本发明的又一种改进，所述步骤S4的任务处理网络T由多个卷积层、激活函数和池化层交替实现或是由全联接层组成。
作为本发明的又一种改进，所述步骤S5中的模型训练具体为：将步骤S3标注的有标签超声数据集和对应的数据集组成总数据集，并划分为训练集、验证集和测试集，使用训练集，基于反向传播的方式，对特征提取网络G参数进行微调，对任务处理网络T每一层的参数进行拟合；使用验证集，对当前模型O的判别能力进行初步评估，验证模型的泛化能力，以决定是否停止继续训练；使用测试集，评估模型O最终的泛化能力。
与现有技术相比，本发明具有的有益效果：本发明公开了一种基于对比学习预训练的DDH超声影像分析方法，使用对比学习对无标签数据进行预训练，使得深度学习超声检测过程中的特征提取网络能够从大量无标签DDH超声数据中，学习到对应医学解剖结构的基本特征，减轻了在使用深度学习技术分析DDH超声影像中要进行大量数据标注的需求，减少了医师进行数据标注的工作量，并且可以充分利用历史积累的大量超声数据，提高数据的利用率；本发明中的对比学习过程，通过对大量无标记数据进行无监督学习，可引导模型学习高层次的语义信息，提升目标检测网络的检测精度。
附图说明
图1为本发明基于对比学习预训练的DDH超声影像分析方法的步骤流程图；
图2为本发明方法步骤S2对比学习预训练过程中每轮参数更新过程示意图；
图3为本发明实施例2，使用本发明方法，对DDH超声影像进行关键医学标志点提取后的示意图。
具体实施方式
下面结合附图和具体实施方式，进一步阐明本发明，应理解下述具体实施方式仅用于说明本发明而不用于限制本发明的范围。
实施例1
一种基于对比学习预训练的DDH超声影像分析方法，如图1所示，包括如下步骤:
S1：对DDH超声诊断中获得的超声灰阶图像进行数据增强预处理后，形成无标签数据集；
S11：采集超声数据；
从医院的超声检查资料库中收集DDH超声诊断过程中产生的超声灰阶图像，要求图像清晰。构成数据集A。
S12：处理超声数据，形成无标签数据集；
对数据集A中的每张超声灰阶图像分别进行填充或裁剪操作；其中，所述填充是指在图像周围填充固定像素值，所述裁剪是指在删除图像周围像素以改变图像尺寸，保证处理完成后的图片分辨率为224*224、单通道、像素取值范围为0-255的灰度图。最终形成数据集B：
B＝{x1,x2…xn}
其中x为经过预处理的原始超声影像，其形式为1*224*224的张量；n为大于1的自然数，表示数据集数据量。
S2：构建神经网络的特征提取器G，使用步骤S1获得的无标签数据集，以对比学习的方式训练神经网络的特征提取器；
S21：构建神经网络的特征提取部分：
特征提取部分G需要可以接受尺寸为1*224*224的单通道图像数据，并输出特征向量在使用数据集中图像作为输入时，过程可表示为下式：
其中,xi数据集中的任意一张图片,i为数据序号，取值范围为(1,n)；特征提取网络G可由多个卷积层、激活函数和池化层交替实现，也可直接使用业界通用的特征提取网络。
S22：使用对比学习对特征提取网络G进行预训练：
对输入图片进行两次数据增强，增强后的图片分别输入结构相同、参数计算相互独立特征提取网络中特征提取网络；构建的多层感知，需要使得感知机转换前后的特征向量格式相同，通过多层感知得到特征向量；在每轮训练通过自监督对比学习方式，交替更新特征提取网络参数，得到最终的预训练网络。
将数据集中每一张图片xi,输入特征提取网络G中，对其参数进行训练。其中i为数据序号，取值范围为(1,n)。
在每一轮训练中：
首先对图片xi分别以不同概率的亮度、随机仿射变换、随机对比度和随机缩放进行像素级数据增强，得到增强后的图像数据对yi1,yi2。
然后，将yi1,yi2分别输入特征提取网络G1,G2中，得到对应的特征向量其中,特征提取网络G1,G2结构与G相同，参数分别为θ1,θ2，随机初始化。构建多层感知P，参数随机初始化，用于将/>等效变换为/>与/>格式相同。
最后，在每轮训练中交替执行下式更新网络参数θ1,θ2，经过若干轮训练后，得到学习后的网络参数η，如图2所示。
其中，t表示当前训练轮次，G2(θ2 t-1,yi1)即表示为：G2网络使用上一训练轮次的网络参数θ2 t-1接受输入yi1得到输出,L为余弦相似度损失函数:
其中，为建多层感知P输出的特征向量，/>为网络G输出的特征向量。
S3：根据检查内容对部分数据进行标注，形成数据集B的有标签超声数据集C；
C＝{l1,l2…lm}
其中，li为xi对应的标签(1≤i≤m≤n)。
S4：根据任务目标构建任务处理网络T，将任务处理网络T与训练后的特征提取器G组合，形成神经网络模型O；
根据对检查部位的检测任务构建任务处理网络T，下游任务包括关键解剖结构检测、标准面评判和Graf角度计算等。根据下游任务目标，T可由多个卷积层、激活函数和池化层交替实现或是由全联接层组成。将任务处理网络T与特征提取器G组合，形成神经网络模型O，其中模型O特征提取器参数采用步骤S22中预训练参数η，任务处理网络参数随机初始化。根据任务选取对应的损失函数Lt。
S5：使用步骤S3标注的有标签超声数据集对神经网络模型O进行训练，并测试神经网络模型O的任务性能，实现DDH超声影像分析。
将步骤S3执行完毕后所生成的标签集C和对应的数据集{x1,x2…xm}组成数据集D，并划分为训练集、验证集和测试集，输入至神经网络模型中O，进行训练。
具体训练过程为：使用训练集，基于反向传播的方式，对特征提取网络G参数进行微调，对任务处理网络T每一层的参数的进行拟合；使用验证集，对当前模型O的判别能力进行初步评估，验证模型的泛化能力，以决定是否停止继续训练；使用测试集，评估模型O最终的泛化能力。
实施例2
本实施例以对DDH超声影像进行关键医学标志点检测为例，如图3所示，本方法具体步骤如下：
S1：采集DDH超声数据共600张，并对其进行预处理，保证处理完成后的图片分辨率为224*224、单通道、像素取值范围为0-255的灰度图。形成无标签数据集B：
B＝{x1,x2…x600}；
S2：构建并以对比学习方式，使用无标签数据集训练神经网络的特征提取器部分；
S21：使用业界通用网络Resnet30作为特征提取网络G；
S22：使用对比学习对特征提取网络G进行预训练,在每一轮训练中：
首先对图片xi分别以不同概率的亮度、仿射变换、对比度和缩放进行像素级数据增强，得到增强后的图像数据对yi1,yi2。
然后，将yi1,yi2分别输入特征提取网络G1,G2中，得到对应的特征向量其中,特征提取网络G1,G2结构与G相同，参数分别为θ1,θ2，随机初始化；构建多层感知P，参数随机初始化，用于将/>等效变换为/>与/>格式相同。
最后，在每轮训练中交替执行下式更新网络参数θ1,θ2，经过若干轮训练后，得到学习后的特征提取网络参数η。
其中，t表示当前训练轮次，G2(θ2 t-1,yi1)即表示为：G2网络使用上一训练轮次的网络参数θ2 t-1接受输入yi1得到输出,L为余弦相似度损失函数。
S3：对200张DDH超声影像的8个关键解剖结构进行像素级标注，形成数据集B的标签集C，如图3所示：
八项关键解剖结构分别为：1-髋臼顶的骨性部分；2-滑膜皱褶；3-软骨和骨的结合部；4-关节囊；5-透明软骨构成的髋臼顶；6-髋臼孟唇；7-股骨头；8-骨性边缘；
C＝{l1,l2…l200}；
S4：根据对上述八项关键解剖结构的检测任务构建任务处理网络T，根据对关键解剖结构进行语义分割的任务要求，T为一个上采样网络，可将G提取到的特征向量恢复成尺寸为8*224*224的语义分割结果。将任务处理网络T与特征提取器G组合，形成神经网络模型O，其中特征提取器参数采用S22中预训练参数η，任务处理网络参数随机初始化。选取交叉熵作为下游任务的损失函数。
S5：使用步骤S3标注的有标签超声数据集对神经网络模型O进行训练，并测试神经网络模型O的任务性能，实现DDH超声影像分析。
将步骤S3执行完毕后所生成的标签集C和对应的数据集{x1,x2…x200}组成数据集D，按照6:2:2的比例划分为训练集、验证集和测试集，输入至神经网络模型中O，进行训练。
使用训练集，基于Backpropagation的方式，对特征提取网络G参数进行微调，对任务处理网络T每一层的参数的进行拟合；使用验证集，对当前模型O的判别能力进行初步评估，验证模型的泛化能力，以决定是否停止继续训练；使用测试集，评估模型O最终的泛化能力。
本方法通过对比学习方式使用无标签DDH超声影像数据集训练特征提取网络，使用预训练网络参数辅助训练深度学习网络进行超声影像分析，从而提高检测精度以及数据利用率，缓解使用深度学习进行DDH超声影像分析时数据标记困难、下游任务数据集规模小的问题，提高神经网络在下游任务上的表现，适用方法广泛，效果佳。
需要说明的是，以上内容仅仅说明了本发明的技术思想，不能以此限定本发明的保护范围，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰均落入本发明权利要求书的保护范围之内。

Claims (7)

1.基于对比学习预训练的DDH超声影像分析方法，其特征在于，包括如下步骤:
S1：对DDH超声诊断中获得的超声灰阶图像进行数据增强预处理后，形成无标签数据集；
S2：构建神经网络的特征提取器G，使用步骤S1获得的无标签数据集，以对比学习的方式训练神经网络的特征提取器；
S3：根据待检查的关键解剖结构对部分数据进行标注，形成有标签超声数据集；
S4：根据任务目标构建任务处理网络T，将任务处理网络T与训练后的特征提取器G组合，形成神经网络模型O；
S5：使用步骤S3标注的有标签超声数据集对神经网络模型O进行训练，并测试神经网络模型O的任务性能，实现DDH超声影像分析。
2.如权利要求1所述的基于对比学习预训练的DDH超声影像分析方法，其特征在于：所述步骤S1中数据增强后的数据集是图片分辨率为224*224、单通道、像素取值范围为0-255的灰度图。
3.如权利要求2所述的基于对比学习预训练的DDH超声影像分析方法，其特征在于：所述步骤S2中构建的神经网络的特征提取器G，以数据集中的图像作为输入，输出特征向量
其中,xi为数据集中的任意一张图片,i为数据序号，取值范围为(1,n)。
4.如权利要求3所述的基于对比学习预训练的DDH超声影像分析方法，其特征在于：所述步骤S2中以对比学习的方式训练神经网络的训练过程具体为：
对数据集中的输入图片xi分别以不同概率的亮度、随机仿射变换、随机对比度和随机缩放进行像素级数据增强，得到增强后的图像数据对yi1,yi2；
将yi1,yi2分别输入特征提取网络G1,G2中，得到对应的特征向量其中,特征提取网络G1,G2结构与G相同，参数分别为θ1,θ2，随机初始化；构建多层感知P，参数随机初始化，用于将/>等效变换为/> 与/>格式相同；
在每轮训练中交替执行下式更新网络参数θ1,θ2，经过若干轮训练后，得到学习后的网络参数η；
其中，t表示当前训练轮次，G2(θ2 t-1,yi1)表示G2网络使用上一训练轮次的网络参数θ2 t-1接受输入yi1得到输出,L为余弦相似度损失函数。
5.如权利要求4所述的基于对比学习预训练的DDH超声影像分析方法，其特征在于：所述损失函数L为:
其中，为建多层感知P输出的特征向量，/>为网络G输出的特征向量。
6.如权利要求3所述的基于对比学习预训练的DDH超声影像分析方法，其特征在于：所述步骤S4的任务处理网络T由多个卷积层、激活函数和池化层交替实现或是由全联接层组成。
7.如权利要求3所述的基于对比学习预训练的DDH超声影像分析方法，其特征在于：所述步骤S5中的模型训练具体为：将步骤S3标注的有标签超声数据集和对应的数据集组成总数据集，并划分为训练集、验证集和测试集，使用训练集，基于反向传播的方式，对特征提取网络G参数进行微调，对任务处理网络T每一层的参数进行拟合；使用验证集，对当前模型O的判别能力进行初步评估，验证模型的泛化能力，以决定是否停止继续训练；使用测试集，评估模型O最终的泛化能力。
CN202310603724.4A 2023-05-25 2023-05-25 基于对比学习预训练的ddh超声影像分析方法 Pending CN116721065A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310603724.4A CN116721065A (zh) 2023-05-25 2023-05-25 基于对比学习预训练的ddh超声影像分析方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310603724.4A CN116721065A (zh) 2023-05-25 2023-05-25 基于对比学习预训练的ddh超声影像分析方法

Publications (1)

Publication Number Publication Date
CN116721065A true CN116721065A (zh) 2023-09-08

Family

ID=87867001

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310603724.4A Pending CN116721065A (zh) 2023-05-25 2023-05-25 基于对比学习预训练的ddh超声影像分析方法

Country Status (1)

Country Link
CN (1) CN116721065A (zh)

Similar Documents

Publication Publication Date Title
CN110223281B (zh) 一种数据集中含有不确定数据时的肺结节图像分类方法
CN108446730B (zh) 一种基于深度学习的ct肺结节检测装置
CN111476292B (zh) 医学图像分类处理人工智能的小样本元学习训练方法
CN109886273B (zh) 一种cmr图像分割分类系统
Yu et al. Image quality classification for DR screening using deep learning
CN107506761B (zh) 基于显著性学习卷积神经网络的脑部图像分割方法及系统
WO2021017372A1 (zh) 一种基于生成对抗网络的医学图像分割方法、系统及电子设备
CN110288597B (zh) 基于注意力机制的无线胶囊内窥镜视频显著性检测方法
CN112102266B (zh) 基于注意力机制的脑梗死医学影像分类模型的训练方法
CN109544518B (zh) 一种应用于骨骼成熟度评估的方法及其系统
CN112348059A (zh) 基于深度学习的多种染色病理图像分类方法及系统
Wang et al. Multimodal medical image fusion based on multichannel coupled neural P systems and max-cloud models in spectral total variation domain
Pei Emphysema classification using convolutional neural networks
CN115294075A (zh) 一种基于注意力机制的octa图像视网膜血管分割方法
CN116758336A (zh) 一种基于人工智能的医学图像智能分析系统
CN115147636A (zh) 基于胸部x光图像肺部疾病识别和分类方法
CN114565786A (zh) 基于通道注意力机制的断层扫描图像分类装置和方法
Wang et al. Infrared and visible image fusion based on Laplacian pyramid and generative adversarial network.
CN115880266B (zh) 一种基于深度学习的肠道息肉检测系统和方法
CN109165551B (zh) 一种自适应加权融合显著性结构张量和lbp特征的表情识别方法
CN114972291B (zh) 基于混合增强智能的医学影像结构化自动标注方法与系统
CN115661029A (zh) 基于YOLOv5的肺结节检测与识别系统
CN116721065A (zh) 基于对比学习预训练的ddh超声影像分析方法
CN111275720A (zh) 一种基于深度学习的全端到端小器官图像识别方法
CN113936165B (zh) Ct图像的处理方法、终端及计算机存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination