CN112614132A - 针对少样本腰椎医学影像的半监督循环自学习方法及模型 - Google Patents

针对少样本腰椎医学影像的半监督循环自学习方法及模型 Download PDF

Info

Publication number
CN112614132A
CN112614132A CN202110110110.3A CN202110110110A CN112614132A CN 112614132 A CN112614132 A CN 112614132A CN 202110110110 A CN202110110110 A CN 202110110110A CN 112614132 A CN112614132 A CN 112614132A
Authority
CN
China
Prior art keywords
samples
capacity
model
semi
lumbar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110110110.3A
Other languages
English (en)
Other versions
CN112614132B (zh
Inventor
罗梦研
程国华
何林阳
季红丽
周晟
陈晓飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Jianpei Technology Co ltd
Original Assignee
Hangzhou Jianpei Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Jianpei Technology Co ltd filed Critical Hangzhou Jianpei Technology Co ltd
Priority to CN202110110110.3A priority Critical patent/CN112614132B/zh
Publication of CN112614132A publication Critical patent/CN112614132A/zh
Application granted granted Critical
Publication of CN112614132B publication Critical patent/CN112614132B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/40—Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10116—X-ray image
    • G06T2207/10124—Digitally reconstructed radiograph [DRR]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20092—Interactive image processing based on input by user
    • G06T2207/20101—Interactive definition of point of interest, landmark or seed
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30008—Bone
    • G06T2207/30012—Spine; Backbone

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Human Computer Interaction (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供一种针对少样本腰椎医学影像的半监督循环自学习方法及模型，该方法针对性解决医学影像标注成本高的问题，基于少量标注样本以及大量未标注样本，利用循环自学习策略设计得到高容量的容量可变定位模型，可用于精准地定位医学影像的关键点，降低医学影像的标注成本。

Description

针对少样本腰椎医学影像的半监督循环自学习方法及模型
技术领域
本发明涉及图像处理领域，特别涉及一种针对少样本腰椎医学影像的半监督循环自学习方法及模型。
背景技术
医学影像技术经历了一百多年的发展，其中MRI、CT、DR、超声等技术已经广泛用于各种临床医学诊断中。医学影像技术的发展极大提升了诊断效率和准确性，为后续的治疗以及手术提供指导。
目前我国有大量居民受到腰椎相关疾病的困扰，腰椎医学影像中腰椎的定位测量可为多种疾病的诊断提供参考，比如腰椎旋转角度、腰椎侧弯cobb角、腰椎管横径、髂骨嵴间连线、腰椎曲度、腰椎曲度角、腰椎椎体高度、腰椎椎体高度指数、椎间盘高度、椎间盘角、腰椎管横径、椎体终板角、骶骨倾斜角、腰骶夹角、滑脱分度、腰骶滑脱角等的测量。
以上众多测量指标的自动测量需要依赖于模型对腰椎DR影像数据关键点进行定位操作。然而和其他医学影像不同的是，腰椎影像的定位测量涉及的关键点数量众多，腰椎正位对应有44个标注点（如图1所示），腰椎侧位对应有60个标注点（如图2所示），相对于其他医学影像的影像处理而言，对应腰椎影像处理的训练数据的标注耗时较多且耗费很大的人力。同时，由于部分腰椎关键点之间分布较为密集（例如，椎体上下缘终版凹点和上下缘中点的距离十分相近），这就意味着需要更加精细的标注工作才可以获取准确的标注信息，腰椎影像的以上两点特性都很大程度增加了标注成本。
为了减小图像的标注成本，现有技术CN110363231A提供一种基于半监督深度学习的异常识别方法、装置及存储介质，该方案需要针对正样本数据、负样本数据和噪音数据循环迭代训练三个模型结构，需要三个模型得到最终预测结果，其不论是运行还是标注都会占用很大的空间内存。现有技术CN107644235A提供一种“基于半监督学习的图像自动标注方法，该方法将多个训练器的预测结果进行融合，逐渐迭代优化模型的性能，其侧重于改进特征信息融合方法。另外，无论是其上的何种方案都无法单独得到可对未标注样本进行高精度预测的模型。
发明内容
本发明的目的在于提供一种针对少样本腰椎医学影像的半监督循环自学习方法及模型，该方法针对性解决医学影像标注成本高的问题，基于少量标注样本以及大量未标注样本，利用循环自学习策略设计得到大容量的容量可变定位模型，可用于精准地定位医学影像的关键点，降低医学影像的标注成本。
为实现以上目的，本技术方案提供一种针对少样本腰椎医学影像的半监督循环自学习方法，包括以下步骤：
预准备步骤：利用训练集中的已标注样本训练容量可变定位模型，得到对应的容量可变定位模型，该容量可变定位模型预测未标注样本并筛选得到预测样本；
迭代步骤：利用前序步骤得到的预测样本扩充训练集中的已标注样本，扩容前序步骤的容量可变定位模型，利用扩充后的已标注样本训练对应扩容后的容量可变定位模型，得到对应的容量可变定位模型，该容量可变定位模型预测剩余未标注样本并筛选得到预测样本；
循环步骤：若未达到迭代条件，以迭代步骤作为前序步骤循环执行迭代步骤。
根据本发明的第二方面，提供一种针对少样本腰椎医学影像的半监督循环自学习模型，其特征在于，根据其上所述的针对少样本腰椎医学影像的半监督循环自学习方法学习得到。
相较现有技术，本技术方案具有以下的特点和有益效果：
1.设计容量可调节模型以及提供针对其的半监督循环自学习方法，利用少量标注样本和大量未标注样本循环迭代训练该容量可调节模型，通过多次迭代以及逐次增加训练样本的策略不断地提升模型容量和拟合能力，以得到高容量的模型，在提高该容量可调节模型的精度的同时极大程度地减少了标注成本。
2.对原始标注样本进行数据增强操作，引入部分噪声和干扰，减少原始标注样本和预测生成的预测样本之间的分布差异，一方面可以减少不同来源数据之间的差异性，让容量可调节模型的训练过程更加稳定。另一方面可以增加容量可调节模型对噪声的适应能力，提升容量可调节模型的鲁棒性。
3.根据容量可调节模型的拟合能力，筛选部分数据进行扩充，将预测生成的预测样本分批次加入训练数据集，避免由于大量伪标签数据加入而导致模型难以收敛的风险，同时保证数据量和容量可调节模型的拟合能力相匹配，减少欠拟合风险。
附图说明
图1是腰椎医学影像正位标注点的示意图，此时腰椎处于正位位置，包括T12、L1、L2、L3、L4、L5共6个椎体，其中每个椎体都包含7个关键点，分别为hr、fr、hl、fl、mr、sp，以及额外包括ir、il两个关键点
图2是腰椎医学影像侧位标注点的示意图，此时腰椎处于侧位位置，包括T12、L1、L2、L3、L4、L5、S1共七个椎体，T12~L5对应的每个锥体都包括HP、FP、HM、FM、HA、FA、SP七个关键点，S1对应的椎体包括HP、HM、HA、FP、FA共五个关键点。
图3是根据本发明的一实施例的容量可调节模型的结构示意图。
图4是根据本发明的一实施例的针对少样本腰椎医学影像的半监督循环自学习方法的流程示意图。
附图标记：图1中：以L1椎体为例介绍：L1hr指的是椎体上缘右缘点，L1fr为椎体下缘右缘点，L1hl指的是椎体上缘左缘点，L1fl指的是椎体下缘左缘点，L1mr指的是椎体右侧椎弓根内侧缘点，L1ml指的是椎体左侧椎弓根内侧缘点，L1sp指的是椎体棘突上缘，其他椎体的命名规则同；ir指的是右侧髂骨嵴，il指的是左侧髂骨嵴。
图2中，HP为椎体上缘后缘点，FP是椎体后缘点，HM是椎体上缘终板凹点，FM是椎体下缘终板凹点，HA是椎体上缘前缘点，FA是椎体下缘前缘点，SP是椎体棘突基底点。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员所获得的所有其他实施例，都属于本发明保护的范围。
本方案提供一种针对少样本腰椎医学影像的半监督循环自学习方法及模型，装置内加载可运行该针对少样本腰椎医学影像的半监督循环自学习方法的计算机软件或程序，以下为了便于说明，以半监督循环自学习方法作为简称进行方案的说明。
本方案的半监督循环自学习方法针对性解决医学影像关键点标注成本高的问题，对医学影像关键点标注成本高的问题进行优化。具体的，该半监督循环自学习方法可利用少量标注样本和大量未标注样本，结合容量可调节模型结构，通过逐步增加容量可调节模型的容量以及标注样本的数量的方式，循环迭代得到高容量的关键点定位模型，得到的关键点定位模型可精准地定位医学影像上的关键点。
特别地，该半监督循环自学习方法特别适用于腰椎影像关键点的定位，即，该半监督循环自学习方法主要针对腰椎影像关键点定位模型的训练样本标注困难、训练样本标注成本高的问题进行优化改进。该半监督循环自学习方法训练得到的关键点定位模型具有大容量的特点，可在较多且繁杂的腰椎影像关键点定位上表现良好。图1是常规腰椎正位影像的44个关键点的示意图，图2是常规腰椎测位影像的60个关键点的示意图（图中关键点的标注信息参见附图说明）。
具体的，该半监督循环自学习方法包括以下步骤：
预准备步骤：利用训练集中的已标注样本训练容量最小的容量可变定位模型，得到训练后的容量可变定位模型，该训练后的容量可变定位模型预测未标注样本并筛选得到预测样本；
迭代步骤：利用前序步骤得到的预测样本扩充训练集中的已标注样本，扩容前序步骤训练得到的容量可变定位模型，利用扩充后的已标注样本训练对应扩容后的容量可变定位模型，得到再次训练后的容量可变定位模型，该再次训练后的容量可变定位模型预测剩余未标注样本并筛选得到预测样本；
循环步骤：若未达到迭代条件，以迭代步骤作为前序步骤循环执行迭代步骤。
与背景技术中提到的现有技术不同的是，本方案对容量可变定位模型的训练过程并不是为了提高容量可变定位模型性能，而是针对低容量样本和低标注样本，以大量未标注样本为代价，逐次对容量可变定位模型的容量进行提升以得到高容量的容量可变定位模型，该容量可变定位模型作为高容量的关键点定位模型可以完成关键点的预测任务。
本方案提供的容量可变定位模型的容量可调节。在本方案中，容量可变定位模型包括多个卷积层，通过调节卷积操作的通道数改变容量可变定位模型的容量。且在本方案中，容量可变定位模型的容量依次增加，以从低容量低精度定位模型构建得到高容量定位模型，也就是说，容量可变定位模型的容量大小和扩容的已标注样本的样本数据量大小成正比。
如图3所示，本方案设计的容量可变定位模型的结构被展示。该容量可变定位模型包括对应设置的特征编码模块以及特征解码模型，其中特征编码模型和特征解码模块均由多个卷积层堆叠形成至少两卷积组，特征编码模块输出结果输入到特征解码模块中解码，特征编码模型的卷积组包括实现下采样的spp模块，特征解码模块的卷积组包括实现上采样的上采样模块，卷积组的卷积操作的输出通道数设计可调节的调节因子，通过调节因子调节容量可变模型的容量。
其中特征编码模块用于对数据特征进行编码，特征解码模块用于对数据特征进行解码，特征解码模块的spp模型用于下采样操作并且提供多尺度信息。对应的，在容量可变定位模型的训练过程中，训练样本先进入特征编码模块中进行特征编码随后被解码。
本方案通过对每次卷积操作的通道数进行调节，设置不同的调节因子实现容量可变定位模型的容量的自由缩放，进而改变该容量可变定位模型的参数量和拟合能力。对应的，当调节因子依次增加时对应的容量可变定位模型的容量也依次增加，拟合能力对应得到提高。本方案中所述的容量最小的容量可变定位模型对应最小的调节因子。
在本方案的实施例中，该容量可变定位模型的特征解码模型和特征编码模型分别包括四个卷积组，特征编码模块的卷积组一的输出通道为调节因子*8，卷积组二的输出通道为调节因子*16，卷积组三的输出通道为调节因子*32，卷积组四的输出通道为调节因子*64；特征解码模块的卷积组一的输出通道为调节因子*8，卷积组二的输出通道为调节因子*16，卷积组三的输出通道为调节因子*32。此时，调节因子=1/2/3/4……,对应得到容量愈发大的容量可变定位模型。
该半监督循环自学习方法中筛选得到预测样本包括：选择置信度大于设定阈值的预测样本。在本方案的实施例中，选择置信度大于0.7的样本作为预测样本，当然设定阈值的选择不受本方案的限制，可根据实际情况进行调整。
该半监督循环自学习方法扩充训练集中的已标注样本包括：将筛选后的预测样本加入训练集中，其中预测样本被训练后的容量可变定位模型标注。考虑到预测样本相对于原始已标注样本而言可能会存在精度较低、且包含错误标签的情况，本方案对预测样本和已标注样本进行修正处理：对预测样本进行干预以及数据增强已标注样本。
对预测样本进行干预：在容量可变定位模型预测未标注样本时，对编码得到的高斯热图监督信息进行修正，以期减少监督信息的置信度以及放宽对模型的约束。具体的，该过程包括：针对高斯热图上每个拟标注点的置信度减少随机数值，随机数值可以是0-0.1。
数据增强已标注样本：对已标注样本添加随机的噪音干扰。具体的，该过程包括针对已标注样本随机进行图像裁剪、长宽比例、图像明暗度、角度旋转的、加入高斯噪音的调整。
该数据增强的目的在于避免原始已标注样本和预测样本在分布上存在差异，一方面可以减少不同来源数据之间的差异性，让容量可变定位模型的训练过程更加稳定。另一方面可以增加容量可变定位模型对噪声的适应能力，提升容量可变定位模型的鲁棒性。
且在本方案中由于对训练集中的已标注样本进行扩充，将导致训练过程中噪音增大、且拟合难度增大，故此需要增大对应的容量可调模型的容量。
另外值得一提的是，在本方案中未标注样本分批次加入训练集中进行训练， 避免由于大量伪标签加入导致容量可变定位模型难以收敛，同时保证数据量和模型的拟合能力相匹配，减少欠拟合风险。
迭代条件可以是达到设定的迭代次数，也可以是将所有未标注样本进行筛选。
以下以该半监督循环自学习方法用于训练脊椎医学影像的训练学习为例进行示例性说明，该方法不作为限制。
样本准备：少数已标注腰椎关键点的已标注样本，大量未标注腰椎关键点的未标注样本；
设计容量可变定位模型:设计容量可变定位模型的特征编码模块以及特征解码模块分别包括四个堆叠卷积组，特征编码模块输出的结果经过特征解码模块的上采样输出，其中特征编码模块的卷积组一的输出通道为调节因子*8，卷积组二的输出通道为调节因子*16，卷积组三的输出通道为调节因子*32，卷积组四的输出通道为调节因子*64；特征解码模块的卷积组一的输出通道为调节因子*8，卷积组二的输出通道为调节因子*16，卷积组三的输出通道为调节因子*32。
选定容量最小的容量可变定位模型：设定调节因子为1，得到卷积操作的输出通道数为1*(8,16,32,64,64,32,16,8)的容量可变定位模型；
训练容量可变定位模型：利用已标注样本训练调节因子为1的容量可变定位模型，得到对应调节因子为1的容量可变定位模型；
预测未标注样本：选取部分未标注样本加入调节因子为1的容量可变定位模型中进行预测，对容量可变定位模型中编码得到的高斯热图上每个拟标注点的置信度减少随机数值，随机数值可以是0-0.1，筛选置信度大于0.7的样本作为预测样本。由于已标注样本中已经标注腰椎关键点，故预测样本中也标注腰椎关键点；
扩充训练集中的已标注样本：对原始标注样本进行随机进行图像裁剪、长宽比例、图像明暗度、角度旋转、加入高斯噪音的调整，将预测样本混合原始标注样本也作为下一次训练的已标注样本；
扩容容量可变定位模型：调节调节因子为2或者其他比1大的数值，得到容量变大的容量可变定位模型；
迭代预测未标注样本：将扩容后的容量可变定位模型用于预测剩余未标注样本，选取部分未标注样本加入调节因子为2的容量可变定位模型中进行预测，对容量可变定位模型中编码得到的高斯热图上每个拟标注点的置信度减少随机数值，随机数值可以是0-0.1，筛选置信度大于0.7的样本作为预测样本，若未达到迭代条件时，则循环扩充已标注样本和扩容容量可变定位模型的步骤，最终得到可高精度预测未标注样本关键点的容量可变定位模型，该容量可变定位模型可用于预测未标注腰椎关键点的腰椎医学影像。
总结而言，本方案提供的半监督循环自学习方法利用少量已标注样本和大量未标注样本作为训练集，以低容量的容量可变定位模型和少量已标注样本为基础，通过不断地扩容容量可变定位模型和扩充已标注样本的数据集数量，进行多次迭代以及逐次增加训练样本的策略，不断提升容量可变定位模型的性能，最终得到高容量的容量可变定位模型，在保证模型精度同时极大地减少了标注成本。
具体的，本方案学习得到的容量可变定位模型相较未学习的容量可变定位模型具有高精度，主要体现在如下几个方面：通过设置了模型容量调节的调节因子，通过调节因子来控制模型的参数量，在模型结构相同的前提下，模型的参数量和其拟合能力成正相关，高容量的模型由于具有更强的拟合能力，故可以达到相对于相同结构低参数量模型更高的精度；另外，本方案在增加模型容量的同时，也会增加训练数据的数量。训练数据的数量也和模型的精度呈现正相关的关系。也就是说，对应初期的容量可变定位模型而言，在训练过程中训练量会不断的增加，进而使得最终得到的模型的精度提高。
本方案容量可变定位模型的精度随着调节因子的增加而变化，具体数据如表一：
模型的调节因子 调节因子*1 调节因子*2 调节因子*3 调节因子*4 调节因子*5
参数量 9M 18M 27M 36M 45M
精度对比 （关键点位置偏差在2mm以内的比例） 0.62 0.64 0.73 0.77 0.85
表一可变定位模型的精度和调节因子的变化关系
另外，本方案提供的容量可变定位模型相较传统人工标记关键点的方式可极大程度地减少标注成本，以以下示例进行说明：
传统方案：在900例标注数据上进行训练，最终得到2mm 召回率达到0.76。本方案相对传统方案有9%的提升。
采用本方案：标注人员进行标注审核通过的标记量为1200例，本方案在此基础上额外加入5000例未标注数据，用来提升容量可变定位模型的性能，最终2mm 的召回率（关键点偏差在2mm以内的比例）为0.85。
本方案：使用200例标记数据以及5000例未标记数据，使用本方案训练方案，2mm召回率可以达到0.78.比对传统方案可知，在标记数据大幅减少（1000例）的情况下，最终精度依旧存在优势。
然而针对腰椎关键点的标注，一份数据需要三名医生标记、一名医生审核才可以得到最终的标记结果，一例数据的平均耗时大约在20分钟左右，本方案在减少未标注样本数据的情况下，还可以提高精度，故可以认为本方案相对传统方案极大程度地降低了标注成本，（700例未标注样本对应节省标注时间230小时以上）。
根据本发明的第二方面，提供一种针对少样本腰椎医学影像的半监督循环自学习模型，利用上述方法学习得到。
用于实现本方案实施例的针对少样本腰椎医学影像的半监督循环自学习方法的服务器的计算机系统包括中央处理单元CPU)，其可以根据存储在只读存储器(ROM)中的程序或者从存储部分加载到随机访问存储器(RAM)中的程序而执行各种适当的动作和处理。在RAM中，还存储有系统操作所需的各种程序和数据。 CPU、ROM以及RAM 通过总线彼此相连。输入/输出(I/O)接口也连接至总线。
特别地，根据本发明公开的实施例，上文描述的针对少样本腰椎医学影像的半监督循环自学习过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于针对少样本腰椎医学影像的半监督循环自学习方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分从网络上被下载和安装，和/或从可拆卸介质被安装。在该计算机程序被中央处理单元(CPU)执行时，执行本发明的系统中限定的上述功能。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备执行针对少样本腰椎医学影像的半监督循环自学习方法方法所对应过的流程步骤。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，包括以下步骤：
预准备步骤：利用训练集中的已标注样本训练容量可变定位模型，得到训练后的容量可变定位模型，该训练后的容量可变定位模型预测未标注样本并筛选得到预测样本；
迭代步骤：利用前序步骤得到的预测样本扩充训练集中的已标注样本，扩容前序步骤得到的容量可变定位模型，利用扩充后的已标注样本训练对应扩容后的容量可变定位模型，得到再次训练后的容量可变模型，再次训练后的容量可变模型预测剩余的未标注样本并筛选得到预测样本；
循环步骤：若未达到迭代条件，以迭代步骤作为前序步骤循环执行迭代步骤。
2.根据权利要求1所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，容量可变定位模型的容量大小和已标注样本的样本数据量大小成正比。
3.根据权利要求1所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，容量可变定位模型包括对应设置的特征编码模块和特征解码模块，其中特征编码模型和特征解码模块均由多个卷积层堆叠形成至少两卷积组，特征编码模块输出结果输入到特征解码模块中被解码，卷积组的输出通道数设计可调节的调节因子。
4.根据权利要求1所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，容量可变定位模型筛选得到预测样本的步骤包括：选择置信度大于设定阈值的预测样本。
5.根据权利要求1所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，扩充训练集中的已标注样本的步骤包括：对预测样本和已标注样本进行修正处理。
6.根据权利要求5所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，容量可变定位模型预测未标注样本时，对容量可变定位模型的特征编码模型编码得到的高斯热图上每个拟标注点的置信度做减少随机数值的操作，随机数值为0-0.1的任意值。
7.根据权利要求5所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，对已标注样本添加随机的噪音干扰。
8.根据权利要求1所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，未标注样本分批次加入训练集中进行训练，迭代条件为达到设定的迭代次数，或，将所有未标注样本进行筛选。
9.根据权利要求1所述的针对少样本腰椎医学影像的半监督循环自学习方法，其特征在于，已标注样本为标注多个腰椎关键点的腰椎医学影像。
10.一种针对少样本腰椎医学影像的半监督循环自学习模型，其特征在于，根据其上权利要求1到9任一所述的针对少样本腰椎医学影像的半监督循环自学习方法学习得到。
CN202110110110.3A 2021-01-27 2021-01-27 针对少样本腰椎医学影像的半监督循环自学习方法及模型 Active CN112614132B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110110110.3A CN112614132B (zh) 2021-01-27 2021-01-27 针对少样本腰椎医学影像的半监督循环自学习方法及模型

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110110110.3A CN112614132B (zh) 2021-01-27 2021-01-27 针对少样本腰椎医学影像的半监督循环自学习方法及模型

Publications (2)

Publication Number Publication Date
CN112614132A true CN112614132A (zh) 2021-04-06
CN112614132B CN112614132B (zh) 2021-07-06

Family

ID=75254680

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110110110.3A Active CN112614132B (zh) 2021-01-27 2021-01-27 针对少样本腰椎医学影像的半监督循环自学习方法及模型

Country Status (1)

Country Link
CN (1) CN112614132B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113255573A (zh) * 2021-06-17 2021-08-13 成都东方天呈智能科技有限公司 基于混合簇中心标签学习的行人重识别方法和存储介质
WO2023195242A1 (ja) * 2022-04-04 2023-10-12 株式会社島津製作所 Ｘ線画像処理装置、ｘ線画像処理方法、および、プログラム

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104318242A (zh) * 2014-10-08 2015-01-28 中国人民解放军空军工程大学 一种高效的svm主动半监督学习算法
CN104850890A (zh) * 2015-04-14 2015-08-19 西安电子科技大学 基于实例学习和Sadowsky分布的卷积神经网络参数调整方法
CN107832780A (zh) * 2017-10-17 2018-03-23 北京木业邦科技有限公司 基于人工智能木板分选低置信度样本处理方法及系统
CN109102005A (zh) * 2018-07-23 2018-12-28 杭州电子科技大学 基于浅层模型知识迁移的小样本深度学习方法
CN110068302A (zh) * 2019-03-07 2019-07-30 中科院微电子研究所昆山分所 一种基于深度神经网络的车辆测距方法
US20200090005A1 (en) * 2017-06-05 2020-03-19 Siemens Aktiengesellschaft Method and Apparatus for Analysing an Image
US10701095B2 (en) * 2016-03-25 2020-06-30 Cisco Technology, Inc. Hierarchical models using self organizing learning topologies
CN111506728A (zh) * 2020-04-16 2020-08-07 太原科技大学 基于hd-mscnn的层次结构文本自动分类框架
US20200402205A1 (en) * 2019-06-18 2020-12-24 Huawei Technologies Co., Ltd. Real-time video ultra resolution

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104318242A (zh) * 2014-10-08 2015-01-28 中国人民解放军空军工程大学 一种高效的svm主动半监督学习算法
CN104850890A (zh) * 2015-04-14 2015-08-19 西安电子科技大学 基于实例学习和Sadowsky分布的卷积神经网络参数调整方法
US10701095B2 (en) * 2016-03-25 2020-06-30 Cisco Technology, Inc. Hierarchical models using self organizing learning topologies
US20200090005A1 (en) * 2017-06-05 2020-03-19 Siemens Aktiengesellschaft Method and Apparatus for Analysing an Image
CN107832780A (zh) * 2017-10-17 2018-03-23 北京木业邦科技有限公司 基于人工智能木板分选低置信度样本处理方法及系统
CN109102005A (zh) * 2018-07-23 2018-12-28 杭州电子科技大学 基于浅层模型知识迁移的小样本深度学习方法
CN110068302A (zh) * 2019-03-07 2019-07-30 中科院微电子研究所昆山分所 一种基于深度神经网络的车辆测距方法
US20200402205A1 (en) * 2019-06-18 2020-12-24 Huawei Technologies Co., Ltd. Real-time video ultra resolution
CN111506728A (zh) * 2020-04-16 2020-08-07 太原科技大学 基于hd-mscnn的层次结构文本自动分类框架

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
L. ONETO等: ""Semi-supervised Learning for Affective Common-Sense Reasoning"", 《COGNITIVE COMPUTATION》 *
SHUAI ZHAO等: ""SplitNet: Divide and Co-training"", 《ARXIV:2011.14660V1》 *
YU-XIONG WANG等: ""Growing a Brain: Fine-Tuning by Increasing Model Capacity"", 《ARXIV:1907.07844V1》 *
余游等: ""一种基于伪标签的半监督少样本学习模型"", 《电子学报》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113255573A (zh) * 2021-06-17 2021-08-13 成都东方天呈智能科技有限公司 基于混合簇中心标签学习的行人重识别方法和存储介质
CN113255573B (zh) * 2021-06-17 2021-10-01 成都东方天呈智能科技有限公司 基于混合簇中心标签学习的行人重识别方法和存储介质
WO2023195242A1 (ja) * 2022-04-04 2023-10-12 株式会社島津製作所 Ｘ線画像処理装置、ｘ線画像処理方法、および、プログラム

Also Published As

Publication number Publication date
CN112614132B (zh) 2021-07-06

Similar Documents

Publication Publication Date Title
CN112614132B (zh) 针对少样本腰椎医学影像的半监督循环自学习方法及模型
CN110689038B (zh) 神经网络模型的训练方法、装置和医学图像处理系统
CN109949276B (zh) 一种于改进SegNet分割网络的淋巴结检测方法
US9042618B2 (en) Method and system for detection 3D spinal geometry using iterated marginal space learning
CN111291825A (zh) 病灶分类模型训练方法、装置、计算机设备和存储介质
CN103999087A (zh) 针对接收方优化的医学成像重建
CN111986101B (zh) 一种脑血管图谱构建方法
CN112150470A (zh) 图像分割方法、装置、介质及电子设备
Lyu et al. Labeling lateral prefrontal sulci using spherical data augmentation and context-aware training
WO2022271838A1 (en) Detecting and segmenting regions of interest in biomedical images using neural networks
CN117975069B (zh) 用于脑肿瘤图像分割的深度证据fcm聚类方法
Ji et al. Continual segment: Towards a single, unified and non-forgetting continual segmentation model of 143 whole-body organs in ct scans
Ji et al. Continual segment: towards a single, unified and accessible continual segmentation model of 143 whole-body organs in CT scans
You et al. VerteFormer: A single‐staged Transformer network for vertebrae segmentation from CT images with arbitrary field of views
Wu et al. Multi-view vertebra localization and identification from ct images
CN116934709B (zh) 一种基于弱监督学习的脊柱滑脱智能识别方法及装置
CN114331996B (zh) 基于自编码解码器的医学影像分型方法及系统
CN116935182A (zh) 基于RepCSC-Net的乳腺肿瘤良恶性识别方法
Bertrand et al. Classification of MRI data using deep learning and Gaussian process-based model selection
US20220414869A1 (en) Detecting and segmenting regions of interest in biomedical images using neural networks
CN116128754A (zh) 颈椎分割矫正、曲度检测方法、系统、电子设备及介质
CN114049315B (zh) 关节识别方法、电子设备、存储介质及计算机程序产品
CN118297970B (zh) 一种胸腰椎x射线片分割方法及装置
Qian et al. Attention-based Shape-Deformation Networks for Artifact-Free Geometry Reconstruction of Lumbar Spine from MR Images
Zhang et al. Automatic Segmentation of Lumbar Vertebra Anatomical Region Based on Hybrid Swin-Transformer Network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant