CN116309636A - 基于多任务神经网络模型的膝关节分割方法、装置及设备 - Google Patents

基于多任务神经网络模型的膝关节分割方法、装置及设备 Download PDF

Info

Publication number
CN116309636A
CN116309636A CN202310184497.6A CN202310184497A CN116309636A CN 116309636 A CN116309636 A CN 116309636A CN 202310184497 A CN202310184497 A CN 202310184497A CN 116309636 A CN116309636 A CN 116309636A
Authority
CN
China
Prior art keywords
knee joint
segmentation
image
neural network
network model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310184497.6A
Other languages
English (en)
Other versions
CN116309636B (zh
Inventor
张逸凌
刘星宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Longwood Valley Medtech Co Ltd
Original Assignee
Longwood Valley Medtech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Longwood Valley Medtech Co Ltd filed Critical Longwood Valley Medtech Co Ltd
Priority to CN202310184497.6A priority Critical patent/CN116309636B/zh
Publication of CN116309636A publication Critical patent/CN116309636A/zh
Application granted granted Critical
Publication of CN116309636B publication Critical patent/CN116309636B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30008—Bone

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Quality & Reliability (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请提供了一种基于多任务神经网络模型的膝关节分割方法、装置、电子设备及计算机可读存储介质。该方法，获取第一膝关节图像；对第一膝关节图像进行粗分割，得到第一分割结果；基于第一膝关节图像和第一分割结果，计算对应的膝关节体数据；将膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；通过检测算法，确定膝关节投影图像中膝关节的位置坐标；基于第一膝关节图像中膝关节的位置坐标，从第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；将第二膝关节图像输入预设的多任务神经网络模型，分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果。该方法能够又快又准地进行膝关节分割。

Description

基于多任务神经网络模型的膝关节分割方法、装置及设备
技术领域
本申请属于深度学习智能识别技术领域，尤其涉及一种基于多任务神经网络模型的膝关节分割方法、装置、电子设备及计算机可读存储介质。
背景技术
传统图像分割算法是基于阈值分割、边缘检测或区域增长来分割医学图像，这类方法分割精度较差，粗略分割目标区域，不能精确分割目标区域边界。
因此，如何又快又准地进行膝关节分割是本领域技术人员亟需解决的技术问题。
发明内容
本申请实施例提供一种基于多任务神经网络模型的膝关节分割方法、装置、电子设备及计算机可读存储介质，能够又快又准地进行膝关节分割。
第一方面，本申请实施例提供一种基于多任务神经网络模型的膝关节分割方法，包括：
获取第一膝关节图像；
对第一膝关节图像进行粗分割，得到第一分割结果；其中，第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；
基于第一膝关节图像和第一分割结果，计算对应的膝关节体数据；
将膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；
通过检测算法，确定膝关节投影图像中膝关节的位置坐标；其中，膝关节投影图像中膝关节的位置坐标与第一膝关节图像中膝关节的位置坐标相同；
基于第一膝关节图像中膝关节的位置坐标，从第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；
将第二膝关节图像输入预设的多任务神经网络模型，分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果。
可选的，多任务神经网络模型是基于2.5D-FADNet多任务分割神经网络经过模型训练得到的，2.5D-FADNet多任务分割神经网络包括两个网络分支，每个网络分支包括多层卷积网络、下采样网络和上采样网络，股骨、胫骨、髌骨和腓骨四个部位的分割结果为两个网络分支各自结果的相融输出。
可选的，在分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果之后，方法还包括：
将股骨、胫骨、髌骨和腓骨四个部位的分割结果，替换掉第一分割结果中各自部位的分割结果。
可选的，在将第二膝关节图像输入预设的多任务神经网络模型之前，方法还包括：
获取膝关节图像数据集；
标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；
将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，在将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，方法还包括：
利用训练集对2.5D-FADNet多任务分割神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到多任务神经网络模型。
可选的，利用训练集对2.5D-FADNet多任务分割神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到多任务神经网络模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到多任务神经网络模型。
可选的，多层卷积网络使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
第二方面，本申请实施例提供了一种基于多任务神经网络模型的膝关节分割装置，包括：
膝关节图像获取模块，用于获取第一膝关节图像；
粗分割模块，用于对第一膝关节图像进行粗分割，得到第一分割结果；其中，第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；
体数据计算模块，用于基于第一膝关节图像和第一分割结果，计算对应的膝关节体数据；
投影模块，用于将膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；
定位模块，用于通过检测算法，确定膝关节投影图像中膝关节的位置坐标；其中，膝关节投影图像中膝关节的位置坐标与第一膝关节图像中膝关节的位置坐标相同；
细分割模块，用于基于第一膝关节图像中膝关节的位置坐标，从第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；
分割结果输出模块，用于将第二膝关节图像输入预设的多任务神经网络模型，分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果。
可选的，多任务神经网络模型是基于2.5D-FADNet多任务分割神经网络经过模型训练得到的，2.5D-FADNet多任务分割神经网络包括两个网络分支，每个网络分支包括多层卷积网络、下采样网络和上采样网络，股骨、胫骨、髌骨和腓骨四个部位的分割结果为两个网络分支各自结果的相融输出。
可选的，装置还包括：
替换模块，用于将股骨、胫骨、髌骨和腓骨四个部位的分割结果，替换掉第一分割结果中各自部位的分割结果。
可选的，在将第二膝关节图像输入预设的多任务神经网络模型之前，装置还包括：
训练样本数据集获取模块，用于获取膝关节图像数据集；标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，装置还包括：
模型训练模块，用于利用训练集对2.5D-FADNet多任务分割神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到多任务神经网络模型。
可选的，模型训练模块，用于：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到多任务神经网络模型。
可选的，多层卷积网络使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
第三方面，本申请实施例提供了一种电子设备，电子设备包括：处理器以及存储有计算机程序指令的存储器；
处理器执行计算机程序指令时实现如第一方面所示的基于多任务神经网络模型的膝关节分割方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序指令，计算机程序指令被处理器执行时实现如第一方面所示的基于多任务神经网络模型的膝关节分割方法。
该基于多任务神经网络模型的膝关节分割方法，包括：获取第一膝关节图像；对第一膝关节图像进行粗分割，得到第一分割结果；其中，第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；基于第一膝关节图像和第一分割结果，计算对应的膝关节体数据；将膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；通过检测算法，确定膝关节投影图像中膝关节的位置坐标；其中，膝关节投影图像中膝关节的位置坐标与第一膝关节图像中膝关节的位置坐标相同；基于第一膝关节图像中膝关节的位置坐标，从第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；将第二膝关节图像输入预设的多任务神经网络模型，分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果。
可见，一方面，该方法依次进行粗分割和细分割，能够提高膝关节分割的准确率；另一方面，该方法可以同时输出股骨、胫骨、髌骨和腓骨四个部位的分割结果，能够提高膝关节分割的效率。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一个实施例提供的基于多任务神经网络模型的膝关节分割方法的流程示意图；
图2是本申请一个实施例提供的膝关节精确分割流程示意图；
图3是本申请一个实施例提供的2.5D-FADNet多任务分割神经网络结构示意图；
图4是本申请一个实施例提供的对DICOM数据进行三维重建的示意图；
图5是本申请一个实施例提供的基于多任务神经网络模型的膝关节分割装置的结构示意图；
图6是本申请一个实施例提供的电子设备的结构示意图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例，为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及具体实施例，对本申请进行进一步详细描述。应理解，此处所描述的具体实施例仅意在解释本申请，而不是限定本申请。对于本领域技术人员来说，本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
传统图像分割算法是基于阈值分割、边缘检测或区域增长来分割医学图像，这类方法分割精度较差，粗略分割目标区域，不能精确分割目标区域边界。
为了解决现有技术问题，本申请实施例提供了一种基于多任务神经网络模型的膝关节分割方法、装置、设备及计算机可读存储介质。下面首先对本申请实施例所提供的基于多任务神经网络模型的膝关节分割方法进行介绍。
图1示出了本申请一个实施例提供的基于多任务神经网络模型的膝关节分割方法的流程示意图。如图1所示，该基于多任务神经网络模型的膝关节分割方法，包括：
S101、获取第一膝关节图像；
S102、对第一膝关节图像进行粗分割，得到第一分割结果；其中，第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；
S103、基于第一膝关节图像和第一分割结果，计算对应的膝关节体数据；
S104、将膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；
S105、通过检测算法，确定膝关节投影图像中膝关节的位置坐标；其中，膝关节投影图像中膝关节的位置坐标与第一膝关节图像中膝关节的位置坐标相同；
具体的，对膝关节位置坐标进行标定，制作膝关节定位数据集，该数据集包含将粗分割结果和原始DICOM结合计算体数据，并将体数据矢状面方向进行投影得到的投影图像，PNG格式，和该图像对应的膝关节位置坐标，保存到txt文本中。将其进行打乱顺序后按照6:2:2的比例划分为训练集、验证集、测试集。
将粗分割结果和原始DICOM结合计算体数据，将体数据矢状面方向进行投影，在投影图像上通过YOLOv5检测算法定位膝关节位置，输出结果为膝关节左上和右下坐标点位置。
S106、基于第一膝关节图像中膝关节的位置坐标，从第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；
S107、将第二膝关节图像输入预设的多任务神经网络模型，分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果。
在一个实施例中，在分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果之后，方法还包括：
将股骨、胫骨、髌骨和腓骨四个部位的分割结果，替换掉第一分割结果中各自部位的分割结果。
膝关节部位由股骨、髌骨、胫骨和腓骨组成，由于结构复杂，使得分割困难，分割精度很难提升，因此针对这一现象提出膝关节精确分割方法。
图2是本申请一个实施例提供的膝关节精确分割流程示意图，如图2所示，先对膝CT数据粗分割，分割股骨、胫骨、髌骨和腓骨四个部位；将分割结果和原始DICOM结合计算体数据，将体数据矢状面方向进行投影，在投影图像上通过检测算法定位膝关节位置，对该位置采用2.5D-FADNet多任务分割神经网络，精确分割膝关节股骨、胫骨、髌骨和腓骨四个部位。
在一个实施例中，多任务神经网络模型是基于2.5D-FADNet多任务分割神经网络经过模型训练得到的，2.5D-FADNet多任务分割神经网络包括两个网络分支，每个网络分支包括多层卷积网络、下采样网络和上采样网络，股骨、胫骨、髌骨和腓骨四个部位的分割结果为两个网络分支各自结果的相融输出。
在一个实施例中，多层卷积网络使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
图3是本申请一个实施例提供的2.5D-FADNet多任务分割神经网络结构示意图，如图3所示，该网络采用了多层卷积、下采样和上采样架构来提取特征。2.5D网络相比于1D网络可以提取上下文的特征信息，提高分割精度。该网络有两个网络分支，将第一个分支网络和第二个分支网络最终结果相融合输出，此时输出四个结果，分别用于提取股骨、胫骨、髌骨和腓骨四个部位的特征。而单任务分割只输出一个结果，即只能分割一个部位。多任务可以同时分割四个部位，极大缩短分割时间。
2.5D-FADNet多任务分割神经网络，在保证分割准确性和鲁棒性的基础上，实现膝关节CT图像数据的快速分割处理，以提高工作效率、降低准备成本，分割结果经临床评价获得了较满意结果。
卷积层使用残差卷积，即由1x1，3x3和1x1卷积核组成的残差单元，目的是为了减少特征损失。由于跳跃连接和残差卷积的存在，以及U型网络中更多的信息流路径，最终可以提高分割精度。
在一个实施例中，在将第二膝关节图像输入预设的多任务神经网络模型之前，方法还包括：
获取膝关节图像数据集；
标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；
将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
具体的，获取膝关节医学图像数据集，将其进行手动标注膝关节区域，最终只提取含有膝关节部分的标签作为我们的分割mask。将二维横断面DICOM数据转换成PNG格式的图片，标注分割mask转换成PNG格式的图片，将其进行打乱顺序后按照6:2:2的比例划分为训练集、验证集、测试集。
在一个实施例中，在将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，方法还包括：
利用训练集对2.5D-FADNet多任务分割神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到多任务神经网络模型。
在一个实施例中，利用训练集对2.5D-FADNet多任务分割神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到多任务神经网络模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到多任务神经网络模型。
具体的，在模型训练过程中，训练的batch_size为64，初始化学习率设置为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为原来的0.9，优化器使用Adam优化器，使用损失函数为DICE loss，设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到最终模型。
图4是本申请一个实施例提供的对DICOM数据进行三维重建的示意图，对DICOM数据进行三维重建，重建效果如图4所示。
综上所述，本申请在FADNet网络的基础上，本申请设计一种膝关节精确分割方法，先对膝CT数据粗分割，提取每一个关节部位，然后定位膝关节位置，对该位置采用2.5D-FADNet多任务分割神经网络，精确分割膝关节各个部位。
本申请在FADNet网络的基础上，设计2.5D-FADNet多任务分割神经网络，同时分割膝关节股骨、髌骨、胫骨和腓骨四个部位，相对于单任务分割，极大缩短分割时间，提高分割效率，同时多任务分割神经网络可以起到每一个任务相互监督学习的作用，提高对膝关节分割的精度。
图5是本申请一个实施例提供的基于多任务神经网络模型的膝关节分割装置的结构示意图，该基于多任务神经网络模型的膝关节分割装置，包括：
膝关节图像获取模块501，用于获取第一膝关节图像；
粗分割模块502，用于对第一膝关节图像进行粗分割，得到第一分割结果；其中，第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；
体数据计算模块503，用于基于第一膝关节图像和第一分割结果，计算对应的膝关节体数据；
投影模块504，用于将膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；
定位模块505，用于通过检测算法，确定膝关节投影图像中膝关节的位置坐标；其中，膝关节投影图像中膝关节的位置坐标与第一膝关节图像中膝关节的位置坐标相同；
细分割模块506，用于基于第一膝关节图像中膝关节的位置坐标，从第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；
分割结果输出模块507，用于将第二膝关节图像输入预设的多任务神经网络模型，分别输出股骨、胫骨、髌骨和腓骨四个部位的分割结果。
在一个实施例中，多任务神经网络模型是基于2.5D-FADNet多任务分割神经网络经过模型训练得到的，2.5D-FADNet多任务分割神经网络包括两个网络分支，每个网络分支包括多层卷积网络、下采样网络和上采样网络，股骨、胫骨、髌骨和腓骨四个部位的分割结果为两个网络分支各自结果的相融输出。
在一个实施例中，装置还包括：
替换模块，用于将股骨、胫骨、髌骨和腓骨四个部位的分割结果，替换掉第一分割结果中各自部位的分割结果。
在一个实施例中，在将第二膝关节图像输入预设的多任务神经网络模型之前，装置还包括：
训练样本数据集获取模块，用于获取膝关节图像数据集；标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
在一个实施例中，装置还包括：
模型训练模块，用于利用训练集对2.5D-FADNet多任务分割神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到多任务神经网络模型。
在一个实施例中，模型训练模块，用于：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到多任务神经网络模型。
在一个实施例中，多层卷积网络使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
图5所示装置中的各个模块具有实现图1中各个步骤的功能，并能达到其相应的技术效果，为简洁描述，在此不再赘述。
图6示出了本申请实施例提供的电子设备的结构示意图。
电子设备可以包括处理器601以及存储有计算机程序指令的存储器602。
具体地，上述处理器601可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。
存储器602可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器602可包括硬盘驱动器(Hard Disk Drive，HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus，USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器602可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器602可在电子设备的内部或外部。在特定实施例中，存储器602可以是非易失性固态存储器。
在一个实施例中，存储器602可以是只读存储器(Read Only Memory，ROM)。在一个实施例中，该ROM可以是掩模编程的ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可改写ROM(EAROM)或闪存或者两个或更多个以上这些的组合。
处理器601通过读取并执行存储器602中存储的计算机程序指令，以实现上述实施例中的任意一种基于多任务神经网络模型的膝关节分割方法。
在一个示例中，电子设备还可包括通信接口603和总线610。其中，如图6所示，处理器601、存储器602、通信接口603通过总线610连接并完成相互间的通信。
通信接口603，主要用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。
总线610包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。举例来说而非限制，总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线610可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。
另外，结合上述实施例中的基于多任务神经网络模型的膝关节分割方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种基于多任务神经网络模型的膝关节分割方法。
需要明确的是，本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见，这里省略了对已知方法的详细描述。在上述实施例中，描述和示出了若干具体的步骤作为示例。但是，本申请的方法过程并不限于所描述和示出的具体步骤，本领域的技术人员可以在领会本申请的精神后，作出各种改变、修改和添加，或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能模块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时，其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时，本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中，或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路，等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是，本申请中提及的示例性实施例，基于一系列的步骤或者装置描述一些方法或系统。但是，本申请不局限于上述步骤的顺序，也就是说，可以按照实施例中提及的顺序执行步骤，也可以不同于实施例中的顺序，或者若干步骤同时执行。
上面参考根据本申请的实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本申请的各方面。应当理解，流程图和/或框图中的每个方框以及流程图和/或框图中各方框的组合可以由计算机程序指令实现。这些计算机程序指令可被提供给通用计算机、专用计算机、或其它可编程数据处理装置的处理器，以产生一种机器，使得经由计算机或其它可编程数据处理装置的处理器执行的这些指令使能对流程图和/或框图的一个或多个方框中指定的功能/动作的实现。这种处理器可以是但不限于是通用处理器、专用处理器、特殊应用处理器或者现场可编程逻辑电路。还可理解，框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合，也可以由执行指定的功能或动作的专用硬件来实现，或可由专用硬件和计算机指令的组合来实现。
以上所述，仅为本申请的具体实施方式，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的系统、模块和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。应理解，本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本申请的保护范围之内。

Claims (10)

1.一种基于多任务神经网络模型的膝关节分割方法，其特征在于，包括：
获取第一膝关节图像；
对所述第一膝关节图像进行粗分割，得到第一分割结果；其中，所述第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；
基于所述第一膝关节图像和所述第一分割结果，计算对应的膝关节体数据；
将所述膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；
通过检测算法，确定所述膝关节投影图像中膝关节的位置坐标；其中，所述膝关节投影图像中膝关节的位置坐标与所述第一膝关节图像中膝关节的位置坐标相同；
基于所述第一膝关节图像中膝关节的位置坐标，从所述第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；
将所述第二膝关节图像输入预设的多任务神经网络模型，分别输出所述股骨、胫骨、髌骨和腓骨四个部位的分割结果。
2.根据权利要求1所述的基于多任务神经网络模型的膝关节分割方法，其特征在于，所述多任务神经网络模型是基于2.5D-FADNet多任务分割神经网络经过模型训练得到的，所述2.5D-FADNet多任务分割神经网络包括两个网络分支，每个所述网络分支包括多层卷积网络、下采样网络和上采样网络，所述股骨、胫骨、髌骨和腓骨四个部位的分割结果为两个所述网络分支各自结果的相融输出。
3.根据权利要求1所述的基于多任务神经网络模型的膝关节分割方法，其特征在于，在所述分别输出所述股骨、胫骨、髌骨和腓骨四个部位的分割结果之后，所述方法还包括：
将所述股骨、胫骨、髌骨和腓骨四个部位的分割结果，替换掉所述第一分割结果中各自部位的分割结果。
4.根据权利要求2所述的基于多任务神经网络模型的膝关节分割方法，其特征在于，在将所述第二膝关节图像输入预设的多任务神经网络模型之前，所述方法还包括：
获取膝关节图像数据集；
标注所述膝关节图像数据集中膝关节图像的膝关节区域，并将所述膝关节区域确定为分割mask；其中，每个所述分割mask与所述膝关节图像一一对应；
将每个所述膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
5.根据权利要求4所述的基于多任务神经网络模型的膝关节分割方法，其特征在于，在将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，所述方法还包括：
利用所述训练集对所述2.5D-FADNet多任务分割神经网络进行模型训练，并利用所述验证集和所述测试集进行验证和测试，得到所述多任务神经网络模型。
6.根据权利要求5所述的基于多任务神经网络模型的膝关节分割方法，其特征在于，所述利用所述训练集对所述2.5D-FADNet多任务分割神经网络进行模型训练，并利用所述验证集和所述测试集进行验证和测试，得到所述多任务神经网络模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICEloss；
设置每迭代1000次，对所述训练集和所述验证集做一次验证，通过早停法来判断网络训练停止时间，并得到所述多任务神经网络模型。
7.根据权利要求2所述的基于多任务神经网络模型的膝关节分割方法，其特征在于，所述多层卷积网络使用残差卷积，以减少特征损失；
其中，所述残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
8.一种基于多任务神经网络模型的膝关节分割装置，其特征在于，包括：
膝关节图像获取模块，用于获取第一膝关节图像；
粗分割模块，用于对所述第一膝关节图像进行粗分割，得到第一分割结果；其中，所述第一分割结果包括膝关节中股骨、胫骨、髌骨和腓骨四个部位；
体数据计算模块，用于基于所述第一膝关节图像和所述第一分割结果，计算对应的膝关节体数据；
投影模块，用于将所述膝关节体数据在矢状面方向上进行投影，得到对应的膝关节投影图像；
定位模块，用于通过检测算法，确定所述膝关节投影图像中膝关节的位置坐标；其中，所述膝关节投影图像中膝关节的位置坐标与所述第一膝关节图像中膝关节的位置坐标相同；
细分割模块，用于基于所述第一膝关节图像中膝关节的位置坐标，从所述第一膝关节图像中将位置坐标对应图像分割出来，得到第二膝关节图像；
分割结果输出模块，用于将所述第二膝关节图像输入预设的多任务神经网络模型，分别输出所述股骨、胫骨、髌骨和腓骨四个部位的分割结果。
9.一种电子设备，其特征在于，所述电子设备包括：处理器以及存储有计算机程序指令的存储器；
所述处理器执行所述计算机程序指令时实现如权利要求1-7任意一项所述的基于多任务神经网络模型的膝关节分割方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现如权利要求1-7任意一项所述的基于多任务神经网络模型的膝关节分割方法。
CN202310184497.6A 2023-02-21 2023-02-21 基于多任务神经网络模型的膝关节分割方法、装置及设备 Active CN116309636B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310184497.6A CN116309636B (zh) 2023-02-21 2023-02-21 基于多任务神经网络模型的膝关节分割方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310184497.6A CN116309636B (zh) 2023-02-21 2023-02-21 基于多任务神经网络模型的膝关节分割方法、装置及设备

Publications (2)

Publication Number Publication Date
CN116309636A true CN116309636A (zh) 2023-06-23
CN116309636B CN116309636B (zh) 2024-07-23

Family

ID=86797109

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310184497.6A Active CN116309636B (zh) 2023-02-21 2023-02-21 基于多任务神经网络模型的膝关节分割方法、装置及设备

Country Status (1)

Country Link
CN (1) CN116309636B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117159144A (zh) * 2023-09-06 2023-12-05 北京长木谷医疗科技股份有限公司 膝关节韧带重建手术机器人导航定位系统及方法
CN117853458A (zh) * 2024-01-10 2024-04-09 北京长木谷医疗科技股份有限公司 翻修手术机器人植入物智能识别评估方法、装置及设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112957126A (zh) * 2021-02-10 2021-06-15 北京长木谷医疗科技有限公司 基于深度学习的单髁置换术前规划方法和相关设备
CN112991433A (zh) * 2021-04-26 2021-06-18 吉林大学 基于双目深度感知和车辆位置的货车外廓尺寸测量方法
CN113077419A (zh) * 2021-03-19 2021-07-06 零氪智慧医疗科技(天津)有限公司 用于髋关节ct影像识别的信息处理方法及装置
CN113689402A (zh) * 2021-08-24 2021-11-23 北京长木谷医疗科技有限公司 基于深度学习的股骨髓腔形态识别方法、装置及存储介质
CN113920128A (zh) * 2021-09-01 2022-01-11 北京长木谷医疗科技有限公司 膝关节股骨胫骨分割方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112957126A (zh) * 2021-02-10 2021-06-15 北京长木谷医疗科技有限公司 基于深度学习的单髁置换术前规划方法和相关设备
CN113077419A (zh) * 2021-03-19 2021-07-06 零氪智慧医疗科技(天津)有限公司 用于髋关节ct影像识别的信息处理方法及装置
CN112991433A (zh) * 2021-04-26 2021-06-18 吉林大学 基于双目深度感知和车辆位置的货车外廓尺寸测量方法
CN113689402A (zh) * 2021-08-24 2021-11-23 北京长木谷医疗科技有限公司 基于深度学习的股骨髓腔形态识别方法、装置及存储介质
CN113920128A (zh) * 2021-09-01 2022-01-11 北京长木谷医疗科技有限公司 膝关节股骨胫骨分割方法和装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117159144A (zh) * 2023-09-06 2023-12-05 北京长木谷医疗科技股份有限公司 膝关节韧带重建手术机器人导航定位系统及方法
CN117853458A (zh) * 2024-01-10 2024-04-09 北京长木谷医疗科技股份有限公司 翻修手术机器人植入物智能识别评估方法、装置及设备

Also Published As

Publication number Publication date
CN116309636B (zh) 2024-07-23

Similar Documents

Publication Publication Date Title
CN116309636B (zh) 基于多任务神经网络模型的膝关节分割方法、装置及设备
CN116747016A (zh) 智能手术机器人导航定位系统及方法
CN116543221B (zh) 关节病变智能检测方法、装置、设备及可读存储介质
CN116650110B (zh) 基于深度强化学习的膝关节假体自动放置方法及装置
CN116152197B (zh) 膝关节分割方法、装置、电子设备及计算机可读存储介质
CN116898574B (zh) 人工智能膝关节韧带重建术的术前规划方法、系统及设备
CN116363150A (zh) 髋关节分割方法、装置、电子设备及计算机可读存储介质
CN116019548A (zh) 一种基于x光影像的膝关节置换手术规划方法、装置、设备及存储介质
CN117350992A (zh) 基于自导向注意机制多任务分割网络金属植入物识别方法
CN116704549A (zh) 三维空间关键点的位置检测方法、装置、设备及存储介质
CN116934708B (zh) 胫骨平台内外侧低点计算方法、装置、设备及存储介质
CN116597002B (zh) 基于深度强化学习的股骨柄自动放置方法、装置及设备
CN116959307A (zh) 一种基于虚拟现实的髋关节镜手术辅助教学系统
CN116736327B (zh) 定位数据优化方法、装置、电子设备和可读存储介质
CN116543222A (zh) 膝关节病变检测方法、装置、设备及计算机可读存储介质
CN115861659A (zh) 对象匹配方法、装置、设备及计算机存储介质
CN116188492B (zh) 髋关节分割方法、装置、电子设备及计算机可读存储介质
CN116563314B (zh) 腰椎分割方法、装置、电子设备及计算机可读存储介质
CN117351232B (zh) 膝关节关键点检测方法、装置、设备及可读存储介质
CN117679160B (zh) 创伤骨折复位方法、装置、设备及可读存储介质
CN118015245A (zh) 基于强化学习的关键解剖部位识别检测方法、装置及设备
CN117204910A (zh) 基于深度学习的膝关节位置实时追踪的自动截骨方法
CN118446989A (zh) 基于x线图像的颈椎曲度测量评估方法、装置及设备
CN116704021A (zh) 三维空间膝关节解剖结构智能感知检测方法、装置及设备
CN116188431B (zh) 基于CNN与Transformer的髋关节分割方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 100176 2201, 22 / F, building 1, yard 2, Ronghua South Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant after: Beijing Changmugu Medical Technology Co.,Ltd.

Applicant after: Zhang Yiling

Address before: 100176 2201, 22 / F, building 1, yard 2, Ronghua South Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant before: BEIJING CHANGMUGU MEDICAL TECHNOLOGY Co.,Ltd.

Applicant before: Zhang Yiling

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant