CN116363150A - 髋关节分割方法、装置、电子设备及计算机可读存储介质 - Google Patents

髋关节分割方法、装置、电子设备及计算机可读存储介质 Download PDF

Info

Publication number
CN116363150A
CN116363150A CN202310246607.7A CN202310246607A CN116363150A CN 116363150 A CN116363150 A CN 116363150A CN 202310246607 A CN202310246607 A CN 202310246607A CN 116363150 A CN116363150 A CN 116363150A
Authority
CN
China
Prior art keywords
hip joint
neural network
segmentation
doubleunet
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310246607.7A
Other languages
English (en)
Inventor
张逸凌
刘星宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Longwood Valley Medtech Co Ltd
Original Assignee
Longwood Valley Medtech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Longwood Valley Medtech Co Ltd filed Critical Longwood Valley Medtech Co Ltd
Priority to CN202310246607.7A priority Critical patent/CN116363150A/zh
Publication of CN116363150A publication Critical patent/CN116363150A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30008—Bone
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供了一种基于DoubleUnet多任务神经网络模型的髋关节分割方法、装置、电子设备及计算机可读存储介质。该方法，获取待分割的髋关节图像；将髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络。

Description

髋关节分割方法、装置、电子设备及计算机可读存储介质
技术领域
本申请属于深度学习智能识别技术领域，尤其涉及一种基于DoubleUnet多任务神经网络模型的髋关节分割方法、装置、电子设备及计算机可读存储介质。
背景技术
传统图像分割算法是基于阈值分割、边缘检测或区域增长来分割医学图像，这类方法分割精度较差，粗略分割目标区域，不能精确分割目标区域边界。
因此，如何又快又准地进行髋关节分割是本领域技术人员亟需解决的技术问题。
发明内容
本申请实施例提供一种基于DoubleUnet多任务神经网络模型的髋关节分割方法、装置、电子设备及计算机可读存储介质，能够又快又准地进行髋关节分割。
第一方面，本申请实施例提供一种基于DoubleUnet多任务神经网络模型的髋关节分割方法，包括：
获取待分割的髋关节图像；
将髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；
其中，髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；
DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
可选的，在将髋关节图像输入预设的DoubleUnet多任务神经网络模型之前，方法还包括：
获取髋关节图像数据集；
标注髋关节图像数据集中髋关节图像的髋关节区域，并将髋关节区域确定为分割mask；其中，每个分割mask与髋关节图像一一对应；
将每个髋关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，在将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，方法还包括：
利用训练集对DoubleUnet多任务神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到DoubleUnet多任务神经网络模型。
可选的，利用训练集对DoubleUnet多任务神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到DoubleUnet多任务神经网络模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到DoubleUnet多任务神经网络模型。
可选的，DoubleUnet多任务神经网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
可选的，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
可选的，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征，包括：
初始化生成一个位置注意力矩阵，用于对任意两个点之间的关系建模；
将位置注意力矩阵与特征矩阵进行矩阵乘法，得到相乘结果；
对相乘结果和特征矩阵进行逐元素的加法，得到最终对全局语义具有一定表征能力的结果。
第二方面，本申请实施例提供了一种基于DoubleUnet多任务神经网络模型的髋关节分割装置，包括：
图像获取模块，用于获取待分割的髋关节图像；
髋关节分割结果获取模块，用于将髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；
其中，髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；
DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
可选的，装置还包括：
训练样本数据集获取模块，用于获取髋关节图像数据集；标注髋关节图像数据集中髋关节图像的髋关节区域，并将髋关节区域确定为分割mask；其中，每个分割mask与髋关节图像一一对应；将每个髋关节图像及其对应的分割mask的图像格式均转换为PNG格式；将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，装置还包括：
模型训练模块，用于利用训练集对DoubleUnet多任务神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到DoubleUnet多任务神经网络模型。
可选的，模型训练模块，用于：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到DoubleUnet多任务神经网络模型。
可选的，DoubleUnet多任务神经网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
可选的，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
可选的，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征，包括：
初始化生成一个位置注意力矩阵，用于对任意两个点之间的关系建模；
将位置注意力矩阵与特征矩阵进行矩阵乘法，得到相乘结果；
对相乘结果和特征矩阵进行逐元素的加法，得到最终对全局语义具有一定表征能力的结果。
第三方面，本申请实施例提供了一种电子设备，电子设备包括：处理器以及存储有计算机程序指令的存储器；
处理器执行计算机程序指令时实现如第一方面所示的基于DoubleUnet多任务神经网络模型的髋关节分割方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序指令，计算机程序指令被处理器执行时实现如第一方面所示的基于DoubleUnet多任务神经网络模型的髋关节分割方法。
该基于DoubleUnet多任务神经网络模型的髋关节分割方法，包括：获取待分割的髋关节图像；将髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；其中，髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
可见，一方面，该方法DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割，能够提高髋关节分割的准确率；另一方面，该方法可以同时输出髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果，能够提高髋关节分割的效率。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一个实施例提供的基于DoubleUnet多任务神经网络模型的髋关节分割方法的流程示意图；
图2是本申请一个实施例提供的DoubleUnet多任务神经网络结构示意图；
图3是本申请一个实施例提供的注意力机制网络结构示意图；
图4是本申请一个实施例提供的对DICOM数据进行三维重建的示意图；
图5是本申请一个实施例提供的基于DoubleUnet多任务神经网络模型的髋关节分割装置的结构示意图；
图6是本申请一个实施例提供的电子设备的结构示意图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例，为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及具体实施例，对本申请进行进一步详细描述。应理解，此处所描述的具体实施例仅意在解释本申请，而不是限定本申请。对于本领域技术人员来说，本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
传统图像分割算法是基于阈值分割、边缘检测或区域增长来分割医学图像，这类方法分割精度较差，粗略分割目标区域，不能精确分割目标区域边界。
为了解决现有技术问题，本申请实施例提供了一种基于DoubleUnet多任务神经网络模型的髋关节分割方法、装置、设备及计算机可读存储介质。下面首先对本申请实施例所提供的基于DoubleUnet多任务神经网络模型的髋关节分割方法进行介绍。
图1示出了本申请一个实施例提供的基于DoubleUnet多任务神经网络模型的髋关节分割方法的流程示意图。如图1所示，该基于DoubleUnet多任务神经网络模型的髋关节分割方法，包括：
S101、获取待分割的髋关节图像；
S102、将髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；
其中，髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；
DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
具体的，图2所示的DoubleUnet多任务神经网络结构示意图，将多尺度、多层级的特征信息进行整合，可以让浅层局部细节与深层抽象特征互补增强，得到更好的分割效果。改进的DoubleUnet网络结构利用端到端的全卷积网络来分割图像。
DoubleUnet网络采用了多层卷积、下采样和上采样架构来提取特征。该网络采用两个unet结构，将第一网络分支结果和开始的输入相叠加输入到第二网络分支，同时为了减少特征丢失，将第一网络VGG19中输出的四个分支结果分别和第二个分支上采样层相结合。此时输出三个结果，分别用于提取骨盆、左侧股骨和右侧股骨三个部位的特征。而单任务分割只输出一个结果，即只能分割一个部位。多任务可以同时分割多个部位，极大缩短分割时间。
并且在每一层的每一对相邻的解码器分支和编码器分支之间都有跳跃连接，这里在跳跃连接中添加注意力机制，增强对边界特征的分割。卷积层使用残差卷积，即由1x1，3x3和1x1卷积核组成的残差单元，目的是为了减少特征损失。由于跳跃连接和残差卷积的存在，以及U型网络中更多的信息流路径,最终可以提高分割精度。
可见，一方面，该方法DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割，能够提高髋关节分割的准确率；另一方面，该方法可以同时输出髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果，能够提高髋关节分割的效率。
本申请在DoubleUnet网络的基础上，引入一个注意力优化机制和多尺度特征融合模块，将上下文路径中的浅层细节特征与通过多尺度特征融合模块得到的深层抽象特征进行融合，得到增强后的内容特征，提高对髋关节分割的精度。
采用多任务机制同时对髋关节多个部位进行分割，相对于单任务机制，可减少分割时间。
在原有的DoubleUnet网络结构基础上增加注意力机制，用来计算空间和通道维度中的全局特征依赖关系，使用位置注意力模块来学习特征的空间相互依赖性，并设计通道注意力模块来模拟通道相互依赖性，有助于更精确的分割结果。
本申请提供的方法可以准确地将髋关节分割出来，分割精度优于目前已有的神经网络，更加准确地辅助医生进行手术规划，提高手术的成功率。
在一个实施例中，在将髋关节图像输入预设的DoubleUnet多任务神经网络模型之前，方法还包括：
获取髋关节图像数据集；
标注髋关节图像数据集中髋关节图像的髋关节区域，并将髋关节区域确定为分割mask；其中，每个分割mask与髋关节图像一一对应；
将每个髋关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
具体的，获取髋关节医学图像数据集，将其进行手动标注髋关节区域，最终只提取含有髋关节部分的标签作为我们的分割mask。将二维横断面DICOM数据转换成PNG格式的图片，标注分割mask转换成PNG格式的图片，将其进行打乱顺序后按照6:2:2的比例划分为训练集、验证集、测试集。
在一个实施例中，在将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，方法还包括：
利用训练集对DoubleUnet多任务神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到DoubleUnet多任务神经网络模型。
在一个实施例中，利用训练集对DoubleUnet多任务神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到DoubleUnet多任务神经网络模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到DoubleUnet多任务神经网络模型。
在一个实施例中，DoubleUnet多任务神经网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
在一个实施例中，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
在一个实施例中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征，包括：
初始化生成一个位置注意力矩阵，用于对任意两个点之间的关系建模；
将位置注意力矩阵与特征矩阵进行矩阵乘法，得到相乘结果；
对相乘结果和特征矩阵进行逐元素的加法，得到最终对全局语义具有一定表征能力的结果。
具体的，图3是本申请一个实施例提供的注意力机制网络结构示意图，如图3所示双重注意力机制网络结构，由位置注意模块和通道注意模块组成。位置注意力模块通过对所有位置处的特征加权来选择性地聚合每个位置特征。同通道注意力模块通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。将两个注意模块的输出相加以进一步改进特征表示，加强对分割区域特征的学习权重。
在位置注意力模块中，首先初始化生成一个位置注意力矩阵用于对任意两个点之间的关系建模，接着注意力矩阵与特征矩阵进行矩阵乘法，然后对相乘结果和原始特征矩阵进行逐元素的加法得到最终对全局语义具有一定表征能力的结果。通道注意力模块的操作相似，只不过乘法实在通道维度进行计算。最终将两个模块的结果进行聚合得到一个更好的表征结果，输出注意力特征。
对DICOM数据进行三维重建，重建效果如图4所示。
图5是本申请一个实施例提供的基于DoubleUnet多任务神经网络模型的髋关节分割装置的结构示意图，如图5所示，该基于DoubleUnet多任务神经网络模型的髋关节分割装置，包括：
图像获取模块501，用于获取待分割的髋关节图像；
髋关节分割结果获取模块502，用于将髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；
其中，髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；
DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
在一个实施例中，装置还包括：
训练样本数据集获取模块，用于获取髋关节图像数据集；标注髋关节图像数据集中髋关节图像的髋关节区域，并将髋关节区域确定为分割mask；其中，每个分割mask与髋关节图像一一对应；将每个髋关节图像及其对应的分割mask的图像格式均转换为PNG格式；将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
在一个实施例中，装置还包括：
模型训练模块，用于利用训练集对DoubleUnet多任务神经网络进行模型训练，并利用验证集和测试集进行验证和测试，得到DoubleUnet多任务神经网络模型。
在一个实施例中，模型训练模块，用于：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到DoubleUnet多任务神经网络模型。
在一个实施例中，DoubleUnet多任务神经网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
在一个实施例中，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
在一个实施例中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征，包括：
初始化生成一个位置注意力矩阵，用于对任意两个点之间的关系建模；
将位置注意力矩阵与特征矩阵进行矩阵乘法，得到相乘结果；
对相乘结果和特征矩阵进行逐元素的加法，得到最终对全局语义具有一定表征能力的结果。
图5所示装置中的各个模块具有实现图1中各个步骤的功能，并能达到其相应的技术效果，为简洁描述，在此不再赘述。
图6示出了本申请实施例提供的电子设备的结构示意图。
电子设备可以包括处理器601以及存储有计算机程序指令的存储器602。
具体地，上述处理器601可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。
存储器602可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器602可包括硬盘驱动器(Hard Disk Drive，HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus，USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器602可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器602可在电子设备的内部或外部。在特定实施例中，存储器602可以是非易失性固态存储器。
在一个实施例中，存储器602可以是只读存储器(Read Only Memory，ROM)。在一个实施例中，该ROM可以是掩模编程的ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可改写ROM(EAROM)或闪存或者两个或更多个以上这些的组合。
处理器601通过读取并执行存储器602中存储的计算机程序指令，以实现上述实施例中的任意一种基于DoubleUnet多任务神经网络模型的髋关节分割方法。
在一个示例中，电子设备还可包括通信接口603和总线610。其中，如图6所示，处理器601、存储器602、通信接口603通过总线610连接并完成相互间的通信。
通信接口603，主要用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。
总线610包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。举例来说而非限制，总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线610可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。
另外，结合上述实施例中的基于DoubleUnet多任务神经网络模型的髋关节分割方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种基于DoubleUnet多任务神经网络模型的髋关节分割方法。
需要明确的是，本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见，这里省略了对已知方法的详细描述。在上述实施例中，描述和示出了若干具体的步骤作为示例。但是，本申请的方法过程并不限于所描述和示出的具体步骤，本领域的技术人员可以在领会本申请的精神后，作出各种改变、修改和添加，或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能模块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时，其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时，本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中，或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路，等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是，本申请中提及的示例性实施例，基于一系列的步骤或者装置描述一些方法或系统。但是，本申请不局限于上述步骤的顺序，也就是说，可以按照实施例中提及的顺序执行步骤，也可以不同于实施例中的顺序，或者若干步骤同时执行。
上面参考根据本申请的实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本申请的各方面。应当理解，流程图和/或框图中的每个方框以及流程图和/或框图中各方框的组合可以由计算机程序指令实现。这些计算机程序指令可被提供给通用计算机、专用计算机、或其它可编程数据处理装置的处理器，以产生一种机器，使得经由计算机或其它可编程数据处理装置的处理器执行的这些指令使能对流程图和/或框图的一个或多个方框中指定的功能/动作的实现。这种处理器可以是但不限于是通用处理器、专用处理器、特殊应用处理器或者现场可编程逻辑电路。还可理解，框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合，也可以由执行指定的功能或动作的专用硬件来实现，或可由专用硬件和计算机指令的组合来实现。
以上所述，仅为本申请的具体实施方式，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的系统、模块和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。应理解，本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本申请的保护范围之内。

Claims (10)

1.一种基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，包括：
获取待分割的髋关节图像；
将所述髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；
其中，所述髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；
所述DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，所述DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
2.根据权利要求1所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，在将所述髋关节图像输入预设的DoubleUnet多任务神经网络模型之前，所述方法还包括：
获取髋关节图像数据集；
标注所述髋关节图像数据集中髋关节图像的髋关节区域，并将所述髋关节区域确定为分割mask；其中，每个所述分割mask与所述髋关节图像一一对应；
将每个所述髋关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
3.根据权利要求2所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，在将所有转换为PNG格式的髋关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，所述方法还包括：
利用所述训练集对所述DoubleUnet多任务神经网络进行模型训练，并利用所述验证集和所述测试集进行验证和测试，得到所述DoubleUnet多任务神经网络模型。
4.根据权利要求3所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，所述利用所述训练集对所述DoubleUnet多任务神经网络进行模型训练，并利用所述验证集和所述测试集进行验证和测试，得到所述DoubleUnet多任务神经网络模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对所述训练集和所述验证集做一次验证，通过早停法来判断网络训练停止时间，并得到所述DoubleUnet多任务神经网络模型。
5.根据权利要求1所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，所述DoubleUnet多任务神经网络的卷积层使用残差卷积，以减少特征损失；
其中，所述残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
6.根据权利要求1所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，所述注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，所述位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
所述通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
7.根据权利要求6所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法，其特征在于，所述位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征，包括：
初始化生成一个位置注意力矩阵，用于对任意两个点之间的关系建模；
将所述位置注意力矩阵与特征矩阵进行矩阵乘法，得到相乘结果；
对所述相乘结果和所述特征矩阵进行逐元素的加法，得到最终对全局语义具有一定表征能力的结果。
8.一种基于DoubleUnet多任务神经网络模型的髋关节分割装置，其特征在于，包括：
图像获取模块，用于获取待分割的髋关节图像；
髋关节分割结果获取模块，用于将所述髋关节图像输入预设的DoubleUnet多任务神经网络模型，输出髋关节分割结果；
其中，所述髋关节分割结果包括髋关节中骨盆、左侧股骨和右侧股骨三个部位的分割结果；
所述DoubleUnet多任务神经网络模型是基于DoubleUnet多任务神经网络经过模型训练得到的，所述DoubleUnet多任务神经网络包括两个Unet网络分支；第一网络分支结果和开始的输入相叠加输入到第二网络分支，且第一网络分支中VGG19输出的四个分支结果分别和第二网络分支上采样层相结合，以减少特征丢失；并且在每一层的每一对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，增强对边界特征的分割。
9.一种电子设备，其特征在于，所述电子设备包括：处理器以及存储有计算机程序指令的存储器；
所述处理器执行所述计算机程序指令时实现如权利要求1-7任意一项所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现如权利要求1-7任意一项所述的基于DoubleUnet多任务神经网络模型的髋关节分割方法。
CN202310246607.7A 2023-03-10 2023-03-10 髋关节分割方法、装置、电子设备及计算机可读存储介质 Pending CN116363150A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310246607.7A CN116363150A (zh) 2023-03-10 2023-03-10 髋关节分割方法、装置、电子设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310246607.7A CN116363150A (zh) 2023-03-10 2023-03-10 髋关节分割方法、装置、电子设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN116363150A true CN116363150A (zh) 2023-06-30

Family

ID=86913233

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310246607.7A Pending CN116363150A (zh) 2023-03-10 2023-03-10 髋关节分割方法、装置、电子设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN116363150A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116993824A (zh) * 2023-07-19 2023-11-03 北京长木谷医疗科技股份有限公司 髋臼旋转中心计算方法、装置、设备及可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112598650A (zh) * 2020-12-24 2021-04-02 苏州大学 眼底医学影像中视杯视盘的联合分割方法
CN113487615A (zh) * 2021-06-29 2021-10-08 上海海事大学 基于残差网络特征提取的视网膜血管分割方法及终端
CN113763385A (zh) * 2021-05-28 2021-12-07 华南理工大学 视频目标分割方法、装置、设备及介质
CN114241218A (zh) * 2021-12-15 2022-03-25 杭州电子科技大学 一种基于逐级注意力机制的目标显著性检测方法
CN114549574A (zh) * 2022-03-01 2022-05-27 杭州电子科技大学 一种基于掩膜传播网络的交互式视频抠图系统
CN115115784A (zh) * 2022-07-20 2022-09-27 广东工业大学 一种三维人脸重建模型训练方法、系统及可读存储介质
CN115170556A (zh) * 2022-08-05 2022-10-11 安徽大学 基于DSA-DoubleUNet模型的子宫鳞状上皮病变区域影像分割方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112598650A (zh) * 2020-12-24 2021-04-02 苏州大学 眼底医学影像中视杯视盘的联合分割方法
CN113763385A (zh) * 2021-05-28 2021-12-07 华南理工大学 视频目标分割方法、装置、设备及介质
CN113487615A (zh) * 2021-06-29 2021-10-08 上海海事大学 基于残差网络特征提取的视网膜血管分割方法及终端
CN114241218A (zh) * 2021-12-15 2022-03-25 杭州电子科技大学 一种基于逐级注意力机制的目标显著性检测方法
CN114549574A (zh) * 2022-03-01 2022-05-27 杭州电子科技大学 一种基于掩膜传播网络的交互式视频抠图系统
CN115115784A (zh) * 2022-07-20 2022-09-27 广东工业大学 一种三维人脸重建模型训练方法、系统及可读存储介质
CN115170556A (zh) * 2022-08-05 2022-10-11 安徽大学 基于DSA-DoubleUNet模型的子宫鳞状上皮病变区域影像分割方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116993824A (zh) * 2023-07-19 2023-11-03 北京长木谷医疗科技股份有限公司 髋臼旋转中心计算方法、装置、设备及可读存储介质

Similar Documents

Publication Publication Date Title
CN110363220B (zh) 行为类别检测方法、装置、电子设备和计算机可读介质
CN111161279B (zh) 医学图像分割方法、装置及服务器
CN116309636B (zh) 基于多任务神经网络模型的膝关节分割方法、装置及设备
CN111325750B (zh) 一种基于多尺度融合u型链神经网络的医学图像分割方法
CN107392125A (zh) 智能模型的训练方法/系统、计算机可读存储介质及终端
CN116543221B (zh) 关节病变智能检测方法、装置、设备及可读存储介质
CN115512169B (zh) 基于梯度和区域亲和力优化的弱监督语义分割方法及装置
CN116650110B (zh) 基于深度强化学习的膝关节假体自动放置方法及装置
Shu et al. LVC-Net: Medical image segmentation with noisy label based on local visual cues
CN116363150A (zh) 髋关节分割方法、装置、电子设备及计算机可读存储介质
CN116152197B (zh) 膝关节分割方法、装置、电子设备及计算机可读存储介质
CN118505617A (zh) 基于影像的骨折筛查评估定位方法及装置
CN117350992A (zh) 基于自导向注意机制多任务分割网络金属植入物识别方法
CN113177554B (zh) 甲状腺结节识别与分割方法、系统、存储介质及设备
Gore Brain tumour segmentation and Analysis using BraTS Dataset with the help of Improvised 2D and 3D UNet model
CN116959307A (zh) 一种基于虚拟现实的髋关节镜手术辅助教学系统
CN116704549A (zh) 三维空间关键点的位置检测方法、装置、设备及存储介质
CN117274355A (zh) 一种基于加速引导区域卷积神经网络和并行多尺度统一网络的排水管道流量智能测量方法
CN116563314B (zh) 腰椎分割方法、装置、电子设备及计算机可读存储介质
CN116051813A (zh) 全自动智能腰椎定位与识别方法及应用
CN116188492B (zh) 髋关节分割方法、装置、电子设备及计算机可读存储介质
CN114118127A (zh) 一种视觉场景标志检测与识别方法及装置
CN116523841B (zh) 基于多尺度信息融合的深度学习脊柱分割方法及装置
CN117351232B (zh) 膝关节关键点检测方法、装置、设备及可读存储介质
CN116363143B (zh) 基于多尺度自注意力机制的髋关节分割方法、装置及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 100176 2201, 22 / F, building 1, yard 2, Ronghua South Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant after: Beijing Changmugu Medical Technology Co.,Ltd.

Applicant after: Zhang Yiling

Address before: 100176 2201, 22 / F, building 1, yard 2, Ronghua South Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant before: BEIJING CHANGMUGU MEDICAL TECHNOLOGY Co.,Ltd.

Applicant before: Zhang Yiling

SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination