CN116152197A - 膝关节分割方法、装置、电子设备及计算机可读存储介质 - Google Patents

膝关节分割方法、装置、电子设备及计算机可读存储介质 Download PDF

Info

Publication number
CN116152197A
CN116152197A CN202310147777.XA CN202310147777A CN116152197A CN 116152197 A CN116152197 A CN 116152197A CN 202310147777 A CN202310147777 A CN 202310147777A CN 116152197 A CN116152197 A CN 116152197A
Authority
CN
China
Prior art keywords
knee joint
network
segmentation
fadnet
knee
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310147777.XA
Other languages
English (en)
Other versions
CN116152197B (zh
Inventor
张逸凌
刘星宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Longwood Valley Medtech Co Ltd
Original Assignee
Longwood Valley Medtech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Longwood Valley Medtech Co Ltd filed Critical Longwood Valley Medtech Co Ltd
Priority to CN202310147777.XA priority Critical patent/CN116152197B/zh
Publication of CN116152197A publication Critical patent/CN116152197A/zh
Application granted granted Critical
Publication of CN116152197B publication Critical patent/CN116152197B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/136—Segmentation; Edge detection involving thresholding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30008—Bone
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供了一种膝关节分割方法、装置、电子设备及计算机可读存储介质。该膝关节分割方法，包括：获取待分割的膝关节图像；将膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；其中，膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；并且，在FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。根据本申请实施例，能够更加准确地进行膝关节分割。

Description

膝关节分割方法、装置、电子设备及计算机可读存储介质
技术领域
本申请属于深度学习智能识别技术领域，尤其涉及一种膝关节分割方法、装置、电子设备及计算机可读存储介质。
背景技术
传统图像分割算法是基于阈值分割、边缘检测或区域增长来分割医学图像，这类方法分割精度较差，粗略分割目标区域，不能精确分割目标区域边界。
因此，如何更加准确地进行膝关节分割是本领域技术人员亟需解决的技术问题。
发明内容
本申请实施例提供一种膝关节分割方法、装置、电子设备及计算机可读存储介质，能够更加准确地进行膝关节分割。
第一方面，本申请实施例提供一种膝关节分割方法，包括：
获取待分割的膝关节图像；
将膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；
并且，在FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。
可选的，在将膝关节图像输入预设的膝关节分割模型之前，方法还包括：
获取膝关节图像数据集；
标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；
将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，在将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，方法还包括：
利用训练集对改进后的FADNet网络进行模型训练，并利用验证集和测试集进行验证和测试，得到膝关节分割模型。
可选的，利用训练集对改进后的FADNet网络进行模型训练，并利用验证集和测试集进行验证和测试，得到膝关节分割模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到膝关节分割模型。
可选的，FADNet网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
可选的，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
可选的，深度聚合金字塔网络包括四个网络分支，每个网络分支分别采用1x1或3x3的卷积核提取特征，输入的特征图并行的通过这四个网络分支得到四个输出结果，然后通过1x1的卷积核将四个输出结果融合输出。
第二方面，本申请实施例提供了一种膝关节分割装置，包括：
图像获取模块，用于获取待分割的膝关节图像；
膝关节分割结果获取模块，用于将膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；
并且，在FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。
可选的，装置还包括：
训练样本数据集获取模块，用于获取膝关节图像数据集；标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，装置还包括：
模型训练模块，用于利用训练集对改进后的FADNet网络进行模型训练，并利用验证集和测试集进行验证和测试，得到膝关节分割模型。
可选的，模型训练模块，用于：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到膝关节分割模型。
可选的，FADNet网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
可选的，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
可选的，深度聚合金字塔网络包括四个网络分支，每个网络分支分别采用1x1或3x3的卷积核提取特征，输入的特征图并行的通过这四个网络分支得到四个输出结果，然后通过1x1的卷积核将四个输出结果融合输出。
第三方面，本申请实施例提供了一种电子设备，电子设备包括：处理器以及存储有计算机程序指令的存储器；
处理器执行计算机程序指令时实现如第一方面所示的膝关节分割方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序指令，计算机程序指令被处理器执行时实现如第一方面所示的膝关节分割方法。
该膝关节分割方法，包括：获取待分割的膝关节图像；将膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；并且，在FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置，故能够更加准确地进行膝关节分割。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一个实施例提供的膝关节分割方法的流程示意图；
图2是本申请一个实施例提供的改进后的FADNet网络结构示意图；
图3是本申请一个实施例提供的注意力机制网络结构示意图；
图4是本申请一个实施例提供的深度聚合金字塔网络结构示意图；
图5是本申请一个实施例提供的对DICOM数据进行三维重建的示意图；
图6是本申请一个实施例提供的膝关节分割装置的结构示意图；
图7是本申请一个实施例提供的电子设备的结构示意图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例，为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及具体实施例，对本申请进行进一步详细描述。应理解，此处所描述的具体实施例仅意在解释本申请，而不是限定本申请。对于本领域技术人员来说，本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
传统图像分割算法是基于阈值分割、边缘检测或区域增长来分割医学图像，这类方法分割精度较差，粗略分割目标区域，不能精确分割目标区域边界。
为了解决现有技术问题，本申请实施例提供了一种膝关节分割方法、装置、设备及计算机可读存储介质。下面首先对本申请实施例所提供的膝关节分割方法进行介绍。
图1示出了本申请一个实施例提供的膝关节分割方法的流程示意图。如图1所示，该膝关节分割方法，包括：
S101、获取待分割的膝关节图像；
S102、将膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；
并且，在FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。
本申请在原有的FADNet网络的基础上，引入一个注意力机制网络和深度聚合金字塔网络，将上下文路径中的浅层细节特征与通过多尺度特征融合模块得到的深层抽象特征进行融合，得到增强后的内容特征，提高对膝关节分割的精度。
在原有的FADNet网络结构基础上增加深度聚合金字塔网络，增加对分割位置的定位，减少误识别区域；在每一层跳跃级联结构上增加注意力机制结构，增加对边界的关注权重，利于分割边界的优化。
如图2所示，图2是本申请一个实施例提供的改进后的FADNet网络结构示意图，将多尺度、多层级的特征信息进行整合，可以让浅层局部细节与深层抽象特征互补增强，得到更好的分割效果。改进的FADNet网络结构利用端到端的全卷积网络来分割图像。FADNet网络采用了多层卷积、下采样和上采样架构来提取特征。第二个网络分支将提取的特征累加到第一个网络分支生成的初始结果中，第二个网络分支只需要专注于学习高度非线性的残差，可以有效避免梯度消失。第一层上采样和第二层上采样中每一层的叠加输出最终的损失回归，即L1到L7，这样网络可以强化每一层的特征学习，并将L1到L7的总和作为最终的损失回归。网络的最终输出结果将第一个网络分支和第二个网络分支结果进行堆叠输出。
并且，在每一层的每一对相邻的解码器分支和编码器分支之间都有跳跃连接，这里在跳跃连接中添加注意力机制，增强对边界特征的分割。卷积层使用残差卷积，即由1x1，3x3和1x1卷积核组成的残差单元，目的是为了减少特征损失。由于跳跃连接和残差卷积的存在，以及U型网络中更多的信息流路径，最终可以提高分割精度。
在一个实施例中，在将膝关节图像输入预设的膝关节分割模型之前，方法还包括：
获取膝关节图像数据集；
标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；
将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
具体的，获取膝关节医学图像数据集，将其进行手动标注膝关节区域，最终只提取含有膝关节部分的标签作为我们的分割mask。将二维横断面DICOM数据转换成PNG格式的图片，标注分割mask转换成PNG格式的图片，将其进行打乱顺序后按照6:2:2的比例划分为训练集、验证集、测试集。
在一个实施例中，在将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，方法还包括：
利用训练集对改进后的FADNet网络进行模型训练，并利用验证集和测试集进行验证和测试，得到膝关节分割模型。
在一个实施例中，利用训练集对改进后的FADNet网络进行模型训练，并利用验证集和测试集进行验证和测试，得到膝关节分割模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到膝关节分割模型。
具体的，在模型训练过程中，训练的batch_size为64，初始化学习率设置为1e-4，附加学习率衰减策略，每迭代5000次,学习率衰减为原来的0.9，优化器使用Adam优化器，使用损失函数为DICE loss，设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到最终模型。
损失函数采用多loss回归的形式，将上采样每一层结果输出，作为该层的loss，采用多loss输出的方式可以关注每一层的特征学习情况，加强对每一层特征的学习。
损失函数采用多loss的损失函数，将两个分支的上采样每一层结果融合输出，作为该层的loss，即图2的L1到L7,并将L1到L7加和作为最终的loss输出。采用多loss输出的方式可以关注每一层的特征学习情况，加强对每一层特征的学习。
Loss＝L1+L2+L3+L4+L5+L6+L7
在一个实施例中，FADNet网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
在一个实施例中，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
具体的，如图3所示双重注意力机制网络结构，由位置注意力机制网络和通道注意力机制网络组成。位置注意力机制网络通过对所有位置处的特征加权来选择性地聚合每个位置特征。通道注意力机制网络通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。将两个注意力机制网络的输出相加以进一步改进特征表示，加强对分割区域特征的学习权重。
双重注意力机制网络结构，用来计算空间和通道维度中的全局特征依赖关系，使用位置注意力机制网络来学习特征的空间相互依赖性，并设计通道注意力机制网络来模拟通道相互依赖性。通过在局部特征上建模丰富的上下文依赖关系，有助于更精确地分割结果。
在一个实施例中，如图4所示，深度聚合金字塔网络包括四个网络分支，每个网络分支分别采用1x1或3x3的卷积核提取特征，输入的特征图并行的通过这四个网络分支得到四个输出结果，然后通过1x1的卷积核将四个输出结果融合输出。
在一个实施例中，如图5所示，图5是对DICOM数据进行三维重建的示意图。
图6是本申请一个实施例提供的膝关节分割装置的结构示意图，如图6所示，该膝关节分割装置，包括：
图像获取模块601，用于获取待分割的膝关节图像；
膝关节分割结果获取模块602，用于将膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；
并且，在FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。
可选的，装置还包括：
训练样本数据集获取模块，用于获取膝关节图像数据集；标注膝关节图像数据集中膝关节图像的膝关节区域，并将膝关节区域确定为分割mask；其中，每个分割mask与膝关节图像一一对应；将每个膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
可选的，装置还包括：
模型训练模块，用于利用训练集对改进后的FADNet网络进行模型训练，并利用验证集和测试集进行验证和测试，得到膝关节分割模型。
可选的，模型训练模块，用于：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICE loss；
设置每迭代1000次，对训练集和验证集做一次验证，通过早停法来判断网络训练停止时间，并得到膝关节分割模型。
可选的，FADNet网络的卷积层使用残差卷积，以减少特征损失；
其中，残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
可选的，注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
可选的，深度聚合金字塔网络包括四个网络分支，每个网络分支分别采用1x1或3x3的卷积核提取特征，输入的特征图并行的通过这四个网络分支得到四个输出结果，然后通过1x1的卷积核将四个输出结果融合输出。
图6所示装置中的各个模块具有实现图1中各个步骤的功能，并能达到其相应的技术效果，为简洁描述，在此不再赘述。
图7示出了本申请实施例提供的电子设备的结构示意图。
电子设备可以包括处理器701以及存储有计算机程序指令的存储器702。
具体地，上述处理器701可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。
存储器702可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器702可包括硬盘驱动器(Hard Disk Drive，HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus，USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器702可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器702可在电子设备的内部或外部。在特定实施例中，存储器702可以是非易失性固态存储器。
在一个实施例中，存储器702可以是只读存储器(Read Only Memory，ROM)。在一个实施例中，该ROM可以是掩模编程的ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可改写ROM(EAROM)或闪存或者两个或更多个以上这些的组合。
处理器701通过读取并执行存储器702中存储的计算机程序指令，以实现上述实施例中的任意一种膝关节分割方法。
在一个示例中，电子设备还可包括通信接口703和总线710。其中，如图7所示，处理器701、存储器702、通信接口703通过总线710连接并完成相互间的通信。
通信接口703，主要用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。
总线710包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。举例来说而非限制，总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线710可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。
另外，结合上述实施例中的膝关节分割方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种膝关节分割方法。
需要明确的是，本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见，这里省略了对已知方法的详细描述。在上述实施例中，描述和示出了若干具体的步骤作为示例。但是，本申请的方法过程并不限于所描述和示出的具体步骤，本领域的技术人员可以在领会本申请的精神后，作出各种改变、修改和添加，或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能模块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时，其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时，本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中，或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路，等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是，本申请中提及的示例性实施例，基于一系列的步骤或者装置描述一些方法或系统。但是，本申请不局限于上述步骤的顺序，也就是说，可以按照实施例中提及的顺序执行步骤，也可以不同于实施例中的顺序，或者若干步骤同时执行。
上面参考根据本申请的实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本申请的各方面。应当理解，流程图和/或框图中的每个方框以及流程图和/或框图中各方框的组合可以由计算机程序指令实现。这些计算机程序指令可被提供给通用计算机、专用计算机、或其它可编程数据处理装置的处理器，以产生一种机器，使得经由计算机或其它可编程数据处理装置的处理器执行的这些指令使能对流程图和/或框图的一个或多个方框中指定的功能/动作的实现。这种处理器可以是但不限于是通用处理器、专用处理器、特殊应用处理器或者现场可编程逻辑电路。还可理解，框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合，也可以由执行指定的功能或动作的专用硬件来实现，或可由专用硬件和计算机指令的组合来实现。
以上所述，仅为本申请的具体实施方式，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的系统、模块和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。应理解，本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本申请的保护范围之内。

Claims (10)

1.一种膝关节分割方法，其特征在于，包括：
获取待分割的膝关节图像；
将所述膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，所述膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，所述改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；
并且，在所述FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。
2.根据权利要求1所述的膝关节分割方法，其特征在于，在将所述膝关节图像输入预设的膝关节分割模型之前，所述方法还包括：
获取膝关节图像数据集；
标注所述膝关节图像数据集中膝关节图像的膝关节区域，并将所述膝关节区域确定为分割mask；其中，每个所述分割mask与所述膝关节图像一一对应；
将每个所述膝关节图像及其对应的分割mask的图像格式均转换为PNG格式；
将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集。
3.根据权利要求2所述的膝关节分割方法，其特征在于，在将所有转换为PNG格式的膝关节图像及其对应的分割mask，按照预设比例划分为训练集、验证集和测试集之后，所述方法还包括：
利用所述训练集对所述改进后的FADNet网络进行模型训练，并利用所述验证集和所述测试集进行验证和测试，得到所述膝关节分割模型。
4.根据权利要求3所述的膝关节分割方法，其特征在于，所述利用所述训练集对所述改进后的FADNet网络进行模型训练，并利用所述验证集和所述测试集进行验证和测试，得到所述膝关节分割模型，包括：
在模型训练过程中，设置训练的batch_size为64；
设置初始化学习率为1e-4，附加学习率衰减策略，每迭代5000次，学习率衰减为上一次学习率的0.9；
设置优化器为Adam优化器；
设置损失函数为DICEloss；
设置每迭代1000次，对所述训练集和所述验证集做一次验证，通过早停法来判断网络训练停止时间，并得到所述膝关节分割模型。
5.根据权利要求1所述的膝关节分割方法，其特征在于，所述FADNet网络的卷积层使用残差卷积，以减少特征损失；
其中，所述残差卷积为由1x1，3x3和1x1卷积核组成的残差单元。
6.根据权利要求1所述的膝关节分割方法，其特征在于，所述注意力机制网络包括位置注意力机制网络和通道注意力机制网络；
其中，所述位置注意力机制网络，用于通过所有位置处的特征的加权和来选择性地聚合每个位置的特征；
所述通道注意力机制网络，用于通过整合所有通道映射之间的相关特征来选择性地强调存在相互依赖的通道映射。
7.根据权利要求1所述的膝关节分割方法，其特征在于，所述深度聚合金字塔网络包括四个网络分支，每个所述网络分支分别采用1x1或3x3的卷积核提取特征，输入的特征图并行的通过这四个所述网络分支得到四个输出结果，然后通过1x1的卷积核将四个所述输出结果融合输出。
8.一种膝关节分割装置，其特征在于，包括：
图像获取模块，用于获取待分割的膝关节图像；
膝关节分割结果获取模块，用于将所述膝关节图像输入预设的膝关节分割模型，输出膝关节分割结果；
其中，所述膝关节分割模型是基于改进后的FADNet网络经过模型训练得到的，所述改进后的FADNet网络是在FADNet网络的每层每对相邻的解码器分支和编码器分支之间的跳跃连接中添加注意力机制网络，用于增强对膝关节图像边界特征的分割；
并且，在所述FADNet网络的最后一层添加深度聚合金字塔网络，用于提取不同层级不同尺度的卷积特征，挖掘膝关节图像最后一层的特征信息，以定位分割位置。
9.一种电子设备，其特征在于，所述电子设备包括：处理器以及存储有计算机程序指令的存储器；
所述处理器执行所述计算机程序指令时实现如权利要求1-7任意一项所述的膝关节分割方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现如权利要求1-7任意一项所述的膝关节分割方法。
CN202310147777.XA 2023-02-21 2023-02-21 膝关节分割方法、装置、电子设备及计算机可读存储介质 Active CN116152197B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310147777.XA CN116152197B (zh) 2023-02-21 2023-02-21 膝关节分割方法、装置、电子设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310147777.XA CN116152197B (zh) 2023-02-21 2023-02-21 膝关节分割方法、装置、电子设备及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN116152197A true CN116152197A (zh) 2023-05-23
CN116152197B CN116152197B (zh) 2024-06-25

Family

ID=86340432

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310147777.XA Active CN116152197B (zh) 2023-02-21 2023-02-21 膝关节分割方法、装置、电子设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN116152197B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116650110A (zh) * 2023-06-12 2023-08-29 北京长木谷医疗科技股份有限公司 基于深度强化学习的膝关节假体自动放置方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109447994A (zh) * 2018-11-05 2019-03-08 陕西师范大学 结合完全残差与特征融合的遥感图像分割方法
CN115035127A (zh) * 2022-07-08 2022-09-09 西安科技大学 一种基于生成式对抗网络的视网膜血管分割方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109447994A (zh) * 2018-11-05 2019-03-08 陕西师范大学 结合完全残差与特征融合的遥感图像分割方法
CN115035127A (zh) * 2022-07-08 2022-09-09 西安科技大学 一种基于生成式对抗网络的视网膜血管分割方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
QIANG WANG等: "FADNet: A Fast and Accurate Network for Disparity Estimation", ARXIV, 24 March 2020 (2020-03-24), pages 1 - 7 *
周涛等: "探析U-Net 的改进机制及其在医学图像分割的应用", JOURNAL OF BIOMEDICAL ENGINEERING, 31 August 2022 (2022-08-31), pages 806 - 825 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116650110A (zh) * 2023-06-12 2023-08-29 北京长木谷医疗科技股份有限公司 基于深度强化学习的膝关节假体自动放置方法及装置
CN116650110B (zh) * 2023-06-12 2024-05-07 北京长木谷医疗科技股份有限公司 基于深度强化学习的膝关节假体自动放置方法及装置

Also Published As

Publication number Publication date
CN116152197B (zh) 2024-06-25

Similar Documents

Publication Publication Date Title
Miao et al. A semi-automatic method for road centerline extraction from VHR images
CN116543221B (zh) 关节病变智能检测方法、装置、设备及可读存储介质
CN116152197B (zh) 膝关节分割方法、装置、电子设备及计算机可读存储介质
CN116309636A (zh) 基于多任务神经网络模型的膝关节分割方法、装置及设备
CN115512169B (zh) 基于梯度和区域亲和力优化的弱监督语义分割方法及装置
CN112232309A (zh) 用于热像人脸识别的方法、电子设备和存储介质
CN116363150A (zh) 髋关节分割方法、装置、电子设备及计算机可读存储介质
CN117350992A (zh) 基于自导向注意机制多任务分割网络金属植入物识别方法
CN113177554B (zh) 甲状腺结节识别与分割方法、系统、存储介质及设备
CN117315263B (zh) 一种目标轮廓装置、训练方法、分割方法、电子设备及存储介质
CN113592842A (zh) 一种基于深度学习的样本血清质量识别方法及识别设备
CN113780492A (zh) 一种二维码二值化方法、装置、设备及可读存储介质
CN116959307A (zh) 一种基于虚拟现实的髋关节镜手术辅助教学系统
CN116704549A (zh) 三维空间关键点的位置检测方法、装置、设备及存储介质
CN116188492B (zh) 髋关节分割方法、装置、电子设备及计算机可读存储介质
CN116650110A (zh) 基于深度强化学习的膝关节假体自动放置方法及装置
CN116051813A (zh) 全自动智能腰椎定位与识别方法及应用
CN112950652B (zh) 机器人及其手部图像分割方法和装置
CN116563314A (zh) 腰椎分割方法、装置、电子设备及计算机可读存储介质
CN116563898A (zh) 基于GhostNet网络的掌静脉图像识别方法、装置、设备及介质
CN116523841B (zh) 基于多尺度信息融合的深度学习脊柱分割方法及装置
CN114202494A (zh) 基于细胞分类模型分类细胞的方法、装置及设备
CN114596209A (zh) 指纹图像修复方法、系统、设备及存储介质
CN116485638A (zh) 基于深度卷积网络的图像风格迁移方法、装置及设备
CN110211118A (zh) 基于深度学习的胃癌图像识别方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 100176 2201, 22 / F, building 1, yard 2, Ronghua South Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant after: Beijing Changmugu Medical Technology Co.,Ltd.

Applicant after: Zhang Yiling

Address before: 100176 2201, 22 / F, building 1, yard 2, Ronghua South Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant before: BEIJING CHANGMUGU MEDICAL TECHNOLOGY Co.,Ltd.

Applicant before: Zhang Yiling

GR01 Patent grant