CN115457261A - 医学图像小病灶分割方法、存储介质和电子设备 - Google Patents
医学图像小病灶分割方法、存储介质和电子设备 Download PDFInfo
- Publication number
- CN115457261A CN115457261A CN202210936806.6A CN202210936806A CN115457261A CN 115457261 A CN115457261 A CN 115457261A CN 202210936806 A CN202210936806 A CN 202210936806A CN 115457261 A CN115457261 A CN 115457261A
- Authority
- CN
- China
- Prior art keywords
- feature
- medical image
- sub
- module
- blocks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/42—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种医学图像小病灶分割方法、存储介质和电子设备,所述方法包括:构建图像分割网络模型;将待处理的医学图像输入编码模块,提取医学图像在不同尺度下的全局特征,得到多种不同尺度的特征图;将多种不同尺度的特征图输入至跳跃连接模块,采用位置相关性网络计算不同子块之间的位置关系,构建位置权重矩阵来加强对医学图像上器官区域的关注度;根据编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块,并通过上采样对各个尺度的特征图进行尺度还原,对不同尺度还原的特征图与位置相关性网络输出的特征矩阵进行融合,输出最终特征图。通过上述方案能够有效提升病灶分割的准确性。
Description
技术领域
本发明涉及医学图像分割领域,具体涉及一种医学图像小病灶分割方法、存储介质和电子设备。
背景技术
医学图像分割的目的是清晰有效的分割出医学图像中的器官与可能存在的病灶区域从而辅助诊断,提高诊断效率和准确性。它通常在计算机辅助诊断和智能医学中发挥关键作用。
小病灶在医学领域非常普遍,例如早期肿瘤组织。由于肿瘤在早期阶段很小,且与医学成像噪声区分度低,因此很难有效地将其分割出来。然而,小病变区域的成功分割对医学图像分割具有重要意义。
目前,基于卷积神经网络的分割方法因其出色的特征表述能力,在医学图像分割领域取得了巨大成功。然而,由于卷积运算的内在局部性,在显式建模长期依赖项时,它通常会表现出不足。因此,通常在分割过小目标时会出现分割丢失的问题。从而导致小病灶的医学图像分割仍然是计算机视觉领域最具挑战性的任务之一。
发明内容
为此,需要提供一种医学图像小病灶分割的技术方案,使得医学图像中的小病灶能够被更快地分割出来,同时降低非器官区域成像噪声造成的错误分割的情况。
为实现上述目的,在第一方面,本发明提供了一种医学图像小病灶分割方法,所述方法包括以下步骤:
S1:构建图像分割网络模型;所述图像分割网络模型包括编码模块、解码模块和跳跃连接模块;
S2:将待处理的医学图像输入所述编码模块,提取所述医学图像在不同尺度下的全局特征,得到多种不同尺度的特征图;所述医学图像被分割为多个子块;
S3:将所述多种不同尺度的特征图输入至所述跳跃连接模块,采用位置相关性网络计算不同子块之间的位置关系,构建位置权重矩阵来加强对医学图像上器官区域的关注度;
S4:根据所述编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块,解码模块通过卷积操作对所述深层特征进行特征重构,并通过上采样对各个尺度的特征图进行尺度还原,对不同尺度还原的特征图与位置相关性网络输出的特征矩阵进行融合,输出最终特征图。
进一步地,步骤S2包括:
进一步地,步骤S4包括:
S43:重复步骤S42三次,输出最终特征图,通过softmax函数进行映射得到最终的分割结果图W×H×N,其中,N为分割类别数。
进一步地,所述根据所述编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块包括:
进一步地,步骤S3包括:
其中,V为变换矩阵,Hij表示第i个子块与第j个子块之间的位置相关性矩阵,其计算如下公式:
S32:位置相关性网络输出的特征图为原特征图与位置权重矩阵的合并特征图,其计算如公式下方所示:
进一步地,所述位置权重矩阵被配置为增大器官区域的特征权重以及抑制非器官区域的特征权重。
进一步地,所述方法还包括:
S5:通过激活函数将最终特征图映射为第一标签图;
S6:获取第二标签图,根据所述第一标签图和所述第二标签图的加权交叉熵损失与Dice损失对训练模型的参数进行反向优化,并重复上述步骤,直到训练模型收敛,确定最优训练模型的参数;所述第二标签图为包含标注的标签图。
在第二方面,本发明还提供了一种存储介质,所述存储介质中存储有计算机程序,所述计算机程序被执行时实现如本发明第一方面所述的方法。
在第三方面,本发明还提供了一种服务器,包括:
存储介质,为本发明第二方面所述的存储介质;
处理器,与所述存储介质电连接,用于执行所述存储介质存储的计算机程序以实现如本发明第一方面所述的方法。
区别于现有技术,本发明具有以下特点:
本发明提供了一种医学图像小病灶分割方法、存储介质和电子设备,所述方法包括:构建图像分割网络模型;将待处理的医学图像输入编码模块,提取医学图像在不同尺度下的全局特征,得到多种不同尺度的特征图;将多种不同尺度的特征图输入至跳跃连接模块,采用位置相关性网络计算不同子块之间的位置关系,构建位置权重矩阵来加强对医学图像上器官区域的关注度;根据编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块,解码模块通过卷积操作对深层特征进行特征重构,并通过上采样对各个尺度的特征图进行尺度还原,对不同尺度还原的特征图与位置相关性网络输出的特征矩阵进行融合,输出最终特征图。通过上述方案能够有效提升病灶分割的准确性。
附图说明
图1为本发明第一种实施方式涉及的医学图像小病灶分割方法的流程图;
图2为本发明第二种实施方式涉及的医学图像小病灶分割方法的流程图;
图3为本发明一种实施方式涉及的医学图像病灶分割模型的示意图;
图4为本发明一种实施方式涉及的位置相关性网络的示意图;
图5为本发明一种实施方式涉及的电子设备的示意图。
具体实施方式
为详细说明本申请可能的应用场景,技术原理,可实施的具体方案,能实现目的与效果等,以下结合所列举的具体实施例并配合附图详予说明。本文所记载的实施例仅用于更加清楚地说明本申请的技术方案,因此只作为示例,而不能以此来限制本申请的保护范围。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中各个位置出现的“实施例”一词并不一定指代相同的实施例,亦不特别限定其与其它实施例之间的独立性或关联性。原则上,在本申请中,只要不存在技术矛盾或冲突,各实施例中所提到的各项技术特征均可以以任意方式进行组合,以形成相应的可实施的技术方案。
除非另有定义,本文所使用的技术术语的含义与本申请所属技术领域的技术人员通常理解的含义相同;本文中对相关术语的使用只是为了描述具体的实施例,而不是旨在限制本申请。
在本申请的描述中,用语“和/或”是一种用于描述对象之间逻辑关系的表述,表示可以存在三种关系,例如A和/或B,表示:存在A,存在B,以及同时存在A和B这三种情况。另外,本文中字符“/”一般表示前后关联对象是一种“或”的逻辑关系。
在本申请中,诸如“第一”和“第二”之类的用语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何实际的数量、主次或顺序等关系。
在没有更多限制的情况下,在本申请中,语句中所使用的“包括”、“包含”、“具有”或者其他类似的表述,意在涵盖非排他性的包含,这些表述并不排除在包括要素的过程、方法或者产品中还可以存在另外的要素,从而使得包括一系列要素的过程、方法或者产品中不仅可以包括那些限定的要素,而且还可以包括没有明确列出的其他要素,或者还包括为这种过程、方法或者产品所固有的要素。
与《审查指南》中的理解相同,在本申请中,“大于”、“小于”、“超过”等表述理解为不包括本数;“以上”、“以下”、“以内”等表述理解为包括本数。此外,在本申请实施例的描述中“多个”的含义是两个以上(包括两个),与之类似的与“多”相关的表述亦做此类理解,例如“多组”、“多次”等,除非另有明确具体的限定。
请参阅图1,在第一方面,本发明提供了一种医学图像小病灶分割方法,所述方法包括以下步骤:
S1:构建图像分割网络模型;所述图像分割网络模型包括编码模块、解码模块和跳跃连接模块;
S2:将待处理的医学图像输入所述编码模块,提取所述医学图像在不同尺度下的全局特征,得到多种不同尺度的特征图;所述医学图像被分割为多个子块;
S3:将所述多种不同尺度的特征图输入至所述跳跃连接模块,采用位置相关性网络计算不同子块之间的位置关系,构建位置权重矩阵来加强对医学图像上器官区域的关注度;
S4:根据所述编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块,解码模块通过卷积操作对所述深层特征进行特征重构,并通过上采样对各个尺度的特征图进行尺度还原,对不同尺度还原的特征图与位置相关性网络输出的特征矩阵进行融合,输出最终特征图。
优选的,本发明的编码模块包括四层Transformer结构,可实现医学图像在不同尺度下的全局特征提取,从而避免传统的卷积神经网络与下采样所构成编码器无法建模全局特征所带来的局限性。
通过上述方案提供的方法,能够充分考虑到病灶与所属器官的位置相关性,加强器官所在邻域内的关注度,能有效提高小病灶的分割率,同时降低非器官区域成像噪声造成的错误分割。
如图3所示,在某些实施例中,步骤S2包括:
优选的,步骤S22中的Swin-Transformer为三层,步骤S23中重复步骤S21-S22的次数为三次。所述编码模块最后一层输出的特征图为 特征图。所述位置权重矩阵被配置为增大器官区域的特征权重以及抑制非器官区域的特征权重。
通过上述方案,将三种尺度的特征图送入跳跃连接模块并采用如图4所示的位置相关性网络计算其位置加权特征图,编码模块最后输出的特征图通过九次Swin-Transformer进行深层次特征映射,而后送入解码模块。
具体的,在某些实施例中,步骤S4包括:
S43:重复步骤S42三次,输出最终特征图,通过softmax函数进行映射得到最终的分割结果图W×H×N,其中,N为分割类别数。
优选的,所述根据所述编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块包括:
本发明提出的位置相关性模块用于学习编码模块Transformer输出的特征图中不同子块之间的位置相关性,加强对大目标器官所在区域的关注度,抑制非器官区域的关注度,从而实现器官周围小病灶的准确分割。该模块可与编码模块的Transformer并发执行,其结构如附图4所示。
在某些实施例中,步骤S3包括:
其中,V为变换矩阵,Hij表示第i个子块与第j个子块之间的位置相关性矩阵,其计算如下公式:
S32:位置相关性网络输出的特征图为原特征图与位置权重矩阵的合并特征图,其计算如公式下方所示:
本发明提出的解码器用于恢复图像分辨率,实现像素级分割,考虑到Transformer没有充分关注局部信息,不擅长于低等级特征与像素的还原。因此在解码器部分采用卷积神经网络与上采样来实现图像的像素还原。
如图2所示,所述方法在步骤S4之后还包括:
S5:通过激活函数将最终特征图映射为第一标签图;
S6:获取第二标签图,根据所述第一标签图和所述第二标签图的加权交叉熵损失与Dice损失对训练模型的参数进行反向优化,并重复上述步骤,直到训练模型收敛,确定最优训练模型的参数;所述第二标签图为包含标注的标签图。
通过上述方案能够使得训练模型最终输出的标签图能准确分割医学图像中的器官与病灶区域。
在第二方面,本发明还提供了一种存储介质,所述存储介质中存储有计算机程序,所述计算机程序被执行时实现如本发明第一方面所述的方法。
在第三方面,如图5所示,本发明还提供了一种电子设备10,包括存储介质102和处理器101,存储介质102为如第二方面所述的存储介质;处理器101与所述存储介质102电连接,用于执行所述存储介质存储的计算机程序以实现如第一方面所述的方法。
优选的,电子设备可以为计算机设备,包括但不限于:个人计算机、服务器、通用计算机、专用计算机、网络设备、嵌入式设备、可编程设备、智能移动终端、智能家居设备、穿戴式智能设备、车载智能设备等。存储介质包括但不限于:RAM、ROM、磁碟、磁带、光盘、闪存、U盘、移动硬盘、存储卡、记忆棒、网络服务器存储、网络云存储等。处理器包括但不限于CPU(中央处理器)、GPU(图像处理器)、MCU(微处理器)等。
尽管已经对上述各实施例进行了描述,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改,所以以上仅为本发明的实施例,并非因此限制本发明的专利保护范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围之内。
Claims (10)
1.一种医学图像小病灶分割方法,其特征在于,所述方法包括以下步骤:
S1:构建图像分割网络模型;所述图像分割网络模型包括编码模块、解码模块和跳跃连接模块;
S2:将待处理的医学图像输入所述编码模块,提取所述医学图像在不同尺度下的全局特征,得到多种不同尺度的特征图;所述医学图像被分割为多个子块;
S3:将所述多种不同尺度的特征图输入至所述跳跃连接模块,采用位置相关性网络计算不同子块之间的位置关系,构建位置权重矩阵来加强对医学图像上器官区域的关注度;
S4:根据所述编码模块最后一层输出的特征图提取深层特征,并将提取的深层特征输入至解码模块,解码模块通过卷积操作对所述深层特征进行特征重构,并通过上采样对各个尺度的特征图进行尺度还原,对不同尺度还原的特征图与位置相关性网络输出的特征矩阵进行融合,输出最终特征图。
6.如权利要求1所述的医学图像小病灶分割方法,其特征在于,步骤S3包括:
其中,V为变换矩阵,Hij表示第i个子块与第j个子块之间的位置相关性矩阵,其计算如下公式:
S32:位置相关性网络输出的特征图为原特征图与位置权重矩阵的合并特征图,其计算如公式下方所示:
7.如权利要求6所述的医学图像小病灶分割方法,其特征在于,所述位置权重矩阵被配置为增大器官区域的特征权重以及抑制非器官区域的特征权重。
8.如权利要求1所述的医学图像小病灶分割方法,其特征在于,所述方法还包括:
S5:通过激活函数将最终特征图映射为第一标签图;
S6:获取第二标签图,根据所述第一标签图和所述第二标签图的加权交叉熵损失与Dice损失对训练模型的参数进行反向优化,并重复上述步骤,直到训练模型收敛,确定最优训练模型的参数;所述第二标签图为包含标注的标签图。
9.一种存储介质,其特征在于,所述存储介质中存储有计算机程序,所述计算机程序被执行时实现如权利要求1至8任一项所述的方法。
10.一种电子设备,其特征在于,包括:
存储介质,为如权利要求9所述的存储介质;
处理器,与所述存储介质电连接,用于执行所述存储介质存储的计算机程序以实现如权利要求1至8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210936806.6A CN115457261A (zh) | 2022-08-05 | 2022-08-05 | 医学图像小病灶分割方法、存储介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210936806.6A CN115457261A (zh) | 2022-08-05 | 2022-08-05 | 医学图像小病灶分割方法、存储介质和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115457261A true CN115457261A (zh) | 2022-12-09 |
Family
ID=84297470
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210936806.6A Pending CN115457261A (zh) | 2022-08-05 | 2022-08-05 | 医学图像小病灶分割方法、存储介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115457261A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117237351A (zh) * | 2023-11-14 | 2023-12-15 | 腾讯科技(深圳)有限公司 | 一种超声图像分析方法以及相关装置 |
-
2022
- 2022-08-05 CN CN202210936806.6A patent/CN115457261A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117237351A (zh) * | 2023-11-14 | 2023-12-15 | 腾讯科技(深圳)有限公司 | 一种超声图像分析方法以及相关装置 |
CN117237351B (zh) * | 2023-11-14 | 2024-04-26 | 腾讯科技(深圳)有限公司 | 一种超声图像分析方法以及相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111429460B (zh) | 图像分割方法、图像分割模型训练方法、装置和存储介质 | |
Zhang et al. | Progressive hard-mining network for monocular depth estimation | |
CN116309650B (zh) | 基于双分支嵌入注意力机制的医学图像分割方法与系统 | |
CN113012172A (zh) | 一种基于AS-UNet的医学图像分割方法及系统 | |
Gaggion et al. | Improving anatomical plausibility in medical image segmentation via hybrid graph neural networks: applications to chest x-ray analysis | |
CN112396605B (zh) | 网络训练方法及装置、图像识别方法和电子设备 | |
CN117078930A (zh) | 基于边界感知和注意力机制的医学图像分割方法 | |
CN115861616A (zh) | 面向医学图像序列的语义分割系统 | |
CN114419056A (zh) | 一种逐步精细的医学图像分割系统 | |
CN115619797A (zh) | 一种基于注意力机制的并行U-Net网络的肺部图像分割方法 | |
CN115457261A (zh) | 医学图像小病灶分割方法、存储介质和电子设备 | |
CN113436173A (zh) | 基于边缘感知的腹部多器官分割建模、分割方法及系统 | |
CN113822289A (zh) | 图像降噪模型的训练方法、装置、设备及存储介质 | |
CN116152266A (zh) | 一种穿刺针超声图像的分割方法、装置和系统 | |
CN116563533A (zh) | 基于目标位置先验信息的医学图像分割方法及系统 | |
CN116258933A (zh) | 基于全局信息感知的医学图像分割装置 | |
CN117522896A (zh) | 基于自注意力的图像分割方法及计算机设备 | |
CN116823850A (zh) | 基于U-Net和Transformer融合改进的心脏MRI分割方法及系统 | |
CN117649385A (zh) | 一种基于全局和局部注意力机制的肺部ct图像分割方法 | |
Tran et al. | Deep learning-based inpainting for chest X-ray image | |
CN116912829A (zh) | 小气道分割方法、装置、电子设备及非易失性存储介质 | |
CN113706684A (zh) | 三维血管图像重建方法、系统、医疗设备以及存储介质 | |
CN113744284B (zh) | 脑肿瘤图像区域分割方法、装置、神经网络及电子设备 | |
Samudrala et al. | Semantic Segmentation in Medical Image Based on Hybrid Dlinknet and Unet | |
CN113554656A (zh) | 基于图神经网络的光学遥感图像实例分割方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |