CN111402274A - 一种磁共振左心室图像分割的处理方法、模型及训练方法 - Google Patents
一种磁共振左心室图像分割的处理方法、模型及训练方法 Download PDFInfo
- Publication number
- CN111402274A CN111402274A CN202010289260.0A CN202010289260A CN111402274A CN 111402274 A CN111402274 A CN 111402274A CN 202010289260 A CN202010289260 A CN 202010289260A CN 111402274 A CN111402274 A CN 111402274A
- Authority
- CN
- China
- Prior art keywords
- convolution
- processing
- image
- feature
- characteristic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30048—Heart; Cardiac
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/30—Assessment of water resources
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本申请提供一种磁共振左心室图像分割的处理方法、模型及训练方法。方法包括:获得包含有对象的图像;对所述图像依次进行N次下采样处理,获得所述图像的特征数据;通过对所述图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据;对所述上采样处理后的特征数据进行激活处理,以提取出所述对象。在卷积获得卷积特征后,通过按卷积特征中各通道的重要程度对应调整该卷积特征,使得调整后的卷积特征中重要程度高的通道的特征能够被突出,而重要程度低的通道的特征则能够被抑制。以便通过上采样处理该调整后的卷积特征,能够更准确的从图像中提取出对象。
Description
技术领域
本申请涉及图像处理技术领域,具体而言,涉及一种磁共振左心室图像分割的处理方法、模型及训练方法。
背景技术
随着技术的不断进步,利用机器学习进行处理已经实现了比较广泛的应用,最为典型的是利用机器学习可以将图像中的对象从图像的背景中提取出来,以实现自动抠图。
而在对图像中的对象进行提取时,若图像中的背景和对象区分不明显,或者图像中背景复杂的情况下,比如对心脏磁共振图像中左心肌的图形进行提取时,由于左心肌与其周围组织灰度对比度低,以及血池中乳头肌和小梁通常与心内膜连接且灰度也与左心肌相近,故导致机器学习训练出的模型的鲁棒性和准确性都比较低,难以准确的将左心肌的图形提取出。换言之,在图像中的背景和对象区分不明显或者背景复杂时,机器学习难以准确的将图像中的对象提取出。
发明内容
本申请实施例的目的在于提供一种磁共振左心室图像分割的处理方法、模型及训练方法,用以实现在图像中的背景和对象区分不明显或者背景复杂时,能够准确的将图像中的对象提取出。
第一方面,本申请实施例提供了一种磁共振左心室图像分割的处理方法,所述方法包括:获得包含有对象的图像;对所述图像依次进行N次下采样处理,获得所述图像的特征数据,其中,第x次下采样处理包括:对输入数据进行卷积以获得卷积特征,按所述卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征;再对所述调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,x=1时,所述输入数据为所述图像,x≠1时,所述输入数据为第x-1次下采样处理所得的特征数据,N为正整数,x取1到N;通过对所述图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据,M为正整数;对所述上采样处理后的特征数据进行激活处理,以提取出所述对象。
在本申请实施例中,在通过卷积获得卷积特征后,通过按卷积特征中各通道的重要程度对应调整该卷积特征,使得调整后的卷积特征中重要程度高的通道的特征能够被突出,而重要程度低的通道的特征则能够被抑制。以便通过上采样处理该调整后的卷积特征,能够更准确的从图像中提取出对象。
结合第一方面,在第一种可能的实现方式中,按所述卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征,包括:将所述卷积特征中每个通道的二维特征压缩成一维特征;确定出每个通道的一维特征的权重,其中,每个通道的权重用于表示该通道的重要程度,每个通道的权重越大则该通道的重要程度也越高;通过将每个通道的权重加权到与该通道的二维特征,以获得所述调整后的卷积特征。
在本申请实施例中,处理二维特征的复杂度显然是高于处理一维特征复杂度,故每个通道的二维特征被压缩成一维特征,再对一维特征进行处理则能够更便捷的确定出反映每个通道的重要程度的权重。
结合第一方面的第一种可能的实现方式,在第二种可能的实现方式中,确定出每个通道的一维特征的权重,包括:对每个通道的一维特征依次进行全连接以及激活处理,获得该通道的权重。
在本申请实施例中,由于全连接以及激活处理的特点便是确定出每个一维特征是趋于0还是1的权重,这种特点满足对每个通道的一维特征的处理需求,因此通过对每个通道的一维特征依次进行全连接以及激活处理可以快速准确的确定出每个通道的权重。
结合第一方面的第一种可能的实现方式,在第三种可能的实现方式中,对所述调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,包括:对所述调整后的卷积特征进行卷积处理,获得卷积后的特征;将所述卷积后的特征与所述调整后的卷积特征融合,获得融合后的特征;对所述融合后的特征进行池化处理,获得第x次下采样处理的特征数据。
在本申请实施例中,通过对调整后的卷积特征进行尺度不变的卷积处理可以强化特征,避免出现梯度消失以及过拟合,以增强处理效果。
结合第一方面,在第四种可能的实现方式中,y取1到M,第y次上采样处理的步骤包括:若y=1,对所述图像的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据;若y≠1,将第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据融合,获得融合的特征数据,对所述融合的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据,其中,第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据的尺度相同。
在本申请实施例中,通过将下采样的特征数据与上采样的特征数据融合,以便下采样的特征数据能够对上采样处理产生影响,增强上采样的处理效果,从而能够更准确的提取出对象。
结合第一方面的第四种可能的实现方式,在第五种可能的实现方式中,若y=1,对所述图像的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据,包括:对所述图像的特征数据进行第一次卷积处理,获得第一卷积特征;对所述第一卷积特征进行卷积处理,获得第二卷积特征,并将所述第二卷积特征与所述第一卷积特征融合,获得第一融合特征;对所述第一融合特征进行卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征;对所述第二融合特征进行反卷积处理,获得第y次下采样处理所得的特征数据;或者,若y≠1,对所述融合的特征数据依次进行卷积以及反卷积处理,获得第y次下采样处理所得的特征数据,包括:对所述融合的特征数据进行卷积处理,获得第一卷积特征;对所述第一卷积特征进行卷积处理,获得第二卷积特征,并将所述第二卷积特征与所述第一卷积特征融合,获得第一融合特征;对所述第一融合特征进行卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征;对所述第二融合特征进行反卷积处理,获得第y次下采样处理所得的特征数据。
在本申请实施例中,通过尺度缩小的卷积特征进行尺度不变的卷积处理可以强化特征,避免出现梯度消失以及过拟合,以增强处理效果。
结合第一方面,在第六种可能的实现方式中,获得包含有对象的图像,包括:获得心脏磁共振图像;从所述心脏磁共振图像中提取出左心室图像;对所述部分图像做归一化处,获得归一化后的左心室图像,其中,所述对象为左心室。
在本申请实施例中,通过从心脏磁共振图像中提取出左心室图像,以便后续仅针对左心室图像进行处理,从而有效的降低数据处理量,以及设备的负荷。
第二方面,本申请实施例提供了一种磁共振左心室图像分割的处理模型,所述模型包括:输入层,用于获得包含有对象的图像;下采样层,用于对所述图像依次进行N次下采样处理,获得所述图像的特征数据,其中,第x次下采样处理包括:对输入数据进行卷积以获得卷积特征,按所述卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征;再对所述调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,若x=1,所述输入数据为所述图像,若x≠1,所述输入数据为第x-1次下采样处理所得的特征数据,N为正整数,x取1到N;上采样层,用于通过对所述图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据,M为正整数;激活层,用于对所述上采样处理后的特征数据进行激活处理,以提取出所述对象。
结合第二方面,在第一种可能的实现方式中,所述下采样层,用于将所述卷积特征中每个通道的二维特征压缩成一维特征;确定出每个通道的一维特征的权重,其中,每个通道的权重用于表示该通道的重要程度,每个通道的权重越大则该通道的重要程度也越高;通过将每个通道的权重加权到与该通道的二维特征,以获得所述调整后的卷积特征。
结合第二方面的第一种可能的实现方式,在第二种可能的实现方式中,所述下采样层,用于对每个通道的一维特征依次进行全连接以及激活处理,获得该通道的权重。
结合第二方面的第一种可能的实现方式,在第三种可能的实现方式中,所述下采样层,用于对所述调整后的卷积特征进行卷积处理,获得卷积后的特征;将所述卷积后的特征与所述调整后的卷积特征融合,获得融合后的特征;对所述融合后的特征进行池化处理,获得第x次下采样处理的特征数据。
结合第二方面,在第四种可能的实现方式中,y取1到M,若y=1,所述上采样层,用于对所述图像的特征数据依次进行卷积以及反卷积处理,获得第y次下采样处理所得的特征数据;若y≠1,所述上采样层,用于若y=将第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据融合,获得融合的特征数据,对所述融合的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据,其中,第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据的尺度相同。
结合第二方面的第四种可能的实现方式,在第五种可能的实现方式中,若y=1,所述上采样层,用于对所述图像的特征数据进行第一次卷积处理,获得第一卷积特征;对所述第一卷积特征进行卷积处理,获得第二卷积特征,并将所述第二卷积特征与所述第一卷积特征融合,获得第一融合特征;对所述第一融合特征进行卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征;对所述第二融合特征进行反卷积处理,获得第y次下采样处理所得的特征数据;或者,若y≠1,所述上采样层,用于对所述融合的特征数据进行卷积处理,获得第一卷积特征;对所述第一卷积特征进行卷积处理,获得第二卷积特征,并将所述第二卷积特征与所述第一卷积特征融合,获得第一融合特征;对所述第一融合特征进行卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征;对所述第二融合特征进行反卷积处理,获得第y次下采样处理所得的特征数据。
第三方面,本申请实施例提供了一种模型的训练方法,所述方法包括:获得训练图像集;利用所述训练图像集对第二方面所述的模型进行训练。
第四方面,本申请实施例提供了一种具有计算机可执行的非易失程序代码的计算机可读存储介质,所述程序代码使所述计算机行如第一方面或者第一方面中任一种可能的实现方式所述的磁共振左心室图像分割的处理方法。
第五方面,本申请实施例提供了一种电子设备,所述电子设备包括:通信接口、处理器,存储器和总线;所述通信接口、所述处理器、所述存储器通过所述总线连接;所述存储器,用于存储程序;所述处理器,用于通过调用并运行存储在所述存储器中的程序,以对通过所述通信接口获取的图像执行如第一方面或者第一方面中任一种可能的实现方式所述的磁共振左心室图像分割的处理方法。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种磁共振左心室图像分割的处理方法的流程图;
图2为本申请实施例提供的一种图像处理模型的结构框图;
图3为本申请实施例提供的一种图像处理模型中调整卷积特征的示意图;
图4为本申请实施例提供的一种图像处理模型中残差处理的示意图;
图5A为本申请实施例中左心肌图像的原图;
图5B为本申请实施例中左心肌图像打标签后的二值图像;
图5C为本申请实施例中左心肌图像处理后的图像;
图6为本申请实施例提供的一种电子设备的结构框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案行进描述。
请参阅图1,本申请实施例提供了一种磁共振左心室图像分割的处理方法,该磁共振左心室图像分割的处理方法可以由电子设备中的图像处理模型执行,该图像处理模型可以是U型神经网络,比如该U型神经网络可以是通过对U-net网络的结构进行优化调整而获得的网络。
本实施例中,根据应用场景的不同,电子设备的类型也有所不同。比如,若方法应用到医疗领域,处理的图像是针对某些身体部位的核磁共振图像,那么电子设备可以是特定的医疗设备;又比如,若方法应用到常规领域,处理的图像是常规的人、车辆、动物等对象的图像,那么电子设备可以是常规的终端或者服务器。
本实施例中,该磁共振左心室图像分割的处理方法的方法流程可以包括:
步骤S100:获得包含有对象的图像。
步骤S200:对图像依次进行N次下采样处理,获得图像的特征数据,其中,第x次下采样处理包括:对输入数据进行卷积以获得卷积特征,按卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征;再对调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,若x=1,输入数据为所述图像,若x≠1,输入数据为第x-1次下采样处理所得的特征数据,N为正整数,x取1到N。
步骤S300:通过对图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据,M为正整数。
步骤S400:对上采样处理后的特征数据进行激活处理,以提取出对象。
下面将结合示例对上述流程进行详细说明。
而需要明确的是,在实际中,图像处理模型执行上述流程时,其可以是对该图像处理模型的训练也可以是该图像处理模型训练后的实际应用,二者略有差异。为避免累述,下面将结合上述流程对图像处理模型训练以及实际应用一并进行说明。此外,针对应用场景,下文将以对左心肌图形的提取为例进行说明,但并不作为限定。
在图像处理模型训练时:
电子设备首先需要获取各图像,对各图像进行预处理,从而获取用于图像处理模型训练的训练图像集。
具体的,电子设备可以获取各用户的心脏核磁共振图像,比如获取40个男性的心脏核磁共振图像,以及获取40个女性的心脏核磁共振图像,且这些用户的年龄范围尽量广,比如年龄范围涵盖23-93岁,以确保训练出的图像处理模型可以面向各年龄层的用户。此外,为确保训练具有良好的效果,每个用户的心脏核磁共振图像的尺寸不能太小,且每个用户的心脏核磁共振图像可以是断面连续的多张图像;比如,每个用户的心脏核磁共振图像包括6-10层图像,层间距2~4mm,每层厚6~8mm,每层包含20-28张断面连续的心脏核磁共振图像,且每张心脏核磁共振图像为256×256尺寸的图像。
获得各用户的心脏核磁共振图像后,电子设备可以对每张心脏核磁共振图像进行预处理。示例的,为减少数据量,电子设备可以从每张心脏磁共振图像中提取出左心室图像,比如,电子设备可以采用霍夫圆变换法,确定出每张心脏核磁共振图像中左心室的中心位置,再以每张心脏核磁共振图像确定出的中心位置为左心室图像的中心,从每张心脏核磁共振图像中提取出尺寸为128×128的左心室图像,从而获得各用户的左心室图像。
获得每个用户的左心室图像后,为便于图像处理模型的处理,电子设备可以利用预设的归一化函数对每张左心室图像进行归一化处理,其中,归一化函数如下式(1)所示。
式(1)中,xi表示左心室图像中第i个像素点值,min(x)、max(x)分别表示该左心室图像中像素点的最小值和最大值。
通过归一化处理,电子设备将每张左心室图像中的像素值取值范围从[0,255]转换为[0,1],以便于图像处理模型的处理。
获得归一化后的各左心室图像后,用户可以为每张左心室图像中的像素点打标签,将每张左心室图像中属于左心肌的像素点标定为1,并将每张左心室图像中属于背景的像素点标定为0,从而电子设备可以获得每张左心室图像的标签集。
最后,电子设备再将归一化后的各左心室图像分割为训练图像集、测试图像集以及验证图像集,以便对图像处理模型进行不同阶段的训练,从而完成了图像处理模型训练的准备工作。
在实际应用时:
电子设备在获取需要处理的图像后,也先对该图像进行预处理,获得符合图像处理模型处理条件的图像。
具体的,电子设备在获取用户的心脏磁共振图像后,也先从该心脏磁共振图像提取出左心室图像,比如,电子设备也采用霍夫圆变换法,确定出心脏核磁共振图像中左心室的中心位置,再以该中心位置为左心室图像的中心,从该心脏核磁共振图像中提取出尺寸为128×128的左心室图像。然后,电子设备也对该左心室图像进行归一化处理,从而获得归一化后的左心室图像,而该归一化后的左心室图像(为便于简述,下文将“归一化后的左心室图像”统称为“左心室图像”)直接可以输入图像处理模型进行处理。
可以理解到,实际应用较于训练的不同在于,实际应用无需为左心室图像中的各像素点打标签。
进一步的,在获得用于训练的训练图像集、测试图像集以及验证图像集后,电子设备将该训练图像集、测试图像集以及验证图像集中的各左心室图像输入到图像处理模型中处理,以实现对图像处理模型的训练。在获得用于实际应用的左心室图像后,电子设备将该左心室图像输入到图像处理模型处理,以提取出左心室的图形。而无论是训练还是实际应用,图像处理模型处理每张左心室图像的逻辑都大致相同,故为便于理解,下面以图像处理模型利用处理某一张左心室图像为例进行说明。
如图2所示,本实施例中,图像处理模型10可以包括:输入层11、下采样层12、上采样层13以及激活层14。
其中,输入层11,用于获得电子设备输入的左心室图像,并将左心室图像传递到下采样层12。
下采样层12,用于对该左心室图像依次进行N次下采样处理,获得该图像的特征数据,然后将该图像的特征数据输入到上采样层13。
上采样层13,用于通过对该图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据,并将该上采样处理后的特征数据输入到激活层14。
激活层14,则用于对上采样处理后的特征数据进行激活处理,以提取出左心室图像中左心室的图形。
换言之,图像处理模型10通过输入层11、下采样层12、上采样层13以及激活层14的配合,以实现对上述流程的执行。
下面对下采样层12、上采样层13以及激活层14的处理进行详细说明:
下采样层12:
在下采样层12中,其包含依次串联的N个下采样单元,每个下采样单元用于执行一次下采样处理。由于下采样层12中每一次下采样处理的逻辑都大致相同,故本实施例以第x个下采样单元执行第x次下采样处理为例来进行说明,以便于理解。
本实施例中,若第x次下采样处理是第一次下采样处理,那么本次下采样处理的是左心室图像。在第x次下采样处理的过程中,第x个下采样单元可以先对该左心室图像进行卷积处理,比如依次进行3*3的卷积、ReLu激活函数的激活以及3*3的卷积处理,从而获得卷积特征。
若第x次下采样处理不是第一次下采样处理,那么本次下采样处理的是输入的上一次下采样处理所得的特征数据,即第x-1次下采样处理所得的特征数据。在第x次下采样处理的过程中,第x个下采样单元则也先对该上一次下采样处理所得的特征数据进行卷积处理,比如也依次进行3*3的卷积、ReLu激活函数的激活以及3*3的卷积处理,从而也获得卷积特征。
本实施例中,获得卷积特征后,第x个下采样单元中的a单元则可以按照卷积特征中各通道的重要程度对应调整该卷积特征,获得调整后的卷积特征,并使得该调整后的卷积特征中重要程度高的通道的特征被突出,而重要程度低的通道的特征则被抑制。
如图3所示,作为调整该卷积特征示例性方式:
由于是一个C*W*H的三维特征,其中,C为卷积特征通道数。那么每个通道的特征都是尺度为W*H的二维特征。由于每个通道的二维特征难以体现该通道的重要程度,故第x个下采样单元可以通过压缩函数Fsq(.),将该卷积特征中每个通道的二维特征压缩成一维特征,使得卷积特征的结构变成1*1*C。
然后,第x个下采样单元可以利用每个通道的一维特征确定出该通道的权重,其中,每个通道的权重用于表示该通道的重要程度,每个通道的权重越大则该通道的重要程度也越高。比如,对每个通道的一维特征依次经过全连接层的全连接处理,以及激活函数例如sigmoid函数的激活处理,便可以获得该通道的权重。
最后,第x个下采样单元通过将每个通道的权重加权乘到与该通道的二维特征上,便获得每个通道调整后的二维特征,而各通道调整后的二维特征则构成了该调整后的卷积特征。
本实施例中,在获得该调整后的卷积特征后,一方面,第x个下采样单元可以对调整后的卷积特征进行池化,比如进行2*2的池化处理,以获得第x次下采样处理的特征数据。另一方面,第x个下采样单元中的残差处理单元(残差处理单元即为图中的b单元)也可以在池化处理前,先对调整后的卷积特征进行残差处理,以避免处理过程中出现梯度消失以及过拟合的问题。
比如图4所示,作为残差处理的示例性方式,可以对调整后的卷积特征进行卷积处理,比如进行连续两次的卷积层的步长为1且填充为1的卷积处理,获得卷积后的特征。然后,将卷积后的特征与调整后的卷积特征进行融合,获得融合后的特征。
这样,通过对融合后的特征进行池化,获得的第x次下采样处理的特征数据则可以避免梯度消失以及过拟合问题。
获得第x次下采样处理的特征数据后,若第x次下采样处理不是最后一次下采样处理,第x个下采样单元则将第x次下采样处理的特征数据输入到第x+1个下采样单元以用于第x+1次下采样处理;若第x次下采样处理是最后一次下采样处理,则第x次下采样处理的特征数据为下采样处理最终获得的图像的特征数据,第x个下采样单元并将其输出到上采样层13。
上采样层13:
在上采样层13中,其包含依次串联的M个上采样单元,每个上采样单元用于执行一次上采样处理。由于上采样层13中每一次上采样处理的逻辑都大致相同,故本实施例则以第y个上采样单元执行第y次上采样处理为例来进行说明,以便于理解。
本实施例中,若第y次上采样处理是第一次上采样处理,那么本次上采样处理的是图像的特征数据。因此,在第y次下采样处理的过程中,第y个上采样单元可以先对该图像的特征数据依次进行卷积以及反卷积处理,比如依次进行3*3的卷积以及3*3的反卷积处理,从而获得第y次下采样处理所得的特征数据。
若第y次上采样处理不是第一次上采样处理,为提高处理的效果,本次上采样处理可以是将第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据融合,获得融合的特征数据,然后第y个上采样单元再对融合的特征数据依次进行卷积以及反卷积处理,比如依次进行3*3的卷积以及3*3的反卷积处理,从而获得第y次上采样处理所得的特征数据。其中,为确保数据能够正确的融合,第y-1上下采样处理所得的特征数据需要与对应的一次下采样处理所得的特征数据的尺度相同,即若第y-1次上采样处理所得的特征数据为16*16*256的数据,那么对应的一次下采样处理所得的特征数据也为16*16*256的数据。
本实施例中,也为避免在上采样处理中出现梯度消失以及过拟合的问题,在第y-1次上采样处理的卷积以及反卷积处理之间,还可以对数据依次进行两次残差处理,即由第y个上采样单元中的两个残差处理单元(残差处理单元即为图中的b单元)来依次进行两次残差处理,每个残差处理单元执行一次残差处理。
示例性的,依次进行卷积、两次残差以及反卷积的处理过程可以包括:
若第y次上采样处理是第一次上采样处理,则对图像的特征数据进行第一次卷积处理,获得第一卷积特征。而若第y次上采样处理不是第一次上采样处理,则对融合的特征数据进行第一次卷积处理,获得第一卷积特征。
在获得第一卷积特征后,则进行第一次残差处理,即对第一卷积特征进行卷积处理,比如进行连续两次的卷积层的步长为1且填充为1的卷积处理,获得第二卷积特征,并将第二卷积特征与所述第一卷积特征融合,获得第一融合特征。
在获得第一融合特征后,则进行第二次残差处理,即对第一融合特征进行卷积处理,比如进行连续两次的卷积层的步长为1且填充为1的卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征。
而在获得第二融合特征后,则对第二融合特征进行反卷积处理,从而获得第y次下采样处理所得的特征数据。
本实施例中,在获得第y次上采样处理的特征数据后,若第y次上采样处理不是最后一次上采样处理,则将第y次上采样处理的特征数据用于第y+1次上采样处理;若第y次上采样处理处理是最后一次上采样处理,则第y次上采样处理的特征数据为上采样处理最终获得的特征数据,并将其输出到激活层。
激活层14:
在激活层14中,可以先对上采样处理后的特征数据进行卷积处理,比如进行3*3的卷积处理,从而获得卷积特征。然后再对该卷积特征进行连续两次的残差处理,获得残差处理后的卷积特征,其中,残差处理的具体流程可以参阅前述,在此就不再累述。最后,在通过1*1的卷积以及激活函数对该残差处理后的卷积特征进行激活处理,便可以获得左心肌图像中每个像素点位于0-1之间的分数。
进一步的,若素点的分数大于等于0.5,则将该像素点确定为属于左心肌的像素点,若像素点的分数小于0.5,则将该像素点确定为属于背景的像素点。而通过像素点的二分类,则可以确定出左心肌图像中属于左心肌的所有像素点,那么将该所有像素点构成的图形提取出则实现了将左心肌图形提取出。
在实际应用中,若提取出左心肌图形后,流程便可以结束。
而在模型训练中,在获得左心肌图像中每个像素点的分数后,还需要利用每个像素点的分数,与该左心肌图像的标签集中该像素点的标签之间差异,对图像处理模型10进行优化。即可以确定出该左心肌图像中每个像素点的分数与该像素点的标签之间的Loss,并将该左心肌图像中每个像素点的Loss输入到Dice系数损失函数中,以通过反向传播去优化调整图像处理模型10中全连接层以及激活函数中的参数,从而实现对图像处理模型10的优化调整,使得图像处理模型10输出的每个像素点的分数越来越逼近该像素点的标签。
请参阅图5A到5C,图5A到5C示出了左心肌图像在实际处理中的情况,其中,图5A为左心肌图像的原图像,图5B为左心肌图像中每个像素点被打上标签后形成的二值图像,图5C则为经图像处理模型10处理后提取出的左心肌图形。
请参阅图6,基于同一发明构思,本实施例提供了一种电子设备20,电子设备20可以包括:通信接口21,通信接口21是软件形态的逻辑接口或者物理形态的硬件接口、用于执行程序指令的一个或多个处理器22、总线23、和不同形式的存储器24,例如,磁盘、ROM、或RAM,或其任意组合。存储器24用于存储程序,处理器22用于调用并运行存储器24中的程序,对通过通信接口21接口获取到的图像执行前述的磁共振左心室图像分割的处理方法。
需要说明的是,由于所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请一些实施例还提供了一种计算机可执行的非易失的程序代码的计算机可读储存介质,该存储介质能够为通用的存储介质,如移动磁盘、硬盘等,该计算机可读存储介质上存储有程序代码,该程序代码被计算机运行时执行上述任一实施方式的磁共振左心室图像分割的处理方法的步骤。
本申请实施例所提供的磁共振左心室图像分割的处理方法的程序代码产品,包括存储了程序代码的计算机可读存储介质,程序代码包括的指令可用于执行前面方法实施例中的方法,具体实现可参见方法实施例,在此不再赘述。
综上所述,本申请实施例提供了一种磁共振左心室图像分割的处理方法、模型及训练方法。在卷积获得卷积特征后,通过按卷积特征中各通道的重要程度对应调整该卷积特征,使得调整后的卷积特征中重要程度高的通道的特征能够被突出,而重要程度低的通道的特征则能够被抑制。以便通过上采样处理该调整后的卷积特征,能够更准确的从图像中提取出对象。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
再者,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种磁共振左心室图像分割的处理方法,其特征在于,所述方法包括:
获得包含有对象的图像;
对所述图像依次进行N次下采样处理,获得所述图像的特征数据,其中,第x次下采样处理包括:对输入数据进行卷积以获得卷积特征,按所述卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征;再对所述调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,其中,x=1时,所述输入数据为所述图像,x≠1时,所述输入数据为第x-1次下采样处理所得的特征数据,N为正整数,x取1到N;
通过对所述图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据,M为正整数;
对所述上采样处理后的特征数据进行激活处理,以提取出所述对象。
2.根据权利要求1所述的磁共振左心室图像分割的处理方法,其特征在于,按所述卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征,包括:
将所述卷积特征中每个通道的二维特征压缩成一维特征;
确定出每个通道的一维特征的权重,其中,每个通道的权重用于表示该通道的重要程度,每个通道的权重越大则该通道的重要程度也越高;
通过将每个通道的权重加权到与该通道的二维特征,以获得所述调整后的卷积特征。
3.根据权利要求2所述的磁共振左心室图像分割的处理方法,其特征在于,确定出每个通道的一维特征的权重,包括:
对每个通道的一维特征依次进行全连接以及激活处理,获得该通道的权重。
4.根据权利要求2所述的磁共振左心室图像分割的处理方法,其特征在于,对所述调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,包括:
对所述调整后的卷积特征进行卷积处理,获得卷积后的特征;
将所述卷积后的特征与所述调整后的卷积特征融合,获得融合后的特征;
对所述融合后的特征进行池化处理,获得第x次下采样处理的特征数据。
5.根据权利要求1所述的磁共振左心室图像分割的处理方法,其特征在于,y取1到M,第y次上采样处理的步骤包括:
若y=1,对所述图像的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据;
若y≠1,将第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据融合,获得融合的特征数据,对所述融合的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据,其中,第y-1次上采样处理所得的特征数据与对应的一次下采样处理所得的特征数据的尺度相同。
6.根据权利要求5所述的磁共振左心室图像分割的处理方法,其特征在于,若y=1,对所述图像的特征数据依次进行卷积以及反卷积处理,获得第y次上采样处理所得的特征数据,包括:
对所述图像的特征数据进行第一次卷积处理,获得第一卷积特征;
对所述第一卷积特征进行卷积处理,获得第二卷积特征,并将所述第二卷积特征与所述第一卷积特征融合,获得第一融合特征;
对所述第一融合特征进行卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征;
对所述第二融合特征进行反卷积处理,获得第y次下采样处理所得的特征数据;
或者,若y≠1,对所述融合的特征数据依次进行卷积以及反卷积处理,获得第y次下采样处理所得的特征数据,包括:
对所述融合的特征数据进行卷积处理,获得第一卷积特征;
对所述第一卷积特征进行卷积处理,获得第二卷积特征,并将所述第二卷积特征与所述第一卷积特征融合,获得第一融合特征;
对所述第一融合特征进行卷积处理,获得第三卷积特征,并将所述第三卷积特征与所述第一融合特征融合,获得第二融合特征;
对所述第二融合特征进行反卷积处理,获得第y次下采样处理所得的特征数据。
7.根据权利要求1所述的磁共振左心室图像分割的处理方法,其特征在于,获得包含有对象的图像,包括:
获得心脏磁共振图像;
从所述心脏磁共振图像中提取出左心室图像;
对所述部分图像做归一化处,获得归一化后的左心室图像,其中,所述对象为左心室。
8.一种磁共振左心室图像分割的处理模型,其特征在于,所述模型包括:
输入层,用于获得包含有对象的图像;
下采样层,用于对所述图像依次进行N次下采样处理,获得所述图像的特征数据,其中,第x次下采样处理包括:对输入数据进行卷积以获得卷积特征,按所述卷积特征中各通道的重要程度对应调整所述卷积特征,获得调整后的卷积特征;再对所述调整后的卷积特征进行池化,获得第x次下采样处理的特征数据,若x=1,所述输入数据为所述图像,若x≠1,所述输入数据为第x-1次下采样处理所得的特征数据,N为正整数,x取1到N;
上采样层,用于通过对所述图像的特征数据依次进行M次上采样处理,获得上采样处理后的特征数据,M为正整数;
激活层,用于对所述上采样处理后的特征数据进行激活处理,以提取出所述对象。
9.一种模型的训练方法,其特征在于,所述方法包括:
获得训练图像集;
利用所述训练图像集对权利要求8所述的模型进行训练。
10.一种具有计算机可执行的非易失程序代码的计算机可读存储介质,其特征在于,所述程序代码使所述计算机行如权利要求1-7中任一权项所述的磁共振左心室图像分割的处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010289260.0A CN111402274B (zh) | 2020-04-14 | 2020-04-14 | 一种磁共振左心室图像分割的处理方法、模型及训练方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010289260.0A CN111402274B (zh) | 2020-04-14 | 2020-04-14 | 一种磁共振左心室图像分割的处理方法、模型及训练方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111402274A true CN111402274A (zh) | 2020-07-10 |
CN111402274B CN111402274B (zh) | 2023-05-26 |
Family
ID=71431539
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010289260.0A Active CN111402274B (zh) | 2020-04-14 | 2020-04-14 | 一种磁共振左心室图像分割的处理方法、模型及训练方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111402274B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112766377A (zh) * | 2021-01-20 | 2021-05-07 | 中国人民解放军总医院 | 左心室磁共振影像智能分类方法、装置、设备和介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018166438A1 (zh) * | 2017-03-13 | 2018-09-20 | 北京市商汤科技开发有限公司 | 图像处理方法、装置及电子设备 |
CN109285157A (zh) * | 2018-07-24 | 2019-01-29 | 深圳先进技术研究院 | 左心室心肌分割方法、装置及计算机可读存储介质 |
CN110059582A (zh) * | 2019-03-28 | 2019-07-26 | 东南大学 | 基于多尺度注意力卷积神经网络的驾驶员行为识别方法 |
-
2020
- 2020-04-14 CN CN202010289260.0A patent/CN111402274B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018166438A1 (zh) * | 2017-03-13 | 2018-09-20 | 北京市商汤科技开发有限公司 | 图像处理方法、装置及电子设备 |
CN109285157A (zh) * | 2018-07-24 | 2019-01-29 | 深圳先进技术研究院 | 左心室心肌分割方法、装置及计算机可读存储介质 |
CN110059582A (zh) * | 2019-03-28 | 2019-07-26 | 东南大学 | 基于多尺度注意力卷积神经网络的驾驶员行为识别方法 |
Non-Patent Citations (1)
Title |
---|
侯金成;袁旭春;胡国迎;周红;胡国栋;: "基于全卷积神经网络的心脏CT影像的左心室分割研究" * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112766377A (zh) * | 2021-01-20 | 2021-05-07 | 中国人民解放军总医院 | 左心室磁共振影像智能分类方法、装置、设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111402274B (zh) | 2023-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109166130B (zh) | 一种图像处理方法及图像处理装置 | |
CN108509915B (zh) | 人脸识别模型的生成方法和装置 | |
CN110598714B (zh) | 一种软骨图像分割方法、装置、可读存储介质及终端设备 | |
CN110211205B (zh) | 图像处理方法、装置、设备和存储介质 | |
CN106650568B (zh) | 一种人脸识别方法及装置 | |
CN110674824A (zh) | 基于R2U-Net的手指静脉分割方法、装置和存储介质 | |
CN113221771A (zh) | 活体人脸识别方法、装置、设备、存储介质及程序产品 | |
CN112602114A (zh) | 图像处理方法及装置、神经网络及训练方法、存储介质 | |
CN114445904A (zh) | 基于全卷积神经网络的虹膜分割方法和装置、介质和设备 | |
CN110570394A (zh) | 医学图像分割方法、装置、设备及存储介质 | |
CN117495876B (zh) | 基于深度学习的冠状动脉图像分割方法及系统 | |
CN111611968B (zh) | 一种遥感图像的处理方法以及遥感图像处理模型 | |
CN115100494A (zh) | 一种病灶图像的识别方法、装置、设备及可读存储介质 | |
CN111402274B (zh) | 一种磁共振左心室图像分割的处理方法、模型及训练方法 | |
CN114049491A (zh) | 指纹分割模型训练、指纹分割方法、装置、设备及介质 | |
CN114049290A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN113327320A (zh) | 三维模型重建方法、装置、设备及计算机可读存储介质 | |
CN116704206A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN111369564A (zh) | 一种图像处理的方法、模型训练的方法及装置 | |
CN113379770B (zh) | 鼻咽癌mr图像分割网络的构建方法、图像分割方法及装置 | |
CN113177938B (zh) | 基于圆形卷积核的脑胶质瘤的分割方法、装置及相关组件 | |
CN114792370A (zh) | 一种全肺图像分割方法、装置、电子设备及存储介质 | |
CN110634119B (zh) | 分割磁敏感加权图像中静脉血管的方法、装置和计算设备 | |
CN116071372B (zh) | 膝关节分割方法、装置、电子设备及存储介质 | |
CN113469172B (zh) | 目标定位、模型训练、界面交互方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |