CN114581628A - 大脑皮层表面重建方法和可读存储介质 - Google Patents
大脑皮层表面重建方法和可读存储介质 Download PDFInfo
- Publication number
- CN114581628A CN114581628A CN202210218623.0A CN202210218623A CN114581628A CN 114581628 A CN114581628 A CN 114581628A CN 202210218623 A CN202210218623 A CN 202210218623A CN 114581628 A CN114581628 A CN 114581628A
- Authority
- CN
- China
- Prior art keywords
- image
- brain
- level set
- layer
- representation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Geometry (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Computer Graphics (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
本发明公开了一种大脑皮层表面重建方法和可读存储介质,属于医学图像处理领域。该大脑皮层表面重建方法包括以下步骤:将医学影像图像进行数据预处理,以获得标准化图像;将该标准化图像输入分割模型中分割与灰质相邻的大脑解剖结构,以获得区分后的大脑解剖结构分割图像;将区分后的大脑解剖结构分割图像和该标准化图像输入表面水平集预测模型,获得大脑解剖结构与灰质之间的分界面的水平集表示图像;将大脑解剖结构与灰质之间的分界面的水平集表示图像输入拓扑修复模块和多边形网格表示重建模块,以获得大脑解剖结构与灰质之间的分界面的多边形网格表示。
Description
技术领域
本发明涉及医学图像处理领域,特别涉及一种大脑皮层表面重建方法和可读存储介质。
背景技术
近年来,由于基于磁共振成像(MRI)的大脑皮层表面重建技术有助于神经科学的研究和神经退行性疾病的临床诊断,使得使用重建后的大脑皮层表面可以完成大脑皮层分析的可视化和皮层形态测量,还可以在功能性磁共振成像应用中能够实现基于皮层表面的分析方法,例如脑功能性网络的分析方法等等。
而现有大脑皮层表面重建技术虽然能够重建出较为可靠的大脑皮层表面,但是为了使重建的大脑皮层表面能够达到较高精度,需要进行大量的计算,使得它的处理时间高达数个小时。此外,对于一些特殊情况(例如脑卒中病人或肿瘤病人等),由于重建流程中的分割图像中得到的图像具有大量的拓扑缺陷,而导致无法完成表面重建。
因此,确有必要提供一种新的大脑皮层表面重建方法和可读存储介质。
发明内容
为了解决现有技术中存在的上述问题和缺陷的至少一个方面,本发明提供了一种大脑皮层表面重建方法和可读存储介质,能够至少部分地实现通过表面水平集预测模型快速地完成将输入的图像转换为水平集表示图像作为输出的变换,从而减少了大脑皮层表面重建过程中的大量计算,由此缩短了大脑皮层表面重建流程的处理时间,从而实现在科研和临床上的快速应用。所述技术方法如下:
根据本发明的一个方面,提供了一种大脑皮层表面重建方法,所述大脑皮层表面重建方法包括以下步骤:
步骤S1将医学影像图像进行数据预处理,以获得标准化图像;
步骤S2将所述标准化图像输入分割模型中分割与灰质相邻的大脑解剖结构,以获得区分后的大脑解剖结构分割图像;
步骤S3将区分后的大脑解剖结构分割图像和所述标准化图像输入表面水平集预测模型,获得大脑解剖结构与灰质之间的分界面的水平集表示图像;
步骤S4将大脑解剖结构与灰质之间的分界面的水平集表示图像输入拓扑修复模块和多边形网格表示重建模块,以获得大脑解剖结构与灰质之间的分界面的多边形网格表示。
根据本发明的另一方面,提供了一种可存储介质,其中,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时以执行上述的大脑皮层表面重建方法。
根据本发明实施例的大脑皮层表面重建方法和可读存储介质具有以下优点中的至少一个:
(1)本发明提供的大脑皮层表面重建方法和可读存储介质能够通过表面水平集预测模型快速地完成将输入图像转换为大脑皮层表面水平集表示图像输出,从而减少了大脑皮层表面重建过程中的大量计算,由此缩短了大脑皮层表面重建流程的处理时间,从而实现在科研和临床上的快速应用;
(2)本发明提供的大脑皮层表面重建方法和可读存储介质由于为基于水平集表示图像进行拓扑修复,使得大大提高了大脑皮层表面重建的速度;
(3)本发明提供的大脑皮层表面重建方法和可读存储介质通过表面水平集预测模型的设计提升了大脑皮层表面重建的泛化性能,对于一些特殊情况(例如脑卒中病人或肿瘤病人等)也能够完成大脑皮层表面的重建;
(4)本发明提供的大脑皮层表面重建方法和可读存储介质能够基于水平集表示图像进行拓扑修复,加快了拓扑修复的速度,进一步显著缩短了整个大脑皮质表面重建流程的处理时间。
附图说明
本发明的这些和/或其他方面和优点从下面结合附图对优选实施例的描述中将变得明显和容易理解,其中:
图1是根据本发明一个实施例的大脑皮层表面重建方法的流程图;
图2是图1所示的表面水平集预测模型的结构示意图;
图3是图1所示的大脑皮层表面重建方法与现有的重建方法分别重建的大脑皮层表面上的网格的网格质量对比图。
具体实施方式
下面通过实施例,并结合附图,对本发明的技术方案作进一步具体的说明。在说明书中,相同或相似的附图标号指示相同或相似的部件。下述参照附图对本发明实施方式的说明旨在对本发明的总体发明构思进行解释,而不应当理解为对本发明的一种限制。
近年来,由于现有的大脑皮层表面重建技术中组合使用了多项传统的图像处理算法,例如在处理流程中的多个阶段采用了较为耗时的图像灰度调整算法,用以保证同种组织内像素值的均匀性和一致性。使得整个处理流程计算量大、处理时间较长,通常能够长达数个小时。同时,由于各功能部分之间具有较强的串行依赖关系,造成了重建过程中较为复杂的计算流程。
此外,对于一些特殊情况,例如脑卒中患者或肿瘤患者等,由于其大脑损伤引起了大脑皮层表面扭曲,使得其图像与正常情况的图像差异较大,造成了在现有重建技术过程中,对大脑白质的分割过程变得非常不稳定,使得重建得到的白质表面(white surface)包含了太多的拓扑缺陷。又由于拓扑修复的处理时间与拓扑缺陷数量正相关,使得拓扑缺陷修复处理常常超时,造成无法完成大脑皮层表面重建的情况。
由此,我们提出了一种基于深度学习的大脑皮层表面重建方法和可读存储介质。本文中所使用的术语“大脑皮层表面重建”应当广义地理解为从磁共振图像经过重建得到的大脑的白质与灰质之间的分界面(即白质表面,white surface)和/或灰质与脑脊液之间的分界面(即软脑膜表面,pial surface)的一种方法。通过大脑皮层表面重建技术获得图像采用了多边形网格表示,这样的表示方式是展现大脑皮层结构分区、功能分区等分析结果的载体。
本文中所使用的术语“多边形网格表示”,即mesh表示,应当被广义地理解为在三维空间中,通过一系列顶点和一组轮廓线连接构成的曲面并彼此组合以表示三维曲面的一种表示方式。通常包括三角形网格、四边形网格或者其他凸多边形网格。
本文中所使用的术语“有符号距离”应当被广义地理解为在空间中的一个有限区域上,确定一个点到该有限区域边界的距离并同时对该距离的符号进行定义,当点在区域边界内部时符号为正,当点在区域边界外部时符号为负,当点位于区域边界上时为0。
本文中所使用的术语“水平集表示”是一种表面(surface)的表示方式,也被称为surface的隐式表示(implicit representation),应当被广义地理解为通过使用体素格式的数据来表示表面的一种表示方式,在水平集中每个体素的值表示当前体素的位置距离表面的距离,而体素的值的正负分别表示位于表面的内外,被表示的表面的位置位于水平集的零等值面处。
参见图1,示出了根据本发明一个实施例的大脑皮层表面重建方法。该大脑皮层表面重建方法包括以下步骤:
步骤S1将医学影像图像(例如个体解剖结构的磁共振图像)进行数据预处理,以获得标准化图像;
步骤S2将所述标准化图像输入分割模型中分割与灰质相邻的大脑解剖结构,以获得区分后的大脑解剖结构分割图像;
步骤S3将区分后的大脑解剖结构分割图像和所述标准化图像输入表面水平集预测模型,获得大脑解剖结构与灰质之间的分界面的水平集表示图像;
步骤S4将大脑解剖结构与灰质之间的分界面的水平集表示图像输入拓扑修复模块和多边形网格表示曲面重建模块,以获得大脑解剖结构与灰质之间的分界面的多边形网格表示。
在一个示例中,大脑解剖结构为大脑的白质和/或大脑的脑脊液。大脑解剖结构与灰质之间的分界面为大脑的白质与灰质之间的分界面(即大脑灰质的内表面)和/或灰质与脑脊液之间的分界面(即大脑灰质的外表面)。
在一个示例中,步骤S1进一步包括以下步骤:
步骤S11将同一患者的同一类型的多个医学影像图像合并为一个医学影像图像,由此获得了来自多个同一患者的合并后的至少一类医学影像图像。通过将同一患者的同一类型的多个医学影像图像进行合并的操作降低了医学影像图像中的噪声,提高了图像中的信噪比。
在一个示例中,医学影像图像的类型包括磁共振的T1加权成像(T1 weightedimaging,T1WI)图像、T2加权成像(T2 weighted imaging,T2WI)图像、弥散加权成像(Diffusion Weighted Imaging,DWI)图像以及弥散张量成像(Diffusion TensorImaging,DTI)图像等等。
在一个示例中,至少一类医学影像图像包括T1WI图像、T2WI图像、DWI图像以及DTI图像中的任意一种或者它们的任意组合。
在一个示例中,由于T1WI图像具有对比高、形变小等特点,使得图像易于分割、配准,因此优选为T1WI图像。
在一个示例中,由于T2加权成像(T2 weighted imaging,T2WI)图像能够凸显不同的脑组织,因此优选地,医学影像图像为T2WI图像。
步骤S12将合并后的T1WI图像重采样以获得具有相同分辨率和相同体素大小的图像。
在一个示例中,合并后的T1WI图像通过重采样得到了分辨率为例如256×256×256、体素大小为例如1mm×1mm×1mm的图像。
步骤S13将重采样后的图像进行体素强度标准化处理,使得数据集中所有的图像的体素强度值被标准化到同一范围(例如范围为[0,255])内,由此获得了标准化后图像。通过图像重采样和体素强度标准化,使得在深度学习模型中的输入较为稳定。
在一个示例中,在数据预处理过程中,还可以对图像进行水平和垂直翻转、不同角度的旋转、随机缩放和随机错切变换来获得增强型数据集,由此得到了大量的数据(例如可以获得扩大为原数据的2~15倍的数据),使得可以在训练模型的过程中,具有更多的训练数据,提高了模型的泛化能力,同时降低了数据的过拟合。
结合图1和图2所示,在步骤S2中,将经过数据预处理后的标准化图像进行大脑解剖结构(例如大脑白质)图像分割。下面将以大脑白质图像分割方法作为示例性说明,大脑脑脊液图像分割的方法和原理与大脑白质图像分割的方法和原理完全相同,在此不再一一赘述。
在一个示例中,将标准化图像输入至分割模型中,获得区分后的大脑白质分割图像。所述分割模型为通过深度学习的方式训练获得的。在一个示例中,分割模型通过以例如nnU-net网络为模型框架训练获得。
在一个示例中,分割模型包括编码路径、解码路径和第二跳跃连接。编码路径为下采样过程,其包括多个第一卷积块,每个第一卷积块包括两个第三卷积层和一个用于下采样的第二池化层组成。在一个示例中,多个第一卷积块可以设置为2个、3个或者更多个卷积块。
在一个示例中,第三卷积层可以设置为1个、3个或者更多个。在一个示例中,第三卷积层中的每一个卷积层的卷积核均采用3×3×3的卷积核。在一个示例中,第二池化层为最大池化层,采用2×2×2的池化核。在一个示例中,还可以在每一个第三卷积层后面均连接一个归一化层和一个激活单元(例如,采用ReLU激活函数)。
在一个示例中,解码路径为上采样过程,包括多个第二卷积块,每个第二卷积块包括两个第四卷积层和用于上采样的第二反卷积层。在一个示例中,每一个反卷积层的卷积核尺寸设计为2×2×2。在一个示例中,还可以在每一个第四卷积层后面均连接一个归一化层和一个激活单元(例如,采用ReLU激活函数)。也就是说,编码路径的结构与解码路径的结构是大体上相同或相似的,不同之处在于,编码路径中采用的是最大池化层进行下采样,而解码路径中采用的是反卷积层进行上采样。
在一个示例中,在同一层次的编码路径与解码路径之间通过第二跳线进行第二跳跃连接,由此可以将下采样特征图与其同一层次的上采样特征图进行拼接并作为下一层的输入。通过这样的设计避免了图像中细节信息的丢失,提高了分割精度。在解码路径的最后一层,通过采用1×1×1的卷积核的卷积层将特征图映射到整个网络的输出层,并通过softmax激活,输出所预测的图像的每一个体素点的分类概率,即背景体素、右脑脑白质体素和左脑脑白质体素的分类概率,并以此判断并获得对应的分类类别。
在一个示例中,当所提取的特征的体素值(即体素点的体素值)被预测为接近于0的概率最大时,则预测该体素点的类别为背景体素;当所提取的特征的体素值被预测为接近于127的概率最大时,则预测该体素点的类别为右脑脑白质体素;当所提取的特征的体素值接被预测为接近于255的概率最大时,则预测该体素点的类别为左脑脑白质体素。
在一个示例中,以大脑解剖结构分割图像将已分割的大脑皮层图像作为白质分割标签进行有监督学习,以获得所述分割模型。在一个示例中,还可以对标签进行向量化,例如通过one-hot编码或者将标签列表转换为整数张量。
在一个示例中,模型训练时使用分类交叉熵函数作为损失函数来衡量模型输出的概率分布与标签的真实分布之间的误差,当验证集上的误差不再下降时,则判定分割模型收敛,停止迭代。
在一个示例中,在标注所述白质分割时,对脑室进行了填充,使得分割结果更接近指示左右大脑半球的掩膜(mask),以避免了后续大脑皮层表面重建过程中脑室对大脑皮层的影响,例如可以将不属于大脑皮层的灰质、脑室进行填充,使得在图像分割时仅需关注大脑皮层,避免了在重建时可能会被重建为独立结果而影响大脑皮层表面重建后的拓扑结构。
在一个示例中,在标注所述白质分割标签的同时,通过不同的体素值对填充后的标准化图像的左脑脑白质和右脑脑白质进行标识,以便于分割模型输出的图像中能够对左右脑区进行识别和区分。
在一个示例中,已分割的大脑皮层图像为分割后的大脑白质图像。所述已分割的大脑皮层图像可以通过例如采用现有的分割软件包进行图像分割,还可以通过现有的图像分割方法进行分割。在一个示例中,可以采用阈值分割法(例如全局阈值法)、形态学运算(例如开运算、闭运算)等方法实现图像分割。
在研究中发现,由于对于一些具有特殊情况的患者(例如,脑卒中患者或肿瘤患者等),其图像与正常情况下的图像差异较大,使得在大脑皮层在重建过程中得到了不稳定的分割图像,由此使得后续的重建步骤得到的图像具有太多的拓扑缺陷,进而无法完成大脑皮层的重建。
为了解决上述问题,在步骤S3中,我们将采用通过深度学习获得的大脑皮层表面重建模型来缩短重建时间。在深度学习模型设计中发现:现有的重建方法获得的图像表示方式均采用多边形网格表示。在一个示例中,多边形网格表示的曲面包括三角形网格(Triangle mesh)表示的曲面,其由一组三维的点组成三角面的顶点,由此整个曲面为多个三角面和多个三维顶点组成。
为了加快大脑皮层表面重建流程,我们需要设计一个输出为多边形网格表示的模型。在一个示例中,我们采用有监督训练,由此我们需要将大脑皮层表面真实的多边形网格表示作为标签输入至神经网络(即模型)中。当在训练模型的过程中,我们发现由于多边形网格表示的曲面上的这些顶点和多边面(例如三角面、四边面)的数量会根据不同的图像而不同,使得数据大小也往往不一致。而且,该类型的数据还无法通过例如重采样的方式将其转换为大小一致的数据。这样造成了多边形网格表示的数据不能够采用统一的模型来处理,在使用过程中,必须针对每一个数据建立一个新的优化模型,并对其迭代优化求解,反而大大增加了大脑皮层表面重建流程的处理时间。
为了便于处理大量图像数据,缩短大脑皮层表面重建流程的处理时间,我们需要采用统一的数据表示作为模型的输入,这样易于建立一个通用的模型。当新数据到来时,只需要使用该通用模型进行预测,不再需要建立优化过程。
同时,在训练过程中发现,我们还发现当分割后的图像为具有特殊情况的患者的图像时,同样出现了大量的拓扑缺陷。经过潜心研究,我们最终发现,当先将图像转换为水平集表示的图像之后,再进行拓扑修复,最后将拓扑修复后的水平集表示图像再转换为多边形网格表示曲面,由此获得的多边形网格不再具有无法消除的拓扑缺陷,且经过上述的转换,大大减少了图像中的拓扑缺陷,使得拓扑修复时间也大大缩短。
由此,我们提供了一种表面水平集预测模型,其通过深度学习训练获得。该模型能够将输入图像预测为对应的水平集表示图像。之后将预测获得的水平集表示图像通过拓扑修复和多边形网格表示重建模块,就能很快获得大脑皮层表面的多边形网格表示。也就是所,一旦水平集预测模型从输入的解剖图像中学习了水平集的表示,通过多边形网格表示重建模块提取该表示中的零值,就可以轻松生成显式曲面网格(即多边形网格表示),而使得重建的大脑皮层表面不存在拓扑缺陷。
在一个示例中,在选择模型的过程发现,水平集表示图像在数据结构上更加规整,对于不同的患者的大脑皮层均可以使用相同大小的三维数组表示,这样的数据结构特点不仅可以作为深度学习模型的输入,而且易于直接通过非线性回归获得预测结果,或者说将输入的图像预测为水平集表示图像为将输入的数据预测为一个连续值(即,在水平集图像表示中的有符号距离为一连续值)的回归问题。由此,表面水平集预测模型选择非线性回归模型。
由此,该表面水平集预测模型优选为U型非线性回归模型,例如选择例如3D Unet网络为模型框架进行训练。在一个示例中,表面水平集预测模型通过有监督学习的方式训练获得。当然本领域技术人员应当明白,水平集预测模型还可以通过半监督学习、无监督学习获得。在一个示例中,本领域技术人员还可以将模型框架设计为Unet++、Runet、attention Unet以及根据U-net网络改进的其它网络作为模型框架。
在一个示例中,所述表面水平集预测模型设计为三维两通道模型。在训练模型时,将经数据预处理后的标准化T1加权成像(T1WI)图像和区分后的大脑解剖结构分割图像均作为表面水平集预测模型的输入。其中,将所述标准化T1WI图像输入至表面水平集预测模型的第一输入通道中,将区分后的大脑解剖结构分割图像输入至表面水平集预测模型的第二输入通道中。
结合图1和图2所示,所述表面水平集预测模型包括特征提取路径、特征融合路径和第一跳跃连接。特征提取路径包括多个特征提取块(例如设置为3个特征提取块),每个特征提取块包括两个第一卷积层和一个用于下采样的第一池化层,在每一个第一卷积层后面设计有一个激活单元。
在一个示例中,多个特征提取块可以设置为3个特征提取块。在一个示例中,每个特征提取块中的第一卷积层可以设计为2个、3个或者更多个,每个第一卷积层的卷积核的大小可以设计为3×3×3,步长设计为2。在一个示例中,第一池化层为最大池化层,该最大池化层的池化核的大小可以设计为2×2×2的池化核,步长设计为2。在一个示例中,激活单元可以设计为LReLU激活函数。
再一个示例中,水平集预测模型的输出层设计为第三卷积层,该第三卷积层的卷积核的大小设计为3×3×3。在一个示例中,在训练过程中,模型的损失函数设计为均方误差函数(MES),替代了该模型框架中原有的交叉熵函数。同时,为了避免回归中的精度损失,我们关闭了框架中原有的数据增强功能,例如缩放、旋转和翻转等。
在一个示例中,将3D U-net网络中的输入通道在经过第一预定数量的特征提取块(例如1个特征提取块)后被调整为了第二预定数量的通道,例如32通道,也就是增加为了原来的16倍;之后经过4次下采样,由于每一次下采样将会增加一倍通道数量,由此经过4次下采样后,通道数增加为了原来的16倍,这样通道数量就增加为了512通道。在经过这样多次的下采样后,特征图的分辨率降低,而相应的卷积核的感受野增加,这种结构有利于模型捕获整个图像的全局上下文语义信息,而有助于后续回归任务。
在一个示例中,特征融合路径包括多个特征融合块,该多个特征融合块中每一个特征融合块包括两个第二卷积层和一个用于上采样的第一反卷积层。在一个示例中,多个特征融合块可以设置为3个特征融合块。在一个示例中,每个特征融合块中的第二卷积层可以设计为2个、3个或者更多个,每个第二卷积层的卷积核的大小可以设计为3×3×3,步长设计为2。在一个示例中,第一反卷积层的卷积核的大小也可以设计为3×3×3,步长也设计为2。在一个示例中,在第二卷积层后设计有激活单元,该激活单元可以设计为LReLU激活函数。
也就是说,特征融合路径中所设计的特征融合块与特征提取路径中所设计的特征提取块的数量是相对应的。且多个特征融合块的结构设计和特征提取路径的结构设计原理相同或相似,不同之处在于,特征融合路径中的上采样过程通过反卷积实现,而特征提取路径中的下采样过程通过最大池化层实现。
在一个示例中,同一层次的特征提取块和特征融合块之间通过第一跳线进行第一跳跃连接,使得每一个特征融合块的输入为同一层次的特征提取块的下采样特征图与特征融合块经过上采样得到的特征图进行拼接而得到的新的特征图。这种设计可以使模型同时关注图像局部信息和全局信息,两种信息相互补充,有利于利用全局信息对抗局部图像噪声的同时尽量保留图像细节,从而提高了模型的泛化性能。
在一个示例中,在模型训练时,共获得808例数据,按照4:1的比例将数据划分为训练集和验证集,即其中646例数据作为训练集,162例数据作为验证集。使用例如大脑皮层表面的水平集表示图像作为标签。在一个示例中,将通过现有的软件或者现有的大脑皮层表面重建方法获得的大脑皮层表面重建图像(mesh表示图像)转换为的水平集表示图像作为标签,以适应表面水平集预测模型的输出形式。
在一个示例中,根据输入的图像维度的大小确定水平集的维度。例如当输入的图像维度大小为256×256×256时,对应的水平集的维度(即有符号距离)的范围选取为-3~+3。当水平集的维度为负数时,则表示该体素点在轮廓(即零水平面)外,当水平集的维度为正数时,则表示该体素点在轮廓(即零水平面)内,当水平集的维度为零时,则表示该体素点为轮廓点(即边界点),位于零水平面上。
在一个示例中,将输入的区分后的大脑解剖结构(例如脑白质、脑脊液)分割图像上的每一个体素点通过非线性回归以预测出其对应的有符号距离,以获得所预测的左脑白质和/或右脑脑白质与灰质之间的分界面的水平集表示图像、左脑脑脊液和/或右脑脑脊液与灰质之间的分界面的水平集表示图像。
在一个示例中,模型训练时使用Adam算法作为优化算法,并采用均方误差作为损失函数,其初始学习率设置为0.001,当验证数据中的损失函数值无明显变化时,判定为模型收敛,则终止训练。
结合图1和图2所示,步骤S4进一步包括:
步骤S41将大脑白质(左脑白质和/或右脑白质)与灰质之间的分界面的水平集表示图像输入拓扑修复模块进行拓扑修复,以获得修复后的水平集表示图像;
步骤S42将所述修复后的水平集表示图像输入多边形网格表示重建模块,将水平集表示图像转换为多边形网格表示,以获得大脑白质与灰质之间的分界面的多边形网格表示。
在一个示例中,将大脑白质与灰质之间的分界面的水平集表示图像通过拓扑修复的方法获得修复后的水平集表示图像。
步骤S411选择重建大脑白质图像上所有水平集维度(即有符号距离)为负值的体素点,并通过最大联通区域提取以获得水平集轮廓内的大脑白质图像作为前景,并获得该前景的第一中心位置的体素坐标;
步骤S412以第一中心位置的体素坐标为当前点,遍历并判断当前点的18领域内的每个体素点的体素值,当18领域内的所有体素点的体素值均小于0时,则确定当前点为前景;当18领域内的体素点中的任一个的体素点的体素值大于0时,则确定当前点为待确定边界;
步骤S413选择重建大脑白质图像上所有水平集维度为正值的体素点,并通过最大联通区域提取以获得大脑白质图像上的背景,并获得该背景的第二中心位置的体素坐标;
步骤S414以第二中心位置的体素坐标为当前点,遍历并判断该当前点的6领域内的每个体素点的体素值,当6领域内的所有体素点的体素值均大于0时,则确定当前点为背景;当6领域内的体素点中的任一个的体素点的体素值小于0时,则确定当前点为待确定边界。
S415将待确定边界的所有体素点,根据最少修改原则将所有体素点划分为前景或背景,
当划分为前景时,则在前景中选择任意一点作为当前点,遍历并判断当前点的18领域内每一个体素点的体素值,当当前点的18领域内的体素点的体素值均小于0时,则确定当前点为前景;当当前点的18领域内的任意一点的体素值大于0时,则确定当前点为边界,并将当前点的对应的水平集表示值修改为0;
当划分为背景时,则在背景中选择任意一点作为当前点,遍历并判断当前点的6领域内每一个体素点的体素值,当当前点的6领域内的体素点的体素值均大于0时,则确定当前点为背景;当当前点的6领域内的任意一点的体素值小于0时,则确定当前点为边界,并将当前点对应的水平集表示值修改为0。
在一个示例中,多边形网格表示重建模块采用例如Nighres软件包将水平集表示图像转换为多边形网格(例如三角形网格)表示的曲面。
在一个示例中,我们将现有的大脑皮层表面重建方法与本发明提供的一个实施例的大脑皮层表面重建方法进行了比较。我们评估了处理时间、网格质量和表面位移。
处理时间根据本发提供的方法实施的运行环境来评估的。处理时间为多个受试者的平均时间,处理时间变异系数定义为受试对象的处理时间的标准差与受试对象平均处理时间的比值。较低的变异系数代表在处理时间上更高的稳定性和确定性。本发明提供的方法的处理时间为4.46±0.46(平均值±标准差)分钟,而现有技术的处理时间为207.19±62.22,也就是说本发明提供的方法比现有的重建方法快47倍。现有方法的处理时间变异系数为1.42,而本发明提供的方法的处理时间变异系数为0.17。
网格质量是皮层网格中的所有三角形上的平均三角形质量。三角形质量的估算公式为
其中,A表示三角形的面积,ei表示三角形的第i条边。
当Q=1时,表示等边三角形,表明高网格质量,而Q=0表示退化三角形,表明低网格质量。为了比较皮层表面网格的质量,我们估计了根据发明提供的重建方法获得的大脑皮层表面的多边形网格表示中每一个多边形网格的Q值,这样可以表明多边形的均匀性。如图3所示,在验证数据集中,通过本发明提供的重建方法获得的大脑皮层表面的多边形网格表示曲面示出了高的Q值,Q=0.903±0.002(平均值±标准值,ρ<0.001),表明好的网格质量,且曲面中的三角形接近于等边三角形。而根据现有的重建方法获得的大脑皮层表面的曲面示出了稍低的网格质量,其中Q=0.899±0.003。
表面位移是在每个顶点处,由不同的方法重建的表面之间的距离来估计的。位移越小表示两个平面之间的相似性越大。我们将每个顶点的位移图投影到共同的表面空间,并在验证集中通过对受试对象的顶点位移进行平均。根据本发明提供的方法获得的重建的大脑皮层表面与现有的重建方法获得的重建表面的几何图案高度相似,且边界高度重叠。为了定量评估来自不同重建方法的表面的相似性,我们测量了验证集中根据本发明提供的重建方法获得大脑皮层表面与现有重建方法获得的大脑皮层表面之间的平均位移。这些表面位移主要在眶额皮质、距状裂、中央前回和中央后回附近观察到。根据本发明提供的重建方法获得的大脑皮层表面与现有重建方法获得的平均位移中的最大平均位移小于0.54mm,约为体素大小的一半。
在一个示例中,根据本发明的另一实施例提供了一种可读存储介质。本发明的实施例的“可读存储介质”是指参与向处理器提供程序或指令以供执行的任何介质。所述介质可以采用多种形式,包括但不限于非易失性介质、易失性介质和传输介质。非易失性介质包括例如光盘或磁盘,诸如存储设备。易失性介质包括动态存储器,诸如主存储器。传输介质包括同轴电缆、铜线和光纤,包括包含总线的导线。传输介质还可以采用声波或光波的形式,诸如在射频(RF)和红外(IR)数据通信期间生成的声波或光波。可读存储介质的常见形式包括例如软盘、柔性盘、硬盘、磁带、任何其他磁介质、CD-ROM、DVD、任何其他光学介质、穿孔卡、纸带、任何具有孔图案的其他物理介质、RAM、PROM和EPROM、FLASH-EPROM、任何其他存储器芯片或盒、如下所述的载波、或计算机可从其中进行读取的任何其他介质。
该可读存储介质上存储程序或指令,所述程序或指令被处理器执行时以执行上述的大脑皮层表面重建方法。
根据本发明各个示例提供的大脑皮层表面重建方法和可读存储介质具有以下优点中的至少一个:
(1)本发明提供的大脑皮层表面重建方法和可读存储介质能够通过表面水平集预测模型快速地完成将输入图像转换为大脑皮层表面水平集表示图像输出,从而减少了大脑皮层表面重建过程中的大量计算,由此缩短了大脑皮层表面重建流程的处理时间,从而实现在科研和临床上的快速应用;
(2)本发明提供的大脑皮层表面重建方法和可读存储介质由于为基于水平集表示图像进行拓扑修复,使得大大提高了大脑皮层表面重建的速度;
(3)本发明提供的大脑皮层表面重建方法和可读存储介质通过表面水平集预测模型的设计,提升了大脑皮层表面重建的泛化性能,对于一些特殊情况(例如脑卒中病人或肿瘤病人等)也能够完成大脑皮层表面的重建;
(4)本发明提供的大脑皮层表面重建方法和可读存储介质能够基于水平集表示图像进行拓扑修复,加快了拓扑修复的速度,进一步显著缩短了整个大脑皮质表面重建流程的处理时间。
虽然本总体发明构思的一些实施例已被显示和说明,本领域普通技术人员将理解,在不背离本总体发明构思的原则和精神的情况下,可对这些实施例做出改变,本发明的范围以权利要求和它们的等同物限定。
Claims (17)
1.一种大脑皮层表面重建方法,所述大脑皮层表面重建方法包括以下步骤:
步骤S1将医学影像图像进行数据预处理,以获得标准化图像;
步骤S2将所述标准化图像输入分割模型中分割与灰质相邻的大脑解剖结构,以获得区分后的大脑解剖结构分割图像;
步骤S3将区分后的大脑解剖结构分割图像和所述标准化图像输入表面水平集预测模型,获得大脑解剖结构与灰质之间的分界面的水平集表示图像;
步骤S4将大脑解剖结构与灰质之间的分界面的水平集表示图像输入拓扑修复模块和多边形网格表示重建模块,以获得大脑解剖结构与灰质之间的分界面的多边形网格表示。
2.根据权利要求1所述的大脑皮层表面重建方法,其中,
所述表面水平集预测模型设计为三维两通道模型,
在进行模型训练时,将所述标准化图像输入至所述表面水平集预测模型的第一输入通道中,
将所述区分后的大脑解剖结构分割图像输入至所述表面水平集预测模型的第二输入通道中。
3.根据权利要求2所述的大脑皮层表面重建方法,其中,
在步骤S3中,所述表面水平集预测模型包括特征提取路径、特征融合路径和第一跳跃连接,所述特征提取路径与特征融合路径彼此连接,
所述特征提取路径包括多个特征提取块,所述多个特征提取块中的每一个特征提取块包括至少一个第一卷积层和用于下采样的第一池化层,
所述特征融合路径包括多个特征融合块,所述多个特征融合块中的每一个特征融合块包括至少一个第二卷积层和用于上采样的第一反卷积层,
所述至少一个第一卷积层和至少一个第二卷积层中的每一个第一卷积层和每一个第二卷积层后均设置有第一激活单元。
4.根据权利要求3所述的大脑皮层表面重建方法,其中,
输入的区分后的大脑解剖结构分割图像在经过第一预定数量的特征提取块后,将通道数量调整为第二预定数量的通道。
5.根据权利要求4所述的大脑皮层表面重建方法,其中,
所述表面水平集预测模型为U字形的非线性回归模型,
在使用时,将输入的所述区分后的大脑解剖结构分割图像和所述标准化图像中每一个体素点通过非线性回归以预测所述每一个体素点对应的水平集中的有符号距离。
6.根据权利要求5所述的大脑皮层表面重建方法,其中,
在特征提取路径和特征融合路径中,同一层次的特征提取块和特征融合块之间通过第一跳线进行第一跳跃连接,且所述同一层次的特征提取块的经过下采样得到的特征图与特征融合块的经过上采样获得的特征图进行拼接作为下一层的特征融合块的输入。
7.根据权利要求6所述的大脑皮层表面重建方法,其中,
所述特征融合路径的输出层设置为第三卷积层,
在进行模型训练时,所述损失函数设置为均方误差函数。
8.根据权利要求1所述的大脑皮层表面重建方法,其中,
所述表面水平集预测模型通过有监督学习训练得到,
在进行模型训练时,以重构大脑皮层表面的水平集表示图像作为表示标签。
9.根据权利要求8所述的大脑皮层表面重建方法,其中,
所述重构大脑皮层表面的水平集表示图像为将大脑皮层表面的多边形网格表示转换为水平集表示图像。
10.根据权利要求1-9中任一项所述的大脑皮层表面重建方法,其中,
通过分割模型预测输出图像的体素点的分类类别,
所述输出图像的体素点分类包括背景体素、右脑的解剖结构体素和左脑的解剖结构体素。
11.根据权利要求10所述的大脑皮层表面重建方法,其中,
在步骤S2中,所述分割模型包括编码路径、解码路径和第二跳跃连接,所述编码路径和解码路径依次连接,
所述编码路径包括多个第一卷积块,所述多个第一卷积块中的每一个第一卷积块包括至少一个第三卷积层和用于下采样的第二池化层,
所述解码路径包括多个第二卷积块,所述多个第二卷积块中的每一个第二卷积块包括至少一个第四卷积层和用于上采样的第二反卷积层,
所述至少一个第三卷积层和至少一个第四卷积层中的每一个第三卷积层和每一个第四卷积层后均依次设置有归一化层和第二激活单元。
12.根据权利要求11所述的大脑皮层表面重建方法,其中,
同一层次的第一卷积块和第二卷积块之间通过第二跳线进行第二跳跃连接,且所述同一层次的第一卷积块的经过下采样得到的特征图与第二卷积块的经过上采样获得的特征图进行拼接作为下一层的第二卷积块的输入。
13.根据权利要求10所述的大脑皮层表面重建方法,其中,
所述分割模型通过有监督学习进行训练获得,
在分割模型训练时,将已分割的大脑皮层图像作为分割标签。
14.根据权利要求13所述的表面重建方法大脑皮层表面重建方法,其中,
在对所述分割标签进行标注时,对所述已分割的大脑皮层图像通过不同的体素值标注左脑的解剖结构和右脑的解剖结构进行区分。
15.根据权利要求11所述的大脑皮层表面重建方法,其中,
大脑解剖结构分割图像在分割模型中,在解码路径的最后一层卷积层后设置softmax激活函数以对输出图像中的每一个像素点进行分类类别预测。
16.根据权利要求10所述的大脑皮层表面重建方法,其中,
所述步骤S4进一步包括:
步骤S41将大脑解剖结构与灰质之间的分界面的水平集表示图像输入拓扑修复模块进行拓扑修复,以获得修复后的水平集表示图像;
步骤S42将所述修复后的水平集表示图像输入多边形网格表示重建模块,将水平集表示图像转换为多边形网格表示,以获得大脑解剖结构与灰质之间的分界面的多边形网格表示。
17.一种可存储介质,其特征在于,
所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时以执行权利要求1-16中任一项所述的大脑皮层表面重建方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210218623.0A CN114581628B (zh) | 2022-03-03 | 2022-03-03 | 大脑皮层表面重建方法和可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210218623.0A CN114581628B (zh) | 2022-03-03 | 2022-03-03 | 大脑皮层表面重建方法和可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114581628A true CN114581628A (zh) | 2022-06-03 |
CN114581628B CN114581628B (zh) | 2023-08-08 |
Family
ID=81774041
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210218623.0A Active CN114581628B (zh) | 2022-03-03 | 2022-03-03 | 大脑皮层表面重建方法和可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114581628B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115187594A (zh) * | 2022-09-08 | 2022-10-14 | 济南博图信息技术有限公司 | 大脑皮质模型重建方法及系统 |
CN115861250A (zh) * | 2022-12-14 | 2023-03-28 | 深圳技术大学 | 自适应数据集的半监督医学图像器官分割方法及系统 |
WO2024021523A1 (zh) * | 2022-07-27 | 2024-02-01 | 山东大学 | 基于图网络的大脑皮层表面全自动分割方法及系统 |
CN118628488A (zh) * | 2024-08-12 | 2024-09-10 | 四川大学华西医院 | 基于高分辨弥散磁共振成像的灰质微结构影像的成像方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160292847A1 (en) * | 2015-03-31 | 2016-10-06 | Sony Corporation | Automatic 3d segmentation and cortical surfaces reconstruction from t1 mri |
US20200311926A1 (en) * | 2019-03-27 | 2020-10-01 | The General Hospital Corporation | Super-resolution anatomical magnetic resonance imaging using deep learning for cerebral cortex segmentation |
CN112785593A (zh) * | 2021-03-12 | 2021-05-11 | 大连民族大学 | 一种基于深度学习的脑部图像分割方法 |
CN112837274A (zh) * | 2021-01-13 | 2021-05-25 | 南京工业大学 | 一种基于多模态多站点数据融合的分类识别方法 |
-
2022
- 2022-03-03 CN CN202210218623.0A patent/CN114581628B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160292847A1 (en) * | 2015-03-31 | 2016-10-06 | Sony Corporation | Automatic 3d segmentation and cortical surfaces reconstruction from t1 mri |
US20200311926A1 (en) * | 2019-03-27 | 2020-10-01 | The General Hospital Corporation | Super-resolution anatomical magnetic resonance imaging using deep learning for cerebral cortex segmentation |
CN112837274A (zh) * | 2021-01-13 | 2021-05-25 | 南京工业大学 | 一种基于多模态多站点数据融合的分类识别方法 |
CN112785593A (zh) * | 2021-03-12 | 2021-05-11 | 大连民族大学 | 一种基于深度学习的脑部图像分割方法 |
Non-Patent Citations (3)
Title |
---|
FABIAN ISENSEE 等: ""nnU-Net: a self-configuring method for deep learning-based biomedical image segmentation"", 《NATURE METHODS》, pages 203 - 211 * |
JULIA M. HUNTENBURG 等: ""Nighres: processing tools for high-resolution neuroimaging"", 《GIGASCIENCE》, pages 1 - 9 * |
LEONIE HENSCHELA DENG: "\"FastSurfer - A fast and accurate deep learning based neuroimaging pipeline\"", 《NEUROIMAGE》, pages 1 - 48 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024021523A1 (zh) * | 2022-07-27 | 2024-02-01 | 山东大学 | 基于图网络的大脑皮层表面全自动分割方法及系统 |
CN115187594A (zh) * | 2022-09-08 | 2022-10-14 | 济南博图信息技术有限公司 | 大脑皮质模型重建方法及系统 |
CN115187594B (zh) * | 2022-09-08 | 2023-09-08 | 济南博图信息技术有限公司 | 大脑皮质模型重建方法及系统 |
CN115861250A (zh) * | 2022-12-14 | 2023-03-28 | 深圳技术大学 | 自适应数据集的半监督医学图像器官分割方法及系统 |
CN115861250B (zh) * | 2022-12-14 | 2023-09-22 | 深圳技术大学 | 自适应数据集的半监督医学图像器官分割方法及系统 |
CN118628488A (zh) * | 2024-08-12 | 2024-09-10 | 四川大学华西医院 | 基于高分辨弥散磁共振成像的灰质微结构影像的成像方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114581628B (zh) | 2023-08-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114581628B (zh) | 大脑皮层表面重建方法和可读存储介质 | |
US9968257B1 (en) | Volumetric quantification of cardiovascular structures from medical imaging | |
US20230104173A1 (en) | Method and system for determining blood vessel information in an image | |
Biffi et al. | Explainable anatomical shape analysis through deep hierarchical generative models | |
US11854202B2 (en) | Image registration using a fully convolutional network | |
Chen et al. | 3D intracranial artery segmentation using a convolutional autoencoder | |
Fan et al. | Unsupervised cerebrovascular segmentation of TOF-MRA images based on deep neural network and hidden Markov random field model | |
CN112991365B (zh) | 一种冠状动脉分割方法、系统及存储介质 | |
CN114581662A (zh) | 一种脑肿瘤图像的分割方法、系统、装置及存储介质 | |
CN112396605B (zh) | 网络训练方法及装置、图像识别方法和电子设备 | |
CN114202545A (zh) | 一种基于UNet++的低级别胶质瘤图像分割方法 | |
CN112183541A (zh) | 一种轮廓提取方法及装置、电子设备、存储介质 | |
CN110570394A (zh) | 医学图像分割方法、装置、设备及存储介质 | |
Cheng et al. | Fully automated prostate whole gland and central gland segmentation on MRI using holistically nested networks with short connections | |
Jaffar et al. | Anisotropic diffusion based brain MRI segmentation and 3D reconstruction | |
CN116188485A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN115809998A (zh) | 基于E2C-Transformer网络的胶质瘤MRI数据分割方法 | |
Drees et al. | Hierarchical random walker segmentation for large volumetric biomedical images | |
CN115239655A (zh) | 一种甲状腺超声影像肿瘤分割分类方法及装置 | |
CN113724267A (zh) | 一种乳腺超声图像肿瘤分割方法及装置 | |
CN113409324B (zh) | 一种融合微分几何信息的脑分割方法 | |
CN113129297B (zh) | 基于多期相肿瘤影像的直径自动测量方法及系统 | |
CN113421274B (zh) | 一种基于ct影像的胃癌智能分期方法 | |
CN112862786B (zh) | Cta影像数据处理方法、装置及存储介质 | |
CN112862785B (zh) | Cta影像数据识别方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |