CN112669256B - 一种基于迁移学习的医学图像分割与显示方法 - Google Patents

Abstract

本发明公开了一种基于迁移学习的医学图像分割与显示方法，包括：获取颅内血管部位的亮血图像组、黑血图像组和增强黑血图像组；对每一个亮血图像以对应的增强黑血图像为基准利用基于互信息和图像金字塔的配准方法进行配准，得到配准后亮血图像组；利用配准后亮血图像组对增强黑血图像组中的增强黑血图像进行流空伪影消除操作，得到伪影消除增强黑血图像组；将伪影消除增强黑血图像组和黑血图像组中对应图像相减，得到K个造影增强图；利用配准后亮血图像组，采用迁移学习方法建立血液三维模型；利用配准后亮血图像组建立血液边界扩展的血管三维模型；本发明的方法可以辅助医生直观进行病灶判断。

Description

一种基于迁移学习的医学图像分割与显示方法

技术领域

本发明属于图像处理领域，具体涉及一种基于迁移学习的医学图像分割与显示方法。

背景技术

据最新的医疗数据显示，血管类疾病已严重影响当代人的生命健康，成为致死率较高的疾病之一。比如动脉粥样硬化、炎症性血管疾病、血管真性肿瘤性疾病等等。血管类疾病中常见的诱因是血管狭窄、堵塞、破裂，以及斑块等等。目前临床上对于血管病变程度与血管狭窄化程度的评估，通常使用基于管腔成像的方法，如数字减影血管造影术(Digital Subtraction Angiography,DSA)、CT血管成像(Computed TomographyAngiography,CTA)、磁共振血管成像(Magnetic Resonance Angiography,MRA)以及高分辨率磁共振血管成像(High-Resolution Magnetic Resonance Angiography,HRMRA)等。

其中，磁共振血管成像技术(MRA或HRMRA)作为一种对患者无创的成像方法，可以清晰地检测到血管壁结构并进行分析，扫描得到的磁共振图像对于软组织的分辨率高，没有骨伪影，图像质量好，且能够使用多种序列扫描得到具有不同成像特点的组织结构，在血管的显示上具有明显的优越性。

由于磁共振血管成像技术得到的亮血序列、黑血序列对应的图像均为二维图像，在临床上，医生需要凭借经验结合两种图像的信息，来获得血管的综合情况，以进行血管病变分析。但二维图像具有局限性，不利于简便快速地获得血管的真实信息。

发明内容

为了在临床应用上，简便快速地获得血管的真实信息，以进行血管病变分析。本发明实施例提供了一种基于迁移学习的医学图像分割与显示方法。包括：

获取颅内血管部位的亮血图像组、黑血图像组和增强黑血图像组；其中，所述亮血图像组、所述黑血图像组、所述增强黑血图像组分别包括K个亮血图像、黑血图像和增强黑血图像；所述亮血图像组、所述黑血图像组、所述增强黑血图像组中的图像一一对应；K为大于2的自然数；

针对所述亮血图像组中每一个亮血图像，以所述增强黑血图像组中对应的增强黑血图像为基准，利用基于互信息和图像金字塔的配准方法进行图像配准，得到包括K个配准后亮血图像的配准后亮血图像组；

利用所述配准后亮血图像组，对所述增强黑血图像组中的增强黑血图像进行流空伪影消除操作，得到包括K个目标增强黑血图像的伪影消除增强黑血图像组；

将所述伪影消除增强黑血图像组和所述黑血图像组中对应图像相减，得到K个造影增强图；

利用所述配准后亮血图像组，采用迁移学习方法建立血液三维模型；

利用所述配准后亮血图像组建立血液边界扩展的血管三维模型；

利用所述K个造影增强图建立造影增强三维模型；

基于所述血液三维模型、所述血管三维模型、所述造影增强三维模型，得到颅内血管增强三维模型；

获取所述颅内血管增强三维模型中各段血管的表征血管狭窄程度的目标参数的数值，并利用各段血管的所述目标参数的数值对所述颅内血管增强三维模型进行标记，得到颅内血管病灶识别模型；

将所述颅内血管病灶识别模型进行显示。

本发明的方案能够在临床应用上，简便、快速、直观地获得颅内血管的真实信息和关于颅内血管狭窄程度的分析数据，辅助医生更加精确、直观地进行病灶分析和判断。

当然，实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。

以下将结合附图及实施例对本发明做进一步详细说明。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种基于迁移学习的医学图像分割与显示方法的流程示意图；

图2为本发明实施例的作为示例的一个MIP图；

图3为本发明实施例的MIP图对应的反转图、特征MIP图；

图4为本发明实施例的颅内血管模拟三维模型的效果图；

图5为本发明实施例的颅内血管病灶识别模型效果图；

图6为本发明实施例的颅内血管病灶识别模型和切面图显示效果图；

图7为本发明实施例的颅内血管磁共振图像经过预配准后的结果图；

图8为本发明实施例的颅内血管磁共振图像的待配准区域示意图；

图9(a)为本发明实施例的颅内血管磁共振图像的亮血高斯金字塔和黑血高斯金字塔；图9(b)为本发明实施例的颅内血管磁共振图像的亮血拉普拉斯金字塔和黑血拉普拉斯金字塔；

图10为本发明实施例的颅内血管磁共振图像的拉普拉斯金字塔图像的配准结果；

图11为本发明实施例的颅内血管磁共振图像基于互信息的高斯金字塔图像配准步骤示意图；

图12为本发明实施例的不同迭代次数下的归一化互信息；

图13为多种配准方法的颅内血管磁共振图像的配准结果；

图14为本发明实施例的灰度线性变换结果图；

图15为本发明实施例的图像二值化结果图；

图16为本发明实施例针对颅内血管的流空伪影消除结果；

图17为本发明实施例提供的颅内血管的颅内血管病灶识别模型裸眼3D全息可视化图；

图18为本发明实施例提供的对颅内血管的颅内血管病灶识别模型的裸眼3D全息显示结果进行手势识别的示意图；

图19为本发明实施例提供的颅内血管的颅内血管病灶识别模型的3D打印结果图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行描述。

为了在临床应用上，简便快速地获得血管的真实信息，以进行血管病变分析。本发明实施例提供了一种基于迁移学习的医学图像分割与显示方法。

如图1所示，图1为本发明实施例提供的一种基于迁移学习的医学图像分割与显示方法的流程示意图，可以包括如下步骤：

S1，获取颅内血管部位的亮血图像组、黑血图像组和增强黑血图像组；

其中，亮血图像组、黑血图像组、增强黑血图像组分别包括K个亮血图像、黑血图像和增强黑血图像；亮血图像组、黑血图像组、增强黑血图像组中的图像一一对应；K为大于2的自然数；

本发明实施例中，磁共振血管成像技术优选为HRMRA。

亮血图像组、黑血图像组、增强黑血图像组中的K个图像是一一对应的，其中对应方式是按照扫描时间形成的图像次序相同。

S2，针对亮血图像组中每一个亮血图像，以增强黑血图像组中对应的增强黑血图像为基准，利用基于互信息和图像金字塔的配准方法进行图像配准，得到包括K个配准后亮血图像的配准后亮血图像组；

该步骤实际上是完成每一个亮血图像的图像配准，即将待配准的亮血图像作为浮动图像，将该亮血图像对应的增强黑血图像作为参考图像，利用基于互信息的相似性度量，并引入图像金字塔方法，进行图像配准。

可选的一种实施方式中，S2可以包括S21～S27：

S21，对每一个亮血图像和对应的增强黑血图像进行预处理，得到第一亮血图像和第一黑血图像；

可选的另一种实施方式中，S21可以包括S211和S212：

S211，针对每一个亮血图像，以对应的增强黑血图像为基准，将该亮血图像进行坐标变换和图像插值，并使用基于互信息的相似性度量及预定搜索策略，得到预配准后的第一亮血图像；

S211步骤实际上是对亮血图像以增强黑血图像为基准进行的图像预配准。

具体的，增强黑血图像和亮血图像为待配准的图像，可以根据亮血图像的DICOM文件中的方位标签信息，以增强黑血图像的坐标系为基准，将增强黑血图像作为参考图像，将亮血图像作为浮动图像，将亮血图像进行坐标变换，实现旋转亮血图像至与增强黑血图像相同坐标系的目的，旋转后亮血图像的扫描方向也变为呈冠状面。

通过该步骤的预配准，可以初步实现在同一坐标系下对比相同扫描层面的磁共振图像，但是由于亮血序列和黑血序列扫描的时间不同，且患者可能在扫描前后发生了轻微的运动，所以上述操作只是一个粗糙的坐标变换，仅通过预配准并不能实现多模态磁共振图像的完全配准，但是该步骤可以为后续的精确配准环节省略不必要的处理过程，提高处理速度。

S212，从对应的增强黑血图像中，提取与第一亮血图像的扫描范围相同的区域内容，形成第一黑血图像。

可选的，S212可以包括以下步骤：

1.获得第一亮血图像中血管的边缘轮廓信息；具体可以使用Sobel边缘检测方法等方法获取边缘轮廓信息。边缘轮廓信息包含各个边缘点的坐标值。2.在边缘轮廓信息中，提取横坐标、纵坐标的最小值和最大值，基于获得的四个坐标值确定初始提取边框；也就是在边缘轮廓信息中，提取最小横坐标值、最大横坐标值、最小纵坐标值、最大纵坐标值，利用这四个坐标值确定方形边框的四个顶点，从而得到初始提取边框；3.在第一亮血图像的尺寸范围内，将初始提取边框沿四个方向分别扩大预设数量个像素大小，得到最终提取边框；其中，四个方向分别是横纵坐标的正负方向；预设数量根据血管图像的类型合理选择，目的是保证扩大后的最终提取边框不超过第一亮血图像的尺寸范围，比如预设数量可以为20等。4.在增强黑血图像中提取最终提取边框中对应的区域内容，形成第一黑血图像。依据最终提取边框划定的坐标范围，提取增强黑血图像中对应区域的内容，将提取出的内容形成第一黑血图像。该步骤通过提取待配准区域来获取两种模态下磁共振图像的共同扫描范围，有利于后续的快速配准。

本发明实施例中，为提高图像配准的准确度，避免图像在配准过程中收敛到局部最大值，选择使用多分辨率策略来解决局部极值的问题，同时利用多分辨率策略在满足图像配准精度的条件下，提高算法执行速度，增加鲁棒性。因此采用图像金字塔方法。可选的，可以采用以下步骤：

S22，基于下采样处理，由第一亮血图像得到亮血高斯金字塔，由第一黑血图像得到黑血高斯金字塔；其中，亮血高斯金字塔和黑血高斯金字塔中包括从下至上分辨率依次变小的m个图像；m为大于3的自然数；

可选的一种实施方式中，S22可以包括以下步骤：

获取第i层的输入图像，对第i层的输入图像利用高斯内核进行滤波，并删除滤波后图像的偶数行和偶数列，得到高斯金字塔的第i层图像G_i，并将第i层图像G_i作为第i+1层的输入图像，得到高斯金字塔的第i+1层图像G_i+1；其中，i＝1、2，…，m-1；当高斯金字塔为亮血高斯金字塔时，第1层的输入图像为第一亮血图像，当高斯金字塔为黑血高斯金字塔时，第1层的输入图像为第一黑血图像。

具体的，高斯金字塔中的多个图像是同一原图像不同分辨率所对应的图像。高斯金字塔通过高斯滤波和下采样来获取图像，它的每一层构建步骤可以分为两步：首先使用高斯滤波对图像进行平滑滤波，即采用高斯内核进行滤波；接着删除滤波后图像的偶数行和偶数列，即将低一层图像的宽和高缩小一半，得到当前层图像，因此当前层图像为低一层图像大小的四分之一，通过不断地迭代以上步骤，最终可以得到高斯金字塔。

本步骤中通过对经过预处理后的第一亮血图像和第一黑血图像进行上述处理，可以得到亮血高斯金字塔和黑血高斯金字塔。其中，图像层数m可以为4。

由于高斯金字塔是向下采样，即缩小图像，因此会丢失掉图像的一部分数据。因此，本发明实施例为避免图像在缩放过程中的数据缺失，恢复细节数据，在后续步骤使用拉普拉斯金字塔，配合高斯金字塔一起实现图像重建，在高斯金字塔图像的基础上突出细节。

S23，基于上采样处理，利用亮血高斯金字塔得到亮血拉普拉斯金字塔，利用黑血高斯金字塔得到黑血拉普拉斯金字塔；其中，亮血拉普拉斯金字塔和黑血拉普拉斯金字塔中包括从下至上分辨率依次变小的m-1个图像；

可选的一种实施方式中，S23可以包括以下步骤：

对高斯金字塔的第i+1层图像G_i+1进行上采样，并用数据0填充新增的行和列，得到填充图像；

对填充图像利用高斯内核进行卷积，获得填充像素的近似值，得到放大图像；

将高斯金字塔的第i层图像G_i与放大图像相减，得到拉普拉斯金字塔的第i层图像L_i；其中，当高斯金字塔为亮血高斯金字塔时，拉普拉斯金字塔为亮血拉普拉斯金字塔，当高斯金字塔为黑血高斯金字塔时，拉普拉斯金字塔为黑血拉普拉斯金字塔。

由于拉普拉斯金字塔是图像经过下采样操作后与原图的残差，因此从下至上对比，拉普拉斯金字塔比高斯金字塔结构少一层高层图像。

具体的，生成拉普拉斯金字塔结构的数学公式如(1)所示，其中L_i表示第i层拉普拉斯金字塔(亮血拉普拉斯金字塔或黑血拉普拉斯金字塔)，G_i表示第i层高斯金字塔(亮血高斯金字塔或黑血高斯金字塔)，而UP操作为向上采样放大图像，符号是卷积符号，/>是在构建高斯金字塔中使用的高斯内核。此公式表明了拉普拉斯金字塔实质上是使用原图像减去先缩小、再放大的图像的残差数据构成的，是一种残差预测金字塔，核心思想是用来存储图像经过下采样操作后与原图的差异，保留图像的高频信息，目的是为能够完整地恢复出每一层级进行下采样操作前的图像。由于之前下采样操作丢失的一部分信息并不能通过上采样来完全恢复，即下采样是不可逆的，所以图像先经过下采样，再进行上采样后的显示效果比原图模糊。通过存储图像经过下采样操作后与原图的残差，能够在高斯金字塔图像的基础上给不同频率层的图像增加细节，对细节等进行突出。

对应于4层的高斯金字塔，本步骤可以得到图像层数为3的亮血拉普拉斯金字塔和黑血拉普拉斯金字塔。

S24，对亮血拉普拉斯金字塔和黑血拉普拉斯金字塔中对应层的图像进行配准，得到配准的亮血拉普拉斯金字塔；

可选的一种实施方式中，S24可以包括以下步骤：

针对亮血拉普拉斯金字塔和黑血拉普拉斯金字塔中的每一层，将该层对应的黑血拉普拉斯图像作为参考图像，将该层对应的亮血拉普拉斯图像作为浮动图像，使用基于互信息的相似性度量及预定搜索策略，实现图像配准，得到配准后的该层亮血拉普拉斯图像；

由配准后的多层亮血拉普拉斯图像，依据分辨率依次减小的顺序，从下至上构成配准的亮血拉普拉斯金字塔；其中，黑血拉普拉斯图像为黑血拉普拉斯金字塔中的图像，亮血拉普拉斯图像为亮血拉普拉斯金字塔中的图像。

该步骤中的配准过程类似于前述的预配准过程，通过对亮血拉普拉斯图像进行坐标变换、图像插值，使用基于互信息的相似性度量及预定搜索策略，实现图像配准，可以得到配准后的亮血拉普拉斯图像。

S25，利用配准的亮血拉普拉斯金字塔作为叠加信息，对亮血高斯金字塔和黑血高斯金字塔中各层图像进行自上而下的配准，得到配准的亮血高斯金字塔；

针对S25，利用配准的亮血拉普拉斯金字塔作为叠加信息，对亮血高斯金字塔和黑血高斯金字塔中各层图像进行自上而下的配准，需要对高斯金字塔中不同分辨率的图像进行配准，由于低分辨率图像的配准可以更容易把握住图像的本质特征，因此本发明实施例在低分辨率图像配准的基础上配准高分辨率图像，即将高斯金字塔图像从上到下配准，将上一层图像的配准结果作为下一层图像配准的输入。

可选的一种实施方式中，S25可以包括以下步骤：

对亮血高斯金字塔和黑血高斯金字塔中自上而下的第j层，将该层对应的黑血高斯图像作为参考图像，将该层对应的亮血高斯图像作为浮动图像，使用基于互信息的相似性度量及预定搜索策略，实现图像配准，得到配准后的第j层亮血高斯图像；

将配准后的第j层亮血高斯图像进行上采样操作，并与配准后的对应层亮血拉普拉斯图像相加，利用相加后的图像替换亮血高斯金字塔中第j+1层的亮血高斯图像；

将第j+1层的黑血高斯图像作为参考图像，将替换后的第j+1层的亮血高斯图像作为浮动图像，使用预定相似性度量及预定搜索策略，实现图像配准，得到配准后的第j+1层亮血高斯图像；其中j＝1，2，…，m-1，黑血高斯图像为黑血高斯金字塔中的图像，亮血高斯图像为亮血高斯金字塔中的图像。

重复以上操作，直至完成底层高斯金字塔图像的高分辨率配准，得到配准的亮血高斯金字塔。其中的亮血图像的坐标系与黑血图像的坐标系一致，且图像具备较高的相似性。配准过程类似于前述的预配准过程，不再赘述。

S26，基于配准的亮血高斯金字塔得到该亮血图像对应的配准后亮血图像；

该步骤中，获取配准的亮血高斯金字塔中的底层图像作为配准后亮血图像。

S27，由K个亮血图像分别对应的配准后亮血图像，得到配准后亮血图像组。

所有亮血图像均配准完成后，由K个配准后亮血图像可以得到配准后亮血图像组。每一个配准后亮血图像和对应的增强黑血图像可以作为配准后图像对。

通过以上步骤，可以实现亮血图像和增强黑血图像的图像配准，在本发明实施例提供的配准方案中，基于互信息作为相似性度量，可以提高配准精度；同时使用金字塔算法对血管部位的磁共振亮血图像与黑血图像进行配准，可以提高配准效率，使图像从低分辨率到高分辨率逐层提高配准精度。通过上述图像配准可以将亮血图像和增强黑血图像统一在相同坐标系下，可以方便医生理解黑血序列和亮血序列对应的血管图像，简便、快速地得到诊断所需的综合信息，为后续的医疗诊断、制定手术计划、放射治疗计划等提供准确可靠的参考信息。本发明实施例提供的配准方案，可以给其余医学图像配准提供一种较好的参考方式，具有很大的临床应用价值。同时，本发明实施例的图像配准过程是后续消除流空伪影的重要基础。

在图像配准后，可以对配准后增强黑血图像中的流空伪影进行消除，其中流空伪影出现的原因是在血管壁成像过程中，由于血管太细小，走向迂曲处血液流速较慢，以及周围血液和组织液可能有信号污染等问题，导致在黑血序列扫描得到的图像中，本应该为黑色的血液信息反而表现为亮色，从而模拟正常个体的壁增厚或斑块外观，夸大血管狭窄程度。本发明实施例考虑利用配准后亮血图像中的血液信息，对配准后增强黑血图像中信号显示不正确的血液信息进行修正，将配准后亮血图像中的血液信息嵌入配准后增强黑血图像中，以达到图像融合的效果。具体可以通过以下步骤实现：

S3，利用配准后亮血图像组，对增强黑血图像组中的增强黑血图像进行流空伪影消除操作，得到包括K个目标增强黑血图像的伪影消除增强黑血图像组；

可选的一种实施方式中，S3可以包括S31～S34：

S31，针对每一个配准后亮血图像，提高该配准后亮血图像的对比度，得到对比增强亮血图像；

关于灰度线性变换的具体过程可以参见相关现有技术，在此不再赘述。

S32，从对比增强亮血图像中提取出血液信息，得到亮血特征图；

可选的一种实施方式中，S32可以包括以下步骤：

S321，利用预设图像二值化方法确定第一阈值；

S322，利用第一阈值，从对比增强亮血图像中提取出血液信息；

该步骤使用的方法称为阈值分割。

S323，由提取出的血液信息得到亮血特征图。

预设图像二值化方法即图像的二值化处理，可以将图像上的点的灰度置为0或255，也就是将整个图像呈现出明显的黑白效果。即将256个亮度等级的灰度图像通过适当的阈值选取而获得仍然可以反映图像整体和局部特征的二值化图像。本发明实施例通过预设图像二值化方法可以将对比增强亮血图像中的血液信息突出显示为白色，将无关信息显示为黑色，以便于提取出血液信息对应的亮血特征图。本发明实施例中的预设图像二值化方法可以包括最大类间方差法OTSU、kittle等等。

血液信息的提取公式如(2)所示，其中T(x,y)为对比增强亮血图像灰度值，F(x,y)为亮血特征图灰度值，T为第一阈值。

S33，将亮血特征图与该配准后亮血图像对应的增强黑血图像，依据预设融合公式进行图像融合，得到该增强黑血图像对应的流空伪影消除的目标增强黑血图像；

在该步骤中，首先建立亮血特征图与对应的增强黑血图像之间的空间映射关系，将亮血特征图映射到对应的增强黑血图像中，依据预设融合公式进行图像融合，其中预设融合公式为：

其中，F(x,y)为亮血特征图的灰度值，R(x,y)为对应的增强黑血图像的灰度值，g(x,y)为融合后的目标增强黑血图像的灰度值。

经过以上操作，可以将对应的增强黑血图像中本应该为黑色，却表现为亮色的流空伪影灰度值更改为黑色，从而实现消除流空伪影的目的。

S34，由K个增强黑血图像对应的目标增强黑血图像，得到伪影消除增强黑血图像组。

所有增强黑血图像均完成流空伪影消除后，可以得到伪影消除增强黑血图像组。

S4，将伪影消除增强黑血图像组和黑血图像组中对应图像相减，得到K个造影增强图；

每个目标增强黑血图像和对应的黑血图像相减，可以得到具有造影增强效果的造影增强图，当所有目标增强黑血图像和对应的黑血图像均相减后，可以得到K个造影增强图，可以理解的是，这K个造影增强图均是二维图。

S5，利用配准后亮血图像组，采用迁移学习方法建立血液三维模型；

可选的一种实施方式中，S5可以包括以下步骤：

S51，将配准后亮血图像组利用最大强度投影法在预设的三个方向进行投影，得到各个方向的MIP图；

最大强度投影法(maximum intensity projection，MIP)是CT三维图像重建技术之一，记作MIP。具体是当光纤束通过一段组织的原始图像时，图像中密度最大的像素被保留，并被投影到一个二维平面上，从而形成MIP重建图像(本发明实施例中简称为MIP图)。MIP能反应相应像素的X线衰减值，较小的密度变化也能在MIP图像上显示，能很好地显示血管的狭窄、扩张、充盈缺损及区分血管壁上的钙化与血管腔内的对比剂。

本领域技术人员可以理解的是，配准后亮血图像组实际为一个三维体数据，对该三维体数据可以利用上述MIP方法，在预设的三个方向进行投影，得到各个方向的一个二维的MIP图，其中，预设的三个方向包括：轴向、冠状向和矢状向。

关于MIP方法请参考现有技术的相关介绍，在此不再赘述，参见图2，图2为本发明实施例的作为示例的一个MIP图。

S52，将各个方向的MIP图作为目标域，将眼底血管图作为源域，利用迁移学习方法得到各个方向的MIP图对应的二维血管分割图。

发明人通过研究发现，颅内血管亮血序列的MIP图具有与眼底血管类似的血管树的分布。因此，发明人考虑借助迁移学习方法，具体采用特征迁移的方式，将眼底血管(源域)分割任务预训练好的模型迁移到颅内血管分割任务中。特征迁移(Feature based TL)是假设源域和目标域含有一些共同的交叉特征，通过特征变换，将源域和目标域的特征变换到相同空间，使得该空间中源域数据与目标域数据具有相同分布的数据分布，然后进行传统的机器学习。

针对S52，可选的一种实施方式中，可以包括S521～S523：

S521，获得针对眼底血管图分割任务预训练好的目标神经网络；

其中，目标神经网络是根据眼底血管图数据集、改进型U-net网络模型预先训练得到的。

如前文，本发明实施例希望借助特征迁移的迁移学习方式，将眼底血管(源域)分割任务预训练好的模型迁移到颅内血管分割任务中。因此，需要先获得一个成熟的，用于眼底血管图的血管分割的网络模型。具体的，获得目标神经网络可以分为以下步骤进行：

步骤1，获得原始网络模型；

在本发明实施例中，可以对现有的U-net网络模型的结构进行改进，将其每一个子模块分别替换为具有残差连接形式的残差模块，得到改进型U-net网络模型。本发明实施例在U-net网络模型中引入残差模块可以有效解决因为神经网络层数加深所导致的梯度消失使得训练误差不降反升的问题。

步骤2，获得眼底血管图的样本数据；

本发明实施例获取眼底血管图数据集-DRIVE数据集，该数据集是已经标注好的数据集。

步骤3，利用眼底血管图的样本数据训练原始网络模型，得到训练完成的目标神经网络。

以下概要介绍本发明实施例的目标神经网络的一些参数特征：

本发明实施例中的改进型U-net网络模型有5个level，形成2.5M参数的梯形网。每一个残差模块中使用0.25的dropout rate(dropout是指在深度学习网络的训练过程中，对于神经网络单元，按照一定的概率将其暂时从网络中丢弃。一般情况，dropout rate可以设为0.3-0.5)；并且使用批标准化(Batch Normalization，BN)，利用优化改变方差大小和均值位置，使得新的分布更切合数据的真实分布，从而保证了模型的非线性表达能力。激活函数采用LeakyRelu；网络模型最后一层使用Softmax进行激活。并且，因为医学图像样本前景背景分布不均匀的问题，损失函数使用医学图像分割常用的Dice系数(Dice coefficient)损失函数，并具体使用改进的Dice损失函数，以解决Dice损失函数训练不稳定的情况。

以上简要介绍了目标神经网络的获得过程，训练完成的目标神经网络可以实现对眼底血管图的血管分割，得到对应的二维血管分割图。

S522，将各个方向的MIP图分别进行灰度反转处理以及对比度增强处理，得到对应的特征MIP图；

特征迁移学习的实现需要源域(眼底血管图像)和目标域(颅内血管亮血序列MIP图)具有高度的相似性，实现相同的数据分布。

因此，在S522步骤中，将MIP图进行灰度反转处理以及对比度增强处理，得到特征MIP图，以使得特征MIP图更接近于眼底血管图像。

可选的一种实施方式中，S522可以包括S5221和S5222：

S5221，将MIP图利用灰度反转公式进行像素变换，得到反转图；其中，灰度反转公式为T(x)＝255–x，x为MIP图中的像素值，T(x)为反转图中的像素值；

该步骤可以通俗理解为灰度的反转处理，由于MIP图的像素范围在0～255之间，通过该步骤可以将原先较为明亮的区域变暗，而将原先较为黑暗的区域变亮，具体的，可以通过上述灰度反转公式进行像素变换实现，得到的反转图请参见图3中的左图，图3中的左图为本发明实施例的MIP图对应的反转图。

S5222，将反转图利用限制对比度自适应直方图均衡方法增强对比度，得到特征MIP图。

该步骤的主要目的是增强反转图的对比度，以显示更为清晰的血管分布。得到的特征MIP图请参见图3中的右图，图3中的右图为本发明实施例的MIP图对应的特征MIP图。可以看到，特征MIP图相比于反转图，对比度明显增强，血管更为清晰。

S5222后可以针对各个方向的MIP图分别得到对应的特征MIP图。

本发明实施例中，考虑颅内血管亮血序列MIP图与眼底血管图像具有交叉特征，因此采用特征迁移的迁移学习方法，将MIP图像特征映射到眼底血管图像，使目标神经网络对应的颅内血管输入样本和眼底血管输入样本其具有相同的样本分布。其中，S521和S522可以不分先后顺序。

S523，将各个方向的特征MIP图分别输入目标神经网络，得到对应的二维血管分割图；

将各个方向的特征MIP图分别输入目标神经网络，得到每个方向对应的二维血管分割图，得到的二维血管分割图为一个二值图，即像素只有0和255，白色代表血管，黑色代表背景。

S53，将三个方向的二维血管分割图利用反投影法进行合成，得到第一三维血管体数据；

在进行反投影法处理时，可以对像素值进行控制，在本发明实施例中，通过反投影法的像素控制，得到的第一三维血管体数据中血管部分的体素值为0，非血管部分的体素值为负无穷。

S54，基于第一三维血管体数据、配准后亮血图像组对应的第二三维血管体数据，得到颅内血管模拟三维模型。

可选的一种实施方式中，S54可以包括S541和S542：

S541，将第一三维血管体数据和第二三维血管体数据相加，得到第三三维血管体数据；

可以直接将第一三维血管体数据和第二三维血管体数据中各个体素值对应相加，得到第三三维血管体数据，通过该步骤，可以将颅内与血管信号强度相同的脑脊髓液与脂肪信号消除。

S542，利用阈值分割方法对第三三维血管体数据进行处理，得到颅内血管模拟三维模型。

本发明实施例所采用的的阈值分割方法包括最大类间方差法、最大熵、迭代法、自适应阀值、手动、迭代法、基本全局阈值法等等。可选的一种实施方式中，本发明实施例可以采用最大类间方差法。

最大类间方差法(或称为大津法，简称OTSU)是一种自适合于双峰情况的自动求取阈值的方法，采用OTSU进行S542可以包括以下步骤：

首先，利用OTSU计算第三三维血管体数据中，居中的第四三维血管体数据对应的第一阈值；

该步骤中是使用OTSU方法求出位于第三三维血管体数据这个大的三维立方体中，靠近中间部分的一个小立方体(称为第四三维血管体数据)中的多个图像所对应的一个阈值作为第一阈值。因为在第三三维血管体数据中，血液信息基本集中于图像的中部，那么，针对第三三维血管体数据中，选取居中的小的立方体数据(第四三维血管体数据)确定第一阈值，可以减小阈值计算量，提高计算速度，且该第一阈值可以准确适用于第三三维血管体数据中所有血液信息。

对于第四三维血管体数据的大小，可以首先确定第三三维血管体数据的中心点，然后以预设边长在立方体对应的六个方向延伸，从而确定第四三维血管体数据的大小；其中，预设边长可以根据包含Willis环的经验值确定，比如为第三三维血管体数据这个立方体的边长的1/4等。其中Willis环是颅内最重要的侧支循环途径，将两侧半球和前、后循环联系起来。

然后，利用第一阈值实现第三三维血管体数据的阈值分割，得到颅内血管模拟三维模型。

本领域技术人员可以理解的是，通过阈值分割，可以将第三三维血管体数据对应图像上的点的灰度值置为0或255，也就是将整个图像呈现出明显的黑白效果，血液信息突出显示为白色，将无关信息显示为黑色。关于阈值分割的处理过程请参考现有技术，在此不再赘述。最终所得到的颅内血管模拟三维模型。请参见图4，图4为本发明实施例的颅内血管模拟三维模型的效果图。该图经过灰度处理，颜色未示出，在实际中，可以以彩色，比如红色显示血管区域。

本发明实施例将迁移学习的研究思路应用于颅内血管的分割领域，可以获得较为精准的血管分割效果。之后，利用反投影法得到第一三维血管体数据，并利用配准后亮血图像组对应的第二三维血管体数据实现颅内血管模拟三维模型。该颅内血管模拟三维模型可以模拟颅内三维血管形态，实现了颅内血管的三维可视化，无需医生通过想象力还原血管组织结构及病症特征等，能够方便医生从任意感兴趣的角度、层次观察和分析颅内血管形态特征，可以提供具有形象的颅内血管三维空间信息，便于直观观测，便于定位与显示病灶区域。能够在临床上简便、快速、直观地获得颅内血管整体状态以进行颅内血管病变分析。

S6，利用配准后亮血图像组建立血液边界扩展的血管三维模型；

S5步骤中得到的是血液三维模型，其表征的其实是血液的流向和区域分布，由于实际中血液外围存在有血管壁，因此血液三维模型其实并不能完全代表真实的血管情况。

因此，在S6步骤中，可以对配准后亮血图像中的血液边界进行扩展，使得扩展后的血液边界能够涵盖血管壁的范围，形成一个中空管的效果，再对扩展血液边界后的二维图像利用三维重建方法生成三维模型，进而得到比S5中的血液三维模型更接近真实血管情况的血管三维模型。

可选的一种实施方式中，S6可以包括S61～S65：

S61，获取K个亮血特征图；

即获取S32步骤得到的K个亮血特征图。

S62，针对每个亮血特征图，利用膨胀操作扩大该亮血特征图中血液的边界，得到该亮血特征图对应的扩展亮血特征图；

一种可选的实施方式中，可以利用半径为1的圆形内核对亮血特征图进行多步膨胀，直到达到最大梯度位置停止膨胀，从而确定血管外壁边界，实现血管壁的分割，得到亮血特征图对应的扩展亮血特征图。由于血管壁紧贴血液，且管壁极薄，假设膨胀后的范围就是血管壁的所在范围，这步操作即可将血液附近的血管壁所在区域包括进来，作为血管壁造影增强特性的搜索范围。

关于膨胀操作的具体实施过程可以参见相关现有技术，在此不再赘述。

S63，将该亮血特征图对应的扩展亮血特征图与该亮血特征图求差，得到该亮血特征图对应的差值特征图；

该步骤针对每个亮血特征图得到的差值特征图是一个类似于中空血管的二维平面图。同样的，该差值特征图的像素值也仅有0和255。

S64，确定第三阈值；

该步骤可以根据经验值为所有差值特征图选定一个像素值作为第三阈值，比如可以选取100～200之间的任意一个值，如128作为第三阈值。

S65，将第三阈值作为移动立方体方法的输入阈值，利用移动立方体方法对K个差值特征图进行处理，得到血液边界扩展的血管三维模型。

移动立方体方法利用第三阈值作为输入阈值，可以由K个差值特征图得到血液边界扩展的血管三维模型。关于移动立方体方法的具体实施过程在此不再赘述。

S7，利用K个造影增强图建立造影增强三维模型；

该步骤可以利用移动立方体方法实现，具体参见S5和S6，在此不再赘述。

S8，基于血液三维模型、血管三维模型、造影增强三维模型，得到颅内血管增强三维模型。

可选的一种实施方式中，S8可以包括以下步骤：

S81，保留造影增强三维模型中与血管三维模型的重叠部分，得到保留后造影增强三维模型；

由于S7得到的造影增强三维模型并非只包含了血管的造影增强，需要排除无关组织的增强特性，因此使用S6得到的血管三维模型中血管壁造影增强特性的搜索范围，来判断S7得到的造影增强图三维模型是否位于血液附近的血管壁区域，即判断造影增强三维模型中是否有与血管三维模型的重叠部分，如果是，则表明重叠部分位于搜索范围之内，则需要保留该重叠部分，因此得到保留后造影增强三维模型。

S82，将保留后造影增强三维模型与血液三维模型融合，得到颅内血管增强三维模型。

将表征血管造影增强的保留后造影增强三维模型，与表征血液信息的血液三维模型进行融合，可以直观显示有明显造影增强的血管壁，可以清晰地看到血管的哪个部位范围内造影增强效果最为明显，那么该区域可能出现粥样硬化或易损性斑块。

可选的一种实施方式中，血管造影增强三维模型中可以获得造影增强定量分析，具体的，可以针对血管造影增强三维模型中血管壁上任意一个点，得到斑块强化指数CE，其中CE定义为：

其中，S_preBBMR和S_postBBMR分别为黑血图像和造影增强黑血图像中的信号强度。

本领域技术人员可以理解的是，S_preBBMR和S_postBBMR分别是拍摄黑血图像和造影增强黑血图像后，图像中携带的信息。本发明实施例利用上述信息得到血管壁边沿各个点的斑块强化指数CE，并将其体现在血管造影增强三维模型中，可以方便医生获取更为详细的血管信息，具体的，当CE大于一个斑块阈值，比如0.5时，表示该处血管壁上出现了斑块，因此，通过测量血管壁区域的斑块强化指数，有助于鉴别责任动脉斑块等，可以提供有价值的诊断辅助信息。

关于两个三维模型的融合技术可以采用现有技术实现，在此不做赘述。

S9，获取颅内血管增强三维模型中各段血管的表征血管狭窄程度的目标参数的数值，并利用各段血管的目标参数的数值对颅内血管增强三维模型进行标记，得到颅内血管病灶识别模型。

可选的一种实施方式中，S9可以包括S91～S94：

S91，针对颅内血管增强三维模型中的每一段血管，从预设的三个方位进行切分，获得各方位的二维切面图；

该步骤中，可以先将颅内血管增强三维模型中的血管进行划分，针对每一段血管，从预设的三个方位进行切分，获得各方位的二维切面图。

其中，预设的三个方位包括：轴位、冠状位和矢状位。

S92，将每个方位的二维切面图中的血管进行腐蚀操作，记录血管腐蚀至单个像素时的目标腐蚀次数；

本发明实施例是根据腐蚀操作达到血管对应部分达到单个像素时的次数估计血管的粗细程度。

在S92步骤中，针对轴位的二维切面图中的血管进行腐蚀操作，记录该方位的二维切面图中的血管腐蚀至单个像素时对应的目标腐蚀次数n₁；针对冠状位的二维切面图中的血管进行腐蚀操作，记录该方位的二维切面图中的血管腐蚀至单个像素时对应的目标腐蚀次数n₂；针对矢状位的二维切面图中的血管进行腐蚀操作，记录该方位的二维切面图中的血管腐蚀至单个像素时对应的目标腐蚀次数n₃。

S93，根据该段血管在三个方位分别对应的目标腐蚀次数，得到表征该段血管狭窄程度的目标参数的数值；

可选的一种实施方式中，目标参数包括狭窄率和/或扁平度；本领域技术人员可以理解，这两个参数均可以表征血管狭窄程度。

当目标参数包括狭窄率时，S93可以包括：

根据n₁、n₂、n₃，利用血管的狭窄率公式得到该段血管的狭窄率的数值；其中，狭窄率公式为：

其中，分辨率为各方位二维切面图的分辨率(三个方位的二维切面图的分辨率相同)，狭窄率的数值越小表明血管越狭窄。

当目标参数包括扁平度时，S93可以包括：

根据n₁、n₂、n₃，利用血管的扁平度公式得到该段血管的扁平度的数值；其中，扁平度公式为：

扁平度的数值越大表明血管越狭窄。

S94，利用各段血管的目标参数的数值对血管造影增强三维模型进行标记，得到颅内血管病灶识别模型。

通过上述步骤，可以得到每一段血管的目标参数的数值，那么可以将各段血管的这些数值在血管造影增强三维模型上进行标记，得到颅内血管病灶识别模型。即将各个点的目标参数的数值嵌入在该颅内血管病灶识别模型中，以便于在需要时，可以提取出并显示每个点的目标参数的数值，便于医生在观察整体三维血管状态时，及时获取各个位置的血管狭窄程度的数据，比如，在计算机的显示屏上显示该颅内血管病灶识别模型时，可以在模型的空白区域显示鼠标位置点的狭窄率和/或扁平度的数值。

为了便于直观显示，可以将不同的数值利用不同的颜色标记在血管造影增强三维模型上得到颅内血管病灶识别模型，比如针对狭窄率数值由小至大可以用由浅至深的多个颜色对应标记，针对扁平度数值，由于数值较少，可能只有2种数值，那么可以采用与狭窄率区分的两种颜色对应标记。采用不同色调的颜色显示可以更加直观地表现出血管的狭窄化程度，便于引起医生的注意。

图5为本发明实施例的颅内血管病灶识别模型效果图。其中左图为狭窄率标记效果，右图为扁平度标记效果。在实际中，模型上显示有不同的颜色，可以区分狭窄化程度，比如血管较细的部位为暖色调，最狭窄的部位为红色，血管较粗的部位为冷色调，最粗的部位显示为绿色等，白色箭头所示处为颅内血管的突变狭窄，不同色调的颜色显示可以更加直观地表现出血管的狭窄化。附图中是经过灰度处理的效果，颜色未示出。

并且进一步的，由于医生习惯于观察切平面的二维医学图像，本发明实施例可以在提供模拟化三维血管狭窄分析模型的同时提供三个方位的二维切面图，即可以将该模拟化三维血管狭窄分析模型中的每一个点对应的当前点所在冠状面、矢状面、轴状面图像显示出来。参见图6，图6为本发明实施例的颅内血管病灶识别模型和切面图显示效果图。图6中血管的暖色调处可能出现了血管狭窄化，冷色调处没有明显的血管狭窄化现象，且图像右边的三幅二维图像从上至下分别为当前点所在的轴状面、矢状面以及冠状面成像；在显示该模拟化三维血管狭窄分析模型时，还可以使用诸如红绿蓝三种颜色的点，实现两个点测距，三个点测量角度的功能，并在显示屏左下方显示出来，在显示屏右下方显示当前选取模型的体积大小。以便于医生获取颅内血管更为详细的数据。

S10，将所述颅内血管病灶识别模型进行显示。

上述步骤得到对血管狭窄进行标记的颅内血管病灶识别模型，可以直接通过软件在计算机显示屏上显示，当然，也可以采用其它更为直观的方法进行显示。

作为本发明的一种实施方式，将颅内血管病灶识别模型进行显示，具体可以采用裸眼3D全息显示系统进行显示。本发明的方案并不需要采取任何穿戴式设备，如VR或MR眼镜，而是采用裸眼3D全息显示系统，将前后左右四个角度的图像通过软件分别投射到金字塔全息玻璃上，便于多位医生围在一起，同时看清楚颅内血管三维结构以及病变位置；且具有成像空间大、分辨率高、安静、方便讨论，及成本较低等优点。

为了进一步增强得到血管模型的立体感觉，以及增加医生的观看代入感，在裸眼3D全息显示的基础上，也可以进一步采用手势识别对所述裸眼3D全息显示的颅内血管病灶识别模型进行操作，比如，手势识别可以采用Leap Motion体感控制器，以进行手动缩放、旋转、切割、虚拟手术等操作。本发明的方案采用的手势识别技术，可以利用红外LED+灰阶照相机的方式采集双手数据；前者利用双目视觉原理测量深度，后者提取关键点，从而重建出手掌在真实三维世界中的信息。

当然，采用手势识别也可以针对计算机显示屏上输出的颅内血管病灶识别模型直接进行手动缩放、旋转、切割、虚拟手术等操作。采用手势识别的优点是体积小，识别精度高，不受环境光源的限制，还能进行测距。作为本发明的另一种实施方式，将颅内血管病灶识别模型进行显示，具体可以将所述颅内血管病灶识别模型导出为STL文件并通过3D打印显示。通过将最终得到的血管模型进行3D打印显示，并对比正常的血管三维模型，可以直观的看出哪个位置血管出现狭窄，发生了病变。

需要说明的是，上述用于显示的裸眼3D全息显示、手势识别和3D打印均可采用现有技术中相应的技术，在此不再赘述。

本发明实施例所提供的方案中，首先对磁共振血管成像技术扫描得到的亮血图像和增强黑血图像采用基于互信息和图像金字塔的配准方法进行图像配准，可以提高配准效率，使图像从低分辨率到高分辨率逐层提高配准精度。通过上述图像配准可以将亮血图像和增强黑血图像统一在相同坐标系下。其次利用配准后亮血图像对增强黑血图像进行流空伪影消除操作，可以显示更准确、全面的血管信息。本发明实施例所提供的方案是从图像后处理的角度对流空伪影进行消除，无需使用新的成像技术、成像模式或脉冲序列，因此可以简便、准确、快速地消除流空伪影，并可以在临床应用实现较好的推广。再次，利用配准后亮血图像建立血液三维模型，利用配准后亮血图像建立血液边界扩展的血管三维模型，通过将伪影消除增强黑血图像和黑血图像相减得到具有造影增强效果的造影增强三维模型；基于血液三维模型、血管三维模型、造影增强三维模型，得到具有造影增强效果的血管壁对应的血管造影增强三维模型。最后利用所述颅内血管造影增强三维模型中表征血管狭窄程度的目标参数的数值进行标记，得到颅内血管病灶识别模型。该颅内血管病灶识别模型实现了颅内血管的三维可视化，无需医生通过想象力还原颅内血管组织结构及病症特征等，可以提供形象的颅内血管三维空间信息，便于直观观测，便于定位与显示狭窄的病灶区域。能够在临床应用上，简便、快速、直观地获得颅内血管的真实信息和关于颅内血管狭窄程度的分析数据。

以下详细说明本发明实施例所提供的基于迁移学习的医学图像分割与显示方法的实施过程和实施效果。实施过程可以包括以下步骤：

步骤一，获取颅内血管部位的亮血图像组、黑血图像组和增强黑血图像组；

步骤二，针对亮血图像组中每一个亮血图像，以增强黑血图像组中对应的增强黑血图像为基准，利用基于互信息和图像金字塔的配准方法进行图像配准，得到包括K个配准后亮血图像的配准后亮血图像组；

在该步骤可以包括：

(一)，对每一个亮血图像和对应的增强黑血图像进行预处理，得到第一亮血图像和第一黑血图像；该预处理过程可以分为两个主要步骤：

(1)预配准：

由于颅内血管可以看作是一个刚体，因此，该步骤选用刚体变换作为坐标变换方法。具体预配准过程参见S211步骤，在此不再赘述。

本发明实施例对亮血图像的图像插值方法进行仿真实验，先将原图缩小50％，然后使用不同插值算法得到与原图大小相同的效果图，并与原图像做对比。表1所示数据为重复100次插值操作的结果平均值，实验共设定了5项评价指标，分别是均方根误差RMSE、峰值信噪比PSNR、归一化互相关系数NCC、归一化互信息NMI以及耗时Time，其中RMSE越小配准越精确，PSNR、NCC与NMI值越高配准越精确。从整体实验数据上看，双三次插值的精度明显优于最近邻插值和双线性插值，虽然双三次插值的插值时间较前两种方法慢，但100次插值操作只比最快的最近邻插值多了0.1秒，即每次操作只慢了0.001秒。因此，权衡之下，本发明实施例采用图像质量较高的双三次插值。

表1图像插值结果分析

本发明实施例中，针对颅内血管，其可以看作是一个刚体，几乎不会发生形变，不同于心脏或肺部等器官会随着人的呼吸等运动发生改变，因此相比于其他类型血管，确实更适合选用互信息作为相似性度量，以达到更精确的配准效果。

实验中，使用(1+1)-ES优化器的图像中，配准结果精确，图像中不重合的阴影部分完全消失。表2所示数据为配准结果的3项评价指标，分别是归一化互信息NMI、归一化互相关系数NCC与算法耗时Time。从实验结果图上看，(1+1)-ES的配准图像效果显示更清晰，优于梯度下降优化器；从实验数据上看，三项评价指标都表现了(1+1)-ES优化器的良好性能，因此本发明实施例使用(1+1)-ES作为搜索策略。

表2不同搜索策略下的结果分析

^a中的值是基于160幅亮血图像与160幅增强黑血图像配准的评价指标平均值±均方误差

参见图7，图7为本发明实施例的颅内血管磁共振图像经过预配准后的结果图。左图为预配准后的第一亮血图像，其中插值方法采用双三次插值；中图为增强黑血图像，可见两者都为冠状面，右图为两者直接叠加后的效果图，右图可以看到虽然经过了预配准，可在同一冠状面下观测到当前成像层下的亮血图像和增强黑血图像，但两者仍存在不重合现象，因此还需要后续进行图像精配准。

(2)统一扫描区域：

从增强黑血图像中，提取与第一亮血图像的扫描范围相同的区域内容，形成第一黑血图像。具体过程参见S212步骤，在此不再赘述。

参见图8，图8为本发明实施例的颅内血管磁共振图像的待配准区域示意图；其中左图为预配准后的第一亮血图像，右图为增强黑血图像，方框为增强黑血图像中待提取区域。这个区域包含了在颅内血管磁共振图像中，亮血序列以及黑血序列的共同扫描范围，通过确定待提取区域，能够更快速地关注到有用信息。

(二)，在预处理之后，可以采用基于互信息和图像金字塔的配准方法对第一亮血图像和第一黑血图像进行图像配准，具体参见前文步骤S22～S27相关内容。具体包括：

①基于下采样处理，由第一亮血图像得到亮血高斯金字塔，由第一黑血图像得到黑血高斯金字塔；

其中，亮血高斯金字塔和黑血高斯金字塔中包括从下至上分辨率依次变小的4个图像；亮血高斯金字塔和黑血高斯金字塔的生成过程参见前文S22，在此不再赘述。如图9(a)所示，图9(a)为本发明实施例的颅内血管磁共振图像的亮血高斯金字塔和黑血高斯金字塔。

这些分辨率逐渐减小，来源于同一张图像不同分辨率的图像组合，排列起来形似金字塔，因此被称为图像金字塔，其中分辨率最高的图像位于金字塔底部，分辨率最低的图像位于金字塔顶部。在计算机视觉下不同分辨率的图像，恰恰模拟了在不同距离下人眼观测的一幅图像，在图像信息处理上，多分辨率的图像相较于传统的单分辨率图像，更容易获取图像的本质特征。

②基于上采样处理，利用亮血高斯金字塔得到亮血拉普拉斯金字塔，利用黑血高斯金字塔得到黑血拉普拉斯金字塔；

其中，亮血拉普拉斯金字塔和黑血拉普拉斯金字塔中包括从下至上分辨率依次变小的3个图像；亮血拉普拉斯金字塔和黑血拉普拉斯金字塔的生成过程参见前文S23，在此不再赘述。如图9(b)所示，图9(b)为本发明实施例的颅内血管磁共振图像的亮血拉普拉斯金字塔和黑血拉普拉斯金字塔。图像显示使用了伽马矫正实现更清晰的效果，伽马值为0.5。

③对亮血拉普拉斯金字塔和黑血拉普拉斯金字塔中对应层的图像进行配准，得到配准的亮血拉普拉斯金字塔；

在该步骤中，将黑血拉普拉斯金字塔中的图像作为参考图像，亮血拉普拉斯金字塔中的图像作为浮动图像，分别对每一层的增强黑血图像和对应层的亮血图像进行图像配准，使用互信息作为两幅图的相似性度量，选用(1+1)-ES作为搜索策略，在每一次图像配准进行坐标变换后，循环迭代计算两幅图的互信息，直至互信息达到最大，图像配准完成。具体过程参见前文S24，在此不再赘述。

结果如图10所示，图10为本发明实施例的颅内血管磁共振图像的拉普拉斯金字塔图像的配准结果，左图为黑血拉普拉斯金字塔中的参考图像，中图为亮血拉普拉斯金字塔中已配准好的图像，右图为左、中两幅图像直接叠加后的效果图，叠加图像显示采用蒙太奇效果，使用伪彩色透明处理增强黑血图像与亮血图像，其中紫色为增强黑血拉普拉斯金字塔图像，绿色为亮血拉普拉斯金字塔图像(附图图像是原图经过灰度处理的图像，颜色未示出)。

④利用配准的亮血拉普拉斯金字塔作为叠加信息，对亮血高斯金字塔和黑血高斯金字塔中各层图像进行自上而下的配准，得到配准的亮血高斯金字塔；

该步骤参见前文S25，基于互信息的高斯金字塔图像配准具体步骤如图11所示，图11为本发明实施例的颅内血管磁共振图像基于互信息的高斯金字塔图像配准步骤示意图。首先对顶层的低分辨率的黑血高斯图像和顶层的低分辨率亮血高斯图像进行基于互信息的配准；接着将已配准好的亮血高斯图像进行上采样操作，并与保留了高频信息，且根据上述操作已配准好的对应层的亮血拉普拉斯图像相加，作为下一层亮血高斯图像；接着将上述操作得到的亮血高斯图像作为输入图像，再与对应层的黑血高斯图像进行配准，重复以上操作，直至完成底层高斯金字塔图像的高分辨率配准。

在基于互信息的高斯金字塔图像配准中，需要对每一层亮血高斯图像和黑血高斯图像以归一化互信息作为相似性度量进行配准，通过循环迭代计算两幅图的NMI，直至NMI达到最大。其中当迭代次数太小时，不能完成图像的准确配准，但是当迭代次数太大时，计算量会急剧增加，图12为本发明实施例的不同迭代次数下的归一化互信息，当第一层图像，也就是高斯金字塔中分辨率最高的底层图像配准达到最大NMI值且数据稳定时，停止迭代。

并且，为验证本发明实施例的基于互信息和图像金字塔的图像配准方法的有效性与实用性，还进行了对比实验，共使用了五位患者的颅内血管磁共振图像，其中患者A、B、C、D的增强黑血图像与亮血图像分别为160张，患者E的增强黑血图像与亮血图像分别为150张；同时选取仅使用DICOM图像方位标签信息进行配准的算法，以及基于互信息度量的配准算法，与本发明实施例的基于互信息和图像金字塔的配准方法进行对比，其中基于互信息度量的算法是通过多参数优化方法寻找参考图像和浮动图像间的最佳变换，使得两幅图像的互信息值最大，并没有使用到图像金字塔算法。

实验平台是Matlab R2016b。针对实验的图像配准结果，采用定性分析与定量分析相结合。在定性分析方面，由于多模态医学图像间存在较大的灰度差异，将配准图像与参考图像相减得到的差值图像无法有效地反映出多模态医学图像的配准结果，因此本发明实施例通过将配准图像与参考图像进行重叠，获得可以反映出配准图像和参考图像对齐程度的彩色重叠图像，通过彩色重叠图像对多模态配准算法的配准效果进行定性分析，图13显示了多模态颅内血管磁共振图像的配准结果，图13为多种配准方法的颅内血管磁共振图像的配准结果。其中，(a)为参考图像；(b)为浮动图像；(c)为基于图像方位标签信息的重叠图像；(d)为基于互信息度量的重叠图像；(e)为本发明实施例的基于互信息和图像金字塔的图像配准方法的重叠图像。其中附图均为原图的灰度图，彩色未示出。在定量分析方面，由于评价指标均方根误差RMSE和峰值信噪比PSNR并不适用于对灰度变化较大的图像进行评价，所以为了更好地对多模态医学图像的配准结果进行评价，采用归一化互相关系数NCC，归一化互信息NMI作为评价指标，当归一化互相关系数NCC和归一化互信息NMI的值越大时，表示图像配准精度越高，表3显示了不同配准算法的评价指标结果分析。

表3不同配准方法的结果分析

^a中的值是基于患者多幅图像配准的评价指标平均值±均方误差

定性分析：从图13的重叠图像可以明显看出，基于互信息度量的方法出现了较大的配准偏移，分析原因可能是因为仅使用基于互信息度量的方法容易陷入局部最优值，而非全局最优值；基于图像方位标签信息的配准效果表现同样欠佳，图像出现了部分不重叠情况；而基于互信息和图像金字塔的配准方法的图像效果表现良好，图像显示更加清晰，图像几乎完全重叠在一起。

定量分析：由表3可知，从NCC与NMI这两个评价指标来看，相较于只使用DICOM图像的方位标签信息的配准算法，以及基于互信息度量的配准算法，本发明实施例提出的基于互信息和图像金字塔的配准方法在配准精度上有所提高，可以良好地处理多模态颅内血管磁共振图像的配准。

⑤基于配准的亮血高斯金字塔得到该亮血图像对应的配准后亮血图像；

获取配准的亮血高斯金字塔中的底层图像作为配准后亮血图像，将配准后亮血图像和对应的增强黑血图像作为配准后图像对。

⑥由K个亮血图像分别对应的配准后亮血图像，得到配准后亮血图像组。

本发明实施例中，使用基于互信息与图像金字塔的图像配准方法，对磁共振亮血图像与增强黑血图像进行配准，配准过程不仅考虑灰度信息的相关性，而且利用高斯金字塔提高配准效率，使图像从低分辨率到高分辨率，逐层提高配准精度。

步骤三，利用配准后亮血图像组，对增强黑血图像组中的增强黑血图像进行流空伪影消除操作，得到包括K个目标增强黑血图像的伪影消除增强黑血图像组；具体参见前文S3步骤。

首先，针对每一个配准后亮血图像，利用灰度线性变换提高该配准后亮血图像的对比度，得到对比增强亮血图像。如图14所示，图14为本发明实施例的灰度线性变换结果图。其中，左图为配准后亮血图像，右图为其经过灰度线性变换后的结果图，可以看到右图中血液部分与周围像素相比对比度明显增强。

其次，从对比增强亮血图像中提取出血液信息，得到亮血特征图；

该步骤采用最大类间方差法OTSU，结果如图15所示，图15为本发明实施例的图像二值化结果图；其中左图为对比增强亮血图像，右图为其经过阈值提取后的血液信息。可以看到，右图中显示为亮色的部分仅为与血液相关的信息。

再次，将亮血特征图与该配准后亮血图像对应的增强黑血图像，依据预设融合公式进行图像融合，得到该增强黑血图像对应的流空伪影消除的目标增强黑血图像。

具体步骤不再赘述，对比结果可参见图16，图16为本发明实施例针对颅内血管的流空伪影消除结果。其中左图为增强黑血图像原图，右图为流空伪影消除后的增强黑血图像，箭头所示处出现了流空伪影，对比可见流空伪影的消除效果较为明显。

最后，由K个增强黑血图像对应的目标增强黑血图像，得到伪影消除增强黑血图像组。

步骤四，将伪影消除增强黑血图像组和黑血图像组中对应图像相减，得到K个造影增强图；

步骤五，利用配准后亮血图像组，采用迁移学习方法建立血液三维模型；

步骤六，利用配准后亮血图像组建立血液边界扩展的血管三维模型；

步骤七，利用K个造影增强图建立造影增强三维模型；

步骤八，基于血液三维模型、血管三维模型、造影增强三维模型，得到颅内血管增强三维模型；

步骤九，获取所述颅内血管增强三维模型中各段血管的表征血管狭窄程度的目标参数的数值，并利用各段血管的所述目标参数的数值对所述颅内血管增强三维模型进行标记，得到颅内血管病灶识别模型；

步骤十，将颅内血管病灶识别模型进行显示

关于步骤四至步骤十的具体过程不再赘述。

参见图17，图17是本发明实施例提供的颅内血管的血管造影增强三维狭窄化分析模型裸眼3D全息可视化图，图中，前视、后视、左视、右视四个视图组合在一起，实现裸眼3D全息可视化。参见图18，图18是本发明实施例提供的对颅内血管的血管造影增强三维狭窄化分析模型的裸眼3D全息显示结果进行手势识别的示意图。请参见图19，图19是本发明实施例提供的颅内血管的血管造影增强三维狭窄化分析模型的3D打印结果图。图17-图19提供的显示方法，均是为了进一步将得到的颅内血管的血管造影增强三维狭窄化分析模型更直观的进行展示，以便于医生对颅内病灶判断时代入感更强。

本发明实施例所提供的方案中，实现了颅内血管的三维可视化，无需医生通过想象力还原血管组织结构及病症特征等，能够方便医生从任意感兴趣的角度、层次观察和分析血管形态特征，可以提供具有真实感的血管三维空间信息，便于直观显示有明显造影增强的血管壁，便于定位与显示病灶区域。能够在临床应用上，简便快速地获得血管的真实信息，以进行血管病变分析。

Claims (7)

1.一种基于迁移学习的医学图像分割与显示方法，其特征在于，包括：

获取颅内血管部位的亮血图像组、黑血图像组和增强黑血图像组；其中，所述亮血图像组、所述黑血图像组、所述增强黑血图像组分别包括K个亮血图像、黑血图像和增强黑血图像；所述亮血图像组、所述黑血图像组、所述增强黑血图像组中的图像一一对应；K为大于2的自然数；

针对所述亮血图像组中每一个亮血图像，以所述增强黑血图像组中对应的增强黑血图像为基准，利用基于互信息和图像金字塔的配准方法进行图像配准，得到包括K个配准后亮血图像的配准后亮血图像组；

利用所述配准后亮血图像组，对所述增强黑血图像组中的增强黑血图像进行流空伪影消除操作，得到包括K个目标增强黑血图像的伪影消除增强黑血图像组；

将所述伪影消除增强黑血图像组和所述黑血图像组中对应图像相减，得到K个造影增强图；

利用所述配准后亮血图像组，采用迁移学习方法建立血液三维模型；包括：将所述配准后亮血图像组利用最大强度投影法在预设的三个方向进行投影，得到各个方向的MIP图；将各个方向的MIP图作为目标域，将眼底血管图作为源域，利用迁移学习方法得到各个方向的MIP图对应的二维血管分割图；将三个方向的所述二维血管分割图利用反投影法进行合成，得到第一三维血管体数据；其中，所述第一三维血管体数据中血管部分的体素值为0，非血管部分的体素值为负无穷；基于所述第一三维血管体数据、所述配准后亮血图像组对应的第二三维血管体数据，得到血液三维模型；其中，所述将各个方向的MIP图作为目标域，将眼底血管图作为源域，利用迁移学习方法得到各个方向的MIP图对应的二维血管分割图；包括：获得针对眼底血管图分割任务预训练好的目标神经网络；其中，所述目标神经网络是根据眼底血管图数据集、改进型U-net网络模型预先训练得到的；将各个方向的MIP图分别进行灰度反转处理以及对比度增强处理，得到对应的特征MIP图；其中，所述特征MIP图与眼底血管图具有相同的样本分布；将各个方向的所述特征MIP图分别输入所述目标神经网络，得到对应的二维血管分割图；

利用所述配准后亮血图像组建立血液边界扩展的血管三维模型；

利用所述K个造影增强图建立造影增强三维模型；

基于所述血液三维模型、所述血管三维模型、所述造影增强三维模型，得到颅内血管增强三维模型；

获取所述颅内血管增强三维模型中各段血管的表征血管狭窄程度的目标参数的数值，并利用各段血管的所述目标参数的数值对所述颅内血管增强三维模型进行标记，得到颅内血管病灶识别模型；包括：针对所述颅内血管造影增强三维模型中的每一段血管，从预设的三个方位进行切分，获得各方位的二维切面图；将每个方位的二维切面图中的血管进行腐蚀操作，记录血管腐蚀至单个像素时的目标腐蚀次数；根据该段血管在所述三个方位分别对应的目标腐蚀次数，得到表征该段血管狭窄程度的目标参数的数值；利用各段血管的所述目标参数的数值对所述颅内血管造影增强三维模型进行标记，得到颅内血管病灶识别模型；

将所述颅内血管病灶识别模型进行显示。

2.根据权利要求1所述的方法，其特征在于，所述针对所述亮血图像组中每一个亮血图像，以所述增强黑血图像组中对应的增强黑血图像为基准，利用基于互信息和图像金字塔的配准方法进行图像配准，得到包括K个配准后亮血图像的配准后亮血图像组，包括：

对每一个亮血图像和对应的增强黑血图像进行预处理，得到第一亮血图像和第一黑血图像；

基于下采样处理，由所述第一亮血图像得到亮血高斯金字塔，由所述第一黑血图像得到黑血高斯金字塔；其中，所述亮血高斯金字塔和所述黑血高斯金字塔中包括从下至上分辨率依次变小的m个图像；m为大于3的自然数；

基于上采样处理，利用所述亮血高斯金字塔得到亮血拉普拉斯金字塔，利用所述黑血高斯金字塔得到黑血拉普拉斯金字塔；其中，所述亮血拉普拉斯金字塔和所述黑血拉普拉斯金字塔中包括从下至上分辨率依次变小的m-1个图像；

对所述亮血拉普拉斯金字塔和所述黑血拉普拉斯金字塔中对应层的图像进行配准，得到配准的亮血拉普拉斯金字塔；

利用所述配准的亮血拉普拉斯金字塔作为叠加信息，对所述亮血高斯金字塔和所述黑血高斯金字塔中各层图像进行自上而下的配准，得到配准的亮血高斯金字塔；

基于所述配准的亮血高斯金字塔得到该亮血图像对应的配准后亮血图像；

由K个亮血图像分别对应的配准后亮血图像，得到配准后亮血图像组。

3.根据权利要求2所述的方法，其特征在于，所述利用所述配准的亮血拉普拉斯金字塔作为叠加信息，对所述亮血高斯金字塔和所述黑血高斯金字塔中各层图像进行自上而下的配准，得到配准的亮血高斯金字塔，包括：

对所述亮血高斯金字塔和所述黑血高斯金字塔中自上而下的第j层，将该层对应的黑血高斯图像作为参考图像，将该层对应的亮血高斯图像作为浮动图像，使用基于互信息的相似性度量及预定搜索策略，实现图像配准，得到配准后的第j层亮血高斯图像；

将所述配准后的第j层亮血高斯图像进行上采样操作，并与配准后的对应层亮血拉普拉斯图像相加，利用相加后的图像替换所述亮血高斯金字塔中第j+1层的亮血高斯图像；

将第j+1层的黑血高斯图像作为参考图像，将替换后的第j+1层的亮血高斯图像作为浮动图像，使用预定相似性度量及预定搜索策略，实现图像配准，得到配准后的第j+1层亮血高斯图像；

其中j＝1，2，…，m-1，所述黑血高斯图像为所述黑血高斯金字塔中的图像，所述亮血高斯图像为所述亮血高斯金字塔中的图像。

4.根据权利要求1或3所述的方法，其特征在于，所述利用所述配准后亮血图像组，对所述增强黑血图像组中的增强黑血图像进行流空伪影消除操作，得到包括K个目标增强黑血图像的伪影消除增强黑血图像组，包括：

针对每一个配准后亮血图像，提高该配准后亮血图像的对比度，得到对比增强亮血图像；

从所述对比增强亮血图像中提取出血液信息，得到亮血特征图；

将所述亮血特征图与该配准后亮血图像对应的增强黑血图像，依据预设融合公式进行图像融合，得到该增强黑血图像对应的流空伪影消除的目标增强黑血图像；

由K个增强黑血图像对应的目标增强黑血图像，得到伪影消除增强黑血图像组。

5.根据权利要求4所述的方法，其特征在于，所述从所述对比增强亮血图像中提取出血液信息，得到亮血特征图，包括：

利用预设图像二值化方法确定第一阈值；

利用所述第一阈值，从所述对比增强亮血图像中提取出血液信息；

由提取出的所述血液信息得到亮血特征图。

6.根据权利要求1所述的方法，其特征在于，所述将所述颅内血管病灶识别模型进行显示，包括：

将所述颅内血管病灶识别模型通过计算机显示屏显示；或采用裸眼3D全息显示系统进行显示；或将所述颅内血管病灶识别模型导出为STL文件并通过3D打印显示。

7.根据权利要求6所述的方法，其特征在于，将所述颅内血管病灶识别模型通过计算机显示屏显示；或采用裸眼3D全息显示系统进行显示之后，还包括：

采用手势识别对所显示的颅内血管病灶识别模型进行手动缩放、旋转、切割、虚拟手术操作。