发明内容
本公开提供了一种CT图像和MRI三维图像的配准方法、装置。
根据本公开实施例的第一方面,提供一种CT图像和MRI三维图像的配准方法,包括:
获取原始采集得到的CT图像和MRI三维图像并进行预处理操作,得到CT处理图像和MRI处理图像;
利用预训练得到的模态转换生成器对所述CT处理图像和MRI处理图像进行模态转换,得到CT模态转换图像和MRI模态转换图像;
利用预训练得到的单模态配准网络对所述CT处理图像和MRI处理图像进行预测,得到单模态配准置信度;
利用预训练得到的多模态配准网络,对所述CT处理图像、MRI处理图像、CT模态转换图像、MRI模态转换图像和所述单模态配准置信度进行配准,以实现所述CT图像和MRI三维图像的自动配准。
根据本公开实施例的第二方面,提供一种CT图像和MRI三维图像的配准装置,包括:
预处理模块,用于获取原始采集得到的CT图像和MRI三维图像并进行预处理操作,
得到CT处理图像
和MRI处理图像
;
模态转换模块,用于利用预训练得到的模态转换生成器对所述CT处理图像
和
MRI处理图像
进行模态转换,得到CT模态转换图像和MRI模态转换图像;
置信度模块,用于利用预训练得到的单模态配准网络对所述CT处理图像
和MRI
处理图像
进行预测,得到单模态配准置信度;
配准模块,用于利用预训练得到的多模态配准网络,对所述CT处理图像
、MRI处
理图像
、CT模态转换图像、MRI模态转换图像和所述单模态配准置信度进行配准,以实
现所述CT图像和MRI三维图像的自动配准。
根据本公开实施例的第三方面,提供一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现第一方面中任一项所述的CT图像和MRI三维图像的配准方法。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现第一方面中任一所述的CT图像和MRI三维图像的配准方法。
根据本公开实施例的第五方面,提供一种计算机程序产品,包括计算机程序,所述程序被处理器执行时实现第一方面中任一所述的CT图像和MRI三维图像的配准方法。
本公开实施例中,可利用训练完毕的多模态配准网络对待配准CT图像和MRI三维医学图像进行自动配准,相比于现有的配准方法,可克服图像模态差异带来的相似度度量困难,精准高效地完成配准任务,无需额外手工标注操作,有较高的实用价值。
本公开提供的CT图像和MRI三维图像的配准方法通过设计模态转换网络消除了CT和MRI三维医学图像间模态差异,使其经配准形变后相似度可以度量,从而可进行无监督配准;通过设计单模态配准网络并进行置信度预测,克服了模态转换图像在不同区域可信度不一的问题,筛选可靠模态用于配准以提高配准精度;设计了多模态配准网络对消除外观差异后CT和MRI图像进行配准,通过随机薄板样条插值完成数据增广以克服数据量少、易过拟合的问题。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的具体方式并不代表与本公开相一致的所有方案。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在本公开使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本公开可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本公开范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
为了使本公开提供的获取客流数据的方法更加清楚,下面结合附图和具体实施例对本公开提供的方案执行过程进行详细描述。
参见图1,图1是本公开提供的实施例示出的一种CT图像和MRI三维图像的配准方法流程图。如图1所示,该流程包括步骤101-104。
步骤101,获取原始采集得到的CT图像和MRI三维图像并进行预处理操作,得到CT
处理图像
和MRI处理图像
。
本步骤可以获取同一目标对象的同一器官组织的CT图像和MRI三维图像,例如获取同一病灶的40张CT图像和40张MRI三维图像,并对获取的三维图像进行裁剪、缩放等预处理操作。
在本公开实施例中,步骤101获取的三维图像是由医学图像采集设备采集到的原始图像,所以需要进行预处理操作,从而将图像统一至相同大小、层间距和分辨率。示例性的,可以将原始采集到的CT图像和MRI三维图像裁剪出160*160*48像素大小的三维图像,图像中各切片分辨率为1.5mm*1.5mm,切片间距1.5mm。预处理操作后的这些图像可被用于训练配准网络等机器学习模型。
步骤102,利用预训练得到的模态转换生成器对所述CT处理图像和MRI处理图像
进行模态转换,得到CT模态转换图像和MRI模态转换图像。
在一些可选实施例中,在步骤102之前还包括:
利用所述CT处理图像
和MRI处理图像
对模态转换网络进行训练,得到所述
模态转换生成器;其中,所述模态转换网络包括生成器
、生成器
、判别器
和判别器
,并且,
所述生成器
的输入为CT处理图像
,输出为模态转换后的CT模态转换图
像;
所述生成器
的输入为MRI处理图像
,输出为模态转换后的MRI模态转换
图像;
所述判别器
和所述判别器
的输入为任意模态图像,输出为是否属于CT模
态或MRI模态。
在一些可选实施例中,所述生成器
或所述生成器
为包括两个下采
样层和两个上采样层的U-Net网络;所述判别器
和所述判别器
为包括四个卷积层和
一个全连接层的网络结构;
所述利用所述CT处理图像
和MRI处理图像
对模态转换网络进行训练,得到
所述模态转换生成器,包括:
将一组所述CT处理图像和MRI处理图像
作为输入,由所述生成器
和生成器
分别对所述CT处理图像
和MRI处理图像
进行模态转换,得到模态转
换后的CT模态转换图像
和模态转换后的MRI模态转换图像
;
基于所述判别器
和判别器
,判断所述CT模态转换图像
和所述MRI
模态转换图像
是否属于CT模态或MRI模态,得到生成对抗损失;
基于所述生成器
和生成器
,将所述CT模态转换图像
和所
述MRI模态转换图像
转换至原CT模态和MRI模态,并与所述CT处理图像
和MRI处
理图像
进行比较,得到循环一致损失;
根据所述生成对抗损失和所述循环一致损失,反向更新所述生成器
、生成
器
、判别器
和判别器
的网络参数;
将训练完毕的所述生成器
和所述生成器
,作为所述模态转换生成
器。
训练完毕后,训练完毕的模态转换生成器可用于将CT处理图像或MRI处理图像转换至MRI模态或CT模态。例如,可对CT处理图像或MRI处理图像的每一二维切片,使用训练完毕的模态转换生成器对其进行模态转换,将生成的二维切片首尾相连得到模态转换生成的三维图像。模态转换后生成的图像改变了原图像的外观模态,同时保留了原图像的结构特征。
其中,
为将CT处理图像
转换至MRI模态的模态转换网络的生成对抗损
失;
为将MRI处理图像
转换至CT模态的模态转换网络的生成对抗损失;
其中,
为将所述CT模态转换图像转换至原CT模态的循环一致损失;
为将所述MRI模态转换图像转换至原MRI模态的循环一致损失。
步骤103,利用预训练得到的单模态配准网络对所述CT处理图像
和MRI处理图
像
进行预测,得到单模态配准置信度。
在一些可选实施例中,在步骤103之前还包括:
利用所述CT处理图像
、所述MRI处理图像
、所述CT模态转换图像和所述MRI
模态转换图像,对所述单模态配准网络进行训练,得到训练完毕的所述单模态配准网络;其
中,所述单模态配准网络包括第一单模态配准子网络
和第二单模态配准子网络
;
利用所述第一单模态配准子网络
和所述第二单模态配准子网络
,分别对每组所述CT处理图像和MRI处理图像
进行配准,得到三维非刚
性形变场;
将所述三维非刚性形变场与目标体素的误差,作为所述单模态配准置信度。
在一些可选实施例中,所述第一单模态配准子网络
或第二单模态配准子
网络
为包括四个下采样层、四个上采样层和三个三维卷积层的3DU-Net网络结构;
所述利用所述CT处理图像
、所述MRI处理图像
、所述CT模态转换图像和所
述MRI模态转换图像,对所述单模态配准网络进行训练,得到训练完毕的所述单模态配准网
络,包括:
所述第一单模态配准子网络
的输入为所述CT处理图像和模态转换后的
所述MRI模态转换图像
,所述第一单模态配准子网络
的输出为
所述CT处理图像和模态转换后的所述MRI模态转换图像之间的三维非刚性形变场;
所述第二单模态配准子网络
的输入为模态转换后的所述CT模态转换图
像和所述MRI处理图像
,所述第二单模态配准子网络
的输出为
所述CT模态转换图像和所述MRI处理图像之间的三维非刚性形变场。
在一些可选实施例中,所述第一单模态配准子网络
或第二单模态配准子
网络
以经形变后输入图像间均方误差及正则项作为网络损失函数,该损失函数
为:
式中,
和
分别为输入单模态配准网络的待配准图像,
为单模态配准网络
预测的三维非刚性形变场,
为网络损失函数。在训练过程中,使用该损失函数反向传播更
新单模态配准网络
和
参数。
本步骤中,对CT处理图像和MRI处理图像中每组图像
,使用单模态配准
网络
和
分别进行配准,预测三维非刚性形变场。针对CT处理图像和MRI处
理图像每个体素,为选取精度较高适于进行配准的模态,计算其使用单模态配准网络
和
得到配准结果形变场形变后与目标体素间误差作为其使用单模态配
准网络配准的置信度。
步骤104,利用预训练得到的多模态配准网络,对所述CT处理图像
、MRI处理图
像
、CT模态转换图像、MRI模态转换图像和所述单模态配准置信度进行配准,以实现所
述CT图像和MRI三维图像的自动配准。
在一些可选实施例中,在步骤104之前还包括:
将一组所述CT处理图像和MRI处理图像
、所述CT模态转换图像和MRI模
态转换图像
、及所述单模态配准置信度作为所述多模态配准
网络的输入,输出预测的CT处理图像和MRI处理图像间的三维非刚性形变场,并以经形变后
待配准图像间均方误差、正则项及自监督损失作为网络损失函数:
利用所述网络损失函数反向传播更新所述多模态配准网络的网络参数,得到训练完毕的所述多模态配准网络。
在一些可选实施例中,可使用单模态配准置信度训练多模态配准网络,得到训练完毕的多模态配准网络,具体步骤如下:
步骤1)使用薄板样条插值方法生成随机三维形变场以实现数据增广。
在本实施例中,为对步骤101得到的CT图像和MRI三维医学图像的数据集进行扩充,生成更多图像数据以避免网络训练过拟合,可使用薄板样条插值方法生成随机三维形变场,将该形变场应用于CT图像和MRI三维医学图像的数据集以实现数据增广。
具体地,在由待配准图像体素坐标构成的格点网格中均匀选取
个格点作
为控制点,对该27个控制点应用随机位移,根据控制点位移后新的坐标使用薄板样条插值
方法生成新的格点网格
作为随机三维形变场,将该形变场
应用于步骤101得到的CT处
理图像和MRI处理图像的数据集以增广数据。
步骤2)训练多模态配准网络。
在本实施例中,可训练多模态配准网络以预测输入的CT图像和MRI三维医学图像间非刚性三维形变场。多模态配准网络使用包含四个下采样层和四个上采样层3DU-Net网络结构,并额外添加了三个三维卷积层。
在训练时,多模态配准网络以步骤101得到的CT处理图像和MRI处理图像中一组图像、使用训练完毕的模态转换生成器生成的模态转换图像、以及单模态配准置信度作为输入,输出预测的CT图像和MRI图像间三维非刚性形变场,并以经形变后待配准图像间均方误差、正则项及自监督损失作为网络损失函数:
式中,
为多模态配准网络预测的
间三维非刚性形变场,
为步骤1)生成
的随机三维形变场,
为多模态配准网络预测的经随机三维形变场扰动后待配准图像间
三维非刚性形变场,
为网络超参数,
为网络损失函数。在训练过程中,使用该损失函数反
向传播更新多模态配准网络参数。
训练完毕后,得到训练完毕的多模态配准网络。
本公开实施例中,可利用训练完毕的多模态配准网络对待配准CT图像和MRI三维医学图像进行自动配准,相比于现有的配准方法,可克服图像模态差异带来的相似度度量困难,精准高效地完成配准任务,无需额外手工标注操作,有较高的实用价值。
本公开提供的CT图像和MRI三维图像的配准方法通过设计模态转换网络消除了CT和MRI三维医学图像间模态差异,使其经配准形变后相似度可以度量,从而可进行无监督配准;通过设计单模态配准网络并进行置信度预测,克服了模态转换图像在不同区域可信度不一的问题,筛选可靠模态用于配准以提高配准精度;设计了多模态配准网络对消除外观差异后CT和MRI图像进行配准,通过随机薄板样条插值完成数据增广以克服数据量少、易过拟合的问题。
图2所示,本公开提供了一种CT图像和MRI三维图像的配准装置,该装置可以执行本公开任一实施例的CT图像和MRI三维图像的配准方法。该装置可以包括预处理模块201、模态转换模块202、置信度模块203和配准模块204。其中:
预处理模块201,用于获取原始采集得到的CT图像和MRI三维图像并进行预处理操
作,得到CT处理图像
和MRI处理图像
;
模态转换模块202,用于利用预训练得到的模态转换生成器对所述CT处理图像
和MRI处理图像
进行模态转换,得到CT模态转换图像和MRI模态转换图像;
置信度模块203,用于利用预训练得到的单模态配准网络对所述CT处理图像
和
MRI处理图像
进行预测,得到单模态配准置信度;
配准模块204,用于利用预训练得到的多模态配准网络,对所述CT处理图像
、
MRI处理图像
、CT模态转换图像、MRI模态转换图像和所述单模态配准置信度进行配准,
以实现所述CT图像和MRI三维图像的自动配准。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本公开至少一个实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
本公开还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时能够实现本公开任一实施例的CT图像和MRI三维图像的配准方法。
图3示出了本公开实施例所提供的一种更为具体的计算机设备硬件结构示意图,该设备可以包括:处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
处理器1010可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本说明书实施例所提供的技术方案。
存储器1020可以采用ROM(Read Only Memory,只读存储器)、RAM(Random AccessMemory,随机存取存储器)、静态存储设备,动态存储设备等形式实现。存储器1020可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器1020中,并由处理器1010来调用执行。
输入/输出接口1030用于连接输入/输出模块,以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出),也可以外接于设备以提供相应功能。其中输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等,输出设备可以包括显示器、扬声器、振动器、指示灯等。
通信接口1040用于连接通信模块(图中未示出),以实现本设备与其他设备的通信交互。其中通信模块可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线1050包括一通路,在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
需要说明的是,尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050,但是在具体实施过程中,该设备还可以包括实现正常运行所必需的其他组件。此外,本领域的技术人员可以理解的是,上述设备中也可以仅包含实现本说明书实施例方案所必需的组件,而不必包含图中所示的全部组件。
本公开还提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时能够实现本公开任一实施例的CT图像和MRI三维图像的配准方法。
其中,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等,本公开并不对此进行限制。
在一些可选实施例中,本公开实施例提供了一种计算机程序产品,包括计算机可读代码,当计算机可读代码在设备上运行时,设备中的处理器执行用于实现如上任一实施例提供的CT图像和MRI三维图像的配准方法。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。
本领域技术人员在考虑说明书及实践这里申请的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
以上所述仅为本公开的较佳实施例而已,并不用于限制本公开,凡在本公开的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本公开保护的范围之内。