CN111047629A - 多模态图像配准的方法、装置、电子设备及存储介质 - Google Patents
多模态图像配准的方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111047629A CN111047629A CN201911065971.3A CN201911065971A CN111047629A CN 111047629 A CN111047629 A CN 111047629A CN 201911065971 A CN201911065971 A CN 201911065971A CN 111047629 A CN111047629 A CN 111047629A
- Authority
- CN
- China
- Prior art keywords
- image
- intensity
- corrected
- trained
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
Abstract
本申请适用于模式识别技术领域,提供了多模态图像配准的方法,包括:获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配;根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。降低了因图像强度特征的影响,可以避免待修正的第一图像的同一对象与理想配准结果的距离差异过大导致精度下降,从而提高了配准精度。
Description
技术领域
本申请属于模式识别技术领域,尤其涉及一种多模态图像配准的方法、装置、电子设备及存储介质。
背景技术
图像配准是对图像的定位和转换,例如,在医学图像处理领域,通过寻找一种空间变换,使两幅图像对应点达到空间位置和解剖结构上的一致。图像配准的目的是比较或融合针对同一对象不同条件下获取的图像。在多模态图像配准场景下,用于单一模态的图像的配准技术无法适应多模态图像的差异,导致配准精度低,因此需要一种针对多模态图像的配准方法。
发明内容
本申请实施例提供了一种多模态图像配准的方法、装置、电子设备及存储介质,可以解决上述问题。
第一方面,本申请实施例提供了一种多模态图像配准的方法,包括:
获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配;根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
应理解,通过预先修正待配准的第一图像的强度,使其强度分布与目标模态的强度匹配,根据第一修正图像和第二图像获取第一图像到目标模态的形变场,降低了因图像强度特征的影响,可以避免待修正的第一图像的同一对象与理想配准结果的距离差异过大导致精度下降,从而提高了配准精度。
第二方面,本申请实施例提供了一种多模态图像配准的装置,包括:
图像获取模块,用于获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;
强度修正模块,用于对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配;
形变场获取模块,用于根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;
配准模块,用于根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
第三方面,本申请实施例提供了一种电子设备,包括:
包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,包括:所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法步骤。
第五方面本申请实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行上述第一方面所述的方法步骤。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的电子设备的结构示意图;
图2是本申请一实施例提供的多模态图像配准方法的流程示意图;
图3a是本申请一实施例提供的多模态图像配准方法的数据处理架构强度修正部分示意图;
图3b是本申请一实施例提供的多模态图像配准方法的数据处理架构配准部分示意图;
图4a是本申请另一实施例提供的多模态图像配准方法的数据处理架构强度修正部分示意图;
图4b是本申请另一实施例提供的多模态图像配准方法的数据处理架构配准部分示意图;
图5是本申请一实施例提供的循环生成对抗网络示意图;
图6是本申请另一实施例提供的多模态图像配准方法的流程示意图;
图7是本申请一实施例提供的编解码网络示意图;
图8是本申请一实施例提供的多模态图像配准装置的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
图像配准的目的是比较或融合针对同一对象不同条件下获取的图像。尤其在医学图像分析领域的许多应用中扮演重要角色。在医学影像分析中,例如磁共振成像(MagneticResonance Imaging,MRI)影像分析,具有不同侧重的成像序列,如T1序列适合观察解剖结构,而T2序列更侧重观察组织病变。准确的病情分析往往需要比对分析同一区域(对象)的多模态影像,例如超声影像、MRI影像、电子计算机断层扫描(Computed Tomography,CT)影像,或融合处理多模态影像以获得更有临床指导价值的融合图像。
随着深度学习技术的发展,出现了采用卷积神经网络(Convolutional NeuralNetwork,CNN)实现从集合中学习参数化的配准函数。CNN网络接受两个输入,两个输入分别为待配准图像和一个固定的模板,该网络输出一个体素到另一个体素的映射场。通过共享的参数,该过程学习一种通用的表示法,该表示法可以对齐来自同一分布的新数据。
采用CNN模型进行图像配准方法存在的问题是,模板必须具有普遍性。例如,在医学影像应用中,在一些已经发生病变的影像中,病变周围往往伴随着随处可见的组织形变,若此时再将形变严重的影像配准到一个固定的标准模板往往会导致配准不准确,如已经被破坏的组织在配准后恢复正常,这将影响后续诊断分析的准确性。
采用CNN模型进行图像配准方法存在的另一个问题是,该方法也无法应用于不同模态的医学影像处理。例如,在医学影像应用中,由于MRI不同模态影像之间同一组织的成像强度可能不同,该方法无法通过简单的损失函数优化。以MRI的T1及T2序列为例,在脑部MR影像中,T1对脑脊液表现为低信号,而T2表现为高信号,而在对骨骼的成像中,两种模态都表现为高信号,因此无法使用常用的均方误差或交叉熵损失函数做统一处理。
为了解决多模态图像之间同一对象的成像强度不同,造成配准精度低的问题,本申请实施例提供了通过获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;对所述第一图像的强度进行修正得到第一修正图像;所述第一修正图像的强度与所述第二图像的强度分布匹配;根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
可以理解的是,通过预先修正待配准的第一图像的强度,使其强度分布与目标模态的强度匹配或称对齐,根据第一修正图像和第二图像获取第一图像到目标模态的形变场,降低了因图像强度特征的影响,可以避免待修正的第一图像的同一对象与理想配准结果的距离差异过大导致精度下降,从而提高了配准精度。
可选的,采用经训练的循环生成对抗网络,根据第一图像和第二图像对第一图像的强度进行修正获得第一修正图像,相对于其他神经网络模型,可以使第一修正图像中的对象的强度接近第二图像的同时保留第一图像的特征,进而提高根据第二图像和第一修正图像获取的形变场的精度。另一方面,采用循环生成对抗网络根据同一个对象的源模态的图像和目标模态的图像对源模态的图像进行修正,可以避免采用固定模板造成的误差,从而提高配准精度。
可选的,采用包括形变损失的第一损失函数训练所述待训练的循环生成对抗网络,可以在修正第一图像强度的同时,在第一修正图像中保留更多第一图像的形状特征,从而根据第一修正图像和第二图像获得第一修正图像到目标模态的形变场的精度可以得到提高。
以下结合附图对本申请的一些实施例进行阐述。
图1示出的是本申请实施例提供的一种电子设备D10,包括:至少一个处理器D100、存储器D101以及存储在存储器D101中并可在所述至少一个处理器D100上运行的计算机程序D102,所述处理器D100执行所述计算机程序D102时实现本申请实施例提供的多模态图像配准方法至少之一。
可以理解的是,上述电子设备,可以是桌上型计算机、笔记本、掌上电脑服务器、服务器集群、分布式服务器及云端服务器等计算设备。该电子设备D10可包括,但不仅限于,处理器D100、存储器D101。本领域技术人员可以理解,图1仅仅是电子设备D10的举例,并不构成对电子设备D10的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入输出设备、网络接入设备等。
所称处理器D100可以是中央处理单元(Central Processing Unit,CPU),该处理器D100还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器D101在一些实施例中可以是所述电子设备D10的内部存储单元,例如电子设备D10的硬盘或内存。所述存储器D101在另一些实施例中也可以是所述电子设备D10的外部存储设备,例如所述电子设备D10上配备的插接式硬盘,智能存储卡(Smart MediaCard,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器D101还可以既包括所述电子设备D10的内部存储单元也包括外部存储设备。所述存储器D101用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,例如所述计算机程序的程序代码等。所述存储器D101还可以用于暂时地存储已经输出或者将要输出的数据。
为了阐述方便,以下实施例中将上述电子设备统称为图像处理设备,可以理解的是,其并不构成对本申请的电子设备的具体限定。
图2示出了本申请实施例提供的一种多模态图像配准的方法,应用于上述图1所示的电子设备,以下称图像处理设备,可由所述图像处理设备的软件/硬件实现。如图2所示,该方法包括步骤S110~S140。各个步骤的具体实现原理如下:
S110,获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像。
在一个非限定性的示例中,图像处理设备获取源模态的第一图像,例如,某对象的头颅正位的CT影像;和与所述第一图像配对的目标模态的第二图像,例如,该对象的的头颅正位的MRI T1序列的影像。这里的配对的图像指的是同一对象的不同模态图像。可以理解的是,图像配准技术在医学影像领域的应用较为广泛,本申请大部分示例以医学影像处理的为例进行说明,但本申请实施例提供的图像配准方法同样可以应用于其他图像处理领域,例如机器视觉领域、虚拟/增强显示领域等需要对图像进行比对和融合的领域,这里不再赘述。
S120,对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配。
在一个非限定性的示例中,图像处理设备对第一图像的强度进行修正得到第一修正图像。例如,图像处理设备通过预设的统计学模型修正第一图像的强度;又例如,图像处理设备通过对识别第一图像中的感兴趣区域后,对感兴趣区域进行分割后,对感性区域的强度进行修正;再例如,图像处理设备通过经训练的神经网络模型对第一图像的强度进行修正;从而获得第一修正图像。可以理解的是,可以采用以上示例方法至少之一以及其他可以调整图像强度的方法对第一图像的强度进行修正,使所述第一图像的强度与所述第二图像的强度分布匹配,即第一修正图像的整体图像强度的分布与第二图像的强度分布近似,或第一修正图像的感兴趣区域的图像强度分布与第二图像的感兴趣区域分布近似。例如,对头颅正位CT影像进行强度修正后获得的修正头颅正位CT影像的骨骼部分的强度分布和目标模态MRI T1序列的头颅正位影像的骨骼部分的强度分布近似。可以理解的是,对单通道的灰度图像,修正其强度(灰度)即可,对于多通道的图像,例如RGB图像,可根据实际情况选取一个或多个通道的强度进行修正以方便后续处理,这里不再赘述。
S130,根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场。
在一个非限定性的示例中,图像处理设备通过经训练的无监督或半监督神经网络模型根据第一修正图像和第二图像获得第一修正图像到目标模态的形变场。
S140,根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
在一个非限定性的示例中,图像处理装置根据修正前的第一图像和所述形变场获取修正前的第一图像配准到目标模态的配准图像。例如,通过步骤S130得到的形变场,将头颅正位CT影像配准到MRI T1序列的影像,可以理解的是,得到的配准图像是头颅对应像素位置调整,但是强度不变或强度改变较少的图像。
图3a和图3b示出的是一个非限定性的示例。如图3a所示,通过图像强度修正模型第一图像的前度进行修正获得第一修正图像。根据第一修正图像和第二图像,通过形变场获取模型得到第一修正图像配准到目标模态的形变场。如图3b所示,第一图像通过形变场配准到目标模态的配准图像,该配准图像是第一图像中的像素位置调整到目标模态对应位置,但是强度不变。可以理解的是,通过预先修正待配准的第一图像的强度,使其强度分布与目标模态的强度匹配或称对齐,根据第一修正图像和第二图像获取第一图像到目标模态的形变场,降低了因图像强度特征的影响,可以避免待修正的第一图像的同一对象与理想配准结果的距离差异过大导致精度下降,从而提高了配准精度。
在如上述图2所述的实施例的基础上,图4a和图4b示出了本申请实施例提供的另一种多模态图像配准方法。图如4a所示,采用循环生成对抗网络,根据第一图像和第二图像对第一图像的强度进行修正得到第一修正图像,使第一修正图像的强度与第二图像的强度分布匹配。相对于其他神经网络模型,可以在第一修正图像中的对象的强度接近第二图像的同时保留第一图像的特征,进而提高根据第二图像和第一修正图像获取的形变场的精度。另一方面,采用循环生成对抗网络根据同一个对象的源模态的图像和目标模态的图像对源模态的图像进行修正,可以避免采用固定模板造成的误差,从而提高配准精度。
参见图5,在一个具体的非限定性的示例中,图5所示的循环生成对抗网络分别由两个生成器(Generator)和两个鉴别器(Discriminator)构成。其中,X域对应为源模态,Y域对应为目标模态。X、Y为两种模态的数据集,G表示为从X域图像生成Y域图像的生成器,F为与G方向相反的从Y域图像生成X域图像的生成器。DY、DX分别为两个生成器对应的鉴别器,其作用为促进生成器结果与目标域的分布近似。
生成器的作用是合成新的图像,可以是U-Net网络实现。鉴别器的作用是判断合成图像的可信度,可以是VGG分类网络。可以理解的是,本领域技术人员可以在本申请实施例的教导下根据实际实施情况选用合适的生成器网络或鉴别器网络。
首先训练生成器,输入为X域图像x,金标准为Y域的与图像x配对的图像y,经过生成器G后,输出为合成图像q,此时将图像q与图像y当做DY的输入,判断图像q与图像y的真假。另一条支路与之对应,路径为图像y和图像q经生成器F得到q′后,经DX判断x和q′真假。非限定性的,网络的学习率设置为0.0001,优化器选择Adam,通过反向传播过程训练约100批次后,得到训练好的生成对抗网络模型。该循环生成对抗网络训练完成后,输入任意一张X域的图像x,和Y域的图像y,将得强度修正后的图像x。图像x具有Y域相似的强度分布。
本示例中,反向传播过程采用的损失函数一种可能的实现方式为:
通过损失函数公式(1)训练图5所示的循环生成对抗网络,得到的经训练的循环生成对抗网络对X域图像的强度进行修正后,会带有Y域的形状特征,为了提高配准精度,在公式(1)表示的损失函数基础上引入了包含形变损失的第一损失函数公式(5)训练所述待训练的循环生成对抗网络。
其中,
如公式(6)和公式(7)所示根据所述循环生成对抗网络的生成器的输入图像与所述生成器的输出图像中各自对应的表征形状特征的参数的差值获得所述形变损失。
其中,α是权重因子系数,确定了形变损失在整体损失中的占比,可以在实施本实施例时根据实际情况选取并预先设置。xi=0,yj=0,表示表征背景的像素点,该形变损失仅在输入图像的背景发生作用,限制其形状的改变。在一种可能的实施方式中,可以先对图像进行预处理以去除噪声,或将背景像素的强度调整为0。
可选的,表征形状特征的参数包括以下参数至少之一:表征形状特征的像素点的强度、前景图像的边界长度和前景图像的面积;其中,所述表征形状的像素点包括以下像素点至少之一:表征背景的像素点、表征图像边缘的像素点和表征图像中感兴趣区域轮廓的像素点。本领域技术人员可以在本申请的实施例的教导下选取合适的参数应用于实际的实施方案中。
可以理解的是,公式(6)和公式(7)为一种可能的实施方式,本应于技术人员应该能遵循本申请实施例的教导选取方差、均差和交叉熵等符合实际实施条件的差值。
通过第一损失函数公式(5)训练图5所示的循环生成对抗网络,输入为X域图像x,金标准为Y域的与图像x配对的图像y,经过生成器G后,输出为合成图像q,此时将图像q与图像y当做DY的输入,判断图像q与图像y的真假。另一条支路与之对应,路径为图像y和图像q经生成器F得到q′后,经DX判断x和q′真假。非限定性的,网络的学习率设置为0.0001,优化器选择Adam优化器,通过反向传播过程训练约100批次后,得到训练好的生成对抗网络模型。该循环生成对抗网络训练完成后,输入任意一张X域的图像x,和Y域的图像y,将得强度修正后的图像x。修正后的图像x具有Y域相似的强度分布,但是修正后的图像x保持图像x的形状特征。
输入数据为同一病人的配对的MRI T1序列的影像和MRI T2序列的影像,数据预处理为统一两组数据的图像大小如192×192×1。输出为T1修正影像,T1修正影像具有和T2相似的强度分布,并且T1修正影像保持T1影像的形状特征。
可以理解的是,采用包括形变损失的第一损失函数训练所述待训练的循环生成对抗网络,可以在修正第一图像强度的同时,在第一修正图像中保留更多第一图像的形状特征,从而根据第一修正图像和第二图像获得第一修正图像到目标模态的形变场的精度可以进一步的提高。
在上述图2所示的多模态图像配准方法的实施例的基础上,图6示出了本申请实施例提供的另一种的多模态图像配准的方法,如图5所示,步骤S130,根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场,包括:
S130’,采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场。
在一个非限定性的示例中,图像处理设备采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场。一种可能的实施方式为,编解码网络为图7所示的以U-Net网络为骨干的深度卷积网络和深度反卷积网络连接构成的编解码网络,图7中C表示卷积过程,U表示反卷积过程。该网络的输入数据为循环生成对抗网络根据第一图像x和第二图像y生成的第一修正图像q,输出为编解码网络对第二图像y和第一修正图像q的估计例如第一修正图像和第二图像为维度192×192×1的灰度图像,该网络的输出为维度192×192×1的图像,在该网络的输出层前设置形变场层,该层在反向传播时提供像素偏移梯度。形变场的作用是对输入图像的每一个像素进行偏移,则维度为192×192×2,最后一个通道的第一维为像素位移长度,第二维为像素位移方向。如图7所示,在取得形变场后,源模态(X域)的图像x经过应用形变场的应用模块得到配准图像x′。
在一个可能的实施例中,采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场前,还包括:
对配对的源模态图像和目标模态图像组成的训练样本集中的源模态图像的强度进行修正,使所述样本集中所述源模态图像和与所述源模态图像配对的目标模态图像的强度分布匹配,获得源模态修正图像和目标模态图像样本集;采用源模态修正图像和目标模态图像样本集训练待训练的编解码网络获得经过训练的编解码网络。例如单组配对的样本为一个对象的的特定部位的MRI T1序列(源模态)影像和T2序列(目标模态)影像,训练样本集为多组不同对象的的图像。通过配对的样本训练编解码网络可以使编码网络参数根据同一对象的两个模态的数据进行调整,以达到应用该编解码网络时不需要固定的模板的效果,只需要同一个对象的配对的两个模态的影像即可获得形变场。在一种可能的示例中,训练编码网络的优化器选择Adam优化器,学习率为0.0001,训练100批次。
在一个非限定性的示例中,训练待训练的编码解码网络,采用第二损失函数训练所述待训练的编解码网络,损失第二损失函数包括所述待训练编解码网络输出图像与所述训练样本集中的目标模态图像的差值。在一个可能的实施方式中采用公式(8)所示的第二损失函数训练编解码网络。
其中,T为编解码网络,G为循环生成对抗网络的生成器,X为源模态图像,Y为目标模态图像。这里采用的是均方差(MSE)损失,可以理解的是在本申请实施例的指引下,本领域技术人员可以根据实际实施的需要选用交叉熵或绝对差等损失。
循环生成对抗网络根据第一图像和第二图像生成的第一修正图像,将第一修正图像和第二图像作为输入如图7所示的编解码网络。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
对应于上述的多模态图像配准方法,图8示出的是本申请实施例提供的一种多模态图像配准装置,包括:
图像获取模块M110,用于获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像。
强度修正模块M120,用于对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配。
形变场获取模块M130,用于根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场。
配准模块M140,用于根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
强度模块M120,用于对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配,包括:
循环生成对抗网络模块M121,用于采用循环生成对抗网络,根据所述第一图像和所述第二图像对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配。
循环生成对抗网络模块M121,采用经训练的循环生成对抗网络,根据所述第一图像和所述第二图像对所述第一图像的强度进行修正前,还包括:
通过循环生成对抗网络训练模块M121’,用于采用配对的源模态图像和目标模态图像组成的训练样本集,训练待训练的循环生成对抗网络,得到经训练的循环生成对抗网络。
循环生成对抗网络训练模块M121’训练待训练的循环生成对抗网络,还包括:
循环生成对抗网络损失函数模块M1211,用于采用包括形变损失的第一损失函数训练所述待训练的循环生成对抗网络;其中,根据所述循环生成对抗网络的生成器的输入图像与所述生成器输出图像中表征形状特征的参数的差值获得所述形变损失。
表征形状特征的参数包括以下参数至少之一:表征形状特征的像素点的强度,前景图像的边界长度和前景图像的面积;其中,所述表征形状的像素点包括以下像素点至少之一:表征背景的像素点、表征图像边缘的像素点和表征图像中感兴趣区域轮廓的像素点。
形变场获取模块M130,用于根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场,包括:
编解码网络模块M1301,用于采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场。
编解码网络模块M1301,用于采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场前,还包括:
编解码网络训练模块M1301’,用于对配对的源模态图像和目标模态图像组成的训练样本集中的源模态图像的强度进行修正,使所述样本集中所述源模态图像和与所述源模态图像配对的目标模态图像的强度分布匹配,获得源模态修正图像和目标模态图像样本集;
编解码网络训练模块M1301’,还用于采用源模态修正图像和目标模态图像样本集训练待训练的编解码网络获得经过训练的编解码网络。
编解码网络训练模块M1301’,还用于采用包括所述待训练编解码网络输出图像与所述训练样本集中的目标模态图像的差值的第二损失函数训练所述待训练的编解码网络。
可以理解的是,以上实施例中的各种实施方式和实施方式组合及其有益效果同样适用于本实施例,这里不再赘述。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请的一些实施例中,采用图1所示的电子设备,该电子设备包括:包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现:
获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;
对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配;
根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;
根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
在一个非限定性的示例中,所述处理器执行所述计算机程序时实现:对所述第一图像的强度进行修正得到第一修正图像,包括:采用经训练的循环生成对抗网络,根据所述第一图像和所述第二图像对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配。
在一个非限定性的示例中,所述处理器执行所述计算机程序时实现:采用经训练的循环生成对抗网络,根据所述第一图像和所述第二图像对所述第一图像的强度进行修正前,还包括:采用配对的源模态图像和目标模态图像组成的训练样本集,训练待训练的循环生成对抗网络,得到经训练的循环生成对抗网络。
在一个非限定性的示例中,所述处理器执行所述计算机程序时实现:训练待训练的循环生成对抗网络,还包括:采用包括形变损失的第一损失函数训练所述待训练的循环生成对抗网络;其中,所述形变损失为根据所述循环生成对抗网络的生成器的输入图像与所述生成器的输出图像各自对应的表征形状特征的参数的差值获得。
表征形状特征的参数包括以下参数至少之一:
表征形状特征的像素点的强度,前景图像的边界长度和前景图像的面积;
其中,所述表征形状的像素点包括以下像素点至少之一:表征背景的像素点、表征图像边缘的像素点和表征图像中感兴趣区域轮廓的像素点。
在一个非限定性的示例中,所述处理器执行所述计算机程序时实现:所述根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场,包括:采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场。
在一个非限定性的示例中,所述处理器执行所述计算机程序时实现:采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场前,还包括:
对配对的源模态图像和目标模态图像组成的训练样本集中的源模态图像的强度进行修正,使所述样本集中所述源模态图像和与所述源模态图像配对的目标模态图像的强度分布匹配,获得源模态修正图像和目标模态图像样本集;
采用源模态修正图像和目标模态图像样本集训练待训练的编解码网络获得经过训练的编解码网络。
在一个非限定性的示例中,所述处理器执行所述计算机程序时实现:训练待训练的编码解码网络,包括:
采用包括所述待训练编解码网络输出图像与所述训练样本集中的目标模态图像的差值的第二损失函数训练所述待训练的编解码网络。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random AccessMemory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (11)
1.一种多模态图像配准的方法,其特征在于,包括:
获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;
对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配;
根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;
根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
2.如权利要求1所述的方法,其特征在于,对所述第一图像的强度进行修正得到第一修正图像,包括:
采用经训练的循环生成对抗网络,根据所述第一图像和所述第二图像对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配。
3.如权利要求2所述的方法,其特征在于,采用经训练的循环生成对抗网络,根据所述第一图像和所述第二图像对所述第一图像的强度进行修正前,还包括:
采用配对的源模态图像和目标模态图像组成的训练样本集,训练待训练的循环生成对抗网络,得到经训练的循环生成对抗网络。
4.如权利要求3所述的方法,其特征在于,训练待训练的循环生成对抗网络,还包括:
采用包括形变损失的第一损失函数训练所述待训练的循环生成对抗网络;
其中,所述形变损失为根据所述循环生成对抗网络的生成器的输入图像与所述生成器的输出图像各自对应的表征形状特征的参数的差值获得。
5.如权利要求4所述的方法,表征形状特征的参数包括以下参数至少之一:
表征形状特征的像素点的强度、前景图像的边界长度和前景图像的面积;
其中,所述表征形状的像素点包括以下像素点至少之一:表征背景的像素点、表征图像边缘的像素点和表征图像中感兴趣区域轮廓的像素点。
6.如权利要求1至5任一项所述的方法,其特征在于,所述根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场,包括:
采用经训练的编解码网络根据所述第一修正图像和所述第二图像,获取所述第一修正图像到目标模态的形变场。
7.如权利要求6所述的方法,其特征在于,采用经训练的编解码网络根据所述第一修正图像和所述第二图像获取所述第一修正图像到目标模态的形变场前,还包括:
对配对的源模态图像和目标模态图像组成的训练样本集中的源模态图像的强度进行修正,获得源模态修正图像和目标模态图像样本集,所述样本集中所述源模态图像和与所述源模态图像配对的目标模态图像的强度分布匹配;
采用源模态修正图像和目标模态图像样本集训练待训练的编解码网络获得经过训练的编解码网络。
8.如权利要求7所述的方法,其特征在于,训练待训练的编码解码网络,包括:
采用第二损失函数训练所述待训练的编解码网络,所述第二损失函数包括所述待训练编解码网络输出图像与所述训练样本集中的目标模态图像的差值。
9.一种多模态图像配准的装置,其特征在于,包括:
图像获取模块,用于获取源模态的第一图像,和与所述第一图像配对的目标模态的第二图像;
强度修正模块,用于对所述第一图像的强度进行修正得到第一修正图像,使所述第一修正图像的强度与所述第二图像的强度分布匹配;
形变场获取模块,用于根据所述第一修正图像和所述第二图像获取所述第一修正图像配准到目标模态的形变场;
配准模块,用于根据所述第一图像和所述形变场获取所述第一图像配准到目标模态的配准图像。
10.一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至8任一项所述的方法。
11.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911065971.3A CN111047629B (zh) | 2019-11-04 | 2019-11-04 | 多模态图像配准的方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911065971.3A CN111047629B (zh) | 2019-11-04 | 2019-11-04 | 多模态图像配准的方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111047629A true CN111047629A (zh) | 2020-04-21 |
CN111047629B CN111047629B (zh) | 2022-04-26 |
Family
ID=70231969
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911065971.3A Active CN111047629B (zh) | 2019-11-04 | 2019-11-04 | 多模态图像配准的方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111047629B (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112102385A (zh) * | 2020-08-20 | 2020-12-18 | 复旦大学 | 一种基于深度学习的多模态肝脏磁共振影像配准系统 |
CN112149634A (zh) * | 2020-10-23 | 2020-12-29 | 北京百度网讯科技有限公司 | 图像生成器的训练方法、装置、设备以及存储介质 |
CN112288639A (zh) * | 2020-07-20 | 2021-01-29 | 深圳市智影医疗科技有限公司 | 影像对比减影方法、装置、终端设备及存储介质 |
CN112598716A (zh) * | 2020-12-01 | 2021-04-02 | 浙江大华技术股份有限公司 | 一种多模态图像的配准方法、装置及系统 |
CN113012204A (zh) * | 2021-04-09 | 2021-06-22 | 福建自贸试验区厦门片区Manteia数据科技有限公司 | 多模态图像的配准方法、装置、存储介质及处理器 |
CN113096165A (zh) * | 2021-04-16 | 2021-07-09 | 无锡物联网创新中心有限公司 | 一种目标对象定位方法及装置 |
CN113269812A (zh) * | 2021-05-25 | 2021-08-17 | 平安科技(深圳)有限公司 | 图像预测模型的训练及应用方法、装置、设备、存储介质 |
CN113723447A (zh) * | 2021-07-15 | 2021-11-30 | 西北工业大学 | 多模态影像的端到端的模板匹配法 |
TWI767614B (zh) * | 2020-07-16 | 2022-06-11 | 大陸商上海商湯智能科技有限公司 | 圖像處理方法及電子設備、電腦可讀儲存介質 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104169969A (zh) * | 2012-03-15 | 2014-11-26 | 皇家飞利浦有限公司 | 多模态可变形配准 |
CN109754414A (zh) * | 2018-12-27 | 2019-05-14 | 上海商汤智能科技有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN109767461A (zh) * | 2018-12-28 | 2019-05-17 | 上海联影智能医疗科技有限公司 | 医学影像配准方法、装置、计算机设备和存储介质 |
CN110163897A (zh) * | 2019-04-24 | 2019-08-23 | 艾瑞迈迪科技石家庄有限公司 | 一种基于合成超声图像的多模态图像配准方法 |
CN110298871A (zh) * | 2019-06-10 | 2019-10-01 | 东软医疗系统股份有限公司 | 图像配准方法及装置 |
-
2019
- 2019-11-04 CN CN201911065971.3A patent/CN111047629B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104169969A (zh) * | 2012-03-15 | 2014-11-26 | 皇家飞利浦有限公司 | 多模态可变形配准 |
CN109754414A (zh) * | 2018-12-27 | 2019-05-14 | 上海商汤智能科技有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN109767461A (zh) * | 2018-12-28 | 2019-05-17 | 上海联影智能医疗科技有限公司 | 医学影像配准方法、装置、计算机设备和存储介质 |
CN110163897A (zh) * | 2019-04-24 | 2019-08-23 | 艾瑞迈迪科技石家庄有限公司 | 一种基于合成超声图像的多模态图像配准方法 |
CN110298871A (zh) * | 2019-06-10 | 2019-10-01 | 东软医疗系统股份有限公司 | 图像配准方法及装置 |
Non-Patent Citations (2)
Title |
---|
DWARIKANATH MAHAPATRA ET AL.: "DEFORMABLE MEDICAL IMAGE REGISTRATION USING GENERATIVE ADVERSARIAL NETWORKS", 《2018 IEEE 15TH INTERNATIONAL SYMPOSIUM ON BIOMEDICAL IMAGING (ISBI 2018)》 * |
甄鑫: "自适应放射治疗中的图像变形配准关键技术研究", 《中国优秀硕博士学位论文全文数据库(博士)信息科技辑》 * |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI767614B (zh) * | 2020-07-16 | 2022-06-11 | 大陸商上海商湯智能科技有限公司 | 圖像處理方法及電子設備、電腦可讀儲存介質 |
CN112288639A (zh) * | 2020-07-20 | 2021-01-29 | 深圳市智影医疗科技有限公司 | 影像对比减影方法、装置、终端设备及存储介质 |
CN112102385A (zh) * | 2020-08-20 | 2020-12-18 | 复旦大学 | 一种基于深度学习的多模态肝脏磁共振影像配准系统 |
CN112149634A (zh) * | 2020-10-23 | 2020-12-29 | 北京百度网讯科技有限公司 | 图像生成器的训练方法、装置、设备以及存储介质 |
CN112598716A (zh) * | 2020-12-01 | 2021-04-02 | 浙江大华技术股份有限公司 | 一种多模态图像的配准方法、装置及系统 |
CN112598716B (zh) * | 2020-12-01 | 2024-04-05 | 浙江大华技术股份有限公司 | 一种多模态图像的配准方法、装置及系统 |
CN113012204B (zh) * | 2021-04-09 | 2024-01-16 | 福建自贸试验区厦门片区Manteia数据科技有限公司 | 多模态图像的配准方法、装置、存储介质及处理器 |
CN113012204A (zh) * | 2021-04-09 | 2021-06-22 | 福建自贸试验区厦门片区Manteia数据科技有限公司 | 多模态图像的配准方法、装置、存储介质及处理器 |
CN113096165A (zh) * | 2021-04-16 | 2021-07-09 | 无锡物联网创新中心有限公司 | 一种目标对象定位方法及装置 |
CN113269812A (zh) * | 2021-05-25 | 2021-08-17 | 平安科技(深圳)有限公司 | 图像预测模型的训练及应用方法、装置、设备、存储介质 |
WO2022247004A1 (zh) * | 2021-05-25 | 2022-12-01 | 平安科技(深圳)有限公司 | 图像预测模型的训练及应用方法、装置、设备、存储介质 |
CN113269812B (zh) * | 2021-05-25 | 2024-05-07 | 平安科技(深圳)有限公司 | 图像预测模型的训练及应用方法、装置、设备、存储介质 |
CN113723447B (zh) * | 2021-07-15 | 2024-03-08 | 西北工业大学 | 一种多模态影像的端到端的模板匹配方法 |
CN113723447A (zh) * | 2021-07-15 | 2021-11-30 | 西北工业大学 | 多模态影像的端到端的模板匹配法 |
Also Published As
Publication number | Publication date |
---|---|
CN111047629B (zh) | 2022-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111047629B (zh) | 多模态图像配准的方法、装置、电子设备及存储介质 | |
Nie et al. | 3-D fully convolutional networks for multimodal isointense infant brain image segmentation | |
US10088544B2 (en) | Tractography framework with magnetic resonance imaging for brain connectivity analysis | |
US10467751B2 (en) | Quality of medical images using multiple-contrast and deep learning | |
CN110506278B (zh) | 隐空间中的目标检测 | |
CN109978037B (zh) | 图像处理方法、模型训练方法、装置、和存储介质 | |
US11842427B2 (en) | Method and system of motion correction for magnetic resonance imaging | |
CN110036409B (zh) | 使用联合深度学习模型进行图像分割的系统和方法 | |
Rutherford et al. | Automated brain masking of fetal functional MRI with open data | |
CN111192248B (zh) | 一种用于核磁共振成像中的椎体定位、识别和分割的多任务关系学习方法 | |
Upadhyay et al. | Uncertainty-guided progressive GANs for medical image translation | |
US11360180B2 (en) | Methods, systems, and computer readable media for using a trained adversarial network for performing retrospective magnetic resonance imaging (MRI) artifact correction | |
CN111081351A (zh) | 脑功能图谱的绘制方法和系统 | |
CN116664713B (zh) | 一种超声造影图像生成模型的训练方法及图像的生成方法 | |
Sander et al. | Autoencoding low-resolution MRI for semantically smooth interpolation of anisotropic MRI | |
US9224229B2 (en) | Process and apparatus for data registration | |
WO2015175852A1 (en) | System and method for ct image synthesis from mri using generative sub-image synthesis | |
CN115115900A (zh) | 图像重建模型的训练方法、装置、设备、介质及程序产品 | |
Rutherford et al. | Observing the origins of human brain development: automated processing of fetal fMRI | |
CN113052930A (zh) | 一种胸部dr双能量数字减影图像生成方法 | |
WO2021087659A1 (zh) | 多模态图像配准的方法、装置、电子设备及存储介质 | |
KR20200041773A (ko) | 암 영역 정보 보정 장치 및 방법 | |
Shi et al. | Atlas construction via dictionary learning and group sparsity | |
CN116958217B (zh) | 一种mri与ct多模态3d自动配准方法及装置 | |
US20230099906A1 (en) | Image registration method, computer device, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |