CN117693770A - 训练机器学习模型以用于在医学成像应用中模拟在较高剂量造影剂下的图像 - Google Patents

训练机器学习模型以用于在医学成像应用中模拟在较高剂量造影剂下的图像 Download PDF

Info

Publication number
CN117693770A
CN117693770A CN202280051005.XA CN202280051005A CN117693770A CN 117693770 A CN117693770 A CN 117693770A CN 202280051005 A CN202280051005 A CN 202280051005A CN 117693770 A CN117693770 A CN 117693770A
Authority
CN
China
Prior art keywords
sample
image
dose
computing system
contrast agent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280051005.XA
Other languages
English (en)
Inventor
G·瓦尔布萨
S·克罗姆博塞拉
A·弗林圭洛·明戈
F·泰多尔迪
D·贝拉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bracco Imaging SpA
Original Assignee
Bracco Imaging SpA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bracco Imaging SpA filed Critical Bracco Imaging SpA
Publication of CN117693770A publication Critical patent/CN117693770A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • G06N3/0455Auto-encoder networks; Encoder-decoder networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0475Generative networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/047Probabilistic or stochastic networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

提出了一种用于训练在医学成像应用中使用的机器学习模型(420)的解决方案。对应的方法(700)包括提供(703‑743;759‑763)样本集,每个样本集包括样本基线图像、样本对象图像(从已经被施用了特定剂量的造影剂的受试者的对应身体部位获取)和样本源剂量(对应于造影剂的不同剂量)。训练(744‑758)机器学习模型(420)以便优化其从对应的样本基线图像和样本源图像生成每个样本对象图像的能力。一个或多个样本集是不完整的,缺失了它们的样本源图像。通过至少根据样本集的样本基线图像和样本对象图像来模拟样本源图像,使每个不完整的样本集完整(704‑742;759‑763)。提出了用于实现方法(700)的计算机程序(500)和计算机程序产品。此外,提出了一种用于执行方法(700)的计算系统(130)。

Description

训练机器学习模型以用于在医学成像应用中模拟在较高剂量 造影剂下的图像
技术领域
本公开涉及医学成像应用领域。更具体地,本公开涉及基于造影剂的医学成像应用。
背景技术
下文以对与本公开的背景相关的技术的论述来介绍本公开的背景。然而,即使当该讨论涉及文档、动作、制品(artifact)等时,它也不暗示或表示所讨论的技术是现有技术的一部分或者是与本公开相关的领域中的公知常识。
成像技术在医学应用中是常见的,以由医生通过提供患者的身体部位的视觉表示的图像来检查患者的身体部位(通常,以基本上非侵入性的方式,即使身体部位不是直接可见的)。为此,通常向正在进行(医学)成像过程的患者施用造影剂,以增强感兴趣的(生物)对象(例如病变)的对比度,从而使其在图像中更加明显。这促进了医生在若干医疗应用中的任务,例如在用于发现/监测病变的诊断应用中、在用于界定(delineate)待治疗的病变的治疗应用中以及在用于识别待切除的病变的边缘的外科应用中。
在这种情况下,还提出了使用剂量减少的造影剂;减少的剂量低于在临床实践中标准的造影剂的全剂量(例如减少的剂量等于全剂量的1/10)。为此,在成像过程期间,在施用造影剂之前获取身体部位的(零剂量)图像,并且在向患者施用剂量减少的造影剂之后获取身体部位的一个或多个(剂量减少的)图像。然后借助于深度学习网络(DLN)从零剂量图像和对应的减少剂量图像模拟模仿向患者施用全剂量造影剂的身体部位的对应(全剂量)图像;深度学习网络将对比度增强从其在剂量减少的图像中的水平(由于造影剂的剂量减少而不足)恢复到由造影剂在全剂量下将会提供的期望水平。通过使用样本集来训练深度学习网络,每个样本集包括在向对应患者施用造影剂之前、施用减少剂量的造影剂之后以及施用全剂量的造影剂之后获取的相同类型的身体部位的零剂量图像、减少剂量图像和全剂量图像(或者在不同获取条件下获取的两个或更多个零剂量图像或者利用不同的减少剂量的造影剂获取的两个或更多个减少剂量图像)。例如,“Enhao Gong et al.,Deeplearning enables reduced gadolinium dose for contrast-enhanced brain MRI,Journal of Magnetic Resonance Imaging,vol.48,no.2,13February 2018,pages 330-340“公开了用于在对比度增强的脑MRI中减少钆剂量的深度学习模型的训练,其中,模型利用在三种不同条件下获取的图像来训练:造影前、具有10%低剂量的造影后和具有100%全剂量的造影后。
训练深度学习网络所需的减少剂量图像(或在不同获取条件下的零剂量图像)通常不是在标准临床实践中获取的。因此,样本集的收集需要相应的前瞻性研究,在该前瞻性研究期间,利用偏离护理标准的专用成像协议来执行成像过程。特别地,必须针对造影剂的剂量的每个期望减少以及针对每种类型的感兴趣身体部位执行相应数量的前瞻性研究。
然而,前瞻性研究需要相对复杂的过程来获得相关卫生当局的相应授权(批准它们从护理标准的偏离)。此外,成像过程的相应修改影响临床工作流程,从而潜在地导致延迟、技术困难、额外成本和患者的风险(尤其是在成像过程中通常不需要的额外图像的获取可能对患者危险时,例如,当其需要将患者暴露于不需要的辐射时)。
对前瞻性研究的需要还限制了可用的(零剂量/减少剂量/全剂量)图像的样本集的数量以及获取它们的条件的多样性。所得到的相对低的样本集的数量和多样性降低了深度学习网络的训练质量。深度学习网络的训练的质量降低对其鲁棒性具有负面影响,并且尤其对其预测全剂量图像的能力具有负面影响。这不利地影响医生的任务,存在相应的患者健康风险(例如,诊断应用中的假阳性/假阴性或错误随访、治疗应用中的治疗有效性降低或对健康组织的损害以及手术应用中的病变的不完全切除或健康组织的过度移除)。
文献”Johannes Haubold et al.,Contrast agent dose reduction incomputed tomography with deep learning using a conditional generativeadversarial network,European Radiology(2021)31:6087-6095“公开了使用减少的基于碘的造影剂(ICM)对图像的模拟,以验证虚拟地增强ICM的可能性。为此,获取基于ICM的双能量计算机断层摄影(CT)图像。生成对ICM的分布进行编码的隔离的ICM图像,并且它们被用于创建虚拟非对比(VCN)图像。通过比例减法模拟与减少的ICM(减少50%或80%)对应的双能量CT图像。通过将减小ICM图像和隔离ICM图像分别与VCN图像组合来获得输入图像和对象图像对。用输入/对象图像对来训练生成对抗性网络(用于模拟ICM增强以对其进行验证)。
WO-A-2022/129633(提交于2021年12月20日,要求优先权日为2020年12月18日,并公开于2022年6月23日)公开了对卷积神经网络(CNN)的训练,该卷积神经网络用于从灌注图像序列生成灌注图。为此,提供由灌注图像序列和相关联的灌注图形成的训练基础。训练基础用仍然与相应的灌注图相关联的灌注图像的一个或多个序列的相应的退化版本来丰富。然后,如此丰富的训练基础被用于训练神经网络。灌注图像的这些退化序列是通过模拟相应的造影产品的较低剂量而产生的。特别地,灌注图像的退化序列的每个值是通过应用取决于其原始值、随时间推移的对应值和造影产品的减少因子的公式来计算的。
WO-A-2022/129634(提交于2021年12月20日,要求优先权日为2020年12月18日,并公开于2022年6月23日)公开了对预测模型的训练,该预测模型用于预测注射参数,当用于通过施用造影剂来获取造影图像时,注射参数提供期望的质量水平。为此,提供训练图像,其包括与用于获取它们的注射参数的对应参考值和手动确定的参考质量水平相关联的造影前/造影图像。将每个造影前图像应用于预测模型,以确定注射参数的对应候选值,并且验证将利用注射参数的候选值获取的理论造影图像是否具有目标质量水平。如果存在对应的造影图像,则验证是直接的。否则,通过生成器模型模拟理论造影图像,并通过分类模型确定其质量水平。
发明内容
在此给出本公开的简化概述以便提供对本公开的基本理解;然而,本发明内容的唯一目的是以简化形式引入本公开的一些概念作为其以下更详细描述的序言,并且其不应被解释为对其关键要素的确定或对其范围的界定。
概括地说,本公开基于模拟用于训练机器学习(ML)模型的图像的思想。
特别地,一个方面提供了一种用于训练在医学成像应用中使用的机器学习模型的方法。该方法包括提供样本集,每个样本集包括样本基线图像、样本对象图像(从已经被施用了特定剂量的造影剂的受试者的对应身体部位获取)和样本源剂量(对应于造影剂的不同剂量)。训练机器学习模型以便优化其从对应的样本基线图像和样本源图像生成每个样本对象图像的能力。一个或多个样本集是不完整的,缺失了它们的样本源图像。通过至少从样本集的样本基线图像和样本对象图像模拟样本源图像来使每个不完整样本集完整。
另一方面提供了一种用于实现该方法的计算机程序。
另一方面提供了一种对应的计算机程序产品。
另一方面提供了一种用于实现该方法的计算系统。
更具体地,本公开的一个或多个方面在独立权利要求中阐述,并且其有利特征在从属权利要求中阐述,其中所有权利要求的措辞通过引用逐字并入本文(其中任何有利特征参考任何具体方面提供,所述具体方面在必要的变更下应用于每个其它方面)。
附图说明
参考以下结合附图阅读的对本公开的详细描述,将最好地理解本公开的解决方案及其另外的特征和优点,所述详细描述仅以非限制性指示的方式给出(其中,为了简单起见,用相同或相似的参考标记表示对应的要素,并且不重复对它们的解释,并且通常使用每个实体的名称来表示其类型和其属性,诸如值、内容和表示)。特别地:
图1示出了可以用于实践根据本公开的实施例的解决方案的基础设施的示意性框图,
图2A-图2E示出了根据本公开的实施例的与成像过程有关的不同示例性场景,
图3示出了与根据本公开的实施例的训练过程相关的示例性场景,
图4示出了根据本公开的实施例的可以用于实现成像过程的主要软件组件,
图5示出了根据本公开的实施例的可以用于实现训练过程的主要软件组件,
图6示出了描述根据本公开的实施例的与成像过程相关的活动的流程的活动图,
图7A-图7C示出了描述根据本公开的实施例的与训练过程有关的活动的流程的活动图,以及
图8A-图8B示出了与根据本公开的实施例的解决方案相关的实验结果的代表性示例。
具体实施方式
特别地参考图1,示出了可以用于实践根据本公开的实施例的解决方案的基础设施100的示意性框图。
基础设施100包括以下组件。
一个或多个(医学)成像系统105包括对应的扫描器110和控制计算系统,或简单地控制计算机115。每个扫描器110用于在相应的(医学)成像过程期间基于向患者身体部位施用用于增强诸如病变之类的相应(生物)对象的对比度的造影剂来获取表示患者身体部位的图像。例如,扫描器110是磁共振成像(MRI)类型的。在这种情况下,图中未示出,(MRI)扫描器110具有用于接纳患者的机架;该机架容纳超导磁体(用于产生非常高的固定磁场)、不同轴的多组梯度线圈(用于调节固定磁场)和RF线圈(具有用于将磁脉冲施加到一种类型的身体部位并接收相应的响应信号的特定结构)。作为替代,扫描器110是计算断层扫描(CT)类型的。在这种情况下,同样未在图中示出,(CT)扫描器110具有用于接纳患者的机架;机架容纳X射线发生器、X射线检测器和用于使它们围绕患者的身体部位旋转的马达。相应的控制计算机115,例如个人计算机(PC),用于控制扫描器110的操作。为此,控制计算机115与扫描器110耦接。例如,在扫描器110是MRI类型的情况下,控制计算机115被布置在用于屏蔽扫描器110的扫描器室的外部,并且它经由穿过穿透面板的缆线与扫描器室耦接,而在扫描器110是CT类型的情况下,控制计算机110被布置为靠近它。
成像系统105安装在一个或多个卫生设施(例如医院)处,这些卫生设施设置有相应的中央计算系统或简单地设置有中央服务器120。每个中央服务器120通过网络125,例如卫生设施的局域网(LAN),与其成像系统105的控制计算机115通信。中央服务器120收集关于已经由成像系统105执行的成像过程的信息,每个包括表示对应的身体部位的图像的(图像)序列以及与成像过程有关的附加信息,例如患者的标识、成像过程的结果、成像过程的获取参数等。
配置计算设备130或简单地(一个或多个)配置计算机130用于配置成像系统105的控制计算机115。配置计算机130通过网络135,例如基于因特网,与所有卫生设施的中央服务器120通信。配置计算机130收集具有已经在卫生设施中执行的成像过程的对应成像参数(匿名地)的图像序列,以供它们用于配置成像系统105的控制计算机115。
控制计算机115和配置计算机130中的每一个包括通过总线结构140在它们之间连接的若干单元。特别地,(一个或多个)微处理器(μP)145提供(控制/配置)计算机115、130的逻辑能力。非易失性存储器(ROM)150存储用于启动(bootstrap)计算机115、130的基本代码,而易失性存储器(RAM)155被微处理器145用作工作存储器。计算机115、130设置有用于存储程序和数据的大容量存储器160,例如固态盘(SSD)。此外,计算机115、130包括用于外围设备或输入/输出(I/O)单元的多个控制器165。特别地,就本公开而言,外围设备包括键盘、鼠标、监视器、用于连接到相应网络125、135的网络适配器(NIC)、用于读/写可移除存储单元(例如USB盘)的驱动器,以及对于每个控制计算机115的跟踪球和用于其扫描器110的相关单元的相应驱动器。
现在参考图2A-图2E,示出了与根据本公开的实施例的成像过程有关的不同示例性场景。
在每个成像过程期间,对应的扫描器获取表示受检查患者的身体部位的(操作性)(operative,或称为“实操性”)获取的图像的序列。所获取的图像包括(操作性)基线图像(或多个)和一个或多个(操作性)施用或低剂量图像。例如,在没有造影剂的情况下从身体部位获取基线图像,并且然后在下文中其被称为(操作性)零剂量图像。从已经对其以(操作性)施用剂量或低剂量施用造影剂的患者的身体部位获取施用图像。与扫描器相关联的控制计算机从零剂量图像和施用图像(例如,借助于如以下详细描述的为此目的适当训练的神经网络)模拟(或合成)对应的(操作性)模拟或高剂量图像。模拟图像模仿以高于施用剂量的(操作性)模拟剂量或高剂量,即以高于1的增加因子(由模拟剂量和施用剂量之间的比率给出)向患者施用造影剂。然后,基于模拟图像的身体部位的表示被输出(例如,通过显示它们)给负责成像过程的医师。
造影剂的模拟剂量可以等于在临床实践中的标准值;在这种情况下,模拟剂量和模拟图像被称为(操作性)全剂量和(操作性)全剂量图像。因此,相对于全剂量,施用剂量减少;在这种情况下,施用剂量和施用图像被称为(操作性)减少剂量和(操作性)减少剂量图像。从减少剂量图像模拟全剂量图像恢复了通常在以全剂量施用造影剂时获得的对比度增强。当以全剂量向患者施用造影剂可能是危险的(例如,对于儿童、孕妇、受特定病理(如肾功能不全)影响的患者等)时,这尤其有用。特别地,向患者施用的造影剂的剂量减少避免了对其可能效应的任何延长的随访;同时,被模仿的造影剂的全剂量基本上保持提供给医师的全剂量图像的对比度增强不变(如果不是通过减少可能由以全剂量实际施用造影剂而引起的运动/混叠伪影来增加对比度增强的话)。
更一般地,发明人已经令人惊讶地发现,可以将增加因子应用于任何施用剂量,以模仿造影剂的相应模拟剂量,甚至不同于用于训练神经网络的剂量的剂量。
特别地,参考图2A,在根据本公开的一个实施例的解决方案中,施用剂量等于全剂量。因此,相对于全剂量,提升了模拟剂量;在这种情况下,将模拟剂量和模拟图像称为(操作性)剂量提升和(操作性)剂量提升图像。从全剂量图像对剂量提升图像的模拟增加了对比度增强,就好像剂量提升图像是通过以高于当前临床实践中可实现的剂量的(虚拟)剂量施用造影剂而获取的一样。例如,该图示出了零剂量图像、全剂量图像和两个不同的提升剂量图像(分别用增加因子x2和x10模拟)。这有利于医师的工作。特别地,被模仿的造影剂的提升剂量(高于全剂量)显著地增加了提供给医师的提升剂量图像中的对比度增强(具有减少的运动/混叠伪影,其否则可能由当可能时以提升剂量实际施用造影剂引起);同时,施用给患者的造影剂的全剂量不影响护理标准并且不影响临床工作流程。当对比度增强太差时(例如,当对象涉及其中造影剂的相对低的累积时,诸如在诸如低级肿瘤的一些病理中),这是特别有利的。在任何情况下,所提出的解决方案使得成像过程的对象更加显著,从而使得其以更容易和更快速的方式(尤其是当医师具有低专业知识和/或超负荷时)与其他附近(生物)特征可区分。这对成像过程的质量具有有益影响,例如,显著降低诊断应用中的假阳性/假阴性和错误随访的风险,降低治疗应用中的治疗有效性降低或对健康组织的损害的风险,以及降低在外科应用中的病变的不完全切除或健康组织的过度移除的风险。
作为进一步的改进,增加因子的值可以例如在其多个预定离散值(例如x2、x5、x10等)中选择,或者在预定范围(例如从x2到x20)内连续选择。这进一步增加了灵活性。实际上,在每个成像过程中,医师可以使用最适合于特定状况(诸如患者、身体部位、造影剂、对象等)的增加因子的值。此外,医师还可以实时验证增加因子的不同值的效果,然后选择提供最佳对比度增强的一个。这进一步提高了相应成像过程的质量(例如,甚至进一步降低了上述各风险)。
现在转到图2B,还可以通过应用高动态范围(HDR)技术来生成(操作性)组合图像。一般而言,HDR技术用于摄影/摄像应用中以增加图像的对比度(增加或不增加它们的动态范围)。为此,利用不同的曝光获取同一场景的多个图像;由于图像的有限动态范围,它们仅允许在相应的有限亮度范围(即,具有低曝光的亮细节和具有高曝光的暗细节)内的区分。然后,组合这些图像,其中它们中的每一个主要在它们提供最佳对比度的区域中有贡献。
在这种情况下,替代地使用相同的HDR技术来从(被获取的)零剂量图像、(被获取的)全剂量图像和(从其模拟的)对应的提升剂量图像生成每个组合图像。通常,零剂量图像具有低亮度,提升剂量图像具有高亮度,而全剂量图像具有中等亮度。因此,对组合图像的贡献主要是由于最暗区域中的零剂量图像、最亮区域中的提升剂量图像以及其它情况下的全剂量图像。这允许获得具有造影剂的对象的良好对比度(主要由于提升剂量图像的贡献)和没有造影剂的身体部位的其余部分的良好解剖细节(主要由于零剂量图像)两者;因此,在保持很好地融入身体部位的形态的同时,使对象更加明显(从而进一步提高成像过程的质量)。
转到图2C,也可以调制提升剂量图像对组合图像的贡献。事实上,组合图像减少了对比度增强的增量。在任何情况下,可以通过对提升剂量图像对其的贡献赋予更大重要性(相对于零剂量图像和全剂量图像中的一个)来增加组合图像中的对比度增强。例如,该图示出了从相应的零剂量图像、全剂量图像和提升剂量图像(增加因子等于4)获得的不同的组合图像,其中提升剂量图像的(相对)贡献相对于零剂量图像和全剂量图像的贡献是不同的,即1.0、1.5、2.0和3.0。如可以看到的,(在对象和附近特征之间的)对比度随着提升剂量图像对组合图像的贡献而增大。
转到图2D,示出了在纵轴上以任意单位标绘对比度指标的图,该对比度指标是在上述的相同(零剂量/全剂量/提升剂量/组合)图像中由具有肿瘤的区域的平均值和具有健康组织的区域的平均值之间的差在横轴上给出的。在零剂量图像中,对比度指示几乎为零(在所讨论的示例中为轻微的负的,其中肿瘤显得比健康组织更暗)。在全剂量图像中,对比度指标增加(变为正)。在提升剂量图像中,对比度指标根据增加因子(x4)而高得多。在组合图像中,对比度指标相对于提升剂量图像减小。然而,提升剂量图像对组合图像的贡献越高,对应的对比度指标越高(在该特定情况下,总是超过全剂量图像的对比度指标)。
转到图2E,示出了另一图,其在纵坐标轴上以任意单位绘制了在以上的一些图像中沿着穿过具有健康组织的区域的一般线(在横轴上)的值;特别地,曲线2050涉及零剂量图像,曲线205f涉及全剂量图像,曲线205b涉及提升剂量图像,曲线205c1涉及对提升剂量图像具有最低贡献的组合图像(1.0),并且曲线205c3涉及对提升剂量图像具有最高贡献的组合图像(3.0)。如可以看到的,相对于零剂量图像(曲线2050)和全剂量图像(曲线205f)中的值的扩展,提升剂量图像(曲线205b)中的值的扩展减小。这意味着提升剂量图像涉及健康组织的解剖细节的退化。然而,组合图像(曲线205c1和205c3)中的值的扩展基本上与零剂量/全剂量图像(曲线2050和205f)中的值的扩展相同,与提升剂量图像对组合图像的贡献无关(在讨论的示例中从1.0到3.0)。这意味着,即使当提升剂量图像对其的贡献相对较高时,组合图像也恢复健康组织的解剖细节。
现在参考图3,示出了与根据本公开的实施例的训练过程有关的示例性场景。
通过使用多个(样本图像的)样本集来训练神经网络,所述多个样本集表示不同受试者的对应身体部位,例如,具有相同类型的待成像的身体部位的另外的患者的身体部位。每个样本集包括(样本)基线图像、(样本)源图像和(样本)对象图像。基线图像是在没有造影剂的情况下从相应身体部位获取的(样本)零剂量图像。已经从以(样本)对象剂量对其施用造影剂的受试者的对应身体部位获取了样本对象图像。源图像对应于低于对象剂量的造影剂的(样本)源剂量;源剂量和对象剂量之间的比率等于与神经网络的期望增加因子的倒数相对应的减少因子(例如,等于该因子)。
源图像也可以是已经从已经以源剂量向其施用了造影剂(例如,在临床前研究中)的受试者的相应身体部位获取的。然而,在本公开的实施例中,在没有对应源图像的情况下接收样本集的至少一部分(在下文中,已经包括其所有样本图像的样本集被称为完整样本集,并且缺失其源图像的样本集被称为不完整样本集)。替代地,根据不完整样本集的其他(获取的)样本图像(即零剂量图像和对象图像)(例如,分析地)模拟(或合成)每个不完整样本集的源图像,以便模仿以源剂量向受试者施用造影剂。
然后,使用样本集(或者变得完整的,或者接收时已经完整的)来训练神经网络,以便优化其从样本集的零剂量图像和源图像生成每个样本集的对象图像(基础事实)的能力(例如,通过使用样本集的一部分来确定神经网络的对应配置,并且使用样本集的另一部分来验证它)。
例如,从已经以全剂量向其施用造影剂的受试者的对应身体部位获取对象图像,并且然后在下文中它们被称为(样本)全剂量图像。然后相对于全剂量减少源剂量;在这种情况下,源剂量和源图像被称为(样本)减少剂量和(样本)减少剂量图像。
上述解决方案显著地促进了神经网络的训练。
特别地,这主要要求实际上仅获取零剂量图像和全剂量图像。因此,可以使用在标准临床实践中通常获取的零剂量图像和全剂量图像。
结果,神经网络的训练可以主要利用从过去执行的成像过程回顾性收集的不完整样本集的样本图像来执行。因此,收集不完整的样本组不影响护理标准,使得它们更可接受,因为对于患者风险较低(例如,更可被相应的权威机构接受,诸如伦理委员会或机构审查委员会)。
不完整的样本集的获取不影响临床工作流程,从而减少了任何延迟、技术困难、额外的成本和患者的风险。特别地,这避免(或至少基本上减少)获取在成像过程中通常不需要的附加图像,当这些附加图像的获取可能对患者是危险的时(例如,当其需要将患者暴露于不需要的辐射时)尤其重要。
此外,可以获得相对大量的不完整样本集,即使不是数百万也是数千量级(通常由许多卫生机构在数十年内收集)。不完整的样本集通常也在几种条件下(例如,不同的扫描器、患者类型、身体部位的条件等)获取。所得到的相对高的数量和多样性的变得完整的相应样本集提高了神经网络的训练质量。神经网络的训练的质量提高对其鲁棒性具有积极影响,尤其对其预测(操作性)施用图像的能力具有积极影响。这有助于医师在相应的成像过程中的任务(例如,显著地降低上述风险)。
所提出的解决方案使得可以以相对简单和快速的方式针对不同值的增加因子来训练神经网络。实际上,通过简单地模拟针对所需值的增加因子的对应的减少剂量图像,可以从相同的不完整样本集生成所需样本集(或至少它们中的大部分)。这允许灵活使用具有这些值的增加因子的神经网络,并且尤其是对于不同的操作性条件(诸如患者、身体部位、病变等)。
现在参考图4,示出了可以用于实现根据本公开的实施例的成像过程的主要软件组件。
所有软件组件(程序和数据)作为整体用参考标号400表示。软件组件400通常存储在大容量存储器中,并且当程序运行时,与操作系统和不直接与本公开的解决方案相关(因此为了简单起见在图中省略)的其它应用程序一起,(至少部分地)加载到每个控制计算机115的工作存储器中。程序最初例如从可移除存储单元或从网络安装到大容量存储器中。在这方面,每个程序可以是模块、代码段或代码部分,其包括用于实现指定逻辑功能的一个或多个可执行指令。
获取器405驱动相应扫描器的专用于在每个成像过程期间获取患者的身体部位的(操作性)获取图像(即,(操作性)基线图像和(操作性)施用图像)的组件。获取器405对(操作性)获取图像存储库410进行写入,其包含在进行中的成像过程期间获取的获取图像。获取图像存储库410具有用于每个获取的图像的条目。该条目存储获取图像的位图,其由单元矩阵(例如,具有512行和512列)定义,每个单元包含体素值,即,表示身体部位的相应位置(基本体积)的基本图片元素;每个体素值将体素的亮度(以灰度级为单位)定义为与对应位置相关的响应信号的(信号)强度的函数;例如,在MRI扫描器的情况下,响应信号表示该位置对施加到其上的磁场的响应,而在CT扫描器的情况下,响应信号表示施加到该位置的X射线辐射的衰减。
预预处理器415预处理所述获取图像(例如,通过登记它们)。预处理器415对获取图像存储库410进行读取/写入。(操作性)机器学习模型被用于通过应用机器学习技术来根据基线图像和对应的施用图像模拟(或合成)(操作性)模拟图像。基本上,机器学习用于执行特定任务(在这种情况下,模拟所述模拟图像),而不使用显式指令,而是从示例自动推断如何这样做(通过利用已经从它们学习的对应模型)。在所讨论的具体实现中,应用了深度学习技术,其是基于神经网络的机器学习的分支。在这种情况下,机器学习模型是(操作性)神经网络420。基本上,神经网络420是近似人脑的操作的数据处理系统。神经网络420包括基本处理元件(神经元),其基于相应的权重执行操作;神经元经由单向通道(突触)连接,单向通道在神经元之间传输数据。神经元被组织在执行不同操作的层中,总是包括神经网络420的分别用于接收输入数据和用于提供输出数据的输入层和输出层。在本公开的实施例中,神经网络420是卷积神经网络(CNN),即,特定类型的深度神经网络(具有沿着神经网络的处理方向在输入层和输出层之间连续布置的一个或多个隐藏层),其中其隐藏层中的一个或多个执行(交叉)卷积运算。特别地,神经网络420是自动编码器(编码器-解码器)卷积神经网络,其包括以更密集的形式(在所谓的潜在空间中)压缩数据的编码器,如此压缩的数据被用于执行期望的操作,以及将如此获得的结果扩展为所需的更扩展的形式的解码器。更详细地,输入层被配置为接收基线图像和施用图像。编码器包括3个组,每个组具有3个卷积层,所述组之后是对应的最大池化层,并且解码器包括3个组,每个组具有3个卷积层,所述组之后是对应的上采样层。每个卷积层通过由相应权重定义的卷积矩阵(滤波器或核)执行卷积运算,通过将滤波器在所应用的数据上移位所选数目的单元(步幅),同时在所应用的数据的边界周围可能添加具有零内容的单元(填充),以允许也向其应用滤波器,来对所应用的数据的有限部分(感受域)连续地执行卷积运算。然后应用批标准化(固定相应数据的均值和方差),随后是激活函数(引入非线性因子)。例如,每个卷积层应用3x3的滤波器,其中填充为1并且步幅为1,其中其每个神经元应用修正线性单元(ReLU)激活函数。每个最大池化层是池化层(对其应用的数据进行下采样),其通过将窗口在应用的数据上移位选定数量的单元(步幅),用单个值(在这种情况下是它们的最大值)替换应用的数据(窗口)的每个有限部分的值。例如,每个最大池化层具有步幅为1的2×2的窗口。每个上采样层是反池化层(反转池化),其例如使用最大反池化技术(其中将值放置在用于下采样的最大值的相同位置中,并且用零包围它)在其周围的区域(窗口)中扩展每个值。例如,每个上采样层具有2×2的窗口。在编码器和解码器的对称层之间添加旁路连接(以避免分辨率损失),并且在每组卷积层内添加从输入层到输出层的跳过连接(以关注施用图像和基线图像之间的差异)。然后,输出层通过将获得的结果(表示从在施用剂量下被去噪的对比度增强导出的在模拟剂量下的对比度增强)加到基线图像来生成模拟图像。
神经网络420读取定义神经网络420的一个或多个(操作性)配置的(操作性)配置存储库425。配置存储库425具有用于神经网络420的每个配置的条目。该条目存储神经网络420的配置(由其权重定义)和当根据该配置操作时由其提供的增加因子。神经网络420读取获取图像存储库410,并且它对(操作性)模拟图像存储库430进行写入。模拟图像存储库430具有用于获取图像存储库410中的每个施用图像的条目。该条目存储到获取图像存储库410中的相应施用图像的链接以及相应模拟图像的位图,该位图同样由单元矩阵(具有与获取图像相同的大小)定义,每个单元包含身体部位的相应位置的体素值。组合器435将基线图像、每个施用图像和相应的模拟图像组合成相应的组合图像。组合器435对获取图像存储库410和模拟图像存储库430进行读取,并且其对(操作性)组合图像存储库440进行写入。组合图像存储库440具有用于每个组合图像的条目。该条目存储组合图像的位图,其同样由单元矩阵(具有与模拟图像相同的大小)定义,每个单元包含身体部位的相应位置的体素值。选择器445暴露用户界面,用于选择要由神经网络420应用的增加因子的值和模拟图像对组合图像的贡献的值。选择器445读取配置存储库425,并且它控制神经网络420和组合器435。
显示器450驱动控制计算机115的监视器,以显示在每个成像过程期间获取的获取图像和生成的组合图像。显示器450由获取器405提供,并且其读取组合图像存储库440。成像管理器455管理每个成像过程。为此,成像管理器455暴露用于与其交互的用户界面。成像管理器455控制获取器405、神经网络420、组合器435和显示器450。
现在参考图5,示出了根据本公开的实施例的可以用于实现训练过程的主要软件组件。
所有软件组件(程序和数据)作为整体用标号500表示。软件组件500通常被存储在大容量存储器中,并且当程序运行时,与操作系统和不直接与本公开的解决方案相关的其它应用程序(因此为了简单起见在图中省略)一起,被(至少部分地)加载到配置计算机130的工作存储器中。程序最初例如从可移除存储单元或从网络安装到大容量存储器中。在这方面,每个程序可以是模块、代码段或代码部分,其包括用于实现指定逻辑功能的一个或多个可执行指令。
收集器505收集(完整/不完整)样本集。例如,从卫生设施的中央服务器(图中未示出)接收不完整的样本集,即,对应的(样本)零剂量图像和(样本)全剂量图像,在对应的成像程序期间在卫生设施处已经获取了(样本)零剂量图像和(样本)全剂量图像;相反,在实验室中通过对动物(例如大鼠)的临床前研究获得完整样本集,即,进一步包括相应的(样本)减少剂量图像。事实上,本发明人已经令人惊讶地发现,用(至少部分地)源自动物的样本集训练的操作性神经网络在应用于人类时仍然提供良好的质量。结果,可以以相对简单的方式提供完整的样本集。收集器505对包含与样本集有关的信息的样本集存储库510进行写入。样本集存储库510具有用于每个样本集的条目。条目存储样本集的样本图像的对应位图,即,其(获取的)零剂量图像、(获取的)全剂量图像和(获取的/模拟的)减少剂量图像;如上所述,每个样本图像的位图由单元矩阵(例如,具有512行和512列)定义,每个单元包含相应身体部位的对应位置的体素值。此外,如果样本集最初是不完整的,则条目存储与其零剂量/全剂量图像的获取有关的一个或多个获取参数;特别地,获取参数包括与用于获取零剂量/全剂量图像的扫描器的设置有关的一个或多个外在参数和与对应的身体部位有关的一个或多个内在参数(例如,身体部位的主要组织的平均值)。
预处理器515预处理每个不完整样本集的零剂量/全剂量图像(例如,通过共同登记、去噪等)。预处理器515读/写样本集存储库510。分析引擎520从每个不完整的样本集的零剂量/全剂量图像模拟(或合成)减少剂量图像。分析引擎520暴露用于与其交互的用户界面。分析引擎520对样本集存储库510进行读取/写入。分析引擎520读取模拟公式存储库525,其存储要用于模拟减少剂量图像的一个或多个模拟公式。
例如,在MRI扫描器的情况下,当选择自旋回波作为操作模式时,定义样本图像的每个体素值的信号强度(由身体部位的相应位置在存在于其中的水分子的质子的在由RF线圈施加磁脉冲之后返回到它们的平衡状态的自旋弛豫期间的磁化的横向分量给出)由以下信号定律表示:
其中M是信号强度,M0是取决于质子密度、体素大小、磁脉冲强度和磁场强度的参数,TE是(在施加磁脉冲和接收回波信号之间的)回波时间,T2是质子的横向弛豫时间,TR是(在连续磁脉冲序列之间的)重复时间,T1是质子的纵向弛豫时间。在零剂量图像(没有造影剂)中,参数T1和T2可以由相应的抗磁值代替,通常分别用T10和T20表示,使得信号强度(区分成Mzero)变为:
相反,当造影剂存在于该位置中时,参数T1和T2取决于相应的抗磁值加上由造影剂给出的相应的顺磁值,从而信号强度(区分为Magent)变为:
其中r2是造影剂的横向弛豫率,c是造影剂在该位置中的局部浓度,r1是造影剂的纵向弛豫率。将该公式线性化为造影剂的局部浓度的其泰勒级数的一阶近似的函数,获得了(除了取决于造影剂的局部浓度的平方的可忽略的误差之外):
其中
因此,在全剂量图像中,信号强度(区分为Mfull)变为:
其中cfull是当以全剂量施用时造影剂的局部浓度。同样,在减少剂量图像中,信号强度(区分为Mreduced)变为:
其中,creduced是当以减少剂量施用时造影剂的局部浓度。造影剂的局部浓度基本上与所施用的造影剂的量成线性比例,使得:
creduced=d·cfull
其中d是减少因子(对于相应的增加因子k=1/d)。
鉴于上述,模拟公式为:
代替从相应强度信号的定义获得的在全剂量CFULL下的局部浓度,模拟公式变为:
又故而
在MRI扫描器的其它操作模式中,如梯度回波、MP-RAGE等中,也得到相同的模拟公式。
同样,在CT扫描器的情况下,定义样本图像的每个体素值的信号强度(由在穿过相应位置之后由于其衰减而剩余的X射线辐射给出)由以下信号定律表示:
I=l0·e-μ·ρ·x
其中I是信号强度,I0是X射线辐射的初始强度,μ是线性衰减系数,ρ是密度,x是所述位置的厚度。在零剂量图像(没有造影剂)中,参数μ、ρ和x是与身体部位的相应材料相关的参数,分别用μM、ρM和xM表示,使得信号强度(区分为Izero)变为:
相反,当造影剂存在于该位置时,由其引起X射线辐射的额外衰减,使得信号强度(被区分为Iagent)变为:
其中μA是线性衰减系数,ρA是密度(由造影剂的局部浓度给出),并且xA是该位置的厚度。将该公式线性化为造影剂的局部浓度的其泰勒级数的一阶近似的函数,获得了(除了取决于造影剂的局部浓度的平方的可忽略的误差之外):
因此,在全剂量图像中,信号强度(区分为Ifull)变为:
其中ρfull是以全剂量施用时造影剂的密度。同样,在减少剂量图像中,信号强度(区分为Ireduced)变为:
其中ρreduced是当以降低的剂量施用时造影剂的密度。造影剂的密度基本上与所施用的造影剂的量成线性比例,使得:
ρreduced=d·ρfull
(d再次是对应的增加因子k=1/d的减少因子)。
鉴于上述,模拟公式为:
代替从相应的强度信号的定义获得的在全剂量ρfull下的密度,模拟公式变为:
然后如上所述
所提出的实现方式(其中,模拟公式是从针对造影剂的局部浓度线性化的信号定律导出的)在计算上非常简单,其中,这样获得的减少剂量图像的准确度的损失(由于信号定律的线性化)对于训练(操作性)神经网络的目的是可接受的。
作为替代,信号定律作为局部浓度(或密度)的其泰勒级数的高阶(二阶、三阶等)的函数而被近似。在这种情况下,所获得的针对全剂量下的造影剂的局部浓度的方程的解提供了相应数量的值,需要对这些值进行评估以丢弃其中的在物理上没有意义的任何值。这增加了被模拟的减少剂量图像的精度(近似的阶数越高,精度越高)。作为另一种选择,针对全剂量的造影剂的局部浓度,数值地求解信号定律(再次评估可能的解以丢弃其中的任何物理上没有意义的解)。这进一步增加了被模拟的减少剂量图像的精度。
噪声校正器530校正减少剂量图像的噪声。实际上,每个不完整样本集的零剂量图像和全剂量图像包含噪声,该噪声根据模拟公式传播到对应的减少剂量图像。然而,这样获得的噪声(模拟噪声)具有与通过从已经向其施用了剂量减小的造影剂的患者的对应身体部位实际获取减小剂量图像而已经获得的噪声(真实噪声)的统计分布略有不同的统计分布。特别地,零剂量图像的噪声和全剂量图像的噪声可以被认为具有带有零均值和对应的标准偏差的正态统计分布,其根据误差(或不确定性)传播的规则传播到减少剂量图像:
其中,σreduced是减少剂量图像的噪声的标准偏差,σfull是全剂量图像的噪声的标准偏差,并且σzero是零剂量图像的噪声的标准偏差(d再次是对应的增加因子k=1/d的减少因子)。假设全剂量图像的噪声和零剂量图像的噪声两者具有相同的标准偏差σ=σfull=σzero,为了使减少剂量图像的噪声具有相同的具有零均值和标准偏差σ的正态统计分布,应当将人工噪声注入到具有零均值和标准偏差σartificial的正态统计分布的减少剂量图像中,使得:
σ2=σreduced 2artifical 2
(在注入加性形式的人工噪声的情况下,类似的考虑应用于注入乘法/卷积形式的人工噪声的情况);然后,通过以下噪声公式给出人工噪声的标准偏差:
然而,本发明人已经发现,通过增加根据经验地确定的校正因子(例如,等于1.5-2.5,优选1.7-2.3,并且更优选1.9-2.1,例如2.0)如此获得的标准偏差σartificial的(理论)值,获得了更好的结果。噪声校正器530对样本集存储库510进行读取/写入。
另外或替代地,通过附加(训练)机器学习模型来模拟(或合成)不完整样本集的减少剂量图像;例如,机器学习模型是训练神经网络535,并且特别地如上所述的自动编码器卷积神经网络。训练神经网络535读取(训练)配置存储库540,其存储训练神经网络535的(训练)配置(即,如上所述的其权重)。训练神经网络535也读/写样本集存储库510。
训练引擎545训练操作性神经网络的副本(用相同的附图标记420表示)和训练神经网络535(当可用时)。训练引擎545读取样本集存储库510。训练引擎545写入由操作性神经网络420读取的(操作性)配置存储库的副本(用相同的附图标记425表示),并且它写入训练神经网络535的配置存储库540。
现在参考图6,示出了描述根据本公开的实施例的与成像过程有关的活动的流程的活动图。
在这方面,每个框可以对应于用于在控制计算机上实现指定的逻辑功能的一个或多个可执行指令。特别地,活动图表示可以用于在每个成像过程期间利用方法600对患者的身体部位进行成像的示例性处理。
一旦(新的)成像过程开始(如由医师或保健操作员,例如放射学技术人员在患者已经到达相对于扫描器的适当位置,例如在MRI/CT扫描器的情况下在机架内部,通过成像管理器的用户界面输入的相应命令所指示的),该处理就在黑色开始圆603处开始。响应于此,获取器在框606开始获取身体部位的(操作性)基线图像,其中显示器在控制计算机的监视器上实时显示这些基线图像。在向患者施用造影剂之前获取基线(零剂量)图像,使得身体部位不包含造影剂,或者至少不包含显著量的造影剂(因为患者从未被施用任何造影剂,或者从向患者先前施用任何造影剂起经过了相对长的时间,从而确保造影剂已经基本上被清除)。一旦医师选择了零剂量图像中的一个(通过直接经由成像管理器的用户界面输入的或由医疗保健操作员输入的相应命令),在框609处,获取器将该零剂量图像保存到(操作性)获取的图像存储库(最初为空的)中。
然后,在框612,显示器在控制计算机的监视器上显示消息,要求对病人施用造影剂(例如,在MRI应用中基于钆,在CT应用中基于碘,等等)。以该施用剂量施用造影剂。通常,施用剂量等于造影剂的全剂量。全剂量在临床实践中具有健康护理当局(即,具有关于应用健康护理的管辖权的机构)所要求的标准值,或者其由公认的机构或一致的科学出版物推荐。例如,在MRI应用中,造影剂的全剂量是每kg患者体重0.1mmol钆。在CT应用中,基于碘美普尔的配方为155-400mg/mL的全剂量造影剂,例如,可从Bracco Imaging S.p.A以Iomeron的名称(其商标)商购获得,对于成像头部为20-200mL,对于成像其它身体部位类型为100-200mL;或者,基于碘帕醇的全剂量造影剂例如可从Bracco Imaging S.p.A以Isovue的名称(其商标)商购获得的,对于成人,对于250mg/mL的配方为100-230mL,或者对于300mg/mL的配方为100-200mL(碘的总剂量不应超过60g),对于儿童,对于250mg/mL的配方为1.2-3.6mL/kg患者体重,或者对于300mg/mL的配方为1.0-3.0mL/kg患者体重(碘的总剂量不应超过30g)。然而,在特定情况下(例如,当施用全剂量可能是危险的时候),施用剂量也可低于全剂量。
响应于此,健康护理操作员向患者施用造影剂。特别地,造影剂适于到达特定(生物)对象(target,或称为“靶”或“靶点”),例如待检查/切除/治疗的肿瘤,并适于保持基本上固定在其中。该结果可以通过使用无对象(non-targeted,或“非靶向”)造影剂(适于在对象中积累而不与其发生任何特异性相互作用,例如通过被动积累)或有对象(targeted,或“靶向”)造影剂(适于通过与其发生特异性相互作用而附着于对象,例如通过将对象特异性配体(ligand)并入造影剂的配方中而实现,例如基于能够与不同组织相互作用的化学结合性质和/或物理结构、血管性质、代谢特性等)实现。造影剂可以作为丸剂(例如,用注射器)静脉内施用给患者。因此,造影剂在患者的血管系统内循环,直到到达对象并结合到其上;相反,剩余的(未结合的)造影剂从患者的血池中被清除。在允许造影剂在(可能的)对象中累积并且从患者的其余部分洗出的等待时间(例如,几分钟)之后,可以实际开始成像过程(例如,如由医师或健康护理操作者经由成像管理器的用户界面输入的相应命令所指示的)。同时,获取器继续获取身体部位的(操作性)施用图像,并利用显示器将其实时显示在控制计算机的监视器上。
在任何时间,医师可以在框615处选择增加因子的期望(选择)值(经由选择器的用户界面直接选择或由健康护理操作者选择);特别地,在离散模式中,可以在与对应的存储库中的(操作性)神经网络的操作性配置相对应的各值之中选择增加因子的选择值。同时,医师可以(直接经由选择器的用户界面或通过健康护理操作者)针对零剂量/施用图像中的一个选择(操作性)模拟图像对(操作性)组合图像的(相对)贡献的期望(选择)值;例如,模拟图像的贡献默认地被设置为与零剂量/施用图像中的一个相同,并且其可以增加(以连续或离散的方式)直到其最大值(诸如5-10)。响应于此,显示器停止在控制计算机的监视器上显示施用图像。在框618,神经网络根据用于增加因子的选择值的配置(从相应的存储库中检索)进行配置。在框621,获取器将刚获取的(新的)施用图像保存在(操作性)获取图像库中。预处理器在框624对施用图像进行预处理;特别地,预处理器将施用图像与零剂量图像(在所获取的图像存储库中)进行共同登记,以例如通过对施用图像应用刚性变换而使它们空间对应。在框627处,成像管理器将零剂量图像和(预处理的)施用图像馈送到神经网络。移到框630,神经网络输出相应的模拟图像,该模拟图像被保存到相应的存储库中。
在框633,组合器将零剂量图像、施用图像和模拟图像(从相应的存储库中检索)组合成它们的组合图像,将其保存到相应的存储库中。例如,为此目的,组合器应用曝光混合算法的修改版本(适于该不同应用),其实现保持动态范围不变的特定类型的HDR技术。特别地,组合器分别从零剂量图像、施用图像和模拟图像计算(操作性)零剂量掩码(mask)、(操作性)施用掩码和(操作性)模拟掩码。每个零剂量/施用/模拟掩码包括单元矩阵(具有与零剂量/施用/模拟图像相同的尺寸),每个单元包含用于相应位置的掩码值。在施用掩码和模拟掩码的情况下,每个掩码值被分别设置为施用图像和模拟图像的相应体素值;在零剂量掩码的情况下,替代地,每个掩码值被设置为零剂量图像的补足(complemented)到其最大可能值的对应体素值。然后通过应用以下混合公式来计算组合图像的每个体素值:
其中Vc、V0、Vl和Vh分别是组合图像、零剂量图像、施用图像和模拟图像的体素值,Ml和Mh分别是零剂量掩码、施用掩码和模拟掩码的相应掩码值,w0、wl和wh分别是零剂量图像、施用图像和模拟图像的(零剂量)权重、(施用)权重和(模拟)权重。施用/模拟掩码的掩码值Ml、Mh(灰度值)使施用/模拟图像的体素值Vl、Vh在它们高(亮体素)时主要对组合图像的体素值Vc有贡献,而零剂量掩码的掩码值/>(反转灰度值)使零剂量图像的体素值V0在它低(暗体素)时主要对组合图像的体素值Vc有贡献。零剂量权重w0、施用权重wl和模拟权重wh分别定义了零剂量图像、施用图像和模拟图像对组合图像的(相对)贡献(随它们的值而增加)。项/>是标准化值,其保持组合图像的动态范围与零剂量/施用/模拟图像中的一个相同。
在框636,显示器在控制计算机的监视器上显示组合图像(从相应的存储库中检索);然后,在获取相应的施用图像的情况下,基本上实时地显示组合图像(除了由于神经网络和组合器产生它所需的时间而引起的短延迟之外)。在框639,选择器验证是否已经选择了增加因子和/或模拟图像对组合图像的贡献的不同值。如果是,则处理返回到框618,以根据(新的)所选的增加因子的值和/或与(新的)所选的模拟图像贡献相应的模拟权重wh来更新操作性神经网络的配置,并且然后持续重复相同的操作。相反,在框642,成像管理器验证成像过程的状态。如果成像过程仍在进行中,则活动流程返回到框621以持续重复相同的操作。相反,如果成像过程已经结束(如由医师或健康护理操作员经由成像管理器的用户界面输入的相应命令所指示的),则处理结束到同心白色/黑色停止圆圈645。
现在参考图7A-图7C,示出了根据本公开的实施例的描述与训练过程有关的活动的流程的活动图。
在这方面,每个框可以对应于用于在配置计算机上实现指定逻辑功能的一个或多个可执行指令。特别地,活动图表示可以用于利用方法700训练操作性神经网络的示例性处理。
无论何时需要训练操作性神经网络,该处理都在黑色开始圆701处开始。特别地,这发生在操作性神经网络的第一次交付之前;此外,在维护操作性神经网络的情况下或在发布新版本的操作性神经网络的情况下,这也可以响应于成像系统的操作性条件的任何显著变化(例如,对应扫描器的新模型的交付、被成像的患者群体的变化等)而定期地发生,以便随时间维持成像系统的所需性能。响应于此,在框702,分析引擎提示操作者(经由其用户界面)输入期望的增加因子的指示(针对该期望的增加因子,必须训练操作性神经网络),还将为此目的要模拟的(样本)减少剂量图像的减少因子定义为其倒数。
在框703,收集器收集(例如,在一个或多个卫生设施中对于不完整样本集以及在实验室中对于完整样本集)对不同受试者的身体部位执行的对应成像过程的多个图像序列连同不完整样本集的对应获取参数;身体部位是与打算使用操作性神经网络的身体部位相同的类型的。用于不完整样本集的每个图像序列包括在开始时在没有造影剂的情况下获取以及然后在具有全剂量的造影剂的情况下获取的图像序列(例如,在对应的成像过程期间实际上被使用以提供对应的身体部位的视觉表示);用于完整样本集的每个图像序列还包括已经利用造影剂以减小的剂量获取的图像序列(例如,在临床前研究中)。一些图像序列还可以包括对应的原始数据(用于生成对应的样本图像)。例如,在MRI扫描器的情况下,它获取原始数据作为k空间形式的(k空间)图像。每个k-空间图像由具有水平轴和垂直轴的单元矩阵定义,水平轴对应于空间频率或波数k(每单位距离的周期),垂直轴对应于被检测的响应信号的相位;每个单元包含定义相应响应信号的不同幅度分量的复数。通过对k空间图像应用逆傅立叶变换,将其转换成复形式的相应(复)图像。通过对应体素的单元矩阵来定义复图像;每个单元包含表示从相应位置接收的响应信号的复数。最后,通过将其每个体素值设置为复图像中的对应复数的模,将复图像转换成幅度形式的对应(样本)获取图像。
在这个阶段,收集器可以过滤图像序列,例如,以丢弃具有差质量的图像序列。在任何情况下,对于每个图像序列,收集器选择在没有造影剂的情况下获取的图像中的一个作为(样本)零剂量图像,在使用造影剂的情况下获取的一个或多个图像,直到它们全部,作为(样本)全剂量图像和对应的减少剂量图像(当可用时);然后,收集器在样本集存储库中为每个全剂量图像创建新条目,并且其添加零剂量图像、全剂量图像、对应的减少剂量图像(如果可用的话)以及到对应获取参数的链接(当减少剂量图像不可用时)。样本集存储库然后可以存储不完整样本集和完整样本集的混合;例如,完整样本集是(不完整/完整)样本集的总数的1-20%,优选地5-15%,并且还更优选地6-12%,诸如10%。这进一步提高了以有限的额外努力(尤其是当从临床前研究获得完整样本集时)训练操作性神经网络的质量。
在框704,分析引擎(从相应的存储库)检索要用于模拟不完整样本集的减少剂量图像的模拟公式(例如,由操作员通过其用户界面手动选择,默认地限定,或仅有一个可用)。然后在框705进入循环,其中分析引擎考虑样本集存储库的(当前)不完整样本集(从任何任意顺序起的第一个开始)。在框706处,噪声校正器计算零剂量图像的噪声(作为所获取的图像与去噪后的图像之间的差)以及然后其(零剂量)标准偏差;同样,噪声校正器计算全剂量图像的噪声(作为所获取的与去噪的之间的差)并且然后计算其(全剂量)标准偏差。在两种情况下,可以利用自动编码器(卷积神经网络)对所获取的(零剂量和全剂量)图像进行去噪。为此,已经以无监督的方式用多个图像(诸如所有获取的图像)训练了自动编码器;特别地,自动编码器已经被训练以优化其编码每个图像的能力,忽略其上不重要的数据(由于噪声引起的),然后解码获得的结果,以便重构具有降低的噪声的相同图像。噪声校正器确定参考标准偏差,例如,等于零剂量标准偏差和全剂量标准偏差的平均值。噪声校正器通过将加噪公式应用于参考标准偏差,然后将获得的结果增加校正因子来计算人工噪声的标准偏差。根据分析引擎的配置(例如,由操作员通过其用户界面手动选择,通过默认定义或仅有一个可用),活动流程在框707分支。特别地,如果分析引擎未被配置为在k空间中操作,则执行框708-726,否则执行框727-740;在两种情况下,在框741处活动的流程再次接合。
现在参考框708(不是k空间),预处理器预处理不完整样本集的获取的(零剂量/全剂量)图像。特别地,预处理器将全剂量图像与零剂量图像进行共同登记,以使它们空间对应(例如,通过对全剂量图像应用刚性变换)。另外或替代地,预处理器对所获取的图像进行去噪以降低其噪声(如上所述)。在框709,分析引擎计算用于调制减少因子的调制因子,以用于应用模拟公式。实际上,模拟公式可以引入近似,造影剂的局部浓度越高,近似越高。特别地,从信号强度的模拟值(由模拟公式给出)基本上等于当不存在造影剂时的信号强度的真实值(其已经通过从已经以(样本)减少剂量对其施用了造影剂的患者的身体部位实际获取减少剂量图像而获得)开始,随着造影剂的局部浓度增加,模拟值变得更低并且低于真实值。为了补偿这种相对于实际值的模拟值的损失,可以增加在模拟公式中使用的减少因子的值(以便限制模拟值相对于相应施用值的减小)。更具体地,通过求解将信号定律与其近似值之间的比率设置为等于减少因子的比率的方程,可以获得,减少因子的值应当根据取决于获取参数的比例因子(调制因子)作为造影剂的局部浓度的函数而线性增加;调制因子由解析地确定为获取参数的函数的(校正)公式给出,或者由对应于根据经验确定的获取参数的值给出。因此,分析引擎从样本集存储库检索不完整样本集的获取参数,然后它通过将校正公式应用于获取参数或通过从预定义表检索其对应于获取参数的值来计算调制因子。
活动流程进一步在框710根据分析引擎的配置而分支。特别地,如果分析引擎被配置为以幅度形式对图像进行操作,则在框711进入循环,其中分析引擎考虑全剂量图像的(当前)体素(从任何任意顺序的第一个体素开始)。在框712,分析引擎调制要用于应用体素的模拟公式的减少因子。为此,分析引擎将体素的对比度增强计算为全剂量图像的体素值与零剂量图像的体素值之间的差,然后通过将其乘以调制因子与对比度增强之间的乘积来计算减少因子的调制值。在框713处,分析引擎通过将具有(调制)减少因子的模拟公式应用于零剂量图像的体素值和全剂量图像的体素值来计算减少剂量图像的体素值;因此,在所讨论的示例中,分析引擎从全剂量图像的体素值减去零剂量图像的体素值,将该差值乘以减少因子,并将获得的结果加到零剂量图像的体素值。然后,分析引擎将如此获得的体素值加到样本集存储库中的构造中的减少剂量图像。在框714,分析引擎验证是否已经处理了最后的体素。如果不是,则活动流程返回到框711以对下一个体素重复相同的操作。相反(一旦所有体素都已经被处理),则通过下降到框715中退出相应的循环。
此时,噪声校正器将人工噪声注入到以加性形式如此获得的减少剂量图像中。为此,噪声校正器生成作为具有与减少剂量图像相同大小的单元的(噪声)矩阵的人工噪声;噪声矩阵包含具有零均值和等于人工噪声的标准偏差的标准偏差的正态统计分布的随机值。在框716处,噪声校正器将噪声矩阵逐体素地加到样本集存储库中的减少剂量图像。然后,该处理继续到框741。
返回参考框710,如果分析引擎被配置成以复形式对图像进行操作,则活动流程在框717根据其可用性进行分支。如果零剂量图像和全剂量图像已经以复形式可用,则在框718,分析引擎通过旋转表示其每个单元的复数的向量以便消除其辐角(argument)(保持相同的模)来执行相位校正。该操作允许即使在对复形式的零剂量图像和全剂量图像进行操作时也获得应用模拟公式的相同结果(因为应用于没有虚部的对应复数的所有操作等同于将它们应用于对应的模)。然后,该处理继续到框719。如果零剂量图像和全剂量图像以幅度形式可用,则从框717也直接到达相同的点;在这种情况下,零剂量图像和全剂量图像被直接认为是复形式的,其每个体素值(实数)是虚部等于零的复数。
现在执行如上所述的类似操作,以便从以复形式对它们进行处理的零剂量图像和全剂量图像生成减少剂量图像。特别地,进入循环,其中分析引擎考虑全剂量图像的(当前)体素(从任何任意顺序的第一个开始)。在框720,分析引擎通过计算体素的对比度增强(作为全剂量图像的体素值的模与零剂量图像的体素值的模之间的差值)来调制减少因子,然后通过将其乘以调制因子与对比度增强之间的乘积来调制减少因子的调制值。在框721处,分析引擎通过将具有(调制)减少因子的模拟公式应用于零剂量图像的体素值和全剂量图像的体素值来计算减少剂量图像的体素值;然后,分析引擎将如此获得的体素值加到样本集存储库中的构造中的减少剂量图像。在框722,分析引擎验证是否已经处理了最后的体素。如果不是,则活动流程返回到框719以对下一个体素重复相同的操作。相反(一旦所有体素都已经被处理),通过下降到框723退出相应的循环。
此时,噪声校正器将人工噪声注入到以卷积形式如此获得的减少剂量图像中。为此,噪声校正器生成作为具有与减少剂量图像相同大小的单元的(噪声)矩阵的人工噪声;噪声矩阵包含具有单位均值和标准偏差等于人工噪声的均值和标准偏差的正态统计分布的随机复数值。然后,在框724,噪声校正器通过噪声矩阵对样本集存储库中的减少剂量图像执行卷积运算(例如,通过以圆形方式在减少剂量图像上将噪声矩阵移位单个步幅,在每个方向上围绕减少剂量图像)。在框725,分析引擎将如此获得的减少剂量图像转换成幅度形式;为此,分析引擎用其模替换减少剂量图像的每个体素值(现在通常是复数)。在框726,活动流程根据分析引擎的配置进一步分支。特别地,如果分析引擎也被配置为将人工噪声以加性形式注入到减少剂量图像中,则处理继续到框715,以执行与上述操作相同的操作(然后下降到框741中)。相反,该处理直接下降到框741中。
代替地参考框727(k空间),分析引擎考虑复形式的零剂量图像和全剂量图像(如果可用,则直接考虑,或者通过对其应用逆傅立叶变换而将其从k空间形式转换)。如上所述,在框728,分析引擎通过旋转表示复形式的零剂量图像和全剂量图像的每个单元的复数的向量以便消除其幅角(维持相同的模)来执行相位校正。在框730,分析引擎通过对零剂量图像和全剂量图像应用傅立叶变换,将其从复形式转换为k空间形式。
现在从以k空间形式对它们进行处理的零剂量图像和全剂量图像生成减少剂量图像。特别地,在框731进入循环,其中分析引擎考虑全剂量图像的(当前)单元(从任何任意顺序的第一个开始)。在框732,分析引擎通过将具有(原始)减少因子的模拟公式应用于零剂量图像的单元值和全剂量图像的单元值来计算减小剂量图像的单元值;然后,分析引擎将如此获得的单元值加到样本集存储库中的构造中的减少剂量图像。分析引擎在框733验证是否已经处理了最后的单元。如果不是,则活动流程返回到框731以对下一单元重复相同的操作。相反(一旦所有单元都已经被处理),则通过下降到框734中退出相应的循环。
此时,噪声校正器将人工噪声注入到以乘法形式如此获得的减少剂量图像中。为此,噪声校正器生成作为具有与减少剂量图像相同大小的单元的(噪声)矩阵的人工噪声;噪声矩阵包含具有单位均值和标准偏差等于人工噪声的单位均值和标准偏差的正态统计分布的复随机值。在框735处,噪声校正器将减少剂量图像与样本集存储库中的噪声矩阵逐单元地相乘。活动流程进一步根据分析引擎的配置在框736分支。特别地,如果分析引擎也被配置为将人工噪声以加性形式注入到减少剂量图像中,则处理继续到框737,其中噪声校正器生成人工噪声作为(另外的)单元的噪声矩阵(具有与减少剂量图像相同的大小),其现在包含具有零均值和等于人工噪声之一的标准偏差的正态统计分布的随机复数值。在框738处的噪声校正器将噪声矩阵逐单元地添加到样本集存储库中的减少剂量图像。然后,该处理继续到框739;如果分析引擎未被配置为将人工噪声以加性形式注入到减少剂量图像中,则从框736也直接达到相同的点。此时,分析引擎通过对其应用傅里叶逆变换将减少剂量图像从k空间形式转换成复形式。在框740,分析引擎通过用其模替换减少剂量图像的每个体素值,将减少剂量图像从复形式转换为幅度形式。然后,该处理下降到框741中。
上述操作使不完整样本集完整。现在参考框741,分析引擎验证是否已经处理了最后一个不完整样本集。如果不是,则活动流程返回到框705,以对下一个不完整的样本集重复相同的操作。相反(一旦所有不完整的样本集都已经被处理),则通过下降到框742中退出相应的循环。
此时,活动流程根据配置计算机的操作模式而分支。如果由于没有训练神经网络可用,所以样本集将被用于训练操作性神经网络,则训练引擎直接执行该操作,以便找到优化其性能的操作性神经网络的权重的优化值。这种实现方式特别简单和快速;同时,被模拟的减少剂量图像的精度足以达到训练具有可接受性能的操作性神经网络的目的。特别地,在框743,分析引擎可以后处理每个(如上所述变得完整的或提供时已经完整的)样本集的样本(零剂量/减少剂量/全剂量)图像。例如,分析引擎通过将样本图像的体素值缩放到(共同的)预定义范围来对样本图像进行标准化。此外,分析引擎通过从每个(原始)样本集生成(新)样本集来执行数据扩充过程,以便减少在操作性神经网络的训练中的过度拟合。例如,通过旋转原始样本集的样本图像,诸如从0°到90°递增地旋转1-5°,和/或通过水平/垂直地翻转它们,来生成新样本集。此外,如果对于不完整的原始样本集的减少剂量图像还没有完成,则如上所述将人工噪声加到原始/新样本集的减少剂量图像。在任何情况下,训练引擎在框744处通过将对应存储库中的样本集采样到其百分比(例如,随机选择的50%)来选择多个训练集。训练引擎在框745随机地初始化操作性神经网络的权重。然后在框746进入循环,其中训练引擎将每个训练集的零剂量图像和减少剂量图像馈送到操作性神经网络。响应于此,在框747处,操作性神经网络输出对应的输出图像,其应当等于训练集的全剂量图像(基础事实)。训练引擎在框748处基于输出图像与全剂量图像之间的差来计算损失值;例如,损失值由平均绝对误差(MAE)给出,该平均绝对误差被计算为输出图像和全剂量图像的相应体素值之间的绝对差的平均值。训练引擎在框749处验证损失值是否是不可接受的并且它仍然在显著地改进。该操作可以以迭代模式(在针对其损失值处理了每个训练集之后)或以批处理模式(在针对其损失值的累积值(诸如其平均值)处理了所有训练集之后)来执行。如果是,则训练器在框750更新操作性神经网络的权重以试图改善其性能。例如,应用诸如基于ADAM方法的随机梯度下降(SGD)算法(其中改变的方向和量由损失函数的梯度确定,根据预定义的学习速率,给出作为用反向传播算法近似的权重的函数的损失值)。然后,该处理返回到框746以重复相同的操作。再次参考框749,如果损失值已经变为可接受或者权重的改变没有提供任何显著的改进(意味着已经发现损失函数的至少局部的最小区域或平坦区域),则通过下降到框751退出循环。通过将随机噪声加到权重和/或从操作性神经网络的不同初始化开始,以找到不同的(并且可能更好的)局部最小值并且辨别损失函数的平坦区域,上述循环被重复某个数量的次数(时期),例如100-300次。
一旦找到了提供损失函数的最佳最小值的操作性神经网络的配置,训练引擎就执行对如此获得的操作性神经网络的性能的验证。为此,训练引擎从对应存储库中的样本集(例如,不同于训练集的样本集)选择多个验证集。然后在框752进入循环,其中训练引擎将(当前)验证集的零剂量图像和减少剂量图像(从任何任意顺序的第一个开始)馈送到操作性神经网络。响应于此,在框753处,操作性神经网络输出对应的输出图像,其应当等于验证集的全剂量图像。训练引擎在框754基于输出图像与全剂量图像之间的差如上计算损失值。训练引擎在框755验证是否已经处理了最后的验证集。如果不是,则活动流程返回到框752以对下一验证集重复相同的操作。相反(一旦所有验证集都已经被处理),则通过下降到框756退出该循环。此时,训练引擎确定上述验证的全局损失(例如,等于所有验证集的损失值的平均值)。活动流程根据全局损失在框757处分支。如果全局损失(可能严格地)高于可接受值,这意味着操作性神经网络的泛化能力(从其从训练集学习到的配置到验证集)太差;在这种情况下,处理返回到框744以利用不同的训练集和/或训练参数(诸如学习率、时期等)重复相同的操作。相反,如果全局损失(可能严格地)低于可接受值,则这意味着操作性神经网络的泛化能力是令人满意的;在这种情况下,在框758处,训练引擎接受如此获得的操作性神经网络的配置,并且将其与其增加因子的值相关联地保存到对应的存储库中。
返回参考框742,如果训练神经网络可用于模拟减少剂量图像(用于训练操作性神经网络),则在框759处,训练引擎通过使用样本集来训练它。例如,可以执行上述相同的操作,不同之处在于,现在优化训练神经网络以从对应的零剂量图像和全剂量图像生成减少剂量图像;在这种情况下,还可以使用更复杂的损失函数来改进训练神经网络的性能,例如,采用利用再生对手网络(GAN)的方法。然后将如此获得的训练神经网络的配置保存到相应的存储库中;同时,从样本集存储库中删除已经分析地模拟的减少剂量图像,以便恢复对应的不完整的样本集。然后在框760进入循环,用于模拟(从样本集存储库中检索的)不完整样本集的减少剂量图像的提炼版本。为此,训练神经网络考虑(当前)不完整样本集(从任何任意顺序的第一个开始)。在框761,分析引擎将不完整样本集的零剂量图像和全剂量图像馈送到训练神经网络。移至框762,训练神经网络输出对应的减少剂量图像,其被保存到样本集存储库中。上述操作再次使不完整样本集完整。在框763,分析引擎验证是否已经处理了最后一个不完整的样本集。如果不是,则活动流程返回到框760,以对下一个不完整的样本集重复相同的操作。相反(一旦所有不完整的样本集都已经被处理),则通过转到框743退出相应的循环,以利用样本集(变得完整的或提供时已经完整的)如上所述训练操作性神经网络。这种实现方式提高了减少剂量图像的精度,并且然后提高了利用它们训练的操作性神经网络的性能。
再次参考框758,处理继续到框764,其中分析引擎验证操作性神经网络的配置是否已经完成。如果不是,则该处理返回到框702,以重复相同的操作,以便针对不同的增加因子来配置操作性神经网络。相反,一旦操作性神经网络的配置已经完成,在框765将如此获得的操作性神经网络的配置部署到对应成像系统的控制计算机的一批实例(例如,在成像系统的第一次交付的情况下通过在工厂中预加载它们,或者在成像系统升级的情况下通过经由网络上载它们)。然后,该处理结束于同心的白/黑停止圆766。
现在参考图8A-图8B,示出了与根据本公开的实施例的解决方案相关的实验结果的代表性示例。
特别地,对具有以下两种脑病变(都是手术诱导的)的大鼠进行专门的临床前研究:C6神经胶质瘤肿瘤(n=36只动物)和脑缺血病理(n=42只动物)。所有动物都经历了诱导病变的外科手术。在外科手术中存活并且在随后的两周(即病变病理发展所需的时间窗)中仅显示有限的临床征象或没有临床征象的动物被招收用于MRI类型的成像过程(即,通常每只动物2个,仅在有限的情况下3个)。使用基于钆的造影剂和Bruker Corporation的临床前扫描器分光计Pharmascan(其商标)进行成像过程,其在7T下操作并配备有具有2个通道的大鼠头部体积线圈。在获取期间使用的CE-MR方案如下:
·标准T1加权序列的造影前获取(零剂量图像);
·以等于0.01mmol Gd/kg的减少剂量静脉内施用造影剂;
·T1加权序列的造影后获取(减小剂量图像);
·在前一种造影剂之后不久,以0.04mmol Gd/kg进一步静脉内施用造影剂,以便它们总计为等于0.05mmol Gd/kg的全剂量;
·T1加权序列(全剂量图像)的造影后获取。
该研究导致获得130 3D MRI体积(即,在神经胶质瘤大鼠上为61,在缺血大鼠上为69),每个体积由24个切片组成。使用获得的体积构建两个数据集:
·获取数据:它仅包括获取的图像(零剂量图像、减少剂量图像和全剂量图像);
·模拟数据:它包括(获取的)零剂量图像和全剂量图像以及相应的(模拟的)减少剂量图像(增加因子k=5)。
使用全剂量图像作为基础事实,通过改变所获取/模拟的数据的混合,即选择以下参数的所有可能组合,训练总数为7的(操作性)神经网络:
·学习率=0.01
·衰减=0.001
·数据集=获取的数据和模拟数据的混合(仅对于模拟数据,噪声级=0.015),即,获取的数据的0%、10%、20%、30%、40%、50%和100%以及模拟数据的分别100%、90%、80%、70%、60%、50%和0%
·LOSS=MAE+ftMAE+VGG19/4
·复合损失的相对权重(a,b,c):a=b=c=1。
现在参考图8A,示出了当由在获取数据(ACQ)和模拟数据(SIM)的不同混合上训练的神经网络模拟时的原始版本(FD)的全剂量图像的代表性示例,其中相同的灰度应用于所有全剂量图像。如可以看到的,在100%的获取数据上训练的神经网络生成与基础事实(即,它们的获取版本)非常相似的全剂量图像。观察到神经网络性能的渐进的适度恶化(模糊、伪像),增加了训练期间模拟数据的百分比(尤其是对于等于或大于60%的模拟数据的百分比)。然而,在训练集中添加仅10%的获取数据似乎足以通过去除主要消失伪影来改善相应神经网络的性能。
鉴于上述,在训练期间所获取/模拟的图像的混合似乎是进一步改进神经网络的性能的有效策略。当扩展到具有较低同质性的数据集时,这种考虑可能甚至更有意义。事实上,由于其固有的同质性(相同的扫描器、磁场、线圈、MRI序列等),对于收集混合(获取/模拟)训练方法的全部潜力,所采用的临床前数据集不应当是最佳的。
对患有C6神经胶质瘤肿瘤的大鼠(n=48只动物)进行进一步专门的临床前研究。所有动物都经历了诱导病变的外科手术。在外科手术中存活并且在随后的两周(即病变病理发展所需的时间窗)中仅显示有限的临床征象或没有临床征象的动物被招收用于MRI类型的成像过程(即,通常每只动物3个)。使用Bracco Imaging S.p.A的商业造影剂ProHance(其商标)和两个临床前扫描器分光计进行成像过程:Bruker公司的Pharmascan(其商标),其在7T下工作,并配备有2个通道的大鼠头部体积线圈;和Bruker公司的Biospec(其商标),其在3T下工作,并配备有4个通道的大鼠头部表面线圈。在获取期间使用的CE-MR方案如下:
·标准T1加权序列的造影前获取(零剂量图像);
·以等于0.1mmol Gd/kg的全剂量静脉内施用造影剂;
·T1加权序列的造影后获取(全剂量图像);
·在前一种造影剂之后不久,以0.1mmol Gd/kg进一步静脉内施用造影剂,以便它们合计成等于0.2mmol Gd/kg的提升剂量;
·T1加权序列的造影后获取(提升剂量图像)。
该研究导致122个3D MRI体积的获取。
使用提升剂量图像作为基础事实,在这些(临床前)数据上训练(操作性)神经网络,具有以下参数:
-学习率=0.01
-衰减=0.001
-LOSS=MAE+ftMAE+VGG19/4
-复合损失的相对权重(a,b,c):a=5,b=c=1。
同样,在包括(获取的)零剂量图像和全剂量图像以及(模拟的)提升剂量图像的(临床)数据上训练另一(操作性)神经网络,以便优化其从对应的零剂量图像和全剂量图像模拟提升剂量图像的能力。
一旦被训练,两个神经网络被应用于(临床)零剂量图像和全剂量图像以预测相应的提升剂量图像,其中增加因子k=2。
现在参考图8B,示出了(获取的)全剂量图像和相应的提升剂量图像的代表性示例,其中,所述图像是利用在临床数据上训练的神经网络和利用在临床前数据上训练的神经网络来模拟的。可以看出,两个神经网络都成功地提升了全剂量图像的对比度。令人惊讶的是,尽管物种不同(人与鼠),但是在临床前数据上训练的神经网络学习了识别对应于增强区域的位置并增加这种增强。
鉴于以上所述,临床前数据的使用是训练神经网络以生成(临床)提升图像的有效策略。
修改
为了满足局部和特定的要求,本领域技术人员可以对本公开应用许多逻辑和/或物理修改和变更。更具体地,尽管本公开已经参考其一个或多个实施例以一定程度的特殊性进行了描述,但是应当理解,形式和细节上的各种省略、替换和改变以及其他实施例是可能的。特别地,即使没有在前述说明中阐述的具体细节(诸如数值)以提供对本公开的更透彻理解,也可以实践本公开的不同实施例;相反,为了不使不必要的细节混淆本说明,可能省略或简化了公知的特征。此外,明确地意图是,结合本公开的任何实施例描述的具体元件和/或方法步骤可以作为一般设计选择的问题而并入任何其它实施例中。此外,在相同组和不同实施例、示例或替代中呈现的项目不应被解释为实际上彼此等同(但是它们是分离的和自主的实体)。在任何情况下,每个数值应当被解读为根据适用公差而修改;特别地,除非另有说明,术语“基本上”、“大约”、“近似”等应当理解为在10%内,优选地在5%内,并且还更优选地在1%内。此外,数值的每个范围应当旨在明确地指定沿着该范围内的连续体(包括其端点)的任何可能的数值。序数或其它限定词仅用作标签以区分具有相同名称的元素,但其本身并不意味着任何优先级、先后次序或顺序。术语包括、包含、具有、含有、涉及等应当旨在具有开放的、非穷举的含义(即,不限于所列举的项目),基于、取决于、根据、其功能等的术语应当被认为是非排他性的关系(即,涉及可能的另外的变量),术语“一/一个”应当被认为是一个或多个项目(除非另外明确指出),并且术语“用于实现相关功能的装置”(或任何装置加功能的表述)应当被认为是适于或被配置用于实现相关功能的任何结构。
例如,实施例提供了一种用于训练操作性机器学习模型的方法。然而,操作性机器学习模型可以是任何类型的(例如,神经网络、生成模型、遗传算法等)。
在实施例中,操作性机器学习模型用于医学成像应用。然而,医学成像应用可以是任何类型(参见下文)。
在一个实施例中,该方法包括在计算系统的控制下的以下步骤。然而,计算系统可以是任何类型的(参见下文)。
在一个实施例中,该方法包括(向计算系统)提供多个样本集。然而,样本集可以是任何数量的,并且可以以任何方式提供(例如,通过因特网下载,诸如从卫生设施的中央服务器,其中它们已经从相应的成像系统自动地通过相应的LAN或借助于可移除存储单元手动地收集,从可移除存储单元手动地加载,其中它们已经诸如从中央服务器或从(独立的)成像系统等复制,从任何数量和类型的源(例如,医院、诊所、大学、实验室等。
在一个实施例中,样本集包括对应的样本基线图像、样本源图像和样本对象图像。然而,样本集可以是任何类型(例如,所有样本集都要完整,一些样本集已经变得完整,从图像序列构建或接收的样本集(要变完整或已经完整)已经构建好,等等);此外,每个样本集可以包括任何数量的任何类型(例如,任何形式,诸如幅度、复数、k空间等,具有与身体部位的任何位置(诸如体素、像素等)相关的任何尺寸、大小、分辨率、色度、位深度等)的样本图像(例如,仅样本基线/源/对象图像、被获取和/或模拟的一个或多个另外的样本源图像,诸如对应于造影剂的不同剂量和/或不同的获取条件等)。
在一个实施例中,样本基线/源/对象图像表示受试者的对应身体部位。然而,身体部位可以是任何数量、任何类型(例如,器官、其区域、组织、骨骼、关节等)和任何状况(例如,健康、具有任何病变的病理等);此外,身体部位可以属于任何数量和类型的受试者(例如,人类、动物等)。
在一个实施例中,样本基线图像是在没有造影剂的情况下从相应的身体部位获取的。然而,样本基线图像可以以任何方式获取(例如,通过任何提前,在施用造影剂之前,通过任何延迟在可能先前施用造影剂之后等等)。
在实施例中,已经从已经以样本对象剂量对其施用造影剂的受试者的对应身体部位获取了样本对象图像。然而,造影剂可以是任何类型(例如,任何有对象造影剂,诸如基于特定或非特定交互作用、任何无对象造影剂等),并且其可以以任何方式(例如,静脉内、肌内、口服等)被施用。在任何情况下,这是独立于样本图像的获取(不需要与对应受试者的任何交互)执行的(计算机实现的)数据处理方法。
在实施例中,样本图像对应于低于样本对象剂量的造影剂的样本剂量(其中,样本源剂量与样本对象剂量之间的比率等于减少因子)。然而,样本源剂量和样本对象剂量可以具有任何值,或者在相对项的绝对值的形式(例如,样本对象剂量低于、等于或高于造影剂的全剂量,样本源剂量低于或高于样本对象剂量,等等),并且样本图像可以以任何方式对应于样本源剂量(例如,全部被模拟,部分被获取,等等)。
在实施例中,该方法包括(由计算系统)训练操作性机器学习模型以优化其根据样本集的至少样本基线图像和样本源图像生成样本集中的每一个的样本对象图像的能力。然而,可以以任何方式训练操作性机器学习模型(例如,使用诸如随机梯度下降、实时循环学习、高阶梯度下降、扩展卡尔曼滤波等的任何算法、诸如基于平均绝对误差、均方误差、知觉损失、对抗性损失等的在单独的位置或其群组的水平处定义的任何损失函数、通过考虑诸如身体部位的状况、受试者的类型等的任何补充信息、对于固定的增加因子、对于作为操作性机器学习模型的参数的可变增加因子等,通过从样本集选择任何训练/验证集,来优化其从样本基线图像、样本源图像以及可能地一个或多个另外的样本源图像生成样本对象图像的能力)。
在实施例中,提供样本集的所述步骤包括(由计算系统)接收样本集中的一个或多个不完整样本集,每个不完整样本集缺失样本源图像。然而,不完整样本集可以是任何数目的(例如,所有样本集、仅其一部分等等)。
在一个实施例中,所述方法包括(由所述计算系统)分别通过从所述样本集的所述样本基线图像和所述样本对象图像模拟所述样本源图像来使所述不完整样本集完整,所述样本源图像被模拟以表示所述受试者的对应的身体部位,模仿以所述样本源剂量向其施用所述造影剂。然而,可以以任何方式模拟样本源图像(例如,在任何域中操作,诸如幅度、复数、k空间等,用分析引擎分析地,用生成样本源图像的初步版本的分析引擎,用如此初步变得完整的样本集训练的训练机器学习模型,以及生成样本源图像的细化版本的正被训练的训练机器学习模型,用诸如从对动物的临床前研究独立地获取的另外的样本集训练的训练机器学习模型,具有或不具有任何预处理,诸如登记、标准化、去噪、失真校正、异常样本图像的过滤等,具有或不具有任何后处理,诸如任何标准化、噪声注入等)。
在实施例中,训练方法包括部署(由配置计算系统)被训练的操作性机器学习模型以用于在医学成像应用中使用。然而,可以以任何方式将操作性机器学习模型部署到任何数量和类型的成像系统(例如,与对应的新成像系统一起分发或者用于升级已经安装的成像系统、上线等)。
在实施例中,在医学成像应用中使用所述操作性机器学习模型,以根据与所述减少因子的倒数相对应的增加因子来模仿被施用到相应患者的造影剂的剂量的增加。然而,操作性机器学习模型可以用于以任何方式(例如,实时、离线、本地、远程等)模仿造影剂的剂量的增加;此外,增加因子可以以任何方式对应于减少因子的倒数(例如,等于它,低于或高于它,诸如根据对应的乘法因子等)。
另外的实施例提供了附加的有利特征,然而,在基本实现中可以完全省略这些特征。
在实施例中,在每个样本集中,已经从已经以标准全剂量对其施用造影剂的受试者的对应身体部位获取了样本对象图像。然而,全剂量可以是任何类型(例如,对于每种类型的医学成像应用,固定的,取决于身体部位的类型,取决于受试者的类型、体重、年龄等,等等)。在任何情况下,不排除使用不同的样本对象剂量(例如,低于或高于全剂量)的可能性。
在一个实施例中,一个或多个样本集是完整的样本集。然而,完整的样本集可以是任何数目(相对于不完整的样本集,或者是绝对的或者是相对的),直到没有。
在实施例中,已经从已经以样本源剂量向其施用造影剂的受试者的对应身体部位获取了完整样本集中的每个的样本源图像。然而,完整样本集的样本源图像可以以任何方式从已经以任何方式(例如,相对于样本对象图像相同或不同)向其施用造影剂的受试者的对应身体部位获取。
在一个实施例中,至少部分受试者是动物,并且操作性机器学习模型用于人类的医学成像应用。然而,动物可以是任何数量和任何类型的(例如,大鼠、猪等)。在任何情况下,即使当接收到的所有样本集已经是完整的,利用从动物获取的样本集来训练操作性机器学习模型以用于应用于人类的医学成像应用中也是更普遍可能的。
在一个实施例中,不完整样本集的受试者是动物,完整样本集的受试者是人。然而,可以以任何方式(例如,使用它们中的每一个来仅收集完整的样本集或其一部分,仅收集不完整的样本集或其一部分,其任何组合等)从动物和人类收集样本集。
在一个实施例中,所述操作性机器学习模型是操作性神经网络。然而,操作性神经网络可以是任何类型(例如,自动编码器、多层感知器网络、循环网络等,具有任何数量的层、层之间的连接、感受域、步幅、填充、激活函数等)。
在一个实施例中,每个样本基线图像、每个样本源图像和每个样本对象图像分别包括多个样本基线值、多个样本源值和多个样本对象值。然而,样本基线/源/对象值可以是任何数量和任何类型(例如,体素/像素的幅度/复数形式、k空间形式等)。
在实施例中,使不完整样本集完整的所述步骤包括通过应用取决于减少因子的模拟公式来(由计算系统)计算每个样本源图像的每个样本源值。然而,模拟公式可以是任何类型(例如,线性、二次、三次、相应样本基线值和/或样本施用值的函数等)。
在一个实施例中,所述模拟公式是从信号定律得出的,所述信号定律将身体部位的响应信号的幅度表示为造影剂的局部浓度的函数。然而,信号定律可以是任何类型(例如,基于任何非本征/本征获取参数等),并且模拟公式可以以任何方式从信号定律得出(例如,从信号定律的任何简化、实际信号定律等)。
在一个实施例中,从相对于造影剂的局部浓度线性化的信号定律得出模拟公式。然而,信号定律可以以任何方式(例如,利用任何级数展开、任何近似等)线性化。
在实施例中,通过假设局部浓度和造影剂剂量之间的正比例,从信号定律导出模拟公式。然而,可以通过假设局部浓度和造影剂的剂量之间的任何关系(例如,线性、非线性等)从信号定律导出模拟公式。
在一个实施例中,所述计算每个样本源值的步骤包括(由计算系统)将样本源值设置为相应的样本基线值加上减少因子乘以样本对象剂量和样本源剂量之间的差。然而,不排除使用任何其它(线性/非线性)模拟公式。
在一个实施例中,样本基线值、样本源值和样本对象值表示身体部位的对应位置的响应信号。然而,可以以任何方式(例如,以幅度形式、以复数形式等)表示响应信号。
在实施例中,所述计算每个样本源值的步骤包括(由计算系统)根据从样本对象图像导出的对应位置中的造影剂的局部浓度的指示来调制要用于计算样本源值的减少因子。然而,可以以任何方式导出局部浓度(例如,设置为相应的局部对比度增强,根据信号定律从样本对象值计算等等),并且可以根据其任何线性/非线性函数调制减少因子(向下以总是保持相同)。
在实施例中,所述调制用于计算样本源值的减少因子的步骤包括(由计算系统)根据对应位置的局部对比度增强来线性地增大减少因子,所述局部对比度增强取决于对应样本对象值与样本基线值之间的差。然而,可以根据任何调制因子(例如,根据经验确定的、通过使用任何获取参数的平均/局部值计算的等等)来线性地增大减少因子。
在实施例中,所述使不完整样本集完整包括(由计算系统)将人工噪声注入到不完整样本集中的每个的样本源图像中。然而,人工噪声可以是任何类型的(例如,取决于减少因子、固定的等等),并且可以以任何方式(例如,以加性形式、乘法形式、卷积形式、以幅度形式、以复数形式、以k空间形式、在任何地方、仅在造影剂存在的地方等等)将其注入到样本源图像中,下至无。
在一个实施例中,人工噪声具有取决于减少因子的统计分布。然而,人工噪声的统计分布可以是任何类型(例如,正态、瑞利、Rician等类型);此外,人工噪声的统计分布可以以任何方式取决于减少因子(例如,取决于使用理论方法确定的减少因子的任何线性/非线性函数,所获得的结果被启发式地校正,等等)。
在实施例中,所述将人工噪声注入到样本源图像中包括(由计算系统)基于对应的样本基线图像和/或样本对象图像的噪声来计算参考噪声的一个或多个统计参数的对应参考值。然而,统计参数可以是任何数量和任何类型(例如,标准偏差、方差、偏斜度等),并且它们的参考值可以以任何方式计算(例如,根据样本基线图像的噪声和样本对象图像的噪声,诸如根据对应值的平均值,仅根据样本基线图像的噪声,仅根据样本对象图像的噪声等)。
在实施例中,所述将人工噪声注入到样本源图像中包括(由配置计算系统)计算使样本源图像的噪声的统计分布与参考噪声的统计分布相匹配所需的人工噪声的统计参数的对应人工值。然而,可以根据对应参考值的任何线性/非线性函数来计算人工值。
在实施例中,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)随机地生成人工噪声以具有带有统计参数的人工值的统计分布。然而,可以以任何方式(例如,利用任何随机或伪随机生成器等)生成人工噪声。
在实施例中,统计参数包括标准偏差,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)将标准偏差的人工值设置为标准偏差的参考值乘以以下值的平方根:两倍的减少因子乘以1与减少因子之间的差。然而,不排除使用不同的公式的可能性。
在实施例中,计算统计参数的人工值的所述步骤包括(由计算系统)根据对应的经验校正来校正统计参数的人工值。然而,经验校正可以是任何类型的(例如,对于所有统计参数都相同,对于每个统计参数不同,等等),并且它们可以用于以任何方式校正对应的人工值(例如,通过根据任何线性/非线性函数增大/减小它们,等等)。
在实施例中,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)随机地生成人工噪声以具有带有零均值的正态型统计分布。然而,不排除生成具有不同类型的统计分布和不同均值的人工噪声的可能性。
在实施例中,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)将人工噪声加到样本源图像。然而,可以以任何方式(例如,在样本源图像的每个单元、单元组的水平上以任何形式等)以加性形式注入人工噪声。
在实施例中,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)随机地生成人工噪声以具有带有单位均值的正态型统计分布。然而,不排除生成具有不同类型的统计分布和不同均值的人工噪声的可能性。
在实施例中,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)将样本源图像乘以人工噪声。然而,可以以任何方式以乘法形式注入人工噪声(例如,在样本源图像的每个单元、单元组的水平上以任何形式,等等)。
在实施例中,将人工噪声注入到样本源图像中的所述步骤包括(由计算系统)通过人工噪声对样本源图像进行卷积。然而,可以以任何方式以卷积形式注入人工噪声(例如,在样本源图像的每个单元、单元组的级别以任何形式、以具有任何步幅的循环或非循环方式、填充等)。
在一个实施例中,训练方法包括(由配置计算系统)对要用于模拟对应的样本源图像的每个不完整样本集的样本基线图像和样本对象图像进行去噪。然而,可以以任何方式(例如,利用自动编码器、基于块匹配的分析技术、收缩场、小波变换、平滑滤波器等)对样本基线/对象图像去噪,直到无去噪。
在实施例中,使不完整样本集完整的所述步骤包括(由计算系统)对训练机器学习模型进行训练以优化其从对应的样本基线图像和样本对象图像生成样本集中的每个样本集的样本源图像的能力。然而,训练机器学习模型可以是任何类型的,并且它可以通过使用任何样本集(例如,在分析地使不完整样本集完整之后它们全部、仅完整样本集等等)以任何方式(例如,相对于操作性机器学习模型相同或不同)被训练。
在一个实施例中,所述使不完整样本集完整包括(由计算系统)通过将不完整样本集中的样本基线图像和样本对象图像应用于正在被训练的训练机器学习模型来生成不完整样本集中的每一个的样本源图像的细化版本。然而,不排除以不同的方式使用训练机器学习模型的可能性(例如,细化不完整样本集的样本源图像,直接生成它们,等等)。
在一个实施例中,训练机器学习模型是训练神经网络。然而,训练神经网络可以是任何类型(例如,与操作性神经网络相同或不同)。
在实施例中,该方法包括(由计算系统)重复使不完整样本集完整的所述步骤和针对减少因子的多个值训练操作性机器学习模型的所述步骤。然而,减少因子的值可以是任何数目和任何类型(例如,均匀分布,具有可变间距,诸如对于增大值减小等等),并且这些步骤可以以任何方式重复(例如,连续地,在不同时间等等)。
在实施例中,所述方法包括(由所述计算系统)将所述操作性机器学习模型部署在利用所述减少因子的值训练的对应配置中,其用于在所述医学成像应用中的每个中选择所述增加因子的一个或多个对应值。然而,可以以任何方式(例如,全部在一起、随时间添加等)和以任何形式(例如,单个操作性机器学习模型的对应配置、操作性机器学习模型的对应实例等)来部署不同配置,并且它们可以用于以任何数量和以任何方式(例如,以离散模式、以连续模式、相对于减少因子的值相同或不同等)来选择增加因子的值。
在实施例中,所述方法包括(由计算系统)通过针对造影剂的对应的另外的样本源剂量根据样本集的样本基线图像和样本对象图像模拟一个或多个另外的样本源图像来扩展样本集中的每个。然而,另外的样本源图像可以是任何数量的并且对应于任何另外的样本源剂量(低至无),并且它们可以以任何方式被模拟(例如,相对于样本源图像相同或不同)。
在实施例中,所述方法包括在对患者的对应的另外的身体部位进行成像的每个医学成像应用中使用被训练的操作性机器学习模型。然而,另外的身体部位可以是任何类型的,在任何状况下,并且其可以属于任何患者(例如,相对于用于训练操作性机器学习模型的受试者的身体部位相同或不同);此外,该方法可用于任何医学成像应用(例如,诊断、治疗或外科应用,基于MRI、CT、荧光透视、荧光或超声技术等)。在任何情况下,尽管该方法可以促进医师的任务,但是它仅提供可以帮助他/她的中间结果,但是总是由医师他/她自己做出严格意义上的医疗活动。
在实施例中,方法包括(由所述计算系统)接收表示所述患者的另外的身体部位的操作性基线图像和一个或多个操作性施用图像。然而,操作性施用图像可以是任何数量,并且操作性基线/施用图像可以是任何类型(例如,相对于样本图像相同或不同);此外,可以以任何方式(例如,实时、离线、本地、远程等)接收操作性基线/施用图像。
在一个实施例中,已经从已经以操作性施用剂量对其施用造影剂的患者的另外的身体部位获取了操作性施用图像。然而,造影剂可以以任何方式施用给患者,包括以非侵入性方式(例如,口服用于对胃肠道成像,经由喷雾器进入气道,经由外用喷雾施用)和在任何情况下对患者没有任何实质的物理干预,所述物理干预将需要专业医学专业知识或对他/她带来任何健康风险(例如,肌内);此外,操作性施用剂量可以具有任何值(例如,与样本源剂量相同或不同,低于、等于或高于造影剂的全剂量,等等)。
在一个实施例中,该方法包括(由计算系统)利用被训练的机器学习模型根据操作性基线图像和操作性施用图像模拟对应的操作性模拟图像。然而,可以以任何方式(例如,在诸如幅度、复数、k空间等的任何域中实时、离线、本地、远程等操作)从在没有造影剂的情况下或在以与操作性施用剂量不同的剂量施用造影剂的情况下和/或在不同的获取条件下从身体部位获取的操作性基线图像开始,来模拟操作性模拟图像。
在实施例中,所述操作性模拟图像表示患者的所述另外的身体部位,模仿以高于所述操作性施用剂量的操作性模拟剂量(所述操作性模拟剂量与所述操作性施用剂量之间的比率对应于所述增加因子)向其施用造影剂。然而,操作性模拟剂量可以具有任何值(例如,与样本对象剂量相同或不同,低于、等于或高于造影剂的全剂量,等等),其中操作性模拟剂量与操作性施用剂量之间的比率以任何方式对应于增加因子(例如,等于、低于或高于它,诸如根据对应的乘法因子,等等)。
在实施例中,该方法包括(由计算系统)基于操作性模拟图像输出身体部位的表示。然而,身体部位的表示可以是任何类型(例如,操作性模拟图像、对应的操作性组合图像等),并且其可以以任何方式输出(例如,显示在任何设备上,诸如监视器、虚拟现实眼镜等,或者更一般地,以任何方式实时或离线输出,诸如打印、远程传输等)。
通常,如果相同的解决方案用等同的方法来实现(通过使用具有更多步骤或其部分的相同功能的类似步骤,移除一些非必需的步骤,或添加另外的可选步骤),则类似的考虑适用;此外,可以以不同的顺序、同时或以交错的方式(至少部分地)执行这些步骤。
一个实施例提供了一种计算机程序,其被配置用于当在计算系统上执行该计算机程序时使计算系统执行上述方法。实施例提供了一种计算机程序产品,其包括包含计算机程序的计算机可读存储介质,所述计算机程序可加载到计算系统的工作存储器中,从而配置所述计算系统以执行相同的方法。然而,(计算机)程序可以在任何计算系统上执行(参见下文)。该程序可以实现为独立模块、实现为用于预先存在的软件程序(例如,配置应用、成像应用等)的插件或者甚至直接实现在软件程序中。
通常,如果以不同的方式构造程序,或者如果提供附加的模块或功能,则类似的考虑适用;同样,存储器结构可以是其它类型的,或者可以用等同实体(不一定由物理存储介质组成)来代替。程序可以采取适合于由计算系统使用的任何形式(参见下文),从而配置计算系统以执行期望的操作;特别地,程序可以是外部或驻留软件、固件或微代码(例如,以对象代码或以源代码,以被编译或解释)的形式。此外,可以在任何计算机可读存储介质上提供该程序。存储介质是可以保留和存储供计算系统使用的指令的任何有形介质(不同于瞬态信号本身)。例如,存储介质可以是电子、磁、光、电磁、红外或半导体型的;这种存储介质的例子是固定盘(其中可以预先加载程序)、可移除盘、存储器密钥(例如USB类型)等。程序可以从存储介质或经由网络(例如,因特网、广域网和/或局域网,包括传输缆线、光纤、无线连接、网络设备)下载到计算系统;计算系统中的一个或多个网络适配器从网络接收程序,并将其转发以存储到计算系统的一个或多个存储设备中。在任何情况下,根据本公开的实施例的解决方案适合于甚至利用硬件结构(例如,通过集成在诸如现场可编程门阵列(FPGA)或专用集成电路(ASIC)类型之类的半导体材料的一个或多个芯片中的电子电路)或者利用适当编程或以其他方式配置的软件和硬件的组合来实现该解决方案。
实施例提供了一种计算系统,其包括被配置用于执行上述方法的步骤的装置。实施例提供了一种计算系统,其包括用于执行相同方法的每个步骤的电路(即,例如通过软件适当配置的任何硬件)。然而,计算系统可以是任何类型(例如,仅配置计算系统、配置计算系统、控制计算系统以及控制计算系统、提供它们两者的功能的普通计算系统等)并且在任何位置处(例如,在服务器、虚拟机等控制多个扫描器的情况下,在现场,在由服务提供商为多个扫描器提供云类型、SOA类型等的对应服务的实现的情况下,远程地,在与对应扫描器分离的控制计算机、扫描器的控制单元等的情况下,本地地)。
通常,如果计算系统具有不同的结构或包括等同组件,或者它具有其它操作特性,则类似的考虑适用。在任何情况下,其每个部件可以被分成更多的元件,或者两个或更多个部件可以被一起组合成单个元件;此外,每个组件可以被复制以支持并行执行相应的操作。此外,除非另外指明,不同组件之间的任何交互通常不需要连续,并且它可以是直接的或通过一个或多个中介间接的。

Claims (29)

1.一种用于训练在医学成像应用中使用的操作性机器学习模型(420)的方法(700),其中,所述方法(700)包括在计算系统(130)的控制下:
向所述计算系统(130)提供(703-743;759-763)多个样本集,所述多个样本集包括表示受试者的对应身体部位的对应的样本基线图像、样本源图像和样本对象图像,所述样本基线图像是在没有造影剂的情况下从对应身体部位获取的,所述样本对象图像是从已经以样本对象剂量向其施用造影剂的受试者的对应身体部位获取的,并且所述样本源图像对应于比所述样本对象剂量低的造影剂的样本剂量,其中所述样本源剂量与所述样本对象剂量之间的比率等于减少因子,
由所述计算系统(130)训练(744-758)所述操作性机器学习模型(420)以优化其根据所述样本集的至少所述样本基线图像和所述样本源图像生成所述样本集中的每一个的样本对象图像的能力,以及
由所述计算系统(130)部署(765)所述操作性机器学习模型(420),所述操作性机器学习模型被训练用于在所述医学成像应用中使用,以根据与所述减少因子的倒数相对应的增大因子来模仿被施用到对应患者的造影剂的剂量的增加,
其中所述提供(703-743;759-763)所述样本集包括:
由所述计算系统(130)接收(703)所述样本集中的每个都缺失所述样本源图像的一个或多个不完整样本集,以及
由所述计算系统(130)通过根据所述样本集的所述样本基线图像和所述样本对象图像来模拟所述样本源图像,使每个所述不完整样本集完整(704-742;759-763),所述样本源图像被模拟以表示所述受试者的对应身体部位,模仿以所述样本源剂量向其施用造影剂。
2.根据权利要求1所述的方法(700),其中,在所述样本集中的每个样本集中,已经从已经以标准全剂量向其施用造影剂的所述受试者的对应身体部位获取了所述样本对象图像。
3.根据权利要求1或2所述的方法(700),其中,所述样本集中的一个或多个是完整样本集,所述完整样本集中的每个的样本源图像是从已经以样本源剂量向其施用造影剂的所述受试者的对应身体部位获取的。
4.根据权利要求1至3中的任一项所述的方法(700),其中,所述受试者中的至少部分受试者是动物,并且所述操作性机器学习模型(420)用于对人类的医学成像应用中。
5.根据从属于权利要求3时的权利要求4所述的方法(700),其中,所述不完整样本集的受试者是动物,并且所述完整样本集的受试者是人类。
6.根据权利要求1至5中任一项所述的方法(700),其中,所述操作性机器学习模型(420)是操作性神经网络(420)。
7.根据权利要求1至6中的任一项所述的方法(700),其中,所述样本基线图像中的每一个、所述样本源图像中的每一个和所述样本对象图像中的每一个分别包括多个样本基线值、样本源值和样本对象值,所述使所述不完整样本集完整(704-742;759-763)包括:
由所述计算系统(130)通过应用取决于所述减少因子的模拟公式来计算(708-722)每个样本源图像的每个所述样本源值,所述模拟公式是从信号定律导出的,所述信号定律将身体部位的响应信号的幅度表示为造影剂的局部浓度的函数。
8.根据权利要求7所述的方法(700),其中,所述模拟公式是从相对于造影剂的局部浓度被线性化的所述信号定律导出的。
9.根据权利要求7或8所述的方法(700),其中,通过假设所述局部浓度与造影剂的剂量之间的正比例性,从所述信号定律导出所述模拟公式。
10.根据权利要求7至9中任一项所述的方法(700),其中,所述计算(708-722)所述样本源值中的每一个包括:
由所述计算系统(130)将所述样本源值设置(713;721)为对应的样本基线值加上乘以样本对象剂量与样本源剂量之间的差的所述减少因子。
11.根据权利要求7至10中任一项所述的方法(700),其中,所述样本基线值、所述样本源值和所述样本对象值表示所述身体部位的对应位置的响应信号,所述计算(700-722)样本源值中的每一个包括:
由所述计算系统(130)根据从所述样本对象图像导出的对应位置中的造影剂的局部浓度的指示来调制(709;712;720)要被用于计算样本源值的减少因子。
12.根据权利要求11所述的方法(700),其中,所述调制(709;712;720)用于计算样本源值的减少因子包括:
由所述计算系统(130)根据所述对应位置的局部对比度增强来线性地增大(712;720)所述减少因子,所述局部对比度增强取决于对应样本对象值与样本基线值之间的差。
13.根据权利要求1至12中的任一项所述的方法(700),其中,所述使不完整样本集完整(704-742;759-763)包括:
由所述计算系统(130)将人工噪声注入(706;715-716;723-724;734-738)到每个所述不完整样本集的样本源图像中,所述人工噪声具有取决于所述减少因子的统计分布。
14.根据权利要求13所述的方法(700),其中,所述将人工噪声注入(706;715-716;723-724;734-738)到样本源图像中包括:
由所述计算系统(130)基于对应的样本基线图像和/或样本对象图像的噪声来计算(706)参考噪声的一个或多个统计参数的对应参考值,
由所述计算系统(130)计算(706)使样本源图像的噪声的统计分布与参考噪声的统计分布相匹配所需的人工噪声的统计参数的对应人工值,以及
由所述计算系统(130)随机地生成(715;723;734;737)人工噪声以具有带有所述统计参数的人工值的统计分布。
15.根据权利要求14所述的方法(700),其中,所述统计参数包括标准偏差,所述将人工噪声注入(706;715-716;723-724;734-738)到样本源图像中包括:
由所述计算系统(130)将标准偏差的人工值设置(706)为标准偏差的参考值乘以以下值的平方根:两倍的减少因子乘以1与减少因子之间的差。
16.根据权利要求14或15所述的方法(700),其中,所述计算(706)统计参数的人工值包括:
由所述计算系统(130)根据对应的经验校正来校正(706)统计参数的人工值。
17.根据权利要求13至16中任一项所述的方法(700),其中,所述将人工噪声注入(706;715-716;723-724;734-738)到样本源图像中包括:
由所述计算系统(130)随机地生成(715;737)人工噪声以具有带有零均值的正态型统计分布,以及
由所述计算系统(130)将人工噪声加(716;738)到样本源图像。
18.根据权利要求13至17中任一项所述的方法(700),其中,所述将人工噪声注入(706;715-716;723-724;734-738)到样本源图像中包括:
由所述计算系统(130)随机地生成(734)人工噪声以具有带有单位均值的正态型统计分布,以及
由所述计算系统(130)将样本源图像乘以(735)所述人工噪声。
19.根据权利要求13至17中任一项所述的方法(700),其中,所述将人工噪声注入(706;715-716;723-724;734-738)到样本源图像中包括:
由所述计算系统(130)随机地生成(723)人工噪声以具有带有单位均值的正态型统计分布,以及
由所述计算系统(130)通过所述人工噪声对样本源图像进行卷积(724)。
20.根据权利要求1至19中任一项所述的方法(700),其中,所述方法(700)包括:
由所述配置计算系统(130)对要用于模拟对应的样本源图像的所述不完整样本集中的每个不完整样本集的样本基线图像和样本对象图像进行去噪(708)。
21.根据权利要求1至20中的任一项所述的方法(700),其中,所述使不完整样本集完整(704-742;759-763)包括:
由所述计算系统(130)训练(759)训练机器学习模型(540)以优化其根据对应的样本基线图像和样本对象图像生成所述样本集中的每个样本集的样本源图像的能力,
由所述计算系统(130)通过将所述不完整样本集中的样本基线图像和样本对象图像应用于正在被训练的所述训练机器学习模型(540)来生成(760-762)所述不完整样本集中的每个的样本源图像的细化版本。
22.根据权利要求21所述的方法(700),其中,所述训练机器学习模型(540)是训练神经网络(540)。
23.根据权利要求1至22中任一项所述的方法(700),其中,所述方法(700)包括:
由所述计算系统(130)重复(764)所述使不完整样本集完整(704-742;759-763)和所述针对减少因子的多个值训练(744-758)操作性机器学习模型(420),以及
由所述计算系统(130)将操作性机器学习模型部署(765)在利用所述减少因子的值训练的对应配置中,所述减少因子的值用于在所述医学成像应用中的每个中选择所述增加因子的一个或多个对应值。
24.根据权利要求1至23中任一项所述的方法(700),其中,所述方法(700)包括:
由所述计算系统(130)通过针对造影剂的对应的另外的样本源剂量根据所述样本集的样本基线图像和样本对象图像模拟一个或多个另外的样本源图像来扩展(704-742;759-763)所述样本集中的每个样本集。
25.根据权利要求1至24中的任一项所述的方法(600,700),其中,所述方法(600,700)包括通过以下操作来使用在所述医学成像应用中的每个医学成像应用中被训练的机器学习模型(420)以用于对患者的对应的另外的身体部位进行成像:
由所述计算系统(115)接收(609,621)表示所述患者的另外的身体部位的操作性基线图像和一个或多个操作性施用图像,所述操作性施用图像是从已经以操作性施用剂量对其施用了造影剂的所述患者的另外的身体部位获取的,
由所述计算系统(115)利用被训练的机器学习模型(420)根据操作性基线图像和操作性施用图像来模拟(624-630)对应的操作性模拟图像,其中,所述操作性模拟图像表示所述患者的另外的身体部位,模仿以高于操作性施用剂量的操作性模拟剂量对所述患者施用造影剂,其中操作性模拟剂量和操作性施用剂量之间的比率对应于所述增加因子,以及
由所述计算系统(115)基于操作性模拟图像输出(633-636)身体部位的表示。
26.一种计算机程序(500),被配置用于当所述计算机程序(500)在计算系统(130)上执行时使所述计算系统(130)执行根据权利要求1至25中任一项所述的方法(700)。
27.一种计算机程序产品,包括包含计算机程序的计算机可读存储介质,所述计算机程序可加载到计算系统的工作存储器中,从而配置所述计算系统以执行根据权利要求1至25中任一项所述的方法。
28.一种计算系统(130),包括被配置用于执行根据权利要求1至25中任一项所述的方法(700)的各步骤的装置(500)。
29.一种计算系统,包括用于执行根据权利要求1至25中的任一项所述的成像方法的每个步骤的电路。
CN202280051005.XA 2021-10-15 2022-10-14 训练机器学习模型以用于在医学成像应用中模拟在较高剂量造影剂下的图像 Pending CN117693770A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP21203019.1 2021-10-15
EP21203019 2021-10-15
PCT/EP2022/078668 WO2023062196A1 (en) 2021-10-15 2022-10-14 Training a machine learning model for simulating images at higher dose of contrast agent in medical imaging applications

Publications (1)

Publication Number Publication Date
CN117693770A true CN117693770A (zh) 2024-03-12

Family

ID=78528599

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280051005.XA Pending CN117693770A (zh) 2021-10-15 2022-10-14 训练机器学习模型以用于在医学成像应用中模拟在较高剂量造影剂下的图像

Country Status (3)

Country Link
EP (1) EP4334900A1 (zh)
CN (1) CN117693770A (zh)
WO (1) WO2023062196A1 (zh)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7244499B2 (ja) * 2017-10-09 2023-03-22 ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー 深層学習を用いた医用イメージングの造影剤用量削減
EP4035124A4 (en) * 2019-09-25 2023-10-11 Subtle Medical, Inc. SYSTEMS AND METHODS FOR IMPROVING LOW-DOSE VOLUMETRIC CONTRAST-ENHANCED MRI
EP4016106A1 (en) 2020-12-18 2022-06-22 Guerbet Methods for training at least a prediction model for medical imaging, or for processing at least a pre-contrast image depicting a body part prior to an injection of contrast agent using said prediction model
EP4016107A1 (en) 2020-12-18 2022-06-22 Guerbet Methods for training a cnn and for processing an inputted perfusion sequence using said cnn

Also Published As

Publication number Publication date
EP4334900A1 (en) 2024-03-13
WO2023062196A1 (en) 2023-04-20

Similar Documents

Publication Publication Date Title
Huang et al. Metal artifact reduction on cervical CT images by deep residual learning
JP2021502836A (ja) 機械学習を使用した画像生成
CN110462689A (zh) 基于深度学习的断层摄影重建
CN110234400A (zh) 用于生成合成医学图像的神经网络
EP3338636B1 (en) An apparatus and associated method for imaging
DE102020118559A1 (de) Deep learning für eine Perfusion bei der medizinischen Bildgebung
Wang et al. Low‐dose preview for patient‐specific, task‐specific technique selection in cone‐beam CT
CN109961419B (zh) 对pet活度分布图像进行衰减校正的校正信息获取方法
CN109215094B (zh) 相位衬度图像生成方法及系统
CN110678906B (zh) 用于定量分子成像的准确混合数据集的生成
CN111260650A (zh) 一种脊柱ct序列图像分割方法与系统
CN108271346A (zh) 辐射剂量减少以及混合成像研究中的时期之间的改进的一致性
Song et al. Denoising of MR and CT images using cascaded multi-supervision convolutional neural networks with progressive training
CN107518911A (zh) 医用图像诊断装置及医用图像处理装置
CN110852993B (zh) 一种造影剂作用下的成像方法与设备
CN108618797A (zh) 光谱ct图像数据的对比度增强再现
CN117693770A (zh) 训练机器学习模型以用于在医学成像应用中模拟在较高剂量造影剂下的图像
CN117677347A (zh) 在医学成像应用中模拟在较高剂量造影剂下的图像
Amirian et al. Mitigation of motion‐induced artifacts in cone beam computed tomography using deep convolutional neural networks
CN112862722B (zh) 一种双能x射线减影方法和装置
EP3771405A1 (en) Method and system for automated dynamic medical image acquisition
CN114596225A (zh) 一种运动伪影模拟方法和系统
US11955228B2 (en) Methods and system for simulated radiology studies based on prior imaging data
WO2020209826A1 (en) Deep reinforcement learning for computer assisted reading and analysis
US20240169610A1 (en) Label-free adaptive ct super-resolution reconstruction method, system and device based on generative network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication