CN111915495A - 获取截断部分预测图像的方法及装置 - Google Patents

获取截断部分预测图像的方法及装置 Download PDF

Info

Publication number
CN111915495A
CN111915495A CN201910380182.2A CN201910380182A CN111915495A CN 111915495 A CN111915495 A CN 111915495A CN 201910380182 A CN201910380182 A CN 201910380182A CN 111915495 A CN111915495 A CN 111915495A
Authority
CN
China
Prior art keywords
image
truncated
projection data
truncated portion
pixel matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910380182.2A
Other languages
English (en)
Inventor
王学礼
赵冰洁
李石羽
刘丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GE Precision Healthcare LLC
Original Assignee
GE Precision Healthcare LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by GE Precision Healthcare LLC filed Critical GE Precision Healthcare LLC
Priority to CN201910380182.2A priority Critical patent/CN111915495A/zh
Priority to JP2020078001A priority patent/JP7019745B2/ja
Priority to US16/866,668 priority patent/US11380026B2/en
Priority to EP20173339.1A priority patent/EP3736772A1/en
Publication of CN111915495A publication Critical patent/CN111915495A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • G06T11/005Specific pre-processing for tomographic reconstruction, e.g. calibration, source positioning, rebinning, scatter correction, retrospective gating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • G06T11/006Inverse problem, transformation from projection-space into object-space, e.g. transform methods, back-projection, algebraic methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/432Truncation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/441AI-based methods, deep learning or artificial neural networks

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Algebra (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请提供了一种获取截断部分预测图像的方法及装置,一种成像方法及系统,以及非暂态计算机可读存储介质。所述获取截断部分预测图像的方法包括对投影数据进行预处理,以重建得到截断部分的初始图像,以及基于训练的学习网络,对初始图像进行校准,以获取截断部分的预测图像。

Description

获取截断部分预测图像的方法及装置
技术领域
本发明涉及图像处理,尤其涉及一种获取截断部分预测图像的方法及装置,成像方法及系统,以及非暂态计算机可读存储介质。
背景技术
在计算机断层扫描(Computed Tomography,CT)的过程中,使用检测器来采集通过被检测对象后的X射线的数据,之后再对这些采集到的X射线数据进行处理以得到投影数据。可利用这些投影数据来重建CT图像。完整的投影数据可重建准确的CT图像以用于诊断。
然而,如果被检测对象体型较大或摆放特殊的姿势,那么被检测对象的某些部分就会超出扫描域,检测器也就无法采集到完整的投影数据,这被称之为数据截断。通常地,可以通过一些数学模型,例如,水模型等,来预测截断部分的投影数据或图像,然而这些传统方法预测得到的截断部分的图像质量会随不同的实际情况而改变,性能也都不够理想。
发明内容
本发明提供一种获取截断部分预测图像的方法及装置,成像方法及系统,以及非暂态计算机可读存储介质。
本发明的示例性实施例提供了一种获取截断部分预测图像的方法,所述方法包括对投影数据进行预处理,以重建得到截断部分的初始图像;以及基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
可选地,所述对投影数据进行预处理包括对投影数据的截断部分进行填充。进一步地,对投影数据的截断部分进行填充包括将未截断部分边界的投影数据信息填充到截断部分。更进一步地,将未截断部分边界的投影数据信息填充到截断部分包括将每个通道的未截断部分边界的投影数据信息填充到相应通道的截断部分。
可选地,基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像包括将所述截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵;基于训练的学习网络,对所述像素矩阵进行校准;以及将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像。
可选地,所述训练的学习网络是基于虚拟失真图像和对照图像进行训练得到的。进一步地,所述训练的学习网络是基于所述虚拟失真图像经过坐标变换得到的像素矩阵和所述对照图像经过坐标变换得到的像素矩阵进行训练得到的。进一步地,所述虚拟失真图像和对照图像的获取方法包括接收没有数据截断的原始图像;使所述原始图像中对应目标物体的部分虚拟平移以部分地移出扫描域,从而得到对照图像;对所述对照图像进行虚拟扫描并进行虚拟数据采集,以生成虚拟截断投影数据;以及对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。可选地,所述虚拟失真图像和对照图像的获取方法包括:接收没有数据截断的原始图像,所述原始图像被用作对照图像;使所述原始图像保持在扫描域内,并对该原始图像进行正投影以得到该原始图像的投影;对所述投影的两侧通道进行填充,以生成虚拟截断投影数据;以及对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。
本发明的示例性实施例还提供了一种成像方法,所述成像方法包括获取截断部分预测图像,以及将所述截断部分的预测图像与根据原始投影数据重建得到的未截断部分图像进行拼接以得到医学图像,其中,获取截断部分预测图像包括对投影数据进行预处理,以重建得到截断部分的初始图像;以及基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
本发明的示例性实施例还提供了一种非暂态计算机可读存储介质,其用于存储计算机程序,所述计算机程序由计算机执行时使计算机执行上述的用于获取截断部分图像的方法的指令。
本发明的示例性实施例还提供了一种获取截断部分图像预测的装置,所述装置包括预处理装置和控制装置。所述预处理装置用于对投影数据进行预处理,以重建得到截断部分的初始图像。所述控制装置用于基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
可选地,所述预处理装置包括填充模块,所述填充模块用于对投影数据的截断部分进行填充。进一步地,所述填充模块进一步被配置用于将未截断部分边界的投影数据信息填充到截断部分。
可选地,所述控制装置包括变换模块,校准模块和反变换模块,所述变换模块用于将所述截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵,所述校准模块用于基于训练的学习网络,对所述像素矩阵进行校准,所述反变换模块用于将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像。
本发明的示例性实施例还提供了一种成像系统,所述系统上述的获取截断部分图像预测的装置以及拼接装置。所述获取截断部分图像预测的装置包括预处理装置和控制装置。所述预处理装置被配置用于对投影数据进行预处理,以重建得到截断部分的初始图像。所述控制装置被配置用于基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。所述拼接装置用于将所述截断部分的预测图像与根据投影数据重建得到的未截断部分图像进行拼接以得到医学图像。
通过下面的详细描述、附图以及权利要求,其他特征和方面会变得清楚。
附图说明
通过结合附图对于本发明的示例性实施例进行描述,可以更好地理解本发明,在附图中:
图1示出了根据本发明一些实施例的成像方法的流程图;
图2示出了根据图1所示的方法中的基于训练的学习网络,对初始图像进行校准,以获取截断部分的预测图像的步骤的流程图;
图3示出了根据图1所示的方法中对投影进行预处理的一些中间图像,其中,图像(1)示出了出现数据截断的投影,图像(2)示出了对(1)中的投影的截断部分进行填充得到的模拟投影,图像(3)示出了对(2)中的模拟投影进行图像重建得到的CT图像;
图4示出了根据图2所示的步骤中的一些中间图像,其中,图像(1)示出了截断部分所对应的直角坐标像素矩阵,图像(2)示出了对(1)中的直角坐标变换图像经过学习网络得到的预测后的像素矩阵,图像(3)示出了对(2)中的预测后的像素矩阵进行坐标反变换后得到的预测图像;
图5示出了根据本发明一些实施例的学习网络训练数据准备方法的流程图;
图6示出了根据本发明另一些实施例的学习网络训练数据准备方法的流程图;
图7示出了根据本发明一些实施例的CT系统的示意图;以及
图8示出了根据本发明一些实施例的包括获取截断部分预测图像装置的成像系统的示意图。
具体实施方式
以下将描述本发明的具体实施方式,需要指出的是,在这些实施方式的具体描述过程中,为了进行简明扼要的描述,本说明书不可能对实际的实施方式的所有特征均作详尽的描述。应当可以理解的是,在任意一种实施方式的实际实施过程中,正如在任意一个工程项目或者设计项目的过程中,为了实现开发者的具体目标,为了满足系统相关的或者商业相关的限制,常常会做出各种各样的具体决策,而这也会从一种实施方式到另一种实施方式之间发生改变。此外,还可以理解的是,虽然这种开发过程中所作出的努力可能是复杂并且冗长的,然而对于与本发明公开的内容相关的本领域的普通技术人员而言,在本公开揭露的技术内容的基础上进行的一些设计,制造或者生产等变更只是常规的技术手段,不应当理解为本公开的内容不充分。
除非另作定义,权利要求书和说明书中使用的技术术语或者科学术语应当为本发明所属技术领域内具有一般技能的人士所理解的通常意义。本发明专利申请说明书以及权利要求书中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。“一个”或者“一”等类似词语并不表示数量限制,而是表示存在至少一个。“包括”或者“包含”等类似的词语意指出现在“包括”或者“包含”前面的元件或者物件涵盖出现在“包括”或者“包含”后面列举的元件或者物件及其等同元件,并不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接,也不限于是直接的还是间接的连接。
如本发明中所使用,术语“被检测对象”可包括任何被成像的物体。术语“投影数据”与“投影图像”代表相同的含义。
在一些实施例中,在CT扫描过程中,当被检测对象体型较大或者摆放特殊的姿势,会导致部分超出CT的扫描域(SFOV),采集到的投影数据会出现截断,而重建得到的图像也会失真,本发明一些实施例中的获取截断部分预测图像的方法及系统基于人工智能可以更精准的预测截断部分的图像,更好的给医生的诊断和/或治疗提供依据。需要指出的是,从本领域或者相关领域普通技术人员的角度来看,这样的描述不应当理解为只将本发明限制在CT系统中,实际上,这里描述的获取截断部分的预测图像的方法及系统可以被合理地应用于与医疗领域和非医疗领域中的其他成像领域,例如,X射线系统、PET系统、SPECT系统、MR系统或其任何组合。
如本文所讨论的,人工智能(其包括深度学习技术,深度学习技术又被称为深度机器学习、分层学习或深度结构化学习等)其采用用于学习的人工神经网络。深度学习方法的特征在于使用一个或多个网络架构来提取或模拟一类感兴趣数据。深度学习方法可以使用一个或多个处理层(例如,卷积层、输入层、输出层、归一化层等等,按照不同的深度学习网络模型可以具有不同的功能层)来完成,其中层的配置和数量允许深度学习网络处理复杂的信息提取和建模任务。通常通过所谓的学习过程(或训练过程)来估计网络的特定参数(又可以称为“权重”和“偏差”),尽管在一些实施例中,学习过程本身也可以扩展到网络架构的学习元素。被学习或训练的参数通常会导致(或输出)一个对应于不同级别层的网络,因此提取或模拟初始数据的不同方面或前一层的输出通常可以表示层的层次结构或级联。在图像处理或重建的过程中,这可以表征为相对于数据中的不同特征级别或分辨率的不同层。因此,处理可以分层进行,即,较早或较高级别的层可以对应于从输入数据中提取“简单”特征,接着是将这些简单特征组合成表现出更高复杂度的特征的层。实际上,每层(或者更具体地,每层中的每个“神经元”)可以采用一个或多个线性和/或非线性变换(所谓的激活函数)来将输入数据处理为输出数据表示。多个“神经元”的数量可以是在多个层之间恒定的,或者可以从层到层变化。
如本文所讨论的,作为解决特定问题的深度学习过程的初始训练的一部分,可以采用具有已知输入值(例如,输入图像或图像进行坐标变换的像素矩阵)以及已知或期望值的训练数据集以得到深度学习过程的最终输出(例如,目标图像或图像进行坐标变换的像素矩阵)或深度学习过程的各个层(假设多层网络架构)。以这种方式,深度学习算法可以(以监督或引导的方式或以无监督或非指导的方式)处理已知或训练数据集,直到识别出初始数据和期望输出之间的数学关系和/或识别和表征每层的输入和输出之间的数学关系。学习过程通常利用(部分)输入数据并为该输入数据创建网络输出。然后将创建的输出与该数据集的期望(目标)输出进行比较,然后使用生成的和期望的输出之间的差异来迭代地更新网络的参数(权重和偏差)。一种这样的更新/学习机制使用随机梯度下降(SGD)方法来更新网络的参数,当然本领域技术人员应当理解也可以使用本领域中已知的其他方法。类似地,可以采用单独的验证数据集,其中输入和期望目标值都是已知的,但是仅将初始值提供给训练的深度学习算法,然后将输出与深度学习算法的输出进行比较以验证先前的培训和/或防止过度培训。
图1示出了根据本发明一些实施例的成像方法100的示意图。图2示出了根据图1所示的方法100中的基于训练的学习网络,对初始图像进行校准,以获取截断部分的预测图像的步骤112的流程图。图3示出了根据图1所示的方法中对投影数据进行预处理的一些中间图像,其中,图像(1)示出了出现数据截断的投影,图像(2)示出了对(1)中的投影的截断部分进行填充得到的模拟投影,图像(3)示出了对(2)中的模拟投进行图像重建得到的CT图像。图4示出了根据图2所示的方法中的一些中间图像,其中,图像(1)示出了截断部分所对应的直角坐标像素矩阵,图像(2)示出了对(1)中的直角坐标像素矩阵经过学习网络得到的预测后的像素矩阵,图像(3)示出了对(2)中的预测后的像素矩阵进行坐标反变换后得到的预测图像。
如图1-4所示,本发明一些实施例中的成像方法包括获取截断部分预测图像的方法110,获取截断部分预测图像的方法110包括步骤111和112。
在步骤111中,对投影数据进行预处理,以重建得到截断部分的初始图像。
在一些实施例中,对投影数据进行预处理包括对投影数据的截断部分进行填充(padding)。通过采集经过被检测对象的X射线的数据可以得到如图3中图像(1)所示的投影数据(即投影)210,由于被检测对象有部分超出了CT系统的扫描域,得到的投影数据210出现了数据截断,可以通过对投影数据的预处理,对投影数据的截断部分进行模拟。优选地,对投影数据的截断部分进行填充包括将未截断部分边界(最外侧通道)的投影数据信息填充到截断部分,进一步地,将每个通道的未截断部分边界(最外侧通道)的投影数据信息填充到相应通道的截断部分,如图3中的图像(2)所示,通过填充得到的模拟投影数据220。
尽管本发明的一些实施例中采用了填充的方法对截断部分进行模拟,然而,本领域技术人员应该知晓,可以通过其他方式对截断部分进行模拟,例如,根据数学模型基于未截断部分的投影数据信息计算截断部分的投影数据信息等。此外,尽管本发明的一些实施例采用了将未截断部分边界的投影数据信息填充到截断部分,然而,本领域技术人员应该知晓,本发明的实施例并非限于此种填充方式,也可以通过其他方式对截断部分进行填充,例如,将截断部分全部或部分的填充为某一特定组织或预设的CT值(例如0)或投影数据信息等,进一步地,如果得到的投影数据存在数据缺失等情况下,也可以采用相同的填充方法对数据进行填充。此外,尽管本发明的一些实施例的预处理包括对截断部分进行填充,然而,本领域技术人员应当理解,预处理并不仅包括该步骤,还可以包括任何在图像重建前进行的数据预处理操作。
在一些实施例中,当对投影数据进行预处理之后,对填充后的投影数据进行图像重建,以得到CT图像。如图3中的图像(3)所示,CT图像230为对图3中的图像(2)220(包括未截断部分和模拟的截断部分)的投影数据进行图像重建后得到的,CT图像230包括未截断部分图像231和截断部分图像232,即扫描域80之内的部分为截断部分图像231,扫描域80之外的部分为截断部分图像232,扫描域80的边界为未截断部分231和截断部分232的交界234。该图像重建算法可以包括:例如反投影(FBP)重建方法、自适应统计迭代重建(ASIR)方法、共个梯度(CG)法、最大似然期望最大化(MLEM)法、基于模型的迭代重建(MBIR)方法等。
在一些实施例中,步骤111还包括对图像重建得到的CT图像进行提取,以得到截断部分的初始图像,如图3中的图像(3)所示的232部分。在一些实施例中,尽管本发明中的截断部分的初始图像代表扫描域之外的部分图像,然而,本领域技术人员应该知晓,图像提取并不限于只能提取扫描域及其之外的部分的图像,也可以包括至少一部分未截断部分的图像,在实际操作中,可以根据需要进行调整。
请继续参考图1,如图1所示,本发明一些实施例中的获取截断部分预测图像的方法110还包括步骤112。
在步骤112中,基于训练的学习网络,对截断部分的初始图像进行校准,以获取截断部分的预测图像。
通过输入一定数据量的截断部分的虚拟失真图像(已知输入值)以及对照图像(期望输出值),或截断部分的虚拟失真图像相对应的像素矩阵(已知输入值)以及对照图像相对应的像素矩阵(期望输出值),基于深度学习方法构建或训练学习网络,以得到已知输入值与期望输出值之前的数学关系,基于此,在实际操作中,当输入一个已知的截断部分的图像(例如上述提到的截断部分的初始图像232),基于学习网络,就可以获取期望的截断部分的图像(即期望输出值-对照图像)。关于学习网络的训练、构建及数据准备将结合图5和图6进一步描述。在一些实施例中,本发明中的学习网络的训练是基于本领域公知的一些网络模型(例如Unet等)。
请参考图2所示,在一些实施例中,基于训练的学习网络,对截断部分的初始图像进行校准,以获取截断部分的预测图像(步骤112)包括步骤121,步骤122和步骤123。
在步骤121中,将截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵。例如,通过对截断部分的初始图像(如图3中的图像(3)中的部分232)进行极坐标到直角坐标的坐标变换,可以得到如图4中的图像(1)所示的直角坐标像素矩阵242。
在步骤122中,基于训练的学习网络,对上述像素矩阵进行校准,例如,通过将图4中的图像(1)中的像素矩阵242输入到学习网络后,可以得到如图4中的图像(2)所示的校准后的对照像素矩阵252。
在步骤123中,将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像,例如,通过将经过校准后的像素矩阵(如
图4中的图像(2)中的252所示)从直角坐标转换到极坐标,可以得到截断部分的预测图像262(如图4中的图像(3)所示)。
请继续参考图1,如图1所示,本发明一些实施例的成像方法还包括步骤120。
在步骤120中,将所述截断部分的预测图像与根据原始投影数据重建得到的未截断部分图像进行拼接以得到医学图像,例如,通过与CT图像230中的未截断部分231进行拼接或合成,即可得到完整的CT图像260,其中未截断部分图像231是基于初始投影数据重建得到的。
图5示出了根据本发明一些实施例的学习网络训练数据准备方法300的流程图。如图5所示,学习网络的训练数据准备方法300包括步骤310,步骤320,步骤330和步骤340。
在步骤310中,获取没有数据截断的原始图像。在一些实施例中,所述初始图像是基于投影数据重建得到的,当被检测对象的所有部分都在扫描域之内,即得到的投影数据中也就没有数据截断。
在步骤320中,使原始图像中对应目标物体的部分虚拟平移(offset)以部分地移出扫描域,从而得到对照图像。在一些实施例中,所述对照图像代表没有截断的、完整的CT图像。
在步骤330中,对所述对照图像进行虚拟扫描并进行虚拟数据采集,以生成虚拟截断投影数据。在一些实施例中,基于虚拟采样系统,将对照图像进行虚拟扫描,由于部分目标物体移出了扫描域,这部分的图像就不会被扫描到,相当于发生了虚拟截断。
在步骤340中,对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。在一些实施例中,所述虚拟失真图像代表具有数据截断的失真图像。
可选地,数据准备方法还包括步骤350,在步骤350中,对虚拟失真图像和对照图像进行坐标变换(例如,从极坐标变换到直角坐标)以得到虚拟失真像素矩阵和虚拟对照像素矩阵,上述的像素矩阵分别作为学习网络的已知输入值和期望输出值,以构建或训练所述学习网络,以更好的获取截断部分的预测图像。
图6示出了根据本发明另一些实施例的学习网络的训练数据准备方法的流程图。如图6所示,学习网络的训练数据准备方法400包括步骤410,步骤420,步骤430和步骤440。
在步骤410中,获取没有数据截断的原始图像,所述原始图像被用作对照图像。
在步骤420中,获取所述原始图像对应的投影数据。在一些实施例中,使所述原始图像(也就是对照图像)保持在扫描域内,并对该原始图像进行前向投影以得到该原始图像的投影(即投影数据)。在另一些实施例中,初始扫描得到的原始投影数据可以直接作为所述投影(即投影数据)。
在步骤430中,对所述投影数据的两侧通道进行填充,以生成虚拟截断投影数据。所述两侧通道包括上下侧的通道,也可以包括左右两侧的通道,这取决于投影图像的方向。在一些实施例中,步骤430中的填充与在对初始图像进行预处理的填充方法(之前所述的步骤110)是相同的,类似地,当对初始图像进行预处理采用非填充的其它方法时,在步骤430中,也采用相同的方法进行处理。
在步骤440中,对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。
可选地,数据准备方法还包括步骤450,在步骤450中,对虚拟失真图像和对照图像进行坐标变换(例如,从极坐标变换到直角坐标)以得到虚拟失真像素矩阵和虚拟对照像素矩阵,上述的像素矩阵分别作为学习网络的已知输入值和期望输出值,以构建或训练所述学习网络,以更好的获取截断部分的预测图像。
虽然以上描述了学习网络的训练数据准备的两个实施例,但这并不说明本发明只能采用这两种方式来模拟数据截断,也可以采用其它的方式来模拟数据截断,以同时得到AI网络学习所需要的虚拟失真图像(已知输入值)和对照图像(期望输出值)。
本发明提出的基于人工智能的获取截断部分预测图像的方法,可以更精准地预测超出扫描域部分(即截断部分)的投影数据和/或图像,更精准地还原被检测对象的线条和边界,这样才可以准确判断出应该施加到患者身上的放射剂量,为放射治疗提供有力的依据。通过对截断部分进行填充以得到截断部分的初始图像(预处理步骤110)或截断部分的虚拟截断投影数据(数据准备中的步骤430),可以更好更准确的构建学习网络,有利于提高截断部分预测的准确性。此外,通过将截断部分的初始图像进行坐标变换,由初始的环状图像变换成直角坐标中的矩阵图像,也可以提高学习网络预测的准确性使得预测图像更精准。
图7示出了根据本发明一些实施例的CT系统10的示意图。如图7所示,系统10包括机架12,机架12上相对设置有X射线源14和探测器阵列18,探测器阵列18由多个检测器20和数据采集系统(DAS)26构成,DAS26用于对多个检测器20接收的模拟衰减数据进行将采样的模拟数据转化为数字信号以用于后续处理。在一些实施例中,系统10用于在不同的角度采集被检测对象的投影数据,因此,机架12上的部件用于绕旋转中心24旋转以采集投影数据。在旋转过程中,X射线辐射源14用于朝向探测器阵列18投射穿透被检测对象的X射线16,该衰减的X射线束数据经预处理后作为对象的目标体积的投影数据,基于该投影数据可以重建被检测对象的图像,重建的图像可以显示被检测对象的内部特征,这些特征包括,例如,身体组织结构的病变、尺寸、形状等。机架的旋转中心24也定义了扫描域80的中心。
系统10进一步包括图像重建模块50,如上所述,DAS26采样并数字化多个检测器20采集的投影数据。接着,图像重建模块50基于上述经过采样和数字化的投影数据来进行高速图像重建。在一些实施例中,图像重建模块50将重建的图像存储在存储设备或大容量存储器46中。或者,图像重建模块50将重建图像传输到计算机40,以生成用于诊断、评估的患者信息。
尽管图7中将图像重建模块50图示为单独实体,但是在某些实施例中,图像重建模块50可以形成计算机40的一部分。或者,图像重建模块50可以不存在于系统10中,或者,计算机40可以执行图像重建模块50的一个或多个功能。此外,图像重建模块50可以位于本地或远程位置,并且可以使用有线或无线网络连接到系统10。在一些实施例中,云网络集中的计算资源可用于图像重建模块50。
在一些实施例中,系统10包括控制机构30。控制机构30可以包括X射线控制器34,其用于向X射线辐射源14提供功率和定时信号。控制机构30还可以包括机架控制器32,其用于基于成像要求控制机架12的旋转速度和/或位置。控制机构30还可以包括承载床控制器36,其用于驱动承载床28移动到合适的位置以将被检测对象定位在机架12中,以采集被检测对象的目标体积的投影数据。进一步地,承载床28包括驱动装置,承载床控制器36可以通过控制驱动装置以控制承载床28。
在一些实施例中,系统10进一步包括计算机40,由DAS26采样和数字化的数据和/或图像重建模块50重建得到的图像传输到计算机或计算机40进行处理。在一些实施例中,计算机40将数据和/或图像存储在例如大容量存储器46的存储设备中。该大容量存储器46可以包括硬盘驱动器、软盘驱动器、光盘读/写(CD-R/W)驱动器、数字通用磁盘(DVD)驱动器、闪存驱动器和/或固态存储装置等。在一些实施例中,计算机40将重建的图像和/或其他信息传输到显示器42,显示器42与计算机40和/或图像重建模块50通信地连接。在一些实施例中,计算机40可以连接本地或远程的显示器、打印机、工作站和/或类似的设备,例如,可以连接医疗机构或医院的这类设备,或者通过一个或多个配置的电线或者诸如因特网和/或虚拟专用网络等无线网络连接远程设备。
此外,计算机40可以基于用户提供的和/或系统定义的以向DAS26、以及控制机构30(包括机架控制器32,X射线控制器34和承载床控制器36)等提供命令和参数,以控制系统操作,例如数据采集和/或处理。在一些实施例中,计算机40基于用户输入控制系统操作,例如,计算机40可以通过连接其的操作者控制台48接收用户输入,包括命令、扫描协议和/或扫描参数。操作者控制台48可以包括键盘(未示出)和/或触摸屏以允许用户输入/选择命令、扫描协议和/或扫描参数。虽然图7仅示例性示出了一个操作者控制台48,但是计算机40可以连接更多的操作台,例如,用于输入或输出系统参数、请求医学检查和/或查看图像。
在一些实施例中,系统10可以包括或连接图像存储与传输系统(PACS)(图中未示出)。在一些实施例中,PACS进一步连接至例如放射科信息系统、医院信息系统和/或内部或外部网络(未示出)等远程系统,以允许位于不同地点的操作者提供命令和参数,和/或访问图像数据。
下文进一步描述的方法或过程可以作为可执行的指令存储系统10的计算设备上的非易失性存储器中。例如,计算机40可以包括非易失性存储器中的可执行指令,并且可以应用本文所述的方法自动执行扫描流程的部分或全部,例如选择合适的协议、确定合适的参数等,又如,图像重建模块50可以包括非易失性存储器中的可执行指令,并且可以应用本文所述的方法执行图像重建任务。
计算机40可以被设置和/或布置成以不同的方式使用。例如,在一些实现中,可以使用单个计算机40;在其他实现中,多个计算机40被配置成一起(例如,基于分布式处理配置)或单独地工作,每个计算机40被配置成处理特定方面和/或功能,和/或处理用于生成仅用于特定的医学成像系统10的模型的数据。在一些实现中,计算机40可以是本地的(例如,与一个或多个医学成像系统10同地,例如在同一设施和/或同一局部网络内);在其他实现中,计算机40可以是远程的,因此只能经由远程连接(例如,经由因特网或其他可用的远程访问技术)来访问。在特定实现中,计算机40可以以类似云的方式配置,并且可以以与访问和使用其他基于云的系统的方式基本上相似的方式被访问和/或使用。
一旦数据(例如,训练的学习网络)被生成和/或配置,数据就可以被复制和/或加载到医学成像系统10中,这可以以不同的方式完成。例如,可以通过医学成像系统10和计算机40之间的定向连接或链路加载模型。就这一点而言,可以使用可用的有线和/或无线连接和/或根据任何合适的通信(和/或网络)标准或协议来完成不同元件之间的通信。备选地或另外地,数据可以间接地加载到医学成像系统10中。例如,数据可以存储到合适的机器可读介质(例如,闪存卡等)中,然后使用该介质将数据加载到医学成像系统10(现场,诸如由系统的用户或授权人员),或者数据可以下载到能够本地通信的电子设备(例如,笔记本电脑等)中,然后在现场使用(例如,由系统的用户或授权人员)该设备以将该数据经由直接连接(例如,USB连接器等)上传到医学成像系统10中。
图8示出了根据本发明一些实施例的包括获取截断部分预测图像的装置的成像系统500。如图8所示,成像系统500包括获取截断部分预测图像的装置501。
获取截断部分预测图像的装置501包括预处理装置510和控制装置520。预处理装置510用于对投影数据进行预处理,以重建得到截断部分的初始图像,控制装置520用于基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
在一些实施例中,预处理装置510包括填充模块(图中未示出)。填充模块用于对投影数据的截断部分进行填充。进一步地,填充模块进一步用于将未截断部分边界(最外侧通道)的投影数据信息填充到截断部分,优选地,将每个通道的未截断部分边界(最外侧通道)的投影数据信息填充到相应通道的截断部分。
在一些实施例中,预处理装置510进一步包括图像重建模块(图中未示出)。图像重建模块用于对经过预处理(例如,填充)的投影数据进行图像重建。在一些实施例中,图像重建模块即为如图7所示的CT系统10中的图像重建模块50。在另一些实施例中,预处理装置510与CT系统的图像重建模块50通过有线或无线的连接(包括直接连接或通过计算机等间接连接),当填充模块对投影数据的截断部分进行填充完之后,填充模块(或预处理装置510或获取截断部分预测图像的装置501)可以将填充后的投影数据发送给图像重建模块50,当图像重建模块50完成重建后,将重建后的CT图像发送给图像提取模块(或预处理装置510或获取截断部分预测图像的装置501)。
可选地,预处理装置510进一步包括图像提取模块(图中未示出)。图像提取模块用于对重建的CT图像进行提取,以得到截断部分的初始图像。
在一些实施例中,控制装置520包括变换模块521,校准模块522和反变换模块523。
变换模块521用于将所述截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵。
校准模块522用于基于训练的学习网络,对上述像素矩阵进行校准。在一些实施例中,校准模块522与训练模块540通过有线或无线连接(包括直接连接或通过计算机等间接连接),所述训练模块540被配置用于基于图5和图6所示方法准备学习网络中的虚拟失真图像和对照图像,基于现有的深度学习网络模型(例如Unet)进行学习或训练,以构建学习网络。在一些实施例中,尽管图8中的训练模块540为单独的模块,但是本领域技术人员可以理解,训练模块540可以集成在控制装置中,或其他模块或装置中。
反变换模块523用于将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像。
本发明还可以提供一种非暂态计算机可读存储介质,其用于存储指令集和/或计算机程序,该指令集和/或计算机程序由计算机执行时使计算机执行上述的获取截断部分预测图像的方法,执行该指令集和/或计算机程序的计算机可以为CT系统的计算机,也可以为CT系统的其它装置/模块,在一种实施例中,该指令集和/或计算机程序可以编制于计算机的处理器/控制器中。
具体地,该指令集和/或计算机程序由计算机执行时使计算机:
对投影数据进行预处理,以重建得到截断部分的初始图像;以及
基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
如上所述的指令可以被合并为一个指令执行,任一指令也可以被拆分成多个指令以执行,此外,也并不限于按照上述的指令执行顺序。
在一些实施例中,基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像可以包括:
将所述截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵;
基于训练的学习网络,对所述像素矩阵进行校准;以及
将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像。
在一些实施例中,该指令集和/或计算机程序进一步使计算机执行学习网络的训练,进一步地,包括如下指令:
获取没有数据截断的原始图像;
使所述原始图像中对应目标物体的部分虚拟平移以部分地移出扫描域,从而得到对照图像;
对所述对照图像进行虚拟扫描并进行虚拟数据采集,以生成虚拟截断投影数据;以及
对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。
可选地,还包括:
对虚拟失真图像和对照图像进行坐标变换以得到虚拟失真像素矩阵和虚拟对照像素矩阵。
在另一些实施例中,使计算机执行学习网络的训练,进一步包括如下指令:
获取没有数据截断的原始图像,所述原始图像被用作对照图像;
获取所述原始图像对应的投影数据;
对所述投影数据的两侧通道进行填充,以生成虚拟截断投影数据;以及对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。
可选地,还包括:
对虚拟失真图像和对照图像进行坐标变换以得到虚拟失真像素矩阵和虚拟对照像素矩阵。
如本文使用的,术语“计算机”可包括任何基于处理器或基于微处理器的系统,其包括使用微控制器、精简指令集计算机(RISC)、专用集成电路(ASIC)、逻辑电路和能够执行本文描述的功能的任何其它电路或处理器的系统。上文的示例只是示范性的,并且从而不意在采用任何方式限制术语“计算机”的定义和/或含义。
指令集可包括各种命令,其指示作为处理机的计算机或处理器执行特定的操作,例如各种实施例的方法和过程。指令集可采用软件程序的形式,该软件程序可形成一个或多个有形的非暂时性计算机可读介质的一部分。该软件可采用例如系统软件或应用软件的各种形式。此外,该软件可采用独立程序或模块的集合、在更大程序内的程序模块或程序模块的一部分的形式。该软件还可包括采用面向对象编程的形式的模块化编程。输入数据由处理机的处理可响应于操作者命令,或响应于先前的处理结果,或响应于由另外一个处理机作出的请求。
上面已经描述了一些示例性实施例,然而,应该理解的是,可以做出各种修改。例如,如果所描述的技术以不同的顺序执行和/或如果所描述的系统、架构、设备或电路中的组件以不同方式被组合和/或被另外的组件或其等同物替代或补充,则可以实现合适的结果。相应地,其他实施方式也落入权利要求的保护范围内。

Claims (16)

1.一种获取截断部分预测图像的方法,其包括:
对投影数据进行预处理,以重建得到截断部分的初始图像;以及
基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
2.如权利要求1所述的方法,其中,所述对投影数据进行预处理包括对投影数据的截断部分进行填充。
3.如权利要求2所述的方法,其中,对投影数据的截断部分进行填充包括将未截断部分边界的投影数据信息填充到截断部分。
4.如权利要求3所述的方法,其中,将未截断部分边界的投影数据信息填充到截断部分包括将每个通道的未截断部分边界的投影数据信息填充到相应通道的截断部分。
5.如权利要求1所述的方法,其中,基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像包括:
将所述截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵;
基于训练的学习网络,对所述像素矩阵进行校准;以及
将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像。
6.如权利要求1所述的方法,其中,所述训练的学习网络是基于虚拟失真图像和对照图像进行训练得到的。
7.如权利要求6所述的方法,其中,所述训练的学习网络是基于所述虚拟失真图像经过坐标变换得到的像素矩阵和所述对照图像经过坐标变换得到的像素矩阵进行训练得到的。
8.如权利要求6所述的方法,其中,所述虚拟失真图像和对照图像的获取方法包括:
获取没有数据截断的原始图像;
使所述原始图像中对应目标物体的部分虚拟平移以部分地移出扫描域,从而得到对照图像;
对所述对照图像进行虚拟扫描并进行虚拟数据采集,以生成虚拟截断投影数据;以及
对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。
9.如权利要求6所述的方法,其中,所述虚拟失真图像和对照图像的获取方法包括:
获取没有数据截断的原始图像,所述原始图像被用作对照图像;
获取所述原始图像对应的投影数据;
对所述投影数据的两侧通道进行填充,以生成虚拟截断投影数据;以及
对所述虚拟截断投影数据进行图像重建,以得到虚拟失真图像。
10.一种成像方法,其包括:
如权利要求1-9中任一项所述的获取截断部分预测图像的方法;以及
将所述截断部分的预测图像与根据原始投影数据重建得到的未截断部分图像进行拼接以得到医学图像。
11.一种获取截断部分预测图像的装置,其包括:
预处理装置,其用于对投影数据进行预处理,以重建得到截断部分的初始图像;以及
控制装置,其用于基于训练的学习网络,对所述初始图像进行校准,以获取截断部分的预测图像。
12.如权利要求11所述的装置,其中,所述预处理装置包括填充模块,其用于对投影数据的截断部分进行填充。
13.如权利要求12所述的装置,其中,所述填充模块进一步用于将未截断部分边界的投影数据信息填充到截断部分。
14.如权利要求11所述的装置,其中,所述控制装置包括:
变换模块,其用于将所述截断部分的初始图像的像素从极坐标转换到直角坐标,以得到所述初始图像的像素矩阵;
校准模块,其用于基于训练的学习网络,对所述像素矩阵进行校准;以及
反变换模块,其用于将所述经过校准后的像素矩阵从直角坐标转换到极坐标,以得到所述截断部分的预测图像。
15.一种成像系统,其包括:
如权利要求11-14中任一项所述的获取截断部分预测图像的装置;以及
拼接装置,其用于将所述截断部分的预测图像与根据投影数据重建得到的未截断部分图像进行拼接以得到医学图像。
16.一种非暂态计算机可读存储介质,其用于存储计算机程序,所述计算机程序由计算机执行时使计算机执行权利要求1-9任一项所述的获取截断部分预测图像的方法。
CN201910380182.2A 2019-05-08 2019-05-08 获取截断部分预测图像的方法及装置 Pending CN111915495A (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201910380182.2A CN111915495A (zh) 2019-05-08 2019-05-08 获取截断部分预测图像的方法及装置
JP2020078001A JP7019745B2 (ja) 2019-05-08 2020-04-27 トランケーション部分の予測画像を取得する方法及び装置
US16/866,668 US11380026B2 (en) 2019-05-08 2020-05-05 Method and device for obtaining predicted image of truncated portion
EP20173339.1A EP3736772A1 (en) 2019-05-08 2020-05-06 Method and device for obtaining predicted image of truncated portion

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910380182.2A CN111915495A (zh) 2019-05-08 2019-05-08 获取截断部分预测图像的方法及装置

Publications (1)

Publication Number Publication Date
CN111915495A true CN111915495A (zh) 2020-11-10

Family

ID=70613692

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910380182.2A Pending CN111915495A (zh) 2019-05-08 2019-05-08 获取截断部分预测图像的方法及装置

Country Status (4)

Country Link
US (1) US11380026B2 (zh)
EP (1) EP3736772A1 (zh)
JP (1) JP7019745B2 (zh)
CN (1) CN111915495A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114298920A (zh) * 2021-12-06 2022-04-08 北京朗视仪器股份有限公司 一种超视野ct图像重建模型训练和超视野ct图像重建方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5937102A (en) 1996-10-09 1999-08-10 California Institute Of Technology Image reconstruction
US6577700B1 (en) 2001-06-22 2003-06-10 Liang-Shih Fan Neural network based multi-criteria optimization image reconstruction technique for imaging two- and three-phase flow systems using electrical capacitance tomography
US8478015B2 (en) * 2005-07-01 2013-07-02 Siemens Medical Solutions Usa, Inc. Extension of truncated CT images for use with emission tomography in multimodality medical images
US7515676B2 (en) * 2006-04-28 2009-04-07 Kabushiki Kaisha Toshiba Method, apparatus, and computer program product for sinogram completion
US7860341B2 (en) 2006-07-21 2010-12-28 Varian Medical Systems, Inc. System and method for correcting for ring artifacts in an image
US8213694B2 (en) * 2008-02-29 2012-07-03 Barco N.V. Computed tomography reconstruction from truncated scans
US8913710B2 (en) * 2011-04-27 2014-12-16 Varian Medical Systems, Inc. Truncation correction imaging enhancement method and system
US8705828B2 (en) 2011-08-31 2014-04-22 Carestream Health, Inc. Methods and apparatus for super resolution scanning for CBCT system and cone-beam image reconstruction
KR101932720B1 (ko) * 2012-05-07 2018-12-26 삼성전자주식회사 이미지를 복원하는 방법, 이를 수행하는 장치 및 토모그래피 장치
US9196061B2 (en) * 2012-11-02 2015-11-24 General Electric Company Systems and methods for performing truncation artifact correction
WO2017223560A1 (en) 2016-06-24 2017-12-28 Rensselaer Polytechnic Institute Tomographic image reconstruction via machine learning
US20180018757A1 (en) 2016-07-13 2018-01-18 Kenji Suzuki Transforming projection data in tomography by means of machine learning
US10147207B2 (en) 2016-07-15 2018-12-04 Wisconsin Alumni Research Foundation System and method for high-temporal resolution, time-resolved cone beam CT angiography
US10074038B2 (en) 2016-11-23 2018-09-11 General Electric Company Deep learning medical systems and methods for image reconstruction and quality evaluation
WO2018126396A1 (en) * 2017-01-05 2018-07-12 General Electric Company Deep learning based estimation of data for use in tomographic reconstruction
CN108122265A (zh) 2017-11-13 2018-06-05 深圳先进技术研究院 一种ct重建图像优化方法及系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114298920A (zh) * 2021-12-06 2022-04-08 北京朗视仪器股份有限公司 一种超视野ct图像重建模型训练和超视野ct图像重建方法

Also Published As

Publication number Publication date
EP3736772A1 (en) 2020-11-11
US20200357150A1 (en) 2020-11-12
JP7019745B2 (ja) 2022-02-15
JP2020201941A (ja) 2020-12-17
US11380026B2 (en) 2022-07-05

Similar Documents

Publication Publication Date Title
JP6960509B2 (ja) 合成医療画像を生成するためのニューラルネットワーク
JP7039153B2 (ja) 敵対的生成ネットワークを使用した画像強調
EP3444776B1 (en) Topogram prediction from surface data in medical imaging
US11941786B2 (en) Image noise reduction method and device
US11410374B2 (en) Synthetic parameterized computed tomography from surface data in medical imaging
JP2022536107A (ja) 変形可能な層を有するCycleGANを用いたsCT画像生成
CN113689342A (zh) 一种图像质量优化的方法及系统
US20220092755A1 (en) Systems and methods for image processing
US11380026B2 (en) Method and device for obtaining predicted image of truncated portion
US20220366540A1 (en) Medical imaging method and system
US20200143540A1 (en) Determining Malignancy of Pulmonary Nodules using Deep Learning
US11461940B2 (en) Imaging method and device
CN115375840A (zh) 图像重建方法、装置、系统、计算机设备和存储介质
US11574184B2 (en) Multi-modal reconstruction network
CN114648536A (zh) 血管壁的提取方法及装置
US20220378383A1 (en) Target area determination method and medical imaging system
CN114730476A (zh) 有限角度重建的网络确定

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination