CN113628260A - 一种图像配准方法、装置、终端设备和存储介质 - Google Patents

一种图像配准方法、装置、终端设备和存储介质 Download PDF

Info

Publication number
CN113628260A
CN113628260A CN202110758856.5A CN202110758856A CN113628260A CN 113628260 A CN113628260 A CN 113628260A CN 202110758856 A CN202110758856 A CN 202110758856A CN 113628260 A CN113628260 A CN 113628260A
Authority
CN
China
Prior art keywords
image
dimensional
data
dimension
original image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110758856.5A
Other languages
English (en)
Inventor
李世博
张立海
胡颖
王宇
鲁少林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Broadcare Medical Robot Co ltd
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Broadcare Medical Robot Co ltd
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Broadcare Medical Robot Co ltd, Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Broadcare Medical Robot Co ltd
Priority to CN202110758856.5A priority Critical patent/CN113628260A/zh
Publication of CN113628260A publication Critical patent/CN113628260A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10072—Tomographic images
    • G06T2207/10081—Computed x-ray tomography [CT]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20021—Dividing image into blocks, subimages or windows
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本申请涉及图像处理技术领域，提出一种图像配准方法、装置、终端设备和存储介质。该方法包括：获取目标物体的二维原图和三维原图；将所述二维原图转换为三维图像；将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。通过这样设置，执行图像配准的两部分图像都是三维图像，能够避免产生二维特征信息和三维特征信息难以匹配的问题，从而提高图像配准的准确率。

Description

一种图像配准方法、装置、终端设备和存储介质
技术领域
本申请涉及图像处理技术领域，尤其涉及一种图像配准方法、装置、终端设备和存储介质。
背景技术
目前，在对患者进行手术的过程中，通常会拍摄患者指定部位的X光图像，然后将该X光图像和术前采集到的该指定部位的CT(Computed Tomography，计算机断层扫描)图像进行配准，并根据配准结果指导医生完成手术。然而，在将二维的X光图像和三维的CT图像进行配准时，X光图像中稀疏的二维特征信息难以准确地与CT图像的三维特征信息进行匹配，导致图像配准的准确率较低。
发明内容
有鉴于此，本申请实施例提供了一种图像配准方法、装置、终端设备和存储介质，能够提高将二维图像和三维图像配准的准确率。
本申请实施例的第一方面提供了一种图像配准方法，包括：
获取目标物体的二维原图和三维原图；
将所述二维原图转换为三维图像；
将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。
本申请实施例在获取到目标物体的二维原图和三维原图之后，会先将该二维原图转换为三维图像，然后再将该三维图像和该三维原图进行配准，从而得到该二维原图和该三维原图之间的配准结果。与现有技术直接采用二维原图和三维原图进行配准的方法相比，本申请实施例执行图像配准的两部分图像都是三维图像，能够避免产生二维特征信息和三维特征信息难以匹配的问题，从而提高图像配准的准确率。
在本申请的一个实施例中，所述将所述二维原图转换为三维图像，可以包括：
将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像。
可以预先训练一个图像转换神经网络，将二维原图输入该图像转换神经网络之后，经过特征提取、数据维度转换和图像还原等处理，能够输出对应的三维图像。
进一步的，所述图像转换神经网络包括编码模块、三维转换模块和解码模块，所述将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像，可以包括：
将所述二维原图输入到所述编码模块进行特征提取，得到第一特征图；
将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图；
将所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
输入的二维原图经编码模块处理后，能够提取对应的二维图像特征；然后，采用三维转换模块将二维图像特征转换为三维图像特征；最后，将三维图像特征输入解码模块进行图像还原，从而获得重建得到的三维图像。
在本申请的一个实施例中，所述编码模块可以包括依次连接的二维卷积层和N个残差模块，所述解码模块可以包括依次连接的M个上卷积层和三维卷积层，M和N均为大于0的整数。
编码模块可以采用二维卷积层和多个级联残差模块的结构，用于执行深度的图像特征提取；解码模块可以采用多个级联上卷积层(即上采样处理)和三维卷积层的结构，用于执行三维图像的还原。
在本申请的一个实施例中，所述第一特征图的维度包括第一维度、第二维度和第三维度，所述将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图，可以包括：
将所述第一特征图在第一维度的数据划分为第一子维度的数据和第二子维度的数据；
将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图。
为了将二维的图像特征转换为三维的图像特征，可以将第一特征图在某个指定维度的数据拆分成两个维度的数据，从而增加一个数据维度，然后再与另外两个维度的数据拼接，完成从二维图像特征到三维图像特征的转换。
进一步的，在将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图之后，还可以包括：
对所述第二特征图中的所述第一子维度的数据进行扩充；
所述将所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像，可以包括：
将数据扩充后的所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
在某些时候，解码模块对输入的特征图像的维度是有一定要求的，而该三维转换模块输出的第二特征图的维度不一定符合该要求，此时需要对该第二特征图的数据维度进行调整。
在本申请的一个实施例中，所述将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果，可以包括：
对所述三维图像进行图像分割，得到目标区域的点云数据；
将所述目标区域的点云数据和所述三维原图的点云数据进行配准，得到所述配准结果。
通常情况下，图像配准针对的是二维原图中的指定区域，因此，在获得二维原图对应的三维图像之后，可以先从该三维图像中分割出指定区域的点云数据，以分割出的点云数据作为基准进行图像配准。
本申请实施例的第二方面提供了一种图像配准装置，包括：
图像获取模块，用于获取目标物体的二维原图和三维原图；
图像转换模块，用于将所述二维原图转换为三维图像；
图像配准模块，用于将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。
本申请实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如本申请实施例的第一方面提供的图像配准方法。
本申请实施例的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如本申请实施例的第一方面提供的图像配准方法。
本申请实施例的第五方面提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行本申请实施例的第一方面所述的图像配准方法。
可以理解的是，上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种图像配准方法的流程图；
图2是本申请实施例提供的一种图像转换神经网络的结构示意图；
图3是本申请实施例提供的一种残差模块的结构示意图；
图4是本申请实施例提供的一种三维图像分割方法的示意图；
图5是本申请实施例提供的一种图像配准装置的结构图；
图6是本申请实施例提供的一种终端设备的示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
本申请提出的图像配准方法，在获取到待配准的二维原图和三维原图后，不是直接将二维原图和三维原图配准，而是先将二维原图转换为三维图像，然后再将转换得到的三维图像和三维原图配准，这样能够避免产生二维特征信息和三维特征信息难以匹配的问题，从而提高图像配准的准确率。在实施时，可以采用深度神经网络实现二维原图到三维图像的转换，更具体的技术实现细节请参照下文所述的方法实施例。
应当理解，本申请各个方法实施例的执行主体为各种类型的终端设备或服务器，比如手机、平板电脑、笔记本电脑、台式电脑和各类医疗设备等。
请参阅图1，示出了本申请实施例提供的一种图像配准方法，包括：
101、获取目标物体的二维原图和三维原图；
首先，获取目标物体的二维原图和三维原图。目标物体是图像配准针对的对象，二维原图是通过一定方式采集到的该目标物体的二维图像，三维原图是通过一定方式采集到的该目标物体的三维图像，本申请实施例需要获得二维原图和三维原图的图像配准结果。
例如，针对患者进行手术的场景，目标物体可以是患者需要进行手术的指定部位(例如胸腹部，膝关节等)，二维原图可以是术中采用X光机等设备采集到的患者指定部位的X光图像，三维原图可以是术前采集到的患者指定部位的CT图像。在该场景中，术前采集到的CT图像(三维原图)存储于某个指定的终端设备(本方法实施例的执行主体)，术中通过X光机采集到X光图像(二维原图)后，将该X光图像传输至该终端设备，以便进行后续的图像转换以及配准处理。
102、将所述二维原图转换为三维图像；
在获取到二维原图之后，将该二维原图的二维特征信息转换为三维特征信息，重建得到一个三维图像。在本申请的一种实现方式中，将二维原图转换为三维图像，可以包括：
将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像。
可以采用深度神经网络的方式实现图像的二维-三维转换，本申请实施例预先训练一个图像转换神经网络，将二维原图输入该图像转换神经网络之后，经过特征提取、数据维度转换和图像还原等处理，能够输出对应的三维图像。该图像转换神经网络的训练方式可以如下：
(1)获取样本三维图像序列；
(2)采用数字重建透视影像技术生成所述样本三维图像序列对应的虚拟二维图像；
(3)以所述样本三维图像序列、所述虚拟二维图像作为训练集，训练得到所述图像转换神经网络。
样本三维图像序列是一系列作为训练样本的三维图像，采用数字重建透视影像技术(DRR，Digitally Reconstructured Radiograph)能够生成与该样本三维图像序列对应的虚拟二维图像，然后以虚拟二维图像作为网络输入，样本三维图像序列作为带标签的网络输出，训练得到该图像转换神经网络。
例如，针对患者进行手术的场景，样本三维图像序列可以是预采集的一系列三维的CT图像序列(可以是临床医学的CT序列)，采用数字重建透视影像技术可以生成与CT图像序列对应的虚拟X光图像，然后以CT图像序列及其对应的虚拟X光图像作为训练集训练深度神经网络，得到该图像转换神经网络。具体的，在网络训练的过程中，将虚拟X光图像作为网络输入，将与其对应的样本CT图像序列作为网络输出，可以建立训练数据集；另外，通过对虚拟X光图像进行平移、缩放、旋转、色度和对比度变换等处理，可以得到增强的数据集。
在本申请的一种实现方式中，该图像转换神经网络可以采用编码-解码的网络结构，具体可以包含编码模块、三维转换模块和解码模块，通过编码模块进行二维图像特征的提取，通过三维转换模块将二维图像特征转换为三维图像特征，再通过解码模块进行上采样处理(图像还原)得到重建的三维图像。所述将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像，可以包括：
(1)将所述二维原图输入到所述编码模块进行特征提取，得到第一特征图；
(2)将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图；
(3)将所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
输入的二维原图经编码模块处理后，能够提取对应的二维图像特征(即第一特征图)；然后，采用三维转换模块将二维图像特征转换为三维图像特征(即第二特征图)，具体可以采用数据维度扩展的方式；最后，将三维图像特征输入解码模块进行图像还原，从而输出重建得到的三维图像。
进一步的，所述编码模块可以包括依次连接的二维卷积层和N个残差模块，所述解码模块可以包括依次连接的M个上卷积层和三维卷积层，M和N均为大于0的整数。
在实际操作中，编码模块可以采用二维卷积层和多个级联残差模块的结构，用于执行深度的图像特征提取；解码模块可以采用多个级联上卷积层(即上采样处理)和三维卷积层的结构，用于执行三维图像的还原。
如图2所示，为本申请实施例提出的一种图像转换神经网络的结构示意图。该网络结构包含1个二维卷积层、4个级联的残差模块(残差模块1-残差模块4)、三维转换模块、5个级联的上卷积层(上卷积层1-上卷积层5)以及1个三维卷积层。将二维原图输入该二维卷积模块后，经过各个功能模块的处理，最终输出对应的三维图像。
另外，在上述网络结构中，每个残差模块均可以由二维卷积层、批归一化层和激活函数层构成。如图3所示，为本申请实施例提出的一种残差模块的结构示意图，该结构包含2个二维卷积层、2个归一化层(例如可以是批归一化层)以及2个激活函数层(例如可以是ReLu激活函数)。将原始特征图(二维原图经二维卷积层处理后得到的特征图)输入第一个残差模块后，分为两个支路，其中一个支路依次经过二维卷积层、归一化层、激活函数层、另一个二维卷积层和另一个归一化层的处理后，与另一个支路(该原始特征图)叠加，叠加后的图像再经过另一个激活函数层处理后，获得第一个残差模块的输出结果。接下来，将第一个残差模块的输出结果输入下一个残差模块，重复相同的处理过程，直至获得最后一个残差模块的输出结果，即前文所述的第一特征图。
在本申请的一种实现方式中，所述第一特征图的维度包括第一维度、第二维度和第三维度，所述将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图，可以包括：
(1)将所述第一特征图在第一维度的数据划分为第一子维度的数据和第二子维度的数据；
(2)将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图。
为了将二维的图像特征转换为三维的图像特征，可以将第一特征图在某个指定维度的数据拆分成两个维度的数据，从而增加一个数据维度。例如，假设输入的第一特征图为512*4*4的数据，其中第一个维度512表示通道数，则可以将该第一个维度的数据划分为两个维度的数据，例如可以划分为128*4的数据，然后再与另外两个维度的数据拼接，从而得到128*4*4*4的数据，即完成从二维图像特征到三维图像特征的转换。
进一步的，在将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图之后，还可以包括：
对所述第二特征图中的所述第一子维度的数据进行扩充，使得数据扩充后的所述第二特征图的维度符合所述解码模块处理的要求。
在某些时候，解码模块对输入的特征图像的维度是有一定要求的，而该三维转换模块输出的第二特征图的维度不一定符合该要求，此时就需要对该第二特征图的数据维度进行调整，具体操作方式可以是对第一子维度的数据进行扩充。例如，可以采用卷积层对上述128*4*4*4的数据进行处理，将第一子维度的数据进行扩充，得到256*4*4*4的数据。这样处理之后，输入到解码模块的是数据扩充后的第二特征图。
为便于说明该图像转换神经网络的数据处理步骤，以图2所示的网络结构为例：将一幅维度为3*128*128(通道数*图像宽度*图像高度)的二维原图输入二维卷积层进行处理，输出维度为64*64*64的特征图像；将64*64*64的特征图像依次输入残差模块1-残差模块4进行处理，输出数据的维度分别为：64*32*32、128*16*16、256*8*8以及512*4*4；然后，将512*4*4的特征图像输入三维转换模块进行处理，输出128*4*4*4的特征图像，再进行维度扩充成256*4*4*4；接着，将256*4*4*4的特征图像依次输入上卷积层1-上卷积层5，输出数据的维度分别为：256*8*8*8、128*16*16*16、64*32*32*32、32*64*64*64以及16*128*128*128；最后将16*128*128*128的特征图像输入三维卷积层，得到维度为1*128*128*128的图像输出。
103、将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。
在重建得到与二维原图对应的三维图像之后，将该三维图像与三维原图进行配准，从而得到二维原图和三维原图之间的配准结果。例如，针对患者进行手术的场景，在重建得到术中X光图像对应的三维图像之后，可以将该三维图像和术前CT图像进行配准，从而获得X光图像与术前CT图像之间的配准结果。
在本申请的一种实现方式中，所述将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果，可以包括：
(1)对所述三维图像进行图像分割，得到目标区域的点云数据；
(2)将所述目标区域的点云数据和所述三维原图的点云数据进行配准，得到所述配准结果。
通常情况下，图像配准针对的是二维原图中的指定区域，例如患者指定部位的区域(骨组织、肺部等)，因此，在获得二维原图对应的三维图像之后，可以先从该三维图像中分割出指定区域的点云数据，以分割出的点云数据作为基准进行图像配准。
在进行图像分割时，可以采用如图4所示的三维图像分割方法。该方法可以分为粗分割和细分割两部分，二维原图对应的三维图像先执行粗分割，具体是先做图像的高斯平滑处理，然后采用水平集函数在三维图像目标区域的边界部分生成距离均匀、光滑且简洁的初始轮廓；然后对该初始轮廓执行细分割，具体可以采用正则化的水平集演化函数，利用水平集轮廓内外的区域直方图信息解决弱边界泄露的问题，从而分割得到该目标区域的三维点云数据。例如，假设目标区域为三维图像中的骨组织，则通过图像分割可以得到整个骨组织的二值掩码图像，对其进行三维重建计算后，经平滑处理抹平重建三维模型表面的毛刺，再执行凹坑填补处理后，可以得到骨组织的三维实体，接下来可以将其导出为立体光刻格式的文件，然后提取三维实体表面的三角面片的顶点，进行均匀采样后获得骨组织表面点集(即点云数据)。
在执行图像配准时，可以采用点云数据的配准方式，也即将三维图像目标区域的点云数据和三维原图的点云数据配准，得到图像配准结果。具体的，可以将三维图像目标区域的点云数据作为目标点云，三维原图的点云数据作为参考点云。采用离群点过滤的方法，先对参考点云和目标点云进行过滤；然后，对过滤后的参考点云和过滤后的目标点云执行稀疏化处理，获得稀疏化参考点云和稀疏化目标点云；接着，可以采用各类配准点云的方法(例如迭代邻近点最优方法、深度学习方法和特征点匹配方法等)，获得两组点云的配准结果。
本申请实施例在获取到术中采集的患者的二维X光图像之后，会先将该二维X光图像转换成三维的目标图像，然后再将该三维的目标图像和术前采集到的该患者的三维CT图像配准，从而得到图像配准结果。通过这样设置，执行图像配准的两部分图像都是三维图像，能够避免产生二维特征信息和三维特征信息难以匹配的问题，从而提高图像配准的准确率。
现有技术通常是将术中获取到的X光图像直接与术前CT图像进行配准，不能准确体现术中的三维解剖关系，图像配准的准确率较低。针对术中CT图像不便获得的问题，若采用本申请提出的图像配准方法，只需使用术中容易操作的X光设备采集X光图像，通过重建得到对应的三维图像，然后再与术前CT图像进行配准，操作的灵活性和图像配准的准确率获得极大的提高。
应理解，上述各个实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
上面主要描述了一种图像配准方法，下面将对一种图像配准装置进行描述。
请参阅图5，本申请实施例中一种图像配准装置的一个实施例包括：
图像获取模块501，用于获取目标物体的二维原图和三维原图；
图像转换模块502，用于将所述二维原图转换为三维图像；
图像配准模块503，用于将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。
在本申请的一个实施例中，所述图像转换模块具体可以用于：将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像。
进一步的，所述图像转换神经网络包括编码模块、三维转换模块和解码模块，所述图像转换模块可以包括：
特征提取单元，用于将所述二维原图输入到所述编码模块进行特征提取，得到第一特征图；
三维转换单元，用于将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图；
图像还原单元，用于将所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
在本申请的一个实施例中，所述编码模块包括依次连接的二维卷积层和N个残差模块，所述解码模块包括依次连接的M个上卷积层和三维卷积层，M和N均为大于0的整数。
进一步的，所述第一特征图的维度包括第一维度、第二维度和第三维度，所述三维转换单元可以包括：
数据划分子单元，用于将所述第一特征图在第一维度的数据划分为第一子维度的数据和第二子维度的数据；
数据拼接子单元，用于将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图。
更进一步的，所述三维转换单元还可以包括：
数据扩充子单元，用于对所述第二特征图中的所述第一子维度的数据进行扩充；
所述图像还原单元具体可以用于：将数据扩充后的所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
在本申请的一个实施例中，所述图像配准模块可以包括：
图像分割单元，用于对所述三维图像进行图像分割，得到目标区域的点云数据；
点云配准单元，用于将所述目标区域的点云数据和所述三维原图的点云数据进行配准，得到所述配准结果。
本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如图1表示的任意一种图像配准方法。
本申请实施例还提供一种计算机程序产品，当该计算机程序产品在终端设备上运行时，使得终端设备执行实现如图1表示的任意一种图像配准方法。
图6是本申请一实施例提供的终端设备的示意图。如图6所示，该实施例的终端设备6包括：处理器60、存储器61以及存储在所述存储器61中并可在所述处理器60上运行的计算机程序62。所述处理器60执行所述计算机程序62时实现上述各个图像配准方法的实施例中的步骤，例如图1所示的步骤101至103。或者，所述处理器60执行所述计算机程序62时实现上述各装置实施例中各模块/单元的功能，例如图5所示模块501至503的功能。
所述计算机程序62可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器61中，并由所述处理器60执行，以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序62在所述终端设备6中的执行过程。
所称处理器60可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器61可以是所述终端设备6的内部存储单元，例如终端设备6的硬盘或内存。所述存储器61也可以是所述终端设备6的外部存储设备，例如所述终端设备6上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器61还可以既包括所述终端设备6的内部存储单元也包括外部存储设备。所述存储器61用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器61还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的系统实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种图像配准方法，其特征在于，包括：
获取目标物体的二维原图和三维原图；
将所述二维原图转换为三维图像；
将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。
2.如权利要求1所述的方法，其特征在于，所述将所述二维原图转换为三维图像，包括：
将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像。
3.如权利要求2所述的方法，其特征在于，所述图像转换神经网络包括编码模块、三维转换模块和解码模块，所述将所述二维原图输入已训练的图像转换神经网络中处理，输出所述三维图像，包括：
将所述二维原图输入到所述编码模块进行特征提取，得到第一特征图；
将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图；
将所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
4.如权利要求3所述的方法，其特征在于，所述编码模块包括依次连接的二维卷积层和N个残差模块，所述解码模块包括依次连接的M个上卷积层和三维卷积层，M和N均为大于0的整数。
5.如权利要求3所述的方法，其特征在于，所述第一特征图的维度包括第一维度、第二维度和第三维度，所述将所述第一特征图输入到所述三维转换模块进行数据维度转换，得到第二特征图，包括：
将所述第一特征图在第一维度的数据划分为第一子维度的数据和第二子维度的数据；
将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图。
6.如权利要求5所述的方法，其特征在于，在将所述第一子维度的数据、所述第二子维度的数据、所述第二维度的数据和所述第三维度的数据拼接，得到所述第二特征图之后，还包括：
对所述第二特征图中的所述第一子维度的数据进行扩充；
所述将所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像，包括：
将数据扩充后的所述第二特征图输入到所述解码模块进行图像还原，得到所述三维图像。
7.如权利要求1至6中任一项所述的方法，其特征在于，所述将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果，包括：
对所述三维图像进行图像分割，得到目标区域的点云数据；
将所述目标区域的点云数据和所述三维原图的点云数据进行配准，得到所述配准结果。
8.一种图像配准装置，其特征在于，包括：
图像获取模块，用于获取目标物体的二维原图和三维原图；
图像转换模块，用于将所述二维原图转换为三维图像；
图像配准模块，用于将所述三维图像与所述三维原图进行配准，得到所述二维原图与三维原图之间的配准结果。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述的图像配准方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的图像配准方法。
CN202110758856.5A 2021-07-05 2021-07-05 一种图像配准方法、装置、终端设备和存储介质 Pending CN113628260A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110758856.5A CN113628260A (zh) 2021-07-05 2021-07-05 一种图像配准方法、装置、终端设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110758856.5A CN113628260A (zh) 2021-07-05 2021-07-05 一种图像配准方法、装置、终端设备和存储介质

Publications (1)

Publication Number Publication Date
CN113628260A true CN113628260A (zh) 2021-11-09

Family

ID=78379042

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110758856.5A Pending CN113628260A (zh) 2021-07-05 2021-07-05 一种图像配准方法、装置、终端设备和存储介质

Country Status (1)

Country Link
CN (1) CN113628260A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115409835A (zh) * 2022-10-31 2022-11-29 成都浩目科技有限公司 三维成像方法、装置、电子设备、系统和可读存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014140133A (ja) * 2013-01-21 2014-07-31 Canon Inc ２次元画像情報を３次元画像情報に変換する為の画像処理装置、画像処理方法及びプログラム
US20140334709A1 (en) * 2013-05-07 2014-11-13 The Johns Hopkins University 3d-2d image registration for medical imaging
CN108596841A (zh) * 2018-04-08 2018-09-28 西安交通大学 一种并行实现图像超分辨率及去模糊的方法
CN108742678A (zh) * 2018-06-01 2018-11-06 妙智科技（深圳）有限公司 图像配准方法、装置及计算机可读存储介质
CN109272510A (zh) * 2018-07-24 2019-01-25 清华大学 一种三维医学图像中管状结构的分割方法
CN109584201A (zh) * 2018-09-14 2019-04-05 新影智能科技(昆山)有限公司 医学图像配准方法、配准系统、存储介质、及电子设备
CN112862792A (zh) * 2021-02-21 2021-05-28 北京工业大学 一种用于小样本图像数据集的小麦白粉病孢子分割方法
CN112884819A (zh) * 2019-11-29 2021-06-01 杭州三坛医疗科技有限公司 一种影像配准及神经网络的训练方法、装置和设备

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014140133A (ja) * 2013-01-21 2014-07-31 Canon Inc ２次元画像情報を３次元画像情報に変換する為の画像処理装置、画像処理方法及びプログラム
US20140334709A1 (en) * 2013-05-07 2014-11-13 The Johns Hopkins University 3d-2d image registration for medical imaging
CN108596841A (zh) * 2018-04-08 2018-09-28 西安交通大学 一种并行实现图像超分辨率及去模糊的方法
CN108742678A (zh) * 2018-06-01 2018-11-06 妙智科技（深圳）有限公司 图像配准方法、装置及计算机可读存储介质
CN109272510A (zh) * 2018-07-24 2019-01-25 清华大学 一种三维医学图像中管状结构的分割方法
CN109584201A (zh) * 2018-09-14 2019-04-05 新影智能科技(昆山)有限公司 医学图像配准方法、配准系统、存储介质、及电子设备
CN112884819A (zh) * 2019-11-29 2021-06-01 杭州三坛医疗科技有限公司 一种影像配准及神经网络的训练方法、装置和设备
CN112862792A (zh) * 2021-02-21 2021-05-28 北京工业大学 一种用于小样本图像数据集的小麦白粉病孢子分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
LIYUE SHEN ET AL.: "Patient-specific reconstruction of volumetric computed tomography images from a single projection view via deep learning", 《NATURE BIOMEDICAL ENGINEERING》, vol. 3, pages 881 - 882 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115409835A (zh) * 2022-10-31 2022-11-29 成都浩目科技有限公司 三维成像方法、装置、电子设备、系统和可读存储介质
CN115409835B (zh) * 2022-10-31 2023-02-17 成都浩目科技有限公司 三维成像方法、装置、电子设备、系统和可读存储介质

Similar Documents

Publication Publication Date Title
CN109035197B (zh) 基于三维卷积神经网络的ct造影图像肾脏肿瘤分割方法及系统
CN107220933B (zh) 一种参考线确定方法和系统
CN109285200B (zh) 一种基于人工智能的多模态医学影像的转换方法
CN110956635A (zh) 一种肺段分割方法、装置、设备及存储介质
CN101843954A (zh) 患者定位系统
CN109712228B (zh) 建立三维重建模型的方法、装置、电子设备及存储介质
WO2022227597A1 (zh) 肝脏内部组织的位移预测方法、装置、系统及电子设备
CN111145147A (zh) 多模态医学图像的分割方法及终端设备
CN111340903A (zh) 基于非衰减校正pet图像生成合成pet-ct图像的方法和系统
AlZu'bi et al. Transferable HMM probability matrices in multi‐orientation geometric medical volumes segmentation
KR102372046B1 (ko) 인공지능 기술을 이용한 혈관 구조 추출 방법, 이를 수행하기 위한 기록 매체 및 장치
CN112150569A (zh) 将cbct图像生成为ct图像的方法、装置及终端设备
CN113628260A (zh) 一种图像配准方法、装置、终端设备和存储介质
CN113538209A (zh) 一种多模态医学影像配准方法、配准系统、计算设备和存储介质
CN116563533A (zh) 基于目标位置先验信息的医学图像分割方法及系统
Gottschalk et al. View-Consistent Metal Segmentation in the Projection Domain for Metal Artifact Reduction in CBCT--An Investigation of Potential Improvement
CN114119788A (zh) 一种基于对抗生成网络的多模态医学图像编码与生成方法
Jahangard et al. U-net based architecture for an improved multiresolution segmentation in medical images
CN116309647B (zh) 颅脑病灶图像分割模型构建方法、图像分割方法及设备
CN112331311A (zh) 一种腹腔镜手术中视频与术前模型融合显示的方法及装置
Aldemir et al. Chain code strategy for lossless storage and transfer of segmented binary medical data
CN110473241A (zh) 图像配准方法、存储介质及计算机设备
CN114170215A (zh) 一种骨肿瘤危险区域快速生成系统
CN115049709A (zh) 一种面向脊柱微创手术导航的深度学习点云腰椎配准方法
CN112381922A (zh) 一种人体骨骼缺失部位的骨骼模型获取方法、系统及终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination