CN117649350B - 一种血管内图像和造影图像的融合方法、装置和设备 - Google Patents
一种血管内图像和造影图像的融合方法、装置和设备 Download PDFInfo
- Publication number
- CN117649350B CN117649350B CN202410118997.4A CN202410118997A CN117649350B CN 117649350 B CN117649350 B CN 117649350B CN 202410118997 A CN202410118997 A CN 202410118997A CN 117649350 B CN117649350 B CN 117649350B
- Authority
- CN
- China
- Prior art keywords
- branch
- intravascular
- image
- dimensional
- blood vessel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007500 overflow downdraw method Methods 0.000 title abstract description 5
- 210000004204 blood vessel Anatomy 0.000 claims abstract description 139
- 230000003902 lesion Effects 0.000 claims abstract description 86
- 238000013507 mapping Methods 0.000 claims abstract description 83
- 230000002792 vascular Effects 0.000 claims abstract description 28
- 230000004927 fusion Effects 0.000 claims abstract description 24
- 230000006870 function Effects 0.000 claims description 81
- 238000000034 method Methods 0.000 claims description 56
- 239000011159 matrix material Substances 0.000 claims description 51
- 238000010586 diagram Methods 0.000 claims description 49
- 238000005070 sampling Methods 0.000 claims description 49
- 238000012545 processing Methods 0.000 claims description 13
- 210000004351 coronary vessel Anatomy 0.000 claims description 9
- 230000001575 pathological effect Effects 0.000 claims description 8
- 239000008280 blood Substances 0.000 claims description 5
- 238000013519 translation Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 4
- 238000012937 correction Methods 0.000 claims description 3
- 230000011218 segmentation Effects 0.000 description 13
- 230000008569 process Effects 0.000 description 10
- 239000013598 vector Substances 0.000 description 5
- 230000005855 radiation Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000002608 intravascular ultrasound Methods 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000000608 laser ablation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000000523 sample Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
本申请提供一种血管内图像和造影图像的融合方法、装置和设备。本申请提供的血管内图像和造影图像的融合方法,包括:基于血管内图像序列重建三维血管模型,得到建模函数、以及血管内图像序列对应的三维血管模型;基于建模函数,识别多个指定特征点在三维血管模型中的三维空间坐标、以及病变部位在三维血管模型中的第一位置信息;对造影图像进行特征点识别,识别多个指定特征点在造影图像中的二维空间坐标;根据多个指定特征点在三维血管模型中的三维空间坐标、以及多个指定特征点在造影图像中的二维空间坐标,建立三维血管模型到造影图像的映射关系;根据第一位置信息和映射关系,确定病变部位在造影图像中的第二位置信息。
Description
技术领域
本申请涉及医学影像处理技术领域,尤其涉及一种血管内图像和造影图像的融合方法、装置和设备。
背景技术
在医学领域,血管内图像和造影图像的融合技术是一种关键的图像处理方法,旨在将不同来源的医学影像信息整合起来,以提供更全面、准确的诊断和治疗辅助信息。
目前,为了实现血管内图像和造影图像的融合,通常先使用两个或更多角度的造影图像进行三维血管模型的重建,再将其和血管内图像进行配准。这样,需要采集两个或更多角度的造影图像,会增加辐射剂量,影响患者以及术者的健康。
发明内容
有鉴于此,本申请提供一种血管内图像和造影图像的融合方法、装置和设备,用以在减少辐射剂量的基础上,实现血管内图像和造影图像的融合。
具体地,本申请是通过如下技术方案实现的:
本申请第一方面提供一种血管内图像和造影图像的融合方法,所述方法包括:
基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型;
基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息;
对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标;其中,所述造影图像和所述血管内图像序列为同一病理状态下的同一条冠脉的图像;
根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系;
根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息。
本申请第二方面提供一种血管内图像和造影图像的融合装置,所述装置包括建模模块、识别模块、处理模块和确定模块;其中,
所述建模模块,用于基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型;
所述识别模块,用于基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息;
所述识别模块,还用于对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标;其中,所述造影图像和所述血管内图像序列为同一病理状态下的同一条冠脉的图像;
所述处理模块,用于根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系;
所述确定模块,用于根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息。
本申请第三方面提供一种血管内图像和造影图像的融合设备,包括存储器、处理器及存储在所述存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现本申请第一方面任一项所述方法的步骤。
本申请提供的血管内图像和造影图像的融合方法、装置和设备,通过基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型,从而基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息,并对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标,进而根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系,最后根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息。这样,通过确定出指定特征点在三维血管模型中的三维空间坐标,以及指定特征点在造影图像中的二维空间坐标,从而基于此建立三维血管模型到造影图像之间的映射关系,从而将病变部位在三维血管模型中的第一位置信息映射到造影图像中,得到病变部位在造影图像中的第二位置信息,这样,可实现血管内图像序列和造影图像的融合,且只需要提供一帧造影图像就能完成两者之间的融合,大大减轻了患者及术者所受的辐射剂量。此外,造影图像的采集和血管内图像的采集可以不同步,可降低对操作者的操作要求。
附图说明
图1为本申请提供的血管内图像和造影图像的融合方法实施例一的流程图;
图2为本申请一示例性实施例示出的血管内图像序列和三维血管模型的示意图;
图3为本申请一示例性实施例示出的对血管内图像序列进行病变识别的实现原理图;
图4为本申请一示例性实施例示出的对连续的多个病变血管内图像的病变部位进行合并的实现原理图;
图5为本申请一示例性实施例示出的对造影图像进行特征点识别的流程图;
图6为本申请一示例性实施例示出对造影图像进行血管分割的实现原理图;
图7为本申请一示例性实施例示出的血管树结构的示意图;
图8为本申请一示例性实施例示出的确定目标分支血管段的实现原理图;
图9为本申请一示例性实施例示出的识别伪血管分支的实现原理图;
图10为本申请一示例性实施例示出的选取采样点的实现原理图;
图11为本申请一示例性实施例示出的建立三维血管模型到造影图像的映射关系的实现原理图;
图12为本实施例一示例性实施例示出的血管内图像序列和造影图像融合的实现原理图;
图13为本申请一示例性实施例示出的血管内图像序列和造影图像的融合方法的流程图;
图14为本申请一示例性实施例示出的管腔识别的实现原理图;
图15为本申请一示例性实施例示出的选取采样血管内图像及对采样血管内图像进行管腔识别的实现原理图;
图16为本申请一示例性实施例示出的合并的实现原理图;
图17为本申请提供的血管内图像和造影图像的融合装置所在血管内图像和造影图像的融合设备的一种硬件结构图;
图18为本申请提供的血管内图像和造影图像的融合装置实施例一的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
下面给出具体的实施例,用以详细介绍本申请的技术方案。
图1为本申请提供的血管内图像和造影图像的融合方法实施例一的流程图。请参照图1,所述方法包括:
S101、基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型。
具体实现时,可以获取血管内图像序列,并根据获取到的血管内图像序列进行三维血管建模,得到三维血管模型。需要说明的是,在得到三维血管模型的同时,会得到相应的建模函数。
其中,所述建模函数用于表征血管内图像序列的图像坐标和三维血管模型的三维空间坐标之间的映射关系。
图2为本申请一示例性实施例示出的血管内图像序列和三维血管模型的示意图。请参照图2,图2中的A图为血管内图像序列的示意图,图2中的B图为三维血管模型的示意图(对A图中的血管内图像序列进行三维血管模型重建,得到的三维血管模型的示意图)。参照图2,血管内图像序列的图像坐标可以用表示,三维血管模型的三维空间坐标可以用表示,建模函数可以用/>表示。此时,具体的,建模函数如下:
,
其中,表示的是血管内图像序列中的任一点的图像坐标,其中,/>表示该点的像素坐标,/>表示该点所在的血管内图像在血管内图像序列的帧索引,/>表示该点在三维血管模型中的三维空间坐标。
需要说明的是,对于血管内图像序列中的任一点,通过建模函数,都可以求出该点在三维血管模型中的三维空间坐标/>。此外,三维空间坐标的单位为真实物理距离,例如,三维空间坐标的单位为毫米。
具体的,一实施例中,血管内图像序列可以是通过OCT设备获取的血管内图像序列,在进行三维血管建模时,需要充分考虑OCT设备的相关参数,如扫描深度(毫米),每扫描线像素数(pixel),帧间距(毫米)等。进一步的,另一实施例中,血管内图像序列也可以是通过IVUS设备获取的血管内图像序列,在进行三维血管建模时,需要充分考虑IVUS设备的相关参数。有关进行三维血管建模的具体实现原理和实现过程可以参见相关技术中的描述,此处不再赘述。
S102、基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息。
需要说明的是,多个指定特征点是根据实际需要设定的,本实施例中,不对其进行赘述。具体实现时,只要某个点在血管内图像和造影图像上均能明确定位其位置,该点就可以作为特征点。例如,在一种可能的实现方式中,多个指定特征点可以包括血管内分支点、血管内分支点之间的采样点、鞘管/指引导管入口点、特殊狭窄点等。下面以多个指定特征点包括血管内分支点和血管内分支点之间的采样点为例进行说明。
具体的,在获取多个指定特征点在三维血管模型中的三维空间坐标时,可先从血管内图像序列中识别出多个指定特征点,得到这多个指定特征点在血管内图像序列中的图像坐标,进而将该多个指定特征点在血管内图像序列中的图像坐标代入到建模函数中,得到这多个指定特征点在三维血管模型中的三维空间坐标。有关识别多个指定特征点在三维血管模型中的三维空间坐标的具体实现过程将在下面的实施例中详细介绍,此处不再赘述。
例如,一实施例中,多个指定特征点包括分支点和分支点之间的采样点,此时,获取的分支点的三维空间坐标记为,/>,…;类似的,获取到的分支点之间的采样点之间的三维空间坐标可以记为,/>,…。类似的,在获取病变部位在三维血管模型中的第一位置信息(具体的,第一位置信息为三维空间坐标)时,可以先对血管内图像序列中的每帧血管内图像进行病变部位识别,得到病变部位在该帧血管内图像中的图像坐标,进一步的,将病变部位在该帧血管内图像中的图像坐标代入到建模函数中,得到病变部位在三维血管模型中的第一位置信息。
需要说明的是,第一位置信息包括病变部位的中心点在三维血管模型中的三维空间坐标、以及组成该病变部位的像素群中的各个像素点在三维血管模型中的三维空间坐标。进一步的,组成该病变部位的像素群中的各个像素点在三维血管模型中的三维空间坐标可以用三维空间坐标集合表示。
需要说明的是,图3为本申请一示例性实施例示出的对血管内图像序列进行病变识别的实现原理图。请参照图3,具体实现时,针对血管内图像序列中的每帧血管内图像,可以对该血管内图像进行病变识别,得到该血管内图像的识别结果,该识别结果用于表征该血管内图像是否存在病变部位。进一步的,针对每帧血管内图像,可基于该血管内图像的识别结果,确定该血管内是否存在病变部位以及病变部位在血管内图像的位置。(参见图3,图3所示的即为钙化病变)具体来说,在一帧血管内图像存在病变部位时,可以得到病变部位的中心点在该血管内图像中的图像坐标、以及组成该病变部位的像素群的图像坐标集合。需要说明的是,为了方便标记,将存在病变部位的血管内图像记为病变血管内图像。
参见图3,病变部位的中心点的图像坐标表示为,组成该病变部位的像素群的图像坐标集合表示为/>,其中,
。
进一步的,参见前面的描述,在得到病变部位在血管内图像中的图像坐标后,将病变部位在血管内图像中的图像坐标代入到建模函数中,得到病变部位在三维血管模型中的第一位置信息。
具体的,例如,针对病变部位的中心点,通过建模函数,确定其在三维血管模型中的三维空间坐标为。
类似的,针对组成病变部位的像素群,通过建模函数,确定其在三维血管模型中的三维空间坐标集合为。结合上面的例子,像素群的图像坐标集合,此时,其对应的三维空间坐标集合,其中/>。
需要说明的是,在一种可能的实现方式中,由于连续的多个病变血管内图像识别的病变部位可能是血管上同一个病变部位的不同横截面,因此,可以对连续的多个病变血管内图像的病变部位进行合并。图4为本申请一示例性实施例示出的对连续的多个病变血管内图像的病变部位进行合并的实现原理图。请参照图4,例如,在一种可能的实现方式中,在得到病变部位在三维血管模型中的第一位置信息后,可以对连续的多个病变血管内图像的病变部位进行合并后,将得到这多个病变内图像所描述的同一个病变部位的三维空间坐标,为方便说明,将该病变部位的中心点的三维空间坐标记为,将组成该病变部位的像素群的三维空间坐标集合记为/>。
合并的方式是根据实际需要设定的,本实施例中,不对其进行限定。例如,一实施例中,合并的方式可以是求平均值。此外,在对连续的多个病变血管内图像的病变部位进行合并时,可以是在得到病变部位在三维血管模型中的第一位置信息(第一位置信息为三维空间坐标)后,对连续的多个病变血管内图像的病变部位进行合并,得到这多个病变内图像所描述的同一个病变部位的三维空间坐标;也可以是在得到病变部位的图像坐标后,对连续的多个病变血管内图像的病变部位进行合并,得到这多个病变内图像所描述的同一个病变部位的图像坐标,进而再基于建模函数,得到这多个病变内图像所描述的同一个病变部位的三维空间坐标。
S103、对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标;其中,所述造影图像和所述血管内图像序列为同一病理状态下的同一条冠脉的图像。
需要说明的是,造影图像和血管内图像序列为同一病理状态下的同一条冠脉的图像,且造影图像的采集和血管内图像的采集可以不同步。此外,造影图像所对应的冠脉可以呈收缩状态或舒张状态,本实施例中,不对其进行限定。
本实施例提供的方法,血管内图像序列和造影图像不需要同步采集,只需要保证两者是同一病理状态下的同一条冠脉即可,这样,可降低对操作者的操作要求,提高本方法的适应性。
具体的,图5为本申请一示例性实施例示出的对造影图像进行特征点识别的流程图。请参照图5,对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标的过程,可以包括:
S501、获取所述造影图像的骨架图,并对所述骨架图进行血管树建模,得到血管树结构;其中,所述血管树结构用于表征所述造影图像的主血管段和分支血管段、以及所述主血管段和所述分支血管段上的分支点。
具体的,在一种可能的实现方式中,获取造影图像的骨架图的过程,可以包括:对造影图像进行血管分割,得到分割结果;利用分割结果构建造影图像的骨架图。
图6为本申请一示例性实施例示出对造影图像进行血管分割的实现原理图。请参照图6,图6中的A图为造影图像,图6中的B图为对造影图像进行血管分割后得到的分割结果。请参照图6,具体实现时,可以采用分割技术,对造影图像进行血管分割,得到初始分割结果,进一步的,对初始分割结果进行后处理,得到分割结果,该分割结果为二值化的血管分割结果,如图6的B图所示,图6的B图中白色区域示出分割出的血管。
需要说明的是,后处理可以包括提取最大连通域、形态学开操作、形态学闭操作等图像处理手段中的至少一种,本实施例中,不对其进行限定。
具体的,在得到分割结果后,可以提取血管中心线作为骨架图。进一步的,对骨架图进行血管树建模,得到血管树结构。
图7为本申请一示例性实施例示出的血管树结构的示意图。请参照图7,血管树用于表征所述造影图像的主血管段和分支血管段、以及所述主血管段和所述分支血管段上的分支点。
需要说明的是,主血管段指的是造影图像上预先标记的近心端到预先标记的远心端之间的血管段。分支血管段指的是不在主血管段上、从主血管段分离出来的血管段。其中,预先标记的近心端、以及预先标记的远心端可以是标记人员在造影图像上标记的。
参见图7,基于血管树结果,至少可以从血管树结果上获取如下信息:主血管段、分支血管段、血管段(主血管段以及分支血管段)上的分支点的位置;被分支点隔开的、彼此分离的血管段等。
S502、根据所述血管树结构,确定满足指定条件的目标分支血管段;其中,所述指定条件为所述分支血管段中一端与所述主血管段上的主分支点连接的分支血管段。
图8为本申请一示例性实施例示出的确定目标分支血管段的实现原理图。请同时参照图7和图8,基于血管树结构,可以获取造影图像中的分支血管段、以及主血管段上的主分支点(为方便说明,将主血管段上的分支点记为主分支点),进一步的,本步骤中,可以从所有的分支血管段中,筛选出一端与主分支点连接的分支血管段,筛选出来的分支血管段即为目标分支血管段。
S503、从所述目标分支血管段中识别出伪血管分支,并将所述伪血管分支所连接的主分支点确定为无效主分支点。
需要说明的是,伪血管分支可以是毛细血管,或者,伪血管分支可以是游离血管与主血管段交叠等原因形成的形似分支血管段的伪影。例如,一实施例中,某条游离的血管段与主血管段交叠在一起,此时,该游离的血管段会被误判成两个目标分支血管段,因此,本步骤中,就需要从目标分支血管段中识别出伪血管分支。
具体的,识别伪血管分支的方法可根据实际情况选择,本实施例中,不对其进行限定。图9为本申请一示例性实施例示出的识别伪血管分支的实现原理图。请参照图9,针对与同一个主分支点连接的目标分支段A和目标分支血管段B,可确定目标分支血管段A到主分支点的入射向量、以及目标分支血管段B到主分支点的入射向量/>,进而基于这两个入射向量确定这两个目标分支血管段是否为伪血管分支。例如,如图9所示,若入射向量/>和之间的夹角与180°的差值小于预设值(表征入射向量/>和/>之间的夹角接近180°,其中,预设值根据实际需要设定,例如,预设值为5°),此时,判断目标分支血管段A和目标分支血管段B来自同一条游离的血管段,目标分支血管段A和目标分支血管段B为伪血管分支。
相应的,此时,确定与目标分支血管段A和目标分支血管段B连接的主分支点为无效主分支点。
S504、将所述主血管段上所述无效主分支点之外的主分支点确定为有效分支点。
具体的,识别出无效主分支点后,将无效主分支点从所有的主分支点中剔除,剩下的即为有效分支点。
S505、针对相邻的两个有效分支点,按照预设采样规则,从所述两个有效分支点之间的主血管段上选取采样点。图10为本申请一示例性实施例示出的选取采样点的实现原理图。请参照图10,图10中的A图为识别出的有效主分支点的示意图,图10中的B图中为选取的采样点的示意图。请参照图10,在识别出有效主分支点之后,针对相邻的两个有效主分支点,可以按照预设采样规则,从所述两个有效分支点之间的主血管段上选取采样点。
可选的,在多个特征点包含分支点和分支点之间的采样点时,一实施例中,预设采样规则可以为:对于从每一帧采样血管内图像(有关每一帧采样血管内图像的概念将在下面的实施例中介绍,此处不再赘述)中采集的一个采样点P(采样血管内图像中的管腔中心即为采样点),在此都应找到一个相应的采样点Q。
具体实现时,Q的选取方法可以为,在血管树结构(如图10中的A图)上的两个有效主分支点之间的部分找到一个点满足以下条件:该点到这两个有效主分支点中的第一有效主分支点(距离远心端较近的一个有效主分支点)的距离与该点到这两个有效主分支点中的第二有效主分支点(距离远心端较远的一个有效主分支点)的距离的比例等于或约等于指定值,其中,该指定值等于P0到P0前面最近的分支血管内图像的帧间距与P0到P0后面最近的分支血管内图像的帧间距的比例。其中,P0表示采样点P所在的采样血管内图像。
S506、将所述有效分支点和所述采样点在所述造影图像中的位置信息确定为所述多个指定特征点在所述造影图像中的二维空间坐标。
结合上面的介绍,例如,为方便说明,将有效分支点的二维空间坐标记为,/>…;类似的,将采样点的二维空间坐标记为,/>…。
S104、根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系。
需要说明的是,所述三维血管模型到所述造影图像的映射关系表征三维血管模型中的三维空间坐标到造影图像中的二维空间坐标之间的映射关系。
具体的,在一种可能的实现方式中,可以先构建初始映射关系(所述初始映射关系包含待求解的目标参数);进一步,将多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标代入待初始映射关系中,求解出初始映射关系中的目标参数,最后将求解出的目标参数代入到初始映射关系中,得到所述三维血管模型到所述造影图像的映射关系。
可选的,一实施例中,建立所述三维血管模型到所述造影图像的映射关系的步骤,可以包括:
(1)构建初始映射关系;其中,所述初始映射关系包含待求解的目标参数。
具体的,在一种可能的实现方式中,所述初始映射关系用映射函数组表征,所述映射函数组包含第一函数和第二函数;其中,
所述第一函数为:
,
其中,所述为至少一个三维空间坐标组成的已知矩阵,所述/>的维度为/>,所述n为所述至少一个三维空间坐标的数量;
所述为旋转矩阵,所述/>、所述/>、所述/>为所述旋转矩阵中待求解的参数;
所述为平移矩阵,所述/>、所述/>、所述/>为所述平移矩阵中待求解的参数;
所述Y为所述已知矩阵的投影结果,所述Y的维度为;
所述第二函数为:
,
其中,所述为所述已知矩阵在造影图像中的映射结果,其中,所述/>的维度为/>;所述/>为所述映射结果中第i行第1列的元素(其中,i的取值为1到n),/>为所述映射结果中第i行第2列的元素,所述/>为所述已知矩阵第i行第1列的元素,所述为所述已知矩阵第i行第2列的元素,所述/>为所述已知矩阵第i行第3列的元素;所述/>为所述三维血管模型中的真实物理距离到所述造影图像上的像素距离之间的换算常量(该换算常量可以通过造影设备的相关参数获取得到),所述/>已知的校正系数(其可以根据经验获知)。
需要说明的是,为旋转矩阵,其主要由/>控制,该旋转矩阵的展开形式如下:
,
其中,
,
进一步的,为平移矩阵,其主要由/>、/>、/>控制,因此,上述初始映射关系中,涉及六个待求解的目标参数,这六个待求解的目标参数分别为:。
(2)针对所述多个指定特征点中的每个指定特征点,将所述每个指定特征点在所述三维血管模型中的三维空间坐标、以及所述每个指定特征点在所述造影图像中的二维空间坐标进行配对,得到所述每个指定特征点的配对结果。
结合前面的介绍,此时,得到的配对结果如下:
(3)针对由所述多个指定特征点的配对结果中的三维空间坐标组成的第一矩阵,利用所述初始映射关系,确定所述第一矩阵在造影图像中的映射结果。
具体的,例如,一实施例中,多个指定特定点包含n个特征点,配对结果中的每个三维空间坐标作为第一矩阵的一行,基于配对结果中的所有三维空间坐标,构建第一矩阵,第一矩阵如下:
,
进一步的,基于初始映射关系中的第一函数,将第一矩阵经过旋转变换和平移变换后,得到第一矩阵的投影结果Y,例如,Y可以表示为:
,
进一步的,根据Y,结合第二函数,即可得到第一矩阵在造影图像中的映射结果。
(4)根据所述映射结果、以及由所述多个指定特征点的配对结果中的二维空间坐标组成的第二矩阵,利用预设损失函数,求解所述目标参数的最优解,得到求解结果。
具体的,配对结果中的每个二维空间坐标作为第二矩阵的一行,基于配对结果中的所有二维空间坐标,构建第二矩阵,第二矩阵可以表示为:
,
需要说明的是,预设损失函数是可以根据实际需要设定,本实施例中,不对其进行限定。例如,预设损失函数可以是均方差损失函数、交叉熵损失函数、L1损失函数,L2损失函数等。下面以预设损失函数为均方差损失函数为例进行说明,此时,预设损失函数可以简化表示为:
,
其中,为所述映射结果;/>为由所述多个指定特征点的配对结果中的二维空间坐标组成的第二矩阵。
进一步的,利用预设损失函数,求解所述目标参数的最优解,求解的目标如下:
,
经过求解,即可求解出所述目标参数的最优解,得到求解结果。
(5)将所述求解结果代入到所述初始映射关系中,得到所述三维血管模型到所述造影图像的映射关系。
具体的,参见前面的描述,将这六个目标参数的求解结果代入到初始映射关系中,即可得到三维血管模型到造影图像的映射关系。
图11为本申请一示例性实施例示出的建立三维血管模型到造影图像的映射关系的实现原理图。请参照图11,图11中的左侧的图示出多个指定特征点在三维血管模型中的三维空间坐标,图11中的右侧的图示出多个指定特征点在造影图像中的二维空间坐标,参见前面的描述,通过初始映射关系,构建和/>,进而结合/>和/>,并通过损失函数即可求解出目标参数,得到三维血管模型到造影图像的映射关系。
现有的方法,在确定映射关系时,常基于管腔直径来确定映射关系,由于造影图像显示的管腔直径不准确性,因此,该方法确定出的映射关系也相对不准确。而本实施例提供的方法,配置原理不依赖管腔直径,可进一步提高准确性。此外,本实施例提供的方法,血管内图像采集用成像导管,无需携带显影环。
此外,本实施例提供的方法,在确定映射关系时,不依赖血管内图像的长轴,而是基于血管内图像的三维血管模型来实现,可以避免因探头回撤过程中扭曲抖动带来的问题。
S105、根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息。
具体的,将第一位置信息代入到映射关系中,得到病变部位在造影图像中的第二位置信息。此外,在得到病变部位在造影图像中的第二位置信息后,可基于第二位置信息,在造影图像上中显示病变部位。
图12为本实施例一示例性实施例示出的血管内图像序列和造影图像融合的实现原理图。请参照图12,在血管内图像序列中识别出病变部位后,即可通过建模函数,得到病变部位在三维血管模型中的位置,进一步的,基于三维血管模型到造影图像的映射关系,即可确定病变部位在造影图像中的位置。
本实施例提供的血管内图像和造影图像的融合方法,通过基于血管内图像序列重建三维血管模型,得到建模函数以及所述血管内图像序列对应的三维血管模型,从而基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息,并对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标,进而根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系,最后根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息。这样,通过确定出指定特征点在三维血管模型中的三维空间坐标以及指定特征点造影图像中的二维空间坐标,从而基于此建立三维血管模型到造影图像之间的映射关系,从而将病变部位在三维血管模型中的第一位置信息映射到造影图像中,得到病变部位在造影图像中的第二位置信息,这样,可实现血管内图像序列和造影图像的融合,且只需要提供一帧造影图像就能完成两者之间的融合,大大减轻了患者及术者所受的辐射剂量。此外,造影图像的采集和血管内图像的采集可以不同步,可降低对操作者的操作要求。
具体的,在一种可能的实现方式中,图13为本申请一示例性实施例示出的血管内图像序列和造影图像的融合方法的流程图。请参照图13,在上述实施例的基础上,本实施例提供的方法,基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标的流程图,可以包括:
S1301、对所述血管内图像序列进行特征点识别,识别出多个初始特征点在所述血管内图像序列中的第一坐标。
具体的,该步骤的具体实现过程,可以包括:
S1、从所述血管内图像序列中识别出带有血管分支的分支血管内图像。
具体实现时,针对血管内图像序列中的每个血管内图像,可以对该血管内图像进行血管分支识别,得到该血管内图像的识别结果,该识别结果用于表征该血管内图像是否带有血管分支。进一步的,针对每一个血管内图像,可基于该血管内图像的识别结果,确定该血管内图像的类别,即确定该血管内图像是带有血管分支的血管内图像、还是不带有血管分支的血管内图像。需要说明的是,为了方便标记,将带有血管分支的血管内图像记为分支血管内图像。
这样,基于各个血管内图像的类别,即可从血管内图像序列中查找出带有血管分支的分支血管内图像。
S2、针对每一帧所述分支血管内图像,识别所述分支血管内图像的管腔中心,得到所述分支血管内图像中的管腔中心的位置信息。
具体实现时,针对每一帧分支血管内图像,可基于管腔识别技术,对该分支血管内图像进行管腔识别,识别出该分支血管内图像中的管腔中心的位置信息(该位置信息为图像坐标)。
图14为本申请一示例性实施例示出的管腔识别的实现原理图。请参照图14,本实施例中,针对第帧分支血管内图像,识别出的该帧分支血管内图像中的管腔中心的位置信息为/>。
S3、针对处于不相邻的两帧所述分支血管内图像之间的其他血管内图像,按照预设采样规则,从所述其他血管内图像中选取采样血管内图像。
需要说明的是,针对处于不相邻的两帧分支血管内图像之间的其他血管内图像,可按照预设采样规则从中选取采样血管内图像。
其中,预设采样规则是根据实际需要设定的,本实施例中不对其进行限定,例如,一实施例中,预设采样规则可以是按照预设采样频率进行采样,其中,预设采样间隔是根据实际需要设定的,本实施例中,不对其进行限定。例如,一实施例中,预设采样频率为2,即对于处于不相邻的两帧所述分支血管内图像之间的其他血管内图像,每隔2帧进行采样。结合上面的例子,例如,一实施例中,不相邻的两帧分支血管内图像之间有10帧其他血管内图像,则将这10帧其他血管内图像中的第2帧、第4帧、第6帧、第8帧和第10帧确定采样血管内图像。
S4、针对每一帧所述采样血管内图像,识别所述采样血管内图像的管腔中心,得到所述采样血管内图像中的管腔中心的位置信息。
具体的,参见前面的描述,针对每一帧采样血管内图像,可基于管腔识别技术,对该采样血管内图像进行管腔识别,识别出该采样血管内图像中的管腔中心的位置信息。
图15为本申请一示例性实施例示出的选取采样血管内图像及对采样血管内图像进行管腔识别的实现原理图。请参照图15,结合上面的例子,针对第m帧分支血管内图像和第n帧分支血管内图像之间的其他血管内图像,可以按预设采样规则进行采样,得到采样血管内图像,需要说明的是,该第m帧分支血管内图像与第n帧分支血管内图像之间的其他血管内图像为不带有血管分支的血管内图像。进一步的,针对每帧采样血管内图像,可对其进行管腔识别,得到采样血管内图像中的管腔中心的位置信息。例如,图15所示,针对帧索引为的采样血管内图像,对其进行管腔识别后,确定该采样血管内图像中的管腔中心的位置信息为/>。
S5、将所述分支血管内图像中的管腔中心的位置信息和所述采样血管内图像中的管腔中心的位置信息确定为多个初始特征点在所述血管内图像序列中的第一坐标。
结合上面的例子,分别将分支血管内图像的管腔中心的位置信息和采样血管内图像的管腔中心的位置信息/>确定为多个初始特征点在血管内图像序列中的第一坐标。
S1302、根据所述多个初始特征点在所述血管内图像序列中的第一坐标和所述建模函数,得到多个指定特征点在所述三维血管模型中的三维空间坐标。
具体的,该步骤的实现过程,可以包括:
S1、针对所述分支血管内图像中连续的多个目标分支血管内图像,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标;
一实施例中,该步骤的具体实现过程,可以包括:
(1)根据所述建模函数和所述分支血管内图像中的管腔中心的位置信息,确定所述分支血管内图像中的管腔中心的三维空间坐标。
具体实现时,将分支血管内图像中的管腔中心的位置信息代入到建模函数中计算,得到分支血管内图像中的管腔中心的三维空间坐标。结合上面的例子,例如,对于分支血管内图像的管腔中心,得到其三维空间坐标记为。
(2)针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的三维空间坐标,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
需要说明的是,由于连续的多个目标分支血管内图像描述的是同一个血管分支,本实施例中,可以根据所述多个目标分支血管内图像中的管腔中心的三维空间坐标,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
具体实现时,可以将多个目标分支血管内图像中的管腔中心的三维空间坐标合并为一个三维空间坐标,合并后的三维空间坐标即为多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
具体的,合并方式是根据实际需要选择,本实施例中,不对合并方式进行限定。例如,一实施例中,若连续的多个目标分支血管内图像中的管腔中心的三维空间坐标分别表示为,/>,……,/>,合并后的同一个血管分支的管腔中心的三维空间坐标表示为/>,此时,可按照如下合并方式进行合并:
,
其中,表示合并后的三维空间坐标点,表示第k个目标分支血管内图像中的管腔中心的三维空间坐标点,k取1到N,N为连续的多个目标分支血管内图像包含的血管内图像的数目。
图16为本申请一示例性实施例示出的合并的实现原理图。请参照图16,在图16中,分支血管内图像5、分支血管内图像6和分支血管内图像7为连续的3个目标分支血管内图像,此时,这3个目标分支血管内图像描述的是同一个血管分支,结合上面的介绍,此时,将这3帧目标分支血管内图像中的管腔中心的三维空间坐标合并,得到一个合并后的三维空间坐标,该合并后的三维空间坐标即为这3个目标分支血管内图像描述的是同一个血管分支的管腔中心的三维空间坐标;类似的,对分支血管内图像11、分支血管内图像12和分支血管内图像13也为连续的3个目标血管内图像,此时,可以将这3帧目标分支血管内图像中的管腔中心的三维空间坐标合并。
当然,在本申请另一种可能的实现方式中,该步骤的具体实现过程,还可以包括:
(1)针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息。
参见前面的介绍,由于连续的多个目标分支血管内图像描述的是同一个血管分支,本实施例中,可以根据所述多个目标分支血管内图像中的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息。
具体实现时,可以将多个目标分支血管内图像中的管腔中心的位置信息合并为一个位置信息,合并后的位置信息即为多个目标分支血管内图像所描述的同一个血管分支的管腔中心的图像坐标。有关合并的方式可以参见前面的介绍,此处不再赘述。
(2)根据所述建模函数和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
具体实现时,将多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息代入到建模函数中计算,得到所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
换言之,在本申请另一种可能的实现方式中,在获取到多个初始特征点在所述血管内图像序列中的第一坐标后,还可以直接针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的图像坐标;进一步的,基于建模函数,得到所述多个目标分支血管内图像所描述的同一个血管分支的三维空间坐标,最后将所述采样血管内图像中的管腔中心的三维空间坐标和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标确定为多个指定特征点在所述三维血管模型中的三维空间坐标。
S2、根据所述建模函数和所述采样血管内图像中的管腔中心的位置信息,确定所述采样血管内图像中的管腔中心的三维空间坐标。
具体实现时,将采样血管内图像中的管腔中心的位置信息代入到建模函数中计算,得到采样血管内图像中的管腔中心的三维空间坐标。
例如,结合上面的例子,对于采样血管内图像的管腔中心,得到其三维空间坐标记为。
S3、将所述采样血管内图像中的管腔中心的三维空间坐标和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标确定为多个指定特征点在所述三维血管模型中的三维空间坐标。
结合上面的例子,将采样血管内图像中的管腔中心的三维空间坐标和多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标/>确定为多个指定特征点在所述三维血管模型中的三维空间坐标。
本实施例提供的方法,提供一种确定多个指定特征点在三维血管模型中的三维空间坐标的方法,通过该方法,可以准确的确定出多个指定特征点在三维血管模型中的三维空间坐标,进而准确的建立三维血管模型到造影图像的映射关系,准确的识别出病变部位在造影图像的位置,以指导激光消融等手术。
与前述一种血管内图像和造影图像的融合方法的实施例相对应,本申请还提供了一种血管内图像和造影图像的融合装置的实施例。
本申请一种血管内图像和造影图像的融合装置的实施例可以应用在血管内图像和造影图像的融合设备上。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。以软件实现为例,作为一个逻辑意义上的装置,是通过其所在血管内图像和造影图像的融合设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言,如图17所示,为本申请提供的血管内图像和造影图像的融合装置所在血管内图像和造影图像的融合设备的一种硬件结构图,除了图17所示的处理器、内存、网络接口、以及非易失性存储器之外,实施例中装置所在的血管内图像和造影图像的融合设备通常根据该血管内图像和造影图像的融合装置的实际功能,还可以包括其他硬件,对此不再赘述。
图18为本申请提供的血管内图像和造影图像的融合装置实施例一的结构示意图,请参考图18,所述装置包括建模模块1810、识别模块1820、处理模块1830和确定模块1840;其中,
所述建模模块1810,用于基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型;
所述识别模块1820,用于基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息;
所述识别模块1820,还用于对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标;其中,所述造影图像和所述血管内图像序列为同一病理状态下的同一条冠脉的图像;
所述处理模块1830,用于根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系;
所述确定模块1840,用于根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息。
本实施例提供的装置,可用于执行图1所示方法实施例的步骤,具体实现原理和实现过程可以参见前面实施例中的描述,此处不再赘述。
可选的,所述处理模块1830,用于构建初始映射关系;其中,所述初始映射关系包含待求解的目标参数;
所述处理模块1830,用于针对所述多个指定特征点中的每个指定特征点,将所述每个指定特征点在所述三维血管模型中的三维空间坐标、以及所述每个指定特征点在所述造影图像中的二维空间坐标进行配对,得到所述每个指定特征点的配对结果;
所述处理模块1830,用于针对由所述多个指定特征点的配对结果中的三维空间坐标组成的第一矩阵,利用所述初始映射关系,确定所述第一矩阵在造影图像中的映射结果;
所述处理模块1830,用于根据所述映射结果、以及由所述多个指定特征点的配对结果中的二维空间坐标组成的第二矩阵,利用预设损失函数,求解所述目标参数的最优解,得到求解结果;
所述处理模块1830,用于将所述求解结果代入到所述初始映射关系中,得到所述三维血管模型到所述造影图像的映射关系。
可选的,所述初始映射关系用映射函数组表征,所述映射函数组包含第一函数和第二函数;其中,
所述第一函数为:
,
其中,所述为至少一个三维空间坐标组成的已知矩阵,所述/>的维度为/>,所述n为所述至少一个三维空间坐标的数量;
所述为旋转矩阵,所述/>、所述/>、所述/>为所述旋转矩阵中待求解的参数;
所述为平移矩阵,所述/>、所述/>、所述/>为所述平移矩阵中待求解的参数;
所述Y为所述已知矩阵的投影结果,所述Y的维度为;
所述第二函数为:
,
其中,所述为所述已知矩阵在造影图像中的映射结果,其中,所述/>的维度为/>;所述/>为所述映射结果中第i行第1列的元素,/>为所述映射结果中第i行第2列的元素,所述/>为所述已知矩阵第i行第1列的元素,所述/>为所述已知矩阵第i行第2列的元素,所述/>为所述已知矩阵第i行第3列的元素;所述/>为所述三维血管模型中的真实物理距离到所述造影图像上的像素距离之间的换算常量,所述/>已知的校正系数。
可选的,所述识别模块1820,用于对所述血管内图像序列进行特征点识别,识别出多个初始特征点在所述血管内图像序列中的第一坐标;
所述识别模块1820,用于根据所述多个初始特征点在所述血管内图像序列中的第一坐标和所述建模函数,得到多个指定特征点在所述三维血管模型中的三维空间坐标。
可选的,所述识别模块1820,还用于从所述血管内图像序列中识别出带有血管分支的分支血管内图像,并针对每一帧所述分支血管内图像,识别所述分支血管内图像的管腔中心,得到所述分支血管内图像中的管腔中心的位置信息;
所述识别模块1820,还用于针对处于不相邻的两帧所述分支血管内图像之间的其他血管内图像,按照预设采样规则,从所述其他血管内图像中选取采样血管内图像;
所述识别模块1820,还用于针对每一帧所述采样血管内图像,识别所述采样血管内图像的管腔中心,得到所述采样血管内图像中的管腔中心的位置信息;
所述识别模块1820,还用于将所述分支血管内图像中的管腔中心的位置信息和所述采样血管内图像中的管腔中心的位置信息确定为多个初始特征点在所述血管内图像序列中的第一坐标。
可选的,所述识别模块1820,用于针对所述分支血管内图像中连续的多个目标分支血管内图像,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标;
所述识别模块1820,用于根据所述建模函数和所述采样血管内图像中的管腔中心的位置信息,确定所述采样血管内图像中的管腔中心的三维空间坐标;
所述识别模块1820,用于将所述采样血管内图像中的管腔中心的三维空间坐标和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标确定为多个指定特征点在所述三维血管模型中的三维空间坐标。
可选的,所述确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标,包括:
针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息;
根据所述建模函数和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标;
或者,
根据所述建模函数和所述分支血管内图像中的管腔中心的位置信息,确定所述分支血管内图像中的管腔中心的三维空间坐标;
针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的三维空间坐标,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
可选的,所述识别模块1820,还用于获取所述造影图像的骨架图,并对所述骨架图进行血管树建模,得到血管树结构;其中,所述血管树结构用于表征所述造影图像的主血管段和分支血管段、以及所述主血管段和所述分支血管段上的分支点;
所述识别模块1820,还用于根据所述血管树结构,确定满足指定条件的目标分支血管段;其中,所述指定条件为所述分支血管段中一端与所述主血管段上的主分支点连接的分支血管段;
所述识别模块1820,还用于从所述目标分支血管段中识别出伪血管分支,并将所述伪血管分支所连接的主分支点确定为无效主分支点并将所述主血管段上所述无效主分支点之外的主分支点确定为有效分支点;
所述识别模块1820,还用于针对相邻的两个有效分支点,按照预设采样规则,从所述两个有效分支点之间的主血管段上选取采样点,进而将所述有效分支点和所述采样点在所述造影图像中的位置信息确定为所述多个指定特征点在所述造影图像中的二维空间坐标。
请继续参照图17,本申请还提供一种血管内图像和造影图像的融合设备,包括存储器、处理器及存储在所述存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现本申请第一方面任一项所述方法的步骤。
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程,在此不再赘述。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (9)
1.一种血管内图像和造影图像的融合方法,其特征在于,所述方法包括:
基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型;
基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息;
对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标;其中,所述造影图像和所述血管内图像序列为同一病理状态下的同一条冠脉的图像;
根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系;
根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息;
所述对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标,包括:
获取所述造影图像的骨架图,并对所述骨架图进行血管树建模,得到血管树结构;其中,所述血管树结构用于表征所述造影图像的主血管段和分支血管段、以及所述主血管段和所述分支血管段上的分支点;
根据所述血管树结构,确定满足指定条件的目标分支血管段;其中,所述指定条件为所述分支血管段中一端与所述主血管段上的主分支点连接的分支血管段;
从所述目标分支血管段中识别出伪血管分支,并将所述伪血管分支所连接的主分支点确定为无效主分支点;
将所述主血管段上所述无效主分支点之外的主分支点确定为有效分支点;
针对相邻的两个有效分支点,按照预设采样规则,从所述两个有效分支点之间的主血管段上选取采样点;
将所述有效分支点和所述采样点在所述造影图像中的位置信息确定为所述多个指定特征点在所述造影图像中的二维空间坐标。
2.根据权利要求1所述的方法,其特征在于,所述根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系,包括:
构建初始映射关系;其中,所述初始映射关系包含待求解的目标参数;
针对所述多个指定特征点中的每个指定特征点,将所述每个指定特征点在所述三维血管模型中的三维空间坐标、以及所述每个指定特征点在所述造影图像中的二维空间坐标进行配对,得到所述每个指定特征点的配对结果;
针对由所述多个指定特征点的配对结果中的三维空间坐标组成的第一矩阵,利用所述初始映射关系,确定所述第一矩阵在造影图像中的映射结果;
根据所述映射结果、以及由所述多个指定特征点的配对结果中的二维空间坐标组成的第二矩阵,利用预设损失函数,求解所述目标参数的最优解,得到求解结果;
将所述求解结果代入到所述初始映射关系中,得到所述三维血管模型到所述造影图像的映射关系。
3.根据权利要求2所述的方法,其特征在于,所述初始映射关系用映射函数组表征,所述映射函数组包含第一函数和第二函数;其中,
所述第一函数为:
,
其中,所述为至少一个三维空间坐标组成的已知矩阵,所述/>的维度为/>,所述n为所述至少一个三维空间坐标的数量;
所述为旋转矩阵,所述/>、所述/>、所述/>为所述旋转矩阵中待求解的参数;
所述为平移矩阵,所述/>、所述/>、所述/>为所述平移矩阵中待求解的参数;
所述Y为所述已知矩阵的投影结果,所述Y的维度为;
所述第二函数为:
,
其中,所述为所述已知矩阵在造影图像中的映射结果,其中,所述/>的维度为;所述/>为所述映射结果中第i行第1列的元素,/>为所述映射结果中第i行第2列的元素,所述/>为所述已知矩阵第i行第1列的元素,所述/>为所述已知矩阵第i行第2列的元素,所述/>为所述已知矩阵第i行第3列的元素;所述/>为所述三维血管模型中的真实物理距离到所述造影图像上的像素距离之间的换算常量,所述/>为已知的校正系数。
4.根据权利要求1所述的方法,其特征在于,所述基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标,包括:
对所述血管内图像序列进行特征点识别,识别出多个初始特征点在所述血管内图像序列中的第一坐标;
根据所述多个初始特征点在所述血管内图像序列中的第一坐标和所述建模函数,得到多个指定特征点在所述三维血管模型中的三维空间坐标。
5.根据权利要求4所述的方法,其特征在于,所述对所述血管内图像序列进行特征点识别,识别出多个初始特征点在所述血管内图像序列中的第一坐标,包括:
从所述血管内图像序列中识别出带有血管分支的分支血管内图像;
针对每一帧所述分支血管内图像,识别所述分支血管内图像的管腔中心,得到所述分支血管内图像中的管腔中心的位置信息;
针对处于不相邻的两帧所述分支血管内图像之间的其他血管内图像,按照预设采样规则,从所述其他血管内图像中选取采样血管内图像;
针对每一帧所述采样血管内图像,识别所述采样血管内图像的管腔中心,得到所述采样血管内图像中的管腔中心的位置信息;
将所述分支血管内图像中的管腔中心的位置信息和所述采样血管内图像中的管腔中心的位置信息确定为多个初始特征点在所述血管内图像序列中的第一坐标。
6.根据权利要求5所述的方法,其特征在于,所述根据所述多个初始特征点在所述血管内图像序列中的第一坐标和所述建模函数,得到多个指定特征点在所述三维血管模型中的三维空间坐标,包括:
针对所述分支血管内图像中连续的多个目标分支血管内图像,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标;
根据所述建模函数和所述采样血管内图像中的管腔中心的位置信息,确定所述采样血管内图像中的管腔中心的三维空间坐标;
将所述采样血管内图像中的管腔中心的三维空间坐标和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标确定为多个指定特征点在所述三维血管模型中的三维空间坐标。
7.根据权利要求6所述的方法,其特征在于,所述确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标,包括:
针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息;
根据所述建模函数和所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的位置信息,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标;
或者,
根据所述建模函数和所述分支血管内图像中的管腔中心的位置信息,确定所述分支血管内图像中的管腔中心的三维空间坐标;
针对所述分支血管内图像中连续的多个目标分支血管内图像,根据所述多个目标分支血管内图像中的管腔中心的三维空间坐标,确定所述多个目标分支血管内图像所描述的同一个血管分支的管腔中心的三维空间坐标。
8.一种血管内图像和造影图像的融合装置,其特征在于,所述装置包括建模模块、识别模块、处理模块和确定模块;其中,
所述建模模块,用于基于血管内图像序列重建三维血管模型,得到建模函数、以及所述血管内图像序列对应的三维血管模型;
所述识别模块,用于基于所述建模函数,识别多个指定特征点在所述三维血管模型中的三维空间坐标、以及病变部位在所述三维血管模型中的第一位置信息;
所述识别模块,还用于对造影图像进行特征点识别,识别所述多个指定特征点在所述造影图像中的二维空间坐标;其中,所述造影图像和所述血管内图像序列为同一病理状态下的同一条冠脉的图像;
所述处理模块,用于根据所述多个指定特征点在所述三维血管模型中的三维空间坐标、以及所述多个指定特征点在所述造影图像中的二维空间坐标,建立所述三维血管模型到所述造影图像的映射关系;
所述确定模块,用于根据所述第一位置信息和所述映射关系,确定所述病变部位在造影图像中的第二位置信息;
所述识别模块,还用于获取所述造影图像的骨架图,并对所述骨架图进行血管树建模,得到血管树结构;其中,所述血管树结构用于表征所述造影图像的主血管段和分支血管段、以及所述主血管段和所述分支血管段上的分支点;
所述识别模块,还用于根据所述血管树结构,确定满足指定条件的目标分支血管段;其中,所述指定条件为所述分支血管段中一端与所述主血管段上的主分支点连接的分支血管段;
所述识别模块,还用于从所述目标分支血管段中识别出伪血管分支,并将所述伪血管分支所连接的主分支点确定为无效主分支点并将所述主血管段上所述无效主分支点之外的主分支点确定为有效分支点;
所述识别模块,还用于针对相邻的两个有效分支点,按照预设采样规则,从所述两个有效分支点之间的主血管段上选取采样点,进而将所述有效分支点和所述采样点在所述造影图像中的位置信息确定为所述多个指定特征点在所述造影图像中的二维空间坐标。
9.一种血管内图像和造影图像的融合设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现权利要求1-7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410118997.4A CN117649350B (zh) | 2024-01-29 | 2024-01-29 | 一种血管内图像和造影图像的融合方法、装置和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410118997.4A CN117649350B (zh) | 2024-01-29 | 2024-01-29 | 一种血管内图像和造影图像的融合方法、装置和设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117649350A CN117649350A (zh) | 2024-03-05 |
CN117649350B true CN117649350B (zh) | 2024-05-03 |
Family
ID=90049896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410118997.4A Active CN117649350B (zh) | 2024-01-29 | 2024-01-29 | 一种血管内图像和造影图像的融合方法、装置和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117649350B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101301207A (zh) * | 2008-05-28 | 2008-11-12 | 华中科技大学 | 动态模型指导下的血管造影三维重建方法 |
CN111134651A (zh) * | 2019-12-09 | 2020-05-12 | 杭州脉流科技有限公司 | 基于腔内影像计算血流储备分数的方法、装置、系统以及计算机存储介质 |
CN111493830A (zh) * | 2020-04-24 | 2020-08-07 | 天津恒宇医疗科技有限公司 | 一种基于冠脉分叉病变的oct三维可视化系统及工作方法 |
CN111667447A (zh) * | 2020-06-05 | 2020-09-15 | 全景恒升(北京)科学技术有限公司 | 血管内图像融合方法、系统及图像采集装置 |
CN115511997A (zh) * | 2022-11-09 | 2022-12-23 | 上海联影智能医疗科技有限公司 | 一种血管造影图像处理方法和系统 |
CN116363030A (zh) * | 2023-02-17 | 2023-06-30 | 中国科学院自动化研究所 | 医学图像处理方法、装置、电子设备和存储介质 |
CN116649994A (zh) * | 2023-06-01 | 2023-08-29 | 首都医科大学附属北京安贞医院 | Cta与dsa图像智能融合方法、装置、设备及介质 |
-
2024
- 2024-01-29 CN CN202410118997.4A patent/CN117649350B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101301207A (zh) * | 2008-05-28 | 2008-11-12 | 华中科技大学 | 动态模型指导下的血管造影三维重建方法 |
CN111134651A (zh) * | 2019-12-09 | 2020-05-12 | 杭州脉流科技有限公司 | 基于腔内影像计算血流储备分数的方法、装置、系统以及计算机存储介质 |
CN111493830A (zh) * | 2020-04-24 | 2020-08-07 | 天津恒宇医疗科技有限公司 | 一种基于冠脉分叉病变的oct三维可视化系统及工作方法 |
CN111667447A (zh) * | 2020-06-05 | 2020-09-15 | 全景恒升(北京)科学技术有限公司 | 血管内图像融合方法、系统及图像采集装置 |
CN115511997A (zh) * | 2022-11-09 | 2022-12-23 | 上海联影智能医疗科技有限公司 | 一种血管造影图像处理方法和系统 |
CN116363030A (zh) * | 2023-02-17 | 2023-06-30 | 中国科学院自动化研究所 | 医学图像处理方法、装置、电子设备和存储介质 |
CN116649994A (zh) * | 2023-06-01 | 2023-08-29 | 首都医科大学附属北京安贞医院 | Cta与dsa图像智能融合方法、装置、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN117649350A (zh) | 2024-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3659114B1 (en) | Evaluating cardiac motion using an angiography image | |
JP6894896B2 (ja) | X線画像特徴検出および位置合わせのシステムおよび方法 | |
US11367186B2 (en) | Detection of metal stent struts | |
CN111161326B (zh) | 用于可变形图像配准的无监督深度学习的系统和方法 | |
US8126241B2 (en) | Method and apparatus for positioning a device in a tubular organ | |
JP5129480B2 (ja) | 管状臓器の3次元再構成を行うシステム及び血管撮像装置の作動方法 | |
JP6388632B2 (ja) | プロセッサ装置の作動方法 | |
US20060036167A1 (en) | Vascular image processing | |
EP3909016A1 (en) | Systems and methods for classification of arterial image regions and features thereof | |
JP2016507304A (ja) | 物体を検出及び追跡するとともに重ね合わせるシステム | |
JP2019513453A (ja) | 血管の分枝の識別 | |
JP2015515913A (ja) | 管腔の線形マッピングのための方法 | |
JP2006246941A (ja) | 画像処理装置及び管走行トラッキング方法 | |
US9357981B2 (en) | Ultrasound diagnostic device for extracting organ contour in target ultrasound image based on manually corrected contour image in manual correction target ultrasound image, and method for same | |
CN113066091A (zh) | 基于黑血管壁曲面重建的脑血管分割方法、装置及存储介质 | |
CN115359100A (zh) | 融合造影方法、腔内图像和造影图像的配准方法及装置 | |
CN117649350B (zh) | 一种血管内图像和造影图像的融合方法、装置和设备 | |
CN116664486A (zh) | 血管内外图像血管中心线两阶段配准方法和系统 | |
WO2008050316A2 (en) | Method and apparatus for positioning a therapeutic device in a tubular organ dilated by an auxiliary device balloon | |
US20240070855A1 (en) | Method and System of Calculating the Cross-section Area and Included Angle of Three-dimensional Blood Vessel Branch | |
Zarkh et al. | Guide wire navigation and therapeutic device localization for catheterization procedure | |
CN115147320A (zh) | 冠脉ct图像的减影方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |