CN117274506B - 一种导管下介入目标场景的三维重建方法及系统 - Google Patents

一种导管下介入目标场景的三维重建方法及系统 Download PDF

Info

Publication number
CN117274506B
CN117274506B CN202311543061.8A CN202311543061A CN117274506B CN 117274506 B CN117274506 B CN 117274506B CN 202311543061 A CN202311543061 A CN 202311543061A CN 117274506 B CN117274506 B CN 117274506B
Authority
CN
China
Prior art keywords
dimensional
scene
transient
intervention
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311543061.8A
Other languages
English (en)
Other versions
CN117274506A (zh
Inventor
吴林霞
郑传胜
陈磊
韩萍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tongji Medical College of Huazhong University of Science and Technology
Original Assignee
Tongji Medical College of Huazhong University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tongji Medical College of Huazhong University of Science and Technology filed Critical Tongji Medical College of Huazhong University of Science and Technology
Priority to CN202311543061.8A priority Critical patent/CN117274506B/zh
Publication of CN117274506A publication Critical patent/CN117274506A/zh
Application granted granted Critical
Publication of CN117274506B publication Critical patent/CN117274506B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • G06N3/0442Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]

Abstract

本发明涉及医学图像处理技术领域,具体涉及一种导管下介入目标场景的三维重建方法及系统,包括以下步骤:获取术前影像,通过影像三维重建,得到一组三维暂态场景;通过第一神经网络对一组三维暂态场景进行时序间动态规律性的深度学习,得到三维动态场景;再通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行深度学习,得到目标映射关系;在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处的三维目标场景。本发明实现在导管介入手术直接介入到达治疗位点,同时有效的在手术时规避血管脏器运动对病灶造成遮挡或与病灶接触所导致被手术热量波及造成血管脏器损伤。

Description

一种导管下介入目标场景的三维重建方法及系统
技术领域
本发明涉及医学图像处理技术领域,具体涉及一种导管下介入目标场景的三维重建方法及系统。
背景技术
导管介入式治疗是利用X线透视、CT定位、B型超声仪等医疗影像设备做导向,将特制的导管或器械经人体动脉、静脉、消化系统的自然管道、胆道或手术后的引流管道抵达体内病变区域,取得组织细胞、细菌或生化方面的资料,也可以进行造影摄片获得影像学资料。
现有技术中为了提高介入治疗的效果,通常对介入场景进行三维重建,但是三维重建介入场景忽略了病变区域周边的血管或重要器官的生理运动,利用在不具备周边的血管或重要器官的生理运动信息的三维场景中确定出的介入治疗位点,进行介入治疗手术时,会由于血管和器官的生理运动与介入治疗位点产生接触,甚至是覆盖在治疗位点上,使得介入治疗产生的热量会损伤周边的血管或重要器官,影响介入治疗效果,导致手术失败或并发症增加。
发明内容
本发明的目的在于提供一种导管下介入目标场景的三维重建方法,以解决现有技术中三维重建介入场景忽略了病变区域周边的血管或重要器官的生理运动,影响介入治疗效果的技术问题。
为解决上述技术问题,本发明具体提供下述技术方案:
一种导管下介入目标场景的三维重建方法,包括以下步骤:
获取位于一组连续时序中每个时序上的多组导管介入区域的术前影像,通过影像三维重建,得到一组具有每个时序上术前影像的暂态属性的三维暂态场景,所述暂态属性表示生理组织在单个时序上生理运动的暂态信息;
通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,所述动态属性表示生理组织在连续时序上生理运动的动态信息;
再通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,所述目标映射关系对应于三维暂态场景与三维暂态场景中的介入目标位点的映射关系,所述介入目标位点对应于导管下介入区域中对病灶进行介入操作的位点;
获取介入时间点,在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,所述介入时间点表示导管下介入区域中对病灶进行介入操作的时间点。
作为本发明的一种优选方案,所述三维暂态场景的构建,包括:
获取一组连续时序中每个时序处的多组导管介入区域的术前影像,并将每个时序处的多组术前影像进行影像三维重建,得到每个时序处的三维暂态影像;
每个时序处的三维暂态影像依时序排列,得到位于连续时序上的一组三维暂态场景;
其中,影像三维重建利用3D Slicer实现。
作为本发明的一种优选方案,所述通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,包括:
将一组三维暂态场景中位于前置时序处的三维暂态场景作为LSTM神经网络的输入项,将一组三维暂态场景中位于后置时序处的三维暂态场景作为LSTM神经网络的输出项;
利用LSTM神经网络对LSTM神经网络的输入项和LSTM神经网络的输出项进行学习训练,得到三维暂态场景预测网络;
利用三维暂态场景预测网络基于一组三维暂态场景在后置时序进行连续预测,得到三维暂态场景的预测序列;
将三维暂态场景的预测序列中的时序作为第一CNN神经网络的输入项,将三维暂态场景的预测序列中三维暂态场景作为第一CNN神经网络的输出项;
利用第一CNN神经网络对第一CNN神经网络的输入项和第一CNN神经网络的输出项进行学习训练,得到三维动态场景;
所述三维暂态场景预测网络的表达式为:
Sz_new=LSTM(Sz_old);
式中,Sz_new为后置时序处的三维暂态场景,Sz_old为前置时序处的三维暂态场景,LSTM为LSTM神经网络;
所述三维动态场景的表达式为:
Sz_T=CNN1(T);
式中,Sz_T为时序T处的三维暂态场景,T为时序,CNN1为第一CNN神经网络。
作为本发明的一种优选方案,所述再通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,包括:
在每个三维暂态场景中确定出介入目标位点;
将三维暂态场景作为第二CNN神经网络的输入项,将三维暂态场景中的介入目标位点作为第二CNN神经网络的输出项;
利用第二CNN神经网络对第二CNN神经网络的输入项和第二CNN神经网络的输出项进行学习训练,得到所述目标映射关系;
所述目标映射关系的表达式为:
P_T=CNN2(Sz_T);
式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN2为第二CNN神经网络。
作为本发明的一种优选方案,在三维暂态场景中确定出介入目标位点,包括:
在三维暂态场景中标记出病灶区域,以及具有生理运动的生理组织区域;
将介入目标位点与病灶区域的中心点的距离最短作为第一目标,所述第一目标的函数式为:
D1=min[dis(P_T,P_o)];
式中,D1为第一目标,min为最小化运算符,P_T为时序T处的三维暂态场景中的介入目标位点,P_o为病灶区域的中心点,dis(P_T,P_o)为介入目标位点与病灶区域的中心点的距离,dis为欧氏距离运算式;
将介入目标位点与生理组织区域的边界点距离最长作为第二目标,所述第二目标的函数式为: ;式中,D2为第二目标,max为最大化运算符,P_T为时序T处的三维暂态场景中的介入目标位点,P_line_i为生理组织区域的第i个边界点,m为生理组织区域的边界点总数量,dis(P_T, P_line_i)为介入目标位点与生理组织区域的边界点距离,dis为欧氏距离运算式;
以病灶区域为求解空间,在求解空间中获得第一目标和第二目标的最优解,并将最优解作为三维暂态场景中的介入目标位点。
作为本发明的一种优选方案,所述在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,包括:
将三维动态场景,带入至目标映射关系,得到三维目标场景,所述三维目标场景的表达式为:
P_T=CNN2(CNN1(T));
式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN1为第一CNN神经网络,CNN2为第二CNN神经网络;
将介入时间点,带入至三维目标场景,得到介入时间点处的三维目标场景。
作为本发明的一种优选方案,所述在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景包括:
将介入时间点输入值三维动态场景中,得到介入时间点处的三维暂态场景;
将介入时间点处的三维暂态场景,通过目标映射关系,得到介入时间点处的三维目标场景。
作为本发明的一种优选方案,对多组术前影像进行归一化处理。
作为本发明的一种优选方案,本发明提供了一种应用所述的一种导管下介入目标场景的三维重建方法的三维重建系统,包括:
数据获取单元,用于获取位于连续时序上多组术前影像;
三维重建单元,用于通过影像三维重建,得到位于连续时序上的一组三维暂态场景,所述三维暂态场景对应于导管下介入区域的三维虚拟场景在单个时序上的暂态属性,所述暂态属性对应于生理组织在单个时序上生理运动的暂态信息;
数据处理单元,用于获取位于一组连续时序中每个时序上的多组导管介入区域的术前影像,通过影像三维重建,得到一组具有每个时序上术前影像的暂态属性的三维暂态场景,所述暂态属性表示生理组织在单个时序上生理运动的暂态信息;以及
用于通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,所述动态属性表示生理组织在连续时序上生理运动的动态信息;
再通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,所述目标映射关系对应于三维暂态场景与三维暂态场景中的介入目标位点的映射关系,所述介入目标位点对应于导管下介入区域中对病灶进行介入操作的位点;
结果输出单元,用于在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,所述介入时间点对应于导管下介入区域中对病灶进行介入操作的时间点。
作为本发明的一种优选方案,所述数据处理单元通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,包括:
将一组三维暂态场景中位于前置时序处的三维暂态场景作为LSTM神经网络的输入项,将一组三维暂态场景中位于后置时序处的三维暂态场景作为LSTM神经网络的输出项;
利用LSTM神经网络对LSTM神经网络的输入项和LSTM神经网络的输出项进行学习训练,得到三维暂态场景预测网络;
利用三维暂态场景预测网络基于一组三维暂态场景在后置时序进行连续预测,得到三维暂态场景的预测序列;
将三维暂态场景的预测序列中的时序作为第一CNN神经网络的输入项,将三维暂态场景的预测序列中三维暂态场景作为第一CNN神经网络的输出项;
利用第一CNN神经网络对第一CNN神经网络的输入项和第一CNN神经网络的输出项进行学习训练,得到三维动态场景;
所述三维暂态场景预测网络的表达式为:
Sz_new=LSTM(Sz_old);
式中,Sz_new为后置时序处的三维暂态场景,Sz_old为前置时序处的三维暂态场景,LSTM为LSTM神经网络;
所述三维动态场景的表达式为:
Sz_T=CNN1(T);
式中,Sz_T为时序T处的三维暂态场景,T为时序,CNN1为第一CNN神经网络;
数据处理单元在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,包括:
将三维动态场景,带入至目标映射关系,得到三维目标场景,所述三维目标场景的表达式为:
P_T=CNN2(CNN1(T));
式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN1为第一CNN神经网络,CNN2为第二CNN神经网络;
将介入时间点,带入至三维目标场景,得到介入时间点处的三维目标场景。
本发明与现有技术相比较具有如下有益效果:
本发明基于术前CT图像进行三维重建手术场景,并通过构建的一系列介入手术区域场景,对病灶周边的血管脏器运动规律进行深度学习,实现将手术场景进行三维动态化,在掌握病灶周边的血管脏器运动规律下进行导管介入治疗位点进行确定,实现在导管介入手术直接介入到达治疗位点,同时有效的在手术时规避血管脏器运动对病灶造成遮挡或与病灶接触所导致被手术热量波及造成血管脏器损伤。
附图说明
为了更清楚地说明本发明的实施方式或现有技术中的技术方案,下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是示例性的,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图引伸获得其它的实施附图。
图1为本发明实施例提供的三维重建方法流程图;
图2为本发明实施例提供的三维重建系统框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明提供了一种导管下介入目标场景的三维重建方法,包括以下步骤:
获取位于一组连续时序中每个时序上的多组导管介入区域的术前影像,通过影像三维重建,得到一组具有每个时序上术前影像的暂态属性的三维暂态场景,暂态属性表示生理组织在单个时序上生理运动的暂态信息;
通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,动态属性表示生理组织在连续时序上生理运动的动态信息;
再通过第二神经网络对三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,目标映射关系对应于三维暂态场景与三维暂态场景中的介入目标位点的映射关系,介入目标位点对应于导管下介入区域中对病灶进行介入操作的位点;
获取介入时间点,在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,介入时间点表示导管下介入区域中对病灶进行介入操作的时间点。
本发明为了能够精准的还原导管介入手术场景,利用三维重建技术,对术前获取的手术场景的医学影像进行三维重建,得到还原导管介入手术场景的三维虚拟场景,三维可视化展示手术场景,可供介入治疗分析介入操作位点(即介入目标位点)所用。
本发明为了使得还原导管介入手术场景的三维虚拟场景确定出的介入目标位点,避开血管脏器(即具有生理运动的生理组织)运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤,在还原导管介入手术场景的三维虚拟场景中对导管介入手术场景中具有生理运动的生理组织进行动态属性三维重建,使得还原导管介入手术场景的三维虚拟场景从静态转化为动态,更符合导管介入手术场景的真实状态。
进一步的,本发明通过在各个单个时序上的构建还原导管介入手术场景的三维虚拟场景(即三维瞬态场景),此时的三维瞬态场景只能在单个时序上还原导管介入手术场景,以及重建时只获取了单个时序上的血管脏器运动信息,因此此时的三维瞬态场景中包含了单个时序上的血管脏器运动信息,单个时序上导管介入手术场景的三维重建是一种瞬态重建,是对具有生理运动的生理组织运动情况的瞬态展示,或称生理组织动态连续运动的瞬时定格。
多个时序上生理组织动态连续运动的瞬时定格的连续化解析,能够近似展示出生理组织动态连续运动的动态情况,或称生理组织的运动规律,因此本发明将多个单个时序上的三维瞬态场景进行时序连续性的深度学习,掌握出生理组织的运动规律,再将生理组织的运动规律结合进三维瞬态场景,使三维瞬态场景从单个时序上扩展到动态时序上,获得三维动态场景,能够掌握生理组织的运动规律,根据生理组织的运动规律进行介入目标位点的分析,达到在进行介入手术的时刻所进行手术介入治疗位点,避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤。
具体的,本发明通过多目标优化的方式,在还原导管介入手术场景的三维虚拟场景中,确定出避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤的介入目标位点,本发明将介入目标位点与病灶区域的中心点的距离最短作为第一目标,第一目标体现了介入目标位点能够精准达到病灶,介入定位的准确性,也是手术场景三维重建的最本质的目标,将介入目标位点与生理组织区域的边界点距离最长作为第二目标,第二目标则能够实现“避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤”的目标,将两个目标结合即能够实现介入定位的准确性,也能够避免生理组织运动对介入治疗的干扰,实现介入目标位点的最优化选取。
本发明构建三维动态场景能够使得导管介入手术场景的三维虚拟场景与病患体内的手术场景进行动态同步,即同步展示着病患的体内病灶区域、病灶区域周边的生理组织,以及生理组织的运动状态,将介入目标位点的最优化选取封装至神经网络中,与三维动态场景进行结合,能够在同步展示着病患的体内病灶区域、病灶区域周边的生理组织,以及生理组织的运动状态同时,根据生理组织的规律动态化调整最优介入目标位点,精准的在介入手术的时刻确定达到病灶的手术操作位点,并避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤。
本发明通过在各个单个时序上的构建还原导管介入手术场景的三维虚拟场景(即三维瞬态场景),具体如下:
三维暂态场景的构建,包括:
获取一组连续时序中每个时序处的多组导管介入区域的术前影像,并将每个时序处的多组术前影像进行影像三维重建,得到每个时序处的三维暂态影像;
每个时序处的三维暂态影像依时序排列,得到位于连续时序上的一组三维暂态场景;
其中,影像三维重建利用3D Slicer实现。
本发明通过在各个单个时序上的构建还原导管介入手术场景的三维虚拟场景(即三维瞬态场景),此时的三维瞬态场景只能在单个时序上还原导管介入手术场景,以及重建时只获取了单个时序上的血管脏器运动信息,因此此时的三维瞬态场景中包含了单个时序上的血管脏器运动信息,单个时序上导管介入手术场景的三维重建是一种瞬态重建,是对具有生理运动的生理组织运动情况的瞬态展示,或称生理组织动态连续运动的瞬时定格。
通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,包括:
将一组三维暂态场景中位于前置时序处的三维暂态场景作为LSTM神经网络的输入项,将一组三维暂态场景中位于后置时序处的三维暂态场景作为LSTM神经网络的输出项;
利用LSTM神经网络对LSTM神经网络的输入项和LSTM神经网络的输出项进行学习训练,得到三维暂态场景预测网络;
利用三维暂态场景预测网络基于一组三维暂态场景在后置时序进行连续预测,得到三维暂态场景的预测序列;
将三维暂态场景的预测序列中的时序作为第一CNN神经网络的输入项,将三维暂态场景的预测序列中三维暂态场景作为第一CNN神经网络的输出项;
利用第一CNN神经网络对第一CNN神经网络的输入项和第一CNN神经网络的输出项进行学习训练,得到三维动态场景;
三维暂态场景预测网络的表达式为:
Sz_new=LSTM(Sz_old);
式中,Sz_new为后置时序处的三维暂态场景,Sz_old为前置时序处的三维暂态场景,LSTM为LSTM神经网络;
三维动态场景的表达式为:
Sz_T=CNN1(T);
式中,Sz_T为时序T处的三维暂态场景,T为时序,CNN1为第一CNN神经网络。
多个时序上生理组织动态连续运动的瞬时定格的连续化解析,能够近似展示出生理组织动态连续运动的动态情况,或称生理组织的运动规律,因此本发明将多个单个时序上的三维瞬态场景进行时序连续性的深度学习,掌握出生理组织的运动规律,再将生理组织的运动规律结合进三维瞬态场景,使三维瞬态场景从单个时序上扩展到动态时序上,获得三维动态场景,能够掌握生理组织的运动规律,根据生理组织的运动规律进行介入目标位点的分析,达到在进行介入手术的时刻所进行手术介入治疗位点,避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤。
再通过第二神经网络对三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,包括:
在每个三维暂态场景中确定出介入目标位点;
将三维暂态场景作为第二CNN神经网络的输入项,将三维暂态场景中的介入目标位点作为第二CNN神经网络的输出项;
利用第二CNN神经网络对第二CNN神经网络的输入项和第二CNN神经网络的输出项进行学习训练,得到目标映射关系;
目标映射关系的表达式为:
P_T=CNN2(Sz_T);
式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN2为第二CNN神经网络。
在三维暂态场景中确定出介入目标位点,包括:
在三维暂态场景中标记出病灶区域,以及具有生理运动的生理组织区域;
将介入目标位点与病灶区域的中心点的距离最短作为第一目标,第一目标的函数式为:
D1=min[dis(P_T,P_o)];
式中,D1为第一目标,min为最小化运算符,P_T为时序T处的三维暂态场景中的介入目标位点,P_o为病灶区域的中心点,dis(P_T,P_o)为介入目标位点与病灶区域的中心点的距离,dis为欧氏距离运算式;
将介入目标位点与生理组织区域的边界点距离最长作为第二目标,第二目标的函数式为:
式中,D2为第二目标,max为最大化运算符,P_T为时序T处的三维暂态场景中的介入目标位点,P_line_i为生理组织区域的第i个边界点,m为生理组织区域的边界点总数量,dis(P_T, P_line_i)为介入目标位点与生理组织区域的边界点距离,dis为欧氏距离运算式;
以病灶区域为求解空间,在求解空间中获得第一目标和第二目标的最优解,并将最优解作为三维暂态场景中的介入目标位点。
本发明通过多目标优化的方式,在还原导管介入手术场景的三维虚拟场景中,确定出避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤的介入目标位点,本发明将介入目标位点与病灶区域的中心点的距离最短作为第一目标,第一目标体现了介入目标位点能够精准达到病灶,介入定位的准确性,也是手术场景三维重建的最本质的目标,将介入目标位点与生理组织区域的边界点距离最长作为第二目标,第二目标则能够实现“避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤”的目标,将两个目标结合即能够实现介入定位的准确性,也能够避免生理组织运动对介入治疗的干扰,实现介入目标位点的最优化选取。
在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,包括:
将三维动态场景,带入至目标映射关系,得到三维目标场景,三维目标场景的表达式为:
P_T=CNN2(CNN1(T));
式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN1为第一CNN神经网络,CNN2为第二CNN神经网络;
将介入时间点,带入至三维目标场景,得到介入时间点处的三维目标场景。
获取介入时间点,根据介入时间点,以及三维动态场景,通过目标映射关系,得到介入时间点处的三维目标场景,包括:
将介入时间点输入值三维动态场景中,得到介入时间点处的三维暂态场景;
将介入时间点处的三维暂态场景,通过目标映射关系,得到介入时间点处的三维目标场景。
本发明采用了两种方式确定出介入时间点处的三维目标场景,第一种是直接将目标映射关系融合至三维动态场景中,获得能够展示介入目标位点的三维动态场景,无需再进行单个时序的三维暂态场景计算,若不需要计算任一时序处的三维暂态场景可选择此方法,第二种则是先将动态化切割为静态化场景,然后根据静态化场景计算出介入时间点处的三维目标场景,若需要计算任一时序处的三维暂态场景可选择此方法,使用者可根据现实需要进行选择使用哪种。
本发明构建三维动态场景能够使得导管介入手术场景的三维虚拟场景与病患体内的手术场景进行动态同步,即同步展示着病患的体内病灶区域、病灶区域周边的生理组织,以及生理组织的运动状态,将介入目标位点的最优化选取封装至神经网络中,与三维动态场景进行结合,能够在同步展示着病患的体内病灶区域、病灶区域周边的生理组织,以及生理组织的运动状态同时,根据生理组织的规律动态化调整最优介入目标位点,精准的在介入手术的时刻确定达到病灶的手术操作位点,并避开血管脏器运动对手术干扰,以及避免血管脏器运动误触手术位点接触手术热量对血管脏器造成损伤。
对多组术前影像进行归一化处理。
如图2所示,本发明提供了一种应用的一种导管下介入目标场景的三维重建方法的三维重建系统,包括:
数据获取单元,包括X线透视仪、CT扫描仪、B型超声仪,用于获取位于连续时序上多组术前影像;
三维重建单元,用于通过影像三维重建,得到位于连续时序上的一组三维暂态场景,三维暂态场景对应于导管下介入区域的三维虚拟场景在单个时序上的暂态属性,暂态属性对应于生理组织在单个时序上生理运动的暂态信息;
数据处理单元,用于根据一组三维暂态场景,通过第一神经网络的深度学习,得到三维动态场景,三维动态场景对应于导管下介入区域的三维虚拟场景在连续时序上的动态属性,动态属性对应于生理组织在连续时序上生理运动的动态信息;以及
用于根据一组三维暂态场景,通过第二神经网络的深度学习,得到目标映射关系,目标映射关系对应于三维暂态场景与三维暂态场景中的介入目标位点的映射关系,介入目标位点对应于导管下介入区域中对病灶进行介入操作的位点;
结果输出单元,获取介入时间点,根据介入时间点,以及三维动态场景,通过目标映射关系,得到介入时间点处的三维目标场景,三维目标场景为显示了介入目标位点的导管下介入区域的三维虚拟场景,介入时间点对应于导管下介入区域中对病灶进行介入操作的时间点。
数据处理单元根据一组三维暂态场景,通过第一神经网络的深度学习,得到三维动态场景,包括:
将一组三维暂态场景中位于前置时序处的三维暂态场景作为LSTM神经网络的输入项,将一组三维暂态场景中位于后置时序处的三维暂态场景作为LSTM神经网络的输出项;
利用LSTM神经网络对LSTM神经网络的输入项和LSTM神经网络的输出项进行学习训练,得到三维暂态场景预测网络;
利用三维暂态场景预测网络基于一组三维暂态场景在后置时序进行连续预测,得到三维暂态场景的预测序列;
将三维暂态场景的预测序列中的时序作为第一CNN神经网络的输入项,将三维暂态场景的预测序列中三维暂态场景作为第一CNN神经网络的输出项;
利用第一CNN神经网络对第一CNN神经网络的输入项和第一CNN神经网络的输出项进行学习训练,得到三维动态场景;
三维暂态场景预测网络的表达式为:
Sz_new=LSTM(Sz_old);
式中,Sz_new为后置时序处的三维暂态场景,Sz_old为前置时序处的三维暂态场景,LSTM为LSTM神经网络;
三维动态场景的表达式为:
Sz_T=CNN1(T);
式中,Sz_T为时序T处的三维暂态场景,T为时序,CNN1为第一CNN神经网络;
数据处理单元根据一组三维暂态场景,通过第二神经网络的深度学习,得到目标映射关系,包括:
在每个三维暂态场景中确定出介入目标位点;
将三维暂态场景作为第二CNN神经网络的输入项,将三维暂态场景中的介入目标位点作为第二CNN神经网络的输出项;
利用第二CNN神经网络对第二CNN神经网络的输入项和第二CNN神经网络的输出项进行学习训练,得到目标映射关系;
目标映射关系的表达式为:
P_T=CNN2(Sz_T);
式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN2为第二CNN神经网络。
本发明基于术前CT图像进行三维重建手术场景,并通过构建的一系列介入手术区域场景,对病灶周边的血管脏器运动规律进行深度学习,实现将手术场景进行三维动态化,在掌握病灶周边的血管脏器运动规律下进行导管介入治疗位点进行确定,实现在导管介入手术直接介入到达治疗位点,同时有效的在手术时规避血管脏器运动对病灶造成遮挡或与病灶接触所导致被手术热量波及造成血管脏器损伤。
以上实施例仅为本申请的示例性实施例,不用于限制本申请,本申请的保护范围由权利要求书限定。本领域技术人员可以在本申请的实质和保护范围内,对本申请做出各种修改或等同替换,这种修改或等同替换也应视为落在本申请的保护范围内。

Claims (8)

1.一种导管下介入目标场景的三维重建方法,其特征在于:包括以下步骤:
获取位于一组连续时序中每个时序上的多组导管介入区域的术前影像,通过影像三维重建,得到一组具有每个时序上术前影像的暂态属性的三维暂态场景,所述暂态属性表示生理组织在单个时序上生理运动的暂态信息;
通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,所述动态属性表示生理组织在连续时序上生理运动的动态信息;
再通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,所述目标映射关系对应于三维暂态场景与三维暂态场景中的介入目标位点的映射关系,所述介入目标位点对应于导管下介入区域中对病灶进行介入操作的位点;
获取介入时间点,在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,所述介入时间点表示导管下介入区域中对病灶进行介入操作的时间点;
通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,包括:
将一组三维暂态场景中位于前置时序处的三维暂态场景作为LSTM神经网络的输入项,将一组三维暂态场景中位于后置时序处的三维暂态场景作为LSTM神经网络的输出项;
利用LSTM神经网络对LSTM神经网络的输入项和LSTM神经网络的输出项进行学习训练,得到三维暂态场景预测网络;
利用三维暂态场景预测网络基于一组三维暂态场景在后置时序进行连续预测,得到三维暂态场景的预测序列;
将三维暂态场景的预测序列中的时序作为第一CNN神经网络的输入项,将三维暂态场景的预测序列中三维暂态场景作为第一CNN神经网络的输出项;
利用第一CNN神经网络对第一CNN神经网络的输入项和第一CNN神经网络的输出项进行学习训练,得到三维动态场景;
三维暂态场景预测网络的表达式为:
Sz_new=LSTM(Sz_old);式中,Sz_new为后置时序处的三维暂态场景,Sz_old为前置时序处的三维暂态场景,LSTM为LSTM神经网络;
三维动态场景的表达式为:
Sz_T=CNN1(T);式中,Sz_T为时序T处的三维暂态场景,T为时序,CNN1为第一CNN神经网络。
2.根据权利要求1所述的一种导管下介入目标场景的三维重建方法,其特征在于:所述三维暂态场景的构建,包括:
获取一组连续时序中每个时序处的多组导管介入区域的术前影像,并将每个时序处的多组术前影像进行影像三维重建,得到每个时序处的三维暂态影像;
每个时序处的三维暂态影像依时序排列,得到位于连续时序上的一组三维暂态场景;
其中,影像三维重建利用3D Slicer实现。
3.根据权利要求2所述的一种导管下介入目标场景的三维重建方法,其特征在于:通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,包括:
在每个三维暂态场景中确定出介入目标位点;
将三维暂态场景作为第二CNN神经网络的输入项,将三维暂态场景中的介入目标位点作为第二CNN神经网络的输出项;
利用第二CNN神经网络对第二CNN神经网络的输入项和第二CNN神经网络的输出项进行学习训练,得到所述目标映射关系;
所述目标映射关系的表达式为:
P_T=CNN2(Sz_T);式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN2为第二CNN神经网络。
4.根据权利要求3所述的一种导管下介入目标场景的三维重建方法,其特征在于:在三维暂态场景中确定出介入目标位点,包括:
在三维暂态场景中标记出病灶区域,以及具有生理运动的生理组织区域;
将介入目标位点与病灶区域的中心点的距离最短作为第一目标,所述第一目标的函数式为:D1=min[dis(P_T,P_o)];式中,D1为第一目标,min为最小化运算符,P_T为时序T处的三维暂态场景中的介入目标位点,P_o为病灶区域的中心点,dis(P_T,P_o)为介入目标位点与病灶区域的中心点的距离,dis为欧氏距离运算式;
将介入目标位点与生理组织区域的边界点距离最长作为第二目标,所述第二目标的函数式为:;式中,D2为第二目标,max为最大化运算符,P_T为时序T处的三维暂态场景中的介入目标位点,P_line_i为生理组织区域的第i个边界点,m为生理组织区域的边界点总数量,dis(P_T, P_line_i)为介入目标位点与生理组织区域的边界点距离,dis为欧氏距离运算式;
以病灶区域为求解空间,在求解空间中获得第一目标和第二目标的最优解,并将所述最优解作为三维暂态场景中的介入目标位点。
5.根据权利要求4所述的一种导管下介入目标场景的三维重建方法,其特征在于:在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,包括:
将三维动态场景,带入至目标映射关系,得到三维目标场景,所述三维目标场景的表达式为:P_T=CNN2(CNN1(T));式中,P_T为时序T处的三维暂态场景中的介入目标位点,T为时序,CNN1为第一CNN神经网络,CNN2为第二CNN神经网络;
将介入时间点,带入至三维目标场景,得到介入时间点处的三维目标场景。
6.根据权利要求4所述的一种导管下介入目标场景的三维重建方法,其特征在于:在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景包括:
将介入时间点输入值三维动态场景中,得到介入时间点处的三维暂态场景;
将介入时间点处的三维暂态场景,通过目标映射关系,得到介入时间点处的三维目标场景。
7.根据权利要求1所述的一种导管下介入目标场景的三维重建方法,其特征在于:对多组术前影像进行归一化处理。
8.一种应用权利要求1-7任一项所述的一种导管下介入目标场景的三维重建方法的三维重建系统,其特征在于,包括:
数据获取单元,用于获取位于连续时序上多组术前影像;
三维重建单元,用于通过影像三维重建,得到位于连续时序上的一组三维暂态场景,所述三维暂态场景对应于导管下介入区域的三维虚拟场景在单个时序上的暂态属性,所述暂态属性对应于生理组织在单个时序上生理运动的暂态信息;
数据处理单元,用于获取位于一组连续时序中每个时序上的多组导管介入区域的术前影像,通过影像三维重建,得到一组具有每个时序上术前影像的暂态属性的三维暂态场景,所述暂态属性表示生理组织在单个时序上生理运动的暂态信息;
用于通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,所述动态属性表示生理组织在连续时序上生理运动的动态信息;以及用于再通过第二神经网络对所述三维暂态场景的暂态属性与介入目标位点进行映射关系的深度学习,得到三维暂态场景与三维暂态场景中的介入目标位点的目标映射关系,所述目标映射关系对应于三维暂态场景与三维暂态场景中的介入目标位点的映射关系,所述介入目标位点对应于导管下介入区域中对病灶进行介入操作的位点;
结果输出单元,用于在介入时间点处通过目标映射关系以及三维动态场景,得到介入时间点处显示了介入目标位点的导管下介入区域的三维目标场景,所述介入时间点对应于导管下介入区域中对病灶进行介入操作的时间点;
通过第一神经网络对一组三维暂态场景的所有暂态属性进行时序间动态规律性的深度学习,得到具有连续时序上术前影像的动态属性的三维动态场景,包括:
将一组三维暂态场景中位于前置时序处的三维暂态场景作为LSTM神经网络的输入项,将一组三维暂态场景中位于后置时序处的三维暂态场景作为LSTM神经网络的输出项;
利用LSTM神经网络对LSTM神经网络的输入项和LSTM神经网络的输出项进行学习训练,得到三维暂态场景预测网络;
利用三维暂态场景预测网络基于一组三维暂态场景在后置时序进行连续预测,得到三维暂态场景的预测序列;
将三维暂态场景的预测序列中的时序作为第一CNN神经网络的输入项,将三维暂态场景的预测序列中三维暂态场景作为第一CNN神经网络的输出项;
利用第一CNN神经网络对第一CNN神经网络的输入项和第一CNN神经网络的输出项进行学习训练,得到三维动态场景;
三维暂态场景预测网络的表达式为:
Sz_new=LSTM(Sz_old);
式中,Sz_new为后置时序处的三维暂态场景,Sz_old为前置时序处的三维暂态场景,LSTM为LSTM神经网络;
三维动态场景的表达式为:
Sz_T=CNN1(T);
式中,Sz_T为时序T处的三维暂态场景,T为时序,CNN1为第一CNN神经网络。
CN202311543061.8A 2023-11-20 2023-11-20 一种导管下介入目标场景的三维重建方法及系统 Active CN117274506B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311543061.8A CN117274506B (zh) 2023-11-20 2023-11-20 一种导管下介入目标场景的三维重建方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311543061.8A CN117274506B (zh) 2023-11-20 2023-11-20 一种导管下介入目标场景的三维重建方法及系统

Publications (2)

Publication Number Publication Date
CN117274506A CN117274506A (zh) 2023-12-22
CN117274506B true CN117274506B (zh) 2024-02-02

Family

ID=89210822

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311543061.8A Active CN117274506B (zh) 2023-11-20 2023-11-20 一种导管下介入目标场景的三维重建方法及系统

Country Status (1)

Country Link
CN (1) CN117274506B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102196768A (zh) * 2008-10-23 2011-09-21 皇家飞利浦电子股份有限公司 用于介入射频消融或起搏器放置过程中的虚拟解剖结构丰富的实时2d成像的心脏和/或呼吸门控图像采集系统及方法
CN102949240A (zh) * 2011-08-26 2013-03-06 高欣 一种影像导航肺部介入手术系统
CN208573801U (zh) * 2018-01-11 2019-03-05 上海联影医疗科技有限公司 手术机器人系统
CN112509115A (zh) * 2020-11-26 2021-03-16 中国人民解放军战略支援部队信息工程大学 序列图像动态场景三维时变无约束重建方法及系统
CN112641514A (zh) * 2020-12-17 2021-04-13 罗雄彪 一种微创介入导航系统与方法
CN112885436A (zh) * 2021-02-25 2021-06-01 刘春煦 一种基于增强现实三维成像的牙科手术实时辅助系统
CN113616333A (zh) * 2021-09-13 2021-11-09 上海微创医疗机器人(集团)股份有限公司 导管运动辅助方法、导管运动辅助系统及可读存储介质
CN114948199A (zh) * 2022-05-17 2022-08-30 天津大学 一种外科手术辅助系统及手术路径规划方法
CN115601454A (zh) * 2022-09-15 2023-01-13 华中科技大学同济医学院附属协和医院(Cn) 一种用于胸部断层扫描放射影像的无损压缩方法
CN116570370A (zh) * 2023-04-24 2023-08-11 中山大学附属第五医院 一种脊柱针刀穿刺导航系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111544113A (zh) * 2020-04-03 2020-08-18 艾瑞迈迪医疗科技(北京)有限公司 手术导航中的靶点跟踪及距离动态图形化显示方法及装置
CN111529063B (zh) * 2020-05-26 2022-06-17 广州狄卡视觉科技有限公司 基于三维重建的多模态融合的手术导航系统及方法
CN112155727A (zh) * 2020-08-31 2021-01-01 上海市第一人民医院 基于三维模型的手术导航系统、方法、设备和介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102196768A (zh) * 2008-10-23 2011-09-21 皇家飞利浦电子股份有限公司 用于介入射频消融或起搏器放置过程中的虚拟解剖结构丰富的实时2d成像的心脏和/或呼吸门控图像采集系统及方法
CN102949240A (zh) * 2011-08-26 2013-03-06 高欣 一种影像导航肺部介入手术系统
CN208573801U (zh) * 2018-01-11 2019-03-05 上海联影医疗科技有限公司 手术机器人系统
CN112509115A (zh) * 2020-11-26 2021-03-16 中国人民解放军战略支援部队信息工程大学 序列图像动态场景三维时变无约束重建方法及系统
CN112641514A (zh) * 2020-12-17 2021-04-13 罗雄彪 一种微创介入导航系统与方法
CN112885436A (zh) * 2021-02-25 2021-06-01 刘春煦 一种基于增强现实三维成像的牙科手术实时辅助系统
CN113616333A (zh) * 2021-09-13 2021-11-09 上海微创医疗机器人(集团)股份有限公司 导管运动辅助方法、导管运动辅助系统及可读存储介质
CN114948199A (zh) * 2022-05-17 2022-08-30 天津大学 一种外科手术辅助系统及手术路径规划方法
CN115601454A (zh) * 2022-09-15 2023-01-13 华中科技大学同济医学院附属协和医院(Cn) 一种用于胸部断层扫描放射影像的无损压缩方法
CN116570370A (zh) * 2023-04-24 2023-08-11 中山大学附属第五医院 一种脊柱针刀穿刺导航系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
WangDong.Bladder tumors:dynamic contrast-enhanced axial imaging,multiplanar reformation,three-dimensional reconstruction and virtual cystoscopy using helical CT.Chinese Medical Journal.2004,第62-66页. *
听骨链螺旋CT三维表面遮盖显示技术的临床应用;徐向阳;临床放射学杂志;第670-673页 *
支气管镜术导管介入运动特性及数值模拟研究;刘贺军;中国优秀硕士论文电子期刊网;第C030-51页 *

Also Published As

Publication number Publication date
CN117274506A (zh) 2023-12-22

Similar Documents

Publication Publication Date Title
KR100971417B1 (ko) 초음파 영상과 외부 의료영상의 합성 영상 상에 의료용바늘을 디스플레이하기 위한 초음파 시스템
JP4965042B2 (ja) 医療画像をリアルタイムに描画する方法
US8126239B2 (en) Registering 2D and 3D data using 3D ultrasound data
US8195271B2 (en) Method and system for performing ablation to treat ventricular tachycardia
CA2438089C (en) Medical imaging and navigation system
US20100022874A1 (en) Image Guided Navigation System and Method Thereof
US20030220555A1 (en) Method and apparatus for image presentation of a medical instrument introduced into an examination region of a patent
JP2007307372A (ja) 超音波映像と外部医療映像の合成映像をディスプレイするための超音波システム
JP2015503416A (ja) 最適なデバイスナビゲーションのための血管系ビューのリアルタイム表示
US20220051401A1 (en) Providing a scene with synthetic contrast
CN113796960B (zh) 导管导航装置、设备和存储介质
CN112150543A (zh) 医疗成像设备的成像定位方法、装置、设备及存储介质
CN112955073A (zh) 患者观察系统
CN111513739B (zh) 血管造影机的控制方法及装置、电子设备、存储介质
CN117274506B (zh) 一种导管下介入目标场景的三维重建方法及系统
CN116570370A (zh) 一种脊柱针刀穿刺导航系统
CN115300809A (zh) 图像处理方法及装置、计算机设备和存储介质
US11910995B2 (en) Instrument navigation in endoscopic surgery during obscured vision
KR20230165284A (ko) 진단 또는 중재 이용을 위해 전자 의료 이미지들을 처리하기 위한 시스템들 및 방법들
JP2023523561A (ja) ビデオにおけるコンピュータ支援の標識または基準配置のシステムおよび方法
WO2008146273A1 (en) Method for imaging during invasive procedures performed on organs and tissues moving in a rhythmic fashion
JP7421548B2 (ja) 診断支援装置及び診断支援システム
JP7379473B2 (ja) 診断支援装置及び診断支援方法
US20230031396A1 (en) Apparatus and method for matching the real surgical image with the 3d-based virtual simulated surgical image based on poi definition and phase recognition
CN115089294B (zh) 介入手术导航的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant