CN104434313B - 一种腹部外科手术导航方法及系统 - Google Patents
一种腹部外科手术导航方法及系统 Download PDFInfo
- Publication number
- CN104434313B CN104434313B CN201310436801.8A CN201310436801A CN104434313B CN 104434313 B CN104434313 B CN 104434313B CN 201310436801 A CN201310436801 A CN 201310436801A CN 104434313 B CN104434313 B CN 104434313B
- Authority
- CN
- China
- Prior art keywords
- image
- coordinate
- spatial
- space
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 97
- 238000012084 abdominal surgery Methods 0.000 title claims abstract description 38
- 230000008569 process Effects 0.000 claims abstract description 54
- 239000003550 marker Substances 0.000 claims abstract description 51
- 230000009466 transformation Effects 0.000 claims abstract description 51
- 230000003187 abdominal effect Effects 0.000 claims abstract description 42
- 238000006243 chemical reaction Methods 0.000 claims description 16
- 230000004807 localization Effects 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 2
- 238000004891 communication Methods 0.000 abstract description 2
- 230000029058 respiratory gaseous exchange Effects 0.000 description 9
- 210000004872 soft tissue Anatomy 0.000 description 6
- 238000001356 surgical procedure Methods 0.000 description 6
- 230000001131 transforming effect Effects 0.000 description 5
- 210000001835 viscera Anatomy 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 210000001015 abdomen Anatomy 0.000 description 3
- 238000005259 measurement Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods, e.g. tourniquets
- A61B2017/00743—Type of operation; Specification of treatment sites
Landscapes
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明适用于通信领域,提供了一种腹部外科手术导航方法,包括:对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息;术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像;借助深度图像将二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;将得到的术前图像空间的标记点点集和术中物理空间的标记点点集做点对匹配运算;应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。本发明还提供了一种腹部外科手术导航系统。本发明所提供的腹部外科手术导航方法及系统能提高腹部手术导航精度与腹部手术的安全性。
Description
技术领域
本发明涉及通信领域,尤其涉及一种腹部外科手术导航方法及系统。
背景技术
传统的基于标记点的外科手术导航系统在术前和术中标记点的选取时需要人工干预,所选取的标记点具有很强的主观性与不稳定性,不同的操作者所选取的结果不尽相同,同一操作者在不同时刻所得的结果也不尽一致,人工干预也可能导致标记点选取的潜在错误,这些对最终的注册结果影响非常显著,并直接影响到导航的精度。假如外科医生对注册结果不满意,需要重新注册时,术前和术中所有的标记点需要重新选取,即注册过程没有可回溯性与重复性。另一方面,如果在手术过程中,病人手术区域发生移动或者变形时,在这之前的注册结果就会失效,导航系统要正确定位则需重新注册,整个手术导航过程繁琐、耗时,不利于手术导航的正常进行。此外,在腹部手术的导航过程中,人体腹部的腹式呼吸运动导致粘贴于腹部表面的标记点并非静止不动,标记点的位置会随着腹部的运动而变化。
因此,亟需设计一种全新的腹部外科手术导航方法及系统,从而可以提高腹部手术导航精度以及腹部手术的安全性。
发明内容
有鉴于此,本发明实施例的目的在于提供一种腹部外科手术导航方法及系统,旨在解决现有技术中基于标记点的腹部外科手术导航方法及系统的精准度不够的问题。
本发明实施例是这样实现的,一种腹部外科手术导航方法,包括:
对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息;
术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息;
借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;
将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程;
应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。
优选的,在所述对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息的步骤之前,所述方法还包括:
在病人待手术区域的腹部体表上贴上多个标记点后,对病人进行CT或MR扫描以采集带标记点信息的CT或MR图像。
优选的,所述第一预设算法具体为结合区域生长算法及高斯曲率对术前采集的带标记点信息的CT或MR图像作标记点自动提取,得到术前图像空间的标记点点集信息。
优选的,所述第二预设算法具体为术中采用深度相机获取手术区域的RGB图像以及深度图像,根据标记点在RGB三个分量上的值的比率获取RGB图像的二维标记点坐标信息,借助深度图像,可将二维标记点坐标信息转化为三维坐标,得到术中物理空间的标记点点集信息。
优选的,所述影像获取设备具体为深度相机。
优选的,所述RGB图像的二维标记点坐标信息具体位于所述影像获取设备坐标系下,其中,在所述术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息的步骤之后,所述方法还包括:
将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下。
优选的,所述将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下的步骤具体包括:
将所述影像获取设备坐标系下的所述二维标记点的坐标PToF_i通过以下公式变换到空间定位系统下:
PTracker_i=TToF2Tracker·PToF_i;
其中,所述影像获取设备坐标系下的所述二维标记点的坐标记为PToF_i,空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换记为TToF2Tracker,变换后的所述空间定位系统坐标系下的坐标点记为PTracker_i。
优选的,获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker的步骤具体包括:
在所述影像获取设备固定一个可以被所述空间定位系统识别的参考帧工具;
通过以下公式获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker,即TToF2Tracker=TToF2Ref·TRef2Tracker;
其中,通过所述空间定位系统实时捕获所述参考帧工具的空间位置信息记为TRef2Tracker,所述影像获取设备与所述参考帧工具之间的相对位置信息记为TToF2Ref。
优选的,所述应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程的步骤具体包括:
通过以下公式:PI=T·PT,将手术器械的空间坐标从所述空间定位系统的物理空间变换到图像空间;
其中,所述空间定位系统的手术器械的空间坐标是相对于所述空间定位系统本身的,记为PT,手术器械在变换后的所述图像空间的虚拟位置记为PI,所述空间定位系统坐标系与所述图像空间坐标系之间的空间变换记为T。
另一方面,本发明还提供一种腹部外科手术导航系统,所述系统包括:
点集获取模块,用于对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息;
坐标获取模块,用于术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息;
坐标转换模块,用于借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;
注册模块,用于将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程;
导航模块,用于应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。
优选的,所述系统还包括:
扫描模块,用于在病人待手术区域的腹部体表上贴上多个标记点后,对病人进行CT或MR扫描以采集带标记点信息的CT或MR图像。
优选的,所述第一预设算法具体为结合区域生长算法及高斯曲率对术前采集的带标记点信息的CT或MR图像作标记点自动提取,得到术前图像空间的标记点点集信息。
优选的,所述第二预设算法具体为术中采用深度相机获取手术区域的RGB图像以及深度图像,根据标记点在RGB三个分量上的值的比率获取RGB图像的二维标记点坐标信息,借助深度图像,可将二维标记点坐标信息转化为三维坐标,得到术中物理空间的标记点点集信息。
优选的,所述影像获取设备具体为深度相机。
优选的,所述坐标转换模块,还用于将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下。
优选的,所述坐标转换模块,还具体用于将所述影像获取设备坐标系下的所述二维标记点的坐标PToF_i通过以下公式变换到空间定位系统下:
PTracker_i=TToF2Tracker·PToF_i;
其中,所述影像获取设备坐标系下的所述二维标记点的坐标记为PToF_i,空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换记为TToF2Tracker,变换后的所述空间定位系统坐标系下的坐标点记为PTracker_i。
优选的,所述坐标转换模块,还具体用于在所述影像获取设备固定一个可以被所述空间定位系统识别的参考帧工具,并通过以下公式获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker,即TToF2Tracker=TToF2Ref·TRef2Tracker;
其中,通过所述空间定位系统实时捕获所述参考帧工具的空间位置信息记为TRef2Tracker,所述影像获取设备与所述参考帧工具之间的相对位置信息记为TToF2Ref。
优选的,所述导航模块,具体用于通过以下公式:PI=T·PT,将手术器械的空间坐标从所述空间定位系统的物理空间变换到图像空间;
其中,所述空间定位系统的手术器械的空间坐标是相对于所述空间定位系统本身的,记为PT,手术器械在变换后的所述图像空间的虚拟位置记为PI,所述空间定位系统坐标系与所述图像空间坐标系之间的空间变换记为T。
在本发明实施例中,本发明提供的技术方案,通过引入了影像获取设备(例如深度相机)的应用,提出一种全新的腹部外科手术导航系统自动注册的方法。应用本发明方法,可以有效简化腹部手术导航过程,克服腹部手术导航过程中需要人工干预标记点选取所带来的操作上的不便以及潜在错误会导致注册结果误差过大的问题,进而实现整个手术导航过程的自动化注册。即使当病人体位发生移动或者腹部手术区域有变形、腹部呼吸运动的情况时,利用本发明方法,可以实现可回溯性与重复性的注册步骤,导航系统可以实时展示手术过程中腹部脏器等软组织在不同呼吸相位的导航定位误差,外科医生可以根据实时显示的注册误差,选择最小注册误差时刻进行手术操作。使用本发明提供的技术方案可以使得整个过程自动完成,无需人工干预,从而提高手术导航精度与手术的安全性,让外科医生准确、快速地完成手术操作。
附图说明
图1为本发明一实施方式中腹部外科手术导航方法流程图;
图2为本发明一实施方式中腹部外科手术导航系统结构示意图;
图3为本发明一实施方式中通过本发明的方法所实现的自动注册腹部手术导航系统的总体框架示意图;
图4为本发明一实施方式中将深度相机坐标系下的标记点坐标变换为空间定位系统坐标系下的标记点坐标的示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明具体实施方式提供了一种腹部外科手术导航方法,主要包括如下步骤:
S11、对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息;
S12、术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息;
S13、借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;
S14、将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程;
S15、应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。
本发明所提供的一种腹部外科手术导航方法,通过引入了影像获取设备(例如深度相机)的应用,提出一种全新的腹部外科手术导航系统自动注册的方法。应用本发明方法,可以有效简化腹部外科手术导航过程,克服腹部外科手术导航过程中需要人工干预标记点选取所带来的操作上的不便以及潜在错误会导致注册结果误差过大的问题,进而实现整个手术导航过程的自动化注册。即使当病人体位发生移动或者腹部手术区域有变形情况、腹部呼吸运动的时,利用本发明方法,可以实现可回溯性与重复性的注册步骤,导航系统可以实时展示手术过程中腹部脏器等软组织在不同呼吸相位的导航定位误差,外科医生可以根据实时显示的注册误差,选择最小注册误差时刻进行手术操作。使用本发明提供的技术方案可以使得整个过程自动完成,无需人工干预,从而提高手术导航精度与手术的安全性,让外科医生准确、快速地完成手术操作。
以下将对本发明所提供的一种腹部外科手术导航方法进行详细说明。
请参阅图1,为本发明一实施方式中腹部外科手术导航方法流程图。
在步骤S11中,对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息。
在本实施方式中,在步骤S11之前,本发明实施方式中的腹部外科手术导航方法还包括:在病人待手术区域的腹部体表上贴上多个标记点后,对病人进行CT或MR扫描以采集带标记点信息的CT或MR图像。
在本实施方式中,第一预设算法可以为结合区域生长算法及高斯曲率对术前采集的带标记点信息的CT或MR图像作标记点自动提取,得到术前图像空间的标记点点集信息。
在步骤S12中,术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息。
在本实施方式中,所述影像获取设备具体为深度相机,如美国微软公司生产的Sensor。在本实施方式中,所述RGB图像的二维标记点坐标信息具体位于所述影像获取设备坐标系下,
在本实施方式中,病人在进行CT或MR扫描之后,保持标记点点集在体表上的位置不变,利用影像获取设备(例如Sensor)获取病人体表上标记点点集的二维彩色信息及深度信息,例如RGB图像以及深度图像,根据影像获取设备(例如Sensor)获取的图像信息计算影像获取设备(例如Sensor)坐标系统下标记点集的空间位置,计算所采用的第二预设算法通常为术中采用深度相机(如Sensor)获取手术区域的RGB图像以及深度图像,根据标记点在RGB三个分量上的值的比率获取RGB图像的二维标记点坐标信息,借助深度图像,可将二维标记点坐标信息转化为三维坐标,得到术中物理空间的标记点点集信息。
在本实施方式中,步骤S12所得的所述RGB图像的二维标记点坐标信息是相对于影像获取设备坐标系的,由于手术过程中手术器械的空间坐标信息是相对于空间定位系统的,因此,需要将步骤S12所得的所述RGB图像的二维标记点坐标信息变换到空间定位系统坐标下,这个过程的实施可由以下步骤完成。
在本实施方式中,在步骤S12之后,本发明实施方式中的腹部外科手术导航方法还包括:将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下。
在本实施方式中,所述将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下的步骤具体包括:
将所述影像获取设备坐标系下的所述二维标记点的坐标PToF_i通过以下公式变换到空间定位系统下:
PTracker_i=TToF2Tracker·PToF_i;
其中,所述影像获取设备坐标系下的所述二维标记点的坐标记为PToF_i,空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换记为TToF2Tracker,变换后的所述空间定位系统坐标系下的坐标点记为PTracker_i。其中,i=1,2,…n,n表示所提取的标记点的个数。
在本实施方式中,获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker的步骤具体包括:
在所述影像获取设备固定一个可以被所述空间定位系统识别的参考帧工具;
通过以下公式获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker,即TToF2Tracker=TToF2Ref·TRef2Tracker;
其中,通过所述空间定位系统实时捕获所述参考帧工具的空间位置信息记为TRef2Tracker,所述影像获取设备与所述参考帧工具之间的相对位置信息记为TToF2Ref。
举例来说,图4为本发明一实施方式中将深度相机坐标系下的标记点坐标变换为空间定位系统坐标系下的标记点坐标的示意图。
如图4所示,首先在深度相机上固定一个参考帧工具,参考帧工具是可被空间定位系统识别的,其空间位置信息可通过空间定位系统实时捕获,即图4中的TRef2Tracker已知。需要确定的是空间定位系统坐标系与深度相机坐标系间的空间变换TToF2Tracker,一旦空间定位系统与深度相机之间的空间位置确定以后,变换TToF2Tracker的值就是固定的。但是如果深度相机与空间定位系统间的相对位置发生变化时,则TToF2Tracker的值也随之改变,而腹部外科手术导航过程中,要保证空间定位系统与深度相机之间的位置不变,几乎是不可能的事情,难免需要调整两者间的相对位置,以获取最佳的术中导航数据。考虑图4中的TToF2Tracker、TRef2Tracker和TToF2Ref这三个量刚好组成了一个闭合环路,因此可以用TRef2Tracker与TToF2Ref的乘积来代替TToF2Tracker实现把标记点从深度相机坐标空间变换到定位系统坐标空间。即:
TToF2Tracker=TToF2Ref·TRef2Tracker
上式中的TRef2Tracker可以通过空间定位系统实时获取,因此空间定位系统与深度相机之间的相对位置发生变化时,该值也能反映出来;TToF2Ref表示深度相机与参考帧坐标系之间空间变换,在实际操作中,保证深度相机与参考帧之间的相对位置固定不变,而这是很容易做到的,只要把参考帧固定在深度相机上即可,因此TToF2Ref的值只要计算一次。
考虑图4中的PTracker、PToF和TToF2Tracker所组合的闭合回路,在某一时刻,固定图4所示的定位系统、深度相机、标记点及参考帧之间的位置,利用空间定位系统的定位工具可以选取若干标记点(例如选取的标记点不少于3个)在空间定位系统坐标系下的坐标值,标记点在空间定位系统坐标下的点集记为PTracker’;同样,借助深度相机也可以获取到上述标记点在深度相机坐标系下的坐标值,标记点在深度相机坐标下的点集记为PToF’。获得同一组标记点在不同的坐标空间里的点集PTracker’和PToF’后,利用最小二乘法就可以确定出某一时刻空间定位系统与深度相机之间的变换TToF2Tracker。然后把TToF2Tracker的值代入TToF2Tracker=TToF2Ref·TRef2Tracker公式中求出变换TToF2Ref为:
TToF2Ref=TRef2Tracker -1·TToF2Tracker。
由于深度相机与参考帧工具之间的位置是保持不变的,因此,在某一时刻里计算所得的变换TToF2Ref的值是保持不变的。一旦利用标记点的自动提取算法提取出标记点在深度相机坐标系下的坐标值PToF以后,利用以下关系式,就可以变换到定位系统坐标空间:
PTracker=TRef2Tracker·TToF2Ref·PToF。
请继续参阅图1,在步骤S13中,借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息。
在步骤S14中,将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程。
在本实施方式中,由步骤S11已经自动提取出图像空间的标记点点集,记为PImage;由步骤S12可以自动提取出标记点在深度相机坐标空间下的标记点点集,记为PToF,并将PToF变换至定位系统坐标空间,记定位系统坐标空间(即物理空间)的标记点点集为PTracker。外科手术导航注册的最终目的就是要确定图像空间与物理空间之间的坐标变换关系,利用点集PImage和PTracker可以确定图像空间与物理空间之间的变换关系T,至此即可完成外科手术导航注册的过程。
在步骤S15中,应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。
在本实施方式中,所述应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程的步骤具体包括:
通过以下公式:PI=T·PT,将手术器械的空间坐标从所述空间定位系统的物理空间变换到图像空间;
其中,所述空间定位系统的手术器械的空间坐标是相对于所述空间定位系统本身的,记为PT,手术器械在变换后的所述图像空间的虚拟位置记为PI,所述空间定位系统坐标系与所述图像空间坐标系之间的空间变换记为T。
本发明所提供的一种腹部外科手术导航方法,通过引入了影像获取设备(例如深度相机)的应用,提出一种全新的腹部外科手术导航系统自动注册的方法。应用本发明方法,可以有效简化腹部手术导航过程,克服腹部手术导航过程中需要人工干预标记点选取所带来的操作上的不便以及潜在错误会导致注册结果误差过大的问题,进而实现整个手术导航过程的自动化注册。即使当病人体位发生移动或者手术区域有变形情况时,利用本发明方法,可以实现可回溯性与重复性的注册步骤,导航系统可以实时展示手术过程中腹部脏器等软组织在不同呼吸相位的导航定位误差,外科医生可以根据实时显示的注册误差,选择最小注册误差时刻进行手术操作。使用本发明提供的技术方案可以使得整个过程自动完成,无需人工干预,从而提高手术导航精度与手术的安全性,让外科医生准确、快速地完成手术操作。
本发明具体实施方式还提供一种腹部外科手术导航系统10,主要包括:
点集获取模块101,用于对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息;
坐标获取模块102,用于术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息;
坐标转换模块103,用于借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;
注册模块104,用于将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程;
导航模块105,用于应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。
本发明所提供的一种腹部外科手术导航系统10,通过引入了影像获取设备(例如深度相机)的应用,提出一种全新的腹部外科手术导航系统自动注册的方法。应用本发明方法,可以有效简化腹部手术导航过程,克服腹部手术导航过程中需要人工干预标记点选取所带来的操作上的不便以及潜在错误会导致注册结果误差过大的问题,进而实现整个手术导航过程的自动化注册。即使当病人体位发生移动或者手术区域有变形情况时,利用本发明方法,可以实现可回溯性与重复性的注册步骤,导航系统可以实时展示手术过程中腹部脏器等软组织在不同呼吸相位的导航定位误差,外科医生可以根据实时显示的注册误差,选择最小注册误差时刻进行手术操作。使用本发明提供的技术方案可以使得整个过程自动完成,无需人工干预,从而提高手术导航精度与手术的安全性,让外科医生准确、快速地完成手术操作。
以下将对本发明所提供的一种腹部外科手术导航系统10进行详细说明。
请参阅图2,所示为本发明一实施方式中腹部外科手术导航系统10的结构示意图。在本实施方式中,腹部外科手术导航系统10包括点集获取模块101、坐标获取模块102、坐标转换模块103、注册模块104以及导航模块105。
点集获取模块101,用于对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息。
在本实施方式中,腹部外科手术导航系统10还包括扫描模块(图中未示出)。扫描模块,用于在病人待手术区域的腹部体表上贴上多个标记点后,对病人进行CT或MR扫描以采集带标记点信息的CT或MR图像。
在本实施方式中,第一预设算法可以为结合区域生长算法及高斯曲率对术前采集的带标记点信息的CT或MR图像作标记点自动提取,得到术前图像空间的标记点点集信息。
坐标获取模块102,用于术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息。
在本实施方式中,所述影像获取设备具体为深度相机,如美国微软公司生产的Sensor。在本实施方式中,所述RGB图像的二维标记点坐标信息具体位于所述影像获取设备坐标系下,
在本实施方式中,病人在进行CT或MR扫描之后,保持标记点点集在体表上的位置不变,利用影像获取设备(例如Sensor)获取病人体表上标记点点集的二维彩色信息及深度信息,例如RGB图像以及深度图像,根据影像获取设备(例如Sensor)获取的图像信息计算影像获取设备(例如Sensor)坐标系统下标记点集的空间位置,计算所采用的第二预设算法通常为术中采用深度相机(如Sensor)获取手术区域的RGB图像以及深度图像,根据标记点在RGB三个分量上的值的比率获取RGB图像的二维标记点坐标信息,借助深度图像,可将二维标记点坐标信息转化为三维坐标,得到术中物理空间的标记点点集信息。
在本实施方式中,所得的所述RGB图像的二维标记点坐标信息是相对于影像获取设备坐标系的,由于手术过程中手术器械的空间坐标信息是相对于空间定位系统的,因此,需要将所得的所述RGB图像的二维标记点坐标信息变换到空间定位系统坐标下,这个过程的实施可由以下步骤完成。
在本实施方式中,坐标转换模块102,还用于将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下。
在本实施方式中,坐标转换模块102,还用于将所述影像获取设备坐标系下的所述二维标记点的坐标PToF_i通过以下公式变换到空间定位系统下:
PTracker_i=TToF2Tracker·PToF_i;
其中,所述影像获取设备坐标系下的所述二维标记点的坐标记为PToF_i,空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换记为TToF2Tracker,变换后的所述空间定位系统坐标系下的坐标点记为PTracker_i。其中,i=1,2,…n,n表示所提取的标记点的个数。
在本实施方式中,坐标转换模块102,还具体用于在所述影像获取设备固定一个可以被所述空间定位系统识别的参考帧工具;通过以下公式获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker,即TToF2Tracker=TToF2Ref·TRef2Tracker;
其中,通过所述空间定位系统实时捕获所述参考帧工具的空间位置信息记为TRef2Tracker,所述影像获取设备与所述参考帧工具之间的相对位置信息记为TToF2Ref。
坐标转换模块103,用于借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;
注册模块104,用于将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程;
在本实施方式中,由点集获取模块101已经自动提取出图像空间的标记点点集,记为PImage;由坐标转换模块102可以自动提取出标记点在深度相机坐标空间下的标记点点集,记为PToF,并将PToF变换至定位系统坐标空间,记定位系统坐标空间(即物理空间)的标记点点集为PTracker。外科手术导航注册的最终目的就是要确定图像空间与物理空间之间的坐标变换关系,利用点集PImage和PTracker可以确定图像空间与物理空间之间的变换关系T,至此即可完成外科手术导航注册的过程。
导航模块105,用于应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程。
在本实施方式中,所述应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程的步骤具体包括:
通过以下公式:PI=T·PT,将手术器械的空间坐标从所述空间定位系统的物理空间变换到图像空间;
其中,所述空间定位系统的手术器械的空间坐标是相对于所述空间定位系统本身的,记为PT,手术器械在变换后的所述图像空间的虚拟位置记为PI,所述空间定位系统坐标系与所述图像空间坐标系之间的空间变换记为T。
本发明所提供的一种腹部外科手术导航系统10,通过引入了影像获取设备(例如深度相机)的应用,提出一种全新的腹部外科手术导航系统自动注册的方法。应用本发明方法,可以有效简化腹部手术导航过程,克服腹部手术导航过程中需要人工干预标记点选取所带来的操作上的不便以及潜在错误会导致注册结果误差过大的问题,进而实现整个手术导航过程的自动化注册。即使当病人体位发生移动或者手术区域有变形情况时,利用本发明方法,可以实现可回溯性与重复性的注册步骤,导航系统可以实时展示手术过程中腹部脏器等软组织在不同呼吸相位的导航定位误差,外科医生可以根据实时显示的注册误差,选择最小注册误差时刻进行手术操作。使用本发明提供的技术方案可以使得整个过程自动完成,无需人工干预,从而提高手术导航精度与手术的安全性,让外科医生准确、快速地完成手术操作。
在本发明实施例中,本发明提供的技术方案,通过引入了影像获取设备(例如深度相机)的应用,提出一种全新的腹部外科手术导航系统自动注册的方法。应用本发明方法,可以有效简化腹部手术导航过程,克服腹部手术导航过程中需要人工干预标记点选取所带来的操作上的不便以及潜在错误会导致注册结果误差过大的问题,进而实现整个腹部手术导航过程的自动化注册。即使当病人体位发生移动或者手术区域有变形情况时,利用本发明方法,可以实现可回溯性与重复性的注册步骤,导航系统可以实时展示手术过程中腹部脏器等软组织在不同呼吸相位的导航定位误差,外科医生可以根据实时显示的注册误差,选择最小注册误差时刻进行手术操作。使用本发明提供的技术方案可以使得整个过程自动完成,无需人工干预,从而提高手术导航精度与手术的安全性,让外科医生准确、快速地完成手术操作。
值得注意的是,上述实施例中,所包括的各个单元只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
另外,本领域普通技术人员可以理解实现上述各实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,相应的程序可以存储于一计算机可读取存储介质中,所述的存储介质,如ROM/RAM、磁盘或光盘等。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种腹部外科手术导航系统,其特征在于,所述系统包括:
点集获取模块,用于对术前采集到带标记点信息的CT或MR图像利用第一预设算法自动提取标记点以得到术前图像空间的标记点点集信息;
坐标获取模块,用于术中通过影像获取设备获取病人手术区域的RGB图像以及深度图像,并采用第二预设算法获取所述RGB图像的二维标记点坐标信息;
坐标转换模块,用于借助所述深度图像将所述二维标记点坐标信息转化为三维坐标以得到术中物理空间的标记点点集信息;
注册模块,用于将得到的所述术前图像空间的标记点点集和所述术中物理空间的标记点点集做点对匹配运算,以得到图像空间与物理空间的变换结果并完成注册过程;
导航模块,用于应用注册所得的图像空间与物理空间的变换结果,开始实时导航过程;
其中,所述第二预设算法为术中采用深度相机获取手术区域的RGB图像以及深度图像,根据标记点在RGB三个分量上的值的比率获取RGB图像的二维标记点坐标信息,借助深度图像,可将二维标记点坐标信息转化为三维坐标,得到术中物理空间的标记点点集信息。
2.如权利要求1所述的腹部外科手术导航系统,其特征在于,所述系统还包括:
扫描模块,用于在病人待手术区域的腹部体表上贴上多个标记点后,对病人进行CT或MR扫描以采集带标记点信息的CT或MR图像。
3.如权利要求1所述的腹部外科手术导航系统,其特征在于,所述第一预设算法具体为结合区域生长算法及高斯曲率对术前采集的带标记点信息的CT或MR图像作标记点自动提取,得到术前图像空间的标记点点集信息。
4.如权利要求1所述的腹部外科手术导航系统,其特征在于,所述影像获取设备具体为深度相机。
5.如权利要求1所述的腹部外科手术导航系统,其特征在于,
所述坐标转换模块,还用于将所述影像获取设备坐标系下的所述二维标记点的坐标变换到空间定位系统坐标系下。
6.如权利要求5所述的腹部外科手术导航系统,其特征在于,
所述坐标转换模块,还具体用于将所述影像获取设备坐标系下的所述二维标记点的坐标PToF_i通过以下公式变换到空间定位系统下:
PTracker_i=TToF2Tracker·PToF_i;
其中,所述影像获取设备坐标系下的所述二维标记点的坐标记为PToF_i,空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换记为TToF2Tracker,变换后的所述空间定位系统坐标系下的坐标点记为PTracker_i。
7.如权利要求6所述的腹部外科手术导航系统,其特征在于,
所述坐标转换模块,还具体用于在所述影像获取设备固定一个可以被所述空间定位系统识别的参考帧工具,并通过以下公式获取空间定位系统坐标系与所述影像获取设备坐标系之间的空间变换TToF2Tracker,即TToF2Tracker=TToF2Ref·TRef2Tracker;
其中,通过所述空间定位系统实时捕获所述参考帧工具的空间位置信息记为TRef2Tracker,所述影像获取设备与所述参考帧工具之间的相对位置信息记为TToF2Ref。
8.如权利要求7所述的腹部外科手术导航系统,其特征在于,
所述导航模块,具体用于通过以下公式:PI=T·PT,将手术器械的空间坐标从所述空间定位系统的物理空间变换到图像空间;
其中,所述空间定位系统的手术器械的空间坐标是相对于所述空间定位系统本身的,记为PT,手术器械在变换后的所述图像空间的虚拟位置记为PI,所述空间定位系统坐标系与所述图像空间的坐标系之间的空间变换记为T。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310436801.8A CN104434313B (zh) | 2013-09-23 | 2013-09-23 | 一种腹部外科手术导航方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310436801.8A CN104434313B (zh) | 2013-09-23 | 2013-09-23 | 一种腹部外科手术导航方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104434313A CN104434313A (zh) | 2015-03-25 |
CN104434313B true CN104434313B (zh) | 2019-03-01 |
Family
ID=52881596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310436801.8A Active CN104434313B (zh) | 2013-09-23 | 2013-09-23 | 一种腹部外科手术导航方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104434313B (zh) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106344152B (zh) * | 2015-07-13 | 2020-04-28 | 中国科学院深圳先进技术研究院 | 腹部外科手术导航配准方法及系统 |
CN106560163B (zh) * | 2015-09-30 | 2019-11-29 | 合肥美亚光电技术股份有限公司 | 手术导航系统及手术导航系统的配准方法 |
CN105342701B (zh) * | 2015-12-08 | 2018-02-06 | 中国科学院深圳先进技术研究院 | 一种基于影像信息融合的病灶虚拟穿刺系统 |
CN107456278B (zh) * | 2016-06-06 | 2021-03-05 | 北京理工大学 | 一种内窥镜手术导航方法和系统 |
CN106420052B (zh) * | 2016-08-31 | 2019-08-27 | 北京市计算中心 | 一种靶点位置的导航方法及系统 |
CN107049489B (zh) * | 2017-03-29 | 2019-09-27 | 中国科学院苏州生物医学工程技术研究所 | 一种手术导航方法及系统 |
CN107374729B (zh) * | 2017-08-21 | 2021-02-23 | 刘洋 | 基于ar技术的手术导航系统及方法 |
CN109674533B (zh) * | 2017-10-18 | 2022-07-05 | 刘洋 | 基于便携式彩超设备的手术导航系统及方法 |
CN108961338A (zh) * | 2018-07-04 | 2018-12-07 | 深圳市龙岗区中医院 | 一种腹部穴位的辅助定位方法及装置 |
CN109549689A (zh) * | 2018-08-21 | 2019-04-02 | 池嘉昌 | 一种穿刺辅助引导装置、系统及方法 |
CN109044539B (zh) * | 2018-08-24 | 2021-02-05 | 真健康(北京)医疗科技有限公司 | 一种用于红外导航的体表定位方法 |
CN109044400A (zh) * | 2018-08-31 | 2018-12-21 | 上海联影医疗科技有限公司 | 超声图像标注方法、装置、处理器及可读存储介质 |
CN110353806B (zh) * | 2019-06-18 | 2021-03-12 | 北京航空航天大学 | 用于微创全膝关节置换手术的增强现实导航方法及系统 |
CN110269624B (zh) * | 2019-07-16 | 2024-02-06 | 浙江伽奈维医疗科技有限公司 | 一种基于rgbd相机的呼吸监测装置及其呼吸监测方法 |
CN110464462B (zh) * | 2019-08-29 | 2020-12-25 | 中国科学技术大学 | 腹部外科介入手术的图像导航配准系统及相关装置 |
CN111583188B (zh) * | 2020-04-15 | 2023-12-26 | 武汉联影智融医疗科技有限公司 | 手术导航标记点定位方法、存储介质及计算机设备 |
CN112168346A (zh) * | 2020-11-02 | 2021-01-05 | 沈阳蓝软智能医疗科技有限公司 | 三维医学影像与患者实时重合的方法及手术辅助系统 |
CN112370166A (zh) * | 2020-11-09 | 2021-02-19 | 深圳蓝胖子机器智能有限公司 | 激光美容系统及应用激光美容系统进行激光美容的方法 |
CN112651943B (zh) * | 2020-12-28 | 2024-09-13 | 佗道医疗科技有限公司 | 一种三维影像标记点提取方法 |
CN114176777B (zh) * | 2021-12-20 | 2022-07-01 | 北京诺亦腾科技有限公司 | 手术辅助导航系统的精度检测方法、装置、设备及介质 |
CN115414121B (zh) * | 2022-11-07 | 2023-03-24 | 中南大学 | 一种基于射频定位芯片的外科手术导航系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102949240A (zh) * | 2011-08-26 | 2013-03-06 | 高欣 | 一种影像导航肺部介入手术系统 |
US20130172904A1 (en) * | 2011-12-29 | 2013-07-04 | Mako Surgical Corporation | Interactive CSG Subtraction |
CN104287830A (zh) * | 2013-07-18 | 2015-01-21 | 中国科学院深圳先进技术研究院 | 基于Kinect相机的术中实时注册方法 |
-
2013
- 2013-09-23 CN CN201310436801.8A patent/CN104434313B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102949240A (zh) * | 2011-08-26 | 2013-03-06 | 高欣 | 一种影像导航肺部介入手术系统 |
US20130172904A1 (en) * | 2011-12-29 | 2013-07-04 | Mako Surgical Corporation | Interactive CSG Subtraction |
CN104287830A (zh) * | 2013-07-18 | 2015-01-21 | 中国科学院深圳先进技术研究院 | 基于Kinect相机的术中实时注册方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104434313A (zh) | 2015-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104434313B (zh) | 一种腹部外科手术导航方法及系统 | |
CN102266250B (zh) | 超声手术导航系统 | |
CA3013128C (en) | Methods and systems for updating an existing landmark registration | |
CN112971982B (zh) | 基于肝内血管配准的手术导航系统 | |
CN105931237A (zh) | 一种图像校准方法和系统 | |
US8781186B2 (en) | System and method for abdominal surface matching using pseudo-features | |
US20230410453A1 (en) | Readable storage medium, bone modeling registration system and orthopedic surgical system | |
CN106344152B (zh) | 腹部外科手术导航配准方法及系统 | |
CN103860268B (zh) | 一种标记点配准方法、装置及外科手术导航系统 | |
US11564751B2 (en) | Systems and methods for visualizing navigation of medical devices relative to targets | |
US12059281B2 (en) | Systems and methods of fluoro-CT imaging for initial registration | |
KR20190096575A (ko) | 의료 영상 시스템 | |
US12114933B2 (en) | System and method for interventional procedure using medical images | |
US12064280B2 (en) | System and method for identifying and marking a target in a fluoroscopic three-dimensional reconstruction | |
CN112006776A (zh) | 一种手术导航系统及手术导航系统的配准方法 | |
US8104957B2 (en) | Calibrating a C-arm x-ray apparatus | |
CN113470184A (zh) | 内窥镜增强现实误差补偿方法及装置 | |
US20220079557A1 (en) | System and method for medical navigation | |
CN117481756A (zh) | 穿刺引导方法、设备及机器人系统 | |
CN113925611A (zh) | 对象三维模型和对象实体的匹配方法、装置、设备及介质 | |
Wang et al. | Towards video guidance for ultrasound, using a prior high-resolution 3D surface map of the external anatomy | |
KR100957727B1 (ko) | 수술용 도구 및 수술용 내비게이션 방법 | |
US20240206980A1 (en) | Volumetric filter of fluoroscopic sweep video | |
CN113643226B (zh) | 标注方法、装置、设备及介质 | |
CN118510463A (zh) | 使用搜索图像自动配准术前体积图像数据 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |